【文献】
Jaeil Kim, Taeyoung Na, Changhee Kim, Bumshik Lee, Munchurl Kim,Enlarging MB size for high fidelity video coding beyond HD,ITU - Telecommunications Standardization Sector STUDY GROUP 16 Question 6 Video Coding Experts Group,2008年10月 5日,[VCEG-AJ21]
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0016】
以下、図面を参照しつつ、本発明の望ましい実施形態について詳細に説明する。構成要素の目録に先行する「少なくとも1つの」のような表現は、目録のそれぞれの構成要素を限定するものではなく、構成要素の全体目録を限定するものである。本発明で、「映像」は、ビデオの静止映像または動映像、すなわち、ビデオそれ自体を意味することができる。
【0017】
図1は、本発明の一実施形態による映像符号化装置を図示している。
図1を参照すれば、本発明の一実施形態による映像符号化装置100は、最大符号化単位分割部110、符号化深度決定部120、映像データ符号化部130及び符号化情報符号化部140を含む。
【0018】
最大符号化単位分割部110は、最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャまたは現在スライスを分割することができる。現在ピクチャまたは現在スライスを少なくとも1つの最大符号化単位に分割することができる。
【0019】
本発明の一実施形態によれば、最大符号化単位及び深度を利用して符号化単位が表現される。前述のように、最大符号化単位は、現在ピクチャの符号化単位のうち、大きさが最も大きい符号化単位を示し、深度は、符号化単位が階層的に縮小された程度を示す。深度が大きくなりつつ、符号化単位は、最大符号化単位から最小符号化単位まで縮小され、最大符号化単位の深度は、最小深度で定義され、最小符号化単位の深度は、最大深度で定義される。最大符号化単位は、深度が大きくなるにつれて、深度別符号化単位の大きさは小さくなるので、k深度のサブ符号化単位は、kより大きい深度の複数個のサブ符号化単位を含んでもよい。
【0020】
符号化されるピクチャの大きさが大きくなるにつれ、さらに大きい単位で映像を符号化すれば、さらに高い映像圧縮率で映像を符号化することができる。しかし、符号化単位を大きくし、その大きさを固定させてしまえば、続けて変わる映像の特性を反映して効率的に映像を符号化することができない。
【0021】
例えば、海または空に係わる平坦な領域を符号化するときには、符号化単位を大きくするほど、圧縮率が向上しうるが、人またはビルディングに係わる複雑な領域を符号化するときには、符号化単位を小さくするほど圧縮率が向上する。
【0022】
このために、本発明の一実施形態は、ピクチャまたはスライスごとに、異なる大きさの最大映像符号化単位を設定し、最大深度を設定する。最大深度は、符号化単位が縮小しうる最大回数を意味するので、最大深度によって最大映像符号化単位に含まれた最小符号化単位サイズを可変的に設定できる。
【0023】
符号化深度決定部120は、最大深度を決定する。最大深度は、R−Dコスト(rate-distortion cost)計算に基づいて決定される。最大深度は、ピクチャまたはスライスごとに異なって決定されたり、それぞれの最大符号化単位ごとに異なって決定されもする。決定された最大深度は、符号化情報符号化部140に出力され、最大符号化単位別映像データは、映像データ符号化部130に出力される。
【0024】
最大深度は、最大符号化単位に含まれる最小サイズの符号化単位、すなわち、最小符号化単位を意味する。換言すれば、最大符号化単位は、異なる深度によって、異なるサイズのサブ符号化単位に分割されてもよい。
図8A及び
図8Bを参照して詳細に後述する。また、最大符号化単位に含まれた異なるサイズのサブ符号化単位は、異なるサイズの処理単位に基づいて、予測または周波数変換(ピクセルドメインの値を周波数ドメインの値に変換、例えば、離散コサイン変換)される。言い換えれば、映像符号化装置100は、映像符号化のための複数の処理段階を、多様な大きさ及び多様な形態の処理単位に基づいて遂行することができる。映像データの符号化のためには、予測、周波数変換、エントロピ符号化などの処理段階を経るが、あらゆる段階にわたって、同サイズの処理単位が利用され、段階別に異なるサイズの処理単位を利用することができる。
【0025】
例えば、映像符号化装置100は、所定の符号化単位を予測するために、符号化単位と異なる処理単位を選択することができる。
【0026】
符号化単位の大きさが、2Nx2N(ただし、Nは、正の整数)である場合、予測のための処理単位は、2Nx2N、2NxN、Nx2N、NxNなどである。言い換えれば、符号化単位の高さまたは幅のうち、少なくとも一つを半分にする形態の処理単位を基にして動き予測が行われもする。以下、予測の基礎になる処理単位は、「予測単位」とする。
【0027】
予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つであり、特定予測モードは、特定サイズまたは形態の予測単位についてのみ行われる。例えば、イントラモードは、正方形である2Nx2N,NxNサイズの予測単位に対してのみ遂行される。また、スキップモードは、2Nx2Nサイズの予測単位に対してのみ行われる。符号化単位内部に、複数の予測単位があるならば、それぞれの予測単位に対して予測を行い、符号化誤差が最小の予測モードが選択されてもよい。
【0028】
また、映像符号化装置100は、符号化単位と異なる大きさの処理単位に基づいて、映像データを周波数変換することができる。符号化単位の周波数変換のために、符号化単位より小さいか、あるいは同じサイズのデータ単位を基にして、周波数変換が行われる。以下、周波数変換の基礎になる処理単位を「変換単位」とする。
【0029】
符号化深度決定部120は、ラグランジュ乗数(Lagrangian multiplier)基盤の率歪曲最適化技法(rate-distortion optimization)を利用し、最大符号化単位に含まれたサブ符号化単位を決定することができる。言い換えれば、最大符号化単位が、いかなる形態の複数のサブ符号化単位に分割されるかを決定することができるが、ここで、複数のサブ符号化単位は、深度によって大きさが異なる。その後、映像データ符号化部130は、符号化深度決定部120で決定された分割形態に基づいて、最大符号化単位を符号化してビットストリームを出力する。
【0030】
符号化情報符号化部140は、符号化深度決定部120で決定された最大符号化単位の符号化モードについての情報を符号化する。最大符号化単位の分割形態についての情報、最大深度についての情報及び深度別サブ符号化単位の符号化モードについての情報を符号化し、ビットストリームを出力する。サブ符号化単位の符号化モードについての情報は、サブ符号化単位の予測単位についての情報、予測単位別予測モード情報、サブ符号化単位の変換単位についての情報などを含んでもよい。
【0031】
最大符号化単位の分割形態についての情報は、それぞれの符号化単位に対する分割いかんを示す情報であってもよい。例えば、最大符号化単位を分割して符号化する場合、最大符号化単位に対する分割いかんを示す情報を符号化し、最大符号化単位を分割して生成されたサブ符号化単位をさらに分割して符号化する場合にも、それぞれのサブ符号化単位に対する分割いかんを示す情報を符号化する。分割いかんを示す情報は、分割いかんを示すフラグ情報であってもよい。
【0032】
最大符号化単位ごとに異なるサイズのサブ符号化単位が存在し、それぞれのサブ符号化単位ごとに、符号化モードについての情報が決定されねばならないので、1つの最大符号化単位については、少なくとも1つの符号化モードについての情報が決定される。
【0033】
映像符号化装置100は、深度が大きくなるにつれ、最大符号化単位を高さ及び幅を半分にしてサブ符号化単位を生成することができる。すなわち、k深度の符号化単位の大きさが2Nx2Nであるならば、k+1深度の符号化単位の大きさは、NxNである。
【0034】
従って、一実施形態による映像符号化装置100は、映像の特性を考慮した最大符号化単位の大きさ及び最大深度を基にして、それぞれの最大符号化単位ごとに、最適の分割形態を決定することができる。映像特性を考慮して、可変的に最大符号化単位の大きさを調節し、異なる深度のサブ符号化単位で最大符号化単位を分割して映像を符号化することによって、多様な解像度の映像をさらに効率的に符号化することができる。
【0035】
図2は、本発明の一実施形態による映像復号化装置を図示している。
図2を参照すれば、本発明の一実施形態による映像復号化装置200は、映像データ獲得部210、符号化情報抽出部220及び映像データ復号化部230を含む。
【0036】
映像関連データ獲得部210は、映像復号化装置200が受信したビットストリームをパージングし、最大符号化単位別に映像データを獲得し、映像データ復号化部230に出力する。映像データ獲得部210は、現在ピクチャまたはスライスに係わるヘッダから、現在ピクチャまたはスライスの最大符号化単位についての情報を抽出することができる。言い換えれば、ビットストリームを最大符号化単位に分割し、映像データ復号化部230に、最大符号化単位ごとに映像データを復号化させる。
【0037】
符号化情報抽出部220は、映像復号化装置200が受信したビット列をパージングし、現在ピクチャに係わるヘッダから、最大符号化単位、最大深度、最大符号化単位の分割形態、サブ符号化単位の符号化モードについての情報を抽出する。分割形態及び符号化モードについての情報は、映像データ復号化部230に出力される。
【0038】
最大符号化単位の分割形態についての情報は、最大符号化単位に含まれた深度によって異なるサイズのサブ符号化単位についての情報を含んでもよい。前述のように、分割形態についての情報は、それぞれの符号化単位に対して符号化された分割いかんを示す情報(例えば、フラグ情報)であってもよい。
【0039】
符号化モードについての情報は、サブ符号化単位別予測単位についての情報、予測モードについての情報及び変換単位についての情報などを含んでもよい。
【0040】
映像データ復号化部230は、符号化情報抽出部220で抽出された情報に基づいて、それぞれの最大符号化単位の映像データを復号化して現在ピクチャを復元する。
【0041】
最大符号化単位の分割形態についての情報に基づいて、映像データ復号化部230は、最大符号化単位に含まれたサブ符号化単位を復号化することができる。復号化過程は、イントラ予測及び動き補償を含む動き予測過程、及び周波数逆変換過程を含んでもよい。
【0042】
映像データ復号化部230は、サブ符号化単位の予測のために、サブ符号化単位別予測単位についての情報、及び予測モードについての情報に基づいて、イントラ予測またはインター予測を行うことができる。また、映像データ復号化部230は、サブ符号化単位の変換単位についての情報に基づいて、サブ符号化単位ごとに周波数逆変換を行うことができる。
【0043】
図3は、本発明の一実施形態による階層的符号化単位を図示している。
図3を参照すれば、本発明による階層的符号化単位は、幅x高さが64x64である符号化単位から、32x32、16x16、8x8及び4x4を含んでもよい。正方形の符号化単位以外にも、幅x高さが、64x32、32x64、32x16、16x32、16x8、8x16、8x4、4x8である符号化単位が存在しうる。
【0044】
図3を参照すれば、解像度が1920x1080である映像データ310に対して、最大符号化単位の大きさが64x64、最大深度が2に設定されている。
【0045】
解像度が1920x1080である他の映像データ320に対して、最大符号化単位の大きさが64x64、最大深度が3に設定されている。解像度が352x288であるビデオデータ330について、最大符号化単位の大きさが16x16、最大深度が1に設定されている。
【0046】
解像度が高くても、データ量が多い場合、圧縮率向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、映像データ330に比べ、高解像度の映像データ310及び320は、最大符号化単位の大きさが64x64に選択されてもよい。
【0047】
最大深度は、階層的符号化単位での総階層数を示している。映像データ310の最大深度が2であるから、映像データ310の符号化単位315は、長軸サイズが64である最大符号化単位から、深度が増加するにつれて、長軸サイズが32,16であるサブ符号化単位まで含んでもよい。
【0048】
一方、映像データ330の最大深度が1であるから、映像データ330の符号化単位335は、長軸サイズが16の最大符号化単位から、深度が増加するにつれて、長軸サイズが8,4である符号化単位まで含んでもよい。
【0049】
映像データ320の最大深度が3であるから、ビデオデータ320の符号化単位325は、長軸サイズが64である最大符号化単位から、深度が増加するにつれて、長軸サイズが32,16,8,4のサブ符号化単位まで含んでもよい。深度が増加するほど、さらに小さいサブ符号化単位に基づいて映像を符号化するので、さらに精密な場面を含んでいる映像を符号化するのに適する。
【0050】
図4は、本発明の一実施形態による符号化単位に基づいた映像符号化部を図示している。
【0051】
イントラ予測部410は、現在フレーム405において、イントラモードの予測単位に対してイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの予測単位に対して、現在フレーム405及び参照フレーム495を利用して、インター予測及び動き補償を行う。
【0052】
イントラ予測部410、動き推定部420及び動き補償部425から出力された予測単位に基づいて残差値(residual value)が生成され、生成された残差値は、周波数変換部430及び量子化部440を経て、量子化された変換係数として出力される。
【0053】
量子化された変換係数は、逆量子化部460、周波数逆変換部470を介してさらに残差値に復元され、復元された残差値は、デブロッキング部480及びループ・フィルタリング部490を経て後処理され、参照フレーム495として出力される。量子化された変換係数は、エントロピ符号化部450を経て、ビットストリーム455として出力されもする。
【0054】
本発明の一実施形態による映像符号化方法によって符号化するために、映像符号化部400の構成要素であるイントラ予測部410、動き推定部420、動き補償部425、周波数変換部430、量子化部440、エントロピ符号化部450、逆量子化部460、周波数逆変換部470、デブロッキング部480及びループ・フィルタリング部490は、いずれも最大符号化単位、深度によるサブ符号化単位、予測単位及び変換単位に基づいて映像符号化過程を処理する。
【0055】
図5は、本発明の一実施形態による符号化単位に基づいた映像復号化部を図示している。
【0056】
ビットストリーム505が、パージング部510を経て、復号化対象である符号化された映像データ及び復号化のために必要な符号化情報がパージングされる。符号化された映像データは、エントロピ復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、周波数逆変換部540を経て、残差値に復元される。残差値は、イントラ予測部550のイントラ予測の結果または動き補償部560の動き補償結果と加算され、符号化単位別に復元される。復元された符号化単位は、デブロッキング部570及びループ・フィルタリング部580を経て、次の符号化単位または次のピクチャの予測に利用される。
【0057】
本発明の一実施形態による映像復号化方法によって復号化するために、映像復号化部400の構成要素であるパージング部510、エントロピ復号化部520、逆量子化部530、周波数逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570及びループ・フィルタリング部580が、いずれも最大符号化単位、深度によるサブ符号化単位、予測単位及び変換単位に基づいて映像復号化過程を処理する。
【0058】
特に、イントラ予測部550、動き補償部560は、最大符号化単位及び深度を考慮して、サブ符号化単位内の予測単位及び予測モードを決定し、周波数逆変換部540は、変換単位の大きさを考慮して、周波数逆変換を行う。
【0059】
図6は、本発明の一実施形態による最大符号化単位、サブ符号化単位及び予測単位を図示している。
【0060】
本発明の一実施形態による映像符号化装置100及び映像復号化装置200は、映像特性を考慮して符号化、復号化を行うために、階層的な符号化単位を利用する。最大符号化単位及び最大深度は、映像の特性によって適応的に設定されたり、ユーザの要求によって多様に設定される。
【0061】
本発明の一実施形態による符号化単位の階層構造600は、最大符号化単位610の高さ及び幅が64であり、最大深度が4である場合を図示している。符号化単位の階層構造600の縦軸に沿って深度が増加し、深度の増加によって、サブ符号化単位620ないし650の高さ及び幅が縮小される。また、符号化単位の階層構造600の横軸に沿って、最大符号化単位610及びサブ符号化単位620ないし650の予測単位が図示されている。
【0062】
最大符号化単位610は、深度が0であり、符号化単位の大きさ、すなわち、高さ及び幅が64x64である。縦軸に沿って深度が増加し、大きさ32x32である深度1のサブ符号化単位620、大きさ16x16である深度2のサブ符号化単位630、サイズ8x8である深度3のサブ符号化単位640、大きさ4x4である深度4のサブ符号化単位650が存在する。大きさ4x4である深度4のサブ符号化単位650は、最小符号化単位である。
【0063】
図6を参照すれば、それぞれの深度別に、横軸に沿って予測単位の例示が図示されている。すなわち、深度0の最大符号化単位610の予測単位は、大きさ64x64の符号化単位610と同一であるか、あるいはそれより小サイズであるサイズ64x64の予測単位610、サイズ64x32の予測単位612、サイズ32x64の予測単位614、サイズ32x32の予測単位616であってもよい。
【0064】
深度1のサイズ32x32の符号化単位620の予測単位は、サイズ32x32の符号化単位620と同一であるか、あるいはそれより小サイズであるサイズ32x32の予測単位620、サイズ32x16の予測単位622、サイズ16x32の予測単位624、サイズ16x16の予測単位626であってもよい。
【0065】
深度2のサイズ16x16の符号化単位630の予測単位は、サイズ16x16の符号化単位630と同一であるか、あるいはそれより小サイズであるサイズ16x16の予測単位630、サイズ16x8の予測単位632、サイズ8x16の予測単位634、サイズ8x8の予測単位636であってもよい。
【0066】
深度3のサイズ8x8の符号化単位640の予測単位は、サイズ8x8の符号化単位640と同一であるか、あるいはそれより小サイズであるサイズ8x8の予測単位640、サイズ8x4の予測単位642、サイズ4x8の予測単位644、サイズ4x4の予測単位646であってもよい。
【0067】
最後に、深度4のサイズ4x4の符号化単位650は、最小符号化単位であり、最大深度の符号化単位であり、予測単位は、サイズ4x4の予測単位650である。
【0068】
図7は、本発明の一実施形態による符号化単位及び変換単位を図示している。
【0069】
本発明の一実施形態による映像符号化装置100及び映像復号化装置200は、最大符号化単位をそのまま符号化したり、最大符号化単位より小さいか、あるいは同じサブ符号化単位に最大符号化単位を分割して符号化する。符号化過程において、周波数変換のための変換単位の大きさは、それぞれの符号化単位より大きくない変換単位に選択される。例えば、現在符号化単位710が64x64サイズであるとき、32x32サイズの変換単位720を利用して周波数変換が行われる。
【0070】
図8A及び
図8Bは、本発明の一実施形態による、符号化単位、予測単位及び周波数変換単位の分割形態を図示している。
【0071】
図8Aは、本発明の一実施形態による符号化単位及び予測単位を図示している。
図8Aの左側は、最大符号化単位810を符号化するために、本発明の一実施形態による映像符号化装置100が選択した分割形態を図示している。映像符号化装置100は、多様な形態に最大符号化単位810を分割して符号化した後、多様な分割形態の符号化結果をR−Dコストに基づいて比較し、最適の分割形態を選択する。最大符号化単位810をそのまま符号化するのが最適である場合には、
図8A及び
図8Bのように、最大符号化単位810を分割せずに、最大符号化単位800を符号化することもできる。
【0072】
図8Aの左側を参照すれば、深度0である最大符号化単位810を、深度1以上のサブ符号化単位に分割して符号化する。最大符号化単位810を、4個の深度1のサブ符号化単位に分割した後、全部または一部の深度1のサブ符号化単位を、さらに深度2のサブ符号化単位に分割する。
【0073】
深度1のサブ符号化単位のうち、右側上部に位置したサブ符号化単位及び左側下部に位置したサブ符号化単位が、深度2以上のサブ符号化単位に分割された。深度2以上のサブ符号化単位のうち一部は、さらに深度3以上のサブ符号化単位に分割されてもよい。
【0074】
図8Aの右側は、最大符号化単位810に係わる予測単位の分割形態を図示している。
図8Aの右側を参照すれば、最大符号化単位に係わる予測単位860は、最大符号化単位810と異なって分割されてもよい。言い換えれば、サブ符号化単位それぞれに係わる予測単位は、サブ符号化単位より小さくともよい。
【0075】
例えば、深度1のサブ符号化単位のうち、右側下部に位置したサブ符号化単位854に係わる予測単位は、サブ符号化単位854より小さくともよい。深度2のサブ符号化単位814,816,818,828,850,852のうち、一部のサブ符号化単位815,816,850,852に係わる予測単位は、サブ符号化単位より小さくともよい。
【0076】
また、深度3のサブ符号化単位822,832,848に係わる予測単位は、サブ符号化単位より小さくともよい。予測単位は、それぞれのサブ符号化単位を、高さまたは幅の方向に半分にした形態でもあり、高さ方向及び幅方向に4分した形態でもある。
【0077】
図8Bは、本発明の一実施形態による予測単位及び変換単位を図示している。
図8Bの左側は、
図8Aの右側に図示された最大符号化単位810に係わる予測単位の分割形態を図示し、
図8Bの右側は、最大符号化単位810の変換単位の分割形態を図示している。
【0078】
図8Bの右側を参照すれば、変換単位870の分割形態は、予測単位860と異なって設定される。
【0079】
例えば、深度1の符号化単位854に係わる予測単位が、高さを半分にした形態で選択されてたにしても、変換単位は、深度1の符号化単位854の大きさと同じ大きさに選択される。同様に、深度2の符号化単位814,850に係わる予測単位が、深度2の符号化単位814,850の高さを半分にした形態で選択されたとしても、変換単位は、深度2の符号化単位814,850の本来大きさと同じサイズに選択される。
【0080】
予測単位よりさらに小サイズに変換単位が選択されもする。例えば、深度2の符号化単位852に係わる予測単位が、幅を半分にした形態で選択された場合、変換単位は、予測単位よりさらに小サイズである高さ及び幅を半分にした形態で選択される。
【0081】
図9は、本発明の他の実施形態による映像符号化装置を図示している。
【0082】
図9を参照すれば、本発明の一実施形態による映像符号化装置900は、判断部910、制御部920及び符号化部930を含む。映像符号化装置900は、前述の深度によって段階的に大きさが変わる符号化単位、予測単位及び変換単位に基づいて映像符号化する装置であってもよい。
【0083】
判断部910は、符号化のために映像符号化装置900に入力された第1符号化単位が、現在ピクチャの境界を外れた領域を含むか否かを判断する。
【0084】
映像符号化装置900は、第1符号化単位が現在ピクチャの境界を外れた領域を含まない場合、第1符号化単位をそのまま符号化する。第1符号化単位を分割せずに、予測し、周波数変換(例えば、離散コサイン変換)することもでき、第1符号化単位を、
図2、
図6、
図8A及び
図8Bと関連して述べたように、所定の深度によって、複数の符号化単位に分割した後、予測して周波数変換することもできる。
【0085】
しかし、第1符号化単位が、現在ピクチャの境界を外れた領域を含む場合には、第1符号化単位を分割し、少なくとも1つの第2符号化単位を生成した後、現在ピクチャの境界を外れていない第2符号化単位だけ符号化する。
【0086】
言い換えれば、映像符号化装置900は、第1符号化単位が、現在ピクチャの境界を外れた領域を含むか否かによって、異なる符号化方法を利用して、第1符号化単位を符号化するが、判断部910は、まず第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
図10A及び
図10Bを参照して後述する。
【0087】
図10A及び
図10Bは、本発明の一実施形態によるピクチャ境界の符号化単位を図示している。
図10A及び
図10Bを参照すれば、第1符号化単位1020は、現在ピクチャの境界1010に跨っている。現在ピクチャの大きさが最大符号化単位の大きさの倍数ではない場合、例えば、最大符号化単位の大きさを32x32に設定して現在ピクチャを符号化するが、現在ピクチャの横または縦の大きさが32の倍数ではない場合には、最大符号化単位が現在ピクチャの境界1010を外れた領域1024を含む。同様に、
図10Bのように、第1符号化単位1040が現在ピクチャの境界1030を外れた領域1044を含むことがある。
図10Aで、現在ピクチャの境界1010の左側は、現在ピクチャの内部領域であり、右側は、現在ピクチャの外部領域であり、
図10Bで、現在ピクチャの境界1030の上部は、現在ピクチャの内部領域であり、下部は、現在ピクチャの外部領域である。
【0088】
図10A及び
図10Bは、第1符号化単位1020または1040が、現在ピクチャの右側境界及び下部境界に跨った場合を図示しているが、第1符号化単位1020または1040が、現在ピクチャの左側境界及び上部境界に跨った場合もありうる。
【0089】
判断部910は、
図10A及び
図10Bに図示されているように、第1符号化単位1020または1040が、現在ピクチャの境界1010または1030を外れた領域を含んでいるか否かを判断するために、第1符号化単位1020または1040の境界を現在ピクチャの境界と比較する。
【0090】
第1符号化単位1020の右側境界が、現在ピクチャの右側境界を外れたり、左側境界が、現在ピクチャの左側境界を外れれば、第1符号化単位1020は、現在ピクチャの境界1010を外れた領域を含んでいると判断される。また、第1符号化単位1040の下部境界が、現在ピクチャの下部境界を外れたり、上部境界が現在ピクチャの上部境界を外れれば、第1符号化単位1040が、現在ピクチャの境界1030を外れた領域を含んでいると判断される。
【0091】
再び
図9を参照すれば、判断部910で、第1符号化単位1020または1040が現在ピクチャの境界を外れた領域を含んでいると判断すれば、制御部920は、第1符号化単位1020または1040を少なくとも1つの第2符号化単位に分割する。
【0092】
本願発明の一実施形態による映像符号化装置900は、前述の階層的な符号化単位を利用して映像を符号化、復号化することができる。最大符号化単位を、所定深度のサブ符号化単位に分けて映像を符号化/復号化することができる。このとき深度は、最大符号化単位から所定サブ符号化単位に段階的に縮小された程度を示す。
【0093】
制御部920は、このような深度によって、第1符号化単位1020を少なくとも1つの第2符号化単位に分割する。例えば、第1符号化単位1020が、深度0である最大符号化単位である場合、少なくとも1つの深度1の符号化単位に、第1符号化単位1020を分割することができる。また、深度1の符号化単位より深度が大きい符号化単位、すなわち、深度が2以上である符号化単位に、第1符号化単位1020を分割することもできる。
図11A及び
図11Bを参照して詳細に説明する。
【0094】
図11A及び
図11Bは、本発明の一実施形態によるピクチャ境界の符号化単位を分割する方法を図示している。
【0095】
図11Aは、
図10Aに図示された第1符号化単位1020が、少なくとも1つの第2符号化単位1110ないし1140に分割される場合を図示する。
図10Aと関連して述べたように、第1符号化単位1020がピクチャ境界に跨った場合、第1符号化単位1020は、現在ピクチャの境界を外れた領域1024を含む。
【0096】
第1符号化単位1020を、異なる深度の少なくとも1つの第2符号化単位1110ないし1140に分割し、現在ピクチャの境界を外れていない領域に係わる第2符号化単位1110ないし1120と、現在ピクチャの境界を外れた領域に係わる第2符号化単位1130ないし1140とに区分する。
【0097】
図11Bは、
図10Bに図示された第1符号化単位1040が、少なくとも1つの第2符号化単位1150ないし1180に分割される場合を図示する。
【0098】
第1符号化単位1040を、異なる深度の少なくとも1つの第2符号化単位1150ないし1180に分割し、現在ピクチャの境界を外れていない領域に係わる第2符号化単位1150ないし1160と、現在ピクチャの境界を外れた領域に係わる第2符号化単位1170ないし1180とに区分する。
【0099】
図11A及び
図11Bは、第1符号化単位1020または1040を同サイズの4個の第2符号化単位に分割すれば、境界を外れていない領域に係わる第2符号化単位と、境界を外れた領域に係わる第2符号化単位とを区分することができる場合を図示した。しかし、第1符号化単位1020または1040を同サイズの4個の第2符号化単位に分割したとしても、境界を外れていない領域に係わる第2符号化単位と、境界を外れた領域に係わる第2符号化単位とを区分することができない場合がある。
図12A及び
図12Bを参照して詳細に説明する。
【0100】
図12A及び
図12Bは、本発明の他の実施形態によるピクチャ境界の符号化単位及び分割方法を図示している。
【0101】
図12Aに図示されているように、第1符号化単位1220がピクチャ境界に位置する場合、第1符号化単位1220を、第2符号化単位1230ないし1260に分割しても、現在ピクチャの境界を外れた第2符号化単位と、境界を外れていない第2符号化単位とを区分することができない。一部の第2符号化単位1250及び1260が相変らず境界を外れた領域と、境界を外れていない領域とを含んでいるためである。
【0102】
従って、
図12Aに図示されているように、第1符号化単位1220が境界に位置する場合、第1符号化単位1220を反復して分割する。
図12Aに図示された実施形態では、第2符号化単位1250及び1260をもう一度分割し、第3符号化単位1252ないし1258,1262ないし1268を生成する。
【0103】
第2符号化単位1250及び1260を、さらに小サイズの第3符号化単位にもう一度さらに分割することによって、境界を外れていない符号化単位1230,1240,1252,1254,1262及び1264と、境界を外れた符号化単位1256,1258,1266及び1268を区分することができる。
【0104】
再び
図9を参照すれば、制御部920が、
図11A、
図11B及び12Bに図示されているように、第1符号化単位1020,1040または1220を分割し、境界を外れた領域と、境界を外れていない領域とを区分すれば、符号化部930は、第1符号化単位を分割して生成された少なくとも1つの符号化単位のうち、現在ピクチャの境界を外れていない符号化単位だけ符号化する。
【0105】
第1符号化単位が、現在ピクチャの境界を外れた領域を含まない場合には、第1符号化単位を全部を符号化する。第1符号化単位を分割せずに、予測し、周波数変換(例えば、離散コサイン変換)することもでき、第1符号化単位を、
図2、
図6、
図8A及び
図8Bと関連して述べたように、所定の深度によって複数の符号化単位に分割した後、予測して周波数変換することもできる。
【0106】
しかし、第1符号化単位が、現在ピクチャの境界を外れた領域を含む場合には、制御部920の分割結果によって、境界を外れていない領域のピクセル値だけ符号化する。
【0107】
図11Aに図示された実施形態で、左側に位置した第2符号化単位1110及び1120を符号化し、
図11Bに図示された実施形態で、上部に位置した第2符号化単位1150及び1160を符号化する。
図12Bに図示された例では、左側に位置した第2符号化単位1230及び1240と、左側に位置した第3符号化単位1252,1254,1262及び1264を符号化する。境界を外れていない符号化単位を、所定の予測単位に基づいて予測し、予測結果として生成される残差値を所定の変換単位に基づいて周波数変換する。
【0108】
本願発明の一実施形態による映像符号化装置900は、ピクチャ境界に位置した第1符号化単位のうち、境界を外れていないピクセル値だけ符号化することができるので、境界を外れた不要なピクセル値の符号化による圧縮率低下を防止することができる。
【0109】
また、符号化部930の前述した分割いかんについての情報(例えば、分割いかんを示すフラグ情報)も選択的に符号化することができる。第1符号化単位がピクチャ境界に跨った場合、第1符号化単位は、制御部920によって分割される。境界を外れていない領域のピクセル値だけ符号化するために、分割は必須であるので、第1符号化単位に対しては、分割いかんについての情報を符号化する必要がない。分割いかんについての情報を別途に符号化せずとも、復号化する側で、第1符号化単位が分割されることを知っているためである。しかし、本発明の他の実施形態によれば、第1符号化単位の分割が必須であるときにも、分割いかんについての情報を別途に符号化することもできる。
【0110】
しかし、前述の映像符号化方法によって、符号化部930が現在ピクチャの境界を外れた領域のピクセル値を符号化しないために、境界に跨った第1符号化単位が、他の符号化単位の予測に利用されない場合が生じる。
図13A及び
図13Bを参照して詳細に説明する。
【0111】
図13A及び
図13Bは、本発明の一実施形態によるイントラ予測方法を図示している。
【0112】
図13Aを参照すれば、本発明の一実施形態によるイントラ予測方法は、所定の予測単位1310をイントラ予測するにあたり、以前に符号化された隣接したピクセル値1320を利用することができる。特に、本発明の一実施例によるイントラ予測は、予測単位1310の左側下部の縦方向に、「PuSize」ほどのピクセルをさらに利用することもできる。
【0113】
本発明による映像符号化方法は、
図8Aに図示されているように、階層的な符号化単位を利用して映像を符号化する。従って、予測単位1310の左側は、もちろん左側下部に隣接したピクセルを利用してイントラ予測を行うことができる。例えば、
図8Aの符号化単位830をイントラ予測するとき、符号化単位830の上部、及び右側上部に隣接したピクセル、すなわち、符号化単位812に含まれたピクセルはもちろん、符号化単位830の左側、及び左側下部に隣接したピクセル、すなわち、符号化単位828に含まれたピクセルを利用して、イントラ予測を行うことができる。
【0114】
ところで、右側上部及び左側下部に隣接したピクセルが利用可能ではない場合がある。
図13Bに図示されているように、符号化単位1330を符号化するとき、右側上部に隣接したピクセル値のうち、一部ピクセル値1346を利用することができない。右側上部に位置した符号化単位1340を符号化するとき、現在ピクチャの境界1350を外れた領域の符号化単位1344は、符号化しないためである。従って、符号化単位1330のイントラ予測に利用することができる隣接したピクセルは、上部、左側及び左側下部のピクセルのみである。
【0115】
符号化部930は、右側上部に隣接したピクセルを利用できるか否かを判断するために、「cux+cuSize+cuSize」が前述の「Frame_width」より大きいか否かを判断する。「cux」は、符号化単位1330の左側境界のX座標であり、「cuSize」は、符号化単位1330の縦横サイズであり、「Frame_width」は、現在ピクチャの横サイズである。
【0116】
また、符号化部930は、左側下部に隣接したピクセルを利用できる否かを判断するために、「cuy+cuSize+cuSize」が、前述の「Frame_height」より大きいか否かを判断する。「cux」は、符号化単位1330の左側境界のX座標であり、「cuSize」は、符号化単位1330の縦サイズであり、「Frame_height」は、現在ピクチャの縦サイズである。
【0117】
符号化部930は、第1符号化単位が境界を外れた領域を含むか否かに基づいて、符号化方法についての情報、すなわち、符号化モードについての情報をさらに効率的に符号化することができる。第1符号化単位が境界を外れた領域を含む場合、第1符号化モードが、他の符号化モードである第2符号化モードを意味するように、符号化モードについての情報を符号化することができる。
【0118】
図18Aないし
図18Gを参照して、第1符号化単位の予測モードについての情報を符号化する場合を例に挙げて説明する。
図18Aないし
図18Gは、現在ピクチャの境界を外れた領域を含む2Nx2Nサイズの第1符号化単位の予測モードを図示している。
図18Aないし
図18Hで、斜線領域が現在ピクチャの境界を外れた領域である。
【0119】
図18Aを参照すれば、2Nx2Nの第1符号化単位の右側Nx2N領域が境界を外れた領域である。符号化部930が、
図18Aの第1符号化単位の符号化するにあたり、2Nx2Nサイズの予測モードを選択しても、境界を外れた領域は、予測を行わないので、Nx2N予測モードで予測を行う。
【0120】
言い換えれば、符号化部930が、第1符号化単位の予測モードについての情報を、2Nx2N予測モードに設定しても、Nx2N予測モードに設定する場合と同一に、予測が行われる。従って、Nx2N予測モードを別途に設定する必要がなく、2Nx2N予測モードについての情報を、Nx2N予測モードについての情報として利用することができる。これは、予測モードの種類が減る効果と同一であり、これにより、符号化部930が予測モードについての情報を符号化するために必要なビット数を減らすことができる。
【0121】
同様に、
図18Bでも、符号化部930は、第1符号化単位の予測モードを2Nx2N予測モードに設定することにより、2NxN予測モードの代わりをすることができる。
【0122】
図18Cで、符号化部930は、第1符号化単位の予測モードを2Nx2N予測モードに設定し、2NxN/2予測モードの代わりをすることができる。
図18Bと比較すれば、
図18Cでは、予測される領域の縦サイズが1/2に縮小した。しかし、第1符号化単位で、境界を外れていない領域だけ予測するのは、
図18Bと同一であるので、第1符号化単位の予測モードを2Nx2N予測モードに設定し、2NxN/2予測モードの代わりを行うことができる。
【0123】
図18Dで、符号化部930は、第1符号化単位の予測モードをNxN予測モードに設定し、2NxN予測モードの代わりを行うことができる。
図18Dの第1符号化単位が2NxN予測モードで予測され、第1符号化単位の右側半分が境界を外れた領域に含まれた場合、NxN予測モードと同一に、NxNサイズで予測が行われる。従って、NxN予測モードでもって、NxN予測モードの代わりを行うことができる。
【0124】
図18Eで、符号化部930は、第1符号化単位の予測モードを2NxN予測モードに設定し、2NxN/2予測モードの代わりを行うことができる。
図18Bと比較すれば、縦サイズが1/2に縮小された2つの予測単位に基づいて予測を行う。従って、
図18Bによって設定された2Nx2N予測モードで、縦サイズに係わる部分だけ1/2に縮小させた2NxN予測モードで、第1符号化単位の予測モードを設定することができる。
【0125】
図18Fで、符号化部930は、第1符号化単位の予測モードを2Nx2N予測モードに設定し、NxN予測モードの代わりを行うことができる。
図18Fの第1符号化単位も、
図18A、
図18B及び
図18Cと同様に、第1符号化単位で、境界を外れていない領域だけ予測する。従って、第1符号化単位の予測モードを2Nx2N予測モードに設定し、NxN予測モードの代わりを行うことができる。
【0126】
図18Gで、符号化部930は、第1符号化単位の予測モードをNx2N予測モードに設定し、N/2xN予測モードの代わりを行うことができる。
図18Fと比較すれば、横サイズが1/2に縮小された2つの予測単位に基づいて予測を行う。従って、
図18Bによって設定された2Nx2N予測モードで、横部分を1/2に縮小させたNx2N予測モードで、第1符号化単位の予測モードを設定することができる。
【0127】
図9ないし
図13と関連して述べた映像符号化装置900の符号化過程は、次のようなプログラミング・コードによって具現される。
【0128】
UInt uiLPelX
UInt uiRPelX
UInt uiTPelY
UInt uiBPelY
if(!((uiRPelX<pcCU→getSlice()→getWidth())&&(uiBPelY<pcCU→getSlice()→getHeight())))
{
go_next_depth_process();
}
前記プログラミング・コードを参照すれば、関数「UInt
uiLPeLX」、「UInt uiRPeLX」、「UInt uiTPeLY」及び「UInt uiBPeLY」を利用し、第1符号化単位の左側X座標、右側X座標、上部Y座標及び下部Y座標を得て、「pcCU→getSlice()→getWidth()」及び「uiBPelY<pcCU→getSlice()→getHeight()」を利用し、現在ピクチャの横サイズ及び現在ピクチャの縦サイズを得る。
【0129】
その後、第1符号化単位の左側X座標と、現在ピクチャの横サイズとを比較し、第1符号化単位の下部Y座標と、現在ピクチャの縦サイズとを比較する。第1符号化単位の左側X座標が、現在ピクチャの横サイズより大きいか、あるいは第1符号化単位の下部Y座標が縦サイズより大きい場合には、「go_next_depth_process()」関数を呼び出し、次の深度、すなわち、第1符号化単位の深度「k」より大きい深度「k+1」の第2符号化単位に第1符号化単位を分割し、現在ピクチャの境界を外れていない第2符号化単位だけ符号化する。
【0130】
しかし、映像符号化装置900が、
図9ないし
図13に図示されているように、現在ピクチャの境界を外れていない領域だけ符号化する場合にも、最大符号化単位のアドレスは、境界を外れた領域も符号化されたものであると仮定して設定される。
図14を参照して詳細に説明する。
【0131】
図14は、本発明の一実施形態による最大符号化単位のインデクシング(indexing)を図示している。
図14を参照すれば、現在ピクチャ1410を所定サイズの最大符号化単位に分割して符号化するとき、現在ピクチャの広さ「Frame_width」及び高さ「Frame_height」が最大符号化単位の横サイズの倍数ではないならば、
図14のように、現在ピクチャ1410の右側境界及び下部境界に最大符号化単位が跨っている。
【0132】
図9ないし
図13で、本願発明の映像符号化装置900は、境界に跨っている最大符号化単位を符号化するにあたり、現在ピクチャの境界を外れていない領域だけ符号化する。しかし、最大符号化単位のアドレスを設定するときには、「Frame_width」及び「Frame_height」ではない「Frame_widthN」及び「Frame_heightN」を基準で、最大符号化単位のアドレスを設定する。言い換えれば、現在ピクチャの右側境界及び下部境界に跨っている最大符号化単位にもアドレスを付加し、最大符号化単位のアドレスを設定する。
【0133】
例えば、最初行の最も右側に位置した最大符号化単位は、現在ピクチャの右側境界に跨っており、境界を外れていない領域だけ符号化されるが、アドレスとして「P」付加され、従って、二行目の最も左側に位置した最大符号化単位のアドレスは、「P+1」になる。「Frame_widthN」及び「Frame_heightN」は、次の通り計算される。
【0134】
If Frame_width%LcuSize not equal to 0,
Frame_widthN=(Frame_width/LcuSize+1)*LcuSize
If Frame_height%LcuSize not equal to 0,
Frame_heightN=(Frame_height/LcuSize+1)*LcuSize
前記計算式で、「Frame_width%LcuSize」は、「Frame_width」を「LcuSize」で割った余りを意味し、「Frame_height%LcuSize」は、「Frame_height」を「LcuSize」で割った残りを意味する。「Frame_width/LcuSize」は、「Frame_width」を「LcuSize」で割った商(quotient)を意味し、「Frame_height/LcuSize」は、「Frame_height」を「LcuSize」で割った商を意味する。「LcuSize」は、最大符号化単位が正方形であるとき、最大符号化単位の横及び縦の大きさを意味する。
【0135】
図15は、本発明の一実施形態による映像符号化方法について説明するためのフローチャートである。
図15を参照すれば、段階1510で、映像符号化装置900は、第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
図10A、
図10B及び
図12Aのように、第1符号化単位がピクチャ境界に跨っており、境界を外れた領域を含むか否かを判断する。境界を外れた領域を含むか否かを判断するために、現在ピクチャの境界と、第1符号化単位の境界とを比較する。第1符号化単位の左側または右側の境界が、現在ピクチャの左側または右側の境界を外れるか否かを判断したり、あるいは第1符号化単位の上部または下部の境界が、現在ピクチャの上部または下部の境界を外れるか否かを判断する。
【0136】
段階1520で、映像符号化装置900は、段階1510での判断結果に基づいて、第1符号化単位を少なくとも1つの第2符号化単位に分割する。第1符号化単位の深度「k」より大きい深度「k+1」の第2符号化単位に第1符号化単位を分割することができる。第2符号化単位に分割されたが、第2符号化単位がさらにピクチャ境界を外れた領域を含むと判断されれば、分割を反復し、分割の結果として生成された符号化単位が、ピクチャ境界を外れた領域を含まなくなるまで第1符号化単位を分割する。
【0137】
段階1530で、映像符号化装置900は、段階1520での分割の結果として生成された少なくとも1つの第2符号化単位のうち、ピクチャ境界を外れていない第2符号化単位だけ選択的に符号化する。第2符号化単位を予測し、残差値を生成し、生成された残差値を、周波数変換、量子化、エントロピ符号化する。また、映像符号化装置900は、ピクチャ境界に跨った第1符号化単位の分割は必須であるので、第1符号化単位については、分割いかんを示す情報を符号化しない。
【0138】
また、
図18Aないし
図18Gと関連して述べたように、映像符号化装置900は、第1符号化単位が境界を外れた領域を含むか否かに基づいて、符号化モードについての情報を符号化することができる。
【0139】
図16は、本発明の一実施形態の他の映像復号化装置を図示している。
図16を参照すれば、本発明の一実施形態による映像復号化装置1600は、判断部1610、パージング部1610及び復号化部1620を含む。
【0140】
判断部1610は、復号化しようとする第1符号化単位が、現在ピクチャの境界を外れた領域を含むか否かを判断する。以前に復号化された符号化単位に基づいて、復号化しようとする第1符号化単位が、現在ピクチャの境界を外れた領域であるか否かを判断することができる。例えば、
図14に図示された実施形態では、すぐ以前に復号化された符号化単位が「P−1」符号化単位である場合、復号化しようとする第1符号化単位は、現在ピクチャの境界に跨っており、境界を外れた領域を含んでいると判断することができる。
【0141】
言い換えれば、現在復号化される第1符号化単位の左側または右側の境界が、現在ピクチャの左側または右側の境界を外れるか否かを判断したり、または第1符号化単位の上部または下部の境界が現在ピクチャの上部または下部の境界を外れるか否かを判断し、復号化しようとする第1符号化単位が、現在ピクチャの境界に跨っているか否かを判断する。
【0142】
パージング部1610は、映像ビットストリームを受信し、第1符号化単位が、現在ピクチャの境界を外れた領域を含むと判断されれば、第1符号化単位を分割して生成された少なくとも1つの第2符号化単位のうち、ピクチャ境界を外れていない第2符号化単位に係わるデータだけパージングする。第2符号化単位の深度は、第1符号化単位の深度「k」より大きい深度「k+1」の符号化単位であってもよい。また、第1符号化単位が、ピクチャ境界を外れた領域を含まないと判断されれば、第1符号化単位に係わるデータ全部をパージングする。
【0143】
第1符号化単位がピクチャ境界を外れた領域を含むと判断され、ピクチャ境界を外れていない第2符号化単位に係わるデータだけパージングする場合、第1符号化単位の分割いかんについての情報(例えば、フラグ情報)をパージングしないこともある。ピクチャ境界に跨った第1符号化単位の分割が必須であり、分割いかんについての情報を符号化しない場合には、パージングする情報もないので、パージングする必要がない。
【0144】
しかし、第1符号化単位がピクチャ境界を外れた領域を含むと判断され、第1符号化単位の分割が必須であるにもかかわらず、分割いかんについての情報が別途に符号化されたとすれば、符号化された分割いかんについての情報をパージングすることができる。
【0145】
ただし、残差値は、ピクチャ境界を外れていない第2符号化単位の残差値についてのみ符号化されるので、分割いかんについての情報のパージングいかんと係わりなく、第1符号化単位を分割して生成された第2符号化単位のうち、ピクチャ境界を外れていない第2符号化単位に係わるデータだけパージングする。
【0146】
復号化部1630は、パージング部1620でパージングされた現在ピクチャの境界を外れていない第2符号化単位に係わるデータを復号化する。境界を外れていない第2符号化単位に係わるデータをエントロピ復号化、逆量子化、周波数逆変換(例えば、逆離散コサイン変換)して残差値を復元し、第2符号化単位をイントラ予測またはインター予測して生成された予測値と、復元された残差値とを加算して第2符号化単位を復元する。
【0147】
復号化時に利用する符号化単位のアドレスを設定する方法は、
図14に図示されたところと同一に、復号化過程でイントラ予測のために利用できる隣接したピクセルも、
図13A及び
図13Bに図示された通りである。
【0148】
復号化部1630が復号化時に利用する第1符号化単位の符号化モードについての情報は、
図18Aないし
図18Gと関連して述べたように、境界を外れた領域を含むか否かに基づいて符号化された符号化モードについての情報であってもよい。
【0149】
図17は、本発明の一実施形態による映像復号化方法について説明するためのフローチャートである。
図17を参照すれば、段階1710で、映像復号化装置1600は、復号化しようとする第1符号化単位が、現在ピクチャの境界を外れた領域を含むか否かを判断する。以前に復号化された符号化単位を参照して、第1符号化単位の右側または左側境界が、現在ピクチャの右側または左側境界を外れるか否かを判断したり、あるいは第1符号化単位の上部または下部の境界が、現在ピクチャの上部または下部の境界を外れるか否かを判断する。
【0150】
段階1720で、映像復号化装置1600は、段階1710の判断結果に基づいて、第1符号化単位を分割して生成された少なくとも1つの第2符号化単位のうち、ピクチャ境界を外れていない第2符号化単位に係わるデータをパージングする。段階1710で、第1符号化単位が現在ピクチャの境界を外れた領域を含んでいると判断された場合、第1符号化単位を分割して生成された第2符号化単位のうち、ピクチャ境界を外れていない第2符号化単位に係わるデータをパージングする。前述のように、第2符号化単位は、第1符号化単位の深度「k」より大きい深度「k+1」の符号化単位であってもよい。
【0151】
段階1730で、映像復号化装置1600は、段階1720でパージングされた現在ピクチャの境界を外れていない第2符号化単位に係わるデータだけ復号化する。ピクチャ境界を外れていない第2符号化単位に係わるデータをエントロピ復号化、逆量子化、周波数逆変換して残差値を復元し、予測結果として生成された予測値と加算して、第2符号化単位を復元する。
【0152】
映像復号化装置1600が復号化時に利用する第1符号化単位の符号化モードについての情報は、
図18Aないし
図18Gと関連して述べたように、境界を外れた領域を含むか否かに基づいて符号化された情報であってもよい。
【0153】
図19は、本発明の他の実施形態による映像符号化方法について説明するためのフローチャートである。
図19を参照すれば、段階1910で、映像符号化装置900は、第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
【0154】
段階1920で、映像符号化装置900は、段階1910での判断結果に基づいて、第1符号化単位を少なくとも1つの第2符号化単位に分割する。第1符号化単位の深度「k」より大きい深度「k+1」の第2符号化単位で、第1符号化単位を分割することができる。
【0155】
段階1930で、映像符号化装置900は、段階1920の分割の結果として生成された少なくとも1つの第2符号化単位の境界を外れた領域を所定の値でパッディングする。
図20A及び
図20Bを参照して詳細に説明する。
【0156】
図20A及び
図20Bは、本発明の他の実施形態によるピクチャ境界の符号化単位を符号化する方法について説明するための図である。
【0157】
映像符号化装置900の判断部910が、第1符号化単位2020がピクチャの境界に跨っていると判断すれば、制御部920は、第1符号化単位2020をさらに小サイズ、すなわち、さらに大きい深度の第2符号化単位に分割する。しかし、第2符号化単位が最小符号化単位である場合には、制御部920がさらに小サイズの符号化単位に第2符号化単位を分割することができず、それ以上分割することができないために、境界を外れた領域、と外れていない領域とが符号化単位によって区分されない。
【0158】
従って、符号化部930は、第2符号化単位2024及び2028において、境界2010を外れた領域を、
図20Bに図示されているようにパッディングする。現在ピクチャの境界2010を外れた領域のピクセル値をいずれも「0」に設定したり、あるいは境界を外れた領域のピクセル値を、隣接した境界を外れていない領域のピクセル値と同一に設定する。
【0159】
再び
図19を参照すれば、段階1940で、映像符号化装置900は、段階1930でパッディングされた領域を含む少なくとも1つの第2符号化単位を符号化する。
【0160】
映像符号化装置900の符号化部930は、第2符号化単位2022ないし2028を予測して残差値を生成し、生成された残差値を周波数変換する。周波数変換して生成された周波数変換係数を、量子化し、かつエントロピ符号化を行い、第2符号化単位2022ないし2028を符号化する。
【0161】
境界2010に跨った第2符号化単位2024及び2028を予測するにあたり、第2符号化単位全体を予測することもでき、あるいは境界を外れていない領域だけ予測することもできる。例えば、境界2010に跨った第2符号化単位2024が8x8である場合、境界を外れた領域を含む8x8サイズに予測することもでき、あるいは境界を外れた領域を除外した4x8サイズに予測することもできる。
【0162】
また、境界2010に跨った第2符号化単位2024及び2028を周波数変換するにあたり、第2符号化単位全体を周波数変換することもでき、あるいは境界を外れていない領域だけ周波数変換することもできる。
【0163】
例えば、境界2010に跨った最小符号化単位2024が8x8である場合、境界を外れた領域を含む8x8サイズで周波数変換を行うこともできる。周波数境界を外れた領域も予測された場合、境界を外れた領域も残差値を含むので、第2符号化単位の大きさで周波数変換を行うことができる。境界を外れた領域が予測されずに残差値のない場合には、境界を外れた領域を任意の残差値(例えば、「0」)に設定し、第2符号化単位の大きさで周波数変換を行うことができる。予測いかんと係わりなく境界を外れた領域の残差値は、意味がないので、周波数変換に最も高い効率を示す任意の値で境界を外れた領域の残差値を設定して周波数変換を行うこともできる。
【0164】
また、符号化部930は、境界を外れた領域を除外した4x8サイズで周波数変換を行うこともできる。前述のように、本願発明によれば、符号化単位、予測単位及び変換単位の大きさがそれぞれ独立して決定されるので、最小符号化単位より小サイズの変換単位を利用し、境界を外れていない領域だけ選択的に周波数変換することができる。段階1940で、第2符号化単位の符号化と共に、符号化部930は、
図18A及び
図18Gと関連して述べたように、第2符号化単位が境界を外れた領域を含むか否かに基づいて、符号化モードについての情報を符号化することもできる。
【0165】
図21は、本発明の他の実施形態による映像復号化方法について説明するためのフローチャートである。
【0166】
図21を参照すれば、段階2110で、映像復号化装置1600の判断部1610は、第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
【0167】
段階2120で、映像復号化装置1600のパージング部1620は、段階2110の判断結果に基づいて、第1符号化単位を分割して生成された少なくとも1つの第2符号化単位のうちパッディングされた領域を含む少なくとも1つの第2符号化単位に係わるデータをパージングする。
図20Aに図示されているように、第2符号化単位が最小符号化単位であり、境界に跨った場合、第2符号化単位の一部領域は、現在ピクチャの境界を外れた領域である。このような領域は、
図19と関連して述べたように、所定の値でパッディングされるが、映像復号化装置のパージング部1620は、このようなパッディングされた領域を含む少なくとも1つの第2符号化単位に係わるデータをパージングする。
【0168】
段階2130で、映像復号化装置1600の復号化部1630は、段階2120でパージングされた第2符号化単位に係わるデータに基づいて、第2符号化単位を復号化する。パージングされた第2符号化単位に係わるデータをエントロピ復号化、逆量子化、周波数逆変換して残差値を復元し、予測結果生成された予測値と加算して、第2符号化単位を復元する。
図18A及び
図18Gと関連して述べたように、第2符号化単位が境界を外れた領域を含むか否かに基づいて符号化された符号化モードについての情報を復号化し、復号化された符号化モードについての情報によって、第2符号化単位を復号化することができる。
【0169】
図19と関連して前述した周波数変換のように、周波数逆変換も、第2符号化単位全体を周波数逆変換することもでき、境界を外れていない領域だけ周波数逆変換することもできる。また、予測を行うにあっても、第2符号化単位全体を予測することもでき、境界を外れていない領域だけ予測することもできる。
【0170】
図22は、本発明のさらに他の実施形態による映像符号化方法について説明するためのフローチャートである。
【0171】
図22を参照すれば、段階2210で、映像符号化装置900の判断部910は、第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
【0172】
段階2220で、映像符号化装置900は、段階2210での判断結果に基づいて、第1符号化単位の境界を外れた領域を、所定の値でパッディングする。
図23Aを参照して詳細に説明する。
【0173】
図23A及び23Bは、本発明のさらに他の実施形態によるピクチャ境界の符号化単位を符号化する方法について説明するための図である。
【0174】
図23Aを参照すれば、映像符号化装置900の判断部910が、第1符号化単位2320がピクチャの境界に跨っていると判断すれば、符号化部930は、第1符号化単位2320において、境界2310を外れた領域2322を、
図23Aに図示されているようにパッディングする。現在ピクチャの境界2310を外れた領域のピクセル値をいずれも「0」に設定するか、あるいは境界を外れた領域のピクセル値を、隣接した境界を外れていない領域のピクセル値と同一に設定する。
【0175】
再び
図22を参照すれば、段階2230で、映像符号化装置900の符号化部930は、段階2220で境界2310を外れた領域2322がパッディングされた第1符号化単位2320を、第1符号化単位2320より小サイズの第2符号化単位を利用する符号化モードで符号化する。パッディングの方法に係わる規則を、符号化側と復号化側とが共有するならば、第1符号化単位2320のパッディングされた領域2322を符号化しなくても、復号化する側でパッディングされた領域2322を復元することができる。従って、境界2310を外れていない第2符号化領域2324の選択的な符号化のために、映像符号化装置900の符号化部930は、第1符号化単位2320の大きさより小サイズの第2符号化単位を利用する符号化モードで第1符号化単位2320を符号化する。
図23Bを参照して詳細に説明する。
【0176】
図23Bを参照すれば、符号化部930は、第1符号化単位2320の大きさより小サイズの第2符号化単位2322ないし2328を利用する符号化モードで、第1符号化単位2320を符号化する。第2符号化単位を利用する符号化モードによって、第2符号化単位それぞれを予測し、予測結果として生成された残差値を周波数変換する。周波数変換の結果として生成された周波数変換係数を量子化した後、エントロピ符号化する。
【0177】
第2符号化単位それぞれを符号化するにあたり、境界を外れていない領域の第2符号化単位2336及び2338についてのみ予測を行い、予測結果に基づいて、境界を外れていない領域の第2符号化単位2336及び2338を符号化することができる。境界を外れた領域の第2符号化単位2332及び2334は、予測を行わずに、所定の値(例えば、「0」)に残差値を設定することができる。
【0178】
また、境界2310を外れていない領域の第2符号化単位2336及び2338に係わる動きベクトル及びピクセル値についての情報だけ符号化し、境界2310を外れた領域の第2符号化単位2332及び2334の動きベクトル及びピクセル値についての情報は符号化しない。ピクセル値についての情報は、第2符号化単位2332ないし2338それぞれに含まれたピクセル値を周波数変換して生成された周波数変換係数(例えば、離散コサイン係数)であってもよい。
【0179】
また段階2230で、符号化部930は、
図18A及び
図18Gと関連して述べたように、第2符号化単位が境界を外れた領域を含むか否かということに基づいて、符号化モードについての情報を符号化することもできる。
【0180】
図24は、本発明のさらに他の実施形態による映像復号化方法について説明するためのフローチャートである。
図24を参照すれば、段階2410で、映像復号化装置1600の判断部1610は、第1符号化単位が現在ピクチャの境界を外れた領域を含むか否かを判断する。
【0181】
段階2420で、映像復号化装置1600のパージング部1620は、段階2410の判断結果に基づいて、所定の値でパッディングされた領域を含む第1符号化単位に係わるデータをパージングする。
【0182】
パージングされるデータは、
図23Bの第1符号化単位2320において、境界2310を外れていない領域の第2符号化単位2336及び2338についての情報だけ含んでもよい。境界2310を外れていない領域の第2符号化単位2336及び2338に係わる動きベクトル及びピクセル値についての情報だけ含んでもよい。
【0183】
段階2430で、映像復号化装置1600の復号化部1630は、段階1620でパージングされたデータを利用し、第1符号化単位を第1符号化単位より小サイズの第2符号化単位を利用する符号化モードによって復号化する。第2符号化単位を利用する符号化モードによって、第1符号化単位の第2符号化単位をエントロピ復号化、逆量子化、周波数逆変換及び予測して復号化する。
図18A及び
図18Gと関連して述べたように、第2符号化単位が境界を外れた領域を含むか否かに基づいて、符号化された符号化モードについての情報を復号化し、復号化された符号化モードについての情報によって、第2符号化単位を復号化することができる。
【0184】
パージングされたデータが境界2310を外れていない領域の第2符号化単位2336及び2338についての情報だけ含む場合、境界2310を外れていない領域の第2符号化単位2336及び2338だけ第2符号化単位を利用する符号化モードによって復号化する。
【0185】
以上のように、本発明はたとえ限定された実施形態及び図面によって説明したにしても、本発明が、前記の実施形態に限定されるものではなく、本発明が属する分野で当業者であるならば、かような記載から多様な修正及び変形が可能である。従って、本発明の思想は、特許請求の範囲によってのみ把握されねばならず、それと均等であるか、あるいは等価的な変形は、いずれも本発明思想の範疇に属するのである。また、本発明によるシステムは、コンピュータで読み取り可能な記録媒体に、コンピュータで読み取り可能なコードとして具現することが可能である。
【0186】
例えば、本発明の例示的な実施形態による映像符号化装置及び映像復号化装置は、
図1、
図2、
図4、
図5、
図9及び
図16に図示されているような装置のそれぞれのユニットにカップリングされたバス、前記バスに結合された少なくとも1つのプロセッサを含んでもよい。また、命令、受信されたメッセージまたは生成されたメッセージを保存するために、前記バスに結合され、前述のような命令を遂行するための少なくとも1つのプロセッサにカップリングされたメモリを含んでもよい。
【0187】
また、コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取り可能なデータが保存されるあらゆる種類の記録装置を含む。記録媒体の例としては、ROM(read-only memory)、RAM(random-access memory)、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ保存装置などがあたり、またキャリアウェーブ(例えば、インターネットを介した伝送)の形態で具現されるものも含む。また、コンピュータで読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散され、分散方式でコンピュータで読み取り可能なコードが保存されて実行される。
【解決手段】 現在符号化単位が現在ピクチャの境界を外れた領域を含まない時、ビットストリームからパージングされた分割情報が前記現在符号化単位が分割されないことを示す時前記現在符号化単位を復号化する段階と、前記現在符号化単位が前記現在ピクチャの境界を外れた領域を含むと決定されるとき、前記現在符号化単位から分割された少なくとも一つの符号化単位を決定する段階を含み、前記現在ピクチャは、複数の最大符号化単位に分割され、前記最大符号化単位は、前記分割情報によって現在深度及び下位深度のうち少なくとも一つを含む深度の符号化単位に階層的に分割され、前記分割情報が前記現在深度で分割されることを示す時、前記現在深度の前記現在符号化単位は隣接符号化単位と独立して正方形の前記下位深度の符号化単位に4分割され、前記分割情報が前記下位深度で分割されないことを示す時、一つ以上の予測単位は前記下位深度の符号化単位から獲得される、映像復号化方法。