【文献】
Edouard Francois, et al.,AHG16/non-CE3: Study of CCLM restrictions in case of separate luma/chroma tree,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 14th Meeting: Geneva,JVET-N0390r1,2019年03月,pp.1-7
【文献】
Fangdong Chen and Li Wang,CE3-related: Size restriction for CCLM,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 14th Meeting: Geneva,JVET-N0164-v3,2019年03月,pp.1-6
【文献】
Tung Nguyen, et al.,Extended Cross-Component Prediction in HEVC,2015 Picture Coding Symposium (PCS),2015年,pp.164-168,DOI: 10.1109/PCS.2015.7170068
【文献】
Kei Kawamura, et al.,CE2-3 related: On CCLM restriction for 32x32 luma latency,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 15th Meeting: Gothenburg,JVET-O0611,2019年06月26日,pp.1-5
【文献】
Han Huang and Shawmin Lei,Guided Cross-Component Prediction for RGB Video Coding,2018 Data Compression Conference,2018年,pp.80-86,DOI: 10.1109/DCC.2018.00016
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0015】
以下、本発明の実施の形態について図面を参照しながら、説明する。なお、以下の実施形態における構成要素は適宜、既存の構成要素などとの置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【0016】
(第1実施形態)
図1は、本発明の第1実施形態に係る画像処理システム1の機能ブロックの一例を示す図である。画像処理システム1は、動画像を符号化して符号化データを生成する画像符号化装置100と、画像符号化装置100により生成された符号化データを復号する画像復号装置200とを備える。画像符号化装置100と画像復号装置200との間では、上述の符号化データが、例えば、伝送路を介して送受信される。
【0017】
<画像符号化装置100>
図2は、画像符号化装置100の機能ブロックの一例を示す図である。
図2に示すように、画像符号化装置100は、インター予測部101と、イントラ予測部102と、変換・量子化部103と、エントロピー符号化部104と、逆変換・逆量子化部105と、減算部106と、加算部107と、インループフィルタ部108と、フレームバッファ109と、ブロック分割部110と、ブロック統合部111とを備える。
【0018】
ブロック分割部110は、入力画像の画面全体を同一正方形に分割し、更に四分木等により再帰的に分割した画像(分割画像)を出力するように構成されている。
【0019】
インター予測部101は、ブロック分割部110によって入力された分割画像及びフレームバッファ109から入力されるフィルタ後局所復号画像(後述)を用いて、インター予測を行ってインター予測画像を生成して出力するように構成されている。
【0020】
イントラ予測部102は、ブロック分割部110によって入力された分割画像、フィルタ前局所復号画像及び図示しない制御部により決定された色差イントラ予測方式を用いて、イントラ予測を行ってイントラ予測画像を生成して出力するように構成されている。
【0021】
変換・量子化部103は、減算部106から入力される残差信号に対して直交変換処理を行い、かかる直交変換処理により得られる変換係数に対して量子化処理を行い、かかる量子化処理により得られる量子化されたレベル値を出力するように構成されている。
【0022】
エントロピー符号化部104は、変換・量子化部103から入力される量子化されたレベル値及びサイド情報(図示しない制御部により決定された、画素値の再構成に必要な予測モードや動きベクトル等の関連情報)をエントロピー符号化して符号化データとして出力するように構成されている。
【0023】
また、後述するように、エントロピー符号化部104は、色差イントラ予測方式についてもエントロピー符号化して符号化データとして出力するように構成されている。
【0024】
逆変換・逆量子化部105は、変換・量子化部103から入力される量子化されたレベル値に対して逆量子化処理を行い、かかる逆量子化処理により得られた変換係数に対して逆直交変換処理を行い、かかる逆直交変換処理により得られる逆直交変換された残差信号を出力するように構成されている。
【0025】
減算部106は、ブロック分割部110によって入力された分割画像とイントラ予測画像或いはインター予測画像との差分である残差信号を出力するように構成されている。
【0026】
加算部107は、逆変換・逆量子化部105から入力される逆直交変換された残差信号とイントラ予測画像或いはインター予測画像とを加算して得られる分割画像を出力するように構成されている。
【0027】
ブロック統合部111は、加算部107から入力される分割画像を統合することで得られたフィルタ前局所復号画像を出力するように構成されている。
【0028】
インループフィルタ部108は、ブロック統合部111から入力されるフィルタ前局所復号画像に対して、デブロッキングフィルタ処理等のインループフィルタ処理を適用してフィルタ後局所復号画像を生成して出力するように構成されている。
【0029】
フレームバッファ109は、フィルタ後局所復号画像を蓄積し、適宜、フィルタ後局所復号画像としてインター予測部101に供給する。
【0030】
以下、
図3を参照して、本実施形態に係る画像符号化装置100のエントロピー符号化部104について説明する。
図3は、本実施形態に係る画像符号化装置100のエントロピー符号化部104の一部の機能ブロックの一例を示す図である。
【0031】
図3に示すように、本実施形態に係る画像符号化装置100のインループフィルタ部108は、ブロック構造符号化部104Aと、判定部104Bと、色差イントラ予測方式符号化部104Cとを備える。
【0032】
ブロック構造符号化部104Aは、図示しない制御部により決定された輝度ブロック分割情報及び色差ブロック分割情報をブロック構造として符号化して、ブロック構造(輝度ブロック分割情報及び色差ブロック分割情報)を出力するように構成されている。
【0033】
ここで、輝度ブロック分割情報及び色差ブロック分割情報には、それぞれ輝度成分における分割パターンに係る情報及び色差成分における分割パターンに係る情報が含まれている。
【0034】
判定部104Bは、ブロック構造符号化部104Aから入力されたブロック構造に基づいて、成分間線形予測方式が適用できるかどうかについて判定し、かかる判定結果を出力するように構成されている。なお、かかる判定は、シーケンス単位ではなくブロック単位で行われる。
【0035】
色差イントラ予測方式符号化部104Cは、判定部104Bによる判定結果及び図示しない制御部により決定された色差イントラ予測方式を入力とし、かかる判定結果に基づく符号化テーブルを用いて色差イントラ予測方式を符号化して符号化データとして出力する。
【0036】
ここで、かかる符号化テーブルについては、非特許文献2において定義されている。
【0037】
<画像復号装置200>
図4は、本実施形態に係る画像復号装置200のブロック図である。
図3に示すように、本実施形態に係る画像復号装置200は、エントロピー復号部201と、逆変換・逆量子化部202と、インター予測部203と、イントラ予測部204と、加算部205と、インループフィルタ部206と、フレームバッファ207と、ブロック統合部208とを備える。
【0038】
エントロピー復号部201は、符号化データをエントロピー復号し、量子化されたレベル値や、サイド情報を出力するように構成されている。
【0039】
逆変換・逆量子化部202は、エントロピー復号部201から入力される量子化されたレベル値に対して逆量子化処理を行い、かかる逆量子化処理により得られた結果に対して逆直交変換処理を行って残差信号として出力するように構成されている。
【0040】
インター予測部203は、フレームバッファ207から入力されるフィルタ後局所復号画像を用いて、インター予測を行ってインター予測画像を生成して出力するように構成されている。
【0041】
イントラ予測部204は、加算部205から入力されるフィルタ前局所復号画像を用いて、イントラ予測を行ってイントラ予測画像を生成して出力するように構成されている。ここで、フィルタ前局所復号画像とは、残差信号と予測画像とを合算した信号のことである
加算部205は、逆変換・逆量子化部202から入力される残差信号と予測画像(インター予測部203から入力されるインター予測画像或いはイントラ予測部204から入力されるイントラ予測画像)とを加算して得られる分割画像を出力するように構成されている。
【0042】
ここで、予測画像とは、インター予測部203から入力されるインター予測画像及びイントラ予測部204から入力されるイントラ予測画像のうち、エントロピー復号により得られた予測方法により算出された予測画像のことである。
【0043】
ブロック統合部208は、加算部205から入力される分割画像を統合することで得られたフィルタ前局所復号画像を出力するように構成されている。
【0044】
インループフィルタ部206は、ブロック統合部208から入力されるフィルタ前局所復号画像に対してデブロックフィルタ処理等のインループフィルタ処理を適用してフィルタ後局所復号画像を生成して出力するように構成されている。
【0045】
フレームバッファ207は、インループフィルタ206から入力されるフィルタ後局所復号画像を蓄積し、適宜、フィルタ後局所復号画像としてインター予測部203に供給するとともに、復号済み画像として出力するように構成されている。
【0046】
以下、
図5を参照して、本実施形態に係る画像復号装置200のエントロピー復号部201について説明する。
図5は、本実施形態に係る画像復号装置200のエントロピー復号部201の一部の機能ブロックの一例を示す図である。
【0047】
図5に示すように、本実施形態に係る画像復号装置200のエントロピー復号部201は、ブロック構造復号部201Aと、判定部201Bと、色差イントラ予測方式復号部201Cとを備える。
【0048】
ブロック構造復号部201Aは、画像符号化装置100によって出力された符号化データを復号して、輝度ブロック分割情報及び色差ブロック分割情報を含むブロック構造を取得するように構成されている。
【0049】
判定部201Bは、輝度ブロック分割情報及び色差ブロック分割情報に基づいて、CCLM方式を適用することができるか否かについて判定するように構成されている。
【0050】
色差イントラ予測方式復号部201Cは、かかる判定結果に応じて、色差イントラ予測方式を復号するように構成されている。具体的には、色差イントラ予測方式復号部201Cは、かかる判定結果に基づく復号テーブルを用いて色差イントラ予測方式を復号するように構成されている。
【0051】
ここで、かかる復号テーブルについては、非特許文献2において定義されている。
【0052】
以下、
図6を参照して、本実施形態に係るエントロピー復号部201の動作の一例について説明する。
【0053】
図6に示すように、ステップS101において、エントロピー復号部201は、符号化データを復号して、輝度ブロック分割情報及び色差ブロック分割情報を取得する。
【0054】
ステップS102において、エントロピー復号部201は、輝度ブロック分割情報及び色差ブロック分割情報に基づいて、CCLM方式を適用することができるか否かについて判定する。
【0055】
ステップS103において、エントロピー復号部201は、かかる判定結果に応じて、色差イントラ予測方式を復号する。
【0056】
本実施形態に係る画像処理システム1によれば、CCLM方式を適用可能な符号化ブロックの分割パターンとサイズに制約を導入し、輝度成分の復号タイミングに対する色差成分の復号タイミングの遅延量の最大値を制限することができる。
【0057】
例えば、CCLM方式を適用可能な最大ブロックサイズを定義し、かかる最大ブロックサイズになるまでは四分木構造で分割されている場合のみ、CCLM方式を選択できることとする。このように、シーケンス単位ではなくブロック単位で、CCLM方式を適用することができるか否かについて判定を行う。
【0058】
(第2実施形態)
以下、本発明の第2実施形態に係る画像処理システム1について、上述の第1実施形態に係る画像処理システム1との相違点に着目して説明する。
【0059】
本実施形態において、判定部104B/201Bは、輝度ブロック分割情報及び色差ブロック分割情報に基づいて、輝度成分における分割パターンと色差成分における分割パターンとが一致している場合に、CCLM方式を適用することができると判定するように構成されている。
【0060】
一方、判定部104B/201Bは、輝度ブロック分割情報及び色差ブロック分割情報に基づいて、輝度成分における分割パターンと色差成分における分割パターンとが一致していない場合に、CCLM方式を適用することができないと判定するように構成されている。
【0061】
(第3実施形態)
以下、本発明の第3実施形態に係る画像処理システム1について、上述の第1実施形態及び第2実施形態に係る画像処理システム1との相違点に着目して説明する。
【0062】
本実施形態において、ブロック構造符号化部104Aは、図示しない制御部により決定された輝度ブロック分割情報と色差ブロック分割情報とブロックサイズとを入力としてフロック構造として符号化して出力するように構成されている。
【0063】
また、ブロック構造復号部201Aは、画像符号化装置100によって出力された符号化データを復号して、輝度ブロック分割情報と色差ブロック分割情報とブロックサイズとを取得するように構成されている。
【0064】
判定部104B/201Bは、上述のブロックサイズが予め定めた閾値よりも大きい場合に、CCLM方式を適用することができないと判定するように構成されている。
【0065】
一方、判定部104B/201Bは、上述のブロックサイズが予め定めた閾値以下である場合に、予め定めたブロックサイズにおける判定結果を用いるように構成されている。
【0066】
例えば、輝度ブロック及び対応する色差ブロックのブロックサイズの閾値は、それぞれ32×32画素及び16×16画素である。
【0067】
また、例えば、輝度成分と色差成分との間で同一の分割パターン(single tree)の場合に、輝度ブロックサイズの閾値は、32×64画素若しくは64×32画素であり、異なる分割パターン(dual tree)の場合に、輝度ブロックサイズの閾値は、32×32画素を選択してもよい。なお、対応する色差ブロックのブロックサイズの閾値は、それぞれ16×32画素、32×16画素、16×16画素となる。これは、輝度成分の分割パターンによらず、32×32画素ブロック2個の遅延を許容することを意味する。
【0068】
(第4実施形態)
以下、
図7を参照して、本発明の第4実施形態に係る画像処理システム1について、上述の第3実施形態に係る画像処理システム1との相違点に着目して説明する。
【0069】
本実施形態において、判定部104B/201Bは、上述のブロックサイズが予め定めた閾値よりも大きい場合に、CCLM方式を適用することができないと判定するように構成されている。
【0070】
一方、判定部104B/201Bは、上述のブロックサイズが予め定めた閾値以下である場合には、
図7に示す判定条件によって、上述の判定を行うように構成されている。
【0071】
すなわち、かかる場合には、判定部104B/201Bは、予め定めたブロックサイズにおける分割が再帰的な四分木分割であり且つ輝度成分における分割パターンと色差成分における分割パターンとが一致している場合に、CCLM方式を適用することができると判定し、それ以外の場合には、CCLM方式を適用することができないと判定するように構成されている。
【0072】
図7に示す判定条件は、符号化ブロックが分割されるごとに適用され、判定部104B/201Bは、CCLM方式を適用することができるか否かについて判定する。
【0073】
また、
図7に示す分割レベルは、ブロックサイズと関係しており、かかる分割レベルの数値が大きくなるほどブロックサイズは小さくなる。
【0074】
図7の例では、判定部104B/201Bは、分割レベルが2である場合で且つ輝度分割形状及び色差分割形状のいずれも四文木である場合にのみ、CCLM方式を適用することができると判定する。ただし、分割レベルが3以上である場合には、分割レベルが2である場合の判定結果が継承される。
【0075】
なお、
図7の例において、判定部104B/201Bは、分割レベルが1である場合(上述のブロックサイズが予め定めた閾値以下である場合)、CCLM方式を適用することができないと判定するように構成されている。