(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-12-13
(54)【発明の名称】CCLMイントラ予測に基づく画像符号化/復号化方法、装置、及びビットストリームを保存する記録媒体
(51)【国際特許分類】
H04N 19/11 20140101AFI20241206BHJP
H04N 19/105 20140101ALI20241206BHJP
H04N 19/136 20140101ALI20241206BHJP
H04N 19/176 20140101ALI20241206BHJP
H04N 19/186 20140101ALI20241206BHJP
H04N 19/593 20140101ALI20241206BHJP
H04N 19/70 20140101ALI20241206BHJP
【FI】
H04N19/11
H04N19/105
H04N19/136
H04N19/176
H04N19/186
H04N19/593
H04N19/70
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024539557
(86)(22)【出願日】2022-12-30
(85)【翻訳文提出日】2024-06-28
(86)【国際出願番号】 KR2022021734
(87)【国際公開番号】W WO2023128704
(87)【国際公開日】2023-07-06
(31)【優先権主張番号】10-2021-0192930
(32)【優先日】2021-12-30
(33)【優先権主張国・地域又は機関】KR
(81)【指定国・地域】
(71)【出願人】
【識別番号】502032105
【氏名又は名称】エルジー エレクトロニクス インコーポレイティド
【氏名又は名称原語表記】LG ELECTRONICS INC.
【住所又は居所原語表記】128, Yeoui-daero, Yeongdeungpo-gu, 07336 Seoul,Republic of Korea
(74)【代理人】
【識別番号】100099759
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100165191
【氏名又は名称】河合 章
(74)【代理人】
【識別番号】100114018
【氏名又は名称】南山 知広
(74)【代理人】
【識別番号】100159259
【氏名又は名称】竹本 実
(72)【発明者】
【氏名】チェ チャンウォン
(72)【発明者】
【氏名】イム チェヒョン
(72)【発明者】
【氏名】ユ ソンミ
(72)【発明者】
【氏名】チェ チョンア
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159LB05
5C159MA04
5C159PP16
5C159RC12
5C159TA31
5C159TA33
5C159TB08
5C159TC26
5C159TC42
5C159TD12
5C159UA02
5C159UA05
(57)【要約】
画像符号化/復号化方法及び装置が提供される。本開示による画像復号化方法は、クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得されることができる。
【選択図】
図15
【特許請求の範囲】
【請求項1】
画像復号化装置によって行われる画像復号化方法であって、
前記画像復号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ(luma)参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、画像復号化方法。
【請求項2】
前記CCLMパラメータを誘導するステップは、
前記クロマブロックに隣接した2つ以上の前記クロマ参照ラインに存在する前記クロマ参照サンプルを用いるLMS(Linear-Mean-Square)に基づいて行われる、請求項1に記載の画像復号化方法。
【請求項3】
前記CCLMパラメータを誘導するステップは、
前記クロマブロックに隣接した2つ以上の前記クロマ参照ラインに存在する前記クロマ参照サンプルのうちの所定の個数を用いる、請求項1に記載の画像復号化方法。
【請求項4】
前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した一番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した二番目の参照ラインに対するサブサンプリング方法とは同一である、請求項1に記載の画像復号化方法。
【請求項5】
前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した一番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した二番目の参照ラインに対するサブサンプリング方法とは異なる、請求項1に記載の画像復号化方法。
【請求項6】
前記クロマブロックの上端境界がCTUの境界と一致するか否かに基づいて、前記クロマ参照サンプルを導出するための前記クロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項7】
前記二つ以上のクロマ参照ラインの数はNであることに基づいて、2N個の複数の上側ルマ参照ラインのうちの2i-1番目の上側ルマ参照ライン及び2i番目の上側ルマ参照ラインに基づいてダウンサンプリングされたi番目の上側ルマ参照ラインを生成し-このとき、iは1~Nの整数である、
前記ルマ参照サンプルは、前記ダウンサンプリングされたN個の上側ルマ参照ラインに基づいて取得される、請求項1に記載の画像復号化方法。
【請求項8】
前記二つ以上のクロマ参照ラインの数はNであることに基づいて、2N+1個の複数の左側ルマ参照ラインのうちの2i-1番目の左側ルマ参照ライン、2i番目の左側ルマ参照ライン及び2i+1番目の左側ルマ参照ラインに基づいてダウンサンプリングされたi番目の左側ルマ参照ラインを生成し-このとき、iは1~Nの整数である、
前記ルマ参照サンプルは、前記ダウンサンプリングされたN個の左側ルマ参照ラインに基づいて取得される、請求項1に記載の画像復号化方法。
【請求項9】
前記クロマブロックの大きさと所定のしきい値との比較に基づいて、前記CCLMパラメータの誘導に用いられるクロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項10】
前記クロマブロックに適用されるCCLMの種類に基づいて、前記CCLMパラメータの誘導に用いられるクロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項11】
前記CCLMパラメータを誘導するステップは、
前記ルマ参照サンプル及び前記クロマ参照サンプルを所定のしきい値に基づいて2つ以上のグループに分類するステップと、
分類された前記グループ別にCCLMパラメータを誘導するステップと、をさらに含む、請求項1に記載の画像復号化方法。
【請求項12】
画像符号化装置によって行われる画像符号化方法であって、
前記符号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、画像符号化方法。
【請求項13】
画像符号化方法によって生成されたビットストリームを保存するコンピュータ可読記録媒体において、
前記画像符号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、コンピュータ可読記録媒体。
【請求項14】
画像符号化方法によって生成されたビットストリームを伝送する方法において、
前記画像符号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、ビットストリーム伝送方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像符号化/復号化方法、装置、及びビットストリームを保存する記録媒体に関し、より詳細には、CCLM(Cross-component linear model)イントラ予測に基づく画像符号化/復号化方法、装置、及び本開示の画像符号化方法/装置によって生成されたビットストリームを保存する記録媒体に関する。
【背景技術】
【0002】
最近、高解像度、高品質の画像、例えばHD(High Definition)画像及びUHD(Ultra High Definition)画像への需要が多様な分野で増加している。画像データが高解像度、高品質になるほど、従来の画像データに比べて、伝送される情報量又はビット量が相対的に増加する。伝送される情報量又はビット量の増加は、伝送費用と保存費用の増加をもたらす。
【0003】
これにより、高解像度、高品質画像の情報を効果的に伝送又は保存し、再生するための高効率の画像圧縮技術が求められる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本開示は、符号化/復号化効率が向上した画像符号化/復号化方法及び装置を提供することを目的とする。
【0005】
また、本開示は、CCLM(Cross-component linear model)イントラ予測を行う画像符号化/復号化方法及び装置を提供することを目的とする。
【0006】
また、本開示は、複数の参照ライン基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置を提供することを目的とする。
【0007】
また、本開示は、向上したLMS(Linear-Mean-Square)基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置を提供することを目的とする。
【0008】
また、本開示は、向上した所定の個数の画素を用いた線形モデルCCLMイントラ予測を行う画像符号化/復号化方法及び装置を提供することを目的とする。
【0009】
また、本開示は、適応的に複数の参照ライン基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置を提供することを目的とする。
【0010】
また、本開示は、本開示による画像符号化方法又は装置によって生成されたビットストリームを保存する非一時的コンピュータ可読記録媒体を提供することを目的とする。
【0011】
また、本開示は、本開示による画像復号化装置によって受信され、復号化されて画像の復元に用いられるビットストリームを保存する非一時的コンピュータ可読記録媒体を提供することを目的とする。
【0012】
また、本開示は、本開示による画像符号化方法又は装置によって生成されたビットストリームを伝送する方法を提供することを目的とする。
【0013】
本開示で解決しようとする技術的課題は上述した技術的課題に制限されず、上述していない別の技術的課題は以降の記載から本開示の属する技術分野における通常の知識を有する者に明確に理解できるだろう。
【課題を解決するための手段】
【0014】
本開示の一実施例によれば、画像復号化装置によって行われる画像復号化方法であって、前記画像復号化方法は、クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ(luma)参照サンプルを導出するステップと、前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得され得る。
【0015】
本開示の一実施例によれば、前記CCLMパラメータを誘導するステップは、前記クロマブロックに隣接した2つ以上の前記クロマ参照ラインに存在する前記クロマ参照サンプルを用いるLMS(Linear-Mean-Square)に基づいて行われることができる。
【0016】
本開示の一実施例によれば、前記CCLMパラメータを誘導するステップは、前記クロマブロックに隣接した2つ以上の前記クロマ参照ラインに存在する前記クロマ参照サンプルのうちの所定の個数を用いることができる。
【0017】
本開示の一実施例によれば、前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した一番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した二番目の参照ラインに対するサブサンプリング方法とは同一であり得る。
【0018】
本開示の一実施例によれば、前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した一番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した二番目の参照ラインに対するサブサンプリング方法とは異なり得る。
【0019】
本開示の一実施例によれば、前記クロマブロックの上端境界がCTUの境界と一致するか否かに基づいて、前記クロマ参照サンプルを導出するための前記クロマ参照ラインの個数が異なるように決定できる。
【0020】
本開示の一実施例によれば、複数の上側ルマ参照ラインは、一番目~四番目の上側参照ラインを含み、前記一番目の上側参照ライン及び前記二番目の上側参照ラインに基づいてダウンサンプリングされた第1参照ラインを生成し、前記三番目の上側参照ライン及び前記四番目の上側参照ラインに基づいてダウンサンプリングされた第2参照ラインを生成し、前記ルマ参照サンプルは、ダウンサンプリングされた前記第1参照ライン及び前記第2参照ラインに基づいて取得され得る。
【0021】
本開示の一実施例によれば、複数の左側ルマ参照ラインは、一番目~五番目の左側参照ラインを含み、前記一番目の左側参照ライン、前記二番目の左側参照ライン及び前記三番目の左側参照ラインに基づいてダウンサンプリングされた第3参照ラインを生成し、前記三番目の左側参照ライン、前記四番目の左側参照ライン及び前記五番目の左側参照ラインに基づいてダウンサンプリングされた第4参照ラインを生成し、前記ルマ参照サンプルは、ダウンサンプリングされた前記第3参照ライン及び前記第4参照ラインに基づいて取得され得る。
【0022】
本開示の一実施例によれば、前記クロマブロックの大きさと所定のしきい値との比較に基づいて、前記CCLMパラメータの誘導に用いられるクロマ参照ラインの個数が異なるように決定できる。
【0023】
本開示の一実施例によれば、前記クロマブロックに適用されるCCLMの種類に基づいて、前記CCLMパラメータの誘導に用いられるクロマ参照ラインの個数が異なるように決定できる。
【0024】
本開示の一実施例によれば、前記CCLMパラメータを誘導するステップは、前記ルマ参照サンプル及び前記クロマ参照サンプルを所定のしきい値に基づいて2つ以上のグループに分類するステップと、分類された前記グループ別にCCLMパラメータを誘導するステップと、をさらに含むことができる。
【0025】
本開示の一実施例によれば、画像符号化装置によって行われる画像符号化方法であって、前記符号化方法は、クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得され得る。
【0026】
本開示の一実施例によれば、画像符号化方法によって生成されたビットストリームを保存するコンピュータ可読記録媒体において、前記画像符号化方法は、クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得され得る。
【0027】
本開示の一実施例によれば、画像符号化方法によって生成されたビットストリームを伝送する方法において、前記画像符号化方法は、クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを誘導するステップと、前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得され得る。
【発明の効果】
【0028】
本開示によれば、符号化/復号化効率が向上した画像符号化/復号化方法及び装置が提供されることができる。
【0029】
また、本開示によれば、CCLM(Cross-component linear model)イントラ予測を行う画像符号化/復号化方法及び装置が提供されることができる。
【0030】
また、本開示によれば、複数の参照ライン基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置が提供されることができる。
【0031】
また、本開示によれば、向上したLMS(Linear-Mean_Square)基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置が提供されることができる。
【0032】
また、本開示によれば、向上した所定の個数の画素を用いた線形モデルCCLMイントラ予測を行う画像符号化/復号化方法及び装置が提供されることができる。
【0033】
また、本開示によれば、適応的に複数の参照ライン基盤のCCLMイントラ予測を行う画像符号化/復号化方法及び装置が提供されることができる。
【0034】
また、本開示によれば、本開示による画像符号化方法又は装置によって生成されたビットストリームを保存する非一時的コンピュータ可読記録媒体が提供されることができる。
【0035】
また、本開示によれば、本開示による画像復号化装置によって受信され、復号化されて画像の復元に用いられるビットストリームを保存する非一時的コンピュータ可読記録媒体が提供されることができる。
【0036】
本開示によれば、本開示による画像符号化方法又は装置によって生成されたビットストリームを伝送する方法が提供されることができる。
【0037】
本開示で得られる効果は、上述した効果に限定されず、上述していない別の効果は、以降の記載から、本開示の属する技術分野における通常の知識を有する者に明確に理解できるだろう。
【図面の簡単な説明】
【0038】
【
図1】本開示による実施例が適用できるビデオコーディングシステムを概略的に示す図である。
【
図2】本開示による実施例が適用できる画像符号化装置を概略的に示す図である。
【
図3】本開示による実施例が適用できる画像復号化装置を概略的に示す図である。
【
図4】イントラ予測に基づくビデオ/画像符号化方法を示すフローチャートである。
【
図5】本開示によるイントラ予測部の構成を例示的に示す図である。
【
図6】イントラ予測に基づくビデオ/画像復号化方法を示すフローチャートである。
【
図7】本開示によるイントラ予測部の構成を例示的に示す図である。
【
図8】本開示の一実施例によるイントラ予測のための多重参照ラインを示す図である。
【
図9】本開示の一実施例によるCCLM(Cross-component linear model)パラメータ導出のために用いられる隣接サンプルの位置を示す図である。
【
図10】本開示の一実施例によるMMLM(Multi-model linear model)のパラメータを誘導するために隣接サンプルを2つのグループに分類した例を示す図である。
【
図11】本開示の一実施例によるCCLMパラメータ誘導のための参照サンプル選択方法を説明するための図である。
【
図12】本開示の一実施例によるLM_AモードでCCLMパラメータ誘導のための参照サンプル選択方法を説明するための図である。
【
図13】本開示の一実施例による非正方形(non-square)ブロックにおいて参照サンプルを選択する方法の例を示す。
【
図14a】本開示の他の実施例による非正方形(non-square)ブロックにおいて参照サンプルを選択する方法の例を示す。
【
図14b】本開示の別の実施例による非正方形(non-square)ブロックにおいて参照サンプルを選択する方法の例を示す。
【
図15】本開示の一実施例によるCCLM予測方法を示すフローチャートである。
【
図16】現在クロマブロックの上端境界がCTUの境界と一致する場合のCCLM適用方法の例を示す。
【
図17】現在クロマブロックの大きさに基づいて複数の参照ライン基盤のCLMの適用有無を決定する本開示の実施例を説明するための図である。
【
図18】現在クロマブロックに適用されるCCLMの種類に基づいてCCLMの適用有無を決定する本開示の実施例を説明するための図である。
【
図19】本開示による実施例が適用できるコンテンツストリーミングシステムを例示的に示す図である。
【発明を実施するための形態】
【0039】
以下、添付図面を参照して、本開示の実施例について、本開示の属する技術分野における通常の知識を有する者が容易に実施し得るように詳細に説明する。しかし、本開示は、様々な異なる形態で実現でき、ここで説明する実施例に限定されない。
【0040】
本開示の実施例を説明するにあたり、公知の構成又は機能についての具体的な説明が本開示の要旨を不明確にするおそれがあると判断される場合には、それについての詳細な説明は省略する。そして、図面において、本開示についての説明と関係ない部分は省略し、同様の部分には同様の図面符号を付した。
【0041】
本開示において、ある構成要素が他の構成要素と「連結」、「結合」又は「接続」されているとするとき、これは、直接的な連結関係だけでなく、それらの間に別の構成要素が存在する間接的な連結関係も含むことができる。また、ある構成要素が他の構成要素を「含む」又は「有する」とするとき、これは、特に反対される記載がない限り、別の構成要素を排除するのではなく、別の構成要素をさらに含むことができることを意味する。
【0042】
本開示において、「第1」、「第2」などの用語は、一つの構成要素を他の構成要素から区別する目的のみで使用され、特に言及されない限り、構成要素間の順序又は重要度などを限定しない。したがって、本開示の範囲内において、一実施例の第1構成要素を他の実施例で第2構成要素と呼んでもよく、これと同様に、一実施例の第2構成要素を他の実施例で第1構成要素と呼んでもよい。
【0043】
本開示において、互いに区別される構成要素は、それぞれの特徴を明確に説明するためのものであり、構成要素が必ずしも分離されることを意味するものではない。つまり、複数の構成要素が統合されて一つのハードウェア又はソフトウェア単位で構成されてもよく、一つの構成要素が分散されて複数のハードウェア又はソフトウェア単位で構成されてもよい。よって、別に言及しなくても、このように統合された又は分散された実施例も本開示の範囲に含まれる。
【0044】
本開示において、さまざまな実施例で説明する構成要素が必ず必要不可欠な構成要素を意味するものではなく、一部は選択的な構成要素であり得る。したがって、一実施例で説明する構成要素の部分集合で構成される実施例も本開示の範囲に含まれる。また、様々な実施例で説明する構成要素にさらに他の構成要素を含む実施例も、本開示の範囲に含まれる。
【0045】
本開示は、画像の符号化及び復号化に関するものであって、本開示で使用される用語は、本開示で新たに定義されない限り、本開示の属する技術分野における通常の意味を持つことができる。
【0046】
本開示において、「ビデオ(video)」は、時間の流れによる一連の画像(image)の集合を意味することができる。
【0047】
本開示において、「ピクチャ(picture)」は、一般的に、特定の時間帯のいずれか一つの画像を示す単位を意味し、スライス(slice)/タイル(tile)は、ピクチャの一部を構成する符号化単位であって、一つのピクチャは、一つ以上のスライス/タイルで構成できる。また、スライス/タイルは、一つ以上のCTU(coding tree unit)を含むことができる。
【0048】
本開示において、「ピクセル(pixel)」又は「ペル(pel)」は、一つのピクチャ(又は画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用できる。サンプルは、一般的に、ピクセル又はピクセルの値を示すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを示すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを示すこともできる。
【0049】
本開示において、「ユニット(unit)」は、画像処理の基本単位を示すことができる。ユニットは、ピクチャの特定の領域及び当該領域に関連する情報のうちの少なくとも一つを含むことができる。ユニットは、場合に応じて、「サンプルアレイ」、「ブロック(block)」又は「領域(area)」などの用語と混用して使用できる。一般な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(又はサンプルアレイ)又は変換係数(transform coefficient)のセット(又はアレイ)を含むことができる。
【0050】
本開示において、「現在ブロック」は、「現在コーディングブロック」、「現在コーディングユニット」、「符号化対象ブロック」、「復号化対象ブロック」又は「処理対象ブロック」のうちのいずれか一つを意味することができる。予測が行われる場合、「現在ブロック」は、「現在予測ブロック」又は「予測対象ブロック」を意味することができる。変換(逆変換)/量子化(逆量子化)が行われる場合、「現在ブロック」は「現在変換ブロック」又は「変換対象ブロック」を意味することができる。フィルタリングが行われる場合、「現在ブロック」は「フィルタリング対象ブロック」を意味することができる。
【0051】
また、本開示において、「現在ブロック」は、クロマブロックという明示的な記載がない限り、ルマ成分ブロックとクロマ成分ブロックを全て含むブロック又は「現在ブロックのルマブロック」を意味することができる。現在ブロックのルマ成分ブロックは、明示的に「ルマブロック」又は「現在ルマブロック」のようにルマ成分ブロックという明示的な記載を含んで表現できる。また、現在ブロックのクロマ成分ブロックは、明示的に「クロマブロック」又は「現在クロマブロック」のようにクロマ成分ブロックという明示的な記載を含んで表現できる。
【0052】
本開示において、「/」と「、」は「及び/又は」と解釈されることができる。例えば、「A/B」と「A、B」は「A及び/又はB」と解釈されることができる。また、「A/B/C」と「A、B、C」は、「A、B及び/又はCのうちの少なくとも一つ」を意味することができる。
【0053】
本開示において、「又は」は「及び/又は」と解釈されることができる。例えば、「A又はB」は、1)「A」のみを意味するか、2)「B」のみを意味するか、3)「A及びB」を意味することができる。又は、本開示において、「又は」は、「追加的に又は代替的に(additionally or alternatively)」を意味することができる。
【0054】
本開示において、「少なくとも一つのA、B及びC」は、「Aのみ」、「Bのみ」、「Cのみ」、又は「A、B及びCの任意のすべての組み合わせ」を意味することができる。また、「少なくとも一つのA、B又はC」又は「少なくとも一つのA、B及び/又はC」は、「少なくとも一つのA、B及びC」を意味することができる。
【0055】
本開示で用いられる括弧は、「例えば」を意味することができる。例えば、「予測(イントラ予測)」と表示された場合、「予測」の一例として「イントラ予測」が提案されたものであり得る。言い換えれば、本開示の「予測」は、「イントラ予測」に限定されず、「イントラ予測」が「予測」の一例として提案されたものであり得る。また、「予測(すなわち、イントラ予測)」と表示された場合にも、「予測」の一例として「イントラ予測」が提案されたものであり得る。
【0056】
ビデオコーディングシステムの概要
【0057】
図1は、本開示による実施例が適用できるビデオコーディングシステムを概略的に示す図である。
【0058】
一実施例によるビデオコーディングシステムは、符号化装置10及び復号化装置20を含むことができる。符号化装置10は、符号化されたビデオ(video)及び/又は画像(image)情報又はデータをファイル又はストリーミング形式でデジタル記憶媒体又はネットワークを介して復号化装置20へ伝達することができる。
【0059】
一実施例による符号化装置10は、ビデオソース生成部11、符号化部12及び伝送部13を含むことができる。一実施例による復号化装置20は、受信部21、復号化部22及びレンダリング部23を含むことができる。前記符号化部12は、ビデオ/画像符号化部と呼ばれることができ、前記復号化部22は、ビデオ/画像復号化部と呼ばれることができる。伝送部13は、符号化部12に含まれることができる。受信部21は、復号化部22に含まれることができる。レンダリング部23は、ディスプレイ部を含むこともでき、ディスプレイ部は、別個のデバイス又は外部コンポーネントとして構成されることもできる。
【0060】
ビデオソース生成部11は、ビデオ/画像のキャプチャ、合成又は生成過程などを介してビデオ/画像を取得することができる。ビデオソース生成部11は、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、一つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを含むことができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット及びスマートフォンなどを含むことができ、(電子的に)ビデオ/画像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、ビデオ/画像キャプチャ過程は、関連データが生成される過程に置き換えられることができる。
【0061】
符号化部12は、入力ビデオ/画像を符号化することができる。符号化部12は、圧縮及び符号化効率のために、予測、変換、量子化などの一連の手順を行うことができる。符号化部12は、符号化されたデータ(符号化されたビデオ/画像情報)をビットストリーム(bitstream)形式で出力することができる。
【0062】
伝送部13は、ビットストリーム形式で出力された、符号化されたビデオ/画像情報又はデータを取得することができ、これをファイル又はストリーミング形式でデジタル記憶媒体又はネットワークを介して復号化装置20の受信部21又は他の外部オブジェクトに伝達することができる。デジタル記憶媒体は、USB、SD、CD、DVD、Blu-ray(登録商標)、HDD、SSDなどのさまざまな記憶媒体を含むことができる。伝送部13は、予め定められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介して伝送するためのエレメントを含むことができる。伝送部13は、符号化部120とは別個の伝送装置として備えられることができ、この場合、伝送装置は、ビットストリーム形式で出力された、符号化されたビデオ/画像情報又はデータを取得する少なくとも一つのプロセッサとこれをファイル又はストリーム形式で伝達する伝送部を含むことができる。この受信部21は、前記記憶媒体又はネットワークから前記ビットストリームを抽出/受信して復号化部22に伝達することができる。
【0063】
復号化部22は、符号化部12の動作に対応する逆量子化、逆変換、予測などの一連の手順を行ってビデオ/画像を復号化することができる。
【0064】
レンダリング部23は、復号化されたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介して表示されることができる。
【0065】
画像符号化装置の概要
【0066】
図2は、本開示による実施例が適用できる画像符号化装置を概略的に示す図である。
【0067】
図2に示されているように、画像符号化装置100は、画像分割部110、減算部115、変換部120、量子化部130、逆量子化部140、逆変換部150、加算部155、フィルタリング部160、メモリ170、インター予測部180、イントラ予測部185及びエントロピー符号化部190を含むことができる。インター予測部180及びイントラ予測部185は、合わせて「予測部」と呼ばれることができる。変換部120、量子化部130、逆量子化部140及び逆変換部150は、レジデュアル(residual)処理部に含まれることができる。レジデュアル処理部は減算部115をさらに含むこともできる。
【0068】
画像符号化装置100を構成する複数の構成部の全部又は少なくとも一部は、実施例によって一つのハードウェアコンポーネント(例えば、エンコーダ又はプロセッサ)で実現されることができる。また、メモリ170は、DPB(decoded picture buffer)を含むことができ、デジタル記憶媒体によって実現できる。
【0069】
画像分割部110は、画像符号化装置100に入力された入力画像(又は、ピクチャ、フレーム)を一つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)又は最大コーディングユニット(largest coding unit、LCU)をQT/BT/TT(Quad-tree/binary-tree/ternary-tree)構造によって再帰的に(recursively)分割することにより取得されることができる。例えば、一つのコーディングニットは、四分木構造、二分木構造及び/又は三分木構造に基づいて、下位(deeper)デプスの複数のコーディングユニットに分割されることができる。コーディングユニットの分割のために、四分木構造が先に適用され、二分木構造及び/又は三分木構造が後で適用されることができる。それ以上分割されない最終コーディングユニットを基に、本開示によるコーディング手順が行われることができる。最大コーディングユニットが最終コーディングユニットとして使用されることができ、最大コーディングユニットを分割して取得した下位デプスのコーディングユニットが最終コーディングユニットとして使用されることもできる。ここで、コーディング手順とは、後述する予測、変換及び/又は復元などの手順を含むことができる。他の例として、前記コーディング手順の処理ユニットは、予測ユニット(PU:Prediction Unit)又は変換ユニット(TU:Transform Unit)であることができる。前記予測ユニット及び前記変換ユニットは、それぞれ前記最終コーディングユニットから分割又はパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であることができ、前記変換ユニットは、変換係数を誘導する単位、及び/又は変換係数からレジデュアル信号(residual signal)を誘導する単位であることができる。
【0070】
予測部(インター予測部180又はイントラ予測部185)は、処理対象ブロック(現在ブロック)に対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、現在ブロック又はCU単位でイントラ予測が適用されるか、或いはインター予測が適用されるかを決定することができる。予測部は、現在ブロックの予測に関するさまざまな情報を生成してエントロピー符号化部190に伝達することができる。予測に関する情報は、エントロピー符号化部190で符号化されてビットストリーム形式で出力されることができる。
【0071】
イントラ予測部185は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。参照される前記サンプルは、イントラ予測モード及び/又はイントラ予測技法に従って、前記現在ブロックの周辺(neighbor)に位置することもでき、或いは離れて位置することもできる。イントラ予測モードは、複数の非方向性モードと複数の方向性モードを含むことができる。非方向性モードは、例えば、DCモード及びプランナーモード(Planarモード)を含むことができる。方向性モードは、予測方向の細かい程度に応じて、例えば33個の方向性予測モード又は65個の方向性予測モードを含むことができる。ただし、これは例示に過ぎず、設定に基づいてそれ以上又はそれ以下の個数の方向性予測モードが使用できる。イントラ予測部185は、周辺ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
【0072】
インター予測部180は、参照ピクチャ上で動きベクトルによって特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。この時、インター予測モードで伝送される動き情報の量を減らすために、周辺ブロックと現在ブロックとの動き情報の相関性に基づいて動き情報をブロック、サブブロック又はサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測など)情報をさらに含むことができる。インター予測の場合、周辺ブロックは、現在ピクチャ内に存在する空間周辺ブロック(spatial neighboring block)と、参照ピクチャに存在する時間周辺ブロック(temporal neighboring block)を含むことができる。前記参照ブロックを含む参照ピクチャと、前記時間周辺ブロックを含む参照ピクチャとは、同一でもよく、互いに異なってもよい。前記時間周辺ブロックは、コロケート参照ブロック(collocated reference block)、コロケートCU(colCU)などの名前で呼ばれることができる。前記時間周辺ブロックを含む参照ピクチャは、コロケートピクチャ(collocated picture、colPic)と呼ばれることができる。例えば、インター予測部180は、周辺ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するために、どの候補が使用されるかを指示する情報を生成することができる。様々な予測モードに基づいてインター予測が行われることができ、例えばスキップモードとマージモードの場合に、インター予測部180は、周辺ブロックの動き情報を現在ブロックの動き情報として用いることができる。スキップモードの場合、マージモードとは異なり、レジデュアル信号が伝送されないことができる。動き情報予測(motion vector prediction、MVP)モードの場合、周辺ブロックの動きベクトルを動きベクトル予測子(motion vector predictor)として用い、動きベクトル差分(motion vector difference)及び動きベクトル予測子に対するインジケータ(indicator)を符号化することにより、現在ブロックの動きベクトルをシグナリングすることができる。動きベクトル差分は、現在ブロックの動きベクトルと動きベクトル予測子との差を意味することができる。
【0073】
予測部は、後述する様々な予測方法及び/又は予測技法に基づいて予測信号を生成することができる。例えば、予測部は、現在ブロックの予測のために、イントラ予測又はインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用することができる。現在ブロックの予測のためにイントラ予測とインター予測を同時に適用する予測方法は、CIIP(combined inter and intra prediction)と呼ばれることができる。また、予測部は、現在ブロックの予測のためにイントラブロックコピー(intra block copy、IBC)を行うこともできる。イントラブロックコピーは、例えば、SCC(screen content coding)などのようにゲームなどのコンテンツ画像/動画コーディングのために使用できる。IBCは、現在ブロックから所定の距離だけ離れた位置の現在ピクチャ内の既に復元された参照ブロックを用いて現在ブロックを予測する方法である。IBCが適用される場合、現在ピクチャ内の参照ブロックの位置は、前記所定の距離に該当するベクトル(ブロックベクトル)として符号化されることができる。IBCは、基本的に現在ピクチャ内で予測を行うが、現在ピクチャ内で参照ブロックを導出するという点で、インター予測と同様に行われることができる。すなわち、IBCは、本開示で説明されるインター予測技法のうちの少なくとも一つを用いることができる。
【0074】
予測部によって生成された予測信号は、復元信号を生成するために用いられるか、或いはレジデュアル信号を生成するために用いられることができる。減算部115は、入力画像信号(原本ブロック、原本サンプルアレイ)から、予測部から出力された予測信号(予測されたブロック、予測サンプルアレイ)を減算して、レジデュアル信号(residual signal、残余ブロック、残余サンプルアレイ)を生成することができる。生成されたレジデュアル信号は、変換部120に伝送されることができる。
【0075】
変換部120は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成することができる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、KLT(Karhunen-Loeve Transform)、GBT(Graph-Based Transform)、又はCNT(Conditionally Non-linear Transform)のうちの少なくとも一つを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとするとき、このグラフから得られた変換を意味する。CNTは、以前に復元されたすべてのピクセル(all previously reconstructed pixel)を用いて予測信号を生成し、それに基づいて取得される変換を意味する。変換過程は、正方形の同じサイズを有するピクセルブロックに適用されることもでき、正方形ではない、可変サイズのブロックに適用されることもできる。
【0076】
量子化部130は、変換係数を量子化してエントロピー符号化部190に伝送することができる。エントロピー符号化部190は、量子化された信号(量子化された変換係数に関する情報)を符号化してビットストリーム形式で出力することができる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部130は、係数スキャン順序(scan order)に基づいて、ブロック形式の量子化された変換係数を1次元ベクトル形式で再整列することができ、前記1次元ベクトル形式の量子化された変換係数に基づいて、前記量子化された変換係数に関する情報を生成することもできる。
【0077】
エントロピー符号化部190は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などの様々な符号化方法を行うことができる。エントロピー符号化部190は、量子化された変換係数の他に、ビデオ/画像復元に必要な情報(例えば、シンタックス要素(syntax elements)の値など)を一緒に又は別々に符号化することもできる。符号化された情報(例えば、符号化されたビデオ/画像情報)は、ビットストリーム形式でNAL(network abstraction layer)ユニット単位で伝送又は保存されることができる。前記ビデオ/画像情報は、適応パラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)又はビデオパラメータセット(VPS)などの様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本開示で言及されたシグナリング情報、伝送される情報及び/又はシンタックス要素は、上述した符号化手順を介して符号化されて前記ビットストリームに含まれることができる。
【0078】
前記ビットストリームは、ネットワークを介して伝送されることができ、又はデジタル記憶媒体に保存されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル記憶媒体は、USB、SD、CD、DVD、Blu-ray、HDD、SSDなどのさまざまな記憶媒体を含むことができる。エントロピー符号化部190から出力された信号を伝送する伝送部(図示せず)及び/又は保存する保存部(図示せず)が画像符号化装置100の内/外部要素として備えられることができ、又は伝送部はエントロピー符号化部190の構成要素として備えられることもできる。
【0079】
量子化部130から出力された、量子化された変換係数は、レジデュアル信号を生成するために用いられることができる。例えば、量子化された変換係数に逆量子化部140及び逆変換部150を介して逆量子化及び逆変換を適用することにより、レジデュアル信号(レジデュアルブロック又はレジデュアルサンプル)を復元することができる。
【0080】
加算部155は、復元されたレジデュアル信号をインター予測部180又はイントラ予測部185から出力された予測信号に加えることにより、復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。加算部155は、復元部又は復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するようにフィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
【0081】
一方、ピクチャ符号化及び/又は復元過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
【0082】
フィルタリング部160は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部160は、復元ピクチャに様々なフィルタリング方法を適用して、修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ170、具体的にはメモリ170のDPBに保存することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、双方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部160は、各フィルタリング方法についての説明で後述するようにフィルタリングに関する様々な情報を生成してエントロピー符号化部190に伝達することができる。フィルタリングに関する情報は、エントロピー符号化部190で符号化されてビットストリーム形式で出力されることができる。
【0083】
メモリ170に伝送された、修正された復元ピクチャは、インター予測部180で参照ピクチャとして使用されることができる。画像符号化装置100は、これを介してインター予測が適用される場合、画像符号化装置100と画像復号化装置での予測ミスマッチを回避することができ、符号化効率も向上させることができる。
【0084】
メモリ170内のDPBは、インター予測部180での参照ピクチャとして使用するために、修正された復元ピクチャを保存することができる。メモリ170は、現在ピクチャ内の動き情報が導出された(又は符号化された)ブロックの動き情報及び/又は既に復元されたピクチャ内ブロックの動き情報を保存することができる。前記保存された動き情報は、空間周辺ブロックの動き情報又は時間周辺ブロックの動き情報として活用するために、インター予測部180に伝達されることができる。メモリ170は、現在ピクチャ内の復元されたブロックの復元サンプルを保存することができ、イントラ予測部185に伝達することができる。
【0085】
画像復号化装置の概要
【0086】
図3は、本開示による実施例が適用できる画像復号化装置を概略的に示す図である。
【0087】
図3に示されているように、画像復号化装置200は、エントロピー復号化部210、逆量子化部220、逆変換部230、加算部235、フィルタリング部240、メモリ250、インター予測部260及びイントラ予測部265を含んで構成できる。インター予測部260及びイントラ予測部265を合わせて「予測部」と呼ばれることができる。逆量子化部220、逆変換部230はレジデュアル処理部に含まれることができる。
【0088】
画像復号化装置200を構成する複数の構成部の全部又は少なくとも一部は、実施例によって一つのハードウェアコンポーネント(例えば、デコーダ又はプロセッサ)で実現されることができる。また、メモリ170は、DPBを含むことができ、デジタル記憶媒体によって実現できる。
【0089】
ビデオ/画像情報を含むビットストリームを受信した画像復号化装置200は、
図2の画像符号化装置100で行われたプロセスに対応するプロセスを実行して画像を復元することができる。例えば、画像復号化装置200は、画像符号化装置で適用された処理ユニットを用いて復号化を行うことができる。したがって、復号化の処理ユニットは、例えばコーディングユニットであることができる。コーディングユニットは、コーディングツリーユニット又は最大コーディングユニットを分割して取得できる。そして、画像復号化装置200を介して復号化及び出力された復元画像信号は、再生装置(図示せず)を介して再生できる。
【0090】
画像復号化装置200は、
図2の画像符号化装置から出力された信号をビットストリーム形式で受信することができる。受信された信号は、エントロピー復号化部210を介して復号化できる。例えば、エントロピー復号化部210は、前記ビットストリームをパーシングして画像復元(又はピクチャ復元)に必要な情報(例えば、ビデオ/画像情報)を導出することができる。前記ビデオ/画像情報は、適応パラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)又はビデオパラメータセット(VPS)などの様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。画像復号化装置は、画像を復号化するために、前記パラメータセットに関する情報及び/又は前記一般制限情報をさらに用いることができる。本開示で言及されたシグナリング情報、受信される情報及び/又はシンタックス要素は、前記復号化手順を介して復号化されることにより、前記ビットストリームから取得されることができる。例えば、エントロピー復号化部210は、指数ゴロム符号化、CAVLC又はCABACなどのコーディング方法に基づいてビットストリーム内の情報を復号化し、画像復元に必要なシンタックス要素の値、レジデュアルに関する変換係数の量子化された値を出力することができる。より詳細には、CABACエントロピー復号化方法は、ビットストリームから各シンタックス要素に該当するビン(bin)を受信し、復号化対象シンタックス要素情報と周辺ブロック及び復号化対象ブロックの復号化情報、或いは以前ステップで復号化されたシンボル/ビンの情報を用いてコンテキスト(context)モデルを決定し、決定されたコンテキストモデルに基づいてビン(bin)の発生確率を予測してビンの算術復号化(arithmetic decoding)を行うことにより、各シンタックス要素の値に該当するシンボルを生成することができる。この時、CABACエントロピー復号化方法は、コンテキストモデルの決定後、次のシンボル/ビンのコンテキストモデルのために、復号化されたシンボル/ビンの情報を用いてコンテキストモデルを更新することができる。エントロピー復号化部210で復号化された情報のうち、予測に関する情報は、予測部(インター予測部260及びイントラ予測部265)に提供され、エントロピー復号化部210でエントロピー復号化が行われたレジデュアル値、すなわち量子化された変換係数及び関連パラメータ情報は、逆量子化部220に入力されることができる。また、エントロピー復号化部210で復号化された情報のうち、フィルタリングに関する情報は、フィルタリング部240に提供されることができる。一方、画像符号化装置から出力された信号を受信する受信部(図示せず)が画像復号化装置200の内/外部要素としてさらに備えられることができ、又は受信部はエントロピー復号化部210の構成要素として備えられることもできる。
【0091】
一方、本開示による画像復号化装置は、ビデオ/画像/ピクチャ復号化装置と呼ばれることができる。前記画像復号化装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及び/又はサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)を含むこともできる。前記情報デコーダは、エントロピー復号化部210を含むことができ、前記サンプルデコーダは、逆量子化部220、逆変換部230、加算部235、フィルタリング部240、メモリ250、インター予測部260及びイントラ予測部265のうちの少なくとも一つを含むことができる。
【0092】
逆量子化部220では、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部220は、量子化された変換係数を2次元のブロック形式で再整列することができる。この場合、前記再整列は、画像符号化装置で行われた係数スキャン順序に基づいて行われることができる。逆量子化部220は、量子化パラメータ(例えば、量子化ステップサイズ情報)を用いて、量子化された変換係数に対する逆量子化を行い、変換係数(transform coefficient)を取得することができる。
【0093】
逆変換部230では、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得することができる。
【0094】
予測部は、現在ブロックに対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピー復号化部210から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか或いはインター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モード(予測技法)を決定することができる。
【0095】
予測部が後述の様々な予測方法(技法)に基づいて予測信号を生成することができるのは、画像符号化装置100の予測部についての説明で述べたのと同様である。
【0096】
イントラ予測部265は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。イントラ予測部185についての説明は、イントラ予測部265に対しても同様に適用されることができる。
【0097】
インター予測部260は、参照ピクチャ上で動きベクトルによって特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。この時、インター予測モードで伝送される動き情報の量を減らすために、周辺ブロックと現在ブロックとの動き情報の相関性に基づいて動き情報をブロック、サブブロック又はサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測など)情報をさらに含むことができる。インター予測の場合に、周辺ブロックは、現在ピクチャ内に存在する空間周辺ブロック(spatial neighboring block)と参照ピクチャに存在する時間周辺ブロック(temporal neighboring block)を含むことができる。例えば、インター予測部260は、周辺ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出することができる。様々な予測モード(技法)に基づいてインター予測が行われることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモード(技法)を指示する情報を含むことができる。
【0098】
加算部235は、取得されたレジデュアル信号を予測部(インター予測部260及び/又はイントラ予測部265を含む)から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加えることにより、復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用できる。加算部155についての説明は、加算部235に対しても同様に適用できる。加算部235は、復元部又は復元ブロック生成部と呼ばれることもある。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するようにフィルタリングを介して次のピクチャのインター予測のために使用されることもできる。
【0099】
フィルタリング部240は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部240は、復元ピクチャに様々なフィルタリング方法を適用して、修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ250、具体的にはメモリ250のDPBに保存することができる。前記様々なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、双方向フィルタ(bilateral filter)などを含むことができる。
【0100】
メモリ250のDPBに保存された(修正された)復元ピクチャは、インター予測部260で参照ピクチャとして使用されることができる。メモリ250は、現在ピクチャ内の動き情報が導出された(又は復号化された)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を保存することができる。前記保存された動き情報は、空間周辺ブロックの動き情報又は時間周辺ブロックの動き情報として活用するために、インター予測部260に伝達することができる。メモリ250は、現在ピクチャ内の復元されたブロックの復元サンプルを保存することができ、イントラ予測部265に伝達することができる。
【0101】
本明細書において、画像符号化装置100のフィルタリング部160、インター予測部180及びイントラ予測部185で説明された実施例は、それぞれ画像復号化装置200のフィルタリング部240、インター予測部260及びイントラ予測部265にも、同様に又は対応するように適用されることができる。
【0102】
イントラ予測の概要
【0103】
以下、本開示によるイントラ予測について説明する。
【0104】
イントラ予測は、現在ブロックの属するピクチャ(以下、現在ピクチャ)内の参照サンプルに基づいて現在ブロックに対する予測サンプルを生成する予測を示すことができる。現在ブロックにイントラ予測が適用される場合、現在ブロックのイントラ予測に使用する周辺参照サンプルが導出されることができる。前記現在ブロックの周辺参照サンプルは、サイズnW×nHの現在ブロックの左側(left)境界に隣接(neighbor/adjacent)したサンプル及び左下側(bottom-left)に隣接した総2×nH個のサンプル、現在ブロックの上側(top)境界に隣接したサンプル及び右上側(top-right)に隣接した総2×nW個のサンプル及び現在ブロックの左上側(top-left)に隣接した1つのサンプルを含むことができる。又は、前記現在ブロックの周辺参照サンプルは、複数列の上側周辺サンプル及び複数行の左側周辺サンプルを含むこともできる。また、前記現在ブロックの周辺参照サンプルは、サイズnW×nHの現在ブロックの右側(right)境界に隣接した総nH個のサンプル、現在ブロックの下側(bottom)境界に隣接した総nW個のサンプル、及び現在ブロックの右下側(bottom-right)に隣接した1個のサンプルを含むこともできる。
【0105】
ただし、現在ブロックの周辺参照サンプルのうちの一部は、まだ復号化されていないか、或いは利用可能でないことがある。この場合、復号化器は、利用可能でないサンプルを利用可能なサンプルに置き換える(substitution)ことにより、予測に使用する周辺参照サンプルを構成することができる。又は、利用可能なサンプルの補間(interpolation)を介して、予測に使用する周辺参照サンプルを構成することができる。
【0106】
周辺参照サンプルが導出された場合、(i)現在ブロックの周辺(neighboring)参照サンプルの平均(average)或いはインターポレーション(interpolation)に基づいて予測サンプルを誘導することができ、(ii)現在ブロックの周辺参照サンプルのうちの予測サンプルに対して特定(予測)の方向に存在する参照サンプルに基づいて前記予測サンプルを誘導することもできる。(i)の場合は非方向性モード又は非角度モード、(ii)の場合は方向性(directional)モード又は角度(angular)モードと呼ばれることがある。
【0107】
また、前記周辺参照サンプルのうち、前記現在ブロックの予測対象サンプルを基準に、前記現在ブロックのイントラ予測モードの予測方向に位置する第1周辺サンプルとその反対方向に位置する第2周辺サンプルとの補間を介して、前記予測サンプルが生成されることもできる。上述した場合は、線形補間イントラ予測(Linear interpolation intra prediction、LIP)と呼ばれることがある。
【0108】
また、線形モデル(linear model)を用いてルマサンプルに基づいてクロマ予測サンプルが生成されることもできる。この場合は、LM(Linear Model)モードと呼ばれることがある。
【0109】
また、フィルタリングされた周辺参照サンプルに基づいて前記現在ブロックの一時予測サンプルを導出し、前記既存の周辺参照サンプル、すなわち、フィルタリングされていない周辺参照サンプルのうち、前記イントラ予測モードに従って導出された少なくとも一つの参照サンプルと前記一時予測サンプルとを加重和(weighted sum)して前記現在ブロックの予測サンプルを導出することもできる。この場合は、PDPC(Position dependent intra prediction)と呼ばれることがある。
【0110】
また、現在ブロックの周辺多重参照サンプルラインの中から、最も予測正確度の高い参照サンプルラインを選択して、当該ラインから予測方向に位置する参照サンプルを用いて予測サンプルを導出することができる。このとき、使用された参照サンプルラインに関する情報(例えば、intra_luma_ref_idx)は、ビットストリームに符号化されてシグナリングされることができる。この場合は、multi-reference line intra prediction(MRL)又はMRL基盤のイントラ予測と呼ばれることがある。MRLが適用されない場合、現在ブロックに直接隣接した参照サンプルラインから参照サンプルが導出されることができ、この場合、参照サンプルラインに関する情報は、シグナリングされないことができる。
【0111】
また、現在ブロックを垂直又は水平のサブパーティションに分割し、各サブパーティションに対して同一のイントラ予測モードに基づいてイントラ予測を行うことができる。このとき、イントラ予測の周辺参照サンプルは、各サブパーティション単位で導出されることができる。すなわち、符号化/復号化の順序上、以前サブパーティションの復元されたサンプルが現在サブパーティションの周辺参照サンプルとして用いられることができる。この場合、現在ブロックに対するイントラ予測モードが前記サブパーティションに同一に適用されるが、前記サブパーティション単位で周辺参照サンプルを導出して用いることにより、場合に応じてイントラ予測性能を高めることができる。このような予測方法は、intra sub-partitions(ISP)又はISP基盤のイントラ予測と呼ばれることがある。
【0112】
前述したイントラ予測技法は、方向性又は非方向性のイントラ予測モードと区分して前記イントラ予測タイプ又は付加イントラ予測モードなどの様々な用語で呼ばれることがある。例えば、前記イントラ予測技法(イントラ予測タイプ又は付加イントラ予測モードなど)は、上述したLIP、LM、PDPC、MRL、ISPのうちの少なくとも一つを含むことができる。前記LIP、LM、PDPC、MRL、ISPなどの特定のイントラ予測タイプを除いた一般イントラ予測方法は、ノーマルイントラ予測タイプと呼ばれることがある。ノーマルイントラ予測タイプは、上述した特定のイントラ予測タイプが適用されない場合に一般に適用されることができ、前述したイントラ予測モードに基づいて予測が行われることができる。一方、必要に応じて、導出された予測サンプルに対する後処理フィルタリングが行われることもできる。
【0113】
具体的には、イントラ予測手順は、イントラ予測モード/タイプ決定ステップ、周辺参照サンプル導出ステップ、イントラ予測モード/タイプベースの予測サンプル導出ステップを含むことができる。さらに、必要に応じて、導出された予測サンプルに対する後処理フィルタリング(post-filtering)ステップが行われることもできる。
【0114】
一方、上述したイントラ予測タイプの他にも、ALWIP(affine linear weighted intra prediction)が使用できる。前記ALWIPは、LWIP(linear weighted intra prediction)又はMIP(matrix weighted intra prediction又はmatrix based intra prediction)とも呼ばれる。前記MIPが現在ブロックに対して適用される場合、i)アベレージング(averaging)手順が行われた周辺参照サンプルを用いてii)マトリックスベクトルマルチプリケーション(matrix-vector-multiplication)手順を行い、iii)必要に応じて水平/垂直補間(interpolation)手順をさらに行って前記現在ブロックに対する予測サンプルを導出することができる。前記MIPのために使われるイントラ予測モードは、上述したLIP、PDPC、MRL、ISPイントラ予測や、ノーマルイントラ予測で使われるイントラ予測モードとは異なるように構成できる。前記MIPのためのイントラ予測モードは、MIP intra prediction mode、MIP prediction mode又はMIP modeとも呼ばれる。例えば、前記MIPのためのイントラ予測モードによって、前記マトリックスベクトルマルチプリケーションで使われるマトリックス及びオフセットが異なるように設定できる。ここで、前記マトリックスは、(MIP)重みマトリックスとも呼ばれることができ、前記オフセットは、(MIP)オフセットベクトル又は(MIP)バイアス(bias)ベクトルとも呼ばれることができる。具体的なMIP方法については後述する。
【0115】
イントラ予測に基づくブロック復元手順及び符号化装置内のイントラ予測部は、
図4及び
図5を参照して後述する。
【0116】
図4は、イントラ予測に基づくビデオ/画像符号化方法を示すフローチャートである。
【0117】
図4の符号化方法は、
図2の画像符号化装置によって行われることができる。具体的には、ステップS410は、イントラ予測部185によって行われることができ、ステップS420は、レジデュアル処理部によって行われることができる。具体的に、ステップS420は、減算部115によって行われることができる。ステップS430は、エントロピー符号化部190によって行われることができる。ステップS430の予測情報は、イントラ予測部185によって導出され、ステップS430のレジデュアル情報は、レジデュアル処理部によって導出されることができる。前記レジデュアル情報は、前記レジデュアルサンプルに関する情報である。前記レジデュアル情報は、前記レジデュアルサンプルに対する量子化された変換係数に関する情報を含むことができる。前述したように、前記レジデュアルサンプルは、画像符号化装置の変換部120を介して変換係数に導出され、前記変換係数は、量子化部130を介して量子化された変換係数に導出されることができる。前記量子化された変換係数に関する情報が、レジデュアルコーディング手順を介してエントロピー符号化部190で符号化されることができる。
【0118】
画像符号化装置は、現在ブロックに対するイントラ予測を行うことができる(S410)。画像符号化装置は、現在ブロックに対するイントラ予測モード/タイプを決定し、現在ブロックの周辺参照サンプルを導出した後、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成することができる。ここで、イントラ予測モード/タイプの決定、周辺参照サンプルの導出、及び予測サンプルの生成手順は、同時に行われてもよく、いずれか一つの手順が他の手順よりも先に行われてもよい。
【0119】
図5は、本開示によるイントラ予測部185の構成を例示的に示す図である。
【0120】
図5に示すように、画像符号化装置のイントラ予測部185は、イントラ予測モード/タイプ決定部186、参照サンプル導出部187、及び/又は予測サンプル導出部を含むことができる。イントラ予測モード/タイプ決定部186は、前記現在ブロックに対するイントラ予測モード/タイプを決定することができる。参照サンプル導出部187は、前記現在ブロックの周辺参照サンプルを導出することができる、予測サンプル導出部188は、前記現在ブロックの予測サンプルを導出することができる。一方、たとえ図示されてはいないが、後述する予測サンプルフィルタリング手順が行われる場合、イントラ予測部185は、予測サンプルフィルタ部(図示せず)をさらに含むこともできる。
【0121】
画像符号化装置は、複数のイントラ予測モード/タイプのうち、前記現在ブロックに対して適用されるモード/タイプを決定することができる。画像符号化装置は、前記イントラ予測モード/タイプに対するレート歪みコスト(RD cost)を比較し、前記現在ブロックに対する最適のイントラ予測モード/タイプを決定することができる。
【0122】
一方、画像符号化装置は、予測サンプルフィルタリング手順を行うこともできる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることができる。前記予測サンプルフィルタリング手順によって、前記予測サンプルのうちの一部又は全部がフィルタリングされることができる。場合によっては、前記予測サンプルフィルタリング手順は省略可能である。
【0123】
再び
図4を参照して、画像符号化装置は、予測サンプル又はフィルタリングされた予測サンプルに基づいて前記現在ブロックに対するレジデュアルサンプルを生成することができる(S420)。画像符号化装置は、現在ブロックの原本サンプルから前記予測サンプルを減算して前記レジデュアルサンプルを導出することができる。すなわち、画像符号化装置は、原本サンプル値から対応する予測サンプル値を減算することにより、レジデュアルサンプル値を導出することができる。
【0124】
画像符号化装置は、前記イントラ予測に関する情報(予測情報)、及び前記レジデュアルサンプルに関するレジデュアル情報を含む画像情報を符号化することができる(S430)。前記予測情報は、前記イントラ予測モード情報及び/又は前記イントラ予測技法情報を含むことができる。画像符号化装置は、符号化された画像情報をビットストリーム形式で出力することができる。出力されたビットストリームは、記憶媒体又はネットワークを介して画像復号化装置へ伝達されることができる。
【0125】
前記レジデュアル情報は、後述するレジデュアルコーディングシンタックスを含むことができる。画像符号化装置は、前記レジデュアルサンプルを変換/量子化して、量子化された変換係数を導出することができる。前記レジデュアル情報は、前記量子化された変換係数に対する情報を含むことができる。
【0126】
一方、前述したように、画像符号化装置は、復元ピクチャ(復元サンプル及び復元ブロックを含む)を生成することができる。このために、画像符号化装置は、前記量子化された変換係数を再び逆量子化/逆変換処理して(修正された)レジデュアルサンプルを導出することができる。このようにレジデュアルサンプルを変換/量子化した後、再び逆量子化/逆変換を行う理由は、画像復号化装置で導出されるレジデュアルサンプルと同一のレジデュアルサンプルを導出するためである。画像符号化装置は、前記予測サンプルと(前記修正された)レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを含む復元ブロックを生成することができる。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成されることができる。前記復元ピクチャにインループフィルタリング手順などがさらに適用できるのは、前述したとおりである。
【0127】
図6は、イントラ予測に基づくビデオ/画像復号化方法を示すフローチャートである。
【0128】
画像復号化装置は、前記画像符号化装置で行われた動作と対応する動作を行うことができる。
【0129】
図6の復号化方法は、
図3の画像復号化装置によって行われることができる。ステップS610乃至S630は、イントラ予測部265によって行われることができ、S610の予測情報及びS640のレジデュアル情報は、エントロピー復号化部210によってビットストリームから取得できる。画像復号化装置のレジデュアル処理部は、前記レジデュアル情報に基づいて現在ブロックに対するレジデュアルサンプルを導出することができる(S640)。具体的には、前記レジデュアル処理部の逆量子化部220は、前記レジデュアル情報に基づいて導出された量子化変換係数に基づいて、逆量子化を行って変換係数を導出し、前記レジデュアル処理部の逆変換部230は、前記変換係数に対する逆変換を行って前記現在ブロックに対するレジデュアルサンプルを導出することができる。ステップS650は、加算部235又は復元部によって行われることができる。
【0130】
具体的には、画像復号化装置は、受信した予測情報(イントラ予測モード/タイプ情報)に基づいて、現在ブロックに対するイントラ予測モード/タイプを導出することができる(S610)。また、画像復号化装置は、前記現在ブロックの周辺参照サンプルを導出することができる(S620)。前記画像復号化装置は、前記イントラ予測モード/タイプ及び前記周辺参照サンプルに基づいて前記現在ブロック内の予測サンプルを生成することができる(S630)。この場合、画像復号化装置は予測サンプルフィルタリング手順を行うことができる。予測サンプルフィルタリングは、ポストフィルタリングと呼ばれることがある。前記予測サンプルフィルタリング手順によって、前記予測サンプルのうちの一部又は全部がフィルタリングされることができる。場合によっては、予測サンプルフィルタリング手順は省略可能である。
【0131】
画像復号化装置は、受信したレジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを生成することができる(S640)。画像復号化装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを生成し、前記復元サンプルを含む復元ブロックを導出することができる(S650)。前記復元ブロックに基づいて前記現在ピクチャに対する復元ピクチャが生成されることができる。前記復元ピクチャにインループフィルタリング手順などがさらに適用できるのは、前述したとおりである。
【0132】
図7は、本開示によるイントラ予測部265の構成を例示的に示す図である。
【0133】
図7に示すように、画像復号化装置のイントラ予測部265は、イントラ予測モード/タイプ決定部266、参照サンプル導出部267、予測サンプル導出部268を含むことができる。イントラ予測モード/タイプ決定部266は、画像符号化装置のイントラ予測モード/タイプ決定部186で生成されてシグナリングされたイントラ予測モード/タイプ情報に基づいて前記現在ブロックに対するイントラ予測モード/タイプを決定し、参照サンプル導出部266は、現在ピクチャ内の復元された参照領域から前記現在ブロックの周辺参照サンプルを導出することができる。予測サンプル導出部268は、前記現在ブロックの予測サンプルを導出することができる。一方、たとえ図示されてはないが、前述した予測サンプルフィルタリング手順が行われる場合、イントラ予測部265は、予測サンプルフィルタ部(図示せず)をさらに含むこともできる。
【0134】
前記イントラ予測モード情報は、例えば、MPM(most probable mode)が前記現在ブロックに適用されるか、それともリメイニングモード(remaining mode)が適用されるかを示すフラグ情報(例えば、intra_luma_mpm_flag)を含むことができ、前記MPMが前記現在ブロックに適用される場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)のうちのいずれか一つを指示するインデックス情報(例えば、intra_luma_mpm_idx)をさらに含むことができる。前記イントラ予測モード候補(MPM候補)は、MPM候補リスト又はMPMリストから構成されることができる。また、前記MPMが前記現在ブロックに適用されない場合、前記イントラ予測モード情報は、前記イントラ予測モード候補(MPM候補)を除いた残りのイントラ予測モードのうちのいずれか一つを指示するリメイニングモード情報(例えば、intra_luma_mpm_remainder)をさらに含むことができる。画像復号化装置は、前記イントラ予測モード情報に基づいて前記現在ブロックのイントラ予測モードを決定することができる。
【0135】
さらに、前記イントラ予測技法情報は、様々な形態で実現できる。一例として、前記イントラ予測技法情報は、前記イントラ予測技法のうちのいずれか一つを指示するイントラ予測技法インデックス情報を含むことができる。他の例として、前記イントラ予測技法情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には幾番目の参照サンプルラインが用いられるかを示す参照サンプルライン情報(例えば、intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを示すISPフラグ情報(例えば、intra_subpartitions_mode_flag)、前記ISPが適用される場合にサブパーティションの分割タイプを指示するISPタイプ情報(例えば、intra_subpartitions_split_flag)、PDPCの適用如何を示すフラグ情報、又はLIPの適用如何を示すフラグ情報のうちの少なくとも一つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIPが適用されるか否かを示すMIPフラグを含むことができる。本開示において、ISPフラグ情報は、ISP適用指示子と呼ばれることができる。
【0136】
前記イントラ予測モード情報及び/又は前記イントラ予測技法情報は、本開示において説明されたコーディング方法を介して符号化/復号化されることができる。例えば、前記イントラ予測モード情報及び/又は前記イントラ予測技法情報は、truncated(rice)binary codeに基づいてエントロピー符号化(例えば、CABAC、CAVLC)を介して符号化/復号化されることができる。
【0137】
一方、前記イントラ予測モードは、PLANARモード、DCモード及び方向性イントラ予測モードの他にも、クロマサンプルのためのCCLM(cross-component linear model)モードをさらに含むことができる。CCLMモードは、CCLMパラメータ導出のために左側サンプルを考慮するか、上側サンプルを考慮するか、両方を考慮するかによって、L_CCLM、T_CCLM、LT_CCLMに分けられ、クロマ成分に対してのみ適用できる。
【0138】
イントラ予測モードは、例えば、下記表1のようにインデックス化できる。
【0139】
【0140】
一方、前記イントラ予測タイプ(又は、付加イントラ予測モードなど)は、上述したLIP、PDPC、MRL、ISP、MIPのうちの少なくとも一つを含むことができる。前記イントラ予測タイプは、イントラ予測タイプ情報に基づいて指示されることができ、前記イントラ予測タイプ情報は、多様な形態で実現されることができる。一例として、前記イントラ予測タイプ情報は、前記イントラ予測タイプのうちの一つを指示するイントラ予測タイプインデックス情報を含むことができる。他の例として、前記イントラ予測タイプ情報は、前記MRLが前記現在ブロックに適用されるか、及び適用される場合には何番目の参照サンプルラインが用いられるか否かを示す参照サンプルライン情報(例えば、intra_luma_ref_idx)、前記ISPが前記現在ブロックに適用されるかを示すISPフラグ情報(例えば、intra_subpartitions_mode_flag)、前記ISPが適用される場合にサブパーティションが分割タイプを指示するISPタイプ情報(例えば、intra_subpartitions_split_flag)、PDCPの適用有無を示すフラグ情報又はLIPの適用有無を示すフラグ情報のうちの少なくとも一つを含むことができる。また、前記イントラ予測タイプ情報は、前記現在ブロックにMIPが適用されるか否かを示すMIPフラグ(又はintra_mip_flagと呼ばれることができる)を含むことができる。
【0141】
MRL(Multi-reference line)イントラ予測
【0142】
図8は、本開示の一実施例によるイントラ予測のための多重参照ラインを示す図である。
【0143】
従来のイントラ予測は、現在ブロックの一番目の上側ラインの周辺サンプル及び一番目の左側ラインの周辺サンプルのみをイントラ予測のための参照サンプルとして用いた。しかし、Multiple-reference line(MRL)方法では、現在ブロックの上側及び/又は左側に対して一つ~三つのサンプル距離だけ離れたサンプルラインに位置した周辺サンプルを参照サンプルとして用いてイントラ予測を行うことができる。又は、MRL方法を用いたイントラ予測は、現在ブロックの上側及び/又は左側に対して、N個のサンプル距離だけ離れたサンプルラインに位置した周辺サンプルを参照サンプルとして用いて行われることができる。
図8は、前記多重参照ラインの例を示し、多重参照ラインインデックス(例えば、mrl_idx)は、現在ブロックに対してどのラインがイントラ予測のために使用されるかを示す。
【0144】
例えば、前記多重参照ラインインデックスは、表2のようにコーディングユニットシンタックスを介してシグナリングされることができる。前記多重参照ラインインデックスは、intra_luma_ref_idxシンタックス要素の形態で構成されることができる。
【0145】
【0146】
intra_luma_ref_idx[x0][y0]は、イントラ参照ラインインデックスIntraLumaRefLineIdx[x0][y0]を示すことができる。もし、intra_luma_ref_idx[x0][y0]が存在しない場合、その値は0と推論できる。intra_luma_ref_idxは、(イントラ)参照サンプルラインインデックス又はmrl_idxと呼ばれることができる。また、intra_luma_ref_idxは、intra_luma_ref_line_idxとも呼ばれる。下記表3は、intra_luma_ref_idx[x0][y0]に基づくIntraLumaRefLineIdx[x0][y0]の値を示す。
【0147】
【0148】
MRLは、CTU内の一番目のライン(行)のブロックに対しては使用されなくてもよい。すなわち、現在ブロックの上端境界がCTUの境界である場合、現在ブロックに対してはMRLが使用されなくてもよい。表2において、現在ブロックの上端境界がCTUの境界である場合、intra_luma_ref_idx[x0][y0]が存在せず、その値は0と推論される。従って、現在ブロックに対しては、一番目の参照ラインが使用できる。これは、現在CTUライン外部の拡張参照サンプル(extended reference lines)が使用されることを防ぐためである。また、上述した追加参照ラインが使用される場合には、上述したPDPCが使用されなくてもよい。
【0149】
クロマ成分に対する予測サンプル導出の一般
【0150】
現在ブロックにイントラ予測が行われる場合、現在ブロックのルマ成分ブロック(ルマブロック)に対する予測及びクロマ成分ブロック(クロマブロック)に対する予測が行われることができ、この場合、クロマ成分(クロマブロック)に対するイントラ予測モードは、ルマ成分(ルマブロック)に対するイントラ予測モードと個別的に設定されることができる。
【0151】
例えば、クロマ成分に対するイントラ予測モードは、イントラクロマ予測モード情報に基づいて指示されることができ、前記イントラクロマ予測モード情報は、Intra_chroma_pred_modeシンタックス要素の形態でシグナリングされることができる。一例として、前記イントラクロマ予測モード情報は、Planarモード、DCモード、垂直(vertical)モード、水平(Horizontal)モード、DM(Derived Mode)、L_CCLM、T_CCLM、LT_CCLMモードのうちの少なくとも一つを含む候補モードの一つを指示することができる。DMは、direct modeと呼ばれることもある。CCLMは、LMと呼ばれることもある。
【0152】
一方、DMとCCLMは、ルマブロックの情報を用いてクロマブロックを予測する従属的なイントラ予測モードである。前記DMは、前記ルマ成分に対するイントラ予測モードと同じイントラ予測モードが前記クロマ成分に対するイントラ予測モードに適用されるモードを示すことができる。また、前記CCLMは、クロマブロックに対する予測ブロックを生成する過程でルマブロックの復元されたサンプルをサブサンプリングした後、サブサンプリングされたサンプルにCCLMパラメータ(例えば、α及び/又はβ)を適用して導出されたサンプルを前記クロマブロックの予測サンプルとして用いるイントラ予測モードを示すことができる。
【0153】
CCLM(Cross-component linear model)の概要
【0154】
現在クロマブロックにCCLMモードが適用できる。CCLMモードは、ルマブロックと前記ルマブロックに対応するクロマブロックとの相関性(correlation)を用いたイントラ予測モードであり、前記ルマブロックの周辺サンプル及びクロマブロックの周辺サンプルに基づいて線形モデルが導出されることができ、前記線形モデル及び前記ルマブロックの復元サンプルに基づいて前記クロマブロックの予測サンプルが導出されるモードを示すことができる。具体的には、現在クロマブロックに前記CCLMモードが適用される場合、前記現在クロマブロックのイントラ予測に使用される周辺サンプル、及び現在ルマブロックのイントラ予測に使用される周辺サンプルに基づいて前記線形モデルに対するパラメータが導出できる。
【0155】
交差成分(Cross-component)の重複性を減らすために、本開示では、CCLM予測モードが使用できる。ここで、クロマサンプルは、線形モデルを用いて同じCUの復元されたルマサンプルに基づいて予測できる。例えば、前記線形モデルは、次の数式1であり得る。
【0156】
【0157】
ここで、predC(i、j)は、現在CU内の現在クロマブロックの(i、j)座標の予測サンプルを示すことができ、rec’L(i、j)は、前記CU内の現在ルマブロックの(i、j)座標の復元サンプルを示すことができる。又は、rec’L(i、j)は、現在ルマブロックのダウンサンプリング(down-sampled)された復元サンプルを示すことができる。
【0158】
図9は、本開示の一実施例によるCCLMパラメータ導出のために用いられる隣接サンプルの位置を示す図である。
図9は、左側隣接サンプルの位置、上側隣接サンプルの位置、及びCCLMモードに関連する現在ブロックに隣接したサンプルの例を示す。
【0159】
CCLMパラメータ(例えば、α及び/又はβ)は、最大4つの隣接クロマサンプルと、これに対応するダウンサンプリングされたルマサンプルとを用いて導出できる。又は、CCLMパラメータは、N個の隣接クロマサンプルと、これに対応するダウンサンプリングされたルマサンプルとを用いて導出できる。現在クロマブロックのサイズがW×Hである場合、W’及びH’は、次のように設定できる。W’は、CCLMパラメータ導出のために用いられる上側隣接クロマサンプルが位置する範囲を意味することができる。H’は、CCLMパラメータ導出のために用いられる左側隣接クロマサンプルが位置する範囲を意味することができる。
【0160】
-LMモードが適用される場合、W’=W、H’=H
【0161】
-LM_Aモードが適用される場合、W’=W+H
【0162】
-LM_Lモードが適用される場合、H’=H+W
【0163】
上側隣接サンプルの位置は、S[0、-1]...S[W’-1、-1]で表すことができ、左側隣接サンプルの位置は、S[-1、0]...S[-1、H’-1]で表すことができる。この場合、4個のサンプルは、次のように選択できる。
【0164】
-LMモードが適用され、上側及び左側隣接サンプルが全て使用可能な場合:S[W’/4、-1]、S[3W’/4、-1]、S[-1、H’/4]、S[-1、3H’/4]
【0165】
-LM_Aモードが適用されるか、或いは上側隣接サンプルのみ使用可能な場合:S[W’/8、-1]、S[3W’/8、-1]、S[5W’/8、-1]、S[7W’/8、-1]
【0166】
-LM_Lモードが適用されるか、或いは左側隣接サンプルのみ使用可能な場合:S[-1、H’/8]、S[-1、3H’/8]、S[-1、5H’/8]、S[-1、7H’/8]
【0167】
上述したような方法で選択された位置にある4つの隣り合うルマサンプルは、ダウンサンプリングによって取得できる。前記4つのルマサンプルのうちの2つの小さい値(X0
A及びX1A)及び2つの大きい値(X0
B及びX1
B)を探すために、4回の比較が行われることができる。前記4つの隣り合うサンプルに対応するクロマサンプル値は、y0
A、y1
A、y0
B及びy1
Bで表すことができる。この場合、Xa、Xb、Ya及びYbは、次の数式2によって誘導できる。
【0168】
【0169】
前記CCLMパラメータα及びβは、次の数式3によって取得できる。
【0170】
【0171】
本開示の一実施例は、上側隣接サンプル及び左側隣接サンプルを用いてCCLMパラメータを誘導することができ、他の2つのLMモード(LM_Aモード及びLM_Lモード)でも使用できる。本開示の一実施例によれば、LM_Aモードでは、上側隣接サンプルのみがCCLMパラメータを誘導するために使用できる。この場合、さらに多くのサンプルを得るために、上側隣接サンプルは、W+H位置のサンプルまで拡張できる。これに対し、LM_Lモードでは、左側隣接サンプルのみがCCLMパラメータを誘導するために使用できる。その場合、さらに多くのサンプルを得るために、左側隣接サンプルは、H+W位置のサンプルまで拡張できる。他の例として、非正方形(non-square)ブロックにおいて、上側隣接サンプルはW+W位置まで拡張でき、左側隣接サンプルはH+H位置まで拡張できる。
【0172】
4:2:0ビデオシーケンスに対するクロマサンプルの位置を一致させるために、2つの類型のダウンサンプリングフィルタをルマサンプルに適用して水平及び垂直方向の両方で2対1のダウンサンプリング比率を達成することができる。前記ダウンサンプリングフィルタは、SPSレベルフラグによって指定できる。前記ダウンサンプリングフィルタは、所定の位置(i、j)のクロマサンプルに対応するルマサンプルを取得するために適用できる。2つのダウンサンプリングフィルタは、次の数式4及び数式5であり得る。
【0173】
【0174】
【0175】
現在ルマブロックの境界がCTUの境界と一致する場合、ダウンサンプリングされたルマサンプルを作るために唯一つのルマ参照ラインのみが使用できる。
【0176】
前記パラメータの誘導は、画像復号化過程の一部で行われてもよく、エンコーダ検索動作のみで行われなくてもよい。結果的に、α及び/又はβ値を画像復号化装置に伝達するためにシンタックスが使われなくてもよい。
【0177】
本開示によれば、イントラクロマ予測モード符号化過程で、総8個のイントラ予測モードが用いられることができる。前記8個のイントラ予測モードは、5個の既存のイントラ予測モード及び3個のCCLMモード(CCLM、LM_A及びLM_L)を含むことができる。イントラクロマ予測モードシグナリング及び誘導過程は、次の表4及び表5を参照して後述する。
【0178】
【0179】
【0180】
イントラクロマ予測モード符号化は、これに対応するルマブロックのイントラ予測モードに従属的であり得る。Iスライスでは、ルマ及びクロマ成分に対する別途のブロック分割構造が活性化されるので、一つのクロマブロックは、複数のルマブロックに対応することができる。よって、クロマDMモードである場合、現在クロマブロックの中心位置をカバーする対応ルマブロックのイントラ予測モードが直接適用できる。
【0181】
表4は、CCLMが適用可能でない場合のイントラクロマ予測モード導出のためのマッチングテーブルを示し、表5は、CCLMが適用可能な場合のイントラクロマ予測モード導出のためのマッピングテーブルを示す。表に示されているように、イントラクロマ予測モードは、現在ブロック又はクロマブロックのセンター右下側サンプルをカバーするルマブロック(例えば、DUAL_TREEが適用される場合)に対するイントラルマ予測モード及びシグナリングされたイントラクロマ予測モード(intra_chroma_pred_mode)情報の値に基づいて決定できる。上述した表から導出されるIntraPredModeC[xCb][yCb]のインデックスは、前述した表1に開示されているイントラ予測モードのインデックスと対応することができる。
【0182】
MMLM(Multi-model LM)の概要
【0183】
CCLMモードは、MMLMモードに拡張できる。例えば、3つのMMLMモードが追加されてもよい。各MMLMモードにおいて復元された隣接サンプルは、しきい値を用いて2つのグループに分類できる。前記しきい値は、例えば、復元されたルマサンプルの平均値であってもよい。各グループの線形モデルは、LMS(Linear-Mean-Square)方法を用いて誘導できる。CCLMモードの場合にも、LMS方法は線形モデルを誘導するために使用できる。
【0184】
MMLMを使用すると、CU内のルマサンプル及びクロマサンプルの間に2つ以上の線形モデルがあり得る。この方法において、現在ブロックの隣接ルマサンプル及び隣接クロマサンプルは、幾つかのグループに分類できる。また、各グループは、線形モデルを導出するためのトレーニングセットとして使用できる。すなわち、各グループ別にCCLMパラメータ(例えば、α及び/又はβ)が誘導できる。また、現在ルマブロック内のサンプルは、隣接ルマサンプルの分類のための方法と同じ方法で分類できる。
【0185】
この方法において、隣接サンプルは、M個のグループに分類できる。ここで、Mは、2又は3であり得る。Mが2又は3である場合、MMLM方法は、元来のLMモードの他に、MMLM2及びMMLM3という2つの追加されたクロマ予測モードに設計できる。画像符号化装置は、RDOプロセスで最適のモードを選択し、そのモードをシグナリングすることができる。
【0186】
図10は、本開示の一実施例による隣接サンプルを2つのグループに分類する方法を示す図である。
図10は、Mが2である場合を示す。
図10を参照すると、しきい値は、復元された隣接ルマサンプルの平均値として計算できる。しきい値以下のRec’
L[x、y]を有する隣接ルマサンプルはグループ1に分類され、しきい値超過のRec’
L[x、y]を有する隣接ルマサンプルはグループ2に分類され得る。前記グループ1及びグループ2の2つのモデルは、次の数式6を用いて誘導できる。
【0187】
【0188】
以下、本開示の一実施例による画像符号化/復号化方法について詳細に説明する。
【0189】
本開示は、CCLM方法に関し、特に多重参照ライン基盤のCCLM方法に関するものである。本開示によるCCLMモードは、周辺の上側参照サンプル及び左側参照サンプルを用いるLMモード、左側参照サンプルのみを用いるLM_Lモード、上側参照サンプルのみを用いるLM_Aモード、及び2つ以上の線形モデルパラメータ(linear model parameter)を用いるMM(multi-model)LM基盤の3LMモード(MMLMモード(上側参照サンプル及び左側参照サンプルを用いる)、MMLM_Lモード(左側参照サンプルのみを用いる)、MMLM_Aモード(上側参照サンプルのみを用いる)を含むことができる。本開示では、前記6つのLM方法をまとめてCCLM方法と称する。また、本開示で言及された「参照ライン」は、「参照サンプルライン」又はこれと同等な技術的意味を有する他の用語で指称できる。
【0190】
本開示は、CCLM方法を介してクロマ画像の予測ブロック生成の際に、一つの参照ラインを用いる場合よりもさらに多くの周辺参照サンプルを用いる方法を提案する。既存のCCLM方法は、クロマブロック周辺の一つの参照ラインを用いてlinear model parameter(以下、「CCLMパラメータ」という)α、β値を誘導する。CCLMパラメータは、上述したように4つの周辺参照サンプルを用いて誘導された線形モデル(linear model)によって誘導できる。又は、CCLMパラメータは、LMS(linear mean-square)モデルを介して誘導できる。例えば、数式7は、LMSモデルを用いてCCLMパラメータを誘導する例であり得る。
【0191】
【0192】
ここで、RecC(i)は、ターゲットブロック(現在クロマブロック)周辺の復元されたクロマサンプルを示し、Rec’L(i)は、ターゲットブロック(現在ルマブロック)周辺のダウンサンプリングされたルマサンプルを示す。また、Iは全体サンプルの数を示す。
【0193】
上述したように、CCLMパラメータを誘導するために現在クロマブロック周辺の一つの参照ラインを用いる場合、精巧な線形モデルの誘導が容易でないので、予測の正確度が低下して結果的に画像の符号化効率が低下することがある。
【0194】
例えば、本開示によれば、CCLMパラメータを誘導するために現在クロマブロック周辺の二つ以上の参照ラインを用いることにより、より精巧な線形モデルを誘導することができる。これにより、予測の正確度が向上し、結果的に画像の符号化効率が向上することができる。
【0195】
本開示の一実施例によれば、LMS基盤のCCLMパラメータ誘導のために2つ以上の周辺参照ラインが用いられることができる。本開示の一実施例によれば、LMS基盤のCCLMパラメータ誘導の際に、現在クロマブロックの周辺参照ラインを2つ以上用いてCCLMパラメータを誘導することにより、CCLM予測の正確度を高めることができる。
【0196】
図11は、本開示の一実施例によるCCLMパラメータ誘導のための参照サンプル選択方法を説明するための図である。
【0197】
具体的には、
図11は、4×4の現在クロマブロックの周辺2つの参照ラインを用いてCCLMパラメータ誘導の際に周辺参照サンプルを選択する方法の例示を示す。
図11に示す本開示の一実施例によれば、CCLMパラメータを誘導するために、一番目の参照ラインの8つのクロマサンプルにさらに二番目の参照ラインの8つのクロマサンプルを用いることができる。このとき、対応ルマブロックの周辺参照サンプルのダウンサンプリングが行われるが、例えば、ルマブロックの一番目の上側参照ラインと二番目の上側参照ラインをダウンサンプリングして一番目のダウンサンプリングされた上側参照ラインを取得することができる。また、三番目の上側参照ラインと四番目の上側参照ラインをダウンサンプリングして二番目のダウンサンプリングされた上側参照ラインを取得することができる。このように、2つのダウンサンプリングされた上側参照ラインが生成できる。また、本開示の一実施例によれば、ルマブロックの一番目の左側参照ライン、二番目の参照ライン及び三番目の参照ラインをダウンサンプリングして一番目のダウンサンプリングされた左側参照ラインを取得することができる。また、三番目の左側参照ライン、四番目の参照ライン及び五番目の参照ラインをダウンサンプリングして二番目のダウンサンプリングされた左側参照ラインを取得することができる。これにより、2つのダウンサンプリングされた左側参照ラインが生成できる。ルマサンプルのダウンサンプリング数式は、既存の方法をそのまま使用することができる。又は、ルマサンプルのダウンサンプリングは、既存とは異なる方法によって行われてもよい。前述した方法は、全てのCCLM方法(LM、LM_A、LM_L、MMLM、MMLM_A、MMLM_L)に同様に適用できる。
【0198】
図11を参照して説明した実施例は、クロマ参照ラインの個数が2つである場合に行われる例である。しかし、クロマ参照ラインの数がN個である場合にも、前記実施例が同様に適用できる。例えば、クロマ参照ラインの数がN個である場合、CCLMパラメータ誘導のために2N個の複数の上側ルマ参照ラインが使用できる。このとき、2N個の複数の上側ルマ参照ラインのうち、2i-1番目の上側ルマ参照ライン及び2i番目の上側ルマ参照ラインに基づいてダウンサンプリングされたi番目の上側ルマ参照ラインを生成することができる。ここで、iは1~Nの間の整数であり得る。このような方法を用いて生成されたN個のダウンサンプリングされた上側ルマ参照ラインに基づいてCCLMパラメータが誘導されることができる。また、クロマ参照ラインの数がNである場合、CCLMパラメータ誘導のために2N+1個の複数の左側ルマ参照ラインが使用できる。このとき、2N+1個の複数の左側ルマ参照ラインのうち2i-1番目の左側ルマ参照ライン、2i番目の左側ルマ参照ライン及び2i+1番目の左側ルマ参照ラインに基づいてダウンサンプリングされたi番目の左側ルマ参照ラインを生成することができる。このような方法を用いて生成されたN個のダウンサンプリングされた左側ルマ参照ラインに基づいてCCLMパラメータが誘導されることができる。このように、ダウンサンプリングを介して取得された2つ(又はN個)のダウンサンプリングされた参照ラインの参照サンプルを用いてCCLMパラメータを誘導する際に、パラメータ正確度の向上によるCCLM予測性能が向上することができる。また、CCLMパラメータ誘導のためのクロマサンプル及びルマサンプルの数が2倍(又はN倍)に増加するため、既存のCCLMパラメータ誘導のためのプロセスを修正なしにそのまま用いることができる。
【0199】
図12は、本開示の一実施例によるLM_AモードでCCLMパラメータ誘導のための参照サンプル選択方法を説明するための図である。LM_Aモードは、現在クロマブロックの上側参照サンプルのみを用いてCCLMパラメータを誘導する方法であり得る。CCLMパラメータを誘導するために、既存の一番目の参照ラインの8つのクロマサンプルにさらに二番目の参照ラインの8つのクロマサンプルが用いられることができる。このとき、一番目の上側参照ラインの8つのクロマサンプルは、W+H位置の範囲内に存在するサンプルであり得る。また、画像復号化装置は、CCLMパラメータを誘導するために対応ルマブロック周辺の参照サンプルをダウンサンプリングすることができる。例えば、ルマブロックの一番目の上側参照ラインと二番目の上側参照ラインをダウンサンプリングして一番目のダウンサンプリングされた上側参照ラインを取得することができる。また、三番目の上側参照ラインと四番目の上側参照ラインをダウンサンプリングして二番目のダウンサンプリングされた上側参照ラインを取得することができる。
【0200】
図13及び
図14は、本開示の一実施例による非正方形(non-square)ブロックにおいて参照サンプルを選択する方法の例を示す。
図13に示すように、非正方形クロマブロックの左側又は上側のうちの一方(例えば、長手)に対しては、隣り合う参照サンプルのうちの一部のみが選択されてCCLMパラメータの誘導に用いられることができる。このとき、現在クロマブロック周辺の二つの参照ラインが用いられる場合、例えば、
図13の左側図に示すように、一番目の上側参照ラインでのサブサンプリングと二番目の上側参照ラインでのサブサンプリングとは同一であり得る。又は、
図13の右側図に示すように、一番目の左側参照ラインでのサブサンプリングと二番目の左側参照ラインでのサブサンプリングとは同一であり得る。対応ルマブロックに対しては、前記サブサンプリングされた位置を基準にダウンサンプリングが行われることにより、対応する復元されたルマサンプルを誘導することができる。
【0201】
図14aを参照すると、非正方形クロマブロックの上側に対しては、隣り合う参照サンプルのうちの一部のみが選択されてCCLMパラメータの誘導に用いられることができる。このとき、現在クロマブロック周辺の二つの参照ラインが用いられる場合、例えば、
図14aに示すように、一番目の上側参照ラインでのサブサンプリングと二番目の上側参照ラインでのサブサンプリングとは同一であり得る。具体的には、二番目の参照ラインに存在するサンプルは、一番目の参照ラインに存在するサンプルのサブサンプリング比率の倍数位置と同じ位置に選択できる。例えば、サブサンプリング比率が4である場合、0、4、8、12番目の位置の参照サンプルが二番目の参照ラインサンプルとして選択できる。
【0202】
本開示の他の実施例によれば、非正方形クロマブロックの上側に対しては、隣り合う参照サンプルのうちの一部のみが選択されてCCLMパラメータの誘導に用いられることができる。このとき、現在クロマブロック周辺の二つの参照ラインが用いられる場合、例えば、
図14bに示すように、一番目の上側参照ラインでのサブサンプリングと二番目の上側参照ラインでのサブサンプリングとは異なり得る。すなわち、一番目の参照ラインに存在するサンプルのサブサンプリングは、サブサンプリング比率の倍数位置ではなく、サブサンプリング比率の半分だけ移動(shift)した位置の参照サンプルが二番目の参照ラインサンプルとして選択できる。例えば、サブサンプリング比率が4である場合、2、5、10、14番目の位置の参照サンプルが二番目の参照ラインのサンプルとして選択できる。
【0203】
図14を参照して説明した実施例は、上側参照ラインでサブサンプリングが行われる例である。しかし、左側参照ラインでサブサンプリングが行われる場合にも、前記実施例が同様に適用できる。すなわち、一番目の左側参照ラインでのサブサンプリングと二番目の左側参照ラインでのサブサンプリングは、同一でも異なってもよい。
【0204】
本開示の一実施例によるCCLM予測方法の適用において、現在クロマブロックの上端境界がCTUの境界と一致するか否かに基づいて、現在クロマブロックにCCLMモードを異なるように適用することができる。本開示の一実施例によれば、現在クロマブロックの上端境界がCTUの境界と一致する場合、一番目(上側)の参照ラインサンプルを二番目の参照ラインに複写し、一番目の参照ラインと二番目の参照ラインを用いて本開示によるCCLMパラメータを誘導することができる。
【0205】
本開示の他の実施例によれば、現在クロマブロックの上端境界がCTUの境界と一致する場合、本開示によるCCLM予測方法が使用されなくてもよい。すなわち、現在クロマブロックの上端境界がCTUの境界と一致する場合、一つの(上側)参照ラインを用いてCCLMパラメータを誘導することができる。
【0206】
本開示の別の実施例によれば、現在クロマブロックの上端境界がCTUの境界と一致し、上側参照ラインを用いるCCLM予測方法が適用される場合(例えば、LM、LM_A、MMLM、MMLM_A)、本開示で提案するCCLM予測方法が使用されなくてもよい。
【0207】
本開示の一実施例によれば、LMS基盤のCCLMパラメータ誘導の際に、1つのライン基盤のCCLMパラメータ誘導の場合よりもさらに多い参照サンプルが使用できる。1つのライン基盤のCCLMパラメータ誘導の場合よりも多い参照サンプルを用いてCCLMパラメータを誘導することにより、CCLMパラメータの正確度が高くなることができる。
【0208】
上述した実施例において、2つの参照ラインに基づいてCCLMパラメータを誘導したが、本開示はこれに限定されない。例えば、CCLMパラメータ誘導の際に、4個の現在クロマブロックの周辺参照ラインが使用できる。又は、CCLMパラメータ誘導の際に、N個の現在クロマブロックの周辺参照ラインが使用できる。このとき、Nは、2とCTUサイズとの間の値を有することができる。上述した2つの参照ライン基盤のCCLMパラメータ誘導方法は、N個の参照ライン基盤のCCLMパラメータ誘導方法に適用できる。例えば、N個の参照ラインを用いてCCLMパラメータを誘導する際に、N個の参照ラインにおいてCCLMパラメータの誘導に必要なサンプルは、前述した2つの参照ライン基盤のCCLMパラメータ誘導方法と同一の方法を用いて選択できる。
【0209】
本開示の他の実施例によれば、CCLMパラメータは、所定の個数の参照サンプルに基づいて誘導できる。例えば、上述したように、CCLMパラメータは、4個の参照サンプルに基づいて誘導できる。本開示は、より多くの参照サンプルに基づいてCCLMパラメータを誘導する多様な実施例を提供する。例えば、
図13に示すように、現在クロマブロックの周辺に位置した二つ以上の参照ラインから選択された参照サンプルを用いてCCLMパラメータを誘導することができる。本実施例によれば、1つの参照ライン基盤のCCLM予測の場合よりもさらに多い参照ラインを用いることにより、CCLMパラメータの正確度が高くなることができる。
【0210】
例えば、本開示の一実施例によれば、CCLMパラメータ(α及び/又はβ)は、最大8個の隣接したクロマサンプル及びこれに対応するダウンサンプリングされたルマサンプルを用いて誘導できる。又は、CCLMパラメータ(α及び/又はβ)は、N個の隣接したクロマサンプル及びこれに対応するダウンサンプリングされたルマサンプルを用いて誘導できる。現在ブロックのサイズがW×Hである場合、W’及びH’は、次のように誘導できる。W’は、CCLMパラメータ導出のために用いられる上側隣接クロマサンプルが位置する範囲を意味することができる。H’は、CCLMパラメータ導出のために用いられる左側隣接クロマサンプルが位置する範囲を意味することができる。
【0211】
-LMモード又はMMLMモードの適用時、W’=W、H’=H
【0212】
-LM_Aモード又はMMLM_Aモードの適用時、W’=W+H
【0213】
-LM_Lモード又はMMLM_Lモードの適用時、H’=H+W
【0214】
上側隣接サンプルの位置は、S[0、-1]...S[W’-1、-1]で表すことができる。また、左側隣接サンプルの位置は、S[-1、0]...S[-1、H’-1]で表すことができる。この場合、CCLMパラメータ誘導の際に必要な一番目の参照ライン内の4個のサンプルは、次のように選択できる。
【0215】
-LMモード又はMMLMモードが適用され、上側隣接サンプル及び左側隣接サンプルが全て利用可能な場合、S[W’/4、-1]、S[3W’/4、-1]、S[-1、H’/4]、S[-1、3H’/4]
【0216】
-LM_Aモード又はMMLM_Aモードが適用されるか、或いは上側隣接サンプルのみ利用可能な場合、S[W’/8、-1]、S[3W’/8、-1]、S[5W’/8、-1]、S[7W’/8、-1]
【0217】
-LM_Lモード又はMMLM_Lモードが適用されるか、或いは左側隣接サンプルのみ利用可能な場合、S[-1、H’/8]、S[-1、3H’/8]、S[-1、5H’/8]、S[-1、7H’/8]
【0218】
一方、二番目の上側参照ラインに位置した隣接サンプルの位置は、S2[0、-1]...S2[W’-1、-1]で表すことができる。また、二番目の左側参照ラインに位置した隣接サンプルの位置は、S2[-1、0]...S2[-1、H’-1]で表すことができる。この場合、CCLMパラメータ誘導の際に必要な追加4個のサンプルは、次のように選択できる。
【0219】
-LMモード又はMMLMモードが適用され、上側隣接サンプル及び左側隣接サンプルが全て利用可能な場合、S2[W’/4、-1]、S2[3W’/4、-1]、S2[-1、H’/4]、S2[-1、3H’/4]
【0220】
-LM_Aモード又はMMLM_Aモードが適用されるか、或いは上側隣接サンプルのみ利用可能な場合、S2[W’/8、-1]、S2[3W’/8、-1]、S2[5W’/8、-1]、S2[7W’/8、-1]
【0221】
-LM_Lモード又はMMLM_Lモードが適用されるか、或いは左側隣接サンプルのみ利用可能な場合、S2[-1、H’/8]、S2[-1、3H’/8]、S2[-1、5H’/8]、S2[-1、7H’/8]
【0222】
前述した方法によってCCLMパラメータ誘導のための8個の参照サンプル対(pair)が選択された後、CCLMパラメータは、既存のCCLMパラメータ誘導方法を拡張して誘導され得る。例えば、8個の参照サンプルをサンプル値の大きさ比較によって二種類に区分した後、各グループの平均値に基づいてCCLMパラメータを誘導することができる。例えば、CCLMパラメータは、上述した数式3を用いて誘導できる。すなわち、各グループのルマサンプル値の平均は、前記数式3のXa、Xbに対応することができ、Ya、Ybも各グループのクロマサンプル値の平均に基づいて誘導されることができる。
【0223】
本開示の他の実施例によれば、CCLM予測方法の適用において、現在クロマブロックの上端境界がCTUの境界と一致する場合、一番目の参照ラインに存在するサンプルを二番目の参照ラインに複写した後、本開示によるCCLM予測方法が使用できる。本開示の他の実施例によれば、現在クロマブロックの上端境界がCTUの境界と一致する場合、本開示によるCCLM予測方法が使用されなくてもよい。本開示の別の実施例によれば、現在クロマブロックの上端境界がCTUの境界と一致し、上側参照ラインを使用するCCLM予測方法が適用される場合(例えば、LM、LM_A、MMLM、MMLM_A)、本開示で提案するCCLM予測方法が使用されなくてもよい。
【0224】
本開示の他の実施例によれば、LMS基盤のCCLMパラメータ誘導の際に、1つの参照ラインに基づくCCLMパラメータ誘導の場合よりもさらに多い参照サンプルが使用できる。1つの参照ラインに基づくCCLMパラメータを誘導する場合よりも多い参照サンプルを用いてCCLMパラメータを誘導することにより、CCLMパラメータの正確度が高くなることができる。本開示の一実施例によって、CCLMパラメータ誘導の際に、クロマブロック周辺の4個の参照ラインが使用できる。例えば、この場合、CCLMパラメータは、前述した数式7を用いて誘導できる。又は、CCLMパラメータ誘導の際に、クロマブロック周辺のN個の参照ラインが使用できる。このとき、Nは、2とCTUの大きさとの間の値を有することができる。上述した2つの参照ライン基盤のCCLMパラメータ誘導方法は、N個の参照ライン基盤のCCLMパラメータ誘導方法に適用できる。例えば、N個の参照ラインを用いてCCLMパラメータを誘導する際に、N個の参照ラインにおいてCCLMパラメータの誘導に必要なサンプルは、前述した2つの参照ライン基盤のCCLMパラメータ誘導方法と同一の方法を用いて選択できる。
【0225】
本開示の別の実施例によれば、現在クロマブロックの大きさに適応的に複数の参照ライン基盤のCCLM方法が適用できる。すなわち、クロマブロックの大きさと所定のしきい値との比較に基づいて、CCLMパラメータの誘導に用いられるクロマ参照ラインの個数が異なるように決定できる。具体的な例は、次の通りである。
【0226】
-クロマブロックの幅(width)×高さ(height)がN以上である場合、複数の参照ライン基盤のCCLM方法が適用される。それ以外の場合には、既存の1参照ライン基盤のCCLM方法が適用される。
【0227】
-クロマブロックの幅(width)がN以上である場合、複数の参照ライン基盤のLM、LM_A、MMLM、MMLM_A方法が適用される。それ以外の場合には、既存の1参照ライン基盤のLM、LM_A、MMLM、MMLM_A方法が適用される。
【0228】
-クロマブロックの高さ(height)がN以上である場合、複数の参照ライン基盤のLM、LM_L、MMLM、MMLM_L方法が適用される。それ以外の場合には、既存の1参照ライン基盤のLM、LM_L、MMLM、MMLM_L方法が適用される。
【0229】
-クロマブロックの幅(width)×高さ(height)がN以下である場合、複数の参照ライン基盤のCCLM方法が適用される。それ以外の場合には、既存の1参照ライン基盤のCCLM方法が適用される。
【0230】
-クロマブロックの幅(width)がN以下である場合、複数の参照ライン基盤のLM、LM_A、MMLM、MMLM_A方法が適用される。それ以外の場合には、既存の1参照ライン基盤のLM、LM_A、MMLM、MMLM_A方法が適用される。
【0231】
-クロマブロックの高さ(Height)がN以下である場合、複数の参照ライン基盤のLM、LM_L、MMLM、MMLM_L方法が適用される。それ以外の場合には、既存の1参照ライン基盤のLM、LM_L、MMLM、MMLM_L方法が適用される。
【0232】
前述した方法によって、現在クロマブロックの予測のための参照サンプルが多いか或いは少ない場合、参照ラインの数を適応的に選択することにより、CCLM予測の効率が極大化できる。
【0233】
本開示の他の実施例によれば、CCLMの種類に適応的に複数の参照ライン基盤のCCLM方法の適用有無が決定できる。CCLMの種類(LM、LM_A、LM_L、MMLM、MMLM_A、MMLM_L)に基づいて複数の参照ライン基盤のCCLM方法の適用有無は、次のように決定できる。
【0234】
-MMLM、MMLM_A又はMMLM_Lのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0235】
-LM、LM_A又はLM_Lのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0236】
-LM又はMMLMのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0237】
-LM_A、MMLM_A、LM_L又はMMLM_Lのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0238】
-LM_A又はMMLM_Aのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0239】
-LM_L又はMMLM_Lのうちの少なくとも一つである場合、複数の参照ライン基盤のCCLM方法が適用される。
【0240】
以下、
図15~
図18を参照して説明する実施例は、画像符号化装置又は画像復号化装置で行われることができる。例えば、
図15~
図18に示されている方法は、
図2の画像符号化装置100のイントラ予測部185、又は
図3の画像復号化装置200のイントラ予測部265で行われることができる。画像符号化装置100で行われる場合、
図15~
図18に示されている方法は、
図4のステップS410で行われることができる。画像復号化装置200で行われる場合、
図15~
図18に示されている方法は、
図6のステップS610~ステップS630で行われることができる。以下では、説明の便宜のために、
図15~
図18に示されている方法が画像復号化装置で行われると説明する。しかし、
図15~
図18に示されている方法は、画像符号化装置でも同様に行われることができる。
【0241】
図15は、本開示の一実施例によるCCLM予測方法を示すフローチャートである。
【0242】
図15を参照すると、画像復号化装置は、クロマブロックの周辺に位置するクロマ参照サンプル及びクロマ参照サンプルに対応するルマ参照サンプルを導出することができる(S1510)。クロマブロックの周辺に位置するクロマ参照サンプルは、クロマブロックに隣接した参照サンプルであり得る。また、クロマ参照サンプルに対応するルマ参照サンプルは、ルマブロックに隣接した参照サンプルであり得る。このとき、本開示の一実施例によれば、クロマ参照サンプルは、クロマブロックに隣接した2つ以上のクロマ参照ラインから取得できる。ステップS1510で参照サンプルを導出するために、本開示の多様な実施例のうちの少なくとも一つ又は二つ以上の組み合わせが適用できる。
【0243】
画像復号化装置は、クロマ参照サンプル及びルマ参照サンプルに基づいてCCLMパラメータを誘導することができる(S1520)。すなわち、ステップS1510で導出したクロマ参照サンプル及びルマ参照サンプルを用いてCCLMパラメータを誘導することができる。本開示の一実施例によれば、CCLMパラメータは、ステップS1510で導出したクロマ参照サンプル及びルマ参照サンプルを用いて誘導できる。この場合、LMSモデルを用いてCCLMパラメータを誘導することができる。例えば、CCLMパラメータは、前述した数式7を用いて誘導できる。本開示の他の実施例によれば、CCLMパラメータは、ステップS1510で導出したクロマ参照サンプル及びルマ参照サンプルのうちの所定の個数のみを用いて誘導できる。例えば、CCLMパラメータは、前述した数式2及び/又は数式3を用いて誘導できる。
【0244】
画像復号化装置は、CCLMパラメータに基づいて、現在クロマブロックの予測サンプルを生成することができる(S1530)。具体的に、現在クロマブロックの予測サンプルは、ステップS1520ステップで誘導したCCLMパラメータ及び現在ルマブロックの復元されたサンプルを用いて誘導できる。又は、現在クロマブロックの予測サンプルは、ステップS1520で誘導したCCLMパラメータ及び現在ルマブロックのダウンサンプリングされた復元サンプルを用いて誘導できる。本開示の一実施例によれば、クロマブロックの予測サンプルは、前述した数式1を用いて誘導できる。
【0245】
図15に示す方法によれば、CCLMパラメータの誘導のために2以上の参照ラインが用いられることができるので、より精巧なCCLMパラメータの誘導が可能である。また、これにより、CCLM予測の正確度が向上することができ、符号化効率が向上することができる。
【0246】
図16は、現在クロマブロックの上端境界がCTUの境界と一致する場合のCCLM適用方法の例を示す。
【0247】
図16の方法は、
図15のステップS1510の前ステップとして行われることができる。すなわち、
図16の方法は、CCLMパラメータを誘導するために、複数の参照ラインを用いるか、単数の参照ラインを用いるか、或いは他の変形方式の参照ラインを用いるかを判断する方法であり得る。
【0248】
図16を参照すると、画像復号化装置は、現在クロマブロックの上端境界がCTUの境界と一致するかを確認することができる(S1610)。クロマブロックの上端境界がCTUの境界と一致する場合(S1610でYES)、画像復号化装置は、複数の参照ライン基盤のCCLMを適用しない(S1620)。この場合、例えば、画像復号化装置は、1つの参照ラインに基づいてCCLMを適用することができる。又は、画像復号化装置は、一番目の参照ラインに存在するサンプルを二番目の参照ラインに複写した後、本開示による複数の参照ライン基盤のCCLMを適用することができる。
【0249】
クロマブロックの上端境界がCTUの境界と一致しない場合(S1610でNO)、画像復号化装置は、現在クロマブロックを予測するために、本開示による複数の参照ライン基盤のCCLMを適用することができる(S1630)。例えば、クロマブロックの上端境界がCTUの境界と一致しない場合、画像復号化装置は、複数の参照ラインに基づいてLMSモデルを用いるか、或いは複数の参照ラインから選択された所定の個数の参照サンプルを用いてCCLMパラメータを誘導することができる。
【0250】
図16に示されている実施例によれば、クロマブロックの上端境界がCTUの境界と一致するか否かによって適応的に本開示による多様な実施例を適用することができるので、CCLMパラメータ誘導の効率が向上することができる。
【0251】
図17は、現在クロマブロックの大きさに基づいて複数の参照ライン基盤のCCLMが適用されるか否かを決定する本開示の実施例を説明するための図である。
【0252】
図17を参照すると、画像復号化装置は、現在クロマブロックの大きさが所定の条件を満たしたかを確認することができる(S1710)。本開示の一実施例によれば、所定の条件は、現在クロマブロックの幅×高さがN以上であるか否かを確認する条件であり得る。ここで、Nは、4、8、16、32、64、128、256又は1024のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。本開示の他の実施例によれば、所定の条件は、現在クロマブロックの幅がN以上であるか否かを確認する条件であり得る。ここで、Nは、2、4、8、16、32、64又は128のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。本開示の別の実施例によれば、所定の条件は、現在クロマブロックの高さがN以上であるか否かを確認する条件であり得る。ここで、Nは、2、4、8、16、32、64又は128のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。本開示の別の実施例によれば、所定の条件は、現在クロマブロックの幅×高さがN以下であるか否かを確認する条件であり得る。ここで、Nは、4、8、16、32、64、128、256又は1024のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。本開示の別の実施例によれば、所定の条件は、現在クロマブロックの幅がN以下であるか否かを確認する条件であり得る。ここで、Nは、2、4、8、16、32、64又は128のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。本開示の別の実施例によれば、所定の条件は、現在クロマブロックの高さがN以下であるか否かを確認する条件であり得る。ここで、Nは、2、4、8、16、32、64又は128のうちの少なくとも一つであってもよく、それ以外の他の数字を含んでもよい。
【0253】
現在クロマブロックの大きさが所定の条件を満たす場合(S1710でYES)、複数の参照ライン基盤のCCLMが適用できる(S1720)。例えば、現在クロマブロックの大きさが所定の条件を満たす場合、画像復号化装置は、複数の参照ラインに基づいてLMSモデルを用いるか、或いは複数の参照ラインから選択された所定の個数の参照サンプルを用いてCCLMパラメータを誘導することができる。これに対し、現在クロマブロックの大きさが所定の条件を満たさない場合(S1710でNO)、複数の参照ライン基盤のCCLMが適用されない(S1730)。この場合、例えば、1つの参照ラインに基づくCCLMが適用できる。
【0254】
図17に示されている実施例によれば、現在クロマブロックの予測のためのサンプルが多いか或いは少ない場合、CCLMパラメータ誘導のための参照ラインの数を適応的に選択することにより、CCLM予測の効率が向上することができる。
【0255】
図18は、現在クロマブロックに適用されるCCLMの種類に基づいて複数の参照ライン基盤のCCLMの適用有無を決定する本開示の実施例を説明するための図である。
【0256】
図18を参照すると、画像復号化装置は、現在クロマブロックに適用されるCCLMの種類が所定の条件を満たすかを確認することができる(S1810)。本開示の一実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがMMLM、MMLM_A又はMMLM_Lのうちの少なくとも一つであるか否かを確認する条件であり得る。本開示の他の実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがLM、LM_A又はLM_Lのうちの少なくとも一つであるか否かを確認する条件であり得る。本発明の別の実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがLM_A又はMMLM_Aのうちの少なくとも一つであるか否かを確認する条件であり得る。本発明の別の実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがLM_A、MMLM_A、LM_L又はMMLM_Lのうちの少なくとも一つであるか否かを確認する条件であり得る。本開示の別の実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがLM_A又はMMLM_Aのうちの少なくとも一つであるか否かを確認する条件であり得る。本開示の別の実施例によれば、所定の条件は、現在クロマブロックに適用されるCCLMモードがLM_L又はMMLM_Lのうちの少なくとも一つであるか否かを確認する条件であり得る。
【0257】
現在クロマブロックに適用されるCCLMの種類が所定の条件を満たす場合(S1810でYES)、複数の参照ライン基盤のCCLMが適用できる(S1820)。例えば、現在クロマブロックに適用されるCCLMの種類が所定の条件を満たす場合、画像復号化装置は、複数の参照ラインに基づいてLMSモデルを用いるか、或いは複数の参照ラインから選択された所定の個数の参照サンプルを用いてCCLMパラメータを誘導することができる。
【0258】
これに対し、現在クロマブロックに適用されるCCLMの種類が所定の条件を満たさない場合(S1810でNO)、複数の参照ライン基盤のCCLMが適用されない(S1830)。この場合、例えば、1つの参照ラインに基づくCCLMが適用できる。
【0259】
図18に示されている実施例によれば、現在クロマブロックの予測のために適用されるCCLMの種類によって適応的に本開示による多様な実施例を適用することができるので、CCLMパラメータ誘導の効率が向上することができる。例えば、MMLM、MMLM_A又はMMLM_Lの場合、2以上の線形モデルが誘導されるため、線形モデルの誘導に必要な参照サンプルの個数が十分に確保される必要がある。よって、現在クロマブロックに適用されるCCLがMMLM、MMLM_A又はMMLM_Lのうちの少なくとも一つである場合、本開示による複数の参照ライン基盤のCCLMを適用することにより、複数の線形モデルの正確度が向上することができ、それにより予測の正確度が向上することができる。
【0260】
本開示の例示的な方法は、説明の明確性のために動作のシリーズで表現されているが、これは、ステップが行われる順序を制限するためのものではなく、必要な場合には、それぞれのステップが同時に又は異なる順序で行われることもできる。本開示による方法を実現するために、例示するステップにさらに他のステップを含むか、一部のステップを除いて残りのステップを含むか、或いは一部のステップを除いて追加の他のステップを含むこともできる。
【0261】
本開示において、所定の動作(ステップ)を行う画像符号化装置又は画像復号化装置は、当該動作(ステップ)の実行条件や状況を確認する動作(ステップ)を行うことができる。例えば、所定の条件が満足される場合、所定の動作を行うと記載された場合、画像符号化装置又は画像復号化装置は、前記所定の条件が満足されるか否かを確認する動作を行った後、前記所定の動作を行うことができる。
【0262】
本開示の様々な実施例は、すべての可能な組み合わせを羅列したものではなく、本開示の代表的な態様を説明するためのものであり、様々な実施例で説明する事項は、独立して適用されてもよく、2つ以上の組み合わせで適用されてもよい。
【0263】
また、本開示の様々な実施例は、ハードウェア、ファームウェア(firmware)、ソフトウェア、又はそれらの組み合わせなどによって実現できる。ハードウェアによる実現の場合、1つ又はそれ以上のASICs(Application Specific Integrated Circuits)、DSPs(Digital Signal Processors)、DSPDs(Digital Signal Processing Devices)、PLDs(Programmable Logic Devices)、FPGAs(Field Programmable Gate Arrays)、汎用プロセッサ(general processor)、コントローラ、マイクロコントローラ、マイクロプロセッサなどによって実現できる。
【0264】
また、本開示の実施例が適用された画像復号化装置及び画像符号化装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ会話装置、ビデオ通信などのリアルタイム通信装置、モバイルストリーミング装置、記憶媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、画像電話ビデオ装置、及び医療用ビデオ装置などに含まれることができ、ビデオ信号又はデータ信号を処理するために使用できる。例えば、OTTビデオ(Over the top video)装置としては、ゲームコンソール、ブルーレイプレーヤー、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recoder)などを含むことができる。
【0265】
図19は、本開示の実施例が適用できるコンテンツストリーミングシステムを例示する図である。
【0266】
図19に示すように、本開示の実施例が適用されたコンテンツストリーミングシステムは、大きく、符号化サーバ、ストリーミングサーバ、Webサーバ、メディアストレージ、ユーザ装置及びマルチメディア入力装置を含むことができる。
【0267】
前記符号化サーバは、スマートフォン、カメラ、カムコーダなどのマルチメディア入力装置から入力されたコンテンツをデジタルデータに圧縮してビットストリームを生成し、これを前記ストリーミングサーバに伝送する役割を果たす。他の例として、スマートフォン、カメラ、ビデオカメラなどのマルチメディア入力装置がビットストリームを直接生成する場合、前記サーバは省略できる。
【0268】
前記ビットストリームは、本開示の実施例が適用された画像符号化方法及び/又は画像符号化装置によって生成でき、前記ストリーミングサーバは、前記ビットストリームを伝送又は受信する過程で一時的に前記ビットストリームを保存することができる。
【0269】
前記ストリーミングサーバは、Webサーバを介してユーザの要求に基づいてマルチメディアデータをユーザ装置に伝送し、前記Webサーバは、ユーザにどんなサービスがあるかを知らせる媒介体の役割を果たすことができる。ユーザが前記Webサーバに所望のサービスを要求すると、前記Webサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを伝送することができる。この時、前記コンテンツストリーミングシステムは、別途の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間の命令/応答を制御する役割を果たすことができる。
【0270】
前記ストリーミングサーバは、メディアストレージ及び/又は符号化サーバからコンテンツを受信することができる。例えば、前記符号化サーバからコンテンツを受信する場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間保存することができる。
【0271】
前記ユーザ装置の例としては、携帯電話、スマートフォン(smart phone)、ノートパソコン(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device)、例えば、スマートウォッチ(smartwatch)、スマートグラス(smart glass)、HMD(head mounted display)、デジタルTV、デスクトップコンピュータ、デジタルサイネージなどがあり得る。
【0272】
前記コンテンツストリーミングシステム内の各サーバは、分散サーバとして運営されることができ、この場合、各サーバから受信するデータは、分散処理されることができる。
【0273】
本開示の範囲は、様々な実施例の方法による動作が装置又はコンピュータ上で実行されるようにするソフトウェア又はマシン-実行可能なコマンド(例えば、オペレーティングシステム、アプリケーション、ファームウェア(firmware)、プログラムなど)、及びこのようなソフトウェア又はコマンドなどが保存されて装置又はコンピュータ上で実行できる非一時的なコンピュータ可読媒体(non-transitory computer-readable medium)を含む。
【産業上の利用可能性】
【0274】
本開示による実施例は、画像を符号化/復号化することに利用可能である。
【手続補正書】
【提出日】2024-07-02
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
画像復号化装置によって行われる画像復号化方法であって、
前記画像復号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するル
マ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを
導出するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、画像復号化方法。
【請求項2】
前記CCLMパラメータを
導出する
前記ステップは、前記クロマブロックに隣接した
前記2つ以上の前記クロマ参照ラインに存在する前記クロマ参照サンプルを用いるLMS(Linear-Mean-Square)に基づいて行われる、請求項1に記載の画像復号化方法。
【請求項3】
前記CCLMパラメータを
導出する
前記ステップは、前記クロマブロックに隣接した
前記2つ以上の前記クロマ参照ラインに存在す
るクロマ参照サンプル
の所定の個数を用いる、請求項1に記載の画像復号化方法。
【請求項4】
前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した
1番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した
2番目の参照ラインに対するサブサンプリング方法とは同一である、請求項1に記載の画像復号化方法。
【請求項5】
前記クロマブロックが非正方形ブロックであることに基づいて、前記クロマブロックに隣接した
1番目の参照ラインに対するサブサンプリング方法と、前記クロマブロックに隣接した
2番目の参照ラインに対するサブサンプリング方法とは異なる、請求項1に記載の画像復号化方法。
【請求項6】
前記クロマブロックの上端境界がCTUの境界と一致する
ことに基づいて、前記クロマ参照サンプルを導出するため
のクロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項7】
2つ以上のクロマ参照ラインの
個数がNであることに基づいて
、複数の
2N個の上側ルマ参照ラインのうちの2i-1番目の上側ルマ参照ライン及び2i番目の上側ルマ参照ラインに基づいて
、ダウンサンプリングされたi番目の上側ルマ参照ライン
が生成
され、iは1~Nの整数で
あり、
前記ルマ参照サンプルは、前記ダウンサンプリングされたN個の上側ルマ参照ラインに基づいて取得される、請求項1に記載の画像復号化方法。
【請求項8】
2つ以上のクロマ参照ラインの
個数がNであることに基づいて
、複数の
2N+1個の左側ルマ参照ラインのうちの2i-1番目の左側ルマ参照ライン、2i番目の左側ルマ参照ライン
、及び2i+1番目の左側ルマ参照ラインに基づいて
、ダウンサンプリングされたi番目の左側ルマ参照ライン
が生成
され、iは1~Nの整数で
あり、
前記ルマ参照サンプルは、前記ダウンサンプリングされたN個の左側ルマ参照ラインに基づいて取得される、請求項1に記載の画像復号化方法。
【請求項9】
前記クロマブロックの大きさと所定のしきい値との
間の比較に基づいて、前記CCLMパラメータの
導出に用いられるクロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項10】
前記クロマブロックに適用されるCCLMの種類に基づいて、前記CCLMパラメータ
を導出するために用いられるクロマ参照ラインの個数が異なるように決定される、請求項1に記載の画像復号化方法。
【請求項11】
前記CCLMパラメータを
導出する
前記ステップは、
前記ルマ参照サンプル及び前記クロマ参照サンプルを所定のしきい値に基づいて2つ以上のグループに分類するステップと、
分類され
たグループ
ごとに
前記CCLMパラメータを
導出するステップと、をさらに含む、請求項1に記載の画像復号化方法。
【請求項12】
画像符号化装置によって行われる画像符号化方法であって、
前記
画像符号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを
導出するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される、画像符号化方法。
【請求項13】
画像符号化方法によって生成されたビットストリームを伝送する方法において、
前記画像符号化方法は、
クロマブロックのイントラ予測モードがCCLM(Cross-component linear model)モードであることに基づいて、前記クロマブロックの周辺に位置するクロマ参照サンプル、及び前記クロマ参照サンプルに対応するルマ参照サンプルを導出するステップと、
前記クロマ参照サンプル及び前記ルマ参照サンプルに基づいて、CCLMパラメータを
導出するステップと、
前記CCLMパラメータに基づいて、前記クロマブロックの予測サンプルを生成するステップと、を含み、
前記クロマ参照サンプルは、前記クロマブロックに隣接した2つ以上のクロマ参照ラインから取得される
、方法。
【国際調査報告】