▶ テレフオンアクチーボラゲット エル エム エリクソン（パブル）の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-07-07
(54)【発明の名称】適応ループフィルタ処理のための仮想境界処理
(51)【国際特許分類】
H04N 19/117 20140101AFI20220630BHJP
H04N 19/167 20140101ALI20220630BHJP
H04N 19/176 20140101ALI20220630BHJP
H04N 19/82 20140101ALI20220630BHJP
【ＦＩ】
H04N19/117
H04N19/167
H04N19/176
H04N19/82
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021539897
(86)(22)【出願日】2020-11-26
(85)【翻訳文提出日】2021-09-06
(86)【国際出願番号】 SE2020051131
(87)【国際公開番号】W WO2021133236
(87)【国際公開日】2021-07-01
(31)【優先権主張番号】62/953,310
(32)【優先日】2019-12-24
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】598036300
【氏名又は名称】テレフオンアクチーボラゲット エルエム エリクソン（パブル）
(74)【代理人】
【識別番号】100109726
【弁理士】
【氏名又は名称】園田 吉隆
(74)【代理人】
【識別番号】100161470
【弁理士】
【氏名又は名称】冨樫 義孝
(74)【代理人】
【識別番号】100194294
【弁理士】
【氏名又は名称】石岡 利康
(74)【代理人】
【識別番号】100194320
【弁理士】
【氏名又は名称】藤井 亮
(74)【代理人】
【識別番号】100150670
【弁理士】
【氏名又は名称】小梶 晴美
(72)【発明者】
【氏名】アンデション， ケネト
(72)【発明者】
【氏名】ストレム， ヤコブ
(72)【発明者】
【氏名】チャン， ヂィー
(72)【発明者】
【氏名】エンホーン， ジャック
【テーマコード（参考）】
5C159
【Ｆターム（参考）】
5C159MA00
5C159MC11
5C159ME01
5C159PP04
5C159SS26
5C159TA69
5C159TB08
5C159TC33
5C159TC35
5C159UA02
5C159UA05
5C159UA16
(57)【要約】
ビデオシーケンスの画像を符号化または復号するための方法が提供される。本方法は、画像に関連するサンプル値のセットを取得することを含む。本方法は、仮想境界に対する現在サンプル値の相対ロケーションを決定することを含む。仮想境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定される。仮想境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけブロック境界から分離される。本方法は、仮想境界に対する現在サンプル値の決定された相対ロケーションに基づくフィルタ強度値を含む。本方法は、選択されたフィルタ強度値に基づいて現在サンプル値をフィルタ処理することを含む。
【選択図】図１９
【選択図】図１９
【特許請求の範囲】
【請求項1】
ビデオシーケンスの画像を符号化または復号するための方法（１９００）であって、前記方法は、前記画像に関連するサンプル値のセットを取得することであって、サンプル値の前記セットが、現在サンプル値と前記現在サンプル値に近隣するサンプル値とを含み、前記取得されたサンプル値のセットが、サンプル値の第１の矩形ブロック内に含まれる、サンプル値のセットを取得することと、
仮想境界に対する前記現在サンプル値の相対ロケーションを決定することであって、前記仮想境界が、サンプル値の前記第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定され、前記仮想境界が、前記ブロック境界と平行であり、サンプル値の前記第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけ前記ブロック境界から分離される、相対ロケーションを決定することと、
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいてフィルタ強度値を選択することと、
前記選択されたフィルタ強度値に基づいて前記現在サンプルをフィルタ処理することと
を含む、方法（１９００）。
【請求項2】
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいてフィルタ強度値を選択することが、前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいて右シフト値または除数を選択することを含み、前記選択されたフィルタ量に基づいて前記現在サンプルをフィルタ処理することが、前記選択された右シフト値または除数を使用して前記現在サンプル値をフィルタ処理することを含む、
請求項１に記載の方法。
【請求項3】
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいてフィルタ強度値を選択することは、前記現在サンプル値が前記仮想境界に隣接すると決定された場合、第１のフィルタ強度値を選択すること、あるいは
前記現在サンプル値が前記仮想境界から前記１つの行または列よりも多く離れていると決定された場合、第２のフィルタ強度値を選択すること
を含む、請求項１または２に記載の方法。
【請求項4】
前記第１のフィルタ強度値が７よりも大きく、前記第２のフィルタ強度値が７よりも小さいかまたは７に等しい、あるいは前記第１のフィルタ強度値が１よりも大きいかまたは１に等しく、前記第２のフィルタ強度値が０である、
請求項３に記載の方法。
【請求項5】
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいてフィルタ強度値を選択することは、前記現在サンプル値が前記仮想境界から前記１つの行または列よりも多く離れていないと決定された場合、第１のフィルタ強度値を選択すること、あるいは
前記現在サンプル値が前記仮想境界から前記１つの行または列よりも多く離れていると決定された場合、フィルタ強度値のセットからフィルタ強度値を選択することであって、フィルタ強度値の前記セットが、第２のフィルタ強度値と第３のフィルタ強度値と第４のフィルタ強度値とを含む、フィルタ強度値のセットからフィルタ強度値を選択すること
を含む、請求項１または２に記載の方法。
【請求項6】
前記現在サンプル値が前記仮想境界から前記１つの行または列よりも多く離れていると決定された場合、フィルタ強度値の前記セットからフィルタ強度値を選択することは、前記現在サンプル値が前記仮想境界から２つの行または列離れていると決定された場合、前記第２のフィルタ強度値を選択すること、
前記現在サンプル値が前記仮想境界から３つの行または列離れていると決定された場合、前記第３のフィルタ強度値を選択すること、あるいは
前記現在サンプル値が前記仮想境界から少なくとも４つの行または列離れていると決定された場合、前記第４のフィルタ強度値を選択すること
を含む、請求項５に記載の方法。
【請求項7】
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいてフィルタ強度値を選択することが、前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションにだけでなく、前記現在サンプル値を含むサンプル値のブロックの特性にも基づいて、前記フィルタ強度値を選択することを含む、請求項１から６のいずれか一項に記載の方法。
【請求項8】
ビデオシーケンスの画像を符号化または復号するための方法（１８００）であって、前記方法は、画像に関連するサンプル値のセットを取得することであって、サンプル値の前記セットが、現在サンプル値と前記現在サンプル値に近隣する近隣のサンプル値のセットとを含み、前記取得されたサンプル値のセットが、サンプル値の第１の矩形ブロック内に含まれる、サンプル値のセットを取得することと、
仮想境界に対する前記現在サンプル値の相対ロケーションを決定することであって、前記仮想境界が、サンプル値の前記第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定され、前記仮想境界が、前記ブロック境界と平行であり、サンプル値の前記第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけ前記ブロック境界から分離される、相対ロケーションを決定することと、
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいて、前記現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことと
を含む、方法（１８００）。
【請求項9】
前記現在サンプルの前記決定された相対ロケーションに基づいて、前記現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことは、前記現在サンプル値が前記仮想境界に隣接するかどうかを決定することと、
前記現在サンプル値が前記仮想境界に隣接すると決定したことの結果として、前記現在サンプル値をフィルタ処理するのを控えるという判定を行うことと
を含む、請求項８に記載の方法。
【請求項10】
前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションに基づいて、前記現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことが、前記仮想境界に対する前記現在サンプルの前記決定された相対ロケーションにだけでなく、前記現在サンプル値を含むサンプル値のブロックの特性にも基づいて、前記判定を行うことを含む、請求項８または９に記載の方法。
【請求項11】
前記現在サンプル値が前記仮想境界に隣接するときに前記現在サンプル値をフィルタ処理しないという前記判定が、交差成分適応ループフィルタ（ＣＣ－ＡＬＦ）に適用される、請求項８から１０のいずれか一項に記載の方法。
【請求項12】
処理回路（２１０２）によって実行されたとき、前記処理回路（２１０２）に、請求項１から１１のいずれか一項に記載の方法を実施させる命令（２１４４）を備える、コンピュータプログラム（２１４３）。
【請求項13】
請求項１２に記載のコンピュータプログラムを含んでいるキャリアであって、前記キャリアが、電子信号、光信号、無線信号、およびコンピュータ可読記憶媒体（２１４２）のうちの１つである、キャリア。
【請求項14】
請求項１から１１のいずれか一項に記載の方法を実施するように適応された、装置（２１０１）。
【請求項15】
装置（２１０１）であって、前記装置が、処理回路（２１０２）と、
メモリ（２１４２）と
を備え、前記メモリが、前記処理回路によって実行可能な命令（２１４４）を含んでおり、それにより、前記装置が、請求項１から１１のいずれか一項に記載の方法を実施するように動作可能である、装置（２１０１）。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ビデオシーケンスの画像のエンコーディングおよび復号に関する。
【背景技術】
【0002】
序論
ビデオシーケンスは、（本明細書では「ピクチャ」とも呼ばれる）いくつかの画像からなる。スクリーン上で閲覧されるとき、画像はピクセルからなり、各ピクセルは、赤、緑および青の値（ＲＧＢ）を有する。しかしながら、ビデオシーケンスを符号化および復号するとき、画像は、しばしば、ＲＧＢを使用して表されないが、一般に、限定はしないが、ＹＣｂＣｒと、ＩＣＴＣＰと、非定輝度ＹＣｂＣｒと、定輝度ＹＣｂＣｒとを含む、別の色空間を使用して表される。ＹＣｂＣｒの例をとる場合、ＹＣｂＣｒは、３つの成分、Ｙ、ＣｂおよびＣｒから構成される。ルーマと呼ばれ、ルミナンスをほぼ表すＹは、フル解像度のものであるが、２つの他の成分、すなわち、クロマと呼ばれるＣｂおよびＣｒは、より小さい解像度のものであることがしばしばある。一般的な例は、１９２０×１０８０ＲＧＢピクセルを含んでいる高精細度（ＨＤ）ビデオシーケンスであり、これは、しばしば、１９２０×１０８０解像度Ｙ成分と、９６０×５４０Ｃｂ成分と、９６０×５４０Ｃｒ成分とで表される。成分のエレメントは、サンプルと呼ばれる。上記の例では、したがって、Ｙ成分の１９２０ｘ１０８０サンプルがあり、したがって、サンプルとピクセルとの間に直接の関係がある。したがって、本明細書では、時々、ピクセルおよびサンプルという用語を互換的に使用する。Ｃｂ成分およびＣｒ成分の場合、サンプルとピクセルとの間に直接の関係はなく、単一のＣｂサンプルが、一般に、いくつかのピクセルに影響を及ぼす。
ビデオシーケンスは、（本明細書では「ピクチャ」とも呼ばれる）いくつかの画像からなる。スクリーン上で閲覧されるとき、画像はピクセルからなり、各ピクセルは、赤、緑および青の値（ＲＧＢ）を有する。しかしながら、ビデオシーケンスを符号化および復号するとき、画像は、しばしば、ＲＧＢを使用して表されないが、一般に、限定はしないが、ＹＣｂＣｒと、ＩＣＴＣＰと、非定輝度ＹＣｂＣｒと、定輝度ＹＣｂＣｒとを含む、別の色空間を使用して表される。ＹＣｂＣｒの例をとる場合、ＹＣｂＣｒは、３つの成分、Ｙ、ＣｂおよびＣｒから構成される。ルーマと呼ばれ、ルミナンスをほぼ表すＹは、フル解像度のものであるが、２つの他の成分、すなわち、クロマと呼ばれるＣｂおよびＣｒは、より小さい解像度のものであることがしばしばある。一般的な例は、１９２０×１０８０ＲＧＢピクセルを含んでいる高精細度（ＨＤ）ビデオシーケンスであり、これは、しばしば、１９２０×１０８０解像度Ｙ成分と、９６０×５４０Ｃｂ成分と、９６０×５４０Ｃｒ成分とで表される。成分のエレメントは、サンプルと呼ばれる。上記の例では、したがって、Ｙ成分の１９２０ｘ１０８０サンプルがあり、したがって、サンプルとピクセルとの間に直接の関係がある。したがって、本明細書では、時々、ピクセルおよびサンプルという用語を互換的に使用する。Ｃｂ成分およびＣｒ成分の場合、サンプルとピクセルとの間に直接の関係はなく、単一のＣｂサンプルが、一般に、いくつかのピクセルに影響を及ぼす。
【0003】
ジョイントビデオエキスパートチーム（ＪＶＥＴ）によって開発された、最新のビデオコーディング規格、多用途ビデオコーディング規格（ＶＶＣ）では、画像の復号は、２つの段階、予測コーディングおよびループフィルタ処理において行われる。予測復号段階では、成分（Ｙ、ＣｂおよびＣｒ）のサンプルは、矩形ブロックに区分される。一例として、あるブロックはサイズ４×８サンプルのものであり得るが、別のブロックはサイズ６４×６４サンプルのものであり得る。デコーダは、各ブロックについて予測をどのように行うべきかについての命令を取得して、たとえば、前に復号された画像からサンプルをコピーするか（時間予測の一例）、または現在画像のすでに復号された部分からサンプルをコピーするか（イントラ予測の一例）、あるいはそれらの組合せを行う。この予測を改善するために、デコーダは、離散サイン変換ＤＳＴまたは離散コサイン変換ＤＣＴなど、変換コーディングを使用してしばしば符号化される、残差を取得し得る。この残差は予測に加算され、デコーダは、後にくるブロックを続いて復号することができる。
【0004】
予測復号段階からの出力は、３つの成分Ｙ、ＣｂおよびＣｒである。しかしながら、これらの成分の忠実度をさらに改善することが可能であり、これは、ループフィルタ処理段階において行われる。ＶＶＣにおけるループフィルタ処理段階は、３つのサブ段階、すなわち、デブロッキングフィルタ段階と、サンプル適応オフセットフィルタ（ＳＡＯ）サブ段階と、適応ループフィルタ（ＡＬＦ）サブ段階とからなる。デブロッキングフィルタサブ段階では、デコーダは、いくつかの条件が満たされたとき、ブロック境界の近くのエッジを平滑化することによって、Ｙ、ＣｂおよびＣｒを変更する。これは、人間の視覚系がブロック境界に沿ったブロックアーティファクトなどの規則的なエッジを検出するのが極めて得意であるので、知覚品質（主観的品質）を高める。ＳＡＯサブ段階では、デコーダは、ある値範囲中にあること（帯域オフセットＳＡＯ）または特定の近傍を有すること（エッジオフセットＳＡＯ）など、いくつかの条件を満たすサンプルに対して、シグナリングされた値を加算または減算する。これはリンギングノイズを低減することができ、なぜなら、そのようなノイズが、しばしば、ある値範囲中にまたは特定の近傍中に（たとえば、局所最大値に）凝集するからである。本明細書では、この段階の結果である再構築された画像成分を、ＹＳＡＯ、ＣｂＳＡＯ、ＣｒＳＡＯと示す。ループフィルタ段階は、３つの成分のすべてのブロックが再構築されるまで待つ必要がないが、所望される場合、ブロックごとに進めることができる。
【0005】
本発明は、第３のサブ段階、ＡＬＦに関し、したがって、それについてもう少し詳細に説明する。適応ループフィルタ処理の背後の基本概念は、画像成分ＹＳＡＯ、ＣｂＳＡＯおよびＣｒＳＡＯの忠実度が、しばしば、エンコーダからデコーダにシグナリングされる線形フィルタを使用して画像をフィルタ処理することによって改善され得ることである。一例として、最小２乗問題を解くことによって、エンコーダは、これまでの再構築された画像成分、ＹＳＡＯ、ＣｂＳＡＯ、ＣｒＳＡＯと、元の画像成分Ｙｏｒｇ、ＣｂｏｒｇおよびＣｒｏｒｇとの間の誤差を最も効率的に下げるために、線形フィルタがどんな係数を有するべきであるかを決定することができる。これらの係数は、次いで、エンコーダからデコーダにシグナリングされ得る。デコーダは、上記で説明されたように画像を再構築して、ＹＳＡＯ、ＣｂＳＡＯ、およびＣｒＳＡＯを得、ビットストリームからフィルタ係数を取得し、次いで、フィルタを適用して、ＹＡＬＦ、ＣｂＡＬＦ、ＣｒＡＬＦと示す最終出力を得る。
【0006】
ＶＶＣでは、ＡＬＦルーマフィルタは、これよりも高度である。まず第一に、係数のあるセットでいくつかのサンプルをフィルタ処理するが、他のサンプルをフィルタ処理することを回避するか、または場合によっては係数の別のセットでそれらの他のサンプルをフィルタ処理することがしばしば有利であることが観測される。そのために、ＶＶＣは、あらゆるＹサンプル（すなわち、あらゆるルーマサンプル）を２５個のクラスのうちの１つに分類する。サンプルがどのクラスに属するかは、そのサンプルの局所近傍（８×８近傍）に基づいて、詳細には周囲サンプルの勾配および周囲サンプルのアクティビティに基づいて、各４×４ブロックについて判定される。ＶＶＣ仕様からわかるように、現在サンプルの局所近傍の特性を決定するために４つの変数が算出され、ここで、ｆｉｌｔＨは水平方向に勾配を測定し、ｆｉｌｔＶは垂直方向に勾配を測定し、ｆｉｌｔＤ０は左上から右下に対角線方向に勾配を測定し、ｆｉｌｔＤ１は右上から左下に対角線方向に勾配を測定する。
【0007】
次いで、これらの変数は、以下のように、近傍の方向性のより信頼できる推定値を得るために現在サンプルの周りの局所近傍において合計され、ここで、以下のＶＶＣドラフトから、ｓｕｍＨはｆｉｌｔＨの和を示し、ｓｕｍＶはｆｉｌｔＶの和を示し、ｓｕｍＤ０はｆｉｌｔＤ０の和を示し、ｓｕｍＤ１はｆｉｌｔＤ１の和を示し、ｓｕｍＯｆＨＶはｓｕｍＶとｓｕｍＶとの和を示す。
【0008】
以下のＶＶＣドラフトから、最終的にこれらのメトリックに基づいて分類が行われて、現在サンプルについてフィルタのどのセットｆｉｌｔＩｄｘを使用すべきかを決定し、また、いくつかの方向性が同じフィルタ係数を共有することができるようにｔｒａｎｓｐｏｓｅＩｄｘを決定する。
【0009】
上記のことから、０～４に等しいｆｉｌｔＩｄｘは、特定の方向性特性を有しないことがわかり得る。４よりも大きいｆｉｌｔｅｒＩｄｘの値は、これはｄｉｒＳが０よりも大きいことを意味するので、サンプルの方向性に対応する。ｆｉｌｔＩｄｘへの加算
ｆｉｌｔＩｄｘ［ｘ］［ｙ］＋＝（（（ｄｉｒ１［ｘ］［ｙ］＆０ｘ１）＜＜１）＋ｄｉｒＳ［ｘ］［ｙ］）＊５、
を検討すると、対角方向性を有する場合、すなわち、ｄｉｒ１が０または２のいずれかである場合、第１の項は０になり、１＊５（ｄｉｒＳ＝１である場合）または２＊５（ｄｉｒＳ＝２である場合）を加算することができることがわかる。（ｄｉｒＳ＝０である場合、加算を行わない。）したがって、５から１４までのｆｉｌｔｅｒＩｄｘのすべての値が、サンプルの対角方向性に対応する。同様に、水平方向性または垂直方向性を有する場合、すなわち、ｄｉｒ１が１または３のいずれかである場合、第１の項（ｄｉｒ１＆１）＜＜１は２になる。したがって、この場合、（２＋１）＊５を加算するか（ｄｉｒＳ＝１である場合）、または（２＋２）＊５を加算するか（ｄｉｒＳ＝２である場合）のいずれかであり、これは１５から２４の間の値を生じる。したがって、表１で説明されるように、ｆｉｌｔＩｄｘが以下のようにして周囲サンプルの方向性を示すと結論付けた。
ｆｉｌｔＩｄｘ［ｘ］［ｙ］＋＝（（（ｄｉｒ１［ｘ］［ｙ］＆０ｘ１）＜＜１）＋ｄｉｒＳ［ｘ］［ｙ］）＊５、
を検討すると、対角方向性を有する場合、すなわち、ｄｉｒ１が０または２のいずれかである場合、第１の項は０になり、１＊５（ｄｉｒＳ＝１である場合）または２＊５（ｄｉｒＳ＝２である場合）を加算することができることがわかる。（ｄｉｒＳ＝０である場合、加算を行わない。）したがって、５から１４までのｆｉｌｔｅｒＩｄｘのすべての値が、サンプルの対角方向性に対応する。同様に、水平方向性または垂直方向性を有する場合、すなわち、ｄｉｒ１が１または３のいずれかである場合、第１の項（ｄｉｒ１＆１）＜＜１は２になる。したがって、この場合、（２＋１）＊５を加算するか（ｄｉｒＳ＝１である場合）、または（２＋２）＊５を加算するか（ｄｉｒＳ＝２である場合）のいずれかであり、これは１５から２４の間の値を生じる。したがって、表１で説明されるように、ｆｉｌｔＩｄｘが以下のようにして周囲サンプルの方向性を示すと結論付けた。
【0010】
ここで、０に等しいｔｒａｎｓｐｏｓｅＩｄｘは、フィルタ係数の転置がないことに対応し、１に等しいｔｒａｎｓｐｏｓｅＩｄｘは、右上から左下への対角線に沿ってフィルタ係数をミラーリングすることに対応し、２に等しいｔｒａｎｓｐｏｓｅＩｄｘは、垂直軸に沿ってフィルタ係数をミラーリングすることに対応し、３に等しいｔｒａｎｓｐｏｓｅＩｄｘは、フィルタ係数を９０度回転することに対応する。
【0011】
これは、ｆｉｌｔｅｒＩｄｘが１５から２４の間にあり、ｔｒａｎｓｐｏｓｅＩｄｘが３に等しいとき、現在サンプルの周りの局所構造は垂直方向性を有し、ｔｒａｎｓｐｏｓｅＩｄｘが０に等しいとき、現在サンプルの周りの局所構造は水平方向性を有することを意味する。
【0012】
エンコーダは、２５個のクラスの各々について係数の１つのセットをシグナリングすることが可能である。ＶＶＣでは、ＡＬＦ係数などは、適応パラメータセット（ＡＰＳ）中でシグナリングされ、ＡＰＳは、次いで、ピクチャを復号するとき、規定されたセットのうちのどれを使用すべきかを決定するａｐｓインデックスによって、参照され得る。デコーダは、次いで、最初に、サンプルがどのクラスに属するかを判定し、次いで、サンプルをフィルタ処理するための係数の適切なセットを選択する。しかしながら、係数の２５個のセットをシグナリングすることは、コストがかかり得る。したがって、ＶＶＣ規格はまた、２５個のクラスのうちの数個のみが係数の一意のセットを使用してフィルタ処理されることを可能にする。残りのクラスは別のクラスにおいて使用される係数のセットを再使用し得るか、または残りのクラスはまったくフィルタ処理されるべきでないと決定され得る。コストを低減するための別のやり方は、いわゆる固定係数セットを使用することである。これは、デコーダに知られている６４個のハードコーディングされたフィルタのセット（すなわち、係数値の６４個のグループ）である。エンコーダがこれらの固定（すなわち、ハードコーディングされた）フィルタのうちの１つの使用を極めて安価にデコーダにシグナリングすることが可能であり、なぜなら、それらのフィルタがデコーダにすでに知られているのからである。たとえば、デコーダは、Ｎ個のインデックス値（たとえば、Ｎ＝２５）の１６個の異なるグループのセットを記憶し、エンコーダは、Ｎ個のインデックス値の１６個のグループのうちの１つを指す初期インデックス値を送信し、ここで、Ｎ個のインデックス値のグループ中に含まれるインデックス値の各々はクラスに関連し、インデックス値の各々は、６４個のハードコーディングされたフィルタのうちの１つを指す。たとえば、インデックス値のグループ中のＮ個の値の第１のものは、第１のクラスのために使用されるべきである固定フィルタを指し、第２の値は、第２のクラスのために使用されるべきである固定フィルタを指す、などである。したがって、デコーダは、初期インデックス値およびクラスに基づいて、特定のフィルタのためのインデックス値を取得する。これらのフィルタは安価であるが、これらのフィルタは、所望のフィルタに完全には一致しないことがあり、したがって、わずかにより悪い品質を生じることがある。ＣｂまたはＣｒに属するサンプルの場合、すなわち、クロマサンプルの場合、分類は使用されず、係数の同じセットがすべてのサンプルのために使用される。
【0013】
フィルタ係数を送信することはコストがかかり、したがって、同じ係数値が２つのフィルタ位置のために使用される。ルーマ（Ｙ成分のサンプル）の場合、係数は、図１に示されているやり方で再使用される。図１に示されているように、各係数はフィルタにおいて２回使用され、図１は、ルーマフィルタがカバーする空間近傍（すなわち、図１は、現在サンプルの値（すなわち、近傍の中心にあるサンプル値）をフィルタ処理するために使用される他のサンプル値を示す）と、ルーマのためのフィルタ係数に関するその設定とを示す。フィルタカバレッジは対称的であり、水平方向と垂直方向の両方に中心から３つ離れたサンプルまでカバーすることがわかり得る。
【0014】
Ｒ（ｘ，ｙ）が、図１の中央に位置する、フィルタ処理されるべきサンプルであると仮定する。その場合、サンプルＲ（ｘ，ｙ－１）（真上のサンプル）とサンプルＲ（ｘ，ｙ＋１）（真下のサンプル）とは、同じ係数Ｃ６で扱われる。
【0015】
ＲＦ（ｘ，ｙ）と示す、位置（ｘ，ｙ）にある再構築されたサンプルのフィルタ処理されたバージョンが、ＶＶＣ仕様の式１４１１～１４２６および表４３から、以下のようにして計算され、ここで、（ｘ，ｙ）＝（ｈｘ，ｖｙ）ならびにＣ０＝ｆ［ｉｄｘ［０］］、Ｃ１＝ｆ［ｉｄｘ［１］］、Ｃ２＝ｆ［ｉｄｘ［２］］、Ｃ３＝ｆ［ｉｄｘ［３］］、Ｃ４＝ｆ［ｉｄｘ［４］］、Ｃ５＝ｆ［ｉｄｘ［５］］、Ｃ６＝ｆ［ｉｄｘ［６］］、Ｃ７＝ｆ［ｉｄｘ［７］］、Ｃ８＝ｆ［ｉｄｘ［８］］、Ｃ９＝ｆ［ｉｄｘ［９］］、Ｃ１０＝ｆ［ｉｄｘ［１０］］およびＣ１１＝ｆ［ｉｄｘ［１１］］である。
【0016】
ＣｔｂＳｉｚｅＹはＣＴＵの垂直サイズである。ＶＶＣにおけるＣＴＵは、一般に、１２８×１２８である。ここで、Ｃｌｉｐ３（ｘ，ｙ，ｚ）演算は、単に、値ｚの大きさが決して、ｙを超えることやｘを下回ることがないことを確認する。
【0017】
クリッピングパラメータ「ｃ［ｘ］」も、エンコーダからデコーダにシグナリングされるべきである。
【0018】
画像を復号することは、連続したＣＴＵ順序で行われる。一例として、ビデオフレームが５１２×２５６サンプルを有する場合、ビデオフレームは１２８×１２８ＣＴＵの２つの行からなることができ、ここで、各行は４つのＣＴＵを有する。ＣＴＵの第２の行を復号するとき、デコーダが、先行する（第１の）ＣＴＵ行からのサンプルにアクセスすることが、時々必要とされる。実際のハードウェアデコーダでは、これは、ほとんどの場合、いわゆるラインバッファ中にサンプルの最下部のラインを保存することによって解決され、ラインバッファからそれは容易にアクセスされ得る。本例で続けると、現在サンプルより上の２つのサンプルにアクセスする必要がある場合、本ラインバッファ中に、サンプルの２つのライン、この場合は５１２×２サンプルを記憶しなければならない。しかしながら、ラインバッファは、シリコン表面積の点で費用がかかる。したがって、ＶＶＣ規格の多くの部分では、費用がかかるラインバッファがそれほど必要ではないように、ＣＴＵ外の読取りは禁止または制限される。
【0019】
「仮想水平ＣＴＵ境界」の概念が導入されるまで、ＡＬＦのためのラインバッファ要件は、図１３に見られるように６つの追加のライン（行）であり、ここで、上のＣＴＵのＡＬＦフィルタ処理は、位置１０６に示されているように、上のＣＴＵの下部から行４つより上のサンプルのみをカバーするフィルタでのみ実施され得る。デブロッキングおよびＳＡＯが実施されたとき、位置１０５および下の行におけるＡＬＦが実施され得る。
【0020】
ＡＬＦのための水平ＣＴＵラインバッファ要件の必要を低減するための１つの試みが、ＶＶＣにおいて使用される「仮想水平ＣＴＵ境界」の概念である。仮想水平境界の位置は、図２に見られるように、現在ＣＴＵと現在ＣＴＵの直上のＣＴＵ（すなわち、「上」のＣＴＵ）との間の境界より４つのサンプル上であり、図２は、仮想境界の位置および２つの可能なＡＬＦフィルタ処理を示す。仮想境界は、デブロッキングがどのように働くか、すなわち、ＣＴＵ境界にあるサンプルをデブロックするとき、デブロッキングプロセスがＣＴＵ境界より４つのサンプル上まで読み取ることができることにより、ここに位置する。これは、現在ＣＴＵが復号されるまで、仮想境界より下のサンプルが上のＣＴＵにおいてデブロックされ得ず、最後の４つのラインが現在ＣＴＵ中のサンプル値に依存することを意味する。
【0021】
上のＣＴＵ中の仮想境界より下のサンプルがデブロックされた後に、それらのサンプルはＳＡＯおよびＡＬＦによって処理されなければならない。簡単のために、ＳＡＯが無効にされ、ＡＬＦ処理のみが行われる必要があると仮定する。ＡＬＦフィルタ処理を行うときに仮想境界への考慮がなされなかった場合、仮想境界より上のいくつかのサンプルがアクセスされるであろう。これは、フィルタが位置１０１にあるときの図２に見られ、仮想境界より上の３つの行のサンプルがアクセスされる。これは、ラインバッファの３つの余分のラインが必要であろうことを意味し、これはコストがかかる。これを回避するために、ＡＬＦフィルタ処理が仮想水平ＣＴＵ境界においてまたは仮想水平ＣＴＵ境界より下で行われるとき、仮想境界サンプルより上のサンプルが使用されない（たとえば、フィルタの空間カバレッジが低減される）ことが指定される。同様に、仮想水平ＣＴＵ境界より上でフィルタ処理するとき、仮想水平ＣＴＵ境界にあるサンプルまたはそれより下のサンプルは使用されない。これは、いわゆる対称パディングを使用することによって達成される。対称パディングは、以下のように説明され得る。フィルタの中心が仮想水平ＣＴＵ境界にあるかまたは仮想ＣＴＵ境界の上の行にあるとき、近隣の行は、フィルタを中心とする行によってパディングされ、これは、ＶＶＣ仕様中の表４３において規定されているパディングパラメータｙ１＝ｙ２＝ｙ３＝０に対応する。図３では、仮想境界が中心サンプルのまさに上にある一例を示した。この場合、対称パディングは、左側に示されているサンプルが、そのサンプル値が右側に示されているようであるかのようにフィルタ処理されることを意味する。
【0022】
中心行が仮想境界より２つの行だけ上にあるとき、仮想境界にある行または仮想境界より下の行は、中心行の下側に隣接する行によってパディングされ、中心行の上側に隣接する行より上の行は、中心行より上の行によってパディングされ、これは、ＶＶＣ仕様中の表４３において規定されているパディングパラメータｙ１＝ｙ２＝ｙ３＝１に対応する。図４は、仮想境界がフィルタ中心から１つのステップ移動された一例を示し、左側のサンプルは、その場合、それらのサンプルが右側に示されている値であるかのようにフィルタ処理される。これは、事実上、フィルタの空間カバレッジが低減されて、水平フィルタのみになることを意味する。
【0023】
中心行が仮想境界より３つの行だけ上にあるとき、仮想にある行または仮想境界より下の行は、中心行より２つの行だけ下にある行によってパディングされる。中心行より２つよりも多い行だけ上にある行は、中心行より２つの行だけ上にある行によってパディングされ、これは、ＶＶＣ仕様中の表４３中のパディングパラメータｙ１＝１かつｙ２＝２かつｙ３＝２に対応する。図５は、フィルタサポートが仮想境界をちょうど横切るときのフィルタ処理の一例を示し、ここで、左側のサンプルは、それらのサンプルが右側の値であるかのようにフィルタ処理される。
【0024】
対称パディング手法は、仮想境界より下の行のフィルタ処理のためにも使用される。分類の決定のために、分類のために使用される領域は、仮想境界の反対側のサンプルを含むことを回避するために制限され、それに加えて、仮想境界の反対側に隣接する行は、現在の側の行上の行に基づいてパディングされる。
【0025】
対称パディングは、クロマのためのラインバッファの数を増加させることを回避するために、クロマ成分のＡＬＦフィルタ処理のためにも適用される。クロマの場合、仮想境界の位置は、上のＣＴＵの下部から２つ離れた行上にあり、なぜなら、その行が水平クロマＣＴＵ境界のクロマデブロッキングのために使用される最後の行であるからである。
【0026】
上記で示された仮想水平ＣＴＵ境界の概念のほかに、ＶＶＣにおける仮想境界はまた、８の倍数である水平位置および８の倍数である垂直位置において規定され得る。そのような境界の場合、パディングは、現在サンプルと同じ側の境界に隣接するサンプルが、仮想境界の反対側のサンプルの代わりに使用されるように、フィルタの中心サンプル、たとえば現在サンプルの位置以外の、仮想境界の別の側のフィルタ係数を有するフィルタの側にのみ使用される。仮想水平ＣＴＵ境界のために説明される対称性パディングは、両側パディングされたものとして見られ、ここで、規定された仮想境界は片側パディングを使用する。
【0027】
１に等しいｓｐｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、仮想境界の情報がＳＰＳ中でシグナリングされることを指定する。０に等しいｓｐｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、仮想境界の情報がＳＰＳ中でシグナリングされないことを指定する。ＳＰＳ中でシグナリングされる１つまたは２つ以上の仮想境界があるとき、ループ内フィルタ処理演算は、ＳＰＳを参照するピクチャ中の仮想境界にわたって無効にされる。ループ内フィルタ処理演算は、デブロッキングフィルタ演算と、サンプル適応オフセットフィルタ演算と、適応ループフィルタ演算とを含む。
【0028】
１に等しいｐｈ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、仮想境界の情報がＰＨ中でシグナリングされることを指定する。０に等しいｐｈ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇは、仮想境界の情報がＰＨ中でシグナリングされないことを指定する。ＰＨ中でシグナリングされる１つまたは２つ以上の仮想境界があるとき、ループ内フィルタ処理演算は、ピクチャ中の仮想境界にわたって無効にされる。ループ内フィルタ処理演算は、デブロッキングフィルタ演算と、サンプル適応オフセットフィルタ演算と、適応ループフィルタ演算とを含む。存在しないとき、ｐｈ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇの値は０に等しいと推論される。
【0029】
ＪＶＥＴ－Ｏ０６３６［１］では、交差成分適応ループフィルタ（ＣＣ－ＡＬＦ：Ｃｒｏｓｓ－Ｃｏｍｐｏｎｅｎｔ Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ）と呼ばれるツールが、適応ループフィルタプロセスの一部として最初に提案された。ＣＣ－ＡＬＦは、ＪＶＥＴ－Ｐ会議とＪＶＥＴ－Ｑ会議とにおけるコア実験において研究された。ＣＣ－ＡＬＦは、各クロマ成分を改良するためにルーマサンプル値を利用する。ルーマサンプル値は、ＳＡＯ演算の後のおよびルーマＡＬＦ演算の前の再構築されたルーマサンプルであった。線形のダイヤモンド形フィルタが、各クロマ成分ｉのためのルーマサンプルに適用されて、残差補正ΔＩｉ（ｘ，ｙ）を導出する。残差補正は、ＡＬＦクロマの後の再構築されたクロマサンプルに適用されて、再構築されたクロマサンプル値を導出する。図６は、他のループフィルタに対するＣＣ－ＡＬＦの配置を示す。
【0030】
ＪＶＥＴ－Ｐ２０２５［２］、ｄｅｓｃｒｉｐｔｉｏｎ ｏｆ Ｃｏｒｅ ｅｘｐｅｒｉｍｅｎｔ ５ （ＣＥ５）：Ｃｒｏｓｓ ｃｏｍｐｏｎｅｎｔ Ａｄａｐｔｉｖｅ Ｌｏｏｐ ｆｉｌｔｅｒｉｎｇでは、ＣＣ－ＡＬＦは、コア実験テストのためのアンカーＣＣ－ＡＬＦ（本発明の以下では「ＣＥアンカー（ＣＥ ａｎｃｈｏｒ）」と称する）を指定し、これは、以下のプロパティ、すなわち、１）フィルタ形状は、８つの一意の係数をもつ３×４ダイヤモンドである、２）両端値を含む［－３２，３１］の間のフィルタ係数ダイナミックレンジ、３）最大４つのフィルタのサポートを伴うＣＴＵレベルにおいて実施されるフィルタ選択、４）対称ライン選択が仮想境界において使用される、５）時間レイヤ係数バッファは使用されない、および６）残差補正は、両端値を含む、－２ＢｉｔＤｅｐｔｈＣ－１～２ＢｉｔＤｅｐｔｈＣ－１－１にクリッピングされる、を含む。
【0031】
ＣＥアンカーは、改良されるべきクロマサンプルを中心とする、コロケートされたルーマサンプルに、８タップダイヤモンドＣＣ－ＡＬＦフィルタを適用する。図７は、ＣＥアンカーＣＣ－ＡＬＦフィルタ形状を示す。
【0032】
ＲＣ（ｘＣ，ｙＣ）が、ＣＣ－ＡＬＦによって改良されるべき、ＡＬＦクロマ再構築されたクロマサンプルであると仮定し、ここで、（ｘＣ，ｙＣ）は、現在ピクチャ中のクロマサンプルの位置を指定する。ＲＣ（ｘＣ，ｙＣ）に対するコロケートされたルーマサンプルがＲＬ（ｘＬ，ｙＬ）であり、ここで、（ｘＬ，ｙＬ）は、現在ピクチャ中のコロケートされたルーマサンプルの位置を指定する。ＣＣ－ＡＬＦによってフィルタ処理されるべき８つのルーマサンプルは、ＲＬ（ｘＬ－１，ｙＬ）、ＲＬ（ｘＬ，ｙＬ－１）、ＲＬ（ｘＬ，ｙＬ）、ＲＬ（ｘＬ－１，ｙＬ＋１）、ＲＬ（ｘＬ＋１，ｙＬ－１）、ＲＬ（ｘＬ＋１，ｙＬ）、ＲＬ（ｘＬ＋１，ｙＬ＋１）、ＲＬ（ｘＬ＋２，ｙＬ）である。図８は、ルーマサンプルロケーションに対する８タップ３×４ダイヤモンドＣＣ－ＡＬＦフィルタ係数を示す。
【0033】
残差補正ΔＩｉ（ｘ，ｙ）は、以下のようにして計算される。
ΔＩｉ（ｘ，ｙ）＝（ＣＬ０＊ＲＬ（ｘＬ－１，ｙＬ）＋ＣＬ１＊ＲＬ（ｘＬ，ｙＬ－１）＋ＣＬ２＊ＲＬ（ｘＬ，ｙＬ）＋ＣＬ３＊ＲＬ（ｘＬ，ｙＬ＋１）＋ＣＬ４＊ＲＬ（ｘＬ＋１，ｙＬ－１）＋ＣＬ５＊ＲＬ（ｘＬ＋１，ｙＬ）＋ＣＬ６＊ＲＬ（ｘＬ＋１，ｙＬ＋１）＋ＣＬ７＊ＲＬ（ｘＬ＋２，ｙＬ）＋２ｓｈｉｆｔＦａｃｔｏｒ－１）＞＞ｓｈｉｆｔＦａｃｔｏｒ （Ｅｑｎ４）
ここで、ＣＬｉはＣＣ－ＡＬＦフィルタ係数を指定し、ｉは０から７までの範囲にわたり、ＣＬ２以外の各係数は、エンコーダ側においてトレーニングされる。
ΔＩｉ（ｘ，ｙ）＝（ＣＬ０＊ＲＬ（ｘＬ－１，ｙＬ）＋ＣＬ１＊ＲＬ（ｘＬ，ｙＬ－１）＋ＣＬ２＊ＲＬ（ｘＬ，ｙＬ）＋ＣＬ３＊ＲＬ（ｘＬ，ｙＬ＋１）＋ＣＬ４＊ＲＬ（ｘＬ＋１，ｙＬ－１）＋ＣＬ５＊ＲＬ（ｘＬ＋１，ｙＬ）＋ＣＬ６＊ＲＬ（ｘＬ＋１，ｙＬ＋１）＋ＣＬ７＊ＲＬ（ｘＬ＋２，ｙＬ）＋２ｓｈｉｆｔＦａｃｔｏｒ－１）＞＞ｓｈｉｆｔＦａｃｔｏｒ （Ｅｑｎ４）
ここで、ＣＬｉはＣＣ－ＡＬＦフィルタ係数を指定し、ｉは０から７までの範囲にわたり、ＣＬ２以外の各係数は、エンコーダ側においてトレーニングされる。
【0034】
ＣＣ－ＡＬＦフィルタ係数ＣＬｉは、両端値を含む［－３２，３１］の間の値範囲を有する。この値範囲は、ダイナミックレンジとしても知られる。
ＣＬ２＝（－１）＊（ＣＬ０＋ＣＬ１＋ＣＬ３＋ＣＬ４＋ＣＬ５＋ＣＬ６＋ＣＬ７）、両端値を含む［－３２，３１］の間の値範囲へのクリップを伴う。
ｓｈｉｆｔＦａｃｔｏｒ＝係数ビットスケール＋（ＢｉｔＤｅｐｔｈＹ－ＢｉｔＤｅｐｔｈＣ）、ここで、ＣＥアンカーでは、係数ビットスケールは７に等しい。
ＣＬ２＝（－１）＊（ＣＬ０＋ＣＬ１＋ＣＬ３＋ＣＬ４＋ＣＬ５＋ＣＬ６＋ＣＬ７）、両端値を含む［－３２，３１］の間の値範囲へのクリップを伴う。
ｓｈｉｆｔＦａｃｔｏｒ＝係数ビットスケール＋（ＢｉｔＤｅｐｔｈＹ－ＢｉｔＤｅｐｔｈＣ）、ここで、ＣＥアンカーでは、係数ビットスケールは７に等しい。
【0035】
残差補正ΔＩｉ（ｘ，ｙ）は、両端値を含む［－２ＢｉｔＤｅｐｔｈＣ－１，２ＢｉｔＤｅｐｔｈＣ－１－１］の間の値範囲にクリッピングされる。ＣＣ－ＡＬＦ改良されたクロマサンプルＲＦ（ｘＣ，ｙＣ）が、次いで、ＲＦ（ｘＣ，ｙＣ）＝ΔＩｉ（ｘ，ｙ）＋ＲＣ（ｘＣ，ｙＣ）、両端値を含む［０，２ＢｉｔＤｅｐｔｈＣ－１］の間の値範囲へのクリップを伴う、として導出される。
【0036】
ＣＣ－ＡＬＦフィルタ係数は、０から６３までの値範囲を表すことができる６ビット固定長コードでコーディングされる。符号化／復号されたＣＣ－ＡＬＦ係数はＤＬ（ｉ）と称し、ｉは、０、１、２から７までの範囲にわたる。ＣＣ－ＡＬＦ係数ＣＬ（ｉ）は、ＤＬ（ｉ）－３２に等しい。
【0037】
ＡＬＦと同様に、ＣＣ－ＡＬＦも、ルーマのためのラインバッファ要件を増加させることを回避するために、ルーマサンプルのフィルタ処理のために対称パディングによる仮想境界処理を使用する。
【発明の概要】
【0038】
現在、いくつかの課題が存在する。ＡＬＦ仮想境界処理が視覚的アーティファクトを生成し得ることが観測された。アーティファクトは、仮想水平ＣＴＵ境界と仮想水平ＣＴＵ境界の上の行とにおいて最も顕著である。アーティファクトについての理由はパディングによるものであり、パディングは、事実上、フィルタの空間カバレッジを低減し、すなわち、フィルタ処理のために使用されるサンプルの数は、図３～図５に示されているように、フィルタ係数の決定中に使用されたサンプルと比較して低減される。パディングは、（たとえば、図３中などの）仮想境界に近いサンプルをフィルタ処理するときに、（たとえば、図５中などの）境界からさらに離れたサンプルと比較して、サンプルに最も作用するので、アーティファクトはそこで最も大きくなる。
【0039】
水平仮想境界を考慮する場合、パディングによるＡＬＦフィルタサポートは、水平方向のみになる。これは図９に見られる。左上図では、図３中のすべての値から中央サンプル（１２０）を減算した。これらの値は、次いで、図９の右上図に示されている係数を乗算される。しかしながら、これは、図９の最右図に示されているように、中央行を除きどこでも０を使用することと同じ事である。したがって、図９は、パディングされたサンプル差（左上）を使用するとき、フィルタ（右上）がただの水平フィルタ（下）になることを示す。
【0040】
中心サンプルに水平方向に隣接するサンプルからのフィルタ処理への寄与は、（図１中のＣ１２の位置にある）中心と（図１中のＣ１１の位置にある）最も近い隣接するサンプルとの間で、意図された差の５倍になり、（図１中のＣ１２の位置にある）中心サンプルと（図１中のＣ１０の位置にある）中心サンプルから２の距離のところの隣接するサンプルとの間で、意図された差の３倍になる。さらに、それぞれの隣接するサンプルのためのフィルタ係数は、隣接するサンプルと垂直方向に整合された係数の和に等しくなり、たとえば、Ｃ１１の位置において、係数はＣ１１＋Ｃ１＋Ｃ３＋Ｃ５＋Ｃ７になる、などである。
【0041】
本開示は、仮想境界におけるフィルタ処理から視覚的アーティファクトを除去するための代替形態を提示する。１つの代替形態は、たとえば、仮想境界の一方の側でフィルタ処理するときに仮想境界の反対側のサンプルを使用することを回避するために、フィルタの空間カバレッジが、意図された空間カバレッジと比較して著しく低減され、事実上、水平空間カバレッジをもつフィルタを有するにすぎないとき、仮想境界と仮想境界の上の行とにおけるフィルタ処理を省略することである。
【0042】
別の代替形態は、たとえば、仮想境界の一方の側でフィルタ処理するときに仮想境界の反対側のサンプルを使用することを回避するために、フィルタの空間カバレッジが、意図された空間カバレッジと比較して著しく低減され、事実上、水平空間カバレッジをもつフィルタを有するにすぎないとき、仮想境界の近くのパディングによるフィルタの修正を反映するためのフィルタ処理による現在サンプルの変化の量を低減することである。
【0043】
別の代替形態は、フィルタの空間カバレッジが、垂直方向におよび水平方向に中心サンプルから１の距離のところの近隣のサンプルを少なくとも含むように、フィルタの空間カバレッジの低減の量を制限することである。
【0044】
各代替形態は、ＶＶＣにおけるＡＬＦのための仮想境界処理がもたらし得るアーティファクトを除去する利点を提供する。第２の代替形態はまた、フィルタ処理強度、たとえば、仮想境界におけるフィルタ処理による現在サンプル値の変化の量を低減することによって、仮想境界のためにもフィルタ処理のある利益を維持する。
【0045】
したがって、本開示の第１の態様によれば、ビデオシーケンスの画像を符号化または復号するための方法が提供される。本方法は、画像に関連するサンプル値のセットを取得することを含み、サンプル値のセットは、現在サンプル値と現在サンプル値に近隣するサンプル値とを含み、サンプル値の取得されたセットは、サンプル値の第１の矩形ブロック内に含まれ、サンプル値のセットは、現在サンプル値と現在サンプル値に近隣するサンプル値とを含む。本方法は、仮想境界に対する現在サンプル値の相対ロケーションを決定することをさらに含む。仮想境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定される。仮想境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけブロック境界から分離される。本方法は、仮想境界に対する現在サンプル値の決定された相対ロケーションに基づくフィルタ強度値を選択することをさらに含む。本方法は、選択されたフィルタ強度値に基づいて現在サンプル値をフィルタ処理することをさらに含む。
【0046】
本開示の第２の態様によれば、ビデオシーケンスの画像を符号化または復号するための方法が提供される。本方法は、画像に関連するサンプル値のセットを取得することを含む。サンプル値のセットは、現在サンプル値と現在サンプル値に近隣するサンプル値とを含み、サンプル値の取得されたセットは、サンプル値の第１の矩形ブロック内に含まれる。本方法は、仮想境界に対する現在サンプル値の相対ロケーションを決定することをさらに含む。仮想境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定される。仮想境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけブロック境界から分離される。本方法は、仮想境界に対する現在サンプル値の決定された相対ロケーションに基づいて、現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことをさらに含む。
【0047】
本開示の第３の態様によれば、処理回路によって実行されたとき、処理回路に、第１の態様または第２の態様のうちのいずれか１つの方法を実施させる命令を備えるコンピュータプログラムが提供される。
【0048】
本開示の第４の態様によれば、第３の態様によるコンピュータプログラムを備えるキャリアが提供され、キャリアは、電子信号、光信号、無線信号、およびコンピュータ可読記憶媒体のうちの１つである。
【0049】
本開示の第５の態様によれば、装置が提供され、装置は、第１の態様または第２の態様の方法を実施するように適応される。
【図面の簡単な説明】
【0050】
【発明を実施するための形態】
【0051】
図１０は、例示的な一実施形態によるシステム１０００を示す。システム１０００は、エンコーダ１００２とデコーダ１００４とを含む。図示の例では、デコーダ１００４は、エンコーダ１００２によって作り出された符号化画像を、ネットワーク１１０（たとえば、インターネットまたは他のネットワーク）を介して受信することができる。
【0052】
図１１は、エンコーダ１００２の概略ブロック図である。図１１に示されているように、エンコーダ１００２は、元の画像を取り込み、前に復号されたサンプル（「イントラ予測」４９）、または動き補償５０と呼ばれる方法を通したフレームバッファ４８に記憶された前に復号されたフレームからのサンプルのいずれかから選択５１された予測４１を減算する。最良の動き補償サンプルを見つけるタスクは、一般に、動き推定５０と呼ばれ、元のサンプルに対して比較することを伴う。予測４１を減算した後に、得られた差は、変換４２され、その後、量子化４３される。量子化された結果は、エントロピー符号化４４され、記憶されるか、送信されるか、またはさらに処理され得るビットを生じる。量子化４３からの出力はまた、逆量子化４５され、その後に、逆方向変換４６が続く。次いで、５１からの予測が加算４７され、その結果は、イントラ予測ユニット４９とループフィルタユニット１００の両方にフォワーディングされる。ループフィルタユニット１００は、デブロッキング、ＳＡＯおよび／または（ＣＣ－ＡＬＦフィルタ処理を含む）ＡＬＦフィルタ処理を行い得る。その結果は、フレームバッファ４８に記憶され、これは、将来の予測のために使用される。図１１に示されていないのは、４２、４３、４９、５０、５１および１００など、他のブロックのためのコーディングパラメータも、同じくエントロピーコーディングされ得ることである。
【0053】
図１２は、いくつかの実施形態による、デコーダ１００４の対応する概略ブロック図である。デコーダ１００４は、エントロピーコード化変換係数を取り込み、エントロピーコード化変換係数は、次いで、デコーダ６１によって復号される。次いで、デコーダ６１の出力は、逆量子化６２を受け、その後に、逆方向変換６３が続いて、復号された残差を形成する。この復号された残差に、予測が加算６４される。予測は、動き補償ユニット６７またはイントラ予測ユニット６６のいずれかから選択６８される。復号された残差６４に予測を加算した後に、サンプルは、後続のブロックのイントラ予測のためにフォワーディングされ得る。サンプルは、ループフィルタユニット１００にもフォワーディングされ、ループフィルタユニット１００は、デブロッキング、ＳＡＯ処理、および／または（ＣＣ－ＡＬＦフィルタ処理を含む）ＡＬＦ処理を行い得る。ループフィルタユニット１００の出力は、フレームバッファ６５にフォワーディングされ、フレームバッファ６５は、その後復号される画像の動き補償予測６７のために使用され得る。ループフィルタユニット１００の出力はまた、閲覧またはデコーダの外部での後続の処理のための、出力された復号された画像であり得る。図１２に示されていないのは、６３、６７、６６および１００など、他のブロックのためのパラメータも、エントロピー復号され得ることである。一例として、ブロック１００におけるＡＬＦフィルタのための係数が、エントロピー復号され得る。
【0054】
本明細書で開示される実施形態は、静止画像またはビデオの画像における仮想境界のフィルタ処理からのアーティファクトを生成することを回避するために使用され得る。これは、エンコーダ１００２および／またはデコーダ１００４において適用され得る。本手法は、主に、仮想水平ＣＴＵ境界について説明されるが、行の代わりに列を参照する仮想垂直境界についてなど、一般の仮想境界についても適用可能であり得る。本手法はまた、主に、ＡＬＦについておよびルーマについて説明されるが、また、クロマのためのＡＬＦのために、およびＣＣ－ＡＬＦのために使用され得る。
【0055】
実施形態１
フィルタ処理されるべきサンプル（「現在サンプル」）が仮想水平ＣＴＵ境界「上（ｏｎ）」にあるとき（すなわち、現在サンプルが仮想境界のすぐ上の（ｉｍｍｅｄｉａｔｅｌｙ ａｂｏｖｅ）行にあるとき）、または現在サンプルが仮想水平ＣＴＵ境界上にある行のすぐ上の行にあるとき（たとえば、フィルタ空間カバレッジが、意図された空間カバレッジから著しく低減されるとき。これは、仮想境界の反対側のサンプルを使用するフィルタを有することを回避するために行われる）、フィルタ処理は、現在サンプルを修正しない。他の場合、フィルタ処理は、現在サンプルを修正し得る。
フィルタ処理されるべきサンプル（「現在サンプル」）が仮想水平ＣＴＵ境界「上（ｏｎ）」にあるとき（すなわち、現在サンプルが仮想境界のすぐ上の（ｉｍｍｅｄｉａｔｅｌｙ ａｂｏｖｅ）行にあるとき）、または現在サンプルが仮想水平ＣＴＵ境界上にある行のすぐ上の行にあるとき（たとえば、フィルタ空間カバレッジが、意図された空間カバレッジから著しく低減されるとき。これは、仮想境界の反対側のサンプルを使用するフィルタを有することを回避するために行われる）、フィルタ処理は、現在サンプルを修正しない。他の場合、フィルタ処理は、現在サンプルを修正し得る。
【0056】
これは、フィルタ処理の前に垂直位置を決定することによって実装され得、決定された位置が仮想水平ＣＴＵ境界にあるかまたは仮想水平ＣＴＵ境界の上の行にある場合、フィルタ処理を省略する。仮想水平ＣＴＵ境界が、ＣＴＵのサンプルにおいて与えられたｙ＝ＣｔｂＳｉｚｅＹ－４にあり、ここで、ＣＴＵの最上行が行０である場合、ｙがＣｔｂＳｉｚｅＹ－４に等しいかまたはｙがＣｔｂＳｉｚｅＹ－５（たとえば、仮想境界の上の行）に等しいとき、フィルタ処理は適用されず、他の場合、フィルタ処理は適用される。
【0057】
まったく同じ事を行うための別の手法は、フィルタサポートのすべての近隣のサンプルは、決定された位置が仮想水平ＣＴＵ境界にあるかまたは仮想水平ＣＴＵ境界の上の行にあるとき、現在サンプルを指しており、他の場合、フィルタ処理が現在サンプルを修正し得るようにパディングパラメータに従うように、水平パディングを導入することである。以下で示されている、式１４２４におけるおよび表４３におけるＶＣＣに対する変更。
ｓｕｍ＝ｆ［ｉｄｘ［０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ３］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ３］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［２］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［３］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［４］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［５］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［６］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［７］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［８］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［９］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋３－ｘ３，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－３＋ｘ３，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ］－ｃｕｒｒ））。 （１４２４）
ｓｕｍ＝ｆ［ｉｄｘ［０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ３］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ３］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［２］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［３］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［４］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［５］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［６］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［７］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［８］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［９］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋３－ｘ３，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－３＋ｘ３，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ］－ｃｕｒｒ））。 （１４２４）
【0058】
実施形態２
この実施形態では、フィルタ処理の量の特定の低減が、仮想水平境界にすぐ隣接する（すなわち、仮想境界のすぐ上のまたはすぐ下の）現在サンプルのフィルタ処理と、仮想水平境界にすぐ隣接する行のすぐ上の／下の行のフィルタ処理とについて適用される。その場合、フィルタの空間カバレッジは、低減されて、水平方向においてのみサンプルをカバーする。
この実施形態では、フィルタ処理の量の特定の低減が、仮想水平境界にすぐ隣接する（すなわち、仮想境界のすぐ上のまたはすぐ下の）現在サンプルのフィルタ処理と、仮想水平境界にすぐ隣接する行のすぐ上の／下の行のフィルタ処理とについて適用される。その場合、フィルタの空間カバレッジは、低減されて、水平方向においてのみサンプルをカバーする。
【0059】
これは、フィルタ処理の前に垂直位置を決定することによって実装され得、詳細には、決定された位置が仮想水平ＣＴＵ境界にあるかまたは仮想水平ＣＴＵ境界の上の行にある場合、フィルタ処理の量を低減する。仮想水平ＣＴＵ境界が、ＣＴＵのサンプルにおいて与えられたｙ＝ＣｔｂＳｉｚｅＹ－４にあり、ここで、ＣＴＵの最上行が行０である場合、詳細には、ｙがＣｔｂＳｉｚｅＹ－４に等しいかまたはｙがＣｔｂＳｉｚｅＹ－５（たとえば、仮想境界の上の行）に等しいとき、フィルタ処理の量を低減し、他の場合、特には、フィルタ処理の量の低減は、適用されない。
【0060】
より詳細には、フィルタ処理の量は、フィルタ処理の強度を指す。一例として、３つのサンプルＩＬＥＦＴ、ＩＣＥＮＴＥＲ、ＩＲＩＧＨＴを有すると仮定する。中心サンプルのフィルタ処理されたバージョンは、
ＩＦＩＬＴＥＲＥＤ＝ＩＣＥＮＴＥＲ＋［５＊（ＩＬＥＦＴ－ＩＣＥＮＴＥＲ）＋５＊（ＩＲＩＧＨＴ－ＩＣＥＮＴＥＲ）］／１６
として、差を使用して表現され得る。
上記のことは、
ＩＦＩＬＴＥＲＥＤ＝［５＊ＩＬＥＦＴ＋６＊ＩＣＥＮＴＥＲ＋５＊ＩＲＩＧＨＴ］／１６
と等価であり、これは、極めて強いフィルタ処理である。しかしながら、１６による除算を３２による除算に変更すること（すなわち、除数を１６の値から３２の値に変更すること）によって、
ＩＦＩＬＴＥＲＥＤ＝ＩＣＥＮＴＥＲ＋［５＊（ＩＬＥＦＴ－ＩＣＥＮＴＥＲ）＋５＊（ＩＲＩＧＨＴ－ＩＣＥＮＴＥＲ）］／３２
を得る。
これは、
ＩＦＩＬＴＥＲＥＤ＝［５＊ＩＬＥＦＴ＋２２＊ＩＣＥＮＴＥＲ＋５＊ＩＲＩＧＨＴ］／３２
と等価であり、これは、はるかにより弱いフィルタ処理を生じ、なぜなら、ＩＣＥＮＴＥＲ値のフィルタ処理されたバージョンは、平均して元のＩＣＥＮＴＥＲ値からあまり逸脱しないからである。フィルタが差を使用して表現されるとき、除数を１６から３２にただ変更することによってフィルタの強度を変更することが容易であることも明らかである。一般に、除数は、ｘ＊２＾（－Ｎ）として規定され得、ここで、Ｎは０よりも大きい。これは、好ましくは、右シフト、ｘ＊２＾（－Ｎ）＝ｘ＞＞Ｎ、たとえばｘの右シフトによって実装され得る。
ＩＦＩＬＴＥＲＥＤ＝ＩＣＥＮＴＥＲ＋［５＊（ＩＬＥＦＴ－ＩＣＥＮＴＥＲ）＋５＊（ＩＲＩＧＨＴ－ＩＣＥＮＴＥＲ）］／１６
として、差を使用して表現され得る。
上記のことは、
ＩＦＩＬＴＥＲＥＤ＝［５＊ＩＬＥＦＴ＋６＊ＩＣＥＮＴＥＲ＋５＊ＩＲＩＧＨＴ］／１６
と等価であり、これは、極めて強いフィルタ処理である。しかしながら、１６による除算を３２による除算に変更すること（すなわち、除数を１６の値から３２の値に変更すること）によって、
ＩＦＩＬＴＥＲＥＤ＝ＩＣＥＮＴＥＲ＋［５＊（ＩＬＥＦＴ－ＩＣＥＮＴＥＲ）＋５＊（ＩＲＩＧＨＴ－ＩＣＥＮＴＥＲ）］／３２
を得る。
これは、
ＩＦＩＬＴＥＲＥＤ＝［５＊ＩＬＥＦＴ＋２２＊ＩＣＥＮＴＥＲ＋５＊ＩＲＩＧＨＴ］／３２
と等価であり、これは、はるかにより弱いフィルタ処理を生じ、なぜなら、ＩＣＥＮＴＥＲ値のフィルタ処理されたバージョンは、平均して元のＩＣＥＮＴＥＲ値からあまり逸脱しないからである。フィルタが差を使用して表現されるとき、除数を１６から３２にただ変更することによってフィルタの強度を変更することが容易であることも明らかである。一般に、除数は、ｘ＊２＾（－Ｎ）として規定され得、ここで、Ｎは０よりも大きい。これは、好ましくは、右シフト、ｘ＊２＾（－Ｎ）＝ｘ＞＞Ｎ、たとえばｘの右シフトによって実装され得る。
【0061】
ＶＶＣにおけるこれを実装するための１つの手法は、決定された垂直位置が仮想水平ＣＴＵ境界にあるかまたはそのような境界の上の行にあるとき、他の場合の右シフトファクタの値よりも高い値を有する右シフトファクタを決定することである。右シフトファクタの妥当な増加は、少なくとも２だけであり、たとえば、基本的にフィルタ処理の寄与を現在値の１／４に低減することであり、なぜなら、ルーマのためのパディングは、現在サンプルに水平方向に隣接する２つのサンプルについて５だけの寄与の増加に対応し、クロマのためのパディングは、現在クロマサンプルに水平方向に隣接する２つのサンプルについて３だけの寄与の増加に対応するからである。これは、ＶＶＣ仕様に加えて、以下で黄色でマークされた適応シフトファクタａｌｆＳｈｉｆｔを導入することによって、達成され得る。したがって、現在サンプルｃｕｒｒの修正の量は、垂直水平ＣＴＵ境界上のサンプルとその行の上の行とについて低減され得る。ルーマのための以下の例では、右シフトファクタはａｌｆＳｈｉｆｔＹに対応し、この例では、右シフトは３だけ増加され、フィルタ処理の寄与を現在値の１／８に低減することに対応する。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
【0062】
クロマのための以下の例では、右シフトファクタはａｌｆＳｈｉｆｔＣに対応し、この例では、右シフトは３だけ増加され、フィルタ処理の寄与を現在値の１／８に低減することに対応する。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＣ） （１４６６）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＣ） （１４６６）
【0063】
代替形態は、同じ手法がクロマのためにも使用され得るが以下のルーマのための例のように、通常右シフトファクタの後の追加のシフトファクタを代わりに規定することであり、以下の通りである。
ｓｕｍ＝ｃｕｒｒ＋（（（ｓｕｍ＋６４）＞＞７）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
ｓｕｍ＝ｃｕｒｒ＋（（（ｓｕｍ＋６４）＞＞７）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
【0064】
これは、１つの追加のシフトを必要とするであろう。
【0065】
実施形態３
フィルタ処理の低減が、いくつのサンプルがパディングされるかに依存する、実施形態２と同様に、それにより、フィルタ処理からの寄与の大部分の低減は、仮想水平境界にすぐ隣接するサンプル（すなわち、仮想境界のすぐ上のサンプルおよび仮想境界のすぐ下のサンプル）のフィルタ処理と仮想水平境界にすぐ隣接する行のすぐ上の／下の行のフィルタ処理とについて起こる。
フィルタ処理の低減が、いくつのサンプルがパディングされるかに依存する、実施形態２と同様に、それにより、フィルタ処理からの寄与の大部分の低減は、仮想水平境界にすぐ隣接するサンプル（すなわち、仮想境界のすぐ上のサンプルおよび仮想境界のすぐ下のサンプル）のフィルタ処理と仮想水平境界にすぐ隣接する行のすぐ上の／下の行のフィルタ処理とについて起こる。
【0066】
実施形態２に加えてこれを行うための１つの手法は、以下のようにａｌｆＳｈｉｆｔＹファクタを変動させることである。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
【0067】
したがって、より多くのサンプルがパディングされるとき、現在サンプルｃｕｒｒの変化の量はより低減される。
【0068】
実施形態４
この実施形態では、フィルタ処理が適用されるべきであるのかフィルタ処理が適用されるべきでないのかを決定するために、追加の条件が検査される。
この実施形態では、フィルタ処理が適用されるべきであるのかフィルタ処理が適用されるべきでないのかを決定するために、追加の条件が検査される。
【0069】
現在サンプルのための近傍の特性に関する１つの条件は、近傍が垂直方向性（勾配が水平方向において支配的である）または対角方向性（勾配が垂直軸から対角方向＋４５／－４５度において支配的である）をもつ構造を有するかどうかを検査し、そうである場合、サンプルのフィルタ処理が実施されず、そうでない場合、フィルタ処理が実施され得ると決定することである。近傍が垂直方向性または対角方向性をもつ構造を有するときにフィルタを回避する理由、それは、パディングされたフィルタが、仮想水平ＣＴＵ境界上と仮想水平ＣＴＵ境界の上の行上とでフィルタ処理するときに水平方向においてのみサンプルを利用し、これは、そのような近傍についてフィルタの意図と適合せず、したがって、画像を改善する代わりに、視覚的アーティファクトを作成し得ることである。
【0070】
ＶＶＣの場合、一例として、これは、以下のように実装され得る。最初に、現在サンプルが仮想水平ＣＴＵ境界上または仮想水平ＣＴＵ境界の上の行上にあるかどうかを決定し、その場合、また、垂直方向性（勾配が水平方向において支配的である）または対角方向性（勾配が垂直軸から対角方向＋４５／－４５度において支配的である）をもつ構造を有する現在サンプルの近傍に対応するフィルタのカテゴリーについて、フィルタ係数を０にセットする。水平方向性（勾配が垂直方向において支配的である）または方向性なし（支配的な勾配方向がない）の構造に対応する現在サンプルの近傍は、フィルタ処理されることを可能にされ得る。これは、たとえば、垂直方向、水平方向および対角線方向の勾配の算出から決定された分類の一部として決定される、ｆｉｌｔｅｒＩｄｘおよびｔｒａｎｓｐｏｓｅＩｄｘを検査することによって決定され得る。ｆｉｌｔｅｒＩｄｘが０から４の間または１５から２４の間にあり、かつｔｒａｎｓｐｏｓｅＩｄｘが０に等しい場合、フィルタ処理は実施され得、そうでない場合、フィルタ処理は実施されない。
【0071】
より保守的である変形態は、現在サンプルが水平方向性をもつ構造を有する近傍を有するときのみ、現在サンプルのためのフィルタ処理を可能にすることである。これは、フィルタ処理が、垂直方向性と水平方向性の両方を有する構造を劣化させないことを保証することができる。これは、ｆｉｌｔｅｒＩｄｘが１５から２４の間にあり、かつｔｒａｎｓｐｏｓｅＩｄｘが０に等しいかどうかを検査することによって決定され得、そうでない場合、フィルタ処理は実施されない。一方、それは、コーディングアーティファクトを除去する可能性を低減する。
【0072】
別の変形態は、フィルタ係数が、コーディングされているコンテンツについて具体的に決定された、たとえば、ビットストリーム中で提供されたときのみ、上記の変形態の場合のようにフィルタ処理を可能にすることである。ＶＶＣでは、それは、ＡｌｆＣｔｂＦｉｌｔＳｅｔＩｄｘＹが１６よりも大きいかまたはそれに等しいかどうかを検査することによって発見され得、これは、フィルタ係数が、ビットストリーム中で提供されており、規格において指定された固定フィルタ係数の所定のセットからのものではないことを意味する。
【0073】
実施形態５
ルーマの場合、それは、最初に、ＡＬＦによってフィルタ処理されるべき現在サンプルが、仮想水平ＣＴＵ境界にすぐ隣接するかどうか、または仮想水平ＣＴＵ境界にすぐ隣接する行のすぐ上の／下の行にあるかどうかを決定する。そうである場合、それは、ｆｉｌｔｅｒＩｄｘが５よりも小さいかどうか、またはｆｉｌｔｅｒＩｄｘが１５よりも大きいかどうかを決定する。
ルーマの場合、それは、最初に、ＡＬＦによってフィルタ処理されるべき現在サンプルが、仮想水平ＣＴＵ境界にすぐ隣接するかどうか、または仮想水平ＣＴＵ境界にすぐ隣接する行のすぐ上の／下の行にあるかどうかを決定する。そうである場合、それは、ｆｉｌｔｅｒＩｄｘが５よりも小さいかどうか、またはｆｉｌｔｅｒＩｄｘが１５よりも大きいかどうかを決定する。
【0074】
この実施形態は、基本的に、実施形態２および実施形態４からの変形態の組合せである。
【0075】
ルーマの場合、それは、最初に、ＡＬＦによってフィルタ処理されるべき現在行が仮想水平ＣＴＵ境界にあるかどうか、または仮想水平ＣＴＵ境界の上の行にあるかどうかを検査する、第１の条件を決定する。条件が満たされない場合、ＡＬＦフィルタ処理は適用される。条件が満たされた場合、それは、ＡＬＦによってフィルタ処理されるべき現在サンプルを含む４×４ブロックのためのｆｉｌｔｅｒＩｄｘを検査する第２の条件を検査する。第２の条件は、ｆｉｌｔｅｒＩｄｘが５よりも小さい（等方性近傍）場合、あるいは、ｆｉｌｔｅｒＩｄｘが１５よりも大きいかまたはそれに等しいが、２５よりも小さく、かつｔｒａｎｓｐｏｓｅＩｄｘが０に等しい（水平方向性をもつ近傍）場合、真である。第２の条件が真である場合、フィルタ処理の量は、フィルタ処理からの寄与が通常フィルタ処理の４分の１に低減されるように、式１４２５中の右シフトファクタを２だけ増加させることによって、低減される。そうではなく、第２の条件が真でない場合、フィルタ処理は、現在サンプルについて適用されず、これは、式１４２４の修正バージョンにおいて、ｘ１＝１、ｘ２＝２およびｘ３＝３をセットすることによって説明され得る（黄色でハイライトされている）。ソフトウェア実装では、これは、この場合、フィルタ処理をただ省略することと同等である。
ｓｕｍ＝ｆ［ｉｄｘ［０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ３］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ３］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［２］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［３］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［４］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［５］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［６］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［７］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［８］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［９］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋３－ｘ３，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－３＋ｘ３，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ］－ｃｕｒｒ）） （１４２４）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
ｓｕｍ＝ｆ［ｉｄｘ［０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ３］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［０］］，ｃ［ｉｄｘ［０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ３］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１］］，ｃ［ｉｄｘ［１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［２］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［２］］，ｃ［ｉｄｘ［２］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［３］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ２］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［３］］，ｃ［ｉｄｘ［３］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ２］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［４］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［４］］，ｃ［ｉｄｘ［４］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［５］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［５］］，ｃ［ｉｄｘ［５］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［６］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［６］］，ｃ［ｉｄｘ［６］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［７］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［７］］，ｃ［ｉｄｘ［７］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［８］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ＋ｙ１］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［８］］，ｃ［ｉｄｘ［８］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ－ｙ１］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［９］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋３－ｘ３，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［９］］，ｃ［ｉｄｘ［９］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－３＋ｘ３，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１０］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋２－ｘ２，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１０］］，ｃ［ｉｄｘ［１０］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－２＋ｘ２，ｖｙ］－ｃｕｒｒ））＋
ｆ［ｉｄｘ［１１］］＊（Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ＋１－ｘ１，ｖｙ］－ｃｕｒｒ）＋
Ｃｌｉｐ３（－ｃ［ｉｄｘ［１１］］，ｃ［ｉｄｘ［１１］］，ｒｅｃＰｉｃｔｕｒｅＬ［ｈｘ－１＋ｘ１，ｖｙ］－ｃｕｒｒ）） （１４２４）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＹ） （１４２５）
【0076】
クロマの場合、それは、最初に、ＡＬＦによってフィルタ処理されるべき現在行が仮想水平ＣＴＵ境界にあるかどうか、または仮想水平ＣＴＵ境界の上の行にあるかどうかを決定する。そうである場合、それは、フィルタ処理からの寄与が通常フィルタ処理の４分の１に低減されるように、式１４６６中の右シフトファクタを２だけ増加させることによって、フィルタ処理の量を低減する。そうでない場合、通常フィルタ処理が、現在サンプルについて適用される。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＣ） （１４６６）
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞ａｌｆＳｈｉｆｔＣ） （１４６６）
【0077】
実施形態６
前の実施形態の場合と同様に、パラメータが、符号化／復号されたビットストリーム中でコーディング／復号される。パラメータが、手法が使用されるのか使用されないのかを示すとき。
前の実施形態の場合と同様に、パラメータが、符号化／復号されたビットストリーム中でコーディング／復号される。パラメータが、手法が使用されるのか使用されないのかを示すとき。
【0078】
パラメータは、ビットストリームの以下のレベル、適応パラメータセット（ＡＰＳ）、ピクチャ、スライスまたはブロックなどのうちの１つにおいて、符号化／復号され得る。
【0079】
実施形態７
この実施形態では、式１４２５中の右シフトパラメータ（７）に対するオフセット（ａｌｆＳｈｉｆｔＯｆｆｓｅｔ）が、ビデオビットストリーム中でコーディング／復号される。追加のパラメータは、黄色でハイライトされている。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞（７＋ａｌｆＳｈｉｆｔＯｆｆｓｅｔ）） （１４２５）
この実施形態では、式１４２５中の右シフトパラメータ（７）に対するオフセット（ａｌｆＳｈｉｆｔＯｆｆｓｅｔ）が、ビデオビットストリーム中でコーディング／復号される。追加のパラメータは、黄色でハイライトされている。
ｓｕｍ＝ｃｕｒｒ＋（（ｓｕｍ＋６４）＞＞（７＋ａｌｆＳｈｉｆｔＯｆｆｓｅｔ）） （１４２５）
【0080】
オフセットは、ビットストリームの以下のレベル、適応パラメータセット（ＡＰＳ）、ピクチャ、スライスまたはブロックなどのうちの１つにおいて、符号化／復号され得る。パラメータの範囲は、たとえば０～３であり得、これは、フィルタ処理の量を１／２、１／４または１／８に低減する能力に対応する。
【0081】
実施形態８
他の実施形態と同様であるが、仮想境界が仮想垂直境界であり、行は、代わりに、仮想垂直境界の左側の列である。この場合、構造が水平方向性を有するときのみにフィルタ処理を可能にする変形態は、代わりに、構造が垂直方向性を有するときのみ、フィルタ処理を可能にしている。
他の実施形態と同様であるが、仮想境界が仮想垂直境界であり、行は、代わりに、仮想垂直境界の左側の列である。この場合、構造が水平方向性を有するときのみにフィルタ処理を可能にする変形態は、代わりに、構造が垂直方向性を有するときのみ、フィルタ処理を可能にしている。
【0082】
実施形態９
他の実施形態と同様であるが、本手法は、ルーマ成分およびクロマ成分に適用される。
他の実施形態と同様であるが、本手法は、ルーマ成分およびクロマ成分に適用される。
【0083】
実施形態１０
他の実施形態と同様であるが、本手法は、ルーマにのみ適用される。
他の実施形態と同様であるが、本手法は、ルーマにのみ適用される。
【0084】
実施形態１１
この実施形態では、フィルタの空間カバレッジの低減の量は、フィルタの空間カバレッジが、垂直方向におよび水平方向に中心サンプルから１の距離のところの近隣のサンプルを少なくとも含むように、制限される。
この実施形態では、フィルタの空間カバレッジの低減の量は、フィルタの空間カバレッジが、垂直方向におよび水平方向に中心サンプルから１の距離のところの近隣のサンプルを少なくとも含むように、制限される。
【0085】
仮想水平ＣＴＵ境界のコンテキストでは、これは、１つの行だけ上方への仮想水平ＣＴＵ境界の位置の修正（現在ＣＴＵのデブロッキングが使用することができる行より１つの行だけ上）によって達成され、同時に、ＡＬＦフィルタ処理がＡＬＦ仮想境界の反対側から１つの行を読み取ることを可能にすることができる。これは、フィルタが、垂直方向に中心サンプルから１の距離のところの近隣のサンプル値を少なくとも含むことを可能にする。これは、すべての近隣の行をパディングする極端な場合を回避し、たとえば、ＡＬＦ仮想境界においてまたはＡＬＦ仮想境界の上の行においてフィルタ処理するときにフィルタの空間カバレッジを水平方向のみであるように低減した。
【0086】
この場合の仮想水平境界の位置は、図１４に見られるように、上のＣＴＵ内で現在ＣＴＵの最上行より５つのサンプル上である。
【0087】
図１４において、フィルタが仮想境界のすぐ下を中心とするときの、すなわち、現在サンプルの位置が仮想境界のすぐ下にあるときのフィルタの位置は、１０３の場合のように見られ、１０４の場合のように仮想境界のすぐ上にあり、すなわち、現在サンプルは仮想境界のすぐ上にある。フィルタは、フィルタの中心が１０４の場合のように仮想境界の上の行にあるときに仮想境界より１つの行だけ下からサンプルを読み取ることを可能にされるか、またはフィルタの中心が１０３の場合のように仮想境界のすぐ下の行にあるときに仮想境界の上のサンプルを読み取ることを可能にされるので、この場合のパディングの量は、パディングの４つのラインに低減され、これは、フィルタが仮想境界の反対側の１つの行からサンプルを読み取ることを可能にされるときに起こるパディングの最も多い量である。フィルタが仮想境界のすぐ上の行にある場合のパディング、仮想境界のすぐ上の行上の現在サンプルが、図１５に見られる。フィルタが仮想境界のすぐ下の行にある場合のパディング、仮想境界のすぐ下の行上の現在サンプルが、図２４に見られる。図１６では、フィルタは、仮想境界より上に２番目の行上にあり、すなわち、現在サンプルは、仮想境界のすぐ上にある行のすぐ上にある行にあり、この場合、２つの行のみがパディングされる必要がある。図２５では、フィルタは、仮想境界より下に２番目の行上にあり、すなわち、現在サンプルは、仮想境界のすぐ下にある行のすぐ下にある行にあり、この場合、２つの行のみがパディングされる必要がある。
【0088】
仮想水平境界を考慮する場合、パディングによるＡＬＦフィルタサポートは、３つの行、現在行より１つの行だけ上および現在行より１つの行だけ下となる。これは図１７に見られる。左上図では、図３中のすべての値から中央サンプル（１２０）を減算した。これらの値は、次いで、図１７の右上図に示されている係数を乗算される。しかしながら、これは、図１７の最右図に示されているように、３つの中央行を除きどこでも０を使用することと同じ事である。中心サンプルと同じ行上のサンプルからのフィルタ処理への寄与は、（図Ｉ中のＣ９、Ｃ１０およびＣ１１の位置において）意図されたものとなる。中心サンプルの上の行上のサンプルと中心サンプルの下の行上のサンプルとからの寄与は、それらのサンプルが中心により近いときに増幅され、中心の上の行にあるそれぞれのサンプルのためのフィルタ係数は、垂直方向に整合されたおよび上方の係数の和に等しくなり、下の行にあるそれぞれのサンプルのためのフィルタ係数は、垂直方向および下方の係数の和に等しくなる（２＊（Ｃ５＋Ｃ１）、３＊（Ｃ６＋Ｃ２＋Ｃ０）、２＊（Ｃ７＋Ｃ３）および図１７において）。
【0089】
図５に示されているようにサンプルの中心行のみからの増幅された寄与が使用される、現在のＶＶＣドラフトの場合のような、仮想水平ＣＴＵ境界のＡＬＦフィルタ処理の極端なパディングと比較して、この実施形態は、増幅を約１／２に低減し、増幅は、現在サンプルの上と現在サンプルの下の両方のサンプルについて拡散され、これは、フィルタ処理を、よりロバストで、極端なパディング手法のアーティファクトのないものにする。
【0090】
このフィルタ処理手法は、現在のＶＶＣドラフトの表４３を以下の表と交換することによって、ルーマについて達成され得る。
【0091】
クロマの場合、これは、現在のＶＶＣドラフトの表４４を以下の表と交換することによって、達成され得る。
【0092】
この実施形態は、図１４中の位置１０３からわかるように、ラインバッファ要件を２つのライン（行）だけ増加させる。この実施形態はまた、それが４×４ブロック内に仮想水平境界を有するので、あらゆる４×４ブロックについて８×８の近傍（たとえば、すべての方向におけるブロックの外側の２つのサンプル）に基づいて実施されるＡＬＦ分類に関して、ルーマに作用する。それに対する１つのソリューションは、仮想境界より下のフィルタ処理について、分類を、行の下半分（行０および行１でなく、行２および行３）と４×４ブロックより下の行からのサンプル（近傍４×８）とに基づかせ、仮想境界より上のフィルタ処理について、分類を、行の上半分（行０および行１）と４×４ブロックより上の行からのサンプル（近傍４×８）とに基づかせることである。より簡単な、および場合によってはまた、よりロバストなソリューションは、仮想境界より上と仮想境界より下の両方で同じ分類を使用することである。そのようなソリューションでは、分類は、４×４ブロック全体（行０～３）と４×４ブロックより上の行からのサンプル（近傍６×８）とについて行われ得、次いで、この分類は、サンプルが仮想境界より下にあるのか上にあるのかに関係なく、４×４ブロック内のすべてのサンプルのフィルタ処理のために使用される。それは、分類インデックス（０～２４）および転置インデックス（０～３）を記憶するための追加のラインバッファを必要とし、これは、４Ｋビデオについて、７ビット×３８４０／４ビット（たとえば、約８００バイト）に対応する。これは、依然として、仮想境界をまったく使用しない場合のラインバッファの数の１／２よりも少なく、なぜなら、その場合、ルーマのための６つの追加のライン（行）を記憶する必要があり、ここで、１０のビット深度における４Ｋビデオのためのルーマサンプルの１つのラインは、１０＊３８４０ビット（たとえば、約４８００バイト）に対応するからである。
【0093】
ＶＶＣにおける分類に対する最も簡単な修正は、仮想境界行より上の行をフィルタ処理するときに仮想境界行も利用可能であることを考慮して、仮想境界より上と仮想境界より下とで同じ分類を使用することであり、これは、以下の表に示されている、ｙ４がＣｔｂＳｉｚｅＹ－４に等しいときに開始する、ＣＴＵ中の最後の４×４ブロックのためのｍｉｎＹおよびｍａｘＹのための調節をただ削除することによって実施され得、以下の表は現在のＶＶＣドラフトに対する変更を示す。依然として、ＣＴＵ中の４×４ブロックの最後から２番目の行のための調節をしておく必要があり、なぜなら、その４×４ブロックの最後の行より下のサンプルを読み取ることができないからである。
【0094】
分類に対する別のソリューションは、境界より上のフィルタ処理について、仮想境界を含む４×４ブロックの上半分中の２つの行を使用し、境界におけるフィルタ処理または境界より下のフィルタ処理について、４×４ブロックの下半分中の２つの行を使用することである。したがって、仮想境界を含む４×４ブロックのそれぞれの半分について特定の分類を実施することが必要とされる。規格が書かれるやり方、これは、そのような４×４ブロックのための分類の２つのバージョンの記憶を必要とする。分類の修正は、以下の表に示されているようにＶＶＣにおいて指定され得る。
【0095】
次いで、行ＣｔｂＳｉｚｅ－６およびＣｔｂＳｉｚｅ－５について正しいクラスが使用されるように、フィルタ処理を修正することも必要とされ、これは、ＶＶＣでは以下のように説明され得る。
【0096】
実施形態１２
１つまたは複数の実施形態間の組合せ。
１つまたは複数の実施形態間の組合せ。
【0097】
図１８は、画像を処理する（たとえば、符号化または復号する）ためのプロセス１８００を示すフローチャートである。プロセス１８００は、ステップｓ１８０２において始まり得る。
【0098】
ステップｓ１８０２は、画像に関連するサンプル値のセットを取得することを含む。サンプル値のセットは、現在サンプル値と現在サンプル値に近隣するサンプル値とを含み、サンプル値の取得されたセットは、サンプル値の第１の矩形ブロック内に含まれる。
【0099】
ステップｓ１８０４は、仮想境界に対する現在サンプル値の相対ロケーションを決定することを含む。仮想境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定される。仮想境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけブロック境界から分離される。
【0100】
ステップｓ１８０６は、仮想境界に対する現在サンプル値の決定された相対ロケーションに基づいて、現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことを含む。
【0101】
いくつかの実施形態では、現在サンプルの決定された相対ロケーションに基づいて、現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことは、現在サンプル値が仮想境界に隣接するかどうか（たとえば、仮想境界から１つの行または列以内のところにあるかどうか）を決定することと、現在サンプル値が仮想境界に隣接すると決定したことの結果として、現在サンプル値をフィルタ処理するのを控えるという判定を行うこととを含む。
【0102】
いくつかの実施形態では、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいて、現在サンプル値をフィルタ処理すべきか否かに関する判定を行うことは、仮想境界に対する現在サンプルの決定された相対ロケーションにだけでなく、現在サンプル値を含むサンプル値のブロックの特性にも基づいて、判定を行うことを含む。
【0103】
図１９は、画像を処理するためのプロセス１９００を示すフローチャートである。プロセス１９００は、ステップｓ１９０２において始まり得る。
【0104】
ステップｓ１９０２は、画像に関連するサンプル値のセットを取得することを含む。サンプル値のセットは、現在サンプル値と現在サンプル値に近隣するサンプル値とを含む。サンプル値の取得されたセットは、サンプル値の第１の矩形ブロック内に含まれる。
【0105】
ステップｓ１９０４は、仮想境界に対する現在サンプル値の相対ロケーションを決定することを含む。仮想境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間のブロック境界に対して規定される。仮想境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行または列だけブロック境界から分離される。
【0106】
ステップｓ１９０６は、仮想境界に対する現在サンプル値の決定された相対ロケーションに基づくフィルタ強度値を選択することを含む。
【0107】
ステップｓ１９０８は、選択されたフィルタ強度値に基づいて現在サンプル値をフィルタ処理することを含む。
【0108】
いくつかの実施形態では、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいてフィルタ強度値を選択することは、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいて右シフト値（たとえば、Ｎ、ここでＮは整数＞０である）または除数（たとえば、２－Ｎに等しい値）を選択することを含み、選択されたフィルタ量に基づいて現在サンプルをフィルタ処理することは、選択された右シフト値または除数を使用して現在サンプル値をフィルタ処理することを含む。
【0109】
いくつかの実施形態では、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいてフィルタ強度値を選択することは、現在サンプル値が仮想境界に隣接すると決定された場合、第１のフィルタ強度値を選択すること、あるいは現在サンプル値が仮想境界から１つの行または列よりも多く離れていると決定された場合、第２のフィルタ強度値を選択することを含む。
【0110】
いくつかの実施形態では、第１のフィルタ強度値は７よりも大きく、第２のフィルタ強度値は７よりも小さいかまたは７に等しい、あるいは第１のフィルタ強度値は１よりも大きいかまたは１に等しく（たとえば、３）、第２のフィルタ強度値は０である（この実施形態では、選択されたフィルタ強度値は、フィルタ強度調節として機能する）。
【0111】
いくつかの実施形態では、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいてフィルタ強度値を選択することは、現在サンプル値が仮想境界から１つの行または列よりも多く離れていないと決定された場合、第１のフィルタ強度値を選択すること、あるいは現在サンプル値が仮想境界から１つの行または列よりも多く離れていると決定された場合、フィルタ強度値のセットからフィルタ強度値を選択することであって、フィルタ強度値のセットが、第２のフィルタ強度値（たとえば、９）と第３のフィルタ強度値（たとえば、８）と第４のフィルタ強度値（たとえば、７）とを含む、フィルタ強度値のセットからフィルタ強度値を選択することを含む。
【0112】
いくつかの実施形態では、現在サンプル値が仮想境界から１つの行または列よりも多く離れていると決定された場合、フィルタ強度値のセットからフィルタ強度値を選択することは、現在サンプル値が仮想境界から２つの行または列離れていると決定された場合、第２のフィルタ強度値を選択すること、現在サンプル値が仮想境界から３つの行または列離れていると決定された場合、第３のフィルタ強度値を選択すること、あるいは現在サンプル値が仮想境界から少なくとも４つの行または列離れていると決定された場合、第４のフィルタ強度値を選択することを含む。
【0113】
いくつかの実施形態では、仮想境界に対する現在サンプルの決定された相対ロケーションに基づいてフィルタ強度値を選択することは、仮想境界に対する現在サンプルの決定された相対ロケーションにだけでなく、現在サンプル値を含むサンプル値のブロックの特性にも基づいて、フィルタ強度値を選択することを含む。
【0114】
図２０は、画像を処理するためのプロセス２０００を示すフローチャートである。プロセス２０００は、ステップｓ２００２において始まり得る。
【0115】
ステップｓ２００２は、画像に関連するサンプル値のセットを取得することを含み、サンプル値のセットは、現在サンプル値と現在サンプル値に近隣する近隣のサンプル値のセットとを含み、サンプル値の取得されたセットは、サンプル値の第１の矩形ブロック内に含まれ、サンプル値の取得されたセットは、サンプル値の複数の行中に論理的に配置され、前記複数の行は、中央行と、中央行より上の行と、中央行より下の行とからなり、現在サンプル値は前記中央行にある。
【0116】
ステップｓ２００４は、仮想水平境界に対する中央行の相対ロケーションを決定することを含み、仮想水平境界は、サンプル値の第１のブロックとサンプル値の第２のブロックとの間の水平ブロック境界に対して規定され、仮想水平境界は、ブロック境界と平行であり、サンプル値の第１のブロック中に含まれるサンプル値の少なくとも１つの行だけブロック境界から分離される。
【0117】
ステップｓ２００６は、ｉ）中央行が仮想水平境界のすぐ上にあること（図１５）、ｉｉ）中央行が仮想水平境界のすぐ下にあること（図２４）、ｉｉｉ）中央行が仮想水平境界のすぐ上にある行のすぐ上にあること（図１６）、またはｉｖ）中央行が仮想水平境界のすぐ下にある行のすぐ下にあること（図２５）を決定することを含む。
【0118】
ステップｓ２００８は、中央行が仮想水平境界のすぐ上にまたはすぐ下にあると決定された場合、ｉ）中央行と、ｉｉ）中央行のすぐ下の行と、ｉｉｉ）中央行のすぐ上の行とからのサンプルのみに基づいて、現在サンプル値のＡＬＦフィルタ処理を適用することを含む（図１５および図２４）。
【0119】
ステップｓ２０１０は、中央行が、仮想水平境界のすぐ上にある行のすぐ上にあると決定されたか、または仮想水平境界のすぐ下にある行のすぐ下にあると決定された場合、ｉ）中央行と、ｉｉ）中央行のすぐ上の２つの行と、ｉｉｉ）下の行のすぐ下の２つの行とからのサンプルのみに基づいて、現在サンプル値のＡＬＦフィルタ処理を適用することを含む（図１６および図２５）。
【0120】
いくつかの実施形態では、ルーマのための仮想水平境界は、水平ブロック境界より５つのサンプル上である。
【0121】
いくつかの実施形態では、クロマのための仮想水平境界は、水平ブロック境界より３つのサンプル上である。
【0122】
図２１は、いくつかの実施形態による、エンコーダ５０２またはデコーダ５０４を実装するための装置２１０１のブロック図である。すなわち、装置２１０１は、本明細書で開示される方法を実施するように適応され得る。装置２１０１がエンコーダ５０２を実装する実施形態では、装置２１０１は「エンコーディング装置２１０１」と呼ばれることがあり、装置２１０１がデコーダ５０４を実装する実施形態では、装置２１０１は「復号装置２１０１」と呼ばれることがある。図２１に示されているように、装置２１０１は、１つまたは複数のプロセッサ（Ｐ）２１５５（たとえば、１つまたは複数の汎用マイクロプロセッサ、および／または、特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）など、１つまたは複数の他のプロセッサなど）を含み得る処理回路（ＰＣ）２１０２であって、そのプロセッサが、単一のハウジング中または単一のデータセンタ中にコロケートされ得るかあるいは地理的に分散され得る、処理回路（ＰＣ）２１０２と、（コロケートされるかまたは地理的に分散され得る）１つまたは複数のネットワークインターフェース２１４８であって、ここで、各ネットワークインターフェースは、装置２１０２が、ネットワークインターフェース２１４８が接続されるネットワーク１１０（たとえば、インターネットプロトコル（ＩＰ）ネットワーク）に接続された他のノードにデータを送信し、他のノードからデータを受信することを可能にするための送信機（Ｔｘ）２１４５および受信機（Ｒｘ）２１４７を含む、１つまたは複数のネットワークインターフェース２１４８と、コロケートされるかまたは地理的に分散され得、１つまたは複数の不揮発性記憶デバイスおよび／または１つまたは複数の揮発性記憶デバイスを含み得る、１つまたは複数の記憶ユニット（別名「データ記憶システム」）２１０８とを備え得る。ＰＣ２１０２がプログラマブルプロセッサを含む実施形態では、コンピュータプログラム製品（ＣＰＰ）２１４１が提供され得る。ＣＰＰ２１４１はコンピュータ可読媒体（ＣＲＭ）２１４２を含み、ＣＲＭ２１４２は、コンピュータ可読命令（ＣＲＩ）２１４４を備えるコンピュータプログラム（ＣＰ）２１４３を記憶する。ＣＲＭ２１４２は、磁気媒体（たとえば、ハードディスク）、光媒体、メモリデバイス（たとえば、ランダムアクセスメモリ、フラッシュメモリ）など、非一時的コンピュータ可読媒体であり得る。いくつかの実施形態では、コンピュータプログラム２１４３のＣＲＩ２１４４は、ＰＣ２１０２によって実行されたとき、ＣＲＩが、装置２１０１に、本明細書で説明されるステップ（たとえば、フローチャートを参照しながら本明細書で説明されるステップ）を実施させるように適応される。他の実施形態では、装置２１０１は、コードの必要なしに本明細書で説明されるステップを実施するように適応され得る。すなわち、たとえば、ＰＣ２１０２は、単に１つまたは複数のＡＳＩＣからなり得る。したがって、本明細書で説明される実施形態の特徴は、ハードウェアおよび／またはソフトウェアで実装され得る。
【0123】
本明細書で開示される実施形態は、仮想ＣＴＵ境界と仮想ＣＴＵ境界に隣接する境界とにおいて、ＡＬＦのためのフィルタ処理の量を低減することによって、フィルタ処理によるアーティファクトをもたらすことを回避する。以下は、実現された改善を示す客観的結果である。
【0124】
結果
ＶＴＭ－７．０（ＶＶＣ参照ソフトウェア）と比較した実施形態１についての客観的結果（負数が改善であるＢＤＲ）は、以下の通りである。
ＶＴＭ－７．０（ＶＶＣ参照ソフトウェア）と比較した実施形態１についての客観的結果（負数が改善であるＢＤＲ）は、以下の通りである。
【0125】
ＶＴＭ－７．０（本発明の時のＶＶＣ参照ソフトウェア）と比較した実施形態２についての客観的結果は、以下の通りである。
【0126】
図２２は、従来のやり方で処理された第１の画像（左画像）と、実施形態１に従って処理された第２の画像（下部画像）とを示す。第１の画像は、ＡＬＦによる仮想境界におけるアーティファクト（ラインのぼけ）を有する。第２の画像は、アーティファクトを含まない。したがって、第２の画像は、第１の画像よりも、元の画像のより高品質のバージョンである。
図２３は、従来のやり方で処理された第１の画像（左画像）と、実施形態２に従って処理された第２の画像（下部画像）とを示す。第１の画像は、ＡＬＦによる仮想境界におけるアーティファクト（ラインのぼけ）を有する。第２の画像は、アーティファクトを含まない。したがって、第２の画像は、第１の画像よりも、元の画像のより高品質のバージョンである。
図２３は、従来のやり方で処理された第１の画像（左画像）と、実施形態２に従って処理された第２の画像（下部画像）とを示す。第１の画像は、ＡＬＦによる仮想境界におけるアーティファクト（ラインのぼけ）を有する。第２の画像は、アーティファクトを含まない。したがって、第２の画像は、第１の画像よりも、元の画像のより高品質のバージョンである。
【0127】
様々な実施形態が本明細書で説明されたが、それらの実施形態は、限定ではなく、例として提示されたにすぎないことを理解されたい。したがって、本開示の広さおよび範囲は、上記で説明された例示的な実施形態のいずれによっても限定されるべきでない。その上、本明細書で別段に指示されていない限り、またはコンテキストによって明確に否定されていない限り、上記で説明されたエレメントのそれらのすべての考えられる変形形態における任意の組合せが、本開示によって包含される。
【0128】
さらに、上記で説明され、図面に示されたプロセスは、ステップのシーケンスとして示されたが、これは、説明のためにのみ行われた。したがって、いくつかのステップが追加され得、いくつかのステップが省略され得、ステップの順序が並べ替えられ得、いくつかのステップが並行して実施され得ることが企図される。
【0129】
参照
［１］Ｍｉｓｒａら、「Ｃｒｏｓｓ－Ｃｏｍｐｏｎｅｎｔ Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ ｆｏｒ ｃｈｒｏｍａ」、ＪＶＥＴ－Ｏ０６３６＿ｒ１、２０１９年７月（ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ－ｓｕｄｐａｒｉｓ．ｅｕ／ｊｖｅｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１５＿Ｇｏｔｈｅｎｂｕｒｇ／ｗｇ１１／ＪＶＥＴ－Ｏ０６３６－ｖ２．ｚｉｐにおいて入手可能）
［２］Ｃｈｅｎ、「Ｄｅｓｃｒｉｐｔｉｏｎ ｏｆ Ｃｏｒｅ Ｅｘｐｅｒｉｍｅｎｔ ５（ＣＥ５）：Ｃｒｏｓｓ－ｃｏｍｐｏｎｅｎｔ ａｄａｐｔｉｖｅ ｌｏｏｐ ｆｉｌｔｅｒｉｎｇ」、ＪＶＥＴ－Ｐ２０２５－ｖ４、２０１９年１０月（ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ－ｓｕｄｐａｒｉｓ．ｅｕ／ｊｖｅｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１６＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＶＥＴ－Ｐ２０２５－ｖ４．ｚｉｐにおいて入手可能）
［１］Ｍｉｓｒａら、「Ｃｒｏｓｓ－Ｃｏｍｐｏｎｅｎｔ Ａｄａｐｔｉｖｅ Ｌｏｏｐ Ｆｉｌｔｅｒ ｆｏｒ ｃｈｒｏｍａ」、ＪＶＥＴ－Ｏ０６３６＿ｒ１、２０１９年７月（ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ－ｓｕｄｐａｒｉｓ．ｅｕ／ｊｖｅｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１５＿Ｇｏｔｈｅｎｂｕｒｇ／ｗｇ１１／ＪＶＥＴ－Ｏ０６３６－ｖ２．ｚｉｐにおいて入手可能）
［２］Ｃｈｅｎ、「Ｄｅｓｃｒｉｐｔｉｏｎ ｏｆ Ｃｏｒｅ Ｅｘｐｅｒｉｍｅｎｔ ５（ＣＥ５）：Ｃｒｏｓｓ－ｃｏｍｐｏｎｅｎｔ ａｄａｐｔｉｖｅ ｌｏｏｐ ｆｉｌｔｅｒｉｎｇ」、ＪＶＥＴ－Ｐ２０２５－ｖ４、２０１９年１０月（ｈｔｔｐ：／／ｐｈｅｎｉｘ．ｉｔ－ｓｕｄｐａｒｉｓ．ｅｕ／ｊｖｅｔ／ｄｏｃ＿ｅｎｄ＿ｕｓｅｒ／ｄｏｃｕｍｅｎｔｓ／１６＿Ｇｅｎｅｖａ／ｗｇ１１／ＪＶＥＴ－Ｐ２０２５－ｖ４．ｚｉｐにおいて入手可能）
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【国際調査報告】