▶ テレフオンアクチーボラゲット エル エム エリクソン（パブル）の特許一覧
特許7387878ビデオまたは画像コーディングにおけるデブロッキングフィルタ選択
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-17
(45)【発行日】2023-11-28
(54)【発明の名称】ビデオまたは画像コーディングにおけるデブロッキングフィルタ選択
(51)【国際特許分類】
H04N 19/117 20140101AFI20231120BHJP
H04N 19/14 20140101ALI20231120BHJP
H04N 19/176 20140101ALI20231120BHJP
H04N 19/82 20140101ALI20231120BHJP
H04N 19/86 20140101ALI20231120BHJP
【ＦＩ】
H04N19/117
H04N19/14
H04N19/176
H04N19/82
H04N19/86
【請求項の数】
13
(21)【出願番号】P 2022514183
(86)(22)【出願日】2020-09-04
(65)【公表番号】
(43)【公表日】2022-11-14
(86)【国際出願番号】 SE2020050835
(87)【国際公開番号】W WO2021045671
(87)【国際公開日】2021-03-11
【審査請求日】2022-05-18
(31)【優先権主張番号】62/897,004
(32)【優先日】2019-09-06
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】598036300
【氏名又は名称】テレフオンアクチーボラゲット エルエム エリクソン（パブル）
(74)【代理人】
【識別番号】100109726
【弁理士】
【氏名又は名称】園田 吉隆
(74)【代理人】
【識別番号】100161470
【弁理士】
【氏名又は名称】冨樫 義孝
(74)【代理人】
【識別番号】100194294
【弁理士】
【氏名又は名称】石岡 利康
(74)【代理人】
【識別番号】100194320
【弁理士】
【氏名又は名称】藤井 亮
(74)【代理人】
【識別番号】100150670
【弁理士】
【氏名又は名称】小梶 晴美
(72)【発明者】
【氏名】アンデション， ケネト
(72)【発明者】
【氏名】エンホーン， ジャック
【審査官】岩井 健二
(56)【参考文献】
【文献】国際公開第２０１５／１３８７１４（ＷＯ，Ａ１）
【文献】M. Ikeda, et al.，CE11.1.6, CE11.1.7 and CE11.1.8: Joint proposals for long deblocking from Sony, Qualcomm, Sharp, Ericsson，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-M0471，13th Meeting: Marrakesh, MA，2019年01月，pp.1-11
【文献】K. Andersson, and J. Enhorn，Non-CE5: Fixes for long luma deblocking filter decision，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-P0411，16th Meeting: Geneva, CH，2019年09月，pp.1-7
【文献】K. Andersson, and J. Enhorn，CE1-1.1 to CE1-1.3: Fixes for long luma deblocking filter decision，Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11，JVET-Q0054，17th Meeting: Brussels, BE，2020年01月，pp.1-11
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｈ０４Ｎ １９／００ － １９／９８
(57)【特許請求の範囲】
【請求項1】
垂直および／または水平ブロック境界のデブロッキングフィルタ処理のための方法（４００）であって、画像もしくはビデオエンコーダまたは画像もしくはビデオデコーダによって実施され、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の前記第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の前記第２のブロックが、ｊ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｊ，ｋのセットを備える、ことと、
サンプル値の前記第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定する（ｓ４０４）ことであって、サンプル値の前記第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、
サンプル値Ｂ１＿６，０を使用して第１の勾配値（すなわちｍａｘＧｒａｄＢ１＿６，０）を計算する（ｓ５０２）こと、
ｍａｘＧｒａｄＢ１＿６，０を使用して第１のｐｑ値（すなわちｐｑ１＿０）を計算する（ｓ５０４）ことであって、ｐｑ１＿０を計算することが、値ｓｐを計算すること、値ｓｑを計算すること、およびｓｐ＋ｓｑを計算することを備え、ｐｑ１＿０＝（ｓｐ＋ｓｑ）であり、ｓｐを計算することが、ｓｐ＝（Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）＋Ａｂｓ（Ｂ１＿３，０－Ｂ１＿７，０）＋ｍａｘＧｒａｄＢ１＿６，０＋１）＞＞１を計算することを備え、ｍａｘＧｒａｄＢ１＿６，０が、Ａｂｓ（Ｂ１＿７，０－Ｂ１＿６，０－Ｂ１＿５，０＋Ｂ１＿４，０）に等しい、第１のｐｑ値（ｐｑ１＿０）を計算する（ｓ５０４）こと、
ｐｑ１＿０をしきい値と比較する（ｓ５０８）こと、
サンプル値Ｂ１＿６，３を使用して第２の勾配値（ｍａｘＧｒａｄＢ１＿６，３）を計算すること、
ｍａｘＧｒａｄＢ１＿６，３を使用して第２のｐｑ値（ｐｑ１＿３）を計算すること、ならびに
ｐｑ１＿３を前記しきい値と比較する（ｓ５０８）こと
を備える、ことと
を含む、方法（４００）。
【請求項2】
前記第２のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）を有し、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿７，０）＋ｍａｘＧｒａｄＢ２＿６，０＋１）＞＞１であり、ここで、ｍａｘＧｒａｄＢ２＿６，０が、第３の勾配値であり、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿５，０）＋１）＞＞１であり、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しくない、および５に等しくない場合、ｓｑ＝Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）である、
請求項１に記載の方法。
【請求項3】
ｍａｘＧｒａｄＢ２＿６，０が、Ａｂｓ（Ｂ２＿７，０－Ｂ２＿６，０－Ｂ２＿５，０＋Ｂ２＿４，０）に等しい、請求項２に記載の方法。
【請求項4】
ｐｑ１＿３を計算することが、値ｓｐ３を計算することと、値ｓｑ３を計算することと、ｓｐ３＋ｓｑ３を計算することとを備え、ｐｑ１＿３＝（ｓｐ３＋ｓｑ３）であり、ｓｐ３を計算することが、ｓｐ３＝（Ａｂｓ（Ｂ１＿０，３－Ｂ１＿３，３）＋Ａｂｓ（Ｂ１＿３，３－Ｂ１＿７，３）＋ｍａｘＧｒａｄＢ１＿６，３＋１）＞＞１を計算することを含む、請求項１から３のいずれか一項に記載の方法。
【請求項5】
ｍａｘＧｒａｄＢ１＿６，３が、Ａｂｓ（Ｂ１＿７，３－Ｂ１＿６，３－Ｂ１＿５，３＋Ｂ１＿４，３）に等しい、請求項４に記載の方法。
【請求項6】
ｍａｘＧｒａｄＢ１＿６，０を使用してｐｑ１＿０を計算することは、前記第１のブロックのための最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）が、７に等しいと決めることの結果として実施される、請求項１から５のいずれか一項に記載の方法。
【請求項7】
ｍａｘＧｒａｄＢ１＿６，３を使用してｐｑ１＿３を計算することは、前記第１のブロックのための最大フィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）が、７に等しいと決めることの結果として実施される、請求項１から６のいずれか一項に記載の方法。
【請求項8】
垂直境界をデブロックするとき、前記ｉ値が、ブロックの列を識別し、前記ｋ値が、前記ブロックの行を識別し、水平境界をデブロックするとき、前記ｋ値が、前記ブロックの列を識別し、前記ｉ値が、前記ブロックの行を識別する、
請求項１から７のいずれか一項に記載の方法。
【請求項9】
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しいときに前記長いフィルタによってフィルタ処理すべき前記サンプル値が、Ｂ１＿０，０～Ｂ１＿６，０、Ｂ１＿０，１～Ｂ１＿６，１、Ｂ１＿０，２～Ｂ１＿６，２およびＢ１＿０，３～Ｂ１＿６，３である、請求項１から８のいずれか一項に記載の方法。
【請求項10】
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しいときに前記長いフィルタによってフィルタ処理すべき前記サンプル値が、Ｂ２＿０，０～Ｂ２＿６，０、Ｂ２＿０，１～Ｂ２＿６，１、Ｂ２＿０，２～Ｂ２＿６，２およびＢ２＿０，３～Ｂ２＿６，３である、請求項１から９のいずれか一項に記載の方法。
【請求項11】
処理回路（６０２）によって実行されたとき、前記処理回路（６０２）に、請求項１から１０のいずれか一項に記載の方法を実施させる命令（６４４）を含む、コンピュータプログラム（６４３）。
【請求項12】
請求項１１に記載のコンピュータプログラムを含んでいるコンピュータ可読記憶媒体。
【請求項13】
垂直および／または水平ブロック境界のデブロッキングフィルタ処理のための装置（６００）であって、請求項１から１０のいずれか一項に記載の方法を実施するように適応された、装置（６００）。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ビデオおよび／または画像コーディングおよびデコーディングに関する。
【背景技術】
【0002】
ビデオシーケンスは、一連の画像からなり、ここで、各画像は、１つまたは複数の成分からなる。各成分は、サンプル値の２次元矩形アレイとして説明され得る。ビデオシーケンス中の画像は、３つの成分、すなわち、サンプル値がルーマ値である１つのルーマ成分Ｙと、サンプル値がクロマ値である２つのクロマ成分ＣｂおよびＣｒとからなることが一般的である。他の例は、Ｙ’ Ｃｂ Ｃｒ、ＹｕｖおよびＩＣＴＣＰを含む。ＩＣＴＣＰにおいて、Ｉは、「強度ルーマ」成分である。本明細書の残りの部分では、任意のルーマ成分Ｙ’、Ｙ、またはＩを、Ｙまたは単にルーマと呼ぶことにする。クロマ成分の大きさは、各大きさにおいて１／２だけルーマ成分よりも小さいことが一般的である。たとえば、ＨＤ画像のルーマ成分のサイズは、１９２０×１０８０であり、クロマ成分は、各々、９６０×５４０の大きさを有する。成分は、色成分と呼ばれることがある。
【0003】
「ブロック」は、サンプルの２次元アレイである。ビデオコーディングでは、各成分は、１つまたは複数のブロックに分割され、コーディングされたビデオビットストリームは、一連のブロックである。ビデオコーディングでは、画像は、画像の特定の領域をカバーするユニットに分割されることが一般的である。各ユニットは、その特定の領域を構成するすべての成分からのすべてのブロックからなり、各ブロックは、１つのユニットに完全に属する。Ｈ．２６４におけるマクロブロックおよびＨＥＶＣにおけるコーディングユニット（ＣＵ）が、ユニットの例である。
【0004】
ＨＥＶＣでは、各画像は、コーディングツリーユニット（ＣＴＵ）に区画される。ＣＴＵは、ルーマサンプルのＮ×Ｎブロックと、２つのＭ×Ｍ対応クロマブロックとからなる。ＨＥＶＣにおけるＣＴＵは、Ｈ．２６４および以前の規格におけるマクロブロックに似ているが、マクロブロックとは対照的に、ＣＴＵサイズが、設定可能である。しかしながら、ほとんどの場合、ＨＥＶＣにおけるＣＴＵサイズは、６４×６４個のルーマサンプルに設定される。各ＣＴＵは、再帰的に４分木分割され得る。次いで、４分木のルートは、ＣＴＵに関連付けられる。４分木は、コーディングユニット（ＣＵ）と呼ばれるリーフに達するまで、分割される。ＨＥＶＣにおけるＣＵは、常に、等しい高さおよび幅をもつルーマブロックからなる。各ＣＴＵがどのように分割されたかが、ビットストリーム中で伝達される。ＣＵは、さらに、２つの他のツリー、すなわち、ノードとして予測ユニット（ＰＵ）を有する予測ツリー、およびノードとして変換ユニット（ＴＵ）を有する変換ツリーのルートノードである。ＨＥＶＣにおけるいくつかのデコーディングプロセスは、ＣＵレベルで行われ、いくつかは、ＰＵレベルで行われ、いくつかは、ＴＵレベルで行われる。ＰＵの間の境界およびＴＵの間の境界が、ＴＵおよびＰＵの間の不連続性を低減するために、デブロッキングフィルタによってフィルタ処理される。ＨＥＶＣでは、ＰＵのための２種類の予測タイプ、すなわち、予測のために現在の画像の、前にデコードされたサンプルからの予測のみを使用するイントラ予測と、少なくとも１つの前にデコードされた画像からの予測を使用するインター予測とが存在する。
【0005】
ＨＥＶＣでは、デブロッキングは、まず垂直境界に対して適用され、次いで水平境界に対して適用される。境界は、ＴＵ境界またはＰＵ境界のいずれかである。並列フレンドリーなデブロッキングを可能にするために、デブロッキングは、８×８サンプルグリッドに対して実施される。
【0006】
デブロッキングフィルタ強度パラメータ（ｂｓ）は、各境界について設定される。ｂｓの値が０を超える場合、デブロッキングは適用され得る。境界強度が大きくなればなるほど、より強いフィルタ処理が適用される。まず、ブロックの間のＰＵ境界におけるブロックのうちのいずれかが、イントラ予測ブロックであるかどうかが検査され、その場合、（ｂｓ＝２に設定され）、あるいは両方のブロックが、インター予測を使用するが、両方のブロックは、異なる参照フレームを使用するかまたは著しく異なる動きベクトルを有するかどうかが検査され、その場合、（ｂｓ＝１に設定される）。ブロックの間のＴＵ境界が、ブロックのうちの少なくとも１つ中に非ゼロ変換係数を有するかどうか（コードブロックフラグＣＢＦが、１に等しいかどうか）も検査され、その場合、（ｂｓ＝１に設定される）。この最初の検査は、デブロッキングが適用されるべきであることを指し示すために、０を超える境界強度（ｂｓ）を設定する。境界強度が大きくなればなるほど、より強いフィルタ処理が適用される。デブロックするときに自然構造を削除することを低減／回避するために、境界のそれぞれの側に自然構造がないことの検査が、次いで、ルーマに適用される。ＨＥＶＣにおいて、勾配計算が、以下の不等式、すなわち、ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＜ベータを使用して、境界のそれぞれの側で使用され、ここで、（「β」とも表わされる）ベータは、ブロックのための量子化パラメータに基づくパラメータであり、ｐ０、ｐ１～ｐ２は、ブロック境界の一方の側のサンプルであり、ｑ０、ｑ１～ｑ２は、ブロック境界の反対側のサンプルである。条件が、境界に沿った２つの位置において検査され、両方の条件が満たされた場合、ルーマサンプルは、境界のその４サンプル部分についてデブロックされる。クロマ境界は、隣接ブロックのうちのいずれか１つがイントラコーディングされる場合、常にフィルタ処理され得る。
【0007】
ＶＶＣの仕様の現在のドラフト（ＶＶＣドラフト６ ＪＶＥＴ－Ｏ２００１－ｖ１４）において、コーディングツリーユニット（ＣＴＵ）は、ＨＥＶＣにおけるＣＴＵに類似するが、Ｈ．２６６におけるＣＴＵは、１２８×１２８個のルーマサンプルのサイズを有することが異なる。ＶＶＣにおいて、ＣＴＵは、得られたＣＵが矩形ルーマブロックからなり得るように、よりフレキシブルに分割され得る。ＶＶＣには、ＨＥＶＣの場合のような予測ツリーまたは変換ツリーがない。しかしながら、ＶＶＣにおけるＣＵは、複数のＴＵに、または複数の予測サブブロックに分割され得る。
【0008】
ＶＶＣの仕様の現在のドラフト（ＶＶＣドラフト６ ＪＶＥＴ－Ｏ２００１－ｖ１４）において、デブロッキングは、ＣＵについて４×４グリッドに対して適用され、まず垂直境界（ＣＵ／暗黙的ＴＵ／予測サブブロック境界）に対して、次いで、水平境界（ＣＵ／暗黙的ＴＵ／予測サブブロック）に対して適用される。ＣＵ内の予測サブブロック境界は、８×８グリッド上でフィルタ処理される。デブロッキングは、ＨＥＶＣデブロッキングに基づくが、より長いデブロッキングフィルタをも有し、ブロック境界に直交するサイズが、ルーマについて少なくとも一方の側で３２に等しいかまたは３２を超え、反対側が、４を超える場合、最大７つのサンプルを修正し（最大８つのサンプルを読み）、ブロック境界に直交するサイズが、ルーマについて一方の側について３２よりも小さい場合、デブロッキングは、最大３つのサンプルを修正し、その側で最大４つのサンプルを読み、ブロック境界に直交するサイズが、クロマについてクロマサンプル中の境界の両方の側で８に等しいかまたは８を超える場合、最大３つのクロマサンプルを修正し、最大４つのクロマサンプルを読み、さもなければ、デブロッキングは、最大１つのサンプルを修正し、境界のそれぞれの側で最大２つのサンプルを読む。
【0009】
ＶＶＣ仕様（ＪＶＥＴ－Ｏ２００１－ｖ１４）は、セクション８．８．３ デブロッキングフィルタプロセスにおいて規定されている長いフィルタおよび決定を有する。
【0010】
デブロッキング決定は、ラインのセグメントについて、ライン０およびライン４について算出される。
【0011】
図３は、各ラインおよびブロックについて、４つのライン、すなわち、ライン０～ライン３についてのおよび８つのサンプル、すなわち、サンプル０～７についての（「Ｐブロック」と表わされる）第１のブロック３０２と（「Ｑブロック」と表わされる）第２のブロック３０４との間の境界を示す。
【0012】
以下は、ＶＶＣ仕様（ＪＶＥＴ－Ｏ２００１－ｖ１４）からの抜粋である。この抜粋は、長いフィルタ決定に関する。
【0013】
－－抜粋開始－－
８．８．３．６．１ ルーマブロックエッジのための決定プロセス
．．．
以下の順序付きステップが適用される。
１．変数ｄｐ０、ｄｐ３、ｄｑ０およびｄｑ３は、以下のように導出される。
ｄｐ０＝Ａｂｓ（ｐ２，０－２＊ｐ１，０＋ｐ０，０） （８－１０７７）
ｄｐ３＝Ａｂｓ（ｐ２，３－２＊ｐ１，３＋ｐ０，３） （８－１０７８）
ｄｑ０＝Ａｂｓ（ｑ２，０－２＊ｑ１，０＋ｑ０，０） （８－１０７９）
ｄｑ３＝Ａｂｓ（ｑ２，３－２＊ｑ１，３＋ｑ０，３） （８－１０８０）
２．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、両方とも３に等しいかまたは３よりも大きいとき、変数ｓｐ０、ｓｑ０、ｓｐｑ０、ｓｐ３、ｓｑ３およびｓｐｑ３は、以下のように導出される。
ｓｐ０＝Ａｂｓ（ｐ３，０－ｐ０，０） （８－１０８１）
ｓｑ０＝Ａｂｓ（ｑ０，０－ｑ３，０） （８－１０８２）
ｓｐｑ０＝Ａｂｓ（ｐ０，０－ｑ０，０） （８－１０８３）
ｓｐ３＝Ａｂｓ（ｐ３，３－ｐ０，３） （８－１０８４）
ｓｑ３＝Ａｂｓ（ｑ０，３－ｑ３，３） （８－１０８５）
ｓｐｑ３＝Ａｂｓ（ｐ０，３－ｑ０，３） （８－１０８６）
３．変数ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
４．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、３よりも大きいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは、１に等しく設定される。
５．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３よりも大きいとき、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、１に等しく設定される。
６．ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しく、（ｙＣｂ＋ｙＢｌ）％ＣｔｂＳｉｚｅＹが０に等しいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
７．変数ｄＳａｍ０およびｄＳａｍ３は、０に初期化される。
８．ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋまたはｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、０よりも大きいとき、以下が適用される。
ａ．以下のように、変数ｄｐ０Ｌ、ｄｐ３Ｌは導出され、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰは修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しい場合、以下が適用される。
ｄｐ０Ｌ＝（ｄｐ０＋Ａｂｓ（ｐ５，０－２＊ｐ４，０＋ｐ３，０）＋１）＞＞１ （８－１０８７）
ｄｐ３Ｌ＝（ｄｐ３＋Ａｂｓ（ｐ５，３－２＊ｐ４，３＋ｐ３，３）＋１）＞＞１ （８－１０８８）
－ さもなければ、以下が適用される。
ｄｐ０Ｌ＝ｄｐ０ （８－１０８９）
ｄｐ３Ｌ＝ｄｐ３ （８－１０９０）
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝３ （８－１０９１）
ｂ．変数ｄｑ０Ｌおよびｄｑ３Ｌは、以下のように導出される。
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しい場合、以下が適用される。
ｄｑ０Ｌ＝（ｄｑ０＋Ａｂｓ（ｑ５，０－２＊ｑ４，０＋ｑ３，０）＋１）＞＞１ （８－１０９２）
ｄｑ３Ｌ＝（ｄｑ３＋Ａｂｓ（ｑ５，３－２＊ｑ４，３＋ｑ３，３）＋１）＞＞１ （８－１０９３）
－ さもなければ、以下が適用される。
ｄｑ０Ｌ＝ｄｑ０ （８－１０９４）
ｄｑ３Ｌ＝ｄｑ３ （８－１０９５）
ｃ．変数ｄｐｑ０Ｌ、ｄｐｑ３Ｌ、およびｄＬは、以下のように導出される。
ｄｐｑ０Ｌ＝ｄｐ０Ｌ＋ｄｑ０Ｌ （８－１０９６）
ｄｐｑ３Ｌ＝ｄｐ３Ｌ＋ｄｑ３Ｌ （８－１０９７）
ｄＬ＝ｄｐｑ０Ｌ＋ｄｐｑ３Ｌ （８－１０９８）
ｄ．ｄＬが、βよりも小さいとき、以下の順序付きステップが適用される。
ｉ．変数ｄｐｑは、２＊ｐｑ０Ｌに等しく設定される。
ｉｉ．変数ｓｐはｓｐ０に等しく設定され、変数ｓｑはｓｑ０に等しく設定され、変数ｓｐｑはｓｐｑ０に等しく設定される。
ｉｉｉ．変数ｐ０、ｐ３、ｑｏおよびｑ３は、まず、０に初期化され、次いで、以下のようにｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｐ３＝ｐ３，０ （８－１０９９）
ｐ０＝ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ，０ （８－１１００）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｑ３＝ｑ３，０ （８－１１０１）
ｑ０＝ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，０ （８－１１０２）
ｉｖ．サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、サンプル値ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ０に割り振られる。
ｖ．変数ｄｐｑは、２＊ｄｐｑ３Ｌに等しく設定される。
ｖｉ．変数ｓｐはｓｐ３に等しく設定され、変数ｓｑはｓｑ３に等しく設定され、変数ｓｐｑはｓｐｑ３に等しく設定される。
ｖｉｉ．変数ｐ０、ｐ３、ｑ０およびｑ３は、まず、０に初期化され、次いで、以下のようにｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｐ３＝ｐ３，３ （８－１１０３）
ｐ０＝ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ，３ （８－１１０４）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｑ３＝ｑ３，３ （８－１１０５）
ｑ０＝ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，３ （８－１１０６）
ｖｉｉｉ．ｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてＥＤＧＥ＿ＶＥＲに等しいとき、またはｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてＥＤＧＥ＿ＨＯＲに等しいとき、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、サンプル値ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ３に割り振られる。
９．変数ｄＥ、ｄＥｐおよびｄＥｑは、以下のように導出される。
－ ｄＳａｍ０およびｄＳａｍ３が、両方とも１に等しい場合、変数ｄＥは３に等しく設定され、ｄＥｐは１に等しく設定され、ｄＥｑは１に等しく設定される。
－ さもなければ、以下の順序付きステップが適用される。
ａ．変数ｄｐｑ０、ｄｐｑ３、ｄｐ、ｄｑおよびｄは、以下のように導出される。
ｄｐｑ０＝ｄｐ０＋ｄｑ０ （８－１１０７）
ｄｐｑ３＝ｄｐ３＋ｄｑ３ （８－１１０８）
ｄｐ＝ｄｐ０＋ｄｐ３ （８－１１０９）
ｄｑ＝ｄｑ０＋ｄｑ３ （８－１１１０）
ｄ＝ｄｐｑ０＋ｄｐｑ３ （８－１１１１）
ｂ．変数ｄＥ、ｄＥｐ、ｄＥｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
ｃ．ｄがβよりも小さく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱの両方が２よりも大きいとき、以下の順序付きステップが適用される。
ｉ．変数ｄｐｑは、２＊ｄｐｑ０に等しく設定される。
ｉｉ．変数ｓｐはｓｐ０に等しく設定され、変数ｓｑはｓｑ０に等しく設定され、変数ｓｐｑはｓｐｑ０に等しく設定される。
ｉｉｉ．サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、すべて０に等しく設定された変数ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ０に割り振られる。
ｉｖ．変数ｄｐｑは、２＊ｄｐｑ３に等しく設定される。
ｖ．変数ｓｐはｓｐ３に等しく設定され、変数ｓｑはｓｑ３に等しく設定され、変数ｓｐｑはｓｐｑ３に等しく設定される。
ｖｉ．ｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてＥＤＧＥ＿ＶＥＲに等しいとき、またはｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてＥＤＧＥ＿ＨＯＲに等しいとき、節８．８．３．６．５において規定されているサンプルのための決定プロセスが、すべて０に等しく設定された変数ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ３に割り振られる。
ｄ．ｄが、βよりも小さいとき、以下の順序付きステップが適用される。
ｉ．変数ｄＥは、１に等しく設定される。
ｉｉ．ｄＳａｍ０が１に等しく、ｄＳａｍ３が１に等しいとき、変数ｄＥは、２に等しく設定される。
ｉｉｉ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｐが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｐは、１に等しく設定される。
ｉｖ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｑが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｑは、１に等しく設定される。
８．８．３．６．２ ルーマブロックエッジのためのフィルタ処理プロセス
．．．
ｅｄｇｅＴｙｐｅの値に応じて、以下が適用される。
－ ｅｄｇｅＴｙｐｅが、ＥＤＧＥ＿ＶＥＲに等しい場合、以下の順序付きステップが適用される。
．．．
３．ｄＥが、ｋ＝０．．３である各サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｋ）について３に等しいとき、以下の順序付きステップが適用される。
ａ．節８．８．３．６．７において規定されている長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセスが、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉ，ｋ、ｑｊ，ｋと、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の（ｘＣｂ＋ｘＢｌ－ｉ－１，ｙＣｂ＋ｙＢｌ＋ｋ）に等しく設定されたロケーション（ｘＰｉ，ｙＰｉ）およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の（ｘＣｂ＋ｘＢｌ＋ｊ，ｙＣｂ＋ｙＢｌ＋ｋ）に等しく設定されたロケーション（ｘＱｊ，ｙＱｊ）と、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱおよびｔＣとを入力として、ならびにフィルタ処理されたサンプル値ｐｉ’およびｑｊ’を出力として、呼び出される。
ｂ．ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１のフィルタ処理されたサンプル値ｐｉ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ－ｉ－１］［ｙＣｂ＋ｙＢｌ＋ｋ］＝ｐｉ’ （８－１１１６）
ｃ．ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｑｊ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｊ］［ｙＣｂ＋ｙＢｌ＋ｋ］＝ｑｊ’ （８－１１１７）
．．．
－ さもなければ（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい）、以下の順序付きステップが適用される。
．．．
３．ｄＥが、ｋ＝０．．３である各サンプルロケーション（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ）について３に等しいとき、以下の順序付きステップが適用される。
ａ．節８．８．３．６．７において規定されている長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセスが、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉ，ｋ、ｑｊ，ｋと、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ－ｉ－１）に等しく設定されたロケーション（ｘＰｉ，ｙＰｉ）およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ＋ｊ）に等しく設定されたロケーション（ｘＱｊ，ｙＱｊ）と、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、および変数ｔＣとを入力として、ならびにフィルタ処理されたサンプル値ｐｉ’およびｑｊ’を出力として、呼び出される。
ｂ．ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１のフィルタ処理されたサンプル値ｐｉ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｋ］［ｙＣｂ＋ｙＢｌ－ｉ－１］＝ｐｉ’ （８－１１２２）
ｃ．ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｑｊ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｋ］［ｙＣｂ＋ｙＢｌ＋ｊ］＝ｑｊ’ （８－１１２３）
．．．
８．８．３．６．５ ルーマサンプルのための決定プロセス
このプロセスへの入力は、
－ サンプル値ｐ０、ｐ３、ｑ０およびｑ３、
－ 変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣ、
である。
このプロセスの出力は、決定を含んでいる変数ｄＳａｍである。
変数ｓｐおよびｓｑは、以下のように修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｓｐ＝（ｓｐ＋Ａｂｓ（ｐ３－ｐ０）＋１）＞＞１ （８－１１５８）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｓｑ＝（ｓｑ＋Ａｂｓ（ｑ３－ｑ０）＋１）＞＞１ （８－１１５９）
変数ｓＴｈｒは、以下のように導出される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいか、またはｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しい場合、以下が適用される。
ｓＴｈｒ＝３＊β＞＞５ （８－１１６０）
－ さもなければ、以下が適用される。
ｓＴｈｒ＝β＞＞３ （８－１１６１）
変数ｄＳａｍは、以下のように規定される。
－ 以下の条件、すなわち、
－ ｄｐｑは、（β＞＞２）よりも小さい、
－ ｓｐ＋ｓｑは、ｓＴｈｒよりも小さい、
－ ｓｐｑは、（５＊ｔＣ＋１）＞＞１よりも小さい、
のうちのすべてが真である場合、ｄＳａｍは、１に等しく設定される。
－ さもなければ、ｄＳａｍは、０に等しく設定される。
．．．
８．８．３．６．６ 短いフィルタを使用するルーマサンプルのためのフィルタ処理プロセス
このプロセスへの入力は、
－ ｉ＝０．．３のサンプル値ｐｉおよびｑｉ、
－ ｉ＝０．．２のｐｉおよびｑｉのロケーション、すなわち、（ｘＰｉ，ｙＰｉ）および（ｘＱｉ，ｙＱｉ）、
－ 変数ｄＥ、
－ それぞれサンプルｐ１およびｑ１をフィルタ処理するという決定を含んでいる変数ｄＥｐおよびｄＥｑ、
－ 変数ｔＣ、
である。
このプロセスの出力は、
－ フィルタ処理されたサンプルｎＤｐおよびｎＤｑの数、
－ ｉ＝０．．ｎＤｐ－１、ｊ＝０．．ｎＤｑ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’、
である。
ｄＥの値に応じて、以下が適用される。
－ 変数ｄＥが、２に等しい場合、ｎＤｐおよびｎＤｑは、両方とも３に等しく設定され、以下の強いフィルタ処理が適用される。
ｐ０’＝Ｃｌｉｐ３（ｐ０－３＊ｔＣ，ｐ０＋３＊ｔＣ，（ｐ２＋２＊ｐ１＋２＊ｐ０＋２＊ｑ０＋ｑ１＋４）＞＞３） （８－１１６２）
ｐ１’＝Ｃｌｉｐ３（ｐ１－２＊ｔＣ，ｐ１＋２＊ｔＣ，（ｐ２＋ｐ１＋ｐ０＋ｑ０＋２）＞＞２） （８－１１６３）
ｐ２’＝Ｃｌｉｐ３（ｐ２－１＊ｔＣ，ｐ２＋１＊ｔＣ，（２＊ｐ３＋３＊ｐ２＋ｐ１＋ｐ０＋ｑ０＋４）＞＞３） （８－１１６４）
ｑ０’＝Ｃｌｉｐ３（ｑ０－３＊ｔＣ，ｑ０＋３＊ｔＣ，（ｐ１＋２＊ｐ０＋２＊ｑ０＋２＊ｑ１＋ｑ２＋４）＞＞３） （８－１１６５）
ｑ１’＝Ｃｌｉｐ３（ｑ１－２＊ｔＣ，ｑ１＋２＊ｔＣ，（ｐ０＋ｑ０＋ｑ１＋ｑ２＋２）＞＞２） （８－１１６６）
ｑ２’＝Ｃｌｉｐ３（ｑ２－１＊ｔＣ，ｑ２＋１＊ｔＣ，（ｐ０＋ｑ０＋ｑ１＋３＊ｑ２＋２＊ｑ３＋４）＞＞３） （８－１１６７）
－ さもなければ、ｎＤｐおよびｎＤｑは、両方とも０に等しく設定され、以下の弱いフィルタ処理が適用される。
－ 以下が適用される。
Δ＝（９＊（ｑ０－ｐ０）－３＊（ｑ１－ｐ１）＋８）＞＞４ （８－１１６８）
－ Ａｂｓ（Δ）が、ｔＣ＊１０よりも小さいとき、以下の順序付きステップが適用される。
－ フィルタ処理されたサンプル値ｐ０’およびｑ０’は、以下のように規定される。
Δ＝Ｃｌｉｐ３（－ｔＣ，ｔＣ，Δ） （８－１１６９）
ｐ０’＝Ｃｌｉｐ１Ｙ（ｐ０＋Δ） （８－１１７０）
ｑ０’＝Ｃｌｉｐ１Ｙ（ｑ０－Δ） （８－１１７１）
－ ｄＥｐが、１に等しいとき、フィルタ処理されたサンプル値ｐ１’は、以下のように規定される。
Δｐ＝Ｃｌｉｐ３（－（ｔＣ＞＞１），ｔＣ＞＞１，（（（ｐ２＋ｐ０＋１）＞＞１）－ｐ１＋Δ）＞＞１） （８－１１７２）
ｐ１’＝Ｃｌｉｐ１Ｙ（ｐ１＋Δｐ） （８－１１７３）
－ ｄＥｑが、１に等しいとき、フィルタ処理されたサンプル値ｑ１’は、以下のように規定される。
Δｑ＝Ｃｌｉｐ３（－（ｔＣ＞＞１），ｔＣ＞＞１，（（（ｑ２＋ｑ０＋１）＞＞１）－ｑ１－Δ）＞＞１） （８－１１７４）
ｑ１’＝Ｃｌｉｐ１Ｙ（ｑ１＋Δｑ） （８－１１７５）
－ ｎＤｐは、ｄＥｐ＋１に等しく設定され、ｎＤｑは、ｄＥｑ＋１に等しく設定される。
ｎＤｐが０よりも大きく、以下の条件のうちの１つまたは複数が真であるとき、ｎＤｐは、０に等しく設定される
－ サンプルｐ０を含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい。
－ サンプルｐ０を含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい。
ｎＤｑが０よりも大きく、以下の条件のうちの１つまたは複数が真であるとき、ｎＤｑは、０に等しく設定される。
－ サンプルｑ０を含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい。
－ サンプルｑ０を含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい。
８．８．３．６．７ 長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセス
このプロセスへの入力は、
－ 変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉおよびｑｊ、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のｐｉおよびｑｊのロケーション、すなわち、（ｘＰｉ，ｙＰｉ）および（ｘＱｊ，ｙＱｊ）、
－ 変数ｔＣ、
である。
このプロセスの出力は、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｈｔＱ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’
である。
変数ｒｅｆＭｉｄｄｌｅは、以下のように導出される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ４＋ｐ３＋２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２）＋ｑ３＋ｑ４＋８）＞＞４ （８－１１７６）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しくない場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ６＋ｐ５＋ｐ４＋ｐ３＋ｐ２＋ｐ１＋２＊（ｐ０＋ｑ０）＋ｑ１＋ｑ２＋ｑ３＋ｑ４＋ｑ５＋ｑ６＋８）＞＞４ （８－１１７７）
－ さもなければ、以下の条件、すなわち、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しい、
のうちの１つが真である場合、
以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ４＋ｐ３＋２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２）＋ｑ３＋ｑ４＋８）＞＞４ （８－１１７８）
－ さもなければ、以下の条件、すなわち、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが３に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい、
のうちの１つが真である場合、
以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ３＋ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２＋ｑ３＋４）＞＞３ （８－１１７９）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０）＋ｐ０＋ｐ１＋ｑ１＋ｑ２＋ｑ３＋ｑ４＋ｑ５＋ｑ６＋８）＞＞４ （８－１１８０）
－ さもなければ、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ６＋ｐ５＋ｐ４＋ｐ３＋ｐ２＋ｐ１＋２＊（ｑ２＋ｑ１＋ｑ０＋ｐ０）＋ｑ０＋ｑ１＋８）＞＞４ （８－１１８１）
変数ｒｅｆＰおよびｒｅｆＱは、以下のように導出される。
ｒｅｆＰ＝（ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔＰ＋ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１＋１）＞＞１ （８－１１８２）
ｒｅｆＱ＝（ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔＱ＋ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１＋１）＞＞１ （８－１１８３）
変数ｆｉおよびｔＣＰＤｉは、以下のように規定される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、７に等しい場合、以下が適用される。
ｆ０．．６＝｛５９，５０，４１，３２，２３，１４，５｝ （８－１１８４）
ｔＣＰＤ０．．６＝｛６，５，４，３，２，１，１｝ （８－１１８５）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、５に等しい場合、以下が適用される。
ｆ０．．４＝｛５８，４５，３２，１９，６｝ （８－１１８６）
ｔＣＰＤ０．．４＝｛６，５，４，３，２｝ （８－１１８７）
－ さもなければ、以下が適用される。
ｆ０．．２＝｛５３，３２，１１｝ （８－１１８８）
ｔＣＰＤ０．．２＝｛６，４，２｝ （８－１１８９）
変数ｇｊおよびｔＣＱＤｊは、以下のように規定される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、以下が適用される。
ｇ０．．６＝｛５９，５０，４１，３２，２３，１４，５｝ （８－１１９０）
ｔＣＱＤ０．．６＝｛６，５，４，３，２，１，１｝ （８－１１９１）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、以下が適用される。
ｇ０．．４＝｛５８，４５，３２，１９，６｝ （８－１１９２）
ｔＣＱＤ０．．４＝｛６，５，４，３，２｝ （８－１１９３）
－ さもなければ、以下が適用される。
ｇ０．．２＝｛５３，３２，１１｝ （８－１１９４）
ｔＣＱＤ０．．２＝｛６，４，２｝ （８－１１９５）
ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’は、以下のように導出される。
ｐｉ’＝Ｃｌｉｐ３（ｐｉ－（ｔＣ＊ｔＣＰＤｉ）＞＞１，ｐｉ＋（ｔＣ＊ｔＣＰＤｉ）＞＞１，（ｒｅｆＭｉｄｄｌｅ＊ｆｉ＋ｒｅｆＰ＊（６４－ｆｉ）＋３２）＞＞６） （８－１１９６）
ｑｊ’＝Ｃｌｉｐ３（ｑｊ－（ｔＣ＊ｔＣＱＤｊ）＞＞１，ｑｊ＋（ｔＣ＊ｔＣＱＤｊ）＞＞１，（ｒｅｆＭｉｄｄｌｅ＊ｇｊ＋ｒｅｆＱ＊（６４－ｇｊ）＋３２）＞＞６） （８－１１９７）
以下の条件、すなわち、
－ サンプルｐｉを含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい、
－ サンプルｐｉを含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい、
のうちの１つまたは複数が真であるとき、フィルタ処理されたサンプル値（ｐｉ’）は、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の、対応する入力サンプル値ｐｉによって置換される。
以下の条件、すなわち、
－ サンプルｑｉを含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい、
－ サンプルｑｉを含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい、
のうちの１つまたは複数が真であるとき、フィルタ処理されたサンプル値（ｑｉ’）は、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の、対応する入力サンプル値ｑｊによって置換される。
．．．
８．８．３．６．１ ルーマブロックエッジのための決定プロセス
．．．
以下の順序付きステップが適用される。
１．変数ｄｐ０、ｄｐ３、ｄｑ０およびｄｑ３は、以下のように導出される。
ｄｐ０＝Ａｂｓ（ｐ２，０－２＊ｐ１，０＋ｐ０，０） （８－１０７７）
ｄｐ３＝Ａｂｓ（ｐ２，３－２＊ｐ１，３＋ｐ０，３） （８－１０７８）
ｄｑ０＝Ａｂｓ（ｑ２，０－２＊ｑ１，０＋ｑ０，０） （８－１０７９）
ｄｑ３＝Ａｂｓ（ｑ２，３－２＊ｑ１，３＋ｑ０，３） （８－１０８０）
２．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、両方とも３に等しいかまたは３よりも大きいとき、変数ｓｐ０、ｓｑ０、ｓｐｑ０、ｓｐ３、ｓｑ３およびｓｐｑ３は、以下のように導出される。
ｓｐ０＝Ａｂｓ（ｐ３，０－ｐ０，０） （８－１０８１）
ｓｑ０＝Ａｂｓ（ｑ０，０－ｑ３，０） （８－１０８２）
ｓｐｑ０＝Ａｂｓ（ｐ０，０－ｑ０，０） （８－１０８３）
ｓｐ３＝Ａｂｓ（ｐ３，３－ｐ０，３） （８－１０８４）
ｓｑ３＝Ａｂｓ（ｑ０，３－ｑ３，３） （８－１０８５）
ｓｐｑ３＝Ａｂｓ（ｐ０，３－ｑ０，３） （８－１０８６）
３．変数ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
４．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、３よりも大きいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは、１に等しく設定される。
５．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３よりも大きいとき、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、１に等しく設定される。
６．ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しく、（ｙＣｂ＋ｙＢｌ）％ＣｔｂＳｉｚｅＹが０に等しいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
７．変数ｄＳａｍ０およびｄＳａｍ３は、０に初期化される。
８．ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋまたはｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、０よりも大きいとき、以下が適用される。
ａ．以下のように、変数ｄｐ０Ｌ、ｄｐ３Ｌは導出され、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰは修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しい場合、以下が適用される。
ｄｐ０Ｌ＝（ｄｐ０＋Ａｂｓ（ｐ５，０－２＊ｐ４，０＋ｐ３，０）＋１）＞＞１ （８－１０８７）
ｄｐ３Ｌ＝（ｄｐ３＋Ａｂｓ（ｐ５，３－２＊ｐ４，３＋ｐ３，３）＋１）＞＞１ （８－１０８８）
－ さもなければ、以下が適用される。
ｄｐ０Ｌ＝ｄｐ０ （８－１０８９）
ｄｐ３Ｌ＝ｄｐ３ （８－１０９０）
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝３ （８－１０９１）
ｂ．変数ｄｑ０Ｌおよびｄｑ３Ｌは、以下のように導出される。
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しい場合、以下が適用される。
ｄｑ０Ｌ＝（ｄｑ０＋Ａｂｓ（ｑ５，０－２＊ｑ４，０＋ｑ３，０）＋１）＞＞１ （８－１０９２）
ｄｑ３Ｌ＝（ｄｑ３＋Ａｂｓ（ｑ５，３－２＊ｑ４，３＋ｑ３，３）＋１）＞＞１ （８－１０９３）
－ さもなければ、以下が適用される。
ｄｑ０Ｌ＝ｄｑ０ （８－１０９４）
ｄｑ３Ｌ＝ｄｑ３ （８－１０９５）
ｃ．変数ｄｐｑ０Ｌ、ｄｐｑ３Ｌ、およびｄＬは、以下のように導出される。
ｄｐｑ０Ｌ＝ｄｐ０Ｌ＋ｄｑ０Ｌ （８－１０９６）
ｄｐｑ３Ｌ＝ｄｐ３Ｌ＋ｄｑ３Ｌ （８－１０９７）
ｄＬ＝ｄｐｑ０Ｌ＋ｄｐｑ３Ｌ （８－１０９８）
ｄ．ｄＬが、βよりも小さいとき、以下の順序付きステップが適用される。
ｉ．変数ｄｐｑは、２＊ｐｑ０Ｌに等しく設定される。
ｉｉ．変数ｓｐはｓｐ０に等しく設定され、変数ｓｑはｓｑ０に等しく設定され、変数ｓｐｑはｓｐｑ０に等しく設定される。
ｉｉｉ．変数ｐ０、ｐ３、ｑｏおよびｑ３は、まず、０に初期化され、次いで、以下のようにｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｐ３＝ｐ３，０ （８－１０９９）
ｐ０＝ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ，０ （８－１１００）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｑ３＝ｑ３，０ （８－１１０１）
ｑ０＝ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，０ （８－１１０２）
ｉｖ．サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、サンプル値ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ０に割り振られる。
ｖ．変数ｄｐｑは、２＊ｄｐｑ３Ｌに等しく設定される。
ｖｉ．変数ｓｐはｓｐ３に等しく設定され、変数ｓｑはｓｑ３に等しく設定され、変数ｓｐｑはｓｐｑ３に等しく設定される。
ｖｉｉ．変数ｐ０、ｐ３、ｑ０およびｑ３は、まず、０に初期化され、次いで、以下のようにｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｐ３＝ｐ３，３ （８－１１０３）
ｐ０＝ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ，３ （８－１１０４）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｑ３＝ｑ３，３ （８－１１０５）
ｑ０＝ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，３ （８－１１０６）
ｖｉｉｉ．ｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてＥＤＧＥ＿ＶＥＲに等しいとき、またはｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてＥＤＧＥ＿ＨＯＲに等しいとき、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、サンプル値ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ３に割り振られる。
９．変数ｄＥ、ｄＥｐおよびｄＥｑは、以下のように導出される。
－ ｄＳａｍ０およびｄＳａｍ３が、両方とも１に等しい場合、変数ｄＥは３に等しく設定され、ｄＥｐは１に等しく設定され、ｄＥｑは１に等しく設定される。
－ さもなければ、以下の順序付きステップが適用される。
ａ．変数ｄｐｑ０、ｄｐｑ３、ｄｐ、ｄｑおよびｄは、以下のように導出される。
ｄｐｑ０＝ｄｐ０＋ｄｑ０ （８－１１０７）
ｄｐｑ３＝ｄｐ３＋ｄｑ３ （８－１１０８）
ｄｐ＝ｄｐ０＋ｄｐ３ （８－１１０９）
ｄｑ＝ｄｑ０＋ｄｑ３ （８－１１１０）
ｄ＝ｄｐｑ０＋ｄｐｑ３ （８－１１１１）
ｂ．変数ｄＥ、ｄＥｐ、ｄＥｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋおよびｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは、０に等しく設定される。
ｃ．ｄがβよりも小さく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱの両方が２よりも大きいとき、以下の順序付きステップが適用される。
ｉ．変数ｄｐｑは、２＊ｄｐｑ０に等しく設定される。
ｉｉ．変数ｓｐはｓｐ０に等しく設定され、変数ｓｑはｓｑ０に等しく設定され、変数ｓｐｑはｓｐｑ０に等しく設定される。
ｉｉｉ．サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、節８．８．３．６．５において規定されているルーマサンプルのための決定プロセスが、すべて０に等しく設定された変数ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ０に割り振られる。
ｉｖ．変数ｄｐｑは、２＊ｄｐｑ３に等しく設定される。
ｖ．変数ｓｐはｓｐ３に等しく設定され、変数ｓｑはｓｑ３に等しく設定され、変数ｓｐｑはｓｐｑ３に等しく設定される。
ｖｉ．ｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてＥＤＧＥ＿ＶＥＲに等しいとき、またはｅｄｇｅＴｙｐｅが、サンプルロケーション（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてＥＤＧＥ＿ＨＯＲに等しいとき、節８．８．３．６．５において規定されているサンプルのための決定プロセスが、すべて０に等しく設定された変数ｐ０、ｐ３、ｑ０、ｑ３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣを入力として、呼び出され、出力は、決定ｄＳａｍ３に割り振られる。
ｄ．ｄが、βよりも小さいとき、以下の順序付きステップが適用される。
ｉ．変数ｄＥは、１に等しく設定される。
ｉｉ．ｄＳａｍ０が１に等しく、ｄＳａｍ３が１に等しいとき、変数ｄＥは、２に等しく設定される。
ｉｉｉ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｐが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｐは、１に等しく設定される。
ｉｖ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｑが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｑは、１に等しく設定される。
．．．
ｅｄｇｅＴｙｐｅの値に応じて、以下が適用される。
－ ｅｄｇｅＴｙｐｅが、ＥＤＧＥ＿ＶＥＲに等しい場合、以下の順序付きステップが適用される。
．．．
３．ｄＥが、ｋ＝０．．３である各サンプルロケーション（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｋ）について３に等しいとき、以下の順序付きステップが適用される。
ａ．節８．８．３．６．７において規定されている長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセスが、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉ，ｋ、ｑｊ，ｋと、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の（ｘＣｂ＋ｘＢｌ－ｉ－１，ｙＣｂ＋ｙＢｌ＋ｋ）に等しく設定されたロケーション（ｘＰｉ，ｙＰｉ）およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の（ｘＣｂ＋ｘＢｌ＋ｊ，ｙＣｂ＋ｙＢｌ＋ｋ）に等しく設定されたロケーション（ｘＱｊ，ｙＱｊ）と、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱおよびｔＣとを入力として、ならびにフィルタ処理されたサンプル値ｐｉ’およびｑｊ’を出力として、呼び出される。
ｂ．ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１のフィルタ処理されたサンプル値ｐｉ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ－ｉ－１］［ｙＣｂ＋ｙＢｌ＋ｋ］＝ｐｉ’ （８－１１１６）
ｃ．ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｑｊ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｊ］［ｙＣｂ＋ｙＢｌ＋ｋ］＝ｑｊ’ （８－１１１７）
．．．
－ さもなければ（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい）、以下の順序付きステップが適用される。
．．．
３．ｄＥが、ｋ＝０．．３である各サンプルロケーション（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ）について３に等しいとき、以下の順序付きステップが適用される。
ａ．節８．８．３．６．７において規定されている長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセスが、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉ，ｋ、ｑｊ，ｋと、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ－ｉ－１）に等しく設定されたロケーション（ｘＰｉ，ｙＰｉ）およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ＋ｊ）に等しく設定されたロケーション（ｘＱｊ，ｙＱｊ）と、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、および変数ｔＣとを入力として、ならびにフィルタ処理されたサンプル値ｐｉ’およびｑｊ’を出力として、呼び出される。
ｂ．ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１のフィルタ処理されたサンプル値ｐｉ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｋ］［ｙＣｂ＋ｙＢｌ－ｉ－１］＝ｐｉ’ （８－１１２２）
ｃ．ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｑｊ’は、以下のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置き換える。
ｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＢｌ＋ｋ］［ｙＣｂ＋ｙＢｌ＋ｊ］＝ｑｊ’ （８－１１２３）
．．．
８．８．３．６．５ ルーマサンプルのための決定プロセス
このプロセスへの入力は、
－ サンプル値ｐ０、ｐ３、ｑ０およびｑ３、
－ 変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、βおよびｔＣ、
である。
このプロセスの出力は、決定を含んでいる変数ｄＳａｍである。
変数ｓｐおよびｓｑは、以下のように修正される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｓｐ＝（ｓｐ＋Ａｂｓ（ｐ３－ｐ０）＋１）＞＞１ （８－１１５８）
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、１に等しいとき、以下が適用される。
ｓｑ＝（ｓｑ＋Ａｂｓ（ｑ３－ｑ０）＋１）＞＞１ （８－１１５９）
変数ｓＴｈｒは、以下のように導出される。
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいか、またはｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しい場合、以下が適用される。
ｓＴｈｒ＝３＊β＞＞５ （８－１１６０）
－ さもなければ、以下が適用される。
ｓＴｈｒ＝β＞＞３ （８－１１６１）
変数ｄＳａｍは、以下のように規定される。
－ 以下の条件、すなわち、
－ ｄｐｑは、（β＞＞２）よりも小さい、
－ ｓｐ＋ｓｑは、ｓＴｈｒよりも小さい、
－ ｓｐｑは、（５＊ｔＣ＋１）＞＞１よりも小さい、
のうちのすべてが真である場合、ｄＳａｍは、１に等しく設定される。
－ さもなければ、ｄＳａｍは、０に等しく設定される。
．．．
８．８．３．６．６ 短いフィルタを使用するルーマサンプルのためのフィルタ処理プロセス
このプロセスへの入力は、
－ ｉ＝０．．３のサンプル値ｐｉおよびｑｉ、
－ ｉ＝０．．２のｐｉおよびｑｉのロケーション、すなわち、（ｘＰｉ，ｙＰｉ）および（ｘＱｉ，ｙＱｉ）、
－ 変数ｄＥ、
－ それぞれサンプルｐ１およびｑ１をフィルタ処理するという決定を含んでいる変数ｄＥｐおよびｄＥｑ、
－ 変数ｔＣ、
である。
このプロセスの出力は、
－ フィルタ処理されたサンプルｎＤｐおよびｎＤｑの数、
－ ｉ＝０．．ｎＤｐ－１、ｊ＝０．．ｎＤｑ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’、
である。
ｄＥの値に応じて、以下が適用される。
－ 変数ｄＥが、２に等しい場合、ｎＤｐおよびｎＤｑは、両方とも３に等しく設定され、以下の強いフィルタ処理が適用される。
ｐ０’＝Ｃｌｉｐ３（ｐ０－３＊ｔＣ，ｐ０＋３＊ｔＣ，（ｐ２＋２＊ｐ１＋２＊ｐ０＋２＊ｑ０＋ｑ１＋４）＞＞３） （８－１１６２）
ｐ１’＝Ｃｌｉｐ３（ｐ１－２＊ｔＣ，ｐ１＋２＊ｔＣ，（ｐ２＋ｐ１＋ｐ０＋ｑ０＋２）＞＞２） （８－１１６３）
ｐ２’＝Ｃｌｉｐ３（ｐ２－１＊ｔＣ，ｐ２＋１＊ｔＣ，（２＊ｐ３＋３＊ｐ２＋ｐ１＋ｐ０＋ｑ０＋４）＞＞３） （８－１１６４）
ｑ０’＝Ｃｌｉｐ３（ｑ０－３＊ｔＣ，ｑ０＋３＊ｔＣ，（ｐ１＋２＊ｐ０＋２＊ｑ０＋２＊ｑ１＋ｑ２＋４）＞＞３） （８－１１６５）
ｑ１’＝Ｃｌｉｐ３（ｑ１－２＊ｔＣ，ｑ１＋２＊ｔＣ，（ｐ０＋ｑ０＋ｑ１＋ｑ２＋２）＞＞２） （８－１１６６）
ｑ２’＝Ｃｌｉｐ３（ｑ２－１＊ｔＣ，ｑ２＋１＊ｔＣ，（ｐ０＋ｑ０＋ｑ１＋３＊ｑ２＋２＊ｑ３＋４）＞＞３） （８－１１６７）
－ さもなければ、ｎＤｐおよびｎＤｑは、両方とも０に等しく設定され、以下の弱いフィルタ処理が適用される。
－ 以下が適用される。
Δ＝（９＊（ｑ０－ｐ０）－３＊（ｑ１－ｐ１）＋８）＞＞４ （８－１１６８）
－ Ａｂｓ（Δ）が、ｔＣ＊１０よりも小さいとき、以下の順序付きステップが適用される。
－ フィルタ処理されたサンプル値ｐ０’およびｑ０’は、以下のように規定される。
Δ＝Ｃｌｉｐ３（－ｔＣ，ｔＣ，Δ） （８－１１６９）
ｐ０’＝Ｃｌｉｐ１Ｙ（ｐ０＋Δ） （８－１１７０）
ｑ０’＝Ｃｌｉｐ１Ｙ（ｑ０－Δ） （８－１１７１）
－ ｄＥｐが、１に等しいとき、フィルタ処理されたサンプル値ｐ１’は、以下のように規定される。
Δｐ＝Ｃｌｉｐ３（－（ｔＣ＞＞１），ｔＣ＞＞１，（（（ｐ２＋ｐ０＋１）＞＞１）－ｐ１＋Δ）＞＞１） （８－１１７２）
ｐ１’＝Ｃｌｉｐ１Ｙ（ｐ１＋Δｐ） （８－１１７３）
－ ｄＥｑが、１に等しいとき、フィルタ処理されたサンプル値ｑ１’は、以下のように規定される。
Δｑ＝Ｃｌｉｐ３（－（ｔＣ＞＞１），ｔＣ＞＞１，（（（ｑ２＋ｑ０＋１）＞＞１）－ｑ１－Δ）＞＞１） （８－１１７４）
ｑ１’＝Ｃｌｉｐ１Ｙ（ｑ１＋Δｑ） （８－１１７５）
－ ｎＤｐは、ｄＥｐ＋１に等しく設定され、ｎＤｑは、ｄＥｑ＋１に等しく設定される。
ｎＤｐが０よりも大きく、以下の条件のうちの１つまたは複数が真であるとき、ｎＤｐは、０に等しく設定される
－ サンプルｐ０を含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい。
－ サンプルｐ０を含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい。
ｎＤｑが０よりも大きく、以下の条件のうちの１つまたは複数が真であるとき、ｎＤｑは、０に等しく設定される。
－ サンプルｑ０を含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい。
－ サンプルｑ０を含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい。
８．８．３．６．７ 長いフィルタを使用するルーマサンプルのためのフィルタ処理プロセス
このプロセスへの入力は、
－ 変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱのサンプル値ｐｉおよびｑｊ、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のｐｉおよびｑｊのロケーション、すなわち、（ｘＰｉ，ｙＰｉ）および（ｘＱｊ，ｙＱｊ）、
－ 変数ｔＣ、
である。
このプロセスの出力は、
－ ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｈｔＱ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’
である。
変数ｒｅｆＭｉｄｄｌｅは、以下のように導出される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ４＋ｐ３＋２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２）＋ｑ３＋ｑ４＋８）＞＞４ （８－１１７６）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しくない場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ６＋ｐ５＋ｐ４＋ｐ３＋ｐ２＋ｐ１＋２＊（ｐ０＋ｑ０）＋ｑ１＋ｑ２＋ｑ３＋ｑ４＋ｑ５＋ｑ６＋８）＞＞４ （８－１１７７）
－ さもなければ、以下の条件、すなわち、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しい、
のうちの１つが真である場合、
以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ４＋ｐ３＋２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２）＋ｑ３＋ｑ４＋８）＞＞４ （８－１１７８）
－ さもなければ、以下の条件、すなわち、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい、
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが３に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい、
のうちの１つが真である場合、
以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ３＋ｐ２＋ｐ１＋ｐ０＋ｑ０＋ｑ１＋ｑ２＋ｑ３＋４）＞＞３ （８－１１７９）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい場合、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（２＊（ｐ２＋ｐ１＋ｐ０＋ｑ０）＋ｐ０＋ｐ１＋ｑ１＋ｑ２＋ｑ３＋ｑ４＋ｑ５＋ｑ６＋８）＞＞４ （８－１１８０）
－ さもなければ、以下が適用される。
ｒｅｆＭｉｄｄｌｅ＝（ｐ６＋ｐ５＋ｐ４＋ｐ３＋ｐ２＋ｐ１＋２＊（ｑ２＋ｑ１＋ｑ０＋ｐ０）＋ｑ０＋ｑ１＋８）＞＞４ （８－１１８１）
変数ｒｅｆＰおよびｒｅｆＱは、以下のように導出される。
ｒｅｆＰ＝（ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔＰ＋ｐｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１＋１）＞＞１ （８－１１８２）
ｒｅｆＱ＝（ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔＱ＋ｑｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１＋１）＞＞１ （８－１１８３）
変数ｆｉおよびｔＣＰＤｉは、以下のように規定される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、７に等しい場合、以下が適用される。
ｆ０．．６＝｛５９，５０，４１，３２，２３，１４，５｝ （８－１１８４）
ｔＣＰＤ０．．６＝｛６，５，４，３，２，１，１｝ （８－１１８５）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、５に等しい場合、以下が適用される。
ｆ０．．４＝｛５８，４５，３２，１９，６｝ （８－１１８６）
ｔＣＰＤ０．．４＝｛６，５，４，３，２｝ （８－１１８７）
－ さもなければ、以下が適用される。
ｆ０．．２＝｛５３，３２，１１｝ （８－１１８８）
ｔＣＰＤ０．．２＝｛６，４，２｝ （８－１１８９）
変数ｇｊおよびｔＣＱＤｊは、以下のように規定される。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、以下が適用される。
ｇ０．．６＝｛５９，５０，４１，３２，２３，１４，５｝ （８－１１９０）
ｔＣＱＤ０．．６＝｛６，５，４，３，２，１，１｝ （８－１１９１）
－ さもなければ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、以下が適用される。
ｇ０．．４＝｛５８，４５，３２，１９，６｝ （８－１１９２）
ｔＣＱＤ０．．４＝｛６，５，４，３，２｝ （８－１１９３）
－ さもなければ、以下が適用される。
ｇ０．．２＝｛５３，３２，１１｝ （８－１１９４）
ｔＣＱＤ０．．２＝｛６，４，２｝ （８－１１９５）
ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１およびｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１のフィルタ処理されたサンプル値ｐｉ’およびｑｊ’は、以下のように導出される。
ｐｉ’＝Ｃｌｉｐ３（ｐｉ－（ｔＣ＊ｔＣＰＤｉ）＞＞１，ｐｉ＋（ｔＣ＊ｔＣＰＤｉ）＞＞１，（ｒｅｆＭｉｄｄｌｅ＊ｆｉ＋ｒｅｆＰ＊（６４－ｆｉ）＋３２）＞＞６） （８－１１９６）
ｑｊ’＝Ｃｌｉｐ３（ｑｊ－（ｔＣ＊ｔＣＱＤｊ）＞＞１，ｑｊ＋（ｔＣ＊ｔＣＱＤｊ）＞＞１，（ｒｅｆＭｉｄｄｌｅ＊ｇｊ＋ｒｅｆＱ＊（６４－ｇｊ）＋３２）＞＞６） （８－１１９７）
以下の条件、すなわち、
－ サンプルｐｉを含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい、
－ サンプルｐｉを含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい、
のうちの１つまたは複数が真であるとき、フィルタ処理されたサンプル値（ｐｉ’）は、ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１の、対応する入力サンプル値ｐｉによって置換される。
以下の条件、すなわち、
－ サンプルｑｉを含んでいるコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇは、１に等しい、
－ サンプルｑｉを含んでいるコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇは、１に等しい、
のうちの１つまたは複数が真であるとき、フィルタ処理されたサンプル値（ｑｉ’）は、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１の、対応する入力サンプル値ｑｊによって置換される。
．．．
【0014】
－－抜粋終了－－
【発明の概要】
【0015】
いくらかの課題が存在する。たとえば、１つまたは２つの側での７サンプルフィルタ処理のための長いフィルタ決定は、ブロックＰのサンプルｐ６またはブロックＱのｑ６のいずれも考慮に入れず、これは、長いフィルタ処理を、そのような長いフィルタ処理が、ｐ６および／またはｑ６を修正することによって画像品質を低減する（たとえば、自然テクスチャーを破壊する）という事実にかかわらず可能にすることがある。
【0016】
ここで、以下は、現在の長いフィルタ決定が、まったく無視し、これにより、自然テクスチャーを削除するデブロッキングを適用し得る、ブロックＰ（ｐ０～ｐ７）とブロックＱ（ｑ０～ｑ７）との間の境界にわたるサンプル値の例であり、ここで、ｐ０およびｑ０は境界に隣接する。
【0017】
サンプル：ｐ７ ｐ６ ｐ５ ｐ４ ｐ３ ｐ２ ｐ１ ｐ０｜ｑ０ ｑ１ ｑ２ ｑ３ ｑ４ ｑ５ ｑ６ ｑ７
【0018】
サンプルｐ６およびｑ６が、例１中に示されているように隣接サンプルよりも大きいまたは小さい場合のｐ６またはｑ６におけるピークは、検出されないことがある。
【0019】
例１ １０ ０ １０ １０ １０ １０ １０ １０｜１０ １０ １０ １０ １０ １０ ０ １０
【0020】
ｐ４、ｐ５、ｐ６、ｑ４、ｑ５およびｑ６が、例２中に示されているように隣接サンプルよりも大きいまたは小さい場合のサンプルｐ５またはｑ５におけるピークは、検出されないことがある。
【0021】
例２ １０ ２０ ３０ ２０ １０ １０ １０ １０｜１０ １０ １０ １０ ２０ ３０ ２０ １０
【0022】
この問題を克服するために、本開示は、ＶＶＣにおける長いフィルタ決定が、サンプルｐ６またはｑ６を少なくとも含む少なくとも１つの勾配検査を加えることによって修正された、実施形態を提案する。これは、サンプルｐ６またはｑ６において何らかの自然構造があるとき、長いフィルタを使用することを回避することを可能にする。１つの特定の実施形態では、ｑ６およびｐ６の両方を含む少なくとも２つの勾配検査が、加えられる。別の実施形態では、ｄｐｑしきい値は、ベータ＞＞２からベータ＞＞４に修正される。このしきい値変更実施形態は、ｐ６および／またはｑ６を含む勾配検査が、長いフィルタ決定に加えられる実施形態と併せてまたはその実施形態の代わりに使用され得る。提案される実施形態の利点は、提案される実施形態が、ユーザに表示される画像の品質を増加させる（たとえば、提案される実施形態が、細いラインを削除するかまたは細いラインを不鮮明にすることを回避する）ことである。
【0023】
それゆえに、一態様では、画像に関連するサンプル値をフィルタ処理するための方法（４００）が提供される。方法は、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことを含む。方法は、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定する（ｓ４０４）ことをも含む。サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、サンプル値Ｂ１＿６，０を使用して第１の勾配値（ｍａｘＧｒａｄＢ１＿６，０）を計算する（ｓ５０２）ことと、ｍａｘＧｒａｄＢ１＿６，０を使用して第１のｐｑ値（ｐｑ１＿０）を計算する（ｓ５０４）ことと、ｐｑ１＿０をしきい値と比較する（ｓ５０８）こととを備える。別の態様では、この方法を実施するように設定された装置が提供される。
【0024】
別の態様では、画像に関連するサンプル値をフィルタ処理するための方法（４００）が提供される。方法は、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことを含む。方法は、フィルタを選択する（ｓ４０４）ことをも含む。フィルタを選択することは、Ａｂｓ（Ｂ１＿２，０－２＊Ｂ１＿１，０＋Ｂ１＿０，０）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，０－２＊Ｂ２＿１，０＋Ｂ２＿０，０）に等しい第２の値とを少なくとも使用して、第１のｐｑ値（ｐｑ２＿０）を計算する（ｓ５０４）ことと、ｐｑ２＿０をしきい値と比較する（ｓ５０８）ことであって、しきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ２＿０をしきい値と比較する（ｓ５０８）こととを備える。別の態様では、この方法を実施するように設定された装置が提供される。
【0025】
別の態様では、画像に関連するサンプル値をフィルタ処理するための方法が提供される。方法は、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことを含む。方法は、フィルタを選択する（ｓ４０４）ことをも含む。フィルタを選択することは、ｉ）第１のｐｑ値（ｐｑ１＿０）を計算することであって、ｐｑ１＿０を計算することが、値ｓｐを計算すること、値ｓｑを計算すること、およびｓｐ＋ｓｑを計算することを備え、ｐｑ１＿０＝（ｓｐ＋ｓｑ）である、第１のｐｑ値（ｐｑ１＿０）を計算することと、ｉｉ）ｐｑ１＿０を第１のしきい値と比較することと、ｉｉｉ）Ａｂｓ（Ｂ１＿２，０－２＊Ｂ１＿１，０＋Ｂ１＿０，０）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，０－２＊Ｂ２＿１，０＋Ｂ２＿０，０）に等しい第２の値とを少なくとも使用して、第２のｐｑ値（ｐｑ２＿０）を計算する（ｓ５０４）ことと、ｉｖ）ｐｑ２＿０を第２のしきい値と比較する（ｓ５０８）ことであって、第２のしきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ２＿０を第２のしきい値と比較する（ｓ５０８）こととを備える。別の態様では、この方法を実施するように設定された装置が提供される。
【図面の簡単な説明】
【0026】
【図1】実施形態による、ビデオエンコーダの概略ブロック図である。
【図2】実施形態による、ビデオデコーダの概略ブロック図である。
【図3】（Ｐブロックと表わされる）第１のブロックと（Ｑブロックと表わされる）第２のブロックとの間の境界を図示する図である。
【図4】実施形態による、プロセスを図示するフローチャートである。
【図5】実施形態による、プロセスを図示するフローチャートである。
【図6】実施形態による、装置のブロック図である。
【図7】実施形態による、装置の機能ブロック図である。
【発明を実施するための形態】
【0027】
本明細書で説明される実施形態は、垂直および／または水平ブロック境界をデブロックするために、ビデオエンコーダまたはビデオデコーダにおいて使用され得る。実施形態は、垂直および／または水平ブロック境界をデブロックするために、画像エンコーダまたは画像デコーダにも適用される。
【0028】
図１は、いくつかの実施形態による、ビデオシーケンスの（フレームとも呼ばれる）ビデオ画像中のピクセルのブロックを符号化するためのビデオエンコーダ１４０の概略ブロック図である。
【0029】
ピクセルの現在のブロックが、同じフレーム中のまたは前のフレーム中のピクセルのすでに提供されたブロックから、動き推定器１５０を使用して動き推定を実施することによって予測される。動き推定の結果は、インター予測の場合、参照ブロックに関連する動きまたは変位ベクトルである。動きベクトルは、ピクセルのブロックのインター予測を出力するために動き補償器１５０によって使用され得る。
【0030】
イントラ予測器１４９は、ピクセルの現在のブロックのイントラ予測を算出する。動き推定器／補償器１５０およびイントラ予測器１４９からの出力は、ピクセルの現在のブロックについてイントラ予測またはインター予測のいずれかを選択するセレクタ１５１中に入力される。セレクタ１５１からの出力は、ピクセルの現在のブロックのピクセル値をも受信する、加算器１４１の形態の誤差計算器に入力される。加算器１４１は、ピクセルのブロックと、ピクセルのブロックの予測との間のピクセル値の差として、残余誤差を計算および出力する。
【0031】
誤差は、離散コサイン変換などによって、変換器１４２において変換され、量子化器１４３によって量子化され、その後に、エントロピーエンコーダなどによる、エンコーダ１４４におけるコーディングが続く。インターコーディングでは、推定された動きベクトルも、ピクセルの現在のブロックのコーディングされた表現を生成するために、エンコーダ１４４にもたらされる。
【0032】
また、ピクセルの現在のブロックのための変換および量子化された残余誤差が、元の残余誤差を取り出すために、逆量子化器１４５および逆方向変換器１４６に提供される。この誤差は、ピクセルの次のブロックの予測およびコーディングにおいて使用され得るピクセルの参照ブロックを作成するために、動き補償器１５０またはイントラ予測器１４９から出力されたブロック予測に加算器１４７によって加算される。この新しい参照ブロックは、まず、ブロッキングアーティファクトを低減／除去するためにデブロッキングフィルタ処理を実施するために、以下で考察される例／実施形態に従ってデブロッキングフィルタ１００によって処理される。次いで、処理された新しい参照ブロックは、フレームバッファ１４８に一時的に記憶され、フレームバッファ１４８において、処理された新しい参照ブロックは、イントラ予測器１４９および動き推定器／補償器１５０にとって利用可能である。
【0033】
図２は、いくつかの実施形態による、デブロッキングフィルタ１００を含むビデオデコーダ２６０の対応する概略ブロック図である。デコーダ２６０は、量子化および変換された残余誤差のセットを得るためにピクセルのブロックの符号化された表現をデコードするために、エントロピーデコーダなど、デコーダ２６１を含む。これらの残余誤差は、残余誤差のセットを提供するために、逆量子化器２６２によって逆量子化され、逆方向変換器２６３によって逆方向変換される。
【0034】
これらの残余誤差は、ピクセルの参照ブロックのピクセル値に加算器２６４によって加算される。参照ブロックは、インター予測が実施されるのか、イントラ予測が実施されるのかに応じて、動き推定器／補償器２６７またはイントラ予測器２６６によって決められる。それにより、セレクタ２６８が、加算器２６４および動き推定器／補償器２６７およびイントラ予測器２６６に相互接続される。加算器２６４から出力されたピクセルの得られたデコードされたブロックは、ブロッキングアーティファクトのデブロッキングフィルタ処理を提供するために、発明的概念のいくつかの実施形態による、デブロッキングフィルタ１００に入力される。ピクセルのフィルタ処理されたブロックは、デコーダ２６０から出力され、さらに、デコードされるべきピクセルの後続のブロックのためのピクセルの参照ブロックとして使用されるようにフレームバッファ２６５に一時的に提供され得る。フレームバッファ２６５は、それにより、動き推定器／補償器２６７に接続され、ピクセルの記憶されたブロックを動き推定器／補償器２６７にとって利用可能にする。
【0035】
加算器２６４からの出力はまた、イントラ予測器２６６に入力され、ピクセルのフィルタ処理されていない参照ブロックとして使用され得る。
【0036】
図１および図２の実施形態では、デブロッキングフィルタ１００は、いわゆるループ内フィルタ処理としてデブロッキングフィルタ処理を実施し得る。デコーダ２６０における代替実施形態では、デブロッキングフィルタ１００は、いわゆる後処理フィルタ処理を実施するように配列され得る。そのような場合では、デブロッキングフィルタ１００は、加算器２６４、フレームバッファ２６５、イントラ予測器２６６、動き推定器／補償器２６７、およびセレクタ２６８によって形成されたループの外部で出力フレームに対して動作する。そのような実施形態では、デブロッキングフィルタ処理は、一般に、エンコーダにおいて行われない。デブロッキングフィルタ１００の動作は、以下でさらに詳細に考察される。
【0037】
ブロック境界の少なくとも１つの側で修正され得るサンプルの最大数が、７つのサンプルであると決められ、境界強度が、サンプルの１つのラインについて０を超えると決められたとき、長いフィルタ決定は、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しい場合、ブロックＰ中のサンプル値ｐ６を使用して（「ｍａｇＧｒａｄｐ６」と表わされる）勾配値（たとえば、勾配の大きさ）を決めることに基づき、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しい場合、ブロックＱ中のサンプル値ｑ６を使用して（「ｍａｇＧｒａｄｑ６」と表わされる）勾配値を決めることに基づく。
【0038】
一実施形態では、ｍａｇＧｒａｄｐ６を計算することは、ｐ６を使用して、ならびにｐ３、ｐ４、ｐ５、およびｐ７のうちの少なくとも１つを使用してｍａｇＧｒａｄｐ６を計算することを備え、ｍａｇＧｒａｄｑ６を計算することは、ｑ６を使用して、ならびにｑ３、ｑ４、ｑ５、およびｑ７のうちの少なくとも１つを使用してｍａｇＧｒａｄｑ６を計算することを備える。
【0039】
代替形態１
【0040】
ｍａｇＧｒａｄｐ６値は、サンプルｐ０、ｐ３およびｐ７を少なくとも含む他の勾配算出に加えられる。たとえば、値ｓｐは、次のように計算される。
ｓｐ＝（Ａｂｓ（ｐ０－ｐ３）＋Ａｂｓ（ｐ３－ｐ７）＋ｍａｇＧｒａｄｐ６＋１）＞＞１
ｓｐ＝（Ａｂｓ（ｐ０－ｐ３）＋Ａｂｓ（ｐ３－ｐ７）＋ｍａｇＧｒａｄｐ６＋１）＞＞１
【0041】
ｍａｇＧｒａｄｑ６値は、サンプルｑ０、ｑ３およびｑ７を少なくとも含む他の勾配算出に加えられる。たとえば、値ｓｑは、次のように計算される。
ｓｑ＝（Ａｂｓ（ｑ０－ｑ３）＋Ａｂｓ（ｑ３－ｑ７）＋ｍａｇＧｒａｄｑ６＋１）＞＞１
ｓｑ＝（Ａｂｓ（ｑ０－ｑ３）＋Ａｂｓ（ｑ３－ｑ７）＋ｍａｇＧｒａｄｑ６＋１）＞＞１
【0042】
次いで、値ｓｐｑが算出され得、ここで、ｓｐｑ＝ｓｐ＋ｓｑである。
【0043】
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋Ａｂｓ（ｐ３－２＊ｐ４＋ｐ５）＋１）＞＞１
【0044】
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋Ａｂｓ（ｑ３－２＊ｑ４＋ｑ５）＋１）＞＞１
【0045】
代替形態２
【0046】
ｍａｇＧｒａｄｐ６値は、以下のように、５に等しいｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰの場合に算出された大きさを置き換える。
【0047】
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７である場合、
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋ｍａｇＧｒａｄｐ６＋１）＞＞１であり、さもなければ、
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋Ａｂｓ（ｐ３－２＊ｐ４＋ｐ５）＋１）＞＞１である。
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋ｍａｇＧｒａｄｐ６＋１）＞＞１であり、さもなければ、
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋Ａｂｓ（ｐ３－２＊ｐ４＋ｐ５）＋１）＞＞１である。
【0048】
ｍａｇＧｒａｄｑ６値は、以下のように、５に等しいｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱの場合に算出された大きさを置き換える。
【0049】
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７である場合、
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋ｍａｇＧｒａｄｑ６＋１）＞＞１であり、さもなければ、
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋Ａｂｓ（ｑ３－２＊ｑ４＋ｑ５）＋１）＞＞１である。
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋ｍａｇＧｒａｄｑ６＋１）＞＞１であり、さもなければ、
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋Ａｂｓ（ｑ３－２＊ｑ４＋ｑ５）＋１）＞＞１である。
【0050】
次いで、値（ｄｐｑ）が、ｄｐｑ＝ｄｑ＋ｄｐとして算出される。
【0051】
上記の代替形態１または代替形態２のいずれかの場合、一実施形態では、以下の３つの条件、すなわち、
（１）ｓｐｑ＜ｔｈｒｅｓｈｏｌｄ１、
（２）２＊ｄｐｑ＜ｔｈｒｅｓｈｏｌｄ２、および
（Ａｂｓ（ｐ０－ｑ０）＜ｔｈｒｅｓｈｏｌｄ３、
のうちのすべてが真である場合、長いフィルタを使用することが決定される。
（１）ｓｐｑ＜ｔｈｒｅｓｈｏｌｄ１、
（２）２＊ｄｐｑ＜ｔｈｒｅｓｈｏｌｄ２、および
（Ａｂｓ（ｐ０－ｑ０）＜ｔｈｒｅｓｈｏｌｄ３、
のうちのすべてが真である場合、長いフィルタを使用することが決定される。
【0052】
上記の条件のうちの１つまたは複数が真でない場合、長いフィルタは適用されず、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰおよびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱは、３以下である。
【0053】
一実施形態では、ｔｈｒｅｓｈｏｌｄ１＝ｓＴｈｒである（たとえば、（３＊ベータ）＞＞５である）。
【0054】
一実施形態では、ｔｈｒｅｓｈｏｌｄ２＝ベータ＞＞２であり、ここで、ベータは、テーブル８～１８中に上記で示されたように、量子化パラメータ値（Ｑ）に依存する。
【0055】
一実施形態では、ｔｈｒｅｓｈｏｌｄ３＝（５＊ｔＣ＋１）＞＞１であり、ここで、ｔＣは、テーブル８～１８中に上記で示されたように、量子化パラメータ値（Ｑ）に依存する。
【0056】
上記の代替形態１または代替形態２のいずれかの場合、一実施形態では、ｍａｇＧｒａｄｐ６は、Ａｂｓ（ｐ６－ｐ７）のように決められ、ｍａｇＧｒａｄｑ６は、Ａｂｓ（ｑ７－ｑ６）のように決められる。
【0057】
別の実施形態では、ｍａｇＧｒａｄｐ６は、Ａｂｓ（ｐ４－ｐ５－ｐ６＋ｐ７）に等しく、ｍａｇＧｒａｄｑ６は、Ａｂｓ（ｑ７－ｑ５－ｑ６＋ｑ４）に等しい。２つのサンプルの間の差から決められた勾配を用いる実施形態と比較して、この実施形態の１つの利点は、勾配の大きさを決めるためのこの手法が、ｐ０からｐ７までのまたはｑ０からｑ７までの増加または減少する値をもつ、ランプ、スロープに対して敏感に増加しないことである。
【0058】
別の実施形態では、ｍａｇＧｒａｄｐ６は、Ａｂｓ（ｐ４－２＊ｐ５＋ｐ６）に等しく、ｍａｇＧｒａｄｑ６は、Ａｂｓ（ｑ６－２＊ｑ５＋ｑ４）に等しい。２つのサンプルの間の差から決められた勾配を用いる実施形態と比較して、この実施形態の１つの利点は、勾配の大きさを決めるためのこの手法が、ｐ０からｐ７までのまたはｑ０からｑ７までの増加または減少する値をもつ、ランプ、スロープに対して敏感に増加しないことである。
【0059】
代替形態１の場合、仕様セクション８．８．３．６．１ 式８－１０８１、８－１０８２、８－１０８４、および８－１０８５は、以下、すなわち、
ｓｐ０＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？Ａｂｓ（ｐ３，０－ｐ０，０）＋ｍａｇＧｒａｄｐ６＿０：Ａｂｓ（ｐ３，０－ｐ０，０） （８－１０８１）、
ｓｑ０＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？Ａｂｓ（ｑ０，０－ｑ３，０）＋ｍａｇＧｒａｄｑ６＿０：Ａｂｓ（ｑ０，０－ｑ３，０） （８－１０８２）、
ｓｐ３＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？Ａｂｓ（ｐ３，３－ｐ０，３）＋ｍａｇＧｒａｄｐ６＿３：Ａｂｓ（ｐ３，３－ｐ０，３） （８－１０８４）、
ｓｑ３＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？Ａｂｓ（ｑ０，３－ｑ３，３）＋ｍａｇＧｒａｄｑ６＿３：Ａｂｓ（ｑ０，３－ｑ３，３） （８－１０８５）、ここで、
ｍａｇＧｒａｄｐ６＿０＝Ａｂｓ（ｐ７，０－ｐ６，０）または
Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）または
Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）、
ｍａｇＧｒａｄｐ６＿３＝Ａｂｓ（ｐ７，３－ｐ６，３）または
Ａｂｓ（ｐ７，３－ｐ６，３－ｐ５，３＋ｐ４，３）または
Ａｂｓ（ｐ６，３－２＊ｐ５，３＋ｐ４，３）、
ｍａｇＧｒａｄｑ６＿０＝Ａｂｓ（ｑ６，０－ｑ７，０）または
Ａｂｓ（ｑ４，０－ｑ６，０－ｑ５，０＋ｑ７，０）または
Ａｂｓ（ｑ４，０－２＊ｑ５，０＋ｑ６，０）、および
ｍａｇＧｒａｄｑ６＿３＝Ａｂｓ（ｑ６，３－ｑ７，３）または
Ａｂｓ（ｑ４，３－ｑ６，３－ｑ５，３＋ｑ７，３）または
Ａｂｓ（ｑ４，３－２＊ｑ５，３＋ｑ６，３）、
のように修正され得る。
ｓｐ０＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？Ａｂｓ（ｐ３，０－ｐ０，０）＋ｍａｇＧｒａｄｐ６＿０：Ａｂｓ（ｐ３，０－ｐ０，０） （８－１０８１）、
ｓｑ０＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？Ａｂｓ（ｑ０，０－ｑ３，０）＋ｍａｇＧｒａｄｑ６＿０：Ａｂｓ（ｑ０，０－ｑ３，０） （８－１０８２）、
ｓｐ３＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？Ａｂｓ（ｐ３，３－ｐ０，３）＋ｍａｇＧｒａｄｐ６＿３：Ａｂｓ（ｐ３，３－ｐ０，３） （８－１０８４）、
ｓｑ３＝ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？Ａｂｓ（ｑ０，３－ｑ３，３）＋ｍａｇＧｒａｄｑ６＿３：Ａｂｓ（ｑ０，３－ｑ３，３） （８－１０８５）、ここで、
ｍａｇＧｒａｄｐ６＿０＝Ａｂｓ（ｐ７，０－ｐ６，０）または
Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）または
Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）、
ｍａｇＧｒａｄｐ６＿３＝Ａｂｓ（ｐ７，３－ｐ６，３）または
Ａｂｓ（ｐ７，３－ｐ６，３－ｐ５，３＋ｐ４，３）または
Ａｂｓ（ｐ６，３－２＊ｐ５，３＋ｐ４，３）、
ｍａｇＧｒａｄｑ６＿０＝Ａｂｓ（ｑ６，０－ｑ７，０）または
Ａｂｓ（ｑ４，０－ｑ６，０－ｑ５，０＋ｑ７，０）または
Ａｂｓ（ｑ４，０－２＊ｑ５，０＋ｑ６，０）、および
ｍａｇＧｒａｄｑ６＿３＝Ａｂｓ（ｑ６，３－ｑ７，３）または
Ａｂｓ（ｑ４，３－ｑ６，３－ｑ５，３＋ｑ７，３）または
Ａｂｓ（ｑ４，３－２＊ｑ５，３＋ｑ６，３）、
のように修正され得る。
【0060】
代替形態２の場合、仕様セクション８．８．３．６．１ 式８－１０８７、８－１０８８、８－１０９２、および８－１０９３は、以下、すなわち、
ｄｐ０Ｌ＝（ｄｐ０＋（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？ｍａｇＧｒａｄｐ６＿０：Ａｂｓ（ｐ５，０－２＊ｐ４，０＋ｐ３，０））＋１）＞＞１ （８－１０８７）、
ｄｐ３Ｌ＝（ｄｐ３＋（ｍａｘＦｉｌｔｅｒＬＥｎｇｔｈＰ＝＝７？ｍａｇＧｒａｄｐ６＿３：Ａｂｓ（ｐ５，３－２＊ｐ４，３＋ｐ３，３））＋１）＞＞１ （８－１０８８）、
ｄｑ０Ｌ＝（ｄｑ０＋（ｍａｘＦｉｌｔｅｒＬＥｎｇｔｈＱ＝＝７？ｍａｇＧｒａｄｑ６＿０：Ａｂｓ（ｑ５，０－２＊ｑ４，０＋ｑ３，０））＋１）＞＞１ （８－１０９２）、
ｄｑ３Ｌ＝（ｄｑ３＋（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？ｍａｇＧｒａｄｑ６＿３：Ａｂｓ（ｑ５，３－２＊ｑ４，３＋ｑ３，３））＋１）＞＞１ （８－１０９３）、ここで、
ｍａｇＧｒａｄｐ６＿０＝Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）または
Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）、
ｍａｇＧｒａｄｐ６＿３＝Ａｂｓ（ｐ７，３－ｐ６，３－ｐ５，３＋ｐ４，３）または
Ａｂｓ（ｐ６，３－２＊ｐ５，３＋ｐ４，３）、
ｍａｇＧｒａｄｑ６＿０＝Ａｂｓ（ｑ４，０－ｑ６，０－ｑ５，０＋ｑ７，０）または
Ａｂｓ（ｑ４，０－２＊ｑ５，０＋ｑ６，０）、および
ｍａｇＧｒａｄｑ６＿３＝Ａｂｓ（ｑ４，３－ｑ６，３－ｑ５，３＋ｑ７，３）または
Ａｂｓ（ｑ４，３－２＊ｑ５，３＋ｑ６，３）、
のように修正され得る。
ｄｐ０Ｌ＝（ｄｐ０＋（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝＝７？ｍａｇＧｒａｄｐ６＿０：Ａｂｓ（ｐ５，０－２＊ｐ４，０＋ｐ３，０））＋１）＞＞１ （８－１０８７）、
ｄｐ３Ｌ＝（ｄｐ３＋（ｍａｘＦｉｌｔｅｒＬＥｎｇｔｈＰ＝＝７？ｍａｇＧｒａｄｐ６＿３：Ａｂｓ（ｐ５，３－２＊ｐ４，３＋ｐ３，３））＋１）＞＞１ （８－１０８８）、
ｄｑ０Ｌ＝（ｄｑ０＋（ｍａｘＦｉｌｔｅｒＬＥｎｇｔｈＱ＝＝７？ｍａｇＧｒａｄｑ６＿０：Ａｂｓ（ｑ５，０－２＊ｑ４，０＋ｑ３，０））＋１）＞＞１ （８－１０９２）、
ｄｑ３Ｌ＝（ｄｑ３＋（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ＝＝７？ｍａｇＧｒａｄｑ６＿３：Ａｂｓ（ｑ５，３－２＊ｑ４，３＋ｑ３，３））＋１）＞＞１ （８－１０９３）、ここで、
ｍａｇＧｒａｄｐ６＿０＝Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）または
Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）、
ｍａｇＧｒａｄｐ６＿３＝Ａｂｓ（ｐ７，３－ｐ６，３－ｐ５，３＋ｐ４，３）または
Ａｂｓ（ｐ６，３－２＊ｐ５，３＋ｐ４，３）、
ｍａｇＧｒａｄｑ６＿０＝Ａｂｓ（ｑ４，０－ｑ６，０－ｑ５，０＋ｑ７，０）または
Ａｂｓ（ｑ４，０－２＊ｑ５，０＋ｑ６，０）、および
ｍａｇＧｒａｄｑ６＿３＝Ａｂｓ（ｑ４，３－ｑ６，３－ｑ５，３＋ｑ７，３）または
Ａｂｓ（ｑ４，３－２＊ｑ５，３＋ｑ６，３）、
のように修正され得る。
【0061】
別の実施形態では、ｄｐｑしきい値（別名「ｔｈｒｅｓｈｏｌｄ２」）は、ｔｈｒｅｓｈｏｌｄ２が、ベータ＞＞２に等しい代わりに、ベータ＞＞４に等しいように修正される。この実施形態では、セクション８．８．３．６．５は、以下のように修正される。
【0062】
別の実施形態では、また、ｄｑｐしきい値修正が、強い／弱いフィルタ決定に適用される。この実施形態では、セクション８．８．３．６．５は、以下のように修正される。
【0063】
図４は、いくつかの実施形態による、プロセス４００を図示するフローチャートである。プロセス４００は、ステップｓ４０２において開始し得る。
【0064】
ステップｓ４０２は、サンプル値の第１のセットを取得することを備える。一実施形態では、サンプル値の第１のセットは、サンプル値の第１のブロック（たとえば、ブロック３０２）（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（たとえば、ブロック３０４）（以下、Ｑブロックと呼ばれる）とを備える。一実施形態では、図３中に示されているように、Ｐブロックは、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、ｑブロックは、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える。
【0065】
ステップｓ４０４は、サンプル値の第１のセットの少なくともサブセット（たとえば、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋ、ならびに／またはｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋ）をフィルタ処理するために使用すべきフィルタを選択することを備える。たとえば、ステップｓ４０４は、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定すること、または強いフィルタ処理を使用すべきか否かを決定することを備え得る（たとえば、ＶＶＣ仕様の８．８．３．６．６を参照）。
【0066】
ステップｓ４０６は、選択されたフィルタを適用することを備える。
【0067】
図５は、ステップｓ４０４を実施するための、一実施形態による、プロセス５００を図示するフローチャートである。プロセス５００は、ステップｓ５０１において開始し得る。ステップｓ５０１は、３つの変数、すなわち、ｋ、ｄＳａｍ＿０、およびｄＳａｍ＿３を初期化することを備え、ここで、これらの変数のうちのすべては、０に初期化される。
【0068】
ステップｓ５０１の後に、プロセス５００は、ステップｓ５０２およびｓ５０４を実施すること、または代わりにステップｓ５０６を実施することを含み得る。ステップｓ５０２およびｓ５０４は、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ＝７という仮定をもって実施される。
【0069】
ステップｓ５０２は、サンプル値ｐ６，ｋを使用して第１の勾配値（ｍａｘＧｒａｄｐ６＿ｋ）を計算することを備える。たとえば、ｍａｘＧｒａｄｐ６＿ｋを計算することは、Ａｂｓ（ｐ７，ｋ－ｐ６，ｋ）を計算すること、またはＡｂｓ（ｐ７，ｋ－ｐ６，ｋ－ｐ５，ｋ＋ｐ４，ｋ）を計算すること、またはＡｂｓ（ｐ６，ｋ－２＊ｐ５，ｋ＋ｐ４，ｋ）を計算することを含む。
【0070】
ステップｓ５０４は、３つのｐｑ値（ｐｑ１、ｐｑ２、およびｐｑ３）を計算することを備え、少なくともｐｑ１は、ｍａｘＧｒａｄｐ６＿ｋを使用して計算される。
【0071】
たとえば、一実施形態では、ｐｑ１を計算することは、値ｓｐ＋ｓｑを計算することを備え、ｓｐを計算することは、ｓｐ＝（Ａｂｓ（ｐ０，ｋ－ｐ３，ｋ）＋Ａｂｓ（ｐ３，ｋ－ｐ７，ｋ）＋ｍａｇＧｒａｄｐ６＿ｋ＋１）＞＞１を計算することを備える。ｓｑを計算することは、（Ａｂｓ（ｑ０，ｋ－ｑ３，ｋ）＋Ａｂｓ（ｑ３，ｋ－ｑ７，ｋ）＋ｍａｇＧｒａｄｑ６＿ｋ＋１）＞＞１を計算することを備え得、ここで、ｍａｇＧｒａｄｑ６＿ｋは、Ａｂｓ（ｑ７，ｋ－ｑ６，ｋ）またはＡｂｓ（ｑ７，ｋ－ｑ６，ｋ－ｑ５，ｋ＋ｑ４，ｋ）またはＡｂｓ（ｑ６，ｋ－２＊ｑ５，ｋ＋ｑ４，ｋ）に等しい。
【0072】
別の実施形態では、ｐｑ１を計算することは、２＊（ｄｐ＋ｄｑ）を計算することを備え、ｄｐを計算することは、ｄｐ＝（Ａｂｓ（ｐ０，ｋ－２＊ｐ１，ｋ＋ｐ２，ｋ）＋ｍａｇＧｒａｄｐ６＿ｋ＋１）＞＞１を計算することを備える。ｄｑを計算することは、（Ａｂｓ（ｑ０，ｋ－２＊ｑ１，ｋ＋ｑ２，ｋ）＋ｍａｇＧｒａｄｑ６＿ｋ＋１）＞＞１を計算することを備え得る。
【0073】
ステップｓ５０６は、ｍａｘＧｒａｄｐ６＿ｋを使用せずに（換言すれば、サンプル値ｐ６，ｋを使用せずに）３つのｐｑ値（ｐｑ１、ｐｑ２、およびｐｑ３）を計算することを備える。一実施形態では、ｐｑ１＝ｓｐ＋ｓｑ、ｐｑ２＝ｄｐｑ、およびｐｑ３＝Ａｂｓ（ｐ０，ｋ－ｑ０，ｋ）である。
【0074】
ステップｓ５０８は、ｉ）ｐｑ１を第１のしきい値（ｔ１）と比較することと、ｉｉ）ｐｑ２を第２のしきい値（ｔ２）と比較することと、ｉｉｉ）ｐｑ３を第３のしきい値（ｔ３）と比較することとを備える。
【0075】
ｐｑ１がｔ１よりも小さく、ｐｑ２がｔ２よりも小さく、ｐｑ３がｔ３よりも小さい場合、プロセス５００はステップｓ５１０に進み、さもなければ、プロセス５００はステップｓ５０９に進む（換言すれば、第１のフィルタが選択される（たとえば、短いフィルタ処理が適用される））。
【0076】
ステップｓ５１０は、ｋが３に等しいかどうかを検査することを備える。ｋが３に等しくない場合、プロセス５００はステップｓ５１２に進み、さもなければ、プロセス５００はステップｓ５１６に進む。ステップｓ５１２において、ｋは３に等しく設定され、ｄＳａｍ＿０は１に設定される。ステップｓ５１２の後に、プロセスは、ステップｓ５０２またはｓ５０６のいずれかに戻る。ステップｓ５１６は、ｄＳａｍ＿０が１に等しいかどうかを検査することを備える。ｄＳａｍ＿０が１に等しくない場合、プロセス５００はステップｓ５０９に進み、さもなければ、プロセス５００はステップｓ５１８に進む（換言すれば、第２のフィルタが選択される（たとえば、長いフィルタ処理が適用される））。
【0077】
ステップｓ５０６が、ステップｓ５０２およびｓ５０４の代わりに実施される実施形態では、ｐｑ１は２＊（ｄｐ＋ｄｑ）に等しく、ここで、
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋Ａｂｓ（ｐ５－２＊ｐ４＋ｐ３）＋１）＞＞１、および
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋Ａｂｓ（ｑ５－２＊ｑ４＋ｑ３）＋１）＞＞１、
である。そのような実施形態では、第１のしきい値（ｔ１）は、ベータ＞＞４に等しいことがある。
ｄｐ＝（Ａｂｓ（ｐ０－２＊ｐ１＋ｐ２）＋Ａｂｓ（ｐ５－２＊ｐ４＋ｐ３）＋１）＞＞１、および
ｄｑ＝（Ａｂｓ（ｑ０－２＊ｑ１＋ｑ２）＋Ａｂｓ（ｑ５－２＊ｑ４＋ｑ３）＋１）＞＞１、
である。そのような実施形態では、第１のしきい値（ｔ１）は、ベータ＞＞４に等しいことがある。
【0078】
図６は、ビデオエンコーダ１４０またはビデオデコーダ２６０を実装するための、いくつかの実施形態による、装置６００のブロック図である。図６中に示されているように、装置６００は、１つまたは複数のプロセッサ（Ｐ）６５５（たとえば、汎用マイクロプロセッサ、ならびに／または特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、および同様のものなど、１つまたは複数の他のプロセッサ）を含み得る処理回路（ＰＣ）６０２であって、そのプロセッサが、単一のハウジング中に、または単一のデータセンター中にコロケートされ得るか、あるいは地理的に分散され得る（換言すれば、装置６００が分散コンピューティング装置であり得る）、処理回路（ＰＣ）６０２と、ネットワークインターフェース６４８であって、装置６００が、ネットワークインターフェース６４８が（直接または間接的に）接続されるネットワーク１１０（たとえば、インターネットプロトコル（ＩＰ）ネットワーク）に接続された他のノードにデータを送信し、他のノードからデータを受信することを可能にするための送信機（Ｔｘ）６４５および受信機（Ｒｘ）６４７を備える（たとえば、ネットワークインターフェース６４８はネットワーク１１０に無線で接続され得、その場合、ネットワークインターフェース６４８はアンテナ構成に接続される）、ネットワークインターフェース６４８と、１つもしくは複数の不揮発性記憶デバイスおよび／または１つもしくは複数の揮発性記憶デバイスを含み得るローカル記憶ユニット（別名「データ記憶システム」）６０８とを備え得る。ＰＣ６０２がプログラマブルプロセッサを含む実施形態では、コンピュータプログラム製品（ＣＰＰ）６４１が提供され得る。ＣＰＰ６４１は、コンピュータ可読命令（ＣＲＩ）６４４を備えるコンピュータプログラム（ＣＰ）６４３を記憶するコンピュータ可読媒体（ＣＲＭ）６４２を含む。ＣＲＭ６４２は、磁気媒体（たとえば、ハードディスク）、光媒体、メモリデバイス（たとえば、ランダムアクセスメモリ、フラッシュメモリ）、および同様のものなど、非一時的コンピュータ可読媒体であり得る。いくつかの実施形態では、コンピュータプログラム６４３のＣＲＩ６４４は、ＰＣ６０２によって実行されたとき、ＣＲＩが、装置６００に、本明細書で説明されるステップ（たとえば、フローチャートを参照しながら本明細書で説明されるステップ）を実施させるように設定される。他の実施形態では、装置６００は、コードの必要なしに本明細書で説明されるステップを実施するように設定され得る。すなわち、たとえば、ＰＣ６０２は、単に１つまたは複数のＡＳＩＣからなり得る。よって、本明細書で説明される実施形態の特徴は、ハードウェアおよび／またはソフトウェアで実装され得る。
【0079】
図７は、いくつかの他の実施形態による、装置６００の機能ブロック図である。装置６００は、取得モジュール７０２およびフィルタ選択モジュール７０４を含む。取得モジュール７０２は、サンプル値の第１のブロック（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（以下、Ｑブロックと呼ばれる）とを備えるサンプル値の第１のセットを取得するように適応され、Ｐブロックは、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、Ｑブロックは、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える。
【0080】
一実施形態では、フィルタ選択モジュールは、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定するように適応され、フィルタ選択モジュールは、サンプル値ｐ６，０を使用して第１の勾配値（ｍａｘＧｒａｄｐ６＿０）を計算することと、ｍａｘＧｒａｄｐ６＿０を使用して第１のｐｑ値（ｐｑ１＿０）を計算することと、ｐｑ１＿０をしきい値と比較することとを含むプロセスを実施することによって、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することを行うように設定される。
【0081】
別の実施形態では、フィルタ選択モジュールは、フィルタを選択するように適応され、フィルタ選択モジュール７０４は、Ａｂｓ（ｐ２，０－２＊ｐ１，０＋ｐ０，０）に等しい第１の値と、Ａｂｓ（ｑ２，０－２＊ｑ１，０＋ｑ０，０）に等しい第２の値とを少なくとも使用して、第１のｐｑ値（ｐｑ１）を計算することと、ｐｑ１をしきい値と比較することであって、しきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ１をしきい値と比較することとを含むプロセスを実施することによってフィルタを選択するように設定される。
【0082】
いくつかの実施形態の簡潔な説明
【0083】
Ａ１．画像に関連するサンプル値をフィルタ処理するための方法（４００）であって、サンプル値の第１のブロック（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（以下、Ｑブロックと呼ばれる）とを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、Ｐブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、Ｑブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことと、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定する（ｓ４０４）ことであって、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、サンプル値ｐ６，０を使用して第１の勾配値（ｍａｘＧｒａｄｐ６＿０）を計算する（ｓ５０２）こと、ｍａｘＧｒａｄｐ６＿０を使用して第１のｐｑ値（ｐｑ１＿０）を計算する（ｓ５０４）こと、およびｐｑ１＿０をしきい値と比較する（ｓ５０８）ことを備える、長いフィルタを使用すべきか否かを決定する（ｓ４０４）こととを備える、方法（４００）。
【0084】
Ａ２．サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、サンプル値ｐ６，３を使用して第２の勾配値（ｍａｘＧｒａｄｐ６＿３）を計算することと、ｍａｘＧｒａｄｐ６＿３を使用して第２のｐｑ値（ｐｑ１＿３）を計算することと、ｐｑ１＿３をしきい値と比較する（ｓ５０８）こととをさらに備える、実施形態Ａ１に記載の方法。
【0085】
Ａ３．ｐｑ１＿０を計算することが、値ｓｐ＋ｓｑを計算することを備え、ｓｐを計算することが、ｓｐ＝（Ａｂｓ（ｐ０，０－ｐ３，０）＋Ａｂｓ（ｐ３，０－ｐ７，０）＋ｍａｇＧｒａｄｐ６＿０＋１）＞＞１を計算することを備える、実施形態Ａ１またはＡ２に記載の方法。
【0086】
Ａ４．ｍａｇＧｒａｄｐ６＿０が、Ａｂｓ（ｐ７，０－ｐ６，０）に等しいか、ｍａｇＧｒａｄｐ６＿０が、Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）に等しいか、またはｍａｇＧｒａｄｐ６＿０が、Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）に等しい、実施形態Ａ３に記載の方法。
【0087】
Ａ５．ｐｑ１＿０を計算することが、２＊（ｄｐ＋ｄｑ）を計算することを備え、ｄｐが、（Ａｂｓ（ｐ０，０－２＊ｐ１，０＋ｐ２，０）＋ｍａｇＧｒａｄｐ６＿０＋１）＞＞１に等しい、実施形態Ａ１またはＡ２に記載の方法。
【0088】
Ａ６．ｍａｇＧｒａｄｐ６＿０が、Ａｂｓ（ｐ７，０－ｐ６，０－ｐ５，０＋ｐ４，０）に等しいか、またはｍａｇＧｒａｄｐ６＿０が、Ａｂｓ（ｐ６，０－２＊ｐ５，０＋ｐ４，０）に等しい、実施形態Ａ５に記載の方法。
【0089】
Ａ７．ｍａｘＧｒａｄｐ６＿０を使用してｐｑ１＿０を計算するステップは、Ｐブロックのための最大フィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）が７に等しいと決めることの結果として実施される、実施形態Ａ１からＡ６のいずれか１つに記載の方法。
【0090】
Ｂ１．画像に関連するサンプル値をフィルタ処理するための方法（４００）であって、サンプル値の第１のブロック（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（以下、Ｑブロックと呼ばれる）とを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、Ｐブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、Ｑブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことと、フィルタを選択する（ｓ４０４）ことであって、フィルタを選択することは、Ａｂｓ（ｐ２，０－２＊ｐ１，０＋ｐ０，０）に等しい第１の値と、Ａｂｓ（ｑ２，０－２＊ｑ１，０＋ｑ０，０）に等しい第２の値とを少なくとも使用して、第１のｐｑ値（ｐｑ１）を計算する（ｓ５０４）こと、およびｐｑ１をしきい値と比較する（ｓ５０８）ことであって、しきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ１をしきい値と比較する（ｓ５０８）ことを備える、フィルタを選択する（ｓ４０４）こととを備える、方法（４００）。
【0091】
Ｃ１．画像に関連するサンプル値をフィルタ処理するための方法であって、１）サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことと、２）フィルタを選択する（ｓ４０４）ことであって、フィルタを選択することは、ｉ）第１のｐｑ値（ｐｑ１＿０）を計算することであって、ｐｑ１＿０を計算することが、値ｓｐを計算すること、値ｓｑを計算すること、およびｓｐ＋ｓｑを計算することを備え、ｐｑ１＿０＝（ｓｐ＋ｓｑ）である、第１のｐｑ値（ｐｑ１＿０）を計算することと、ｉｉ）ｐｑ１＿０を第１のしきい値と比較することと、ｉｉｉ）Ａｂｓ（Ｂ１＿２，０－２＊Ｂ１＿１，０＋Ｂ１＿０，０）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，０－２＊Ｂ２＿１，０＋Ｂ２＿０，０）に等しい第２の値とを少なくとも使用して、第２のｐｑ値（ｐｑ２＿０）を計算する（ｓ５０５）ことと、ｉｖ）ｐｑ２＿０を第２のしきい値と比較する（ｓ５０８）ことであって、第２のしきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ２＿０を第２のしきい値と比較する（ｓ５０８）こととを備える、フィルタを選択する（ｓ４０４）こととを備える、方法。
【0092】
Ｃ２．フィルタを選択することは、第３のｐｑ値（ｐｑ３＿０）を計算することであって、ｐｑ３＿０＝Ａｂｓ（Ｂ１＿０，０－Ｂ２＿０，０）である、第３のｐｑ値（ｐｑ３＿０）を計算することと、ｐｑ３＿０を第３のしきい値と比較することであって、第３のしきい値が、（５＊ｔＣ＋１）＞＞１に等しく、ｔＣが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められた値のセットから選択された、ｐｑ３＿０を第３のしきい値と比較することとをさらに備える、請求項Ｃ１に記載の方法。
【0093】
Ｃ３．フィルタを選択することは、第４のｐｑ値（ｐｑ２＿３）を計算することと、ｐｑ２＿３を第２のしきい値と比較することと、第５のｐｑ値（ｐｑ１＿３）を計算することと、ｐｑ１＿３を第１のしきい値と比較することとをさらに備え、ｐｑ２＿３を計算するステップは、Ａｂｓ（Ｂ１＿２，３－２＊Ｂ１＿１，３＋Ｂ１＿０，３）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，３－２＊Ｂ２＿１，３＋Ｂ２＿０，３）に等しい第２の値とを少なくとも使用して、およびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、３よりも大きいとき、第３の値Ａｂｓ（Ｂ１＿５，３－２＊Ｂ１＿４，３＋Ｂ１＿３，３）をも使用して、およびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３よりも大きいとき、第４の値Ａｂｓ（Ｂ２＿５，３－２＊Ｂ２＿４，３＋Ｂ２＿３，３）をも使用して、ｐｑ２＿３を計算することを備え、ｐｑ１＿３を計算するステップが、値ｓｐ３を計算することと、値ｓｑ３を計算することと、ｓｐ３＋ｓｑ３を計算することとを備え、ここで、ｐｑ１＿３＝（ｓｐ３＋ｓｑ３）である、請求項Ｃ１または請求項Ｃ２に記載の方法。
【0094】
Ｃ４．フィルタを選択することは、第６のｐｑ値（ｐｑ３＿３）を計算することであって、ｐｑ３＿３＝Ａｂｓ（Ｂ１＿０，３－Ｂ２＿０，３）である、第６のｐｑ値（ｐｑ３＿３）を計算することと、ｐｑ３＿３を第３のしきい値と比較することとをさらに備える、請求項Ｃ３に記載の方法。
【0095】
Ｃ５．フィルタは、ブロックＢ１中のライン０～ライン３の各々上の７つのサンプルを、ライン０およびライン３についての状態が、それぞれのしきい値よりも小さい（たとえば、ライン０について、ｐｑ１＿０＜ｔｈｒ１およびｐｑ２＿０＜ｔｈｒ２およびｐｑ３＿０＜ｔｈｒ３であり、ライン３について、ｐｑ１＿３＜ｔｈｒ１およびｐｑ２＿３＜ｔｈｒ２およびｐｑ３＿３＜ｔｈｒ３である）とき、修正するために使用される、請求項Ｃ１からＣ４のいずれか１つに記載の方法。
【0096】
Ｃ６．ｔｈｒ１が、３＊β＞＞５に等しく、ｔｈｒ２が、β＞＞４に等しく、ｔｈｒ３が、（５＊ｔＣ＋１）＞＞１に等しい、請求項Ｃ５に記載の方法。
【0097】
Ｃ７．第１のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）を有し、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、７に等しい場合、ｓｐを計算することが、ｓｐ＝（Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）＋Ａｂｓ（Ｂ１＿３，０－Ｂ１＿７，０）＋ｍａｘＧｒａｄＢ１＿６，０＋１）＞＞１を計算することを備え、ここで、ｍａｘＧｒａｄＢ１＿６，０が、勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、５である場合、ｓｐを計算することが、ｓｐ＝（Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）＋Ａｂｓ（Ｂ１＿３，０－Ｂ１＿５，０）＋１）＞＞１を計算することを備え、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、３に等しい場合、ｓｐを計算することが、ｓｐ＝Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）を計算することを備える、請求項Ｃ１からＣ６のいずれか１つに記載の方法。
【0098】
Ｃ８．ｍａｘＧｒａｄＢ１＿６，０が、Ａｂｓ（Ｂ１＿７，０－Ｂ１＿６，０－Ｂ１＿５，０＋Ｂ１＿４，０）に等しい、請求項Ｃ７に記載の方法。
【0099】
Ｃ９．第２のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）を有し、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、ｓｑを計算することが、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿７，０）＋ｍａｘＧｒａｄＢ２＿６，０＋１）＞＞１を計算することを備え、ここで、ｍａｘＧｒａｄＢ２＿６，０が、勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、ｓｑを計算することが、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿５，０）＋１）＞＞１を計算することを備え、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３に等しい場合、ｓｑを計算することが、ｓｑ＝Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）を計算することを備える、請求項Ｃ１からＣ９のいずれか１つに記載の方法。
【0100】
Ｃ１０．ｍａｘＧｒａｄＢ２＿６，０が、Ａｂｓ（Ｂ２＿７，０－Ｂ２＿６，０－Ｂ２＿５，０＋Ｂ２＿４，０）に等しい、請求項Ｃ９に記載の方法。
【0101】
Ｃ１１．およびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、３よりも大きいとき、第３の値Ａｂｓ（Ｂ１＿５，０－２＊Ｂ１＿４，０＋Ｂ１＿３，０）をも使用して、および第２のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）を有し、およびｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３よりも大きいとき、第４の値Ａｂｓ（Ｂ２＿５，０－２＊Ｂ２＿４，０＋Ｂ２＿３，０）をも使用して、請求項Ｃ１からＣ１０のいずれか１つに記載の方法。
【0102】
Ｃ１２．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、７に等しい場合、ｓｐ３を計算することが、ｓｐ３＝（Ａｂｓ（Ｂ１＿０，３－Ｂ１＿３，３）＋Ａｂｓ（Ｂ１＿３，３－Ｂ１＿７，３）＋ｍａｘＧｒａｄＢ１＿６，３＋１）＞＞１を計算することを備え、ここで、ｍａｘＧｒａｄＢ１＿６，３が、勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、５に等しい場合、ｓｐ３を計算することが、ｓｐ３＝（Ａｂｓ（Ｂ１＿０，３－Ｂ１＿３，３）＋Ａｂｓ（Ｂ１＿３，３－Ｂ１＿５，３）＋１）＞＞１を計算することを備え、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが、５に等しい場合、ｓｐ３を計算することが、ｓｐ３＝Ａｂｓ（Ｂ１＿０，３－Ｂ１＿３，３）を計算することを備え、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、ｓｑ３を計算することが、ｓｑ３＝（Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）＋Ａｂｓ（Ｂ２＿３，３－Ｂ２＿７，３）＋ｍａｘＧｒａｄＢ２＿６，３＋１）＞＞１を計算することを備え、ここで、ｍａｘＧｒａｄＢ２＿６，３が、勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、ｓｑ３を計算することが、ｓｑ３＝（Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）＋Ａｂｓ（Ｂ２＿３，３－Ｂ２＿５，３）＋１）＞＞１を計算することを備え、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、３に等しい場合、ｓｑ３を計算することが、ｓｑ３＝Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）を計算することを備える、請求項Ｃ３またはＣ４に記載の方法。
【0103】
Ｄ１．画像に関連するサンプル値をフィルタ処理するための方法（４００）であって、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことと、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定する（ｓ４０４）ことであって、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、サンプル値Ｂ１＿６，０を使用して第１の勾配値（ｍａｘＧｒａｄＢ１＿６，０）を計算する（ｓ５０２）こと、ｍａｘＧｒａｄＢ１＿６，０を使用して第１のｐｑ値（ｐｑ１＿０）を計算する（ｓ５０４）こと、およびｐｑ１＿０をしきい値と比較する（ｓ５０８）ことを備える、長いフィルタを使用すべきか否かを決定する（ｓ４０４）こととを備える、方法（４００）。
【0104】
Ｄ２．サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することが、サンプル値Ｂ１＿６，３を使用して第２の勾配値（ｍａｘＧｒａｄＢ１＿６，３）を計算することと、ｍａｘＧｒａｄＢ１＿６，３を使用して第２のｐｑ値（ｐｑ１＿３）を計算することと、ｐｑ１＿３をしきい値と比較する（ｓ５０８）こととをさらに備える、請求項Ｄ１に記載の方法。
【0105】
Ｄ３．ｐｑ１＿０を計算することが、値ｓｐを計算することと、値ｓｑを計算することと、ｓｐ＋ｓｑを計算することとを備え、ｐｑ１＿０＝（ｓｐ＋ｓｑ）であり、ｓｐを計算することが、ｓｐ＝（Ａｂｓ（Ｂ１＿０，０－Ｂ１＿３，０）＋Ａｂｓ（Ｂ１＿３，０－Ｂ１＿７，０）＋ｍａｘＧｒａｄＢ１＿６，０＋１）＞＞１を計算することを備える、請求項Ｄ１またはＤ２に記載の方法。
【0106】
Ｄ４．ｍａｘＧｒａｄＢ１＿６，０が、Ａｂｓ（Ｂ１＿７，０－Ｂ１＿６，０－Ｂ１＿５，０＋Ｂ１＿４，０）に等しい、請求項Ｄ３に記載の方法。
【0107】
Ｄ５．第２のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）を有し、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿７，０）＋ｍａｘＧｒａｄＢ２＿６，０＋１）＞＞１であり、ここで、ｍａｘＧｒａｄＢ２＿６，０が、第３の勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、ｓｑ＝（Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）＋Ａｂｓ（Ｂ２＿３，０－Ｂ２＿５，０）＋１）＞＞１であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しくない、および５に等しくない場合、ｓｑ＝Ａｂｓ（Ｂ２＿０，０－Ｂ２＿３，０）である、請求項Ｄ３またはＤ４に記載の方法。
【0108】
Ｄ６．ｍａｘＧｒａｄＢ２＿６，０が、Ａｂｓ（Ｂ２＿７，０－Ｂ２＿６，０－Ｂ２＿５，０＋Ｂ２＿４，０）に等しい、請求項Ｄ５に記載の方法。
【0109】
Ｄ７．ｐｑ１＿３を計算することが、値ｓｐ３を計算することと、値ｓｑ３を計算することと、ｓｐ３＋ｓｑ３を計算することとを備え、ｐｑ１＿３＝（ｓｐ３＋ｓｑ３）であり、ｓｐ３を計算することが、ｓｐ３＝（Ａｂｓ（Ｂ１＿０，３－Ｂ１＿３，３）＋Ａｂｓ（Ｂ１＿３，３－Ｂ１＿７，３）＋ｍａｘＧｒａｄＢ１＿６，３＋１）＞＞１を計算することを備える、請求項Ｄ２からＤ６のいずれか１つに記載の方法。
【0110】
Ｄ８．ｍａｘＧｒａｄＢ１＿６，３が、Ａｂｓ（Ｂ１＿７，３－Ｂ１＿６，３－Ｂ１＿５，３＋Ｂ１＿４，３）に等しい、請求項Ｄ７に記載の方法。
【0111】
Ｄ９．ｍａｘＧｒａｄＢ１＿６，０を使用してｐｑ１＿０を計算するステップは、第１のブロックのための最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）が、７に等しいと決めることの結果として実施される、請求項Ｄ１からＤ８のいずれか１つに記載の方法。
【0112】
Ｄ１０．ｍａｘＧｒａｄＢ１＿６，３を使用してｐｑ１＿３を計算するステップは、第１のブロックのための最大フィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ）が、７に等しいと決めることの結果として実施される、請求項Ｄ２からＤ９のいずれか１つに記載の方法。
【0113】
Ｄ１１．第２のブロックが、最大のフィルタ長（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）を有し、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、７に等しい場合、ｓｑ３＝（Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）＋Ａｂｓ（Ｂ２＿３，３－Ｂ２＿７，３）＋ｍａｘＧｒａｄＢ２＿６，３＋１）＞＞１であり、ここで、ｍａｘＧｒａｄＢ２＿６，３が、第４の勾配値であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しい場合、ｓｑ３＝（Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）＋Ａｂｓ（Ｂ２＿３，３－Ｂ２＿５，３）＋１）＞＞１であり、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが、５に等しくない、および７に等しくない場合、ｓｑ３＝Ａｂｓ（Ｂ２＿０，３－Ｂ２＿３，３）である、請求項Ｄ７に記載の方法。
【0114】
Ｄ１２．ｍａｘＧｒａｄＢ２＿６，３は、Ａｂｓ（Ｂ２＿７，３－Ｂ２＿６，３－Ｂ２＿５，３＋Ｂ２＿４，３）に等しい、請求項Ｄ１１に記載の方法。
【0115】
Ｄ１３．垂直境界をデブロックするとき、ｉ値が、ブロックの列を識別し、ｋ値が、ブロックの行を識別し、水平境界をデブロックするとき、ｋ値が、ブロックの列を識別し、ｉ値が、ブロックの行を識別する、請求項Ｄ１からＤ１２のいずれか１つに記載の方法。
【0116】
Ｄ１４．Ｂ１＿０，０が、第２のブロック中のサンプルＢ２＿０，０に最も近い第１のブロック中のサンプルを指し、Ｂ１＿１，０が、Ｂ１＿０，０に最も近く、Ｂ１＿２，０が、Ｂ１＿１，０に最も近く、Ｂ１＿３，０が、Ｂ１＿２，０に最も近く、Ｂ１＿４，０が、Ｂ１＿３，０に最も近く、Ｂ１＿５，０が、Ｂ１＿４，０に最も近く、Ｂ１＿６，０が、Ｂ１＿５，０に最も近く、Ｂ１＿７，０が、Ｂ１＿６，０に最も近く、Ｂ２＿１，０が、Ｂ２＿０，０に最も近く、Ｂ２＿２，０が、Ｂ２＿１，０に最も近く、Ｂ２＿３，０が、Ｂ２＿２，０に最も近く、Ｂ２＿４，０が、Ｂ２＿３，０に最も近く、Ｂ２＿５，０が、Ｂ２＿４，０に最も近く、Ｂ２＿６，０が、Ｂ２＿５，０に最も近く、Ｂ２＿７，０が、Ｂ２＿６，０に最も近く、Ｂ１＿０，３が、第２のブロック中のサンプルＢ２＿０，３に最も近い第１のブロック中のサンプルを指し、Ｂ１＿１，３が、Ｂ１＿０，３に最も近く、Ｂ１＿２，３が、Ｂ１＿１，３に最も近く、Ｂ１＿３，３が、Ｂ１＿２，３に最も近く、Ｂ１＿４，３が、Ｂ１＿３，３に最も近く、Ｂ１＿５，３が、Ｂ１＿４，３に最も近く、Ｂ１＿６，３が、Ｂ１＿５，３に最も近く、Ｂ１＿７，３が、Ｂ１＿６，３に最も近く、Ｂ２＿１，３が、Ｂ２＿０，３に最も近く、Ｂ２＿２，３が、Ｂ２＿１，３に最も近く、Ｂ２＿３，３が、Ｂ２＿２，３に最も近く、Ｂ２＿４，３が、Ｂ２＿３，３に最も近く、Ｂ２＿５，３が、Ｂ２＿４，３に最も近く、Ｂ２＿６，３が、Ｂ２＿５，３に最も近く、Ｂ２＿７，３が、Ｂ２＿６，３に最も近い、請求項Ｄ１からＤ１３のいずれか１つに記載の方法。
【0117】
Ｄ１５．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しいときに長いフィルタによってフィルタ処理すべきサンプルが、Ｂ１＿０，０～Ｂ１＿６，０、Ｂ１＿０，１～Ｂ１＿６，１、Ｂ１＿０，２～Ｂ１＿６，２およびＢ１＿０，３～Ｂ１＿６，３である、請求項Ｄ１からＤ１４のいずれか１つに記載の方法。
【0118】
Ｄ１６．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しいときに長いフィルタによってフィルタ処理すべきサンプルが、Ｂ２＿０，０～Ｂ２＿６，０、Ｂ２＿０，１～Ｂ２＿６，１、Ｂ２＿０，２～Ｂ２＿６，２およびＢ２＿０，３～Ｂ２＿６，３である、請求項Ｄ１からＤ１５のいずれか１つに記載の方法。
【0119】
Ｅ１．画像に関連するサンプル値をフィルタ処理するための方法（４００）であって、サンプル値の第１のブロックとサンプル値の第２のブロックとを備えるサンプル値の第１のセットを取得する（ｓ４０２）ことであって、サンプル値の第１のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ１＿ｉ，ｋのセットを備え、サンプル値の第２のブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値Ｂ２＿ｉ，ｋのセットを備える、サンプル値の第１のセットを取得する（ｓ４０２）ことと、フィルタを選択する（ｓ４０４）ことであって、フィルタを選択することは、Ａｂｓ（Ｂ１＿２，０－２＊Ｂ１＿１，０＋Ｂ１＿０，０）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，０－２＊Ｂ２＿１，０＋Ｂ２＿０，０）に等しい第２の値とを少なくとも使用して、第１のｐｑ値（ｐｑ２＿０）を計算する（ｓ５０５）ことと、ｐｑ２＿０をしきい値と比較する（ｓ５０８）ことであって、しきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ２＿０をしきい値と比較する（ｓ５０８）こととを備える、フィルタを選択する（ｓ４０４）こととを備える、方法（４００）。
【0120】
Ｅ２．フィルタを選択することが、Ａｂｓ（Ｂ１＿２，３－２＊Ｂ１＿１，３＋Ｂ１＿０，３）に等しい第１の値と、Ａｂｓ（Ｂ２＿２，３－２＊Ｂ２＿１，３＋Ｂ２＿０，３）に等しい第２の値とを少なくとも使用して、第２のｐｑ値（ｐｑ２＿３）を計算することと、ｐｑ２＿３をしきい値と比較することとをさらに備える、Ｅ１に記載の方法。
【0121】
Ｆ１．上記の実施形態のいずれか１つに記載の方法を実施するように適応されたエンコーダ（１４０）またはデコーダ（２６０）。
【0122】
Ｆ２．実施形態Ｆ１のエンコーダ（１４０）またはデコーダ（２６０）を実装する、装置（５００）。
【0123】
Ｇ１．処理回路（６０２）によって実行されたとき、処理回路（６０２）に、上記の実施形態のいずれか１つに記載の方法を実施させる命令（６４４）を備える、コンピュータプログラム（６４３）。
【0124】
Ｇ２．実施形態Ｇ１に記載のコンピュータプログラムを含んでいるキャリアであって、電子信号、光信号、無線信号、およびコンピュータ可読記憶媒体（６４２）のうちの１つである、キャリア。
【0125】
Ｈ１．画像に関連するサンプル値をフィルタ処理するための装置（６００）であって、サンプル値の第１のブロック（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（以下、Ｑブロックと呼ばれる）とを備えるサンプル値の第１のセットを取得するように適応された取得モジュール（７０２（図７を参照））であって、Ｐブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、Ｑブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える、取得モジュール（７０２）と、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定するように適応されたフィルタ選択モジュール（７０４（図７を参照））であって、フィルタ選択モジュール（７０４）が、サンプル値ｐ６，０を使用して第１の勾配値（ｍａｘＧｒａｄｐ６＿０）を計算する（ｓ５０２）ことと、ｍａｘＧｒａｄｐ６＿０を使用して第１のｐｑ値（ｐｑ１＿０）を計算する（ｓ５０４）ことと、ｐｑ１＿０をしきい値と比較する（ｓ５０８）こととを含むプロセスを実施することによって、サンプル値の第１のセットの少なくともサブセットをフィルタ処理するために長いフィルタを使用すべきか否かを決定することを行うように設定された、フィルタ選択モジュール（７０４）とを備える、装置（６００）。
【0126】
Ｉ１．画像に関連するサンプル値をフィルタ処理するための装置（６００）であって、サンプル値の第１のブロック（以下、Ｐブロックと呼ばれる）と、サンプル値の第２のブロック（以下、Ｑブロックと呼ばれる）とを備えるサンプル値の第１のセットを取得するように適応された取得モジュール（７０２（図７を参照））であって、Ｐブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｐｉ，ｋのセットを備え、Ｑブロックが、ｉ＝０～７およびｋ＝０～３のサンプル値ｑｉ，ｋのセットを備える、取得モジュール（７０２）と、フィルタを選択するように適応されたフィルタ選択モジュール（７０４（図７を参照））であって、フィルタ選択モジュール（７０４）は、Ａｂｓ（ｐ２，０－２＊ｐ１，０＋ｐ０，０）に等しい第１の値と、Ａｂｓ（ｑ２，０－２＊ｑ１，０＋ｑ０，０）に等しい第２の値とを少なくとも使用して、第１のｐｑ値（ｐｑ１）を計算する（ｓ５０４）ことと、ｐｑ１をしきい値と比較する（ｓ５０８）ことであって、しきい値が、β＞＞４に等しく、βが、量子化パラメータ値（Ｑ）に基づいて、あらかじめ決められたベータ値のセットから選択された、ｐｑ１をしきい値と比較する（ｓ５０８）こととを含むプロセスを実施することによってフィルタを選択するように設定された、フィルタ選択モジュール（７０４）とを備える、装置（６００）。
【0127】
様々な実施形態が本明細書で説明されたが、実施形態は、限定ではなく、例としてのみ提示されたことを理解されたい。これにより、本開示の広さおよび範囲は、上記で説明された例示的な実施形態のうちのいずれによっても限定されるべきではない。その上、上記で説明された要素の、それらのすべての可能な変形形態における組合せは、本明細書で別段に指し示されない限り、またはさもなければコンテキストによって明らかに否定されない限り、本開示によって包含される。
【0128】
加えて、上記で説明され、図面中に図示されているプロセスは、ステップのシーケンスとして示されているが、これは、例示のためにのみ行われた。それゆえに、いくつかのステップが追加され得ること、いくつかのステップが省略され得ること、ステップの順序が並べ替えられ得ること、およびいくつかのステップが並列に実施され得ることが企図される。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】