知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-08
(45)【発行日】2024-04-16
(54)【発明の名称】交差成分線形モデル予測のためのフィルタリングの方法及び装置
(51)【国際特許分類】
H04N 19/70 20140101AFI20240409BHJP
H04N 19/593 20140101ALI20240409BHJP
H04N 19/117 20140101ALI20240409BHJP
H04N 19/134 20140101ALI20240409BHJP
H04N 19/176 20140101ALI20240409BHJP
H04N 19/186 20140101ALI20240409BHJP
【ＦＩ】
H04N19/70
H04N19/593
H04N19/117
H04N19/134
H04N19/176
H04N19/186
【請求項の数】
14
(21)【出願番号】P 2022540495
(86)(22)【出願日】2020-12-30
(65)【公表番号】
(43)【公表日】2023-03-02
(86)【国際出願番号】 RU2020050403
(87)【国際公開番号】W WO2021045654
(87)【国際公開日】2021-03-11
【審査請求日】2022-07-21
(31)【優先権主張番号】62/955,405
(32)【優先日】2019-12-30
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】62/958,293
(32)【優先日】2020-01-07
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】503433420
【氏名又は名称】華為技術有限公司
【氏名又は名称原語表記】ＨＵＡＷＥＩ ＴＥＣＨＮＯＬＯＧＩＥＳ ＣＯ．，ＬＴＤ．
【住所又は居所原語表記】Ｈｕａｗｅｉ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ Ｂｕｉｌｄｉｎｇ， Ｂａｎｔｉａｎ， Ｌｏｎｇｇａｎｇ Ｄｉｓｔｒｉｃｔ， Ｓｈｅｎｚｈｅｎ， Ｇｕａｎｇｄｏｎｇ ５１８１２９， Ｐ．Ｒ． Ｃｈｉｎａ
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】フィリポフ，アレクセイ コンスタンチノヴィッチ
(72)【発明者】
【氏名】ルフィツスキー，ヴァシリー アレクシエーヴィッチ
(72)【発明者】
【氏名】アルシナ，エレナ アレクサンドロブナ
【審査官】田部井 和彦
(56)【参考文献】
【文献】特表２０１９－５３０３３０（ＪＰ，Ａ）
【文献】特開２０２１－００５７４１（ＪＰ，Ａ）
【文献】Benjamin Bross et al.，Versatile Video Coding (Draft 7) [online]，JVET-P2001-vE (JVET-P2001-vE.docx)，2019年11月14日，インターネット ＜URL: https://jvet-experts.org/doc_end_user/documents/16_Geneva/wg11/JVET-P2001-v14.zip＞，pp.19-21,38-42,96-106,198-205
【文献】Masaru Ikeda et al.，Non-CE3: On CCLM neighboring sample [online]，JVET-P0297-v2，インターネット ＜URL: https://jvet-experts.org/doc_end_user/documents/16_Geneva/wg11/JVET-P0297-v2.zip＞，2019年09月27日
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｈ０４Ｎ １９／７０
Ｈ０４Ｎ １９／５９３
Ｈ０４Ｎ １９／１１７
Ｈ０４Ｎ １９／１３４
Ｈ０４Ｎ １９／１７６
Ｈ０４Ｎ １９／１８６
(57)【特許請求の範囲】
【請求項1】
クロマブロック予測方法であって、ビットストリームから第１シンタックス要素をパースするステップと、
現在ブロックが属するピクチャのクロマフォーマットがＹＵＶ ４：２：２又はＹＵＶ ４：２：０であるかどうか及び少なくとも前記第１シンタックス要素に基づき前記現在ブロックのルーマ成分を処理して、前記現在ブロックのフィルタ処理されたルーマサンプルを取得するステップと、
前記フィルタ処理されたルーマサンプルに基づき前記現在ブロックのクロマサンプルの予測値を取得するステップと
を有し、
少なくとも前記第１シンタックス要素に基づき現在ブロックのルーマ成分を処理する前記ステップは、
前記第１シンタックス要素の値が第１値であるときにフィルタリング係数の第１セットを使用することによって前記現在ブロックの前記ルーマサンプルを処理すること、又は
前記第１シンタックス要素の値が第２値であるときにフィルタリング係数の第２セットを使用することによって前記現在ブロックの前記ルーマサンプルを処理することを
を有する、方法。
【請求項2】
前記第１シンタックス要素は、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇである、請求項１に記載の方法。
【請求項3】
前記第１シンタックス要素の値が第１値であるときに前記フィルタリング係数の第１セットを使用することによって前記現在ブロックの前記ルーマサンプルを処理することは、少なくともｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、前記フィルタ処理されたルーマサンプルが次の
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３
のように導出されることを有し、
前記フィルタリング係数の第１セットは、Ｆ３［１］［０］＝１、Ｆ３［０］［１］＝１、Ｆ３［１］［１］＝４、Ｆ３［２］［１］＝１、Ｆ３［１］［２］＝１を有し、
ｐＹ［ｘ］［ｙ］は、前記ルーマサンプルを表し、
ｐＤｓＹ［ｘ］［ｙ］は、前記フィルタ処理されたルーマサンプルを表し、
ＳｕｂＷｉｄｔｈＣは、前記現在ブロックの幅であり、
ＳｕｂＨｅｉｇｈｔＣは、前記現在ブロックの高さである、
請求項２に記載の方法。
【請求項4】
前記第１シンタックス要素の値が第２値であるときに前記フィルタリング係数の第２セットを使用することによって前記現在ブロックの前記ルーマサンプルを処理することは、少なくともｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合に、前記フィルタ処理されたルーマサンプルが次の
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
のように導出されることを有し、
前記フィルタリング係数の第２セットは、Ｆ４［０］［１］＝１、Ｆ４［０］［２］＝１、Ｆ４［１］［１］＝２、Ｆ４［１］［２］＝２、Ｆ４［２］［１］＝１、Ｆ４［２］［２］＝１を有し、
ｐＹ［ｘ］［ｙ］は、前記ルーマサンプルを表し、
ｐＤｓＹ［ｘ］［ｙ］は、前記フィルタ処理されたルーマサンプルを表し、
ＳｕｂＷｉｄｔｈＣは、前記現在ブロックの幅であり、
ＳｕｂＨｅｉｇｈｔＣは、前記現在ブロックの高さである、
請求項２に記載の方法。
【請求項5】
前記フィルタ処理されたルーマサンプルに基づき前記現在ブロックの前記クロマサンプルの前記予測値を取得する前記ステップは、前記クロマサンプルの前記予測値が次の
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝
Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
のように導出されることを有し、
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、前記現在ブロックの前記クロマサンプルの前記予測値を表し、
ｐＤｓＹ［ｘ］［ｙ］は、前記フィルタ処理されたルーマサンプルを表し、
ｘ＝０．．ｎＴｂＷ－１、ｙ＝０．．ｎＴｂＨ－１であり、
ｎＴｂＷは、変換ブロックの幅を示し、ｎＴｂＨは、前記変換ブロックの高さを示す、
請求項１乃至４のうちいずれか一項に記載の方法。
【請求項6】
当該方法は、前記ビットストリームをパースして第２シンタックス要素を取得するステップを更に有し、前記第２シンタックス要素は、現在の復号化に使用されるイントラ予測モードがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ又はＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードのうちの１つであることを示すために使用される、
請求項１乃至５のうちいずれか一項に記載の方法。
【請求項7】
当該方法は、ビデオシーケンス内の現在画像ブロックを復号するために使用され、前記現在画像ブロックは、最初のルーマブロック及び現在のクロマブロックを含み、前記ビデオシーケンス内の画像は、４：２：０フォーマット又は４：２：２フォーマットにある、
請求項１乃至６のうちいずれか一項に記載の方法。
【請求項8】
ビットストリームから第１シンタックス要素をパースする前記ステップは、前記ビットストリーム内のシーケンスパラメータセット（ＳＰＳ）をパースして前記第１シンタックス要素を取得することを有する、
請求項１乃至７のうちいずれか一項に記載の方法。
【請求項9】
当該方法は、前記現在ブロックに隣接する選択された位置にあるルーマサンプルに、前記フィルタリング係数の第１セット及び前記フィルタリング係数の第２セットから前記第１シンタックス要素に基づき決定されたフィルタリング係数のセットを適用するステップを更に有し、前記現在ブロックに隣接する選択された位置にある前記ルーマサンプルは、前記現在ブロックの左隣にある１又は複数の列のサンプル及び／又は前記現在ブロックの上隣にある１又は複数の行のサンプルである、
請求項１乃至８のうちいずれか一項に記載の方法。
【請求項10】
当該方法は、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、前記現在ブロックのダウンサンプリングされた同一位置にあるルーマサンプルが次のｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［Ｙ］
のように導出されることを更に有し、
ｐＹ［ｘ］［ｙ］は、同一位置にあるルーマサンプルを表し、
ｐＤｓＹ［ｘ］［ｙ］は、前記ダウンサンプリングされた同一位置にあるルーマサンプルを表し、
ＳｕｂＷｉｄｔｈＣは、前記現在ブロックの幅であり、
ＳｕｂＨｅｉｇｈｔＣは、前記現在ブロックの高さである、
請求項１乃至９のうちいずれか一項に記載の方法。
【請求項11】
前記同一位置あるルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされ、ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１、ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１であり、
（ｘＴｂＹ，ｙＴｂＹ）は、現在ルーマ位置を示し、
ｎＴｂＷは、変換ブロックの幅を示し、ｎＴｂＨは、前記変換ブロックの高さを示す、
請求項１０に記載の方法。
【請求項12】
コンピュータデバイスによって実行される場合に、前記コンピュータデバイスに、請求項１乃至１１のうちいずれか一項に記載の方法を実行させるプログラムコードを担持する非一時的なコンピュータ可読媒体。
【請求項13】
デコーダ又はエンコーダを有し、１つ以上のプロセッサと、
前記プロセッサへ結合され、前記プロセッサによって実行されるプログラミングを記憶している非一時的なコンピュータ可読記憶媒体と
を有し、
前記プログラミングは、前記プロセッサによって実行される場合に、請求項１乃至１１のうちいずれか一項に記載の方法を実行するように前記デコーダ又はエンコーダを構成する、
コーディングデバイス。
【請求項14】
ビットストリームの形でビデオータを記憶するよう構成される非一時的なメモリストレージと、請求項１乃至１１のうちいずれか一項に記載の方法を実行するよう構成されるビデオデコーダと
を有するビデオデータ復号化デバイス。
【発明の詳細な説明】
【技術分野】
【0001】
本願（開示）の実施形態は、ピクチャ処理の分野に、より具体的には、交差成分線形モデル（ＣＣＬＭ）を使用したイントラ予測（例えば、クロマイントラ予測）に、より具体的には、異なるクロマフォーマットによるイントラ予測のためにＣＣＬＭで使用される空間フィルタリングに関係がある。
【背景技術】
【0002】
ビデオコーディング（ビデオ符号化及び復号化）は、広範囲のデジタルビデオアプリケーション、例えば、放送デジタルＴＶ、インターネット及びモバイルネットワークでのビデオ伝送、ビデオチャットなどの実時間の会話アプリケーション、ビデオ会議、ＤＶＤ及びブルーレイディスク、ビデオコンテンツ取得及び編集システム、セキュリティアプリケーションのカムコーダで、使用されている。
【0003】
比較的に短いビデオでさえ描画するのに必要とされるビデオデータの量は相当であり、バンド幅容量が限られている通信網でデータがストリーミング又は別なふうに通信される場合に困難が生じる可能性がある。よって、ビデオデータは、現代の電気通信網で通信される前に一般的には圧縮される。メモリ資源が限られる場合があるので、ビデオが記憶デバイスに記憶されるときにビデオのサイズも問題になる。ビデオ圧縮デバイスはしばしば、伝送又は記憶の前にビデオデータをコード化するために送信元でソフトウェア及び／又はハードウェアを使用し、それによって、デジタルビデオ画像を表現するために必要とされるデータの量を減らす。圧縮されたデータは、次いで、ビデオデータを復号するビデオ圧縮解除デバイスによって送り先で受け取られる。限られたネットワーク資源及びより高いビデオ品質の需要の更なる高まりにより、ピクチャ品質を全く又はほとんど犠牲にせずに圧縮比を改善する改善された圧縮及び圧縮解除技術が望ましい。
【発明の概要】
【0004】
本願の実施形態は、符号化及び復号化のための装置及び方法を提供する。
【0005】
本開示の第１の態様に従って、それは、線形モデルを使用するイントラ予測の方法に関係があり、方法は、コーディング装置（特に、イントラ予測のための装置）によって実行される。方法は、
現在ブロックが属するピクチャのクロマフォーマットに基づき、ブロックに属する（つまり、現在ブロックの内部サンプル）ルーマサンプル（例えば、各ルーマサンプル）に対するフィルタを決定することを含み、特に、異なるルーマサンプルは、異なるフィルタに対応し得る。基本的には、それが境界にあるかどうかに依存する。
現在ブロックに属するルーマサンプル（例えば、各ルーマサンプル）の位置で、決定されたフィルタを再構成されたルーマサンプルに適用して、フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）を取得する。
フィルタ処理された再構成されたルーマサンプルに基づき、線形モデル導出の入力として使用されるルーマサンプルのセットを取得する。
線形モデル導出の線形モデル係数及びフィルタ処理された再構成されたルーマサンプルに基づき交差成分予測（例えば、ルーマからクロマの交差成分予測又はＣＣＬＭ予測）を実行する。
現在ブロックが属するピクチャのクロマフォーマットに基づき、ブロックに属する（つまり、現在ブロックの内部サンプル）ルーマサンプル（例えば、各ルーマサンプル）に対するフィルタを決定することを含み、特に、異なるルーマサンプルは、異なるフィルタに対応し得る。基本的には、それが境界にあるかどうかに依存する。
現在ブロックに属するルーマサンプル（例えば、各ルーマサンプル）の位置で、決定されたフィルタを再構成されたルーマサンプルに適用して、フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）を取得する。
フィルタ処理された再構成されたルーマサンプルに基づき、線形モデル導出の入力として使用されるルーマサンプルのセットを取得する。
線形モデル導出の線形モデル係数及びフィルタ処理された再構成されたルーマサンプルに基づき交差成分予測（例えば、ルーマからクロマの交差成分予測又はＣＣＬＭ予測）を実行する。
【0006】
本願の実施形態は、ＣＣＬＭのルーマフィルタに関係がある。本開示は、ルーマサンプルのためのフィルタリングに関する。本開示は、ＣＣＭＬ内で実行されるフィルタ選択に関係がある。
【0007】
ＣＣＬＭは、クロマ予測に関係があり、それは、再構成されたルーマを使用してクロマ信号を予測する，
ＣＣＬＭ＝＝chroma from luma。
ＣＣＬＭ＝＝chroma from luma。
【0008】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、フィルタを決定することは、
現在ブロック内のルーマサンプルの位置及びクロマフォーマットに基づきフィルタを決定すること、又は
現在ブロック内のルーマサンプルの各々の位置及びクロマフォーマットに基づき、現在ブロックに属する複数のルーマサンプルに対する各々のフィルタを決定すること
を有する。現在ブロックに隣接するサンプルが利用可能である場合に、フィルタは、現在ブロックの境界エリアをフィルタ処理するためにそれらも使用し得る。
現在ブロック内のルーマサンプルの位置及びクロマフォーマットに基づきフィルタを決定すること、又は
現在ブロック内のルーマサンプルの各々の位置及びクロマフォーマットに基づき、現在ブロックに属する複数のルーマサンプルに対する各々のフィルタを決定すること
を有する。現在ブロックに隣接するサンプルが利用可能である場合に、フィルタは、現在ブロックの境界エリアをフィルタ処理するためにそれらも使用し得る。
【0009】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、フィルタを決定することは、次の
現在ブロックが属するピクチャのクロマフォーマット、
現在ブロック内のルーマサンプルの位置、
現在ブロックに属するルーマサンプルの数、
現在ブロックの幅及び高さ、及び
現在ブロック内のルーマサンプルに対するサブサンプリングされたクロマサンプルの位置
のうちの１つ以上に基づき、フィルタを決定することを有する。
現在ブロックが属するピクチャのクロマフォーマット、
現在ブロック内のルーマサンプルの位置、
現在ブロックに属するルーマサンプルの数、
現在ブロックの幅及び高さ、及び
現在ブロック内のルーマサンプルに対するサブサンプリングされたクロマサンプルの位置
のうちの１つ以上に基づき、フィルタを決定することを有する。
【0010】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にない場合に、複数のフィルタと現在ブロックの幅及び高さの値との間の第１関係（例えば、表４）が、フィルタの決定のために使用され、
サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にある場合に、複数のフィルタと現在ブロックの幅及び高さの値との間の第２又は第３関係（例えば、表２又は表３のどちらか一方）が、フィルタの決定のために使用される。
サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にある場合に、複数のフィルタと現在ブロックの幅及び高さの値との間の第２又は第３関係（例えば、表２又は表３のどちらか一方）が、フィルタの決定のために使用される。
【0011】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、複数のフィルタと現在ブロックの幅及び高さの値との間の第２又は第３関係（例えば、表２又は表３のどちらか一方）は、現在ブロックに属するルーマサンプルの数に基づき決定される。
【0012】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、フィルタは、現在ブロックのクロマ成分がサブサンプリングされない場合に、フィルタ処理された再構成されたルーマサンプルの位置に水平方向及び垂直方向に隣接する位置にある非ゼロ係数を含む。
【0013】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、再構成されたルーマサンプルのエリアは、フィルタ処理された再構成されたサンプルの位置と相対的である複数の再構成されたルーマサンプルを含み、フィルタ処理された再構成されたルーマサンプルの位置は、現在ブロックに属するルーマサンプルの位置に対応し、フィルタ処理された再構成されたルーマサンプルの位置は、現在ブロックのルーマブロック内にある。
【0014】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、再構成されたルーマサンプルのエリアは、フィルタ処理された再構成されたルーマサンプルの位置に水平方向及び垂直方向に隣接する位置にある複数の再構成されたルーマサンプルを含み、フィルタ処理された再構成されたルーマサンプルの位置は、現在ブロックに属するルーマサンプルの位置に対応し、フィルタ処理された再構成されたルーマサンプルの位置は、現在ブロック（例えば、現在ブロックの現在ルーマブロック又はルーマ成分）内にある。そのようなものとして、フィルタ処理された再構成されたルーマサンプルの位置は、現在ブロック内にある（図８の右部分、ルーマサンプルにフィルタを適用する）。
【0015】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、クロマフォーマットはＹＣｂＣｒ ４：４：４クロマフォーマット、ＹＣｂＣｒ ４：２：０クロマフォーマット、ＹＣｂＣｒ ４：２：２クロマフォーマット、又はモノクロを有する。
【0016】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、線形モデル導出の入力として使用されるルーマサンプルのセットは、
フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）からサブサンプリングされる境界ルーマ再構成サンプルを有する。
フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）からサブサンプリングされる境界ルーマ再構成サンプルを有する。
【0017】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、現在クロマブロックの予測子は、
ｐｒｅｄＣ（ｉ，ｊ）＝α・ｒｅｃＬ’（ｉ，ｊ）＋β
に基づき取得される。ここで、ｐｒｅｄＣ（ｉ，ｊ）は、クロマサンプルを表し、ｒｅｃＬ（ｉ，ｊ）は、対応する再構成されたルーマサンプルを表す。
ｐｒｅｄＣ（ｉ，ｊ）＝α・ｒｅｃＬ’（ｉ，ｊ）＋β
に基づき取得される。ここで、ｐｒｅｄＣ（ｉ，ｊ）は、クロマサンプルを表し、ｒｅｃＬ（ｉ，ｊ）は、対応する再構成されたルーマサンプルを表す。
【0018】
そのようなものとして第１の態様に係る方法のとり得る実施形態で、線形モデルは、多方向線形モデル（ＭＤＬＭ）であり、線形モデル係数は、ＭＤＬＭを取得するために使用される。
【0019】
第２の態様に従って、本願は、符号化デバイスによって実装される符号化の方法であって、
線形モデル（例えば、交差成分線形モデル，ＣＣＬＭ、又は多方向線形モデル，ＭＤＬＭ）を用いてイントラ予測を実行することと、
複数のシンタックス要素を含むビットストリームを生成することであり、複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのような、ＳＰＳフラグ）を含む、ことと
を有する方法に関係がある。
線形モデル（例えば、交差成分線形モデル，ＣＣＬＭ、又は多方向線形モデル，ＭＤＬＭ）を用いてイントラ予測を実行することと、
複数のシンタックス要素を含むビットストリームを生成することであり、複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのような、ＳＰＳフラグ）を含む、ことと
を有する方法に関係がある。
【0020】
そのようなものとして第２の態様に係る方法のとり得る実施形態で、シンタックス要素の値が０又はＦＡＬＳＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用され、
シンタックス要素の値が１又はＴＲＵＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用されない。
シンタックス要素の値が１又はＴＲＵＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用されない。
【0021】
第３の態様に従って、本願は、復号化デバイスによって実装される復号化の方法であって、
複数のシンタックス要素をビットストリームからパースすることであり、複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのような、ＳＰＳフラグ）を含む、ことと、
示された線形モデル（例えば、ＣＣＬＭ）を用いてイントラ予測を実行することと
を有する方法に関係がある。
複数のシンタックス要素をビットストリームからパースすることであり、複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのような、ＳＰＳフラグ）を含む、ことと、
示された線形モデル（例えば、ＣＣＬＭ）を用いてイントラ予測を実行することと
を有する方法に関係がある。
【0022】
そのようなものとして第３の態様に係る方法のとり得る実施形態で、シンタックス要素の値が０又はＦＡＬＳＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用され、
シンタックス要素の値が１又はＴＲＵＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用されない。例えば、同一位置にある場合に、ルーマフィルタを使用しない。
シンタックス要素の値が１又はＴＲＵＥであるとき、フィルタは、線形モデル決定及び予測のためにルーマサンプルに適用されない。例えば、同一位置にある場合に、ルーマフィルタを使用しない。
【0023】
第４の態様に従って、本願は、
１つ以上のプロセッサと、
プロセッサへ結合され、プロセッサによって実行されるプログラミングを記憶している非一時的なコンピュータ可読記憶媒体と
を有し、プログラミングは、プロセッサによって実行される場合に、第１若しくは第２の態様、又は第１若しくは第２若しくは第３の態様のとり得る実施形態に係る方法を実行するようにデコーダを構成する、デコーダに関係がある。
１つ以上のプロセッサと、
プロセッサへ結合され、プロセッサによって実行されるプログラミングを記憶している非一時的なコンピュータ可読記憶媒体と
を有し、プログラミングは、プロセッサによって実行される場合に、第１若しくは第２の態様、又は第１若しくは第２若しくは第３の態様のとり得る実施形態に係る方法を実行するようにデコーダを構成する、デコーダに関係がある。
【0024】
第５の態様に従って、本願は、
１つ以上のプロセッサと、
プロセッサへ結合され、プロセッサによって実行されるプログラミングを記憶している非一時的なコンピュータ可読記憶媒体と
を有し、プログラミングは、プロセッサによって実行される場合に、第１若しくは第２の態様、又は第１若しくは第２若しくは第３の態様のとり得る実施形態に係る方法を実行するようにエンコーダを構成する、エンコーダに関係がある。
１つ以上のプロセッサと、
プロセッサへ結合され、プロセッサによって実行されるプログラミングを記憶している非一時的なコンピュータ可読記憶媒体と
を有し、プログラミングは、プロセッサによって実行される場合に、第１若しくは第２の態様、又は第１若しくは第２若しくは第３の態様のとり得る実施形態に係る方法を実行するようにエンコーダを構成する、エンコーダに関係がある。
【0025】
第６の態様に従って、本願は、線形モデルを使用するイントラ予測のための装置であって、
現在ブロックが属するピクチャのクロマフォーマットに基づき、ブロックに属するルーマサンプル（例えば、各ルーマサンプル）に対するフィルタを決定するよう構成される決定ユニットと、
現在ブロックに属するルーマサンプル（例えば、各ルーマサンプル）の位置で、決定されたフィルタを再構成されたルーマサンプルに適用して、フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）を取得するよう構成されるフィルタリングユニットと、
フィルタ処理された再構成されたルーマサンプルに基づき、線形モデル導出の入力として使用されるルーマサンプルのセットを取得するよう構成される取得ユニットと、
線形モデル導出の線形モデル係数及びフィルタ処理された再構成されたルーマサンプルに基づき交差成分予測（例えば、ルーマからクロマの交差成分予測又はＣＣＬＭ予測）を実行するよう構成される予測ユニットと
を有する装置に関係がある。
現在ブロックが属するピクチャのクロマフォーマットに基づき、ブロックに属するルーマサンプル（例えば、各ルーマサンプル）に対するフィルタを決定するよう構成される決定ユニットと、
現在ブロックに属するルーマサンプル（例えば、各ルーマサンプル）の位置で、決定されたフィルタを再構成されたルーマサンプルに適用して、フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）を取得するよう構成されるフィルタリングユニットと、
フィルタ処理された再構成されたルーマサンプルに基づき、線形モデル導出の入力として使用されるルーマサンプルのセットを取得するよう構成される取得ユニットと、
線形モデル導出の線形モデル係数及びフィルタ処理された再構成されたルーマサンプルに基づき交差成分予測（例えば、ルーマからクロマの交差成分予測又はＣＣＬＭ予測）を実行するよう構成される予測ユニットと
を有する装置に関係がある。
【0026】
本願の第１の態様に係る方法は、本願の第６の態様に係る装置によって実行され得る。本願の第６の態様に係る装置の更なる特徴及び実施形態は、本願の第１の態様に係る方法の特徴及び実施形態に対応する。
【0027】
本願の他の態様に従って、線形モデルを使用するイントラ予測の方法が提供される。方法は、次の
現在ブロックが属するピクチャのクロマフォーマットに基づきダウンサンプリングフィルタの組を決定するステップと、
再構成された隣接する上側ルーマサンプルが利用可能でないとき、再構成されたルーマブロックからのパディングによって隣接サンプルの２つの上行を取得するステップと、
再構成された隣接する左側ルーマサンプルが利用可能でないとき、再構成されたルーマサンプルからのパディングによって隣接サンプルの３つの左列を取得するステップと、
現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得するステップと、
ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを、取得された隣接サンプルの２つの上行のうちの選択されたサンプルに適用することによって、上側のダウンサンプリングされたルーマ参照サンプルを取得するステップであり、選択されたサンプルが左上位置（１２０２）にあるとき、各々のダウンサンプリングフィルタは、再構成された隣接サンプルとパディングされた隣接サンプルとの組み合わせに適用される、ステップと、
ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを、取得された隣接サンプルの３つの左列のうちの選択されたサンプルに適用することによって、左側のダウンサンプリングされたルーマ参照サンプルを取得するステップと、
上側若しくは左側又は上側及び左側の組み合わせのダウンサンプリングされたルーマ参照サンプルと、ダウンサンプリングされたルーマ参照サンプルに対応するクロマ参照サンプルとに基づき、１つ以上の線形モデル係数を決定するステップと、
線形モデル係数及びルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルに基づき、ルーマブロックに対応するクロマブロックの予測サンプルを取得するステップと
を有する。
現在ブロックが属するピクチャのクロマフォーマットに基づきダウンサンプリングフィルタの組を決定するステップと、
再構成された隣接する上側ルーマサンプルが利用可能でないとき、再構成されたルーマブロックからのパディングによって隣接サンプルの２つの上行を取得するステップと、
再構成された隣接する左側ルーマサンプルが利用可能でないとき、再構成されたルーマサンプルからのパディングによって隣接サンプルの３つの左列を取得するステップと、
現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得するステップと、
ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを、取得された隣接サンプルの２つの上行のうちの選択されたサンプルに適用することによって、上側のダウンサンプリングされたルーマ参照サンプルを取得するステップであり、選択されたサンプルが左上位置（１２０２）にあるとき、各々のダウンサンプリングフィルタは、再構成された隣接サンプルとパディングされた隣接サンプルとの組み合わせに適用される、ステップと、
ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを、取得された隣接サンプルの３つの左列のうちの選択されたサンプルに適用することによって、左側のダウンサンプリングされたルーマ参照サンプルを取得するステップと、
上側若しくは左側又は上側及び左側の組み合わせのダウンサンプリングされたルーマ参照サンプルと、ダウンサンプリングされたルーマ参照サンプルに対応するクロマ参照サンプルとに基づき、１つ以上の線形モデル係数を決定するステップと、
線形モデル係数及びルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルに基づき、ルーマブロックに対応するクロマブロックの予測サンプルを取得するステップと
を有する。
【0028】
本願の第１の態様に係る方法は、本願の第６の態様に係る装置によって実行され得る。本願の第１の態様に係る方法の更なる特徴及び実施形態は、本願の第６の態様に係る装置の特徴及び実施形態に対応する。
【0029】
他の態様に従って、本願は、プロセッサ及びメモリを含む、ビデオストリームを復号する装置に関係がある。メモリは、プロセッサに、第１又は第３の態様に係る方法を実行させる命令を記憶している。
【0030】
他の態様に従って、本願は、プロセッサ及びメモリを含む、ビデオストリームを符号化する装置に関係がある。メモリは、プロセッサに、第２の態様に係る方法を実行させる命令を記憶している。
【0031】
他の態様に従って、実行される場合に、ビデオデータをコード化するよう構成される１つ以上のプロセッサをもたらす命令が記憶されているコンピュータ可読記憶媒体が、提案される。命令は、１つ以上のプロセッサに、第１若しくは第２の態様又は第１若しくは第２若しくは第３の態様のいずれかのとり得る実施形態に係る方法を実行させる。
【0032】
他の態様に従って、本願は、第１若しくは第２の態様又は第１若しくは第２若しくは第３の態様のいずれかのとり得る実施形態に係る方法を実行するためのプログラムコードを含むコンピュータプログラムに関係がある。
【0033】
上記の態様及びそれらの態様のいずれかのとり得る実施形態で、現在ブロックのルーマブロック内の再構成されたルーマサンプルに、及び／又は現在ブロックに隣接する選択された位置でのルーマサンプルにフィルタを適用するために、フィルタは、ダウンサンプリングフィルタの組に属し、ダウンサンプリングフィルタの組には、削減された数のフィルタしか含まれない。相応して、それは、再構成されたルーマサンプルに、及び／又は現在ブロックに隣接する選択された位置でのルーマサンプルに適用されるフィルタのタップの数を減らし得る。
【0034】
１つ以上の実施形態の詳細は、添付の図面及び以下の説明で示される。他の特徴、目的、及び利点は、明細書、図面、及び特許請求の範囲から明らかになるだろう。
【0035】
以下では、本願の実施形態が、添付の図及び図面を参照して更に詳細に記載される。
【図面の簡単な説明】
【0036】
【図1A】本願の実施形態を実装するよう構成されたビデオコーディングシステムの例を示すブロック図である。
【図1B】本願の実施形態を実装するよう構成されたビデオコーディングシステムの他の例を示すブロック図である。
【図2】本願の実施形態を実装するよう構成されたビデオエンコーダの例を示すブロック図である。
【図3】本願の実施形態を実装するよう構成されたビデオデコーダの例示的な構造を示すブロック図である。
【図4】本開示の実施形態に係る符号化装置又は復号化装置の例を表すブロック図である。
【図5】本開示の例示的な実施形態に係る符号化装置又は復号化装置の他の例を表すブロック図である。
【図6】クロマイントラ予測のための交差成分線形モデルの概念を表す図である。
【図7】線形モデルパラメータ導出の簡略化された方法を表す図である。
【図8】クロマフォーマットＹＵＶ ４：２：０についてルーマサンプルをダウンサンプリングするプロセスと、それらがどのようにクロマサンプルに対応するかとを表す図である。
【図9】クロマフォーマットＹＵＶ ４：２：０の場合にダウンサンプリングフィルタリングに使用されるルーマサンプルの空間位置を表す図である。
【図10A】異なるクロマサンプルタイプを表す図である。
【図10B】異なるクロマサンプルタイプを表す図である。
【図11】本開示の例示的な実施形態に係る方法を表す図である。
【図12A】左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：０として指定されるか、又はブロック境界がＣＴＵライン境界である実施形態を示す。
【図12B】ブロック境界がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される実施形態を示す。
【図12C】左上サンプルが利用可能ではなく、かつ、クロマフォーマットがＹＵＶ ４：２：０として指定されるか、又はブロック境界がＣＴＵライン境界である実施形態を示す。
【図12D】ブロック境界がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される実施形態を示す。
【図13】例示的な３－タップフィルタ１３０２による再構成されたルミナンスブロック１３０１のフィルタリング動作を示す。
【図14】本願の実施形態に係るクロマブロック予測の方法を表す。
【図15】本願の実施形態に係るデバイスを表す。
【図16】コンテンツ配信サービスを実現するコンテンツ供給システム３１００の構造の例を示すブロック図である。
【図17】端末デバイスの例の構造を示すブロック図である。
【発明を実施するための形態】
【0037】
以下では、同じ参照符号は、明示的に別段の定めがない場合には、同じ又は少なくとも機能的に同等の特徴を参照する。
【0038】
以下の記載では、本開示の部分を形成し、実例として、本願の実施形態の具体的な態様、又は本願の実施形態が使用される可能性がある具体的な態様を示す添付の図が、参照される。本願の実施形態は、他の態様で使用され、図に表されていない構造的又は論理的な変化を含んでもよい、ことが理解される。
【0039】
次の略称が適用される：
ＡＢＴ：asymmetric BT
ＡＭＶＰ：advanced motion vector prediction
ＡＳＩＣ：application-specific integrated circuit
ＡＶＣ：Advanced Video Coding
Ｂ：bidirectional prediction
ＢＴ：binary tree
ＣＡＢＡＣ：context-adaptive binary arithmetic coding
ＣＡＶＬＣ：context-adaptive variable-length coding
ＣＤ：compact disc
ＣＤ－ＲＯＭ：compact disc read-only memory
ＣＰＵ：central processing unit
ＣＲＴ：cathode-ray tube
ＣＴＵ：coding tree unit
ＣＵ：coding unit
ＤＡＳＨ：Dynamic Adaptive Streaming over HTTP
ＤＣＴ：discrete cosine transform
ＤＭＭ：depth modeling mode
ＤＲＡＭ：dynamic random-access memory
ＤＳＬ：digital subscriber line
ＤＳＰ：digital signal processor
ＤＶＤ：digital video disc
ＥＥＰＲＯＭ：electrically-erasable programmable read-only memory
ＥＯ：electrical-to-optical
ＦＰＧＡ：field-programmable gate array
ＦＴＰ：File Transfer Protocol
ＧＯＰ：group of pictures
ＧＰＢ：generalized P/B
ＧＰＵ：graphics processing unit
ＨＤ：high-definition
ＨＥＶＣ：High Efficiency Video Coding
ＨＭ：HEVC Test Model
Ｉ：intra-mode
ＩＣ：integrated circuit
ＩＳＯ／ＩＥＣ：International Organization for Standardization/International Electrotechnical Commission
ＩＴＵ－Ｔ：International Telecommunications Union Telecommunication Standardization Sector
ＪＶＥＴ：Joint Video Exploration Team
ＬＣＤ：liquid-crystal display
ＬＣＵ：largest coding unit
ＬＥＤ：light-emitting diode
ＭＰＥＧ：Motion Picture Expert Group
ＭＰＥＧ－２：Motion Picture Expert Group 2
ＭＰＥＧ－４：Motion Picture Expert Group 4
ＭＴＴ：multi-type tree
ｍｕｘ－ｄｅｍｕｘ：multiplexer-demultiplexer
ＭＶ：motion vector
ＮＡＳ：network-attached storage
ＯＥ：optical-to-electrical
ＯＬＥＤ：organic light-emitting diode
ＰＩＰＥ：probability interval portioning entropy
Ｐ：unidirectional prediction
ＰＰＳ：picture parameter set
ＰＵ：prediction unit
ＱＴ：quadtree, quaternary tree
ＱＴＢＴ：quadtree plus binary tree
ＲＡＭ：random-access memory
ＲＤＯ：rate-distortion optimization
ＲＦ：radio frequency
ＲＯＭ：read-only memory
Ｒｘ：receiver unit
ＳＡＤ：sum of absolute differences
ＳＢＡＣ：syntax-based arithmetic coding
ＳＨ：slice header
ＳＰＳ：sequence parameter set
ＳＲＡＭ：static random-access memory
ＳＳＤ：sum of squared differences
ＳｕｂＣＥ：SubCore Experiment
ＴＣＡＭ：ternary content-addressable memory
ＴＴ：ternary tree
Ｔｘ：transmitter unit
ＴＵ：transform unit
ＵＤＰ：User Datagram Protocol
ＶＣＥＧ：Video Coding Experts Group
ＶＴＭ：VVC Test Model
ＶＶＣ：Versatile Video Coding
ＡＢＴ：asymmetric BT
ＡＭＶＰ：advanced motion vector prediction
ＡＳＩＣ：application-specific integrated circuit
ＡＶＣ：Advanced Video Coding
Ｂ：bidirectional prediction
ＢＴ：binary tree
ＣＡＢＡＣ：context-adaptive binary arithmetic coding
ＣＡＶＬＣ：context-adaptive variable-length coding
ＣＤ：compact disc
ＣＤ－ＲＯＭ：compact disc read-only memory
ＣＰＵ：central processing unit
ＣＲＴ：cathode-ray tube
ＣＴＵ：coding tree unit
ＣＵ：coding unit
ＤＡＳＨ：Dynamic Adaptive Streaming over HTTP
ＤＣＴ：discrete cosine transform
ＤＭＭ：depth modeling mode
ＤＲＡＭ：dynamic random-access memory
ＤＳＬ：digital subscriber line
ＤＳＰ：digital signal processor
ＤＶＤ：digital video disc
ＥＥＰＲＯＭ：electrically-erasable programmable read-only memory
ＥＯ：electrical-to-optical
ＦＰＧＡ：field-programmable gate array
ＦＴＰ：File Transfer Protocol
ＧＯＰ：group of pictures
ＧＰＢ：generalized P/B
ＧＰＵ：graphics processing unit
ＨＤ：high-definition
ＨＥＶＣ：High Efficiency Video Coding
ＨＭ：HEVC Test Model
Ｉ：intra-mode
ＩＣ：integrated circuit
ＩＳＯ／ＩＥＣ：International Organization for Standardization/International Electrotechnical Commission
ＩＴＵ－Ｔ：International Telecommunications Union Telecommunication Standardization Sector
ＪＶＥＴ：Joint Video Exploration Team
ＬＣＤ：liquid-crystal display
ＬＣＵ：largest coding unit
ＬＥＤ：light-emitting diode
ＭＰＥＧ：Motion Picture Expert Group
ＭＰＥＧ－２：Motion Picture Expert Group 2
ＭＰＥＧ－４：Motion Picture Expert Group 4
ＭＴＴ：multi-type tree
ｍｕｘ－ｄｅｍｕｘ：multiplexer-demultiplexer
ＭＶ：motion vector
ＮＡＳ：network-attached storage
ＯＥ：optical-to-electrical
ＯＬＥＤ：organic light-emitting diode
ＰＩＰＥ：probability interval portioning entropy
Ｐ：unidirectional prediction
ＰＰＳ：picture parameter set
ＰＵ：prediction unit
ＱＴ：quadtree, quaternary tree
ＱＴＢＴ：quadtree plus binary tree
ＲＡＭ：random-access memory
ＲＤＯ：rate-distortion optimization
ＲＦ：radio frequency
ＲＯＭ：read-only memory
Ｒｘ：receiver unit
ＳＡＤ：sum of absolute differences
ＳＢＡＣ：syntax-based arithmetic coding
ＳＨ：slice header
ＳＰＳ：sequence parameter set
ＳＲＡＭ：static random-access memory
ＳＳＤ：sum of squared differences
ＳｕｂＣＥ：SubCore Experiment
ＴＣＡＭ：ternary content-addressable memory
ＴＴ：ternary tree
Ｔｘ：transmitter unit
ＴＵ：transform unit
ＵＤＰ：User Datagram Protocol
ＶＣＥＧ：Video Coding Experts Group
ＶＴＭ：VVC Test Model
ＶＶＣ：Versatile Video Coding
【0040】
例えば、記載されている方法に関連する開示は、方法を実行するよう構成された対応するデバイス又はシステムにも当てはまり、その逆も同様であり得る、ことが理解される。例えば、１つ又は複数の具体的な方法ステップが記載される場合に、対応するデバイスは、記載されている１つ又は複数の方法ステップを実行する１つ又は複数のユニット、例えば、機能ユニット（例えば、１つ又は複数のステップを実行する１つのユニット、あるいは、複数のステップのうちの１つ以上を夫々が実行する複数のユニット）を、たとえそのような１つ以上のユニットが明示的に記載又は図示されていないとしても、含んでよい。他方で、例えば、具体的な装置が１つ又は複数のユニット、例えば、機能ユニットに基づいて記載される場合に、対応する方法は、１つ又は複数のユニットの機能を実行する１つのステップ（例えば、１つ又は複数のユニットの機能を実行する１つ又は複数のステップ、あるいは、複数のユニットのうちの１つ以上の機能を夫々が実行する複数のステップ）を、たとえそのような１つ又は複数のステップが明示的に記載又は図示されていないとしても、含んでよい。更に、ここで記載されている様々な例示的な実施形態及び／又は態様の特徴は、特段の断りのない限りは、互いに組み合わされてよい、ことが理解される。
【0041】
ビデオコーディングは、通常は、ビデオ又はビデオシーケンスを形成するピクチャの連続を処理することを指す。「ピクチャ」との用語の代わりに、「フレーム」又は「画像」との用語が、ビデオコーディングの分野では同義的に使用されることがある。ビデオコーディング（又はコーディング全般）は、２つの部分、すなわち、ビデオ符号化及びビデオ復号化を有する。ビデオ符号化は、送信元側で行われ、通常、（より効率的な記憶及び／又は伝送のために）ビデオピクチャを表すために必要なデータの量を減らすよう原ビデオピクチャを（例えば、圧縮によって）処理することを有する。ビデオ復号化は、送信先側で行われ、通常、ビデオピクチャを再構成するようエンコーダと比較して逆の処理を有する。ビデオピクチャ（又はピクチャ全般）の“コーディング”に言及している実施形態は、ビデオピクチャ又は各々のビデオシーケンスの“符号化”又は“復号化”に関係があると理解されるべきである。符号化部分及び復号化部分の組み合わせは、ＣＯＤＥＣ（Coding and Decoding）とも呼ばれる。
【0042】
可逆ビデオコーディングの場合に、原ビデオピクチャは再構成可能である。すなわち、再構成されたビデオピクチャは、（記憶又は伝送中に伝送損失又は他のデータ損失がないとして）原ビデオピクチャと同じ品質を有する。不可逆ビデオコーディングの場合に、例えば、量子化による、更なる圧縮が、ビデオピクチャを表すデータの量を低減するために実行され、ビデオピクチャは、デコーダで完全には再構成され得ない。すなわち、再構成されたビデオピクチャの品質は、原ビデオピクチャの品質と比較して低下又は悪化する。
【0043】
いくつかのビデオコーディング標準規格は、“不可逆ハイブリッドビデオコーデック”のグループに属する（すなわち、サンプル領域での空間及び時間予測と、変換領域で量子化を適用する２Ｄ変換コーディングとを組み合わせる）。ビデオシーケンスの各ピクチャは、通常、重なり合わないブロックの組に分割され、コーディングは、通常はブロックレベルで実行される。言い換えると、エンコーダでは、ビデオは、通常、例えば、空間（イントラピクチャ）予測及び／又は時間（インターピクチャ）予測を使用して予測ブロックを生成し、現在のブロック（現在処理中の／処理されるべきブロック）から予測ブロックを減じて残差ブロックを取得し、残差ブロックを変換し、変換領域で残差ブロックを量子化して、送信されるべきデータの量を低減すること（圧縮）によって、ブロック（ビデオブロック）レベルで処理、すなわち、符号化され、一方、デコーダでは、エンコーダと比較して逆の処理が、表示のために現在のブロックを再構成するよう、符号化又は圧縮されたブロックに適用される。更に、エンコーダは、デコーダ処理ループを複製し、それにより、両方が、その後のブロックを処理、すなわち、コーディングするために、同じ予測（例えば、イントラ及びインター予測）及び／又は再構成を生成することになる。
【0044】
以下では、ビデオコーディングシステム１０、ビデオエンコーダ２０、及びビデオデコーダ３０の実施形態が、図１から３に基づいて説明される。
【0045】
図１Ａは、例となるコーディングシステム１０、例えば、本願の技術を利用し得るビデオコーディングシステム１０（略して、コーディングシステム１０）を表す概略ブロック図である。ビデオコーディングシステム１０のビデオエンコーダ２０（略して、エンコーダ２０）及びビデオデコーダ３０（略して、デコーダ３０）は、本願で記載されている様々な例に従う技術を実行するよう構成され得るデバイスの例を表す。
【0046】
図１Ａに示されるように、コーディングシステム１０は、符号化されたピクチャデータ２１を、例えば、符号化されたピクチャデータ２１を復号する送信先デバイス１４へ供給するよう構成された送信元デバイス１２を有する。
【0047】
送信元デバイス１２は、エンコーダ２０を有し、更には、すなわち、任意に、ピクチャソース１６、プリプロセッサ（又は前処理ユニット）１８、例えば、ピクチャプリプロセッサ１８、及び通信インターフェース又は通信ユニット２２を有してよい。
【0048】
ピクチャソース１６は、あらゆる種類のピクチャ捕捉デバイス、例えば、現実世界のピクチャを捕捉するカメラ、及び／又はあらゆる種類のピクチャ生成デバイス、例えば、コンピュータアニメーション化されたピクチャを生成するコンピュータグラフィクスプロセッサ、あるいは、現実世界のピクチャ、コンピュータにより生成されたピクチャ（例えば、スクリーンコンテンツ、仮想現実（ＶＲ）ピクチャ）及び／又はそれらのあらゆる組み合わせ（例えば、拡張現実（ＡＲ）ピクチャ）を取得及び／又は供給するあらゆる種類の他のデバイスを有するか、又はそのようなものであってよい。ピクチャソースは、上記のピクチャのいずれかを記憶するあらゆる種類のメモリ又はストレージであってよい。
【0049】
プリプロセッサ１８及び前処理ユニット１８によって実行される処理と区別して、ピクチャ又はピクチャデータ１７は、ローピクチャ又はローピクチャデータ１７とも呼ばれ得る。
【0050】
プリプロセッサ１８は、（ロー）ピクチャデータ１７を受け取り、そして、前処理されたピクチャ１９又は前処理されたピクチャデータ１９を取得するようピクチャデータ１７に対して前処理を実行するよう構成される。プリプロセッサ１８によって実行される前処理は、例えば、トリミング、カラーフォーマット変換（例えば、ＲＧＢからＹＣｂＣｒへ）、色補正、又はノイズ除去を有してよい。前処理ユニット１８は任意のコンポーネントであってよい、ことが理解され得る。
【0051】
ビデオエンコーダ２０は、前処理されたピクチャデータ１９を受け取り、符号化されたピクチャデータ２１を供給するよう構成される（更なる詳細は、例えば、図２に基づいて、以下で説明される）。
【0052】
送信元デバイス１２の通信インターフェース２２は、符号化されたピクチャデータ２１を受け取り、符号化されたピクチャデータ２１（又はそのあらゆる更に処理されたバージョン）を他のデバイス、例えば、送信先デバイス１４又は何らかの他のデバイスへ、記憶又は直接の再構成のために通信チャネル１３を介して送信するよう構成されてよい。
【0053】
送信先デバイス１４は、デコーダ３０（例えば、ビデオデコーダ３０）を有し、更には、すなわち、任意に、通信インターフェース又は通信ユニット２８、ポストプロセッサ３２（又は後処理ユニット３２）、及び表示デバイス３４を有してよい。
【0054】
送信先デバイス１４の通信インターフェース２８は、符号化されたピクチャデータ２１（又はそのあらゆる更に処理されたバージョン）を、例えば、送信元デバイス１２から直接に、又は何らかの他のソース、例えば、記憶デバイス、例えば、符号化ピクチャデータ記憶デバイスから受信し、符号化されたピクチャデータ２１をデコーダ３０へ供給するよう構成される。
【0055】
通信インターフェース２２及び通信インターフェース２８は、送信元デバイス１２と送信先デバイス１４との間の直接通信リンク、例えば、直接の有線又は無線接続を介して、あるいは、あらゆる種類のネットワーク、例えば、有線若しくは無線ネットワーク又はそれらの任意の組み合わせ、又はあらゆる種類のプライベート及びパブリックネットワーク、あるいは、あらゆる種類のそれらの組み合わせを介して、符号化されたピクチャデータ２１又は符号化されたデータ１３を送信又は受信するよう構成されてよい。
【0056】
通信インターフェース２２は、例えば、符号化されたピクチャデータ２１を適切なフォーマット、例えば、パケット、にパッケージ化し、且つ／あるいは、通信リンク又は通信ネットワーク上での送信のためのあらゆる種類の伝送符号化又は処理を用いて、符号化されたピクチャデータを処理するよう構成されてよい。
【0057】
通信インターフェース２２の対応物を形成する通信インターフェース２８は、例えば、伝送されたデータを受信し、符号化されたピクチャデータ２１を取得するようあらゆる種類の対応する伝送復号化若しくは処理及び／又はアンパッケージ化を用いて伝送データを処理するよう構成されてよい。
【0058】
通信インターフェース２２及び通信インターフェース２８は両方とも、図１Ａで送信元デバイス１２から送信先デバイス１４を指している通信チャネル１３のための矢印によって示される一方向通信インターフェース、又は双方向通信インターフェースとして構成されてよく、例えば、メッセージを送信及び受信するよう、例えば、通信リンク及び／又はデータ伝送、例えば、符号化されたピクチャデータ伝送に関するあらゆる他の情報を確認応答及び交換するために、接続をセットアップするよう構成されてよい。
【0059】
デコーダ３０は、符号化されたピクチャデータ２１を受信し、復号されたピクチャデータ３１又は復号されたピクチャ３１を供給するよう構成される（更なる詳細は、例えば、図３又は図５に基づいて、以下で説明される）。
【0060】
送信先デバイス１４のポストプロセッサ３２は、後処理されたピクチャデータ３３、例えば、後処理されたピクチャ３３を取得するために、復号されたピクチャデータ３１（再構成されたピクチャデータとも呼ばれる）、例えば、復号されたピクチャ３１を後処理するよう構成される。後処理ユニット３２によって実行される後処理は、例えば、カラーフォーマット変換（例えば、ＹＣｂＣｒからＲＧＢへ）、色補正、トリミング、若しくはリサンプリング、又は例えば、復号されたピクチャデータ３１を、例えば、表示デバイス３４による、表示のために準備する、あらゆる他の処理を有してよい。
【0061】
送信先デバイス１４の表示デバイス３４は、ピクチャを、例えば、ユーザ又は見る者に表示するために、後処理されたピクチャデータ３３を受信するよう構成される。表示デバイス３４は、再構成されたピクチャを表現するあらゆる種類のディスプレイ、例えば、内蔵型又は外付けディスプレイ又はモニタであっても又はそれを有してもよい。ディスプレイは、例えば、液晶ディスプレイ（ＬＣＤ）、有機発光ダイオード（ＯＬＥＤ）ディスプレイ、プラズマディスプレイ、プロジェクタ、マイクロＬＥＤディスプレイ、リキッド・クリスタル・オン・シリコン（ＬＣｏＳ）、デジタル・ライト・プロセッサ（ＤＬＰ）、又はあらゆる種類の他のディスプレイを有してよい。
【0062】
図１Ａは、送信元デバイス１２及び送信先デバイス１４を別個のデバイスとして表すが、デバイスの実施形態は、両方又は両方の機能、すなわち、送信元デバイス１２又は対応する機能及び送信先デバイス１４又は対応する機能を有してもよい。そのような実施形態で、送信元デバイス１２又は対応する機能及び送信先デバイス１４又は対応する機能は、同じハードウェア及び／又はソフトウェアを用いて、あるいは、別個のハードウェア及び／又はソフトウェア、又はそれらのあらゆる組み合わせによって、実施されてもよい。
【0063】
記載に基づいて当業者に明らかなように、異なるユニットの機能、あるいは、図１Ａに示されている送信元デバイス１２及び／又は送信先デバイス１４内の機能の存在及び（厳密な）分割は、実際のデバイス及び用途に応じて様々であり得る。
【0064】
エンコーダ２０（例えば、ビデオエンコーダ２０）若しくはデコーダ３０（例えば、ビデオデコーダ）又はエンコーダ２０及びデコーダ３０の両方は、１つ以上のマイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）、ディスクリートロジック、ハードウェア、それらのビデオコーディング専用の又は任意の組み合わせなどの、図１Ｂに示される処理回路を用いて実施されてよい。エンコーダ２０は、図２のエンコーダ２０及び／又はここで記載されるあらゆる他のエンコーダシステム若しくはサブシステムに関して論じられている様々なモジュールを具現するために処理回路４６を用いて実施されてよい。デコーダ３０は、図３のデコーダ３０及び／又はここで記載されるあらゆる他のデコーダシステム若しくはサブシステムに関して論じられている様々なモジュールを具現するために処理回路４６を用いて実施されてよい。処理回路は、後述される様々な動作を実行するよう構成されてよい。図５に示されるように、技術が部分的にソフトウェアで実施される場合に、デバイスは、適切な、非一時的なコンピュータ可読記憶媒体においてソフトウェアのための命令を記憶してよく、本開示の技術を実行するために１つ以上のプロセッサを用いてハードウェアで命令を実行してよい。ビデオエンコーダ２０及びビデオデコーダ３０のどちらかは、例えば、図１Ｂに示されるように、単一のデバイスにおいて複合エンコーダ／デコーダ（ＣＯＤＥＣ）の部分として組み込まれてもよい。
【0065】
送信元デバイス１２及び送信先デバイス１４は、あらゆる種類の携帯型又は固定型デバイス、例えば、ノートブック又はラップトップコンピュータ、携帯電話機、スマートフォン、タブレット又はタブレットコンピュータ、カメラ、デスクトップコンピュータ、セットトップボックス、テレビ受像機、表示デバイス、デジタルメディアプレイヤー、ビデオゲーム機、ビデオストリーミングデバイス（例えば、コンテンツサービスサーバ若しくはコンテンツ配信サーバ）、放送受信器デバイス、放送送信器デバイス、などを含む広範囲のデバイスのいずれかを有してよく、任意の種類のオペレーティングシステムを使用してもしなくてもよい。いくつかの場合に、送信元デバイス１２及び送信先デバイス１４は、無線通信のために装備されてよい。よって、送信元デバイス１２及び送信先デバイス１４は、無線通信デバイスであってよい。
【0066】
いくつかの場合に、図１Ａに表されているビデオコーディングシステム１０は、一例にすぎず、本願の技術は、符号化及び復号化デバイス間の如何なるデータ通信も必ずしも含まないビデオコーディング設定（例えば、ビデオ符号化又はビデオ復号化）に適用されてよい。他の例では、データは、ローカルメモリから取り出されたり、又はネットワーク上でストリーミングされたり、などする。ビデオ符号化デバイスは、データを符号化してメモリに格納してよく、かつ／あるいは、ビデオ復号化デバイスは、メモリからデータを取り出して復号化してよい。いくつかの例で、符号化及び復号化は、互いと通信せず、単にデータを符号化してメモリに記憶し及び／又はメモリからデータを読み出して復号するデバイスによって実行される。
【0067】
記載の便宜上、本発明の実施形態は、例えば、High-Efficiency Video Coding（ＨＥＶＣ）を、又はＩＴＵ－ＴのVideo Coding Experts Group（ＶＣＥＧ）及びＩＳＯ／ＩＥＣのMotion Picture Experts Group（ＭＰＥＧ）のJoint Collaboration Team on Video Coding（ＪＣＴ－ＶＣ）によって開発された次世代ビデオコーディング標準規格であるVersatile Video coding（ＶＶＣ）の参照ソフトウェアを参照して、ここで説明される、当業者は、本発明の実施形態がＨＥＶＣ又はＶＶＣに限定されないと理解するだろう。
【0068】
エンコーダ及び符号化方法
図２は、本願の技術を実装するよう構成される、例となるビデオエンコーダ２０の概略ブロック図を示す。図２の例では、ビデオエンコーダ２０は、入力部２０１（又は入力インターフェース２０１）、残差計算ユニット２０４、変換処理ユニット２０６、量子化ユニット２０８、逆量子化ユニット２１０、逆変換処理ユニット２１２、再構成ユニット２１４、ループフィルタユニット２２０、復号化ピクチャバッファ（ＤＰＢ）２３０、モード選択ユニット２６０、エントロピ符号化ユニット２７０、及び出力部２７２（又は出力インターフェース２７２）を有する。モード選択ユニット２６０は、インター予測ユニット２４４、イントラ予測ユニット２５４、及びパーティショニングユニット２６２を含んでよい。インター予測ユニット２４４は、動き推定ユニット及び動き補償ユニット（図示せず）を含んでよい。図２に示されているビデオエンコーダ２０は、ハイブリッドビデオエンコーダ、又はハイブリッドビデオコーデックに従うビデオエンコーダとも呼ばれ得る。
図２は、本願の技術を実装するよう構成される、例となるビデオエンコーダ２０の概略ブロック図を示す。図２の例では、ビデオエンコーダ２０は、入力部２０１（又は入力インターフェース２０１）、残差計算ユニット２０４、変換処理ユニット２０６、量子化ユニット２０８、逆量子化ユニット２１０、逆変換処理ユニット２１２、再構成ユニット２１４、ループフィルタユニット２２０、復号化ピクチャバッファ（ＤＰＢ）２３０、モード選択ユニット２６０、エントロピ符号化ユニット２７０、及び出力部２７２（又は出力インターフェース２７２）を有する。モード選択ユニット２６０は、インター予測ユニット２４４、イントラ予測ユニット２５４、及びパーティショニングユニット２６２を含んでよい。インター予測ユニット２４４は、動き推定ユニット及び動き補償ユニット（図示せず）を含んでよい。図２に示されているビデオエンコーダ２０は、ハイブリッドビデオエンコーダ、又はハイブリッドビデオコーデックに従うビデオエンコーダとも呼ばれ得る。
【0069】
残差計算ユニット２０４、変換処理ユニット２０６、量子化ユニット２０８、モード選択ユニット２６０は、エンコーダ２０の順方向の信号パスを形成すると言われることがあり、一方、逆量子化ユニット２１０、逆変換処理ユニット２１２、再構成ユニット２１４、バッファ２１６、ループフィルタ２２０、復号化ピクチャバッファ（ＤＰＢ）２３０、インター予測ユニット２４４、及びイントラ予測ユニット２５４は、ビデオエンコーダ２０の逆方向の信号パスを形成すると言われることがあり、ビデオエンコーダ２０の逆方向の信号パスは、デコーダ（図３のビデオデコーダ３０を参照）の信号パスに対応する。逆量子化ユニット２１０、逆変換処理ユニット２１２、再構成ユニット２１４、ループフィルタ２２０、復号化ピクチャバッファ（ＤＰＢ）２３０、インター予測ユニット２４４、及びイントラ予測ユニット２５４は、ビデオエンコーダ２０の“ビルトインデコーダ”を形成するとも言われる。
【0070】
ピクチャ及びピクチャパーティショニング（ピクチャ及びブロック）
エンコーダ２０は、例えば、入力部２０２を介して、ピクチャ１７（又はピクチャデータ１７）、例えば、ビデオ又はビデオシーケンスを形成するピクチャの連続の中のピクチャ、を受け取るよう構成されてよい。受け取られたピクチャ又はピクチャデータは、前処理されたピクチャ１９（又は前処理されたピクチャデータ１９）であってもよい。簡単のために、以下の説明はピクチャ１７に言及する。ピクチャ１７は、現在のピクチャ又はコーディングされるべきピクチャとも呼ばれ得る（特に、ビデオコーディングにおいて、現在のピクチャを他のピクチャ、例えば、同じビデオシーケンス、すなわち、現在のピクチャも含むビデオシーケンスの、前に符号化及び／又は復号されたピクチャと区別するため）。
エンコーダ２０は、例えば、入力部２０２を介して、ピクチャ１７（又はピクチャデータ１７）、例えば、ビデオ又はビデオシーケンスを形成するピクチャの連続の中のピクチャ、を受け取るよう構成されてよい。受け取られたピクチャ又はピクチャデータは、前処理されたピクチャ１９（又は前処理されたピクチャデータ１９）であってもよい。簡単のために、以下の説明はピクチャ１７に言及する。ピクチャ１７は、現在のピクチャ又はコーディングされるべきピクチャとも呼ばれ得る（特に、ビデオコーディングにおいて、現在のピクチャを他のピクチャ、例えば、同じビデオシーケンス、すなわち、現在のピクチャも含むビデオシーケンスの、前に符号化及び／又は復号されたピクチャと区別するため）。
【0071】
（デジタル）ピクチャは、強度値を有するサンプルの２次元アレイ又はマトリクスであるか、又はそのようなものと見なされ得る。アレイ内のサンプルは、ピクセル（ピクチャ素子の省略形）又はペルとも呼ばれ得る。アレイ又はピクチャの水平及び垂直方向（又は軸）におけるサンプルの数は、ピクチャのサイズ及び／又は解像度を定義する。色の表現のために、通常は３つの色成分が用いられる。すなわち、ピクチャは、３つのサンプルアレイを表現されるか、又は含んでよい。ＲＢＧフォーマット又は色空間において、ピクチャは、対応する赤、緑、及び青のサンプルアレイを有する。しかし、ビデオコーディングでは、各ピクセルは、通常は、ルミナンス及びクロミナンスフォーマット又は色空間、例えば、Ｙ（時々Ｌも代わりに使用される）によって示されるルミナンス成分と、Ｃｂ及びＣｒによって示される２つのクロミナンス成分とを有するＹＣｂＣｒにおいて表現される。ルミナンス（又は略してルーマ）成分Ｙは、明るさ又はグレーレベル強度（例えば、グレースケールピクチャでのように）を表し、一方、２つのクロミナンス（又は略してクロマ）成分Ｃｂ及びＣｒは、色度又は色情報成分を表す。従って、ＹＣｂＣｒフォーマットでのピクチャは、ルミナンスサンプル値（Ｙ）のルミナンスサンプルアレイと、クロミナンス値（Ｃｂ及びＣｒ）の２つのクロミナンスサンプルアレイとを有する。ＲＧＢフォーマットでのピクチャは、ＹＣｂＣｒフォーマットに変換又は転換されてよく、その逆も同様であり、プロセスは、色転換又は変換としても知られている。ピクチャがモノクロである場合には、ピクチャは、ルミナンスサンプルアレイしか有さなくてよい。従って、ピクチャは、例えば、モノクロフォーマットでのルーマサンプルのアレイ、又は４：２：０、４：２：２、及び４：４：４カラーフォーマットでのルーマサンプルのアレイ及びクロマサンプルの２つの対応するアレイであってよい。
【0072】
ビデオエンコーダ２０の実施形態は、ピクチャ１７を複数の（通常は重なり合わない）ピクチャブロック２０３に分割するよう構成されたピクチャパーティショニングユニット（図２に図示せず）を有してよい。これらのブロックは、ルートブロック、マクロブロック（Ｈ．２６４／ＡＶＣ）又はコーディングツリーブロック（ＣＴＢ）若しくはコーディングツリーユニット（ＣＴＵ）（Ｈ．２６５／ＨＥＶＣ及びＶＶＣ）とも呼ばれ得る。ピクチャパーティショニングユニットは、ビデオシーケンスの全てのピクチャのための同じブロックサイズ及び現在ブロックサイズを定義する対応するグリッドを使用するよう、あるいは、ピクチャ又はピクチャのサブセット若しくはグループの間で現在ブロックサイズを変更し、各ピクチャを対応するブロックにパーティション化するよう構成されてよい。
【0073】
更なる実施形態では、ビデオエンコーダは、ピクチャ１７のブロック２０３、例えば、ピクチャ１７を形成する１つ、いくつか、又は全てのブロックを直接に受け取るよう構成されてもよい。ピクチャブロック２０３は、現在のピクチャブロック又はコーディングされるべきピクチャとも呼ばれ得る。
【0074】
ピクチャ１７のように、ピクチャブロック２０３はやはり、ピクチャ１７よりも小さい寸法ではあるが、強度値（サンプル値）を有するサンプルの２次元アレイ又はマトリクスであるか、又はそのようなものと見なされ得る。すなわち、現在ブロック２０３は、例えば、１つのサンプルアレイ（例えば、モノクロピクチャ１７の場合には、ルーマアレイ、又はカラーピクチャの場合には、ルーマ若しくはクロマアレイ）、又は３つのサンプルアレイ（例えば、カラーピクチャ１７の場合に、ルーマ及び２つのクロマアレイ）、あるいは、適用されるカラーフォーマットに応じたあらゆる他の数及び／又は種類のアレイを有してよい。現在ブロック２０３の水平及び垂直方向（又は軸）におけるサンプルの数は、ブロック２０３のサイズを定義する。従って、ブロックは、例えば、サンプルのＭ×Ｎ（Ｎ行Ｍ列）アレイ、又は変換係数のＭ×Ｎアレイであってよい。
【0075】
図２に示されるビデオエンコーダ２０の実施形態は、ブロックごとにピクチャ１７を符号化するよう構成されてよく、例えば、符号化及び予測は、ブロック２０３ごとに実行される。
【0076】
図２に示されるビデオエンコーダ２０の実施形態は、スライス（ビデオスライスとも呼ばれる）を使用することによってピクチャをパーティション化及び／又は符号化するよう更に構成されてよく、ピクチャは、１つ以上のスライス（通常は重なり合わない）を用いてパーティション化又は符号化されてよく、各スライスは、１つ以上のブロック（例えば、ＣＴＵ）を有してよい。
【0077】
図２に示されるビデオエンコーダ２０の実施形態は、タイルグループ（ビデオタイルグループとも呼ばれる）及び／又はタイル（ビデオタイルとも呼ばれる）を使用することによってピクチャをパーティション化及び／又は符号化するよう更に構成されてよく、ピクチャは、１つ以上のタイルグループ（通常は重なり合わない）を用いてパーティション化又は符号化されてよく、各タイルは、例えば、長方形形状であってよく、１つ以上のブロック（例えば、ＣＴＵ）、例えば、完全な又は部分的なブロックを有してよい。
【0078】
残差計算
残差計算ユニット２０４は、ピクチャブロック２０３及び予測ブロック２６５（予測ブロック２６５に関する更なる詳細は後述される）に基づいて、例えば、サンプル領域で残差ブロック２０５を取得するようサンプルごとに（ピクセルごとに）ピクチャブロック２０３のサンプル値から予測ブロック２６５のサンプル値を減じることによって、残差ブロック２０５（残差２０５とも呼ばれる）を計算するよう構成されてよい。
残差計算ユニット２０４は、ピクチャブロック２０３及び予測ブロック２６５（予測ブロック２６５に関する更なる詳細は後述される）に基づいて、例えば、サンプル領域で残差ブロック２０５を取得するようサンプルごとに（ピクセルごとに）ピクチャブロック２０３のサンプル値から予測ブロック２６５のサンプル値を減じることによって、残差ブロック２０５（残差２０５とも呼ばれる）を計算するよう構成されてよい。
【0079】
変換
変換処理ユニット２０６は、変換領域で変換係数２０７を取得するために残差ブロック２０５のサンプル値に対して変換、例えば、離散コサイン変換（ＤＣＴ）又は離散サイン変換（ＤＳＴ）を適用するよう構成されてよい。変換係数２０７は、変換残差係数とも呼ばれ、変換領域での残差ブロック２０５を表し得る。
変換処理ユニット２０６は、変換領域で変換係数２０７を取得するために残差ブロック２０５のサンプル値に対して変換、例えば、離散コサイン変換（ＤＣＴ）又は離散サイン変換（ＤＳＴ）を適用するよう構成されてよい。変換係数２０７は、変換残差係数とも呼ばれ、変換領域での残差ブロック２０５を表し得る。
【0080】
変換処理ユニット２０６は、Ｈ．２６５／ＨＥＶＣについて定められた変換などのＤＣＴ／ＤＳＴの整数近似を適用するよう構成されてよい。直交ＤＣＴ変換と比較して、このような整数近似は、通常は、特定の係数によってスケーリングされる。順方向及び逆方向の変換によって処理される残差ブロックのノルムを保つために、追加のスケーリング係数が変換プロセスの部分として適用される。スケーリング係数は、通常は、シフト演算のための２のべき乗であるスケーリング係数、変換係数のビットデプス、精度と実施コストとの間のトレードオフ、などのような特定の制約に基づいて、選択される。例えば、具体的なスケーリング係数は、例えば、逆変換処理ユニット２１２（及び、例えば、ビデオデコーダ３０での逆変換処理ユニット３１２による、対応する逆変換）による、逆変換のために定められ、それに応じて、エンコーダ２０での、例えば、変換処理ユニット２０６による、順方向の変換のための対応するスケーリング係数は定められ得る。
【0081】
ビデオエンコーダ２０（個々に、変換処理ユニット２０６）の実施形態は、例えば、ビデオデコーダ３０が変換パラメータを受け取って復号化のために使用し得るように、例えば、直接に、又はエントロピ符号化ユニット２７０により符号化若しくは圧縮された、変換パラメータ、例えば、変換又は複数の変換のタイプを出力するよう構成されてよい。
【0082】
量子化
量子化ユニット２０８は、例えば、スカラー量子化又はベクトル量子化を適用することによって、量子化された係数２０９を取得するように変換係数２０７を量子化するよう構成されてよい。量子化された係数２０９は、量子化された変換係数２０９又は量子化された残差係数２０９とも呼ばれ得る。
量子化ユニット２０８は、例えば、スカラー量子化又はベクトル量子化を適用することによって、量子化された係数２０９を取得するように変換係数２０７を量子化するよう構成されてよい。量子化された係数２０９は、量子化された変換係数２０９又は量子化された残差係数２０９とも呼ばれ得る。
【0083】
量子化プロセスは、変換係数２０７の一部又は全てと関連付けられたビットデプスを低減し得る。例えば、ｎビット変換係数は、量子化中にｍビット変換係数にラウンドダウンされてよく、このとき、ｎはｍよりも大きい。量子化の程度は、量子化パラメータ（ＱＰ）を調整することによって変更されてよい。例えば、スカラー量子化については、より細かい又はより粗い量子化を達成するために、異なるスケーリングが適用されてよい。より小さい量子化ステップサイズは、より細かい量子化に対応し、一方、より大きい量子化ステップサイズは、より粗い量子化に対応する。適用可能な量子化ステップサイズは、量子化パラメータ（ＱＰ）によって示され得る。量子化パラメータは、例えば、適用可能な量子化ステップサイズの予め定義された組へのインデックスであってよい。例えば、小さい量子化パラメータは、細かい量子化（小さい量子化ステップサイズ）に対応してよく、大きい量子化パラメータは、粗い量子化（大きい量子化ステップサイズ）に対応してよく、あるいは、その逆も同様である。量子化は、量子化ステップサイズによる除算を含んでよく、例えば、逆量子化ユニット２１０による、対応する及び／又は逆の逆量子化は、量子化ステップサイズによる乗算を含んでよい。いくつかの標準規格、例えば、ＨＥＶＣ、に従う実施形態は、量子化ステップサイズを決定するために量子化パラメータを使用するよう構成されてよい。一般に、量子化ステップサイズは、除算を含む式の固定点近似を用いて量子化パラメータに基づき計算され得る。追加のスケーリング係数は、量子化ステップサイズ及び量子化パラメータについての式の固定点近似で使用されるスケーリングのために変更される可能性がある残差ブロックのノルムを回復させるよう量子化及び逆量子化のために導入されてよい。１つの例となる実施では、逆変換及び逆量子化のスケーリングは組み合わされてよい。代替的に、カスタマイズされた量子化テーブルが使用され、エンコーダからデコーダへ、例えば、ビットストリームにおいて、伝えられてもよい。量子化は、不可逆演算であり、損失は、量子化ステップサイズの増大とともに増大する。
【0084】
ビデオエンコーダ２０の実施形態（個々に、量子化ユニット２０８）は、例えば、ビデオデコーダ３０が量子化パラメータを受け取って復号化のために適用し得るように、例えば、直接に、又はエントロピ符号化ユニット２７０により符号化された、量子化パラメータ（ＱＰ）を出力するよう構成されてよい。
【0085】
逆量子化
逆量子化ユニット２１０は、例えば、量子化ユニット２０８と同じ量子化ステップサイズに基づいて又はそれを用いて、量子化ユニット２０８によって適用された量子化スキームの逆を適用することによって、逆量子化された係数２１１を取得するために、量子化された係数に対して量子化ユニット２０８の逆の量子化を適用するよう構成される。逆量子化された係数２１１は、逆量子化された残差係数２１１とも呼ばれ、通常は量子化による損失により変換係数と同じでないが、変換係数２０７に対応し得る。
逆量子化ユニット２１０は、例えば、量子化ユニット２０８と同じ量子化ステップサイズに基づいて又はそれを用いて、量子化ユニット２０８によって適用された量子化スキームの逆を適用することによって、逆量子化された係数２１１を取得するために、量子化された係数に対して量子化ユニット２０８の逆の量子化を適用するよう構成される。逆量子化された係数２１１は、逆量子化された残差係数２１１とも呼ばれ、通常は量子化による損失により変換係数と同じでないが、変換係数２０７に対応し得る。
【0086】
逆変換
逆変換処理ユニット２１２は、再構成された残差ブロック２１３（又は対応する逆量子化された係数２１３）をサンプル領域で取得するために、変換処理ユニット２０６によって適用された変換の逆変換、例えば、逆離散コサイン変換（ＤＣＴ）若しくは逆離散サイン変換（ＤＳＴ）又は他の逆変換を適用するよう構成される。再構成された残差ブロック２１３は、変換ブロック２１３とも呼ばれ得る。
逆変換処理ユニット２１２は、再構成された残差ブロック２１３（又は対応する逆量子化された係数２１３）をサンプル領域で取得するために、変換処理ユニット２０６によって適用された変換の逆変換、例えば、逆離散コサイン変換（ＤＣＴ）若しくは逆離散サイン変換（ＤＳＴ）又は他の逆変換を適用するよう構成される。再構成された残差ブロック２１３は、変換ブロック２１３とも呼ばれ得る。
【0087】
再構成
再構成ユニット２１４（例えば、加算器又は合算器２１４）は、例えば、再構成された残差ブロック２１３のサンプル値と予測ブロック２６５のサンプル値とをサンプルごとに足すことによって、再構成されたブロック２１５をサンプル領域で取得するために変換ブロック２１３（すなわち、再構成された残差ブロック２１３）を予測ブロック２６５に加えるよう構成される。
再構成ユニット２１４（例えば、加算器又は合算器２１４）は、例えば、再構成された残差ブロック２１３のサンプル値と予測ブロック２６５のサンプル値とをサンプルごとに足すことによって、再構成されたブロック２１５をサンプル領域で取得するために変換ブロック２１３（すなわち、再構成された残差ブロック２１３）を予測ブロック２６５に加えるよう構成される。
【0088】
フィルタリング
ループフィルタユニット２２０（略して「ループフィルタ」２２０）は、再構成されたブロック２１５にフィルタをかけてフィルタ処理されたブロック２２１を取得するよう、又は一般的に、再構成されたサンプルにフィルタをかけてフィルタ処理されたサンプルを取得するよう構成される。ループフィルタユニットは、例えば、ピクセル遷移を滑らかにするよう、あるいは、別なふうにビデオ品質を改善するよう構成される。ループフィルタユニット２２０は、デブロッキングフィルタ、サンプル適応オフセット（ＳＡＯ）フィルタ又は１つ以上の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ（ＡＬＦ）、先鋭化、平滑化フィルタ若しくは協調フィルタ、又はそれらの任意の組み合わせなどの１つ以上のループフィルタを有してよい。ループフィルタユニット２２０はインループフィルタであるものとして図２では示されているが、他の構成では、ループフィルタユニット２２０はポストループフィルタとして実装されてもよい。フィルタ処理されたブロック２２１は、フィルタ処理された再構成されたブロック２２１とも呼ばれ得る。
ループフィルタユニット２２０（略して「ループフィルタ」２２０）は、再構成されたブロック２１５にフィルタをかけてフィルタ処理されたブロック２２１を取得するよう、又は一般的に、再構成されたサンプルにフィルタをかけてフィルタ処理されたサンプルを取得するよう構成される。ループフィルタユニットは、例えば、ピクセル遷移を滑らかにするよう、あるいは、別なふうにビデオ品質を改善するよう構成される。ループフィルタユニット２２０は、デブロッキングフィルタ、サンプル適応オフセット（ＳＡＯ）フィルタ又は１つ以上の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ（ＡＬＦ）、先鋭化、平滑化フィルタ若しくは協調フィルタ、又はそれらの任意の組み合わせなどの１つ以上のループフィルタを有してよい。ループフィルタユニット２２０はインループフィルタであるものとして図２では示されているが、他の構成では、ループフィルタユニット２２０はポストループフィルタとして実装されてもよい。フィルタ処理されたブロック２２１は、フィルタ処理された再構成されたブロック２２１とも呼ばれ得る。
【0089】
ビデオエンコーダ２０（個々に、ループフィルタユニット２２０）の実施形態は、例えば、デコーダ３０が同じループフィルタパラメータ又は各々のループフィルタを受け取って復号化のために適用し得るように、例えば、直接に、又はエントロピ符号化ユニット２７０により符号化された、ループフィルタパラメータ（例えば、サンプル適応オフセット情報）を出力するよう構成されてよい。
【0090】
復号化ピクチャバッファ
復号化ピクチャバッファ（ＤＰＢ）２３０は、ビデオエンコーダ２０によってビデオデータを符号化するための参照ピクチャ、又は一般的に、参照ピクチャデータを記憶するメモリであってよい。ＤＰＢ２３０は、同期ＤＲＡＭ（ＳＤＲＡＭ）を含む動的ランダム・アクセス・メモリ（ＤＲＡＭ）、磁気抵抗ＲＡＭ（ＭＲＡＭ）、抵抗ＲＡＭ（ＲＲＡＭ）、又は他のタイプのメモリデバイスなどの様々なメモリデバイスのいずれかによって形成されてよい。復号化ピクチャバッファ（ＤＰＢ）２３０は、１つ以上のフィルタ処理されたブロック２２１を記憶するよう構成されてよい。復号化ピクチャバッファ２３０は、同じ現在ピクチャの、又は異なるピクチャ、例えば、前に再構成されたピクチャの、他の前にフィルタ処理されたブロック、例えば、前に再構成されフィルタ処理されたブロック２２１を記憶するよう更に構成されてよく、例えば、インター予測のために、完全な、前に再構成された、すなわち、復号されたピクチャ（並びに対応する参照ブロック及びサンプル）及び／又は部分的に再構成された現在ピクチャ（並びに対応する参照ブロック及びサンプル）を提供してよい。復号化ピクチャバッファ（ＤＰＢ）２３０はまた、例えば、再構成されたブロック２１５がループフィルタユニット２２０によってフィルタをかけられていない場合に、１つ以上のフィルタ処理されていない再構成されたブロック２１５、又は一般的に、フィルタ処理されていない再構成されたサンプルを、あるいは、再構成されたブロック又はサンプルのあらゆる他の更に処理されたバージョンを記憶するよう構成されてもよい。
復号化ピクチャバッファ（ＤＰＢ）２３０は、ビデオエンコーダ２０によってビデオデータを符号化するための参照ピクチャ、又は一般的に、参照ピクチャデータを記憶するメモリであってよい。ＤＰＢ２３０は、同期ＤＲＡＭ（ＳＤＲＡＭ）を含む動的ランダム・アクセス・メモリ（ＤＲＡＭ）、磁気抵抗ＲＡＭ（ＭＲＡＭ）、抵抗ＲＡＭ（ＲＲＡＭ）、又は他のタイプのメモリデバイスなどの様々なメモリデバイスのいずれかによって形成されてよい。復号化ピクチャバッファ（ＤＰＢ）２３０は、１つ以上のフィルタ処理されたブロック２２１を記憶するよう構成されてよい。復号化ピクチャバッファ２３０は、同じ現在ピクチャの、又は異なるピクチャ、例えば、前に再構成されたピクチャの、他の前にフィルタ処理されたブロック、例えば、前に再構成されフィルタ処理されたブロック２２１を記憶するよう更に構成されてよく、例えば、インター予測のために、完全な、前に再構成された、すなわち、復号されたピクチャ（並びに対応する参照ブロック及びサンプル）及び／又は部分的に再構成された現在ピクチャ（並びに対応する参照ブロック及びサンプル）を提供してよい。復号化ピクチャバッファ（ＤＰＢ）２３０はまた、例えば、再構成されたブロック２１５がループフィルタユニット２２０によってフィルタをかけられていない場合に、１つ以上のフィルタ処理されていない再構成されたブロック２１５、又は一般的に、フィルタ処理されていない再構成されたサンプルを、あるいは、再構成されたブロック又はサンプルのあらゆる他の更に処理されたバージョンを記憶するよう構成されてもよい。
【0091】
モード選択（パーティショニング及び予測）
モード選択ユニット２６０は、パーティショニングユニット２６２、インター予測ユニット２４４及びイントラ予測ユニット２５４を有し、原ピクチャデータ、例えば、元のブロック２０３（現在ピクチャ１７の現在ブロック２０３）と、再構成されたピクチャデータ、例えば、同じ（現在）ピクチャの及び／又は１つ若しくは複数の前に復号されたピクチャからの、例えば、復号化ピクチャバッファ２３０若しくは他のバッファ（例えば、ラインバッファ、図示せず）からのフィルタ処理された及び／又はフィルタ処理されていない再構成されたサンプル又はブロックを受信又は取得するよう構成される。再構成されたピクチャデータは、予測ブロック２６５又は予測子２６５を取得するために、予測、例えば、インター予測又はイントラ予測、のための参照ピクチャデータとして使用される。
モード選択ユニット２６０は、パーティショニングユニット２６２、インター予測ユニット２４４及びイントラ予測ユニット２５４を有し、原ピクチャデータ、例えば、元のブロック２０３（現在ピクチャ１７の現在ブロック２０３）と、再構成されたピクチャデータ、例えば、同じ（現在）ピクチャの及び／又は１つ若しくは複数の前に復号されたピクチャからの、例えば、復号化ピクチャバッファ２３０若しくは他のバッファ（例えば、ラインバッファ、図示せず）からのフィルタ処理された及び／又はフィルタ処理されていない再構成されたサンプル又はブロックを受信又は取得するよう構成される。再構成されたピクチャデータは、予測ブロック２６５又は予測子２６５を取得するために、予測、例えば、インター予測又はイントラ予測、のための参照ピクチャデータとして使用される。
【0092】
モード選択ユニット２６０は、現在のブロック予測モード（パーティショニングを含まない）のためのパーティショニングと、予測モード（例えば、イントラ又はインター予測モード）とを決定又は選択し、残差ブロック２０５の計算のために及び再構成されたブロック２１５の再構成のために使用される対応する予測ブロック２６５を生成するよう構成されてよい。
【0093】
モード選択ユニット２６０の実施形態は、最良の一致、すなわち、言い換えれば、最小限の残差（最小限の残差は、伝送又は記憶のためのより良い圧縮を意味する）、又は最小限のシグナリングオーバーヘッド（最小限のシグナリングオーバーヘッドは、伝送又は記憶のためのより良い圧縮を意味する）をもたらすか、あるいは、両方を考慮し若しくはバランスをとるパーティショニング及び予測モードを（例えば、モード選択ユニット２６０によってサポートされているか、又はそれのために利用可能なものから）選択するよう構成されてよい。モード選択ユニット２６０は、レート歪み最適化（ＲＤＯ）に基づいてパーティショニング及び予測モードを決定するよう、すなわち、最低レート歪みをもたらす予測モードを選択するよう、構成されてよい。本文脈中の「最良」、「最小限」、「最適化」などの用語は、必ずしも全面的な「最良」、「最小限」、「最適化」などを指さず、閾値を上回る又は下回る値のような終了又は選択基準の達成、あるいは、「次善の選択」につながる可能性はあるが複雑性及び処理時間を低減する他の制約を指してもよい。
【0094】
言い換えると、パーティショニングユニット２６２は、例えば、四分木パーティショニング（ＱＴ）、二分木パーティショニング（ＢＴ）若しくは三分木パーティショニング（ＴＴ）、又はそれらの任意の組み合わせを繰り返し用いて、現在ブロック２０３をより小さいブロックパーティション又はサブブロック（再びブロックを形成する）に分割し、例えば、現在ブロックパーティション又はサブブロックの夫々についての予測を実行するよう構成されてよく、モード選択は、パーティション化されたブロック２０３の木構造の選択を有し、予測モードは、ブロックパーティション又はサブブロックの夫々に適用される。
【0095】
以下では、例となるビデオエンコーダ２０によって実行されるパーティショニング（例えば、パーティショニングユニット２６２による）及び予測処理（インター予測ユニット２４４及びイントラ予測ユニット２５４による）が、より詳細に説明される。
【0096】
パーティショニング
パーティショニングユニット２６２は、現在ブロック２０３をより小さいパーティション、例えば、正方形又は長方形サイズのより小さいブロックにパーティション化（又は分割）してよい。これらのより小さいブロック（サブブロックとも呼ばれる）は、より一層小さいパーティションに更にパーティション化されてもよい。これは、ツリーパーティショニング又は階層ツリーパーティショニングとも呼ばれ、例えば、根ツリーレベル０（階層レベル０、デプス０）での、ルートブロックは、再帰的にパーティション化されてよく、例えば、次に下のツリーレベルの２つ以上のブロック、例えば、ツリーレベル１（階層レベル１、デプス１）でのノードにパーティション化され、これらのブロックは、例えば、終了基準が満足されること、例えば、最大ツリーデプス又は最小ブロックサイズに達することで、パーティショニングが終了するまで、次に下のレベル、例えば、ツリーレベル２（階層レベル２、デプス２）など、の２つ以上のブロックに再びパーティション化されてよい。これ以上パーティション化されないブロックは、ツリーのリーフブロック又はリーフノードとも呼ばれる。２つのパーティションにパーティション化することによるツリーは、二分木（ＢＴ）と呼ばれ、３つのパーティションにパーティション化することによるツリーは、三分木（ＴＴ）と呼ばれ、４つのパーティションにパーティション化することによるツリーは、四分木（ＱＴ）と呼ばれる。
パーティショニングユニット２６２は、現在ブロック２０３をより小さいパーティション、例えば、正方形又は長方形サイズのより小さいブロックにパーティション化（又は分割）してよい。これらのより小さいブロック（サブブロックとも呼ばれる）は、より一層小さいパーティションに更にパーティション化されてもよい。これは、ツリーパーティショニング又は階層ツリーパーティショニングとも呼ばれ、例えば、根ツリーレベル０（階層レベル０、デプス０）での、ルートブロックは、再帰的にパーティション化されてよく、例えば、次に下のツリーレベルの２つ以上のブロック、例えば、ツリーレベル１（階層レベル１、デプス１）でのノードにパーティション化され、これらのブロックは、例えば、終了基準が満足されること、例えば、最大ツリーデプス又は最小ブロックサイズに達することで、パーティショニングが終了するまで、次に下のレベル、例えば、ツリーレベル２（階層レベル２、デプス２）など、の２つ以上のブロックに再びパーティション化されてよい。これ以上パーティション化されないブロックは、ツリーのリーフブロック又はリーフノードとも呼ばれる。２つのパーティションにパーティション化することによるツリーは、二分木（ＢＴ）と呼ばれ、３つのパーティションにパーティション化することによるツリーは、三分木（ＴＴ）と呼ばれ、４つのパーティションにパーティション化することによるツリーは、四分木（ＱＴ）と呼ばれる。
【0097】
上述されたように、ここで使用される「ブロック」との用語は、ピクチャの部分、特に、正方形又は長方形部分であってよい。例えば、ＨＥＶＣ及びＶＶＣを参照して、現在ブロックは、コーディングツリーユニット（ＣＴＵ）、コーディングユニット（ＣＵ）、予測ユニット（ＰＵ）、及び変換ユニット（ＴＵ）、並びに／又は対応するブロック、例えば、コーディングツリーブロック（ＣＴＢ）、コーディングブロック（ＣＢ）、変換ブロック（ＴＢ）若しくは予測ブロック（ＰＢ）であるか、あるいは、これらに対応してよい。
【0098】
例えば、コーディングツリーユニット（ＣＴＵ）は、３つのサンプルアレイを有するピクチャのルーマサンプルのＣＴＢ、クロマサンプルの２つの対応するＣＴＢ、あるいは、モノクロピクチャ又は、３つの別々の色平面と、サンプルをコーディングするために使用されたシンタックス構造とを用いてコーディングされるピクチャのサンプルのＣＴＢであるか、又はこれらを有してよい。相応して、コーディングツリーブロック（ＣＴＢ）は、ＣＴＢへのコンポーネントの分割がパーティショニングであるように、Ｎの何らかの値について、サンプルのＮ×Ｎブロックであってよい。コーディングユニット（ＣＵ）は、３つのサンプルアレイを有するピクチャのルーマサンプルのコーディングブロック、クロマサンプルの２つの対応するコーディングブロック、あるいは、モノクロピクチャ又は、３つの別々の色平面と、サンプルをコーディングするために使用されたシンタックス構造を用いてコーディングされるピクチャのサンプルのコーディングブロックであるか、又はこれらを有してよい。相応して、コーディングブロック（ＣＢ）は、コーディングブロックへのＣＴＢの分割がパーティショニングであるように、Ｍ及びＮの何らかの値についてサンプルのＭ×Ｎブロックであってよい。
【0099】
実施形態において、例えば、ＨＥＶＣに従って、コーディングツリーユニット（ＣＴＵ）は、コーディングツリーとして表される四分木構造を使用することによって、ＣＵに分割されてよい。インターピクチャ（時間）又はイントラピクチャ（空間）予測を用いてピクチャエリアをコーディングすべきかどうかの決定は、ＣＵレベルで行われる。各ＣＵは、ＰＵ分割タイプに従って１つ、２つ又は４つのＰＵに更に分割され得る。１つのＰＵ内では、同じ予測プロセスが適用され、関連情報は、ＰＵベースでデコーダへ送られる。ＰＵ分割タイプに基づいて予測プロセスを適用することによって残差ブロックを取得した後、ＣＵは、ＣＵのためのコーディングツリーに類似した他の四分木構造に従って、変換ユニット（ＴＵ）にパーティション化され得る。
【0100】
実施形態において、例えば、Versatile Video Coding（ＶＶＣ）と呼ばれる、現在開発中の最新のビデオコーディング標準規格に従って、四分木及び二分木の複合（ＱＴＢＴ）であるパーティショニングは、コーディングブロックをパーティション化するために使用される。ＱＴＢＴブロック構造では、ＣＵは、正方形又は長方形のどちらかの形状を有することができる。例えば、コーディングツリーユニット（ＣＴＵ）は、最初に四分木構造によってパーティション化される。四分木リーフノードは、二分木又は三分（又はトリプル）木構造によって更にパーティション化される。パーティショニングツリーリーフノードはコーディングユニット（ＣＵ）と呼ばれ、そのセグメンテーションは、これ以上のパーティショニングなしで予測及び変換処理のために使用される。これは、ＣＵ、ＰＵ及びＴＵがＱＴＢＴコーディングブロック構造では同じブロックサイズを有していることを意味する。同時に、多重パーティション、例えば、トリプル木パーティションも、ＱＴＢＴブロック構造とともに使用されてよい。
【0101】
一例において、ビデオエンコーダ２０のモード選択ユニット２６０は、ここで記載されるパーティショニング技術の任意の組み合わせを実行するよう構成されてよい。
【0102】
上述されたように、ビデオエンコーダ２０は、（前もって決定された）予測モードの組から最良の又は最適な予測モードを決定又は選択するよう構成される。予測モードの組は、例えば、イントラ予測モード及び／又はインター予測モードを有してよい。
【0103】
イントラ予測
イントラ予測モードの組は、３５個の異なるイントラ予測モード、例えば、ＤＣ（又は平均）モード及びプレーナーモードのような無指向性モード、又は例えば、ＨＥＶＣで定義されるような、指向性モードを有してよく、あるいは、６７個の異なるイントラ予測モード、例えば、ＤＣ（又は平均）モード及びプレーナーモードのような無指向性モード、又は例えば、ＶＶＣで定義されるような、指向性モードを有してよい。
イントラ予測モードの組は、３５個の異なるイントラ予測モード、例えば、ＤＣ（又は平均）モード及びプレーナーモードのような無指向性モード、又は例えば、ＨＥＶＣで定義されるような、指向性モードを有してよく、あるいは、６７個の異なるイントラ予測モード、例えば、ＤＣ（又は平均）モード及びプレーナーモードのような無指向性モード、又は例えば、ＶＶＣで定義されるような、指向性モードを有してよい。
【0104】
イントラ予測ユニット２５４は、イントラ予測モードの組の中のあるイントラ予測モードに従ってイントラ予測ブロック２６５を生成するために、同じ現在ピクチャの隣接ブロックの再構成されたサンプルを使用するよう構成される。
【0105】
イントラ予測ユニット２５４（又は一般に、モード選択ユニット２６０）は、例えば、ビデオデコーダ３０が予測パラメータを受け取って復号化のために使用し得るように、符号化されたピクチャデータ２１に含めるためにシンタックス要素２６６の形でイントラ予測パラメータ（又は一般に、現在ブロックのための選択されたイントラ予測モードを示す情報）をエントロピ符号化ユニット２７０へ出力するよう更に構成される。
【0106】
インター予測
（とり得る）インター予測モードの組は、利用可能な参照ピクチャ（すなわち、例えば、ＤＰＢ２３０に記憶されている、前の、少なくとも部分的に復号されたピクチャ）及び他のインター予測パラメータ、例えば、参照ピクチャ全体又は参照ピクチャの一部分のみ、例えば、現在ブロックのエリアの周りの探索窓エリア、が最良の一致を示す参照ブロックを探すために使用されるかどうか、及び／又は例えば、ピクセル補間、例えば、ハーフ／セミペル及び／又は４分の１ペル補間、が適用されるか否か、に依存する。
（とり得る）インター予測モードの組は、利用可能な参照ピクチャ（すなわち、例えば、ＤＰＢ２３０に記憶されている、前の、少なくとも部分的に復号されたピクチャ）及び他のインター予測パラメータ、例えば、参照ピクチャ全体又は参照ピクチャの一部分のみ、例えば、現在ブロックのエリアの周りの探索窓エリア、が最良の一致を示す参照ブロックを探すために使用されるかどうか、及び／又は例えば、ピクセル補間、例えば、ハーフ／セミペル及び／又は４分の１ペル補間、が適用されるか否か、に依存する。
【0107】
上記の予測モードに加えて、スキップモード及び／又はダイレクトモードが適用されてもよい。
【0108】
インター予測ユニット２４４は、動き推定（ＭＥ）ユニット及び動き補償（ＭＣ）ユニット（どちらも図２に図示せず）を含んでよい。動き推定ユニットは、ピクチャブロック２０３（現在ピクチャ１７の現在ピクチャブロック２０３）及び復号されたピクチャ２３１、あるいは、少なくとも１つ又は複数の前に再構成されたブロック、例えば、１つ又は複数の他の／異なる前に復号されたピクチャ２３１の再構成されたブロックを、動き推定のために受信又は取得するよう構成されてよい。例えば、ビデオシーケンスは、現在ピクチャ及び前に復号されたピクチャ２３１を有してよく、すなわち、言い換えると、現在ピクチャ及び前に復号されたピクチャ２３１は、ビデオシーケンスを形成するピクチャの連続の部分であるか、又はピクチャの連続を形成してよい。
【0109】
エンコーダ２０は、例えば、複数の他のピクチャの中の同じ又は異なるピクチャの複数の参照ブロックから参照ブロックを選択し、参照ピクチャ（又は参照ピクチャインデックス）及び／又は参照ブロックの位置（ｘ、ｙ座標）と現在ブロックの位置との間のオフセット（空間オフセット）を動き推定ユニットへインター予測パラメータとして供給するよう構成されてよい。このオフセットは、動きベクトル（ＭＶ）とも呼ばれる。
【0110】
動き補償ユニットは、インター予測パラメータを取得、例えば、受信し、インター予測パラメータに基づいて又はそれを用いてインター予測を実行してインター予測ブロック２６５を取得するよう構成される。動き補償ユニットによって実行される動き補償は、動き推定によって決定された動き／ブロックベクトルに基づいて予測ブロックをフェッチ又は生成することを有してよく、場合により、サブピクセル精度への補間を実行する。補間フィルタリングは、既知のピクセルサンプルから追加のピクセルサンプルを生成してよく、よって、場合により、ピクチャブロックをコーディングするために使用され得る候補予測ブロックの数を増大させる。現在ピクチャブロックのＰＵについての動きベクトルを受け取ると、動き補償ユニットは、参照ピクチャリストの１つにおいて動きベクトルが指し示す予測ブロックを見つけ得る。
【0111】
動き補償ユニットはまた、ビデオスライスのピクチャブロックを復号する際にビデオデコーダ３０によって使用される現在ブロック及びビデオスライスと関連付けられたシンタックス要素を生成してもよい。スライス及び各々のシンタックス要素に加えて、又はそれらに代えて、タイルグループ及び／又はタイル並びに各々のシンタックス要素が生成又は使用されてもよい。
【0112】
エントロピコーディング
エントロピ符号化ユニット２７０は、出力部２７２を介して、例えば、符号化されたビットストリーム２１の形で、出力され得る符号化されたピクチャデータ２１を取得するために、量子化された係数２０９、インター予測パラメータ、イントラ予測パラメータ、ループフィルタパラメータ及び／又は他のシンタックス要素に対して、例えば、エントロピ符号化アルゴリズム又はスキーム（例えば、可変長コーディング（ＶＬＣ）スキーム、コンテキスト適応ＶＬＣスキーム（ＣＡＶＬＣ）、算術コーディングスキーム、二値化、コンテキスト適応二値算術コーディング（ＣＡＢＡＣ）、シンタックスに基づくコンテキスト適応二値算術コーディング（ＳＢＡＣ）、確率区間パーティショニングエントロピ（ＰＩＰＥ）コーディング、又は他のエントロピ符号化メソッドロジ若しくは技術）を適用するか、あるいは、バイパスする（無圧縮）よう構成され、それにより、例えば、ビデオデコーダ３０は、パラメータを受け取って復号化のために使用し得る。符号化されたビットストリーム２１は、ビデオデコーダ３０へ送られるか、あるいは、ビデオデコーダ３０による後の伝送又は読み出しのためにメモリに記憶されてもよい。
エントロピ符号化ユニット２７０は、出力部２７２を介して、例えば、符号化されたビットストリーム２１の形で、出力され得る符号化されたピクチャデータ２１を取得するために、量子化された係数２０９、インター予測パラメータ、イントラ予測パラメータ、ループフィルタパラメータ及び／又は他のシンタックス要素に対して、例えば、エントロピ符号化アルゴリズム又はスキーム（例えば、可変長コーディング（ＶＬＣ）スキーム、コンテキスト適応ＶＬＣスキーム（ＣＡＶＬＣ）、算術コーディングスキーム、二値化、コンテキスト適応二値算術コーディング（ＣＡＢＡＣ）、シンタックスに基づくコンテキスト適応二値算術コーディング（ＳＢＡＣ）、確率区間パーティショニングエントロピ（ＰＩＰＥ）コーディング、又は他のエントロピ符号化メソッドロジ若しくは技術）を適用するか、あるいは、バイパスする（無圧縮）よう構成され、それにより、例えば、ビデオデコーダ３０は、パラメータを受け取って復号化のために使用し得る。符号化されたビットストリーム２１は、ビデオデコーダ３０へ送られるか、あるいは、ビデオデコーダ３０による後の伝送又は読み出しのためにメモリに記憶されてもよい。
【0113】
ビデオエンコーダ２０の他の構造的変形は、ビデオストリームを符号化するために使用され得る。例えば、非変換に基づくエンコーダ２０は、特定のブロック又はフレームについて変換処理ユニット２０６によらずに直接に残差信号を量子化することができる。他の実施では、エンコーダ２０は、単一のユニットにまとめられた量子化ユニット２０８及び逆量子化ユニット２１０を有することができる。
【0114】
デコーダ及び復号化方法
図３は、本願の技術を実装するよう構成されるビデオデコーダ３０の例を示す。ビデオデコーダ３０は、復号されたピクチャ３３１を取得するために、例えば、エンコーダ２０によって符号化された、符号化ピクチャデータ２１（例えば、符号化ビットストリーム２１）を受信するよう構成される。符号化ピクチャデータ又はビットストリームは、符号化ピクチャデータを復号するための情報、例えば、符号化されたビデオスライスのピクチャブロック及び関連するシンタックス要素を表すデータ、を含む。
図３は、本願の技術を実装するよう構成されるビデオデコーダ３０の例を示す。ビデオデコーダ３０は、復号されたピクチャ３３１を取得するために、例えば、エンコーダ２０によって符号化された、符号化ピクチャデータ２１（例えば、符号化ビットストリーム２１）を受信するよう構成される。符号化ピクチャデータ又はビットストリームは、符号化ピクチャデータを復号するための情報、例えば、符号化されたビデオスライスのピクチャブロック及び関連するシンタックス要素を表すデータ、を含む。
【0115】
図３の例では、デコーダ３０は、エントロピ復号化ユニット３０４、逆量子化ユニット３１０、逆変換処理ユニット３１２、再構成ユニット３１４（例えば、合算器３１４）、ループフィルタ３２０、復号化ピクチャバッファ（ＤＰＢ）３３０、モード適用ユニット３６０、インター予測ユニット３４４、及びイントラ予測ユニット３５４を有する。インター予測ユニット３４４は、動き補償ユニットであるか、又はそれを含んでよい。ビデオデコーダ３０は、いくつかの例では、図２のビデオエンコーダ２０に関して記載された符号化パスとは概して逆の復号化パスを実行してよい。
【0116】
エンコーダ２０に関して説明されたように、逆量子化ユニット２１０、逆変換処理ユニット２１２、再構成ユニット２１４、ループフィルタ２２０、復号化ピクチャバッファ（ＤＰＢ）２３０、インター予測ユニット２４４及びイントラ予測ユニット２５４は、ビデオエンコーダ２０の“ビルトインデコーダ”を形成するとも言われる。従って、逆量子化ユニット３１０は、機能において逆量子化ユニット２１０と同じであってよく、逆変換処理ユニット３１２は、機能において逆変換処理ユニット２１２と同じであってよく、再構成ユニット３１４は、機能において再構成ユニット２１４と同じであってよく、ループフィルタ３２０は、機能においてループフィルタ２２０と同じであってよく、復号化ピクチャバッファ３３０は、機能において復号化ピクチャバッファ２３０と同じであってよい。従って、ビデオエンコーダ２０の各々のユニット及び機能について与えられている説明は、ビデオデコーダ３０の各々のユニット及び機能にも相応して当てはまる。
【0117】
エントロピ復号化
エントロピ復号化ユニット３０４は、ビットストリーム２１（又は一般に、符号化ピクチャデータ２１）をパースし、符号化ピクチャデータ２１に対して、例えば、エントロピ復号化を実行して、例えば、量子化された係数３０９及び／又は復号されたコーディングパラメータ（図３に図示せず）、例えば、インター予測パラメータ（例えば、参照ピクチャインデックス及び動きベクトル）、イントラ予測パラメータ（例えば、イントラ予測モード又はインデックス）、変換パラメータ、量子化パラメータ、ループフィルタパラメータ、及び／又は他のシンタックス要素のいずれか又は全てを取得するよう構成される。エントロピ復号化ユニット３０４は、エンコーダ２０のエントロピ符号化ユニット２７０に関して説明された符号化スキームに対応する復号化アルゴリズム又はスキームを適用するよう構成されてよい。エントロピ復号化ユニット３０４は、インター予測パラメータ、イントラ予測パラメータ、及び／又は他のシンタックス要素をモード適用ユニット３６０へ、及び他のパラメータをデコーダ３０の他のユニットへ供給するよう更に構成されてよい。ビデオデコーダ３０は、ビデオスライスレベル及び／又はビデオブロックレベルでシンタックス要素を受け取ってよい。スライス及び各々のシンタックス要素に加えて、又はそれらに代えて、グループ及び／又はタイル並びに各々のシンタックス要素が受信及び／又は使用されてもよい。
エントロピ復号化ユニット３０４は、ビットストリーム２１（又は一般に、符号化ピクチャデータ２１）をパースし、符号化ピクチャデータ２１に対して、例えば、エントロピ復号化を実行して、例えば、量子化された係数３０９及び／又は復号されたコーディングパラメータ（図３に図示せず）、例えば、インター予測パラメータ（例えば、参照ピクチャインデックス及び動きベクトル）、イントラ予測パラメータ（例えば、イントラ予測モード又はインデックス）、変換パラメータ、量子化パラメータ、ループフィルタパラメータ、及び／又は他のシンタックス要素のいずれか又は全てを取得するよう構成される。エントロピ復号化ユニット３０４は、エンコーダ２０のエントロピ符号化ユニット２７０に関して説明された符号化スキームに対応する復号化アルゴリズム又はスキームを適用するよう構成されてよい。エントロピ復号化ユニット３０４は、インター予測パラメータ、イントラ予測パラメータ、及び／又は他のシンタックス要素をモード適用ユニット３６０へ、及び他のパラメータをデコーダ３０の他のユニットへ供給するよう更に構成されてよい。ビデオデコーダ３０は、ビデオスライスレベル及び／又はビデオブロックレベルでシンタックス要素を受け取ってよい。スライス及び各々のシンタックス要素に加えて、又はそれらに代えて、グループ及び／又はタイル並びに各々のシンタックス要素が受信及び／又は使用されてもよい。
【0118】
逆量子化
逆量子化ユニット３１０は、（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）符号化ピクチャデータ２１から量子化パラメータ（ＱＰ）（又は一般に、逆量子化に関する情報）及び量子化された係数を受け取り、量子化パラメータに基づいて、復号された量子化された係数３０９に対して逆量子化を適用して、変換係数３１１とも呼ばれ得る逆量子化された係数３１１を取得するよう構成されてよい。逆量子化プロセスは、量子化の程度及び、同様に、適用されるべき逆量子化の程度、を決定するために、ビデオスライス内の各ビデオブロックについてビデオエンコーダ２０によって決定された量子化パラメータの使用を含んでよい。
逆量子化ユニット３１０は、（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）符号化ピクチャデータ２１から量子化パラメータ（ＱＰ）（又は一般に、逆量子化に関する情報）及び量子化された係数を受け取り、量子化パラメータに基づいて、復号された量子化された係数３０９に対して逆量子化を適用して、変換係数３１１とも呼ばれ得る逆量子化された係数３１１を取得するよう構成されてよい。逆量子化プロセスは、量子化の程度及び、同様に、適用されるべき逆量子化の程度、を決定するために、ビデオスライス内の各ビデオブロックについてビデオエンコーダ２０によって決定された量子化パラメータの使用を含んでよい。
【0119】
逆変換
逆変換処理ユニット３１２は、変換係数３１１とも呼ばれる逆量子化された係数３１１を受け取り、そして、再構成された残差ブロック３１３をサンプル領域で取得するために、逆量子化された係数３１１に対して変換を適用するよう構成されてよい。再構成された残差ブロック３１３は、変換ブロック３１３とも呼ばれ得る。変換は、逆変換、例えば、逆ＤＣＴ、逆ＤＳＴ、逆整数変換、又は概念的に類似した逆変換プロセスであってよい。逆変換処理ユニット３１２は、逆量子化された係数３１１に適用されるべき変換を決定するために（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）符号化ピクチャデータ２１から変換パラメータ又は対応する情報を受け取るよう更に構成されてもよい。
逆変換処理ユニット３１２は、変換係数３１１とも呼ばれる逆量子化された係数３１１を受け取り、そして、再構成された残差ブロック３１３をサンプル領域で取得するために、逆量子化された係数３１１に対して変換を適用するよう構成されてよい。再構成された残差ブロック３１３は、変換ブロック３１３とも呼ばれ得る。変換は、逆変換、例えば、逆ＤＣＴ、逆ＤＳＴ、逆整数変換、又は概念的に類似した逆変換プロセスであってよい。逆変換処理ユニット３１２は、逆量子化された係数３１１に適用されるべき変換を決定するために（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）符号化ピクチャデータ２１から変換パラメータ又は対応する情報を受け取るよう更に構成されてもよい。
【0120】
再構成
再構成ユニット３１４（例えば、加算器又は合算器３１４）は、例えば、再構成された残差ブロック３１３のサンプル値と予測ブロック３６５のサンプル値とを足すことによって、再構成されたブロック３１５をサンプル領域で取得するように、再構成された残差ブロック３１３を予測ブロック３６５に加えるよう構成されてよい。
再構成ユニット３１４（例えば、加算器又は合算器３１４）は、例えば、再構成された残差ブロック３１３のサンプル値と予測ブロック３６５のサンプル値とを足すことによって、再構成されたブロック３１５をサンプル領域で取得するように、再構成された残差ブロック３１３を予測ブロック３６５に加えるよう構成されてよい。
【0121】
フィルタリング
ループフィルタユニット３２０（コーディングループ内にあるか又はコーディングループの後にあるかのどちらか）は、フィルタ処理されたブロック３２１を取得するために、例えば、ピクセル遷移を滑らかにするか又は別なふうにビデオ品質を改善するために、再構成されたブロック３１５にフィルタをかけるよう構成される。ループフィルタユニット３２０は、デブロッキングフィルタ、サンプル適応オフセット（ＳＡＯ）フィルタ又は１つ以上の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ（ＡＬＦ）、先鋭化、平滑化フィルタ若しくは協調フィルタ、又はそれらの任意の組み合わせなどの１つ以上のループフィルタを有してよい。ループフィルタユニット３２０はインループフィルタであるものとして図３では示されているが、他の構成では、ループフィルタユニット３２０はポストループフィルタとして実装されてもよい。
ループフィルタユニット３２０（コーディングループ内にあるか又はコーディングループの後にあるかのどちらか）は、フィルタ処理されたブロック３２１を取得するために、例えば、ピクセル遷移を滑らかにするか又は別なふうにビデオ品質を改善するために、再構成されたブロック３１５にフィルタをかけるよう構成される。ループフィルタユニット３２０は、デブロッキングフィルタ、サンプル適応オフセット（ＳＡＯ）フィルタ又は１つ以上の他のフィルタ、例えば、バイラテラルフィルタ、適応ループフィルタ（ＡＬＦ）、先鋭化、平滑化フィルタ若しくは協調フィルタ、又はそれらの任意の組み合わせなどの１つ以上のループフィルタを有してよい。ループフィルタユニット３２０はインループフィルタであるものとして図３では示されているが、他の構成では、ループフィルタユニット３２０はポストループフィルタとして実装されてもよい。
【0122】
復号化ピクチャバッファ
ピクチャの復号されたビデオブロック３２１は、次いで、復号化ピクチャバッファ３３０に記憶される。復号化ピクチャバッファ３３０は、他のピクチャのその後の動き補償のために、及び／又は夫々表示を出力するために、復号されたピクチャ３３１を参照ピクチャとして記憶する。
ピクチャの復号されたビデオブロック３２１は、次いで、復号化ピクチャバッファ３３０に記憶される。復号化ピクチャバッファ３３０は、他のピクチャのその後の動き補償のために、及び／又は夫々表示を出力するために、復号されたピクチャ３３１を参照ピクチャとして記憶する。
【0123】
デコーダ３０は、復号されたピクチャ３３１を、例えば、出力部３３２を介して、提示又は視聴のためにユーザへ出力するよう構成される。
【0124】
予測
インター予測ユニット３４４は、インター予測ユニット２４４と（特に、動き補償ユニットと）同じであってよく、イントラ予測ユニット３５４は、機能においてイントラ予測ユニット２５４と同じであってよく、符号化ピクチャデータ２１から（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）受け取られたパーティショニング及び／又は予測パラメータ、あるいは各々の情報に基づいて、分割又はパーティショニング決定及び予測を実行する。モード適用ユニット３６０は、再構成されたピクチャ、ブロック又は各々のサンプル（フィルタ処理された又はフィルタ処理されていない）に基づいてブロックごとに予測（イントラ又はインター予測）を実行して予測ブロック３６５を取得するよう構成されてよい。
インター予測ユニット３４４は、インター予測ユニット２４４と（特に、動き補償ユニットと）同じであってよく、イントラ予測ユニット３５４は、機能においてイントラ予測ユニット２５４と同じであってよく、符号化ピクチャデータ２１から（例えば、エントロピ復号化ユニット３０４によって、例えば、パース及び／又は復号することによって）受け取られたパーティショニング及び／又は予測パラメータ、あるいは各々の情報に基づいて、分割又はパーティショニング決定及び予測を実行する。モード適用ユニット３６０は、再構成されたピクチャ、ブロック又は各々のサンプル（フィルタ処理された又はフィルタ処理されていない）に基づいてブロックごとに予測（イントラ又はインター予測）を実行して予測ブロック３６５を取得するよう構成されてよい。
【0125】
ビデオスライスが、イントラコーディングされた（Ｉ）スライスとしてコーディングされている場合に、モード適用ユニット３６０のイントラ予測ユニット３５４は、通知されたイントラ予測モードと、現在ピクチャの前に復号されたブロックからのデータとに基づいて、現在ビデオスライスのピクチャブロックについての予測ブロック３６５を生成するよう構成される。ビデオピクチャが、インターコーディングされた（すなわち、Ｂ又はＰ）スライスとしてコーディングされている場合に、モード適用ユニット３６０のインター予測ユニット３４４（例えば、動き補償ユニット）は、エントロピ復号化ユニット３０４から受け取られた動きベクトル及び他のシンタックス要素に基づいて、現在ビデオスライスのビデオブロックについての予測ブロック３６５を生成するよう構成される。インター予測の場合に、予測ブロックは、参照ピクチャリストの１つの中の参照ピクチャの１つから生成されてよい。ビデオデコーダ３０は、ＤＰＢ３３０に記憶されている参照ピクチャに基づいてデフォルトの構成技術を用いて参照フレームリストＬｉｓｔ ０及びＬｉｓｔ １を構成してよい。同じ又は類似したことが、スライス（例えば、ビデオスライス）に加えて又はそれに代えてタイルグループ（例えば、ビデオタイルグループ）及び／又はタイル（例えば、ビデオタイル）を使用する実施形態のために又はそのような実施形態によって適用されてもよく、例えば、ビデオは、Ｉ、Ｐ又はＢタイルグループ及び／又はタイルを用いてコーディングされてもよい。
【0126】
モード適用ユニット３６０は、動きベクトル又は関連情報及び他のシンタックス要素をパースすることによって現在ビデオスライスのビデオブロックについての予測情報を決定するよう構成され、そして、予測情報を用いて、復号化中の現在ビデオブロックについての予測ブロックを生成する。例えば、モード適用ユニット３６０は、現在ビデオスライス内のビデオブロックを復号するために、受信されたシンタックス要素のいくつかを使用して、ビデオスライスのビデオブロックをコーディングするために使用された予測モード（例えば、イントラ又はインター予測）、インター予測スライスタイプ（例えば、Ｂスライス、Ｐスライス、又はＧＰＢスライス）、スライスの参照ピクチャリストの１つ以上についての構成情報、スライスの各インター符号化されたビデオブロックについての動きベクトル、スライスの各インターコーディングされたビデオブロックについてのインター予測ステータス、及び他の情報を決定する。同じ又は類似したことが、スライス（例えば、ビデオスライス）に加えて又はそれに代えてタイルグループ（例えば、ビデオタイルグループ）及び／又はタイル（例えば、ビデオタイル）を使用する実施形態のために又はそのような実施形態によって適用されてもよく、例えば、ビデオは、Ｉ、Ｐ又はＢタイルグループ及び／又はタイルを用いてコーディングされてもよい。
【0127】
図３に示されるビデオデコーダ３０の実施形態は、スライス（ビデオスライスとも呼ばれる）を使用することによってピクチャをパーティション化及び／又は復号するよう構成されてよく。ピクチャは、１つ以上のスライス（通常は重なり合わない）を用いてパーティション化又は復号されてよく、各スライスは、１つ以上のブロック（例えば、ＣＴＵ）を有してよい。
【0128】
図３に示されるビデオデコーダ３０の実施形態は、タイルグループ（ビデオタイルグループとも呼ばれる）及び／又はタイル（ビデオタイルとも呼ばれる）を使用することによってピクチャをパーティション化及び／又は復号するよう構成されてよく、ピクチャは、１つ以上のタイルグループ（通常は重なり合わない）を用いてパーティション化又は復号されてよく、各タイルグループは、例えば、１つ以上のブロック（例えば、ＣＴＵ）又は１つ以上のタイルを有してよく、各タイルは、例えば、長方形形状であってよく、１つ以上のブロック（例えば、ＣＴＵ）、例えば、完全な又は部分的なブロックを有してよい。
【0129】
ビデオデコーダ３０の他の変形は、符号化ピクチャデータ２１を復号するために使用され得る。例えば、デコーダ３０は、ループフィルタリングユニット３２０なしで出力ビデオストリームを生成することができる。例えば、非変換に基づくデコーダ３０は、特定のブロック又はフレームについて逆変換処理ユニット３１２なしで直接に残差信号を逆量子化することができる。他の実施では、ビデオデコーダ３０は、単一のユニットにまとめられた逆量子化ユニット３１０及び逆変換処理ユニット３１２を有することができる。
【0130】
エンコーダ２０及びデコーダ３０において、現在のステップの処理結果は更に処理され、それから次のステップへ出力されてよい、ことが理解されるべきである。例えば、補間フィルタリング、動きベクトル導出、又はループフィルタリングの後に、クリップ又はシフトなどの更なる操作が、補間フィルタリング、動きベクトル導出、又はループフィルタリングの処理結果に対して実行されてもよい。
【0131】
留意されるべきは、更なる操作が、現在ブロックの導出された動きベクトル（アフィンモードの制御点動きベクトル、アフィン、プレーナー、ＡＴＭＶＰモードでのサブブロック動きベクトル、時間動きベクトル、などを含むが、これらに限られない）に適用されてよい点である。例えば、動きベクトルの値は、その表現ビットに従って、予め定義された範囲に制約される。動きベクトルの表現ビットがｂｉｔＤｅｐｔｈである場合に、範囲は、－２＾（ｂｉｔＤｅｐｔｈ－１）～２＾（ｂｉｔＤｅｐｔｈ－１）－１であり、ここで、「＾」は指数計算を意味する。例えば、ｂｉｔＤｅｐｔｈが１６に等しくセットされる場合に、範囲は、－３２７６８～３２７６７であり、ｂｉｔＤｅｐｔｈが１８に等しくセットされる場合に、範囲は、－１３１０７２～１３１０７１である。例えば、導出がされた動きベクトル（例えば、１つの８×８ブロック内の４つの４×４サブブロックのＭＶ）の値は、４つの４×４サブブロックＭＶの整数部間の最大差がＮピクセル以下、例えば、１ピクセル以下、であるように、制約される。ここでは、ｂｉｔＤｅｐｔｈに従って動きベクトルを制約する２つの方法を提供する。
【0132】
方法１：次の演算によってオーバーフローＭＳＢ（最上位ビット）を除く
ｕｘ＝（ｍｖｘ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （１）
ｍｖｘ＝（ｕｘ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｘ－２ｂｉｔＤｅｐｔｈ）：ｕｘ （２）
ｕｙ＝（ｍｖｙ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （３）
ｍｖｙ＝（ｕｙ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｙ－２ｂｉｔＤｅｐｔｈ）：ｕｙ （４）
ここで、ｍｖｘは、画像ブロック又はサブブロックの動きベクトルの水平成分であり、ｍｖｙは、画像ブロック又はサブブロックの動きベクトルの垂直成分であり、ｕｘ及びｕｙは、中間値を示す。例えば、ｍｖｘの値が－３２７６９である場合に、式（１）及び（２）を適用した後に、結果として得られる値は３２７６７である。コンピュータシステムでは、１０進数は２の補数として記憶される。－３２７６９の２の補数は、１，０１１１，１１１１，１１１１，１１１１（１７ビット）であり、その場合に、ＭＳＢは捨てられるので、結果として得られる２の補数は、０１１１，１１１１，１１１１，１１１１（１０進数は３２７６７である）であり、これは、式（１）及び（２）を適用することによる出力と同じである。
ｕｘ＝（ｍｖｐｘ＋ｍｖｄｘ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （５）
ｍｖｘ＝（ｕｘ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｘ－２ｂｉｔＤｅｐｔｈ）：ｕｘ （６）
ｕｙ＝（ｍｖｐｙ＋ｍｖｄｙ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （７）
ｍｖｙ＝（ｕｙ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｙ－２ｂｉｔＤｅｐｔｈ）：ｕｙ （８）
式（５）から（８）に示されるように、演算は、ｍｖｐ及びｍｖｄの合算中に適用されてよい。
ｕｘ＝（ｍｖｘ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （１）
ｍｖｘ＝（ｕｘ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｘ－２ｂｉｔＤｅｐｔｈ）：ｕｘ （２）
ｕｙ＝（ｍｖｙ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （３）
ｍｖｙ＝（ｕｙ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｙ－２ｂｉｔＤｅｐｔｈ）：ｕｙ （４）
ここで、ｍｖｘは、画像ブロック又はサブブロックの動きベクトルの水平成分であり、ｍｖｙは、画像ブロック又はサブブロックの動きベクトルの垂直成分であり、ｕｘ及びｕｙは、中間値を示す。例えば、ｍｖｘの値が－３２７６９である場合に、式（１）及び（２）を適用した後に、結果として得られる値は３２７６７である。コンピュータシステムでは、１０進数は２の補数として記憶される。－３２７６９の２の補数は、１，０１１１，１１１１，１１１１，１１１１（１７ビット）であり、その場合に、ＭＳＢは捨てられるので、結果として得られる２の補数は、０１１１，１１１１，１１１１，１１１１（１０進数は３２７６７である）であり、これは、式（１）及び（２）を適用することによる出力と同じである。
ｕｘ＝（ｍｖｐｘ＋ｍｖｄｘ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （５）
ｍｖｘ＝（ｕｘ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｘ－２ｂｉｔＤｅｐｔｈ）：ｕｘ （６）
ｕｙ＝（ｍｖｐｙ＋ｍｖｄｙ＋２ｂｉｔＤｅｐｔｈ）％２ｂｉｔＤｅｐｔｈ （７）
ｍｖｙ＝（ｕｙ＞＝２ｂｉｔＤｅｐｔｈ－１）？（ｕｙ－２ｂｉｔＤｅｐｔｈ）：ｕｙ （８）
式（５）から（８）に示されるように、演算は、ｍｖｐ及びｍｖｄの合算中に適用されてよい。
【0133】
方法２：値をクリップすることによってオーバーフローＭＳＢを除く
ｖｘ＝Ｃｌｉｐ３（－２ｂｉｔＤｅｐｔｈ－１，２ｂｉｔＤｅｐｔｈ－１－１，ｖｘ）
ｖｙ＝Ｃｌｉｐ３（－２ｂｉｔＤｅｐｔｈ－１，２ｂｉｔＤｅｐｔｈ－１－１，ｖｙ）
ここで、ｖｘは、画像ブロック又はサブブロックの動きベクトルの水平成分であり、ｖｙは、画像ブロック又はサブブロックの動きベクトルの垂直成分であり、ｘ、ｙ及びｚは、夫々、ＭＶクリッピングプロセスの３つの入力値に対応し、関数Ｃｌｉｐ３の定義は、次の通りである：
ｖｘ＝Ｃｌｉｐ３（－２ｂｉｔＤｅｐｔｈ－１，２ｂｉｔＤｅｐｔｈ－１－１，ｖｘ）
ｖｙ＝Ｃｌｉｐ３（－２ｂｉｔＤｅｐｔｈ－１，２ｂｉｔＤｅｐｔｈ－１－１，ｖｙ）
ここで、ｖｘは、画像ブロック又はサブブロックの動きベクトルの水平成分であり、ｖｙは、画像ブロック又はサブブロックの動きベクトルの垂直成分であり、ｘ、ｙ及びｚは、夫々、ＭＶクリッピングプロセスの３つの入力値に対応し、関数Ｃｌｉｐ３の定義は、次の通りである：
【数1】
【0134】
図４は、本開示の実施形態に従うビデオコーディングデバイス４００の概略図である。ビデオコーディングデバイス４００は、ここで記載されている開示実施形態を実装するのに適している。実施形態において、ビデオコーディングデバイス４００は、図１Ａのビデオデコーダ３０などのデコーダ、又は図１Ａのビデオエンコーダ２０などのエンコーダであってよい。
【0135】
ビデオコーディングデバイス４００は、データを受信するための入口ポート４１０（又は入力ポート４１０）及び受信器ユニット（Ｒｘ）４２０と、データを処理するためのプロセッサ、論理ユニット、又は中央演算処理装置（ＣＰＵ）４３０と、データを送信するための送信器ユニット（Ｔｘ）４４０及び出口ポート４５０（又は出力ポート４５０）と、データを記憶するためのメモリ４６０とを有する。ビデオコーディングデバイス４００はまた、光又は電気信号の出又は入りのために入口ポート４１０、受信器ユニット４２０、送信器ユニット４４０、及び出口ポート４５０へ結合された光電気（ＯＥ）コンポーネント及び電気光（ＥＯ）コンポーネントを有してもよい。
【0136】
プロセッサ４３０は、ハードウェア及びソフトウェアによって実装される。プロセッサ４３０は、１つ以上のＣＰＵチップ、コア（例えば、マルチコアプロセッサとして）、ＦＰＧＡ、ＡＳＩＣ、及びＤＳＰとして実装されてよい。プロセッサ４３０は、入口ポート４１０、受信器ユニット４２０、送信器ユニット４４０、出口ポート４５０、及びメモリ４６０と通信する。プロセッサ４３０は、コーディングモジュール４７０を有する。コーディングモジュール４７０は、上述された開示実施形態を実装する。例えば、コーディングモジュール４７０は、様々なコーディング動作を実装、処理、準備、又は提供する。コーディングモジュール４７０の包含は、従って、ビデオコーディングデバイス４００の機能性に実質的な改善をもたらし、異なる状態へのビデオコーディングデバイス４００の変形を達成する。代替的に、コーディングモジュール４７０は、メモリ４６０に記憶されておりプロセッサ４３０によって実行される命令として実装される。
【0137】
メモリ４６０は、１つ以上のディスク、テープドライブ、及びソリッドステートドライブを有してよく、プログラムを、そのようなプログラムが実行のために選択される場合に、記憶するよう、かつ、プログラム実行中に読み出される命令及びデータを記憶するよう、オーバーフローデータ記憶デバイスとして使用されてよい。メモリ４６０は、例えば、揮発性及び／又は不揮発性であってよく、リード・オンリー・メモリ（ＲＯＭ）、ランダム・アクセス・メモリ（ＲＡＭ）、三値連想メモリ（ＴＣＡＭ）、及び／又は静的ランダム・アクセス・メモリ（ＳＲＡＭ）であってよい。
【0138】
【0139】
装置５００内のプロセッサ５０２は、中央演算処理装置であることができる。代替的に、プロセッサ５０２は、現在存在しているか又は今後開発される、情報を操作又は処理する能力があるあらゆる他のタイプのデバイス又は複数のデバイスであることができる。開示されている実施は、示されるように単一のプロセッサ、例えば、プロセッサ５０２、により実施され得るが、速度及び効率の優位性は、１つよりも多いプロセッサを用いて達成され得る。
【0140】
装置５００内のメモリ５０４は、実施においてリード・オンリー・メモリ（ＲＯＭ）デバイス又はランダム・アクセス・メモリ（ＲＡＭ）デバイスであることができる。あらゆる他の適切なタイプの記憶デバイスが、メモリ５０４として使用され得る。メモリ５０４は、バス５１２を用いてプロセッサ５０２によってアクセスされるコード及びデータ５０６を含むことができる。メモリ５０４は、オペレーティングシステム５０８及びアプリケーションプログラム５１０を更に含むことができ、アプリケーションプログラム５１０は、プロセッサ５０２がここで記載されている方法を実行することを可能にする少なくとも１つのプログラムを含む。例えば、アプリケーションプログラム５１０は、ここで記載されている方法を実行するビデオコーディングアプリケーションを更に含むアプリケーション１からＮを含むことができる。
【0141】
装置５００はまた、ディスプレイ５１８などの１つ以上の出力デバイスも含むことができる。ディスプレイ５１８は、一例において、タッチ入力を検知するよう動作可能であるタッチ検知素子とディスプレイを組み合わせるタッチ検知ディスプレイであってよい。ディスプレイ５１８は、バス５１２を介してプロセッサ５０２へ結合され得る。
【0142】
ここでは単一のバスとして表されているが、装置５００のバス５１２は、複数のバスから構成され得る。更に、二次記憶装置５１４は、装置５００の他のコンポーネントへ直接に結合され得るか、あるいは、ネットワークを介してアクセス可能であり、メモリカードのような単一の集積ユニット又は複数のメモリカードのような複数のユニットを有することができる。装置５００は、このようにして多種多様な構成において実装され得る。
【0143】
クロマサンプルのイントラ予測は、再構成されたルーマブロックのサンプルを用いて実行されてよい。
【0144】
ＨＥＶＣ開発中に、交差成分線形モデル（ＣＣＬＭ）クロマイントラ予測が提案された［J. Kim, S.-W. Park, J.-Y. Park, and B.-M. Jeon，Intra Chroma Prediction Using Inter Channel Correlation，document JCTVC-B021，２０１０年７月］。ＣＣＬＭは、コーディングブロック内の対応する位置にあるクロマサンプル及びルーマサンプルの間の線形相関を使用する。クロマブロックがＣＣＬＭを用いてコーディングされる場合に、線形モデルは、線形回帰によって、再構成された隣接するルーマ及びクロマサンプルから導出される。現在ブロック内のクロマサンプルは、次いで、導出された線形モデルにより、現在ブロック内の再構成されたルーマサンプルによって予測され得る（図６に図示される）：
Ｃ（ｘ，ｙ）＝α×Ｌ（ｘ，ｙ）＋β
ここで、Ｃ及びＬは、夫々、クロマ値及びルーマ値を示す。パラメータα及びβは、次のように、最小二乗法によって導出される：
α＝Ｒ（Ｌ，Ｃ）／Ｒ（Ｌ，Ｌ）
β＝Ｍ（Ｃ）－α×Ｍ（Ｌ）
ここで、Ｍ（Ａ）は、Ａの平均を表し、Ｒ（Ａ，Ｂ）は、次のように定義される：
Ｒ（Ａ，Ｂ）＝Ｍ（（Ａ－Ｍ（Ａ））×（Ｂ－Ｍ（Ｂ）））
Ｃ（ｘ，ｙ）＝α×Ｌ（ｘ，ｙ）＋β
ここで、Ｃ及びＬは、夫々、クロマ値及びルーマ値を示す。パラメータα及びβは、次のように、最小二乗法によって導出される：
α＝Ｒ（Ｌ，Ｃ）／Ｒ（Ｌ，Ｌ）
β＝Ｍ（Ｃ）－α×Ｍ（Ｌ）
ここで、Ｍ（Ａ）は、Ａの平均を表し、Ｒ（Ａ，Ｂ）は、次のように定義される：
Ｒ（Ａ，Ｂ）＝Ｍ（（Ａ－Ｍ（Ａ））×（Ｂ－Ｍ（Ｂ）））
【0145】
符号化又は復号されたピクチャが、ルーマ及びクロマ成分について異なる数のサンプルを指定するフォーマットを有している場合に（例えば、４：２：０ ＹＣｂＣｒフォーマット）、ルーマサンプルは、モデリング及び予測の前にダウンサンプリングされる。
【0146】
方法は、ＶＴＭ２．０での利用のために採用されている。具体的に、パラメータ導出は、次のように実行される：
ここで、Ｌ（ｎ）は、ダウンサンプリングされた上及び左の隣接する再構成されたルーマサンプルを表し、Ｃ（ｎ）は、上及び左の隣接する再構成されたクロマサンプルを表す。［G. Laroche, J. Taquet, C. Gisquet, P. Onno (Canon)，“CE3: Cross-component linear model simplification (Test 5.1)”，Input document to 12th JVET Meeting in Macao，中国，２０１８年１０月］では、α及びβを導出する異なる方法が提案された（図７を参照）。特に、線形モデルパラメータα及びβは、次の式に従って求められる：
α＝｛Ｃ（Ｂ）－Ｃ（Ａ）｝／｛Ｌ（Ｂ）－Ｌ（Ａ）｝
β＝Ｌ（Ａ）－αＣ（Ａ）
ここで、Ｂ＝ａｒｇｍａｘ（Ｌ（ｎ））及びＡ＝ａｒｇｍｉｎ（Ｌ（ｎ））は、ルーマサンプルでの最大及び最小値の位置である。
【数2】
α＝｛Ｃ（Ｂ）－Ｃ（Ａ）｝／｛Ｌ（Ｂ）－Ｌ（Ａ）｝
β＝Ｌ（Ａ）－αＣ（Ａ）
ここで、Ｂ＝ａｒｇｍａｘ（Ｌ（ｎ））及びＡ＝ａｒｇｍｉｎ（Ｌ（ｎ））は、ルーマサンプルでの最大及び最小値の位置である。
【0147】
図８は、ＹＣｂＣｒ ４：４：４クロマフォーマットが使用されている場合にＣＣＬＭに関与する現在ブロックのサンプル及び左及び上の因果サンプルの位置を示す。
【0148】
交差成分予測を実行するために、４：２：０クロマフォーマットについて、再構成されたルーマブロックは、クロマサンプル若しくは複数のクロマサンプル又はクロマブロックのサイズに一致するようダウンサンプリングされる必要がある。ＣＣＬＭモードで使用されるデフォルトのダウンサンプリングフィルタは、次の通りである：
Ｒｅｃ’Ｌ［ｘ，ｙ］＝（２×ＲｅｃＬ［２ｘ，２ｙ］＋２×ＲｅｃＬ［２ｘ，２ｙ＋１］＋ＲｅｃＬ［２ｘ－１，２ｙ］＋ＲｅｃＬ［２ｘ＋１，２ｙ］＋ＲｅｃＬ［２ｘ－１，２ｙ＋１］＋ＲｅｃＬ［２ｘ＋１，２ｙ＋１］＋４）＞＞３
このダウンサンプリングは、ルーマサンプルの位置に対するクロマサンプルの位置について「ｔｙｐｅ０」位相関係、つまり、水平方向ではコロケーテッドサンプリング及び垂直方向ではインタースティシャルサンプリング、を仮定している点に留意されたい。図９に示されている上記の６－タップダウンサンプリングは、単一モデルＣＣＬＭモード及び多重モデルＣＣＬＭモードの両方についてデフォルトフィルタとして使用される。６－タップダウンサンプリングフィルタによって使用されるサンプルの空間位置は、図９に示される。サンプル９０１、９０２、及び９０３は、夫々、２、１、及び０の重みを有する。
Ｒｅｃ’Ｌ［ｘ，ｙ］＝（２×ＲｅｃＬ［２ｘ，２ｙ］＋２×ＲｅｃＬ［２ｘ，２ｙ＋１］＋ＲｅｃＬ［２ｘ－１，２ｙ］＋ＲｅｃＬ［２ｘ＋１，２ｙ］＋ＲｅｃＬ［２ｘ－１，２ｙ＋１］＋ＲｅｃＬ［２ｘ＋１，２ｙ＋１］＋４）＞＞３
このダウンサンプリングは、ルーマサンプルの位置に対するクロマサンプルの位置について「ｔｙｐｅ０」位相関係、つまり、水平方向ではコロケーテッドサンプリング及び垂直方向ではインタースティシャルサンプリング、を仮定している点に留意されたい。図９に示されている上記の６－タップダウンサンプリングは、単一モデルＣＣＬＭモード及び多重モデルＣＣＬＭモードの両方についてデフォルトフィルタとして使用される。６－タップダウンサンプリングフィルタによって使用されるサンプルの空間位置は、図９に示される。サンプル９０１、９０２、及び９０３は、夫々、２、１、及び０の重みを有する。
【0149】
ルーマサンプルがブロック境界にあり、隣接する上及び左のブロックが利用不可能である場合に、次の式が使用される：
ｙ＝０で行がＣＴＵの最初の行であり、ｘ＝０であり、かつ、左及び上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝ＲｅｃＬ［２ｘ，２ｙ］であり、
ｙ＝０で行がＣＴＵの最初の行であり、かつ、上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝（２×ＲｅｃＬ［２ｘ，２ｙ］＋ＲｅｃＬ［２ｘ－１，２ｙ］＋ＲｅｃＬ［２ｘ＋１，２ｙ］＋２）＞＞２であり、
ｘ＝０であり、かつ、左及び上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝（ＲｅｃＬ［２ｘ，２ｙ］＋ＲｅｃＬ［２ｘ，２ｙ＋１］＋１）＞＞１である。
ｙ＝０で行がＣＴＵの最初の行であり、ｘ＝０であり、かつ、左及び上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝ＲｅｃＬ［２ｘ，２ｙ］であり、
ｙ＝０で行がＣＴＵの最初の行であり、かつ、上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝（２×ＲｅｃＬ［２ｘ，２ｙ］＋ＲｅｃＬ［２ｘ－１，２ｙ］＋ＲｅｃＬ［２ｘ＋１，２ｙ］＋２）＞＞２であり、
ｘ＝０であり、かつ、左及び上の隣接ブロックが利用不可能であるならば、Ｒｅｃ’Ｌ［ｘ，ｙ］＝（ＲｅｃＬ［２ｘ，２ｙ］＋ＲｅｃＬ［２ｘ，２ｙ＋１］＋１）＞＞１である。
【0150】
図１０Ａ及び１０Ｂは、４：２：０サンプリングスキームの場合におけるクロマ成分位置を表す。当然、同じことが、他のサンプリングスキームにも当てはまり得る。
【0151】
４：２：０サンプリングスキームにおけるルーマ及びクロマ成分のサンプリングを考えるとき、ルーマ及びクロマ成分グリッド間にはシフトが存在し得ることが知られる。２×２ピクセルのブロックでは、クロマ成分に、実際に、ルーマ成分と比較して垂直方向に２分の１ピクセルだけシフトされている（図１０Ａに表される）。そのようなシフトは、４：４：４からのダウンサンプリング時に、又はアップサンプリング時に、補間フィルタに対して影響を及ぼす可能性がある。図１０Ｂでは、インターレース画像の場合に、様々なサンプリングパターンが示されている。これは、パリティ、すなわち、ピクセルがインターレース画像の上又は下フィールドにあるかどうか、も考慮されることを意味する。
【0152】
［P. Hanhart, Y. He，“CE3: Modified CCLM downsampling filter for “type-2” content (Test 2.4)”，Input document JVET-M0142 to the 13th JVET Meeting in Marrakech，モロッコ，２０１９年１月］で提案されて、ＶＶＣ仕様書草案（バージョン４）に含まれているように、「タイプ－２」コンテンツについてＣＣＬＭでクロマサンプルとダウンサンプリングされたルーマサンプルとの間のアライメント不一致を回避するために、次のダウンサンプリングフィルタが、線形モデル決定及び予測のためにルーマに適用される：
【表1】
【0153】
ラインバッファの数が増えないように、上側ＣＴＵ境界では、これらの変更は適用されない。ダウンサンプリングフィルタ選択は、ＳＰＳフラグｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇによって管理される。ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇの値が０又はＦＡＬＳＥであるとき、ダウンサンプリングフィルタは、線形モデル決定及び予測のためにルーマに適用され、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇの値が１又はＴＲＵＥであるとき、ダウンサンプリングフィルタは、線形モデル決定及び予測のためにルーマに適用されない。
【0154】
上述されたように線形モデルパラメータを導出するために使用される境界ルーマ再構成サンプルＬ（）は、フィルタ処理されたルーマサンプルＲｅｃ’Ｌ［ｘ，ｙ］からサブサンプリングされる。
【表2】
【0155】
ルーマサンプルフィルタリング及びサブサンプリングのプロセスは、ＶＶＣ仕様書の８．３．４．２．８に記載されている。
【0156】
８．３．４．２．８．ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ及びＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードの仕様
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜１，ｙＴｂＣ＜＜１） （８－１５５）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０ （８－１５６）
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０ （８－１５７）
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋ｎｕｍＴｏｐＲｉｇｈｔ）：０ （８－１５８）
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋ｎｕｍＬｅｆｔＢｅｌｏｗ）：０ （８－１５９）
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ （８－１６０）
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
（８－１６１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊２－１，ｙ＝０．．ｎＴｂＨ＊２－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．２＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．２＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（ｐＹ［２＊ｘ］［２＊ｙ－１］＋ｐＹ［２＊ｘ－１］［２＊ｙ］＋４＊ｐＹ［２＊ｘ］［２＊ｙ］＋ｐＹ［２＊ｘ＋１］［２＊ｙ］＋ｐＹ［２＊ｘ］［２＊ｙ＋１］＋４）＞＞３ （８－１６２）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ－１］＋ｐＹ［－１］［２＊ｙ］＋４＊ｐＹ［０］［２＊ｙ］＋ｐＹ［１］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋４）＞＞３ （８－１６３）
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ－１］＋２＊ｐＹ［０］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋２）＞＞２ （８－１６４）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝（ｐＹ［２＊ｘ］［－１］＋ｐＹ［２＊ｘ－１］［０］＋４＊ｐＹ［２＊ｘ］［０］＋ｐＹ［２＊ｘ＋１］［０］＋ｐＹ［２＊ｘ］［１］＋４）＞＞３ （８－１６５）
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝（ｐＹ［２＊ｘ－１］［０］＋２＊ｐＹ［２＊ｘ］［０］＋ｐＹ［２＊ｘ＋１］［０］＋２）＞＞２ （８－１６６）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋ｐＹ［－１］［０］＋４＊ｐＹ［０］［０］＋ｐＹ［１］［０］＋ｐＹ［０］［１］＋４）＞＞３ （８－１６７）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［－１］［０］＋２＊ｐＹ［０］［０］＋ｐＹ［１］［０］＋２）＞＞２ （８－１６８）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋２＊ｐＹ［０］［０］＋ｐＹ［０］［１］＋２）＞＞２ （８－１６９）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （８－１７０）
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（ｐＹ［２＊ｘ－１］［２＊ｙ］＋ｐＹ［２＊ｘ－１］［２＊ｙ＋１］＋２＊ｐＹ［２＊ｘ］［２＊ｙ］＋２＊ｐＹ［２＊ｘ］［２＊ｙ＋１］＋ｐＹ［２＊ｘ＋１］［２＊ｙ］＋ｐＹ［２＊ｘ＋１］［２＊ｙ＋１］＋４）＞＞３ （８－１７１）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［－１］［２＊ｙ］＋ｐＹ［－１］［２＊ｙ＋１］＋２＊ｐＹ［０］［２＊ｙ］＋２＊ｐＹ［０］［２＊ｙ＋１］＋ｐＹ［１］［２＊ｙ］＋ｐＹ［１］［２＊ｙ＋１］＋４）＞＞３ （８－１７２）
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋１）＞＞１ （８－１７３）
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜１，ｙＴｂＣ＜＜１） （８－１５５）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０ （８－１５６）
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０ （８－１５７）
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋ｎｕｍＴｏｐＲｉｇｈｔ）：０ （８－１５８）
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋ｎｕｍＬｅｆｔＢｅｌｏｗ）：０ （８－１５９）
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ （８－１６０）
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
（８－１６１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊２－１，ｙ＝０．．ｎＴｂＨ＊２－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．２＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．２＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（ｐＹ［２＊ｘ］［２＊ｙ－１］＋ｐＹ［２＊ｘ－１］［２＊ｙ］＋４＊ｐＹ［２＊ｘ］［２＊ｙ］＋ｐＹ［２＊ｘ＋１］［２＊ｙ］＋ｐＹ［２＊ｘ］［２＊ｙ＋１］＋４）＞＞３ （８－１６２）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ－１］＋ｐＹ［－１］［２＊ｙ］＋４＊ｐＹ［０］［２＊ｙ］＋ｐＹ［１］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋４）＞＞３ （８－１６３）
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ－１］＋２＊ｐＹ［０］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋２）＞＞２ （８－１６４）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝（ｐＹ［２＊ｘ］［－１］＋ｐＹ［２＊ｘ－１］［０］＋４＊ｐＹ［２＊ｘ］［０］＋ｐＹ［２＊ｘ＋１］［０］＋ｐＹ［２＊ｘ］［１］＋４）＞＞３ （８－１６５）
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝（ｐＹ［２＊ｘ－１］［０］＋２＊ｐＹ［２＊ｘ］［０］＋ｐＹ［２＊ｘ＋１］［０］＋２）＞＞２ （８－１６６）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋ｐＹ［－１］［０］＋４＊ｐＹ［０］［０］＋ｐＹ［１］［０］＋ｐＹ［０］［１］＋４）＞＞３ （８－１６７）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［－１］［０］＋２＊ｐＹ［０］［０］＋ｐＹ［１］［０］＋２）＞＞２ （８－１６８）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋２＊ｐＹ［０］［０］＋ｐＹ［０］［１］＋２）＞＞２ （８－１６９）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （８－１７０）
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（ｐＹ［２＊ｘ－１］［２＊ｙ］＋ｐＹ［２＊ｘ－１］［２＊ｙ＋１］＋２＊ｐＹ［２＊ｘ］［２＊ｙ］＋２＊ｐＹ［２＊ｘ］［２＊ｙ＋１］＋ｐＹ［２＊ｘ＋１］［２＊ｙ］＋ｐＹ［２＊ｘ＋１］［２＊ｙ＋１］＋４）＞＞３ （８－１７１）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［－１］［２＊ｙ］＋ｐＹ［－１］［２＊ｙ＋１］＋２＊ｐＹ［０］［２＊ｙ］＋２＊ｐＹ［０］［２＊ｙ＋１］＋ｐＹ［１］［２＊ｙ］＋ｐＹ［１］［２＊ｙ＋１］＋４）＞＞３ （８－１７２）
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（ｐＹ［０］［２＊ｙ］＋ｐＹ［０］［２＊ｙ＋１］＋１）＞＞１ （８－１７３）
【0157】
最先端技術は、クロマ成分がサブサンプリングされない場合のルーマフィルタリングプロセスを規定していない。クロマフォーマットが４：２：０とは異なる場合にどのようにルーマ成分が処理されるべきかについては、以下で開示する。
【0158】
本明細書は、線形モデルのパラメータを決定するために入力データとして使用されるルーマサンプルを処理する方法を開示する。方法は、垂直方向及び水平方向で条件付きで適用される２つのフィルタの決定を含む。
【0159】
本願の実施形態は、再構成されたルーマサンプルに適用されるべきであるフィルタの係数を決定するためにチェックされている、クロマサンプリング係数を含むがこれに限られない条件の組の導入について記載する。
【0160】
図１１に示されるように、方法は、次の通りに記載される。
【0161】
現在のブロック１１０１は、コーディングされているピクチャのクロマフォーマットに基づきＳｕｂＷｉｄｔｈＣ（つまり、画像ブロックの幅）及びＳｕｂＨｅｉｇｈｔＣ（つまり、画像ブロックの高さ）の値を決定又は算出又は取得することである。
【0162】
現在のブロック１１０２は、値ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣに使用されるフィルタ“Ｆ”を定義又は決定することである。
【0163】
どのようにフィルタがＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの対応する値と関連付けられ得るかの例示的な実施形態は、表２～５に示されるとおりである。空間フィルタ“Ｆ”は、係数の行列の形で定義される。これらの係数が適用される対応する位置は、次のように、フィルタ処理されたルーマサンプルの位置（ｘ，ｙ）に対して定義される：
【数3】
【0164】
出力されたフィルタ処理された再構成サンプルの位置がブロック境界にあるとき、隣接する位置の一部は、隣接するブロックが利用可能でないことにより、利用不可能になる場合がある。この場合に、入力サンプルの位置は、同じ位置を選択するように変更される。このサンプリング変更は、異なる係数を有しているより小さい次元の等価なフィルタとして実装されてよい。
【0165】
具体的に、出力サンプルの位置が現在ブロックの左側境界にあり、ルーマブロックの左側に隣接するサンプルが利用可能でない場合に、フィルタリングのための位置は、次のように定義される：
【数4】
【0166】
出力サンプルの位置が現在ブロックの上側境界にあり、ルーマブロックの上側に隣接するサンプルが利用可能出ない場合に、フィルタリングのための位置は、次のように定義される：
【数5】
【0167】
出力サンプルの位置が現在ブロックの右側境界にある場合に、フィルタリングのための位置は、次のように定義される：
【数6】
【0168】
出力サンプルの位置が現在ブロックの下側境界にある場合に、フィルタリングのための位置は、次のように定義される：
【数7】
【0169】
【表3】
【表4】
【表5】
【表6】
【0170】
現在のブロック１１０３は、フィルタ処理されたルーマサンプル値Ｒｅｃ’Ｌ［ｘ，ｙ］を得るために、再構成されたルーマサンプルのフィルタリングを実行することである。特に、これは、選択されたフィルタ“Ｆ”を再構成されたサンプルＲｅｃＬ［ｘ，ｙ］に適用することによって、実行される：
ここで、Ｆは、フィルタを表し、Ｎは、フィルタＦの係数の和であり、（ｘ，ｙ）は、再構成されたサンプルの位置を表す。
【数8】
【0171】
更なる実施形態は、ルーマサンプルに対するサブサンプリングされたクロマサンプルの位置に応じてフィルタタイプ（つまり、表２～５で定義されたフィルタ関連付け）を切り替えることである。一例として、サブサンプリングされたクロマサンプルが対応するルーマサンプル（ビットストリームでフラグによって通知される）と同一位置にないときには、表４が使用される。そうでない場合には、表２又は表３のどちらか一方が現在ブロックに使用される。
【0172】
表２又は表３の区別は、現在ブロックに属するルーマサンプルの数に基づき行われてよい。例えば、６４以下のサンプルを含むブロックについて、クロマサブサンプリングが実行されない場合には、クロマフィルタリングは適用されない（表２）。そうではなく、ブロックサイズが６４サンプルよりも大きい場合には、フィルタ“Ｆ”を定義するために表３が使用されることになる。６４の値は単なる例であり、他の閾値が適用されてもよい。
【0173】
他の実施形態では、フィルタＦは、表６～１０に示されように、クロマフォーマット及びクロマタイプに従って選択される。クロマタイプは、クロマ成分の変位を指定し、図１０Ａ及び１０Ｂに示される。表６～１０で、「ＹＵＶ ４：２：０」列で指定されるフィルタは、最新のＶＶＣ草案で使用されている。列「ＹＵＶ ４：２：２」及び「ＹＵＶ ４：４：４」は、対応するクロマフォーマットが定義される場合に、列「ＹＵＶ ４：２：０」で定義されているものに代わるフィルタを定義する。
【表7】
【表8】
【表9】
【表10】
【表11】
【0174】
フィルタ
（外１）
は、フィルタバイパス動作（すなわち、出力値を入力値にセットすることによる）を含む異なる方法で実装されてよい。代替的に、それは、類似した加算及びシフト演算を用いて実装されてもよく、すなわち：
（外１）
【数9】
【0175】
提案されている変更に従って、方法は、仕様書テキストとして実装されてよい：
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋２）＞＞２
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（２＊Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋２＊ｐＹ［０］［０］＋ｐＹ［０］［１］＋２）＞＞２ （８－１６９）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （８－１７０）
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋２）＞＞２
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（２＊Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（ｐＹ［０］［－１］＋２＊ｐＹ［０］［０］＋ｐＹ［０］［１］＋２）＞＞２ （８－１６９）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （８－１７０）
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
【0176】
上記の説明で記載されているフィルタＦ［ｉ］［ｊ］は、本願の実施形態に従って定められる。
【0177】
他の例示的な実施形態は、次のように、ＶＶＣ仕様草案の一部の形で説明され得る：
８．４．４．２．８ ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ及びＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードの仕様
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１）） （８－１５６）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋ｎｕｍＴｏｐＲｉｇｈｔ）：０
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋ｎｕｍＬｅｆｔＢｅｌｏｗ）：０
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
／／説明のためだけ：ＹＵＶ ４：４：４用のフィルタなし／／
そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される。／／ここでは、係数を定義する／／
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
－ ／／本願の実施形態の太字部分を参照／／
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
／／ここで説明するためだけ：決定されたフィルタ及び“Ｆ”フィルタの他の全ての出現を適用／／
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、ｙ＝０．．ｎｕｍＳａｍｐＬ－１である、ダウンサンプリングされた隣接する左ルーマサンプルｐＬｅｆｔＤｓＹ［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｙ＝０．．ｎＴｂＨ－１であるｐＬｅｆｔＤｓＹ［ｙ］は、次のように導出される：ｐＬｅｆｔＤｓＹ［ｙ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＝１．．ｎＴｂＨ－１であるｐＬｅｆｔＤｓＹ［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＬｅｆｔＤｓＹ［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［０］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［１］＋４）＞＞３
－ そうでない場合に、ｐＬｅｆｔＤｓＹ［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［０］＝
＝（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＬｅｆｔＤｓＹ［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ｎｕｍＳａｍｐＴ－１である、ダウンサンプリングされた隣接する上ルーマサンプルｐＴｏｐＤｓＹ［ｘ］は、次のように定められる：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝０．．ｎｕｍＳａｍｐＴ－１について、ｐＴｏｐＤｓＹ［ｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎｕｍＳａｍｐＴ－１であるｐＴｏｐＤｓＹ［ｘ］は、次のように導出される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ ｐＴｏｐＤｓＹ［０］は、次のように導出される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＴｏｐＤｓＹ［０］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＝１．．ｎｕｍＳａｍｐＴ－１であるｐＴｏｐＤｓＹ［ｘ］は、次のように導出される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ ｐＴｏｐＤｓＹ［０］は、次のように導出される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［０］［－２］
＋Ｆ［１］［２］＊ｐＹ［０］［－１］
＋Ｆ［２］［１］＊ｐＹ［１］［－２］
＋Ｆ［２］［２］＊ｐＹ［１］［－１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＴｏｐＤｓＹ［０］＝ｐＹ［０］［－１］
６．変数ｎＳ、ｘＳ、ｙＳは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しい場合に、次が適用される：
ｎＳ＝（（ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？Ｍｉｎ（ｎＴｂＷ，ｎＴｂＨ）：（ａｖａｉｌＬ？ｎＴｂＨ：ｎＴｂＷ））
ｘＳ＝１＜＜（（（ｎＴｂＷ＞ｎＴｂＨ）＆＆ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？（Ｌｏｇ２（ｎＴｂＷ）－Ｌｏｇ２（ｎＴｂＨ））：０） （８－１９２）
ｙＳ＝１＜＜（（（ｎＴｂＨ＞ｎＴｂＷ）＆＆ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？（Ｌｏｇ２（ｎＴｂＨ）－Ｌｏｇ２（ｎＴｂＷ））：０） （８－１９３）
－ そうではなく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しい場合に、次が適用される：
ｎＳ＝ｎｕｍＳａｍｐＬ
ｘＳ＝１
ｙＳ＝１
－ その他の場合（ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しい場合）に、次が適用される：
ｎＳ＝ｎｕｍＳａｍｐＴ
ｘＳ＝１
ｙＳ＝１
７．変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ 変数ｍｉｎＹは、１＜＜（ＢｉｔＤｅｐｔｈＹ）＋１に等しくセットされ、変数ｍａｘＹは、－１に等しくセットされる。
－ ａｖａｉｌＴがＴＲＵＥに等しい場合に、ｘ＝０．．ｎＳ－１として、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｍｉｎＹがｐＴｏｐＤｓＹ［ｘ＊ｘＳ］よりも大きい場合に、次が適用される：
ｍｉｎＹ＝ｐＴｏｐＤｓＹ［ｘ＊ｓＳ］
ｍｉｎＣ＝ｐ［ｘ＊ｘＳ］［－１］
－ ｍａｘＹがｐＴｏｐＤｓＹ［ｘ＊ｘＳ］よりも小さい場合に、次が適用される：
ｍａｘＹ＝ｐＴｏｐＤｓＹ［ｘ＊ｘＳ］
ｍａｘＣ＝ｐ［ｘ＊ｘＳ］［－１］
－ ａｖａｉｌＬがＴＲＵＥに等しい場合に、ｙ＝０．．ｎＳ－１として、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｍｉｎＹがｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］よりも大きい場合に、次が適用される：
ｍｉｎＹ＝ｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］
ｍｉｎＣ＝ｐ［－１］［ｙ＊ｙＳ］
－ ｍａｘＹがｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］よりも小さい場合に、次が適用される：
ｍａｘＹ＝ｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］
ｍａｘＣ＝ｐ［－１］［ｙ＊ｙＳ］
８．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
９．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
８．４．４．２．８ ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ及びＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードの仕様
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１）） （８－１５６）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋ｎｕｍＴｏｐＲｉｇｈｔ）：０
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋ｎｕｍＬｅｆｔＢｅｌｏｗ）：０
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
／／説明のためだけ：ＹＵＶ ４：４：４用のフィルタなし／／
そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される。／／ここでは、係数を定義する／／
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
－ ／／本願の実施形態の太字部分を参照／／
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
／／ここで説明するためだけ：決定されたフィルタ及び“Ｆ”フィルタの他の全ての出現を適用／／
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、ｙ＝０．．ｎｕｍＳａｍｐＬ－１である、ダウンサンプリングされた隣接する左ルーマサンプルｐＬｅｆｔＤｓＹ［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｙ＝０．．ｎＴｂＨ－１であるｐＬｅｆｔＤｓＹ［ｙ］は、次のように導出される：ｐＬｅｆｔＤｓＹ［ｙ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＝１．．ｎＴｂＨ－１であるｐＬｅｆｔＤｓＹ［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＬｅｆｔＤｓＹ［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［０］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［１］＋４）＞＞３
－ そうでない場合に、ｐＬｅｆｔＤｓＹ［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＬｅｆｔＤｓＹ［０］＝
＝（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＬｅｆｔＤｓＹ［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ｎｕｍＳａｍｐＴ－１である、ダウンサンプリングされた隣接する上ルーマサンプルｐＴｏｐＤｓＹ［ｘ］は、次のように定められる：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝０．．ｎｕｍＳａｍｐＴ－１について、ｐＴｏｐＤｓＹ［ｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎｕｍＳａｍｐＴ－１であるｐＴｏｐＤｓＹ［ｘ］は、次のように導出される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ ｐＴｏｐＤｓＹ［０］は、次のように導出される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＴｏｐＤｓＹ［０］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＝１．．ｎｕｍＳａｍｐＴ－１であるｐＴｏｐＤｓＹ［ｘ］は、次のように導出される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［ｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ ｐＴｏｐＤｓＹ［０］は、次のように導出される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［０］［－２］
＋Ｆ［１］［２］＊ｐＹ［０］［－１］
＋Ｆ［２］［１］＊ｐＹ［１］［－２］
＋Ｆ［２］［２］＊ｐＹ［１］［－１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＴｏｐＤｓＹ［０］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＴｏｐＤｓＹ［０］＝ｐＹ［０］［－１］
６．変数ｎＳ、ｘＳ、ｙＳは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しい場合に、次が適用される：
ｎＳ＝（（ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？Ｍｉｎ（ｎＴｂＷ，ｎＴｂＨ）：（ａｖａｉｌＬ？ｎＴｂＨ：ｎＴｂＷ））
ｘＳ＝１＜＜（（（ｎＴｂＷ＞ｎＴｂＨ）＆＆ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？（Ｌｏｇ２（ｎＴｂＷ）－Ｌｏｇ２（ｎＴｂＨ））：０） （８－１９２）
ｙＳ＝１＜＜（（（ｎＴｂＨ＞ｎＴｂＷ）＆＆ａｖａｉｌＬ＆＆ａｖａｉｌＴ）？（Ｌｏｇ２（ｎＴｂＨ）－Ｌｏｇ２（ｎＴｂＷ））：０） （８－１９３）
－ そうではなく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しい場合に、次が適用される：
ｎＳ＝ｎｕｍＳａｍｐＬ
ｘＳ＝１
ｙＳ＝１
－ その他の場合（ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しい場合）に、次が適用される：
ｎＳ＝ｎｕｍＳａｍｐＴ
ｘＳ＝１
ｙＳ＝１
７．変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ 変数ｍｉｎＹは、１＜＜（ＢｉｔＤｅｐｔｈＹ）＋１に等しくセットされ、変数ｍａｘＹは、－１に等しくセットされる。
－ ａｖａｉｌＴがＴＲＵＥに等しい場合に、ｘ＝０．．ｎＳ－１として、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｍｉｎＹがｐＴｏｐＤｓＹ［ｘ＊ｘＳ］よりも大きい場合に、次が適用される：
ｍｉｎＹ＝ｐＴｏｐＤｓＹ［ｘ＊ｓＳ］
ｍｉｎＣ＝ｐ［ｘ＊ｘＳ］［－１］
－ ｍａｘＹがｐＴｏｐＤｓＹ［ｘ＊ｘＳ］よりも小さい場合に、次が適用される：
ｍａｘＹ＝ｐＴｏｐＤｓＹ［ｘ＊ｘＳ］
ｍａｘＣ＝ｐ［ｘ＊ｘＳ］［－１］
－ ａｖａｉｌＬがＴＲＵＥに等しい場合に、ｙ＝０．．ｎＳ－１として、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｍｉｎＹがｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］よりも大きい場合に、次が適用される：
ｍｉｎＹ＝ｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］
ｍｉｎＣ＝ｐ［－１］［ｙ＊ｙＳ］
－ ｍａｘＹがｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］よりも小さい場合に、次が適用される：
ｍａｘＹ＝ｐＬｅｆｔＤｓＹ［ｙ＊ｙＳ］
ｍａｘＣ＝ｐ［－１］［ｙ＊ｙＳ］
８．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
９．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
【0178】
他の実施形態は、多くても４つの隣接クロマサンプル及びそれらの対応するダウンサンプリングされたルーマサンプルによりＣＣＬＭパラメータを導出する方法について記載する。
【0179】
現在のクロマブロックの大きさがＷ×Ｈであるとすると、Ｗ’及びＨ’は
●ＬＭモードが適用される場合に、Ｗ’＝Ｗ，Ｈ’＝Ｈ；
●ＬＭ－Ａモードが適用される場合に、Ｗ’＝Ｗ＋Ｈ；
●ＬＭ－Ｌモードが適用される場合に、Ｈ’＝Ｈ＋Ｗ
としてセットされる。
●ＬＭモードが適用される場合に、Ｗ’＝Ｗ，Ｈ’＝Ｈ；
●ＬＭ－Ａモードが適用される場合に、Ｗ’＝Ｗ＋Ｈ；
●ＬＭ－Ｌモードが適用される場合に、Ｈ’＝Ｈ＋Ｗ
としてセットされる。
【0180】
上隣接位置は、Ｓ［０，－１］．．．Ｓ［Ｗ’－１，－１］と表され、左隣接位置は、Ｓ［－１，０］．．．Ｓ［－１，Ｈ’－１］と表される。その場合に、４つのサンプルは
●ＬＭモードが適用され、上側及び左側の両方の隣接サンプルが利用可能である場合に、Ｓ［Ｗ’／４，－１］、Ｓ［３Ｗ’／４，－１］、Ｓ［－１，Ｈ’／４］、Ｓ［－１，３Ｈ’／４］；
●ＬＭ－Ａモードが適用されるか、あるいは、上隣接サンプルのみが利用可能である場合に、Ｓ［Ｗ’／８，－１］、Ｓ［３Ｗ’／８，－１］、Ｓ［５Ｗ’／８，－１］、Ｓ［７Ｗ’／８，－１］；
●ＬＭ－Ｌモードが適用されるか、あるいは、左隣接サンプルのみが利用可能である場合に、Ｓ［－１，Ｈ’／８］、Ｓ［－１，３Ｈ’／８］、Ｓ［－１，５Ｈ’／８］、Ｓ［－１，７Ｈ’／８］
として選択される。
●ＬＭモードが適用され、上側及び左側の両方の隣接サンプルが利用可能である場合に、Ｓ［Ｗ’／４，－１］、Ｓ［３Ｗ’／４，－１］、Ｓ［－１，Ｈ’／４］、Ｓ［－１，３Ｈ’／４］；
●ＬＭ－Ａモードが適用されるか、あるいは、上隣接サンプルのみが利用可能である場合に、Ｓ［Ｗ’／８，－１］、Ｓ［３Ｗ’／８，－１］、Ｓ［５Ｗ’／８，－１］、Ｓ［７Ｗ’／８，－１］；
●ＬＭ－Ｌモードが適用されるか、あるいは、左隣接サンプルのみが利用可能である場合に、Ｓ［－１，Ｈ’／８］、Ｓ［－１，３Ｈ’／８］、Ｓ［－１，５Ｈ’／８］、Ｓ［－１，７Ｈ’／８］
として選択される。
【0181】
選択された位置にある４つの隣接ルーマサンプルはダウンサンプリングされ、２つのより小さい値：ｘ０
Ａ及びｘ１
Ａと、２つのより大きい値：ｘ０
Ｂ及びｘ１
Ｂとを見つけるために４回比較される。それらの対応するクロマサンプル値は、ｙ０
Ａ、ｙ１
Ａ、ｙ０
Ｂ及びｙ１
Ｂと表される。次いで、ｘＡ、ｘＢ、ｙＡ及びｙＢは：
ｘＡ＝（ｘ０ Ａ＋ｘ１ Ａ＋１）＞＞１；
ｘＢ＝（ｘ０ Ｂ＋ｘ１ Ｂ＋１）＞＞１；
ｙＡ＝（ｙ０ Ａ＋ｙ１ Ａ＋１）＞＞１；
ｙＢ＝（ｙ０ Ｂ＋ｙ１ Ｂ＋１）＞＞１
として導出される。
ｘＡ＝（ｘ０ Ａ＋ｘ１ Ａ＋１）＞＞１；
ｘＢ＝（ｘ０ Ｂ＋ｘ１ Ｂ＋１）＞＞１；
ｙＡ＝（ｙ０ Ａ＋ｙ１ Ａ＋１）＞＞１；
ｙＢ＝（ｙ０ Ｂ＋ｙ１ Ｂ＋１）＞＞１
として導出される。
【0182】
ＶＶＣ仕様草案の一部の形での記載は、次のとおりである：
８．４．４．２．８ ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ及びＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードの仕様
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１））
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋Ｍｉｎ（ｎｕｍＴｏｐＲｉｇｈｔ，ｎＴｂＨ））：０
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋Ｍｉｎ（ｎｕｍＬｅｆｔＢｅｌｏｗ，ｎＴｂＷ））：０
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ
ＮがＬ及びＴで置換される変数ｃｎｔＮ及びアレイｐｉｃｋＰｏｓＮ［］は、次のように導出される：
－ 変数ｎｕｍＩｓ４Ｎは、（（ａｖａｉｌＴ＆＆ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ ＬＴ ＣＣＬＭ）？０：１）に等しくセットされる。
－ 変数ｓｔａｒｔＰｏｓＮは、ｎｕｍＳａｍｐＮ＞＞（２＋ｎｕｍＩｓ４Ｎ）に等しくセットされる。
－ 変数ｐｉｃｋＳｔｅｐＮは、Ｍａｘ（１，ｎｕｍＳａｍｐＮ＞＞（１＋ｎｕｍＩｓ４Ｎ））に等しくセットされる。
－ ａｖａｉｌＮがＴＲＵＥに等しく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ又はＩＮＴＲＡ＿Ｎ＿ＣＣＬＭに等しい場合に、ｃｎｔＮは、Ｍｉｎ（ｎｕｍＳａｍｐＮ，（１＋ｎｕｍＩｓ４Ｎ）＜＜１）に等しくセットされ、ｐｉｃｋＰｏｓＮ［ｐｏｓ］は、（ｓｔａｒｔＰｏｓＮ＋ｐｏｓ＊ｐｉｃｋＳｔｅｐＮ）に等しくセットされ、ｐｏｓ＝０．．（ｃｎｔＮ－１）である。
－ そうでない場合に、ｃｎｔＮは、０に等しくセットされる。
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，
Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，
Ｆ２［１］＝０
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＞０｜｜ａｖａｉｌＴＬ＝＝ＴＲＵＥである場合に、Ｆ５にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合に、Ｆ３にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．（ｃｎｔＬ＋ｃｎｔＴ－１）として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように導出される：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２ （８－１８２）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［０］［－２］
＋Ｆ［１］［２］＊ｐＹ［０］［－１］
＋Ｆ［２］［１］＊ｐＹ［１］［－２］
＋Ｆ［２］［２］＊ｐＹ［１］［－１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］をｐＳｅｌＣｏｍｐ［０］に等しくセットし、ｐＳｅｌＣｏｍｐ［２］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［０］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［１］をｐＳｅｌＣｏｍｐ［３］に等しくセットし、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ［］及びｍａｘＧｒｐＩｄｘ［］は、ｍｉｎＧｒｐＩｄｘ［０］＝０、ｍｉｎＧｒｐＩｄｘ［１］＝２、ｍａｘＧｒｐＩｄｘ［０］＝１、ｍａｘＧｒｐＩｄｘ［１］＝３とセットされる。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）。
－ ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
８．４．４．２．８ ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ及びＩＮＴＲＡ＿Ｔ＿ＣＣＬＭイントラ予測モードの仕様
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１））
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ ブロックの左隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）を入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ ブロックの上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ ブロックの左上隣接サンプルの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＬに割り当てられる。
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）を入力として用いて呼び出され、出力はａｖａｉｌＴＲに割り当てられる。
－ ａｖａｉｌＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ ブロックの利用可能性導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）及び隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）を入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋Ｍｉｎ（ｎｕｍＴｏｐＲｉｇｈｔ，ｎＴｂＨ））：０
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋Ｍｉｎ（ｎｕｍＬｅｆｔＢｅｌｏｗ，ｎＴｂＷ））：０
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ
ＮがＬ及びＴで置換される変数ｃｎｔＮ及びアレイｐｉｃｋＰｏｓＮ［］は、次のように導出される：
－ 変数ｎｕｍＩｓ４Ｎは、（（ａｖａｉｌＴ＆＆ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ ＬＴ ＣＣＬＭ）？０：１）に等しくセットされる。
－ 変数ｓｔａｒｔＰｏｓＮは、ｎｕｍＳａｍｐＮ＞＞（２＋ｎｕｍＩｓ４Ｎ）に等しくセットされる。
－ 変数ｐｉｃｋＳｔｅｐＮは、Ｍａｘ（１，ｎｕｍＳａｍｐＮ＞＞（１＋ｎｕｍＩｓ４Ｎ））に等しくセットされる。
－ ａｖａｉｌＮがＴＲＵＥに等しく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ又はＩＮＴＲＡ＿Ｎ＿ＣＣＬＭに等しい場合に、ｃｎｔＮは、Ｍｉｎ（ｎｕｍＳａｍｐＮ，（１＋ｎｕｍＩｓ４Ｎ）＜＜１）に等しくセットされ、ｐｉｃｋＰｏｓＮ［ｐｏｓ］は、（ｓｔａｒｔＰｏｓＮ＋ｐｏｓ＊ｐｉｃｋＳｔｅｐＮ）に等しくセットされ、ｐｏｓ＝０．．（ｃｎｔＮ－１）である。
－ そうでない場合に、ｃｎｔＮは、０に等しくセットされる。
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，
Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，
Ｆ２［１］＝０
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＞０｜｜ａｖａｉｌＴＬ＝＝ＴＲＵＥである場合に、Ｆ５にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合に、Ｆ３にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．（ｃｎｔＬ＋ｃｎｔＴ－１）として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように導出される：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２ （８－１８２）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－２］
＋Ｆ［０］［２］＊ｐＹ［－１］［－１］
＋Ｆ［１］［１］＊ｐＹ［０］［－２］
＋Ｆ［１］［２］＊ｐＹ［０］［－１］
＋Ｆ［２］［１］＊ｐＹ［１］［－２］
＋Ｆ［２］［２］＊ｐＹ［１］［－１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］をｐＳｅｌＣｏｍｐ［０］に等しくセットし、ｐＳｅｌＣｏｍｐ［２］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［０］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［１］をｐＳｅｌＣｏｍｐ［３］に等しくセットし、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ［］及びｍａｘＧｒｐＩｄｘ［］は、ｍｉｎＧｒｐＩｄｘ［０］＝０、ｍｉｎＧｒｐＩｄｘ［１］＝２、ｍａｘＧｒｐＩｄｘ［０］＝１、ｍａｘＧｒｐＩｄｘ［１］＝３とセットされる。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）。
－ ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
【0183】
他の実施形態は、ブロック境界に対する予測されたブロックの位置に関して、ルーマ参照サンプルのフェッチにおいて違いがある。特に、クロマフォーマットがＹＵＶ ４：２：２として指定され、クロマ成分及びルーマ成分が同一位置にある場合に（図１０Ｂの「クロマサンプルタイプ２」及び「クロマサンプルタイプ４」）、ルーマ成分からのサンプリングは、ルーマブロックの上側に対して異なるオフセットを有して実行され得る（図１２Ａ及び図１２Ｃを参照）。
【0184】
位置１２０２でフィルタ処理されたルミナンス参照サンプルを取得するために、係数［１ ２ １］／４を有するフィルタが、位置１２０２にあるサンプルを含む参照サンプルの組に適用される。図１２Ａは、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：２として指定されるか、又はブロック境界１２０１がＣＴＵライン境界である、ところの実施形態を示す。この場合に、［１ ２ １］／４フィルタが参照サンプル１２０２（ハッチングされた長方形によって示される）に適用され、それにより、係数２／４が中央位置にある係数に適用される。
【0185】
図１２Ｂは、ブロック境界１２０１がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される、ところの実施形態を示す。この場合に、［１ ２ １；１ ２ １］／８フィルタが参照サンプル１２０２（ハッチングされた長方形によって示される）に適用され、それにより、係数“２／４”が２つの中央位置にある係数に適用される。
【0186】
図１２Ｃは、左上サンプルが利用可能ではなく、かつ、クロマフォーマットがＹＵＶ ４：２：２として指定されるか、又はブロック境界１２０１がＣＴＵライン境界である、ところの実施形態を示す。この場合に、バイパス［１］／１フィルタが参照サンプル１２０２（ハッチングされた長方形によって示される）に適用される。
【0187】
図１２Ｄは、ブロック境界１２０１がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される、ところの実施形態を示す。この場合に、［１ １］／２フィルタが参照サンプル１２０２（ハッチングされた長方形によって示される）に適用される。
【0188】
以下で与えられるＶＶＣ仕様草案の部分は、図１２Ａ～１２Ｄに示される場合に対応する：
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，
Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，
Ｆ２［１］＝０
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＞０｜｜ａｖａｉｌＴＬ＝＝ＴＲＵＥである場合に、Ｆ５にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合に、Ｆ３にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．（ｃｎｔＬ＋ｃｎｔＴ－１）として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように導出される：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２ （８－１８２）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［０］［－１］
＋Ｆ［１］［２］＊ｐＹ［０］［－２］
＋Ｆ［２］［１］＊ｐＹ［１］［－１］
＋Ｆ［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］をｐＳｅｌＣｏｍｐ［０］に等しくセットし、ｐＳｅｌＣｏｍｐ［２］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［０］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［１］をｐＳｅｌＣｏｍｐ［３］に等しくセットし、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ［］及びｍａｘＧｒｐＩｄｘ［］は、ｍｉｎＧｒｐＩｄｘ［０］＝０、ｍｉｎＧｒｐＩｄｘ［１］＝２、ｍａｘＧｒｐＩｄｘ［０］＝１、ｍａｘＧｒｐＩｄｘ［１］＝３とセットされる。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）。
－ ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
－ ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，
Ｆ２［１］＝１
－ その他の場合
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，
Ｆ２［１］＝０
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］＋４）＞＞３
－ そうでない場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋２）＞＞２
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ５にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［１］［０］＊ｐＹ［０］［－１］
＋Ｆ［０］［１］＊ｐＹ［－１］［０］
＋Ｆ［１］［１］＊ｐＹ［０］［０］
＋Ｆ［２］［１］＊ｐＹ［１］［０］
＋Ｆ［１］［２］＊ｐＹ［０］［１］＋４）＞＞３
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［－１］［０］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［１］［０］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、Ｆ３にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［０］
＋Ｆ［２］＊ｐＹ［０］［１］
＋２）＞＞２
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］
－ 他の場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ６にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、Ｆ２にセットされたＦについて、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）＞＞１
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．（ｃｎｔＬ－１）として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙ＞０｜｜ａｖａｉｌＴＬ＝＝ＴＲＵＥである場合に、Ｆ５にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ そうでない場合に、Ｆ３にセットされたＦについて：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］
＋Ｆ［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２
－ 他の場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋Ｆ［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．（ｃｎｔＬ＋ｃｎｔＴ－１）として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように導出される：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、次が適用される：
－ ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ５にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２ （８－１８２）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［０］［－１］
＋Ｆ［１］＊ｐＹ［０］［－２］
＋Ｆ［２］＊ｐＹ［０］［－１］
＋２）＞＞２
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
－ 他の場合に、次が適用される：
－ ｘ＞０である場合：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋Ｆ［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］
＋Ｆ［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］
＋Ｆ［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２
－ 他の場合：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［０］［－１］
＋Ｆ［１］［２］＊ｐＹ［０］［－２］
＋Ｆ［２］［１］＊ｐＹ［１］［－１］
＋Ｆ［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］をｐＳｅｌＣｏｍｐ［０］に等しくセットし、ｐＳｅｌＣｏｍｐ［２］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［０］をｐＳｅｌＣｏｍｐ［１］に等しくセットし、ｐＳｅｌＣｏｍｐ［１］をｐＳｅｌＣｏｍｐ［３］に等しくセットし、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ［］及びｍａｘＧｒｐＩｄｘ［］は、ｍｉｎＧｒｐＩｄｘ［０］＝０、ｍｉｎＧｒｐＩｄｘ［１］＝２、ｍａｘＧｒｐＩｄｘ［０］＝１、ｍａｘＧｒｐＩｄｘ［１］＝３とセットされる。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）。
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＞ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］である場合に、Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）。
－ ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
－ ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１。
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ））
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）＋２ｙ－１）＞＞ｙ
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０
ａ＝０
ｂ＝ｍｉｎＣ
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１Ｃ（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ）
【0189】
仕様の別の定式化は、フィルタ（Ｆ１、Ｆ２、Ｆ３及びＦ４）の順次表記を使用する。順次的なフィルタの表記を使用する開示は、次のとおりである：
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１）） （３４６）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）ｍ隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ 変数ａｖａｉｌＴＬは、次のように導出される：
ａｖａｉｌＴＬ＝ａｖａｉｌＬ＆＆ａｖａｉｌＴ （３４７）
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌａｂｌｅＴＲに割り当てられる。
－ ａｖａｉｌａｂｌｅＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０ （３４８）
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０ （３４９）
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋Ｍｉｎ（ｎｕｍＴｏｐＲｉｇｈｔ，ｎＴｂＨ））：０
（３５０）
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋Ｍｉｎ（ｎｕｍＬｅｆｔＢｅｌｏｗ，ｎＴｂＷ））：０
（３５１）
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ （３５２）
ＮがＬ及びＴで置換される変数ｃｎｔＮ及びアレイｐｉｃｋＰｏｓＮは、次のように導出される：
－ 変数ｎｕｍＩｓ４Ｎは、次のように導出される：
ｎｕｍＩｓ４Ｎ＝（（ａｖａｉｌＴ＆＆ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ ＬＴ ＣＣＬＭ）？０：１） （３５３）
－ 変数ｓｔａｒｔＰｏｓＮは、ｎｕｍＳａｍｐＮ＞＞（２＋ｎｕｍＩｓ４Ｎ）に等しくセットされる。
変数ｐｉｃｋＳｔｅｐＮは、Ｍａｘ（１，ｎｕｍＳａｍｐＮ＞＞（１＋ｎｕｍＩｓ４Ｎ））に等しくセットされる。
－ ａｖａｉｌＮがＴＲＵＥに等しく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ又はＩＮＴＲＡ Ｎ ＣＣＬＭに等しい場合に、次の割り当てが行われる：
－ ｃｎｔＮは、Ｍｉｎ（ｎｕｍＳａｍｐＮ，（１＋ｎｕｍＩｓ４Ｎ）＜＜１）に等しくセットされる。
－ ｐｉｃｋＰｏｓＮ［ｐｏｓ］は、（ｓｔａｒｔＰｏｓＮ＋ｐｏｓ＊ｐｉｃｋＳｔｅｐＮ）に等しくセットされ、ｐｏｓ＝０．．（ｃｎｔＮ－１）である。
－ そうでない場合に、ｃｎｔＮは、０に等しくセットされる。
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （３５４）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ１［０］＝２，Ｆ１［１］＝０ （３５６）
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ１［０］＝１，Ｆ１［１］＝１ （３５９）
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３６５）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６６）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ２［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ２［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ２［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２ （３６７）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋
Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］
＋４）＞＞３ （３６８）
－ そうでない場合（ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋２）＞＞２ （３６９）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ３［１］［０］＊ｐＹ［０］［－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［０］［０］＋
Ｆ３［２］［１］＊ｐＹ［１］［０］＋
Ｆ３［１］［２］＊ｐＹ［０］［１］＋４）＞＞３ （３７０）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［－１］［０］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［１］［０］
＋２）＞＞２ （３７１）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［０］［－１］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［０］［１］
＋２）＞＞２ （３７２）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （３７３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７５）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）
＞＞１ （３７６）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙが０よりも大きいか、又はａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７８）
－ そうでない場合（ｙが０に等しい場合）に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２ （３７９）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝Ｆ３［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８４）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３８５）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［０］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－２］＋Ｆ２［２］＊ｐＹ［０］［－１］＋２）
＞＞２ （３８６）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３８７）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［０］［－１］＋Ｆ４［１］［２］＊ｐＹ［０］［－２］＋Ｆ４［２］［１］＊ｐＹ［１］［－１］＋Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３ （３９０）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３９１）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ１［１］＊ｐＹ［０］［－２］＋
Ｆ１［０］＊ｐＹ［０］［－１］＋１）＞＞１ （３９２）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３９３）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
このプロセスへの入力は：
－ イントラ予測モードｐｒｅｄＭｏｄｅＩｎｔｒａ、
－ 現在ピクチャの左上サンプルに対する現在の変換ブロックの左上サンプルのサンプル位置（ｘＴｂＣ，ｙＴｂＣ）、
－ 変換ブロックの幅を指定する変数ｎＴｂＷ、
－ 変換ブロックの高さを指定する変数ｎＴｂＨ、
－ ｘ＝－１，ｙ＝０．．２＊ｎＴｂＨ－１及びｘ＝０．．２＊ｎＴｂＷ－１，ｙ＝－１であるクロマ隣接サンプルｐ［ｘ］［ｙ］、である。
このプロセスの出力は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］である。
現在のルーマ位置（ｘＴｂＹ，ｙＴｂＹ）は、次のように導出される：
（ｘＴｂＹ，ｙＴｂＹ）＝（ｘＴｂＣ＜＜（ＳｕｂＷｉｄｔｈＣ－１），ｙＴｂＣ＜＜（ＳｕｂＨｅｉｇｈｔＣ－１）） （３４６）
変数ａｖａｉｌＬ、ａｖａｉｌＴ及びａｖａｉｌＴＬは、次のように導出される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＬに割り当てられる。
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）ｍ隣接するクロマ位置（ｘＴｂＣ，ｙＴｂＣ－１）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＴに割り当てられる。
－ 変数ａｖａｉｌＴＬは、次のように導出される：
ａｖａｉｌＴＬ＝ａｖａｉｌＬ＆＆ａｖａｉｌＴ （３４７）
－ 利用可能な右上隣接クロマサンプルの数ｎｕｍＴｏｐＲｉｇｈｔは、次のように導出される：
－ 変数ｎｕｍＴｏｐＲｉｇｈｔは０に等しくセットされ、ａｖａｉｌＴＲはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｔ＿ＣＣＬＭに等しいとき、ｘ＝ｎＴｂＷ．．２＊ｎＴｂＷ－１について、ａｖａｉｌＴＲがＦＡＬＳＥに等しくなるか又はｘが２＊ｎＴｂＷ－１に等しくなるまで、次が適用される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ＋ｘ，ｙＴｂＣ－１）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌａｂｌｅＴＲに割り当てられる。
－ ａｖａｉｌａｂｌｅＴＲがＴＲＵＥに等しいとき、ｎｕｍＴｏｐＲｉｇｈｔは１だけインクリメントされる。
－ 利用可能な左下隣接クロマサンプルの数ｎｕｍＬｅｆｔＢｅｌｏｗは、次のように導出される：
－ 変数ｎｕｍＬｅｆｔＢｅｌｏｗは０に等しくセットされ、ａｖａｉｌＬＢはＴＲＵＥに等しくセットされる。
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿Ｌ＿ＣＣＬＭに等しいとき、ｙ＝ｎＴｂＨ．．２＊ｎＴｂＨ－１について、ａｖａｉｌＬＢがＦＡＬＳＥに等しくなるか又はｙが２＊ｎＴｂＨ－１に等しくなるまで、次が適用される：
－ 第６．４．４節で規定されている、隣接ブロックの利用可能性の導出プロセスは、（ｘＴｂＣ，ｙＴｂＣ）に等しくセットされた現在のクロマ位置（ｘＣｕｒｒ，ｙＣｕｒｒ）、隣接するクロマ位置（ｘＴｂＣ－１，ｙＴｂＣ＋ｙ）、ＦＡＬＳＥに等しくセットされたｃｈｅｃｋＰｒｅｄＭｏｄｅＹ、及びｃＩｄｘを入力として用いて呼び出され、出力はａｖａｉｌＬＢに割り当てられる。
－ ａｖａｉｌＬＢがＴＲＵＥに等しいとき、ｎｕｍＬｅｆｔＢｅｌｏｗは１だけインクリメントされる。
上及び右上にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＴ並びに左及び左下にある利用可能な隣接クロマサンプルの数ｎｕｍＳａｍｐＬは、次のように導出される：
－ ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭに等しいとき、次が適用される：
ｎｕｍＳａｍｐＴ＝ａｖａｉｌＴ？ｎＴｂＷ：０ （３４８）
ｎｕｍＳａｍｐＬ＝ａｖａｉｌＬ？ｎＴｂＨ：０ （３４９）
－ そうでない場合には、次が適用される：
ｎｕｍＳａｍｐＴ＝（ａｖａｉｌＴ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｔ＿ＣＣＬＭ）？（ｎＴｂＷ＋Ｍｉｎ（ｎｕｍＴｏｐＲｉｇｈｔ，ｎＴｂＨ））：０
（３５０）
ｎｕｍＳａｍｐＬ＝（ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ）？（ｎＴｂＨ＋Ｍｉｎ（ｎｕｍＬｅｆｔＢｅｌｏｗ，ｎＴｂＷ））：０
（３５１）
変数ｂＣＴＵｂｏｕｎｄａｒｙは、次のように導出される：
ｂＣＴＵｂｏｕｎｄａｒｙ＝（ｙＴｂＣ＆（１＜＜（ＣｔｂＬｏｇ２ＳｉｚｅＹ－１）－１）＝＝０）？ＴＲＵＥ：ＦＡＬＳＥ （３５２）
ＮがＬ及びＴで置換される変数ｃｎｔＮ及びアレイｐｉｃｋＰｏｓＮは、次のように導出される：
－ 変数ｎｕｍＩｓ４Ｎは、次のように導出される：
ｎｕｍＩｓ４Ｎ＝（（ａｖａｉｌＴ＆＆ａｖａｉｌＬ＆＆ｐｒｅｄＭｏｄｅＩｎｔｒａ＝＝ＩＮＴＲＡ ＬＴ ＣＣＬＭ）？０：１） （３５３）
－ 変数ｓｔａｒｔＰｏｓＮは、ｎｕｍＳａｍｐＮ＞＞（２＋ｎｕｍＩｓ４Ｎ）に等しくセットされる。
変数ｐｉｃｋＳｔｅｐＮは、Ｍａｘ（１，ｎｕｍＳａｍｐＮ＞＞（１＋ｎｕｍＩｓ４Ｎ））に等しくセットされる。
－ ａｖａｉｌＮがＴＲＵＥに等しく、ｐｒｅｄＭｏｄｅＩｎｔｒａがＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ又はＩＮＴＲＡ Ｎ ＣＣＬＭに等しい場合に、次の割り当てが行われる：
－ ｃｎｔＮは、Ｍｉｎ（ｎｕｍＳａｍｐＮ，（１＋ｎｕｍＩｓ４Ｎ）＜＜１）に等しくセットされる。
－ ｐｉｃｋＰｏｓＮ［ｐｏｓ］は、（ｓｔａｒｔＰｏｓＮ＋ｐｏｓ＊ｐｉｃｋＳｔｅｐＮ）に等しくセットされ、ｐｏｓ＝０．．（ｃｎｔＮ－１）である。
－ そうでない場合に、ｃｎｔＮは、０に等しくセットされる。
ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とする予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬ及びｎｕｍＳａｍｐＴの両方が０に等しい場合には、次が適用される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （３５４）
－ そうでない場合には、次の順序付けられたステップが適用される：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ１［０］＝２，Ｆ１［１］＝０ （３５６）
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ１［０］＝１，Ｆ１［１］＝１ （３５９）
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３６５）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６６）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ２［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ２［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ２［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２ （３６７）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋
Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］
＋４）＞＞３ （３６８）
－ そうでない場合（ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋２）＞＞２ （３６９）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ３［１］［０］＊ｐＹ［０］［－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［０］［０］＋
Ｆ３［２］［１］＊ｐＹ［１］［０］＋
Ｆ３［１］［２］＊ｐＹ［０］［１］＋４）＞＞３ （３７０）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［－１］［０］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［１］［０］
＋２）＞＞２ （３７１）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［０］［－１］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［０］［１］
＋２）＞＞２ （３７２）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （３７３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７５）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋１）
＞＞１ （３７６）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙが０よりも大きいか、又はａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７８）
－ そうでない場合（ｙが０に等しい場合）に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２ （３７９）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝Ｆ３［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８４）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３８５）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［０］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－２］＋Ｆ２［２］＊ｐＹ［０］［－１］＋２）
＞＞２ （３８６）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３８７）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［０］［－１］＋Ｆ４［１］［２］＊ｐＹ［０］［－２］＋Ｆ４［２］［１］＊ｐＹ［１］［－１］＋Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３ （３９０）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３９１）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ１［１］＊ｐＹ［０］［－２］＋
Ｆ１［０］＊ｐＹ［０］［－１］＋１）＞＞１ （３９２）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３９３）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
【0190】
他の実施形態では、再構成されたルーマブロックの境界に対するフィルタ選択を実装するために、パディング動作が使用されてよい。再構成されたサンプルのエリアにフィルタが適用される場合に、フィルタリングプロセスは、フィルタ処理されたエリアの位置がブロック境界にあるときには調整されるべきである。
【0191】
図１３は、例となる３－タップフィルタ１３０２による再構成されたルミナンスブロック１３０１に対するフィルタリング動作を示す。境界サンプルをフィルタ処理するとき、フィルタ係数の１つは、再構成されたルーマサンプルが左側１３０３について利用不可能であり得るブルームケースの外側にある再構成されたサンプルと同一位置にあるので、外側の位置は、フィルタリング動作に使用されない場合がある。
【0192】
上記の実施形態では、左の列及び上の行について、再構成されたルミナンスサンプルに適用されるフィルタのタップの数を減らすことが提案された。実際に、フィルタ係数は、位置に依存するよう定義された。
【0193】
他の実施形態では、この位置依存性は、境界にある再構成されたサンプルに対する左側及び上側パディングによって処理される。左側が利用可能でないとき、利用不可能な側のサンプルは、再構成されたブロック１３０１の最左の再構成されたサンプルを水平方向にコピーすることによって、取得される。この動作は、事実上、左側にある再構成されたサンプルの最初の列の複製である。上側が利用可能でないとき、利用不可能な側のサンプルは、再構成されたブロック１３０１の最上の再構成されたサンプルを垂直方向にコピーすることによって、取得される。この動作は、事実上、ブロック１３０１の上にある再構成されたサンプルの最初の行の複製である。
【0194】
パディングされたサンプルを含む再構成されたサンプルのエリアの線形フィルタリングは、パディング動作を使用せずに実行され得ることに気付く。実際に、エリアのこの位置について、より長いタップ－フィルタは、より小さい次数の等価なフィルタで置換され得る。フィルタ処理されたエリア内のパディングされたサンプルの存在は、係数グルーピングによってフィルタリング動作を簡単にすることを可能にする。
【0195】
この実施形態は、ＶＶＣ仕様の次の部分として表され得る：
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ１［０］＝４，Ｆ１［１］＝０ （３５６）
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ１［０］＝３，Ｆ１［１］＝１ （３５９）
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３６５）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６６）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ２［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ２［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ２［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２ （３６７）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋
Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］
＋４）＞＞３ （３６８）
－ そうでない場合（ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋２）＞＞２ （３６９）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ３［１］［０］＊ｐＹ［０］［－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［０］［０］＋
Ｆ３［２］［１］＊ｐＹ［１］［０］＋
Ｆ３［１］［２］＊ｐＹ［０］［１］＋４）＞＞３ （３７０）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［－１］［０］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［１］［０］
＋２）＞＞２ （３７１）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［０］［－１］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［０］［１］
＋２）＞＞２ （３７２）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （３７３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７５）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋２）
＞＞２ （３７６）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙが０よりも大きいか、又はａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７８）
－ そうでない場合（ｙが０に等しい場合）に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２ （３７９）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝Ｆ３［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８４）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３８５）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［０］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－２］＋Ｆ２［２］＊ｐＹ［０］［－１］＋２）
＞＞２ （３８６）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３８７）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［０］［－１］＋Ｆ４［１］［２］＊ｐＹ［０］［－２］＋Ｆ４［２］［１］＊ｐＹ［１］［－１］＋Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３ （３９０）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３９１）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ１［１］＊ｐＹ［０］［－２］＋
Ｆ１［０］＊ｐＹ［０］［－１］＋２）＞＞２ （３９２）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３９３）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ１［０］＝４，Ｆ１［１］＝０ （３５６）
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ１［０］＝３，Ｆ１［１］＝１ （３５９）
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３６５）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ３［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６６）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ２［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋
Ｆ２［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ２［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋２）＞＞２ （３６７）
－ ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］＋
Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１］
＋４）＞＞３ （３６８）
－ そうでない場合（ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｘ＝１．．ｎＴｂＷ－１とするｐＤｓＹ［ｘ］［０］は、次のように導出される：
ｐＤｓＹ［ｘ］［０］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［０］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［０］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［０］
＋２）＞＞２ （３６９）
－ ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝
（Ｆ３［１］［０］＊ｐＹ［０］［－１］＋
Ｆ３［０］［１］＊ｐＹ［－１］［０］＋
Ｆ３［１］［１］＊ｐＹ［０］［０］＋
Ｆ３［２］［１］＊ｐＹ［１］［０］＋
Ｆ３［１］［２］＊ｐＹ［０］［１］＋４）＞＞３ （３７０）
－ そうではなく、ａｖａｉｌＬがＴＲＵＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［－１］［０］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［１］［０］
＋２）＞＞２ （３７１）
－ そうではなく、ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＴＲＵＥに等しい場合には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝（Ｆ２［０］＊ｐＹ［０］［－１］
＋Ｆ２［１］＊ｐＹ［０］［０］＋Ｆ２［２］＊ｐＹ［０］［１］
＋２）＞＞２ （３７２）
－ 他の場合（ａｖａｉｌＬがＦＡＬＳＥに等しく、ａｖａｉｌＴがＦＡＬＳＥに等しい場合）には、ｐＤｓＹ［０］［０］は、次のように導出される：
ｐＤｓＹ［０］［０］＝ｐＹ［０］［０］ （３７３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
－ ａｖａｉｌＬがＴＲＵＥに等しい場合には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［０］［２］＊ｐＹ［－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［１］［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［１］［２］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋
Ｆ４［２］［１］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ４［２］［２］＊ｐＹ［１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７５）
－ そうでない場合（ａｖａｉｌＬがＦＡＬＳＥに等しい場合）には、ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［０］［ｙ］は、次のように導出される：
ｐＤｓＹ［０］［ｙ］＝（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋２）
＞＞２ （３７６）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｙが０よりも大きいか、又はａｖａｉｌＴＬがＴＲＵＥに等しい場合に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７８）
－ そうでない場合（ｙが０に等しい場合）に、ｐＳｅｌＤｓＹ［ｉｄｘ］は、次のように導出される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［０］＋
Ｆ２［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［０］
＋２）＞＞２ （３７９）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝Ｆ３［１］［０］＊ｐＹ［－１］［－１－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［０］［１］＊ｐＹ［－１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［１］＊ｐＹ［０］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［２］［１］＊ｐＹ［１］［－ＳｕｂＨｅｉｇｈｔＣ］＋Ｆ３［１］［２］＊ｐＹ［－１］［１－ＳｕｂＨｅｉｇｈｔＣ］＋４）＞＞３ （３８４）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３８５）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［０］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－２］＋Ｆ２［２］＊ｐＹ［０］［－１］＋２）
＞＞２ （３８６）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３８７）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｘが０よりも大きい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
－ 他の場合（ｘが０に等しい場合）に、次が適用される：
－ ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［０］［－１］＋Ｆ４［１］［２］＊ｐＹ［０］［－２］＋Ｆ４［２］［１］＊ｐＹ［１］［－１］＋Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３ （３９０）
－ そうではなく、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋Ｆ２［２］＊ｐＹ［１］［－１］＋２）
＞＞２ （３９１）
－ そうではなく、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ１［１］＊ｐＹ［０］［－２］＋
Ｆ１［０］＊ｐＹ［０］［－１］＋２）＞＞２ （３９２）
－ その他の場合（ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］ （３９３）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
【0196】
実施形態の他の変形例は、パディング動作を含む。この場合に、フィルタ“Ｆ１”は明示的に定義されず、代わりに、それは、パディングと、“Ｆ２”フィルタを使用するフィルタリングとの組み合わせとして実装される。この変形例に関する仕様は、以下で与えられる：
【表12-1】
【表12-2】
【表12-3】
【表12-4】
【表12-5】
【表12-6】
【表12-7】
【表12-8】
【表12-9】
【0197】
変更に印をつけずに、上記の仕様は、次のように表され得る：
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴがＦＡＬＳＥに等しいとき、ｘ＝－１．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、ルーマサンプルｐＹ［ｘ］［０］に等しくセットされる。
－ ａｖａｉｌＬがＦＡＬＳＥに等しいとき、ｘ＝－１，－２，－３，ｙ＝－１．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、ルーマサンプルｐＹ［０］［ｙ］に等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６５）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７８）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］
＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－ 変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－ そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
１．ｘ＝０．．ｎＴｂＷ＊ＳｕｂＷｉｄｔｈＣ－１，ｙ＝０．．ｎＴｂＨ＊ＳｕｂＨｅｉｇｈｔＣ－１とする同一位置にあるルーマサンプルｐＹ［ｘ］［ｙ］が、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
２．隣接するルーマサンプルｐＹ［ｘ］［ｙ］は、次のように導出される：
－ ｎｕｍＳａｍｐＬが０よりも大きいとき、ｘ＝－１．．－３，ｙ＝０．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ｎｕｍＳａｍｐＴが０よりも大きいとき、ｘ＝０．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴＬがＴＲＵＥに等しいとき、ｘ＝－１，ｙ＝－１，－２である隣接する左上ルーマサンプルｐＹ［ｘ］［ｙ］は、位置（ｘＴｂＹ＋ｘ，ｙＴｂＹ＋ｙ）でのデブロッキングフィルタプロセスより前に、再構成されたルーマサンプルに等しくセットされる。
－ ａｖａｉｌＴがＦＡＬＳＥに等しいとき、ｘ＝－１．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］は、ルーマサンプルｐＹ［ｘ］［０］に等しくセットされる。
－ ａｖａｉｌＬがＦＡＬＳＥに等しいとき、ｘ＝－１，－２，－３，ｙ＝－１．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］は、ルーマサンプルｐＹ［０］［ｙ］に等しくセットされる。
３．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
－ ｘ＝１．．ｎＴｂＷ－１，ｙ＝１．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］ （３５５）
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ１及びＦ２、並びに２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１ （３５７）
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，
ただし、ｉ＝０．．２，ｊ＝０．．２ （３５８）
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が２に等しい場合に、次が適用される：
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１ （３６０）
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
（３６１）
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
（３６２）
－ その他の場合に、次が適用される：
Ｆ３［１］［１］＝８ （３６３）
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２
（３６４）
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
－ ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３６５）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
－ ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１とするｐＤｓＹ［ｘ］［ｙ］は、次のように導出される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３７４）
４．ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］ （３７７）
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３ （３７８）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３ （３８０）
５．ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］ （３８１）
－ そうでない場合に、次が適用される：
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］
＋４）＞＞３ （３８２）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８３）
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３ （３８８）
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］
＋２）＞＞２ （３８９）
６．ｃｎｔＴ＋ｃｎｔＬが０に等しくないとき、変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
－ ｃｎｔＴ＋ｃｎｔＬが２に等しいとき、ｐＳｅｌＣｏｍｐ［３］はｐＳｅｌＣｏｍｐ［０］に等しくセットされ、ｐＳｅｌＣｏｍｐ［２］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［０］はｐＳｅｌＣｏｍｐ［１］に等しくセットされ、ｐＳｅｌＣｏｍｐ［１］はｐＳｅｌＣｏｍｐ［３］に等しくセットされ、ただし、ＣｏｍｐはＤｓＹ及びＣで置換される。
－ アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは、次のように導出がされる：
ｍｉｎＧｒｐＩｄｘ［０］＝０ （３９４）
ｍｉｎＧｒｐＩｄｘ［１］＝２ （３９５）
ｍａｘＧｒｐＩｄｘ［０］＝１ （３９６）
ｍａｘＧｒｐＩｄｘ［１］＝３ （３９７）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［０］及びｍｉｎＧｒｐＩｄｘ［１］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［０］，ｍｉｎＧｒｐＩｄｘ［１］） （３９８）
－ ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、ｍａｘＧｒｐＩｄｘ［０］及びｍａｘＧｒｐＩｄｘ［１］は次のように交換される：
（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］）
＝Ｓｗａｐ（ｍａｘＧｒｐＩｄｘ［０］，ｍａｘＧｒｐＩｄｘ［１］） （３９９）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］よりも大きいとき、アレイｍｉｎＧｒｐＩｄｘ及びｍａｘＧｒｐＩｄｘは次のように交換される：
（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ，ｍａｘＧｒｐＩｄｘ） （４００）
－ ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］がｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］よりも大きいとき、ｍｉｎＧｒｐＩｄｘ［１］及びｍａｘＧｒｐＩｄｘ［０］は次のように交換される：
（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］）
＝Ｓｗａｐ（ｍｉｎＧｒｐＩｄｘ［１］，ｍａｘＧｒｐＩｄｘ［０］） （４０１）
－ 変数ｍｉｎＹ、ｍａｘＹ、ｍｉｎＣ及びｍａｘＣは、次のように導出される：
ｍａｘＹ＝（ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０２）
ｍａｘＣ＝（ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍａｘＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０３）
ｍｉｎＹ＝（ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＤｓＹ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０４）
ｍｉｎＣ＝（ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［０］］
＋ｐＳｅｌＣ［ｍｉｎＧｒｐＩｄｘ［１］］＋１）＞＞１ （４０５）
７．変数ａ、ｂ、及びｋは、次のように導出される：
－ ｎｕｍＳａｍｐＬが０に等しく、ｎｕｍＳａｍｐＴが０に等しい場合に、次が適用される：
ｋ＝０ （４０６）
ａ＝０ （４０７）
ｂ＝１＜＜（ＢｉｔＤｅｐｔｈＣ－１） （４０８）
－ そうでない場合に、次が適用される：
ｄｉｆｆ＝ｍａｘＹ－ｍｉｎＹ （４０９）
－ ｄｉｆｆが０に等しくない場合に、次が適用される：
ｄｉｆｆＣ＝ｍａｘＣ－ｍｉｎＣ （４１０）
ｘ＝Ｆｌｏｏｒ（Ｌｏｇ２（ｄｉｆｆ）） （４１１）
ｎｏｒｍＤｉｆｆ＝（（ｄｉｆｆ＜＜４）＞＞ｘ）＆１５ （４１２）
ｘ＋＝（ｎｏｒｍＤｉｆｆ！＝０）？１：０ （４１３）
ｙ＝Ｆｌｏｏｒ（Ｌｏｇ２（Ａｂｓ（ｄｉｆｆＣ）））＋１ （４１４）
ａ＝（ｄｉｆｆＣ＊（ｄｉｖＳｉｇＴａｂｌｅ［ｎｏｒｍＤｉｆｆ］｜８）
＋２ｙ－１）＞＞ｙ （４１５）
ｋ＝（（３＋ｘ－ｙ）＜１）？１：３＋ｘ－ｙ （４１６）
ａ＝（（３＋ｘ－ｙ）＜１）？Ｓｉｇｎ（ａ）＊１５：ａ （４１７）
ｂ＝ｍｉｎＣ－（（ａ＊ｍｉｎＹ）＞＞ｋ） （４１８）
ここで、ｄｉｖＳｉｇＴａｂｌｅ［］は、次のとおりに定められる：
ｄｉｖＳｉｇＴａｂｌｅ［］
＝｛０，７，６，５，５，４，４，３，３，２，２，１，１，１，１，０｝
（４１９）
－ そうでない場合（ｄｉｆｆが０に等しい場合）に、次が適用される：
ｋ＝０ （４２０）
ａ＝０ （４２１）
ｂ＝ｍｉｎＣ （４２２）
８．ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である予測サンプルｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］は、次のように導出される：
ｐｒｅｄＳａｍｐｌｅｓ［ｘ］［ｙ］
＝Ｃｌｉｐ１（（（ｐＤｓＹ［ｘ］［ｙ］＊ａ）＞＞ｋ）＋ｂ） （４２３）
注記－このプロセスは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用する。しかし、実施を簡単にするために、それはｓｐｓ＿ｃｈｒｏｍａ＿ｈｏｒｉｚｏｎｔａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇを使用しない。
【0198】
復号化デバイスによって実装される次の方法及び実施形態が提供される。復号化デバイスは、図１Ａ、１Ｂのビデオデコーダ３０、又は図３のデコーダ３０であってよい。解決法に従って、図１４に表されているように、本願の実施形態１４００に従うクロマブロック予測法のための方法が提供される。方法は、符号化されたビデオシーケンスを復号する方法の部分であることができる。
【0199】
図１４に示されるように、ステップ１４０１で、デバイスは、ビットストリームから複数のシンタックス要素をパースする。複数のシンタックス要素は、ルーマサンプルに対するフィルタの選択を示す第１シンタックス要素を含む。例えば、第１シンタックス要素は、ＳＰＳパラメータであるｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇである。
【0200】
複数のシンタックス要素は、第２シンタックス要素を含んでもよく、第２シンタックス要素は、現在の復号化に使用されるイントラ予測モードがＣＣＬＭモードであることを示すために使用される。ＣＣＬＭモードは、ＩＮＴＲＡ＿ＬＴ＿ＣＣＬＭ、ＩＮＴＲＡ＿Ｌ＿ＣＣＬＭ又はＩＮＴＲＡ＿Ｔ＿ＣＣＬＭを含む。
【0201】
ステップ１４０２で、デバイスは、第１シンタックス要素に少なくとも基づいて現在ブロックのルーマ成分の再構成されたルーマサンプルにフィルタを適用して、現在ブロックのフィルタ処理された再構成されたルーマサンプルを取得する。フィルタはフィルタの組に属し、フィルタの組は２つのフィルタのみを含む。フィルタは、シンタックス要素の値が第１値であるときには第１フィルタであり、あるいは、フィルタは、シンタックス要素の値が第２値であるときには第２フィルタである。例えば、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しいときには、Ｆ３フィルタが適用され、あるいは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しいときには、Ｆ４フィルタが適用される。
【0202】
具体的に、ダウンサンプリングされた同一位置にあるルーマサンプルｐＤｓＹ［ｘ］［ｙ］は、ｘ＝０．．ｎＴｂＷ－１，ｙ＝０．．ｎＴｂＨ－１である場合に、次のように導出される：
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ２は、次のとおりに定められる：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
－ さもなければ、２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝ｐＹ［ｘ］［ｙ］
－ そうでない場合に、次が適用される：
－ １次元フィルタ係数アレイＦ２は、次のとおりに定められる：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
－ さもなければ、２次元フィルタ係数アレイＦ３及びＦ４は、次のとおりに定められる。
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合には、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）には、次が適用される：
ｐＤｓＹ［ｘ］［ｙ］＝（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
【0203】
ステップ１４０３で、デバイスは、第１シンタックス要素に少なくとも基づいて、隣接する左ルーマサンプルにフィルタを適用して、ダウンサンプリングされた隣接する左ルーマサンプルを取得する。フィルタはフィルタの組に属し、フィルタの組は２つのフィルタのみを含む。フィルタは、シンタックス要素の値が第１値であるときには第１フィルタであり、あるいは、フィルタは、シンタックス要素の値が第２値であるときには第２フィルタである。例えば、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しいときには、Ｆ３フィルタが適用され、あるいは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しいときには、Ｆ４フィルタが適用される。
【0204】
具体的に、ｎｕｍＳａｍｐＬが０よりも大きいとき、選択された隣接する左クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、ｐ［－１］［ｐｉｃｋＰｏｓＬ［ｉｄｘ］］に等しくセットされ、選択されたダウンサンプリングされた隣接する左ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ－１として、次のように導出される：
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
－ 変数ｙは、ｐｉｃｋＰｏｓＬ［ｉｄｘ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［－１］［ｙ］
－ そうでない場合に、次が適用される：
－ ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ－１］
＋Ｆ３［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］
＋Ｆ３［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］
＋４）＞＞３
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝（Ｆ４［０］［１］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［０］［２］＊ｐＹ［－１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［１］［１］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［１］［２］＊ｐＹ［－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋Ｆ４［２］［１］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋Ｆ４［２］［２］＊ｐＹ［１－ＳｕｂＷｉｄｔｈＣ］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋４）＞＞３
【0205】
ステップ１４０４で、デバイスは、第１シンタックス要素に少なくとも基づいて、隣接する上ルーマサンプルにフィルタを適用して、ダウンサンプリングされた隣接する上ルーマサンプルを取得する。フィルタはフィルタの組に属し、フィルタの組は２つのフィルタのみを含む。フィルタは、シンタックス要素の値が第１値であるときには第１フィルタであり、あるいは、フィルタは、シンタックス要素の値が第２値であるときには第２フィルタである。例えば、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しいときには、Ｆ３フィルタが適用され、あるいは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しいときには、Ｆ４フィルタが適用される。
【0206】
具体的に、ｎｕｍＳａｍｐＴが０よりも大きいとき、選択された隣接する上クロマサンプルｐＳｅｌＣ［ｉｄｘ］は、ｉｄｘ＝ｃｎｔＬ．．ｃｎｔＬ＋ｃｎｔＴ－１として、ｐ［ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］］［－１］に等しくセットされ、ダウンサンプリングされた隣接する上ルーマサンプルｐＳｅｌＤｓＹ［ｉｄｘ］は、ｉｄｘ＝０．．ｃｎｔＬ＋ｃｎｔＴ－１として、次のように定められる：
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］
＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２）＞＞２
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋
Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２）＞＞２
－ 変数ｘは、ｐｉｃｋＰｏｓＴ［ｉｄｘ－ｃｎｔＬ］に等しくセットされる。
－ ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣの両方が１に等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［ｘ］［－１］
－ そうでない場合に、次が適用される：
－ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ３［１］［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－ＳｕｂＨｅｉｇｈｔＣ］
＋Ｆ３［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［１－ＳｕｂＨｅｉｇｈｔＣ］
＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２）＞＞２
－ 他の場合（ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しい場合）に、次が適用される：
－ ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋
Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４）＞＞３
－ そうでない場合（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合）に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２）＞＞２
【0207】
ステップ１４０２と、１４０３と、１４０４との間には順序はない。
【0208】
ステップ１４０５で、デバイスは、フィルタ処理された再構成されたルーマサンプルに基づいて線形モデル係数を取得する。フィルタ処理された再構成されたルーマサンプルは、ステップ１４０２での現在ブロックのフィルタ処理された再構成されたルーマサンプル、ステップ１４０３でのダウンサンプリングされた隣接する左ルーマサンプル、及び／又はステップ１４０４でのダウンサンプリングされた隣接する上ルーマサンプルを含む。ステップ１４０６で、デバイスは、取得された線形モデル係数と、現在ブロックのフィルタ処理された再構成されたルーマサンプルとに基づいて、交差成分予測を実行して、現在ブロックのクロマ成分の予測値を取得する。
【0209】
上記の実施形態は、図１５に表されているように、コーディングデバイス１５００で実装され得る。コーディングデバイス１５００は、次を含む：
－ ビットストリームから第１シンタックス要素をパースするよう構成されるパーシングユニット１５０１。上述されたように、例えば、第１シンタックス要素は、ＳＰＳパラメータに含まれるｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇである。
－ ビットストリームから第１シンタックス要素をパースするよう構成されるパーシングユニット１５０１。上述されたように、例えば、第１シンタックス要素は、ＳＰＳパラメータに含まれるｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇである。
【0210】
－ 第１シンタックス要素に少なくとも基づいて現在ブロックのルーマ成分の再構成されたルーマサンプルにフィルタを適用して、現在ブロックのフィルタ処理された再構成されたルーマサンプルを取得するよう構成され、フィルタがフィルタの組に属し、フィルタの組が２つのフィルタのみを含み、シンタックス要素の値が第１値であるときにはフィルタは第１フィルタであり、あるいは、シンタックス要素の値が第２値であるときにはフィルタは第２フィルタである、フィルタリングユニット１５０２。
【0211】
例えば、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが１に等しいときには、Ｆ３フィルタが適用され、あるいは、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇが０に等しいときには、Ｆ４フィルタが適用される。
【0212】
フィルタリングユニット１５０２はまた、上述されたように、第１シンタックス要素に少なくとも基づいて、隣接する左ルーマサンプルにフィルタを適用して、ダウンサンプリングされた隣接する左ルーマサンプルを取得し、かつ、第１シンタックス要素に少なくとも基づいて、隣接する上ルーマサンプルにフィルタを適用して、ダウンサンプリングされた隣接する上ルーマサンプルにフィルタを取得してもよい。
【0213】
－ フィルタ処理された再構成されたルーマサンプルに基づいて線形モデル係数を取得するよう構成される取得ユニット１５０３。
【0214】
－ 取得された線形モデル係数と、現在ブロックのフィルタ処理された再構成されたルーマサンプルとに基づいて、交差成分予測（例えば、ルーマからクロマの交差成分予測又はＣＣＬＭ予測）を実行して、現在ブロックのクロマ成分の予測値を取得するよう構成される予測ユニット１５０４。
【0215】
特に、次の実施形態が、本願では提供される：
実施形態１．線形モデルを使用するイントラ予測の方法であって、
現在ブロックが属するピクチャのクロマフォーマットに基づき、前記現在ブロックのルーマ成分に対するフィルタを決定することと、
前記現在ブロックの前記ルーマ成分の再構成されたルーマサンプルと、前記現在ブロックの前記ルーマ成分に隣接する選択された位置（現在ブロックの左又は上側に隣接する１つ又は複数の行／列）にあるルーマサンプルとのエリアに、前記決定されたフィルタを適用して、フィルタ処理された再構成されたルーマサンプル（例えば、現在ブロック内のフィルタ処理された再構成されたルーマサンプル（例えば、現在ブロックのルーマ成分））を取得することと、
線形モデル導出の入力として、前記フィルタ処理された再構成されたルーマサンプルに基づいて（例えば、ルーマサンプルの組は、現在ブロック内のフィルタ処理された再構成されたルーマサンプルと、現在ブロックの外にあるフィルタ処理された隣接ルーマサンプルとを含み、例えば、決定されたフィルタは、現在ブロックの外にある隣接ルーマサンプルにも適用されてよい）、線形モデル係数を取得することと、
取得された線形モデル係数と、前記現在ブロックの前記フィルタ処理された再構成されたルーマサンプル（例えば、現在ブロック内のフィルタ処理された再構成されたルーマサンプル（例えば、現在ブロックのルーマ成分））とに基づいて、交差成分予測を実行して、現在クロマブロックの予測子を取得することと
を有する方法。
実施形態１．線形モデルを使用するイントラ予測の方法であって、
現在ブロックが属するピクチャのクロマフォーマットに基づき、前記現在ブロックのルーマ成分に対するフィルタを決定することと、
前記現在ブロックの前記ルーマ成分の再構成されたルーマサンプルと、前記現在ブロックの前記ルーマ成分に隣接する選択された位置（現在ブロックの左又は上側に隣接する１つ又は複数の行／列）にあるルーマサンプルとのエリアに、前記決定されたフィルタを適用して、フィルタ処理された再構成されたルーマサンプル（例えば、現在ブロック内のフィルタ処理された再構成されたルーマサンプル（例えば、現在ブロックのルーマ成分））を取得することと、
線形モデル導出の入力として、前記フィルタ処理された再構成されたルーマサンプルに基づいて（例えば、ルーマサンプルの組は、現在ブロック内のフィルタ処理された再構成されたルーマサンプルと、現在ブロックの外にあるフィルタ処理された隣接ルーマサンプルとを含み、例えば、決定されたフィルタは、現在ブロックの外にある隣接ルーマサンプルにも適用されてよい）、線形モデル係数を取得することと、
取得された線形モデル係数と、前記現在ブロックの前記フィルタ処理された再構成されたルーマサンプル（例えば、現在ブロック内のフィルタ処理された再構成されたルーマサンプル（例えば、現在ブロックのルーマ成分））とに基づいて、交差成分予測を実行して、現在クロマブロックの予測子を取得することと
を有する方法。
【0216】
実施形態２．実施形態１の方法であって、前記フィルタを決定することは、
前記フィルタを、前記現在ブロック内のルーマサンプルの位置及び前記クロマフォーマットに基づき決定すること、又は
前記現在ブロックに属する複数のルーマサンプルに対する各々のフィルタを、前記現在ブロック内のルーマサンプルの各々の位置及び前記クロマフォーマットに基づき決定すること
を有する、方法。
前記フィルタを、前記現在ブロック内のルーマサンプルの位置及び前記クロマフォーマットに基づき決定すること、又は
前記現在ブロックに属する複数のルーマサンプルに対する各々のフィルタを、前記現在ブロック内のルーマサンプルの各々の位置及び前記クロマフォーマットに基づき決定すること
を有する、方法。
【0217】
実施形態３．実施形態１の方法であって、前記フィルタを決定することは、
次の：
サブサンプリング比情報（例えば、現在ブロックが属するピクチャのクロマフォーマットに従ってテーブルから取得され得るＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）、
前記現在ブロックが属するピクチャのクロマフォーマット（例えば、クロマフォーマットは、サブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）を取得するために使用される）、
前記現在ブロック内のルーマサンプルの位置、
前記現在ブロックに属するルーマサンプルの数、
前記現在ブロックの幅及び高さ、及び／又は
前記現在ブロック内のルーマサンプルに対するサブサンプリングされたクロマサンプルの位置
のうちの１つ以上に基づき前記フィルタを決定することを有する、方法。
次の：
サブサンプリング比情報（例えば、現在ブロックが属するピクチャのクロマフォーマットに従ってテーブルから取得され得るＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）、
前記現在ブロックが属するピクチャのクロマフォーマット（例えば、クロマフォーマットは、サブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）を取得するために使用される）、
前記現在ブロック内のルーマサンプルの位置、
前記現在ブロックに属するルーマサンプルの数、
前記現在ブロックの幅及び高さ、及び／又は
前記現在ブロック内のルーマサンプルに対するサブサンプリングされたクロマサンプルの位置
のうちの１つ以上に基づき前記フィルタを決定することを有する、方法。
【0218】
実施形態４．実施形態３の方法であって、前記サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にない場合に、複数のフィルタとサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ、すなわち、例えば、現在ブロックの幅及び高さの値）との間の第１の予め設定された関係（例えば、表４）が、前記フィルタの決定に使用され、且つ／あるいは、
前記サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にある場合に、複数のフィルタとサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ、すなわち、例えば、現在ブロックの幅及び高さの値）との間の第２又は第３の予め設定された関係（例えば、表２又は表３のどちらか）が、前記フィルタの決定に使用される、方法。
前記サブサンプリングされたクロマサンプルが対応するルーマサンプルと同一位置にある場合に、複数のフィルタとサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ、すなわち、例えば、現在ブロックの幅及び高さの値）との間の第２又は第３の予め設定された関係（例えば、表２又は表３のどちらか）が、前記フィルタの決定に使用される、方法。
【0219】
実施形態５．実施形態４の方法であって、複数のフィルタとサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ、すなわち、例えば、現在ブロックの幅及び高さの値）との間の前記第２又は第３の関係（例えば、表２又は表３のどちらか）は、前記現在ブロックに属する特定のルーマサンプル（例えば、利用可能なルーマサンプル）の数に基づき決定される、方法。
【0220】
実施形態６．上記の実施形態のいずれか１つの方法であって、前記フィルタは、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
である、方法。
【0221】
実施形態７．上記の実施形態のいずれか１つの方法であって、前記フィルタは、順次的なフィルタの表記を用いて、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝２，Ｆ１［１］＝０
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝１，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝２，Ｆ１［１］＝０
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝１，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
【0222】
実施形態７ａ．実施形態１～６の方法であって、前記フィルタは、順次的なフィルタの表記を用いて、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝４，Ｆ１［１］＝０
Ｆ２［０］＝１、Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝３，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝４，Ｆ１［１］＝０
Ｆ２［０］＝１、Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝３，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
【0223】
実施形態７ｂ．実施形態７の方法であって、フィルタの１つＦａ∈｛Ｆ１．．．Ｆ４｝によるフィルタリングは、パディング動作と、フィルタＦａよりも多い非ゼロ係数を有するフィルタＦｂとを用いて実行される、方法。
【0224】
実施形態７ｃ．実施形態７ｂの方法であって、ＦａはＦ１であり、ＦｂはＦ２であり、前記フィルタは、順次的なフィルタの表記を用いて、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、
Ｆ２［０］＝１、Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、
Ｆ２［０］＝１、Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
【0225】
実施形態８．上記の実施形態のいずれか１つの方法であって、前記フィルタは、前記現在ブロックのクロマ成分がサブサンプリングされない場合に、前記フィルタ処理された再構成されたルーマサンプルの位置に水平方向及び／又は垂直方向に隣接する位置で非ゼロ係数を有する、方法（例えば、
（外２）
、係数「４」を有する中心位置は、前記フィルタ処理された再構成されたルーマサンプルの位置に対応する）。
（外２）
【0226】
実施形態９．上記の実施形態のいずれか１つの方法であって、前記クロマフォーマットは、ＹＣｂＣｒ ４：４：４クロマフォーマット、ＹＣｂＣｒ ４：２：０クロマフォーマット、ＹＣｂＣｒ ４：２：２クロマフォーマット、又はモノクロを有する、方法。
【0227】
実施形態１０．上記の実施形態のいずれか１つの方法であって、線形モデル導出の入力として使用される前記ルーマサンプルの組は、
フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）からサブサンプリングされる境界ルーマ再構成サンプルを有する、方法。
フィルタ処理された再構成されたルーマサンプル（例えば、Ｒｅｃ’Ｌ［ｘ，ｙ］）からサブサンプリングされる境界ルーマ再構成サンプルを有する、方法。
【0228】
実施形態１１．上記の実施形態のいずれか１つの方法であって、前記現在クロマブロックの前記予測子は
ｐｒｅｄｃ（ｉ，ｊ）＝α・ｒｅｃＬ’（ｉ，ｊ）＋β
に基づき取得され、ｐｒｅｄｃ（ｉ，ｊ）は、クロマサンプルを表し、ｒｅｃＬ（ｉ，ｊ）は、対応する再構成されたルーマサンプル（例えば、対応する再構成されたルーマサンプルの位置は現在ブロックの中にある）を表す、方法。
ｐｒｅｄｃ（ｉ，ｊ）＝α・ｒｅｃＬ’（ｉ，ｊ）＋β
に基づき取得され、ｐｒｅｄｃ（ｉ，ｊ）は、クロマサンプルを表し、ｒｅｃＬ（ｉ，ｊ）は、対応する再構成されたルーマサンプル（例えば、対応する再構成されたルーマサンプルの位置は現在ブロックの中にある）を表す、方法。
【0229】
実施形態１２．上記の実施形態のいずれか１つの方法であって、前記線形モデルは、多方向線形モデル（ＭＤＬＭ）であり、前記線形モデル係数は、前記ＭＤＬＭを取得するために使用される、方法。
【0230】
実施形態１３．符号化デバイスによって実装される符号化の方法であって、
線形モデル（例えば、交差成分線形モデル，ＣＣＬＭ、又は多方向線形モデル，ＭＤＬＭ）を用いてイントラ予測を実行することと、
複数のシンタックス要素を含むビットストリームを生成することと
を有し、
前記複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素を含む（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのようなＳＰＳフラグ）、方法。
線形モデル（例えば、交差成分線形モデル，ＣＣＬＭ、又は多方向線形モデル，ＭＤＬＭ）を用いてイントラ予測を実行することと、
複数のシンタックス要素を含むビットストリームを生成することと
を有し、
前記複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素を含む（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのようなＳＰＳフラグ）、方法。
【0231】
実施形態１４．上記の実施形態のいずれか１つの方法であって、前記シンタックス要素の値が１又はＴＲＵＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用されず、
前記シンタックス要素の値が０又はＦＡＬＳＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用される、方法。
前記シンタックス要素の値が０又はＦＡＬＳＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用される、方法。
【0232】
実施形態１５．復号化デバイスによって実装される復号化の方法であって、
ビットストリームから複数のシンタックス要素をパースすることであり、前記複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素を含む（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのようなＳＰＳフラグ）、ことと、
指示された線形モデル（例えば、ＣＣＬＭ）を用いてイントラ予測を実行することと
を有する方法。
ビットストリームから複数のシンタックス要素をパースすることであり、前記複数のシンタックス要素は、ブロックに属するルーマサンプルに対するフィルタの選択を示すシンタックス要素を含む（例えば、ＣＣＬＭのルーマフィルタの選択、特に、ｓｐｓ＿ｃｃｌｍ＿ｃｏｌｏｃａｔｅｄ＿ｃｈｒｏｍａ＿ｆｌａｇのようなＳＰＳフラグ）、ことと、
指示された線形モデル（例えば、ＣＣＬＭ）を用いてイントラ予測を実行することと
を有する方法。
【0233】
実施形態１６．上記の実施形態のいずれか１つの方法であって、前記シンタックス要素の値が０又はＦＡＬＳＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用され、
前記シンタックス要素の値が１又はＴＲＵＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用されない、方法。
前記シンタックス要素の値が１又はＴＲＵＥであるとき、前記フィルタは、前記線形モデルの決定及び前記予測のためにルーマサンプルに適用されない、方法。
【0234】
実施形態１７．線形モデルを用いてイントラ予測を実行する方法であって、
クロマフォーマット情報に基づきダウンサンプリングフィルタの組を決定することであり、前記クロマフォーマット情報は、現在ブロックが属するピクチャのクロマフォーマットを示す、ことと、
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することと、
前記選択された隣接ルーマサンプルの前記ダウンサンプリングされたルーマ参照サンプルと、前記ダウンサンプリングされたルーマ参照サンプルに対応するクロマ参照サンプルとに基づき、１つ以上の線形モデル係数を決定することと、
前記線形モデル係数と、全ルーマブロック内の前記再構成されたルーマサンプルの前記ダウンサンプリングされたルーマサンプルとに基づき、前記ルーマブロックに対応するクロマブロックの予測サンプルを取得することと
を有する方法。
クロマフォーマット情報に基づきダウンサンプリングフィルタの組を決定することであり、前記クロマフォーマット情報は、現在ブロックが属するピクチャのクロマフォーマットを示す、ことと、
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することと、
前記選択された隣接ルーマサンプルの前記ダウンサンプリングされたルーマ参照サンプルと、前記ダウンサンプリングされたルーマ参照サンプルに対応するクロマ参照サンプルとに基づき、１つ以上の線形モデル係数を決定することと、
前記線形モデル係数と、全ルーマブロック内の前記再構成されたルーマサンプルの前記ダウンサンプリングされたルーマサンプルとに基づき、前記ルーマブロックに対応するクロマブロックの予測サンプルを取得することと
を有する方法。
【0235】
実施形態１８．実施形態１７の方法であって、クロマフォーマット情報に基づきダウンサンプリングフィルタの組を決定することは、
前記クロマフォーマット情報に基づきサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）を決定することと、
前記サブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）に基づき前記ダウンサンプリングフィルタの組を決定することと
を有する、方法。
前記クロマフォーマット情報に基づきサブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）を決定することと、
前記サブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）に基づき前記ダウンサンプリングフィルタの組を決定することと
を有する、方法。
【0236】
実施形態１９．実施形態１７の方法であって、現在ブロックが属するピクチャのクロマフォーマットに基づきダウンサンプリングフィルタの組を決定することは、次の
前記クロマフォーマットが４：２：０カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第１のダウンサンプリングフィルタの組を決定すること、
前記クロマフォーマットが４：２：２カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第２のダウンサンプリングフィルタの組を決定すること、又は
前記クロマフォーマットが４：４：４カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第３のダウンサンプリングフィルタの組を決定すること
うちの１つ以上を有する、方法。
前記クロマフォーマットが４：２：０カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第１のダウンサンプリングフィルタの組を決定すること、
前記クロマフォーマットが４：２：２カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第２のダウンサンプリングフィルタの組を決定すること、又は
前記クロマフォーマットが４：４：４カラーフォーマットである場合に、前記現在ブロックのルーマブロックに使用される第３のダウンサンプリングフィルタの組を決定すること
うちの１つ以上を有する、方法。
【0237】
実施形態２０．実施形態１８の方法であって、前記サブサンプリング比情報（例えば、ＳｕｂＷｉｄｔｈＣ及びＳｕｂＨｅｉｇｈｔＣ）に基づき前記ダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定することは、次の
ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合に、前記現在ブロックのルーマブロックに使用される第１のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること、
ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、前記現在ブロックのルーマブロックに使用される第２のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること、又は
ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、前記現在ブロックのルーマブロックに使用される第３のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること
のうちの１つ以上を有する、方法。
ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２である場合に、前記現在ブロックのルーマブロックに使用される第１のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること、
ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、前記現在ブロックのルーマブロックに使用される第２のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること、又は
ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１である場合に、前記現在ブロックのルーマブロックに使用される第３のダウンサンプリングフィルタの組（ダウンサンプリングフィルタ係数の組）を決定すること
のうちの１つ以上を有する、方法。
【0238】
実施形態２１．実施形態１７～２０のいずれか１つの方法であって、前記サブサンプリングされたクロマサンプルが前記現在ブロック内の対応するルーマサンプルと同一位置にある場合に、
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することは、
再構成されたルーマサンプルの空間エリアに第１ダウンサンプリングフィルタを適用することによって、前記ルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記再構成されたルーマサンプル（ダウンサンプリングされたルーマサンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと、
再構成されたルーマサンプルの空間エリアに前記第１ダウンサンプリングフィルタを適用することによって、選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記選択された隣接ルーマサンプル（前記ダウンサンプリングされたルーマ参照サンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと
を有し、
前記第１ダウンサンプリングフィルタは、前記ダウンサンプリングフィルタの組の中にある、方法。
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することは、
再構成されたルーマサンプルの空間エリアに第１ダウンサンプリングフィルタを適用することによって、前記ルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記再構成されたルーマサンプル（ダウンサンプリングされたルーマサンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと、
再構成されたルーマサンプルの空間エリアに前記第１ダウンサンプリングフィルタを適用することによって、選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記選択された隣接ルーマサンプル（前記ダウンサンプリングされたルーマ参照サンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと
を有し、
前記第１ダウンサンプリングフィルタは、前記ダウンサンプリングフィルタの組の中にある、方法。
【0239】
実施形態２２．実施形態２１の方法であって、４：２：２カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１）場合に、前記第１ダウンサンプリングフィルタは１Ｄ非分離可能フィルタであり、あるいは、
４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第１ダウンサンプリングフィルタは２Ｄ非分離可能フィルタである、方法。
４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第１ダウンサンプリングフィルタは２Ｄ非分離可能フィルタである、方法。
【0240】
実施形態２３．実施形態２１の方法であって、４：２：２カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１）場合に、前記第１ダウンサンプリングフィルタ（標準規格に記載されている１Ｄ非分離可能フィルタＦ２）は、［１，２，１］又は
（外３）
によって表され、非ゼロ係数が、前記フィルタ処理された再構成されたルーマサンプルの位置に水平方向に隣接する位置にあり、係数「２」を有する中心位置は、前記フィルタ処理された再構成されたルーマサンプルの位置に対応する、方法。
（外３）
【0241】
実施形態２４．実施形態２１の方法であって、４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第１ダウンサンプリングフィルタ（ＶＶＣ標準規格で記載されている２Ｄ非分離可能フィルタＦ３）は、
（外４）
によって表され、非ゼロ係数が、前記フィルタ処理された再構成されたルーマサンプルの位置に水平方向及び／又は垂直方向に隣接する位置にあり、係数「４」を有する中心位置は、前記フィルタ処理された再構成されたルーマサンプルの位置に対応する、方法。
（外４）
【0242】
実施形態２５．実施形態１７～２０のいずれか１つの方法であって、前記サブサンプリングされたクロマサンプルが前記現在ブロック内の対応するルーマサンプルと同一位置にない場合に、
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することは、
再構成されたルーマサンプルの空間エリアに第２ダウンサンプリングフィルタを適用することによって、前記ルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記再構成されたルーマサンプル（ダウンサンプリングされたルーマサンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと、
再構成されたルーマサンプルの空間エリアに前記第２ダウンサンプリングフィルタを適用することによって、選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記選択された隣接ルーマサンプル（前記ダウンサンプリングされたルーマ参照サンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと
を有し、
前記第２ダウンサンプリングフィルタは、前記ダウンサンプリングフィルタの組の中にある、方法。
前記現在ブロックのルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルと、前記ルーマブロックの外にある選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルとを、前記ダウンサンプリングフィルタの組の中の各々のダウンサンプリングフィルタを適用することによって取得することは、
再構成されたルーマサンプルの空間エリアに第２ダウンサンプリングフィルタを適用することによって、前記ルーマブロック内の再構成されたルーマサンプルのダウンサンプリングされたルーマサンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記再構成されたルーマサンプル（ダウンサンプリングされたルーマサンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと、
再構成されたルーマサンプルの空間エリアに前記第２ダウンサンプリングフィルタを適用することによって、選択された隣接ルーマサンプルのダウンサンプリングされたルーマ参照サンプルを取得することであり、前記再構成されたルーマサンプルの空間エリアは、前記選択された隣接ルーマサンプル（前記ダウンサンプリングされたルーマ参照サンプル）の位置に水平方向及び／又は垂直方向に隣接する位置にある再構成されたルーマサンプルを含む、ことと
を有し、
前記第２ダウンサンプリングフィルタは、前記ダウンサンプリングフィルタの組の中にある、方法。
【0243】
実施形態２６．実施形態２５の方法であって、４：２：２カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１）場合に、前記第２ダウンサンプリングフィルタは１Ｄ非分離可能フィルタであり、あるいは、
４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第２ダウンサンプリングフィルタは２Ｄ非分離可能フィルタである、方法。
４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第２ダウンサンプリングフィルタは２Ｄ非分離可能フィルタである、方法。
【0244】
実施形態２７．実施形態２５の方法であって、４：２：２カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝１）場合に、前記第２ダウンサンプリングフィルタ（標準規格に記載されている１Ｄ非分離可能フィルタＦ１，Ｆ２）は、［２，０］又は［１，２，１］又は
（外５）
によって表され、非ゼロ係数が、前記フィルタ処理された再構成されたルーマサンプルの位置に水平方向に隣接する位置にあり、係数「２」を有する中心位置は、前記フィルタ処理された再構成されたルーマサンプルの位置に対応する、方法。
（外５）
【0245】
実施形態２８．実施形態２５の方法であって、４：２：０カラーフォーマットが使用される（ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２）場合に、前記第２ダウンサンプリングフィルタ（ＶＶＣ標準規格で記載されている２Ｄ非分離可能フィルタＦ４）は、
（外６）
によって表され、非ゼロ係数が、前記フィルタ処理された再構成されたルーマサンプルの位置に水平方向及び／又は垂直方向に隣接する位置にあり、係数「２」を有する中心位置は、前記フィルタ処理された再構成されたルーマサンプルの位置に対応する、方法。
（外６）
【0246】
実施形態２９．実施形態２１～２４のいずれか１つの方法であって、前記サブサンプリングされたクロマサンプルが前記現在ブロック内の対応するルーマサンプルと同一位置にあることは、次の
クロマサンプルタイプ２、又は
クロマサンプルタイプ４
のうちのいずれか１つによって表される、方法。
クロマサンプルタイプ２、又は
クロマサンプルタイプ４
のうちのいずれか１つによって表される、方法。
【0247】
実施形態３０．実施形態２５～２８のいずれか１つの方法であって、前記サブサンプリングされたクロマサンプルが前記現在ブロック内の対応するルーマサンプルと同一位置にないことは、次の
クロマサンプルタイプ０、
クロマサンプルタイプ１、
クロマサンプルタイプ３、又は
クロマサンプルタイプ５
のうちのいずれか１つによって表される、方法。
クロマサンプルタイプ０、
クロマサンプルタイプ１、
クロマサンプルタイプ３、又は
クロマサンプルタイプ５
のうちのいずれか１つによって表される、方法。
【0248】
実施形態３１．上記の実施形態のいずれか１つの方法であって、前記フィルタは、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ３，Ｆ５，Ｆ６｝の組について、次が適用される：
Ｆ３［０］＝１，Ｆ３［１］＝２，Ｆ３［２］＝１
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ５［０］［１］＝１，Ｆ５［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ５［１］［０］＝１，Ｆ５［１］［２］＝１，Ｆ６［０］［１］＝１，
Ｆ６［１］［１］＝２，Ｆ６［２］［１］＝１，Ｆ６［０］［２］＝１，
Ｆ６［１］［２］＝２，Ｆ６［２］［２］＝１，Ｆ２［０］＝１，Ｆ２［１］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ５［０］［１］＝０，Ｆ５［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ５［１］［０］＝０，Ｆ５［１］［２］＝０，Ｆ６［０］［１］＝２，
Ｆ６［１］［１］＝４，Ｆ６［２］［１］＝２，Ｆ６［０］［２］＝０，
Ｆ６［１］［２］＝０，Ｆ６［２］［２］＝０，Ｆ２［０］＝２，Ｆ２［１］＝０
である、方法。
【0249】
実施形態３２．上記の実施形態のいずれか１つの方法であって、前記フィルタは、順次的なフィルタの表記を用いて、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝２又は４，Ｆ１［１］＝０
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝１又は３，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ１［０］＝２又は４，Ｆ１［１］＝０
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ１［０］＝１又は３，Ｆ１［１］＝１，
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
【0250】
実施形態３３．上記の実施形態のいずれか１つの方法であって、前記クロマフォーマットがＹＵＶ ４：２：２と指定される場合、又はクロマ成分及びルーマ成分が同一位置にある（図１０Ｂで「クロマサンプルタイプ２」及び「クロマサンプルタイプ４」として示される）場合に、ルーマ成分からのサンプリングが、前記ルーマブロックの上側に対してオフセットを有して、実行される、方法。
【0251】
実施形態３４．上記の実施形態のいずれか１つの方法であって、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：２として指定されるか、又はブロック境界がＣＴＵライン境界である場合に、［１ ２ １］／４フィルタが参照サンプルに適用される、方法。
【0252】
実施形態３５．実施形態３４の方法であって、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、Ｆ３にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］＊ｐＹ［－１］［－１］
＋Ｆ［１］＊ｐＹ［０］［－１］
＋Ｆ［２］＊ｐＹ［１］［－１］
＋２）＞＞２
方法。
【0253】
実施形態３６．上記の実施形態のいずれか１つの方法であって、ブロック境界がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される場合に、［１ ２ １；１ ２ １］／８フィルタが参照サンプルに適用される、方法。
【0254】
実施形態３７．実施形態３６の方法であって、ａｖａｉｌＴＬがＴＲＵＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ６にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［０］［－１］
＋Ｆ［１］［２］＊ｐＹ［０］［－２］
＋Ｆ［２］［１］＊ｐＹ［１］［－１］
＋Ｆ［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［０］［１］＊ｐＹ［－１］［－１］
＋Ｆ［０］［２］＊ｐＹ［－１］［－２］
＋Ｆ［１］［１］＊ｐＹ［０］［－１］
＋Ｆ［１］［２］＊ｐＹ［０］［－２］
＋Ｆ［２］［１］＊ｐＹ［１］［－１］
＋Ｆ［２］［２］＊ｐＹ［１］［－２］＋４）＞＞３
方法。
【0255】
実施形態３８．上記の実施形態のいずれか１つの方法であって、左上サンプルが利用可能でなく、かつ、クロマフォーマットがＹＵＶ ４：２：２として指定されるか、又はブロック境界がＣＴＵライン境界である場合に、バイパス［１］／１フィルタが参照サンプルに適用される、方法。
【0256】
実施形態３９．実施形態３８の方法であって、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
方法。
【0257】
実施形態４０．上記の実施形態のいずれか１つの方法であって、ブロック境界がＣＴＵライン境界ではなく、左上サンプルが利用可能であり、かつ、クロマフォーマットがＹＵＶ ４：２：０（又は垂直クロマサブサンプリングを使用する任意の他のクロマフォーマット）として指定される場合に、［１ １］／２フィルタが参照サンプルに適用される、方法。
【0258】
実施形態４１．実施形態４０の方法であって、ａｖａｉｌＴＬがＦＡＬＳＥに等しく、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい場合に、Ｆ２にセットされたＦについて、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ［１］＊ｐＹ［０］［－２］＋Ｆ［０］＊ｐＹ［０］［－１］＋１）＞＞１
方法。
【0259】
実施形態４２．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足されない（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋
Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４＞＞３
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ４［１］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－２］＋
Ｆ４［２］［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－２］＋４＞＞３
方法。
【0260】
実施形態４３．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足される（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２＞＞２
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ－１］［－１］＋
Ｆ２［１］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ］［－１］＋
Ｆ２［２］＊ｐＹ［ＳｕｂＷｉｄｔｈＣ＊ｘ＋１］［－１］＋２＞＞２
方法。
【0261】
実施形態４４．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足されず、第２条件が満足される（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しく、ａｖａｉｌＴＬがＴＲＵＥに等しい）場合に、次が適用される：
少なくとも第１条件が満足されない（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［０］［－１］＋
Ｆ４［１］［２］＊ｐＹ［０］［－２］＋
Ｆ４［２］［１］＊ｐＹ［１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４＞＞３
方法。
少なくとも第１条件が満足されない（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ４［０］［１］＊ｐＹ［－１］［－１］＋
Ｆ４［０］［２］＊ｐＹ［－１］［－２］＋
Ｆ４［１］［１］＊ｐＹ［０］［－１］＋
Ｆ４［１］［２］＊ｐＹ［０］［－２］＋
Ｆ４［２］［１］＊ｐＹ［１］［－１］＋
Ｆ４［２］［２］＊ｐＹ［１］［－２］＋４＞＞３
方法。
【0262】
実施形態４５．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足され、第２条件が満足される（例えば、ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しく、ａｖａｉｌＴＬがＴＲＵＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋
Ｆ２［２］＊ｐＹ［１］［－１］＋２＞＞２
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ２［０］＊ｐＹ［－１］［－１］＋
Ｆ２［１］＊ｐＹ［０］［－１］＋
Ｆ２［２］＊ｐＹ［１］［－１］＋２＞＞２
方法。
【0263】
実施形態４６．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足されず、第２条件が満足されない（ｂＣＴＵｂｏｕｎｄａｒｙがＦＡＬＳＥに等しく、ａｖａｉｌＴＬがＦＡＬＳＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ１［１］＊ｐＹ［０］［－２］＋Ｆ１［０］＊ｐＹ［０］［－１］＋１）＞＞１
又は
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ１［１］＊ｐＹ［０］［－２］＋Ｆ１［０］＊ｐＹ［０］［－１］＋２）＞＞２
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ１［１］＊ｐＹ［０］［－２］＋Ｆ１［０］＊ｐＹ［０］［－１］＋１）＞＞１
又は
ｐＳｅｌＤｓＹ［ｉｄｘ］＝
（Ｆ１［１］＊ｐＹ［０］［－２］＋Ｆ１［０］＊ｐＹ［０］［－１］＋２）＞＞２
方法。
【0264】
実施形態４７．上記の実施形態のいずれか１つの方法であって、少なくとも第１条件が満足され、第２条件が満足されない（ｂＣＴＵｂｏｕｎｄａｒｙがＴＲＵＥに等しく、ａｖａｉｌＴＬがＦＡＬＳＥに等しい）場合に、次が適用される：
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
方法。
ｐＳｅｌＤｓＹ［ｉｄｘ］＝ｐＹ［０］［－１］
方法。
【0265】
実施形態４８．上記の実施形態のいずれか１つの方法であって、第２条件が満足される（例えば、ａｖａｉｌＴＬがＴＲＵＥに等しい）場合に、次が適用される：
ｐＤｓＹ［０］［ｙ］＝
（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋２）＞＞２
方法。
ｐＤｓＹ［０］［ｙ］＝
（Ｆ１［０］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ］＋
Ｆ１［１］＊ｐＹ［０］［ＳｕｂＨｅｉｇｈｔＣ＊ｙ＋１］＋２）＞＞２
方法。
【0266】
実施形態４９．上記の実施形態のいずれか１つの方法であって、再構成されたルーマブロックの境界に対するフィルタ選択を実装するために、パディング動作が使用される、方法。
【0267】
実施形態５０．上記の実施形態のいずれか１つの方法であって、
フィルタ処理されたエリアの位置がブロック境界にあるときにフィルタリングプロセスを調整することを更に有する方法。
フィルタ処理されたエリアの位置がブロック境界にあるときにフィルタリングプロセスを調整することを更に有する方法。
【0268】
実施形態５１．上記の実施形態のいずれか１つの方法であって、フィルタ係数が位置に依存する、方法。
【0269】
実施形態５２．実施形態５１の方法であって、左側が利用可能でない場合に、前記左側のサンプルが、再構成されたブロックの最左の再構成されたサンプルを水平方向にコピーすることによって取得される、方法。
【0270】
実施形態５３．実施形態５１の方法であって、上側が利用可能でない場合に、前記上側のサンプルが、再構成されたブロックの最上の再構成されたサンプルを垂直方向にコピーすることによって取得される、方法。
【0271】
実施形態５４．上記の実施形態のいずれか１つの方法であって、前記フィルタの１つＦａ∈｛Ｆ１．．．Ｆ４｝によるフィルタリングは、パディング動作及びフィルタＦｂを使用することによって実行され、フィルタＦｂは、フィルタＦａよりも多い非ゼロ係数を有する、方法。
【0272】
実施形態５５．実施形態５４の方法であって、ＦａがＦ１であり、ＦｂがＦ２である場合に、フィルタＦ１は、パディングとフィルタＦ２を使用するフィルタリングとの組み合わせとして実装される、方法。
【0273】
実施形態５６．実施形態４９～５５のいずれか１つの方法であって、前記フィルタは、次のように条件付きで決定される：
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
第１条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝１及びＳｕｂＨｅｉｇｈｔＣ＝＝１のような、仕様で定義された表から取得されるサブサンプリング比情報）が満足されない場合に、フィルタ｛Ｆ１，Ｆ２，Ｆ３｝の組について、次が適用される：
Ｆ２［０］＝１，Ｆ２［１］＝２，Ｆ２［２］＝１
Ｆ３［ｉ］［ｊ］＝Ｆ４［ｉ］［ｊ］＝０，ただし、ｉ＝０．．２，ｊ＝０．．２
第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足される場合に、
Ｆ３［０］［１］＝１，Ｆ３［１］［１］＝４，Ｆ３［２］［１］＝１，
Ｆ３［１］［０］＝１，Ｆ３［１］［２］＝１，
Ｆ４［０］［１］＝１，Ｆ４［１］［１］＝２，Ｆ４［２］［１］＝１，
Ｆ４［０］［２］＝１，Ｆ４［１］［２］＝２，Ｆ４［２］［２］＝１
他の場合（例えば、第２条件（例えば、ＳｕｂＷｉｄｔｈＣ＝＝２及びＳｕｂＨｅｉｇｈｔＣ＝＝２のような、表から取得されるサブサンプリング比情報）が満足されない場合）に、
Ｆ３［０］［１］＝０，Ｆ３［１］［１］＝８，Ｆ３［２］［１］＝０，
Ｆ３［１］［０］＝０，Ｆ３［１］［２］＝０
Ｆ４［０］［１］＝２，Ｆ４［１］［１］＝４，Ｆ４［２］［１］＝２，
Ｆ４［０］［２］＝０，Ｆ４［１］［２］＝０，Ｆ４［２］［２］＝０
である、方法。
【0274】
実施形態５７．実施形態４９～５６のいずれか１つの方法であって、前記パディング動作は、
ａｖａｉｌＴがＦＡＬＳＥに等しい場合に、ｘ＝－１．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］が、ルーマサンプルｐＹ［ｘ］［０］に等しくセットされ、あるいは、
ａｖａｉｌＬがＦＡＬＳＥに等しい場合に、ｘ＝－１，－２，－３，ｙ＝－１．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］が、ルーマサンプルｐＹ［０］［ｙ］に等しくセットされる、
ことを有する、方法。
ａｖａｉｌＴがＦＡＬＳＥに等しい場合に、ｘ＝－１．．ＳｕｂＷｉｄｔｈＣ＊ｎｕｍＳａｍｐＴ－１，ｙ＝－１，－２である隣接する上ルーマサンプルｐＹ［ｘ］［ｙ］が、ルーマサンプルｐＹ［ｘ］［０］に等しくセットされ、あるいは、
ａｖａｉｌＬがＦＡＬＳＥに等しい場合に、ｘ＝－１，－２，－３，ｙ＝－１．．ＳｕｂＨｅｉｇｈｔＣ＊ｎｕｍＳａｍｐＬ－１である隣接する左ルーマサンプルｐＹ［ｘ］［ｙ］が、ルーマサンプルｐＹ［０］［ｙ］に等しくセットされる、
ことを有する、方法。
【0275】
上記の態様及びそれらの態様のいずれかのとり得る実施形態で、現在ブロックのルーマブロック内の再構成されたルーマサンプルに、及び／又は現在ブロックに隣接する選択された位置でのルーマサンプルにフィルタを適用するために、フィルタは、ダウンサンプリングフィルタの組に属し、ダウンサンプリングフィルタの組には、削減された数のフィルタしか含まれない。つまり、ダウンサンプリングフィルタの組の中のフィルタの数は、削減される。例えば、シンタックス要素（例えば、ｓｐｓ＿ｃｈｒｏｍａ＿ｖｅｒｔｉｃａｌ＿ｃｏｌｌｏｃａｔｅｄ＿ｆｌａｇ）の値に応じて、フィルタの組はＦ３及びＦ４フィルタしか含まず、つまり、Ｆ３及びＦ４しか選択され得ない。相応して、それは、再構成されたルーマサンプルに、及び／又は現在ブロックに隣接する選択された位置でのルーマサンプルに適用されるフィルタのタップの数を減らし得る。
【0276】
図１６は、コンテンツ配信サービスを実現するコンテンツ供給システム３１００を示すブロック図である。このコンテンツ供給システム３１００は、キャプチャデバイス３１０２、端末デバイス３１０６を含み、任意に、ディスプレイ３１２６を含む。キャプチャデバイス３１０２は、通信リンク３１０４を介して端末デバイス３１０６と通信する。通信リンクは、上記の通信チャネル１３を含んでよい。通信リンク３１０４は、ＷＩＦＩ、Ｅｔｈｅｒｎｅｔ、ケーブル、無線（３Ｇ／４Ｇ／５Ｇ）、ＵＳＢ、又はそれらのあらゆる種類の組み合わせ、などを含むが、それに限られない。
【0277】
キャプチャデバイス３１０２は、データを生成し、また、上記の実施形態で示された符号化方法によってデータを符号化してもよい。代替的に、キャプチャデバイス３１０２は、データをストリーミングサーバ（図示せず）へ分配してもよく、サーバがデータを符号化し、符号化されたデータを端末デバイス３１０６へ送る。キャプチャデバイス３１０２は、カメラ、スマートフォン若しくはパッド、コンピュータ若しくはラップトップ、ビデオ会議システム、ＰＤＡ、車載型デバイス、又はそれらのいずれかの組み合わせ、などを含むが、それに限られない。例えば、キャプチャデバイス３１０２は、上記の送信元デバイス１２を含んでもよい。データがビデオを含む場合に、キャプチャデバイス３１０２に含まれているビデオエンコーダが、実際に、ビデオ符号化処理を実行し得る。データがオーディオ（すなわち、ボイス）を含む場合に、キャプチャデバイス３１０２に含まれているオーディオエンコーダが、実際に、オーディオ符号化処理を実行し得る。いくつかの実際のシナリオについて、キャプチャデバイス３１０２は、符号化されたビデオ及びオーディオデータを、それらを一緒に多重化することによって分配する。他の実際のシナリオについては、例えば、ビデオ会議システムでは、符号化されたオーディオデータと符号化されたビデオデータとは、多重化されない。キャプチャデバイス３１０２は、符号化されたオーディオデータ及び符号化されたビデオデータを別々に端末デバイス３１０６へ分配する。
【0278】
コンテンツ供給システム３１００において、端末デバイス３１０６は、符号化されたデータを受け取って再生する。端末デバイス３１０６は、上記の符号化されたデータを復号することができるスマートフォン若しくはパッド３１０８、コンピュータ若しくはラップトップ３１１０、ネットワークビデオレコーダ（ＮＶＲ）／デジタルビデオレコーダ（ＤＶＲ）３１１２、ＴＶ３１１４、セットトップボックス（ＳＴＢ）３１１６、ビデオ会議システム３１１８、ビデオ監視システム３１２０、パーソナルデジタルアシスタント（ＰＤＡ）３１２２、車載型デバイス３１２４、又はそれらのいずれかの組み合わせ、などのような、データ受信及び回復機能を備えたデバイスであってよい。例えば、端末デバイス３１０６は、上述された送信先デバイス１４を含んでもよい。符号化されたデータがビデオを含む場合に、端末デバイスに含まれているビデオデコーダ３０が、ビデオ復号化を実行するよう優先される。符号化されたデータがオーディオを含む場合に、端末デバイスに含まれているオーディオデコーダが、オーディオ復号化処理を実行するよう優先される。
【0279】
ディスプレイを備えた端末デバイス、例えば、スマートフォン若しくはパッド３１０８、コンピュータ若しくはラップトップ３１１０、ネットワークビデオレコーダ（ＮＶＲ）／デジタルビデオレコーダ（ＤＶＲ）３１１２、ＴＶ３１１４、パーソナルデジタルアシスタント（ＰＤＡ）３１２２、又は車載型デバイス３１２４については、端末デバイスは、自身のディスプレイへ復号されたデータを供給することができる。ディスプレイを備えていない端末デバイス、例えば、ＳＴＢ３１１６、ビデオ会議システム３１１８、又はビデオ監視システム３１２０については、外付けディスプレイ３１２６が、復号されたデータを受け取って示すよう接触する。
【0280】
このシステム内の各デバイスが符号化又は復号化を実行するとき、上記の実施形態で示されたピクチャ符号化デバイス又はピクチャ復号化デバイスが使用され得る。
【0281】
図１７は、端末デバイス３１０６の例の構造を示す図である。端末デバイス３１０６がキャプチャデバイス３１０２からストリームを受け取った後、プロトコル処理ユニット３２０２がストリームの伝送プロトコルを解析する。プロトコルは、実時間ストリーミングプロトコル（ＲＴＳＰ）、ハイパーテキスト転送プロトコル（ＨＴＴＰ）、ＨＴＴＰライブストリーミングプロトコル（ＨＬＳ）、ＭＰＥＧ－ＤＡＳＨ、実時間トランスポートプロトコル（ＲＴＰ）、実時間メッセージングプロトコル（ＲＴＭＰ）、又はそれらのあらゆる種類の組み合わせ、などを含むが、それに限られない。
【0282】
プロトコル処理ユニット３２０２がストリームを処理した後、ストリームファイルが生成される。ファイルは逆多重化ユニット３２０４へ出力される。逆多重化ユニット３２０４は、多重化されたデータを、符号化されたオーディオデータ及び符号化されたビデオデータに分離することができる。上述されたように、いくつかの実際のシナリオについて、例えば、ビデオ会議システムでは、符号化されたオーディオデータと符号化されたビデオデータとは多重化されない。この状況では、符号化されたデータは、逆多重化ユニット３２０４を通らずにビデオデコーダ３２０６及びオーディオデコーダ３２０８へ送られる。
【0283】
逆多重化処理により、ビデオエレメンタリストリーム（ＥＳ）、オーディオＥＳ、及び任意にサブタイトルが生成される。上記の実施形態で説明されたビデオデコーダ３０を含むビデオデコーダ３２０６は、上記の実施形態で示された復号化方法によってビデオＥＳを復号して、ビデオフレームを生成し、このデータを同期ユニット３２１２へ供給する。オーディオデコーダ３２０８は、オーディオＥＳを復号して、オーディオフレームを生成し、このデータを同期ユニット３２１２へ供給する。代替的に、ビデオフレームは、それを同期ユニット３２１２へ供給する前にバッファ（図１７に図示せず）に記憶してもよい。同様に、オーディオフレームは、それを同期ユニット３２１２へ供給する前にバッファ（図１７に図示せず）に記憶してもよい。
【0284】
同期ユニット３２１２は、ビデオフレームとオーディオフレームとを同期させ、ビデオ／オーディオをビデオ／オーディオディスプレイ３２１４へ供給する。例えば、同期ユニット３２１２は、ビデオ及びオーディオ情報の提示を同期させる。情報は、コード化されたオーディオ及びビジュアルデータの提示に関するタイムスタンプと、データストリーム自体の配信に関するタイムスタンプとを用いて、シンタックスでコード化してよい。
【0285】
サブタイトルがストリームに含まれる場合に、サブタイトルデコーダ３２１０がサブタイトルを復号し、それをビデオフレーム及びオーディオフレームと同期させ、ビデオ／オーディオ／サブタイトルをビデオ／オーディオ／サブタイトルディスプレイ３２１６へ供給する。
【0286】
本願は、上記のシステムに制限されず、上記の実施形態におけるピクチャ符号化デバイス又はピクチャ復号化デバイスのどちらか一方は、他のシステム、例えば、カーシステムに組み込まれ得る。
【0287】
数学演算子
本願で使用される数学演算子は、Ｃプログラミング言語で使用されているものと類似している。しかし、整数除算及び算術シフト演算の結果は、より厳密に定義され、指数及び実数値除算のような、更なる演算が定義される。番号付け及び計数の規則は、一般的に０から始まり、例えば、「第１」は０番目と等価であり、「第２」は１番目と等価である、など。
本願で使用される数学演算子は、Ｃプログラミング言語で使用されているものと類似している。しかし、整数除算及び算術シフト演算の結果は、より厳密に定義され、指数及び実数値除算のような、更なる演算が定義される。番号付け及び計数の規則は、一般的に０から始まり、例えば、「第１」は０番目と等価であり、「第２」は１番目と等価である、など。
【0288】
算術演算子
以下の算術演算が、次のように定義される：
以下の算術演算が、次のように定義される：
【表13】
【0289】
論理演算子
以下の算術演算子が、次のように定義される：
ｘ＆＆ｙ ｘ及びｙのブール論理“ＡＮＤ”
ｘ｜｜ｙ ｘ及びｙのブール論理“ＯＲ”
！ ブール論理“ＮＯＴ”
ｘ？ｙ：ｚ ｘがＴＲＵＥであるか、又は０に等しくない場合には、ｙの値として評価し、そうでない場合には、ｚの値として評価する。
以下の算術演算子が、次のように定義される：
ｘ＆＆ｙ ｘ及びｙのブール論理“ＡＮＤ”
ｘ｜｜ｙ ｘ及びｙのブール論理“ＯＲ”
！ ブール論理“ＮＯＴ”
ｘ？ｙ：ｚ ｘがＴＲＵＥであるか、又は０に等しくない場合には、ｙの値として評価し、そうでない場合には、ｚの値として評価する。
【0290】
関係演算子
以下の関係演算子が、次のように定義される：
＞ ～よりも大きい
＞＝ ～以上
＜ ～よりも小さい
＜＝ ～以下
＝＝ ～に等しい
！＝ ～に等しくない。
以下の関係演算子が、次のように定義される：
＞ ～よりも大きい
＞＝ ～以上
＜ ～よりも小さい
＜＝ ～以下
＝＝ ～に等しい
！＝ ～に等しくない。
【0291】
関係演算子が、値“ＮＡ”（not applicable）を割り当てられているシンタックス要素又は変数に適用される場合に、値“ＮＡ”は、そのシンタックス要素又は変数のディスティンクト値として扱われる。値“ＮＡ”は、如何なる他の値にも等しくないと見なされる。
【0292】
ビット演算子
以下のビット演算子が、次のように定義される：
＆ ビット単位“ＡＮＤ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
｜ ビット単位“ＯＲ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
＾ ビット単位“ＸＯＲ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
ｘ＞＞ｙ ｙ個の２進桁によるｘの２の補数整数表現の算術右シフト。この関数は、ｙの非負整数値についてのみ定義される。右シフトの結果として最上位ビット（ＭＳＢ）へシフトされたビットは、シフト演算の前のｘのＭＳＢに等しい値を有する。
ｘ＜＜ｙ ｙ個の２進桁によるｘの２の補数整数表現の算術左シフト。この関数は、ｙの非負整数値についてのみ定義される。左シフトの結果として最下位ビット（ＬＳＢ）へシフトされたビットは、０に等しい値を有する。
以下のビット演算子が、次のように定義される：
＆ ビット単位“ＡＮＤ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
｜ ビット単位“ＯＲ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
＾ ビット単位“ＸＯＲ”。整数引数に作用する場合に、整数値の２の補数表現に作用する。他の引数よりも少ないビットを含む２進引数に作用する場合に、より短い方の引数は、０に等しい更なる有効ビットを加えることによって拡張される。
ｘ＞＞ｙ ｙ個の２進桁によるｘの２の補数整数表現の算術右シフト。この関数は、ｙの非負整数値についてのみ定義される。右シフトの結果として最上位ビット（ＭＳＢ）へシフトされたビットは、シフト演算の前のｘのＭＳＢに等しい値を有する。
ｘ＜＜ｙ ｙ個の２進桁によるｘの２の補数整数表現の算術左シフト。この関数は、ｙの非負整数値についてのみ定義される。左シフトの結果として最下位ビット（ＬＳＢ）へシフトされたビットは、０に等しい値を有する。
【0293】
代入演算子
以下の算術演算子が、次のように定義される：
＝ 代入演算子
＋＋ インクリメント、すなわち、ｘ＋＋は、ｘ＝ｘ＋１と等価であり、アレイインデックスで使用される場合には、インクリメント演算の前の変数の値として評価する。
－－ デクリメント、すなわち、ｘ－－は、ｘ＝ｘ－１と等価であり、アレイインデックスで使用される場合には、デクリメント演算の前の変数の値として評価する。
＋＝ 指定された量によるインクリメント、すなわち、ｘ＋＝３は、ｘ＝ｘ＋３と等価であり、ｘ＋＝（－３）は、ｘ＝ｘ＋（－３）と等価である。
－＝ 指定された量によるデクリメント、すなわち、ｘ－＝３は、ｘ＝ｘ－３と等価であり、ｘ－＝（－３）は、ｘ＝ｘ－（－３）と等価である。
以下の算術演算子が、次のように定義される：
＝ 代入演算子
＋＋ インクリメント、すなわち、ｘ＋＋は、ｘ＝ｘ＋１と等価であり、アレイインデックスで使用される場合には、インクリメント演算の前の変数の値として評価する。
－－ デクリメント、すなわち、ｘ－－は、ｘ＝ｘ－１と等価であり、アレイインデックスで使用される場合には、デクリメント演算の前の変数の値として評価する。
＋＝ 指定された量によるインクリメント、すなわち、ｘ＋＝３は、ｘ＝ｘ＋３と等価であり、ｘ＋＝（－３）は、ｘ＝ｘ＋（－３）と等価である。
－＝ 指定された量によるデクリメント、すなわち、ｘ－＝３は、ｘ＝ｘ－３と等価であり、ｘ－＝（－３）は、ｘ＝ｘ－（－３）と等価である。
【0294】
範囲表記
以下の表記は、値の範囲を指定するために使用される：
ｘ＝ｙ．．ｚ ｘ、ｙ及びｚは整数であり、ｚはｙよりも大きいとして、ｘは、ｙ以上ｚ以下の整数値を呈する。
以下の表記は、値の範囲を指定するために使用される：
ｘ＝ｙ．．ｚ ｘ、ｙ及びｚは整数であり、ｚはｙよりも大きいとして、ｘは、ｙ以上ｚ以下の整数値を呈する。
【0295】
数学関数
以下の数学関数が定義される：
Ａｓｉｎ（ｘ） －１．０以上１．０以下の範囲内にある引数ｘに作用して、出力値がラジアン単位で－π÷２以上π÷２以下の範囲内にある三角関数の逆正弦関数
Ａｔａｎ（ｘ） 引数ｘに作用して、出力値がラジアン単位で－π÷２以上π÷２以下の範囲内にある三角関数の逆正接関数
Ｃｅｉｌ（ｘ） ｘ以上の最小の整数
Ｃｌｉｐ１Ｙ（ｘ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＹ）－１，ｘ）
Ｃｌｉｐ１Ｃ（ｘ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＣ）－１，ｘ）
Ｃｏｓ（ｘ） ラジアン単位で引数ｘに作用する三角関数の余弦関数
Ｆｌｏｏｒ（ｘ） ｘ以下の最大の整数
Ｌｎ（ｘ） ｘの自然対数（底ｅの対数、ここで、ｅは、自然対数の底定数２．７１８２８１８２８・・・である）。
Ｌｏｇ２（ｘ） ｘの底２の対数
Ｌｏｇ１０（ｘ） ｘの底１０の対数
Ｓｉｎ（ｘ） ラジアン単位で引数ｘに作用する三角関数の正弦関数
Ｓｑｒｔ（ｘ）＝√ｘ
Ｓｗａｐ（ｘ，ｙ）＝（ｙ，ｘ）
Ｔａｎ（ｘ） ラジアン単位で引数ｘに作用する三角関数の正接関数。
以下の数学関数が定義される：
【数10】
Ａｔａｎ（ｘ） 引数ｘに作用して、出力値がラジアン単位で－π÷２以上π÷２以下の範囲内にある三角関数の逆正接関数
【数11】
Ｃｌｉｐ１Ｙ（ｘ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＹ）－１，ｘ）
Ｃｌｉｐ１Ｃ（ｘ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈＣ）－１，ｘ）
【数12】
Ｆｌｏｏｒ（ｘ） ｘ以下の最大の整数
【数13】
Ｌｏｇ２（ｘ） ｘの底２の対数
Ｌｏｇ１０（ｘ） ｘの底１０の対数
【数14】
Ｓｑｒｔ（ｘ）＝√ｘ
Ｓｗａｐ（ｘ，ｙ）＝（ｙ，ｘ）
Ｔａｎ（ｘ） ラジアン単位で引数ｘに作用する三角関数の正接関数。
【0296】
演算の優先順位
式中の優先順位がパラメータの使用によって明示的に示されていない場合に、以下の規則が適用される：
・優先度のより高い演算は、優先度のより低い演算の前に評価される。
・同じ優先度の演算は、左から右に順番に評価される。
式中の優先順位がパラメータの使用によって明示的に示されていない場合に、以下の規則が適用される：
・優先度のより高い演算は、優先度のより低い演算の前に評価される。
・同じ優先度の演算は、左から右に順番に評価される。
【0297】
以下の表は、最高から最低までの演算の優先度を定め、表中のより高い位置は、より高い優先度を示す。
【0298】
Ｃプログラミング言語でも使用される演算については、本明細書で使用されている優先順位は、Ｃプログラミング言語で使用されているものと同じである。
【表14】
【0299】
論理演算のテキスト記述
テキスト中で、次の形式で数学的に記述されることになる論理演算のステートメント：
ｉｆ（条件０）
ステートメント０
ｅｌｓｅ ｉｆ（条件１）
ステートメント１
・・・
ｅｌｓｅ／＊残りの条件に関する説明的所見＊／
ステートメントｎ
は、次の様態で記述されてもよい：
・・・次のように／・・・次が適用される：
－ 条件０の場合に、ステートメント０
－ そうではなく、条件１の場合に、ステートメント１
－ ・・・
－ 上記以外の場合に（残りの条件に関する説明的所見）、ステートメントｎ
テキスト中で、次の形式で数学的に記述されることになる論理演算のステートメント：
ｉｆ（条件０）
ステートメント０
ｅｌｓｅ ｉｆ（条件１）
ステートメント１
・・・
ｅｌｓｅ／＊残りの条件に関する説明的所見＊／
ステートメントｎ
は、次の様態で記述されてもよい：
・・・次のように／・・・次が適用される：
－ 条件０の場合に、ステートメント０
－ そうではなく、条件１の場合に、ステートメント１
－ ・・・
－ 上記以外の場合に（残りの条件に関する説明的所見）、ステートメントｎ
【0300】
テキスト中の夫々の「・・・の場合に、・・・そうではなく、・・・の場合に、・・・上記外の場合に、・・・」のステートメントは、「・・・の場合に」が直ぐ後に続く「・・・次のように」又は「・・・次が適用される」により導入される。「・・・の場合に、・・・そうではなく、・・・の場合に、・・・上記以外の場合に、・・・」の最後の条件は常に「上記以外の場合に、・・・」である。交互配置された「・・・の場合に、・・・そうではなく、・・・の場合に、・・・上記外の場合に、・・・」のステートメントは、「・・・次のように」又は「・・・次が適用される」を終わりの「上記以外の場合に、・・・」と適合させることによって識別され得る。
【0301】
テキスト中で、次の形式で数学的に記述されることになる論理演算のステートメント：
ｉｆ（条件０ａ＆＆条件０ｂ）
ステートメント０
ｅｌｓｅ ｉｆ（条件１ａ｜｜条件１ｂ）
ステートメント１
・・・
ｅｌｓｅ
ステートメントｎ
は、次の様態で記述されてもよい：
・・・次のように／・・・次が適用される：
－ 次の全ての条件が真である場合に、ステートメント０：
－ 条件０ａ
－ 条件０ｂ
－ そうではない場合に、次の条件の１つ以上が真である場合に、ステートメント１：
－ 条件１ａ
－ 条件１ｂ
－ ・・・
－ 上記以外の場合に、ステートメントｎ
ｉｆ（条件０ａ＆＆条件０ｂ）
ステートメント０
ｅｌｓｅ ｉｆ（条件１ａ｜｜条件１ｂ）
ステートメント１
・・・
ｅｌｓｅ
ステートメントｎ
は、次の様態で記述されてもよい：
・・・次のように／・・・次が適用される：
－ 次の全ての条件が真である場合に、ステートメント０：
－ 条件０ａ
－ 条件０ｂ
－ そうではない場合に、次の条件の１つ以上が真である場合に、ステートメント１：
－ 条件１ａ
－ 条件１ｂ
－ ・・・
－ 上記以外の場合に、ステートメントｎ
【0302】
テキスト中で、次の形式で数学的に記述されることになる論理演算のステートメント：
ｉｆ（条件０）
ステートメント０
ｉｆ（条件１）
ステートメント１
は、次の様態で記述されてもよい：
条件０の場合に、ステートメント０
条件１の場合に、ステートメント１
ｉｆ（条件０）
ステートメント０
ｉｆ（条件１）
ステートメント１
は、次の様態で記述されてもよい：
条件０の場合に、ステートメント０
条件１の場合に、ステートメント１
【0303】
本願の実施形態は、ビデオコーディングに基づき主として記載されてきたが、コーディングシステム１０、エンコーダ２０及びデコーダ３０（並びに、相応して、システム１０）の実施形態と、ここで記載される他の実施形態とは、静止画処理又はコーディング、つまり、ビデオコーディングで見られるような如何なる先行又は連続ピクチャからも独立した個々のピクチャの処理又はコーディング、のためにも構成されてよい、ことが留意されるべきである。一般に、ピクチャ処理コーディングが単一ピクチャ１７に制限される場合には、インター予測ユニット２４４（エンコーダ）及び３４４（デコーダ）のみが利用可能でない場合がある。ビデオエンコーダ２０及びビデオデコーダ３０の他の全ての機能（ツール又は技術とも呼ばれる）、例えば、残差計算２０４／３０４、変換２０６、量子化２０８、逆量子化２１０／３１０、（逆）変換２１２／３１２、パーティショニング２６２／３６２、イントラ予測２５４／３５４、及び／又はループフィルタリング２２０、３２０、並びにエントロピコーディング２７０及びエントロピ復号化３０４は、静止画処理のために同様に使用され得る。
【0304】
例えば、エンコーダ２０及びデコーダ３０の実施形態と、例えば、エンコーダ２０及びデコーダ３０を参照して本願で記載される機能とは、ハードウェア、ソフトウェア、ファームウェア、又はそれらの任意の組み合わせにおいて実装されてよい。ソフトウェアで実装される場合に、機能は、１つ以上の命令又はコードとして、コンピュータ可読媒体上で記憶されるか、又は通信媒体上で伝送され、そして、ハードウェアベースの処理ユニットによって実行されてよい。コンピュータ可読媒体は、データ記憶媒体などの有形な媒体に対応するコンピュータ可読記憶媒体、又は例えば、通信プロトコルに従って、１つの場所から他へのコンピュータプログラムの転送を助ける何らかの媒体を含む通信媒体を含んでよい。このように、コンピュータ可読媒体は、一般に、（１）非一時的である有形なコンピュータ可読記憶媒体、又は（２）信号若しくは搬送波などの通信媒体、に対応してよい。データ記憶媒体は、本開示で記載されている技術の実装のための命令、コード及び／又はデータ構造を読み出すよう１つ以上のコンピュータ又は１つ以上のプロセッサによってアクセスされ得る如何なる利用可能な媒体であってもよい。コンピュータプログラム製品は、コンピュータ可読媒体を含んでよい。
【0305】
例として、限定としてではなく、そのようなコンピュータ可読記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、ＣＤ－ＲＯＭ若しくは他の光ディスクストレージ、磁気ディスクストレージ若しくは他の磁気記憶デバイス、フラッシュメモリ、又は命令若しくはデータ構造の形で所望のプログラムコードを記憶するために使用可能であって、コンピュータによってアクセスされ得るあらゆる他の媒体を有することができる。また、如何なる接続も、コンピュータ可読媒体と適切に称される。例えば、命令が同軸ケーブル、光ファイバケーブル、ツイステッドペア、デジタル加入者回線（ＤＳＬ）、又は赤外線、電波、及びマイクロ波などの無線技術を用いてウェブサイト、サーバ、又は他の遠隔ソースから伝送される場合に、同軸ケーブル、光ファイバケーブル、ツイステッドペア、ＤＳＬ、又は赤外線、電波、及びマイクロ波などの無線技術は、媒体の定義に含まれる。しかし、コンピュータ可読記憶媒体及びデータ記憶媒体は、接続、搬送波、信号、又は他の一時的な媒体を含まず、代わりに、非一時的な、有形な記憶媒体を対象とする、ことが理解されるべきである。ここで使用されるｄｉｓｋ及びｄｉｓｃは、コンパクト・ディスク（ＣＤ）、レーザー・ディスク、光ディスク、デジタル・バーサタイル・ディスク（ＤＶＤ）、フロッピー・ディスク、及びブルーレイディスクを含み、ｄｉｓｋは、通常は、磁気的にデータを再生し、一方、ｄｉｓｃは、レーザーで光学的にデータを再生する。上記のものの組み合わせも、コンピュータ可読媒体の範囲内に含まれるべきである。
【0306】
命令は、１つ以上のデジタル信号プロセッサ（ＤＳＰ）、汎用マイクロプロセッサ、特定用途向け集積回路（ＡＳＩＣ）、フィールド・プログラマブル・ロジック・アレイ（ＦＰＧＡ）、又は他の同等の集積若しくはディスクリート論理回路などの１つ以上のプロセッサによって実行されてよい。従って、ここで使用される「プロセッサ」という用語は、上記の構造のいずれか、又はここで記載されている技術の実装に適したあらゆる他の構造を指し得る。更には、いくつかの態様において、ここで記載されている機能性は、符号化及び復号化のために構成された専用のハードウェア及び／又はソフトウェアモジュール内に設けられても、あるいは、複合型コーデックに組み込まれてもよい。また、技術は、１つ以上の回路又は論理要素において完全に実装されてもよい。
【0307】
本開示の技術は、無線ハンドセット、集積回路（ＩＣ）又はＩＣの組（例えば、チップセット）を含む多種多様なデバイス又は装置において実装されてよい。様々なコンポーネント、モジュール、又はユニットが、開示されている技術を実行するよう構成されたデバイスの機能的態様を強調するよう本開示で説明されているが、異なるハードウェアユニットによる実現を必ずしも必要としない。むしろ、上述されたように、様々なユニットがコーデックハードウェアユニットにまとめられても、あるいは、適切なソフトウェア及び／又はファームウェアとともに、上述されたような１つ以上のプロセッサを含む相互運用ハードウェアユニットの集合によって提供されてもよい。
【0308】
［関連出願への相互参照］
本特許出願は、２０１９年１２月３０日付けで出願された米国特許仮出願第６２／９５５，４０５号、及び２０２０年１月７日付けで出願された米国特許仮出願第６２／９５８，２９３号に対する優先権を主張するものであり、これらの各出願は、その全文を参照により本願に援用される。
本特許出願は、２０１９年１２月３０日付けで出願された米国特許仮出願第６２／９５５，４０５号、及び２０２０年１月７日付けで出願された米国特許仮出願第６２／９５８，２９３号に対する優先権を主張するものであり、これらの各出願は、その全文を参照により本願に援用される。
【図1A】
【図1B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10A】
【図10B】
【図11】
【図12A】
【図12B】
【図12C】
【図12D】
【図13】
【図14】
【図15】
【図16】
【図17】