特表 2024-506002 フィルタリングのための方法、装置及びデバイス

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2024-02-08

(54)【発明の名称】フィルタリングのための方法、装置及びデバイス

(51)【国際特許分類】

   H04N 19/117 20140101AFI20240201BHJP

   H04N 19/167 20140101ALI20240201BHJP

   H04N 19/176 20140101ALI20240201BHJP

   H04N 19/70 20140101ALI20240201BHJP

   H04N 19/80 20140101ALI20240201BHJP

   H04N 19/85 20140101ALI20240201BHJP

【ＦＩ】

H04N19/117

H04N19/167

H04N19/176

H04N19/70

H04N19/80

H04N19/85

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2023547310

(86)(22)【出願日】2022-03-02

(85)【翻訳文提出日】2023-08-03

(86)【国際出願番号】 CN2022078876

(87)【国際公開番号】W WO2022184109

(87)【国際公開日】2022-09-09

(31)【優先権主張番号】202110247471.2

(32)【優先日】2021-03-05

(33)【優先権主張国・地域又は機関】CN

(81)【指定国・地域】

(71)【出願人】

【識別番号】508219313

【氏名又は名称】杭州海康威視数字技術股▲フン▼有限公司

(74)【代理人】

【識別番号】100110364

【弁理士】

【氏名又は名称】実広 信哉

(74)【代理人】

【識別番号】100133400

【弁理士】

【氏名又は名称】阿部 達彦

(72)【発明者】

【氏名】潘 冬萍

(72)【発明者】

【氏名】▲孫▼ ▲ユ▼程

(72)【発明者】

【氏名】▲陳▼ 方▲棟▼

(72)【発明者】

【氏名】王 莉

【テーマコード（参考）】

5C159

【Ｆターム（参考）】

5C159LA00

5C159MA04

5C159MA05

5C159PP16

5C159RC12

5C159TA69

5C159TB08

5C159TC33

5C159TC42

5C159UA02

5C159UA05

5C159UA16

(57)【要約】

本発明はフィルタリング方法、装置及びデバイスを提供する。一例によれば、当該フィルタリング方法は、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップと、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うステップと、を含む。ここで、前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである。

【特許請求の範囲】

【請求項1】

符号化デバイス又は復号デバイスに適用されるフィルタリング方法であって、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップと、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うステップと、を含み、
前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである、
ことを特徴とするフィルタリング方法。

【請求項2】

現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、
当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行う、
ことを特徴とする請求項１に記載の方法。

【請求項3】

当該参照画素の画素値が取得できない場合は、
当該参照画素が現在の画像フレームの画像境界外に位置することと、
当該参照画素が現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの上境界外に位置することと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの下境界外に位置することと、の１つを含む、
ことを特徴とする請求項２に記載の方法。

【請求項4】

現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うことをさらに含む、
ことを特徴とする請求項２又は３に記載の方法。

【請求項5】

前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップは、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定するステップと、
前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、
前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定するステップと、を含む、
ことを特徴とする請求項１に記載の方法。

【請求項6】

前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットはＥａｌｆＥｎａｂｌｅＦｌａｇであり、
前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は前記復号デバイスから導出され、又は前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得し、又は前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値である、
ことを特徴とする請求項５に記載の方法。

【請求項7】

前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得することは、
前記ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグの値に基づいて、前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定することを含み、
前記拡張適応的補正フィルタリング許可フラグはシーケンスレベルパラメータである、
ことを特徴とする請求項６に記載の方法。

【請求項8】

符号化デバイス又は復号デバイスに適用されるフィルタリング装置であって、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するためのフィルタリングユニットを含み、
前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられ、
前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである、
ことを特徴とするフィルタリング装置。

【請求項9】

前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、
当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うために用いられる、
ことを特徴とする請求項８に記載の装置。

【請求項10】

当該参照画素の画素値が取得できない場合は、
当該参照画素が現在の画像フレームの画像境界外に位置することと、
当該参照画素が現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの上境界外に位置することと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの下境界外に位置することと、の１つを含む、
ことを特徴とする請求項９に記載の装置。

【請求項11】

前記フィルタリングユニットはさらに、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うために用いられる、
ことを特徴とする請求項９又は１０に記載の装置。

【請求項12】

前記フィルタリングユニットが前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定し、
前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、
前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することを含む、
ことを特徴とする請求項８に記載の装置。

【請求項13】

前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットはＥａｌｆＥｎａｂｌｅＦｌａｇであり、
前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は前記復号デバイスから導出され、又は前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得し、又は前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値である、
ことを特徴とする請求項１２に記載の装置。

【請求項14】

前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得することは、
前記ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグの値に基づいて、前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定することを含み、
前記拡張適応的補正フィルタリング許可フラグはシーケンスレベルパラメータである、
ことを特徴とする請求項１３に記載の装置。

【請求項15】

プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、請求項１～７のいずれか一項に記載のフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる、
ことを特徴とする復号デバイス。

【請求項16】

プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、請求項１～７のいずれか一項に記載のフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる、
ことを特徴とする符号化デバイス。

【請求項17】

機械実行可能命令が記憶されている不揮発性記憶媒体であって、前記機械実行可能命令は、プロセッサによって実行されると、前記プロセッサに請求項１～７のいずれか一項に記載のフィルタリング方法を実施させる、
不揮発性記憶媒体。

【請求項18】

請求項８～１４のいずれか一項に記載のフィルタリング装置を含むカメラデバイス。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、ビデオ符号化／復号技術に関し、特にフィルタリングのための方法、装置及びデバイスに関する。

【背景技術】

【0002】

完全なビデオ符号化は、一般に、予測、変換、量子化、エントロピー符号化、フィルタリングなどの操作を含む。ブロックベースの動き補償の後に量子化操作があり、それによって符号化ノイズが発生し、ビデオ品質の歪みを引き起こす。一般に、ループ後処理技術は、このような歪みの影響を低減するために用いられ得る。しかしながら、実践により、従来のループ後処理技術のフィルタリング性能が悪いことが分かる。

【発明の概要】

【課題を解決するための手段】

【0003】

これに鑑みて、本発明はフィルタリング方法、装置及びデバイスを提供する。具体的には、本発明は以下の技術案によって実現される。

【0004】

本発明の実施例の第１の態様によれば、符号化／復号デバイスに適用されるフィルタリング方法を提供し、前記方法は、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップと、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うステップと、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うステップと、を含む。ここで、前記第１のフィルタは７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタは７＊７十字形＋３＊３正方形の中心対称フィルタである。

【0005】

第１の態様と併せて、第１の可能な実現形態において、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定するステップと、前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定するステップと、を含む。ここで、前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットはＥａｌｆＥｎａｂｌｅＦｌａｇであってもよく、前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は前記復号デバイスから導出されてもよく、又は前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得してもよく、又は前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値であってもよい。前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得することは、前記ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグの値に基づいて前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定することを含み得、前記拡張適応的補正フィルタリング許可フラグはシーケンスレベルパラメータであってもよい。

【0006】

第１の態様と併せて、第２の可能な実現形態において、前記方法はさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うことを含む。

【0007】

第１の態様の第２の可能な実現形態と併せて、第３の可能な実現形態において、当該参照画素の画素値が取得できない場合は、当該参照画素が、現在の画像フレームの画像境界外に位置することと、現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、前記現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含む。

【0008】

第１の態様の第２の可能な実現形態又は第１の態様の第３の可能な実現形態と併せて、第４の可能な実現形態において、前記方法はさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うことを含む。

【0009】

本発明の実施例の第２の態様によれば、符号化／復号デバイスに適用されるフィルタリング装置を提供し、前記装置は、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するためのフィルタリングユニットを含み、前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられる。ここで、前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである。

【0010】

第２の態様と併せて、第１の可能な実現形態では、前記フィルタリングユニットが前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定し、前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することを含む。ここで、前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットはＥａｌｆＥｎａｂｌｅＦｌａｇであってもよく、前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は前記復号デバイスから導出されてもよく、又は前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得してもよく、又は前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値であってもよい。前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得することは、前記ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグの値に基づいて前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定することを含み得、前記拡張適応的補正フィルタリング許可フラグはシーケンスレベルパラメータであってもよい。

【0011】

第２の態様と併せて、第２の可能な実現形態では、前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うために用いられる。

【0012】

第２の態様の第２の可能な実現形態と併せて、第３の可能な実現形態では、当該参照画素の画素値が取得できない場合は、当該参照画素が現在の画像フレームの画像境界外に位置することと、現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、前記現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含む。

【0013】

第２の態様の第２の可能な実現形態又は第２の態様の第３の可能な実現形態と併せて、第４の可能な実現形態では、前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うために用いられる。

【0014】

本発明の実施例の第３の態様によれば、復号デバイスを提供し、プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、上記第１の態様により提供されるフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる。

【0015】

本発明の実施例の第４の態様によれば、符号化デバイスを提供し、プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、上記第１の態様により提供されるフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる。

【0016】

本発明の実施例のフィルタリングの方法は、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定し、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うことにより、フィルタ選択の柔軟性を向上させ、フィルタリング効果を最適化し、符号化／復号性能を向上させた。

【図面の簡単な説明】

【0017】

【図1A】ビデオ符号化／復号を示すフローチャートである。

【図1B】ビデオ符号化／復号を示すフローチャートである。

【図2】領域分割を示す概略図である。

【図3】領域統合を示す概略図である。

【図4A】７＊７十字形＋５＊５正方形の中心対称フィルタ形状を示す概略図である。

【図4B】図４Ａに示されるフィルタに対応する参照画素を示す概略図である。

【図4C】現在の適応的補正フィルタリングユニットに対してフィルタリングを行う参照画素位置を示す概略図である。

【図5】本発明の例示的な実施例に係るサンプルフィルタリング補償ユニットを示す概略図である。

【図6A】本発明の例示的な実施例に係るフィルタリング方法のフローチャートである。

【図6B】本発明の例示的な実施例に係るフィルタリング方法のフローチャートである。

【図7】本発明の例示的な実施例に係るフィルタリング方法のフローチャートである。

【図8】本発明の例示的な実施例に係るフィルタリング方法のフローチャートである。

【図9】７＊７十字形＋３＊３正方形の中心対称フィルタ形状を示す概略図である。

【図10】本発明の例示的な実施例に係る統合領域を示す概略図である。

【図11A】本発明の例示的な実施例に係る複数の異なるフィルタ形状を示す概略図である。

【図11B】本発明の例示的な実施例に係る複数の異なるフィルタ形状を示す概略図である。

【図11C】本発明の例示的な実施例に係る複数の異なるフィルタ形状を示す概略図である。

【図11D】本発明の例示的な実施例に係る複数の異なるフィルタ形状を示す概略図である。

【図12】本発明の例示的な実施例に係る３＊３画素ブロックを示す概略図である。

【図13】本発明の例示的な実施例に係るフィルタリング係数が非対称なフィルタを示す概略図である。

【図14A】本発明の例示的な実施例に係る参照画素位置を示す概略図である。

【図14B】本発明の例示的な実施例に係るもう１つの参照画素位置を示す概略図である。

【図15A】本発明の例示的な実施例に係る固定領域分割方法によって得られた複数の領域に対する二次分割を示す概略図である。

【図15B】本発明の例示的な実施例に係る固定領域分割方法によって得られた複数の領域に対する二次分割を示す概略図である。

【図15C】本発明の例示的な実施例に係る図１５Ａにおける各二次分割方法に対応する領域番号を示す概略図である。

【図16】本発明の例示的な実施例に係るフィルタリング装置の構造を示す概略図である。

【図17】本発明の例示的な実施例に係るフィルタリング装置の構造を示す概略図である。

【図18】本発明の例示的な実施例に係る復号デバイスのハードウェア構造を示す概略図である。

【図19】本発明の例示的な実施例に係る符号化デバイスのハードウェア構造を示す概略図である。

【発明を実施するための形態】

【0018】

例示的な実施例をここで詳細に説明し、その例を添付の図面に示す。以下の説明が図面に言及する場合、特に明記しない限り、異なる図面の同じ番号は、同じ又は類似の要素を示す。以下の例示的な実施例に記載の実施形態は、本発明と一致する全ての実施形態を表すわけではない。逆に、それらは、添付の特許請求の範囲に詳述されているような、本発明のいくつかの態様と一致する装置及び方法の単なる例である。

【0019】

本発明で使用される用語は、特定の実施例を説明する目的のためだけであり、本発明を限定することを意図していない。本発明及び添付の特許請求の範囲で使用される単数形「一種」、「前記」及び「当該」は、文脈が明らかに他の意味を示さない限り、複数形も含むことを意図している。

【0020】

以下ではまず、本発明の実施例に係る技術用語と、既存のビデオ符号化／復号の主なフローと、ＡＬＦフィルタリング技術の実現について簡単に説明する。
一、技術用語

【0021】

１、レート歪み最適化（Ｒａｔｅ－Ｄｉｓｔｏｒｔｉｏｎ Ｏｐｔｉｍｉｚｅｄ、ＲＤＯと略称する）原則：符号化効率を評価する指標は、ビットレートとピーク信号対雑音比（Ｐｅａｋ Ｓｉｇｎａｌ ｔｏ Ｎｏｉｓｅ Ｒａｔｉｏ、ＰＳＮＲと略称する）とを含む。ビットレートが小さいほど、圧縮率が大きくなり、ＰＳＮＲが大きいほど、再構成画質がよくなる。モード選択の際には、判別式は実質的に両者の総合評価となる。

【0022】

モードに対応するコスト：Ｊ（ｍｏｄｅ）＝Ｄ＋λ＊Ｒ。ここで、Ｄは歪み（Ｄｉｓｔｏｒｔｉｏｎ）を表し、一般的にＳＳＥ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｅｒｒｏｒｓ、残差平方和）指標を用いて測定され、ＳＳＥは再構成ブロックとソース画像ブロックとの残差平方和を指し、λはラグランジュ乗数であり、Ｒは当該モードで画像ブロックの符号化に必要な実際のビット数であり、符号化モード情報、動き情報、残差などに必要なビットの合計を含む。モードを選択する時、ＲＤＯ原則を用いて符号化モードを比較決定すると、一般的に、符号化性能が最適であることを保証することができる。

【0023】

２、符号化ツリー（Ｃｏｄｉｎｇ Ｔｒｅｅ Ｕｎｉｔ、ＣＴＵと略称する）：従来のビデオ符号化はいずれもマクロブロックに基づいて実現され、４：２：０サンプリングフォーマットのビデオに対し、１つのマクロブロックは１つの１６×１６サイズの輝度ブロック及び２つの８×８サイズの色度ブロックを含む。高精細ビデオ／超精細ビデオの自体特性を考慮し、汎用ビデオ符号化（Ｖｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ、ＶＶＣと略称する）にＣＴＵを導入し、そのサイズはエンコーダに指定され、マクロブロックサイズより大きいことが許可される。同一位置の１つの輝度符号化ツリーブロック（Ｃｏｄｉｎｇ Ｔｒｅｅ Ｂｌｏｃｋ、ＣＴＢと略称する）と２つの色度ＣＴＢとは、対応するシンタックス要素と共に、１つのＣＴＵを構成する。ＶＶＣでは、１つのＬ×Ｌサイズの輝度ＣＴＢについて、Ｌ∈｛８，１６，３２，６４，１２８｝である。

【0024】

輝度ＣＴＢの大きさは、｛８×８，１６×１６，３２×３２，６４×６４，１２８×１２８｝の範囲内で値をとる。

【0025】

色度ＣＴＢの大きさは、｛４×４，８×８，１６×１６，３２×３２，６４×６４｝の範囲内で値をとる。

【0026】

高解像度ビデオ符号化プロセスでは、より大きなＣＴＢを用いると、より高い圧縮効果が得られる。

【0027】

３、デブロッキングフィルタリング（Ｄｅｂｌｏｃｋｉｎｇ Ｆｉｌｔｅｒ、ＤＢＦと略称する）：画像符号化プロセスは異なるブロックに基づいて行われ、各ブロック内に相対的に独立した符号化が行われる。ブロック毎に異なるパラメータを用いるため、ブロック内の分布特性が互いに独立し、ブロックのエッジで不連続になり、これがブロック効果と呼ばれ得る。デブロッキングフィルタリングでは、主にブロック効果を除去するためにブロックの境界を平滑化する。

【0028】

４、サンプル適応補償（Ｓａｍｐｌｅ Ａｄａｐｔｉｖｅ Ｏｆｆｓｅｔ、ＳＡＯと略称する）：画素領域から着手し、再構成画像の特徴に基づいて、それを種別に分け、続いて画素領域で補償処理を行う。主にリンギングを低減するためである。

【0029】

５、適応的補正フィルタリング（Ａｄａｐｔｉｖｅ Ｌｅｖｅｌｉｎｇ Ｆｉｌｔｅｒ、ＡＬＦと略称する）：ＤＢＦ及びＳＡＯの後に適用され、主に客観的条件の下で、画質をさらに改善するためである。ＡＬＦ技術では、参照画素の特徴に応じて最小２乗法に基づく重回帰モデルを構築し、画素領域に対してフィルタリング補正を行う。

【0030】

例示的に、ループ後処理技術は、ＤＢＦ、ＳＡＯ及びＡＬＦを含み得る。

【0031】

６、ウィーナーフィルタリング（ｗｉｅｎｅｒ ｆｉｌｔｅｒｉｎｇ）：本質的には、推定誤差（所望の応答とフィルタの実際の出力との差として定義される）の２乗平均を最小化することである。
二、ビデオ符号化／復号の主なフロー

【0032】

図１Ａを参照すると、ビデオ符号化を例として、ビデオ符号化は、一般に、予測、変換、量子化、エントロピー符号化などのプロセスを含む。さらに、符号化プロセスは、図１Ｂのフレームに従って実現され得る。

【0033】

ここで、予測は、イントラ予測とインター予測とに分けられる。イントラ予測は、周辺の符号化済みブロックを参照として現在の未符号化ブロックを予測し、空間領域での冗長性を効果的に除去することである。インター予測は、隣接符号化済み画像を用いて現在の画像を予測し、時間領域での冗長性を効果的に除去することである。

【0034】

変換とは、画像を空間領域から変換領域に変換し、変換係数を用いて画像を表現することである。多くの画像は、多くの平坦領域とゆっくりと変化する領域を含み、適切な変換は、画像を空間領域における分散分布から変換領域における相対的に集中した分布に変換することができる。言い換えれば、変換により、信号間の周波数領域の相関を除去することができ、量子化プロセスと協働することでビットストリームを効果的に圧縮することができる。

【0035】

エントロピー符号化は、一連の要素記号を伝送又は記憶のためにバイナリビットストリームに変換する無損失符号化方式であり、入力された記号は、量子化後の変換係数、動きベクトル情報、予測モード情報、変換・量子化関連シンタックスなどを含み得る。エントロピー符号化は、ビデオ要素記号の冗長性を効果的に除去することができる。

【0036】

ビデオ復号は、ビデオ符号化のプロセスとは対照的であり、即ち、ビデオ復号は、一般に、エントロピー復号、予測、逆量子化、逆変換、フィルタリングなどのプロセスを含み、ビデオ復号における各プロセスの実現原理は、ビデオ符号化におけるプロセスと同じ又は類似している。
三、ＡＬＦフィルタリング技術の実現

【0037】

オーディオビデオ符号化規格（Ａｕｄｉｏ Ｖｉｄｅｏ ｃｏｄｉｎｇ Ｓｔａｎｄａｒｄ、ＡＶＳと略称する）のフレームの中で用いられるＡＬＦ技術では、ウィーナーフィルタリングの原理に従って、二乗平均の意味で生信号及び歪み信号が達成可能な最適な線形フィルタリングを計算する。

【0038】

ＡＬＦ符号化フローは、領域分割、参照画素取得、領域統合、フィルタリング係数計算、各ＬＣＵがフィルタリングを開始するか否かの意思決定を含み得る。プロセス全体において、計算して取得する必要があるパラメータには、１）フィルタリングパラメータの数、２）領域統合識別子、３）各グループのフィルタリング係数、４）ＬＣＵがフィルタリングを開始するか否かの識別子、５）現在の成分（Ｙ，Ｕ，Ｖ）がフィルタリングを開始するか否かの識別子がある。

【0039】

以下、ＡＬＦフィルタリングの処理及び概念の一部について詳細に説明する。
１、領域分割

【0040】

ＡＬＦフローでは、取得した再構築ビデオデータについて、輝度成分のデータに対して領域分割処理を行い、色差成分のデータに対して非領域分割処理を行う。

【0041】

例示的に、領域分割の具体的な実現プロセスは、画像を、ほぼ同じ大きさである、ＬＣＵに基づいて整列された１６個の領域に分割することであってもよい。非最右領域の幅は（（（ｐｉｃ＿ｗｉｄｔｈ＿ＩｎＬｃｕｓ＋１）／４）×Ｌｃｕ＿Ｗｉｄｔｈ）であり、ここで、ｐｉｃ＿ｗｉｄｔｈ＿ＩｎＬｃｕｓは画像の幅におけるＬＣＵの個数を表し、Ｌｃｕ＿Ｗｉｄｔｈは各ＬＣＵの幅を示す。最右領域の幅は、画像の幅と非最右の３つの領域の幅との差分（画像の幅から非最右の３つの領域の幅の合計を引く）である。

【0042】

同様に、非底部領域の高さは（（（ｐｉｃ＿ｈｅｉｇｈｔ＿ＩｎＬｃｕｓ＋１）／４）×Ｌｃｕ＿Ｈｅｉｇｈｔ）であり、ここで、ｐｉｃ＿ｈｅｉｇｈｔ＿ＩｎＬｃｕｓが画像の高さにおけるＬＣＵの数を表し、Ｌｃｕ＿Ｈｅｉｇｈｔが各ＬＣＵの高さを示す。最底部領域の高さは、画像の高さと非底部の３つの領域の高さとの差分（画像の高さから非底部の３つの領域の高さの合計を引く）である。

【0043】

画像全体の領域分割結果を得た後、各領域に１つのインデックス値を割り当てる例を図２に示す。
２、領域統合

【0044】

領域統合とは、インデックス値の順に基づいて隣接領域を統合するか否かを判断することを指す。統合の目的は、符号化係数を減らすことである。現在領域が隣接領域と統合するか否かを示すための統合識別子を用いる必要がある。

【0045】

例えば、上記のように領域分割を行った後、合計１６個の領域（１６クラス又は１６グループ（ｇｒｏｕｐｓ）と呼ばれてもよく、インデックス値は順に０～１５である）を含み、１回目の統合に際しては、領域０と領域１、領域１と領域２、領域２と領域３、…、領域１３と領域１４、領域１４と領域１５、の順に統合を試み、誤差が最小となる統合方式で１回目の領域統合を行うことで、１６個の領域が１５個の領域に統合される。

【0046】

１回目の統合後の１５個の領域（領域２と領域３が統合されたと仮定して領域２＋３が得られる）については、領域０と領域１、領域１と領域２＋３、領域２＋３と領域４、…、領域１３と領域１４、領域１４と領域１５、の順に統合を試み、誤差が最小となる統合方式で２回目の領域統合を行うことで、１５個の領域が１４個の領域に統合される。

【0047】

２回目の統合後の１４個の領域（領域１４と領域１５が統合されたと仮定して領域１４＋１５が得られ、即ち、統合領域は領域２＋３及び領域１４＋１５を含む）については、領域０と領域１、領域１と領域２＋３、領域２＋３と領域４、…、領域１２と領域１３、領域１３と領域１４＋１５、の順に統合を試み、誤差が最小となる統合方式で３回目の領域統合を行うことで、１４個の領域が１３個の領域に統合される。

【0048】

このように類推し、１つの領域に統合するまで続け、その概略図は図３に示すものであってもよい。

【0049】

上記の領域統合操作が完了した後、領域統合を行っていない場合（合計１６個の領域）、領域統合を１回行った場合（合計１５個の領域）、…、領域統合を１４回行った場合（合計２個の領域）、領域統合を１５回行った場合（合計１個の領域）の順に、フレーム画像全体に対してウィーナーフィルタリングを行う誤差を計算し、誤差が最小となる領域統合方式を最終的な領域統合方式として決定してもよい。
３、参照画素、フィルタリング係数

【0050】

上記方式に従って領域分割を行った後、各領域の各画素の参照画素を基に、ウィーナーフィルタリングの原理に従ってフィルタリング係数を計算してもよい。

【0051】

フィルタリングに係る全ての画素点については、各画素点をそれぞれ現在画素とし、当該画素点を中心とする一定範囲内で周辺画素点を参照画素とし、参照画素と現在画素を入力として、当該画素点の元の値を目標として最小二乗法によりフィルタリング係数を計算する。

【0052】

図４Ａに示すのは、フィルタ形状の概略図である。図４Ａに示すように、７＊７十字形＋５＊５正方形の中心対称フィルタ形状であり、当該フィルタに対応する参照画素は図４Ｂに示すとおりである。

【0053】

図４Ｂに示すように、中心対称フィルタＰ０とＰ２８のフィルタリング係数が同じであるため、符号化側でトレーニングを行うとき、（Ｐｉ＋Ｐ２８－ｉ，ｉ＝０，…，１３）を同一の特徴とし、Ｐ１４を１つの特徴としてそれぞれ取得して入力し、１５個のフィルタリング係数をトレーニングする。即ち、参照画素の選択は以下のとおりである。
Ｅ［ｉ］＝（Ｐｉ＋Ｐ２８－ｉ）
Ｅ［１４］＝Ｐ１４

【0054】

ここで、Ｐｉはフィルタリング前の再構成画像中の画素値に属し、Ｅ［ｉ］は参照画素の値であり、ｉ＝０，１，２，３，４，５，６，７，８，９，１０，１１，１２，１３である。

【0055】

ウィーナーフィルタリングの目標は、現在画素の周辺の参照画素値に対する線形結合により、線形結合の結果を元の画像の現在画素値に近づけることである。

【0056】

ＡＬＦ技術は、最大符号化ユニット（Ｌａｒｇｅｓｔ Ｃｏｄｉｎｇ Ｕｎｉｔ、ＬＣＵと略称する）に基づいて処理を行う。同一の統合後の領域に属するＬＣＵは、同一のグループのフィルタリング係数を用いてフィルタリングを行う。
４、適応的補正フィルタリングユニット

【0057】

図５に示すように、現在の最大符号化ユニットに基づいて以下のステップで適応的補正フィルタリングユニットを導出する。

【0058】

４．１、現在の最大符号化ユニットＣが位置するサンプル領域の画像境界を越える部分を削除し、サンプル領域Ｄを得る。

【0059】

４．２、サンプル領域Ｄの下境界が位置するサンプルが画像の下境界に属しない場合、輝度成分及び色度成分のサンプル領域Ｄの下境界を上向きに４行縮小してサンプル領域Ｅ１を得、それ以外の場合、サンプル領域Ｅ１をサンプル領域Ｄに等しくようにし、サンプル領域Ｄの最終行のサンプルは、領域Ｅ１の下境界である。

【0060】

４．３、サンプル領域Ｅ１の上境界が位置するサンプルが画像の上境界に属する場合、又はパッチ境界に属し、且つｃｒｏｓｓ＿ｐａｔｃｈ＿ｌｏｏｐｆｉｌｔｅｒ＿ｅｎａｂｌｅ＿ｆｌａｇの値が「０」である場合、サンプル領域Ｅ２をサンプル領域Ｅ１に等しくようにし、それ以外の場合、輝度成分及び色度成分のサンプル領域Ｅ１の上境界を上向きに４行拡張してサンプル領域Ｅ２を得、サンプル領域Ｅ１の１行目のサンプルは、領域Ｅ２の上境界である。

【0061】

４．４、サンプル領域Ｅ２を現在の適応的補正フィルタリングユニットとし、画像の１行目のサンプルは、画像の上境界であり、画像の最終行のサンプルは、画像の下境界である。
５、適応的補正フィルタリング操作

【0062】

現在の適応的フィルタリングユニットに対してフィルタリングを行うと決定した場合、適応的補正フィルタリングプロセスに用いられる参照画素は適応的補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行う。

【0063】

適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行い、そうではない場合、以下の方法に従ってフィルタリングを行う。

【0064】

５．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つｃｒｏｓｓ＿ｐａｔｃｈ＿ｌｏｏｐｆｉｌｔｅｒ＿ｅｎａｂｌｅ＿ｆｌａｇの値が「０」であり、即ち、パッチ境界を越えたフィルタリングが許可されない場合、当該サンプルの代わりに、適応的補正フィルタリングユニットにおける当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0065】

５．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、当該サンプルの代わりに、適応的補正フィルタリングユニットにおける当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0066】

５．３、当該サンプルが適応的補正フィルタリングユニットの上境界外に位置せず、適応的補正フィルタリングユニットの下境界外にも位置しない場合、当該サンプルを直接用いてフィルタリングを行う。
６、ＡＬＦを開始するか否かの意思決定

【0067】

符号化デバイスについては、領域統合して各領域のフィルタリング係数を求めた後、意思決定が必要となり、即ち、ＬＣＵを基本単位として、現在の画像におけるＬＣＵ毎にＡＬＦを用いるか否かを判断する。

【0068】

符号化デバイスは、現在のＬＣＵがＡＬＦを用いるか否かを決定するために、現在のＬＣＵのオン及びオフの前後のレート歪みコストを計算してもよい。現在のＬＣＵがＡＬＦを用いるとマーキングされている場合、ＬＣＵ内の各画素に対してウィーナーフィルタリングを行う。

【0069】

関連技術において、ＡＬＦ技術は、各領域に対して１グループの固定されたフィルタリング係数のみを伝達し、且つフィルタ形状は固定である。このため、固定的に分割された領域では、同じ特性の画素を同じクラスに分割することはできない、又は、用いるフィルタ形状が不適切である、などの問題が発生する可能性がある。また、分割された各領域は、最大で１グループのフィルタリング係数しか伝達できず、大きな領域やテクスチャが複雑な画像領域では１グループのフィルタリング係数は不十分である。

【0070】

ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、本発明の実施例は、以下の最適化手段を提出する。

【0071】

手段１、ＬＣＵを最小単位として、各フレームを複数の領域に適応的に分割し、各領域は、１つ以上のＬＣＵを含み得、従って、各ＬＣＵを分類し、同一領域のＬＣＵをＮ（Ｎは正の整数）個のクラスに分類することを提案する。例示的に、各領域内のＬＣＵがすべて同一クラスに分割された場合、従来のＡＬＦ手段の固定領域分割手段に対応する。従来のＡＬＦ手段の固定領域分割方式と区別するために、Ｎ≧２とする。

【0072】

手段２、各領域において複数グループのフィルタリング係数を伝達してもよく、各グループのフィルタ形状は同じであっても異なってもよい。

【0073】

手段３、各ＬＣＵに基づいて１グループのフィルタリング係数を適応的に選択し、同一領域のＬＣＵは隣接領域のフィルタリング係数を選択してもよい。

【0074】

手段４、各領域において１グループのフィルタリング係数しか伝達できないが、各領域のフィルタ形状が異なってもよい。

【0075】

手段５、対称フィルタを非対称フィルタに変更し、対称位置におけるフィルタリング係数が同じであることを、対称位置におけるフィルタリング係数が一定の比率関係、例えば０．５：１．５又は０．６：１．４などを満たすように最適化することを含む。

【0076】

手段６、フィルタリング時の境界のサンプル値に対して最適化を行う。

【0077】

本発明の実施例の上述の目的、特徴及び利点をより明確に分かりやすくするために、以下、添付の図面を合わせて本発明の実施例における技術案についてさらに詳細に説明する。

【0078】

以下、ＬＣＵのサイズで本発明の実施例により提供される手段を採用してＡＬＦフィルタリングを行うことを例とするが、本発明の実施例では、代わりに他のサイズ又は画像ブロックを表す方法を用いてもよく、例えばＮ＊Ｍサイズの画像ブロックであり、Ｎは画像フレームの幅以下の正の整数であり、Ｍは画像フレームの高さ以下の正の整数である。
（実施例１）

【0079】

本発明の実施例は、復号デバイスに適用されるフィルタリング方法を提供し、ここで、当該フィルタリング方法は以下のステップを含む。

【0080】

Ｔ６００において、現在の画像フレームの輝度成分に対して領域分割を行う。

【0081】

画像フレームの輝度成分に対する領域分割については、上記の「領域分割」に関する説明を参照されたい。

【0082】

Ｔ６１０において、ビットストリームから解析して得られたＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定する。

【0083】

ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、固定領域分割方式で画像フレームの輝度成分に対して領域分割を行って複数の領域を得るとき、各領域については、領域内の各画素の画素特性に基づいて、領域内のＬＣＵを少なくとも１つのクラスに分割し、即ち、１つの領域は、ＬＣＵ分類の方式によって少なくとも１つのサブ領域又は領域クラスに分割されてもよい。いずれかのＬＣＵについては、当該ＬＣＵの属する領域、及び当該ＬＣＵの属する領域おけるクラスに基づいて、その属する領域クラスを決定してもよい。例示的に、符号化デバイスが復号デバイスにビットストリームを送信するとき、各ＬＣＵの属する領域クラスを識別するための領域クラス識別子をビットストリームに付加して復号デバイスに送信してもよい。いずれかのＬＣＵについて、復号デバイスはビットストリームから当該ＬＣＵの領域クラス識別子を解析し、解析して得られた当該ＬＣＵの領域クラス識別子に基づいて、当該ＬＣＵの属する領域クラスを決定してもよい。

【0084】

Ｔ６２０において、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定する。

【0085】

本発明の実施例では、上記した方式で各領域内のＬＣＵを分類するとき、符号化デバイスは各領域クラスに対して領域統合を行い、少なくとも１つの統合後の領域（統合領域と呼ばれてもよい）を得、各統合領域のフィルタリング係数を決定する。各領域クラスに対して領域統合を行う実現方式は、上記の「領域統合」に関する説明と類似しているため、ここでは詳しい説明を省略する。

【0086】

例示的に、いずれかの領域クラスについて、符号化デバイスは、その属する統合領域に基づいて１つの係数インデックスを割り当ててもよく、当該係数インデックスはそのうちの１つの統合領域のフィルタリング係数に対応する。

【0087】

符号化デバイスは各統合領域のフィルタリング係数及び各領域クラスのインデックスをビットストリームに書き込み、復号デバイスに送信してもよい。

【0088】

例示的に、いずれかのＬＣＵについて、復号デバイスは、当該ＬＣＵの属する領域クラスに基づいて、当該ＬＣＵの属する領域クラスの係数インデックスを決定し、当該係数インデックス、及びビットストリームから解析して得られたフィルタリング係数に基づいて、当該ＬＣＵのフィルタリング係数を決定してもよい。

【0089】

Ｔ６３０において、ＬＣＵのフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0090】

本発明の実施例では、いずれかのＬＣＵについて、当該ＬＣＵのフィルタリング係数を決定すると、当該ＬＣＵのフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0091】

これから分かるように、固定領域分割方式で分割して得られた領域内のＬＣＵを分類することにより、領域分割を各ＬＣＵの画素特性により合わせることで、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させることができる。

【0092】

一実施例では、Ｔ６１０において、ビットストリームから解析して得られたＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定することは、ＬＣＵの属する領域、及びＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定することを含む。

【0093】

例示的に、いずれかのＬＣＵについては、当該ＬＣＵの属する領域（固定領域分割方式で得られた領域）、及び当該ＬＣＵの領域クラス識別子に基づいて、当該ＬＣＵの属する領域クラスを決定してもよい。

【0094】

一例では、ＬＣＵの領域クラス識別子はＬＣＵの属する領域におけるＬＣＵのクラスを識別するために用いられ、ＬＣＵの属する領域における当該ＬＣＵのクラスは、ＬＣＵの属する領域内の各ＬＣＵを分類することにより決定される。

【0095】

ＬＣＵの属する領域、及びＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定することは、各領域のクラスの数、ＬＣＵの属する領域、及びＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定することを含み得る。

【0096】

いずれかのＬＣＵについては、復号デバイスはビットストリームから解析して得られた当該ＬＣＵの領域クラス識別子に基づいて、属する領域における当該ＬＣＵのクラスを決定してもよい。例を挙げて言うと、１つの領域内のＬＣＵが最大で２クラスに分割されると仮定すると、第１のクラスに分割されたＬＣＵについては、その領域クラス識別子は０であってもよく、第２のクラスに分割されたＬＣＵについては、その領域クラス識別子は１であってもよい。

【0097】

いずれかの領域内のいずれかのＬＣＵについては、ビットストリームから解析して得られた当該ＬＣＵの領域クラス識別子の値が０である場合、当該領域における当該ＬＣＵのクラスが第１のクラスであると決定してもよく、ビットストリームから解析して得られた当該ＬＣＵの領域クラス識別子の値が１である場合、当該領域における当該ＬＣＵのクラスが第２のクラスであると決定してもよい。

【0098】

例示的に、いずれかのＬＣＵについて、復号デバイスは、各領域のクラス数、当該ＬＣＵの属する領域、及びＬＣＵの属する領域クラスに基づいて、当該ＬＣＵの属する領域クラスを決定してもよい。

【0099】

一例として、各領域のクラス数、ＬＣＵの属する領域、及びＬＣＵの領域クラス識別子に基づいてＬＣＵの属する領域クラスを決定することは、ＬＣＵの属する領域の前の各領域のクラス数に基づいて、ＬＣＵの属する領域の前の各領域のクラスの合計数を決定することと、ＬＣＵの属する領域の前の各領域のクラスの合計数、及びＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定することと、を含み得る。

【0100】

例示的に、いずれかのＬＣＵについては、各領域のクラス数に基づいて、ＬＣＵの属する領域の前の各領域のクラスの合計数を決定し、当該ＬＣＵの属する領域の前の各領域のクラスの合計数及びＬＣＵの領域クラス識別子に基づいて、ＬＣＵの属する領域クラスを決定してもよい。

【0101】

例を挙げて言うと、現在の画像フレームの輝度は全部Ｌ個の領域にそれぞれ分割され、各領域内のＬＣＵはいずれもＮ個のクラスに分割されると仮定すると、領域Ｋ内のいずれかのＬＣＵについては、ビットストリームから解析して得られた当該ＬＣＵの領域クラス識別子の値がｍである場合、当該ＬＣＵの属する領域クラスがＮ＊Ｋ＋ｍであると決定してもよく、ここで、ｍ∈［０，Ｎ－１］、Ｎ≧１、Ｋ∈［０，Ｌ－１］である。

【0102】

いくつかの実施例では、Ｔ６２０において、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定する前に、さらに、ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを決定し、ＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定する上記操作を実行すると決定することを含み得る。

【0103】

いずれかのＬＣＵについて、符号化デバイスは、ＲＤＯ決定に基づいて当該ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを決定してもよい。

【0104】

復号デバイスは、ＬＣＵに対してＡＬＦフィルタリングを行う前に、当該ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを先に決定してもよい。例えば、復号デバイスはビットストリームから解析して得られた、当該ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを識別するための識別子に基づいて、当該ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを決定してもよい。

【0105】

復号デバイスは、ＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、上記実施例に記載の方式でＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定してもよい。

【0106】

一例では、前記ＬＣＵに対してＡＬＦフィルタリングを開始するか否かを決定することは、ビットストリームからＬＣＵのＬＣＵ係数識別子を解析することを含み、ここで、ＬＣＵ係数識別子は、ＬＣＵの属する統合領域に用いられる少なくとも１グループのフィルタリング係数内の、ＬＣＵに用いられるフィルタリング係数を識別するために用いられ、ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、ＬＣＵに対してＡＬＦフィルタリングを開始すると決定する。

【0107】

例示的に、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、１つの統合領域に用いられるフィルタリング係数は１グループのフィルタリング係数に限定されず、実際の状況に応じて１グループ又は複数グループのフィルタリング係数を選択して用いてもよい。

【0108】

例示的に、いずれかの統合領域について、符号化デバイスは複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域がそのうちの１グループ又は複数グループのフィルタリング係数を用いると決定する。当該領域のいずれかのＬＣＵについて、符号化デバイスは、ＬＣＵ係数識別子によって当該統合領域に用いられる１グループ又は複数グループのフィルタリング係数内の、当該ＬＣＵに用いられるフィルタリング係数を決定する。

【0109】

いずれかのＬＣＵについては、当該ＬＣＵのＬＣＵ係数識別子の値が第１の値である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないことを示す。

【0110】

いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定してもよい。

【0111】

例を挙げて言うと、第１の値が０であると仮定すると、いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が０である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないと決定してもよく、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が０ではない場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定してもよく、当該ＬＣＵのＬＣＵ係数識別子に基づいて当該ＬＣＵに用いられるフィルタリング係数を決定してもよい。

【0112】

ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、当該ＬＣＵの属する統合領域が１グループのフィルタリング係数を用いる場合、当該ＬＣＵのフィルタリング係数は当該グループのフィルタリング係数であり、当該ＬＣＵの属する統合領域が複数グループのフィルタリング係数を用いる場合、さらに当該ＬＣＵのＬＣＵ係数識別子の具体的な値に基づいて当該ＬＣＵのフィルタリング係数を決定する必要がある。

【0113】

一例では、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定することは、ＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びビットストリームから解析して得られたＬＣＵの属する統合領域の領域係数識別子に基づいて、ＬＣＵのフィルタリング係数を決定することを含み得る。領域係数識別子は、予め設定された複数グループのフィルタリング係数内の、ＬＣＵの属する統合領域に用いられるフィルタリング係数を識別するために用いられる。

【0114】

例示的に、いずれかの統合領域について、符号化デバイスは複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域が当該複数グループのフィルタリング係数の１グループ又は複数グループを用いると決定し、当該統合領域に用いられるフィルタリング係数を識別するための領域係数識別子をビットストリームに書き込んでもよい。

【0115】

例示的に、いずれかの統合領域のいずれかのＬＣＵについて、復号デバイスはビットストリームから解析して得られた当該統合領域の領域係数識別子に基づいて、当該統合領域に用いられるフィルタリング係数を決定してもよい。

【0116】

例を挙げて言うと、予め設定された複数グループのフィルタリング係数が２グループのフィルタリング係数（フィルタリング係数Ａ及びフィルタリング係数Ｂであると仮定する）を含むと仮定すると、いずれかの統合領域について、符号化デバイスは当該統合領域がフィルタリング係数Ａを用いると決定した場合、符号化デバイスは当該統合領域の領域係数識別子の値が０であると決定し、符号化デバイスは当該統合領域がフィルタリング係数Ｂを用いると決定した場合、符号化デバイスは当該統合領域の領域係数識別子の値が１であると決定し、符号化デバイスは当該統合領域がフィルタリング係数Ａ及びフィルタリング係数Ｂを用いると決定した場合、符号化デバイスは当該統合領域の領域係数識別子の値が２であると決定する。

【0117】

いずれかの統合領域については、復号デバイスによってビットストリームから解析して得られた当該統合領域の領域係数識別子の値が０である場合、当該領域がフィルタリング係数Ａを用いると決定し、復号デバイスによってビットストリームから解析して得られた当該統合領域の領域係数識別子の値が１である場合、当該統合領域がフィルタリング係数Ｂを用いると決定し、復号デバイスによってビットストリームから解析して得られた当該統合領域の領域係数識別子の値が２である場合、当該統合領域がフィルタリング係数Ａ及びフィルタリング係数Ｂを用いると決定する。

【0118】

例示的に、いずれかの統合領域について、復号デバイスは、ビットストリームから解析して得られた当該統合領域の領域係数識別子に基づいて当該領域が１グループのフィルタリング係数を用いると決定した場合、当該統合領域のいずれかのＬＣＵについては、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、例えば、当該ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、当該ＬＣＵに用いられるフィルタリング係数は当該統合領域に用いられるフィルタリング係数であると決定してもよく、復号デバイスは、ビットストリームから解析して得られた当該統合領域の領域係数識別子に基づいて当該領域が複数グループのフィルタリング係数を用いると決定した場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、当該ＬＣＵのＬＣＵ係数識別子に基づいて、当該ＬＣＵに用いられるフィルタリング係数（当該統合領域に用いられる複数グループのフィルタリング係数のうちの１グループのフィルタリング係数）を決定してもよい。

【0119】

ＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びビットストリームから解析して得られたＬＣＵの属する統合領域の領域係数識別子に基づいて、ＬＣＵのフィルタリング係数を決定することは、ＬＣＵの属する統合領域の領域係数識別子に基づいてＬＣＵの属する統合領域が複数セットのフィルタリング係数を用いると決定した場合、ＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びＬＣＵのＬＣＵ係数識別子に基づいて、ＬＣＵのフィルタリング係数を決定することを含み得る。

【0120】

いずれかのＬＣＵについて、復号デバイスはビットストリームから解析して得られた当該ＬＣＵの領域クラス識別子に基づいて当該ＬＣＵの属する領域クラスを決定した場合、さらに当該ＬＣＵの属する領域クラスに基づいて当該ＬＣＵの属する統合領域を決定し、ビットストリームから解析して得られた当該領域クラスの属する統合領域の領域係数識別子に基づいて、当該領域クラスに用いられるフィルタリング係数を決定してもよい。

【0121】

例を挙げて言うと、固定領域分割方式で現在の画像フレームの輝度成分を１６個の領域に分割した後、領域内のＬＣＵを分類することによって合計３２個の領域クラスを取得すると仮定すると、領域クラスを統合した後、領域クラスの統合状況に基づいてインデックステーブルを取得してもよく、当該インデックステーブルは、各要素が順に各領域クラスの属する統合領域のインデックスである３２次元の１次元ベクトルであってもよい。

【0122】

当該３２次元の１次元ベクトルが｛ａ１，ａ２，ａ３，…，ａ３２｝であると仮定すると、ａ１は領域クラス０の属する統合領域のインデックスであり、…ａ３２は領域クラス３２の属する統合領域のインデックスである。ａ１～ａ５がいずれも０で、ａ６～ａ１１がいずれも１であると仮定すると、領域クラス０～４が統合領域０に統合され、領域クラス５～１０が統合領域１に統合されることが示される。

【0123】

符号化デバイスは、ビットストリームで上記インデックステーブルを復号デバイスに送信し、それにより、復号デバイスがビットストリームから解析して得られた当該インデックステーブルに基づいて、各領域クラスの属する統合領域を決定し、それにより、いずれかのＬＣＵについては、当該ＬＣＵの領域クラス識別子に基づいて、当該ＬＣＵの属する領域クラスを決定し、当該ＬＣＵの属する領域クラスに基づいて当該ＬＣＵの属する統合領域を決定してもよい。

【0124】

復号デバイスはＬＣＵの属する統合領域が複数グループのフィルタリング係数を用いると決定した場合、復号デバイスはビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子に基づいて、当該ＬＣＵに用いられるフィルタリング係数を決定してもよい。

【0125】

いずれかの統合領域については、当該統合領域に用いられる複数グループのフィルタリング係数のフィルタ形状は全て同一であってもよく、全て同一でなくてもよい。例えば、統合領域１がフィルタリング係数Ａ、フィルタリング係数Ｂ及びフィルタリング係数Ｃを用いると仮定すると、フィルタリング係数Ａ、フィルタリング係数Ｂ及びフィルタリング係数Ｃのフィルタ形状は全て同じであってもよく、全て異なっていてもよく、又は一部が同じであってもよく、例えば、フィルタリング係数Ａとフィルタリング係数Ｂのフィルタ形状が同じであるが、フィルタリング係数Ａとフィルタリング係数Ｃのフィルタ形状が異なる。

【0126】

いくつかの実施例では、Ｔ６２０において、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定することは、ＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びＬＣＵの係数選択識別子に基づいて、ＬＣＵのフィルタリング係数を決定することを含み得、ここで、係数選択識別子は、複数グループのフィルタリング係数候補のうち、ＬＣＵが選択して用いるフィルタリング係数を識別するために用いられる。

【0127】

ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＬＣＵは、その属する統合領域のフィルタリング係数を選択することに限定されず、複数グループのフィルタリング係数から１グループのフィルタリング係数を適応的に選択してＡＬＦフィルタリングを行ってもよい。

【0128】

例示的に、いずれかのＬＣＵについて、当該ＬＣＵのフィルタリング係数候補は、その属する統合領域のフィルタリング係数及びその属する統合領域に隣接する統合領域のフィルタリング係数を含むがこれらに限定されず、それにより、各統合領域で１グループのフィルタリング係数を伝達する場合、１つのＬＣＵに複数グループのフィルタリング係数候補が存在してもよく、それにより、ＬＣＵフィルタリング係数選択の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させる。

【0129】

いずれかのＬＣＵについて、符号化デバイスは、ＲＤＯ決定に基づいて当該ＬＣＵが複数グループのフィルタリング係数において用いるフィルタリング係数を決定し、当該フィルタリング係数に対応する係数選択識別子をビットストリーム内に書き込んで復号デバイスに送信してもよい。復号デバイスはＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びＬＣＵの係数選択識別子に基づいて、ＬＣＵのフィルタリング係数を決定してもよい。

【0130】

一例では、ＬＣＵの属する領域クラス、ビットストリームから解析して得られたフィルタリング係数、及びＬＣＵの係数選択識別子に基づいて、ＬＣＵのフィルタリング係数を決定することは、ＬＣＵの係数選択識別子の値が第１の値である場合、ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数をＬＣＵのフィルタリング係数として決定することと、ＬＣＵの係数選択識別子の値が第２の値である場合、ＬＣＵの属する統合領域のフィルタリング係数をＬＣＵのフィルタリング係数として決定することと、ＬＣＵの係数選択識別子の値が第３の値である場合、ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数をＬＣＵのフィルタリング係数として決定することと、を含み得る。

【0131】

いずれかのＬＣＵについて、そのフィルタリング係数候補は、その属する統合領域のフィルタリング係数、その属する統合領域の１つ前の統合領域のフィルタリング係数、及びその属する統合領域の１つ後の統合領域のフィルタリング係数を含み得る。例示的に、ＬＣＵの属する統合領域の１つ前の統合領域は、ＬＣＵの属する統合領域のインデックスの１つ前の隣接インデックスに対応する統合領域である。ＬＣＵの属する統合領域の１つ後の統合領域はＬＣＵの属する統合領域のインデックスの１つ後の隣接インデックスに対応する統合領域である。

【0132】

例を挙げて言うと、ＬＣＵの属する統合領域が統合領域２で、その対応するインデックスが２であると仮定すると、当該ＬＣＵの属する統合領域の１つ前の統合領域は、インデックス２の１つ前の隣接インデックス（即ち１）に対応する統合領域（即ち統合領域１）であり、当該ＬＣＵの属する統合領域の１つ後の統合領域は、インデックス２の１つ後の隣接インデックス（即ち３）に対応する統合領域（即ち統合領域３）である。

【0133】

いずれかのＬＣＵについて、符号化デバイスはＲＤＯ決定に基づいてそれに用いられるフィルタリング係数を決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が０などの第１の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が１などの第２の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が２などの第３の値であると決定してもよい。

【0134】

例示的に、いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第１の値である場合、当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよく、ビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第２の値である場合、当該ＬＣＵの属する統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよく、ビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第３の値である場合、当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよい。

【0135】

ビットストリームからフィルタリング係数を解析することは、いずれかの統合領域について、ビットストリームから当該統合領域のフィルタ形状を解析することと、当該フィルタ形状に基づいて、ビットストリームから当該統合領域のフィルタリング係数を解析することと、を含み得る。

【0136】

例示的に、フィルタリング係数の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、各統合領域は、同一フィルタ形状を用いることに限定されず、異なるフィルタ形状を選択的に用い、即ち、異なる統合領域に用いられるフィルタ形状は同じであっても異なってもよい。

【0137】

例示的に、いずれかの統合領域について、符号化デバイスは異なるフィルタ形状の複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタ形状及びフィルタリング係数を決定し、当該フィルタ形状及びフィルタリング係数をビットストリームに書き込んで復号デバイスに送信してもよい。

【0138】

例示的に、いずれかの統合領域について、復号デバイスは当該統合領域のフィルタリング係数を取得するとき、ビットストリームから当該統合領域のフィルタ形状を解析し、当該フィルタ形状に基づいて、ビットストリームから当該領域クラスのフィルタリング係数を解析してもよい。

【0139】

一例では、ＬＣＵの属する領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、ＬＣＵのフィルタリング係数を決定することは、ＬＣＵの属する領域クラス、及びビットストリームから解析して得られたフィルタ形状及びフィルタリング係数に基づいて、ＬＣＵのフィルタ形状及びフィルタリング係数を決定することを含み得る。

【0140】

ＬＣＵのフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行うことは、当該ＬＣＵのフィルタ形状及びフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行うことを含み得る。例示的に、いずれかのＬＣＵについては、当該ＬＣＵの属する領域クラスに基づいて、当該ＬＣＵの属する統合領域を決定し、ビットストリームから当該統合領域のフィルタ形状及びフィルタリング係数を解析し、当該フィルタ形状及びフィルタリング係数を当該ＬＣＵのフィルタ形状及びフィルタリング係数として決定し、当該フィルタ形状及びフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0141】

本発明の実施例では、画像フレームに対してフィルタ形状を選択し、又は画像フレームの成分（例えば輝度成分及び／又は色度成分）に対してフィルタ形状を選択してもよい。例えば、画像フレームＡが図４Ａに示す７＊７十字形＋５＊５正方形の中心対称フィルタ形状を選択する場合、画像フレームＡにおけるＡＬＦフィルタリングを開始する各ＬＣＵはいずれも７＊７十字形＋５＊５正方形の中心対称フィルタ形状を用いる。

【0142】

いくつかの実施例では、Ｔ６３０において、ＬＣＵのフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行うことは、ＬＣＵのフィルタリング係数及びビットストリームから解析して得られたＬＣＵの属する統合領域に対応する各参照画素位置の重み係数に基づいて、ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行うことを含み得る。

【0143】

例示的に、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＡＬＦフィルタリングを行うときに用いられるフィルタは、対称フィルタに限定されず、非対称フィルタを採用してもよく、即ち、対称位置のフィルタリング係数が異なり、０．５：１．５又は０．６：１．４など、一定の比率関係を満たしてもよい。

【0144】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、いずれかの非中心位置のフィルタリング係数については、当該フィルタリング係数及び当該フィルタリング係数の対称位置のフィルタリング係数と、それぞれの対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要があるため、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みが異なることを意味する。

【0145】

例を挙げて言うと、７＊７十字形＋５＊５正方形の中心対称フィルタ形状のフィルタリング係数がＣ_ｉであり、その対称位置のフィルタリング係数がＣ_２８－ｉであり、従ってＣ_ｉ：Ｃ_２８－ｉ＝Ａ_ｉ：（２－Ａ_ｉ）、又は、Ｐ_ｉ及びＰ_２８－ｉがＡＬＦフィルタリング計算に参与するときの重みの比率がＡ_ｉ：（２－Ａ_ｉ）であり、Ｐ_ｉがＣ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉがＣ_２８－ｉに対応する参照画素位置の画素値であり、ＬＣＵの現在のフィルタリング画素について、当該画素のフィルタリング後の画素値は以下の方式で決定されてもよい。

【数1】

【0146】

Ｃ_ｉがＬＣＵの属する統合領域のフィルタリング係数における（ｉ＋１）番目のフィルタリング係数であり、Ｐ_ｉがフィルタリング係数Ｃ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉに対応する参照画素位置とＰ_ｉに対応する参照画素位置とは現在のフィルタリング画素の画素位置に対して中心対称であり、Ａ_ｉがＰ_ｉに対応する参照画素位置の画素値の重み係数であり、Ｐ_１４が現在のフィルタリング画素の画素値であり、Ｃ_１４が現在のフィルタリング画素のフィルタリング係数であり、０＜Ａ_ｉ＜２である。

【0147】

例示的に、いずれかの統合領域について、符号化デバイスは、各位置が異なる重み係数に対応する下で、当該統合領域のフィルタリング係数及びフィルタリング性能を決定してもよい。フィルタリング性能の最適な１グループのフィルタリング係数を選択し、当該フィルタリング係数及び対応するフィルタの各位置に対応する重み係数を記録し、それをビットストリームに書き込んで復号デバイスに送信する。

【0148】

例示的に、重み係数セット（例えば、上記Ａ_ｉの値セット）を予め構築し、当該セットから各重み係数をそれぞれ選択し、フィルタリング性能の最適なフィルタリング係数、及び対応するフィルタの各位置に対応する重み係数を得、当該重み係数の重み係数セットにおけるインデックスをビットストリームに書き込んで復号デバイスに送信してもよい。

【0149】

いずれかのＬＣＵについて、復号デバイスはビットストリームから当該ＬＣＵの属する統合領域のフィルタリング係数及び当該ＬＣＵの属する統合領域に対応する各参照画素位置の重み係数を解析し、ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0150】

いくつかの実施例では、Ｔ６３０において、ＬＣＵのフィルタリング係数に基づいてＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行うことは、ＬＣＵの現在のフィルタリング画素について、当該画素に対してＡＬＦフィルタリングを行うプロセスにおいて、当該画素の周辺画素の画素値に基づいて当該画素の画素値を更新することと、当該画素の更新後の画素値に基づいて、当該画素に対してＡＬＦフィルタリングを行うことと、を含み得る。

【0151】

例示的に、いずれかの画素位置については、当該画素位置の画素値が大きすぎたり小さすぎたりする場合、従来のＡＬＦ技術に従って当該画素位置に対してフィルタリングを行うフィルタリング性能の低下を考慮すると、ＡＬＦフィルタリング効果を最適化するために、現在のフィルタリング画素について、当該画素に対してＡＬＦフィルタリングを行うプロセスにおいて、当該画素位置の画素値を周辺画素の画素値に対してより滑らかにするために、当該画素の周辺画素の画素値に基づいて当該画素の画素値を更新してもよい。

【0152】

一例では、当該画素の周辺画素の画素値に対して当該画素の画素値を更新することは、ターゲット画素ブロックにおける中心位置を除いた各画素の画素値の最大値及び最小値を決定し、ここで、ターゲット画素ブロックは当該画素を中心位置とする３＊３画素ブロックであることと、当該画素の画素値が最大値より大きい場合、当該画素の画素値を最大値に更新することと、当該画素の画素値が最小値より小さい場合、当該画素の画素値を最小値に更新することと、を含み得る。

【0153】

画素の周辺画素が当該画素の８つの隣接画素を例として、即ち、当該画素を中心位置とする３＊３画素ブロック（本明細書でターゲット画素ブロックと呼ばれる）から中心位置を除いた他の画素である。

【0154】

いずれかのＬＣＵのうちのいずれかの画素については、ターゲット画素ブロックにおける中心位置を除いた各画素の画素値を決定し、各画素値内の最大値及び最小値を決定してもよい。当該画素の画素値が最大値より大きい場合、当該画素の画素値を最大値に更新し、当該画素の画素値が最小値より小さい場合、当該画素の画素値を最小値に更新する。

【0155】

図１２に示す３＊３画素ブロックを例として、現在のフィルタリング画素が画素０であり、その周辺画素が当該画素の８つの隣接画素、即ち画素１～画素８を含み、画素０に対してフィルタリングを行うとき、画素１～画素８の画素値をそれぞれ取得し、当該８つの画素の画素値のうちの最大値及び最小値を決定してもよい。画素１の画素値が最大で、画素８の画素値が最小であると仮定すると、当該８つの画素の画素値のうちの最大値は画素１の画素値（ｐ１と仮定する）であり、最小値は画素８の画素値（ｐ８と仮定する）であり、従って画素０の画素値（ｐ０と仮定する）とｐ１及びｐ８とを比較し、ｐ０＞ｐ１である場合、画素０の画素値をｐ１に更新し、ｐ０＜ｐ８である場合、画素０の画素値をｐ８に更新する。
（実施例２）

【0156】

図６Ａに示すのは、本発明の実施例により提供されるフィルタリング方法のフローチャートであり、ここで、当該フィルタリング方法は符号化／復号デバイスに適用されてもよく、図６Ａに示すように、当該フィルタリング方法は以下のステップを含み得る。

【0157】

ステップＳ６００ａにおいて、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対してＡＬＦフィルタリングを行うプロセスにおいて、現在のフィルタリング画素のいずれかの参照画素については、当該参照画素が現在の適応的補正フィルタリングユニット内に位置しない場合、ステップＳ６１０ａに移行する。

【0158】

ステップＳ６１０ａにおいて、当該参照画素の画素値を取得できるか否かを決定し、そうである場合、ステップＳ６３０ａに移行し、そうではない場合、ステップＳ６２０ａに移行する。

【0159】

ステップＳ６２０ａにおいて、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行う。

【0160】

ステップＳ６３０ａにおいて、当該参照画素を用いてフィルタリングを行う。

【0161】

フィルタリングユニットはＬＣＵ、又はＬＣＵに基づいて得られた画像ブロックであってもよく、例えば、ＬＣＵに対してクリッピング又は拡張することによって得られた画像ブロックであってもよい。

【0162】

ＬＣＵに基づいてフィルタリングユニットを得る実現については、上記の「適応的補正フィルタリングユニット」の関連説明を参照されたい。

【0163】

本発明の実施例では、フィルタリングユニットの境界画素について、当該境界画素の一部の参照画素が当該フィルタリングユニットの外に位置し、即ち当該フィルタリングユニット内に位置しない可能性があることを考慮すると、この場合、当該一部の参照画素の画素値が取得できない可能性がある。

【0164】

一例では、参照画素の画素値が取得できない場合は、当該参照画素が画像境界外に位置することと、パッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含むが、これらに限定されない。

【0165】

例示的に、いずれかの画素位置については、当該画素から最も近い他の画素位置は、一般的に、画素値が当該画素位置の画素値に最も近い画素位置でもあることを考慮すると、ＡＬＦフィルタリング効果を最適化するために、参照画素の画素値が取得できない場合については、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよい。

【0166】

例示的に、画素位置の間の距離はユークリッド距離であってもよい。

【0167】

例示的に、境界領域は現在の適応的補正フィルタリングユニットの左境界外又は右境界外を含み、現在の適応的補正フィルタリングユニットの左境界外は現在の適応的補正フィルタリングユニットの左側に隣接するフィルタリングユニットのうちの一部又は全ての領域を含み、現在の適応的補正フィルタリングユニットの右境界外は現在の適応的補正フィルタリングユニットの右側に隣接するフィルタリングユニットのうちの一部又は全ての領域を含む。

【0168】

図５に示すフィルタリングユニット（即ち図５におけるサンプルフィルタリング補償ユニット）を現在の適応的補正フィルタリングユニットとすることを例として、現在の適応的補正フィルタリングユニットの境界領域は図５に示すサンプルフィルタリング補償ユニットの左境界の左側の３列の画素（即ち現在の適応的補正フィルタリングユニットの左側のフィルタリングユニットのうち、現在の適応的補正フィルタリングユニットに近接する３列の画素であり、左境界外と呼ばれてもよい）を含み得、現在の適応的補正フィルタリングユニットの境界領域は図５に示すサンプルフィルタリング補償ユニットの右境界の右側の３列の画素（即ち現在の適応的補正フィルタリングユニット右側のフィルタリングユニットのうち、現在の適応的補正フィルタリングユニットに近接する３列の画素であり、右境界外と呼ばれてもよい）。

【0169】

図６Ａに示す方法フローでは、現在の適応的補正フィルタリングユニットにおける各画素に対してＡＬＦフィルタリングを行うプロセスにおいて、現在の適応的補正フィルタリングユニット内に位置しない参照画素位置については、当該参照画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行い、ＡＬＦフィルタリング性能を最適化し、符号化／復号性能を向上させる。

【0170】

いくつかの実施例では、当該参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行う前に、さらに、当該参照画素がフィルタ形状の指定位置に対応しているか否かを決定することと、そうである場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行う操作を実行すると決定することと、を含み得る。

【0171】

ある特定の位置にある参照画素を考慮すると、当該参照画素の画素値が取得できない場合に、一般的には、境界領域内の当該位置から最も近い画素位置の画素値も取得できない。例えば、現在のフィルタリング画素位置の真左側、真右側、真上又は真下に位置する参照画素などである。

【0172】

例を挙げて言うと、現在のフィルタリング画素位置（即ちＣ１４に対応する画素位置）が現在の適応的補正フィルタリングユニットの左境界に位置すると仮定すると、Ｃ１１に対応する参照画素位置については、当該参照画素位置が現在のフィルタリング画素位置の左側に位置し、且つ現在のフィルタリング画素位置からの距離は３画素であるが、１つのフィルタリングユニットの幅は一般的には３画素より大きいため、Ｃ１１に対応する参照画素位置の画素値が取得できない場合、現在の適応的補正フィルタリングユニットの左側のフィルタリングユニットは現在の画像フレーム（即ち現在の適応的補正フィルタリングユニットの位置する画像フレーム）の境界外に位置すること、又は、現在のパッチ（即ち現在の適応的補正フィルタリングユニットの位置するパッチ（ｐａｔｃｈ））のパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないと決定してもよく、この場合、境界領域のうち、当該参照画素位置からの距離が最も近い画素位置、即ち、Ｃ１２に対応する画素位置の画素値も取得できず、このとき、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素位置（Ｃ１１に対応する参照画素位置）から最も近い画素でフィルタリングを行う必要がある。

【0173】

図１４Ａに示すシナリオを例として、Ｃ１１に対応する参照画素位置の画素値が取得できない場合、Ｃ１２に対応する参照画素位置も取得できない。

【0174】

また、現在のフィルタリング画素位置の左上、右上、左下又は右下に位置する参照画素については、その画素値が取得できない場合、その原因が現在の適応的補正フィルタリングユニットの上境界外又は下境界外（現在の適応的補正フィルタリングユニットの上境界外又は下境界外の画素位置の画素値が取得できない）に位置するかもしれず、この場合、当該参照画素位置からの距離が最も近い画素位置は現在の適応的補正フィルタリングユニットの左境界外又は右境界外に位置する可能性があり、その画素値が取得できる可能性がある。

【0175】

例を挙げて言うと、現在のフィルタリング画素位置（即ちＣ１４に対応する画素位置）が現在の適応的補正フィルタリングユニットの左上に位置すると仮定すると、Ｃ１に対応する参照画素位置については、当該参照画素位置が現在のフィルタリング画素位置の左上に位置するため、現在のフィルタリング画素位置が現在の適応的補正フィルタリングユニットの左上頂点に比較的近い場合、Ｃ１に対応する参照画素位置は現在の適応的補正フィルタリングユニットの上境界外に位置する可能性があり、従って、当該参照画素位置の画素値が取得できず、この場合では、Ｃ６に対応する画素位置は現在の適応的補正フィルタリングユニットの左境界外に位置する可能性があり、その画素値が取得できる可能性がある。

【0176】

図１４Ｂに示すシナリオを例として、Ｃ１に対応する参照画素位置は現在の適応的補正フィルタリングユニットの上境界外に位置するため、従って、Ｃ１に対応する参照画素位置の画素値が取得できないが、Ｃ６に対応する参照画素位置は現在の適応的補正フィルタリングユニットの左境界外に位置し、現在の適応的補正フィルタリングユニットの左境界外の画素値が取得でき、例えば現在の適応的補正フィルタリングユニットの左境界は画像境界又はパッチ境界ではない場合、Ｃ６に対応する参照画素位置の画素値が取得でき、従って、当該場合では、画素値が取得できない参照画素位置については、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット又は境界領域のうち、距離の最も近い画素位置の画素値を用いてフィルタリングを行ってもよい。

【0177】

ＡＬＦフィルタリング効果を最適化するために、フィルタ形状の指定位置に位置する参照画素については、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよい。

【0178】

例示的に、当該参照画素がフィルタ形状の指定位置に対応しない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよく、即ち、境界領域内の画素を考慮しない。

【0179】

一例では、指定位置は第１のフィルタにおける第１の位置と、第２の位置と、第３の位置と、第１の位置、第２の位置及び第３の位置の対称位置と、を含み得るが、これらに限定されず、ここで、第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、第１の位置が第１のフィルタの左上隅位置であり、第２の位置が第１の位置の右側隣接位置であり、第３の位置が第１の位置の下方隣接位置であり、対称位置は軸対称位置及び中心対称位置を含む。

【0180】

例を挙げて言うと、図４Ａに示す第１のフィルタについては、第１の位置がＣ１位置であり、その軸対称位置がＣ５位置であり、第２の位置がＣ２位置であり、その軸対称位置がＣ４位置であり、第３の位置がＣ６位置であり、その軸対称位置がＣ１０位置であり、即ち上記指定位置はＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５及びＣ１０を含み得る。

【0181】

いくつかの実施例では、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行う前に、さらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することと、そうである場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行う操作を実行すると決定することと、を含み得る。

【0182】

例示的に、拡張適応的補正フィルタリング（ｅｎｈａｎｃｅｄ ＡＬＦ）の使用が許容される場合と、拡張適応的補正フィルタリングの使用が許容されない場合とでは、通常、用いるフィルタが異なると考えられる。

【0183】

例示的に、拡張適応的補正フィルタリングの使用が許容される場合で用いられるフィルタは図４Ａに示すものであってもよいが、拡張適応的補正フィルタリングの使用が許容されない場合で用いられるフィルタは図９に示すものであってもよい。

【0184】

図９に示すフィルタについては、参照画素の画素値が取得できない場合、一般的に、現在の適応的補正フィルタリングユニット以外の当該参照画素位置から最も近い画素位置の画素値も取得できず、従って、拡張適応的補正フィルタリングの使用が許容されない場合、当該画素値が取得できない参照画素の代わりに、境界領域内の画素を用いてフィルタリングを行うことを考慮せず、当該画素値が取得できない参照画素の代わりに、現在の適応的補正フィルタリングユニット内の画素を用いてフィルタリングを行うことを考慮してもよい。従って、いずれかの参照画素については、当該参照画素の画素値が取得できない場合に、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定してもよい。例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値に基づいて現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定してもよく、ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、拡張適応的補正フィルタリングを用いることができると示し、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、拡張適応的補正フィルタリングを用いるべきでないと示す。

【0185】

例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値は復号側から導出されてもよく、又は復号側でビットストリームから取得されてもよく、ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値であってもよい。例示的に、ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグ（ｅａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ）の値に基づいてＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定してもよい。

【0186】

「拡張適応的補正フィルタリング許可フラグ」はシーケンスレベルパラメータであってもよく、即ち、１つの「拡張適応的補正フィルタリング許可フラグ」の値は、１つの画像シーケンスが拡張適応的補正フィルタリングの使用を許可するか否かを示すために用いられてもよい。例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよい。

【0187】

例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよい。

【0188】

例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行ってもよい。

【0189】

例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行ってもよく、即ち、境界領域内の画素を考慮しない。

【0190】

図６Ｂに示すのは、本発明の実施例により提供されるフィルタリング方法のフローチャートであり、ここで、フィルタリング方法は符号化／復号デバイスに適用されてもよく、図６Ｂに示すように、当該フィルタリング方法は以下のステップを含み得る。

【0191】

ステップＳ６００ｂにおいて、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定する。そうである場合、ステップＳ６１０ｂに移行し、そうではない場合、ステップＳ６２０ｂに移行する。

【0192】

ステップＳ６１０ｂにおいて、第１のフィルタを用いて現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行う。

【0193】

ステップＳ６２０ｂにおいて、第２のフィルタを用いて現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行う。

【0194】

本発明の実施例では、フィルタ選択の柔軟性を高め、フィルタリング性能を最適化し、符号化／復号性能を向上させるために、適応的補正フィルタリングユニットは、拡張適応的補正フィルタリングの使用を許可する場合と、拡張適応的補正フィルタリングの使用を許可しない場合とは、用いられるフィルタが異なってもよい。例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられるフィルタは、第１のフィルタであってもよい。例えば、当該第１のフィルタは図４Ａに示されるフィルタであってもよい。

【0195】

例示的に、復号デバイスは現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられるフィルタは、第２のフィルタであってもよい。例えば、当該第２のフィルタは図９に示されるフィルタであってもよい。

【0196】

いくつかの実施例では、ステップＳ６００ｂで、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定することと、当該フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定することと、当該フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することと、を含み得る。

【0197】

フラグビットによって現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示してもよい。例示的に、当該フラグビットの値が第１の値（例えば０）である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可することを示す。当該フラグビットの値が第２の値（例えば１）である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないことを示す。

【0198】

例示的に、復号デバイスは当該フラグビットの値を取得し、当該フラグビットの値に基づいて現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定してもよい。

【0199】

現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行う。例示的に、フィルタリングユニットの境界画素については、その参照画素における一部の参照画素が当該フィルタリングユニットの外に位置し、即ち当該フィルタリングユニット内に位置しない可能性があることを考慮すると、この場合、当該一部の参照画素の画素値が取得できない可能性がある。

【0200】

一例では、参照画素の画素値が取得できない場合は、当該参照画素が現在の画像フレームの画像境界外に位置することと、現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含むが、これらに限定されない。

【0201】

例示的に、いずれかの画素位置については、当該画素から最も近い他の画素位置は、一般的に、画素値が当該画素位置の画素値に最も近い画素位置でもあることを考慮すると、従って、フィルタリング効果を最適化するために、参照画素の画素値が取得できない場合については、当該参照画素の代わりに、現在の適応的補正フィルタリングユニット及び境界領域のうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行ってもよい。

【0202】

例示的に、画素位置の間の距離はユークリッド距離であってもよい。

【0203】

例示的に、境界領域は現在の適応的補正フィルタリングユニットの左境界外又は右境界外を含み、現在の適応的補正フィルタリングユニットの左境界外は現在の適応的補正フィルタリングユニットの左側に隣接するフィルタリングユニットのうちの一部又は全ての領域を含み、現在の適応的補正フィルタリングユニットの右境界外は現在の適応的補正フィルタリングユニットの右側に隣接するフィルタリングユニットのうちの一部又は全ての領域を含む。

【0204】

例示的に、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行う。
（実施例３）

【0205】

本発明の実施例は、復号デバイスに適用されるフィルタリング方法を提供し、ここで、当該フィルタリング方法は以下のステップを含み得る。

【0206】

Ｔ７００において、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、現在のＬＣＵの属する統合領域の領域係数識別子を取得する。

【0207】

Ｔ７１０において、現在のＬＣＵの属する統合領域の領域係数識別子に基づいて、現在のＬＣＵのフィルタリング係数を取得し、領域係数識別子は、予め設定された複数グループのフィルタリング係数内の、ＬＣＵの属する統合領域に用いられるフィルタリング係数を識別するために用いられる。

【0208】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、１つの統合領域に用いられるフィルタリング係数は１グループのフィルタリング係数に限定されず、実際の状況に応じて１グループ又は複数グループのフィルタリング係数を選択して用いてもよい。

【0209】

例示的に、いずれかの統合領域について、符号化デバイスは、複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域が当該複数グループのフィルタリング係数のうちの１グループ又は複数グループを用いると決定し、当該統合領域に用いられるフィルタリング係数を識別するための領域係数識別子をビットストリームに書き込んでもよい。

【0210】

例示的に、復号デバイスは、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、復号デバイスは、ビットストリームから解析して得られた情報から現在のＬＣＵの属する統合領域の領域係数識別子を取得し、当該領域係数識別子に基づいて、現在のＬＣＵの属する統合領域に用いられるフィルタリング係数を決定してもよい。

【0211】

現在のＬＣＵの属する統合領域に用いられるフィルタリング係数が決定された場合、当該統合領域に用いられるフィルタリング係数から、現在のＬＣＵのフィルタリング係数を決定してもよい。

【0212】

例示的に、現在のＬＣＵの属する統合領域が１グループのフィルタリング係数を用いる場合、当該統合領域に用いられるフィルタリング係数を現在のＬＣＵのフィルタリング係数として決定してもよい。

【0213】

Ｔ７２０において、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0214】

本発明の実施例では、現在のＬＣＵのフィルタリング係数が決定された場合、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0215】

実施例３に記載の方法フローでは、各領域に複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて各統合領域がトレーニングされた複数グループのフィルタリング係数のうちの１グループ又は複数グループを用いると決定し、領域係数識別子によって決定結果を復号デバイスに通知することによって、１つの領域は１グループのフィルタリング係数を用いることに限定されず、性能に応じて１グループ又は複数グループのフィルタリング係数を選択してもよく、ＡＬＦフィルタリング性能を最適化し、符号化／復号性能を向上させた。

【0216】

いくつかの実施例では、Ｔ７００において、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定することは、ビットストリームから現在のＬＣＵのＬＣＵ係数識別子を解析することを含み、ここで、当該ＬＣＵ係数識別子は、現在のＬＣＵの属する統合領域に用いられる少なくとも１グループのフィルタリング係数のうち、現在のＬＣＵに用いられるフィルタリング係数を識別するために用いられ、ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定する。

【0217】

例示的に、符号化デバイスは、領域係数識別子によって統合領域が１グループ又は複数グループのフィルタリング係数を用いることを復号デバイスに通知してもよい。当該統合領域のいずれかのＬＣＵについては、符号化デバイスはＬＣＵ係数識別子によって当該統合領域に用いられる１グループ又は複数グループのフィルタリング係数のうち、当該ＬＣＵに用いられるフィルタリング係数を識別してもよい。

【0218】

例示的に、いずれかのＬＣＵについては、復号デバイスはビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子に基づいて、当該ＬＣＵに対してＡＬＦフィルタリングを開始するか否か、及び当該ＬＣＵに対してＡＬＦフィルタリングを開始するフィルタリング係数を決定してもよい。

【0219】

例示的に、いずれかのＬＣＵについては、当該ＬＣＵのＬＣＵ係数識別子の値が第１の値である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないことを示す。

【0220】

いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定してもよい。

【0221】

例を挙げて言うと、第１の値が０であると仮定すると、いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が０である場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないと決定してもよく、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子の値が０ではない場合、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定してもよく、復号デバイスは、当該ＬＣＵのＬＣＵ係数識別子に基づいて当該ＬＣＵに用いられるフィルタリング係数を決定してもよい。

【0222】

ＬＣＵのＬＣＵ係数識別子の値が非第１の値である場合、当該ＬＣＵの属する統合領域が１グループのフィルタリング係数を用いる場合、当該ＬＣＵのフィルタリング係数は当該グループのフィルタリング係数であり、当該ＬＣＵの属する統合領域が複数グループのフィルタリング係数を用いる場合、さらに当該ＬＣＵのＬＣＵ係数識別子の具体的な値に基づいて当該ＬＣＵのフィルタリング係数を決定する必要がある。

【0223】

一例では、Ｔ７１０において、現在のＬＣＵの属する統合領域の領域係数識別子に基づいて、現在のＬＣＵのフィルタリング係数を取得することは、現在のＬＣＵの属する統合領域の領域係数識別子に基づいてＬＣＵの属する統合領域が複数グループのフィルタリング係数を用いると決定した場合、現在のＬＣＵのＬＣＵ係数識別子に基づいて、ＬＣＵの属する統合領域に用いられる複数グループのフィルタリング係数から現在のＬＣＵのフィルタリング係数を決定することを含み得る。

【0224】

いずれかのＬＣＵについては、復号デバイスは、ＬＣＵの属する統合領域が複数グループのフィルタリング係数を用いると決定した場合、復号デバイスは、ビットストリームから解析して得られた当該ＬＣＵのＬＣＵ係数識別子に基づいて、当該ＬＣＵに用いられるフィルタリング係数を決定してもよい。いずれかの統合領域については、当該統合領域に用いられる複数グループのフィルタリング係数のフィルタ形状は全て同一であってもよく、全て同一でなくてもよい。
（実施例４）

【0225】

本発明の実施例は、復号デバイスに適用されるフィルタリング方法を提供し、ここで、当該フィルタリング方法は以下のステップを含み得る。

【0226】

Ｔ８００において、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、前記現在のＬＣＵの係数選択識別子を取得する。

【0227】

Ｔ８１０において、現在のＬＣＵの属する統合領域及び現在のＬＣＵの係数選択識別子に基づいて、現在のＬＣＵのフィルタリング係数を決定し、ここで、当該係数選択識別子は、現在のＬＣＵが複数グループのフィルタリング係数候補から選択して用いるフィルタリング係数を識別するために用いられる。

【0228】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＬＣＵは、その属する統合領域のフィルタリング係数を選択することに限定されず、複数グループのフィルタリング係数から１グループのフィルタリング係数を適応的に選択してＡＬＦフィルタリングを行ってもよい。

【0229】

いずれかのＬＣＵについて、当該ＬＣＵのフィルタリング係数候補は、その属する統合領域のフィルタリング係数及びその属する統合領域に隣接する領域のフィルタリング係数を含むがこれらに限定されず、それにより、各領域で１グループのフィルタリング係数を伝達する場合、１つのＬＣＵに複数グループのフィルタリング係数候補が存在してもよく、それにより、ＬＣＵフィルタリング係数選択の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させる。

【0230】

いずれかのＬＣＵについて、符号化デバイスはＲＤＯ決定に基づいて当該ＬＣＵが複数グループのフィルタリング係数において用いるフィルタリング係数を決定し、当該フィルタリング係数に対応する係数選択識別子をビットストリーム内に書き込んで復号デバイスに送信してもよい。復号デバイスは現在のＬＣＵの属する統合領域、及びビットストリームから解析して得られた現在のＬＣＵの係数選択識別子に基づいて、現在のＬＣＵのフィルタリング係数を決定してもよい。

【0231】

Ｔ８２０において、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0232】

本発明の実施例では、復号デバイスは、現在のＬＣＵのフィルタリング係数を決定した場合、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0233】

実施例に記載の方法フローでは、各ＬＣＵに複数グループのフィルタリング係数を設定し、ＲＤＯ決定に基づいて各ＬＣＵに用いられるフィルタリング係数を決定し、係数選択識別子によって決定結果を復号デバイスに通知することによって、各ＬＣＵに用いられるフィルタリング係数の柔軟性を高め、ＡＬＦフィルタリング性能を最適化し、符号化／復号性能を向上させることができる。

【0234】

いくつかの実施例では、Ｔ８１０において、ＬＣＵの属する統合領域及びＬＣＵの係数選択識別子に基づいて、ＬＣＵのフィルタリング係数を決定することは、現在のＬＣＵの係数選択識別子の値が第１の値である場合、現在のＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数を現在のＬＣＵのフィルタリング係数として決定することと、現在のＬＣＵの係数選択識別子の値が第２の値である場合、現在のＬＣＵの属する統合領域のフィルタリング係数を現在のＬＣＵのフィルタリング係数として決定することと、現在のＬＣＵの係数選択識別子の値が第３の値である場合、現在のＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数を現在のＬＣＵのフィルタリング係数として決定することと、を含み得る。

【0235】

例示的に、いずれかの統合領域内のいずれかのＬＣＵについては、当該ＬＣＵのフィルタリング係数候補は、当該統合領域のフィルタリング係数、当該統合領域の１つ前の統合領域のフィルタリング係数、及び当該統合領域の１つ後の統合領域のフィルタリング係数を含み得る。

【0236】

例示的に、ＬＣＵの属する統合領域の１つ前の統合領域は、ＬＣＵの属する統合領域のインデックスの１つ前の隣接インデックスに対応する統合領域である。ＬＣＵの属する統合領域の１つ後の統合領域はＬＣＵの属する統合領域のインデックスの１つ後の隣接インデックスに対応する統合領域である。

【0237】

固定領域分割方式で得られた１６個の領域に対して領域統合を行って得られた統合領域（統合領域０～統合領域１５の順であると仮定する）について、統合領域１５の１つ後の統合領域は統合領域０であってもよく、統合領域０の１つ前の統合領域は領域１５であってもよい。

【0238】

例示的に、いずれかのＬＣＵについて、符号化デバイスはＲＤＯ決定に基づいてそれに用いられるフィルタリング係数を決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が０などの第１の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が１などの第２の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が２などの第３の値であると決定してもよい。

【0239】

例示的に、いずれかのＬＣＵについては、復号デバイスによってビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第１の値である場合、当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよく、ビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第２の値である場合、当該ＬＣＵの属する統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよく、ビットストリームから解析して得られた当該ＬＣＵの係数選択識別子の値が第３の値である場合、当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数を当該ＬＣＵのフィルタリング係数として決定してもよい。

【0240】

これから分かるように、ＬＣＵの属する統合領域、当該ＬＣＵの属する統合領域の１つ前の統合領域及び１つ後の統合領域のフィルタリング係数をいずれもＬＣＵのフィルタリング係数候補とし、ＲＤＯ決定に基づいて１グループのフィルタリング係数を当該ＬＣＵのフィルタリング係数として選択することにより、１つの統合領域で１グループのフィルタリング係数のみをトレーニングしても、統合領域内のＬＣＵには複数グループのフィルタリング係数があるようにし、１つの統合領域に対して複数グループのフィルタリング係数をトレーニングする必要がなく、ＬＣＵのフィルタリング係数の柔軟性を高め、それによりＡＬＦフィルタリング性能を最適化し、符号化／復号性能を向上させた。
（実施例５）

【0241】

図７に示すのは、本発明の実施例により提供されるフィルタリング方法のフローチャートであり、ここで、当該フィルタリング方法は復号デバイスに適用されてもよく、図７に示すように、当該フィルタリング方法は以下のステップを含み得る。

【0242】

ステップＳ７００において、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、現在のＬＣＵの属する統合領域に基づいて、現在のＬＣＵの属する統合領域のフィルタ形状を取得する。

【0243】

ステップＳ７１０において、フィルタ形状に基づいて、現在のＬＣＵの属する統合領域のフィルタリング係数を取得する。

【0244】

本発明の実施例では、フィルタリング係数の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、各領域は、同一のフィルタ形状を用いることに限定されず、異なるフィルタ形状を選択的に用い、即ち、異なる統合領域に用いられるフィルタ形状は同じであっても異なってもよい。

【0245】

例示的に、いずれかの統合領域について、符号化デバイスは異なるフィルタ形状の複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタ形状及びフィルタリング係数を決定し、当該フィルタ形状及びフィルタリング係数をビットストリームに書き込んで復号デバイスに送信してもよい。

【0246】

例示的に、いずれかの統合領域について、復号デバイスは当該統合領域のフィルタリング係数を取得するとき、ビットストリームから当該統合領域のフィルタ形状を解析し、当該フィルタ形状に基づいて、ビットストリームから当該統合領域のフィルタリング係数を解析してもよい。

【0247】

ステップＳ７２０において、フィルタ形状及びフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0248】

本発明の実施例では、復号デバイスは、現在のＬＣＵのフィルタリング係数を決定した場合、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0249】

これから分かるように、図７に示す方法フローでは、各領域に複数グループの異なるフィルタ形状のフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて各統合領域に用いられるフィルタ形状及びフィルタリング係数を決定し、決定結果をビットストリームで復号デバイスに通知することにより、復号デバイスはビットストリームから各領域のフィルタ形状及びフィルタリング係数を解析して得ることができ、それにより、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させることができる。

【0250】

本発明の実施例では、画像フレームに対してフィルタ形状を選択し、又は画像フレームの成分（例えば輝度成分及び／又は色度成分）に対してフィルタ形状を選択してもよい。例えば、画像フレームＡが７＊７十字形＋５＊５正方形の中心対称フィルタ形状を選択する場合、画像フレームＡにおけるＡＬＦフィルタリングを開始する各ＬＣＵはいずれも７＊７十字形＋５＊５正方形の中心対称フィルタ形状を用いる。
（実施例６）

【0251】

図８に示すのは、本発明の実施例により提供されるフィルタリング方法のフローチャートであり、ここで、当該フィルタリング方法は復号デバイスに適用されてもよく、図８に示すように、当該フィルタリング方法は以下のステップを含み得る。

【0252】

ステップＳ８００において、現在の画像フレームの現在のＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、現在のＬＣＵの属する統合領域に基づいて、現在のＬＣＵの属する統合領域のフィルタリング係数及び各参照画素位置の重み係数を取得する。

【0253】

ステップＳ８１０において、フィルタリング係数及び各参照画素位置の重み係数に基づいて、現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0254】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＡＬＦフィルタリングを行うときに用いられるフィルタは、対称フィルタに限定されず、非対称フィルタを採用してもよく、即ち、対称位置のフィルタリング係数が異なり、０．５：１．５又は０．６：１．４など、一定の比率関係を満たしてもよい。

【0255】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、いずれかの非中心位置のフィルタリング係数については、当該フィルタリング係数及び当該フィルタリング係数の対称位置のフィルタリング係数と、それぞれの対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要があるため、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値の重みが異なることを意味する。

【0256】

例を挙げて言うと、７＊７十字形＋５＊５正方形の中心対称フィルタ形状のフィルタリング係数がＣ_ｉであり、その対称位置のフィルタリング係数がＣ_２８－ｉであり、従ってＣ_ｉ：Ｃ_２８－ｉ＝Ａ_ｉ：（２－Ａ_ｉ）、又は、Ｐ_ｉ及びＰ_２８－ｉがＡＬＦフィルタリング計算に参与するときの重みの比率がＡ_ｉ：（２－Ａ_ｉ）であり、Ｐ_ｉがＣ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉがＣ_２８－ｉに対応する参照画素位置の画素値であり、ＬＣＵの現在のフィルタリング画素について、当該画素のフィルタリング後の画素値は以下の方式で決定されてもよい。

【数2】

【0257】

Ｃ_ｉがＬＣＵの属する統合領域のフィルタリング係数における（ｉ＋１）番目のフィルタリング係数であり、Ｐ_ｉがフィルタリング係数Ｃ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉに対応する参照画素位置とＰ_ｉに対応する参照画素位置とは現在のフィルタリング画素の画素位置に対して中心対称であり、Ａ_ｉがＰ_ｉに対応する参照画素位置の画素値の重み係数であり、Ｐ_１４が現在のフィルタリング画素の画素値であり、Ｃ_１４が現在のフィルタリング画素のフィルタリング係数であり、０＜Ａ_ｉ＜２である。

【0258】

本発明の実施例では、いずれかの統合領域について、符号化デバイスは、各位置が異なる重み係数に対応する下で、当該統合領域のフィルタリング係数及びフィルタリング性能を決定してもよい。フィルタリング性能の最適な１グループのフィルタリング係数を選択し、当該フィルタリング係数及び対応するフィルタの各位置に対応する重み係数を記録し、それをビットストリームに書き込んで復号デバイスに送信する。

【0259】

例示的に、重み係数セット（例えば、上記Ａ_ｉの値セット）を予め構築し、当該セットから各重み係数をそれぞれ選択し、フィルタリング性能の最適なフィルタリング係数、及び対応するフィルタの各位置に対応する重み係数を得、当該重み係数の重み係数セットにおけるインデックスをビットストリームに書き込んで復号デバイスに送信してもよい。

【0260】

いずれかのＬＣＵについて、復号デバイスはビットストリームから当該ＬＣＵの属する統合領域のフィルタリング係数及び当該ＬＣＵの属する統合領域に対応する各参照画素位置の重み係数を解析し、ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。

【0261】

図８に示す方法フローでは、各統合領域に用いられるフィルタは対称フィルタに限定されず、対称位置の参照画素のフィルタリング係数は同じに限定されず、一定の比率関係を満たしてもよく、且つ対称位置のフィルタリング係数同士は当該比率関係を満たし、必要なフィルタリング係数の数は増やすことはないため、フィルタリング係数の柔軟性を高め、ＡＬＦフィルタリング性能を最適化し、符号化／復号性能を向上させた。
（実施例７）

【0262】

本発明の実施例は、符号化デバイスに適用されるフィルタリング方法を提供し、当該フィルタリング方法は以下のステップを含み得る。

【0263】

Ｔ１００において、現在の画像フレームの輝度成分に対して領域分割を行う。

【0264】

画像フレームの輝度成分の領域分割については、上記の「領域分割」に関する説明を参照されたい。

【0265】

Ｔ１１０において、いずれかの領域については、当該領域内の各ＬＣＵに対して分類し、且つ各ＬＣＵのクラスに基づいて当該領域を複数の領域クラスに分割する。

【0266】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、固定領域分割方式で画像フレームの輝度成分に対して領域分割を行って複数の領域を得るとき、各領域については、領域内の各画素の画素特性に基づいて、領域内のＬＣＵを少なくとも１つのクラスに分割し、即ち、１つの領域は、ＬＣＵ分類の方式によって少なくとも１つのサブ領域又は領域クラスに分割されてもよい。

【0267】

Ｔ１２０において、各領域クラスに対して領域統合を行い、各統合後の領域のフィルタリング係数を決定する。

【0268】

Ｔ１３０において、各統合後の領域のフィルタリング係数及び各ＬＣＵの領域クラス識別子をビットストリームに書き込む。

【0269】

本発明の実施例では、符号化デバイスは上記したように各領域内のＬＣＵを分類した場合、符号化デバイスは各領域クラスに対して領域統合を行い、少なくとも１つの統合後の領域を得、各統合後の領域のフィルタリング係数を決定する。

【0270】

各領域クラスに対して領域統合を行う実現方式は、上記の「領域統合」の部分の関連説明と類似しているため、ここでは詳しい説明を省略する。

【0271】

例示的に、いずれかの領域クラスについて、符号化デバイスは、その属する統合後の領域に基づいて１つの係数インデックスを割り当ててもよく、当該係数インデックスはそのうちの１つの統合後の領域のフィルタリング係数に対応する。

【0272】

本発明の実施例では、符号化デバイスは各統合後の領域のフィルタリング係数、各領域クラスのインデックス及び各ＬＣＵの属する領域クラスを識別するための領域クラス識別子をビットストリームに書き込み、復号デバイスに送信してもよい。

【0273】

復号デバイスの処理フローは上記実施例における関連説明を参照してもよく、ここでは詳しい説明を省略する。
（実施例８）

【0274】

本発明の実施例は、符号化デバイスに適用されるフィルタリング方法を提供し、当該フィルタリング方法は以下のステップを含み得る。

【0275】

Ｔ２００において、現在の画像フレームのいずれかの統合領域について、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタリング係数を決定する。

【0276】

Ｔ２１０において、当該領域に用いられるフィルタリング係数に基づいて当該統合領域の領域係数識別子を決定し、ここで、当該領域係数識別子は、予め設定された複数グループのフィルタリング係数内の、当該統合領域に用いられるフィルタリング係数を識別するために用いられる。

【0277】

Ｔ２２０において、各統合領域に用いられるフィルタリング係数及び各統合領域の領域係数識別子をビットストリームに書き込む。

【0278】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、１つの統合領域に用いられるフィルタリング係数は１グループのフィルタリング係数に限定されず、実際の状況に応じて１グループ又は複数グループのフィルタリング係数を選択して用いてもよい。

【0279】

いずれかの統合領域について、符号化デバイスは複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域が当該複数グループのフィルタリング係数のうちの１グループ又は複数グループを用いると決定し、当該統合領域に用いられるフィルタリング係数を識別するための領域係数識別子をビットストリームに書き込んでもよい。

【0280】

復号デバイスの処理フローは上記実施例における関連説明を参照してもよく、ここでは詳しい説明を省略する。

【0281】

上記フィルタリング方法はさらに、現在の画像フレームのいずれかの統合領域について、当該統合領域に用いられるフィルタリング係数が複数グループを含む場合、当該統合領域内の各ＬＣＵに用いられるフィルタリング係数に基づいて、各ＬＣＵのＬＣＵ係数識別子を決定することと、各ＬＣＵのＬＣＵ係数識別子をビットストリームに書き込むことと、を含み得る。

【0282】

例示的に、符号化デバイスは、領域係数識別子によって統合領域が１グループ又は複数グループのフィルタリング係数を用いることを復号デバイスに通知してもよい。当該統合領域のいずれかのＬＣＵについて、符号化デバイスはＬＣＵ係数識別子によって当該統合領域に用いられる１グループ又は複数グループのフィルタリング係数内の、当該ＬＣＵに用いられるフィルタリング係数を識別してもよい。

【0283】

いずれかの統合領域について、符号化デバイスは当該統合領域が複数グループのフィルタリング係数を用いると決定した場合、当該統合領域のいずれかのＬＣＵについて、符号化デバイスはＬＣＵ係数識別子によって当該複数グループのフィルタリング係数内の、当該ＬＣＵに用いられるフィルタリング係数を復号デバイスに通知してもよい。

【0284】

いずれかのＬＣＵについては、当該ＬＣＵに対してＡＬＦフィルタリングを開始しない場合、符号化デバイスによってビットストリームに書き込む可能な当該ＬＣＵのＬＣＵ係数識別子の値が第１の値である。例を挙げて言うと、第１の値が０であると仮定すると、いずれかのＬＣＵについて、符号化デバイスは当該ＬＣＵに対してＡＬＦフィルタリングを開始しないと決定した場合、ビットストリームに書き込まれる当該ＬＣＵのＬＣＵ係数識別子の値が０である。
（実施例９）

【0285】

本発明の実施例は、符号化デバイスに適用されるフィルタリング方法を提供し、当該フィルタリング方法は以下のステップを含み得る。

【0286】

Ｔ３００において、現在の画像フレームのいずれかの統合領域について、ＲＤＯ決定に基づいて複数グループのフィルタリング係数から当該統合領域に用いられるフィルタリング係数を決定する。

【0287】

Ｔ３１０において、当該領域に用いられるフィルタリング係数に基づいて、当該統合領域内の各ＬＣＵの係数選択識別子を決定し、ここで、当該係数選択識別子は、各ＬＣＵが複数グループのフィルタリング係数から選択して用いるフィルタリング係数を識別するために用いられる。

【0288】

Ｔ３２０において、各統合領域に用いられるフィルタリング係数及び各ＬＣＵの係数選択識別子をビットストリームに書き込む。

【0289】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＬＣＵは、その属する統合領域のフィルタリング係数を選択することに限定されず、複数グループのフィルタリング係数から１グループのフィルタリング係数を適応的に選択してＡＬＦフィルタリングを行ってもよい。

【0290】

例示的に、いずれかのＬＣＵについて、当該ＬＣＵのフィルタリング係数候補は、その属する統合領域のフィルタリング係数及びその属する統合領域に隣接する領域のフィルタリング係数を含むがこれらに限定されず、それにより、各領域で１グループのフィルタリング係数を伝達する場合、１つのＬＣＵに複数グループのフィルタリング係数候補が存在してもよく、それにより、ＬＣＵフィルタリング係数選択の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させる。

【0291】

例示的に、いずれかのＬＣＵについて、符号化デバイスはＲＤＯ決定に基づいて当該ＬＣＵが複数グループのフィルタリング係数において用いるフィルタリング係数を決定し、当該フィルタリング係数に対応する係数選択識別子をビットストリーム内に書き込んで復号デバイスに送信してもよい。

【0292】

復号デバイスの処理フローは上記実施例における関連説明を参照してもよく、ここでは詳しい説明を省略する。

【0293】

いずれかの統合領域内のいずれかのＬＣＵについては、当該ＬＣＵのフィルタリング係数候補は、当該統合領域のフィルタリング係数、当該統合領域の１つ前の統合領域のフィルタリング係数、及び当該統合領域の１つ後の統合領域のフィルタリング係数を含み得る。

【0294】

固定領域分割方式で得られた１６個の領域に対して領域統合を行って１６個の統合領域を含むこと（統合領域０～統合領域１５の順であると仮定する）について、統合領域１５の１つ後の統合領域は統合領域０であってもよく、統合領域０の１つ前の統合領域は領域１５であってもよい。

【0295】

いずれかのＬＣＵについて、符号化デバイスはＲＤＯ決定に基づいてそれに用いられるフィルタリング係数を決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が０などの第１の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が１などの第２の値であると決定してもよく、当該ＬＣＵに用いられるフィルタリング係数が当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数であると決定した場合、当該ＬＣＵの係数選択識別子の値が２などの第３の値であると決定してもよい。
（実施例１０）

【0296】

本発明の実施例は、符号化デバイスに適用されるフィルタリング方法を提供し、当該フィルタリング方法は以下のステップを含み得る。

【0297】

Ｔ４００において、現在の画像フレームのいずれかの統合領域について、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタ形状及びフィルタリング係数を決定する。

【0298】

Ｔ４１０において、各統合領域に用いられるフィルタ形状及びフィルタリング係数をビットストリームに書き込む。

【0299】

本発明の実施例では、フィルタリング係数の柔軟性を高め、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、各統合領域は、同一のフィルタ形状を用いることに限定されず、異なるフィルタ形状を選択的に用い、即ち、異なる統合領域に用いられるフィルタ形状は同じであっても異なってもよい。

【0300】

例示的に、いずれかの統合領域について、符号化デバイスは異なるフィルタ形状の複数グループのフィルタリング係数をトレーニングし、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタ形状及びフィルタリング係数を決定し、当該フィルタ形状及びフィルタリング係数をビットストリームに書き込んで復号デバイスに送信してもよい。

【0301】

復号デバイスの処理フローは上記実施例における関連説明を参照してもよく、ここでは詳しい説明を省略する。

【0302】

本発明の実施例では、画像フレームに対してフィルタ形状を選択し、又は画像フレームの成分（例えば輝度成分及び／又は色度成分）に対してフィルタ形状を選択してもよい。例えば、画像フレームＡが７＊７十字形＋５＊５正方形の中心対称フィルタ形状を選択する場合、画像フレームＡにおけるＡＬＦフィルタリングを開始する各ＬＣＵはいずれも７＊７十字形＋５＊５正方形の中心対称フィルタ形状を用いる。
（実施例１１）

【0303】

本発明の実施例は、符号化デバイスに適用されるフィルタリング方法を提供し、当該フィルタリング方法は以下のステップを含む。

【0304】

Ｔ５００において、現在の画像フレームのいずれかの統合領域について、ＲＤＯ決定に基づいて当該統合領域に用いられるフィルタリング係数及び対応する各参照画素位置の重み係数を決定する。

【0305】

Ｔ５１０において、各統合領域に用いられるフィルタリング係数及び対応する各参照画素位置の重み係数をビットストリームに書き込む。

【0306】

本発明の実施例では、ＡＬＦフィルタリング効果を最適化し、符号化／復号性能を向上させるために、ＡＬＦフィルタリングを行うときに用いられるフィルタは、対称フィルタに限定されず、非対称フィルタを採用してもよく、即ち、対称位置のフィルタリング係数が異なり、０．５：１．５又は０．６：１．４など、一定の比率関係を満たしてもよい。

【0307】

例を挙げて言うと、図１３に示すフィルタを例として、図１３に示すフィルタでは、Ｃ１４の位置に関する中心対称であるフィルタリング係数は、同じに限定されず、Ｃ１：Ｃ２７＝０．５：１．５、Ｃ６：Ｃ２２＝０．６：１．４など、一定の比率関係を満たしてもよい。

【0308】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、いずれかの非中心位置のフィルタリング係数については、当該フィルタリング係数及び当該フィルタリング係数の対称位置のフィルタリング係数と、それぞれの対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要がある。従って、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値の重みが異なることを意味する。

【0309】

例を挙げて言うと、図１３に示す７＊７十字形＋５＊５正方形の中心対称フィルタ形状のフィルタリング係数がＣ_ｉであり、その対称位置のフィルタリング係数がＣ_２８－ｉであり、従ってＣ_ｉ：Ｃ_２８－ｉ＝Ａ_ｉ：（２－Ａ_ｉ）、又は、Ｐ_ｉ及びＰ_２８－ｉがＡＬＦフィルタリング計算に参与するときの重みの比率がＡ_ｉ：（２－Ａ_ｉ）であり、Ｐ_ｉがＣ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉがＣ_２８－ｉに対応する参照画素位置の画素値であり、ＬＣＵの現在のフィルタリング画素について、当該画素のフィルタリング後の画素値は以下の方式で決定されてもよい。

【数3】

【0310】

Ｃ_ｉがＬＣＵの属する統合領域のフィルタリング係数における（ｉ＋１）番目のフィルタリング係数であり、Ｐ_ｉがフィルタリング係数Ｃ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉに対応する参照画素位置とＰ_ｉに対応する参照画素位置とは現在のフィルタリング画素の画素位置に対して中心対称であり、Ａ_ｉがＰ_ｉに対応する参照画素位置の画素値の重み係数であり、Ｐ_１４が現在のフィルタリング画素の画素値であり、Ｃ_１４が現在のフィルタリング画素のフィルタリング係数であり、０＜Ａ_ｉ＜２である。

【0311】

図１３に示すフィルタのように、Ｃ_ｉ：Ｃ_２８－ｉ＝Ａ_ｉ（２－Ａ_ｉ）と仮定すると、対称位置（Ｃ１４に関する中心対称）のフィルタリング係数が異なる場合では、Ｃ０～Ｃ１４の１５個の係数をトレーニングするだけでよく、他の係数は重み係数に基づいて決定されてもよい。例えば、Ａ１＝０．５と仮定すると、Ｃ１：Ｃ２７＝０．５：１．５であり、Ａ０＝０．６と仮定すると、Ｃ０：Ｃ２８＝０．６：１．４である。

【0312】

本発明の実施例では、いずれかの統合領域について、符号化デバイスは、各位置が異なる重み係数に対応する下で、当該統合領域のフィルタリング係数及びフィルタリング性能を決定してもよい。フィルタリング性能の最適な１グループのフィルタリング係数を選択し、当該フィルタリング係数及び対応するフィルタの各位置に対応する重み係数を記録し、それをビットストリームに書き込んで復号デバイスに送信する。

【0313】

例示的に、重み係数セット（例えば、上記Ａ_ｉの値セット）を予め構築し、当該セットから各重み係数をそれぞれ選択し、フィルタリング性能の最適なフィルタリング係数、及び対応するフィルタの各位置に対応する重み係数を得、当該重み係数の重み係数セットにおけるインデックスをビットストリームに書き込んで復号デバイスに送信してもよい。

【0314】

復号デバイスの処理フローは上記実施例における関連説明を参照してもよく、ここでは詳しい説明を省略する。

【0315】

当業者が本発明の実施例により提供される技術案をよりよく理解しやすいために、以下、具体的な実施例を合わせて本発明の実施例により提供される技術案について説明する。

【0316】

従来のＡＬＦ技術の欠点に対して、本発明の実施例は以下の最適化手段を提供する。

【0317】

手段１、ＬＣＵを最小単位として、各フレームを複数の領域に適応的に分割し、各領域は、１つ以上のＬＣＵを含み得、従って、各ＬＣＵを分類し、同一領域のＬＣＵをＮ（Ｎは正の整数）個のクラスに分類することを提案する。

【0318】

手段２、各領域において複数グループのフィルタリング係数を伝達してもよく、各グループのフィルタ形状は同じであっても異なってもよい。

【0319】

手段３、各ＬＣＵに基づいて１グループのフィルタリング係数を適応的に選択し、同一領域のＬＣＵは隣接領域のフィルタリング係数を選択してもよい。

【0320】

手段４、各領域において１グループのフィルタリング係数しか伝達できないが、各領域のフィルタ形状が異なってもよい。

【0321】

手段５、対称フィルタを非対称フィルタに変更し、対称位置におけるフィルタリング係数が同じであることを、対称位置におけるフィルタリング係数が一定の比率関係、例えば０．５：１．５又は０．６：１．４などを満たすように最適化することを含む。

【0322】

手段６、フィルタリング時の境界のサンプル値に対して最適化を行う。

【0323】

以下ではまず符号化側と復号側のそれぞれから本発明の主な改善点について説明する。
一、符号化方法及び符号化デバイス

【0324】

符号化デバイスについては、ＡＬＦスイッチシーケンスヘッダを取得し、現在のシーケンスにＡＬＦ技術を開始する必要があるか否かを判断する。ＡＬＦスイッチシーケンスヘッダがオフである場合、ＡＬＦ技術はオフであり、ＡＬＦ技術の最適化（即ち、上記手段１～手段６のうちの１つ以上の最適化手段を含む本発明の実施例により提供されるＡＬＦフィルタリング手段の従来のＡＬＦ技術に対する最適化）もオフであり、ＡＬＦスイッチシーケンスヘッダを復号デバイスに伝送する。ＡＬＦスイッチシーケンスヘッダがオンである場合、ＡＬＦ技術符号化に入り、ＡＬＦ技術最適化シーケンスヘッダを取得することができる。

【0325】

ＡＬＦ技術の最適化がオフである場合、元のＡＬＦ技術を用いてフィルタリングを行う。ＡＬＦスイッチシーケンスヘッダ、最適化技術シーケンスヘッダ及びＡＬＦ技術に必要なパラメータを復号デバイスに伝送する。

【0326】

ＡＬＦ技術の最適化がオンである場合、以下の方式で最適化してもよく、ＡＬＦスイッチシーケンスヘッダ、最適化技術シーケンスヘッダ及び最適化されたＡＬＦ技術に必要なパラメータを復号デバイスに伝送する。

【0327】

例示的に、最適化技術シーケンスヘッダが存在しなくてもよく、この場合、ＡＬＦスイッチシーケンスヘッダがオンになると、最適化されたＡＬＦ技術手段を用いると決定する。

【0328】

１．１、ＬＣＵを最小単位として適応的領域分割を行う

【0329】

輝度成分に対して固定領域分割を行い、複数の領域を得、同一の領域に属するＬＣＵに対して再度分割し（即ち、同一の領域内の各ＬＣＵを分類する）、同一の領域は最大でＮ１個（Ｎ１は正の整数である）のクラスにさらに分割される。例示的に、Ｎ１＝２である場合、領域総数は最大で元の２倍であり、Ｎ１＝１である場合、元の固定領域分割手段である。

【0330】

符号化デバイスは各領域内のＬＣＵ分割の結果をマーキングして復号デバイスに送信してもよい（即ち、各ＬＣＵの領域クラス識別子を復号デバイスに送信する）。

【0331】

１．２、各領域において複数グループのフィルタリング係数手段を伝達してもよい

【0332】

いずれかの統合領域については、最大でｎグループのフィルタリング係数を伝達してもよい。当該統合領域内の各ＬＣＵをマーキングする。０はオフ、即ちＡＬＦフィルタリングを開始しないことを示し、ｉは現在のＬＣＵが当該領域内のあるグループのフィルタリング係数を用いることを示し、ｉの値の範囲は［１，ｎ］である。

【0333】

例示的に、各セットのフィルタリング係数の取得方法は以下のとおりである。フィルタリング係数を初めてトレーニングするとき、全てのＬＣＵがＡＬＦフィルタリングを開始するとデフォルトし、決定した後、オフのＬＣＵ（即ちＡＬＦフィルタリングを開始しないＬＣＵ）については、二回目のフィルタリング係数のトレーニングに参加せず、また、同じマークを有するＬＣＵは同じグループのフィルタリング係数を共にトレーニングする。

【0334】

同様に、３回目のフィルタリング係数のトレーニングは、二回目の決定の結果に基づいて行われる。

【0335】

最後に、フレームレベル又は領域レベルに基づいて、当該画像フレーム又は当該統合領域が最大でｎグループのフィルタリング係数を用いると決定し、最後に、各統合領域に対応するフィルタリング係数をビットストリームに書き込む。

【0336】

１．３、各ＬＣＵが１グループのフィルタリング係数を適応的に選択する

【0337】

輝度成分については、いずれかのＬＣＵについて、決定時に現在のＬＣＵが位置する領域のフィルタリング係数又は他の領域のフィルタリング係数を選択して用いてもよく、各ＬＣＵの選択可能なフィルタ数の最大値はＮ２（即ちＮ２グループのフィルタリング係数、Ｎ２≧２）であり、Ｎ２グループのフィルタリング係数でＲＤＯ決定を行い、性能の最適な１グループのフィルタリング係数を選択し、現在ＬＣＵの最適な選択結果を復号デバイスに送信する（即ち係数選択識別子を復号デバイスに送信する）。例示的に、Ｎ２は統合後の領域の数以下である。

【0338】

１．４、各領域が異なる形状のフィルタを選択する

【0339】

各領域は、１グループのフィルタリング係数を伝達するため、いずれかのＬＣＵについて、符号化デバイスは、当該ＬＣＵに対してＡＬＦフィルタリングを開始する、又は開始しない（即ち、オフにする）ことを、１つのフラグビットにより復号デバイスに通知することができる。

【0340】

各領域のフィルタリング係数を計算する際には、いずれかの統合領域について、Ｎ３（Ｎ３≧２）種の異なるフィルタ形状でのフィルタリング係数をそれぞれ計算し、Ｎ３種のフィルタ形状でのフィルタ性能をそれぞれ計算し、性能の最適な１種のフィルタ形状を選択してもよい。その後、各統合領域内の性能の最適なフィルタ形状及びフィルタリング係数をビットストリームで復号デバイスに通知する。

【0341】

また、符号化デバイスは、フレームレベルに基づいて異なる形状のフィルタを選択してもよいし、Ｙ、Ｕ、Ｖ成分に基づいて異なる形状のフィルタを選択してもよい。フレームレベルに基づいて異なる形状のフィルタを選択することを例として、いずれかの画像フレームについては、Ｎ４種の異なるフィルタ形状でのフィルタリング係数をそれぞれ計算し、Ｎ４（Ｎ４≧２）種のフィルタ形状で、当該画像フレームのフィルタリング性能をそれぞれ計算し、性能の最適な１種のフィルタ形状を選択してもよい。その後、当該画像フレームの性能の最適なフィルタ形状及び各領域のフィルタリング係数をビットストリームで復号デバイスに通知する。

【0342】

１．５、対称フィルタを非対称フィルタに変更する。

【0343】

【数4】

【0344】

例示的に、対称フィルタを非対称フィルタに変更した後、対称位置のフィルタリング係数は異なる比率関係を満たし、それにより係数トレーニングを行う時、依然として

【数5】

のフィルタリング係数をトレーニングすればよい。

【0345】

図４Ａに示すフィルタ形状を例にとると、Ｃ_ｉとＣ_２８－ｉは対称位置である。ＲＤＯ決定により各対称位置のフィルタリング係数の比率関係を選択してもよく、各位置のフィルタリング係数及び対称位置のフィルタリング係数の比率をビットストリームで復号デバイスに送信する。例示的に、全ての対称位置のフィルタリング係数の比率が１：１である場合、トレーニングにより得られたフィルタは依然として対称フィルタである。
二、復号方法及び復号デバイス

【0346】

復号デバイスについては、ビットストリームからＡＬＦスイッチシーケンスヘッダを読み取り、現在のシーケンスにＡＬＦ技術を開始する必要があるか否かを判断してもよい。ＡＬＦスイッチシーケンスヘッダがオフである場合、ＡＬＦ技術はオフである。ＡＬＦスイッチシーケンスヘッダがオンである場合、続いてＡＬＦ技術最適化シーケンスヘッダを読み取ってもよい。

【0347】

ＡＬＦ技術最適化シーケンスヘッダがオフである場合、元ＡＬＦ技術に必要なフィルタリングパラメータを取得し、ＡＬＦ技術最適化シーケンスヘッダがオンである場合、最適化されたＡＬＦ技術に必要なフィルタリングパラメータを読み取る。

【0348】

例示的に、ＡＬＦ最適化技術シーケンスヘッダが存在しなくてもよく、この場合、ＡＬＦスイッチシーケンスヘッダがオンである場合、最適化されたＡＬＦ技術に必要なフィルタリングパラメータを読み取る。

【0349】

２．１、ＬＣＵを最小単位として適応的領域分割を行う

【0350】

輝度成分に対して固定領域分割を行い、複数の領域を得、ビットストリームから全領域のフィルタリング係数を読み取り、ＡＬＦフィルタリングを開始する全てのＬＣＵの領域クラス識別子をビットストリームから読み取り、固定領域分割結果、及びＬＣＵの領域クラス識別子に基づいてＬＣＵの属する領域クラスを決定し、ＬＣＵの属する領域クラスに基づいて、対応するフィルタリング係数を取得し、ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0351】

２．２、各領域において複数グループのフィルタリング係数手段を伝達してもよい

【0352】

ビットストリームからフレームレベル又は領域レベル係数識別子を読み取り、フレームレベル又は領域レベル係数識別子に基づいてビットストリームから各統合領域における複数グループのフィルタリング係数を取得し、フレームレベル又は領域レベル係数識別子によって選択可能なフィルタ数（即ちフィルタリング係数のグループ数）を決定する。

【0353】

ビットストリームから各ＬＣＵのＬＣＵ係数識別子を取得し、各ＬＣＵのＬＣＵ係数識別子に基づいて１グループのフィルタリング係数を選択する。現在のＬＣＵに対してフィルタリングを行うとき、当該グループのフィルタリング係数を用いて当該ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0354】

２．３、各ＬＣＵが１グループのフィルタリング係数を適応的に選択する

【0355】

各領域のフィルタリング係数、及び各ＬＣＵのＡＬＦフラグビット（即ち、ＬＣＵに対してＡＬＦフィルタリングを開始するか又は開始しない）をビットストリームから読み取り、ＡＬＦフィルタリングを開始する各ＬＣＵについては、当該ＬＣＵの係数選択識別子をビットストリームから読み取る。

【0356】

いずれかのＬＣＵについては、選択可能なフィルタの数は最大でＮ２個（即ちフィルタリング係数候補は最大でＮ２グループ）である。

【0357】

２．４、各領域が異なる形状のフィルタを選択する

【0358】

いずれかの統合領域については、ビットストリームから当該統合領域のフィルタ形状を読み取り、フィルタ形状に基づいて、当該統合領域のフィルタリング係数を読み取ってもよい。フィルタ形状及びフィルタリング係数に基づいて当該統合領域内の各ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0359】

２．５、対称フィルタを非対称フィルタに変更する。

【0360】

各統合領域のフィルタリング係数をビットストリームから読み取り、対称位置のフィルタリング係数の比率係数を読み取る。

【0361】

各位置におけるフィルタリング係数及び対称位置のフィルタリング係数の比率係数に応じて、当該統合領域の各位置におけるフィルタリング係数を導出し、当該統合領域内の各ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。

【0362】

以下、フィルタリング境界のサンプル値の最適化手段について説明する。
（実施例１２）
フィルタリング境界のサンプル値の最適化手段１

【0363】

フィルタ形状は図４Ａに示すものであると仮定する。適応的補正フィルタリングプロセスに用いられるサンプル（即ち、適応的補正フィルタリングユニットにおける現在のフィルタリング画素に対してフィルタリングを行うときの参照画素）は適応的補正フィルタリングユニット内のサンプル（即ち当該参照画素は適応的補正フィルタリングユニット内に位置する）である場合、当該サンプルを用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルに属しない（即ち当該参照画素は適応的補正フィルタリングユニット内に位置しない）場合、以下の方法に従ってフィルタリングを行う。

【0364】

１２．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されない場合、

【0365】

１２．１．１、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応する場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0366】

１２．１．２、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応しない場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0367】

１２．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、

【0368】

１２．２．１、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応する場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0369】

１２．２．２、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応しない場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0370】

１２．３、当該サンプルは１２．１の条件と１２．２の条件のいずれも満たさない場合、当該サンプルを用いてフィルタリングを行う。
（実施例１３）
フィルタリング境界のサンプル値の最適化手段２

【0371】

フィルタ形状は図４Ａに示すものであると仮定する。適応的補正フィルタリングプロセスに用いられるサンプル（即ち、適応的補正フィルタリングユニットにおける現在のフィルタリング画素に対してフィルタリングを行うときの参照画素）は適応的補正フィルタリングユニット内のサンプル（即ち当該参照画素は適応的補正フィルタリングユニット内に位置する）である場合、当該サンプルを用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルに属しない（即ち当該参照画素は適応的補正フィルタリングユニット内に位置しない）場合、以下の方法に従ってフィルタリングを行う。

【0372】

１３．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されない場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0373】

１３．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0374】

１３．３、当該サンプルは１３．１の条件と１３．２の条件のいずれも満たさない場合、当該サンプルを用いてフィルタリングを行う。
（実施例１４）
フィルタリング境界のサンプル値の最適化手段３

【0375】

フィルタ形状は図４Ａに示すものであると仮定する。適応的補正フィルタリングプロセスに用いられるサンプル（即ち、適応的補正フィルタリングユニットにおける現在のフィルタリング画素に対してフィルタリングを行うときの参照画素）は適応的補正フィルタリングユニット内のサンプル（即ち当該参照画素は適応的補正フィルタリングユニット内に位置する）である場合、当該サンプルを用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルに属しない（即ち当該参照画素は適応的補正フィルタリングユニット内に位置しない）場合、以下の方法に従ってフィルタリングを行う。

【0376】

１４．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されない場合、

【0377】

１４．１．１、ＥａｌｆＥｎａｂｌｅＦｌａｇ（拡張適応的補正フィルタリングのイネーブルフラグビット）が１である場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0378】

１４．１．２、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0379】

１４．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、

【0380】

１４．２．１、ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0381】

１４．２．２、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0382】

１４．３、当該サンプルは１４．１の条件と１４．２の条件のいずれも満たさない場合、当該サンプルを用いてフィルタリングを行う。

【0383】

ＥａｌｆＥｎａｂｌｅＦｌａｇは、値が「１」又は「０」を含み得る１つのｆｌａｇであり、ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、拡張適応的補正フィルタリングを用いることができると示し、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、拡張適応的補正フィルタリングを用いるべきでないと示す。例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値は復号側から導出されてもよく、又は復号側においてビットストリームから取得されてもよく、ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値であってもよい。ＥａｌｆＥｎａｂｌｅＦｌａｇの値がｅａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ（即ち拡張適応的補正フィルタリング許可フラグ）の値に等しくてもよく、ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、拡張適応的補正フィルタリングを用いることができると示し、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、拡張適応的補正フィルタリングを用いるべきでないと示す。
（実施例１５）
フィルタリング境界のサンプル値最適化手段４

【0384】

サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、又は現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、当該サンプルの真値を取得することができず、当該サンプルの代わりに、現在の適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0385】

現在の適応的補正フィルタリングユニットは、図４Ａに示す第１のフィルタを用いてフィルタリングを行ってもよく、現在の適応的補正フィルタリングユニットは図９に示す第２のフィルタを用いてフィルタリングを行ってもよい。

【0386】

現在の適応的補正フィルタリングユニットが図４Ａに示す第１のフィルタを用いてフィルタリングを行うと仮定すると、フィルタ形状は図４Ａに示すとおりである。

【0387】

適応的補正フィルタリングプロセスに用いられるいずれかのサンプル（現在の適応的補正フィルタリングユニットにおける現在のフィルタリング画素に対してフィルタリングを行うときの参照画素サンプル）が現在の適応的補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるいずれかのサンプルが現在の適応的補正フィルタリングユニット内のサンプルに属しない場合、以下の方法に従ってフィルタリングを行う。

【0388】

１５．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し、且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行い、ＣｐｌｆＥｎａｂｌｅＦｌａｇは、パッチ境界を越えて適応的補正フィルタリングを行うことができるか否かを示すために用いられる。

【0389】

１５．２、当該サンプルが現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、当該サンプルの代わりに、現在の適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0390】

１５．３、そうではない場合、当該サンプルを直接用いてフィルタリングを行う。

【0391】

例示的に、ＣｐｌｆＥｎａｂｌｅＦｌａｇはパッチ境界を越えて値を取ることが許可されるか否かを示し、ｃｒｏｓｓ＿ｐａｔｃｈ＿ｌｏｏｐｆｉｌｔｅｒ＿ｅｎａｂｌｅ＿ｆｌａｇと呼ばれてもよい。

【0392】

図４Ｃに示すように、現在の適応的補正フィルタリングユニットにおいて適応的補正フィルタリングを行う画素位置は１４サンプル位置であり、現在の適応的補正フィルタリングユニット外部の参照画素サンプルを取得する必要があり、図４Ｃに示すように、一例として、参照画素サンプル０，１，２，３，４，５，６，７，８，９，１０は現在の適応的補正フィルタリングユニットの上境界外に位置し、これらの位置のサンプル値が取得できない場合、他のサンプル値を見つけて代替する必要がある。

【0393】

フィルタリングサンプルが現在の適応的補正フィルタリングユニットの左上隅にある時、例えば、参照画素サンプル１，２，６及び７位置のサンプル値が取得できない場合、現在の適応的補正フィルタリングユニットのうち、当該サンプル１，２，６，７から最も近いサンプル位置のサンプル値を用いてフィルタリングを行い、１４サンプル位置は現在の適応的補正フィルタリングユニットのうち、これら４つのサンプルから最も近い位置であり、従って、１４サンプル位置のサンプル値をこれら４つのサンプルのそれぞれの値としてフィルタリングを行ってもよい。

【0394】

参照画素サンプル４，５，９，１０位置のサンプル値が取得できない場合、現在の適応的補正フィルタリングユニットのうち、４，５，９，１０から最も近いサンプル位置のサンプル値を用いてフィルタリングを行い、ここで、サンプル位置１５は現在の適応的補正フィルタリングユニットのうち、４，９サンプルから最も近いサンプル位置であり、サンプル位置１５のサンプル値を４，９サンプルのそれぞれの値としてフィルタリングを行ってもよく、ここで、１６サンプル位置は現在の適応的補正フィルタリングユニットのうち、５，１０サンプルから最も近いサンプル位置であり、１６サンプル位置のサンプル値を５，１０サンプルのそれぞれの値としてフィルタリングを行ってもよい。参照画素サンプル０，３，８位置のサンプル値が取得できない場合、現在の適応的補正フィルタリングユニットのうち、当該サンプル０，３，８から最も近いサンプル位置のサンプル値を用いてフィルタリングを行い、１４サンプル位置は現在の適応的補正フィルタリングユニットのうち、これら３つのサンプルから最も近い位置であり、従って、１４サンプル位置のサンプル値をこれら３つのサンプルのそれぞれの値としてフィルタリングを行ってもよい。

【0395】

以上は一部の参照画素サンプルが取得できない時の値の取得方式の例に過ぎず、全ての場合を示すものではなく、本発明の保護範囲を限定するものでもない。

【0396】

以下、ＡＬＦフィルタリング最適化手段について説明する。
（実施例１６）
ＬＣＵを最小単位として適応的領域分割を行う
符号化デバイス

【0397】

図２に示す固定領域分割方式を例として、画像フレームの輝度成分については、上記の「領域分割」の部分で説明した方式で固定領域分割を行ってもよい。輝度成分を１６個の領域に分割し、各領域はＫ（Ｋ∈［０，１５］）とマーキングされ、各領域内に１つ以上のＬＣＵがある。

【0398】

同一領域に属するＬＣＵを再度分割する。

【0399】

例示的に、領域内のＬＣＵ分割方法はＬＣＵ統合の方式を用いてもよく、ＬＣＵを２つずつ統合するコストを計算し、コストの最も小さい２つのＬＣＵを統合し、このように類推し、統合が［１，Ｎ６］クラスのみを残す全てのコストを計算し、コストの最も小さい分割方法を選択する。各ＬＣＵの最後の選択をマーキングする。

【0400】

最大で２クラスに分割することを例とし、即ち上記Ｎ６＝２であり、従って、各ＬＣＵは１又は０とマーキングされ、即ち上記ＬＣＵの領域クラス識別子の値は１又は０を含む。

【0401】

例示的に、０とマーキングされる（即ち領域クラス識別子の値が０である）ＬＣＵについて、所属する領域クラスは２Ｋであり、１とマーキングされる（即ち領域クラス識別子の値が１である）ＬＣＵについて、所属するクラスは２Ｋ＋１である。

【0402】

例示的に、輝度成分は、最大で３２個の領域に分割される。領域分割後、３２個の領域に対して領域統合を行い、各統合後の領域のフィルタリング係数を計算する。ＬＣＵ領域分割結果（即ち各ＬＣＵの領域クラス識別子）及び当該領域分割後に得られたフィルタリング係数をビットストリームで復号デバイスに送信する。
復号デバイス

【0403】

画像フレームの輝度成分については、上記の「領域分割」の部分で説明した方式で固定領域分割を行ってもよい。輝度成分を１６個の領域に分割し、その分割結果の概略図は図２に示すものであってもよい。

【0404】

領域ＫのいずれかのＬＣＵについては、当該ＬＣＵの領域クラス識別子を取得し、領域クラス識別子の値が０であるＬＣＵの所属する領域クラスが２Ｋであり、領域クラスが１であるＬＣＵの所属する領域クラスが２Ｋ＋１である。

【0405】

各ＬＣＵの領域クラス及びビットストリームから解析して得られたフィルタリング係数に基づいて、各ＬＣＵのフィルタリング係数を決定し、各ＬＣＵのフィルタリング係数に基づいて各ＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行う。
（実施例１７）
各領域において２グループのフィルタリング係数手段を伝達してもよい
符号化デバイス

【0406】

各ＬＣＵをマーキングし、０がＡＬＦフィルタリングをオフにすることを示し、１が第１のグループのフィルタリング係数を用いることを示し、２が第２のグループのフィルタリング係数を用いることを示すと仮定すると、ＬＣＵのＬＣＵ係数識別子の値は０、１又は２を含み、上記第１の値が０であり、非第１の値は１又は２を含む。

【0407】

各領域に対して係数をマーキングし、０が第１のグループのフィルタリング係数しか用いないことを示し、１が第２のグループのフィルタリング係数しか用いないことを示し、２が２グループのフィルタリング係数を用いることを示す。

【0408】

例示的に、第１のグループのフィルタリング係数のフィルタ形状は図４Ａに示すものであってもよく、第２のグループのフィルタリング係数のフィルタ形状は図９に示すもの（７＊７十字形＋３＊３正方形の中心対称フィルタ形状）であってもよい。

【0409】

フィルタリング係数のトレーニングプロセスにおいて、初めてフィルタリング係数を計算する時、フィルタリングパラメータは現在領域内の全てのＬＣＵの画素を用いる。決定した後、第１のグループの係数をトレーニングし、識別子の値が１であるＬＣＵのみを用いてトレーニングに参加する。第２グループの係数をトレーニングするとき、識別子の値が２であるＬＣＵのみを用いてトレーニングに参加する。最後にＲＤＯ決定によって、現在の領域がある１グループのフィルタのみを用いる性能、又は２グループのフィルタを用いる性能を決定する。

【0410】

第１のグループのフィルタリング係数のみを用いる場合の性能が最適である場合、領域係数識別子の値が０であると決定してビットストリームに書き込み、第１のグループのフィルタリング係数をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子の値が０又は１であり、第２のグループのフィルタリング係数のみを用いる場合の性能が最適である場合、領域係数識別子の値が１であると決定してビットストリームに書き込み、第２のグループのフィルタリング係数をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子の値が０又は１であり、２グループのフィルタリングを用いる場合の性能が最適である場合、領域係数識別子の値が２であると決定してビットストリームに書き込み、２グループのフィルタリング係数をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子をビットストリームに書き込み、各ＬＣＵのＬＣＵ係数識別子の値が０、１又は２である。
復号デバイス

【0411】

いずれかの統合領域については、ビットストリームから当該統合領域の領域係数識別子を読み取り、領域係数識別子の値が０である場合、当該統合領域は１５個のフィルタリング係数（即ち第１のグループのフィルタリング係数）を取得し、領域係数識別子の値が１である場合、当該統合領域は９個のフィルタリング係数（即ち第２のグループのフィルタリング係数）を取得し、領域係数識別子の値が２である場合、当該統合領域は９個のフィルタリング係数と１５個のフィルタリング係数をそれぞれ取得する。

【0412】

例示的に、領域係数識別子の値が０である場合、当該統合領域内の全てのＬＣＵのＬＣＵ係数識別子を取得し、ＬＣＵ係数識別子の値が０である場合、当該ＬＣＵがＡＬＦフィルタリングをオフにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないことを示し、ＬＣＵ係数識別子の値が１である場合、当該ＬＣＵがＡＬＦフィルタリングをオンにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始し、且つ当該ＬＣＵが第１のグループのフィルタリング係数を用いることを示す。

【0413】

領域係数識別子の値が１である場合、当該統合領域内の全てのＬＣＵのＬＣＵ係数識別子を取得し、ＬＣＵ係数識別子の値が０である場合、当該ＬＣＵがＡＬＦフィルタリングをオフにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないことを示し、ＬＣＵ係数識別子の値が１である場合、当該ＬＣＵがＡＬＦフィルタリングをオンにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始し、且つ当該ＬＣＵが第２のグループのフィルタリング係数を用いることを示す。

【0414】

領域係数識別子の値が２である場合、当該統合領域内の全てのＬＣＵのＬＣＵ係数識別子を取得し、ＬＣＵ係数識別子の値が０である場合、当該ＬＣＵがＡＬＦフィルタリングをオフにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始しないことを示し、ＬＣＵ係数識別子の値が１である場合、当該ＬＣＵがＡＬＦフィルタリングをオンにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始し、且つ当該ＬＣＵが第１のグループのフィルタリング係数を用いることを示し、ＬＣＵ係数識別子の値が２である場合、当該ＬＣＵがＡＬＦフィルタリングをオンにすること、即ち、当該ＬＣＵに対してＡＬＦフィルタリングを開始し、且つ当該ＬＣＵが第２のグループのフィルタリング係数を用いることを示す。
（実施例１８）
各ＬＣＵが１グループのフィルタリング係数を適応的に選択する
符号化デバイス

【0415】

各ＬＣＵが最大で３グループのフィルタリング係数を選択できることを例とする。いずれかのＬＣＵについて、当該ＬＣＵのフィルタリング係数候補は、当該ＬＣＵの属する統合領域のフィルタリング係数（現在の統合領域のフィルタリング係数と呼ばれてもよい）、当該ＬＣＵの属する統合領域の１つ前の統合領域のフィルタリング係数（１つ前の統合領域のフィルタリング係数と呼ばれてもよい）、及び当該ＬＣＵの属する統合領域の１つ後の統合領域のフィルタリング係数（１つ後の統合領域のフィルタリング係数と呼ばれてもよい）を含み得る。

【0416】

いずれかのＬＣＵについては、３グループのフィルタリング係数での性能をそれぞれ計算し（ＲＤＯ決定）、性能の最適な１グループのフィルタリング係数を選択してもよい。

【0417】

例示的に、性能の最適な１グループのフィルタリング係数が１つ前の統合領域のフィルタリング係数である場合、ＬＣＵの係数選択識別子の値は０（即ち、上記第１の値が０であることを例とする）であり、性能の最適なフィルタリング係数が現在の統合領域のフィルタリング係数である場合、ＬＣＵの係数選択識別子の値は１（即ち、上記第２の値が１であることを例とする）であり、性能の最適なフィルタリング係数が１つ後の統合領域のフィルタリング係数である場合、ＬＣＵの係数選択識別子の値は２（即ち、上記第３の値が２であることを例とする）である。

【0418】

例を挙げて言うと、現在の画像フレームの統合領域が図１０に示すように、即ち、統合領域の数が１６個であると仮定すると、決定するとき、現在処理されているＬＣＵが統合領域２に属する場合、当該ＬＣＵのフィルタリング係数候補は統合領域１のフィルタリング係数、統合領域２のフィルタリング係数及び統合領域３のフィルタリング係数を含み得、ＲＤＯ決定に基づいて性能の最適なフィルタリング係数を決定し、決定結果に基づいてＬＣＵに対してマーキングしてもよい。

【0419】

色度成分（Ｕ成分又はＶ成分）には１グループのフィルタリング係数しかないため、そのＬＣＵはフィルタリング係数の選択に参加しなくてもよく、又は、２つの色度成分のＬＣＵはもう１つの成分におけるフィルタリング係数を選択してもよく、即ち、Ｕ成分のＬＣＵはＶ成分のフィルタリング係数を選択してもよく、Ｖ成分のＬＣＵはＵ成分のフィルタリング係数を選択してもよい。
復号デバイス

【0420】

現在のＬＣＵの属する統合領域のフィルタリング係数（即ち現在の領域のフィルタリング係数）及びそれに隣接する２つの領域のフィルタリング係数（即ち１つ前の統合領域のフィルタリング係数及び１つ後の統合領域のフィルタリング係数）を取得し、ＬＣＵの係数選択識別子に基づいて、現在のＬＣＵのフィルタリング係数を選択する。

【0421】

二つの色度成分のそれぞれには１グループのフィルタリング係数しかないため、そのＬＣＵはフィルタリング係数の選択に参加しなくてもよく、又は、２つの色度成分が共にＡＬＦフィルタリングスイッチをオンにするとき、２つの色度成分のＬＣＵはもう１つの成分におけるフィルタリング係数を選択してもよく、即ち、Ｕ成分のＬＣＵはＶ成分のフィルタリング係数を選択してもよく、Ｖ成分のＬＣＵはＵ成分のフィルタリング係数を選択してもよい。
（実施例１９）
各領域が異なる形状のフィルタを選択する
符号化デバイス

【0422】

例示的に、フィルタ形状は図４Ａ又は図９に示すフィルタ形状を選択してもよく、図１１Ａ～図１１Ｄに示す４種類のフィルタ形状のうちの２つ又は複数の形状を選択してもよく、図４Ａ、図９及び図１１Ａ～図１１Ｄに示すフィルタ形状以外の他のフィルタ形状を選択してもよい。

【0423】

いずれかの統合領域については、Ｎ３グループのフィルタリング係数をトレーニングしてもよく、当該Ｎ３グループのフィルタリング係数のフィルタ形状が異なり、各領域において当該統合領域がそのうちのある１つのフィルタ形状を用いた後の性能を計算し、性能の最適な１グループのフィルタリング係数を選択し、対応するフィルタ形状をビットストリームで復号デバイスに送信し、当該統合領域の性能の最適なフィルタリング係数を復号デバイスに送信する。
復号デバイス

【0424】

いずれかのＬＣＵについては、当該ＬＣＵに対してＡＬＦフィルタリングを開始すると決定した場合、当該ＬＣＵの属する統合領域に基づいて、当該統合領域のフィルタ形状を取得し、当該フィルタ形状に基づいて当該統合領域のフィルタリング係数を取得する。

【0425】

現在のＬＣＵのフィルタリング係数を決定すると、現在のＬＣＵのフィルタリング係数に基づいて現在のＬＣＵの画素に対して１つずつＡＬＦフィルタリングを行ってもよい。
（実施例２０）
対称フィルタを非対称フィルタに変更する
符号化デバイス

【0426】

図４Ａに示すフィルタ形状を例として、Ｃ_ｉ（ｉ＝０，１，…，１３）位置の参照画素の画素値の重み係数Ａ_ｉを決定してもよく、この時その対称位置Ｃ_２８－ｉに対応する参照画素値の重みは２－Ａ_ｉである。

【0427】

例示的に、Ａ_ｉ∈［０．５，０．６，０．８，１．２，１．４，１．５，１］である。

【0428】

図４Ａに示すように、全部で１４個の対称位置が存在し、各位置が異なる重み係数に対応する下で、当該領域のフィルタリング係数及びフィルタリング性能を計算してもよい。フィルタリング性能の最適な１グループのフィルタリング係数を選択し、当該フィルタリング係数及び対応するフィルタの各位置に対応する重み係数を計算してもよい。

【0429】

例示的に、いずれかの重み係数については、当該重み係数の重み係数セットにおける位置の番号（又はインデックスと呼ばれる）を復号デバイスに伝達してもよい。

【0430】

復号デバイスは、各領域のフィルタリング係数及び各フィルタリング係数に対応する重み係数を取得する。

【0431】

いずれかの統合領域については、対応位置のフィルタリング係数を導出するために、そのフィルタリング係数及び各フィルタリング係数に対応する重み係数を取得する。

【0432】

ＬＣＵの現在のフィルタリング画素について、当該画素のフィルタリング後の画素値は以下の方式で決定されてもよい。

【数6】

【0433】

Ｃ_ｉがＬＣＵの属する統合領域のフィルタリング係数における（ｉ＋１）番目のフィルタリング係数であり、Ｐ_ｉがフィルタリング係数Ｃ_ｉに対応する参照画素位置の画素値であり、Ｐ_２８－ｉに対応する参照画素位置とＰ_ｉに対応する参照画素位置とは現在のフィルタリング画素の画素位置に対して中心対称であり、Ａ_ｉがＰ_ｉに対応する参照画素位置の画素値の重み係数であり、Ｐ_１４が現在のフィルタリング画素の画素値であり、Ｃ_１４が現在のフィルタリング画素のフィルタリング係数であり、０＜Ａ_ｉ＜２である。
（実施例２１）
各ＬＣＵが１グループのフィルタリング係数を適応的に選択する

【0434】

画素をフィルタリングするプロセスにおいて、いずれかのフィルタリング対象画素については、３＊３画素ブロック内（現在のフィルタリング対象画素を中心点とする３＊３画素ブロックであり、且つ現在のフィルタリング対象画素を含まない）で画素値の最大値と最小値、即ち現在のフィルタリング対象画素を中心とする３＊３画素ブロックにおける中心位置以外の８個の画素の画素値のうちの最大値と最小値を取り出す。

【0435】

現在のフィルタリング対象画素の画素値が最大値より大きく、又は最小値より小さい場合、最大値又は最小値で現在のフィルタリング対象画素の画素値を代替してフィルタリングに参加し、即ち現在のフィルタリング対象画素の画素値が最大値より大きい場合、現在のフィルタリング対象画素の画素値を当該最大値に置き換えてフィルタリングに参加し、現在のフィルタリング対象画素の画素値が最小値より小さい場合、現在のフィルタリング対象画素の画素値を当該最小値に置き換えてフィルタリングに参加する。

【0436】

以下、適応的補正フィルタリングの復号フローについて説明する
（実施例２２）
適応補正フィルタ復号フロー
一、適応的補正フィルタリングのパラメータ定義：

【0437】

パラメータ１、適応的補正フィルタリング許可フラグ（ａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ）：２値変数である。値が「１」であることは、適応的補正フィルタリングを用いることができると示し、値が「０」であることは、適応的補正フィルタリングを用いるべきでないと示す。

【0438】

例示的に、ＡｌｆＥｎａｂｌｅＦｌａｇの値はａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇの値と等しい。ａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇの値はシーケンスヘッダから取得することができ、即ちシーケンス全体の圧縮を開始する前に、値が「１」であることは、ビデオシーケンス全体のＡＬＦ技術がオンであると示し、値が「０」であることは、ビデオシーケンス全体のＡＬＦ技術がオフであると示し、当該フラグはシーケンスヘッダフラグである。

【0439】

パラメータ２、拡張適応的補正フィルタリング許可フラグ（ｅａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ）：２値変数である。値が「１」であることは、拡張適応的補正フィルタリングを用いることができると示し、値が「０」であることは、拡張適応的補正フィルタリングを用いるべきでないと示す。

【0440】

例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値はｅａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇの値と等しく、そのシンタクスは以下のように記述される。

【表1】

【0441】

ＡｌｆＥｎａｂｌｅＦｌａｇの値が１である場合、ビットストリームから拡張適応的補正フィルタリング許可フラグを読み取り、当該フラグはシーケンスヘッダフラグである。

【0442】

パラメータ３、画像レベル適応的補正フィルタリング許可フラグ（ｐｉｃｔｕｒｅ＿ａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ［ｃｏｍｐＩｄｘ］）：２値変数である。値が「１」であることは、現在の画像のｃｏｍｐＩｄｘ番目の成分は適応的補正フィルタリングを用いることができると示し、値が「０」であることは、現在の画像のｃｏｍｐＩｄｘ番目の成分は適応的補正フィルタリングを用いるべきでないと示す。

【0443】

例示的に、ＰｉｃｔｕｒｅＡｌｆＥｎａｂｌｅＦｌａｇ［ｃｏｍｐＩｄｘ］の値はｐｉｃｔｕｒｅ＿ａｌｆ＿ｅｎａｂｌｅ＿ｆｌａｇ［ｃｏｍｐＩｄｘ］の値と等しく、そのシンタクスは以下のように記述される。

【表2】

【0444】

ＡｌｆＥｎａｂｌｅＦｌａｇの値が１である場合、ビットストリームからＹ、Ｕ、Ｖという３つの成分の画像レベル適応的補正フィルタリング許可フラグを読み取り、当該フラグは画像ヘッダフラグである。

【0445】

パラメータ４、画像輝度成分サンプル適応的補正フィルタリング係数（ａｌｆ＿ｃｏｅｆｆ＿ｌｕｍａ［ｉ］［ｊ］）：ａｌｆ＿ｃｏｅｆｆ＿ｌｕｍａ［ｉ］［ｊ］は、輝度成分のｉ番目の適応的補正フィルタのｊ番目の係数を示す。

【0446】

例示的に、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］の値はａｌｆ＿ｃｏｅｆｆ＿ｌｕｍａ［ｉ］［ｊ］の値と等しい。

【0447】

例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～７）の値の範囲は－６４～６３であるべきであり、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［８］の値の範囲は－１０８８～１０７１であるべきである。

【0448】

ＥａｌｆＥｎａｂｌｅＦｌａｇの値が１である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－６４～６３であるべきであり、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［１４］の値の範囲は－１０８８～１０７１であるべきである。

【0449】

パラメータｘ：各グループの画像輝度成分サンプル適応的補正フィルタリング係数の精度である。ｘ＝０である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－３２～３２であるべきであり、ｘ＝１である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－６４～６３であるべきであり、ｘ＝２である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－１２８～１２８であるべきである。

【0450】

パラメータ５、画像色度成分適応的補正フィルタリング係数（ａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［０］［ｊ］、ａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［１］［ｊ］）：ａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［０］［ｊ］は、Ｃｂ成分のｊ番目の適応的補正フィルタリング係数を示し、ａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［１］［ｊ］はＣｒ成分のｊ番目の適応的補正フィルタリング係数を示す。

【0451】

例示的に、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［０］［ｊ］の値はａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［０］［ｊ］の値と等しく、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［１］［ｊ］の値はａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａ［１］［ｊ］の値と等しい。

【0452】

例示的に、ＥａｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］（ｉ＝０～１、ｊ＝０～７）の値の範囲は－６４～６３であるべきであり、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［８］（ｉ＝０～１）の値の範囲は－１０８８～１０７１であるべきである。

【0453】

ＥａｌｆＥｎａｂｌｅＦｌａｇの値が１である場合、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］（ｉ＝０～１、ｊ＝０～１３）の値の範囲は－６４～６３であるべきであり、ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［１４］（ｉ＝０～１）の値の範囲は－１０８８～１０７１であるべきである。

【0454】

パラメータｙ：各グループの画像色度成分適応的補正フィルタリング係数の精度である。ｙ＝０である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－３２～３２であるべきであり、ｙ＝１である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－６４～６３であるべきであり、ｙ＝２である場合、ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）の値の範囲は－１２８～１２８であるべきである。

【0455】

パラメータ６、画像輝度成分の隣接する適応的補正フィルタリング領域の個数（ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］）：ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］は輝度成分のｉ番目の適応的補正フィルタリング領域基本ユニット開始番号とｉ－１番目の適応的補正フィルタリング領域基本ユニット開始番号との間の差値を示す。

【0456】

例示的に、ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］の値の範囲は１～ＦｉｌｔｅｒＮｕｍ－１であるべきである。

【0457】

例示的に、ビットストリームにはａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］が存在しない場合、ｉが０である場合、ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］の値は０であり、ｉが０ではなく且つａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１の値がＦｉｌｔｅｒＮｕｍ－１である場合、ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］の値は１である。

【0458】

例示的に、ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］（ｉ＝０～ａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１）の合計は、ＦｉｌｔｅｒＮｕｍ－１以下であるべきである。

【0459】

パラメータ７、最大符号化ユニットの適応的補正フィルタリング許可フラグ（ａｌｆ＿ｌｃｕ＿ｅｎａｂｌｅ＿ｆｌａｇ［ｃｏｍｐＩｄｘ］［ＬｃｕＩｎｄｅｘ］）：２値変数である。値が「１」であることは、ＬｃｕＩｎｄｅｘ番目の最大符号化ユニットｃｏｍｐＩｄｘ成分のサンプルが適応的補正フィルタリングを用いるべきことを示し、値が「０」であることは、ＬｃｕＩｎｄｅｘ番目の最大符号化ユニットｃｏｍｐＩｄｘ成分のサンプルが適応的補正フィルタリングを用いるべきでないと示す。

【0460】

例示的に、ＡｌｆＬＣＵＥｎａｂｌｅＦｌａｇ［ｃｏｍｐＩｄｘ］［ＬｃｕＩｎｄｅｘ］の値はａｌｆ＿ｌｃｕ＿ｅｎａｂｌｅ＿ｆｌａｇ［ｃｏｍｐＩｄｘ］［ＬｃｕＩｎｄｅｘ］の値と等しく、そのシンタクスは以下のように記述される。

【表3】

【0461】

３つの成分上の画像レベル適応的補正フィルタリング許可フラグにおいて１つのフラグ値が１である場合、以下のような適応的補正フィルタリングパラメータを取得し、即ちＥａｌｆＥｎａｂｌｅＦｌａｇ＝１である場合、フィルタリング係数の個数は１５であり、且つ輝度成分は６４個の領域に分割され、そうではない場合、フィルタリング係数の数は９であり、輝度成分は１６個の領域に分割される。また、３つの成分上のフィルタリング係数をそれぞれ取得し、画像レベル適応的補正フィルタリング許可フラグがオンである場合、色度において、当該成分上のフィルタリング係数ａｌｆ＿ｃｏｅｆｆ＿ｃｈｒｏｍａを取得する必要があり、輝度において、領域統合方式フラグａｌｆ＿ｒｅｇｉｏｎ＿ｏｒｄｅｒ＿ｉｄｘ、１つ減らしたフィルタリング係数の個数（ａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１）、領域統合結果ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］、及び各フィルタリング係数ａｌｆ＿ｃｏｅｆｆ＿ｌｕｍａを取得する必要がある。

【0462】

上記適応的補正フィルタリングパラメータのシンタクスは以下のように記述される。

【表4】

二、適応的補正フィルタリングの復号の具体的なプロセス

【0463】

ＰｉｃｔｕｒｅＡｌｆＥｎａｂｌｅＦｌａｇ［ｃｏｍｐＩｄｘ］の値が０である場合、オフセット後のサンプル成分の値をそのまま再構成サンプル成分の値とし、そうではない場合、対応するオフセット後のサンプル成分に対して適応的補正フィルタリングを行う。例示的に、ｃｏｍｐＩｄｘの値について、０は輝度成分を示し、１はＣｂ成分を示し、２はＣｒ成分を示す。

【0464】

適応的補正フィルタリングの単位は最大符号化ユニットによって導出された適応的補正フィルタリングユニットであり、ラスタスキャン順に順次処理される。まず適応的補正フィルタリング係数の復号プロセスに基づいて各成分の適応的補正フィルタリング係数を得、続いて適応的補正フィルタリングユニットを導出し、現在の適応的補正フィルタリングユニットの輝度成分の適応的補正フィルタリング係数インデックスを決定し、最後に適応的補正フィルタリングユニットの輝度及び色度成分に対して適応的補正フィルタリングを行い、再構成サンプルを得る。

【0465】

適応的補正フィルタリング係数の復号プロセス：

【0466】

２２．１．１、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、ビットストリームから輝度サンプルのｉ番目のグループのフィルタリング係数ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｉ＝０～ａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１、ｊ＝０～７）を解析する。係数ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［８］（即ち図９に示すフィルタにおけるＣ８）に対して以下の処理を行う。

【数7】

【0467】

式中のＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～７）のビット幅は７ビットであり、値の範囲は－６４～６３であり、上記したように処理されたＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［８］の値の範囲は０～１２７である。

【0468】

ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、ビットストリームから輝度サンプルのｉ番目のグループのフィルタリング係数ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｉ＝０～ａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１、ｊ＝０～１３）を解析する。係数ＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［１４］（即ち図４Ａに示すフィルタにおけるＣ１４）に対して以下の処理を行う。

【数8】

【0469】

式中のＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［ｊ］（ｊ＝０～１３）のビット幅は７ビットであり、値の範囲は－６４～６３であり、上記したように処理されたＡｌｆＣｏｅｆｆＬｕｍａ［ｉ］［１４］の値の範囲は０～１２７である。

【0470】

２２．１．２、ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］（ｉ＞１）に基づいて輝度成分適応的補正フィルタリング係数インデックスアレイ（ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ＦｉｌｔｅｒＮｕｍ］と記す）を得る。
ｃｏｕｎｔ＝０
ａｌｆＣｏｅｆｆＩｄｘＴａｂ［０］＝０
ｆｏｒ（ｉ＝１；ｉ＜ａｌｆ＿ｆｉｌｔｅｒ＿ｎｕｍ＿ｍｉｎｕｓ１＋１；ｉ＋＋）｛
ｆｏｒ（ｊ＝０；ｊ＜ａｌｆ＿ｒｅｇｉｏｎ＿ｄｉｓｔａｎｃｅ［ｉ］－１；ｊ＋＋）｛
ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｃｏｕｎｔ＋１］＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｃｏｕｎｔ］
ｃｏｕｎｔ＝ｃｏｕｎｔ＋１
｝
ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｃｏｕｎｔ＋１］＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｃｏｕｎｔ］＋１
ｃｏｕｎｔ＝ｃｏｕｎｔ＋１
｝
ｆｏｒ（ｉ＝ｃｏｕｎｔ；ｉ＜ＦｉｌｔｅｒＮｕｍ；ｉ＋＋）｛
ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｉ］＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｃｏｕｎｔ］

【0471】

２２．１．３、ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、ビットストリームから色度サンプルのフィルタリング係数ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［０］［ｊ］及びＡｌｆＣｏｅｆｆＣｈｒｏｍａ［１］［ｊ］（ｊ＝０～７）を解析する。係数ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［０］［８］及びＡｌｆＣｏｅｆｆＣｈｒｏｍａ［１］［８］（即ち図９に示すフィルタにおけるＣ８）に対してそれぞれ以下の処理を行う。

【数9】

【0472】

式中のＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］（ｊ＝０～７）のビット幅は７ビットであり、値の範囲は－６４～６３であり、上記したように処理されたＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［８］の値の範囲は０～１２７である。

【0473】

ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、ビットストリームから色度サンプルのフィルタリング係数ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［０］［ｊ］及びＡｌｆＣｏｅｆｆＣｈｒｏｍａ［１］［ｊ］（ｊ＝０～１３）を解析する。係数ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［０］［１４］及びＡｌｆＣｏｅｆｆＣｈｒｏｍａ［１］［１４］（即ち図４Ａに示すフィルタにおけるＣ１４）に対してそれぞれ以下の処理を行う。

【数10】

【0474】

式中のＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］（ｊ＝０～１３）のビット幅は７ビットであり、値の範囲は－６４～６３であり、上記したように処理されたＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［１４］の値の範囲は０～１２７である。

【0475】

適応的補正フィルタリングユニットを導出する

【0476】

現在の最大符号化ユニットに基づいて以下のステップに従って適応的補正フィルタリングユニット（図５に示すものであってもよい）を導出する。

【0477】

２２．２．１において、現在の最大符号化ユニットＣが位置するサンプル領域の画像境界を越える部分を削除し、サンプル領域Ｄを得る。

【0478】

２２．２．２において、サンプル領域Ｄの下境界が位置するサンプルが画像の下境界に属しない場合、輝度成分及び色度成分のサンプル領域Ｄの下境界を上向きに４行縮小してサンプル領域Ｅ１を得、それ以外の場合、サンプル領域Ｅ１をサンプル領域Ｄに等しくようにする。サンプル領域Ｄの最終行のサンプルは、領域Ｅ１の下境界である。

【0479】

２２．２．３において、サンプル領域Ｅ１の上境界が位置するサンプルが画像の上境界に属する場合、又はパッチ境界に属し、且つｃｒｏｓｓ＿ｐａｔｃｈ＿ｌｏｏｐｆｉｌｔｅｒ＿ｅｎａｂｌｅ＿ｆｌａｇの値が「０」である場合、サンプル領域Ｅ２をサンプル領域Ｅ１に等しくようにし、それ以外の場合、輝度成分及び色度成分のサンプル領域Ｅ１の上境界を上向きに４行拡張してサンプル領域Ｅ２を得る。サンプル領域Ｅ１の１行目のサンプルは、領域Ｅ２の上境界である。

【0480】

２２．２．４において、サンプル領域Ｅ２を現在の適応的補正フィルタリングユニットとする。画像の１行目のサンプルは、画像の上境界であり、最終行のサンプルは、画像の下境界である。

【0481】

輝度成分適応的補正フィルタリングユニットの適応的補正フィルタリング係数インデックスを決定する。

【0482】

ＥａｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、以下の方法に従って輝度成分適応的補正フィルタリングユニットの適応的補正フィルタリング係数インデックス（ｆｉｌｔｅｒＩｄｘと記す）を計算する。
ｘＩｎｔｅｒｖａｌ＝（（（（ｈｏｒｉｚｏｎｔａｌ＿ｓｉｚｅ＋（１＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ）－１）＞＞ＬｃｕＳｉｚｅＩｎＢｉｔ）＋１）＞＞２）＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ
ｙＩｎｔｅｒｖａｌ＝（（（（ｖｅｒｔｉｃａｌ＿ｓｉｚｅ＋（１＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ）－１）＞＞ＬｃｕＳｉｚｅＩｎＢｉｔ）＋１）＞＞２）＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ
ｉｆ（ｘＩｎｔｅｒｖａｌ＝＝０＆＆ｙＩｎｔｅｒｖａｌ＝＝０）｛
ｉｎｄｅｘ＝１５
｝
ｅｌｓｅ ｉｆ（ｘＩｎｔｅｒｖａｌ＝＝０）｛
ｉｎｄｅｘ＝Ｍｉｎ（３，ｙ／ｙＩｎｔｅｒｖａｌ）＊４＋３
｝
ｅｌｓｅ ｉｆ（ｙＩｎｔｅｒｖａｌ＝＝０）｛
ｉｎｄｅｘ＝Ｍｉｎ（３，ｘ／ｘＩｎｔｅｒｖａｌ）＋１２
｝
ｅｌｓｅ｛
ｉｎｄｅｘ＝Ｍｉｎ（３，ｙ／ｙＩｎｔｅｒｖａｌ）＊４＋Ｍｉｎ（３，ｘ／ｘＩｎｔｅｒｖａｌ）
｝
ｆｉｌｔｅｒＩｄｘ＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｒｅｇｉｏｎＴａｂｌｅ［ｉｎｄｅｘ］］

【0483】

ここで、（ｘ，ｙ）は、現在の適応的補正フィルタリングユニットの最大符号化ユニットの左上隅のサンプルの画像における座標を導出することであり、ｒｅｇｉｏｎＴａｂｌｅは以下のように定義される。
ｒｅｇｉｏｎＴａｂｌｅ［１６］＝｛０，１，４，５，１５，２，３，６，１４，１１，１０，７，１３，１２，９，８｝

【0484】

ＥａｌｆＥｎａｂｌｅＦｌａｇの値が１である場合、以下の方法に従って現在の輝度成分適応的補正フィルタリングユニットの適応的補正フィルタリング係数インデックス（ｆｉｌｔｅｒＩｄｘと記す）を計算する。
ｌｃｕ＿ｗｉｄｔｈ＝１＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ
ｌｃｕ＿ｈｅｉｇｈｔ＝１＜＜ＬｃｕＳｉｚｅＩｎＢｉｔ
ｙ＿ｉｎｔｅｒｖａｌ＝（（（（ｖｅｒｔｉｃａｌ＿ｓｉｚｅ＋ｌｃｕ＿ｈｅｉｇｈｔ－１）／ｌｃｕ＿ｈｅｉｇｈｔ）＋４）／８＊ｌｃｕ＿ｈｅｉｇｈｔ）
ｘ＿ｉｎｔｅｒｖａｌ＝（（（（ｈｏｒｉｚｏｎｔａｌ＿ｓｉｚｅ＋ｌｃｕ＿ｗｉｄｔｈ－１）／ｌｃｕ＿ｗｉｄｔｈ）＋４）／８＊ｌｃｕ＿ｗｉｄｔｈ）
ｉｆ（ｙＩｎｔｅｒｖａｌ＝＝０）｛
ｙ＿ｓｔ＿ｏｆｆｓｅｔ＝０
｝
ｅｌｓｅ｛
ｙ＿ｃｎｔ＝Ｃｌｉｐ３（０，８，（ｖｅｒｔｉｃａｌ＿ｓｉｚｅ＋ｙ＿ｉｎｔｅｒｖａｌ－１）／ｙ＿ｉｎｔｅｒｖａｌ）
ｙ＿ｓｔ＿ｏｆｆｓｅｔ＝ｖｅｒｔｉｃａｌ＿ｓｉｚｅ－ｙ＿ｉｎｔｅｒｖａｌ＊（ｙ＿ｃｎｔ－１）
ｙ＿ｓｔ＿ｏｆｆｓｅｔ＝（ｙ＿ｓｔ＿ｏｆｆｓｅｔ＋ｌｃｕ＿ｈｅｉｇｈｔ／２）／ｌｃｕ＿ｈｅｉｇｈｔ＊ｌｃｕ＿ｈｅｉｇｈｔ
｝
ｉｆ（ｘＩｎｔｅｒｖａｌ＝＝０）｛
ｘ＿ｓｔ＿ｏｆｆｓｅｔ＝０
｝
ｅｌｓｅ｛
ｘ＿ｃｎｔ＝Ｃｌｉｐ３（０，８，（ｈｏｒｉｚｏｎｔａｌ＿ｓｉｚｅ＋ｘ＿ｉｎｔｅｒｖａｌ－１）／ｘ＿ｉｎｔｅｒｖａｌ）
ｘ＿ｓｔ＿ｏｆｆｓｅｔ＝ｈｏｒｉｚｏｎｔａｌ＿ｓｉｚｅ－ｘ＿ｉｎｔｅｒｖａｌ＊（ｘ＿ｃｎｔ－１）
ｘ＿ｓｔ＿ｏｆｆｓｅｔ＝（ｘ＿ｓｔ＿ｏｆｆｓｅｔ＋ｌｃｕ＿ｗｉｄｔｈ／２）／ｌｃｕ＿ｗｉｄｔｈ＊ｌｃｕ＿ｗｉｄｔｈ
｝
ｙ＿ｉｎｄｅｘ＝（ｙ＿ｉｎｔｅｒｖａｌ＝＝０）？７：Ｃｌｉｐ３（０，７，ｙ／ｙ＿ｉｎｔｅｒｖａｌ）
ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ＝ｙ＿ｉｎｄｅｘ＜＜３
ｙ＿ｉｎｄｅｘ２＝（ｙ＿ｉｎｔｅｒｖａｌ＝＝０｜｜ｙ＜ｙ＿ｓｔ＿ｏｆｆｓｅｔ）？０：Ｃｌｉｐ３（－１，６，（ｙ－ｙ＿ｓｔ＿ｏｆｆｓｅｔ）／ｙ＿ｉｎｔｅｒｖａｌ）＋１
ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ２＝ｙ＿ｉｎｄｅｘ２＜＜３
ｘ＿ｉｎｄｅｘ＝（ｘ＿ｉｎｔｅｒｖａｌ＝＝０）？７：Ｃｌｉｐ３（０，７，ｘ／ｘ＿ｉｎｔｅｒｖａｌ）
ｘ＿ｉｎｄｅｘ２＝（ｘ＿ｉｎｔｅｒｖａｌ＝＝０｜｜ｘ＜ｘ＿ｓｔ＿ｏｆｆｓｅｔ）？０：Ｃｌｉｐ＿ｐｏｓｔ（－１，６，（ｘ－ｘ＿ｓｔ＿ｏｆｆｓｅｔ）／ｘ＿ｉｎｔｅｒｖａｌ）＋１
ｉｆ（ＡｌｆＲｅｇｉｏｎＯｒｄｅｒＩｎｄｅｘ＝＝０）｛
ｆｉｌｔｅｒＩｄｘ＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｒｅｇｉｏｎＴａｂｌｅ［０］［ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ＋ｘ＿ｉｎｄｅｘ］］
｝
ｅｌｓｅ ｉｆ（ＡｌｆＲｅｇｉｏｎＯｒｄｅｒＩｎｄｅｘ＝＝１）
ｆｉｌｔｅｒＩｄｘ＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｒｅｇｉｏｎＴａｂｌｅ［１］［ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ＋ｘ＿ｉｎｄｅｘ２］］
｝
ｅｌｓｅ ｉｆ（ＡｌｆＲｅｇｉｏｎＯｒｄｅｒＩｎｄｅｘ＝＝２）
ｆｉｌｔｅｒＩｄｘ＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｒｅｇｉｏｎＴａｂｌｅ［２］［ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ２＋ｘ＿ｉｎｄｅｘ２］］
｝
ｅｌｓｅ ｉｆ（ＡｌｆＲｅｇｉｏｎＯｒｄｅｒＩｎｄｅｘ＝＝３）
ｆｉｌｔｅｒＩｄｘ＝ａｌｆＣｏｅｆｆＩｄｘＴａｂ［ｒｅｇｉｏｎＴａｂｌｅ［３］［ｙ＿ｉｎｄｅｘ＿ｏｆｆｓｅｔ２＋ｘ＿ｉｎｄｅｘ］］
｝

【0485】

ここで、（ｘ，ｙ）は、導出された現在の適応的補正フィルタリングユニットの最大符号化ユニットの左上隅のサンプルの画像における座標であり、ｒｅｇｉｏｎＴａｂｌｅは以下のように定義される。
ｒｅｇｉｏｎＴａｂｌｅ［４］［６４］＝｛
｛６３，６０，５９，５８，５，４，３，０，６２，６１，５６，５７，６，７，２，１，４９，５０，５５，５４，９，８，１３，１４，４８，５１，５２，５３，１０，１１，１２，１５，４７，４６，３３，３２，３１，３０，１７，１６，４４，４５，３４，３５，２８，２９，１８，１９，４３，４０，３９，３６，２７，２４，２３，２０，４２，４１，３８，３７，２６，２５，２２，２１｝，
｛４２，４３，４４，４７，４８，４９，６２，６３，４１，４０，４５，４６，５１，５０，６１，６０，３８，３９，３４，３３，５２，５５，５６，５９，３７，３６，３５，３２，５３，５４，５７，５８，２６，２７，２８，３１，１０，９，６，５，２５，２４，２９，３０，１１，８，７，４，２２，２３，１８，１７，１２，１３，２，３，２１，２０，１９，１６，１５，１４，１，０｝，
｛２１，２２，２５，２６，３７，３８，４１，４２，２０，２３，２４，２７，３６，３９，４０，４３，１９，１８，２９，２８，３５，３４，４５，４４，１６，１７，３０，３１，３２，３３，４６，４７，１５，１２，１１，１０，５３，５２，５１，４８，１４，１３，８，９，５４，５５，５０，４９，１，２，７，６，５７，５６，６１，６２，０，３，４，５，５８，５９，６０，６３｝，
｛０，１，１４，１５，１６，１９，２０，２１，３，２，１３，１２，１７，１８，２３，２２，４，７，８，１１，３０，２９，２４，２５，５，６，９，１０，３１，２８，２７，２６，５８，５７，５４，５３，３２，３５，３６，３７，５９，５６，５５，５２，３３，３４，３９，３８，６０，６１，５０，５１，４６，４５，４０，４１，６３，６２，４９，４８，４７，４４，４３，４２｝｝
適応的補正フィルタリング操作

【0486】

現在の適応的補正フィルタリングユニットの左境界外は画像境界であり、又はパッチ境界外に位置し且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、左境界外は存在せず、それ以外の場合、左境界外領域は、現在の適応的補正フィルタリングユニットを３つのサンプルポイント左にシフトした位置から現在の適応レベリングフィルタリングユニットまでの領域である。

【0487】

現在の適応的補正フィルタリングユニットの右境界外は画像境界であり、又はパッチ境界外に位置し且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、右境界外は存在せず、それ以外の場合、右境界外領域は、現在の適応的補正フィルタリングユニットを３つのサンプルポイント右にシフトした位置から現在の適応レベリングフィルタリングユニットまでの領域である。

【0488】

例示的に、境界領域は左境界外領域及び右境界外領域を含む。

【0489】

ＡｌｆＬＣＵＥｎａｂｌｅＦｌａｇ［ｃｏｍｐＩｄｘ］［ＬｃｕＩｎｄｅｘ］が１である場合、ｃｏｍｐＩｄｘ成分に対して適応的補正フィルタリングを行い、そうではない場合、適応的補正フィルタリングを行わない。

【0490】

ＥａｌｆＥｎａｂｌｅＦｌａｇが０である場合、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルに属しない場合、以下の方法に従ってフィルタリングを行う。

【0491】

２２．３．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0492】

２２．３．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、当該サンプルの代わりに、適応的補正フィルタリングユニットにのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0493】

２２．３．３、２２．３．１の条件と２２．３．２の条件のいずれも満たさない場合、当該サンプルを用いてフィルタリングを行う。

【0494】

例示的に、適応的補正フィルタリングユニットの輝度成分の適応的補正フィルタリング操作は以下のとおりである。
ｐｔｍｐ＝ＡｌｆＣｏｅｆｆＬｕｍａ［ｆｉｌｔｅｒＩｄｘ］［８］＊ｐ（ｘ，ｙ）
ｆｏｒ（ｊ＝０；ｊ＜８；ｊ＋＋）｛
ｐｔｍｐ＋＝ＡｌｆＣｏｅｆｆＬｕｍａ［ｆｉｌｔｅｒＩｄｘ］［ｊ］＊（ｐ（ｘ－Ｈｏｒ［ｊ］，ｙ－Ｖｅｒ［ｊ］）＋ｐ（ｘ＋Ｈｏｒ［ｊ］，ｙ＋Ｖｅｒ［ｊ］）
｝
ｐｔｍｐ＝（ｐｔｍｐ＋３２）＞＞６
ｐ’（ｘ，ｙ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈ）-１，ｐｔｍｐ）

【0495】

ここで、ｐ（ｘ，ｙ）はオフセット後サンプルであり、ｐ’（ｘ，ｙ）は再構成サンプルであり、Ｈｏｒ［ｊ］及びＶｅｒ［ｊ］（ｊ＝０～７）である。

【0496】

例示的に、適応的補正フィルタリングユニットの色度成分の適応的補正フィルタリング操作は以下のとおりである。
ｐｔｍｐ＝ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［８］＊ｐ（ｘ，ｙ）
ｆｏｒ（ｊ＝０；ｊ＜８；ｊ＋＋）｛
ｐｔｍｐ＋＝ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］＊（ｐ（ｘ－Ｈｏｒ［ｊ］，ｙ－Ｖｅｒ［ｊ］）＋ｐ（ｘ＋Ｈｏｒ［ｊ］，ｙ＋Ｖｅｒ［ｊ］）
｝
ｐｔｍｐ＝（ｐｔｍｐ＋３２）＞＞６
ｐ’（ｘ，ｙ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈ）-１，ｐｔｍｐ）

【0497】

ここで、ｐ（ｘ，ｙ）はオフセット後サンプルであり、ｐ’（ｘ，ｙ）は再構成サンプルであり、Ｈｏｒ［ｊ］及びＶｅｒ［ｊ］（ｊ＝０～７）であり、表１に示すものであってもよい。

【表5】

【0498】

ＥａｌｆＥｎａｂｌｅＦｌａｇが１である場合、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行い、適応的補正フィルタリングプロセスに用いられるサンプルが適応的補正フィルタリングユニット内のサンプルに属しない場合、以下の方法に従ってフィルタリングを行う。

【0499】

２２．４．１、当該サンプルが画像境界外に位置する場合、又はパッチ境界外に位置し且つＣｐｌｆＥｎａｂｌｅＦｌａｇの値が０である場合、

【0500】

２２．４．１．１、図４Ａに示すフィルタを例として、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応する場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0501】

２２．４．１．２、そうではない場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0502】

２２．４．２、当該サンプルが適応的補正フィルタリングユニットの上境界外又は下境界外に位置する場合、

【0503】

２２．４．２．１、図４Ａに示すフィルタを例として、当該サンプルはフィルタ形状のＣ１、Ｃ２、Ｃ６、Ｃ４、Ｃ５又はＣ１０位置に対応する場合、当該サンプルの代わりに、適応的補正フィルタリングユニット及び境界領域のうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0504】

２２．４．２．２、そうではない場合、当該サンプルの代わりに、適応的補正フィルタリングユニットのうち、当該サンプルから最も近いサンプルを用いてフィルタリングを行う。

【0505】

２２．４．３、２２．４．１の条件と２２．４．２の条件のいずれも満たさない場合、当該サンプルを用いてフィルタリングを行う。

【0506】

例示的に、適応的補正フィルタリングユニットの輝度成分の適応的補正フィルタリング操作は以下のとおりである。
ｐｔｍｐ＝ＡｌｆＣｏｅｆｆＬｕｍａ［ｆｉｌｔｅｒＩｄｘ］［１４］＊ｐ（ｘ，ｙ）
ｆｏｒ（ｊ＝０；ｊ＜１４；ｊ＋＋）｛
ｐｔｍｐ＋＝ＡｌｆＣｏｅｆｆＬｕｍａ［ｆｉｌｔｅｒＩｄｘ］［ｊ］＊（ｐ（ｘ－Ｈｏｒ［ｊ］，ｙ－Ｖｅｒ［ｊ］）＋ｐ（ｘ＋Ｈｏｒ［ｊ］，ｙ＋Ｖｅｒ［ｊ］）
｝
ｐｔｍｐ＝（ｐｔｍｐ＋３２）＞＞６
ｐ’（ｘ，ｙ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈ）-１，ｐｔｍｐ）

【0507】

ここで、表２に示すように、ｐ（ｘ，ｙ）はオフセット後サンプルであり、ｐ’（ｘ，ｙ）は再構成サンプルであり、Ｈｏｒ［ｊ］及びＶｅｒ［ｊ］（ｊ＝０～１３）である。

【0508】

例示的に、適応的補正フィルタリングユニットの色度成分の適応的補正フィルタリング操作は以下のとおりである。
ｐｔｍｐ＝ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［１４］＊ｐ（ｘ，ｙ）
ｆｏｒ（ｊ＝０；ｊ＜１４；ｊ＋＋）｛
ｐｔｍｐ＋＝ＡｌｆＣｏｅｆｆＣｈｒｏｍａ［ｉ］［ｊ］＊（ｐ（ｘ－Ｈｏｒ［ｊ］，ｙ－Ｖｅｒ［ｊ］）＋ｐ（ｘ＋Ｈｏｒ［ｊ］，ｙ＋Ｖｅｒ［ｊ］）
｝
ｐｔｍｐ＝（ｐｔｍｐ＋３２）＞＞６
ｐ’（ｘ，ｙ）＝Ｃｌｉｐ３（０，（１＜＜ＢｉｔＤｅｐｔｈ）-１，ｐｔｍｐ）

【表6】

（実施例２３）

【0509】

まず、画像に対して固定領域分割を行ってもよく、固定領域分割の結果として、図２に示すものであってもよく、各領域のインデックス値を得る。そのうちの各領域については、図１５Ａに示すような８種類の分割を行うことが考えられ、或いは、図１５Ｂに示すように、図１５Ａに示す分割方法の一部を残してもよい。

【0510】

各領域について、符号化デバイスはＲＤＯ決定に基づいて、最終的な分割方法を決定し、各領域の分割方法をビットストリームで復号デバイスに伝送してもよい。例示的に、図１５Ａにおける最後の分割方法を例とする。最大で１６個の固定分割方法で得られた領域を６４個の領域に分割することができる。

【0511】

復号フローでは、復号デバイスはまず固定的な領域分割を行い、続いてビットストリームから各領域の具体的な分割方法を読み取り、フレーム全体の最終的な分割方法を得てもよい。例示的に、図１５Ａにおけるそれぞれの分割方法については、分割後の領域番号は図１５Ｃに示すものであってもよい。例示的に、Ｊの値は１つ前の領域の最大値インデックス値＋１である。
（実施例２４）

【0512】

固定領域分割の最小ユニットがＬＣＵであることを例として、画像の解像度が小さい場合、ある領域に番号のみが残され、領域内に画像情報が含まれない場合がある。このような場合、固定領域分割結果が決定された後、具体的にどのクラスに画像情報が存在しないかを決定してもよい。

【0513】

例示的に、画像の幅及び高さに含まれるＬＣＵの数に基づいて決定してもよい。固定領域が固定された４＊４領域に分割された場合、各領域インデックスは図２に示すように、幅又は高さにおけるＬＣＵの数が４未満である場合、ある列又は行における領域が画像情報を含まない場合がある。全てのこれらの画像情報を含まない領域をセットＧと記す。セットＧの大きさをＮ７とし、Ｎ７は正の整数である。

【0514】

全てのインデックス値のうちのいずれかのインデックス値ｉについては、

【0515】

２４．１、ｉがセットＧにおけるいずれかの要素に等しい場合、ｉ＝０であり、

【0516】

２４．２、ｉがセットＧにおけるいずれかの要素に等しくない場合、ｉがセットＧにおけるｎ個の要素より大きい場合、ｉ＝ｉ－ｋで、ｋ≦Ｎ７である。

【0517】

上記実施例は本発明の実施例の実現形態の具体例に過ぎず、本発明の保護範囲を限定するものではなく、上記実施例に基づき、実施例の間の組み合わせにより、又は実施例を変形し、新たな実施例を得ることができ、それはいずれも本発明の保護範囲に属する。

【0518】

また、上記各実施例の符号化側と復号側の実現フローは互いに参照することができる。

【0519】

以上、本発明により提供される方法について説明した。以下、本発明の実施例により提供される装置について説明する。

【0520】

本発明の実施例は、符号化／復号デバイスに適用されるフィルタリング装置を提供し、前記装置はフィルタリングユニットを含み得、当該フィルタリングユニットは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定し、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられる。ここで、前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである。

【0521】

１つの可能な実現形態では、前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うために用いられる。

【0522】

１つの可能な実現形態では、当該参照画素の画素値が取得できない前記場合は、当該参照画素が現在の画像フレームの画像境界外に位置することと、当該参照画素が現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、当該参照画素が前記現在の適応的補正フィルタリングユニットの上境界外に位置することと、当該参照画素が前記現在の適応的補正フィルタリングユニットの下境界外に位置することと、の１つを含む。

【0523】

１つの可能な実現形態では、前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うために用いられる。

【0524】

１つの可能な実現形態では、前記フィルタリングユニットが前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定し、前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することを含む。

【0525】

１つの可能な実現形態では、前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットはＥａｌｆＥｎａｂｌｅＦｌａｇであり、前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は前記復号デバイスから導出され、又は前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得し、又は前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値は定数値である。

【0526】

１つの可能な実現形態では、前記復号デバイスにおいてビットストリームから前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を取得することは、前記ビットストリームから解析して得られた拡張適応的補正フィルタリング許可フラグの値に基づいて前記ＥａｌｆＥｎａｂｌｅＦｌａｇの値を決定することを含み、前記拡張適応的補正フィルタリング許可フラグはシーケンスレベルパラメータである。

【0527】

図１６を参照し、図１６は本発明の実施例により提供されるフィルタリング装置の構造を示す概略図であり、当該フィルタリング装置は符号化／復号デバイスに適用されてもよく、当該装置はフィルタリングユニット１６１０を含み得、当該フィルタリングユニット１６１０は、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対してＡＬＦフィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いてフィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いてフィルタリングを行うために用いられる。

【0528】

１つの可能な実施形態では、当該参照画素の画素値が取得できない場合は、当該参照画素が現在の画像フレームの画像境界外に位置することと、現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、前記現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含む。

【0529】

図１７を参照し、図１７は本発明の実施例により提供されるフィルタリング装置の構造を示す概略図であり、ここで、当該フィルタリング装置は符号化／復号デバイスに適用されてもよく、当該装置はフィルタリングユニット１７１０を含み得、当該フィルタリングユニット１７１０は、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定し、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられる。ここで、前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである。

【0530】

１つの可能な実施形態では、前記フィルタリングユニット１７１０が前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定し、前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することを含む。

【0531】

１つの可能な実施形態では、前記フィルタリングユニット１７１０はさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うために用いられる。

【0532】

１つの可能な実施形態では、当該参照画素の画素値が取得できない場合は、当該参照画素が現在の画像フレームの画像境界外に位置することと、現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、前記現在の適応的補正フィルタリングユニットの上境界外又は下境界外に位置することと、の１つを含む。

【0533】

１つの可能な実施形態では、前記フィルタリングユニット１７１０はさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための画素位置の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うために用いられる。

【0534】

図１８を参照し、図１８は本発明の実施例により提供される復号デバイスのハードウェア構造を示す概略図である。当該復号デバイスはプロセッサ１８０１と、機械実行可能命令が記憶されている機械可読記憶媒体１８０２とを含み得る。プロセッサ１８０１と機械可読記憶媒体１８０２とはシステムバス１８０３を介して通信することができる。また、プロセッサ１８０１は、機械可読記憶媒体１８０２におけるフィルタリング制御ロジックに対応する機械実行可能命令を読み取って実行することにより、上述した復号デバイスに適用されるフィルタリング方法を実行することができる。

【0535】

本明細書に言及される機械可読記憶媒体１８０２はいずれかの電子、磁性、光学又は他の物理的記憶装置であってもよく、実行可能なコマンド、データなどの情報を含む又は記憶することができる。例えば、機械可読記憶媒体は、例えば、ＲＡＭ（Ｒａｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ、ランダムアクセスメモリ）、揮発性メモリ、不揮発性メモリ、フラッシュメモリ、記憶ドライブ（ハードディスクドライブなど）、ソリッドステートドライブ、任意のタイプの記憶ディスク（光ディスク、ｄｖｄなど）、又は類似の記憶媒体、又は、これらの組み合わせなどが挙げられる。

【0536】

いくつかの実施例では、機械実行可能命令が記憶されている機械可読記憶媒体をさらに提供し、前記機械実行可能命令は、プロセッサによって実行されると、復号デバイスに適用される上記フィルタリング方法が実現される。例えば、前記機械可読記憶媒体はＲＯＭ、ＲＡＭ、ＣＤ－ＲＯＭ、磁気テープ、フロッピーディスク、光データ記憶デバイスなどであってもよい。

【0537】

図１９を参照し、図１９は本発明の実施例により提供される符号化デバイスのハードウェア構造を示す概略図である。当該符号化デバイスはプロセッサ１９０１と、機械実行可能命令が記憶されている機械可読記憶媒体１９０２とを含み得る。プロセッサ１９０１と機械可読記憶媒体１９０２とはシステムバス１９０３を介して通信することができる。また、プロセッサ１９０１は、機械可読記憶媒体１９０２におけるフィルタリング制御ロジックに対応する機械実行可能命令を読み取って実行することにより、上述した符号化デバイスに適用されるフィルタリング方法を実行することができる。

【0538】

本明細書に言及される機械可読記憶媒体１９０２はいずれかの電子、磁性、光学又は他の物理的記憶装置であってもよく、実行可能なコマンド、データなどの情報を含む又は記憶することができる。例えば、機械可読記憶媒体は、例えば、ＲＡＭ（Ｒａｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ、ランダムアクセスメモリ）、揮発性メモリ、不揮発性メモリ、フラッシュメモリ、記憶ドライブ（ハードディスクドライブなど）、ソリッドステートドライブ、任意のタイプの記憶ディスク（光ディスク、ｄｖｄなど）、又は類似の記憶媒体、又は、これらの組み合わせなどが挙げられる。

【0539】

いくつかの実施例では、機械実行可能命令が記憶されている機械可読記憶媒体をさらに提供し、前記機械実行可能命令は、プロセッサによって実行されると、符号化デバイスに適用される上記フィルタリング方法が実現される。例えば、前記機械可読記憶媒体はＲＯＭ、ＲＡＭ、ＣＤ－ＲＯＭ、磁気テープ、フロッピーディスク、光データ記憶デバイスなどであってもよい。

【0540】

いくつかの実施例では、上記いずれかの実施例のフィルタリング装置を含むカメラデバイスをさらに提供する。

【0541】

なお、本明細書において、第１及び第２等のような関係用語は１つのエンティティ又は操作を他のエンティティ又は操作と区別するために用いられるだけであり、必ずしもこれらのエンティティ又は操作の間にいかなる実際の関係又は順序が存在することを要求又は示唆するものではない。また、用語「含む」、「含有」又はそのいずれかの他の変形は、非排他的な含有を含むことを意図し、それにより一連の要素を含むプロセス、方法、物品又は装置はそれらの要素を含むだけでなく、また明確に列挙されていない他の要素も含み、又はこのようなプロセス、方法、物品又はデバイスの固有の要素も含む。より多くの制限がない場合、文「１つの…を含む」により限定された要素は、前記要素を含むプロセス、方法、物品又はデバイスにさらに他の同じ要素が存在することを排除するものではない。

【0542】

以上の記載は本発明の好適な実施例に過ぎず、本発明を限定するものではなく、本発明の精神と原則内で行われたいかなる補正、均等置換又は改善などは、いずれも本発明の保護範囲内に含まれるべきである。

【符号の説明】

【0543】

１６１０ フィルタリングユニット
１７１０ フィルタリングユニット
１８０１ プロセッサ
１８０２ 機械可読記憶媒体
１８０３ システムバス
１９０１ プロセッサ
１９０２ 機械可読記憶媒体
１９０３ システムバス

【図1A】

【図1B】

【図2】

【図3】

【図4A】

【図4B】

【図4C】

【図5】

【図6A】

【図6B】

【図7】

【図8】

【図9】

【図10】

【図11A】

【図11B】

【図11C】

【図11D】

【図12】

【図13】

【図14A】

【図14B】

【図15A】

【図15B】

【図15C】

【図16】

【図17】

【図18】

【図19】

【手続補正書】

【提出日】2023-08-03

【手続補正1】

【補正対象書類名】明細書

【補正対象項目名】０１４４

【補正方法】変更

【補正の内容】

【0144】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、全てのフィルタリング係数のそれぞれと対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要があるため、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みが異なることを意味する。

【手続補正2】

【補正対象書類名】明細書

【補正対象項目名】０２５５

【補正方法】変更

【補正の内容】

【0255】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、全てのフィルタリング係数のそれぞれと対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要があるため、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値の重みが異なることを意味する。

【手続補正3】

【補正対象書類名】明細書

【補正対象項目名】０３０８

【補正方法】変更

【補正の内容】

【0308】

決定されたフィルタリング係数に基づいてＡＬＦフィルタリングを行うとき、全てのフィルタリング係数のそれぞれと対応位置の参照画素との積の和に基づいて、フィルタリング後の画素値を得る必要がある。従って、上記比率は、対称位置のフィルタリング係数同士の比率としてもよく、又は、対称位置のフィルタリング係数に対応する参照画素の画素値がＡＬＦフィルタリング計算に参与するときの重みの比率（重み比率とも呼ばれる）としてもよく、即ち、上記非対称フィルタとは、対称位置のフィルタリング係数が異なり、又は、対称位置のフィルタリング係数に対応する参照画素の画素値の重みが異なることを意味する。

【手続補正4】

【補正対象書類名】特許請求の範囲

【補正対象項目名】全文

【補正方法】変更

【補正の内容】

【特許請求の範囲】

【請求項1】

符号化デバイス又は復号デバイスに適用されるフィルタリング方法であって、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップと、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うステップと、を含み、
前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである、
ことを特徴とするフィルタリング方法。

【請求項2】

現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、
当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行う、
ことを特徴とする請求項１に記載の方法。

【請求項3】

当該参照画素の画素値が取得できない場合は、
当該参照画素が現在の画像フレームの画像境界外に位置することと、
当該参照画素が現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの上境界外に位置することと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの下境界外に位置することと、の１つを含む、
ことを特徴とする請求項２に記載の方法。

【請求項4】

現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うことをさらに含む、
ことを特徴とする請求項２又は３に記載の方法。

【請求項5】

前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するステップは、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定するステップと、
前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、
前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定するステップと、を含む、
ことを特徴とする請求項１に記載の方法。

【請求項6】

符号化デバイス又は復号デバイスに適用されるフィルタリング装置であって、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定するためのフィルタリングユニットを含み、
前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定した場合、第１のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定した場合、第２のフィルタを用いて前記現在の適応的補正フィルタリングユニットに対して適応的補正フィルタリングを行うために用いられ、
前記第１のフィルタが７＊７十字形＋５＊５正方形の中心対称フィルタであり、前記第２のフィルタが７＊７十字形＋３＊３正方形の中心対称フィルタである、
ことを特徴とするフィルタリング装置。

【請求項7】

前記フィルタリングユニットはさらに、現在の適応的補正フィルタリングユニット内の現在のフィルタリング画素に対して適応的補正フィルタリングを行うプロセスにおいて、前記現在のフィルタリング画素のいずれかの参照画素について、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置する場合、当該参照画素の画素値を用いて適応的補正フィルタリングを行い、
当該参照画素が前記現在の適応的補正フィルタリングユニット内に位置しない場合、
当該参照画素の画素値が取得できない場合に、当該参照画素の代わりに、前記現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
当該参照画素の画素値を取得した場合に、当該参照画素の画素値を用いて適応的補正フィルタリングを行うために用いられる、
ことを特徴とする請求項６に記載の装置。

【請求項8】

当該参照画素の画素値が取得できない場合は、
当該参照画素が現在の画像フレームの画像境界外に位置することと、
当該参照画素が現在のパッチのパッチ境界外に位置し、且つパッチ境界を越えたフィルタリングが許可されないことと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの上境界外に位置することと、
当該参照画素が前記現在の適応的補正フィルタリングユニットの下境界外に位置することと、の１つを含む、
ことを特徴とする請求項７に記載の装置。

【請求項9】

前記フィルタリングユニットはさらに、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行い、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定し、且つ現在の適応的補正フィルタリングユニットの適応的補正フィルタリングを行うための参照画素の画素値が取得できない場合、当該参照画素の代わりに、現在の適応的補正フィルタリングユニットのうち、当該参照画素の位置から最も近い画素を用いて適応的補正フィルタリングを行うために用いられる、
ことを特徴とする請求項７又は８に記載の装置。

【請求項10】

前記フィルタリングユニットが前記現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを決定することは、
現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可するか否かを示すためのフラグビットの値を決定し、
前記フラグビットの値が第１の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可すると決定し、
前記フラグビットの値が第２の値である場合、現在の適応的補正フィルタリングユニットが拡張適応的補正フィルタリングの使用を許可しないと決定することを含む、
ことを特徴とする請求項６に記載の装置。

【請求項11】

プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、請求項１～５のいずれか一項に記載のフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる、
ことを特徴とする復号デバイス。

【請求項12】

プロセッサと、機械可読記憶媒体とを含み、前記機械可読記憶媒体には、前記プロセッサによって実行可能な機械実行可能命令が記憶されており、前記プロセッサは、請求項１～５のいずれか一項に記載のフィルタリング方法を実施するように、機械実行可能命令を実行するために用いられる、
ことを特徴とする符号化デバイス。

【請求項13】

機械実行可能命令が記憶されている不揮発性記憶媒体であって、前記機械実行可能命令は、プロセッサによって実行されると、前記プロセッサに請求項１～５のいずれか一項に記載のフィルタリング方法を実施させる、
不揮発性記憶媒体。

【請求項14】

請求項６～１０のいずれか一項に記載のフィルタリング装置を含むカメラデバイス。

【国際調査報告】