(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-10
(45)【発行日】2025-01-21
(54)【発明の名称】フィルタリング方法、装置及び機器
(51)【国際特許分類】
H04N 19/117 20140101AFI20250114BHJP
H04N 19/167 20140101ALI20250114BHJP
H04N 19/176 20140101ALI20250114BHJP
H04N 19/80 20140101ALI20250114BHJP
【FI】
H04N19/117
H04N19/167
H04N19/176
H04N19/80
(21)【出願番号】P 2023513515
(86)(22)【出願日】2021-08-24
(86)【国際出願番号】 CN2021114311
(87)【国際公開番号】W WO2022042550
(87)【国際公開日】2022-03-03
【審査請求日】2023-02-24
(31)【優先権主張番号】202010859387.1
(32)【優先日】2020-08-24
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】508219313
【氏名又は名称】杭州海康威視数字技術股▲フン▼有限公司
(74)【代理人】
【識別番号】100110364
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100133400
【氏名又は名称】阿部 達彦
(72)【発明者】
【氏名】潘 冬萍
(72)【発明者】
【氏名】▲孫▼ ▲ユ▼程
(72)【発明者】
【氏名】▲陳▼ 方▲棟▼
(72)【発明者】
【氏名】王 莉
【審査官】久保 光宏
(56)【参考文献】
【文献】中国特許出願公開第105306957(CN,A)
【文献】特表2014-506061(JP,A)
【文献】米国特許出願公開第2020/0021822(US,A1)
【文献】中国特許出願公開第105357538(CN,A)
【文献】中国特許出願公開第104702963(CN,A)
【文献】"Information Technology Intelligent Media Coding Part 2: Video",T/AI 109.2-2020,中国,[online], 中関村視聴産業技術創新連盟,2020年05月13日,第1~8,20,43,44,187~191頁,[令和6年7月10日検索], インターネット, <URL: http://www.aitisa.org.cn/detail?id=374> and <URL: http://www.aitisa.org.cn/ueditor/php/upload/file/20200904/1599200706.pdf>.
【文献】"IEEE Standard for Second-Generation IEEE 1857 Video Coding",IEEE Std 1857.4-2018,米国,[online], IEEE Computer Society,2019年08月30日,Pages 8,9,14,30,168-172,[令和6年7月9日検索], インターネット, <URL: https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=8821610>,ISBN: 978-1-5044-5461-2.
【文献】Benjamin Bross, et al.,"Versatile Video Coding (Draft 8)",Document: JVET-Q2001-vE, [online],JVET-Q2001 (version 15),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2020年03月12日,Pages 39-44,47-50,106,120,[令和5年8月24日検索], インターネット, <URL: https://jvet-experts.org/doc_end_user/current_document.php?id=9675> and <URL: https://jvet-experts.org/doc_end_user/documents/17_Brussels/wg11/JVET-Q2001-v15.zip>.,(See document file "JVET-Q2001-vE.docx" in the zip file "JVET-Q2001-v15.zip".)
【文献】Takeshi Chujoh, et al.,"Block-based Adaptive Loop Filter",Document VCEG-AI18, [online],ITU - Telecommunications Standardization Sector STUDY GROUP 16 Question 6 Video Coding Experts Group (VCEG),2008年07月17日,Pages 1-6,[令和6年1月24日検索], インターネット, <URL: https://www.itu.int/wftp3/av-arch/video-site/0807_Ber/VCEG-AI18.zip>.,(See document file "VCEG-AI18_r1.doc" in the zip file "VCEG-AI18.zip".)
(58)【調査した分野】(Int.Cl.,DB名)
H04N19/00-19/98
CSDB(日本国特許庁)
学術文献等データベース(日本国特許庁)
IEEEXplore(IEEE)
(57)【特許請求の範囲】
【請求項1】
符号化/復号機器に適用されるフィルタリング方法であって、
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、
前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出するステップと、
前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得するステップと、
取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うステップと、を含み、
前記ウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出され、
前記取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うステップは、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルである場合、当該サンプルを用いてフィルタリングを行うことと、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルでない場合、
当該サンプルが画像境界外にあり、又はパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0である場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外又は下境界外にある場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外になく、適応補正フィルタリングユニットの下境界外にもない場合、当該サンプルを用いてフィルタリングを行うことと、を含む、
ことを特徴とするフィルタリング方法。
【請求項2】
前記ウィーナーフィルタはフィルタ係数を15個含む、
ことを特徴とする請求項1に記載の方法。
【請求項3】
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定する前、さらに、
現在のフレーム画像に対してフィルタリングを行うか否かを決定するステップと、
前記現在のフレーム画像に対してフィルタリングを行うと決定したとき、前記適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始するか否かを決定し、前記適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいてウィーナーフィルタリングを行うステップを実行するステップと、を含む、
ことを特徴とする請求項1又は2に記載の方法。
【請求項4】
前記現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定する前、さらに、
前記現在のフレーム画像に対してLCUの規格に基づいて領域分割を行い、1つの領域に属するLCUに同じフィルタパラメータを配置するステップであって、前記フィルタパラメータは前記ウィーナーフィルタがウィーナーフィルタリングを行うフィルタ係数を含むステップをさらに含む、
ことを特徴とする請求項1から3のいずれかに記載の方法。
【請求項5】
前記現在のフレーム画像に対してLCUの規格に基づいて領域分割を行うことは、
前記現在のフレーム画像に対して領域分割を行って得られた領域数が16以上であることを含む、
ことを特徴とする請求項4に記載の方法。
【請求項6】
符号化/復号機器に適用されるフィルタリング装置であって、決定ユニット及びフィルタリングユニットを含み、
前記フィルタリングユニットは、前記決定ユニットが現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うために用いられ、
前記ウィーナーフィルタは7*7の十字形に
5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出さ
れ、
前記フィルタリングユニットは、さらに、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルである場合、当該サンプルを用いてフィルタリングを行い、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルでない場合、
当該サンプルが画像境界外にあり、又はパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0である場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外又は下境界外にある場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外になく、適応補正フィルタリングユニットの下境界外にもない場合、当該サンプルを用いてフィルタリングを行うために用いられる、 ことを特徴とするフィルタリング装置。
【請求項7】
復号機器であって、プロセッサ及び機械可読記憶媒体を備え、前記機械可読記憶媒体に前記プロセッサによって実行可能な機械実行可能な命令が記憶され、前記プロセッサは機械実行可能な命令を実行すると、
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、
前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、
前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、
取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行い、
前記ウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出さ
れ、
取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行う際に、前記プロセッサはさらに、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルである場合、当該サンプルを用いてフィルタリングを行い、
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルでない場合、
当該サンプルが画像境界外にあり、又はパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0である場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外又は下境界外にある場合、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
当
該サンプルが画像境界外になく、且つ、当該サンプルがパッチ境界外にあり且つクロスパッチ境界フィルタフラグの値が0であることを満たさなく、且つ、当該サンプルが適応補正フィルタリングユニットの上境界外になく、適応補正フィルタリングユニットの下境界外にもない場合、当該サンプルを用いてフィルタリングを行う、
ことを特徴とする復号機器。
【請求項8】
第2のウィーナーフィルタはフィルタ係数を15個含む、
ことを特徴とする請求項
7に記載の復号機器。
【請求項9】
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定する前、前記プロセッサはさらに、
現在のフレーム画像に対してフィルタリングを行うか否かを決定し、
前記現在のフレーム画像に対してフィルタリングを行うと決定したとき、前記適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始するか否かを決定し、前記適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいてウィーナーフィルタリングを行うステップを実行する、
ことを特徴とする請求項
7又は
8に記載の復号機器。
【請求項10】
前記現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定する前、前記プロセッサはさらに、
前記現在のフレーム画像に対してLCUの規格に基づいて領域分割を行い、1つの領域に属するLCUに同じフィルタパラメータを配置し、
前記フィルタパラメータは前記ウィーナーフィルタがウィーナーフィルタリングを行うフィルタ係数を含む、
ことを特徴とする請求項
7から
9のいずれかに記載の復号機器。
【請求項11】
前記現在のフレーム画像に対してLCUの規格に基づいて領域分割を行うことは、
前記現在のフレーム画像に対して領域分割を行って得られた領域数が16以上であることを含む、
ことを特徴とする請求項
10に記載の復号機器。
【請求項12】
符号化機器であって、プロセッサ及び機械可読記憶媒体を備え、前記機械可読記憶媒体に前記プロセッサによって実行可能な機械実行可能な命令が記憶され、前記プロセッサは機械実行可能な命令を実行して、請求項1から
5のいずれかに記載の方法を実施させる、
ことを特徴とする符号化機器。
【請求項13】
プロセッサにより実行されると請求項1から
5のいずれかに記載の方法を実施させる機械可読命令が記憶されている、
ことを特徴とする非一時的機械可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明はビデオの符号化・復号技術に関し、特にフィルタリング方法、装置及び機器に関する。
【背景技術】
【0002】
完全なビデオ符号化は一般的に予測、変換、量子化、エントロピー符号化、フィルタリングなどの操作を含む。
【0003】
ブロックに基づいた動き補償後に量子化操作が存在することで、符号化雑音が発生し、それによりビデオ品質の歪みを引き起こす。ループ後処理技術はこのような歪みによる影響を低減するために用いられる。ループ後処理技術はデブロッキングフィルタ(Deblocking Filter、DBFと略称)、サンプル適応オフセット(Sample Adaptive Offset、SAOと略称)及び適応レベリングフィルタ(Adaptive Leveling Filter、ALFと略称)の3つの技術を含む。
【0004】
オーディオ・ビデオ符号化規格(Audio Video coding Standard、AVSと略称)による符号化フレームワークに使用されるALF技術は、ウィーナーフィルタ(wiener filter)の原理に基づいて、元の信号と歪み信号とが平均二乗意味で達成できる最適な線形フィルタを計算する。
【0005】
しかしながら、実践によると、ALF技術はウィーナーフィルタの原理に基づいて、符号化側で極めて少ないフィルタ係数をトレーニングし、復号側に伝送することにより、再構成画像シーケンスに対してフィルタリングを行って画像品質を向上させる効果を達成することが発見される。画像画素の数が非常に多いが、フィルタ係数が非常に少ないため、ALF技術によって作成されるモデルが大多数の画像を処理する際にアンダーフィッティング(underfitting)の状況が存在する。
【発明の概要】
【課題を解決するための手段】
【0006】
これに鑑みて、本発明はフィルタリング方法、装置及び機器を提供する。
【0007】
具体的には、本発明は以下の技術的解決手段により実現される。
【0008】
本発明の実施例の第1の態様によれば、符号化/復号機器に適用されるフィルタリング方法であって、
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、
前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出するステップと、
前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得するステップと、
取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うステップと、を含み、
前記ウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出される、フィルタリング方法が提供される。
【0009】
本発明の実施例の第2の態様によれば、符号化/復号機器に適用されるフィルタリング装置であって、決定ユニット及びフィルタリングユニットを含み、そのうち、
前記フィルタリングユニットは、前記決定ユニットが現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルリングを開始すると決定したとき、前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うために用いられ、
ここで、前記ウィーナーフィルタは7*7の十字形に3*3の方形を加えた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出される、フィルタリング装置が提供される。
【0010】
本発明の実施例の第3の態様によれば、プロセッサ及び機械可読記憶媒体を含む復号機器であって、前記機械可読記憶媒体に前記プロセッサによって実行可能な機械実行可能な命令が記憶され、前記プロセッサは機械実行可能な命令を実行すると、
現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、
前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、
前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、
取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行うように促され、
ここで、前記ウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値によって導出される、フィルタリング方法が提供される。
【0011】
本発明の実施例の第4の態様によれば、プロセッサ及び機械可読記憶媒体を含む符号化機器であって、前記機械可読記憶媒体に前記プロセッサによって実行可能な機械実行可能な命令が記憶され、前記プロセッサは第1の態様にて提供される方法を実施するように機械実行可能な命令を実行するために用いられる、符号化機器が提供される。
【0012】
本発明の実施例の第5の態様によれば、プロセッサ及び機械可読記憶媒体を含む復号機器であって、前記機械可読記憶媒体に前記プロセッサによって実行可能な機械実行可能な命令が記憶され、前記プロセッサは第1の態様にて提供される方法を実施するように機械実行可能な命令を実行するために用いられる、復号機器が提供される。
【0013】
本発明の実施例の第6の態様によれば、プロセッサにより実行されると第1の態様にて提供される方法を実施する機械可読命令が記憶されている非一時的機械可読記憶媒体が提供される。
【0014】
本発明の実施例のフィルタリング方法は、ウィンドウが7*7の十字形に3*3の方形が加えられた形状となる中心対称フィルタの第1のウィーナーフィルタを基に形状拡張を行って第2のウィーナーフィルタを得、現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUの参照画素及び第2のウィーナーフィルタのフィルタ係数を取得し、それらに基づいて、現在の画素に対して一つ一つウィーナーフィルタリングを行うことにより、フィルタリング効果を最適化し、符号化・復号性能を向上させる。
【図面の簡単な説明】
【0015】
【
図1】ビデオの符号化・復号のフローチャートである。
【
図6A】本発明の例示的な一実施例に示すフィルタリング方法のフローチャートである。
【
図6B】本発明の例示的な一実施例に示すフィルタリング方法のフローチャートである。
【
図7】本発明の例示的な一実施例に示す第2のウィーナーフィルタの概略図である。
【
図8】本発明の例示的な一実施例に示す参照画素位置の概略図である。
【
図9】本発明の例示的な一実施例に示すフィルタリング方法のフローチャートである。
【
図10】本発明の例示的な一実施例に示すフィルタリング方法のフローチャートである。
【
図11】本発明の例示的な一実施例に示す復号のフローチャートである。
【
図12】本発明の例示的な一実施例に示す2回のフィルタの復号のフローチャートである。
【
図13】本発明の例示的な一実施例に示すCTU決定のフローチャートである。
【
図14】本発明の例示的な一実施例に示すサンプルフィルタオフセットユニットの概略図である。
【
図15】本発明の例示的な一実施例に示すフィルタリング装置の構造の概略図である。
【
図16】本発明の例示的な一実施例に示すフィルタリング装置の構造の概略図である。
【
図17】本発明の例示的な一実施例に示すフィルタリング装置の構造の概略図である。
【
図18】本発明の例示的な一実施例に示す復号機器の構造の概略図である。
【
図19】本発明の例示的な一実施例に示す符号化機器の構造の概略図である。
【発明を実施するための形態】
【0016】
ここで、例示的な実施例について詳細に説明し、その例を図面において表示する。以下の説明が図面にかかわる場合、特に示さない限り、異なる図における同一の数字は同一又は類似の要素を表す。以下の例示的な実施例において説明される実施形態は、本発明に一致するすべての実施形態を代表するものではない。これに対して、それらは、添付の特許請求の範囲に詳しく記載されるような、本発明のいくつかの態様に一致する装置及び方法の例に過ぎない。
【0017】
本発明において使用される用語は、特定の実施例を説明するためのものに過ぎず、本発明を限定するものではない。本発明及び添付の特許請求の範囲において使用される単数形の「一種」、「前記」及び「当該」は、文脈において他の意味が明確に指示されない限り、複数形を含むことも意図している。
【0018】
以下、当業者が本発明の実施例にて提供される技術的解決手段をよりよく理解できるように、本発明の実施例にかかわる技術用語、既存のビデオ符号化・復号の主なフロー及びウィーナーフィルタ技術(ALF技術)の実現について簡単に説明する。
【0019】
一、技術用語
1、レート歪み最適化(RDO、Rate-Distortion Optimized):符号化効率を評価する指標であり、ビットレートとピーク信号対雑音比(Peak Signal to Noise Ratio、略称PSNR)とを含む。ビットレートが小さければ小さいほど、圧縮率が大きく、PSNRが大きければ大きいほど、再構成画像品質が良好である。モード選択時には、判別式は実質的に両者に対する総合評価である。
【0020】
モードに対応するコスト:J(mode)=D+λ*R。ここで、Dは歪み(Distortion)を表し、一般的にはSSE(Sum of Squared Errors、差分の平均二乗和)指標を用いて測定され、SSEとは、再構成ブロックとソース画像ブロックとの差分の平均二乗和であり、λはラグランジュ乗数であり、Rはこのモードで画像ブロックの符号化に必要な実際のビット数であり、モード情報、動き情報、及び残差などを符号化することに必要なビット数の総和を含む。
【0021】
モード選択時に、RDO原則により符号化モードを比較決定すれば、通常、符号化の性能の最適さを保証することができる。
【0022】
2、符号化木ユニット(Coding Tree Unit、CTUと略称):従来のビデオ符号化はいずれもマクロブロックに基づいて実現され、4:2:0サンプリングフォーマットのビデオについて、1つのマクロブロックは1つの16×16サイズの輝度ブロック及び2つの8×8サイズの色度ブロックを含み、ハイビジョンビデオ/スーパーハイビジョンビデオの自己特性を考慮して、汎用ビデオ符号化(Versatile Video Coding、VVCと略称)にCTUが導入され、そのサイズが符号化機器によって指定され、マクロブロックサイズより大きいことが許可される。同一箇所に位置する1つの輝度符号化木ブロック(Coding Tree Block、CTBと略称)及び2つの色度CTBに、対応するシンタックス要素をさらに加えると、1つのCTUが形成される。VVCにおいて1つのL×Lサイズの輝度CTBについて、L∈{8、16、32、64、128}とする。
【0023】
輝度CTBの値範囲は{8×8、16×16、32×32、64×64、128×128}である。
【0024】
色度CTBの値範囲は{4×4、8×8、16×16、32×32、64×64}である。
【0025】
高解像度ビデオの符号化過程において、より大きいCTBを用いると、より良好な圧縮効果を得ることができる。
【0026】
3、デブロッキングフィルタリング:画像符号化過程は異なるブロックに基づいて行われるものであり、各ブロック内に相対的に独立した符号化が行われており、各ブロックが異なるパラメータを使用するため、ブロック内の分布特性が互いに独立し、ブロックのエッジの不連続が存在することを引き起こし、それはブロッキング効果と呼ばれる。デブロッキングフィルタリングは主にブロックの境界を平滑化し、ブロッキング効果を除去する。
【0027】
4、サンプル適応オフセット:画素領域から着手し、再構成画像をその特徴に基づいて類別分けし、続いて画素領域においてオフセット処理を行う。主にリンギング効果(Ringing effect)を低減するためである。
【0028】
5、適応レベリングフィルタリング:DBF及びSAOの後に適用され、客観的な条件下で画像品質をさらに向上させることを主な目的とする。ALF技術は参照画素の特徴に基づいて、最小二乗を基礎とする多重線形回帰モデルを構築し、画素領域にフィルタオフセットを行う。
【0029】
6、ウィーナーフィルタリング(wiener filtering):本質的に、推定誤差(所望の応答とフィルタの実際の出力との差として定義される)の二乗平均を最小化することである。
【0030】
二、ビデオの符号化・復号の主なフロー
図1における(a)に示すように、ビデオ符号化を例とし、ビデオ符号化は一般的に予測、変換、量子化、及びエントロピー符号化などのプロセスを含み、さらに、符号化プロセスは
図1における(b)のフレームワークに従って実現することができる。
【0031】
そのうち、予測はイントラ予測とインター予測に分けることができ、イントラ予測とは、周囲の符号化済みブロックを基準として現在の未符号化ブロックに対して予測を行い、空間領域における冗長性を効果的に除去することである。インター予測とは、隣接する符号化済み画像を用いて現在の画像を予測し、時間領域における冗長性を効果的に除去することである。
【0032】
変換とは、画像を空間領域から変換領域に変換し、変換係数を用いて画像を表すことである。ほとんどの画像は多くの平坦領域及び緩やかに変化する領域を含み、適切な変換により画像を空間領域における分散分布から変換領域における相対的な集中分布に変換させ、信号間の周波数領域相関を除去し、量子化過程と連携して、ビットストリームを効果的に圧縮することができる。
【0033】
エントロピー符号化は可逆符号化方式であり、一連の要素符号を伝送又は記憶のためのバイナリストリームに変換することができ、入力された符号は量子化された変換係数、動きベクトル情報、予測モード情報、及び変換量子化関連シンタックスなどを含む可能性がある。エントロピー符号化はビデオ要素符号の冗長性を効果的に除去することができる。
【0034】
以上は符号化を例として紹介し、ビデオ復号のプロセスとビデオ符号化のプロセスとは相対であり、すなわちビデオ復号は一般的にエントロピー復号、予測、逆量子化、逆変換、及びフィルタリングなどのプロセスを含み、各プロセスの実現原理はビデオ符号化と同一又は類似である。
【0035】
三、ウィーナーフィルタリング技術の実現
ALF符号化プロセスは、領域分割→参照画素の取得→領域統合且つフィルタ係数の算出→CTU決定による各LCUがフィルタリングを開始するか否かについての判断を含む。
【0036】
プロセス全体において計算し取得する必要があるパラメータは以下のとおりである。1)フィルタパラメータの数、2)領域統合フラグ、3)各グループのフィルタ係数、4)LCUがフィルタリングを開始するか否かについてのフラグ、5)現在の成分(Y,U,V)がフィルタリングを開始するか否かについてのフラグ。
【0037】
以下、ALF過程における一部の処理及び概念について詳細に説明する。
【0038】
1、領域分割
ALFフローにおいて、取得した再構成ビデオデータについて、輝度成分上のデータに対して領域分割処理を行い、色度成分上のデータに対して領域分割処理を行わない。
【0039】
一例として、領域分割の具体的な実現プロセスは、画像をサイズが基本的に等しく、且つLCUに基づいて位置合わせした16個の領域に分割することであってもよい。非最右領域の幅は(((pic_width_InLcus+1)/4)×Lcu_Width)であり、pic_width_InLcusは画像の幅におけるLCUの数を示し、Lcu_Widthは各LCUの幅を示す。最右領域の幅は画像の幅と一番右でない3つの領域の幅との差(画像の幅から非最右の3つの領域の全幅を減るもの)である。
【0040】
同様に、非底部領域の高さは(((pic_height_InLcus+1)/4)×Lcu_Height)であり、pic_height_InLcusは画像の高さにおけるLCUの数を示し、Lcu_Heightは各LCUの高さを示す。最底部領域の高さは画像の高さと非底部の3つの領域の高さとの差(画像の高さから非底部の3つの領域の全高を減るもの)である。
【0041】
全画像の領域分割結果を得た後、各領域にインデックス値を割り当て、概略図は
図2に示すとおりであってもよい。
【0042】
2、領域統合
領域統合操作とはインデックス値の順序に基づいて隣接する領域を統合するか否かを判断することである。統合の目的は符号化係数を低減することである。現在の領域を隣接する領域と統合するか否かを示すために、1つの統合フラグを使用する必要がある。
【0043】
例えば、上記領域分割方式に従って領域分割を行うと、合計16個の領域(16クラス又は16グループ(groups)と呼ばれてもよく、インデックス値は順に0~15である)が含まれ、1回目の統合時、領域0と領域1との統合、領域1と領域2との統合、領域2と領域3との統合、…、領域13と領域14との統合、領域14と領域15との統合を順次試み、誤差が最小となる統合方式に従って、1回目の領域統合を行い、それにより16個の領域が統合されると15個の領域になる。
【0044】
1回目の統合後の15個の領域(領域2と領域3とを統合して、領域2+3を得ると仮定する)に対して、領域0と領域1との統合、領域1と領域2+3との統合、領域2+3と領域4との統合、…、領域13と領域14との統合、領域14と領域15との統合を順次試み、誤差が最小となる統合方式に従って、2回目の領域統合を行い、それにより15個の領域が統合されると14個の領域になる。
【0045】
2回目の統合後の14個の領域に対して(領域14と領域15を統合して、領域14+15を得ると仮定し、すなわち統合領域は領域2+3及び領域14+15を含む)に対し、領域0と領域1との統合、領域1と領域2+3との統合、領域2+3と領域4との統合、…、領域12と領域13との統合、領域13と領域14+15との統合を順次試み、誤差が最小となる統合方式に従って、3回目の領域統合を行い、それにより14個の領域が統合されると13個の領域になる。
【0046】
以下、1つの領域に統合するまで同様とし、その概略図は
図3に示すとおりであってもよい。
【0047】
上記領域統合操作が完了した後、領域統合を行わない場合(合計16個の領域)、領域統合を1回行った場合(合計計15個の領域)、…、領域統合を14回行った場合(合計2個の領域)、領域統合を15回行った場合(合計1個の領域)の順に、全フレームの画像に対してウィーナーフィルタリングを行う誤差を計算し、誤差が最小となる領域統合方式を最終的な領域統合方式として決定することができる。
【0048】
3、参照画素、フィルタ係数
上記方式に従って領域分割を行った後、各領域における各画素の参照画素に基づいて、ウィーナーフィルタの原理に従ってフィルタ係数を算出することができる。
【0049】
例えば、第1のウィーナーフィルタを例とし、参照画素の選択を
図4に示し、フィルタは中心対称特性を満たすため、参照画素の選択は以下のとおりである。
E[i]=(P
i+P
16-i)
E[8]=P
8
P
iはフィルタリング前の再構成画像における画素値に属し、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0050】
ウィーナーフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素値に近似させる。
【0051】
例えば、第1のウィーナーフィルタを例とし、フィルタ形状を
図5に示し、7*7の十字形に3×3の方形を加えて構成されるフィルタである。フィルタは中心対称フィルタとして設計され、符号化機器は復号機器に9個のフィルタ係数を伝達するだけでよい。
【0052】
そのうちC0~C7は7bitの符号あり数値であり、値の範囲は[-1,1)であり、C8は7bitの符号なし数値であり、値の範囲は[0,2)である。
【0053】
ALF技術は最大符号化ユニット(Largest Coding Unit、LCUと略称)に基づいて処理を行うものである。同一の統合された領域に属するLCUは、同一のグループのフィルタ係数を用いてフィルタリングする。
【0054】
4、適応補正フィルタリングユニット
図14に示すように、現在の最大符号化ユニットに基づいて以下のステップで適応補正フィルタリングユニットを導出する。
【0055】
4.1、現在の最大符号化ユニットCが位置するサンプル領域の画像境界を超える部分を削除し、サンプル領域Dを得る。
【0056】
4.2、サンプル領域Dの下境界が位置するサンプルが画像の下境界に属しなければ、輝度成分及び色度成分サンプル領域Dの下境界を上向きに4行収縮し、サンプル領域E1を得、そうでなければ、サンプル領域E1をサンプル領域Dに等しくする。サンプル領域Dの最後の行のサンプルはサンプル領域E1の下境界である。
【0057】
4.3、サンプル領域E1の上境界が位置するサンプルが画像の上境界に属し、又はパッチ境界に属し且つcross_patch_loopfilter_enable_flagの値が「0」であれば、サンプル領域E2をサンプル領域E1に等しくし、そうでなければ、輝度成分及び色度成分のサンプル領域E1の上境界を上向きに4行拡張し、サンプル領域E2を得る。サンプル領域E1の1行目のサンプルはサンプル領域E2の上境界である。
【0058】
4.4サンプル領域E2を現在の適応補正フィルタリングユニットとする。画像の1行目のサンプルは画像の上境界であり、最後の行のサンプルは画像の下境界である。
【0059】
5、適応補正フィルタリング動作
適応補正フィルタリング過程において用いられるサンプルは適応補正フィルタリングユニット内のサンプルであれば、当該サンプルを直接用いてフィルタリングを行い、そうでなければ、以下の方式に従ってフィルタリングを行う。
【0060】
5.1、当該サンプルが画像境界外にあり、又はパッチ境界外にあり且つcross_patch_loopfilter_enable_flagの値が「0」であれば、当該サンプルの代わりに適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行う。
【0061】
5.2、そうでなく、当該サンプルが適応補正フィルタリングユニットの上境界外又は下境界外にあれば、当該サンプルの代わりに適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行う。
【0062】
5.3、当該サンプルが適応補正フィルタリングユニットの上境界外にもなく、適応補正フィルタリングユニットの下境界外にもなければ、当該サンプルを直接用いてフィルタリングを行う。
【0063】
6、符号化木ユニット(Coding Tree Unit、CTUと略称)決定
領域統合をして、各領域のフィルタ係数を算出した後、CTU決定を行う必要があり、CTU決定もLCUを基本単位とし、現在の画像における各LCUがALFを使用するか否か(すなわちウィーナーフィルタリングを開始するか否か)を判断する。
【0064】
現在のLCUのオンオフ前後のレート歪みコストを計算して、現在のLCUがALFを使用するか否かを決定する。現在のLCUがALFを使用するようにマーキングされれば、LCU内の各画素をウィーナーフィルタリングする。
【0065】
関連技術において、ウィーナーフィルタリング原理に基づいて、符号化側で極めて少ないフィルタのフィルタ係数をトレーニングし、復号側に伝送することにより、再構成画像シーケンスに対してフィルタリングを行って画像品質を向上させる効果を達成する。画像画素の数が多いが、フィルタ係数が少ないため、ALF技術によって作成されるモデルが大多数の画像を処理する際にアンダーフィッティングの状況が存在する。そのため、ALF技術の利用には依然として画像品質を向上させる余地がある。
【0066】
一例として、符号化機器について、イントラ/インター予測を行った後、予測結果に対して変換、量子化、逆量子化及び逆変換処理を順に行い、再構成画像シーケンスを得てもよい。
【0067】
復号機器について、ビットストリームに対してエントロピー復号、逆量子化及び逆変換を順に行い、再構成画像シーケンスを得てもよい。
【0068】
ウィーナーフィルタリング効果を最適化し、符号化・復号性能を向上させるために、本発明の実施例は以下のいくつかの点から従来のウィーナーフィルタリング技術を改善することを考慮する。
【0069】
1、より細かい領域分割、又はフィルタ係数の増加により、ALF技術によって作成されたモデルが画像を処理する時のアンダーフィッティング度合いを緩和することができるが、それとともにより多くの情報を復号側に伝送する必要があり、ビットレートを増大させるため、フィルタ係数を適切に増加する方式でフィルタリングを行う。
【0070】
2、ALF技術は画像の再構成品質を向上させることができ、1回目のALFにはアンダーフィッティングの状況が存在するため、2次ウィーナーフィルタリングの方法を導入することにより、1回目のフィルタリング後の画像に対して、1グループのフィルタ係数を新たにトレーニングし、再びフィルタリングを行い、画像品質をさらに向上させる。
【0071】
3、フィルタの形状が一定であるため、いくつかの位置における参照画素とフィルタリング対象の画素との間の関係が小さい可能性があり、又は参照画素の共線性が存在し、それによりトレーニングされた係数が最適な係数ではない可能性がある。したがって、ステップワイズ回帰の思想を用い、3回のCTU決定の後、1回のCTU決定を追加し、係数が0である位置における参照画素はフィルタ係数の計算に関与しない。
【0072】
以下、本発明の実施例の上記目的、特徴及び利点をより明らかにするために、図面を参照しながら本発明の実施例における技術的解決手段について一層詳細に説明する。
【0073】
実施例1、フィルタ係数の増加
フィルタの形状を変更し、フィルタ係数を適切に増加する方式を用いてフィルタリングを行い、ALF技術によって作成されたモデルが画像を処理する時のアンダーフィッティング度合いを緩和する。
【0074】
なお、実施例1に記載のフィルタリング方法は符号化機器にも、復号機器にも適用できる。
【0075】
図6Aに示すように、本発明の実施例にて提供されるフィルタリング方法のフローチャートであり、
図6Aに示すように、このフィルタリング方法は以下のステップS600を含んでもよい。
【0076】
ステップS600において、現在のフレーム画像の適応補正フィルタリングユニットに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のフレーム画像の現在の最大符号化ユニットLCUに基づいて前記適応補正フィルタリングユニットを導出し、前記適応補正フィルタリングユニットの参照画素及びウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びウィーナーフィルタのフィルタ係数に従って、前記適応補正フィルタリングユニットのサンプル画素に基づいて前記ウィーナーフィルタリングを行い、前記ウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はウィーナーフィルタリング前の再構成画像の画素値によって導出される。
【0077】
図6Bに示すように、本発明の実施例にて提供される別のフィルタリング方法のフローチャートであり、
図6Bに示すように、このフィルタリング方法はステップS601を含んでもよい。
【0078】
ステップS601において、現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、現在のLCUの参照画素及びウィーナーフィルタのフィルタ係数を取得し、それらに基づいて、現在のLCUの画素に対して一つ一つウィーナーフィルタリングを行う。一例として、当該ウィーナーフィルタは第2のウィーナーフィルタであり、第2のウィーナーフィルタは第1のウィーナーフィルタを基に形状拡張を行って得られたものであり、第1のウィーナーフィルタは7*7の十字形に3*3の方形が加えられた形状となる中心対称フィルタであり、参照画素の値はフィルタリング前の再構成画像の画素値に基づいて決定される。
【0079】
なお、本発明の実施例において、特に断らない限り、言及された現在のフレーム画像は再構成画像を指す。
【0080】
また、現在のフレーム画像に対してウィーナーフィルタリングを行う前に、ニーズに応じて現在のフレーム画像に対してDBF処理又は/及びSAO処理を行うか否かを選択することができ、その具体的な実現について、ここでは重複する説明は省略する。
【0081】
現在のフレームに対してDBF処理又は/及びSAO処理を行った場合、本発明の実施例において言及された現在のフレーム画像はDBF処理又は/及びSAO処理が行われた再構成画像であってもよく、現在のフレームに対してDBF処理又は/及びSAO処理を行わない場合、本発明の実施例に言及された現在のフレーム画像は上記逆量子化及び逆変換処理後に得られた再構成画像であってもよい。
【0082】
なお、以下説明されるLCUに対してウィーナーフィルタリングを行うことは、特に説明しない限り、LCUの各画素の輝度成分(Y成分)及び色度成分(U成分とV成分)に対してウィーナーフィルタリングを行うことを含んでもよいが、前者(Y成分)に対してフィルタリングを行う場合には、領域分割及び領域統合などの処理を行う必要があり、後者(U成分とV成分)に対してフィルタリングを行う場合には、領域分割及び領域統合の処理を行う必要がない。
【0083】
本発明の実施例において、フィルタリング効果を最適化し、符号化・復号性能を向上させるために、ウィーナーフィルタのフィルタ係数を適切に増加し、新しいウィーナーフィルタを得ることにより、ALF技術が画像を処理する時に存在するアンダーフィッティング状況を緩和することができる。
【0084】
一例として、7*7の十字形に3*3の正方形が加えられた形状となる中心対称フィルタ(本明細書では第1のウィーナーフィルタと呼ばれ、概略図は
図5に示すとおりであってもよい)を基に形状拡張を行う方式により、新しいウィーナーフィルタ(本明細書では第2のウィーナーフィルタと呼ばれる)を得るとしてもよい。
【0085】
現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、符号化/復号機器は現在のLCUの参照画素及び第2のウィーナーフィルタのフィルタ係数を取得し、取得した参照画素及びフィルタ係数に基づいて現在のLCUの画素に対して一つ一つウィーナーフィルタリングを行うことができる。
【0086】
一例において、第2のウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタである。
【0087】
一例として、
図7に示すように、第2のウィーナーフィルタは15個のフィルタ係数を含む。
【0088】
一例として、
図7に示す第2のウィーナーフィルタに対応して、参照画素の位置は
図8に示すとおりであってもよく、参照画素値を取得するための再構成画像の参照画素位置は第2のウィーナーフィルタリングのフィルタ係数の形状にマッチングする。
【0089】
一例では、ステップS601において、現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを行うと決定する前に、さらに、現在のフレーム画像に対してフィルタリングを行うか否かを決定し、現在のフレーム画像に対してフィルタリングを行うと決定したとき、現在のLCUに対してウィーナーフィルタリングを開始するか否かを決定し、現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、現在のLCUの参照画素及びウィーナーフィルタのフィルタ係数を取得し、それらに基づいて現在のLCUの画素に対して一つ一つウィーナーフィルタを行うステップを実行することを含んでもいい。
【0090】
一例として、現在のLCUに対してウィーナーフィルタリングを行う前に、現在のフレーム画像に対してフィルタリングを行うか否かを決定してもよい。
【0091】
一例として、符号化機器について、あるフレームの画像に対してフィルタリングを行うか否かを決定することは、フィルタリング前後の当該フレームの画像のレート歪みコストに基づいて、当該フレームの画像に対してフィルタリングを行うか否かを決定することであってもよく、その具体的な実現について、ここでは重複する説明は省略する。
【0092】
現在のフレーム画像に対してフィルタリングを行うと決定したとき、現在のフレーム画像における各LCUに対してウィーナーフィルタリングを開始するか否かをそれぞれ決定してもよい。
【0093】
一例として、符号化機器はCTU決定に基づいて、あるLCUに対してウィーナーフィルタリングを開始するか否かを決定してもよい。
【0094】
復号機器について、受信した現在のフレーム画像の符号化ビットストリームに付加されたフレームレベルのフィルタフラグビットの値に基づいて、現在のフレーム画像に対してフィルタリングを行うか否かを決定してもよく、現在のフレーム画像に対してフィルタリングを行うと決定したとき、ビットストリームにおけるLCUレベルのフィルタフラグビットの値に基づいて、対応するLCUに対してフィルタリングを行うか否かを決定してもよい。
【0095】
一例として、現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、上記実施例で説明した方式に従って、現在のLCUに対してウィーナーフィルタリングを行ってもよい。
【0096】
実施例2、フィルタリング過程を1回追加する
2回フィルタリングの方法を導入することにより、1回目のフィルタリング後の画像に対して、1グループのフィルタ係数を新たにトレーニングし、再びフィルタリングを行い、画像品質をさらに向上させる。
【0097】
なお、実施例2に記載のフィルタリング方法は符号化機器にも、復号機器にも適用できる。
【0098】
図9に示すように、本発明の実施例にて提供されるフィルタリング方法のフローチャートであり、
図9に示すように、このフィルタリング方法は以下のステップS900を含んでもよい。
【0099】
ステップS900において、現在の画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う。
【0100】
本発明の実施例において、ウィーナーフィルタリングが開始されるLCUに対して、2回のウィーナーフィルタリング(本明細書では1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングと呼ばれる)を行うことができる。
【0101】
現在のフレーム画像の現在LCUに対してウィーナーフィルタリングを開始すると決定したとき、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うことができる。
【0102】
一例として、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うことは、
【0103】
現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素、並びに現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素を取得し、それらに基づいて現在のLCUの画素に対して一つ一つ1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う。
【0104】
一例として、符号化機器について、ウィーナーフィルタのフィルタ係数は計算によって決定されてもよく、復号機器について、ウィーナーフィルタのフィルタ係数はビットストリームから取得されてもよい。
【0105】
一例では、ステップS900において、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う前に、さらに、
現在のフレーム画像に対してフィルタリングを行うか否かを決定するステップと、
現在のフレーム画像に対してフィルタリングを行うと決定したとき、現在のLCUに対してウィーナーフィルタリングを開始するか否かを決定し、現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うステップを実行すると決定するステップと、を含んでもよい。
【0106】
一例として、1つのフレームレベルのフィルタフラグによって画像がフィルタリングを必要とするか否かを識別し、1つのLCUレベルのフィルタフラグによってLCUがウィーナーフィルタを開始するか否かを識別するとしてもよい。
【0107】
符号化機器は当該フレームレベルのフィルタフラグによって復号機器に現在の画像に対してフィルタリングを行うか否かを通知してもよく、復号機器はビットストリームにおける当該フレームレベルのフィルタフラグの値に基づいて現在のフレーム画像に対してフィルタリングを行うか否かを決定してもよい。
【0108】
同様に、符号化機器は当該LCUレベルのフィルタフラグによって現在のLCUがウィーナーフィルタを開始するか否かを通知してもよく、復号機器はビットストリームにおける当該LCUレベルのフィルタフラグの値に基づいて現在のLCUがウィーナーフィルタを開始するか否かを決定してもよい。
【0109】
一例として、符号化機器があるフレームの画像に対してフィルタリングを行うか否かを決定することは、従来のフィルタリング方法による実現を参照してもよく、例えば、フィルタリング前後の当該フレームの画像のレート歪みコストに基づいて、当該フレームの画像に対してフィルタリングを行うか否かを決定してもよく、その具体的な実現について、ここでは重複する説明は省略する。
【0110】
現在のフレーム画像に対してフィルタリングを行うと決定したとき、現在のフレーム画像における各LCUに対してウィーナーフィルタリングを開始するか否かをそれぞれ決定してもよい。
【0111】
一例として、符号化機器はCTU決定に基づいて、あるLCUに対してウィーナーフィルタリングを開始するか否かを決定してもよい。
【0112】
符号化/復号機器が現在のフレーム画像に対してフィルタリングを行い、且つ現在のLCUに対してウィーナーフィルタリングを開始すると決定したときは、現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素、並びに現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタ係数及び参照画素を取得し、取得したフィルタ係数及び参照画素に基づいて、現在のLCUの画素に対して一つ一つ1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うとしてもよい。
【0113】
なお、フィルタリング効率を向上させるために、現在のLCUに対してウィーナーフィルタリングを行うとき、現在の画素に対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行った後、次の画素に対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行ってもよく、それにより画素を1回読み取る場合に、各画素に対して2回のウィーナーフィルタリングを行い、画素の読み取り回数を減少させる。
【0114】
別の例では、ステップS900において、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う前に、さらに、
現在のフレーム画像に対して1回目のフィルタリングを行うか否か、及び現在のフレーム画像に対して2回目のフィルタリングを行うか否かを決定するステップと、
現在のフレーム画像に対して1回目のフィルタリングを行い、且つ現在のフレーム画像に対して2回目のフィルタリングを行うと決定したとき、現在のLCUに対して1回目のウィーナーフィルタリングを開始するか否か、及び現在のLCUに対して2回目のウィーナーフィルタリングを開始するか否かを決定するステップと、
現在のLCUに対して1回目のウィーナーフィルタリングを開始し、且つ現在LCUに対して2回目のウィーナーフィルタリングを開始すると決定したとき、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うステップを実行すると決定するステップと、を含んでもよい。
【0115】
一例として、現在のフレーム画像に対して1回目のフィルタリングを行うか否か、及び現在のフレーム画像に対して2回目のフィルタリングを行うか否かをそれぞれ決定する必要があり、現在のフレームに対して1回目のフィルタリング又は/及び2回目のフィルタリングを行うと決定したとき、現在のLCUに対して1回目のウィーナーフィルタリングを開始するか否か、及び現在のLCUに対して2回目のウィーナーフィルタリングを開始するか否かをそれぞれ決定する必要がある。
【0116】
一例として、2つのフレームレベルのフィルタフラグによって画像が1回目のフィルタリング及び2回目のフィルタリングを必要とするか否かをそれぞれ識別し、そして2つのLCUレベルのフィルタフラグによってLCUが1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを開始するか否かをそれぞれ識別するとしてもよい。
【0117】
符号化機器は当該フレームレベルのフィルタフラグによって現在の画像に対して1回目のフィルタリング及び2回目のフィルタリングを行うか否かを復号機器に通知してもよく、復号機器はビットストリームにおける当該フレームレベルのフィルタフラグの値に基づいて現在のフレーム画像に対して1回目のフィルタリング及び2回目のフィルタリングを行うか否かを決定してもよい。
【0118】
同様に、符号化機器は当該LCUレベルのフィルタフラグによって現在のLCUが1回目のフィルタリング及び2回目のフィルタリングを開始するか否かを通知してもよく、復号機器はビットストリームにおける当該LCUレベルのフィルタフラグの値に基づいて現在のLCUが1回目のフィルタリング及び2回目のフィルタリングを開始するか否かを決定してもよい。
【0119】
一例として、符号化機器はフィルタリング前後の当該フレーム画像のレート歪みコストに基づいて、当該フレームの画像に対して1回目のフィルタリング及び2回目のフィルタリングを行うか否かを決定するとしてもよく、その具体的な実現について、ここでは重複する説明は省略する。
【0120】
現在のフレーム画像に対して1回目のフィルタリング及び2回目のフィルタリングを行うと決定したとき、現在のLCUに対して1回目のウィーナーフィルタリングを開始するか否か、及び現在のLCUに対して2回目のウィーナーフィルタリングを開始するか否かを決定してもよい。
【0121】
一例として、符号化機器はCTU決定に基づいて、あるLCUに対して1回目のフィルタリング及び2回目のフィルタリングを開始するか否かを決定してもよい。
【0122】
なお、本発明の実施例において、画像について、さらに現在のフレーム画像に対して1回目のフィルタリングを行い、2回目のフィルタリングを行わなく、又は、現在のフレーム画像に対して2回目のフィルタリングを行い、1回目のフィルタリングを行わなく、又は、現在のフレーム画像に対して1回目のフィルタリングも、2回目のフィルタリングも行わないとしてもよい。
【0123】
LCUについて、現在のLCUに対して1回目のウィーナーフィルタリングを開始し、2回目のウィーナーフィルタリングを開始しなく、又は、現在のLCUに対して2回目のウィーナーフィルタリングを開始し、1回目のウィーナーフィルタリングを開始しなく、又は、現在のLCUに対して1回目のウィーナーフィルタリングも、2回目のウィーナーフィルタリングも開始しないとしてもよい。
【0124】
符号化機器はそれぞれ上記2つのフレームレベルのフィルタフラグ及び2つのLCUレベルのフィルタフラグにより、現在のフレーム画像に対して1回目のフィルタリング又は/及び2回目のフィルタリングを行うか否か、及び、現在のフレーム画像に対して1回目のフィルタリング又は/及び2回目のフィルタリングを行う場合、現在のLCUに対して1回目のウィーナーフィルタリング又は/及び2回目のウィーナーフィルタリングを開始するか否かを復号機器に指示する。
【0125】
一例において、現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタ及び2回目のウィーナーフィルタリングを行うウィーナーフィルタはいずれも第1のウィーナーフィルタであり、又は、
現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタ及び2回目のウィーナーフィルタリングを行うウィーナーフィルタはいずれも第2のウィーナーフィルタであり、又は、
現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタは第1のウィーナーフィルタであり、現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタは第2のウィーナーフィルタであり、又は、
現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタは第2のウィーナーフィルタであり、現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタは第1のウィーナーフィルタである。
【0126】
一例として、現在のLCUに対して1回目のウィーナーフィルタリング又は2回目のウィーナーフィルタリングを行う場合は、いずれも第1のウィーナーフィルタ又は第2のウィーナーフィルタから使用されるウィーナーフィルタを選択してもよく、具体的に使用されるウィーナーフィルタは配置された命令によって指示することができる。
【0127】
一例として、第2のウィーナーフィルタは第1のウィーナーフィルタを基に形状拡張を行って得られたものであり、第1のウィーナーフィルタは7*7の十字形に3*3の方形が加えられた中心対称フィルタであり、その概略図は
図5に示すとおりであってもよい。
【0128】
一例として、第2のウィーナーフィルタは7*7の十字形に5*5の方形が加えられた中心対称フィルタであり、その概略図は
図7に示すとおりであってもよい。
【0129】
一例において、現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第1の方式に従って第1の再構成画像から取得され、第1の再構成画像は1回目のウィーナーフィルタリング前の再構成画像である。
【0130】
現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の画素値は第2の方式に従って第1の再構成画像から取得される。
【0131】
一例として、現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値及び現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は、いずれも1回目のウィーナーフィルタリング前の再構成画像(本明細書では第1の再構成画像と呼ばれる)から取得されてもよい。
【0132】
一例として、現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第1の方式に従って第1の再構成画像から取得されてもよい。
【0133】
現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第2の方式に従って第1の再構成画像から取得されてもよい。
【0134】
一例として、第1の方式は
図4に示す参照画素位置及び
図5に示す第1のウィーナーフィルタの形状に基づいて、第1の再構成画像の参照画素位置から参照画素の値を取得することであってもよい。
E[i]=P
i+P
16-i
E[8]=P
8
ここで、P
iはフィルタリング前の再構成画像における画素値に属し、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0135】
一例として、第2の方式は以下のとおりであってもよい。
現在のLCUにおける各画素に対応する参照画素の値は第1の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて決定される。
【0136】
例えば、
図4に示す参照画素位置を例とし、第2の方式に従って第1の再構成画像から参照画素の値を取得することは以下のポリシーによって実現されてもよい。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0137】
また例えば、
図8に示す参照画素位置を例とし、第2の方式に従って第1の再構成画像から参照画素の値を取得することは以下のポリシーによって実現されてもよい。
E[i]=abs(P
i-P
14)+abs(P
28-i-P
14)
E[14]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0138】
なお、E[8]=1又はE[14]=1は単に参照画素の値を取得する方式であり、本発明の実施例においてこれに限定されず、すなわち本発明の実施例において、E[8](又はE[14])の値は他の画素値(最大画素値を超えない)であってもよく、又は、E[8](又はE[14])の値はP8(P14)であってもよい。
【0139】
一例として、2回目のウィーナーフィルタリングを行う際に、第1の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて参照画素の値を決定し、それにより、2回目のウィーナーフィルタリングによって参照画素値に対して線形結合を実現し、線形結合の結果を原画像の画素と1回目のフィルタリング後の画像画素との画素値の差に近似させる。
【0140】
いずれかの画素について、当該画素に対する1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを完了したとき、再構成画像がいずれも第1の再構成画像であれば、当該画素の1回目のウィーナーフィルタリングを行った後の画素値と当該画素の2回目のウィーナーフィルタリングを行った後の画素値との和を、当該画素のフィルタリングされた後の画素値として決定してもよい。
【0141】
いずれかの画素について、当該画素に対する1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを完了したとき、1回目のフィルタリングが第1の方式を用いて参照画素の値(原値に近似する)を取得し、且つ2回目のフィルタリングが第2の方式を用いて参照画素の値(1回目のフィルタリングと原値との差に近似する)を取得する場合には、1回目のフィルタリングと2回目のフィルタリングのフィルタリング結果を重畳することにより、最終的なフィルタリング結果を得るとしてもよい。
【0142】
例として、LCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う時に、参照画素の値がいずれも第1の再構成画像から取得されれば、フィルタリング効率を向上させるように、現在のLCUに対して1回目のウィーナーフィルタリングと現在のLCUに対して2回目のウィーナーフィルタリングとは並行して実行してもよい。
【0143】
別の例において、現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第1の再構成画像における画素値に基づいて決定され、第1の再構成画像は1回目のウィーナーフィルタリング前の再構成画像である。
【0144】
現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は第2の再構成画像における画素値によって決定され、第2の再構成画像は1回目のウィーナーフィルタリング後の再構成画像である。
【0145】
一例として、現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値及び現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は、それぞれ1回目のウィーナーフィルタリング前の再構成画像(すなわち第1の再構成画像)及び1回目のウィーナーフィルタリング後の再構成画像(本明細書では第2の再構成画像と呼ばれる)から取得されてもよい。
【0146】
一例として、現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は第2の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて決定される。
【0147】
一例として、2回目のウィーナーフィルタリングを行う際に、第2の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて参照画素の値を決定し、それにより、2回目のウィーナーフィルタリングによって参照画素値に対して線形結合を実現し、線形結合の結果を原画像の画素と1回目のフィルタリング後の画像画素との画素値の差に近似させる。
【0148】
いずれかの画素について、当該画素に対する1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを完了したとき、当該画素の1回目のウィーナーフィルタリングを行った後の画素値と当該画素の2回目のウィーナーフィルタリングを行った後の画素値との和を、当該画素のフィルタリングされた後の画素値として決定してもよい。
【0149】
一例では、ステップS900において、現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行う前に、さらに、
現在のフレーム画像に対してLCUの規格に基づいて領域分割を行い、1つの領域に分割されたLCUに同じフィルタパラメータを配置するステップを含んでもよく、フィルタパラメータはウィーナーフィルタリングを行うフィルタ及びフィルタ係数、並びに参照画素の位置インデックスを含み、分割方式は1種を含むがそれに限定されない。
【0150】
一例として、画像に対して領域分割を行う具体的な実現は従来のフィルタリング方法における関連実現を参照することができ、本発明の実施例はこれについて重複する説明を省略する。
【0151】
なお、本発明の実施例において、現在のフレーム画像に対して1回目のフィルタリング及び2回目のフィルタリングを行うとき、領域分割を行う方式が異なってもよく、画像における各LCUに対してウィーナーフィルタリングを行うために選択したウィーナーフィルタが異なってもよい。
【0152】
一例において、
図9に示すフィルタリング方法は、符号化機器に適用される場合に、さらに、
3回のCTU決定を完了したとき、3回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、3回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行って得た第1グループのフィルタ係数を取得し、フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するステップと、
第2のグループのフィルタ係数に基づいて4回目のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するステップと、を含んでもよい。
【0153】
一例として、現在のフレーム画像に対して1回目のフィルタリング又は2回目のフィルタリングを行うとき、符号化機器はいずれも3回のCTU決定によって現在のフレーム画像におけるウィーナーフィルタリングを開始するLCUを決定してもよく、すなわち符号化機器は3回のCTU決定によってあるLCUが1回目のウィーナーフィルタリングを開始するか否かを決定すること、及び、3回のCTU決定によって当該LCUが2回目のウィーナーフィルタリングを開始するか否かを決定することができる。
【0154】
いくつかの位置における参照画素とフィルタリング対象の画素との間の関係が小さく、又は参照画素の共線性が存在し、それによりトレーニングされた係数が最適な係数ではない可能性があることが考慮され、したがって、フィルタ係数のトレーニング効果を最適化するために、CTU決定により各LCUが1回目のウィーナーフィルタリング(又は2回目のウィーナーフィルタリング)を開始するか否かを決定する過程において、3回のCTU決定を完了したとき、符号化機器はCTU決定に基づいて1回目のウィーナーフィルタリング(又は2回目のウィーナーフィルタリング)を開始するLCUを決定することができ、3回のCTU決定後に保留された当該LCUに対してウィーナーフィルタリングを行うフィルタ係数(本明細書では第1グループのフィルタ係数と呼ばれる)に基づいて、フィルタ係数が0である位置の参照画素位置の参照画素の値を0に設定し、フィルタ係数が0でない参照画素位置の参照画素の値を変更せず、参照画素の値を更新し、更新後の参照画素の値に基づいて、新しいフィルタ係数(本明細書では第2グループのフィルタ係数と呼ばれる)を計算する。
【0155】
第2グループのフィルタ係数を得たときは、第2のグループのフィルタ係数に基づいて4回目のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するとしてもよい。
【0156】
別の例において、
図9に示すフィルタリング方法は、符号化機器に適用される場合に、さらに、
1回のCTU決定を完了するたびに、今回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、今回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行う第1グループのフィルタ係数を取得し、当該フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するステップと、
第2のグループのフィルタ係数に基づいて次回のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するステップと、を含んでもよい。
【0157】
一例として、いくつかの位置における参照画素とフィルタリング対象の画素との間の関係が小さく、又は参照画素の共線性が存在し、それによりトレーニングされた係数が最適な係数ではない可能性があることが考慮され、したがって、フィルタ係数のトレーニング効果を最適化するために、毎回のCTU決定の後、今回のCTU決定に基づいて1回目のウィーナーフィルタリング(又は2回目のウィーナーフィルタリング)を開始すると決定したLCUに対して、符号化機器は今回のCTU決定によって保留された当該LCUに対してウィーナーフィルタリングを行うフィルタ係数(第1グループのフィルタ係数と呼ばれてもよい)に基づいて、フィルタ係数が0である位置の参照画素位置の参照画素の値を0に設定し、フィルタ係数が0でない参照画素位置の参照画素の値を変更せず、参照画素の値を更新し、更新後の参照画素の値に基づいて、新しいフィルタ係数(第2グループのフィルタ係数と呼ばれてもよい)を計算する。
【0158】
第2グループのフィルタ係数を得たときは、第2のグループのフィルタ係数に基づいて次回のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するとしてもよい。
【0159】
なお、本発明の実施例において、毎回計算して第2グループのフィルタ係数を得たとき、さらに第1グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストと第2グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストとを比較してもよく、前者が小さければ、第1グループのフィルタ係数を保留し、そうでなければ、第2グループのフィルタ係数を保留する。
【0160】
実施例3、CTU決定を1回追加する
ステップワイズ回帰の思想を用い、3回のCTU決定の後、CTU決定を1回追加し、係数が0である位置における参照画素はフィルタ係数の計算に関与せず、トレーニングして得られたフィルタ係数を最適化する。
【0161】
なお、実施例3に記載のフィルタリング方法は符号化機器に適用できる。
【0162】
図10に示すように、本発明の実施例にて提供されるフィルタリング方法のフローチャートであり、
図10に示すように、当該フィルタリング方法は以下のステップS1000、S1010を含んでもよい。
【0163】
ステップS1000において、3回のCTU決定を完了したとき、3回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、3回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行って得た第1のグループのフィルタ係数を取得し、フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2のグループのフィルタ係数を計算する。
【0164】
ステップS1010において、第2のグループのフィルタ係数に基づいて4回目のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断する。
【0165】
本発明の実施例において、いくつかの位置における参照画素とフィルタリング対象の画素との間の関係が小さく、又は参照画素の共線性が存在し、それによりトレーニングして得られた係数が最適な係数ではない可能性があることが考慮され、したがって、フィルタ係数のトレーニング効果を最適化するために、CTU決定により各LCUがウィーナーフィルタリングを開始するか否かを決定する過程において、3回のCTU決定を完了したとき、符号化機器はCTU決定に基づいてウィーナーフィルタリングを開始するLCUを決定することができ、3回のCTU決定後に保留された当該LCUに対してウィーナーフィルタリングを行うフィルタ係数(本明細書では第1グループのフィルタ係数と呼ばれる)に基づいて、フィルタ係数が0であるフィルタ係数位置の参照画素の値を0に設定し、フィルタ係数が0でない参照画素位置の参照画素の値を変更せず、参照画素の値を更新し、更新後の参照画素の値に基づいて、新しいフィルタ係数(本明細書では第2グループのフィルタ係数と呼ばれる)を計算する。
【0166】
第2グループのフィルタ係数を得たときは、第2のグループのフィルタ係数に基づいて4回目のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するとしてもよい。
【0167】
なお、本発明の実施例において、計算して第2グループのフィルタ係数を得たとき、さらに第1グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストと第2グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストとを比較してもよく、前者が小さければ、第1グループのフィルタ係数を保留し、そうでなければ、第2グループのフィルタ係数を保留する。
【0168】
また、更新後のフィルタ係数が保留されたとき、符号化機器はさらに更新後のフィルタ係数に基づいて領域統合結果を更新することができ、その具体的な実現について、ここでは重複する説明は省略する。
【0169】
一例において、
図10に示すフィルタリング方法は、さらに、
現在のフレーム画像における現在のLCUがウィーナーフィルタリングを開始すると決定したとき、現在のLCUにウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素を取得し、それらに基づいて現在のLCUにおける画素に対して一つ一つウィーナーフィルタリングを行うステップを含む。
【0170】
本発明の実施例において、現在のフレーム画像における現在のLCUがウィーナーフィルタリングを開始すると決定したとき、現在のLCUにウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素を取得し、現在のLCUにおける画素に対して一つ一つウィーナーフィルタリングを行うことができる。
【0171】
一例において、フィルタリング効果を最適化し、符号化・復号性能を向上させるために、ウィーナーフィルタのフィルタ係数を適切に増加し、新しいウィーナーフィルタを得ることにより、ALF技術が画像を処理する時に存在するアンダーフィッティング状況を緩和するとしてもよく、その具体的な実現は実施例1又は実施例2における関連説明を参照することができ、本発明の実施例はここで重複する説明を省略する。
【0172】
一例において、2回フィルタリングを導入する方法により、1回目のフィルタリング後の画像に対し、1グループのフィルタ係数を新たにトレーニングし、再びフィルタリングを行い、画像品質をさらに向上させ、その具体的な実現は実施例2における関連説明を参照することができ、本発明の実施例はここで重複する説明を省略する。
【0173】
一例では、ステップS1000において、3回のCTU決定を完了する前に、さらに、
1回のCTU決定を完了するたびに、今回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、今回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行う第1グループのフィルタ係数を取得し、当該フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するステップと、
第2のグループのフィルタ係数に基づいて次回のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するステップと、を含んでもよい。
【0174】
一例として、いくつかの位置における参照画素とフィルタリングすべき画素との間の関係が小さく、又は参照画素の共線性が存在し、それにより、トレーニングされた係数が最適な係数ではない可能性があることが考慮され、したがって、フィルタ係数のトレーニング効果を最適化するために、毎回のCTU決定の後、今回のCTU決定に基づいてウィーナーフィルタリングを開始すると決定したLCUに対して、符号化機器は今回のCTU決定に保留された当該LCUに対してウィーナーフィルタリングを行うフィルタ係数(第1グループのフィルタ係数と呼ばれてもよい)に基づいて、フィルタ係数が0である位置の参照画素位置の参照画素の値を0に設定し、フィルタ係数が0でない参照画素位置の参照画素の値を変更せず、参照画素の値を更新し、更新後の参照画素の値に基づいて、更新されたフィルタ係数(第2グループのフィルタ係数と呼ばれてもよい)を計算する。
【0175】
第2グループのフィルタ係数を得たときは、第2のグループのフィルタ係数に基づいて次回のCTU決定を行い、現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するとしてもよい。
【0176】
なお、本発明の実施例において、毎回計算して第2グループのフィルタ係数を得たときは、さらに第1グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストと第2グループのフィルタ係数に基づいて現在のフレーム画像に対してフィルタリングを行うレート歪みコストとを比較してもよく、前者が小さければ、第1グループのフィルタ係数を保留し、そうでなければ、第2グループのフィルタ係数を保留する。
【0177】
また、第2グループのフィルタ係数が保留されたとき、符号化機器はさらに更新後のフィルタ係数に基づいて領域統合結果を更新することができ、その具体的な実現について、ここでは重複する説明は省略する。
【0178】
以下、当業者が本発明の実施例にて提供される技術的解決手段をよりよく理解できるように、具体的な例に合わせて本発明の実施例にて提供される技術的解決手段について説明する。
【0179】
従来ALF技術の欠点に対して、本発明は従来のALFパラメータを基に、各グループのフィルタ係数の個数を増加し、又は、各グループのフィルタ係数の個数をそのまま保持し、フィルタ係数のグループ数を増やすことを提案する。RDOポリシーに基づいて、最後により多くのグループのフィルタ係数を追加する必要があるか否かを制御する。
【0180】
以下、まずそれぞれ符号化側及び復号側から本発明の主な改善点について説明する。
【0181】
1、符号化方法及び符号化機器
1.1、フィルタ形状の変更
図7に示すように、フィルタ係数を増加する符号化方法であって、
図8に示す参照画素位置に基づいて、7*7の十字形に3*3の方形が加えられたフィルタ形状(
図5に示すとおりであってもよい)を拡張し、7*7の十字形に5*5の方形が加えられたフィルタ形状を得、従来のフィルタ係数の上で6つのフィルタ係数を増加する。
【0182】
1.2、フィルタリング過程を1回追加する
本解決手段は従来のALF技術を基に、さらに1セットのフィルタパラメータをトレーニングする。
【0183】
第2セットのフィルタパラメータをトレーニングする過程は従来のALF技術に一致するが、以下の相違点が存在する。
【0184】
1.2.1、画素に対する領域分割方法は以下を含んでもよい。
1.2.1.1、
図2に示す領域分割及び
図3に示す領域統合方式と同様の分割方式。
1.2.1.2、
図2に示す領域分割及び
図3に示す領域統合方式とは異なる分割方式(例えば、
図2に示す領域分割の上でさらに複数の領域に細分化するなど)。
【0185】
1.2.2、フィルタ形状は
図5に示すフィルタ形状のままであってもよいし、他のフィルタ形状(例えば、
図7に示すフィルタ形状)を用いてもよい。
【0186】
1.2.3、2回目のフィルタリングの参照画素の選択は従来の解決手段における1回目のフィルタリングと異なる。
【0187】
1.2.3.1、2回目のフィルタリングの参照画素は再構成画像における参照画素位置と中心位置との画素値の差の絶対値で構成され、再構成画像は1回目のフィルタリング前の再構成画像(すなわち第1の再構成画像)を指す。
【0188】
1.2.3.2、2回目のフィルタリングの参照画素は再構成画像における参照画素値と中心値との差の絶対値で構成され、再構成画像は1回目のフィルタリング後の再構成画像(すなわち第2の再構成画像)を指す。
【0189】
1.2.3.3、2回目のフィルタリングの参照画素は1回目の参照画素の選択方式と同じであるが、2回目のフィルタリングの参照画素Piは1回目のフィルタリング後の再構成画像(すなわち第2の再構成画像)から取得される。
【0190】
なお、1.2.3.1、1.2.3.2及び1.2.3.3はいずれも参照画素の計算方法及び取得方法に対する改善であり、三者は互いに排他関係であり、1.2.1及び1.2.2は(1.2.3.1、1.2.3.2及び1.2.3.3)と独立し、互いに組み合わせることができる。
【0191】
1.3、符号化側にCTU決定を1回追加する
毎回のCTU決定前に、1グループのフィルタ係数を算出して取得し、このグループのフィルタ係数は各参照画素位置の重みを反映することができ、係数が0である参照位置がいくつかあり、それは目標値との相関性が低いと考えられる。フィルタ係数を計算するとき、相関性が高い位置をできるだけ多く保留し、相関性が低く、ひいては相関性がない位置を削除し、このように得られたフィルタ効果がより高い。
【0192】
したがって、最後のCTU決定の後に、CTU決定を1回追加し、最後のCTU決定を完了したとき、現在保留されたフィルタ係数に従って、係数が0であれば、この現在の位置における参照画素値を0と記す。係数が0でなければ、当該位置における参照画素値をそのまま保持し、最後の1グループのフィルタ係数をトレーニングし、フィルタ係数の更新を実現する。
【0193】
最後の2グループのフィルタ係数(更新前後のフィルタ係数)のレート歪みコストを計算し、レート歪みコストが小さい係数を保留し、符号化する。
【0194】
1.4、符号化側のフィルタ係数の計算についての改善
本解決手段において、フィルタ係数を再計算する必要がある場合、例えば、1回のCTU決定を完了するたびに、前回に保留されたフィルタ係数のうち係数が0である位置について、当該位置の参照画素はフィルタ計算に関与せず、当該参照画素の値を0に直接設定する。
【0195】
なお、符号化機器について、1.1(すなわちフィルタ形状の変更)、1.2(フィルタリング過程を1回追加する)、1.3(符号化側にCTU決定を1回追加する)及び1.4(符号化側のフィルタ係数の計算についての改善)に記載の改善は独立して用いられてもよく、又は、2つずつ若しくは2つ以上を組み合わせて用いられてもよい。
【0196】
例えば、フィルタリング過程を1回追加した上で、1回目のフィルタリング過程又は/及び2回目のフィルタリング過程において新しいフィルタ形状を用い、又は、CTUを1回追加した上で、CTU決定によってウィーナーフィルタリングを開始するLCUを決定した後、ウィーナーフィルタリングを開始するLCUに対して、2回のウィーナーフィルタリングを行ってもよく、且つ1回目のウィーナーフィルタリング又は/及び2回目のウィーナーフィルタリング過程において新しいフィルタ形状を用いてもよい。
【0197】
2、復号方法及び復号機器
2.1、フィルタ形状の変更
図7に示すように、フィルタ係数を増加させる符号化方法であって、
図8に示す参照画素位置に基づいて、7*7の十字形に3*3の方形が加えられたフィルタ形状(
図5に示すとおりであってもよい)を拡張し、7*7の十字形に5*5の方形が加えられたフィルタ形状を得、従来のフィルタ係数の上で6つのフィルタ係数を増加する。
【0198】
2.2、フィルタリング過程を1回追加する
ALF復号過程の改善は上記符号化過程に対応する。1回目のフィルタリング及び2回目のフィルタリングの参照画素がいずれも1回目のフィルタリング前の再構成画像(すなわち第1の再構成画像)により決定されれば、2回目のフィルタリングは1回目のフィルタリングと並行して実行でき、2回目のフィルタリングの参照画素が1回目のフィルタリング後の再構成画像(すなわち第2の再構成画像)により決定されれば、2回目のフィルタリングは1回目のフィルタリング後に行う必要がある。
【0199】
2.2.1、2回目のフィルタリングの領域分割と1回目のフィルタリングの領域分割とは同じでも、異なってもよく、符号化側に一致すべきである。
【0200】
2.2.2、2回目のフィルタリングのフィルタ形状と1回目のフィルタリングのフィルタ形状とは同じでも、異なってもよく、符号化側に一致すべきである。
【0201】
2.2.3、符号化側の2回目のフィルタリングの参照画素が1回目のフィルタリング前の再構成画像(すなわち第1の再構成画像)により決定され、且つ2回目のフィルタリングの参照画素の値が第2の方式に従って第1の再構成画像から取得されれば、2回目のフィルタリングと1回目のフィルタリングの参照画素は同じ再構成画像により決定され、同一のLCUに対して、2グループのフィルタ係数を取得し、フィルタリング過程を並行して実行し、フィルタリング結果を重畳する。
【0202】
2.2.4、符号化側の2回目のフィルタリングの参照画素が1回目のフィルタリング後の再構成画像(すなわち第2の再構成画像)により決定されれば、2回目のフィルタリングと1回目のフィルタリングの参照画素は異なる再構成画像により決定され、且つ2回目のフィルタリングの参照画素の値は第2の方式に従って第2の再構成画像から取得され、2回目のフィルタリングの参照画素は1回目のフィルタリングが終了した後に取得する必要があり、同一のLCUに対して、2回のフィルタリングを前後して行い、フィルタリング結果を重畳する。
【0203】
2.2.5、符号化側の1回目のフィルタリング及び2回目のフィルタリングはそれぞれ第1の方式を用いて第1の再構成画像及び第2の再構成画像から参照画素の値を取得すれば、2回目のフィルタリングの参照画素は1回目のフィルタリングが終了した後に取得する必要があり、同一のLCUに対して、2回のフィルタリングを前後して行う。
【0204】
なお、復号機器について、2.1(すなわちフィルタ形状の変更)及び2.2(フィルタリング過程を1回追加する)に記載の改善は独立して用いられてもよく、又は、2つずつ若しくは2つ以上を組み合わせて用いられてもよい。
【0205】
また、上記改善の採用に対して、符号化機器と復号化側機器とは一致を保持する必要がある。
【0206】
以下、それぞれ実施例に合わせて各改善点の独立採用又は組み合わせ採用の一部の実現方式について例示的に説明する。
【0207】
実施例4
フィルタ形状を変更し、符号化側で符号化フローを、領域分割→参照画素の取得→領域統合且つフィルタ係数の算出→CTU決定による各LCUがフィルタリングを開始するか否かについての判断のまま、変更しない。
【0208】
計算する必要があるパラメータは以下のとおりである。1)フィルタパラメータの数(変更せず)、2)領域統合フラグ(変更せず)、3)各グループのフィルタ係数(各グループの係数を元の9個から15個に変更する)、4)LCUがフィルタリングを開始するか否かについてのフラグ(変更せず)、及び5)現在の成分(Y,U,V)がフィルタリングを開始するか否かについてのフラグ。
【0209】
復号側はビットストリームを取得し、フィルタ係数は元の9個から15個に変更され、復号側のALFによる復号フローは以下のとおりである。現在のフレームのフィルタフラグ(すなわちFrame_flag)を取得し、当該フレームにフィルタリングを行うべきであれば(すなわちフレームのフィルタフラグの値が真(true)であり、もし偽(false)であれば、フィルタリングを行わない)、さらにLCUを最小ユニットとし、現在のLCUのフィルタフラグ(すなわちLCU_flag)によってALFを必要とするか否かを判断し、必要とすれば、現在のLCUのために、フィルタ係数(Filter_coeff)を取得する 。各グループの係数は15個であり、当該フィルタ係数を用いて、当該LCUにおける全ての画素に対して
図7におけるフィルタ形状に従ってフィルタリングを行う。復号のフィルタリング過程を
図11に示す。
【0210】
一例として、符号化機器について、CTU決定によって現在のフレーム画像における各LCUがウィーナーフィルタリングを開始するか否かを決定し、最終的に決定した結果に基づいて、各LCUに対応するLCU_flagの値を決定し、それを符号化ビットストリームに付加させて復号機器に通知し、復号機器が各LCUに対応するLCU_flagの値に基づいて、対応するLCUに対してウィーナーフィルタリングを行うか否かを決定する。
【0211】
実施例5
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用い、1回目のALFと同じのフィルタ形状を用いるが、2回目のフィルタリングの参照画素の選択は元の方法における1回目のフィルタリングと異なり、2回目のフィルタリングの参照画素は再構成画像における参照画素位置と中心位置との画素値の差の絶対値で構成され、再構成画像は1回目のフィルタリング前の再構成画像(すなわち第1の再構成画像)を指す。
【0212】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0213】
2回目のフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のフィルタリング後の画像画素との画素値の差に近似させる。
【0214】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグ(1回目のフィルタリングのフィルタフラグFrame_flag[0]及び2回目のフィルタリングのフィルタフラグFrame_flag[1]を含む)を取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグ(1回目のフィルタリングのフィルタフラグLCU_flag[0]及び2回目のフィルタリングのフィルタフラグLCU_flag[1]を含む)のうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタフラグに対応するフィルタ係数(1回目のフィルタリングのフィルタ係数Filter_coeff[0]又は/及び2回目のフィルタリングのフィルタ係数Filter_coeff[1])を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。2回のフィルタリングの参照画素はいずれも同じ画素を読み取るだけでよいため、2回のフィルタリングは復号側で並行して実行することができる。
【0215】
実施例6
フィルタリング過程を1回追加し、2回目のALFは1回目のALFと異なる領域分割方式を用い、ここで、同一のLCUの2回のフィルタリングは異なる領域に位置してもよく、また、2回目のALFは1回目のALFと同じのフィルタ形状を用いるが、2回目のALFの参照画素の選択は元の方法における1回目のフィルタリングと異なり、2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素値の差の絶対値で構成され、再構成画像は1回目のフィルタリング前の再構成画像(すなわち第1の再構成画像)を指す。
【0216】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0217】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0218】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真のフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。2回のフィルタリングの参照画素はいずれも同じ画素を読み取るだけでよいため、2回のフィルタリングは復号側で並行して実行することができる。
【0219】
一例として、符号化機器について、それぞれCTU決定によって現在のフレーム画像における各LCUが1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを開始するか否かを決定し、最終的に決定した結果に基づいて、各LCUに対応するLCU_flag[0]及びLCU_flag[1]の値を決定し、それらを符号化ビットストリームに付加させて復号機器に通知し、復号機器が各LCUに対応するLCU_flag[0]及びLCU_flag[1]の値に基づいて、対応するLCUに対して1回目のウィーナーフィルタリングを行うか否か、及び対応するLCUに対して2回目のウィーナーフィルタリングを行うか否かを決定する。
【0220】
実施例7
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用いるが、フィルタ形状は1回目のALFと異なるフィルタ形状を用い、且つ2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素値の差の絶対値で構成され、再構成画像は1回目のALF前の再構成画像(すなわち第1の再構成画像)を指す。
【0221】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=abs(P
i-P
14)+abs(P
28-i-P
14)
E[14]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0222】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0223】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。2回のフィルタリングの参照画素はいずれも同じ画素を読み取るだけでよいため、2回のフィルタリングは復号側で並行して実行することができる。
【0224】
実施例8
フィルタリング過程を1回追加し、1回目のALFと異なる領域分割方式を用い、且つフィルタ形状は1回目のALFと異なるフィルタ形状を用い、2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素の差の絶対値で構成され、再構成画像は1回目のALF前の再構成画像(すなわち第1の再構成画像)を指す。
【0225】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=abs(P
i-P
14)+abs(P
28-i-P
14)
E[14]=1
P
iは第1の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0226】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0227】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。2回のフィルタリングの参照画素はいずれも同じ画素を読み取るだけでよいため、2回のフィルタリングは復号側で並行して実行することができる。
【0228】
実施例9
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用い、1回目のALFと同じのフィルタ形状を用いるが、2回目のALFの参照画素の選択は元の方法における1回目のALFと異なり、2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素の差の絶対値で構成され、再構成画像は1回目のALF後の再構成画像(すなわち第2の再構成画像)を指す。
【0229】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=1
Pは第2の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0230】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0231】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0232】
実施例10
フィルタリング過程を1回追加し、1回目のALFと異なる領域分割方式を用い、1回目のALFと同じのフィルタ形状を用いるが、2回目のALFの参照画素の選択は元の方法における1回目のALFと異なり、2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素の差の絶対値で構成され、再構成画像は1回目のALF後の再構成画像(すなわち第2の再構成画像)を指す。
【0233】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=1
Pは第2の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0234】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0235】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0236】
実施例11
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用いるが、フィルタ形状は1回目のALFと異なるフィルタ形状を用い、且つ2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素の差の絶対値で構成され、再構成画像は1回目のALF後の再構成画像(すなわち第2の再構成画像)を指す。
【0237】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=abs(P
i-P
14)+abs(P
28-i-P
14)
E[14]=1
P
iは第2の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0238】
2回目のALFは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素と1回目のALF後の画像画素との画素値の差に近似させる。
【0239】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0240】
実施例12
フィルタリング過程を1回追加し、1回目のALFと異なる領域分割方式を用い、且つフィルタ形状は1回目のALFと異なるフィルタ形状を用い、2回目のALFの参照画素は再構成画像における参照画素位置と中心位置との画素の差の絶対値で構成され、再構成画像は1回目のALF後の再構成画像(すなわち第2の再構成画像)を指す。
【0241】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=abs(P
i-P
14)+abs(P
28-i-P
14)
E[14]=1
Pは第2の再構成画像における画素値であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0242】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0243】
実施例13
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用い、1回目のALFと同じのフィルタ形状を用い、且つ2回目のALFの参照画素の選択は元の方法における1回目のALFと同じであり、2回目のALFの参照画素の値は1回目のALF後の再構成画像(すなわち第2の再構成画像)によって決定される。
【0244】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=P
8
ここで、P
iは第2の再構成画像における画素に属し、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0245】
2回目のウィーナーフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素値に近似させる。
【0246】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0247】
実施例14
フィルタリング過程を1回追加し、1回目のALFと異なる領域分割方式を用い、1回目のALFと同じのフィルタ形状を用い、且つ2回目のALFの参照画素の選択は元の方法における1回目のALFと同じであり、2回目のALFの参照画素の値は1回目のALF後の再構成画像(すなわち第2の再構成画像)によって決定される。
【0248】
フィルタ形状は
図5に示すフィルタ形状であり、各位置における参照画素は
図4に示すとおりである。
E[i]=abs(P
i-P
8)+abs(P
16-i-P
8)
E[8]=P
8
ここで、P
iは第2の再構成画像における画素に属し、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7である。
【0249】
2回目のウィーナーフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素値に近似させる。
【0250】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0251】
実施例15
フィルタリング過程を1回追加し、1回目のALFと同じの領域分割方式を用い、1回目のALFと異なるフィルタ形状を用い、2回目のALFの参照画素の選択は元の方法における1回目のALFと同じであり、2回目のALFの参照画素の値は1回目のALF後の再構成画像(すなわち第2の再構成画像)によって決定される。
【0252】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=P
i+P
28-i
E[14]=P
14
ここで、P
iは第2の再構成画像における画素であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0253】
2回目のウィーナーフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素値に近似させる。
【0254】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0255】
実施例16
フィルタリング過程を1回追加し、1回目のALFと異なる領域分割方式を用い、1回目のALFと異なるフィルタ形状を用い、2回目のALFの参照画素の選択は元の方法における1回目のALFと同じであり、2回目のALFの参照画素の値は1回目のALF後の再構成画像(すなわち第2の再構成画像)によって決定される。
【0256】
フィルタ形状は
図7に示すフィルタ形状であり、各位置における参照画素は
図8に示すとおりである。
E[i]=P
i+P
28-i
E[14]=P
14
ここで、P
iは第2の再構成画像における画素であり、E[i]は参照画素の値であり、i=0、1、2、3、4、5、6、7、8、9、10、11、12、13である。
【0257】
2回目のウィーナーフィルタリングは、参照画素値に対する線形結合を目標とし、線形結合の結果を原画像の画素値に近似させる。
【0258】
復号側の具体的な実現プロセスは以下のとおりである。現在のフレームの2回のフィルタリングのフィルタフラグを取得し、1つのフィルタフラグが真であれば、LCUを最小単位とし、現在のLCUの2グループのフィルタフラグのうち真であるフィルタフラグがあるか否かを判断し、あれば、復号側は2セットのフィルタフラグのうち真と判断されたフィルタ係数を取得し、LCUにおける全ての画素に対して点ごとにフィルタリングを行い、具体的な過程を
図12に示す。
【0259】
実施例17
符号化側はCTU決定を1回追加し、従来の方法において符号化側のCTU決定のフローを
図13に示し、CTU決定の数を4に変更するが、3回目のCTU決定を完了した後、フラグが真であるLCUに対して、元のフィルタ係数の代わりに、新しいフィルタ係数を再計算し、新しいフィルタ係数を計算するとき、前回の係数が0である位置に対して、最後に係数を計算する時に、これらの位置における参照画素の値を0に設定し、すなわち
図13における破線枠部分を変更する。
【0260】
図13に示すように、CTU決定のフローは以下を含んでもよい。
【0261】
1回目のCTU決定を行うとき、現在のフレーム画像の現在のLCUのフィルタ係数を取得することができ、一方では、現在のLCUにおけるいずれかの画素に対して、フィルタ係数及び対応する位置の参照画素の値に基づいて加重加算を行って、当該画素に対応する加重加算結果を得、さらに、現在のLCUの各画素の加重加算結果を加算し、結果をcost1(現在のLCUに対してフィルタリングを行う損失の推定値として理解することができる)と記すことができる。
【0262】
他方では、現在のLCUにおけるいずれかの画素に対して、中心値が1であり、残りの値が0であるフィルタで、フィルタ係数及び対応する位置の参照画素の値に基づいて加重加算を行って、当該画素に対応する加重加算結果を得、さらに、現在のLCUの各画素の加重加算結果を加算し、結果をcost0(現在のLCUに対してフィルタリングを行わない損失の推定値として理解することができる)と記すことができる。
【0263】
cost1<cost0であれば、現在のLCUに対してウィーナーフィルタリングを開始すると決定し、そうでなければ、現在のLCUに対してウィーナーフィルタリングを開始しないと決定する。
【0264】
上記方式に従って、現在のフレーム画像において各LCUがウィーナーフィルタリングを開始するか否かを決定した後、全フレームの画像がフィルタフラグを開始する損失cost2及びフィルタフラグをオフにする損失cost3を計算することができる。
【0265】
cost2<cost3であれば、現在のフレーム画像に対してフィルタリングを行うと決定し、そうでなければ、現在のフレーム画像に対してフィルタリングを行わないと決定する。
【0266】
これをもって、1回のCTU決定が完了する。
【0267】
完了したCTU決定の回数が3回以下の場合、ウィーナーフィルタリングを開始するLCUに対応するフィルタ係数に従って、フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、元のフィルタ係数の代わりに、新しいフィルタ係数を計算し、新しいフィルタ係数に基づいて次回のCTU決定を行うことができる。
【0268】
完了したCTU決定の回数が3回より大きい(すなわち4回に達する)場合、現在のフィルタ係数を用いて現在のLCUに対してフィルタリングを行って、cost4を得、cost4と、現在のLCUに対してフィルタリングを行わないcost5とを比較する。
【0269】
cost4<cost5であれば、現在のLCUに対してウィーナーフィルタリングを開始し、又は、現在のLCUに対してウィーナーフィルタリングを開始しないと決定する。
【0270】
実施例18
毎回のCTU決定の後に、フラグが真であるLCUに対して、元のフィルタ係数の代わりに、新しいフィルタ係数を再計算する必要がある。したがって、新しいフィルタ係数を計算するたびに、前回の係数が0である位置に対して、次回係数を計算する時に、その位置における参照画素の値を0に設定する。
【0271】
実施例19、補正フィルタリング動作の修正
7x7の十字形に5x5の方形が加えられたフィルタのサンプルについては、5.1~5.3に記載された適応補正フィルタリング動作により取得し、又は以下の方式により取得することができる。
【0272】
境界領域について:
現在の適応補正フィルタリングユニットの左境界外が画像境界であり、又はパッチ境界外に位置し且つcross_patch_loopfilter_enable_flagの値が「0」であれば、左境界外が存在せず、そうでなければ、左境界外は現在の適応補正フィルタリングユニットを左へ3つのサンプル点移す箇所から現在の適応補正フィルタリングユニットまでの領域である。
【0273】
同様に、現在の適応補正フィルタリングユニットの右境界外が画像境界であり、又はパッチ境界外に位置し且つcross_patch_loopfilter_enable_flagの値が「0」であれば、右境界外が存在せず、そうでなければ、右境界外領域は現在の適応補正フィルタリングユニットを左へ3つのサンプル点移す箇所から現在の適応補正フィルタリングユニットまでの領域である。
【0274】
一例として、境界領域は左境界外領域及び右境界外領域を含む。
【0275】
適応補正フィルタリング過程において用いられるサンプルが適応補正フィルタリングユニット内のサンプルである場合、当該サンプルを直接用いてフィルタリングを行い、そうでなければ、以下の方式に従ってフィルタリングを行う。
【0276】
19.1、当該サンプルが画像境界外にあり、又はパッチ境界外にあり且つcross_patch_loopfilter_enable_flag(クロスパッチ境界フィルタフラグ)の値が「0」である場合、
19.1.1、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点であれば、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
19.1.2、そうでなければ、当該サンプルの代わりに、適応補正フィルタリングユニットにおける境界領域内の当該サンプルに最も近いサンプルを用いて、フィルタリングを行う。
【0277】
19.2、当該サンプルが画像境界外になく、且つ『パッチ境界外にあり且つcross_patch_loopfilter_enable_flagの値が「0」である』を満たさない場合、当該サンプルが適応補正フィルタリングユニットの上境界外又は下境界外にあるとき、
19.2.1、当該サンプルが適応補正フィルタリングユニットの左上隅、左下隅、右上隅又は右下隅に位置する1番目のサンプル点である場合、当該サンプルの代わりに、適応補正フィルタリングユニット内の当該サンプルに最も近いサンプルを用いてフィルタリングを行い、
19.2.2、そうでなければ、当該サンプルの代わりに、適応補正フィルタリングユニットにおける境界領域内の当該サンプルに最も近いサンプルを用いてフィルタリングを行う。
【0278】
19.3、当該サンプルが適応補正フィルタリングユニットの上境界外になく、適応補正フィルタリングユニットの下境界外にもない場合、当該サンプルを直接用いてフィルタリングを行う。
【0279】
一例として、実施例1~実施例18のうちいずれかの実施例は実施例19における方式を用いて適応補正フィルタリング動作を行ってもよい。
【0280】
以上、本発明にて提供される方法について説明した。以下、本発明にて提供される装置について説明する。
【0281】
図15に示すように、
図15は本発明の実施例にて提供されるフィルタリング装置の構造概略図であり、ここで、当該フィルタリング装置は符号化/復号機器に適用することができ、当該装置は決定ユニット1510及びフィルタリングユニット1520を含んでもよく、
前記フィルタリングユニット1520は、前記決定ユニット1510が現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUの参照画素及びウィーナーフィルタのフィルタ係数を取得し、それらに基づいて、前記現在のLCUの画素に対して一つ一つウィーナーフィルタリングを行うために用いられ、
一例として、前記ウィーナーフィルタは第2のウィーナーフィルタであり、前記第2のウィーナーフィルタは第1のウィーナーフィルタを基に形状拡張を行って得られたものであり、前記第1のウィーナーフィルタは7*7の十字形に3*3の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値に基づいて決定される。
【0282】
可能な一実施形態において、前記第2のウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタである。
【0283】
可能な一実現形態において、前記第2のウィーナーフィルタのフィルタ係数は15個を含む。
【0284】
可能な一実施形態において、前記決定ユニット1510は、現在のフレーム画像に対してフィルタリングを行うか否かを決定するために用いられ、
前記フィルタリングユニット1520は、具体的には、前記決定ユニット1510が前記現在のフレーム画像に対してフィルタリングを行うと決定したとき、前記現在のLCUに対してウィーナーフィルタリングを開始するか否かを決定し、前記現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUの参照画素及びウィーナーフィルタのフィルタ係数を取得し、それらに基づいて、前記現在のLCUの画素に対して一つ一つウィーナーフィルタリングを行うために用いられる。
【0285】
図16に示すように、
図16は本発明の実施例にて提供されるフィルタリング装置の構造概略図であり、ここで、当該フィルタリング装置は符号化/復号機器に適用することができ、当該装置は決定ユニット1610及びフィルタリングユニット1620を含んでもよく、
前記フィルタリングユニット1620は、前記決定ユニット1610が現在の画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うために用いられ、
前記フィルタリングユニット1620は、具体的に、前記現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタのフィルタ係数及び参照画素、並びに前記現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタ係数及び参照画素を取得し、それらに基づいて前記現在のLCUの画素に対して一つ一つ1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うために用いられる。
【0286】
可能な一実施形態において、前記決定ユニット1610は、現在のフレーム画像に対してフィルタリングを行うか否かを決定するために用いられ、
前記フィルタリングユニット1620は、具体的には、前記決定ユニット1610が前記現在のフレーム画像に対してフィルタリングを行うと決定したとき、前記現在のLCUに対してウィーナーフィルタリングを開始するか否かを決定し、前記現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うために用いられる。
【0287】
可能な一実施形態において、前記決定ユニット1610は、現在のフレーム画像に対して1回目のフィルタリングを行うか否か、及び現在のフレーム画像に対して2回目のフィルタリングを行うか否かを決定するために用いられ、
前記決定ユニット1610は、さらに、現在のフレーム画像に対して1回目のフィルタリングを行い、且つ現在のフレーム画像に対して2回目のフィルタリングを行うと決定したとき、現在のLCUに対して1回目のウィーナーフィルタリングを開始するか否か、及び現在のLCUに対して2回目のウィーナーフィルタリングを開始するか否かを決定するために用いられ、
前記フィルタリングユニット1620は、具体的に、前記決定ユニット1610が前記現在のLCUに対して1回目のウィーナーフィルタリングを行い、且つ前記現在のLCUに対し2回目のウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUに対して1回目のウィーナーフィルタリング及び2回目のウィーナーフィルタリングを行うために用いられる。
【0288】
可能な一実施形態において、前記現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタ及び2回目のウィーナーフィルタリングを行うウィーナーフィルタはいずれも第1のウィーナーフィルタであり、又は、
前記現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタ及び2回目のウィーナーフィルタリングを行うウィーナーフィルタはいずれも第2のウィーナーフィルタであり、又は、
前記現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタは第1のウィーナーフィルタであり、前記現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタは第2のウィーナーフィルタであり、又は、
前記現在のLCUに対して1回目のウィーナーフィルタリングを行うウィーナーフィルタは第2のウィーナーフィルタであり、前記現在のLCUに対して2回目のウィーナーフィルタリングを行うウィーナーフィルタは第1のウィーナーフィルタである。
【0289】
ここで、前記第2のウィーナーフィルタは第1のウィーナーフィルタを基に形状拡張を行って得られたものであり、前記第1のウィーナーフィルタは7*7の十字形に3*3の方形が加えられた中心対称フィルタである。
【0290】
可能な一実施形態において、前記第2のウィーナーフィルタは7*7の十字形に5*5の方形が加えられた中心対称フィルタである。
【0291】
可能な一実施形態において、前記現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第1の方式に従って第1の再構成画像から取得され、前記第1の再構成画像は1回目のウィーナーフィルタリング前の再構成画像であり、
前記現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は第2の方式に従って前記第1の再構成画像から取得される。
【0292】
可能な一実施形態において、前記第2の方式は以下のとおりである。
前記現在のLCUにおける各画素に対応する参照画素の値は第1の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて決定される。
【0293】
可能な一実施形態において、前記現在のLCUに対する1回目のウィーナーフィルタリングと、前記現在のLCUに対する2回目のウィーナーフィルタリングとを並行して実行する。
【0294】
可能な一実施形態において、前記現在のLCUに対して1回目のウィーナーフィルタリングを行う参照画素の値は第1の再構成画像における画素値に基づいて決定され、前記第1の再構成画像は1回目のウィーナーフィルタリング前の再構成画像であり、
前記現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は第2の再構成画像における画素値によって決定され、前記第2の再構成画像は1回目のウィーナーフィルタリング後の再構成画像である。
【0295】
可能な一実施形態において、前記現在のLCUに対して2回目のウィーナーフィルタリングを行う参照画素の値は第2の再構成画像における各参照画素位置の画素値と中心位置の画素値との差の絶対値に基づいて決定される。
【0296】
可能な一実施形態において、前記フィルタリングユニットは、さらに、現在のフレーム画像に対してLCUの規格に基づいて領域分割を行い、1つの領域に分割されたLCUに同じフィルタパラメータを配置するために用いられ、前記フィルタパラメータはウィーナーフィルタリングを行うフィルタ及びフィルタ係数、並びに参照画素を含み、ここで、前記分割方式は1種を含むがそれに限定されない。
【0297】
可能な一実施形態において、前記フィルタリング装置が符号化機器に適用される場合、
前記決定ユニット1610は、さらに、3回のCTU決定を完了したとき、前記3回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、3回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行う第1グループのフィルタ係数を取得し、フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するために用いられる。
【0298】
前記決定ユニット1610は、さらに、第2グループのフィルタ係数に基づいて4回目のCTU決定を行い、前記現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するために用いられる。
【0299】
可能な一実施形態において、前記フィルタリング装置が符号化機器に適用される場合、
前記決定ユニット1610は、さらに、CTU決定を1回完了するたびに、今回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、今回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行う第1グループのフィルタ係数を取得し、当該フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するために用いられる。
【0300】
前記決定ユニット1610は、さらに、第2グループのフィルタ係数に基づいて次回のCTU決定を行い、前記現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するために用いられる。
【0301】
図17に示すように、
図17は本発明の実施例にて提供されるフィルタリング装置の構造概略図であり、ここで、当該フィルタリング装置は符号化/復号機器に適用することができ、当該装置はフィルタリングユニット1710及び決定ユニット1720を含んでもよく、
前記フィルタリングユニット1710は、3回のCTU決定を完了したとき、前記3回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、3回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行って得た第1グループのフィルタ係数を取得し、フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するために用いられ、
前記決定ユニット1720は、第2グループのフィルタ係数に基づいて4回目のCTU決定を行い、前記現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するために用いられる。
【0302】
可能な一実施形態において、前記決定ユニット1720は、さらに、CTU決定を1回完了するたびに、今回のCTU決定の後にウィーナーフィルタリングを開始すると決定されたLCUに対して、今回のCTU決定の後に保留された当該LCUに対してウィーナーフィルタリングを行う第1グループのフィルタ係数を取得し、当該フィルタ係数が0である参照画素位置の参照画素の値を0に設定し、更新された参照画素の値に基づいて、第2グループのフィルタ係数を計算するために用いられ、
前記決定ユニット1720は、さらに、第2グループのフィルタ係数に基づいて次回のCTU決定を行い、前記現在のフレーム画像の各LCUがウィーナーフィルタリングを開始するか否かを判断するために用いられる。
【0303】
可能な一実施形態において、前記フィルタリングユニット1710は、さらに、前記決定ユニット1720が現在のフレーム画像の現在のLCUに対してウィーナーフィルタリングを開始すると決定したとき、前記現在のLCUの参照画素及びウィーナーフィルタのフィルタ係数を取得し、それらに基づいて、前記現在のLCUの画素に対して一つ一つウィーナーフィルタリングを行うために用いられ、
ここで、前記ウィーナーフィルタは第2のウィーナーフィルタであり、前記第2のウィーナーフィルタは第1のウィーナーフィルタを基に形状拡張を行って得られたものであり、前記第1のウィーナーフィルタは7*7の十字形に3*3の方形が加えられた形状となる中心対称フィルタであり、前記参照画素の値はフィルタリング前の再構成画像の画素値に基づいて決定され、前記第2のウィーナーフィルタは7*7の十字形に5*5の方形が加えられた形状となる中心対称フィルタである。
【0304】
図18に示すように、本発明の実施例にて提供される復号機器のハードウェア構造の概略図である。当該復号機器はプロセッサ1801と、機械実行可能な命令が記憶されている機械可読記憶媒体1802とを含んでもよい。プロセッサ1801と機械可読記憶媒体1802とはシステムバス1803を介して通信可能である。また、プロセッサ1801は、機械可読記憶媒体1802中のフィルタリング制御ロジックに対応する機械実行可能な命令を読み取り、実行することにより、上述した復号機器のフィルタリング方法を実行することができる。
【0305】
本明細書で言及される機械可読記憶媒体1802は、任意の電子的、磁気的、光学的、又は他の物理的記憶装置とすることができ、例えば、実行可能な命令、データなどの情報を含むか、又は記憶することができる。例えば、機械可読記憶媒体は、RAM(Radom Access Memory、ランダムアクセスメモリ)、揮発性メモリ、不揮発性メモリ、フラッシュメモリ、記憶ドライブ(例えばハードディスクドライブ)、ソリッドステートハードディスク、任意のタイプの記憶ディスク(例えば光ディスク、dvdなど)、若しくは類似の記憶媒体、又はそれらの組み合わせであってもよい。
【0306】
いくつかの実施例において、機械実行可能な命令が記憶されている機械可読記憶媒体であって、前記機械実行可能な命令がプロセッサにより実行されると、上述した復号機器のフィルタリング方法を実施させる、機械可読記憶媒体がさらに提供される。例えば、前記機械可読記憶媒体はROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光データ記憶装置などであってもよい。
【0307】
図19に示すように、本発明の実施例にて提供される符号化機器のハードウェア構造の概略図である。当該符号化機器はプロセッサ1901と、機械実行可能な命令が記憶されている機械可読記憶媒体1902とを含んでもよい。プロセッサ1901と機械可読記憶媒体1902とはシステムバス1903を介して通信可能である。また、プロセッサ1901は、機械可読記憶媒体1902中のフィルタリング制御ロジックに対応する機械実行可能な命令を読み取り、実行することにより、上述した符号化機器のフィルタリング方法を実行することができる。
【0308】
本明細書で言及される機械可読記憶媒体1902は、任意の電子的、磁気的、光学的、又は他の物理的記憶装置とすることができ、例えば、実行可能な命令、データなどの情報を含むか、又は記憶することができる。例えば、機械可読記憶媒体は、RAM(Radom Access Memory、ランダムアクセスメモリ)、揮発性メモリ、不揮発性メモリ、フラッシュメモリ、記憶ドライブ(例えばハードディスクドライブ)、ソリッドステートハードディスク、任意のタイプの記憶ディスク(例えば光ディスク、dvdなど)、若しくは類似の記憶媒体、又はそれらの組み合わせであってもよい。
【0309】
いくつかの実施例において、機械実行可能な命令が記憶されている機械可読記憶媒体であって、前記機械実行可能な命令がプロセッサにより実行されると、上述した符号化機器のフィルタリング方法を実施させる、機械可読記憶媒体がさらに提供される。例えば、前記機械可読記憶媒体はROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光データ記憶装置などであってもよい。
【0310】
いくつかの実施例において、上記の実施形態のいずれかにおけるフィルタリング装置を含むカメラ機器がさらに提供される。
【0311】
なお、本明細書において、第1及び第2などのような関係用語は1つのエンティティ又は操作を別のエンティティ又は操作と区別するためのものに過ぎず、必ずしもこれらのエンティティ又は操作の間に任意のこのような実際の関係又は順序が存在することを要求又は示唆するものではない。また、用語の「含む」、「包含」又はその他の任意の変形は非排他的な包含をカバーすることを意図し、それにより、一連の要素を含むプロセス、方法、物品又は機器はそれらの要素を含むだけでなく、さらに明確に列挙されない他の要素を含み、又はこのようなプロセス、方法、物品又は機器に固有の要素を含む。それ以上の制限がない場合、文の「1つ……を含む」によって限定された要素は、前記要素を含むプロセス、方法、物品又は機器に別の同じ要素がさらに存在することを排除するものではない。
【0312】
以上は本発明の好適な実施例に過ぎず、本発明を限定するものではなく、本発明の精神及び原則内で行われる任意の修正、同等の置換、及び改善などは、いずれも本発明の保護範囲内に含まれるべきである。
【符号の説明】
【0313】
1510 決定ユニット
1520 フィルタリングユニット
1610 決定ユニット
1620 フィルタリングユニット
1710 フィルタリングユニット
1720 決定ユニット