(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-05-31
(54)【発明の名称】ビデオ処理のための方法、装置、記憶媒体及び電子装置
(51)【国際特許分類】
H04N 19/82 20140101AFI20240524BHJP
H04N 19/70 20140101ALI20240524BHJP
【FI】
H04N19/82
H04N19/70
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023578160
(86)(22)【出願日】2022-11-24
(85)【翻訳文提出日】2023-12-19
(86)【国際出願番号】 CN2022134125
(87)【国際公開番号】W WO2023124673
(87)【国際公開日】2023-07-06
(31)【優先権主張番号】202111679995.5
(32)【優先日】2021-12-31
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】511151662
【氏名又は名称】中興通訊股▲ふん▼有限公司
【氏名又は名称原語表記】ZTE CORPORATION
【住所又は居所原語表記】ZTE Plaza,Keji Road South,Hi-Tech Industrial Park,Nanshan Shenzhen,Guangdong 518057 China
(74)【代理人】
【識別番号】100112656
【氏名又は名称】宮田 英毅
(74)【代理人】
【識別番号】100089118
【氏名又は名称】酒井 宏明
(72)【発明者】
【氏名】周怡
(72)【発明者】
【氏名】鄒文杰
(72)【発明者】
【氏名】黄成
(72)【発明者】
【氏名】白雅賢
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159PP04
5C159PP16
5C159RB09
5C159RC12
5C159UA02
5C159UA05
5C159UA16
(57)【要約】
本発明の実施例は、ビデオ処理のための方法、装置、記憶媒体及び電子装置を提供する。当該方法は、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定することと、前記ニューラルネットワークループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することと、シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知することとを含む。
【選択図】
図4
【特許請求の範囲】
【請求項1】
再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定することと、
前記ニューラルネットワークループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することと、
シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知することと、
を含む、ビデオ処理のための方法。
【請求項2】
前記適応ループフィルタリングに関連するフィルタ情報は、前記適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む、
請求項1に記載の方法。
【請求項3】
前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む、
請求項1に記載の方法。
【請求項4】
前記クロマ適応ループフィルタリング有効化フラグは、
第一のクロマ適応ループフィルタリング有効化フラグと、
第二のクロマ適応ループフィルタリング有効化フラグと、
第一のクロマ成分間適応ループフィルタリング有効化フラグと、
第二のクロマ成分間適応ループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む、
請求項3に記載の方法。
【請求項5】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、シグナリングによって前記適応ループフィルタリング有効化フラグを通知する、
請求項1~4のいずれか1項に記載の方法。
【請求項6】
前記ニューラルネットワークループフィルタリング有効化フラグが、シーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定すること、
をさらに含む、
請求項1に記載の方法。
【請求項7】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示し、且つ前記適応ループフィルタリング有効化フラグが画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定すること、
をさらに含む、
請求項1に記載の方法。
【請求項8】
前記クロマ適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定すること
をさらに含む、
請求項6又は7に記載の方法。
【請求項9】
前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、
前記再構成されたビデオユニットのために輝度成分の適応ループフィルタに関連する第一のフラグを設定することを含む、
請求項6~8のいずれか1項に記載の方法。
【請求項10】
前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、
前記再構成されたビデオユニットのためにクロマ成分の適応ループフィルタに関連する第二のフラグを設定することを含む、
請求項6から8のいずれか1項に記載の方法。
【請求項11】
前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、
前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、
前記第一の値は、前記第二の値と異なる、
請求項1~10のいずれか1項に記載の方法。
【請求項12】
前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、
前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
のうちの少なくとも一つの操作を含む、
請求項11に記載の方法。
【請求項13】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、
前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と
のうちの少なくとも一つの決定に基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定する、
請求項1に記載の方法。
【請求項14】
前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む、
請求項1に記載の方法。
【請求項15】
前記ニューラルネットワークループフィルタリング有効化フラグは、
輝度ニューラルネットワークループフィルタリング有効化フラグと、
第一のクロマニューラルネットワークループフィルタリング有効化フラグと、
第二のクロマニューラルネットワークループフィルタリング有効化フラグと
のうちの少なくとも一つを含む、
請求項1に記載の方法。
【請求項16】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、シグナリングによって前記ニューラルネットワークループフィルタリング有効化フラグを通知する、
請求項1から15のいずれか1項に記載の方法。
【請求項17】
前記再構成されたビデオユニットは、
ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライス(Slice)と、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する、
請求項1から16のいずれか1項に記載の方法。
【請求項18】
再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信することと、
前記再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグ及び前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを決定することと、
前記適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することと、
を含む、ビデオ処理のための方法。
【請求項19】
前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む、
請求項18に記載の方法。
【請求項20】
前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む、
請求項18に記載の方法。
【請求項21】
前記クロマ適応ループフィルタリング有効化フラグは、
第一のクロマ適応ループフィルタリング有効化フラグと、
第二のクロマ適応ループフィルタリング有効化フラグと、
第一のクロマ成分間適応ループフィルタリング有効化フラグと、
第二のクロマ成分間適応ループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む、
請求項20に記載の方法。
【請求項22】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、前記適応ループフィルタリング有効化フラグを決定する、
請求項18~21のいずれか1項に記載の方法。
【請求項23】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを決定すること、
をさらに含む、
請求項18に記載の方法。
【請求項24】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することと、
前記輝度適応ループフィルタリング有効化フラグが前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することと、
をさらに含む、
請求項18に記載の方法。
【請求項25】
前記クロマ適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定すること
をさらに含む、
請求項23又は24に記載の方法。
【請求項26】
前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することは、
前記再構成されたビデオユニットの輝度成分の適応ループフィルタに関連する第一のフラグの値を決定することを含む、
請求項23~25のいずれか1項に記載の方法。
【請求項27】
前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することは、
前記再構成されたビデオユニットのクロマ成分の適応ループフィルタに関連する第二のフラグの値を決定することを含む、
請求項23~25のいずれか1項に記載の方法。
【請求項28】
前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、
前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、
前記第一の値は、前記第二の値と異なる、
請求項18~27のいずれか1項に記載の方法。
【請求項29】
前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、
前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
のうちの少なくとも一つの操作を含む、
請求項18に記載の方法。
【請求項30】
前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む、
請求項18に記載の方法。
【請求項31】
前記ニューラルネットワークループフィルタリング有効化フラグは、
輝度ニューラルネットワークループフィルタリング有効化フラグと、
第一のクロマニューラルネットワークループフィルタリング有効化フラグと、
第二のクロマニューラルネットワークループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む、
請求項18に記載の方法。
【請求項32】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、前記ニューラルネットワークループフィルタリング有効化フラグを決定する、
請求項18から31のいずれか1項に記載の方法。
【請求項33】
前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライス(Slice)と、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する、
請求項18から32のいずれか1項に記載の方法。
【請求項34】
再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定するための決定モジュールと、
前記ニューラルネットワークループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定するための設定モジュールと、
シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知するための通知モジュールと、
を備える、ビデオ処理のための装置。
【請求項35】
前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む、
請求項34に記載の装置。
【請求項36】
前記通知モジュールは、
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、シグナリングによって前記適応ループフィルタリング有効化フラグを通知するための通知ユニットを備える、
請求項34又は35に記載の装置。
【請求項37】
再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信するための受信モジュールと、
ニューラルネットワークループフィルタリング有効化フラグが前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを識別するための識別モジュールと、
前記適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行するためのフィルタリングモジュールと、
を備える、ビデオ処理のための装置。
【請求項38】
前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む、
請求項37に記載の装置。
【請求項39】
前記識別モジュールは、
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、前記適応ループフィルタリング有効化フラグを決定するための識別ユニットを備える、
請求項37又は38に記載の装置。
【請求項40】
プロセッサにより実行される時、前記請求項1~17のいずれか1項に記載の方法のステップ、又は請求項18~33のいずれか1項に記載の方法のステップを実現するコンピュータプログラムが記憶されている、
コンピュータ可読記憶媒体。
【請求項41】
メモリと、プロセッサと、前記メモリに記憶されて前記プロセッサ上で実行できるコンピュータプログラムとを含む電子装置であって、前記プロセッサは、前記コンピュータプログラムを実行する時に前記請求項1~17のいずれか1項に記載の方法のステップを実現し、又は請求項18~33のいずれか1項に記載の方法のステップを実現する、
電子装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、2021年12月31日に出願された中国出願第CN202111679995.5号(発明名称:ビデオ処理のための方法、装置、記憶媒体及び電子装置)に基づき、その優先権を主張し、該出願の全ての内容は、引用により全体として本開示に組み込まれる。
本発明の実施例は、通信分野に関し、具体的には、ビデオ処理のための方法、装置、記憶媒体及び電子装置に関する。
【背景技術】
【0002】
ニューラルネットワーク(Neural Network、NNと略称される)に代表される機械学習技術を画像/ビデオ符号化に利用することは、トレンドとなっている。ニューラルネットワークに基づくループフィルタリング(Neural Network In-loop Filter、NNFと略称される))は、歪み領域からオリジナル/ロスレス領域への非線形マッピング関係を確立することにより、再構築されたビデオの品質を大幅に向上させることができる。
【0003】
NNFネットワークトレーニングのオフライン性のため、一般的には、NNF後も適応ループフィルタリング(Adaptive Loop Filter、ALFと略称される)フィルタを用いて符号化画像の性能をさらに向上させる。NNFは、ビデオの輝度成分に対して最適な性能を達成できることが多いが、ALFフィルタリングモジュールがSlice(スライス)レベルで決定選択を行う時、輝度成分のレート歪み最適化性能のみに基づいて判断すると、ALFフィルタリングモジュールをオフにする場合がある。一方、クロマ成分のNNFは、最適でない場合が多く、さらにクロマALF及び成分間適応ループフィルタリング(Cross-component Adaptive Loop Filter、CCALFと略称される)を行ってクロマ成分のより良い性能を達成する必要がある。
【0004】
しかし、現在のALFフィルタリング技術では、NNFフィルタリング後にALFモジュールを直接使用すると、以下の問題を招いてしまう。
【0005】
スライスレベルの輝度成分がNNF後に最適な性能を達成しており、ALFフィルタリングが輝度成分においてこれ以上向上することがない場合、現在のスライスレベルの輝度ALFは、オフ状態に設定される。しかしながら、一旦輝度の性能に応じてALFをオフにすると、クロマALF及びCCALFは、いずれも強制的にオフされ、クロマのALFフィルタリング操作を行わなくなる。NNFフィルタリング後のクロマ成分をALFフィルタリングしないと、より多くの値と元の値との間の偏差が導入されてしまい、画質が最適化できなくなる可能性がある。
【0006】
処理後の画質が比較的悪いという関連技術における問題に対して、現在はまだ効果的な解決策が提案されていない。
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明の実施例は、処理後の画質が比較的悪いという関連技術における問題を少なくとも解決するビデオ処理のための方法、装置、記憶媒体及び電子装置を提供する。
【課題を解決するための手段】
【0008】
本発明の一つの実施例によれば、ビデオ処理のための方法を提供する。この方法は、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定することと、前記ニューラルネットワークループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することと、シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知することと、を含む。
【0009】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0010】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。
【0011】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0012】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記適応ループフィルタリング有効化フラグを通知する。
【0013】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することをさらに含む。
【0014】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示し、且つ前記適応ループフィルタリング有効化フラグが画像レベル又はスライスレベルで前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することをさらに含む。
【0015】
一つの選択的な実施例では、前記方法は、前記クロマ適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定することをさらに含む。
【0016】
一つの選択的な実施例では、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、前記再構成されたビデオユニットのために輝度成分の適応ループフィルタに関連する第一のフラグを設定することを含む。
【0017】
一つの選択的な実施例では、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、前記再構成されたビデオユニットのためにクロマ成分の適応ループフィルタに関連する第二のフラグを設定することを含む。
【0018】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、前記第一の値は前記第二の値と異なる。
【0019】
一つの選択的な実施例では、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの操作を含む。
【0020】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定とのうちの少なくとも一つの決定に基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定する。
【0021】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。
【0022】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0023】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記ニューラルネットワークループフィルタリング有効化フラグを通知する。
【0024】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライスSliceと、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0025】
本発明の別の実施例によれば、ビデオ処理のための方法をさらに提供する。この方法は、再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信することと、前記再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグ及び前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを決定することと、前記適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することと、を含む。
【0026】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0027】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。
【0028】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0029】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記適応ループフィルタリング有効化フラグを決定する。
【0030】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを決定することをさらに含む。
【0031】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、画像レベル又はスライスレベルで前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することと、前記輝度適応ループフィルタリング有効化フラグが前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することと、をさらに含む。
【0032】
一つの選択的な実施例では、前記方法は、前記クロマ適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定することをさらに含む。
【0033】
一つの選択的な実施例では、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することは、前記再構成されたビデオユニットの輝度成分の適応ループフィルタに関連する第一のフラグの値を決定することを含む。
【0034】
一つの選択的な実施例では、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することは、前記再構成されたビデオユニットのクロマ成分の適応ループフィルタに関連する第二のフラグの値を決定することを含む。
【0035】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、前記第一の値は前記第二の値と異なる。
【0036】
一つの選択的な実施例では、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの操作を含む。
【0037】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。
【0038】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0039】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記ニューラルネットワークループフィルタリング有効化フラグを決定する。
【0040】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライス(Slice)と、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0041】
本発明の別の実施例によれば、ビデオ処理のための装置をさらに提供する。この装置は、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定するための決定モジュールと、前記ニューラルネットワークループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定するための設定モジュールと、シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知するための通知モジュールとを備える。
【0042】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0043】
一つの選択的な実施例では、前記通知モジュールは、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記適応ループフィルタリング有効化フラグを通知するための通知ユニットを備える。
【0044】
本発明の別の実施例によれば、ビデオ処理のための装置をさらに提供する。この装置は、再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信するための受信モジュールと、ニューラルネットワークループフィルタリング有効化フラグが前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを識別するための識別モジュールと、前記適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対して適応ループフィルタリングを実行するためのフィルタリングモジュールとを備える。
【0045】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットAPSとを含む。
【0046】
一つの選択的な実施例では、前記識別モジュールは、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記適応ループフィルタリング有効化フラグを決定するための識別ユニットを備える。
【0047】
本発明のまた一つの実施例によれば、コンピュータ可読記憶媒体をさらに提供する。前記コンピュータ可読記憶媒体にはコンピュータプログラムが記憶されている。前記コンピュータプログラムは、実行時に上記いずれか一つの方法の実施例におけるステップを実行するように設定される。
【0048】
本発明のまた一つの実施例によれば、電子装置をさらに提供する。この電子装置は、メモリとプロセッサとを備え、前記メモリにはコンピュータプログラムが記憶されている。前記プロセッサは、前記コンピュータプログラムを実行して上記いずれか一つの方法の実施例におけるステップを実行するように設定される。
【図面の簡単な説明】
【0049】
【
図1】関連技術におけるH.266/VVCループフィルタリングフローである。
【
図2】関連技術におけるNNフィルタリング、ALFフィルタリングのフローチャートである。
【
図3】本発明の実施例のビデオ処理のための方法の移動端末のハードウェア構成ブロック図である。
【
図4】本発明の実施例によるビデオ処理のための方法のフローチャートの一である。
【
図5】本発明の実施例による輝度スイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローチャートである。
【
図6】本発明の実施例による更新(update)操作を加えた後の全体的なフローチャートである。
【
図7】本発明の実施例による更新(update)操作の具体的なフローチャートである。
【
図8】本発明を実施するための形態による符号化端のNNフィルタリングに基づくALF-SPLIT操作のフローチャートである。
【
図9】本発明の実施例による輝度スイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローチャートである。
【
図10】本発明の実施例によるクロマスイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローチャートである。
【
図11】本発明の実施例によるCC-ALFを含むALFフィルタリングフレームワーク図である。
【
図12】本発明の実施例によるビデオ処理のための方法のフローチャートの二である。
【
図13】本発明の具体的な実施例による復号端のNNフィルタリングに基づくALF-SPLIT操作のフローチャートである。
【
図14】本具体的な実施例による符号化端のNNフィルタリングに基づくALF-SPLIT操作のフローチャートである。
【
図15】本具体的な実施例によるALF-SPLITスイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローチャートである。
【
図16】本発明の実施例によるビデオ処理のための装置の構成ブロック図である。
【
図17】本発明の実施例による別のビデオ処理のための装置の構成ブロック図である。
【発明を実施するための形態】
【0050】
以下、図面を参照して、実施例を結び付けながら本発明の実施例を詳細に説明する。
【0051】
説明すべきこととして、本発明の明細書と特許請求の範囲及び上記図面における用語である「第一」、「第二」などは、類似している対象を区別するものであり、必ずしも特定の順序又は前後手順を記述するためのものではない。
【0052】
まず本発明の関連技術について説明する。
【0053】
次世代ビデオ符号化規格H.266/VVC(Versatile Video Coding、多機能ビデオ符号化、H.266の別称)は、ブロックに基づく混合符号化フレームワークを採用し、ブロック効果、リンギング効果、色偏差及び画像ぼやけなどの歪み効果は、依然としてH.266/VVC規格を採用した圧縮ビデオに存在する。このような歪みによるビデオ品質への影響を低減させるために、H.266/VVCには、輝度マッピングとクロマスケーリング(Luma Mapping With Chroma Scaling、LMCSと略称される)、デブロッキングフィルタリング(Deblocking Filter、DBFと略称される)、サンプルアダプティブオフセット(Sample Adaptive Offset、SAOと略称される)及び適応ループフィルタリング(Adaptive LoopFilter、ALFと略称される)を含むループフィルタリング技術(In-loop Filtering)が採用されている。LMCSは、ダイナミックレンジ内の情報に符号語(codeword)を再割り当てることによって圧縮効率を向上させる。DBFは、ブロック効果を低減させるために用いられる。SAOは、リンギング効果を改善するために用いられる。ALFは、復号誤差を減少させることができる。H.266/VVCループフィルタリングフローは、
図1に示される。
図1は、関連技術におけるH.266/VVC規格におけるループフィルタリングフローチャートである。H.266/VVCの発表に続き、NNに基づくビデオ符号化は、次世代ビデオ符号化の研究の焦点となっている。ループフィルタリングモジュールのうち、NNフィルタリングモジュールは、新たなモジュールとしてループフィルタリングに加えられてもよいし、本来のDBFとSAOモジュールに代替されてもよい。これにより、伝送オーバヘッドを節約するだけでなく、画質を向上させることもできる。一般的には、コーデックでは、具体的に
図2に示すように、NNに基づくフィルタリング後も、ALFフィルタを使用して画像性能をさらに向上させる。
図2において「スライスレベルのALFスイッチ」が設定されており、このスイッチは、主に現在のスライスの輝度ALFをオンにするかどうかを制御するために用いられる。ここで、
図2は、関連技術におけるNNフィルタリング、ALFフィルタリングのフローチャートである。
【0054】
本発明の一つの実施例によれば、符号化側の操作ステップは、以下のとおりである。
【0055】
(1)シーケンスパラメータセット(Sequence parameter set、SPSと略称される)層のNNフィルタリングがオンされた場合、LMCS後の再構築画像に対して以下のステップa~cに従ってNNフィルタリングを行う。オフにされた場合、従来のフィルタリングフロー(DBF、SAO)に従ってフィルタリング操作を行う。
【0056】
a.事前にNNフィルタリングを行う。
b.レート歪み最適化(Rate Distortion Optimization、RDOと略称される)によって、NNフィルタリングのslice/ブロック(ブロックは、CTUブロックを指してもよいし、NNフィルタリングブロックであってもよい)レベルのスイッチ決定を行い、
c.NNフィルタリング後の再構築画像を得る。
【0057】
(2)ALFフィルタリング操作を行う。
【0058】
a.輝度成分を分類し、クロマは、分類を必要とせず、
b.輝度とクロマとそれぞれに対して新たなAPSフィルタリングセットを計算し、
c.輝度に対してスライス(Slice)/CTUレベルのスイッチ決定及びフィルタリングセット選択を行い、
d.現在のスライス(slice)/CTUのALFスイッチ決定及びフィルタリングセット選択を行う。まず輝度に対してALF決定を行い、決定後に輝度ALFがオンになると、現在のスライスのALFをオンにし、クロマのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を継続し、決定後に輝度ALFがオフになると、現在のスライスのALFがオフになり、クロマALFは、デフォルトでオフ状態になり、クロマのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行わなくなる。
【0059】
e.ALFフィルタリングを経た後の再構築画像を得る。
【0060】
(3)CCALFフィルタリング操作を行う。現在のスライスについてALFがオンの場合、以下のステップa~cに従ってCCALFフィルタリング操作を行い、最終的な再構築フレームを出力する。現在のスライスについてALFがオフの場合、CCALFは、デフォルトでオフ状態になり、CCALF操作を行わず、前のステップの結果を最終的な再構築フレームとして直接出力する。
【0061】
a.クロマに対してCCALFフィルタリングセットを計算し、
b.スライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行い、
c.CCALFフィルタリング後の再構築画像を得る。
【0062】
本発明の一つの実施例によれば、復号側フィルタリングの操作ステップは、以下のとおりである。
【0063】
(1)SPS層のNNフィルタリングがオンの場合、LMCS後の再構築画像に対して以下のステップa~dに従ってNNフィルタリングを行う。SPS層のNNフィルタリングがオフの場合、従来のフィルタリングフロー(DBF、SAO)に従ってフィルタリング操作を行う。
【0064】
a.コードストリームからNNフィルタリングのスライス/CTUレベルのスイッチ決定を取得し、
b.スライスのスイッチに応じて、オンの場合、CTUのスイッチを取得し続け、ステップcに進み、オフの場合、NNフィルタリング操作を実行せず、ステップdに進み、
c.コードストリームから各CTUのスイッチ情報を順に取得する。現在のCTUスイッチ情報がオンである場合、NN操作を行い、オフの場合、再構築図を直接出力し、
d.NNフィルタリング後の再構築画像を得る。
【0065】
(2)SPS層のALFフィルタリングがオンの場合、(1)の再構築画像に対して以下のステップa~dに従ってALFフィルタリング処理を行う。SPS層のALFフィルタリングがオフの場合、(1)の再構築画像を直接出力する。
【0066】
a.分類:輝度成分を分類し、クロマは、分類する必要がない。
【0067】
b.コードストリームから現在のスライスのALFスイッチ決定を取得する。まずコードストリームから現在のスライスのALFスイッチ情報を取得し、オンの場合、輝度は、ALFを使用してフィルタリングすることをサポートし、第一のクロマ成分と第二のクロマ成分のスライスレベルのALFスイッチ情報をそれぞれ取得し続ける。オンの場合、対応するクロマ成分は、ALFを使用してフィルタリングすることをサポートする。現在のスライスのALFスイッチ情報をオフにすると、このスライスは、輝度ALF、クロマALFとCCALFをサポートしない。
【0068】
c.現在のスライスがALFの使用をサポートする場合、コードストリームから各CTUにおける各成分のALFスイッチ決定を順に取得する。スイッチがオンの場合、CTUに対応する成分に対してALFフィルタリング操作を行う。
【0069】
(3)ALFフィルタリング操作を行い、再構築画像を得る。
【0070】
a.コードストリームから現在のスライス/CTUのCCALFスイッチ決定を取得する。現在のスライスのALFがオンの場合、第一のクロマ成分と第二のクロマ成分のスライスレベルのCC ALFスイッチ情報をそれぞれ取得し続ける。オンの場合、対応するクロマ成分は、CCALFを使用してフィルタリングすることをサポートする。現在のスライスについてALFがオフになると、CCALFは、デフォルトでオフ状態となり、CCALFの情報を取得しなくなる。
【0071】
b.現在のスライスがCC ALFの使用をサポートする場合、コードストリームから各CTUにおける各成分のCC ALFスイッチ決定を順に取得する。スイッチがオンの場合、CTUに対応する成分に対してCC ALFフィルタリング操作を行う。
【0072】
c.CCALFフィルタリングを行い、再構築画像を得る。
【0073】
上記内容から分かるように、NNフィルタリング後の輝度ALFは、オフ状態にあるが、輝度ALFがオフになると、クロマALF及びCCALFも強制的にオフされ、よって処理後の画質が比較的低い可能性がある。
【0074】
関連技術における上記問題に対して、本開示の実施例では、NNフィルタリング後のALFモジュールにおいて、輝度ALF、クロマALFを分離し、輝度ALFがオフの場合でも、クロマALF及びCCALFを行うようにすることを提案した。NNフィルタリングによって輝度を明らかに高めるため、多くの場合に、NNフィルタリング後の輝度ALFは、オフ状態にあるが、輝度ALFがオフになると、クロマALF及びCCALFも強制的にオフされる。そのため、輝度とクロマとを分離することでクロマのフィルタリングへのニーズをより良く満たし、クロマ性能をさらに向上させることができる。
【0075】
以下では、実施例を結び付けながら、本発明がどのように関連技術における上記問題を解決するかについて説明する。
【0076】
本出願の実施例において提供される方法の実施例は、移動端末、コンピュータ端末又は類似している演算装置において実行されてもよい。移動端末上で実行することを例にして、
図3は、本発明の実施例のビデオ処理の方法に用いられる移動端末のハードウェア構成ブロック図である。
図3に示すように、移動端末は、一つ又は複数の(
図3において一つのみが示されている)プロセッサ302(プロセッサ302は、マイクロプロセッサMCU又はプログラマブルロジックデバイスFPGAなどの処理装置を含んでもよいが、それらに限らない)と、データを記憶するためのメモリ304とを備えてもよい。ここで、上記移動端末は、通信機能のための伝送機器306と入出力機器308とをさらに備えてもよい。当業者であれば理解できるように、
図3に示す構成は、概略にすぎず、それは、上記移動端末の構成を限定するものではない。例えば、移動端末は、
図3に示すものよりも多く又は少なくのコンポーネントをさらに備えてもよいし、又は
図3に示すものと異なる構成を有してもよい。
【0077】
メモリ304は、コンピュータプログラム、例えばアプリケーションソフトウェアのソフトウェアプログラム及びモジュール、例えば本発明の実施例におけるビデオ処理のための方法に対応するコンピュータプログラムを記憶するために用いられてもよい。プロセッサ302は、メモリ304内に記憶されたコンピュータプログラムを実行することによって、様々な機能アプリケーション及びデータ処理を実行し、即ち上記の方法を実現する。メモリ304は、高速ランダムアクセスメモリを含んでもよいし、不揮発性メモリ、例えば一つ又は複数の磁気記憶装置、フラッシュメモリ、又は他の不揮発性固体メモリを含んでもよい。いくつかの実例では、メモリ304は、プロセッサ302に対してリモートに設置されたメモリをさらに含んでもよい。これらのリモートメモリは、ネットワークを介して移動端末に接続されてもよい。上記ネットワークの実例は、インターネット、企業イントラネット、ローカルエリアネットワーク、移動通信ネットワーク及びそれらの組み合わせを含むが、それらに限らない。
【0078】
伝送装置306は、ネットワークを経由してデータを受信又は送信するために用いられる。上記のネットワークの具体的な実例は、移動端末の通信ベンダーによって提供される無線ネットワークを含んでもよい。一つの実例では、伝送装置306は、基地局を介して他のネットワーク機器と繋がってインターネットと通信できるネットワークアダプタ(Network Interface Controller、NICと略称される)を備える。一つの実例では、伝送装置306は、無線の方式でインターネットと通信するように構成されている無線周波数(Radio Frequency、RFと略称される)モジュールであってもよい。
【0079】
本実施例では、ビデオ処理のための方法を提供する。
図4は、本発明の実施例によるビデオ処理のための方法のフローチャートの一である。
図4に示すように、このフローは、以下のステップを含む。
【0080】
ステップS402において、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定し、
ステップS404において、前記ニューラルネットワークループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定し、
ステップS406において、シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知する。
【0081】
ここで、上記操作を実行するものは、ビデオ符号化側の機器、例えばプロセッサ、コントローラ、又は類似する処理能力を備える機器などであってもよい。
【0082】
上記実施例では、決定されたニューラルネットワークループフィルタリング有効化フラグは、ニューラルネットワークループフィルタリング有効化フラグの具体的な状態を判定し、又はニューラルネットワークループフィルタリング有効化フラグの具体的な値を判定してもよい。ここで、異なる状態又は異なる値は、異なる意味に対応する。例えば、ニューラルネットワークループフィルタリング有効化フラグの状態がオンであるか、又は値が1である(無論、他の値であってもよく、例えば値が真であるなど)ことが判定された場合、ニューラルネットワークループフィルタリングを実行する必要があることを示す。ニューラルネットワークループフィルタリング有効化フラグの状態がオフであるか、又は値が0である(無論、他の値であってもよく、例えば値が偽であるなど)ことが決定された場合、ニューラルネットワークループフィルタリングを実行する必要がないことを示す。同様に、適応ループフィルタリング起動フラグを設定することは、実際には適応ループフィルタリング起動フラグの状態を設定すること、又は適応ループフィルタリング起動フラグの具体的な値を設定することでもあり、且つ適応ループフィルタリング起動フラグの異なる状態又は異なる値も異なる意味に対応し、ここで、これ以上説明しない。
【0083】
なお、上記の、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報を通知する操作は、適応ループフィルタリング有効化フラグを設定する操作と必然的な前後関係を持たず、先に適応ループフィルタリング有効化フラグを設定し、そしてニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は適応ループフィルタリングに関連するフィルタ情報を通知してもよいし、先にニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は適応ループフィルタリングに関連するフィルタ情報を通知し、そして適応ループフィルタリング有効化フラグを設定してもよい。無論、適応ループフィルタリング有効化フラグを設定する操作とニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は適応ループフィルタリングに関連するフィルタ情報を通知する操作を同時に実行してもよい。
【0084】
本実施例では、ニューラルネットワークループフィルタリングと適応ループフィルタリングが起動されたか否かに関わらず、ニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は適応ループフィルタリングに関連するフィルタ情報を通知する操作を実行してもよい。説明すべきこととして、ニューラルネットワークループフィルタリングに関連するフィルタ情報及び/又は適応ループフィルタリングに関連するフィルタ情報においてS402とS404の操作結果に関連する場合、S402とS404の実行が完了した後に、S406を実行する必要がある。復号側についても類似している。
【0085】
上記実施例によれば、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグに基づいて再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することができ、よって設定結果に基づいて適応ループフィルタリングを実行し、ニューラルネットワークループフィルタリングを行った後に適応ループフィルタリングを直接オフにすることにより、画像にさらなる輝度及び/又はクロマ処理を行うことができず、さらに画質が最適化を達成できないという問題を回避し、画質を高める効果を達成する。
【0086】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。本実施例では、適応ループフィルタリング有効化フラグは、S404によって決定されてもよい。上記の適応ループフィルタリングによって参照される適応パラメータセットは、クロマに関連するAPS及び/又は輝度に関連する適応パラメータセットAPSを含んでもよい。クロマに関連するAPS及び/又は輝度に関連するAPSの具体的な計算方式及び選択ポリシーについては、後続の具体的な実施例における具体的な記述を参照する。
【0087】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。本実施例では、ニューラルネットワークループフィルタリング有効化フラグに基づいて輝度適応ループフィルタリング有効化フラグ及びクロマ適応ループフィルタリング有効化フラグをそれぞれ設定してもよい。つまり、輝度適応ループフィルタリングの起動の有無は、クロマ適応ループフィルタリングの起動の有無と必然的な関連がない。輝度、クロマを別々に設定することにより、クロマのフィルタリングへのニーズをより良く満たし、クロマ性能をさらに向上させることができる。
【0088】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。本実施例では、クロマ適応フィルタリング有効化フラグを様々なタイプクロマの適応ループフィルタリング有効化フラグにさらに細分化してもよい。ここで、上記の第一のクロマ適応ループフィルタリング有効化フラグは、青差Cbクロマ成分の適応ループフィルタリング有効化フラグを指してもよい。上記の第二のクロマ適応ループフィルタリング有効化フラグは、赤差Crクロマ成分の適応ループフィルタリング有効化フラグを指してもよい。上記の第一のクロマ成分間適応ループフィルタリング有効化フラグは、Cb CCALF有効化フラグを指してもよい。上記の第二のクロマ成分間適応ループフィルタリング有効化フラグは、Cr CCALF有効化フラグを指してもよい。
【0089】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記適応ループフィルタリング有効化フラグを通知する。以下では、各シンタックス要素について具体的に説明する。
【0090】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルでシグナリングによってニューラルネットワークループフィルタリング有効化フラグ及び適応ループフィルタリング有効化フラグを通知する。
【0091】
表1は、符号化ビットストリームSPSレベルのシンタックス表である。具体的には以下のように示される(説明すべきこととして、後続の各表において、各識別子の値は、例示的説明にすぎず、実際の応用において他のタイプの値を取ってもよく、例えば「真」と「偽」で「1」と「0」を代替し、又は他のタイプの文字又は記号で「1」と「0」を代替するなど)。
【0092】
【0093】
表1における関連するシンタックスフィールドの語義説明は、以下のとおりである。ここで、
sps_nn_enabled_flag:SPSレベルのNNFフィルタリング有効化フラグは、SPSレベルでNNFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0094】
sps_alf_enabled_flag:SPSレベルのALFフィルタリング有効化フラグは、SPSレベルでALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0095】
sps_ccalf_enabled_flag:SPSレベルのALFフィルタリング有効化フラグは、SPSレベルでCC-ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0096】
本発明の一つの実施形態によれば、符号化ビットストリームのPPSレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報の位置、及び適応ループフィルタリングに関連するフィルタ情報の位置を通知する。
【0097】
表2は、符号化ビットストリームPPSレベルのシンタックス表である。具体的には以下のように示される。
【0098】
【0099】
表2における関連するシンタックスフィールドの語義説明は、以下のとおりである。ここで、
pps_nnf_info_in_ph_flag:NNFフィルタリング情報がPHレベルで現れるかどうかを指示する。1に等しい場合は、NNFフィルタリング情報がPHレベルにあることを表し、0に等しい場合は、NNFフィルタリング情報がSHレベルにあることを表す。デコーダは、PHレベル又はSHレベルにおける関連するシンタックス要素を解析することによって、各成分のNNF有効化フラグ及び対応するフィルタ情報を決定することができる。
【0100】
pps_alf_info_in_ph_flag:ALFフィルタリング情報がPHレベルで現れるかどうかを指示する。1に等しい場合は、ALFフィルタリング情報がPHレベルにあることを表し、0に等しい場合は、ALFフィルタリング情報がSHレベルにあることを表す。デコーダは、PHレベル又はSHレベルにおける関連するシンタックス要素を解析することによって、各成分のALF有効化フラグ及び対応するフィルタ情報を決定することができる。
【0101】
本発明の一つの実施形態によれば、符号化ビットストリームのPHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。
【0102】
表3は、符号化ビットストリームPHレベルのシンタックス表である。具体的には以下のように示される。
【0103】
【0104】
表3における関連するシンタックスフィールドの語義説明は、以下のとおりである。
【0105】
ここで、pps_alf_info_in_ph_flagが1に等しい場合、ALFフィルタリング情報がPHレベルで現れることを表す。デコーダは、PHレベルにおけるalf_split_structure( )シンタックス構成又はalf_structure( )シンタックス構成を解析して各成分のALF有効化フラグ及び対応するフィルタ情報を決定する。
【0106】
本発明の一つの実施形態によれば、符号化ビットストリームのSHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。
【0107】
表4は、符号化ビットストリームSHレベルのシンタックス表である。具体的には以下のように示される。
【0108】
【0109】
表4における関連するシンタックスフィールドの語義説明は、以下のとおりである。
ここで、pps_alf_info_in_ph_flagが0に等しい場合、ALFフィルタリング情報がSHレベルで現れることを表す。デコーダは、SHレベルにおけるalf_split_structure( )シンタックス構成又はalf_structure( )シンタックス構成を解析して各成分のALF有効化フラグ及び対応するフィルタ情報を決定する。
【0110】
PHレベル又はSHレベルに含まれるnn_structure( )(即ち、表3におけるnn_structure( )及び表4におけるnn_structure( ))シンタックス構成は、具体的に表5に示すとおりである。
【0111】
【0112】
ここで、
nn_structure( )シンタックス構成におけるニューラルネットワークループフィルタリング有効化フラグは、
輝度成分ニューラルネットワークループフィルタリング有効化フラグ(nnf_luma_enabled_flag)と、
第一のクロマ成分ニューラルネットワークループフィルタリング有効化フラグ(nnf_cb_enabled_flag)と、
第二のクロマ成分ニューラルネットワークループフィルタリング有効化フラグ(nnf_cr_enabled_flag)とのうちの少なくとも一つを含む。
nn_luma_enabled_flag:現在の画像/スライス輝度成分がNNを使用しているかどうかを識別する。1の場合はNNを使用することを表し、0の場合は使用しないことを表す。
【0113】
nn_cb_enabled_flag:現在の画像/スライス輝度成分がNNを使用しているかどうかを識別する。1の場合はNNを使用することを表し、0の場合は使用しないことを表す。
【0114】
nn_cr_enabled_flag:現在の画像/スライス輝度成分がNNを使用しているかどうかを識別する。1の場合はNNを使用することを表し、0の場合は使用しないことを表す。
【0115】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行することを指示する場合に、符号化ビットストリームのPHレベル又はSHレベルには、符号化ビットストリームのPHレベル又はSHレベルで輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するためのalf_split_structure( )シンタックス構成が含まれる。
【0116】
alf_split_structure( )シンタックス構成における適応ループフィルタリング有効化フラグは、
輝度成分適応ループフィルタリング有効化フラグ(alf_luma_enabled_flag)と、
第一のクロマ適応ループフィルタリング有効化フラグ(alf_cb_enabled_flag)と、
第二のクロマ適応ループフィルタリング有効化フラグ(alf_cr_enabled_flag)と、
第一のクロマ成分間適応ループフィルタリング有効化フラグ(alf_cc_cb_enabled_flag)と、
第二のクロマ成分間適応ループフィルタリング有効化フラグ(alf_cc_cr_enabled_flag)とのうちの少なくとも一つを含む。
【0117】
PHレベル又はSHレベルに含まれるalf_split_structure( )シンタックス構成は、具体的に表6に示すとおりである。
【0118】
【0119】
表6における関連するシンタックスフィールドの語義説明は、以下のとおりである。ここで、
alf_luma_enabled_flag:PHレベル又はSHレベルの輝度成分ALFフィルタリング有効化フラグは、PHレベル又はSHレベルで輝度成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0120】
num_alf_aps_ids_luma:現在の画像/スライス輝度ALFがAPSフィルタリングを使用するサブセットの数を識別する。
alf_aps_id_luma[ i ]:i番目の輝度APSフィルタリングサブセットのID番号を識別する。
【0121】
alf_cb_enabled_flag:PHレベル又はSHレベルの第一のクロマ(即ち、Cb青差)成分ALFフィルタリング有効化フラグは、PHレベル又はSHレベルで第一のクロマ(即ち、Cb青差)成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0122】
alf_cr_enabled_flag:PHレベル又はSHレベルの第二のクロマ(即ち、Cr赤差)成分ALFフィルタリング有効化フラグは、PHレベル又はSHレベルで第一のクロマ(即ち、Cr赤差)成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0123】
alf_aps_id_chroma:現在の画像/スライスクロマALFがAPSフィルタを使用するIDを識別する。
【0124】
alf_cc_cb_enabled_flag:PHレベル又はSHレベルの第一のクロマ成分間(即ち、輝度がCb青差に対する)ALFフィルタリング有効化フラグは、PHレベル又はSHレベルで第一のクロマ成分間(即ち、輝度がCb青差に対する)ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0125】
alf_cc_cb_aps_id:現在の画像/スライスクロマCb成分が使用するCC-ALFフィルタの番号を識別する。
【0126】
alf_cc_cr_enabled_flag:PHレベル又はSHレベルの第二のクロマ成分間(即ち、輝度がCr赤差に対する)ALFフィルタリング有効化フラグは、PHレベル又はSHレベルで第二のクロマ成分間(即ち、輝度がCr赤差に対する)ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0127】
alf_cc_cr_aps_id:現在の画像/スライスクロマCr成分が使用するCC-ALFフィルタの番号を識別する。
【0128】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行しないことを指示する場合に、符号化ビットストリームのPHレベル又はSHレベルには、H.266/VVC規格に定義されたpicture_header_structure ( )とslice_header ( )シンタックス構造が含まれる。
【0129】
本発明の一つの実施形態によれば、符号化ビットストリームのCTUレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。
【0130】
表7は、CTUレベルのシンタックス表であり、具体的には以下のように示される。
【0131】
【0132】
表7における関連するシンタックスフィールドの語義説明は、以下のとおりである。
【0133】
nn_ctb_flag[ 0 ][ CtbAddrX ][ CtbAddrY ]:このCTB輝度ニューラルネットワークループフィルタリング有効化フラグを識別する。
nn_ctb_flag[ 1 ][ CtbAddrX ][ CtbAddrY ]:このCTB第一のクロマニューラルネットワークループフィルタリング有効化フラグを識別する。
nn_ctb_flag[ 2 ][ CtbAddrX ][ CtbAddrY ]:このCTB第二のクロマニューラルネットワークループフィルタリング有効化フラグを識別する。
但し、sps_nn_enabled_flagは、表1に示すSPSレベルのNNFフィルタリング有効化フラグに相当し、SPSレベルでNNFフィルタリングをオンにするかどうかを指示するために用いられる。なお、1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0134】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行することを指示する場合に、符号化ビットストリームのCTUレベルには、符号化ビットストリームのCTBレベルで輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するためのalf_split_ctb_structure( )シンタックス構成が含まれる。
【0135】
alf_split_ctb_structure( )シンタックス構造における適応ループフィルタリング有効化フラグは、
輝度成分適応ループフィルタリング有効化フラグ(alf_luma_enabled_flag)と、
第一のクロマ適応ループフィルタリング有効化フラグ(alf_cb_enabled_flag)と、
第二のクロマ適応ループフィルタリング有効化フラグ(alf_cr_enabled_flag)とのうちの少なくとも一つを含む。
CTUレベルに含まれるalf_split_ctb_structure( )シンタックス構成は、具体的に表8に示すとおりである。
【0136】
【0137】
表8における関連するシンタックスフィールドの語義説明は、以下のとおりである。ここで、
alf_luma_enabled_flag:CTBレベルの輝度成分ALFフィルタリング有効化フラグは、CTBレベルで輝度成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。ここで、luma関連要素を導入することで輝度メインスイッチを導入する目的を実現する。
alf_cb_enabled_flag:CTBレベルの第一のクロマ成分ALFフィルタリング有効化フラグは、CTBレベルで第一のクロマ成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
alf_cr_enabled_flag:CTBレベルの第二のクロマ成分ALFフィルタリング有効化フラグは、CTBレベルで第二のクロマ成分ALFフィルタリングをオンにするかどうかを指示するために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。
【0138】
なお、上記alf_split_ctb_structure( )シンタックス構造において、
alf_ctb_flag[ 0 ][ CtbAddrX ][ CtbAddrY ]:このCTBが輝度ALFフィルタリングを使用するかどうかを識別し、
alf_ctb_flag[ 1 ][ CtbAddrX ][ CtbAddrY ]:このCTBが第一のクロマALFフィルタリングを使用するかどうかを識別し、
alf_ctb_flag[ 2 ][ CtbAddrX ][ CtbAddrY ]:このCTBが第二のクロマALFフィルタリングを使用するかどうかを識別する。
【0139】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行しないことを指示する場合に、符号化ビットストリームのCTUレベルは、H.266/VVC規格に定義されたcoding_tree_unit( )シンタックス構成を含む。
【0140】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定する。本実施例では、輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを設定することは、実際には輝度に対して適応ループフィルタリング有効化フラグの状態とクロマ適応ループフィルタリング有効化フラグの状態とを設定することである。SPS層のNNフィルタリングがオンの場合、LMCS後の再構築画像に対して以下のa-cに従って操作NNフィルタリングを行ってもよい。SPS層のNNフィルタリングがオフの場合、従来のフィルタリングフロー(DBF、SAO)に従ってフィルタリング操作を行う。
【0141】
a.事前にNNフィルタリングを行い、
b.RDOによってNNフィルタリングのスライスe/ブロック(ブロックは、CTUブロックを指してもよいし、NNフィルタリングブロックであってもよい)レベルのスイッチ決定を行い、
c.NNフィルタリング後の出力を再構築する。
【0142】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示し、且つ前記適応ループフィルタリング有効化フラグが画像レベル又はスライスレベルで前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することをさらに含む。本実施例では、輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを設定することは、実際には輝度に対して適応ループフィルタリング有効化フラグの状態とクロマ適応ループフィルタリング有効化フラグの状態とを設定することである。本実施例では、ニューラルネットワークループフィルタリングを実行する必要があることを決定するとともに、輝度適応ループフィルタリングを実行する必要がないことを決定した場合に一つのクロマ適応ループフィルタリング有効化フラグ更新(update)操作を導入してもよい。即ち、この場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定してもよい。即ち、現在のSPSレベルのNNFフィルタリング有効化フラグがオンであり、且つ現在のPHレベル/SHレベルのALFフィルタリング有効化フラグがオフである場合、クロマ適応ループフィルタリング有効化フラグの更新(update)操作をトリガーする。
【0143】
以下では、具体的にどのようにクロマ適応ループフィルタリング有効化フラグを設定するかについて説明する。具体的に
図7に示す更新(update)操作を参照することができる。本実施例では、更新(update)に実際には主に含まれるのは、クロマALF flag(フラグ)の伝送である。本実施例は、主にコードストリーム伝送方式を変え、符号化端は、前述の実施例と同じである。しかしながら、伝送時には、NNに基づいて適応的に伝送パラメータを調整する。更新(update)操作を加えた後の全体的なフローは、
図6を参照することができる。ここで、更新(update)操作の具体的なフローは、
図7を参照することができる。
図6と
図7において、各スイッチに対応するフィールドの値に基づいて各スイッチをオンにするかどうかを決定することができる。例えば、スイッチに対応するフィールド値が1である場合、スイッチをオンにすることを確認し、スイッチに対応するフィールド値が0である場合、スイッチをオフにすることを確認することができる。以下の他の図面に関連するスイッチは、いずれも類似している操作であり、即ち、スイッチに対応するフィールド値が1である場合、スイッチをオンにすることを確認し、スイッチに対応するフィールド値が0である場合、スイッチをオフにすることを確認する。以下、これ以上説明しない。
【0144】
更新(update)操作を加えた後に、PHレベル、SHレベル、及びCTUレベルのシンタックス語義をそれに応じて調整する。
【0145】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行することを指示するが、符号化ビットストリームのPHレベル又はSHレベルのALFフィルタリング有効化フラグ(alf_enabled_flag)がPHレベル又はSHレベルでALFフィルタリングを実行しないことを指示する場合に、符号化ビットストリームのPHレベル又はSHレベルには、符号化ビットストリームのPHレベル又はSHレベルでクロマ適応ループフィルタリング有効化フラグを更新し、即ち輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するためのalf_update_structure( )シンタックス構造が含まれる。
【0146】
本発明の一つの実施形態によれば、符号化ビットストリームのPHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。表9は、更新(update)操作を加えた後に、PHレベルに含まれるpicture_header_structure( )シンタックス構造表であり、具体的には以下のように示される。
【0147】
【0148】
ここで、上記のalf_update_structure( )は、PHレベルシンタックス構造に新たに加えられた要素であり、クロマALFフィルタリングの有効化フラグを更新するために用いられる。PHレベルシンタックス構造において従来の適応フィルタリング有効化フラグ(alf_enabled_flag)が0に等しい場合、クロマ適応ループフィルタリング有効化フラグの更新操作を実行する必要があることを表す。
【0149】
本発明の一つの実施形態によれば、符号化ビットストリームのSHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。表10は、更新(update)操作を加えた後に、SHレベルに含まれるslice_header ( )シンタックス構造表であり、具体的には以下のように示される。
【0150】
【0151】
ここで、上記のalf_update_structure( )は、SHレベルシンタックス構造に新たに加えられた要素であり、クロマALFフィルタリングの有効化フラグを更新するために用いられる。SHレベルシンタックス構造において適応フィルタリング有効化フラグ(alf_enabled_flag)が0に等しい場合、クロマ適応ループフィルタリング有効化フラグの更新操作を実行する必要があることを表す。
【0152】
PHレベル又はSHレベルに含まれるalf_update_structure( )シンタックス構造は、具体的に表11に示すとおりである。
【0153】
【0154】
本発明の一つの実施形態によれば、符号化ビットストリームのSPSレベルで設定されたNNFフィルタリング有効化フラグ(sps_nn_enabled_flag)がSPSレベルでNNFフィルタリングを実行することを指示するが、符号化ビットストリームのPHレベル又はSHレベルのALFフィルタリング有効化フラグ(alf_enabled_flag)がPHレベル又はSHレベルでALFフィルタリングを実行しないことを指示する場合に、符号化ビットストリームのCTUレベルには、符号化ビットストリームのCTUレベルでクロマ適応ループフィルタリング有効化フラグを更新し、即ち輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するためのalf_update_structure( )シンタックス構造が含まれる。
【0155】
表12は、更新(update)操作を加えた後、CTUレベルに含まれるcoding_tree_unit( )シンタックス構造表であり、具体的には以下のように示される。
【0156】
【0157】
ここで、上記のalf_update_ctb_structure( )は、CTUレベルシンタックス構造に新たに加えられた要素であり、クロマALFフィルタリングの有効化フラグを更新するために用いられる。PHレベル又はSHレベルシンタックス構造において適応フィルタリング有効化フラグ(alf_enabled_flag)が0に等しい場合、クロマ適応ループフィルタリング有効化フラグの更新操作を実行する必要があることを表す。
【0158】
本開示の一つの実施形態によれば、符号化ビットストリームのCTBレベルでシグナリングによって適応ループフィルタリングに関連するフィルタ情報を通知し、即ち、CTBレベルにおける関連構造によって適応ループフィルタリングに関連するフィルタリング情報の通知を実現してもよい。
【0159】
ここで、CTBレベルに含まれるalf_update_ctb_structure( )要素は、クロマALFの伝送を指示するためのCTBレベルのスイッチ情報である。この要素語義は、具体的に表13に示すとおりである。
【0160】
【0161】
ここで、
alf_ctb_flag[1]は、このCTB第一のクロマ適応ループフィルタリング有効化フラグを指示するために用いられ、
alf_ctb_flag[2]は、このCTB第二のクロマ適応ループフィルタリング有効化フラグを指示するために用いられ、
alf_ctb_filter_alt_idx[0]は、この第一のクロマ適応ネットワークループフィルタリングによって使用されるフィルタIDを指示するために用いられ、
alf_ctb_filter_alt_idx[1]は、この第二のクロマ適応ネットワークループフィルタリングによって使用されるフィルタIDを指示するために用いられる。
【0162】
一つの選択的な実施例では、前記方法は、前記クロマ適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを決定することをさらに含む。本実施例では、異なるクロマ適応ループフィルタリング有効化フラグに対応する操作は異なる。クロマ適応ループフィルタリング有効化フラグの値が1である場合、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行する必要があることを表すことができる。クロマ適応ループフィルタリング有効化フラグの値が0である場合、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行する必要がないことを表すことができる。無論、値を1と0に設定することは、例示的説明にすぎない。
【0163】
一つの選択的な実施例では、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、前記再構成されたビデオユニットのために輝度成分の適応ループフィルタに関連する第一のフラグを設定することを含む。本来のVVC規格では、輝度ALFのオンは、ALFマスタスイッチに依存する。マスタスイッチがオンの場合、輝度ALFを必ず使用し、マスタスイッチがオフの場合、輝度ALFがオフになり、クロマもオフになる。これは合理的ではないため、alf_structure( )に輝度ALFスイッチを新規追加し又はクロマに対して一つのメインスイッチを追加することができる。本実施例は、主にコードストリーム伝送方式を変え、符号化側は、前述の実施例と同じである。しかしながら、伝送時に、NNに基づいて適応して伝送パラメータを調整する。本実施例では、主に修正されたalf_structure( )とalf_ctb_structure( )について説明し、本実施例では、alf_structure( )に輝度メインスイッチを表すための要素を追加してもよいし、alf_ctb_structure( )にCTBレベルの輝度メインスイッチを表すための要素を追加してもよい。本実施例では、輝度スイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローは、
図9を参照すればよい。
【0164】
以下では、修正後のalf_structure( )と修正後のalf_ctb_structure( )についてそれぞれ説明する。
【0165】
修正後のalf_structure( )のシンタックス語義は、表14を参照すればよい。
【0166】
【0167】
ここで、alf_luma_enabled_flagは、新規追加された輝度メインスイッチであり、輝度ALFをオンにするかどうかを表すために用いられる。上記alf_structure( )における他の要素は、従来のH.266/VVCに定義されたalf_structure()シンタックス構造における要素と一致する。
【0168】
修正後のalf_ctb_structure( )のシンタックス語義は、表15を参照すればよい。
【0169】
【0170】
ここで、alf_luma_enabled_flagは、新規追加されたCTBレベルの輝度メインスイッチである。
【0171】
説明すべきこととして、ここで、alf_enabled_flagを伝送してもよいし、伝送しなくてもよい。伝送しない時、alf_enabled_flagは、以下の方式で値を取る。
【0172】
alf_enabled_flag = alf_luma_enabled_flag || alf_cb_enabled_flag || alf_cr_enabled_flag || alf_cc_cb_enabled_flag || alf_cc_cr_enabled_flag。
【0173】
一つの選択的な実施例では、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、前記再構成されたビデオユニットのためにクロマ成分の適応ループフィルタに関連する第二のフラグを設定することを含む。本実施例では、主にクロマメインスイッチの追加について説明し、本実施例では、alf_structure( )にクロマメインスイッチを表すための要素を追加してもよいし、alf_ctb_structure( )にCTBレベルのクロマメインスイッチを表すための要素を追加してもよい。ここで、クロマメインスイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローは、
図10を参照すればよい。なお、クロマメインスイッチを加えた後に、alf_enabled_flagは、輝度にのみ作用する。シンタックス語義は、表18~19に示すとおりである。
【0174】
以下では、修正後のalf_structure( )と修正後のalf_ctb_structure( )についてそれぞれ説明する。
【0175】
修正後のalf_structure( )のシンタックス語義は、表16に示すとおりである。
【0176】
【0177】
ここで、alf_chroma_enabled_flagは、新規追加されたクロマメインスイッチであり、クロマALFをオンにするかどうかを表すために用いられる。上記alf_structure( )における他の要素は、従来のH.266/VVCに定義されたalf_structure()シンタックス構造における要素と一致する。
【0178】
修正後のalf_ctb_structure( )のシンタックス語義は、表17に示すとおりである。
【0179】
【0180】
ここで、alf_chroma_enabled_flagは、新規追加されたCTBレベルのクロマメインスイッチである。
【0181】
説明すべきこととして、ここで、alf_enabled_flagを伝送してもよいし、伝送しなくてもよい。伝送しない時、alf_enabled_flagは、以下の方式で値を取る。
【0182】
alf_enabled_flag = alf_luma_enabled_flag || alf_cb_enabled_flag || alf_cr_enabled_flag || alf_cc_cb_enabled_flag || alf_cc_cr_enabled_flag。
【0183】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、ここで、前記第一の値は、前記第二の値と異なる。本実施例では、上記の第一の値は、「1」又は「真」又は他の値であってもよい。上記の第二の値は、「0」又は「偽」又は他の値であってもよい。
【0184】
一つの選択的な実施例では、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの操作を含む。本実施例では、輝度適応ループフィルタリングは、Luma ALFであり、第一のクロマ適応ループフィルタリングは、Cb ALFであり、第二のクロマ適応ループフィルタリングは、Cr ALFであり、第一のクロマ成分間適応ループフィルタリングは、Cb CCALFであり、第二のクロマ成分間適応ループフィルタリングは、Cr CCALFである。ここで、第一のクロマ成分は、青差(Cb)クロマ成分であり、第二のクロマ成分は、赤差(Cr)クロマ成分である。
【0185】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定とのうちの少なくとも一つの決定に基づいて前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定する。本実施例では、ALF-SPLITオン条件が成立すれば、輝度成分、クロマ成分に対してフィルタリング決定をそれぞれ実行する必要がある。
【0186】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。本実施利では、ニューラルネットワークループフィルタリング有効化フラグは、異なる状態又は異なる値で実行する操作は異なる。
【0187】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。本実施例では、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとをそれぞれ決定し、次いで輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとに基づいて対応する操作をそれぞれ実行してもよい。本実施例では、ニューラルネットワークループフィルタリング有効化フラグを指示するためのシンタックス構造は、表18に示すとおりであってもよい。
【0188】
【0189】
ここで、nn_luma_enabled_flagは、上記の輝度ニューラルネットワークループフィルタリング有効化フラグを識別し、
nn_cb_enabled_flagは、上記の第一のクロマニューラルネットワークループフィルタリング有効化フラグを識別し、
nn_cr_enabled_flagは、上記の第二のクロマニューラルネットワークループフィルタリング有効化フラグを識別する。
【0190】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記ニューラルネットワークループフィルタリング有効化フラグを通知する。前述の実施例においてすでに各シンタックス要素について具体的に記述したため、ここでその説明を省略する。
【0191】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライス(Slice)と、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0192】
上記各実施例における操作は、すべて符号化側における操作についての説明である。
【0193】
以下では、具体的な実施例を結び付けながら符号化側におけるフローについて全体的に説明する。
図8は、本具体的な実施例による符号化側のNNフィルタリングに基づくALF-SPLIT操作のフローチャートであり、具体的には、以下のステップを含む。
【0194】
ステップ1:NNフィルタリング
SPS層のNNフィルタリングがオンの場合、LMCS後の再構築画像に対して以下のa~cに従って操作NNフィルタリングを行う。SPS層のNNフィルタリングがオフの場合、従来のフィルタリングフロー(DBF、SAO)に従って操作フィルタリングを行う。具体的には、以下のサブステップa~cを含む。
【0195】
a.事前にNNフィルタリングを行い、
b.RDOによってNNフィルタリングのスライス(slice)/ブロック(ブロックは、CTUブロックを指してもよく、NNフィルタリングブロックであってもよい)レベルのスイッチ決定を行い、
c.NNフィルタリング後の出力を再構築する。
【0196】
以下では、各サブステップについて具体的に説明する。
【0197】
ステップ1-aにおいて、事前にNNフィルタリング操作を行うことについては、
LMCSの再構築画像を得た後に、まずNNフィルタリングを行う。
【0198】
まずネットワークに入力する必要のある各データ、例えば再構築画像サンプル、QP情報、CU分け情報、デブロッキングフィルタリング情報、予測サンプルなどを構成し、そしてこれらの情報をネットワークモジュールに入力し、NN処理を経た後のサンプルを得る。
【0199】
ステップ1-bにおついて、スライス(Slice)/ブロックレベルのNNフィルタリングスイッチ決定について、
スライスに対応するチャンネルのNNフィルタリングがオン状態の場合、そのうちの各ブロックのNNフィルタリング前のコスト(cost)とNNフィルタリング後のコストとを計算し、比較して各ブロックのスイッチ状態を取得し、最終的にスライスがNNフィルタリングをオンにする場合のコストを取得し、
スライスがNNフィルタリングを使用しない場合、スライスがNNフィルタリングを採用しない場合のコストを取得し、
現在のスライスの各チャンネルについてNNフィルタリング前のコストとNNフィルタリング後のコストとをそれぞれ比較し、スライスレベルのNNフィルタリングをオンにするかどうかを決定し、スライスがNNフィルタリングをオンにする場合、各ブロックレベルのNNフィルタリングをオンにするかどうかを決定する。
【0200】
ステップ1-cにおいて、NNフィルタリング後の出力を再構築することについて、
ステップ1-bのスライス/ブロックレベルのスイッチ決定に基づいて、NNフィルタリング後の再構築画像を得る。
【0201】
ステップ2:適応ループフィルタリング(ALF)
再構築画像に対して以下のステップに従って適応ループフィルタリング処理を行い、具体的には、以下のサブステップを含む。
【0202】
a.輝度成分を分類し、クロマは、分類を必要とせず、
b.輝度とクロマに対して新たなAPSフィルタリングセットをそれぞれ計算し、
c.ALFのスライス/ctuレベルのフィルタリング決定を行う。
【0203】
ALF-SPLITオン条件が成立すれば、輝度とクロマに対してそれぞれスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行う。ALF-SPLITオン条件が成立しなければ、まず輝度に対してスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行い、選択後に輝度ALFがオン状態にあれば、現在のスライスのALFをオン状態に設定し、クロマのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を継続する。決定後に輝度ALFがオフ状態にあれば、現在のスライスのALFをオフ状態に設定し、デフォルトでクロマALFは、オフ状態であり、クロマのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行わなくなる。
【0204】
d.輝度とクロマALF後の出力を再構築する。
【0205】
以下では、各サブステップについて説明する。
【0206】
ステップ2-aにおいて:分類
輝度ALF分類:
主に4x4画素ブロックの内容特性に基づいて、フィルタタイプを分類結果として選択する。4x4画素ブロックのフィルタクラス決定方法ステップは、以下のとおりである。
【0207】
(1)ラプラス勾配の計算
各4x4輝度ブロックについて、このブロックを中心とする8x8画素ブロックにおける各画素の、水平0°、垂直90°、135°、45°方向における一次元ラプラシアン勾配を計算する。計算の複雑度を減少させるために、横座標と縦座標がいずれも偶数であるか又はいずれも偶数ではない一部の画素点のみを対象に、水平0°、垂直90°、135°、45°方向における勾配を計算し、gh、gvを得る。
【0208】
(2)方向性係数Dの計算
方向性係数Dは、勾配方向を表す。まずgh、gvに基づいて水平と垂直方向の勾配の最大値と最小値との比、対角方向の勾配の最大値と最小値との比を計算し、そして閾値t1=2、t2=4.5と比較して、方向性係数を得る。
【0209】
(3)活動性係数Aの計算
活動性係数Aは、勾配の強弱を表す。gh、gvに基づいてテーブル検索の方式で得られる。
【0210】
(4)分類結果
4x4小ブロックの分類は、filtIdx =5*D+Aである。
【0211】
クロマは、分類する必要がない。
【0212】
ステップ2-bについて:新たなAPSフィルタリングセットの計算
輝度計算APSフィルタリングセット方式:
APSフィルタを構築する基本的な考え方は、スライスを4x4のブロックに分け、勾配に基づいて各4x4のブロックの方向性と活動度を計算し、さらに各ブロックのフィルタクラスを得ることである。各フィルタクラスに対して、この種類のフィルタを採用するすべての4x4のブロックを一つの全体として、ビナホフ方程式を利用することによって、この種類のフィルタの係数を求める。
【0213】
アルゴリズム性能を向上させ、計算の複雑度を低減させるために、以下のように最適化することができる。
【0214】
(1)ALFは、CTUごとに圧縮性能を向上させることができるわけではないため、レート歪み最適化ポリシーを利用し、ALFを採用しないCTUを決定し、そしてALFを採用しないCTUを除外してフィルタ係数を再計算する。この最適化ポリシーは、最適になるまで複数回繰り返してもよい。
【0215】
(2)APSフィルタリング係数は、符号化して伝送することを必要とし、統合して25種類のフィルタを減少させることで、圧縮効率を向上させることができる。25組のフィルタリング係数を得た後に、隣接するフィルタクラスにそのうちの一組のフィルタ係数を採用し、それによる圧縮性能の低下が限られる場合、隣接するフィルタクラスを融合して1つのクラスになる。この最適化ポリシーは、最適になるまで複数回繰り返してもよい。
【0216】
クロマ計算APSフィルタリングセット方式:
クロマ成分に対して、スライスを8つの部分に分け、各領域内には、それぞれ連続する整数個のCTUが含まれ、各部分のCTUの数は、ほぼ一致している。領域ごとに一組のフィルタ係数を計算し、合計で8組のフィルタを得る。そして、輝度成分と類似するように、クロマ成分領域を統合する方式によって統合フィルタグループを最適化することができ、よって符号化ビットを節約する。
【0217】
ステップ2-cについて:スライス/CTUレベルのスイッチ決定及びフィルタリングセット選択
輝度スイッチ決定及びフィルタリングセット選択:
輝度は、スライスとCTUスイッチレベルでALF操作をオンにするかどうかを選択することができる。
【0218】
輝度ALFに対して、フィルタリング係数セットは、16個の固定サブセットと最大7個のAPSサブセットとを含み、各サブセットは、25個のフィルタクラスを含む。輝度ALFを選択する各CTUに対して、選択されるフィルタリングサブセットは、符号化のサブセットインデックスによって決定され、選択されるフィルタクラスは、画素ブロックのコンテンツ特徴によって決定され、具体的にどのフィルタリングセットを選択するかは、RDOに基づいて選択される。
【0219】
クロマスイッチ決定及びフィルタリングセット選択:
同様にクロマは、スライスとCTUスイッチレベルでALF操作をオンにするかどうかを選択することができる。
【0220】
クロマALFは、APSフィルタサブセットのみを使用する。APS層は、クロマAPSサブセットを符号化して伝送する時、輝度情報APSサブセットと一つのID番号を共有し、また同様に最大7個のAPSサブセットを維持する。各スライスは、一つのAPSサブセットのみを使用し、且つCb成分とCr成分は、一つのAPSサブセットを共有する。
【0221】
クロマ成分CbとCrは、各APSサブセットにも最大8個のフィルタが含まれる。各CTUは、そのうちの一つのフィルタを選択して使用する。Cb成分とCr成分は、異なるインデックスのフィルタを使用してもよい。具体的にどのフィルタを使用するかは、RDOに基づいて選択される。
【0222】
なお、輝度とクロマスイッチを加えた後の画像(picture)/スライス(slice)層の伝送フローは、
図5を参照することができる。
図5において、Luma ALFスイッチは主に、輝度ALFをオンにするかどうかを制御するために用いられる。即ち、このLuma ALFスイッチを指示するためのフィールド値が1である場合、オンを表し、値が0である場合、オフを表す。Cb ALFスイッチは主に、第一のクロマ成分Cb ALFをオンにするかどうかを制御するために用いられる。即ち、このCb ALFスイッチを指示するためのフィールド値が1である場合、オンを表し、値が0である場合、オフを表す。Cr ALFスイッチは主に、第二のクロマ成分Cr ALFをオンにするかどうかを制御するために用いられる。即ち、このCr ALFスイッチを指示するためのフィールド値が1である場合、オンを表し、値が0である場合、オフを表す。Cb CC ALFスイッチは主に、第一のクロマ成分間ALFをオンにするかどうかを制御するために用いられる。即ち、このCb CC ALFスイッチを指示するためのフィールド値が1である場合、オンを表し、値が0である場合、オフを表す。Cr CC ALFスイッチは主に、第二のクロマ成分間ALFをオンにするかどうかを制御するために用いられる。即ち、このCr CC ALFスイッチを指示するためのフィールド値が1である場合、オンを表し、値が0である場合、オフを表す。
【0223】
ステップ2-dについて:ALFフィルタリング操作
輝度フィルタリング操作:
以上のステップに基づいて、4x4の輝度ブロックごとに一つの7x7のフィルタリングテンプレートを決定することができる。そして4x4の輝度ブロックにおける各画素に対してフィルタリング処理を行う。
【0224】
クロマフィルタリング操作:
以上のステップに基づいて、クロマCTUごとに一つの5x5のフィルタリングテンプレートを決定することができる。そしてCTUにおけるクロマブロックにおける各画素に対してフィルタリング処理を行う。
【0225】
輝度とクロマを統合してALF後の再構築フレームを得る。
【0226】
ステップ3:成分間適応ループフィルタリング(CCALF)
一般的には、ビデオの輝度成分には細かいテクスチャがより多く含まれているが、クロマ成分が相対的に平坦である。また、人間の目は、輝度情報により敏感であり、ビデオ符号化もできる限りより多くのディテールを保持しようとする。輝度情報に対してALFを行うことにより、クロマ成分のディテールを補償することにより、クロマ成分の圧縮性能を改善することができる。そのため、H.266/VVCには、成分間ALF(CC-ALF)が導入されており、ALFフィルタリング前の再構築輝度値を利用してCC-ALFを行い、クロマ値に対して補足と修正を行う。CC-ALFを含むALFフィルタリングフレームワークは、
図11に示すとおりである。
【0227】
CCALF符号化側の具体的なステップは、以下のとおりである。
【0228】
SPS層のNNフィルタリングがオンの場合、以下のCCALFのステップを直接行い、最終的な再構築フレームを出力する。SPS層のNNフィルタリングがオフの場合、現在のスライスの輝度ALFがオンであるかどうかを判断する必要があり、オンの場合、以下のCCALFのステップを行う。現在のスライスの輝度ALFがオフの場合、CCALFは、デフォルトでオフ状態であり、CCALF操作を行わず、前のステップの結果を最終的な再構築フレームとして直接出力する。具体的には、以下のサブステップを含む。
【0229】
a.クロマに対してCCALFフィルタリングセットを計算し、
b.スライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行い、
c.CCALF後の出力を再構築する。
【0230】
以下では、各サブステップについて説明する。
【0231】
ステップ3-aについて:CCALFフィルタリングセットの計算
スライスを4つの部分に分け、各領域内には、それぞれ連続する整数個のCTUが含まれ、各部分のCTUの数は、ほぼ一致している。領域ごとに一組のフィルタ係数を計算し、合計で4組のフィルタを得る。そして、クロマALFと類似するように、クロマ成分領域を統合する方式によって統合フィルタグループを最適化することができ、よって符号化ビットを節約する。
【0232】
ステップ3-bについて:スライス/CTUレベルのスイッチ決定及びフィルタリングセット選択
CCALF操作は、スライスとCTUスイッチレベルでオンにするかどうかを選択することができる。
【0233】
CC-ALFは、APSフィルタサブセットのみを使用する。APS層は、CC-ALFのAPSサブセットを符号化して伝送する時、最大7個のAPSサブセットを維持する。各スライスは、一つのAPSサブセットのみを使用し、且つCb成分とCr成分は、異なるAPSサブセットを使用してもよい。
【0234】
CC-ALFは、クロマ成分CbとCrに対して、各APSサブセットにも最大4個のフィルタが含まれる。各CTUは、そのうちの一つのフィルタを選択して使用する。Cb成分とCr成分は、異なるインデックスのフィルタを使用してもよい。具体的にどのフィルタを使用するかは、RDOに基づいて選択される。
【0235】
ステップ3-cについて:CCALFフィルタリング操作
以上のステップに基づいて、クロマCTUごとに一つの3x4のフィルタリングテンプレートを決定することができる。そしてCTUにおけるクロマブロックにおける各画素に対してフィルタリング処理を行う。
【0236】
説明すべきこととして、上記の具体的な実施例に言及されたフィルタリング係数は、APS層で伝送されてもよい。aps_params_typeがALF_APSである時、alf_data( )シンタックス構造を解析する。alf_data( )には、ALFのフィルタリングセットパラメータが含まれている。復号側は、APS層におけるalf_data( )を解析することにより、ALFに対応するフィルタリングセットパラメータを取得する。シンタックス語義は、表19に示すとおりである。
【0237】
【0238】
ここで、alf_data( )のシンタックス語義は、表20に示すとおりである。
【0239】
【0240】
ここで、
alf_luma_filter_signal_flag:輝度ALFフィルタリング係数を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
【0241】
alf_chroma_filter_signal_flag:クロマALFフィルタリング係数を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
【0242】
alf_cc_cb_filter_signal_flag:Cb成分CC-ALFフィルタリング係数を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
【0243】
alf_cc_cr_filter_signal_flag:Cr成分CC-ALFフィルタリング係数を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
【0244】
alf_luma_clip_flag:輝度クランプ閾値を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
alf_luma_num_filters_signalled_minus1:輝度ALFサブセットに含まれるフィルタの数を識別する。この値に1を加算するものである。
【0245】
alf_luma_coeff_delta_idx[ filtIdx ]:複数のフィルタクラスが同一組のフィルタを使用する可能性があるため、輝度ALFのfilteridx番目の分類に使用されるフィルタのシリアル番号を識別する。
【0246】
alf_luma_coeff_abs[ sfIdx ][j]:輝度ALFのfiltIdx番目のフィルタのj番目のフィルタリング係数の絶対値を識別する。
【0247】
alf_luma_coeff_sign[ sfldx ][j ]:輝度ALFのfiltldx番目のフィルタのj番目のフィルタリング係数の符号を識別する。
【0248】
alf_luma_clip_idx[ sfldx ][j ]:輝度ALFのfiltldx番目のフィルタのj番目のフィルタリング係数に対応するクランプ閾値を識別する。
【0249】
alf_chroma_clip_flag:クロマクランプ閾値を含むかどうかを識別する。1の場合は含むことを表し、0の場合は含まないことを表す。
alf_chroma_num_alt_filters_minus1:クロマALFサブセットに含まれるフィルタの数を識別する。この値に1を加算するものである。
【0250】
alf_chroma_coeff_abs[ altldx ][j]:クロマALFのaltIdx番目のフィルタのj番目のフィルタリング係数の絶対値を識別する。
【0251】
alf_chroma_coeff_sign[ altldx ][j]:クロマALFのaltIdx番目のフィルタのj番目のフィルタリング係数の符号を識別する。
【0252】
alf_chroma_clip_idx[ altIldx ][j]:クロマALFのaltldx番目のフィルタのj番目のフィルタリング係数に対応するクランプ閾値を識別する。
【0253】
alf_cc_cb_filters_signalled_minus1:クロマCb成分のCC-ALFサブセットに含まれるフィルタの数を識別する。この値に1を加算するものである。
【0254】
alf_cc_cb_mapped_coeff_abs[ k][j]:クロマCb成分のCC-ALFのi番目のフィルタのj番目のフィルタリング係数の絶対値を識別する。
【0255】
alf_cc_cb_coef_sign[ k ][j]:クロマCb成分のCC-ALFのi番目のフィルタのj番目のフィルタリング係数の符号を識別する。
【0256】
alf_ cc_cr_filters_signalled_minus1:クロマCr成分のCC-ALFサブセットに含まれるフィルタの数を識別する。この値に1を加算するものである。
【0257】
alf_cc_cr_mapped_coeff_abs[ k ][j]:クロマCr成分のCC-ALFのi番目のフィルタのj番目のフィルタリング係数の絶対値を識別する。
【0258】
alf_cc_or_coeff_sign[ k][j]:クロマCr成分のCC-ALFのi番目のフィルタのj番目のフィルタリング係数の符号を識別する。
【0259】
本実施例では、ビデオ処理のための方法をさらに提供する。
図12は、本発明の実施例によるビデオ処理のための方法のフローチャートの二である。
図12に示すように、このフローは、以下のステップを含む。
【0260】
ステップS1202において、再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信する。
ステップS1204において、前記再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグ及び前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを決定する。
ステップS1206において、前記適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対して適応ループフィルタリングを実行する。
【0261】
ここで、上記操作を実行するものは、ビデオ復号側の機器、例えばプロセッサ、コントローラ、又は類似する処理能力を備える機器などであってもよい。
【0262】
上記実施例によれば、再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグに基づいて再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することができ、よってニューラルネットワークループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを識別し、さらに識別結果に基づいて適応ループフィルタリングを実行することができ、ニューラルネットワークループフィルタリングを行った後に適応ループフィルタリングを直接オフにすることにより、画像にさらなる輝度及び/又はクロマ処理を行うことができず、さらに画質が最適化を達成できないという問題を回避し、画質を向上させる効果を達成する。
【0263】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0264】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。
【0265】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0266】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記適応ループフィルタリング有効化フラグを決定する。
【0267】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを決定することをさらに含む。
【0268】
一つの選択的な実施例では、前記方法は、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、画像レベル又はスライスレベルで前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することと、前記輝度適応ループフィルタリング有効化フラグが前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することと、をさらに含む。
【0269】
一つの選択的な実施例では、前記方法は、前記クロマ適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを決定することをさらに含む。
【0270】
一つの選択的な実施例では、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することは、前記再構成されたビデオユニットの輝度成分の適応ループフィルタに関連する第一のフラグの値を決定することを含む。
【0271】
一つの選択的な実施例では、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することは、前記再構成されたビデオユニットのクロマ成分の適応ループフィルタに関連する第二のフラグの値を決定することを含む。
【0272】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、ここで、前記第一の値は前記第二の値と異なる。
【0273】
一つの選択的な実施例では、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの操作を含む。
【0274】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。
【0275】
本実施例では、ニューラルネットワークフィルタリング適応パラメータセットAPSシンタックス要素は、具体的に表21に示すとおりである。
【0276】
【0277】
適応パラメータセットタイプ(aps_params_type)フィールド値NNF_APSは、NNフィルタリング適応パラメータセットを指示する。
【0278】
ここで、nnf_dataに含まれているフィルタリングパラメータ情報は主に、
フィルタリング係数絶対値と、
フィルタリング係数シンボルとを含む。
【0279】
一つの選択的な実施形態として、nnf_dataにおける輝度成分NNフィルタリングに関連するシンタックス要素は、具体的に表22に示すとおりである。
【0280】
【0281】
一つの選択的な実施形態として、nnf_dataにおけるクロマ成分NNフィルタリングに関連するシンタックス要素は、具体的に表23に示すとおりである。
【0282】
【0283】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0284】
一つの選択的な実施例では、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記ニューラルネットワークループフィルタリングに関連するフィルタ情報に含まれるニューラルネットワークループフィルタリング有効化フラグを決定する。
【0285】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライス(Slice)と、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0286】
上記各実施例における操作は、すべて復号側における操作についての説明である。
【0287】
以下では、具体的な実施例を結び付けながら復号側におけるフローについて全体的に説明し、具体的には、以下のステップを含む。
【0288】
図13は、本発明の具体的な実施例による復号側のNNフィルタリングに基づくALF-SPLIT操作フローチャートである。メイン方案ALF_SPLIT操作が復号側フィルタリング操作に用いられる時に、
図13に示すように、現在のスライスの輝度とクロマALF、及びCCALFのスライス/CTUレベルのスイッチ及びフィルタリングセットの選択は、コードストリームを解析することによって得られる。全体的なフローは、以下のとおりである。
【0289】
ALF-SPLITオン条件:SPS層のNNフィルタリングスイッチオン
(1)LMCSの再構築画像を得た後に、SPS層のNNフィルタリングスイッチがオンの場合、以下のステップに従ってNNフィルタリングを行う。SPS層のNNフィルタリングがオフの場合、従来のフィルタリングフローに従ってフィルタリングを行う。
【0290】
a.コードストリームからフィルタリングのスライス/ブロックレベルのスイッチ決定を取得する。
【0291】
b.スイッチ情報に基づいてNNフィルタリング後の出力を再構築する。
【0292】
(2)NN後の再構築画像に対してALF処理を行い、最終的な再構築画像を得る。
【0293】
a.分類。輝度成分を分類し、クロマは、分類する必要がない。
【0294】
b.コードストリームから現在のスライス/CTUのALFスイッチ決定を取得する。
【0295】
ALF-SPLITオン条件が成立すれば、コードストリームから輝度とクロマのスライス/CTUレベルのスイッチ情報及び対応するフィルタリングセットをそれぞれ取得する。ALF-SPLITオン条件が成立しなければ、コードストリームから現在のスライスのスイッチ情報を取得し、オンの場合、輝度ALFをオンに設定し、クロマのスライスレベルのスイッチ情報を取得し続け、そして輝度クロマのスイッチ状況に基づいてctuスイッチ情報及び対応するフィルタリングセットを取得する。現在のスライスのALFがオフの場合、輝度ALFをオフに設定し、クロマのスライススイッチ情報を取得しなくなり、デフォルトでクロマALFがオフ状態であるとする。
【0296】
c.輝度に対してクロマALFフィルタリング操作を行う。
【0297】
(3)NN後の再構築画像に対してCCALF処理を行い、最終的な再構築フレームを出力する。
【0298】
a.コードストリームから現在のスライス/CTUのCCALFスイッチ決定を取得する。
【0299】
ALF-SPLITオン条件が成立すれば、コードストリームから現在のスライスCCALFのスライス/CTUレベルのスイッチ情報及び対応するフィルタリングセットを直接取得する。ALF-SPLITオン条件が成立しなければ、現在のスライス輝度ALFがオンであるかどうかを判断する必要があり、オンの場合、コードストリームからCCALFのスライス/CTUレベルのスイッチ情報及び対応するフィルタリングセットを取得し続け、現在のスライスのALFがオフ状態にある場合、CCALFは、デフォルトでオフ状態となり、クロマのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行わなくなる。
【0300】
b.CCALFフィルタリングを行う。
【0301】
本発明の一つの具体的な実施例によれば、ALF-SPLITのオン条件を変える方案をさらに提供する。
前述の方案(具体的には、前述の符号化側におけるフローについて全体的に説明する方案を参照することができる)におけるALF-SPLITは、一つの実現方法にすぎない。前述の方案の主な考え方は、NNフィルタリング後に、輝度クロマALFを分けることである。NN後にALFが大量にオフになるのが、NNにより輝度性能が大幅に向上され、よって輝度ALFが大量にオフになるためであることを考慮すると、クロマALF及びCCALFが強制的にオフにされる。現在の画像/スライスがNNフィルタリングを行わない時、輝度ALFが一般的にオン状態にあれば、ALF-SPLITを行う必要はない。
【0302】
前述の方案で以下の二つの状況が発生した場合、ALF-SPLIT操作を行う必要はない。
【0303】
NNがフィルタリング決定を行う時、スライス層がNNフィルタリングをオフにすると決めた場合。
【0304】
現在のスライスのNNフィルタリングスイッチがオンであるが、そのうち多数のCTUのNNフィルタリングスイッチがオフである場合。
【0305】
以上の2点に基づいて、本具体的な実施方案は、NNフィルタリングモジュールからALF-SPLITのスイッチを抽出し、ALF-SPLITのNNフィルタリングに対する適応性を増やし、以下の選択的な実施方案を提案する。
【0306】
本具体的な実施例における方案は、主に符号化側を変え、復号側は、前述の実施例におけるものと一致する。
【0307】
図14は、本具体的な実施例による符号化側のNNフィルタリングに基づくALF-SPLIT操作のフローチャートである。符号化端の全体的なフローは、具体的に以下のとおりである。
【0308】
(1)LMCS後の再構築画像に対してNNフィルタリングを行う。
【0309】
a.NNフィルタリング操作。前述の実施例における符号化側のステップ1-aと同じである。
b.NNのスライス/ブロックレベルのNNフィルタリングスイッチ決定、ALF-SPLITのスイッチ決定の生成。NNのスライス/ブロックレベルのNNフィルタリングスイッチ決定は、前述の実施例における符号化側のステップ1-bと一致する。ALF-SPLITのスイッチ決定は、二つの生成方式がある。そして、ALF-SPLITスイッチ決定をコードストリームに書き込む。
【0310】
1.NNのスライススイッチに基づいて、ALF-SPLITをオンにするかどうかを決める。現在のスライスのNNフィルタリングがオンの場合、ALF-SPLITオン条件が成立するように設定する。現在のスライスのNNフィルタリングがオフの場合、ALF-SPLITオン条件が成立しないように設定する。
【0311】
2.NNのCTUスイッチの占有率に基づいて、ALF-SPLITをオンにするかどうかを決める。現在のスライスがオン状態であれば、オンになっているCTUがCTUの総数に占める割合を統計し、閾値よりも大きい場合(ここで閾値が50%であるとする)、ALF-SPLITのflagをオンに設定し、そうでなければ、ALF-SPLITのflagをオフに設定する。現在のスライスのNNフィルタリングがオフ状態であれば、ALF-SPLITのflagは、オフである。
【0312】
c.NNフィルタリング後の出力を再構築する。前述の実施例における符号化側のステップ1-cと同じである。
【0313】
(2)ALFフィルタリング操作を行う。ALF-SPLITオン条件が成立するかどうかを取得する。他のステップは、前述の実施例における符号化側のステップ2と一致する。
【0314】
(3)CCALFフィルタリング操作を行う。ALF-SPLITオン条件が成立するかどうかを取得する。前述の実施例における符号化側のステップ3と一致する。
【0315】
以下では、本具体的な実施例に関連するシンタックス語義について説明する。
【0316】
ALF-SPLITスイッチを加えた後の画像/スライス層の伝送フローチャートは、
図15を参照することができる。
【0317】
本具体的な実施例におけるシンタックス語義は、主にPH層、SH層及びCTU層のALF-SPLITスイッチ条件を変え、残りの層は、変えられない。nn_structure( )では、ALF-SPLITのスイッチ情報が伝送される。
【0318】
本具体的な実施例におけるnn_structure( )のシンタックス語義は、具体的に表24を参照する。
【0319】
【0320】
ここで、この表24は、実際には表18のうえにalf_split_enabled_flag要素が追加されたものである。この新規要素は、ALF-SPLIT技術をオンにするかどうかを表すために用いられる。1の場合はオンにすることを表し、0の場合はオンにしないことを表す。存在しない場合、0に等しいとして処理する。
【0321】
(このシンタックス要素は、NNにおける情報に基づいて生成され、例えば上記に言及されたようにNNフィルタリングを使用してオンにするCTU占有率が閾値よりも大きい場合、オンにする)。
【0322】
本具体的な実施例では、符号化ビットストリームのPHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。本具体的な実施例に関連するPH層におけるシンタックス語義は、具体的に表25を参照する。
【0323】
【0324】
ここで、この表25は、実際には表3のうえにalf_split_structure( )の実行前提を調整したものである。即ち、alf_split_enabled_flagが1に等しいと判定した場合、ALF-SPLIT操作を実行する。
【0325】
本具体的な実施例では、符号化ビットストリームのSHレベルでシグナリングによってニューラルネットワークループフィルタリングに関連するフィルタ情報及び適応ループフィルタリングに関連するフィルタ情報を通知する。本具体的な実施例に関連するSH層におけるシンタックス語義は、具体的に表26を参照する。
【0326】
【0327】
ここで、この表26は、実際的には表4の上にalf_split_structure( )の実行前提を調整したものである。即ち、alf_split_enabled_flagが1に等しいと決定した場合、ALF-SPLIT操作を実行する。
【0328】
CTU層におけるシンタックス語義は、具体的に表27を参照する。
【0329】
【0330】
本発明の一つの具体的な実施例によれば、コードストリームを変えることなくALF-SPLITを実現する方法をさらに提供する。本具体的な実施例は、符号化側の修正にのみ関し、コードストリームの伝送を変えない。
【0331】
符号化側のステップは、以下のとおりである。
【0332】
(1)NN操作フィルタリング。前述の方案(具体的には、前述の符号化側におけるフローについて全体的に説明する方案を参照することができる)のステップ1と一致する。
【0333】
(2)ALFフィルタリング操作を行う。
【0334】
a.輝度成分を分類する。クロマは、分類する必要がない。
b.輝度とクロマに対して新たなAPSフィルタリングセットをそれぞれ計算する。
c.ALFのスライス/ctuレベルのフィルタリング決定を行う。
【0335】
すると、輝度とクロマに対してそれぞれスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行う。決定後に輝度とクロマとが少なくとも一つがオンの場合、現在のスライスのALFスイッチをオンに設定する。決定後に輝度とクロマとのALFがいずれもオフの場合、現在のスライスのALFスイッチをオフに設定する。
【0336】
d.輝度とクロマALF後の出力を再構築する。
【0337】
(3)CCALFフィルタリング操作を行う。
【0338】
a.クロマに対してCCALFフィルタリングセットを計算する。
b.CCALFのスライス/CTUレベルのスイッチ決定及びフィルタリングセット選択を行う。
【0339】
決定後に現在のスライスがCCALFをオンにすると、現在のスライスのALFスイッチをオンに設定するように更新する。決定後にCCALFをオフにすると、前のALFスイッチをそのままに維持する。
【0340】
c.CCALF後の出力を再構築する。
【0341】
説明すべきこととして、この場合に、クロマALFとCCALFが一旦行われると、輝度ALFが情報を伝送する。
【0342】
以上の実施形態の記述によって、当業者であればはっきりと分かるように、上記実施例の方法は、ソフトウェアと必要な汎用ハードウェアプラットフォームの形態によって実現されることができる。無論、ハードウェアによって実現されてもよいが、多くの場合、前者は、より好適な実施形態である。このような理解を踏まえて、本発明の技術案が実質には又は従来の技術に寄与した部分がソフトウェア製品の形式によって具現化されてもよい。このコンピュータソフトウェア製品は、一つの記憶媒体(例えばROM/RAM、磁気ディスク、光ディスク)に記憶され、一台の端末機器(携帯電話、コンピュータ、サーバ、又はネットワーク機器などであってもよい)に本発明の各実施例に記載の方法を実行させるための若干の命令を含む。
【0343】
本実施例では、ビデオ処理のための装置をさらに提供する。この装置は、上記実施例及び好ましい実施形態を実現するために用いられ、すでに説明したため、これ以上説明しない。以下に使用されるように、用語「モジュール」は、所定の機能のソフトウェア及び/又はハードウェアの組み合わせを実現することができる。以下の実施例に記述された装置は、好ましくはソフトウェアで実現されるが、ハードウェア、又は想定されるように、ソフトウェアとハードウェアの組み合わせの実現も可能である。
【0344】
図16は、本発明の実施例によるビデオ処理のための装置のブロック構成図である。
図16に示すように、この装置は、
再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定するための第一の決定モジュール162と、
前記ニューラルネットワークループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定するための設定モジュール164と、
シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知するための通知モジュール166と、
を備える。
【0345】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0346】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。
【0347】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0348】
一つの選択的な実施例では、前記通知モジュール166は、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記適応ループフィルタリング有効化フラグを通知するために用いられる。
【0349】
一つの選択的な実施例では、前記装置はさらに、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するために用いられる。
【0350】
一つの選択的な実施例では、前記装置はさらに、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示し、且つ前記適応ループフィルタリング有効化フラグが画像レベル又はスライスレベルで前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するために用いられる。
【0351】
一つの選択的な実施例では、前記装置はさらに、前記クロマ適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを決定するために用いられる。
【0352】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットのために輝度成分の適応ループフィルタに関連する第一のフラグを設定する方式で、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するために用いられる。
【0353】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットのためにクロマ成分の適応ループフィルタに関連する第二のフラグを設定する方式で、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定するために用いられる。
【0354】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、前記第一の値は前記第二の値と異なる。
【0355】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの方式で、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行するために用いられる。
【0356】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記装置は、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定のうちの少なくとも一つの決定に基づいて前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定するために用いられる。
【0357】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。
【0358】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0359】
一つの選択的な実施例では、前記通知モジュール166は、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素においてシグナリングによって前記ニューラルネットワークループフィルタリング有効化フラグを通知するために用いられる。
【0360】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライスSliceと、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0361】
図17は、本発明の実施例による別のビデオ処理のための装置の構成ブロック図である。
図17に示すように、この装置は、
再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信するための受信モジュール172と、
前記再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグ及び前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを決定するための第二の決定モジュール174と、
前記適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対して適応ループフィルタリングを実行するためのフィルタリングモジュール176と、
を備える。
【0362】
一つの選択的な実施例では、前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む。
【0363】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む。
【0364】
一つの選択的な実施例では、前記クロマ適応ループフィルタリング有効化フラグは、第一のクロマ適応ループフィルタリング有効化フラグと、第二のクロマ適応ループフィルタリング有効化フラグと、第一のクロマ成分間適応ループフィルタリング有効化フラグと、第二のクロマ成分間適応ループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0365】
一つの選択的な実施例では、前記第二の決定モジュール174は、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記適応ループフィルタリング有効化フラグを決定するために用いられる。
【0366】
一つの選択的な実施例では、前記装置はさらに、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを決定するために用いられる。
【0367】
一つの選択的な実施例では、前記装置はさらに、前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルで前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、画像レベル又はスライスレベルで前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定することと、前記輝度適応ループフィルタリング有効化フラグが前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定することとに用いられる。
【0368】
一つの選択的な実施例では、前記装置はさらに、前記クロマ適応ループフィルタリング有効化フラグに基づいて前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを決定するために用いられる。
【0369】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットの輝度成分の適応ループフィルタに関連する第一のフラグの値を決定する方式で、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定するために用いられる。
【0370】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットのクロマ成分の適応ループフィルタに関連する第二のフラグの値を決定する方式で、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定するために用いられる。
【0371】
一つの選択的な実施例では、前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、前記第一の値は前記第二の値と異なる。
【0372】
一つの選択的な実施例では、前記装置は、前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することとのうちの少なくとも一つの方式で、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行するために用いられる。
【0373】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む。
【0374】
一つの選択的な実施例では、前記ニューラルネットワークループフィルタリング有効化フラグは、輝度ニューラルネットワークループフィルタリング有効化フラグと、第一のクロマニューラルネットワークループフィルタリング有効化フラグと、第二のクロマニューラルネットワークループフィルタリング有効化フラグとのうちの少なくとも一つを含む。
【0375】
一つの選択的な実施例では、前記第二の決定モジュール174は、前記再構成されたビデオユニットの符号化ビデオデータを発生させるための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において前記ニューラルネットワークループフィルタリング有効化フラグを決定するために用いられる。
【0376】
一つの選択的な実施例では、前記再構成されたビデオユニットは、ビデオ画像と、ビデオクリップと、ビデオパターンブロックと、スライスSliceと、符号化・復号化ツリーユニットCTUと、符号化・復号化ユニットCUとのうちの少なくとも一つに対応する。
【0377】
説明すべきこととして、上記各モジュールは、ソフトウェア又はハードウェアによって実現されてもよい。後者については、以下の方式で実現されてもよいが、これらに限らず、即ち、上記モジュールは、いずれも同一のプロセッサに位置し、又は、上記各モジュールは、任意の組み合わせの形式でそれぞれ異なるプロセッサに位置する。
【0378】
本発明の実施例は、コンピュータ可読記憶媒体をさらに提供する。このコンピュータ可読記憶媒体にはコンピュータプログラムが記憶されている。このコンピュータプログラムは、実行時に上記いずれか一つの方法の実施例におけるステップを実行するように設定される。
【0379】
一例示的実施例では、上記コンピュータ可読記憶媒体は、USBメモリ、リードオンリーメモリ(Read-Only Memory、ROMと略称される)、ランダムアクセスメモリ(Random Access Memory、RAMと略称される)、モバイルハードディスク、磁気ディスク又は光ディスクなどの、コンピュータプログラムを記憶できる様々な媒体を含んでもよいが、それらに限らない。
【0380】
本発明の実施例は、電子装置をさらに提供する。当該電子装置は、メモリとプロセッサとを備える。このメモリにはコンピュータプログラムが記憶されている。このプロセッサは、コンピュータプログラムを実行して上記いずれか一つの方法の実施例におけるステップを実行するように設定される。
【0381】
一例示的実施例では、上記電子装置は、伝送機器と入力出力機器とをさらに備えてもよい。この伝送機器は、上記プロセッサに接続され、この入力出力機器は、上記プロセッサに接続される。
【0382】
本実施例における具体例は、上記実施例及び例示的実施形態において記述された例を参照すればよいため、本実施例は、ここでこれ以上説明しない。
【0383】
明らかに、当業者が理解すべきこととして、上記の本発明の各モジュール又は各ステップは、汎用のコンピューティング装置によって実現されてもよい。それらは、単一のコンピューティング装置上に集中してもよいし、又は複数のコンピューティング装置からなるネットワーク上に分布してもよい。それらは、コンピューティング装置の実行可能なプログラムコードによって実現されてもよい。よって、それらを記憶装置に記憶してコンピューティング装置によって実行されてもよい。また、いくつかの場合に、ここと異なる順序で示された又は記述されたステップを実行してもよいし、又はそれらをそれぞれ各集積回路モジュールとして、又はそれらのうちの複数のモジュール又はステップを単一の集積回路モジュールとして実現してもよい。このように、本出願は、任意の特定のハードウェアとソフトウェアの組み合わせに制限されない。
【0384】
上述は、本発明の好ましい実施例にすぎず、本発明を制限するためのものではない。当業者にとって、本発明は、様々な変更と変化が可能である。本発明の原則内で行われた任意の修正、同等の置き換え、改良などは、いずれも本発明の保護範囲内に含まれるべきである。
【手続補正書】
【提出日】2023-12-19
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグを決定することと、
前記ニューラルネットワークループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定することと、
シグナリングによって、前記再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、前記再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を通知することと
を含む、ビデオ処理のための方法。
【請求項2】
前記適応ループフィルタリングに関連するフィルタ情報は、前記適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む
、又は、
前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む、又は、
前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットとを含む、
請求項1に記載の方法。
【請求項3】
前記クロマ適応ループフィルタリング有効化フラグは、
第一のクロマ適応ループフィルタリング有効化フラグと、
第二のクロマ適応ループフィルタリング有効化フラグと、
第一のクロマ成分間適応ループフィルタリング有効化フラグと、
第二のクロマ成分間適応ループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む
、又は、
前記ニューラルネットワークループフィルタリング有効化フラグは、
輝度ニューラルネットワークループフィルタリング有効化フラグと、
第一のクロマニューラルネットワークループフィルタリング有効化フラグと、
第二のクロマニューラルネットワークループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む、
請求項
2に記載の方法。
【請求項4】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、シグナリングによって前記適応ループフィルタリング有効化フラグ
、又は、前記ニューラルネットワークループフィルタリング有効化フラグを通知する、
請求項1に記載の方法。
【請求項5】
前記ニューラルネットワークループフィルタリング有効化フラグが、シーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定すること
、又は、
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示し、且つ前記適応ループフィルタリング有効化フラグが画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定すること、又は、
前記クロマ適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定すること、
をさらに含む、請求項1に記載の方法。
【請求項6】
前記再構成されたビデオユニットのために輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとをそれぞれ設定することは、
前記再構成されたビデオユニットのために輝度成分の適応ループフィルタに関連する第一のフラグを設定すること
、又は、
前記再構成されたビデオユニットのためにクロマ成分の適応ループフィルタに関連する第二のフラグを設定すること、を含む、
請求項
5に記載の方法。
【請求項7】
前記適応ループフィルタリング有効化フラグの値が第一の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することを指示するために用いられ、
前記適応ループフィルタリング有効化フラグの値が第二の値である場合に、前記適応ループフィルタリング有効化フラグは、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行しないことを指示するために用いられ、
前記第一の値は、前記第二の値と異な
り、
前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することは、
前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行することと、
のうちの少なくとも一つの操作を含む、
請求項1に記載の方法。
【請求項8】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、
前記再構成されたビデオユニットの輝度成分に対して輝度適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第二のクロマ成分に対して第二のクロマ適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第一のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と、
前記再構成されたビデオユニットの第二のクロマ成分に対して第一のクロマ成分間適応ループフィルタリングを実行する決定と
のうちの少なくとも一つの決定に基づいて、前記再構成されたビデオユニットのために適応ループフィルタリング有効化フラグを設定する、
請求項1に記載の方法。
【請求項9】
再構成されたビデオユニットのニューラルネットワークループフィルタリングに関連するフィルタ情報と、再構成されたビデオユニットの適応ループフィルタリングに関連するフィルタ情報とのうちの少なくとも一つの情報を受信することと、
前記再構成されたビデオユニットのニューラルネットワークループフィルタリング有効化フラグ及び前記再構成されたビデオユニットの適応ループフィルタリング有効化フラグを決定することと、
前記適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対して適応ループフィルタリングを実行することと、
を含む、ビデオ処理のための方法。
【請求項10】
前記適応ループフィルタリングに関連するフィルタ情報は、適応ループフィルタリング有効化フラグと、適応ループフィルタリングによって参照される適応パラメータセットとを含む
、又は、
前記適応ループフィルタリング有効化フラグは、輝度適応ループフィルタリング有効化フラグと、クロマ適応ループフィルタリング有効化フラグとを含む、又は、
前記ニューラルネットワークループフィルタリングに関連するフィルタ情報は、ニューラルネットワークループフィルタリング有効化フラグと、ニューラルネットワークループフィルタリングによって参照される適応パラメータセットと、を含む、
請求項
9に記載の方法。
【請求項11】
前記クロマ適応ループフィルタリング有効化フラグは、
第一のクロマ適応ループフィルタリング有効化フラグと、
第二のクロマ適応ループフィルタリング有効化フラグと、
第一のクロマ成分間適応ループフィルタリング有効化フラグと、
第二のクロマ成分間適応ループフィルタリング有効化フラグと
のうちの少なくとも一つを含む
、又は、
前記ニューラルネットワークループフィルタリング有効化フラグは、
輝度ニューラルネットワークループフィルタリング有効化フラグと、
第一のクロマニューラルネットワークループフィルタリング有効化フラグと、
第二のクロマニューラルネットワークループフィルタリング有効化フラグと、
のうちの少なくとも一つを含む、
請求項
10に記載の方法。
【請求項12】
前記再構成されたビデオユニットの符号化ビデオデータを生成するための符号化ビットストリームのシーケンスパラメータセットSPSと、画像パラメータセットPPSと、画像ヘッダPHと、スライスヘッダSHと、符号化・復号化ツリーユニットCTUとの少なくとも一つのシンタックス要素において、前記適応ループフィルタリング有効化フラグ
、又は、前記ニューラルネットワークループフィルタリング有効化フラグを決定する、
請求項
9に記載の方法。
【請求項13】
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベル又は画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグとクロマ適応ループフィルタリング有効化フラグとを決定すること
、又は、
前記ニューラルネットワークループフィルタリング有効化フラグがシーケンスレベルにおいて前記再構成されたビデオユニットに対してニューラルネットワークループフィルタリングを実行することを指示する場合に、画像レベル又はスライスレベルにおいて前記再構成されたビデオユニットの輝度適応ループフィルタリング有効化フラグを決定すること、又は、
前記輝度適応ループフィルタリング有効化フラグが前記再構成されたビデオユニットに対して輝度適応ループフィルタリングを実行しないことを指示する場合に、前記再構成されたビデオユニットのクロマ適応ループフィルタリング有効化フラグを決定すること、又は、
前記クロマ適応ループフィルタリング有効化フラグに基づいて、前記再構成されたビデオユニットに対してクロマ適応ループフィルタリングを実行するかどうかを判定すること、
をさらに含む、請求項
9に記載の方法。
【請求項14】
請求項1~8のいずれか1項に記載の方法、又は請求項9~13のいずれか1項に記載の方法を実現するための手段を備える、ビデオ処理のための装置。
【請求項15】
プロセッサにより実行される時、
請求項1~8のいずれか1項に記載の方法のステップ、又は請求項
9~13のいずれか1項に記載の方法のステップを実現するコンピュータプログラムが記憶されている、
コンピュータ可読記憶媒体。
【国際調査報告】