IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アリババ グループ ホウルディング リミテッドの特許一覧

特表2023-534098映像コンテンツを処理するための方法及び機器
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-08-08
(54)【発明の名称】映像コンテンツを処理するための方法及び機器
(51)【国際特許分類】
   H04N 19/70 20140101AFI20230801BHJP
   H04N 19/80 20140101ALI20230801BHJP
【FI】
H04N19/70
H04N19/80
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022570492
(86)(22)【出願日】2021-05-24
(85)【翻訳文提出日】2023-01-11
(86)【国際出願番号】 US2021033941
(87)【国際公開番号】W WO2021237220
(87)【国際公開日】2021-11-25
(31)【優先権主張番号】63/028,615
(32)【優先日】2020-05-22
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】511050697
【氏名又は名称】アリババ グループ ホウルディング リミテッド
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】サーヴァー,モハメッド,ゴラム
(72)【発明者】
【氏名】イエ,ヤン
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159PP16
5C159RB09
5C159RB16
5C159RC11
5C159UA02
5C159UA05
5C159UA11
(57)【要約】
本開示は映像コンテンツを処理するためのシステム及び方法を提供する。この方法は、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化することを含み得る。
【特許請求の範囲】
【請求項1】
映像コンテンツを処理するためのコンピュータ実施方法であって、
映像コンテンツを含むビットストリームを受信すること、
前記映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化すること
を含む、方法。
【請求項2】
前記第1の信号が前記所与の条件を満たすかどうかを判定することが、
適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットが前記受信ビットストリーム内にあることを前記第1の信号が示すかどうかを判定すること
を含む、請求項1に記載の方法。
【請求項3】
ピクチャパラメータセットレベル、シーケンスパラメータセットレベル、ピクチャヘッダレベル、又はスライスヘッダレベルにおいて前記クロマALFプロセスを制御するための第2の信号を提供すること
を更に含む、請求項1に記載の方法。
【請求項4】
前記第2の信号は、前記映像コンテンツに関連するコード化層映像シーケンス(CLVS)内のピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項3に記載の方法。
【請求項5】
前記第2の信号は、前記映像コンテンツに関連するピクチャパラメータセット(PPS)を参照するピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項3に記載の方法。
【請求項6】
映像コンテンツを処理するためのコンピュータ実施方法であって、
映像コンテンツを含むビットストリームを受信すること、
前記映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化すること
を含む、方法。
【請求項7】
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、変換スキップ残差コード化(TSRC)を少なくとも1つのスライスについて無効化すること
を更に含む、請求項6に記載の方法。
【請求項8】
前記DQ及び前記SDHが前記少なくとも1つのスライスについて無効化されていることに応答し、前記少なくとも1つのスライスについて前記TSRCを無効化する、
請求項6に記載の方法。
【請求項9】
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化することが、
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、スライスヘッダレベル、ピクチャヘッダレベル、又はシーケンスパラメータセットレベルにおいて前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化すること
を含む、請求項6に記載の方法。
【請求項10】
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化することが、
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQが前記少なくとも1つのスライスについて無効化されているかどうかを判定すること、
前記DQが無効化されていることに応答し、前記少なくとも1つのスライスについて前記SDHを無効化すること
を含む、請求項6に記載の方法。
【請求項11】
映像コンテンツを処理するための機器であって、
1組の命令を記憶するメモリと、
1つ又は複数のプロセッサとを含み、前記1つ又は複数のプロセッサは、
映像コンテンツを含むビットストリームを受信すること、
前記映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化すること
を前記機器に行わせるために前記1組の命令を実行するように構成される、機器。
【請求項12】
前記第1の信号が前記所与の条件を満たすかどうかを判定することが、
適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットが前記受信ビットストリーム内にあることを前記第1の信号が示すかどうかを判定すること
を含む、請求項11に記載の機器。
【請求項13】
前記1つ又は複数のプロセッサは、
ピクチャパラメータセットレベル、シーケンスパラメータセットレベル、ピクチャヘッダレベル、又はスライスヘッダレベルにおいて前記クロマALFプロセスを制御するための第2の信号を提供すること
を前記機器に更に行わせるために前記1組の命令を実行するように構成される、請求項11に記載の機器。
【請求項14】
前記第2の信号は、前記映像コンテンツに関連するコード化層映像シーケンス(CLVS)内のピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項13に記載の機器。
【請求項15】
前記第2の信号は、前記映像コンテンツに関連するピクチャパラメータセット(PPS)を参照するピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項13に記載の機器。
【請求項16】
1組の命令を記憶する非一時的コンピュータ可読媒体であって、前記1組の命令は、映像コンテンツを処理するための方法をコンピュータに行わせるために、前記コンピュータの少なくとも1つのプロセッサによって実行可能であり、前記方法は、
映像コンテンツを含むビットストリームを受信すること、
前記映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化すること
を含む、非一時的コンピュータ可読媒体。
【請求項17】
前記少なくとも1つのプロセッサは、
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、変換スキップ残差コード化(TSRC)を少なくとも1つのスライスについて無効化すること
を前記コンピュータに更に行わせるために前記1組の命令を実行するように構成される、請求項16に記載の非一時的コンピュータ可読媒体。
【請求項18】
前記DQ及び前記SDHが前記少なくとも1つのスライスについて無効化されていることに応答し、前記少なくとも1つのスライスについて前記TSRCを無効化する、
請求項16に記載の非一時的コンピュータ可読媒体。
【請求項19】
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化することが、
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、スライスヘッダレベル、ピクチャヘッダレベル、又はシーケンスパラメータセットレベルにおいて前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化すること
を含む、請求項16に記載の非一時的コンピュータ可読媒体。
【請求項20】
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQ及び前記SDHを前記少なくとも1つのスライスについて無効化することが、
前記第1の信号が前記所与の条件を満たすと前記判定することに応答し、前記DQが前記少なくとも1つのスライスについて無効化されているかどうかを判定すること、
前記DQが無効化されていることに応答し、前記少なくとも1つのスライスについて前記SDHを無効化すること
を含む、請求項16に記載の非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
[0001] 本開示は、参照により本明細書にその全体が組み込まれる、2020年5月22日に出願された米国仮特許出願第63/028,615号に対する優先権を主張する。
【0002】
技術分野
[0002] 本開示は一般に映像処理に関し、より具体的にはVVCの高レベルシンタックスクリーンアップを用いて映像コンテンツを処理するための方法及び機器に関する。
【背景技術】
【0003】
背景
[0003] 映像は、視覚情報を捕捉する静的ピクチャ(又は「フレーム」)の組である。記憶メモリ及び伝送帯域幅を減らすために、映像は、記憶又は伝送前に圧縮し、表示前に解凍することができる。圧縮プロセスは、通常、符号化と呼ばれ、解凍プロセスは、通常、復号と呼ばれる。最も一般的には、予測、変換、量子化、エントロピーコード化及びインループフィルタリングに基づく規格化された映像コード化技術を使用する様々な映像コード化形式がある。特定の映像コード化形式を指定するHigh Efficiency Video Coding(例えばHEVC/H.265)規格、Versatile Video Coding(例えばVVC/H.266)規格、及びAVS規格等の映像コード化規格が規格化組織によって策定されている。一層進化した映像コード化技術が映像規格に採用されるにつれて、新たな映像コード化規格のコード化効率が一層高くなる。
【発明の概要】
【課題を解決するための手段】
【0004】
概要
[0004] 本開示の実施形態は、映像コンテンツを処理するための方法及び機器を提供する。この方法は、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化することを含み得る。
【0005】
[0005] 機器は、1組の命令を記憶するメモリと、1つ又は複数のプロセッサとを含み得、1つ又は複数のプロセッサは、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化すること、を機器に行わせるために1組の命令を実行するように構成される。
【0006】
[0006] 本開示の実施形態は、1組の命令を記憶する非一時的コンピュータ可読媒体を更に提供し、1組の命令は、映像コンテンツを処理するための方法をコンピュータに行わせるためにコンピュータの少なくとも1つのプロセッサによって実行可能であり、当該方法は、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化することを含む。
【0007】
[0007] 本開示の実施形態は、映像コンテンツを処理するための方法及び機器も提供する。方法は、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化することを含み得る。
【0008】
[0008] 機器は、1組の命令を記憶するメモリと、1つ又は複数のプロセッサとを含み得、1つ又は複数のプロセッサは、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化すること、を機器に行わせるために1組の命令を実行するように構成される。
【0009】
[0009] 本開示の実施形態は、1組の命令を記憶する非一時的コンピュータ可読媒体を更に提供し、1組の命令は、映像コンテンツを処理するための方法をコンピュータに行わせるためにコンピュータの少なくとも1つのプロセッサによって実行可能であり、当該方法は、映像コンテンツを含むビットストリームを受信すること、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定すること、及び第1の信号が所与の条件を満たすと判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化することを含む。
【0010】
図面の簡単な説明
[0010] 本開示の実施形態及び様々な態様を以下の詳細な説明及び添付図面に示す。図中に示す様々な特徴は、縮尺通りに描かれていない。
【図面の簡単な説明】
【0011】
図1】[0011]本開示のいくつかの実施形態と合致する、映像シーケンスの構造例を示す概略図を示す。
図2A】[0012]本開示のいくつかの実施形態と合致する、ハイブリッド映像コード化システムの例示的な符号化プロセスを示す概略図を示す。
図2B】[0013]本開示のいくつかの実施形態と合致する、ハイブリッド映像コード化システムの別の例示的な符号化プロセスを示す概略図を示す。
図3A】[0014]本開示のいくつかの実施形態と合致する、ハイブリッド映像コード化システムの例示的な復号プロセスを示す概略図を示す。
図3B】[0015]本開示のいくつかの実施形態と合致する、ハイブリッド映像コード化システムの別の例示的な復号プロセスを示す概略図を示す。
図4】[0016]本開示のいくつかの実施形態と合致する、映像を符号化又は復号するための例示的な機器のブロック図を示す。
図5】[0017]本開示のいくつかの実施形態と合致する、映像コンテンツを処理するための例示的なコンピュータ実施方法のフローチャートを示す。
図6】[0018]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図7】[0019]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図8】[0020]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図9】[0021]本開示のいくつかの実施形態と合致する、例示的なピクチャパラメータセットシンタックス構造を示す。
図10】[0022]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図11】[0023]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図12】[0024]本開示のいくつかの実施形態と合致する、映像コンテンツを処理するための例示的なコンピュータ実施方法のフローチャートを示す。
図13】[0025]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図14】[0026]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図15】[0027]本開示のいくつかの実施形態と合致する、例示的な一般制約シンタックス構造を示す。
図16A】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16B】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16C】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16D】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16E】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16F】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16G】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図16H】[0028]本開示のいくつかの実施形態と合致する、例示的なシーケンスパラメータセットシンタックス構造を示す。
図17A】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図17B】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図17C】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図17D】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図17E】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図17F】[0029]本開示のいくつかの実施形態と合致する、例示的なピクチャヘッダシンタックス構造を示す。
図18A】[0030]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図18B】[0030]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図18C】[0030]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図18D】[0030]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
図18E】[0030]本開示のいくつかの実施形態と合致する、例示的なスライスヘッダシンタックス構造を示す。
【発明を実施するための形態】
【0012】
詳細な説明
[0031] ここで、その例が添付図面に示される例示的実施形態を詳細に参照する。以下の説明は、添付図面を参照し、添付図面では、他に指示がない限り、異なる図中の同じ数字が同じ又は同様の要素を表す。例示的実施形態についての以下の説明に記載される実装形態は、本発明と合致する全ての実装形態を表すわけではない。むしろ、それらは、添付の特許請求の範囲で列挙する本発明に関係する態様と合致する機器及び方法の例に過ぎない。本開示の特定の態様を以下でより詳細に説明する。参照により援用される用語及び/又は定義と矛盾する場合、本明細書で与えられる用語及び定義が優先する。
【0013】
[0032] ITU-Tビデオコーディングエキスパートグループ(ITU-T VCEG(ITU-T Video Coding Expert Group))及びISO/IECムービングピクチャエキスパートグループ(ISO/IEC MPEG(ISO/IEC Moving Picture Expert Group))のジョイントビデオエキスパートチーム(JVET(Joint Video Experts Team))は、現在、多用途ビデオコード化(VVC/H.266)規格を開発している。VVC規格は、その前身、高効率ビデオコード化(HEVC/H.265)規格の圧縮効率を2倍にすることを目指している。換言すれば、VVCの目標は、半分の帯域幅を用いてHEVC/H.265と同じ主観的品質を達成することである。
【0014】
[0033] 半分の帯域幅を用いてHEVC/H.265と同じ主観的品質を達成するために、JVETは、共同探索モデル(JEM(joint exploration model))参照ソフトウェアを用いてHEVCを超える技術を開発している。コード化技術がJEMに組み込まれたため、JEMはHEVCよりも実質的に高いコード化性能を達成した。
【0015】
[0034] VVC規格は最近開発されたものであり、より優れた圧縮性能をもたらすより多くのコード化技術を含み続けている。VVCは、HEVC、H.264/AVC、MPEG2、H.263などの最新の映像圧縮規格において用いられてきた同じハイブリッド映像コード化システムに基づいている。
【0016】
[0035] 映像とは、視覚的情報を記憶するために時系列順に配置される静止ピクチャ(又は「フレーム」)の組である。それらのピクチャを時系列順に捕捉し、記憶するために、映像捕捉装置(例えば、カメラ)を使用することができ、かかるピクチャを時系列順に表示するために、映像再生装置(例えば、テレビ、コンピュータ、スマートフォン、タブレットコンピュータ、ビデオプレーヤ又は表示機能を有する任意のエンドユーザ端末)を使用することができる。更に、一部の応用では、監視、会議又は生放送等のために、映像捕捉装置が捕捉映像を映像再生装置(例えば、モニタを有するコンピュータ)にリアルタイムで伝送することができる。
【0017】
[0036] かかる応用が必要とする記憶空間及び伝送帯域幅を減らすために、映像を記憶及び伝送前に圧縮し、表示前に解凍することができる。この圧縮及び解凍は、プロセッサ(例えば、汎用コンピュータのプロセッサ)又は専用ハードウェアによって実行されるソフトウェアによって実装され得る。圧縮のためのモジュールを一般に「符号器」と呼び、解凍のためのモジュールを一般に「復号器」と呼ぶ。符号器及び復号器は、まとめて「コーデック」と呼ぶことができる。符号器及び復号器は、様々な適切なハードウェア、ソフトウェア、又はその組み合わせとして実装することができる。例えば、符号器及び復号器のハードウェア実装は、1つ又は複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、書換可能ゲートアレイ(FPGA)、ディスクリートロジック、又はその任意の組み合わせ等の回路を含み得る。符号器及び復号器のソフトウェア実装は、プログラムコード、コンピュータ実行可能命令、ファームウェア、又はコンピュータ可読媒体内に固定される任意の適切なコンピュータによって実装されるアルゴリズム若しくはプロセスを含み得る。映像の圧縮及び解凍は、MPEG-1、MPEG-2、MPEG-4、H.26xシリーズ等の様々なアルゴリズム又は規格によって実装され得る。一部の応用では、コーデックが第1のコード化規格から映像を解凍し、第2のコード化規格を使用して、解凍された映像を再圧縮することができ、その場合、コーデックを「トランスコーダ」と呼ぶことができる。
【0018】
[0037] 映像符号化プロセスは、ピクチャを再構築するために使用可能な有用な情報を識別し、保つことができ、再構築に重要でない情報を無視することができる。無視された重要でない情報を完全に再構築できない場合、かかる符号化プロセスは、「非可逆」と呼ぶことができる。さもなければ、かかる符号化プロセスは、「可逆」と呼ぶことができる。殆どの符号化プロセスは、非可逆であり、これは、必要な記憶空間及び伝送帯域幅を減らすためのトレードオフである。
【0019】
[0038] 符号化されているピクチャ(「現ピクチャ」と呼ぶ)の有用な情報は、参照ピクチャ(例えば、過去に符号化され、再構築されたピクチャ)に対する変化を含む。かかる変化は、ピクセルの位置変化、光度変化、又は色変化を含むことができ、そのうちの位置変化が最も重要である。オブジェクトを表すピクセル群の位置変化は、参照ピクチャと現ピクチャとの間のオブジェクトの動きを反映し得る。
【0020】
[0039] 別のピクチャを参照することなしにコード化される(即ちそのピクチャが自らの参照ピクチャである)ピクチャは「Iピクチャ」と呼ばれる。ピクチャは、ピクチャ内の一部又は全てのブロック(例えば映像ピクチャの一部を概して指すブロック)が1つの参照ピクチャを用いてイントラ予測又はインター予測を使用して予測される場合(例えば単方向予測)は「Pピクチャ」と呼ばれる。ピクチャは、ピクチャ内の少なくとも1つのブロックが2つの参照ピクチャを用いて予測される場合(例えば双方向予測)は「Bピクチャ」と呼ばれる。
【0021】
[0040] 本開示は、上述した映像コード化規格に合致する映像コンテンツを処理する方法及び装置を目的とする。
【0022】
[0041] 図1は、本開示のいくつかの実施形態による、映像シーケンス100の一例の構造を示す。映像シーケンス100は、生中継映像又は捕捉され、アーカイブされている映像であり得る。映像100は、現実の映像、コンピュータによって生成される映像(例えば、コンピュータゲーム映像)、又はその組み合わせ(例えば、拡張現実効果を有する現実の映像)であり得る。映像シーケンス100は、映像捕捉装置(例えば、カメラ)、過去に捕捉された映像を含む映像アーカイブ(例えば、記憶装置内に記憶される映像ファイル)、又は映像コンテンツプロバイダから映像を受信するための映像フィードインタフェース(例えば、映像ブロードキャストトランシーバ)から入力され得る。
【0023】
[0042] 図1に示すように、映像シーケンス100は、ピクチャ102、104、106及び108を含むタイムラインに沿って時間的に配置される一連のピクチャを含み得る。ピクチャ102~106は、連続的であり、ピクチャ106とピクチャ108との間に更に多くのピクチャがある。図1では、ピクチャ102は、Iピクチャであり、その参照ピクチャは、ピクチャ102自体である。ピクチャ104は、Pピクチャであり、矢印によって示すように、その参照ピクチャは、ピクチャ102である。ピクチャ106は、Bピクチャであり、矢印によって示すように、その参照ピクチャは、ピクチャ104及び108である。一部の実施形態では、ピクチャ(例えば、ピクチャ104)の参照ピクチャは、そのピクチャの直前又は直後になくてもよい。例えば、ピクチャ104の参照ピクチャは、ピクチャ102に先行するピクチャであり得る。ピクチャ102~106の参照ピクチャは、例に過ぎず、本開示は、参照ピクチャの実施形態を、図1に示す例として限定しないことに留意すべきである。
【0024】
[0043] 典型的には、映像コーデックは、全ピクチャを一度に符号化又は復号せず、それは、かかるタスクが計算的に複雑であるためである。むしろ、映像コーデックは、ピクチャを基本セグメントに分割し、ピクチャをセグメントごとに符号化又は復号することができる。本開示では、そのような基本セグメントを基本処理単位(「BPU」)と呼ぶ。例えば、図1の構造110は、映像シーケンス100のピクチャ(例えば、ピクチャ102~108の何れか)の構造の一例を示す。構造110では、ピクチャが4×4の基本処理単位に分けられており、その境界が破線で示されている。一部の実施形態では、基本処理単位は、一部の映像コード化規格(例えば、MPEGファミリ、H.261、H.263又はH.264/AVC)内の「マクロブロック」と呼ぶことができ、他の一部の映像コード化規格(例えば、H.265/HEVC又はH.266/VVC)内の「コード化ツリー単位」(「CTU」)と呼ぶことができる。128×128、64×64、32×32、16×16、4×8、16×32、又はピクセルのあらゆる任意の形状及びサイズ等、基本処理単位は、ピクチャ内で可変サイズを有することができる。基本処理単位のサイズ及び形状は、コード化の効率と基本処理単位内で保とうとする詳細度とのバランスに基づいてピクチャについて選択することができる。CTUは、最大ブロックユニットであり、128×128ものルマサンプル(に加えてクロマフォーマットに応じた対応するクロマサンプル)を含み得る。CTUは、4分木、2分木、3分木、又はそれらの組み合わせを用いてコード化ユニット(CU)に更に区画され得る。
【0025】
[0044] 基本処理単位は、コンピュータメモリ内(例えば、映像フレームバッファ内)に記憶される様々な種類の映像データ群を含み得る論理単位であり得る。例えば、カラーピクチャの基本処理単位は、無彩色の輝度情報を表すルマ成分(Y)、色情報を表す1つ又は複数のクロマ成分(例えば、Cb及びCr)、ルマ成分及びクロマ成分が同じサイズを有し得る基本処理単位の関連シンタックス要素を含むことができる。一部の映像コード化規格(例えば、H.265/HEVC又はH.266/VVC)では、ルマ成分及びクロマ成分が「コード化ツリーブロック」(「CTB」)と呼ばれ得る。基本処理単位に対して行われるいかなる操作も、そのルマ成分及びクロマ成分のそれぞれに対して繰り返し行うことができる。
【0026】
[0045] 映像のコード化は複数の操作段階を有し、その例を図2A図2B及び図3A図3Bに示す。それぞれの段階について、基本処理単位のサイズは、依然として処理するのに大き過ぎる場合があり、従って本開示で「基本処理副単位」と呼ぶセグメントに更に分けることができる。一部の実施形態では、基本処理副単位は、一部の映像コード化規格(例えば、MPEGファミリ、H.261、H.263又はH.264/AVC)内の「ブロック」と呼ぶことができるか、又は他の一部の映像コード化規格(例えば、H.265/HEVC又はH.266/VVC)内の「コード化単位」(「CU」)と呼ぶことができる。基本処理副単位は、基本処理単位と同じ又はそれよりも小さいサイズを有し得る。基本処理単位と同様に、基本処理副単位もコンピュータメモリ内(例えば、映像フレームバッファ内)に記憶される様々な種類の映像データ群(例えば、Y、Cb、Cr、及び関連シンタックス要素)を含み得る論理単位である。基本処理副単位に対して行われるいかなる操作も、そのルマ成分及びクロマ成分のそれぞれに対して繰り返し行うことができる。処理の必要性に応じて、かかる分割は、更なるレベルに対して行われ得ることに留意すべきである。様々な段階が様々な方式を使用して基本処理単位を分割できることにも留意すべきである。
【0027】
[0046] 例えば、(その一例を図2Bに示す)モード決定段階において、基本処理単位に対して何れの予測モード(例えば、イントラピクチャ予測又はインターピクチャ予測)を使用するかを符号器が決定することができ、基本処理単位は、かかる決定を下すには大き過ぎる場合がある。符号器は、基本処理単位を複数の基本処理副単位(例えば、H.265/HEVC又はH.266/VVCにあるCU)に分け、個々の基本処理副単位ごとに予測の種類を決定することができる。
【0028】
[0047] 別の例では、(その一例を図2A-2Bに示す)予測段階において、符号器は、基本処理副単位(例えば、CU)のレベルにおいて予測操作を行うことができる。しかし、一部の事例では、処理するのに基本処理副単位が依然として大き過ぎる場合がある。符号器は、基本処理副単位をより小さいセグメント(例えば、H.265/HEVC又はH.266/VVC内で「予測ブロック」又は「PB」と呼ばれる)に更に分けることができ、そのレベルにおいて予測操作を行うことができる。
【0029】
[0048] 別の例では、(その一例を図2A-2Bに示す)変換段階において、符号器は、残差基本処理副単位(例えば、CU)に対する変換操作を行うことができる。しかし、一部の事例では、処理するのに基本処理副単位が依然として大き過ぎる場合がある。符号器は、基本処理副単位をより小さいセグメント(例えば、H.265/HEVC又はH.266/VVC内で「変換ブロック」又は「TB」と呼ばれる)に更に分けることができ、そのレベルにおいて変換操作を行うことができる。同じ基本処理副単位の分割方式は、予測段階と変換段階とで異なり得ることに留意すべきである。例えば、H.265/HEVC又はH.266/VVCでは、同じCUの予測ブロック及び変換ブロックは、異なるサイズ及び数を有し得る。
【0030】
[0049] 図1の構造110では、基本処理単位112が3×3の基本処理副単位に更に分けられており、その境界が点線で示されている。同じピクチャの異なる基本処理単位を異なる方式で基本処理副単位に分けることができる。
【0031】
[0050] 一部の実装形態では、映像の符号化及び復号に並列処理及び誤り耐性の能力を与えるために、ピクチャを処理のための領域に分けることができ、それにより、ピクチャの領域について、符号化又は復号プロセスがピクチャの他の任意の領域の情報に依存しないようにすることができる。換言すれば、ピクチャの各領域を独立に処理することができる。そうすることで、コーデックは、ピクチャの異なる領域を並列に処理し、従ってコード化の効率を高めることができる。更に、領域のデータが処理内で破損するか又はネットワーク伝送内で失われる場合、コーデックは、破損するか又は失われたデータに依存することなく、同じピクチャの他の領域を正しく符号化又は復号することができ、従って誤り耐性の能力を提供する。一部の映像コード化規格では、ピクチャを異なる種類の領域に分割することができる。例えば、H.265/HEVC及びH.266/VVCは、「スライス」及び「タイル」という2種類の領域を提供する。映像シーケンス100の様々なピクチャは、ピクチャを領域に分けるための様々な分割方式を有し得ることにも留意すべきである。
【0032】
[0051] 例えば、図1では、構造110が3つの領域114、116、及び118に分けられており、その境界が構造110内の実線として示されている。領域114は、4個の基本処理単位を含む。領域116及び118のそれぞれは、6個の基本処理単位を含む。図1の構造110の基本処理単位、基本処理副単位、及び領域は、例に過ぎず、本開示は、その実施形態を限定しないことに留意すべきである。
【0033】
[0052] 図2Aは、本開示の実施形態と合致する、符号化プロセス200Aの一例の概略図を示す。例えば、符号化プロセス200Aは、符号器によって実行され得る。図2Aに示すように、符号器は、プロセス200Aに従って映像シーケンス202を映像ビットストリーム228に符号化することができる。図1の映像シーケンス100と同様に、映像シーケンス202は、時系列順に配置されるピクチャ(「元のピクチャ」と呼ぶ)の組を含み得る。図1の構造110と同様に、映像シーケンス202のそれぞれの元のピクチャは、符号器によって基本処理単位、基本処理副単位、又は処理のための領域に分けられ得る。一部の実施形態では、符号器は、映像シーケンス202のそれぞれの元のピクチャに関する基本処理単位のレベルにおいてプロセス200Aを実行することができる。例えば、符号器は、プロセス200Aを反復的な方法で実行することができ、その場合、符号器は、プロセス200Aの1回の反復において基本処理単位を符号化することができる。一部の実施形態では、符号器は、映像シーケンス202のそれぞれの元のピクチャの領域(例えば、領域114~118)についてプロセス200Aを並列に実行することができる。
【0034】
[0053] 図2Aでは、符号器は、映像シーケンス202の元のピクチャの基本処理単位(「元のBPU」と呼ぶ)を予測段階204にフィードして、予測データ206及び予測されたBPU208を生成することができる。符号器は、元のBPUから、予測されたBPU208を減算して、残差BPU210を生成することができる。符号器は、残差BPU210を変換段階212及び量子化段階214にフィードして、量子化された変換係数216を生成することができる。符号器は、予測データ206及び量子化された変換係数216をバイナリコード化段階226にフィードして、映像ビットストリーム228を生成することができる。構成要素202、204、206、208、210、212、214、216、226、及び228は、「順方向経路」と呼ぶことができる。プロセス200A中、符号器は、量子化段階214後、量子化された変換係数216を逆量子化段階218及び逆変換段階220にフィードして、再構築された残差BPU222を生成することができる。符号器は、再構築された残差BPU222を、予測されたBPU208に加えて、プロセス200Aの次の反復の予測段階204に使用される予測基準224を生成することができる。プロセス200Aの構成要素218、220、222、及び224は、「再構築経路」と呼ぶことができる。再構築経路は、符号器及び復号器の両方が予測に同じ参照データを使用することを確実にするために使用され得る。
【0035】
[0054] 符号器は、プロセス200Aを反復的に実行して、(順方向経路内で)元のピクチャのそれぞれの元のBPUを符号化し、(再構築経路内で)元のピクチャの次の元のBPUを符号化するための予測基準224を生成することができる。元のピクチャの全ての元のBPUを符号化した後、符号器は、映像シーケンス202内の次のピクチャの符号化に進むことができる。
【0036】
[0055] プロセス200Aを参照すると、符号器は、映像捕捉装置(例えば、カメラ)によって生成される映像シーケンス202を受信することができる。本明細書で使用する「受信(する)」という用語は、データを入力するために受信すること、入力すること、取得すること、取り出すこと、得ること、読み出すこと、アクセスすること又は任意の方法の任意のアクションを指すことができる。
【0037】
[0056] 予測段階204では、現在の反復において、符号器が元のBPU及び予測基準224を受信し、予測操作を行って予測データ206及び予測されたBPU208を生成することができる。予測基準224は、プロセス200A前の反復の再構築経路から生成され得る。予測段階204の目的は、予測データ206を抽出することにより、情報の冗長性を減らすことであり、予測データ206は、予測データ206及び予測基準224から予測されたBPU208として元のBPUを再構築するために使用され得る。
【0038】
[0057] 理想的には、予測されたBPU208は、元のBPUと同一であり得る。しかし、理想的でない予測及び再構築操作により、予測されたBPU208は、概して、元のBPUと僅かに異なる。そのような差を記録するために、符号器は、予測されたBPU208を生成した後、それを元のBPUから減算して残差BPU210を生成することができる。例えば、符号器は、予測されたBPU208のピクセルの値(例えば、グレースケール値又はRGB値)を元のBPUの対応するピクセルの値から減算することができる。元のBPUと、予測されたBPU208との対応するピクセル間のかかる減算の結果、残差BPU210の各ピクセルは、残差値を有し得る。元のBPUと比較して、予測データ206及び残差BPU210は、より少ないビットを有し得るが、品質を著しく損なうことなく、元のBPUを再構築するためにそれらを使用することができる。従って、元のBPUは圧縮される。
【0039】
[0058] 残差BPU210を更に圧縮するために、変換段階212において、符号器は、残差BPU210を2次元「基底パターン」の組に分解することにより、残差BPU210の空間的冗長性を低減することができ、各基底パターンは、「変換係数」に関連する。基底パターンは、同じサイズ(例えば、残差BPU210のサイズ)を有することができる。それぞれの基底パターンは、残差BPU210の変動周波数(例えば、輝度変動周波数)成分を表すことができる。基底パターンの何れも、他の任意の基底パターンの任意の組み合わせ(例えば、線形結合)から再現することができない。換言すれば、分解は、残差BPU210の変動を周波数領域内に分解することができる。かかる分解は、関数の離散フーリエ変換に類似し、基底パターンは、離散フーリエ変換の基底関数(例えば、三角関数)に類似し、変換係数は、基底関数に関連する係数に類似する。
【0040】
[0059] 様々な変換アルゴリズムが様々な基底パターンを使用することができる。例えば、離散コサイン変換、離散サイン変換等、変換段階212では、様々な変換アルゴリズムを使用することができる。変換段階212における変換は、可逆的である。即ち、符号器は、変換の逆操作(「逆変換」と呼ぶ)によって残差BPU210を復元することができる。例えば、残差BPU210のピクセルを復元するために、逆変換は、基底パターンの対応するピクセルの値を、関連するそれぞれの係数で乗算し、積を加算して加重和をもたらすことであり得る。映像コード化規格では、符号器及び復号器の両方が同じ変換アルゴリズム(従って同じ基底パターン)を使用することができる。従って、符号器は、変換係数のみを記録することができ、復号器は、符号器から基底パターンを受信することなく、変換係数から残差BPU210を再構築することができる。残差BPU210と比較して、変換係数の方が少ないビットを有し得るが、それらの変換係数は、品質を著しく損なうことなく残差BPU210を再構築するために使用され得る。従って、残差BPU210が更に圧縮される。
【0041】
[0060] 符号器は、量子化段階214において変換係数を更に圧縮することができる。変換プロセスでは、様々な基底パターンが様々な変動周波数(例えば、輝度変動周波数)を表すことができる。人間の目は、概して、低周波変動を認識することが得意であるため、符号器は、復号の際の著しい品質劣化を引き起こすことなく高周波変動の情報を無視することができる。例えば、量子化段階214において、符号器は、各変換係数を整数値(「量子化スケール因子」と呼ぶ)で除算し、商をその最近隣数に丸めることにより、量子化された変換係数216を生成することができる。かかる操作後、高周波基底パターンの一部の変換係数をゼロに変換することができ、低周波基底パターンの変換係数をより小さい整数に変換することができる。符号器は、ゼロ値の量子化された変換係数216を無視することができ、それにより変換係数が更に圧縮される。量子化プロセスも可逆的であり、量子化された変換係数216は、量子化の逆操作(「逆量子化」と呼ぶ)内で変換係数に再構築することができる。
【0042】
[0061] 符号器は、丸め操作内でかかる除算の剰余を無視するため、量子化段階214は、非可逆であり得る。典型的には、量子化段階214は、プロセス200A内で最大の情報損失に寄与し得る。情報損失が大きいほど、量子化された変換係数216が必要とし得るビットが少なくなる。情報損失の様々なレベルを得るために、符号器は、量子化パラメータの様々な値又は量子化プロセスの他の任意のパラメータを使用することができる。
【0043】
[0062] バイナリコード化段階226において、符号器は、例えば、エントロピーコード化、可変長コード化、算術コード化、ハフマンコード化、コンテキスト適応バイナリ算術コード化、又は他の任意の可逆若しくは非可逆圧縮アルゴリズム等のバイナリコード化技法を使用し、予測データ206及び量子化された変換係数216を符号化することができる。一部の実施形態では、予測データ206及び量子化された変換係数216に加えて、符号器は、例えば、予測段階204で使用される予測モード、予測操作のパラメータ、変換段階212の変換の種類、量子化プロセスのパラメータ(例えば、量子化パラメータ)、符号器制御パラメータ(例えば、ビットレート制御パラメータ)等の他の情報をバイナリコード化段階226において符号化することができる。符号器は、バイナリコード化段階226の出力データを使用して映像ビットストリーム228を生成することができる。一部の実施形態では、映像ビットストリーム228をネットワーク伝送のために更にパケット化することができる。
【0044】
[0063] プロセス200Aの再構築経路を参照すると、逆量子化段階218では、符号器は、量子化された変換係数216に対して逆量子化を行って、再構築された変換係数を生成することができる。逆変換段階220では、符号器は、再構築された変換係数に基づいて、再構築された残差BPU222を生成することができる。符号器は、再構築された残差BPU222を、予測されたBPU208に加えて、プロセス200Aの次の反復内で使用される予測基準224を生成することができる。
【0045】
[0064] 映像シーケンス202を符号化するためにプロセス200Aの他のバリエーションを使用できることに留意すべきである。一部の実施形態では、符号器がプロセス200Aの段階を異なる順序で実行することができる。一部の実施形態では、プロセス200Aの1つ又は複数の段階を単一の段階に組み合わせることができる。一部の実施形態では、プロセス200Aの単一の段階を複数の段階に分けることができる。例えば、変換段階212と量子化段階214とを単一の段階に組み合わせることができる。一部の実施形態では、プロセス200Aは、追加の段階を含み得る。一部の実施形態では、プロセス200Aは、図2A内の1つ又は複数の段階を省くことができる。
【0046】
[0065] 図2Bは、本開示の実施形態に合致する、符号化プロセスの別の例200Bの概略図を示す。プロセス200Bは、プロセス200Aから修正され得る。例えば、プロセス200Bは、ハイブリッド映像コード化規格(例えば、H.26xシリーズ)に準拠する符号器によって使用され得る。プロセス200Aと比較して、プロセス200Bの順方向経路は、モード決定段階230を更に含み、予測段階204を空間的予測段階2042及び時間的予測段階2044に分ける。プロセス200Bの再構築経路は、ループフィルタ段階232及びバッファ234を追加で含む。
【0047】
[0066] 概して、予測技法は、空間的予測及び時間的予測の2つの種類に分類することができる。空間的予測(例えば、イントラピクチャ予測又は「イントラ予測」)は、現BPUを予測するために、同じピクチャ内の既にコード化された1つ又は複数の隣接BPUのピクセルを使用することができる。即ち、空間的予測における予測基準224は、隣接BPUを含み得る。空間的予測は、ピクチャの固有の空間的冗長性を減らすことができる。時間的予測(例えば、インターピクチャ予測又は「インター予測」)は、現BPUを予測するために、既にコード化された1つ又は複数のピクチャの領域を使用することができる。即ち、時間的予測における予測基準224は、コード化されたピクチャを含み得る。時間的予測は、ピクチャの固有の時間的冗長性を減らすことができる。
【0048】
[0067] プロセス200Bを参照すると、順方向経路において、符号器は、空間的予測段階2042及び時間的予測段階2044で予測操作を行う。例えば、空間的予測段階2042では、符号器は、イントラ予測を行うことができる。符号化されているピクチャの元のBPUに関して、予測基準224は、同じピクチャ内の(順方向経路内で)符号化され、(再構築経路内で)再構築されている1つ又は複数の隣接BPUを含み得る。符号器は、隣接BPUを外挿することにより、予測されたBPU208を生成することができる。外挿技法は、例えば、線形外挿又は線形補間、多項式外挿又は多項式補間等を含み得る。一部の実施形態では、予測されたBPU208のピクセルごとに対応するピクセルの値を外挿することによって等、符号器がピクセルレベルで外挿を行うことができる。外挿に使用される隣接BPUは、垂直方向(例えば、元のBPUの上)、水平方向(例えば、元のBPUの左)、対角線方向(例えば、元のBPUの左下、右下、左上又は右上)、又は使用される映像コード化規格内で規定される任意の方向等、様々な方向から元のBPUに対して位置し得る。イントラ予測では、予測データ206は、例えば、使用される隣接BPUの位置(例えば、座標)、使用される隣接BPUのサイズ、外挿のパラメータ、元のBPUに対する使用される隣接BPUの方向等を含み得る。
【0049】
[0068] 別の例では、時間的予測段階2044では、符号器は、インター予測を行うことができる。現ピクチャの元のBPUに関して、予測基準224は、(順方向経路内で)符号化され、(再構築経路内で)再構築されている1つ又は複数のピクチャ(「参照ピクチャ」と呼ぶ)を含み得る。一部の実施形態では、参照ピクチャがBPUごとに符号化され再構築され得る。例えば、符号器は、再構築された残差BPU222を、予測されたBPU208に加えて、再構築されたBPUを生成することができる。同じピクチャの全ての再構築されたBPUが生成されると、符号器は、参照ピクチャとして再構築されたピクチャを生成することができる。符号器は、参照ピクチャの範囲(「探索窓」と呼ぶ)内の一致領域を探すために「動き推定」の操作を行うことができる。参照ピクチャ内の探索窓の位置は、現ピクチャ内の元のBPUの位置に基づいて判定することができる。例えば、探索窓は、参照ピクチャの、現ピクチャ内の元のBPUと同じ座標を有する位置に中心を置くことができ、所定の距離にわたって広げることができる。符号器が探索窓内で元のBPUと同様の領域を(例えば、pel再帰アルゴリズム、ブロックマッチングアルゴリズム等を使用することによって)識別すると、符号器は、その領域を一致領域として判定することができる。一致領域は、元のBPUと異なる(例えば、それよりも小さい、等しい、大きい又は異なる形状の)寸法を有し得る。参照ピクチャ及び現ピクチャは、(例えば、図1に示すように)タイムライン内で時間的に隔てられているため、時間が経つにつれて一致領域が元のBPUの位置に「移動する」と見なすことができる。符号器は、かかる動きの方向及び距離を「動きベクトル」として記録することができる。(例えば、図1のピクチャ106のような)複数の参照ピクチャが使用される場合、符号器は、参照ピクチャごとに一致領域を探し、その関連する動きベクトルを求めることができる。一部の実施形態では、符号器は、個々の一致する参照ピクチャの一致領域のピクセル値に重みを割り当てることができる。
【0050】
[0069] 動き推定は、例えば、平行移動、回転、拡大縮小等の様々な種類の動きを識別するために使用することができる。インター予測では、予測データ206は、例えば、一致領域の位置(例えば、座標)、一致領域に関連する動きベクトル、参照ピクチャの数、参照ピクチャに関連する重み等を含み得る。
【0051】
[0070] 予測されたBPU208を生成するために、符号器は、「動き補償」の操作を行うことができる。動き補償は、予測データ206(例えば、動きベクトル)及び予測基準224に基づいて、予測されたBPU208を再構築するために使用することができる。例えば、符号器は、動きベクトルに従って参照ピクチャの一致領域を動かすことができ、その中では、符号器は、現ピクチャの元のBPUを予測することができる。(例えば、図1のピクチャ106のような)複数の参照ピクチャが使用される場合、符号器は、個々の動きベクトルに従って参照ピクチャの一致領域を動かし、一致領域のピクセル値を平均することができる。一部の実施形態では、符号器が、個々の一致する参照ピクチャの一致領域のピクセル値に重みを割り当てた場合、符号器は、動かした一致領域のピクセル値の加重和を加えることができる。
【0052】
[0071] 一部の実施形態では、インター予測は、単方向又は双方向であり得る。単方向のインター予測は、現ピクチャに対して同じ時間的方向にある1つ又は複数の参照ピクチャを使用することができる。例えば、図1のピクチャ104は、参照ピクチャ(例えば、ピクチャ102)がピクチャ104に先行する単方向のインター予測ピクチャである。双方向のインター予測は、現ピクチャに対して両方の時間的方向にある1つ又は複数の参照ピクチャを使用することができる。例えば、図1のピクチャ106は、参照ピクチャ(例えば、ピクチャ104及び108)がピクチャ104に対して両方の時間的方向にある双方向のインター予測ピクチャである。
【0053】
[0072] プロセス200Bの順方向経路を引き続き参照すると、空間的予測段階2042及び時間的予測段階2044の後、モード決定段階230において、符号器は、プロセス200Bの現在の反復のための予測モード(例えば、イントラ予測又はインター予測の1つ)を選択することができる。例えば、符号器は、レート歪み最適化技法を実行することができ、かかる技法では、符号器は、候補予測モードのビットレート及び候補予測モード下の再構築された参照ピクチャの歪みに応じて、コスト関数の値を最小化するための予測モードを選択することができる。選択される予測モードに応じて、符号器は、対応する予測されたBPU208及び予測されたデータ206を生成することができる。
【0054】
[0073] プロセス200Bの再構築経路において、順方向経路内でイントラ予測モードが選択されている場合、予測基準224(例えば、現ピクチャ内で符号化され再構築されている現BPU)を生成した後、符号器は、後に使用するために(例えば、現ピクチャの次のBPUを外挿するために)空間的予測段階2042に予測基準224を直接フィードすることができる。符号器は、ループフィルタ段階232に予測基準224をフィードすることができ、ループフィルタ段階232では、符号器は、予測基準224にループフィルタを適用して、予測基準224の符号化中に引き起こされる歪み(例えば、ブロッキングアーティファクト)を減らすか又はなくすことができる。例えば、デブロッキング、サンプル適応オフセット、適応ループフィルタ等、符号器は、ループフィルタ段階232で様々なループフィルタ技法を適用することができる。ループフィルタされた参照ピクチャは、後に使用するために(例えば、映像シーケンス202の将来のピクチャのためのインター予測参照ピクチャとして使用するために)バッファ234(又は「復号されたピクチャバッファ」)内に記憶することができる。符号器は、時間的予測段階2044で使用するために1つ又は複数の参照ピクチャをバッファ234内に記憶することができる。一部の実施形態では、符号器は、量子化された変換係数216、予測データ206、及び他の情報と共にループフィルタのパラメータ(例えば、ループフィルタの強度)をバイナリコード化段階226で符号化することができる。
【0055】
[0074] 図3Aは、本開示の実施形態に合致する、復号プロセス300Aの一例の概略図を示す。プロセス300Aは、図2Aの圧縮プロセス200Aに対応する解凍プロセスであり得る。一部の実施形態では、プロセス300Aは、プロセス200Aの再構築経路と同様であり得る。復号器は、プロセス300Aに従って映像ビットストリーム228を映像ストリーム304に復号することができる。映像ストリーム304は、映像シーケンス202と非常に類似し得る。しかし、圧縮及び解凍プロセス(例えば、図2A図2Bの量子化段階214)における情報損失により、概して、映像ストリーム304は、映像シーケンス202と同一ではない。図2A図2Bのプロセス200A及び200Bと同様に、復号器は、映像ビットストリーム228内に符号化される各ピクチャについて、基本処理単位(BPU)のレベルにおいてプロセス300Aを実行することができる。例えば、復号器は、プロセス300Aを反復的な方法で実行することができ、その場合、復号器は、プロセス300Aの1回の反復において基本処理単位を復号することができる。一部の実施形態では、復号器は、映像ビットストリーム228内に符号化される各ピクチャの領域(例えば、領域114~118)についてプロセス300Aを並列に実行することができる。
【0056】
[0075] 図3Aでは、復号器は、符号化されたピクチャの基本処理単位(「符号化されたBPU」と呼ぶ)に関連する映像ビットストリーム228の一部をバイナリ復号段階302にフィードすることができる。バイナリ復号段階302では、復号器は、当該一部を予測データ206及び量子化された変換係数216に復号することができる。復号器は、量子化された変換係数216を逆量子化段階218及び逆変換段階220にフィードして、再構築された残差BPU222を生成することができる。復号器は、予測データ206を予測段階204にフィードして、予測されたBPU208を生成することができる。復号器は、再構築された残差BPU222を、予測されたBPU208に加えて、予測された基準224を生成することができる。一部の実施形態では、予測基準224がバッファ(例えば、コンピュータメモリ内の復号されたピクチャバッファ)内に記憶され得る。復号器は、プロセス300Aの次の反復内で予測操作を行うための予測基準224を予測段階204にフィードすることができる。
【0057】
[0076] 復号器は、プロセス300Aを反復的に実行して、符号化されたピクチャの各符号化されたBPUを復号し、符号化されたピクチャの次の符号化されたBPUを符号化するための予測基準224を生成することができる。符号化されたピクチャの全ての符号化されたBPUを復号した後、復号器は、表示するためにピクチャを映像ストリーム304に出力し、映像ビットストリーム228内の次の符号化されたピクチャの復号に進むことができる。
【0058】
[0077] バイナリ復号段階302では、復号器は、符号器が使用したバイナリコード化技法(例えば、エントロピーコード化、可変長コード化、算術コード化、ハフマンコード化、コンテキスト適応バイナリ算術コード化、又は他の任意の可逆圧縮アルゴリズム)の逆操作を行うことができる。一部の実施形態では、予測データ206及び量子化された変換係数216に加えて、復号器は、例えば、予測モード、予測操作のパラメータ、変換の種類、量子化プロセスのパラメータ(例えば、量子化パラメータ)、符号器制御パラメータ(例えば、ビットレート制御パラメータ)等の他の情報をバイナリ復号段階302において復号することができる。一部の実施形態では、映像ビットストリーム228がネットワーク上においてパケット単位で伝送される場合、復号器は、映像ビットストリーム228をデパケット化してからそれをバイナリ復号段階302にフィードすることができる。
【0059】
[0078] 図3Bは、本開示の実施形態に合致する、復号プロセスの別の例300Bの概略図を示す。プロセス300Bは、プロセス300Aから修正され得る。例えば、プロセス300Bは、ハイブリッド映像コード化規格(例えば、H.26xシリーズ)に準拠する復号器によって使用され得る。プロセス300Aと比較して、プロセス300Bは、予測段階204を空間的予測段階2042及び時間的予測段階2044に更に分け、ループフィルタ段階232及びバッファ234を追加で含む。
【0060】
[0079] プロセス300Bでは、復号されている符号化されたピクチャ(「現ピクチャ」と呼ぶ)の符号化された基本処理単位(「現BPU」と呼ぶ)に関して、復号器によってバイナリ復号段階302から復号される予測データ206は、現BPUを符号化するために何れの予測モードが符号器によって使用されたかに応じて様々な種類のデータを含み得る。例えば、現BPUを符号化するためにイントラ予測が符号器によって使用された場合、予測データ206は、イントラ予測、イントラ予測操作のパラメータ等を示す予測モードインジケータ(例えば、フラグ値)を含み得る。イントラ予測操作のパラメータは、例えば、基準として使用される1つ又は複数の隣接BPUの位置(例えば、座標)、隣接BPUのサイズ、外挿のパラメータ、元のBPUに対する隣接BPUの方向等を含み得る。別の例では、現BPUを符号化するためにインター予測が符号器によって使用された場合、予測データ206は、インター予測、インター予測操作のパラメータ等を示す予測モードインジケータ(例えば、フラグ値)を含み得る。インター予測操作のパラメータは、例えば、現BPUに関連する参照ピクチャの数、参照ピクチャにそれぞれ関連する重み、それぞれの参照ピクチャ内の1つ又は複数の一致領域の位置(例えば、座標)、一致領域にそれぞれ関連する1つ又は複数の動きベクトル等を含み得る。
【0061】
[0080] 予測モードインジケータに基づき、復号器は、空間的予測段階2042で空間的予測(例えば、イントラ予測)を行うか、又は時間的予測段階2044で時間的予測(例えば、インター予測)を行うかを決めることができる。かかる空間的予測又は時間的予測の実行の詳細は、図2Bに示されており、以下で繰り返さない。かかる空間的予測又は時間的予測を行った後、復号器は、予測されたBPU208を生成することができる。図3Aに記載したように、復号器は、予測されたBPU208と、再構築された残差BPU222とを加えて、予測基準224を生成することができる。
【0062】
[0081] プロセス300Bでは、復号器は、プロセス300Bの次の反復内で予測操作を行うための予測基準224を空間的予測段階2042又は時間的予測段階2044にフィードすることができる。例えば、現BPUが空間的予測段階2042においてイントラ予測を使用して復号される場合、予測基準224(例えば、復号された現BPU)を生成した後、復号器は、後に使用するために(例えば、現ピクチャの次のBPUを外挿するために)空間的予測段階2042に予測基準224を直接フィードすることができる。現BPUが時間的予測段階2044においてインター予測を使用して復号される場合、予測基準224(例えば、全てのBPUが復号されている参照ピクチャ)を生成した後、復号器は、ループフィルタ段階232に予測基準224をフィードして歪み(例えば、ブロッキングアーティファクト)を減らすか又はなくすことができる。復号器は、図2Bに記載した方法で予測基準224にループフィルタを適用することができる。ループフィルタされた参照ピクチャは、後に使用するために(例えば、映像ビットストリーム228の将来の符号化ピクチャのためのインター予測参照ピクチャとして使用するために)バッファ234(例えば、コンピュータメモリ内の復号されたピクチャバッファ)内に記憶することができる。復号器は、時間的予測段階2044で使用するために1つ又は複数の参照ピクチャをバッファ234内に記憶することができる。一部の実施形態では、予測データはループフィルタのパラメータ(例えばループフィルタ強度)を更に含み得る。一部の実施形態では、現BPUを符号化するためにインター予測が使用されたことを予測データ206の予測モードインジケータが示す場合、予測データはループフィルタのパラメータを含む。
【0063】
[0082] 図4は、本開示の実施形態に合致する、映像を符号化又は復号するための機器400の一例のブロック図である。図4に示すように、機器400は、プロセッサ402を含み得る。プロセッサ402が本明細書に記載の命令を実行するとき、機器400は、映像を符号化又は復号するための専用マシンになり得る。プロセッサ402は、情報を操作又は処理することができる任意の種類の回路であり得る。例えば、プロセッサ402は、任意の数の中央処理装置(「CPU」)、グラフィックス処理装置(「GPU」)、ニューラル処理ユニット(「NPU」)、マイクロコントローラユニット(「MCU」)、光プロセッサ、プログラム可能論理コントローラ、マイクロコントローラ、マイクロプロセッサ、デジタル信号プロセッサ、知的財産(IP)コア、プログラム可能論理アレイ(PLA)、プログラム可能アレイ論理(PAL)、汎用アレイ論理(GAL)、複合プログラム可能論理装置(CPLD)、書換可能ゲートアレイ(FPGA)、システムオンチップ(SoC)、特定用途向け集積回路(ASIC)等の任意の組み合わせを含み得る。一部の実施形態では、プロセッサ402は、単一の論理構成要素としてグループ化されるプロセッサの組であり得る。例えば、図4に示すように、プロセッサ402は、プロセッサ402a、プロセッサ402b及びプロセッサ402nを含む複数のプロセッサを含み得る。
【0064】
[0083] 機器400は、データ(例えば、命令、コンピュータコード、中間データ等の組)を記憶するように構成されるメモリ404も含み得る。例えば、図4に示すように、記憶データは、プログラム命令(例えば、プロセス200A、200B、300A又は300B内の段階を実装するためのプログラム命令)、及び処理用データ(例えば、映像シーケンス202、映像ビットストリーム228又は映像ストリーム304)を含み得る。プロセッサ402は、プログラム命令及び処理用データに(例えば、バス410を介して)アクセスし、プログラム命令を実行して処理用データに対する操作又は処理を行うことができる。メモリ404は、高速ランダムアクセス記憶装置又は不揮発性記憶装置を含み得る。一部の実施形態では、メモリ404は、任意の数のランダムアクセスメモリ(RAM)、読取専用メモリ(ROM)、光学ディスク、磁気ディスク、ハードドライブ、ソリッドステートドライブ、フラッシュドライブ、セキュリティデジタル(SD)カード、メモリスティック、コンパクトフラッシュ(登録商標)(CF)カード等の任意の組み合わせを含み得る。メモリ404は、単一の論理構成要素としてグループ化される(図4には不図示の)メモリ群でもあり得る。
【0065】
[0084] 内蔵バス(例えば、CPUメモリバス)、外部バス(例えば、ユニバーサルシリアルバスポート、周辺機器コンポーネント相互接続エクスプレスポート)等のバス410は、機器400内の構成要素間でデータを転送する通信装置であり得る。
【0066】
[0085] 曖昧さを招くことなく説明を簡単にするために、本開示では、プロセッサ402及び他のデータ処理回路をまとめて「データ処理回路」と呼ぶ。データ処理回路は、完全にハードウェアとして、又はソフトウェア、ハードウェア若しくはファームウェアの組み合わせとして実装することができる。加えて、データ処理回路は、単一の独立したモジュールであり得るか、又は機器400の他の任意の構成要素内に完全に若しくは部分的に組み合わされ得る。
【0067】
[0086] 機器400は、ネットワーク(例えば、インターネット、イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク等)との有線通信又は無線通信を提供するためのネットワークインタフェース406を更に含み得る。一部の実施形態では、ネットワークインタフェース406は、任意の数のネットワークインタフェースコントローラ(NIC)、無線周波数(RF)モジュール、トランスポンダ、トランシーバ、モデム、ルータ、ゲートウェイ、有線ネットワークアダプタ、無線ネットワークアダプタ、Bluetooth(登録商標)アダプタ、赤外線アダプタ、近距離無線通信(「NFC」)アダプタ、セルラネットワークチップ等の任意の組み合わせを含み得る。
【0068】
[0087] 一部の実施形態では、1つ又は複数の周辺装置への接続を提供するための周辺装置インタフェース408を任意選択的に機器400が更に含み得る。図4に示すように、周辺装置は、これのみに限定されないが、カーソル制御装置(例えば、マウス、タッチパッド又はタッチスクリーン)、キーボード、ディスプレイ(例えば、ブラウン管ディスプレイ、液晶ディスプレイ又は発光ダイオードディスプレイ)、映像入力装置(例えば、映像アーカイブに結合されるカメラ又は入力インタフェース)等を含み得る。
【0069】
[0088] 映像コーデック(例えば、プロセス200A、200B、300A又は300Bを実行するコーデック)は、機器400内の任意のソフトウェア又はハードウェアモジュールの任意の組み合わせとして実装できることに留意すべきである。例えば、プロセス200A、200B、300A、又は300Bの一部の又は全ての段階は、メモリ404内にロード可能なプログラム命令等の機器400の1つ又は複数のソフトウェアモジュールとして実装され得る。別の例では、プロセス200A、200B、300A、又は300Bの一部の又は全ての段階は、専用データ処理回路(例えば、FPGA、ASIC、NPU等)等の機器400の1つ又は複数のハードウェアモジュールとして実装され得る。
【0070】
[0089] VVCでは、ブロックベースフィルタ適応を伴う適応ループフィルタ(ALF)が適用される。ルマ成分では、局所勾配の方向及び活動に基づいて25個のフィルタのうちの1つが4×4ブロックごとに選択される。ALFに加え、VVCドラフト9ではクロスコンポーネント適応ループフィルタ(CCALF)も使用される。CCALFフィルタはルマALFと並列に動作するように設計される。
【0071】
[0090] ALF_APS、LMCS_APS、及びSCALING_APS等、VVCは3種類の適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットをサポートする。ALFプロセス及びCCALFプロセスのフィルタ係数はALF_APS内でシグナリングされる。1つのALF APS内で、25組までのルマALFフィルタ係数及びクリッピング値インデックス、並びに8組までのクロマALFフィルタ係数及びクリッピング値インデックスがシグナリングされ得る。加えて、Cb成分のための4組までのCCALFフィルタ係数及びCr成分のための4組までのCCALFフィルタ係数がシグナリングされる。
【0072】
[0091] VVCドラフト9では、(a)レギュラー残差コード化(RRC)方法、及び(b)変換スキップ残差コード化(TSRC)方法を含む2つの残差コード化方法がある。本明細書では、これらの残差コード化方法を「residual_coding」及び「residual_ts_coding」として指定する。VVCドラフト9では、変換スキップ(TS)及びブロック差分パルスコード変調(BDPCM)ブロックの両方が一定の条件下でRRC方法又はTSRC方法を選択することを許可される。スライスのスライスレベルフラグslice_ts_residual_coding_disabled_flagの値が0に等しい場合、そのスライスのTS及びBDPCMモードでコード化されるブロックはTSRCを選択する。スライスのスライスレベルフラグslice_ts_residual_coding_disabled_flagの値が1に等しい場合、そのスライスのTS及びBDPCMコード化ブロックはRRCを選択する。
【0073】
[0092] VVCの現在の設計には、no_aps_constraint_flagシンタックス要素、no_tsrc_constraint_flagシンタックス要素、及びシンタックスの順序を対象とした欠点がある。本開示は、これらの欠点に対処するためにシンタックス要素の定義を更新すること及びシンタックステーブルを更新すること等の提案方法を提供する。
【0074】
[0093] 第1の欠点は、no_aps_constraint_flagシンタックス要素を対象とする。VVCの現在の設計は、SPS内でシグナリングされる幾つかの制約フラグを有する。一定のコード化ツールが非活性化されるプロファイルを定めるために、それらの制約フラグ(例えばno_aps_constraint_flagシンタックス要素)を使用することができる。no_aps_constraint_flagシンタックス要素は、ビットストリーム内にAPS NALユニットがあるかどうかを指定する。以下はno_aps_constraint_flagのセマンティックである。
【0075】
[0094] 1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内にPREFIX_APS_NUT又はSUFFIX_APS_NUTに等しいnuh_unit_typeを有するNALユニットがあり得ないこと、並びにsps_lmcs_enabled_flag及びsps_scaling_list_enabled_flagがどちらも0に等しくなり得ることを指定する。0に等しいno_aps_constraint_flagシンタックス要素はかかる制約を課さない。
【0076】
[0095] 上記で述べたように、VVCは、ALF_APS、LMCS_APS、及びSCALING_APS等の3種類のAPS NALユニットをサポートする。no_aps_constraint_flagの上記の意味論的定義から、no_aps_constraint_flagシンタックス要素が1に等しい場合はsps_lmcs_enabled_flag及びsps_scaling_list_enabled_flagを0に等しく設定することによってコード化ツールLMCS及びスケーリングリストが無効化されることが示される。しかし現在のVVCの設計では、たとえシグナリングされるAPSがなくても(即ちno_aps_constraint_flagが1に等しくても)ALF及びCCALFが依然として有効化され得る。
【0077】
[0096] VVCはルマALFのための固定された/デフォルトの1組のフィルタセットを可能にするので、現在のVVCの設計ではAPSを送信することなしにルマ成分のALFプロセスを有効化することができる。しかし、クロマALFプロセス及びCCALFプロセスに関してそのような固定された/デフォルトのフィルタの組はない。従って、APSによってフィルタセットをシグナリングすることなしにクロマALFプロセス及びCCALFプロセスを実行することはできないと断言される。
【0078】
[0097] 提案する方法では、APSがシグナリングされない(即ちno_aps_constraint_flagが1に等しい)場合にクロマALFプロセス及びCCALFプロセスの両方が無効化される。クロマALFプロセス及びCCALFプロセスを無効化するための方法はno_aps_constraint_flagシンタックス要素の定義を更新すること及び新たなフラグを導入することを含む。本方法は上記の欠点に対処し、より優れたコード効率を提供する。
【0079】
[0098] 図5は、本開示のいくつかの実施形態と合致する、映像コンテンツを処理するための例示的なコンピュータ実施方法のフローチャートを示す。この方法は、復号器によって(例えば図3Aのプロセス300A又は図3Bのプロセス300Bによって)実行されてもよく、又は機器(例えば図4の機器400)の1つ又は複数のソフトウェア又はハードウェアコンポーネントによって実行されてもよい。例えばプロセッサ(例えば図4のプロセッサ402)が図5の方法を実行し得る。一部の実施形態では、この方法は、コンピュータ(例えば図4の機器400)によって実行される、プログラムコード等のコンピュータ実行可能命令を含むコンピュータ可読媒体内に具体化されるコンピュータプログラム製品によって、実装され得る。
【0080】
[0099] 図5の方法は以下のステップを含み得る。
【0081】
[0100] ステップ501で、映像コンテンツを含むビットストリームを復号器によって(例えば図3Aのプロセス300A又は図3Bのプロセス300Bによって)受信する。
【0082】
[0101] ステップ502で、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定する。一部の実施形態では、この判定は、適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットが受信ビットストリーム内にあることを第1の信号が示すかどうかを判定することを含む。例えば1に等しいno_aps_constraint_flagシンタックス要素はAPS NALユニットがないことを示すので、no_aps_constraint_flagシンタックス要素が1に等しいかどうかを判定する。
【0083】
[0102] ステップ503で、第1の信号が所与の条件を満たすと判定することに応答し、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化する。上記で説明したように、no_aps_constraint_flagシンタックス要素が1に等しい場合は、CCALFプロセス及びクロマALFプロセスの両方が無効化される。
【0084】
[0103] 一部の実施形態では、CCALFプロセスをシーケンスレベルで無効化することができる。no_aps_constraint_flagシンタックス要素の定義は、sps_ccalf_enabled_flagを含めることによって更新することができる。1に等しいno_aps_constraint_flagシンタックス要素は、sps_ccalf_enabled_flagが0に等しくなり得ることを指定する。0に等しいsps_ccalf_enabled_flagシンタックス要素は、受信ビットストリーム内の映像コンテンツと関連があるCLVS内のピクチャを復号する際にCCALFプロセスが無効化され適用されないことを指定する。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、sps_ccalf_enabled_flagの値が0に等しくなり得る。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0085】
[0104] 一部の実施形態では、クロマALFプロセスをスライスレベルで無効化することは、no_aps_constraint_flagシンタックス要素の定義を更新することによって実装され得る。no_aps_constraint_flagシンタックス要素の定義は、sh_alf_cb_flag、sh_alf_cr_flag、及びsh_num_alf_aps_ids_lumaを含めることによって更新することができる。例えば1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内の全てのスライスのsh_alf_cb_flag、sh_alf_cr_flag、及びsh_num_alf_aps_ids_lumaの値が0に等しくなり得ることを指定する。ルマALFプロセスのための固定された/デフォルトの1組のフィルタを使用するために、sh_num_alf_aps_ids_lumaの値は0に設定される。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、sh_alf_cb_flagシンタックス要素、sh_alf_cr_flagシンタックス要素、及びsh_num_alf_aps_ids_lumaシンタックス要素が0に等しい。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0086】
[0105] 一部の実施形態では、クロマALFプロセスを無効化することをスライスレベルではなくピクチャレベルで行うことができる。no_aps_constraint_flagシンタックス要素の定義は、ph_alf_cb_flag、ph_alf_cr_flag、及びph_num_alf_aps_ids_lumaを含めることによって更新することができる。例えば1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内の全てのスライスのph_alf_cb_flag、ph_alf_cr_flag、及びph_num_alf_aps_ids_lumaの値が0に等しくなり得ることを指定し得る。ルマALFプロセスのための固定された/デフォルトの1組のフィルタを使用するために、ph_num_alf_aps_ids_lumaの値が0に設定される。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、ph_alf_cb_flagシンタックス要素、ph_alf_cr_flagシンタックス要素、及びph_num_alf_aps_ids_lumaシンタックス要素が0に等しい。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0087】
[0106] 上記で説明したように、no_aps_constraint_flagシンタックス要素の定義を更新することにより、クロマALFプロセスをスライスヘッダレベルで無効化することができる。一部の実施形態では、ビットストリーム内の信号を提供することによって、クロマALFプロセスを制御することができる。
【0088】
[0107] 一部の実施形態では、この方法は、ピクチャパラメータセット(PPS)レベル、シーケンスパラメータセット(SPS)レベル、ピクチャヘッダ(PH)レベル、又はスライスヘッダ(SH)レベルにおいて、クロマALFプロセスを制御するための第2の信号を提供することを更に含み得る。第2の信号はSPSレベルフラグ又はPPSレベルフラグであり得る。
【0089】
[0108] ピクチャヘッダは特定のピクチャに関する情報を運び、同じピクチャに属する全てのスライスに共通の情報を含む。SPSは、全コード化層映像シーケンス(CLVS)内の全てのピクチャによって共有されるシーケンスレベル情報を含み、ビットストリームが何を含むのか及びビットストリーム内の情報をどのように使用できるのかについての全体像を提供することができる。SPSはPH及びSHよりも高レベルにあり、SPSレベルフラグは、SPSレベル、PHレベル、又はSHレベルにおいてクロマALFプロセスを制御するために使用することができる。
【0090】
[0109] 同様に、PPSはCLVSに関するシンタックス要素を含み、PPSはPH及びSHよりも高レベルにあり、PPSレベルフラグは、PPSレベル、PHレベル、又はSHレベルにおいてクロマALFプロセスを制御するために使用することができる。
【0091】
[0110] 一部の実施形態では、クロマ成分のALFプロセスを制御するためにSPSレベルフラグ(例えばsps_chroma_alf_enabled_flag)が使用される。例えば0に等しいsps_chroma_alf_enabled_flagシンタックス要素は、CLVS内のピクチャのクロマ成分を復号する際に適応ループフィルタが無効化され適用されないことを指定し得る。1に等しいsps_chroma_alf_enabled_flagシンタックス要素は、CLVS内のピクチャのクロマ成分を復号する際に適応ループフィルタが有効化され適用され得ることを指定し得る。ない場合、sps_chroma_alf_enabled_flagの値は0に等しいと推論される。この例は要素が0又は1であることに基づいて様々な結果を与えることが理解されるが、0及び1の指示は設計上の選択であり、このシンタックス要素及び他のシンタックス要素に関して結果を逆にできることが理解されよう(例えば0に等しいsps_chroma_alf_enabled_flagシンタックス要素は適応ループフィルタが有効化されることを指定し得る)。
【0092】
[0111] 図6図8は、提案する方法のシーケンスパラメータセット(SPS)、ピクチャヘッダ(PH)、スライスヘッダ(SH)シンタックステーブルの例をそれぞれ示す。以下で提案する変更はVVC規格に加えることができ、又は他の映像コード化技術内で実装され得る。
【0093】
[0112] 図6に示すように、提案するフラグsps_chroma_alf_enabled_flag(例えば要素601)はsps_alf_enabled_flagが1に等しくChromaArrayType!=0である場合に条件付きでシグナリングされる。加えて、フラグsps_ccalf_enabled_flag(例えば要素602)もsps_alf_enabled_flagが1に等しくChromaArrayType!=0である場合に条件付きでシグナリングされる。
【0094】
[0113] 図7は、PHに関連するスライスのルマ成分が参照するi番目のALF APSのaps_adaptation_parameter_set_idを指定するph_alf_aps_id_luma[i]シンタックス要素を示す。ph_alf_aps_id_luma[i]シンタックス要素がある場合は以下が適用される:
- ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_luma_filter_signal_flagの値は1に等しくなり得る。
- ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのTemporalIdは、PHに関連するピクチャのTemporalId以下であり得る。
- ChromaArrayTypeが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのaps_chroma_present_flagの値は0に等しくなり得る。
- sps_ccalf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_cc_cb_filter_signal_flag及びalf_cc_cr_filter_signal_flagの値は0に等しくなり得る。
- 更に本開示の一部の実施形態では、図7の要素701に示すように、sps_chroma_alf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_chroma_filter_signal_flagの値は0に等しくなり得る。
【0095】
[0114] 図8はsh_alf_aps_id_luma[i]シンタックス要素を示し、sh_alf_aps_id_luma[i]シンタックス要素、スライスのルマ成分が参照するi番目のALF APSのaps_adaptation_parameter_set_idを指定する。sh_alf_enabled_flagが1に等しくsh_alf_aps_id_luma[i]がない場合、sh_alf_aps_id_luma[i]の値はph_alf_aps_id_luma[i]の値に等しいと推論される。sh_alf_aps_id_luma[i]がある場合は以下が適用される:
- ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのTemporalIdは、コード化スライスNALユニットのTemporalId以下であり得る。
- ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_luma_filter_signal_flagの値は1に等しくなり得る。
- ChromaArrayTypeが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのaps_chroma_present_flagの値は0に等しくなり得る。
- sps_ccalf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_cc_cb_filter_signal_flag及びalf_cc_cr_filter_signal_flagの値は0に等しくなり得る。
- 更に本開示の一部の実施形態では、図8の要素801に示すように、sps_chroma_alf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_chroma_filter_signal_flagの値は0に等しくなり得る。
【0096】
[0115] 一部の実施形態では、図6図8の新たなSPSレベルフラグsps_chroma_alf_enabled_flagシンタックス要素を導入することにより、no_aps_constraint_flagの定義を更新することができる。例えば1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内にPREFIX_APS_NUT又はSUFFIX_APS_NUTに等しいnuh_unit_typeを有するNALユニットがあり得ないこと、及び(図6図8の要素601、701、及び801で導入される)sps_chroma_alf_enabled_flag、(図6図8の要素602、702、及び802で導入される)sps_ccalf_enabled_flag、sps_lmcs_enabled_flag、及びsps_scaling_list_enabled_flagが全て0に等しくなり得ることを指定する。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、OlsInScope内の全てのスライスのsh_num_alf_aps_ids_lumaの値は0に等しくなり得る。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0097】
[0116] 一部の実施形態では、PPSレベル、PHレベル、又はSHレベルにおいてクロマALFプロセスを制御するために第2の信号(例えばPPSレベルフラグ)も導入することができる。例えばPPSレベルフラグ(例えばpps_chroma_alf_enabled_flag)は、クロマ成分のALFプロセスを制御するために使用することができる。0に等しいpps_chroma_alf_enabled_flagシンタックス要素は、PPSを参照してピクチャのクロマ成分を復号する場合において、適応ループフィルタが無効化され適用されないことを指定し得る。1に等しいpps_chroma_alf_enabled_flagシンタックス要素は、PPSを参照してピクチャのクロマ成分を復号する場合において、適応ループフィルタが有効化され適用され得ることを指定し得る。ない場合、pps_chroma_alf_enabled_flagシンタックス要素の値は0に等しいと推論される。この例は要素が0又は1であることに基づいて様々な結果を与えることが理解されるが、0及び1の指示は設計上の選択であり、このシンタックス要素及び他のシンタックス要素に関して結果を逆にできることが理解されよう(例えば0に等しいpps_chroma_alf_enabled_flagシンタックス要素は適応ループフィルタが有効化されることを指定し得る)。
【0098】
[0117] 図9図11は、提案する方法のピクチャパラメータセット(PPS)、ピクチャヘッダ(PH)、スライスヘッダ(SH)シンタックステーブルの例をそれぞれ示す。以下で提案する変更はVVC規格に加えることができ、又は他の映像コード化技術内で実装され得る。
【0099】
[0118] 図9の要素901に示すように、提案するフラグpps_chroma_alf_enabled_flagは、pps_chroma_tool_offsets_present_flagが1に等しい場合に条件付きでシグナリングされる。
【0100】
[0119] 図10は、PHに関連するスライスのルマ成分が参照するi番目のALF APSのaps_adaptation_parameter_set_idを指定するph_alf_aps_id_luma[i]シンタックス要素を示す。ph_alf_aps_id_luma[i]がある場合は以下が適用される:
- ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_luma_filter_signal_flagの値は1に等しくなり得る。
- ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのTemporalIdは、PHに関連するピクチャのTemporalId以下であり得る。
- ChromaArrayTypeが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのaps_chroma_present_flagの値は0に等しくなり得る。
- sps_ccalf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_cc_cb_filter_signal_flag及びalf_cc_cr_filter_signal_flagの値は0に等しくなり得る。
- 更に本開示の一部の実施形態では、図10の要素1001に示すように、pps_chroma_alf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びph_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_chroma_filter_signal_flagの値は0に等しくなり得る。
【0101】
[0120] 図11は、PHに関連するスライスのルマ成分が参照するi番目のALF APSのaps_adaptation_parameter_set_idを指定するph_alf_aps_id_luma[i]シンタックス要素を示す。ph_alf_aps_id_luma[i]がある場合は以下が適用される:スライスのルマ成分が参照するi番目のALF APSのaps_adaptation_parameter_set_idを指定するsh_alf_aps_id_luma[i]シンタックス要素。sh_alf_enabled_flagが1に等しくsh_alf_aps_id_luma[i]がない場合、sh_alf_aps_id_luma[i]の値はph_alf_aps_id_luma[i]の値に等しいと推論される。sh_alf_aps_id_luma[i]がある場合は以下が適用される:
- ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのTemporalIdは、コード化スライスNALユニットのTemporalId以下であり得る。
- ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_luma_filter_signal_flagの値は1に等しくなり得る。
- ChromaArrayTypeが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのaps_chroma_present_flagの値は0に等しくなり得る。
- sps_ccalf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_cc_cb_filter_signal_flag及びalf_cc_cr_filter_signal_flagの値は0に等しくなり得る。
- 更に本開示の一部の実施形態では、図11の要素1101に示すように、pps_chroma_alf_enabled_flagが0に等しい場合、ALF_APSに等しいaps_params_type及びsh_alf_aps_id_luma[i]に等しいaps_adaptation_parameter_set_idを有するAPS NALユニットのalf_chroma_filter_signal_flagの値は0に等しくなり得る。
【0102】
[0121] 一部の実施形態では、図9図11の新たなPPSレベルフラグpps_chroma_alf_enabled_flagシンタックス要素を導入することにより、no_aps_constraint_flagの定義を更新することができる。例えば1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内にPREFIX_APS_NUT又はSUFFIX_APS_NUTに等しいnuh_unit_typeを有するNALユニットがあり得ないこと、及び(図9図11の要素901、1001、及び1101で導入される)pps_chroma_alf_enabled_flag、(図9図11の要素902、1002、及び1102で導入される)sps_ccalf_enabled_flag、sps_lmcs_enabled_flag、及びsps_scaling_list_enabled_flagが全て0に等しくなり得ることを指定する。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、OlsInScope内の全てのスライスのsh_num_alf_aps_ids_lumaの値は0に等しくなり得る。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0103】
[0122] 一部の実施形態では、ALF及びCCALFの両方を無効化するためにno_aps_constraint_flagにセマンティック制約を適用する。例えば1に等しいno_aps_constraint_flagシンタックス要素は、OlsInScope内にPREFIX_APS_NUT又はSUFFIX_APS_NUTに等しいnuh_unit_typeを有するNALユニットがあり得ないこと、並びにsps_alf_enabled_flag、sps_ccalf_enabled_flag、sps_lmcs_enabled_flag、及びsps_scaling_list_enabled_flagが全て0に等しくなり得ることを指定し得る。一部の実施形態では、no_aps_constraint_flagシンタックス要素が1に等しい場合、sps_alf_enabled_flag、sps_ccalf_enabled_flag、sps_lmcs_enabled_flag、及びsps_scaling_list_enabled_flagの値が全て0になり得る。no_aps_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0104】
[0123] VVCの現在の設計の第2の欠点は、変換スキップ残差コード化(TSRC)を無効化することに関する。TSRCを無効化することは、以下の2つのシナリオの何れかの下で妨げられる。
【0105】
[0124] 第1のシナリオでは、スライスの依存量子化(DQ)又はサインデータハイディング(SDH)を有効化することが、TSRCの無効化が妨げられることを引き起こし得る。
【0106】
[0125] 第2のシナリオでは、TSRCの無効化を妨げるためにTSRCの制約に関係するフラグが使用され得る。
【0107】
[0126] 必要に応じてTSRCを無効化できるように、上記のシナリオの両方に対処すべきである。
【0108】
[0127] 第1のシナリオでは、スライスのDQ又はSDHを有効化することがTSRCの無効化を妨げ得る。とりわけ現在のVVCの設計のスライスヘッダシンタックスによれば、スライスレベルDQフラグ(即ちsh_dep_quant_used_flag)又はスライスレベルSDHフラグ(即ちsh_sign_data_hiding_used_flag)が1に等しいとき、TSRC無効化フラグ(即ちsh_ts_residual_coding_disabled_flag)が0に設定される。
【0109】
[0128] sh_dep_quant_used_flagシンタックス要素を0に設定することはTSRCを無効化し得る。sh_dep_quant_used_flagシンタックス要素の定義によれば、0に等しいsh_ts_residual_coding_disabled_flagシンタックス要素は、現在のスライスの変換スキップブロックの残差サンプルをシンタックス解析するためにresidual_ts_coding()シンタックス構造が使用されることを指定する。加えて、1に等しいsh_dep_quant_used_flagシンタックス要素は、依存量子化が現在のスライスに使用されることを指定する。1に等しいsh_sign_data_hiding_used_flagシンタックス要素は、サインビットハイディングが現在のスライスに使用されることを指定する。TSRCが無効化されるには、sh_dep_quant_used_flagシンタックス要素及びsh_sign_data_hiding_used_flagシンタックス要素の両方が0に等しいことが要求される。スライスのDQ又はSDHを有効化することは、TSRCの無効化を妨げることを引き起こし得る。
【0110】
[0129] 第2のシナリオでは、TSRC無効化フラグを0に設定することによって、TSRCの無効化を許可しないためにno_tsrc_constraint_flagシンタックス要素を使用することができる。とりわけ1に等しいno_tsrc_constraint_flagシンタックス要素は、sh_ts_residual_coding_disabled_flagが0に等しくなり得ることを指定する。0に等しいno_tsrc_constraint_flagシンタックス要素はかかる制約を課さない。記載したように、0に等しいsh_ts_residual_coding_disabled_flagシンタックス要素は、現在のスライスの変換スキップブロックの残差サンプルをシンタックス解析するためにresidual_ts_coding()シンタックス構造が使用されることを指定する。sh_ts_residual_coding_disabled_flagシンタックス要素が0に設定される場合、TSRCは有効化される。
【0111】
[0130] 従来のVVCの映像コード化設計では、以下の条件の全てが満たされる場合はTSRCが所与のスライスについて無効化され得る(例えばsh_ts_residual_coding_disabled_flagが1である):
- 依存量子化(DQ)が無効化される(sh_dep_quant_used_flag == 0)AND
- サインデータハイディング(SDH)が無効化される(sh_sign_data_hiding_used_flag == 0)
DQ及びSDHの両方を無効化することはTSRCを無効化し得る一方、DQ又はSDHの何れかを有効化することはTSRCの無効化を妨げ得る。
【0112】
[0131] 本開示の一部の実施形態では、TSRC等の一定の特徴を無効化するためにno_tsrc_constraint_flagシンタックス要素に制約を適用する。例えば以下の2つの組み合わせを許可しないために、以下の実施形態を提案する。
- no_tsrc_constraint_flagが1に等しく、DQが有効化される
- no_tsrc_constraint_flagが1に等しく、SDHが有効化される
【0113】
[0132] これらの提案方法は、TSRCの無効化が妨げられる状況に対処するために提供する。本開示の一部の実施形態では、TSRCを無効化するためにno_tsrc_constraint_flagシンタックス要素並びにDQ及びSDHに関係するシンタックス要素に制約を適用する。より優れたコード効率を有するTSRCの無効化の特徴を提供するために、現在のシンタックス要素を更新する。
【0114】
[0133] 例えば図12は、本開示のいくつかの実施形態と合致する、映像コンテンツを処理するための例示的なコンピュータ実施方法のフローチャートを示す。この方法は、復号器によって(例えば図3Aのプロセス300A又は図3Bのプロセス300Bによって)実行されてもよく、又は機器(例えば図4の機器400)の1つ又は複数のソフトウェア又はハードウェアコンポーネントによって実行されてもよい。例えばプロセッサ(例えば図4のプロセッサ402)がこの方法を実行し得る。一部の実施形態では、この方法は、コンピュータ(例えば図4の機器400)によって実行される、プログラムコード等のコンピュータ実行可能命令を含むコンピュータ可読媒体内に具体化されるコンピュータプログラム製品によって、実装され得る。この方法は以下のステップを含み得る。
【0115】
[0134] ステップ1201で、映像コンテンツを含むビットストリームを例えば復号器によって受信する。
【0116】
[0135] ステップ1202で、映像コンテンツに関連する第1の信号が所与の条件を満たすかどうかを判定する。第1の信号はno_tsrc_constraint_flagシンタックス要素であり得る。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素が1に等しいかどうかを判定する。
【0117】
[0136] ステップ1203で、第1の信号が所与の条件を満たすと判定することに応答し、依存量子化(DQ)及びサインデータハイディング(SDH)を少なくとも1つのスライスについて無効化する。例えばno_tsrc_constraint_flagシンタックス要素が1に等しいと判定される場合、DQ及びSDHが少なくとも1つのスライスについて無効化される。
【0118】
[0137] 一部の実施形態では、この方法は、第1の信号が所与の条件を満たすと判定することに応答し、変換スキップ残差コード化(TSRC)を少なくとも1つのスライスについて無効化することを更に含み得る。例えばno_tsrc_constraint_flagシンタックス要素が1に等しいと判定される場合、TSRC無効化フラグは1に設定される。
【0119】
[0138] 一部の実施形態では、DQ及びSDHをSPSレベル又はSHレベルで無効化することができる。一部の実施形態では、DQ及びSDHを全てのスライスについて無効化することができる。
【0120】
[0139] SPSレベルにおいて、DQ及びSDHの無効化が全てのスライスに適用される。一部の実施形態では、SPSレベルDQ及びSDHシンタックス要素に関係する制約を用いて、no_tsrc_constraint_flagシンタックス要素の定義を更新することができる。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素に関係する制約を用いて、SPSレベルDQ及びSDHシンタックス要素の両方の定義を更新することができる。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素とSPSレベルDQ及びSDHシンタックス要素との間の条件付きシグナリングを用いて、SPSシンタックスを更新することができる。
【0121】
[0140] SHレベルにおいて、全てのスライスのSHレベルDQ及びSDHシンタックス要素に関係する制約を用いて、no_tsrc_constraint_flagシンタックス要素の定義を更新することができる。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素に関係する制約を用いて、スライスのSHレベルDQ及びSDHシンタックス要素の両方の定義を更新することができ、DQ及びSDHの無効化はスライスに適用される。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素とスライスのSHレベルDQ及びSDHシンタックス要素との間の条件付きシグナリングを用いて、SHシンタックスを更新することができ、DQ及びSDHの無効化はスライスに適用される。SHレベルにおいて、上記で説明したようにDQ及びSDHの無効化は全てのスライス又は所与のスライスに適用することができる。
【0122】
[0141] 以下で提案する変更はVVC規格に加えることができ、又は他の映像コード化技術内で実装され得る。
【0123】
[0142] 一部の実施形態では、SPSレベルにおいてDQ及びSDHを無効化するためにno_tsrc_constraint_flagにセマンティック制約を適用する。従って、no_tsrc_constraint_flagのセマンティックについての以下で提案する変更をVVC規格に加えることができ、又は他の映像コード化技術内で実装し得る。例えば1に等しいno_tsrc_constraint_flagシンタックス要素は、sh_ts_residual_coding_disabled_flagが1に等しくなり得ること、並びにsps_dep_quant_enabled_flag及びsps_sign_data_hiding_enabled_flagがどちらも0に等しくなり得ることを指定し得る。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素が1に等しい場合、sh_ts_residual_coding_disabled_flagシンタックス要素、sps_dep_quant_enabled_flagシンタックス要素、及びsps_sign_data_hiding_enabled_flagシンタックス要素が0に等しい。no_tsrc_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。SPSレベルにおいて、DQ及びSDHの無効化は全てのスライスに適用される。
【0124】
[0143] 一部の実施形態では、CLVSのスライスの全てにおいてDQ及びSDHを無効化するためにno_tsrc_constraint_flagにセマンティック制約を適用する。従って、no_tsrc_constraint_flagのセマンティックについての以下で提案する変更をVVC規格に加えることができ、又は他の映像コード化技術内で実装し得る。例えば1に等しいno_tsrc_constraint_flagシンタックス要素は、全てのスライスについてsh_ts_residual_coding_disabled_flagが1に等しくなり得ること、sh_dep_quant_used_flag及びsh_sign_data_hiding_used_flagがどちらも0に等しくなり得ることを指定し得る。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素が1に等しい場合、sh_ts_residual_coding_disabled_flagシンタックス要素、sh_dep_quant_used_flagシンタックス要素、及びsh_sign_data_hiding_used_flagシンタックス要素が0に等しい。no_tsrc_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0125】
[0144] 一部の実施形態では、SPSレベルにおいてDQ及びSDHを無効化するためにsps_dep_quant_enabled_flag及びsps_sign_data_hiding_enabled_flagの両方にセマンティック制約を適用する。sps_dep_quant_enabled_flag及びsps_sign_data_hiding_enabled_flagのセマンティックについての以下で提案する変更をVVC規格に加えることができ、又は他の映像コード化技術内で実装し得る。例えば0に等しいsps_dep_quant_enabled_flagシンタックス要素は、SPSを参照するピクチャに対して依存量子化が無効化され使用されないことを指定し得る。1に等しいsps_dep_quant_enabled_flagシンタックス要素は、SPSを参照するピクチャに対して依存量子化が有効化され使用され得ることを指定し得る。一部の実施形態では、no_tsrc_constraint_flagの値が1に等しい場合、sps_dep_quant_enabled_flagの値は0に等しくなり得る。例えば0に等しいsps_sign_data_hiding_enabled_flagシンタックス要素は、SPSを参照するピクチャに対してサインビットハイディングが無効化され使用されないことを指定する。1に等しいsps_sign_data_hiding_enabled_flagシンタックス要素は、SPSを参照するピクチャに対してサインビットハイディングが有効化され使用され得ることを指定する。sps_sign_data_hiding_enabled_flagがない場合、sps_sign_data_hiding_enabled_flagは0に等しいと推論される。一部の実施形態では、no_tsrc_constraint_flagの値が1に等しい場合、sps_sign_data_hiding_enabled_flagの値は0に等しくなり得る。sps_dep_quant_enabled_flagシンタックス要素及びsps_sign_data_hiding_enabled_flagシンタックス要素の更新された定義に従い、全てのスライスについてDQ及びSDHをSPSレベルにおいて無効化することができる。
【0126】
[0145] 一部の実施形態では、スライスレベルDQフラグ(例えばsh_dep_quant_used_flag)及びSDHフラグ(例えばsh_sign_data_hiding_used_flag)に対してセマンティック制約を適用する。例えば0に等しいsh_dep_quant_used_flagシンタックス要素は、現在のスライスに依存量子化が使用されないことを指定し得る。1に等しいsh_dep_quant_used_flagシンタックス要素は、現在のスライスに依存量子化が使用されることを指定し得る。sh_dep_quant_used_flagがない場合、sh_dep_quant_used_flagは0に等しいと推論される。一部の実施形態では、no_tsrc_constraint_flagの値が1に等しい場合、sh_dep_quant_used_flagの値は0に等しくなり得る。例えば0に等しいsh_sign_data_hiding_used_flagシンタックス要素は、現在のスライスにサインビットハイディングが使用されないことを指定し得る。1に等しいsh_sign_data_hiding_used_flagシンタックス要素は、現在のスライスにサインビットハイディングが使用されることを指定し得る。sh_sign_data_hiding_used_flagがない場合、sh_sign_data_hiding_used_flagは0に等しいと推論される。一部の実施形態では、no_tsrc_constraint_flagの値が1に等しい場合、sh_sign_data_hiding_used_flagの値は0に等しくなり得る。現在のスライスについて、DQ及びSDHをSHレベルにおいて無効化することができる。
【0127】
[0146] 本開示の以下の実施形態では、TSRCを無効化するために条件付きシグナリングを用いて、SPSシンタックステーブルを更新することができる。一部の実施形態では、TSRCを無効化するために条件付きシグナリングを用いて、SHシンタックステーブルを更新することができる。
【0128】
[0147] SPSレベル又はSHレベルにおいて、SPSシンタックステーブル及びSHシンタックステーブルに従い、DQが無効化されるときSDHが有効化され得る。無効化されたDQについてDQ有効化を防ぐために、第1の信号を使用してDQの無効化後にSDHを無効化する。一部の実施形態では、第1の信号が所与の条件を満たすと判定することに応答して、少なくとも1つのスライスについてDQが無効化されているかどうかを判定し、DQが無効化されていることに応答して、少なくとも1つのスライスについてSDHを無効化する。例えばno_tsrc_constraint_flagシンタックス要素が1に等しいと判定される場合、DQが無効化されているかどうかを判定する。DQが無効化されていると判定される場合、SDHは無効化される。
【0129】
[0148] 一部の実施形態では、全てのスライスについてTSRCを無効化するためにSPSシンタックステーブルを更新する。図13は、提案する方法のSPSシンタックステーブルを示す。例えばno_tsrc_constraint_flagが0に等しい場合、sps_dep_quant_enabled_flag及びsps_sign_data_hiding_enabled_flagが条件付きでシグナリングされる。以下で提案するSPSシンタックステーブルの変更はVVC規格に加えることができ、又は他の映像コード化技術内で実装され得る。例えば図13の要素1301及び要素1302内で示すように、「!no_tsrc_constraint_flag」のシンタックスが追加される。no_tsrc_constraint_flagシンタックス要素が1に等しい場合、「!no_tsrc_constraint_flag」の値は0に等しく、sps_dep_quant_enabled_flagの値は0に設定される。0に等しいsps_dep_quant_enabled_flagシンタックス要素は、全てのスライスについて依存量子化がSPSレベルで無効化されることを指定する。要素1302内で、no_tsrc_constraint_flagシンタックス要素が1に等しい場合、「!no_tsrc_constraint_flag」の値は0に等しく、たとえ「!sps_dep_quant_enabled_flag」が1に等しくてもsps_sign_data_hiding_enabled_flagの値は依然として0に設定される。0に等しいsps_sign_data_hiding_enabled_flagシンタックス要素は、全てのスライスについてサインデータハイディングがSPSレベルで無効化されることを指定する。
【0130】
[0149] 記載したように、スライスに関してDQ及びSDHの両方が無効化される場合、スライスのTSRCが無効化され得る。DQ及びSDHの両方が全てのスライスについて無効化されるので、TSRCは全てのスライスについて無効化される。一部の実施形態では、スライスのTSRCを無効化するためにSHシンタックステーブルを更新する。図14は、提案する方法のSHシンタックステーブルを示す。例えばno_tsrc_constraint_flagが0に等しい場合、スライスレベルDQ sh_dep_quant_used_flag、及びSDH sh_sign_data_hiding_used_flagが条件付きでシグナリングされる。図14の要素1401及び要素1402内で示すように、「!no_tsrc_constraint_flag」がシンタックス内に追加される。no_tsrc_constraint_flagシンタックス要素が1に等しい場合、sh_dep_quant_used_flagシンタックス要素は0に設定される。要素1402内で示すように、no_tsrc_constraint_flagシンタックス要素が1に等しい場合、たとえ「!sh_sign_data_hiding_used_flag」の値が1でもsh_sign_data_hiding_used_flagシンタックス要素は依然として0に設定される。sh_dep_quant_used_flagシンタックス要素及びsh_sign_data_hiding_used_flagシンタックス要素の両方が0に等しいときsh_ts_residual_coding_disabled_flagが条件付きでシグナリングされるので、sh_ts_residual_coding_disabled_flagシンタックス要素は1に設定される。
【0131】
[0150] 一部の実施形態では、変換スキップモードを無効化するためにno_tsrc_constraint_flagにセマンティック制約を適用する。例えば1に等しいno_tsrc_constraint_flagシンタックス要素は、sps_transform_skip_enabled_flag及びsh_ts_residual_coding_disabled_flagが0に等しくなり得ることを指定し得る。一部の実施形態では、no_tsrc_constraint_flagシンタックス要素が1に等しい場合、sps_transform_skip_enabled_flagシンタックス要素は0に等しい。no_tsrc_constraint_flagシンタックス要素が0に等しい場合、かかる制約を課すことはできない。
【0132】
[0151] 一部の実施形態では、no_tsrc_constraint_flagシンタックス要素を除去することによって一般制約シンタックスを更新する。DQ又はSDHを無効化することはコード化効率に影響を及ぼし得ることを指摘しておく。変換スキップがSPSレベルにおいて無効化される場合、TSRCは無効化され得る。変換スキップモードを無効化するために制約フラグ「no_transform_skip_constraint_flag」を使用することができる。1に等しいno_transform_skip_constraint_flagシンタックス要素は、変換スキップモードが無効化されることを指定し得る。no_transform_skip_constraint_flagシンタックス要素が1に等しい場合、変換スキップモードはないのでTSRCは暗黙的に無効化される。従って、no_tsrc_constraint_flagの機能がno_transform_skip_constraint_flagの機能と重複する。TSRCを無効化するために、図15に示す一般制約シンタックスの例からno_tsrc_constraint_flagシンタックス要素を除去することができ、DQ及びSDHを無効化する必要なしにno_transform_skip_constraint_flagシンタックス要素を使用することができる。
【0133】
[0152] 現在のVVCの設計の第3の欠点はシンタックスの順序を対象とする。例えばVVCドラフト9では、シンタックスの順序がモジュール形式となっていない。SPSシンタックステーブルでは、変換に関係するシンタックスがシンタックステーブルの様々な場所に散乱している。ピクチャヘッダ(PH)及びスライスヘッダ(SH)では、インループフィルタのシンタックス要素の一部がシンタックステーブルの上部にあるのに対し、他の一部のものはシンタックステーブルの下部にある。
【0134】
[0153] 一部の実施形態では、図16A~Hに示すように、変換に関係する全てのシンタックス要素が一緒に配置されるようにSPSシンタックステーブルのシンタックス要素が順序付けされる。最大変換サイズに関係するシンタックス要素(例えば図16Cの要素1601)、変換スキップに関係するシンタックス要素(例えば図16Dの要素1602)、及び複数変換セット(MTS)に関係するシンタックス要素(例えば図16Dの要素1603)、及び低周波数非分離変換(LFNST)に関係するシンタックス要素(例えば図16Dの要素1604)が、SPSシンタックステーブルの例の中で連続してシグナリングされる。同様に、sps_ccalf_enabled_flagのシグナリングの直後にsps_lmcs_enabled_flag(例えば図16Dの要素1605)がシグナリングされる。取り消し線で印付けされているシンタックス要素は、並べ替える前にシンタックス要素があった場所である。
【0135】
[0154] 一部の実施形態では、図17A~Fに示すようにピクチャヘッダ(PH)シンタックスを並べ替える。例えば図17B~Cの要素17011及び17012に示すように、SAO及びデブロッキングプロセスに関係するピクチャヘッダ(PH)シンタックス要素が、ALF及びLMCSに関係するシンタックスのシグナリングの直後にシグナリングされる。取り消し線で印付けされているシンタックス要素は、並べ替える前にシンタックス要素があった場所である。
【0136】
[0155] 一部の実施形態では、図18A~Eに示すようにスライスヘッダ(SH)シンタックスを並べ替える。例えばSAO及びデブロッキングプロセスに関係するスライスヘッダシンタックス要素(例えば図18Bの要素1801)は、ALF及びLMCSに関係するシンタックスの直後にシグナリングされる。取り消し線で印付けされているシンタックス要素は、並べ替える前にシンタックス要素があった場所である。上記の実施形態は実装中に組み合わせることができることが理解されよう。
【0137】
[0156] 一部の実施形態では、命令を含む非一時的コンピュータ可読記憶媒体も提供され、命令は、上記の方法を実行するための装置(開示する符号器及び復号器等)によって実行され得る。一般的な非一時的媒体は、例えば、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、ソリッドステートドライブ、磁気テープ若しくは他の任意の磁気データ記憶媒体、CD-ROM、他の任意の光学データ記憶媒体、孔のパターンを有する任意の物理媒体、RAM、PROM及びEPROM、FLASH(登録商標)-EPROM若しくは他の任意のフラッシュメモリ、NVRAM、キャッシュ、レジスタ、他の任意のメモリチップ若しくはカートリッジ及びそれらのもののネットワーク化されたバージョンを含む。装置は、1つ又は複数のプロセッサ(CPU)、入力/出力インタフェース、ネットワークインタフェース及び/又はメモリを含み得る。
【0138】
[0157] 本明細書の「第1の」及び「第2の」等の関係語は、あるエンティティ又は操作を別のエンティティ又は操作と区別するために使用されるに過ぎず、それらのエンティティ又は操作間のいかなる実際の関係又は順序も必要としないか又は含意しないことに留意すべきである。更に、「含む」、「有する」、「含有する」及び「包含する」並びに他の同様の形式の用語は、意味の点で均等であることを意図し、これらの用語の何れか1つの後に続くアイテムがかかるアイテムの網羅的列挙であることを意図していないか、又は列挙するアイテムのみに限定されることを意図していない点で非限定的であることを意図する。
【0139】
[0158] 本明細書で使用するとき、別段の定めがない限り、「又は」という語は、実行不可能な場合を除いて、あり得る全ての組み合わせを包含する。例えば、あるデータベースがA又はBを含み得ると述べた場合、別段の定めがない限り又は実行不可能でない限り、そのデータベースは、A、B、A及びBを含むことができる。第2の例として、あるデータベースがA、B又はCを含み得ると述べた場合、別段の定めがない限り又は実行不可能でない限り、そのデータベースは、A、B、C、A及びB、A及びC、B及びC、A及びB及びCを含むことができる。
【0140】
[0159] 上記で説明した実施形態は、ハードウェア、ソフトウェア(プログラムコード)、又はハードウェアとソフトウェアとの組み合わせによって実装できることが理解されるであろう。ソフトウェアによって実装される場合、ソフトウェアは、上記のコンピュータ可読媒体に記憶することができる。ソフトウェアは、プロセッサによって実行されるとき、開示する方法を実行することができる。本開示で説明した計算ユニット及び他の機能ユニットは、ハードウェア、ソフトウェア、又はハードウェアとソフトウェアとの組み合わせによって実装することができる。上記のモジュール/ユニットの複数を1つのモジュール/ユニットとして組み合わせることができ、上記のモジュール/ユニットのそれぞれを複数のサブモジュール/サブユニットに更に分割できることも当業者であれば理解するであろう。
【0141】
[0160] 上記の本明細書では、実装形態ごとに変わり得る多数の具体的な詳細に関して実施形態を説明してきた。記載した実施形態に対する一定の適応形態及び修正形態がなされ得る。本明細書を検討し、本明細書で開示する本発明を実践することで他の実施形態が当業者に明らかになり得る。本明細書及び例は、専ら例示として検討され、本開示の真の範囲及び趣旨は、添付の特許請求の範囲によって示されることを意図する。図中に示すステップの順序は、例示目的に過ぎず、特定のステップの順序に限定されることを意図しない。そのため、それらのステップは、同じ方法を実装しながら異なる順序で実行できることを当業者であれば理解することができる。
【0142】
[0161] 図面及び本明細書で例示的実施形態を開示してきた。しかし、それらの実施形態に対する多くの改変形態及び修正形態がなされ得る。従って、特定の用語を使用したが、それらの用語は、限定目的ではなく、全般的及び説明的な意味で使用されたものに過ぎない。
図1
図2A
図2B
図3A
図3B
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16A
図16B
図16C
図16D
図16E
図16F
図16G
図16H
図17A
図17B
図17C
図17D
図17E
図17F
図18A
図18B
図18C
図18D
図18E
【手続補正書】
【提出日】2023-05-15
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
ビットストリームを復号して映像ストリームの1つまたは複数のピクチャを出力するコンピュータ実施方法であって、
適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットを含まない、映像コンテンツに関連するビットストリームを受信することと、
前記ビットストリームのコード化された情報を使用して1つ又は複数のピクチャを復号することであって、前記復号することが、
前記ビットストリーム内に前記APS NALユニットがあるかどうかを判定すること、及び
前記ビットストリーム内に前記APS NALユニットがないと前記判定することに応答して、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化すること
を含む、前記復号することと、
所定の1組のフィルタに関連するスライスレベルフラグに基づいてルマALFプロセスを実行することと
を含む、方法。
【請求項2】
前記ビットストリーム内に前記APS NALユニットがあるかどうかを前記判定することが、前記ビットストリーム内の第1の信号に基づく、請求項1に記載の方法。
【請求項3】
前記第1の信号がフラグであり、前記方法が、
前記フラグが1に等しい値を有することに応答して、前記受信されたビットストリーム内に前記APS NALユニットがないと判定すること
を更に含む、請求項2に記載の方法。
【請求項4】
ピクチャパラメータセットレベル、シーケンスパラメータセットレベル、ピクチャヘッダレベル、又はスライスヘッダレベルにおいて前記クロマALFプロセスを制御するための第2の信号を受信すること
を更に含む、請求項1に記載の方法。
【請求項5】
前記第2の信号が、前記映像コンテンツに関連するコード化層映像シーケンス(CLVS)内のピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項4に記載の方法。
【請求項6】
前記第2の信号が、前記映像コンテンツに関連するピクチャパラメータセット(PPS)を参照するピクチャのクロマ成分を復号する際に前記ALFプロセスが有効化されるかどうかを示す、
請求項4に記載の方法。
【請求項7】
前記CCALFプロセス及び前記クロマALFプロセスの両方を無効化することが、
第1のシーケンスレベルフラグを受信することであって、前記第1のシーケンスレベルフラグが、当該シーケンスレベルフラグに関連する映像シーケンスについて前記CCALFプロセスが無効化されることを示すこと、及び
1つ又は複数のスライスレベルフラグを受信することであって、前記1つ又は複数のスライスレベルフラグが、当該1つ又は複数のスライスレベルフラグに関連する映像スライスについて前記クロマALFプロセスが無効化されることを示すこと
を更に含む、請求項1に記載の方法。
【請求項8】
前記第1のシーケンスレベルフラグが、シーケンスパラメータセット(SPS)の一部であり、前記第1のシーケンスレベルフラグが、クロマスケーリングによるルママッピング(LMCS)が有効化されるかどうかを示す第2のシーケンスレベルフラグの直前にシグナリングされる、請求項7に記載の方法。
【請求項9】
映像シーケンスをビットストリームに符号化する方法であって、
映像シーケンスを受信すること、
前記映像シーケンスの1つ又は複数のピクチャを符号化すること、及び
ビットストリームを生成すること、
を含み、
前記符号化することが、
前記ビットストリーム内に適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットがあるかどうかを示す第1のフラグを符号化すること、
前記第1のフラグが前記ビットストリーム内に前記APS NALユニットがないことを示すことに応答して、クロスコンポーネント適応ループフィルタ(CCALF)プロセス及びクロマ適応ループフィルタ(ALF)プロセスの両方を無効化する1組のフラグを符号化すること、及び
ルマALFプロセスを実行するために使用される所定の1組のフィルタに関連するスライスレベルフラグを符号化すること
を含む、方法。
【請求項10】
前記第1の信号が第1の値を有することに応答して、前記CCALFプロセス及び前記ALFプロセスの両方を無効化する前記1組のフラグを符号化すること
を更に含む、請求項9に記載の方法。
【請求項11】
前記第1の値が1に等しい、請求項10に記載の方法。
【請求項12】
前記1組のフラグが第2のフラグを含み、前記方法が、
ピクチャパラメータセットレベル、シーケンスパラメータセットレベル、ピクチャヘッダレベル、又はスライスヘッダレベルにおいて前記クロマALFプロセスを無効化するように前記第2のフラグの値を設定すること
を更に含む、請求項9に記載の方法。
【請求項13】
前記第2のフラグが、前記映像コンテンツに関連するコード化層映像シーケンス(CLVS)内のピクチャのクロマ成分について前記ALFプロセスが有効化されるかどうかを示す、
請求項9に記載の方法。
【請求項14】
前記第2のフラグが、前記映像コンテンツに関連するピクチャパラメータセット(PPS)を参照するピクチャのクロマ成分について前記ALFプロセスが有効化されるかどうかを示す、
請求項9に記載の方法。
【請求項15】
前記1組のフラグが、
第1のシーケンスレベルフラグであって、前記第1のシーケンスレベルフラグに関連する映像シーケンスについて前記CCALFプロセスが無効化されることを示す、第1のシーケンスレベルフラグ、及び
1つ又は複数のスライスレベルフラグであって、前記1つ又は複数のスライスレベルフラグに関連する映像スライスについて前記クロマALFプロセスが無効化されることを示す、1つ又は複数のスライスレベルフラグ
を含む、請求項9に記載の方法。
【請求項16】
前記第1のシーケンスレベルフラグが、シーケンスパラメータセット(SPS)の一部であり、前記第1のシーケンスレベルフラグが、クロマスケーリングによるルママッピング(LMCS)が有効化されるかどうかを示す第2のシーケンスレベルフラグの直前にシグナリングされる、請求項15に記載の方法。
【請求項17】
映像コンテンツに関連するビットストリームを記憶する非一時的コンピュータ可読媒体であって、前記ビットストリームが、
前記ビットストリーム内に、適応パラメータセット(APS)ネットワーク抽象化層(NAL)ユニットがないことを示すフラグ、
クロスコンポーネント適応ループフィルタ(CCALF)プロセスが無効化されることを示す第1のシーケンスレベルフラグ、
クロマ適応ループフィルタ(ALF)プロセスが無効化されることを示す1つ又は複数のスライスレベルフラグ、
ルマALFプロセスが有効化されることを示すスライスレベルフラグ、及び
所定の1組のフィルタが前記ルマALFプロセスに使用されることを示すスライスレベルフラグ
を含む、非一時的コンピュータ可読媒体。
【請求項18】
前記ビットストリームが、
シーケンスパラメータセット(SPS)を更に含み、
前記SPSが、前記第1のシーケンスレベルフラグ及び第2のシーケンスレベルフラグを含み、前記第2のシーケンスレベルフラグが、クロマスケーリングによるルママッピング(LMCS)が有効化されるかどうかを示し、前記第2のシーケンスレベルフラグが、前記第1のシーケンスレベルフラグの直後にシグナリングされる、請求項17に記載の非一時的コンピュータ可読媒体。
【国際調査報告】