特開 2024-19538 ＤＰＢサイズベースの参照ピクチャエントリ制約条件

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024019538

(43)【公開日】2024-02-09

(54)【発明の名称】ＤＰＢサイズベースの参照ピクチャエントリ制約条件

(51)【国際特許分類】

   H04N 19/70 20140101AFI20240202BHJP

   H04N 19/30 20140101ALI20240202BHJP

【ＦＩ】

H04N19/70

H04N19/30

【審査請求】有

【請求項の数】18

【出願形態】ＯＬ

【外国語出願】

(21)【出願番号】P 2023210287

(22)【出願日】2023-12-13

(62)【分割の表示】P 2022521011の分割

【原出願日】2020-10-06

(31)【優先権主張番号】62/911,808

(32)【優先日】2019-10-07

(33)【優先権主張国・地域又は機関】US

(71)【出願人】

【識別番号】504161984

【氏名又は名称】ホアウェイ・テクノロジーズ・カンパニー・リミテッド

(74)【代理人】

【識別番号】100110364

【弁理士】

【氏名又は名称】実広 信哉

(74)【代理人】

【識別番号】100133569

【弁理士】

【氏名又は名称】野村 進

(72)【発明者】

【氏名】イェ－クイ・ワン

(57)【要約】

【課題】ビデオコーディングメカニズムを提供する。
【解決手段】このメカニズムは、現在のピクチャ、および0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約されている参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())を含むビットストリームを受信することを含む。現在のピクチャは、ref_pic_list_struct()に基づきデコードされ、デコード済みピクチャを生成する。デコード済みピクチャは、デコード済みビデオシーケンスの一部として表示するために転送される。
【選択図】図８

【特許請求の範囲】

【請求項1】

デコーダによって実装される方法であって、
前記デコーダによって、現在のピクチャと、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())と、を含むビットストリームを受信するステップと、
前記デコーダによって、前記ref_pic_list_struct()に基づき前記現在のピクチャをデコードしてデコード済みピクチャを生成するステップとを含む方法。

【請求項2】

前記ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記され、前記num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され、前記num_ref_entries[listIdx][rplsIdx]は、前記ref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する、請求項1に記載の方法。

【請求項3】

前記ref_pic_list_structで参照される参照ピクチャのセット(setOfRefPics)内のピクチャの数は、前記最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、請求項1または2に記載の方法。

【請求項4】

前記ref_pic_list_struct()は、参照ピクチャリスト0(RefPicList[0])および参照ピクチャリスト1(RefPicList[1])を含み、前記setOfRefPicsは、前記現在のピクチャと同じネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)を有するRefPicList[0]内のすべてのエントリおよび前記現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、請求項1から3のいずれか一項に記載の方法。

【請求項5】

前記setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットである、請求項1から4のいずれか一項に記載の方法。

【請求項6】

前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())を含み、前記dpb_parameters()は、最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)を含み、前記最大デコード済みピクチャバッファサイズは、前記max_dec_pic_buffering_minus1に対応する、請求項1から5のいずれか一項に記載の方法。

【請求項7】

前記dpb_parameters()は、ビデオパラメータセット(VPS)またはシーケンスパラメータセット(SPS)に含まれる、請求項1から6のいずれか一項に記載の方法。

【請求項8】

エンコーダによって実装される方法であって、
ビットストリーム内に、前記エンコーダによって、参照ピクチャに基づき現在のピクチャをエンコードするステップと、
前記ビットストリーム内に、前記エンコーダによって、前記参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む、参照ピクチャリストシンタックス構造(ref_pic_list_struct())をエンコードするステップと、
前記エンコーダによって、デコーダに向けた通信のために前記ビットストリームを記憶するステップとを含む方法。

【請求項9】

前記ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記され、前記num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され、前記num_ref_entries[listIdx][rplsIdx]は、前記ref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する、請求項8に記載の方法。

【請求項10】

前記ref_pic_list_structで参照される参照ピクチャのセット(setOfRefPics)内のピクチャの数は、前記最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、請求項8または9に記載の方法。

【請求項11】

前記ref_pic_list_struct()は、参照ピクチャリスト0(RefPicList[0])および参照ピクチャリスト1(RefPicList[1])を含み、前記setOfRefPicsは、前記現在のピクチャと同じネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)を有するRefPicList[0]内のすべてのエントリおよび前記現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、請求項8から10のいずれか一項に記載の方法。

【請求項12】

前記setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットである、請求項8から11のいずれか一項に記載の方法。

【請求項13】

前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())を含み、前記dpb_parameters()は、最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)を含み、前記最大デコード済みピクチャバッファサイズは、前記max_dec_pic_buffering_minus1に対応する、請求項8から12のいずれか一項に記載の方法。

【請求項14】

前記dpb_parameters()は、ビデオパラメータセット(VPS)またはシーケンスパラメータセット(SPS)に含まれる、請求項8から13のいずれか一項に記載の方法。

【請求項15】

プロセッサと、前記プロセッサに結合された受信器と、前記プロセッサに結合されたメモリと、前記プロセッサに結合された送信器とを備え、前記プロセッサ、前記受信器、前記メモリ、および前記送信器は、請求項1から14のいずれか一項に記載の方法を実行するように構成されるビデオコーディングデバイス。

【請求項16】

ビデオコーディングデバイスによる使用のためのコンピュータプログラム製品を含む非一時的コンピュータ可読媒体であって、前記コンピュータプログラム製品は、プロセッサによって実行されたとき、前記ビデオコーディングデバイスに請求項1から14のいずれか一項に記載の方法を実行させるような前記非一時的コンピュータ可読媒体に記憶されたコンピュータ実行可能命令を含む、非一時的コンピュータ可読媒体。

【請求項17】

現在のピクチャと、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())と、を含むビットストリームを受信するための受信手段と、
前記ref_pic_list_struct()に基づき前記現在のピクチャをデコードしてデコード済みピクチャを生成するためのデコード手段とを備えるデコーダ。

【請求項18】

前記デコーダは、請求項1から7のいずれか一項に記載の方法を実行するようにさらに構成される、請求項17に記載のデコーダ。

【請求項19】

ビットストリーム内に、参照ピクチャに基づき現在のピクチャをエンコードし、
前記ビットストリーム内に、前記参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む、参照ピクチャリストシンタックス構造(ref_pic_list_struct())をエンコードするためのエンコード手段と、
デコーダに向けた通信のために前記ビットストリームを記憶するための記憶手段とを備えるエンコーダ。

【請求項20】

前記エンコーダは、請求項8から14のいずれか一項に記載の方法を実行するようにさらに構成される、請求項19に記載のエンコーダ。

【発明の詳細な説明】

【技術分野】

【0001】

関連出願の相互参照
本特許出願は、参照により本明細書に組み込まれるYe-Kui Wangによって2019年10月7日に出願された「Scalability in Video Coding」なる名称の米国特許仮出願第62/911,808号に基づく優先権を主張するものである。

【0002】

本開示は、一般的に、ビデオコーディングに関連し、具体的には、サブビットストリーム抽出がマルチレイヤビットストリーム上で実行されるときのエラーを防止するためのメカニズムに特に関連する。

【背景技術】

【0003】

比較的短いビデオであっても描画するために必要なビデオデータの量は実質的に大量になり得、その結果、データがストリーミングされるか、または帯域幅容量が限られている通信ネットワークを介した他の何らかの方法で伝達されるときに面倒なことが生じ得る。したがって、今日の電気通信ネットワークでは、ビデオデータは、伝達される前に圧縮されるのが一般的である。ビデオのサイズも、メモリリソースが限られていることもあり得るのでビデオがストレージデバイスに記憶されるときに問題になる可能性がある。ビデオ圧縮デバイスは、伝送元でソフトウェアおよび/またはハードウェアを使用して伝送または記憶の前にビデオデータをコーディングし、それによってデジタルビデオイメージを表現するために必要なデータ量を削減することが多い。次いで、圧縮されたデータは、ビデオデータをデコードするビデオ伸張デバイスによって伝送先に受信される。ネットワークリソースに限度があり、求められる映像品質が高まる一方であることから、画質をほとんどまたはまったく犠牲にすることなく圧縮率を改善する圧縮および伸張技術の改善が望ましい。

【発明の概要】

【課題を解決するための手段】

【0004】

一実施形態において、本開示は、デコーダによって実装される方法を含み、この方法はデコーダによって、現在のピクチャ、および0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約されている参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())を含むビットストリームを受信することと、デコーダによって、ref_pic_list_struct()に基づき現在のピクチャをデコードしてデコード済みピクチャを生成することとを含む。

【0005】

ピクチャは、イントラ予測、インター予測、および/またはレイヤ間予測に従ってコーディングされ得る。イントラ予測では、ピクチャ内のブロックは、同じピクチャ内の他のブロックを参照することによってコーディングされる。インター予測では、現在のピクチャ内のブロックは、1つまたは複数の他のピクチャ内のブロックを参照することによってコーディングされる。レイヤ間予測では、ピクチャは、レイヤ内にコーディングされ、出力レイヤ内のピクチャのブロックは、参照レイヤ内のピクチャのブロックを参照することによってコーディングされる。ref_pic_list_struct()は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct()は、現在のピクチャに対して採用することができる最大数の参照エントリを含む。そのようなシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。本発明の例は、異なるタイプのレイヤに対して異なるピクチャバッファ使用をサポートするためにref_pic_list_struct()を制約するためのメカニズムを含む。たとえば、num_ref_entriesシンタックス要素は、ref_pic_list_struct()に含まれ得る。num_ref_entriesは、各ピクチャに使用されるエントリの数を示す。num_ref_entriesは、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約され得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entriesを制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。さらに、各ピクチャに対する参照ピクチャのセット(setofRefPics)は、すべてのレイヤに対してグローバルである静的な値の代わりにレイヤに基づき異なる最大デコード済みピクチャバッファサイズによって制約され得る。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0006】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_struct()はリストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記されることと、num_ref_entriesはnum_ref_entries[listIdx][rplsIdx]と表記されることと、num_ref_entries[listIdx][rplsIdx]はref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定することと、を規定する。

【0007】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_structで参照されるsetOfRefPics内のピクチャの数は最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、ことを規定する。

【0008】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_struct()は参照ピクチャリスト0(RefPicList[0])および参照ピクチャリスト1(RefPicList[1])を含むことと、setOfRefPicsは現在のピクチャと同じネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)を有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャであることと、を規定する。

【0009】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、setOfRefPicsは各ピクチャのすべてのスライスについて同じセットである、ことを規定する。

【0010】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ビットストリームはデコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())を含むことと、dpb_parameters()は最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)を含むことと、最大デコード済みピクチャバッファサイズはmax_dec_pic_buffering_minus1に対応することと、を規定する。

【0011】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、dpb_parameters()はビデオパラメータセット(VPS)またはシーケンスパラメータセット(SPS)に含まれる、ことを規定する。

【0012】

一実施形態において、本開示は、エンコーダによって実装される方法を含み、この方法はビットストリーム内に、エンコーダによって、参照ピクチャに基づき現在のピクチャをエンコードすることと、ビットストリーム内に、エンコーダによって、参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約されるnum_ref_entriesを含む、ref_pic_list_struct()をエンコードすることと、エンコーダによって、デコーダに向けた通信のためにビットストリームを記憶することとを含む。

【0013】

ピクチャは、イントラ予測、インター予測、および/またはレイヤ間予測に従ってコーディングされ得る。イントラ予測では、ピクチャ内のブロックは、同じピクチャ内の他のブロックを参照することによってコーディングされる。インター予測では、現在のピクチャ内のブロックは、1つまたは複数の他のピクチャ内のブロックを参照することによってコーディングされる。レイヤ間予測では、ピクチャは、レイヤ内にコーディングされ、出力レイヤ内のピクチャのブロックは、参照レイヤ内のピクチャのブロックを参照することによってコーディングされる。ref_pic_list_struct()は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct()は、現在のピクチャに対して採用することができる参照エントリの最大数を含む。そのようなシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。本発明の例は、異なるタイプのレイヤに対して異なるピクチャバッファ使用をサポートするためにref_pic_list_struct()を制約するためのメカニズムを含む。たとえば、num_ref_entriesシンタックス要素は、ref_pic_list_struct()に含まれ得る。num_ref_entriesは、各ピクチャに使用されるエントリの数を示す。num_ref_entriesは、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約され得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entriesを制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。さらに、各ピクチャに対するsetofRefPicsは、すべてのレイヤに対してグローバルである静的な値の代わりにレイヤに基づき異なる最大デコード済みピクチャバッファサイズによって制約され得る。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0014】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_struct()はlistIdxおよびrplsIdxに従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記されることと、num_ref_entriesはnum_ref_entries[listIdx][rplsIdx]と表記されることと、num_ref_entries[listIdx][rplsIdx]はref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定することと、を規定する。

【0015】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_structで参照されるsetOfRefPics内のピクチャの数は最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、ことを規定する。

【0016】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ref_pic_list_struct()はRefPicList[0]およびRefPicList[1]を含むことと、setOfRefPicsは現在のピクチャと同じnuh_layer_idを有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャであることと、を規定する。

【0017】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、setOfRefPicsは各ピクチャのすべてのスライスについて同じセットである、ことを規定する。

【0018】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、ビットストリームはdpb_parameters()を含むことと、dpb_parameters()はmax_dec_pic_buffering_minus1を含むことと、最大デコード済みピクチャバッファサイズはmax_dec_pic_buffering_minus1に対応することと、を規定する。

【0019】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、dpb_parameters()はVPSまたはSPSに含まれる、ことを規定する。

【0020】

一実施形態において、本開示は、ビデオコーディングデバイスを含み、これはプロセッサと、プロセッサに結合された受信器と、プロセッサに結合されたメモリと、プロセッサに結合された送信器とを備え、プロセッサ、受信器、メモリ、および送信器は、前述の態様のいずれかの方法を実行するように構成される。

【0021】

一実施形態において、本開示は、ビデオコーディングデバイスによって使用するためのコンピュータプログラム製品を含む非一時的コンピュータ可読媒体を含み、コンピュータプログラム製品は、プロセッサによって実行されたときにビデオコーディングデバイスに前述の態様のいずれかの方法を実行させるように非一時的コンピュータ可読媒体に記憶されているコンピュータ実行可能命令を含む。

【0022】

一実施形態において、本開示は、デコーダを含み、これは現在のピクチャ、および0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約されているnum_ref_entriesを含むref_pic_list_struct()を含むビットストリームを受信するための受信手段と、ref_pic_list_struct()に基づき現在のピクチャをデコードしてデコード済みピクチャを生成するためのデコード手段と、デコード済みビデオシーケンスの一部として表示するためにデコード済みピクチャを転送するための転送手段とを備える。

【0023】

ピクチャは、イントラ予測、インター予測、および/またはレイヤ間予測に従ってコーディングされ得る。イントラ予測では、ピクチャ内のブロックは、同じピクチャ内の他のブロックを参照することによってコーディングされる。インター予測では、現在のピクチャ内のブロックは、1つまたは複数の他のピクチャ内のブロックを参照することによってコーディングされる。レイヤ間予測では、ピクチャは、レイヤ内にコーディングされ、出力レイヤ内のピクチャのブロックは、参照レイヤ内のピクチャのブロックを参照することによってコーディングされる。ref_pic_list_struct()は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct()は、現在のピクチャに対して採用することができる最大数の参照エントリを含む。そのようなシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。本発明の例は、異なるタイプのレイヤに対して異なるピクチャバッファ使用をサポートするためにref_pic_list_struct()を制約するためのメカニズムを含む。たとえば、num_ref_entriesシンタックス要素は、ref_pic_list_struct()に含まれ得る。num_ref_entriesは、各ピクチャに使用されるエントリの数を示す。num_ref_entriesは、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約され得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entriesを制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。さらに、各ピクチャに対するsetofRefPicsは、すべてのレイヤに対してグローバルである静的な値の代わりにレイヤに基づき異なる最大デコード済みピクチャバッファサイズによって制約され得る。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0024】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、デコーダが前述の態様のいずれかの方法を実行するようにさらに構成される、ことを規定する。

【0025】

一実施形態において、本開示は、エンコーダを含み、これは、ビットストリーム内に、参照ピクチャに基づき現在のピクチャをエンコードし、ビットストリーム内に、参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約されるnum_ref_entriesを含む、ref_pic_list_struct()をエンコードするためのエンコード手段と、デコーダに向けた通信のためにビットストリームを記憶するための記憶手段とを備える。

【0026】

ピクチャは、イントラ予測、インター予測、および/またはレイヤ間予測に従ってコーディングされ得る。イントラ予測では、ピクチャ内のブロックは、同じピクチャ内の他のブロックを参照することによってコーディングされる。インター予測では、現在のピクチャ内のブロックは、1つまたは複数の他のピクチャ内のブロックを参照することによってコーディングされる。レイヤ間予測では、ピクチャは、レイヤ内にコーディングされ、出力レイヤ内のピクチャのブロックは、参照レイヤ内のピクチャのブロックを参照することによってコーディングされる。ref_pic_list_struct()は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct()は、現在のピクチャに対して採用することができる最大数の参照エントリを含む。そのようなシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。本発明の例は、異なるタイプのレイヤに対して異なるピクチャバッファ使用をサポートするためにref_pic_list_struct()を制約するためのメカニズムを含む。たとえば、num_ref_entriesシンタックス要素は、ref_pic_list_struct()に含まれ得る。num_ref_entriesは、各ピクチャに使用されるエントリの数を示す。num_ref_entriesは、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約され得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entriesを制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。さらに、各ピクチャに対するsetofRefPicsは、すべてのレイヤに対してグローバルである静的な値の代わりにレイヤに基づき異なる最大デコード済みピクチャバッファサイズによって制約され得る。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0027】

任意選択で、前述の態様のいずれかにおいて、態様の別の実装形態は、エンコーダが前述の態様のいずれかの方法を実行するようにさらに構成される、ことを規定する。

【0028】

わかりやすくするために、前述の実施形態のうちのいずれか1つが他の前述の実施形態のうちのいずれか1つまたは複数と組み合わされて、本開示の範囲内の新しい実施形態を形成するものとしてよい。

【0029】

これらおよび他の特徴は、添付図面および請求項と併せて次の詳細な説明からより明確に理解されるであろう。

【0030】

本開示をより完全に理解できるように、類似の番号は類似の部分を表す、添付図面および詳細な説明に関して以下の簡単な説明が参照される。

【図面の簡単な説明】

【0031】

【図1】ビデオ信号をコーディングする例示的な一方法のフローチャートである。

【図2】ビデオコーディングのための例示的なコーディングおよびデコーディング(コーデック)システムの概略図である。

【図3】例示的なビデオエンコーダを例示する概略図である。

【図4】例示的なビデオデコーダを例示する概略図である。

【図5】例示的な仮想参照デコーダ(HRD)を例示する概略図である。

【図6】レイヤ間予測を行うように構成されている例示的なマルチレイヤビデオシーケンスを例示する概略図である。

【図7】例示的な参照ピクチャリスト構造を例示する概略図である。

【図8】例示的なビットストリームを例示する概略図である。

【図9】例示的なビデオコーディングデバイスの概略図である。

【図10】参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約されている参照ピクチャリスト構造に基づきビデオシーケンスをビットストリーム内にエンコードする例示的な方法のフローチャートである。

【図11】参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約されている参照ピクチャリスト構造に基づきビデオシーケンスをビットストリームからデコードする例示的な方法のフローチャートである。

【図12】参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約されている参照ピクチャリスト構造に基づきビデオシーケンスをビットストリーム内にコーディングするための例示的なシステムの概略図である。

【発明を実施するための形態】

【0032】

最初に、1つまたは複数の実施形態の例示的な実装が以下に提示されているが、開示されているシステムおよび/または方法は、現在知られているか、または存在している、いくつもの技術を使用することで実装され得ることは理解されるべきである。本開示は、本明細書において例示され、説明されている例示的な設計および実装を含む、以下に例示されている例示的な実装、図面、および技術に決して限定されるべきでないが、等価物の全範囲とともに付属の請求項の範囲内で修正され得る。

【0033】

次の用語は、本明細書において反対の文脈で使用されていない限り次のように定義される。具体的には、次の定義は、本開示をさらに明確にすることを意図されている。しかしながら、用語は、異なる文脈において異なる形で説明され得る。したがって、次の定義は、補足として考慮されるべきであり、本明細書においてそのような用語に対して提供される説明のいかなる他の定義を制限するものとして考慮されるべきではない。

【0034】

ビットストリームは、エンコーダとデコーダとの間の伝送のために圧縮されるビデオデータを含むビットのシーケンスである。エンコーダは、エンコーディングプロセスを使用してビデオデータをビットストリームに圧縮するように構成されるデバイスである。デコーダは、デコーディングプロセスを使用してビデオデータを表示のためにビットストリームに再構成するように構成されるデバイスである。ピクチャは、フレームまたはそのフィールドを作成するルーマサンプルの配列および/またはクロマサンプルの配列である。エンコードされているか、またはデコードされているピクチャは、説明を明確にするために現在のピクチャとして参照され得る。コーディング済みピクチャは、アクセスユニット(AU)内のNALユニットヘッダレイヤ識別子(nuh_layer_id)の特定の値を有するビデオコーディングレイヤ(VCL)ネットワーク抽象化レイヤ(NAL)ユニットを含み、ピクチャのすべてのコーディングツリーユニット(CTU)を含むピクチャのコーディング済み表現である。デコード済みピクチャは、コーディング済みピクチャにデコーディングプロセスを適用することによって生成されるピクチャである。スライスは、単一のNALユニット(VCL NALユニット)に排他的に含まれるピクチャの整数個数の完全なタイルまたは(たとえば、タイル内の)整数個数の連続する完全なコーディングツリーユニット(CTU)行である。NALユニットは、望ましい場合にエミュレーション防止バイトを散在させた、データの型の指示である、ローバイトシーケンスペイロード(RBSP)の形態のデータを含むシンタックス構造である。VCL NALユニットは、ピクチャのコーディング済みスライスなどの、ビデオデータを含むようにコーディングされたNALユニットである。非VCL NALユニットは、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。レイヤは、レイヤId(識別子)によって示されているような指定された特性(たとえば、共通の解像度、フレームレート、画像サイズなど)を共有するVCL NALユニットと、関連付けられている非VCL NALユニットとのセットである。NALユニットヘッダレイヤ識別子(nuh_layer_id)は、NALユニットを含むレイヤの識別子を指定するシンタックス要素である。

【0035】

仮想参照デコーダ(HRD)は、エンコーディングプロセスによって生成されたビットストリームの変動性をチェックして、指定された制約条件への適合性を検証するエンコーダ上で動作するデコーダモデルである。ビットストリームの適合性テストは、エンコード済みビットストリームがバーサタイル・ビデオ・コーディング(VVC)などの規格に準拠しているかどうかを決定するためのテストである。ビデオパラメータセット(VPS)は、ビデオ全体に関係するパラメータを含むシンタックス構造である。シーケンスパラメータセット(SPS)は、0個またはそれ以上のコーディング済みレイヤビデオシーケンス(CLVS)全体に適用されるシンタックス要素を含むシンタックス構造である。CLVSは、同じnuh_layer_id値を有するコーディング済みピクチャのシーケンスである。参照ピクチャは、短期参照ピクチャ、長期参照ピクチャ、またはレイヤ間参照ピクチャであるピクチャとして定義され得る。たとえば、参照ピクチャは、インター予測に従って参照により別のピクチャのブロックおよび/またはサンプルをコーディングするために使用されるブロックおよび/またはサンプルを含む任意のピクチャであってよい。参照ピクチャリスト0(RefPicList[0])は、一方向予測(P)スライスのインター予測に使用される参照ピクチャリスト(たとえば、対応する参照ピクチャのリストを含む)、または双方向予測(B)スライスのインター予測に使用される2つの参照ピクチャリストのうちの第1のリストである。参照ピクチャリスト1(RefPicList[1])は、Bスライスのインター予測に使用される第2の参照ピクチャリストである(たとえば、RefPicList[0]と併用される)。参照ピクチャリストシンタックス構造(ref_pic_list_struct())は、RefPicList[0]およびRefPicList[1]を含むシンタックス構造である。参照エントリは、参照インデックスに基づき対応する参照ピクチャを示す参照ピクチャリストの一エントリである。リストインデックス(listIdx)は、RefPicList[0]および/またはRefPicList[1]などの、対応する参照ピクチャリストを示すインデックスである。参照ピクチャリスト構造インデックス(rplsIdx)は、対応する参照ピクチャリスト内の参照エントリを示すインデックスである。参照エントリの数(num_ref_entries)は、ref_pic_list_struct()における参照エントリの数を示すシンタックス要素である。参照ピクチャのセット(setOfRefPics)は、現在のピクチャと同じnuh_layer_id値を有するRefPicList[0]および/またはRefPicList[1]内のすべてのエントリによって参照される一意的なピクチャのセットである。デコード済みピクチャバッファ(DPB)は、たとえば、デコーダおよび/またはHRDにおいて、参照、出力順序変更、または出力遅延のためにデコード済みピクチャを保持するように構成されているバッファである。デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())は、1つまたは複数の出力レイヤセット(OLS)に対するDPBサイズ、最大ピクチャ順序変更番号、および最大遅延に関する情報を提供するシンタックス構造である。最大デコード済みピクチャバッファサイズは、DPB の最大必要サイズをピクチャストレージバッファのユニットにおいて指定する導出変数である。最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)は、DPBの最大必要サイズをピクチャストレージバッファのユニットにおいて指定するシンタックス要素である。アクセスユニット(AU)は、同じ出力時間にすべて関連付けられている異なるレイヤ内のコーディング済みピクチャのセットである。コーディング済みビデオシーケンスは、1つまたは複数のコーディング済みピクチャのセットである。デコード済みビデオシーケンスは、1つまたは複数のデコード済みピクチャのセットである。

【0036】

本明細書において使用される頭字語は、アクセスユニット(AU)、コーディングツリーブロック(CTB)、コーディングツリーユニット(CTU)、コーディングユニット(CU)、コーディング済みレイヤビデオシーケンス(CLVS)、コーディング済みレイヤビデオシーケンス開始(CLVSS)、コーディング済みビデオシーケンス(CVS)、コーディング済みビデオシーケンス開始(CVSS)、ジョイントビデオエキスパートチーム(JVET)、仮想参照デコーダ(HRD)、動き制約タイルセット(MCTS)、最大転送ユニット(MTU)、ネットワーク抽象化レイヤ(NAL)、出力レイヤセット(OLS)、オペレーションポイント(OP)、ピクチャ順序カウント(POC)、ランダムアクセスポイント(RAP)、ローバイトシーケンスペイロード(RBSP)、シーケンスパラメータセット(SPS)、ビデオパラメータセット(VPS)、多目的ビデオコーディング(VVC)である。

【0037】

多くのビデオ圧縮技術は、データの損失を最小限度に抑えてビデオファイルのサイズを縮小するために採用され得る。たとえば、ビデオ圧縮技術は、空間(たとえば、ピクチャ内)予測および/または時間(たとえば、ピクチャ間)予測を実行して、ビデオシーケンス内のデータ冗長性を低減するか、または除去することを含むことができる。ブロックベースのビデオコーディングのために、ビデオスライス(たとえば、ビデオピクチャ、またはビデオピクチャの一部)は、いくつかビデオブロックに区分化されてもよく、これは、ツリーブロック、コーディングツリーブロック(CTB)、コーディングツリーユニット(CTU)、コーディングユニット(CU)、および/またはコーディングノードと呼ばれることもある。ピクチャのイントラコーディング済み(I)スライス中のビデオブロックは、同じピクチャ中の近傍ブロック中の参照サンプルに対する空間予測を使用してコーディングされる。ピクチャのインターコーディング済み一方向予測(P)または双方向予測(B)スライス中のビデオブロックは、同じピクチャ中の近傍ブロック中の参照サンプルに関する空間予測、または他の参照ピクチャ中の参照サンプルに関する時間予測を採用することによってコーディングされ得る。ピクチャはフレームおよび/または画像と呼ばれることがあり、参照ピクチャは参照フレームおよび/または参照画像と呼ばれることがある。空間予測または時間予測は、結果として、画像ブロックを表す予測ブロックをもたらす。残差データは、元の画像ブロックと予測ブロックとの間のピクセル差分を表す。したがって、インターコーディング済みブロックは、予測ブロックを形成する参照サンプルのブロックを指す動きベクトル、およびコーディング済みブロックと予測ブロックとの間の差分を示す残差データに従ってエンコードされる。イントラコーディング済みブロックは、イントラコーディングモードおよび残差データに従ってエンコードされる。さらに圧縮するために、残差データは、ピクセル領域から変換領域に変換され得る。これらの結果、残差変換係数が得られ、残差変換係数が量子化され得る。量子化済み変換係数は、最初、2次元配列に配列され得る。量子化済み変換係数は、変換係数の1次元ベクトルを生成するために走査され得る。エントロピーコーディングが、なおいっそうの圧縮を行うために適用され得る。そのようなビデオ圧縮技術は、以下でより詳しく説明される。

【0038】

エンコード済みビデオが正確にデコードされ得ることを確実にするために、ビデオは、対応するビデオコーディング規格に従ってエンコードされ、デコードされる。ビデオコーディング規格は、国際電気通信連合(ITU)標準化部門(ITU-T)H.261、国際標準化機構/国際電気標準会議(ISO/IEC)モーションピクチャエキスパートグループ(MPEG)-1 Part 2、ITU-T H.262またはISO/IEC MPEG-2 Part 2、ITU-T H.263、ISO/IEC MPEG-4 Part 2、ITU-T H.264またはISO/IEC MPEG-4 Part 10としても知られている高度ビデオコーディング(AVC)、およびITU-T H.265またはMPEG-H Part 2としても知られている高効率ビデオコーディング(HEVC)を含む。AVCは、スケーラブルビデオコーディング(SVC)、マルチビュービデオコーディング(MVC)、マルチビュービデオコーディングプラス深さ(MVC+D)、および3次元(3D)AVC(3D-AVC)などの拡張機能を含む。HEVCは、スケーラブルHEVC(SHVC)、マルチビューHEVC(MV-HEVC)、および3D HEVC(3D-HEVC)などの拡張機能を含む。ITU-TおよびISO/IECのジョイントビデオエキスパートチーム(JVET)は、多目的ビデオコーディング(VVC)と称されるビデオコーディング規格の開発を開始している。VVCは、JVET-O2001-v14を含む、作業草案(WD)に含まれる。

【0039】

ピクチャは、イントラ予測、インター予測、および/またはレイヤ間予測に従ってコーディングされ得る。イントラ予測では、ピクチャ内のブロックは、同じピクチャ内の他のブロックを参照することによってコーディングされる。インター予測では、現在のピクチャ内のブロックは、1つまたは複数の他のピクチャ内のブロックを参照することによってコーディングされる。レイヤ間予測では、ピクチャは、レイヤ内にコーディングされ、出力レイヤ内のピクチャのブロックは、参照レイヤ内のピクチャのブロックを参照することによってコーディングされる。参照ピクチャリストシンタックス構造(ref_pic_list_struct())は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct()は、現在のピクチャに対して採用することができる参照エントリの最大数を含む。そのようなシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。

【0040】

本明細書において開示されているのは、異なるタイプのレイヤに対して異なるピクチャバッファ使用をサポートするためにref_pic_list_struct()を制約するためのメカニズムである。たとえば、参照エントリの数(num_ref_entries)シンタックス要素は、ref_pic_list_struct()に含まれ得る。num_ref_entriesは、各ピクチャに使用されるエントリの数を示す。num_ref_entriesは、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約され得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entriesを制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。さらに、各ピクチャに対する参照ピクチャのセット(setofRefPics)は、すべてのレイヤに対してグローバルである静的な値の代わりにレイヤに基づき異なる最大デコード済みピクチャバッファサイズによって制約され得る。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0041】

図1は、ビデオ信号をコーディングする例示的な動作方法100のフローチャートである。具体的には、ビデオ信号は、エンコーダにおいてエンコードされる。エンコーディングプロセスは、様々なメカニズムを使用することによってビデオ信号を圧縮し、ビデオファイルサイズを縮小する。より小さいファイルサイズは、関連する帯域幅オーバーヘッドを低減しながら、圧縮済みビデオファイルがユーザへ伝送されることを可能にする。次に、エンドユーザに表示するために、デコーダは圧縮済みビデオファイルをデコードし、元のビデオ信号を再構成する。デコーディングプロセスは、一般的に、デコーダが一貫してビデオ信号を再構成することを可能にするようにエンコーディングプロセスをミラーリングする。

【0042】

ステップ101で、ビデオ信号は、エンコーダに入力される。たとえば、ビデオ信号は、メモリに記憶されている非圧縮ビデオファイルであってもよい。別の例として、ビデオファイルは、ビデオカメラなどのビデオキャプチャデバイスによってキャプチャされ、ビデオのライブストリーミングをサポートするようにエンコードされ得る。ビデオファイルは、音声コンポーネントとビデオコンポーネントの両方を含み得る。ビデオコンポーネントは、順に視聴されたとき、動きの視覚的な印象を与える一連の画像フレームを含む。フレームは、本明細書においてルーマ成分(またはルーマサンプル)と称される光、およびクロマ成分(または色サンプル)と呼ばれる色に関して表現されるピクセルを含む。いくつかの例において、フレームは、3次元表示をサポートするために深度値も含み得る。

【0043】

ステップ103で、ビデオはいくつかのブロックに区分化される。区分化することは、圧縮のために各フレーム内のピクセルを正方形および/または長方形のブロックに細分することを含む。たとえば、高効率ビデオコーディング(HEVC)(H.265およびMPEG-H Part 2としても知られている)において、フレームは、最初に、事前定義されたサイズ(たとえば、64ピクセル×64ピクセル)のブロックである、コーディングツリーユニット(CTU)に分割され得る。CTUは、ルーマサンプルとクロマサンプルの両方を含む。コーディングツリーは、CTUをいくつかのブロックに分割し、次いでさらなるエンコーディングをサポートする構成が達成されるまでブロックを再帰的に細分するために採用され得る。たとえば、フレームのルーマ成分は、個々のブロックが比較的均質な照明値を含むまで細分化され得る。さらに、フレームのクロマ成分は、個々のブロックが比較的均質な色値を含むまで細分化され得る。したがって、区分化メカニズムは、ビデオフレームのコンテンツによって異なる。

【0044】

ステップ105で、各様々な圧縮メカニズムが採用され、ステップ103で区分化された画像ブロックを圧縮する。たとえば、インター予測および/またはイントラ予測が採用され得る。インター予測は、共通のシーン内のオブジェクトが連続するフレーム内に出現する傾向があるという事実を利用するように設計されている。したがって、参照フレーム内のオブジェクトを描写するブロックは、隣接するフレーム内に繰り返し記述される必要はない。具体的には、テーブルなどのオブジェクトは、複数のフレームにわたって一定の位置に留まり得る。したがって、テーブルは、一度記述されると、隣接するフレームが参照フレームを再度参照することができる。複数のフレームにまたがるオブジェクトのマッチングには、パターンマッチングメカニズムが採用され得る。さらに、オブジェクトの移動やカメラの移動などにより、複数のフレームにまたがって移動するオブジェクトが表現され得る。特定の例として、ビデオは、複数のフレームにわたって画面上を移動する自動車を示し得る。動きベクトルは、そのような移動を記述するために使用することができる。動きベクトルは、フレーム内のオブジェクトの座標から参照フレーム内のオブジェクトの座標へのオフセットを提供する2次元ベクトルである。それゆえに、インター予測は、現在のフレーム内の画像ブロックを、参照フレーム内の対応するブロックからのオフセットを示す動きベクトルのセットとしてエンコードすることができる。

【0045】

イントラ予測は、共通フレーム内のブロックをエンコードする。イントラ予測は、ルーマ成分およびクロマ成分がフレーム内でクラスタ化する傾向があるという事実を利用する。たとえば、木の一部における緑色のパッチは、緑色の類似のパッチに隣接して位置決めされる傾向がある。イントラ予測では、複数の方向予測モード(たとえば、HEVCでは33種類)、平面モード、および直流(DC)モードを使用する。これらの方向モードは、現在のブロックが、対応する方向の近傍ブロックのサンプルと類似している/同じであることを示す。平面モードは、行/列(たとえば、平面)に沿った一連のブロックが、行の端にある近傍ブロックに基づき補間され得ることを示す。平面モードは、実際には、変化する値における比較的一定の勾配を使用することによって行/列にまたがる光/色の滑らかな遷移を示す。DCモードは、境界平滑化に使用され、ブロックが方向予測モードの角度方向に関連するすべての近傍ブロックのサンプルに関連付けられている平均値に類似する/同じであることを示す。したがって、イントラ予測ブロックは、実際の値ではなく様々な関係予測モード値として画像ブロックを表現することができる。さらに、インター予測ブロックは、実際の値ではなく動きベクトル値として画像ブロックを表現することができる。いずれの場合も、予測ブロックは、いくつかの場合において画像ブロックを正確に表さないことがある。任意の差分が、残差ブロック内に収められる。ファイルをさらに圧縮するために、変換が残差ブロックに適用され得る。

【0046】

ステップ107で、様々なフィルタリング技術が適用され得る。HEVCでは、フィルタは、ループ内フィルタリングスキームに従って適用される。上で説明されているブロックベースの予測の結果、デコーダにおいてブロック状画像が作成され得る。さらに、ブロックベースの予測スキームは、ブロックをエンコードし、次いで、参照ブロックとして後で使用するためにエンコード済みブロックを再構成し得る。ループ内フィルタリングスキームは、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびサンプル適応オフセット(SAO)フィルタをブロック/フレームに反復適用する。これらのフィルタは、そのようなブロッキングアーチファクトを軽減し、それによりエンコード済みファイルが正確に再構成され得る。さらに、これらのフィルタは、再構成済み参照ブロック内のアーチファクトを軽減し、それにより、アーチファクトが再構成済み参照ブロックに基づきエンコードされる後続のブロック内にさらなるアーチファクトを生じさせる可能性が低くなる。

【0047】

ビデオ信号が区分化され、圧縮され、フィルタリングされた後、結果として得られたデータは、ステップ109でビットストリームにエンコードされる。ビットストリームは、上で説明されているデータ、さらにはデコーダにおいて適切なビデオ信号再構成をサポートするために望ましい任意のシグナリングデータを含む。たとえば、そのようなデータは、区分データ、予測データ、残差ブロック、およびコーディング命令をデコーダに送る様々なフラグを含み得る。ビットストリームは、要求に応じてデコーダに向けて伝送するためにメモリに記憶され得る。ビットストリームは、また、複数のデコーダに向けてブロードキャストされ、および/またはマルチキャストされてもよい。ビットストリームの作成は、反復プロセスである。したがって、ステップ101、103、105、107、および109は、多数のフレームおよびブロックにわたって連続的に、および/または同時に実行され得る。図1に示されている順序は、説明を明確にし、容易にするために提示されており、ビデオコーディングプロセスを特定の順序に制限することを意図されていない。

【0048】

デコーダは、ビットストリームを受信し、ステップ111でデコーディングプロセスを開始する。具体的には、デコーダは、エントロピーデコーディングスキームを使用して、ビットストリームを対応するシンタックスおよびビデオデータに変換する。デコーダは、ステップ111で、ビットストリームからのシンタックスデータを使用して、フレームに対する区分を決定する。区分化は、ステップ103におけるブロック区分化の結果と一致するべきである。次に、ステップ111で採用されているようなエントロピーエンコーディング/デコーディングについて説明する。エンコーダは、入力画像における値の空間的位置決めに基づきいくつかの可能な選択肢からブロック区分化スキームを選択するなど、圧縮プロセスにおいて多くの選択を行う。正確な選択肢をシグナリングすることでは、多数のビンが使用され得る。本明細書において使用されているように、ビンは、変数として扱われる2値(たとえば、文脈に応じて変化し得るビット値)である。エントロピーコーディングは、エンコーダが特定のケースに対して明らかに実行不可能である任意のオプションを破棄し、許容可能なオプションのセットを残すことを可能にする。次いで、各許容可能なオプションは、コードワードを割り当てられる。コードワードの長さは、許容可能なオプションの数に基づく(たとえば、2つのオプションには1つのビン、3から4つのオプションには2つのビンなど)。次いで、エンコーダは、選択されたオプションに対してコードワードをエンコードする。このスキームでは、コードワードは可能なすべてのオプションの潜在的に大きいセットからの選択を一意的に示すこととは反対に、許容可能なオプションの小さいサブセットからの選択を一意的に示すために望ましい大きさであるので、コードワードのサイズを縮小する。次いで、デコーダは、エンコーダと似た方式で、許容可能なオプションのセットを決定することによって選択をデコードする。許容可能なオプションのセットを決定することによって、デコーダは、コードワードを読み出し、エンコーダによって行われた選択を決定することができる。

【0049】

ステップ113で、デコーダは、ブロックデコーディングを実行する。具体的には、デコーダは、逆変換を採用して、残差ブロックを生成する。次いで、デコーダは、区分化に従って画像ブロックを再構成するために残差ブロックおよび対応する予測ブロックを使用する。予測ブロックは、ステップ105においてエンコーダで生成されるようなイントラ予測ブロックとインター予測ブロックの両方を含み得る。次いで、再構成済み画像ブロックは、ステップ111で決定された区分化データに従って再構成済みビデオ信号のフレーム内に位置決めされる。ステップ113に対するシンタックスは、また、上で説明されているようにエントロピーコーディングを介してビットストリーム内でシグナリングされ得る。

【0050】

ステップ115で、フィルタリングは、エンコーダでステップ107に類似する方式により再構成済みビデオ信号のフレーム上で実行される。たとえば、ノイズ抑制フィルタ、デブロッキングフィルタ、適応ループフィルタ、およびSAOフィルタが、ブロッキングアーチファクトを除去するためにフレームに適用され得る。フレームがフィルタリングされた後、ビデオ信号は、エンドユーザによる視聴のためにステップ117でディスプレイに出力され得る。

【0051】

図2は、ビデオコーディングのための例示的なコーディングおよびデコーディング(コーデック)システム200の概略図である。具体的には、コーデックシステム200は、動作方法100の実装形態をサポートするための機能性を提供する。コーデックシステム200は、エンコーダとデコーダの両方において採用されるコンポーネントを描くように一般化されている。コーデックシステム200は、動作方法100のステップ101および103に関して説明されているようにビデオ信号を受信し、区分化し、その結果、区分化済みビデオ信号201が得られる。次いで、コーデックシステム200は、方法100におけるステップ105、107、および109に関して説明されているようにエンコーダとして動作するとき、区分化済みビデオ信号201をコーディング済みビットストリームに圧縮する。コーデックシステム200は、デコーダとして動作するとき、動作方法100のステップ111、113、115、および117に関して説明されているようにビットストリームから出力ビデオ信号を生成する。コーデックシステム200は、一般コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、ピクチャ内推定コンポーネント215、ピクチャ内予測コンポーネント217、動き補償コンポーネント219、動き推定コンポーネント221、スケーリングおよび逆変換コンポーネント229、フィルタ制御分析コンポーネント227、ループ内フィルタコンポーネント225、デコード済みピクチャバッファコンポーネント223、ならびにヘッダフォーマッティングおよびコンテキスト適応2値算術コーディング(CABAC)コンポーネント231を含む。そのようなコンポーネントは、図示されているように結合される。図2において、黒線はエンコード/デコードされるべきデータの動きを示し、破線は他のコンポーネントの動作を制御する制御データの動きを示している。コーデックシステム200のコンポーネントは、すべて、エンコーダ内に存在してもよい。デコーダは、コーデックシステム200のコンポーネントのサブセットを含み得る。たとえば、デコーダは、ピクチャ内予測コンポーネント217、動き補償コンポーネント219、スケーリングおよび逆変換コンポーネント229、ループ内フィルタコンポーネント225、およびデコード済みピクチャバッファコンポーネント223を含み得る。次に、これらのコンポーネントについて説明される。

【0052】

区分化済みビデオ信号201は、コーディングツリーによってピクセルのいくつかのブロックに区分化されたキャプチャ済みビデオシーケンスである。コーディングツリーは、ピクセルのブロックをピクセルのより小さいブロックに細分するために様々な分割モードを採用する。次いで、これらのブロックは、より小さいブロックにさらに細分され得る。ブロックは、コーディングツリーのノードと称されてもよい。より大きい親ノードは、より小さい子ノードに分割される。ノードが細分される回数は、ノード/コーディングツリーの深さと称される。分割済みブロックは、いくつかの場合において、コーディングユニット(CU)に含まれ得る。たとえば、CUは、CUに対する対応するシンタックス命令とともに、ルーマブロック、赤色差クロマ(Cr)ブロック、および青色差クロマ(Cb)ブロックを含むCTUのサブ部分であってよい。分割モードは、ノードを採用された分割モードに応じて様々な形状の2つ、3つ、または4つの子ノードにそれぞれ区分化するために採用される二分木(BT)、三分木(TT)、および四分木(QT)を含み得る。区分化済みビデオ信号201は、圧縮のために一般コーダ制御コンポーネント211、変換スケーリングおよび量子化コンポーネント213、ピクチャ内推定コンポーネント215、フィルタ制御分析コンポーネント227、および動き推定コンポーネント221に転送される。

【0053】

一般コーダ制御コンポーネント211は、アプリケーション制約に従って、ビットストリームへのビデオシーケンスの画像のコーディングに関係する決定を行うように構成される。たとえば、一般コーダ制御コンポーネント211は、再構成品質に対するビットレート/ビットストリームサイズの最適化を管理する。そのような決定は、ストレージスペース/帯域幅の利用可能性および画像解像度要求に基づき行われ得る。一般コーダ制御コンポーネント211は、また、バッファアンダーランおよびバッファオーバーランの問題を軽減するために伝送速度に照らしてバッファ利用を管理する。これらの問題を管理するために、一般コーダ制御コンポーネント211は、他のコンポーネントによる区分化、予測、およびフィルタリングを管理する。たとえば、一般コーダ制御コンポーネント211は、解像度を上げ、帯域幅使用量を増やすために圧縮複雑度を動的に上げるか、または解像度および帯域幅使用量を減らすために圧縮複雑度を下げるものとしてよい。したがって、一般コーダ制御コンポーネント211は、コーデックシステム200の他のコンポーネントを制御して、ビデオ信号再構成品質とビットレートの問題点とのバランスをとる。一般コーダ制御コンポーネント211は、他のコンポーネントの動作を制御する、制御データを作成する。制御データは、ヘッダフォーマッティングおよびCABACコンポーネント231にも転送され、ビットストリーム内にエンコードされ、デコーダでのデコーディングのためにパラメータをシグナリングする。

【0054】

区分化済みビデオ信号201はまた、インター予測のために、動き推定コンポーネント221および動き補償コンポーネント219に送信される。区分化済みビデオ信号201のフレームまたはスライスは、複数のビデオブロックに分割され得る。動き推定コンポーネント221および動き補償コンポーネント219は、時間予測を行うため1つまたは複数の参照フレーム内の1つまたは複数のブロックに関して受信されたビデオブロックのインター予測コーディングを実行する。コーデックシステム200は、複数のコーディングパスを実行して、たとえば、ビデオデータの各ブロックに対する適切なコーディングモードを選択し得る。

【0055】

動き推定コンポーネント221および動き補償コンポーネント219は、高度に統合されてもよいが、概念的な目的のために別々に例示されている。動き推定コンポーネント221によって実行される動き推定は、ビデオブロックに関する動きを推定する、動きベクトルを生成するプロセスである。動きベクトルは、たとえば、予測ブロックに関するコーディング済みオブジェクトの変位を示し得る。予測ブロックは、ピクセル差分に関して、コーディングされるべきブロックとよくマッチすることが判明しているブロックである。予測ブロックは、参照ブロックとも称され得る。そのようなピクセル差分は、差分絶対値和(SAD)、差分二乗和(SSD)、または他の差分メトリックによって決定され得る。HEVCは、CTU、コーディングツリーブロック(CTB)、およびCUを含むいくつかのコーディング済みオブジェクトを採用する。たとえば、CTUは、CTBに分割され、次いでこれはCUに含まれるようにCBに分割され得る。CUは、予測データを含む予測ユニット(PU)および/またはCUに対する変換済み残差データを含む変換ユニット(TU)としてエンコードされ得る。動き推定コンポーネント221は、レート歪み最適化プロセスの一部としてレート歪み分析を使用することによって、動きベクトル、PU、およびTUを生成する。たとえば、動き推定コンポーネント221は、現在のブロック/フレームに対して複数の参照ブロック、複数の動きベクトルなどを決定し、最良のレート歪み特性を有する参照ブロック、動きベクトルなどを選択し得る。最良のレート歪み特性は、ビデオ再構成の品質(たとえば、圧縮によるデータ損失の量)とコーディング効率(たとえば、最終的エンコーディングのサイズ)の両方のバランスをとる。

【0056】

いくつかの例において、コーデックシステム200は、デコード済みピクチャバッファコンポーネント223内に記憶されている参照ピクチャのサブ整数ピクセル位置に対する値を計算し得る。たとえば、ビデオコーデックシステム200は、参照ピクチャの1/4ピクセル位置、1/8ピクセル位置、または他の分数ピクセル位置の値を補間し得る。したがって、動き推定コンポーネント221は、フルピクセル位置および分数ピクセル位置に対する動き探索を実行し、分数ピクセル精度で動きベクトルを出力してもよい。動き推定コンポーネント221は、PUの位置と参照ピクチャの予測ブロックの位置とを比較することによって、インターコーディング済みスライス内のビデオブロックのPUに対する動きベクトルを計算する。動き推定コンポーネント221は、動き補償コンポーネント219へのエンコーディングおよび動きに対するヘッダフォーマッティングおよびCABACコンポーネント231への動きデータとして計算済み動きベクトルとして出力する。

【0057】

動き補償コンポーネント219によって実行される動き補償は、動き推定コンポーネント221によって決定された動きベクトルに基づき予測ブロックをフェッチするか、または生成することを伴い得る。ここでもまた、動き推定コンポーネント221および動き補償コンポーネント219は、いくつかの例において、機能的に一体化され得る。現在のビデオブロックのPUのための動きベクトルを受信すると、動き補償コンポーネント219は、動きベクトルが指す予測ブロックの位置を特定し得る。次いで、残差ビデオブロックは、コーディングされている現在のビデオブロックのピクセル値から予測ブロックのピクセル値を減算し、ピクセル差分値を形成することによって形成される。一般に、動き推定コンポーネント221は、ルーマ成分に関して動き推定を実行し、動き補償コンポーネント219は、クロマ成分とルーマ成分の両方に対してルーマ成分に基づき計算された動きベクトルを使用する。予測ブロックおよび残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。

【0058】

区分化済みビデオ信号201は、また、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217に送信される。動き推定コンポーネント221および動き補償コンポーネント219と同様に、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、高度に統合され得るが、概念的な目的のために別々に例示されている。ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、上で説明されているように、フレーム間で、動き推定コンポーネント221および動き補償コンポーネント219によって実行されるインター予測の代替として、現在のフレーム内のブロックに関して現在のブロックをイントラ予測する。特に、ピクチャ内推定コンポーネント215は、現在のブロックをエンコードするために使用するイントラ予測モードを決定する。いくつかの例では、ピクチャ内推定コンポーネント215は、複数のテスト済みイントラ予測モードから現在のブロックをエンコードするために適切なイントラ予測モードを選択する。次いで、選択されたイントラ予測モードは、エンコードのためにヘッダフォーマッティングおよびCABACコンポーネント231に転送される。

【0059】

たとえば、ピクチャ内推定コンポーネント215は、様々なテスト済みイントラ予測モードに対してレート歪み分析を使用してレート歪み値を計算し、テスト済みモードの中から最良のレート歪み特性を有するイントラ予測モードを選択する。レート歪み分析では、一般的に、エンコード済みブロックとエンコード済みブロックを生成するためにエンコードされた元の未エンコードブロックとの間の歪み(またはエラー)の量、さらにはエンコード済みブロックを生成するために使用されるビットレート(たとえば、ビットの数)を決定する。ピクチャ内推定コンポーネント215は、どのイントラ予測モードがブロックに対して最良のレート歪み値を示すのかを決定するために様々なエンコード済みブロックに対する歪みおよびレートから比率を計算する。それに加えて、ピクチャ内推定コンポーネント215は、レート歪み最適化(RDO)に基づき深度モデリングモード(DMM)を使用して深度マップの深度ブロックをコーディングするように構成され得る。

【0060】

ピクチャ内予測コンポーネント217は、エンコーダで実装されたとき、ピクチャ内推定コンポーネント215によって決定された選択済みイントラ予測モードに基づき予測ブロックから残差ブロックを生成するか、またはデコーダで実装されたとき、ビットストリームから残差ブロックを読み出すものとしてよい。残差ブロックは、行列として表される、予測ブロックと元のブロックとの間の値の差分を含む。次いで、残差ブロックは、変換スケーリングおよび量子化コンポーネント213に転送される。ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217は、ルーマ成分とクロマ成分の両方で動作し得る。

【0061】

変換スケーリングおよび量子化コンポーネント213は、残差ブロックをさらに圧縮するように構成される。変換スケーリングおよび量子化コンポーネント213は、離散コサイン変換(DCT)、離散サイン変換(DST)、または概念的に類似する変換などの、変換を残差ブロックに適用し、残差変換係数値を含むビデオブロックを生成する。ウエーブレット変換、整数変換、サブバンド変換、または他のタイプの変換が使用されことも可能であろう。この変換は、ピクセル値領域からの残差情報を周波数領域などの変換領域に変換し得る。変換スケーリングおよび量子化コンポーネント213は、たとえば周波数に基づき、変換済み残差情報をスケーリングするようにも構成される。そのようなスケーリングは、異なる周波数情報が異なる粒度で量子化されるように、残差情報にスケール係数を適用することを伴い、これは、再構成済みビデオの最終的な視覚的品質に影響を及ぼし得る。変換スケーリングおよび量子化コンポーネント213は、ビットレートをさらに低減するために変換係数を量子化するようにも構成される。量子化プロセスは、係数の一部または全部に関連付けられているビット深度を低減し得る。量子化の程度は、量子化パラメータを調整することによって変更され得る。いくつかの例では、変換スケーリングおよび量子化コンポーネント213は、次いで、量子化済み変換係数を含む行列の走査を実行し得る。量子化済み変換係数は、ヘッダフォーマッティングおよびCABACコンポーネント231に転送され、ビットストリーム内にエンコードされる。

【0062】

スケーリングおよび逆変換コンポーネント229は、動き推定をサポートするように変換スケーリングおよび量子化コンポーネント213の逆演算を適用する。スケーリングおよび逆変換コンポーネント229は、たとえば、別の現在のブロックに対する予測ブロックになり得る参照ブロックとして後で使用するために、ピクセル領域内に残差ブロックを再構成するように逆スケーリング、変換、および/または量子化を適用する。動き推定コンポーネント221および/または動き補償コンポーネント219は、後のブロック/フレームの動き推定において使用するために対応する予測ブロックに残差ブロックを追加して戻すことによって、参照ブロックを計算し得る。フィルタが再構成済み参照ブロックに適用され、それによりスケーリング、量子化、および変換時に作成されたアーチファクトを軽減する。そのようなアーチファクトは、さもなければ、後続のブロックが予測されるとき、不正確な予測を引き起こす(そして、追加のアーチファクトを作成する)可能性もある。

【0063】

フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、残差ブロックおよび/または再構成済み画像ブロックにフィルタを適用する。たとえば、スケーリングおよび逆変換コンポーネント229からの変換済み残差ブロックは、ピクチャ内予測コンポーネント217および/または動き補償コンポーネント219からの対応する予測ブロックと組み合わされて、元の画像ブロックを再構成し得る。次いで、フィルタが、再構成済み画像ブロックに適用され得る。いくつかの例では、フィルタは、代わりに残差ブロックに適用されてもよい。図2の他のコンポーネントと同様に、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225は、高度に統合されており、一緒に実装され得るが、概念的な目的のために別々に描かれている。再構成済み参照ブロックに適用されるフィルタは、特定の空間領域に適用され、そのようなフィルタがどのように適用されるかを調整するための複数のパラメータを含む。フィルタ制御分析コンポーネント227は、再構成済み参照ブロックを解析して、そのようなフィルタが適用されるべき場所を決定し、対応するパラメータを設定する。そのようなデータは、エンコーディングのためのフィルタ制御データとしてヘッダフォーマッティングおよびCABACコンポーネント231に転送される。ループ内フィルタコンポーネント225は、フィルタ制御データに基づき、そのようなフィルタを適用する。フィルタは、デブロッキングフィルタ、ノイズ抑制フィルタ、SAOフィルタ、および適応ループフィルタを含んでもよい。そのようなフィルタは、例に応じて、空間/ピクセル領域(たとえば、再構成済みピクセルブロック上)または周波数領域内で適用され得る。

【0064】

エンコーダとして動作するとき、フィルタリングされた再構成済み画像ブロック、残差ブロック、および/または予測ブロックは、上で説明されているように動き推定で後から使用するためにデコード済みピクチャバッファコンポーネント223に記憶される。デコーダとして動作するとき、デコード済みピクチャバッファコンポーネント223は、再構成済みおよびフィルタリング済みブロックを記憶し、出力ビデオ信号の一部としてディスプレイへ転送する。デコード済みピクチャバッファコンポーネント223は、予測ブロック、残留ブロック、および/または再構成済み画像ブロックを記憶することができる任意のメモリデバイスであってよい。

【0065】

ヘッダフォーマッティングおよびCABACコンポーネント231は、コーデックシステム200の様々なコンポーネントからデータを受信し、そのようなデータを、デコーダに向けて伝送するためにコーディング済みビットストリーム内にエンコードする。具体的には、ヘッダフォーマッティングおよびCABACコンポーネント231は、一般制御データおよびフィルタ制御データなどの制御データをエンコードするために、様々なヘッダを生成する。さらに、イントラ予測データおよび動きデータを含む予測データ、さらには量子化済み変換係数データの形態の残差データは、すべてビットストリーム内にエンコードされる。最終的なビットストリームは、元の区分化済みビデオ信号201を再構成するためにデコーダに望ましいすべての情報を含む。そのような情報は、イントラ予測モードインデックステーブル(コードワードマッピングテーブルとも称される)、様々なブロックに対するエンコーディングコンテキストの定義、最もあり得そうなイントラ予測モードの指示、区分情報の指示なども含み得る。そのようなデータは、エントロピーコーディングを採用することによってエンコードされ得る。たとえば、情報は、コンテキスト適応可変長コーディング(CAVLC)、CABAC、シンタックスベースコンテキスト適応2値算術コーディング(SBAC)、確率区間区分化エントロピー(PIPE)コーディング、または別のエントロピーコーディング技術を採用することによってエンコードされ得る。エントロピーコーディングに従って、コーディング済みビットストリームは、別のデバイス(たとえば、ビデオデコーダ)に伝送されるか、または後から伝送するか、もしくは除去するためにアーカイブされ得る。

【0066】

図3は、例示的なビデオエンコーダ300を例示するブロック図である。ビデオエンコーダ300は、コーデックシステム200のエンコーディング機能を実装し、および/または動作方法100のステップ101、103、105、107、および/または109を実装するために採用され得る。エンコーダ300は、入力ビデオ信号を区分化し、その結果、区分化済みビデオ信号301が得られ、これは区分化済みビデオ信号201に実質的に類似している。次いで、区分化済みビデオ信号301は、エンコーダ300のコンポーネントによってビットストリーム内に圧縮され、エンコードされる。

【0067】

具体的には、区分化済みビデオ信号301は、イントラ予測のためにピクチャ内予測コンポーネント317に転送される。ピクチャ内予測コンポーネント317は、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217と実質的に類似しているものとしてよい。区分化済みビデオ信号301は、また、デコード済みピクチャバッファコンポーネント323内の参照ブロックに基づくインター予測のために動き補償コンポーネント321に転送される。動き補償コンポーネント321は、動き推定コンポーネント221および動き補償コンポーネント219と実質的に類似しているものとしてよい。ピクチャ内予測コンポーネント317および動き補償コンポーネント321からの予測ブロックおよび残差ブロックは、残差ブロックの変換および量子化のために、変換および量子化コンポーネント313に転送される。変換および量子化コンポーネント313は、変換スケーリングおよび量子化コンポーネント213と実質的に類似しているものとしてよい。変換済みおよび量子化済み残差ブロックならびに対応する予測ブロックは(関連する制御データとともに)、ビットストリーム内にコーディングするためにエントロピーコーディングコンポーネント331に転送される。エントロピーコーディングコンポーネント331は、ヘッダフォーマッティングおよびCABACコンポーネント231と実質的に類似しているものとしてよい。

【0068】

変換済みおよび量子化済み残差ブロックならびに/または対応する予測ブロックは、参照ブロックに再構成し動き補償コンポーネント321で使用するために、変換および量子化コンポーネント313から逆変換および量子化コンポーネント329に転送される。逆変換および量子化コンポーネント329は、スケーリングおよび逆変換コンポーネント229と実質的に類似しているものとしてよい。ループ内フィルタコンポーネント325内のループ内フィルタも、例に応じて、残差ブロックおよび/または再構成済み参照ブロックに適用される。ループ内フィルタコンポーネント325は、フィルタ制御分析コンポーネント227およびループ内フィルタコンポーネント225と実質的に類似しているものとしてよい。ループ内フィルタコンポーネント325は、ループ内フィルタコンポーネント225に関して説明されているように複数のフィルタを備え得る。次いで、フィルタリング済みブロックは、動き補償コンポーネント321により参照ブロックとして使用するためにデコード済みピクチャバッファコンポーネント323に記憶される。デコード済みピクチャバッファコンポーネント323は、デコード済みピクチャバッファコンポーネント223と実質的に類似しているものとしてよい。

【0069】

図4は、例示的なビデオデコーダ400を例示するブロック図である。ビデオデコーダ400は、コーデックシステム200のデコーディング機能を実装し、および/または動作方法100のステップ111、113、115、および/または117を実装するために採用され得る。デコーダ400は、たとえばエンコーダ300からビットストリームを受信し、エンドユーザへの表示のためにビットストリームに基づき再構成済み出力ビデオ信号を生成する。

【0070】

ビットストリームは、エントロピーデコーディングコンポーネント433によって受信される。エントロピーデコーディングコンポーネント433は、CAVLC、CABAC、SBAC、PIPEコーディング、または他のエントロピーコーディング技術などのエントロピーデコーディングスキームを実装するように構成される。たとえば、エントロピーデコーディングコンポーネント433は、ビットストリーム内のコードワードとしてエンコードされた追加のデータを解釈するためのコンテキストを提供するためにヘッダ情報を採用し得る。デコード済み情報は、一般制御データ、フィルタ制御データ、区分情報、動きデータ、予測データ、および残差ブロックからの量子化変換係数などの、ビデオ信号をデコードするための任意の望ましい情報を含む。量子化済み変換係数は、残差ブロック内への再構成のために逆変換および量子化コンポーネント429に転送される。逆変換および量子化コンポーネント429は、逆変換および量子化コンポーネント329と類似しているものとしてよい。

【0071】

再構成済み残差ブロックおよび/または予測ブロックは、イントラ予測演算に基づき画像ブロックに再構成するためにピクチャ内予測コンポーネント417に転送される。ピクチャ内予測コンポーネント417は、ピクチャ内推定コンポーネント215およびピクチャ内予測コンポーネント217と類似しているものとしてよい。具体的には、ピクチャ内予測コンポーネント417は、フレーム内の参照ブロックの位置を特定するために予測モードを採用し、残差ブロックをその結果に適用してイントラ予測画像ブロックを再構成する。再構成済みイントラ予測画像ブロックおよび/または残差ブロックならびに対応するインター予測データは、それぞれデコード済みピクチャバッファコンポーネント223およびループ内フィルタコンポーネント225に実質的に類似しているものとしてよい、ループ内フィルタコンポーネント425を介してデコード済みピクチャバッファコンポーネント423に転送される。ループ内フィルタコンポーネント425は、再構成済み画像ブロック、残差ブロックおよび/または予測ブロックをフィルタリングし、そのような情報は、デコード済みピクチャバッファコンポーネント423に記憶される。デコード済みピクチャバッファコンポーネント423からの再構成済み画像ブロックは、インター予測のために動き補償コンポーネント421に転送される。動き補償コンポーネント421は、動き推定コンポーネント221および/または動き補償コンポーネント219と実質的に類似しているものとしてよい。具体的には、動き補償コンポーネント421は、予測ブロックを生成するために参照ブロックからの動きベクトルを採用し、残差ブロックをその結果に適用して、画像ブロックを再構成する。また、結果として得られる再構成済みブロックは、ループ内フィルタコンポーネント425を介してデコード済みピクチャバッファコンポーネント423に転送され得る。デコード済みピクチャバッファコンポーネント423は、区分情報を介してフレーム内に再構成され得る、追加の再構成済み画像ブロックを記憶することを続ける。そのようなフレームは、シーケンスに置かれてもよい。シーケンスは、再構成済み出力ビデオ信号としてディスプレイへ出力される。

【0072】

図5は、例示的なHRD500を例示する概略図である。HRD500は、コーデックシステム200および/またはエンコーダ300などのエンコーダにおいて採用され得る。HRD500は、方法100のステップ109で作成されたビットストリームを、ビットストリームがデコーダ400などのデコーダに転送される前にチェックするものとしてよい。いくつかの例において、ビットストリームは、ビットストリームがエンコードされるとき、HRD500を通じて連続的に転送され得る。ビットストリームの一部が関連付けられている制約条件に適合することに失敗した場合、HRD500はそのような失敗をエンコーダに知らせて、エンコーダに異なるメカニズムによるビットストリームの対応するセクションの再エンコードを行わせることができる。

【0073】

HRD500は、仮想ストリームスケジューラ(HSS)541を備える。HSS541は、仮想配信メカニズムを実行するように構成されているコンポーネントである。仮想配信メカニズムは、HRD500に入力されるビットストリーム551のタイミングおよびデータフローに関してビットストリームまたはデコーダの適合性をチェックするために使用される。たとえば、HSS541は、エンコーダから出力されたビットストリーム551を受信し、ビットストリーム551上の適合性テストプロセスを管理するものとしてよい。特定の例において、HSS541は、コーディング済みピクチャがHRD500を通って移動するレートを制御し、ビットストリーム551が非適合データを含まないことを検証することができる。

【0074】

HSS541は、ビットストリーム551を事前定義されたレートでCPB543に転送することができる。HRD500は、デコーディングユニット(DU)553においてデータを管理し得る。DU553は、アクセスユニット(AU)またはAUのサブセット、および関連付けられている非ビデオコーディングレイヤ(VCL)ネットワーク抽象化レイヤ(NAL)ユニットである。具体的には、AUは、出力時間に関連付けられている1つまたは複数のピクチャを含む。たとえば、AUは、単一レイヤビットストリーム内に単一ピクチャを含み、マルチレイヤビットストリーム内に各レイヤに対するピクチャを含み得る。AUの各ピクチャは、各々対応するVCL NALユニットに含まれるスライスに分割され得る。したがって、DU553は、1つまたは複数のピクチャ、ピクチャの1つまたは複数のスライス、またはそれらの組合せを含み得る。また、AU/DU、ピクチャ、および/またはスライスをデコードするために使用されるパラメータは、非VCL NALユニットに含まれ得る。それゆえに、DU553は、DU553内でVCL NALユニットをデコードすることをサポートするために必要なデータを含む非VCL NALユニットを含む。CPB543は、HRD500内の先入れ先出しバッファである。CPB543は、デコーディング順序でビデオデータを含むDU553を収容する。CPB543は、ビットストリーム適合性検証時に使用するためのビデオデータを記憶する。

【0075】

CPB543は、DU553をデコーディングプロセスコンポーネント545に転送する。デコーディングプロセスコンポーネント545は、VVC規格に適合するコンポーネントである。たとえば、デコーディングプロセスコンポーネント545は、エンドユーザによって採用されるデコーダ400をエミュレートし得る。デコーディングプロセスコンポーネント545は、例示的なエンドユーザのデコーダによって達成され得るレートでDU553をデコードする。デコーディングプロセスコンポーネント545が、CPB543のオーバーフローを防ぐ(またはバッファのアンダーランを防ぐ)ために十分に速くDU553をデコードできない場合、ビットストリーム551は規格に適合していないので、再エンコードされるべきである。

【0076】

デコーディングプロセスコンポーネント545は、DU553をデコードし、デコード済みDU555を作成する。デコード済みDU555は、デコード済みピクチャを収容する。デコード済みDU555は、DPB547に転送される。DPB547は、デコード済みピクチャバッファコンポーネント223、323、および/または423と実質的に類似しているものとしてよい。インター予測をサポートするために、デコード済みDU555から得られる参照ピクチャ556としての使用のマークを付けられたピクチャは、さらなるデコードをサポートするためにデコーディングプロセスコンポーネント545に返される。DPB547は、デコード済みビデオシーケンスを一連のピクチャ557として出力する。ピクチャ557は、エンコーダによってビットストリーム551にエンコードされたピクチャを一般的にミラーリングする再構成済みピクチャである。

【0077】

ピクチャ557は、出力クロッピングコンポーネント549に転送される。出力クロッピングコンポーネント549は、適合性クロッピングウィンドウをピクチャ557に適用するように構成される。この結果、出力クロッピング済みピクチャ559が得られる。出力クロッピング済みピクチャ559は、完全に再構成されたピクチャである。したがって、出力クロッピング済みピクチャ559は、ビットストリーム551をデコードした後にエンドユーザに見えるであろうものを模倣している。それゆえに、エンコーダ側では出力クロッピング済みピクチャ559をレビューしてエンコーディングが満足のいくものであることを確認することができる。

【0078】

HRD500は、ビットストリーム551内のHRDパラメータに基づき初期化される。たとえば、HRD500は、VPS、SPS、および/またはSEIメッセージからHRDパラメータを読み取るものとしてよい。次いで、HRD500は、そのようなHRDパラメータ内の情報に基づいて、ビットストリーム551に対して適合性テスト動作を実行し得る。具体例として、HRD500は、HRDパラメータから1つまたは複数のCPB配信スケジュールを決定し得る。配信スケジュールは、CPBおよび/またはDPBなどのメモリロケーションへのおよび/またはメモリロケーションからのビデオデータの配信に対するタイミングを指定する。したがって、CPB配信スケジュールは、AU、DU553、および/またはピクチャの、CPB543への/からの配信に対するタイミングを指定する。HRD500は、CPB配信スケジュールに類似しているDPB547にDPB配信スケジュールを採用し得ることに留意されたい。

【0079】

ビデオは、様々なレベルのハードウェア能力を有するデコーダによる使用のために、さらには様々なネットワーク条件に関して、異なるレイヤおよび/またはOLSにコーディングされ得る。CPB配信スケジュールは、これらの問題を反映するように選択される。したがって、上位レイヤのサブビットストリームは、最適なハードウェアおよびネットワーク条件について指定され、したがって、上位レイヤは、CPB543内の大量のメモリおよびDPB547に向かうDU553の転送に対する短い遅延を採用する1または複数のCPB配信スケジュールを受信し得る。同様に、下位レイヤサブビットストリームは、限られたデコーダハードウェア能力および/または劣悪なネットワーク条件について指定される。したがって、下位レイヤは、CPB543内の少量のメモリおよびDPB547に向かうDU553の転送のためのより長い遅延を採用する1つまたは複数のCPB配信スケジュールを受信し得る。次いで、OLS、レイヤ、サブレイヤ、またはそれらの組合せは、対応する配信スケジュールに従ってテストされ、その結果得られるサブビットストリームが、サブビットストリームに対して期待される条件下で正しくデコードされ得ることを確実にすることができる。したがって、ビットストリーム551内のHRDパラメータは、CPB配信スケジュールを示し、さらにはHRD500がCPB配信スケジュールを決定し、CPB配信スケジュールを対応するOLS、レイヤ、および/またはサブレイヤに相関させることを可能にする十分なデータを含むことができる。

【0080】

図6は、レイヤ間予測621を行うように構成されている例示的なマルチレイヤビデオシーケンス600を例示する概略図である。マルチレイヤビデオシーケンス600は、たとえば方法100に従って、コーデックシステム200および/またはエンコーダ300などのエンコーダによってエンコードされ、コーデックシステム200および/またはデコーダ400などのデコーダによってデコードされ得る。さらに、マルチレイヤビデオシーケンス600は、HRD500などのHRDによって規格適合性に関してチェックされ得る。マルチレイヤビデオシーケンス600は、コーディング済みビデオシーケンス内のレイヤに対する例示的なアプリケーションを示すために含まれている。マルチレイヤビデオシーケンス600は、レイヤN 631およびレイヤN+1 632などの、複数のレイヤを採用する任意のビデオシーケンスである。

【0081】

一例において、マルチレイヤビデオシーケンス600は、レイヤ間予測621を採用し得る。レイヤ間予測621は、異なるレイヤ内のピクチャ611、612、613、および614とピクチャ615、616、617、および618との間に適用される。図示されている例では、ピクチャ611、612、613、および614は、レイヤN+1 632の一部であり、ピクチャ615、616、617、および618は、レイヤN 631の一部である。レイヤN 631および/またはレイヤN+1 632などのレイヤは、類似のサイズ、品質、解像度、信号対雑音比、能力などの特性の類似の値にすべて関連付けられるピクチャのグループである。レイヤは、VCL NALユニットおよび関連付けられている非VCL NALユニットのセットとして正式に定義され得る。VCL NALユニットは、ピクチャのコーディング済みスライスなどの、ビデオデータを含むようにコーディングされたNALユニットである。非VCL NALユニットは、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。

【0082】

図示されている例では、レイヤN+1 632は、レイヤN 631よりも大きい画像サイズに関連付けられている。したがって、レイヤN+1 632内のピクチャ611、612、613、および614は、この例では、レイヤN 631内のピクチャ615、616、617、および618よりも大きいピクチャサイズ(たとえば、より大きい高さおよび幅、したがって、より多くのサンプル)を有している。しかしながら、そのようなピクチャは、他の特性によってレイヤN+1 632とレイヤN 631との間で分離され得る。レイヤN+1 632およびレイヤN 631の2つのレイヤのみが図示されているが、ピクチャのセットは、関連する特性に基づき任意の数のレイヤに分離され得る。レイヤN+1 632およびレイヤN 631は、レイヤIdによっても示され得る。レイヤIdは、ピクチャに関連付けられているデータの項目であり、ピクチャが示されているレイヤの一部であることを示す。したがって、各ピクチャ611～618は、対応するレイヤIdに関連付けられており、それによりどのレイヤN+1 632またはレイヤN 631が対応するピクチャを含むかを示し得る。たとえば、レイヤIdは、NALユニットヘッダレイヤ識別子(nuh_layer_id)を含んでもよく、これは、NALユニット(たとえば、レイヤ内のピクチャのスライスおよび/またはパラメータを含む)を含むレイヤの識別子を指定するシンタックス要素である。レイヤN 631などの、より低い品質/ビットストリームサイズに関連付けられているレイヤは、一般的に、より低いレイヤIdを割り当てられ、下位レイヤと称される。さらに、レイヤN+1 632などの、より高い品質/ビットストリームサイズに関連付けられているレイヤは、一般的に、より高いレイヤIdを割り当てられ、上位レイヤと称される。

【0083】

異なるレイヤ631～632のピクチャ611～618は、代替的手段で表示されるように構成される。具体例として、デコーダは、より小さいピクチャが望ましい場合に現在の表示時間にピクチャ615をデコードして表示し得るか、またはデコーダは、より大きいピクチャが望ましい場合に現在の表示時間にピクチャ611をデコードして表示し得る。それゆえに、上位レイヤN+1 632におけるピクチャ611～614は、(ピクチャサイズの差にかかわらず)下位レイヤN 631における対応するピクチャ615～618と実質的に同じ画像データを含む。具体的には、ピクチャ611は、ピクチャ615と実質的に同じ画像データを含み、ピクチャ612はピクチャ616と実質的に同じ画像データを含む、などである。

【0084】

ピクチャ611～618は、同じレイヤN 631またはN+1 632内の他のピクチャ611～618を参照してコーディングされ得る。同じレイヤ内の別のピクチャを参照してピクチャをコーディングすると、その結果、インター予測623が得られる。インター予測623は、実線の矢印で示されている。たとえば、ピクチャ613は、レイヤN+1 632内のピクチャ611、612、および/または614のうちの1つまたは2つを参照として使用してインター予測623を採用することによってコーディングされるものとしてよく、1つのピクチャは、一方向インター予測のために参照され、および/または2つのピクチャは、双方向インター予測のために参照される。たとえば、ピクチャ617は、レイヤN 631内のピクチャ615、616、および/または618のうちの1つまたは2つを参照として使用してインター予測623を採用することによってコーディングされるものとしてよく、1つのピクチャは、一方向インター予測のために参照され、および/または2つのピクチャは、双方向インター予測のために参照される。ピクチャが、インター予測623を実行するときに同じレイヤ内の別のピクチャに対する参照として使用されるとき、ピクチャは、参照ピクチャと称され得る。たとえば、ピクチャ612は、インター予測623に従ってピクチャ613をコーディングするために使用される参照ピクチャであってよい。インター予測623は、マルチレイヤコンテキストにおけるレイヤ内予測とも称され得る。それゆえに、インター予測623は、参照ピクチャおよび現在のピクチャが同じレイヤ内にある場合の現在のピクチャとは異なる参照ピクチャ内の示されたサンプルを参照することによって現在のピクチャのサンプルをコーディングするメカニズムである。

【0085】

ピクチャ611～618は、異なるレイヤ内の他のピクチャ611～618を参照することによってもコーディングされ得る。このプロセスは、レイヤ間予測621として知られており、破線の矢印によって示されている。レイヤ間予測621は、現在のピクチャと参照ピクチャとが異なるレイヤ内にあり、したがって異なるレイヤIDを有する参照ピクチャ内の示されているサンプルを参照することによって現在のピクチャのサンプルをコーディングするメカニズムである。たとえば、下位レイヤN 631内のピクチャは、上位レイヤN+1 632における対応するピクチャをコーディングするための参照ピクチャとして使用され得る。具体例として、ピクチャ611は、レイヤ間予測621に従ってピクチャ615を参照することによってコーディングされ得る。そのような場合に、ピクチャ615は、レイヤ間参照ピクチャとして使用される。レイヤ間参照ピクチャは、レイヤ間予測621に使用される参照ピクチャである。ほとんどの場合において、レイヤ間予測621は、ピクチャ611などの現在のピクチャが、同じAUに含まれ、ピクチャ615などの下位レイヤにあるレイヤ間参照ピクチャのみを使用できるように制約される。複数のレイヤ(たとえば、2つよりも多い)が利用可能であるとき、レイヤ間予測621は、現在のピクチャよりも低いレベルの複数のレイヤ間参照ピクチャに基づき現在のピクチャをエンコード/デコードすることができる。

【0086】

ビデオエンコーダは、インター予測623およびレイヤ間予測621の多くの異なる組合せおよび/または順列を介してピクチャ611～618をエンコードするためにマルチレイヤビデオシーケンス600を採用することができる。たとえば、ピクチャ615は、イントラ予測に従ってコーディングされ得る。次いで、ピクチャ616～618は、ピクチャ615を参照ピクチャとして使用することによってインター予測623に従ってコーディングされ得る。さらに、ピクチャ611は、ピクチャ615をレイヤ間参照ピクチャとして使用することによってレイヤ間予測621に従ってコーディングされ得る。次いで、ピクチャ612～614は、ピクチャ611を参照ピクチャとして使用することによってインター予測623に従ってコーディングされ得る。それゆえに、参照ピクチャは、異なるコーディングメカニズムのための単一のレイヤ参照ピクチャとレイヤ間参照ピクチャの両方として働き得る。下位レイヤN 631ピクチャに基づき上位レイヤN+1 632ピクチャをコーディングすることによって、上位レイヤN+1 632は、インター予測623およびレイヤ間予測621よりもかなり低いコーディング効率を有する、イントラ予測を採用することを回避することができる。それゆえに、イントラ予測のコーディング効率の悪さは、最小/最低品質のピクチャに限定することができ、したがって、最小量のビデオデータをコーディングすることに限定することができる。参照ピクチャおよび/またはレイヤ間参照ピクチャとして使用されるピクチャは、参照ピクチャリスト構造に含まれる参照ピクチャリストのエントリにおいて示され得る。

【0087】

レイヤN+1 632およびレイヤN 631などの、レイヤは、出力レイヤセット(OLS)に含まれ得ることに留意されたい。OLSは、少なくとも1つのレイヤが出力レイヤである、1つまたは複数のレイヤのセットである。たとえば、レイヤN 631は、第1のOLSに含まれ、レイヤN 631およびレイヤN-1 632は、両方とも、第2のOLSに含まれ得る。これは、デコーダ側の条件に応じて、異なるOLSが異なるデコーダに送信されることを可能にする。たとえば、サブビットストリーム抽出プロセスは、ターゲットOLSがデコーダに送信される前に、マルチレイヤビデオシーケンス600からターゲットOLSに無関係なデータを除去することができる。それゆえに、マルチレイヤビデオシーケンス600のエンコード済みコピーは、エンコーダ(または対応するコンテンツサーバ)に記憶され、様々なOLSが、要求があったとき、抽出され異なるデコーダに送信され得る。

【0088】

また、レイヤN+1 632およびレイヤN 631などの異なるレイヤは、HRDおよび/またはデコーダにおける異なるメモリ要件に関連付けられ得ることに留意されたい。具体的には、DPB内のデコード済みピクチャは、長期参照用使用、短期参照用使用、または参照用未使用、としてマークされてもよい。参照ピクチャマーキングプロセスは、新しいピクチャがデコードされるたびに(たとえば、新しいピクチャが現在のピクチャになるときに)呼び出され得る。具体的は、参照ピクチャマーキングプロセスは、デコーディングプロセスが新しいピクチャに適用されるたびにDPB内の各ピクチャに適用され得る。参照用未使用とマークされたピクチャは、ピクチャが出力され得るまで記憶されるか、またはピクチャが出力に関してスケジュールされていない場合にDPBから即座に除去される。したがって、出力レイヤである、レイヤN+1 632および/またはレイヤN 631などの、レイヤは、DPB空間を使用して、参照ピクチャを保持し、そのようなピクチャが出力できるようになるまでピクチャを保持する。しかしながら、レイヤ間予測621に対する参照レイヤとしてのみ使用される(出力レイヤではない)レイヤN+1 632および/またはレイヤN 631などのレイヤは、参照に使用されるピクチャのみを保持する。出力レイヤでないレイヤは、非出力レイヤからのピクチャは決して出力されないので、参照用未使用とマークされているピクチャを保持する必要はない。それゆえに、出力レイヤは、参照にのみ使用されるレイヤ(たとえば、非出力レイヤ)よりも大きなDPB空間を採用する。たとえば、出力レイヤは、出力レイヤでない参照レイヤよりもDPB内で約2倍のメモリ空間を採用し得る。

【0089】

図7は、例示的な参照ピクチャリスト(RPL)構造700を例示する概略図である。RPL構造700は、マルチレイヤビデオシーケンス600などのビデオシーケンスをコーディングするとき、インター予測623および/またはレイヤ間予測621で使用される参照ピクチャおよび/またはレイヤ間参照ピクチャの指示を記憶するために採用され得る。したがって、RPL構造700は、方法100を実行するとき、コーデックシステム200、エンコーダ300、および/またはデコーダ400によって採用され得る。さらに、RPL構造700は、エンコード済みビデオシーケンスを含むビットストリームに対して適合性テストを実行するとき、HRD500などのHRDによって採用され得る。

【0090】

RPL構造700は、参照ピクチャリスト0(RefPicList[0])711および参照ピクチャリスト1(RefPicList[1])712などの、複数の参照ピクチャリストを含むアドレス指定可能なシンタックス構造である。RPL構造700は、例に応じて、ビットストリームのシーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、および/またはスライスヘッダに記憶され得る。RefPicList[0]711およびRefPicList[1]712などの、参照ピクチャリストは、インター予測および/またはレイヤ間予測に使用される参照ピクチャのリストである。RefPicList[0]711およびRefPicList[1]712は各々、複数のエントリ715を含み得る。参照ピクチャリスト構造エントリ715は、RefPicList[0]711および/またはRefPicList[1]712などの、参照ピクチャリストに関連付けられている参照ピクチャを示すRPL構造700内のアドレス指定可能な配置である。各エントリ715は、インター予測に使用されるピクチャを参照するピクチャ順序カウント(POC)値(または他のポインタ値)を含んでもよい。具体的には、一方向インター予測によって使用されるピクチャへの参照は、RefPicList[0]711に記憶され、双方向インター予測によって使用されるピクチャへの参照は、RefPicList[0]711とRefPicList[1]712の両方に記憶される。たとえば、一方向インター予測は、RefPicList[0]711によって示される1つの参照ピクチャ内のブロックを参照することによって現在のピクチャのブロックをコーディングし得る。さらに、双方向インター予測は、RefPicList[0]711によって示される1つの参照ピクチャ内のブロックおよびRefPicList[1]712によって示される1つの参照ピクチャ内のブロックを参照することによって現在のピクチャのブロックをコーディングし得る。一方向予測に従ってコーディングされるスライスはPスライスと称され、双方向予測に従ってコーディングされるスライスはBスライスと称されることに留意されたい。それゆえに、RefPicList[0]711は、一方向予測(P)スライスのインター予測に使用される参照ピクチャリスト(たとえば、対応する参照ピクチャのリストを含む)、または双方向予測(B)スライスのインター予測に使用される2つの参照ピクチャリストのうちの第1のリストである。さらに、RefPicList[1]712は、Bスライスのインター予測に使用される第2の参照ピクチャリストである(たとえば、RefPicList[0]と併用される)。

【0091】

具体例において、RPL構造700は、ref_pic_list_struct(listIdx, rplsIdx)として表されるものとしてよく、listIdx721は、RefPicList[0]711および/またはRefPicList[1]712などの、対応する参照ピクチャリストを識別するインデックスであり、rplsIdx725は、対応する参照ピクチャリスト内の参照エントリ715を示すインデックスである。したがって、ref_pic_list_struct()は、listIdx721およびrplsIdx725に基づき参照エントリ715を返すシンタックス構造である。ref_pic_list_struct()は、RefPicList[0]およびRefPicList[1]を含むシンタックス構造として定義されてもよい。エンコーダは、ビデオシーケンス内の各非イントラコーディング済みスライスに対するRPL構造700の一部をエンコードすることができる。次いで、デコーダは、コーディング済みビデオシーケンス内の各非イントラコーディング済みスライスをデコードする前にRPL構造700の対応する部分を解決することができる。たとえば、シーケンス内の多くのピクチャに関連するRPL構造700の部分はSPSに記憶され、少数のピクチャに適用するRPL構造700の部分はPPSに記憶され、特定のスライスに適用するRPL構造700の部分はスライスヘッダに記憶され得る。

【0092】

参照ピクチャのセット(setOfRefPics)733は、現在のピクチャと同じnuh_layer_idを有するRefPicList[0]711内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]712内のすべてのエントリによって参照される固有のピクチャのセットである。RefPicList[0]711およびRefPicList[1]712は、スライス特有のものであってよい。したがって、setOfRefPics733は、現在のピクチャ内の現在のスライスに対する固有の参照ピクチャのセットを含むものとしてよく、固有の参照ピクチャのセットは、現在のピクチャと同じレイヤ内に含まれる。いくつかのシステムでは、setOfRefPics733内の参照ピクチャの数は、すべてのレイヤに対してグローバルである静的な値によって制約され得る。しかしながら、上で指摘されているように、使用されるDPB空間の量は、レイヤが出力レイヤであるかそうでないかに応じて変わり得る。それゆえに、レイヤに関係なくピクチャの同じ静的な最大値をsetOfRefPics733に適用する結果、メモリ割り当てが非効率になり得る。たとえば、静的な最大値は、出力レイヤに対してsetOfRefPics733内に存在し得るピクチャの数を過度に制限する可能性があり、および/または参照レイヤ(非出力レイヤ)に対して十分に制限的でない可能性がある。本発明の例では、最大デコード済みピクチャバッファサイズに基づきsetOfRefPics733を制約することによってこの問題に対処する。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。それゆえに、setOfRefPics733は、代わりに、各レイヤに対するDPB内の利用可能なメモリ空間の量に基づき制約され、任意の静的な値に基づき制約されることはない。したがって、setOfRefPics733は、対応するレイヤが出力レイヤであるか参照レイヤであるかに応じて異なるサイズに動的に制限され得る。

【0093】

いくつかの例では、エンコーダは、RPL構造700内の参照エントリの数(num_ref_entries)732をシグナリングすることもできる。num_ref_entries732は、RPL構造700内の参照エントリの数を示すシンタックス要素である。num_ref_entries732は、num_ref_entries[listIdx][rplsIdx]と表記され得る。setOfRefPics733と同様に、いくつかのビデオコーディングシステムは、レイヤが出力レイヤであるか、または参照レイヤのみであるかに応じて過度に制限的であるか、または過度の許容性を有し得る静的な値に基づきnum_ref_entries732を制限する。また、本開示は、最大デコード済みピクチャバッファサイズに基づきnum_ref_entries732を制約してもよい。それゆえに、num_ref_entries732は、その代わりに、対応するレイヤに対するDPB内の利用可能なメモリ空間の量に基づき制約され、すべてのレイヤに対してグローバルである任意の静的な値に基づき制約されない。したがって、num_ref_entries732は、対応するレイヤが出力レイヤであるか参照レイヤであるかに応じて異なるサイズに動的に制限され得る。

【0094】

図8は、例示的なビットストリーム800を例示する概略図である。たとえば、ビットストリーム800は、方法100に従ってコーデックシステム200および/またはデコーダ400によってデコードするために、コーデックシステム200および/またはエンコーダ300によって生成され得る。さらに、ビットストリーム800は、RPL構造700を採用することによってコーディングされ得る、エンコード済みマルチレイヤビデオシーケンス600を含み得る。それに加えて、ビットストリーム800は、HRD500などの、HRDの動作を制御するための様々なパラメータを含み得る。このようなパラメータに基づき、HRD500は、デコードのためにデコーダに向けて伝送する前に、規格への適合性についてビットストリーム800をチェックすることができる。

【0095】

ビットストリーム800は、VPS811、1つまたは複数のSPS813、複数のピクチャパラメータセット(PPS)815、複数のピクチャヘッダ816、複数のスライスヘッダ817、および画像データ820を含む。VPS811は、ビットストリーム800全体に関係するデータを含む。たとえば、VPS811は、ビットストリーム800で使用されるOLS、レイヤ、および/またはサブレイヤに関係するデータを含んでもよい。SPS813は、ビットストリーム800に含まれるコーディング済みビデオシーケンス内のすべてのピクチャに共通するシーケンスデータを含む。たとえば、各レイヤは、1つまたは複数のコーディング済みビデオシーケンスを含むものとしてよく、各コーディング済みビデオシーケンスは、対応するパラメータについてSPS813を参照し得る。SPS813におけるパラメータは、ピクチャのサイズ設定、ビット深度、コーディングツールパラメータ、ビットレート制限などを含むことができる。各シーケンスがSPS813を参照する一方で、いくつかの例では単一のSPS813は複数のシーケンスに対するデータを含むことができることに留意されたい。PPS815は、ピクチャ全体に適用されるパラメータを含む。したがって、ビデオシーケンス内の各ピクチャは、PPS815を参照し得る。各シーケンスがPPS815を参照する一方で、いくつかの例では単一のPPS815は複数のピクチャに対するデータを含むことができることに留意されたい。たとえば、複数の類似のピクチャは、類似のパラメータに従ってコーディングされ得る。そのような場合、単一のPPS815は、そのような類似のピクチャに対するデータを含み得る。PPS815は、対応するピクチャにおけるスライス、量子化パラメータ、オフセットなどに利用可能なコーディングツールを示すことができる。

【0096】

スライスヘッダ817は、ピクチャ825内の対応するスライス827に特有のパラメータを含む。したがって、ビデオシーケンス内のスライス827毎に1つのスライスヘッダ817があり得る。スライスヘッダ817は、スライスタイプ情報、ピクチャ順序カウント(POC)、参照ピクチャリスト、予測重み、タイルエントリポイント、またはデブロッキングパラメータなどを含み得る。いくつかの例では、ビットストリーム800は、ピクチャヘッダ816も含むものとしてよく、これは、単一のピクチャ825内のすべてのスライス827に適用されるパラメータを含むシンタックス構造であることに留意されたい。このような理由から、ピクチャヘッダ816およびスライスヘッダ817は、いくつかの文脈において入れ換えて使用され得る。たとえば、いくつかのパラメータは、そのようなパラメータが特定のスライス827に適用されるか、またはピクチャ825内のすべてのスライス827に共通であるかどうかに応じてスライスヘッダ817とピクチャヘッダ816との間で移動され得る。

【0097】

画像データ820は、インター予測、レイヤ間予測、および/またはイントラ予測に従ってエンコードされたビデオデータ、さらには対応する変換済みおよび量子化済み残差データを含む。たとえば、画像データ820は、レイヤ823、ピクチャ825、および/またはスライス827を含み得る。レイヤ823は、nuh_layer_id 835などのレイヤIDによって示されているような指定された特性(たとえば、共通の解像度、フレームレート、画像サイズなど)を共有するVCL NALユニット841と、関連付けられている非VCL NALユニット842とのセットである。たとえば、レイヤ823は、レイヤ823内のピクチャ825をデコードするために使用される任意のパラメータセットとともに同じnuh_layer_id 835を共有するピクチャ825のセットを含んでもよい。たとえば、レイヤ823は、図6からのレイヤN 631および/またはレイヤN+1 632にそれぞれ実質的に類似している。

【0098】

nuh_layer_id 835は、少なくとも1つのNALユニットを含むレイヤ823の識別子を指定するシンタックス要素である。たとえば、ベースレイヤとして知られる最低品質のレイヤは、より高い品質のレイヤに対してnuh_layer_id 835の値を高くした最低値のnuh_layer_id 835を含み得る。したがって、下位レイヤは、nuh_layer_id 835のより小さい値を有するレイヤ823であり、上位レイヤは、nuh_layer_id 835のより大きい値を有するレイヤ823である。レイヤ823のデータは、nuh_layer_id 835に基づき相関する。たとえば、パラメータセットおよびビデオデータは、そのようなパラメータセット/ビデオデータを含む最下位レイヤ823に対応するnuh_layer_id 835の値に関連付けられ得る。それゆえに、VCL NALユニット841のセットは、VCL NALユニット841のセットがすべてnuh_layer_id 835の特定の値を有するとき、レイヤ823の一部である。

【0099】

ピクチャ825は、フレームまたはそのフィールドを作成するルーマサンプルの配列および/またはクロマサンプルの配列である。たとえば、ピクチャ825は、表示のために出力され得るか、または出力する他のピクチャのコーディングをサポートするために使用されるコーディング済み画像である。ピクチャ825は、1つまたは複数のスライス827を含む。スライス827は、VCL NALユニット841などの、単一のNALユニットに排他的に含まれるピクチャ825の整数個数の完全なタイルまたは(たとえば、タイル内の)整数個数の連続する完全なコーディングツリーユニット(CTU)行として定義され得る。スライス827は、CTUおよび/またはコーディングツリーブロック(CTB)にさらに分割される。CTUは、コーディングツリーによって区分化され得る事前定義されたサイズのサンプルのグループである。CTBは、CTUのサブセットであり、CTUのルーマ成分またはクロマ成分を含む。CTU/CTBは、コーディングツリーに基づきコーディングブロックにさらに分割される。次いで、コーディングブロックは、予測メカニズムに従ってエンコード/デコードされ得る。

【0100】

ビットストリーム800は、NALユニットのシーケンスとしてコーディングされうる。NALユニットは、ビデオデータおよび/またはサポートしているシンタックスのためのコンテナである。NALユニットは、VCL NALユニット841または非VCL NALユニット842とすることができる。VCL NALユニット841は、画像データ820および関連付けられているスライスヘッダ817などの、ビデオデータを含むようにコーディングされたNALユニットである。具体例として、各スライス827および関連付けられているスライスヘッダ817は、単一のVCL NALユニット841にエンコードされ得る。非VCL NALユニット842は、ビデオデータをデコードすること、適合性チェックの実行、または他の動作をサポートするシンタックスおよび/またはパラメータなどの非ビデオデータを含むNALユニットである。たとえば、非VCL NALユニット842は、VPS811、SPS813、PPS815、ピクチャヘッダ816、または他のサポートしているシンタックスを含むことができる。それゆえに、ビットストリーム800は、一連のVCL NALユニット841および非VCL NALユニット842である。各NALユニットは、nuh_layer_id 835を含み、これは、エンコーダまたはデコーダが、どのレイヤ823が対応するNALユニットを含むかを決定することを可能にする。

【0101】

複数のレイヤ823を含むビットストリーム800は、エンコードされ、デコーダによって要求されるまで記憶されうる。たとえば、デコーダは、複数のレイヤ823を含むレイヤ823、および/またはOLSを要求することができる。特定の例において、レイヤ823は、ベースレイヤおよび1つまたは複数のエンハンスメントレイヤを含み得る。エンコーダおよび/またはコンテンツサーバは、要求された出力レイヤをデコードするために必要なレイヤ823のみをデコーダに送信すべきである。

【0102】

ビットストリームは、ref_pic_list_struct831を含むことができ、これは、図7のRPL構造700に実質的に類似していることがある。ref_pic_list_struct831は、インター予測および/またはレイヤ間予測に従ってスライス827内のブロックをコーディングするために使用されるsetofRefPicsを参照するRefPicList[0]およびRefPicList[1]を含むことができる。ref_pic_list_struct 831は、図7のnum_ref_entries 732に実質的に類似するnum_ref_entries 832も含むことができる。したがって、num_ref_entries 832は、ref_pic_list_struct 831内の参照エントリの数を示す。ref_pic_list_struct 831は、ref_pic_list_struct 831の範囲に応じて、SPS813、ピクチャヘッダ816、および/またはスライスヘッダ817に記憶され得る。たとえば、シーケンス全体に対する参照ピクチャを参照するref_pic_list_struct 831はSPS813に含まれ、ピクチャ全体825に対する参照ピクチャを参照するref_pic_list_struct 831は、ピクチャヘッダ816に含まれ、スライス827に対する参照ピクチャを参照するref_pic_list_struct 831は、スライスヘッダ817に含まれる。

【0103】

ビットストリーム800は、デコード済みピクチャバッファパラメータ(dpb_parameters)837も含み得る。dpb_parameters837は、DPBサイズ、最大ピクチャ順序変更数、および1つまたは複数のOLSに対する最大待ち時間の情報を提供するシンタックス構造である。したがって、dpb_parameters837は、デコーディングプロセス中にDPBの機能を指定する。具体例として、dpb_parameters837は、最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)838を含むものとしてよく、これはDPBの最大必要サイズをピクチャストレージバッファのユニットにおいて指定するシンタックス要素である。dpb_parameters837は、範囲に応じて、VPS811および/またはSPS813に記憶され得る。たとえば、ビデオ全体に適用されるdpb_parameters837は、VPS811に記憶され、特定のビデオシーケンスおよび/または特定のレイヤ823に適用されるdpb_parameters 837は、SPS813に記憶され得る。

【0104】

上で指摘されているように、ref_pic_list_struct(listIdx, rplsIdx)とも表記される、ref_pic_list_struct831は、ピクチャ間の参照を追跡するために採用され、それによりインター予測されたピクチャの再構成をサポートし得る。いくつかのビデオコーディングシステムでは、ref_pic_list_struct831は、現在のピクチャに対して採用することができる参照エントリの最大数を含む。具体的には、いくつかのビデオコーディングシステムにおいて、現在のピクチャに対する参照エントリの最大数は、すべてのレイヤに対してグローバルである静的に定義された値である。この結果、レイヤに関係なく静的に定義された値に基づきnum_ref_entries[listIdx][rplsIdx]とも表記される、num_ref_entries832を制限することになる。この結果、また、レイヤに関係なく静的に定義された値に基づきref_pic_list_struct831によって参照される図7のsetOfRefPics733も制限することになる。このアプローチの問題点は、参照レイヤが出力レイヤとは異なる量の空間をデコード済みピクチャバッファで使用することである。たとえば、参照レイヤは、ピクチャ再構成のために空間を使用し、出力レイヤは、ピクチャ再構成とストレージペンディング出力の両方のために空間を使用する。したがって、参照レイヤに使用されるより少ない量の空間をサポートするように選択された参照エントリの静的に定義された最大数は、出力レイヤのピクチャに適用されるとき、過度に制限されることがある。代替的に、出力レイヤに対して選択された参照エントリの静的に定義された最大数は、参照レイヤのピクチャをデコードするために必要より大きな空間を提供し、したがって、メモリリソースを浪費する可能性がある。

【0105】

上述の問題に対処するために、ビットストリーム800は、ref_pic_list_struct831を異なるタイプのレイヤ823に対して異なるピクチャバッファ使用をサポートするように制約する。たとえば、ref_pic_list_struct831内の参照エントリの数が各ピクチャに対して使用されることを示すnum_ref_entries 832は、最大デコード済みピクチャバッファサイズに基づき選択される範囲を維持するように制約される。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかによって異なる。したがって、最大デコード済みピクチャバッファサイズに基づきnum_ref_entries 832を制約することは、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にする。特定の例において、dpb_parameters837におけるmax_dec_pic_buffering_minus1 838は、対応するレイヤに対するDPBの最大要求サイズを指定する。したがって、エンコーダおよび/またはHRDは、max_dec_pic_buffering_minus1 838に基づき最大デコード済みピクチャバッファサイズを導出し、最大デコード済みピクチャバッファサイズに基づきnum_ref_entries 832を制約することができる。デコーダは、最大デコード済みピクチャバッファサイズに基づき制約されているnum_ref_entries 832を有するref_pic_list_struct 831を受信することもできる。この例にもかかわらず、num_ref_entries 832は、レイヤ特有であり、すべてのレイヤに対してグローバルである静的に定義された値ではない、最大デコード済みピクチャバッファサイズに基づき制約される。さらなる例において、図7のsetOfRefPics 733は、類似の方法で制約され得る。たとえば、エンコーダおよび/またはHRDは、max_dec_pic_buffering_minus1 838に基づき最大デコード済みピクチャバッファサイズを導出し、最大デコード済みピクチャバッファサイズに基づきsetOfRefPics 733を制約することができる。デコーダは、最大デコード済みピクチャバッファサイズに基づき制約されているsetOfRefPics 733を有するref_pic_list_struct 831を受信することもできる。この例にもかかわらず、setOfRefPics733は、レイヤ特有であり、すべてのレイヤに対してグローバルである静的に定義された値ではない、最大デコード済みピクチャバッファサイズに基づき制約される。そのような制約条件を採用することによって、デコード済みピクチャバッファにおけるメモリのより効率的な割り当てがサポートされ、したがって、より最適なメモリ使用がより効率的なエンコーディングを促すので高いコーディング効率がサポートされる。その結果、エンコーダおよびデコーダの機能性が向上する。さらに、コーディング効率が高められ、これにより、エンコーダとデコーダの両方におけるプロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0106】

次に、前述の情報は、本明細書において以下でより詳細に説明される。レイヤード・ビデオ・コーディング(layered video coding)は、スケーラブルビデオコーディングまたはスケーラビリティを有するビデオコーディングとも称される。ビデオコーディングにおけるスケーラビリティは、マルチレイヤコーディング技術を使用することによってサポートされ得る。マルチレイヤビットストリームは、ベースレイヤ(BL)および1つまたは複数のエンハンスメントレイヤ(EL)を含む。スケーラビリティの例は、空間的スケーラビリティ、品質/信号対雑音比(SNR)スケーラビリティ、マルチビュースケーラビリティ、フレームレートスケーラビリティなどを含む。マルチレイヤコーディング技術が使用されるとき、ピクチャまたはその一部は、参照ピクチャを使用することなくコーディングされ得(イントラ予測)、同じレイヤ内にある参照ピクチャを参照することによってコーディングされ得(インター予測)、および/または他のレイヤ内にある参照ピクチャを参照することによってコーディングされ(レイヤ間予測)得る。現在のピクチャのレイヤ間予測に使用される参照ピクチャは、レイヤ間参照ピクチャ(ILRP)と称される。図6は、異なるレイヤ内のピクチャが異なる解像度を有する空間スケーラビリティに対するマルチレイヤコーディングの一例を例示している。

【0107】

いくつかのビデオコーディングファミリーは、単一レイヤコーディングのためのプロファイルからの分離されたプロファイルにおけるスケーラビリティに対するサポートを提供する。スケーラブルビデオコーディング(SVC)は、空間的、時間的、および品質的なスケーラビリティに対するサポートを提供する高度ビデオコーディング(AVC)のスケーラブルな拡張である。SVCについては、フラグがELピクチャ内の各マクロブロック(MB)においてシグナリングされ、それによりEL MBが下位レイヤからの同一の場所のブロックを使用して予測されるかどうかを示す。同一の場所のブロックからの予測は、テクスチャ、動きベクトル、および/またはコーディングモードを含み得る。SVCの実装形態では、その設計において未修正のAVC実装形態を直接再利用し得ない。SVC ELマクロブロックシンタックスおよびデコーディングプロセスは、AVCシンタックスおよびデコーディングプロセスと異なる。

【0108】

スケーラブルHEVC(SHVC)は、空間的および品質的スケーラビリティに対するサポートを提供するHEVCの拡張である。マルチビューHEVC(MV-HEVC)は、マルチビュースケーラビリティに対するサポートを提供するHEVCの拡張である。3D HEVC(3D-HEVC)は、MV-HEVCに比べて高度であり効率的である3Dビデオコーディングに対するサポートを提供するHEVCの拡張である。時間的スケーラビリティは、単一レイヤHEVCコーデックの不可欠な部分として含まれ得る。HEVCのマルチレイヤ拡張では、レイヤ間予測に使用されるデコード済みピクチャが、同じAUのみから来て、長期参照ピクチャ(LTRP)として扱われる。そのようなピクチャは現在のレイヤ内の他の時間的参照ピクチャとともに参照ピクチャリスト内の参照インデックスを割り当てられる。レイヤ間予測(ILP)は、予測ユニット(PU)レベルにおいて、参照ピクチャリスト内のレイヤ間参照ピクチャを参照するように参照インデックスの値を設定することによって達成される。空間スケーラビリティは、ILRPがエンコードされるかまたはデコードされている現在のピクチャと異なる空間解像度を有するとき、参照ピクチャまたはその一部を再サンプルする。参照ピクチャ再サンプリングは、ピクチャレベルまたはコーディングブロックレベルのいずれかで実現され得る。

【0109】

VVCは、レイヤード・ビデオ・コーディングもサポートし得る。VVCビットストリームは、複数のレイヤを含むことができる。レイヤは、すべて互いから独立しているものとしてよい。たとえば、各レイヤは、レイヤ間予測を使用せずにコーディングされ得る。この場合、レイヤは、サイマルキャストレイヤとも呼ばれる。いくつかの場合において、レイヤのいくつかはILPを用いてコーディングされる。VPS内のフラグは、レイヤがサイマルキャストレイヤであるかどうか、一部のレイヤがILPを使用しているかどうかを示すことができる。いくつかのレイヤがILPを使用するとき、レイヤ間のレイヤ依存関係もVPSでシグナリングされる。SHVCおよびMV-HEVCと異なり、VVCはOLSを指定し得ない。OLSは、レイヤの指定されたセットを含み、レイヤのセット内の1つまたは複数のレイヤは、出力レイヤとなるように指定される。出力レイヤは、出力されるOLSのレイヤである。VVCのいくつかの実装形態において、レイヤがサイマルキャストレイヤであるとき、ただ1つのレイヤが、デコードおよび出力について選択され得る。VVCのいくつかの実装形態において、任意のレイヤがILPを使用するとき、すべてのレイヤを含むビットストリーム全体がデコードされるように指定される。さらに、レイヤのうちの特定のレイヤが出力レイヤとして指定される。出力レイヤは、最上位レイヤのみ、すべてのレイヤ、または最上位レイヤ+指示された下位レイヤのセットであるように示されてよい。

【0110】

前述の態様は、いくつかのスケーラビリティ関係問題を含んでいる。そのようなシステムにおけるスケーラビリティ設計は、レイヤ特有のプロファイル、ティア、およびレベル(PTL)、さらにはレイヤ特有のコーディング済みピクチャバッファ(CPB)動作を含む。PTLシグナリング効率は、改善されるべきである。サブレイヤに対するシーケンスレベルHRDパラメータのシグナリング効率は改善されるべきである。DPBパラメータシグナリングは改善されるべきである。いくつかの設計は、単一レイヤビットストリームがVPSを参照することを引き起こす。そのような設計におけるnum_ref_entries[][]の値範囲は、不正であり、デコーダに対して予期せぬエラーを引き起こす。このような設計におけるデコーディングプロセスは、サブビットストリーム抽出を伴い、これはデコーダ実装形態の負担を増す。このような設計における一般デコーディングプロセスは、レイヤ間予測を有する複数のレイヤを含むスケーラブルビットストリームに対しては機能し得ない。そのような設計における変数NoOutputOfPriorPicsFlagの値の導出は、ピクチャベースであり、そのような設計ではAUベースではあり得ない。そのような設計におけるスケーラブルネスティングSEIメッセージは、nesting_ols_flagが1に等しいとき、OLSのレイヤではなく、OLSに直接的に適用するように簡素化されるべきである。非スケーラブルネストSEIメッセージは、payloadTypeが0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいとき、0番目のOLSにのみ適用されるように指定され得る。

【0111】

一般に、本開示は、ビデオコーディングにおけるスケーラビリティのための様々なアプローチについて説明する。技術の説明は、VVCに基づく。しかしながら、これらの技術は、他のビデオコーデック仕様に基づくレイヤード・ビデオ・コーディングにも適用される。上述の問題の1つまたは複数は、次のように解決され得る。具体的には、この開示は、ビデオコーディングにおける改善されたスケーラビリティサポートのための方法を含む。

【0112】

次は、様々な定義例である。OPは、OLSインデックスおよびTemporalIdの最高値によって識別される、OLSの時間的サブセットであってよい。出力レイヤは、出力されるOLSのレイヤであり得る。OLSは、レイヤのセットであってよく、レイヤのセット内の1つまたは複数のレイヤは、出力レイヤとなるように指定される。OLSレイヤインデックスは、OLSにおけるレイヤのリストへの、OLS内のレイヤの、インデックスであってよい。サブビットストリーム抽出プロセスは、ターゲットOLSインデックスおよびターゲット最高TemporalIdによって決定される、ターゲットセットに属さないビットストリーム内のNALユニットをビットストリームから除去する指定されたプロセスであってよく、出力サブビットストリームは、ターゲットセットに属するビットストリーム内のNALユニットを含む。

【0113】

例示的なビデオパラメータセットRBSPシンタックスは次のとおりである。

【0114】

【表1A】

【0115】

【表1B】

【0116】

例示的なシーケンスパラメータセットRBSPシンタックスは次のとおりである。

【0117】

【表2A】

【0118】

【表2B】

【0119】

例示的なDPBパラメータシンタックスは次のとおりである。

【0120】

【表3】

【0121】

例示的な一般HRDパラメータシンタックスは次のとおりである。

【0122】

【表4】

【0123】

例示的なOLD HRDパラメータシンタックスは次のとおりである。

【0124】

【表5】

【0125】

例示的なサブレイヤHRDパラメータシンタックスは次のとおりである。

【0126】

【表6】

【0127】

例示的なビデオパラメータセットRBSPセマンティクスは次のとおりである。vps_max_layers_minus1+1は、VPSを参照する各CVS内のレイヤの最大許容数を指定する。vps_max_sub_layers_minus1+1は、VPSを参照する各CVS内に存在している可能性のある時間的サブレイヤの最大数を指定する。vps_max_sub_layers_minus1の値は、0から6までの範囲内にあるものとしてよい。1に等しいvps_all_layers_same_num_sub_layers_flagは、時間的サブレイヤの数がVPSを参照する各CVS内のすべてのレイヤについて同じであることを指定する。0に等しいvps_all_layers_same_num_sub_layers_flagは、VPSを参照する各CVSにおけるレイヤが同じ数の時間的サブレイヤを有し得るか、または有し得ないことを指定する。存在していないとき、vps_all_layers_same_num_sub_layers_flagの値は、1に等しいと推論され得る。1に等しいvps_all_independent_layers_flagは、CVS内のすべてのレイヤは、レイヤ間予測を使用することなく独立してコーディングされることを指定する。0に等しいvps_all_independent_layers_flagは、CVS内のレイヤの1つまたは複数がレイヤ間予測を使用してよいことを指定する。存在していないとき、vps_all_independent_layers_flagの値は、1に等しいと推論され得る。vps_all_independent_layers_flagが1に等しいとき、vps_independent_layer_flag[i]の値は、1に等しいと推論される。vps_all_independent_layers_flagが0に等しいとき、vps_independent_layer_flag[0]の値は、1に等しいと推論される。

【0128】

0に等しいvps_direct_dependency_flag[i][j]は、インデックスjを有するレイヤはインデックスiを有するレイヤに対する直接参照レイヤではないことを指定する。1に等しいvps_direct_dependency_flag[i][j]は、インデックスjを有するレイヤはインデックスiを有するレイヤに対する直接参照レイヤであることを指定する。vps_direct_dependency_flag[i][j]が0からvps_max_layers_minus1までの範囲内のiおよびjについて存在していないとき、フラグは0に等しいと推論される。i番目のレイヤのj番目の直接従属レイヤを指定する、変数DirectDependentLayerIdx[i][j]、およびレイヤインデックスjを有するレイヤが任意の他のレイヤによって参照レイヤとして使用されるかどうかを指定する変数LayerUsedAsRefLayerFlag[j]は、次のように導出され得る。
for(i=0; i<=vps_max_layers_minus1; i++)
LayerUsedAsRefLayerFlag[j]=0
for(i=1; i<vps_max_layers_minus1; i++)
if(!vps_independent_layer_flag[i])
for(j=i-1, k=0; j>=0; j--)
if(vps_direct_dependency_flag[i][j]) {
DirectDependentLayerIdx[i][k++]=j
LayerUsedAsRefLayerFlag[j]=1
}

【0129】

nuh_layer_idがvps_layer_id[i]に等しいレイヤのレイヤインデックスを指定する、変数GeneralLayerIdx[i]は、次のように導出され得る。
for(i=0; i<=vps_max_layers_minus1; i++)
GeneralLayerIdx[vps_layer_id[i]]=i

【0130】

1に等しいeach_layer_is_an_ols_flagは、各出力レイヤセットがただ1つのレイヤを含み、ビットストリーム内の各レイヤそれ自体は、単一の含まれるレイヤが唯一の出力レイヤである出力レイヤセットであることを指定する。0に等しいeach_layer_is_an_ols_flagは、出力レイヤセットが複数のレイヤを含み得ることを指定する。vps_max_layers_minus1が0に等しい場合、each_layer_is_an_ols_flagの値は、1に等しいと推論される。そうでない場合、vps_all_independent_layers_flagが0に等しいとき、each_layer_is_an_ols_flagの値は、0に等しいと推論される。

【0131】

0に等しいols_mode_idcは、VPSによって指定されたOLSの総数がvps_max_layers_minus1+1に等しく、i番目のOLSは0からiまでのレイヤインデックスを有するレイヤを含み、各OLSについてOLS内の最上位レイヤのみが出力されることを指定する。1に等しいols_mode_idcは、VPSによって指定されたOLSの総数がvps_max_layers_minus1+1に等しく、i番目のOLSは0からiまでのレイヤインデックスを有するレイヤを含み、各OLSについてOLS内のすべてのレイヤが出力されることを指定する。2に等しいols_mode_idcは、VPSによって指定されたOLSの総数が明示的にシグナリングされ、各OLSについてOLS内の最上位レイヤおよび下位レイヤの明示的にシグナリングされたセットが出力されることを指定する。ols_mode_idcの値は、0から2までの範囲内にあり得る。vps_all_independent_layers_flagが1に等しく、each_layer_is_an_ols_flagが0に等しいとき、ols_mode_idcの値は、2に等しいと推論される。num_output_layer_sets_minus1+1は、ols_mode_idcが2に等しいとき、VPSによって指定されたOLSの総数を指定する。

【0132】

VPSによって指定されたOLSの総数を指定する、変数TotalNumOlssは、次のように導出され得る。
if(vps_max_layers_minus1==0)
TotalNumOlss=1
else if(each_layer_is_an_ols_flag || ols_mode_idc==0 || ols_mode_idc==1)
TotalNumOlss=vps_max_layers_minus1+1
else if(ols_mode_idc==2)
TotalNumOlss=num_output_layer_sets_minus1+1

【0133】

layer_included_flag[i][j]は、j番目のレイヤ(たとえば、nuh_layer_idがvps_layer_id[j]に等しいレイヤ)が、ols_mode_idcが2に等しいとき、i番目のOLS内に含まれることを指定する。1に等しいlayer_included_flag[i][j]は、j番目のレイヤがi番目のOLSに含まれることを指定する。0に等しいlayer_included_flag[i][j]は、j番目のレイヤがi番目のOLSに含まれないことを指定する。i番目のOLS内のレイヤの数を指定する、変数NumLayersInOls[i]およびi番目のOLS内のj番目のレイヤのnuh_layer_id値を指定する変数LayerIdInOls[i][j]は、次のように導出され得る。
NumLayersInOls[0]=1
LayerIdInOls[0][0]=vps_layer_id[0]
for(i=1, i<TotalNumOlss; i++) {
if(each_layer_is_an_ols_flag) {
NumLayersInOls[i]=1
LayerIdInOls[i][0]=vps_layer_id[i]
} else if(ols_mode_idc==0 | | ols_mode_idc==1) {
NumLayersInOls[i]=i+1
for(j=0; j<NumLayersInOls[i]; j++)
LayerIdInOls[i][j]=vps_layer_id[j]
} else if(ols_mode_idc==2) {
for(k=0, j=0; k<=vps_max_layers_minus1; k++)
if(layer_included_flag[i][k])
LayerIdInOls[i][j++]=vps_layer_id[k]
NumLayersInOls[i]=j
}
}

【0134】

nuh_layer_idがLayerIdInOls[i][j]に等しいレイヤのOLSレイヤインデックスを指定する、変数OlsLayeIdx[i][j]は、次のように導出され得る。
for(i=0, i<TotalNumOlss; i++)
for j=0; j<NumLayersInOls[i]; j++)
OlsLayeIdx[i][LayerIdInOls[i][j]]=j

【0135】

各OLS内の最下レイヤは、独立レイヤであるものとする。言い換えると、0からTotalNumOlss-1までの範囲内の各iについて、vps_independent_layer_flag[GeneralLayerIdx[LayerIdInOls[i][0]]]の値は1に等しいものとする。各レイヤは、VPSによって指定される少なくとも1つのOLS内に含まれるべきである。言い換えると、0からvps_max_layers_minus1の範囲内のkについてvps_layer_id[k]の1つに等しいnuh_layer_id nuhLayerIdの特定の値を有する各レイヤについて、iおよびjの値の少なくとも1つの対があるものとし、iは0からTotalNumOlss-1の範囲内にあり、jはNumLayersInOls[i]-1の範囲内にあり、LayerIdInOls[i][j]の値はnuhLayerIdに等しい。OLS内の任意のレイヤは、OLSの出力レイヤまたはOLSの出力レイヤの(直接的または間接的)参照レイヤであるものとする。

【0136】

vps_output_layer_flag[i][j]は、ols_mode_idcが2に等しいとき、i番目のOLS内のj番目のレイヤが出力されるかどうかを指定する。1に等しいvps_output_layer_flag[i]は、i番目のOLS内のj番目のレイヤが出力されることを指定する。0に等しいvps_output_layer_flag[i]は、i番目のOLS内のj番目のレイヤが出力されないことを指定する。vps_all_independent_layers_flagが1に等しく、each_layer_is_an_ols_flagが0に等しいとき、vps_output_layer_flag[i]の値は、1に等しいと推論される。値1がi番目のOLS内のj番目のレイヤが出力されることを指定し、値0がi番目のOLS内のj番目のレイヤが出力されないことを指定する変数OutputLayerFlag[i][j]は、次のように導出され得る。
for(i=0, i<TotalNumOlss; i++) {
OutputLayerFlag[i][NumLayersInOls[i]-1]=1
for(j=0; j<NumLayersInOls[i]-1; j++)
if(ols_mode_idc[i]==0)
OutputLayerFlag[i][j]=0
else if(ols_mode_idc[i]==1)
OutputLayerFlag[i][j]=1
else if(ols_mode_idc[i]==2)
OutputLayerFlag[i][j]=vps_output_layer_flag[i][j]
}

【0137】

0番目のOLSは、最下位レイヤ(たとえば、nuh_layer_idがvps_layer_id[0]に等しいレイヤ)のみを含み、0番目のOLSについて、含まれているレイヤのみが出力されることに留意されたい。vps_num_ptlsは、VPS内のprofile_tier_level()シンタックス構造の数を指定する。1に等しいpt_present_flag[i]は、プロファイル、ティア、および一般制約条件情報が、VPS内のi番目のprofile_tier_level()シンタックス構造内に存在することを指定する。0に等しいpt_present_flag[i]は、プロファイル、ティア、および一般制約条件情報が、VPS内のi番目のprofile_tier_level()シンタックス構造内に存在していないことを指定する。pt_present_flag[0]の値は、0に等しいと推論される。pt_present_flag[i]が0に等しいとき、VPS内のi番目のprofile_tier_level()シンタックス構造に対するプロファイル、ティア、および一般制約条件情報は、VPS内の(i-1)番目のprofile_tier_level()シンタックス構造のものと同一であると推論される。

【0138】

ptl_max_temporal_id[i]は、レベル情報がVPS内のi番目のprofile_tier_level()シンタックス構造に存在する最上位サブレイヤ表現のTemporalIdを指定する。ptl_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるものとする。vps_max_sub_layers_minus1が0に等しいとき、ptl_max_temporal_id[i]の値は、0に等しいと推論される。vps_max_sub_layers_minus1が0より大きく、vps_all_layers_same_num_sub_layers_flagが1に等しいとき、ptl_max_temporal_id[i]の値は、vps_max_sub_layers_minus1に等しいと推論される。vps_ptl_byte_alignment_zero_bitは、0に等しいものとするべきである。

【0139】

ols_ptl_idx[i]は、i番目のOLSに適用されるprofile_tier_level()シンタックス構造のVPS内のprofile_tier_level()シンタックス構造のリストへのインデックスを指定する。存在するときには、ols_ptl_idx[i]の値は、0からvps_num_ptls-1までの範囲内にあるべきである。NumLayersInOls[i]が1に等しいとき、i番目のOLSに適用されるprofile_tier_level()シンタックス構造は、i番目のOLS内のレイヤによって参照されるSPS内に存在する。vps_num_dpb_paramsは、VPS内のdpb_parameters()シンタックス構造の数を指定する。vps_num_dpb_paramsの値は、0から16までの範囲内にあるものとする。存在していないとき、vps_num_dpb_paramsの値は、0に等しいと推論され得る。1に等しいsame_dpb_size_output_or_nonoutput_flagは、layer_nonoutput_dpb_params_idx[i]シンタックス要素がVPS内に存在しないことを指定する。0に等しいsame_dpb_size_output_or_nonoutput_flagは、layer_nonoutput_dpb_params_idx[i]シンタックス要素がVPS内に存在し得るか、または存在し得ないことを指定する。vps_sub_layer_dpb_params_present_flagは、VPS内のdpb_parameters()シンタックス構造におけるmax_dec_pic_buffering_minus1[ ]、max_num_reorder_pics[ ]、およびmax_latency_increase_plus1[ ]シンタックス要素の存在を制御するために使用される。存在しないときには、vps_sub_dpb_params_info_present_flagは、0に等しいと推論される。

【0140】

1に等しいdpb_size_only_flag[i]は、max_num_reorder_pics[ ]およびmax_latency_increase_plus1[ ]シンタックス要素がi番目のdpb_parameters()シンタックス構造のそのVPSに存在していないことを指定する。1に等しいdpb_size_only_flag[i]は、max_num_reorder_pics[ ]およびmax_latency_increase_plus1[ ]シンタックス要素がi番目のdpb_parameters()シンタックス構造のそのVPSに存在し得ることを指定する。dpb_max_temporal_id[i]は、DPBパラメータがVPS内のi番目のdpb_parameters()シンタックス構造に存在し得る最上位サブレイヤ表現のTemporalIdを指定する。dpb_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるものとする。vps_max_sub_layers_minus1が0に等しいとき、dpb_max_temporal_id[i]の値は、0に等しいと推論され得る。vps_max_sub_layers_minus1が0より大きく、vps_all_layers_same_num_sub_layers_flagが1に等しいとき、dpb_max_temporal_id[i]の値は、vps_max_sub_layers_minus1に等しいと推論される。layer_output_dpb_params_idx[i]は、OLS内の出力レイヤであるとき、i番目のレイヤに適用されるdpb_parameters()シンタックス構造の、VPS内のdpb_parameters()シンタックス構造のリストへのインデックスを指定する。存在するときには、layer_output_dpb_params_idx[i]の値は、0からvps_num_dpb_params-1までの範囲内にあるものとする。

【0141】

vps_independent_layer_flag[i]が1に等しい場合、出力レイヤであるとき、i番目のレイヤに適用されるdpb_parameters()シンタックス構造は、レイヤによって参照されるSPS内に存在するdpb_parameters()シンタックス構造である。そうでない場合(vps_independent_layer_flag[i]が1に等しい場合)、次が適用される。vps_num_dpb_paramsが1に等しいとき、layer_output_dpb_params_idx[i]の値は、0に等しいと推論される。ビットストリーム適合性の要件は、layer_output_dpb_params_idx[i]の値が、dpb_size_only_flag[layer_output_dpb_params_idx[i]]が0に等しくなるような値であることはであってよい。

【0142】

layer_nonoutput_dpb_params_idx[i]は、i番目のレイヤがOLS内の非出力レイヤであるときにi番目のレイヤに適用されるdpb_parameters()シンタックス構造の、VPS内のdpb_parameters()シンタックス構造のリストへのインデックスを指定する。存在するときには、layer_nonoutput_dpb_params_idx[i]の値は、0からvps_num_dpb_params-1までの範囲内にあるべきである。same_dpb_size_output_or_nonoutput_flagが1に等しい場合、次が適用される。vps_independent_layer_flag[i]が1に等しい場合、i番目のレイヤが非出力レイヤであるとき、i番目のレイヤに適用されるdpb_parameters()シンタックス構造は、レイヤによって参照されるSPS内に存在するdpb_parameters()シンタックス構造である。そうでない場合(vps_independent_layer_flag[i]が1に等しい場合)、layer_nonoutput_dpb_params_idx[i]の値は、layer_output_dpb_params_idx[i]に等しいと推論される。そうでない場合(same_dpb_size_output_or_nonoutput_flagが0に等しい場合)、vps_num_dpb_paramsが1に等しいとき、layer_output_dpb_params_idx[i]の値は、0に等しいと推論される。

【0143】

1に等しいgeneral_hrd_params_present_flagは、シンタックス要素num_units_in_tickおよびtime_scaleならびにシンタックス構造general_hrd_parameters()がSPS RBSPシンタックス構造内に存在することを指定する。0に等しいgeneral_hrd_params_present_flagは、シンタックス要素num_units_in_tickおよびtime_scaleならびにシンタックス構造general_hrd_parameters()がSPS RBSPシンタックス構造内に存在しないことを指定する。num_units_in_tickは、クロックティックカウンタの1増分(クロックティックと呼ばれる)に対応する周波数time_scalehertz(Hz)で動作するクロックの時間単位数である。num_units_in_tickは、0より大きいものとする。クロックティックは、秒単位であり、num_units_in_tickをtime_scaleで除算した商に等しい。たとえば、ビデオ信号のピクチャレートが25Hzであるとき、time_scaleは27,000,000に等しいものとしてよく、num_units_in_tickは1,080,000に等しいものとしてよく、その結果、クロックティックは0.04秒に等しいものとしてよい。time_scaleは、1秒間に通過する時間単位の数である。たとえば、27MHzのクロックを使用して時間を計測する時間座標系は、27,000,000のtime_scaleを有する。time_scaleの値は、0より大きいものとする。

【0144】

0に等しいvps_extension_flagは、VPS RBSPシンタックス構造にvps_extension_data_flagシンタックス要素が存在していないことを指定する。1に等しいvps_extension_flagは、VPS RBSPシンタックス構造に存在するvps_extension_data_flagシンタックス要素があることを指定する。vps_extension_data_flagは任意の値を有し得る。vps_extension_data_flagの存在および値は、プロファイルへのデコーダ適合性に影響を及ぼし得ない。適合するデコーダは、すべてのvps_extension_data_flagシンタックス要素を無視し得る。

【0145】

例示的なシーケンスパラメータセットRBSPセマンティクスは次のとおりである。SPS RBSPは、TemporalIdが0に等しい少なくとも1つのアクセスユニットに含まれるか、または外部手段を通じて提供される、参照される前のデコーディングプロセスに利用可能とするべきであり、SPS RBSPを含むSPS NALユニットは、SPS NALユニットを参照するPPS NALユニットの最低のnuh_layer_id値に等しいnuh_layer_idを有するものとする。CVS内のsps_seq_parameter_set_idの特定の値を有するすべてのSPS NALユニットは、同じ内容を有するものとするべきである。sps_decoding_parameter_set_idは、0よりも大きいとき、SPSによって参照されるDPSに対するdps_decoding_parameter_set_idの値を指定する。sps_decoding_parameter_set_idが0に等しいとき、SPSは、DPSを参照せず、SPSを参照する各CLVSをデコードするとき、DPSは参照されない。sps_decoding_parameter_set_idの値は、ビットストリーム内のコーディング済みピクチャによって参照されるすべてのSPSにおいて同じであるものとする。

【0146】

sps_video_parameter_set_idは、0よりも大きいとき、SPSによって参照されるVPSに対するvps_video_parameter_set_idの値を指定する。sps_video_parameter_set_idが0に等しいとき、SPSは、VPSを参照しなくてもよく、SPSを参照する各CLVSをデコードするとき、VPSは参照されず、GeneralLayerIdx[nuh_layer_id]の値は、0に等しいと推論されるべきであり、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]の値は、1に等しいと推論され得る。vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいとき、特定のnuh_layer_id値nuhLayerIdを有するCLVSによって参照されるSPSは、nuhLayerIdに等しいnuh_layer_idを有するものとする。

【0147】

sps_max_sub_layers_minus1+1は、SPSを参照する各CLVS内に存在している可能性のある時間的サブレイヤの最大数を指定する。sps_max_sub_layers_minus1の値は、0からvps_max_sub_layers_minus1までの範囲内にあるべきである。sps_reserved_zero_4bitsは、適合するビットストリーム内で0に等しいものとするべきである。sps_reserved_zero_4bitsに対する他の値は、予約され得る。

【0148】

1に等しいsps_ptl_dpb_present_flagは、profile_tier_level()シンタックス構造およびdpb_parameters()シンタックス構造がSPS内に存在していることを指定する。0に等しいsps_ptl_dpb_present_flagは、profile_tier_level()シンタックス構造も、dpb_parameters()シンタックス構造も、SPS内に存在していないことを指定する。sps_ptl_dpb_present_flagの値は、vps_independent_layer_flag[nuh_layer_id]に等しいものとするべきである。vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しい場合、変数MaxDecPicBuffMinus1は、SPS内のdpb_parameters()シンタックス構造においてmax_dec_pic_buffering_minus1[sps_max_sub_layers_minus1]に等しくなるように設定される。そうでない場合、MaxDecPicBuffMinus1は、VPS内のlayer_nonoutput_dpb_params_idx[GeneralLayerIdx[nuh_layer_id]]番目のdpb_parameters()シンタックス構造のmax_dec_pic_buffering_minus1[sps_max_sub_layers_minus1]に等しくなるように設定される。1に等しいgdr_enabled_flagは、SPSを参照するCLVSにGDRピクチャが存在し得ることを指定する。0に等しいgdr_enabled_flagは、SPSを参照するCLVSにGDRピクチャが存在しないことを指定する。

【0149】

sps_sub_layer_dpb_params_flagは、SPS内のdpb_parameters()シンタックスにおけるmax_dec_pic_buffering_minus1[i]、max_num_reorder_pics[i]、およびmax_latency_increase_plus1[i]シンタックス要素の存在を制御するために使用される。存在しないときには、sps_sub_dpb_params_info_present_flagは、0に等しいと推論される。0に等しいlong_term_ref_pics_flagは、CLVS内の任意のコーディング済みピクチャのインター予測にLTRPが使用されないことを指定する。1に等しいlong_term_ref_pics_flagは、CLVS内の1つまたは複数のコーディング済みピクチャのインター予測にLTRPが使用され得ることを指定する。

【0150】

例示的な一般的なプロファイル、ティア、およびレベルのセマンティクスは次のとおりである。profile_tier_level()シンタックス構造は、レベル情報、および任意選択で、プロファイル、ティア、サブプロファイル、および一般制約条件情報(PT情報として示される)を提供する。profile_tier_level()シンタックス構造がDPSに含まれるとき、OlsInScopeは、DPSを参照するビットストリーム全体におけるすべてのレイヤを含むOLSである。profile_tier_level()シンタックス構造が、VPSに含まれるとき、OlsInScopeは、VPSによって指定される1つまたは複数のOLSである。profile_tier_level()シンタックス構造が、SPSに含まれるとき、OlsInScopeは、独立レイヤであるべきである、SPSを参照するレイヤのうち最下位レイヤであるレイヤのみを含むOLSである。

【0151】

general_profile_idcは、OlsInScopeが適合するプロファイルを示す。general_tier_flagは、general_level_idcの解釈に対するティアコンテキストを指定する。num_sub_profilesは、general_sub_profile_idc[i]シンタックス要素の数を指定する。general_sub_profile_idc[i]は、登録されているi番目の相互運用性メタデータを示す。general_level_idcは、OlsInScopeが適合するレベルを示す。general_level_idcは値が大きいほどレベルが高いことを示すことに留意されたい。OlsInScopeに対するDPSでシグナリングされる最大レベルは、OlsInScope内に含まれるCVSに対するSPSにおいてシグナリングされるレベルより高いものとしてよい。OlsInScopeが複数のプロファイルに適合するとき、general_profile_idcは、エンコーダによって決定されるように、好ましいデコード済み結果または好ましいビットストリーム識別を提供するプロファイルを示すべきであることにも留意されたい。profile_tier_level()シンタックス構造がDPSに含まれ、OlsInScopeのCVSが異なるプロファイルに適合するとき、 general_profile_idcおよびlevel_idcはOlsInScopeをデコードすることができるデコーダに対するプロファイルおよびレベルを示すべきであることにも留意されたい。

【0152】

1に等しいsub_layer_level_present_flag[i]は、レベル情報がiに等しいTemporalIdを有するサブレイヤ表現に対するprofile_tier_level()シンタックス構造内に存在することを指定する。0に等しいsub_layer_level_present_flag[i]は、レベル情報がiに等しいTemporalIdを有するサブレイヤ表現に対するprofile_tier_level()シンタックス構造内に存在しないことを指定する。ptl_alignment_zero_bitsは0に等しいものとするべきである。シンタックス要素sub_layer_level_idc[i]のセマンティクスは、存在していない値の推論の指定とは別にして、シンタックス要素general_level_idcと同じであるが、iに等しいTemporalIdを有するサブレイヤ表現に適用される。

【0153】

例示的なDPBパラメータセマンティクスは次のとおりである。dpb_parameters(maxSubLayersMinus1, subLayerInfoFlag)シンタックス構造は、DPBサイズ、最大ピクチャ順序変更数、およびCVSの各CLVSに対する最大待ち時間の情報を提供する。dpb_parameters()シンタックス構造が、VPSに含まれるとき、dpb_parameters()シンタックス構造が適用されるOLSは、VPSによって指定される。dpb_parameters()シンタックス構造が、SPSに含まれるとき、dpb_parameters()シンタックス構造は、独立レイヤであるものとする、SPSを参照するレイヤのうち最下位レイヤであるレイヤのみを含むOLSに適用される。

【0154】

max_dec_pic_buffering_minus1[i]+1は、CVSの各CLVSについて、Htidがiに等しいとき、ピクチャストレージバッファのユニットでのデコード済みピクチャバッファの最大必要サイズを指定する。max_dec_pic_buffering_minus1[i]の値は、0からMaxDpbSize-1までの範囲内にあるべきである。iが0より大きいとき、max_dec_pic_buffering_minus1[i]は、max_dec_pic_buffering_minus1[i-1]以上であるべきである。subLayerInfoFlagが0に等しいことに起因して、max_dec_pic_buffering_minus1[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_dec_pic_buffering_minus1[i]は、max_dec_pic_buffering_minus1[maxSubLayersMinus1]に等しいと推論される。

【0155】

max_num_reorder_pics[i]は、CVSの各CLVSについて、Htidがiに等しいとき、CLVSの任意のピクチャにデコード順序で先行し出力順序でそのピクチャが後に続くことができるCLVSのピクチャの最大許容数を指定する。max_num_reorder_pics[i]の値は、0からmax_dec_pic_buffering_minus1[i]までの範囲内にあるべきである。iが0より大きいとき、max_num_reorder_pics[i]は、max_num_reorder_pics[i-1]以上であるべきである。subLayerInfoFlagが0に等しいことに起因して、max_num_reorder_pics[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_num_reorder_pics[i]は、max_num_reorder_pics[maxSubLayersMinus1]に等しいと推論される。

【0156】

0に等しくないmax_latency_increase_plus1[i]は、MaxLatencyPictures[i]の値を計算するために使用され、これは、CVSの各CLVSについて、Htidがiに等しいとき、CLVSの任意のピクチャに出力順序で先行しデコード順序でそのピクチャが後に続くことができるCLVS内のピクチャの最大数を指定する。max_latency_increase_plus1[i]が0に等しくないとき、MaxLatencyPictures[i]の値は、次のように指定され得る。
MaxLatencyPictures[i]=max_num_reorder_pics[i]+max_latency_increase_plus1[i]-1
max_latency_increase_plus1[i]が0に等しいとき、対応する限度は表現されない。

【0157】

max_latency_increase_plus1[i]の値は、0から232-2までの範囲内であるべきである。subLayerInfoFlagが0に等しいことに起因して、max_latency_increase_plus1[i]が、0からmaxSubLayersMinus1-1までの範囲内のiについて存在していないとき、max_latency_increase_plus1[i]は、max_latency_increase_plus1[maxSubLayersMinus1]に等しいと推論される。

【0158】

例示的な一般HDRパラメータセマンティクスは、次のとおりである。general_hrd_parameters()シンタックス構造は、HRD演算で使用されるHRDパラメータを規定する。num_ols_hrd_params_minus1+1は、general_hrd_parameters()シンタックス構造に存在するols_hrd_parameters()シンタックス構造の数を指定する。num_ols_hrd_params_minus1の値は、0から63までの範囲内にあるべきである。TotalNumOlssが1より大きいとき、num_ols_hrd_params_minus1の値は、0に等しいと推論される。hrd_cpb_cnt_minus1+1は、CVSのビットストリーム内の代替的CPB指定の数を指定する。hrd_cpb_cnt_minus1の値は、0から31までの範囲内にあるべきである。hrd_max_temporal_id[i]は、HRDパラメータがi番目のlayer_level_hrd_parameters()シンタックス構造に含まれる最上位サブレイヤ表現のTemporalIdを指定する。hrd_max_temporal_id[i]の値は、0からvps_max_sub_layers_minus1までの範囲内であるべきである。vps_max_sub_layers_minus1が0に等しいとき、hrd_max_temporal_id[i]の値は、0に等しいと推論される。ols_hrd_idx[i]は、i番目のOLSに適用されるols_hrd_parameters()シンタックス構造のインデックスを指定する。ols_hrd_idx[[i]の値は、0からnum_ols_hrd_params_minus1までの範囲内であるべきである。存在していないとき、ols_hrd_idx[[i]の値は、0に等しいと推論される。

【0159】

例示的な参照ピクチャリスト構造セマンティクスは、次のとおりである。ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、SPS内、またはスライスヘッダ内に存在しているものとしてよい。シンタックス構造がスライスヘッダまたはSPSに含まれるかどうかに応じて、次が適用される。スライスヘッダ内に存在する場合、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、現在のピクチャ(スライスを含むピクチャ)の参照ピクチャリストlistIdxを指定する。そうでない場合(SPSに存在する場合)、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造は、参照ピクチャリストlistIdxに対する候補を指定し、この節の残りの部分で指定されるセマンティクスにおける現在のピクチャという用語は、SPSに含まれるref_pic_list_struct(listIdx, rplsIdx)シンタックス構造のリストへのインデックスに等しいref_pic_list_idx[listIdx]を含む1つまたは複数のスライスを有し、SPSを参照するCVS内にある各ピクチャを指す。num_ref_entries[listIdx][rplsIdx]は、ref_pic_list_struct(listIdx, rplsIdx)シンタックス構造内のエントリの数を指定する。num_ref_entries[listIdx][rplsIdx]の値は、0からMaxDecPicBuffMinus1+14までの範囲内であるべきである。

【0160】

例示的な一般的デコーディングプロセスは、次のとおりである。このプロセスへの入力は、ビットストリームBitstreamToDecodeである。このプロセスの出力は、デコード済みピクチャのリストである。デコーディングプロセスは、指定されたプロファイルおよびレベルに適合するすべてのデコーダが、そのプロファイルおよびレベルに適合するビットストリームに対してそのプロファイルに関連付けられているデコーディングプロセスを呼び出すとき、数値的に同一のクロップされたデコード済み出力ピクチャを形成するように指定される。本明細書において説明されているプロセスによって形成されたものと同一のクロップされたデコード済み出力ピクチャを形成する任意のデコーディングプロセスは、(指定されているように、正しい出力順序または出力タイミングで)デコーディングプロセス要件に適合する。

【0161】

ビットストリーム内の各IRAP AUについて、次が適用される。AUがビットストリーム内のデコード順で最初のAUであるか、各ピクチャが瞬時デコーディングリフレッシュ(IDR)ピクチャであるか、または各ピクチャがデコード順でシーケンスNALユニットの終端の後に続くレイヤの最初のピクチャである場合に、変数NoIncorrectPicOutputFlagは1に等しくなるように設定される。そうでなければ、変数HandleCraAsCvsStartFlagがAUに対する値に設定されている場合、HandleCraAsCvsStartFlagはtan外部メカニズムによって提供される値に等しくなるように設定され、NoIncorrectPicOutputFlagはHandleCraAsCvsStartFlagに等しくなるように設定される。そうでなければ、HandleCraAsCvsStartFlagおよびNoIncorrectPicOutputFlagは両方とも0に等しくなるように設定される。

【0162】

ビットストリーム内の各漸進的デコーディングリフレッシュ(GDR)AUについて、次が適用される。AUがビットストリーム内のデコード順で最初のAUであるか、または各ピクチャがデコード順でシーケンスNALユニットの終端の後に続くレイヤの最初のピクチャである場合に、変数NoIncorrectPicOutputFlagは1に等しくなるように設定される。そうでなければ、何らかの外部メカニズムが、変数HandleGdrAsCvsStartFlagをAUに対する値に設定するために利用可能である場合、HandleGdrAsCvsStartFlagは、外部メカニズムによって提供される値に等しくなるように設定され、NoIncorrectPicOutputFlagは、HandleGdrAsCvsStartFlagに等しくなるように設定される。そうでなければ、HandleGdrAsCvsStartFlagおよびNoIncorrectPicOutputFlagは両方とも0に等しくなるように設定される。IRAPピクチャとGDRピクチャの両方について、上記の操作は、ビットストリーム中のCVSを識別するために使用される。デコーディングは、BitstreamToDecodeの各コーディング済みピクチャに対してデコード順に繰り返し呼び出される。

【0163】

参照ピクチャリスト構築のための例示的なデコーディングプロセスは、次のとおりである。このプロセスは、非IDRピクチャの各スライスに対してデコーディングプロセスの始めに呼び出される。参照ピクチャは、参照インデックスを通じてアドレス指定される。参照インデックスは、参照ピクチャリストへのインデックスである。Iスライスをデコードするとき、参照ピクチャリストは、スライスデータをデコードする際に使用されない。Pスライスをデコードするとき、参照ピクチャリスト0のみ(たとえば、RefPicList[0])が、スライスデータをデコードする際に使用される。Bスライスをデコードするとき、参照ピクチャリスト0および参照ピクチャリスト1(たとえば、RefPicList[1])が、スライスデータをデコードする際に使用される。

【0164】

次の制約条件が、ビットストリーム適合性に対して適用される。0または1に等しい各iについて、num_ref_entries[i][RplsIdx[i]]は、NumRefIdxActive[i]より小さくするべきでない。RefPicList[0]またはRefPicList[1]の各アクティブエントリによって参照されるピクチャは、DPB内に存在するべきであり、現在のピクチャのTemporalId以下のTemporalIdを有するものとするべきである。RefPicList[0]またはRefPicList[1]の各エントリによって参照されるピクチャは、現在のピクチャであるべきでなく、0に等しいnon_reference_picture_flagを有するものとするべきである。ピクチャのスライスのRefPicList[0]もしくはRefPicList[1]内の短期参照ピクチャ(STRP)エントリおよび同じスライスまたは同じピクチャの異なるスライスのRefPicList[0]もしくは RefPicList[1]の長期参照ピクチャ(LTRP)エントリは、同じピクチャを参照すべきではない。RefPicList[0]またはRefPicList[1]に、現在のピクチャのPicOrderCntValとそのエントリによって参照されるピクチャのPicOrderCntValとの差が224以上となるLTRPエントリはあるべきでない。

【0165】

setOfRefPicsを、現在のピクチャと同じnuh_layer_idを有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照される固有のピクチャのセットであるとする。setOfRefPicsのピクチャの数は、MaxDecPicBuffMinus1以下であるべきであり、setOfRefPicsは、ピクチャのすべてのスライスについて同じであるべきである。現在のピクチャが段階的時間的サブレイヤアクセス(STSA)ピクチャであるとき、RefPicList[0]またはRefPicList[1]に、現在のピクチャのTemporalIdに等しいTemporalIdを有するアクティブエントリがあるべきでない。現在のピクチャが、デコード順で、現在のピクチャとのTemporalIdに等しいTemporalIdを有するSTSAピクチャの後に続くピクチャであるとき、デコード順でSTSAピクチャに先行するRefPicList[0]またはRefPicList[1]内のアクティブエントリとして含まれる現在ピクチャのTemporalIdに等しいTemporalIdを有するピクチャはないものとする。

【0166】

現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]内の各レイヤ間参照ピクチャ(ILRP)エントリによって参照されるピクチャは、現在のピクチャと同じアクセスユニットにあるものとする。現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]内の各ILRPエントリによって参照されるピクチャは、DPB内に存在するものとし、現在のピクチャのnuh_layer_idより小さいnuh_layer_idを有するものとする。スライスのRefPicList[0]またはRefPicList[1]内の各ILRPエントリは、アクティブエントリであるべきである。

【0167】

例示的なHRD指定は、次のとおりである。HRDはビットストリームおよびデコーダの適合性をチェックするために使用される。entireBitstreamと表記される、ビットストリーム全体と称される、ビットストリームの適合性をチェックするためにビットストリーム適合性テストのセットが使用される。ビットストリーム適合性テストのセットは、VPSによって指定された各OLSの各OPの適合性をテストするためのものである。

【0168】

各テストについて、次の順序のステップがリストにされた順で適用され、その後、この節におけるこれらのステップの後に記述されるプロセスが続く。targetOpと表記される、テスト対象のオペレーションポイントが、OLSインデックスopOlsIdxおよび最高のTemporalId値opTidを有するターゲットOLSを選択することによって選択される。opOlsIdxの値は、0からTotalNumOlss-1までの範囲内にある。opTidの値は、0からvps_max_sub_layers_minus1までの範囲内にある。opOlsIdxおよびopTidの選択された値の各対は、entireBitstream、opOlsIdx、およびopTidを入力としてサブビットストリーム抽出プロセスを呼び出すことによって出力されるサブビットストリームが次の条件を満たすような対であるものとする。BitstreamToDecodeにおけるLayerIdInOls[opOlsIdx]のnuh_layer_idに等しいnuh_layer_id値を有するVCL NALユニットが少なくとも1つある。BitstreamToDecodeにおいてTemporalIdがopTidに等しいVCL NALユニットが少なくとも1つある。

【0169】

targetOpにおけるレイヤが、entireBitstream内のすべてのレイヤを含み、opTidがentireBitstream内のすべてのNALユニットの中で最高のTemporalId値と等しい大きいである場合、BitstreamToDecodeはentireBitstreamと同一になるように設定される。そうでない場合、BitstreamToDecodeは、entireBitstream、opOlsIdx、およびopTidを入力としてサブビットストリーム抽出プロセスを呼び出すことによって出力されるように設定される。TargetOlsIdxおよびHtidの値は、それぞれtargetOpのopOlsIdxおよびopTidに等しくなるように設定される。ScIdxの値が選択される。選択されたScIdxは、0からhrd_cpb_cnt_minus1までの範囲内にあるものとする。TargetOlsIdxに適用可能なバッファリング期間SEIメッセージ(TargetLayerBitstream内に存在するか、または外部メカニズムを通じて利用可能)に関連付けられているBitstreamToDecodeにおけるアクセスユニットは、HRD初期化点として選択され、ターゲットOLSの各レイヤに対してアクセスユニット0と参照される。

【0170】

その後のステップは、ターゲットOLS内のOLSレイヤインデックスTargetOlsLayerIdxを有する各レイヤに適用される。BitstreamToDecodeに適用可能なols_hrd_parameters()シンタックス構造およびsub_layer_hrd_parameters()シンタックス構造は次のように選択される。VPS内の(または外部メカニズムを通じて提供される)ols_hrd_idx[TargetOlsIdx]番目のols_hrd_parameters()シンタックス構造が選択される。選択されたols_hrd_parameters()シンタックス構造内で、BitstreamToDecodeがタイプIビットストリームである場合、条件if(general_vcl_hrd_params_present_flag)の直後に来るsub_layer_hrd_parameters(Htid)シンタックス構造が選択され、変数NalHrdModeFlagが0に等しくなるように設定される。そうでない場合(BitstreamToDecodeがタイプIIビットストリームである場合)、条件if(general_vcl_hrd_params_present_flag)(この場合、変数NalHrdModeFlagは0に等しくなるように設定される)または条件if(general_nal_hrd_params_present_flag)(この場合、変数NalHrdModeFlagは1に等しくなるように設定される)のいずれかの直後に来るsub_layer_hrd_parameters(Htid)シンタックス構造が選択される。BitstreamToDecodeがタイプIIビットストリームであり、NalHrdModeFlagが0に等しいとき、フィラーデータNALユニットを除くすべての非VCL NALユニット、ならびにNALユニットストリームからバイトストリームを形成するすべてのleading_zero_8bits、zero_byte、start_code_prefix_one_3bytes、およびtrailing_zero_8bitsシンタックス要素は、存在するとき、BitstreamToDecodeから破棄され、残りのビットストリームは、BitstreamToDecodeに割り当てられる。

【0171】

decoding_unit_hrd_params_present_flagが1に等しいとき、CPBは、アクセスユニットレベル(この場合、変数DecodingUnitHrdFlagは0に等しくなるように設定される)またはデコーディングユニットレベル(この場合、変数DecodingUnitHrdFlagは1に等しくなるように設定される)のいずれかで動作するようにスケジュールされる。そうでない場合、DecodingUnitHrdFlagは0に等しくなるように設定され、CPBはアクセスユニットレベルで動作するようにスケジュールされる。

【0172】

アクセスユニット0から始まるBitstreamToDecode内の各アクセスユニットについて、アクセスユニットに関連付けられ、TargetOlsIdxに適用されるバッファリング期間SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択され、アクセスユニットに関連付けられ、TargetOlsIdxに適用されるピクチャタイミング期間SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択され、DecodingUnitHrdFlagが1に等しく、decoding_unit_cpb_params_in_pic_timing_sei_flagが0に等しいとき、アクセスユニット内のデコーディングユニットに関連付けられ、TargetOlsIdxに適用されるデコーディングユニット情報SEIメッセージ(BitstreamToDecode内に存在しているか、または外部メカニズムを通じて利用可能である)が選択される。

【0173】

各適合性テストは、上記ステップの各々における1つのオプションの組合せを含む。ステップに対して複数のオプションがあるとき、任意の特定の適合性テストに対して、1つのオプションのみが選択される。すべてのステップの可能なすべての組合せが、適合性テストのセット全体を成す。テスト対象の各オペレーションポイントについて、実行されるべきビットストリーム適合性テストの数は、n0*n1*n2*n3に等しく、n0、n1、n2、およびn3の値は、次のように指定される。n1はhrd_cpb_cnt_minus1+1に等しい。n1は、バッファリング期間SEIメッセージに関連付けられているBitstreamToDecodeにおけるアクセスユニットの数である。n2は、次のように導出される。BitstreamToDecodeがタイプIビットストリームである場合、n0は1に等しい。そうでない場合(BitstreamToDecodeがタイプIIビットストリームである場合)、n0は2に等しい。n3は、次のように導出される。decoding_unit_hrd_params_present_flagが0に等しい場合、n3は1に等しい。そうでない場合、n3は2に等しい。

【0174】

HRDは、ビットストリーム抽出器(任意選択で存在する)、コーディング済みピクチャバッファ(CPB)、瞬時デコーディングプロセス、各レイヤに対するサブDPBを概念的に含むデコード済みピクチャバッファ(DPB)、および出力クロッピングを含んでいる。各ビットストリーム適合性テストについて、CPBサイズ(ビット数)は、CpbSize[Htid][ScIdx]であり、各レイヤに対するDPBパラメータmax_dec_pic_buffering_minus1[Htid]、max_num_reorder_pics[Htid]、およびMaxLatencyPictures[Htid]は、レイヤが独立レイヤであるかどうか、およびレイヤがターゲットOLSの出力レイヤであるかどうかに応じてそのレイヤに適用されるdpb_pameters()シンタックス構造内に見つかるか、またはそれから導出される。

【0175】

HRDは次のように動作し得る。HDRは、デコーディングユニット0で初期化され、CPBおよびDPBの各サブDPBの両方は空に設定される(各サブDPBに対するサブDPBの充足量が0に等しくなるように設定されている)。初期化後、HRDは、その後のバッファリング期間SEIメッセージによって再び初期化され得ない。指定された到着スケジュールに従って各CPBに流入するデコーディングユニットに関連付けられているデータは、仮想ストリームスケジューラ(HSS)によって配信される。各デコーディングユニットに関連付けられているデータが除去され、デコーディングユニットのCPB除去時間に瞬時デコーディングプロセスによって瞬時にデコードされる。各デコード済みピクチャは、DPB内に置かれる。デコード済みピクチャは、デコード済みピクチャがインター予測参照にもはや必要なくなり、また出力にもはや必要なくなったとき、DPBから除去される。

【0176】

デコード済みピクチャバッファの例示的な動作は次のとおりである。これらの指定は、選択されたデコード済みピクチャバッファ(DPB)パラメータの各セットに独立して適用され得る。デコード済みピクチャバッファは、概念的にはサブDPBを含み、各サブDPBは、1つのレイヤのデコード済みピクチャを記憶するためのピクチャストレージバッファを含む。ピクチャストレージバッファの各々は、参照用使用とマークされるか、または後の出力のために保持されるデコード済みピクチャを含み得る。本明細書において説明されているプロセスは、順次適用され、OLS内のレイヤのnuh_layer_id値の増加順に、OLS内の最下位レイヤから始まって各レイヤについて独立して適用される。特定のレイヤに対してこれらのプロセスが適用されるとき、特定のレイヤに対するサブDPBのみが影響を受ける。これらのプロセスの説明では、DPBは、特定のレイヤに対するサブDPBを指し、その特定のレイヤは、現在のレイヤと称される。

【0177】

出力タイミングDPBの動作において、同一アクセスユニット内のPicOutputFlagが1に等しいデコード済みピクチャは、デコード済みピクチャのnuh_layer_id値の昇順に連続的に出力される。ピクチャnおよび現在のピクチャを、nuh_layer_idの特定の値に対するアクセスユニットnのコーディング済みピクチャまたはデコード済みピクチャとし、nを非負の整数値とする。現在のピクチャのデコード前のDPBからのピクチャの除去は次のように生じる。現在のピクチャのデコード前のDPBからのピクチャの除去(ただし、現在のピクチャの最初のスライスのスライスヘッダの解析後)は、アクセスユニットnの最初のデコーディングユニットのCPB除去時間において実質的に瞬時に起こり(現在のピクチャを含む)、次のように進む。

【0178】

参照ピクチャリスト構築に対するデコーディングプロセスが呼び出され、参照ピクチャマーキングに対するデコーディングプロセスが呼び出される。現在のAUが、AU0でないコーディング済みビデオシーケンス開始(CVSS)AUであるとき、次の順序付けられたステップが適用される。変数NoOutputOfPriorPicsFlagは、次のようにテスト対象のデコーダについて導出される。現在のAU内の任意のピクチャについて導出されたpic_width_max_in_luma_samples、pic_height_max_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8またはmax_dec_pic_buffering_minus1[Htid]の値が、同じCLVS内の先行するピクチャについてそれぞれ導出されたpic_width_in_luma_samples、pic_height_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8、またはmax_dec_pic_buffering_minus1[Htid]の値と異なる場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagの値に関係なく、テスト対象のデコーダによって1に設定されることがある。NoOutputOfPriorPicsFlagをno_output_of_prior_pics_flagに等しくなるように設定することはこれらの条件の下で好ましい場合があるが、テスト対象のデコーダは、この場合にNoOutputOfPriorPicsFlagを1に設定することを許される。そうでない場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagに等しくなるように設定される。

【0179】

テスト対象のデコーダについて導出されたNoOutputOfPriorPicsFlagの値はHRDに対して適用され、その結果、NoOutputOfPriorPicsFlagの値が1に等しいとき、DPB内のすべてのピクチャストレージバッファは、それらが含むピクチャの出力なしで空にされ、DPB充足量は0に等しくなるように設定される。DPB内の任意のピクチャkについて次の条件の両方が真であるとき、DPB内のそのようなすべてのピクチャkはDPBから除去される。ピクチャkは、参照用未使用としてマークされ得るか、またはピクチャkは、0に等しいPictureOutputFlagを有することができるか、もしくはDPB出力時間は、現在のピクチャnの最初のデコーディングユニット(デコーディングユニットmと表す)のCPB除去時間以下であり、DpbOutputTime[k]はDuCpbRemovalTime[m]以下である。DPBから除去される各ピクチャについて、DPB充足量は、1だけ減分される。

【0180】

出力順DPBの動作は次のとおりであるものとしてよい。これらのプロセスは、選択されたデコード済みピクチャバッファ(DPB)パラメータの各セットに独立して適用され得る。デコード済みピクチャバッファは、概念的にはサブDPBを含み、各サブDPBは、1つのレイヤのデコード済みピクチャを記憶するためのピクチャストレージバッファを含む。ピクチャストレージバッファの各々は、参照用使用とマークされるか、または将来の出力のために保持されるデコード済みピクチャを含む。現在のピクチャのデコード前にDPBからピクチャを出力し除去するためのプロセスが呼び出され、それに続いて現在のデコード済みピクチャのマーキングおよび記憶のためのプロセスが呼び出され、それに続いて最後に追加バンピングのプロセスが呼び出される。これらのプロセスは、OLS内の最下位レイヤから始まって、OLS内のレイヤのnuh_layer_id値の増加順に、各レイヤについて独立して適用される。特定のレイヤに対してこれらのプロセスが適用されるとき、特定のレイヤに対するサブDPBのみが影響を受ける。

【0181】

出力順序DPBの動作において、出力タイミングDPBの動作と同じように、同じアクセスユニット内でPicOutputFlagが1に等しいデコード済みピクチャも、デコード済みピクチャのnuh_layer_id値の昇順に連続的に出力される。ピクチャnおよび現在のピクチャを、nuh_layer_idの特定の値に対するアクセスユニットnのコーディング済みピクチャまたはデコード済みピクチャとし、nを非負の整数値とする。DPBからのピクチャの出力および除去について次のように説明される。

【0182】

現在のピクチャのデコード前(ただし、現在のピクチャの最初のスライスのスライスヘッダを解析した後)のDPBからのピクチャの出力および除去は、現在のピクチャを含むアクセスユニットの最初のデコーディングユニットがCPBから除去されたとき、実質的に瞬時に生じ、次のように進む。参照ピクチャリスト構築に対するデコーディングプロセスが呼び出され、参照ピクチャマーキングに対するデコーディングプロセスが呼び出される。現在のAUが、AU0でないCVSS AUである場合に、次の順序付けられたステップが適用される。変数NoOutputOfPriorPicsFlagは、次のようにテスト対象のデコーダについて導出される。現在のAUの任意のピクチャについて導出されたpic_width_max_in_luma_samples、pic_height_max_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8またはmax_dec_pic_buffering_minus1[Htid]の値が、同じCLVS内の先行するピクチャについてそれぞれ導出されたpic_width_in_luma_samples、pic_height_in_luma_samples、chroma_format_idc、separate_colour_plane_flag、bit_depth_luma_minus8、bit_depth_chroma_minus8、またはmax_dec_pic_buffering_minus1[Htid]の値と異なる場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagの値に関係なく、テスト対象のデコーダによって1に設定されることがある。

【0183】

NoOutputOfPriorPicsFlagをno_output_of_prior_pics_flagに等しくなるように設定することはこれらの条件の下で好ましいことがあるが、テスト対象のデコーダは、この場合にNoOutputOfPriorPicsFlagを1に設定することを許される。そうでない場合、NoOutputOfPriorPicsFlagは、no_output_of_prior_pics_flagに等しくなるように設定される。テスト対象のデコーダについて導出される変数NoOutputOfPriorPicsFlagの値は、次のようにHRDについて適用される。NoOutputOfPriorPicsFlagが1に等しい場合、DPB内のすべてのピクチャストレージバッファは、それらが含むピクチャの出力なしに空にされ、DPB充足量は、0に等しくなるように設定される。そうでない場合(NoOutputOfPriorPicsFlagが0に等しい場合)、出力に必要なしおよび参照用未使用とマークされているピクチャを含むすべてのピクチャストレージバッファは(出力なしで)空にされ、DPB内の空でないすべてのピクチャストレージバッファは、バンピングを繰り返し呼び出すことによって空にされ、DPB充足量は、0に等しくなるように設定される。

【0184】

そうでない場合(現在のピクチャがCLVSSピクチャではない場合)、出力に必要なしおよび参照用未使用とマークされているピクチャを含むすべてのピクチャストレージバッファが空にされる(出力なしで)。空にされた各ピクチャストレージバッファについて、DPB充足量が1だけ減分される。次の条件のうちの1つまたは複数が真であるとき、次の条件のどれも真でなくなるまで、空にされる各追加のピクチャストレージバッファについてDPB充足量をさらに1だけ減分しながらバンピングプロセスが繰り返し呼び出される。出力に必要とマークされているDPB内のピクチャの数は、max_num_reorder_pics[Htid]よりも大きい。max_latency_increase_plus1[Htid]は0に等しくなく、関連付けられている変数PicLatencyCountがMaxLatencyPictures[Htid]以上である出力に必要とマークされている少なくとも1つのピクチャがDPB内にある。DPB内のピクチャの数は、max_dec_pic_buffering_minus1[Htid]+1以上である。

【0185】

一例において、追加のバンピングは、次のように生じ得る。指定されているプロセスは、現在のピクチャを含むアクセスユニットnの最後のデコーディングユニットがCPBから除去されたとき、実質的に瞬時に生じ得る。現在のピクチャが1に等しいPictureOutputFlagを有するとき、出力に必要とマークされ、出力順序で現在のピクチャに続くDPB内の各ピクチャについて、関連付けられている変数PicLatencyCountは、PicLatencyCount+1に等しくなるように設定される。次も適用される。現在のデコード済みピクチャが1に等しいPictureOutputFlagを有する場合、現在のデコード済みピクチャは、出力に必要とマークされ、関連付けられている変数PicLatencyCountは、0に等しくなるように設定される。そうでない場合(現在のデコード済みピクチャは0に等しいPictureOutputFlagを有する場合)、現在のデコード済みピクチャは出力に必要なしとマークされる。

【0186】

次の条件のうちの1つまたは複数が真であるとき、バンピングプロセスは、次の条件のうちのどれも真でなくなるまで繰り返し呼び出される。出力に必要とマークされているDPB内のピクチャの数は、max_num_reorder_pics[Htid]よりも大きい。max_latency_increase_plus1[Htid]は0に等しくなく、関連付けられている変数PicLatencyCountがMaxLatencyPictures[Htid]以上である出力に必要とマークされている少なくとも1つのピクチャがDPB内にある。

【0187】

バンピングプロセスは、次の順序付けられたステップを含む。出力に関して最初である1つまたは複数のピクチャは、出力に必要とマークされたDPB内のすべてのピクチャのPicOrderCntValの最小値を有するものとして選択される。これらのピクチャの各々は、昇nuh_layer_id順で、ピクチャに対する適合性クロッピングウィンドウを使用して、クロップされ、クロップ済みピクチャが出力され、ピクチャは出力に必要なしとマークされる。参照用未使用とマークされたピクチャを含み、クロップされ出力されたピクチャのうちの1つであった各ピクチャストレージバッファは空にされ、関連付けられているサブDPBの充足量が1だけ減分される。同じCVSに属し、バンピングプロセスによって出力される任意の2つのピクチャpicAおよびpicBについて、picAがpicBより早く出力されるとき、picAのPicOrderCntValの値はpicBのPicOrderCntValの値より小さい。

【0188】

例示的なサブビットストリーム抽出プロセスは次のとおりである。このプロセスへの入力は、ビットストリームinBitstream、ターゲットOLSインデックスtargetOlsIdx、およびターゲット最高TemporalId値tIdTargetである。このプロセスの出力は、サブビットストリームoutBitstreamである。ビットストリーム適合性の要件は、任意の入力ビットストリームについて、ビットストリーム、VPSによって指定されるOLSのリストへのインデックスに等しいtargetOlsIdx、および0から6までの範囲内の任意の値に等しいtIdTargetを入力とするこのプロセスからの出力であり、以下の条件を満たす出力サブビットストリームが適合するビットストリームであるものとすることであってよい。出力サブビットストリームは、LayerIdInOls[targetOlsIdx]のnuh_layer_id値の各々に等しいnuh_layer_idを有する少なくとも1つのVCL NALユニットを含む。出力サブビットストリームは、tIdTargetに等しいTemporalIdを有する少なくとも1つのVCL NALユニットを含む。適合するビットストリームは、0に等しいTemporalIdを有する1つまたは複数のコーディング済みスライスNALユニットを含むが、0に等しいnuh_layer_idを有するコーディング済みスライスNALユニットを有しなくてもよい。

【0189】

出力サブビットストリームOutBitstreamは、次のように導出される。ビットストリームoutBitstreamは、ビットストリームinBitstreamと同一になるように設定される。tIdTargetより大きいTemporalIdを有するすべてのNALユニットはoutBitstreamから除去される。リストLayerIdInOls[targetOlsIdx]に含まれないnuh_layer_idを有するすべてのNALユニットはoutBitstreamから除去される。1に等しいnesting_ols_flagを有するスケーラブルネスティングSEIメッセージを含み、0からnesting_num_olss_minus1までの範囲内にiの値がなく、NestingOlsIdx[i]はtargetOlsIdxに等しい、すべてのSEI NALユニットはoutBitstream から除去される。targetOlsIdxが0より大きいとき、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有する非スケーラブルネストSEIメッセージを含むすべてのSEI NALユニットはoutBitstreamから除去される。

【0190】

例示的なスケーラブルネスティングSEIメッセージシンタックスは次のとおりである。

【0191】

【表7】

【0192】

例示的な一般SEIペイロードセマンティクスは次のとおりである。非スケーラブルネストSEIメッセージの適用可能なレイヤまたはOLS上で、次が適用される。非スケーラブルネストSEIメッセージについて、payloadTypeが0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいとき、非スケーラブルネストSEIメッセージは、0番目のOLSにのみ適用される。非スケーラブルネストSEIメッセージについて、payloadTypeがVclAssociatedSeiListのうちの任意の値に等しいとき、非スケーラブルネストSEIメッセージは、VCL NALユニットがSEIメッセージを含むようになるまでSEI NALユニットのthe nuh_layer_idに等しいnuh_layer_idを有するレイヤにのみ適用される。

【0193】

ビットストリーム適合性の要件は、SEI NALユニットのnuh_layer_idの値に次の制限が適用されることであってよい。非スケーラブルネストSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有するとき、非スケーラブルネストSEIメッセージを含むSEI NALユニットは、vps_layer_id[0]に等しいnuh_layer_idを有するべきである。非スケーラブルネストSEIメッセージが、VclAssociatedSeiListのうちの任意の値に等しいpayloadTypeを有するとき、非スケーラブルネストSEIメッセージを含むSEI NALユニットは、SEI NALユニットに関連付けられているVCL NALユニットのnuh_layer_idの値に等しいnuh_layer_idを有するものとするべきである。スケーラブルネスティングSEIメッセージを含むSEI NALユニットは、スケーラブルネストSEIメッセージが適用されるすべてのレイヤのnuh_layer_idの最低値(スケーラブルネスティングSEIメッセージのnesting_ols_flagが0に等しいとき)またはスケーラブルネストSEIメッセージが適用されるOLS内のすべてのレイヤのnuh_layer_idの最低値(スケーラブルネスティングSEIメッセージのnesting_ols_flagが1に等しいとき)に等しいnuh_layer_idを有するべきである。

【0194】

例示的なスケーラブルネスティングSEIメッセージセマンティクスは次のとおりである。スケーラブルネスティングSEIメッセージは、SEIメッセージを特定のOLSと、または特定のレイヤと関連付けるメカニズムを提供する。スケーラブルネスティングSEIメッセージは、1つまたは複数のSEIメッセージを含む。スケーラブルネスティングSEIメッセージに含まれるSEIメッセージは、スケーラブルネストSEIメッセージとも称される。ビットストリーム適合性の要件は、スケーラブルネスティングSEIメッセージ内にSEIメッセージを含めることに次の制限が適用されることであってよい。

【0195】

132(デコード済みピクチャハッシュ)または133(スケーラブルネスティング)に等しいpayloadTypeを有するSEIメッセージは、スケーラブルネスティングSEIメッセージに含まれないものとしてよい。スケーラブルネスティングSEIメッセージがバッファリング期間、ピクチャタイミング、またはデコーディングユニット情報SEIメッセージを含むとき、スケーラブルネスティングSEIメッセージは、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しくないpayloadTypeを有する任意の他のSEIメッセージも含むべきでない。

【0196】

ビットストリーム適合性の要件は、スケーラブルネスティングSEIメッセージを含むSEI NALユニットのnal_unit_typeの値に次の制限が適用されることであってよい。スケーラブルネスティングSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、130(デコーディングユニット情報)、145(従属RAP指示)、または168(フレームフィールド情報)に等しいpayloadTypeを有するSEIメッセージを含むとき、スケーラブルネスティングSEIメッセージを含むSEI NALユニットは、PREFIX_SEI_NUTに等しいnal_unit_typeを有するべきである。

【0197】

1に等しいnesting_ols_flagは、スケーラブルネストSEIメッセージが特定のOLSに適用されることを指定する。0に等しいnesting_ols_flagは、スケーラブルネストSEIメッセージが特定のレイヤに適用されることを指定する。ビットストリーム適合性の要件は、nesting_ols_flagの値に次の制限が適用されることであってよい。スケーラブルネスティングSEIメッセージが、0(バッファリング期間)、1(ピクチャタイミング)、または130(デコーディングユニット情報)に等しいpayloadTypeを有するSEIメッセージを含むとき、nesting_ols_flagの値は1に等しくなるべきである。スケーラブルネスティングSEIメッセージが、VclAssociatedSeiList内の値に等しいpayloadTypeを有するSEIメッセージを含むとき、nesting_ols_flagの値は0に等しいものとするべきである。nesting_num_olss_minus1+1は、スケーラブルネストSEIメッセージが適用されるOLSの数を指定する。nesting_num_olss_minus1の値は、0からTotalNumOlss-1までの範囲内にあるべきである。

【0198】

nesting_ols_idx_delta_minus1[i]は、nesting_ols_flagが1に等しいとき、スケーラブルネストSEIメッセージが適用されるi番目のOLSのOLSインデックスを指定する変数NestingOlsIdx[i]を導出するために使用される。nesting_ols_idx_delta_minus1[i]の値は、0からTotalNumOlss-2までの範囲内にあるべきである。変数NestingOlsIdx[i]は、次のように導出され得る。
if(i==0)
NestingOlsIdx[i]=nesting_ols_idx_delta_minus1[i]
else
NestingOlsIdx[i]=NestingOlsIdx[i-1]+nesting_ols_idx_delta_minus1[i]+1

【0199】

1に等しいnesting_all_layers_flagは、スケーラブルネストSEIメッセージが現在のSEI NALユニットのnuh_layer_id以上のnuh_layer_idを有するすべてのレイヤに適用されることを指定する。0に等しいnesting_all_layers_flagは、スケーラブルネストSEIメッセージが現在のSEI NALユニットのnuh_layer_id以上のnuh_layer_idを有するすべてのレイヤに適用され得るか、または適用され得ないことを指定する。nesting_num_layers_minus1+1は、スケーラブルネストSEIメッセージが適用されるレイヤの数を指定する。nesting_num_layers_minus1の値は、0からvps_max_layers_minus1-GeneralLayerIdx[nuh_layer_id]までの範囲内にあるべきであり、nuh_layer_idは、現在のSEI NALユニットのnuh_layer_idである。nesting_layer_id[i]は、nesting_all_layers_flagが0に等しいとき、スケーラブルネストSEIメッセージが適用されるi番目のレイヤのnuh_layer_id値を指定する。nesting_layer_id[i]の値は、nuh_layer_idより大きいものとするべきであり、nuh_layer_idは現在のSEI NALユニットのnuh_layer_idである。

【0200】

nesting_ols_flagが0に等しいとき、スケーラブルネストSEIメッセージが適用されるレイヤの数を指定する変数NestingNumLayers、およびスケーラブルネストSEIメッセージが適用されるレイヤnuh_layer_id値のリストを指定する、0からNestingNumLayers-1の範囲内のiに対するリストNestingLayerId[i]は、次のように導出され得、nuh_layer_idは現在のSEI NALユニットのnuh_layer_idである。
if(nesting_all_layers_flag) {
NestingNumLayers=vps_max_layers_minus1+1-GeneralLayerIdx[nuh_layer_id]
for(i=0; i<NestingNumLayers; i++)
NestingLayerId[i]=vps_layer_id[GeneralLayerIdx[nuh_layer_id]+i]
} else {
NestingNumLayers=nesting_num_layers_minus1+1
for(i=0; i<NestingNumLayers; i++)
NestingLayerId[i]=(i==0) ? nuh_layer_id: nesting_layer_id[i]
}

【0201】

nesting_num_seis_minus1+1は、スケーラブルネストSEIメッセージの数を指定する。nesting_num_seis_minus1の値は、0から63までの範囲内にあるべきである。nesting_zero_bitは、0に等しいものとする。

【0202】

図9は、例示的なビデオコーディングデバイス900の概略図である。ビデオコーディングデバイス900は、本明細書において説明されているような開示された例/実施形態を実施するのに適している。ビデオコーディングデバイス900は、ネットワークの上流および/または下流でデータ通信を行うための送信器および/または受信器を含む、下流ポート920、上流ポート950、および/またはトランシーバユニット(Tx/Rx)910を備える。ビデオコーディングデバイス900は、データを処理するための論理ユニットおよび/または中央演算処理装置(CPU)を含むプロセッサ930と、データを記憶するためのメモリ932とを備える。ビデオコーディングデバイス900は、電気、光、またはワイヤレス通信ネットワークを介してデータ通信を行うために、上流ポート950および/または下流ポート920に結合されている電気、光-電気(OE)コンポーネント、電気-光(EO)コンポーネント、および/またはワイヤレス通信コンポーネントも備え得る。ビデオコーディングデバイス900は、ユーザにデータを伝達し、ユーザからデータを受け取るための入力および/または出力(I/O)デバイス960も含み得る。I/Oデバイス960は、ビデオデータを表示するためのディスプレイ、音声データを出力するためのスピーカなどの出力デバイスを含み得る。I/Oデバイス960は、キーボード、マウス、トラックボールなどの入力デバイス、および/またはそのような出力デバイスをインタラクティブに操作するための対応するインターフェースも含み得る。

【0203】

プロセッサ930は、ハードウェアおよびソフトウェアによって実装される。プロセッサ930は、1つまたは複数のCPUチップ、コア(たとえば、マルチコアプロセッサとして)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、およびデジタルシグナルプロセッサ(DSP)として実装されてもよい。プロセッサ930は、下流ポート920、Tx/Rx910、上流ポート950、およびメモリ932と通信する。プロセッサ930は、コーディングモジュール914を備える。コーディングモジュール914は、方法100、1000、および1100などの、本明細書において説明されている開示された実施形態を実装するものであり、マルチレイヤビデオシーケンス600、RPL構造700、および/またはビットストリーム800を採用し得る。コーディングモジュール914は、本明細書において説明されている任意の他の方法/メカニズムも実装し得る。さらに、コーディングモジュール914は、コーデックシステム200、エンコーダ300、デコーダ400、および/またはHRD500を実装し得る。たとえば、コーディングモジュール914は、最大デコード済みピクチャサイズに基づきRPL構造の参照エントリの数を制約し得る。最大デコード済みピクチャバッファサイズは、レイヤが参照レイヤであるか出力レイヤであるかに応じて変わり得る。それゆえに、この制約を適用することによって、コーディングモジュール914は、異なる数の参照ピクチャが出力レイヤおよび参照レイヤに採用されることを可能にし得る。これは、コーディングモジュール914がメモリをより最適に使用できるようにし、コーディング効率を高めることを可能にする。したがって、コーディングモジュール914は、上で説明されている問題のうちの1つまたは複数に対処するためのメカニズムを遂行するように構成され得る。したがって、コーディングモジュール914は、ビデオデータをコーディングするとき、追加の機能性および/またはコーディング効率を提供することをビデオコーディングデバイス900に行わせる。それゆえに、コーディングモジュール914は、ビデオコーディングデバイス900の機能性を改善し、さらにはビデオコーディング技術に特有の問題に対処する。さらに、コーディングモジュール914は、ビデオコーディングデバイス900の異なる状態への変換を行う。代替的に、コーディングモジュール914は、メモリ932に記憶され、プロセッサ930によって実行される命令として(たとえば、非一時的媒体に記憶されるコンピュータプログラム製品として)実装され得る。

【0204】

メモリ932は、ディスク、テープドライブ、ソリッドステートドライブ、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、フラッシュメモリ、三値連想メモリ(TCAM)、スタティックランダムアクセスメモリ(SRAM)などの1つまたは複数のメモリタイプを含む。メモリ932は、プログラムを、そのようなプログラムが実行のために選択されたとき、記憶し、プログラムの実行中に読み出される命令およびデータを記憶するために、オーバーフローデータ記憶装置デバイスとして使用され得る。

【0205】

図10は、参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約される、RPL構造700などの、参照ピクチャリスト構造に基づき、ビデオシーケンスを、ビットストリーム800などのビットストリーム内にエンコードする例示的な方法1000のフローチャートである。方法1000は、方法100を実行するとき、コーデックシステム200、エンコーダ300、および/またはビデオコーディングデバイス900などのエンコーダによって採用され得る。さらに、方法1000は、HRD500上で動作してもよく、したがって、マルチレイヤビデオシーケンス600および/またはその抽出済みレイヤに対して適合性テストを実行してもよい。

【0206】

方法1000は、エンコーダがビデオシーケンスを受信し、たとえばユーザ入力に基づき、マルチレイヤビデオシーケンスなどの、そのビデオシーケンスをビットストリームにエンコードすることを決定するとき、開始し得る。ステップ1001で、エンコーダは、ピクチャをビデオシーケンスからビットストリームにエンコードする。たとえば、エンコーダは、インター予測および/またはレイヤ間予測に従って現在のピクチャをエンコードすることができる。それゆえに、エンコーダは、参照ピクチャに基づき現在のピクチャをエンコードする。

【0207】

ステップ1003で、エンコーダは、たとえば、SPS、ピクチャヘッダ、および/またはスライスヘッダにおいて、ref_pic_list_struct()をビットストリームにエンコードすることができる。ref_pic_list_struct()は、インター予測に従って現在のピクチャをコーディングするときに使用される参照ピクチャを示す。具体的には、ref_pic_list_struct()はRefPicList[0]およびRefPicList[1]を含む。RefPicList[0]およびRefPicList[1]は各々、現在のピクチャのコーディングに使用されている任意の参照ピクチャを参照する1つまたは複数の参照エントリを含む。ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記される。ref_pic_list_struct()は、現在のピクチャと同じnuh_layer_idを有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、setOfRefPicsを参照する。したがって、setOfRefPicsは、現在のピクチャと同じレイヤ内にある現在のピクチャに対する参照ピクチャのすべてを含む。setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットであるように制約され得る。それゆえに、setOfRefPicsは、現在のピクチャのすべてのスライスについて同じセットであるように制約され得る。さらに、ref_pic_list_struct()、およびしたがって、ビットストリームは、num_ref_entriesを含む。num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され得る。num_ref_entries[listIdx][rplsIdx]はref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する。num_ref_entriesは、0から最大デコード済みピクチャバッファサイズ+13個または14個のエントリなどのオフセットまでの範囲などの、最大デコード済みピクチャバッファサイズに基づく範囲に制約される。さらに、ref_pic_list_structで参照されるsetOfRefPicsは、最大デコード済みピクチャバッファサイズ-1以下であるよう制約される。この方法で、num_ref_entriesとsetOfRefPicsの両方は、レイヤに基づき変わるDPB内の利用可能なメモリに基づき制約され、すべてのレイヤに対してグローバルな静的な値に基づき制約されることはない。これは、これらの値が、現在のピクチャがより多くのメモリ空間を採用する出力レイヤに関連付けられているか、またはより少ない空間を採用する参照レイヤに関連付けられているかに基づき変化することを可能にする。それゆえに、最大DPBサイズに基づきnum_ref_entriesおよびsetOfRefPicsを制約することで、コーディング効率の向上(より良い圧縮)がサポートされ、これにより、プロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0208】

エンコーダは、たとえば、VPSおよび/またはSPSにおいて、ビットストリーム内のdpb_parameters()もエンコードする。dpb_parameters()は、max_dec_pic_buffering_minus1を含むことができる。max_dec_pic_buffering_minus1は、DPBの最大必要サイズをピクチャストレージバッファのユニットにおいて指定する。それゆえに、num_ref_entriesおよびsetOfRefPicsを制約するために使用される最大デコード済みピクチャバッファサイズは、max_dec_pic_buffering_minus1に対応する。

【0209】

ステップ1005で、エンコーダにおけるHRDは、ビットストリームに対して一連のビットストリーム適合性テストを実行することができる。具体例として、HRDはビットストリームをチェックして、num_ref_entriesおよびsetOfRefPicsが、たとえばdpb_parameters()におけるmax_dec_pic_buffering_minus1によって記述されているように、最大DPBサイズに基づき制約されることを確認することができる。次いで、エンコーダは、要求があったとき、デコーダに向けた通信のためにステップ1007でビットストリームを記憶しておくことができる。たとえば、エンコーダは、ビットストリームをローカルに記憶し、および/またはビットストリームをコンテンツサーバに転送して記憶させることができる。さらに、エンコーダおよび/またはコンテンツサーバは、要求に応じてデコーダに向けて伝送するために、ビットストリームに対してサブビットストリーム抽出を実行し、レイヤおよび/またはOLSに関係するコンテンツを分離することができる。

【0210】

図11は、参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約される、RPL構造700などの、参照ピクチャリスト構造に基づき、ビデオシーケンスを、ビットストリーム800などのビットストリームからデコードする例示的な方法1100のフローチャートである。方法1100は、方法100を実行するとき、コーデックシステム200、デコーダ400、および/またはビデオコーディングデバイス900などのデコーダによって採用され得る。さらに、方法1100は、HRD500などの、HRDによって適合性についてチェックされた、マルチレイヤビデオシーケンス600、またはその抽出済みレイヤ上で採用され得る。

【0211】

方法1100は、デコーダが、たとえば方法1000の結果として、マルチレイヤビットストリームの1つまたは複数のレイヤから、コーディング済みレイヤビデオシーケンスなどの、コーディング済みビデオシーケンスを含むビットストリームを受信し始めるときに開始し得る。ステップ1101で、デコーダは、ビットストリームを受信する。ビットストリームは、現在のピクチャを含むピクチャのシーケンスを含み、これは、指定されている時点においてデコードされている任意の指定されたピクチャであってよい。この例では、現在のピクチャは、インター予測および/またはレイヤ間予測に従ってコーディングされる。それゆえに、エンコーダは、参照ピクチャに基づき現在のピクチャをエンコードする。

【0212】

ビットストリームは、たとえばSPS、ピクチャヘッダ、および/またはスライスヘッダにおいて、ref_pic_list_struct()も含む。ref_pic_list_struct()は、インター予測に従って現在のピクチャをコーディングするときに使用される参照ピクチャを示す。具体的には、ref_pic_list_struct()はRefPicList[0]およびRefPicList[1]を含む。RefPicList[0]およびRefPicList[1]は各々、現在のピクチャのコーディングに使用されている任意の参照ピクチャを参照する1つまたは複数の参照エントリを含む。ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記される。ref_pic_list_struct()は、現在のピクチャと同じnuh_layer_idを有するRefPicList[0]内のすべてのエントリおよび現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、setOfRefPicsを参照する。したがって、setOfRefPicsは、現在のピクチャと同じレイヤ内にある現在のピクチャに対する参照ピクチャのすべてを含む。setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットであるように制約され得る。それゆえに、setOfRefPicsは、現在のピクチャのすべてのスライスについて同じセットであるように制約され得る。さらに、ref_pic_list_struct()、およびしたがって、ビットストリームは、num_ref_entriesを含む。num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され得る。num_ref_entries[listIdx][rplsIdx]はref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する。num_ref_entriesは、0から最大デコード済みピクチャバッファサイズ+13個または14個のエントリなどのオフセットまでの範囲などの、最大デコード済みピクチャバッファサイズに基づく範囲に制約される。さらに、ref_pic_list_structで参照されるsetOfRefPicsは、最大デコード済みピクチャバッファサイズ-1以下であるよう制約される。この方法で、num_ref_entriesとsetOfRefPicsの両方は、対応するレイヤに対するDPB内の利用可能なメモリに基づき制約され、すべてのレイヤに適用可能な静的な値に基づき制約されることはない。これは、これらの値が、現在のピクチャがより多くのメモリ空間を採用する出力レイヤに関連付けられているか、またはより少ない空間を採用する参照レイヤに関連付けられているかに基づき変化することを可能にする。それゆえに、最大DPBサイズに基づきnum_ref_entriesおよびsetOfRefPicsを制約することで、コーディング効率の向上(より良い圧縮)がサポートされ、これにより、プロセッサ、メモリ、および/またはネットワークシグナリングリソースの使用を低減する。

【0213】

ビットストリームは、たとえば、VPSおよび/またはSPSにおける、dpb_parameters()をさらに含む。dpb_parameters()は、max_dec_pic_buffering_minus1を含むことができる。max_dec_pic_buffering_minus1は、DPBの最大必要サイズをピクチャストレージバッファのユニットにおいて指定する。それゆえに、num_ref_entriesおよびsetOfRefPicsを制約するために使用される最大デコード済みピクチャバッファサイズは、max_dec_pic_buffering_minus1に対応する。

【0214】

ステップ1103で、デコーダは、ref_pic_list_struct()および/またはdpb_parameters()に基づき現在のピクチャをデコードしてデコード済みピクチャを生成することができる。たとえば、デコーダは、DPB内にメモリ空間を割り当てるためにdpb_parameters()および/またはmax_dec_pic_buffering_minus1を採用することができる。デコーダは、現在のピクチャに対するref_pic_list_struct()を解析して、現在のピクチャをコーディングするために使用される参照ピクチャを示すRefPicList[0]および/またはRefPicList[1]の参照エントリを決定することもできる。デコーダの番号は、num_ref_entriesに基づいて関連する参照エントリを決定することができ、また参照エントリに基づきsetOfRefPicsを決定することができる。デコーダは、ref_pic_list_struct()に基づき、長期参照用使用として、または短期参照用使用としてsetOfRefPics内のピクチャのすべてをマークするために参照ピクチャマーキングプロセスを採用することもできる。参照ピクチャマーキングプロセスは、setOfRefPicsに含まれていないピクチャの1つまたは複数を参照用使用としてマークし得る。そのようなピクチャは、出力にもはや必要でなくなるとDPBから退去させられてよい。参照ピクチャがマークされた後、デコーダは、setOfRefPicsに基づき現在のピクチャをデコードすることができる。デコーダは、参照ピクチャマーキングプロセスの後の様々なピクチャのマーキングに基づきDPBを管理することもできる。

【0215】

次いで、デコーダは、ステップ1105で、デコード済みビデオシーケンスの一部として表示するデコード済みピクチャを転送することができる。たとえば、デコーダは、エンドユーザによる視聴のために、画面、ヘッドマウントディスプレイ、または他の表示デバイスに向けて、デコード済みピクチャおよび/またはデコード済みビデオシーケンスを転送することができる。

【0216】

図12は、参照エントリの数が最大デコード済みピクチャバッファサイズに従って制約されている、RPL構造700などの、参照ピクチャリスト構造に基づきビデオシーケンスをビットストリーム800内にコーディングするための例示的なシステム1200の概略図である。システム1200は、コーデックシステム200、エンコーダ300、デコーダ400、および/またはビデオコーディングデバイス900などのエンコーダおよびデコーダによって実装され得る。さらに、システム1200は、HRD500を採用して、マルチレイヤビデオシーケンス600および/またはビットストリーム800に対して適合性テストを実行するものとしてよい。それに加えて、システム1200は、方法100、1000、および/または1100を実装するときに採用され得る。

【0217】

システム1200は、ビデオエンコーダ1202を備える。ビデオエンコーダ1202は、参照ピクチャに基づき現在のピクチャをビットストリームにエンコードするためのエンコーディングモジュール1205を備える。エンコーディングモジュール1205は、さらに、参照ピクチャを示し、最大デコード済みピクチャバッファサイズに基づく範囲に制約された参照エントリの数(num_ref_entries)を含むref_pic_list_struct()をビットストリーム内にエンコードするためのものである。ビデオエンコーダ1202は、デコーダに向けた通信のためにビットストリームを記憶する記憶モジュール1206をさらに備える。ビデオエンコーダ1202は、ビデオデコーダ1210に向けてビットストリームを伝送するための伝送モジュール1207をさらに備える。ビデオエンコーダ1202は、方法1000のステップのいずれかを実行するようにさらに構成され得る。

【0218】

システム1200は、ビデオデコーダ1210も備える。ビデオデコーダ1210は、現在のピクチャ、および最大デコード済みピクチャバッファサイズに基づく範囲に制約されているnum_ref_entriesを含むref_pic_list_struct()を含むビットストリームを受信するための受信モジュール1211を備える。ビデオデコーダ1210は、ref_pic_list_struct()に基づき現在のピクチャをデコードしてデコード済みピクチャを生成するためのデコーディングモジュール1213をさらに備える。ビデオデコーダ1210は、デコード済みビデオシーケンスの一部として表示するためにデコード済みピクチャを転送する転送モジュール1215をさらに備える。ビデオデコーダ1210は、方法1100のステップのいずれかを実行するようにさらに構成され得る。

【0219】

第1のコンポーネントは、第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体を除き、介在するコンポーネントがないとき、第2のコンポーネントに直接的に結合されている。第1のコンポーネントは、第1のコンポーネントと第2のコンポーネントとの間の線、トレース、または別の媒体以外の介在するコンポーネントがあるとき、第2のコンポーネントに間接的に結合されている。「結合されている」という言い回しおよびその変形は、直接的に結合されることと間接的に結合されることの両方を含む。また、「約」という言い回しは、特に断らない限り、後続の数値の±10%を含む範囲を意味する。

【0220】

本明細書において述べられている例示的な方法のステップは、必ずしも説明されている順序で実行される必要はないとも理解されるべきであり、そのような方法のステップの順序は、単に例示的であると理解されるべきである。同様に、本開示の様々な実施形態と一致する方法において、追加のステップがそのような方法に含まれてもよく、特定のステップが省略されるか、または組み合わされてもよい。

【0221】

本開示においていくつかの実施形態が提供されているが、開示されているシステムおよび方法は、本開示の精神または範囲から逸脱することなく多くの他の特定の形態で具現化されることも可能であることは理解され得る。本例は、例示的であり、制限的でない、と考えられるべきであり、本発明は、明細書に示されている詳細に限定されるべきでない。たとえば、様々な要素またはコンポーネントは、別のシステム内に組み合わされ得るか、もしくは一体化され得るか、またはいくつかの特徴が省略され得るか、もしくは実施され得ない。

【0222】

それに加えて、離散または分離していると様々な実施形態において説明され例示されている技術、システム、サブシステム、および方法は、本開示の範囲から逸脱することなく他のシステム、コンポーネント、技術、または方法と組み合わされるか、もしくは一体化され得る。変更、代用、および改変の他の例は、当業者によって確かめることができ、本明細書で開示されている精神および範囲から逸脱することなくなされ得る。

【符号の説明】

【0223】

100 動作方法、方法
200 コーディングおよびデコーディング(コーデック)システム、コーデックシステム
201 区分化済みビデオ信号
211 一般コーダ制御コンポーネント
213 変換スケーリングおよび量子化コンポーネント
215 ピクチャ内推定コンポーネント
217 ピクチャ内予測コンポーネント
219 動き補償コンポーネント
221 動き推定コンポーネント
223 デコード済みピクチャバッファコンポーネント
225 ループ内フィルタコンポーネント
227 フィルタ制御分析コンポーネント
229 スケーリングおよび逆変換コンポーネント
231 ヘッダフォーマッティングおよびコンテキスト適応2値算術コーディング(CABAC)コンポーネント
300 ビデオエンコーダ、エンコーダ
301 区分化済みビデオ信号
313 変換および量子化コンポーネント
317 ピクチャ内予測コンポーネント
321 動き補償コンポーネント
323 デコード済みピクチャバッファコンポーネント
325 ループ内フィルタコンポーネント
329 逆変換および量子化コンポーネント
331 エントロピーコーディングコンポーネント
400 ビデオデコーダ、デコーダ
417 ピクチャ内予測コンポーネント
421 動き補償コンポーネント
423 デコード済みピクチャバッファコンポーネント
425 ループ内フィルタコンポーネント
429 逆変換および量子化コンポーネント
433 エントロピーデコーディングコンポーネント
500 HRD
541 仮想ストリームスケジューラ(HSS)
543 CPB
545 デコーディングプロセスコンポーネント
547 DPB
549 出力クロッピングコンポーネント
551 ビットストリーム
553 デコーディングユニット(DU)
555 デコード済みDU
556 参照ピクチャ
557 ピクチャ
559 出力クロッピング済みピクチャ
600 マルチレイヤビデオシーケンス
611、612、613、614 ピクチャ
615、616、617、618 ピクチャ
621 レイヤ間予測
623 インター予測
631 下位レイヤN
632 上位レイヤN+1
700 参照ピクチャリスト(RPL)構造
711 参照ピクチャリスト0(RefPicList[0])
712 参照ピクチャリスト1(RefPicList[1])
715 参照ピクチャリスト構造エントリ
721 listIdx
725 rplsIdx
732 参照エントリの数(num_ref_entries)
733 参照ピクチャのセット(setOfRefPics)
800 ビットストリーム
811 VPS
813 SPS
815 ピクチャパラメータセット(PPS)
816 ピクチャヘッダ
817 スライスヘッダ
820 画像データ
823 レイヤ
825 ピクチャ
827 スライス
831 ref_pic_list_struct
832 num_ref_entries
835 nuh_layer_id
837 デコード済みピクチャバッファパラメータ(dpb_parameters)
838 max_dec_pic_buffering_minus1
841 VCL NALユニット
842 非VCL NALユニット
900 ビデオコーディングデバイス
910 トランシーバユニット(Tx/Rx)
914 コーディングモジュール
920 下流ポート
930 プロセッサ
932 メモリ
950 上流ポート
960 入力および/または出力(I/O)デバイス
1000、1100 方法
1200 システム
1202 ビデオエンコーダ
1205 エンコーディングモジュール
1206 記憶モジュール
1207 伝送モジュール
1210 ビデオデコーダ
1211 受信モジュール
1213 デコーディングモジュール
1215 転送モジュール

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【手続補正書】

【提出日】2024-01-05

【手続補正1】

【補正対象書類名】特許請求の範囲

【補正対象項目名】全文

【補正方法】変更

【補正の内容】

【特許請求の範囲】

【請求項1】

デコーダによって実装される方法であって、
前記デコーダによって、現在のピクチャと、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())と、を含むビットストリームを受信するステップであって、前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())をさらに含み、前記dpb_parameters()がビデオパラメータセット(VPS)に含まれるとき、前記dpb_parameters()が適用される出力レイヤセット(OLS)は前記VPSによって指定され、前記dpb_parameters()がシーケンスパラメータセット(SPS)に含まれるとき、前記dpb_parameters()は、前記SPSを参照するレイヤの中で最下位レイヤであるレイヤのみを含む前記OLSに適用され、前記最下位レイヤは独立レイヤである、ステップと、
前記デコーダによって、前記ref_pic_list_struct()に基づき前記現在のピクチャをデコードしてデコード済みピクチャを生成するステップとを含む方法。

【請求項2】

前記ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記され、前記num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され、前記num_ref_entries[listIdx][rplsIdx]は、前記ref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する、請求項1に記載の方法。

【請求項3】

前記ref_pic_list_structで参照される参照ピクチャのセット(setOfRefPics)内のピクチャの数は、前記最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、請求項1に記載の方法。

【請求項4】

前記ref_pic_list_struct()は、参照ピクチャリスト0(RefPicList[0])および参照ピクチャリスト1(RefPicList[1])を含み、前記setOfRefPicsは、前記現在のピクチャと同じネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)を有するRefPicList[0]内のすべてのエントリおよび前記現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、請求項1に記載の方法。

【請求項5】

前記setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットである、請求項1に記載の方法。

【請求項6】

前記dpb_parameters()は、最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)を含み、前記最大デコード済みピクチャバッファサイズは、前記max_dec_pic_buffering_minus1に対応する、請求項1に記載の方法。

【請求項7】

エンコーダによって実装される方法であって、
ビットストリーム内に、前記エンコーダによって、参照ピクチャに基づき現在のピクチャをエンコードするステップと、
前記ビットストリーム内に、前記エンコーダによって、前記参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む、参照ピクチャリストシンタックス構造(ref_pic_list_struct())をエンコードするステップであって、前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())をさらに含み、前記dpb_parameters()がビデオパラメータセット(VPS)に含まれるとき、前記dpb_parameters()が適用される出力レイヤセット(OLS)は前記VPSによって指定され、前記dpb_parameters()がシーケンスパラメータセット(SPS)に含まれるとき、前記dpb_parameters()は、前記SPSを参照するレイヤの中で最下位レイヤであるレイヤのみを含む前記OLSに適用され、前記最下位レイヤは独立レイヤである、ステップと、
前記エンコーダによって、デコーダに向けた通信のために前記ビットストリームを記憶するステップとを含む方法。

【請求項8】

前記ref_pic_list_struct()は、リストインデックス(listIdx)および参照ピクチャリスト構造インデックス(rplsIdx)に従って参照され、ref_pic_list_struct(listIdx, rplsIdx)と表記され、前記num_ref_entriesは、num_ref_entries[listIdx][rplsIdx]と表記され、前記num_ref_entries[listIdx][rplsIdx]は、前記ref_pic_list_struct(listIdx, rplsIdx)内のエントリの数を指定する、請求項7に記載の方法。

【請求項9】

前記ref_pic_list_structで参照される参照ピクチャのセット(setOfRefPics)内のピクチャの数は、前記最大デコード済みピクチャバッファサイズ-1以下であるよう制約される、請求項7に記載の方法。

【請求項10】

前記ref_pic_list_struct()は、参照ピクチャリスト0(RefPicList[0])および参照ピクチャリスト1(RefPicList[1])を含み、前記setOfRefPicsは、前記現在のピクチャと同じネットワーク抽象化レイヤ(NAL)ユニットヘッダレイヤ識別子(nuh_layer_id)を有するRefPicList[0]内のすべてのエントリおよび前記現在のピクチャと同じnuh_layer_idを有するRefPicList[1]内のすべてのエントリによって参照されるセット固有のピクチャである、請求項7に記載の方法。

【請求項11】

前記setOfRefPicsは、各ピクチャのすべてのスライスについて同じセットである、請求項7に記載の方法。

【請求項12】

前記dpb_parameters()は、最大デコード済みピクチャバッファ-1(max_dec_pic_buffering_minus1)を含み、前記最大デコード済みピクチャバッファサイズは、前記max_dec_pic_buffering_minus1に対応する、請求項7に記載の方法。

【請求項13】

プロセッサと、前記プロセッサに結合された受信器と、前記プロセッサに結合されたメモリと、前記プロセッサに結合された送信器とを備え、前記プロセッサ、前記受信器、前記メモリ、および前記送信器は、請求項1から12のいずれか一項に記載の方法を実行するように構成されるビデオコーディングデバイス。

【請求項14】

ビデオコーディングデバイスによる使用のためのコンピュータプログラムを含む非一時的コンピュータ可読媒体であって、前記コンピュータプログラムは、プロセッサによって実行されたとき、前記ビデオコーディングデバイスに請求項1から12のいずれか一項に記載の方法を実行させるような前記非一時的コンピュータ可読媒体に記憶されたコンピュータ実行可能命令を含む、非一時的コンピュータ可読媒体。

【請求項15】

現在のピクチャと、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む参照ピクチャリストシンタックス構造(ref_pic_list_struct())と、を含むビットストリームを受信するための受信手段であって、前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())をさらに含み、前記dpb_parameters()がビデオパラメータセット(VPS)に含まれるとき、前記dpb_parameters()が適用される出力レイヤセット(OLS)は前記VPSによって指定され、前記dpb_parameters()がシーケンスパラメータセット(SPS)に含まれるとき、前記dpb_parameters()は、前記SPSを参照するレイヤの中で最下位レイヤであるレイヤのみを含む前記OLSに適用され、前記最下位レイヤは独立レイヤである、受信手段と、
前記ref_pic_list_struct()に基づき前記現在のピクチャをデコードしてデコード済みピクチャを生成するためのデコード手段とを備えるデコーダ。

【請求項16】

前記デコーダは、請求項1から6のいずれか一項に記載の方法を実行するようにさらに構成される、請求項15に記載のデコーダ。

【請求項17】

ビットストリーム内に、参照ピクチャに基づき現在のピクチャをエンコードし、
前記ビットストリーム内に、前記参照ピクチャを示し、0から最大デコード済みピクチャバッファサイズ+オフセットまでの範囲に制約される参照エントリの数(num_ref_entries)を含む、参照ピクチャリストシンタックス構造(ref_pic_list_struct())をエンコードするためのエンコード手段であって、前記ビットストリームは、デコード済みピクチャバッファパラメータシンタックス構造(dpb_parameters())をさらに含み、前記dpb_parameters()がビデオパラメータセット(VPS)に含まれるとき、前記dpb_parameters()が適用される出力レイヤセット(OLS)は前記VPSによって指定され、前記dpb_parameters()がシーケンスパラメータセット(SPS)に含まれるとき、前記dpb_parameters()は、前記SPSを参照するレイヤの中で最下位レイヤであるレイヤのみを含む前記OLSに適用され、前記最下位レイヤは独立レイヤである、エンコード手段と、
デコーダに向けた通信のために前記ビットストリームを記憶するための記憶手段とを備えるエンコーダ。

【請求項18】

前記エンコーダは、請求項7から12のいずれか一項に記載の方法を実行するようにさらに構成される、請求項17に記載のエンコーダ。

【外国語明細書】