特表2022-535025ビデオ符号化および復号における空間スケーラビリティのサポート
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-08-04
(54)【発明の名称】ビデオ符号化および復号における空間スケーラビリティのサポート
(51)【国際特許分類】
H04N 19/433 20140101AFI20220728BHJP
H04N 19/30 20140101ALI20220728BHJP
【ＦＩ】
H04N19/433
H04N19/30
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2021571438
(86)(22)【出願日】2020-06-05
(85)【翻訳文提出日】2021-11-30
(86)【国際出願番号】 US2020036268
(87)【国際公開番号】W WO2020247719
(87)【国際公開日】2020-12-10
(31)【優先権主張番号】62/858,901
(32)【優先日】2019-06-07
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/892,709
(32)【優先日】2020-06-04
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】507364838
【氏名又は名称】クアルコム，インコーポレイテッド
(74)【代理人】
【識別番号】100108453
【弁理士】
【氏名又は名称】村山 靖彦
(74)【代理人】
【識別番号】100163522
【弁理士】
【氏名又は名称】黒田 晋平
(72)【発明者】
【氏名】ヴァディム・セレジン
(72)【発明者】
【氏名】ムハンマド・ゼイド・コバン
(72)【発明者】
【氏名】アダルシュ・クリシュナン・ラマスブラモニアン
(72)【発明者】
【氏名】マルタ・カルツェヴィッツ
【テーマコード（参考）】
5C159
【Ｆターム（参考）】
5C159LC09
5C159MA04
5C159MA05
5C159MA21
5C159MA31
5C159MC11
5C159ME01
5C159RB09
5C159RC12
5C159UA02
5C159UA05
5C159UA16
(57)【要約】
ビデオエンコーダまたはビデオデコーダは、少なくとも第1のレイヤと第2のレイヤとを含むマルチレイヤビデオデータを取得することと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定することであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、レイヤのピクチャが瞬時復号リフレッシュ(IDR)ピクチャであるとの決定に応答して、IDRピクチャが属するレイヤのレイヤ識別情報よりも低いレイヤ識別情報を有するすべての復号されたピクチャを復号されたピクチャバッファに残しながら、IDRピクチャが属するレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することとを行うように構成され得る。
【特許請求の範囲】
【請求項1】
マルチレイヤビデオデータを復号する方法であって、前記マルチレイヤビデオデータを取得するステップであって、前記マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、ステップと、
前記第1のレイヤについてのレイヤ識別値および前記第2のレイヤについてのレイヤ識別値を決定するステップであって、前記第2のレイヤについての前記レイヤ識別値が前記第1のレイヤについての前記レイヤ識別値よりも高い、ステップと、
前記第1のレイヤの復号されたピクチャおよび前記第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶するステップと、
瞬時復号リフレッシュ(IDR)ピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除するステップと
を備える方法。
【請求項2】
前記第1のレイヤが単独で復号可能なレイヤを備える、請求項1に記載の方法。
【請求項3】
前記第2のレイヤが前記第1のレイヤに依存する、請求項1に記載の方法。
【請求項4】
前記マルチレイヤビデオデータが第3のレイヤをさらに備え、前記方法が、前記第3のレイヤについてのレイヤ識別値を決定するステップであって、前記第3のレイヤについての前記レイヤ識別値が前記第2のレイヤについての前記レイヤ識別値よりも高い、ステップと、
前記第3のレイヤの復号されたピクチャを前記復号されたピクチャバッファに記憶するステップと、
前記IDRピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャおよび前記第3のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除するステップと、
前記第2のレイヤのすべての前記復号されたピクチャおよび前記第3のレイヤのすべての前記復号されたピクチャを前記復号されたピクチャバッファから削除した後、前記マルチレイヤビデオデータの現在のピクチャのブロックを予測するために、前記第1のレイヤの復号されたピクチャのコピーを取り出すステップと
を備える、請求項1に記載の方法。
【請求項5】
前記第2のレイヤなしの前記第1のレイヤと前記第3のレイヤとを含む復号可能なビットストリームを前記マルチレイヤビデオデータから抽出するステップをさらに備える、請求項4に記載の方法。
【請求項6】
少なくとも前記第1のレイヤと前記第2のレイヤとを備える前記マルチレイヤビデオデータを取得する前記ステップが、1つまたは複数のレイヤの第1のピクチャを備える第1のアクセスユニットを受信し、前記1つまたは複数のレイヤの第2のピクチャを備える第2のアクセスユニットを受信するステップを備える、請求項1に記載の方法。
【請求項7】
(1)前記第2のアクセスユニットのビデオコーディングレイヤ(VCL)ネットワークアブストラクションレイヤ(NAL)ユニットが復号順序において直前に先行するピクチャのレイヤ識別情報よりも小さいレイヤ識別情報を有する、および(2)前記第2のアクセスユニットの前記VCL NALユニットが復号順序において前記直前に先行するピクチャのピクチャ順序カウント(POC)値とは異なるPOC値を有するとの決定に応答して、前記第2のアクセスユニットの前記VCL NALユニットが前記第2のアクセスユニットの開始に対応すると決定するステップと、
前記第2のアクセスユニットの前記VCL NALユニットが前記第2のアクセスユニットの前記開始に対応するとの決定に応答して、前記第2のアクセスユニットの前記第2のピクチャが同じ時間出力に関連付けられると決定するステップと
をさらに備える、請求項6に記載の方法。
【請求項8】
前記第2のアクセスユニットの前記VCL NALユニットと前記直前に先行するピクチャの最後のVCL NALユニットとの間で受信されたNALユニットが、アクセスユニットデリミタNALユニットを備える、請求項7に記載の方法。
【請求項9】
前記マルチレイヤビデオデータを取得する前記ステップが、前記マルチレイヤビデオデータをワイヤレス通信デバイスのメモリに記憶するステップを備え、前記方法が、前記ワイヤレス通信デバイスの1つまたは複数のプロセッサを用いて前記マルチレイヤビデオデータを符号化するステップと、
前記符号化されたマルチレイヤビデオデータを前記ワイヤレス通信デバイスの送信機から送信するステップと
をさらに備える、請求項1に記載の方法。
【請求項10】
前記ワイヤレス通信デバイスが電話ハンドセットを備え、前記ワイヤレス通信デバイスの前記送信機において前記マルチレイヤビデオデータを送信する前記ステップが、前記マルチレイヤビデオデータを備える信号をワイヤレス通信規格に従って変調するステップを備える、請求項9に記載の方法。
【請求項11】
前記マルチレイヤビデオデータを取得する前記ステップが、ワイヤレス通信デバイスの受信機において前記マルチレイヤビデオデータを受信するステップを備え、前記方法が、前記マルチレイヤビデオデータを前記ワイヤレス通信デバイスのメモリに記憶するステップと、
前記ワイヤレス通信デバイスの1つまたは複数のプロセッサを用いて前記マルチレイヤビデオデータを復号するステップと
をさらに備える、請求項1に記載の方法。
【請求項12】
前記ワイヤレス通信デバイスが電話ハンドセットを備え、前記ワイヤレス通信デバイスの前記受信機において前記マルチレイヤビデオデータを受信する前記ステップが、前記マルチレイヤビデオデータを備える信号をワイヤレス通信規格に従って復調するステップを備える、請求項11に記載の方法。
【請求項13】
マルチレイヤビデオデータを復号するためのデバイスであって、前記マルチレイヤビデオデータを記憶するように構成されたメモリと、
回路において実装された1つまたは複数のプロセッサとを備え、前記1つまたは複数のプロセッサが、
前記マルチレイヤビデオデータを取得することであって、前記マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、取得することと、
前記第1のレイヤについてのレイヤ識別値および前記第2のレイヤについてのレイヤ識別値を決定することであって、前記第2のレイヤについての前記レイヤ識別値が前記第1のレイヤについての前記レイヤ識別値よりも高い、決定することと、
前記第1のレイヤの復号されたピクチャおよび前記第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、
瞬時復号リフレッシュ(IDR)ピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除することと
を行うように構成される、デバイス。
【請求項14】
前記第1のレイヤが単独で復号可能なレイヤを備える、請求項13に記載のデバイス。
【請求項15】
前記第2のレイヤが前記第1のレイヤに依存する、請求項13に記載のデバイス。
【請求項16】
前記マルチレイヤビデオデータが第3のレイヤをさらに備え、前記1つまたは複数のプロセッサが、前記第3のレイヤについてのレイヤ識別値を決定することであって、前記第3のレイヤについての前記レイヤ識別値が前記第2のレイヤについての前記レイヤ識別値よりも高い、決定することと、
前記第3のレイヤの復号されたピクチャを前記復号されたピクチャバッファに記憶することと、
前記IDRピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャおよび前記第3のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除することと、
前記第2のレイヤのすべての前記復号されたピクチャおよび前記第3のレイヤのすべての前記復号されたピクチャを前記復号されたピクチャバッファから削除した後、前記マルチレイヤビデオデータの現在のピクチャのブロックを予測するために、前記第1のレイヤの復号されたピクチャのコピーを取り出すことと
を行うようにさらに構成される、請求項13に記載のデバイス。
【請求項17】
前記1つまたは複数のプロセッサが、前記第2のレイヤなしの前記第1のレイヤと前記第3のレイヤとを含む復号可能なビットストリームを前記マルチレイヤビデオデータから抽出する
ようにさらに構成される、請求項16に記載のデバイス。
【請求項18】
少なくとも前記第1のレイヤと前記第2のレイヤとを備える前記マルチレイヤビデオデータを取得するために、前記1つまたは複数のプロセッサが、1つまたは複数のレイヤの第1のピクチャを備える第1のアクセスユニットを受信し、前記1つまたは複数のレイヤの第2のピクチャを備える第2のアクセスユニットを受信するようにさらに構成される、請求項13に記載のデバイス。
【請求項19】
前記1つまたは複数のプロセッサが、(1)前記第2のアクセスユニットのビデオコーディングレイヤ(VCL)ネットワークアブストラクションレイヤ(NAL)ユニットが復号順序において直前に先行するピクチャのレイヤ識別情報よりも小さいレイヤ識別情報を有する、
および(2)前記第2のアクセスユニットの前記VCL NALユニットが復号順序において前記直前に先行するピクチャのピクチャ順序カウント(POC)値とは異なるPOC値を有するとの決定に応答して、前記第2のアクセスユニットの前記VCL NALユニットが前記第2のアクセスユニットの開始に対応すると決定することと、
前記第2のアクセスユニットの前記VCL NALユニットが前記第2のアクセスユニットの前記開始に対応するとの決定に応答して、前記第2のアクセスユニットの前記第2のピクチャが同じ時間出力に関連付けられると決定することと
を行うようにさらに構成される、請求項18に記載のデバイス。
【請求項20】
前記第2のアクセスユニットの前記VCL NALユニットと前記直前に先行するピクチャの最後のVCL NALユニットとの間で受信されたNALユニットが、アクセスユニットデリミタNALユニットを備える、請求項19に記載のデバイス。
【請求項21】
前記マルチレイヤビデオデータを受信するように構成された受信機をさらに備えるワイヤレス通信デバイスを備える、請求項13に記載のデバイス。
【請求項22】
前記ワイヤレス通信デバイスが電話ハンドセットを備え、前記受信機が、前記マルチレイヤビデオデータを備える信号をワイヤレス通信規格に従って復調するように構成される、請求項21に記載のデバイス。
【請求項23】
復号されたマルチレイヤビデオデータを表示するように構成されたディスプレイをさらに備える、請求項13に記載のデバイス。
【請求項24】
カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数を備える、請求項13に記載のデバイス。
【請求項25】
命令を記憶するコンピュータ可読記憶媒体であって、前記命令が、1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに、前記マルチレイヤビデオデータを取得することであって、前記マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、取得することと、
前記第1のレイヤについてのレイヤ識別値および前記第2のレイヤについてのレイヤ識別値を決定することであって、前記第2のレイヤについての前記レイヤ識別値が前記第1のレイヤについての前記レイヤ識別値よりも高い、決定することと、
前記第1のレイヤの復号されたピクチャおよび前記第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、
瞬時復号リフレッシュ(IDR)ピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除することと
を行わせる、コンピュータ可読記憶媒体。
【請求項26】
マルチレイヤビデオデータを復号するための装置であって、前記マルチレイヤビデオデータを取得するための手段であって、前記マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、手段と、
前記第1のレイヤについてのレイヤ識別値および前記第2のレイヤについてのレイヤ識別値を決定するための手段であって、前記第2のレイヤについての前記レイヤ識別値が前記第1のレイヤについての前記レイヤ識別値よりも高い、手段と、
前記第1のレイヤの復号されたピクチャおよび前記第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶するための手段と、
瞬時復号リフレッシュ(IDR)ピクチャが前記第2のレイヤに属するとの決定に応答して、前記第1のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファに残しながら、前記第2のレイヤのすべての復号されたピクチャを前記復号されたピクチャバッファから削除するための手段と
を備える装置。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、2019年6月7日に出願された米国仮出願第62/858,901号の利益を主張する、2020年6月4日に出願された米国出願第16/892,709号の優先権を主張し、これらの出願の各々の内容全体は、参照により本明細書に組み込まれる。
【0002】
本開示は、ビデオ符号化およびビデオ復号に関する。
【背景技術】
【0003】
デジタルビデオ能力は、デジタルテレビジョン、デジタルダイレクトブロードキャストシステム、ワイヤレスブロードキャストシステム、携帯情報端末(PDA)、ラップトップまたはデスクトップコンピュータ、タブレットコンピュータ、電子ブックリーダー、デジタルカメラ、デジタル記録デバイス、デジタルメディアプレーヤ、ビデオゲーミングデバイス、ビデオゲームコンソール、セルラーまたは衛星無線電話、いわゆる「スマートフォン」、ビデオ遠隔会議デバイス、ビデオストリーミングデバイスなどを含む、広範囲のデバイスに組み込まれ得る。デジタルビデオデバイスは、MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4, Part 10, アドバンストビデオコーディング(AVC)、ITU-T H.265/高効率ビデオコーディング(HEVC)によって定義された規格、およびそのような規格の拡張に記載されている技法などの、ビデオコーディング技法を実装する。ビデオデバイスは、そのようなビデオコーディング技法を実装することによって、デジタルビデオ情報をより効率的に送信、受信、符号化、復号、および/または記憶し得る。
【0004】
ビデオコーディング技法は、ビデオシーケンスに固有の冗長性を低減または除去するために、空間(イントラピクチャ)予測および/または時間(インターピクチャ)予測を含む。ブロックベースのビデオコーディングの場合、ビデオスライス(たとえば、ビデオピクチャまたはビデオピクチャの一部分)は、ビデオブロックに区分されてもよく、ビデオブロックは、コーディングツリーユニット(CTU)、コーディングユニット(CU)および/またはコーディングノードと呼ばれることもある。ピクチャのイントラコーディングされた(I)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測を使用して符号化される。ピクチャのインターコーディングされた(PまたはB)スライス中のビデオブロックは、同じピクチャ中の隣接ブロック中の参照サンプルに対する空間予測または他の参照ピクチャ中の参照サンプルに対する時間予測を使用し得る。ピクチャはフレームと呼ばれることがあり、参照ピクチャは参照フレームと呼ばれることがある。
【発明の概要】
【課題を解決するための手段】
【0005】
本開示の技法は、マルチレイヤビデオデータ符号化および復号に関し、より詳細には、マルチレイヤビデオデータ符号化および復号のための復号されたピクチャバッファを管理するための技法に関する。本開示はまた、マルチレイヤビデオデータ符号化および復号における新しいアクセスユニットの開始を検出するための技法について説明する。マルチレイヤビデオデータは、空間スケーラビリティを可能にするために使用され得る。
【0006】
本開示の一例によれば、マルチレイヤビデオデータを復号する方法は、マルチレイヤビデオデータを取得するステップであって、マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、ステップと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定するステップであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、ステップと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶するステップと、瞬時復号リフレッシュ(IDR)ピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除するステップとを含む。
【0007】
本開示の別の例によれば、マルチレイヤビデオデータを復号するためのデバイスは、マルチレイヤビデオデータを記憶するように構成されたメモリと、回路において実装された1つまたは複数のプロセッサとを含み、1つまたは複数のプロセッサは、マルチレイヤビデオデータを取得することであって、マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、取得することと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定することであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、瞬時復号リフレッシュ(IDR)ピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することとを行うように構成される。
【0008】
本開示の別の例によれば、コンピュータ可読記憶媒体は命令を記憶し、命令は、1つまたは複数のプロセッサによって実行されると、1つまたは複数のプロセッサに、マルチレイヤビデオデータを取得することであって、マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、取得することと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定することであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、瞬時復号リフレッシュ(IDR)ピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することとを行わせる。
【0009】
マルチレイヤビデオデータを復号するための装置は、マルチレイヤビデオデータを取得するための手段であって、マルチレイヤビデオデータが少なくとも第1のレイヤと第2のレイヤとを備える、手段と、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定するための手段であって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、手段と、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶するための手段と、瞬時復号リフレッシュ(IDR)ピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除するための手段とを含む。
【0010】
1つまたは複数の例の詳細が、添付の図面および以下の説明に記載される。他の特徴、目的、および利点は、説明、図面、および特許請求の範囲から明らかになるであろう。
【図面の簡単な説明】
【0011】
【図1】本開示の技法を実行し得る例示的なビデオ符号化および復号システムを示すブロック図である。
【図2A】例示的な4分木2分木(QTBT)構造および対応するコーディングツリーユニット(CTU)を示す概念図である。
【図2B】例示的な4分木2分木(QTBT)構造および対応するコーディングツリーユニット(CTU)を示す概念図である。
【図3】アクセスユニット内のピクチャが同じPOC値を有する一例を示す図である。
【図4】POCカウントが異なるレイヤにわたって連続し、アクセスユニット内のピクチャが異なるPOC値を有する一例を示す図である。
【図5】すべてのレイヤがアクセスユニット中に存在するわけではないアクセスユニットの一例を示す図である。
【図6】本開示の技法を実行し得る例示的なビデオエンコーダを示すブロック図である。
【図7】本開示の技法を実行し得る例示的なビデオデコーダを示すブロック図である。
【図8】ビデオ符号化プロセスを示すフローチャートである。
【図9】ビデオ復号プロセスを示すフローチャートである。
【図10】DPBを維持するための例示的なプロセスを示すフローチャートである。
【発明を実施するための形態】
【0012】
ビデオコーディング(たとえば、ビデオ符号化および/またはビデオ復号)は、通常、同じピクチャの中のビデオデータのすでにコーディングされたブロック(たとえば、イントラ予測)または異なるピクチャの中のビデオデータのすでにコーディングされたブロック(たとえば、インター予測)のいずれかから、ビデオデータのブロックを予測することを伴う。いくつかの事例では、ビデオエンコーダはまた、予測ブロックを元のブロックと比較することによって残差データを計算する。したがって、残差データは、予測ブロックと元のブロックとの間の差を表す。残差データをシグナリングするために必要とされるビットの数を低減するために、ビデオエンコーダは、残差データを変換して量子化し、変換され量子化された残差データを符号化されたビットストリームにおいてシグナリングする。変換プロセスおよび量子化プロセスによって達成される圧縮は不可逆であることがあり、これは変換プロセスおよび量子化プロセスが復号されたビデオデータにひずみをもたらし得ることを意味する。
【0013】
ビデオデコーダは、残差データを復号し予測ブロックに加算して、予測ブロック単独よりも元のビデオブロックとよく一致する再構成されたビデオブロックを生成する。残差データの変換および量子化によってもたらされる損失により、最初の再構成されたブロックはひずみまたはアーティファクトを有することがある。1つのよくあるタイプのアーティファクトまたはひずみはブロッキネスと呼ばれ、この場合、ビデオデータをコーディングするために使用されるブロックの境界が見える。
【0014】
復号されたビデオの品質をさらに改善するために、ビデオデコーダは、再構成されたビデオブロックに対して1つまたは複数のフィルタリング動作を実行することができる。これらのフィルタリング動作の例は、デブロッキングフィルタリング、サンプル適応オフセット(SAO)フィルタリング、および適応ループフィルタリング(ALF)を含む。これらのフィルタリング動作のためのパラメータは、ビデオエンコーダによって決定され、符号化されたビデオビットストリームにおいて明示的にシグナリングされ得るか、またはパラメータが符号化されたビデオビットストリームにおいて明示的にシグナリングされる必要なしに、ビデオデコーダによって暗黙的に決定され得るかのいずれかである。
【0015】
一般にビデオビットストリームが複数の空間分解能および/または複数のフレームレートをサポートする能力を指すスケーラビリティを可能にするために、いくつかのビデオビットストリームは複数のレイヤを含む。マルチレイヤビットストリームは、ベースレイヤおよび1つまたは複数の非ベースレイヤを含み得る。非ベースレイヤは、エンハンスメントレイヤと呼ばれることもある。スケーラブルビットストリームでは、ベースレイヤは、通常、ゼロに等しいレイヤ識別子(たとえば、nuh_layer_id)を有してもよく、単独で復号可能であってもよく、これは他のレイヤからの情報を必要とすることなしにベースレイヤが復号され得ることを意味する。非ベースレイヤは、ゼロよりも大きいレイヤ識別子を有してもよく、ベースレイヤに含まれていない追加のビデオデータを提供してもよい。この追加のビデオデータは、たとえば、空間分解能またはフレームレートを高めるために使用され得る、より多くのサンプル値を含み得る。非ベースレイヤは、単独で復号可能であってもよく、そうでなくてもよい。いくつかの非ベースレイヤは、他のレイヤに関連付けられた情報にアクセスしなければ復号することができず、したがって、それらの他のレイヤに依存すると見なされる。ビデオコーディングレイヤ(VCL)ネットワークアブストラクションレイヤ(NAL)ユニットは、一般に、ピクチャのスライスのためのビデオデータを含むコーディングされたスライスNALユニットを指す。レイヤは、一般に、すべてがnuh_layer_idの特定の値を有するVCL NALユニットと関連する非VCL NALユニットとのセットを指す。
【0016】
NALユニットは、後に続くデータのタイプの指示、および必要に応じてエミュレーション防止バイトが散在しているローバイトシーケンスペイロード(RBSP:raw byte sequence payload)の形態でそのデータを含むバイトを含む、シンタックス構造である。アクセスユニット(AU)は、異なるレイヤに属し、同じ時間に関連付けられたコーディングされたピクチャを含む、ピクチャユニットのセットである。ピクチャユニットは、指定された分類規則に従って互いに関連付けられ、復号順序において連続的であり、ちょうど1つのコーディングされたピクチャを含む、NALユニットのセットである。
【0017】
瞬時復号リフレッシュ(IDR)ピクチャは、復号プロセスにおいてインター予測を使用しないタイプのピクチャであり、したがって、復号順序においてビットストリーム中で最初のピクチャであり得る。IDRピクチャは、ビットストリーム中で後に現れ、ランダムアクセスに使用されることもあり、ランダムアクセスは、一般に、ストリームの始まり以外の時点でビットストリームのための復号プロセスを開始する行為を指す。各IDRピクチャは、復号順序でのコーディングされたビデオシーケンス(CVS:coded video sequence)の最初のピクチャである。
【0018】
ビデオエンコーダおよびビデオデコーダは、復号されたピクチャがビットストリーム中の後のピクチャを符号化および復号するための参照ピクチャとして使用され得るように、復号されたピクチャを復号されたピクチャバッファ(DPB)に記憶する。参照ピクチャは、復号順序での後続のピクチャの復号プロセスにおけるインター予測に使用され得るサンプルを含む。どのピクチャをDPBに保持し、どのピクチャを削除する、すなわち、「バンプする」かを決定することは、あるレイヤからのピクチャをDPBに追加することが他のレイヤからのピクチャをバンプする場合があるので、マルチレイヤビデオデータの独自の課題を提示する可能性がある。本開示は、ビデオデータのレイヤがIDRピクチャを含むときにDPBからピクチャをバンプするための技法について説明する。
【0019】
本開示のいくつかの技法によれば、レイヤのピクチャがIDRピクチャであるとの決定に応答して、ビデオデコーダは、下位レイヤIDを有するすべての復号されたピクチャを復号されたピクチャバッファに残しながら、IDRピクチャが属するレイヤのすべての復号されたピクチャをDPBから削除し得る。このようにしてビデオデコーダを構成することによって、ビデオデコーダは、それらの下位レイヤがIDRピクチャを含まないときに、下位レイヤIDを有する復号されたピクチャに基づいて将来のピクチャを復号する能力を保つことができる。このようにしてDPBを管理することによって、ビデオデコーダは、必要な参照ピクチャが利用不可能であるせいで復号不可能なビットストリームをもたらすコーディングシナリオを防止することができる。
【0020】
本開示のいくつかの技法によれば、(1)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのレイヤ識別情報よりも小さいレイヤ識別情報を有する、および(2)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのピクチャ順序カウント(POC)値とは異なるPOC値を有するとの決定に応答して、ビデオデコーダは、第2のアクセスユニットのVCL NALユニットが第2のアクセスユニットの開始に対応すると決定し得る。この技法は、シングルレイヤビデオデコーダに過度の負担を課さないことによって、新しいアクセスユニットの開始を検出するための改善された方法を表し得る。
【0021】
本開示の技法はビデオデコーダの観点から説明されることがあるが、説明する技法はビデオエンコーダによっても実行され得ることを理解されたい。たとえば、ビデオエンコーダは、通常、ビデオデータをどのように符号化するかを決定するプロセスの一部として、ビデオデータの復号も行う。その復号に関連して、ビデオエンコーダは、ビデオデコーダと同じ技法を使用してDPBを維持し得る。
【0022】
図1は、本開示の技法を実行し得る例示的なビデオ符号化および復号システム100を示すブロック図である。本開示の技法は、一般に、ビデオデータをコーディング(符号化および/または復号)することを対象とする。一般に、ビデオデータは、ビデオを処理するための任意のデータを含む。したがって、ビデオデータは、生の符号化されていないビデオ、符号化されたビデオ、復号された(たとえば、再構成された)ビデオ、およびシグナリングデータなどのビデオメタデータを含み得る。
【0023】
図1に示すように、システム100は、この例では、復号され、宛先デバイス116によって表示されるべき符号化されたビデオデータを提供するソースデバイス102を含む。具体的には、ソースデバイス102は、コンピュータ可読媒体110を介して宛先デバイス116にビデオデータを提供する。ソースデバイス102および宛先デバイス116は、デスクトップコンピュータ、ノートブック(すなわち、ラップトップ)コンピュータ、タブレットコンピュータ、セットトップボックス、スマートフォンなどの電話ハンドセット、テレビジョン、カメラ、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲーミングコンソール、ビデオストリーミングデバイスなどを含む、広範囲のデバイスのいずれかを備え得る。場合によっては、ソースデバイス102および宛先デバイス116は、ワイヤレス通信用に装備されることがあり、したがって、ワイヤレス通信デバイスと呼ばれることがある。
【0024】
図1の例では、ソースデバイス102は、ビデオソース104、メモリ106、ビデオエンコーダ200、および出力インターフェース108を含む。宛先デバイス116は、入力インターフェース122、ビデオデコーダ300、メモリ120、およびディスプレイデバイス118を含む。本開示によれば、ソースデバイス102のビデオエンコーダ200および宛先デバイス116のビデオデコーダ300は、本開示で説明する連続ピクチャ順序カウント(POC)番号付けのための技法を適用するように構成され得る。したがって、ソースデバイス102はビデオ符号化デバイスの一例を表すが、宛先デバイス116はビデオ復号デバイスの一例を表す。他の例では、ソースデバイスおよび宛先デバイスは、他の構成要素または構成を含み得る。たとえば、ソースデバイス102は、外部カメラなどの外部ビデオソースからビデオデータを受信し得る。同様に、宛先デバイス116は、統合されたディスプレイデバイスを含むのではなく、外部ディスプレイデバイスとインターフェースし得る。
【0025】
図1に示すようなシステム100は一例にすぎない。一般に、任意のデジタルビデオ符号化および/または復号デバイスは、スケーラビリティをサポートするために、本開示で説明する連続POC番号付けのための技法を実行し得る。ソースデバイス102および宛先デバイス116は、ソースデバイス102が宛先デバイス116に送信するためのコーディングされたビデオデータを生成するようなコーディングデバイスの例にすぎない。本開示は、データのコーディング(符号化および/または復号)を実行するデバイスを「コーディング」デバイスと呼ぶ。したがって、ビデオエンコーダ200およびビデオデコーダ300は、コーディングデバイス、具体的には、それぞれ、ビデオエンコーダおよびビデオデコーダの例を表す。いくつかの例では、デバイス102、116は、デバイス102、116の各々がビデオ符号化および復号構成要素を含むように実質的に対称的な方法で動作し得る。したがって、システム100は、たとえば、ビデオストリーミング、ビデオ再生、ビデオブロードキャスティング、またはビデオテレフォニーのための、ビデオデバイス102、116間の一方向または双方向のビデオ送信をサポートし得る。
【0026】
一般に、ビデオソース104は、ビデオデータ(すなわち、生の符号化されていないビデオデータ)のソースを表し、ビデオデータの連続した一連のピクチャ(「フレーム」とも呼ばれる)をビデオエンコーダ200に提供し、ビデオエンコーダ200は、ピクチャのためのデータを符号化する。ソースデバイス102のビデオソース104は、ビデオカメラ、以前にキャプチャされた生のビデオを含むビデオアーカイブ、および/またはビデオコンテンツプロバイダからビデオを受信するためのビデオフィードインターフェースなどの、ビデオキャプチャデバイスを含み得る。さらなる代替として、ビデオソース104は、ソースビデオとしてのコンピュータグラフィックスベースのデータ、またはライブビデオとアーカイブされたビデオとコンピュータ生成されたビデオとの組合せを生成し得る。各場合において、ビデオエンコーダ200は、キャプチャされた、事前にキャプチャされた、またはコンピュータ生成されたビデオデータを符号化する。ビデオエンコーダ200は、受信された順序(「表示順序」と呼ばれることがある)からコーディング用のコーディング順序にピクチャを並べ替え得る。ビデオエンコーダ200は、符号化されたビデオデータを含むビットストリームを生成し得る。次いで、ソースデバイス102は、たとえば、宛先デバイス116の入力インターフェース122による受信および/または取出しのために、符号化されたマルチレイヤビデオデータを含む符号化されたビデオデータを出力インターフェース108を介してコンピュータ可読媒体110上に出力し得る。
【0027】
ソースデバイス102のメモリ106および宛先デバイス116のメモリ120は、汎用メモリを表す。いくつかの例では、メモリ106、120は、生のビデオデータ、たとえば、ビデオソース104からの生のビデオ、およびビデオデコーダ300からの生の復号されたビデオデータを記憶し得る。追加または代替として、メモリ106、120は、たとえば、それぞれ、ビデオエンコーダ200およびビデオデコーダ300によって実行可能なソフトウェア命令を記憶し得る。この例ではビデオエンコーダ200およびビデオデコーダ300とは別々に示されているが、ビデオエンコーダ200およびビデオデコーダ300は、機能的に類似するまたは同等の目的で内部メモリも含み得ることを理解されたい。さらに、メモリ106、120は、符号化されたビデオデータ、たとえば、ビデオエンコーダ200からの出力およびビデオデコーダ300への入力を記憶し得る。いくつかの例では、メモリ106、120の一部は、たとえば、生の復号されたおよび/または符号化されたビデオデータを記憶するための、1つまたは複数のビデオバッファとして割り振られ得る。
【0028】
コンピュータ可読媒体110は、符号化されたビデオデータをソースデバイス102から宛先デバイス116にトランスポートすることが可能な任意のタイプの媒体またはデバイスを表し得る。一例では、コンピュータ可読媒体110は、たとえば、無線周波数ネットワークまたはコンピュータベースのネットワークを介して、ソースデバイス102が符号化されたビデオデータを宛先デバイス116にリアルタイムで直接送信することを可能にする通信媒体を表す。ワイヤレス通信プロトコルなどの通信規格に従って、出力インターフェース108が符号化されたビデオデータを含む送信信号をたとえば変調することによって出力し得、入力インターフェース122が受信された送信信号をたとえば復調することによって受信し得る。通信媒体は、無線周波数(RF)スペクトルまたは1つもしくは複数の物理伝送線路などの、任意のワイヤレスまたはワイヤード通信媒体を備え得る。通信媒体は、ローカルエリアネットワーク、ワイドエリアネットワーク、またはインターネットなどのグローバルネットワークなどの、パケットベースネットワークの一部を形成し得る。通信媒体は、ルータ、スイッチ、基地局、またはソースデバイス102から宛先デバイス116への通信を容易にするために有用であり得る任意の他の機器を含み得る。
【0029】
いくつかの例では、ソースデバイス102は、符号化されたデータを出力インターフェース108から記憶デバイス112に出力し得る。同様に、宛先デバイス116は、入力インターフェース122を介して、記憶デバイス112からの、符号化されたマルチレイヤビデオデータを含む符号化されたデータにアクセスし得る。記憶デバイス112は、ハードドライブ、Blu-ray(登録商標)ディスク、DVD、CD-ROM、フラッシュメモリ、揮発性もしくは不揮発性メモリ、または、符号化されたビデオデータを記憶するための任意の他の適切なデジタル記憶媒体などの、様々な分散されたまたはローカルでアクセスされるデータ記憶媒体のいずれかを含み得る。
【0030】
いくつかの例では、ソースデバイス102は、符号化されたビデオデータを、ソースデバイス102によって生成された符号化されたビデオを記憶し得るファイルサーバ114または別の中間記憶デバイスに出力し得る。宛先デバイス116は、ストリーミングまたはダウンロードを介して、ファイルサーバ114からの記憶されたビデオデータにアクセスし得る。ファイルサーバ114は、符号化されたビデオデータを記憶し、その符号化されたビデオデータを宛先デバイス116に送信することが可能な任意のタイプのサーバデバイスであり得る。ファイルサーバ114は、(たとえば、ウェブサイト用の)ウェブサーバ、ファイル転送プロトコル(FTP)サーバ、コンテンツ配信ネットワークデバイス、またはネットワークアタッチトストレージ(NAS)デバイスを表し得る。宛先デバイス116は、インターネット接続を含む任意の標準的なデータ接続を通じて、ファイルサーバ114からの符号化されたビデオデータにアクセスし得る。これは、ワイヤレスチャネル(たとえば、Wi-Fi接続)、ワイヤード接続(たとえば、デジタル加入者回線(DSL)、ケーブルモデムなど)、光ファイバー接続、またはファイルサーバ114上に記憶された符号化されたビデオデータにアクセスするのに適した両方の組合せを含み得る。ファイルサーバ114および入力インターフェース122は、ストリーミング送信プロトコル、ダウンロード送信プロトコル、またはそれらの組合せに従って動作するように構成され得る。
【0031】
出力インターフェース108および入力インターフェース122は、ワイヤレス送信機/受信機、モデム、ワイヤードネットワーキング構成要素(たとえば、イーサネットカード)、様々なIEEE802.11規格のいずれかに従って動作するワイヤレス通信構成要素、または他の物理的構成要素を表し得る。出力インターフェース108および入力インターフェース122がワイヤレス構成要素を備える例では、出力インターフェース108および入力インターフェース122は、4G、4G-LTE(ロングタームエボリューション)、LTEアドバンスト、5Gなどのセルラー通信規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。出力インターフェース108がワイヤレス送信機を備えるいくつかの例では、出力インターフェース108および入力インターフェース122は、IEEE802.11仕様、IEEE802.15仕様(たとえば、ZigBee(商標))、Bluetooth(商標)規格などの他のワイヤレス規格に従って、符号化されたビデオデータなどのデータを転送するように構成され得る。いくつかの例では、ソースデバイス102および/または宛先デバイス116は、それぞれのシステムオンチップ(SoC)デバイスを含み得る。たとえば、ソースデバイス102は、ビデオエンコーダ200および/または出力インターフェース108に起因する機能を実行するためのSoCデバイスを含み得、宛先デバイス116は、ビデオデコーダ300および/または入力インターフェース122に起因する機能を実行するためのSoCデバイスを含み得る。
【0032】
本開示の技法は、オーバージエアテレビジョンブロードキャスト、ケーブルテレビジョン送信、衛星テレビジョン送信、動的適応ストリーミングオーバーHTTP(DASH)などのインターネットストリーミングビデオ送信、データ記憶媒体上に符号化されたデジタルビデオ、データ記憶媒体上に記憶されたデジタルビデオの復号、または他の適用例などの、様々なマルチメディア適用例のいずれかをサポートするビデオコーディングに適用され得る。
【0033】
宛先デバイス116の入力インターフェース122は、コンピュータ可読媒体110(たとえば、記憶デバイス112、ファイルサーバ114など)から符号化されたビデオビットストリームを受信する。符号化されたビデオビットストリームは、ビデオブロックまたは他のコーディングされたユニット(たとえば、スライス、ピクチャ、ピクチャグループ、シーケンスなど)の特性および/または処理を記述する値を有するシンタックス要素などの、ビデオエンコーダ200によって定義され、ビデオデコーダ300によっても使用されるシグナリング情報を含み得る。ディスプレイデバイス118は、復号されたビデオデータの復号されたピクチャをユーザに表示する。ディスプレイデバイス118は、陰極線管(CRT)、液晶ディスプレイ(LCD)、プラズマディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイデバイスなどの、様々なディスプレイデバイスのいずれかを表し得る。
【0034】
図1には示されていないが、いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は各々、オーディオエンコーダおよび/またはオーディオデコーダと統合されることがあり、共通のデータストリーム中のオーディオとビデオの両方を含む多重化されたストリームを処理するために、適切なMUX-DEMUXユニット、または他のハードウェアおよび/もしくはソフトウェアを含み得る。適用可能な場合、MUX-DEMUXユニットは、ITU H.223マルチプレクサプロトコル、またはユーザデータグラムプロトコル(UDP)などの他のプロトコルに準拠し得る。
【0035】
ビデオエンコーダ200およびビデオデコーダ300は各々、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理、ソフトウェア、ハードウェア、ファームウェア、またはそれらの任意の組合せなどの、様々な適切なエンコーダおよび/またはデコーダ回路のいずれかとして実装され得る。技法が部分的にソフトウェアにおいて実装されるとき、デバイスは、適切な非一時的コンピュータ可読媒体にソフトウェア用の命令を記憶し、本開示の技法を実行するために1つまたは複数のプロセッサを使用してハードウェアにおいて命令を実行し得る。ビデオエンコーダ200およびビデオデコーダ300の各々は、1つまたは複数のエンコーダまたはデコーダに含まれることがあり、そのいずれもが、それぞれのデバイスにおいて複合エンコーダ/デコーダ(コーデック)の一部として統合されることがある。ビデオエンコーダ200および/またはビデオデコーダ300を含むデバイスは、集積回路、マイクロプロセッサ、および/またはセルラー電話などのワイヤレス通信デバイスを備え得る。
【0036】
ビデオエンコーダ200およびビデオデコーダ300は、高効率ビデオコーディング(HEVC)とも呼ばれるITU-T H.265などのビデオコーディング規格、またはマルチビューおよび/もしくはスケーラブルビデオコーディング拡張などのその拡張に従って動作し得る。代替として、ビデオエンコーダ200およびビデオデコーダ300は、多用途ビデオコーディング(VVC)とも呼ばれる共同探索テストモデル(JEM)またはITU-T H.266などの、他のプロプライエタリ規格または業界規格に従って動作し得る。VVC規格の最近の草案は、Brossらの「Versatile Video Coding (Draft 5)」、ITU-T SG 16 WP 3およびISO/IEC JTC 1/SC 29/WG 11のJoint Video Experts Team(JVET)、第14回会議: ジュネーブ、スイス、2019年3月19～27日、JVET-N1001-v3(以下では「VVC Draft 5」)に記載されている。しかしながら、本開示の技法は、いかなる特定のコーディング規格にも限定されない。
【0037】
一般に、ビデオエンコーダ200およびビデオデコーダ300は、ピクチャのブロックベースのコーディングを実行し得る。「ブロック」という用語は、一般に、処理される(たとえば、符号化および/または復号プロセスにおいて符号化される、復号される、または他の方法で使用される)べきデータを含む構造を指す。たとえば、ブロックは、ルミナンスおよび/またはクロミナンスデータのサンプルの2次元行列を含み得る。一般に、ビデオエンコーダ200およびビデオデコーダ300は、YUV(たとえば、Y、Cb、Cr)フォーマットで表されるビデオデータをコーディングし得る。すなわち、ピクチャのサンプルのための赤、緑、および青(RGB)データをコーディングするのではなく、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分をコーディングし得、クロミナンス成分は、赤色相と青色相の両方のクロミナンス成分を含み得る。いくつかの例では、ビデオエンコーダ200が、符号化に先立って、受信されたRGBフォーマットされたデータをYUV表現にコンバートし、ビデオデコーダ300が、YUV表現をRGBフォーマットにコンバートする。代替として、前処理ユニットおよび後処理ユニット(図示せず)が、これらのコンバージョンを実行し得る。
【0038】
本開示は、一般に、ピクチャのデータを符号化または復号するプロセスを含めるように、ピクチャのコーディング(たとえば、符号化および復号)に言及することがある。同様に、本開示は、ブロックのためのデータを符号化または復号するプロセスを含めるように、ピクチャのブロックのコーディング、たとえば、予測および/または残差コーディングに言及することがある。符号化されたビデオビットストリームは、一般に、コーディング決定(たとえば、コーディングモード)およびブロックへのピクチャの区分を表すシンタックス要素のための一連の値を含む。したがって、ピクチャまたはブロックをコーディングすることへの言及は、一般に、ピクチャまたはブロックを形成するシンタックス要素のためのコーディング値として理解されるべきである。
【0039】
HEVCは、コーディングユニット(CU)、予測ユニット(PU)、および変換ユニット(TU)を含む、様々なブロックを定義する。HEVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、4分木構造に従ってコーディングツリーユニット(CTU)をCUに区分する。すなわち、ビデオコーダは、CTUおよびCUを4個の等しい重複しない正方形に区分し、4分木の各ノードは、0個または4個のいずれかの子ノードを有する。子ノードがないノードは「リーフノード」と呼ばれることがあり、そのようなリーフノードのCUは、1つもしくは複数のPUおよび/または1つもしくは複数のTUを含み得る。ビデオコーダはPUおよびTUをさらに区分し得る。たとえば、HEVCでは、残差4分木(RQT)はTUの区分を表す。HEVCでは、PUはインター予測データを表し、TUは残差データを表す。イントラ予測されるCUは、イントラモード指示などのイントラ予測情報を含む。
【0040】
別の例として、ビデオエンコーダ200およびビデオデコーダ300は、JEMまたはVVCに従って動作するように構成され得る。JEMまたはVVCによれば、(ビデオエンコーダ200などの)ビデオコーダは、ピクチャを複数のコーディングツリーユニット(CTU)に区分する。ビデオエンコーダ200は、4分木2分木(QTBT)構造またはマルチタイプツリー(MTT)構造などのツリー構造に従ってCTUを区分し得る。QTBT構造は、HEVCのCU、PU、およびTUの間の区別などの、複数の区分タイプの概念を排除する。QTBT構造は、2つのレベル、すなわち、4分木区分に従って区分された第1のレベルおよび2分木区分に従って区分された第2のレベルを含む。QTBT構造のルートノードはCTUに対応する。2分木のリーフノードはコーディングユニット(CU)に対応する。
【0041】
MTT区分構造では、ブロックは、4分木(QT)区分、2分木(BT)区分、および1つまたは複数のタイプのトリプルツリー(TT)区分を使用して区分され得る。トリプルツリー区分は、ブロックが3個のサブブロックに分割される区分である。いくつかの例では、トリプルツリー区分は、中心を通って元のブロックを分けることなしに、ブロックを3個のサブブロックに分ける。MTTにおける区分タイプ(たとえば、QT、BT、およびTT)は対称または非対称であり得る。
【0042】
いくつかの例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分およびクロミナンス成分の各々を表すために単一のQTBTまたはMTT構造を使用し得るが、他の例では、ビデオエンコーダ200およびビデオデコーダ300は、ルミナンス成分のための1つのQTBT/MTT構造および両方のクロミナンス成分のための別のQTBT/MTT構造(またはそれぞれのクロミナンス成分のための2つのQTBT/MTT構造)などの、2つ以上のQTBTまたはMTT構造を使用し得る。
【0043】
ビデオエンコーダ200およびビデオデコーダ300は、HEVCごとの4分木区分、QTBT区分、MTT区分、または他の区分構造を使用するように構成され得る。説明のために、本開示の技法の記載はQTBT区分に関して提示される。しかしながら、本開示の技法はまた、4分木区分、または他のタイプの区分も使用するように構成されたビデオコーダに適用され得ることを理解されたい。
【0044】
本開示は、垂直次元および水平次元に換算して(CUまたは他のビデオブロックなどの)ブロックのサンプル次元を指すために、互換的に「N×N」および「NかけるN(N by N)」、たとえば、16×16サンプルまたは16かける16(16 by 16)サンプルを使用し得る。一般に、16×16 CUは、垂直方向に16個のサンプル(y=16)および水平方向に16個のサンプル(x=16)を有する。同様に、N×N CUは、一般に、垂直方向にN個のサンプルおよび水平方向にN個のサンプルを有し、ここで、Nは負ではない整数値を表す。CU中のサンプルは、行および列に配置され得る。さらに、CUは、必ずしも水平方向に垂直方向と同じ数のサンプルを有する必要があるとは限らない。たとえば、CUはN×Mサンプルを備えてもよく、ここで、Mは必ずしもNに等しいとは限らない。
【0045】
ビデオエンコーダ200は、予測および/または残差情報、ならびに他の情報を表すCUのためのビデオデータを符号化する。予測情報は、CUのための予測ブロックを形成するためにCUがどのように予測されることになるかを示す。残差情報は、一般に、符号化に先立つCUのサンプルと予測ブロックのサンプルとの間のサンプルごとの差分を表す。
【0046】
CUを予測するために、ビデオエンコーダ200は、一般に、インター予測またはイントラ予測を通じてCUのための予測ブロックを形成し得る。インター予測は、一般に、以前にコーディングされたピクチャのデータからCUを予測することを指すが、イントラ予測は、一般に、同じピクチャの以前にコーディングされたデータからCUを予測することを指す。インター予測を実行するために、ビデオエンコーダ200は、1つまたは複数の動きベクトルを使用して予測ブロックを生成し得る。ビデオエンコーダ200は、一般に、たとえば、CUと参照ブロックとの間の差分に関してCUと厳密に一致する参照ブロックを識別するために、動き探索を実行し得る。ビデオエンコーダ200は、参照ブロックが現在のCUと厳密に一致するかどうかを決定するために、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)、または他のそのような差分計算を使用して差分メトリックを計算し得る。いくつかの例では、ビデオエンコーダ200は、単方向予測または双方向予測を使用して現在のCUを予測し得る。
【0047】
JEMおよびVVCのいくつかの例は、インター予測モードと見なされ得るアフィン動き補償モードも提供する。アフィン動き補償モードでは、ビデオエンコーダ200は、ズームインもしくはズームアウト、回転、遠近運動、または他の不規則な運動タイプなどの、非並進運動を表す2つ以上の動きベクトルを決定し得る。
【0048】
イントラ予測を実行するために、ビデオエンコーダ200は、イントラ予測モードを選択して予測ブロックを生成し得る。JEMおよびVVCのいくつかの例は、様々な方向モードを含む67個のイントラ予測モード、ならびに平面モードおよびDCモードを提供する。一般に、ビデオエンコーダ200は、そこから現在のブロックのサンプルを予測するための現在のブロック(たとえば、CUのブロック)に対する隣接サンプルを記述するイントラ予測モードを選択する。そのようなサンプルは、一般に、ビデオエンコーダ200がラスタ走査順序で(左から右に、上から下に)CTUおよびCUをコーディングすると仮定すると、現在のブロックと同じピクチャ中の現在のブロックの上方、上方および左側、または左側にあり得る。
【0049】
ビデオエンコーダ200は、現在のブロックのための予測モードを表すデータを符号化する。たとえば、インター予測モードの場合、ビデオエンコーダ200は、様々な利用可能なインター予測モードのうちのどれが使用されるか、ならびに対応するモードについての動き情報を表すデータを符号化し得る。単方向または双方向インター予測の場合、たとえば、ビデオエンコーダ200は、高度動きベクトル予測(AMVP)またはマージモードを使用して動きベクトルを符号化し得る。ビデオエンコーダ200は、アフィン動き補償モードのための動きベクトルを符号化するために類似のモードを使用し得る。
【0050】
ブロックのイントラ予測またはインター予測などの予測に続いて、ビデオエンコーダ200はブロックのための残差データを計算し得る。残差ブロックなどの残差データは、ブロックと、対応する予測モードを使用して形成されたそのブロックのための予測ブロックとの間のサンプルごとの差分を表す。ビデオエンコーダ200は、サンプル領域ではなく変換領域において変換データを生成するために、1つまたは複数の変換を残差ブロックに適用し得る。たとえば、ビデオエンコーダ200は、離散コサイン変換(DCT)、整数変換、ウェーブレット変換、または概念的に類似の変換を残差ビデオデータに適用し得る。加えて、ビデオエンコーダ200は、第1の変換に続いて、モード依存型分離不可能二次変換(MDNSST:mode-dependent non-separable secondary transform)、信号依存変換、カルーネンレーベ変換(KLT:Karhunen-Loeve transform)などの二次変換を適用し得る。ビデオエンコーダ200は、1つまたは複数の変換の適用に続いて、変換係数を生成する。
【0051】
上述のように、変換係数を生成するための任意の変換に続いて、ビデオエンコーダ200は、変換係数の量子化を実行し得る。量子化は、一般に、係数を表すために使用されるデータの量をできる限り低減するために変換係数が量子化され、さらなる圧縮が行われるプロセスを指す。量子化プロセスを実行することによって、ビデオエンコーダ200は、係数の一部または全部に関連付けられたビット深度を低減し得る。たとえば、ビデオエンコーダ200は量子化の間にnビット値をmビット値に丸めてもよく、ここで、nはmよりも大きい。いくつかの例では、量子化を実行するために、ビデオエンコーダ200は、量子化されるべき値のビット単位の右シフトを実行し得る。
【0052】
量子化に続いて、ビデオエンコーダ200は、変換係数を走査し、量子化された変換係数を含む2次元行列から1次元ベクトルを生成し得る。走査は、より高いエネルギー(したがって、より低い周波数)変換係数をベクトルの前方に置き、より低いエネルギー(したがって、より高い周波数)変換係数をベクトルの後方に置くように設計され得る。いくつかの例では、ビデオエンコーダ200は、シリアル化ベクトルを生成し、次いで、ベクトルの量子化された変換係数をエントロピー符号化するために、量子化された変換係数を走査するための事前定義された走査順序を利用し得る。他の例では、ビデオエンコーダ200は、適応走査を実行し得る。量子化された変換係数を走査して1次元ベクトルを形成した後、ビデオエンコーダ200は、たとえば、コンテキスト適応型バイナリ算術コーディング(CABAC)に従って、1次元ベクトルをエントロピー符号化し得る。ビデオエンコーダ200はまた、ビデオデータを復号する際にビデオデコーダ300によって使用するための符号化されたビデオデータに関連付けられたメタデータを記述するシンタックス要素のための値をエントロピー符号化し得る。
【0053】
CABACを実行するために、ビデオエンコーダ200は、送信されるべきシンボルにコンテキストモデル内のコンテキストを割り当て得る。コンテキストは、たとえば、シンボルの隣接値がゼロ値化されているか否かに関係し得る。確率決定は、シンボルに割り当てられたコンテキストに基づき得る。
【0054】
ビデオエンコーダ200は、たとえば、ピクチャヘッダ、ブロックヘッダ、スライスヘッダ、または、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、もしくはビデオパラメータセット(VPS)などの他のシンタックスデータにおいて、ビデオデコーダ300へのブロックベースのシンタックスデータ、ピクチャベースのシンタックスデータ、およびシーケンスベースのシンタックスデータなどのシンタックスデータをさらに生成し得る。ビデオデコーダ300は、そのようなシンタックスデータを同様に復号して、対応するビデオデータをどのように復号するかを決定し得る。
【0055】
このようにして、ビデオエンコーダ200は、符号化されたビデオデータ、たとえば、ブロック(たとえば、CU)へのピクチャの区分ならびにブロックについての予測および/または残差情報を記述するシンタックス要素を含むビットストリームを生成し得る。最終的に、ビデオデコーダ300は、ビットストリームを受信し、符号化されたビデオデータを復号し得る。
【0056】
一般に、ビデオデコーダ300は、ビデオエンコーダ200によって実行されるプロセスとは逆のプロセスを実行して、ビットストリームの符号化されたビデオデータを復号する。たとえば、ビデオデコーダ300は、ビデオエンコーダ200のCABAC符号化プロセスとは逆であるが実質的に同様の方法で、CABACを使用してビットストリームのシンタックス要素のための値を復号し得る。シンタックス要素は、CTUへのピクチャの区分情報、およびQTBT構造などの対応する区分構造に従った各CTUの区分を定義して、CTUのCUを定義し得る。シンタックス要素は、ビデオデータのブロック(たとえば、CU)についての予測および残差情報をさらに定義し得る。
【0057】
残差情報は、たとえば、量子化された変換係数によって表され得る。ビデオデコーダ300は、ブロックのための残差ブロックを再生するために、ブロックの量子化された変換係数を逆量子化し、逆変換し得る。ビデオデコーダ300は、ブロックのための予測ブロックを形成するために、シグナリングされた予測モード(イントラ予測またはインター予測)および関連する予測情報(たとえば、インター予測についての動き情報)を使用する。次いで、ビデオデコーダ300は、元のブロックを再生するために、予測ブロックおよび残差ブロックを(サンプルごとに)合成し得る。ビデオデコーダ300は、ブロックの境界に沿って視覚的アーティファクトを低減するためのデブロッキングプロセスを実行するなどの、追加の処理を実行し得る。
【0058】
本開示の技法によれば、ビデオエンコーダ200およびビデオデコーダ300は、IDRピクチャが属するレイヤのピクチャがIDRピクチャであるとの決定に応答して、そのレイヤのすべての復号されたピクチャをDPBから削除するように構成され得る。レイヤのピクチャがIDRピクチャであるとの決定に応答して、ビデオエンコーダ200およびビデオデコーダ300はまた、IDRピクチャのレイヤよりも低いレイヤIDを有するすべての復号されたピクチャを復号されたピクチャバッファに残すように構成され得る。このようにしてビデオエンコーダ200およびビデオデコーダ300を構成することによって、ビデオエンコーダ200およびビデオデコーダ300は、それらの下位レイヤがIDRピクチャを含まないときに、下位レイヤIDを有する復号されたピクチャに基づいて将来のピクチャを復号する能力を保つことができる。このようにしてDPBを管理することによって、ビデオエンコーダ200およびビデオデコーダ300は、必要な参照ピクチャが利用不可能であるせいで復号不可能なビットストリームをもたらすコーディングシナリオを防止することができる。
【0059】
本開示は、一般に、シンタックス要素などの特定の情報を「シグナリングすること」に言及する。「シグナリングすること」という用語は、一般に、シンタックス要素および/または符号化されたビデオデータを復号するために使用される他のデータのための値の通信を指すことがある。すなわち、ビデオエンコーダ200は、ビットストリーム中でシンタックス要素のための値をシグナリングし得る。一般に、シグナリングすることは、ビットストリーム中で値を生成することを指す。上述のように、ソースデバイス102は、実質的にリアルタイムで、または、宛先デバイス116によって後で取り出すためにシンタックス要素を記憶デバイス112に記憶するときに行われ得るなど、リアルタイムではなく、ビットストリームを宛先デバイス116にトランスポートし得る。
【0060】
図2Aおよび図2Bは、例示的な4分木2分木(QTBT)構造130および対応するコーディングツリーユニット(CTU)132を示す概念図である。実線は4分木分割を表し、点線は2分木分割を示す。2分木の各分割(すなわち、非リーフ)ノードでは、どの分割タイプ(すなわち、水平または垂直)が使用されるかを示すために1つのフラグがシグナリングされ、ここで、この例では、0が水平分割を示し、1が垂直分割を示す。4分木分割の場合、4分木ノードはブロックをサイズが等しい4個のサブブロックに水平および垂直に分割するので、分割タイプを示す必要はない。したがって、ビデオエンコーダ200は、QTBT構造130の領域木レベル(すなわち、実線)のための(分割情報などの)シンタックス要素およびQTBT構造130の予測木レベル(すなわち、破線)のための(分割情報などの)シンタックス要素を符号化し得、ビデオデコーダ300は、それらのシンタックス要素を復号し得る。ビデオエンコーダ200は、QTBT構造130の末端リーフノードによって表されるCUのための、予測データおよび変換データなどのビデオデータを符号化し得、ビデオデコーダ300は、そのビデオデータを復号し得る。
【0061】
一般に、図2BのCTU132は、第1のレベルおよび第2のレベルでQTBT構造130のノードに対応するブロックのサイズを定義するパラメータに関連付けられ得る。これらのパラメータは、CTUサイズ(サンプル中のCTU132のサイズを表す)、最小4分木サイズ(MinQTSize、最小の許容される4分木リーフノードサイズを表す)、最大2分木サイズ(MaxBTSize、最大の許容される2分木ルートノードサイズを表す)、最大2分木深度(MaxBTDepth、最大の許容される2分木深度を表す)、および最小2分木サイズ(MinBTSize、最小の許容される2分木リーフノードサイズを表す)を含み得る。
【0062】
CTUに対応するQTBT構造のルートノードは、QTBT構造の第1のレベルで4個の子ノードを有することがあり、子ノードの各々は、4分木区分に従って区分されることがある。すなわち、第1のレベルのノードは、(子ノードを有しない)リーフノードであるか、4個の子ノードを有するかのいずれかである。QTBT構造130の例は、分岐のための実線を有する親ノードと子ノードとを含むようなノードを表す。第1のレベルのノードが最大の許容される2分木ルートノードサイズ(MaxBTSize)よりも大きくない場合、これらのノードはそれぞれの2分木によってさらに区分され得る。1つのノードの2分木分割は、分割の結果として生じるノードが最小の許容される2分木リーフノードサイズ(MinBTSize)または最大の許容される2分木深度(MaxBTDepth)に達するまで繰り返され得る。QTBT構造130の例は、分岐のための破線を有するようなノードを表す。2分木リーフノードはコーディングユニット(CU)と呼ばれ、コーディングユニット(CU)は、これ以上の区分なしで、予測(たとえば、イントラピクチャ予測またはインターピクチャ予測)および変換のために使用される。上記で説明したように、CUは「ビデオブロック」または「ブロック」と呼ばれることもある。
【0063】
QTBT区分構造の一例では、CTUサイズは128×128(ルーマサンプルおよび2つの対応する64×64クロマサンプル)として設定され、MinQTSizeは16×16として設定され、MaxBTSizeは64×64として設定され、(幅と高さの両方についての)MinBTSizeは4として設定され、MaxBTDepthは4として設定される。4分木リーフノードを生成するために、4分木区分がまずCTUに適用される。4分木リーフノードは、16×16(すなわち、MinQTSize)から128×128(すなわち、CTUサイズ)までのサイズを有し得る。リーフ4分木ノードは、128×128である場合、サイズがMaxBTSize(すなわち、この例では64×64)を超えるので、2分木によってさらに分割されない。それ以外の場合、リーフ4分木ノードは2分木によってさらに区分される。したがって、4分木リーフノードは2分木のルートノードでもあり、0としての2分木深度を有する。2分木深度がMaxBTDepth(この例では4)に達するとき、さらなる分割は許可されない。2分木ノードがMinBTSize(この例では4)に等しい幅を有するとき、それはさらなる水平分割が許可されないことを示唆する。同様に、MinBTSizeに等しい高さを有する2分木ノードは、その2分木ノードに対してさらなる垂直分割が許可されないことを示唆する。上述のように、2分木のリーフノードはCUと呼ばれ、さらなる区分なしで予測および変換に従ってさらに処理される。
【0064】
VVCには、検討中の参照ピクチャリサンプリング(RPR)ツールがある。このツールは、ビデオコーダが現在のピクチャサイズとは異なるピクチャサイズを有する参照ピクチャを使用することを可能にする。そのような場合、ピクチャリサンプリングプロセスは、たとえば、HEVCにおいて実装されるような空間スケーラビリティと同様の、現在のピクチャサイズと一致するピクチャのアップサンプリングされたまたはダウンサンプリングされたバージョンを提供するために呼び出され得る。本開示は、RPRツールとともにVVCにおける空間スケーラビリティに対するサポートを追加する、別々にまたは互いとともに使用され得るいくつかの技法について説明する。
【0065】
本開示は、たとえば、ストリーミングビデオデータを配信するためにミドルボックスによって使用され得る、VPSシグナリングに関連する技法について説明する。この文脈では、ミドルボックスは、一般的に、ビデオルータ、ビットストリームスプライシングおよび抽出デバイス、ならびに他のそのようなデバイスを指す。
【0066】
マルチレイヤビデオデータは、参照ピクチャリスト、すなわち、PスライスおよびBスライスをインター予測するために使用され得る参照ピクチャのリストから導出され得る、異なるタイプのレイヤ依存性を含むことができる。通常、ビデオエンコーダ200およびビデオデコーダ300は、非IDRピクチャのスライスごとに生成される参照ピクチャリスト0および参照ピクチャリスト1という2つの参照ピクチャリストを維持し得る。しかしながら、レイヤ間の依存性は実質的な復号動作を実行することなしにミドルボックスによって決定され得ないので、参照ピクチャリストは、サブビットストリーム抽出を実行するときに、すなわち、ある特定の1つまたは複数のレイヤが別個のビットストリームから抽出されるときにミドルボックスが使用するのに好都合な機構ではない。したがって、ミドルボックスは、依存性が異なるピクチャにわたって一貫していることを確認することができない。たとえば、ミドルボックスは、レイヤIDを検査することによって必要とされないNALユニットを単に破棄することができない。
【0067】
本開示は、VPSなどの高レベルのパラメータセット(PS)においてレイヤ間の依存性を示すための技法について説明する。ミドルボックスは、どのレイヤが単独で復号され得るかと、どのレイヤが他のレイヤに依存するかとを決定するために、これらの指示を使用することができる。ビデオエンコーダ200およびビデオデコーダ300は、これらの指示に従って参照ピクチャリストを維持し、他のレイヤを予測に使用しないように構成され得る。そのような技法を用いれば、ミドルボックスは、必要とされないNALユニットのレイヤIDを検査することによってそれらのNALユニットを単に破棄することができる。
【0068】
参照ピクチャ構造は、どのピクチャがDPBに保持されるべきかと、メモリを解放するためにどのピクチャがDPBから削除またはバンプされ得るかとを識別するためのピクチャマーキングに使用される構造である。参照ピクチャ構造は、PSにおいて示されている依存レイヤとは異なる他のレイヤを考慮し得る。他のレイヤからのピクチャがDPBにとどまり、バンプされないことが必要とされ得る。
【0069】
たとえば、単独でコーディングされるlayer0、ならびに両方ともlayer0に依存するlayer1およびlayer2という、3つのレイヤがある(すなわち、layer0ピクチャは、layer1ピクチャおよびlayer2ピクチャの予測に使用され得る)と仮定する。この例では、ミドルボックスまたはビデオデコーダは、ビットストリームからlayer0を抽出するか、ビットストリームからlayer0およびlayer1を抽出するか、ビットストリームからlayer0およびlayer2を抽出することがある。したがって、PSは、layer0がレイヤ依存性をもたず、layer1がlayer0に依存し、layer2がlayer0に依存することを示し得る。レイヤの各ピクチャにおいて、予測に必要とされるすべてのレイヤからのすべての参照ピクチャは、参照ピクチャ構造に含まれ得る。たとえば、layer2は、layer0参照ピクチャおよびlayer1参照ピクチャを有し得る。layer1ピクチャはlayer2予測に必要とされないことがあるが、それらのピクチャが保持されるべきかまたはDPBからバンプされるべきかを決定するためのマーキングプロセスに含まれ得る。しかしながら、この例ではlayer2はlayer1に依存しないので、layer2からのピクチャのための参照ピクチャリストはlayer1ピクチャをもたないことがある。
【0070】
本開示は、復号されたピクチャバッファから参照ピクチャを削除するための「バンププロセス」について説明する。この文脈では、バンプすることまたは削除することは、参照ピクチャがもはや参照のために利用可能ではないことと、その参照ピクチャを記憶するために使用されるメモリロケーションが他のデータを記憶するために利用可能であることとを意味するにすぎない。バンプするまたは削除するという用語は、メモリから参照ピクチャを消去または削除するための任意の種類のアクティブなステップを必要とするものではなく、そのようなステップを暗示するものでもない。
【0071】
前のセクションにおいて述べたように、レイヤからのピクチャが復号されたとき、復号されたピクチャは、他のレイヤのピクチャをDPBからバンプし得る。しかしながら、本開示の技法によれば、ビデオエンコーダ200およびビデオデコーダ300は、現在のピクチャと同じレイヤまたは上位レイヤのピクチャのみがバンプされるという制約を実施するように構成され得る。上位レイヤが下位レイヤピクチャを予測に使用するとき、ピクチャがバンプされ得る。たとえば、ビデオエンコーダ200およびビデオデコーダ300は、layer0がlayer1よりも下位のレイヤであり、layer1がlayer2よりも下位のレイヤであると仮定すると、layer1ピクチャはlayer0のピクチャをDPBからバンプすることができないが、layer1ピクチャはlayer2ピクチャをバンプすることができるように構成され得る。この例では、上位レイヤは下位レイヤから独立してコーディングされ得るので、レイヤにわたる依存性が考慮される。そのような例では、下位レイヤピクチャは上位レイヤピクチャをバンプまたはマークしない。
【0072】
本開示の技法によれば、レイヤがIDRピクチャを有するとき、そのレイヤおよび上位レイヤのすべてのピクチャはDPBから削除されるが、下位レイヤはIDRではないことがあり、そのレイヤ中のピクチャは復号を継続するために必要とされることがあるので、下位レイヤピクチャは保持され得る。この制約がなければ、ビデオデコーダは、下位レイヤが復号され得ないように、すべてのピクチャをDPBから削除し得る。この制約を実施するために、ビデオエンコーダ200およびビデオデコーダ300は、第1のレイヤについてのレイヤ識別値と、第2のレイヤについてのレイヤ識別値であって、第1のレイヤについてのレイヤ識別値よりも高い、第2のレイヤについてのレイヤ識別値とを決定し、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャをDPBに記憶するように構成され得る。IDRピクチャが第2のレイヤに属するとの決定に応答して、ビデオエンコーダ200およびビデオデコーダ300は、第1のレイヤのすべての復号されたピクチャをDPBに残しながら、第2のレイヤのすべての復号されたピクチャをDPBから削除するように構成され得る。
【0073】
本開示はまた、アクセスユニットに対して実施される制約の変更形態について説明する。マルチレイヤストリームにおいて、図3および図4に示すように、2つのケースがあり得る。図3では、異なる表現のピクチャは、たとえば、スケーラブル高効率コーディング(SHVC)(H.265/HEVC)規格の場合と同じPOC値を有し得る。図3の例では、アクセスユニット150のlayer0ピクチャとlayer1ピクチャの両方はPOCn-1のPOC値を有し、アクセスユニット152のlayer0ピクチャとlayer1ピクチャの両方はPOCnのPOC値を有し、アクセスユニット154のlayer0ピクチャとlayer1ピクチャの両方はPOCn+1のPOC値を有する。すなわち、同じアクセスユニットのすべてのピクチャは同じPOC値を有する。そのような規約はAUの定義を変更するものではないが、一般的でありかつ普及しているシングルレイヤデコーダに過度の処理負担を課すことがある。
【0074】
代替として、POCカウントは、図4に示すように、異なるレイヤにわたって連続的であり得る。図4では、たとえば、アクセスユニット160は、POCn-1のPOC値を有するlayer0ピクチャと、POCnのPOC値を有するlayer1ピクチャとを含む。アクセスユニット162は、POCn+1のPOC値を有するlayer0ピクチャと、POCn+2のPOC値を有するlayer1ピクチャとを含む。この場合、すべてのPOCが一意であるので、ビデオデコーダが同じPOC番号のピクチャを処理する必要がないが、階層化されたストリームを反映するためにAUの定義が変更される必要がある。
【0075】
本開示の1つの例示的な技法では、AUの定義はレイヤID検査を含む。たとえば、新しいAUは、前のピクチャのレイヤIDよりも低いかそのレイヤIDと同じであるレイヤIDを有するピクチャと遭遇したときに開始する。この定義は、現在VVC Draft 5において定義されている、POC値のみが検査されるというAUの定義に反する。
【0076】
この例を実施するために、ビデオエンコーダ200およびビデオデコーダ300は、レイヤID番号付けが増加順序であることを必要とする制約を実施するように構成され得る。
【0077】
VVC Draft 5の用語を使用して、AUの定義は以下に変更され得る。
firstVclNalUnitInAuを、コーディングされたピクチャの最初のVCL NALユニットであり、かつ、その導出されたPicOrderCntValが前のコーディングされたピクチャのPicOrderCntValとは異なり、そのnuh_layer_idが前のコーディングされたピクチャのnuh_layer_idよりも小さいかそれに等しい、VCL NALユニットとする。firstVclNalUnitInAuに先行し、もしあれば、firstVclNalUnitInAuに先行する最後のVCL NALユニットの後に続く、以下のNALユニットのうちのいずれかの最初のものが、新しいアクセスユニットの開始を指定する。
- アクセスユニットデリミタNALユニット(存在するとき)、
- DPS NALユニット(存在するとき)、
- VPS NALユニット(存在するとき)、
- SPS NALユニット(存在するとき)、
- PPS NALユニット(存在するとき)、
- APS NALユニット(存在するとき)、
- Prefix SEI NALユニット(存在するとき)、
- RSV_NVCL_5、RSV_NVCL_6、RSV_NVCL_21、またはRSV_NVCL_22に等しいNalUnitTypeを有するNALユニット(存在するとき)、
- UNSPEC28..UNSPEC29の範囲内のNalUnitTypeを有するNALユニット(存在するとき)
firstVclNalUnitInAuに先行し、もしあれば、firstVclNalUnitInAuに先行する最後のVCL NALユニットの後に続く、上記のNALユニットのいずれもないとき、firstVclNalUnitInAuは、<<nuh_layer_idが前のコーディングされたピクチャのnuh_layer_idよりも小さいかそれに等しい>>場合、新しいアクセスユニットを開始する。
firstVclNalUnitInAuを、コーディングされたピクチャの最初のVCL NALユニットであり、かつ、その導出されたPicOrderCntValが前のコーディングされたピクチャのPicOrderCntValとは異なり、そのnuh_layer_idが前のコーディングされたピクチャのnuh_layer_idよりも小さいかそれに等しい、VCL NALユニットとする。firstVclNalUnitInAuに先行し、もしあれば、firstVclNalUnitInAuに先行する最後のVCL NALユニットの後に続く、以下のNALユニットのうちのいずれかの最初のものが、新しいアクセスユニットの開始を指定する。
- アクセスユニットデリミタNALユニット(存在するとき)、
- DPS NALユニット(存在するとき)、
- VPS NALユニット(存在するとき)、
- SPS NALユニット(存在するとき)、
- PPS NALユニット(存在するとき)、
- APS NALユニット(存在するとき)、
- Prefix SEI NALユニット(存在するとき)、
- RSV_NVCL_5、RSV_NVCL_6、RSV_NVCL_21、またはRSV_NVCL_22に等しいNalUnitTypeを有するNALユニット(存在するとき)、
- UNSPEC28..UNSPEC29の範囲内のNalUnitTypeを有するNALユニット(存在するとき)
firstVclNalUnitInAuに先行し、もしあれば、firstVclNalUnitInAuに先行する最後のVCL NALユニットの後に続く、上記のNALユニットのいずれもないとき、firstVclNalUnitInAuは、<<nuh_layer_idが前のコーディングされたピクチャのnuh_layer_idよりも小さいかそれに等しい>>場合、新しいアクセスユニットを開始する。
【0078】
上記の記号<<および>>内のテキストは、AU決定のためのレイヤID検査の例である。AU決定は、大まかには同じAUのピクチャは異なる表現(分解能)の中であっても同じコンテンツを有すると見なされ得るので、どのピクチャが出力または表示され得るかを知るために特に必要とされる。
【0079】
上記で説明したタイプのAUを処理するために、ビデオエンコーダ200およびビデオデコーダ300は、(1)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのレイヤ識別情報よりも小さいレイヤ識別情報を有する、および(2)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのPOC値とは異なるPOC値を有するとの決定に応答して、第2のアクセスユニットのVCL NALユニットが第2のアクセスユニットの開始に対応すると決定するように構成され得る。第2のアクセスユニットのVCL NALユニットと直前に先行するピクチャの最後のVCL NALユニットとの間で受信されたNALユニットは、アクセスユニットデリミタNALユニットである。
【0080】
ビデオデコーダ300は、非完全AUを処理するように構成され得る。図5の例に示すように、すべてのレイヤがアクセスユニット中に存在するわけではないコーディングシナリオがあり得る。このシナリオでは、layer1ピクチャはlayer0ピクチャよりも上位のレイヤIDを有するので、AUの上記の定義を適用することはピクチャ間のAU分割をもたらさないことがある。ビデオデコーダは、そのようなコーディングシナリオを上記の定義のもとで1つのAUとして扱うことがあり、このことは、それらのピクチャが同じコンテンツを表さないことがあるので望ましくないことがある。
【0081】
この潜在的な問題を解決するために、本開示では以下の潜在的な解決策を記載する。ビデオエンコーダ200は、layer0ピクチャとlayer1ピクチャとの間にAUデリミタを挿入して、そのインデントした(indented)AUデリミタを示すように構成され得る。AUデリミタは、どのNALユニットが前のAUに属し、どのNALユニットが次のAUに属するかを示す。したがって、ビデオデコーダ300は、同じAUに属するNALユニットを識別するためにAUデリミタを処理し得る。
【0082】
ビデオエンコーダ200は、AU中の他のレイヤピクチャと同じようにPOCの番号付けを続けるように構成され得る、すなわち、各AUはいくつかのレイヤのPOCを有することができ、AU定義は異なるPOC検査を含むことができる。すなわち、新しいAUの開始は、レイヤの数に等しくてもよいしきい値に等しいかまたはそれを超える、2つのピクチャの間のPOC差分によってシグナリングされ得る。言い換えれば、ビデオエンコーダ200は、POC値をnum_layers*POC+layer_idとして割り当てるように構成され得る。
【0083】
ビデオエンコーダ200は、layer0およびlayer1の中のピクチャに異なる時間IDを割り当てるように構成され得る。時間IDの検査は、AU定義に追加され得る。たとえば、新しいAUは、前のNALユニットの時間IDとは異なる時間IDを有するNALユニットにおいて開始する。上記の例では、AUデリミタを有するために、ビデオエンコーダ200は、layer0中のピクチャに時間ID 0を割り当て、layer1ピクチャに時間ID 1を割り当て得る。次いで、ビデオデコーダ300は、layer1ピクチャにおいて新しいAUの開始を検出することができる。
【0084】
本開示はまた、出力ピクチャに関する技法について説明する。最初に、すべてのレイヤの中のピクチャが出力のためにマークされ得る。したがって、たとえば、ミドルボックスがlayer0を抽出した場合、ミドルボックスはlayer0のすべてのピクチャを出力する。しかしながら、たとえば、2つ以上のレイヤがビットストリーム中に存在する場合、layer0ピクチャおよびlayer1ピクチャが出力のためにすべてマークされ得るが、同じAU中のピクチャが同じコンテンツを有することがあり、その結果として、1つのピクチャのみがAUから出力される必要がある。本開示の技法によれば、ミドルボックスは、AU中の最も高いレイヤIDを有するピクチャのみを出力するように構成され得る。別の例では、どのレイヤが出力されるか、またはすべてのレイヤが出力されるかどうかを示すために、任意のパラメータセット、スライスヘッダまたは他の場所においてフラグがシグナリングされ得る。AU中の2つ以上のピクチャを出力することは、オーバーレイまたはマルチビューのために有用であり得る。
【0085】
図6は、本開示の技法を実行し得る例示的なビデオエンコーダ200を示すブロック図である。図6は説明のために提供され、本開示において広く例示および説明するような技法の限定と見なされるべきではない。説明のために、本開示は、H.265(HEVC)ビデオコーディング規格および開発中のH.266(VVC)ビデオコーディング規格などのビデオコーディング規格の文脈でビデオエンコーダ200について説明する。しかしながら、本開示の技法はこれらのビデオコーディング規格に限定されず、概してビデオ符号化および復号に適用可能である。
【0086】
図6の例では、ビデオエンコーダ200は、ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、復号されたピクチャバッファ(DPB)218、およびエントロピー符号化ユニット220を含む。ビデオデータメモリ230、モード選択ユニット202、残差生成ユニット204、変換処理ユニット206、量子化ユニット208、逆量子化ユニット210、逆変換処理ユニット212、再構成ユニット214、フィルタユニット216、DPB218、およびエントロピー符号化ユニット220のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。さらに、ビデオエンコーダ200は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
【0087】
ビデオデータメモリ230は、ビデオエンコーダ200の構成要素によって符号化されるべきビデオデータを記憶し得る。ビデオエンコーダ200は、たとえば、ビデオソース104(図1)から、ビデオデータメモリ230に記憶されたビデオデータを受信し得る。DPB218は、ビデオエンコーダ200による後続のビデオデータの予測において使用するための参照ビデオデータを記憶する参照ピクチャメモリとして働き得る。ビデオデータメモリ230およびDPB218は、同期DRAM(SDRAM)を含むダイナミックランダムアクセスメモリ(DRAM)、磁気抵抗RAM(MRAM)、抵抗RAM(RRAM)、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。ビデオデータメモリ230およびDPB218は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、ビデオデータメモリ230は、図示のように、ビデオエンコーダ200の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
【0088】
本開示では、ビデオデータメモリ230への言及は、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の内部のメモリ、または、そのようなものとして特に説明されていない限り、ビデオエンコーダ200の外部のメモリに限定されるものとして解釈されるべきではない。むしろ、ビデオデータメモリ230への言及は、符号化するためにビデオエンコーダ200が受信するビデオデータ(たとえば、符号化されるべき現在のブロックのためのビデオデータ)を記憶する参照メモリとして理解されるべきである。図1のメモリ106はまた、ビデオエンコーダ200の様々なユニットからの出力の一時的な記憶を提供し得る。
【0089】
図6の様々なユニットは、ビデオエンコーダ200によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、ユニットのうちの1つまたは複数は別個の回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、1つまたは複数のユニットは集積回路であってもよい。
【0090】
ビデオエンコーダ200は、算術論理ユニット(ALU)、初等関数ユニット(EFU)、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオエンコーダ200の動作がプログラマブル回路によって実行されるソフトウェアを使用して実行される例では、メモリ106(図1)が、ビデオエンコーダ200が受信および実行するソフトウェアのオブジェクトコードを記憶してもよく、またはビデオエンコーダ200内の別のメモリ(図示せず)が、そのような命令を記憶してもよい。
【0091】
ビデオデータメモリ230は、受信されたビデオデータを記憶するように構成される。ビデオエンコーダ200は、ビデオデータメモリ230からビデオデータのピクチャを取り出し、ビデオデータを残差生成ユニット204およびモード選択ユニット202に提供し得る。ビデオデータメモリ230中のビデオデータは、符号化されるべき生のビデオデータであり得る。
【0092】
モード選択ユニット202は、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226を含む。モード選択ユニット202は、他の予測モードに従ってビデオ予測を実行するための追加の機能ユニットを含み得る。例として、モード選択ユニット202は、パレットコーディングユニット、(動き推定ユニット222および/または動き補償ユニット224の一部であり得る)イントラブロックコピーコーディングユニット、アフィンコーディングユニット、線形モデル(LM)コーディングユニットなどを含み得る。
【0093】
モード選択ユニット202は、一般に、符号化パラメータの組合せおよびそのような組合せに対する結果として生じるレートひずみ値をテストするために複数の符号化パスを協調させる。符号化パラメータは、CUへのCTUの区分、CUのための予測モード、CUの残差データのための変換タイプ、CUの残差データのための量子化パラメータなどを含み得る。モード選択ユニット202は、その他のテストされた組合せよりも良いレートひずみ値を有する符号化パラメータの組合せを最終的に選択し得る。
【0094】
ビデオエンコーダ200は、ビデオデータメモリ230から取り出されたピクチャを一連のCTUに区分し、スライス内に1つまたは複数のCTUをカプセル化し得る。モード選択ユニット202は、上記で説明したHEVCのQTBT構造または4分木構造などのツリー構造に従ってピクチャのCTUを区分し得る。上記で説明したように、ビデオエンコーダ200は、ツリー構造に従ってCTUを区分することから1つまたは複数のCUを形成し得る。そのようなCUは、一般に、「ビデオブロック」または「ブロック」と呼ばれることもある。
【0095】
一般に、モード選択ユニット202はまた、現在のブロック(たとえば、現在のCU、またはHEVCでは、PUおよびTUの重複する部分)のための予測ブロックを生成するために、その構成要素(たとえば、動き推定ユニット222、動き補償ユニット224、およびイントラ予測ユニット226)を制御する。現在のブロックのインター予測の場合、動き推定ユニット222は、1つまたは複数の参照ピクチャ(たとえば、DPB218に記憶された1つまたは複数の以前にコーディングされたピクチャ)中の1つまたは複数の厳密に一致する参照ブロックを識別するために動き探索を実行し得る。具体的には、動き推定ユニット222は、たとえば、絶対差分和(SAD)、2乗差分和(SSD)、平均絶対差(MAD)、平均2乗差(MSD)などに従って、潜在的な参照ブロックが現在のブロックにどのくらい類似しているかを表す値を計算し得る。動き推定ユニット222は、一般に、現在のブロックと考慮されている参照ブロックとの間のサンプルごとの差分を使用してこれらの計算を実行し得る。動き推定ユニット222は、現在のブロックに最も厳密に一致する参照ブロックを示す、これらの計算の結果として生じる最も低い値を有する参照ブロックを識別し得る。
【0096】
動き推定ユニット222は、現在のピクチャ中の現在のブロックの位置に対する参照ピクチャ中の参照ブロックの位置を定義する1つまたは複数の動きベクトル(MV)を形成し得る。次いで、動き推定ユニット222は動きベクトルを動き補償ユニット224に提供し得る。たとえば、単方向インター予測の場合、動き推定ユニット222は単一の動きベクトルを提供し得るが、双方向インター予測の場合、動き推定ユニット222は2つの動きベクトルを提供し得る。次いで、動き補償ユニット224は、動きベクトルを使用して予測ブロックを生成し得る。たとえば、動き補償ユニット224は、動きベクトルを使用して参照ブロックのデータを取り出し得る。別の例として、動きベクトルがフラクショナルサンプル精度を有する場合、動き補償ユニット224は、1つまたは複数の補間フィルタに従って予測ブロックのための値を補間し得る。さらに、双方向インター予測の場合、動き補償ユニット224は、それぞれの動きベクトルによって識別された2つの参照ブロックのためのデータを取り出し、たとえば、サンプルごとの平均化または重み付けされた平均化によって、取り出されたデータを合成し得る。
【0097】
別の例として、イントラ予測またはイントラ予測コーディングの場合、イントラ予測ユニット226は、現在のブロックに隣接するサンプルから予測ブロックを生成し得る。たとえば、方向モードの場合、イントラ予測ユニット226は、一般に、隣接サンプルの値を数学的に合成し、これらの計算された値を現在のブロックにわたる定義された方向にポピュレートして、予測ブロックを生成し得る。別の例として、DCモードの場合、イントラ予測ユニット226は、現在のブロックに対する隣接サンプルの平均を計算し、予測ブロックのサンプルごとにこの結果として生じる平均を含めるべき予測ブロックを生成し得る。
【0098】
モード選択ユニット202は、予測ブロックを残差生成ユニット204に提供する。残差生成ユニット204は、ビデオデータメモリ230から現在のブロックの生の符号化されていないバージョンを受信し、モード選択ユニット202から予測ブロックを受信する。残差生成ユニット204は、現在のブロックと予測ブロックとの間のサンプルごとの差分を計算する。結果として生じるサンプルごとの差分は、現在のブロックのための残差ブロックを定義する。いくつかの例では、残差生成ユニット204はまた、残差差分パルスコード変調(RDPCM)を使用して残差ブロックを生成するために、残差ブロック中のサンプル値の間の差分を決定し得る。いくつかの例では、残差生成ユニット204は、バイナリ減算を実行する1つまたは複数の減算器回路を使用して形成され得る。
【0099】
モード選択ユニット202がCUをPUに区分する例では、各PUはルーマ予測ユニットおよび対応するクロマ予測ユニットに関連付けられ得る。ビデオエンコーダ200およびビデオデコーダ300は、様々なサイズを有するPUをサポートし得る。上記で示したように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがあり、PUのサイズは、PUのルーマ予測ユニットのサイズを指すことがある。特定のCUのサイズが2N×2Nであると仮定すると、ビデオエンコーダ200は、イントラ予測に対して2N×2NまたはN×NのPUサイズ、およびインター予測に対して2N×2N、2N×N、N×2N、N×N、または類似の、対称のPUサイズをサポートし得る。ビデオエンコーダ200およびビデオデコーダ300はまた、インター予測に対して2N×nU、2N×nD、nL×2N、およびnR×2NのPUサイズのための非対称区分をサポートし得る。
【0100】
モード選択ユニットがCUをPUにさらに区分しない例では、各CUはルーマコーディングブロックおよび対応するクロマコーディングブロックに関連付けられ得る。上記のように、CUのサイズは、CUのルーマコーディングブロックのサイズを指すことがある。ビデオエンコーダ200およびビデオデコーダ300は、2N×2N、2N×N、またはN×2NのCUサイズをサポートし得る。
【0101】
数例として、イントラブロックコピーモードコーディング、アフィンモードコーディング、および線形モデル(LM)モードコーディングなどの他のビデオコーディング技法の場合、モード選択ユニット202は、コーディング技法に関連付けられたそれぞれのユニットを介して、符号化されている現在のブロックのための予測ブロックを生成する。パレットモードコーディングなどのいくつかの例では、モード選択ユニット202は予測ブロックを生成しないことがあり、その代わりに、選択されたパレットに基づいてブロックを再構成する方法を示すシンタックス要素を生成することがある。そのようなモードでは、モード選択ユニット202は、符号化されるべきこれらのシンタックス要素をエントロピー符号化ユニット220に提供し得る。
【0102】
上記で説明したように、残差生成ユニット204は、現在のブロックおよび対応する予測ブロックのためのビデオデータを受信する。次いで、残差生成ユニット204は現在のブロックのための残差ブロックを生成する。残差ブロックを生成するために、残差生成ユニット204は予測ブロックと現在のブロックとの間のサンプルごとの差分を計算する。
【0103】
変換処理ユニット206は、変換係数のブロック(本明細書では「変換係数ブロック」と呼ばれる)を生成するために、1つまたは複数の変換を残差ブロックに適用する。変換処理ユニット206は、変換係数ブロックを形成するために、様々な変換を残差ブロックに適用し得る。たとえば、変換処理ユニット206は、離散コサイン変換(DCT)、方向変換、カルーネンレーベ変換(KLT)、または概念的に類似の変換を残差ブロックに適用し得る。いくつかの例では、変換処理ユニット206は、複数の変換、たとえば、回転変換などの、一次変換および二次変換を残差ブロックに対して実行し得る。いくつかの例では、変換処理ユニット206は、変換を残差ブロックに適用しない。
【0104】
量子化ユニット208は、変換係数ブロック中で変換係数を量子化して、量子化された変換係数ブロックを生成し得る。量子化ユニット208は、現在のブロックに関連付けられた量子化パラメータ(QP)値に従って変換係数ブロックの変換係数を量子化し得る。ビデオエンコーダ200は(たとえば、モード選択ユニット202を介して)、CUに関連付けられたQP値を調整することによって、現在のブロックに関連付けられた変換係数ブロックに適用される量子化の程度を調整し得る。量子化は情報の損失をもたらすことがあり、したがって、量子化された変換係数は変換処理ユニット206によって生成された元の変換係数よりも低い精度を有することがある。
【0105】
逆量子化ユニット210および逆変換処理ユニット212は、それぞれ、逆量子化および逆変換を量子化された変換係数ブロックに適用して、変換係数ブロックから残差ブロックを再構成し得る。再構成ユニット214は、再構成された残差ブロックおよびモード選択ユニット202によって生成された予測ブロックに基づいて、(潜在的にある程度のひずみを伴うが)現在のブロックに対応する再構成されたブロックを生成し得る。たとえば、再構成ユニット214は、再構成された残差ブロックのサンプルをモード選択ユニット202によって生成された予測ブロックからの対応するサンプルに加えて、再構成されたブロックを生成し得る。
【0106】
フィルタユニット216は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット216は、CUの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット216の動作は、いくつかの例では、スキップされ得る。
【0107】
ビデオエンコーダ200は、再構成されたブロックをDPB218に記憶する。たとえば、フィルタユニット216の動作が実行される例では、再構成ユニット214は再構成されたブロックをDPB218に記憶し得る。フィルタユニット216の動作が実行されない例では、フィルタユニット216はフィルタリングされた再構成されたブロックをDPB218に記憶し得る。動き推定ユニット222および動き補償ユニット224は、後で符号化されるピクチャのブロックをインター予測するために、再構成された(かつ潜在的にフィルタリングされた)ブロックから形成された参照ピクチャをDPB218から取り出し得る。加えて、イントラ予測ユニット226は、現在のピクチャ中の他のブロックをイントラ予測するために、現在のピクチャのDPB218中の再構成されたブロックを使用し得る。
【0108】
一般に、エントロピー符号化ユニット220は、ビデオエンコーダ200の他の機能構成要素から受信されたシンタックス要素をエントロピー符号化し得る。たとえば、エントロピー符号化ユニット220は、量子化ユニット208からの量子化された変換係数ブロックをエントロピー符号化し得る。別の例として、エントロピー符号化ユニット220は、モード選択ユニット202からの予測シンタックス要素(たとえば、インター予測のための動き情報またはイントラ予測のためのイントラモード情報)をエントロピー符号化し得る。エントロピー符号化ユニット220は、ビデオデータの別の例であるシンタックス要素に対して1つまたは複数のエントロピー符号化動作を実行して、エントロピー符号化されたデータを生成し得る。たとえば、エントロピー符号化ユニット220は、コンテキスト適応型可変長コーディング(CAVLC)動作、CABAC動作、可変対可変(V2V)長コーディング動作、シンタックスベースのコンテキスト適応型バイナリ算術コーディング(SBAC)動作、確率間隔区分エントロピー(PIPE)コーディング動作、指数ゴロム符号化動作、または別のタイプのエントロピー符号化動作をデータに対して実行し得る。いくつかの例では、エントロピー符号化ユニット220は、シンタックス要素がエントロピー符号化されないバイパスモードで動作し得る。
【0109】
ビデオエンコーダ200は、スライスまたはピクチャのブロックを再構成するために必要とされるエントロピー符号化されたシンタックス要素を含むビットストリームを出力し得る。具体的には、エントロピー符号化ユニット220がビットストリームを出力し得る。
【0110】
上記で説明した動作は、ブロックに関して説明されている。そのような説明は、ルーマコーディングブロックおよび/またはクロマコーディングブロックのための動作であるものとして理解されるべきである。上記で説明したように、いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、CUのルーマ成分およびクロマ成分である。いくつかの例では、ルーマコーディングブロックおよびクロマコーディングブロックは、PUのルーマ成分およびクロマ成分である。
【0111】
いくつかの例では、ルーマコーディングブロックに関して実行される動作は、クロマコーディングブロックのために繰り返される必要はない。一例として、ルーマコーディングブロックのための動きベクトル(MV)および参照ピクチャを識別するための動作は、クロマコーディングブロックのためのMVおよび参照ピクチャを識別するために繰り返される必要はない。むしろ、ルーマコーディングブロックのためのMVはクロマコーディングブロックのためのMVを決定するためにスケーリングされてもよく、参照ピクチャは同じであってもよい。別の例として、イントラ予測プロセスは、ルーマコーディングブロックおよびクロマコーディングブロックについて同じであってもよい。
【0112】
ビデオエンコーダ200は、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオエンコーダであって、1つまたは複数のプロセッサが、少なくとも第1のレイヤと、第2のレイヤと、第3のレイヤとを含むマルチレイヤビデオデータを取得することと、第1のレイヤについてのレイヤ識別値、第2のレイヤについてのレイヤ識別値、および第3のレイヤについてのレイヤ識別値を決定することであって、第3のレイヤについてのレイヤ識別値が第2のレイヤについてのレイヤ識別値よりも高く、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャ、第2のレイヤの復号されたピクチャ、および第3のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、第2のレイヤのピクチャがIDRピクチャであるとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することと、第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除した後、マルチレイヤビデオデータの現在のピクチャのブロックを予測するために、第1のレイヤの復号されたピクチャのコピーを取り出すこととを行うように構成される、ビデオエンコーダの一例を表す。
【0113】
ビデオエンコーダ200はまた、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオエンコーダであって、1つまたは複数のプロセッサが、少なくとも第1のレイヤと第2のレイヤとを含むマルチレイヤビデオデータを取得することと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定することであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、IDRピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することとを行うように構成される、ビデオエンコーダの一例を表す。
【0114】
図7は、本開示の技法を実行し得る例示的なビデオデコーダ300を示すブロック図である。図7は説明のために提供され、本開示において広く例示および説明するような技法を限定するものではない。説明のために、本開示は、JEM、VVC、およびHEVCの技法によるビデオデコーダ300について説明する。しかしながら、本開示の技法は、他のビデオコーディング規格に従って構成されたビデオコーディングデバイスによって実行され得る。
【0115】
図7の例では、ビデオデコーダ300は、コーディングされたピクチャバッファ(CPB)メモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、および復号されたピクチャバッファ(DPB)314を含む。CPBメモリ320、エントロピー復号ユニット302、予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、フィルタユニット312、およびDPB314のいずれかまたはすべては、1つもしくは複数のプロセッサにおいてまたは処理回路において実装され得る。さらに、ビデオデコーダ300は、これらおよび他の機能を実行するための追加または代替のプロセッサまたは処理回路を含み得る。
【0116】
予測処理ユニット304は、動き補償ユニット316およびイントラ予測ユニット318を含む。予測処理ユニット304は、他の予測モードに従って予測を実行するための追加のユニットを含み得る。例として、予測処理ユニット304は、パレットコーディングユニット、(動き補償ユニット316の一部を形成し得る)イントラブロックコピーコーディングユニット、アフィンコーディングユニット、線形モデル(LM)コーディングユニットなどを含み得る。他の例では、ビデオデコーダ300は、より多数の、より少数の、または異なる機能構成要素を含み得る。
【0117】
CPBメモリ320は、ビデオデコーダ300の構成要素によって復号されるべき、符号化されたビデオビットストリームなどのビデオデータを記憶し得る。CPBメモリ320に記憶されたビデオデータは、たとえば、コンピュータ可読媒体110(図1)から取得され得る。CPBメモリ320は、符号化されたビデオビットストリームからの符号化されたビデオデータ(たとえば、シンタックス要素)を記憶するCPBを含み得る。また、CPBメモリ320は、ビデオデコーダ300の様々なユニットからの出力を表す一時的なデータなどの、コーディングされたピクチャのシンタックス要素以外のビデオデータを記憶し得る。DPB314は、一般に、符号化されたビデオビットストリームの後続のデータまたはピクチャを復号するときにビデオデコーダ300が参照ビデオデータとして出力および/または使用し得る、復号されたピクチャを記憶する。CPBメモリ320およびDPB314は、SDRAMを含むDRAM、MRAM、RRAM、または他のタイプのメモリデバイスなどの、様々なメモリデバイスのいずれかによって形成され得る。CPBメモリ320およびDPB314は、同じメモリデバイスまたは別個のメモリデバイスによって提供され得る。様々な例では、CPBメモリ320は、ビデオデコーダ300の他の構成要素とともにオンチップであってもよく、またはそれらの構成要素に対してオフチップであってもよい。
【0118】
追加または代替として、いくつかの例では、ビデオデコーダ300はメモリ120(図1)からコーディングされたビデオデータを取り出し得る。すなわち、メモリ120は、CPBメモリ320に関して上記で説明したようなデータを記憶し得る。同様に、メモリ120は、ビデオデコーダ300の機能の一部または全部がビデオデコーダ300の処理回路によって実行されるべきソフトウェアにおいて実装されるとき、ビデオデコーダ300によって実行されるべき命令を記憶し得る。
【0119】
図7に示す様々なユニットは、ビデオデコーダ300によって実行される動作を理解することを助けるために図示されている。ユニットは、固定機能回路、プログラマブル回路、またはそれらの組合せとして実装され得る。図6と同様に、固定機能回路は、特定の機能を提供する回路を指し、実行され得る動作に対してプリセットされる。プログラマブル回路は、様々なタスクを実行するようにプログラムされ得る回路を指し、実行され得る動作において柔軟な機能を提供する。たとえば、プログラマブル回路は、ソフトウェアまたはファームウェアの命令によって定義された方法でプログラマブル回路を動作させるソフトウェアまたはファームウェアを実行し得る。固定機能回路は(たとえば、パラメータを受信するまたはパラメータを出力するための)ソフトウェア命令を実行し得るが、固定機能回路が実行する動作のタイプは概して不変である。いくつかの例では、ユニットのうちの1つまたは複数は別個の回路ブロック(固定機能またはプログラマブル)であってもよく、いくつかの例では、1つまたは複数のユニットは集積回路であってもよい。
【0120】
ビデオデコーダ300は、ALU、EFU、デジタル回路、アナログ回路、および/またはプログラマブル回路から形成されたプログラマブルコアを含み得る。ビデオデコーダ300の動作がプログラマブル回路上で実行されるソフトウェアによって実行される例では、オンチップメモリまたはオフチップメモリが、ビデオデコーダ300が受信および実行するソフトウェアの命令(たとえば、オブジェクトコード)を記憶し得る。
【0121】
エントロピー復号ユニット302は、CPBから符号化されたビデオデータを受信し、ビデオデータをエントロピー復号して、シンタックス要素を再生し得る。予測処理ユニット304、逆量子化ユニット306、逆変換処理ユニット308、再構成ユニット310、およびフィルタユニット312は、ビットストリームから抽出されたシンタックス要素に基づいて、復号されたビデオデータを生成し得る。
【0122】
一般に、ビデオデコーダ300は、ブロックごとにピクチャを再構成する。ビデオデコーダ300は、各ブロックに対して個々に再構成動作を実行し得る(ここで、現在再構成されている、すなわち、復号されているブロックは「現在のブロック」と呼ばれることがある)。
【0123】
エントロピー復号ユニット302は、量子化された変換係数ブロックの量子化された変換係数、ならびに量子化パラメータ(QP)および/または変換モード指示などの変換情報を定義するシンタックス要素をエントロピー復号し得る。逆量子化ユニット306は、量子化の程度と、同様に、逆量子化ユニット306が適用すべき逆量子化の程度とを決定するために、量子化された変換係数ブロックに関連付けられたQPを使用し得る。逆量子化ユニット306は、たとえば、量子化された変換係数を逆量子化するために、ビット単位の左シフト演算を実行し得る。逆量子化ユニット306は、それによって、変換係数を含む変換係数ブロックを形成し得る。
【0124】
逆量子化ユニット306が変換係数ブロックを形成した後、逆変換処理ユニット308は、現在のブロックに関連付けられた残差ブロックを生成するために、1つまたは複数の逆変換を変換係数ブロックに適用し得る。たとえば、逆変換処理ユニット308は、逆DCT、逆整数変換、逆カルーネンレーベ変換(KLT)、逆回転変換、逆方向変換、または別の逆変換を係数ブロックに適用し得る。
【0125】
さらに、予測処理ユニット304は、エントロピー復号ユニット302によってエントロピー復号された予測情報シンタックス要素に従って予測ブロックを生成する。たとえば、現在のブロックがインター予測されることを予測情報シンタックス要素が示す場合、動き補償ユニット316は予測ブロックを生成し得る。この場合、予測情報シンタックス要素は、そこから参照ブロックを取り出すべきDPB314中の参照ピクチャ、ならびに現在のピクチャ中の現在のブロックの場所に対する参照ピクチャ中の参照ブロックの場所を識別する動きベクトルを示し得る。動き補償ユニット316は、一般に、動き補償ユニット224(図6)に関して説明した方法と実質的に同様の方法でインター予測プロセスを実行し得る。
【0126】
別の例として、現在のブロックがイントラ予測されることを予測情報シンタックス要素が示す場合、イントラ予測ユニット318は、予測情報シンタックス要素によって示されたイントラ予測モードに従って予測ブロックを生成し得る。やはり、イントラ予測ユニット318は、一般に、イントラ予測ユニット226(図6)に関して説明した方法と実質的に同様の方法でイントラ予測プロセスを実行し得る。イントラ予測ユニット318は、DPB314から現在のブロックに対する隣接サンプルのデータを取り出し得る。
【0127】
再構成ユニット310は、予測ブロックおよび残差ブロックを使用して現在のブロックを再構成し得る。たとえば、再構成ユニット310は、残差ブロックのサンプルを予測ブロックの対応するサンプルに加えて、現在のブロックを再構成し得る。
【0128】
フィルタユニット312は、再構成されたブロックに対して1つまたは複数のフィルタ動作を実行し得る。たとえば、フィルタユニット312は、再構成されたブロックの端部に沿ってブロッキネスアーティファクトを低減するためにデブロッキング動作を実行し得る。フィルタユニット312の動作は、必ずしもすべての例において実行されるとは限らない。
【0129】
ビデオデコーダ300は、再構成されたブロックをDPB314に記憶し得る。上記で説明したように、DPB314は、イントラ予測のための現在のピクチャおよび後続の動き補償のための以前に復号されたピクチャのサンプルなどの参照情報を予測処理ユニット304に提供し得る。さらに、ビデオデコーダ300は、図1のディスプレイデバイス118などのディスプレイデバイス上で後で提示するための、DPB314からの復号されたピクチャを出力し得る。
【0130】
ビデオデコーダ300は、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオデコーダであって、1つまたは複数のプロセッサが、少なくとも第1のレイヤと、第2のレイヤと、第3のレイヤとを含むマルチレイヤビデオデータを受信することと、第1のレイヤについてのレイヤ識別値、第2のレイヤについてのレイヤ識別値、および第3のレイヤについてのレイヤ識別値を決定することであって、第3のレイヤについてのレイヤ識別値が第2のレイヤについてのレイヤ識別値よりも高く、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャ、第2のレイヤの復号されたピクチャ、および第3のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、第2のレイヤのピクチャがIDRピクチャであるとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することと、第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除した後、マルチレイヤビデオデータの現在のピクチャのブロックを予測するために、第1のレイヤの復号されたピクチャのコピーを取り出すこととを行うように構成される、ビデオデコーダの一例を表す。
【0131】
ビデオデコーダ300はまた、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオデコーダであって、1つまたは複数のプロセッサが、少なくとも第1のレイヤと第2のレイヤとを含むマルチレイヤビデオデータを取得することと、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定することであって、第2のレイヤについてのレイヤ識別値が第1のレイヤについてのレイヤ識別値よりも高い、決定することと、第1のレイヤの復号されたピクチャおよび第2のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶することと、IDRピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除することとを行うように構成される、ビデオデコーダの一例を表す。
【0132】
ビデオデコーダ300はまた、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオデコーダであって、1つまたは複数のプロセッサが、ビデオデータ中の第1のピクチャを受信することと、第1のピクチャのPOC値を決定することと、ビデオデータ中の第2のピクチャを受信することと、第2のピクチャのPOC値を決定することと、第1のピクチャのPOC値および第2のピクチャのPOC値に基づいて新しいアクセスユニットの開始を検出することとを行うように構成される、ビデオデコーダの一例を表す。第1のピクチャのPOC値および第2のピクチャのPOC値に基づいて新しいアクセスユニットの開始を検出するために、ビデオデコーダ300は、たとえば、第1のピクチャのPOC値を第2のピクチャのPOC値と比較し、第2のピクチャのPOC値が第1のピクチャのPOC値よりもしきい値量超だけ異なることに応答して、新しいアクセスユニットの開始を検出してもよい。第2のピクチャは新しいアクセスユニットに属してもよく、第1のピクチャは前のアクセスユニットに属してもよい。第1のピクチャは、前のアクセスユニットの中のすべてのピクチャの最も低いPOC値を有してもよい。
【0133】
ビデオデコーダ300はまた、メモリと、回路において実装された1つまたは複数のプロセッサとを含むビデオデコーダであって、1つまたは複数のプロセッサが、ビデオデータ中の第1のNALユニットを受信することと、第1のNALユニットの時間識別情報(ID)を決定することと、ビデオデータ中の第2のNALユニットを受信することと、第2のNALユニットの時間IDを決定することと、第1のNALユニットの時間IDおよび第2のNALユニットの時間IDに基づいて新しいアクセスユニットの開始を検出することとを行うように構成される、ビデオデコーダの一例を表す。第1のNALユニットの時間IDおよび第2のNALユニットの時間IDに基づいて新しいアクセスユニットの開始を検出するために、ビデオデコーダ300は、第1のNALユニットの時間IDを第2のNALユニットの時間IDと比較し、第1のNALユニットの時間IDが第2のNALユニットの時間IDとは異なることに応答して、新しいアクセスユニットの開始を検出してもよい。第2のNALユニットは新しいアクセスユニットに属してもよく、第1のNALユニットは前のアクセスユニットに属する。
【0134】
図8は、現在のブロックを符号化するための例示的なプロセスを示すフローチャートである。現在のブロックは現在のCUを備え得る。ビデオエンコーダ200(図1および図6)に関して説明するが、他のデバイスが図8のプロセスに類似のプロセスを実行するように構成され得ることを理解されたい。
【0135】
この例では、ビデオエンコーダ200は最初に、現在のブロックを予測する(350)。現在のブロックを予測することの一部として、ビデオエンコーダ200は、本明細書で説明する技法に従ってDPBを維持し得る。たとえば、ビデオエンコーダ200は、現在のブロックのための予測ブロックを形成し得る。次いで、ビデオエンコーダ200は、現在のブロックのための残差ブロックを計算し得る(352)。残差ブロックを計算するために、ビデオエンコーダ200は、元の符号化されていないブロックと現在のブロックのための予測ブロックとの間の差分を計算し得る。次いで、ビデオエンコーダ200は、残差ブロックの係数を変換および量子化し得る(354)。次に、ビデオエンコーダ200は、残差ブロックの量子化された変換係数を走査し得る(356)。走査の間、または走査に続いて、ビデオエンコーダ200は、係数をエントロピー符号化し得る(358)。たとえば、ビデオエンコーダ200は、CAVLCまたはCABACを使用して係数を符号化し得る。次いで、ビデオエンコーダ200は、ブロックのエントロピーコーディングされたデータを出力し得る(360)。
【0136】
図9は、ビデオデータの現在のブロックを復号するための例示的なプロセスを示すフローチャートである。現在のブロックは現在のCUを備え得る。ビデオデコーダ300(図1および図8)に関して説明するが、他のデバイスが図9のプロセスに類似のプロセスを実行するように構成され得ることを理解されたい。
【0137】
ビデオデコーダ300は、エントロピーコーディングされた予測情報および現在のブロックに対応する残差ブロックの係数のためのエントロピーコーディングされたデータなどの、現在のブロックのためのエントロピーコーディングされたデータを受信し得る(370)。ビデオデコーダ300は、現在のブロックのための予測情報を決定するために、および残差ブロックの係数を再生するために、エントロピーコーディングされたデータをエントロピー復号し得る(372)。ビデオデコーダ300は、現在のブロックに対する予測ブロックを計算するために、たとえば、現在のブロックに対する予測情報によって示されるようなイントラ予測モードまたはインター予測モードを使用して、現在のブロックを予測し得る(374)。現在のブロックを予測することの一部として、ビデオエンコーダ200は、本明細書で説明する技法に従ってDPBを維持し得る。次いで、ビデオデコーダ300は、量子化された変換係数のブロックを作成するために、再生された係数を逆走査し得る(376)。次いで、ビデオデコーダ300は、残差ブロックを生成するために、係数を逆量子化および逆変換し得る(378)。ビデオデコーダ300は、予測ブロックおよび残差ブロックを合成することによって、現在のブロックを最終的に復号し得る(380)。
【0138】
図10は、DPBを維持するための例示的なプロセスを示すフローチャートである。図10の技法について、汎用ビデオデコーダに関して説明する。その汎用ビデオデコーダは、たとえば、ビデオデコーダ300に、またはビデオエンコーダ200の復号機能に対応し得る。汎用ビデオデコーダは、たとえば、マルチレイヤビデオデータを受信するように構成された受信機を含むワイヤレス通信デバイスの一部であってもよい。ビデオデコーダは、マルチレイヤビデオデータを備える信号をワイヤレス通信規格に従って復調するように構成された受信機を有する電話ハンドセットの一部であってもよい。他の例では、汎用ビデオデコーダは、カメラ、コンピュータ、モバイルデバイス、ブロードキャスト受信機デバイス、またはセットトップボックスのうちの1つまたは複数の一部であってもよい。汎用ビデオデコーダは、いくつかの例では、復号されたマルチレイヤビデオデータを表示するように構成されたディスプレイを含んでもよく、またはそのディスプレイと通信していてもよい。
【0139】
ビデオデコーダは、少なくとも第1のレイヤと第2のレイヤとを含むマルチレイヤビデオデータを取得する(400)。ビデオデコーダ300は、たとえば、CPBメモリ320に記憶された符号化されたビットストリームからマルチレイヤビデオデータを取得し得る。ビデオエンコーダ200は、たとえば、フィルタユニット216からのまたはDPB218からの出力としてマルチレイヤビデオデータを取得し得る。第1のレイヤは、たとえば、単独で復号可能なレイヤであることがあり、第2のレイヤは第1のレイヤに依存することがあり、これは、ビデオデコーダ300が第2のレイヤを復号するために第1のレイヤに含まれる情報へのアクセスを必要とすることを意味する。
【0140】
ビデオデコーダは、第1のレイヤについてのレイヤ識別値および第2のレイヤについてのレイヤ識別値を決定する(402)。この例では、レイヤ識別値は異なる。具体的には、第2のレイヤについてのレイヤ識別値は第1のレイヤについてのレイヤ識別値よりも高い。
【0141】
【0142】
IDRピクチャが第2のレイヤに属するとの決定に応答して、ビデオデコーダは、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャをDPBから削除、たとえば、破棄またはバンプする(406)。
【0143】
一例では、マルチレイヤビデオデータは、第2のレイヤについてのレイヤ識別値よりも高い、したがって、第1のレイヤについてのレイヤ識別値よりも高いレイヤ識別値を有する第3のレイヤを含み得る。ビデオデコーダは、第3のレイヤの復号されたピクチャを復号されたピクチャバッファに記憶し、IDRピクチャが第2のレイヤに属するとの決定に応答して、第1のレイヤのすべての復号されたピクチャを復号されたピクチャバッファに残しながら、第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除する。第2のレイヤのすべての復号されたピクチャおよび第3のレイヤのすべての復号されたピクチャを復号されたピクチャバッファから削除した後、ビデオデコーダは、マルチレイヤビデオデータの現在のピクチャのブロックを予測するために、第1のレイヤの復号されたピクチャのコピーを取り出す。第1のレイヤの復号されたピクチャのコピーを取り出した後、ビデオデコーダは、たとえば、第1のレイヤの復号されたピクチャのコピーを、インター予測を実行するための参照ピクチャとして使用し得る。ビデオデコーダは、たとえば、第2のレイヤなしの第1のレイヤと第3のレイヤとを含む復号可能なビットストリームをマルチレイヤビデオデータから抽出し得る。
【0144】
ビデオデコーダは、加えて、1つまたは複数のレイヤの第1のピクチャを備える第1のアクセスユニットを受信し、それらのレイヤの1つまたは複数の第2のピクチャを備える第2のアクセスユニットを受信することによって、マルチレイヤビデオデータを取得するように構成され得る。ビデオデコーダは、たとえば、(1)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのレイヤ識別情報よりも小さいレイヤ識別情報を有する、および(2)第2のアクセスユニットのVCL NALユニットが復号順序において直前に先行するピクチャのPOC値とは異なるPOC値を有するとの決定に応答して、第2のアクセスユニットのVCL NALユニットが第2のアクセスユニットの開始に対応すると決定し得る。第2のアクセスユニットのVCL NALユニットと直前に先行するピクチャの最後のVCL NALユニットとの間で受信されたNALユニットは、アクセスユニットデリミタNALユニットであり得る。
【0145】
例に応じて、本明細書で説明する技法のいずれかのいくつかの行為またはイベントが、異なるシーケンスで実行される場合があり、追加され、統合され、または完全に除外されてもよい(たとえば、説明したすべての行為またはイベントが技法の実践にとって必要であるとは限らない)ことを認識されたい。さらに、いくつかの例では、行為またはイベントは、連続的にではなく、たとえば、マルチスレッド処理、割込み処理、または複数のプロセッサを通じて、同時に実行されてもよい。
【0146】
1つまたは複数の例では、説明した機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せにおいて実装され得る。ソフトウェアにおいて実装される場合、機能は、1つまたは複数の命令またはコードとして、コンピュータ可読媒体上に記憶されるか、またはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、データ記憶媒体などの有形媒体に対応する、命令を記憶するコンピュータ可読記憶媒体、または、たとえば、通信プロトコルに従って、ある場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体を含み得る。このように、コンピュータ可読媒体は、一般に、(1)非一時的な有形コンピュータ可読記憶媒体、または(2)信号もしくは搬送波などの通信媒体に対応し得る。データ記憶媒体は、本開示で説明する技法の実装のための命令、コードおよび/またはデータ構造を取り出すために1つもしくは複数のコンピュータまたは1つもしくは複数のプロセッサによってアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータプログラム製品は、コンピュータ可読媒体を含み得る。
【0147】
限定ではなく例として、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD-ROMもしくは他の光ディスクストレージ、磁気ディスクストレージもしくは他の磁気記憶デバイス、フラッシュメモリ、または、命令もしくはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る任意の他の媒体のうちのいずれか1つまたは複数を含むことができる。また、いかなる接続もコンピュータ可読媒体と適切に呼ばれる。たとえば、命令が、同軸ケーブル、光ファイバーケーブル、ツイストペア、デジタル加入者回線(DSL)、または赤外線、無線、およびマイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバーケーブル、ツイストペア、DSL、または赤外線、無線、およびマイクロ波などのワイヤレス技術は、媒体の定義に含まれる。しかしながら、コンピュータ可読記憶媒体およびデータ記憶媒体は、接続、搬送波、信号、または他の一時的媒体を含まないが、代わりに非一時的有形記憶媒体を対象とすることを理解されたい。本明細書で使用するディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピーディスク(disk)およびBlu-ray(登録商標)ディスク(disc)を含み、ディスク(disk)は通常、データを磁気的に再生し、ディスク(disc)は、レーザーを用いてデータを光学的に再生する。上記の組合せも、コンピュータ可読媒体の範囲内に含まれるべきである。
【0148】
命令は、1つまたは複数のDSP、汎用マイクロプロセッサ、ASIC、FPGA、または他の同等の集積論理回路もしくはディスクリート論理回路などの、1つまたは複数のプロセッサによって実行され得る。したがって、本明細書で使用する「プロセッサ」および「処理回路」という用語は、上記の構造、または本明細書で説明する技法の実装に適した任意の他の構造のいずれかを指すことがある。加えて、いくつかの態様では、本明細書で説明する機能は、符号化および復号のために構成された専用のハードウェアモジュールおよび/もしくはソフトウェアモジュール内で提供されてもよく、または複合コーデックに組み込まれてもよい。また、技法は、1つまたは複数の回路または論理要素において完全に実装され得る。
【0149】
本開示の技法は、ワイヤレスハンドセット、集積回路(IC)またはICのセット(たとえば、チップセット)を含む、多種多様なデバイスまたは装置において実装され得る。開示する技法を実行するように構成されたデバイスの機能的態様を強調するために、様々な構成要素、モジュール、またはユニットが本開示で説明されるが、それらは、必ずしも異なるハードウェアユニットによる実現を必要とするとは限らない。むしろ、上記で説明したように、様々なユニットは、コーデックハードウェアユニットにおいて組み合わされてもよく、または適切なソフトウェアおよび/もしくはファームウェアとともに、上記で説明したような1つもしくは複数のプロセッサを含む、相互動作可能なハードウェアユニットの集合によって提供されてもよい。
【0150】
様々な例が説明された。これらおよび他の例は、以下の特許請求の範囲内に入る。
【符号の説明】
【0151】
100 ビデオ符号化および復号システム、システム
102 ソースデバイス、デバイス、ビデオデバイス
104 ビデオソース
106 メモリ
108 出力インターフェース
110 コンピュータ可読媒体
112 記憶デバイス
114 ファイルサーバ
116 宛先デバイス、デバイス、ビデオデバイス
118 ディスプレイデバイス
120 メモリ
122 入力インターフェース
130 4分木2分木(QTBT)構造、QTBT構造
132 コーディングツリーユニット(CTU)、CTU
150 アクセスユニット
152 アクセスユニット
154 アクセスユニット
160 アクセスユニット
162 アクセスユニット
200 ビデオエンコーダ
202 モード選択ユニット
204 残差生成ユニット
206 変換処理ユニット
208 量子化ユニット
210 逆量子化ユニット
212 逆変換処理ユニット
214 再構成ユニット
216 フィルタユニット
218 復号されたピクチャバッファ(DPB)、DPB
220 エントロピー符号化ユニット
222 動き推定ユニット
224 動き補償ユニット
226 イントラ予測ユニット
230 ビデオデータメモリ
300 ビデオデコーダ
302 エントロピー復号ユニット
304 予測処理ユニット
306 逆量子化ユニット
308 逆変換処理ユニット
310 再構成ユニット
312 フィルタユニット
314 復号されたピクチャバッファ(DPB)、DPB
316 動き補償ユニット
318 イントラ予測ユニット
320 CPBメモリ
102 ソースデバイス、デバイス、ビデオデバイス
104 ビデオソース
106 メモリ
108 出力インターフェース
110 コンピュータ可読媒体
112 記憶デバイス
114 ファイルサーバ
116 宛先デバイス、デバイス、ビデオデバイス
118 ディスプレイデバイス
120 メモリ
122 入力インターフェース
130 4分木2分木(QTBT)構造、QTBT構造
132 コーディングツリーユニット(CTU)、CTU
150 アクセスユニット
152 アクセスユニット
154 アクセスユニット
160 アクセスユニット
162 アクセスユニット
200 ビデオエンコーダ
202 モード選択ユニット
204 残差生成ユニット
206 変換処理ユニット
208 量子化ユニット
210 逆量子化ユニット
212 逆変換処理ユニット
214 再構成ユニット
216 フィルタユニット
218 復号されたピクチャバッファ(DPB)、DPB
220 エントロピー符号化ユニット
222 動き推定ユニット
224 動き補償ユニット
226 イントラ予測ユニット
230 ビデオデータメモリ
300 ビデオデコーダ
302 エントロピー復号ユニット
304 予測処理ユニット
306 逆量子化ユニット
308 逆変換処理ユニット
310 再構成ユニット
312 フィルタユニット
314 復号されたピクチャバッファ(DPB)、DPB
316 動き補償ユニット
318 イントラ予測ユニット
320 CPBメモリ
【図1】
【図2A】
【図2B】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【国際調査報告】