(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-11-25
(54)【発明の名称】漸進的デコーダリフレッシュ符号化及びスケーラブル符号化のためのエンコーダ、デコーダ及びデータストリーム
(51)【国際特許分類】
H04N 19/70 20140101AFI20221117BHJP
H04N 19/31 20140101ALI20221117BHJP
【FI】
H04N19/70
H04N19/31
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022518777
(86)(22)【出願日】2020-09-23
(85)【翻訳文提出日】2022-05-20
(86)【国際出願番号】 EP2020076616
(87)【国際公開番号】W WO2021058596
(87)【国際公開日】2021-04-01
(32)【優先日】2019-09-24
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】591037214
【氏名又は名称】フラウンホッファー-ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ
(74)【代理人】
【識別番号】110002952
【氏名又は名称】弁理士法人鷲田国際特許事務所
(72)【発明者】
【氏名】サンチェス デ ラ フエンテ ヤゴ
(72)【発明者】
【氏名】ズーリング カルステン
(72)【発明者】
【氏名】ヘルゲ コーネリアス
(72)【発明者】
【氏名】ツェル トーマス
(72)【発明者】
【氏名】スクピン ロベルト
(72)【発明者】
【氏名】ウィーガンド トーマス
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA04
5C159MA05
5C159MA17
5C159MA31
5C159MA33
5C159NN11
5C159NN21
5C159RC12
5C159TA23
5C159TB06
5C159TC44
5C159UA02
(57)【要約】
本発明は、ピクチャと、特にピクチャの連続的なシーケンスを符号化するための方法、エンコーダ、デコーダ及びデータストリームに関する。いくつかの実施例は、いわゆる、ピクチャを符号化する漸進的デコーダリフレッシュ(GDR)符号化方式を利用しうる。いくつかの実施例は、スケーラブル符号化及び漸進的デコーダリフレッシュの改良を提案しうる。
【特許請求の範囲】
【請求項1】
ビデオデータストリームであって、
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)と、
ピクチャエリア(101)を第1のサブエリア(101r)及び第2のサブエリア(101u)に細分する複数のピクチャ構成を規定するパラメータセットと、
を有し、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応し、
前記ビデオデータストリームは、前記リフレッシュ期間(RP)内の各ピクチャ(101
1,101
2,・・・,101
n)に対して、前記複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を有する、ビデオデータストリーム。
【請求項2】
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)は、
イントラ予測が前記第1のサブエリア(101r)と前記第2のサブエリア(101u)との間の境界を横切らず、及び/又は、
前記リフレッシュサブエリア(101r)の時間予測が前記未リフレッシュサブエリア(101u)を参照せず、及び/又は、
コンテクストモデル派生が前記第1のサブエリア(101r)と前記第2のサブエリア(101u)との間の境界を横切らない、
ように符号化される、請求項1に記載のビデオデータストリーム。
【請求項3】
前記対応する1つのピクチャ構成は、前記ピクチャのシーケンス(100)の現在符号されるピクチャ(101
1,101
2,・・・,101
n)に含まれる前記リフレッシュサブエリア(101r)と前記未リフレッシュサブエリア(101u)とを示す、請求項1又は2に記載のビデオデータストリーム。
【請求項4】
前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのピクチャ領域(102)がリフレッシュピクチャ領域(102r)であり、何れのピクチャ領域(102)が未リフレッシュピクチャ領域(102u)であるかを通知するための領域インデックスのセットを有する、請求項1から3の何れか一項に記載のビデオデータストリーム。
【請求項5】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、1つ以上のタイル(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのピクチャタイル(102)がリフレッシュピクチャタイル(102r)であり、何れのピクチャタイル(102)が未リフレッシュピクチャタイル(102u)であるかを通知するためのタイルインデックスのセットを有する、請求項1から4の何れか一項に記載のビデオデータストリーム。
【請求項6】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、ピクチャタイルロー(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのピクチャタイルロー(102)がリフレッシュピクチャタイルロー(102r)であり、及び/又は、何れのピクチャタイルロー(102)が未リフレッシュピクチャタイルロー(102u)であるかを通知するための少なくとも1つのローインデックスを有する、請求項1から5の何れか一項に記載のビデオデータストリーム。
【請求項7】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、ピクチャタイルカラム(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのピクチャタイルカラム(102)がリフレッシュピクチャタイルカラム(102r)であり、及び/又は、何れのピクチャタイルカラム(102)が未リフレッシュピクチャタイカラム(102u)であるかを通知するための少なくとも1つのカラムインデックスを有する、請求項1から6の何れか一項に記載のビデオデータストリーム。
【請求項8】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、符号化ブロックのロー(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れの符号化ブロックのロー(102)が符号化ブロックのリフレッシュロー(102r)であり、及び/又は、何れの符号化ブロックのロー(102)が符号化ブロックの未リフレッシュロー(102u)であるかを通知するための少なくとも1つのロー符号化ブロックインデックスを有する、請求項1から7の何れか一項に記載のビデオデータストリーム。
【請求項9】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、符号化ブロックのカラム(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れの符号化ブロックのカラム(102)が符号化ブロックのリフレッシュカラム(102r)であり、及び/又は、何れの符号化ブロックのカラム(102)が符号化ブロックの未リフレッシュカラム(102u)であるかを通知するための少なくとも1つのカラム符号化ブロックインデックスを有する、請求項1から8の何れか一項に記載のビデオデータストリーム。
【請求項10】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、符号化ブロックの対角要素(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れの符号化ブロックの対角要素(102)が符号化ブロックのリフレッシュ対角要素(102r)であり、及び/又は、何れの符号化ブロックの対角要素(102)が符号化ブロックの未リフレッシュ対角要素(102u)であるかを通知するための少なくとも1つの対角要素符号化ブロックインデックスを有する、請求項1から9の何れか一項に記載のビデオデータストリーム。
【請求項11】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、サンプルのロー(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのサンプルのロー(102)がサンプルのリフレッシュロー(102r)であり、及び/又は、何れのサンプルのロー(102)がサンプルの未リフレッシュロー(102u)であるかを通知するための少なくとも1つのサンプルローインデックスを有する、請求項1から10の何れか一項に記載のビデオデータストリーム。
【請求項12】
前記ピクチャのシーケンス(100)に含まれる前記ピクチャ(101
1,101
2,・・・,101
n)は、サンプルのカラム(102)に細分され、前記複数のピクチャ構成のうちの各ピクチャ構成は、何れのサンプルのカラム(102)がサンプルのリフレッシュカラム(102r)であり、及び/又は、何れのサンプルのカラム(102)がサンプルの未リフレッシュカラム(102u)であるかを通知するための少なくとも1つのサンプルカラムインデックスを有する、請求項1から11の何れか一項に記載のビデオデータストリーム。
【請求項13】
前記対応する1つのピクチャ構成は、前記ビデオデータストリームのスライスヘッダ及び/又はアクセスユニットデリミッタにおいて通知される、請求項1から12の何れか一項に記載のビデオデータストリーム。
【請求項14】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)から少なくとも1つのピクチャをデータストリームから復号化するデコーダであって、
前記デコーダは、前記データストリームから、ピクチャエリア(101)を第1のサブエリア(101r)及び第2のサブエリア(101u)に細分する複数のピクチャ構成を規定するパラメータセットを読むよう構成され、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応し、
前記デコーダは更に、前記データストリームから、前記リフレッシュ期間(RP)内の各ピクチャ(101
1,101
2,・・・,101
n)に対して、前記少なくとも1つのピクチャ(101
1,101
2,・・・,101
n)を復号化するための前記複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を読むよう構成される、デコーダ。
【請求項15】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)から少なくとも1つのピクチャをデータストリームに符号化するエンコーダであって、
前記エンコーダは、前記データストリームに、ピクチャエリア(101)を第1のサブエリア(101r)及び第2のサブエリア(101u)に細分する複数のピクチャ構成を規定するパラメータセットを書き込むよう構成され、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応し、
前記エンコーダは更に、前記データストリームに、前記リフレッシュ期間(RP)内の各ピクチャ(101
1,101
2,・・・,101
n)に対して、前記複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を設定するよう構成される、エンコーダ。
【請求項16】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)から少なくとも1つのピクチャをデータストリームから復号化する方法であって、
前記データストリームから、ピクチャエリア(101)を第1のサブエリア(101r)及び第2のサブエリア(101u)に細分する複数のピクチャ構成を規定するパラメータセットを読むステップであって、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応する、読むステップと、
前記データストリームから、前記リフレッシュ期間(RP)内の各ピクチャ(101
1,101
2,・・・,101
n)に対して、前記少なくとも1つのピクチャ(101
1,101
2,・・・,101
n)を復号化するための前記複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を読むステップと、
を有する方法。
【請求項17】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)から少なくとも1つのピクチャをデータストリームに符号化する方法であって、
前記エンコーダは、前記データストリームに、ピクチャエリア(101)を第1のサブエリア(101r)及び第2のサブエリア(101u)に細分する複数のピクチャ構成を規定するパラメータセットを書き込むステップであって、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応する、書き込むステップと、
前記データストリームに、前記リフレッシュ期間(RP)内の各ピクチャ(101
1,101
2,・・・,101
n)に対して、前記複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を設定するステップと、
を有する方法。
【請求項18】
コンピュータ又は信号プロセッサ上で実行されると、請求項16又は17に記載の方法を実現するコンピュータプログラム。
【請求項19】
ビデオデータストリームであって、
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)を有し、
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の各ピクチャは、前記各ピクチャが細分されるブロック(102)の単位で前記ビデオデータストリームに順次符号化され、
前記ビデオデータストリームは、暗黙的シグナリングを有し、各ピクチャ(101
1,101
2,・・・,101
n)のリフレッシュサブエリア(101r)は、ブロック符号化順に基づいて前記ビデオデータストリームにおいて暗黙的に通知されるか、又は、
前記ビデオデータストリームは、各ブロック(102)に対して、
e)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最後に符号化された最後のブロックであり、及び/又は、
f)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最初に符号化された最初のブロックであり、及び/又は、
g)前記ブロック(102)は、第1のサブエリア(101r)を制限するボーダに隣接し、及び/又は、
h)前記ブロック(102)は、第1のサブエリア(101r)の内部に配置される、
か否かを示すシンタックス要素を有する、ビデオデータストリーム。
【請求項20】
ピクチャエリア(101)は、第1のサブエリア(101r)及び第2のサブエリア(101u)に細分され、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応する、請求項19に記載のビデオデータストリーム。
【請求項21】
前記暗黙的なシグナリングは、前記ブロック符号化順での所定の位置における第1のブロック(102)が前記リフレッシュされたサブエリア(101r)の一部であることを通知する、請求項19又は20に記載のビデオデータストリーム。
【請求項22】
前記シンタックス要素は、前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンスからのピクチャのリフレッシュサブエリア(101r)と未リフレッシュサブエリア(101u)との間の境界を示すためのものであり、及び/又は、何れのサブエリアがリフレッシュサブエリア(101r)であり、何れのサブエリアが未リフレッシュサブエリア(101u)であるかを示すためのものである、請求項19から21の何れか一項に記載のビデオデータストリーム。
【請求項23】
前記シンタックス要素が、b)前記ブロック(102)は、各ピクチャ(101)のリフレッシュサブエリア(101r)に配置され、最後に符号化された最後のブロックであることを示す場合、前記ビデオデータストリームは、
a1)前記ブロック(102)は、前記リフレッシュサブエリア(101r)のブロック(102)の1つ以上のローの最後に符号化されたブロックであるか、又は、
a2)前記ブロック(102)は、前記リフレッシュサブエリア(101r)のブロック(102)の1つ以上のカラムの最後に符号化されたブロックであるか否かを示すための更なるシンタックス要素(例えば、region_horizontal_flag)を有する、請求項19から22の何れか一項に記載のビデオデータストリーム。
【請求項24】
前記更なるシンタックス要素は、前記最後のブロック(102)が、前記各ピクチャ(101)がブロック(102)に細分される符号化分割ツリーの水平分割又は垂直分割から派生するか否かを示すためのものである、請求項23に記載のビデオデータストリーム。
【請求項25】
前記ビデオデータストリームは、近傍のピクチャ領域(102u)の近傍ブロック(102)が、例えば、前記近傍のピクチャ領域(102u)が未リフレッシュサブエリア(101u)に含まれる場合、予測のために利用可能でないことを示すためのイントラ予測中断指示を有する、請求項19から24の何れか一項に記載のビデオデータストリーム。
【請求項26】
前記リフレッシュサブエリア(101r)は、前記各ピクチャが細分される前記ブロック(102)のサイズにより揃えられるグリッドに配置される1つ以上のリフレッシュピクチャ領域(102r)を有する、請求項19から25の何れか一項に記載のビデオデータストリーム。
【請求項27】
前記各ピクチャ(101)のピクチャ領域は、1つ以上のスライスに垂直方向に細分され、前記シンタックス要素は、各スライスに対して通知される、請求項19から26の何れか一項に記載のビデオデータストリーム。
【請求項28】
前記各ピクチャ(101)のピクチャ領域は、ブロック(102)の1つ以上のローに水平方向に細分され、前記シンタックス要素は、iii)第1のローにおいてのみ、又は、iv)全てのローにおいて通知される、請求項19から27の何れか一項に記載のビデオデータストリーム。
【請求項29】
前記各ピクチャ(101)のピクチャ領域は、ブロック(102)の1つ以上のカラムに垂直方向に細分され、前記シンタックス要素は、i)第1のカラムにおいてのみ、又は、ii)全てのカラムにおいて通知される、請求項19から28の何れか一項に記載のビデオデータストリーム。
【請求項30】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)からの少なくとも1つのピクチャをデータストリームから復号化するデコーダであって、
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の各ピクチャは、前記各ピクチャが細分されるブロック(102)の単位で前記ビデオデータストリームから順次復号化され、
前記デコーダは、前記データストリームから、ブロック符号化順に基づいて前記少なくとも1つのピクチャのリフレッシュサブエリアを暗黙的に導出するよう構成されるか、又は、
前記デコーダは、前記データストリームから、各ブロック(102)に対して、
a)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最後に符号化された最後のブロックであり、及び/又は、
b)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最初に符号化された最初のブロックであり、及び/又は、
c)前記ブロック(102)は、第1のサブエリア(101r)を制限するボーダに隣接し、及び/又は、
d)前記ブロック(102)は、第1のサブエリア(101r)の内部に配置される、
か否かを示すシンタックス要素を読むよう構成される、デコーダ。
【請求項31】
ピクチャエリア(101)は、第1のサブエリア(101r)及び第2のサブエリア(101u)に細分され、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応する、請求項30に記載のデコーダ。
【請求項32】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)からの少なくとも1つのピクチャをデータストリームに符号化するエンコーダであって、
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の各ピクチャは、前記各ピクチャが細分されるブロック(102)の単位で前記ビデオデータストリームに順次符号化され、
前記エンコーダは、前記データストリームに、各ブロック(102)に対して、
a)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最後に符号化された最後のブロックであり、及び/又は、
b)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最初に符号化された最初のブロックであり、及び/又は、
c)前記ブロック(102)は、第1のサブエリア(101r)を制限するボーダに隣接し、及び/又は、
d)前記ブロック(102)は、第1のサブエリア(101r)の内部に配置される、
か否かを示すシンタックス要素を書き込むよう構成される、エンコーダ。
【請求項33】
ピクチャエリア(101)は、第1のサブエリア(101r)及び第2のサブエリア(101u)に細分され、
そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(102r)を含むリフレッシュサブエリア(101r)に対応し、
他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリア(101u)に対応する、請求項32に記載のエンコーダ。
【請求項34】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)からの少なくとも1つのピクチャをデータストリームから復号化する方法であって、
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の各ピクチャは、前記各ピクチャが細分されるブロック(102)の単位で前記ビデオデータストリームから順次復号化され、
前記データストリームから、ブロック符号化順に基づいて前記少なくとも1つのピクチャのリフレッシュサブエリアを暗黙的に導出するステップ、又は、
前記データストリームから、各ブロック(102)に対して、
a)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最後に符号化された最後のブロックであり、及び/又は、
b)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最初に符号化された最初のブロックであり、及び/又は、
c)前記ブロック(102)は、第1のサブエリア(101r)を制限するボーダに隣接し、及び/又は、
d)前記ブロック(102)は、第1のサブエリア(101r)の内部に配置される、
か否かを示すシンタックス要素(例えば、フラグ)を読むステップ、
を有する方法。
【請求項35】
少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)からの少なくとも1つのピクチャをデータストリームに符号化する方法であって、
前記ピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の各ピクチャは、前記各ピクチャが細分されるブロック(102)の単位で前記ビデオデータストリームに順次符号化され、
前記データストリームに、各ブロック(102)に対して、
a)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最後に符号化された最後のブロックであり、及び/又は、
b)前記ブロック(102)は、各ピクチャの第1のサブエリア(101r)に配置され、最初に符号化された最初のブロックであり、及び/又は、
c)前記ブロック(102)は、第1のサブエリア(101r)を制限するボーダに隣接し、及び/又は、
d)前記ブロック(102)は、第1のサブエリア(101r)の内部に配置される、
か否かを示すシンタックス要素を書き込むステップ、
を有する方法。
【請求項36】
コンピュータ又は信号プロセッサ上で実行されると、請求項34又は35に記載の方法を実現するコンピュータプログラム。
【請求項37】
ビデオデータストリームであって、
タイル(102)に細分される少なくとも1つのピクチャ(101)と、
タイルリオーダリングフラグと、
を有し、
a)前記データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)が第1の状態を有する場合、前記ピクチャ(101)のタイル(102)が前記ピクチャ(101)をタイル毎に探索する第1の符号化順を利用して符号化されることが通知され、及び/又は、
b)前記データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、前記ピクチャ(101)のタイル(102)が前記ピクチャ(101)をラスタスキャン順に探索する第2の符号化順を利用して符号化されることが通知される、ビデオデータストリーム。
【請求項38】
データストリームからピクチャを復号化するよう構成されるデコーダであって、
a)前記データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)が第1の状態を有する場合、前記デコーダは、前記ピクチャ(101)をタイル毎に探索する第1の復号化順を利用して前記データストリームから前記ピクチャ(101)のタイル(102)を復号化するよう構成され、及び/又は、
b)前記データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、前記デコーダは、前記ピクチャ(101)をラスタスキャン順に探索する第2の復号化順を利用して前記データストリームから前記ピクチャ(101)のタイル(102)を復号化するよう構成される、デコーダ。
【請求項39】
前記デコーダは、漸進的復号化リフレッシュ(GDR)アプローチを利用して前記ピクチャ(101)を復号化するよう構成され、前記ピクチャ(101)は、少なくとも1つのGDR符号化ピクチャ(103)と、1つ以上の以降のピクチャとを含むピクチャ(101
1,101
2,・・・,101
n)のシーケンス(100)の一部であり、
前記ピクチャ(101)は、ブロック毎に復号化され、複数のパケット(501a,501b,・・・,501n)に分割され、2つ以上のパケットは、リフレッシュされた同数のブロック(102r)、及び/又は、まだリフレッシュされていない同数のブロック(102u)を含む、請求項38に記載のデコーダ。
【請求項40】
ピクチャをデータストリームに符号化するよう構成されるエンコーダであって、
c)前記エンコーダは、前記データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)を、前記ピクチャ(101)のタイル(102)が前記ピクチャ(101)をタイル毎に探索する第1の符号化順を利用して符号化されることを示す第1の状態に設定するよう構成され、
d)前記エンコーダは、前記データストリームにおけるタイルリオーダリングフラグを、前記ピクチャ(101)のタイル(102)が前記ピクチャ(101)をラスタスキャン順に探索する第2の符号化順を利用して符号化されることを示す第2の状態に設定するよう構成される、エンコーダ。
【請求項41】
マルチレイヤ化されたスケーラブルビデオデータストリーム(600)であって、
第1のレイヤ(601)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有し、
前記第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含み、
前記マルチレイヤ化されたスケーラブルビデオデータストリーム(600)は、前記第2のレイヤ(602)の前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)のサンプル(202r)からレイヤ間予測される確率に関する情報と、
前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は動きベクトル予測が非時間的に実現される、又は、
前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は動きベクトル予測が非時間的に実現される、
という情報と、
を搬送する通知を有する、マルチレイヤ化されたスケーラブルビデオデータストリーム。
【請求項42】
以下の符号化コンセプトの少なくとも1つは、前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)を符号化するため無効にされ、
・時間動きベクトル予測(TMVP)
・アドバンスト時間動きベクトル予測(ATMVP)
・TMVP又はサブブロックTMVPによって影響されるマージリストにおける動きベクトル候補などのTMVPにより影響される候補
・デコーダサイド動きベクトル精緻化(DMVR)
である、請求項41に記載のマルチレイヤ化されたスケーラブルビデオデータストリーム(600)。
【請求項43】
以下の符号化コンセプトの少なくとも1つは、前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)を符号化するため無効にされ、
・時間動きベクトル予測(TMVP)
・アドバンスト時間動きベクトル予測(ATMVP)
・TMVP又はサブブロックTMVPによって影響されるマージリストにおける動きベクトル候補などのTMVPにより影響される候補
・デコーダサイド動きベクトル精緻化(DMVR)
であり、
DMVRは、前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)を符号化するため無効にされる、請求項40又は41に記載のマルチレイヤ化されたスケーラブルビデオデータストリーム(600)。
【請求項44】
前記第1のレイヤ(601)のサンプルからの前記レイヤ間予測は、前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)の1つ以上のサンプル(102u)を、前記第1のレイヤ(601)のサンプル(202r)のアップサンプリングされたバージョンによって置換することを含む、請求項41から43の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータストリーム(600)。
【請求項45】
前記GDRピクチャ(103)の前記未リフレッシュサブエリア(101u)全体の全てのサンプル(102u)が、前記第2のレイヤ(602)における符号化ピクチャの第2のシーケンス(100)からのピクチャ(101
1,101
2,・・・,101
n)がユーザに瞬時に提示可能となるように、前記第1のレイヤ(601)のサンプル(202r)のアップサンプリングされたバージョンと置換される、請求項41から44の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータ(600)。
【請求項46】
前記第2のレイヤ(100)の前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)が、前記第2のレイヤ(602)のリフレッシュされたサンプル(102r)に徐々に更新される前記第1のレイヤ(601)からの前記アップサンプリングされた置換サンプル(202r)を利用してレイヤ内予測によってリフレッシュされる、請求項41から45の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータストリーム(600)。
【請求項47】
前記第2のレイヤ(602)は、前記第1のレイヤ(601)又は何れかの更なるレイヤから独立に符号化され、前記ピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)が前記GDRピクチャ(103)においてランダムにアクセスされる場合、前記通知は、前記第2のレイヤ(602)の前記GDRピクチャ(103)の前記未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)又は適切なコンテンツを有する何れか所定の更なるレイヤのサンプル(202r)からレイヤ間予測されることを示す、請求項41から46の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータストリーム(600)。
【請求項48】
第1のレイヤ(601)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(600)から、少なくとも1つのピクチャを復号化するデコーダであって、
前記第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含み、
前記デコーダは、前記マルチレイヤ化されたスケーラブルビデオデータストリーム(600)から、前記第2のレイヤ(602)の前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)のサンプル(202r)からレイヤ間予測される確率に関する情報を搬送する通知を読むよう構成され、
前記デコーダは更に、前記通知に応答して、
動きベクトル予測を無効にするか、又は、前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)において、動きベクトル予測を非時間的に実現するよう構成されるか、又は、
動きベクトル予測を無効にするか、又は、前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)において、動きベクトル予測を非時間的に実現するよう構成される、デコーダ。
【請求項49】
第1のレイヤ(601)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(600)に、少なくとも1つのピクチャを符号化するエンコーダであって、
前記第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含み、
前記エンコーダは、前記マルチレイヤ化されたスケーラブルビデオデータストリーム(600)に、前記第2のレイヤ(602)の前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)のリフレッシュサンプル(202r)からレイヤ間予測される確率に関する情報と、
前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、
前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、
という情報と、を搬送する通知を書き込むよう構成される、エンコーダ。
【請求項50】
第1のレイヤ(601)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(600)から、少なくとも1つのピクチャを復号化する方法であって、
前記第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含み、
前記方法は、
前記マルチレイヤ化されたスケーラブルビデオデータストリーム(600)から、前記第2のレイヤ(602)の前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)のサンプル(202r)からレイヤ間予測される確率に関する情報を搬送する通知を読むステップと、
前記通知に応答して、
動きベクトル予測を無効にするか、又は、前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)において、動きベクトル予測を非時間的に実現する処理、又は、
動きベクトル予測を無効にするか、又は、前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)において、動きベクトル予測を非時間的に実現する処理、
の少なくとも1つを実行するステップと、
を有する、方法。
【請求項51】
第1のレイヤ(601)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(600)に、少なくとも1つのピクチャを符号化する方法であって、
前記第2のレイヤ(602)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ(103)と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ(101
2,・・・,101
n)とを含み、
前記方法は、
前記マルチレイヤ化されたスケーラブルビデオデータストリーム(600)に、前記第2のレイヤ(602)の前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)が前記第1のレイヤ(601)のサンプル(202r)からレイヤ間予測される確率に関する情報と、
前記リフレッシュ期間(RP)に含まれる前記1つ以上の以降のピクチャ(101
2,・・・,101
n)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、
前記GDRピクチャ(103)の未リフレッシュサブエリア(101u)において、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、
という情報と、を搬送する通知を書き込むステップと、
を有する、方法。
【請求項52】
コンピュータ又は信号プロセッサ上で実行されると、請求項50又は51に記載の方法を実現するコンピュータプログラム。
【請求項53】
マルチレイヤ化されたスケーラブルビデオデータストリーム(700)であって、
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有し、前記第1及び第2のレイヤ(701,702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記スケーラブルビデオデータストリーム(700)は、前記第2のレイヤ(例えば、エンハンスメントレイヤ)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測によって符号化されるかを示す通知を含む、マルチレイヤ化されたスケーラブルビデオデータストリーム。
【請求項54】
前記通知は、前記第2のレイヤ(702)の時間サブレイヤ(702a,702b)がレイヤ間予測なしに符号化される所定の時間識別子を含む、請求項53に記載のマルチレイヤ化されたスケーラブルビデオデータ(700)。
【請求項55】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測なしに符号化される、請求項54に記載のマルチレイヤ化されたスケーラブルビデオデータ。
【請求項56】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測により符号化される、請求項54又は55に記載のマルチレイヤ化されたスケーラブルビデオデータ。
【請求項57】
前記通知が、前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のため下位レイヤ(701)の時間サブレイヤ(701b)を利用しないことを示す場合、前記下位レイヤ(701)の時間サブレイヤ(701b)は、前記マルチレイヤ化されたスケーラブルビデオデータ(700)から破棄可能である、請求項53から56の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータ(700)。
【請求項58】
前記通知が前記マルチレイヤ化されたスケーラブルビデオデータ(700)にfう組まれているか、又は、前記第2のレイヤ(702)のデフォルト毎の全ての時間サブレイヤ(702a,702b)が下位レイヤ(701)に依存しているかを示すためのシンタックス要素を更に含む、請求項53から57の何れか一項に記載のマルチレイヤ化されたスケーラブルビデオデータ(700)。
【請求項59】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)から、少なくとも1つのピクチャを復号化するデコーダであって、前記第1及び第2のレイヤ(701,702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記デコーダは、前記スケーラブルビデオデータストリーム(700)から導出される通知に基づいて、レイヤ間予測を利用することによって前記時間サブレイヤ(701a,701b,702a,702b)の1つ以上を復号化するよう構成され、前記通知(例えば、vps_sub_layer_independent_flag[i][j])は、前記第2のレイヤ(例えば、エンハンスメントレイヤ)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測によって符号化されるかを示す、デコーダ。
【請求項60】
前記通知は、前記第2のレイヤ(702)の時間サブレイヤ(702a,702b)がレイヤ間予測なしに符号化される所定の時間識別子を有する、請求項59に記載のデコーダ。
【請求項61】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測なしに符号化される、請求項60に記載のデコーダ。
【請求項62】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測により符号化される、請求項60又は61に記載のデコーダ。
【請求項63】
前記デコーダが、前記通知から前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のために下位レイヤ(701)の時間サブレイヤ(701b)を利用しないことを導出した場合、前記デコーダは、復号化から前記下位レイヤ(701)の時間サブレイヤ(701b)を破棄するよう構成される、請求項60から62の何れか一項に記載のデコーダ。
【請求項64】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)に、少なくとも1つのピクチャを符号化するエンコーダであって、前記第1及び第2のレイヤ(701,702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記エンコーダは、レイヤ間予測を利用することによって前記時間サブレイヤ(701a,701b,702a,702b)の1つ以上を符号化し、前記スケーラブルビデオデータストリーム(700)に通知を書き込むよう構成され、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測によって符号化されるかを示す、エンコーダ。
【請求項65】
前記通知は、前記第2のレイヤ(702)の時間サブレイヤ(702a,702b)がレイヤ間予測なしに符号化される所定の時間識別子を有する、請求項64に記載のエンコーダ。
【請求項66】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測なしに符号化される、請求項65に記載のエンコーダ。
【請求項67】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測により符号化される、請求項65又は66に記載のエンコーダ。
【請求項68】
前記エンコーダが、前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のために下位レイヤ(701)の時間サブレイヤ(701b)を利用しないことを判定した場合、前記エンコーダは、符号化から前記下位レイヤ(701)の時間サブレイヤ(701b)を破棄するよう構成される、請求項64から67の何れか一項に記載のエンコーダ。
【請求項69】
前記エンコーダは、前記ピクチャの第2のシーケンスの連続するピクチャの第1の所定のローを従属しているとして符号化するか、又は、前記ピクチャの第2のシーケンスの連続するピクチャの第2の所定のローをレイヤ間依存性を利用したとして符号化するよう構成される、請求項64から68の何れか一項に記載のエンコーダ。
【請求項70】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)から、少なくとも1つのピクチャを復号化する方法であって、前記第1及び第2のレイヤ(701,702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記方法は、
前記スケーラブルビデオデータストリーム(700)から導出される通知に基づいて、レイヤ間予測を利用することによって前記時間サブレイヤ(702a,702b)の1つ以上を復号化するステップを有し、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測によって符号化されるかを示す、方法。
【請求項71】
前記通知は、前記第2のレイヤ(702)の時間サブレイヤ(702a,702b)がレイヤ間予測なしに符号化される所定の時間識別子を有する、請求項70に記載の方法。
【請求項72】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測なしに符号化される、請求項71に記載の方法。
【請求項73】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測により符号化される、請求項71又は72に記載の方法。
【請求項74】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)に、少なくとも1つのピクチャを符号化する方法であって、前記第1及び第2のレイヤ(701,702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記方法は、
レイヤ間予測を利用することによって前記時間サブレイヤ(702a,702b)の1つ以上を符号化し、前記スケーラブルビデオデータストリーム(700)に通知を書き込むステップを有し、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測によって符号化されるかを示す、方法。
【請求項75】
前記通知は、前記第2のレイヤ(702)の時間サブレイヤ(702a,702b)がレイヤ間予測なしに符号化される所定の時間識別子を有する、請求項74に記載の方法。
【請求項76】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測なしに符号化される、請求項75に記載の方法。
【請求項77】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測により符号化される、請求項75又は76に記載の方法。
【請求項78】
コンピュータ又は信号プロセッサ上で実行されると、請求項70から73又は請求項74から77に記載の方法を実現するコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ピクチャの符号化に関し、特に連続するピクチャのシーケンスの符号化に関する。いくつかの実施例は、スケーラブル符号化及び/又はピクチャを符号化するための、いわゆる漸進的デコーダリフレッシュ(GDR)符号化方式を利用しうる。いくつかの実施例は、スケーラブル符号化及び漸進的デコーダリフレッシュの改良を提案するものであってもよい。
【背景技術】
【0002】
今日のビデオ符号化において、いくつかのシナリオは、非常に低い遅延伝送を必要とする。低遅延のエンド・ツー・エンドの遅延が必要とされるときはいつでも、ピクチャからピクチャへのビットレートの変化は望ましくない。典型的には、ビデオは、符号化されたピクチャのサイズが、コンテンツの複雑さの特性だけでなく、使用される予測構造によっても変化するように符号化される。より具体的には、典型的には、ビデオは、いくつかのピクチャが(他のピクチャに依存しない)イントラスライスとして符号化され、他のピクチャが(参照として他のピクチャを使用して)B又はPスライスとして符号化されることに基づく予測構造を利用して符号化される。明らかに、他のピクチャに対する予測なしにピクチャが符号化されることは、時間的相関が利用され、ピクチャがB又はPスライスとして符号化されるときよりも大きなサイズをもたらす。
【0003】
各ピクチャがイントラ予測のみを利用するブロックのいくつかの混合と、インター予測を利用するいくつかのブロックとにより符号化される、この典型的な符号化構造のビットをドリフトさせるいくつかの技術がある。このような場合、イントラ予測のみを用いて符号化されるピクチャは存在しないため、(イントラ予測ブロックとインター予測ブロックとの比率が全てのピクチャにわたって同様に維持される場合)全てのピクチャのサイズは同様に維持される。
【0004】
これは、他の符号化構造アプローチに比べて最大のピクチャのサイズがより小さく、従って、それを送信する時間もより小さくなるに従って、より低いエンド・ツー・エンド遅延を達成するのに理想的である。
【0005】
典型的には、このような構造は、クリーンなピクチャを達成するため、いくつかのピクチャが復号化される必要があり、コンテンツが適切に表示可能になるまで、ビデオ領域が徐々に復号化及びリフレッシュされる一方、典型的な符号化構造では、特定の形式のイントラフレーム(ランダムアクセスポイント-RAP)のみが存在することが必要とされ、より多くのアクセスユニットを復号化する必要なく、コンテンツが瞬時に表示可能になるという事実において、典型的な符号化構造とは異なるため、漸進的復号化リフレッシュ(GDR)として識別される。
【0006】
ピクチャシーケンスにおけるフレーム又はピクチャにアクセスする際、いわゆる同調時間と符号化効率との間にトレードオフが存在しうる。符号化効率を損なうことなく、同調時間(平均的又はワーストケースの何れか)を短縮することを可能にする機構が望ましい。さらに、ピクチャは、いわゆる、リフレッシュ期間RPにおいて経時的にリフレッシュされうるピクチャ領域(例えば、タイル)に再分割され得る。しかしながら、どの領域がクリーンであり(リフレッシュされ)、どの領域がリフレッシュされていないかの特定は明確ではなく、従って、イントラ予測は、未だクリーンでない(ダーティ)領域とクリーン領域との間で容易に制限することができないなど、いくつかのペナルティを伴う。
【発明の概要】
【0007】
従って、本発明の課題は、既存のGDRエンコーダ、デコーダ及びデータストリームを改良することである。
【0008】
第1の態様は、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスを含むビデオデータストリームに関する。ビデオデータストリームは更に、ピクチャエリア(例えば、フレーム全体)を第1のサブエリア及び第2のサブエリアに細分する複数のピクチャ構成を規定するパラメータセット(SPS)を有し、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(例えば、タイル)を含むリフレッシュサブエリア(例えば、ピクチャ領域のセット)に対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域を含む未リフレッシュサブエリアに対応する。ビデオデータストリームは更に、リフレッシュ期間内の各ピクチャに対して、複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子(reg_conf_idx)を有する。
【0009】
さらに、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスから少なくとも1つのピクチャをデータストリームから復号化するデコーダを提供することが提案される。デコーダは、データストリームから、ピクチャエリア(例えば、フレーム全体)を第1のサブエリア及び第2のサブエリアに細分する複数のピクチャ構成を規定するパラメータセットを読むよう構成され、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(例えば、タイル)を含むリフレッシュサブエリア(例えば、ピクチャ領域のセット)に対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域(102u)を含む未リフレッシュサブエリアに対応する。デコーダは更に、データストリームから、リフレッシュ期間内の各ピクチャに対して、少なくとも1つのピクチャを復号化するための複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子(reg_conf_idx)を読むよう構成される。
【0010】
さらに、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスから少なくとも1つのピクチャをデータストリームに符号化するエンコーダを提供することが提案される。エンコーダは、データストリームに、ピクチャエリア(例えば、フレーム全体)を第1のサブエリア及び第2のサブエリアに細分する複数のピクチャ構成を規定するパラメータセットを書き込むよう構成され、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(例えば、タイル)を含むリフレッシュサブエリア(例えば、ピクチャ領域のセット)に対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域を含む未リフレッシュサブエリアに対応する。エンコーダは更に、データストリームに、リフレッシュ期間(RP)内の各ピクチャに対して、複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子(reg_conf_idx)を設定するよう構成される。
【0011】
第2の態様は、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスを有し、ピクチャのシーケンスの各ピクチャは、各ピクチャが細分されるブロック(例えば、CTU)の単位でビデオデータストリームに順次符号化される、ビデオデータストリームに関する。ビデオデータストリームは、暗黙的シグナリングを有し、各ピクチャのリフレッシュサブエリアは、ブロック符号化順に基づいてビデオデータストリームにおいて暗黙的に通知される。さらに又はあるいは、ビデオデータストリームは、各ブロックに対して、
a)ブロックは、各ピクチャの第1のサブエリアに配置され、最後に符号化された最後のブロックであり(例えば、flag:last_ctu_of_gdr_region)、及び/又は、
b)ブロックは、各ピクチャの第1のサブエリアに配置され、最初に符号化された最初のブロックであり(例えば、flag:first_ctu_of_gdr_region)、及び/又は、
c)ブロックは、第1のサブエリアを制限するボーダに隣接し、及び/又は、
d)ブロックは、第1のサブエリア(例えば、flag:gdr_region_flag)の内部に配置される、
か否かを示すシンタックス要素(例えば、フラグ)を有する。
【0012】
さらに、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスからの少なくとも1つのピクチャをデータストリームから復号化するデコーダであって、ピクチャのシーケンスの各ピクチャは、各ピクチャが細分されるブロック(例えば、CTU)の単位でビデオデータストリームから順次復号化される、デコーダを提供することが提案される。デコーダは、データストリームから、ブロック符号化順に基づいて少なくとも1つのピクチャのリフレッシュサブエリアを暗黙的に導出するよう構成される。さらに又はあるいは、デコーダは、データストリームから、各ブロックに対して、
a)ブロックは、各ピクチャの第1のサブエリアに配置され、最後に符号化された最後のブロックであり(例えば、flag:last_ctu_of_gdr_region)、及び/又は、
b)ブロックは、各ピクチャの第1のサブエリアに配置され、最初に符号化された最初のブロックであり(例えば、flag:first_ctu_of_gdr_region)、及び/又は、
c)ブロックは、第1のサブエリアを制限するボーダに隣接し、及び/又は、
d)ブロックは、第1のサブエリア(例えば、flag:gdr_region_flag)の内部に配置される、
か否かを示すシンタックス要素(例えば、フラグ)を読むよう構成される。
【0013】
さらに、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャのシーケンスからの少なくとも1つのピクチャをデータストリームに符号化するエンコーダであって、ピクチャのシーケンスの各ピクチャは、各ピクチャが細分されるブロック(例えば、CTU)の単位でビデオデータストリームに順次符号化される、エンコーダを提供することが提案される。エンコーダは、データストリームに、各ブロックに対して、
a)ブロックは、各ピクチャの第1のサブエリアに配置され、最後に符号化された最後のブロックであり(例えば、flag:last_ctu_of_gdr_region)、及び/又は、
b)ブロックは、各ピクチャの第1のサブエリアに配置され、最初に符号化された最初のブロックであり(例えば、flag:first_ctu_of_gdr_region)、及び/又は、
c)ブロックは、第1のサブエリアを制限するボーダに隣接し、及び/又は、
d)ブロックは、第1のサブエリア(例えば、flag:gdr_region_flag)の内部に配置される、
か否かを示すシンタックス要素(例えば、フラグ)を書き込むよう構成される。
【0014】
第3の態様は、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有し、前記第2のレイヤにおけるピクチャの第2のシーケンスは、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャと、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含む、マルチレイヤ化されたスケーラブルビデオデータストリームに関する。マルチレイヤ化されたスケーラブルビデオデータストリームは、第2のレイヤのGDRピクチャの未リフレッシュサブエリアが第1のレイヤのサンプルからレイヤ間予測される確率に関する情報を有する。さらに、マルチレイヤ化されたスケーラブルビデオデータは、
リフレッシュ期間に含まれる1つ以上の以降のピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測が無効にされるか、又は動きベクトル予測が非時間的に実現される、又は、
GDRピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測が無効にされるか、又は動きベクトル予測が非時間的に実現される、
という情報と、
を搬送する通知を有する。
【0015】
さらに、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有するマルチレイヤ化されたスケーラブルビデオデータストリームから、少なくとも1つのピクチャを復号化するデコーダであって、第2のレイヤにおけるピクチャの第2のシーケンスは、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャと、リフレッシュ期間における1つ以上の以降のピクチャとを含む、デコーダを提供することが提案される。デコーダは、マルチレイヤ化されたスケーラブルビデオデータストリームから、第2のレイヤのGDRピクチャの未リフレッシュサブエリアが第1のレイヤのサンプルからレイヤ間予測される確率に関する情報を搬送する通知を読むよう構成される。デコーダは更に、通知に応答して、動きベクトル予測を無効にするか、又は、リフレッシュ期間に含まれる1つ以上の以降のピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測を非時間的に実現するよう構成されるか、又は、
動きベクトル予測を無効にするか、又は、GDRピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測を非時間的に実現するよう構成される。
【0016】
さらに、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有するマルチレイヤ化されたスケーラブルビデオデータストリームに、少なくとも1つのピクチャを符号化するエンコーダであって、第2のレイヤにおけるピクチャの第2のシーケンスは、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャと、リフレッシュ期間における1つ以上の以降のピクチャとを含む、エンコーダを提供することが提案される。エンコーダは、マルチレイヤ化されたスケーラブルビデオデータストリームに、第2のレイヤのGDRピクチャの未リフレッシュサブエリアが第1のレイヤのサンプルからレイヤ間予測される確率に関する情報と、
リフレッシュ期間に含まれる1つ以上の以降のピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、
GDRピクチャの未リフレッシュサブエリアにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、
という情報と、を搬送する通知を書き込むよう構成される。
【0017】
第4の態様は、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有し、第1及び第2のレイヤの各々は、複数の時間サブレイヤを有する、マルチレイヤ化されたスケーラブルビデオデータストリームに関する。スケーラブルビデオデータストリームは更に、第2のレイヤ(例えば、エンハンスメントレイヤ)の何れの時間サブレイヤがレイヤ間予測によって符号化されるかを示す通知(例えば、vps_sub_layer_independent_flag[i][j])を含む。
【0018】
さらに、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有するマルチレイヤ化されたスケーラブルビデオデータストリームから、少なくとも1つのピクチャを復号化するデコーダであって、第1及び第2のレイヤの各々は、複数の時間サブレイヤを有する、デコーダを提供することが提案される。デコーダは、スケーラブルビデオデータストリームから導出される通知に基づいて、レイヤ間予測を利用することによって時間サブレイヤの1つ以上を復号化するよう構成され、通知(例えば、vps_sub_layer_independent_flag[i][j])は、第2のレイヤ(例えば、エンハンスメントレイヤ)の何れの時間サブレイヤがレイヤ間予測によって符号化されるかを示す。
【0019】
さらに、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャの第1のシーケンスと、第2のレイヤ(例えば、エンハンスメントレイヤ)におけるピクチャの第2のシーケンスとを有するマルチレイヤ化されたスケーラブルビデオデータストリームに、少なくとも1つのピクチャを符号化するエンコーダであって、第1及び第2のレイヤの各々は、複数の時間サブレイヤを有する、エンコーダを提供することが提案される。エンコーダは、レイヤ間予測を利用することによって時間サブレイヤの1つ以上を符号化し、スケーラブルビデオデータストリームに通知を書き込むよう構成され、通知(例えば、vps_sub_layer_independent_flag[i][j])は、第2のレイヤ(例えば、エンハンスメントレイヤ)の何れの時間サブレイヤがレイヤ間予測によって符号化されるかを示す。
【0020】
第5の態様は、ビデオデータストリームであって、タイルに細分される少なくとも1つのピクチャと、タイルリオーダリングフラグと、を有し、
a)データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)が第1の状態を有する場合、ピクチャのタイルがピクチャをタイル毎に探索する第1の符号化順を利用して符号化されることが通知され、及び/又は、
b)データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、ピクチャのタイルがピクチャをラスタスキャン順に探索する第2の符号化順を利用して符号化されることが通知される、ビデオデータストリームに関する。
【0021】
さらに、データストリームからピクチャを復号化するよう構成されるデコーダであって、
a)データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)が第1の状態を有する場合、デコーダは、ピクチャをタイル毎に探索する第1の復号化順を利用してデータストリームからピクチャのタイルを復号化するよう構成され、及び/又は、
b)データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、デコーダは、ピクチャをラスタスキャン順に探索する第2の復号化順を利用してデータストリームからピクチャのタイルを復号化するよう構成される、デコーダを提供することが提案される。
【0022】
さらに、ピクチャをデータストリームに符号化するよう構成されるエンコーダであって、
a)エンコーダは、データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)を、ピクチャのタイルがピクチャをタイル毎に探索する第1の符号化順を利用して符号化されることを示す第1の状態に設定するよう構成され、
b)エンコーダは、データストリームにおけるタイルリオーダリングフラグを、ピクチャのタイルがピクチャをラスタスキャン順に探索する第2の符号化順を利用して符号化されることを示す第2の状態に設定するよう構成される、エンコーダを提供することが提案される。
【図面の簡単な説明】
【0023】
以下において、本開示の実施例が図面を参照してより詳細に説明される。
【
図1】一実施例による漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図2】一実施例による漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図3】一実施例によるピクチャ領域のカラムを利用した漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図4】一実施例によるピクチャ領域のローを利用した漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図5】一実施例によるピクチャ領域のパケットを利用した漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図6】一実施例によるスケーラブルマルチレイヤビデオビットストリームを利用した漸進的復号化リフレッシュコンセプトの概略図を示す。
【
図7】一実施例による複数の時間サブレイヤを有するスケーラブルビデオビットストリームを利用した漸進的復号化リフレッシュコンセプトの概略図を示す。
【発明を実施するための形態】
【0024】
以下の説明では、同等又は等価な機能を有する同等又は等価な要素が、同等又は等価な参照番号によって示される。
【0025】
ブロック図によって示され、ブロック図を参照して説明される方法ステップは、図示及び/又は説明される順序と異なる順序で実行されてもよい。さらに、デバイスの特定の特徴に関する方法ステップは、当該デバイスの特徴と置き換え可能であってもよく、他の方法で置き換え可能であってもよい。
【0026】
さらに、本開示において、フレーム及びピクチャという用語は、互換的に利用されてもよい。
【0027】
図1は、クリーンピクチャを実現するため、いくつかのピクチャが復号される必要があり、コンテンツが適切に表示されるまで、ビデオエリアが徐々に復号化及びリフレッシュ化されるという事実において、従来の符号化構造と異なる漸進的復号化リフレッシュ(GDR)符号化構造の具体例を示す。対照的に、従来の符号化構造では、特定の形式のイントラフレーム(ランダムアクセスポイント-RAP)のみが存在することが必要とされ、コンテンツは、より多くのアクセスユニットを復号化する必要なく即座に表示可能である。
【0028】
図1は、連続した順序によるピクチャ101
1,101
2,・・・,101
nのシーケンス100を示す。各ピクチャ101
1,101
2,・・・,101
nは、例えば、タイルなどのピクチャ領域102に分割されてもよい。タイル102は、イントラ符号化102a又はインター符号化102bされてもよい。イントラ符号化されたピクチャ領域102aは、デコーダがビットストリームへのアクセスを開始し、漸進的復号化リフレッシュ(GDR)原理に従ってピクチャ全体のリフレッシュ処理を開始しうるアクセスを提供してもよい。従って、そのようなイントラ符号化ピクチャ領域102aを含むフレーム又はピクチャはまた、アクセスユニット(AU)と呼ばれてもよい。
【0029】
イントラ符号化ピクチャ領域102aを含むピクチャは、GDRピクチャ103と呼ばれてもよい。本例では、1つおきのピクチャが、GDRピクチャ103であってもよい。従って、本例では、GDRデルタは2である。イントラ符号化されたピクチャ領域(すなわち、イントラ符号化ピクチャ領域102a)はそれぞれ、リフレッシュされたピクチャ領域又はクリーンピクチャ領域と呼ばれてもよい。アクセス後にまだ符号化されていないピクチャ領域はそれぞれ、非リフレッシュピクチャ領域又はダーティピクチャ領域と呼ばれてもよい。
【0030】
変形例A:フルMCTSベース
リフレッシュ期間(RP)は、全てのピクチャ領域102がリフレッシュされ、クリーンピクチャが表示可能になるまで待機される必要がある時間間隔である。このようなビットストリームを構成する異なる形式がある。
図1では、(9つのタイル×1つおきのフレームにおける新たなリフレッシュされたタイル-1)=17フレームがリフレッシュ期間(RP)であり、すなわち、全てのピクチャ領域102がリフレッシュされるまでのフレームの数である。
【0031】
さらに、本例では、GDRピクチャ103は、1つおきのピクチャ、すなわち、デコーダがビットストリームへのアクセスを開始し、完全なRPの後に完全なピクチャを復号化することが可能なピクチャごとに存在してもよい。これは、例えば、HEVCにおいてMCTSと呼ばれる、全てのピクチャ領域102を経時的に独立して符号化し、上記の例では、ピクチャ領域102間で2フレームの距離でイントラ符号化されたブロック102aを時間的に拡散することによって実現することができる。
【0032】
変形例B:制限されたタイル間(添付された図2を参照し、また上述されたものを参照されたい)
図2は、GDRフレーム103を18フレーム毎に有し、領域間の依存性(no-MCTS)を許容するが、以前にリフレッシュされた領域への依存性のみを許容することによってGDR構造が実現可能な更なる構成を示す。この場合、1つの領域のみがイントラブロックによりリフレッシュされ、更なる領域は、時間的にリフレッシュされた領域を参照することができる。これは、領域が完全なMCTSによっては符号化されていないため、第1の表示された構成としてより良い効率を可能にする。
【0033】
図2に示される非限定的な例では、リフレッシュ期間(RP)は17フレームを含む一方、18ピクチャ毎にGDRピクチャ103が存在する。
【0034】
変形例C:カラムベース
図3は、17フレームがリフレッシュ期間(RP)である一方、GDRピクチャ103が18ピクチャ毎に存在する更なる非限定的な例を示す。図から理解されるように、本例におけるイントラ符号化されたピクチャ領域102aは、上述されたピクチャタイルの代わりにピクチャカラムを含んでもよい。
【0035】
変形例D:ローベース
図4は、17フレームがリフレッシュ期間(RP)である一方、GDRピクチャ103が18ピクチャ毎に存在する更なる非限定的な例を示す。図から理解されるように、本例におけるイントラ符号化されたピクチャ領域102aは、上述されたピクチャタイルの代わりにピクチャローを含んでもよい。
【0036】
要約すると、上述されたGDRの非限定的な具体例の変形の全てに対して、RPは17であってもよく、GDR周期は、以下のテーブルに示されるように、Δ=2又はΔ=18であってもよい。
【表1】
【0037】
GDR技術を評価するための更なる重要な態様は、ピクチャを表示するために必要とされる同調時間(tune-in time)であり、これは、RPと、GDRピクチャ103が検出されるまでに待機する必要がある時間とを加えたものから構成される。上のテーブルは、平均及びワーストケースの同調時間を示している。
【0038】
異なるGDRシナリオの問題
1)上述したように、構成Aは、領域がMCTSとして符号化されているため、同じRPに対してワーストな符号化効率を有する構成である。しかしながら、このような構成の同調時間は、何れかの構成B~Dよりもはるかに小さい。符号化効率を損なうことなく、同調時間(平均又はワーストケースの何れか)を短縮することを可能にする機構が望ましい。
【0039】
2)B~Cから分かるように、領域は静的な方法で規定されなくてもよく、従って、例えば、タイルなどのある程度独立した領域を使用することのシグナリングオーバヘッド及び効率ペナルティを低減する。しかしながら、何れの領域がクリーン(リフレッシュされた)であり、何れの領域がまだリフレッシュされていないかの識別は明確ではなく、従って、イントラ予測は、まだクリーンでない(ダーティ)領域とクリーン領域との間で容易に制限することはできないなど、いくつかのペナルティを伴う。
【0040】
1.動的なGDR領域シグナリング
ピクチャからピクチャへの領域変更の問題(すなわち、未リフレッシュピクチャ領域からリフレッシュピクチャ領域への変更)を解決するため、ピクチャ毎に更新されたPPSを送信する必要があるという負担を回避するため、2つの発明的なアプローチが想定可能である。
【0041】
第1の発明的アプローチでは、例えば、タイル形式など、ピクチャ領域のいくつかの構成が、SPS(Sequence Parameter Set)又はPPS(Picture Parameter Set)内でシグナリングされてもよく、スライスヘッダは、何れが所与のAU(Access Unit)に対して利用されるタイル構成であるかを示すためのインデックスを指示してもよい。従って、リフレッシュ及び未リフレッシュピクチャ領域の動的なシグナリングが、本発明のアプローチに提供されてもよい。
【表2】
【0042】
本開示では、ピクチャ領域は、フレーム101全体又はピクチャ101を含んでもよい。ピクチャエリアは、ピクチャサブエリアに分割されてもよい。
図2の第4のフレームに例示的に示されるように、第1のピクチャサブエリア101rは、リフレッシュピクチャ領域102rのみを含んでもよい。従って、この第1のピクチャサブエリア101rは、リフレッシュピクチャサブエリア101rと呼ばれてもよい。他方、第2のピクチャサブエリア101uは、未リフレッシュピクチャ領域102uのみを含んでもよい。従って、この第2のピクチャサブエリア101uは、未リフレッシュピクチャサブエリア101uと呼ばれてもよい。ピクチャ領域102は、一般に、ピクチャタイル(
図1及び
図2)、ピクチャタイルカラム(
図3)、ピクチャタイルライン(
図4)、符号化ブロック(例えば、CTU)、符号化ブロックライン、符号化ブロックロー、符号化ブロック対角要素(diagonal)、サンプル、サンプルのロー、又はサンプルのカラムの少なくとも1つを含んでもよい。リフレッシュピクチャ領域102rは、リフレッシュピクチャタイル(
図1及び
図2)、リフレッシュピクチャタイルカラム(
図3)、リフレッシュピクチャタイルライン(
図4)、リフレッシュ符号化ブロック(例えば、CTU)、リフレッシュ符号化ブロックライン、リフレッシュ符号化ブロックロー、リフレッシュ符号化ブロック対角要素、リフレッシュサンプル、リフレッシュサンプルロー、又はリフレッシュサンプルカラムの少なくとも1つを含んでもよい。未リフレッシュピクチャ領域102uは、未リフレッシュピクチャタイル(
図1及び
図2)、未リフレッシュピクチャタイルカラム(
図3)、未リフレッシュピクチャタイルライン(
図4)、未リフレッシュ符号化ブロック(例えば、CTU)、未リフレッシュ符号化ブロックライン、未リフレッシュ符号化ブロックロー、未リフレッシュ符号化ブロック対角要素、未リフレッシュサンプル、未リフレッシュサンプルロー、又は未リフレッシュサンプルカラムの少なくとも1つを含んでもよい。
【0043】
本発明の第1の態様の実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(Gradual Decoder Refresh(GDR))符号化ピクチャ103と、リフレッシュ期間RPにおける1つ以上の以降のピクチャとを含むピクチャ1011,1012,・・・,101nのシーケンス100を有するビデオデータストリームが提供されてもよい。ビデオデータストリームは更に、ピクチャエリア101(例えば、フレーム全体)を第1のサブエリア101r(例えば、タイル、ロー、カラムなどを有する第1の1つ以上のピクチャ領域102)及び第2のサブエリア101u(例えば、タイル、ロー、カラムなどを有する第2の1つ以上のピクチャ領域102)に細分する複数のピクチャ構成を規定するパラメータセット(例えば、SPS又はPPS)を有し、一方のサブエリアは1つ以上のリフレッシュピクチャ領域(例えば、タイル)(のセット)を有するリフレッシュサブエリア101rに対応し、他方のサブエリア101uは1つ以上の未リフレッシュピクチャ領域(のセット)を有する未リフレッシュサブエリア101に対応する。本発明の原理によると、ビデオデータストリームは、リフレッシュ期間RP内の各ピクチャ1011,1012,・・・,101nに対して、複数のピクチャ構成から対応する1つのピクチャ構成を識別するためのピクチャ構成識別子(例えば、region_configuration_idx)を有する。
【0044】
更なる実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームから復号化する対応するデコーダであって、デコーダは、データストリームから、ピクチャエリア(例えば、フレーム全体)101を第1のサブエリア101r及び第2のサブエリア101uに細分する複数のピクチャ構成を規定するパラメータセット(例えば、PPS又はSPS)を読むよう構成され、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域(例えば、リフレッシュされたタイル)102rを含むリフレッシュサブエリア(例えば、リフレッシュされたピクチャ領域のセット)101rに対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域102uを含む未リフレッシュサブエリア101uに対応する、デコーダを提供することが提案される。デコーダは更に、データストリームから、リフレッシュ期間(RP)内の各ピクチャ1011,1012,・・・,101nに対して、少なくとも1つのピクチャ1011,1012,・・・,101nを復号化するための複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子(region_configuration_idx)を読むよう構成されてもよい。
【0045】
更なる実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームに符号化する対応するエンコーダであって、エンコーダは、データストリームに、ピクチャエリア101を第1のサブエリア101r及び第2のサブエリア101uに細分する複数のピクチャ構成を規定するパラメータセットを書き込むよう構成され、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域102rを含むリフレッシュサブエリア101rに対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域102uを含む未リフレッシュサブエリア101uに対応する、エンコーダを提供することが提案される。エンコーダは更に、データストリームに、リフレッシュ期間(RP)内の各ピクチャ1011,1012,・・・,101nに対して、少なくとも1つのピクチャ1011,1012,・・・,101nを復号化するための複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を設定するよう構成される。
【0046】
更なる実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームから復号化する対応する方法であって、方法は、データストリームから、ピクチャエリア101を第1のサブエリア101r及び第2のサブエリア101uに細分する複数のピクチャ構成を規定するパラメータセットを読むステップであって、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域102rを含むリフレッシュサブエリア101rに対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域102uを含む未リフレッシュサブエリア101uに対応する、読むステップを有する方法を提供することが提案される。方法は更に、データストリームから、リフレッシュ期間(RP)内の各ピクチャ1011,1012,・・・,101nに対して、少なくとも1つのピクチャ1011,1012,・・・,101nを復号化するための複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を読むステップを有する。
【0047】
更なる実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームに符号化する方法であって、方法は、データストリームに、ピクチャエリア101を第1のサブエリア101r及び第2のサブエリア101uに細分する複数のピクチャ構成を規定するパラメータセットを書き込むステップであって、そのうちの1つは、1つ以上のリフレッシュされたピクチャ領域102rを含むリフレッシュサブエリア101rに対応し、他の1つは、1つ以上のまだリフレッシュされていないピクチャ領域102uを含む未リフレッシュサブエリア101uに対応する、書き込むステップを有する、方法を提供することが提案される。方法は更に、データストリームに、リフレッシュ期間(RP)内の各ピクチャ1011,1012,・・・,101nに対して、複数のピクチャ構成から対応する1つのピクチャ構成を識別するピクチャ構成識別子を設定するステップを有する。
【0048】
上述したように、ピクチャ1011,1012,・・・,101nのシーケンス100は、イントラ予測が第1のサブエリア101rと第2のサブエリア101uとの間の境界を横切らないようにして符号化されてもよい。さらに又はあるいは、ピクチャ1011,1012,・・・,101nのシーケンス100は、リフレッシュサブエリア101rの時間予測が未リフレッシュサブエリア101uを参照しないようにして符号化されてもよい。さらに又はあるいは、ピクチャ1011,1012,・・・,101nのシーケンス100は、コンテクストモデル導出が第1のサブエリア101rと第2のサブエリア101uとの間の境界を横切らないようにして符号化されてもよい。
【0049】
効果的な実施例によると、対応する1つのピクチャ構成は、ピクチャのシーケンス100の現在符号化されているピクチャ1011,1012,・・・,101nに含まれるリフレッシュピクチャ領域102r及び未リフレッシュピクチャ領域102uを示す。
【0050】
更なる効果的な実施例によると、複数のピクチャ構成からの各ピクチャ構成は、何れのピクチャ領域102がリフレッシュピクチャ領域102rであり、何れのピクチャ領域102が未リフレッシュピクチャ領域102uであるかを通知するための領域インデックスセットを有してもよい。これは、リフレッシュ及び未リフレッシュピクチャ領域102r,102uの明示的なシグナリングを提供する。
【0051】
例えば、
図1及び
図2を参照して図示及び上述されたように、ピクチャのシーケンス100に含まれるピクチャ101
1,101
2,・・・,101
nは、1つ以上のタイル102に細分されてもよい。この場合、複数のピクチャ構成からの各ピクチャ構成は、何れのピクチャタイル102がリフレッシュピクチャタイル102rであり、何れのピクチャタイル102が未リフレッシュピクチャタイル102uであるかを通知するためのタイルインデックスセットを有してもよい。従って、一実施例では、領域構成は、タイルインデックスセットを含んでもよい。
【0052】
更なる実施例によると、
図3を参照して例示的に説明したように、ピクチャのシーケンス100に含まれるピクチャ101
1,101
2,・・・,101
nは、ピクチャタイルカラムに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れのピクチャカラムがリフレッシュピクチャカラム102rであり、及び/又は、何れのピクチャカラムが未リフレッシュピクチャカラム102uであるかを通知するための少なくとも1つのカラムインデックスを有する。従って、領域構成は、タイルカラムインデックスを含んでもよい。
【0053】
更なる実施例によると、
図4を参照して例示的に説明したように、ピクチャのシーケンス100に含まれるピクチャ101
1,101
2,・・・,101
nは、ピクチャタイルローに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れのピクチャローがリフレッシュピクチャロー102rであり、及び/又は、何れのピクチャローが未リフレッシュピクチャロー102uであるかを通知するための少なくとも1つのローインデックスを有する。従って、領域構成は、タイルローインデックスを含んでもよい。
【0054】
ピクチャ領域はまた、例えば、CTU(Coding Tree Unit)などの符号化ブロックによって表現されてもよい。
【0055】
更なる実施例によると、ピクチャのシーケンス100に含まれるピクチャ1011,1012,・・・,101nは、符号化ブロック(例えば、CTU)のローに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れの符号化ブロックのローが符号化ブロックのリフレッシュロー102rであり、及び/又は、何れの符号化ブロックのローが符号化ブロックの未リフレッシュロー102uであるかを通知するための少なくとも1つのロー符号化ブロックインデックスを有してもよい。従って、領域構成は、CTIローインデックスを含んでもよい。
【0056】
更なる実施例によると、ピクチャのシーケンス100に含まれるピクチャ1011,1012,・・・,101nは、符号化ブロック(例えば、CTU)のカラムに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れの符号化ブロックのカラムが符号化ブロックのリフレッシュカラム102rであり、及び/又は、何れの符号化ブロックのカラムが符号化ブロックの未リフレッシュカラム102uであるかを通知するための少なくとも1つのカラム符号化ブロックインデックスを有してもよい。従って、領域構成は、CTIカラムインデックスを含んでもよい。
【0057】
更なる実施例によると、ピクチャのシーケンス100に含まれるピクチャ1011,1012,・・・,101nは、符号化ブロック(例えば、CTU)の対角要素に細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れの符号化ブロックの対角要素が符号化ブロックのリフレッシュ対角要素102rであり、及び/又は、何れの符号化ブロックの対角要素が符号化ブロックの未リフレッシュ対角要素102uであるかを通知するための少なくとも1つの対角要素符号化ブロックインデックスを有してもよい。従って、領域構成は、CTI対角要素の1つ以上のインデックスを含んでもよい。
【0058】
ピクチャ領域はまた、サンプルによって表現されてもよい。
【0059】
更なる実施例によると、ピクチャのシーケンス100に含まれるピクチャ1011,1012,・・・,101nは、サンプルのローに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れのサンプルのローがサンプルのリフレッシュロー102rであり、及び/又は、何れのサンプルのローがサンプルの未リフレッシュロー102uであるかを通知するための少なくとも1つのサンプルローインデックスを有してもよい。従って、領域構成は、1つ以上のサンプルローインデックスを含んでもよい。
【0060】
更なる実施例によると、ピクチャのシーケンス100に含まれるピクチャ1011,1012,・・・,101nは、サンプルのカラムに細分されてもよく、複数のピクチャ構成からの各ピクチャ構成は、何れのサンプルのカラムがサンプルのリフレッシュカラム102rであり、及び/又は、何れのサンプルのカラムがサンプルの未リフレッシュカラム102uであるかを通知するための少なくとも1つのサンプルカラムインデックスを有してもよい。従って、領域構成は、1つ以上のサンプルカラムインデックスを含んでもよい。
【0061】
また更なる実施例によると、対応する1つのピクチャ構成は、ビデオデータストリームのスライスヘッダ及び/又はアクセスユニットデリミッタにおいて通知されてもよい。
【0062】
そのとき、スライスヘッダは、何れの構成が利用されるかを示す。
【表3】
【0063】
さらに又はあるいは、利用される領域構成に関する情報は、アクセスユニットデリミッタ(AUD)に含まれる。
【0064】
更なる実施例によると、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含むピクチャ1011,1012,・・・,101nのシーケンス100を有するビデオデータストリームを提供することが提案される。ピクチャ1011,1012,・・・,101nのシーケンス100の各ピクチャは、各ピクチャが細分されるブロック102(例えば、CTU)の単位でビデオデータストリームに順次符号化されてもよい。ビデオデータストリームは、暗黙的シグナリングを有し、各ピクチャ1011,1012,・・・,101nのリフレッシュサブエリア101rは、ブロック符号化順に基づいてビデオデータストリームにおいて暗黙的に通知される。
【0065】
また、各自のデコーダ、すなわち、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームから復号化するデコーダが提案される。ピクチャ1011,1012,・・・,101nのシーケンス100の各ピクチャは、各ピクチャが細分されるブロック102(例えば、CTU)の単位でビデオデータストリームから順次復号化されてもよい。デコーダは、データストリームから、ブロック符号化順に基づいて少なくとも1つのピクチャのリフレッシュサブエリア102rを暗黙的に導出するよう構成されてもよい。
【0066】
また、各自のエンコーダ、すなわち、少なくとも1つの漸進的デコーダリフレッシュ(GDR)符号化ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含むピクチャ1011,1012,・・・,101nのシーケンス100からの少なくとも1つのピクチャをデータストリームに符号化するエンコーダが提案される。ピクチャ1011,1012,・・・,101nのシーケンス100の各ピクチャは、各ピクチャが細分されるブロック102(例えば、CTU)の単位でビデオデータストリームに順次符号化されてもよい。エンコーダは、ブロック符号化順に基づいて少なくとも1つのピクチャのリフレッシュサブエリア101rをデータストリームから暗黙的に導出するよう構成されてもよい。
【0067】
従って、本アプローチでは、領域境界のCTUベースシグナリングが利用されてもよい。各CTU(ピクチャ領域)102は、それがGDR領域103の最後のCTU102であるか否かを示すフラグ(CABAC符号化可能である)を含んでもよい。このシグナリングは、例えば、イントラ予測及び/又はCABACリセットに対するサンプルの可用性に影響を与える。このようなアプローチの効果は、それがパラメータセットに規定される固定的なグリッドに限定されず、よりフレキシブルであることである。
【0068】
従って、実施例によると、シンタックス要素は、ピクチャ101
1,101
2,・・・,101
nのシーケンス100からのピクチャ101のリフレッシュサブエリア101rと未リフレッシュサブエリア101uとの間の境界を示すためのものであり、及び/又は、何れのサブエリアがリフレッシュサブエリア101rであり、何れのサブエリアが未リフレッシュサブエリア101uであるかを示すためのものである。
【表4】
【0069】
それがGDR領域103における最後のCTUであるか否かを示す各CTU102によると、領域における最後のCTU102がロー又はカラムに関して最後のCTU102を意味するか識別することが効果的である。このような指示は、例えば、SPSなどのパラメータセットにおいて実行されてもよい。
【表5】
【0070】
例えば、1に等しいフラグ“region_horizontal_flag”は、CTUにおける最後のCTUフラグが水平方向の分割を示し、そうでない場合、垂直方向の分割を示す。
【0071】
従って、更なる実施例によると、ビデオデータストリーム、エンコーダ及びデコーダが提案され、シンタックス要素が、
a)ブロック102は各ピクチャ101のリフレッシュサブエリア101rに配置され、最後に符号化された最後のブロックであることを示す場合、ビデオデータストリームは、
a1)ブロック102は、リフレッシュサブエリア101rのブロック102の1つ以上のローの最後に符号化されたブロックであるか、又は、
a2)ブロック102は、リフレッシュサブエリア101rのブロック102のブロック102の1つ以上のカラムの最後に符号化されたブロックである、
か否かを示すための更なるシンタックス要素(例えば、region_horizontal_flag)を有する。
【0072】
更なる実施例によると、更なるシンタックス要素は、最後のブロックが、各ピクチャ101がブロック102に細分される符号化分割ツリーの水平方向の分割(例えば、region_horizontal_flag=1)又は垂直方向の分割から導出されるか否かを示してもよい。
【0073】
更なる実施例では、領域がイントラ予測分割であるか、すなわち、他の領域の近傍が予測またはCABACなどに利用可能でないかが通知されてもよい。従って、ビデオデータストリームは、例えば、近傍ピクチャ領域102uが未リフレッシュサブエリア101uに含まれている場合、近傍ピクチャ領域102uの近傍ブロック102が予測に利用可能でないことを示すためのイントラ予測分割通知を有してもよい。
【0074】
上記で規定された双方のケースでは、利用される領域のグリッドは、CTUサイズに揃えられてもよい。すなわち、リフレッシュサブエリア101rは、各ピクチャ101が細分されるブロックのサイズと揃えられるグリッドに配置される1つ以上のリフレッシュピクチャ領域102rを有してもよい。
【0075】
ここまで説明された実施例では、領域の何れがリフレッシュ(クリーン)領域であるか、またリフレッシュでない(ダーティ)領域であるかは、必ずしも知られている必要はない。この場合、全ての領域は、以下の側面の全て又は一部において互いに“独立”していると考えられる。
・イントラ予測分割、すなわち、他の領域の近傍が予測に利用可能でない
・空間/時間MV予測
・CABAC
【0076】
あるいは、シグナリングは、最左領域101rがクリーン領域であり、イントラブロックの可用性が当該領域に制限される、すなわち、最左領域におけるブロック102が以下の側面の全て又は一部について他の(非最左)領域のブロックを利用できないことを暗黙的に通知する。
・イントラ予測分割、すなわち、他の領域の近傍が予測に利用可能でない
・空間/時間MV予測
・CABAC
【0077】
従って、実施例によると、暗黙的シグナリングは、ブロック符号化順における所定の位置にある第1のブロック102(例えば、左上の隅における第1のCTU)がリフレッシュサブエリア101rの一部であることを通知してもよい。
【0078】
リフレッシュ及び未リフレッシュ領域102r,102uの上述した暗黙的な導出に対する代替として、本発明のいくつかの実施例は、明示的なシグナリングを提供してもよく、ビデオデータストリーム、各自のエンコーダ及び各自のデコーダが提案され、ビデオデータストリームは、各ブロック102に対して、
a)ブロック102は、各ピクチャの第1のサブエリア101rに配置され、最後に符号化された最後のブロックであり(例えば、フラグ:last_ctu_of_gdr_region)、及び/又は、
b)ブロック102は、各ピクチャの第1のサブエリア101rに配置され、最初に符号化された最初のブロックであり(例えば、フラグ:first_ctu_of_gdr_region)、及び/又は、
c)ブロック102は、第1のサブエリア101rを制限するボーダに隣接し、及び/又は、
d)ブロック102は、第1のサブエリア101rの内部に配置される(例えば、フラグ:gdr_region_flag)、
か否かを示すシンタックス要素を有してもよい。
【0079】
すなわち、リフレッシュ及び未リフレッシュ領域102r,102uの上述した暗黙的な導出に対する代替として、以下の実施例において説明されるように、何れの領域がクリーン領域102rであるか否かを明示的に示すことが提案される。
【0080】
実施例では、GDR領域103のエンドを示すことに加えて、GDR領域103のスタートは、例えば、フラグ(CABC符号化された)を利用することによって、CTIレベルにおいて通知されてもよい。
【表6】
【0081】
これは、リフレッシュ領域101rが常に独立して符号化されるMTCSに類似したリフレッシュアプローチ(
図1を参照)にとって有用であろう。
【0082】
他の実施例では、CTUベース領域のスタート及び/又はエンドフラグは、水平方向の領域分割が有効にされている場合、タイル102の第1のCTUカラムのみで通知されてもよく、垂直方向の領域分割が有効にされている場合、タイル102の第1のCTUローにおいてのみ通知されてもよい。
【0083】
従って、実施例によると、各ピクチャ101のピクチャ領域は、ブロック102の1つ以上のローに水平方向に細分されてもよく、シンタックス要素(例えば、フラグ:last_ctu_of_gdr_region//フラグ:first_ctu_of_gdr_region)が、スライス102に対して通知される。
【0084】
更なる実施例によると、各ピクチャ101のピクチャ領域は、1つ以上のスライス102に垂直方向に細分されてもよく、シンタックス要素(例えば、フラグ:last_ctu_of_gdr_region//フラグ:first_ctu_of_gdr_region)が、
i.第1のローにおいてのみ、又は、
ii.全てのローにおいて、
通知される。
【0085】
他の実施例では、CTU102がGDRリフレッシュ領域103の一部であるか否かを示すCTUベース(CABAC符号化)フラグが、通知されてもよい。
【表7】
【0086】
他の実施例では、GDRリフレッシュ領域103のCTUスタート及び/又はエンドインデックスがスライスヘッダにおいて通知されてもよい。
【0087】
上述した実施例の効果の1つは、ピクチャ領域がタイル102の利用から分離されてもよく、これにより、スキャン順が影響を受けないことである。GDRを利用するアプリケーションの大部分において、低遅延伝送が所望される。低遅延伝送を実現するため、送信される全てのパケットは、全てのAUだけでなく同一サイズを有するべきである。典型的には、低遅延シナリオでは、各AUは複数のパケットに分割されてもよく、全てのパケットが同一サイズ(又は大変類似する)を有することを実現するため、各パケットは、リフレッシュされる(クリーンエリア101rに属する)同数のブロック102rと、リフレッシュされない(ダーティエリア101uに属する)同数のブロック102uを有するべきである。
【0088】
図5は、ピクチャ101
1,101
2,・・・,101
nのシーケンス100の非限定的な例を示し、各ピクチャ101
1,101
2,・・・,101
nは、複数のパケット501
1,501
2,・・・,501
nに分割されてもよい。全てのパケットが同じサイズ(又は大変類似する)を有することを実現するため、各パケット501
1,501
2,・・・,501
nは、リフレッシュされる(クリーンエリア101rに属する)同数のブロック102rと、リフレッシュされない(ダーティエリア101uに属する)同数のブロック102uを有してもよい。
【0089】
この目的のためタイルが利用される場合、タイルスキャン順が利用され、従って、パケット5011,5012,・・・,501nは、リフレッシュされる(クリーンエリア101rに属する)同数のブロック102rと、リフレッシュされない(ダーティエリア101uに属する)同数のブロック102uを有することができない。
【0090】
他の実施例では、タイルが利用されるが、シンタックス要素が、タイルスキャンでなくラスタスキャンに従わせるパラメータセットに追加される。例えば、sps_enforce_raster_scan_flagである。この場合、ラスタスキャンが利用され、バイトアライメントは新たなタイルをスタートするCTUに対してビットストリーム内では起こらない。
【0091】
従って、実施例によると、タイル102に細分される少なくとも1つのピクチャ101と、タイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)と、を有し、
a)データストリームにおけるタイルリオーダリングフラグが第1の状態を有する場合、ピクチャ101のタイル102がピクチャ101をタイル毎に探索する第1の符号化順を利用して符号化されることが通知され、及び/又は、
b)データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、ピクチャ101のタイル102がピクチャ101をラスタスキャン順に探索する第2の符号化順を利用して符号化されることが通知される、ビデオデータストリームが提案される。
【0092】
更なる実施例は、データストリームからピクチャ101を復号化するよう構成されうる対応するデコーダであって、
a)データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)が第1の状態を有する場合、デコーダは、ピクチャ101をタイル毎に探索する第1の復号化順を利用してデータストリームからピクチャ101のタイル102を復号化するよう構成され、及び/又は、
b)データストリームにおけるタイルリオーダリングフラグが第2の状態を有する場合、デコーダは、ピクチャ101をラスタスキャン順に探索する第2の復号化順を利用してデータストリームからピクチャ101のタイル102を復号化するよう構成される、デコーダを提案する。
【0093】
図5を参照して上述したように、デコーダは、漸進的復号化リフレッシュ(GDR)アプローチを利用してピクチャ101を復号化するよう構成されてもよく、ピクチャ101は、少なくとも1つのGDR符号化ピクチャ103と、1つ以上の以降のピクチャとを含むピクチャ101
1,101
2,・・・,101
nのシーケンス100の一部であってもよく、ピクチャ101は、ブロック毎に復号化され、複数のパケット501a,501b,・・・,501nに分割され、2つ以上のパケット(及び、好ましくは、各パケット)は、リフレッシュされた同数のブロック102r、及び/又は、まだリフレッシュされていない同数のブロック102uを含む。
【0094】
更なる実施例は、ピクチャ101をデータストリームに符号化するよう構成される対応するエンコーダであって、
a)エンコーダは、データストリームにおけるタイルリオーダリングフラグ(例えば、sps_enforce_raster_scan_flag)を、ピクチャ101のタイル102がピクチャ101をタイル毎に探索する第1の符号化順を利用して符号化されることを示す第1の状態に設定するよう構成されてもよく、
b)エンコーダは、データストリームにおけるタイルリオーダリングフラグを、ピクチャ101のタイル102がピクチャ101をラスタスキャン順に探索する第2の符号化順を利用して符号化されることを示す第2の状態に設定するよう構成される、エンコーダを提案する。
【0095】
2.スケーラブルGDR制限
GDRがスケーラブルビットストリームに対して実行される場合、最も高い品質が実現される一方、同時により小さい低品質RP(LQRP)が実現可能であり、最も高い品質の未リフレッシュ領域101uが下位レイヤの低品質コンテンツのサンプルと置換されうる、ここに説明されるようなRPを有することが可能である。
【0096】
図6は、第1のレイヤ(例えば、ベースレイヤ(BL))601と、第2のレイヤ(例えば、エンハンスメントレイヤ(EL))602とを有するスケーラブルビットストリーム600を利用したGDRアプローチの非限定的な例を示し、第2のレイヤ(例えば、エンハンスメントレイヤ(EL))602の未リフレッシュピクチャサブエリア101uにおける欠落したリフレッシュ領域(例えば、未リフレッシュ又は非リフレッシュピクチャ領域)102uが、第1のレイヤ(例えば、ベースレイヤ(BL))601のリフレッシュピクチャサブエリア201rのリフレッシュピクチャ領域202rのアップサンプリングされたサンプルと置換できる。
【0097】
一実施例では、EL602の復号化処理は、規定されたGDR領域(GDR以降にリフレッシュされた又はされていない)の状態を管理し、各領域に対して、それがレイヤ毎に初期化されたか否かを示す。領域が初期化されていない場合、当該領域のリファレンスレイヤ601のリサンプリング処理が実行され、サンプル値が置換される。これによって、復号化がEL GDRピクチャ103を含むアクセスユニットにおいてスタートすると、上位レイヤピクチャがユーザに即座に提示可能であり、徐々にRPの間にEL品質に更新される。
【0098】
しかしながら、ビットストリームにおける制約は、上記の手順が機能するのに必要である。
【0099】
従って、実施例によると、第1のレイヤ(例えば、ベースレイヤ)におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム600が提案される。第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ100と、リフレッシュ期間(RP)における1つ以上の以降のピクチャとを含み、マルチレイヤ化されたスケーラブルビデオデータストリーム600は、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601のサンプル202rからレイヤ間予測される確率に関する情報を搬送する通知を有してもよい。当該通知は更に、
・リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャの未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、
・GDRピクチャ103の未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、という情報を搬送してもよい。
【0100】
一実施例では、TMVP(Temporal Motion Vector Prediction)又はサブブロックTMVP(すなわち、動きベクトルのシンタックスベース予測)は、サンプル102uがアップサンプリングされたBLサンプル202rと置換されるとき、以降のELピクチャ1011,・・・,101nが予測のため置換されたサンプル202rを利用可能になるように、GDRピクチャ103における未リフレッシュ領域101uに対して無効とされてもよく、制約なく行われる、誤った動きベクトルを利用するのと比較して、エンコーダ/デコーダのドリフトを有意に減少させる。
【0101】
従って、本体用の基本原理は、マルチレイヤ化されたスケーラブルビデオビットストリームを提供することを提案し、第1のレイヤのサンプルからのレイヤ間予測は、GDRピクチャ103の未リフレッシュサブエリア101uの1つ以上のサンプル102uを、第1のレイヤ601のサンプル202rのアップサンプリングされたバージョンによって置換することを含んでもよい。
【0102】
更なる実施例は、GDRピクチャ103の未リフレッシュサブエリア101u全体の全てのサンプル102uが、第2のレイヤ602における符号化ピクチャの第2のシーケンス100からのピクチャ1011,1012,・・・,101nがユーザに瞬時に提示可能となるように、第1のレイヤ601のサンプル202rのアップサンプリングされたバージョンと置換されてもよい。
【0103】
更なる実施例は、第2のレイヤ100の1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uが、第2のレイヤ602のリフレッシュされたサンプル102rに徐々に更新される第1のレイヤ601からのアップサンプリングされた置換サンプル202rを利用してレイヤ内予測(例えば、第2のレイヤ602の内部)によってリフレッシュされてもよい。
【0104】
他の実施例では、TMVP又はサブブロックTMVP候補によって影響を受けるマージリストにおける合成された動きベクトル候補は、サンプル101uがアップサンプリングされたBLサンプル202rに置換されると、以降のELピクチャがデコーダサイドにおいて誤った動きベクトルに依拠しないように、禁止される。
【0105】
他の実施例では、同じ制約が、DMVR(Decoder-side Motion Vector Refinement)(すなわち、リファレンスサンプル値に基づく動きベクトル精緻化)に対してアクティブであり、そうでない場合、サーバアーチファクトを導きうる。
【0106】
従って、実施例によると、以下の符号化コンセプトの少なくとも1つは、リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uを符号化するため無効にされ、
・時間動きベクトル予測(TMVP)
・アドバンスト時間動きベクトル予測(ATMVP)
・TMVP又はサブブロックTMVPによって影響されるマージリストにおける動きベクトル候補などのTMVPにより影響される候補
・デコーダサイド動きベクトル精緻化(DMVR)
である
【0107】
更なる実施例によると、以下の符号化コンセプトの少なくとも1つは、GDRピクチャ103の未リフレッシュサブエリア101uを符号化するため無効にされ、
・時間動きベクトル予測(TMVP)
・アドバンスト時間動きベクトル予測(ATMVP)
・TMVP又はサブブロックTMVPによって影響されるマージリストにおける動きベクトル候補などのTMVPにより影響される候補
・デコーダサイド動きベクトル精緻化(DMVR)
であり、
DMVRは、リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uを符号化するため無効にされる。
【0108】
他の実施例では、GDRにより符号化されたレイヤは、他のレイヤから独立して符号化され、サンプル置換がサンプル置換に適したコンテンツにより指示された他のレイヤを利用して実行できることが、ビットストリームにおいて表現される。従って、本実施例によると、第2のレイヤ602は、第1のレイヤ601又は何れかの更なるレイヤから独立に符号化され、ピクチャ1011,1012,・・・,101nの第2のシーケンス100がGDRピクチャ103においてランダムにアクセスされる場合、通知は、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601又は適切なコンテンツを有する何れか所定の(指示された)更なるレイヤのサンプル202rからレイヤ間予測されることを示す。
【0109】
他の実施例では、上記の制限は、識別されたリフレッシュ及び非リフレッシュ領域に依存して、ビットストリーム要求の形式をとりうる。
【0110】
さらに、本態様によると、対応するエンコーダ、デコーダ、符号化方法及び復号化方法を提供することが、更に提案される。
【0111】
実施例によると、第1のレイヤ(例えば、ベースレイヤ)601におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム600から、少なくとも1つのピクチャを復号化するデコーダを提供することが提案される。第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含む。デコーダは、マルチレイヤ化されたスケーラブルビデオデータストリーム600から、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601のサンプル202rからレイヤ間予測される確率に関する情報を搬送する通知を読むよう構成されてもよく、デコーダは更に、通知に応答して、
・動きベクトル予測を無効にするか、又は、リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uにおいて、動きベクトル予測を非時間的に実現するよう構成されるか、又は、
・動きベクトル予測を無効にするか、又は、GDRピクチャ103の未リフレッシュサブエリア101uにおいて、動きベクトル予測を非時間的に実現するよう構成される。
【0112】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)601におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム600に、少なくとも1つのピクチャを符号化し、第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含む、エンコーダを提供することが提案される。エンコーダは、マルチレイヤ化されたスケーラブルビデオデータストリーム600に、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601のリフレッシュサンプル202rからレイヤ間予測される確率に関する情報を搬送する通知を書き込むよう構成されてもよい。通知は更に、
・リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、
・GDRピクチャ103の未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、
という情報を搬送してもよい。
【0113】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)601におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム600から、少なくとも1つのピクチャを復号化する方法であって、第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含む、方法を提供することが提案される。方法は、マルチレイヤ化されたスケーラブルビデオデータストリーム600から、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601のリフレッシュサンプル202rからレイヤ間予測される確率に関する情報を搬送する通知を読むステップを有する。方法は更に、通知に応答して、
・動きベクトル予測を無効にするか、又は、リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uにおいて、動きベクトル予測を非時間的に実現する処理、又は、
・動きベクトル予測を無効にするか、又は、GDRピクチャ103の未リフレッシュサブエリア101uにおいて、動きベクトル予測を非時間的に実現する処理、
の少なくとも1つを実行するステップを有してもよい。
【0114】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)601におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム600に、少なくとも1つのピクチャを符号化する方法であって、第2のレイヤ602におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100は、スタートピクチャとしての少なくとも1つの漸進的デコーダリフレッシュ(GDR)ピクチャ103と、リフレッシュ期間(RP)における1つ以上の以降のピクチャ1012,・・・,101nとを含む、方法を提供することが提案される。方法は、マルチレイヤ化されたスケーラブルビデオデータストリーム600に、第2のレイヤ602のGDRピクチャ103の未リフレッシュサブエリア101uが第1のレイヤ601のサンプル202rからレイヤ間予測される確率に関する情報を搬送する通知を書き込むステップを有する。通知は更に、リフレッシュ期間(RP)に含まれる1つ以上の以降のピクチャ1012,・・・,101nの未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、又は、GDRピクチャ103の未リフレッシュサブエリア101uにおいて、動きベクトル予測が無効にされるか、又は、動きベクトル予測が非時間的に実現される、という情報を含んでもよい。
【0115】
3.スケーラブルビデオにおけるレイヤ依存性に関して
スケーラブルビデオは、多数のストリーミングシステムに対して多くの効果を有する。例えば、異なるコンテンツのバージョン及び/又は異なる解像度の相関を利用することによって、異なるバージョン及び/又は異なる解像度を有するいくつかの独立したビットストリーム(サイマルキャスト)と比較した全体的な圧縮効率は、劇的に増加する。これは、サーバ及びCDNにおけるストレージの大きな節約を導くことができ、ストリーミングサービスの配置コストを低下させる。
【0116】
しかしながら、エンドデバイスに送信されるスケーラブルビットストリームの符号化効率は、それが単一のレイヤビットストリームである場合、対応するものより低い。すなわち、レイヤ間予測は、シグナリングオーバヘッドにより効率性の損失を生じさせる。理想的には、単一のレイヤバージョンと比較して各バージョンのサイズを劇的に増加させないという条件によって、いくつかのバージョンの必要とされる記憶容量、すなわち、全てのバージョンの全体的なビットレートを低下させるジョイント最適化が実行されるべきである。これは、説明される最適化問題を評価し、AUがレイヤ間予測を利用するか否かをAU毎にマーキングすることによって実現可能である。
【0117】
以前の規格では、これは、下位レイヤにおける破棄可能なフラグによって破棄可能としてこれらのピクチャをマーキングすることによって実行された。あるいは、スライスは、レイヤ間が利用されないことをマーキングすることも可能である。
【0118】
しかしながら、これらの機構は、あまりフレキシブルでなく、例えば、ストリームにおけるいくつかのピクチャのレイヤ依存性に関して独立性を容易にすることによって、効率的なファイルフォーマットの利用を妨げ、例えば
図7に示されるような例と同様にレイヤを効率的にドロップすることができ、L1 TiD1ピクチャの何れもレイヤ間予測を利用しないため、ユーザがL1に興味があるとき、L0 TiD1がドロップ可能である。
【0119】
図7は、本発明の更なる態様の非限定的な例を示す。マルチレイヤ化されたスケーラブルビットストリーム700は、第1のレイヤ(例えば、ベースレイヤ)701と、第2のレイヤ(例えば、エンハンスメントレイヤ)702とを有してもよい。ビットストリーム700は、例示的に示される2つのレイヤ701,702より多くを有してもよい。
【0120】
第1及び第2のレイヤ701,702の各々は、2つ以上の時間サブレイヤを有してもよい。例えば、第1のレイヤ701は、第1の時間サブレイヤ701a及び第2の時間サブレイヤ701bを有してもよい。第2のレイヤ702は、第1の時間サブレイヤ702a及び第2の時間サブレイヤ702bを有してもよい。
【0121】
レイヤ701,702に含まれるいくつかのピクチャは、矢印710によって例示的に示されるように、イントラ符号化されてもよい。例えば、レイヤ701の時間サブレイヤ701bのピクチャ2012は、同じレイヤ701の異なる時間サブレイヤ701bの1つ以上のピクチャ2011,2013を参照することによってイントラ符号化されてもよい。
【0122】
あるいは、レイヤ701,702に含まれる他のいくつかのピクチャは、矢印711により例示的に示されるように、インター符号化されてもよい。例えば、レイヤ702の時間サブレイヤ702aのピクチャ1011は、異なるレイヤ701の時間サブレイヤ701aのピクチャ2011を参照することによってインター符号化されてもよい。例えば、第2のレイヤ(例えば、エンハンスメントレイヤ)702の第1の時間サブレイヤ702aのピクチャ1011は、第1のレイヤ(例えば、ベースレイヤ)701の第1の時間サブレイヤ701aのピクチャ2011を参照することによってインター符号化されてもよい。
【0123】
実施例によると、レイヤの特定の時間サブレイヤに含まれるピクチャは、同一の時間サブレイヤ階層を有するが、異なるレイヤの時間サブレイヤに含まれるピクチャのみを参照してもよい。例えば、第2のレイヤ702の第1の時間サブレイヤ702aに含まれるピクチャ2011は、第1のレイヤ701の第1の時間サブレイヤ701aにまた含まれるピクチャ1011のみを参照してもよい。すなわち、第1の時間サブレイヤ701a,702aは、同一の時間サブレイヤ階層を有する。
【0124】
図7に示される非限定的な例では、第2のレイヤ702の第1のサブレイヤ702aに含まれるピクチャ101
1,101
3,101
5,・・・,101
n(ここでは、奇数のインデックスを有する)のみが、第1のレイヤ701の第1のサブレイヤ701aのピクチャ201
1,201
3,201
5,・・・,201
n(ここでは、奇数のインデックスを有する)を参照することによって、インター符号化されてもよい。
【0125】
インター符号化に利用されない何れかの時間サブレイヤは、ドロップされてもよい。特に、インター符号化に利用される所定の時間サブレイヤより高い時間サブレイヤを有する何れかの時間サブレイヤは、ドロップされてもよい。
【0126】
従って、
図7の非限定的な例に示されるように、ユーザが第2のレイヤ702に興味がある場合、第2のレイヤ702の第1の時間サブレイヤ702aに含まれるピクチャのみがインター符号化されることが理解できる。すなわち、第1のレイヤ701の第1の時間サブレイヤ701aに含まれるピクチャ201
1,201
3,201
5,・・・,201
nのみが参照される。従って、第1のレイヤ701の第1の時間サブレイヤ701aのみが関心がある。次に、第1のレイヤ701の第2の時間サブレイヤ701bに含まれるピクチャ201
2,201
4,・・・,201
n-1は参照されず、従って、第1のレイヤ701の第2の時間サブレイヤ701bは関心がなく、ドロップされてもよい。
【0127】
[
大部分、シグナリングオーバヘッドは、ビットストリーム700におけるより上位の時間サブレイヤにとってより有害であることが理解できる。例えば、説明された特徴を実現する効率的な方法は、例えば、1つおきのピクチャを従属しているとして符号化するか、又は4つおきのピクチャをレイヤ間依存性を利用するとして符号化することであろう。(ピクチャはレイヤ間依存性により符号化される場合、ピクチャは従属しているとして参照されてもよく、レイヤ間依存性なしで符号化される場合、独立しているとして参照されてもよいことに留意されたい。)
【0128】
従って、実施例では、レイヤ依存性は更に、従属レイヤ内の時間サブレイヤが下位レイヤに依存するか否かを示す。
【0129】
これは、例えば、以下に示されるVPS(又はSPS)において実行可能である。
【表8】
【0130】
vps_sub_layer_independent_flag[i][j]が1に等しいことは、インデックスiのレイヤに含まれるインデックスjの(時間)サブレイヤがレイヤ間予測を利用しないことを指定する。vps_sub_layer_independent_flag[i][j]が0に等しいことは、インデックスiのレイヤに含まれるインデックスjの(時間)サブレイヤがレイヤ間予測を利用することを指定する。
【0131】
従って、実施例によると、第1のレイヤ(例えば、ベースレイヤ)701におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)702におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有し、第1及び第2のレイヤ701,702の各々は、複数の時間サブレイヤ701a,701b,702a,702bを有する、マルチレイヤ化されたスケーラブルビデオデータストリーム700を提供することが提案される。スケーラブルビデオデータストリーム700は、第2のレイヤ(例えば、エンハンスメントレイヤ)702の何れの時間サブレイヤ702a,702bがレイヤ間予測によって符号化されるかを示す通知(例えば、vps_sub_layer_independent_flag[i][j])を含んでもよい。
【0132】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)701におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)702におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム700から、少なくとも1つのピクチャを復号化する対応するデコーダであって、第1及び第2のレイヤ701,702の各々は、複数の時間サブレイヤ701a,701b,702a,702bを有する、デコーダを提供することが提案される。デコーダは、スケーラブルビデオデータストリーム700から導出される通知(例えば、vps_sub_layer_independent_flag[i][j])に基づいて、レイヤ間予測を利用することによって時間サブレイヤ701a,701b,702a,702bの1つ以上を復号化するよう構成され、通知は、第2のレイヤ702の何れの時間サブレイヤ702a,702bがレイヤ間予測によって符号化されるかを示してもよい。
【0133】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)701におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)702におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム700に、少なくとも1つのピクチャを符号化する対応するエンコーダであって、第1及び第2のレイヤ701,702の各々は、複数の時間サブレイヤ701a,701b,702a,702bを有する、エンコーダを提供することが提案される。エンコーダは、レイヤ間予測を利用することによって時間サブレイヤ701a,701b,702a,702bの1つ以上を符号化し、スケーラブルビデオデータストリーム700に通知(例えば、vps_sub_layer_independent_flag[i][j])を書き込むよう構成され、通知は、第2のレイヤ702の何れの時間サブレイヤ702a,702bがレイヤ間予測によって符号化されるかを示してもよい。
【0134】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)701におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)702におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム700から、少なくとも1つのピクチャを復号化する方法であって、第1及び第2のレイヤ701,702の各々は、複数の時間サブレイヤ701a,701b,702a,702bを有する、方法を提供するよう提案される。方法は、スケーラブルビデオデータストリーム700から導出される通知に基づいて、レイヤ間予測を利用することによって時間サブレイヤ702a,702bの1つ以上を復号化するステップを有し、通知(例えば、vps_sub_layer_independent_flag[i][j])は、第2のレイヤ702の何れの時間サブレイヤ702a,702bがレイヤ間予測によって符号化されるかを示す。
【0135】
更なる実施例によると、第1のレイヤ(例えば、ベースレイヤ)701におけるピクチャ2011,2012,・・・,201nの第1のシーケンス200と、第2のレイヤ(例えば、エンハンスメントレイヤ)702におけるピクチャ1011,1012,・・・,101nの第2のシーケンス100とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム700に、少なくとも1つのピクチャを符号化する対応する方法であって、第1及び第2のレイヤ701,702の各々は、複数の時間サブレイヤ701a,701b,702a,702bを有する、方法を提供することが提案される。方法は、スケーラブルビデオデータストリーム700から導出される通知に基づいて、ストリームレイヤ間予測を利用することによって時間サブレイヤ702a,702bの1つ以上を符号化するステップを有し、通知(例えば、vps_sub_layer_independent_flag[i][j])は、第2のレイヤ702の何れの時間サブレイヤ702a,702bがレイヤ間予測によって符号化されるかを示す。
【0136】
上述されたように、時間サブレイヤは、例えば、第1の時間サブレイヤ、第2の時間サブレイヤ、第3の時間サブレイヤなどの時間サブレイヤ階層を有してもよい。レイヤの時間サブレイヤ階層は、ビデオデータストリーム700における上述された通知に含まれるシンタックス要素などの時間識別子によって通知されてもよい。
【0137】
さらに、
図7を参照して、関心のない(それらはインター予測に利用されていないため)所定の時間サブレイヤ階層の上位の時間サブレイヤはドロップされてもよいことが説明された。従って、レイヤ間予測が利用される特定の時間サブレイヤ階層を示す一種の閾値があってもよい。それは、当該閾値以下の時間サブレイヤがレイヤ間予測に利用される一方、当該閾値を超える時間サブレイヤはレイヤ間予測に利用されないことを意味する。後者のものはドロップされてもよい。この閾値は、所定の1つの時間サブレイヤによって通知されてもよい。例えば、レイヤ間予測がレイヤの第2の時間サブレイヤまでのみ利用されうることが、ビデオデータストリーム700において通知されてもよい。従って、第2の時間サブレイヤはレイヤ間予測のための閾値を形成する。従って、第1及び第2の時間サブレイヤは、レイヤ間予測される一方、所定の第2の時間サブレイヤ(閾値)を超える時間サブレイヤ階層を有する何れか更なる時間サブレイヤはドロップされてもよい。
【0138】
上述した時間識別子は、閾値、すなわち、そこまではレイヤ間予測が利用されうる時間サブレイヤ階層を示してもよい。すなわち、時間識別子は、閾値、すなわち、それからはレイヤ間予測が利用されない時間サブレイヤを示してもよい。
【0139】
従って、実施例によると、ビデオデータストリーム700における通知は、そこから第2のレイヤ702の時間サブレイヤ702a,702bがレイヤ間予測なしに符号化されうる所定の時間識別子(閾値)を有してもよい。
【0140】
それは、所定の時間識別子(閾値)を超える値を有する時間識別子を有する第2のレイヤ702の時間サブレイヤ702a,702bがレイヤ間予測なしに符号化されることを意味する。
図7に示される例では、所定の時間識別子は、第1の時間サブレイヤ702aのみがレイヤ間予測によって符号化されるため、第1の時間サブレイヤ702aを参照する。従って、第1の時間サブレイヤ702aを超える全ての時間サブレイヤ、ここでは、第2の時間サブレイヤ702bと共に何れか上位の時間サブレイヤ(存在する場合)が、レイヤ間予測なしに符号化される。
【0141】
また、所定の時間識別子(閾値)以下の値を有する時間識別子を有する第2のレイヤ702の時間サブレイヤ702a,702bがレイヤ間予測により符号化される。
図7に示される例では、所定の時間識別子は、第1の時間サブレイヤ702aのみがレイヤ間予測によって符号化されるため、第1の時間サブレイヤ702aを参照する。
【0142】
従って、通知(例えば、vps_sub_layer_independent_flag[i][j])は、第2のレイヤ702の時間サブレイヤ702bがレイヤ間予測のための下位レイヤ701の時間サブレイヤ701bを利用しないことを示す場合、下位レイヤ701の時間サブレイヤ701bは、マルチレイヤ化されたスケーラブルビデオデータストリーム700から破棄可能、破棄又はドロップされるとしてマーキングされてもよい。
【0143】
他の実施例では、イネーブルフラグが、sub_layer_independent_flagがVPSに含まれるか否か、又は、デフォルト毎の全てのサブレイヤが下位レイヤに依存するか否かを示すため、VPSに含まれる。
【0144】
従って、実施例では、マルチレイヤ化されたスケーラブルビデオデータストリーム700は更に、通知(例えば、vps_sub_layer_independent_flag[i][j])がマルチレイヤ化されたスケーラブルビデオデータストリーム700に含まれるか否かを示すためのシンタックス要素(例えば、VPSにおけるenable_flag)を有してもよい。含まれない場合、第2のレイヤ702の全ての時間サブレイヤ702a,702bは、デフォルト毎に下位レイヤ701に依存してもよい。
【0145】
上述したように、説明された特徴を実現する効率的な方法は、例えば、1つおきのピクチャを従属しているとして、例えば、4つおきのピクチャをレイヤ間依存性を利用しているとして符号化することであろう。
【0146】
従って、実施例によると、エンコーダは、第2のシーケンス100の連続するピクチャ(例えば、1つおきのピクチャ)1012,1014,・・・,101n-1の第1の所定のローを従属しているとして符号化するか、又は、ピクチャの第2のシーケンス100の連続するピクチャ(例えば、4つおきのピクチャ)の第2の所定のローをレイヤ間依存性を利用するとして符号化するよう構成されてもよい。
【0147】
いくつかの態様が装置のコンテクストにおいて説明されたが、これらの態様が、ブロック又はデバイスが方法ステップ又は方法ステップの特徴に対応する対応する方法の説明を表すことは明かである。同様に、方法ステップのコンテクストにおいて説明された態様がまた、対応する装置の対応するブロック、アイテム又は特徴の説明を表す。
【0148】
方法ステップの一部又は全ては、例えば、マイクロプロセッサ、プログラマブルコンピュータ又は電子回路などのハードウェアによって(又は利用して)実行されてもよい。いくつかの実施例では、最も重要な方法ステップの1つ以上は、そのような装置によって実行されてもよい。
【0149】
特定の実現要求に依存して、本発明の実施例は、ハードウェア、ソフトウェア、少なくとも部分的にハードウェア又は少なくとも部分的にソフトウェアにより実現可能である。当該実現は、例えば、フロッピーディスク(登録商標)、DVD、Blu-Ray、CD、ROM、PROM、EPROM、EEPROM又はFLASH(登録商標)メモリなど、各方法が実行されるようにプログラマブルコンピュータシステムと連携する(又は連携可能である)電子的に可読な制御信号が格納されるデジタル記憶媒体を利用して実行可能である。従って、デジタル記憶媒体は、コンピュータ可読であってもよい。
【0150】
本発明によるいくつかの実施例は、ここに説明される方法の1つが実行されるように、プログラマブルコンピュータシステムと連携可能である電子的に可読な制御信号を有するデータキャリアを有する。
【0151】
一般に、本発明の実施例は、プログラムコードを備えたコンピュータプログラムプロダクトとして実現可能であり、プログラムコードは、コンピュータプログラムプロダクトがコンピュータ上で実行されると、方法の1つを実行するよう動作可能である。プログラムコードは、例えば、機械可読キャリア上に格納されてもよい。
【0152】
他の実施例は、機械可読キャリア上に格納される、ここに説明される方法の1つを実行するためのコンピュータプログラムを有する。
【0153】
すなわち、本発明の方法の実施例は、従って、コンピュータプログラムがコンピュータ上で実行されるとき、ここに説明される方法の1つを実行するためのプログラムコードを有するコンピュータプログラムである。
【0154】
本発明の方法の更なる実施例は、従って、ここに説明される方法の1つを実行するためのコンピュータプログラムを記録したデータキャリア(又はデジタル記憶媒体、コンピュータ可読媒体)である。データキャリア、デジタル記憶媒体又は記録媒体は、典型的には、有形であり、及び/又は、非一時的である。
【0155】
本発明の方法の更なる実施例は、従って、ここに説明される方法の1つを実行するためのコンピュータプログラムを表す信号のシーケンス又はデータストリームである。データストリーム又は信号のシーケンスは、例えば、インターネットなどのデータ通信接続を介し転送されるよう構成されてもよい。
【0156】
更なる実施例は、ここに説明される方法の1つを実行するよう構成又は適応される、コンピュータ又はプログラマブル論理デバイスなどの処理手段を有する。
【0157】
更なる実施例は、ここに説明された方法の1つを実行するためのコンピュータプログラムがインストールされたコンピュータを有する。
【0158】
本発明による更なる実施例は、ここに説明された方法の1つを実行するためのコンピュータプログラムを受信機に転送する(例えば、電気的又は光学的に)よう構成される装置又はシステムを有する。受信機は、例えば、コンピュータ、モバイルデバイス、メモリデバイスなどであってもよい。装置又はシステムは、例えば、コンピュータプログラムを受信機に転送するためのファイルサーバを有してもよい。
【0159】
いくつかの実施例では、プログラマブル論理デバイス(例えば、フィールドプログラマブルゲートアレイ)が、ここに説明された方法の機能の一部又は全てを実行するのに利用されてもよい。いくつかの実施例では、フィールドプログラマブルゲートアレイは、ここに説明された方法の1つを実行するため、マイクロプロセッサと連携してもよい。一般に、方法は何れかのハードウェア装置によって、好ましくは実行される。
【0160】
ここに説明される装置は、ハードウェア装置、コンピュータ、ハードウェア装置とコンピュータとの組み合わせを利用して実現されてもよい。
【0161】
ここに説明される方法は、ハードウェア装置、コンピュータ、ハードウェア装置とコンピュータとの組み合わせを利用して実行されてもよい。
【0162】
本開示が例示的な実施例を参照して説明されたが、本説明は、限定的な意味で解釈されることを意図していない。例示的な実施例の各種修正及び組み合わせは、本開示の他の実施例と共に、本説明を参照して当業者に明らかであろう。従って、添付した請求項はそのような何れかの修正又は実施例を包括することが意図される。
【手続補正書】
【提出日】2022-05-20
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)から、少なくとも1つのピクチャを復号化するデコーダであって、前記第1
のレイヤ(701)及び
前記第2のレイヤ
(702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記デコーダは、前記スケーラブルビデオデータストリーム(700)から導出される通知に基づいて、レイヤ間予測を利用
して前記第2のレイヤ(702)の前記
複数の時間サブレイヤ
(702a,702b)の1つ以上を復号化するよう構成され、前記通
知は、前記第2のレイヤ(
702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して復号化されるかを示す、デコーダ。
【請求項2】
前記通知は、前記第2のレイヤ(702)の
何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して復号化される
ことを示すための所定の時間識別子を有する、請求項
1に記載のデコーダ。
【請求項3】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測
を利用することなく復号化される、請求項
2に記載のデコーダ。
【請求項4】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測
を利用して復号化される、請求項
2又は
3に記載のデコーダ。
【請求項5】
前記デコーダが、前記通知から前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のために
前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないことを導出した場合、前記デコーダは、
前記第1のレイヤ(701)の時間サブレイヤを破棄し、前記第2のレイヤ(702)の時間サブレイヤ(702b)を復号化
するとき、前記第1のレイヤ(701)の時間サブレイヤ(701b)を
利用しないよう構成される、請求項
1から
4の何れか一項に記載のデコーダ。
【請求項6】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)に、少なくとも1つのピクチャを符号化するエンコーダであって、前記第1
のレイヤ(701)及び
前記第2のレイヤ
(702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記エンコーダは、レイヤ間予測を利用
して前記第2のレイヤ(702)の前記
複数の時間サブレイヤ
(702a,702b)の1つ以上を符号化し、前記スケーラブルビデオデータストリーム(700)に通知を
符号化するよう構成され、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して符号化されるかを示す、エンコーダ。
【請求項7】
前記通知は、前記第2のレイヤ(702)の
何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して符号化される
かを示すための所定の時間識別子を有する、請求項
6に記載のエンコーダ。
【請求項8】
前記所定の時間識別子を超える値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702b)は、レイヤ間予測
を利用することなく符号化される、請求項
7に記載のエンコーダ。
【請求項9】
前記所定の時間識別子以下の値を有する時間識別子を有する前記第2のレイヤ(702)の時間サブレイヤ(702a)は、レイヤ間予測
を利用して符号化される、請求項
7又は
8に記載のエンコーダ。
【請求項10】
前記エンコーダが、前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のために
前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないことを判定した場合、前記エンコーダは、
前記第1のレイヤ(701)の時間サブレイヤ(701b)を破棄し、前記第2のレイヤ(702)の時間サブレイヤ(702b)を符号化
するとき、前記
第1のレイヤ(701)の時間サブレイヤ(701b)を
利用しないよう構成される、請求項
6から
9の何れか一項に記載のエンコーダ。
【請求項11】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)から、少なくとも1つのピクチャを復号化する方法であって、前記第1
のレイヤ(701)及び
前記第2のレイヤ
(702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記方法は、
前記スケーラブルビデオデータストリーム(700)から導出される通知に基づいて、レイヤ間予測を利用
して前記第2のレイヤ(702)の前記
複数の時間サブレイヤ(702a,702b)の1つ以上を復号化するステップを有し、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して復号化されるかを示す、方法。
【請求項12】
前記通知が前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のため前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないことを示す場合、前記方法は更に、前記第1のレイヤ(701)の時間サブレイヤ(701b)を破棄し、前記第2のレイヤ(702)の時間サブレイヤ(702b)を破棄するとき、前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないステップを有する、請求項11に記載の方法。
【請求項13】
第1のレイヤ(701)におけるピクチャ(201
1,201
2,・・・,201
n)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1,101
2,・・・,101
n)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)に、少なくとも1つのピクチャを符号化する方法であって、前記第1
のレイヤ(701)及び
前記第2のレイヤ
(702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、
前記方法は、
レイヤ間予測を利用
して前記第2のレイヤ(702)の前記
複数の時間サブレイヤ(702a,702b)の1つ以上を符号化し、前記スケーラブルビデオデータストリーム(700)に通知を
符号化するステップを有し、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測
を利用して符号化されるかを示す、方法。
【請求項14】
前記通知が前記第2のレイヤ(702)の時間サブレイヤ(702b)がレイヤ間予測のため前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないことを示す場合、前記方法は更に、前記第1のレイヤ(701)の時間サブレイヤ(701b)を破棄し、前記第2のレイヤ(702)の時間サブレイヤ(702b)を符号化するとき、前記第1のレイヤ(701)の時間サブレイヤ(701b)を利用しないステップを有する、請求項13に記載の方法。
【請求項15】
第1のレイヤ(701)におけるピクチャ(201
1
,201
2
,・・・,201
n
)の第1のシーケンス(200)と、第2のレイヤ(702)におけるピクチャ(101
1
,101
2
,・・・,101
n
)の第2のシーケンス(100)とを有するマルチレイヤ化されたスケーラブルビデオデータストリーム(700)に、少なくとも1つのピクチャを符号化する方法であって、前記第1のレイヤ(701)及び前記第2のレイヤ(702)の各々は、複数の時間サブレイヤ(701a,701b,702a,702b)を有し、前記データストリームは更に、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測を利用して符号化されるかを示す通知を有し、前記通知は、前記第2のレイヤ(702)の何れの時間サブレイヤ(702a,702b)がレイヤ間予測を利用して符号化されるかを示すための所定の時間識別子を有する、マルチレイヤ化されたスケーラブルビデオデータストリーム。
【国際調査報告】