(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-06-21
(54)【発明の名称】漸次的復号更新および参照ピクチャリストの信号通知
(51)【国際特許分類】
H04N 19/30 20140101AFI20230614BHJP
H04N 19/58 20140101ALI20230614BHJP
【FI】
H04N19/30
H04N19/58
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022570204
(86)(22)【出願日】2021-05-20
(85)【翻訳文提出日】2023-01-16
(86)【国際出願番号】 US2021033351
(87)【国際公開番号】W WO2021236903
(87)【国際公開日】2021-11-25
(32)【優先日】2020-05-21
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】520477474
【氏名又は名称】バイトダンス インコーポレイテッド
【氏名又は名称原語表記】BYTEDANCE INC.
【住所又は居所原語表記】12655 West Jefferson Boulevard, Sixth Floor, Suite No. 137 Los Angeles, California 90066 United States of America
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】ワン イェクイ
(72)【発明者】
【氏名】ジャン リー
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA04
5C159MA05
5C159MA17
5C159MA21
5C159MA31
5C159MC11
5C159ME01
5C159NN11
5C159RB09
5C159RC12
5C159RC38
5C159UA02
5C159UA05
(57)【要約】
映像符号化方法および装置、映像復号方法および装置の例について説明する。例示的な映像処理方法は、規則に従って、映像の現在のピクチャと映像のビットストリームとの間で変換を行うことを含む。この規則は、あるピクチャが現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、このピクチャが漸次的復号更新(GDR)タイプを有することを許可され、出力順でこのピクチャの回復点を規定する構文要素が0であることを規定する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
規則に従って、映像の現在のピクチャと、前記映像のビットストリームとの間で変換を行うこと、を含む映像データの処理方法であって、
前記規則は、ピクチャが、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
映像データの処理方法。
【請求項2】
前記ピクチャは、前記現在のピクチャと同じアクセスユニットにある、
請求項1に記載の方法。
【請求項3】
前記ピクチャが復号ピクチャバッファに存在する、
請求項1または2に記載の方法。
【請求項4】
前記ピクチャは、前記現在のピクチャのレイヤ識別子よりも小さいレイヤ識別子を有する、
請求項1~3のいずれか1項に記載の方法。
【請求項5】
前記参照ピクチャリストは、参照リスト0または参照リスト1を含む、
請求項1~4のいずれか1項に記載の方法。
【請求項6】
前記変換は、前記映像を前記ビットストリームに符号化することを含む、
請求項1~5のいずれか1項に記載の方法。
【請求項7】
前記変換は、前記ビットストリームから前記映像を復号することを含む、
請求項1~5のいずれか1項に記載の方法。
【請求項8】
規則に従って、映像の現在のピクチャから前記映像のビットストリームを生成することと、
前記生成されたビットストリームを記憶することと、を含む前記映像のビットストリームを記憶するための方法であって、
前記規則は、ピクチャが、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
映像のビットストリームを記憶するための方法。
【請求項9】
請求項1~8のいずれか1項に記載の方法を実装するように構成される処理装置を備える、
映像復号装置。
【請求項10】
請求項1~8のいずれか1項に記載の方法を実装するように構成される処理装置を備える、
映像符号化装置。
【請求項11】
コンピュータコードが記憶されたコンピュータプログラム製品であって、
前記コードは、プロセッサにより実行されると、前記プロセッサに、請求項1~8のいずれか1項に記載の方法を実装させる、
コンピュータプログラム製品。
【請求項12】
映像処理装置により行われる方法で生成される映像のビットストリームを記憶する非一時的なコンピュータ可読記録媒体であって、
前記方法は、
規則に従って、前記映像の現在のピクチャから前記映像のビットストリームを生成することと、
前記生成されたビットストリームを記憶することと、を含み、
前記規則は、ピクチャが、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
非一時的なコンピュータ可読記録媒体。
【請求項13】
本明細書に記載の方法、装置またはシステム。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
パリ条約に基づく適用可能な特許法および/または規則に基づいて、本願は、2020年5月21日出願の米国特許仮出願第63/028150号の優先権および利益を適時に主張することを目的とする。法に基づくすべての目的のために、上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
【0002】
この特許明細書は、画像および映像コーディング、および復号に関する。
【背景技術】
【0003】
デジタル映像は、インターネットおよび他のデジタル通信ネットワークにおいて最大の帯域幅の使用量を占めている。映像を受信および表示することが可能である接続されたユーザ機器の数が増加するにつれ、デジタル映像の使用に対する帯域幅需要は増大し続けることが予測される。
【発明の概要】
【0004】
本明細書は、映像符号化または復号を行うために、映像エンコーダおよびデコーダによって使用され得る技術を開示する。
【0005】
1つの例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、スライスを含む映像ピクチャを備える映像と、この映像のビットストリームとを変換することを含む。この規則は、参照ピクチャリスト(RPL)インデックスに関連付けられた参照ピクチャリスト構文構造のエントリ数を規定する構文要素のデフォルト値が、ある条件が満たされることにより0に等しいことを規定し、ここで、この条件は、(1)映像ピクチャが瞬時復号更新ピクチャであり、(2)第1の構文フラグが、スライスのスライスヘッダにRPL構文要素が存在しないことを規定し、かつ(3)第2の構文フラグが、映像ピクチャのピクチャヘッダにRPL情報が存在しないことを規定する場合に、満たされる。
【0006】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、変換のためのレイヤ間予測の使用に基づいて、映像ピクチャのスライスのスライスヘッダに参照ピクチャリスト(RPL)構文要素が存在するかどうかを規定する第1の構文フラグの値を決定することを規定する。
【0007】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、映像ピクチャが瞬時復号更新ピクチャであるかどうか、(2)映像ピクチャのスライスのスライスヘッダに参照ピクチャリスト(RPL)構文要素が存在するかどうか、(3)映像ピクチャの1つのピクチャパラメータセットを参照する各ピクチャが、同じユニットタイプの値を有さない複数のネットワーク抽象化ユニットを有するかどうか、および(4)映像ピクチャのピクチャヘッダにRPL情報が存在するかどうかに関連した制約を規定する。
【0008】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、(1)レイヤがレイヤ間予測を使用するかどうか、および、(2)参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであるかどうか、に関連した制約を規定する。
【0009】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、シーケンスパラメータセットにおける第1のリストの参照ピクチャリスト構文構造の数が1であり、かつ、映像ピクチャの第1の参照ピクチャリストが、第1のリストの参照ピクチャリスト構文構造に基づいて導出される場合、参照ピクチャリスト構文構造のインデックスを規定する変数が推論されることを規定する。
【0010】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、映像の現在のピクチャと、映像のビットストリームとの間で変換を行うことを含む。この規則は、ピクチャが、現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、ピクチャは漸次的復号更新(GDR)タイプを有することを許され、出力順でピクチャの回復点を規定する構文要素が0であることを規定する。
【0011】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、現在のピクチャを含む映像と、この映像のビットストリームとの間で変換を行うことを含む。この規則は、現在のピクチャがコーディングされたレイヤ映像シーケンスの開始ピクチャであることに呼応して、現在のピクチャの参照ピクチャリストにおける各レイヤ間参照ピクチャ(ILRP)エントリは、長期参照に使用されるとマークされることを規定する。
【0012】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って映像と、この映像のビットストリームとの間で変換を行うことを含む。この規則は、瞬時復号更新(IDR)ピクチャのスライスヘッダに参照ピクチャリスト構文要素が存在するかどうかを規定する第1の構文フラグが、コーディングされたレイヤ映像シーケンスにおける任意のコーディングされたピクチャのインター予測にレイヤ間参照ピクチャ(ILRP)が使用されるかどうかを規定する第2の構文フラグの前に、ビットストリームに存在することを規定する。
【0013】
別の例示的な態様において、映像処理方法が開示される。この方法は、1つ以上の映像ピクチャを備える1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現は、フォーマット規則に準拠し、このフォーマット規則は、レイヤ間参照ピクチャが変換のために使用されるかどうかを規定する第1の構文要素の第1の値が、このコーディングされた表現に参照ピクチャリストが含まれているかどうかを示す第2の構文要素の存在、または、第2の値を制御することを規定する。
【0014】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現はフォーマット規則に準拠し、このフォーマット規則は、第1の構文要素が参照ピクチャリストのための構文要素がコーディングされた表現に含まれないことを示し、かつ、混合ネットワーク抽象化レイヤユニットがコーディングされた表現において許可されており、かつ、参照ピクチャリスト構文要素がピクチャヘッダに含まれていない場合、瞬時デコーダ参照ピクチャタイプネットワーク抽象化レイヤユニットの使用がコーディングされた表現において無効化されることを規定する。
【0015】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現は、フォーマット規則に準拠し、このフォーマット規則は、(a)映像パラメータセットにおける所定のレイヤidのための独立レイヤ活性化フラグを示す第1の構文要素の値が、レイヤ間参照ピクチャの活性化を示す第2の構文要素の値を制御する、または、(b)シーケンスパラメータセットにおける参照ピクチャリストの数を示す第1の構文要素の値が、現在の映像ユニットの変換に使用される参照ピクチャを示す第2の構文要素の値を制御する制約を規定する。
【0016】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1つ以上の映像ピクチャを備える1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、この変換は、現在のピクチャがコーディングされたレイヤ映像シーケンスの開始ピクチャである場合、この現在のピクチャのための参照リストにおけるレイヤ間ピクチャを長期参照ピクチャと見なすことを規定する規則に従う。
【0017】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像とこの映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現は、参照ピクチャリスト情報の存在を示す第1のフィールドが、第1のフィールドに従って条件付きで信号通知されるレイヤ間ピクチャの存在を信号通知する第2のフィールドの前に信号通知されることを規定するフォーマット規則に準拠する。
【0018】
さらに別の例示的な態様において、映像エンコーダ装置が開示される。この映像エンコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0019】
さらに別の例示的な態様において、映像デコーダ装置が開示される。この映像デコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0020】
さらに別の例示的な態様では、コードが記憶されたコンピュータ可読媒体が開示される。このコードは、本明細書に記載の方法の1つをプロセッサが実行可能なコードの形式で実施する。
【0021】
これらのおよび他の特徴は、本文書全体にわたって説明される。
【図面の簡単な説明】
【0022】
【
図1】本開示のいくつかの実施形態による映像コーディングシステムを示すブロック図である。
【
図2】映像処理に使用されるハードウェアプラットフォームの例を示すブロック図である。
【
図3】映像処理方法の一例を示すフローチャートである。
【
図4】例示的な映像コーディングするシステムを示すブロック図である。
【
図5】本開示のいくつかの実施形態によるエンコーダを示すブロック図である。
【
図6】本開示のいくつかの実施形態によるデコーダを示すブロック図である。
【
図7】本技術の1つ以上の実施形態による映像処理の方法を表すフローチャートである。
【
図8】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図9】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図10】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図11】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図12】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図13】本技術の1つ以上の実施形態による映像処理の別の方法を表すフローチャートである。
【
図14】本技術の1つ以上の実施形態による映像処理のさらに別の方法を表すフローチャートである。
【発明を実施するための形態】
【0023】
本明細書では、理解を容易にするために章の見出しを使用しており、その技術および各章に記載された実施形態の適用可能性をその章のみに限定するものではない。さらに、H.266という用語は、ある説明において、理解を容易にするためだけに用いられ、開示される技術の範囲を限定するために用いられたものではない。このように、本明細書で説明される技術は、他の映像コーデックプロトコルおよび設計にも適用可能である。
【0024】
1. 概要
本明細書は、映像コーディング技術に関する。具体的には、参照ピクチャリストの設計におけるいくつかの改良についてである。この考えは、個々にまたは様々な組み合わせで、マルチレイヤ映像コーディング、例えば、現在開発されているVVC(Versatile Video Coding)をサポートする任意の映像コーディング規約または非標準映像コーデックに適用されてもよい。
【0025】
2. 略語
APS Adaptation Parameter Set(適応パラメータセット)
AU Access Unit(アクセスユニット)
AUD Access Unit Delimiter(アクセスユニット区切り文字)
AVC Advanced Video Coding(高度映像コーディング)
CLVS Coded Layer Video Sequence(コーディングされたレイヤ映像シーケンス)
CLVSS CLVS Start(CLVSスタート)
CPB Coded Picture Buffer(コーディングされたピクチャバッファ)
CRA Clean Random Access(クリーンランダムアクセス)
CTU Coding Tree Unit(コーディングツリーユニット)
CVS Coded Video Sequence(コーディングされた映像シーケンス)
DCI Decoding Capability Information(復号能力情報)
DPB Decoded Picture Buffer(復号ピクチャバッファ)
EOB End Of Bitstream(ビットストリーム終端)
EOS End Of Sequence(シーケンス終端)
GDR Gradual Decoding Refresh(漸次的復号更新)
HEVC High Efficiency Video Coding(高効率映像コーディング)
HRD Hypothetical Reference Decoder(仮想参照デコーダ)
IDR Instantaneous Decoding Refresh(瞬時復号更新)
ILP Inter-Layer Prediction(インタレイヤ予測)
ILRP Inter-Layer Reference Picture(インタレイヤ参照ピクチャ)
JEM Joint Exploration Model(共同探索モデル)
LTRP Long-Term Reference Picture(長期参照ピクチャ)
MCTS Motion-Constrained Tile Sets(動作制約タイルセット)
NAL Network Abstraction Layer(ネットワーク抽象化レイヤ)
OLS Output Layer Set(出力レイヤセット)
PH Picture Header(ピクチャヘッダ)
PPS Picture Parameter Set(ピクチャパラメータセット)
PTL Profile, Tier and Level(プロファイル、層およびレベル)
PU Picture Unit(ピクチャユニット)
RAP Random Access Point(ランダムアクセスポイント)
RBSP Raw Byte Sequence Payload(生バイトシーケンスペイロード)
SH Slice Header(スライスヘッダ)
SEI Supplemental Enhancement Information(補足強化情報)
SPS Sequence Parameter Set(シーケンスパラメータセット)
STRP Short-Term Reference Picture(短期参照ピクチャ)
SVC Scalable Video Coding(スケーラブル映像コーディング)
VCL Video Coding Layer(映像コーディングレイヤ)
VPS Video Parameter Set(映像パラメータセット)
VTM VVC Test Model(VVC試験モデル)
VUI Video Usability Information(映像ユーザビリティ情報)
VVC Versatile Video Coding(汎用映像コーディング)
【0026】
3. 初期の協議
映像コーディング規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4Visualを作り、両団体はH.262/MPEG-2VideoとH.264/MPEG-4AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像コーディング規格は、時間的予測と変換コーディングが利用されるハイブリッド映像コーディング構造に基づく。HEVCを超えた将来の映像コーディング技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Model)と呼ばれる参照ソフトウェアに組み込まれてきた。JVETは四半期に1回開催され、新しいコーディング規格はHEVCに比べて50%のビットレート低減を目指している。2018年4月のJVET会議において、新しい映像コーディング規格を「VVC(Versatile Video Coding)」と正式に命名し、その時、第1版のVVCテストモデル(VTM)をリリースした。VVCの標準化に寄与する努力が続けられているので、すべてのJVET会議において、VVC標準に新しいコーディング技術が採用されている。毎回の会議の後、VVC作業草案およびテストモデルVTMを更新する。VVCプロジェクトは、現在、2020年7月の会合における技術完成(FDIS)を目指している。
【0027】
3.1 参照ピクチャ管理および参照ピクチャリスト(RPL)
参照ピクチャ管理は、インター予測を使用する任意の映像コーディング方式に必要なコア機能である。それは、復号ピクチャバッファ(DPB)への参照ピクチャの記憶および復号ピクチャバッファ(DPB)からの参照ピクチャの除去を管理し、かつ参照ピクチャをRPL内の適切な順序に置く。
【0028】
HEVCの参照ピクチャ管理は、参照ピクチャのマーキングおよび復号ピクチャバッファ(DPB)からの除去、並びに参照ピクチャリスト構築(RPLC)を含め、AVCのものとは異なる。AVCにおいて、HEVCは、スライディングウィンドウに適応メモリ管理制御動作(MMCO)を加えたものに基づく参照ピクチャマーキング機構の代わりに、いわゆる参照ピクチャセット(RPS)に基づく参照ピクチャ管理およびマーキング機構を規定し、その結果、RPLCは、RPS機構に基づく。RPSは、ピクチャに関連付けられた参照ピクチャのセットで構成され、復号順序において関連付けられたピクチャに先行する全ての参照ピクチャで構成され、復号順序において関連付けられたピクチャまたは関連付けられたピクチャの後に続く任意のピクチャのインター予測に使用してもよい。参照ピクチャセットは、参照ピクチャの5つのリストで構成される。第1の3つのリストは、現在のピクチャのインター予測において使用してもよい、かつ現在のピクチャに復号順において続く1つ以上のピクチャのインター予測において使用してもよい全ての参照ピクチャを含む。他の2つのリストは、現在のピクチャのインター予測において使用されないが、現在のピクチャに復号順において続く1つ以上のピクチャのインター予測において使用してもよい全ての参照ピクチャからなる。RPSは、主にエラー耐性を改善するために、AVCにおけるような「インターコーディングされた」信号通知の代わりに、DPBステータスの「イントラコーディングされた」信号通知を提供する。HEVCにおけるRPLC処理は、各参照インデックスのRPSサブセットにインデックスを信号通知することによって、RPSに基づいており、この処理は、AVCにおけるRPLC処理よりも簡単である。
【0029】
VVCにおける参照ピクチャ管理は、AVCよりもHEVCに類似しているが、いくぶんシンプルで堅牢である。これらの標準におけるように、2つのRPL、リスト0およびリスト1が導出されるが、これらは、HEVCで使用される参照ピクチャセットの概念またはAVCで使用される自動スライディングウィンドウ処理に基づくものではなく、より直接的に信号通知される。参照ピクチャは、RPLのためにアクティブエントリおよび非アクティブエントリのいずれかとしてリストされ、アクティブエントリのみが、現在のピクチャのCTUのインター予測における参照インデックスとして使用されてもよい。非アクティブエントリは、ビットストリームで、後で到着する他のピクチャにより参照するために、DPBに保持されるべき他のピクチャを示す。
【0030】
3.2. HEVCおよびVVCにおけるランダムアクセスとそのサポート
ランダムアクセスとは、復号順でビットストリームの最初のピクチャでないピクチャからビットストリームのアクセスと復号を開始することを指す。ブロードキャスト/マルチキャストおよび複数人数による映像会議におけるチューニングおよびチャネル切り替え、ローカル再生およびストリーミングにおける探索、並びにストリーミングにおけるストリーム適応をサポートするために、ビットストリームは、頻繁なランダムアクセスポイントを含むことが必要であり、一般的に、イントラコーディングされたピクチャであるが、インターコーディングピクチャであってもよい(例えば、漸次的復号更新の場合)。
【0031】
HEVCは、NALユニットタイプによって、NALユニットのヘッダ内のランダムアクセスポイント内(IRAP)ピクチャを信号通知することを含む。3つのタイプのIRAPピクチャ、即ち、瞬時復号更新(IDR)、クリーン・ランダム・アクセス(CRA)、およびブロークン・リンク・アクセス(BLA)ピクチャがサポートされる。IDRピクチャは、インターピクチャ予測構造が現在のピクチャグループ(GOP)の前のどのピクチャも参照しないようにするよう、制約しており、従来、クローズドGOPランダムアクセスポイントと呼ばれている。CRAピクチャは、あるピクチャが現在のGOPの前にピクチャを参照することを許可することによって、制限が緩和され、ランダムアクセスの場合、これらはすべて破棄される。CRAピクチャは、従来、オープンGOPランダムアクセスポイントと呼ばれている。BLAピクチャは、通常、例えばストリーム切り替え時に、CRAピクチャにおいて2つのビットストリームまたはその一部をスプライシングすることで生成される。IRAPピクチャのより優れたシステム使用を可能にするために、全部で6つの異なるNALユニットがIRAPピクチャのプロパティを信号通知するように定義され、これらのユニットは、HTTP(DASH)上で動的適応ストリーミングでのランダムアクセスサポートのために使用される、ISOベースのメディアファイルフォーマット(ISOBMFF)に定義されるようなストリームアクセスポイントのタイプにより適したものにするために使用できる。
【0032】
VVCは、3つのタイプのIRAPピクチャ、2つのタイプのIDRピクチャ(関連付けられたRADLピクチャを有する1つのタイプおよび関連付けられたRADLピクチャを有しない他のタイプ)およびCRAピクチャの1つのタイプをサポートする。これらは基本的にHEVCと同じである。HEVCにおけるBLAピクチャのタイプは、主に2つの理由により、VVCに含まれていない。i)BLAピクチャの基本機能性は、CRAピクチャにシーケンスNALユニットの終端を加えることで実現でき、このシーケンスNALユニットの終端が存在することは、後続のピクチャが単層ビットストリームにおいて新しいCVSを開始することを示す。ii)VVCの開発において、NALユニットヘッダのNALユニットタイプフィールドに6ビットの代わりに5ビットを用いることによって示されるように、HEVCよりも少ないNALユニットタイプを規定することが望ましかった。
【0033】
VVCとHEVCとの間のランダムアクセスサポートにおける別の重要な相違は、VVCにおいてより規範的な方法でGDRをサポートすることである。GDRにおいて、ビットストリームの復号は、インターコーディングされたピクチャから開始することができ、始めは、ピクチャ領域全体を正しく復号することができないが、複数のピクチャの後に、ピクチャ領域全体を正しくに復号することができるようになる。AVCおよびHEVCはまた、GDRランダムアクセスポイントおよびリカバリポイントの信号通知のためのリカバリポイントSEIメッセージを使用して、GDRをサポートする。VVCにおいて、GDRピクチャを示すために新しいNALユニットタイプが指定され、ピクチャヘッダ構文構造においてリカバリポイントが通知される。CVSおよびビットストリームは、GDRピクチャで開始することができる。これは、1つのビットストリーム全体が、1つのイントラコーディングされたピクチャなしにインターコーディングされたピクチャのみを含むことができることを意味する。GDRサポートをこのように規定する主な利点は、GDRに適合した動作を提供することである。GDRは、エンコーダが、ピクチャ全体をイントラコーディングするのではなく、複数のピクチャにイントラコーディングされたスライスまたはブロックを分布させることによって、ビットストリームのビットレートを平滑化することを可能にし、これにより、無線表示、オンラインゲーム、無人機に基づくアプリケーションのような超低遅延アプリケーションがより一般的になっているため、今日の方が以前より重要視されているエンドツーエンドの遅延の大幅な低減を可能にする。
【0034】
VVCにおける別のGDRに関連する特徴は、仮想境界信号通知である。GDRピクチャとそのリカバリポイントとの間のピクチャにおける、更新された領域(すなわち、正しく復号された領域)と未更新の領域との間の境界は、仮想境界として信号通知されてもよく、信号通知された場合、境界をまたがるインループフィルタリングが適用されなくなり、したがって、境界付近のいくつかのサンプルの復号の不整合が発生しなくなる。これは、アプリケーションがGDR処理中に正しく復号された領域を表示することを決定した場合に有用となりうる。
【0035】
IRAPピクチャおよびGDRピクチャを集合的に、ランダムアクセスポイント(RAP)ピクチャと呼ぶことができる。
【0036】
3.3 パラメータセット
AVC、HEVC、VVCはパラメータ集合を規定する。パラメータセットのタイプは、SPS、PPS、APS、VPS等である。SPS、PPSは、AVC、HEVC、VVCのすべてでサポートされている。VPSは、HEVCから導入されたものであり、HEVCおよびVVCの両方に含まれる。APSは、AVCまたはHEVCに含まれていなかったが、最近のVVC草案のテキストに含まれている。
【0037】
SPSは、シーケンスレベルのヘッダ情報を伝送するように設計され、PPSは、頻繁に変化しないピクチャレベルのヘッダ情報を伝送送するように設計された。SPSおよびPPSを用いると、シーケンスまたはピクチャごとに頻繁に変化する情報を繰り返す必要がないので、この情報の冗長な信号通知を回避することができる。さらに、SPSおよびPPSを使用することは、重要なヘッダ情報の帯域外伝送を有効化し、それにより、冗長な伝送の必要性を回避するだけでなく、誤り耐性を改善する。
【0038】
VPSは、マルチレイヤのビットストリームのすべてのレイヤに共通であるシーケンスレベルのヘッダ情報を担持するために導入された。
【0039】
APSは、コーディングするためのかなりのビットを必要とし、複数のピクチャによって共有され、そして、シーケンスにおいて非常に多くの異なる変形例が存在し得る、そのようなピクチャレベルまたはスライスレベルの情報を担持するために導入された。
【0040】
3.4. 全般およびVVCにおけるスケーラブル映像コーディング(SVC)
SVC(Scalable Video Coding、時には、映像コーディングにおけるスケーラビリティとも呼ばれる)は、BL(Base Layer:基本レイヤ)(時には、RL(Reference Layer:参照レイヤ)と呼ばれる)および1または複数のEL(Enhancement Layer:スケーラブルエンハンスメントレイヤ)が使用される映像コーディングを参照する。SVCにおいて、ベースレイヤは、基本品質レベルの映像データを担持することができる。1つ以上のエンハンスメントレイヤは、例えば、より高い空間的、時間的、および/または信号対雑音(SNR)レベルをサポートするように、追加の映像データを担持することができる。エンハンスメントレイヤは、前の、符号化されたレイヤに対して定義されてもよい。例えば、下層がBLとして機能し、上層がELとして機能することができる。中間レイヤは、ELまたはRLのいずれか、またはその両方として機能することができる。例えば、中間レイヤ(例えば、最下レイヤでも最上レイヤでもないレイヤ)は、中間レイヤの下のレイヤ、例えば、ベースレイヤまたは任意の介在する増強レイヤのためのELであってもよく、同時に、中間レイヤの上の1つ以上の増強レイヤのためのRLとしての役割を果たす。同様に、HEVC規格のマルチビューまたは3D拡張では、複数のビューが存在してもよく、1つのビューの情報を利用して別のビューの情報をコーディング(例えば、符号化または復号化)することができる(例えば、動き推定、動きベクトル予測および/または他の冗長性)。
【0041】
SVCにおいて、エンコーダまたはデコーダで使用されるパラメータは、それらを利用することができるコーディングレベル(例えば、映像レベル、シーケンスレベル、ピクチャレベル、スライスレベル等)に基づいてパラメータセットにグループ分けされる。例えば、ビットストリームにおける異なるレイヤのコーディング映像シーケンスによって利用できるパラメータは、映像パラメータセット(VPS)に含まれてもよく、コーディング映像シーケンスにおける1つ以上のピクチャによって利用されるパラメータは、シーケンスパラメータセット(SPS)に含まれてもよい。同様に、1つのピクチャの1つ以上のスライスで利用されるパラメータは、ピクチャパラメータセット(PPS)に含まれてもよく、1つのスライスに固有の他のパラメータは、スライスヘッダに含まれてもよい。同様に、特定のレイヤが所与の時間にどのパラメータセットを使用しているかの指示は、様々なコーディングレベルで提供されてもよい。
【0042】
VVCにおけるRPR(Reference Picture Resampling)のサポートのおかげで、空間的スケーラビリティサポートに必要なアップサンプリングはRPRアップサンプリングフィルタを使用するだけでよいので、追加の信号処理レベルのコーディングツールを必要とせずに、複数のレイヤ、例えば、VVCにおけるSDおよびHD解像度の2つのレイヤを含むビットストリームをサポートするように設計することができる。それにもかかわらず、スケーラビリティサポートのためには、高レベルの構文変更(スケーラビリティをサポートしない場合と比較して)が必要である。スケーラビリティサポートは、VVCバージョン1に規定されている。AVCおよびHEVCの拡張を含む、任意の以前の映像コーディング規格におけるスケーラビリティサポートとは異なり、VVCのスケーラビリティの設計は、単層デコーダの設計にできるだけ適したものにされてきた。多層ビットストリームの復号能力は、ビットストリームに1つのレイヤしかなかったかの如く規定される。例えば、DPBサイズのような復号能力は、復号されるビットストリームのレイヤの数に依存しないようで規定される。基本的に、単層ビットストリームのために設計されたデコーダは、多層ビットストリームを復号することができるようにするために、多くの変更を必要としない。AVCおよびHEVCの多層拡張の設計と比較して、HLSの態様は、ある程度の柔軟性を犠牲にして大幅に簡略化されてきた。例えば、IRAP AUは、CVSに存在する各レイヤの画像を含むことが必要である。
【0043】
4.開示される技術的解決策によって解決される技術課題
最近のVVCテキスト(JVET-R2001-vA/v10)における参照ピクチャリストの既存の設計は、以下の問題を有する。
【0044】
1)フラグsps_idr_rpl_present_flagは、SHを変更せずに、IDRと非IDRピクチャとをマージするための単層ビットストリーム用に設計されたものである。マルチレイヤ文脈において、sps_inter_layer_ref_pics_present_flagが1に等しい場合、sps_idr_rpl_present_flagが0に等しいことは、意味をなさない。それは、RPLを含むエンハンスメントレイヤ(EL)ピクチャのIDRスライス(すなわち、nal_unit_typeがIDR_N_LPまたはIDR_W_RADLに等しいスライス)を無効とし、その結果、レイヤ間予測を使用してコーディングされるELピクチャでのIDRスライスを無効にする一方、IRAPピクチャのILPがスケーラビリティにより与えられるコーディングゲインに最も貢献することが多い。
【0045】
2)pps_mixed_nalus_in_pic_flagは1に等しく、pps_rpl_info_in_ph_flagは0に等しく、かつ、nal_unit_typeがIDR_W_RADLまたはIDR_N_LPに等しいVCL NALユニットが少なくとも1つ存在するピクチャの場合、sps_idr_rpl_present_flagの値は、ピクチャ内のIDRスライスがSHに信号通知されるRPLを持つように1に等しくなければならず、そうでない場合には、ピクチャ内のIDRスライスに導出されるRPLは空になり、一方、ピクチャ内の非IDRスライスに導出されるRPLは空にならない。
【0046】
3)vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合、sps_inter_layer_ref_pics_present_flagが0に等しければ、SPSのnuh_layer_idと等しい非独立レイヤは、下位nuh_layer_idのSPSを参照しなければならない。それは可能であるけれども、しかし、その場合、そのnuh_layer_idの値で、そのようなSPSを有する理由は全くない。したがって、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合にsps_inter_layer_ref_pics_present_flagが1であることを求めるのは合理的である。
【0047】
4) sps_num_ref_pic_lists[0]が1に等しい場合、および、rpl_sps_flag[0]が1に等しい場合にはrpl_idx[0]の推論が必要であるのに、それが欠けている。
【0048】
5) 最近のVVCテキストの第8.3.2項(参照ピクチャリスト構築のための復号処理)は、sps_idr_rpl_present_flagが0に等しく、nal_unit_typeがIDR_W_RADLまたはIDR_N_LPに等しいスライスについてのRplsIdx[i]、num_ref_entries[i][RplsIdx[i]]、および、NumRefIdxActive[i]のためのデフォルト値を規定することを含み、これらの値は、それらのスライスについてRPLが空の間、使用される。しかし、pps_rpl_info_in_ph_flagが1に等しい場合、PHはRPLを含むので、pps_rpl_info_in_ph_flagが1に等しい場合、上記変数および構文要素のためのデフォルト値を規定する必要がない。実際、pps_rpl_info_in_ph_flagが1に等しい場合、RPLは空でない可能性があるので、このようなデフォルト値の規定は不正確である可能性がある。
【0049】
6) 最近のVVCテキストの第8.3.2項(参照ピクチャリスト構築のための復号処理)は、以下の制約を含む。
-現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]の各ILRPエントリにより参照されたピクチャは、DPBに存在し、現在のピクチャのnuh_layer_idより小さなnuh_layer_id refPicLayerIdを有し、かつ、IRAPピクチャであるか、Max(0,vps_max_tid_il_ref_pics_plus1[currLayerIdx][refLayerIdx]-1)以下のTemporalIdを有するかであり、ここでcurrLayerIdxとrefLayerIdxは、GeneralLayerIdx[nuh_layer_id]とGeneralLayerIdx[refpicLayerId]にそれぞれ等しいものとする。
しかしながら、ph_recovery_poc_cntが0に等しいGDRピクチャも、IRAPピクチャと同様に、制約条件において考慮されるべきである。
【0050】
7) 参照ピクチャマーキングのための復号処理において、最近のVVCテキストの第8.3.3項に規定されるように、CLVSSピクチャによって参照されるレイヤ間参照ピクチャがある場合、このレイヤ間参照ピクチャには、「長期参照に使用される」とマークされない。これにより、POCに基づくスケーリングが適用され、IRLPのPOC値および現在のピクチャが同じであるため、ゼロによる除算演算を呼び出させる可能性があるため、復号処理において問題を生じさせる。
【0051】
5. 技術的解決策および実施形態の例
上記課題を解決するために、以下に示す方法が開示されている。これらの項目は、一般的な概念を説明するための例であり、狭義に解釈されるべきではない。さらに、これらの項目は、個々に適用されてもよく、または任意の方法で組み合わされてもよい。
【0052】
1) 問題1を解決するために、sps_inter_layer_ref_pics_present_flagに従って、sps_idr_rpl_present_flagを条件付きで信号通知する。
a. 一例において、sps_inter_layer_ref_pics_present_flagが1に等しい場合、sps_idr_rpl_present_flagがスキップされ、1に等しいと推論されることを規定する。
i. あるいは、加えて、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合、sps_idr_rpl_present_flagの値が1に等しいことを必要とする。
b. あるいは、sps_idr_rpl_present_flagは、sps_inter_layer_ref_pics_present_flagに従って条件付きで信号通知されず、sps_inter_layer_ref_pics_present_flagが1に等しい場合、sps_idr_rpl_present_flagの値が1に等しいことを必要とする。
c. あるいは、sps_idr_rpl_present_flagは、sps_inter_layer_ref_pics_present_flagに従って条件付きで信号通知されず、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合、sps_idr_rpl_present_flagの値が1に等しいことを必要とする。
d. あるいは、sps_idr_rpl_present_flagは、sps_inter_layer_ref_pics_present_flagに従って条件付きで信号通知されず、sps_inter_layer_ref_pis_flagの値が1に等しい、またはvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合、sps_idr_rpl_present_flagの値が1に等しいことを必要とする。
【0053】
2) 問題2を解決するために、sps_idr_rpl_present_flagが0に等しく、pps_mixed_nalus_in_pic_flagが1に等しく、かつpps_rpl_info_in_ph_flagが0に等しい場合、nal_unit_typeの値がIDR_W_RADLまたはIDR_N_LPに等しいものとならないように制約を追加する。
a. あるいは、pps_mixed_nalus_in_pic_flagが1に等しい、pps_rpl_info_in_ph_flagは0に等しい、かつ、nal_unit_typeがIDR_W_RADLまたはIDR_N_LPに等しいVCL NALユニットを有する少なくとも1つのVCL NALユニットが存在するピクチャについて、sps_idr_rpl_present_flagの値が1に等しくように制約を追加する。
【0054】
3) 問題3を解決するため、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が0に等しい場合、sps_inter_layer_ref_pics_present_flagの値が1に等しいものとする制約を加える。
a. あるいは、sps_inter_layer_ref_pics_present_flagの値が!vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]に等しいものと規定する。
【0055】
4) 問題4を解決するために、sps_num_ref_pic_lists[0]が1に等しく、かつ、rpl_sps_flag[0]が1に等しい場合、rpl_idx[0]の値の推論を加える。
a. 一例において、sps_num_ref_pic_lists[0]が1に等しく、rpl_sps_flag[0]が1に等しい場合、rpl_idx[0]の値は、0に等しいことが推測される。
【0056】
5) 問題5を解決するために、pps_rpl_info_in_ph_flagが0に等しい場合にのみ、sps_idr_rpl_present_flagが0に等しく、かつ、nal_unit_typeがIDR_W_RADLまたはIDR_N_LPに等しいスライスについてRplsIdx[i]、num_ref_entries[i][RplsIdx[i]]およびNumRefIdxActive[i]のデフォルト値を設定または推測することを規定する。
【0057】
6) 問題6を解決するために、ph_recovery_poc_cntが0に等しいGDRピクチャを、現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]におけるILRPエントリに対する制約に関してIRAPピクチャと同様に扱う。
【0058】
7) 問題7を解決するために、参照ピクチャマーキングの復号処理において、現在のピクチャがCLVSSピクチャである場合、RefPicList[0]またはRefPicList[1]に各ILRPエントリが存在する場合、これを「長期参照に使用される」とマーキングすることを規定する。
【0059】
8) 問題1を解決するために、SPS構文においてsps_idr_rpl_present_flagはsps_inter_layer_ref_pics_present_flagより先に信号通知され、sps_inter_layer_ref_pics_present_flagはsps_idr_rpl_present_flagに従い条件付きで信号通知される。
a. 一例において、sps_idr_rpl_present_flagが0に等しい場合、sps_inter_layer_ref_pics_present_flagがスキップされ、0に等しいと推論されることを規定する。
i. あるいは、加えて、sps_idr_rpl_present_flagの値が0に等しい場合には、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいことを必要とする。
b. あるいは、SPS構文においてsps_idr_rpl_present_flagは、sps_inter_layer_ref_pics_present_flagの前に信号通知され、sps_inter_layer_ref_pics_present_flagは、sps_idr_rpl_present_flagに従って条件付きで通知されず、sps_idr_rpl_present_flagの値が0に等しい場合、sps_inter_layer_ref_pics_present_flagが0に等しいことを必要とする。
c. あるいは、SPS構文においてsps_idr_rpl_present_flagは、sps_inter_layer_ref_pics_present_flagの前に信号通知され、sps_inter_layer_ref_pics_present_flagは、sps_idr_rpl_present_flagに従って条件付きで通知されず、sps_idr_rpl_present_flagが0に等しい場合、sps_inter_layer_ref_pics_present_flagの値が0に等しい、またはvps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しいことを必要とする。
d. あるいは、sps_inter_layer_ref_pics_present_flagおよび/またはsps_idr_rpl_present_flagを信号通知するかどうかおよび/または信号通知する方法は、一般制約情報(GCI)構文に存在する一般制約フラグ、例えば、intra_only_constraint_flagに依存することもできる。
【0060】
6. 実施形態
以下は、上記第4章に要約されたいくつかの発明の態様のためのいくつかの例示的な実施形態であり、VVC仕様に適用できる。太字のイタリック体において、既に追加または修正された最も関連する部分には下線を付し、削除された部分のうちのいくつかは、[[]]を使用して示す。
【0061】
6.1. 第1の実施形態
本実施形態は1、1a、2、2a、3、4、4a、5、6、および7項に対するものである。
【0062】
7.3.2.3 シーケンスパラメータセットRBSP構文
【0063】
【0064】
7.4.2.2. NALユニットヘッダの意味論
...
nal_unit_typeの値は、1つのサブピクチャのすべてのVCL NALユニットについて同じものとする。1つのサブピクチャは、このサブピクチャのVCL NALユニットと同じNALユニットタイプを有すると見なされている。
【0065】
【0066】
1つのピクチャにおける任意の2つのサブピクチャが異なるNALユニットタイプを有する場合、sps_subpic_treated_as_pic_flag[]の値は、少なくとも1つのPまたはBスライスを含むピクチャにおけるすべてのサブピクチャについて1に等しいものとする。
...
【0067】
7.4.3.3 シーケンスパラメータセットRBSP意味論
...
【0068】
【0069】
【0070】
【0071】
7.4.9 参照ピクチャリスト意味論
...
【0072】
【0073】
【0074】
変数RplsIdx[i]は、以下のように導出される。
RplsIdx[i]=rpl_sps_flag[i]?rpl_idx[i]:sps_num_ref_pic_lists[i] (150)
...
【0075】
8.3.2 参照ピクチャリスト構築のための復号処理
...
【0076】
【0077】
-RplsIdx[i]の値は、sps_num_ref_pic_lists[i]に等しく設定される。
-num_ref_entries[i][RplsIdx[i]]の値は、0に等しいと推論される。
-NumRefIdxActive[i]の値は、0に等しく設定する。
...
【0078】
-[[現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]における各ILRPエントリにより参照されるピクチャは、現在のピクチャと同じAU内にあるものとする。]]
-現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]にILRPがある場合、各ILRPエントリよって参照されるピクチャには以下のすべての制約が適用される。
【0079】
【0080】
【0081】
-スライスのRefPicList[0]またはRefPicList[1]における各ILRPエントリは、存在する場合、アクティブエントリであるものとする。
...
【0082】
8.3.3 参照ピクチャリスト作成のための復号処理
...
現在のピクチャがCLVSSピクチャである場合、以下が適用される。
【0083】
【0084】
そうでない場合(現在のピクチャがCLVSSピクチャでない場合)、以下が適用される。
-RefPicList[0]またはRefPicList[1]におけるLTRPエントリごとに、ピクチャが現在のピクチャと同じnuh_layer_idを有するSTRPである場合、このピクチャは、「長期参照用に使用される」とマークされる。
-RefPicList[0]またはRefPicList[1]におけるいずれのエントリにも参照されていないDPBで、現在のピクチャと同じnuh_layer_idを有する各参照ピクチャは、「参照用に未使用」とマークされる。
-RefPicList[0]またはRefPicList[1]におけるILRPエントリごとに、ピクチャは、「長期参照用に使用される」とマークされる。
【0085】
図1は、本明細書で開示される様々な技術が実装され得る例示的な映像処理システム1900を示すブロック図である。様々な実装形態は、システム1900のモジュールの一部または全部を含んでもよい。システム1900は、映像コンテンツを受信するための入力ユニット1902を含んでもよい。映像コンテンツは、未加工または非圧縮フォーマット、例えば、8または10ビットのマルチコンポーネント画素値で受信されてもよく、または圧縮または符号化フォーマットで受信されてもよい。入力ユニット1902は、ネットワークインタフェース、周辺バスインタフェース、または記憶インタフェースを表してもよい。ネットワークインタフェースの例は、イーサネット(登録商標)、PON(Passive Optical Network)等の有線インタフェース、およびWi-Fi(登録商標)またはセルラーインタフェース等の無線インタフェースを含む。
【0086】
システム1900は、本明細書に記載される様々なコーディングまたはエンコーディング方法を実装することができるコーディングコンポーネント1904を含んでもよい。コーディングコンポーネント1904は、入力1902からの映像の平均ビットレートをコーディングコンポーネント1904の出力に低減し、映像のコーディング表現を生成してもよい。従って、このコーディング技術は、映像圧縮または映像トランスコーディング技術と呼ばれることがある。コーディングコンポーネント1904の出力は、コンポーネント1906によって表されるように、記憶されてもよいし、接続された通信を介して送信されてもよい。入力1902において受信された、記憶されたまたは通信された映像のビットストリーム(またはコーディングされた)表現は、コンポーネント1908によって使用されて、表示インタフェース1910に送信される画素値または表示可能な映像を生成してもよい。ビットストリーム表現からユーザが見ることができる映像を生成する処理は、映像展開と呼ばれることがある。さらに、特定の映像処理動作を「コーディング」動作またはツールと呼ぶが、コーディングツールまたは動作は、エンコーダおよびそれに対応する、コーディングの結果を逆にするデコーデイングツールまたは動作が、デコーダによって行われることが理解されよう。
【0087】
周辺バスインタフェースまたは表示インタフェースの例は、ユニバーサルシリアルバス(USB)またはハイビジョンマルチメディアインタフェース(HDMI(登録商標))またはディスプレイポート等を含んでもよい。ストレージインタフェースの例は、SATA(Serial Advanced Technology Attachment)、PCI、IDEインタフェース等を含む。本明細書に記載される技術は、携帯電話、ノートパソコン、スマートフォン、またはデジタルデータ処理および/または映像表示を実施可能な他のデバイス等の様々な電子デバイスに実施されてもよい。
【0088】
図2は、映像処理装置3600のブロック図である。装置3600は、本明細書に記載の方法の1つ以上を実装するために使用されてもよい。装置3600は、スマートフォン、タブレット、コンピュータ、モノのインターネット(IoT)受信機等に実施されてもよい。装置3600は、1つ以上の処理装置3602と、1つ以上のメモリ3604と、映像処理ハードウェア3606と、を含んでもよい。1つまたは複数の処理装置3602は、本明細書に記載される1つ以上の方法を実装するように構成されてもよい。メモリ(複数可)3604は、本明細書で説明される方法および技術を実装するために使用されるデータおよびコードを記憶するために使用してもよい。映像処理ハードウェア3606は、本明細書に記載される技術をハードウェア回路にて実装するために使用してもよい。
【0089】
図4は、本開示の技術を利用し得る例示的な映像コーディングシステム100を示すブロック図である。
【0090】
図4に示すように、映像コーディングシステム100は、送信元デバイス110と、送信先デバイス120と、を備えてもよい。送信元デバイス110は、符号化映像データを生成するものであり、映像符号化機器とも称され得る。送信先デバイス120は、送信元デバイス110によって生成された、符号化された映像データを復号してよく、映像復号デバイスと呼ばれ得る。
【0091】
送信元デバイス110は、映像ソース112と、映像エンコーダ114と、入出力(I/O)インタフェース116と、を備えてもよい。
【0092】
映像ソース112は、映像キャプチャデバイスなどのソース、映像コンテンツプロバイダからの映像データを受信するためのインタフェース、および/または映像データを生成するためのコンピュータグラフィックスシステム、またはこれらのソースの組み合わせを含んでもよい。映像データは、1または複数のピクチャを含んでもよい。映像エンコーダ114は、映像ソース112からの映像データを符号化し、ビットストリームを生成する。ビットストリームは、映像データのコーディング表現を形成するビットのシーケンスを含んでもよい。ビットストリームは、コーディングされたピクチャおよび関連付けられたデータを含んでもよい。コーディングされたピクチャは、ピクチャのコーディング表現である。関連付けられたデータは、シーケンスパラメータセット、ピクチャパラメータセット、および他の構文構造を含んでもよい。I/Oインタフェース116は、変復調器(モデム)および/または送信機を含んでもよい。符号化された映像データは、ネットワーク130aを介して、I/Oインタフェース116を介して送信先デバイス120に直接送信されてよい。エンコードされた映像データは、送信先デバイス120がアクセスするために、記録媒体/サーバ130bに記憶してもよい。
【0093】
送信先デバイス120は、I/Oインタフェース126、映像デコーダ124、および表示装置122を含んでもよい。
【0094】
I/Oインタフェース126は、受信機および/またはモデムを含んでもよい。I/Oインタフェース126は、送信元デバイス110または記憶媒体/サーバ130bから符号化された映像データを取得してもよい。映像デコーダ124は、符号化された映像データを復号してもよい。表示デバイス122は、復号された映像データをユーザに表示してもよい。表示装置122は、送信先デバイス120と一体化されてもよく、または外部表示装置とインタフェースで接続するように構成される送信先デバイス120の外部にあってもよい。
【0095】
映像エンコーダ114および映像デコーダ124は、高効率映像コーディング(HEVC)規格、汎用映像コーディング(VVC)規格、および他の現在のおよび/または更なる規格等の映像圧縮規格に従って動作してもよい。
【0096】
図5は、映像エンコーダ200の一例を示すブロック図であり、
図4に示されるシステム100における映像エンコーダ114であってもよい。
【0097】
映像エンコーダ200は、本開示の技術のいずれかまたは全部を行うように構成されてもよい。
図5の実施形態において、映像エンコーダ200は、複数の機能性モジュールを含む。本開示で説明される技法は、映像エンコーダ200の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0098】
映像エンコーダ200の機能コンポーネントは、分割ユニット201、予測ユニット202、残差生成ユニット207、変換ユニット208、量子化ユニット209、逆量子化ユニット210、逆変換ユニット211、再構成ユニット212、バッファ213、およびエントロピー符号化ユニット214を含んでもよく、予測ユニット202は、モード選択ユニット203、動き推定ユニット204、動き補償ユニット205、およびイントラ予測ユニット206を含む。
【0099】
他の例において、映像エンコーダ200は、より多くの、より少ない、または異なる機能コンポーネントを含んでもよい。一例において、予測ユニット202は、イントラブロックコピー(IBC)ユニットを含んでもよい。IBCユニットは、少なくとも1つの参照ピクチャが、現在の映像ブロックが位置するピクチャであるIBCモードにおいて予測を実行してもよい。
【0100】
さらに、動き推定ユニット204および動き補償ユニット205などのいくつかのコンポーネントは、高度に統合されてもよいが、説明のために、
図5の例においては別個に表現されている。
【0101】
分割ユニット201は、ピクチャを1または複数の映像ブロックに分割してもよい。映像エンコーダ200および映像デコーダ300は、様々な映像ブロックサイズをサポートしてもよい。
【0102】
モード選択ユニット203は、例えば、誤りの結果に基づいて、イントラまたはインターのコーディングモードのうちの1つを選択し、得られたイントラまたはインターコーディングされたブロックを、残差ブロックデータを生成するために残差生成ユニット207に供給し、符号化されたブロックを参照ピクチャとして使用するために再構成するために再構成ユニット212に供給してもよい。いくつかの例において、モード選択ユニット203は、インター予測信号およびイントラ予測信号に基づいて予測を行うCIIP(Combination of Intra and Inter Prediction)モードを選択してもよい。モード選択ユニット203は、インター予測の場合、ブロックのために動きベクトルの解像度(例えば、サブピクセルまたは整数ピクセル精度)を選択してもよい。
【0103】
現在の映像ブロックに対してインター予測を行うために、動き推定ユニット204は、バッファ213からの1つ以上の参照フレームと現在の映像ブロックとを比較することにより、現在の映像ブロックに対する動き情報を生成してもよい。動き補償ユニット205は、動き情報および現在の映像ブロックに関連付けられたピクチャ以外のバッファ213からのピクチャの復号化されたサンプルに基づいて、現在の映像ブロックに対する予測映像ブロックを決定してもよい。
【0104】
動き推定ユニット204および動き補償ユニット205は、現在の映像ブロックがIスライスであるか、Pスライスであるか、またはBスライスであるかに基づいて、例えば、現在の映像ブロックに対して異なる動作を行ってもよい。
【0105】
いくつかの例において、動き推定ユニット204は、現在の映像ブロックに対して単方向予測を実行し、動き推定ユニット204は、現在の映像ブロックに対する参照映像ブロックのために、リスト0またはリスト1の参照ピクチャを検索してもよい。そして、動き推定ユニット204は、参照映像ブロックを含むリスト0またはリスト1における参照ピクチャを示す参照インデックスと、現在の映像ブロックと参照映像ブロックとの間の空間的変位を示す動きベクトルと、を生成する。動き推定ユニット204は、参照インデックス、予測方向インジケータ、および動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償ユニット205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在のブロックの予測映像ブロックを生成してもよい。
【0106】
他の例において、動き推定ユニット204は、現在の映像ブロックを双方向予測してもよく、動き推定ユニット204は、現在の映像ブロックに対する参照映像ブロックについて、リスト0から参照ピクチャを検索してもよく、また、現在の映像ブロックに対する別の参照映像ブロックについて、リスト1における参照ピクチャも検索してもよい。そして、動き推定ユニット204は、参照映像ブロックを含むリスト0およびリスト1における参照ピクチャを示す参照インデックスと、参照映像ブロックと現在の映像ブロックとの間の空間的変位を示す動きベクトルとを生成してもよい。動き推定ユニット204は、現在の映像ブロックの参照インデックスおよび動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償ユニット205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在の映像ブロックの予測映像ブロックを生成してもよい。
【0107】
いくつかの例において、動き推定ユニット204は、デコーダの復号処理のために、動き情報のフルセットを出力してもよい。
【0108】
いくつかの例において、動き推定ユニット204は、現在の映像のための動き情報のフルセットを出力しなくてもよい。むしろ、動き推定ユニット204は、別の映像ブロックの動き情報を参照して、現在の映像ブロックの動き情報を信号通知してもよい。例えば、動き推定ユニット204は、現在の映像ブロックの動き情報が近傍の映像ブロックの動き情報に十分に類似していることを判定してもよい。
【0109】
一例において、動き推定ユニット204は、現在の映像ブロックに関連付けられた構文構造において、現在の映像ブロックが別の映像ブロックと同一の動き情報を有することを映像デコーダ300に示す値を示してもよい。
【0110】
他の例において、動き推定ユニット204は、現在の映像ブロックに関連付けられた構文構造において、別の映像ブロックと、MVD(Motion Vector Difference)とを識別してもよい。動きベクトル差分は、現在の映像ブロックの動きベクトルと、示された映像ブロックの動きベクトルとの差分を示す。映像デコーダ300は、指定された映像ブロックの動きベクトルと動きベクトル差分とを使用して、現在の映像ブロックの動きベクトルを決定してもよい。
【0111】
上述したように、映像エンコーダ200は、動きベクトルを予測的に信号通知してもよい。映像エンコーダ200によって実装され得る予測信号通知技法の2つの例は、AMVP(Advanced Motion Vector Prediction)およびマージモード信号通知を含む。
【0112】
イントラ予測ユニット206は、現在の映像ブロックに対してイントラ予測を行ってもよい。イントラ予測ユニット206が現在の映像ブロックをイントラ予測する場合、イントラ予測ユニット206は、同じピクチャにおける他の映像ブロックの復号されたサンプルに基づいて、現在の映像ブロックのための予測データを生成してもよい。現在の映像ブロックのための予測データは、予測された映像ブロックおよび様々な構文要素を含んでもよい。
【0113】
残差生成ユニット207は、現在の映像ブロックから現在の映像ブロックの予測された映像ブロックを減算することによって(例えば、マイナス符号によって示されている)、現在の映像ブロックに対する残差データを生成してもよい。現在の映像ブロックの残差データは、現在の映像ブロックにおけるサンプルの異なるサンプル成分に対応する残差映像ブロックを含んでもよい。
【0114】
他の例において、例えば、スキップモードにおいて、現在の映像ブロックに対する残差データがなくてもよく、残差生成ユニット207は、減算動作を行わなくてもよい。
【0115】
変換処理ユニット208は、現在の映像ブロックに関連付けられた残差映像ブロックに1または複数の変換を適用することによって、現在の映像ブロックのための1または複数の変換係数映像ブロックを生成してもよい。
【0116】
変換処理ユニット208が現在の映像ブロックに関連付けられた変換係数映像ブロックを生成した後、量子化ユニット209は、現在の映像ブロックに関連付けられた1または複数の量子化パラメータ(QP:Quantization Parameter)値に基づいて、現在の映像ブロックに関連付けられた変換係数映像ブロックを量子化してもよい。
【0117】
逆量子化ユニット210および逆変換ユニット211は、変換係数映像ブロックに逆量子化および逆変換をそれぞれ適用し、変換係数映像ブロックから残差映像ブロックを再構成してもよい。再構成ユニット212は、予測ユニット202によって生成された1または複数の予測映像ブロックに対応するサンプルに再構成された残差映像ブロックを追加して、バッファ213に格納するための現在のブロックに関連付けられた再構成された映像ブロックを生成してもよい。
【0118】
再構成ユニット212が映像ブロックを再構成した後、映像ブロックにおける映像ブロッキングアーチファクトを縮小するために、ループフィルタリング動作が行われてもよい。
【0119】
エントロピー符号化ユニット214は、映像エンコーダ200の他の機能コンポーネントからデータを受信してもよい。エントロピー符号化ユニット214がデータを受信した場合、エントロピー符号化ユニット214は、1または複数のエントロピー符号化動作を行い、エントロピー符号化されたデータを生成し、エントロピー符号化されたデータを含むビットストリームを出力してもよい。
【0120】
図6は、映像デコーダ300の一例を示すブロック図であり、映像デコーダ300は、
図4に示すシステム100における映像デコーダ114であってもよい。
【0121】
映像デコーダ300は、本開示の技術のいずれかまたは全てを行うように構成されてもよい。
図5の実施例において、映像デコーダ300は、複数の機能コンポーネントを含む。本開示で説明される技法は、映像デコーダ300の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0122】
図6の実施形態において、映像デコーダ300は、エントロピー復号ユニット301、動き補償ユニット302、イントラ予測ユニット303、逆量子化ユニット304、逆変換ユニット305、および再構成ユニット306、並びにバッファ307を含む。映像デコーダ300は、いくつかの例では、映像エンコーダ200(
図5)に関して説明したエンコーディングパスとほぼ逆のデコーディングパスを行ってもよい。
【0123】
エントロピー復号ユニット301は、符号化されたビットストリームを取り出す。符号化されたビットストリームは、エントロピーコーディングされた映像データ(例えば、映像データの符号化されたブロック)を含んでもよい。エントロピー復号ユニット301は、エントロピーコーディングされた映像データを復号し、エントロピー復号された映像データから、動き補償ユニット302は、動きベクトル、動きベクトル精度、参照ピクチャリストインデックス、および他の動き情報を含む動き情報を決定してもよい。動き補償ユニット302は、例えば、AMVPおよびマージモードを行うことで、このような情報を決定してもよい。
【0124】
動き補償ユニット302は、動き補償されたブロックを生成してもよく、場合によっては、補間フィルタに基づいて補間を行う。構文要素には、サブピクセルの精度で使用される補間フィルタのための識別子が含まれてもよい。
【0125】
動き補償ユニット302は、映像ブロックのエンコーディング中に映像エンコーダ20によって使用されるような補間フィルタを使用して、参照ブロックのサブ整数ピクセルのための補間値を計算してもよい。動き補償ユニット302は、受信した構文情報に基づいて、映像エンコーダ200により使用される補間フィルタを決定し、予測ブロックを生成に補間フィルタを使用してしてもよい。
【0126】
動き補償ユニット302は、エンコードされた映像シーケンスのフレームおよび/またはスライスをエンコードするために使用されるブロックのサイズを判定するための構文情報、エンコードされた映像シーケンスのピクチャの各マクロブロックがどのように分割されるかを記述する分割情報、各分割がどのようにエンコードされるかを示すモード、各インターエンコードされたブロックに対する1つ以上の参照フレーム(および参照フレームリスト)、およびエンコードされた映像シーケンスをデコードするための他の情報のうちいくつかを使用してもよい。
【0127】
イントラ予測ユニット303は、例えば、ビットストリームにおいて受信したイントラ予測モードを使用して、空間的に隣接するブロックから予測ブロックを形成してもよい。逆量子化ユニット303は、ビットストリームに提供され、エントロピー復号ユニット301によって復号された量子化された映像ブロック係数を逆量子化(すなわち、逆量子化)する。逆変換ユニット303は、逆変換を適用する。
【0128】
再構成ユニット306は、残差ブロックと、動き補償ユニット202またはイントラ予測ユニット303によって生成された対応する予測ブロックとを合計し、復号されたブロックを形成してもよい。所望であれば、ブロックアーチファクトを除去するために、復号されたブロックをフィルタリングするためにデブロッキングフィルタを適用してもよい。デコードされた映像ブロックは、バッファ307に記憶され、バッファ307は、後続の動き補償/イントラ予測のために参照ブロックを提供し、表示デバイスに表示するためにデコードされた映像を生成する。
【0129】
次に、いくつかの実施形態において好適な解決策を列挙する。
【0130】
以下の解決策は、前章(例えば、項目1)で論じた技術の例示的な実施形態を示す。
【0131】
1.映像処理方法(例えば、
図3の方法600)であって、1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うこと(602)を含み、このコーディングされた表現はフォーマット規則に準拠し、このフォーマット規則は、レイヤ間参照ピクチャが変換のために使用されるかどうかを規定する第1の構文要素の第1の値が、このコーディングされた表現に参照ピクチャリストが含まれているかどうかを示す第2の構文要素の存在または第2の値を制御することを規定する。
【0132】
2.第1の値が1である場合、第2の構文要素をコーディングされた表現から省略し、1であると推論する、解決策1に記載の方法。
【0133】
以下の解決策は、前章(例えば、項目2)で論じた技術の例示的な実施形態を示す。
【0134】
3.1つ以上の映像ピクチャを含む1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現はフォーマット規則に準拠し、このフォーマット規則は、参照ピクチャリストのための構文要素がコーディングされた表現に含まれないことを第1の構文要素が示し、かつ、混合ネットワーク抽象化レイヤユニットがコーディングされた表現において許可されており、かつ、参照ピクチャリスト構文要素がピクチャヘッダに含まれていない場合に、瞬時デコーダ参照ピクチャタイプネットワーク抽象化レイヤユニットをコーディングされた表現における使用を無効化することを規定する、映像処理方法。
【0135】
以下の解決策は、前章(例えば、項目3、4)で論じた技術の例示的な実施形態を示す。
【0136】
4.1つ以上の映像ピクチャを備える1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現は、フォーマット規則に準拠し、このフォーマット規則は、(a)映像パラメータセットにおける所定のレイヤidのための独立したレイヤ活性化フラグを示す第1の構文要素の値が、レイヤ間参照ピクチャの活性化を示す第2の構文要素の値を制御する、または(b)シーケンスパラメータセットにおける参照ピクチャリストの数を示す第1の構文要素の値が、現在の映像ユニットの変換に使用される参照ピクチャを示す第2の構文要素の値を制御する制約を規定する、映像処理方法。
【0137】
5.前記第1および第2の構文要素は、反対のバイナリ値を有する、解決策4に記載の方法。
【0138】
6.前記第1および前記第2の構文要素が同じバイナリ値を有する、解決策4に記載の方法。
【0139】
以下の解決策は、前章(例えば、項目7)で論じた技術の例示的な実施形態を示す。
【0140】
7.1つ以上の映像ピクチャを備える1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、この変換は、現在のピクチャがコーディングされたレイヤ映像シーケンスの開始ピクチャである場合、この現在のピクチャのための参照リストにおけるレイヤ間ピクチャを長期参照ピクチャと見なすことを規定する規則に従って実行される、映像処理方法。
【0141】
以下の解決策は、前章(例えば、項目8)で論じた技術の例示的な実施形態を示す。
【0142】
8.1つ以上の映像ピクチャを備える1つ以上の映像レイヤを含む映像と、この映像のコーディングされた表現との間で変換を行うことを含み、このコーディングされた表現は、参照ピクチャリスト情報の存在を示す第1のフィールドが、第1のフィールドに従って条件付きで信号通知されるレイヤ間ピクチャの存在を信号通知する第2のフィールドの前に信号通知されることを規定するフォーマット規則に準拠する、映像処理方法。
【0143】
9. 前記変換を行うことは、前記映像を符号化して前記コーディングされた表現を生成することを含む、解決策1~8のいずれかに記載の方法。
【0144】
10. 変換を行うことは、コーディングされた表現を構文解析し、復号して映像を生成することを含む、解決策1~8のいずれかに記載の方法。
【0145】
11. 解決策1~10の1つ以上に記載の方法を実行するように構成された処理装置を備える、映像復号装置。
【0146】
12. 解決策1~10の1つ以上に記載の方法を実行するように構成された処理装置を備える、映像符号化装置。
【0147】
13. コンピュータコードが記憶されたコンピュータプログラム製品であって、前記コードは、プロセッサにより実行されると、前記プロセッサに、解決策1~10のいずれかに記載の方法を実行させるコンピュータプログラム製品。
【0148】
14. 本明細書に記載の方法、装置またはシステム。
【0149】
図7は、本技術の1つ以上の実施形態による映像データ処理の方法700を表すフローチャートである。この方法700は、動作710において、規則に従って、スライスを含む映像ピクチャを備える映像と、この映像のビットストリームとを変換することを含む。この規則は、参照ピクチャリスト(RPL)インデックスに関連付けられた参照ピクチャリスト構文構造のエントリの数を規定する構文要素のデフォルト値が、条件が満たされることによって0に等しくなることを規定する。この条件は、(1)映像ピクチャが瞬時復号更新ピクチャであり、(2)第1の構文フラグが、スライスのスライスヘッダにRPL構文要素が存在しないことを規定し、(3)第2の構文フラグが、映像ピクチャのピクチャヘッダにRPL情報が存在しないことを規定する場合、満たされる。
【0150】
いくつかの実施形態において、条件が満たされることに呼応して、変数のデフォルト値は0に等しい。この変数は、スライスを変換するためのRPLの最大参照インデックスを規定する。いくつかの実施形態において、参照ピクチャリストインデックスを示す変数は、条件が満たされたことに呼応して、シーケンスパラメータセットの参照ピクチャリスト構文構造の数に等しい。
【0151】
図8は、本技術の1つ以上の実施形態による映像データ処理の方法800を表すフローチャートである。この方法800は、動作810において、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、変換のためのレイヤ間予測の使用に基づいて、映像ピクチャのスライスのスライスヘッダに参照ピクチャリスト(RPL)構文要素が存在するかどうかを規定する第1の構文フラグの値を決定することを規定する。
【0152】
いくつかの実施形態において、第1の構文フラグは、参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであるかどうかを規定する第2の構文フラグに基づいて、ビットストリームに条件付きで存在する。いくつかの実施形態において、第2の構文フラグが、参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであることを示す場合、第1の構文フラグはビットストリーム内に存在せず、1に等しいと推論される。
【0153】
いくつかの実施形態において、第2の構文フラグが参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであることを規定する場合、第1の構文フラグの値は1に等しい。いくつかの実施形態において、第3の構文フラグの値が、レイヤがレイヤ間予測を使用しないことを示す0の値を有する場合、第1の構文要素の値は1に等しい。いくつかの実施形態において、(1)第2の構文フラグが参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであることを規定する場合、または、(2)第3の構文フラグが、レイヤがレイヤ間予測を使用しないことを示す0の値を有する場合、第1の構文フラグの値は1に等しい。
【0154】
図9は、本技術の1つ以上の実施形態による映像データ処理の方法900を表すフローチャートである。この方法900は、動作910において、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、(1)映像ピクチャが瞬時復号更新ピクチャであるかどうか、(2)映像ピクチャのスライスのスライスヘッダに参照ピクチャリスト(RPL)構文要素が存在するかどうか、(3)映像ピクチャの1つのピクチャパラメータセットを参照する各ピクチャが、同じユニットタイプの値を有さない複数のネットワーク抽象化ユニットを有するかどうか、および(4)映像ピクチャのピクチャヘッダにRPL情報が存在するかどうかに関連した制約を規定する。
【0155】
いくつかの実施形態において、前記制約は、(1)RPL構文要素が映像ピクチャのスライスのスライスヘッダに存在せず、(2)ピクチャパラメータセットを参照する各ピクチャは、同じユニットタイプの値を有さない複数のネットワーク抽象化レイヤユニットを有し、かつ(3)RPL情報が映像ピクチャのピクチャヘッダに存在しない場合、映像ピクチャが非瞬時復号更新ピクチャであるように制約されることを規定する。いくつかの実施形態において、前記制約は、(1)ピクチャパラメータセットを参照する各ピクチャが、同じユニットタイプの値を有さない複数のネットワーク抽象化レイヤユニットを有し、(2)映像ピクチャのピクチャヘッダにRPL情報が存在し、かつ、(3)映像ピクチャが瞬時復号更新ピクチャである場合、RPL構文要素が映像ピクチャのスライスのスライスヘッダに存在するように制約されることを規定する。
【0156】
図10は、本技術の1つ以上の実施形態による映像データ処理の方法1000を表すフローチャートである。この方法1000は、動作1010において、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、(1)1つのレイヤがレイヤ間予測を使用するかどうか、および、(2)参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであるかどうかに基づく制約を規定する。
【0157】
いくつかの実施形態において、前記制約は、レイヤがレイヤ間予測を使用しない場合、参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであることを規定する。いくつかの実施形態において、前記制約は、参照ピクチャリスト構文構造におけるエントリがレイヤ間参照ピクチャ(ILRP)エントリであるかどうかと、レイヤがレイヤ間予測を使用するかどうかが同じであることを規定する。
【0158】
図11は、本技術の1つ以上の実施形態による映像データ処理の方法1100を表すフローチャートである。この方法1100は、動作1110において、規則に従って、映像の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、シーケンスパラメータセットにおける第1のリストの参照ピクチャリスト構文構造の数が1であり、かつ、映像ピクチャの第1の参照ピクチャリストが、第1のリストの参照ピクチャリスト構文構造に基づいて導出される場合、参照ピクチャリスト構文構造のインデックスを規定する変数が推論されることを規定する。いくつかの実施形態において、変数は、0に等しいと推論される。
【0159】
図12は、本技術の1つ以上の実施形態による映像データ処理の方法1200を表すフローチャートである。この方法1200は、動作1210において、規則に従って、映像の現在の映像ピクチャと映像のビットストリームとの間での変換を行うことを含む。この規則は、ピクチャが、現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照されることに呼応して、ピクチャは漸次的復号更新(GDR)タイプを有することを許され、出力順でピクチャの回復点を規定する構文要素が0であることを規定する。
【0160】
いくつかの実施形態において、前記ピクチャは、現在のピクチャと同一のアクセスユニットにある。いくつかの実施形態において、前記ピクチャは、復号されたピクチャバッファに存在する。いくつかの実施形態において、前記ピクチャは、現在のピクチャのレイヤ識別子より小さいレイヤ識別子を有する。いくつかの実施形態において、参照ピクチャリストは、参照リスト0または参照リスト1を含む。
【0161】
図13は、本技術の1つ以上の実施形態による映像データ処理の方法1300を表すフローチャートである。この方法1300は、動作1310において、規則に従って、現在の映像ピクチャを含む映像と映像のビットストリームとの間での変換を行うことを含む。この規則は、現在のピクチャがコーディングされたレイヤ映像シーケンスの開始ピクチャであることに呼応して、現在のピクチャの参照ピクチャリストにおける各レイヤ間参照ピクチャ(ILRP)エントリは、長期参照に使用されるとマークされることを規定する。
【0162】
いくつかの実施形態において、参照ピクチャリストは、参照リスト0または参照リスト1を含む。いくつかの実施形態において、現在のピクチャの参照ピクチャリストにおける各レイヤ間参照ピクチャ(ILRP)のエントリは、復号処理における長期参照ピクチャとして扱われる。いくつかの実施形態において、この方法は、参照ピクチャのマーキングのための復号処理において、ピクチャごとに1回実行される。いくつかの実施形態において、参照ピクチャリストにおける各レイヤ間参照ピクチャ(ILRP)のエントリは、復号されたピクチャバッファに含まれる。いくつかの実施形態において、各ILRPエントリを長期参照に使用されるとマーキングすることは、参照に未使用または短期参照に使用されることを含む他のマーキングに取って代わる。
【0163】
図14は、本技術の1つ以上の実施形態による映像データ処理の方法1400を表すフローチャートである。方法1400は、動作1410において、規則に従って映像と映像のビットストリームとの間で変換を行うことを含む。この規則は、瞬時復号更新(IDR)ピクチャのスライスヘッダに参照ピクチャリスト構文要素が存在するかどうかを規定する第1の構文フラグが、コーディングされたレイヤ映像シーケンスにおける任意のコーディングされたピクチャのインター予測にレイヤ間参照ピクチャ(ILRP)が使用されるかどうかを規定する第2の構文フラグの前に、ビットストリームに存在することを規定する。
【0164】
いくつかの実施形態において、前記規則は、前記第1の構文フラグに従って前記第2の構文フラグが前記ビットストリームに条件付きで存在することを更に規定する。いくつかの実施形態において、第1の構文フラグが0に等しい場合、第2の構文フラグは、ビットストリームに存在せず、0であると推測される。いくつかの実施形態において、第1の構文フラグが0に等しく、かつ、レイヤがレイヤ間予測を用いない場合、第2の構文フラグはビットストリームに存在せず、0であると推測される。いくつかの実施形態において、第1の構文フラグが0に等しい場合、第2の構文フラグは0に等しい、または、レイヤはレイヤ間予測を使用しない。いくつかの実施形態において、第1の構文フラグおよび/または第2の構文フラグがビットストリームに存在するか否かは、一般的制約情報構文構造における一般的制約フラグに基づく。
【0165】
いくつかの実施形態において、変換は、映像をビットストリームに符号化することを含む。いくつかの実施形態において、変換は、ビットストリームから映像を復号することを含む。
【0166】
本明細書に記載された開示された、およびその他の解決策、実施例、実施形態、モジュール、および機能動作の実装形態は、本明細書に開示された構造およびその構造的等価物を含め、デジタル電子回路、またはコンピュータソフトウェア、ファームウェア、若しくはハードウェアで実施されてもよく、またはそれらの1または複数の組み合わせで実施してもよい。開示された、およびその他の実施形態は、1または複数のコンピュータプログラム製品、すなわち、データ処理装置によって実装されるため、またはデータ処理装置の動作を制御するために、コンピュータ可読媒体上に符号化されたコンピュータプログラム命令の1または複数のモジュールとして実施することができる。このコンピュータ可読媒体は、機械可読記憶デバイス、機械可読記憶基板、メモリデバイス、機械可読伝播信号をもたらす物質の組成物、または、これらの1または複数の組み合わせであってもよい。「データ処理装置」という用語は、例えば、プログラマブルプロセッサ、コンピュータ、または複数のプロセッサ、若しくはコンピュータを含む、データを処理するためのすべての装置、デバイス、および機械を含む。この装置は、ハードウェアの他に、当該コンピュータプログラムの実行環境を作るコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、またはこれらの1または複数の組み合わせを構成するコードを含むことができる。伝播信号は、人工的に生成した信号、例えば、機械で生成した電気、光、または電磁信号であり、適切な受信装置に送信するための情報をエンコードするために生成される。
【0167】
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとも呼ばれる)は、コンパイルされた言語または解釈された言語を含む任意の形式のプログラミング言語で記述することができ、また、それは、スタンドアロンプログラムとして、またはコンピューティング環境で使用するのに適したモジュール、コンポーネント、サブルーチン、または他のユニットとして含む任意の形式で展開することができる。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応するとは限らない。プログラムは、他のプログラムまたはデータを保持するファイルの一部(例えば、マークアップ言語文書に格納された1または複数のスクリプト)に記録されていてもよいし、当該プログラム専用の単一のファイルに記憶されていてもよいし、複数の調整ファイル(例えば、1または複数のモジュール、サブプログラム、またはコードの一部を格納するファイル)に記憶されていてもよい。コンピュータプログラムを、1つのコンピュータで実行するように展開することができ、あるいは、1つのサイトに位置する、または複数のサイトにわたって分散され通信ネットワークによって相互接続される複数のコンピュータで実行するように展開することができる。
【0168】
本明細書に記載された処理およびロジックフローは、入力データ上で動作し、出力を生成することによって機能を行うための1つ以上のコンピュータプログラムを実行する1つ以上のプログラマブルプロセッサによって行うことができる。処理およびロジックフローはまた、特定用途のロジック回路、例えば、FPGA(Field Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)によって行うことができ、装置はまた、特別目的のロジック回路として実装することができる。
【0169】
コンピュータプログラムの実行に適したプロセッサは、例えば、汎用および専用マイクロプロセッサの両方、並びに任意の種類のデジタルコンピュータの任意の1つ以上のプロセッサを含む。一般的に、プロセッサは、リードオンリーメモリまたはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は、命令を実行するためのプロセッサと、命令およびデータを記憶するための1つ以上の記憶装置とである。一般的に、コンピュータは、データを記憶するための1または複数の大容量記憶デバイス、例えば、磁気、光磁気ディスク、または光ディスクを含んでもよく、またはこれらの大容量記憶デバイスからデータを受信するか、またはこれらにデータを転送するように動作可能に結合されてもよい。しかしながら、コンピュータは、このようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを記憶するのに適したコンピュータ可読媒体は、あらゆる形式の不揮発性メモリ、媒体、およびメモリデバイスを含み、例えば、EPROM、EEPROM、フラッシュ記憶装置、磁気ディスク、例えば内部ハードディスクまたはリムーバブルディスク、光磁気ディスク、およびCD-ROMおよびDVD-ROMディスク等の半導体記憶装置を含む。プロセッサおよびメモリは、特定用途のロジック回路によって補完されてもよく、または特定用途のロジック回路に組み込まれてもよい。
【0170】
本特許明細書は多くの特徴を含むが、これらは、任意の主題の範囲または特許請求の範囲を限定するものと解釈されるべきではなく、むしろ、特定の技術の特定の実施形態に特有であり得る特徴の説明と解釈されるべきである。本特許文献において別個の実施形態のコンテキストで説明されている特定の特徴は、1つの例において組み合わせて実装してもよい。逆に、1つの例のコンテキストで説明された様々な特徴は、複数の実施形態において別個にまたは任意の適切なサブコンビネーションで実装してもよい。さらに、特徴は、特定の組み合わせで作用するものとして上記に記載され、最初にそのように主張されていてもよいが、主張された組み合わせからの1または複数の特徴は、場合によっては、組み合わせから抜粋されることができ、主張された組み合わせは、サブコンビネーションまたはサブコンビネーションのバリエーションに向けられてもよい。
【0171】
同様に、動作は図面において特定の順番で示されているが、これは、所望の結果を達成するために、このような動作が示された特定の順番でまたは連続した順番で行われること、または示された全ての動作が行われることを必要とするものと理解されるべきではない。また、本特許明細書に記載されている実施形態における様々なシステムの構成要素の分離は、全ての実施形態においてこのような分離を必要とするものと理解されるべきではない。
【0172】
いくつかの実装形態および実施例のみが記載されており、この特許文献に記載され図示されているコンテンツに基づいて、他の実施形態、拡張および変形が可能である。
【手続補正書】
【提出日】2023-01-16
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
第1の規則に従って、映像の現在のピクチャと、前記映像のビットストリームとの間で変換を行うこと、を含む映像データの処理方法であって、
前記
第1の規則は、ピクチャが、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照される
場合、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
映像データの処理方法。
【請求項2】
前記ピクチャは、前記現在のピクチャと同じアクセスユニットにある、
請求項1に記載の方法。
【請求項3】
前記ピクチャが復号ピクチャバッファに存在する、
請求項1または2に記載の方法。
【請求項4】
前記ピクチャは、前記現在のピクチャのレイヤ識別子よりも小さいレイヤ識別子を有する、
請求項1~3のいずれか1項に記載の方法。
【請求項5】
前記参照ピクチャリストは、参照リスト0または参照リスト1を含む、
請求項1~4のいずれか1項に記載の方法。
【請求項6】
前記変換は、第2の規則に従って行なわれ、前記第2の規則は、前記現在のピクチャがコーディングされたレイヤ映像シーケンスの開始ピクチャである場合、前記現在のピクチャの参照ピクチャリストの各レイヤ間参照ピクチャ(ILRP)エントリを長期参照に使用されるとマークされることを規定する、
請求項1~5のいずれか1項に記載の方法。
【請求項7】
前記参照ピクチャリストは、参照リスト0または参照リスト1を含む、
請求項6に記載の方法。
【請求項8】
前記現在のピクチャの前記参照ピクチャリストの前記各ILRPエントリは、復号処理において長期参照ピクチャとして扱われる、
請求項6または7に記載の方法。
【請求項9】
前記第2の規則は、参照ピクチャマーキングのための復号処理において、前記ピクチャごとに1回呼び出される、
請求項6~8のいずれか1項に記載の方法。
【請求項10】
前記参照ピクチャリストにおける各ILRPエントリは、復号されたピクチャバッファにある、
請求項6~9のいずれか1項に記載の方法。
【請求項11】
各ILRPエントリを長期参照に使用されるとマーキングすることは、参照に未使用、または、短期参照に使用されることを含む他のマーキングを置き換える、
請求項6~10のいずれか1項に記載の方法。
【請求項12】
前記変換は、前記映像を前記ビットストリームに符号化することを含む、
請求項1~11のいずれか1項に記載の方法。
【請求項13】
前記変換は、前記ビットストリームから前記映像を復号することを含む、
請求項1~11のいずれか1項に記載の方法。
【請求項14】
処理装置と、命令を備える非一時的メモリとを含む映像データを処理するための装置であって、前記命令は、前記処理装置によって実行されると、前記処理装置に、
第1の規則に従って、映像の現在のピクチャと、前記映像のビットストリームとの間で変換を実行させ、
前記第1の規則は、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによってピクチャが参照される場合、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
映像データを処理するための装置。
【請求項15】
命令を記憶している非一時的なコンピュータ可読記憶媒体であって、前記命令は、処理装置に、
第1の規則に従って、映像の現在のピクチャと前記映像のビットストリームとの間で変換を実行させ、
前記第1の規則は、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによってピクチャが参照される場合、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
非一時的なコンピュータ可読記憶媒体。
【請求項16】
映像処理装置により行われる方法で生成される映像のビットストリームを記憶する非一時的なコンピュータ可読記録媒体であって、前記方法は、
第1の規則に従って、前記映像の現在のピクチャから前記映像のビットストリームを生成するこ
とを含み、
前記
第1の規則は、ピクチャが、前記現在のピクチャのスライスの参照ピクチャリストにおけるレイヤ間参照ピクチャ(ILRP)エントリによって参照される
場合、前記ピクチャは、漸次的復号更新(GDR)タイプを有することを許可され、出力順で前記ピクチャの回復点を規定する構文要素が0であることを規定する、
非一時的なコンピュータ可読記録媒体。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0001
【補正方法】変更
【補正の内容】
【0001】
関連出願の相互参照
本願は、2020年5月21日出願の米国特許仮出願第63/028150号の優先権および利益を適時に主張する、2021年5月20日出願の国際特許出願第PCT/US2021/033351号の国内段階である。上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
【国際調査報告】