(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-07-10
(54)【発明の名称】映像ビットストリームにおけるサブレイヤ信号通知
(51)【国際特許分類】
H04N 19/70 20140101AFI20230703BHJP
H04N 19/30 20140101ALI20230703BHJP
【FI】
H04N19/70
H04N19/30
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022575463
(86)(22)【出願日】2021-06-07
(85)【翻訳文提出日】2023-01-25
(86)【国際出願番号】 US2021036253
(87)【国際公開番号】W WO2021252393
(87)【国際公開日】2021-12-16
(32)【優先日】2020-06-08
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】520477474
【氏名又は名称】バイトダンス インコーポレイテッド
【氏名又は名称原語表記】BYTEDANCE INC.
【住所又は居所原語表記】12655 West Jefferson Boulevard, Sixth Floor, Suite No. 137 Los Angeles, California 90066 United States of America
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】ワン イェクイ
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA31
5C159RC11
(57)【要約】
【要約】
映像符号化および映像復号のためのいくつかの技術を説明している。1つの例示的な方法は、規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像とこの映像のビットストリームとの間で変換を行うことを含む。この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定する。SLI SEIメッセージの構文構造は、少なくとも(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素を含む。
【選択図】
図7
【特許請求の範囲】
【請求項1】
映像データを処理する方法であって、
規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像と前記映像のビットストリームとの間で変換を行うことを含み、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、方法。
【請求項2】
前記第1の構文要素の値は、0から映像パラメータセットに示される最大サブレイヤ数マイナス1の範囲である、
請求項1に記載の方法。
【請求項3】
第2の構文要素がビットストリームに含まれていないことに呼応して、第2の構文要素は0であると推論される、
請求項1または請求項2に記載の方法。
【請求項4】
1つのサブレイヤkに関連付けられたビットストリームのレベル制限の一部が存在しないことに呼応して、前記一部は、1つのサブレイヤk+1に関連する部分に等しいと推論される、
請求項1から請求項3のいずれかに記載の方法。
【請求項5】
1つのサブレイヤkに関連付けられたレベル指標が存在しないことに呼応して、前記レベル指標は1つのサブレイヤk+1に関連付けられたレベル指標に等しいと推論される、
請求項1から請求項4のいずれかに記載の方法。
【請求項6】
前記構文構造は、各サブレイヤに対して、前記レベル指標に関連付けられたビットストリームのレベル制限の一部を規定する第3の構文要素をさらに含み、サブレイヤkに関連付けられた第3の構文要素が存在しないことに呼応して、第3の構文要素は、サブレイヤk+1に関連付けられた構文要素に等しいと推論される、
請求項1から請求項5のいずれかに記載の方法。
【請求項7】
前記構文構造は、各々のサブピクチャシーケンスに信号通知される参照レベルの数を規定する第4の構文要素をさらに含む、
請求項1から請求項6のいずれかに記載の方法。
【請求項8】
前記構文構造は、1つの仮想ストリームスケジューラ(HSS)が1つのサブピクチャシーケンスに対して間欠ビットレートモードで動作するか或いは一定ビットレート(CBR)モードで動作するかを規定する第5の構文要素をさらに含む、
請求項1から請求項7のいずれかに記載の方法。
【請求項9】
前記変換は、前記映像を前記ビットストリームに符号化することを含む、
請求項1から請求項8のいずれか1項に記載の方法。
【請求項10】
前記変換は、前記ビットストリームから前記映像を復号することを含む、
請求項1から請求項8のいずれか1項に記載の方法。
【請求項11】
映像のビットストリームを記憶するための方法であって、
規則に従って、1つ以上の出力レイヤセット(OLS)を含む前記映像から前記映像のビットストリームを生成することと、前記生成されたビットストリームを記憶することと、を含み、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、
方法。
【請求項12】
請求項1~11の1項以上に記載の方法を実装するように構成される処理装置を備える、
映像復号装置。
【請求項13】
請求項1~11の1項以上に記載の方法を実装するように構成されるプロセッサを備える、
映像符号化装置。
【請求項14】
コンピュータコードが記憶されたコンピュータプログラム製品であって、
前記コードは、処理装置により実行されると、前記処理装置に、請求項1~11のいずれかに記載の方法を実装させる、
コンピュータプログラム製品。
【請求項15】
映像処理装置によって行われる方法によって生成される映像のビットストリームを記憶する、非一時的なコンピュータ可読記録媒体であって、
前記方法は、規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像から映像のビットストリームを生成することと、前記生成されたビットストリームを記憶することと、を含み、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、
非一時的なコンピュータ可読記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
パリ条約に基づく適用可能な特許法および/または規則に基づいて、本願は、2020年6月8日出願の米国特許仮出願第63/036,365号の優先権および利益を適時に主張することを目的とする。法に基づくすべての目的のために、上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
【0002】
この特許明細書は、画像および映像のコーディングおよびデコーディングに関する。
【背景技術】
【0003】
デジタル映像は、インターネットおよび他のデジタル通信ネットワークにおいて最大の帯域幅の使用量を占めている。映像を受信および表示することが可能である接続されたユーザ機器の数が増加するにつれ、デジタル映像の使用に対する帯域幅需要は増大し続けることが予測される。
【発明の概要】
【0004】
本明細書は、映像のエンコーダおよびデコーダが、映像または画像のコーディングされた表現を処理するために使用することができる技法を開示する。
【0005】
1つの例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像とこの映像のビットストリームとの間で変換を行うことを含む。この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定する。SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む。
【0006】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの間で変換を行うことを含む。この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定する。SLI SEIメッセージは、現在のアクセスユニットから、ビットストリームの終わりまで、または、このSLI SEIメッセージとは異なるコンテンツを含む後続のSLI SEIメッセージを含む次のアクセスユニットまで、復号順に続く。
【0007】
別の例示的な態様において、映像データを処理する方法が開示される。この方法は、規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの間で変換を行うことを含む。サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含む。1つ以上のOLSにおける、サブピクチャの数が1よりも大きいことを示す参照シーケンスパラメータセットにおける変数を、マルチサブピクチャレイヤと呼ぶ。OLSのセットにおけるコーディングされた映像シーケンスは、対象コーディッド映像シーケンス(CVS)と呼ばれる。この規則は、1つのサブピクチャシーケンスが、(1)同じサブピクチャインデックスを有しかつマルチサブピクチャレイヤにおけるレイヤに属する対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有しかつOLSのレイヤに属するがマルチサブピクチャレイヤに属さない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する。
【0008】
別の例示的な態様において、映像処理方法が開示される。この方法は、1つ以上の映像サブレイヤを含む映像とこの映像のコーディングされた表現との間で変換を行うことを含み、コーディングされた表現はフォーマット規則に準拠し、このフォーマット規則は、このコーディングされたにおける多数のサブレイヤにまたがる構文構造と、この構文構造に含まれる各サブレイヤを示す1つ以上の構文フィールドとを含むように規定し、この構文構造は、信号通知された部分および参照レベル指標に関する情報を含む。
【0009】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1つ以上のサブピクチャを含む映像とこの映像のコーディングされた表現との間で変換を行うことを含み、この変換は、1つ以上のサブピクチャレベル情報のための補足強化情報を使用または生成する。
【0010】
さらに別の例示的な態様において、映像エンコーダ装置が開示される。この映像エンコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0011】
さらに別の例示的な態様において、映像デコーダ装置が開示される。この映像デコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0012】
さらに別の例示的な態様では、コードが記憶されたコンピュータ可読媒体が開示される。このコードは、本明細書に記載の方法の1つをプロセッサが実行可能なコードの形式で実施する。
【0013】
これらのおよび他の特徴は、本明細書全体にわたって説明される。
【図面の簡単な説明】
【0014】
【
図1】ピクチャのラスタスキャンスライス分割の例を示し、ピクチャは、12個のタイルと3個のラスタスキャンスライスとに分割される。
【
図2】ピクチャの矩形スライス分割の例を示し、ピクチャは、24個のタイル(6個のタイル列および4個のタイル行)と9個の矩形スライスとに分割される。
【
図3】タイルおよび矩形のスライスに分割されたピクチャの例を示し、ピクチャは、4つのタイル(2つのタイルの列および2つのタイルの行)と4つの矩形スライスとに分割される。
【
図4】15個のタイル、24個のスライス、および24個のサブピクチャに分割されたピクチャを示す。
【
図5】映像処理システム例を示すブロック図である。
【
図7】映像処理方法の一例を示すフローチャートである。
【
図8】本開示のいくつかの実施形態による映像コーディングシステムを示すブロック図である。
【
図9】本開示のいくつかの実施形態によるエンコーダを示すブロック図である。
【
図10】本開示のいくつかの実施形態によるデコーダを示すブロック図である。
【
図11】典型的な、サブピクチャに基づくビューポートに依存する360°映像コーディング方式の例を示す。
【
図12】サブピクチャおよび空間的スケーラビリティに基づくビューポート依存型360°映像コーディング方式を示す。
【
図13】本技術の1つ以上の実施形態による映像データ処理の方法を表すフローチャートである。
【
図14】本技術の1つ以上の実施形態による映像データ処理の別の方法を表すフローチャートである。
【
図15】本技術の1つ以上の実施形態による映像データ処理のさらに別の方法を表すフローチャートである。
【発明を実施するための形態】
【0015】
本明細書では、理解を容易にするために章の見出しを使用しており、その技術および各章に記載された実施形態の適用可能性をその章のみに限定するものではない。さらに、H.266という用語は、ある説明において、理解を容易にするためだけに用いられ、開示される技術の範囲を限定するために用いられたものではない。このように、本明細書で説明される技術は、他の映像コーデックプロトコルおよび設計にも適用可能である。本明細書において、編集変更は、VVC規格の現在の草案に対して、取り消されたテキストを示す取り消し線および付加されたテキストを示すハイライト(太字のイタリック体を含む)によってテキストに示す。
【0016】
1. 概要
本明細書は、映像コーディング技術に関する。具体的には、サブピクチャシーケンスのためのレベル情報を規定し、信号通知することに関する。本発明は、シングルレイヤ映像コーディングおよびマルチレイヤ映像コーディングに対応する任意の映像コーディング規格または非標準映像コーデック、例えば、開発中の汎用映像コーディング(VVC)に適用してもよい。
【0017】
2. 略語
APS Adaptation Parameter Set(適応パラメータセット)
AU Access Unit(アクセスユニット)
AUD Access Unit Delimiter(アクセスユニット区切り文字)
AVC Advanced Video Coding(高度映像コーディング)
BP Buffering Period(バッファリング期間)
CLVS Coded Layer Video Sequence(コーディッドレイヤ映像シーケンス)
CPB Coded Picture Buffer(コーディッドピクチャバッファ)
CRA Clean Random Access(クリーンランダムアクセス)
CTU Coding Tree Unit(コーディングツリーユニット)
CVS Coded Video Sequence(コーディッド映像シーケンス)
DPB Decoded Picture Buffer(復号されたピクチャバッファ)
DPS Decoding Parameter Set(復号パラメータセット)
DUI Decoding Unit Information(復号ユニット情報)
EOB End Of Bitstream(ビットストリーム終端)
EOS End Of Sequence(シーケンス終端)
GCI General Constraints Information(一般的な制約情報)
GDR Gradual Decoding Refresh(漸次的復号リフレッシュ)
HEVC High Efficiency Video Coding(高効率映像コーディング)
HRD Hypothetical Reference Decoder(仮想参照デコーダ)
IDR Instantaneous Decoding Refresh(瞬時復号リフレッシュ)
JEM Joint Exploration Model(共同探索モデル)
MCTS Motion-Constrained Tile Sets(動き制約タイルセット)
NAL Network Abstraction Layer(ネットワーク抽象化レイヤ)
OLS Output Layer Set(出力レイヤセット)
PH Picture Header(ピクチャヘッダ)
PPS Picture Parameter Set(ピクチャパラメータセット)
PT Picture Timing(ピクチャタイミング)
PTL Profile, Tier and Level(プロファイル、ティアおよびレベル)
PU Picture Unit(ピクチャユニット)
RRP Reference Picture Resampling(参照ピクチャ再サンプリング)
RBSP Raw Byte Sequence Payload(生バイトシーケンスペイロード)
SEI Supplemental Enhancement Information(補足強化情報)
SH Slice Header(スライスヘッダ)
SLI Subpicture Level Information(サブピクチャレベル情報)
SPS Sequence Parameter Set(シーケンスパラメータセット)
SVC Scalable Video Coding(スケーラブル映像コーディング)
VCL Video Coding Layer(映像コーディングレイヤ)
VPS Video Parameter Set(映像パラメータセット)
VTM VVC Test Model(VVC試験モデル)
VUI Video Usability Information(映像ユーザビリティ情報)
VVC Versatile Video Coding(汎用映像コーディング)
【0018】
3. 初期の協議
映像コーディング規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4Visualを作り、両団体はH.262/MPEG-2VideoとH.264/MPEG-4AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像コーディング規格は、時間的予測と変換コーディングが利用されるハイブリッド映像コーディング構造に基づく。HEVCを超えた将来の映像コーディング技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Model)と呼ばれる参照ソフトウェアに組み込まれてきた。JVETは四半期に1回開催され、新しいコーディング規格はHEVCに比べて50%のビットレート低減を目指している。2018年4月のJVET会議において、新しい映像コーディング規格を「VVC(Versatile Video Coding)」と正式に命名し、その時、第1版のVVCテストモデル(VTM)をリリースした。VVCの標準化に寄与する努力が続けられているので、すべてのJVET会議において、VVC標準に新しいコーディング技術が採用されている。毎回の会議の後、VVC作業草案およびテストモデルVTMは更新される。VVCプロジェクトは、現在、2020年7月の会合における技術完成(FDIS)を目指している。
【0019】
3.1 HEVCにおけるピクチャ分割スキーム
HEVCには、正規のスライス、依存性のあるスライス、タイル、WPP(Wavefront Parallel Processing)という4つの異なる画像分割スキームがあり、これらを適用することで、最大転送ユニット(MTU)サイズのマッチング、並列処理、エンドツーエンドの遅延の低減が可能になる。
【0020】
正規のスライスは、H.264/AVCと同様である。各正規のスライスは、それ自体のNALユニットにカプセル化され、スライス境界にわたるインピクチャ予測(イントラサンプル予測、動き情報予測、コーディングモード予測)およびエントロピーコーディング依存性は無効化される。このように、1つの正規のライスを、同じピクチャ内の他の正規のスライスとは独立して再構成することができる(しかし、ループフィルタリング動作のために依然として相互依存性がある場合がある)。
【0021】
正規のスライスは、並列化に使用できる唯一のツールであり、H.264/AVCでもほぼ同じ形式で使用できる。正規のスライスに基づく並列化は、プロセッサ間通信またはコア間通信をあまり必要としない(予測コーディングされたピクチャを復号するとき、動き補償のためのプロセッサ間またはコア間データ共有を除いて、通常、インピクチャ予測のためにプロセッサ間またはコア間データ共有よりもはるかに重い)。しかしながら、同じ理由で、正規のスライスを使用すると、スライスヘッダのビットコストおよびスライス境界にわたる予測が欠如していることに起因して、コーディングのオーバーヘッドが大きくなる可能性がある。さらに、レギュラースライスは(後述の他のツールとは対照的に)、レギュラースライスのインピクチャの独立性および各レギュラースライスがそれ自体のNALユニットにカプセル化されることに起因して、MTUサイズ要件に適応するようにビットストリームを分割するための鍵となるメカニズムとしても機能する。多くの場合、並列化の目標およびMTUサイズマッチングの目標は、画像におけるスライスレイアウトに矛盾する要求を課す。このような状況を実現したことにより、以下のような並列化ツールが開発された。
【0022】
従属スライスは、ショートスライスヘッダを有し、ピクチャ内予測を一切中断することなく、ツリーブロック境界でビットストリームを区分することを可能にする。基本的に、従属スライスは、正規のスライスを複数のNALユニットに断片化し、正規のスライス全体の符号化が完了する前に正規のスライスの一部を送出することを可能にすることによって、エンドツーエンド遅延を低減する。
【0023】
WPPにおいて、ピクチャは、単一行の符号化ツリーブロック(CTB)に分割される。エントロピー復号および予測は、他の分割におけるCTBからのデータを使用することを許可される。CTB行の並列復号によって並列処理が可能であり、1つのCTB行の復号の開始が2つのCTBだけ遅延され、それによって、対象のCTBが復号される前に、対象のCTBの上および右のCTBに関するデータが確実に利用可能になる。この互い違いのスタート(グラフで表される場合、波面のように見える)を使用することで、ピクチャがCTB行を含む数までのプロセッサ/コアを用いて並列化することが可能である。1つのインピクチャの近傍のツリーブロック行間のインピクチャ予測が許可されるので、インピクチャ予測を可能にするために必要なプロセッサ間/コア間通信は十分となり得る。WPP分割は、適用されない場合と比較して、追加のNALユニットの生成をもたらさず、従って、WPPは、MTUサイズマッチングのためのツールではない。しかし、MTUサイズのマッチングが必要な場合、一定の符号化オーバーヘッドを伴って、WPPで正規のスライスを使用することができる。
【0024】
タイルは、ピクチャをタイルの列および行に分割する水平および垂直境界を規定する。タイルの列は、ピクチャの上から下へと延びている。同様に、タイル行は、ピクチャの左から右に延びる。ピクチャにおけるタイルの数は、単にタイル列の数にタイル行の数を乗算することで得ることができる。
【0025】
CTBのスキャン順序は、1つのタイル内でローカルになるように(1つのタイルのCTBラスタスキャンの順に)変更され、その後、1つのピクチャのタイルラスタスキャンの順に従って、次のタイルの左上のCTBを復号する。正規のスライスと同様に、タイルは、インピクチャ予測依存性およびエントロピー復号依存性を損なう。しかしながら、これらは、個々のNALユニット(この点でWPPと同じ)に含まれる必要がなく、従って、タイルは、MTUサイズマッチングに使用できない。各タイルは、1つのプロセッサ/コアによって処理されてもよく、処理ユニット間のインピクチャ予測に必要なプロセッサ間/コア間通信では、近傍タイルの復号は、スライスが2つ以上のタイルにまたがっている場合、共有スライスヘッダの伝達と、再構築されたサンプルおよびメタデータのループフィルタリングに関連する共有とに限定される。1つのスライスに2つ以上のタイルまたはWPPセグメントが含まれる場合、該スライスにおける第1のもの以外の各タイルまたはWPPセグメントのエントリポイントバイトオフセットが、スライスヘッダにおいて信号通知される。
【0026】
説明を簡単にするために、HEVCにおいては、4つの異なるピクチャ分割方式の適用に関する制限が規定されている。所与のコーディッド映像シーケンスは、HEVCに指定されたプロファイルのほとんどについて、タイルおよび波面の両方を含むことができない。各スライスおよびタイルについて、以下の条件のいずれかまたは両方を満たさなければならない。1)1つのスライスにおけるすべてのコーディングされたツリーブロックは、同じタイルに属し、2)1つのタイルにおけるすべてのコーディングされたツリーブロックは、同じスライスに属する。最後に、1つの波面セグメントはちょうど1つのCTB行を含み、WPPが使用されている時に、1つのスライスが1つのCTB行内で始まる場合、同じCTB行で終わらなければならない。
【0027】
最近のHEVCの修正は、JCT-VCの出力文書であるJCTVC-AC1005、J.ボイス、A.ラマスブラモニアン、R.スクピン、G.J.スリバン、A.トゥラピス、Y.-K.ワング(editors),”HEVC追加の捕捉強化情報(Draft4),”2017年10月24日、下記で入手可能:http://phenix.int-evry.fr/jct/doc_end_user/documents/29_Macau/wg11/JCTVC-AC1005-v2.zip。この修正を含め、HEVCは、3つのMCTS関連SEIメッセージ、即ち、時間的MCTS SEIメッセージ、MCTS抽出情報セットSEIメッセージ、およびMCTS抽出情報ネスティングSEIメッセージを特定する。
【0028】
時間MCTS SEIメッセージは、ビットストリーム中にMCTSが存在することを示し、MCTSに信号を送信する。各MCTSにおいて、動きベクトルは、MCTS内部のフルサンプル位置と、補間のためにMCTS内部のフルサンプル位置のみを必要とするフラクショナルサンプル位置とを指すように制限され、かつ、MCTS外部のブロックから導出された時間動きベクトル予測のための動きベクトル候補の使用は許可されない。このように、各MCTSは、MCTSに含まれていないタイルが存在せず、独立して復号されてもよい。
【0029】
MCTS抽出情報セットSEIメッセージは、MCTSサブビットストリーム抽出(SEIメッセージの意味の一部として規定される)において使用され得る補足情報を提供し、MCTSセットのための適合ビットストリームを生成する。この情報は、複数の抽出情報セットを含み、各抽出情報セットは、複数のMCTSセットを定義し、MCTSサブビットストリーム抽出処理において使用される代替VPS、SPS、およびPPSのRBSPバイトを含む。MCTSサブビットストリーム抽出プロセスによってサブビットストリームを抽出する場合、パラメータセット(VPS,SPS,PPS)を書き換えるかまたは置き換える必要があるが、その理由は、スライスアドレスに関連する構文要素の1つまたは全て(first_slice_segment_in_pic_flagおよびslice_segment_addressを含む)が異なる値となる必要があるためである。
【0030】
3.2. VVCにおけるピクチャの分割
VVCにおいて、1つのピクチャは、1または複数のタイル行および1または複数のタイル列に分割される。1つのタイルは、1つのピクチャの1つの矩形領域を覆う1つのCTUのシーケンスである。1つのタイルにおけるCTUは、そのタイル内でラスタスキャン順にスキャンされる。
【0031】
1つのスライスは、1つのピクチャのタイル内において、整数個の完全なタイルまたは整数個の連続した完全なCTU行からなる。
【0032】
2つのモードのスライス、即ちラスタスキャンスライスモードおよび矩形スライスモードがサポートされる。ラスタスキャンスライスモードにおいて、1つのスライスは、1つのピクチャのタイルラスタスキャンにおける1つの完全なタイルのシーケンスを含む。矩形スライスモードにおいて、1つのスライスは、ピクチャの矩形領域を集合的に形成する複数の完全なタイル、またはピクチャの矩形領域を集合的に形成する1つのタイルの複数の連続した完全なCTU行のいずれかを含む。矩形スライス内のタイルを、そのスライスに対応する矩形領域内で、タイルラスタスキャンの順にスキャンする。
【0033】
1つのサブピクチャは、1つのピクチャの矩形領域を集合的に広がる1つ以上のスライスを含む。
【0034】
図1は、ピクチャのラスタスキャンスライス分割の例を示し、ピクチャは、12個のタイルと3個のラスタスキャンスライスとに分割される。
【0035】
図2は、ピクチャの矩形スライス分割の例を示し、ピクチャは、24個のタイル(6個のタイル列および4個のタイル行)と9個の矩形スライスとに分割される。
【0036】
図3は、タイルおよび矩形のスライスに分割されたピクチャの例を示し、このピクチャは、4つのタイル(2つのタイル列および2つのタイル行)と4つの矩形スライスとに分割される。
【0037】
図4は、1つのピクチャをサブピクチャで分割する例を示し、1つのピクチャは、18個のタイルに分割され、左側の12個が、4×4のCTUの1つのスライスをそれぞれ含み、右側の6個のタイルが、2×2のCTUの垂直方向に積み重ねられたスライスをそれぞれ含み、全体で24個のスライスおよび24個の異なる寸法のサブピクチャとなる(各スライスは、1つのサブピクチャ)。
【0038】
3.3 シーケンス内のピクチャ解像度の変更
AVCおよびHEVCにおいて、ピクチャの空間的解像度は、新しいSPSを使用する新しいシーケンスがIRAPピクチャで始まらない限り、変更することができない。VVCは、常にイントラコーディング化されたIRAPピクチャを符号化せずに、ある位置のシーケンス内でピクチャの解像度を変更することを可能にする。この特徴は、参照ピクチャがデコードされている現在のピクチャと異なる解像度を有する場合、インター予測に使用される参照ピクチャをリサンプリングすることが必要であるため、参照ピクチャリサンプリング(RPR)と称する。
【0039】
スケーリング比は、1/2(参照ピクチャから現在のピクチャへのダウンサンプリングの2倍)以上8(8倍のアップサンプリング)以下に制限される。参照ピクチャと現在のピクチャとの間の様々なスケーリング比に対処するために、周波数カットオフが異なる3つの再サンプリングフィルタセットを規定する。3つの組の再サンプリングフィルタは、それぞれ、1/2~1/1.75、1/1.75~1/1.25、および1/1.25~8の範囲のスケーリング比に適用される。各組の再サンプリングフィルタは、動き補償補間フィルタの場合と同様に、輝度に対して16個のフェーズを有し、彩度に対して32個のフェーズを有する。実際には、通常のMC補間プロセスは、1/1.25~8の範囲のスケーリング比を有する再サンプリングプロセスの特殊な場合である。水平および垂直スケーリング比は、ピクチャの幅および高さ、並びに参照ピクチャおよび現在のピクチャに対して規定された左、右、上および下のスケーリングオフセットに基づいて導出される。
【0040】
HEVCとは異なる、この特徴をサポートするためのVVC設計の他の態様は、以下を含む。i)SPSの代わりに、PPSにおいて、画像解像度および対応する適合性ウインドウを信号通知し、SPSにおいて、最大ピクチャ解像度を信号通知する。ii)単層ビットストリームの場合、各ピクチャ記憶域(1つの復号されたピクチャを記憶するためのDPB内の1つのスロット)は、最大ピクチャ解像度を有する復号されたピクチャを記憶するために必要なバッファサイズを占める。
【0041】
3.4. 全般およびVVCにおけるスケーラブル映像コーディング(SVC)
SVC(Scalable Video Coding、時には、映像コーディングにおけるスケーラビリティとも呼ばれる)は、BL(Base Layer:基本レイヤ)(時には、RL(Reference Layer:参照レイヤ)と呼ばれる)および1または複数のEL(Enhancement Layer:スケーラブルエンハンスメントレイヤ)が使用される映像コーディングを参照する。SVCにおいて、ベースレイヤは、基本品質レベルの映像データを担持することができる。1つ以上のエンハンスメントレイヤは、例えば、より高い空間的、時間的、および/または信号対雑音(SNR)レベルをサポートするように、追加の映像データを担持することができる。エンハンスメントレイヤは、前の、符号化されたレイヤに対して定義されてもよい。例えば、下層がBLとして機能し、上層がELとして機能することができる。中間レイヤは、ELまたはRLのいずれか、またはその両方として機能することができる。例えば、中間レイヤ(例えば、最下レイヤでも最上レイヤでもないレイヤ)は、中間レイヤの下のレイヤ、例えば、ベースレイヤまたは任意の介在する増強レイヤのためのELであってもよく、同時に、中間レイヤの上の1つ以上の増強レイヤのためのRLとしての役割を果たす。同様に、HEVC規格のマルチビューまたは3D拡張では、複数のビューが存在してもよく、1つのビューの情報を利用して別のビューの情報をコーディング(例えば、符号化または復号)することができる(例えば、動き推定、動きベクトル予測および/または他の冗長性)。
【0042】
SVCにおいて、エンコーダまたはデコーダで使用されるパラメータは、それらを利用することができるコーディングレベル(例えば、映像レベル、シーケンスレベル、ピクチャレベル、スライスレベル等)に基づいてパラメータセットにグループ分けされる。例えば、ビットストリームにおける異なるレイヤのコーディッド映像シーケンスによって利用できるパラメータは、映像パラメータセット(VPS)に含まれてもよく、コーディッド映像シーケンスにおける1つ以上のピクチャによって利用されるパラメータは、シーケンスパラメータセット(SPS)に含まれてもよい。同様に、1つのピクチャの1つ以上のスライスで利用されるパラメータは、ピクチャパラメータセット(PPS)に含まれてもよく、1つのスライスに固有の他のパラメータは、スライスヘッダに含まれてもよい。同様に、特定のレイヤが所与の時間にどのパラメータセットを使用しているかの指示は、様々なコーディングレベルで提供されてもよい。
【0043】
VVCにおけるRPR(Reference Picture Resampling)のサポートのおかげで、空間的スケーラビリティサポートに必要なアップサンプリングはRPRアップサンプリングフィルタを使用するだけでよいので、追加の信号処理レベルのコーディングツールを必要とせずに、複数のレイヤ、例えば、VVCにおけるSDおよびHD解像度の2つのレイヤを含むビットストリームをサポートするように設計することができる。それにもかかわらず、スケーラビリティサポートのためには、高レベルの構文変更(スケーラビリティをサポートしない場合と比較して)が必要である。スケーラビリティサポートは、VVCバージョン1に規定されている。AVCおよびHEVCの拡張を含む、任意の以前の映像コーディング規格におけるスケーラビリティサポートとは異なり、VVCのスケーラビリティの設計は、単層デコーダの設計にできるだけ適したものにされてきた。多層ビットストリームの復号能力は、ビットストリームに1つのレイヤしかなかったかの如く規定される。例えば、DPBサイズのような復号能力は、復号されるビットストリームのレイヤの数に依存しないように規定される。基本的に、単層ビットストリームのために設計されたデコーダは、多層ビットストリームを復号することができるようにするために、多くの変更を必要としない。AVCおよびHEVCの多層拡張の設計と比較して、HLSの態様は、ある程度の柔軟性を犠牲にして大幅に簡略化されてきた。例えば、IRAP AUは、CVSに存在する各レイヤの画像を含むことが必要である。
【0044】
3.5 サブピクチャに基づくビューポート依存の360°映像ストリーミング
360°映像のストリーミング、すなわち、全方向性映像のストリーミングにおいて、任意の特定の瞬間に、全方向性映像球体全体のサブセット(すなわち、現在のビューポート)のみがユーザにレンダリングされ、一方、ユーザは、自分の頭をいつでも回して視線の向きを変更し、その結果、現在のビューポートを変更することができる。クライアント側が現在のビューポートで覆われていない領域を少なくともある程度低品質に表現し、かつユーザにレンダリングする準備ができていることが望ましいが、ユーザが突然その視線方向を球面上の任意の場所に変えた場合に備えて、すぐにユーザにレンダリングされている現在のビューポートに対してのみ、全方向性映像の高品質表現が必要となる。全方位映像全体の高品質表現を適切な粒度でサブピクチャに分割することにより、このような最適化が有効化される。VVCを使用して、2つの表現は、互いに独立した2つのレイヤとして符号化され得る。
【0045】
典型的なサブピクチャに基づくビューポートに依存する360°の映像配信方式が
図11に示されており、ここでは、フル映像のより高い解像度の表現がサブピクチャからなり、一方、フル映像のより低い解像度の表現は、サブピクチャを使用せず、より高い解像度の表現よりも頻度の低いランダムアクセスポイントでコーディングできる。クライアントは低解像度のフル映像を受信し、より高い解像度の映像については、現在のビューポートをカバーするサブピクチャのみを受信して復号する。
【0046】
また、最近のVVC草案の仕様は、
図12に示すように、改善された360°映像コーディング方式をサポートする。
図11に示されたアプローチと比較した唯一の相違は、
図12に示されたアプローチに対してレイヤ間予測(ILP)が適用されることである。
【0047】
3.6. パラメータセット
AVC、HEVC、VVCはパラメータ集合を規定する。パラメータセットのタイプは、SPS、PPS、APS、VPS等である。SPS、PPSは、AVC、HEVC、VVCのすべてでサポートされている。VPSは、HEVCから導入されたものであり、HEVCおよびVVCの両方に含まれる。APSは、AVCまたはHEVCに含まれていなかったが、最近のVVC草案のテキストに含まれている。
【0048】
SPSは、シーケンスレベルのヘッダ情報を伝送するように設計され、PPSは、頻繁に変化しないピクチャレベルのヘッダ情報を伝送送するように設計された。SPSおよびPPSを用いると、シーケンスまたはピクチャごとに頻繁に変化する情報を繰り返す必要がないので、この情報の冗長な信号通知を回避することができる。さらに、SPSおよびPPSを使用することは、重要なヘッダ情報の帯域外伝送を有効化し、それにより、冗長な伝送の必要性を回避するだけでなく、誤り耐性を改善する。
【0049】
VPSは、マルチレイヤのビットストリームのすべてのレイヤに共通であるシーケンスレベルのヘッダ情報を担持するために導入された。
【0050】
APSは、コーディングするためのかなりのビットを必要とし、複数のピクチャによって共有され、そして、シーケンスにおいて非常に多くの異なる変形例が存在し得る、そのようなピクチャレベルまたはスライスレベルの情報を担持するために導入された。
【0051】
3.7. プロファイル、ティアおよびレベル
映像コーディング規格は、通常、プロファイルおよびレベルを規定する。一部の映像コーディング規格は、HEVCや開発中のVVCなどのティアも規定する。
【0052】
プロファイル、ティア、およびレベルは、ビットストリームに対する制限を規定し、従ってビットストリームを復号するのに必要な能力を制限する。プロファイル、ティア、およびレベルは、個々のデコーダ実装間の相互運用性を示すために使用されてもよい。
【0053】
各プロファイルは、そのプロファイルに準拠するすべてのデコーダによってサポートされるべきアルゴリズムの特徴および制限のサブセットを規定する。なお、エンコーダは、1つのプロファイルにサポートされるすべての特定または特徴を使用する必要がなく、1つのプロファイルに準拠したデコーダは、すべてのコーディングツールまたは特徴をサポートする必要がある。
【0054】
1つのティアの各レベルは、ビットストリーム構文要素がとりうる値の制限のセットを規定する。同じティアおよびレベル定義のセットは、通常、すべてのプロファイルで使用されるが、個々の実装は、異なるティアをサポートしてもよく、ティア内では、サポートされる各プロファイルごとに異なるレベルをサポートしてもよい。任意の所与のプロファイルの場合、1つのティアのレベルは、一般的に、特定のデコーダ処理負荷およびメモリ能力に対応する。
【0055】
映像コーデック仕様に準拠した映像デコーダの能力は、映像コーデック仕様において規定されたプロファイル、ティア、およびレベルの制約に準拠した映像ストリームの復号能力によって規定される。規定されたプロファイルのためのデコーダの能力を表現するとき、そのプロファイルにサポートされるティアおよびレベルもまた表現されるべきである。
【0056】
3.8. VVCにおけるサブピクチャシーケンスのためのレベル情報の規定および信号通知
最近のVVC草案テキストにおいて、VVCにおけるサブピクチャシーケンスのレベル情報の規定および信号通知は、サブピクチャレベル情報(SLI)SEIメッセージによるものであり、VVCのC.7項で規定されるサブピクチャサブビットストリーム抽出処理を適用することで、ビットストリームからサブピクチャシーケンスを抽出することができる。
【0057】
最近のVVC草案テキストにおけるサブピクチャレベル情報SEIメッセージの構文およびセマンティクスは、以下のとおりである。
【0058】
D.7.1 サブピクチャレベル情報SEIメッセージ構文
【表1】
【0059】
D.7.2 サブピクチャレベル情報SEIメッセージセマンティクス
サブピクチャレベル情報SEIメッセージは、付録Aに従ってサブピクチャシーケンスを含む抽出されたビットストリームの適合性を試験する場合に、ビットストリームにおけるサブピクチャシーケンスが適合するレベルに関する情報を含む。
CLVSの任意のピクチャにサブピクチャレベル情報SEIメッセージが存在する場合、CLVSの第1のピクチャに対してサブピクチャレベル情報SEIメッセージが存在するものとする。サブピクチャレベル情報SEIメッセージは、現在のレイヤについて、現在のピクチャからCLVSの終わりまで復号順で持続する。同じCLVSに適用されるすべてのサブピクチャレベル情報SEIメッセージは、同じコンテンツを有するものとする。1つのサブピクチャシーケンスは、1つのCLVS内のすべてのサブピクチャで構成され、これらのサブピクチャは同じサブピクチャインデックス値を有する。
1つのCLVSに対して1つのサブピクチャレベル情報SEIメッセージが存在する場合、sps_subpic_treated_as_pic_flag[i]の値は、0~sps_num_subpics_minus1の範囲内にある各iの値において、1に等しいものとすることが、ビットストリーム適合性の要件である。
【化1】
【0060】
【0061】
【0062】
変数SubpicSizeY[j]は、(sps_subpic_width_minus1[j]+1)*CtbSizeY*(sps_subpic_height_minus1[j]+1)*CtbSizeYと等しく設定される。
sli_ref_level_fraction_minus1[i][j]が存在しない場合、その値は、Ceil(256*SubpicSizeY[j]÷PicSizeInSamplesY*MaxLumaPs(general_level_idc)÷MaxLumaPs(sli_ref_level_idc[i])-1に等しいと推論される。
変数LayerRefLevelFraction[i][j]は、sli_ref_level_fraction_minus1[i][j]+1に等しく設定される。
変数OlsRefLevelFraction[i][j]は、sli_non_subpic_layers_fraction[i]+(256-sli_non_subpic_layers_fraction[i])÷256*(sli_ref_level_fraction_minus1[i][j]+1)に等しく設定される。
変数SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]は、以下のように導出される。
SubpicCpbSizeVcl[i][j]=Floor(CpbVclFactor*MaxCPB*OlsRefLevelFraction[i][j]÷256) (D.6)
SubpicCpbSizeNal[i][j]=Floor(CpbNalFactor*MaxCPB*OlsRefLevelFraction[i][j]÷256) (D.7)
A.4.2項で規定されるように、sli_ref_level_idc[i]から導出されたMaxCPBを用いる。
変数SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]は、以下のように導出される。
SubpicBitRateVcl[i][j]=Floor(CpbVclFactor*ValBR*OlsRefLevelFraction[0][j]÷256) (D.8)
SubpicBitRateNal[i][j]=Floor(CpbNalFactor*ValBR*OlsRefLevelFraction[0][j]÷256) (D.9)
ここで、ValBRの値は、以下のように導出される。
-VPSまたはSPSにおけるそれぞれのHRDパラメータにおいてbit_rate_value_minus1[Htid][ScIdx]が利用可能である場合、ValBRは、(bit_rate_value_minus1[Htid][ScIdx]+1)*2(6+bit_rate_scale)に等しく設定され、ここでHtidは考慮されたサブレイヤインデックス、ScIdxは考慮されたスケジュールインデックスである。
-そうでない場合、ValBRは、A.4.2項で規定されるように、sli_ref_level_idc[0]から導出されたMaxBRに等しく設定される。
注記1-サブピクチャを抽出するとき、結果として得られるビットストリームは、SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]以上のCpbSize(VPS、SPSのいずれかに示される、または推論される)と、SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]以上のBitRate(VPS、SPSのいずれかに示される、または推論される)を有する。
抽出処理への入力ビットストリームにおいて、sps_num_subpics_minus1が0より大きいレイヤから、jが0からsps_num_subpics_minus1までの範囲内にあるj番目のサブピクチャを、0より大きいsps_num_subpics_minus1を有するレイヤから抽出し、general_tier_flagが0に等しく、levelがsli_ref_level_idc[i](iは0からnum_ref_level_minus1の範囲)に等しいプロファイルに適合することによって得られるビットストリーム中の各レイヤは、付録Cで規定される各ビットストリーム適合性試験において、以下の制約に従うものとするのがビットストリーム適合性の要件である。
-Ceil(256*SubpicSizeY[j]÷LayerRefLevelFraction[i][j])は、MaxLumaPs以下であるものとする。ここで、MaxLumaPsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
-Ceil(256*(sps_subpic_width_minus1[j]+1)*CtbSizeY÷LayerRefLevelFraction[i][j])の値は、Sqrt(MaxLumaPs*8)以下であるものとする。
-Ceil(256*(sps_subpic_height_minus1[j]+1)*CtbSizeY÷LayerRefLevelFraction[i][j])の値は、Sqrt(MaxLumaPs*8)以下であるものとする。
-SubpicWidthInTiles[j]の値は、MaxTileCols以下であり、SubpicHeightInTiles[j]の値は、MaxTileRows以下であるものとする。ここで、MaxTileColsおよびMaxTileRowsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
-SubpicWidthInTiles[j]*SubpicHeightInTiles[j]の値は、MaxTileCols*MaxTileRows*LayerRefLevelFraction[i][j]以下であるものとする。ここで、MaxTileColsおよびMaxTileRowsは、レベルsli_ref_level_idc[i]に対して表A.1で規定されている。
jが0からsps_num_subpics_minus1までの範囲内にあるj番目のサブピクチャを抽出し、general_tier_flagが0に等しく、レベルがref_level_idc[i](iは0からsli_num_ref_level_minus1の範囲)に等しいプロファイルに適合することによって得られる各レイヤは、付録Cで規定される各ビットストリーム適合性試験において、以下の制約に従うものとするのがビットストリーム適合性の要件である。
-AU0のSubpicSizeInSamplesYの値について、j番目のサブピクチャに対応するAU0のNumBytesInNalUnit変数の合計は、AU0のSubpicSizeInSamplesYの値に対して、FormatCapabilityFactor*(Max(SubpicSizeY[j],fR*MaxLumaSr*OlsRefLevelFraction[i][j]÷256)+MaxLumaSr*(AuCpbRemovalTime[0]-AuNominalRemovalTime[0])*OlsRefLevelFraction[i][j])÷(256*MinCr)以下とする。ここで、MaxLumaSrとFormatCapabilityFactorは、レベルsli_ref_level_idc[i]においてそれぞれ、AU0に適用される表A.2および表A.3で規定された値であり、MinCrは、A.4.2に示したように導出される。
-AU0のSubpicSizeInSamplesYの値について、j番目のサブピクチャに対応するAUn(nは0より大きい)のNumBytesInNalUnit変数の合計は、FormatCapabilityFactor*MaxLumaSr*(AuCpbRemovalTime[n]-AuCpbRemovalTime[n-1])*OlsRefLevelFraction[i][j]÷(256*MinCr)以下とする。ここで、MaxLumaSrとFormatCapabilityFactorは、レベルsli_ref_level_idc[i]において、それぞれAUnに適用される表A.2および表A.3で規定された値であり、MinCrは、A.4.2に示したように導出される。
サブピクチャシーケンスレベルインジケータSubpicLevelIdcの値は、以下のように導出される。
SubpicLevelIdc=general_level_idc
SubpicLevelIdx=0
for(i=num_ref_level_minus1;i>=1;i--)
if(OlsLevelFraction[i]<=256){
SubpicLevelIdc=sli_ref_level_idc[i]
SubpicLevelIdx=i
} (D.10)
general_tier_flagが0に等しく、かつSubpicLevelIdcに等しいレベルを有するプロファイルに準拠するサブピクチャシーケンスビットストリームは、付録Cで規定されるように、各ビットストリーム適合性試験のための以下の制約に従うものとする。
-VCL HRDパラメータの場合、SubpicCpbSizeVcl[i]は、CpbVclFactor*MaxCPB以下とする。ここで、表A.3にCpbVclFactorを規定し、表A.1にMaxCPBをCpbVclFactorビットの単位で規定される。
-NAL HRDパラメータの場合、SubpicCpbSizeNal[i]は、CpbNalFactor*MaxCPB以下とする。ここで、表A.3にCpbNalFactorを規定し、表A.1にMaxCPBをCpbNalFactorビットの単位で規定される。
-VCL HRDパラメータの場合、SubpicBitRateVcl[i]は、CpbVclFactor*MaxBR以下とする。ここで、表A.3にCpbVclFactorを規定し、表A.1にMaxBRをCpbVclFactorビットの単位で規定される。
-NAL HRDパラメータの場合、SubpicBitRateNal[i]は、CpbNalFactor*MaxBR以下とする。ここで、表A.3にCpbNalFactorを規定し、表A.1にMaxBRをCpbNalFactorビットの単位で規定される。
注記2-サブピクチャシーケンスが抽出されるとき、結果として得られるビットストリームは、SubpicCpbSizeVcl[i][j]およびSubpicCpbSizeNal[i][j]以上のCpbSize(VPS、SPSのいずれかに示される、または推論される)と、SubpicBitRateVcl[i][j]およびSubpicBitRateNal[i][j]以上のBitRate(VPS、SPSのいずれかに示される、または推論される)を有する。
【0063】
4. 開示される技術的解決策によって解決される技術課題
既存のサブピクチャシーケンスのレベル情報の規定および信号通知のためのVVC設計は、以下の問題を有する。
【0064】
(1)SLI SEIメッセージは、最も高いTemporalIdの値に関わらず、サブピクチャシーケンスのための単一のレベル情報のセットのみを信号通知する。しかしながら、1つのピクチャにつき1つのサブピクチャを有するビットストリームと同様に、異なるサブレイヤ表現は、異なるレベルに準拠してもよい。
【0065】
(2)SLI SEIメッセージは、ビットストリームに含まれている場合のみ利用可能であるように規定される。しかしながら、パラメータセットおよび他のHRD関連SEIメッセージと同様に、SLI SEIメッセージはまた、外部手段によって利用可能にされるべきである。
【0066】
(3)SLI SEIメッセージの持続性範囲は、1つのCVS内にあるように規定される。しかし、ほとんどの場合、SLI SEIメッセージは、多数の連続したCVSに適用され、しばしばビットストリーム全体に適用される。
【0067】
(4)サブピクチャシーケンスの定義は、1つのピクチャ当たり1つのサブピクチャを有するレイヤが1つ以上存在する場合を含まない。
【0068】
(5)1つのCVSに対して1つのSLI SEIメッセージが存在する場合、sps_num_subpics_minus1の値は、1つのピクチャ当たり複数のサブピクチャを有するレイヤ内のピクチャによって参照されるすべてのSPSに対して同じであることを要件とする制約が欠落している。そうでない場合、sli_num_subpics_minus1の値がsps_num_subpics_minus1の値に等しいことを要件とすることが意味をなさない。
【0069】
(6)sli_num_subpics_minus1のセマンティクスは、ピクチャごとに複数のサブピクチャを有するレイヤ1つ以上が存在する場合には機能しない。
【0070】
(7)同じ元のビットストリームから抽出された異なるサブピクチャシーケンスは異なるレベルに準拠することができるので、変数SubpicLevelIdcおよびSubpicLevelIdxは、サブピクチャシーケンス固有であるように規定される必要がある。
【0071】
5.解決策および実施形態の一覧
上記課題を解決するために、以下に示す方法が開示されている。本発明は、一般的な概念を説明するための例と見なされるべきであり、狭義に解釈されるべきではない。さらに、本発明は、個々に適用されてもよいし、任意に組み合わせて適用されてもよい。
1)第1の問題を解決するために、sli_max_sublayers_minus1、sli_sublayer_info_present_flag、および信号通知された部分および参照レベル指標のサブレイヤのループを追加し、PTL構文構造におけるレベル情報の信号通知と整合性をとる。
a.一例において、さらに、sli_cbr_constraint_flagもまたサブレイヤに固有にされ、すなわち、sli_cbr_constraint_flag[k]に変更され、サブレイヤのためにループ内に移動される。
i.一例において、さらに、下位サブレイヤのsli_cbr_constraint_flag[k]が存在しない場合、sli_cbr_constraint_flag[k+1]に等しいと推論される。
b.一例において、さらに、下位サブレイヤのための分数または参照レベル指標が存在しない場合、次の上位サブレイヤのためのものと同じであると推論される。
2)第2の問題を解決するために、SLI SEIメッセージがビットストリームに含まれているか、または外部手段によって提供されるかのいずれかで、パラメータセットおよび他の3つの適合性/HRD関連のSEIメッセージ、即ちPT、BP、DUI SEIメッセージと整合性をとることを可能にする。
3)第3の問題を解決するために、持続性範囲を1つのCVSから1つ以上のCVSに変更し、レベル情報が信号通知されるまたは信号通知されてもよいVPSおよびSPSと整合性を取るようにする。
4)第4の問題を解決するため、1つのピクチャにつき1つのサブピクチャを有するレイヤが1つ以上存在する場合を含むように、サブピクチャシーケンスの定義を変更する。
5)第5の問題を解決するために、1つのCVSに対して1つのSLI SEIメッセージが存在する場合、sps_num_subpics_minus1の値は、1つのピクチャ当たり複数のサブピクチャを有するレイヤ内のピクチャによって参照されるすべてのSPSに対して同じであることを要件とする。
6)第6の問題を解決するために、sli_num_subpics_minus1のセマンティクスを、構文要素が1つのピクチャ当たり複数のサブピクチャを有するレイヤのサブピクチャに関するものとなるように規定する。
7)第7の問題を解決するために、SLI SEIメッセージのセマンティクスにおける最後の制約セットにおいて、変数SubpicLevelIdcおよびSubpicLevelIdxの両方並びに配列SubpicCpbSizeVcl、SubpicCpbSizeNal、SubpicBitRateVcl、およびSubpicBitRateNalに配列インデックス、サブピクチャシーケンスのインデックスを追加する。
【0072】
6. 実施形態の例
以下は、本章の上記に要約されたいくつかの発明の態様のためのいくつかの例示的な実施形態であり、VVC仕様に適用できる。既に追加または修正された最も関連する部分には太字のイタリック体において下線を付し、削除された部分のうちのいくつかは、[[]]を使用して示す。
【0073】
6.1. 実施形態1
本実施形態は、項目1~7およびその一部の小項目についてである。
【0074】
D.7.1 サブピクチャレベル情報SEIメッセージ構文
【表2】
【0075】
D.7.2 サブピクチャレベル情報SEIメッセージセマンティクス
【化4】
【0076】
【0077】
【0078】
【0079】
【0080】
【0081】
【0082】
【0083】
【0084】
【0085】
【0086】
【0087】
【0088】
【0089】
【0090】
【0091】
【0092】
【0093】
【0094】
図5は、本明細書で開示される様々な技術が実装され得る例示的な映像処理システム1900を示すブロック図である。様々な実装形態は、システム1900のコンポーネントの一部または全部を含んでもよい。システム1900は、映像コンテンツを受信するための入力ユニット1902を含んでもよい。映像コンテンツは、未加工または非圧縮フォーマット、例えば、8または10ビットのマルチコンポーネント画素値で受信されてもよく、または圧縮または符号化フォーマットで受信されてもよい。入力ユニット1902は、ネットワークインターフェース、周辺バスインターフェース、または記憶インターフェースを表してもよい。ネットワークインターフェースの例は、イーサネット(登録商標)、PON(Passive Optical Network)等の有線インターフェース、およびWi-Fi(登録商標)またはセルラーインターフェース等の無線インターフェースを含む。
【0095】
システム1900は、本明細書に記載される様々なコーディングまたはエンコーディング方法を実装することができるコーディングコンポーネント1904を含んでもよい。コーディングコンポーネント1904は、入力1902からの映像の平均ビットレートをコーディングコンポーネント1904の出力に低減し、映像のコーディングされた表現を生成してもよい。従って、このコーディング技術は、映像圧縮または映像トランスコーディング技術と呼ばれることがある。コーディングコンポーネント1904の出力は、コンポーネント1906によって表されるように、記憶されてもよいし、接続された通信を介して送信されてもよい。入力1902において受信された、記憶されたまたは通信された映像のビットストリーム(またはコーディングされた)表現は、コンポーネント1908によって使用されて、表示インターフェース1910に送信される画素値または表示可能な映像を生成してもよい。ビットストリーム表現からユーザが見ることができる映像を生成する処理は、映像展開と呼ばれることがある。さらに、特定の映像処理動作を「コーディング」動作またはツールと呼ぶが、コーディングツールまたは動作は、エンコーダおよびそれに対応する、コーディングの結果を逆にするデコーデイングツールまたは動作が、デコーダによって行われることが理解されよう。
【0096】
周辺バスインターフェースまたは表示インターフェースの例は、ユニバーサルシリアルバス(USB)またはハイビジョンマルチメディアインターフェース(HDMI(登録商標))またはディスプレイポート等を含んでもよい。ストレージインターフェースの例は、SATA(Serial Advanced Technology Attachment)、PCI、IDEインターフェース等を含む。本明細書に記載される技術は、携帯電話、ノートパソコン、スマートフォン、またはデジタルデータ処理および/または映像表示を実施可能な他のデバイス等の様々な電子デバイスに実施されてもよい。
【0097】
図6は、映像処理装置3600のブロック図である。装置3600は、本明細書に記載の方法の1または複数を実装するために使用されてもよい。装置3600は、スマートフォン、タブレット、コンピュータ、モノのインターネット(IoT)受信機等に実施されてもよい。装置3600は、1つ以上の処理装置3602と、1つ以上のメモリ3604と、映像処理ハードウェア3606と、を含んでもよい。1つまたは複数の処理装置3602は、本明細書に記載される1つ以上の方法を実装するように構成されてもよい。メモリ(複数可)3604は、本明細書で説明される方法および技術を実装するために使用されるデータおよびコードを記憶するために使用してもよい。映像処理ハードウェア3606は、本明細書に記載される技術をハードウェア回路にて実装するために使用してもよい。
【0098】
図8は、本開示の技法を利用し得る例示的な映像符号化システム100を示すブロック図である。
【0099】
図8に示すように、映像コーディングシステム100は、送信元デバイス110と、送信先デバイス120と、を備えてもよい。送信元デバイス110は、符号化映像データを生成するものであり、映像符号化機器とも称され得る。送信先デバイス120は、送信元デバイス110によって生成された、符号化された映像データを復号してよく、映像復号デバイスと呼ばれ得る。
【0100】
送信元デバイス110は、映像ソース112と、映像エンコーダ114と、入出力(I/O)インターフェース116と、を備えてもよい。
【0101】
映像ソース112は、映像キャプチャデバイスなどのソース、映像コンテンツプロバイダからの映像データを受信するためのインターフェース、および/または映像データを生成するためのコンピュータグラフィックスシステム、またはこれらのソースの組み合わせを含んでもよい。映像データは、1または複数のピクチャを含んでもよい。映像エンコーダ114は、映像ソース112からの映像データをエンコードし、ビットストリームを生成する。ビットストリームは、映像データのコーディングされた表現を形成するビットのシーケンスを含んでもよい。ビットストリームは、コーディングされたピクチャおよび関連付けられたデータを含んでもよい。コーディングされたピクチャは、ピクチャのコーディングされた表現である。関連付けられたデータは、シーケンスパラメータセット、ピクチャパラメータセット、および他の構文構造を含んでもよい。I/Oインターフェース116は、変復調器(モデム)および/または送信機を含んでもよい。エンコードされた映像データは、ネットワーク130aを介して、I/Oインターフェース116を介して送信先デバイス120に直接送信されてよい。エンコードされた映像データは、送信先デバイス120がアクセスするために、記録媒体/サーバ130bに記憶してもよい。
【0102】
送信先デバイス120は、I/Oインターフェース126、映像デコーダ124、および表示装置122を含んでもよい。
【0103】
I/Oインターフェース126は、受信機および/またはモデムを含んでもよい。I/Oインターフェース126は、送信元デバイス110または記憶媒体/サーバ130bからエンコードされた映像データを取得してもよい。映像デコーダ124は、符号化された映像データを復号してもよい。表示装置122は、復号された映像データをユーザに表示してもよい。表示装置122は、送信先デバイス120と一体化されてもよく、または外部表示装置とインターフェースで接続するように構成される送信先デバイス120の外部にあってもよい。
【0104】
映像エンコーダ114および映像デコーダ124は、高効率映像符号化(HEVC)規格、汎用映像符号化(VVVM)規格、および他の現在のおよび/またはさらなる規格等の映像圧縮規格に従って動作してもよい。
【0105】
図9は、映像エンコーダ200の一例を示すブロック図であり、この映像エンコーダ200は、
図8に示されるシステム100における映像エンコーダ114であってもよい。
【0106】
映像エンコーダ200は、本開示の技術のいずれかまたは全部を行うように構成されてもよい。
図9の実施例において、映像エンコーダ200は、複数の機能性モジュールを含む。本開示で説明される技法は、映像エンコーダ200の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0107】
映像エンコーダ200の機能コンポーネントは、分割ユニット201、予測ユニット202、残差生成ユニット207、変換ユニット208、量子化ユニット209、逆量子化ユニット210、逆変換ユニット211、再構成ユニット212、バッファ213、およびエントロピー符号化ユニット214を含んでもよく、予測ユニット202は、モード選択ユニット203、動き推定ユニット204、動き補償ユニット205、およびイントラ予測ユニット206を含む。
【0108】
他の例において、映像エンコーダ200は、より多くの、より少ない、または異なる機能コンポーネントを含んでもよい。一例において、予測ユニット202は、イントラブロックコピー(IBC)ユニットを含んでもよい。IBCユニットは、少なくとも1つの参照ピクチャが、現在の映像ブロックが位置するピクチャであるIBCモードにおいて予測を実行してもよい。
【0109】
さらに、動き推定ユニット204および動き補償ユニット205などのいくつかのコンポーネントは、高度に統合されてもよいが、説明のために、
図9の例においては別個に表現されている。
【0110】
分割ユニット201は、ピクチャを1または複数の映像ブロックに分割してもよい。映像エンコーダ200および映像デコーダ300は、様々な映像ブロックサイズをサポートしてもよい。
【0111】
モード選択ユニット203は、例えば、誤りの結果に基づいて、イントラまたはインターのコーディングモードのうちの1つを選択し、得られたイントラまたはインターコーディングされたブロックを、残差ブロックデータを生成するために残差生成ユニット207に供給し、符号化されたブロックを参照ピクチャとして使用するために再構成するために再構成ユニット212に供給してもよい。いくつかの例において、モード選択ユニット203は、インター予測信号およびイントラ予測信号に基づいて予測を行うCIIP(Combination of Intra and Inter Prediction)モードを選択してもよい。また、モード選択ユニット203は、インター予測の場合、ブロックの動きベクトルの解像度(例えば、サブピクセルまたは整数画素精度)を選択してもよい。
【0112】
現在の映像ブロックに対してインター予測を行うために、動き推定ユニット204は、バッファ213からの1つ以上の参照フレームと現在の映像ブロックとを比較することにより、現在の映像ブロックに対する動き情報を生成してもよい。動き補償ユニット205は、動き情報および現在の映像ブロックに関連付けられたピクチャ以外のバッファ213からのピクチャの復号されたサンプルに基づいて、現在の映像ブロックに対する予測映像ブロックを決定してもよい。
【0113】
動き推定ユニット204および動き補償ユニット205は、現在の映像ブロックがIスライスであるか、Pスライスであるか、またはBスライスであるかに基づいて、例えば、現在の映像ブロックに対して異なる動作を行ってもよい。
【0114】
いくつかの例において、動き推定ユニット204は、現在の映像ブロックに対して単方向予測を実行し、動き推定ユニット204は、現在の映像ブロックに対する参照映像ブロックのために、リスト0またはリスト1の参照ピクチャを検索してもよい。動き推定ユニット204は、参照映像ブロックと、現在の映像ブロックと参照映像ブロックとの間の空間的変位を示す動きベクトルとを含む、リスト0またはリスト1における参照ピクチャを示す参照インデックスを生成してもよい。動き推定ユニット204は、参照インデックス、予測方向インジケータ、および動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償ユニット205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在のブロックの予測映像ブロックを生成してもよい。
【0115】
他の例において、動き推定ユニット204は、現在の映像ブロックを双方向予測してもよく、動き推定ユニット204は、リスト0における参照ピクチャの中から現在の映像ブロックを求めるための参照映像ブロックを検索してもよく、また、リスト1における参照ピクチャの中から現在の映像ブロックを求めるための別の参照映像ブロックを検索してもよい。動き推定ユニット204は、参照映像ブロックを含むリスト0およびリスト1における参照ピクチャを示す参照インデックスと、参照映像ブロックと現在の映像ブロックとの間の空間的変位を示す動きベクトルとを生成してもよい。動き推定ユニット204は、現在の映像ブロックの参照インデックスおよび動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償ユニット205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在の映像ブロックの予測映像ブロックを生成してもよい。
【0116】
いくつかの例において、動き推定ユニット204は、デコーダの復号処理のために、動き情報のフルセットを出力してもよい。
【0117】
いくつかの例では、動き推定ユニット204は、現在の映像のための動き情報のフルセットを出力しなくてもよい。むしろ、動き推定ユニット204は、別の映像ブロックの動き情報を参照して、現在の映像ブロックの動き情報を信号通知してもよい。例えば、動き推定ユニット204は、現在の映像ブロックの動き情報が近傍の映像ブロックの動き情報に十分に類似していることを判定してもよい。
【0118】
一例において、動き推定ユニット204は、現在の映像ブロックに関連付けられた構文構造において、現在の映像ブロックが別の映像ブロックと同じ動き情報を有することを映像デコーダ300に示す値を示してもよい。
【0119】
他の例において、動き推定ユニット204は、現在の映像ブロックに関連付けられた構文構造において、別の映像ブロックと、MVD(Motion Vector Difference)とを識別してもよい。動きベクトル差分は、現在の映像ブロックの動きベクトルと、示された映像ブロックの動きベクトルとの差分を示す。映像デコーダ300は、指定された映像ブロックの動きベクトルと動きベクトル差分とを使用して、現在の映像ブロックの動きベクトルを決定してもよい。
【0120】
上述したように、映像エンコーダ200は、動きベクトルを予測的に信号通知してもよい。映像エンコーダ200によって実装され得る予測信号通知技術の2つの例は、高度動きベクトル予測(AMVP)およびマージモード信号通知を含む。
【0121】
イントラ予測ユニット206は、現在の映像ブロックに対してイントラ予測を行ってもよい。イントラ予測ユニット206が現在の映像ブロックをイントラ予測する場合、イントラ予測ユニット206は、同じピクチャにおける他の映像ブロックの復号されたサンプルに基づいて、現在の映像ブロックのための予測データを生成してもよい。現在の映像ブロックのための予測データは、予測された映像ブロックおよび様々な構文要素を含んでもよい。
【0122】
残差生成ユニット207は、現在の映像ブロックから現在の映像ブロックの予測された映像ブロックを減算することによって(例えば、マイナス符号によって示されている)、現在の映像ブロックのための残差データを生成してもよい。現在の映像ブロックの残差データは、現在の映像ブロックにおけるサンプルの異なるサンプル成分に対応する残差映像ブロックを含んでもよい。
【0123】
他の例において、例えば、スキップモードにおいて、現在の映像ブロックのための残差データがなくてもよく、残差生成ユニット207は、減算動作を行わなくてもよい。
【0124】
変換処理ユニット208は、現在の映像ブロックに関連付けられた残差映像ブロックに1または複数の変換を適用することによって、現在の映像ブロックのための1または複数の変換係数映像ブロックを生成してもよい。
【0125】
変換処理ユニット208が現在の映像ブロックに関連付けられた変換係数映像ブロックを生成した後、量子化ユニット209は、現在の映像ブロックに関連付けられた1または複数の量子化パラメータ(QP:Quantization Parameter)値に基づいて、現在の映像ブロックに関連付けられた変換係数映像ブロックを量子化してもよい。
【0126】
逆量子化ユニット210および逆変換ユニット211は、変換係数映像ブロックに逆量子化および逆変換をそれぞれ適用し、変換係数映像ブロックから残差映像ブロックを再構成してもよい。再構成ユニット212は、予測ユニット202によって生成された1または複数の予測映像ブロックに対応するサンプルに再構成された残差映像ブロックを追加して、バッファ213に格納するための現在のブロックに関連付けられた再構成された映像ブロックを生成してもよい。
【0127】
再構成ユニット212が映像ブロックを再構成した後、映像ブロックにおける映像ブロッキングアーチファクトを縮小するために、ループフィルタリング動作が行われてもよい。
【0128】
エントロピー符号化ユニット214は、映像エンコーダ200の他の機能コンポーネントからデータを受信してもよい。エントロピー符号化ユニット214がデータを受信した場合、エントロピー符号化ユニット214は、1または複数のエントロピー符号化動作を行い、エントロピー符号化されたデータを生成し、エントロピー符号化されたデータを含むビットストリームを出力してもよい。
【0129】
図10は、映像デコーダ300の一例を示すブロック図であり、この映像デコーダ300は、
図8に示すシステム100における映像デコーダ114であってもよい。
【0130】
映像デコーダ300は、本開示の技術のいずれかまたは全てを行うように構成されてもよい。
図10の実施例において、映像デコーダ300は、複数の機能モジュールを備える。本開示で説明される技法は、映像デコーダ300の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0131】
図10の実施例において、映像デコーダ300は、エントロピー復号ユニット301、動き補償ユニット302、イントラ予測ユニット303、逆量子化ユニット304、逆変換ユニット305、および再構成ユニット306、並びにバッファ307を備える。映像デコーダ300は、いくつかの例では、映像エンコーダ200(
図9)に関して説明した符号化パスとほぼ逆の復号パスを行ってもよい。
【0132】
エントロピー復号ユニット301は、符号化されたビットストリームを取り出す。符号化されたビットストリームは、エントロピー符号化された映像データ(例えば、映像データの符号化されたブロック)を含んでもよい。エントロピー復号ユニット301は、エントロピー符号化された映像データを復号し、エントロピー復号された映像データから、動き補償ユニット302は、動きベクトル、動きベクトル精度、参照ピクチャリストインデックス、および他の動き情報を含む動き情報を決定してもよい。動き補償ユニット302は、例えば、AMVPおよびマージモードを行うことで、このような情報を決定してもよい。
【0133】
動き補償ユニット302は、動き補償されたブロックを生成してもよく、場合によっては、補間フィルタに基づいて補間を行う。構文要素には、サブピクセルの精度で使用される補間フィルタのための識別子が含まれてもよい。
【0134】
動き補償ユニット302は、映像ブロックのエンコーディング中に映像エンコーダ200によって使用されるような補間フィルタを使用して、参照ブロックのサブ整数画素のための補間値を計算してもよい。動き補償ユニット302は、受信した構文情報に基づいて、映像エンコーダ200により使用される補間フィルタを決定し、予測ブロックを生成に補間フィルタを使用してしてもよい。
【0135】
動き補償ユニット302は、エンコードされた映像シーケンスのフレームおよび/またはスライスをエンコードするために使用されるブロックのサイズを判定するための構文情報、エンコードされた映像シーケンスのピクチャの各マクロブロックがどのように分割されるかを記述する分割情報、各分割がどのようにエンコードされるかを示すモード、各インターエンコードされたブロックに対する1つ以上の参照フレーム(および参照フレームリスト)、およびエンコードされた映像シーケンスをデコードするための他の情報のうちいくつかを使用してもよい。
【0136】
イントラ予測ユニット303は、例えば、ビットストリームにおいて受信したイントラ予測モードを使用して、空間的に隣接するブロックから予測ブロックを形成してもよい。逆量子化ユニット303は、ビットストリームに提供され、エントロピー復号ユニット301によって復号された量子化された映像ブロック係数を逆量子化(すなわち、逆量子化)する。逆変換ユニット303は、逆変換を適用する。
【0137】
再構成ユニット306は、残差ブロックと、動き補償ユニット202またはイントラ予測ユニット303によって生成された対応する予測ブロックとを合計し、復号されたブロックを形成してもよい。所望であれば、ブロックアーチファクトを除去するために、復号されたブロックをフィルタリングするためにデブロッキングフィルタを適用してもよい。デコードされた映像ブロックは、バッファ307に記憶され、バッファ307は、後続の動き補償/イントラ予測のために参照ブロックを提供し、表示デバイスに表示するためにデコードされた映像を生成する。
【0138】
次に、いくつかの実施形態において好適な解決策を列挙する。
【0139】
以下の解決策は、前章(例えば、項目1)で論じた技術の例示的な実施形態を示す。
【0140】
1. 1つ以上の映像サブレイヤを含む映像とこの映像のコーディングされた表現との間で変換を行うこと(702)を含み、コーディングされた表現はフォーマット規則に準拠し、このフォーマット規則は、このコーディングされた表現における多数のサブレイヤにまたがる構文構造と、この構文構造に含まれる各サブレイヤを示す1つ以上の構文フィールドとを含むように規定し、この構文構造は、信号通知された部分および参照レベル指標に関する情報を含む、映像処理方法(例えば、
図7に示す方法700)。
【0141】
2. 前記フォーマット規則は、前記構文構造に明示的に含まれていない特定の部分が、次に高いサブレイヤと同じ値を有すると解釈されることを規定する、解決策1に記載の方法。
【0142】
以下の解決策は、前章(例えば、項目2、5、6)で論じた技術の例示的な実施形態を示す。
【0143】
3. 1つ以上のサブピクチャを含む映像とこの映像のコーディングされた表現との間で変換を行うことを含み、この変換は、1つ以上のサブピクチャレベル情報のための補足強化情報を使用または生成する、映像処理方法。
【0144】
4. 前記補足強化情報が前記コーディングされた表現に含まれる、解決策3に記載の方法。
【0145】
5.前記補足強化情報は、前記コーディングされた表現から除外され、前記コーディングされた表現とは異なるメカニズムを使用して、符号化端と復号端との間で通信される、解決策3に記載の方法。
【0146】
6. 前記コーディングされた表現は、各シーケンスパラメータセットにおいて、1つのピクチャ当たり複数のサブピクチャを有するレイヤにおいて、サブピクチャの数を示すシーケンスパラメータセットごとに同じ値を信号通知することを規定するフォーマット規則に準拠する、解決策4に記載の方法。
【0147】
7. 前記変換は、前記映像を前記コーディングされた表現に符号化することを含む、解決策1~6のいずれかに記載の方法。
【0148】
8. 前記変換は、前記映像の画素値を生成するために前記コーディングされた表現を復号することを含む、解決策1~6のいずれかに記載の方法。
【0149】
9. 解決策1~8の1つ以上に記載の方法を実行するように構成された処理装置を備える、映像復号装置。
【0150】
10. 解決策1~8の1つ以上に記載の方法を実行するように構成された処理装置を備える、映像符号化装置。
【0151】
11. コンピュータコードが記憶されたコンピュータプログラム製品であって、前記コードは、プロセッサにより実行されると、前記プロセッサに、解決策1~8のいずれかに記載の方法を実行させるコンピュータプログラム製品。
【0152】
12. 本明細書に記載の方法、装置またはシステム。
【0153】
図13は、本技術の1つ以上の実施形態による映像データ処理の方法1300を表すフローチャートである。方法1300は、動作1310において、規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像とこの映像のビットストリームとの間で変換を行うことを含む。この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定する。SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスのためのサブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む。
【0154】
いくつかの実施形態において、前記第1の構文要素の値は0から映像パラメータセットに示される最大サブレイヤ数マイナス1の範囲である。いくつかの実施形態において、第2の構文要素がビットストリームに含まれていないことに呼応して、第2の構文要素は0であると推論される。いくつかの実施形態において、1つのサブレイヤkに関連付けられたビットストリームのレベル制限の一部が存在しないことに呼応して、この部分は1つのサブレイヤk+1に関連する部分に等しいと推論される。いくつかの実施形態において、1つのサブレイヤkに関連付けられたレベル指標が存在しないことに呼応して、前記レベル指標は1つのサブレイヤk+1に関連付けられたレベル指標に等しいと推論される。
【0155】
いくつかの実施形態において、前記構文構造は、各サブレイヤに対して、前記レベル指標に関連付けられたビットストリームのレベル制限の一部を規定する第3の構文要素をさらに含む。サブレイヤkに関連付けられた第3の構文要素が存在しないことに呼応して、第3の構文要素は、サブレイヤk+1に関連付けられた構文要素に等しいと推論される。いくつかの実施形態において、前記構文構造は、各々のサブピクチャシーケンスに信号通知される参照レベルの数を規定する第4の構文要素をさらに含む。いくつかの実施形態において、前記構文構造は、1つの仮想ストリームスケジューラ(HSS)が1つのサブピクチャシーケンスに対して間欠ビットレートモードで動作するか或いは一定ビットレート(CBR)モードで動作するかどうかを規定する第5の構文要素をさらに含む。
【0156】
図14は、本技術の1つ以上の実施形態による映像データ処理の方法1400を表すフローチャートである。方法1400は、動作1410において、規則に従って、1つ以上個の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの間で変換を行うことを含む。この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定する。SLI SEIメッセージは、現在のアクセスユニットから、ビットストリームの終わりまで、または、このSLI SEIメッセージとは異なるコンテンツを含む後続のSLI SEIメッセージを含む次のアクセスユニットまで、復号順に続く。
【0157】
いくつかの実施形態において、この規則は、同じCVSに適用可能なすべてのSLI SEIメッセージが同じコンテンツを有することを規定する。いくつかの実施形態において、前記SLI SEIメッセージはビットストリームに含まれるか或いは外部手段により提供されることにより現在のアクセスユニットに存在する。いくつかの実施形態において、サブピクチャレベルの指標を示す第1の変数は、各々のサブピクチャシーケンスの値を含むように規定される。いくつかの実施形態において、サブピクチャレベルのインデックスを示す第2の変数は、各々のサブピクチャシーケンスの値を含むように規定される。
【0158】
図15は、本技術の1つ以上の実施形態による映像データ処理の方法1500を表すフローチャートである。方法1500は、動作1510において、規則に従って、1つ以上の出力レイヤセット(OLS)を有する映像の現在のアクセスユニットとこの映像のビットストリームとの間で変換を行うことを含む。サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージは、SLI SEIメッセージが適用される1つ以上のOLSのコーディッド映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含む。1つ以上のOLSにおける、サブピクチャの数が1よりも大きいことを示す参照シーケンスパラメータセットにおける変数を、マルチサブピクチャレイヤと呼ぶ。OLSのセットにおけるコーディングされた映像シーケンスは、対象コーディッド映像シーケンス(CVS)と呼ばれる。この規則は、1つのサブピクチャシーケンスが、(1)同じサブピクチャインデックスを有しかつマルチサブピクチャレイヤにおけるレイヤに属する対象のCVS内のすべてのサブピクチャと、(2)0のサブピクチャインデックスを有しかつOLSのレイヤに属するがマルチサブピクチャレイヤに属さない対象のCVSにおけるすべてのサブピクチャとを含むことを規定する。
【0159】
いくつかの実施形態において、前記ビットストリームは、1つのコーディッド映像シーケンスのために存在するSLI SEIメッセージに呼応して、マルチサブピクチャレイヤのピクチャにより参照されるすべてのシーケンスパラメータセットが同じ数のサブピクチャを有することを規定するフォーマット規則に基づいて規定する。いくつかの実施形態において、1つ以上のOLSのコーディッド映像シーケンス(CVS)の任意のアクセスユニットに対してSLI SEIメッセージが存在することに呼応して、この規則は、このSLI SEIメッセージがこのCVSの第1のアクセスユニットに対して存在することを規定する。いくつかの実施形態において、SLI SEIメッセージの構文構造における構文要素は、対象CVSにおけるマルチサブピクチャレイヤにおけるピクチャにおけるサブピクチャの数を規定する。
【0160】
いくつかの実施形態において、変換は、映像をビットストリームに符号化することを含む。いくつかの実施形態において、変換は、ビットストリームから映像を復号することを含む。
【0161】
本明細書に記載の解決策において、エンコーダは、フォーマット規則に従ってコーディングされた表現を生成することで、フォーマット規則に準拠することができる。本明細書に記載の解決策において、デコーダは、フォーマット規則に従って、構文要素の有無を知りつつ、コーディングされた表現における構文要素を構文解析することで、復号された映像を生成するために、このフォーマット規則を使用してもよい。
【0162】
本明細書では、「映像処理」という用語は、映像符号化、映像復号、映像圧縮、または映像展開を指してよい。例えば、映像圧縮アルゴリズムは、映像の画素表現から対応するビットストリーム表現への変換、またはその逆の変換中に適用されてもよい。現在の映像ブロックのビットストリーム表現は、例えば、構文によって規定されるように、ビットストリーム内の同じ場所または異なる場所に拡散されるビットに対応していてもよい。例えば、1つのマクロブロックは、変換およびコーディングされた誤り残差値の観点から、かつビットストリームにおけるヘッダおよび他のフィールドにおけるビットを使用して符号化されてもよい。さらに、変換中、デコーダは、上記解決策で説明されているように、判定に基づいて、いくつかのフィールドが存在しても存在しなくてもよいという知識を持って、ビットストリームを構文解析してもよい。同様に、エンコーダは、特定の構文フィールドが含まれるべきであるか、または含まれないべきであるかを判定し、それに応じて、その構文フィールドを、コーディングされた表現に含めるか、またはコーディングされた表現から除外することによって、コーディングされた表現を生成してもよい。
【0163】
本明細書に記載された開示された、およびその他の解決策、実施例、実施形態、モジュール、および機能動作の実装形態は、本明細書に開示された構造およびその構造的等価物を含め、デジタル電子回路、またはコンピュータソフトウェア、ファームウェア、若しくはハードウェアで実施されてもよく、またはそれらの1または複数の組み合わせで実施してもよい。開示された、およびその他の実施形態は、1または複数のコンピュータプログラム製品、すなわち、データ処理装置によって実装されるため、またはデータ処理装置の動作を制御するために、コンピュータ可読媒体上に符号化されたコンピュータプログラム命令の1または複数のモジュールとして実施することができる。このコンピュータ可読媒体は、機械可読記憶デバイス、機械可読記憶基板、メモリデバイス、機械可読伝播信号をもたらす物質の組成物、またはこれらの1または複数の組み合わせであってもよい。「データ処理装置」という用語は、例えば、プログラマブルプロセッサ、コンピュータ、または複数のプロセッサ、若しくはコンピュータを含む、データを処理するためのすべての装置、デバイス、および機械を含む。この装置は、ハードウェアの他に、当該コンピュータプログラムの実行環境を作るコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、またはこれらの1または複数の組み合わせを構成するコードを含むことができる。伝播信号は、人工的に生成した信号、例えば、機械で生成した電気、光、または電磁信号であり、適切な受信装置に送信するための情報をエンコードするために生成される。
【0164】
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとも呼ばれる)は、コンパイルされた言語または解釈された言語を含む任意の形式のプログラミング言語で記述することができ、また、それは、スタンドアロンプログラムとして、またはコンピューティング環境で使用するのに適したモジュール、コンポーネント、サブルーチン、または他のユニットとして含む任意の形式で展開することができる。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応するとは限らない。プログラムは、他のプログラムまたはデータを保持するファイルの一部(例えば、マークアップ言語文書に格納された1または複数のスクリプト)に記録されていてもよいし、当該プログラム専用の単一のファイルに記憶されていてもよいし、複数の調整ファイル(例えば、1または複数のモジュール、サブプログラム、またはコードの一部を格納するファイル)に記憶されていてもよい。コンピュータプログラムを、1つのコンピュータで実行するように展開することができ、あるいは、1つのサイトに位置する、または複数のサイトにわたって分散され通信ネットワークによって相互接続される複数のコンピュータで実行するように展開することができる。
【0165】
本明細書に記載された処理およびロジックフローは、入力データ上で動作し、出力を生成することによって機能を行うための1つ以上のコンピュータプログラムを実行する1つ以上のプログラマブルプロセッサによって行うことができる。処理およびロジックフローはまた、特定用途のロジック回路、例えば、FPGA(Field Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)によって行うことができ、装置はまた、特別目的のロジック回路として実装することができる。
【0166】
コンピュータプログラムの実行に適したプロセッサは、例えば、汎用および専用マイクロプロセッサの両方、並びに任意の種類のデジタルコンピュータの任意の1つ以上のプロセッサを含む。一般的に、プロセッサは、リードオンリーメモリまたはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は、命令を実行するためのプロセッサと、命令およびデータを記憶するための1つ以上の記憶装置とである。一般的に、コンピュータは、データを記憶するための1または複数の大容量記憶デバイス、例えば、磁気、光磁気ディスク、または光ディスクを含んでもよく、またはこれらの大容量記憶デバイスからデータを受信するか、またはこれらにデータを転送するように動作可能に結合されてもよい。しかしながら、コンピュータは、このようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを記憶するのに適したコンピュータ可読媒体は、あらゆる形式の不揮発性メモリ、媒体、およびメモリデバイスを含み、例えば、EPROM、EEPROM、フラッシュ記憶装置、磁気ディスク、例えば内部ハードディスクまたはリムーバブルディスク、光磁気ディスク、およびCD-ROMおよびDVD-ROMディスク等の半導体記憶装置を含む。プロセッサおよびメモリは、特定用途のロジック回路によって補完されてもよく、または特定用途のロジック回路に組み込まれてもよい。
【0167】
本特許明細書は多くの特徴を含むが、これらは、任意の主題の範囲または特許請求の範囲を限定するものと解釈されるべきではなく、むしろ、特定の技術の特定の実施形態に特有であり得る特徴の説明と解釈されるべきである。本特許文献において別個の実施形態のコンテキストで説明されている特定の特徴は、1つの例において組み合わせて実装してもよい。逆に、1つの例のコンテキストで説明された様々な特徴は、複数の実施形態において別個にまたは任意の適切なサブコンビネーションで実装してもよい。さらに、特徴は、特定の組み合わせで作用するものとして上記に記載され、最初にそのように主張されていてもよいが、主張された組み合わせからの1または複数の特徴は、場合によっては、組み合わせから抜粋されることができ、主張された組み合わせは、サブコンビネーションまたはサブコンビネーションのバリエーションに向けられてもよい。
【0168】
同様に、動作は図面において特定の順番で示されているが、これは、所望の結果を達成するために、このような動作が示された特定の順番でまたは連続した順番で行われること、または示された全ての動作が行われることを必要とするものと理解されるべきではない。また、本特許明細書に記載されている実施形態における様々なシステムの構成要素の分離は、全ての実施形態においてこのような分離を必要とするものと理解されるべきではない。
【0169】
いくつかの実装形態および実施例のみが記載されており、この特許文献に記載され図示されているコンテンツに基づいて、他の実施形態、拡張および変形が可能である。
【手続補正書】
【提出日】2023-01-25
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
映像データを処理する方法であって、
規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像と前記映像のビットストリームとの間で変換を行うことを含み、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディング映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンス
における時間的サブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、方法。
【請求項2】
1に等しい前記第2の構文要素は、前記サブピクチャシーケンスのための前記レベル情報が、0から前記第1の構文要素の値の範囲内の前記1つ以上のサブレイヤ表現に対して存在することを規定し、0に等しい前記第2の構文要素は、前記サブピクチャシーケンスのための前記レベル情報が(前記第1の構文要素の前記値)番目のサブレイヤ表現に対して存在することを規定する、請求項1に記載の方法。
【請求項3】
第2の構文要素がビットストリームに含まれていないことに呼応して、第2の構文要素は0であると推論される、請求項1または請求項2に記載の方法。
【請求項4】
1つのサブレイヤkに関連付けられたビットストリームのレベル制限の一部が存在
せず、kが第1の構文要素の値よりも小さいことに呼応して、前記一部は、1つのサブレイヤk+1に関連する部分に等しいと推論される、請求項1から請求項3のいずれか
1項に記載の方法。
【請求項5】
1つのサブレイヤkに関連付けられたレベル指標が存在
せず、kが第1の構文要素の値よりも小さいことに呼応して、前記レベル指標は1つのサブレイヤk+1に関連付けられたレベル指標に等しいと推論される、請求項1から請求項4のいずれか
1項に記載の方法。
【請求項6】
前記構文構造は、各サブレイヤに対して、前記レベル指標に関連付けられたビットストリームのレベル制限の一部を規定する第3の構文要素をさらに含み、サブレイヤkに関連付けられた第3の構文要素が存在
せず、kが第1の構文要素の値よりも小さいことに呼応して、第3の構文要素は、サブレイヤk+1に関連付けられた構文要素に等しいと推論される、請求項1から請求項5のいずれか
1項に記載の方法。
【請求項7】
前記構文構造は、各々のサブピクチャシーケンスに信号通知される参照レベルの数を規定する第4の構文要素をさらに含む、請求項1から請求項6のいずれか
1項に記載の方法。
【請求項8】
前記構文構造は、1つの仮想ストリームスケジューラ(HSS)が1つのサブピクチャシーケンスに対して間欠ビットレートモードで動作するか或いは一定ビットレート(CBR)モードで動作するかを規定する第5の構文要素をさらに含む、請求項1から請求項7のいずれか
1項に記載の方法。
【請求項9】
前記変換は、前記映像を前記ビットストリームに符号化することを含む、請求項1から請求項8のいずれか1項に記載の方法。
【請求項10】
前記変換は、前記ビットストリームから前記映像を復号することを含む、請求項1から請求項8のいずれか1項に記載の方法。
【請求項11】
プロセッサと、命令を保持する非一時的メモリを含む映像処理装置であって、
前記命令が前記プロセッサによって実行されると、前記プロセッサに、
規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像と前記映像のビットストリーム
との間で変換を
行わせ、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディング映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンス
における時間的サブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、
装置。
【請求項12】
命令を記憶する非一時的なコンピュータ可読記憶媒体であって、前記命令は、処理装置に、
規則に従って、映像と1つ以上の出力レイヤセット(OLS)を含む前記映像のビットストリームとの変換を行わせ、
前記規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される前記1つ以上のOLSのコーディングされた映像シーケンスセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造が、(1)サブピクチャシーケンスにおける時間的サブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、非一時的なコンピュータ可読記憶媒体。
【請求項13】
映像処理装置によって行われる方法によって生成される映像のビットストリームを記憶する、非一時的なコンピュータ可読記録媒体であって、前記方法は、
規則に従って、1つ以上の出力レイヤセット(OLS)を含む映像から映像の前記ビットストリームを生成すること、を含み、
この規則は、サブピクチャレベル情報(SLI)補足強化情報(SEI)メッセージが、このSLI SEIメッセージが適用される1つ以上のOLSのコーディング映像シーケンスのセットにおけるサブピクチャシーケンスのレベルに関する情報を含むことを規定し、SLI SEIメッセージの構文構造は、(1)サブピクチャシーケンスにおける時間的サブレイヤの最大数を規定する第1の構文要素と、(2)サブピクチャシーケンスのためのレベル情報が1つ以上のサブレイヤ表現のために存在するかどうかを規定する第2の構文要素と、(3)ビットストリームのレベル制限の一部にそれぞれ関連付けられた多数のサブレイヤのためのループと、各サブピクチャシーケンスが適合するレベルを示すレベル指標と、を含む、非一時的なコンピュータ可読記録媒体。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0001
【補正方法】変更
【補正の内容】
【0001】
関連出願の相互参照
本願は、2020年6月8日出願の米国特許仮出願第63/036,365号の優先権および利益を主張する、2021年6月7日出願の国際特許出願第PCT/US2021/036253号に基づく。法に基づくすべての目的のために、上記出願の開示全体は、本明細書の開示の一部として参照により援用される。
【国際調査報告】