IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ テンセント・アメリカ・エルエルシーの特許一覧

特許7580876ビデオデコーディングのため方法、装置、およびコンピュータプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-01
(45)【発行日】2024-11-12
(54)【発明の名称】ビデオデコーディングのため方法、装置、およびコンピュータプログラム
(51)【国際特許分類】
   H04N 19/70 20140101AFI20241105BHJP
   H04N 19/103 20140101ALI20241105BHJP
   H04N 19/157 20140101ALI20241105BHJP
【FI】
H04N19/70
H04N19/103
H04N19/157
【請求項の数】 11
(21)【出願番号】P 2023528173
(86)(22)【出願日】2022-04-29
(65)【公表番号】
(43)【公表日】2023-11-30
(86)【国際出願番号】 US2022072021
(87)【国際公開番号】W WO2023056110
(87)【国際公開日】2023-04-06
【審査請求日】2023-05-10
(31)【優先権主張番号】63/250,155
(32)【優先日】2021-09-29
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】17/710,748
(32)【優先日】2022-03-31
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】520353802
【氏名又は名称】テンセント・アメリカ・エルエルシー
(74)【代理人】
【識別番号】100110364
【弁理士】
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100150197
【弁理士】
【氏名又は名称】松尾 直樹
(72)【発明者】
【氏名】ビョンドゥ・チェ
(72)【発明者】
【氏名】シャン・リュウ
(72)【発明者】
【氏名】ステファン・ヴェンガー
【審査官】山▲崎▼ 雄介
(56)【参考文献】
【文献】Fan Wang , et.al.,CE-1.1: coding of last significant coefficient position for high bit depth and high bit rate extensions,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29 23rd Meeting, by teleconference, 7-16 July 2021,JVET-W0046,2021年07月01日
【文献】Frank Bossen, et.al.,VVC operation range extensions (Draft 4),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29 23rd Meeting, by teleconference, 7-16 July 2021,JVET-W2005-v1,2021年08月24日
【文献】Byeongdoo Choi, et al.,AHG8: General Constraints Information (GCI) flags for operation range extensions,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29 24th Meeting, by teleconference, 6-15 October 2021,JVET-X0095-v2.docx,ITU-T,2021年10月05日,URL:https://jvet-experts.org/doc_end_user/documents/24_Teleconference/wg11/JVET-X0095-v2.zip
(58)【調査した分野】(Int.Cl.,DB名)
H04N 19/00-19/98
(57)【特許請求の範囲】
【請求項1】
ビデオデコーディングの方法であって、
プロセッサによって、ビットストリーム内のコーディングされたビデオデータの出力層セット(OLS)内のピクチャのコーディング制御のための汎用制約情報(GCI)内にある第1の構文要素を決定するステップであって、前記第1の構文要素は、変換係数のエントロピーコーディング中の最後有意係数の位置をコーディングするためのコーディングツールに関連付けられている、ステップと、
前記第1の構文要素が、前記出力層セット内の前記コーディングツールの無効化を示す第1の値であることに応答して、前記プロセッサによって、前記コーディングツールを呼び出すことなく、コーディングされたビデオデータの前記出力層セット内の1つ以上のコーディングされた層ビデオシーケンス(CLVS)を含む前記ビットストリーム内のコーディングされたビデオデータの前記出力層セットをデコーディングするステップと
を含む、デコーダにおけるビデオデコーディングの方法。
【請求項2】
前記第1の構文要素は、general_no_reverse_last_sig_coeff_constraint_flagで表され、前記コーディングツールは、変換ブロックの右下隅に対する前記変換ブロック内の最後有意係数の位置をコーディングする、請求項1に記載の方法。
【請求項3】
前記第1の構文要素の前記第1の値は、前記出力層セット内の各コーディングされた層ビデオシーケンス(CLVS)内の前記コーディングツールを無効化することを示す、請求項2に記載の方法。
【請求項4】
コーディングされた層ビデオシーケンス(CLVS)をデコーディングするための前記コーディングツールを呼び出さないことを示す値を有するように、前記ビットストリーム内の前記CLVSのコーディング制御のための第2の構文要素を制約するステップ
をさらに含む、請求項2に記載の方法。
【請求項5】
前記第2の構文要素の前記値は、前記CLVSのピクチャ内のスライスのスライスヘッダ内の前記コーディングツールに関連付けられたスライスヘッダフラグが存在しないことを示す、請求項4に記載の方法。
【請求項6】
前記第1の構文要素が第2の値であることに応答して、前記ビットストリーム内のコーディングされた層ビデオシーケンス(CLVS)のコーディング制御のための第2の構文要素の値を決定するステップであって、前記第2の構文要素は、前記CLVS内の前記コーディングツールの有効化/無効化を示す、ステップ
をさらに含む、請求項2に記載の方法。
【請求項7】
前記CLVS内の前記コーディングツールの有効化を示す前記第2の構文要素の前記値に応答して、スライスのスライスヘッダ内のスライスヘッダフラグをデコーディングするステップであって、前記スライスヘッダフラグは、前記スライスをコーディングするための前記コーディングツールの使用/不使用を示す、ステップ
をさらに含む、請求項6に記載の方法。
【請求項8】
前記第2の構文要素の前記値を決定する前記ステップは、
前記第2の構文要素が前記CLVSのためのシーケンスパラメータセット(SPS)内に存在しないことに応答して、前記CLVS内の前記コーディングツールの無効化を示すための前記第2の構文要素の前記値を推測するステップをさらに含む、請求項6に記載の方法。
【請求項9】
前記第1の構文要素を決定する前記ステップは、
汎用制約情報のための構文構造内の第3の構文要素が前記構文構造内の汎用制約情報のための追加ビットを示すことに応答して、前記構文構造から前記第1の構文要素をデコーディングするステップをさらに含む、請求項1に記載の方法。
【請求項10】
請求項1から9のいずれか一項に記載の方法を実施するように構成された処理回路を備える、ビデオデコーディングのための装置。
【請求項11】
少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに、請求項1から9のいずれか一項に記載の方法を行わせるように構成されたコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、2021年9月29日に出願された米国特許仮出願第63/250,155号「逆最後有意係数を有するレンジ拡張のための制約フラグシグナリングの技術(TECHNIQUES FOR CONSTRAINT FLAG SIGNALING FOR RANGE EXTENSION WITH REVERSE LAST SIGNIFICANT COEFFICIENT)」の利益を主張する、2022年3月31日に出願された米国特許出願第17/710,748号「最後有意係数のコーディングを伴うレンジ拡張のための制約フラグシグナリングの技術(TECHNIQUES FOR CONSTRAINT FLAG SIGNALING FOR RANGE EXTENSION WITH CODING FOR LAST SIGNIFICANT COEFFICIENT)」の利益を主張する。先行出願の開示は、その全体が参照により本明細書に組み込まれる。
【0002】
本開示は、ビデオコーディングに一般的に関連する実施形態を説明する。
【背景技術】
【0003】
本明細書において提供される背景技術の説明は、本開示の文脈を大まかに提示することを目的としている。本発明者らの研究は、この背景技術の項に記載されている限りにおいて、および出願時に先行技術として認められない可能性がある説明の態様は、本開示に対する先行技術として明示的にも暗示的にも認められない。
【0004】
ビデオのコーディングおよびデコーディングは、動き補償を伴うインターピクチャ予測を使用して実行することができる。非圧縮デジタルビデオは一連のピクチャを含むことができ、各ピクチャは、例えば、1920×1080の輝度サンプルおよび関連する彩度サンプルの空間次元を有する。一連のピクチャは、例えば、毎秒60ピクチャまたは60Hzの固定または可変の(非公式にはフレームレートとしても知られる)ピクチャレートを有することができる。非圧縮ビデオは特有のビットレート要件を有する。例えば、サンプルあたり8ビットでの1080p60 4:2:0ビデオ(60Hzフレームレートで1920×1080の輝度サンプル解像度)は、1.5Gbit/sに近い帯域幅を必要とする。1時間分のそのようなビデオは、600GByteを超える記憶空間を必要とする。
【0005】
ビデオのコーディングおよびデコーディングの1つの目的は、圧縮を介して入力ビデオ信号内の冗長性を低減することであり得る。圧縮は、前述の帯域幅および/または記憶空間の要件を、場合によっては、2桁以上削減するのに役立つことができる。可逆圧縮と非可逆圧縮の両方、ならびにこれらの組合せを採用することができる。可逆圧縮は、圧縮された元の信号から元の信号の正確なコピーを再構成することができる技術を指す。非可逆圧縮を使用すると、再構成された信号は元の信号と同一ではない可能性があるが、元の信号と再構成された信号との間の歪みは、再構成された信号を目的の用途に有用なものにするほど十分小さい。ビデオの場合、非可逆圧縮が広く採用されている。許容される歪みの量は用途に依存し、例えば、特定の消費者ストリーミング用途のユーザは、テレビ配信用途のユーザよりも高い歪みを許容し得る。達成可能な圧縮比は、より高い容認可能/許容可能な歪みが、より高い圧縮比をもたらし得ることを反映し得る。
【0006】
ビデオエンコーダおよびデコーダは、例えば、動き補償、変換、量子化、およびエントロピーコーディングを含む、いくつかの広範なカテゴリからの技術を利用し得る。
【0007】
ビデオコーデック技術は、イントラコーディングとして知られる技術を含むことができる。イントラコーディングでは、サンプル値は、以前に再構成された参照ピクチャからのサンプルまたは他のデータを参照せずに表される。一部のビデオコーデックでは、ピクチャは空間的にサンプルのブロックに細分化される。サンプルのすべてのブロックがイントラモードコーディングされるとき、そのピクチャはイントラピクチャであり得る。イントラピクチャおよび独立したデコーダリフレッシュピクチャなどのそれらの派生物は、デコーダ状態をリセットするために使用することができ、したがって、コーディングされたビデオビットストリームおよびビデオセッション内の最初のピクチャとして、または静止画像として使用することができる。イントラブロックのサンプルは、変換にさらされる可能性があり、変換係数は、エントロピーコーディングの前に量子化され得る。イントラ予測は、変換前領域内のサンプル値を最小化する技術であり得る。場合によっては、変換後のDC値が小さいほど、およびAC係数が小さいほど、エントロピーコーディング後のブロックを表すために所与の量子化ステップサイズで必要とされるビット数が少なくなる。
【0008】
例えばMPEG-2生成コーディング技術から知られているような従来のイントラコーディングは、イントラ予測を使用しない。しかしながら、いくつかのより新しいビデオ圧縮技術は、例えば、空間的に隣接し、デコーディング順で先行するデータのブロックのエンコーディング/デコーディングの間に取得される周囲のサンプルデータおよび/またはメタデータから試行する技術を含む。このような技法は、以後「イントラ予測」技術と呼ばれる。少なくともいくつかの場合において、イントラ予測は、再構成中の現在のピクチャからの参照データのみを使用し、参照ピクチャからの参照データは使用しないことに留意されたい。
【0009】
イントラ予測には多くの異なる形式があり得る。そのような技術のうちの2つ以上が所与のビデオコーディング技術において使用され得るとき、使用中の技術は、イントラ予測モードでコーディングされ得る。特定の場合には、モードはサブモードおよび/またはパラメータを有することができ、それらを個別にコーディングするか、またはモードのコードワードに含め得る。所与のモード/サブモード/パラメータの組合せにどのコードワードを使用するかは、イントラ予測によるコーディング効率の向上に影響を及ぼす可能性があるので、コードワードをビットストリームに変換するために使用されるエントロピーコーディング技術にも影響を及ぼす可能性がある。
【0010】
イントラ予測の特定のモードは、H.264で導入され、H.265において改良され、共同探索モデル(JEM)、多用途ビデオコーディング(VVC)およびベンチマークセット(BMS)などのより新しいコーディング技術においてさらに改良された。予測器ブロックは、既に利用可能なサンプルに属する隣接サンプル値を使用して形成することができる。隣接サンプルのサンプル値は、方向にしたがって予測器ブロックにコピーされる。使用中の方向への参照は、ビットストリーム内でコーディングされ得るか、またはそれ自体が予測されてもよい。
【0011】
図1Aを参照すると、右下に描写されているのは、H.265の(35個のイントラモードのうちの33個の角度モードに対応する)33個の可能な予測器方向から知られる9つの予測器方向のサブセットである。矢印が収束する点(101)は、予測されているサンプルを表す。矢印は、そこからサンプルが予測されている方向を表す。例えば、矢印(102)は、サンプル(101)が水平から45度の角度で右上にある1つまたは複数のサンプルから予測されることを示す。同様に、矢印(103)は、サンプル(101)が水平から22.5度の角度でサンプル(101)の左下にある1つまたは複数のサンプルから予測されることを示す。
【0012】
さらに図1Aを参照すると、左上には、(太い破線によって示された)4×4サンプルの正方形ブロック(104)が描写されている。正方形ブロック(104)は16個のサンプルを含み、各々、「S」、Y次元のその位置(例えば、行インデックス)、およびX次元のその位置(例えば、列インデックス)でラベル付けされている。例えば、サンプルS21は、Y次元の(上から)2番目のサンプルであり、X次元の(左から)1番目のサンプルである。同様に、サンプルS44は、ブロック(104)のY次元およびX次元の両方において4番目のサンプルである。ブロックはサイズが4×4サンプルなので、S44は右下にある。同様の番号付け方式に従う参照サンプルがさらに示されている。参照サンプルは、ブロック(104)に対してR、そのY位置(例えば、行インデックス)、およびX位置(列インデックス)でラベル付けされている。H.264およびH.265の両方において、予測サンプルは再構成中のブロックに隣接するので、負の値が使用される必要はない。
【0013】
イントラピクチャ予測は、シグナリングされた予測方向に応じて、隣接サンプルからの参照サンプル値をコピーすることによって機能することができる。例えば、コーディングされたビデオビットストリームが、このブロックに関して、矢印(102)と一致する予測方向を示すシグナリングを含む、すなわち、サンプルが水平から45度の角度で右上にある1つまたは複数の予測サンプルから予測されると仮定する。その場合、同じ参照サンプルR05からサンプルS41、S32、S23、およびS14が予測される。次いで、参照サンプルR08からサンプルS44が予測される。
【0014】
特定の場合には、特に方向が45度で均等に割り切れないときに、参照サンプルを計算するために、複数の参照サンプルの値が、例えば補間によって組み合わされてもよい。
【0015】
可能な方向の数は、ビデオコーディング技術が発展するにつれて増加している。H.264(2003年)では、9つの異なる方向を表すことができた。それがH.265(2013年)では33に増加し、本開示の時点では、JEM/VVC/BMSは最大65の方向をサポートすることができる。最も可能性が高い方向を識別するための実験が行われており、エントロピーコーディングの特定の技術は、それらの可能性が高い方向を少数のビットで表すために使用され、可能性が低い方向に関しては一定のペナルティを受け入れている。さらに、方向自体は、隣接する既にデコーディングされたブロックで使用された隣接方向から予測され得る場合もある。
【0016】
図1Bは、経時的に増加する予測方向の数を示すためにJEMによる65のイントラ予測方向を示す概略図(180)を示す。
【0017】
方向を表す、コーディングされたビデオビットストリーム内のイントラ予測方向ビットのマッピングは、ビデオコーディング技術ごとに異なってもよく、例えば、予測方向のイントラ予測モードへの単純な直接マッピングから、コードワード、最も可能性が高いモードを含む複雑な適応方式、および同様の技術まで及ぶ場合がある。しかしながら、すべての場合において、ビデオコンテンツ内で特定の他の方向よりも統計的に発生する可能性が低い特定の方向が存在し得る。ビデオ圧縮の目標は冗長性の低減であるため、これらの可能性の低い方向は、適切に機能しているビデオコーディング技術では、可能性の高い方向よりも多くのビット数で表される。
【0018】
動き補償は、非可逆圧縮技術であり得、以前に再構成されたピクチャまたはその一部(参照ピクチャ)からのサンプルデータのブロックが、動きベクトル(以下、MV)によって示された方向に空間的にシフトされた後に、新しく再構成されるピクチャまたはピクチャの一部の予測に使用される技術に関し得る。場合によっては、参照ピクチャは、現在再構成中のピクチャと同じであり得る。MVは、2つの次元XおよびY、または3つの次元を有することができ、3番目の次元は使用中の参照ピクチャの表示である(後者は、間接的に時間次元であり得る)。
【0019】
いくつかのビデオ圧縮技術では、サンプルデータの特定の領域に適用可能なMVは、他のMVから、例えば、再構成中の領域に空間的に隣接し、デコーディング順でそのMVに先行するサンプルデータの別の領域に関連するMVから、予測され得る。そうすることで、MVをコーディングするのに必要なデータの量を大幅に削減することができ、これにより、冗長さを取り除いて圧縮率を向上させることができる。例えば、(ナチュラルビデオとして知られている)カメラから導出された入力ビデオ信号をコーディングするとき、単一のMVが適用可能な領域よりも大きい領域が同様の方向に移動する統計的尤度が存在するので、MV予測は効果的に機能することができ、したがって、場合によっては、隣接する領域のMVから導出された同様の動きベクトルを使用して予測することができる。その結果、所与の領域について検出されたMVは、周囲のMVから予測されたMVと同様または同じであり、エントロピーコーディング後、直接MVをコーディングする場合に使用されるビット数より少ないビット数で表すことができる。場合によっては、MV予測は、元の信号(すなわち、サンプルストリーム)から導出された信号(すなわち、MV)の可逆圧縮の一例であり得る。他の場合には、例えば、いくつかの周囲のMVから予測器を計算するときの丸め誤差のために、MV予測自体は非可逆であり得る。
【0020】
様々なMV予測機構が、H.265/HEVC(ITU-T Rec.H.265、「High Efficiency Video Coding」、2016年12月)に記載されている。H.265が提供する多くのMV予測機構のうち、本明細書に記載されるのは、以降「空間マージ」と呼ばれる技術である。
【0021】
図2を参照すると、現在のブロック(201)は、空間的にシフトされた同じサイズの前のブロックから予測可能であるように動き検索プロセス中にエンコーダによって見つけられたサンプルを含む。そのMVを直接コーディングする代わりに、MVは、A0、A1、およびB0、B1、B2(それぞれ、202~206)と表記された5つの周囲サンプルのいずれか1つに関連付けられたMVを使用して、1つ以上の参照ピクチャに関連付けられたメタデータから、例えば、(デコーディング順で)最新の参照ピクチャから導出することができる。H.265では、MV予測は、隣接するブロックが使用している同じ参照ピクチャからの予測器を使用することができる。
【発明の概要】
【課題を解決するための手段】
【0022】
本開示の態様は、ビデオデータ処理のための方法および装置を提供する。いくつかの例では、ビデオデータ処理のための装置は、処理回路を含む。例えば、処理回路は、ビットストリーム内のコーディングされたビデオデータの第1の範囲におけるコーディング制御のための第1の構文要素を決定する。第1の構文要素は、変換係数のエントロピーコーディング中の最後有意係数の位置をコーディングするためのコーディングツールに関連付けられる。次いで、第1の構文要素が第1の範囲内のコーディングツールの無効化を示す第1の値であることに応答して、処理回路は、コーディングツールを呼び出すことなく、コーディングされたビデオデータの1つ以上の第2の範囲を含むビットストリーム内のコーディングされたビデオデータの第1の範囲をデコーディングする。
【0023】
いくつかの実施形態では、第1の構文要素は、出力層セット内のピクチャのコーディング制御のための汎用制約情報内にある。第1の構文要素の第1の値は、出力層セット内の各コーディングされた層ビデオシーケンス(CLVS)内のコーディングツールを無効化することを示す。コーディングツールは、変換ブロックの右下隅に対する変換ブロック内の最後有意係数の位置をコーディングする。いくつかの例では、処理回路は、CLVSをデコーディングするためのコーディングツールを呼び出さないことを示す値を有するように、ビットストリーム内のコーディングされた層ビデオシーケンス(CLVS)のコーディング制御のための第2の構文要素を制約する。一例では、第2の構文要素の値は、CLVSのピクチャ内のスライスのスライスヘッダ内に、コーディングツールに関連付けられたスライスヘッダフラグが存在しないことを示す。
【0024】
いくつかの実施形態では、第1の構文要素が第2の値であることに応答して、処理回路は、ビットストリーム内のコーディングされた層ビデオシーケンス(CLVS)のコーディング制御のための第2の構文要素の値を決定する。第2の構文要素は、CLVS内のコーディングツールの有効化/無効化を示す。さらに、いくつかの例では、CLVS内のコーディングツールの有効化を示す第2の構文要素の値に応答して、処理回路は、スライスのスライスヘッダ内のスライスヘッダフラグをデコーディングし、スライスヘッダフラグは、スライスをコーディングするためのコーディングツールの使用/不使用を示す。
【0025】
いくつかの実施形態では、第2の構文要素の値を決定するために、処理回路は、第2の構文要素がCLVSのためのシーケンスパラメータセット(SPS)内に存在しないことに応答して、CLVS内のコーディングツールの無効化を示すための第2の構文要素の値を推測する。
【0026】
いくつかの実施形態では、第1の構文要素を決定するために、処理回路は、構文構造内の構文要素が構文構造内の汎用制約情報のための追加ビットを示すことに応答して、汎用制約情報のための構文構造から第1の構文要素をデコーディングする。
【0027】
本開示の態様はまた、ビデオデコーディングのためにコンピュータによって実行されると、ビデオデコーディングのための方法をコンピュータに実行させる命令を記憶する非一時的コンピュータ可読媒体を提供する。
【0028】
開示された主題のさらなる特徴、性質、および様々な利点は、以下の詳細な説明および添付の図面からより明らかになるであろう。
【図面の簡単な説明】
【0029】
図1A】イントラ予測モードの例示的なサブセットの概略図である。
図1B】例示的なイントラ予測方向の図である。
図2】一例における現在のブロックおよびその周囲の空間マージ候補の概略図である。
図3】一実施形態による通信システム(300)の簡略化されたブロック図の概略図である。
図4】一実施形態による通信システム(400)の簡略化されたブロック図の概略図である。
図5】一実施形態によるデコーダの簡略化されたブロック図の概略図である。
図6】一実施形態によるエンコーダの簡略化されたブロック図の概略図である。
図7】別の実施形態によるエンコーダのブロック図である。
図8】別の実施形態によるデコーダのブロック図である。
図9】本開示の実施形態による適応解像度変更(ARC)パラメータをシグナリングするための例を示す図である。
図10】アップサンプルまたはダウンサンプル係数、コードワード、およびExt-Golomb符号のマッピングのためのテーブル(1000)の一例を示す図である。
図11】本開示のいくつかの実施形態にしたがってシグナリングするARCパラメータのいくつかの例を示す図である。
図12】いくつかの例におけるPTL構文要素のセットの構文構造例を示す図である。
図13】いくつかの例における汎用制約情報の構文構造例を示す図である。
図14A】本開示のいくつかの実施形態による、PTL構文構造および汎用制約情報構文構造を含むPTL情報の例を示す図である。
図14B】本開示のいくつかの実施形態による、PTL構文構造および汎用制約情報構文構造を含むPTL情報の例を示す図である。
図15A】本開示の一実施形態による汎用制約情報構文構造の一例を示す図である。
図15B】本開示の一実施形態による汎用制約情報構文構造の一例を示す図である。
図16】本開示のいくつかの実施形態による汎用制約情報の構文構造を示す図である。
図17】本開示のいくつかの実施形態によるシーケンスパラメータセット(SPS)レンジ拡張の構文構造例を示す図である。
図18】本開示の一実施形態によるプロセスを概説するフローチャートである。
図19】本開示の一実施形態によるプロセスを概説するフローチャートである。
図20】一実施形態によるコンピュータシステムの概略図である。
【発明を実施するための形態】
【0030】
図3は、本開示の一実施形態による通信システム(300)の簡略化されたブロック図を示す。通信システム(300)は、例えばネットワーク(350)を介して互いに通信可能な複数の端末デバイスを含む。例えば、通信システム(300)は、ネットワーク(350)を介して相互接続された端末デバイス(310)および(320)の第1のペアを含む。図3の例では、端末デバイス(310)および(320)の第1のペアは、データの単方向送信を実行する。例えば、端末デバイス(310)は、ネットワーク(350)を介して他の端末デバイス(320)に送信するためのビデオデータ(例えば、端末デバイス(310)によってキャプチャされたビデオピクチャのストリーム)をコーディングすることができる。エンコーディングされたビデオデータは、1つ以上のコーディングされたビデオビットストリームの形式で送信することができる。端末デバイス(320)は、ネットワーク(350)からコーディングされたビデオデータを受信し、ビデオピクチャを復元するためにコーディングされたビデオデータをデコーディングし、復元されたビデオデータにしたがってビデオピクチャを表示することができる。単方向データ送信は、メディアサービング用途などにおいて一般的であり得る。
【0031】
別の例では、通信システム(300)は、例えばビデオ会議中に発生する可能性があるコーディングされたビデオデータの双方向送信を実行する端末デバイス(330)および(340)の第2のペアを含む。データの双方向送信の場合、一例では、端末デバイス(330)および(340)の各端末デバイスは、ネットワーク(350)を介して端末デバイス(330)および(340)のうちの他方の端末デバイスに送信するためのビデオデータ(例えば、端末デバイスによってキャプチャされたビデオピクチャのストリーム)をコーディングすることができる。端末デバイス(330)および(340)の各端末デバイスはまた、端末デバイス(330)および(340)の他方の端末デバイスによって送信されたコーディングされたビデオデータを受信することができ、ビデオピクチャを復元するためにコーディングされたビデオデータをデコーディングすることができ、復元されたビデオデータにしたがってアクセス可能な表示デバイスにビデオピクチャを表示することができる。
【0032】
図3の例では、端末デバイス(310)、(320)、(330)、および(340)は、サーバ、パーソナルコンピュータ、およびスマートフォンとして示され得るが、本開示の原理はそのように限定されなくてもよい。本開示の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレーヤ、および/または専用ビデオ会議機器を伴う用途を見出す。ネットワーク(350)は、例えば、電線(有線)および/または無線の通信ネットワークを含む、端末デバイス(310)、(320)、(330)、および(340)の間でコーディングされたビデオデータを伝達する任意の数のネットワークを表す。通信ネットワーク(350)は、回線交換チャネルおよび/またはパケット交換チャネルでデータを交換することができる。代表的なネットワークは、電気通信ネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、および/またはインターネットを含む。本説明の目的のために、ネットワーク(350)のアーキテクチャおよびトポロジは、本明細書で以下に説明されない限り、本開示の動作に重要ではない場合がある。
【0033】
図4は、開示された主題についてのアプリケーション用の一例として、ストリーミング環境におけるビデオエンコーダおよびビデオデコーダの配置を示す。開示された主題は、例えば、ビデオ会議、デジタルテレビ、CD、DVD、メモリスティックなどを含むデジタル媒体への圧縮ビデオの記憶などを含む他のビデオ対応アプリケーションに、等しく適用可能であり得る。
【0034】
ストリーミングシステムは、例えば非圧縮のビデオピクチャのストリーム(402)を生成する、例えばデジタルカメラなどのビデオソース(401)を含むことができるキャプチャサブシステム(413)を含むことができる。一例では、ビデオピクチャのストリーム(402)は、デジタルカメラによって撮影されたサンプルを含む。エンコーディングされたビデオデータ(404)(またはコーディングされたビデオビットストリーム)と比較した場合の高データ量を強調するために太線として描写されたビデオピクチャのストリーム(402)は、ビデオソース(401)に結合されたビデオエンコーダ(403)を含む電子デバイス(420)によって処理することができる。ビデオエンコーダ(403)は、以下でより詳細に記載されるように、開示された主題の態様を可能にするかまたは実装するために、ハードウェア、ソフトウェア、またはそれらの組合せを含むことができる。ビデオピクチャのストリーム(402)と比較してより少ないデータ量を強調するために細い線として描写されたエンコーディングされたビデオデータ(404)(またはエンコーディングされたビデオビットストリーム(404))は、将来の使用のためにストリーミングサーバ(405)に記憶することができる。図4のクライアントサブシステム(406)および(408)などの1つ以上のストリーミングクライアントサブシステムは、エンコーディングされたビデオデータ(404)のコピー(407)および(409)を取り出すために、ストリーミングサーバ(405)にアクセスすることができる。クライアントサブシステム(406)は、例えば、電子デバイス(430)内のビデオデコーダ(410)を含むことができる。ビデオデコーダ(410)は、エンコーディングされたビデオデータの入力コピー(407)をデコーディングし、ディスプレイ(412)(例えば、表示画面)または他のレンダリングデバイス(描写せず)上でレンダリングすることができるビデオピクチャの出力ストリーム(411)を作成する。いくつかのストリーミングシステムでは、エンコーディングされたビデオデータ(404)、(407)、および(409)(例えば、ビデオビットストリーム)は、特定のビデオコーディング/圧縮規格にしたがってエンコーディングすることができる。それらの規格の例は、ITU-T勧告H.265を含む。一例では、開発中のビデオコーディング規格は、非公式に多用途ビデオコーディング(VVC:Versatile Video Coding)として知られている。開示された主題は、VVCの文脈で使用され得る。
【0035】
電子デバイス(420)および(430)は、他の構成要素(図示せず)を含むことができることに留意されたい。例えば、電子デバイス(420)はビデオデコーダ(図示せず)を含むことができ、電子デバイス(430)はビデオエンコーダ(図示せず)も含むことができる。
【0036】
図5は、本開示の一実施形態によるビデオデコーダ(510)のブロック図を示す。ビデオデコーダ(510)は、電子デバイス(530)に含まれ得る。電子デバイス(530)は、受信機(531)(例えば、受信回路)を含むことができる。ビデオデコーダ(510)は、図4の例のビデオデコーダ(410)の代わりに使用することができる。
【0037】
受信機(531)は、ビデオデコーダ(510)によってデコーディングされる1つ以上のコーディングされたビデオシーケンスを受信してもよく、同じかまたは別の実施形態では、一度に1つのコーディングされたビデオシーケンスを受信してもよく、各コーディングされたビデオシーケンスのデコーディングは、他のコーディングされたビデオシーケンスから独立している。コーディングされたビデオシーケンスは、チャネル(501)から受信されてもよく、チャネル(501)は、エンコーディングされたビデオデータを記憶するストレージデバイスへのハードウェア/ソフトウェアリンクであってもよい。受信機(531)は、それらのそれぞれの使用エンティティ(描写せず)に転送され得る他のデータ、例えば、コーディングされたオーディオデータおよび/または補助データストリームとともにエンコーディングされたビデオデータを受信することができる。受信機(531)は、コーディングされたビデオシーケンスを他のデータから分離することができる。ネットワークジッタに対抗するために、バッファメモリ(515)は、受信機(531)とエントロピーデコーダ/パーサ(520)(以下、「パーサ(520)」)との間に結合されてもよい。特定の用途では、バッファメモリ(515)はビデオデコーダ(510)の一部である。他の用途では、バッファメモリ(515)はビデオデコーダ(510)の外部にあってもよい(描写せず)。さらに別の用途では、例えばネットワークジッタに対抗するために、ビデオデコーダ(510)の外側にバッファメモリ(描写せず)があり、加えて、例えばプレイアウトタイミングを処理するために、ビデオデコーダ(510)の内側に別のバッファメモリ(515)があってもよい。受信機(531)が十分な帯域幅および制御可能性の記憶/転送デバイスから、またはアイソシンクロナス(isosynchronous)ネットワークからデータを受信しているとき、バッファメモリ(515)は必要とされない場合があるか、または小さい可能性がある。インターネットなどのベストエフォートパケットネットワークで使用する場合、バッファメモリ(515)は必要な場合があり、比較的大きくすることができ、有利には適応サイズであってもよく、ビデオデコーダ(510)の外部のオペレーティングシステムまたは同様の要素(描写せず)に少なくとも部分的に実装されてもよい。
【0038】
ビデオデコーダ(510)は、コーディングされたビデオシーケンスからシンボル(521)を再構成するためにパーサ(520)を含んでもよい。これらのシンボルのカテゴリは、ビデオデコーダ(510)の動作を管理するために使用される情報、および潜在的に、図5に示されるように、電子デバイス(530)の不可欠な部分ではないが、電子デバイス(530)に結合することができるレンダリングデバイス(512)(例えば、表示画面)などのレンダリングデバイスを制御するための情報を含む。(1つまたは複数の)レンダリングデバイスのための制御情報は、補足拡張情報(SEIメッセージ)またはビデオユーザビリティ情報(VUI)パラメータセットフラグメント(描写せず)の形式であってもよい。パーサ(520)は、受信されたコーディングされたビデオシーケンスを解析/エントロピーデコーディングすることができる。コーディングされたビデオシーケンスのコーディングは、ビデオコーディング技術または規格に従うことができ、文脈依存性ありまたはなしの可変長コーディング、ハフマンコーディング、算術コーディングなどを含む様々な原理に従うことができる。パーサ(520)は、グループに対応する少なくとも1つのパラメータに基づいて、コーディングされたビデオシーケンスから、ビデオデコーダ内のピクセルのサブグループのうちの少なくとも1つのためのサブグループパラメータのセットを抽出することができる。サブグループは、ピクチャグループ(GOP)、ピクチャ、タイル、スライス、マクロブロック、コーディングユニット(CU)、ブロック、変換ユニット(TU)、予測ユニット(PU)などを含むことができる。パーサ(520)はまた、コーディングされたビデオシーケンスから、変換係数、量子化パラメータ値、動きベクトルなどの情報もすることができる。
【0039】
パーサ(520)は、シンボル(521)を作成するために、バッファメモリ(515)から受け取ったビデオシーケンスに対してエントロピーデコーディング/構文解析動作を実行することができる。
【0040】
シンボル(521)の再構成は、コーディングされたビデオピクチャまたはその一部のタイプ(インターピクチャおよびイントラピクチャ、インターブロックおよびイントラブロックなど)、ならびに他の要因に応じて、複数の異なるユニットを関与させることができる。どのユニットがどのように関与するかは、パーサ(520)によってコーディングされたビデオシーケンスから構文解析されたサブグループ制御情報によって制御することができる。パーサ(520)と以下の複数のユニットとの間のそのようなサブグループ制御情報の流れは、明確にするために描かれていない。
【0041】
既に言及された機能ブロック以外に、ビデオデコーダ(510)は、以下で説明されるようないくつかの機能ユニットに概念的に細分化することができる。商業的制約の下で動作する実際の実装形態では、これらのユニットの多くは、互いに密接に相互作用し、少なくとも部分的には互いに統合することができる。しかしながら、開示された主題を説明する目的のために、以下の機能ユニットへの概念的な細分化が適切である。
【0042】
第1のユニットはスケーラ/逆変換ユニット(551)である。スケーラ/逆変換ユニット(551)は、量子化変換係数、ならびにどの変換を使用するか、ブロックサイズ、量子化係数、量子化スケーリング行列などを含む制御情報を、パーサ(520)から(1つまたは複数の)シンボル(521)として受信する。スケーラ/逆変換ユニット(551)は、アグリゲータ(555)に入力され得るサンプル値を含むブロックを出力することができる。
【0043】
場合によっては、スケーラ/逆変換(551)の出力サンプルは、イントラコーディングされたブロック、すなわち、以前に再構成されたピクチャからの予測情報を使用していないが、現在のピクチャの以前に再構成された部分からの予測情報を使用することができるブロックに関連する可能性がある。そのような予測情報は、イントラピクチャ予測ユニット(552)によって提供することができる。場合によっては、イントラピクチャ予測ユニット(552)は、現在のピクチャバッファ(558)からフェッチされた周囲の既に再構成された情報を使用して、再構成中のブロックと同じサイズおよび形状のブロックを生成する。現在のピクチャバッファ(558)は、例えば、部分的に再構成された現在ピクチャおよび/または完全に再構成された現在のピクチャをバッファリングする。アグリゲータ(555)は、場合によっては、イントラ予測ユニット(552)が生成した予測情報を、スケーラ/逆変換ユニット(551)からの出力サンプル情報に、サンプル単位で追加する。
【0044】
他の場合には、スケーラ/逆変換ユニット(551)の出力サンプルは、インターコーディングされ、潜在的に動作補償されたブロックに関連する可能性がある。このような場合、動き補償予測ユニット(553)は、予測に使用されるサンプルをフェッチするために、参照ピクチャメモリ(557)にアクセスすることができる。ブロックに関連するシンボル(521)にしたがってフェッチされたサンプルを動き補償した後、これらのサンプルは、出力サンプル情報を生成するように、アグリゲータ(555)によってスケーラ/逆変換ユニット(551)の出力に追加することができる(この場合、残差サンプルまたは残差信号と呼ばれる)。動き補償予測ユニット(553)が予測サンプルをフェッチする参照ピクチャメモリ(557)内のアドレスは、例えば、X、Y、および参照ピクチャ成分を有することができるシンボル(521)の形式で動き補償予測ユニット(553)に利用可能な動きベクトルによって制御することができる。動作補償はまた、サブサンプルの正確な動きベクトルが使用されているときに参照ピクチャメモリ(557)からフェッチされたサンプル値の補間、動きベクトル予測機構などを含むことができる。
【0045】
アグリゲータ(555)の出力サンプルは、ループフィルタユニット(556)における様々なループフィルタリング技術を受けることができる。ビデオ圧縮技術は、コーディングされたビデオシーケンス(コーディングされたビデオビットストリームとも呼ばれる)に含まれるパラメータによって制御され、パーサ(520)からのシンボル(521)としてループフィルタユニット(556)に利用可能にされるインループフィルタ技術を含むことができるが、コーディングされたピクチャまたはコーディングされたビデオシーケンスの(デコーディング順で)前の部分のデコーディング中に取得されたメタ情報に応答することもでき、以前に再構成されループフィルタリングされたサンプル値に応答することもできる。
【0046】
ループフィルタユニット(556)の出力は、レンダリングデバイス(512)に出力されるだけでなく、将来のインターピクチャ予測で使用するために参照ピクチャメモリ(557)に記憶することができるサンプルストリームであり得る。
【0047】
特定のコーディングされたピクチャは、完全に再構成されると、将来の予測のための参照ピクチャとして使用されることが可能である。例えば、現在のピクチャに対応するコーディングされたピクチャが完全に再構成され、コーディングされたピクチャが(例えば、パーサ(520)によって)参照ピクチャとして識別されると、現在のピクチャバッファ(558)は参照ピクチャメモリ(557)の一部になることができ、次のコーディングされたピクチャの再構成を開始する前に新しい現在のピクチャバッファを再割り当てすることができる。
【0048】
ビデオデコーダ(510)は、ITU-T Rec.H.265などの規格における所定のビデオ圧縮技術にしたがってデコーディング動作を実行することができる。コーディングされたビデオシーケンスがビデオ圧縮技術または規格の構文とビデオ圧縮技術において文書化されたプロファイルの両方に準拠するという意味で、コーディングされたビデオシーケンスは、使用されているビデオ圧縮技術または規格によって指定された構文に準拠することができる。具体的には、プロファイルは、ビデオ圧縮技術または規格において利用可能なすべてのツールの中から、そのプロファイル下で利用可能な唯一のツールとして、特定のツールを選択することができる。また、順守には、コーディングされたビデオシーケンスの複雑さが、ビデオ圧縮技術または規格のレベルによって規定された範囲内にあることも必要であり得る。場合によっては、レベルは、最大ピクチャサイズ、最大フレームレート、最大再構成サンプルレート(例えば毎秒メガサンプルで測定される)、最大参照ピクチャサイズなどを制限する。レベルによって設定される制限は、場合によっては、仮想参照デコーダ(HRD)仕様およびコーディングされたビデオシーケンスでシグナリングされたHRDバッファ管理のためのメタデータによってさらに制限され得る。
【0049】
一実施形態では、受信機(531)は、エンコーディングされたビデオとともに追加の(冗長な)データを受信することができる。追加のデータは、(1つまたは複数の)コーディングされたビデオシーケンスの一部として含まれ得る。追加のデータは、データを適切にデコーディングするために、および/または元のビデオデータをより正確に再構成するために、ビデオデコーダ(510)によって使用され得る。追加のデータは、例えば、時間、空間、または信号対雑音比(SNR)拡張層、冗長スライス、冗長ピクチャ、前方誤り訂正コードなどの形式であり得る。
【0050】
図6は、本開示の一実施形態による、ビデオエンコーダ(603)のブロック図を示す。ビデオエンコーダ(603)は、電子デバイス(620)に含まれる。電子デバイス(620)は、送信機(640)(例えば、送信回路)を含む。ビデオエンコーダ(603)は、図4の例のビデオエンコーダ(403)の代わりに使用することができる。
【0051】
ビデオエンコーダ(603)は、ビデオエンコーダ(603)によってコーディングされる(1つまたは複数の)ビデオ画像をキャプチャすることができる(図6の例では電子デバイス(620)の一部ではない)ビデオソース(601)からビデオサンプルを受信することができる。別の例では、ビデオソース(601)は電子デバイス(620)の一部である。
【0052】
ビデオソース(601)は、任意の適切なビット深度(例えば、8ビット、10ビット、12ビット、…)、任意の色空間(例えば、BT.601 Y CrCB、RGB、…)、および任意の適切なサンプリング構造(例えば、Y CrCb 4:2:0、Y CrCb 4:4:4)であり得るデジタルビデオサンプルストリームの形式で、ビデオエンコーダ(603)によってコーディングされるソースビデオシーケンスを提供することができる。メディアサービングシステムでは、ビデオソース(601)は、以前に準備されたビデオを記憶するストレージデバイスであってもよい。ビデオ会議システムでは、ビデオソース(601)は、ビデオシーケンスとしてローカル画像情報をキャプチャするカメラであってもよい。ビデオデータは、順番に見たときに動きを伝える複数の個別のピクチャとして提供されてもよい。ピクチャ自体は、ピクセルの空間配列として編成することができ、各ピクセルは、使用中のサンプリング構造、色空間などに応じて、1つ以上のサンプルを含むことができる。当業者は、ピクセルとサンプルとの間の関係を容易に理解することができる。以下の説明は、サンプルに焦点を当てている。
【0053】
一実施形態によれば、ビデオエンコーダ(603)は、リアルタイムで、または用途によって必要とされる任意の他の時間制約の下で、ソースビデオシーケンスのピクチャをコーディングされたビデオシーケンス(643)にコーディングし、圧縮することができる。適切なコーディング速度を強制することは、コントローラ(650)の1つの機能である。いくつかの実施形態では、コントローラ(650)は、以下に記載される他の機能ユニットを制御し、他の機能ユニットに機能的に結合されている。明確にするために、結合は描かれていない。コントローラ(650)によって設定されるパラメータは、レート制御関連パラメータ(ピクチャスキップ、量子化器、レート歪み最適化技術のラムダ値、…)、ピクチャサイズ、ピクチャグループ(GOP)のレイアウト、最大動きベクトル検索範囲などを含むことができる。コントローラ(650)は、特定のシステム設計のために最適化されたビデオエンコーダ(603)に関する他の適切な機能を有するように構成することができる。
【0054】
いくつかの実施形態では、ビデオエンコーダ(603)は、コーディングループで動作するように構成される。過度に簡略化された説明として、一例では、コーディングループは、ソースコーダ(630)(例えば、コーディングされる入力ピクチャおよび(1つまたは複数の)参照ピクチャに基づいて、シンボルストリームなどのシンボルを作成する役割を担う)と、ビデオエンコーダ(603)に組み込まれた(ローカル)デコーダ(633)とを含むことができる。(開示の主題で考慮されるビデオ圧縮技術においてはシンボルとコーディングされたビデオビットストリームとの間のいかなる圧縮も可逆であるため)デコーダ(633)は、(リモート)デコーダも作成することになるのと同様のやり方で、サンプルデータを作成するためにシンボルを再構成する。再構成されたサンプルストリーム(サンプルデータ)は、参照ピクチャメモリ(634)に入力される。シンボルストリームのデコーディングは、デコーダの場所(ローカルまたはリモート)に関係なくビットイグザクトな結果につながるので、参照ピクチャメモリ(634)内のコンテンツも、ローカルエンコーダとリモートエンコーダとの間でビットイグザクトである。言い換えれば、エンコーダの予測部分は、デコーディング中に予測を使用するときにデコーダが「見る」のと全く同じサンプル値を参照ピクチャサンプルとして「見る」。参照ピクチャの同期性(および、例えばチャネルエラーのために同期性を維持できない場合に生じるドリフト)のこの基本原理は、いくつかの関連技術においても使用される。
【0055】
「ローカル」デコーダ(633)の動作は、図5と併せて上記で詳細に既に説明されている、ビデオデコーダ(510)などの「リモート」デコーダの動作と同じであり得る。しかしながら、図5も簡単に参照すると、シンボルが利用可能であり、エントロピーコーダ(645)およびパーサ(520)によるコーディングされたビデオシーケンスへのシンボルのエンコーディング/デコーディングは可逆であり得るので、バッファメモリ(515)を含むビデオデコーダ(510)のエントロピーデコーディング部分、およびパーサ(520)は、ローカルデコーダ(633)に完全に実装されていない可能性がある。
【0056】
この時点で行われ得る観察は、デコーダに存在する構文解析/エントロピーデコーディング以外の任意のデコーダ技術もまた、実質的に同一の機能形態で、対応するエンコーダ内に必ず存在する必要があるということである。このため、開示された主題は、デコーダの動作に焦点を当てる。エンコーダ技術の説明は、包括的に記載されたデコーダ技術の逆であるため、省略することができる。特定の領域においてのみ、より詳細な説明が必要とされ、以下に提供される。
【0057】
動作中、いくつかの例では、ソースコーダ(630)は、「参照ピクチャ」として指定されたビデオシーケンスからの1つ以上の以前にコーディングされたピクチャを参照して入力ピクチャを予測的にコーディングする、動き補償予測コーディングを実行することができる。このようにして、コーディングエンジン(632)は、入力ピクチャのピクセルブロックと、入力ピクチャへの(1つまたは複数の)予測参照として選択され得る(1つまたは複数の)参照ピクチャのピクセルブロックとの間の差分をコーディングする。
【0058】
ローカルビデオデコーダ(633)は、ソースコーダ(630)によって作成されたシンボルに基づいて、参照ピクチャとして指定され得るピクチャのコーディングされたビデオデータをデコーディングすることができる。コーディングエンジン(632)の動作は、有利には、非可逆プロセスであってもよい。コーディングされたビデオデータが(図6には示されていない)ビデオデコーダでデコーディングされ得るとき、再構成されたビデオシーケンスは、通常、いくつかの誤差を伴うソースビデオシーケンスの複製であり得る。ローカルビデオデコーダ(633)は、参照ピクチャに対してビデオデコーダによって実行され得るデコーディングプロセスを複製し、再構成された参照ピクチャを参照ピクチャキャッシュ(634)に記憶させ得る。このようにして、ビデオエンコーダ(603)は、(送信エラーがない)遠端ビデオデコーダによって取得される再構成された参照ピクチャとして共通のコンテンツを有する、再構成された参照ピクチャのコピーをローカルに記憶することができる。
【0059】
予測器(635)は、コーディングエンジン(632)の予測検索を実行し得る。すなわち、コーディングされる新しいピクチャについて、予測器(635)は、(候補参照ピクセルブロックとしての)サンプルデータ、または新しいピクチャのための適切な予測参照として機能し得る、参照ピクチャ動きベクトル、ブロック形状などの特定のメタデータを求めて、参照ピクチャメモリ(634)を検索することができる。予測器(635)は、適切な予測参照を見つけるために、ピクセルブロックごとにサンプルブロックに対して動作し得る。場合によっては、予測器(635)によって取得された検索結果によって決定されるように、入力ピクチャは、参照ピクチャメモリ(634)に記憶された複数の参照ピクチャから引き出された予測参照を有し得る。
【0060】
コントローラ(650)は、例えば、ビデオデータをエンコーディングするために使用されるパラメータおよびサブグループパラメータの設定を含む、ソースコーダ(630)のコーディング動作を管理し得る。
【0061】
前述のすべての機能ユニットの出力は、エントロピーコーダ(645)においてエントロピーコーディングを受けることができる。エントロピーコーダ(645)は、ハフマンコーディング、可変長コーディング、算術コーディングなどの技術にしたがってシンボルを可逆圧縮することによって、様々な機能ユニットによって生成されたシンボルをコーディングされたビデオシーケンスに変換する。
【0062】
送信機(640)は、エントロピーコーダ(645)によって作成された(1つまたは複数の)コーディングされたビデオシーケンスを、エンコーディングされたビデオデータを記憶することになるストレージデバイスへのハードウェア/ソフトウェアリンクであり得る、通信チャネル(660)を介した送信に備えてバッファリングし得る。送信機(640)は、ビデオコーダ(603)からのコーディングされたビデオデータを、送信される他のデータ、例えば、コーディングされたオーディオデータおよび/または補助データストリーム(ソースは図示せず)とマージし得る。
【0063】
コントローラ(650)は、ビデオエンコーダ(603)の動作を管理し得る。コーディング中に、コントローラ(650)は、各コーディングされたピクチャに特定のコーディングされたピクチャタイプを割り当てることができ、これは、それぞれのピクチャに適用され得るコーディング技術に影響を及ぼし得る。例えば、ピクチャは、以下のピクチャタイプのうちの1つとして割り当てられることが多い。
【0064】
イントラピクチャ(Iピクチャ)は、予測のソースとしてシーケンス内の任意の他のピクチャを使用することなくコーディングおよびデコーディングされ得るものであり得る。いくつかのビデオコーデックは、例えば、独立デコーダリフレッシュ(「IDR」)ピクチャを含む、異なるタイプのイントラピクチャを可能にする。当業者は、Iピクチャのこれらの変形、ならびにそれらのそれぞれの用途および機能を認識している。
【0065】
予測ピクチャ(Pピクチャ)は、最大で1つの動きベクトルおよび参照インデックスを使用して各ブロックのサンプル値を予測するイントラ予測またはインター予測を使用してコーディングおよびデコーディングされ得るものであり得る。
【0066】
双方向予測ピクチャ(Bピクチャ)は、最大で2つの動きベクトルおよび参照インデックスを使用して各ブロックのサンプル値を予測するイントラ予測またはインター予測を使用してコーディングおよびデコーディングされ得るものであり得る。同様に、複数予測ピクチャは、単一のブロックの再構成のために3つ以上の参照ピクチャおよび関連するメタデータを使用することができる。
【0067】
ソースピクチャは、一般に、複数のサンプルブロック(例えば、各々、4x4、8x8、4x8、または16x16のブロック)に空間的に細分化され、ブロックごとにコーディングされ得る。ブロックは、ブロックのそれぞれのピクチャに適用されるコーディング割り当てによって決定されるように、他の(既にコーディングされた)ブロックを参照して予測的にコーディングされ得る。例えば、Iピクチャのブロックは、非予測的にコーディングされてもよく、またはこれらは、同じピクチャの既にコーディングされたブロックを参照して予測的にコーディングされてもよい(空間予測またはイントラ予測)。Pピクチャのピクセルブロックは、以前にコーディングされた1つの参照ピクチャを参照して、空間予測を介して、または時間予測を介して、予測的にコーディングされてもよい。Bピクチャのブロックは、1つまたは2つの以前にコーディングされた参照ピクチャを参照して、空間予測を介して、または時間予測を介して、予測的にコーディングされてもよい。
【0068】
ビデオエンコーダ(603)は、ITU-T Rec.H.265などの所定のビデオコーディング技術または規格にしたがってコーディング動作を実行することができる。その動作において、ビデオエンコーダ(603)は、入力ビデオシーケンスにおける時間および空間の冗長性を利用する予測コーディング動作を含む、様々な圧縮動作を実行することができる。したがって、コーディングされたビデオデータは、使用されているビデオコーディング技術または規格によって指定された構文に準拠することができる。
【0069】
一実施形態では、送信機(640)は、エンコーディングされたビデオとともに追加のデータを送信することができる。ソースコーダ(630)は、コーディングされたビデオシーケンスの一部としてそのようなデータを含むことができる。追加のデータは、時間/空間/SNR拡張層、冗長ピクチャおよびスライスなどの他の形態の冗長データ、SEIメッセージ、VUIパラメータセットフラグメントなどを含むことができる。
【0070】
ビデオは、複数のソースピクチャ(ビデオピクチャ)として時系列でキャプチャされ得る。イントラピクチャ予測(しばしばイントラ予測と略される)は、所与のピクチャにおける空間的相関を利用し、インターピクチャ予測は、ピクチャ間の(時間的または他の)相関を利用する。一例では、現在ピクチャと呼ばれる、エンコーディング/デコーディング中の特定のピクチャがブロックに分割される。現在のピクチャ内のブロックが、以前にコーディングされ、ビデオ内にまだバッファリングされている参照ピクチャ内の参照ブロックに類似しているとき、現在のピクチャ内のブロックは、動きベクトルと呼ばれるベクトルによってコーディングすることができる。動きベクトルは、参照ピクチャ内の参照ブロックを指し、複数の参照ピクチャが使用されている場合に、参照ピクチャを識別する第3の次元を有することができる。
【0071】
いくつかの実施形態では、インターピクチャ予測において双予測技術を使用することができる。双予測技術によれば、どちらもビデオ内でデコーディング順で現在のピクチャに先行する(が、表示順では、それぞれ過去と将来とにあり得る)第1の参照ピクチャおよび第2の参照ピクチャなどの2つの参照ピクチャが使用される。現在のピクチャ内のブロックは、第1の参照ピクチャ内の第1の参照ブロックを指す第1の動きベクトル、および第2の参照ピクチャ内の第2の参照ブロックを指す第2の動きベクトルによってコーディングされることが可能である。ブロックは、第1の参照ブロックと第2の参照ブロックとの組合せによって予測することができる。
【0072】
さらに、コーディング効率を改善するために、インターピクチャ予測においてマージモード技術を使用することができる。
【0073】
本開示のいくつかの実施形態によれば、インターピクチャ予測およびイントラピクチャ予測などの予測は、ブロック単位で実行される。例えば、HEVC規格によれば、ビデオピクチャのシーケンス内のピクチャは、圧縮のためにコーディングツリーユニット(CTU)に分割され、ピクチャ内のCTUは、64×64ピクセル、32×32ピクセル、または16×16ピクセルなどの同じサイズを有する。一般に、CTUは3つのコーディングツリーブロック(CTB)を含み、これらは1つのルマCTBおよび2つのクロマCTBである。各CTUは、1つまたは複数のコーディングユニット(CU)に再帰的に四分木分割することができる。例えば、64x64ピクセルのCTUは、64x64ピクセルの1つのCU、または32x32ピクセルの4つのCU、または16x16ピクセルの16個のCUに分割することができる。一例では、インター予測タイプまたはイントラ予測タイプなどのCUの予測タイプを決定するために、各CUが分析される。CUは、時間的および/または空間的予測可能性に応じて、1つ以上の予測ユニット(PU)に分割される。一般に、各PUは、1つのルマ予測ブロック(PB)および2つのクロマPBを含む。一実施形態では、コーディング(エンコーディング/デコーディング)における予測動作は、予測ブロック単位で実行される。予測ブロックの一例としてルマ予測ブロックを使用すると、予測ブロックは、8×8ピクセル、16×16ピクセル、8×16ピクセル、16×8ピクセルなどのピクセルの値(例えば、ルマ値)の行列を含む。
【0074】
図7は、本開示の別の実施形態によるビデオエンコーダ(703)の図を示す。ビデオエンコーダ(703)は、ビデオピクチャのシーケンスにおける現在のビデオピクチャ内のサンプル値の処理ブロック(例えば、予測ブロック)を受信し、処理ブロックを、コーディングされたビデオシーケンスの一部であるコーディングされたピクチャにエンコーディングするように構成される。一例では、ビデオエンコーダ(703)は、図4の例のビデオエンコーダ(403)の代わりに使用される。
【0075】
HEVCの例では、ビデオエンコーダ(703)は、例えば8×8サンプルの予測ブロックなどの処理ブロックのためのサンプル値の行列を受信する。ビデオエンコーダ(703)は、処理ブロックが、例えばレート歪み最適化を使用して、イントラモード、インターモード、または双予測モードを使用して最良にコーディングされるかどうかを判定する。処理ブロックがイントラモードでコーディングされるとき、ビデオエンコーダ(703)は、処理ブロックをコーディングされたピクチャにエンコーディングするためにイントラ予測技術を使用してもよく、また、処理ブロックがインターモードまたは双予測モードでコーディングされるとき、ビデオエンコーダ(703)は、処理ブロックをコーディングされたピクチャにエンコーディングするためにインター予測技術または双予測技術をそれぞれ使用してもよい。特定のビデオコーディング技術では、マージモードは、予測器の外側のコーディングされた動きベクトル成分の恩恵を受けずに、動きベクトルが1つ以上の動きベクトル予測器から導出されるインターピクチャ予測サブモードであり得る。特定の他のビデオコーディング技術では、対象ブロックに適用可能な動きベクトル成分が存在してもよい。一例では、ビデオエンコーダ(703)は、処理ブロックのモードを決定するためのモード決定モジュール(図示せず)などの他の構成要素を含む。
【0076】
図7の例では、ビデオエンコーダ(703)は、図7に示されるように互いに結合されたインターエンコーダ(730)、イントラエンコーダ(722)、残差計算器(723)、スイッチ(726)、残差エンコーダ(724)、汎用コントローラ(721)、およびエントロピーエンコーダ(725)を含む。
【0077】
インターエンコーダ(730)は、現在のブロック(例えば、処理ブロック)のサンプルを受信し、ブロックを参照ピクチャ内の1つ以上の参照ブロック(例えば、前のピクチャおよび後のピクチャ内のブロック)と比較し、インター予測情報(例えば、インターエンコーディング技術による冗長情報、動きベクトル、マージモード情報の記述)を生成し、任意の適切な技術を使用して、インター予測情報に基づいてインター予測結果(例えば、予測ブロック)を計算するように構成される。いくつかの例では、参照ピクチャは、エンコーディングされたビデオ情報に基づいてデコーディングされたデコーディング参照ピクチャである。
【0078】
イントラエンコーダ(722)は、現在のブロック(例えば、処理ブロック)のサンプルを受信し、場合によっては、ブロックを同じピクチャ内の既にコーディングされたブロックと比較し、変換後に量子化係数を生成し、場合によっては、イントラ予測情報(例えば、1つ以上のイントラエンコーディング技術によるイントラ予測方向情報)も生成するように構成される。一例では、イントラエンコーダ(722)はまた、イントラ予測情報および同じピクチャ内の参照ブロックに基づいて、イントラ予測結果(例えば、予測ブロック)を計算する。
【0079】
汎用コントローラ(721)は、汎用制御データを決定し、汎用制御データに基づいてビデオエンコーダ(703)の他の構成要素を制御するように構成される。一例では、汎用コントローラ(721)は、ブロックのモードを決定し、モードに基づいてスイッチ(726)に制御信号を提供する。例えば、モードがイントラモードであるとき、汎用コントローラ(721)は、残差計算器(723)が使用するためのイントラモード結果を選択するようにスイッチ(726)を制御し、イントラ予測情報を選択してイントラ予測情報をビットストリームに含めるようにエントロピーエンコーダ(725)を制御し、モードがインターモードであるとき、汎用コントローラ(721)は、残差計算器(723)が使用するためのインター予測結果を選択するようにスイッチ(726)を制御し、インター予測情報を選択してインター予測情報をビットストリームに含めるようにエントロピーエンコーダ(725)を制御する。
【0080】
残差計算器(723)は、受信されたブロックと、イントラエンコーダ(722)またはインターエンコーダ(730)から選択された予測結果との差分(残差データ)を計算するように構成される。残差エンコーダ(724)は、変換係数を生成するために残差データをエンコーディングするように、残差データに基づいて動作するように構成される。一例では、残差エンコーダ(724)は、残差データを空間領域から周波数領域に変換し、変換係数を生成するように構成される。次いで、変換係数は、量子化変換係数を取得するために量子化処理を受ける。様々な実施形態では、ビデオエンコーダ(703)は残差デコーダ(728)も含む。残差デコーダ(728)は、逆変換を実行し、デコーディングされた残差データを生成するように構成される。デコーディングされた残差データは、イントラエンコーダ(722)およびインターエンコーダ(730)によって適切に使用することができる。例えば、インターエンコーダ(730)は、デコーディングされた残差データおよびインター予測情報に基づいてデコーディングされたブロックを生成することができ、イントラエンコーダ(722)は、デコーディングされた残差データおよびイントラ予測情報に基づいてデコーディングされたブロックを生成することができる。デコーディングされたブロックは、デコーディングされたピクチャを生成するために適切に処理され、デコーディングされたピクチャは、メモリ回路(図示せず)にバッファリングされ、いくつかの例では参照ピクチャとして使用することができる。
【0081】
エントロピーエンコーダ(725)は、エンコーディングされたブロックを含めるようにビットストリームをフォーマットするように構成される。エントロピーエンコーダ(725)は、HEVC規格などの適切な規格にしたがって様々な情報を含めるように構成される。一例では、エントロピーエンコーダ(725)は、ビットストリーム内に汎用制御データ、選択された予測情報(例えば、イントラ予測情報またはインター予測情報)、残差情報、および他の適切な情報を含めるように構成される。開示された主題によれば、インターモードまたは双予測モードのいずれかのマージサブモードでブロックをコーディングするとき、残差情報は存在しないことに留意されたい。
【0082】
図8は、本開示の別の実施形態によるビデオデコーダ(810)の図を示す。ビデオデコーダ(810)は、コーディングされたビデオシーケンスの一部であるコーディングされたピクチャを受信し、再構成されたピクチャを生成するためにコーディングされたピクチャをデコーディングするように構成される。一例では、ビデオデコーダ(810)は、図4の例のビデオデコーダ(410)の代わりに使用される。
【0083】
図8の例では、ビデオデコーダ(810)は、図8に示されるように互いに結合されたエントロピーデコーダ(871)、インターデコーダ(880)、残差デコーダ(873)、再構成モジュール(874)、およびイントラデコーダ(872)を含む。
【0084】
エントロピーデコーダ(871)は、コーディングされたピクチャから、コーディングされたピクチャが構成されている構文要素を表す特定のシンボルを再構成するように構成されることが可能である。このようなシンボルは、例えば、(例えば、イントラモード、インターモード、双予測モード、マージサブモードまたは別のサブモードのうちの後者2つなどの)ブロックがコーディングされるモード、それぞれ、イントラデコーダ(872)またはインターデコーダ(880)による予測に使用される特定のサンプルまたはメタデータを識別することができる(例えば、イントラ予測情報またはインター予測情報などの)予測情報、例えば、量子化変換係数の形式の残差情報などを含むことができる。一例では、予測モードがインターモードまたは双予測モードであるとき、インター予測情報はインターデコーダ(880)に提供され、予測タイプがイントラ予測タイプであるとき、イントラ予測情報はイントラデコーダ(872)に提供される。残差情報は逆量子化を受けることができ、残差デコーダ(873)に提供される。
【0085】
インターデコーダ(880)は、インター予測情報を受信し、インター予測情報に基づいてインター予測結果を生成するように構成される。
【0086】
イントラデコーダ(872)は、イントラ予測情報を受信し、イントラ予測情報に基づいて予測結果を生成するように構成される。
【0087】
残差デコーダ(873)は、逆量子化変換係数を抽出するために逆量子化を実行し、残差を周波数領域から空間領域に変換するために逆量子化変換係数を処理するように構成される。残差デコーダ(873)はまた、(量子化パラメータ(QP)を含めるために)特定の制御情報を必要とする場合もあり、その情報は、エントロピーデコーダ(871)によって提供され得る(これは少量の制御情報のみであり得るので、データパスは描かれていない)。
【0088】
再構成モジュール(874)は、空間領域において、残差デコーダ(873)によって出力される残差と(場合によってはインター予測モジュールまたはイントラ予測モジュールによって出力される)予測結果とを組み合わせて、再構成されたピクチャの一部になり得る再構成ブロックを形成するように構成され、再構成されたピクチャは再構成されたビデオの一部になり得る。視覚的品質を改善するために、デブロッキング操作などの他の適切な操作を実行することができることに留意されたい。
【0089】
ビデオエンコーダ(403)、(603)、および(703)、ならびにビデオデコーダ(410)、(510)、および(810)は、任意の適切な技術を使用して実装することができることに留意されたい。一実施形態では、ビデオエンコーダ(403)、(603)、および(703)、ならびにビデオデコーダ(410)、(510)、および(810)は、1つ以上の集積回路を使用して実装することができる。別の実施形態では、ビデオエンコーダ(403)、(603)、および(603)、ならびにビデオデコーダ(410)、(510)、および(810)は、ソフトウェア命令を実行する1つ以上のプロセッサを使用して実装することができる。
【0090】
本開示の態様は、コーディングされたビデオストリームにおける制約フラグを用いた(1つまたは複数の)コーディングツールおよび機能の制御技術を提供する
【0091】
本開示の一態様によれば、ビットストリーム内のピクチャサイズは、同じままであってもよく、または変化してもよい。いくつかの関連する例では、ビデオエンコーダおよびデコーダは、コーディングされたビデオシーケンス(CVS)、ピクチャグループ(GOP)、または同様のマルチピクチャタイムフレームに対して定義され一定のままである、所与のピクチャサイズで動作することができる。MPEG-2などの例では、システム設計は、シーンのアクティビティなどの要因に応じて水平解像度(したがって、画像サイズ)を変更することが知られているが、Iピクチャにおいてのみであり、したがって、ピクチャサイズは、通常はGOPに対して定義され一定のままである。CVS内の異なる解像度を使用するための参照ピクチャの再サンプリングは、例えばITU-T Rec.H.263 Annex Pから知られている。しかしながら、CVS内のピクチャサイズは変化せず、参照ピクチャのみが再サンプリングされ、その結果、(例えば、ダウンサンプリングの場合)ピクチャキャンバスの一部のみが使用されるか、または(例えば、アップサンプリングの場合)シーンの一部のみが使用される可能性がある。H.263 Annex Qなどのいくつかの例では、各次元(例えば、上方または下方)で個々のマクロブロックを2倍だけ再サンプリングすることが可能である。しかしながら、ピクチャサイズは同じままである。マクロブロックのサイズを固定できるとき、例えばH.263において、したがってマクロブロックのサイズはシグナリングされる必要がない。
【0092】
いくつかの関連する例では、予測ピクチャのピクチャサイズは変更することができる。VP9などの例では、参照ピクチャの再サンプリングおよびピクチャ全体の解像度の変更が可能である。いくつかの例(例えば、その全体が本明細書に組み込まれる、Hendryら、「On adaptive resolution change(ARC)for VVC」、Joint Video Team document JVET-M0l35-vl,Jan 9-l9,20l9を含む)では、異なる解像度(例えば、より高い解像度またはより低い解像度)への参照ピクチャ全体の再サンプリングが可能である。異なる候補解像度は、シーケンスパラメータセット(SPS)内でコーディングされることが可能であり、ピクチャパラメータセット(PPS)内でピクチャごとの構文要素によって参照されることが可能である。
【0093】
本開示の一態様によれば、ソースビデオは、異なる解像度などの異なる品質を有する1つ以上の層を含むビットストリームにピクチャをエンコーディングすることができるレイヤードコーディングによって圧縮することができる。ビットストリームは、デコーダ側でどの(1つまたは複数の)層(または層のセット)を出力することができるかを指定する構文要素を有することができる。出力される層のセットは、出力層セットとして定義することができる。例えば、複数の層およびスケーラビリティをサポートするビデオコーデックでは、1つ以上の出力層セットをビデオパラメータセット(VPS)でシグナリングすることができる。ビットストリーム全体または1つ以上の出力層セットのプロファイル階層レベル(PTL)を指定する構文要素は、VPS、いくつかの例ではデコーダ機能情報(DCI)と呼ばれ得るデコーダパラメータセット(DPS)、SPS、PPS、SEIメッセージなどでシグナリングすることができる。PTL情報には、コーディングツールまたは機能の制約を指定可能な汎用制約情報が存在し得る。様々なコーディングツールおよび機能の制約情報を効率的に表し、シグナリングすることが望ましい。
【0094】
いくつかの例では、「サブピクチャ」という用語は、例えば、意味的にグループ化され、変更された解像度で独立してコーディングされ得るサンプル、ブロック、マクロブロック、コーディングユニット、または同様のエンティティの矩形配置を指すために使用することができる。1つ以上のサブピクチャは、ピクチャを形成することができる。1つ以上のコーディングされたサブピクチャは、コーディングされたピクチャを形成することができる。1つ以上のサブピクチャをピクチャに組み立てることができ、1つ以上のサブピクチャをピクチャから抽出することができる。いくつかの例では、1つ以上のコーディングされたサブピクチャは、サンプルレベルにトランスコードすることなく、圧縮された領域内でコーディングされたピクチャに組み立てることができる。いくつかの例では、1つ以上のコーディングされたサブピクチャは、圧縮された領域内のコーディングされたピクチャから抽出することができる。
【0095】
いくつかの例では、例えば参照ピクチャ再サンプリングによって、CVS内のピクチャまたはサブピクチャの解像度の変更を可能にする機構は、適応解像度変更(ARC)と呼ぶことができる。適応解像度変更を実行するために使用される制御情報は、ARCパラメータと呼ぶことができる。ARCパラメータは、フィルタパラメータ、スケーリング係数、出力および/または参照ピクチャの解像度、様々な制御フラグなどを含むことができる。
【0096】
いくつかの例では、ARCのエンコーディング/デコーディングはピクチャ単位であり、したがって、単一の意味的に独立したコーディングされたビデオピクチャをエンコーディング/デコーディングするために、制御情報(ARCパラメータ)のセットが使用される。いくつかの例では、ARCのエンコーディング/デコーディングはサブピクチャ単位であり、したがって、ピクチャ内の複数のサブピクチャを独立したARCパラメータでエンコーディング/デコーディングすることができる。ARCパラメータは、様々な技術を使用してシグナリングすることができることに留意されたい。
【0097】
図9は、本開示のいくつかの実施形態による、ARCパラメータをシグナリングするための技術の例(例えば、オプション)を示す。コーディング効率、複雑さ、およびアーキテクチャは、例によって異なり得る。ビデオコーディング規格または技術は、ARCパラメータをシグナリングするために、例または他の変形例のうちの1つ以上を選択することができる。例は、互いに排他的でなくてもよく、用途の必要性、規格技術、エンコーダの選択などに基づいて交換され得る。
【0098】
本開示の一態様によれば、ARCパラメータは、様々なやり方でARCパラメータのクラスとして提供され得る。いくつかの例では、ARCパラメータのクラスは、X次元およびY次元において別々にまたは組み合わせて、アップサンプルおよび/またはダウンサンプル係数を含む。一例では、アップサンプルおよび/またはダウンサンプル係数を含むテーブルを指すことができる1つ以上の短い構文要素をコーディングすることができる。
【0099】
いくつかの例では、ARCパラメータのクラスは、所与の数のピクチャに対する一定速度のズームインおよび/またはズームアウトを示す、時間次元を追加したアップサンプルおよび/またはダウンサンプル係数を含む。一例では、時間次元を追加したアップサンプルおよび/またはダウンサンプル係数を含むテーブルを指すことができる1つ以上の短い構文要素をコーディングすることができる。
【0100】
いくつかの例では、ARCパラメータのクラスは、組み合わせてまたは別々に、入力ピクチャ、出力ピクチャ、参照ピクチャ、コーディングされたピクチャの、サンプル、ブロック、マクロブロック、CU、または任意の他の適切な粒度の単位でのX次元またはY次元の解像度を含む。いくつかの例では、ビデオコーディングで使用される解像度が2つ以上あり(例えば、一方の解像度は入力ピクチャ用、他方の解像度は参照ピクチャ用)、(一方の解像度に対応する)値のセットは、(他方の解像度に対応する)別の値のセットから推測することができる。値の決定は、例えば、フラグの使用に基づいてゲートすることができる。ゲーティングのためのフラグの使用については、さらなる説明で詳細に記載される。
【0101】
いくつかの例では、ARCパラメータのクラスは、上述のように適切な粒度で、H.263 Annex Pで使用されるものと同様のワープ座標を含む。H.263 Annex Pは、ワープ座標をコーディングするための効率的な方法を定義する。他の効率的な方法を考案することもできる。例えば、Annex Pのワープ座標の可変長可逆的なハフマンスタイルのコーディングは、適切な長さのバイナリコーディングに置き換えることができ、バイナリコードワードの長さは、係数を乗じて最大ピクチャサイズの境界の外側のワーピングを可能にする値でオフセットした最大ピクチャサイズから導出することができる。
【0102】
いくつかの例では、ARCパラメータのクラスは、アップサンプルおよび/またはダウンサンプルフィルタパラメータを含む。一例では、アップサンプリングおよび/またはダウンサンプリングのための単一のフィルタのみが存在する。別の例では、複数のフィルタを使用することができる。いくつかの例では、フィルタパラメータは、フィルタ設計におけるさらなる柔軟性を可能にするためにシグナリングされてもよい。フィルタパラメータは、可能なフィルタ設計のリスト内のインデックスを使用して選択することができる。フィルタは完全に指定されてもよく(例えば、適切なエントロピーコーディング技術を使用して、フィルタ係数のリストを指定することによって)、フィルタは、上記の機構のいずれかにしたがってシグナリングされるアップサンプルまたはダウンサンプル比などによって暗黙的に選択されてもよい。
【0103】
以下の説明では、コードワードを通じてARCパラメータをシグナリングすることを示すために、アップサンプルまたはダウンサンプル係数の有限のセット(X次元およびY次元の両方で使用される同じ係数)が使用される。いくつかの例では、コードワードは、例えば、ビデオコーディング仕様(例えば、H.264およびH.265)における特定の構文要素に対してExt-Golomb符号を使用して、可変長コーディングされる。
【0104】
図10は、アップサンプルまたはダウンサンプル係数、コードワード、およびExt-Golomb符号のマッピングのためのテーブル(1000)の一例を示す。
【0105】
ビデオ圧縮技術または規格で利用可能なアップスケールおよびダウンスケール機構の用途および能力にしたがって、同様のマッピングを考案することができることに留意されたい。いくつかの例では、表1は、追加の値に適切に拡張することができる。値は、例えばバイナリコーディングを使用することによって、Ext-Golomb符号以外のエントロピーコーディング機構によって表され得ることに留意されたい。一例では、Ext-Golomb符号以外のエントロピーコーディング機構は、例えばメディアアウェアネットワーク要素(MANE)によって、再サンプリング係数がビデオ処理エンジン(例えば、エンコーダおよびデコーダ)の外部で関心がある場合、特定の利点を有することができる。いくつかの例では、解像度の変更が必要とされないとき(例えば、元の/目標解像度は表1の1である)、短いExt-Golomb 符号(例えば、表1に示す1ビットのみ)を選択することができ、これは、例えば、最も一般的な場合にバイナリコードを使用するよりもコーディング効率の利点を有することができる。
【0106】
本開示の一態様によれば、表1などのマッピングテーブルが構成可能であり得る。例えば、表1のいくつかのエントリ数および対応するセマンティクスは、完全にまたは部分的に構成可能であり得る。いくつかの例では、マッピングテーブルの基本的な概要は、SPSまたはDPSなどの高レベルパラメータセットで伝達される。代替的または追加的に、いくつかの例では、表1と同様の1つ以上のテーブルは、ビデオコーディング技術または規格で定義されてもよく、テーブルのうちの1つは、例えばSPSまたはDPSを介して選択されてもよい。
【0107】
上記のようにコーディングされたアップサンプルまたはダウンサンプル係数などのARC情報は、ビデオコーディング技術または規格構文に含まれ得る。アップサンプルまたはダウンサンプルフィルタなどの他のクラスのARC情報を制御するために1つ以上のコードワードを使用することができることに留意されたい。いくつかの例では、フィルタまたは他のデータ構造に比較的大量のデータが必要とされる。
【0108】
図9を参照すると、H.263 Annex Pなどの例(910)では、ARC情報(912)は、4つのワープ座標の形式であり得、H.263 PLUSPTYPE(913)ヘッダ拡張などのピクチャヘッダ(911)に含まれる。例(910)は、i)ピクチャヘッダが利用可能なとき、およびii)ARC情報の頻繁な変更が予想されるときに、適用することができる。しかしながら、例(910)に示されるような、H.263スタイルのシグナリングを使用するときのオーバヘッドは高くなる可能性があり、ピクチャヘッダは過渡的な性質であり得るため、スケーリング係数はピクチャ境界の間で適用できない可能性がある。
【0109】
図9を参照すると、JVCET-M135-v1などの例(920)では、ARC参照情報(925)(例えば、インデックス)は、PPS(924)内に配置することができ、目標解像度(例えば、解像度1~3)を含むテーブル(または目標解像度テーブル)(926)を指すことができる。一例では、テーブル(926)はSPS(927)の内部に配置される。テーブル(926)内の目標解像度をSPS(927)に配置することは、機能交換中の相互運用性ネゴシエーションポイントとしてSPSを使用することによって正当化され得る。解像度は、適切なPPS(924)内の参照(例えば、ARC参照情報(925))によって、テーブル(926)内の値(例えば、解像度1~3)の限られたセット内で、あるピクチャから別のピクチャへと変化することができる。
【0110】
図9はまた、ビデオビットストリームでARC情報を伝送するために使用され得る、例(930)、(940)、および(950)などの追加の技術も示す。これらの技術は、同じビデオコーディング技術または規格において、個別に使用されてもよく、または適切に組み合わせて使用することも可能である。
【0111】
図9を参照すると、例(930)では、再サンプリング係数(またはズーム係数)などのARC情報(939)は、スライスヘッダ、GOBヘッダ、タイルヘッダ、タイルグループヘッダなどのヘッダ内に存在し得る。タイルグループヘッダ(938)は、例えば図9に示されている。例(930)によって示される技術は、数ビットの単一の可変長ue(v)または固定長コードワードなどの少数のビットでARC情報(939)をコーディングできるときに使用することができる。
【0112】
本開示の一態様によれば、ヘッダ(例えば、図9のタイルグループヘッダ(938)、スライスヘッダ、またはタイルヘッダ)内にARC情報(939)を直接有することは、ARC情報(939)が、ピクチャ全体ではなく、例えば対応するタイルグループ(またはスライス、タイル)によって表されるサブピクチャに適用可能であり得るという点で、さらなる利点を有し得る。加えて、一例では、ビデオ圧縮技術または規格が、(例えばタイルグループベースの適応解像度変更とは対照的に)ピクチャ全体の適応解像度変更のみを想定している場合であっても、例(930)は、エラー回復力の観点から、例(910)に対して一定の利点を有することができる。
【0113】
図9を参照すると、例(940)では、ARC情報(942)は、PPS、ヘッダパラメータセット、タイルパラメータセット、適応パラメータセット(APS)などのパラメータセット(941)内に存在し得る。APS(941)は、例えば図9に示されている。いくつかの例では、パラメータセット(941)の範囲はピクチャ以下でなくてはならず、例えば、ピクチャ、タイルグループなどであり得る。ARC情報(例えば、ARC情報(942))の使用は、関連するパラメータセット(例えば、APS(941))のアクティブ化によって暗黙的に行われ得る。例えば、ビデオコーディング技術または規格がピクチャベースのARCのみを企図するとき、PPSまたは同等物が適切であり得る。
【0114】
図9を参照すると、例(950)では、ARC参照情報(953)は、上述のように、タイルグループヘッダ(954)または同様のデータ構造(例えば、ピクチャヘッダ、スライスヘッダ、タイルヘッダ、またはGOPヘッダ)内に存在し得る。タイルグループヘッダ(954)は、一例として図9に示されている。ARC参照情報(953)は、例えば、SPS、DPSなどの単一のピクチャを超える範囲を有するパラメータセット(956)内で利用可能なARC情報(955)のサブセットを参照することができる。SPS(956)は、一例として図9に示されている。
【0115】
図11は、本開示のいくつかの実施形態にしたがってシグナリングするARCパラメータのいくつかの例を示す。図11は、ビデオコーディング標準で使用される構文図の例を示す図である。一例では、構文図の表記は、大まかにCスタイルのプログラミングに従う。太字の線は、ビットストリームに存在する構文要素を示すことができ、太字でない線は、(1つまたは複数の)制御フローまたは変数の設定を示すことができる。
【0116】
図11を参照すると、タイルグループヘッダ(1101)は、ピクチャの一部(例えば、矩形部分)に適用可能なヘッダの構文構造を含む。一例では、タイルグループヘッダ(1101)は、条件付きで、可変長のExp-Golombコーディング構文要素dec_pic_size_idx(1102)(太字で示す)を含むことができる。タイルグループヘッダ(1101)内の構文要素(例えば、dec_pic_size_idx(1102))の存在は、例えば、フラグ(例えば、adaptive_pic_resolution_change_flag)(1103)で表される適応解像度に基づいてゲートすることができる。フラグ(例えば、adaptive_pic_resolution_change_flag)(1103)の値は太字では示されておらず、したがって、フラグは、構文図においてフラグが発生する点においてビットストリーム内に存在する。適応解像度がピクチャまたはピクチャの一部に使用されているかどうかは、ビットストリームの内部または外部の高レベル構文構造(例えば、図11のSPS(1110))でシグナリングすることができる。
【0117】
図11を参照すると、SPS(1110)の抜粋が示されている。SPS(1110)は、フラグ(1111)(例えば、adaptive_pic_resolution_change_flag)である第1の構文要素(1111)を含む。フラグ(1111)が真であるとき、フラグ(1111)は、特定の制御情報を必要とし得る適応解像度の使用を示すことができる。一例では、特定の制御情報は、SPS(1110)およびタイルグループヘッダ(1101)内のif()文(1112)によって示されるように、フラグ(1111)の値に基づいて条件付きで存在する。
【0118】
図11の例に示すように、適応解像度が使用されているとき、サンプル単位の出力解像度(または出力ピクチャの解像度)(1113)をコーディングすることができる。一例では、出力解像度(1113)は、幅解像度(例えば、output_pic_width_in_luma_samples)および高さ解像度(例えば、output_pic_height_in_luma_samples)に基づいてコーディングされる。ビデオコーディング技術または規格では、出力解像度(1113)の(1つまたは複数の)値に対する特定の制限を定義することができる。例えば、レベル定義は、総出力サンプル数(例えば、output_pic_width_in_luma_samplesとoutput_pic_height_in_luma_samplesとの積)を制限することができる。いくつかの例では、ビデオコーディング技術または規格、もしくは外部の技術または規格(例えば、システム規格)は、幅解像度および/または高さ解像度の付番範囲(例えば、幅解像度および/または高さ解像度は2の累乗で割り切れる)、高さ解像度に対する幅解像度のアスペクト比(例えば、高さ解像度に対する幅解像度の比は4:3または16:9である)などを制限することができる。一例では、ハードウェア実装を容易にするために上記の制限を導入することができる。
【0119】
特定の用途では、エンコーダは、サイズが出力ピクチャサイズであると暗黙的に仮定するのではなく、特定の参照ピクチャサイズを使用するようにデコーダに指示することができる。例えば、構文要素(例えば、reference_pic_size_present_flag)(1114)は、参照ピクチャ寸法(1115)の条件付き存在をゲートする。参照ピクチャ寸法(1115)は、一例として、幅(例えば、reference_pic_width_in_luma_samples)および高さ(例えば、reference_pic_height_in_luma_samples)の両方を含むことができる。
【0120】
図11にも、適用可能なデコーディングピクチャの幅および高さのテーブルが示されている。一例では、テーブル内のエントリの数は、テーブル表示(例えば、構文要素num_dec_pic_size_in_luma_samples_minus1)(1116)で表すことができる。「minus1」は、構文要素(1116)の値の解釈を指すことができる。例えば、コーディングされた値がゼロである場合には、1つのテーブルエントリが存在する。コーディングされた値が5である場合には、6つのテーブルエントリが存在する。テーブル内の各エントリについて、デコーディングされたピクチャの幅および高さが構文要素(1117)として含まれる。
【0121】
構文要素(1117)によって表されるテーブルエントリは、タイルグループヘッダ(1101)内の構文要素dec_pic_size_idx(1102)を使用してインデックス付けすることができ、したがって、タイルグループごとに異なるデコーディングされたサイズおよびズーム率を可能にする。
【0122】
本開示の一態様によれば、特定のビデオコーディング技術または規格(例えば、VP9)は、時間スケーラビリティと併せて特定の形式の参照ピクチャ再サンプリングを実装することによって、空間スケーラビリティを可能にすることができる。一実施形態では、参照ピクチャは、空間拡張層のベースを形成するために、ARCスタイルの技術を使用してより高い解像度にアップサンプリングされる。アップサンプリングされたピクチャは、例えば詳細を追加するために、高解像度で通常の予測機構(例えば、参照ピクチャからのインター予測のための動き補償予測)を使用して改良され得る。
【0123】
いくつかの例では、ネットワーク抽象化層(NAL)ユニットヘッダ、例えば時間IDフィールド内の値は、時間層情報および空間層情報を示すために使用される。時間層情報および空間層情報の両方を示すためにNALユニットヘッダ内の値を使用することにより、修正なしでスケーラブル環境のための既存の選択された転送ユニット(SFU)の使用を可能にすることができる。例えば、既存のSFUは、NALユニットヘッダの時間ID値に基づいて、時間層で選択された転送のために作成および最適化することができる。次いで、いくつかの例では、既存のSFUは、修正なしで空間スケーラビリティ(例えば、空間層の選択)のために使用することができる。いくつかの例では、コーディングされたピクチャサイズと、NALユニットヘッダ内の時間IDフィールドによって示される時間層との間にマッピングを提供することができる。
【0124】
本開示の一態様によれば、コーディングされたビットストリームのいくつかの機能は、プロファイル、階層、レベル、および汎用制約情報を含むプロファイル、階層、およびレベルの組合せ(PTL)情報を使用して指定することができる。いくつかの例では、プロファイルは、色再現、解像度、追加のビデオ圧縮など、ビットストリームの機能のサブセットを定義する。ビデオコーデックは、ベースラインプロファイル(例えば、低圧縮比の単純なプロファイル)、高プロファイル(高圧縮比の複雑なプロファイル)、Mainプロファイル(例えば、ベースラインプロファイルと高圧縮比との間の中程度の圧縮比を有するプロファイルをデフォルトプロファイル設定とすることができる)など、様々なプロファイルを定義することができる。
【0125】
さらに、階層およびレベルは、最大ビットレート、最大ルマサンプルレート、最大ルマピクチャサイズ、最小圧縮比、許容されるスライスの最大数、許容されるタイルの最大数などに関してビットストリームを定義する特定の制約を指定するために使用することができる。下位階層は上位階層よりも制約され、下位レベルは上位レベルよりも制約される。一例では、規格は、MainおよびHighの2つの階層を定義することができる。Main階層は、High階層よりも下位階層である。階層は、その最大ビットレートに関して異なるアプリケーションを扱うために作成される。一例では、Main階層は、ほとんどのアプリケーション向けに設計されているが、High階層は、非常に要求の厳しいアプリケーション向けに設計されている。規格は、複数のレベルを定義することができる。レベルは、ビットストリームに対する制約のセットである。一例では、レベル4を下回るレベルにおいて、Main階層のみが許容される。いくつかの例では、所与の階層/レベルに準拠するデコーダは、その階層/レベルまたはすべての下位階層/レベルについてエンコーディングされたすべてのビットストリームをデコーディングすることができる必要がある。
【0126】
汎用制約情報は、ビデオソースタイプ、コーディングツール、および機能に対する制約情報を含むことができる。例えば、制約フラグは、インターコーディングツール、イントラコーディングツール、DBF、エントロピーコーディング、変換、分割(例えば、タイル、スライス)、バッファ管理、ランダムアクセス(例えば、IDR)、パラメータセット(例えば、SPS、PPS)などが、コーディングされたビデオビットストリーム内に存在するか、または使用されるかを示すことができる。制約情報は、パラメータセット(例えば、SPS、VPS、またはDCI)でシグナリングすることができる。制約フラグは、高レベル構文構造(例えば、SPS、VPS、DCI)でシグナリングすることができる。
【0127】
本開示のいくつかの態様によれば、PTL情報は、範囲(例えば、ビットストリーム内のコーディングされたビデオデータの一部)と関連付けることができる。いくつかの例では、PTL情報は、例えば、ビットストリーム全体、ビットストリームのCVS、ビットストリームの各出力層セット(OLS)などのために指定することができ、VPS、DPS、DCI、SPS、PPS、APS、GOP、シーケンス、ヘッダ、SEIメッセージなどの高レベル構文(HLS)構造でシグナリングすることができる。
【0128】
いくつかの例では、高レベル構文(HLS)は、ブロックレベルに関して定義される。ブロックレベルコーディングツールは、ピクチャを再構成するためにピクチャ内でピクセルまたはサンプルをデコーディングするために使用することができる。ブロックレベルコーディングツールは、インター予測のためのコーディングツール(またはインターコーディングツール)、イントラ予測のための(1つまたは複数の)コーディングツール(またはイントラコーディングツール)、適応ループフィルタ(ALF)、デブロッキングフィルタ(DBF)、エントロピーコーディング、変換など、コーディングブロックの再構成で使用される任意の適切なコーディングツールを含むことができる。
【0129】
高レベル構文(HLS)は、機能、システムインターフェース、ツールのピクチャレベル制御およびバッファ制御などに関する情報を指定することができる。例えば、HLSは、分割(例えば、タイル、スライス、サブピクチャ)、バッファ管理、ランダムアクセス(例えば、IDR、クリーンランダムアクセス(CRA))、(1つまたは複数の)パラメータセット(例えば、VPS、SPS、PPS、APS)、参照ピクチャ再サンプリング(RPR)、スケーラビリティなどを指定することができる。高レベル構文は、ブロックレベルを上回ることができる。
【0130】
制御情報は、SPSレベルツール制御情報、PPSレベルツール制御情報、シーケンスレベル制御情報、ビットストリームレベル制御情報などの適切なレベルを有することができる。いくつかの例では、PTL情報は制御情報の一部であり、HLS構造内の制約フラグとしてシグナリングすることができ、HLS構造に対応する範囲内のツールの制御または制約を示すことができる。例えば、PTL情報のための制約フラグは、シーケンスレベル制御情報およびビットストリームレベル制御情報の一方において提供することができる。一例では、特定のツールがHLS構造内の制約フラグによって無効にされる場合、ツールは、例えば、HLSに対応する範囲内のブロックをコーディングするために使用されない。
【0131】
図12および図13は、本開示のいくつかの実施形態によるPTL情報の一例を示す。図12はPTL構文要素のセットの構文構造例(1200)を示し、図13は汎用制約情報の構文構造例(1300)を示す。
【0132】
図12では、PTL構文要素のセットは、general_profile_idc、general_tier_flag、general_level_idc、num_sub_profiles、general_sub_profile_idc、sublayer_level_present_flag、ptl_alignment_0_bit、およびsublayer_level_idcを含むことができる。
【0133】
図13では、汎用制約情報は、複数の制約フラグを含むことができる。一例では、1に等しい制約フラグ(例えば、intra_only_constraint_flag)(1305)は、パラメータsh_slice_typeがIである(すなわち、スライスがイントラスライスである)ことを示すことができる。パラメータsh_slice_typeは、I、P、およびBの間のスライスのコーディングタイプを指定するスライスヘッダ内のパラメータである。0に等しい制約フラグ(例えば、intra_only_constraint_flag)(1305)は、他の情報(例えば、profile_idc)が非イントラスライスを許容し得るPTL情報の範囲内のすべてのコーディングされたピクチャに対して制約(例えば、sh_slice_typeはIとする)を課さない。別の例では、1に等しい制約フラグ(例えば、no_alf_constraint_flag)(1306)は、PTL情報の範囲内のすべてのCVSについてsps_alf_enabled_flagが0に等しいことを示すことができ、したがって、例えばprofile_idcに基づいて適応ループフィルタリングが許可されても、適応ループフィルタリングは使用されない。0に等しい制約フラグ(例えば、no_alf_constraint_flag)(1306)は、上記の制約を課さない。
【0134】
別の例では、図13に示すように、制約フラグ(例えば、no_lossless_coding_tool_constraint_flag)(1301)は、汎用制約情報でシグナリングすることができる。1に等しい制約フラグ(例えば、no_lossless_coding_tool_constraint_flag)(1301)は、制約フラグ(1301)を含むPTL情報の範囲内で、可逆コーディングに関する(1つまたは複数の)コーディングツールを使用することができないことを示すことができる。0に等しい制約フラグ(例えば、no_lossless_coding_tool_constraint_flag)(1301)は、上記の制約を課さない。
【0135】
別の例では、図13に示すように、制約フラグ(例えば、no_lossy_coding_tool_constraint_flag)(1302)は、汎用制約情報でシグナリングすることができる。1に等しい制約フラグ(例えば、no_lossy_coding_tool_constraint_flag)(1302)は、制約フラグ(1302)を含むPTL情報の範囲内で、非可逆コーディングに関する(1つまたは複数の)コーディングツールを使用することができないことを示すことができる。0に等しい制約フラグ(例えば、no_lossy_coding_tool_constraint_flag)(1302)は、上記の制約を課さない。
【0136】
一実施形態では、制約フラグ(例えば、no_lossy_coding_tool_constraint_flag)(1302)が1に等しいとき、制約フラグ(例えば、no_lossless_coding_tool_constraint_flag)(1301)は1に等しくないことがある。あるいは、制約フラグ(例えば、no_lossless_coding_tool_constraint_flag)(1301)が1に等しいとき、制約フラグ(例えば、no_lossy_coding_tool_constraint_flag)(1302)は1に等しくないことがある。
【0137】
汎用制約情報内の複数の制約フラグは、特定の順序でソートすることができる。順序は、例えば、PTLの範囲で使用されていないそれぞれの機構および/またはツールの尤度に基づいて設定することができる。この順序は、優先順位と呼ぶことができる。汎用制約情報構文構造において、高い優先度から低い優先度までの順序を提示することができ、高い優先度は、ツール(または機構)の不使用の尤度が高いことを示し、低い優先度は、ツール(または機構)の不使用の尤度が低いことを示す。順序に影響を与える追加の要因は、特定のユースケース(例えば、サブピクチャ、スケーラビリティ、および/またはインタレースのサポートのためのツール)にのみ使用される可能性が高いツール、エンコーダ/デコーダ/実装の複雑さに対するツールの影響などを含むことができる。
【0138】
図14A図14Bは、本開示のいくつかの実施形態による、PTL構文構造の構文構造例(1410)(PTLブラケットとも呼ばれる)および汎用制約情報構文構造のための構文例(1420)(汎用制約情報ブラケットとも呼ばれる)を含むPTL情報の例を示す。いくつかの例では、制約フラグの数(例えば、num_available_constraint_flags)を示す構文要素をシグナリングすることができる。一例では、制約フラグの数を示す構文要素は、汎用制約情報ブラケットの構文例(1420)の外部にあり得る図14Aに示されるような構文例(1410)において(1401)で示されるように、PTL構文構造でシグナリングすることができる。あるいは、制約フラグの数を示す構文要素は、構文例(1420)の先頭など、汎用制約情報ブラケットの先頭でシグナリングすることができる。構文要素(例えば、num_available_constraint_flags)が存在し、構文要素(例えば、num_available_constraint_flags)の値がNに等しいとき、最初のN子の制約フラグは、汎用制約情報構文構造内に存在し得る。さらに、他の制約フラグは存在しなくてもよく、特定の値に等しいと推測することができる。Nは負でない整数であり得る。
【0139】
一実施形態では、値N(例えば、num_available_constraint_flags)は、0から制約フラグの最大数(例えば、パラメータMaxNumConstraintFlagsの値)までの範囲にある。制約フラグの最大数は、任意の正の整数とすることができる。制約フラグの最大数(例えば、MaxNumConstraintFlags)の値は、16、32、64、128などであるように事前定義することができる。値N(例えば、num_available_constraint_flags)が0に等しいとき、汎用制約情報構文構造には制約フラグは存在しない。値N(例えば、num_available_constraint_flags)のコーディングは、バイトアライメントを保証するために、値Nと制約フラグに対応するエントロピーコーディング表現を合計して8で割り切れる数になるように選択することができる。
【0140】
いくつかの例では、制約フラグは、1つ以上の制約情報グループに分類することができる。各制約情報グループは、1つ以上の制約フラグを含むことができ、対応するゲートフラグを有することができる。対応する制約情報グループのゲートフラグは、対応する制約情報グループ内の(1つまたは複数の)制約フラグが存在し得るかどうかを示すことができる。一例では、ゲートフラグは、制約グループ存在フラグと呼ぶことができる。一般に、ゲートフラグは、対応する制約情報グループに関連付けられており、対応する制約情報グループ内の(1つまたは複数の)制約フラグに関連付けられている。一実施形態では、ゲートフラグは、対応する制約情報グループ内の(1つまたは複数の)制約フラグが制約情報内に存在する(またはシグナリングされる)かどうかをゲートする。例えば、対応する制約情報グループのゲートフラグが1であれば、制約情報グループに対応する(1つまたは複数の)制約フラグが例えば汎用制約情報内に存在し得る。例えば、対応する制約情報グループのゲートフラグが0であれば、制約情報グループに対応する(1つまたは複数の)制約フラグが例えば汎用制約情報内に存在しないことがある。一例では、すべてのゲートフラグが0に等しい場合、制約フラグは存在しない。
【0141】
制約フラグは異なる範囲を有することができる。例えば、DCI内の制約フラグの範囲は、コーディングされたビデオビットストリームとすることができる。VPSにおける制約フラグの範囲は、複数の層を有するCLVSとすることができる。SPS内の制約フラグの範囲は、単一のCLVSとすることができる。
【0142】
図15A図15Bは、本開示の一実施形態による汎用制約情報構文構造(1500)の一例を示す。汎用制約情報構文構造(1500)は、汎用制約情報を表すフラグを含む。具体的には、汎用制約情報構文構造(1500)は、図15Aのゲートフラグ(例えば、general_frame_structure_constraint_group_flag)(1501)、ゲートフラグ(例えば、high_level_functionality_constraint_group_flag)(1502)、ゲートフラグ(例えば、scalability_constraint_group_flag)(1503)、ゲートフラグ(例えば、partitioning_constraint_group_flag)(1504)、ゲートフラグ(例えばintra_coding_tool_constraint_group_flag)(1505)、ゲートフラグ(例えば、inter_coding_tool_constraint_group_flag)(1506)、ゲートフラグ(例えば、transfom_contraint_group_flag)(1507)、ゲートフラグ(例えば、inloop_filtering_constraint_group_flag)(1508)などの1つ以上のゲートフラグを含む。図15Aに示すように、1つ以上のゲートフラグ(例えば、ゲートフラグ(1501)~(1508))は、汎用制約情報構文構造(1500)の先頭に存在することができる。
【0143】
ゲートフラグ(例えば、general_frame_structure_constraint_group_flag)(1501)は、制約情報グループ(1510)に関連付けられており、制約情報グループ(1510)内にある制約フラグ(1511)~(1514)に関連付けられている。1に等しいゲートフラグ(例えば、general_frame_structure_constraint_group_flag)(1501)は、制約情報グループ(1510)内にある制約フラグ(1511)~(1514)が存在し得ることを指定することができる。
【0144】
制約情報グループ(1510)(または制約フラグ(1511)~(1514))は、入力ソースおよびフレームパッキング(例えば、パックドフレームまたはプロジェクテッドフレーム)に関連付けることができる。図15Aを参照すると、制約フラグ(1511)~(1514)は、general_non_packed_constraint_flag(1511)、general_frame_only_constraint_flag(1512)、general_non_projected_constraint_flag(1513)、およびgeneral_one_picture_only_constraint_flag(1514)に対応する。そうでなければ、ゲートフラグ(例えば、general_frame_structure_constraint_group_flag)(1501)が0に等しいことは、制約情報グループ(1510)内にある制約フラグ(1511)~(1514)が汎用制約情報構文構造(1500)内に存在しない可能性があることを指定し得る。
【0145】
さらに、いくつかの例では、ゲートフラグ(例えば、high_level_functionality_constraint_group_flag)(1502)が1に等しいことは、図15Bによって示されるように、制約情報グループ(1520)内にある高レベル機能(例えば、参照ピクチャ再サンプリング)に関連する制約フラグが存在し得ることを指定することができる。そうでなければ、ゲートフラグ(例えば、high_level_functionality_constraint_group_flag)(1502)が0に等しいことは、制約情報グループ(1520)内にある制約フラグが汎用制約情報構文構造(1500)内に存在しない可能性があることを指定することができる。
【0146】
再び図15Aを参照すると、ゲートフラグ(例えば、scalability_constraint_group_flag)(1503)が1に等しいことは、スケーラビリティ(例えば、層間予測)に関する(1つまたは複数の)制約フラグが存在し得ることを指定することができる。そうでなければ、スケーラビリティに関する(1つまたは複数の)制約フラグは、汎用制約情報構文構造(1500)内に存在しなくてもよい。
【0147】
ゲートフラグ(例えば、partitioning_constraint_group_flag)(1504)が1に等しいことは、高レベル分割(例えば、サブピクチャまたはタイル)に関する(1つまたは複数の)制約フラグが存在し得ることを指定することができる。そうでなければ、高レベル分割に関する制約フラグは、汎用制約情報構文構造(1500)内に存在しなくてもよい。
【0148】
ゲートフラグ(例えば、intra_coding_tool_constraint_group_flag)(1505)が1に等しいことは、イントラコーディング(例えば、イントラ予測)に関する(1つまたは複数の)制約フラグが存在し得ることを指定することができる。そうでなければ、イントラコーディングに関する(1つまたは複数の)制約フラグは、汎用制約情報構文構造(1500)内に存在しなくてもよい。
【0149】
ゲートフラグ(例えば、inter_coding_tool_constraint_group_flag)(1506)が1に等しいことは、インターコーディング(例えば、インターピクチャ予測のための動き補償)に関する(1つまたは複数の)制約フラグが存在し得ることを指定することができる。そうでなければ、インターコーディングに関する制約フラグは、汎用制約情報構文構造(1500)内に存在しなくてもよい。
【0150】
ゲートフラグ(例えば、transfom_contraint_group_flag)(1507)が1に等しいことは、変換コーディング(例えば、複数の変換行列)に関する(1つまたは複数の)制約フラグが存在し得ることを指定することができる。そうでなければ、変換コーディングに関する制約フラグは、汎用制約情報構文構造(1500)内に存在しなくてもよい。
【0151】
一実施形態では、すべてのゲートフラグ(例えば、図15Aのゲートフラグ(1501)~(1508))が0であるとき、汎用制約情報構文構造(例えば、汎用制約情報構文構造(1500))内に制約フラグは存在しない。
【0152】
本開示の態様によれば、構文は、ゲートフラグ(例えば、ゲートフラグ(1501)~(1508))、関連する制約フラグ(例えば、制約フラグ(1511)~(1512)および制約情報グループ(1520)内の制約フラグ)、追加の制御情報などを含む制御情報がバイトアライメントできるように、例えばバイトアライメントを維持するためにフラグの数が8で割り切れるように、設計することができる。一例では、制約情報(例えば、汎用制約情報構文構造(1500))内のゲートフラグおよび制約フラグの数は、8で割り切れる。バイトアライメント機構は、制御情報のバイトアライメントを達成するために使用することができる。図15Bを参照すると、バイトアライメントに構文(例えば、whileループ)(1530)を使用することができる。
【0153】
いくつかの実施形態では、制約情報内の(1つまたは複数の)ゲートフラグに関連付けられたそれぞれの(1つまたは複数の)制約情報グループ内の(1つまたは複数の)制約フラグを表すのを支援するために、(例えば、構文要素constraint_info_offset[]を使用する))オフセットなどのオフセット情報および(例えば、構文要素constraint_info_length[]を使用する)長さなどの長さ情報が制約情報内に(例えば、汎用制約情報構文構造の先頭に)存在する。一実施形態では、少なくとも1つの制約情報グループの1つ以上が、コーディングされたビデオビットストリーム内に存在する。制約情報グループについては、オフセットおよび長さが制約情報グループの制約情報内に存在することができる。オフセットは、制約情報グループ内の第1の制約フラグに対するオフセットを示すことができ、長さは、制約情報グループ内の制約フラグの数を示すことができる。いくつかの例では、制約情報グループの数は、例えば、構文要素num_constraint_info_setによって明示的に示すことができる。num_constaint_info_setの値は、0以上の整数とすることができる。num_constaint_info_setの値が0であるとき、constraint_info_offset[]、constraint_info_length[]および制約フラグは汎用制約情報構文構造内に存在しない。
【0154】
一実施形態では、制約情報オフセット(例えば、構文要素constraint_info_offset[i])および制約情報長(例えば、構文要素constraint_info_length[i])は、制約情報(例えば、汎用制約情報構文構造)内の制約情報グループi(iは正の整数)について制約フラグを表すのを支援することができる。一例では、制約情報オフセット(例えば、構文要素constraint_info_offset[i])の値が5に等しく、制約情報長(例えば、構文要素constraint_info_length[i])の値が3に等しいとき、第5、第6、および第7の制約フラグは、制約情報グループiに関連付けられており、制約情報(例えば、汎用制約情報構文構造)内に存在する。
【0155】
一例では、所定の順序(または所与の順序)で指定された制約フラグをコーディングするために、ランレングスコーディングを使用することができる。
【0156】
一実施形態では、制約フラグが所定の順序(または所与の順序)で指定されるときにランコーディングを使用することができる。制約フラグを直接コーディングする代わりに、「スキップ」値の適切にコーディングされたリストは、0に等しい制約フラグを示すことができ、以下の制約フラグは1に等しいと暗示される。上記のランコーディングは、(i)制約フラグの数が多く、(ii)制約フラグのわずかな割合が1に等しい場合に、特に効率的であり得る。
【0157】
一実施形態では、少なくとも1つの制約情報グループの1つ以上が、コーディングされたビデオビットストリーム内に存在する。少なくとも1つの制約情報グループのうちの1つ以上における複数の制約フラグは、所定の順序にしたがってシグナリングされる。これにより、複数の制約フラグをランコーディング(例えば、ランエンコーディングまたはランデコーディング)することができる。さらに、コーディングブロックのサブセットの予測情報は、複数の制約フラグに基づいて決定することができる。
【0158】
一実施形態では、ゲートフラグの制約情報グループ内の少なくとも1つの制約フラグは、所定の順序にしたがってシグナリングされる複数の制約フラグを含む。これにより、複数の制約フラグをランコーディング(例えば、ランエンコーディングまたはランデコーディング)することができる。
【0159】
一実施形態では、制約フラグの完全なリストは、ビデオコーディング規格(例えば、VVC仕様)、外部テーブルなどで指定することができる。一例では、制約フラグのうちの利用可能な(1つまたは複数の)制約フラグのみが、例えば、以下の1つまたは複数によって示され、利用可能な制約フラグの数(例えば、num_available_constraint_flags)、(1つまたは複数の)ゲートフラグ(または(1つまたは複数の)制約グループ存在フラグ)、制約情報オフセット情報、および制約情報長情報などがコーディングされたビデオストリーム内に存在する。
【0160】
一例では、制約フラグの完全なリストが指定され、エンコーダおよびデコーダで利用可能である。制約フラグの完全なリストは、デコーダに記憶することができる。制約フラグの完全なリストは、100個の制約フラグを含むことができる。100個の制約フラグのうちの10個は、CLVSの制約情報内に存在し、したがって、CLVS内のコーディングブロックのサブセットで利用可能である。100個の制約フラグのうちの10個は、10個の使用可能な制約フラグと呼ばれる。一例では、利用可能な制約フラグの数(例えば、10)がシグナリングされる。一例では、10個の利用可能な制約フラグは、2つの制約情報グループ内にあり、第1のゲートフラグおよび第2のゲートフラグによってゲートされる。したがって、第1のゲートフラグおよび第2のゲートフラグは、10個の利用可能な制約フラグを示すようにシグナリングすることができる。
【0161】
一例では、第1の制約情報オフセット(例えば、構文要素constraint_info_offset[0])および第1の制約情報長(例えば、構文要素constraint_info_length[0])がシグナリングされる。第2の制約情報オフセット(例えば、構文要素constraint_info_offset[1])および第2の制約情報長(例えば、構文要素constraint_info_length[1])がシグナリングされる。例えば、構文要素constraint_info_offset[0]は15であり、構文要素constraint_info_length[0]は3であり、構文要素constraint_info_offset[1]は82であり、構文要素constraint_info_length[1]は7であり、したがって、完全なリスト(例えば、100個の制約フラグ)の15番目から17番目の制約フラグおよび82番目から88番目の制約フラグが利用可能であるか、または制約情報内に存在することを示す。
【0162】
一実施形態では、適切な制御情報を使用して、制約フラグの効率的なコーディングのための様々な技術(または方法、実施形態、実施例)のいずれかを組み合わせることができる。組合せは、このような技術の2つ以上の適切な組合せであり得る。あるいは、様々な技術(または方法、実施形態、実施例)のうちの1つを独立して使用することができる。制約フラグはグループ化することができる。(1つまたは複数の)特定のグループでは、ランコーディングを使用することができるが、(1つまたは複数の)他のグループは、単純なバイナリコーディングを使用することができる。
【0163】
制約フラグの最大数(例えば、MaxNumConstraintFlags)の値は、16、32、64、128などであるように事前定義することができる。
【0164】
制約フラグの最大数(例えば、MaxNumConstraintFlags)の値は、general_profile_idcまたはgeneral_sub_profile_idcなどのプロファイル情報、あるいはコーデックバージョン情報によって決定することができるので、プロファイル情報またはバージョン情報によって制約フラグ(例えば、num_available_constraint_flags(1401))の数の範囲を制限することができる。例えば、メインプロファイル内の制約フラグの数(例えば、num_available_constraint_flags(1401))の値(例えば、MaxNumConstraintFlags=64の場合)は、0から64の範囲内とすることができ、一方、高度プロファイル内の制約フラグの数(例えば、num_available_constraint_flags(1401))の値(例えば、MaxNumConstraintFlags=128の場合)は、0から128の範囲内とすることができる。
【0165】
一実施形態では、制約フラグの数(例えば、num_available_constraint_flags)の値は、num_available_constraint_flagsの値が明示的にシグナリングすることなく決定できるように、general_profile_idcもしくはgeneral_sub_profile_idcなどのプロファイル情報またはコーデックバージョン情報によって事前定義された値に等しいと推測することができる。
【0166】
いくつかの実施形態では、予約バイト情報は、汎用制約情報構文構造内に存在することができる。例えば、図13に示すように、フラグgci_num_reserved_bytes(1303)およびgci_reserved_bytes[](1304)は、汎用制約情報構文構造の拡張のために汎用制約情報構文構造内に存在することができる。フラグgci_num_reserved_bytesは、予約された制約バイトの数を指定することができる。一例では、予約された制約バイトは、追加のフラグ(例えば、追加の制約フラグ)をシグナリングするためのものである。フラグgci_reserved_byte[ ]は、任意の適切な値を有することができる。
【0167】
一実施形態では、gci_num_reserved_bytesの値は、general_profile_idcもしくはgeneral_sub_profile_idcなどのプロファイル情報、またはコーデックバージョン情報によって制限または決定され得る。基本プロファイル(またはメインプロファイル)では、フラグgci_num_reserved_bytesの値は0とすることができる。拡張プロファイル(または高度プロファイル)では、gci_num_reserved_bytesの値は0より大きくすることができる。
【0168】
いくつかの実施形態では、フィールドシーケンスフラグは、コーディングされたビデオビットストリームでシグナリングすることができる。フィールドシーケンスフラグは、出力層内のピクチャがフィールドコーディングでコーディングされているかどうかを示すことができる。いくつかの例では、フィールドシーケンスフラグは、構文要素sps_field_seq_flagを使用して、SPSでシグナリングすることができる。一実施形態では、フラグsps_field_seq_flagは、SPSに存在し得る。フラグsps_field_seq_flagが1に等しいことは、CLVSがフィールドを表すピクチャを搬送することを示すことができる。フラグsps_field_seq_flagが0に等しいことは、CLVSがフレームを表すピクチャを搬送することを示すことができる。
【0169】
図13の汎用制約情報構文構造には、フラグgeneral_frame_only_constraint_flagが存在し得る。フラグgeneral_frame_only_constraint_flagが1に等しいことは、出力層セットの範囲(例えば、OlsInScope)がフレームを表すピクチャを搬送することを指定することができる。フラグgeneral_frame_only_constraint_flagが0に等しいことは、出力層セットの範囲(例えば、OlsInScope)が、フレームを表しても表さなくてもよいピクチャを搬送することを指定する。一実施形態では、フラグgeneral_frame_only_constraint_flagは、出力層セット内のピクチャがフィールドコーディングでコーディングされているかどうかを示す。出力層セットは、コーディングブロックのサブセットを含むことができる。フラグsps_field_seq_flagは、ピクチャのサブセットがフィールドコーディングでコーディングされていないことを示すフラグgeneral_frame_only_constraint_flag(例えば、1である)に基づいて、偽とすることができる。ピクチャのサブセットは、出力層セットの1つの層内にあり得る。
【0170】
フラグgeneral_frame_only_constraint_flagが1に等しいとき、フラグsps_field_seq_flagの値は0に等しくてもよい。
【0171】
一実施形態では、フラグpps_mixed_nalu_types_in_pic_flagは、PPS内に存在し得る。フラグpps_mixed_nalu_types_in_pic_flagが1に等しいことは、PPSを参照する各ピクチャが2つ以上のVCL NALユニットを有し、VCL NALユニットがnal_unit_typeと同じ値を有していないことを指定することができる。フラグpps_mixed_nalu_types_in_pic_flagが0に等しいことは、PPSを参照する各ピクチャが1つ以上のVCL NALを有し、PPSを参照する各ピクチャのVCL NALユニットがnal_unit_typeと同じ値を有することを指定することができる。図13の汎用制約情報構文構造には、フラグno_mixed_nalu_types_in_pic_constraint_flagが存在し得る。フラグno_mixed_nalu_types_in_pic_constraint_flagが1に等しいことは、pps_mixed_nalu_types_in_pic_flagの値が0に等しいことを指定することができる。フラグno_mixed_nalu_types_in_pic_constraint_flagが0に等しいことは、このような制約を課さない。
【0172】
一実施形態では、フラグgeneral_one_picture_only_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。general_one_picture_only_constraint_flagが1に等しいことは、ビットストリーム内にコーディングされたピクチャが1つしかないことを指定することができる。フラグgeneral_one_picture_only_constraint_flagが0に等しいことは、このような制約を課さない。
【0173】
一実施形態では、フラグsingle_layer_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグsingle_layer_constraint_flagが1に等しいことは、sps_video_parameter_set_idが0に等しいことを指定することができる。フラグsingle_layer_constraint_flagが0に等しいことは、このような制約を課さない。フラグgeneral_one_picture_only_constraint_flagが1に等しいとき、フラグsingle_layer_constraint_flagの値は1に等しくてもよい。
【0174】
一実施形態では、フラグall_layers_independent_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグall_layers_independent_constraint_flagが1に等しいことは、フラグvps_all_independent_layers_flagが1に等しくてもよいことを指定することができる。フラグall_layers_independent_constraint_flagが0に等しいことは、このような制約を課さない。フラグsingle_layer_constraint_flagが1に等しいとき、フラグall_layers_independent_constraint_flagの値は1に等しくてもよい。
【0175】
一実施形態では、フラグno_res_change_in_clvs_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_res_change_in_clvs_constraint_flagが1に等しいことは、フラグsps_res_change_in_clvs_allowed_flagが0に等しくてもよいことを指定することができる。フラグno_res_change_in_clvs_constraint_flagが0に等しいことは、このような制約を課さない。フラグno_ref_pic_resampling_constraint_flagを1にすると、フラグno_res_change_in_clvs_constraint_flagは1に等しくてもよい。
【0176】
一実施形態では、フラグno_mixed_nalu_types_in_pic_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_mixed_nalu_types_in_pic_constraint_flagが1に等しいことは、フラグpps_mixed_nalu_types_in_pic_flagの値が0に等しくてもよいことを指定する。フラグno_mixed_nalu_types_in_pic_constraint_flagが0に等しいことは、このような制約を課さない。フラグone_subpic_per_pic_constraint_flagが1に等しいとき、フラグno_mixed_nalu_types_in_pic_constraint_flagの値は1に等しくてもよい。
【0177】
一実施形態では、フラグno_trail_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_trail_constraint_flagが1に等しいことは、OlsInScope内に存在するTRAIL_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる(OlsInScopeは、DPSを参照するビットストリーム全体のすべての層を含む出力層セットである)。フラグno_trail_constraint_flagが0に等しいことは、このような制約を課さない。フラグgeneral_one_picture_only_constraint_flagが1に等しいとき、フラグno_trail_constraint_flagは1に等しくてもよい。
【0178】
一実施形態では、フラグno_stsa_constraint_flagは、図13の汎用制約情報構文構造内に存在し得る。フラグno_stsa_constraint_flagが1に等しいことは、OlsInScope内に存在するSTSA_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_stsa_constraint_flagが0に等しいことは、このような制約を課さない。フラグgeneral_one_picture_only_constraint_flagが1に等しいとき、フラグno_stsa_constraint_flagは1に等しくてもよい。
【0179】
一実施形態では、フラグno_trail_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_trail_constraint_flagが1に等しいことは、OlsInScope内に存在するTRAIL_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_trail_constraint_flagが0に等しいことは、このような制約を課さない。フラグgeneral_one_picture_only_constraint_flagが1に等しいとき、フラグno_trail_constraint_flagは1に等しくてもよい。
【0180】
一実施形態では、フラグno_stsa_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_stsa_constraint_flagが1に等しいことは、OlsInScope内に存在するSTSA_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_stsa_constraint_flagが0に等しいことは、このような制約を課さない。フラグgeneral_one_picture_only_constraint_flagが1に等しいとき、フラグno_stsa_constraint_flagは1に等しくてもよい。
【0181】
一実施形態では、フラグno_idr_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。no_idr_constraint_flagが1に等しいことは、OlsInScope内に存在するIDR_W_RADLまたはIDR_N_LPに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_idr_constraint_flagが0に等しいことは、このような制約を課さない。
【0182】
一実施形態では、フラグno_cra_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_cra_constraint_flagが1に等しいことは、OlsInScope内に存在するCRA_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_cra_constraint_flagが0に等しいことは、このような制約を課さない。
【0183】
一実施形態では、フラグno_rasl_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る(フラグno_rasl_constraint_flagは図示せず)。フラグno_rasl_constraint_flagが1に等しいことは、OlsInScope内に存在するRASL_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_rasl_constraint_flagが0に等しいことは、このような制約を課さない。フラグno_cra_constraint_flagが1に等しいとき、フラグno_rasl_constraint_flagの値は1に等しくてもよい。
【0184】
一実施形態では、フラグno_radl_constraint_flagは、図13に示されるように、汎用制約情報構文構造内に存在し得る。フラグno_radl_constraint_flagが1に等しいことは、OlsInScope内に存在するRADL_NUTに等しいnuh_unit_typeを有するNALユニットがない可能性があることを指定することができる。フラグno_radl_constraint_flagが0に等しいことは、このような制約を課さない。フラグno_idr_constraint_flagが1に等しく、フラグno_cra_constraint_flagが1に等しいとき、フラグno_rasl_constraint_flagの値は1に等しくてもよい。
【0185】
本開示のいくつかの態様は、残差コーディングにおける最後有意係数をコーディングする位置を有するレンジ拡張など、レンジ拡張のための制約フラグシグナリングのための技術を提供する。
【0186】
本開示の一態様によれば、特定のクロマフォーマットおよび特定のビット深度(サンプルあたりビット数)を有する特定のアプリケーションのために、いくつかの規格を独創的に開発することができる。例えば、HEVCは元来、サンプルあたり8~10ビットで4:2:0のクロマフォーマットを目標としている。特定のクロマフォーマットおよび特定のビット深度以外の他のフォーマットおよびビット深度にも適用可能な規格を作成するために、他のクロマフォーマットおよび/またはより高いビット深度を使用するアプリケーションをサポートするためのレンジ拡張が開発される。
【0187】
機能セットを特定のアプリケーションのグループに必要なものに制限するために、ビデオコーディング規格はプロファイルを定義し、プロファイルは、これらの機能を使用するエンコーダとの相互運用のためにサポートされる定義されたデコーダ機能セットを含むことができる。例えば、プロファイルは、準拠しているビットストリームを生成する際に使用することができるコーディングツールまたはアルゴリズムのセットを定義することができる。プロファイルに加えて、いくつかの規格(例えば、VVC、HEVCなど)は、レベルおよび階層も定義する。レベルは、デコーダの処理負荷およびメモリ能力に対応し得る、空間解像度、ピクセルレート、ビットレート値および変動に関して、ビットストリームに対して制限を課す。レベル制限は、最大サンプルレート、最大ピクチャサイズ、最大ビットレート、最小圧縮比、コーディングされたピクチャバッファの能力などに関して表すことができる。より高いレベルの値は、より高い複雑さの制限に対応することができる。階層は、各レベルのビットレート値および変動制限を修正する。例えば、Main階層はほとんどのアプリケーションを対象とするが、High階層は、ビデオ配信アプリケーションよりもはるかに高いビットレート値を有するなど、より要求の厳しいビデオ投稿アプリケーションに対処するように設計されている。プロファイル、階層、およびレベルの各々は、実装およびデコーディングの複雑さに影響を及ぼし、これら3つの組合せは、ビットストリームおよびデコーダの相互運用ポイントを指定する。
【0188】
いくつかの例では、特定の階層およびレベルに準拠するデコーダは、そのレベルまたはそれより下の任意のレベルの同じ階層または下位階層に準拠するすべてのビットストリームをデコーディングできる必要があり、特定のプロファイルに準拠するデコーダは、そのプロファイル内のすべての機能をサポートすることができる。いくつかの例では、エンコーダは、プロファイル内でサポートされる任意の特定の特徴のセットを利用する必要はないが、準拠しているビットストリーム、すなわち、準拠しているデコーダによってデコーディングすることを可能にする指定された制約に従うビットストリームを生成する必要がある。
【0189】
PTL情報に加えて、PTL構文構造は、ビットストリームの特定の制約特性を示す制約フラグおよび非フラグ構文要素のリストを含む、汎用制約情報(GCI)構文構造も含むことができる。
【0190】
一例では、HEVCは、Mainプロファイル、Main 10プロファイル、およびMain Still Pictureプロファイルと呼ばれる3つのプロファイルを元来含んでいる。3つのプロファイルは、4:2:0のクロマサンプリングのみをサポートするなど、いくつかの制限を有する。MainおよびMain Still Pictureプロファイルでは、サンプルあたり8ビットのビデオ精度のみがサポートされ、Main 10プロファイルはサンプルあたり最大10ビットをサポートする。Main Still Pictureプロファイルでは、ビットストリーム全体が1つのコーディングされたピクチャのみを含む。
【0191】
いくつかの例では、レンジ拡張を伴うHEVCは、追加のプロファイルをサポートすることができる。一例では、以下のプロファイルがまとめてレンジ拡張プロファイルと呼ばれる:Monochromeプロファイル、Monochrome 10プロファイル、Monochrome 12プロファイル、Monochrome 16プロファイル、Main 12プロファイル、Main 4:2:2 10プロファイル、Main 4:2:2 12プロファイル、Main 4:4:4プロファイル、Main 4:4:4 10プロファイル、Main 4:4:4 12プロファイル、Main Intraプロファイル、Main 10 Intraプロファイル、Main 12 Intraプロファイル、Main 4:2:2 10 Intraプロファイル、Main 4:2:2 12 Intraプロファイル、Main 4:4:4 Intraプロファイル、Main 4:4:4 10 Intraプロファイル、Main 4:4:4 12 Intraプロファイル、Main 4:4:4 16 Intraプロファイル、Main 4:4:4 Still Pictureプロファイル、およびMain 4:4:4 16 Still Pictureプロファイル。
【0192】
レンジ拡張プロファイルのいくつかは、より高いビット深度をサポートすることができ、高ビット深度による動作レンジ拡張のためのプロファイルと呼ぶことができる。いくつかの例では、高ビット深度による動作レンジ拡張のためのプロファイルは、Main 12プロファイル、Main 12 4:4:4プロファイル、Main 16 4:4:4プロファイル、Main 12 Intraプロファイル、Main 12 4:4:4 Intraプロファイル、Main 16 4:4:4 Intraプロファイル、Main 12 Still Pictureプロファイル、Main 12 4:4:4 Still Pictureプロファイル、Main 16 4:4:4 Still Pictureプロファイルなど、サンプルあたり10を超えるビットをサポートするプロファイルを含む。
【0193】
具体的には、Main 12プロファイルは、4:0:0および4:2:0のクロマサンプリング、イントラ予測モードおよびインター予測モードの両方をサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。いくつかの例では、Main 12プロファイルに準拠するデコーダは、Monochrome、Monochrome 12、Main、Main 10、およびMain 12のプロファイルで作られたビットストリームをデコーディングすることができる。
【0194】
Main 12 4:4:4プロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリング、ならびにイントラ予測モードおよびインター予測モードの両方をサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。いくつかの例では、Main 12 4:4:4プロファイルに準拠するデコーダは、Monochrome、Main、Main 10、Main 12、Main 10 4:2:2、Main 12 4:2:2、Main 4:4:4、Main 10 4:4:4、Main 12 4:4:4、およびMonochrome 12のプロファイルで作られたビットストリームをデコーディングすることができる。
【0195】
Main 16 4:4:4プロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリング、ならびにイントラ予測モードおよびインター予測モードの両方をサポートして、サンプルあたり8ビットから16ビットのビット深度を可能にする。
【0196】
Main 12 Intraプロファイルは、4:0:0および4:2:0のクロマサンプリング、ならびにイントラ予測モードをサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。
【0197】
Main 12 4:4:4 Intraプロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリング、ならびにイントラ予測モードをサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。
【0198】
Main 16 4:4:4 Intraプロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリング、ならびにイントラ予測モードをサポートして、サンプルあたり8ビットから16ビットのビット深度を可能にする。
【0199】
Main 12 Still Pictureプロファイルは、4:0:0および4:2:0のクロマサンプリングをサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。Main 12 Still Pictureプロファイルでは、ビットストリーム全体が1つのコーディングされたピクチャのみを含む。
【0200】
Main 12 4:4:4 Still Pictureプロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリングをサポートして、サンプルあたり8ビットから12ビットのビット深度を可能にする。Main 12 4:4:4 Still Pictureプロファイルでは、ビットストリーム全体が1つのコーディングされたピクチャのみを含む。
【0201】
Main 16 4:4:4 Still Pictureプロファイルは、4:0:0、4:2:0、4:2:2、および4:4:4のクロマサンプリングをサポートして、サンプルあたり8ビットから16ビットのビット深度を可能にする。Main 16 4:4:4 Still Pictureプロファイルでは、ビットストリーム全体が1つのコーディングされたピクチャのみを含む。
【0202】
本開示のいくつかの態様によれば、コーディングツール制御は、ビットストリームの範囲、コーディングされた層ビデオシーケンス(CLVS)の範囲、ピクチャ、ピクチャのスライスなど、様々な範囲(例えば、コーディングツール制御のための構文要素のインスタンスの持続性を用いてコーディングされた、コーディングされたビデオデータの一部)において実行することができる。いくつかの例では、コーディングツール制御は、一般にビットストリームのための制約情報を含む汎用制約情報(GCI)構文構造で提供することができる。いくつかの例では、コーディングツール制御は、CLVSに関連付けられたシーケンスパラメータセット(SPS)で提供することができ、SPSは一般に、CLVSのための情報を含む。いくつかの例では、コーディングツール制御は、スライスのスライスヘッダで提供することができ、スライスヘッダは一般に、スライスのための情報を含む。
【0203】
本開示の一態様によれば、レンジ拡張におけるコーディングツールのための制御情報は、様々な範囲で提供することができる。いくつかの例では、より大きな範囲の構文要素を使用するで、コーディング効率を向上させることができる。例えば、0より大きいGCI構文要素値は、典型的には特定のコーディングツールがビットストリーム内で使用されないことを示すために、ビットストリームが特定の方法で制約されることを示す。さらに、値0に等しいGCI構文要素値は、関連するコーディングツールが(その使用が示されたプロファイルでサポートされている場合に)ビットストリームで使用することができるように(ただし必要ではないように)、関連する制約が適用されないことをシグナリングする。
【0204】
本開示の別の態様によれば、コーディングツールがビットストリーム内のビデオデータのコーディングで使用されず、例えばPTL情報および/または汎用制約情報においてコーディングツールの使用がないことを示すとき、コーディングツールのサポートがないビデオデコーダは、PTL情報および/または汎用制約情報におけるシグナリングに基づいてビデオデコーダがビットストリームをデコーディングすることができると判定することができ、ビデオデコーダの機能を拡張することができる。
【0205】
いくつかの実施形態では、エンコーダは、レンジ拡張を伴うビデオ規格に準拠するビットストリームを生成することができるが、レンジ拡張でサポートされる1つ以上の機能を利用しない。いくつかの例では、レンジ拡張における1つ以上の機能を使用しないという知識を用いて、ビデオ規格に準拠するがレンジ拡張における1つ以上の機能をサポートシナイデコーダは、デコーダがビットストリームをデコーディングすることができると判定することができ、ビットストリームを拒否する代わりにデコーディングするためにビットストリームを受け入れることができる。
【0206】
図16は、本開示のいくつかの実施形態による汎用制約情報の構文構造(1600)を示す。いくつかの例では、構文構造(1600)は、デコーダへの出力層セットを含むビットストリームなどのビットストリームに適用される制約を含む。図16の例では、構文構造(1600)内のgci_num_additional_bitsで表される構文要素は、アライメントゼロビット構文要素(存在する場合)以外の汎用制約情報構文構造(1600)内の追加の汎用制約情報(GCI)ビットの数を指定するために使用される。いくつかの規格では、gci_num_additional_bitsの値は、0または1に等しくなければならない。いくつかの規格では、デコーダは、1より大きいgci_num_additional_bitsの値を構文構造に出現させることができる。
【0207】
図16の例では、構文構造(1600)は、general_no_extended_precision_constraint_flag、general_no_ts_residual_coding_rice_present_in_sh_constraint_flag、general_no_rrc_rice_extension_constraint_flag、general_no_persistent_rice_adaptation_constraint_flag、およびgeneral_no_reverse_last_sig_coeff_constraint_flagで表される5つのGCIビット(構文要素)(1601)~(1605)を含む。5つの追加のGCIビット(1601)~(1605)は、いくつかの例では、出力層セットのビットストリームの範囲内のコーディングツールのコーディング制御情報をそれぞれ提供する。
【0208】
図17は、本開示のいくつかの実施形態によるシーケンスパラメータセット(SPS)レンジ拡張の構文構造(1700)の例を示す。構文構造(1700)は、CLVSのためのレンジ拡張のコーディングツールの制御を提供するために、CLVSのためのSPSに追加することができる。構文構造(1700)は、sps_extended_precision_flag、sps_ts_residual_coding_rice_present_in_sh_flag、sps_rrc_rice_extension_flag、sps_persistent_rice_adaptation_enabled_flag、およびsps_reverse_last_sig_coeff_enabled_flagで表される5つの構文要素(1701)~(1705)を含む。5つの構文要素(1701)~(1705)は、いくつかの例では、CLVSの範囲内のコーディングツールのコーディング制御情報を提供する。
【0209】
具体的には、一実施形態では、GCIビット(1601)および構文要素(1701)は、異なる範囲で、スケーリングおよび変換プロセスにおける変換係数、ならびにabs_remainder[ ]およびdec_abs_level[ ]などのいくつかの構文要素の二値化のための、拡張ダイナミックレンジのコーディングツールの制御など、拡張精度を使用することの制御を提供するために使用される。
【0210】
1に等しい構文要素(1701)は、拡張ダイナミックレンジが、スケーリングおよび変換プロセスの変換係数、ならびにabs_remainder[ ]およびdec_abs_level[ ]などのいくつかの構文要素の二値化のために使用されることを指定する。構文要素abs_remainder[走査位置n]は、走査位置nにおいてゴロム・ライス符号でコーディングされた変換係数レベルの残りの絶対値である。abs_remainder[ ]が存在しないとき、これは0に等しいと推測される。構文要素dec_abs_level[走査位置n]は、走査位置nにおいてゴロム・ライス符号でコーディングされ、走査位置nにおける変換係数のレベルを決定するために使用される中間値に対応することができる。0に等しい構文要素(1701)は、拡張ダイナミックレンジがスケーリングおよび変換プロセスで使用されず、例えば、構文要素abs_remainder[ ]およびdec_abs_level[ ]などの二値化に使用されないことを指定する。存在しないとき、構文要素(1701)は0に等しいと推測される。
【0211】
一例では、スケーリングおよび変換プロセスにおける変換係数ならびに特定の構文要素の二値化のためのダイナミックレンジを決定するために、Log2TransformRangeで表される変数が使用される。例えば、変数Log2TransformRangeは、スケーリングおよび変換プロセスにおける変換係数ならびに特定の構文要素の二値化のためのビット数とすることができる。ダイナミックレンジは、ビット数を用いて表される最大数と最小数との差とすることができる。一例では、変数Log2TransformRangeは、式(1)などの構文要素(1701)sps_extended_precision_flagにしたがって導出される。
Log2TransformRange=sps_extended_precision_flag ?Max(15,Min(20,BitDepth+6)):15 式(1)
【0212】
スケーリングおよび変換プロセスにおける変換係数ならびに特定の構文要素の二値化のためのダイナミックレンジは、変数Log2TransformRangeに基づいて決定することができる。いくつかの例では、フラグsps_extended_precision_flagが値0を有するとき、拡張ダイナミックレンジ機能(例えば、拡張ダイナミックレンジのコーディングツール)は使用されず、変換係数のダイナミックレンジは、15ビットなどの固定ビット数に基づく。フラグsps_extended_precision_flagが値1を有するとき、拡張ダイナミックレンジ機能が有効化され、スケーリングおよび変換処理における変換係数を表すためのビット数は、式(1)の例におけるビット深度BitDepthに基づいて、15ビット、16ビット、17ビット、18ビット、19ビット、および20ビットのうちの1つとすることができる。変換係数のダイナミックレンジは、ビット数に基づいて決定することができる。
【0213】
本開示の一態様によれば、構文要素(例えば、sps_bitdepth_minus8で表される)は、ルマおよびクロマ配列のサンプルのビット深度(例えば、BitDepthで表される)、ならびにルマおよびクロマ量子化パラメータレンジオフセット(例えば、QpBdOffsetで表される)の値をシグナリングするために使用することができる。一例では、ビット深度BitDepthは式(2)にしたがって計算することができ、QPレンジオフセットQpBdOffsetは式(3)にしたがって計算することができる。
BitDepth=8+sps_bitdepth_minus8 式(2)
QpBdOffset=6×sps_BitDepth_minus8 Eq.(3)
【0214】
いくつかの例では、1に等しいGCIビット(1601)は、出力層セット(OlsInScope)の範囲内のすべてのピクチャのための構文要素(1701)が0に等しくなり得ることを指定する。0に等しいGCIビット(1601)は、このような制約を課さない。したがって、1に等しいGCIビット(1601)は、ビットストリームのコーディングにおける拡張ダイナミックレンジコーディングツールの不使用を指定することができる。
【0215】
いくつかの実施形態では、GCIビット(1602)および構文要素(1702)は、異なる範囲で、変換スキップモードにおける残差コーディングのためのスライスベースのRiceパラメータ選択など、変換スキップモードにおける残差コーディングのためのスライスベースのRiceコーディングのコーディングツールの制御を提供するために使用される。
【0216】
本開示の一態様によれば、変換スキップ残差コーディングのためのスライスベースのRiceパラメータ選択は、ビデオ規格のレンジ拡張に含まれ得る。いくつかの例では、図17に示されるように、変換スキップスライスのためのRiceパラメータのシグナリングが有効か無効かを示すために、変換スキップモードが有効化されると(例えば、構文要素sps_tranform_skip_enabled_flagが真である)、1つの制御フラグ(例えば、sps_ts_residual_coding_rice_present_in_sh_flag、構文要素(1702)で表される)がシーケンスパラメータセット(SPS)でシグナリングされる。
【0217】
制御フラグが有効(例えば、「1」に等しい)としてシグナリングされると、その変換スキップスライスのRiceパラメータの選択を示すために、例えばスライスヘッダ内の各変換スキップスライスについて、1つの構文要素(例えば、sh_ts_residual_coding_rice_idx_minus1で表される)がさらにシグナリングされる。制御フラグが無効(例えば、「0」に等しい)としてシグナリングされると、変換スキップスライスのためのRiceパラメータ選択を示すためにスライスレベル(例えば、スライスヘッダ)でさらなる構文要素はシグナリングされず、デフォルトRiceパラメータは、一例ではSPSを参照するコーディングされたビデオデータ内のすべての変換スキップスライスに使用され得る。
【0218】
例えば、SPS内で1に等しい構文要素(1702)は、sh_ts_residual_coding_rice_idx_minus1で表されるスライスヘッダフラグがSPSを参照するスライスのスライスヘッダ(例えば、slice_header())構文構造内に存在し得ることを指定する。SPS内で0に等しい構文要素(1702)は、スライスヘッダフラグsh_ts_residual_coding_rice_idx_minus1がSPSを参照するスライスのslice_header()構文構造内に存在しないことを指定する。存在しないとき、いくつかの例では、sps_ts_residual_coding_rice_present_in_sh_flagの値は0に等しいと推測される。
【0219】
いくつかの例では、構文要素は、出力層セットの範囲で、変換スキップモードにおける残差コーディングのためのスライスベースのRiceコーディングのコーディングツールの使用を制御するために、汎用制約情報に含まれ得る。例えば、1に等しい構文要素(1602)は、出力層セット(OlsInScope)の範囲内のすべてのピクチャのための構文要素(1702)が0に等しくなり得ることを指定する。0に等しい構文要素(1602)は、このような制約を課さない。したがって、いくつかの例では、ビットストリーム内の1に等しいGCIビット(1602)は、ビットストリームをコーディングするための変換スキップ残差コーディングのためのスライスベースのRiceパラメータの不使用を指定することができる。
【0220】
いくつかの実施形態では、GCIビット(1603)および構文要素(1703)は、異なる範囲で、通常残差コーディング(RRC)におけるabs_remainder[ ]およびdec_abs_level[ ]などのいくつかの構文要素の二値化のためのRiceパラメータ導出のための1つ以上のコーディングツールの制御を提供するために使用される。いくつかの例では、通常残差コーディング(RRC)は、変換および量子化によって取得されたブロックをコーディングするためのいくつかの技術を指す。いくつかの例では、RRCは、量子化のみによって取得されたブロック向けに修正することができる。いくつかの例では、変換スキップ残差コーディング(TSRC)は、変換をバイパス(変換スキップとも呼ばれる)して取得されたブロックをコーディングするための専用のいくつかの技術を指す。
【0221】
いくつかの例では、ビデオコーディング規格は、abs_remainder[ ]およびdec_abs_level[ ]などのいくつかの構文要素の二値化のためのRiceパラメータ導出のための1つ以上のコーディングツールを含むことができ、ビデオコーディング規格のレンジ拡張は、abs_remainder[ ]およびdec_abs_level[ ]などのいくつかの構文要素の二値化のためのRiceパラメータ導出のための1つ以上の代替コーディングツールを含むことができる。
【0222】
いくつかの例では、ビデオ規格は、Riceパラメータ導出のためにローカルテンプレートベースの技術を使用する。例えば、ライスパラメータの導出には、1つ以上(例えば、5つ)の隣接する係数レベルが使用される。例えば、テンプレートの内部の絶対係数値の合計を計算することができ、次いで、その合計に基づいてRiceパラメータが決定される。一例では、合計に基づいてRiceパラメータを決定するために、ルックアップテーブルを使用することができる。
【0223】
Riceパラメータは、他の適切なコーディングツールによって決定することができることに留意されたい。一例では、合計に基づいてRiceパラメータを決定するために、式を使用することができる。別の例では、隣接する係数レベルの統計に基づいてRiceパラメータを決定するために、構文モデリングを使用することができる。いくつかの例では、ビデオ規格のレンジ拡張は、Riceパラメータ導出のための1つ以上の代替コーディングツールを指定することができる。
【0224】
いくつかの例では、ビデオ規格のレンジ拡張は、他のシナリオで使用するためのRRCへの修正を含むことができる。一例では、レンジ拡張は、変換スキップモードにおける残差コーディングのために異なる構文モデリングツールおよび残差信号回転ツールを含むことができる。
【0225】
いくつかの例では、1に等しいSPS内の構文要素(1703)は、abs_remainder[ ]およびdec_abs_level[ ]の二値化のための代替Riceパラメータ導出(例えば、レンジ拡張におけるRiceパラメータ導出のための代替コーディングツール)が、SPSを参照するCLVSをコーディングするために使用されることを指定する。0に等しい構文要素(1703)は、abs_remainder[ ]およびdec_abs_level[ ]の二値化のための代替Riceパラメータ導出が、SPSを参照するCLVSをコーディングするために使用されないことを指定する。存在しないとき、構文要素(1703)の値は0に等しいと推測される。
【0226】
いくつかの例では、1に等しい構文要素(1603)は、出力層セットの範囲(OlsInScope)内のすべてのピクチャのための構文要素(1703)が0に等しくなり得ることを指定する。0に等しい構文要素(1603)は、このような制約を課さない。したがって、いくつかの例では、1に等しいGCIビット(1603)は、ビットストリームをコーディングするために、abs_remainder[ ]およびdec_abs_level[ ]の二値化のための代替Riceパラメータ導出(例えば、指定されたレンジ拡張におけるRiceパラメータ導出のための代替コーディングツール)の不使用を指定することができる。
【0227】
いくつかの実施形態では、GCIビット(1604)および構文要素(1704)は、異なる範囲で、abs_remainder[ ]およびdec_abs_level[ ]の二値化のための統計ベースのRiceパラメータ導出の制御を提供するために使用される。
【0228】
本開示の一態様によれば、abs_remainder[ ]およびdec_abs_level[ ]の二値化のためのRiceパラメータ導出は、前のTUから蓄積された統計を使用して各変換ユニット(TU)の開始時に初期化することができる。いくつかの例では、統計ベースのRiceパラメータ導出は、ビデオ規格のレンジ拡張に含まれ得る。
【0229】
いくつかの例では、制御フラグ、例えばSPS内のsps_persistent_rice_adaptation_enabled_flagで表される構文要素(1704)は、統計ベースのRiceパラメータ導出を制御するために使用される。例えば、SPS内の1に等しい構文要素(1704)は、abs_remainder[ ]およびdec_abs_level[ ]の二値化のためのRiceパラメータ導出が、前のTUから蓄積された統計を使用して各TUの開始時に初期化されることを指定することができる。0に等しい構文要素(1704)は、前のTU状態が現在のTUのRiceパラメータ導出で使用されないことを指定する。存在しないとき、構文(1704)の値は0に等しいと推測される。
【0230】
さらに、一実施形態では、1に等しい構文要素(1604)は、出力層セット(OlsInScope)の範囲内のすべてのピクチャのための構文要素(1704)が0に等しくなり得ることを指定する。0に等しい構文要素(1604)は、このような制約を課さない。したがって、いくつかの例では、1に等しいGCIビット(1604)は、ビットストリームをコーディングするために、統計ベースのRiceパラメータ導出の不使用を指定することができる。
【0231】
いくつかの実施形態では、GCIビット(1605)および構文要素(1705)は、異なる範囲で、変換係数のエントロピーコーディング中に最後有意係数の位置をコーディングするために使用されるコーディングツールの制御を提供するために使用される。一例では、最後有意係数の位置は、異なるコーディングツールによってコーディングすることができる。例えば、ビデオ規格は、LastSignificantCoeffXおよびLastSignificantCoeffY変数(例えば、各変換ブロックについて(0,0)に対してコーディングされる)で表される位置の2つの座標をコーディングすることによって最後有意係数の位置を決定することができる第1のコーディングツールを指定してもよく、一例では、ビデオ規格のレンジ拡張は、変換ブロックの右下隅を参照して最後有意係数の相対座標をコーディングすることによって最後有意係数の位置を決定することができる第2のコーディングツールなど、代替コーディングツールを指定することができる。
【0232】
いくつかの例では、SPS内の1に等しい構文要素(1705)は、sh_reverse_last_sig_coeff_flagで表されるスライスヘッダフラグ(スライス範囲)が、SPSを参照するスライスヘッダ構文構造(例えば、いくつかの例ではslice_header())内に存在することを指定する。SPS内の0に等しい構文要素(1705)は、sh_reverse_last_sig_coeff_flagで表されるスライスヘッダフラグがSPSを参照するスライスヘッダ構文構造内に存在しないことを指定し、スライスヘッダフラグsh_reverse_last_sig_coeff_flagは0であると推測することができる。存在しないとき、構文要素(1705)の値は0に等しいと推測される。
【0233】
いくつかの例では、スライスのスライスヘッダフラグsh_reverse_last_sig_coeff_flagの値は、スライスのコーディングにおいてスケーリングおよび変換プロセスにおける変換係数内の最後有意係数の位置導出を決定するために使用される。一例では、sh_reverse_last_sig_coeff_flagが1に等しいとき、スライス内で、最後有意係数位置は、一例では、変換ブロックの右下隅を参照して最後有意係数の相対座標をコーディングすることによって最後有意係数の位置を決定することができる第2のコーディングツールなど、ビデオ規格のレンジ拡張における代替コーディングツールによってコーディングすることができる。そうでなければ(例えば、スライスについてsh_reverse_last_sig_coeff_flagが0に等しい場合)、スライス内で、最後有意係数位置の現在の座標(例えば、各変換ブロックについて(0,0)に対してコーディングされる)は、第1のコーディングツールによってコーディングされる。
【0234】
いくつかの例では、1に等しいGCIビット(1605)は、出力層セット(OlsInScope)の範囲内のすべてのピクチャのための構文要素(1705)が0に等しくなり得ることを指定する。0に等しいGCIビット(1605)は、このような制約を課さない。したがって、1に等しいGCIビット(1605)は、ビットストリームの範囲に対する最後有意係数の位置導出における第2のコーディングツールの不使用を指定することができる。
【0235】
図18は、本開示の一実施形態によるプロセス(1800)の概要を示すフローチャートを示す。プロセス(1800)は、ビデオデコーダで使用することができる。様々な実施形態では、プロセス(1800)は、端末デバイス(310)(320)(330)、および(340)内の処理回路、ビデオデコーダ(410)の機能を実行する処理回路、ビデオデコーダ(510)の機能を実行する処理回路などの処理回路によって実行される。いくつかの実施形態では、プロセス(1800)は、ソフトウェア命令で実装され、したがって、処理回路がソフトウェア命令を実行すると、処理回路はプロセス(1800)を実行する。プロセスは(S1801)から始まり、(S1810)に進む。
【0236】
(S1810)において、ビットストリーム内のコーディングされたビデオデータの第1の範囲(例えば、出力層セット)におけるコーディング制御のための第1の構文要素(例えば、general_no_reverse_last_sig_coeff_constraint_flag)の値が決定される。第1の構文要素は、レンジ拡張における代替ツール(例えば、一例では、変換ブロックの右下隅を参照して最後有意係数の相対座標をコーディングすることによって最後有意係数の位置を決定することができる第2のコーディングツール)など、変換係数のエントロピーコーディング中の最後有意係数の位置をコーディングするためのコーディングツールに関連付けられる。
【0237】
一例では、第1の構文要素は、構文構造内の汎用制約情報のための追加ビットを示す構文構造内の構文要素(例えば、gci_num_additional_bits)に応答して、汎用制約情報のための構文構造からデコーディングされる。
【0238】
(S1820)において、第1の構文要素の値が第1の値であるとき、プロセスは(1830)に進み、そうでなければ、プロセスは(S1840)に進む。第1の値は、コーディングされたビデオデータの1つ以上の第2の範囲(例えば、出力層セット内の1つ以上のCLVS)を含むビットストリーム内のコーディングされたビデオデータの第1の範囲のコーディングにおけるコーディングツールの無効化を示す。
【0239】
いくつかの例では、第1の構文要素は、デコーダにおいて出力された出力層セット内のピクチャのコーディング制御のための汎用制約情報内にある。一例では、第1の構文要素の第1の値は、出力層セット内の各コーディングされた層ビデオシーケンス(CLVS)内のコーディングツールを無効化することを示す。
【0240】
(S1830)において、第1の構文要素が第1の値であることに応答して、ビットストリーム内のコーディングされたビデオデータの第1の範囲は、コーディングツールを呼び出すことなくデコーディングされる。
【0241】
いくつかの例では、ビットストリーム内のコーディングされた層ビデオシーケンス(CLVS)のコーディング制御のための第2の構文要素(例えば、sps_reverse_last_sig_coeff_enabled_flag)は、CLVSをデコーディングするためのコーディングツールを呼び出さないことを示す値を有するように制約される。一例では、第2の構文要素の値は、CLVSのピクチャ内のスライスのスライスヘッダ内に、コーディングツールに関連付けられたスライスヘッダフラグが存在しないことを示す。
【0242】
(S1840)において、第1の構文要素が第2の値であることに応答して、ビットストリーム内の、コーディングされた層ビデオシーケンス(CLVS)など、コーディングされたビデオデータの第2の範囲のコーディング制御のための第2の構文要素(例えば、sps_reverse_last_sig_coeff_enabled_flag)の値が、第2の範囲内のコーディングされたビデオデータをデコーディングするために決定される。第2の構文要素は、CLVS内のコーディングツールの有効化/無効化を示す。一例では、第2の構文要素は、CLVSのためのシーケンスパラメータセット(SPS)内に提示されず、第2の構文要素の値は、CLVS内のコーディングツールの無効化を示すために推測される。
【0243】
いくつかの例では、第2の構文要素の値がCLVS内のコーディングツールの有効化を示すのに応答して、スライスのスライスヘッダ内のスライスヘッダフラグ(例えば、sh_reverse_last_sig_coeff_flag)が決定され、例えばスライスのスライスヘッダからデコーディングされる。スライスヘッダフラグは、スライスをコーディングするためのコーディングツールの使用/不使用を示す。
【0244】
プロセス(1800)は、適切に適合させることができる。プロセス(1800)の(1つまたは複数の)ステップは、修正および/または省略することができる。(1つまたは複数の)追加のステップを追加することができる。任意の適切な実施順序を使用することができる。
【0245】
図19は、本開示の一実施形態によるプロセス(1900)の概要を示すフローチャートを示す。プロセス(1900)は、ビデオエンコーダで使用することができる。様々な実施形態では、プロセス(1900)は、端末デバイス(310)(320)(330)、および(340)内の処理回路、ビデオエンコーダ(403)の機能を実行する処理回路、ビデオエンコーダ(603)の機能を実行する処理回路、ビデオエンコーダ(703)の機能を実行する処理回路などの処理回路によって実行される。いくつかの実施形態では、プロセス(1900)は、ソフトウェア命令で実装され、したがって、処理回路がソフトウェア命令を実行すると、処理回路はプロセス(1900)を実行する。プロセスは(S1901)から始まり、(S1910)に進む。
【0246】
(S1910)において、処理回路は、ビットストリーム内のコーディングされたビデオデータの第1の範囲(例えば、出力層セット)のエンコーディング中にコーディングツールが使用されるかどうかを判定する。コーディングツールは、変換係数のエントロピーコーディング中に最後有意係数の位置をコーディングすることに関連付けられる。例えば、コーディングツールは、変換ブロックの右下隅を参照して最後有意係数の相対座標をコーディングすることによって変換ブロック内の最後有意係数の位置を導出することができる第2のコーディングツールなど、レンジ拡張における代替コーディングツールである。コーディングされたビデオデータの第1の範囲は、コーディングされたビデオデータの1つ以上の第2の範囲(例えば、CLVS)を含む。
【0247】
いくつかの例では、処理回路は、ビットストリーム内のコーディングされた層ビデオシーケンス(CLVS)のコーディング制御のための第2の構文要素(例えば、sps_reverse_last_sig_coeff_enabled_flag)に基づいて、コーディングツールが使用されるかどうかを決定することができる。いくつかの例では、処理回路は、エンコーディングされるスライスのスライスヘッダ内のスライスヘッダフラグ(例えば、sh_reverse_last_sig_coeff_flag)に基づいて、コーディングツールが使用されるかどうかを決定することができる。スライスのスライスヘッダフラグ((例えば、sh_reverse_last_sig_coeff_flag)は、スライスをコーディングするためのコーディングツールの使用/不使用を示す。
【0248】
(S1920)において、コーディングされたビデオデータの第1の範囲のコーディングにおいてコーディングツールが使用されないとき、プロセスは(S1930)に進み、そうでなければ、プロセスは(S1940)に進む。
【0249】
(S1930)において、第1の値を有する第1の構文要素(例えば、general_no_reverse_last_sig_coeff_constraint_flag)がビットストリーム内でエンコーディングされる。第1の構文要素は、ビットストリーム内のコーディングされたビデオデータの第1の範囲(例えば、出力層セット)におけるコーディング制御のためのものである。第1の構文要素は、変換係数のエントロピーコーディング中の最後有意係数の位置をコーディングするためのコーディングツールに関連付けられる。第1の値は、コーディングされたビデオデータの第1の範囲のコーディングにおけるコーディングツールの不使用を示す。
【0250】
一例では、第1の構文要素は、汎用制約情報のための構文構造でエンコーディングされ、構文構造内の構文要素(例えば、gci_num_additional_bits)は、構文構造内の汎用制約情報のための追加ビットを示すように調整される。
【0251】
(S1940)において、第2の値を有する第1の構文要素がビットストリーム内でエンコーディングされる。いくつかの例では、第1の構文要素は、例えば、第2の値が第1の構文要素のデフォルト値である場合に、ビットストリーム内でエンコーディングされず、すると(S1940)はスキップされる。
【0252】
プロセス(1900)は、適切に適合させることができる。プロセス(1900)の(1つまたは複数の)ステップは、修正および/または省略することができる。(1つまたは複数の)追加のステップを追加することができる。任意の適切な実施順序を使用することができる。
【0253】
上述した技術(例えば、制約フラグ、適応解像度パラメータ、および/またはこれらに類似するものをシグナリングするための技術)は、コンピュータ可読命令を使用し、1つ以上のコンピュータ可読媒体に記憶された、コンピュータソフトウェアとして実装することができる。例えば、図20は、開示された主題の特定の実施形態を実装するのに適したコンピュータシステム(2000)を示す。
【0254】
コンピュータソフトウェアは、1つ以上のコンピュータ中央処理装置(CPU)およびグラフィックスプロセッシングユニット(GPU)などによって直接的に、または解釈、マイクロコードの実行などを介して実行することができる命令を含むコードを作成するために、アセンブリ、コンパイル、リンク、または同様のメカニズムを受け得る、任意の適切な機械コードまたはコンピュータ言語を使用してコーディングすることができる。
【0255】
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲーム機、モノのインターネットデバイスなどを含む様々なタイプのコンピュータまたはコンピュータの構成要素上で実行することができる。
【0256】
コンピュータシステム(2000)について図20に示されている構成要素は、本質的に例示であり、本開示の実施形態を実装するコンピュータソフトウェアの使用または機能の範囲に関する限定を示唆することを意図していない。構成要素の構成は、コンピュータシステム(2000)の例示的な実施形態に示された構成要素のいずれか1つまたは組合せに関するいかなる依存性または要件も有すると解釈されるべきでない。
【0257】
コンピュータシステム(2000)は、特定のヒューマンインターフェース入力デバイスを含んでもよい。このようなヒューマンインターフェース入力デバイスは、例えば、触覚入力(キーストローク、スワイプ、データグローブの動きなど)、オーディオ入力(音声、拍手など)、視覚入力(ジェスチャなど)、嗅覚入力(図示せず)を介した、1人以上の人間ユーザによる入力に応答し得る。ヒューマンインターフェースデバイスは、オーディオ(発話、音楽、環境音など)、画像(走査画像、写真画像は静止画像カメラから取得など)、ビデオ(二次元ビデオ、立体ビデオを含む三次元ビデオなど)といった、必ずしも人間による意識的な入力に直接関連しない特定の媒体をキャプチャするために使用することもできる。
【0258】
入力ヒューマンインターフェースデバイスは、キーボード(2001)、マウス(2002)、トラックパッド(2003)、タッチスクリーン(2010)、データグローブ(図示せず)、ジョイスティック(2005)、マイクロフォン(2006)、スキャナ(2007)、カメラ(2008)のうちの1つ以上を含み得る(各々の1つのみが描写されている)。
【0259】
コンピュータシステム(2000)は、特定のヒューマンインターフェース出力デバイスも含み得る。このようなヒューマンインターフェース出力デバイスは、例えば、触覚出力、音、光、および匂い/味を介して、1人以上の人間のユーザの感覚を刺激し得る。そのようなヒューマンインターフェース出力デバイスは、触覚出力デバイス(例えば、タッチスクリーン(2010)、データグローブ(図示せず)、またはジョイスティック(2005)による触覚フィードバック、しかし入力デバイスとして機能しない触覚フィードバックデバイスが存在する可能性もある)、(スピーカ(2009)、ヘッドフォン(描写せず)などの)オーディオ出力デバイス、(CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含むスクリーン(2010)など、各々タッチスクリーン入力機能の有無にかかわらず、各々触覚フィードバック機能の有無にかかわらず、それらのうちのいくつかは、ステレオグラフィック出力、仮想現実眼鏡(描写せず)、ホログラフィックディスプレイおよびスモークタンク(描写せず)などの手段を介して2次元視覚出力または3次元以上の出力を出力することが可能な場合がある)視覚出力デバイス、ならびにプリンタ(描写せず)を含むことができる。
【0260】
コンピュータシステム(2000)は、CD/DVDまたは同様の媒体(2021)を有するCD/DVD ROM/RW(2020)を含む光学媒体、サムドライブ(2022)、リムーバブルハードドライブまたはソリッドステートドライブ(2023)、テープおよびフロッピーディスクなどのレガシー磁気媒体(描写せず)、セキュリティドングルなどの特殊なROM/ASIC/PLDベースのデバイス(描写せず)などの、人間がアクセス可能なストレージデバイスおよびそれらに関連する媒体を含むこともできる。
【0261】
当業者はまた、現在開示されている主題に関連して使用される「コンピュータ可読媒体」という用語が、送信媒体、搬送波、または他の一時的な信号を包含しないことを理解するはずである。
【0262】
コンピュータシステム(2000)は、1つ以上の通信ネットワーク(2055)へのインターフェース(2054)を含むこともできる。ネットワークは、例えば、無線、有線、光であり得る。ネットワークはさらに、ローカル、広域、メトロポリタン、車両および産業用、リアルタイム、遅延耐性などとすることができる。ネットワークの例は、イーサネット、無線LANなどのローカルエリアネットワーク、GSM、3G、4G、5G、LTEなどを含むセルラーネットワーク、ケーブルテレビ、衛星テレビ、および地上波放送テレビを含むテレビ有線または無線広域デジタルネットワーク、CANBusを含む車両および産業用などを含む。特定のネットワークは通常、特定の汎用データポートまたは周辺バス(2049)(例えば、コンピュータシステム(2000)のUSBポート)に接続された外部ネットワークインターフェースアダプタを必要とし、他のものは一般に、以下に説明するように、システムバスに接続することによってコンピュータシステム(2000)のコアに統合される(例えば、PCコンピュータシステムに対するイーサネットインターフェース、またはスマートフォンコンピュータシステムに対するセルラーネットワークインターフェース)。これらのネットワークのいずれかを使用して、コンピュータシステム(2000)は他のエンティティと通信することができる。このような通信は、一方向、受信専用(例えば、テレビ放送)、一方向送信専用(例えば、CANbusから特定のCANbusデバイス)または双方向、例えば、ローカルもしくは広域デジタルネットワークを用いた他のコンピュータシステムに対する双方向の通信とすることができる。特定のプロトコルおよびプロトコルスタックは、上述のように、これらのネットワークおよびネットワークインターフェースの各々で使用することができる。
【0263】
前述のヒューマンインターフェースデバイス、人間がアクセス可能なストレージデバイス、およびネットワークインターフェースは、コンピュータシステム(2000)のコア(2040)に取り付けることができる。
【0264】
コア(2040)は、1つ以上の中央処理装置(CPU)(2041)、グラフィックスプロセッシングユニット(GPU)(2042)、フィールドプログラマブルゲートエリア(FPGA)(2043)の形態の専用プログラマブル処理装置、特定のタスク用のハードウェアアクセラレータ(2044)、グラフィックスアダプタ(2050)などを含むことができる。これらのデバイスは、読取り専用メモリ(ROM)(2045)、ランダムアクセスメモリ(2046)、内部のユーザアクセス不可能なハードドライブ、SSDなどの内部大容量ストレージ(2047)とともに、システムバス(2048)を通じて接続され得る。一部のコンピュータシステムでは、システムバス(2048)は、追加のCPU、GPUなどによる拡張を可能にするために、1つ以上の物理プラグの形態でアクセス可能とすることができる。周辺デバイスは、コアのシステムバス(2048)に直接取り付けることも、周辺バス(2049)を介して取り付けることもできる。一例では、スクリーン(2010)は、グラフィックスアダプタ(2050)に接続することができる。周辺バスのアーキテクチャは、PCI、USBなどを含む。
【0265】
CPU(2041)、GPU(2042)、FPGA(2043)、およびアクセラレータ(2044)は、組み合わされて、上述のコンピュータコードを構成することができる特定の命令を実行することができる。そのコンピュータコードは、ROM(2045)またはRAM(2046)に記憶することができる。移行データもRAM(2046)に記憶することができるが、永続データは、例えば、内部大容量ストレージ(2047)に記憶することができる。メモリデバイスのいずれかに対する高速の記憶および検索は、1つ以上のCPU(2041)、GPU(2042)、大容量ストレージ(2047)、ROM(2045)、RAM(2046)などと密接に関連付けることができるキャッシュメモリを使用して可能にすることができる。
【0266】
コンピュータ可読媒体は、様々なコンピュータ実装動作を実行するためのコンピュータコードを有することができる。媒体およびコンピュータコードは、本開示の目的のために特別に設計および構築されたものであってもよく、またはコンピュータソフトウェア技術の当業者に周知の利用可能な種類のものであってもよい。
【0267】
限定ではなく例として、アーキテクチャを有するコンピュータシステム(2000)、具体的にはコア(2040)は、(CPU、GPU、FPGA、アクセラレータなどを含む)(1つまたは複数の)プロセッサが1つ以上の有形のコンピュータ可読媒体において具現化されたソフトウェアを実行した結果として機能を提供することができる。このようなコンピュータ可読媒体は、上述のようなユーザアクセス可能な大容量ストレージ、ならびにコア内部大容量ストレージ(2047)またはROM(2045)などの非一時的な性質のものであるコア(2040)の特定のストレージと関連付けられた媒体とすることができる。本開示の様々な実施形態を実装するソフトウェアは、このようなデバイスに記憶され、コア(2040)によって実行することができる。コンピュータ可読媒体は、特定の必要性に応じて、1つ以上のメモリデバイスまたはチップを含むことができる。ソフトウェアは、コア(2040)、および具体的にはその中の(CPU、GPU、FPGAなどを含む)プロセッサに、RAM(2046)に記憶されたデータ構造を定義すること、およびソフトウェアによって定義されたプロセスにしたがってこのようなデータ構造を修正することを含む、本明細書に記載された特定のプロセスまたは特定のプロセスの特定の部分を実行させることができる。加えて、または代替として、コンピュータシステムは、ソフトウェアの代わりに、またはソフトウェアとともに動作して、本明細書に記載される特定のプロセスまたは特定のプロセスの特定の部分を実行することができる、回路(例えば、アクセラレータ(2044))におけるハードワイヤードの、または他の方法で具現化された論理の結果として機能を提供することもできる。ソフトウェアへの言及は、必要に応じて、論理を包含することができ、その逆も同様である。必要に応じて、コンピュータ可読媒体への言及は、実行のためのソフトウェアを記憶する回路(集積回路(IC)など)、実行のための論理を具現化する回路、またはこれらの両方を包含することができる。本開示は、ハードウェアとソフトウェアの任意の適切な組合せを包含する。
付記A:頭字語
JEM:共同探索モデル
VVC:多用途ビデオコーディング
BMS:ベンチマークセット
MV:動きベクトル
HEVC:高効率ビデオコーディング
SEI:補足拡張情報
VUI:ビデオユーザビリティ情報
GOP:ピクチャグループ
TU:変換ユニット
PU:予測ユニット
CTU:コーディングツリーユニット
CTB:コーディングツリーブロック
PB:予測ブロック
HRD:仮想参照デコーダ
SNR:信号対雑音比
CPU:中央処理装置
GPU:グラフィックスプロセッシングユニット
CRT:陰極線管
LCD:液晶ディスプレイ
OLED:有機発光ダイオード
CD:コンパクトディスク
DVD:デジタルビデオディスク
ROM:読取り専用メモリ
RAM:ランダムアクセスメモリ
ASIC:特定用途向け集積回路
PLD:プログラマブル論理デバイス
LAN:ローカルエリアネットワーク
GSM:グローバル移動体通信システム
LTE:ロングタームエボリューション
CANBus:コントローラエリアネットワークバス
USB:ユニバーサルシリアルバス
PCI:周辺機器相互接続
FPGA:フィールドプログラマブルゲートエリア
SSD:ソリッドステートドライブ
IC:集積回路
CU:コーディングユニット
【0268】
本開示はいくつかの例示的な実施形態を説明してきたが、修正例、置換例、および様々な代替均等例があり、それらは本開示の範囲内にある。したがって、当業者は、本明細書に明示的に図示または記載されていないが、本開示の原理を具現化し、したがって、その趣旨および範囲内にある、多数のシステムおよび方法を考案できることが理解されよう。
【符号の説明】
【0269】
101 サンプル
102 矢印
103 矢印
104 正方形ブロック
201 現在のブロック
202 周囲サンプル
203 周囲サンプル
204 周囲サンプル
205 周囲サンプル
206 周囲サンプル
300 通信システム
310 端末デバイス
320 端末デバイス
330 端末デバイス
340 端末デバイス
350 ネットワーク
400 通信システム
401 ビデオソース
402 ストリーム
403 ビデオエンコーダ
404 エンコーディングされたビデオデータ
405 ストリーミングサーバ
406 クライアントサブシステム
407 エンコーディングされたビデオデータのコピー
408 クライアントサブシステム
409 エンコーディングされたビデオデータのコピー
410 ビデオデコーダ
411 出力ストリーム
412 ディスプレイ
413 キャプチャサブシステム
420 電子デバイス
430 電子デバイス
501 チャネル
510 ビデオデコーダ
512 レンダリングデバイス
515 バッファメモリ
520 パーサ
521 シンボル
530 電子デバイス
531 受信機
551 スケーラ/逆変換ユニット
552 イントラピクチャ予測ユニット
553 動き補償予測ユニット
555 アグリゲータ
556 ループフィルタユニット
557 参照ピクチャメモリ
558 ピクチャバッファ
601 ビデオソース
603 ビデオエンコーダ
620 電子デバイス
630 ソースコーダ
632 コーディングエンジン
633 ローカルビデオデコーダ
634 参照ピクチャメモリ
635 予測器
640 送信機
643 コーディングされたビデオシーケンス
645 エントロピーコーダ
650 コントローラ
660 通信チャネル
703 ビデオエンコーダ
721 汎用コントローラ
722 イントラエンコーダ
723 残差計算器
724 残差エンコーダ
725 エントロピーエンコーダ
726 スイッチ
728 残差デコーダ
730 インターエンコーダ
810 ビデオデコーダ
871 エントロピーデコーダ
872 イントラデコーダ
873 残差デコーダ
874 再構成モジュール
880 インターデコーダ
911 ピクチャヘッダ
912 適応解像度変更(ARC)情報
924 ピクチャパラメータセット(PPS)
925 ARC参照情報
926 テーブル
927 シーケンスパラメータセット(SPS)
938 タイルグループヘッダ
939 ARC情報
941 適応パラメータセット(APS)
942 ARC情報
953 ARC参照情報
954 タイルグループヘッダ
955 ARC情報
956 SPS
1000 テーブル
1101 タイルグループヘッダ
1102 構文要素
1103 フラグ
1111 フラグ
1112 if()文
1113 出力解像度
1114 構文要素
1115 参照ピクチャ寸法
1116 構文要素
1117 構文要素
1301 制約フラグ
1302 制約フラグ
1303 フラグ
1304 フラグ
1305 制約フラグ
1306 制約フラグ
1501 ゲートフラグ
1502 ゲートフラグ
1503 ゲートフラグ
1504 ゲートフラグ
1505 ゲートフラグ
1506 ゲートフラグ
1507 ゲートフラグ
1508 ゲートフラグ
1510 制約情報グループ
1511 制約フラグ
1512 制約フラグ
1513 制約フラグ
1514 制約フラグ
1520 制約情報グループ
1530 構文
1600 構文構造
1601 汎用制約情報(GCI)ビット
1602 GCIビット
1603 GCIビット
1604 GCIビット
1605 GCIビット
1700 構文構造
1701 構文要素
1702 構文要素
1703 構文要素
1704 構文要素
1705 構文要素
1800 プロセス
1900 プロセス
2000 コンピュータシステム
2001 キーボード
2002 マウス
2003 トラックパッド
2005 ジョイスティック
2006 マイクロフォン
2007 スキャナ
2008 カメラ
2009 スピーカ
2010 スクリーン
2020 CD/DVD ROM/RW
2021 CD/DVDまたは同様の媒体
2022 サムドライブ
2023 リムーバブルハードドライブまたはソリッドステートドライブ
2040 コア
2041 中央処理装置(CPU)
2042 グラフィックスプロセッシングユニット(GPU)
2043 フィールドプログラマブルゲートエリア(FPGA)
2044 ハードウェアアクセラレータ
2045 読取り専用メモリ(ROM)
2046 ランダムアクセスメモリ
2047 内部大容量ストレージ
2048 システムバス
2049 周辺バス
2050 グラフィックスアダプタ
2054 インターフェース
2055 通信ネットワーク
図1A
図1B
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14A
図14B
図15A
図15B
図16
図17
図18
図19
図20