特許 7511668 ビデオコーディングの並列処理の改良

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-06-27

(45)【発行日】2024-07-05

(54)【発明の名称】ビデオコーディングの並列処理の改良

(51)【国際特許分類】

   H04N 19/70 20140101AFI20240628BHJP

   H04N 19/436 20140101ALI20240628BHJP

【ＦＩ】

H04N19/70

H04N19/436

【請求項の数】 16

(21)【出願番号】P 2022561659

(86)(22)【出願日】2021-10-18

(65)【公表番号】

(43)【公表日】2023-06-02

(86)【国際出願番号】 US2021055365

(87)【国際公開番号】W WO2022203722

(87)【国際公開日】2022-09-29

【審査請求日】2022-10-07

(31)【優先権主張番号】63/164,633

(32)【優先日】2021-03-23

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】17/499,700

(32)【優先日】2021-10-12

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】520353802

【氏名又は名称】テンセント・アメリカ・エルエルシー

(74)【代理人】

【識別番号】100107766

【弁理士】

【氏名又は名称】伊東 忠重

(74)【代理人】

【識別番号】100070150

【弁理士】

【氏名又は名称】伊東 忠彦

(74)【代理人】

【識別番号】100135079

【弁理士】

【氏名又は名称】宮崎 修

(72)【発明者】

【氏名】リー，リン

(72)【発明者】

【氏名】リー，シアン

(72)【発明者】

【氏名】ジュー，ビン

(72)【発明者】

【氏名】ハン，ソーチュル

(72)【発明者】

【氏名】リー，シャン

【審査官】田中 純一

(56)【参考文献】

【文献】特表２０１４－５１１６４７（ＪＰ，Ａ）

【文献】国際公開第２０１６／２０３９８１（ＷＯ，Ａ１）

【文献】米国特許出願公開第２０１２／０２３０４２９（ＵＳ，Ａ１）

【文献】特表２０１５－５２９４３９（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１４／００８６３３３（ＵＳ，Ａ１）

【文献】特開２００５－０２６７２９（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ ７／１２

Ｈ０４Ｎ １９／００ － １９／９８

(57)【特許請求の範囲】

【請求項1】

ビデオプロセッサが実行するビデオ処理の方法であって、
コード化されたビデオビットストリーム内の第１シンタックス要素を受信するステップであって、前記第１シンタックス要素は、高レベルシンタックス要素であり、かつ、前記コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の幅以上であることが保証されるかどうかを示す、ステップと、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記複数の各画像の前記高さが前記ビデオシーケンス内のそれぞれの前記画像の前記幅以上であるかどうかを示す前記第１シンタックス要素によって決定される配向において、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像を処理するステップと、
を含み、
前記ビデオシーケンス内の前記画像を処理するステップは、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記各画像の前記高さが、前記ビデオシーケンス内の各前記画像の前記幅以上であることを示す前記第１シンタックス要素に応答して、前記ビデオシーケンス内の前記画像の１つ以上を波面並列処理（ＷＰＰ）を使用して処理するステップを含む、方法。

【請求項2】

前記第１シンタックス要素は、補足強化情報メッセージ（ＳＥＩ）、ビデオユーザビリティ情報（ＶＵＩ）パラメータセット、又はシーケンスパラメータセット（ＳＰＳ）として送信される、
請求項１記載の方法。

【請求項3】

前記第１シンタックス要素の第１値は、前記ビデオシーケンス内の各前記画像の前記幅が前記ビデオシーケンス内のそれぞれの前記画像の前記高さより小さいことを示す、
請求項１記載の方法。

【請求項4】

前記第１シンタックス要素の第２値は、前記ビデオシーケンス内の前記画像の前記幅が前記ビデオシーケンス内の前記画像の前記高さより小さい可能性があるか又は小さくない可能性があることを示す、
請求項３記載の方法。

【請求項5】

前記第１シンタックス要素が前記ビデオビットストリームにおいてシグナリングされていないときに、前記第１シンタックス要素が前記第２値を有すると推定するステップをさらに含む、
請求項４記載の方法。

【請求項6】

エンコーダにおいて、前記コード化されたビデオビットストリームの前記ビデオシーケンスに対応する入力ビデオシーケンスは、幅より小さい高さを有し、
前記入力ビデオシーケンスの前記高さは、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像の前記幅としてコード化され、
前記入力ビデオシーケンスの前記幅は、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像の前記高さとしてコード化される、
請求項１記載の方法。

【請求項7】

ビデオプロセッサが実行するビデオ処理の方法であって、
コード化されたビデオビットストリーム内の第１シンタックス要素を受信するステップであって、前記第１シンタックス要素は、高レベルシンタックス要素であり、かつ、前記コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の幅以上であることが保証されるかどうかを示す、ステップと、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記複数の各画像の前記高さが前記ビデオシーケンス内のそれぞれの前記画像の前記幅以上であるかどうかを示す前記第１シンタックス要素によって決定される配向において、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像を処理するステップと、
前記ビデオシーケンスの前記画像の前記幅を示す第２シンタックス要素を受信するステップと、
前記ビデオシーケンス内の前記画像の前記高さと前記ビデオシーケンスの前記画像の前記幅との間の差分を示す第３シンタックス要素を受信するステップであって、前記差分は符号なしの整数を使用する、ステップとを含む方法。

【請求項8】

前記ビデオシーケンス内の前記画像を処理するステップは、
前記ビデオシーケンス内の前記画像の前記高さを、前記第２シンタックス要素によって示される前記幅の値及び前記符号なしの整数の和であると決定するステップを含む、
請求項７記載の方法。

【請求項9】

前記方法はさらに、
前記コード化されたビデオビットストリーム内のスライスレベルでシグナリングされる第４シンタックス要素を受信するステップであって、前記第４シンタックス要素は、前記ビデオシーケンス内のスライスに対してコーディングツリーユニット（ＣＴＵ）サイズを示す、ステップを含む、
請求項１又は７記載の方法。

【請求項10】

ビデオプロセッサが実行するビデオ処理の方法であって、
コード化されたビデオビットストリーム内の第１シンタックス要素を受信するステップであって、前記第１シンタックス要素は、高レベルシンタックス要素であり、かつ、前記コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の幅以上であることが保証されるかどうかを示す、ステップと、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記複数の各画像の前記高さが前記ビデオシーケンス内のそれぞれの前記画像の前記幅以上であるかどうかを示す前記第１シンタックス要素によって決定される配向において、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像を処理するステップと、
複数の第４シンタックス要素を受信するステップであって、各前記第４シンタックス要素は前記ビデオシーケンス内の複数のスライスのうちの１つにそれぞれ関連し、前記複数の第４シンタックス要素は、異なるタイプのそれぞれの前記スライスに対して異なるＣＴＵサイズを示す、ステップとを含む方法。

【請求項11】

前記複数の前記スライスにわたって、スライスタイプＩは他のスライスタイプよりも小さなＣＴＵサイズを有する、
請求項１０記載の方法。

【請求項12】

前記方法はさらに、
前記コード化されたビデオビットストリーム中の画像レベルでシグナリングする第５シンタックス要素を受信するステップであって、前記第５シンタックス要素は前記ビデオシーケンス内の前記画像のうちの１つに対するＣＴＵサイズを示す、ステップを含む、
請求項１記載の方法。

【請求項13】

ビデオプロセッサが実行するビデオ処理の方法であって、
コード化されたビデオビットストリーム内の第１シンタックス要素を受信するステップであって、前記第１シンタックス要素は、高レベルシンタックス要素であり、かつ、前記コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の幅以上であることが保証されるかどうかを示す、ステップと、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記複数の各画像の前記高さが前記ビデオシーケンス内のそれぞれの前記画像の前記幅以上であるかどうかを示す前記第１シンタックス要素によって決定される配向において、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像を処理するステップと、
前記コード化されたビデオビットストリーム内のシーケンスパラメータセット（ＳＰＳ）に含まれて、前記ビデオシーケンスの第１ＣＴＵサイズを示す第６シンタックス要素を受信するステップと、
画像レベル又はスライスレベルにおいてシグナリングされて、前記ビデオシーケンス内のそれぞれの画像又はそれぞれのスライスの第２ＣＴＵサイズを示す第７シンタックス要素を受信するステップとを含む方法。

【請求項14】

前記第１ＣＴＵサイズは、前記ビデオシーケンスの最大ＣＴＵサイズであり、
前記第２ＣＴＵサイズは、前記最大ＣＴＵサイズよりも小さい、
請求項１３記載の方法。

【請求項15】

ビデオ処理の装置であって、
請求項１乃至１４いずれか１項記載の方法を実行するように構成された回路を備える、装置。

【請求項16】

ビデオ処理方法であって、
コード化されたビデオビットストリーム内に、高レベルシンタックス要素である第１シンタックス要素であって、前記コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の幅以上であることが保証されるかどうかを示す第１シンタックス要素を含めるステップと、
前記コード化されたビデオビットストリーム内に、前記ビデオシーケンスの前記画像の幅を示す第２シンタックス要素を含めるステップと、
前記コード化されたビデオビットストリーム内に、前記ビデオシーケンス内の前記画像の前記高さと前記ビデオシーケンスの前記画像の前記幅との間の差分を示す第３シンタックス要素を含めるステップであって、前記差分は符号なしの整数を使用して表される、ステップと、
前記ビデオビットストリームをデコーダへ送信するステップとを含み、
前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記画像は、前記コード化されたビデオビットストリームの前記ビデオシーケンス内の前記複数の各画像の前記高さが、前記コード化されたビデオビットストリームの前記ビデオシーケンス内のそれぞれの前記画像の前記幅以上であるかどうかを示す前記第１シンタックス要素によって決定される配向において処理される、方法。

【発明の詳細な説明】

【技術分野】

【0001】

参照による援用
本開示は、２０２１年３月２３日に出願された米国仮出願第６３／１６４，６３３号「Ｉｍｐｒｏｖｅｍｅｎｔ ｏｎ Ｐａｒａｌｌｅｌ Ｐｒｏｃｅｓｓｉｎｇ（並列処理の改善）」に基づく優先権の利益を主張する２０２１年１０月１２日に出願された米国特許出願第１７／４９９，７００号「Ｉｍｐｒｏｖｅｍｅｎｔ ｏｎ Ｐａｒａｌｌｅｌ Ｐｒｏｃｅｓｓｉｎｇ ｉｎ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ビデオコーディングにおける並列処理の改善）」に基づく優先権の利益を主張する。
先の出願の開示は、その全体が参照により本明細書に組み込まれる。

【0002】

技術分野
本開示は、概して、ビデオコーディングに関連する実施形態を記載する。

【背景技術】

【0003】

本明細書で提供される背景説明は、本開示のコンテキストを全般的に提示するためのものである。現在挙げられている発明者の研究は、その研究がこの背景部分に記載されている範囲において、また、出願時に他の点では先行技術として適格でないかもしれない説明の側面において、本開示に対する先行技術として明示的にも黙示的にも認められていない。

【0004】

ビデオコーディングとデコーディングは、動き補正を伴うインター画像予測（ｉｎｔｅｒ－ｐｉｃｔｕｒｅ ｐｒｅｄｉｃｔｉｏｎ）を用いて行うことができる。非圧縮ディジタルビデオは、一連の画像を含むことができ、各画像は、例えば、１９２０×１０８０の輝度サンプル及び関連する色サンプルの空間寸法を有する。一連の画像は、固定又は可変の画像レート（例えば、６０画像／秒又は６０Ｈｚ）を有することができる。非圧縮ビデオは、特定のビットレート要件を有する。例えば、サンプル当たり８ビットの１０８０ｐ６０ ４：２：０ビデオ（６０Ｈｚのフレームレートでの１９２０ｘ１０８０の輝度サンプル解像度）は、１．５Ｇビット／秒に近い帯域幅を必要とする。このようなビデオの１時間は、６００Ｇバイトを超えるストレージ領域を必要とする。

【0005】

ビデオコーディング及びデコーディングの１つの目的は、圧縮による入力ビデオ信号の冗長性の低減である。圧縮は、前述の帯域幅やストレージスペースの要件を、場合によっては２桁以上削減するのに役立つ。可逆圧縮と非可逆圧縮の両方、及びそれらの組み合わせを用いることができる。可逆圧縮とは、元の信号の正確なコピーを圧縮された元の信号から再構成することができる技術をいう。非可逆圧縮を使用する場合、再構成された信号は、元の信号と同一ではないかもしれないが、元の信号と再構成された信号との間の歪みは十分小さく、再構成された信号を意図された用途に役立てられる。ビデオの場合、非可逆圧縮が広く用いられている。許容される歪みの量は、用途に依存し、例えば、特定の消費者ストリーミング用途のユーザは、テレビ配信用途のユーザよりも高い歪みを容認し得る。達成可能な圧縮比は、より高い許容可能／容認可能歪みは、より高い圧縮比をもたらすことができることを反映することができる。

【0006】

ビデオエンコーダ及びデコーダは、例えば、動き補償、変換、量子化、及びエントロピーコーディングを含むいくつかの広範なカテゴリからの技術を利用することができる。

【0007】

ビデオコーデック技術は、イントラコーディングとして知られる技術を含むことができる。イントラコーディングでは、サンプル値は、以前に再構成された参照画像からのサンプル又は他のデータを参照することなく表現される。いくつかのビデオコーデックでは、画像は空間的にサンプルのブロックに分割される。サンプルのすべてのブロックがイントラモードでコーディング又はコード化（ｃｏｄｅｄ）されている場合、その画像はイントラ画像とすることができる。イントラ画像と、独立デコーダリフレッシュ画像等のそれらの派生物は、デコーダ状態をリセットするために用いられることができ、したがって、コーディングされたビデオビットストリーム及びビデオセッションにおける第１画像として、又は静止画像として用いられることができる。イントラブロックのサンプルは変換にさらされることができ、変換係数はエントロピーコーディングの前に量子化されることができる。イントラ予測は、変換前ドメインにおけるサンプル値を最小化する技術であり得る。場合によっては、変換後のＤＣ値がより小さく、ＡＣ係数がより小さいほど、エントロピーコーディング後にブロックを表すための所与の量子化ステップサイズで必要なビットが少なくなる。

【0008】

例えばＭＰＥＧ－２世代のコーディング技術から知られるような従来のイントラコーディングは、イントラ予測を使用しない。しかしながら、いくつかのより新しいビデオ圧縮技術は、例えば空間的に隣接し、かつデコード順で先行するデータブロックのエンコード及び／又はデコード中に取得されるメタデータ及び／又は周辺のサンプルデータから試みる技術を含む。このような技術は、以後「イントラ予測」技術と称される。少なくともいくつかのケースでは、イントラ予測は再構成中の現在の画像からの参照データのみを使用し、参照画像からは使用しないことに留意されたい。

【0009】

さまざまな形式のイントラ予測があり得る。かかり技術のうちの１つ以上が、所与のビデオコーディング技術において用いられることができる場合、使用中の技術は、イントラ予測モードでコーディングされることができる。特定の場合には、モードは、サブモード及び／又はパラメータを有することができ、それらは、個別にコーディングされることができ、又はモードコード名（ｍｏｄｅ ｃｏｄｅｗｏｒｄ）に含まれることができる。所与のモード、サブモード、及び／又はパラメータの組み合わせに使用するコードワードは、イントラ予測によるコーディング効率の向上に影響を与えることができ、したがって、コードワードをビットストリームに変換するために使用されるエントロピーコーディングテクノロジーも影響を及ぼすことができる。

【0010】

特定のイントラ予測モードがＨ．２６４で導入され、Ｈ．２６５で改良され、共同探索モデル（ＪＥＭ：ｊｏｉｎｔ ｅｘｐｌｏｒａｔｉｏｎ ｍｏｄｅｌ）、汎用ビデオコーディング（ＶＶＣ：ｖｅｒｓａｔｉｌｅ ｖｉｄｅｏ ｃｏｄｉｎｇ）、及びベンチマークセット（ＢＭＳ：ｂｅｎｃｈｍａｒｋ ｓｅｔ）等のより新しいコーディング技術でさらに改良された。予測ブロックは、既に利用可能なサンプルに属する隣接又は近接する（ｎｅｉｇｈｂｏｒｉｎｇ）サンプル値を使用して形成されることができる。隣接するサンプルのサンプル値は、方向にしたがって予測ブロックにコピーされる。使用中の方向への参照は、ビットストリームでコーディングされることができ、又はそれ自体が予測されることがある。

【0011】

図１を参照すると、右下に示されているのは、（３５個のイントラモードの３３個の角度モードに対応する、）Ｈ．２６５の３３個の可能な予測方向から知られる９個の予測方向のサブセットである。矢印が集中する点（１０１）は、予測されているサンプルを表す。矢印は、サンプルが予測されている方向を示す。例えば、矢印（１０２）は、サンプル（１０１）が、１つ以上のサンプルから、水平から４５度の角度で右上に向かって予測されることを示す。同様に、矢印（１０３）は、サンプル（１０１）が、１つ以上のサンプル（１０１）から、水平方向から２２．５度の角度でサンプル（１０１）の左下へ予測されることを示す。

【0012】

さらに図１を参照すると、左上には、４×４サンプルの正方形ブロック（１０４）が示されている（破線の太線で示されている）。正方形ブロック（１０４）は、１６個のサンプルを含み、各サンプルは「Ｓ」でラベル付けされ、Ｙ次元におけるその位置（例えば、行インデックス）及びＸ次元におけるその位置（例えば、列インデックス）を含む。例えば、サンプルＳ２１は、Ｙ次元の（頂部から）２番目のサンプル及びＸ次元の（左側から）１番目のサンプルである。同様に、サンプルＳ４４は、ブロック（１０４）内でＹ及びＸ次元の両方において４番目のサンプルである。ブロックのサイズが４×４サンプルであるので、Ｓ４４は右下にある。さらに、同様の番号付けスキームにしたがった参照サンプルを示す。参照サンプルは、Ｒ、ブロック（１０４）に対するそのＹ位置（例えば、行インデックス）及びＸ位置（列インデックス）でラベル付けされる。Ｈ．２６４とＨ．２６５の両方で、予測サンプルは再構成中のブロックに隣接しているため、負の値を使用する必要はない。

【0013】

イントラ画像予測は、信号予測方向に応じて、隣接するサンプルから参照サンプル値をコピーすることによって機能する。例えば、コーディングされたビデオビットストリームは、このブロックについて、矢印（１０２）と一致する予測方向を示す信号を含むと仮定する。すなわち、サンプルは、１つ以上の予測サンプルから右上へ、水平方向から４５度の角度で予測される。その場合、サンプルＳ４１、Ｓ３２、Ｓ２３、及びＳ１４は、同じ参照サンプルＲ０５から予測される。その後、サンプルＳ４４は、参照サンプルＲ０８から予測される。

【0014】

特定の場合には、特に方向が４５度で均等に割り切れない場合には、参照サンプルを計算するために、複数の参照サンプルの値を、例えば内挿によって組み合わせることができる。

【0015】

ビデオコーディング技術の発達に伴って可能性のある方向の数が増加している。Ｈ．２６４（２００３年）では、９つの異なる方向を表すことができた。これは、Ｈ．２６５（２０１３年）で３３に増加し、開示時のＪＥＭ／ＶＶＣ／ＢＭＳでは、最大６５の方向性をサポートできる。最も可能性の高い方向を特定するために実験が行われており、エントロピーコーディングの特定の技術は、少数のビットにおいて、それらの可能性のある方向を表現するために用いられ、より可能性の低い方向に対する特定のペナルティを受け入れる。さらに、方向それ自体は、時々、近接する、すでにデコードされたブロックで使用される近接する方向から予測されることができる。

【0016】

図２は、経時的に増加する予測方向の数を示すために、ＪＥＭによる６５のイントラ予測方向を示す概略図（２０１）を示す。

【0017】

方向を表すコーディングされたビデオビットストリームにおけるイントラ予測方向ビットのマッピングは、ビデオコーディング技術からビデオコーディング技術へ異なることができ、例えば、予測方向の単純な直接マッピングから、イントラ予測モード、コード名、最も可能性の高いモードを含む複合適応方式、及び類似の技術にまで及ぶことができる。しかし、どのような場合でも、ビデオコンテンツにおいて、他の特定の方向よりも統計的に起こりにくい特定の方向が存在し得る。ビデオ圧縮の目標は冗長性の低減であるので、良好に動作するビデオコーディング技術においては、より可能性の低い方向は、より可能性の高い方向よりもより多くのビット数によって表されるであろう。

【0018】

動き補正は、以前に再構成された画像又はその一部（参照画像）からのサンプルデータのブロックが、動きベクトル（以降ＭＶ）によって示される方向に空間的にシフトした後に、新たに再構成された画像又は画像部分の予測に使用される技術に関連することができる。場合によっては、参照画像は現在再構成中の画像と同一であることもできる。ＭＶは、Ｘ及びＹの２次元、又は３次元を有することができ、第３次元は、使用中の参照画像の表示である（後者は、間接的に、時間次元であることができる）。

【0019】

いくつかのビデオ圧縮技術では、サンプルデータの、あるエリアに適用可能なＭＶは、他のＭＶから、例えば、再構成中のエリアに空間的に隣接し、デコードの順序（ｄｅｃｏｄｉｎｇ ｏｒｄｅｒ）でそのＭＶに先行するサンプルデータの別のエリアに関連するＭＶから予測することができる。このようにして、ＭＶのコーディングに必要なデータ量を大幅に削減することができ、それによって冗長性を除去し、圧縮を増大させることができる。ＭＶ予測は効率的に作用することができ、なぜならば、例えば、（ナチュラルビデオとして既知の）カメラから導出された入力ビデオ信号をコーディングする場合、単一のＭＶが適用可能であるエリアよりも大きなエリアは、類似の方向に移動するという統計的可能性があり、したがって、場合によっては、隣接するエリアのＭＶから導出された類似の動きベクトルを用いて予測することができるからである。その結果、所与のエリアについて見出されたＭＶは、周囲のＭＶから予測されるＭＶと類似又は同一になり、それは、エントロピーコーディングの後、ＭＶを直接コーディングする場合に使用されるであろうものよりも、より少ない数のビットで表され得る。場合によっては、ＭＶ予測は、元の信号（すなわち、サンプルストリーム）から導出された信号（すなわち、ＭＶ）の可逆圧縮の例であり得る。他の場合には、ＭＶ予測それ自体は、例えば、いくつかの周囲ＭＶから予測子を計算する際の丸め誤差のために、非可逆的であり得る。

【0020】

様々なＭＶ予測メカニズムがＨ．２６５／ＨＥＶＣ （ＩＴＵ－Ｔ Ｒｅｃ． Ｈ．２６５， Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ， Ｄｅｃｅｍｂｅｒ ２０１６）に、記述されている。Ｈ．２６５が提供する多くのＭＶ予測メカニズムのうち、「空間マージ」と称される技術がある。空間マージでは、現在のブロックは、動き検索プロセス中に、エンコーダによって、空間的にシフトされた同じサイズの先行ブロックから予測可能であることが見出されるサンプルを含み、そのＭＶを直接コーディングする代わりに、１つ以上の参照画像に関連付けられたメタデータから、例えば、最新の（デコード順で）参照画像から、いくつかのマージ候補位置のいずれかに関連付けられたＭＶを使用して、ＭＶを導出することができる。Ｈ．２６５では、ＭＶ予測は、隣接ブロックが使用しているのと同じ参照画像からの予測子を使用することができる。

【発明の概要】

【0021】

本開示の態様は、ビデオプロセッサによるビデオ処理の方法を提供する。方法は、コード化されたビデオビットストリーム内の第１シンタックス要素を受信するステップを含む。第１シンタックス要素は、高レベルシンタックス要素であり、かつ、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、コード化されたビデオビットストリームのビデオシーケンス内のそれぞれの画像の幅以上であることが保証されるかどうかを示す。コード化されたビデオビットストリームのビデオシーケンス内の画像は、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、ビデオシーケンス内のそれぞれの画像の幅以上であるかどうか示す第１シンタックス要素にしたがって決定される方向で処理され得る。

【0022】

一実施形態において、第１シンタックス要素は、補足強化情報メッセージ（ＳＥＩ）、ビデオユーザビリティ情報（ＶＵＩ）パラメータセット、又はシーケンスパラメータセット（ＳＰＳ）として送信される。一実施形態において、第１シンタックス要素の第１値は、ビデオシーケンス内の各画像の幅がビデオシーケンス内のそれぞれの画像の高さより小さいことを示す。第１シンタックス要素の第２値は、ビデオシーケンス内の画像の幅がビデオシーケンス内の画像の高さよりも小さい可能性があるか又は小さくない可能性があること（ｍａｙ ｏｒ ｍａｙ ｎｏｔ）を示す。第１シンタックス要素がビットストリーム中でシグナリングされていない（ｎｏｔ ｓｉｇｎａｌｅｄ）場合、第１シンタックス要素は第２値を有すると推測することができる。

【0023】

一実施形態において、エンコーダでコード化されたビデオビットストリームのビデオシーケンスに対応する入力ビデオシーケンスは、その幅よりも小さい高さを有する。入力ビデオシーケンスの高さは、コード化されたビデオビットストリームのビデオシーケンス内の画像の幅としてコード化され、入力ビデオシーケンスの幅は、コード化されたビデオビットストリームのビデオシーケンス内の画像の高さとしてコード化される。

【0024】

方法の実施形態はさらに、ビデオシーケンスの画像の幅を示す第２シンタックス要素を受信するステップと、ビデオシーケンス内の画像の高さとビデオシーケンスの画像の幅との間の差分を示す第３シンタックス要素を受信するステップであって、差分は符号なしの整数（ｕｎｓｉｇｎｅｄ ｉｎｔｅｇｅｒ）を使用する、ステップと、を含む。例えば、ビデオシーケンス内の画像の高さは、第２シンタックス要素と符号なしの整数とによって示される幅の値の和として決定するステップを含む。

【0025】

一実施形態において、コード化されたビデオビットストリームのビデオシーケンス内の各画像の高さが、ビデオシーケンス内の各画像の幅以上であることを示す第１シンタックス要素に応答して、ビデオシーケンス内の画像の１つ以上を波面並列処理（ＷＰＰ：ｗａｖｅｆｒｏｎｔ ｐａｒａｌｌｅｌ ｐｒｏｃｅｓｓｉｎｇ）を使用して処理することができる。

【0026】

一実施形態において、コード化されたビデオビットストリーム内のスライスレベルでシグナリングされる第４シンタックス要素を受信することができる。第４シンタックス要素は、ビデオシーケンス内のスライスに対してコーディングツリーユニット（ＣＴＵ）サイズを示す。一実施形態において、複数の第４シンタックス要素を受信することができ、各第４シンタックス要素はビデオシーケンス内の複数のスライスのうちの１つにそれぞれ関連する。複数の第４シンタックス要素は、異なるタイプのそれぞれのスライスに対して異なるＣＴＵサイズを示すことができる。一実施形態において、複数のスライスにわたって、スライスタイプＩは他のスライスタイプよりも小さなＣＴＵサイズを有する。

【0027】

一実施形態において、画像レベルでシグナリングされる第５シンタックス要素をコード化されたビデオビットストリームで受信することができる。第５シンタックス要素はビデオシーケンス内の画像のうちの１つに対するＣＴＵサイズを示すことができる。一実施形態において、シーケンスパラメータセット（ＳＰＳ）に含まれる第６シンタックス要素は、コード化されたビデオビットストリームで受信することができ、ビデオシーケンスの第１ＣＴＵサイズを示す。画像レベル又はスライスレベルにおいてシグナリングされる第７シンタックス要素は、受信されることができ、ビデオシーケンス内のそれぞれの画像又はそれぞれのスライスの第２ＣＴＵサイズを示す。実施例において、第１ＣＴＵサイズは、ビデオシーケンスの最大ＣＴＵサイズであり、第２ＣＴＵサイズは、最大ＣＴＵサイズよりも小さい。

【0028】

本開示の態様は、ビデオ処理の装置を提供する。装置は、コード化されたビデオビットストリーム中の第１シンタックス要素を受信するように構成された回路を含むことができる。第１シンタックス要素は、高レベルシンタックス要素であることができ、かつ、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、コード化されたビデオビットストリームのビデオシーケンス内のそれぞれの画像の幅以上であることが保証されるかどうかを示す。コード化されたビデオビットストリームのビデオシーケンス内の複数の画像は、ビデオシーケンス内の複数の各画像の高さがビデオシーケンス内のそれぞれの画像の幅以上であるかどうかを示す第１シンタックス要素にしたがって決定される配向において処理されることができる。

【0029】

本開示の態様は、ビデオプロセッサによるビデオ処理の別の方法をさらに提供する。方法は、コード化されたビデオビットストリーム中に、高レベルシンタックス要素であり、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、コード化されたビデオビットストリームのビデオシーケンス内のそれぞれの画像の幅以上であることが保証されるかどうかを示す。第１シンタックス要素を含むことを含む。コード化されたビデオビットストリームのビデオシーケンス内の複数の画像は、コード化されたビデオビットストリームの複数の各画像の高さがビデオシーケンス内のそれぞれの画像の幅以上であるかどうかを示す第１シンタックス要素にしたがって決定される配向において処理される。

【図面の簡単な説明】

【0030】

開示された主題のさらなる特徴、性質、及び様々な利点は、以下の詳細な説明及び添付の図面からより明らかになるであろう。

【図1】図１は、イントラ予測モードの例示的サブセットの概略図である。

【図2】図２は、例示的なイントラ予測方向の説明図である。

【図3】図３は、一実施形態による通信システム（３００）の簡略ブロック図を模式的に示す図である。

【図4】図４は、一実施形態による通信システム（４００）の簡略ブロック図を模式的に示す図である。

【図5】図５は、一実施形態によるデコーダの簡略ブロック図を模式的に示す図である。

【図6】図６は、一実施形態によるエンコーダの簡略ブロック図を模式的に示す図である。

【図7】図７は、別の実施形態によるエンコーダのブロック図である。

【図8】図８は、別の実施形態によるデコーダのブロック図である。

【図9】図９は、２つのコーディングツリーユニット（ＣＴＵ）の遅延を伴う波面並列プロセス（ＷＰＰ）の例を示す図である。

【図10】図１０は、ＣＴＵの遅延を伴うＷＰＰの別の例を示す図である。

【図11】図１１は、本開示の一実施形態によるプロセス（１１００）の概要を示すフローチャートを示す図である。

【図12】図１２は、一実施形態によるコンピュータシステムを模式的に示す図である。

【発明を実施するための形態】

【0031】

Ｉ．エンコーダ及びデコーダシステム

【0032】

図３は、本開示の一実施形態による通信システム（３００）の簡略化されたブロック図を示す。
通信システム（３００）は、例えばネットワーク（３５０）を介して互いに通信することができる複数の端末デバイスを含む。例えば、通信システム（３００）は、ネットワーク（３５０）を介して相互接続された第１対の端末デバイス（３１０）及び（３２０）を含む。図３の例では、第１対の端末デバイス（３１０）及び（３２０）は、データの一方向送信を行う。例えば、端末デバイス（３１０）は、ビデオデータ（例えば、端末デバイス（３１０）によって捕捉されるビデオ画像のストリーム）をコーディングすることができ、ネットワーク（３５０）を介して他の端末デバイス（３２０）に伝送することができる。エンコードされた画像データは、１つ以上のコーディングされたビデオビットストリームの形態で送信されることができる。端末デバイス（３２０）は、ネットワーク（３５０）からコーディングされたビデオデータを受信し、コーディングされたビデオデータをデコードして、ビデオ画像を復元し、復元されたビデオデータにしたがってビデオ画像を表示することができる。一方向性データ伝送は、メディア提供アプリケーション等において一般的であり得る。

【0033】

別の例では、通信システム（３００）は、第２対の端末デバイス（３３０）及び（３４０）を含み、例えばビデオ会議中に、発生し得るコーディングされたビデオデータの双方向伝送を行う。データの双方向伝送のために、例えば、端末デバイス（３３０）及び（３４０）の各端末デバイスは、ネットワーク（３５０）を介して端末デバイス（３３０）及び（３４０）の他方の端末デバイスに伝送するために、ビデオデータ（例えば、端末デバイスによって捕捉されるビデオ画像のストリーム）をコーディングし得る。端末デバイス（３３０）及び（３４０）の各端末デバイスは、端末デバイス（３３０）及び（３４０）の他方の端末デバイスによって送信されたコーディングされたビデオデータを受信し、コーディングされたビデオデータをデコードして、ビデオ画像を復元し、復元されたビデオデータにしたがって、アクセス可能な表示デバイスにビデオ画像を表示し得る。

【0034】

図３の例では、端末デバイス（３１０）、（３２０）、（３３０）及び（３４０）は、サーバ、パーソナルコンピュータ及びスマートフォンとして示され得るが、本発明の原理はこれらに限定されない。本発明の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレーヤ、及び／又は専用のビデオ会議機器への適用を見出す。ネットワーク（３５０）は、例えばワイヤライン（有線）及び／又は無線通信ネットワークを含む、端末デバイス（３１０）、（３２０）、（３３０）及び（３４０）の間でコーディングされたビデオデータを伝達する任意の数のネットワークを表す。通信ネットワーク（３５０）は、回線交換及び／又はパケット交換チャネル内のデータを交換することができる。代表的なネットワークには、テレコミュニケーションネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク及び／又はインターネットが含まれる。本説明の目的のためには、以下に説明しない限り、ネットワーク（２５０）のアーキテクチャ及びトポロジーは本発明の動作には重要ではない可能性がある。

【0035】

図４は、開示された主題の適用例として、ストリーミング環境におけるビデオエンコーダ及びビデオデコーダの配置を示す。開示された主題は、例えば、ビデオ会議、デジタルＴＶや、ＣＤ、ＤＶＤ、メモリースティック等を含むデジタルメディアへの圧縮ビデオの保存等を含む、他のビデオ対応アプリケーションに等しく適用することができる。

【0036】

ストリーミングシステムは、例えば、非圧縮のビデオ画像（４０２）のストリームを生成するビデオソース（４０１）、例えばデジタルカメラを含むことができるキャプチャサブシステム（４１３）を含み得る。一実施形態では、ビデオ画像のストリーム（４０２）は、デジタルカメラによって撮影されるサンプルを含む。エンコードされたビデオデータ（４０４）（又はコーディングされたビデオビットストリーム）と比較した場合に、高データ量を強調するために太線として描かれたビデオ画像のストリーム（４０２）は、ビデオソース（４０１）に結合されたビデオエンコーダ（４０３）を含む電子デバイス（４２０）によって処理されることができる。ビデオエンコーダ（４０３）は、ハードウェア、ソフトウェア、又はそれらの組み合わせを含むことができ、以下により詳細に説明されるように、開示された主題の態様を可能にし、又は実施する。エンコードされたビデオデータ（４０４）（又はエンコードされたビデオビットストリーム（４０４））は、ビデオ画像（４０２）のストリームと比較した場合に、より低いデータ量を強調するために細線として示され、将来の使用のためにストリーミングサーバ（４０５）に格納され得る。図４のクライアントサブシステム（４０６）及び（４０８）等の１つ以上のストリーミングクライアントサブシステムは、ストリーミングサーバ（４０５）にアクセスすることができ、エンコードされたビデオデータ（４０４）のコピー（４０７）及び（４０９）を読み出すことができる。クライアントサブシステム（４０６）は、例えば電子デバイス（４３０）内のビデオデコーダ（４１０）を含むことができる。ビデオデコーダ（４１０）は、エンコードされたビデオデータの入力コピー（４０７）をデコードし、ディスプレイ（４１２）（例えばディスプレイスクリーン）又は他のレンダリングデバイス（図示せず）上にレンダリングすることができるビデオ画像の出力ストリーム（４１１）を生成する。いくつかのストリーミングシステムでは、エンコードされたビデオデータ（４０４）、（４０７）及び（４０９）（例えば、ビデオビットストリーム）は、特定のビデオコーディング／圧縮標準にしたがってコーディングされることができる。これらの標準の例は、ＩＴＵ－Ｔ勧告Ｈ．２６５を含む。例えば、開発中のビデオコーディング規格は、汎用ビデオコーディング（ＶＶＣ）として非公式に知られている。開示された主題は、ＶＶＣのコンテキストで使用され得る。

【0037】

電子デバイス（４２０）及び（４３０）は、他の構成要素（図示せず）を含むことができることに留意されたい。例えば、電子デバイス（４２０）は、ビデオデコーダ（図示せず）を含むことができ、電子デバイス（４３０）は、ビデオエンコーダ（図示せず）も含むことができる。

【0038】

図５は、本開示の一実施例によるビデオデコーダ（５１０）のブロック図を示す。ビデオデコーダ（５１０）は、電子デバイス（５３０）に含まれることができる。電子デバイス（５３０）は、受信器（５３１）（例えば、受信回路）を含むことができる。ビデオデコーダ（５１０）は、図４の例のビデオデコーダ（４１０）の代わりに使用されることができる。

【0039】

受信器（５３１）は、ビデオデコーダ（５１０）によってデコードされるべき１つ以上のコーディングされたビデオシーケンスを受信することができ、同一又は別の実施形態では、一度に１つのコーディングされたビデオシーケンスを受信することができ、その際、各コーディングされたビデオシーケンスのデコーディングは、他のコーディングされたビデオシーケンスから独立している。コーディングされたビデオシーケンスは、チャネル（５０１）から受信することができ、このチャネルは、エンコードされたビデオデータを格納するストレージデバイスへのハードウェア／ソフトウェアリンクであり得る。受信器（５３１）は、エンコードされたビデオデータを、他のデータ、例えばコーディングされたオーディオデータ及び／又は付随的なデータストリームと共に受信することができ、これらのデータは、それぞれのエンティティ（図示せず）を使用して転送され得る。受信器（５３１）は、コーディングされたビデオシーケンスを他のデータから分離することができる。ネットワークジッタに対抗するために、バッファメモリ（５１５）が、受信器（５３１）とエントロピーデコーダ／パーサ（５２０）（以後「パーサ（５２０）」）との間に結合され得る。特定の用途では、バッファメモリ（５１５）はビデオデコーダ（５１０）の一部である。他の場合には、ビデオデコーダ（５１０）の外側にあることができる（図示せず）。さらに別の場合には、例えばネットワークジッタに対抗するために、ビデオデコーダ（５１０）の外側にバッファメモリ（図示せず）が存在することができ、さらに、例えば再生タイミング（ｐｌａｙｏｕｔ ｔｉｍｉｎｇ）を処理するために、ビデオデコーダ（５１０）の内側に別のバッファメモリ（５１５）が存在することもできる。受信器（５３１）が、十分な帯域幅及び制御可能性の記憶／転送デバイスから、又は、アイソクロナスネットワーク（ｉｓｏｓｙｎｃｈｒｏｎｏｕｓ ｎｅｔｗｏｒｋ）から、データを受信している場合、バッファメモリ（５１５）は不要であるか、又は小さくてもよい。インターネット等のベストエフォート型パケットネットワークでの使用のために、バッファメモリ（５１５）は、必要とされ、比較的大きく、有利には適応サイズであり得、ビデオデコーダ（５１０）の外側のオペレーティングシステム又は類似の要素（図示せず）に少なくとも部分的に実装され得る。

【0040】

ビデオデコーダ（５１０）は、コーディングされたビデオシーケンスからシンボル（５２１）を再構成するためのパーサ（５２０）を含み得る。これらのシンボルのカテゴリは、図５に示されているように、ビデオデコーダ（５１０）の動作を管理するために使用される情報、及び、電子デバイス（５３０）の不可欠な部分ではないが、電子デバイス（５３０）に結合され得るレンダリングデバイス（５１２）（例えば、表示スクリーン）等のレンダリングデバイスを制御する潜在的な情報を含む。（複数の）レンダリングデバイスの制御情報は、付加拡張情報（ＳＥＩメッセージ）又はビデオユーザビリティ情報（ＶＵＩ）パラメータセットフラグメント（図示せず）の形態であり得る。パーサ（５２０）は、受信されるコーディングされたビデオシーケンスをパースし／エントロピーデコードすることができる。コーディングされたビデオシーケンスのコーディングは、ビデオコーディング技術又は標準に従うことができ、可変長コーディング、ハフマンコーディング、コンテキスト感度を伴う又は伴わない算術コーディングなどを含む種々の原理に従うことができる。パーサ（５２０）は、グループに対応する少なくとも１つのパラメータに基づいて、ビデオデコーダ内のピクセルのサブグループのうちの少なくとも１つに対するサブグループパラメータのセットを、コーディングされたビデオシーケンスから抽出し得る。サブグループは、画像グループ（ＧＯＰ）、画像、タイル、スライス、マクロブロック、コーディングユニット（ＣＵ）、ブロック、変換ユニット（ＴＵ）、予測ユニット（ＰＵ）等を含み得る。パーサ（５２０）はまた、変換係数、量子化パラメータ値、動きベクトル等の情報を、コーディングされたビデオシーケンスから抽出し得る。

【0041】

パーサ（５２０）は、シンボル（５２１）を生成するように、バッファメモリ（５１５）から受信したビデオシーケンスに、エントロピーデコード／パース動作を実行し得る。

【0042】

シンボル（５２１）の再構成は、コーディングされたビデオ画像又はその部分のタイプ（例えば、画像間及び画像内、ブロック間及びブロック内）及び他の要因に応じて、複数の異なるユニットを含むことができる。どのユニットが、どのように含まれているかは、パーサ（５２０）によってコーディングされたビデオシーケンスからパースされたサブグループ制御情報によって制御されることができる。パーサ（５２０）と以下の複数ユニットとの間のかかるサブグループ制御情報のフローは、明確さのために図示されていない。

【0043】

すでに述べた機能ブロックの他に、ビデオデコーダ（５１０）は、概念的に、以下に説明するように、いくつかの機能ユニットに分割されることができる。商業的制約の下で動作する実用的な実装では、これらのユニットの多くは互いに密接に相互作用し、少なくとも部分的に互いに統合されることができる。しかしながら、開示された主題を説明するの目的で、以下の機能単位に概念的に細分化することが適切である。

【0044】

第１ユニットは、スケーラ／逆変換ユニット（５５１）である。スケーラ／逆変換ユニット（５５１）は、量子化された変換係数、並びに、パーサ（５２０）から（複数の）シンボル（５２１）として、使用されるべき変換、ブロックサイズ、量子化係数、量子化スケーリング行列などを含む制御情報を受信する。スケーラ／逆変換ユニット（５５１）は、アグリゲータ（５５５）に入力可能なサンプル値を含むブロックを出力することができる。

【0045】

いくつかの場合には、スケーラ／逆変換（５５１）の出力サンプルは、イントラコーディングされたブロックに関係することができる；すなわち、先行して再構成された画像からの予測情報を使用していないが、現在の画像のうちの、先行して再構成された部分からの予測情報を使用できるブロック。かかる予測情報は、イントラ画像予測ユニット（５５２）によって提供されることができる。場合によっては、イントラ画像予測ユニット（５５２）は、現在の画像バッファ（５５８）からフェッチされた周囲の既に再構成された情報を使用して、再構成中のブロックと同じサイズ及び形状のブロックを生成する。現在の画像バッファ（５５８）は、例えば、部分的に再構成された現在の画像及び／又は完全に再構成された現在の画像をバッファする。アグリゲータ（５５５）は、場合によっては、サンプル毎に、イントラ予測ユニット（５５２）が生成した予測情報を、スケーラ／逆変換ユニット（５５１）によって提供される出力サンプル情報に加算する。

【0046】

他の場合には、スケーラ／逆変換ユニット（５５１）の出力サンプルは、インターコーディングに関係し、潜在的に動き補償ブロックに関係することができる。かかる場合、動き補償予測ユニット（５５３）は、予測に使用されるサンプルをフェッチするために参照画像メモリ（５５７）にアクセスすることができる。ブロックに関連するシンボル（５２１）にしたがって、フェッチされたサンプルを動き補償した後、これらのサンプルは、出力サンプル情報を生成するために、アグリゲータ（５５５）によって、スケーラ／逆変換ユニット（５５１）の出力（この場合、残差サンプル又は残差信号と称される）に加算されることができる。動き補償予測ユニット（５５３）が予測サンプルをフェッチする参照画像メモリ（５５７）内のアドレスは、動きベクトルによって制御することができ、例えばＸ、Ｙ、及び参照画像コンポーネントを有することができるシンボル（５２１）の形態で動き補償予測ユニット（５５３）に利用可能である。動き補償はまた、サブサンプルの正確な動きベクトルが使用されている場合には、参照画像メモリ（５５７）からフェッチされるようにサンプル値を補間すること、動きベクトル予測機構、等を含むことができる。

【0047】

アグリゲータ（５５５）の出力サンプルは、ループフィルタユニット（５５６）内の種々のループフィルタリング技術を受けることができる。ビデオ圧縮技術は、インループフィルタ技術（ｉｎ－ｌｏｏｐ ｆｉｌｔｅｒ ｔｅｃｈｎｏｌｏｇｉｅｓ）を含むことができ、コーディングされたビデオシーケンス（コーディングされたビデオビットストリームとも称される）に含まれるパラメータによって制御され、パーサー（５２０）からシンボル（５２１）としてループフィルタユニット（５５６）に利用可能にされるが、コーディングされた画像又はコーディングされたビデオシーケンスと（デコード順において）先行する部分のデコードの間で得られるメタ情報に応答することができると共に、先行して再構成されループフィルタリングされたサンプル値に応答することができる、インループフィルタ技術を含むことができる。

【0048】

ループフィルタユニット（５５６）の出力は、レンダリングデバイス（５１２）に出力されることができ、また将来のイントラ画像予測に使用するために参照画像メモリ（５５７）に記憶されることができるサンプルストリームであることができる。

【0049】

コーディングされた画像は、一旦完全に再構成されると、将来の予測のための参照画像として使用されることができる。例えば、一旦現在の画像に対応するコーディング画像が完全に再構成され、（例えば、パーサ（５２０）によって）コーディングされた画像が参照画像として識別されると、現在の画像バッファ（４５５８）は参照画像メモリ（５５７）の一部となることができ、新たな現在画像バッファは、後続のコーディング画像の再構成を開始する前に再割当てされ得る。

【0050】

ビデオデコーダ（５１０）は、ＩＴＵ－Ｔ Ｒｅｃ．Ｈ．２６５．等の標準の所定のビデオ圧縮技術にしたがってデコーディング動作を実行し得る。コーディングされたビデオシーケンスは、コーディングされたビデオシーケンスが、ビデオ圧縮技術若しくは標準のシンタックス、及び、ビデオ圧縮技術若しくは標準に文書化されているプロファイルの両方に準拠するという意味で、使用されているビデオ圧縮技術又は標準によって特定されたシンタックスに適合し得る。具体的には、プロファイルは、特定のツールを、そのプロファイルの下で使用できる唯一のツールとして、ビデオ圧縮技術又は標準で使用可能なすべてのツールから選択することができる。また、コンプライアンスのために必要なことは、コーディングされたビデオシーケンスの複雑さが、ビデオ圧縮技術又は標準のレベルによって定義される範囲内にあることであり得る。場合によっては、レベルは、最大画像サイズ、最大フレームレート、最大再構成サンプルレート（例えば、毎秒メガサンプルで測定される）、最大参照画像サイズなどを制限する。レベルによって設定された制限は、場合によっては、仮想参照デコーダ（ＨＲＤ：Ｈｙｐｏｔｈｅｔｉｃａｌ Ｒｅｆｅｒｅｎｃｅ Ｄｅｃｏｄｅｒ）の仕様と、コーディングされたビデオシーケンスでシグナリングされるＨＲＤバッファ管理のメタデータによってさらに制限され得る。

【0051】

一実施形態では、受信器（５３１）は、エンコードされたビデオと共に追加の（冗長な）データを受信することができる。追加データは、コーディングされた（複数の）ビデオシーケンスの部分として含まれ得る。追加のデータは、データを適切にデコードするため、及び／又は元のビデオデータをより正確に再構成するために、ビデオデコーダ（５１０）によって使用され得る。追加のデータは、例えば、時間的、空間的、又は信号雑音比（ＳＮＲ）拡張層、冗長スライス、冗長画像、前方エラー補正コードなどの形態であり得る。

【0052】

図６は、本開示の一実施例によればビデオエンコーダ（６０３）のブロック図を示す。ビデオエンコーダ（６０３）は、電子デバイス（６２０）に含まれる。電子デバイス（６２０）は、送信器（６４０）（例えば送信回路）を含む。図４の例のビデオエンコーダ（４０３）の代わりに、ビデオエンコーダ（６０３）を用いることができる。

【0053】

ビデオエンコーダ（６０３）は、ビデオエンコーダ（６０３）によってコーディングされる（複数の）ビデオ画像を捕捉することができるビデオソース（６０１）（図６の例では電子デバイス（６２０）の一部ではない）からビデオサンプルを受信し得る。別の例では、ビデオソース（６０１）は、電子デバイス（６２０）の一部である。

【0054】

ビデオソース（６０１）は、任意の適切なビット深さ（例えば、８ビット、１０ビット、１２ビット、．．．）、任意の色空間（例えば、ＢＴ．６０１ Ｙ ＣｒＣＢ、ＲＧＢ、．．．）、及び任意の適切なサンプリング構造（例えば、Ｙ ＣｒＣｂ ４：２：０、Ｙ ＣｒＣｂ ４：４：４）であることができるデジタルビデオサンプルストリームの形態で、ビデオエンコーダ（６０３）によってコーディングされるべきソースビデオシーケンスを提供し得る。メディア配信システムにおいて、ビデオソース（６０１）は、予め準備されたビデオを記憶する記憶デバイスであり得る。
ビデオ会議システムでは、ビデオソース（６０１）は、局所画像情報をビデオシーケンスとして捕捉するカメラであり得る。ビデオデータは、シーケンスで見たときに動きをもたらす複数の個々の画像として提供され得る。画像自体は、ピクセルの空間アレイとして組織化されることができ、各ピクセルは、使用中のサンプリング構造、色空間等に応じて、１つ以上のサンプルを含むことができる。当業者は、ピクセルとサンプルの関係を容易に理解することができる。
以下の説明は、サンプルに焦点を当てている。

【0055】

一実施形態によれば、ビデオエンコーダ（６０３）は、ソースビデオシーケンスの画像を、リアルタイムで、又はアプリケーションによって要求される任意の他の時間制約下で、コーディングされたビデオシーケンス（６４３）にコーディングし、圧縮し得る。適切なコーディングスピードを実現することは、コントローラ（６５０）の一つの機能である。いくつかの実施形態において、コントローラ（６５０）は、以下に記載されるように、他の機能ユニットを制御し、他の機能ユニットに機能的に結合される。カップリングは、明確にするため表されない。コントローラ（６５０）によって設定されるパラメータは、レート制御関連パラメータ（画像スキップ、量子化器、レート歪み最適化技術のラムダ値、．．．）、画像サイズ、画像グループレイアウト、最大動きベクトル探索範囲等を含むことができる。コントローラ（６５０）は、特定のシステム設計のために最適化されたビデオエンコーダ（６０３）に関連する他の適切な機能を有するように構成されることができる。

【0056】

いくつかの実施形態では、ビデオエンコーダ（６０３）は、コーディングループで動作するように構成される。過剰に単純化された説明として、一例において、コーディングループは、（例えば、コーディングされるべき入力画像及び参照画像に基づいて、シンボルストリーム等のシンボルを生成する責任を担う）ソースコーダ（６３０）と、ビデオエンコーダ（６０３）に埋め込まれた（ローカル）デコーダ（６３３）とを含むことができる。デコーダ（６３３）は、（シンボルとコーディングされたビデオビットストリームとの間の任意の圧縮が、開示された主題において考慮されたビデオ圧縮技術において可逆的であるように）、（リモート）デコーダも作成するのと同様の方法で、シンボルを再構成してサンプルデータを作成する。再構成されたサンプルストリーム（サンプルデータ）は、参照画像メモリ（６３４）に入力される。シンボルストリームのデコーディングは、デコーダロケーション（ローカル又はリモート）に依存しないビットイクザクトな結果（ｂｉｔ－ｅｘａｃｔ ｒｅｓｕｌｔｓ）をもたらすので、参照画像メモリ（６３４）中の内容もまた、ローカルエンコーダとリモートエンコーダとの間でビットイクザクトである。換言すれば、エンコーダの予測部分は、デコーダがデコード中に予測を使用するときに「見る」のとまったく同じサンプル値を参照画像サンプルとして「見る」。参照画像同期性のこの基本原理（及び、例えばチャンネルエラーのために、同期性が維持できない場合の結果として生じるドリフト）は、いくつかの関連技術においても同様に使用される。

【0057】

「ローカル」デコーダ（５３３）の動作は、ビデオデコーダ（４１０）等の「リモート」デコーダと同じであることができ、これは、図５と関連して詳細に既に上述したとおりである。しかしながら、図５も簡単に参照すると、シンボルが利用可能であり、エントロピーコーダ（６４５）及びパーサ（５２０）によるコーディングビデオシーケンスへのシンボルのコーディング／デコーディングが可逆的であることができるので、バッファメモリ（５１５）を含むビデオデコーダ（５１０）のエントロピーデコーディング部分及びパーサ（５２０）は、ローカルデコーダ（６３３）に完全には実装されない場合がある。

【0058】

この点で行うことができる観察は、デコーダ内に存在するパース／エントロピーデコードを除く任意のデコーダ技術もまた、対応するエンコーダ内に実質的に同一の機能的形態で存在する必要があることである。このために、開示された主題は、デコーダ動作に集中する。それらが包括的に記載されているデコーダ技術の逆であるにつれて、エンコーダ技術の説明は略記されることができる。特定の領域だけで、より多くの詳細説明が、必要とされて、下でなされる。

【0059】

動作中に、いくつかの例において、ソースコーダ（６３０）は、「参照画像」として指定されたビデオシーケンスからの１つ以上の、先行してコーディングされた画像を参照して入力画像を予測的にコーディングする、動き補償予測コーディングを実行し得る。このようにして、コーディングエンジン（６３２）は、入力画像のピクセルブロックと、入力画像に対する（複数の）予測参照として選択され得る（複数の）参照画像のピクセルブロックとの間の差をコーディングする。

【0060】

ローカルビデオデコーダ（６３３）は、ソースコーダ（６３０）によって生成されたシンボルに基づいて、参照画像として指定され得る画像のコーディングされたビデオデータをデコードし得る。コーディングエンジン（６３２）の動作は、有利には、非可逆プロセスであり得る。コーディングされたビデオデータがビデオデコーダ（図６には示されていない）でデコードされ得る場合、再構成されたビデオシーケンスは、典型的には、いくつかのエラーを伴うソースビデオシーケンスの複であり得る。ローカルビデオデコーダ（６３３）は、参照画像上でビデオデコーダによって実行され、参照画像キャッシュ（６３４）に記憶されるべき再構成された参照画像を生じさせ得るデコーディング処理を繰り返す。このようにして、ビデオエンコーダ（６０３）は、遠位端ビデオデコーダによって得られるであろう再構成された参照画像として、共通のコンテンツを有する再構成された参照画像のコピーをローカルに記憶することができる。

【0061】

予測器（６３５）は、コーディングエンジン（６３２）について予測サーチを実行し得る。すなわち、コーディングされるべき新しい画像について、予測器（６３５）は、新しい画像についての適切な予測参照として役立ち得る、参照画像動きベクトル、ブロック形状等の特定のメタデータ、又は、サンプルデータ（参照ピクセルブロックの候補として）、について参照画像メモリ（６３４）を検索し得る。予測器（６３５）は、適切な予測参照を見出すために、サンプルブロック毎に動作し得る。場合によっては、予測器（６３５）によって得られた検索結果によって決定されるように、入力画像は、参照画像メモリ（６３４）に記憶された複数の参照画像から引き出された予測参照を有し得る。

【0062】

コントローラ（６５０）は、例えば、ビデオデータをエンコードするために使用されるパラメータ及びサブグループパラメータの設定を含む、ソースコーダ（６３０）のコーディング動作を管理し得る。

【0063】

上述した機能ユニットの全ての出力は、エントロピーコーダ（６４５）におけるエントロピーコーディングを受け得る。エントロピーコーダ（６４５）は、ハフマンコーディング、可変長コーディング、算術コーディング等の技術にしたがって、シンボルを可逆的に圧縮することによって、種々の機能ユニットによって生成されたシンボルをコーディングされたビデオシーケンスに変換する。

【0064】

送信器（６４０）は、エントロピーコーダ（６４５）によって作成されたコーディングされたビデオシーケンスをバッファすることができ、エンコードされたビデオデータを格納するであろうストレージデバイスへのハードウェア／ソフトウェアリンクであり得る通信チャネル（６６０）を経由した送信のために用意する。送信器（６４０）は、ビデオ・コーダ（６０３）からのコーディングされたビデオデータを、例えばコーディングされたオーディオデータ及び／又は補助的なデータ・ストリーム（図示せず）等の、送信されるべき他のデータとともにマージし得る。

【0065】

コントローラ（６５０）は、ビデオエンコーダ（６０３）の動作を管理し得る。コーディングの間、コントローラ（６５０）は、各コーディングされた画像に、特定のコーディングされた画像タイプを割り当てることができ、これは、各画像に適用され得るコーディング技術に影響を及ぼし得る。例えば、画像は、しばしば、次の画像タイプの１つとして割り当てられる：

【0066】

イントラ画像（Ｉ画像）は、予測ソースとしてシーケンス内の他の画像を使用することなく、コーディングされ、デコードされ得る。いくつかのビデオコーデックは、例えば、独立デコーダリフレッシュ（「ＩＤＲ」：Ｉｎｄｅｐｅｎｄｅｎｔ Ｄｅｃｏｄｅｒ Ｒｅｆｒｅｓｈ）画像を含む、異なるタイプのイントラ画像を許容する。当業者は、Ｉ画像のこれらの変形例、並びにそれらのそれぞれの用途及び特徴を認識している。

【0067】

予測画像（Ｐ画像）は、各ブロックのサンプル値を予測するために、最大で１つの運動ベクトルと参照インデックスを用いるインター予測又はイントラ予測を使用して、コーディングされ、デコードされ得るものであり得る。

【0068】

双方向（ｂｉ－ｄｉｒｅｃｔｉｏｎａｌｌｙ）予測画像（Ｂ画像）は、各ブロックのサンプル値を予測するために、最大で２つの動きベクトルと参照インデックスを用いるインター予測又はイントラ予測を使用して、コーディングされ、デコードされ得るものであり得る。同様に、複数の予測画像は、１つのブロックの再構成のために、２つ以上の参照画像及び関連するメタデータを使用することができる。

【0069】

ソース画像は、通常、空間的に複数のサンプルブロック（例えば、４×４、８×８、４×８、又は１６×１６の各サンプルのブロック）に分割され、ブロック毎にコーディングされる。ブロックは、ブロックのそれぞれの画像に適用されるコーディング割り当てによって決定された、他の（既にコーディングされた）ブロックを参照して予測的にコーディングされ得る。例えば、Ｉ画像のブロックは、非予測的にコーディングされるか、又は、それらは、同じ画像の既にコーディングされたブロック（空間予測又はイントラ予測）を参照して予測的にコーディングされ得る。Ｐ画像の画素ブロックは、先行してコーディングされた一つの参照画像を参照して、空間的予測又は時間的予測を介して予測的にコーディングされ得る。Ｂ画像のブロックは、１つ又は２つの、先行してコーディングされた参照画像を参照して、空間的予測を介して、又は時間的予測を介して予測的にコーディングされ得る。

【0070】

ビデオエンコーダ（６０３）は、所定のビデオコーディング技術又はＩＴＵ－Ｔ Ｒｅｃ．Ｈ．２６５．等の標準にしたがってコーディング動作を実行し得る。その動作において、ビデオエンコーダ（６０３）は、入力ビデオシーケンスにおける時間的及び空間的冗長性を活用する予測コーディング動作を含む種々の圧縮動作を実行し得る。したがって、コーディングされたビデオデータは、使用されているビデオコーディング技術又は標準によって指定されたシンタックスに準拠し得る。

【0071】

一実施形態では、送信器（６４０）は、エンコードされたビデオと共に追加データを送信し得る。ソースコーダ（６３０）は、コーディングされたビデオシーケンスの一部としてかかるデータを含めることができる。追加のデータは、時間的／空間的／ＳＮＲ強調レイヤーや、他の形式の冗長データ、例えば冗長画像及びスライス、ＳＥＩメッセージ、ＶＵＩパラメータセットフラグメント等を含み得る。

【0072】

ビデオは、時間シーケンスにおいて複数のソース画像（ビデオ画像）として捕捉され得る。画像内予測（Ｉｎｔｒａ－ｐｉｃｔｕｒｅ ｐｒｅｄｉｃｔｉｏｎ）（しばしば、イントラ予測と略される）は、所与の画像における空間的相関を使用し、画像間予測又はインター予測（ｉｎｔｅｒ－ｐｉｃｔｕｒｅ ｐｒｅｄｉｃｔｉｏｎ）は、画像間の（時間的又は他の）相関を使用する。一例では、現在画像と称されるコーディング／デコーディング中の特定の画像は、ブロックに仕切られる（ｐａｒｔｉｔｉｏｎｅｄ ｉｎｔｏ ｂｌｏｃｋｓ）。現在画像内のブロックが、ビデオ内の、先行してコーディングされ、まだバッファされている参照画像内の参照ブロックに類似する場合、現在の画像内ブロックは、動きベクトルと称されるベクトルによってコーディングされ得る。動きベクトルは、参照画像内の参照ブロックを指し、複数の参照画像が使用されている場合には、参照画像を識別する第３次元を有することができる。

【0073】

いくつかの実施形態において、双方向予測技術（ｂｉ－ｐｒｅｄｉｃｔｉｏｎ ｔｅｃｈｎｉｑｕｅ）は、画像間予測において使用され得る。双方向予測技術によれば、ビデオ内の現在画像に対してデコード順では両方とも先行する（ただし、表示順では、それぞれ過去及び未来であり得る）第１参照画像及び第２参照画像等の２つの参照画像が使用される。現在画像内のブロックは、第１参照画像内の第１参照ブロックを指す第１動きベクトルと、第２参照画像内の第２参照ブロックを指す第２の動きベクトルとによってコーディングされることができる。ブロックは、第１参照ブロックと第２参照ブロックとの組み合わせによって予測されることができる。

【0074】

さらに、コーディング効率を改善するために、インター画像予測にマージモード技術を使用することができる。

【0075】

本開示のいくつかの実施形態によれば、インター画像予測及びイントラ画像予測等の予測は、ブロックの単位で実行される。例えば、ＨＥＶＣ標準によれば、ビデオ画像シーケンス内の画像は、圧縮のためにコーディングツリーユニット（ＣＴＵ）に仕切られ、画像中のＣＴＵは、６４×６４ピクセル、３２×３２ピクセル、又は１６×１６ピクセル等の、同じサイズを有する。一般に、ＣＴＵは、１つのルマＣＴＢ（ｏｎｅ ｌｕｍａ ＣＴＢ）と２つのクロマＣＴＢ（ｔｗｏ ｃｈｒｏｍａ ＣＴＢｓ）である３つのコーディングツリーブロック（ＣＴＢ）を含む。各ＣＴＵは、１つ又は複数のコーディング単位（ＣＵ）に再帰的に４分木分割することができる。例えば、６４×６４ピクセルのＣＴＵは、６４×６４ピクセルの１ＣＵ、３２×３２ピクセルの４ＣＵ、又は１６×１６ピクセルの１６ＣＵに分割することができる。例では、各ＣＵは、インター予測タイプ又はイントラ予測タイプ等の、ＣＵの予測タイプを決定するために分析される。ＣＵは時間的及び／又は空間的予測可能性に依存して１つ以上の予測単位（ＰＵ）に分割される。一般に、各ＰＵはルマ予測ブロック（ＰＢ）と２つのクロマＰＢを含む。一実施形態では、コーディング（エンコード／デコード）における予測動作は、予測ブロックのユニットにおいて実行される。予測ブロックの一例としてルマ予測ブロックを用いると、予測ブロックは、８×８ピクセル、１６×１６ピクセル、８×１６ピクセル、１６×８ピクセル等、ピクセルに対する値（例えば、ルマ値）の行列を含む。

【0076】

図７は、本開示の別の実施形態によるビデオエンコーダ（７０３）の図を示す。ビデオエンコーダ（７０３）は、ビデオ画像シーケンス内の現在ビデオ画像内のサンプル値の処理ブロック（例えば、予測ブロック）を受信し、処理ブロックをコーディングされたビデオシーケンスの一部であるコーディングされた画像にエンコードするように構成されている。一実施形態では、ビデオエンコーダ（７０３）は、図４の例のビデオエンコーダ（４０３）の代わりに使用される。

【0077】

ＨＥＶＣの例では、ビデオエンコーダ（７０３）は、８×８サンプルの予測ブロック等の処理ブロックに対するサンプル値のマトリックスを受信する。ビデオエンコーダ（７０３）は、処理ブロックが、例えばレート歪み最適化を使用して、イントラモード、インターモード、又は双方向予測モードを使用して、最良にコーディングされるかどうかを決定する。処理ブロックがイントラモードでコーディングされる場合、ビデオエンコーダ（７０３）は、処理ブロックをコーディングされた画像にエンコードするためにイントラ予測技術を使用することができ、処理ブロックがインターモード又は双方向予測モードでコーディングされる場合、ビデオエンコーダ（７０３）は、処理ブロックをコーディングされた画像にコーディングするために、それぞれ、インター予測技術又は双方向予測技術を使用し得る。特定のビデオ符号化技術において、モード缶を合併して運動ベクトルが特定の他のビデオ符号化技術においてｐｒｅｄｉｃｔｏｒｓ．＆＃１６０；の外側で符号化運動ベクトル成分の利点のない一つ以上の運動ベクトル・プレディクタに由来するインター画像予測下位モードである、主題ブロックに適用できる運動ベクトル成分は、存在してもよい。一実施形態では、ビデオエンコーダ（７０３）は、処理ブロックのモードを決定するためのモード決定モジュール（図示せず）等の他の構成要素を含む。

【0078】

図７の例では、ビデオエンコーダ（７０３）は、図７に示すように一緒に結合されたエントロピーエンコーダ（７２５）と、インターエンコーダ（７３０）と、イントラエンコーダ（７２２）と、残差計算器（７２３）と、スイッチ（７２６）と、残差エンコーダ（７２４）と、汎用コントローラ（７２１）と、を含む。

【0079】

インターエンコーダ（７３０）は、現在ブロック（例えば、処理ブロック）のサンプルを受信し、ブロックを参照画像内の１つ以上の参照ブロックと比較し（例えば、先行する画像内及び後の画像内のブロック）、インター予測情報（例えば、インターエンコーディング技術による冗長情報の記述、動きベクトル、マージモード情報）を生成し、任意の適切な技術を使用して、インター予測情報に基づいてインター予測結果（例えば、予測ブロック）を計算するように構成される。若干の実施例において、基準ピクチャは、コード化されたビデオ情報に基づいて復号化される復号化基準ピクチャである。

【0080】

イントラエンコーダ（７２２）は、現在ブロック（例えば、処理ブロック）のサンプルを受信し、場合によっては、ブロックを、同じ画像内で既にコーディングされたブロックと比較し、変換後に量子化された係数を生成し、場合によっては、イントラ予測情報（例えば、１つ以上のイントラコーディング技術に従ったイントラ予測方向情報）も生成するように構成されている。一例では、イントラエンコーダ（７２２）はまた、同じ画像内のイントラ予測情報及び参照ブロックに基づいて、イントラ予測結果（例えば、予測ブロック）を計算する。

【0081】

汎用制御デバイス（７２１）は、汎用制御データを決定し、汎用制御データに基づいてビデオエンコーダ（７０３）の他の構成要素を制御するように構成される。一実施形態では、汎用コントローラ（７２１）は、ブロックのモードを決定し、そのモードに基づいてスイッチ（７２６）に制御信号を供給する。例えば、モードがイントラモードの場合、汎用コントローラ（７２１）は、スイッチ（７２６）を制御して、残差計算器（７２３）が使用するイントラモードの結果を選択し、エントロピーエンコーダ（７２５）を制御して、イントラ予測情報を選択し、ビットストリームにイントラ予測情報を含め、モードがインターモードの場合、汎用コントローラ（７２１）は、スイッチ（７２６）を制御して、残差計算器（７２３）が使用するインター予測結果を選択し、エントロピーエンコーダ（７２５）を制御して、インター予測情報を選択し、ビットストリームにインター予測情報を含める。

【0082】

残差計算器（７２３）は、受信されたブロックと、イントラエンコーダ（７２２）又はインターエンコーダ（７３０）から選択された予測結果との差（残差データ）を計算するように構成される。
残差エンコーダ（７２４）は、残差データに基づいて動作し、残差データをエンコードして変換係数を生成するように構成される。一実施例では、残差エンコーダ（７２４）は、残差データを空間ドメインから周波数ドメインにコンバートし、変換係数を生成するように構成される。それから、変換係数は量子化処理に従属して、量子化変換係数を得る。様々な実施形態では、ビデオエンコーダ（７０３）は、残差デコーダ（７２８）も含む。残差デコーダ（７２８）は、逆変換を実行し、デコードされた残差データを生成するように構成される。デコードされた残差データは、イントラエンコーダ（７２２）及びインターエンコーダ（７３０）によって適切に使用されることができる。例えば、インターエンコーダ（７３０）は、デコードされた残差データ及びインター予測情報に基づいてデコードされたブロックを生成することができ、イントラエンコーダ（７２２）は、デコードされた残差データ及びイントラ予測情報に基づいてデコードされたブロックを生成することができる。デコードされたブロックは、いくつかの実施例では、デコードされた画像を生成するために適切に処理され、デコードされた画像は、メモリ回路（図示せず）内でバッファされ、参照画像として使用され得る。

【0083】

エントロピーエンコーダ（７２５）は、エンコードされたブロックを含むようにビットストリームをフォーマットするように構成されている。エントロピーエンコーダ（７２５）は、ＨＥＶＣ標準等の適切な標準にしたがった種々の情報を含むように構成される。一実施例では、エントロピーエンコーダ（７２５）は、汎用制御データ、選択された予測情報（例えば、イントラ予測情報又はインター予測情報）、残差情報、及びビットストリーム内の他の適切な情報を含むように構成される。開示された主題にしたがってインターモード又は双方向予測モードのいずれかのマージサブモードにおけるブロックをコーディングする場合、残差情報は存在しないことに留意されたい。

【0084】

図８は、本開示の別の実施形態によるビデオデコーダ（８１０）の図を示す。ビデオデコーダ（８１０）は、コーディングされたビデオシーケンスの一部であるコーディングされた画像を受信し、コーディングされた画像をデコードして再構成画像を生成するように構成されている。一実施形態では、ビデオデコーダ（８１０）は、図３の実施形態のビデオデコーダ（４１０）の代わりに使用される。

【0085】

図８の実施例では、ビデオデコーダ（８１０）は、図８に示すように一緒に結合されたイントラデコーダ（８７２）と、エントロピーデコーダ（８７１）と、インターデコーダ（８８０）と、残差デコーダ（８７３）と、再構成モジュール（８７４）と、及びを含む。

【0086】

エントロピーデコーダ（８７１）は、コード化された画像から、コード化された画像を作成するシンタックス要素を表す特定のシンボルを再構成するように構成することができる。かかるシンボルは、例えば、ブロックがコーディングされるモード（例えば、イントラモード、インターモード、双方向予測モード、マージサブモード又は別のサブモードにおけるインターモード、双方向予測モード等）、予測情報（例えば、イントラ予測情報又はインター予測情報）を含むことができ、それらは、イントラデコーダ（８２２）又はインターデコーダ（８８０）によって、それぞれ使用される特定のサンプル又はメタデータ、例えば量子化された変換係数の形態の残差情報等、を識別することができる。実施例において、予測モードがインターであるか双予測されたモードであるときに、インター予測情報はインターデコーダ（８８０）に提供される；そして、予測タイプが先行復号化タイプであるときに、先行復号化情報はイントラ・デコーダ（８７２）に提供される。残差情報は、逆量子化を受けることができ、残差デコーダ（８７３）に提供される。

【0087】

インターデコーダ（８８０）は、インター予測情報を受信し、インター予測情報に基づいてインター予測結果を生成するように構成される。

【0088】

イントラデコーダ（８７２）は、イントラ予測情報を受信し、イントラ予測情報に基づいて予測結果を生成するように構成される。

【0089】

残差デコーダ（８７３）は、逆量子化変換係数（ｄｅ－ｑｕａｎｔｉｚｅｄ ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔｓ）を抽出するために逆量子化を実行し、逆量子化変換係数を処理して残差を周波数領域から空間領域にコンバートするように構成される。残差デコーダ（８７３）はまた、特定の制御情報（量子化器パラメータ（ＱＰ）を含む）を必要とすることがあり、その情報は、エントロピーデコーダ（８７１）によって提供され得る（データパスは、低ボリューム制御情報のみであるため、図示されていない）。

【0090】

再構成モジュール（８７４）は、空間領域において、残差デコーダ（８７３）による出力としての残差と、（場合によってはインター又はイントラ予測モジュールによる出力としての）予測結果とを組み合わせて、再構成ブロックを形成するように構成され、これは、再構成画像の一部であり得、したがって、再構成ビデオの一部であり得る。デブロッキング等の他の適切な動作を行って、視覚品質を改善することができることに留意されたい。

【0091】

なお、ビデオエンコーダ（４０３）、（６０３）及び（７０３）と、ビデオデコーダ（４１０）、（５１０）、及び（８１０）とは、任意の適切な技術を用いて実現することができる。一実施形態では、ビデオエンコーダ（４０３）、（６０３）及び（７０３）と、ビデオデコーダ（４１０）、（５１０）及び（８１０）とは、１つ以上の集積回路を使用して実装され得る。別の実施形態では、ビデオエンコーダ（４０３）、（６０３）及び（６０３）と、ビデオデコーダ（４１０）、（５１０）、及び（８１０）とは、ソフトウェア命令を実行する１つ以上のプロセッサを使用して実現することができる。

【0092】

ＩＩ．波面並列処理

【0093】

いくつかの実施態様において、波面並列処理（ＷＰＰ）が並列化のために使用される。ＷＰＰは、高いコーディング損失を生じることなく並列に処理できる画像パーティションの作成を可能にする。図９は、ＷＰＰの一実施例を示す。画像（又はスライス又はタイル）（９００）は、例えば４行のＣＴＵに分割することができる。ＣＴＵの各行は、２つのＣＴＵの遅延と並行して処理することができる。ＣＴＵ（９０１）は、隣接するブロック（左、上、左上、右上）がデコードされた後にデコードされ得る。したがって、隣接するＣＴＵ行間の画像内予測を用いることができる。例えば、ＣＴＵ （９０１）内のブロックのデコードは、矢印（９０２）によって示されるように、左、上、左上、又は右上のＣＴＵ内の隣接ブロックを参照することができる。

【0094】

さらに、すべてのＣＴＵ行の先頭（ｂｅｇｉｎｎｉｎｇ）において、矢印（９０３）によって示されるように、コンテキストベースの適応算術実行（ＣＡＢＡＣ）コンテキストは、右上のＣＴＵの末尾のコンテキストを使用してリセットされる。したがって、隣接するＣＴＵ行間のコーディング依存性（画像内予測及びＣＡＢＡＣコンテキストモデリング）は、例えばタイル又はスライスパーティションに基づいて、他の並列コーディングツールと比較して保存することができる。その結果、より高いコーディング効率が達成され得る。

【0095】

いくつかの実施態様において、例えば、１２８×１２８ピクセルなどの、より大きなＣＴＵサイズが許容される。１ＣＴＵの遅延を伴うＷＰＰを使用することができる。ＣＴＵサイズが大きい場合、１２８×１２８ＣＴＵ中の処理画素数は、２つの６４×６４ＣＴＵ中の処理画素数よりも大きいため、１つのＣＴＵでＣＡＢＡＣ学習に十分であり得る。図１０は、１つのＣＴＵの遅延を有するＷＰＰの別の例を示す。図９の例と同様に、画像（又はスライスもしくはタイル）（１０００）は、例えば、４行のＣＴＵに分割され得る。各行のＣＴＵは、１つのＣＴＵの遅延と並行して処理することができる。ＣＴＵ （１００１）は、隣接するブロック（左、上、及び左上）がデコードされた後にデコードされ得る。右上のＣＴＵ内の参照ブロックは、交差矢印（１００２）によって示されるように、許可されない。第１行のＣＴＵの後の各行中の第１ＣＴＵを処理するとき、ＣＡＢＡＣ確率は、矢印（１００３）によって示されるように、第１ＣＴＵの上側ＣＴＵから継承され得る。

【0096】

ＩＩＩ． ＷＰＰの問題点

【0097】

より大きなＣＴＵサイズを使用すると、ＷＰＰにペナルティを有する。特定の解像度の画像では、より大きいＣＴＵサイズを使用すると並列処理性能が低下する。例えば、より大きなＣＴＵサイズは、より少ない数のＣＴＵ行をもたらし、その結果、並列化可能な処理スレッドの数がより少なくなる可能性がある。加えて、ＷＰＰのパイプライン遅延は、より大きなＣＴＵサイズのためにより長くなり得る。さらに、より大きなＣＴＵサイズは、ＣＴＵの処理（例えば、エンコード／デコード）の処理時間においてより大きな分散を有し得、並列処理における遅延の増加へと導く。

【0098】

ＷＰＰはＣＴＵ行のレベルで処理される。いくつかの実施形態において、ＣＴＵサイズは、例えば、シーケンスパラメータセット（ＳＰＳ）に含まれるシーケンスレベルでシグナリングされ、これは、画像レベル又はスライスレベルでＣＴＵサイズを適合させるための柔軟性がないことを意味する。

【0099】

画像が幅よりも小さい高さを有する場合、画像ラインバッファは水平画素の数及び関連するサイド情報（ｔｈｅ ｒｅｌａｔｅｄ ｓｉｄｅ ｉｎｆｏｒｍａｔｉｏｎ）に依存するので、画像ラインバッファのサイズは比較的大きい。

【0100】

ＩＶ．ＷＰＰの改善

【0101】

１．幅より大きい高さが保証されている画像

【0102】

上記の問題を解決するために、いくつかの実施形態では、エンコーダは、ビデオシーケンスをエンコードするプロセス中に、より長い方の画像サイドを高さとして、より短い方の画像サイドを幅として有する画像をコード化するように構成されることができる。このようにして、ビデオシーケンス内の画像は、それぞれ、より短い画像サイドを高さとして有する場合よりも多くのＣＴＵ行に分割することができる。したがって、ＷＰＰが有効になっている場合は、より多くの並列スレッドを使用して、より良好な並列処理性能を得ることができる。加えて、プロセスは、より短い画像幅のために、より小さいラインバッファサイズが生じ得る。

【0103】

上記のコーディングモードにおけるビデオシーケンスをエンコードする決定は、デコーダ能力の知識などの特定の条件に基づくことができる。例えば、ターゲットデコーダがマルチコアＣＰＵで構成され、並列処理（潜在的にＷＰＰ）に適する場合、上記のコーディングモードを有効にすることができる。

【0104】

上記のコーディングモードが有効であるとき、コード化されたビデオシーケンス内の画像が高さよりも大きい（又は等しい）幅を有することが保証されることをデコーダに知らせるために、シンタックス要素をシグナリングすることができる。例えば、シンタックス要素は、コード化されたビデオシーケンス内の各画像が高さよりも大きい幅を有することを示す。このシグナリングに基づいて、デコーダは、従って、後続のシンタックス要素を復号化することができ、又は、ＷＰＰがコード化されたビデオシーケンスをデコードするために使用できるかどうかを決定することができる。

【0105】

いくつかの実施形態では、高レベルシンタックス要素が、コード化されたビデオシーケンス内の画像の高さが、コード化されたビデオシーケンス内の画像の幅よりも小さくないことが保証されるかどうかを示すために使用される。例えば、高レベルシンタックス要素を、ビデオシーケンス内の画像が、その画像の幅以上の高さを有することを保証するために使用することができる。

【0106】

高レベルシンタックス要素は、ビデオエンコーダで生成し、デコーダにシグナリングすることができる。例では、高レベルシンタックス要素は、補足的な拡張情報（ＳＥＩ）メッセージでシグナリングされる。例えば、高レベルシンタックス要素は、一連のビデオユーザビリティ情報（ＶＵＩ）パラメータの一部としてシグナリングされる。

【0107】

ＳＥＩメッセージ及びＶＵＩパラメータの例示的なシンタックス及びセマンティックスは、例えば、コード化されたビデオビットストリーム用の多用途の補足拡張情報メッセージ（ドラフト５）（Ｖｅｒｓａｔｉｌｅ Ｓｕｐｐｌｅｍｅｎｔａｌ Ｅｎｈａｎｃｅｍｅｎｔ Ｉｎｆｏｒｍａｔｉｏｎ Ｍｅｓｓａｇｅｓ ｆｏｒ Ｃｏｄｅｄ Ｖｉｄｅｏ Ｂｉｔｓｔｒｅａｍｓ （Ｄｒａｆｔ ５））、ＪＶＥＴ－Ｓ２００７－ｖ７， ＩＴＵ－Ｔ ＳＧ １６ ＷＰ ３ ａｎｄ ＩＳＯ／ＩＥＣ ＪＴＣ １／ＳＣ ２９／ＷＧ １１の合同ビデオ専門家チーム（ＪＶＥＴ）、第１８回会議：２０２０年４月１５～２４日の電話会議による、の標準によって定義することができる。標準案は、参照によりその全体が本明細書に組み込まれる。例えば、上記標準案で定義されたＶＵＩパラメータ及びＳＥＩメッセージは、ビデオコーディング仕様で指定された方法でコード化されたビデオビットストリーム内で伝達することができ、又は、かかるコード化されたビデオビットストリームを利用するシステムの仕様によって決定される他の手段によって伝達することもできる。例えば、ＳＥＩメッセージ及びＶＵＩパラメータは、Ｒｅｃ．ＩＴＵ－Ｔ Ｈ．２６６，ＩＳＯ／ＩＥＣ ２３０９０－３によって指定されるように、コード化されたビデオビットストリーム、又は他のタイプのコード化されたビットストリームと共に使用することができる。

【0108】

一実施例では、高レベルシンタックス要素は、例えば、コード化されたビデオビットストリーム内のシーケンスパラメータセット（ＳＰＳ）に含まれる、ビデオシーケンスレベルでシグナリングされる。一実施例では、高レベルシンタックス要素は、例えば、画像パラメータセット（ＰＰＳ）に含まれる画像レベルでシグナリングされる。様々な実施例において、高レベルシンタックス要素は、画像をデコードするときに参照することができる任意のタイプの高レベルシンタックス要素としてシグナリングされることができる。

【0109】

いくつかの実施形態では、高レベルシンタックス要素は、ｗｉｄｔｈ＿ｓｍａｌｌ＿ｈｅｉｇｈｔ＿ｆｌａｇとして示されるフラグである。フラグは、コード化されたビデオビットストリームの任意のレベルで、又はコード化されたビデオビットストリームの外部でシグナリングすることができる。一実施例において、フラグが、値 １ のような第１値を有する場合、フラグは、フラグを参照するビデオシーケンス又は画像が、画像高さよりも小さい画像幅を有することを示すことができる。フラグが、値 ０ のような第２値を有する場合、フラグは、フラグを参照するビデオシーケンス又は画像が、画像高さよりも小さい画像幅を有する可能性があるか又は有さない可能性があることを示すことができる。例えば、第２値は、デコーダの観点から、画像幅が画像高さよりも小さいかどうか不明であることを示すことができる。

【0110】

一実施例では、フラグがコード化されたビデオビットストリーム内でシグナリングされない場合、デコーダは、フラグが特定の値を有することを推測することができる。一実施例では、フラグは、ビデオシーケンスを示す値又はフラグを参照する画像が、画像高さよりも小さい画像幅を有する可能性があるか又は有さない可能性があることを示す値を有すると推定される。別の例では、フラグがコード化されたビデオビットストリーム内でシグナリングされない場合、フラグを参照するビデオシーケンス又は画像が、画像高さよりも小さい画像幅を有することを示す値をフラグが有することを、デコーダが推定することができる。

【0111】

一実施例では、ｗｉｄｔｈ＿ｓｉｇｈｔ＿ｈｅｉｇｈｔ＿ｆｌａｇは、下記の表１に示すように、ＳＰＳで署名することができる。

【表1】

【0112】

いくつかの実施形態において、ｗｉｄｔｈ＿ｂｅｆｔ＿ｆｌａｇを受信又は推測した後、デコーダは、したがって、ビデオシーケンス又はフラグを参照する画像をデコードすることができる。例えば、ｗｉｄｔｈ＿ｓｍａｌｌ＿ｈｅｉｇｈｔ＿ｆｌａｇの値に基づいて、デコーダは、ビデオシーケンス又は画像の幅及び高さを決定するためにシンタックス要素をデコードすることができる。

【0113】

一実施形態では、ｗｉｄｔｈ＿ｂｅｉｇｈｔ＿ｆｌａｇが、画像幅がビデオシーケンス（又は画像）の画像高さよりも小さいことを示す値を有する場合、画像幅は、第１シンタックス要素（例えば、ＳＰＳ又はＰＰＳ）でシグナリングすることができ、画像高さと画像幅との間の差分は、第２シンタックス要素（例えば、ＳＰＳ又はＰＰＳ）でシグナリングすることができる。第２シンタックス要素は、画像高さが常に画像幅より大きい（又は等しい）ので、符号なし整数としてシグナリングすることができ、差分値の符号は不要である。一実施例では、第１シンタックス要素は、コード化されたビデオビットストリーム内の第２シンタックス要素の前にシグナリングされる。一実施例では、第２シンタックス要素は、第１シンタックス要素の前にシグナリングされる。いくつかの実施例では、第１シンタックス要素は、画像幅の代わりに画像高さを表現するために使用され、第２のシンタックス要素は、差分を表現するために使用される。

【0114】

第１及び第２のシンタックス要素にシグナリングする上記の構成が与えられれば、第１及び第２のシンタックス要素の予め定義されたセマンティックスに基づいて、したがって、デコーダは、画像の幅がビデオシーケンス（又は画像）の画像の高さよりも小さいことが保証されていることを示す値を有するｗｉｄｔｈ＿ｓｍａｌｌｅｒ＿ｔｈａｎ＿ｈｅｉｇｈｔ＿ｆｌａｇを受信することに応答して、第１及び第２のシンタックス要素を適切に解釈できる。

【0115】

一実施形態では、ｗｉｄｔｈ＿ｓｍａｌｌｅｒ＿ｔｈａｎ＿ｈｅｉｇｈｔ＿ｆｌａｇは、画像幅がフラグを参照するビデオシーケンス（または画像）に対する画像高さよりも小さい可能性があるか又は小さくない可能性があることを示す値を有すると、画像幅と画像高さは、それぞれ異なるシンタックス要素でシグナリングされ得る。例えば、画像の幅は第１シンタックス要素によって示され、一方、画像高さは第２シンタックス要素によって示される。したがって、デコーダは、これらの２つのシンタックス要素をデコードして、フラグを受信したときに、画像幅及び画像高さを決定することができる。

【0116】

一実施例では、ｗｉｄｔｈ＿ｂｅｆｔ＿ｆｌａｇを受信又は推論した後に、デコーダは、ｗｉｄｔｈ＿ｂｅｆｔ＿ｈｅｉｇｈｔ＿ｆｌａｇの値に基づいて、ビデオシーケンス又は画像をデコードするために使用される並列処理コーディング方法を決定することができる。例えば、並列処理のための候補コーディング方法は、タイル、ＷＰＰ、スライス、サブ画像等を含むことができる。一実施形態では、フラグは、画像高さが画像幅よりも大きいことが保証されることを示す場合、デコーダは、ビデオシーケンスをデコードするためにＷＰＰが使用されるべきであると決定しし得る。上記の選択を行うために、他の要因（例えばＣＴＵサイズ）をｗｉｄｔｈ＿ｓｍａｌｌ＿ｈｅｉｇｈｔ＿ｆｌａｇと組み合わせて考慮し得る。一実施形態では、ｗｉｄｔｈ＿ｂｅｆｔ＿ｆｌａｇがシグナリングされるとき、ＷＰＰ以外の特定の並列処理方法の使用可能性を示すシンタックス要素はシグナリングされないことがあり、コード化されたビットをセーブするためにデコーダによって推論することができる。

【0117】

いくつかの実施形態では、エンコーダにおける入力ビデオシーケンスが幅よりも小さい高さを有する場合、前処理されたビデオシーケンスが高さよりも大きい幅を有することを保証するために、入力ビデオシーケンス上で前処理を実行することができる。例えば、前処理の結果として、方向は変化することができ、入力ビデオシーケンスの幅及び高さは前処理ビデオシーケンスの高さ及び幅になる。

【0118】

一実施形態では、回転動作は入力ビデオシーケンス上で実行され、前処理ビデオシーケンスを生成することができる。例えば、入力ビデオシーケンスは、時計回り又は反時計回りに９０度回転することができる。時計回りに９０度回転すると、入力ビデオシーケンス内の画像の左側の画素が、前処理ビデオシーケンス内の画像の上側に移動される。反時計回りに９０度回転すると、入力ビデオシーケンス内の画像の左側の画素が、前処理ビデオシーケンス内の画像の下側に移動される。いずれの場合も、入力ビデオシーケンスの幅及び高さは、前処理ビデオシーケンスの高さ及び幅となる。

【0119】

上述の前処理されたビデオシーケンスに対応して、幅情報は、最初に、例えば、ＳＰＳでシグナリングすることができる。その後、高さと幅との間の差分は、例えば、ＳＰＳにおいて、符号なし整数としてシグナリングされることができる。したがって、高さ及び幅を示すコード化されたビットをセーブすることができる。

【0120】

一実施例では、前処理されたビデオシーケンスに対応するコード化されたビデオビットストリーム内でエンコーダにおいて回転動作が行われるかどうかのシグナリングは存在しない。別の例では、回転動作が実行されるかどうかを示すシンタックスは、前処理されたビデオシーケンスに対応するコード化されたビデオビットストリームにおいてシグナリングされ得る。

【0121】

いくつかの実施形態では、コード化されたビデオシーケンスに対して画像幅が画像高さよりも小さいことを保証するための前処理と組み合わせて、上述した高レベルシンタックス要素、例えばｗｉｄｔｈ＿ｓｉｇｈｔ＿ｆｌａｇは、高さがコード化されたビデオシーケンス内の幅よりも小さくないことを保証するかどうかを示すためにシグナリングすることができる。前処理に対応して、高レベルシンタックス要素は、例えば１の値に設定することができる。例えば、前処理（例えば、回転動作）が実行されるか否かにかかわらず（入力ビデオシーケンスの高さ及び幅の長さに依存する）、高レベルシンタックス要素は、高さがコード化されたビデオシーケンス内の幅よりも小さくないことを保証されるように信号を送ることができる。

【0122】

対照的に、エンコーダにおいて前処理が使用可能にされない場合、高レベルシンタックス要素は、幅がコード化されたビデオシーケンス内の高さよりも小さい可能性があるか又は小さくない可能性があることを示すためにシグナリングすることができる。あるいは、高レベルシンタックス要素は、シグナリングされず、かつ、幅が高さよりも小さい可能性があるか又は小さくない可能性があることを示す値を有するように、デコーダによって推測することができる。

【0123】

一実施例では、画像高さがコード化されたビデオシーケンスの画像幅よりも大きいことを保証するための前処理では、高レベルシンタックス要素は、コード化されたビデオシーケンス内で高さが幅よりも小さくないことが保証されているかどうかを示すためにシグナリングされない。例えば、前処理は、ビデオコーディング標準（例えば、ＶＶＣ）で指定されることができる。したがって、デコーダ及びエンコーダは、高さが幅よりも小さくないことが保証されるという同じ理解を持つことができる。したがって、デコーダは、いくつかのシンタックス要素をデコードして、例えば、画像の高さが画像の幅よりも大きいと仮定して画像の幅及び高さを取得したり、又は、複数の候補並列処理方法から適切な並列処理方法を選択する方法を決定したりすることができる。

【0124】

２．柔軟なＣＴＵサイズ

【0125】

いくつかの実施形態においては、上述のように、ＣＴＵサイズは、ＷＰＰコーディング性能に影響を及ぼすことができ、例えば、ＳＰＳにおいてシグナリングすることができる。いくつかの実施形態では、特定の画像又は画像内の領域に対してより良好なＷＰＰコーディング性能を達成するために、ＣＴＵサイズは、シーケンスレベルでシグナリングされる代わりに、画像レベル又はスライスレベルでシグナリングすることができる。例えば、ＣＴＵサイズは、ＰＰＳ又はスライスヘッダでシグナリングすることができる。したがって、異なる画像又はスライスは、異なるＣＴＵサイズを有することができ、その結果、異なる数のＣＴＵ行が生じる。このようにして、ＷＰＰの異なる粒度を達成することができる。

【0126】

いくつかの例では、異なる種類のスライスが異なるＣＴＵサイズを使用することができる。いくつかの実施形態において、３種類のスライス：Ｉ、Ｐ及びＢスライスがあり得る。Ｉスライスはイントラ予測を使用し、Ｐスライスは１つの参照画像リストでイントラ予測とインター予測の両方を使用できる、Ｂスライスはイ２つの参照画像リストを使用したイントラ予測とインター予測の両方を使用できる。一実施例では、より小さいＣＴＵサイズを、イントラコード化スライス（Ｉスライス）に使用することができ、その結果、イントラコード化スライスの処理速度を加速するために、より多くのＷＰＰスレッドを使用することができる。一実施例では、必要なＷＰＰスレッドが少なくなるように、より大きなＣＴＵサイズが、より高い時間レベルを有する他のタイプのスライス（例えば、Ｐスライス又はＢスライス）に使用される。場合によっては、Ｉスライスの処理の複雑さがＢスライス又はＰスライスよりも高い。

【0127】

いくつかの実施形態では、異なるタイプのスライスに異なるＣＴＵサイズ（スレッドの数が異なる）を適用すると、異なるスライスの処理時間（又はワークロード）のバランスをとることができ、その結果、それらのスライスを含む画像の処理時間が全体的に短くなる。

【0128】

いくつかの実施形態では、異なるタイル又はサブ画像は、異なるＣＴＵサイズ、したがって異なるＣＴＵ行及びＷＰＰスレッドを有することができるように、ＣＴＵサイズはタイルレベル又はサブ画像レベルにおいてシグナリングすることができる。いくつかの実施形態において、画像レベル（ＰＰＳレベル）及びスライスレベルでのＣＴＵサイズのシグナリングは、シーケンスレベル（ＳＰＳレベル）においてＣＴＵサイズのシグナリングと組み合わせることができる。実施例において、最大ＣＴＵサイズはＳＰＳレベルにおいてシグナリングすることができるが、画像レベル及び／又はスライスレベルなどの他のレベルでは、より小さいＣＴＵサイズをさらにシグナリング氏、そのレベルではより多くのＷＰＰスレッドを許容することができる。ＳＰＳレベルでシグナリングされた最大ＣＴＵサイズを使用する画像又はスライスに対して、これらの画像又はスライスに対してコード化されたビットをセーブするためのＣＴＵサイズのシグナリングは存在し得ない。

【0129】

実施例において、ＣＴＵサイズは、シーケンスレベルでシグナリングされるが、画像レベル及び／又はスライスレベルなどの他のレベルでは、より小さい又はより大きいＣＴＵサイズは、そのレベルでより多く又はより少ないＷＰＰスレッドを可能にするためにさらにシグナリングすることができる。同様に、シークエンスレベルにおいてシグナリングされるのと同じＣＴＵサイズを使用する画像又はスライスに対して、ＣＴＵサイズのシグナリングは存在し得ない。

【0130】

Ｖ．ピクチャ幅がピクチャの高さより小さいことが保証されているプロセス

【0131】

図１１は、本開示の一実施形態による、プロセス（１１００）の概略を示す、フローチャートを示す。プロセス（１１００）は、ブロックの再構成に使用することができる。様々な実施形態では、プロセス（１１００）は、端末デバイス（３１０）、（３２０）、（３３０）及び（３４０）における処理回路、ビデオデコーダ（４１０）の機能を実行する処理回路、ビデオデコーダ（５１０）の機能を実行する処理回路などの処理回路によって実行されることができる。いくつかの実施形態では、プロセス（１１００）は、ソフトウェア命令で実施され、その後、処理回路がソフトウェア命令を実行すると、処理回路は、プロセス（１１００）を実行する。プロセスは（Ｓ１１０１）から始まり、（Ｓ１１１０）に進む。

【0132】

（Ｓ１１１０）では、第１シンタックス要素は、コード化されたビデオビットストリームで受信することができる。第１シンタックス要素は、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さがビデオシーケンス内のそれぞれの画像の幅以上であるかどうかを示すことができる。第１シンタックス要素は、高レベルシンタックス要素として伝送されることができる。例えば、第１シンタックス要素は、ＳＥＩメッセージ、ＶＵＩパラメータセット（又はＶＵＩシンタックス構造体と称される）、ＳＰＳなどで送信することができる。

【0133】

実施例において、第１シンタックス要素の第１値は、ビデオシーケンス内の各画像の幅がビデオシーケンス内のそれぞれの画像の高さよりも小さいことを示し、第１シンタックス要素の第２値は、ビデオシーケンス内の画像の幅がビデオシーケンス内の画像の高さよりも小さいか又は小さくないことがあることを示す。一実施形態では、第１シンタックス要素は、ビットストリームにおいてシグナリングされない。デコーダは、第１シンタックス要素の第１値を第２値であると推測できる。

【0134】

一実施形態において、エンコーダでコード化されたビデオビットストリームのビデオシーケンスに対応する入力ビデオシーケンスは、その幅よりも小さい高さを有する。入力ビデオシーケンスの高さは、コード化されたビデオビットストリームのビデオシーケンス内の画像の幅としてコード化され、入力ビデオシーケンスの幅は、コード化されたビデオビットストリームのビデオシーケンス内の画像の高さとしてコード化される。例えば、入力ビデオシーケンス内の画像の高さ及び幅をスイッチするために、エンコーダにおいて回転前処理を行うことができる。

【0135】

一実施形態において、ビデオシーケンス内の画像の幅を示す第２シンタックス要素をさらに受信する。ビデオシーケンス内の画像の高さとビデオシーケンス内の画像の幅との間の差異を示す第３シンタックス要素を受信する。差異は符号なしの整数（ｕｎｓｉｇｎｅｄ ｉｎｔｅｇｅｒ）であり得る。例えば、第１シンタックス要素がコード化されたビデオのビデオシーケンスを示す場合、ビデオシーケンス内の画像の高さが、ビデオシーケンス内の画像の幅以上であることが保証される場合、第２シンタックス及び第３シンタックスは、ビットストリーム中でシグナリングされることができる。

【0136】

一実施形態では、複数の第４シンタックス要素は、コード化されたビデオビットストリーム中で受信され得る。複数の第４シンタックス要素は、それぞれビデオシーケンス内の複数のスライスのうちのそれぞれ１に関連することができる。複数の第４シンタックス要素は、異なるタイプのそれぞれのスライスに対して異なるＣＴＵサイズを示す。例えば、複数のスライスにわたって、スライスタイプＩは、スライスタイプＢ又はＰよりも小さなＣＴＵサイズを有する。

【0137】

一実施形態において、第５シンタックス要素を受信することができる。第５シンタックス要素は、コード化されたビデオビットストリーム中の画像レベルでシグナリングすることができる。第５シンタックス要素はビデオシーケンス内の画像のうちの１つに対するＣＴＵサイズを示すことができる。一実施例において、第４シンタックス要素及び第５シンタックス要素の両方は、ビデオシーケンスに対して伝送される。一実施例において、第４及び第５シンタックス要素の使用法のために、第４シンタックス要素又は第５シンタックス要素のみが、ビデオシーケンスに対して伝送される。

【0138】

いくつかの実施形態では、異なる画像又はスライスが異なるＣＴＵサイズを使用することができるように、シークエンスレベルでのＣＴＵサイズのシグナリングと、画像又はスライスレベルでのＣＴＵサイズのシグナリングと、を組み合わせることができる。例えば、第６シンタックス要素を受信することができる。第６シンタックス要素は、ビットストリームのＳＰＳに含まれることができて、ビデオシーケンスの第１ＣＴＵサイズを示すことができる。第６シンタックス要素に加えて、画像レベル又はスライスレベルにおいてシグナリンスされる第７シンタックス要素を受信することができる。第７シンタックス要素は、それぞれの画像の第２ＣＴＵサイズ又はビデオシーケンス内のそれぞれのスライスを示すことができる。一実施例において、第１ＣＴＵサイズはビデオシーケンスの最大ＣＴＵサイズであり、第２ＣＴＵサイズは最大ＣＴＵサイズより小さい。

【0139】

（Ｓ１１２０）において、コード化されたビデオビットストリームのビデオシーケンス内の画像は、コード化されたビデオビットストリームのビデオシーケンス内の複数の各画像の高さが、ビデオシーケンス内のそれぞれの画像の幅以上であるかどうか示す第１シンタックス要素にしたがって決定される方向で処理され得る。

【0140】

例えば、第１シンタックス要素が、ビデオシーケンス内の画像の高さがビデオシーケンス内の画像の幅以上であることが保証されないことを示す値を有するか又は有することが推定される場合、デコーダは、現在のＨＥＶＣ又はＶＶＣ標準において定められるのと同様の方法でビデオシーケンスのデコードを進めることができる。

【0141】

第１シンタックス要素が、ビデオシーケンス内の画像の高さがビデオシーケンス内の画像の幅以上であることが保証されることを示す値を有するか又は有することが推定される場合、
デコーダは第２及び第３シンタックス要素に基づいて画像幅と高さの決定を進めることができる。
また、デコーダは、複数の候補並列処理方法からＷＰＰを選択するように決定することができ、第１シンタックス要素及び任意の他のファクタに基づいてビデオシーケンス内の画像を処理することができる。

【0142】

デコーダはさらに、第４及び第５のシンタックス要素又は第６及び第７のシンタックス要素に基づいて、画像又はスライスのＣＴＵサイズを決定することができる。
その後、デコーダは、画像又はスライスを処理するために使用される多数のスレッドを決定することができる。したがって、デコーダは、ＷＰＰ法を使用して画像又はスライスを処理するようにソフトウェア又はハードウェアリソースを構成することができる。その結果、ビデオシーケンスに対応する再構成画像を生成することができる。プロセス（１１００）は（Ｓ１１９９）に進み、（Ｓ１１９９）で終了することができる。

【0143】

ＶＩ． コンピュータシステム

【0144】

上記の技術は、コンピュータ可読命令を用いたコンピュータソフトウェアとして行うことができて、物理的に一つ以上のコンピュータ可読媒体に格納されることができる。例えば、図１２は、開示された主題の特定の実施例を実施するのに適しているコンピュータシステム（１４００）を示す。

【0145】

コンピュータソフトウェアは、アセンブリ、コンパイル、リンク、又は類似のメカニズムの対象となり得る任意の適切な機械コード若しくはコンピュータ言語を使用してコーディングされることができ、直接実行されることができるか、又は、１つ以上のコンピュータ中央処理装置（ＣＰＵ）、グラフィックス処理装置（ＧＰＵ）等による、実施、マイクロコード実行等を介して実行されることができる命令を含むコードを作成する。

【0146】

命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲームデバイス、物品のインターネット等を含む種々のタイプのコンピュータ又はその構成要素上で実行されることができる。

【0147】

コンピュータシステム（１２００）のための図１２に示されるコンポーネントは、例示的な性質のものであり、本開示の実施形態を実装するコンピュータソフトウェアの使用範囲又は機能性に関する制限を示唆することを意図するものではない。また、コンポーネントの構成は、コンピュータシステム（１２００）の例示的な実施形態に示されるコンポーネントのいずれか１つ又は組み合わせに関連する依存性又は要件を有すると解釈されるべきではない

【0148】

コンピュータシステム（１２００）は、特定のヒューマンインタフェース入力デバイスを含み得る。このようなヒューマンインタフェース入力デバイスは、例えば、触覚入力（例えば、キーストローク、スイッピング、データグローブの動き）、音声入力（例えば、音声、拍手）、視覚入力（例えば、ジェスチャ）、嗅覚入力（図示せず）を介して、一人又は複数の人間ユーザによる入力に応答し得る。また、ヒューマンインタフェースデバイスは、オーディオ（例えば、音声、音楽、周囲の音声）、画像（例えば、走査画像、静止画像カメラから得られる写真画像）、ビデオ（例えば、２次元ビデオ、立体画像を含む３次元ビデオ）等の、人間による意識的入力に必ずしも直接関係しない特定の媒体を捕捉するために用いられ得る。

【0149】

入力ヒューマンインタフェースデバイスには、次のものが１つ以上含まれ得る（それぞれ１つのみ表されている）：キーボード（１２０１）、マウス（１２０２）、トラックパッド（１２０３）、タッチスクリーン（１２１０）、データグローブ（図示せず）、ジョイスティック（１２０５）、マイクロホン（１２０６）、スキャナ（１２０７）、カメラ（１２０８）。

【0150】

コンピュータ・システム（１２００）はまた、特定のヒューマンインタフェース出力デバイスを含み得る。かかるヒューマンインタフェース出力デバイスは、例えば、触覚出力、音、光、及び嗅覚／味覚を通して、１人又は複数の人間ユーザの感覚を刺激し得る。かかるヒューマンインタフェース出力デバイスは、触覚出力デバイス（例えば、タッチスクリーン（１２１０）、データグローブ（図示せず）、又はジョイスティック（１２０５）による触覚フィードバック）、入力デバイスとして働かない触覚フィードバックデバイスであることもでき）と、オーディオ出力デバイス（例えば、スピーカー（１２０９）、ヘッドフォン（図示せず））と、視覚出力デバイス（例えば、ＣＲＴスクリーン、ＬＣＤスクリーン、プラズマスクリーン、ＯＬＥＤスクリーンを含むスクリーン（１２１０）であり、各々が触覚フィードバック能力を有するか又は有さず、各々が触覚フィードバック能力を有するか又は有さず、そのうちのいくつかは、仮想現実眼鏡（図示せず）、ホログラフィックディスプレイ及びスモークタンク（図示せず）等の立体出力のような手段を介して２次元視出力又は３次元以上の出力を可能にし得るもの）と、プリンタ（図示せず）と、を含み得る。

【0151】

コンピュータシステム（１２００）はまた、人間がアクセス可能な記憶デバイスと、それらのアクセス可能な媒体とを含むことができ、媒体は、例えば、ＣＤ／ＤＶＤ等の媒体（１２２１）によるＣＤ／ＤＶＤ ＲＯＭ／ＲＷを含む光学媒体ドライブ（１２２０）、ＵＳＢメモリ（１２２２）、着脱可能ヘッドドライブ又はソリッドステートドライブ（１２２３）、テープ、フロッピーディスク（図示せず）等の従来の磁気媒体、セキュリティドングル等の特殊化されたＲＯＭ／ＡＳＩＣ／ＰＬＤベースデバイス等である。

【0152】

当業者はまた、現在開示されている主題に関連して使用される「コンピュータ可読媒体」という用語は、伝送媒体、搬送波、又は他の一時的な信号を包含しないことを理解されたい。

【0153】

コンピュータシステム（１２００）はまた、１つ以上の通信ネットワーク（１２５５）へのインタフェース（１２５４）を含むことができる。
ネットワークは、例えば、無線、有線、光であり得る。
ネットワークは、さらに、ローカル、広域、大都市、車両及び工業、リアルタイム、遅延耐性等であり得る。
ネットワークの例としては、イーサネット、無線ＬＡＮ、ＧＳＭ、３Ｇ、４Ｇ、５Ｇ、ＬＴＥ等を含むセルラーネットワーク、ケーブルＴＶ、衛星ＴＶ、及び地上放送ＴＶ、ＣＡＮＢｕｓを含む産業用及び車両用を含む。
特定のネットワークは、一般に、特定の汎用データポート又は周辺バス（１２４９）に接続される外部ネットワークインタフェースアダプタ（例えば、コンピュータシステム（１２００）のＵＳＢポート）を必要とし、他のネットワークは、一般に、以下に説明するシステムバスに接続されることにより、コンピュータ・システム（１２００）のコアに統合される（、例えば、ＰＣコンピュータシステムへのイーサネットインタフェース又はスマートフォンコンピュータシステムへのセルラーネットワークインタフェースである）。
これらのネットワークのいずれかを使用して、コンピュータシステム（１２００）は、他のエンティティと通信することができる。
かかる通信は、単指向性通信、受信のみ（例えば、放送テレビ）通信、単指向性送信専用（例えば、特定のＣＡＮバスデバイスへのＣＡＮバス）通信、又は、例えばローカル又は広域デジタルネットワークを使用する他のコンピュータシステムへの、双方向通信であることができる。
特定のプロトコル及びプロトコルスタックは、上述のように、それらのネットワーク及びネットワークインタフェースの各々で使用されることができる。

【0154】

前述のヒューマンインタフェースデバイス、人間がアクセス可能な記憶デバイス、及びネットワークインタフェースは、コンピュータシステム（１２００）のコア（１２４０）に接続されることができる。

【0155】

コア（１２４０）は、１つ以上の中央処理デバイス（ＣＰＵ）（１２４１）、グラフィックス処理デバイス（ＧＰＵ）（１２４２）、フィールドプログラマブルゲートエリア（ＦＰＧＡ）（１２４３）の形態の特殊なプログラマブル処理デバイス、特定のタスクのためのハードウェアアクセラレータ（１２４４）等を含むことができる。これらのデバイスは、読出し専用メモリ（ＲＯＭ）（１２４５）、ランダムアクセスメモリ（１２４６）、内部大容量記憶デバイス、例えば内部非ユーザアクセス可能ハードドライブ、ＳＳＤ等（１２４７）と共に、システムバス（１２４８）を介して接続され得る。いくつかのコンピュータシステムでは、システムバス（１２４８）は、追加のＣＰＵ、ＧＰＵ等による拡張を可能にするために、１つ又は複数の物理プラグの形態でアクセス可能である。周辺デバイスは、コアのシステムバス（１２４８）に直接接続するか、又は周辺バス（１２４９）を介して接続することができる。実施例において、スクリーン（１２１０）は、グラフィックスアダプタ（１２５０）に接続されることができる。周辺バスのアーキテクチャは、ＰＣＩ、ＵＳＢ等を含む。

【0156】

ＣＰＵ（１２４１）、ＧＰＵ（１２４２）、ＦＰＧＡ（１２４３）、及びアクセラレータ（１２４４）は、組み合わされて、上述のコンピュータコードを構成することができる特定の命令を実行することができる。そのコンピュータコードは、ＲＯＭ（１２４５）又はＲＡＭ（１２４６）に格納されることができる。移行データは、ＲＡＭ（１２４６）に格納されることもできるが、永久データは例えば内部大容量記憶デバイス（１２４７）に格納されことができる。１つ以上のＣＰＵ（１２４１）、ＧＰＵ（１２４２）、大容量記憶デバイス（１２４７）、ＲＯＭ（１２４５）、ＲＡＭ（１２４６）等と密接に関連付けることができるキャッシュメモリを使用することによって、メモリデバイスのいずれかへの高速記憶及び検索を可能にすることができる。

【0157】

コンピュータ可読媒体は、各種のコンピュータ実施動作（ｃｏｍｐｕｔｅｒ－ｉｍｐｌｅｍｅｎｔｅｄ ｏｐｅｒａｔｉｏｎｓ）を実行するためにその上のコンピュータコードを有することができる。メディア及びコンピュータコードは特別に設計されたそれらであることができて、本開示のために作成されることができる、又は、それらはよく公知で、コンピュータソフトウェア技術の技術を有するそれらが利用できる種類でありえる。

【0158】

一例として、限定するものではなく、アーキテクチャ（１２００）、具体的にはコア（１２４０）を有するコンピュータシステムは、１つ以上の有形のコンピュータ可読媒体に具現化されたソフトウェアを実行するプロセッサ（ＣＰＵ、ＧＰＵ、ＦＰＧＡ、アクセラレータ等を含む）の結果として機能性を提供することができる。かかるコンピュータ可読媒体は、コア－内部大容量記憶デバイス（１２４７）又はＲＯＭ（１２４５）等の一時的でない性質のコア（１２４０）の特定の記憶デバイスと同様に、上述のようにユーザがアクセス可能な大容量記憶デバイスに関連する媒体であってもよい。
本開示の様々な実施形態を実装するソフトウェアは、かかるデバイスに記憶され、コア（１２４０）によって実行され得る。コンピュータ読取可能媒体は、特定のニーズに応じて、１つ以上のメモリデバイス又はチップを含むことができる。ソフトウェアは、コア（１２４０）及びその中の具体的にプロセッサ（ＣＰＵ、ＧＰＵ、ＦＰＧＡ等を含む）に、ＲＡＭ （１２４６）に記憶されたデータ構造を定義し、ソフトウェアによって定義されたプロセスにしたがって、かかるデータ構造を変更することを含む、本明細書に記載された特定のプロセス又は特定の部分を実行させることができる。付加的に又は代替的に、コンピュータシステムは、回路（例えば、アクセラレータ（１２４４））内に配線された、又は他の方法で具現化されたロジックの結果として、機能性を提供することができ、これは、本明細書に記載される特定のプロセス又は特定のプロセスの特定の部分を実行するために、ソフトウェアの代わりに、又はソフトウェアと共に動作することができる。ソフトウェアへの言及は、論理を含み、また、必要に応じて、その逆も可能である。コンピュータ読取り可能媒体への参照は、実行のためのソフトウェアを記憶する（集積回路（ＩＣ）等の）回路、実行のためのロジックを具体化する回路、又は適切な場合にはその両方を含むことができる。本開示は、ハードウェア及びソフトウェアの任意の適切な組み合わせを包含する。

【0159】

付録：
略称
ＪＥＭ：ジョイント探索モデル
ＶＶＣ：広用途ビデオコーディング
ＢＭＳ：ベンチマークセット
ＭＶ：動きベクトル
ＨＥＶＣ：高効率ビデオコーディング
ＳＥＩ：付加強化情報
ＶＵＩ：ビデオユーザビリティ情報
ＧＯＰ：画像グループ
ＴＵ：変換ユニット
ＰＵ：予測ユニット
ＣＴＵ：コーディングトリー・ユニット
ＣＴＢ：コーディングトリー・ブロック
ＰＢ：予測ブロック
ＨＲＤ：仮想参照デコーダ
ＳＮＲ：信号雑音比
ＣＰＵ：中央処理装置
ＧＰＵ：グラフィックス・プロセッシング・ユニット
ＣＲＴ：陰極線管
ＬＣＤ：液晶ディスプレイ
ＯＬＥＤ：有機発光ダイオード
ＣＤ：コンパクトディスク
ＤＶＤ：デジタルビデオディスク
ＲＯＭ：リードオンリーメモリ
ＲＡＭ：ランダムアクセスメモリ
ＡＳＩＣ：特定用途向け集積回路
ＰＬＤ：プログラマブル・ロジック・デバイス
ＬＡＮ：ローカルエリアネットワーク
ＧＳＭ：グローバス・システム・フォー・モバイルコミュニケーション
ＬＴＥ：ロング・タームエヴォリューション
ＣＡＮバス：コントローラ・エリアネットワーク・バス
ＵＳＢ：ユニバーサルシリアル・バス
ＰＣＩ：ペリフェラルコンポーネントインターコネクト
ＦＰＧＡ：フィールドプログラマブルゲートエリア
ＳＳＤ：ソリッドステートドライブ
ＩＣ：集積回路
ＣＵ：コーディングユニット

【0160】

本開示はいくつかの例示的な実施形態を説明しているが、本発明の範囲内に入る、変更、置換、及び様々な均等物が存在する。したがって、当業者は、本明細書に明示的に示されていないか又は記載されていないが、本発明の原理を実施し、したがってその概念及び範囲内にある多数のシステム及び方法を創造することができることが理解されよう。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】