特許 7439264 変換係数レベルの適応依存量子化をサポートするためのデコーダ、エンコーダ及び方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-02-16

(45)【発行日】2024-02-27

(54)【発明の名称】変換係数レベルの適応依存量子化をサポートするためのデコーダ、エンコーダ及び方法

(51)【国際特許分類】

   H04N 19/124 20140101AFI20240219BHJP

   H04N 19/136 20140101ALI20240219BHJP

   H04N 19/13 20140101ALI20240219BHJP

【ＦＩ】

H04N19/124

H04N19/136

H04N19/13

【請求項の数】 41

(21)【出願番号】P 2022538054

(86)(22)【出願日】2020-12-18

(65)【公表番号】

(43)【公表日】2023-02-22

(86)【国際出願番号】 EP2020087146

(87)【国際公開番号】W WO2021123250

(87)【国際公開日】2021-06-24

【審査請求日】2022-08-18

(31)【優先権主張番号】19218785.4

(32)【優先日】2019-12-20

(33)【優先権主張国・地域又は機関】EP

(73)【特許権者】

【識別番号】500341779

【氏名又は名称】フラウンホーファー－ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン

(74)【代理人】

【識別番号】100134119

【弁理士】

【氏名又は名称】奥町 哲行

(72)【発明者】

【氏名】シュヴァルツ・ハイコー

(72)【発明者】

【氏名】シュミット・ゾンケ

(72)【発明者】

【氏名】ハーゼ・パウル

(72)【発明者】

【氏名】グエン・ファンホアントゥン

(72)【発明者】

【氏名】マルペ・デトレフ

(72)【発明者】

【氏名】ヴィーガンド・トーマス

【審査官】田部井 和彦

(56)【参考文献】

【文献】特表２０２１－５１９５４４（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１９／０３８７２５９（ＵＳ，Ａ１）

【文献】国際公開第２０１９／１８５７６９（ＷＯ，Ａ１）

【文献】Benjamin Bross et al.，Versatile Video Coding (Draft 7) [online]，JVET-P2001-vE (JVET-Q0041-v1_DraftText.docx)，インターネット ＜URL: https://jvet-experts.org/doc_end_user/documents/17_Brussels/wg11/JVET-Q0041-v1.zip＞，2019年12月05日，pp.80-85,161-163,406

【文献】Heiko Schwarz et al.，Hybrid Video Coding with Trellis-Coded Quantization [online]，Published in: 2019 Data Compression Conference (DCC)，2019年05月13日，pp.182-191，インターネット ＜URL: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8712696＞，DOI: 10.1109/DCC.2019.00026

【文献】James H. Kasner et al.，Universal Trellis Coded Quantization [online]，Published in: IEEE Transactions on Image Processing ( Volume: 8 , Issue: 12, December 1999)，1999年12月，pp.1677-1687，インターネット ＜URL: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=806615＞，DOI: 10.1109/83.806615

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ １９／１２４

Ｈ０４Ｎ １９／１３６

Ｈ０４Ｎ １９／１３

(57)【特許請求の範囲】

【請求項1】

デコーダ（２０）であって、
予測残差を表す残差レベル（１４２）をデータストリーム（１４）から復号化（２１０）し、
現在の遷移状態（２２０）に応じて、デフォルト量子化器のセット（１５１）から量子化器（１５３）を選択（１５２）することと、
前記量子化器（１５３）を使用して現在の残差レベルを逆量子化（１５４）して、逆量子化された残差値（１０４）を取得することと、
前記現在の残差レベルにバイナリ関数を適用（１５６）して、現在の残差レベルの特性（１５７）を取得することと、
使用される遷移表（１０６）を使用して、前記現在の残差レベルの特性（１５７）に応じて前記現在の遷移状態（２２０）を更新（１５８）することと、によって、
前記残差レベル（１４２）を順次逆量子化（１５０）することと、
前記逆量子化された残差値（１０４）を使用して媒体信号を再構成（１７０）することと、
前記データストリーム（１４）に含まれる量子化モード情報（１８０）に応じて、デフォルト遷移表のセット（１５９）から１つのデフォルト遷移表を、使用される前記遷移表（１０６）として選択することであって、前記デフォルト遷移表の各々は、前記遷移状態のセット（１６１）と前記現在の残差レベルの特性（１５７）との組み合わせ（１６３）の定義域から前記遷移状態のセット（１６１）への全射写像を表し、前記デフォルト遷移表は、前記遷移状態のセット（１６１）の基数が異なり、前記基数は、４以上である、ことと、
使用される前記遷移表（１０６）としてどのデフォルト遷移表が選択されても、第１の写像（２００）を使用して、前記現在の遷移状態（２２０）の所定数のビットを前記デフォルト量子化器に写像することによって、前記量子化器（１５３）の前記選択（１５２）を実行することであって、使用される前記遷移表（１０６）としてどのデフォルト遷移表が選択されても、前記所定数と前記第１の写像（２００）が、不変である、ことと、
を行うように構成されている、
デコーダ（２０）。

【請求項2】

前記所定数のビットは、１である、請求項１に記載のデコーダ。

【請求項3】

前記デコーダは、統合遷移表の異なる部分として前記デフォルト遷移表のセット（１５９）を管理するように構成され、各デフォルト遷移表について、前記遷移状態のセット（１６１）の各々は、任意の他のデフォルト遷移表が前記統合遷移表内でインデックス付けされる状態インデックスとは異なる状態インデックスを使用してインデックス付けされる、請求項１又は２に記載のデコーダ。

【請求項4】

前記デコーダは、前記統合遷移表内で、前記現在の残差レベルの特性（１５７）と前記現在の遷移状態（２２０）との組み合わせに対応するエントリをルックアップすることによって、前記現在の遷移状態（２２０）を前記更新（１５８）することを実行するように構成されている、請求項３に記載のデコーダ。

【請求項5】

前記量子化モード情報（１８０）は、逆量子化順序で第１の残差レベルを逆量子化する際に使用するための開始遷移状態を示す前記データストリーム（１４）内のシンタックス要素を含み、それにより、前記シンタックス要素は、使用される前記遷移表（１０６）に対応する前記統合遷移表の前記部分においてのみ使用される状態インデックスに適合することによって、前記デフォルト遷移表のうち使用される前記遷移表（１０６）を示す、請求項３又は４に記載のデコーダ。

【請求項6】

前記デフォルト量子化器のセット（１５１）は、
量子化ステップサイズ（１４４）の偶数倍を再構成レベルとして含む第１のデフォルト量子化器（１５１_１）と、
前記量子化ステップサイズ（１４４）の奇数倍及び０を再構成レベルとして含む第２のデフォルト量子化器（１５１_２）と
からなる、請求項１から５のいずれか一項に記載のデコーダ。

【請求項7】

前記現在の残差レベルの二値化のビンのコンテキスト適応型二値算術復号化を使用して前記データストリーム（１４）から前記現在の残差レベルを復号化することであって、前記ビンは、前記現在の残差レベルが０であるか非ゼロであるかを示す有意ビン（９２）を含む、ことと、
第２の写像（１４４）を使用して、前記現在の遷移状態（２２０）の更なる所定数のビットを値（２３０）に写像することによって取得される前記値（２３０）に応じて、前記現在の残差レベルの前記有意ビン（９２）を復号化するための第１のコンテキスト（２４２）を選択することであって、前記第２の写像（１４４）は、使用される前記遷移表（１０６）として選択されたどのデフォルト遷移表にも等しい、ことと、
を行うように構成されている、請求項１から６のいずれか一項に記載のデコーダ。

【請求項8】

前記更なる所定数のビットは、２である、請求項７に記載のデコーダ。

【請求項9】

前記媒体信号は、ビデオであり、前記デコーダは、
１つのピクチャブロック（８４）に関する残差レベル（１４２）を、別のピクチャブロック（８４）に関する残差レベル（１４２）より前に復号化することと、
前記１つのピクチャブロック（８４）に関する前記残差レベル（１４２）の二値化のビンを１又は複数の走査で順次復号化し、前記残差レベル（１４２）の前記二値化の前記ビンのうちの所定数の先頭ビンに対してコンテキスト適応型二値算術復号化を使用し、前記残差レベル（１４２）の前記二値化の後続ビンに対して等確率バイパスモードを使用することと、
第３の写像を使用して、遷移状態の更なる所定数のビットを二値化パラメータ（３０２）に写像し、前記二値化パラメータ（３０２）に応じて所定の残差レベルの前記二値化の決定を実行することによって、前記所定数のビンが使い果たされた前記所定の残差レベルの前記二値化を決定することと、によって、
前記データストリーム（１４）からの前記残差レベル（１４２）を復号化（２１０）するように構成されている、請求項１から８のいずれか一項に記載のデコーダ。

【請求項10】

前記二値化が、前記二値化パラメータ（３０２）に依存する１つの二値化コードを、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から前記所定のレベルマイナス１までの１又は複数のレベルに関連付けられている状態から１から前記所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化であるように、前記二値化パラメータ（３０２）に応じて前記所定の残差レベルに対する前記二値化を決定するように構成されている、請求項９に記載のデコーダ。

【請求項11】

前記更なる所定数のビットは、１である、請求項９又は１０に記載のデコーダ。

【請求項12】

前記デフォルト遷移表のセット（１５９）は、
前記遷移状態のセット（１６１）の前記基数が４である第１のデフォルト遷移表と、
前記遷移状態のセット（１６１）の前記基数が８である第２のデフォルト遷移表と、
を含む、請求項１から１１のいずれか一項に記載のデコーダ。

【請求項13】

前記媒体信号は、ビデオであり、前記デコーダは、前記データストリーム（１４）から前記量子化モード情報（１８０）を読み出すことと、
前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を、
前記ビデオに対して１回、
ピクチャブロック（８４）単位、
ピクチャ単位、
スライス単位、及び
ピクチャシーケンス単位
のうちの１つの方法で実行することと、を行うように構成されている、請求項１から１２のいずれか一項に記載のデコーダ。

【請求項14】

前記媒体信号は、ビデオであり、前記量子化モード情報（１８０）は、前記データストリーム（１４）内の第１のシンタックス要素を含み、前記第１のシンタックス要素は、前記ビデオ又は前記ビデオの部分について、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の選択が、前記データストリーム（１４）内の前記量子化モード情報（１８０）の第２のシンタックス要素を介して前記ビデオ又は前記ビデオの前記部分内で制御されるかどうか、又は前記デフォルト遷移表のセット（１５９）のうちのいずれが、前記ビデオの前記部分についての前記１つのデフォルト遷移表として選択されるべきかを示す、請求項１から１３のいずれか一項に記載のデコーダ。

【請求項15】

前記第１のシンタックス要素は、
前記部分は、前記ビデオであり、前記第２のシンタックス要素は、
ピクチャのシーケンス、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ビデオパラメータセット、
前記部分は、ピクチャのシーケンスであり、前記第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、シーケンスパラメータセット、
前記部分は、１又は複数のピクチャであり、前記第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ピクチャパラメータセット、又は
前記部分は、１つのピクチャであり、前記第２のシンタックス要素は、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ピクチャヘッダ、あるいは
前記部分は、１つの符号化ツリーブロックであり、前記第２のシンタックス要素は、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、パラメータセット
の中の前記データストリーム（１４）に含まれる、請求項１４に記載のデコーダ。

【請求項16】

前記媒体信号は、カラービデオであり、前記デコーダは、異なる色成分に対する前記デフォルト量子化器のセット（１５１）に対して異なるバージョンを使用するように構成されている、請求項１から１５のいずれか一項に記載のデコーダ。

【請求項17】

前記バイナリ関数は、パリティである、請求項１から１６のいずれか一項に記載のデコーダ。

【請求項18】

予測を実行して前記媒体信号の予測バージョンを取得することと、
前記逆量子化された残差値（１０４）を使用して前記予測バージョンを補正することと、によって、
前記逆量子化された残差値（１０４）を使用して前記媒体信号を再構成（１７０）するように構成されている、請求項１から１７のいずれか一項に記載のデコーダ。

【請求項19】

予測を実行して前記媒体信号の予測バージョンを取得することと、
前記逆量子化された残差値（１０４）を逆変換に供して媒体残差信号を取得することと、
前記媒体残差信号を使用して前記予測バージョンを補正することと、によって、
前記逆量子化された残差値（１０４）を使用して前記媒体信号を再構成（１７０）するように構成されている、請求項１から１８のいずれか一項に記載のデコーダ。

【請求項20】

エンコーダであって、
残差信号を取得するために媒体信号を予測的に符号化することと、
現在の遷移状態（２２０）に応じて、デフォルト量子化器のセット（１５１）から量子化器（１５３）を選択（１５２）することと、
前記量子化器（１５３）を使用して現在の残差値を量子化（１５４）して、現在の残差レベルを取得することと、
前記現在の残差レベルにバイナリ関数を適用（１５６）して、現在の残差レベルの特性（１５７）を取得することと、
使用される遷移表（１０６）を使用して、前記現在の残差レベルの特性（１５７）に応じて前記現在の遷移状態（２２０）を更新（１５８）することと、によって、
前記残差信号を表す残差値を連続的に量子化して、残差レベル（１４２）を取得することと、
前記残差レベル（１４２）をデータストリーム（１４）に符号化することと、
前記データストリーム（１４）に送信される量子化モード情報（１８０）に応じて、デフォルト遷移表のセット（１５９）から１つのデフォルト遷移表を、使用される前記遷移表（１０６）として選択することであって、前記デフォルト遷移表の各々は、前記遷移状態のセット（１６１）と前記現在の残差レベルの特性（１５７）との組み合わせ（１６３）の定義域から前記遷移状態のセット（１６１）への全射写像を表し、前記デフォルト遷移表は、前記遷移状態のセット（１６１）の基数が異なり、前記基数は、４以上である、ことと、
使用される前記遷移表（１０６）としてどのデフォルト遷移表が選択されても、第１の写像（２００）を使用して、前記現在の遷移状態（２２０）の所定数のビットを前記デフォルト量子化器に写像することによって、前記量子化器（１５３）の前記選択（１５２）を実行することであって、使用される前記遷移表（１０６）としてどのデフォルト遷移表が選択されても、前記所定数と前記第１の写像（２００）が、不変である、ことと、
を行うように構成されている、
エンコーダ。

【請求項21】

前記所定数のビットは、１である、請求項２０に記載のエンコーダ。

【請求項22】

前記エンコーダは、統合遷移表の異なる部分として前記デフォルト遷移表のセット（１５９）を管理するように構成され、各デフォルト遷移表について、前記遷移状態のセット（１６１）の各々は、任意の他のデフォルト遷移表が前記統合遷移表内でインデックス付けされる状態インデックスとは異なる状態インデックスを使用してインデックス付けされる、請求項２０又は２１に記載のエンコーダ。

【請求項23】

前記エンコーダは、前記統合遷移表内で、前記現在の残差レベルの特性（１５７）と前記現在の遷移状態（２２０）との組み合わせに対応するエントリをルックアップすることによって、前記現在の遷移状態（２２０）を前記更新（１５８）することを実行するように構成されている、請求項２２に記載のエンコーダ。

【請求項24】

量子化順序で第１の残差値を量子化する際に使用するための開始遷移状態を示すシンタックス要素を前記量子化モード情報（１８０）として前記データストリーム（１４）に符号化するように構成され、それにより、前記シンタックス要素は、使用される前記遷移表に対応する前記統合遷移表の前記部分においてのみ使用される状態インデックスに適合することによって、前記デフォルト遷移表のうち使用される前記遷移表を示す、請求項２２又は２３に記載のエンコーダ。

【請求項25】

前記デフォルト量子化器のセット（１５１）は、
量子化ステップサイズ（１４４）の偶数倍を符号化レベルとして含む第１のデフォルト量子化器（１５１_１）と、
前記量子化ステップサイズ（１４４）の奇数倍及び０を符号化レベルとして含む第２のデフォルト量子化器（１５１_２）と
からなる、請求項２０から２４のいずれか一項に記載のエンコーダ。

【請求項26】

前記現在の残差レベルの二値化のビンのコンテキスト適応型二値算術符号化を使用して前記現在の残差レベルを前記データストリーム（１４）に符号化することであって、前記ビンは、前記現在の残差レベルが０であるか非ゼロであるかを示す有意ビン（９２）を含む、ことと、
第２の写像（１４４）を使用して、前記現在の遷移状態（２２０）の更なる所定数のビットを値（２３０）に写像することによって取得される前記値（２３０）に応じて、前記現在の残差レベルの前記有意ビン（９２）を符号化するための第１のコンテキスト（２４２）を選択することであって、前記第２の写像（１４４）は、使用される前記遷移表として選択されたどのデフォルト遷移表にも等しい、ことと、
を行うように構成されている、請求項２０から２５のいずれか一項に記載のエンコーダ。

【請求項27】

前記更なる所定数のビットは、２である、請求項２６に記載のエンコーダ。

【請求項28】

前記媒体信号は、ビデオであり、前記エンコーダは、
１つのピクチャブロック（８４）に関する残差レベルを、別のピクチャブロック（８４）に関する残差レベルより前に符号化することと、
前記１つのピクチャブロック（８４）に関する前記残差レベルの二値化のビンを１又は複数の走査で順次符号化し、前記残差レベルの前記二値化の前記ビンのうちの所定数の先頭ビンに対してコンテキスト適応型二値算術符号化を使用し、前記残差レベルの前記二値化の後続ビンに対して等確率バイパスモードを使用することと、
第３の写像を使用して、遷移状態の更なる所定数のビットを二値化パラメータ（３０２）に写像し、前記二値化パラメータ（３０２）に応じて所定の残差レベルの前記二値化の決定を実行することによって、前記所定数のビンが使い果たされた前記所定の残差レベルの前記二値化を決定することと、によって、
前記残差レベルを前記データストリーム（１４）に符号化するように構成されている、請求項２０から２７のいずれか一項に記載のエンコーダ。

【請求項29】

前記二値化が、前記二値化パラメータ（３０２）に依存する１つの二値化コードを、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から前記所定のレベルマイナス１までの１又は複数のレベルに関連付けられている状態から１から前記所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化であるように、前記二値化パラメータ（３０２）に応じて前記所定の残差レベルに対する前記二値化を決定するように構成されている、請求項２８に記載のエンコーダ。

【請求項30】

前記更なる所定数のビットは、１である、請求項２８又は２９に記載のエンコーダ。

【請求項31】

前記デフォルト遷移表のセット（１５９）は、
前記遷移状態のセット（１６１）の前記基数が４である第１のデフォルト遷移表と、
前記遷移状態のセット（１６１）の前記基数が８である第２のデフォルト遷移表と、
を含む、請求項２０から３０のいずれか一項に記載のエンコーダ。

【請求項32】

前記媒体信号は、ビデオであり、前記エンコーダは、前記量子化モード情報（１８０）を前記データストリーム（１４）に書き込むことと、
前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を、
前記ビデオに対して１回、
ピクチャブロック（８４）単位、
ピクチャ単位、
スライス単位、及び
ピクチャシーケンス単位
のうちの１つの方法で実行することと、を行うように構成されている、請求項２０から３１のいずれか一項に記載のエンコーダ。

【請求項33】

前記媒体信号は、ビデオであり、前記量子化モード情報（１８０）は、前記データストリーム（１４）内の第１のシンタックス要素を含み、前記第１のシンタックス要素は、前記ビデオ又は前記ビデオの部分について、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の選択が、前記データストリーム（１４）内の前記量子化モード情報（１８０）の第２のシンタックス要素を介して前記ビデオ又は前記ビデオの前記部分内で制御されるかどうか、又は前記デフォルト遷移表のセット（１５９）のうちのいずれが、前記ビデオの前記部分についての前記１つのデフォルト遷移表として選択されるべきかを示す、請求項２０から３２のいずれか一項に記載のエンコーダ。

【請求項34】

前記第１のシンタックス要素は、
前記部分は、前記ビデオであり、前記第２のシンタックス要素は、
ピクチャのシーケンス、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ビデオパラメータセット、
前記部分は、ピクチャのシーケンスであり、前記第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、シーケンスパラメータセット、
前記部分は、１又は複数のピクチャであり、前記第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ピクチャパラメータセット、又は
前記部分は、１つのピクチャであり、前記第２のシンタックス要素は、
タイル、
スライス、
符号化ツリーブロック、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、ピクチャヘッダ、あるいは
前記部分は、１つの符号化ツリーブロックであり、前記第２のシンタックス要素は、
符号化ブロック、若しくは
残差変換ブロック
を単位として、前記デフォルト遷移表のセット（１５９）のうちの前記１つのデフォルト遷移表の前記選択を制御する、パラメータセット
の中の前記データストリーム（１４）に含まれる、請求項３３に記載のエンコーダ。

【請求項35】

前記媒体信号は、カラービデオであり、前記エンコーダは、異なる色成分に対する前記デフォルト量子化器のセット（１５１）に対して異なるバージョンを使用するように構成されている、請求項２０から３４のいずれか一項に記載のエンコーダ。

【請求項36】

前記バイナリ関数は、パリティである、請求項２０から３５のいずれか一項に記載のエンコーダ。

【請求項37】

予測を実行して媒体信号及び残差信号の予測バージョンを取得することによって、
前記残差信号を取得するために前記媒体信号を予測的に符号化するように構成されている、請求項２０から３６のいずれか一項に記載のエンコーダ。

【請求項38】

予測を実行して媒体信号及び残差信号の予測バージョンを取得することと、
前記残差信号を順変換に供することと、によって、
前記残差信号を取得するために前記媒体信号を予測的に符号化するように構成されている、請求項２０から３７のいずれか一項に記載のエンコーダ。

【請求項39】

方法であって、
予測残差を表す残差レベルをデータストリームから復号化し、
現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、
前記量子化器を使用して現在の残差レベルを逆量子化して、逆量子化された残差値を取得することと、
前記現在の残差レベルにバイナリ関数を適用して、現在の残差レベルの特性を取得することと、
使用される遷移表を使用して、前記現在の残差レベルの特性に応じて前記現在の遷移状態を更新することと、によって、
前記残差レベルを順次逆量子化することと、
前記逆量子化された残差値を使用して媒体信号を再構成することと、
前記データストリームに含まれる量子化モード情報に応じて、デフォルト遷移表のセットから１つのデフォルト遷移表を、使用される前記遷移表として選択することであって、前記デフォルト遷移表の各々は、前記遷移状態のセットと前記現在の残差レベルの特性との組み合わせの定義域から前記遷移状態のセットへの全射写像を表し、前記デフォルト遷移表は、前記遷移状態のセットの基数が異なり、前記基数は、４以上である、ことと、
使用される前記遷移表としてどのデフォルト遷移表が選択されても、第１の写像を使用して、前記現在の遷移状態の所定数のビットを前記デフォルト量子化器に写像することによって、前記量子化器の前記選択を実行することであって、使用される前記遷移表としてどのデフォルト遷移表が選択されても、前記所定数と前記第１の写像が、不変である、ことと、
を含む、
方法。

【請求項40】

方法であって、
残差信号を取得するために媒体信号を予測的に符号化することと、
現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、
前記量子化器を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、
前記現在の残差レベルにバイナリ関数を適用して、現在の残差レベルの特性を取得することと、
使用される遷移表を使用して、前記現在の残差レベルの特性に応じて前記現在の遷移状態を更新することと、によって、
前記残差信号を表す残差値を連続的に量子化して、残差レベルを取得することと、
前記残差レベルをデータストリームに符号化することと、
前記データストリームに送信される量子化モード情報に応じて、デフォルト遷移表のセットから１つのデフォルト遷移表を、使用される前記遷移表として選択することであって、前記デフォルト遷移表の各々は、前記遷移状態のセットと前記現在の残差レベルの特性との組み合わせの定義域から前記遷移状態のセットへの全射写像を表し、前記デフォルト遷移表は、前記遷移状態のセットの基数が異なり、前記基数は、４以上である、ことと、
使用される前記遷移表としてどのデフォルト遷移表が選択されても、第１の写像を使用して、前記現在の遷移状態の所定数のビットを前記デフォルト量子化器に写像することによって、前記量子化器の前記選択を実行することであって、使用される前記遷移表としてどのデフォルト遷移表が選択されても、前記所定数と前記第１の写像が、不変である、ことと、
を含む、
方法。

【請求項41】

請求項３９又は４０に記載の方法を実行するためのプログラムコードを有するコンピュータプログラムであって、前記プログラムが１又は複数のコンピュータ上で実行されるときに、前記方法を実行するためのコンピュータプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明による実施形態は、変換係数レベルの適応依存量子化をサポートするためのデコーダ、エンコーダ、及び方法に関する。

【0002】

本発明は、残差サンプルのブロックの非可逆符号化に適用される。残差サンプルは、サンプルの元のブロックと予測信号のサンプルとの間の差を表す（予測信号は、イントラピクチャ予測若しくはインターピクチャ予測によって、又はイントラピクチャ予測とインターピクチャ予測との組み合わせによって、又は任意の他の手段によって得ることができ、特殊な場合には、予測信号は０に等しく設定することができる）。

【0003】

サンプルの残差ブロックは、信号変換を使用して変換される。典型的には、線形分離可能な変換が使用される（線形とは、変換が線形であるが、変換係数の追加の丸めを組み込むことができることを意味する）。しばしば、ＤＣＴ－ＩＩの整数近似又はＤＣＴ／ＤＳＴファミリの他の変換の整数近似が使用される。水平方向又は垂直方向に異なる変換を使用することができる。変換は、線形分離可能な変換に限定されない。他の任意の変換（線形かつ分離不可能、又は非線形）が使用されてもよい。特に、第１の分離可能変換の後に取得された変換係数又は変換係数の一部に、２次の非分離可能変換を適用することができる。信号変換の結果として、異なる信号空間における残差サンプルの元のブロックを表す変換係数のブロックが取得される。特別な場合には、変換は、識別変換に等しくなり得る（すなわち、変換係数のブロックは、残差サンプルのブロックに等しくなり得る）。変換係数のブロックは、非可逆符号化を使用して符号化される。デコーダ側において、再構成された変換係数のブロックは、残差サンプルの再構成ブロックが取得されるように逆変換される。最後に、予測信号を加算することによって、画像サンプルの再構成ブロックが取得される。

【0004】

本発明は、変換係数のブロックの非可逆符号化の概念を説明する。本発明は、特に、依存量子化の複数の変形形態と、適用される変形形態の適応的な選択とを可能にする方法を説明する。

【0005】

このコンテキストでは、依存量子化とは、エンコーダ側において、変換係数のブロックが、忠実度が低減された変換係数を表す変換係数レベル（すなわち、量子化インデックス）のブロックに写像されるという特性を有する量子化方法を指す。デコーダ側では、量子化インデックスは、再構成された変換係数（量子化により元の変換係数とは異なる）に写像される。従来のスカラー量子化とは対照的に、変換係数は独立して量子化されない。代わりに、ある変換係数に対する再構成レベルの許容可能なセットは、他の変換係数に対する選択された量子化インデックスに依存する。

【0006】

依存量子化には複数の変形形態が存在しており、それらは主に、可能ないわゆる量子化状態の数が異なる。量子化状態の数を増加させることは、通常、符号化効率を改善するが、エンコーダの複雑性も増大させる。したがって、符号化効率と実装複雑性との間の適切なトレードオフを選択する自由度をエンコーダに与えるために、依存量子化の複数の変形形態をサポートすることが合理的である。しかし、デコーダの場合、実装複雑性は、量子化のためにサポートされる変形形態の数とともに増加する。

【0007】

本発明は、統合フレームワークにおける独立量子化と依存量子化の複数の変形形態とをサポートする方法を説明する。再構成プロセス及び変換係数レベルのエントロピー符号化は、デコーダが単一の実装形態で全ての変形形態をサポートできるように設計される。選択された変形形態に依存する唯一の態様は、状態遷移表の選択である。本発明は、以下の態様を含む。
・従来の独立量子化に加え、依存量子化の２つ以上の変形形態をサポートすること
・特に、８つの状態を有する依存量子化の変形形態を追加すること
・使用される量子化方法の高レベルシグナリング
・量子化インデックスから変換係数レベルを再構成するための統合プロセス
・量子化インデックスのエントロピー符号化のための統合プロセス（コンテキスト符号化ビンの最大数の基準を含む）
・有意フラグのための統合状態依存コンテキスト選択

【背景技術】

【0008】

以下では、変換係数レベルの依存量子化及び関連するエントロピー符号化の概念について説明する。この説明は、多用途ビデオ符号化規格（ＶＴＭ－７）のドラフト７で指定された設計態様を特に強調する。しかしながら、この特定の設計の複数の変形形態が可能であることに留意されたい。

【0009】

２．１ 依存量子化
変換係数の依存量子化とは、変換係数の利用可能な再構成レベルのセットが、（同じ変換ブロック内の）再構成順序において先行する変換係数の選択された量子化インデックスに依存する概念を指す。再構成レベルの複数のセットが事前定義され、（符号化順序で）先行する変換係数の量子化インデックスに基づいて、事前定義されたセットのうちの１つが、現在の変換係数を再構成するために選択される。

【0010】

２．１．１ 再構成レベルのセット
現在の変換係数に対する許容可能な再構成レベルのセットは、再構成レベルの事前定義されたセットの集合（２つ以上のセット）の中から（符号化順序で先行する変換係数に対する量子化インデックスに基づいて）選択される。再構成レベルのセットの再構成レベルの値は、ブロックベースの量子化パラメータによってパラメータ化される。ブロックベースの量子化パラメータ（ＱＰ）は、量子化ステップサイズΔを決定し、（再構成レベルの全てのセットにおける）全ての再構成レベルは、量子化ステップサイズΔの整数倍を表す。特定の変換係数ｔ_ｋ（ｋは再構成順序を示す）に対する量子化ステップサイズΔ_ｋは、単にブロック量子化パラメータＱＰによって決定されなくてもよいが、特定の変換係数ｔ_ｋに対する量子化ステップサイズΔ_ｋが量子化重み付け行列及びブロック量子化パラメータによって決定されることも可能である。典型的には、変換係数ｔ_ｋの量子化ステップサイズΔ_ｋは、変換係数ｔ_ｋの重み係数ｗ_ｋ（量子化重み行列によって指定される）とブロック量子化ステップサイズΔ_{ｂｌｏｃｋ}（ブロック量子化パラメータによって指定される）との積によって与えられ、
Δ_ｋ＝ｗ_ｋ・Δ_{ｂｌｏｃｋ}
である。

【0011】

ＶＴＭ－７では、変換係数の依存スカラー量子化は、正確に２つの異なるセットの再構成レベルを使用する。変換係数ｔ_ｋに対する２つのセットの全ての再構成レベルは、この変換係数に対する量子化ステップサイズΔ_ｋ（少なくとも部分的に、ブロックベースの量子化パラメータによって決定される）の整数倍を表す。量子化ステップサイズΔ_ｋは、両方のセットにおける許容可能な再構成値のためのスケーリング係数を単に表すことに留意されたい。変換ブロック内の異なる変換係数ｔ_ｋに対する可能な個々の量子化ステップサイズΔ_ｋ（したがって、個々のスケーリング係数）を除いて、同じ２つのセットの再構成レベルが全ての変換係数に対して使用される。

【0012】

図１は、再構成レベルの２つのセットを示している。白丸及び黒丸は、再構成レベルのセット内の２つの異なるサブセットを示し、サブセットは、再構成順序における次の変換係数の再構成レベルのセットを決定するために使用することができる。
再構成レベルの２つのセットを図１に示す。

【0013】

・第１の量子化セット（図１においてセット０とラベル付けされている）に含まれる再構成レベルは、量子化ステップサイズの偶数倍を表す。
・第２の量子化セット（図１においてセット１とラベル付けされている）は、量子化ステップサイズの全ての奇数整数倍と、更に０に等しい再構成レベルとを含む。

【0014】

両方の再構成セットが０に関して対称であることに留意されたい。０に等しい再構成レベルは両方の再構成セットに含まれ、そうでなければ再構成セットは不連続である。両方の再構成セットの和集合は、量子化ステップサイズの全ての整数倍を含む。

【0015】

２．１．２ 再構成レベルの表現
エンコーダが許容可能な再構成レベルの中から選択する再構成レベルは、ビットストリーム内に示されなければならない。従来の独立スカラー量子化におけるように、これは、変換係数レベルとも称されるいわゆる量子化インデックスを使用して達成することができる。量子化インデックス（又は変換係数レベル）は、量子化セット内の（すなわち、再構成レベルのセット内の）利用可能な再構成レベルを一意に識別する整数である。量子化インデックスは、（任意のエントロピー符号化技術を使用して）ビットストリームの一部としてデコーダに送られる。デコーダ側では、再構成された変換係数は、再構成レベルの現在のセット（符号化／再構成順序において先行する量子化インデックスによって決定される）と、現在の変換係数の送信された量子化インデックスとに基づいて一意に計算することができる。

【0016】

図１の再構成レベルは、関連する量子化インデックスでラベル付けされている（量子化インデックスは、再構成レベルを表す円の下の数字によって与えられる）。０に等しい量子化インデックスは、０に等しい再構成レベルに割り当てられる。１に等しい量子化インデックスは、０より大きい最小の再構成レベルに割り当てられ、２に等しい量子化インデックスは、０より大きい次の再構成レベル（すなわち、０より大きい２番目に小さい再構成レベル）に割り当てられ、以下同様である。あるいは、換言すれば、０より大きい再構成レベルは、それらの値の昇順で０より大きい整数（すなわち、１、２、３など）でラベル付けされる。同様に、量子化インデックス－１は、０より小さい最大再構成レベルに割り当てられ、量子化インデックス－２は、０より小さい次の（すなわち、２番目に大きい）再構成レベルに割り当てられ、以下同様である。あるいは、換言すれば、０より小さい再構成レベルは、それらの値の降順で０より小さい整数（すなわち、－１、－２、３など）でラベル付けされる。

【0017】

量子化ステップサイズの整数倍を表す再構成レベルの使用は、デコーダ側における変換係数の再構成のための計算的に複雑でないアルゴリズムを可能にする。これは、以下の図１の好ましい例に基づいて説明される。第１の量子化セットは、量子化ステップサイズの全ての偶数倍を含み、第２の量子化セットは、量子化ステップサイズの全ての奇数倍に０に等しい再構成レベル（両方の量子化セットに含まれる）を加えたものを含む。変換係数の再構成プロセスは、図２の擬似コードで指定されたアルゴリズムと同様に実施することができる。

【0018】

図２は、変換係数の再構成プロセスを示す擬似コードを示している。ｋは現在の変換係数の再構成順序を指定するインデックスを表し、現在の変換係数の量子化インデックスはｌｅｖｅｌ［ｋ］によって示され、現在の変換係数に適用される量子化ステップサイズΔ_ｋはｑｕａｎｔ＿ｓｔｅｐ＿ｓｉｚｅ［ｋ］によって示され、ｔｒｅｃ［ｋ］は再構成された変換係数ｔ’_ｋの値を表す。変数ｓｅｔＩｄ［ｋ］は、現在の変換係数に適用される再構成レベルのセットを指定する。これは、再構成順序において先行する変換係数に基づいて決定され、ｓｅｔＩｄ［ｋ］の取り得る値は０及び１である。変数ｎは、量子化ステップサイズの整数係数を指定し、再構成レベルの選択されたセット（すなわち、ｓｅｔＩｄ［ｋ］の値）及び送信された量子化インデックスｌｅｖｅｌ［ｋ］によって与えられる。

【0019】

図２の擬似コードでは、ｌｅｖｅｌ［ｋ］は、変換係数ｔ_ｋに対して送信される量子化インデックスを示し、ｓｅｔＩｄ［ｋ］（０又は１に等しい）は、再構成レベルの現在のセットの識別子を指定する（以下でより詳細に説明するように、再構成順序で先行する量子化インデックスに基づいて決定される）。変数ｎは、量子化インデックスｌｅｖｅｌ［ｋ］及びセット識別子ｓｅｔＩｄ［ｋ］によって与えられる量子化ステップサイズの整数倍を表す。変換係数が、量子化ステップサイズΔ_ｋの偶数倍を含む再構成レベルの第１のセット（ｓｅｔＩｄ［ｋ］＝＝０）を使用して符号化される場合、変数ｎは、送信された量子化インデックスの２倍である。変換係数が再構成レベルの第２のセット（ｓｅｔＩｄ［ｋ］＝＝１）を使用して符号化される場合、以下の３つのケースがある。すなわち（ａ）ｌｅｖｅｌ［ｋ］が０に等しい場合、ｎも０に等しく、（ｂ）ｌｅｖｅｌ［ｋ］が０より大きい場合、ｎは量子化インデックスｌｅｖｅｌ［ｋ］の２倍マイナス１に等しく、（ｃ）ｌｅｖｅｌ［ｋ］が０未満である場合、ｎは量子化インデックスｌｅｖｅｌ［ｋ］の２倍プラス１に等しい。これは、符号関数

を使用して指定することができる。

【0020】

次に、第２の量子化セットが使用される場合、変数ｎは、量子化インデックスｌｅｖｅｌ［ｋ］の２倍から量子化インデックスの符号関数ｓｉｇｎ（ｌｅｖｅｌ［ｋ］）を引いたものに等しい。

【0021】

変数ｎ（量子化ステップサイズの整数係数を指定する）が決定されると、再構成された変換係数ｔ’_ｋは、ｎを量子化ステップサイズΔ_ｋで乗算することによって取得される。

【0022】

図３は、図２の擬似コードの代替的な実装形態を示す擬似コードを示している。主な変更点は、量子化ステップとの乗算が、スケール及びシフトパラメータを使用する整数の実装形態を使用して表されることである。典型的には、シフトパラメータ（ｓｈｉｆｔによって表される）は変換ブロックに対して一定であり、スケールパラメータ（ｓｃａｌｅ［ｋ］によって与えられる）のみが変換係数の位置に依存し得る。変数ａｄｄは丸めオフセットを表し、典型的にはａｄｄ＝（１＜＜（ｓｈｉｆｔ－１））に等しく設定される。Δ_ｋが変換係数の公称量子化ステップである場合、パラメータｓｈｉｆｔ及びｓｃａｌｅ［ｋ］は、Δ_ｋ～ｓｃａｌｅ［ｋ］・２^{－ｓｈｉｆｔ}を有するように選択される。

【0023】

上述したように、量子化ステップサイズΔ_ｋとの正確な乗算の代わりに、再構成された変換係数ｔ’_ｋは、整数近似によって得ることができる。これは図３の擬似コードに示されている。ここで、変数ｓｈｉｆｔは、右方向へのビットシフトを表す。その値は、典型的には、ブロックに対する量子化パラメータのみに依存する（しかし、シフトパラメータがブロック内の異なる変換係数に対して変更され得ることも可能である）。変数ｓｃａｌｅ［ｋ］は、変換係数ｔ_ｋのスケーリング係数を表し、ブロック量子化パラメータに加えて、例えば、量子化重み付け行列の対応するエントリに依存することができる。変数ａｄｄは丸めオフセットを指定し、典型的にはａｄｄ＝（１＜＜（ｓｈｉｆｔ－１））に等しく設定される。図３（最後の行）の擬似コードで指定される整数演算は、丸めを除いて、
Δ_ｋ＝ｓｃａｌｅ［ｋ］・２^{－ｓｈｉｆｔ}
によって与えられる量子化ステップサイズΔ_ｋとの乗算と等価であることに留意されたい。

【0024】

図２に対する図３の別の（純粋に表面的な）変更点は、再構成レベルの２つのセット間の切り替えが、Ｃプログラミング言語などのプログラミング言語から知られている三項ｉｆ－ｔｈｅｎ－ｅｌｓｅ演算子（ａ？ｂ：ｃ）を使用して実装されることである。

【0025】

２．１．３ 変換係数の依存再構成
依存スカラー量子化の別の重要な設計態様は、定義された量子化セット（再構成レベルのセット）間の切り替えに使用されるアルゴリズムである。使用されるアルゴリズムは、変換係数のＮ次元空間において（したがって、再構成されたサンプルのＮ次元空間においても）達成され得る「充填密度」を決定する。より高い充填密度は、最終的に符号化効率の増加をもたらす。

【0026】

ＶＴＭ－７では、量子化セット（セット０及びセット１）間の遷移は、状態変数（又は量子化状態）によって決定される。再構成順序における第１の変換係数について、状態変数は、事前定義された値に等しく設定される。典型的には、事前定義された値は０に等しい。符号化順序に続く変換係数の状態変数は、更新プロセスによって決定される。特定の変換係数の状態は、再構成順序において前の変換係数の状態及び前の変換係数の値にのみ依存する。

【0027】

状態変数は、４つの取り得る値（０，１，２，３）を有する。一方では、状態変数は、現在の変換係数に使用される量子化セットを指定する。量子化セット０は、状態変数が０又は１に等しい場合にのみ使用され、量子化セット１は、状態変数が２又は３に等しい場合にのみ使用される。一方、状態変数は、量子化セット間の可能な遷移も指定する。

【0028】

特定の変換係数の状態は、再構成順序において前の変換係数の状態と、前の変換係数の値のバイナリ関数とにのみ依存する。バイナリ関数は、以下において経路と称される。ＶＴＭ－７では、以下の状態遷移表が使用され、ここで、「経路」は、再構成順序における前の変換係数レベルの該バイナリ関数を指す。

【表1】

ＶＴＭ－７では、経路は量子化インデックスのパリティによって与えられる。ｌｅｖｅｌ［ｋ］が変換係数レベルである場合、それは、
ｐａｔｈ＝（ｌｅｖｅｌ［ｋ］＆１）
に従って決定することができ、ここで、演算子「＆」は、２つの補数整数演算におけるビット単位の「ａｎｄ」を表す。

【0029】

代替として、経路は、ｌｅｖｅｌ［ｋ］の他のバイナリ関数を表すこともできる。一例として、これは、変換係数レベルが０に等しいか否かを指定することができる。

【0030】

依存スカラー量子化のための状態遷移の概念は、デコーダにおける変換係数の再構成のための低複雑度の実装形態を可能にする。単一の変換ブロックの変換係数の再構成の好ましい例が、Ｃスタイルの擬似コードを使用して図４に示されている。

【0031】

図４は、変換ブロックに対する変換係数の再構成プロセスを示す擬似コードを示している。アレイレベルは、変換ブロックに対する送信された変換係数レベル（量子化インデックス）を表し、アレイｔｒｅｃは、対応する再構成された変換係数を表す。２ｄテーブルｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅは、状態遷移表を指定し、テーブルｓｅｔＩｄは、状態に関連付けられた量子化セットを指定する。関数ｐａｔｈ（）は、変換係数レベルのバイナリ関数を指定する。

【0032】

図４の擬似コードにおいて、インデックスｋは、変換係数の再構成順序を指定する。例示的なコードでは、インデックスｋは再構成順序で減少することに留意されたい。最後の変換係数は、ｋ＝０に等しいインデックスを有する。第１のインデックスｋｓｔａｒｔは、第１の再構成された変換係数の再構成インデックス（又は、より正確には、逆再構成インデックス）を指定する。変数ｋｓｔａｒｔは、変換ブロック中の変換係数の数から１を引いた数に等しく設定され得るか、又は符号化／再構成順序において第１の非ゼロ量子化インデックス（例えば、第１の非ゼロ量子化インデックスの位置が、適用されるエントロピー符号化方法において送信される場合）のインデックスに等しく設定され得る。後者の場合、全ての先行する変換係数（インデックスｋ＞ｋｓｔａｒｔを有する）は、０に等しいと推測される。各単一の変換係数に対する再構成プロセスは、図３の例と同じである。図３の例に関して、量子化インデックスはｌｅｖｅｌ［ｋ］によって表され、関連する再構成された変換はｔｒｅｃ［ｋ］によって表される。状態変数はｓｔａｔｅで表される。１ｄテーブルｓｅｔＩｄ［］は、状態変数の異なる値に関連付けられた量子化セットを指定し、２ｄテーブルｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅ［］［］は、現在の状態（第１の引数）及び経路（第２の引数）が与えられた状態遷移を指定する。一例として、経路は、量子化インデックスのパリティによって与えられ得るが（ビット単位及び演算子＆を使用して）、他の概念も可能である。更なる例として、経路は、変換係数が０に等しいか又は等しくないかを指定することができる。Ｃスタイルシンタックスにおける表の例を図５に示す（これらの表は表１と同一である）。

【0033】

図５は、状態遷移表ｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅと、状態に関連付けられた量子化セットを指定するテーブルｓｅｔＩｄとを示している。Ｃスタイルシンタックスで与えられるテーブルは、表１で指定されるテーブルを表す。

【0034】

次の状態の決定にテーブルｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅ［］［］を使用する代わりに、同じ結果をもたらす算術演算を使用することができる。同様に、テーブルｓｅｔＩｄ［］も算術演算を使用して実装することができる。又は、１ｄテーブルｓｅｔＩｄ［］を使用するテーブルルックアップと符号関数との組み合わせは、算術演算を使用して実装することができる。

【0035】

２．２ 変換係数レベルのエントロピー符号化
依存スカラー量子化の主な態様は、変換係数に対して許容可能な再構成レベルの異なるセット（量子化セットとも称される）が存在することである。現在の変換係数に対する量子化セットは、先行する変換係数に対する量子化インデックスの値に基づいて決定される。図１の好ましい例を考慮し、２つの量子化セットを比較すると、０に等しい再構成レベルと隣接する再構成レベルとの間の距離は、セット１よりもセット０の方が大きいことが明らかである。したがって、量子化インデックスが０に等しい確率は、セット０が使用される場合により大きくなり、セット１が使用される場合により小さくなる。ＶＴＭ－７では、この効果は、現在の量子化インデックスのために使用される状態に基づいて確率モデルを切り替えることによってエントロピー符号化において利用される。

【0036】

コードワードテーブル又は確率モデルの適切な切り替えのために、全ての先行する量子化インデックスの経路（量子化インデックスのバイナリ関数）は、現在の量子化インデックス（又は現在の量子化インデックスの対応するバイナリ決定）をエントロピー復号化するときに知られている必要があることに留意されたい。

【0037】

ＶＴＭ－７では、量子化インデックスは、Ｈ．２６４｜ＭＰＥＧ－４ ＡＶＣ又はＨ．２６５｜ＭＰＥＧ－Ｈ ＨＥＶＣと同様の二値算術符号化を使用して符号化される。その目的のために、非バイナリ量子化インデックスは、最初に一連のバイナリ決定（概してビンと称される）に写像される。

【0038】

２．２．１ 二値化
量子化インデックスは絶対値として送信され、絶対値が０より大きい場合は符号として送信される。符号は単一のビンとして送信されるが、絶対値を一連のバイナリ決定に写像するための多くの可能性がある。

【0039】

【表2】

ＶＴＭ－７で使用される絶対値の二値化を表２に示す。以下のバイナリシンタックス要素及び非バイナリシンタックス要素が送信される。

【0040】

・ｓｉｇ＿ｆｌａｇは、変換係数レベルの絶対値｜ｑ｜が０より大きいかどうかを指定する。
・ｓｉｇ＿ｆｌａｇが１に等しい場合、ｇｔ１＿ｆｌａｇは、変換係数レベルの絶対値｜ｑ｜が１より大きいかどうかを指定する。
・ｇｔ１＿ｆｌａｇが１に等しい場合、ｐａｒ＿ｆｌａｇは、変換係数レベルの絶対値｜ｑ｜のパリティを指定し、ｇｔ３＿ｆｌａｇは、変換係数レベルの絶対値｜ｑ｜が３より大きいかどうかを指定する。

【0041】

・ｇｔ３＿ｆｌａｇが１に等しい場合、非バイナリ値ｒｅｍは、絶対レベル｜ｑ｜の剰余を指定する。このシンタックス要素は、ゴロム－ライス符号を使用して、算術符号化エンジンのバイパスモードで送信される。
存在しないシンタックス要素は、０に等しいと推測される。デコーダ側では、変換係数レベルの絶対値は以下のように再構成される。
｜ｑ｜＝ｓｉｇ＿ｆｌａｇ＋ｇｔ１＿ｆｌａｇ＋ｐａｒ＿ｆｌａｇ＋２＊（ｇｔ３＿ｆｌａｇ＋ｒｅｍ）

【0042】

非ゼロ変換係数レベル（１に等しいｓｉｇ＿ｆｌａｇによって示される）の場合、変換係数レベルの符号を指定するｓｉｇｎ＿ｆｌａｇが、バイパスモードで更に送信される。

【0043】

２．２．２ ビンの符号化順序及びバイパスモード
ＶＴＭ－７における変換係数レベルのエントロピーは、ＨＥＶＣのエントロピーと複数の態様を共有する。しかし、本発明は、エントロピー符号化が依存量子化に適応される追加の態様も含む。

【0044】

図６は、符号化順序における第１の非ゼロ量子化インデックス１２０の位置のシグナリング（強調されたサンプル）を示している。最初の非ゼロ変換係数１２０の位置に加えて、符号化順序１０２において第１の非ゼロ量子化インデックス１２０に続く係数１２２のビンのみが送信され（例えば、青色でマーキングされたサンプル）、符号化順序１０２において第１の非ゼロ量子化インデックス１２０に先行する係数は、０に等しいと推測される（例えば、白色でマーキングされたサンプル）。

【0045】

変換係数の各ブロックは、固定サイズのサブブロック（係数グループとも称される）に分割される。概して、サブブロックは、４×４係数のサイズを有する（図６を参照）。一部の場合では、他のサイズを使用してもよい（例えば、２×２、２×４、４×２、２×８、又は８×２）。
ＨＥＶＣと同様に、変換係数のブロックの符号化は以下のように進行する。

【0046】

・最初に、変換ブロック内に非ゼロ変換係数レベルがあるかどうかを指定する、いわゆるｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇが送信される。ｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇが０に等しい場合、全ての変換係数レベルは０に等しく、変換ブロックに対して更なるデータは送信されない。一部の場合では（例えば、スキップモードでは）、ｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇは明示的に送信されないことがあるが、他のシンタックス要素に基づいて推測される。

【0047】

・ｃｏｄｅｄ＿ｂｌｏｃｋ＿ｆｌａｇが１に等しい場合、符号化順序における最初の有意変換係数のｘ座標及びｙ座標が送信される（実際の走査順序は高周波成分から低周波成分への走査を指定するので、これは時には最終有意係数と称される）。

【0048】

・変換係数の走査は、サブブロック（典型的には、４×４サブブロック）に基づいて進行し、サブブロックの全ての変換係数レベルは、任意の他のサブブロックの任意の変換係数レベルが符号化される前に符号化される。サブブロックは、事前定義された走査順序において処理され、走査順序において第１の有意係数を含むサブブロックから開始し、ＤＣ係数を含むサブブロックで終了する。

【0049】

・このシンタックスは、サブブロックが任意の非ゼロ変換係数レベルを含むかどうかを示すｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇを含む。走査順序における最初及び最後のサブブロック（すなわち、走査順序における第１の有意係数を含むサブブロック及びＤＣ係数を含むサブブロック）については、このフラグは送信されないが、１に等しいと推測される。ｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇが送信されるとき、典型的にはサブブロックの開始において送信される。

【0050】

・ｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇが１に等しい各サブブロックについて、変換係数レベルは、サブブロックの走査位置にわたる複数の走査パスにおいて送信される。

【0051】

以下では、まず、特別な態様（後述）を無視する。この特別な態様がなければ、ｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇが１に等しいサブブロックの符号化は、以下のように進行する。

【0052】

・符号化順序における最初のサブブロック（すなわち、ｘ座標及びｙ座標が明示的に送信される第１の有意走査位置を含むサブブロック）については、符号化は、走査順序における第１の非ゼロ係数の走査位置ｆｉｒｓｔＳｉｇＳｃａｎＩｄｘ（すなわち、明示的に送信されたｘ座標及びｙ座標に対応する走査位置）から開始する。他の全てのサブブロックについて、符号化は、サブブロック内の最小走査インデックスｍｉｎＳｕｂｂｌｏｃｋＳｃａｎＩｄｘで開始する。走査は、サブブロック内の最大走査インデックスｍａｘＳｕｂｂｌｏｃｋＳｃａｎＩｄｘで終了する。
・第１のパスでは、正規符号化ビンｓｉｇ＿ｆｌａｇ、ｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、及びｇｔ３＿ｆｌａｇが送信される。
○ｓｉｇ＿ｆｌａｇが１に等しいと推測できる場合、ｓｉｇ＿ｆｌａｇは送信されない。これは、以下の２つの場合に０に等しいと推測することができる。

【0053】

（１）現在の走査位置は、走査順序における第１の非ゼロ係数の走査インデックスｓｔａｒｔＳｃａｎＩｄｘに等しい（すなわち、明示的に送信されたｘ座標及びｙ座標に対応する走査位置）。

【0054】

（２）現在のサブブロックは、１に等しいｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇが送信されたサブブロックであり、現在の走査インデックスはサブブロック内の最大走査インデックスｍａｘＳｕｂｂｌｏｃｋＳｃａｎＩｄｘであり、現在のサブブロックに対して以前に送信された全てのｓｉｇ＿ｆｌａｇは１に等しい。

【0055】

○走査インデックスｋについてのｓｉｇ＿ｆｌａｇ［ｋ］が１に等しい（送信又は推測される）場合、ｇｔ１＿ｆｌａｇが送信される。そうでない場合、ｇｔ１＿ｆｌａｇは０に等しいと推測される。

【0056】

○走査インデックスｋについてのｇｔ１＿ｆｌａｇ［ｋ］が１に等しい場合、ｐａｒ＿ｆｌａｇ及びｇｔ３＿ｆｌａｇが送信される。そうでない場合、ｐａｒ＿ｆｌａｇ及びｇｔ３＿ｆｌａｇは０に等しいと推測される。

【0057】

・第２のパスにおいて、剰余値ｒｅｍは、１に等しいｇｔ３＿ｆｌａｇが送信された走査インデックスについて符号化される。他の全ての走査インデックスについては、剰余ｒｅｍは０に等しいと推定される。剰余値ｒｅｍは、ライス符号と、いわゆるライスパラメータによってパラメータ化される指数ゴロム符号との連結を使用して符号化される。対応するコードワードのビンは、バイパスモードで符号化される。ライスパラメータは、既に符号化されたシンタックス要素（以下参照）に基づいて決定される。

【0058】

・最後に、最後のパスでは、１に等しいｓｉｇ＿ｆｌａｇ［ｋ］を有する全ての走査インデックスｋ（符号化又は推論された）について、変換係数値が負であるか正であるかを指定するｓｉｇｎ＿ｆｌａｇが送信される。

【0059】

以下の擬似コードは、サブブロック内の変換係数レベルの符号化プロセスを更に示す。これは、デコーダの観点から示されている。ブール変数ｆｉｒｓｔＳｕｂｂｌｏｃｋは、現在のサブブロックが（変換ブロック内の）符号化順序で最初のサブブロックであるかどうかを指定する。ｆｉｒｓｔＳｉｇＳｃａｎＩｄｘは、変換ブロック中の最初の有意変換係数（変換ブロックシンタックスの開始において明示的にシグナリングされるもの）の位置に対応する走査インデックスを指定する。ｍｉｎＳｕｂｂｌｏｃｋＳｃａｎＩｄｘ及びｍａｘＳｕｂｂｌｏｃｋＳｃａｎＩｄｘは、現在のサブブロックの走査インデックスの最小値及び最大値を表す。任意のデータが送信される第１の走査インデックスは、サブブロックが走査順序で第１の有意係数を含むかどうかに依存することに留意されたい。この場合、第１の走査パスは、最初の有意変換係数に対応する走査インデックスから開始され、そうでない場合、第１の走査パスは、サブブロックの最小走査インデックスから開始する。走査インデックスｋの変数ｃｏｅｆｆ［ｋ］は、再構成された変換係数レベルを表す。符号化は復号化と同様に進行する。

【0060】

１に等しいｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇを有するサブブロックの復号化を指定する擬似コード（簡略化）：
startScanIdx = ( firstSubblock ? firstSigScanIdx : minSubblockScanIdx )
endScanIdx = maxSubblockScanIdx

// first pass (regular coded bins)
for( k = startScanIdx; k <= endScanIdx; k++ ) {
coeff[k] = 0
if( sig_flag cannot be inferred to be equal to 1 ) {
decode sig_flag[k]
}
if( sig_flag[k] != 0 ) {
decode gt1_flag[k]
if( gt1_flag[k] != 0 ) {
decode par_flag[k]
decode gt3_flag[k]
}
coeff[k] = 1 + gt1_flag[k] + par_flag[k] + 2 * gt3_flag[k]
}
state = stateTransTable[ state ][ coeff[k] & 1 ]
}

// second pass (bypass coding of remainder)
for( k = startScanIdx; k <= endScanIdx; k++ ) {
if( gt3_flag[k] != 0 ) {
decode rem[k]
coeff[k] = coeff[k] + 2 * rem[k]
}
}

// third pass (bypass coding of signs)
for( k = startScanIdx; k <= endScanIdx; k++ ) {
if( coeff[k] != 0 ) {
decode sign_flag[k]
if( sign_flag[k] == 1 )
coeff[k] = -coeff[k]
}
}

【0061】

ＨＥＶＣと比較した１つの欠点は、変換係数あたりの正規符号化ビンの最大数が増加することであった。この問題を回避するために、以下の概念がＶＴＭ－７に含まれる。
・変換ブロックの正規符号化ビンｍａｘＮｕｍＲｅｇＢｉｎｓの最大数は、
ｍａｘＮｕｍＲｅｇＢｉｎｓ＝１．７５＊ｗｉｄｔｈ＊ｈｅｉｇｈｔ
に等しく設定され、式中、ｗｉｄｔｈ及びｈｅｉｇｈｔは、変換ブロック（より正確には、変換係数が０に等しくなるように強制される場合、変換ブロックの非ゼロ外量域）のサイズを表す。

【0062】

・変換ブロックの開始時に、正規符号化ビンの利用可能な数を指定するカウンタｒｅｍＲｅｇＢｉｎｓが、ｒｅｍＲｅｇＢｉｎｓ＝ｍａｘＮｕｍＲｅｇＢｉｎｓに等しく設定される。
・正規符号化されたビンが符号化又は復号化された後、カウンタｒｅｍＲｅｇＢｉｎｓが１だけ減らされる。

【0063】

・第１のパスにおける走査位置についての符号化の開始時に、カウンタが４未満である場合（この場合、全てのビンｓｉｇ＿ｆｌａｇ、ｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、及びｇｔ３＿ｆｌａｇが正規符号化ビンの最大数を超えずに送信されることはできない）、第１のパスは終了する。更に、剰余値は、第１のパスに含まれた走査位置に対してのみ送信される。
・第１の走査パスでデータが符号化されない絶対レベルは、バイパスモードで完全に符号化される。これらは、剰余ｒｅｍと同じクラスの符号を使用して符号化される。ライスパラメータ及び変数ｐｏｓ０は、既に符号化されたシンタックス要素（以下参照）に基づいて決定される。これらの絶対値レベル｜ｑ｜は直接符号化されないが、最初にシンタックス要素ａｂｓ＿ｌｅｖｅｌに写像され、次にパラメータ符号を使用して符号化される。

【0064】

絶対値｜ｑ｜のシンタックス要素ａｂｓ＿ｌｅｖｅｌへの写像は、変数ｐｏｓ０に依存する。これは、
ａｂｓ＿ｌｅｖｅｌ＝（｜ｑ｜＝＝０？ｐｏｓ０：（｜ｑ｜＜＝ｐｏｓ０？｜ｑ｜－１：｜ｑ｜）
によって指定される。
デコーダ側では、絶対値｜ｑ｜へのシンタックス要素ａｂｓ＿ｌｅｖｅｌの写像は、以下のように指定される。
｜ｑ｜＝（ａｂｓ＿ｌｅｖｅｌ＝＝ｐｏｓ０？０：（ａｂｓ＿ｌｅｖｅｌ＜ｐｏｓ０？ａｂｓ＿ｌｅｖｅｌ＋１：ａｂｓ＿ｌｅｖｅｌ）

【0065】

正規符号化ビンの数に対する制限は、サブブロック単位ではなく、変換ブロック単位で適用されることに留意されたい。これは、カウンタｒｅｍＲｅｇＢｉｎｓが変換ブロックの開始時に初期化され、正規符号化ビンごとに減少されることを意味する。符号化が特定のサブブロックにおいてバイパスモードに切り替わる場合、符号化順序で後続する全てのサブブロックの全ての変換係数レベルもバイパスモードで符号化される。

【0066】

（１に等しいｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇを有する）サブブロックに対する符号化プロセスは、以下の擬似コードに示される。前の擬似コードと同様に、符号化プロセスはデコーダの観点から示されている。第１の符号化サブブロックについては、カウンタｒｅｍＲｅｇＢｉｎｓの初期値はｍａｘＮｕｍＲｅｇＢｉｎｓに等しい。全ての後続のサブブロックについて、カウンタｒｅｍＲｅｇＢｉｎｓの初期値は、前の符号化サブブロックの終わりに得られた値に等しい。走査インデックスｓｔａｒｔＩｄｘＢｙｐａｓｓは、バイパス符号化（すなわち、ａｂｓ＿ｌｅｖｅｌの符号化）がサブブロック（適用可能な場合）内で開始する第１の走査インデックスである。

【0067】

１に等しいｃｏｄｅｄ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇを有するサブブロックの復号化を指定する擬似コード（１１４）（バイパスモードを有する）：
startScanIdx = (firstSubblock ? firstSigScanIdx : minSubblockScanIdx)
endScanIdx = maxSubblockScanIdx
startIdxBypass = (remRegBins >= 4 ? maxSubblockScanIdx + 1 : startScanIdx)

// first pass (regular coded bins)
for( k = startScanIdx; k <= endScanIdx && remRegBins >= 4; k++ ) {
coeff[k] = 0
if( sig_flag cannot be inferred to be equal to 1 ) {
decode sig_flag[k]
remRegBins = remRegBins - 1
}
if( sig_flag[k] != 0 ) {
decode gt1_flag[k]
remRegBins = remRegBins - 1
if( gt1_flag[k] != 0 ) {
decode par_flag[k]
decode gt3_flag[k]
remRegBins = remRegBins - 2
}
coeff[k] = 1 + gt1_flag[k] + par_flag[k] + 2 * gt3_flag[k]
}
if( remRegBins < 4 ) {
startIdxBypass = k + 1
}
state = stateTransTable[ state ][ coeff[k] & 1 ]
}

// second pass (bypass coding of remainder)
for( k = startScanIdx; k < startIdxBypass; k++ ) {
if( gt3_flag[k] != 0 ) {
decode rem[k]
coeff[k] = coeff[k] + 2 * rem[k]
}
}

// third pass (bypass coding of absolute levels)
for( k = startIdxBypass; k <= endScanIdx; k++ ) {
derive pos0
decode abs_level[k]
if( abs_level[k] == pos0 )
coeff[k] = 0
else if ( abs_level[k] < pos0)
coeff[k] = abs_level[k] + 1
else
coeff[k] = abs_level[k]
state = stateTransTable[ state ][ coeff[k] & 1 ]
}

// fourth pass (bypass coding of signs)
for( k = startScanIdx; k <= endScanIdx; k++ ) {
if( coeff[k] != 0 ) {
decode sign_flag[k]
if( sign_flag[k] == 1 )
coeff[k] = -coeff[k]
}
}

【0068】

２．２．３ コンテキストモデリング
正規符号化ビンｓｉｇ＿ｆｌａｇ、ｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、及びｇｔ３＿ｆｌａｇについて、複数の確率モデル（又はコンテキスト）のうちの１つが実際の符号化のために選択される。

【0069】

図７は、１又は複数のビンに対する確率モデルを選択するために使用されるローカルテンプレートを示している。黒い正方形１３０は、現在の走査位置を表し、強調表示されたサンプル１３２（例えば、青い正方形）は、テンプレート内の隣接する走査位置を表す。

【0070】

２．２．３．１ 有意フラグｓｉｇ＿ｆｌａｇ
有意フラグの場合、選択される確率モデルは、以下に依存する。
・現在の変換ブロックがルマ変換ブロックであるかクロマ変換ブロックであるか
・依存量子化の状態
・現在の変換係数のｘ座標及びｙ座標
・局所近傍における（第１のパスの後の）部分的に再構成された絶対値

【0071】

以下に、より詳細に説明する。
変数ｓｔａｔｅは、依存量子化において使用される現在の変換係数の状態を表す。状態は、値０、１、２、又は３をとることができる。最初に、状態は０に等しく設定される。上記で説明したように、現在の変換係数の状態は、符号化順序における前の係数の状態と、前の変換係数レベルのパリティ（又は、より概しては、バイナリ関数）とによって与えられる。

【0072】

ｘ及びｙが変換ブロック内の現在の変換係数の座標である場合、ｄｉａｇ＝ｘ＋ｙを現在の係数の対角位置とする。対角位置が与えられると、対角クラスインデックスｄｓｉｇは以下のように導出される。
ｄｓｉｇ＝（ｄｉａｇ＜２？２：（ｄｉａｇ＜５？１：０））（ルマ変換ブロックの場合）
及び
ｄｓｉｇ＝（ｄｉａｇ＜２？１：０）（クロマ変換ブロックの場合）
三項演算子（ｃ？ａ：ｂ）は、ｉｆ－ｔｈｅｎ－ｅｌｓｅ文を表す。条件ｃが真である場合、ａの値が使用され、そうでない場合（ｃが偽である場合）、値ｂが使用される。

【0073】

コンテキストは、局所近傍内の部分的に再構成された絶対値にも依存する。ＶＴＭ－７では、局所近傍は、図７に示されるテンプレートＴによって与えられる。しかし、他のテンプレートも可能である。使用されるテンプレートはまた、ルマブロックが符号化されるかクロマブロックが符号化されるかに依存し得る。ｓｕｍＡｂｓを、テンプレートＴ：

【0074】

における（第１のパスの後の）部分的に再構成された絶対値の和とする。式中、ａｂｓ１［ｋ］は、第１のパスの後の走査インデックスｋについての部分的に再構成された絶対レベルを表す。ＶＴＭ－７の二値化では、
ａｂｓ１［ｋ］＝ｓｉｇ＿ｆｌａｇ［ｋ］＋ｇｔ１＿ｆｌａｇ［ｋ］＋ｐａｒ＿ｆｌａｇ［ｋ］＋２＊ｇｔ３＿ｆｌａｇ［ｋ］
で与えられる。
ａｂｓ１［ｋ］は、第１の走査パス（上記参照）の後に取得された値ｃｏｅｆｆ［ｋ］に等しいことに留意されたい。

【0075】

ｓｉｇ＿ｆｌａｇの可能な確率モデルが１ｄアレイに編成されていると仮定する。ｃｔｘＩｄＳｉｇを、使用される確率モデルを識別するインデックスとする。ＶＴＭ－７によれば、コンテキストインデックスｃｔｘＩｄＳｉｇは、以下のように導出することができる。
変換ブロックがルマブロックである場合、
ｃｔｘＩｄＳｉｇ＝ｍｉｎ（（ｓｕｍＡｂｓ＋１）＞＞１，３）＋４＊ｄｓｉｇ＋１２＊ｍｉｎ（ｓｔａｔｅ－１，０）
変換ブロックがクロマブロックである場合、
ｃｔｘＩｄＳｉｇ＝３６＋ｍｉｎ（（ｓｕｍＡｂｓ＋１）＞＞１，３）＋４＊ｄｓｉｇ＋８＊ｍｉｎ（ｓｔａｔｅ－１，０）
ここで、演算子「＞＞」は、右方向へのビットシフト（２補数演算）を表す。演算は、２により除算して、結果を（次の整数へ）切り捨てることと同一である。

【0076】

コンテキストモデルの他の編成も可能であることに留意されたい。しかし、いずれの場合も、ｓｉｇ＿ｆｌａｇを符号化するために選択される確率モデルは、以下に依存する。
・ルマブロックが符号化されるかクロマブロックが符号化されるか
・状態変数、具体的にはｍｉｎ（ｓｔａｔｅ－１，０）
・対角クラスｄｓｉｇ
・ローカルテンプレート内の部分的に再構成された絶対値の和（第１のパス後）、具体的にはｍｉｎ（（ｓｕｍＡｂｓ＋１）＞＞１，３）

【0077】

２．２．３．２ フラグｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、ｇｔ３＿ｆｌａｇ
フラグｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、及びｇｔ３＿ｆｌａｇに関して、選択される確率モデルは、以下に依存する。
・現在の変換ブロックがルマ変換ブロックであるかクロマ変換ブロックであるか
・現在の変換係数が変換ブロック内の符号化順序で第１の非ゼロ係数であるか
・現在の変換係数のｘ座標及びｙ座標
・局所近傍における（第１のパスの後の）部分的に再構成された絶対値
ｆｉｒｓｔＣｏｅｆｆを、現在の走査インデックスが符号化順序における最初の非ゼロ変換係数レベルの走査インデックスを表すかどうか（すなわち、走査インデックス、又はｘ及びｙ位置が明示的に符号化されるもの）を示す変数とする。現在の走査インデックスが最初の非ゼロ変換係数レベルの走査インデックスに等しい場合、ｆｉｒｓｔＣｏｅｆｆは１に等しく、そうでない場合、ｆｉｒｓｔＣｏｅｆｆは０に等しい。

【0078】

ｘ及びｙが変換ブロック内の現在の変換係数の座標である場合、ｄｉａｇ＝ｘ＋ｙを現在の係数の対角位置とする。対角位置が与えられると、対角クラスインデックスｄｃｌａｓｓは以下のように導出される。
ｄｃｌａｓｓ＝（ｄｉａｇ＝＝０？３：（ｄｉａｇ＜３？２：（ｄｉａｇ＜１０？１：０）））（ルマ変換ブロックの場合）
及び
ｄｃｌａｓｓ＝（ｄｉａｇ＝＝０？１：０）（クロマ変換ブロックの場合）

【0079】

コンテキストは、局所近傍内の部分的に再構成された絶対値にも依存する。変数ｓｕｍＡｂｓは、上述のように導出される。更に、テンプレートＴ内の非ゼロ変換係数レベルの数を指定する変数ｎｕｍＳｉｇが導出される。
ｎｕｍＳｉｇ＝Σ_ｋ∈Ｔｓｉｇ＿ｆｌａｇ［ｋ］

【0080】

ｓｉｇ＿ｆｌａｇの場合と同様に、可能な確率モデルが１ｄアレイに編成されると仮定する。ｃｔｘＩｄを、使用される確率モデルを識別するインデックスとする。ＶＴＭ－７によれば、コンテキストインデックスｃｔｘＩｄは、以下のように導出することができる。
変換ブロックがルマブロックである場合、
ｃｔｘＩｄ＝（ｆｉｒｓｔＣｏｅｆｆ？０：１＋ｍｉｎ（ｓｕｍＡｂｓ－ｎｕｍＳｉｇ，４）＋５＊ｄｃｌａｓｓ）
変換ブロックがクロマブロックである場合、
ｃｔｘＩｄ＝２１＋（ｆｉｒｓｔＣｏｅｆｆ？０：１＋ｍｉｎ（ｓｕｍＡｂｓ－ｎｕｍＳｉｇ，４）＋５＊ｄｃｌａｓｓ）

【0081】

コンテキストモデルの他の編成も可能であることに留意されたい。しかし、いずれの場合も、選択される確率モデルは、以下に依存する。
・ルマブロックが符号化されるかクロマブロックが符号化されるか
・現在の走査インデックスが符号化順序で最初の非ゼロ変換係数レベルの走査インデックスであるかどうか
・対角クラスｄｃｌａｓｓ
・ローカルテンプレート内の部分的に再構成された絶対値（第１のパス後）の和とローカルテンプレート内の非ゼロ変換係数レベルの数との差、特にｍｉｎ（ｓｕｍＡｂｓ－ｎｕｍＳｉｇ，４）

【0082】

同じコンテキストインデックスｃｔｘＩｄが、ｇｔ１＿ｆｌａｇ、ｐａｒ＿ｆｌａｇ、及びｇｔ３＿ｆｌａｇに使用されることに留意されたい。しかし、これらのフラグの各々について、コンテキストモデルの異なるセットが使用される。

【0083】

２．２．３．３ 剰余及びバイパス符号化された変換係数レベルのためのライスパラメータ
剰余ｒｅｍ及び絶対値ａｂｓ＿ｌｅｖｅｌの両方は、ビンがバイパスモード（上記参照）で符号化されるコードのパラメトリッククラスを使用して符号化される。実際に使用される二値化は、いわゆるライスパラメータＲＰによって決定される。更に、絶対レベルａｂｓ＿ｌｅｖｅｌについて、変数ｐｏｓ０は、符号化シンタックス要素ａｂｓ＿ｌｅｖｅｌから実際の絶対値への写像を決定する。

【0084】

剰余ＲＰｒｅｍのライスパラメータは、ローカルテンプレート内の再構成された絶対値の和に基づいて導出される。ＶＴＭ－７では、上記と同じテンプレートが使用される。Ｔがテンプレートを表し、ｃｏｅｆｆ［ｋ］が走査インデックスｋに対する再構成された係数を表す場合、和ｓｕｍＡｂｓは、以下に従って導出される。

【0085】

完全に再構成された変換係数値ｃｏｅｆｆ［ｋ］が使用されることに留意されたい。ｔａｂＲＰｒｅｍ［］をサイズ３２の固定テーブルとする。ライスパラメータＲＰｒｅｍは、以下に従って導出される。

【0086】

ＲＰｒｅｍ＝ｔａｂＲＰｒｅｍ［ｍａｘ（ｍｉｎ（ｓｕｍＡｂｓ－２０，３１），０）］
ｔａｂＲＰａｂｓ［］をサイズ３２の別の固定テーブルとする。ａｂｓ＿ｌｅｖｅｌを符号化するために使用されるライスパラメータＲＰａｂｓは、以下に従って導出される。
ＲＰａｂｓ＝ｔａｂＲＰａｂｓ［ｍｉｎ（ｓｕｍＡｂｓ，３１）］

【0087】

変数ｐｏｓ０は、ローカルテンプレート内の再構成された絶対値の和と状態変数との両方に依存する。変数ｐｏｓ０は、以下に従って量子化状態及びライスパラメータＲＰａｂｓから導出される。
ｐｏｓ０＝（ｓｔａｔｅ＜２？１：２）＜＜ＲＰａｂｓ．

【0088】

２．３ 量子化方法のハイレベルシグナリング
ＶＴＭ－７は、４つの状態を有する依存量子化をサポートし、更に、従来の独立スカラー量子化をサポートする。エンコーダによって選択された量子化方法は、以下のようにビットストリームにおいて示される。

【0089】

ピクチャヘッダは、シンタックス要素ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇを含み、このシンタックス要素は、単一ビットを使用して符号化され、依存量子化が現在のピクチャに使用されるか使用されないかを示す。ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい場合、従来の独立量子化が現在ピクチャに対して使用される。ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇが１に等しい場合、依存量子化の指定された変形形態が現在のピクチャのために使用される。

【0090】

ピクチャヘッダシンタックス要素は、ピクチャヘッダに常に存在するわけではない。その存在は、ピクチャパラメータセットにおいて符号化される別のシンタックス要素によって制御される。ピクチャパラメータセットは、シンタックス要素ｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃを含み、これは、２ビットの固定長コードを使用して符号化され、以下の意味を有する。

【0091】

・０の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇがピクチャヘッダ中に存在することを指定する。
・１の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇがピクチャヘッダ中に存在しないが、ピクチャパラメータセットを参照する全てのピクチャについて０に等しいと推測されることを指定する。

【0092】

・２の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇがピクチャヘッダ中に存在しないが、ピクチャパラメータセットを参照する全てのピクチャについて１に等しいと推測されることを指定する。
・３の値は、将来の使用のために予約される。

【0093】

ピクチャパラメータセット内のｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃは、ピクチャパラメータセットフラグｃｏｎｓｔａｎｔ＿ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｐａｒａｍｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが１に等しい場合に存在する。ピクチャパラメータセットフラグｃｏｎｓｔａｎｔ＿ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｐａｒａｍｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい場合、ピクチャパラメータセットシンタックス要素ｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃはピクチャパラメータセット中に存在しないが、０に等しいと推測される（この場合、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇはピクチャヘッダ中で符号化される）。

【発明の概要】

【発明が解決しようとする課題】

【0094】

したがって、変換係数レベルの適応依存量子化をサポートするために、ピクチャ符号化及び／又はビデオ符号化をより効率的にレンダリングするための概念を提供することが望ましい。加えて、又は代替的に、ビットストリーム、したがって信号化コストを低減することが望まれる。

【課題を解決するための手段】

【0095】

これは、本願の独立請求項の主題によって達成される。
本発明による更なる実施形態は、本出願の従属請求項の主題によって定義される。

【0096】

本発明の第１の態様によれば、本出願の発明者らは、変換係数レベルの依存量子化／逆量子化を使用しようとするときに遭遇する１つの問題が、高い実装複雑性が複数の依存量子化／逆量子化モードの提供に関与するという事実から生じることを認識した。本出願の第１の態様によれば、この困難性は、独立量子化／逆量子化のフレームワークと、依存量子化／逆量子化の複数の変形形態とを統合することによって克服される。発明者らは、量子化モード情報に依存しない量子化器を選択することが有利であることを見出した。量子化モード情報に依存する唯一の態様は、現在の遷移状態の更新、例えば、更新に使用可能な遷移表の選択である。これは、全てのサポートされる量子化モードのための統合されたプロセスが、単一の量子化モードをサポートすることと比較して、デコーダ側において追加の実装複雑性をほとんどもたらさないという考えに基づく。しかし、異なる方法をサポートする必要がある場合、デコーダの複雑性は増大する。したがって、異なる量子化モードの使用が可能となり、それによって、エンコーダは、符号化効率とその適用エリアの実装複雑性との間の最も適切なトレードオフを提供する変形形態を選択する自由度が与えられる。更に、量子化モードとは独立した量子化器の選択は、エンコーダ／デコーダにおいて４つより多い遷移状態を有する依存量子化モードの使用を可能にし、それによって、Ｎ次元信号空間における許容可能な再構成点のより密な充填が達成されるので、符号化効率を増加させることができる。

【0097】

したがって、本出願の第１の態様によれば、デコーダは、予測残差を表す残差レベルをデータストリームから復号化し、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差レベルを逆量子化して、逆量子化された残差値を取得することと、現在の残差レベルにバイナリ関数を適用して現在の残差レベルの特性、例えばパリティを取得することと、使用される遷移表を使用して現在の残差レベルの特性に応じて現在の遷移状態を更新することと、によって、残差レベルを順次逆量子化するように構成される。残差レベルの逆量子化は順次実行され、これは、例えば、全ての残差値が逆量子化されるまで、上述した逆量子化ステップがループで実行されることを意味し、そのため、現在の遷移状態の更新は、シーケンスにおける最初のステップ又は最後のステップのいずれかとして理解され得る。現在の遷移状態を更新するステップは、残差レベルの連続的な逆量子化を接続し、例えば、前の残差レベルの逆量子化は、現在の遷移状態の更新によって現在の残差レベルの逆量子化と接続される。更に、例えば、第１の残差レベルの逆量子化の場合、現在の遷移状態は、デフォルト／所定の状態、例えば、０に設定されてもよく、この現在の遷移状態は、例えば、残差レベルの順次逆量子化を初期化するために使用される遷移表を使用して、現在の残差レベルの特性、すなわち、第１の残差レベルの特性に応じて更新される。デコーダは、逆量子化された残差値を使用して媒体信号を再構成するように構成される。更に、デコーダは、データストリームに含まれる量子化モード情報に応じて、デフォルト遷移表のセットから１つのデフォルト遷移表を、使用される遷移表として選択するように構成され、デフォルト遷移表の各々は、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへの全射写像を表し、デフォルト遷移表は、１又は複数の遷移状態のセットの基数が異なる。全射写像は、例えば、１又は複数の遷移状態のセットの要素、すなわち遷移状態を、１又は複数の遷移状態のセットの要素、すなわち遷移状態に写像する。全射写像のための定義域及び変域は両方とも、例えば、１又は複数の遷移状態の同じセットに関係する。使用される遷移表のこの選択は、例えば、現在の遷移状態の更新において各残差レベルに対して実行されてもよく、複数の残差レベルを含む変換ブロックごとに実行されてもよく、又はピクチャ単位で実行されてもよい。更に、デコーダは、使用される遷移表としてどのデフォルト遷移表が選択されても、第１の写像を使用して、現在の遷移状態の所定数のビットをデフォルト量子化器に写像することによって、量子化器の選択を実行するように構成され、所定数及び第１の写像は、使用される遷移表としてどのデフォルト遷移表が選択されても等しい。所定数のビットは、例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置におけるビットなど、１又は複数の所定のビット位置における１又は複数のビットの数を表す。

【0098】

したがって、本出願の第１の態様によれば、デコーダは、予測残差を表す残差レベルをデータストリームから復号化し、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差レベルを逆量子化して、逆量子化された残差値を取得することと、現在の残差レベル、例えばパリティにバイナリ関数を適用することによって得られる現在の残差レベルの特性に応じて、かつデータストリームに含まれる量子化モード情報に応じて、現在の遷移状態を更新することと、によって、残差レベルを順次逆量子化するように構成される。上述したように、残差レベルの逆量子化は順次実行され、これは、例えば、全ての残差値が量子化されるまで、上述した逆量子化ステップがループで実行されることを意味し、そのため、現在の遷移状態の更新は、シーケンスにおける最初のステップ又は最後のステップのいずれかとして理解され得る。現在の遷移状態を更新するステップは、残差レベルの連続的な逆量子化を接続し、例えば、前の残差レベルの逆量子化は、現在の遷移状態の更新によって現在の残差レベルの逆量子化と接続される。更に、例えば、第１の残差レベルの逆量子化の場合、現在の遷移状態は、デフォルト／所定の状態、例えば、０に設定されてもよく、この現在の遷移状態は、例えば、残差レベルの順次逆量子化を初期化するために、現在の残差レベルの特性、すなわち、第１の残差レベルの特性に応じて更新される。現在の遷移状態は、例えば、更新時に、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる。量子化モード情報が何であれ、例えば、量子化モード情報とは無関係に、又は独立して、デコーダは、第１の写像を使用して、現在の遷移状態の所定数のビット（例えば、ＬＳＢなどの１又は複数の所定のビット位置における１又は複数のビット、又は２番目であるが最後の有意ビット位置におけるビット）をデフォルト量子化器に写像することによって、量子化器の選択を実行するように構成され、所定数及び第１の写像は、量子化モード情報が何であれ等しい。更に、デコーダは、逆量子化された残差値を使用して媒体信号を再構成するように構成される。

【0099】

したがって、本出願の第１の態様によれば、エンコーダは、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、現在の残差レベルにバイナリ関数を適用して現在の残差レベルの特性、例えばパリティを取得することと、使用される遷移表を使用して現在の残差レベルの特性に応じて現在の遷移状態を更新することと、によって、媒体信号を予測的に符号化して残差信号を取得し、残差信号を表す残差値を順次量子化して、残差レベルを取得するように構成される。残差レベルの量子化は順次実行され、これは、例えば、全ての残差値が量子化されるまで、上述した量子化ステップがループで実行されることを意味し、そのため、現在の遷移状態の更新は、シーケンスにおける最初のステップ又は最後のステップのいずれかとして理解され得る。現在の遷移状態を更新するステップは、残差レベルの連続的な量子化を接続し、例えば、前の残差レベルの量子化は、現在の遷移状態の更新によって現在の残差レベルの量子化と接続される。更に、例えば、第１の残差レベルの量子化の場合、現在の遷移状態は、デフォルト／所定の状態、例えば、０に設定されてもよく、この現在の遷移状態は、例えば、残差レベルの順次量子化を初期化するために使用される遷移表を使用して、現在の残差レベルの特性、すなわち、第１の残差レベルの特性に応じて更新される。エンコーダは、残差レベルをデータストリームに符号化するように構成される。更に、エンコーダは、データストリームに送信される量子化モード情報に応じて、デフォルト遷移表のセットから１つのデフォルト遷移表を、使用される遷移表として選択するように構成され、デフォルト遷移表の各々は、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへの全射写像を表し、デフォルト遷移表は、１又は複数の遷移状態のセットの基数が異なる。全射写像は、例えば、１又は複数の遷移状態のセットの要素、すなわち遷移状態を、１又は複数の遷移状態のセットの要素、すなわち遷移状態に写像する。全射写像のための定義域及び変域は両方とも、例えば、１又は複数の遷移状態の同じセットに関係する。使用される遷移表のこの選択は、例えば、現在の遷移状態の更新において各残差レベルに対して実行されてもよく、複数の残差レベルを含む変換ブロックごとに実行されてもよく、又はピクチャ単位で実行されてもよい。更に、エンコーダは、使用される遷移表としてどのデフォルト遷移表が選択されても、第１の写像を使用して、現在の遷移状態の所定数のビットをデフォルト量子化器に写像することによって、量子化器の選択を実行するように構成され、所定数及び第１の写像は、使用される遷移表としてどのデフォルト遷移表が選択されても等しい。所定数のビットは、例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置におけるビットなど、１又は複数の所定のビット位置における１又は複数のビットの数を表す。

【0100】

したがって、本出願の第１の態様によれば、エンコーダは、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、現在の残差レベル、例えばパリティにバイナリ関数を適用することによって取得される現在の残差レベルの特性に応じて、かつデータストリームで送信される量子化モード情報に応じて、現在の遷移状態を更新することと、によって、媒体信号を予測的に符号化して残差信号を取得し、残差信号を表す残差値を順次量子化して、残差レベルを取得するように構成される。上述したように、残差レベルの量子化は順次実行され、これは、例えば、全ての残差値が量子化されるまで、上述した量子化ステップがループで実行されることを意味し、そのため、現在の遷移状態の更新は、シーケンスにおける最初のステップ又は最後のステップのいずれかとして理解され得る。現在の遷移状態を更新するステップは、残差レベルの連続的な量子化を接続し、例えば、前の残差レベルの量子化は、現在の遷移状態の更新によって現在の残差レベルの量子化と接続される。更に、例えば、第１の残差レベルの量子化の場合、現在の遷移状態は、デフォルト／所定の状態、例えば、０に設定されてもよく、この現在の遷移状態は、例えば、残差レベルの順次量子化を初期化するために、現在の残差レベルの特性、すなわち、第１の残差レベルの特性に応じて更新される。現在の遷移状態は、例えば、更新時に、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる。量子化モード情報が何であれ、例えば、量子化モード情報とは無関係に、又は独立して、デコーダは、第１の写像を使用して、現在の遷移状態の所定数のビット（例えば、ＬＳＢなどの１又は複数の所定のビット位置における１又は複数のビット、又は２番目であるが最後の有意ビット位置におけるビット）をデフォルト量子化器に写像することによって、量子化器の選択を実行するように構成され、所定数及び第１の写像は、量子化モード情報が何であれ等しい。加えて、エンコーダは、残差レベルをデータストリームに符号化するように構成される。

【0101】

したがって、本出願の第１の態様によれば、方法は、予測残差を表す残差レベルをデータストリームから復号化し、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差レベルを逆量子化して、逆量子化された残差値を取得することと、現在の残差レベル、例えばパリティにバイナリ関数を適用することによって得られる現在の残差レベルの特性に応じて、かつデータストリームに含まれる量子化モード情報に応じて、現在の遷移状態を更新することと、によって、残差レベルを順次逆量子化することを含む。更に、方法は、逆量子化された残差値を使用して媒体信号を再構成することを含む。現在の遷移状態は、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる。更に、方法は、量子化モード情報が何であれ、例えば、量子化モード情報とは無関係に、又は独立して、第１の写像を使用して、現在の遷移状態の所定数のビット（例えば、ＬＳＢなどの１又は複数の所定のビット位置における１又は複数のビット、又は２番目であるが最後の有意ビット位置におけるビット）をデフォルト量子化器に写像することによって、量子化器の選択を実行することを含み、所定数及び第１の写像は、量子化モード情報が何であれ等しい。

【0102】

したがって、本出願の第１の態様によれば、方法は、現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、量子化器を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、現在の残差レベル、例えばパリティにバイナリ関数を適用することによって取得される現在の残差レベルの特性に応じて、かつデータストリームで送信される量子化モード情報に応じて、現在の遷移状態を更新することと、によって、媒体信号を予測的に符号化して残差信号を取得し、残差信号を表す残差値を順次量子化して、残差レベルを取得することを含む。更に、方法は、残差レベルをデータストリームに符号化することを含む。現在の遷移状態は、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組み合わせの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる。更に、方法は、量子化モード情報が何であれ、例えば、量子化モード情報とは無関係に、又は独立して、第１の写像を使用して、現在の遷移状態の所定数のビット（例えば、ＬＳＢなどの１又は複数の所定のビット位置における１又は複数のビット、又は２番目であるが最後の有意ビット位置におけるビット）をデフォルト量子化器に写像することによって、量子化器の選択を実行することを含み、所定数及び第１の写像は、量子化モード情報が何であれ等しい。

【0103】

上述の方法は、上述のエンコーダ／デコーダと同じ考慮事項に基づいている。方法は、エンコーダ／デコーダに関しても説明される全ての特徴及び機能を用いて完了することができる。
一実施形態は、本明細書に記載の符号化方法を使用して符号化されたピクチャ又はビデオを有するデータストリームに関する。
一実施形態は、コンピュータ上で実行されるときに、本明細書に記載の方法を実行するためのプログラムコードを有するコンピュータプログラムに関する。

【0104】

図面は必ずしも縮尺通りではない。代わりに、一般的に本発明の原理を説明することに重点が置かれている。以下の説明において、本発明の種々の実施形態が、以下の図面を参照して説明される。

【図面の簡単な説明】

【0105】

【図1】２つの異なる量子化器を示す図である。

【図2】変換係数の再構成プロセスを示す擬似コードを示す。

【図3】変換係数の再構成プロセスの代替的な実装形態を示す擬似コードを示す。

【図4】変換ブロックに対する変換係数の再構成プロセスを示す擬似コードを示す。

【図5】状態遷移表を示す。

【図6】符号化順序を示す。

【図7】１又は複数のビンに対する確率モデルを選択するために使用可能なローカルテンプレートを示す。

【図8】一実施形態によるデコーダを示す。

【図9】有意ビンのコンテキスト適応型二値算術符号化（ＣＡＢＡＣ）の実施形態を示す。

【図10】一実施形態による遷移表を示す図である。

【図11】一実施形態による、変換ブロックに対する変換係数の再構成プロセスを示す擬似コードを示す。

【図12】ピクチャ及び／又はビデオエンコーダを示す。

【図13】ピクチャ及び／又はビデオデコーダを示す。

【図14】再構成された信号と、予測残差信号及び予測信号の組み合わせとの関係を示す。

【発明を実施するための形態】

【0106】

以下の説明において、同一又は同等の要素、又は同一又は同等の機能を有する要素は、異なる図面に存在する場合であっても、同一又は同等の参照番号によって示される。

【0107】

以下の説明では、本発明の実施形態のより完全な説明を提供するために、複数の詳細が記載される。しかしながら、本発明の実施形態がこれらの具体的な詳細なしに実施され得ることは、当業者には明らかであろう。他の例では、周知の構造及びデバイスは、本発明の実施形態を不明瞭にすることを避けるために、詳細ではなくブロック図の形態で示される。更に、後に本明細書に記載される異なる実施形態の特徴は、特に明記しない限り、互いに組み合わせることができる。

【0108】

以下の実施形態は、主に、デコーダの観点から特徴及び機能を示している。しかしながら、同一又は同様の特徴及び機能がエンコーダによって含まれ得ること、例えば、デコーダによって実行される復号化がエンコーダによる符号化に対応し得ることは明らかである。更に、エンコーダは、フィードバックループにおいて、例えば予測ステージ３６において、デコーダに関して説明したのと同じ特徴を含んでもよい。

【0109】

図８は、デコーダ２０の実施形態を示している。デコーダ２０は、セクション２で説明した特徴及び／又は機能（例えば、セクション２．１～２．３で説明した１又は複数の特徴）を所望により含み得る。

【0110】

デコーダ２０は、予測残差を表す残差レベル１４２をデータストリーム１４から復号化（２１０）するように構成される。残差レベル１４２は、予測残差を表す変換係数の量子化レベルであってもよい。図１に示すように、残差レベル１４２は、量子化ステップサイズ１４４の整数倍を表すことができる。

【0111】

デコーダ２０は、残差レベル１４２を順次逆量子化（１５０）するように構成される。残差レベル１４２は、符号化順序、すなわち走査順序又は再構成順序に沿って逆量子化（１５０）することができる。異なる符号化順序が可能であり、符号化順序は、デコーダ２０によって復号化される媒体信号、例えば、ピクチャ信号、ビデオ信号、又はオーディオ信号に依存し得る。図６は、ピクチャ又はビデオ信号を復号化するために使用され得る符号化順序１０２の例を示している。一実施形態によれば、デコーダ２０は、最初の非ゼロ変換係数、すなわち、符号化順序で０に等しくない残差レベルを有する第１の変換係数を逆量子化（１５０）することから開始して、符号化順序で最後の変換係数まで符号化順序で後続の変換係数の残差レベル１４２を逆量子化（１５０）することに進み、残差レベル１４２を逆量子化（１５０）することができる。符号化順序で第１の非ゼロ量子化インデックスに先行する変換係数の残差レベルは、デコーダ２０によって０に等しいと推測され得る。

【0112】

デコーダ２０は、現在の遷移状態２２０に応じてデフォルト量子化器のセット１５１から量子化器１５３を選択（１５２）することと、量子化器１５３を使用して現在の残差レベルを逆量子化（１５４）して、逆量子化された残差値１０４を取得することと、現在の残差レベルにバイナリ関数を適用（１５６）することによって取得される現在の残差レベルの特性１５７に応じて、かつデータストリーム１４に含まれる量子化モード情報１８０に応じて、現在の遷移状態を更新（１５８）することと、によって、残差レベル１４２を順次逆量子化（１５０）するように構成される。現在の残差レベルが逆量子化（１５４）されて逆量子化された残差値１０４を取得し、逆量子化１５４に使用される量子化器１５３は、現在の遷移状態２２０に依存する。この逆量子化１５４の後、現在の遷移状態が更新（１５８）され、例えば、次の残差レベルを逆量子化するために、又は更新された現在の遷移状態を用いて現在の残差レベルを再び逆量子化するために、新しい現在の遷移状態が取得される（例えば、以下の第１の残差レベルの逆量子化１５０を参照）。新しい現在の遷移状態は、例えば、現在の遷移状態及び現在の残差レベルの特性１５７に依存する。現在の残差レベルの特性１５７は、現在の残差レベルの特性を表し、次の残差レベルの特性を表さない場合がある。特定の変換係数についての遷移状態は、符号化順序で、前の変換係数についての遷移状態と、前の変換係数の残差レベル特性１５７とに依存し得る。

【0113】

更新１５８において、現在の遷移状態は、量子化モード情報１８０に依存する全射写像に従って、１又は複数の遷移状態のセット１６１と現在の残差レベルの特性１５７との組み合わせ１６３の定義域から１又は複数の遷移状態のセット１６１へ遷移し、１又は複数の遷移状態のセット１６１の基数ｌ，ｍ，ｎは、量子化モード情報１８０に応じて異なる。例えば、１又は複数の遷移状態のセット１６１ａは、第１の量子化モードが量子化モード情報１８０によって示される場合に基数ｌを有し、１又は複数の遷移状態のセット１６１ｂは、第２の量子化モードが量子化モード情報１８０によって示される場合に基数ｍを有し、１又は複数の遷移状態のセット１６１ｃは、第３の量子化モードが量子化モード情報１８０によって示される場合に基数ｎを有する。一実施形態によれば、デコーダ２０は、量子化モード情報１８０に応じて、基数ｌ、例えば、ｌ＝１を有する１又は複数の遷移状態のセット１６１ａ、又は基数ｍ、例えば、ｍ＝４を有する１又は複数の遷移状態のセット１６１ｂのいずれかを使用するように構成されてもよい。図１０は、３つの可能な全射写像１０６ａ、１０６ｂ、及び１０６ｃを示している。
一実施形態によれば、バイナリ関数は、パリティである。

【0114】

図８では、バイナリ関数は「経路」と称されることがあり、第１の残差レベル特性は「経路０」に関連付けられることがあり、第２の残差レベル特性は「経路１」に関連付けられることがある。一実施形態によれば、デコーダ２０は、残差レベル特性１５７として残差レベルのパリティを取得するように構成される。デコーダは、バイナリ関数を現在の残差レベルに適用（１５６）することによって、残差レベルが偶数パリティを有するか奇数パリティを有するかを判定するように構成され得る。例えば、「経路０」は偶数パリティに対応してもよく、「経路１」は奇数パリティに対応してもよい。

【0115】

図８に示すように、デコーダ２０は、量子化モード情報１８０が何であれ、例えば、量子化モード情報１８０とは無関係に、又は独立して、第１の写像２００を使用して、現在の遷移状態２２０の所定数のビットをデフォルト量子化器に写像することによって、量子化器１５３の選択１５２を実行するように構成され、所定数及び第１の写像２００は、量子化モード情報１８０が何であれ等しい。所定数のビットは、例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置におけるビットなど、１又は複数の所定のビット位置における現在の遷移状態２２０の１又は複数のビットを示している。

【0116】

一実施形態によれば、デフォルト量子化器のセット１５１は、図１に示すように、量子化ステップサイズ１４４の偶数整数倍を再構成レベル１４２として含む第１のデフォルト量子化器１５１_１と、量子化ステップサイズ１４４の奇数整数倍及び０を再構成レベル１４２として含む第２のデフォルト量子化器１５１_２とからなる。

【0117】

一実施形態によれば、第１の写像２００は、１に等しいか又は１より小さい現在の遷移状態２２０を第１のデフォルト量子化器１５１_１に写像し、１より大きい現在の遷移状態２２０を第２のデフォルト量子化器１５１_２に写像する。所定数のビットは１であってもよく、デコーダ２０は、現在の遷移状態２２０の第２のビット、例えば第２のＬＳＢを第１のデフォルト量子化器又は第２のデフォルト量子化器に写像するように構成されてもよい。

【0118】

図８に示されるデコーダ２０は、逆量子化された残差値１０４を使用して媒体信号を再構成（１７０）するように構成される。一実施形態によれば、デコーダ２０は、予測を実行して媒体信号の予測バージョンを取得することと、逆量子化された残差値１０４を使用して予測バージョンを補正することと、によって、再構成１７０を実行するように構成され、又は予測を実行して媒体信号の予測バージョンを取得することと、逆量子化された残差値１０４を逆変換に供して媒体残差信号を取得することと、媒体残差信号を使用して予測バージョンを補正することと、によって、逆量子化された残差値１０４を使用して媒体信号を再構成するように構成される。

【0119】

上述したように、残差レベル１４２は順次逆量子化（１５０）される。第１の残差レベル、すなわち最初の非ゼロ変換係数の残差レベルを逆量子化（１５０）するための異なるオプションが存在し、デコーダ２０は、オプションのうちの１つを使用するように構成され得る。

【0120】

デコーダ２０は、現在の残差レベルである第１の残差レベルについての現在の遷移状態を所定の値に設定（１９０）するように構成され得る。例えば、所定値は０であってもよい。量子化器１５３の選択１５２は、この事前定義された現在の遷移状態に基づいて実行されてもよく、第１の残差レベルは、例えば、選択された量子化器１５３を用いて逆量子化（１５４）される。次に、デコーダ２０は、第１の残差レベルにバイナリ関数を適用（１５６）して、現在の残差レベルの特性１５７として第１の残差レベルの特性を取得することと、現在の残差レベルの特性１５７に応じて現在の遷移状態を更新（１５８）することと、を行うように構成され得る。第１のオプションによれば、デコーダ２０は、更新された遷移状態を現在の遷移状態として使用して、次の残差レベルに対する逆量子化１５０を実行するように構成することができる。第２のオプションによれば、デコーダ２０は、次の残差レベルの逆量子化１５０に進む前に、更新された遷移状態を現在の遷移状態として使用して、第１の残差レベルの逆量子化１５０を再び実行するように構成される。代替的に、第３のオプションによれば、デコーダ２０は、現在の残差レベルである第１の残差レベルの現在の遷移状態を所定の値に設定（１９０）し、第１の残差レベルにバイナリ関数を適用（１５６）して、現在の残差レベルの特性１５７として第１の残差レベルの特性を取得するように構成されてもよい。例えば、所定値は０であってもよい。次いで、デコーダ２０は、現在の残差レベルの特性１５７に応じて、事前定義された現在の遷移状態を更新（１５８）して、現在の遷移状態を取得するように構成される。量子化器１５３の選択１５２は、この現在の遷移状態に基づいて実行されてもよく、第１の残差レベルは、例えば、選択された量子化器１５３を用いて逆量子化（１５４）される。次いで、デコーダ２０は、更新１５８を再び実行して、次の残差レベルの現在の遷移状態を取得するように構成することができる。

【0121】

一実施形態によれば、デコーダ２０は、現在の遷移状態の更新１５８に使用される遷移表１０６を使用するように構成される。例えば、デコーダ２０は、現在の遷移状態に応じてデフォルト量子化器のセット１５１から量子化器１５３を選択（１５２）することと、量子化器１５３を使用して現在の残差レベルを逆量子化（１５４）して、逆量子化された残差値１０４を取得することと、現在の残差レベルにバイナリ関数を適用（１５６）して、現在の残差レベルの特性１５７を取得することと、使用される遷移表１０６を使用して現在の残差レベルの特性１５７に応じて現在の遷移状態を更新（１５８）することと、によって、残差レベル１４２を順次逆量子化（１５０）するように構成される。デコーダは、データストリーム１４に含まれる量子化モード情報１８０に応じて、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表を、使用される遷移表１０６として選択するように構成されてもよく、デフォルト遷移表の各々は、１又は複数の遷移状態のセット１６１と現在の残差レベルの特性１５７との組み合わせ１６３の定義域から１又は複数の遷移状態のセット１６１への全射写像を表し、デフォルト遷移表は、１又は複数の遷移状態のセット１６１の基数ｌ、ｍ、ｎが異なる。更に、デコーダ２０は、例えば、使用される遷移表としてどのデフォルト遷移表が選択されても、第１の写像２００を使用して、現在の遷移状態２２０の所定数のビットをデフォルト量子化器に写像することによって、量子化器の選択１５２を実行するように構成され、所定数及び第１の写像２００は、使用される遷移表としてどのデフォルト遷移表が選択されても等しい。

【0122】

一実施形態によれば、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９は、
１又は複数の遷移状態のセットの基数が１である第１のデフォルト遷移表１０６ａ、
１又は複数の遷移状態のセットの基数が４である第２のデフォルト遷移表１０６ｂ、
１又は複数の遷移状態のセットの基数が８である第３のデフォルト遷移表１０６ｃ
のうちの２つ以上を含む。
一実施形態によれば、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９は、１又は複数の遷移状態のセットの基数が１である第１のデフォルト遷移表１０６ａと、１又は複数の遷移状態のセットの基数が４である第２のデフォルト遷移表１０６ｂとを含む。

【0123】

換言すれば、量子化モード情報１８０に応じて、全射写像及び１又は複数の遷移状態のセット１６１の基数ｌ、ｍ、ｎは、１又は複数の遷移状態のセット１６１ａの基数ｌが１であり、１又は複数の遷移状態のセット１６１ｂの基数ｍが４であり、１又は複数の遷移状態のセット１６１ｃの基数ｎが８である、のうちの２つ以上の間で選択可能である。一実施形態によれば、全射写像及び１又は複数の遷移状態のセット１６１の基数ｌ、ｍ、ｎは、１又は複数の遷移状態のセット１６１ａの基数ｌが１であり、１又は複数の遷移状態のセット１６１ｂの基数ｍが４であるうちの間で選択可能である。

【0124】

一実施形態によれば、デコーダ２０は、統合遷移表の異なる部分としてデフォルト遷移表１０６ａ、ｂ、ｃのセット１５９を管理するように構成され、その中で、各デフォルト遷移表１０６ａ、ｂ、ｃについて、１又は複数の遷移状態のセット１６１の各々は、他の任意のデフォルト遷移表が統合遷移表内でインデックス付けされる状態インデックスとは異なる状態インデックスを使用してインデックス付けされ、例えば、統合遷移表の異なる部分内のデフォルト遷移表の遷移状態は、１つのデフォルト遷移表から別のデフォルト遷移表に分離される。

【0125】

一実施形態によれば、デコーダ２０は、統合遷移表内で、現在の残差レベルの特性１５７と現在の遷移状態２２０との組み合わせ１６３に対応するエントリをルックアップすることによって、例えば、現在の残差レベルの特性１５７に応じて、次に逆量子化される残差レベルについて次の遷移状態１６２に対して使用される遷移表１０６を使用して、現在の遷移状態２２０の更新１５８を実行するように構成される。

【0126】

一実施形態によれば、量子化モード情報１８０は、例えば、それに沿って順次逆量子化が実行される逆量子化順序で、第１の残差レベルを逆量子化する際に使用するための開始遷移状態を示すデータストリーム内のシンタックス要素を含み、それにより、シンタックス要素は、使用される遷移表に対応する統合遷移表の部分においてのみ使用される状態インデックスに適合することによって、デフォルト遷移表のうち使用される遷移表を示す。

【0127】

一実施形態によれば、媒体信号は、ビデオであり、デコーダ２０は、データストリーム１４から量子化モード情報１８０を読み出すことと、デフォルト遷移表のセットのうちの１つのデフォルト遷移表１０６の選択を、ビデオに対して１回、ピクチャブロック単位、ピクチャ単位、スライス単位、及びピクチャシーケンス単位のうちの１つの方法で実行することと、を行うように構成される。

【0128】

換言すれば、デコーダ２０は、ビデオについて、ピクチャブロック単位、ピクチャ単位、スライス単位、及びピクチャシーケンス単位のうちの１つの方法で更新を制御する量子化モード情報１８０を読み出すように構成され得る。

【0129】

一実施形態によれば、媒体信号は、カラービデオであり、デコーダ２０は、異なる色成分に対するデフォルト量子化器のセット１５１に対して異なるバージョンを使用するように構成される。
デコーダ２０及び／又は対応するエンコーダは、以下の実施形態のうちの１又は複数に関して説明される特徴及び／又は機能を備え得る。

【0130】

本発明は、依存量子化の複数の変形形態が統合フレームワークにおいてサポートされるデコーダ、エンコーダ、及び方法を指定する。本発明は、特に、エントロピー復号化及び再構成プロセス、例えば、媒体信号の再構成１７０が、全てのサポートされる量子化方法に対して、すなわち、量子化モード情報１８０とは独立して、基本的に同じである概念を特に説明し、例えば、状態遷移表１０６のみが、エンコーダによって選択され、ビットストリーム、すなわち、データストリーム１４内でシグナリングされる量子化方法に基づいて選択される。本発明の好ましい実施形態では、量子化モード情報１８０によって示され得る３つの量子化方法、すなわち、
・従来の独立スカラー量子化、
・４つの状態、すなわち遷移状態を有する依存量子化、及び
・８つの状態、すなわち遷移状態を有する依存量子化
がサポートされる。

【0131】

別の実施形態では、８つより多い状態（例えば、１６の状態）を有する依存量子化の追加の変形形態がサポートされる。本発明の別の実施形態では、従来の量子化及び４つより多くの状態を有する依存量子化のバージョンのみがサポートされる。別の実施形態では、全てが４つより多い状態を有する、２つ以上の依存量子化の変形形態がサポートされる。別の態様によれば、従来の量子化及び４つの状態を有する依存量子化のみがサポートされる。

【0132】

本発明の一態様は、全てのデコーダ動作が、実際に使用される量子化方法に依存しないように設計されることである。選択された量子化方法に依存し得る態様は、状態遷移表１０６の選択である。状態遷移表１０６が与えられると、復号化プロセスは、選択された量子化方法とは無関係になる。

【0133】

本発明の利点は以下の通りである。
・４つより多い状態を有する依存量子化をサポートすることによって、Ｎ次元信号空間における許容可能な再構成点のより密な充填が達成されるので、符号化効率を高めることができる（これは文献に示されている）。

【0134】

・（状態の数において逸脱する）依存量子化の異なる変形形態をサポートすることによって、エンコーダは、その適用エリアの符号化効率と実装複雑性との間の最も適切なトレードオフを提供する変形形態を選択する自由度を与えられる。エンコーダの複雑性は、サポートされる量子化状態の数、すなわち、１又は複数の遷移状態のセット１６１の基数ｌ、ｍ、ｎに依存することに留意されたい。８つの状態を有する依存量子化は、４つの状態を有する依存量子化よりも高い符号化効率をもたらすが、より高いエンコーダの複雑性も必要となる。

【0135】

・サポートされる全ての量子化方法に対して統合されたデコーダプロセスを設計することによって、基本的に、デコーダ側における追加の実装複雑性は必要とされない。復号化の複雑性は、量子化状態の数とは実質的に無関係であることに留意されたい。しかし、異なる方法をサポートする必要がある場合、デコーダの複雑性は増大する。サポートされる全ての量子化方法について復号化プロセスを統合することによって、デコーダの実装複雑性は、単一の依存量子化方法をサポートすることに対して実質的に変化しない。

【0136】

５．１ 本発明の基本概念
ＶＴＭ－７では、４つの状態及び以下の状態遷移表１０６を有する依存量子化が指定され、例えば、基数ｍが４である１又は複数の遷移状態のセット１６１ｂを有する状態遷移表１０６ｂを表す。

【0137】

【表3】

【0138】

ＶＴＭ－５では、経路は、符号化順序１０２における現在の変換係数レベル、すなわち現在の残差レベル（又は量子化インデックス）のパリティによって与えられる。ｌｅｖｅｌ［ｋ］が現在の変換係数レベルを示す場合、変数経路は、
ｐａｔｈ＝（ｌｅｖｅｌ［ｋ］＆１）
に従って決定され、式中、「＆」は、２つの補数の算術におけるビット単位の演算子を示す。上述したように、経路は、量子化インデックスの任意のバイナリ関数であり得る。それにもかかわらず、パリティを使用することが好ましい。

【0139】

ＶＴＭ－７の復号化プロセスでは、動作の数は状態変数、すなわち遷移状態に依存する。特に、以下の３つの態様がある。

【0140】

・変換係数を再構成するために選択される量子化器１５３は、現在の遷移状態２２０に依存する。ＶＴＭ－７では、量子化器ｉｄ（０又は１であり得る）は、ＱＩｄ＝ｓｔａｔｅ＞＞１によって与えられる。

【0141】

状態変数ｓｔａｔｅの現在の値及び現在の量子化インデックスｌｅｖｅｌ［ｋ］が与えられると、再構成された変換係数ｔｒｅｃ［ｋ］、すなわち、逆量子化された残差値１０４は、以下によって取得される。
ｉｆ（ｌｅｖｅｌ［ｋ］！＝０）｛
ｎ＝２＊ｌｅｖｅｌ［ｋ］＋（ｌｅｖｅｌ［ｋ］＞０？－（ｓｔａｔｅ＞＞１）：（ｓｔａｔｅ＞＞１）
ｔｒｅｃ［ｋ］＝（ｎ＊ｓｃａｌｅ［ｋ］＋ａｄｄ）＞＞ｓｈｉｆｔ
｝ｅｌｓｅ｛
ｔｒｅｃ［ｋ］＝０
｝

【0142】

式中、ｉｆ分岐内の第２の行は、量子化ステップサイズ１４４との乗算の整数の変形形態を指定する。式（ｓｔａｔｅ＞＞１）は、使用される量子化器１５３を指定し、例えば、式（ｓｔａｔｅ＞＞１）は、第１の写像２００を表す。演算子「＞＞」は、右方向へのビットシフトを指定する。

【0143】

・有意フラグ、すなわち有意ビン９２を符号化するためのコンテキストモデル、すなわちコンテキスト２４２は、状態変数、すなわち現在の遷移状態２２０に依存する（図９参照）。ＶＴＭ－７では、それはｍａｘ（ｓｔａｔｅ－１，０）の値２３０に依存し、所望により他の変数に依存する。コンテキストモデル２４２の３つの異なるセットが使用されるように解釈することができる。第１のセットは、状態変数２２０が０又は１に等しい変換係数レベル、すなわち残差レベル１４２に使用され、第２のセットは、状態変数２２０が２に等しい変換係数レベル１４２に使用され、第３のセットは、状態変数２２０が３に等しい変換係数レベル１４２に使用される。

【0144】

・シンタックス要素ｄｅｃ＿ａｂｓ＿ｌｅｖｅｌ（バイパスモードで符号化される変換係数レベル）を符号化するための、例えば二値化パラメータ３０２を表すパラメータｐｏｓ０は、量子化状態、すなわちそれぞれの残差レベルに割り当てられた遷移状態に依存する。ＶＴＭ－７において、変数ｐｏｓ０は、
ｐｏｓ０＝（ｓｔａｔｅ＜２？１：２）＜＜ＲＰａｂｓ
に従って決定される。式中、ＲＰａｂｓは、局所近傍における絶対変換係数の和に基づいて選択されるライスパラメータを指定する。

【0145】

５．１．１ 依存量子化の別の変形形態の追加
ここで、一例として、８つの状態を有する依存量子化の更なる変形形態が、ビットストリームシンタックス及び復号化プロセスによってサポートされるべきである。その変形形態は、例えば、基数ｎが８である１又は複数の遷移状態のセット１６１ｃを有する以下の状態遷移表１０６ｃを使用することができる。

【0146】

【表4】

この変形形態では、量子化器１５３は、ＱＩｄ＝ｓｔａｔｅ＞＞２によって与えられる。
概念的には、ＶＴＭ－７で選択された量子化器から逸脱した２つの量子化器が好ましい。

【0147】

有意フラグ９２（図９参照）を符号化するために、３つ以上の異なるコンテキストセット２４２が好ましい場合がある。４状態の変形形態（すなわち、ｍｉｎ（ｓｔａｔｅ－１，０））と同じ関係を使用すると、７つのコンテキストセット２４２が必要になる。コンテキストセット２４２の数は３に制限することができるが、４状態の変形形態の場合とは異なる規則を使用する必要がある。

【0148】

更に、ＶＴＭ－７における（ｄｅｃ＿ａｂｓ＿ｌｅｖｅｌを符号化するための）ｐｏｓ０変数、すなわち二値化パラメータ３０２の導出は、使用される量子化器１５３に依存する。第１の量子化器１５１_１については、それは
ｐｏｓ０＝１＜＜ＲＰａｂｓ
に等しく設定され、第２の量子化器１５１_２については、それは
ｐｏｓ０＝２＜＜ＲＰａｂｓ
に等しく設定される。
したがって、８状態の変形形態に対して異なる実装形態が必要とされる。

【0149】

５．１．２ 復号化プロセスの統合
提案された概念の考え方は、サポートされる全ての量子化の変形形態について復号化プロセスを統合することである。残差レベルの量子化の変形形態は、量子化モード情報１８０によって示され得る。統合を可能にする最初の知見は、再構成プロセスの結果に影響を与えることなく、量子化状態、すなわち遷移状態を再ラベル付けすることができることである。例えば、以下で与えられるＶＴＭ－７状態遷移表は、

【0150】

【表5】

以下のように書き換えることができる。

【0151】

【表6】

【0152】

ここでは、状態１と状態２の意味を入れ替えた。一方、元のテーブルについては、量子化器１５３は、ＱＩｄ＝ｓｔａｔｅ＞＞１によって与えられる。再定式化されたテーブル１０６の場合、量子化器１５３は、ＱＩｄ＝ｓｔａｔｅ＆１によって与えられ、ここで、「＆」は、ビット単位の「ａｎｄ」演算子を表す。

【0153】

同様に、８状態バージョン（又は依存量子化の任意の他の変形形態）のための状態遷移表１０６を再定式化することができ、それにより、量子化器ｉｄ、すなわち使用される量子化器１５３を導出するために、同じ関係、すなわち第１の写像２００を使用することができる。

【0154】

復号化プロセスを更に統合するために、符号化効率と実装複雑性との間で妥協を行う必要がある。例えば、有意フラグ９２のエントロピー符号化の場合、全てのサポートされる量子化器の変形形態に対して最良のバージョンを選択することはできないが、依存量子化のサポートされる変形形態の一部に対して準最適であっても、統合バージョンを設計することができる。

【0155】

５．１．３ 選択された量子化の変形形態のシグナリング
最後に、選択された量子化器の変形形態、すなわち使用される量子化器１５３は、ビットストリーム、すなわちデータストリーム１４の内部に示す必要がある。その目的のために、複数の変形形態が可能である。

【0156】

・ブロックレベルで（例えば、符号化ツリー単位又は符号化単位ごとに）選択することができ、その場合、対応するブロックの各々に対して専用のシンタックス要素を送信する必要がある。

【0157】

・スライス又はピクチャレベル（又はタイル又はタイルグループレベル）で選択することができ、その場合、スライス又はピクチャヘッダにおいて（又はタイル又はタイルグループに対して）専用のシンタックス要素を送信する必要がある。

【0158】

・シーケンスレベルで選択することができ、その場合、シーケンスパラメータセット又は同様のシンタックス構造において専用のシンタックス要素を送信する必要がある。
一実施形態では、異なる色成分に対して異なる量子化器を使用することができる（例えば、ルマ及びクロマに対して異なる量子化器を使用することができる）。

【0159】

５．２ 特定の実施形態の説明
以下では、本発明の実施形態をより詳細に説明する。しかしながら、（上述し、部分的に以下に説明するように）他の実施形態も可能であることに留意されたい。本発明は、以下に記載される特定の設計に限定されない。

【0160】

本発明は、以下の態様のうちの２つ以上の組み合わせによって特徴付けられる。
・独立量子化及び依存量子化の１又は複数の変形形態をサポートするビットストリームシンタックス及び復号化プロセスであり、依存量子化の少なくとも１つの変形形態が４つ以上の量子化状態を使用する。

【0161】

・使用される量子化の変形形態が、ブロック、スライス、ピクチャ、又はシーケンスレベルで送信される専用シンタックス要素によって示される。好ましいバージョンでは、それはピクチャヘッダで送信される。
・変換係数の量子化状態は、状態遷移プロセス、すなわち全射写像によって導出され、これは以下のステップからなる。

【0162】

〇符号化順序における第１の変換係数、すなわち第１の残差レベルについての状態、すなわち遷移状態が、事前定義された値に設定され、好ましいバージョンでは、０に等しく設定される。

【0163】

〇現在の変換係数の状態、すなわち現在の残差レベルは、符号化順序で先行する変換係数の状態と、先行する変換係数の量子化インデックスの値のバイナリ関数、すなわち先行する残差レベルの値のバイナリ関数とに基づいて導出される。好ましいバージョンでは、バイナリ関数はパリティを表し、すなわち、現在の状態は、先行する状態と先行する量子化インデックスのパリティ、すなわち先行する残差レベルとによって与えられる。

【0164】

〇状態遷移プロセス、すなわち全射写像は、先行する状態に基づいて現在の状態２２０を決定し、先行する量子化インデックスのバイナリ関数（好ましくはパリティ）は、状態遷移表１０６によって指定される。

【0165】

〇状態遷移表１０６は、実際に選択された量子化の変形形態（ビットストリームにおいて、例えば、量子化モード情報１８０によって示される）に基づいて選択される。しかしながら、所与の状態遷移表１０６について、状態遷移プロセス（例えば、使用されるバイナリ関数）は、選択された量子化器の変形形態とは無関係である。

【0166】

・２つのスカラー量子化器、例えば、図１に示される量子化器１５１_１及び量子化器１５１_２がサポートされ、現在の変換係数のために使用される量子化器１５３は、量子化器状態によって一意に決定される。

【0167】

〇状態０から量子化器ｉｄ（２２０又は１）への同じ写像、すなわち第１の写像２００が、全てのサポートされる量子化の変形形態に使用される。好ましいバージョンでは、量子化器ｉｄはｑＩｄ＝ｓｔａｔｅ＆１によって与えられる。
〇第１の量子化器１５１_１の許容可能な再構成レベル１４２（ｑｉｄは０に等しい）は、量子化ステップサイズ１４４の全ての偶数倍を含む。

【0168】

〇第２の量子化器１５１_２の許容可能な再構成レベル１４２（ｑｉｄは１に等しい）は、量子化ステップサイズ１４４の全ての奇数倍を含み、更に、再構成レベルは０に等しい。

【0169】

・量子化インデックス、すなわち残差レベル１４２は、二値算術符号化を使用して符号化され（例えば、図９参照）、ここで、二値化３００は、選択された確率モデル（又はコンテキストモデル２４２）が対応する変換係数、すなわち現在の残差レベルに対する量子化状態、すなわち現在の遷移状態２２０に依存する少なくとも１つのビン（好ましくは、量子化インデックスが０であるか否かを示す有意フラグ９２）を含む。したがって、コンテキストモデル２４２を導出するための同じ方法が、全てのサポートされた量子化の変形形態に使用される。これは、対応するビンについてのコンテキストモデル導出が状態２２０に依存するが、選択される量子化の変形形態に依存しない、すなわち量子化モード情報１８０から独立していることを意味する。
以下では、独立量子化、４つの状態を有する依存量子化、及び８つの状態を有する依存量子化をサポートする特定の実施形態について説明する。

【0170】

５．２．１ 高レベルシグナリング
一実施形態によれば、媒体信号は、ビデオであり、量子化モード情報１８０は、図８に示されるように、データストリーム１４内の第１のシンタックス要素１８２、例えばｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃを含み、第１のシンタックス要素１８２は、ビデオ又はビデオの部分について、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９からの１つのデフォルト遷移表１０６の選択が、データストリーム１４内の量子化モード情報１８０の第２のシンタックス要素１８４、例えばｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃを介してビデオ又はビデオの部分内で制御されるかどうか、又はデフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちのいずれが、ビデオの部分についての１つのデフォルト遷移表１０６として選択されるべきかを示す。

【0171】

換言すれば、媒体信号は、ビデオであり、量子化モード情報１８０は、データストリーム１４内の第１のシンタックス要素１８２、例えばｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃを含み、第１のシンタックス要素１８２は、ビデオ又はビデオの部分について、データストリーム１４内の量子化モード情報１８０の第２のシンタックス要素１８４、例えばｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃを介して更新１５８がビデオ又はビデオの部分内で制御されるかどうか、又はどの全射写像及び１又は複数の遷移状態のセット１６１のどの基数ｌ、ｍ、ｎが更新１５８のために選択されるべきかを示す。

【0172】

一実施形態によれば、第１のシンタックス要素１８２は、ビデオである部分を有するビデオパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素１８４は、ピクチャのシーケンス、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表１０６の選択を制御する。代替的に、第１のシンタックス要素１８２は、ピクチャのシーケンスである部分を有するシーケンスパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素１８４は、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表１０６の選択を制御する。代替的に、第１のシンタックス要素１８２は、１又は複数のピクチャである部分を有するピクチャパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素１８４は、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表１０６の選択を制御する。代替的に、第１のシンタックス要素１８２は、１つのピクチャである部分を有するピクチャヘッダ内のデータストリーム１４に含まれ、第２のシンタックス要素１８４は、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表１０６の選択を制御する。代替的に、第１のシンタックス要素１８２は、１つの符号化ツリーブロックである部分を有するパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素１８４は、符号化ブロック又は残差変換ブロックを単位として、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９からの１つのデフォルト遷移表１０６の選択を制御する。符号化ツリーブロックの場合、選択は、例えば、各符号化ツリーブロックが再帰的マルチツリーサブディビジョニングによって符号化ブロックに分割される前に、１つのピクチャが一様に事前分割される単位において制御されてもよい。符号化ブロックの場合、選択は、例えばイントラモード／インターモード決定が行われる単位で制御されてもよい。

【0173】

換言すれば、第１のシンタックス要素１８２は、ビデオである部分を有するビデオパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素は、ピクチャのシーケンス、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、更新１５８を制御する。代替的に、第１のシンタックス要素１８２は、ピクチャのシーケンスである部分を有するシーケンスパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素は、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、更新１５８を制御する。代替的に、第１のシンタックス要素１８２は、１又は複数のピクチャである部分を有するピクチャパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素は、ピクチャ、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、更新１５８を制御する。代替的に、第１のシンタックス要素１８２は、１つのピクチャである部分を有するピクチャヘッダ内のデータストリーム１４に含まれ、第２のシンタックス要素は、タイル、スライス、符号化ツリーブロック、符号化ブロック、又は残差変換ブロックを単位として、更新１５８を制御する。代替的に、第１のシンタックス要素１８２は、１つの符号化ツリーブロックである部分を有するパラメータセット内のデータストリーム１４に含まれ、第２のシンタックス要素は、符号化ブロック又は残差変換ブロックを単位として、更新１５８を制御する。符号化ツリーブロックの場合、更新１５８は、例えば、各符号化ツリーブロックが再帰的マルチツリー再分割によって符号化ブロックに分割される前に、１つのピクチャが一様に事前分割される単位において制御されてもよい。符号化ブロックの場合、更新は、例えばイントラモード／インターモード決定が行われる単位で制御されてもよい。

【0174】

１つのバージョンにおいて、選択された量子化方法は、ピクチャヘッダにおいて符号化されたシンタックス要素、すなわち第２のシンタックス要素１８４によって示される。このシンタックス要素１８４は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃと称することができ、例えば、更新１５８のために、１又は複数の遷移状態のセット１６１のどの全射写像及びどの基数ｌ、ｍ、ｎが選択されるべきかを示す、以下の３つの値のうちの１つをとることができる（例えば、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちのいずれが、ビデオの部分のための１つのデフォルト遷移表１０６として選択されるべきかを示す）。
・値０は、従来の独立スカラー量子化が現在のピクチャに使用されることを示し、例えば、基数ｌが１に等しいセット１６１ａを示す。
・値１は、４つの状態を有する依存量子化が現在のピクチャに使用されることを示し、例えば、基数ｍが４に等しいセット１６１ｂを示す。
・値２は、８つの状態を有する依存量子化が現在のピクチャに使用されることを示し、例えば、基数ｎが８に等しいセット１６１ｃを示す。

【0175】

加えて、ＶＴＭ－７と同様に、ピクチャヘッダシンタックス要素の存在は、ピクチャパラメータセット（ＰＰＳ）シンタックス要素ｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃによって示される。このシンタックス要素、すなわち第１のシンタックス要素１８２は、２ビットの固定長コードを使用して符号化されてもよく、以下のセマンティクスを有してもよい。

【0176】

・０の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃがピクチャヘッダ内に存在することを指定し、例えば、更新１５８が第２のシンタックス要素１８４を介してビデオ又はビデオの部分内で制御されることを示す。

【0177】

・１の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃがピクチャヘッダ内に存在しないが、ピクチャパラメータセットを参照する全てのピクチャについて０に等しいと推測される（独立スカラー量子化）ことを指定し、例えば、基数ｌが１に等しいセット１６１ａを示す。

【0178】

・２の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃがピクチャヘッダ内に存在しないが、ピクチャパラメータセットを参照する全てのピクチャについて１に等しいと推測される（４つの状態を有する依存量子化）ことを指定し、例えば、基数ｍが４に等しいセット１６１ｂを示す。

【0179】

・３の値は、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃがピクチャヘッダ内に存在しないが、ピクチャパラメータセットを参照する全てのピクチャについて２に等しいと推測される（８つの状態を有する依存量子化）ことを指定し、例えば、基数ｎが８に等しいセット１６１ｃを示す。

【0180】

ＶＴＭ－７と同様に、ピクチャパラメータセット中のｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃ１８２は、ピクチャパラメータセットフラグｃｏｎｓｔａｎｔ＿ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｐａｒａｍｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが１に等しい場合に存在する。ピクチャパラメータセットフラグｃｏｎｓｔａｎｔ＿ｓｌｉｃｅ＿ｈｅａｄｅｒ＿ｐａｒａｍｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい場合、ピクチャパラメータセットシンタックス要素ｐｐｓ＿ｄｅｐ＿ｑｕａｎｔ＿ｅｎａｂｌｅｄ＿ｉｄｃ１８２はピクチャパラメータセット中に存在しないが、０に等しいと推測される（この場合、ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃ１８４はピクチャヘッダ中で符号化される）。

【0181】

５．２．２ 状態遷移表
状態遷移表１０６は、ピクチャヘッダシンタックス要素ｐｉｃ＿ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃ（又は任意の同様のシンタックス要素）の値（送信又は推測された値）に基づいて選択され得る。図１０に示されるように、３つの状態遷移表１０６ａ、ｂ、ｃは、３つのサポートされる量子化の変形形態に対してサポートされ得る。なお、状態遷移表１０６ａ，ｂ，ｃは一例である（実際に使用される状態遷移表はこの例から逸脱していてもよい）。

【0182】

一実施形態によれば、状態遷移表１０６ａ及び１０６ｂのみが、デコーダ２０及び／又は対応するエンコーダによって使用される。

【0183】

５．２．３ 状態遷移
各変換ブロック１１２について、初期状態は０に等しく設定される。
変換ブロック１１２の変換係数、すなわち残差レベル１４２は、事前定義された符号化順序１０２で処理される。現在の変換係数の状態（ｃｕｒｒＳｔａｔｅ）、すなわち現在の遷移状態２２０、及び現在の変換係数の量子化インデックス（変換係数レベル又は残差レベルとも称される）（ｃｕｒｒＬｅｖｅｌ）が与えられると、符号化／処理順序における次の変換係数の状態（ｎｅｘｔＳｔａｔｅ）は、
ｎｅｘｔＳｔａｔｅ＝ｓｔａｔｅＴｒａｎｓＴａｂ［ｃｕｒｒＳｔａｔｅ］［ｃｕｒｒＬｅｖｅｌ＆１］
に従って導出され、例えば全射写像を表し、ここでｓｔａｔｅＴｒａｎｓＴａｂは、選択された量子化の変形形態によって決定される状態遷移表１０６を指定する。ここで、量子化インデックス（ｃｕｒｒＬｅｖｅｌ＆１）のパリティが経路変数を決定する（上記の状態遷移表を参照）。パリティを使用する代わりに、量子化インデックスの任意の他のバイナリ関数が使用されることも可能である（上記参照）。

【0184】

５．２．４ 変換係数の再構成
現在の変換係数、すなわち現在の残差レベルのために使用される量子化器１５３は、状態変数、すなわち現在の遷移状態２２０の値によって一意に指定される。量子化器ｉｄ ＱＩｄは、
ＱＩｄ＝ｓｔａｔｅ＆１
に従って導出され、第１の写像２００を表し、ここで「＆」はビット単位の演算子を表す。ＱＩｄ＝０を有する量子化器１５１_１は、許容可能な再構成レベル１４２として量子化ステップサイズ１４４の偶数倍を含む。ＱＩｄ＝１を有する量子化器１５１_２は、許容可能な再構成レベル１４２として、量子化ステップサイズ１４４の奇数倍と０に等しい値とを含む。

【0185】

単一の変換ブロックの変換係数の再構成の好ましい例が、Ｃスタイルの擬似コードを使用して図１１に示されている。

【0186】

図１１は、変換ブロック１１２に対する変換係数の再構成プロセスを示す擬似コードを示している。アレイレベルは、変換ブロック１１２についての送信された変換係数レベル、すなわち送信された残差レベル１４２（量子化インデックス）を表し、アレイｔｒｅｃは、対応する再構成された変換係数１０４を表す。２ｄテーブルｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅは、例えば、高レベルシンタックス要素（例えば、ｄｅｐ＿ｑｕａｎｔ＿ｉｄｃ）に基づいて選択された状態遷移表１０６を指定する。

【0187】

図１１の擬似コードでは、インデックスｋは、変換係数の再構成順序１０２、すなわち残差レベル１４２を指定する。例示的なコードでは、インデックスｋは再構成順序で減少することに留意されたい。最後の変換係数は、ｋ＝０に等しいインデックスを有する。第１のインデックスｋｓｔａｒｔは、第１の再構成された変換係数の再構成インデックス（又は、より正確には、逆再構成インデックス）を指定する。変数ｋｓｔａｒｔは、変換ブロック中の変換係数の数から１を引いた数に等しく設定され得るか、又は符号化／再構成順序１０２において第１の非ゼロ量子化インデックス（例えば、第１の非ゼロ量子化インデックスの位置が、適用されるエントロピー符号化方法において送信される場合）のインデックスに等しく設定され得る。後者の場合、全ての先行する変換係数（インデックスｋ＞ｋｓｔａｒｔを有する）は、０に等しいと推測される。量子化インデックス、すなわち残差レベル１４２はｌｅｖｅｌ［ｋ］によって表され、関連する再構成された変換係数、すなわち逆量子化された残差レベル１０４はｔｒｅｃ［ｋ］によって表される。状態変数、すなわち現在の遷移状態２２０はｓｔａｔｅによって表される。状態遷移表１０６は、２ｄアレイｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅ［］［］によって指定される。次の状態の決定にテーブルｓｔａｔｅ＿ｔｒａｎｓ＿ｔａｂｌｅ［］［］を使用する代わりに、同じ結果をもたらす算術演算を使用することができる。

【0188】

ｑｕａｎｔ＿ｓｔｅｐ＿ｓｉｚｅ［ｋ］は、インデックスｋにおける変換係数の量子化ステップサイズ１４４を指定する。（ブロック量子化パラメータと組み合わせた量子化重み付け行列によって与えられるように）異なる変換係数位置ｋに対して異なる量子化ステップサイズ１４４を使用することができることに留意されたい。上述のように、非整数量子化ステップサイズとの乗算は、整数演算、例えば、
ｔｒｅｃ［ｋ］＝（ｎ＊ｓｃａｌｅ［ｋ］＋ａｄｄ）＞＞ｓｈｉｆｔ
を使用して実装されることが多く、ここで、量子化ステップサイズ１４４は、基本的に、
Δ_ｋ＝ｓｃａｌｅ［ｋ］・２^{－ｓｈｉｆｔ}
によって与えられる。

【0189】

５．２．５ 量子化インデックス（又は変換係数レベル）のエントロピー符号化
好ましいバージョンでは、図９を参照すると、量子化インデックスは、Ｈ．２６４｜ＭＰＥＧ－４ ＡＶＣ又はＨ．２６５｜ＭＰＥＧ－Ｈ ＨＥＶＣと同様の二値算術符号化を使用して符号化される。

【0190】

その目的のために、非バイナリ量子化インデックス９０は、最初に一連のバイナリ決定（概してビンと称される）に写像される。量子化インデックスは絶対値として送信され、絶対値が０より大きい場合は符号として送信される。好ましいバージョンでは、ＶＴＭ－７と同じ二値化が使用される。

【0191】

【表7】

【0192】

以下のバイナリシンタックス要素及び非バイナリシンタックス要素が送信される。
・ｓｉｇ＿ｆｌａｇ９２は、変換係数レベルの絶対値｜ｑ｜が０より大きいかどうかを指定する。
・ｓｉｇ＿ｆｌａｇ９２が１に等しい場合、ｇｔ１＿ｆｌａｇ９６は、変換係数レベルの絶対値｜ｑ｜が１より大きいかどうかを指定する。
・ｇｔ１＿ｆｌａｇ９６が１に等しい場合、ｐａｒ＿ｆｌａｇ９４は、変換係数レベルの絶対値｜ｑ｜のパリティを指定し、ｇｔ３＿ｆｌａｇ９８は、変換係数レベルの絶対値｜ｑ｜が３より大きいかどうかを指定する。

【0193】

・ｇｔ３＿ｆｌａｇ９８が１に等しい場合、非バイナリ値ｒｅｍ９９は、絶対レベル｜ｑ｜の剰余を指定する。このシンタックス要素は、ゴロム－ライス符号を使用して、算術符号化エンジンのバイパスモードで送信される。
存在しないシンタックス要素は、０に等しいと推測される。デコーダ側では、変換係数レベルの絶対値は以下のように再構成される。
｜ｑ｜＝ｓｉｇ＿ｆｌａｇ＋ｇｔ１＿ｆｌａｇ＋ｐａｒ＿ｆｌａｇ＋２＊（ｇｔ３＿ｆｌａｇ＋ｒｅｍ）

【0194】

非ゼロ変換係数レベル（１に等しいｓｉｇ＿ｆｌａｇ９２によって示される）の場合、変換係数レベルの符号を指定するｓｉｇｎ＿ｆｌａｇが、バイパスモードで更に送信される。

【0195】

ビンの符号化順序１０２及びコンテキストモデリングは、以下で説明する以下の２つの態様を除いて、基本的にＶＴＭ－７と同じである。更に、コンテキスト符号化されたビンのワーストケースの数を制限する同じ概念が使用される。

【0196】

図９は、９０における残差レベル１４２の絶対値の初期値定義域を示している。この初期値定義域９０は、０と何らかの最大値との間の全ての整数値を包含し得る。初期値定義域９０は、より大きな数に向かって開く区間であってもよい。初期値定義域９０内の整数値の数は、必ずしも２の累乗である必要はない。更に、図９は、個々の残差レベル１４２を表すことに関与する、すなわち、その絶対値を示すことに関与する種々のビンタイプを示している。ある残差レベルの絶対値が０であるか否かを示すｓｉｇ＿ｆｌａｇ９２タイプが存在する。すなわち、ｓｉｇ＿ｆｌａｇ９２は、初期値定義域９０を２つのサブ部分、すなわち、単に０を含むサブ部分と、他の全ての取り得る値を含むサブ部分とに２分割する。すなわち、ｓｉｇ＿ｆｌａｇ９２は、図９の下部に示されるように、残差レベルが偶然０になった場合には、残差レベルの絶対値をすでに一意に示している。初期値定義域９０の非ゼロ値は、ビンタイプｇｔ１＿ｆｌａｇ９６によって更に２分割される値定義域９６を形成し、すなわち、一方は単に１つを含み、他方は全ての他の取り得る値を含む。次のフラグ、すなわちｐａｒ＿ｆｌａｇ９４は、１より大きい全ての値を含む得られた値定義域を、一方では奇数値に、他方では偶数値に分割する。ｐａｒ＿ｆｌａｇ９４は、ある残差レベル１４２が１より大きい場合にのみ、その残差レベルに対して存在する必要がある。ｐａｒ＿ｆｌａｇ９４は、同じものが値定義域９４を２分割する半分のうちの１つに関して一意性をもたらさない。それは、次の結果として生じる（再帰的に定義される）値定義域の半分を示し、したがって、次のフラグ、すなわちｇｔ３＿ｆｌａｇ９８は、ｐａｒ＿ｆｌａｇ９４の後でこの結果として生じる値定義域を更に２分割する。図９の下部に示されるように、これは、ある変換係数の残差レベルが偶然０である場合、ｓｉｇ＿ｆｌａｇ９２のみがその残差レベルに対して符号化され、特定の変換係数の残差レベルが偶然１である場合、ｓｉｇ＿ｆｌａｇ９２及びｇｔ１＿ｆｌａｇ９６がその残差レベルに対して符号化されることを意味する。全てのフラグｓｉｇ＿ｆｌａｇ９２、ｇｔ１＿ｆｌａｇ９６、ｐａｒ＿ｆｌａｇ９４及びｇｔ３＿ｆｌａｇ９８は、ある変換係数が絶対値２～５を含む値区間に入る場合に、その変換係数のある残差レベルを表すように符号化され、更に、その絶対値が初期値定義域９０の外の残りの区間にある変換係数の残差レベルに対して剰余９９が符号化される。

【0197】

５．２．５．１ 有意フラグのためのコンテキスト選択
図９は、有意ビン９２のコンテキスト適応型二値算術符号化（ＣＡＢＡＣ）の実施形態を示している。一実施形態によれば、図８に示されるデコーダ２０は、現在の残差レベルの二値化３００のビンのコンテキスト適応型二値算術復号化２４０を使用して、データストリーム１４から現在の残差レベルを復号化（２１０）するように構成され、ビンは、現在の残差レベルが０であるか非ゼロであるかを示す有意ビン９２を含む。デコーダ２０は、第２の写像２０２を使用して、現在の遷移状態２２０の更なる所定数のビット、例えばＬＳＢを値２３０に写像することによって取得される該値２３０に応じて、現在の残差レベルの第１のビン、すなわち有意ビン９２を復号化するための第１のコンテキスト２４２を選択するように構成され得る。第２の写像２０２は、量子化モード情報１８０が何であれ等しくてもよく、例えば、デフォルト遷移表１０６ａ、ｂ、ｃが使用される遷移表１０６として選択されるものが何であれ等しくてもよい。更なる所定数のビットは、例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置におけるビットなど、１又は複数の所定のビット位置における現在の遷移状態２２０の１又は複数のビットを示している。

【0198】

一実施形態によれば、更なる所定数のビットは２であり、例えば、ＬＳＢ（最後の有意ビット）と、２番目であるが最後の有意ビット位置のビットとを示す。値２３０は、セクション５．１に示されるように、ｍａｘ（ｓｔａｔｅ－１，０）であるか、又はｍａｘ（０，（ｓｔａｔｅ＆３）－１）である第２の写像２０２から生じる可能性がある。別の写像も可能である。

【0199】

有意フラグ、すなわち有意ビン９２に関して、選択された確率モデル、すなわちコンテキストモデル又はコンテキスト２４２は、例えば以下に依存する。
・現在の変換ブロック１１２がルマ変換ブロックであるかクロマ変換ブロックであるか
・依存量子化の遷移状態
・現在の変換係数のｘ座標及びｙ座標（現在の残差レベルは現在の変換係数の残差レベルを表す）
・局所近傍における（第１のパス６０_１の後の）部分的に再構成された絶対残差値

【0200】

変数ｓｔａｔｅは、現在の変換係数の状態、すなわち現在の遷移状態２２０を表す。上記で説明したように、現在の変換係数の状態２２０は、符号化順序１０２における前の係数の状態と、前の変換係数レベルのパリティ（又は、より概しては、バイナリ関数）とによって与えられる。

【0201】

ｘ及びｙが変換ブロック１１２内の現在の変換係数の座標である場合、ｄｉａｇ＝ｘ＋ｙを現在の係数の対角位置とする。対角位置が与えられると、対角クラスインデックスｄｓｉｇは以下のように導出される。
ｄｓｉｇ＝（ｄｉａｇ＜２？２：（ｄｉａｇ＜５？１：０））（ルマ変換ブロックの場合）
及び
ｄｓｉｇ＝（ｄｉａｇ＜２？１：０）（クロマ変換ブロックの場合）
三項演算子（ｃ？ａ：ｂ）は、ｉｆ－ｔｈｅｎ－ｅｌｓｅ文を表す。条件ｃが真である場合、ａの値が使用され、そうでない場合（ｃが偽である場合）、値ｂが使用される。

【0202】

コンテキスト２４２は、局所近傍内の部分的に再構成された絶対値にも依存する。ＶＴＭ－７におけるように、局所近傍は、例えば、図７に示されるように、テンプレートＴ１３２によって与えられ得る。しかし、他のテンプレート１３２も可能である。使用されるテンプレート１３２はまた、ルマブロックが符号化されるかクロマブロックが符号化されるかに依存し得る。ｓｕｍＡｂｓを、テンプレートＴ１３２

【0203】

における（第１のパス６０_１の後の）部分的に再構成された絶対値の和とする。式中、ａｂｓ１［ｋ］は、第１のパスの後の走査インデックスｋについての部分的に再構成された絶対レベルを表す。ＶＴＭ－７の二値化では、
ａｂｓ１［ｋ］＝ｓｉｇ＿ｆｌａｇ［ｋ］＋ｇｔ１＿ｆｌａｇ［ｋ］＋ｐａｒ＿ｆｌａｇ［ｋ］＋２＊ｇｔ３＿ｆｌａｇ［ｋ］
で与えられる。
ａｂｓ１［ｋ］は、第１の走査パス６０_１（上記参照）の後に取得された値ｃｏｅｆｆ［ｋ］に等しいことに留意されたい。

【0204】

ｓｉｇ＿ｆｌａｇ９２に対する可能な確率モデル、すなわちコンテキスト２４２が１ｄアレイに編成されていると仮定する。ｃｔｘＩｄＳｉｇを、使用される確率モデル２４２を識別するインデックスとする。コンテキストインデックスｃｔｘＩｄＳｉｇ、例えば、コンテキスト２４２を示すインデックスは、以下のように導出（１１０）され得る。
変換ブロックがルマブロックである場合、
ｃｔｘＩｄＳｉｇ＝ｍｉｎ（（ｓｕｍＡｂｓ＋１）＞＞１，３）＋４＊ｄｓｉｇ＋１２＊ｓｔａｔｅ２ＣｔｘＳｅｔ（ｓｔａｔｅ＆３）
変換ブロックがクロマブロックである場合、
ｃｔｘＩｄＳｉｇ＝３６＋ｍｉｎ（（ｓｕｍＡｂｓ＋１）＞＞１，３）＋４＊ｄｓｉｇ＋８＊ｓｔａｔｅ２ＣｔｘＳｅｔ（ｓｔａｔｅ＆３）
ここで、演算子「＞＞」は、右方向へのビットシフト（２補数演算）を表す。演算は、２により除算して、結果を（次の整数へ）切り捨てることと同一である。

【0205】

状態、すなわち現在の遷移状態２２０は、最初に０と３との間の値に写像されることに留意されたい。これは、３を有するビット単位の「ａｎｄ」（すなわち、ｓｔａｔｅ＆３）を適用することによって達成され得る。次いで、関数ｓｔａｔｅ２ＣｔｘＳｅｔ（．．）は、この値を値２３０の０、１、２のうちの１つに写像する。好ましい実施形態では、関数は、以下によって与えられる。

【0206】

この実施形態によれば、第２の写像２０２は、２つの連続した写像として理解することができ、現在の遷移状態２２０は、最初に第１の値に写像され、次いで、この第１の値は、コンテキスト２４２の選択が依存する値２３０に写像される。
コンテキストインデックスは、状態２２０に依存するが、使用される量子化方法１８０に依存しないことに留意されたい。

【0207】

コンテキストモデルの他の編成、すなわち異なるコンテキスト２４２が可能であることに留意されたい。しかし、いずれの場合も、ｓｉｇ＿ｆｌａｇ９２を符号化するために選択される確率モデル、すなわちコンテキスト２４２は、以下に依存する。
・ルマブロックが符号化されるかクロマブロックが符号化されるか
・状態変数２２０（ただし、同じ関数、例えば全てのサポートされる量子化の変形形態に使用される）
・対角クラスｄｓｉｇ
・ローカルテンプレート１３２内の部分的に再構成された絶対値の和（第１のパス６０_１の後）、具体的にはｍｉｎ（（ｓｕｍＡｂｓ＋１）≫１，３）

【0208】

５．２．５．２ バイパス符号化変換係数レベルのための写像パラメータ
一実施形態によれば、媒体信号は、ビデオであり、図８に示すデコーダ２０は、図６の右下に示すように、例えば変換係数ブロック１１２を表す１つのピクチャブロック８４に関連する残差レベルを、別のピクチャブロック８４に関連する残差レベルより先に復号化することによって、データストリーム１４から残差レベル１４２を復号化（２１０）するように構成される。デコーダ２０は、１又は複数の走査６０、すなわち符号化順序１０２に沿った走査において、１つのピクチャブロック８４に関する残差レベル１４２の二値化３００の２１０個のビンを順次復号化し、残差レベル１４２の二値化３００のビンのうちの所定数の先頭ビンに対してコンテキスト適応型二値算術復号化を使用し、残差レベル１４２の二値化３００の後続ビンに対して等確率バイパスモードを使用するように構成され得る。図９に示すように、例えば、有意ビン９２、パリティビン９４、１より大きいビン９６、及び３より大きいビン９８は、第１の走査６０_１、すなわち第１のパスにおいて復号化され、残りのビン９９は、第２の走査６０_２において符号化される。代替的に、残差レベル１４２は、１つの走査６０又は３つ以上の走査６０において復号化されてもよい。図９は、例示的な変換係数ブロック１１２を示し、変換係数は、第１の非ゼロ残差レベル１２０から開始して符号化順序１０２に沿って走査される。残差レベル１４４が所定数の先頭ビンを超えない最後の残差レベルを表すので、残差レベル３０４までの残差レベル１４６の二値化のビンは、ＣＡＢＡＣを使用して復号化され、残差レベル３０４の二値化のビンは、等確率バイパスモードを使用して符号化される。デコーダ２０は、第３の写像１１８を使用して、遷移状態２２０の、すなわち所定の残差レベル１４５に関連付けられた遷移状態の、例えばＬＳＢの更なる所定数のビットを二値化パラメータ３０２に写像し、二値化パラメータ３０２に応じて所定の残差レベル１４５の二値化３００の決定を実行することによって、所定数３０４のビンが使い果たされた所定の残差レベル１４５の二値化３００を決定するように構成され得る。一実施形態によれば、二値化の決定は、所定数３０４のビンが使い果たされた全ての残差レベル１４４に対してデコーダ２０によって実行されてもよい。遷移状態２２０のビットは、例えば、ＬＳＢなどの１又は複数の所定のビット位置にある１又は複数のビット、又は遷移状態２２０の２番目だが最後の有意ビット位置にあるビットである。

【0209】

一実施形態によれば、デコーダ２０は、二値化３００が、二値化パラメータ３０２に依存する１つの二値化コード、例えばｐｏｓ０を、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から所定のレベル－１までの１又は複数のレベルに関連付けられている状態から、１から所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化、例えばゴロムライスコードであるように、二値化パラメータ３０２に応じて所定の残差レベル１４５に対する二値化３００を決定するように構成される。デフォルト二値化の修正は、式｜ｑ｜＝（ａｂｓ＿ｌｅｖｅｌ＝＝ｐｏｓ０？０：（ａｂｓ＿ｌｅｖｅｌ＜ｐｏｓ０？ａｂｓ＿ｌｅｖｅｌ＋１：ａｂｓ＿ｌｅｖｅｌ）によって達成することができ、以下を参照されたい。

【0210】

一実施形態によれば、更なる所定数のビットは１である。
ＶＴＭ－７と同様に、第１の走査パス６０_１においてデータが符号化されない絶対レベル、すなわち残差レベル１４４は、バイパスモード、すなわち等確率バイパスモードにおいて完全に符号化される。これらは、剰余ｒｅｍ９９と同じクラスのコードを使用して符号化される。ライスパラメータ並びに変数ｐｏｓ０、すなわち二値化パラメータ３０２は、すでに符号化されたシンタックス要素（以下を参照）に基づいて決定され得る。これらの絶対値レベル｜ｑ｜１４４は、例えば、直接符号化されないが、最初にシンタックス要素ａｂｓ＿ｌｅｖｅｌに写像され、次にパラメータ符号を使用して符号化される。

【0211】

絶対値｜ｑ｜１４４のシンタックス要素ａｂｓ＿ｌｅｖｅｌへの写像は、変数ｐｏｓ０ ３０２に依存し得る。これは、
ａｂｓ＿ｌｅｖｅｌ＝（｜ｑ｜＝＝０？ｐｏｓ０：（｜ｑ｜＜＝ｐｏｓ０？｜ｑ｜－１：｜ｑ｜）
によって指定される。
デコーダ側では、絶対値｜ｑ｜へのシンタックス要素ａｂｓ＿ｌｅｖｅｌの写像は、以下のように指定され得る。
｜ｑ｜＝（ａｂｓ＿ｌｅｖｅｌ＝＝ｐｏｓ０？０：（ａｂｓ＿ｌｅｖｅｌ＜ｐｏｓ０？ａｂｓ＿ｌｅｖｅｌ＋１：ａｂｓ＿ｌｅｖｅｌ）
ａｂｓ＿ｌｅｖｅｌを符号化するために使用されるライスパラメータＲＰａｂｓは、
ＲＰａｂｓ＝ｔａｂＲＰａｂｓ［ｍｉｎ（ｓｕｍＡｂｓ，３１）］
に従って導出され、ここでｓｕｍＡｂｓは、ローカルテンプレート１３２（上記参照）内の絶対量子化インデックスの合計、すなわち残差レベルの絶対レベルの合計を表す。

【0212】

変数ｐｏｓ０ ３０２は、ローカルテンプレート１３２内の再構成された絶対値の和と状態変数２２０との両方に依存し得る。変数ｐｏｓ０ ３０２は、量子化状態２２０及びライスパラメータＲＰａｂｓから、
ｐｏｓ０＝（１＋（ｓｔａｔｅ＆１））＜＜ＲＰａｂｓ
に従って導出（１１８）される。
変数ｐｏｓ０ ３０２は状態２２０に依存するが、使用される量子化方法１８０には依存しないことに留意されたい。

【0213】

式ｐｏｓ０＝（１＋（ｓｔａｔｅ＆１））＜＜ＲＰａｂｓは、二値化パラメータｐｏｓ０ ３０２への遷移状態２２０の更なる所定数のビットの第３の写像１１８を表すことができ、式中、（ｓｔａｔｅ＆１）は、ＬＳＢが二値化パラメータｐｏｓ０に写像されることを示す。更なる所定数のビットは１である。

【0214】

代替的に、式ｐｏｓ０＝（ｓｔａｔｅ＜２？１：２）＜＜ＲＰａｂｓは、二値化パラメータｐｏｓ０ ３０２への遷移状態２２０の更なる所定数のビットの第３の写像１１８を表すことができ、式中、（ｓｔａｔｅ＜２？１：２）は、遷移状態２２０の２番目であるが最後の有意ビット位置が二値化パラメータｐｏｓ０上に写像されることを示す（セクション５．１の最後の項目を参照）。更なる所定数のビットは１である。

【0215】

５．３ 他の実施形態の態様
上述した実施形態の複数の態様は、変更することができる。以下では、これらの態様のうちの一部を指摘する。

【0216】

・量子化の変形形態サポートの数及び／又はこれらの変形形態のための実際の状態遷移表１０６が修正され得る。
・選択された量子化の変形形態を示すための異なるメカニズムが使用され得る。
・量子化インデックスの異なるバイナリ関数が状態遷移プロセスのために使用され得る。これは、状態遷移が
ｎｅｘｔＳｔａｔｅ＝ｓｔａｔｅＴｒａｎｓＴａｂｌｅ［ｃｕｒｒＳｔａｔｅ］［ｂｉｎＦｕｎ（ｃｕｒｒＬｅｖｅｌ）］
によって指定され得ることを意味しており、ここでｂｉｎＦｕｎｃ（）は任意のバイナリ関数（すなわち、０及び１の可能な関数値を有する関数）を指定する。

【0217】

・量子化インデックスを符号化するために、異なる二値化プロセスが使用され得る。特に、複数の二値化がサポートされ、使用される二値化が量子化状態（及び一部の場合では他のパラメータ）に依存する、状態依存二値化を使用することが可能である。この場合、二値化の選択は、状態変数の値に依存するが、選択された量子化方法には依存しない。一例として、２つの二値化がサポートされてもよく、選択される二値化は（ｓｔａｔｅ＆１）の値に依存してもよい。
・ビンのいずれかに対して異なるコンテキストモデリングが使用され得る。この場合、１又は複数のビンのコンテキストは、依然として状態変数に依存し得るが、選択された量子化方法とは無関係である。
・剰余及び／又はバイパス符号化された量子化インデックスに対するライスパラメータを決定するための異なる手法が使用され得る。
・バイパス符号化された量子化インデックスを符号化するためのパラメータｐｏｓ０を導出するための異なる手法が使用され得る。しかし、本発明と組み合わせて、パラメータｐｏｓ０は、選択された量子化方法とは独立して決定される。

【0218】

５．４ 更なる実施形態
上述の実施形態では、予測残差を符号化するために変換符号化が使用され、変換係数を量子化／逆量子化するために使用されるように、量子化方式／モードがエンコーダによって選択され、デコーダにシグナリングされる。取得された量子化インデックスのエントロピー符号化、すなわちコンテキスト適応型算術符号化が使用され得る。デコーダ側では、再構成されたサンプルのセットは、量子化インデックスの対応する復号化及び変換係数の対応する逆量子化によって取得され、その結果、逆変換は、空間定義域における予測残差をもたらす。しかしながら、上記で説明した実施形態は、空間定義域における残差サンプルなどの他の残差値を符号化することなどに関して、他の実施形態をもたらすように修正され得る。ビデオを符号化するために上記の実施形態を使用する代わりに、オーディオ信号などの上記の概念を使用して別の媒体信号を扱うことができる。以下の実施形態の説明は、主に、画像及びビデオコーデックにおける予測誤差サンプルのブロックの不可逆符号化を対象とするが、実施形態は、不可逆符号化の他のエリアにも適用することができる。特に、矩形ブロックを形成するサンプルのセットに対する制限は存在しない。

【0219】

変換ベースの予測残差符号化を使用するビデオ符号化に限定されないが、その後、サンプルブロックの変換された表現を符号化及び復号化するための実施形態が組み込まれ得る符号化フレームワークの例を形成するために、ビデオのピクチャを符号化するためのブロックベースの予測コーデックのビデオエンコーダ及びビデオデコーダの説明が提供される。ビデオエンコーダ及びビデオデコーダは、図１２～図１４に関して説明される。上記で提供された本出願の実施形態の説明は、それぞれ図１２及び図１３のビデオエンコーダ及びビデオデコーダに容易に組み込まれ得るが、上記で説明された実施形態は、図１２及び図１３のビデオエンコーダ及びビデオデコーダの基礎となる符号化フレームワークに従って動作しないビデオエンコーダ及びビデオデコーダを形成するためにも使用され得る。

【0220】

図１２は、ピクチャ１２のシーケンスから構成されるビデオ１１をデータストリーム１４に予測符号化する装置を示している。この目的のために、ブロック単位予測符号化が使用される。更に、変換ベースの残差符号化が例示的に使用される。装置又はエンコーダは、参照符号１０を用いて示される。図１３は、対応するデコーダ２０、すなわち、データストリーム１４からのピクチャブロック内のピクチャ１２’から構成されるビデオ１１’を予測的に復号化するように構成された装置２０を示しており、ここでも変換ベースの残差復号化を例示的に使用している。アポストロフィは、デコーダ２０によって再構成されるピクチャ１２’及びビデオ１１’がそれぞれ、予測残差信号の量子化によって導入される符号化損失に関して、装置１０によって元々符号化されたピクチャ１２から逸脱していることを示すために使用されている。図１２及び図１３は、変換ベースの予測残差符号化を例示的に使用しているが、本出願の実施形態は、この種の予測残差符号化に限定されない。これは、以下に概説されるように、図１２及び図１３に関して説明される他の詳細についても当てはまる。

【0221】

エンコーダ１０は、予測残差信号を空間－スペクトル変換に供して、このようにして得られた予測残差信号をデータストリーム１４に符号化するように構成される。同様に、デコーダ２０は、データストリーム１４から予測残差信号を復号化し、このようにして得られた予測残差信号にスペクトル空間変換を施すように構成される。

【0222】

内部的には、エンコーダ１０は、元の信号、すなわちビデオ１１又は現在のピクチャ１２からの予測信号２６の偏差を測定するように予測残差２４を生成する予測残差信号形成器２２を含み得る。予測残差信号形成器２２は、例えば、元の信号、すなわち現在のピクチャ１２から予測信号を減算する減算器であってもよい。エンコーダ１０は更に、予測残差信号２４を空間－スペクトル変換してスペクトル領域予測残差信号２４’を得る変換器２８を含み、スペクトル領域予測残差信号２４’は、エンコーダ１０に含まれる量子化器３２によって量子化される。このように量子化された予測残差信号２４’’は、ビットストリーム１４に符号化される。この目的のために、エンコーダ１０は、データストリーム１４に変換され量子化された予測残差信号をエントロピー符号化するエントロピー符号化器３４を所望により含んでもよい。予測残差２６は、データストリーム１４に復号化され、データストリーム１４から復号化可能な予測残差信号２４’’に基づいて、エンコーダ１０の予測ステージ３６によって生成される。この目的のために、予測ステージ３６は、図１２に示されるように、量子化損失を除いて信号２４’に対応するスペクトル領域予測残差信号２４’’’を得るために予測残差信号２４’’を逆量子化する逆量子化器３８と、量子化損失を除いて元の予測残差信号２４に対応する予測残差信号２４’’’’を得るために後者の予測残差信号２４’’を逆変換、すなわちスペクトル空間変換にかける逆変換器４０とを内部に含み得る。次に、予測ステージ３６の結合器４２は、再構成信号４６、すなわち元の信号１２の再構成を得るために、予測信号２６と予測残差信号２４’’’’とを加算などによって再結合する。再構成された信号４６は、信号１２’に対応し得る。

【0223】

次いで、予測ステージ３６の予測モジュール４４は、例えば、空間予測、すなわちイントラ予測、及び／又は時間予測、すなわちインター予測を使用することによって、信号４６に基づいて予測信号２６を生成する。この点についての詳細を以下に説明する。

【0224】

同様に、デコーダ２０は、予測ステージ３６に対応する構成要素から内部的に構成され、予測ステージ３６に対応する方法で相互接続されてもよい。特に、デコーダ２０のエントロピーデコーダ５０は、データストリームから量子化されたスペクトル領域予測残差信号２４’’をエントロピー復号化することができ、その後、予測ステージ３６のモジュールに関して上述した方法で相互接続され協働する逆量子化器５２、逆変換器５４、結合器５６、及び予測モジュール５８は、予測残差信号２４’’に基づいて再構成された信号を回復し、その結果、図１３に示すように、結合器５６の出力は、再構成された信号、すなわちビデオ１１’又はその現在のピクチャ１２’をもたらす。

【0225】

上記では具体的に説明されていないが、エンコーダ１０が、例えば、何らかのレート及び歪み関連基準、すなわち符号化コストを最適化するように、かつ／又は何らかのレート制御を使用するように、何らかの最適化方式に従って、例えば、予測モード、動きパラメータなどを含む何らかの符号化パラメータを設定することができることは容易に明らかである。以下でより詳細に説明するように、エンコーダ１０及びデコーダ２０、並びに対応するモジュール４４、５８はそれぞれ、イントラ符号化モード及びインター符号化モードなどの異なる予測モードをサポートしており、これらのモードは、ピクチャブロックの予測が以下でより詳細に説明する方法で構成される際に基づくプリミティブ予測モードの一種のセット又はプールを形成する。エンコーダ及びデコーダがこれらの予測構成間で切り替わる粒度は、ピクチャ１２及び１２’のそれぞれのブロックへの再分割に対応し得る。これらのブロックのうちの一部は、単にイントラ符号化されているブロックであってもよく、一部のブロックは、単にインター符号化されているブロックであってもよく、所望により、更に別のブロックは、イントラ符号化及びインター符号化の両方を使用して取得されたブロックであってもよいが、詳細は以下で説明されることに留意されたい。イントラ符号化モードによれば、ブロックに対する予測信号は、それぞれのブロックの空間的な既に符号化／復号化された近傍に基づいて取得される。複数のイントラ符号化サブモードが存在してもよく、その中の選択は、ある種のイントラ予測パラメータを擬似的に表す。方向性イントラ符号化サブモード又は角度イントラ符号化サブモードが存在してもよく、それによれば、それぞれのブロックに対する予測信号は、それぞれの方向性イントラ符号化サブモードに固有の特定の方向に沿った近傍のサンプル値をそれぞれのブロックに外挿することによって満たされる。イントラ符号化サブモードは、例えば、それぞれのブロックに対する予測信号がそれぞれのブロック内の全てのサンプルにＤＣ値を割り当てるＤＣ符号化モード、及び／又はそれぞれのブロックの予測信号が、隣接サンプルに基づいて２次元線形関数によって定義される平面の傾き及びオフセットを導出して、それぞれのブロックのサンプル位置にわたる２次元線形関数によって記述されるサンプル値の空間分布であるように近似又は決定される平面イントラ符号化モードなど、１又は複数の更なるサブモードを含むこともできる。これと比較して、インター予測モードによれば、ブロックに対する予測信号は、例えば、ブロック内部を時間的に予測することによって取得することができる。インター予測モードのパラメータ化のために、動きベクトルがデータストリーム内でシグナリングされてもよく、動きベクトルは、それぞれのブロックの予測信号を取得するために、前に符号化／復号化されたピクチャがサンプリングされるビデオ１１の前に符号化されたピクチャの部分の空間変位を示す。これは、量子化されたスペクトル領域予測残差信号２４’’を表すエントロピー符号化された変換係数レベルなどの、データストリーム１４に含まれる残差信号符号化に加えて、データストリーム１４は、ブロックに予測モードを割り当てるための予測関連パラメータ、インター予測モードのための動きパラメータなどの割り当てられた予測モードのための予測パラメータ、及び所望により、以下でより詳細に概説されるように、割り当てられた予測モード及び予測パラメータを使用してブロックの最終予測信号の構成を制御する更なるパラメータを符号化されてもよいことを意味する。更に、データストリームは、ピクチャ１２及び１２’のブロックへの再分割をそれぞれ制御及びシグナリングするパラメータを含み得る。デコーダ２０は、これらのパラメータを使用して、エンコーダが行ったのと同じ方法でピクチャを再分割し、同じ予測モード及びパラメータをブロックに割り当て、同じ予測を実行して同じ予測信号を得る。

【0226】

図１４は、一方では再構成された信号、すなわち再構成されたピクチャ１２’と、他方ではデータストリームにおいてシグナリングされた予測残差信号２４’’’と予測信号２６との組み合わせとの間の関係を示している。既に上述したように、組み合わせは加算であってもよい。予測信号２６は、図１４において、ピクチャエリアを種々のサイズのブロック８０に再分割したものとして示されているが、これは単なる例である。再分割は、ブロックの行及び列へのピクチャエリアの規則的な再分割、又は四分木再分割などのような種々のサイズのリーフブロックへのピクチャ１２のマルチツリー再分割などの任意の再分割であってもよく、それらの混合が図１４に示されており、ピクチャエリアは最初にツリールートブロックの行及び列に再分割され、次に再帰的マルチツリー再分割に従ってブロック８０に更に再分割される。

【0227】

図１４の予測残差信号２４’’’’も、ピクチャエリアをブロック８４に再分割したものとして示されている。これらのブロックは、符号化ブロック８０と区別するために変換ブロックと称されることがある。実際には、図１４は、エンコーダ１０及びデコーダ２０が、ピクチャ１２及びピクチャ１２’のブロックへの２つの異なる再分割、すなわち、符号化ブロック８０への１つの再分割及びブロック８４への別の再分割をそれぞれ使用し得ることを示している。両方の再分割は同じであってもよく、すなわち、各ブロック８０が同時に変換ブロック８４を形成してもよく、逆もまた同様であるが、図１４は、例えば、変換ブロック８４への再分割がブロック８０への再分割の拡張を形成し、２つのブロック８０間の任意の境界が２つのブロック８４間の境界に重なるか、あるいは言い換えると、各ブロック８０が変換ブロック８４の１つと一致するか、又は変換ブロック８４のクラスタと一致する場合を示している。しかしながら、再分割はまた、変換ブロック８４が代替的にブロック８０間のブロック境界を横切ることができるように、互いに独立して決定又は選択され得る。変換ブロック８４への再分割に関する限り、ブロック８０への再分割に関して提示されたものと同様の記述が当てはまり、すなわち、ブロック８４は、行及び列に配置されたブロックへのピクチャエリアの規則的な再分割の結果、ピクチャエリアの再帰的マルチツリー再分割の結果、又はそれらの組み合わせ、あるいは任意の他の種類のセグメント化であってもよい。余談であるが、ブロック８０及び８４は、正方形、長方形、又は任意の他の形状に限定されないことに留意されたい。更に、予測信号が形成されるブロック８０への現在のピクチャ１２の再分割、及び予測残差が符号化されるブロック８４への現在のピクチャ１２の再分割は、符号化／復号化に使用される唯一の再分割ではない可能性がある。これらの再分割は、予測信号決定及び残差符号化が実行される粒度を形成するが、第１に、残差符号化は代替的に再分割なしで行われてもよく、第２に、これらの再分割以外の粒度で、エンコーダ及びデコーダは、予測パラメータ、予測信号構成制御信号などの前述のパラメータのうちの一部を含み得る特定の符号化パラメータを設定してもよい。

【0228】

図１４は、予測信号２６と予測残差信号２４’’’’との組み合わせが、再構成された信号１２’を直接もたらすことを示している。しかしながら、例えば、別のＤＰＢを有する別の予測ループにおいて符号化／復号化される他のビュー又は他の符号化層から取得される予測信号などの代替的な実施形態による、２つ以上の予測信号２６が予測残差信号２４’’’’と組み合わされてピクチャ１２’をもたらし得ることに留意されたい。

【0229】

図１４において、変換ブロック８４は、以下の意味を有する。変換器２８及び逆変換器５４は、これらの変換ブロック８４を単位として、変換を行う。例えば、多くのコーデックは、全ての変換ブロック８４に対してある種のＤＳＴ又はＤＣＴを使用する。一部のコーデックは、変換ブロック８４の一部について、予測残差信号が空間定義域において直接符号化されるように、変換をスキップすることを可能にする。サポートされる変換は、以下のうちの１又は複数を含み得る。
ＤＣＴ－ＩＩ（又はＤＣＴ－ＩＩＩ）ここで、ＤＣＴは離散コサイン変換を表す。
ここで、ＤＳＴ－ＩＶは離散サイン変換を表す。
〇 ＤＣＴ－ＩＶ
〇 ＤＳＴ－ＶＩＩ
〇アイデンティティ変換（ＩＴ）

【0230】

変換は分離可能な変換であってもよい。分離不可能な変換であり得る２次変換は、ＤＣ成分からＤＣ成分及び最高周波数成分以外の何らかの中間成分に及ぶサブアレイなどの低周波数部分に適用可能であり得る。エンコーダは、かかる２次変換の使用を決定し、あるブロックに対して１つを選択し、その決定をデコーダにシグナリングすることができる。

【0231】

ここで、適応量子化モードの態様に戻ると、デコーダ及びエンコーダは、以下のように動作し得る。例えば図８を参照すると、デコーダ２０は、データストリーム１４から予測残差２４’’を表す図１に示す変換係数１００の量子化レベルなどの残差レベル１４２を復号化（１４０）し、順次、すなわち図６に示す１０２などの走査順序に沿って、現在の遷移状態（ｓｔａｔｅ）に応じてデフォルト量子化器のセット１５１（例えば、図１のセット０、セット１）から量子化器を選択（１５２）することと、量子化器を使用して現在の残差レベルを逆量子化（１５４）して、逆量子化された残差値１０４を取得することと、パリティ関数などのバイナリ関数を現在の残差レベルに適用（１５６）して、現在の残差レベルの特性１５７、すなわち１又は０を取得することと、次に逆量子化される残差レベルのために次の遷移状態１６０に使用される遷移表１０６を使用して、現在の残差レベルの特性１５７に応じて現在の遷移状態１６２を更新（１５８）することと、によって、残差レベル１４２を逆量子化（１５０）するように構成することができる。デコーダ２０は、逆量子化された残差値１０４を使用して、ピクチャ又はビデオなどの媒体信号を再構成（１７０）する。デコーダ２０は、データストリーム１４に含まれる量子化モード情報１８０（その例はセクション５．１．３で言及されている）に応じて、デフォルト遷移表１０６ａ、ｂ、ｃのセット１５９のうちの１つのデフォルト遷移表１０６を、使用される遷移表１０６として選択してもよく、デフォルト遷移表の各々は、１又は複数の遷移状態のセットと現在の残差レベルの特性１５７との組み合わせ１６３の定義域から１又は複数の遷移状態のセット１６１への全射写像（例えば、図１０参照）を表し、デフォルト遷移表１０６ａ、ｂ、ｃは、１又は複数の遷移状態のセットの基数ｌ、ｍ、ｎが異なる。デコーダ２０は、使用される遷移表１０６としてどのデフォルト遷移表１０６ａ、ｂ、ｃが選択されても、第１の写像１０８（例えば、セクション５．２．４を参照）を使用して、現在の遷移状態の所定数のＬＳＢ（例えば、１つ、すなわち、ＬＳＢのみ）をデフォルト量子化器に写像することによって、量子化器の選択１５２を実行するように構成され、所定数及び第１の写像は、使用される遷移表１０６としてどのデフォルト遷移表１０６ａ、ｂ、ｃが選択されても（すなわち、それぞれ、選択されたモード１８０又は遷移表１０６ａ、ｂ、ｃから独立して）等しい。データストリーム１４からの現在の残差レベル１４２の復号化２１０は、現在の残差レベルの二値化のビンのコンテキスト適応二値算術復号化を使用して行われてもよい。ビンは、現在の残差レベルが０であるか非ゼロであるかを示す有意ビン（ｓｉｇ＿ｆｌａｇ）を含むことができ、現在の残差レベルのこの第１のビンを復号化するためのコンテキストは、セクション５．２．５．１で説明したように、例えば第２の写像１１０を使用して、現在の遷移状態の更なる所定数（例えば、「＆３」によって取り出される２）のＬＳＢを第１のコンテキストに写像することによって選択することができ、第２の写像は、使用される遷移表１０６として選択されたどのデフォルト遷移表１０６ａ、ｂ、ｃにも等しい。追加的又は代替的に、残差レベル１４２は、１つのピクチャブロック（例えば、その残差が図６に示される変換係数ブロック１１２を再変換することによって取得される図１０のブロック８４）に関する残差レベル１４２を、別のピクチャブロックに関する残差レベルの前に復号化（２１０）することと、１つのピクチャブロックに関する残差レベル１４２の二値化のビンを１又は複数の走査（セクション２．２．２の１１４のパスを参照）で順次復号化し、残差レベルの二値化のビンのうちの所定数（例えば、ｒｅｍＲｅｇＢｉｎｓ）の先頭ビンに対してコンテキスト適応型二値算術復号化を使用し、残差レベルの二値化の後続ビン（ｋ＞＝ｓｔａｒｔＩｄｘＢｙｐａｓｓ）に対して等確率バイパスモードを使用することと、第３の写像１１８を使用して、所定の残差レベル１４５に対して現れる遷移状態２２０の更なる所定数（例えば、１）のＬＳＢを二値化パラメータ３０２（例えば、ｐｏｓ０）に写像し、二値化パラメータ３０２に応じて所定の残差レベルの二値化の決定を実行することによって、所定数が使い果たされた（ｋ＞＝ｓｔａｒｔＩｄｘＢｙｐａｓｓ）ビンについて、所定の残差レベル１４５の二値化を決定することと、によって、データストリーム１４から復号され、第３の写像１１８は、使用される遷移表１０６としてどのデフォルト遷移表１０６ａ、ｂ、ｃが選択されたとしても等しい。二値化パラメータ３０２に応じて所定の残差レベル１４５に対する二値化は、二値化が、二値化パラメータに依存する１つの二値化コードを、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から所定のレベルマイナス１までの１又は複数のレベルに関連付けられている状態から、１から所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化（例えば、ライスコード）であるように決定され得る。

【0232】

次いで、デコーダ２０は、予測を実行して媒体信号の予測バージョンを取得することと、逆量子化された残差値１０４を使用して予測バージョンを補正することと、によって、逆量子化された残差値１０４を使用して媒体信号を再構成（１７０）するように構成され、又は、予測を実行して媒体信号の予測バージョンを取得することと、逆量子化された残差値１０４を逆変換に供して媒体残差信号を取得することと、媒体残差信号を使用して予測バージョンを補正することと、によって、逆量子化された残差値１０４を使用して媒体信号を再構成するように構成される。

【0233】

以下では、本発明の追加の実施形態及び態様が説明され、これらは、個々に、又は本明細書で説明される特徴及び機能及び詳細のいずれかと組み合わせて使用することができる。

【0234】

第１の態様によれば、デコーダ（２０）は、
予測残差を表す残差レベル（１４２）をデータストリーム（１４）から復号化（２１０）し、
現在の遷移状態（２２０）に応じて、デフォルト量子化器のセット（１５１）から量子化器（１５３）を選択（１５２）することと、
量子化器（１５３）を使用して現在の残差レベルを逆量子化（１５４）して、逆量子化された残差値（１０４）を取得することと、
現在の残差レベル［例えばパリティ］へのバイナリ関数の適用（１５６）によって取得される現在の残差レベルの特性（１５７）に応じて、かつデータストリーム（１４）に含まれる量子化モード情報（１８０）に応じて、現在の遷移状態（２２０）を更新（１５８）することと、によって、
残差レベル（１４２）を順次逆量子化（１５０）することと、
逆量子化された残差値（１０４）を使用して媒体信号を再構成（１７０）することであって、現在の遷移状態（２２０）は、量子化モード情報（１８０）に依存する全射写像に従って、１又は複数の遷移状態のセット（１６１）と現在の残差レベルの特性（１５７）との組合せ（１６３）の定義域から１又は複数の遷移状態のセット（１６１）へ遷移し、１又は複数の遷移状態のセット（１６１）の基数（ｌ，ｍ，ｎ）は、量子化モード情報（１８０）に応じて異なる、ことと、
第１の写像（２００）を使用して、現在の遷移状態（２２０）の所定数のビット［例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置のビットなど、１又は複数の所定のビット位置の１又は複数のビット］をデフォルト量子化器に写像することによって、量子化モード情報（１８０）が［例えば、量子化モード情報（１８０）に関係なく、又はそれから独立して］どのようなものであっても、量子化器（１５３）の選択（１５２）を実行することであって、所定の数及び第１の写像（２００）は、量子化モード情報（１８０）が何であれ等しい、ことと、
を行うように構成することができる。

【0235】

第２の態様によれば、第１の態様に戻って参照すると、デコーダ（２０）において、所定数のビットは、１であり得る。

【0236】

第３の態様によれば、第１又は第２の態様に戻って参照すると、デコーダ（２０）は、量子化モード情報（１８０）に応じて、デフォルト遷移表（１０６ａ、ｂ、ｃ）のセット（１５９）から使用される遷移表（１０６）の選択を選択し、デフォルト遷移表のセット（１５９）を統合遷移表の異なる部分として管理するように構成することができ、その中で、各デフォルト遷移表について、１又は複数の遷移状態のセット（１６１）の各々は、他の任意のデフォルト遷移表が統合遷移表内でインデックス付けされる状態インデックスとは異なる状態インデックスを使用してインデックス付けされる［例えば、統合遷移表の異なる部分内のデフォルト遷移表の遷移状態は、あるデフォルト遷移表から別のデフォルト遷移表に分離される］。

【0237】

第４の態様によれば、第３の態様に戻って参照すると、デコーダ（２０）は、統合遷移表内で、現在の残差レベルの特性（１５７）と現在の遷移状態（２２０）との組み合わせに対応するエントリをルックアップすることによって、現在の遷移状態（２２０）を更新（１５８）することを実行するように構成することができる。

【0238】

第５の態様によれば、第３又は第４の態様に戻って参照すると、デコーダ（２０）において、量子化モード情報（１８０）は、逆量子化順序［例えば、それに沿って順次逆量子化が実行される］で第１の残差レベルを逆量子化する際に使用するための開始遷移状態を示すデータストリーム（１４）内のシンタックス要素を含むことができ、それにより、シンタックス要素は、使用される遷移表（１０６）に対応する統合遷移表の部分においてのみ使用される状態インデックスに適合することによって、デフォルト遷移表のうち使用される遷移表（１０６）を示す。

【0239】

第６の態様によれば、第１から第５の態様のいずれかに戻って参照すると、デコーダ（２０）において、デフォルト量子化器のセット（１５１）は、
量子化ステップサイズ（１４４）の偶数倍を再構成レベルとして含む第１のデフォルト量子化器（１５１_１）と、
量子化ステップサイズ（１４４）の奇数倍及び０を再構成レベルとして含む第２のデフォルト量子化器（１５１_２）と
からなってもよい。

【0240】

第７の態様によれば、第１から第６の態様のいずれかに戻って参照すると、デコーダ（２０）は、
現在の残差レベルの二値化のビンのコンテキスト適応型二値算術復号化を使用してデータストリーム（１４）から現在の残差レベルを復号化することであって、ビンは、現在の残差レベルが０であるか非ゼロであるかを示す有意ビン（９２）を含む、ことと、
第２の写像（１４４）を使用して、現在の遷移状態（２２０）の更なる所定数のビットを該値に写像することによって取得される値（２３０）に応じて、現在の残差レベルの第１のビン（９２）を復号化するための第１のコンテキスト（２４２）を選択することであって、第２の写像（２０２）は、量子化モード情報（１８０）が何であれ等しい、ことと、
を行うように構成することができる。

【0241】

第８の態様によれば、第７の態様に戻って参照すると、デコーダ（２０）において、更なる所定数のビットは、２であり得る。

【0242】

第９の態様によれば、第１から第８の態様のいずれかに戻って参照すると、デコーダ（２０）において、媒体信号は、ビデオであり得、デコーダ（２０）は、
１つのピクチャブロック（８４）に関する残差レベルを別のピクチャブロック（８４）に関する残差レベルより前に復号化することと、
１つのピクチャブロック（８４）に関する残差レベルの二値化のビンを１又は複数の走査で順次復号化し、残差レベルの二値化のビンの所定数の先頭ビンに対してコンテキスト適応型二値算術復号化を使用し、残差レベルの二値化の後続ビンに対して等確率バイパスモードを使用することと、
第３の写像を使用して、遷移状態の更なる所定数のビット［例えば、ＬＳＢなどの１又は複数の所定のビット位置における１又は複数のビット、又は２番目であるが最後の有意ビット位置におけるビット］を二値化パラメータ（３０２）に写像し、二値化パラメータ（３０２）に応じて所定の残差レベルの二値化の決定を実行することによって、所定数のビンが使い果たされた所定の残差レベルの二値化を決定することであって、第３の写像は、量子化モード情報（１８０）が何であれ等しい、ことと、によって、
データストリーム（１４）からの残差レベル（１４２）を復号化（２１０）するように構成することができる。

【0243】

第１０の態様によれば、第９の態様に戻って参照すると、デコーダ（２０）は、二値化が、二値化パラメータ（３０２）に依存する１つの二値化コードを、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から所定のレベルマイナス１までの１又は複数のレベルに関連付けられている状態から１から所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化であるように、二値化パラメータ（３０２）に応じて所定の残差レベルに対する二値化を決定するように構成することができる。

【0244】

第１１の態様によれば、第９又は第１０の態様に戻って参照すると、デコーダ（２０）
において、更なる所定数のビットは、１であり得る。

【0245】

第１２の態様によれば、第９の態様に戻って参照すると、デコーダ（２０）において、量子化モード情報（１８０）に応じて、全射写像及び１又は複数の遷移状態のセット（１６１）の基数は、
１又は複数の遷移状態のセット（１６１）の基数が１である、
１又は複数の遷移状態のセット（１６１）の基数が４である、
１又は複数の遷移状態のセット（１６１）の基数が８である、のうちの２つ以上の間で選択可能であり得る。

【0246】

第１３の態様によれば、第１から第１２の態様のいずれかに戻って参照すると、デコーダ（２０）において、媒体信号は、ビデオであり得、デコーダ（２０）は、
ビデオについて、
ピクチャブロック（８４）単位、
ピクチャ単位、
スライス単位、及び
ピクチャシーケンス単位のうちの１つの方法で更新（１５８）を制御する量子化モード情報（１８０）を読み出すように構成することができる。

【0247】

第１４の態様によれば、第１から第１３の態様のいずれかに戻って参照すると、デコーダ（２０）において、媒体信号は、ビデオであり得、量子化モード情報（１８０）は、データストリーム（１４）内の第１のシンタックス要素を含み得、第１のシンタックス要素は、ビデオ又はビデオの部分について、データストリーム（１４）内の量子化モード情報（１８０）の第２のシンタックス要素を介して更新（１５８）がビデオ又はビデオの部分内で制御されるかどうか、又はどの全射写像及び１又は複数の遷移状態のセット（１６１）のどの基数が更新（１５８）のために選択されるべきかを示す。

【0248】

第１５の態様によれば、第１４の態様に戻って参照すると、デコーダ（２０）において、第１のシンタックス要素は、
部分は、ビデオであり、第２のシンタックス要素は、
ピクチャのシーケンス、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に予め再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ビデオパラメータセット、
部分は、ピクチャのシーケンスであり、第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前に再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、シーケンスパラメータセット、
部分は、１又は複数のピクチャであり、第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前に再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ピクチャパラメータセット、又は、
部分は、１つのピクチャであり、第２のシンタックス要素は、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ピクチャヘッダ、
あるいは、
部分は、１つの符号化ツリーブロックであり、第２のシンタックス要素は、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、パラメータセット
の中のデータストリーム（１４）に含まれ得る。

【0249】

第１６の態様によれば、第１から第１５の態様のいずれかに戻って参照すると、デコーダ（２０）において、媒体信号はカラービデオであり得、デコーダ（２０）は、異なる色成分に対するデフォルト量子化器のセット（１５１）に対して異なるバージョンを使用するように構成することができる。

【0250】

第１７の態様によれば、第１から第１６の態様のいずれかに戻って参照すると、デコーダ（２０）において、バイナリ関数は、パリティであり得る。

【0251】

第１８の第６の態様によれば、第１から第１７の態様のいずれかに戻って参照すると、デコーダ（２０）は、
予測を実行して媒体信号の予測バージョンを取得することと、
逆量子化された残差値（１０４）を使用して予測バージョンを補正することと、によって、
逆量子化された残差値（１０４）を使用して媒体信号を再構成（１７０）するように構成することができる。

【0252】

第１９の態様によれば、第１から第１８の態様のいずれかに戻って参照すると、デコーダ（２０）は、
予測を実行して媒体信号の予測バージョンを取得することと、
逆量子化された残差値（１０４）を逆変換に供して媒体残差信号を取得することと、
媒体残差信号を使用して予測バージョンを補正することと、によって、
逆量子化された残差値（１０４）を使用して媒体信号を再構成（１７０）するように構成することができる。

【0253】

第２０の態様によれば、エンコーダは、
残差信号を取得するために媒体信号を予測的に符号化することと、
現在の遷移状態（２２０）に応じて、デフォルト量子化器のセット（１５１）から量子化器（１５３）を選択（１５２）することと、
量子化器（１５３）を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、
現在の残差レベル［例えばパリティ］へのバイナリ関数の適用（１５６）によって取得される現在の残差レベルの特性（１５７）に応じて、かつデータストリーム（１４）において送信される量子化モード情報（１８０）に応じて、現在の遷移状態（２２０）を更新（１５８）することと、によって、
残差信号を表す残差値を連続的に量子化して、残差レベル（１４２）を取得することと、
残差レベル（１４２）をデータストリーム（１４）に符号化することであって、現在の遷移状態（２２０）は、量子化モード情報（１８０）に依存する全射写像に従って、１又は複数の遷移状態のセット（１６１）と現在の残差レベルの特性（１５７）との組合せ（１６３）の定義域から１又は複数の遷移状態のセット（１６１）へ遷移し、１又は複数の遷移状態のセット（１６１）の基数は、量子化モード情報（１８０）に応じて異なる、ことと、
第１の写像（２００）を使用して、現在の遷移状態（２２０）の所定数のビット［例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置のビットなど、１又は複数の所定のビット位置の１又は複数のビット］をデフォルト量子化器に写像することによって、量子化モード情報（１８０）が［例えば、量子化モード情報（１８０）に関係なく、又はそれから独立して］どのようなものであっても、量子化器（１５３）の選択（１５２）を実行することであって、所定の数及び第１の写像（２００）は、量子化モード情報（１８０）が何であれ等しい、ことと、
を行うように構成することができる。

【0254】

第２１の態様によれば、第２０の態様に戻って参照すると、エンコーダにおいて、所定数のビットは、１であり得る。

【0255】

第２２の態様によれば、第２０又は第２１の態様に戻って参照すると、エンコーダは、量子化モード情報（１８０）に応じて、デフォルト遷移表のセット（１５９）から使用される遷移表（１０６）の選択を選択し、デフォルト遷移表のセット（１５９）を統合遷移表の異なる部分として管理するように構成することができ、その中で、各デフォルト遷移表について、１又は複数の遷移状態のセット（１６１）の各々は、他の任意のデフォルト遷移表が統合遷移表内でインデックス付けされる状態インデックスとは異なる状態インデックスを使用してインデックス付けされる［例えば、統合遷移表の異なる部分内のデフォルト遷移表の遷移状態は、あるデフォルト遷移表から別のデフォルト遷移表に分離される］。

【0256】

第２３の態様によれば、第２２の態様に戻って参照すると、エンコーダは、統合遷移表内で、現在の残差レベルの特性（１５７）と現在の遷移状態（２２０）との組み合わせに対応するエントリをルックアップすることによって、現在の遷移状態（２２０）を更新（１５８）することを実行するように構成することができる。

【0257】

第２４の態様によれば、第２２又は第２３の態様に戻って参照すると、エンコーダは、［例えば、それに沿って順次逆量子化が実行される］量子化順序で、量子化モード情報（１８０）として、第１の残差値を量子化する際に使用するための開始遷移状態を示すシンタックス要素をデータストリーム（１４）に符号化するように構成することができ、それにより、シンタックス要素は、使用される遷移表（１０６）に対応する統合遷移表の部分においてのみ使用される状態インデックスに適合することによって、デフォルト遷移表のうち使用される遷移表（１０６）を示す。

【0258】

第２５の態様によれば、第２０から第２４の態様のいずれかに戻って参照すると、エンコーダにおいて、デフォルト量子化器のセット（１５１）は、
符号化レベルとして量子化ステップサイズ（１４４）の偶数倍を含む第１のデフォルト量子化器（１５１_１）と、
符号化レベルとして量子化ステップサイズ（１４４）の奇数倍及び０を含む第２のデフォルト量子化器（１５１_２）と
からなる。

【0259】

第２６の態様によれば、第２０から第２５の態様のいずれかに戻って参照すると、エンコーダは、
現在の残差レベルの二値化のビンのコンテキスト適応型二値算術符号化を使用して、現在の残差レベルをデータストリーム（１４）に符号化することであって、ビンは、現在の残差レベルが０であるか非ゼロであるかを示す有意ビン（９２）を含む、ことと、
第２の写像（１４４）を使用して、現在の遷移状態（２２０）の更なる所定数のビットを該値に写像することによって取得される値（２３０）に応じて、現在の残差レベルの第１のビン（９２）を符号化するための第１のコンテキスト（２４２）を選択することであって、第２の写像（１４４）は、量子化モード情報（１８０）が何であれ等しい、ことと、
を行うように構成することができる。

【0260】

第２７の態様によれば、第２６の態様に戻って参照すると、エンコーダにおいて、更なる所定数のビットは、２であり得る。

【0261】

第２８の態様によれば、第２０から第２７の態様のいずれかに戻って参照すると、エンコーダにおいて、媒体信号は、ビデオであり得、エンコーダは、
１つのピクチャブロック（８４）に関する残差レベルを別のピクチャブロック（８４）に関する残差レベルよりも前に符号化することと、
１つのピクチャブロック（８４）に関する残差レベルの二値化のビンを１又は複数の走査で順次符号化し、残差レベルの二値化のビンの所定数の先頭ビンに対してコンテキスト適応型二値算術符号化を使用し、残差レベルの二値化の後続ビンに対して等確率バイパスモードを使用することと、
第３の写像を使用して、遷移状態の更なる所定数のビット［例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置におけるビットなどの１又は複数の所定のビット位置における１又は複数のビット］を二値化パラメータ（３０２）に写像し、二値化パラメータ（３０２）に応じて所定の残差レベルの二値化の決定を実行することによって、所定数のビンが使い果たされた所定の残差レベルの二値化を決定することとであって、第３の写像は、量子化モード情報（１８０）が何であれ等しい、ことと、によって、
残差レベル（１４２）をデータストリーム（１４）に符号化するように構成することができる。

【0262】

第２９の態様によれば、第２８の態様に戻って参照すると、エンコーダは、二値化が、二値化パラメータ（３０２）に依存する１つの二値化コードを、所定のレベルに関連付けられている状態からレベル０に関連付けられている状態へとリダイレクトすることと、１又は複数の二値化コードを、０から所定のレベルマイナス１までの１又は複数のレベルに関連付けられている状態から１から所定のレベルまでの１又は複数のレベルに関連付けられている状態へとリダイレクトすることと、によって修正されたデフォルト二値化であるように、二値化パラメータ（３０２）に応じて所定の残差レベルに対する二値化を決定するように構成することができる。

【0263】

第３０の態様によれば、第２８又は第２９の態様に戻って参照すると、エンコーダにおいて、更なる所定数のビットは、１であり得る。

【0264】

第３１の態様によれば、第２８の態様に戻って参照すると、エンコーダにおいて、量子化モード情報（１８０）に応じて、全射写像及び１又は複数の遷移状態のセット（１６１）の基数は、
１又は複数の遷移状態のセット（１６１）の基数が１である、
１又は複数の遷移状態のセット（１６１）の基数が４である、
１又は複数の遷移状態のセット（１６１）の基数が８である、のうちの２つ以上の間で選択可能であり得る。

【0265】

第３２の態様によれば、第２０から第３１の態様のいずれかに戻って参照すると、エンコーダにおいて、媒体信号は、ビデオであり得、エンコーダは、
ビデオについて、
ピクチャブロック（８４）単位、
ピクチャ単位、
スライス単位、及び
ピクチャシーケンス単位
のうちの１つの方法で更新（１５８）を制御する量子化モード情報（１８０）を書き込むように構成することができる。

【0266】

第３３の態様によれば、第２０から第３２の態様のいずれかに戻って参照すると、エンコーダにおいて、媒体信号は、ビデオであり得、量子化モード情報（１８０）は、データストリーム（１４）内の第１のシンタックス要素を含み得、第１のシンタックス要素は、ビデオ又はビデオの部分について、データストリーム（１４）内の量子化モード情報（１８０）の第２のシンタックス要素を介して更新（１５８）がビデオ又はビデオの部分内で制御されるかどうか、又はどの全射写像及び１又は複数の遷移状態のセット（１６１）のどの基数が更新（１５８）のために選択されるべきかを示す。

【0267】

第３４の態様によれば、第３３の態様に戻って参照すると、エンコーダにおいて、第１のシンタックス要素は、
部分は、ビデオであり、第２のシンタックス要素は、
ピクチャのシーケンス、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に予め再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ビデオパラメータセット、
部分は、ピクチャのシーケンスであり、第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前に再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、シーケンスパラメータセット、
部分は、１又は複数のピクチャであり、第２のシンタックス要素は、
ピクチャ、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前に再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ピクチャパラメータセット、又は、
部分は、１つのピクチャであり、第２のシンタックス要素は、
タイル、
スライス、
符号化ツリーブロック［例えば、再帰的マルチツリー再分割によって各符号化ツリーブロックが符号化ブロックに分割される前に、例えば、１つのピクチャが一様に事前再分割される単位で］、イントラ／インターモード決定が行われる符号化ブロック］、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、ピクチャヘッダ、
あるいは、
部分は、１つの符号化ツリーブロックであり、第２のシンタックス要素は、
符号化ブロック［例えば、イントラ／インターモード決定が行われる単位で］、
若しくは残差変換ブロック
を単位として、更新（１５８）を制御する、パラメータセット
の中のデータストリーム（１４）に含まれ得る。

【0268】

第３５の態様によれば、第２０から第３４の態様のいずれかに戻って参照すると、エンコーダにおいて、媒体信号は、カラービデオであり得、エンコーダは、異なる色成分のためのデフォルト量子化器のセット（１５１）に対して異なるバージョンを使用するように構成することができる。

【0269】

第３６の態様によれば、第２０から第３５の態様のいずれかに戻って参照すると、エンコーダにおいて、バイナリ関数は、パリティであり得る。

【0270】

第３７の態様によれば、第２０から第３６の態様のいずれかに戻って参照すると、エンコーダは、
予測を実行して媒体信号及び残差信号の予測バージョンを取得することによって、
残差信号を取得するために媒体信号を予測的に符号化するように構成することができる。

【0271】

第３８の態様によれば、第２０から第３７の態様のいずれかに戻って参照すると、エンコーダは、
予測を実行して媒体信号及び残差信号の予測バージョンを取得することと、
残差信号を順変換することと、によって、
残差信号を取得するために媒体信号を予測的に符号化するように構成することができる。

【0272】

第３９の態様によれば、方法は、
予測残差を表す残差レベルをデータストリームから復号化し、
現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、
量子化器を使用して現在の残差レベルを逆量子化して、逆量子化された残差値を取得することと、
現在の残差レベル［例えばパリティ］へのバイナリ関数の適用によって取得される現在の残差レベルの特性に応じて、かつデータストリームに含まれる量子化モード情報に応じて、現在の遷移状態を更新することと、によって、
残差レベルを順次逆量子化するステップと、
逆量子化された残差値を使用して媒体信号を再構成するステップであって、現在の遷移状態は、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組合せの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる、ステップと、
第１の写像を使用して、現在の遷移状態の所定数のビット［例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置のビットなど、１又は複数の所定のビット位置の１又は複数のビット］をデフォルト量子化器に写像することによって、量子化モード情報が［例えば、量子化モード情報に関係なく、又はそれから独立して］どのようなものであっても、量子化器の選択を実行するステップであって、所定の数及び第１の写像は、量子化モード情報が何であれ等しい、ステップと、
を有し得る。

【0273】

第４０の態様によれば、方法は、
残差信号を取得するために媒体信号を予測的に符号化するステップと、
現在の遷移状態に応じて、デフォルト量子化器のセットから量子化器を選択することと、
量子化器を使用して現在の残差値を量子化して、現在の残差レベルを取得することと、
現在の残差レベル［例えばパリティ］へのバイナリ関数の適用によって取得される現在の残差レベルの特性に応じて、かつデータストリームにおいて送信される量子化モード情報に応じて、現在の遷移状態を更新することと、によって、
残差信号を表す残差値を連続的に量子化して、残差レベルを取得するステップと、
残差レベルをデータストリームに符号化するステップであって、現在の遷移状態は、量子化モード情報に依存する全射写像に従って、１又は複数の遷移状態のセットと現在の残差レベルの特性との組合せの定義域から１又は複数の遷移状態のセットへ遷移し、１又は複数の遷移状態のセットの基数は、量子化モード情報に応じて異なる、ステップと、
第１の写像を使用して、現在の遷移状態の所定数のビット［例えば、ＬＳＢ又は２番目であるが最後の有意ビット位置のビットなど、１又は複数の所定のビット位置の１又は複数のビット］をデフォルト量子化器に写像することによって、量子化モード情報が［例えば、量子化モード情報に関係なく、又はそれから独立して］どのようなものであっても、量子化器の選択を実行するステップであって、所定の数及び第１の写像は、量子化モード情報が何であれ等しい、ステップと、
を有し得る。

【0274】

第４１の態様によれば、データストリームは、第４０の態様による方法によって符号化することができる。

【0275】

第４２の態様によれば、コンピュータプログラムは、プログラムが１又は複数のコンピュータ上で実行されるときに、第３９又は第４０の態様による方法を実行するためのプログラムコードを有し得る。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】