特表 2023-502749 サンプルブロックの変換済み表現についてのコーディングコンセプト

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2023-01-25

(54)【発明の名称】サンプルブロックの変換済み表現についてのコーディングコンセプト

(51)【国際特許分類】

   H04N 19/129 20140101AFI20230118BHJP

   H04N 19/14 20140101ALI20230118BHJP

   H04N 19/176 20140101ALI20230118BHJP

【ＦＩ】

H04N19/129

H04N19/14

H04N19/176

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2022529840

(86)(22)【出願日】2020-11-25

(85)【翻訳文提出日】2022-07-21

(86)【国際出願番号】 EP2020083440

(87)【国際公開番号】W WO2021105255

(87)【国際公開日】2021-06-03

(31)【優先権主張番号】19211643.2

(32)【優先日】2019-11-26

(33)【優先権主張国・地域又は機関】EP

(81)【指定国・地域】

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．Ｂｌｕ－ｒａｙ

(71)【出願人】

【識別番号】591037214

【氏名又は名称】フラウンホッファー－ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー．ファオ

(74)【代理人】

【識別番号】110002952

【氏名又は名称】弁理士法人鷲田国際特許事務所

(72)【発明者】

【氏名】ブロス ベンヤミン

(72)【発明者】

【氏名】デ ルクサン エルナンデス サンティアゴ

(72)【発明者】

【氏名】シュワルツ ヘイコ

(72)【発明者】

【氏名】マーペ デトレフ

(72)【発明者】

【氏名】ウィーガンド トーマス

【テーマコード（参考）】

5C159

【Ｆターム（参考）】

5C159MA21

5C159MC01

5C159TA42

5C159TB08

5C159TC04

5C159TC10

5C159UA02

5C159UA05

(57)【要約】

データストリームからサンプルブロックの変換済み表現を復号するデコーダ。最初にコーディングされた係数が変換係数ブロックの予め定められたサブエリアの内側に位置する場合、及び下層の変換が利用可能な変換の第１のセット内にある場合、デコーダは、第１の係数スキャン順序に従って、係数を復号する。変換が利用可能な変換の第２のセット内にある場合、デコーダは、第２の係数スキャン順序に従って、予め定められたサブエリア内に位置する係数を復号し、予め定められたサブエリアの外側に位置する係数がゼロであると推測する。第１の係数スキャン順序は、予め定められたサブエリアの外側の係数が、予め定められたサブエリアの内側に位置する２つの変換係数の間でスキャンされるものである。第２の係数スキャン順序は、予め定められたサブエリア内の係数をスキャンすることの間の予め定められたサブエリアの外側のいずれの係数もスキャンしない。
【選択図】図７

【特許請求の範囲】

【請求項1】

データストリーム（１４）からサンプルブロック（８４）の変換済み表現を復号するデコーダ（２０）であって、
前記データストリームから係数位置情報（１００）を復号することであって、前記係数位置情報は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号すること、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記データストリームにおいて伝送された変換情報（１０８）を使用して、前記変換係数ブロック（１０４）の下層の変換（１３１）が利用可能な変換のセット（１３０）の１つ以上の利用可能な変換の第１のセット（１３２）または利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の第２のセット（１３４）内にあるかどうかを検査すること（１１１）、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の値を復号し（１０９）、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）がゼロであると推測すること、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア（１０６）内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を復号し（１１３）、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１６）及び前記予め定められたサブエリア（１０６）の外側に位置する前記変換係数ブロック（１０４）の変換係数がゼロであると推測すること、を行うように構成され、
前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリア（１０６）の外側のいずれの変換係数（１１８）をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記デコーダ（２０）。

【請求項2】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換のセット（１３０）から、１つ以上の利用可能な変換の前記第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０）を１つ以上の利用可能な変換の前記第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を判定し、
前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の値を復号し（１０９）、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の前記変換係数がゼロであると推測する、
ように構成される、請求項１に記載のデコーダ（２０）。

【請求項3】

予め定められた確率モデルを使用したコンテキスト適応エントロピ復号（２３０）を使用して、前記データストリームから前記変換情報（１０８）を復号し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する、
ように構成される、請求項１または２に記載のデコーダ（２０）。

【請求項4】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第３の確率モデル（２３６_３）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序（１１０、１１４）は、前記最後にスキャンされた位置（１０１）及び前記最後にスキャンされた位置（１０１）の上流の前記予め定められた数（２４０）の変換係数（１２２）において一致する、
請求項３に記載のデコーダ（２０）。

【請求項5】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３８_２）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序は、前記最後にスキャンされた位置（１０１）及び前記最後にスキャンされた位置（１０１）の上流の前記予め定められた数（２４０）の変換係数において一致する、
請求項３に記載のデコーダ（２０）。

【請求項6】

利用可能な変換の前記セット（１３０）は、
前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記デコーダ（２０）は、
前記データストリームから二次変換インジケータ（１２４）を復号し、前記二次変換インジケータ（１２４）は、前記変換係数ブロック（１０４）の下層の前記変換（１３１）が多段階変換であるかどうか、及び前記１つ以上の多段階変換からのどの１つが一次専用変換であるか、または前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であるかどうかを示し、
前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であることを前記二次変換インジケータ（１２４）が示す場合、一次専用変換の前記セット（１３８）から前記一次専用変換を識別する変換インジケータ（１２６）を前記データストリームから復号する、
ように構成される、先行請求項のいずれかに記載のデコーダ（２０）。

【請求項7】

利用可能な変換の前記セット（１３０）は、
前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の多段階変換のセット（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記デコーダ（２０）は、
前記データストリームから二次変換インジケータ（１２４）を復号し、前記二次変換インジケータ（１２４）は、前記変換係数ブロック（１０４）の下層の前記変換（１３１）が多段階変換であるかどうか、そうである場合、前記多段階変換の前記二次変換であるかどうか、または前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であるかどうかを示し、
前記二次変換インジケータ（１２４）が、前記変換係数ブロックの下層の前記変換が一次専用変換を示すケースでは、一次専用変換の前記セット（１３８）から前記一次専用変換を識別し、前記二次変換インジケータ（１２４）が、前記変換係数ブロックの下層の前記変換が多段階変換であることを示すケースでは、１つ以上の多段階変換の前記セット（１３６）が相互に異なる一次変換を有する１つよりも多い多段階変換を含む場合、前記多段階変換の前記一次変換を識別する一次変換インジケータ（１２６）を前記データストリームから復号する、
ように構成される、先行請求項のいずれかに記載のデコーダ（２０）。

【請求項8】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記デコーダ（２０）は、
前記データストリームから一次変換インジケータ（１２６）を復号し、前記一次変換インジケータ（１２６）は、前記第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が前記第１の一次専用変換である場合、前記第１の一次専用変換及び前記多段階変換を含むセットから前記変換係数ブロック（１０４）の下層の前記変換（１３１）を識別する二次変換インジケータ（１２４）を前記データストリームから復号し、前記変換係数ブロックの下層の前記変換は、前記第１の変換が前記１つ以上の第２の一次専用変換の１つであるケースでは、前記１つの第２の一次専用変換である、
ように構成される、先行請求項のいずれかに記載のデコーダ（２０）。

【請求項9】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換のセット（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換と、を含む、一次専用変換のセット（１３８）を含み、
前記デコーダ（２０）は、
前記データストリームから一次変換インジケータ（１２６）を復号し、前記一次変換インジケータ（１２６）は、前記１つ以上の第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が、前記多段階変換のうちの１つ以上の一次変換に等しい第１の一次専用変換である場合、前記第１の一次専用変換及びその一次変換が前記第１の一次専用変換に等しい前記１つ以上の多段階変換を含むセットから前記変換係数ブロック（１０４）の下層の前記変換（１３１）を識別する、前記データストリームからの二次変換インジケータ（１２４）を復号する、
ように構成される、先行請求項のいずれかに記載のデコーダ（２０）。

【請求項10】

予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、前記データストリームからの前記一次変換インジケータ（１２６）の前記復号を実行し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデルを判定する、
ように構成される、請求項８に記載のまたは９に記載のデコーダ（２０）。

【請求項11】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデルを判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデルを第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデルを第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデルを第３の確率モデル（２３６_３）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序（１１０、１１４）は、前記最後にスキャンされた位置（１０１）及び前記最後にスキャンされた位置（１０１）の上流の前記予め定められた数（２４０）の変換係数（１２２）において一致する、
請求項１０に記載のデコーダ（２０）。

【請求項12】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデルを判定する際、
前記最初にコーディングされた係数位置（１０２）が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデルを第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデルを第２の確率モデル（２３８_２）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序は、前記最後にスキャンされた位置及び前記最後にスキャンされた位置の上流の前記予め定められた数（２４０）の変換係数において一致する、
請求項１０に記載のデコーダ（２０）。

【請求項13】

前記一次変換は、前記１つ以上の多段階変換の全てに対して等しく、前記１つ以上の第１の一次専用変換の１つにも等しい、請求項６～１２のいずれかに記載のデコーダ（２０）。

【請求項14】

１つの第１の一次専用変換のみが存在する、請求項６～１３のいずれかに記載のデコーダ（２０）。

【請求項15】

前記サンプルブロックを取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成される、先行請求項１～１４のいずれかに記載のデコーダ（２０）。

【請求項16】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記サンプルブロックを使用するように構成される、先行請求項１～１５のいずれかに記載のデコーダ（２０）。

【請求項17】

データストリーム（１４）からサンプルブロック（８４）の変換済み表現を復号するデコーダ（２０）であって、
前記データストリーム（１４）から係数位置情報（１５０）を復号することであって、前記係数位置情報（１５０）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号することと、
予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を復号し、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）がゼロであると推測することと、
前記予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置しない場合にゼロであるかどうかを検査することと（１５２）、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の前記予め定められたサブエリア内に位置しない場合にゼロである場合、
データストリームから変換情報（１５４）を復号し、前記変換情報を使用して、利用可能な変換のセット（１３０、１３８）から前記変換係数ブロック（１０４）の下層の変換（１３１）を識別することと、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の前記予め定められたサブエリア内に位置しない場合にゼロでない場合、
利用可能な変換の前記セット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０、１３８）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を判定することと、を行うように構成され、
前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記予め定められた係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記予め定められた係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記デコーダ（２０）。

【請求項18】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）内に位置するかどうかを検査し（１５２ａ）、
前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置し、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する全ての変換係数（１１８）がゼロであるかどうかを検査する（１５２ｂ）、
ように構成される、請求項１７に記載のデコーダ（２０）。

【請求項19】

予め定められた確率モデル（２３２）を使用したコンテキスト適応エントロピ復号（２３０）を使用して、前記データストリームからの前記変換情報（１５４）の前記復号を実行し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する、
ように構成される、請求項１７または１８に記載のデコーダ（２０）。

【請求項20】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第３の確率モデル（２３６_３）に設定する、
ように構成される、請求項１９に記載のデコーダ（２０）。

【請求項21】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置から離れて予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３８_２）に設定する、
ように構成される、請求項１９に記載のデコーダ（２０）。

【請求項22】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記デコーダ（２０）は、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）内に位置しない場合にゼロである場合、
前記データストリームから二次変換インジケータ（１５６）を復号し、前記二次変換インジケータ（１５６）は、前記変換係数ブロックの下層の前記変換（１３１）が多段階変換であるかどうか、及び前記１つ以上の多段階変換からのどの１つが一次専用変換であるか、または前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であるかどうかを示し、
前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であることを前記二次変換インジケータ（１５６）が示すかどうかを検査し（１５８）、
前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であることを前記二次変換インジケータ（１５６）が示す場合、
一次専用変換の前記セット（１３８）から前記一次専用変換を識別する変換インジケータ（１６０）を前記データストリームから復号する、ように構成され、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア内に位置しない場合にゼロでない場合、前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の一次専用変換である、
先行請求項のいずれかに記載のデコーダ（２０）。

【請求項23】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記デコーダ（２０）は、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）内に位置しない場合にゼロである場合、
前記データストリームから一次変換インジケータ（１６０）を復号し、前記一次変換インジケータ（１６０）は、前記第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が前記第１の一次専用変換である場合、前記第１の一次専用変換及び前記多段階変換を含むセットから前記変換係数ブロックの下層の前記変換（１３１）を識別する二次変換インジケータ（１５６）を前記データストリームから復号する、ように構成され、
前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の変換が前記１つ以上の第２の一次専用変換の１つであるケースでは前記１つの第２の一次専用変換であり、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）に位置しない場合にゼロでない場合、前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の一次専用変換である、
先行請求項のいずれかに記載のデコーダ（２０）。

【請求項24】

前記一次変換は、前記１つ以上の多段階変換の全てに対して等しく、前記１つ以上の第１の一次専用変換の１つにも等しい、請求項２２または２３に記載のデコーダ（２０）。

【請求項25】

１つの第１の一次専用変換のみが存在する、請求項２２または２４に記載のデコーダ（２０）。

【請求項26】

前記サンプルブロックを取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成される、先行請求項１７～２５のいずれかに記載のデコーダ（２０）。

【請求項27】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記サンプルブロックを使用するように構成される、先行請求項１７～２６のいずれかに記載のデコーダ（２０）。

【請求項28】

データストリーム（１４）にサンプルブロック（８４）の変換済み表現を符号化するエンコーダ（１０）であって、
前記データストリームに係数位置情報（１００）を符号化することであって、前記係数位置情報は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置するかどうかを検査することと（１０７）、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記変換係数ブロック（１０４）の下層の変換（１３１）が利用可能な変換のセット（１３０）の１つ以上の利用可能な変換の第１のセット（１３２）または利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の第２のセット（１３４）内にあるかどうかを検査することと（１１１）、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の値を符号化すること（１０９）であって、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）はゼロである、前記符号化することと（１０９）、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア（１０６）内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を符号化すること（１１３）であって、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１６）及び前記予め定められたサブエリア（１０６）の外側に位置する前記変換係数ブロック（１０４）の変換係数はゼロである、前記符号化することと（１１３）、を行うように構成され、
前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記エンコーダ（１０）。

【請求項29】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換の前記セット（１３０）から、１つ以上の利用可能な変換の前記第２のセット（１３４）を取り除くことによって、利用可能な変換のセット（１３０）を１つ以上の利用可能な変換の前記第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロックの下層の前記変換（１３１）を判定し、
前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの前記変換係数の値を符号化し（１０９）、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの前記変換係数がゼロである、ように構成される、
請求項２８に記載のエンコーダ（１０）。

【請求項30】

予め定められた確率モデル（２３２）を使用したコンテキスト適応エントロピ符号化（２３０）を使用して、前記データストリームに前記変換情報（１０８）を符号化し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する、
ように構成される、請求項２８または２９に記載のエンコーダ（１０）。

【請求項31】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第３の確率モデル（２３６_３）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序（１１０、１１４）は、前記最後にスキャンされた位置（１０１）及び前記最後にスキャンされた位置（１０１）の上流の前記予め定められた数（２４０）の変換係数（１２２）において一致する、
請求項３０に記載のエンコーダ（１０）。

【請求項32】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３８_２）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序は、前記最後にスキャンされた位置及び前記最後にスキャンされた位置の上流の前記予め定められた数（２４０）の変換係数において一致する、
請求項３０に記載のエンコーダ（１０）。

【請求項33】

利用可能な変換の前記セット（１３０）は、
前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記データストリームに二次変換インジケータ（１２４）を符号化し、前記二次変換インジケータ（１２４）は、前記変換係数ブロック（１０４）の下層の前記変換（１３１）が多段階変換であるかどうか、及び前記１つ以上の多段階変換からのどの１つが一次専用変換であるか、または前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であるかどうかを示し、
前記変換係数ブロックの下層の前記変換が一次専用変換であることを前記二次変換インジケータ（１２４）が示す場合、一次専用変換の前記セット（１３８）から前記一次専用変換を識別する変換インジケータ（１２６）を前記データストリームに符号化する、
ように構成される、先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項34】

利用可能な変換の前記セット（１３０）は、
前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の多段階変換のセット（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記データストリームに二次変換インジケータ（１２４）を符号化し、前記二次変換インジケータ（１２４）は、前記変換係数ブロック（１０４）の下層の前記変換（１３１）が多段階変換であるかどうか、そうである場合、前記多段階変換の前記二次変換であるかどうか、または前記変換係数ブロック（１０４）の下層の前記変換が一次専用変換であるかどうかを示し、
前記二次変換インジケータ（１２４）が、前記変換係数ブロック（１０４）の下層の前記変換が一次専用変換を示すケースでは、一次専用変換の前記セット（１３８）から前記一次専用変換を識別し、前記二次変換インジケータ（１２４）が、前記変換係数ブロックの下層の前記変換が多段階変換であることを示すケースでは、１つ以上の多段階変換の前記セット（１３６）が相互に異なる一次変換を有する１つよりも多い多段階変換を含む場合、前記多段階変換の前記一次変換を識別する一次変換インジケータ（１２６）を前記データストリームに符号化する、
ように構成される、先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項35】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記データストリームに一次変換インジケータ（１２６）を符号化し、前記一次変換インジケータ（１２６）は、前記第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が前記第１の一次専用変換である場合、前記第１の一次専用変換及び前記多段階変換を含むセット（１３８）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を識別する二次変換インジケータ（１２４）を前記データストリームに符号化し、前記変換係数ブロックの下層の前記変換は、前記第１の変換が前記１つ以上の第２の一次専用変換の１つであるケースでは、前記１つの第２の一次専用変換である、ように構成される、
先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項36】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換のセット（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記データストリームに一次変換インジケータ（１２６）を符号化し、前記一次変換インジケータ（１２６）は、前記１つ以上の第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が、前記多段階変換のうちの１つ以上の一次変換に等しい第１の一次専用変換である場合、前記第１の一次専用変換及びその一次変換が前記第１の一次専用変換に等しい前記１つ以上の多段階変換を含むセットから前記変換係数ブロック（１０４）の下層の前記変換（１３１）を識別する二次変換インジケータ（１２４）を前記データストリームに符号化するように構成される、
先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項37】

予め定められた確率モデルを使用したコンテキスト適応エントロピ符号化を使用して、前記データストリームへの前記一次変換インジケータ（１２６）の前記符号化を実行し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデルを判定する、
ように構成される、請求項３５または３６に記載のエンコーダ（１０）。

【請求項38】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデルを判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデルを第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデルを第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデルを第３の確率モデル（２３６_３）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序（１１０、１１４）は、前記最後にスキャンされた位置（１０１）及び前記最後にスキャンされた位置（１０１）の上流の前記予め定められた数（２４０）の変換係数（１２２）において一致する、
請求項３７に記載のエンコーダ（１０）。

【請求項39】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置が、前記第１の係数スキャン順序（１１０）に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデルを第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記第１の係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデルを第２の確率モデル（２３８_２）に設定する、ように構成され、
前記第１及び第２の係数スキャン順序は、前記最後にスキャンされた位置及び前記最後にスキャンされた位置の上流の前記予め定められた数（２４０）の変換係数において一致する、
請求項３７に記載のエンコーダ（１０）。

【請求項40】

前記一次変換は、前記１つ以上の多段階変換の全てに対して等しく、前記１つ以上の第１の一次専用変換の１つにも等しい、請求項３３～３９のいずれかに記載のエンコーダ（１０）。

【請求項41】

１つの第１の一次専用変換のみが存在する、請求項３３～４０のいずれかに記載のエンコーダ（１０）。

【請求項42】

前記サンプルブロックを取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成されたフィードバックループを備えた、先行請求項２８～４１のいずれかに記載のエンコーダ（１０）。

【請求項43】

前記変換係数ブロックを取得するように、前記変換係数ブロック（１０４）の下層の前記変換（１３１）を前記サンプルブロックに受けさせるように更に構成される、先行請求項２８～４２のいずれかに記載のエンコーダ（１０）。

【請求項44】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記サンプルブロックを使用するように構成されたフィードバックループを備えた、先行請求項２８～４３のいずれかに記載のエンコーダ（１０）。

【請求項45】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、前記予測残差を表す前記サンプルブロックを判定するように構成される、先行請求項２８～４４のいずれかに記載のエンコーダ（１０）。

【請求項46】

データストリーム（１４）にサンプルブロック（８４）の変換済み表現を符号化するエンコーダ（１０）であって、
前記データストリーム（１４）に係数位置情報（１５０）を符号化することであって、前記係数位置情報（１５０）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を符号化することであって、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）はゼロである、前記符号化することと、
前記予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置しない場合にゼロであるかどうかを検査することと（１５２）、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）内に位置しない場合にゼロである場合、
前記データストリームに変換情報（１５４）を符号化し、前記変換情報を使用して、利用可能な変換のセット（１３０、１３８）から前記変換係数ブロック（１０４）の下層の変換（１３１）を識別することと、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）内に位置しない場合にゼロでない場合、
利用可能な変換の前記セット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換のセット（１３０、１３８）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を判定することと、を行うように構成され、
前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記予め定められた係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記予め定められた係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記エンコーダ（１０）。

【請求項47】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）内に位置するかどうかを検査し（１５２ａ）、
前記変換係数ブロックの前記予め定められたサブエリア（１０６）の外側に位置し、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する全ての変換係数（１１８）がゼロであるかどうかを検査する（１５２ｂ）、
ように構成される、請求項４６に記載のエンコーダ（１０）。

【請求項48】

予め定められた確率モデル（２３２）を使用したコンテキスト適応エントロピ符号化（２３０）を使用して、前記データストリームへの前記変換情報（１５２）の前記符号化を実行し、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する、
ように構成される、請求項４６または４７に記載のエンコーダ（１０）。

【請求項49】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３６_１）に設定し、
前記最初にコーディングされた係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３６_２）に設定し、
前記最初にコーディングされた係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置から離れて前記予め定められた数（２４０）の変換係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第３の確率モデル（２３６_３）に設定する、
ように構成される、請求項４８に記載のエンコーダ（１０）。

【請求項50】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）内に位置する場所に応じて、前記予め定められた確率モデル（２３２）を判定する際、
前記最初にコーディングされた係数位置（１０２）が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて予め定められた数（２４０）の変換係数以下である場合、または前記最後にスキャンされた位置（１０１）と一致する場合、前記予め定められた確率モデル（２３２）を第１の確率モデル（２３８_１）に設定し、
前記最初にコーディングされた変換係数位置が、前記予め定められた係数スキャン順序に従って、前記最後にスキャンされた位置（１０１）から離れて前記予め定められた数（２４０）の係数よりも大きい場合、前記予め定められた確率モデル（２３２）を第２の確率モデル（２３８_２）に設定する、
ように構成される、請求項４８に記載のエンコーダ（１０）。

【請求項51】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）内に位置しない場合にゼロである場合、
前記データストリームに二次変換インジケータ（１５６）を符号化し、前記二次変換インジケータ（１５６）は、前記変換係数ブロックの下層の前記変換（１３１）が多段階変換であるかどうか、及び前記１つ以上の多段階変換からのどの１つが一次専用変換であるか、または前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であるかどうかを示し、
前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であることを前記二次変換インジケータ（１５６）が示すかどうかを検査し（１５８）、
前記変換係数ブロックの下層の前記変換（１３１）が一次専用変換であることを前記二次変換インジケータ（１５６）が示す場合、
一次専用変換の前記セット（１３８）から前記一次専用変換を識別する変換インジケータ（１６０）を前記データストリームに符号化する、ように構成され、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）内に位置しない場合にゼロでない場合、前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の一次専用変換である、
先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項52】

利用可能な変換の前記セット（１３０）は、
各々が前記予め定められたサブエリア（１０６）内の一次変換及び二次変換の連結に対応し、前記予め定められたサブエリアの外側の前記一次変換から構成され、１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された多段階変換（１３６）と、
１つ以上の利用可能な変換の前記第１のセット（１３２）が構成するものからであり、前記１つ以上の多段階変換（１３６）の全てについての前記一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の前記第２のセット（１３４）に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット（１３８）と、を含み、
前記エンコーダ（１０）は、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）内に位置しない場合にゼロである場合、
前記データストリームに一次変換インジケータ（１６０）を符号化し、前記一次変換インジケータ（１６０）は、前記第１の一次専用変換及び前記１つ以上の第２の一次専用変換を含むセット（１３８）からの第１の変換を示し、
前記第１の変換が前記第１の一次専用変換である場合、前記第１の一次専用変換及び前記多段階変換を含むセットから前記変換係数ブロック（１０４）の下層の前記変換（１３１）を識別する二次変換インジケータ（１５６）を前記データストリームに符号化する、ように構成され、
前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の変換が前記１つ以上の第２の一次専用変換の１つであるケースでは、前記１つの第２の一次専用変換であり、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア（１０６）に位置しない場合にゼロでない場合、前記変換係数ブロックの下層の前記変換（１３１）は、前記第１の一次専用変換である、
先行請求項のいずれかに記載のエンコーダ（１０）。

【請求項53】

前記一次変換は、前記１つ以上の多段階変換の全てに対して等しく、前記１つ以上の第１の一次専用変換の１つにも等しい、請求項５１または５２に記載のエンコーダ（１０）。

【請求項54】

１つの第１の一次専用変換のみが存在する、請求項５１または５３に記載のエンコーダ（１０）。

【請求項55】

前記サンプルブロックを取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成されたフィードバックループを備えた、先行請求項４６～５４のいずれかに記載のエンコーダ（１０）。

【請求項56】

前記変換係数ブロックを取得するように、前記変換係数ブロック（１０４）の下層の前記変換（１３１）を前記サンプルブロックに受けさせるように構成される、先行請求項４６～５５のいずれかに記載のエンコーダ（１０）。

【請求項57】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記サンプルブロックを使用するように構成されたフィードバックループを備えた、先行請求項４６～５５のいずれかに記載のエンコーダ（１０）。

【請求項58】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、前記予測残差を表す前記サンプルブロックを判定するように構成される、先行請求項４６～５７のいずれかに記載のエンコーダ（１０）。

【請求項59】

データストリーム（１４）からサンプルブロック（８４）の変換済み表現を復号する方法であって、
前記データストリームから係数位置情報（１００）を復号することであって、前記係数位置情報は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロックの予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）と、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロックの前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記データストリームにおいて伝送された変換情報（１０８）を使用して、前記変換係数ブロック（１０４）の下層の変換が利用可能な変換のセット（１３０）の１つ以上の利用可能な変換の第１のセット（１３２）または利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の第２のセット（１３４）内にあるかどうかを検査すること（１１１）と、
前記変換係数ブロックの下層の前記変換が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの前記変換係数の値を復号し（１０９）、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１２）がゼロであると推測することと、
前記変換係数ブロックの下層の前記変換が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの変換係数の値を復号（１１３）し、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１６）及び前記予め定められたサブエリアの外側に位置する前記変換係数ブロックの変換係数がゼロであると推測することと、を備え、
前記変換係数ブロックに従った前記変換係数ブロックの下層の前記変換は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記方法。

【請求項60】

データストリーム（１４）からサンプルブロック（８４）の変換済み表現を復号する方法であって、
前記データストリーム（１４）から係数位置情報（１５０）を復号することであって、前記係数位置情報（１５０）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号することと、
予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する前記変換係数ブロックの変換係数の値を復号し、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１２）がゼロであると推測することと、
前記予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの予め定められたサブエリア（１０６）内に位置しない場合にゼロであるかどうかを検査すること（１５２）と、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア内に位置しない場合にゼロである場合、
前記データストリームから変換情報（１５４）を復号し、前記変換情報を使用して、利用可能な変換のセット（１３０、１３８）から前記変換係数ブロックの下層の変換を識別することと、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア内に位置しない場合にゼロでない場合、
利用可能な変換の前記セットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換の前記セット（１３０、１３８）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセットから前記変換係数ブロックの下層の前記変換を判定することと、を備え、
前記変換係数ブロックに従った前記変換係数ブロックの下層の前記変換は、前記変換済み表現を定義し、
前記予め定められた係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記予め定められた係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記方法。

【請求項61】

データストリーム（１４）にサンプルブロック（８４）の変換済み表現を符号化する方法であって、
前記データストリームに係数位置情報（１００）を符号化することであって、前記係数位置情報は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロックの予め定められたサブエリア（１０６）内に位置するかどうかを検査することと（１０７）、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロックの前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記変換係数ブロック（１０４）の下層の変換が利用可能な変換のセット（１３０）の１つ以上の利用可能な変換の第１のセット（１３２）または利用可能な変換の前記セットの１つ以上の利用可能な変換の第２のセット（１３４）内にあるかどうかを検査することと（１１１）、
前記変換係数ブロックの下層の前記変換が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの前記変換係数の値を符号化すること（１０９）であって、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１２）はゼロである、前記符号化することと（１０９）、
前記変換係数ブロックの下層の前記変換が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロックの変換係数の値を符号化すること（１１３）であって、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１６）及び前記予め定められたサブエリアの外側に位置する前記変換係数ブロックの変換係数はゼロである、前記符号化することと（１１３）、を備え、
前記変換係数ブロックに従った前記変換係数ブロックの下層の前記変換は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記方法。

【請求項62】

データストリーム（１４）にサンプルブロック（８４）の変換済み表現を符号化する方法であって、
前記データストリーム（１４）に係数位置情報（１５０）を符号化することであって、前記係数位置情報（１５０）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する前記変換係数ブロックの変換係数の値を符号化することであって、前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置の上流に位置する前記変換係数ブロックの変換係数（１１２）はゼロである、前記符号化することと、
前記予め定められた係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの予め定められたサブエリア（１０６）内に位置しない場合にゼロであるかどうかを検査することと（１５２）、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア内に位置しない場合にゼロである場合、
前記データストリームに変換情報（１５４）を符号化し、前記変換情報を使用して、利用可能な変換のセット（１３０、１３８）から前記変換係数ブロックの下層の変換を識別することと、
前記予め定められた係数スキャン順序に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置の方に位置する前記変換係数ブロックの全ての変換係数が、前記変換係数ブロックの前記予め定められたサブエリア内に位置しない場合にゼロでない場合、
利用可能な変換の前記セットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換の前記セット（１３０、１３８）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセットから前記変換係数ブロックの下層の前記変換を判定することと、を備え、
前記変換係数ブロックに従った前記変換係数ブロックの下層の前記変換は、前記変換済み表現を定義し、
前記予め定められた係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記予め定められた係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
前記方法。

【請求項63】

コンピュータ上で稼働するとき、請求項５９、６０、６１、及び６２のいずれかに記載の方法を実行するためのプログラムコードを有するコンピュータプログラム。

【請求項64】

請求項６１及び６２のいずれかに記載の方法を含むビデオコーディング方法を使用して符号化されたビデオを記憶したデータストリーム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明に従った実施形態は、データストリームからサンプルブロックの変換済み表現を復号するデコーダ、サンプルブロックの変換済み表現をデータストリームに符号化するエンコーダ、対応する方法、コンピュータ上で稼働するとき、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法を実行するプログラムコードを有するコンピュータプログラム、及びデータストリームに関連する。

【0002】

導入
ＡＶＣ及びＨＥＶＣなどのハイブリッドビデオ圧縮スキームは、予測残差の変換、変換係数の量子化、及び量子化インデックスのエントロピコーディングがそれに続く、ブロックに基づく予測に依存する。後者は、変換係数コーディングまたは残差コーディングとも称される。以下の説明は、実用的なハイブリッドビデオ圧縮スキームにおいて実装されるように、変換の整数近似についても変換という用語を使用する。

【0003】

従来から、固定された変換は、潜在的なブロックサイズＮ×Ｎごとにビデオコーディング標準規格において規定されている。例えば、ＨＥＶＣ標準規格は、それに対してＤＳＴ ＶＩが使用される、イントラピクチャ予測済み４×４ブロックを除き、ＤＣＴ－ＩＩの使用を規定する。複数の予め定義された変換タイプの間での選択を有効にすることによって、より高い圧縮効率を達成することができる。Ｖｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＶＶＣ）についての現在のドラフトは、５つの異なる水平及び垂直の垂直変換タイプ結合のセット（ＤＣＴ－ＩＩ、ＤＳＴ－ＶＩＩ、及びＤＣＴ－ＶＩＩＩを含む）を規定する。ビットストリームは、エンコーダによって選択された変換タイプがそれによってデコーダにシグナリングされるシンタックスを含む。変換係数レベルのコーディングは、選択された変換タイプとは独立しており、選択された変換タイプの前にシグナリングされる。複雑であることを理由に、１６個以下の非ゼロ係数を包含する行及び列のみに非ＤＣＴ－ＩＩ変換タイプが適用される。このケースでは、変換されることになるブロック（変換ブロック）は、１６よりも大きい幅及び高さを有することがあるが、左上の１６×１６エリアの外側の全ての係数がゼロであることが必要とされる。更に、１６×１６よりも大きい完全変換ブロックに変換が適用され、その結果、残差サンプルの結果として生じるブロックも、１６×１６よりも大きい。変換の実装ロジックを低減させるこの様式は、ゼロアウトと更に称される。

【0004】

更に、現在のＶＶＣドラフトは、エンコーダにおける変換、及び逆変換の前のデコーダにおけるその逆の後に適用することができる、追加の低周波数非分離可能変換（ＬＦＮＳＴ）を規定する。このＬＦＮＳＴについて、複数の変換カーネルがエンコーダにおいて選択されることがあり、ＬＦＮＳＴインデックスを使用してデコーダにシグナリングされることがある。複雑であることを理由に、現在のＶＶＣにおいて、ＬＦＮＳＴのみがＤＣＴ－ＩＩと組み合わされ得る。

【背景技術】

【0005】

ＶＶＣ発展を含む、現在の最新のビデオコーディング技術は、複数の予め定義された変換タイプの１つをシグナリングする手段を規定する。選択された変換を示すシンタックス、例えば、複数の変換選択（ＭＴＳ）インデックスの前に変換係数レベルがコーディングされる。

【0006】

サブブロックまたは係数グループにおいて変換係数レベルがコーディングされる。１つのスキャンパターンを使用してサブブロックが処理され、なおもスキャンパターンを使用してサブブロックの内側の係数が処理される。現在のＶＶＣドラフト７にあるように、両方のスキャンパターンは、後方／逆対角線スキャンであることがある。しかしながら、他のスキャンパターン及び方向も採用され得る。図１は、６４個の４×４サブブロック１１７に細分割された、３２×３２変換ブロック１０４の例を例示する。この例では、サブブロック１１７は、逆対角線スキャン１１５で、すなわち、右下隅１０３から左上隅１０１まで処理される。図１は、３２×３２変換ブロック１０４の内側の４×４サブブロック１１７の後方／逆対角線スキャニングを示す。ＤＣＴに基づく変換は、左上隅１０１においてエネルギーを集中させる傾向があり、よって、量子化済み係数値は、量子化の後に、ブロック、すなわち、変換ブロック１０４の右下隅１０３においてゼロになる傾向がある。スキャン順序１１５において最初の非ゼロ係数１０２の前のゼロのシーケンスをコーディング及び復号することを防止するために、（逆）スキャン順序１１５における最初の（最後の）非ゼロまたは有意係数１０２は、サブブロックを処理する前にシグナリングされる。この最初の有意係数、すなわち、最初の非ゼロ１０２を包含するサブブロック１１７のみが分かるので、図１の右側に示されるように、スキャン順序１１５における全ての後続のサブブロック１１７が処理される。

【0007】

例えば、１つの方向において３２個の係数によるより長い変換は、実装においてより多くのロジック及びメモリを必要とする。前に既に言及されたように、これは、現在のＶＶＣドラフトにおけるゼロアウト設計を動機付けてきた。この設計では、全ての変換タイプが、各方向における３２個の係数に適用されることがあるが、非ＤＣＴ－ＩＩについて、各方向における最後の１６個の係数が０に等しいことが必要とされる。図２は、最初の１６×１６係数のみが非ゼロであり得る３２×３２変換ブロック１０４に対して変換を適用することによって、再構築済み残差サンプルの３２×３２ブロック、例えば、サンプルブロック８４が生成される、この処理を例示する。図２は、逆変換４０／５４の前の３２×３２変換ブロック１０４の変換係数レベルゼロアウトを示す。

【0008】

変換が選択された情報、例えば、ＭＴＳインデックスは、変換係数の後にシグナリングされる。結果として、最初のまたは最後の有意係数１０２の位置が既知である。この係数が１６×１６非ゼロエリア、すなわち、予め定められたサブエリア１０６の外側であるとき、このケースでは許可された変換がＤＣＴ－ＩＩのみであることを理由に、変換選択をシグナリングする必要がない。しかしながら、現在の設計では、１６×１６エリアの外側の全ての係数がゼロに等しいことを保証することができない。これは、図３における右側の例に見ることができ、そこでは、最後の位置、すなわち、最初または最後にコーディングされた係数位置１０２が１６×１６非ゼロエリアの内側に位置するが、スキャンパターン１１０における後続のサブブロックは、このエリアの外側である。それらの非ゼロ係数が存在するケースでは、エンコーダ制約は、例えば、０に等しいＭＴＳインデックスを常にシグナリングすることによって、シグナリングされた変換がＤＣＴ－ＩＩであることを保証する必要がある。ＤＣＴ－ＩＩが明確にシグナリングされるが、常に０であることが必要とされることを理由に、これは、シグナリングオーバヘッドを生じさせる。以下では、非ゼロ要件は、全ての非ゼロ変換係数が非ゼロエリア、すなわち、予め定められたサブエリア１０６の内側に位置すること、及び非ゼロエリアの外側の全ての変換係数がゼロである必要があることを定義することがある。以下では、この態様に対処するための２つのアプローチが説明される。図３は、発明の実施形態に従った、ゼロアウトのためのサブブロックの修正された対角線スキャニング１１０を左側に示す。

【0009】

複数の変換選択が上述したＬＦＮＳＴなどの追加の変換と結合されるとき、実装ロジックを低減させるために、結合も制約されることがある。最新のＶＶＣドラフトでは、例えば、ＬＦＳＮＴのみがＤＣＴ－ＩＩと組み合わされ得、ＬＦＮＳＴが適用されるかどうか、及び適用される場合、どのカーネルに適用されるかを示すＬＦＮＳＴインデックスは、ＭＴＳインデックスの前にシグナリングされる。ＬＦＮＳＴインデックスがＬＦＮＳＴカーネルの使用を示すとき、ＭＴＳインデックスはシグナリングされず、０に等しい、すなわち、ＤＣＴ－ＩＩであると推測される。簡易化されたシンタックス図が図１３の左側に例示される。

【0010】

したがって、ピクチャのブロックについての複数の予め定義された変換タイプの間の選択をサポートする、より効率的にピクチャコーディング及び／またはビデオコーディングをレンダリングするコンセプトを提供することが望ましい。加えて、または代わりに、ビットストリーム、よってシグナル伝達コストを低減させ、例えば、シグナリングオーバヘッドを低減させることが望ましい。

【0011】

これは、本出願の独立請求項の主題によって達成される。

【0012】

発明に従った更なる実施形態は、本出願の従属請求項の主題によって定義される。

【発明の概要】

【0013】

本発明の第１の態様に従って、本出願の発明者は、一部の変換について、例えば、非ＤＣＴ－ＩＩ変換のような変換の第２のセット内の変換について、変換係数ブロックの非ゼロ係数のみが変換係数ブロックの予め定められたサブエリア内で許可され／位置することが必要とされることの事実から起こる、ピクチャのブロックについての変換の選択を有効にすることを試みるときに１つの問題に直面することを認識している。変換係数ブロックの予め定められたサブエリアの内側の最初にコーディングされた係数位置、すなわち、最初の非ゼロ係数の位置に応じて、予め定められたサブエリアの外側のゼロ係数が係数スキャン順序に従って復号／符号化されることが可能である。変換係数は、最初にコーディングされた係数位置から最後のスキャニング位置、例えば、左上隅内の係数、すなわち、ＤＣ係数の方への係数スキャン順序、または変換係数ブロックの左上隅にある係数から最初にコーディングされた係数位置の方への係数スキャン順序に従ってスキャンされてもよく、それは、この後者のケースでは最後にコーディングされた係数位置として理解することができる。本出願の第１の態様に従って、ゼロ係数を復号／符号化するこの課題は、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内の変換と関連付けられた変換係数ブロックに対して、利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内の変換と関連付けられた変換係数ブロックについての異なるスキャン順序を使用して克服される。変換係数ブロックが１つ以上の利用可能な変換の第１のセット内の変換と関連付けられるケースでは、変換係数ブロックは、変換係数ブロックの予め定められたサブエリアの外側の非ゼロ係数を含み、変換係数ブロックが１つ以上の利用可能な変換の第２のセット内の変換と関連付けられるケースでは、変換係数ブロックは、変換係数ブロックの予め定められたサブエリアの内側のみの非ゼロ係数を含む。発明者は、それぞれの変換係数ブロックの下層の変換に応じた異なる係数スキャン順序を使用することが、コーディング効率を改善し、シグナリングオーバヘッドを低減させることに関して有利であることを発見した。これは、全ての非ゼロ係数が変換係数ブロックの予め定められたサブエリアの内側に位置するか否かを変換が示すことができ、それによって、選択されたスキャン順序に従って非ゼロ変換係数のみが復号／符号化されるように、スキャン順序を選択することができるという着想に基づいている。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値が復号／符号化され、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測する。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値が復号／符号化され、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測する。よって、スキャンするのに必要な変換係数が少ないことがあるので、ゼロ係数を復号／符号化することを防止することができ、コーディング効率を改善する。

【0014】

したがって、本出願の第１の態様に従って、データストリームから／にサンプルブロックの変換済み表現を復号／符号化するデコーダ／エンコーダは、データストリームから／に係数位置情報を復号／符号化するように構成される。係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す。最初にコーディングされた係数位置は、係数スキャン順序における最初の非ゼロ変換係数の位置または逆係数スキャン順序における最後の非ゼロ変換係数位置のいずれかを示してもよい。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査するように構成される。予め定められたサブエリアは、変換係数ブロックのサブエリアを定義してもよく、サブエリアの内側で、サブエリア変換係数は、非ゼロであり得、サブエリアの外側で、全ての変換係数が特定の変換に対してゼロである必要がある。実施形態に従って、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内にあるケースでは、変換係数ブロックは、予め定められたサブエリアの外側の非ゼロ変換係数を含んでもよく、変換係数ブロックの下層の変換が利用可能な変換セットの１つ以上の利用可能な変換の第２のセット内にあるケースでは、予め定められたサブエリアの外側の変換係数はゼロである。予め定められたサブエリアは、１６×１６変換係数から構成されてもよい。予め定められたサブエリアは、変換係数ブロックの左上に位置してもよい。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの内側に位置する場合、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセットまたは利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内に位置するかどうかが検査される。デコーダは、データストリームにおいて伝送された変換情報を使用して、この検査を実行するように構成される。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、デコーダ／エンコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、デコーダ／エンコーダは、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数はゼロである。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。第２の係数スキャン順序は、予め定められたサブエリア内の変換係数の間の予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、予め定められたサブエリア内の変換係数をスキャンし、第１の係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の第１の係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0015】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置する場合、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を判定するように構成される。デコーダ／エンコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。よって、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置するケースでは、デコーダが変換係数ブロックの下層の変換を推測することが可能であり、エンコーダがデータストリームに変換係数ブロックに関連する変換情報を符号化する必要がなく、それによって、ビットストリームを低減させることができ、高コーディング効率を達成することができる。

【0016】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデル、例えば、特定の、例えば、ＬＰＳ（最小確率シンボル）についての推測された確率、特定のコンテキストについて更新されるようなバイナリ値を使用した、コンテキスト適応エントロピ復号／符号化、例えば、コンテキスト適応バイナリ算術コーディングを使用して、データストリームから／に変換情報を復号／符号化するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、例えば、継続的に更新されたコンテキストを判定することを介して、予め定められた確率モデルを判定するように構成されてもよい。

【0017】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデル、例えば、第１のコンテキストに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデル、例えば、第２のコンテキストに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデル、例えば、第３のコンテキストに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。言い換えると、その予め定められた数まで、両方のスキャンが同一であり、または更に言い換えると、両方のスキャンが最後にスキャンされた位置において終了し、最後にスキャンされた位置の上流の予め定められた数の係数において等しい。言い換えると、その予め定められた数まで最後にスキャンされた位置の上流で、両方のスキャンが同一である。変換係数ブロックが１つの非ゼロ変換係数のみを含む場合、予め定められた確率モデルは第１の確率モデルに設定されてもよい。この単一の非ゼロ変換係数は、最初にコーディングされた係数位置に位置する。

【0018】

別の実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0019】

実施形態に従って、利用可能な変換のセットは、予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された１つ以上の多段階変換を含む。言い換えると、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットは、１つ以上の多段階変換を含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に二次変換インジケータを復号／符号化し、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、すなわち、１つ以上の利用可能な変換の第２のセット内にあるかどうか、及び１つ以上の多段階変換からのどの１つが一次専用変換であるか、または変換係数ブロックの下層の変換が一次専用変換であるかどうかを示す。変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示す場合、デコーダ／エンコーダは、例えば、一次専用変換のセットから一次専用変換を識別する変換インジケータをデータストリームから／に復号／符号化するように構成される。二次変換インジケータが一次変換及び二次変換を既に示すので、変換係数ブロックの下層の変換が多段階変換であるケースでは、二次変換インジケータのみがデータストリームから／に復号／符号化される必要がある。よって、変換係数ブロックの下層の変換が多段階変換でないケースのみで、追加の変換インジケータが必要であるので、高コーディング効率を達成することができる。

【0020】

実施形態に従って、利用可能な変換のセットは、予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された１つ以上の多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に二次変換インジケータを復号／符号化するように構成される。二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、そうである場合、多段階変換の二次変換であるかどうか、または変換係数ブロックの下層の変換が一次専用変換であるかどうかを示す。言い換えると、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換または一次専用変換であるかどうかを示す。デコーダ／エンコーダは、変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示すケースでは、一次専用変換のセットから一次専用変換を識別し、変換係数ブロックの下層の変換が多段階変換であること二次変換インジケータが示すケースでは、１つ以上の多段階変換のセットが相互に異なる一次変換を有する１つよりも多い多段階変換を含む場合、多段階変換の一次変換を識別する、一次変換インジケータをデータストリームから／に復号／符号化するように構成される。よって、特に、多段階変換に関して変換係数ブロックの下層の変換の選択における高い変動性及び柔軟性を達成することができ、高コーディング効率を結果としてもたらす。全ての多段階変換が同一の一次変換と関連付けられ、すなわち、多段階変換が相互に異なる一次変換を有さないケースでは、一次変換インジケータを復号／符号化する必要がない。

【0021】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、２つ以上の多段階変換のセットを含む。１つ以上の利用可能な変換の第２のセットは、全ての多段階変換を含んでもよい。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、例えば、ＤＣＴ－ＩＩ変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換、例えば、非ＤＣＴ－ＩＩ変換を含む、一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に一次変換インジケータを復号／符号化するように構成され、一次変換インジケータは、第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセット、例えば、一次専用変換のセットからの第１の変換を示す。第１の変換が第１の一次専用変換である場合、デコーダ／エンコーダは、第１の一次専用変換及び多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化するように構成され、変換係数ブロックの下層の変換は、第１の変換が１つ以上の第２の一次専用変換の１つであるケースでは、１つの第２の一次専用変換である。言い換えると、第１の変換が１つ以上の第２の一次専用変換からの１つであることを一次変換インジケータが示す場合、変換係数ブロックの下層の変換は、示された第２の一次専用変換であり、第１の変換が第１の一次専用変換であることを一次変換インジケータが示す場合、変換係数ブロックの下層の変換は、二次変換インジケータに応じて、第１の一次専用変換、または第１の一次専用変換及び二次変換の連結に対応する多段階変換のいずれかである。後者のケースでは、二次変換インジケータは、変換係数ブロックの下層の変換を直接示す／指し示すことができる。よって非常に効率的にデータストリームにおいて変換係数ブロックの下層の変換を選択し、及び示すことができ、高コーディング効率を結果としてもたらす。

【0022】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む、一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に一次変換インジケータを復号／符号化するように構成される。一次変換インジケータは、１つ以上の第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセットから、例えば、一次専用変換のセットからの第１の変換を示す。第１の変換が、多段階変換のうちの１つ以上の一次変換に等しい第１の一次専用変換である場合、デコーダ／エンコーダは、第１の一次専用変換及びその一次変換が第１の一次専用変換に等しい１つ以上の多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化する。特殊の一次変換インジケータ及び二次変換インジケータは、高コーディング効率を結果としてもたらし、とりわけ、異なる第１の一次専用変換の間、及び変換係数ブロックの下層の変換の選択のための異なる一次変換による異なる多段階変換の間の良好な選択を可能にする。そのような選択を可能にすることによって、高圧縮効率を達成することが可能である。

【0023】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリームから／への一次変換インジケータの復号／符号化を実行するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定するように構成される。

【0024】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0025】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定するように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0026】

実施形態に従って、一次変換は、１つ以上の多段階変換の全てに対して等しく、１つ以上の第１の一次専用変換の１つにも等しい。

【0027】

実施形態に従って、１つの第１の一次専用変換のみが存在する。

【0028】

実施形態に従って、エンコーダは、変換係数ブロックを取得するように、変換係数ブロックの下層の変換をサンプルブロックに受けさせるように構成される。

【0029】

実施形態に従って、デコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成される。実施形態に従って、エンコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成されたフィードバックループを含む。

【0030】

実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表す、例えば、量子化を含むサンプルブロックを判定するように構成される。

【0031】

実施形態に従って、デコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成される。実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成されたフィードバックループを含む。

【0032】

本発明の第２の態様に従って、本出願の発明者は、非ＤＣＴ－ＩＩ変換のような一部の変換について、変換係数ブロックの非ゼロ係数のみが変換係数ブロックの予め定められたサブエリア内で許可されることが必要とされることの事実から起こる、ピクチャのブロックについての変換の選択を有効にすることを試みるときに１つの問題に直面することを認識している。現在では、上記説明された非ゼロ要件も選択することができる変換であるとき、変換係数ブロックの下層の変換を示すようシグナリングオーバヘッドが生じる。本出願の第２の態様に従って、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査することによって、この課題が克服される。発明者は、最初にコーディングされた係数位置が予め定められたサブエリアの内側に位置する場合でさえ、予め定められたサブエリアの外側の予め定められたスキャン順序に従って非ゼロ変換係数が位置すること可能性がなおもあるので、非ゼロ変換係数が予め定められたサブエリアの外側に位置するかどうかを検査することが有利であることを発見した。これは、検査によって変換係数ブロックの下層の変換が上記説明された非ゼロ要件による変換であるか否かを自動で識別することが可能になるという着想に基づいている。よって、変換係数ブロックごとに、全ての利用可能な変換のセットからそれぞれの変換係数ブロックの下層の変換を選択する必要はない。代わりに、この特徴により、全ての利用可能な変換のセットを関連する変換まで低減させることが可能であり、それによって、高コーディング効率を達成することができる。更に、追加のシンタックス要素によって、変換係数ブロックの下層の変換が非ゼロ要件による変換からの１つであり、または非ゼロ要件を有さない変換からの１つであるかどうかを示す必要はないので、高圧縮を達成することができる。

【0033】

したがって、本出願の第２の態様に従って、データストリームから／にサンプルブロックの変換済み表現を復号／符号化するデコーダ／エンコーダは、データストリームから／に係数位置情報を復号／符号化するように構成される。係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す。最初にコーディングされた係数位置は、係数スキャン順序における最初の非ゼロ変換係数の位置または逆係数スキャン順序における最後の非ゼロ変換係数の位置のいずれかを示してもよい。更に、デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化し、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数は、非ゼロである値を有する変換係数のみ、またはゼロである値を有する変換係数及び非ゼロである値を有する変換係数のいずれかを含んでもよい。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査するように構成される。予め定められたサブエリアは、変換係数ブロックのサブエリアを定義してもよく、サブエリアの内側で、変換係数が非ゼロであってもよく、サブエリアの外側で、全ての変換係数が特定の変換についてゼロである必要がある。実施形態に従って、変換係数ブロックは、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内にあるケースでは、予め定められたサブエリアの外側の非ゼロ変換係数を含んでもよく、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内にあるケースでは、予め定められたサブエリアの外側の変換係数はゼロである。予め定められたサブエリアは、１６×１６変換係数から構成されてもよい。予め定められたサブエリアは、変換係数ブロックの左上に位置してもよい。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、デコーダ／エンコーダは、データストリームから／に変換情報を復号／符号化し、変換情報を使用して、利用可能な変換のセットから、例えば、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットから変換係数ブロックの下層の変換を識別するように構成される。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、デコーダ／エンコーダは、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を判定する、ように構成される。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。予め定められた係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の予め定められた係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0034】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査し、変換係数ブロックの予め定められたサブエリアの外側に位置し、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する全ての変換係数がゼロであるかどうかを検査するように構成される。後者の検査は、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置する場合に任意選択で実行されるにすぎない。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置するケースでは、デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでないと推測するように構成される。

【0035】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置する場合、デコーダ／エンコーダは、第１の態様に従ったデコーダ／エンコーダに関して説明されたような特徴及び／または機能性を含んでもよい。

【0036】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号／符号化を使用して、データストリームから／への変換情報の復号／符号化を実行し、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定するように構成される。

【0037】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。

【0038】

別の実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを判定する際、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定するように構成される。

【0039】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、多段階変換のセットを含む。言い換えると、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットは、２つ以上の多段階変換を含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、
データストリームから／に二次変換インジケータを復号／符号化し、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、及び１つ以上の多段階変換からのどの１つが一次専用変換であるか、または変換係数ブロックの下層の変換が一次専用変換であるかどうか、すなわち、同一のものが一次専用変換のセットにまたは多段階変換のセットに属するかどうかを示し、
変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示すかどうかを検査する、ように構成される。変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示す場合、デコーダ／エンコーダは、例えば、一次専用変換のセットから一次専用変換を識別する変換インジケータをデータストリーム／からに復号／符号化するように構成される。
予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換である。この実施形態により、変換係数ブロックが予め定められたサブエリアの外側の非ゼロ変換係数を含む場合、変換係数ブロックの下層の変換が第１の一次専用変換であることを推測することが可能である。よって、そのような変換係数ブロックについて、データストリームは、変換情報を含む必要がなく、それによって、高圧縮を達成することができる。更に、二次変換インジケータを使用して、変換係数ブロックの下層の変換として多段階変換を明示的に示すことが可能であり、二次変換インジケータに加えて一次変換インジケータを使用することによって、変換係数ブロックの下層の変換として一次専用変換を明確に示すことが可能である。この特殊な変換選択により、予め定められたサブエリアの内側の全ての非ゼロ変換係数を有するブロックに対して変換係数ブロックの下層の変換として第１の一次専用変換をも示すことが可能であり、それによって、良好な変換の選択をもたらし、高圧縮を達成することに留意されたい。

【0040】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、
データストリームから／に一次変換インジケータを復号／符号化し、一次変換インジケータは、第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセット、例えば、一次専用変換のセットからの第１の変換を示し、
第１の変換が第１の一次専用変換である場合、第１の一次専用変換及び多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化するように構成され、
第１の変換が１つ以上の第２の一次専用変換の１つであるケースでは、変換係数ブロックの下層の変換は、１つの第２の一次専用変換である。
予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリアに位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換である。

【0041】

実施形態に従って、一次変換は、１つ以上の多段階変換の全てに対して等しく、１つ以上の第１の一次専用変換の１つにも等しい。

【0042】

実施形態に従って、１つの第１の一次専用変換のみが存在する。

【0043】

実施形態に従って、エンコーダは、変換係数ブロックを取得するように、変換係数ブロックの下層の変換をサンプルブロックに受けさせるように構成される。

【0044】

実施形態に従って、デコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成される。実施形態に従って、エンコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成されたフィードバックループを含む。

【0045】

実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表す、例えば、量子化を含むサンプルブロックを判定するように構成される。

【0046】

実施形態に従って、デコーダ／エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成される。実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成されたフィードバックループを含む。

【0047】

実施形態は、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法であって、データストリームから／に係数位置情報を復号／符号化することを含み、係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す、方法に関連する。方法は、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査することを含む。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの内側に位置する場合、方法は、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセットまたは利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内にあるかどうかを検査することを含む。復号する方法は、データストリームにおいて送信された変換情報を使用して、検査を実行してもよい。変換係数ブロックの下層の変換が、１つ以上の利用可能な変換の第１のセット内にある場合、方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、方法は、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。第２の係数スキャン順序は、予め定められたサブエリア内の変換係数の間の予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、予め定められたサブエリア内の変換係数をスキャンし、第１の係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の第１の係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0048】

実施形態は、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法であって、データストリームから／に係数位置情報を復号／符号化することを含み、係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す、方法に関連する。方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。更に、方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査することを含む。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、方法は、データストリームから／に変換情報を復号／符号化し、利用可能な変換のセットから変換係数ブロックの下層の変換を識別することを含む。復号する方法は、変換情報を使用して識別を実行してもよい。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、方法は、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を判定することを含む。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。予め定められた係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の予め定められた係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0049】

上記説明された方法は、上記説明されたエンコーダ／デコーダと同一の考慮事項に基づいている。ところで、方法は、エンコーダ／デコーダに関して説明された、全ての特徴及び機能性により完了することができる。

【0050】

実施形態は、符号化する本明細書で説明された方法を使用してそれに符号化されたピクチャまたはビデオを有するデータストリームに関連する。

【0051】

実施形態は、コンピュータ上で稼働するとき、本明細書で説明された方法を実行するためのプログラムコードを有するコンピュータプログラムに関連する。

【0052】

図面は必ずしも同一縮尺ではなく、代わりに、発明の原理を例示することに全体的に重点が置かれる。以下の説明では、発明の様々な実施形態が以下の図面を参照して説明される。

【図面の簡単な説明】

【0053】

【図1】６４個の４×４サブブロックに細分割された３２×３２変換ブロックの例を示す。

【図2】最初の１６×１６係数のみが非ゼロであることができる、３２×３２ブロックの再構築を示す。

【図3】現在の設計に従った、変換ブロックの修正されていないスキャン、及び実施形態に従った、変換ブロックの修正されたスキャンを示す。

【図4】ピクチャまたはビデオを予測的に符号化する装置を示す。

【図5】ピクチャまたはビデオを予測的に復号する装置を示す。

【図6】再構築済み信号と予測残差信号及び予測信号の結合との間の関係を示す。

【図7】実施形態に従った、スキャン順序を変更することが可能なデコーダを示す。

【図8】実施形態に従った、最初にコーディングされた係数位置が予め定められたサブエリアの外側に位置するケースにおける変換係数ブロックの下層の変換の選択を示す。

【図9】実施形態に従った、変換情報のＣＡＢＡＣコーディングを示す。

【図10】実施形態に従った、異なる数の非ゼロ変換係数を有する変換係数ブロックを示す。

【図11a】第１の実施形態に従った、利用可能な変換のセットを示す。

【図11b】第２の実施形態に従った、利用可能な変換のセットを示す。

【図12】実施形態に従った、予め定められたサブエリアの外側の変換係数がゼロであるかどうかを検査するデコーダを示す。

【図13】第１の簡易化されたシンタックス図を示す。

【図14】第２の簡易化されたシンタックス図を示す。

【発明を実施するための形態】

【0054】

等しいもしくは同等の要素、または等しいもしくは同等の機能性を有する要素は、異なる図において現れる場合でさえ、等しいまたは同等の参照符号によって以下の説明において表される。

【0055】

以下の説明では、本発明の実施形態のより完全な説明をもたらすために、複数の詳細が示される。しかしながら、それらの特定の詳細なしに本発明の実施形態が実施されてもよいことが当業者にとって明らかである。他のインスタンスでは、本発明の実施形態を曖昧にすることを回避するために、公知の構造及びデバイスが、詳細でないブロック図の形式に示される。加えて、他に特に述べられない限り、後に本明細書で説明される異なる実施形態の特徴は、相互に組み合わされてもよい。

【0056】

更に、本明細書で、非ゼロ変換係数は、非ゼロ値を有する変換係数を定義し、ゼロ変換係数は、ゼロ値を有する変換係数を定義することに留意されよう。

【0057】

以下では、係数レベルコーディングゼロアウトのための変換タイプシグナリングを使用することによってより効果的な圧縮を達成することを支援することができる様々な実施例が説明される。本明細書で提示される実施形態は、シグナリングオーバヘッドを低減させ、ハイブリッドビデオ圧縮用途に対する符号化／復号ロジックを簡易化することの目的により、特定の変換タイプの選択に応じてブロック内で非ゼロであることができるコーディング済み変換係数のエリアを制約するシグナリングコンセプトを説明する。

【0058】

本出願の以下の実施形態の理解を容易にするために、説明は、サンプルブロックの変換済み表現をコーディング及び復号する実施形態をそれに組み込むことができるコーディングフレームワークについての実施例を形成するために、ビデオのコーディングピクチャについてのブロックに基づく予測的コーデックのビデオエンコーダ及びビデオデコーダの説明の提示により開始する。ビデオエンコーダ及びビデオデコーダは、図４～６に関して説明される。本出願の本明細書で説明される実施形態は、図４及び５のそれぞれのビデオエンコーダ及びデコーダに容易に組み込まれてもよいが、本出願の実施形態は、図４及び５のビデオエンコーダ及びビデオデコーダの下層のコーディングフレームワークに従って動作しないビデオエンコーダ及びビデオデコーダを形成するためにも使用されてもよい。

【0059】

図４は、ピクチャ１２またはピクチャ１２のシーケンスから構成されたビデオをデータストリーム１４に予測的にコーディングする装置を示す。ブロック方式予測的コーディングがこの目的のために使用される。更に、変換に基づく残差コーディングが例示的に使用される。装置またはエンコーダが、参照符号１０を使用して示される。図５は、対応するデコーダ２０、すなわち、変換に基づく残差復号をもここで例示的に使用して、データストリーム１４からピクチャブロック内のピクチャ１２’またはピクチャ１２’から構成されたビデオを予測的に復号するように構成された装置２０を示し、デコーダ２０によって再構築されるようなピクチャ１２’が、予測残差信号の量子化によって導入されたコーディング損失に関して装置１０によって元から符号化されたピクチャ１２から逸脱していることを示すために、アポストロフィが使用されている。図４及び図５は、変換に基づく予測残差コーディングを例示的に使用するが、本出願の実施形態は、この種類の予測残差コーディングに限定されない。これは、以下に概説されるように、図４及び５に関する他の詳細についても当てはまる。

【0060】

エンコーダ１０は、予測残差信号に空間－スペクトル変換を受けさせ、それによって取得された予測残差信号をデータストリーム１４に符号化するように構成される。同様に、デコーダ２０は、データストリーム１４から予測残差信号を復号し、それによって取得された予測残差信号にスペクトル－空間変換を受けさせるように構成される。

【0061】

内部的に、エンコーダ１０は、元の信号、すなわち、ビデオまたはカレントピクチャ１２から予測信号２６の逸脱を測定するように予測残差２４を生成する、予測残差信号形成器２２を含んでもよい。予測残差信号形成器２２は、例えば、元の信号、すなわち、カレントピクチャ１２から予測信号を減算する減算器であってもよい。エンコーダ１０は次いで、スペクトルドメイン予測残差信号２４’を取得するよう、予測残差信号２４に空間－スペクトル変換を受けさせる変換器２８を更に含んでもよく、スペクトルドメイン予測残差信号２４’は次いで、エンコーダ１０によっても備えられた量子化器３２によって量子化を受ける。よって、量子化済み予測残差信号２４’’がビットストリーム１４にコーディングされる。この目的のために、エンコーダ１０は任意選択で、データストリーム１４に変換及び量子化されるような予測残差信号をエントロピコーディングするエントロピコーダ３４を含んでもよい。予測信号２６は、データストリーム１４に復号され、データストリーム１４から復号可能な予測残差信号２４’’に基づいて、エンコーダ１０の予測ステージ３６によって生成される。この目的のために、予測ステージ３６は、図４に示されるように、量子化損失を除き、信号２４’に対応する、スペクトルドメイン予測残差信号２４’’’を得るように、予測残差信号２４’’を量子化解除する量子化解除器３８と、それに続いて、量子化損失を除き、元の予測残差信号２４に対応する、予測残差信号２４’’’’を取得するよう、後者の予測残差信号２４’’’に逆変換、すなわち、スペクトル－空間変換を受けさせる逆変換器４０とを内部的に含む。予測ステージ３６の結合器４２は次いで、再構築済み信号４６、すなわち、元の信号１２の再構築を取得するように、予測信号２６及び予測残差信号２４’’’’を加算などによって再結合する。再構築済み信号４６は、信号１２’に対応してもよい。

【0062】

予測ステージ３６の予測モジュール４４は次いで、例えば、空間予測、すなわち、イントラ予測及び／または時間予測、すなわち、インター予測を使用することによって、信号４６に基づいて予測信号２６を生成する。これに関する詳細は以下に説明される。

【0063】

同様に、デコーダ２０は内部的に、予測ステージ３６に対応する構成要素から構成されてもよく、予測ステージ３６に対応する方式において相互接続されてもよい。特に、デコーダ２０のエントロピデコーダ５０は、予測ステージ３６のモジュールに関して上記説明された方式において相互接続され、協調する、量子化解除器５２、逆変換器５４、結合器５６、及び予測モジュール５８が予測残差信号２４’’に基づいて再構築済み信号を回復すると、データストリームから量子化済みスペクトルドメイン予測残差信号２４’’をエントロピ復号し、その結果、図５に示されるように、結合器５６の出力は、再構築済み信号、すなわち、そのビデオまたはカレントピクチャ１２’を結果としてもたらす。

【0064】

上記に特に説明されていないが、エンコーダ１０が、例えば、何らかのレート及び歪み関連基準、すなわち、コーディングコストを最適化し、及び／または何らかのレート制御を使用する方式などにおいて、いくつかの最適化スキームに従って、例えば、予測モード及び動きパラメータなどを含むいくつかのコーディングパラメータを設定することができることが容易に明らかである。以下で更に詳細に説明されるように、エンコーダ１０及びデコーダ２０並びに対応するモジュール４４、５８はそれぞれ、以下で更に詳細に説明される方式においてピクチャブロックのどの予測が構成されるかに基づいて、プリミティブ予測モードの、ある種類のセットまたはプールを形成するイントラコーディングモード及びインターコーディングモードなどの異なる予測モードをサポートする。エンコーダ及びデコーダがそれらの予測合成の間で切り替える粒度は、ブロックへのピクチャ１２及び１２’それぞれの細分割に対応してもよい。なお、それらのブロックのいくつかは、単独でイントラコーディングされたブロックであってもよく、いくつかのブロックは、単独でインターコーディングされたブロックであってもよく、任意選択で、更なるブロックは、イントラコーディング及びインターコーディングの両方を使用して取得されたブロックであってもよいが、詳細が以下に示される。イントラコーディングモードに従って、それぞれのブロックの空間的な既にコーディング／復号された隣接に基づいて、ブロックについての予測信号が取得される。いくつかのイントラコーディングサブモードが存在してもよく、その中の選択で、ある種類のイントラ予測パラメータを疑似的に表す。それぞれの方向性イントラコーディングサブモードについて特有である特定の方向に従って隣接のサンプル値をそれぞれのブロックに外挿することによって、それぞれのブロックについてのどの予測信号が埋められるかに従って、方向性または角度イントラコーディングサブモードが存在してもよい。イントラコーディングサブモードは、例えば、それぞれのブロックについてのどの予測信号がそれぞれのブロック内の全てのサンプルにＤＣ値を割り当てるかに従った、ＤＣコーディングモード、並びに／またはそれぞれのブロックのどの予測信号が、隣接サンプルに基づいて二次元線形関数によって定義された平面の傾き及びオフセットを導出することによりそれぞれのブロックのサンプル位置にわたって二次元線形によって記述されたサンプル値の空間的分散であると近似もしくは判定されることに従った、平面イントラコーディングモードなどの１つ以上の更なるサブモードをも含んでもよい。それらと比較して、インター予測モードに従って、ブロックについての予測信号は、例えば、ブロック内部を時間的に予測することによって取得されてもよい。インター予測モードのパラメータ化について、動きベクトルがデータストリーム内でシグナリングされてもよく、動きベクトルは、それぞれのブロックについての予測信号を取得するために、前にコーディング／復号されたピクチャがサンプリングされたビデオの前にコーディングされたピクチャの部分の空間的変位を示す。これは、量子化済みスペクトルドメイン予測残差信号２４’’を表すエントロピコーディング済み変換係数レベルなど、データストリーム１４によって備えられた残差信号コーディングに加えて、データストリーム１４が、ブロック予測モードに割り当てるための予測関連パラメータ、インター予測モードについての動きパラメータなどの割り当てられた予測モードについての予測パラメータ、並びに任意選択で、以下で更に詳細に概説されるような割り当てられた予測モード及び予測パラメータを使用してブロックについての最終的な予測信号の合成を制御する更なるパラメータに符号化されている場合があることを意味する。加えて、データストリームは、ブロックへのピクチャ１２及び１２’のそれぞれの細分割を制御及びシグナリングするパラメータを含んでもよい。デコーダ２０は、エンコーダが行ったのと同一の方式においてピクチャを細分割して、同一の予測モード及びパラメータをブロックに割り当て、同一の予測信号を結果としてもたらすよう同一の予測を実行するために、それらのパラメータを使用する。

【0065】

図６は、一方で、再構築済み信号、すなわち、再構築済みピクチャ１２’と、他方で、データストリームでシグナリングされるような予測残差信号２４’’’’及び予測信号２６の結合との間の関係を例示する。上記で既に表されたように、結合は、加算であってもよい。可変サイズのブロック８０へのピクチャエリアの細分割として予測信号２６が図６に例示されるが、これは例にすぎない。細分割は、ブロックの行及び列へのピクチャエリアの通常の細分割、または四分木細分割もしくは同様のものなどの可変サイズのリーフブロックへのピクチャ１２の多分木細分割など、いずれかの細分割であってもよく、それらの混合は図６に示され、そこでは、ピクチャエリアがツリールートブロックの行及び列に最初に細分割され、ツリールートブロックは次いで、ブロック８０を結果としてもたらすよう、再帰多分木細分割に従って更に細分割される。

【0066】

図６における予測残差信号２４’’’’も、ブロック８４へのピクチャエリアの細分割として例示される。それらのブロックは、コーディングブロック８０から同一のものを区別するために、変換ブロックまたは変換係数ブロックと称されてもよい。事実上、図６は、エンコーダ１０及びデコーダ２０がブロックへのピクチャ１２及びピクチャ１２’のそれぞれの２つの異なる細分割、すなわち、１つがコーディングブロック８０への細分割、もう一方がブロック８４への細分割を使用してもよいことを例示する。両方の細分割は同一であってもよく、すなわち、各々のブロック８０が変換ブロック８４を同時に形成してもよく、逆であってもよいが、図６は、例えば、変換ブロック８４への細分割がブロック８０への細分割の拡張を形成し、その結果、２つのブロック８０の間のいずれかの境界が２つのブロック８４の間の境界と重なり、または代わりに言うと、各々のブロック８０のいずれかが変換ブロック８４の１つと一致し、もしくは変換ブロック８４のクラスタと一致するケースを例示する。しかしながら、細分割はまた、相互に独立して判定または選択されてもよく、その結果、変換ブロック８４は代わりに、ブロック８０の間のブロック境界を交差する。変換ブロック８４への細分割が考慮される限り、ブロック８０への細分割に関して提案されるものなどとして同様の言及が当てはまり、すなわち、ブロック８４は、行及び列内に配列されたブロックへのピクチャエリアの通常の細分割の結果、ピクチャエリアの多分木細分割の結果、またはそれらの結合もしくは区分の他の分類であってもよい。ちなみに、ブロック８０及び８４は、二次、矩形、またはいずれかの他の形状に限定されないことに留意されよう。更に、予測信号が形成されるブロック８０へのカレントピクチャ１２の細分割、及び予測残差がコーディングされるブロック８４へのカレントピクチャ１２の細分割は、コーディング／復号のために使用される細分割のみでなくてもよい。予測信号判定及び残差コーディングが実行される粒度からのそれらの細分割について、まずは、残差コーディングが代わりに細分割なしに行われてもよく、２番目に、それらの細分割とは別の粒度において、エンコーダ及びデコーダは、予測パラメータ及び予測信号合成制御信号などの上述したパラメータの一部を含む、特定のコーディングパラメータを設定してもよい。

【0067】

図６は、予測信号２６及び予測残差信号２４’’’’の結合が再構築済み信号１２’を結果として直接もたらすことを例示する。しかしながら、他のビュー、または、例えば、別個のＤＰＢによる別個の予測ループにおいてコーディング／復号された他のコーディングレイヤから取得された予測信号などの代替的な実施形態に従って、ピクチャ１２’への結果をもたらすよう、１つよりも多い予測信号２６が予測残差信号２４’’’’と結合されてもよいことに留意されるべきである。

【0068】

図６では、変換ブロック８４は、以下の意義を有するはずである。変換器２８及び逆変換器５４は、それらの変換ブロック８４の単位においてそれらの変換を実行する。例えば、多くのコーデックは、全ての変換ブロック８４に対して何らかの分類のＤＳＴまたはＤＣＴを使用する。一部のコーデックは、変換ブロック８４の一部について、予測残差信号が空間ドメインにおいて直接コーディングされるように変換をスキップすることを可能にする。しかしながら、本明細書で説明される実施形態に従って、エンコーダ１０及びデコーダ２０は、以下の図７～１２のうちの１つ以上に関して説明されるように、いくつかの変換、すなわち、利用可能な変換１３０のセットをそれらがサポートするような方式において構成される。

【0069】

以下では、それによって変換タイプシグナリングについてのコーディング効率を改善することができ、及び／またはそれによって複数の変換タイプの間の選択を可能にすることにより圧縮効率を改善することができる実施形態が説明される。以下での実施形態はほとんど、デコーダを考慮して特徴及び機能性を例示する。しかしながら、同一のまたは類似の特徴及び機能性がエンコーダによって備えられてもよく、例えば、デコーダによって実行される復号は、エンコーダによる符号化に対応することができることが明らかである。更に、エンコーダは、フィードバックループ、例えば、予測ステージ３６におけるデコーダに関して説明されるような同一の特徴を含んでもよい。

【0070】

図７は、データストリーム１４からサンプルブロック８４の変換済み表現を復号するデコーダ２０を示す。実施形態に従って、エンコーダは、変換係数ブロック１０４を取得するように、サンプルブロック８４に、変換係数ブロック１０４の下層の変換を受けさせるように構成される。変換係数ブロック１０４の下層の変換１３１に従った変換係数ブロック１０４は、変換済み表現を定義する。

【0071】

図７に示されるデコーダ２０は、データストリーム１４から係数位置情報１００を復号するように構成される。係数位置情報１００は、変換係数ブロック１０４内の最初にコーディングされた係数位置１０２を示す。最初にコーディングされた係数位置１０２は、スキャン順序、例えば、第１の係数スキャン順序１１０または第２の係数スキャン順序１１４における第１の非ゼロ変換係数の位置を示すことができる。反転／逆スキャン順序のケースでは、最初にコーディングされた係数位置１０２は、反転／逆スキャン順序に従った最後の非ゼロ変換係数の位置を示すことができる。非ゼロ変換係数は本明細書で、ゼロに等しくない値を有する変換係数を定義し、ゼロ変換係数は、ゼロに等しい値を有する変換係数を定義する。

【0072】

デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかを検査する（１０７）ように構成される。

【0073】

最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の内側に位置する場合、デコーダ２０は、データストリーム１４において伝送された変換情報１０８を使用して、変換係数ブロック１０４の下層の変換１３１が利用可能な変換のセット１３０の１つ以上の利用可能な変換の第１のセット１３２または利用可能な変換のセット１３０の１つ以上の利用可能な変換の第２のセット１３４内にあるかどうかを検査する（１１１）ように構成される。実施形態に従って、１つ以上の利用可能な変換の第１のセット１３２は、変換係数１１８のような、予め定められたサブエリアの外側の非ゼロ変換係数を有する変換係数ブロック１０４に対する変換を含む。実施形態に従って、１つ以上の利用可能な変換の第２のセット１３４は、予め定められたサブエリア１０６の外側のいずれかの非ゼロ変換係数を有さない変換係数ブロック１０４に対する変換を含む。言い換えると、１つ以上の利用可能な変換の第２のセット１３４からの１つ以上の変換は、予め定められたサブエリアの外側の全ての変換係数がゼロに等しい値を有すること、及び非ゼロ変換係数が予め定められたサブエリア１０６の内側にのみ位置することの要件、すなわち、非ゼロ要件を有してもよい。１つ以上の利用可能な変換の第１のセット１３２からの変換は、この非ゼロ要件を満たす必要がなくてもよい。

【0074】

変換係数ブロック１０４の下層の変換１３１が１つ以上の利用可能な変換の第１のセット１３２内にある場合、デコーダ２０は、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する、第１の係数スキャン順序１１０に従った変換係数ブロック１０４の変換係数の値を復号し（１０９）、最初にコーディングされた係数位置１０２の上流に位置する、第１の係数スキャン順序１１０に従った変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図７に示されるように、この第１の条件について、デコーダ２０は、変換係数ブロック１０４の網掛けエリア内の全ての変換係数１１２がゼロであると推測するように構成されてもよい。第１の係数スキャン順序１１０は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０の間で第１の係数スキャン順序１１０によってスキャンされた予め定められたサブエリア１０６の外側の１つ以上の変換係数１１８が存在するような方式において変換係数ブロック１０４の変換係数をスキャンする。図７の実施形態に例示的に示されるように、予め定められたサブエリア１０６の外側の変換係数１１８_１～１１８_３は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０_１及び１２０_２の間の第１の係数スキャン順序１１０によってスキャンされ、予め定められたサブエリア１０６の外側の変換係数１１８_４は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０_３及び１２０_４の間の第１の係数スキャン順序１１０によってスキャンされる。

【0075】

変換係数ブロック１０４の下層の変換１３１が１つ以上の利用可能な変換の第２のセット１３４内にある場合、デコーダ２０は、予め定められたサブエリア１０６内に位置し、第２の係数スキャン順序１１４に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の変換係数の値を復号し（１１３）、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１６及び予め定められたサブエリア１０６の外側に位置する変換係数ブロック１０４の変換係数１１８がゼロであると推測するように構成される。第２の係数スキャン順序１１４は、予め定められたサブエリア１０６内の変換係数１２０の間の予め定められたサブエリア１０６の外側のいずれの変換係数１１８をもスキャンすることなく、予め定められたサブエリア１０６内の変換係数１２０をスキャンする。

【0076】

実施形態に従って、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかの検査１０７は、最初にコーディングされた係数位置１０２が予め定められたサブエリア１０６内に位置しないことを実現することを結果としてもたらすことができる。そのような否定的なケース２１０が図８に示される。最初にコーディングされた係数位置１０２が予め定められたサブエリア１０６内に位置することを実現する肯定的なケース２００は、肯定的なケースが既に図７に関して説明されたので、３つのドットのみによって図８に示される。

【0077】

最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置する場合、デコーダ２０は、１つ以上の利用可能な変換の第２のセット１３４を利用可能な変換のセット１３０から取り除くことによって、１つ以上の利用可能な変換の第１のセット１３２まで利用可能な変換のセット１３０を低減させ（２２０）、１つ以上の利用可能な変換の第１のセット１３２から変換係数ブロック１０４の下層の変換１３１を判定するように構成される。この判定は、データストリーム１４において伝送された変換情報１０８を使用することによって、または１つ以上の利用可能な変換の第１のセット１３２が１つの変換のみを構成する場合、変換係数ブロック１０４の下層の変換１３１が１つの変換であると推測することによってのいずれかで実行されてもよい。加えて、デコーダ２０は、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の変換係数の値を復号し（１０９）、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図８に示されるように、デコーダ２０は、変換係数ブロック１０４の網掛けエリア内の全ての変換係数１１２がゼロであると推測するように構成されてもよい。

【0078】

図８に関して説明された特徴及び／または機能性は、図７のデコーダ２０に対して任意選択である。

【0079】

実施形態に従って、図７に示されたデコーダ２０は、図９に示されるように、コンテキスト適応エントロピ復号２３０、例えば、コンテキスト適応バイナリ算術コーディングを使用して、データストリーム１４から変換情報１０８を復号するように構成される。デコーダ２０は、予め定められた確率モデル２３２、例えば、特定のコンテキストに対して更新されるような特定のバイナリ値についての推測された確率を使用してもよい。デコーダは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を判定する（２３４）ように構成されてもよく、それぞれの説明により図９及び図１０を参照されたい。

【0080】

実施形態、例えば、図９に示される第１の実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を判定する際（２３４）、最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデル２３２を第１の確率モデル２３６_１に設定し、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である場合、予め定められた確率モデル２３２を第２の確率モデル２３６_２に設定し、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数よりも大きい場合、予め定められた確率モデル２３２を第３の確率モデル２３６_３に設定するように構成される。この実施形態についての予め定められた数２４０は、１０の変換係数に設定されてもよく、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である最も可能性がない変換係数は、参照符号２４０によって示される。しかしながら、異なる予め定められた数２４０の変換係数が選択されてもよいことも明らかである。

【0081】

代替的な実施形態、例えば、図９に示される実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を判定する際（２３４）、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下であり、または最後にスキャンされた位置１０１に一致する場合、予め定められた確率モデル２３２を第１の確率モデル２３８_１に設定し、最初にコーディングされた変換係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の係数より大きい場合、予め定められた確率モデル２３２を第２の確率モデル２３８_２に設定するように構成される。この実施形態についての予め定められた数２４０は、８の変換係数に設定されてもよく、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である最も可能性がない変換係数は、参照符号２４０によって示される。しかしながら、上記ですでに説明されたように、異なる予め定められた数２４０の変換係数が選択されてもよいことも明らかである。

【0082】

上記説明された実施形態の両方について、第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数において一致する。図７に示された第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４を重ね合わせるケースでは（第１の係数スキャン順序１１０についての復号１０９を、及び第２の係数スキャン順序１１４についての復号１１３を参照されたい）、両方のスキャンが最後にスキャンされた位置１０１の上流で同一であるまでの変換係数が存在する。図７に示された変換係数ブロック１０４のケースでは、両方のスキャンが最後にスキャンされた位置１０１の上流で同一であるまでの１０の変換係数が存在する。予め定められた数２４０の変換係数は、第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４が最後にスキャンされた位置１０１の上流で一致するまでの最大数の変換係数まで、３の変換係数の範囲内の数に設定されてもよい。予め定められた数２４０の変換係数は、８の変換係数のような、３～１０の変換係数または３～９の変換係数の範囲内の数に設定されてもよい。

【0083】

上記説明された第１の実施形態の第１の確率モデル２３６_１及び第２の確率モデル２３６_２が、上記説明された第２の実施形態の第１の確率モデル２３８_１及び第２の確率モデル２３８_２に対して異なってもよいことに留意されよう。

【0084】

図１０は、左側で、それに対して予め定められた数２４０の変換係数ブロック１０４が８の変換係数に設定され、それに対して変換係数ブロック１０４の最初にコーディングされた変換係数位置１０２が８の変換係数に等しい変換係数ブロック係数１０４を示す。加えて、図１０は、右側で、上述した最後にスキャンされた位置１０１に等しい最初にコーディングされた変換係数位置１０２を有する変換係数ブロック１０４を示す。

【0085】

図１１ａ及び１１ｂに示される実施形態に従って、図７に関して示され、及び説明された利用可能な変換のセット１３０は、予め定められたサブエリア１０６内の一次変換１３６ａ及び二次変換１３６ｂの連結に対応し、予め定められたサブエリア１０６の外側の一次変換１３６ａから構成された１つ以上の多段階変換１３６を含む。言い換えると、図１１ａの右上に示されるように、例えば、エンコーダによって実行される前方変換において、処理済み係数ブロック８４’を判定するために、サンプルブロック８４の全体に、すなわち、予め定められたサブエリア１０６内であり、且つ予め定められたサブエリア１０６の外側に一次変換１３６ａが適用され、変換係数ブロック１０４を判定するために、処理済み係数ブロック８４’の予め定められたサブエリア１０のみに二次変換が適用される。例えば、デコーダによって実行される逆変換において、処理済み係数ブロック８４’を判定するために、変換係数ブロック１０４の予め定められたサブエリア１０６に二次変換１３６ｂの逆が適用され、サンプルブロック８４を判定するために、処理済み係数ブロック８４’の全体に一次変換１３６ａの逆が適用される。代わりに、図１１ａの左上に示されるように、１つの変換ステップにおいて一次変換及び二次変換を適用することも可能であり、予め定められたサブエリア１０６内で二次変換１３６ｂのみが適用され、予め定められたサブエリア１０６内で、且つ予め定められたサブエリア１０６の外側で一次変換１３６ａが適用される。１つ以上の多段階変換１３６が、１つ以上の利用可能な変換の第２のセット１３４に包含される。

【0086】

加えて、利用可能な変換のセット１３０は、１つ以上の利用可能な変換の第１のセット１３２が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセット１３４に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット１３８を含む。図１１ａは、１つの第１の一次専用変換Ｔ_０から構成された１つ以上の利用可能な変換の第１のセット１３２を示し、図１１ｂは、Ｎ１の第１の一次専用変換Ｔ_１～Ｔ_Ｎ１から構成された１つ以上の利用可能な変換の第１のセット１３２を示す。図１１ａにおける１つ以上の第２の一次専用変換は、Ｔ_１…Ｔ_Ｎ１と参照符号が付され、図１１ｂにおける１つ以上の第２の一次専用変換は、Ｔ_Ｎ１＋１…Ｔ_Ｎ２と参照符号が付される。

【0087】

以下の実施形態が図１１ｂに関して説明されるが、図１１ａに示されるようなセット１３０に対しても変換係数ブロック１０４の下層の変換１３１の導入されたシグナリングを使用することも可能であることが明らかである。

【0088】

図１１ｂに示される実施形態に従って、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成される。二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１が多段階変換、すなわち、セット１３６内にあり、且つ１つ以上の多段階変換１３６からの１つの変換であるかどうか、または変換係数ブロック１０４の下層の変換１３１が一次専用変換、すなわち、セット１３８の変換であるかどうかを示す。変換係数ブロック１０４の下層の変換１３１が一次専用変換であると二次変換インジケータ１２４が示す場合、デコーダは、データストリームから、一次専用変換のセット１３８から一次専用変換を識別する変換インジケータ１２６、例えば、一次変換インジケータを復号するように構成される。

【0089】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６であるかどうかを示し、そうである場合、変換係数ブロック１０４の下層の変換１３１の多段階変換の二次変換１３６ｂ、すなわち、Ｔ^（ｓ）であることを示し、または変換係数ブロック１０４の下層の変換１３１が一次専用変換、すなわち、セット１３８内の変換であるかどうかを示す。加えて、デコーダは、データストリームから一次変換インジケータ１２６を復号し、一次変換インジケータ１２６は、変換係数ブロック１０４の下層の変換１３１が一次専用変換であることを二次変換インジケータ１２４が示すケースでは、一次専用変換のセット１３８からの一次専用変換、すなわち、セット１３８の１つを識別し、変換係数ブロック１０４の下層の変換１３１が多段階変換、すなわち、セット１３６の変換であり、１つ以上の多段階変換のセット１３６が相互に異なる一次変換１３６ａを有する１つよりも多い多段階変換を含むことを二次変換インジケータ１２４が示すケースでは、多段階変換の一次変換１３６ａを識別する。よって、このケースでは、一次変換インジケータ１２６は、一次専用変換のセット１３８からの一次専用変換を示し、二次変換インジケータ１２４が何を示すかに応じて多段階変換についての一次変換１３６ａを示すように構成される。

【0090】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから一次変換インジケータ１２６を復号するように構成される。一次変換インジケータ１２６は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１、すなわち、変換の第１のセット１３２の一次変換、及び１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２、すなわち、変換の第２のセット１３４一次変換を含む、一次専用変換のセット１３８からの第１の変換を示す。第１の変換が第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つである場合、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１を含むセットからの変換係数ブロック１０４の下層の変換１３１、及び多段階変換１３６、例えば、１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を有さない利用可能な変換のセット１３０からの１つを識別する。代わりに、第１の変換が第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つであるケースでは、変換係数ブロック１０４の下層の変換１３１は、そのセットの間で一部の変換が相互に等しくなることができる、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１及び多段階変換１３６の１つ以上の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）を含むセットから識別されてもよい。変換係数ブロック１０４の下層の変換１３１は、第１の変換が多段階変換の１つの一次変換であるケースでは、１つの多段階変換である。第１の変換が１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２の１つであるケースでは、１つの第２の一次専用変換は、一次変換インジケータ１２６によって示される。よって、第１の変換が１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つであるケースでは、二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１を示し、第１の変換が１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２の１つであるケースでは、一次変換インジケータ１２６は、変換係数ブロック１０４の下層の変換１３１を示す。

【0091】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから一次変換インジケータ１２６を復号するように構成される。一次変換インジケータ１２６は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１及び１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を含むセットからの第１の変換を示す。第１の変換が多段階変換１３６の１つ以上の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）に等しい第１の一次専用変換Ｔ_１…Ｔ_Ｎ１である場合、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、第１の一次専用変換及びその一次変換が第１の一次専用変換、例えば、一次変換インジケータ１２６によって示される第１の一次専用変換に等しい１つ以上の多段階変換を含むセットからの変換係数ブロック１０４の下層の変換１３１を識別する。

【0092】

実施形態に従って、デコーダ２０は、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリームから一次変換インジケータ１２６の復号を実行し、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを判定するように構成される。

【0093】

実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを判定する際、
最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数１２０以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。

【0094】

第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１、及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数１２０において一致する。

【0095】

代替的な実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを判定する際、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下であり、または最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、
最初にコーディングされた変換係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定する、ように構成される。

【0096】

第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１、及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数において一致する。

【0097】

データストリームからの一次変換インジケータ１２６のコンテキスト適応エントロピ復号のための予め定められた確率モデルの上記説明された設定は、図９に示されたように、データストリーム１４からの変換情報１０８のコンテキスト適応エントロピ復号２３０のための予め定められた確率モデル２３２の設定について説明されるような特徴及び／または機能性を含んでもよい。一次変換インジケータ１２６のコンテキスト適応エントロピ復号のための第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルは、変換情報１０８のコンテキスト適応エントロピ復号のための第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルとは異なってもよい。

【0098】

実施形態に従って、一次変換は、１つ以上の多段階変換１３６の全てに対して等しく、また、１つ以上の第１の一次専用変換Ｔ_０またはＴ_１～Ｔ_Ｎ１の１つに等しい。

【0099】

実施形態に従って、図１１ａに示されたように、１つのみの第１の一次専用変換Ｔ_０が存在する。

【0100】

実施形態に従って、デコーダ２０は、サンプルブロック８４を取得するように、変換係数ブロック１０４の下層の変換１３１を反転させる、反転変換、例えば、逆変換を変換係数ブロック１０４に受けさせるように構成される。

【0101】

実施形態に従って、デコーダ２０は、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために、サンプルブロック８４を使用する。

【0102】

図１２は、データストリーム１４からサンプルブロック８４の変換済み表現を復号するデコーダ２０を示す。デコーダ２０は、データストリーム１４から係数位置情報１５０を復号するように構成される。係数位置情報１５０は、変換係数ブロック１０４内の最初にコーディングされた係数位置１０２を示す。係数位置情報１５０は、図７に示されたデコーダの係数位置情報１００に関して説明されたような同一の特徴及び／または機能性を有してもよい。

【0103】

デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の変換係数１２０の値を復号し、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図１２に示されるように、変換係数ブロック１０４の網掛けエリア内の変換係数１１２は、ゼロであると推測される。

【0104】

デコーダは、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８、すなわち、図１２におけるｘによって示される変換係数が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロであるかどうかを検査する（１５２）ように構成される。この検査は、例えば、対応する重要度フラグに基づいて個々にそれらのゼロ度について係数が検査される方式において後に説明される実施形態において実行される。しかしながら、代替例が存在する。例えば、この検査１５２がサブブロック方式に実行されてもよく、予め定められたサブエリア１０６が、最低成分のいくつかのサブブロック、例えば、ＤＣ係数を含むＤＣサブブロックと共に最後にスキャンされた位置１０１を包含したサブブロックを包含するブロック１０４の左上隅におけるｎｘｍサブブロックを除き、全てのサブブロックを包囲してもよい。ｎはｍに等しくてもよく、例えば、ｎは４であってもよく、例えば、ｍは４であってもよい。より正確に、変換係数ブロックは、サブブロックに細分割されてもよく、各々のサブブロックは、例えば、４×４変換係数の大きさであり、その結果、左上のサブブロックは、最低スペクトル成分のサブブロックである。各々のサブブロックは、例えば、変換係数ブロック１０４内のそれぞれのサブブロックの位置を定義した、インデックスまたは座標、例えば、ｘＳ及びｙＳによって示されてもよく、ゼロにおいて開始することをインデックス付けにより、ｘＳは、それぞれのサブブロックのサブブロック列を示し、ｙＳは、それぞれのサブブロックのサブブロック行を示し、すなわち、サブブロック（ｘＳ，ｙＳ）＝（０，０）は、ＤＣサブブロックである。予め定められた係数スキャン順序１１０は、ブロック１０４の係数をサブブロック方式でトラバースしてもよく、すなわち、サブブロック内の全ての係数は、次のサブブロックに進む前にトラバースされる。サブブロックは、各サブブロック内のスキャンと同様の方式において、すなわち、対角線上にトラバースされる。最低スペクトル成分のサブブロックと共に最後にスキャンされた位置１０１を包含したサブブロックを除くサブブロックごとに、サブブロックフラグがデータストリームにおいて伝送されてもよく、すなわち、デコーダによって復号されてもよく、エンコーダによってそれに符号化されてもよく、サブブロックは、それぞれのサブブロックについて、いずれかの有意係数がそれぞれのサブブロック内に包含されるかどうかを示す。デコーダは、それらのサブブロックフラグに基づいて、予め定められたエリアの外側のいずれかのサブブロック、すなわち、ｎ×ｎの最低スペクトル成分と最後にコーディングされた係数を包含したサブブロックとの間のいずれかのサブブロック内に有意値が存在するかどうかを検査してもよい。この測定によって、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合、すなわち、ｎ×ｎサブブロックと最後にコーディングされた係数を包含したサブブロックとの間のサブブロックについての全てのコーディングされたサブブロックフラグがゼロであるケースでは、ゼロであるかどうかが試験される。例えば、予め定められたエリアが１６×１６変換係数の大きさ、すなわち、幅において４サブブロック及び高さにおいて４サブブロックであるケースでは、予め定められたサブエリア１０６の外側のサブブロック、例えば、座標ｘＳ＞３またはｙＳ＞３により示されるサブブロックが、１つ以上の有意変換係数を含むかどうかが検査される（１５２）。説明を再開する。

【0105】

予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、デコーダ２０は、データストリーム１４から変換情報１５４を復号し（１５３）、変換情報１５４を使用して、利用可能な変換のセット１３０から、例えば、利用可能な変換のセット１３０からの１つ以上の利用可能な変換の第２のセット１３４から、変換係数ブロック１０４の下層の変換１３１を識別する（１５５）、ように構成される。

【0106】

予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、デコーダは、１つ以上の利用可能な変換の第２のセット１３４の利用可能な変換のセット１３０から取り除くことによって、１つ以上の利用可能な変換の第１のセット１３２まで利用可能な変換のセット１３０を低減させ、１つ以上の利用可能な変換の第１のセット１３２からの変換係数ブロック１０４の下層の変換１３１を判定する。これは、以下の方式においても説明される。サブブロックが予め定められたエリア、例えば、左上の１６×１６係数の外側に位置し、それが有意である場合、すなわち、例えば、それぞれのサブブロックが少なくとも１つの非ゼロ係数を包含する場合、それは、制限された変換のセットのみ、例えば、１つ以上の利用可能な変換の第１のセット１３２の変換のみを利用することができることに従う。このセット１３２が１つの変換のみ、例えば、ＤＣＴ－ＩＩのみを包含する場合、ｍｔｓ＿ｉｄｘの値は、０であると推測されてもよい。

【0107】

実施形態に従って、利用可能な変換のセット１３０は、例えば、図１１ａまたは１１ｂに示されるように、例えば、１つ以上の利用可能な変換の第１のセット１３２に備えられる、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１、及び例えば、１つ以上の利用可能な変換の第２のセット１３４に備えられる、１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を含む、一次専用変換のセット１３８であってもよい。好ましくは、利用可能な変換のセット１３０は、例えば、図１１ａに示されるように、１つの第１の一次専用変換Ｔ_０及び１つ以上の第２の一次専用変換Ｔ_１…Ｔ_Ｎから構成される。よって、図１２におけるｘによって示されるように、変換係数ブロック１０４の予め定められたサブエリア１０６の外側の変換係数ブロック１０４の全ての変換係数１１８がゼロでない第２のケースでは、デコーダは、変換係数ブロック１０４の下層の変換１３１として１つの第１の一次専用変換Ｔ_０を判定してもよい。図１２におけるｘによって示されるように、変換係数ブロック１０４の予め定められたサブエリア１０６の外側の変換係数ブロック１０４の全ての変換係数１１８がゼロである他のケースでは、デコーダは、ブロック１０４に対してデータストリームにおいて伝送された、すなわち、この他のケースでは、デコーダによってデータストリームから復号され、エンコーダによってそれに符号化されたインデックスによって、セット１３０から変換係数ブロック１０４の下層の変換１３１を判定してもよい。利用可能な変換のセット１３０は、５つの異なるオプションを含んでもよく、１つの変換Ｔ_０は、ＤＣＴ－ＩＩ－ＤＣＴ－ＩＩ変換であってもよい。後者の例は、例えば、予め定められたエリアサブブロック方式の外側でゼロ度を検査する上述した例と組み合わされてもよい。加えて、この実施例では、ブロック１０４の下層の変換１３１が二次変換とのまさに概説されたように判定された一次変換の結合であることに従って、ブロック１０４についてのコーディングオプションが存在することは、任意選択であってもよい。例えば、それは、最後にコーディングされた変換係数の位置が特定の条件を充足する場合、更なるインデックスは、二次変換のセットから二次変換を選択するということであってもよい。このセットは、１つのオプションとして、非二次変換、すなわち、一次専用変換として一次変換から効果的に離れる識別変換を含んでもよい。特定の条件が満たされない場合、二次変換も使用されない。

【0108】

変換係数ブロック１０４に従った変換係数ブロック１０４の下層の変換１３１は、変換済み表現を定義し、予め定められた係数スキャン順序１１０は、１つ以上の変換係数１１８、すなわち、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０の間の予め定められた係数スキャン順序１１０によってスキャンされた予め定められたサブエリア１０６の外側の変換係数が存在するような方式において変換係数１２０をスキャンする。

【0109】

実施形態に従って、デコーダは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかを検査し、変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置し、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する全ての変換係数１１８がゼロであるかどうかを検査する（１５２）ように構成される。任意選択で、検査１５２は単に、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置する場合に実行される。これは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置するケースでは、予め定められたサブエリア１０６の外側の変換係数がゼロでないはずであるという事実に起因する。

【0110】

実施形態に従って、デコーダ２０は、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリーム１４からの変換情報１５４の復号１５３を実行し、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置することに応じて、予め定められた確率モデルを判定するように構成される。任意選択で、データストリーム１４からの変換情報１５４のコンテキスト適応エントロピ復号についての予め定められた確率モデルは、図９に示されるように、データストリームからの変換情報１０８のコンテキスト適応エントロピ復号２３０についての予め定められた確率モデル２３２に関して説明されたように設定されてもよい。しかしながら、変換情報１５４のコンテキスト適応エントロピ復号についての第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルは、変換情報１０８のコンテキスト適応エントロピ復号についての第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルとは異なってもよいことが明白である。

【0111】

実施形態に従って、利用可能な変換のセット１３０は、図１１ａに示されるように、その各々が予め定められたサブエリア１０６内の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）及び二次変換Ｔ_１ ^（ｓ）～Ｔ_Ｎ２ ^（ｓ）の連結に対応し、予め定められたサブエリア１０６の外側の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）から構成された多段階変換１３６を含む。多段階変換１３６は、１つ以上の利用可能な変換の第２のセット１３４に包含される。一次専用変換のセット１３８は、それから１つ以上の利用可能な変換の第１のセット１３２が構成し、１つ以上の多段階変換１３６の全てについての一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）がそれに等しい第１の一次専用変換Ｔ_０、及び１つ以上の利用可能な変換の第２のセット１３４に包含される１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１を含む。

【0112】

実施形態に従って、上記説明され、図１１ａに示された利用可能な変換のセット１３０が使用される。デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、データストリーム１４から二次変換インジケータ１５６を復号するように構成され、二次変換インジケータ１５６は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６であるかどうかを示し、及び１つ以上の多段階変換１３６からのいずれか１つを示し、または変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であるかどうかを示す。言い換えると、二次変換インジケータ１５６は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６または一次専用変換１３８に属するかどうかを示し、変換１３１が多段階変換１３６に属する場合、変換係数ブロック１０４の下層の変換１３１は、二次変換インジケータ１５６によって直接示される。加えて、この第１のケース１５７では、変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であることを二次変換インジケータ１５６が示すかどうかが検査され、及び変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であることを二次変換インジケータ１５６が示す場合、デコーダ２０は、データストリーム１４から、一次専用変換のセット１３８からの一次専用変換を識別する変換インジケータ１６０、例えば、一次変換インジケータを復号するように構成される。第２のケース１５９では、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換Ｔ_０である。

【0113】

実施形態に従って、上記説明され、図１１ａに示された利用可能な変換のセット１３０が使用される。デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、データストリーム１４から一次変換インジケータ１６０を復号するように構成され、一次変換インジケータ１６０は、第１の一次専用変換Ｔ_０及び１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１を含むセットからの第１の変換を示す。第１の変換が、第１の一次専用変換Ｔ_０である場合、デコーダ２０は、第１の一次専用変換Ｔ_０及び多段階変換１３６を含むセットから変換係数ブロック１０４の下層の変換１３１を識別する二次変換インジケータ１５６をデータストリーム１４から復号する。第１の変換が１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１の１つである場合、変換係数ブロック１０４の下層の変換１３１は、１つの第２の一次専用変換、すなわち、一次変換インジケータ１６０によって示される第２の一次専用変換である。予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、変換係数ブロック１０４の下層の変換１３１は、第１の一次専用変換Ｔ_０である。

【0114】

実施形態に従って、一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）は、１つ以上の多段階変換１３６の全てに対して等しく、また、１つ以上の第１の一次専用変換の１つに等しく、例えば、図１１ａにおけるＴ_０に等しく、または図１１ｂにおけるＴ_１～Ｔ_Ｎ１の１つに等しい。

【0115】

実施形態に従って、図１１ａに示されるように、１つの第１の一次専用変換Ｔ_０のみが存在する。

【0116】

実施形態に従って、デコーダ２０は、サンプルブロック８４を取得するように、変換係数ブロック１０４の下層の変換１３１を反転させる、逆変換を変換係数ブロック１０４に受けさせるように構成される。

【0117】

実施形態に従って、デコーダ２０は、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために、サンプルブロック８４を使用するように構成される。

【0118】

実施形態に従って、図７～１２の１つに関して上記説明されたデコーダの１つと並列した特徴及び／または機能性を有するエンコーダは、変換係数ブロック１０４を取得するように、サンプルブロック８４に変換係数ブロック１０４の下層の変換１３１を受けさせるように構成される。

【0119】

実施形態に従って、図７～１２の１つに関して上記説明されたデコーダの１つと並列した特徴及び／または機能性を有するエンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表すよう、例えば、量子化を含むサンプルブロック８４を判定するように構成される。

【0120】

以下の説明は、言い換えると、変換タイプシグナリングについてのコーディング効率を改善するための上記説明された２つの様式を説明する。

【0121】

１．サブブロック内の係数レベルの後のシグナリング変換タイプの保持
カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２が、許可された変換の特定のサブセットに対して全ての係数が０に等しいことが必要とされるエリアの内側に位置するとき、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の外側に位置するとき（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの外側）、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１３の両方の簡易化されたシンタックス図に例示される）。

【0122】

図１３は、ｍｔｓ＿ｉｄｘによる変換選択に応じた修正されていないサブブロック（ＳＢ）スキャニングによる簡易化されたシンタックス図を示す。

【0123】

カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２が、許可された変換の特定のサブセットに対して全ての係数が０に等しいことが必要とされるエリアの外側に位置するとき、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の内側に位置するとき（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの内側）、図１２に示されたように、各々のその後にスキャンされる係数の位置が検査される（１５２）。少なくとも１つの係数１１８が非ゼロエリア、すなわち、予め定められたサブエリア１０６の外側に位置する場合、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測される）。この条件は、図１３の右側上の簡易化されたシンタックス図に例示される（ＡｌｌＬｕｍａＣｏｅｆｆＯｕｔｓｉｄｅ１６ｘ１６ＡｒｅＺｅｒｏに関する条件を参照）。

【0124】

追加の変換、例えば、ＬＦＮＳＴを適用することができるケースでは、変換タイプの前にその選択がシグナリングされ（１５６）、それは、追加の変換が適用されることを示し、追加の変換と結合されることが許可された変換のサブセットのみがシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＬＦＮＳＴが適用されることをシグナリングするＬＦＮＳＴインデックスが０よりも大きい場合、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１３の両方の簡易化されたシンタックス図に例示される、ＤＣＴ－ＩＩに対応する）。

【0125】

追加の変換（例えば、ＬＦＮＳＴ）を適用することができるケースでは、変換タイプの後にその選択がシグナリングされ（１５６）、変換タイプは、追加の変換と結合されることが許可されない変換を示し、追加の変換の選択はシグナリングされないが、無効にされると推測される（例えば、非ＤＣＴ－ＩＩ変換が適用されることをシグナリングするＭＴＳインデックスが０よりも大きい場合、ＬＦＮＳＴインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、ＬＦＮＳＴを無効にすることに対応する）。

【0126】

２．サブブロック内で最初（最後）の有意係数位置の後、及び係数レベルの前の信号変換タイプ
カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２がシグナリングされ（１００）、全ての係数が許可された変換の特定のサブセットに対して０に等しいことが必要とされるエリアの内側に位置した後、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の外側（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの外側）に位置した後、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、図８に示されるように、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換を包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測される）。この条件は、図１４における両方の簡易化されたシンタックス図に例示される（１６×１６内のＬａｓｔＣｏｅｆｆＰｏｓＹに関する条件を参照）。

【0127】

図１４は、ｍｔｘ＿ｉｄｘによる変換選択に応じて修正済みサブブロック（ＳＢ）スキャニングによる簡易化されたインタックス図を示す。

【0128】

特定のエリア、すなわち、予め定められたサブエリア１０６の外側の全ての係数がゼロに等しいことを必要とする変換がシグナリングされるとき、図３の左側に示され、及び図７に示されるように、このエリア、すなわち、予め定められたサブエリア１０６の内側のサブブロック及び係数のみが、スキャニングパス１１４内にあるという様式においてスキャニング順序を変更する。この条件も、図１４における両方の簡易化されたシンタックス図において例示される（ｍｔｘ＿ｉｄｘ＞０についての条件を参照）。

【0129】

追加の変換、例えば、ＬＦＮＳＴを適用することができるケースでは、変換タイプの後にその選択１２４がシグナリングされ、変換タイプは、追加の変換、例えば、第２の一次専用変換の変換と組み合わされることが許可されない変換を示し、追加の変換の選択はシグナリングされないが、無効にされると推測される（例えば、ＭＴＳインデックスが０よりも大きい場合、非ＤＣＴ－ＩＩ変換がどの信号に適用されるかについて、ＬＦＮＳＴインデックスはシグナリングされず、代わりに０に等しいと推測され、それは、図１４の左側の簡易化されたシンタックス図に例示されるように、ＬＦＮＳＴを無効にすることに対応する）。

【0130】

前のケースに加えて、変換タイプのシグナリングは、図９に示されるように、コンテキスト適応エントロピコーディング２３０、例えば、コンテキスト適応バイナリ算術コーディング（ＣＡＢＡＣ）を使用して行われる。このケースでは、コンテキスト選択は、追加の変換（例えば、ＬＦＮＳＴ）を適用することを許可するか否かの条件に依存する。これは、最初（最後）の有意係数位置１０２から推測される、カレントブロック、すなわち、カレント変換係数ブロック１０４内の数２４０の非ゼロ係数であってもよい。追加の変換をＤＣ係数、すなわち、最後にスキャンされた位置１０１、すなわち、左上（０，０）ゼロ周波数位置に適用することが、同一のＤＣ係数を結果としてもたらす場合、１つのＤＣ係数のみがカレント変換ブロックに存在する場合、すなわち、最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致するケースでは、そのような追加の変換を適用及びシグナリングすることは意味をなさない。よって、最後（最初）の有意位置が、スキャン順序における最初の位置及び最後の位置でもあるＤＣ位置を指し示す場合、追加の変換がシグナリングされる必要がなく、ＭＴＳインデックスについて特定のコンテキストＡ、例えば、第１の確率モデルが選択される。このケースは、図１０の右側に例示される。更に、乗算の回数に関して複雑度を低減させるために、スキャン順序１１０における追加の変換に対し、最初（最後）の有意位置１０２からＤＣ、すなわち、最後にスキャンされた位置１０１まで特定の最大数２４０の係数（例えば、８）が許可されてもよい。このケースは、図１０の左側に例示される。追加の変換を適用することができ、及び／またはインジケーションがシグナリングされる全ての他のケースでは、別のコンテキストＢ、例えば、第２の確率モデルが選択される。要するに、前の実施例に基づいたコンテキスト選択についての条件は、
・カレント変換ブロック１０４がＤＣよりも多くの非ゼロ係数を有し、ＤＣへの最後の有意位置からスキャン順序１１０において８以下の係数が存在する場合、コンテキストＡ、例えば、第２の確率モデル２３６_２を選択し、
・そうでなければ、コンテキストＢを選択する。

【0131】

別の実施例は、条件に応じて２よりも多いコンテキストを有し、
・カレント変換ブロック１０４がＤＣ以下の非ゼロ係数を有する場合、コンテキストＡ、すなわち、第１の確率モデル２３６_１を選択する。
・そうでなければ、最後の有意位置からＤＣへのスキャン順序において８以下の係数が存在する場合、コンテキストＢ、すなわち、第２の確率モデル２３６_２を選択する。
・そうでなければ、コンテキストＣ、すなわち、第３の確率モデル２３６_３を選択する。

【0132】

条件は、複数の変換ブロックにも適用されてもよく、例えば、ルマブロック及び２つのクロマブロックに対し、またはルマ変換ブロックが複数の（例えば、４）変換ブロックに分割されるケースでは１つよりも多いルマブロック対し、ＤＣよりも多い係数が存在する必要がある。

【0133】

図１０は、４個の４×４サブブロック及びスキャン順序における８個の非ゼロ係数の最大値を有する８ｘ８ブロック（左）、またはＤＣ位置において１つの非ゼロ係数のみを有する８ｘ８ブロック（右）を示す。

【0134】

追加の変換（例えば、ＬＦＮＳＴ）を適用することができるケースでは、変換タイプの前にその選択がシグナリングされ、変換タイプは、追加の変換が適用されることを示し、追加の変換結合されることが許可された変換のサブセットのみがシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要なく、変換が推測される（例えば、ＬＦＮＳＴが適用されることをシグナリングするＬＦＮＳＴインデックスが０よりも大きい場合、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１４の右側上の簡易化されたシンタックス図に例示されるように、ＤＣＴ－ＩＩに対応する）。

【0135】

３．実装態様の実施例
図１１ａ及び１１ｂに示された、一次変換Ｔ_ｉ及びＴ_ｉ ^（ｐ）は、
・ＤＣＴ－ＩＩ（または、ＤＣＴ－ＩＩＩ）、ＤＣＴは、離散コサイン変換を表す
・ＤＳＴ－ＩＶ、ＤＳＴは、離散サイン変換を表す
・ＤＣＴ－ＩＶ
・ＤＳＴ－ＶＩＩ
・恒等変換
のうちの１つ以上を含んでもよい。

【0136】

一次変換Ｔ_ｉ及びＴ_ｉ ^（ｐ）は、分離可能変換であってもよい。

【0137】

二次変換Ｔ_ｉ（複数可）は、エンコーダにおいて前方方向において、最後の変換係数ブロック１０４の係数を得るためにサブエリア１０６内の一次変換のＴ_ｉ ^（ｐ）係数に適用される非分離可能変換であってもよく、デコーダは、サンプルブロック８４を取得するよう変換係数ブロック１０４に対して逆変換Ｔ^－１を適用することによって、結果として生じる多段階変換Ｔ_ｉ ^（ｓ）・Ｔ_ｉ ^（ｐ）を反転させる。

【0138】

以下の言及が行われるべきである。順序１１４及び１１０は、最高周波数係数（ＤＣ係数であってもよい最後にスキャンされた位置１０１に対するブロック１０４の反対隅に位置する）からの対角線スキャニング（水平及び垂直の）の示された実施例に限定されず、別のサブブロックに進む前に最初に、サブブロック内の全ての係数をスキャンするサブブロック方式スキャニング処理に従って係数をスキャンする必要はない。更に、サブアレイ１０６は、１６×１６係数の大きさであることに限定されず、最後のスキャニング位置１０１からブロック１０４内の反対の隅まで拡張する係数のいずれかの矩形サブアレイであってもよい。

【0139】

更に、図１１ａは、例示的であるにすぎない。１つよりも多い一次専用変換がセット１３２に包含されてもよい。これは、図１１ｂに表される。多段階変換の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）は、相互に等しくなくてもよいが、その１つ以上がセット１３２の一次専用変換に属することができる、セット１３６において異なる数を有してもよく、またはそうでなくてもよい。

【0140】

更に、図１１ａに例示的に示されるように、Ｔ_１ ^（ｐ）＝…＝Ｔ_Ｎ２ ^（ｐ）＝Ｔ_０のコンステレーションを単に理由として、一次専用変換を示さないケースでは、多段階変換が選択されることを示すとして、または一次専用変換を示さないケースでは、二次変換が選択されることを示すとしてインジケータ１２４を考慮することが可能である。代わりに、インジケータ１２４は、二次変換がなおも利用可能であるかどうかを示すとして解釈されてもよい。

【0141】

一部の態様が装置のコンテキストにおいて説明されてきたが、それらの態様は、ブロックまたはデバイスが方法ステップまたは方法ステップの特徴に対応する、対応する方法の説明をも表すことが明白である。同様に、方法ステップのコンテキストにおいて説明説明された態様は、対応する装置の対応するブロックもしくは項目または特徴の説明をも表す。方法ステップの一部または全ては、例えば、マイクロプロセッサ、プログラマブルコンピュータ、または電子回路のようなハードウェア装置によって（または、使用して）実行されてもよい。いくつかの実施形態では、最も重要な方法ステップのうちの１つ以上は、そのような装置によって実行されてもよい。

【0142】

ビデオ信号などの発明の符号化済み信号は、デジタル記憶媒体に記憶されてもよく、インターネットなどの無線伝送媒体もしくは有線伝送媒体などの伝送媒体上で伝送されてもよい。

【0143】

特定の実施態様の要件に応じて、発明の実施形態は、ハードウェアまたはソフトウェアにおいて実装されてもよい。実施態様は、それぞれの方法が実行されるように、プログラマブルコンピュータシステムと協働する（または、協働することが可能な）、そこに記憶された電子可読制御信号を有する、例えば、デジタル記憶媒体、フロッピーディスク、ＤＶＤ、Ｂｌｕ－Ｒａｙ、ＣＤ、ＲＯＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、またはフラッシュメモリを使用して実行されてもよい。したがって、デジタル記憶媒体は、コンピュータ可読であってもよい。

【0144】

発明に従ったいくつかの実施形態は、本明細書で説明される方法の１つが実行されるように、プログラマブルコンピュータシステムと協働することが可能な、電子的可読制御信号を有するデータキャリアを含む。

【0145】

概して、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実装されてもよく、プログラムコードは、コンピュータプログラム製品がコンピュータ上で稼働するとき、方法の１つを実行するように動作可能である。プログラムコードは、例えば、機械可読キャリアに記憶されてもよい。

【0146】

他の実施形態は、機械可読キャリアに記憶された、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを含む。

【0147】

言い換えると、発明の方法の実施形態はしたがって、コンピュータプログラムがコンピュータ上で稼働するとき、本明細書で説明される方法の１つを実行するためのプログラムコードを有するコンピュータプログラムである。

【0148】

発明の方法の更なる実施形態はしたがって、本明細書で説明される方法の１つを実行するための、そこに記録されたコンピュータプログラムを含むデータキャリア（または、デジタル記憶媒体またはコンピュータ可読媒体）である。データキャリア、デジタル記憶媒体、または記録された媒体は典型的には、有形及び／または非一時的である。

【0149】

発明の方法の更なる実施形態はしたがって、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを表すデータストリームまたは信号のシーケンスである。データストリームまたは信号のシーケンスは、データ通信接続を介して、例えば、インターネットを介して転送されるように構成されてもよい。

【0150】

更なる実施形態は、本明細書で説明される方法の１つを実行するように構成され、または実行するように適合された処理手段、例えば、コンピュータまたはプログラマブル論理デバイスを含む。

【0151】

更なる実施形態は、本明細書で説明される方法の１つを実行するためのコンピュータプログラムをそこにインストールしたコンピュータを含む。

【0152】

発明に従った更なる実施形態は、受信機に、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを転送するように構成された（例えば、電子的にまたは光学的に）装置またはシステムを含む。受信機は、コンピュータ、モバイルデバイス、またはメモリデバイスなどであってもよい。装置またはシステムは、例えば、受信機にコンピュータプログラムを転送するためのファイルサーバを含んでもよい。

【0153】

いくつかの実施形態では、本明細書で説明される方法の機能性の一部または全てを実行するために、プログラマブル論理デバイス（例えば、フィールドプログラマブルゲートアレイ）が使用されてもよい。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書で説明される方法の１つを実行するために、マイクロプロセッサを協働してもよい。概して、方法は好ましくは、いずれかのハードウェア装置によって実行される。

【0154】

本明細書で説明される装置は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実装されてもよい。

【0155】

本明細書で説明される装置、または本明細書で説明される装置の構成要素は、ハードウェア及び／またはソフトウェアにおいて少なくとも部分的に実装されてもよい。

【0156】

本明細書で説明される方法は、ハードウェア装置を使用して、またはコンピュータタを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実行されてもよい。

【0157】

本明細書で説明される方法、または本明細書で説明される装置の構成要素は、ハードウェア及び／またはソフトウェアにおいて少なくとも部分的に実装されてもよい。

【0158】

上記説明された実施形態は、本発明の原理について例示するにすぎない。本明細書で説明される配列及び詳細の修正及び変形が当業者にとって明らかであることが理解されよう。したがって、係属している特許請求の範囲によってのみ限定され、本明細書における実施形態の記載及び説明によって提示された特定の詳細によっては限定されないことを意図している。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11a】

【図11b】

【図12】

【図13】

【図14】

【手続補正書】

【提出日】2022-08-22

【手続補正1】

【補正対象書類名】明細書

【補正対象項目名】全文

【補正方法】変更

【補正の内容】

【発明の詳細な説明】

【技術分野】

【0001】

本発明に従った実施形態は、データストリームからサンプルブロックの変換済み表現を復号するデコーダ、サンプルブロックの変換済み表現をデータストリームに符号化するエンコーダ、対応する方法、コンピュータ上で稼働するとき、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法を実行するプログラムコードを有するコンピュータプログラム、及びデータストリームに関連する。

【0002】

導入
ＡＶＣ及びＨＥＶＣなどのハイブリッドビデオ圧縮スキームは、予測残差の変換、変換係数の量子化、及び量子化インデックスのエントロピコーディングがそれに続く、ブロックに基づく予測に依存する。後者は、変換係数コーディングまたは残差コーディングとも称される。以下の説明は、実用的なハイブリッドビデオ圧縮スキームにおいて実装されるように、変換の整数近似についても変換という用語を使用する。

【0003】

従来から、固定された変換は、潜在的なブロックサイズＮ×Ｎごとにビデオコーディング標準規格において規定されている。例えば、ＨＥＶＣ標準規格は、それに対してＤＳＴ ＶＩが使用される、イントラピクチャ予測済み４×４ブロックを除き、ＤＣＴ－ＩＩの使用を規定する。複数の予め定義された変換タイプの間での選択を有効にすることによって、より高い圧縮効率を達成することができる。Ｖｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＶＶＣ）についての現在のドラフトは、５つの異なる水平及び垂直の垂直変換タイプ結合のセット（ＤＣＴ－ＩＩ、ＤＳＴ－ＶＩＩ、及びＤＣＴ－ＶＩＩＩを含む）を規定する。ビットストリームは、エンコーダによって選択された変換タイプがそれによってデコーダにシグナリングされるシンタックスを含む。変換係数レベルのコーディングは、選択された変換タイプとは独立しており、選択された変換タイプの前にシグナリングされる。複雑であることを理由に、１６個以下の非ゼロ係数を包含する行及び列のみに非ＤＣＴ－ＩＩ変換タイプが適用される。このケースでは、変換されることになるブロック（変換ブロック）は、１６よりも大きい幅及び高さを有することがあるが、左上の１６×１６エリアの外側の全ての係数がゼロであることが必要とされる。更に、１６×１６よりも大きい完全変換ブロックに変換が適用され、その結果、残差サンプルの結果として生じるブロックも、１６×１６よりも大きい。変換の実装ロジックを低減させるこの様式は、ゼロアウトと更に称される。

【0004】

更に、現在のＶＶＣドラフトは、エンコーダにおける変換、及び逆変換の前のデコーダにおけるその逆の後に適用することができる、追加の低周波数非分離可能変換（ＬＦＮＳＴ）を規定する。このＬＦＮＳＴについて、複数の変換カーネルがエンコーダにおいて選択されることがあり、ＬＦＮＳＴインデックスを使用してデコーダにシグナリングされることがある。複雑であることを理由に、現在のＶＶＣにおいて、ＬＦＮＳＴのみがＤＣＴ－ＩＩと組み合わされ得る。

【背景技術】

【0005】

ＶＶＣ発展を含む、現在の最新のビデオコーディング技術は、複数の予め定義された変換タイプの１つをシグナリングする手段を規定する。選択された変換を示すシンタックス、例えば、複数の変換選択（ＭＴＳ）インデックスの前に変換係数レベルがコーディングされる。

【0006】

サブブロックまたは係数グループにおいて変換係数レベルがコーディングされる。１つのスキャンパターンを使用してサブブロックが処理され、なおもスキャンパターンを使用してサブブロックの内側の係数が処理される。現在のＶＶＣドラフト７にあるように、両方のスキャンパターンは、後方／逆対角線スキャンであることがある。しかしながら、他のスキャンパターン及び方向も採用され得る。図１は、６４個の４×４サブブロック１１７に細分割された、３２×３２変換ブロック１０４の例を例示する。この例では、サブブロック１１７は、逆対角線スキャン１１５で、すなわち、右下隅１０３から左上隅１０１まで処理される。図１は、３２×３２変換ブロック１０４の内側の４×４サブブロック１１７の後方／逆対角線スキャニングを示す。ＤＣＴに基づく変換は、左上隅１０１においてエネルギーを集中させる傾向があり、よって、量子化済み係数値は、量子化の後に、ブロック、すなわち、変換ブロック１０４の右下隅１０３においてゼロになる傾向がある。スキャン順序１１５において最初の非ゼロ係数１０２の前のゼロのシーケンスをコーディング及び復号することを防止するために、（逆）スキャン順序１１５における最初の（最後の）非ゼロまたは有意係数１０２は、サブブロックを処理する前にシグナリングされる。この最初の有意係数、すなわち、最初の非ゼロ１０２を包含するサブブロック１１７のみが分かるので、図１の右側に示されるように、スキャン順序１１５における全ての後続のサブブロック１１７が処理される。

【0007】

例えば、１つの方向において３２個の係数によるより長い変換は、実装においてより多くのロジック及びメモリを必要とする。前に既に言及されたように、これは、現在のＶＶＣドラフトにおけるゼロアウト設計を動機付けてきた。この設計では、全ての変換タイプが、各方向における３２個の係数に適用されることがあるが、非ＤＣＴ－ＩＩについて、各方向における最後の１６個の係数が０に等しいことが必要とされる。図２は、最初の１６×１６係数のみが非ゼロであり得る３２×３２変換ブロック１０４に対して変換を適用することによって、再構築済み残差サンプルの３２×３２ブロック、例えば、サンプルブロック８４が生成される、この処理を例示する。図２は、逆変換４０／５４の前の３２×３２変換ブロック１０４の変換係数レベルゼロアウトを示す。

【0008】

変換が選択された情報、例えば、ＭＴＳインデックスは、変換係数の後にシグナリングされる。結果として、最初のまたは最後の有意係数１０２の位置が既知である。この係数が１６×１６非ゼロエリア、すなわち、予め定められたサブエリア１０６の外側であるとき、このケースでは許可された変換がＤＣＴ－ＩＩのみであることを理由に、変換選択をシグナリングする必要がない。しかしながら、現在の設計では、１６×１６エリアの外側の全ての係数がゼロに等しいことを保証することができない。これは、図３における右側の例に見ることができ、そこでは、最後の位置、すなわち、最初または最後にコーディングされた係数位置１０２が１６×１６非ゼロエリアの内側に位置するが、スキャンパターン１１０における後続のサブブロックは、このエリアの外側である。それらの非ゼロ係数が存在するケースでは、エンコーダ制約は、例えば、０に等しいＭＴＳインデックスを常にシグナリングすることによって、シグナリングされた変換がＤＣＴ－ＩＩであることを保証する必要がある。ＤＣＴ－ＩＩが明確にシグナリングされるが、常に０であることが必要とされることを理由に、これは、シグナリングオーバヘッドを生じさせる。以下では、非ゼロ要件は、全ての非ゼロ変換係数が非ゼロエリア、すなわち、予め定められたサブエリア１０６の内側に位置すること、及び非ゼロエリアの外側の全ての変換係数がゼロである必要があることを定義することがある。以下では、この態様に対処するための２つのアプローチが説明される。図３は、発明の実施形態に従った、ゼロアウトのためのサブブロックの修正された対角線スキャニング１１０を左側に示す。

【0009】

複数の変換選択が上述したＬＦＮＳＴなどの追加の変換と結合されるとき、実装ロジックを低減させるために、結合も制約されることがある。最新のＶＶＣドラフトでは、例えば、ＬＦＳＮＴのみがＤＣＴ－ＩＩと組み合わされ得、ＬＦＮＳＴが適用されるかどうか、及び適用される場合、どのカーネルに適用されるかを示すＬＦＮＳＴインデックスは、ＭＴＳインデックスの前にシグナリングされる。ＬＦＮＳＴインデックスがＬＦＮＳＴカーネルの使用を示すとき、ＭＴＳインデックスはシグナリングされず、０に等しい、すなわち、ＤＣＴ－ＩＩであると推測される。簡易化されたシンタックス図が図１３の左側に例示される。

【0010】

したがって、ピクチャのブロックについての複数の予め定義された変換タイプの間の選択をサポートする、より効率的にピクチャコーディング及び／またはビデオコーディングをレンダリングするコンセプトを提供することが望ましい。加えて、または代わりに、ビットストリーム、よってシグナル伝達コストを低減させ、例えば、シグナリングオーバヘッドを低減させることが望ましい。

【0011】

これは、本出願の独立請求項の主題によって達成される。

【0012】

発明に従った更なる実施形態は、本出願の従属請求項の主題によって定義される。

【発明の概要】

【0013】

本発明の第１の態様に従って、本出願の発明者は、一部の変換について、例えば、非ＤＣＴ－ＩＩ変換のような変換の第２のセット内の変換について、変換係数ブロックの非ゼロ係数のみが変換係数ブロックの予め定められたサブエリア内で許可され／位置することが必要とされることの事実から起こる、ピクチャのブロックについての変換の選択を有効にすることを試みるときに１つの問題に直面することを認識している。変換係数ブロックの予め定められたサブエリアの内側の最初にコーディングされた係数位置、すなわち、最初の非ゼロ係数の位置に応じて、予め定められたサブエリアの外側のゼロ係数が係数スキャン順序に従って復号／符号化されることが可能である。変換係数は、最初にコーディングされた係数位置から最後のスキャニング位置、例えば、左上隅内の係数、すなわち、ＤＣ係数の方への係数スキャン順序、または変換係数ブロックの左上隅にある係数から最初にコーディングされた係数位置の方への係数スキャン順序に従ってスキャンされてもよく、それは、この後者のケースでは最後にコーディングされた係数位置として理解することができる。本出願の第１の態様に従って、ゼロ係数を復号／符号化するこの課題は、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内の変換と関連付けられた変換係数ブロックに対して、利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内の変換と関連付けられた変換係数ブロックについての異なるスキャン順序を使用して克服される。変換係数ブロックが１つ以上の利用可能な変換の第１のセット内の変換と関連付けられるケースでは、変換係数ブロックは、変換係数ブロックの予め定められたサブエリアの外側の非ゼロ係数を含み、変換係数ブロックが１つ以上の利用可能な変換の第２のセット内の変換と関連付けられるケースでは、変換係数ブロックは、変換係数ブロックの予め定められたサブエリアの内側のみの非ゼロ係数を含む。発明者は、それぞれの変換係数ブロックの下層の変換に応じた異なる係数スキャン順序を使用することが、コーディング効率を改善し、シグナリングオーバヘッドを低減させることに関して有利であることを発見した。これは、全ての非ゼロ係数が変換係数ブロックの予め定められたサブエリアの内側に位置するか否かを変換が示すことができ、それによって、選択されたスキャン順序に従って非ゼロ変換係数のみが復号／符号化されるように、スキャン順序を選択することができるという着想に基づいている。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値が復号／符号化され、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測する。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値が復号／符号化され、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測する。よって、スキャンするのに必要な変換係数が少ないことがあるので、ゼロ係数を復号／符号化することを防止することができ、コーディング効率を改善する。

【0014】

したがって、本出願の第１の態様に従って、データストリームから／にサンプルブロックの変換済み表現を復号／符号化するデコーダ／エンコーダは、データストリームから／に係数位置情報を復号／符号化するように構成される。係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す。最初にコーディングされた係数位置は、係数スキャン順序における最初の非ゼロ変換係数の位置または逆係数スキャン順序における最後の非ゼロ変換係数位置のいずれかを示してもよい。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査するように構成される。予め定められたサブエリアは、変換係数ブロックのサブエリアを定義してもよく、サブエリアの内側で、サブエリア変換係数は、非ゼロであり得、サブエリアの外側で、全ての変換係数が特定の変換に対してゼロである必要がある。実施形態に従って、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内にあるケースでは、変換係数ブロックは、予め定められたサブエリアの外側の非ゼロ変換係数を含んでもよく、変換係数ブロックの下層の変換が利用可能な変換セットの１つ以上の利用可能な変換の第２のセット内にあるケースでは、予め定められたサブエリアの外側の変換係数はゼロである。予め定められたサブエリアは、１６×１６変換係数から構成されてもよい。予め定められたサブエリアは、変換係数ブロックの左上に位置してもよい。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの内側に位置する場合、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセットまたは利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内に位置するかどうかが検査される。デコーダは、データストリームにおいて伝送された変換情報を使用して、この検査を実行するように構成される。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、デコーダ／エンコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第１のセット内にある場合、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、デコーダ／エンコーダは、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数はゼロである。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。第２の係数スキャン順序は、予め定められたサブエリア内の変換係数の間の予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、予め定められたサブエリア内の変換係数をスキャンし、第１の係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の第１の係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0015】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置する場合、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を決定するように構成される。デコーダ／エンコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化するように構成され、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。デコーダは、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。よって、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置するケースでは、デコーダが変換係数ブロックの下層の変換を推測することが可能であり、エンコーダがデータストリームに変換係数ブロックに関連する変換情報を符号化する必要がなく、それによって、ビットストリームを低減させることができ、高コーディング効率を達成することができる。

【0016】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデル、例えば、特定の、例えば、ＬＰＳ（最小確率シンボル）についての推測された確率、特定のコンテキストについて更新されるようなバイナリ値を使用した、コンテキスト適応エントロピ復号／符号化、例えば、コンテキスト適応バイナリ算術コーディングを使用して、データストリームから／に変換情報を復号／符号化するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、例えば、継続的に更新されたコンテキストを判定することを介して、予め定められた確率モデルを決定するように構成されてもよい。

【0017】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデル、例えば、第１のコンテキストに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデル、例えば、第２のコンテキストに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデル、例えば、第３のコンテキストに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。言い換えると、その予め定められた数まで、両方のスキャンが同一であり、または更に言い換えると、両方のスキャンが最後にスキャンされた位置において終了し、最後にスキャンされた位置の上流の予め定められた数の係数において等しい。言い換えると、その予め定められた数まで最後にスキャンされた位置の上流で、両方のスキャンが同一である。変換係数ブロックが１つの非ゼロ変換係数のみを含む場合、予め定められた確率モデルは第１の確率モデルに設定されてもよい。この単一の非ゼロ変換係数は、最初にコーディングされた係数位置に位置する。

【0018】

別の実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0019】

実施形態に従って、利用可能な変換のセットは、予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された１つ以上の多段階変換を含む。言い換えると、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットは、１つ以上の多段階変換を含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に二次変換インジケータを復号／符号化し、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、すなわち、１つ以上の利用可能な変換の第２のセット内にあるかどうか、及び１つ以上の多段階変換からのどの１つが一次専用変換であるか、または変換係数ブロックの下層の変換が一次専用変換であるかどうかを示す。変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示す場合、デコーダ／エンコーダは、例えば、一次専用変換のセットから一次専用変換を識別する変換インジケータをデータストリームから／に復号／符号化するように構成される。二次変換インジケータが一次変換及び二次変換を既に示すので、変換係数ブロックの下層の変換が多段階変換であるケースでは、二次変換インジケータのみがデータストリームから／に復号／符号化される必要がある。よって、変換係数ブロックの下層の変換が多段階変換でないケースのみで、追加の変換インジケータが必要であるので、高コーディング効率を達成することができる。

【0020】

実施形態に従って、利用可能な変換のセットは、予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された１つ以上の多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に二次変換インジケータを復号／符号化するように構成される。二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、そうである場合、多段階変換の二次変換であるかどうか、または変換係数ブロックの下層の変換が一次専用変換であるかどうかを示す。言い換えると、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換または一次専用変換であるかどうかを示す。デコーダ／エンコーダは、変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示すケースでは、一次専用変換のセットから一次専用変換を識別し、変換係数ブロックの下層の変換が多段階変換であること二次変換インジケータが示すケースでは、１つ以上の多段階変換のセットが相互に異なる一次変換を有する１つよりも多い多段階変換を含む場合、多段階変換の一次変換を識別する、一次変換インジケータをデータストリームから／に復号／符号化するように構成される。よって、特に、多段階変換に関して変換係数ブロックの下層の変換の選択における高い変動性及び柔軟性を達成することができ、高コーディング効率を結果としてもたらす。全ての多段階変換が同一の一次変換と関連付けられ、すなわち、多段階変換が相互に異なる一次変換を有さないケースでは、一次変換インジケータを復号／符号化する必要がない。

【0021】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、２つ以上の多段階変換のセットを含む。１つ以上の利用可能な変換の第２のセットは、全ての多段階変換を含んでもよい。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、例えば、ＤＣＴ－ＩＩ変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換、例えば、非ＤＣＴ－ＩＩ変換を含む、一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に一次変換インジケータを復号／符号化するように構成され、一次変換インジケータは、第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセット、例えば、一次専用変換のセットからの第１の変換を示す。第１の変換が第１の一次専用変換である場合、デコーダ／エンコーダは、第１の一次専用変換及び多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化するように構成され、変換係数ブロックの下層の変換は、第１の変換が１つ以上の第２の一次専用変換の１つであるケースでは、１つの第２の一次専用変換である。言い換えると、第１の変換が１つ以上の第２の一次専用変換からの１つであることを一次変換インジケータが示す場合、変換係数ブロックの下層の変換は、示された第２の一次専用変換であり、第１の変換が第１の一次専用変換であることを一次変換インジケータが示す場合、変換係数ブロックの下層の変換は、二次変換インジケータに応じて、第１の一次専用変換、または第１の一次専用変換及び二次変換の連結に対応する多段階変換のいずれかである。後者のケースでは、二次変換インジケータは、変換係数ブロックの下層の変換を直接示す／指し示すことができる。よって非常に効率的にデータストリームにおいて変換係数ブロックの下層の変換を選択し、及び示すことができ、高コーディング効率を結果としてもたらす。

【0022】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む、一次専用変換のセットを含む。デコーダ／エンコーダは、データストリームから／に一次変換インジケータを復号／符号化するように構成される。一次変換インジケータは、１つ以上の第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセットから、例えば、一次専用変換のセットからの第１の変換を示す。第１の変換が、多段階変換のうちの１つ以上の一次変換に等しい第１の一次専用変換である場合、デコーダ／エンコーダは、第１の一次専用変換及びその一次変換が第１の一次専用変換に等しい１つ以上の多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化する。特殊の一次変換インジケータ及び二次変換インジケータは、高コーディング効率を結果としてもたらし、とりわけ、異なる第１の一次専用変換の間、及び変換係数ブロックの下層の変換の選択のための異なる一次変換による異なる多段階変換の間の良好な選択を可能にする。そのような選択を可能にすることによって、高圧縮効率を達成することが可能である。

【0023】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリームから／への一次変換インジケータの復号／符号化を実行するように構成される。デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定するように構成される。

【0024】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0025】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、第１の係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定するように構成される。第１の係数スキャン順序及び第２の係数スキャン順序は、最後にスキャンされた位置及び最後にスキャンされた位置の上流の予め定められた数の変換係数において一致する。

【0026】

実施形態に従って、一次変換は、１つ以上の多段階変換の全てに対して等しく、１つ以上の第１の一次専用変換の１つにも等しい。

【0027】

実施形態に従って、１つの第１の一次専用変換のみが存在する。

【0028】

実施形態に従って、エンコーダは、変換係数ブロックを取得するように、変換係数ブロックの下層の変換をサンプルブロックに受けさせるように構成される。

【0029】

実施形態に従って、デコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成される。実施形態に従って、エンコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成されたフィードバックループを含む。

【0030】

実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表す、例えば、量子化を含むサンプルブロックを決定するように構成される。

【0031】

実施形態に従って、デコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成される。実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成されたフィードバックループを含む。

【0032】

本発明の第２の態様に従って、本出願の発明者は、非ＤＣＴ－ＩＩ変換のような一部の変換について、変換係数ブロックの非ゼロ係数のみが変換係数ブロックの予め定められたサブエリア内で許可されることが必要とされることの事実から起こる、ピクチャのブロックについての変換の選択を有効にすることを試みるときに１つの問題に直面することを認識している。現在では、上記説明された非ゼロ要件も選択することができる変換であるとき、変換係数ブロックの下層の変換を示すようシグナリングオーバヘッドが生じる。本出願の第２の態様に従って、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査することによって、この課題が克服される。発明者は、最初にコーディングされた係数位置が予め定められたサブエリアの内側に位置する場合でさえ、予め定められたサブエリアの外側の予め定められたスキャン順序に従って非ゼロ変換係数が位置すること可能性がなおもあるので、非ゼロ変換係数が予め定められたサブエリアの外側に位置するかどうかを検査することが有利であることを発見した。これは、検査によって変換係数ブロックの下層の変換が上記説明された非ゼロ要件による変換であるか否かを自動で識別することが可能になるという着想に基づいている。よって、変換係数ブロックごとに、全ての利用可能な変換のセットからそれぞれの変換係数ブロックの下層の変換を選択する必要はない。代わりに、この特徴により、全ての利用可能な変換のセットを関連する変換まで低減させることが可能であり、それによって、高コーディング効率を達成することができる。更に、追加のシンタックス要素によって、変換係数ブロックの下層の変換が非ゼロ要件による変換からの１つであり、または非ゼロ要件を有さない変換からの１つであるかどうかを示す必要はないので、高圧縮を達成することができる。

【0033】

したがって、本出願の第２の態様に従って、データストリームから／にサンプルブロックの変換済み表現を復号／符号化するデコーダ／エンコーダは、データストリームから／に係数位置情報を復号／符号化するように構成される。係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す。最初にコーディングされた係数位置は、係数スキャン順序における最初の非ゼロ変換係数の位置または逆係数スキャン順序における最後の非ゼロ変換係数の位置のいずれかを示してもよい。更に、デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化し、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測するように構成される。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数は、非ゼロである値を有する変換係数のみ、またはゼロである値を有する変換係数及び非ゼロである値を有する変換係数のいずれかを含んでもよい。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査するように構成される。予め定められたサブエリアは、変換係数ブロックのサブエリアを定義してもよく、サブエリアの内側で、変換係数が非ゼロであってもよく、サブエリアの外側で、全ての変換係数が特定の変換についてゼロである必要がある。実施形態に従って、変換係数ブロックは、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセット内にあるケースでは、予め定められたサブエリアの外側の非ゼロ変換係数を含んでもよく、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内にあるケースでは、予め定められたサブエリアの外側の変換係数はゼロである。予め定められたサブエリアは、１６×１６変換係数から構成されてもよい。予め定められたサブエリアは、変換係数ブロックの左上に位置してもよい。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、デコーダ／エンコーダは、データストリームから／に変換情報を復号／符号化し、変換情報を使用して、利用可能な変換のセットから、例えば、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットから変換係数ブロックの下層の変換を識別するように構成される。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、デコーダ／エンコーダは、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を決定する、ように構成される。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。予め定められた係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の予め定められた係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0034】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査し、変換係数ブロックの予め定められたサブエリアの外側に位置し、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する全ての変換係数がゼロであるかどうかを検査するように構成される。後者の検査は、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置する場合に任意選択で実行されるにすぎない。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの外側に位置するケースでは、デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでないと推測するように構成される。

【0035】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置する場合、デコーダ／エンコーダは、第１の態様に従ったデコーダ／エンコーダに関して説明されたような特徴及び／または機能性を含んでもよい。

【0036】

実施形態に従って、デコーダ／エンコーダは、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号／符号化を使用して、データストリームから／への変換情報の復号／符号化を実行し、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定するように構成される。

【0037】

実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。

【0038】

別の実施形態に従って、デコーダ／エンコーダは、最初にコーディングされた係数位置が変換係数ブロック内に位置する場所に応じて、予め定められた確率モデルを決定する際、最初にコーディングされた係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の変換係数以下である場合、または最後にスキャンされた位置と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、最初にコーディングされた変換係数位置が、予め定められた係数スキャン順序に従って、最後にスキャンされた位置から離れて予め定められた数の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定するように構成される。

【0039】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、多段階変換のセットを含む。言い換えると、利用可能な変換のセットの１つ以上の利用可能な変換の第２のセットは、２つ以上の多段階変換を含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、
データストリームから／に二次変換インジケータを復号／符号化し、二次変換インジケータは、変換係数ブロックの下層の変換が多段階変換であるかどうか、及び１つ以上の多段階変換からのどの１つが一次専用変換であるか、または変換係数ブロックの下層の変換が一次専用変換であるかどうか、すなわち、同一のものが一次専用変換のセットにまたは多段階変換のセットに属するかどうかを示し、
変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示すかどうかを検査する、ように構成される。変換係数ブロックの下層の変換が一次専用変換であることを二次変換インジケータが示す場合、デコーダ／エンコーダは、例えば、一次専用変換のセットから一次専用変換を識別する変換インジケータをデータストリーム／からに復号／符号化するように構成される。
予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換である。この実施形態により、変換係数ブロックが予め定められたサブエリアの外側の非ゼロ変換係数を含む場合、変換係数ブロックの下層の変換が第１の一次専用変換であることを推測することが可能である。よって、そのような変換係数ブロックについて、データストリームは、変換情報を含む必要がなく、それによって、高圧縮を達成することができる。更に、二次変換インジケータを使用して、変換係数ブロックの下層の変換として多段階変換を明示的に示すことが可能であり、二次変換インジケータに加えて一次変換インジケータを使用することによって、変換係数ブロックの下層の変換として一次専用変換を明確に示すことが可能である。この特殊な変換選択により、予め定められたサブエリアの内側の全ての非ゼロ変換係数を有するブロックに対して変換係数ブロックの下層の変換として第１の一次専用変換をも示すことが可能であり、それによって、良好な変換の選択をもたらし、高圧縮を達成することに留意されたい。

【0040】

実施形態に従って、利用可能な変換のセットは、各々が予め定められたサブエリア内の一次変換及び二次変換の連結に対応し、予め定められたサブエリアの外側の一次変換から構成され、１つ以上の利用可能な変換の第２のセットに包含された多段階変換、例えば、多段階変換のセットを含む。加えて、利用可能な変換のセットは、１つ以上の利用可能な変換の第１のセットが構成するものからであり、１つ以上の多段階変換の全てについての一次変換が等しい第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセットに包含された１つ以上の第２の一次専用変換を含む一次専用変換のセットを含む。デコーダ／エンコーダは、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、
データストリームから／に一次変換インジケータを復号／符号化し、一次変換インジケータは、第１の一次専用変換及び１つ以上の第２の一次専用変換を含むセット、例えば、一次専用変換のセットからの第１の変換を示し、
第１の変換が第１の一次専用変換である場合、第１の一次専用変換及び多段階変換を含むセットから変換係数ブロックの下層の変換を識別する二次変換インジケータをデータストリームから／に復号／符号化するように構成され、
第１の変換が１つ以上の第２の一次専用変換の１つであるケースでは、変換係数ブロックの下層の変換は、１つの第２の一次専用変換である。
予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリアに位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換である。

【0041】

実施形態に従って、一次変換は、１つ以上の多段階変換の全てに対して等しく、１つ以上の第１の一次専用変換の１つにも等しい。

【0042】

実施形態に従って、１つの第１の一次専用変換のみが存在する。

【0043】

実施形態に従って、エンコーダは、変換係数ブロックを取得するように、変換係数ブロックの下層の変換をサンプルブロックに受けさせるように構成される。

【0044】

実施形態に従って、デコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成される。実施形態に従って、エンコーダは、サンプルブロックを取得するように、変換係数ブロックの下層の変換を反転させる逆変換を変換係数ブロックに受けさせるように構成されたフィードバックループを含む。

【0045】

実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表す、例えば、量子化を含むサンプルブロックを決定するように構成される。

【0046】

実施形態に従って、デコーダ／エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成される。実施形態に従って、エンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するためにサンプルブロックを使用するように構成されたフィードバックループを含む。

【0047】

実施形態は、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法であって、データストリームから／に係数位置情報を復号／符号化することを含み、係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す、方法に関連する。方法は、最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリア内に位置するかどうかを検査することを含む。最初にコーディングされた係数位置が変換係数ブロックの予め定められたサブエリアの内側に位置する場合、方法は、変換係数ブロックの下層の変換が利用可能な変換のセットの１つ以上の利用可能な変換の第１のセットまたは利用可能な変換のセットの１つ以上の利用可能な変換の第２のセット内にあるかどうかを検査することを含む。復号する方法は、データストリームにおいて送信された変換情報を使用して、検査を実行してもよい。変換係数ブロックの下層の変換が、１つ以上の利用可能な変換の第１のセット内にある場合、方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。変換係数ブロックの下層の変換が１つ以上の利用可能な変換の第２のセット内にある場合、方法は、予め定められたサブエリア内に位置し、第２の係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、第１の係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数及び予め定められたサブエリアの外側に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。第２の係数スキャン順序は、予め定められたサブエリア内の変換係数の間の予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、予め定められたサブエリア内の変換係数をスキャンし、第１の係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の第１の係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0048】

実施形態は、データストリームから／にサンプルブロックの変換済み表現を復号／符号化する方法であって、データストリームから／に係数位置情報を復号／符号化することを含み、係数位置情報は、変換係数ブロック内の最初にコーディングされた係数位置を示す、方法に関連する。方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの変換係数の値を復号／符号化することを含み、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数はゼロである。復号する方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置の上流に位置する変換係数ブロックの変換係数がゼロであると推測することを含む。更に、方法は、予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロであるかどうかを検査することを含む。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロである場合、方法は、データストリームから／に変換情報を復号／符号化し、利用可能な変換のセットから変換係数ブロックの下層の変換を識別することを含む。復号する方法は、変換情報を使用して識別を実行してもよい。予め定められた係数スキャン順序に従って、最初にコーディングされた係数位置から最後にスキャンされた位置の方に位置する変換係数ブロックの全ての変換係数が、変換係数ブロックの予め定められたサブエリア内に位置しない場合にゼロでない場合、方法は、利用可能な変換のセットから、１つ以上の利用可能な変換の第２のセットを取り除くことによって、利用可能な変換のセットを１つ以上の利用可能な変換の第１のセットまで低減させ、１つ以上の利用可能な変換の第１のセットから変換係数ブロックの下層の変換を決定することを含む。変換係数ブロックに従った変換係数ブロックの下層の変換は、変換済み表現を定義する。予め定められた係数スキャン順序は、予め定められたサブエリアの内側に位置する２つの変換係数の間の予め定められた係数スキャン順序によってスキャンされた予め定められたサブエリアの外側に１つ以上の変換係数が存在するような方式において変換係数をスキャンする。

【0049】

上記説明された方法は、上記説明されたエンコーダ／デコーダと同一の考慮事項に基づいている。ところで、方法は、エンコーダ／デコーダに関して説明された、全ての特徴及び機能性により完了することができる。

【0050】

実施形態は、符号化する本明細書で説明された方法を使用してそれに符号化されたピクチャまたはビデオを有するデータストリームに関連する。

【0051】

実施形態は、コンピュータ上で稼働するとき、本明細書で説明された方法を実行するためのプログラムコードを有するコンピュータプログラムに関連する。

【0052】

図面は必ずしも同一縮尺ではなく、代わりに、発明の原理を例示することに全体的に重点が置かれる。以下の説明では、発明の様々な実施形態が以下の図面を参照して説明される。

【図面の簡単な説明】

【0053】

【図1】６４個の４×４サブブロックに細分割された３２×３２変換ブロックの例を示す。

【図2】最初の１６×１６係数のみが非ゼロであることができる、３２×３２ブロックの再構築を示す。

【図3】現在の設計に従った、変換ブロックの修正されていないスキャン、及び実施形態に従った、変換ブロックの修正されたスキャンを示す。

【図4】ピクチャまたはビデオを予測的に符号化する装置を示す。

【図5】ピクチャまたはビデオを予測的に復号する装置を示す。

【図6】再構築済み信号と予測残差信号及び予測信号の結合との間の関係を示す。

【図7】実施形態に従った、スキャン順序を変更することが可能なデコーダを示す。

【図8】実施形態に従った、最初にコーディングされた係数位置が予め定められたサブエリアの外側に位置するケースにおける変換係数ブロックの下層の変換の選択を示す。

【図9】実施形態に従った、変換情報のＣＡＢＡＣコーディングを示す。

【図10】実施形態に従った、異なる数の非ゼロ変換係数を有する変換係数ブロックを示す。

【図11a】第１の実施形態に従った、利用可能な変換のセットを示す。

【図11b】第２の実施形態に従った、利用可能な変換のセットを示す。

【図12】実施形態に従った、予め定められたサブエリアの外側の変換係数がゼロであるかどうかを検査するデコーダを示す。

【図13】第１の簡易化されたシンタックス図を示す。

【図14】第２の簡易化されたシンタックス図を示す。

【発明を実施するための形態】

【0054】

等しいもしくは同等の要素、または等しいもしくは同等の機能性を有する要素は、異なる図において現れる場合でさえ、等しいまたは同等の参照符号によって以下の説明において表される。

【0055】

以下の説明では、本発明の実施形態のより完全な説明をもたらすために、複数の詳細が示される。しかしながら、それらの特定の詳細なしに本発明の実施形態が実施されてもよいことが当業者にとって明らかである。他のインスタンスでは、本発明の実施形態を曖昧にすることを回避するために、公知の構造及びデバイスが、詳細でないブロック図の形式に示される。加えて、他に特に述べられない限り、後に本明細書で説明される異なる実施形態の特徴は、相互に組み合わされてもよい。

【0056】

更に、本明細書で、非ゼロ変換係数は、非ゼロ値を有する変換係数を定義し、ゼロ変換係数は、ゼロ値を有する変換係数を定義することに留意されよう。

【0057】

以下では、係数レベルコーディングゼロアウトのための変換タイプシグナリングを使用することによってより効果的な圧縮を達成することを支援することができる様々な実施例が説明される。本明細書で提示される実施形態は、シグナリングオーバヘッドを低減させ、ハイブリッドビデオ圧縮用途に対する符号化／復号ロジックを簡易化することの目的により、特定の変換タイプの選択に応じてブロック内で非ゼロであることができるコーディング済み変換係数のエリアを制約するシグナリングコンセプトを説明する。

【0058】

本出願の以下の実施形態の理解を容易にするために、説明は、サンプルブロックの変換済み表現をコーディング及び復号する実施形態をそれに組み込むことができるコーディングフレームワークについての実施例を形成するために、ビデオのコーディングピクチャについてのブロックに基づく予測的コーデックのビデオエンコーダ及びビデオデコーダの説明の提示により開始する。ビデオエンコーダ及びビデオデコーダは、図４～６に関して説明される。本出願の本明細書で説明される実施形態は、図４及び５のそれぞれのビデオエンコーダ及びデコーダに容易に組み込まれてもよいが、本出願の実施形態は、図４及び５のビデオエンコーダ及びビデオデコーダの下層のコーディングフレームワークに従って動作しないビデオエンコーダ及びビデオデコーダを形成するためにも使用されてもよい。

【0059】

図４は、ピクチャ１２またはピクチャ１２のシーケンスから構成されたビデオをデータストリーム１４に予測的にコーディングする装置を示す。ブロック方式予測的コーディングがこの目的のために使用される。更に、変換に基づく残差コーディングが例示的に使用される。装置またはエンコーダが、参照符号１０を使用して示される。図５は、対応するデコーダ２０、すなわち、変換に基づく残差復号をもここで例示的に使用して、データストリーム１４からピクチャブロック内のピクチャ１２’またはピクチャ１２’から構成されたビデオを予測的に復号するように構成された装置２０を示し、デコーダ２０によって再構築されるようなピクチャ１２’が、予測残差信号の量子化によって導入されたコーディング損失に関して装置１０によって元から符号化されたピクチャ１２から逸脱していることを示すために、アポストロフィが使用されている。図４及び図５は、変換に基づく予測残差コーディングを例示的に使用するが、本出願の実施形態は、この種類の予測残差コーディングに限定されない。これは、以下に概説されるように、図４及び５に関する他の詳細についても当てはまる。

【0060】

エンコーダ１０は、予測残差信号に空間－スペクトル変換を受けさせ、それによって取得された予測残差信号をデータストリーム１４に符号化するように構成される。同様に、デコーダ２０は、データストリーム１４から予測残差信号を復号し、それによって取得された予測残差信号にスペクトル－空間変換を受けさせるように構成される。

【0061】

内部的に、エンコーダ１０は、元の信号、すなわち、ビデオまたはカレントピクチャ１２から予測信号２６の逸脱を測定するように予測残差２４を生成する、予測残差信号形成器２２を含んでもよい。予測残差信号形成器２２は、例えば、元の信号、すなわち、カレントピクチャ１２から予測信号を減算する減算器であってもよい。エンコーダ１０は次いで、スペクトルドメイン予測残差信号２４’を取得するよう、予測残差信号２４に空間－スペクトル変換を受けさせる変換器２８を更に含んでもよく、スペクトルドメイン予測残差信号２４’は次いで、エンコーダ１０によっても備えられた量子化器３２によって量子化を受ける。よって、量子化済み予測残差信号２４’’がビットストリーム１４にコーディングされる。この目的のために、エンコーダ１０は任意選択で、データストリーム１４に変換及び量子化されるような予測残差信号をエントロピコーディングするエントロピコーダ３４を含んでもよい。予測信号２６は、データストリーム１４に復号され、データストリーム１４から復号可能な予測残差信号２４’’に基づいて、エンコーダ１０の予測ステージ３６によって生成される。この目的のために、予測ステージ３６は、図４に示されるように、量子化損失を除き、信号２４’に対応する、スペクトルドメイン予測残差信号２４’’’を得るように、予測残差信号２４’’を量子化解除する量子化解除器３８と、それに続いて、量子化損失を除き、元の予測残差信号２４に対応する、予測残差信号２４’’’’を取得するよう、後者の予測残差信号２４’’’に逆変換、すなわち、スペクトル－空間変換を受けさせる逆変換器４０とを内部的に含む。予測ステージ３６の結合器４２は次いで、再構築済み信号４６、すなわち、元の信号１２の再構築を取得するように、予測信号２６及び予測残差信号２４’’’’を加算などによって再結合する。再構築済み信号４６は、信号１２’に対応してもよい。

【0062】

予測ステージ３６の予測モジュール４４は次いで、例えば、空間予測、すなわち、イントラ予測及び／または時間予測、すなわち、インター予測を使用することによって、信号４６に基づいて予測信号２６を生成する。これに関する詳細は以下に説明される。

【0063】

同様に、デコーダ２０は内部的に、予測ステージ３６に対応する構成要素から構成されてもよく、予測ステージ３６に対応する方式において相互接続されてもよい。特に、デコーダ２０のエントロピデコーダ５０は、予測ステージ３６のモジュールに関して上記説明された方式において相互接続され、協調する、量子化解除器５２、逆変換器５４、結合器５６、及び予測モジュール５８が予測残差信号２４’’に基づいて再構築済み信号を回復すると、データストリームから量子化済みスペクトルドメイン予測残差信号２４’’をエントロピ復号し、その結果、図５に示されるように、結合器５６の出力は、再構築済み信号、すなわち、そのビデオまたはカレントピクチャ１２’を結果としてもたらす。

【0064】

上記に特に説明されていないが、エンコーダ１０が、例えば、何らかのレート及び歪み関連基準、すなわち、コーディングコストを最適化し、及び／または何らかのレート制御を使用する方式などにおいて、いくつかの最適化スキームに従って、例えば、予測モード及び動きパラメータなどを含むいくつかのコーディングパラメータを設定することができることが容易に明らかである。以下で更に詳細に説明されるように、エンコーダ１０及びデコーダ２０並びに対応するモジュール４４、５８はそれぞれ、以下で更に詳細に説明される方式においてピクチャブロックのどの予測が構成されるかに基づいて、プリミティブ予測モードの、ある種類のセットまたはプールを形成するイントラコーディングモード及びインターコーディングモードなどの異なる予測モードをサポートする。エンコーダ及びデコーダがそれらの予測合成の間で切り替える粒度は、ブロックへのピクチャ１２及び１２’それぞれの細分割に対応してもよい。なお、それらのブロックのいくつかは、単独でイントラコーディングされたブロックであってもよく、いくつかのブロックは、単独でインターコーディングされたブロックであってもよく、任意選択で、更なるブロックは、イントラコーディング及びインターコーディングの両方を使用して取得されたブロックであってもよいが、詳細が以下に示される。イントラコーディングモードに従って、それぞれのブロックの空間的な既にコーディング／復号された隣接に基づいて、ブロックについての予測信号が取得される。いくつかのイントラコーディングサブモードが存在してもよく、その中の選択で、ある種類のイントラ予測パラメータを疑似的に表す。それぞれの方向性イントラコーディングサブモードについて特有である特定の方向に従って隣接のサンプル値をそれぞれのブロックに外挿することによって、それぞれのブロックについてのどの予測信号が埋められるかに従って、方向性または角度イントラコーディングサブモードが存在してもよい。イントラコーディングサブモードは、例えば、それぞれのブロックについてのどの予測信号がそれぞれのブロック内の全てのサンプルにＤＣ値を割り当てるかに従った、ＤＣコーディングモード、並びに／またはそれぞれのブロックのどの予測信号が、隣接サンプルに基づいて二次元線形関数によって定義された平面の傾き及びオフセットを導出することによりそれぞれのブロックのサンプル位置にわたって二次元線形によって記述されたサンプル値の空間的分散であると近似もしくは判定されることに従った、平面イントラコーディングモードなどの１つ以上の更なるサブモードをも含んでもよい。それらと比較して、インター予測モードに従って、ブロックについての予測信号は、例えば、ブロック内部を時間的に予測することによって取得されてもよい。インター予測モードのパラメータ化について、動きベクトルがデータストリーム内でシグナリングされてもよく、動きベクトルは、それぞれのブロックについての予測信号を取得するために、前にコーディング／復号されたピクチャがサンプリングされたビデオの前にコーディングされたピクチャの部分の空間的変位を示す。これは、量子化済みスペクトルドメイン予測残差信号２４’’を表すエントロピコーディング済み変換係数レベルなど、データストリーム１４によって備えられた残差信号コーディングに加えて、データストリーム１４が、ブロック予測モードに割り当てるための予測関連パラメータ、インター予測モードについての動きパラメータなどの割り当てられた予測モードについての予測パラメータ、並びに任意選択で、以下で更に詳細に概説されるような割り当てられた予測モード及び予測パラメータを使用してブロックについての最終的な予測信号の合成を制御する更なるパラメータに符号化されている場合があることを意味する。加えて、データストリームは、ブロックへのピクチャ１２及び１２’のそれぞれの細分割を制御及びシグナリングするパラメータを含んでもよい。デコーダ２０は、エンコーダが行ったのと同一の方式においてピクチャを細分割して、同一の予測モード及びパラメータをブロックに割り当て、同一の予測信号を結果としてもたらすよう同一の予測を実行するために、それらのパラメータを使用する。

【0065】

図６は、一方で、再構築済み信号、すなわち、再構築済みピクチャ１２’と、他方で、データストリームでシグナリングされるような予測残差信号２４’’’’及び予測信号２６の結合との間の関係を例示する。上記で既に表されたように、結合は、加算であってもよい。可変サイズのブロック８０へのピクチャエリアの細分割として予測信号２６が図６に例示されるが、これは例にすぎない。細分割は、ブロックの行及び列へのピクチャエリアの通常の細分割、または四分木細分割もしくは同様のものなどの可変サイズのリーフブロックへのピクチャ１２の多分木細分割など、いずれかの細分割であってもよく、それらの混合は図６に示され、そこでは、ピクチャエリアがツリールートブロックの行及び列に最初に細分割され、ツリールートブロックは次いで、ブロック８０を結果としてもたらすよう、再帰多分木細分割に従って更に細分割される。

【0066】

図６における予測残差信号２４’’’’も、ブロック８４へのピクチャエリアの細分割として例示される。それらのブロックは、コーディングブロック８０から同一のものを区別するために、変換ブロックまたは変換係数ブロックと称されてもよい。事実上、図６は、エンコーダ１０及びデコーダ２０がブロックへのピクチャ１２及びピクチャ１２’のそれぞれの２つの異なる細分割、すなわち、１つがコーディングブロック８０への細分割、もう一方がブロック８４への細分割を使用してもよいことを例示する。両方の細分割は同一であってもよく、すなわち、各々のブロック８０が変換ブロック８４を同時に形成してもよく、逆であってもよいが、図６は、例えば、変換ブロック８４への細分割がブロック８０への細分割の拡張を形成し、その結果、２つのブロック８０の間のいずれかの境界が２つのブロック８４の間の境界と重なり、または代わりに言うと、各々のブロック８０のいずれかが変換ブロック８４の１つと一致し、もしくは変換ブロック８４のクラスタと一致するケースを例示する。しかしながら、細分割はまた、相互に独立して決定または選択されてもよく、その結果、変換ブロック８４は代わりに、ブロック８０の間のブロック境界を交差する。変換ブロック８４への細分割が考慮される限り、ブロック８０への細分割に関して提案されるものなどとして同様の言及が当てはまり、すなわち、ブロック８４は、行及び列内に配列されたブロックへのピクチャエリアの通常の細分割の結果、ピクチャエリアの多分木細分割の結果、またはそれらの結合もしくは区分の他の分類であってもよい。ちなみに、ブロック８０及び８４は、二次、矩形、またはいずれかの他の形状に限定されないことに留意されよう。更に、予測信号が形成されるブロック８０へのカレントピクチャ１２の細分割、及び予測残差がコーディングされるブロック８４へのカレントピクチャ１２の細分割は、コーディング／復号のために使用される細分割のみでなくてもよい。予測信号決定及び残差コーディングが実行される粒度からのそれらの細分割について、まずは、残差コーディングが代わりに細分割なしに行われてもよく、２番目に、それらの細分割とは別の粒度において、エンコーダ及びデコーダは、予測パラメータ及び予測信号合成制御信号などの上述したパラメータの一部を含む、特定のコーディングパラメータを設定してもよい。

【0067】

図６は、予測信号２６及び予測残差信号２４’’’’の結合が再構築済み信号１２’を結果として直接もたらすことを例示する。しかしながら、他のビュー、または、例えば、別個のＤＰＢによる別個の予測ループにおいてコーディング／復号された他のコーディングレイヤから取得された予測信号などの代替的な実施形態に従って、ピクチャ１２’への結果をもたらすよう、１つよりも多い予測信号２６が予測残差信号２４’’’’と結合されてもよいことに留意されるべきである。

【0068】

図６では、変換ブロック８４は、以下の意義を有するはずである。変換器２８及び逆変換器５４は、それらの変換ブロック８４の単位においてそれらの変換を実行する。例えば、多くのコーデックは、全ての変換ブロック８４に対して何らかの分類のＤＳＴまたはＤＣＴを使用する。一部のコーデックは、変換ブロック８４の一部について、予測残差信号が空間ドメインにおいて直接コーディングされるように変換をスキップすることを可能にする。しかしながら、本明細書で説明される実施形態に従って、エンコーダ１０及びデコーダ２０は、以下の図７～１２のうちの１つ以上に関して説明されるように、いくつかの変換、すなわち、利用可能な変換１３０のセットをそれらがサポートするような方式において構成される。

【0069】

以下では、それによって変換タイプシグナリングについてのコーディング効率を改善することができ、及び／またはそれによって複数の変換タイプの間の選択を可能にすることにより圧縮効率を改善することができる実施形態が説明される。以下での実施形態はほとんど、デコーダを考慮して特徴及び機能性を例示する。しかしながら、同一のまたは類似の特徴及び機能性がエンコーダによって備えられてもよく、例えば、デコーダによって実行される復号は、エンコーダによる符号化に対応することができることが明らかである。更に、エンコーダは、フィードバックループ、例えば、予測ステージ３６におけるデコーダに関して説明されるような同一の特徴を含んでもよい。

【0070】

図７は、データストリーム１４からサンプルブロック８４の変換済み表現を復号するデコーダ２０を示す。実施形態に従って、エンコーダは、変換係数ブロック１０４を取得するように、サンプルブロック８４に、変換係数ブロック１０４の下層の変換を受けさせるように構成される。変換係数ブロック１０４の下層の変換１３１に従った変換係数ブロック１０４は、変換済み表現を定義する。

【0071】

図７に示されるデコーダ２０は、データストリーム１４から係数位置情報１００を復号するように構成される。係数位置情報１００は、変換係数ブロック１０４内の最初にコーディングされた係数位置１０２を示す。最初にコーディングされた係数位置１０２は、スキャン順序、例えば、第１の係数スキャン順序１１０または第２の係数スキャン順序１１４における第１の非ゼロ変換係数の位置を示すことができる。反転／逆スキャン順序のケースでは、最初にコーディングされた係数位置１０２は、反転／逆スキャン順序に従った最後の非ゼロ変換係数の位置を示すことができる。非ゼロ変換係数は本明細書で、ゼロに等しくない値を有する変換係数を定義し、ゼロ変換係数は、ゼロに等しい値を有する変換係数を定義する。

【0072】

デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかを検査する（１０７）ように構成される。

【0073】

最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の内側に位置する場合、デコーダ２０は、データストリーム１４において伝送された変換情報１０８を使用して、変換係数ブロック１０４の下層の変換１３１が利用可能な変換のセット１３０の１つ以上の利用可能な変換の第１のセット１３２または利用可能な変換のセット１３０の１つ以上の利用可能な変換の第２のセット１３４内にあるかどうかを検査する（１１１）ように構成される。実施形態に従って、１つ以上の利用可能な変換の第１のセット１３２は、変換係数１１８のような、予め定められたサブエリアの外側の非ゼロ変換係数を有する変換係数ブロック１０４に対する変換を含む。実施形態に従って、１つ以上の利用可能な変換の第２のセット１３４は、予め定められたサブエリア１０６の外側のいずれかの非ゼロ変換係数を有さない変換係数ブロック１０４に対する変換を含む。言い換えると、１つ以上の利用可能な変換の第２のセット１３４からの１つ以上の変換は、予め定められたサブエリアの外側の全ての変換係数がゼロに等しい値を有すること、及び非ゼロ変換係数が予め定められたサブエリア１０６の内側にのみ位置することの要件、すなわち、非ゼロ要件を有してもよい。１つ以上の利用可能な変換の第１のセット１３２からの変換は、この非ゼロ要件を満たす必要がなくてもよい。

【0074】

変換係数ブロック１０４の下層の変換１３１が１つ以上の利用可能な変換の第１のセット１３２内にある場合、デコーダ２０は、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する、第１の係数スキャン順序１１０に従った変換係数ブロック１０４の変換係数の値を復号し（１０９）、最初にコーディングされた係数位置１０２の上流に位置する、第１の係数スキャン順序１１０に従った変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図７に示されるように、この第１の条件について、デコーダ２０は、変換係数ブロック１０４の網掛けエリア内の全ての変換係数１１２がゼロであると推測するように構成されてもよい。第１の係数スキャン順序１１０は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０の間で第１の係数スキャン順序１１０によってスキャンされた予め定められたサブエリア１０６の外側の１つ以上の変換係数１１８が存在するような方式において変換係数ブロック１０４の変換係数をスキャンする。図７の実施形態に例示的に示されるように、予め定められたサブエリア１０６の外側の変換係数１１８_１～１１８_３は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０_１及び１２０_２の間の第１の係数スキャン順序１１０によってスキャンされ、予め定められたサブエリア１０６の外側の変換係数１１８_４は、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０_３及び１２０_４の間の第１の係数スキャン順序１１０によってスキャンされる。

【0075】

変換係数ブロック１０４の下層の変換１３１が１つ以上の利用可能な変換の第２のセット１３４内にある場合、デコーダ２０は、予め定められたサブエリア１０６内に位置し、第２の係数スキャン順序１１４に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の変換係数の値を復号し（１１３）、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１６及び予め定められたサブエリア１０６の外側に位置する変換係数ブロック１０４の変換係数１１８がゼロであると推測するように構成される。第２の係数スキャン順序１１４は、予め定められたサブエリア１０６内の変換係数１２０の間の予め定められたサブエリア１０６の外側のいずれの変換係数１１８をもスキャンすることなく、予め定められたサブエリア１０６内の変換係数１２０をスキャンする。

【0076】

実施形態に従って、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかの検査１０７は、最初にコーディングされた係数位置１０２が予め定められたサブエリア１０６内に位置しないことを実現することを結果としてもたらすことができる。そのような否定的なケース２１０が図８に示される。最初にコーディングされた係数位置１０２が予め定められたサブエリア１０６内に位置することを実現する肯定的なケース２００は、肯定的なケースが既に図７に関して説明されたので、３つのドットのみによって図８に示される。

【0077】

最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置する場合、デコーダ２０は、１つ以上の利用可能な変換の第２のセット１３４を利用可能な変換のセット１３０から取り除くことによって、１つ以上の利用可能な変換の第１のセット１３２まで利用可能な変換のセット１３０を低減させ（２２０）、１つ以上の利用可能な変換の第１のセット１３２から変換係数ブロック１０４の下層の変換１３１を決定するように構成される。この決定は、データストリーム１４において伝送された変換情報１０８を使用することによって、または１つ以上の利用可能な変換の第１のセット１３２が１つの変換のみを構成する場合、変換係数ブロック１０４の下層の変換１３１が１つの変換であると推測することによってのいずれかで実行されてもよい。加えて、デコーダ２０は、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の変換係数の値を復号し（１０９）、第１の係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図８に示されるように、デコーダ２０は、変換係数ブロック１０４の網掛けエリア内の全ての変換係数１１２がゼロであると推測するように構成されてもよい。

【0078】

図８に関して説明された特徴及び／または機能性は、図７のデコーダ２０に対して任意選択である。

【0079】

実施形態に従って、図７に示されたデコーダ２０は、図９に示されるように、コンテキスト適応エントロピ復号２３０、例えば、コンテキスト適応バイナリ算術コーディングを使用して、データストリーム１４から変換情報１０８を復号するように構成される。デコーダ２０は、予め定められた確率モデル２３２、例えば、特定のコンテキストに対して更新されるような特定のバイナリ値についての推測された確率を使用してもよい。デコーダは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を決定する（２３４）ように構成されてもよく、それぞれの説明により図９及び図１０を参照されたい。

【0080】

実施形態、例えば、図９に示される第１の実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を決定する際（２３４）、最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデル２３２を第１の確率モデル２３６_１に設定し、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である場合、予め定められた確率モデル２３２を第２の確率モデル２３６_２に設定し、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数よりも大きい場合、予め定められた確率モデル２３２を第３の確率モデル２３６_３に設定するように構成される。この実施形態についての予め定められた数２４０は、１０の変換係数に設定されてもよく、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である最も可能性がない変換係数は、参照符号２４０によって示される。しかしながら、異なる予め定められた数２４０の変換係数が選択されてもよいことも明らかである。

【0081】

代替的な実施形態、例えば、図９に示される実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデル２３２を決定する際（２３４）、最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下であり、または最後にスキャンされた位置１０１に一致する場合、予め定められた確率モデル２３２を第１の確率モデル２３８_１に設定し、最初にコーディングされた変換係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の係数より大きい場合、予め定められた確率モデル２３２を第２の確率モデル２３８_２に設定するように構成される。この実施形態についての予め定められた数２４０は、８の変換係数に設定されてもよく、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下である最も可能性がない変換係数は、参照符号２４０によって示される。しかしながら、上記ですでに説明されたように、異なる予め定められた数２４０の変換係数が選択されてもよいことも明らかである。

【0082】

上記説明された実施形態の両方について、第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数において一致する。図７に示された第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４を重ね合わせるケースでは（第１の係数スキャン順序１１０についての復号１０９を、及び第２の係数スキャン順序１１４についての復号１１３を参照されたい）、両方のスキャンが最後にスキャンされた位置１０１の上流で同一であるまでの変換係数が存在する。図７に示された変換係数ブロック１０４のケースでは、両方のスキャンが最後にスキャンされた位置１０１の上流で同一であるまでの１０の変換係数が存在する。予め定められた数２４０の変換係数は、第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４が最後にスキャンされた位置１０１の上流で一致するまでの最大数の変換係数まで、３の変換係数の範囲内の数に設定されてもよい。予め定められた数２４０の変換係数は、８の変換係数のような、３～１０の変換係数または３～９の変換係数の範囲内の数に設定されてもよい。

【0083】

上記説明された第１の実施形態の第１の確率モデル２３６_１及び第２の確率モデル２３６_２が、上記説明された第２の実施形態の第１の確率モデル２３８_１及び第２の確率モデル２３８_２に対して異なってもよいことに留意されよう。

【0084】

図１０は、左側で、それに対して予め定められた数２４０の変換係数ブロック１０４が８の変換係数に設定され、それに対して変換係数ブロック１０４の最初にコーディングされた変換係数位置１０２が８の変換係数に等しい変換係数ブロック係数１０４を示す。加えて、図１０は、右側で、上述した最後にスキャンされた位置１０１に等しい最初にコーディングされた変換係数位置１０２を有する変換係数ブロック１０４を示す。

【0085】

図１１ａ及び１１ｂに示される実施形態に従って、図７に関して示され、及び説明された利用可能な変換のセット１３０は、予め定められたサブエリア１０６内の一次変換１３６ａ及び二次変換１３６ｂの連結に対応し、予め定められたサブエリア１０６の外側の一次変換１３６ａから構成された１つ以上の多段階変換１３６を含む。言い換えると、図１１ａの右上に示されるように、例えば、エンコーダによって実行される前方変換において、処理済み係数ブロック８４’を決定するために、サンプルブロック８４の全体に、すなわち、予め定められたサブエリア１０６内であり、且つ予め定められたサブエリア１０６の外側に一次変換１３６ａが適用され、変換係数ブロック１０４を決定するために、処理済み係数ブロック８４’の予め定められたサブエリア１０のみに二次変換が適用される。例えば、デコーダによって実行される逆変換において、処理済み係数ブロック８４’を決定するために、変換係数ブロック１０４の予め定められたサブエリア１０６に二次変換１３６ｂの逆が適用され、サンプルブロック８４を決定するために、処理済み係数ブロック８４’の全体に一次変換１３６ａの逆が適用される。代わりに、図１１ａの左上に示されるように、１つの変換ステップにおいて一次変換及び二次変換を適用することも可能であり、予め定められたサブエリア１０６内で二次変換１３６ｂのみが適用され、予め定められたサブエリア１０６内で、且つ予め定められたサブエリア１０６の外側で一次変換１３６ａが適用される。１つ以上の多段階変換１３６が、１つ以上の利用可能な変換の第２のセット１３４に包含される。

【0086】

加えて、利用可能な変換のセット１３０は、１つ以上の利用可能な変換の第１のセット１３２が構成するものからの１つ以上の第１の一次専用変換、及び１つ以上の利用可能な変換の第２のセット１３４に包含された１つ以上の第２の一次専用変換を含む一次専用変換のセット１３８を含む。図１１ａは、１つの第１の一次専用変換Ｔ_０から構成された１つ以上の利用可能な変換の第１のセット１３２を示し、図１１ｂは、Ｎ１の第１の一次専用変換Ｔ_１～Ｔ_Ｎ１から構成された１つ以上の利用可能な変換の第１のセット１３２を示す。図１１ａにおける１つ以上の第２の一次専用変換は、Ｔ_１…Ｔ_Ｎ１と参照符号が付され、図１１ｂにおける１つ以上の第２の一次専用変換は、Ｔ_Ｎ１＋１…Ｔ_Ｎ２と参照符号が付される。

【0087】

以下の実施形態が図１１ｂに関して説明されるが、図１１ａに示されるようなセット１３０に対しても変換係数ブロック１０４の下層の変換１３１の導入されたシグナリングを使用することも可能であることが明らかである。

【0088】

図１１ｂに示される実施形態に従って、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成される。二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１が多段階変換、すなわち、セット１３６内にあり、且つ１つ以上の多段階変換１３６からの１つの変換であるかどうか、または変換係数ブロック１０４の下層の変換１３１が一次専用変換、すなわち、セット１３８の変換であるかどうかを示す。変換係数ブロック１０４の下層の変換１３１が一次専用変換であると二次変換インジケータ１２４が示す場合、デコーダは、データストリームから、一次専用変換のセット１３８から一次専用変換を識別する変換インジケータ１２６、例えば、一次変換インジケータを復号するように構成される。

【0089】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６であるかどうかを示し、そうである場合、変換係数ブロック１０４の下層の変換１３１の多段階変換の二次変換１３６ｂ、すなわち、Ｔ^（ｓ）であることを示し、または変換係数ブロック１０４の下層の変換１３１が一次専用変換、すなわち、セット１３８内の変換であるかどうかを示す。加えて、デコーダは、データストリームから一次変換インジケータ１２６を復号し、一次変換インジケータ１２６は、変換係数ブロック１０４の下層の変換１３１が一次専用変換であることを二次変換インジケータ１２４が示すケースでは、一次専用変換のセット１３８からの一次専用変換、すなわち、セット１３８の１つを識別し、変換係数ブロック１０４の下層の変換１３１が多段階変換、すなわち、セット１３６の変換であり、１つ以上の多段階変換のセット１３６が相互に異なる一次変換１３６ａを有する１つよりも多い多段階変換を含むことを二次変換インジケータ１２４が示すケースでは、多段階変換の一次変換１３６ａを識別する。よって、このケースでは、一次変換インジケータ１２６は、一次専用変換のセット１３８からの一次専用変換を示し、二次変換インジケータ１２４が何を示すかに応じて多段階変換についての一次変換１３６ａを示すように構成される。

【0090】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから一次変換インジケータ１２６を復号するように構成される。一次変換インジケータ１２６は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１、すなわち、変換の第１のセット１３２の一次変換、及び１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２、すなわち、変換の第２のセット１３４一次変換を含む、一次専用変換のセット１３８からの第１の変換を示す。第１の変換が第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つである場合、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１を含むセットからの変換係数ブロック１０４の下層の変換１３１、及び多段階変換１３６、例えば、１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を有さない利用可能な変換のセット１３０からの１つを識別する。代わりに、第１の変換が第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つであるケースでは、変換係数ブロック１０４の下層の変換１３１は、そのセットの間で一部の変換が相互に等しくなることができる、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１及び多段階変換１３６の１つ以上の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）を含むセットから識別されてもよい。変換係数ブロック１０４の下層の変換１３１は、第１の変換が多段階変換の１つの一次変換であるケースでは、１つの多段階変換である。第１の変換が１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２の１つであるケースでは、１つの第２の一次専用変換は、一次変換インジケータ１２６によって示される。よって、第１の変換が１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１の１つであるケースでは、二次変換インジケータ１２４は、変換係数ブロック１０４の下層の変換１３１を示し、第１の変換が１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２の１つであるケースでは、一次変換インジケータ１２６は、変換係数ブロック１０４の下層の変換１３１を示す。

【0091】

図１１ｂに示される追加の実施形態または代替的な実施形態に従って、デコーダは、データストリームから一次変換インジケータ１２６を復号するように構成される。一次変換インジケータ１２６は、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１及び１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を含むセットからの第１の変換を示す。第１の変換が多段階変換１３６の１つ以上の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）に等しい第１の一次専用変換Ｔ_１…Ｔ_Ｎ１である場合、デコーダは、データストリームから二次変換インジケータ１２４を復号するように構成され、二次変換インジケータ１２４は、第１の一次専用変換及びその一次変換が第１の一次専用変換、例えば、一次変換インジケータ１２６によって示される第１の一次専用変換に等しい１つ以上の多段階変換を含むセットからの変換係数ブロック１０４の下層の変換１３１を識別する。

【0092】

実施形態に従って、デコーダ２０は、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリームから一次変換インジケータ１２６の復号を実行し、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを決定するように構成される。

【0093】

実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを決定する際、
最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数１２０以下である場合、予め定められた確率モデルを第２の確率モデルに設定し、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数よりも大きい場合、予め定められた確率モデルを第３の確率モデルに設定する、ように構成される。

【0094】

第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１、及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数１２０において一致する。

【0095】

代替的な実施形態に従って、デコーダ２０は、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置する場所に応じて、予め定められた確率モデルを決定する際、
最初にコーディングされた係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の変換係数以下であり、または最後にスキャンされた位置１０１と一致する場合、予め定められた確率モデルを第１の確率モデルに設定し、
最初にコーディングされた変換係数位置１０２が、第１の係数スキャン順序１１０に従って、最後にスキャンされた位置１０１から離れて予め定められた数２４０の係数よりも大きい場合、予め定められた確率モデルを第２の確率モデルに設定する、ように構成される。

【0096】

第１の係数スキャン順序１１０及び第２の係数スキャン順序１１４は、最後にスキャンされた位置１０１、及び最後にスキャンされた位置１０１の上流の予め定められた数２４０の変換係数において一致する。

【0097】

データストリームからの一次変換インジケータ１２６のコンテキスト適応エントロピ復号のための予め定められた確率モデルの上記説明された設定は、図９に示されたように、データストリーム１４からの変換情報１０８のコンテキスト適応エントロピ復号２３０のための予め定められた確率モデル２３２の設定について説明されるような特徴及び／または機能性を含んでもよい。一次変換インジケータ１２６のコンテキスト適応エントロピ復号のための第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルは、変換情報１０８のコンテキスト適応エントロピ復号のための第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルとは異なってもよい。

【0098】

実施形態に従って、一次変換は、１つ以上の多段階変換１３６の全てに対して等しく、また、１つ以上の第１の一次専用変換Ｔ_０またはＴ_１～Ｔ_Ｎ１の１つに等しい。

【0099】

実施形態に従って、図１１ａに示されたように、１つのみの第１の一次専用変換Ｔ_０が存在する。

【0100】

実施形態に従って、デコーダ２０は、サンプルブロック８４を取得するように、変換係数ブロック１０４の下層の変換１３１を反転させる、反転変換、例えば、逆変換を変換係数ブロック１０４に受けさせるように構成される。

【0101】

実施形態に従って、デコーダ２０は、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために、サンプルブロック８４を使用する。

【0102】

図１２は、データストリーム１４からサンプルブロック８４の変換済み表現を復号するデコーダ２０を示す。デコーダ２０は、データストリーム１４から係数位置情報１５０を復号するように構成される。係数位置情報１５０は、変換係数ブロック１０４内の最初にコーディングされた係数位置１０２を示す。係数位置情報１５０は、図７に示されたデコーダの係数位置情報１００に関して説明されたような同一の特徴及び／または機能性を有してもよい。

【0103】

デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の変換係数１２０の値を復号し、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２の上流に位置する変換係数ブロック１０４の変換係数１１２がゼロであると推測するように構成される。図１２に示されるように、変換係数ブロック１０４の網掛けエリア内の変換係数１１２は、ゼロであると推測される。

【0104】

デコーダは、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８、すなわち、図１２におけるｘによって示される変換係数が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロであるかどうかを検査する（１５２）ように構成される。この検査は、例えば、対応する重要度フラグに基づいて個々にそれらのゼロ度について係数が検査される方式において後に説明される実施形態において実行される。しかしながら、代替例が存在する。例えば、この検査１５２がサブブロック方式に実行されてもよく、予め定められたサブエリア１０６が、最低成分のいくつかのサブブロック、例えば、ＤＣ係数を含むＤＣサブブロックと共に最後にスキャンされた位置１０１を包含したサブブロックを包含するブロック１０４の左上隅におけるｎｘｍサブブロックを除き、全てのサブブロックを包囲してもよい。ｎはｍに等しくてもよく、例えば、ｎは４であってもよく、例えば、ｍは４であってもよい。より正確に、変換係数ブロックは、サブブロックに細分割されてもよく、各々のサブブロックは、例えば、４×４変換係数の大きさであり、その結果、左上のサブブロックは、最低スペクトル成分のサブブロックである。各々のサブブロックは、例えば、変換係数ブロック１０４内のそれぞれのサブブロックの位置を定義した、インデックスまたは座標、例えば、ｘＳ及びｙＳによって示されてもよく、ゼロにおいて開始することをインデックス付けにより、ｘＳは、それぞれのサブブロックのサブブロック列を示し、ｙＳは、それぞれのサブブロックのサブブロック行を示し、すなわち、サブブロック（ｘＳ，ｙＳ）＝（０，０）は、ＤＣサブブロックである。予め定められた係数スキャン順序１１０は、ブロック１０４の係数をサブブロック方式でトラバースしてもよく、すなわち、サブブロック内の全ての係数は、次のサブブロックに進む前にトラバースされる。サブブロックは、各サブブロック内のスキャンと同様の方式において、すなわち、対角線上にトラバースされる。最低スペクトル成分のサブブロックと共に最後にスキャンされた位置１０１を包含したサブブロックを除くサブブロックごとに、サブブロックフラグがデータストリームにおいて伝送されてもよく、すなわち、デコーダによって復号されてもよく、エンコーダによってそれに符号化されてもよく、サブブロックは、それぞれのサブブロックについて、いずれかの有意係数がそれぞれのサブブロック内に包含されるかどうかを示す。デコーダは、それらのサブブロックフラグに基づいて、予め定められたエリアの外側のいずれかのサブブロック、すなわち、ｎ×ｎの最低スペクトル成分と最後にコーディングされた係数を包含したサブブロックとの間のいずれかのサブブロック内に有意値が存在するかどうかを検査してもよい。この測定によって、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合、すなわち、ｎ×ｎサブブロックと最後にコーディングされた係数を包含したサブブロックとの間のサブブロックについての全てのコーディングされたサブブロックフラグがゼロであるケースでは、ゼロであるかどうかが試験される。例えば、予め定められたエリアが１６×１６変換係数の大きさ、すなわち、幅において４サブブロック及び高さにおいて４サブブロックであるケースでは、予め定められたサブエリア１０６の外側のサブブロック、例えば、座標ｘＳ＞３またはｙＳ＞３により示されるサブブロックが、１つ以上の有意変換係数を含むかどうかが検査される（１５２）。説明を再開する。

【0105】

予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、デコーダ２０は、データストリーム１４から変換情報１５４を復号し（１５３）、変換情報１５４を使用して、利用可能な変換のセット１３０から、例えば、利用可能な変換のセット１３０からの１つ以上の利用可能な変換の第２のセット１３４から、変換係数ブロック１０４の下層の変換１３１を識別する（１５５）、ように構成される。

【0106】

予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する、変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、デコーダは、１つ以上の利用可能な変換の第２のセット１３４の利用可能な変換のセット１３０から取り除くことによって、１つ以上の利用可能な変換の第１のセット１３２まで利用可能な変換のセット１３０を低減させ、１つ以上の利用可能な変換の第１のセット１３２からの変換係数ブロック１０４の下層の変換１３１を決定する。これは、以下の方式においても説明される。サブブロックが予め定められたエリア、例えば、左上の１６×１６係数の外側に位置し、それが有意である場合、すなわち、例えば、それぞれのサブブロックが少なくとも１つの非ゼロ係数を包含する場合、それは、制限された変換のセットのみ、例えば、１つ以上の利用可能な変換の第１のセット１３２の変換のみを利用することができることに従う。このセット１３２が１つの変換のみ、例えば、ＤＣＴ－ＩＩのみを包含する場合、ｍｔｓ＿ｉｄｘの値は、０であると推測されてもよい。

【0107】

実施形態に従って、利用可能な変換のセット１３０は、例えば、図１１ａまたは１１ｂに示されるように、例えば、１つ以上の利用可能な変換の第１のセット１３２に備えられる、１つ以上の第１の一次専用変換Ｔ_１…Ｔ_Ｎ１、及び例えば、１つ以上の利用可能な変換の第２のセット１３４に備えられる、１つ以上の第２の一次専用変換Ｔ_Ｎ１＋１…Ｔ_Ｎ２を含む、一次専用変換のセット１３８であってもよい。好ましくは、利用可能な変換のセット１３０は、例えば、図１１ａに示されるように、１つの第１の一次専用変換Ｔ_０及び１つ以上の第２の一次専用変換Ｔ_１…Ｔ_Ｎから構成される。よって、図１２におけるｘによって示されるように、変換係数ブロック１０４の予め定められたサブエリア１０６の外側の変換係数ブロック１０４の全ての変換係数１１８がゼロでない第２のケースでは、デコーダは、変換係数ブロック１０４の下層の変換１３１として１つの第１の一次専用変換Ｔ_０を決定してもよい。図１２におけるｘによって示されるように、変換係数ブロック１０４の予め定められたサブエリア１０６の外側の変換係数ブロック１０４の全ての変換係数１１８がゼロである他のケースでは、デコーダは、ブロック１０４に対してデータストリームにおいて伝送された、すなわち、この他のケースでは、デコーダによってデータストリームから復号され、エンコーダによってそれに符号化されたインデックスによって、セット１３０から変換係数ブロック１０４の下層の変換１３１を決定してもよい。利用可能な変換のセット１３０は、５つの異なるオプションを含んでもよく、１つの変換Ｔ_０は、ＤＣＴ－ＩＩ－ＤＣＴ－ＩＩ変換であってもよい。後者の例は、例えば、予め定められたエリアサブブロック方式の外側でゼロ度を検査する上述した例と組み合わされてもよい。加えて、この実施例では、ブロック１０４の下層の変換１３１が二次変換とのまさに概説されたように決定された一次変換の結合であることに従って、ブロック１０４についてのコーディングオプションが存在することは、任意選択であってもよい。例えば、それは、最後にコーディングされた変換係数の位置が特定の条件を充足する場合、更なるインデックスは、二次変換のセットから二次変換を選択するということであってもよい。このセットは、１つのオプションとして、非二次変換、すなわち、一次専用変換として一次変換から効果的に離れる識別変換を含んでもよい。特定の条件が満たされない場合、二次変換も使用されない。

【0108】

変換係数ブロック１０４に従った変換係数ブロック１０４の下層の変換１３１は、変換済み表現を定義し、予め定められた係数スキャン順序１１０は、１つ以上の変換係数１１８、すなわち、予め定められたサブエリア１０６の内側に位置する２つの変換係数１２０の間の予め定められた係数スキャン順序１１０によってスキャンされた予め定められたサブエリア１０６の外側の変換係数が存在するような方式において変換係数１２０をスキャンする。

【0109】

実施形態に従って、デコーダは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置するかどうかを検査し、変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置し、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する全ての変換係数１１８がゼロであるかどうかを検査する（１５２）ように構成される。任意選択で、検査１５２は単に、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６内に位置する場合に実行される。これは、最初にコーディングされた係数位置１０２が変換係数ブロック１０４の予め定められたサブエリア１０６の外側に位置するケースでは、予め定められたサブエリア１０６の外側の変換係数がゼロでないはずであるという事実に起因する。

【0110】

実施形態に従って、デコーダ２０は、予め定められた確率モデルを使用したコンテキスト適応エントロピ復号を使用して、データストリーム１４からの変換情報１５４の復号１５３を実行し、最初にコーディングされた係数位置１０２が変換係数ブロック１０４内に位置することに応じて、予め定められた確率モデルを決定するように構成される。任意選択で、データストリーム１４からの変換情報１５４のコンテキスト適応エントロピ復号についての予め定められた確率モデルは、図９に示されるように、データストリームからの変換情報１０８のコンテキスト適応エントロピ復号２３０についての予め定められた確率モデル２３２に関して説明されたように設定されてもよい。しかしながら、変換情報１５４のコンテキスト適応エントロピ復号についての第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルは、変換情報１０８のコンテキスト適応エントロピ復号についての第１の確率モデル、第２の確率モデル、及び任意選択の第３の確率モデルとは異なってもよいことが明白である。

【0111】

実施形態に従って、利用可能な変換のセット１３０は、図１１ａに示されるように、その各々が予め定められたサブエリア１０６内の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）及び二次変換Ｔ_１ ^（ｓ）～Ｔ_Ｎ２ ^（ｓ）の連結に対応し、予め定められたサブエリア１０６の外側の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）から構成された多段階変換１３６を含む。多段階変換１３６は、１つ以上の利用可能な変換の第２のセット１３４に包含される。一次専用変換のセット１３８は、それから１つ以上の利用可能な変換の第１のセット１３２が構成し、１つ以上の多段階変換１３６の全てについての一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）がそれに等しい第１の一次専用変換Ｔ_０、及び１つ以上の利用可能な変換の第２のセット１３４に包含される１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１を含む。

【0112】

実施形態に従って、上記説明され、図１１ａに示された利用可能な変換のセット１３０が使用される。デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、データストリーム１４から二次変換インジケータ１５６を復号するように構成され、二次変換インジケータ１５６は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６であるかどうかを示し、及び１つ以上の多段階変換１３６からのいずれか１つを示し、または変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であるかどうかを示す。言い換えると、二次変換インジケータ１５６は、変換係数ブロック１０４の下層の変換１３１が多段階変換１３６または一次専用変換１３８に属するかどうかを示し、変換１３１が多段階変換１３６に属する場合、変換係数ブロック１０４の下層の変換１３１は、二次変換インジケータ１５６によって直接示される。加えて、この第１のケース１５７では、変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であることを二次変換インジケータ１５６が示すかどうかが検査され、及び変換係数ブロック１０４の下層の変換１３１が一次専用変換１３８であることを二次変換インジケータ１５６が示す場合、デコーダ２０は、データストリーム１４から、一次専用変換のセット１３８からの一次専用変換を識別する変換インジケータ１６０、例えば、一次変換インジケータを復号するように構成される。第２のケース１５９では、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、変換係数ブロックの下層の変換は、第１の一次専用変換Ｔ_０である。

【0113】

実施形態に従って、上記説明され、図１１ａに示された利用可能な変換のセット１３０が使用される。デコーダ２０は、予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１に方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロである場合、データストリーム１４から一次変換インジケータ１６０を復号するように構成され、一次変換インジケータ１６０は、第１の一次専用変換Ｔ_０及び１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１を含むセットからの第１の変換を示す。第１の変換が、第１の一次専用変換Ｔ_０である場合、デコーダ２０は、第１の一次専用変換Ｔ_０及び多段階変換１３６を含むセットから変換係数ブロック１０４の下層の変換１３１を識別する二次変換インジケータ１５６をデータストリーム１４から復号する。第１の変換が１つ以上の第２の一次専用変換Ｔ_１～Ｔ_Ｎ１の１つである場合、変換係数ブロック１０４の下層の変換１３１は、１つの第２の一次専用変換、すなわち、一次変換インジケータ１６０によって示される第２の一次専用変換である。予め定められた係数スキャン順序１１０に従って、最初にコーディングされた係数位置１０２から最後にスキャンされた位置１０１の方に位置する変換係数ブロック１０４の全ての変換係数１１８が、変換係数ブロック１０４の予め定められたサブエリア１０６内に位置しない場合にゼロでない場合、変換係数ブロック１０４の下層の変換１３１は、第１の一次専用変換Ｔ_０である。

【0114】

実施形態に従って、一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ２ ^（ｐ）は、１つ以上の多段階変換１３６の全てに対して等しく、また、１つ以上の第１の一次専用変換の１つに等しく、例えば、図１１ａにおけるＴ_０に等しく、または図１１ｂにおけるＴ_１～Ｔ_Ｎ１の１つに等しい。

【0115】

実施形態に従って、図１１ａに示されるように、１つの第１の一次専用変換Ｔ_０のみが存在する。

【0116】

実施形態に従って、デコーダ２０は、サンプルブロック８４を取得するように、変換係数ブロック１０４の下層の変換１３１を反転させる、逆変換を変換係数ブロック１０４に受けさせるように構成される。

【0117】

実施形態に従って、デコーダ２０は、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために、サンプルブロック８４を使用するように構成される。

【0118】

実施形態に従って、図７～１２の１つに関して上記説明されたデコーダの１つと並列した特徴及び／または機能性を有するエンコーダは、変換係数ブロック１０４を取得するように、サンプルブロック８４に変換係数ブロック１０４の下層の変換１３１を受けさせるように構成される。

【0119】

実施形態に従って、図７～１２の１つに関して上記説明されたデコーダの１つと並列した特徴及び／または機能性を有するエンコーダは、イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、予測残差を表すよう、例えば、量子化を含むサンプルブロック８４を決定するように構成される。

【0120】

以下の説明は、言い換えると、変換タイプシグナリングについてのコーディング効率を改善するための上記説明された２つの様式を説明する。

【0121】

１．サブブロック内の係数レベルの後のシグナリング変換タイプの保持
カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２が、許可された変換の特定のサブセットに対して全ての係数が０に等しいことが必要とされるエリアの内側に位置するとき、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の外側に位置するとき（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの外側）、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１３の両方の簡易化されたシンタックス図に例示される）。

【0122】

図１３は、ｍｔｓ＿ｉｄｘによる変換選択に応じた修正されていないサブブロック（ＳＢ）スキャニングによる簡易化されたシンタックス図を示す。

【0123】

カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２が、許可された変換の特定のサブセットに対して全ての係数が０に等しいことが必要とされるエリアの外側に位置するとき、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の内側に位置するとき（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの内側）、図１２に示されたように、各々のその後にスキャンされる係数の位置が検査される（１５２）。少なくとも１つの係数１１８が非ゼロエリア、すなわち、予め定められたサブエリア１０６の外側に位置する場合、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測される）。この条件は、図１３の右側上の簡易化されたシンタックス図に例示される（ＡｌｌＬｕｍａＣｏｅｆｆＯｕｔｓｉｄｅ１６ｘ１６ＡｒｅＺｅｒｏに関する条件を参照）。

【0124】

追加の変換、例えば、ＬＦＮＳＴを適用することができるケースでは、変換タイプの前にその選択がシグナリングされ（１５６）、それは、追加の変換が適用されることを示し、追加の変換と結合されることが許可された変換のサブセットのみがシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＬＦＮＳＴが適用されることをシグナリングするＬＦＮＳＴインデックスが０よりも大きい場合、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１３の両方の簡易化されたシンタックス図に例示される、ＤＣＴ－ＩＩに対応する）。

【0125】

追加の変換（例えば、ＬＦＮＳＴ）を適用することができるケースでは、変換タイプの後にその選択がシグナリングされ（１５６）、変換タイプは、追加の変換と結合されることが許可されない変換を示し、追加の変換の選択はシグナリングされないが、無効にされると推測される（例えば、非ＤＣＴ－ＩＩ変換が適用されることをシグナリングするＭＴＳインデックスが０よりも大きい場合、ＬＦＮＳＴインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、ＬＦＮＳＴを無効にすることに対応する）。

【0126】

２．サブブロック内で最初（最後）の有意係数位置の後、及び係数レベルの前の信号変換タイプ
カレント変換ブロック１０４内の最初（最後）の有意係数位置１０２がシグナリングされ（１００）、全ての係数が許可された変換の特定のサブセットに対して０に等しいことが必要とされるエリアの内側に位置した後、すなわち、最初（最後）の有意係数位置１０２が予め定められたサブエリア１０６の外側（例えば、上記説明された非ＤＣＴ－ＩＩ変換に対して１６×１６エリアの外側）に位置した後、非ゼロ要件を有さない許可された変換のサブセットのみ、例えば、図８に示されるように、利用可能な変換のセット１３０の利用可能な変換の第１のセット１３２の変換がシグナリングされてもよい。サブセットが１つの変換を包含するケースでは、シグナリングが必要ではなく、変換が推測される（例えば、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測される）。この条件は、図１４における両方の簡易化されたシンタックス図に例示される（１６×１６内のＬａｓｔＣｏｅｆｆＰｏｓＹに関する条件を参照）。

【0127】

図１４は、ｍｔｘ＿ｉｄｘによる変換選択に応じて修正済みサブブロック（ＳＢ）スキャニングによる簡易化されたインタックス図を示す。

【0128】

特定のエリア、すなわち、予め定められたサブエリア１０６の外側の全ての係数がゼロに等しいことを必要とする変換がシグナリングされるとき、図３の左側に示され、及び図７に示されるように、このエリア、すなわち、予め定められたサブエリア１０６の内側のサブブロック及び係数のみが、スキャニングパス１１４内にあるという様式においてスキャニング順序を変更する。この条件も、図１４における両方の簡易化されたシンタックス図において例示される（ｍｔｘ＿ｉｄｘ＞０についての条件を参照）。

【0129】

追加の変換、例えば、ＬＦＮＳＴを適用することができるケースでは、変換タイプの後にその選択１２４がシグナリングされ、変換タイプは、追加の変換、例えば、第２の一次専用変換の変換と組み合わされることが許可されない変換を示し、追加の変換の選択はシグナリングされないが、無効にされると推測される（例えば、ＭＴＳインデックスが０よりも大きい場合、非ＤＣＴ－ＩＩ変換がどの信号に適用されるかについて、ＬＦＮＳＴインデックスはシグナリングされず、代わりに０に等しいと推測され、それは、図１４の左側の簡易化されたシンタックス図に例示されるように、ＬＦＮＳＴを無効にすることに対応する）。

【0130】

前のケースに加えて、変換タイプのシグナリングは、図９に示されるように、コンテキスト適応エントロピコーディング２３０、例えば、コンテキスト適応バイナリ算術コーディング（ＣＡＢＡＣ）を使用して行われる。このケースでは、コンテキスト選択は、追加の変換（例えば、ＬＦＮＳＴ）を適用することを許可するか否かの条件に依存する。これは、最初（最後）の有意係数位置１０２から推測される、カレントブロック、すなわち、カレント変換係数ブロック１０４内の数２４０の非ゼロ係数であってもよい。追加の変換をＤＣ係数、すなわち、最後にスキャンされた位置１０１、すなわち、左上（０，０）ゼロ周波数位置に適用することが、同一のＤＣ係数を結果としてもたらす場合、１つのＤＣ係数のみがカレント変換ブロックに存在する場合、すなわち、最初にコーディングされた係数位置１０２が最後にスキャンされた位置１０１と一致するケースでは、そのような追加の変換を適用及びシグナリングすることは意味をなさない。よって、最後（最初）の有意位置が、スキャン順序における最初の位置及び最後の位置でもあるＤＣ位置を指し示す場合、追加の変換がシグナリングされる必要がなく、ＭＴＳインデックスについて特定のコンテキストＡ、例えば、第１の確率モデルが選択される。このケースは、図１０の右側に例示される。更に、乗算の回数に関して複雑度を低減させるために、スキャン順序１１０における追加の変換に対し、最初（最後）の有意位置１０２からＤＣ、すなわち、最後にスキャンされた位置１０１まで特定の最大数２４０の係数（例えば、８）が許可されてもよい。このケースは、図１０の左側に例示される。追加の変換を適用することができ、及び／またはインジケーションがシグナリングされる全ての他のケースでは、別のコンテキストＢ、例えば、第２の確率モデルが選択される。要するに、前の実施例に基づいたコンテキスト選択についての条件は、
・カレント変換ブロック１０４がＤＣよりも多くの非ゼロ係数を有し、ＤＣへの最後の有意位置からスキャン順序１１０において８以下の係数が存在する場合、コンテキストＡ、例えば、第２の確率モデル２３６_２を選択し、
・そうでなければ、コンテキストＢを選択する。

【0131】

別の実施例は、条件に応じて２よりも多いコンテキストを有し、
・カレント変換ブロック１０４がＤＣ以下の非ゼロ係数を有する場合、コンテキストＡ、すなわち、第１の確率モデル２３６_１を選択する。
・そうでなければ、最後の有意位置からＤＣへのスキャン順序において８以下の係数が存在する場合、コンテキストＢ、すなわち、第２の確率モデル２３６_２を選択する。
・そうでなければ、コンテキストＣ、すなわち、第３の確率モデル２３６_３を選択する。

【0132】

条件は、複数の変換ブロックにも適用されてもよく、例えば、ルマブロック及び２つのクロマブロックに対し、またはルマ変換ブロックが複数の（例えば、４）変換ブロックに分割されるケースでは１つよりも多いルマブロック対し、ＤＣよりも多い係数が存在する必要がある。

【0133】

図１０は、４個の４×４サブブロック及びスキャン順序における８個の非ゼロ係数の最大値を有する８ｘ８ブロック（左）、またはＤＣ位置において１つの非ゼロ係数のみを有する８ｘ８ブロック（右）を示す。

【0134】

追加の変換（例えば、ＬＦＮＳＴ）を適用することができるケースでは、変換タイプの前にその選択がシグナリングされ、変換タイプは、追加の変換が適用されることを示し、追加の変換結合されることが許可された変換のサブセットのみがシグナリングされてもよい。サブセットが１つの変換のみを包含するケースでは、シグナリングが必要なく、変換が推測される（例えば、ＬＦＮＳＴが適用されることをシグナリングするＬＦＮＳＴインデックスが０よりも大きい場合、ＭＴＳインデックスがシグナリングされず、代わりに、０に等しいと推測され、それは、図１４の右側上の簡易化されたシンタックス図に例示されるように、ＤＣＴ－ＩＩに対応する）。

【0135】

３．実装態様の実施例
図１１ａ及び１１ｂに示された、一次変換Ｔ_ｉ及びＴ_ｉ ^（ｐ）は、
・ＤＣＴ－ＩＩ（または、ＤＣＴ－ＩＩＩ）、ＤＣＴは、離散コサイン変換を表す
・ＤＳＴ－ＩＶ、ＤＳＴは、離散サイン変換を表す
・ＤＣＴ－ＩＶ
・ＤＳＴ－ＶＩＩ
・恒等変換
のうちの１つ以上を含んでもよい。

【0136】

一次変換Ｔ_ｉ及びＴ_ｉ ^（ｐ）は、分離可能変換であってもよい。

【0137】

二次変換Ｔ_ｉ（複数可）は、エンコーダにおいて前方方向において、最後の変換係数ブロック１０４の係数を得るためにサブエリア１０６内の一次変換のＴ_ｉ ^（ｐ）係数に適用される非分離可能変換であってもよく、デコーダは、サンプルブロック８４を取得するよう変換係数ブロック１０４に対して逆変換Ｔ^－１を適用することによって、結果として生じる多段階変換Ｔ_ｉ ^（ｓ）・Ｔ_ｉ ^（ｐ）を反転させる。

【0138】

以下の言及が行われるべきである。順序１１４及び１１０は、最高周波数係数（ＤＣ係数であってもよい最後にスキャンされた位置１０１に対するブロック１０４の反対隅に位置する）からの対角線スキャニング（水平及び垂直の）の示された実施例に限定されず、別のサブブロックに進む前に最初に、サブブロック内の全ての係数をスキャンするサブブロック方式スキャニング処理に従って係数をスキャンする必要はない。更に、サブアレイ１０６は、１６×１６係数の大きさであることに限定されず、最後のスキャニング位置１０１からブロック１０４内の反対の隅まで拡張する係数のいずれかの矩形サブアレイであってもよい。

【0139】

更に、図１１ａは、例示的であるにすぎない。１つよりも多い一次専用変換がセット１３２に包含されてもよい。これは、図１１ｂに表される。多段階変換の一次変換Ｔ_１ ^（ｐ）～Ｔ_Ｎ３ ^（ｐ）は、相互に等しくなくてもよいが、その１つ以上がセット１３２の一次専用変換に属することができる、セット１３６において異なる数を有してもよく、またはそうでなくてもよい。

【0140】

更に、図１１ａに例示的に示されるように、Ｔ_１ ^（ｐ）＝…＝Ｔ_Ｎ２ ^（ｐ）＝Ｔ_０のコンステレーションを単に理由として、一次専用変換を示さないケースでは、多段階変換が選択されることを示すとして、または一次専用変換を示さないケースでは、二次変換が選択されることを示すとしてインジケータ１２４を考慮することが可能である。代わりに、インジケータ１２４は、二次変換がなおも利用可能であるかどうかを示すとして解釈されてもよい。

【0141】

一部の態様が装置のコンテキストにおいて説明されてきたが、それらの態様は、ブロックまたはデバイスが方法ステップまたは方法ステップの特徴に対応する、対応する方法の説明をも表すことが明白である。同様に、方法ステップのコンテキストにおいて説明説明された態様は、対応する装置の対応するブロックもしくは項目または特徴の説明をも表す。方法ステップの一部または全ては、例えば、マイクロプロセッサ、プログラマブルコンピュータ、または電子回路のようなハードウェア装置によって（または、使用して）実行されてもよい。いくつかの実施形態では、最も重要な方法ステップのうちの１つ以上は、そのような装置によって実行されてもよい。

【0142】

ビデオ信号などの発明の符号化済み信号は、デジタル記憶媒体に記憶されてもよく、インターネットなどの無線伝送媒体もしくは有線伝送媒体などの伝送媒体上で伝送されてもよい。

【0143】

特定の実施態様の要件に応じて、発明の実施形態は、ハードウェアまたはソフトウェアにおいて実装されてもよい。実施態様は、それぞれの方法が実行されるように、プログラマブルコンピュータシステムと協働する（または、協働することが可能な）、そこに記憶された電子可読制御信号を有する、例えば、デジタル記憶媒体、フロッピーディスク、ＤＶＤ、Ｂｌｕ－Ｒａｙ、ＣＤ、ＲＯＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、またはフラッシュメモリを使用して実行されてもよい。したがって、デジタル記憶媒体は、コンピュータ可読であってもよい。

【0144】

発明に従ったいくつかの実施形態は、本明細書で説明される方法の１つが実行されるように、プログラマブルコンピュータシステムと協働することが可能な、電子的可読制御信号を有するデータキャリアを含む。

【0145】

概して、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実装されてもよく、プログラムコードは、コンピュータプログラム製品がコンピュータ上で稼働するとき、方法の１つを実行するように動作可能である。プログラムコードは、例えば、機械可読キャリアに記憶されてもよい。

【0146】

他の実施形態は、機械可読キャリアに記憶された、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを含む。

【0147】

言い換えると、発明の方法の実施形態はしたがって、コンピュータプログラムがコンピュータ上で稼働するとき、本明細書で説明される方法の１つを実行するためのプログラムコードを有するコンピュータプログラムである。

【0148】

発明の方法の更なる実施形態はしたがって、本明細書で説明される方法の１つを実行するための、そこに記録されたコンピュータプログラムを含むデータキャリア（または、デジタル記憶媒体またはコンピュータ可読媒体）である。データキャリア、デジタル記憶媒体、または記録された媒体は典型的には、有形及び／または非一時的である。

【0149】

発明の方法の更なる実施形態はしたがって、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを表すデータストリームまたは信号のシーケンスである。データストリームまたは信号のシーケンスは、データ通信接続を介して、例えば、インターネットを介して転送されるように構成されてもよい。

【0150】

更なる実施形態は、本明細書で説明される方法の１つを実行するように構成され、または実行するように適合された処理手段、例えば、コンピュータまたはプログラマブル論理デバイスを含む。

【0151】

更なる実施形態は、本明細書で説明される方法の１つを実行するためのコンピュータプログラムをそこにインストールしたコンピュータを含む。

【0152】

発明に従った更なる実施形態は、受信機に、本明細書で説明される方法の１つを実行するためのコンピュータプログラムを転送するように構成された（例えば、電子的にまたは光学的に）装置またはシステムを含む。受信機は、コンピュータ、モバイルデバイス、またはメモリデバイスなどであってもよい。装置またはシステムは、例えば、受信機にコンピュータプログラムを転送するためのファイルサーバを含んでもよい。

【0153】

いくつかの実施形態では、本明細書で説明される方法の機能性の一部または全てを実行するために、プログラマブル論理デバイス（例えば、フィールドプログラマブルゲートアレイ）が使用されてもよい。いくつかの実施形態では、フィールドプログラマブルゲートアレイは、本明細書で説明される方法の１つを実行するために、マイクロプロセッサを協働してもよい。概して、方法は好ましくは、いずれかのハードウェア装置によって実行される。

【0154】

本明細書で説明される装置は、ハードウェア装置を使用して、またはコンピュータを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実装されてもよい。

【0155】

本明細書で説明される装置、または本明細書で説明される装置の構成要素は、ハードウェア及び／またはソフトウェアにおいて少なくとも部分的に実装されてもよい。

【0156】

本明細書で説明される方法は、ハードウェア装置を使用して、またはコンピュータタを使用して、またはハードウェア装置及びコンピュータの組み合わせを使用して実行されてもよい。

【0157】

本明細書で説明される方法、または本明細書で説明される装置の構成要素は、ハードウェア及び／またはソフトウェアにおいて少なくとも部分的に実装されてもよい。

【0158】

上記説明された実施形態は、本発明の原理について例示するにすぎない。本明細書で説明される配列及び詳細の修正及び変形が当業者にとって明らかであることが理解されよう。したがって、係属している特許請求の範囲によってのみ限定され、本明細書における実施形態の記載及び説明によって提示された特定の詳細によっては限定されないことを意図している。

【手続補正2】

【補正対象書類名】特許請求の範囲

【補正対象項目名】全文

【補正方法】変更

【補正の内容】

【特許請求の範囲】

【請求項1】

データストリーム（１４）からブロック（８４）の変換済み表現を復号するデコーダ（２０）であって、前記デコーダ（２０）は、
前記データストリーム（１４）から係数位置情報（１００）を復号することであって、前記係数位置情報（１００）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）と、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換のセット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を決定することと、
決定された前記変換（１３１）を使用して、第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を復号すること（１０９）と、
前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の前記変換係数の前記値がゼロであると推測することと、
を行うように構成される、デコーダ（２０）。

【請求項2】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記データストリームにおいて伝送された変換情報（１０８）を使用して、前記変換係数ブロック（１０４）の下層の前記変換（１３１）が利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の前記第１のセット（１３２）または利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の前記第２のセット（１３４）内にあるかどうかを検査すること（１１１）と、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の値を復号し（１０９）、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）の前記値がゼロであると推測することと、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア（１０６）内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置（１０２）から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の前記値を復号し（１１３）、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１６）及び前記予め定められたサブエリア（１０６）の外側に位置する前記変換係数ブロック（１０４）の前記変換係数の前記値がゼロであると推測することと、
を行うように構成される、
請求項１に記載のデコーダ（２０）。

【請求項3】

前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリア（１０６）の外側のいずれの変換係数（１１８）をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
請求項２に記載のデコーダ（２０）。

【請求項4】

前記ブロック（８４）を取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成される、請求項１～３のいずれか一項に記載のデコーダ（２０）。

【請求項5】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記ブロックを使用するように構成される、請求項１～４のいずれか一項に記載のデコーダ（２０）。

【請求項6】

データストリーム（１４）にブロック（８４）の変換済み表現を符号化するエンコーダ（１０）であって、
前記データストリーム（１４）に係数位置情報（１００）を符号化することであって、前記係数位置情報（１００）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）と、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換のセット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を決定することと、
第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を符号化すること（１０９）であって、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の前記変換係数の前記値がゼロである、符号化することと、
を行うように構成される、エンコーダ（１０）。

【請求項7】

前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の内側に位置する場合、
前記変換係数ブロック（１０４）の下層の変換（１３１）が利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の前記第１のセット（１３２）または利用可能な変換の前記セット（１３０）の１つ以上の利用可能な変換の第２のセット（１３４）内にあるかどうかを検査すること（１１１）と、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が、１つ以上の利用可能な変換の前記第１のセット（１３２）内にある場合、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の前記変換係数の値を符号化すること（１０９）であって、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１２）がゼロである、符号化することと、
前記変換係数ブロック（１０４）の下層の前記変換（１３１）が１つ以上の利用可能な変換の前記第２のセット（１３４）内にある場合、前記予め定められたサブエリア（１０６）内に位置し、第２の係数スキャン順序（１１４）に従って、前記最初にコーディングされた係数位置から前記最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を符号化すること（１１３）であって、前記第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の変換係数（１１６）及び前記予め定められたサブエリア（１０６）の外側に位置する前記変換係数ブロック（１０４）の変換係数がゼロである、符号化することと、
を行うように構成される、
請求項６に記載のエンコーダ（１０）。

【請求項8】

前記変換係数ブロック（１０４）に従った前記変換係数ブロック（１０４）の下層の前記変換（１３１）は、前記変換済み表現を定義し、
前記第２の係数スキャン順序（１１４）は、前記予め定められたサブエリア（１０６）内の前記変換係数の間の前記予め定められたサブエリアの外側のいずれの変換係数をもスキャンすることなく、前記予め定められたサブエリア（１０６）内の前記変換係数をスキャンし、前記第１の係数スキャン順序（１１０）は、前記予め定められたサブエリア（１０６）の内側に位置する２つの変換係数（１２０）の間の前記第１の係数スキャン順序（１１０）によってスキャンされた前記予め定められたサブエリア（１０６）の外側に１つ以上の変換係数（１１８）が存在するような方式において前記変換係数をスキャンする、
請求項７に記載のエンコーダ（１０）。

【請求項9】

前記ブロック（８４）を取得するように、前記変換係数ブロックの下層の前記変換（１３１）を反転させる逆変換を前記変換係数ブロック（１０４）に受けさせるように構成されたフィードバックループを備える、請求項６～８のいずれか一項に記載のエンコーダ（１０）。

【請求項10】

前記変換係数ブロック（１０４）を取得するように、前記変換係数ブロック（１０４）の下層の前記変換（１３１）を前記ブロック（８４）に受けさせるように更に構成される、請求項６～９のいずれか一項に記載のエンコーダ（１０）。

【請求項11】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号を補正するために前記ブロック（８４）を使用するように構成されたフィードバックループを備えた、請求項６～１０のいずれか一項に記載のエンコーダ（１０）。

【請求項12】

イントラピクチャ予測またはインターピクチャ予測によって得られた予測信号の予測残差を導出し、前記予測残差を表す前記ブロック（８４）を決定するように構成される、請求項６～１１のいずれか一項に記載のエンコーダ（１０）。

【請求項13】

データストリーム（１４）からブロック（８４）の変換済み表現を復号する方法であって、
前記データストリーム（１４）から係数位置情報（１００）を復号することであって、前記係数位置情報（１００）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記復号することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）と、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換のセット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を決定することと、
前記決定された変換（１３１）を使用して、第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置（１０２）から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を復号すること（１０９）と、
前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の前記変換係数の前記値がゼロであると推測することと、
を備える、方法。

【請求項14】

データストリーム（１４）にブロック（８４）の変換済み表現を符号化する方法であって、
前記データストリーム（１４）に係数位置情報（１００）を符号化することであって、前記係数位置情報（１００）は、変換係数ブロック（１０４）内の最初にコーディングされた係数位置（１０２）を示す、前記符号化することと、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロックの予め定められたサブエリア（１０６）内に位置するかどうかを検査すること（１０７）と、
前記最初にコーディングされた係数位置（１０２）が前記変換係数ブロック（１０４）の前記予め定められたサブエリア（１０６）の外側に位置する場合、
利用可能な変換のセット（１３０）から、１つ以上の利用可能な変換の第２のセット（１３４）を取り除くことによって、利用可能な変換の前記セット（１３０）を１つ以上の利用可能な変換の第１のセット（１３２）まで低減させ、１つ以上の利用可能な変換の前記第１のセット（１３２）から前記変換係数ブロック（１０４）の下層の前記変換（１３１）を決定することと、
第１の係数スキャン順序（１１０）に従って、前記最初にコーディングされた係数位置から最後にスキャンされた位置（１０１）の方に位置する前記変換係数ブロック（１０４）の変換係数の値を符号化すること（１０９）であって、前記第１の係数スキャン順序に従って、前記最初にコーディングされた係数位置（１０２）の上流に位置する前記変換係数ブロック（１０４）の前記変換係数がゼロである、符号化することと、
を備える方法。

【請求項15】

コンピュータ上で稼働するとき、請求項１３または１４に記載の方法を実行するためのプログラムコードを有するコンピュータプログラム。

【請求項16】

請求項１４に記載の方法を含むビデオコーディング方法を使用して符号化されたビデオを記憶するデータストリーム。

【国際調査報告】