特許 6726334 画像処理装置および画像処理方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6726334

(24)【登録日】2020年6月30日

(45)【発行日】2020年7月22日

(54)【発明の名称】画像処理装置および画像処理方法

(51)【国際特許分類】

   H04N 19/463 20140101AFI20200713BHJP

   H04N 19/70 20140101ALI20200713BHJP

【ＦＩ】

   H04N19/463

   H04N19/70

【請求項の数】10

【全頁数】50

(21)【出願番号】特願2019-84250(P2019-84250)

(22)【出願日】2019年4月25日

(62)【分割の表示】特願2017-175724(P2017-175724)の分割

【原出願日】2012年1月18日

(65)【公開番号】特開2019-165468(P2019-165468A)

(43)【公開日】2019年9月26日

【審査請求日】2019年4月25日

(31)【優先権主張番号】特願2011-27896(P2011-27896)

(32)【優先日】2011年2月10日

(33)【優先権主張国】JP

(31)【優先権主張番号】特願2011-47655(P2011-47655)

(32)【優先日】2011年3月4日

(33)【優先権主張国】JP

(31)【優先権主張番号】特願2011-187179(P2011-187179)

(32)【優先日】2011年8月30日

(33)【優先権主張国】JP

(73)【特許権者】

【識別番号】517189537

【氏名又は名称】ヴェロス メディア インターナショナル リミテッド

【氏名又は名称原語表記】Ｖｅｌｏｓ Ｍｅｄｉａ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｌｉｍｉｔｅｄ

(74)【代理人】

【識別番号】110002952

【氏名又は名称】特許業務法人鷲田国際特許事務所

(72)【発明者】

【氏名】田中 潤一

【審査官】 坂東 大五郎

(56)【参考文献】

【文献】 特表２００７−５２０１６５（ＪＰ，Ａ）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ １９／００−１９／９８

(57)【特許請求の範囲】

【請求項1】

符号化ビットストリームを受信し、
第２の識別値を有する現在の量子化行列がコピー元の量子化行列をコピーすることにより生成されるか否かを示す、第１の情報を前記符号化ビットストリームから復号し、
前記現在の量子化行列が前記コピー元の量子化行列をコピーすることにより生成されることを前記第１の情報が示す場合：
第１の識別値を示す第２の情報を復号し、
前記第１の識別値が前記第２の識別値に等しくない場合、少なくとも部分的に前記第１の識別値に基づいて、または、前記第１の識別値と行列のサイズおよび行列のタイプの少なくとも１つとに基づいて、コピー元の量子化行列を識別し、
前記第１の識別値が前記第２の識別値に等しい場合、規定の行列を前記コピー元の量子化行列として使用し、
前記コピー元の量子化行列をコピーすることによって現在の量子化行列を生成し、
前記現在の量子化行列を使用して画像を処理する、
ように構成された回路を備える、
画像処理装置。

【請求項2】

前記行列のタイプは、予測モードおよび色成分の少なくとも１つの組み合わせを含む、
請求項１に記載の画像処理装置。

【請求項3】

前記予測モードおよび前記色成分の少なくとも１つの組み合わせは、ルマ成分のイントラ予測と、クロマ成分のイントラ予測と、ルマ成分のインター予測と、クロマ成分のインター予測と、を含む、
請求項２に記載の画像処理装置。

【請求項4】

前記予測モードおよび前記色成分の少なくとも１つの組み合わせは、Ｙ成分のイントラ予測と、Ｃｂ成分のイントラ予測と、Ｃｒ成分のイントラ予測と、Ｙ成分のインター予測と、Ｃｂ成分のインター予測と、Ｃｒ成分のインター予測と、を含む、
請求項２に記載の画像処理装置。

【請求項5】

前記第２の識別値を有する現在の量子化行列が前記コピー元の量子化行列をコピーすることによって生成されないことを前記第１の情報が示す場合、
前記現在の量子化行列を復号し、
復号された前記現在の量子化行列を使用して前記画像を処理する、
ようにさらに構成される、請求項１に記載の画像処理装置。

【請求項6】

符号化ビットストリームを受信するステップと、
第２の識別値を有する現在の量子化行列がコピー元の量子化行列をコピーすることにより生成されるか否かを示す、第１の情報を前記符号化ビットストリームから復号するステップと、
前記現在の量子化行列が前記コピー元の量子化行列をコピーすることにより生成されることを前記第１の情報が示す場合：
第１の識別値を示す第２の情報を復号し、
前記第１の識別値が前記第２の識別値に等しくない場合、少なくとも部分的に前記第１の識別値に基づいて、または、前記第１の識別値と行列のサイズおよび行列のタイプの少なくとも１つとに基づいて、コピー元の量子化行列を識別し、
前記第１の識別値が前記第２の識別値に等しい場合、規定の行列を前記コピー元の量子化行列として使用するステップと、
前記コピー元の量子化行列をコピーすることによって現在の量子化行列を生成し、
前記現在の量子化行列を使用して画像を処理するステップと、
を備える、
画像処理方法。

【請求項7】

前記行列のタイプは、予測モードおよび色成分の少なくとも１つの組み合わせを含む、
請求項６に記載の画像処理方法。

【請求項8】

前記予測モードおよび前記色成分の少なくとも１つの組み合わせは、ルマ成分のイントラ予測と、クロマ成分のイントラ予測と、ルマ成分のインター予測と、クロマ成分のインター予測と、を含む、
請求項７に記載の画像処理方法。

【請求項9】

前記予測モードおよび前記色成分の少なくとも１つの組み合わせは、Ｙ成分のイントラ予測と、Ｃｂ成分のイントラ予測と、Ｃｒ成分のイントラ予測と、Ｙ成分のインター予測と、Ｃｂ成分のインター予測と、Ｃｒ成分のインター予測と、を含む、
請求項７に記載の画像処理方法。

【請求項10】

前記第２の識別値を有する現在の量子化行列が前記コピー元の量子化行列をコピーすることによって生成されないことを前記第１の情報が示す場合、
前記現在の量子化行列を復号し、
復号された前記現在の量子化行列を使用して前記画像を処理する、
請求項６に記載の画像処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、装置、方法、コンピュータ読取可能な媒体に関する。

【背景技術】

【0002】

画像符号化方式の標準仕様の１つであるＨ．２６４／ＡＶＣでは、High Profile以上のプロファイルにおいて、画像データの量子化の際に、直交変換係数の成分ごとに異なる量子化ステップを用いることができる。直交変換係数の成分ごとの量子化ステップ（あるいは量子化スケール）は、直交変換の単位と同等のサイズで定義される量子化行列（スケーリングリストともいう）及び基準のステップ値に基づいて設定され得る。

【0003】

図３８は、Ｈ．２６４／ＡＶＣにおいて予め定義されている４種類の既定の量子化行列を示している。行列ＳＬ１は、イントラ予測モードの４×４の既定の量子化行列である。行列ＳＬ２は、インター予測モードの４×４の既定の量子化行列である。行列ＳＬ３は、イントラ予測モードの８×８の既定の量子化行列である。行列ＳＬ４は、インター予測モードの８×８の既定の量子化行列である。また、ユーザは、シーケンスパラメータセット又はピクチャパラメータセットにおいて、図３８に示した既定の行列とは異なる独自の量子化行列を定義することができる。なお、量子化行列の指定が無い場合には、全ての成分について等しい量子化ステップを有するフラットな量子化行列が使用され得る。

【0004】

Ｈ．２６４／ＡＶＣに続く次世代の画像符号化方式として標準化が進められているＨＥＶＣ（High Efficiency Video Coding）では、従来のマクロブロックに相当する符号化単位（ＣＵ：Coding Unit）という概念が導入されている（下記非特許文献１参照）。符号化単位のサイズの範囲は、シーケンスパラメータセットにおいて、ＬＣＵ（Largest Coding Unit）及びＳＣＵ（Smallest Coding Unit）という２のべき乗の値の組で指定される。そして、split_flagを用いて、ＬＣＵ及びＳＣＵで指定された範囲内の具体的な符号化単位のサイズが特定される。

【0005】

ＨＥＶＣでは、１つの符号化単位は、１つ以上の直交変換の単位、即ち１つ以上の変換単位（Transform Unit：ＴＵ）に分割され得る。変換単位のサイズとしては、４×４、８×８、１６×１６及び３２×３２のいずれかが利用可能である。従って、量子化行列もまた、これら変換単位の候補のサイズごとに指定され得る。下記非特許文献２は、１ピクチャ内で１つの変換単位のサイズについて複数の量子化行列の候補を指定し、ＲＤ（Rate-Distortion）の最適化の観点でブロックごとに適応的に量子化行列を選択することを提案している。

【先行技術文献】

【非特許文献】

【0006】

【非特許文献1】JCTVC-B205,“Test Model under Consideration”,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 2nd Meeting: Geneva, CH, 21-28 July, 2010

【非特許文献2】VCEG-AD06, “Adaptive Quantization Matrix Selection on KTA Software”,ITU-Telecommunications Standardization Sector STU DY GROUP 16 Question 6 Video Coding Experts Group (VCEG) 30th Meeting: Hangzhou, China,23-24 October,2006

【発明の概要】

【発明が解決しようとする課題】

【0007】

しかしながら、量子化及び逆量子化に適した量子化行列は、映像に含まれる各画像の特性に応じて異なる。そのため、時々刻々と画像特性の変化する映像を最適な量子化行列で符号化しようとすると、量子化行列の更新の頻度が高くなる。量子化行列は、Ｈ．２６４／ＡＶＣでは、シーケンスパラメータセット（ＳＰＳ）又はピクチャパラメータセット（ＰＰＳ）内で定義される。従って、量子化行列の更新の頻度が高まれば、符号化ストリームに占めるＳＰＳ又はＰＰＳの割合が増加する。これは、オーバヘッドの増大によって符号化効率が低下することを意味する。このような量子化行列の更新に伴う符号化効率の低下は、量子化行列のサイズがより大きくなり、ピクチャごとに幾通りもの量子化行列が定義され得るＨＥＶＣでは、一層顕著となる恐れがある。

【0008】

従って、量子化行列の更新に伴う符号化効率の低下を緩和することのできる仕組みが提供されることが望ましい。

【課題を解決するための手段】

【0009】

本開示によれば、第１識別情報により識別される第１の量子化行列と同じ量子化行列として第２識別情報により識別される第２の量子化行列を生成するか否かを識別する第３識別情報を含む符号化ストリームから、前記第３識別情報を取得する取得部と、前記符号化ストリームを復号して量子化データを生成する復号部と、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２識別情報により識別される前記第２の量子化行列を生成することが、前記取得部により取得される前記第３識別情報により示される場合に、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２の量子化行列を生成する生成部と、前記生成部により生成される前記第２の量子化行列を用いて、前記復号部により生成される前記量子化データを逆量子化する逆量子化部と、を備える画像処理装置が提供される。

【0010】

上記画像処理装置は、典型的には、画像を復号する画像復号装置として実現され得る。

【0011】

また、本開示によれば、第１識別情報により識別される第１の量子化行列と同じ量子化行列として第２識別情報により識別される第２の量子化行列を生成するか否かを識別する第３識別情報を含む符号化ストリームから、前記第３識別情報を取得することと、前記符号化ストリームを復号して量子化データを生成することと、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２識別情報により識別される前記第２の量子化行列を生成することが、取得される前記第３識別情報により示される場合に、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２の量子化行列を生成することと、生成される前記第２の量子化行列を用いて、生成される前記量子化データを逆量子化することと、を含む画像処理方法が提供される。

【0012】

上記画像処理装置は、典型的には、画像を復号する画像復号方法として実現され得る。

【0013】

また、本開示によれば、コンピュータを、第１識別情報により識別される第１の量子化行列と同じ量子化行列として第２識別情報により識別される第２の量子化行列を生成するか否かを識別する第３識別情報を含む符号化ストリームから、前記第３識別情報を取得する取得部と、前記符号化ストリームを復号して量子化データを生成する復号部と、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２識別情報により識別される前記第２の量子化行列を生成することが、前記取得部により取得される前記第３識別情報により示される場合に、前記第１識別情報により識別される前記第１の量子化行列と同じ量子化行列として前記第２の量子化行列を生成する生成部と、前記生成部により生成される前記第２の量子化行列を用いて、前記復号部により生成される前記量子化データを逆量子化する逆量子化部と、として機能させるためのプログラムが提供される。

【0014】

また、本開示によれば、上述したプログラムを記録した、コンピュータ読取可能な媒体が提供される。

【発明の効果】

【0015】

本開示に係る技術によれば、量子化行列の更新に伴う符号化効率の低下を緩和することができる。

【図面の簡単な説明】

【0016】

【図1】一実施形態に係る画像符号化装置の構成の一例を示すブロック図である。

【図2】図１に示したシンタックス処理部の詳細な構成の一例を示すブロック図である。

【図3】一実施形態において量子化行列パラメータセットに含まれるパラメータの一例を示す説明図である。

【図4】一実施形態においてスライスヘッダに含まれるパラメータの一例を示す説明図である。

【図5】一実施形態に係るパラメータセット挿入処理の流れの一例を示すフローチャートである。

【図6】一実施形態に係る手法と既存の手法との間のストリーム構成の違いについて説明するための説明図である。

【図7】一実施形態に係る画像復号装置の構成の一例を示すブロック図である。

【図8】図７に示したシンタックス処理部の詳細な構成の一例を示すブロック図である。

【図9】一実施形態に係る量子化行列生成処理の流れの一例を示すフローチャートである。

【図10】一実施形態に係るコピーモードでの処理の詳細な流れの一例を示すフローチャートである。

【図11】一実施形態に係る軸指定モードでの処理の詳細な流れの一例を示すフローチャートである。

【図12】一実施形態に係るスライスへの量子化行列設定処理の流れの一例を示すフローチャートである。

【図13】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第１の例を示す第１の説明図である。

【図14】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第１の例を示す第２の説明図である。

【図15】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第１の例を示す第３の説明図である。

【図16】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第２の例を示す第１の説明図である。

【図17】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第２の例を示す第２の説明図である。

【図18】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第２の例を示す第３の説明図である。

【図19】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第２の例を示す第４の説明図である。

【図20】量子化行列パラメータセットのシンタックスを表現する例示的な擬似コードの第２の例を示す第５の説明図である。

【図21】量子化行列の量子化のために定義される量子化スケール設定領域の一例を示す説明図である。

【図22】図２１に例示した各量子化スケール設定領域に設定される量子化スケールの一例を示す説明図である。

【図23】ＬＣＥＣにおいて用意されている１１通りのＶＬＣテーブルについて説明するための説明図である。

【図24】ＡＰＳを利用する第１の手法に従って構成される符号化ストリームの一例を示す説明図である。

【図25】ＡＰＳを利用する第１の手法に従って定義されるＡＰＳのシンタックスの一例を示す説明図である。

【図26】ＡＰＳを利用する第１の手法に従って定義されるスライスヘッダのシンタックスの一例を示す説明図である。

【図27】ＡＰＳを利用する第１の手法の一変形例に従って定義されるＡＰＳのシンタックスの一例を示す説明図である。

【図28】ＡＰＳを利用する第２の手法に従って構成される符号化ストリームの一例を示す説明図である。

【図29】ＡＰＳを利用する第３の手法に従って構成される符号化ストリームの一例を示す説明図である。

【図30】ＡＰＳを利用する第３の手法に従って定義されるＡＰＳのシンタックスの一例を示す説明図である。

【図31】ＡＰＳを利用する第３の手法に従って定義されるスライスヘッダのシンタックスの一例を示す説明図である。

【図32】代表的な符号化ツールごとのパラメータの特徴を一覧化した表である。

【図33】ＡＰＳを利用する第３の手法の一変形例に従って構成される符号化ストリームの一例について説明するための説明図である。

【図34】テレビジョン装置の概略的な構成の一例を示すブロック図である。

【図35】携帯電話機の概略的な構成の一例を示すブロック図である。

【図36】記録再生装置の概略的な構成の一例を示すブロック図である。

【図37】撮像装置の概略的な構成の一例を示すブロック図である。

【図38】Ｈ．２６４／ＡＶＣにおいて予め定義されている既定の量子化行列を示す説明図である。

【発明を実施するための形態】

【0017】

以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付すことにより重複説明を省略する。

【0018】

また、以下の順序で説明を行う。
１．一実施形態に係る画像符号化装置の構成例
１−１．全体的な構成例
１−２．シンタックス処理部の構成例
１−３．パラメータ構成例
２．一実施形態に係る符号化時の処理の流れ
３．一実施形態に係る画像復号装置の構成例
３−１．全体的な構成例
３−２．シンタックス処理部の構成例
４．一実施形態に係る復号時の処理の流れ
４−１．量子化行列の生成
４−２．スライスへの量子化行列の設定
５．シンタックスの例
５−１．第１の例
５−２．第２の例
６．パラメータセットの様々な構成例
６−１．第１の手法
６−２．第１の手法の変形例
６−３．第２の手法
６−４．第３の手法
６−５．第３の手法の変形例
７．応用例
８．まとめ

【0019】

＜１．一実施形態に係る画像符号化装置の構成例＞
本節では、一実施形態に係る画像符号化装置の構成例について説明する。

【0020】

［１−１．全体的な構成例］
図１は、一実施形態に係る画像符号化装置１０の構成の一例を示すブロック図である。図１を参照すると、画像符号化装置１０は、Ａ／Ｄ（Analogue to Digital）変換部１１、並び替えバッファ１２、シンタックス処理部１３、減算部１４、直交変換部１５、量子化部１６、可逆符号化部１７、蓄積バッファ１８、レート制御部１９、逆量子化部２１、逆直交変換部２２、加算部２３、デブロックフィルタ２４、フレームメモリ２５、セレクタ２６、イントラ予測部３０、動き探索部４０、及びモード選択部５０を備える。

【0021】

Ａ／Ｄ変換部１１は、アナログ形式で入力される画像信号をデジタル形式の画像データに変換し、一連のデジタル画像データを並び替えバッファ１２へ出力する。

【0022】

並び替えバッファ１２は、Ａ／Ｄ変換部１１から入力される一連の画像データに含まれる画像を並び替える。並び替えバッファ１２は、符号化処理に係るＧＯＰ（Group of Pictures）構造に応じて画像を並び替えた後、並び替え後の画像データをシンタックス処理部１３へ出力する。

【0023】

並び替えバッファ１２からシンタックス処理部１３へ出力される画像データは、ＮＡＬ（Network Abstraction Layer：ネットワーク抽象レイヤ）ユニットという単位でビットストリームへマッピングされる。画像データのストリームは、１つ以上のシーケンスを含む。シーケンスの先頭のピクチャは、ＩＤＲ（Instantaneous Decoding Refresh）ピクチャと呼ばれる。各シーケンスは１つ以上のピクチャを含み、さらに各ピクチャは１つ以上のスライスを含む。Ｈ．２６４／ＡＶＣ及びＨＥＶＣでは、これらスライスが映像の符号化及び復号の基本的な単位である。各スライスのデータは、ＶＣＬ（Video Coding Layer：ビデオ符号化レイヤ） ＮＡＬユニットとして認識される。

【0024】

シンタックス処理部１３は、並び替えバッファ１２から入力される画像データのストリーム内のＮＡＬユニットを順次認識し、ヘッダ情報を格納する非ＶＣＬ ＮＡＬユニットをストリームに挿入する。シンタックス処理部１３がストリームに挿入する非ＶＣＬ ＮＡＬユニットは、シーケンスパラメータセット（ＳＰＳ：Sequence Parameter Set）及びピクチャパラメータセット（ＰＰＳ：Picture Parameter Set）を含む。さらに、本実施形態において、シンタックス処理部１３は、ＳＰＳ及びＰＰＳとは異なる非ＶＣＬ ＮＡＬユニットである量子化行列パラメータセット（ＱＭＰＳ：Quantization Matrix Parameter Set）をストリームに挿入する。また、シンタックス処理部１３は、スライスの先頭にスライスヘッダ（ＳＨ：Slice Header）を付加する。そして、シンタックス処理部１３は、ＶＣＬ ＮＡＬユニット及び非ＶＣＬ ＮＡＬユニットを含む画像データのストリームを、減算部１４、イントラ予測部３０及び動き探索部４０へ出力する。シンタックス処理部１３の詳細な構成について、後にさらに説明する。

【0025】

減算部１４には、シンタックス処理部１３から入力される画像データ、及び後に説明するモード選択部５０により選択される予測画像データが供給される。減算部１４は、シンタックス処理部１３から入力される画像データとモード選択部５０から入力される予測画像データとの差分である予測誤差データを算出し、算出した予測誤差データを直交変換部１５へ出力する。

【0026】

直交変換部１５は、減算部１４から入力される予測誤差データについて直交変換を行う。直交変換部１５により実行される直交変換は、例えば、離散コサイン変換（Discrete Cosine Transform：ＤＣＴ）又はカルーネン・レーベ変換などであってよい。直交変換部１５は、直交変換処理により取得される変換係数データを量子化部１６へ出力する。

【0027】

量子化部１６は、直交変換部１５から入力される変換係数データを量子化行列を用いて量子化し、量子化後の変換係数データ（以下、量子化データという）を可逆符号化部１７及び逆量子化部２１へ出力する。量子化データのビットレートは、レート制御部１９からのレート制御信号に基づいて制御される。量子化部１６により使用される量子化行列は、量子化行列パラメータセット内で定義され、スライスごとにスライスヘッダ内で指定され得る。量子化行列が指定されない場合には、全ての成分について等しい量子化ステップを有するフラットな量子化行列が使用される。

【0028】

可逆符号化部１７は、量子化部１６から入力される量子化データについて可逆符号化処理を行うことにより、符号化ストリームを生成する。可逆符号化部１７による可逆符号化は、例えば、可変長符号化、又は算術符号化などであってよい。また、可逆符号化部１７は、モード選択部５０から入力されるイントラ予測に関する情報又はインター予測に関する情報を、符号化ストリームのヘッダ内に多重化する。そして、可逆符号化部１７は、生成した符号化ストリームを蓄積バッファ１８へ出力する。

【0029】

蓄積バッファ１８は、可逆符号化部１７から入力される符号化ストリームを半導体メモリなどの記憶媒体を用いて一時的に蓄積する。そして、蓄積バッファ１８は、蓄積した符号化ストリームを、伝送路の帯域に応じたレートで、図示しない伝送部（例えば、通信インタフェース又は周辺機器との接続インタフェースなど）へ出力する。

【0030】

レート制御部１９は、蓄積バッファ１８の空き容量を監視する。そして、レート制御部１９は、蓄積バッファ１８の空き容量に応じてレート制御信号を生成し、生成したレート制御信号を量子化部１６へ出力する。例えば、レート制御部１９は、蓄積バッファ１８の空き容量が少ない時には、量子化データのビットレートを低下させるためのレート制御信号を生成する。また、例えば、レート制御部１９は、蓄積バッファ１８の空き容量が十分大きい時には、量子化データのビットレートを高めるためのレート制御信号を生成する。

【0031】

逆量子化部２１は、量子化部１６から入力される量子化データについて、量子化行列を用いて逆量子化処理を行う。そして、逆量子化部２１は、逆量子化処理により取得される変換係数データを、逆直交変換部２２へ出力する。

【0032】

逆直交変換部２２は、逆量子化部２１から入力される変換係数データについて逆直交変換処理を行うことにより、予測誤差データを復元する。そして、逆直交変換部２２は、復元した予測誤差データを加算部２３へ出力する。

【0033】

加算部２３は、逆直交変換部２２から入力される復元された予測誤差データとモード選択部５０から入力される予測画像データとを加算することにより、復号画像データを生成する。そして、加算部２３は、生成した復号画像データをデブロックフィルタ２４及びフレームメモリ２５へ出力する。

【0034】

デブロックフィルタ２４は、画像の符号化時に生じるブロック歪みを減少させるためのフィルタリング処理を行う。デブロックフィルタ２４は、加算部２３から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データをフレームメモリ２５へ出力する。

【0035】

フレームメモリ２５は、加算部２３から入力される復号画像データ、及びデブロックフィルタ２４から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。

【0036】

セレクタ２６は、イントラ予測のために使用されるフィルタリング前の復号画像データをフレームメモリ２５から読み出し、読み出した復号画像データを参照画像データとしてイントラ予測部３０に供給する。また、セレクタ２６は、インター予測のために使用されるフィルタリング後の復号画像データをフレームメモリ２５から読み出し、読み出した復号画像データを参照画像データとして動き探索部４０に供給する。

【0037】

イントラ予測部３０は、シンタックス処理部１３から入力される符号化対象の画像データ、及びセレクタ２６を介して供給される復号画像データに基づいて、各イントラ予測モードのイントラ予測処理を行う。例えば、イントラ予測部３０は、各イントラ予測モードによる予測結果を所定のコスト関数を用いて評価する。そして、イントラ予測部３０は、コスト関数値が最小となるイントラ予測モード、即ち圧縮率が最も高くなるイントラ予測モードを、最適なイントラ予測モードとして選択する。さらに、イントラ予測部３０は、当該最適なイントラ予測モードを示す予測モード情報、予測画像データ、及びコスト関数値などのイントラ予測に関する情報を、モード選択部５０へ出力する。

【0038】

動き探索部４０は、シンタックス処理部１３から入力される符号化対象の画像データ、及びセレクタ２６を介して供給される復号画像データに基づいて、インター予測処理（フレーム間予測処理）を行う。例えば、動き探索部４０は、各予測モードによる予測結果を所定のコスト関数を用いて評価する。次に、動き探索部４０は、コスト関数値が最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、動き探索部４０は、当該最適な予測モードに従って予測画像データを生成する。そして、動き探索部４０は、選択した最適な予測モードを表す予測モード情報、予測画像データ、及びコスト関数値などのインター予測に関する情報を、モード選択部５０へ出力する。

【0039】

モード選択部５０は、イントラ予測部３０から入力されるイントラ予測に関するコスト関数値と動き探索部４０から入力されるインター予測に関するコスト関数値とを比較する。そして、モード選択部５０は、イントラ予測及びインター予測のうちコスト関数値がより少ない予測手法を選択する。モード選択部５０は、イントラ予測を選択した場合には、イントラ予測に関する情報を可逆符号化部１７へ出力すると共に、予測画像データを減算部１４及び加算部２３へ出力する。また、モード選択部５０は、インター予測を選択した場合には、インター予測に関する上述した情報を可逆符号化部１７へ出力すると共に、予測画像データを減算部１４及び加算部２３へ出力する。

【0040】

［１−２．シンタックス処理部の構成例］
図２は、図１に示した画像符号化装置１０のシンタックス処理部１３の詳細な構成の一例を示すブロック図である。図２を参照すると、シンタックス処理部１３は、設定部１１０、パラメータ生成部１２０及び挿入部１３０を有する。

【0041】

（１）設定部
設定部１１０は、画像符号化装置１０による符号化処理のために使用される様々な設定を保持する。例えば、設定部１１０は、画像データの各シーケンスのプロファイル、各ピクチャの符号化モード、及びＧＯＰ構造に関するデータなどを保持する。また、本実施形態において、設定部１１０は、量子化部１６（及び逆量子化部２１）により使用される量子化行列についての設定を保持する。量子化部１６によりどういった量子化行列を使用すべきかは、典型的には、オフラインでの画像の解析に基づいて、スライスごとに予め決定され得る。

【0042】

例えば、デジタルビデオカメラの様な応用例では、入力画像に圧縮ひずみが存在しないため、高域においても量子化ステップをより小さくした量子化行列が使用され得る。量子化行列は、ピクチャ単位又はフレーム単位で変化する。入力画像の複雑性が低い場合には、量子化ステップのより小さいフラットな量子化行列を使用することで、ユーザに主観的に感知される画質を向上させることができる。一方、入力画像の複雑性が高い場合には、符号量の増大を抑制するために、より大きい量子化ステップを用いることが望ましい。この場合、フラットな量子化行列を使用すると低域信号のひずみがブロックノイズとして認識される恐れがある。そのため、低域から高域に向かって量子化ステップが増加するような量子化行列を使用してノイズを低減することが有益である。

【0043】

ＭＰＥＧ２で符号化された放送コンテンツを再圧縮するレコーダの様な応用例では、入力画像自体に、モスキートノイズなどのＭＰＥＧ２の圧縮ひずみが存在する。モスキートノイズは、高域信号をより大きい量子化ステップで量子化した結果として生じるノイズであり、ノイズの周波数成分自体も極めて高い周波数となる。このような入力画像については、再圧縮する際に、高域に大きい量子化ステップを有する量子化行列を使用することが望ましい。また、プログレッシブ信号と比較して、インターレース信号では、飛び越し走査の影響で、水平方向の信号の相関の方が垂直方向の信号の相関よりも高い。そのため、画像信号がプログレッシブ信号であるかインターレース信号であるかに応じて異なる量子化行列を使用することも有益である。いずれの場合にも、画像の内容に応じて、最適な量子化行列はピクチャ単位又はフレーム単位で変化し得る。

【0044】

（２）パラメータ生成部
パラメータ生成部１２０は、設定部１１０により保持されている符号化処理のための設定を定義するパラメータを生成し、生成したパラメータを挿入部１３０へ出力する。

【0045】

例えば、本実施形態において、パラメータ生成部１２０は、量子化部１６により使用される量子化行列を定義する量子化行列パラメータを生成する。パラメータ生成部１２０により生成される一群の量子化行列パラメータは、量子化行列パラメータセット（ＱＭＰＳ）に含められる。各ＱＭＰＳには、各ＱＭＰＳを互いに識別するための識別子であるＱＭＰＳ ＩＤが付与される。典型的には、１つのＱＭＰＳ内で、複数の種類の量子化行列が定義される。量子化行列の種類は、行列サイズ、並びに対応する予測方式及び信号成分によって互いに区別される。例えば、１つのＱＭＰＳ内で、４×４、８×８、１６×１６及び３２×３２の各サイズについて最大で６種類の量子化行列（イントラ予測／インター予測のＹ／Ｃｂ／Ｃｒ成分）が定義され得る。

【0046】

より具体的には、パラメータ生成部１２０は、Ｈ．２６４／ＡＶＣにおける量子化行列の符号化処理と同様に、各量子化行列をジグザグスキャンによって一次元配列に変形し、一次元配列の各要素の値をＤＰＣＭ（Differential Pulse Code Modulation）方式で符号化してもよい。この場合、ＤＰＣＭの差分データの一次元配列が量子化行列パラメータとなる。量子化行列パラメータの生成のためのこのようなモードを、本明細書では、全スキャンモードという。

【0047】

また、パラメータ生成部１２０は、量子化行列パラメータの符号量を削減するために、全スキャンモードとは異なるモードで量子化行列パラメータを生成してもよい。例えば、パラメータ生成部１２０は、全スキャンモードの代わりに、次に説明するコピーモード又は軸指定モードで量子化行列パラメータを生成してもよい。

【0048】

コピーモードは、あるスライスについて使用される量子化行列が既に定義された量子化行列に類似し又は等しい場合に選択され得るモードである。コピーモードの場合には、パラメータ生成部１２０は、コピー元の量子化行列が定義されているＱＭＰＳのＱＭＰＳ ＩＤ、並びにコピー元の量子化行列のサイズ及びタイプを、量子化行列パラメータとしてＱＭＰＳに含める。なお、本明細書において、ある量子化行列に対応する予測方式と信号成分との組合せを、当該量子化行列のタイプという。パラメータ生成部１２０は、定義しようとする量子化行列とコピー元の量子化行列との間で差分が存在する場合には、各成分の残差を表す残差行列を生成するための残差データを、ＱＭＰＳにさらに含めてもよい。

【0049】

軸指定モードについての処理は、さらに差分方式と補間方式という２つの指定方式によって分けられる。差分方式では、パラメータ生成部１２０は、変換単位の最も左の列である縦軸、最も上の行である横軸及び対角線に沿った斜め軸に該当する量子化行列の要素の値のみを指定する。補間方式では、パラメータ生成部１２０は、変換単位の左上（ＤＣ成分）、右上、左下及び右下という４つのコーナーに該当する量子化行列の要素の値のみを指定する。残りの要素の値は、線形補間、キュービック補間又はラグランジュ補間などの任意の手法で補間され得る。軸指定モードにおいても、パラメータ生成部１２０は、定義しようとする量子化行列と補間後の量子化行列との間で差分が存在する場合には、各成分の残差を表す残差行列を生成するための残差データを、ＱＭＰＳにさらに含めてもよい。

【0050】

（３）挿入部
挿入部１３０は、パラメータ生成部１２０により生成されるパラメータ群をそれぞれ含むＳＰＳ、ＰＰＳ、ＱＭＰＳ及びスライスヘッダなどのヘッダ情報を、並び替えバッファ１２から入力される画像データのストリームに挿入する。上述したように、ＱＭＰＳは、ＳＰＳ及びＰＰＳとは異なる非ＶＣＬ ＮＡＬユニットである。ＱＭＰＳには、パラメータ生成部１２０により生成される量子化行列パラメータが含められる。そして、挿入部１３０は、ヘッダ情報の挿入された画像データのストリームを、減算部１４、イントラ予測部３０及び動き探索部４０へ出力する。

【0051】

［１−３．パラメータ構成例］
（１）量子化行列パラメータセット
図３は、本実施形態において各ＱＭＰＳに含まれるパラメータの一例を示す説明図である。図３を参照すると、各ＱＭＰＳには、「ＱＭＰＳ ＩＤ」、「生成モード存在フラグ」、「生成モード」及び各モードごとに異なる量子化行列パラメータが含まれる。

【0052】

「ＱＭＰＳ ＩＤ」は、各ＱＭＰＳを互いに識別するための識別子である。ＱＭＰＳ ＩＤは、例えば、０〜３１の範囲の整数などであってよい。未使用のＱＭＰＳ ＩＤの指定は、新たなＱＭＰＳが定義されることを意味する。シーケンス内で既に使用されているＱＭＰＳ ＩＤの再指定は、定義済みのＱＭＰＳが更新されることを意味する。

【0053】

「生成モード存在フラグ」は、量子化行列生成処理のモードを表す区分である「生成モード」が当該ＱＭＰＳ内に存在するか否かを示すフラグである。生成モード存在フラグが「０：存在せず」を示す場合には、当該ＱＭＰＳ内では、全スキャンモードで量子化行列が定義される。一方、生成モード存在フラグが「１：存在する」を示す場合には、当該ＱＭＰＳ内に「生成モード」が存在する。

【0054】

「生成モード」は、例えば、「０：コピー」、「１：軸指定」又は「２：全スキャン」のいずれかの値をとり得る区分である。後に説明するシンタックスの擬似コードでは、生成モードは“pred_mode”という変数によって表される。

【0055】

コピーモード（即ち、pred_mode＝０）の場合には、ＱＭＰＳは、量子化行列パラメータとして、「ソースＩＤ」、「コピー元サイズ」、「コピー元タイプ」、「残差フラグ」及び「残差データ」を含み得る。「ソースＩＤ」は、コピー元の量子化行列が定義されたＱＭＰＳを指定するＱＭＰＳ ＩＤである。「コピー元サイズ」は、コピー元の量子化行列のサイズである。「コピー元タイプ」は、コピー元の量子化行列のタイプ（イントラ−Ｙ、イントラ−Ｃｂ、…、インターＣｒ）である。「残差フラグ」は、残差が存在するか否かを示すフラグである。「残差データ」は、残差が存在する場合に残差を表す残差行列を生成するためのデータである。残差フラグが「０：存在せず」を示す場合には、残差データは省略され得る。

【0056】

なお、あるＱＭＰＳのソースＩＤが当該ＱＭＰＳ自身のＱＭＰＳ ＩＤと等しい場合には、図３８に例示したような既定の量子化行列が指定されたものと解釈されてよい。それにより、既定の量子化行列を指定するための独立したフラグをＱＭＰＳに含めなくてもよくなるため、ＱＭＰＳの符号量が削減され得る。

【0057】

軸指定モード（即ち、pred_mode＝１）の場合には、ＱＭＰＳは、量子化行列パラメータとして、「指定方式フラグ」に加えて、「基準軸データ」及び「コーナーデータ」のいずれか一方、「残差フラグ」、並びに「残差データ」を含み得る。指定方式フラグは、量子化行列の生成の基準となる基準軸の要素の値をどのように指定するかを示すフラグであり、例えば、「０：差分」又は「１：補間」のいずれかの値をとり得る。指定方式が「０：差分」の場合には、量子化行列の基準軸である縦軸、横軸及び斜め軸に該当する要素の値が、基準軸データにより指定される。指定方式が「１：補間」の場合には、量子化行列の左上、右上、左下及び右下という４つのコーナーに該当する要素の値が、コーナーデータにより指定される。３つの基準軸の要素の値は、これら４つのコーナーの値から補間によって生成され得る。残差フラグ及び残差データは、コピーモードの場合と同様である。

【0058】

全スキャンモード（即ち、pred_mode＝２）の場合には、ＱＭＰＳは、量子化行列パラメータとして、ＤＰＣＭの差分データの一次元配列を含み得る。

【0059】

なお、各ＱＭＰＳは、量子化行列の種類ごとに異なる生成モード及び各モードに対応する量子化行列パラメータを含んでよい。即ち、一例として、１つのＱＭＰＳ内で、ある種類の量子化行列は全スキャンモードで定義され、別の種類の量子化行列は軸指定モードで定義され、残りの量子化行列はコピーモードで定義されてもよい。

【0060】

（２）スライスヘッダ
図４は、本実施形態において各スライスヘッダに含まれるパラメータの一例を部分的に示す説明図である。図４を参照すると、各スライスヘッダには、「スライスタイプ」、「ＰＰＳ ＩＤ」、「ＱＭＰＳ ＩＤ存在フラグ」及び「ＱＭＰＳ ＩＤ」が含まれ得る。「スライスタイプ」は、当該スライスの符号化タイプを示す区分であり、Ｐスライス、Ｂスライス又はＩスライスなどに対応する値をとる。「ＰＰＳ ＩＤ」は、当該スライスのために参照されるピクチャパラメータセット（ＰＰＳ）のＩＤである。「ＱＭＰＳ ＩＤ存在フラグ」は、当該スライスヘッダ内にＱＭＰＳ ＩＤが存在するか否かを示すフラグである。「ＱＭＰＳ ＩＤ」は、当該スライスのために参照される量子化行列パラメータセット（ＱＭＰＳ）のＱＭＰＳ ＩＤである。

【0061】

＜２．一実施形態に係る符号化時の処理の流れ＞
（１）パラメータセット挿入処理
図５は、本実施形態に係るシンタックス処理部１３の挿入部１３０によるパラメータセット挿入処理の流れの一例を示すフローチャートである。

【0062】

図５を参照すると、挿入部１３０は、まず、並び替えバッファ１２から入力される画像データのストリーム内のＮＡＬユニットを順次取得し、１つのピクチャを認識する（ステップＳ１００）。次に、挿入部１３０は、認識したピクチャがシーケンスの先頭のピクチャであるか否かを判定する（ステップＳ１０２）。ここで、認識したピクチャがシーケンスの先頭のピクチャである場合には、挿入部１３０は、ストリームにＳＰＳを挿入する（ステップＳ１０４）。次に、挿入部１３０は、認識したピクチャについてＰＰＳの変更があるか否かをさらに判定する（ステップＳ１０６）。ここで、ＰＰＳの変更がある場合、又は認識したピクチャがシーケンスの先頭のピクチャである場合には、挿入部１３０は、ストリームにＰＰＳを挿入する（ステップＳ１０８）。次に、挿入部１３０は、ＱＭＰＳの変更があるか否かをさらに判定する（ステップＳ１１０）。ここで、ＱＭＰＳの変更がある場合、又は認識したピクチャがシーケンスの先頭のピクチャである場合には、挿入部１３０は、ストリームにＱＭＰＳを挿入する（ステップＳ１１２）。その後、挿入部１３０は、ストリームの終了が検出された場合には、処理を終了する。一方、ストリームが終了しない場合には、挿入部１３０は、次のピクチャについて上述した処理を繰り返す（ステップＳ１１４）。

【0063】

なお、ここでは説明の簡明さのためにＳＰＳ、ＰＰＳ及びＱＭＰＳの挿入についてのみフローチャートに示しているが、挿入部１３０は、ＳＥＩ（Supplemental Enhancement Information）及びスライスヘッダなどの他のヘッダ情報をもストリームに挿入し得る。

【0064】

（２）ストリーム構成の説明
図６は、本実施形態に係る手法と既存の手法との間のストリーム構成の違いについて説明するための説明図である。

【0065】

図６の左には、既存の手法に従って生成される一例としてのストリームＳＴ１が示されている。ストリームＳＴ１の先頭はシーケンスの先頭であることから、ストリームＳＴ１の先頭には１つ目のＳＰＳ（１）及び１つ目のＰＰＳ（１）が挿入される。ＳＰＳ（１）及びＰＰＳ（１）において、１つ以上の量子化行列が定義され得る。次に、いくつかのスライスヘッダ及びスライスデータが続いた後、量子化行列を更新する必要性が生じたものとする。すると、ストリームＳＴ１に２つ目のＰＰＳ（２）が挿入される。ＰＰＳ（２）には、量子化行列パラメータ以外のパラメータも含まれる。次に、いくつかのスライスヘッダ及びスライスデータが続いた後、ＰＰＳを更新する必要性が生じたものとする。すると、ストリームＳＴ１に３つ目のＰＰＳ（３）が挿入される。ＰＰＳ（３）には、量子化行列パラメータも含まれる。その後のスライスについての量子化処理（及び逆量子化処理）は、スライスヘッダ内のＰＰＳ ＩＤにより指定されるＰＰＳ内で定義されている量子化行列を用いて行われる。

【0066】

図６の右には、本実施形態に係る上述した手法に従って生成される一例としてのストリームＳＴ２が示されている。ストリームＳＴ２の先頭はシーケンスの先頭であることから、ストリームＳＴ２の先頭には１つ目のＳＰＳ（１）、１つ目のＰＰＳ（１）及び１つ目のＱＭＰＳ（１）が挿入される。ストリームＳＴ２では、ＱＭＰＳ（１）において１つ以上の量子化行列が定義され得る。ストリームＳＴ２のＰＰＳ（１）及びＱＭＰＳ（１）の長さの和は、ストリームＳＴ１のＰＰＳ（１）の長さとほぼ等しい。次に、いくつかのスライスヘッダ及びスライスデータが続いた後、量子化行列を更新する必要性が生じると、ストリームＳＴ２に２つ目のＱＭＰＳ（２）が挿入される。ＱＭＰＳ（２）には量子化行列パラメータ以外のパラメータが含まれないため、ＱＭＰＳ（２）の長さはストリームＳＴ１のＰＰＳ（２）の長さよりも短い。次に、いくつかのスライスヘッダ及びスライスデータが続いた後、ＰＰＳを更新する必要性が生じると、ストリームＳＴ２に２つ目のＰＰＳ（２）が挿入される。ストリームＳＴ２のＰＰＳ（２）には量子化行列パラメータが含まれないため、ストリームＳＴ２のＰＰＳ（２）の長さはストリームＳＴ１のＰＰＳ（３）の長さよりも短い。その後のスライスについての量子化処理（及び逆量子化処理）は、スライスヘッダ内のＱＭＰＳ ＩＤにより指定されるＱＭＰＳ内で定義されている量子化行列を用いて行われる。

【0067】

図６のストリームＳＴ１及びＳＴ２を比較すると、本実施形態において説明した手法によってストリーム全体の符号量が削減され得ることが理解される。特に、量子化行列のサイズがより大きい場合、又はピクチャごとに定義される量子化行列の数がより多い場合には、上述した手法による符号量の削減は一層効果的となる。

【0068】

＜３．一実施形態に係る画像復号装置の構成例＞
［３−１．全体的な構成例］
本節では、一実施形態に係る画像復号装置の構成例について説明する。

【0069】

図７は、一実施形態に係る画像復号装置６０の構成の一例を示すブロック図である。図７を参照すると、画像復号装置６０は、シンタックス処理部６１、可逆復号部６２、逆量子化部６３、逆直交変換部６４、加算部６５、デブロックフィルタ６６、並び替えバッファ６７、Ｄ／Ａ（Digital to Analogue）変換部６８、フレームメモリ６９、セレクタ７０及び７１、イントラ予測部８０、並びに動き補償部９０を備える。

【0070】

シンタックス処理部６１は、伝送路を介して入力される符号化ストリームからＳＰＳ、ＰＰＳ、ＱＭＰＳ及びスライスヘッダなどのヘッダ情報を取得し、取得したヘッダ情報に基づいて画像復号装置６０による復号処理のための様々な設定を認識する。例えば、本実施形態において、シンタックス処理部６１は、ＱＭＰＳに含まれる量子化行列パラメータに基づいて、逆量子化部６３による逆量子化処理の際に使用される量子化行列を設定する。シンタックス処理部６１の詳細な構成について、後にさらに説明する。

【0071】

可逆復号部６２は、シンタックス処理部６１から入力される符号化ストリームを、符号化の際に使用された符号化方式に従って復号する。そして、可逆復号部６２は、復号後の量子化データを逆量子化部６３へ出力する。また、可逆復号部６２は、ヘッダ情報に含まれるイントラ予測に関する情報をイントラ予測部８０へ出力し、インター予測に関する情報を動き補償部９０へ出力する。

【0072】

逆量子化部６３は、シンタックス処理部６１により設定される量子化行列を用いて、可逆復号部６２による復号後の量子化データ（即ち、量子化された変換係数データ）を逆量子化する。あるスライス内の各ブロックについてどの量子化行列を使用すべきかは、スライスヘッダにおいて指定されるＱＭＰＳ ＩＤ、各ブロック（変換単位）のサイズ、各ブロックの予測方式及び信号成分に応じて決定され得る。

【0073】

逆直交変換部６４は、符号化の際に使用された直交変換方式に従い、逆量子化部６３から入力される変換係数データについて逆直交変換を行うことにより、予測誤差データを生成する。そして、逆直交変換部６４は、生成した予測誤差データを加算部６５へ出力する。

【0074】

加算部６５は、逆直交変換部６４から入力される予測誤差データと、セレクタ７１から入力される予測画像データとを加算することにより、復号画像データを生成する。そして、加算部６５は、生成した復号画像データをデブロックフィルタ６６及びフレームメモリ６９へ出力する。

【0075】

デブロックフィルタ６６は、加算部６５から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データを並び替えバッファ６７及びフレームメモリ６９へ出力する。

【0076】

並び替えバッファ６７は、デブロックフィルタ６６から入力される画像を並び替えることにより、時系列の一連の画像データを生成する。そして、並び替えバッファ６７は、生成した画像データをＤ／Ａ変換部６８へ出力する。

【0077】

Ｄ／Ａ変換部６８は、並び替えバッファ６７から入力されるデジタル形式の画像データをアナログ形式の画像信号に変換する。そして、Ｄ／Ａ変換部６８は、例えば、画像復号装置６０と接続されるディスプレイ（図示せず）にアナログ画像信号を出力することにより、画像を表示させる。

【0078】

フレームメモリ６９は、加算部６５から入力されるフィルタリング前の復号画像データ、及びデブロックフィルタ６６から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。

【0079】

セレクタ７０は、可逆復号部６２により取得されるモード情報に応じて、画像内のブロックごとに、フレームメモリ６９からの画像データの出力先をイントラ予測部８０と動き補償部９０との間で切り替える。例えば、セレクタ７０は、イントラ予測モードが指定された場合には、フレームメモリ６９から供給されるフィルタリング前の復号画像データを参照画像データとしてイントラ予測部８０へ出力する。また、セレクタ７０は、インター予測モードが指定された場合には、フレームメモリ６９から供給されるフィルタリング後の復号画像データを参照画像データとして動き補償部９０へ出力する。

【0080】

セレクタ７１は、可逆復号部６２により取得されるモード情報に応じて、画像内のブロックごとに、加算部６５へ供給すべき予測画像データの出力元をイントラ予測部８０と動き補償部９０との間で切り替える。例えば、セレクタ７１は、イントラ予測モードが指定された場合には、イントラ予測部８０から出力される予測画像データを加算部６５へ供給する。セレクタ７１は、インター予測モードが指定された場合には、動き補償部９０から出力される予測画像データを加算部６５へ供給する。

【0081】

イントラ予測部８０は、可逆復号部６２から入力されるイントラ予測に関する情報とフレームメモリ６９からの参照画像データとに基づいて画素値の画面内予測を行い、予測画像データを生成する。そして、イントラ予測部８０は、生成した予測画像データをセレクタ７１へ出力する。

【0082】

動き補償部９０は、可逆復号部６２から入力されるインター予測に関する情報とフレームメモリ６９からの参照画像データとに基づいて動き補償処理を行い、予測画像データを生成する。そして、動き補償部９０は、生成した予測画像データをセレクタ７１へ出力する。

【0083】

［３−２．シンタックス処理部の構成例］
図８は、図７に示した画像復号装置６０のシンタックス処理部６１の詳細な構成の一例を示すブロック図である。図８を参照すると、シンタックス処理部６１は、パラメータ取得部１６０及び設定部１７０を有する。

【0084】

（１）パラメータ取得部
パラメータ取得部１６０は、画像データのストリームからＳＰＳ、ＰＰＳ、ＱＭＰＳ及びスライスヘッダなどのヘッダ情報を認識し、ヘッダ情報に含まれるパラメータを取得する。例えば、本実施形態において、パラメータ取得部１６０は、量子化行列を定義する量子化行列パラメータをＱＭＰＳから取得する。上述したように、ＱＭＰＳは、ＳＰＳ及びＰＰＳとは異なる非ＶＣＬ ＮＡＬユニットである。そして、パラメータ取得部１６０は、取得したパラメータを設定部１７０へ出力する。また、パラメータ取得部１６０は、画像データのストリームを可逆復号部６２へ出力する。

【0085】

（２）設定部
設定部１７０は、パラメータ取得部１６０により取得されるパラメータに基づいて、図７に示した各部の処理のための設定を行う。例えば、設定部１７０は、ＬＣＵ及びＳＣＵの値の組から符号化単位のサイズの範囲を認識すると共に、split_flagの値に応じて符号化単位のサイズを設定する。ここで設定される符号化単位を処理の単位として、画像データの復号が行われる。また、設定部１７０は、変換単位のサイズをさらに設定する。ここで設定される変換単位を処理の単位として、上述した逆量子化部６３による逆量子化及び逆直交変換部６４による逆直交変換が行われる。

【0086】

また、本実施形態において、設定部１７０は、パラメータ取得部１６０によりＱＭＰＳから取得される量子化行列パラメータに基づいて、量子化行列を設定する。より具体的には、設定部１７０は、ＱＭＰＳに含まれる量子化行列パラメータに基づき、サイズ及びタイプの互いに異なる複数の量子化行列を、全スキャンモード、コピーモード又は軸指定モードでそれぞれ生成する。量子化行列の生成は、画像データのストリーム内でＱＰＭＳが検出される都度行われ得る。

【0087】

例えば、設定部１７０は、全スキャンモードにおいて、量子化行列パラメータに含まれる差分データの一次元配列をＤＰＣＭ方式で復号する。そして、設定部１７０は、復号後の一次元配列を、ジグザグスキャンのスキャンパターンに従って二次元の量子化行列に変形する。

【0088】

また、設定部１７０は、コピーモードにおいて、量子化行列パラメータに含まれるソースＩＤ、コピー元サイズ及びコピー元タイプにより特定される（以前に生成した）量子化行列をコピーする。このとき、設定部１７０は、コピー元の量子化行列のサイズよりも新たな量子化行列のサイズが小さい場合には、コピーした量子化行列の要素を間引くことにより、新たな量子化行列を生成する。また、設定部１７０は、コピー元の量子化行列のサイズよりも新たな量子化行列のサイズが大きい場合には、コピーした量子化行列の要素を補間することにより、新たな量子化行列を生成する。そして、設定部１７０は、残差成分が存在する場合には、新たな量子化行列に残差成分を加算する。

【0089】

また、設定部１７０は、あるＱＭＰＳ内の量子化行列パラメータに含まれるソースＩＤが当該ＱＭＰＳのＱＭＰＳ ＩＤと等しい場合には、新たな量子化行列を既定の量子化行列とする。

【0090】

また、設定部１７０は、軸指定モードにおいて、量子化行列パラメータに含まれる指定方式フラグを認識する。そして、設定部１７０は、差分方式の場合には、量子化行列パラメータに含まれる基準軸データに基づいて縦軸、横軸及び斜め軸に該当する量子化行列の要素の値を生成し、残りの要素の値を補間により生成する。また、設定部１７０は、補間方式の場合には、量子化行列パラメータに含まれるコーナーデータに基づいて４つのコーナーに該当する量子化行列の要素の値を生成し、基準軸の要素の値を補間により生成した後、さらに残りの要素の値を補間により生成する。そして、設定部１７０は、残差成分が存在する場合には、新たな量子化行列に残差成分を加算する。

【0091】

その後、設定部１７０は、スライスヘッダにおいてＱＭＰＳ ＩＤが指定されると、指定されたＱＭＰＳ ＩＤにより識別されるＱＭＰＳについて生成した量子化行列を、逆量子化部６３が使用すべき量子化行列として設定する。

【0092】

＜４．一実施形態に係る復号時の処理の流れ＞
［４−１．量子化行列の生成］
（１）量子化行列生成処理
図９は、本実施形態に係るシンタックス処理部６１による量子化行列生成処理の流れの一例を示すフローチャートである。図９の量子化行列生成処理は、画像データのストリーム内でＱＰＭＳが検出される都度行われ得る処理である。

【0093】

図９を参照すると、パラメータ取得部１６０は、まず、ＱＭＰＳからＱＭＰＳ ＩＤを取得する（ステップＳ２００）。ここで取得されるＱＭＰＳ ＩＤがストリーム内で未使用のＩＤであれば、設定部１７０は、当該ＱＭＰＳ ＩＤに関連付けられる量子化行列を、以下に説明する処理に従って新たに生成する。一方、ＱＭＰＳ ＩＤが既に使用されているＩＤであれば、設定部１７０は、当該ＱＭＰＳ ＩＤと関連付けて保持している量子化行列を、以下に説明する処理に従って生成される行列に更新する。次に、パラメータ取得部１６０は、ＱＭＰＳから生成モード存在フラグを取得する（ステップＳ２０２）。

【0094】

その後のステップＳ２０６からステップＳ２４０までの処理は、量子化行列の種類ごとに繰り返される（ステップＳ２０４）。なお、量子化行列の種類とは、量子化行列のサイズとタイプ（即ち、予測方式及び信号成分）との組合せに相当する。

【0095】

ステップＳ２０６では、設定部１７０は、生成モード存在フラグの値に応じて、ＱＭＰＳ内に生成モード（の区分）が存在するか否かを判定する（ステップＳ２０６）。ここで生成モードが存在しない場合には、設定部１７０は、Ｈ．２６４／ＡＶＣにおける量子化行列の復号処理と同様に、全スキャン方式で量子化行列を生成する（ステップＳ２０８）。一方、生成モードが存在する場合には、パラメータ取得部１６０は、ＱＭＰＳから生成モードを取得する（ステップＳ２１０）。そして、設定部１７０は、生成モードに応じて異なる処理を行う（ステップＳ２１２、Ｓ２１４）。

【0096】

例えば、設定部１７０は、コピーモードが指示されている場合には、図１０に例示するコピーモードでの処理を行う（ステップＳ２２０）。また、設定部１７０は、軸指定モードが指示されている場合には、図１１に例示する軸指定モードでの処理を行う（ステップＳ２４０）。また、設定部１７０は、全スキャンモードが指示されている場合には、Ｈ．２６４／ＡＶＣにおける量子化行列の復号処理と同様に、全スキャン方式で量子化行列を生成する（ステップＳ２０８）。

【0097】

その後、全ての量子化行列の種類について量子化行列が生成されると、図９に示した量子化行列生成処理は終了する。

【0098】

（２）コピーモードでの処理
図１０は、図９のステップＳ２２０におけるコピーモードでの処理の詳細な流れの一例を示すフローチャートである。

【0099】

図１０を参照すると、まず、パラメータ取得部１６０は、ＱＭＰＳからソースＩＤを取得する（ステップＳ２２１）。次に、設定部１７０は、図９のステップＳ２００において取得されたＱＭＰＳ ＩＤ（現在のＱＭＰＳのＱＭＰＳ ＩＤ）とソースＩＤとが等しいか否かを判定する（ステップＳ２２２）。ここで、現在のＱＭＰＳのＱＭＰＳ ＩＤとソースＩＤとが等しい場合には、設定部１７０は、新たな量子化行列を既定の量子化行列として生成する（ステップＳ２２３）。一方、現在のＱＭＰＳのＱＭＰＳ ＩＤとソースＩＤとが等しくない場合には、処理はステップＳ２２４へ進む。

【0100】

ステップＳ２２４において、パラメータ取得部１６０は、ＱＭＰＳからコピー元サイズ及びコピー元タイプを取得する（ステップＳ２２４）。次に、設定部１７０は、ソースＩＤ、コピー元サイズ及びコピー元タイプにより特定される量子化行列をコピーする（ステップＳ２２５）。次に、設定部１７０は、コピー元サイズと生成対象の量子化行列のサイズとを比較する（ステップＳ２２６）。ここで、コピー元サイズと生成対象の量子化行列のサイズとが等しくない場合には、設定部１７０は、サイズの相違に応じて、コピーした量子化行列の要素を補間し又は間引くことにより、新たな量子化行列を生成する（ステップＳ２２７）。

【0101】

さらに、パラメータ取得部１６０は、ＱＭＰＳから残差フラグを取得する（ステップＳ２２８）。次に、設定部１７０は、残差フラグの値に応じて、残差データが存在するか否かを判定する（ステップＳ２２９）。ここで、残差データが存在する場合には、設定部１７０は、ステップＳ２２３又はステップＳ２２５〜Ｓ２２７において生成された新たな量子化行列に残差を加算する（ステップＳ２３０）。

【0102】

（３）軸指定モードでの処理
図１１は、図９のステップＳ２４０における軸指定モードでの処理の詳細な流れの一例を示すフローチャートである。

【0103】

図１１を参照すると、まず、パラメータ取得部１６０は、ＱＭＰＳから指定方式フラグを取得する（ステップＳ２４１）。次に、設定部１７０は、指定方式フラグの値に応じて、指定方式を判定する（ステップＳ２４２）。ここで、差分方式が指示されている場合には、処理はステップＳ２４３へ進む。一方、補間方式が指示されている場合には、処理はステップＳ２４６へ進む。

【0104】

差分方式の場合、設定部１７０は、量子化行列パラメータに含まれる基準軸データに基づいて、縦軸、横軸及び斜め軸に該当する量子化行列の要素の値を生成する（ステップＳ２４３、Ｓ２４４及びＳ２４５）。一方、補間方式の場合、設定部１７０は、量子化行列パラメータに含まれるコーナーデータに基づいて、４つのコーナーに該当する量子化行列の要素の値を生成する（ステップＳ２４６）。次に、設定部１７０は、４つのコーナーを結ぶ基準軸（縦軸、横軸及び斜め軸）の要素の値を補間により生成する（ステップＳ２４７）。その後、設定部１７０は、基準軸の要素の値に基づいて、残りの要素の値を補間する（ステップＳ２４８）。

【0105】

さらに、パラメータ取得部１６０は、ＱＭＰＳから残差フラグを取得する（ステップＳ２４９）。次に、設定部１７０は、残差フラグの値に応じて、残差データが存在するか否かを判定する（ステップＳ２５０）。ここで、残差データが存在する場合には、設定部１７０は、ステップＳ２４８において生成された新たな量子化行列に残差を加算する（ステップＳ２５１）。

【0106】

［４−２．スライスへの量子化行列の設定］
図１２は、本実施形態に係るシンタックス処理部６１によるスライスへの量子化行列設定処理の流れの一例を示すフローチャートである。図１２の処理は、画像データのストリーム内でスライスヘッダが検出される都度行われ得る。

【0107】

まず、パラメータ取得部１６０は、スライスヘッダからＱＭＰＳ ＩＤ存在フラグを取得する（ステップＳ２６１）。次に、パラメータ取得部１６０は、ＱＭＰＳ ＩＤ存在フラグの値に応じて、スライスヘッダ内にＱＭＰＳ ＩＤが存在するか否かを判定する（ステップＳ２６２）。ここで、ＱＭＰＳ ＩＤが存在する場合には、パラメータ取得部１６０は、さらにＱＭＰＳ ＩＤをＱＭＰＳから取得する（ステップＳ２６３）。そして、設定部１７０は、取得されたＱＭＰＳ ＩＤにより識別されるＱＭＰＳについて生成した量子化行列を、当該スライスヘッダに続くスライスのために設定する（ステップＳ２６４）。一方、スライスヘッダ内にＱＭＰＳ ＩＤが存在しない場合には、設定部１７０は、フラットな量子化行列を当該スライスヘッダに続くスライスのために設定する（ステップＳ２６５）。

【0108】

＜５．シンタックスの例＞
［５−１．第１の例］
図１３〜図１５は、本実施形態に係るＱＭＰＳのシンタックスを表現する例示的な擬似コードの第１の例を示している。擬似コードの左端には、行番号が付されている。また、擬似コード内の変数に付された下線は、当該変数に対応するパラメータがＱＭＰＳ内で特定されることを意味する。

【0109】

図１３の第１行の関数QuantizationMatrixParameterSet()は、１つのＱＭＰＳのシンタックスを表現する関数である。第２行及び第３行において、ＱＭＰＳ ＩＤ（quantization_matrix_parameter_id）及び生成モード存在フラグ（pred_present_flag）が特定される。その後の第６行から第５６行までのシンタックスは、量子化行列のサイズ及びタイプごとにループされる。ループ内の第７行から第５３行までのシンタックスは、生成モードが存在する場合（pred_present_flag＝１）にＱＭＰＳに挿入される。

【0110】

生成モードが存在する場合の第９行から第１６行までのシンタックスは、コピーモードでのシンタックスである。第９行から第１１行では、ソースＩＤ、コピー元サイズ及びコピー元タイプが特定される。第１２行の関数pred_matrix()は、ソースＩＤ、コピー元サイズ及びコピー元タイプにより特定される量子化行列がコピーされることを意味する。第１３行では、残差フラグが特定される。第１５行の関数residual_matrix()は、残差成分が存在する場合に残差データがＱＭＰＳにおいて特定されることを意味する。

【0111】

第１８行から第５０行までのシンタックスは軸指定モードでのシンタックスであり、図１４に記載されている。第１８行では、指定方式フラグが特定される。指定方式が差分（ＤＰＣＭ）方式の場合には、第２１行から第２５行において縦軸の要素の値、第２６行から第３４行において横軸の要素の値、第３５行から第４０行において斜め軸の要素の値がそれぞれ特定される。この場合の基準軸データは、ＤＰＣＭの差分データの一次元配列である。なお、横軸の要素の値を縦軸からコピーし得る場合には、横軸の要素についてのシンタックスは省略され得る（第２７行、第２８行）。指定方式が補間方式の場合には、第４２行から第４５行において左上（ＤＣ成分）、右上、左下及び右下の要素の値がコーナーデータとしてそれぞれ特定される。

【0112】

第５２行の処理は、全スキャンモードでのシンタックスである。第５５行の処理は、生成モードが存在しない場合のシンタックスである。いずれの場合にも、Ｈ．２６４／ＡＶＣにおける量子化行列のシンタックスを表す関数qmatrix()によって、全スキャン方式で量子化行列が特定される。

【0113】

図１５の第１行の関数residual_matrix()は、図１３の第１５行及び図１４の第４９行において使用されている、残差データを特定するための関数である。図１５の例において、残差データは、ＤＰＣＭ方式又はランレングス方式で特定される。ＤＰＣＭ方式の場合には、第４行から第８行において、一次元配列の要素ごとに前の要素との間の差分の値（delta_coef）が特定される。ランレングス方式の場合には、第１１行から第１８行において、値にゼロが続く部分の要素群の長さ（run）及び非ゼロの要素の値（data）が繰り返し特定される。

【0114】

［５−２．第２の例］
図１６〜図２０は、本実施形態に係るＱＭＰＳのシンタックスを表現する例示的な擬似コードの第２の例を示している。

【0115】

図１６の第１行の関数QuantizationMatrixParameterSet()は、１つのＱＭＰＳのシンタックスを表現する関数である。第２行において、ＱＭＰＳ ＩＤ（quantization_matrix_parameter_id）が特定される。また、既定の量子化行列のみが指定されるケースを除き、第６行において、生成モード存在フラグ（pred_present_flag）が特定される。

【0116】

さらに、第２の例では、関数QuantizaionMatrixParameterSet()の第７行から第１０行において、４種類の量子化スケール（Qscale0〜Qscale3）が特定される。これら量子化スケールは、量子化行列の各要素の値を量子化して符号量をより少なくするために採用され得るパラメータである。より具体的には、例えば、８×８の量子化行列に、図２１に示すような４つの量子化スケール設定領域Ａ１〜Ａ４が定義される。量子化スケール設定領域Ａ１は、ＤＣ成分を含む低域信号に対応する要素群のための領域である。量子化スケール設定領域Ａ２及びＡ３は、それぞれ中間域の信号に対応する要素群のための領域である。量子化スケール設定領域Ａ４は、高域信号に対応する要素群のための領域である。このような領域ごとに、量子化行列の要素の値を量子化するための量子化スケールが設定され得る。例えば、図２２を参照すると、量子化スケール設定領域Ａ１についての第１の量子化スケール（Qscale0）は“１”である。これは、低域信号に対応する要素群については量子化行列の値が量子化されないことを意味する。一方、量子化スケール設定領域Ａ２についての第２の量子化スケール（Qscale1）は“２”である。量子化スケール設定領域Ａ３についての第３の量子化スケール（Qscale2）は“３”である。量子化スケール設定領域Ａ４についての第４の量子化スケール（Qscale3）は“４”である。量子化スケールが大きくなるほど、量子化により生じる誤差は増加する。しかし、一般的に、高域信号については、ある程度の誤差が許容され得る。従って、高い符号化効率を達成することが望まれる場合には、量子化行列の量子化のためのこのような量子化スケールの設定によって、量子化行列の定義に要する符号量を、画質を大きく劣化させることなく効果的に削減することができる。量子化行列の量子化が行われる場合には、実質的には、図３に例示した残差データ又は差分データの各要素の値が、各要素が属する量子化スケール設定領域について設定された量子化ステップで量子化され又は逆量子化され得る。

【0117】

なお、図２１に示した量子化スケール設定領域の配置は一例に過ぎない。例えば、量子化行列のサイズごとに異なる数の量子化スケール設定領域が定義されてもよい（例えば、サイズが大きいほど多くの量子化スケール設定領域を定義され得る）。また、量子化スケール設定領域の境界の位置も図２１の例に限定されない。通常、量子化行列を一次元化する際のスキャンパターンはジグザグスキャンである。そのため、図２１に示したような右上から左下にかけての斜めの領域境界が用いられることが好ましい。しかしながら、量子化行列の要素間の相関又は使用されるスキャンパターンなどに応じて、縦方向又は横方向に沿った領域境界が用いられてもよい。さらに、量子化スケール設定領域の配置（領域の数及び境界の位置など）は、符号化効率の観点で適応的に選択されてもよい。例えば、フラットに近い量子化行列が定義される場合には、より少ない数の量子化スケール設定領域が選択されてもよい。

【0118】

図１６において、その後の第１３行から第７６行までのシンタックスは、量子化行列のサイズ及びタイプごとにループされる。ループ内の第１４行から第６６行（図１８参照）までのシンタックスは、生成モードが存在する場合（pred_present_flag＝１）にＱＭＰＳに挿入される。

【0119】

生成モードが存在する場合の第１６行から第２２行までのシンタックスは、コピーモードでのシンタックスである。第１６行から第１８行では、ソースＩＤ、コピー元サイズ及びコピー元タイプが特定される。第１９行では、残差フラグが特定される。第２１行の関数residual_matrix()は、残差成分が存在する場合に残差データがＱＭＰＳにおいて特定されることを意味する。ここでの残差データは、上述した４種類の量子化スケール（Qscale0〜Qscale3）の値に応じて量子化され得る。第２３行から第５６行までのシンタックスは軸指定モードでのシンタックスであり、図１７に記載されている。軸指定モードでの残差データもまた、上述した４種類の量子化スケール（Qscale0〜Qscale3）の値に応じて量子化され得る（第５５行）。

【0120】

図１８の第５７行から第６６行までのシンタックスは、全スキャンモードでのシンタックスである。また、第６８行から第７５行までのシンタックスは、生成モードが存在しない場合のシンタックスである。いずれの場合にも、関数qmatrix()によって全スキャン方式で量子化行列が特定される。但し、第２の例では、符号化効率をより高めるために、ＤＰＣＭ方式の差分データ（delta_coef）又はランレングス方式のランの値（run）及び非ゼロ要素の値（data）をエントロピー符号化するためのＶＬＣテーブルが、適応的に切り替えられる。第６１行及び第７１行のvlc_table_dataは、ＤＰＣＭ方式の差分データ（delta_coef）又はランレングス方式の非ゼロ要素の値（data）のために選択されるＶＬＣテーブルのテーブル番号を特定する。第６３行及び第７３行のvlc_table_runは、ランレングス方式のランの値（run）のために選択されるＶＬＣテーブルのテーブル番号を特定する。

【0121】

図１９の第１行の関数qmatrix()は、全スキャン方式で量子化行列を特定するためのシンタックスである。図１９の第３行から第８行はＤＰＣＭ方式でのシンタックスを示しており、第５行の差分データ（delta_coef）は、上述したvlc_table_dataにより特定されるＶＬＣテーブルを用いて符号化される。また、第１０行から第２１行はランレングス方式でのシンタックスを示しており、第１２行のランの値（run）は、上述したvlc_table_runにより特定されるＶＬＣテーブルを用いて符号化される。第１３行の非ゼロ要素の値（data）は、上述したvlc_table_dataにより特定されるＶＬＣテーブルを用いて符号化される。

【0122】

図２３は、ＬＣＥＣ（Low Complexity Entropy Coding：低負荷エントロピー符号化）方式において選択可能な１１種類のＶＬＣ（Variable Length Coding）テーブルの符号語リストを示している。図２３における各符号語内の“ｘ”は、所謂サフィックスである。例えば、“15”という値を指数ゴロム符号で符号化すると“000010000”という９ビットの符号語が得られるが、当該値をＶＬＣ４で符号化すると“11111”という５ビットの符号語が得られる。このように、より大きい値が多く符号化される場合には、短い符号語の中により桁数の多いサフィックスを有するＶＬＣテーブルを選択することで、符号化効率を高めることができる。図２３の１１種類のＶＬＣテーブルの中では、例えばＶＬＣ４は、５ビットの符号語の中に４桁のサフィックスを有している。また、ＶＬＣ９は、６ビットの符号語の中に４桁のサフィックスを有している。従って、これらＶＬＣテーブルは、より大きい値が多く符号化される場合に適している。

【0123】

量子化行列のシンタックスに戻ると、量子化行列の一次元配列の差分データではゼロが続くことが多いため、ランレングス方式のランの値については、ゼロ、１又は２などの小さい値ではなくより大きい値が多く発生する。一方、ランレングス方式の非ゼロ要素の値及び差分データの値については、大きい値は少ない頻度でしか発生しない。従って、上述したシンタックスのように差分データの指定方式（ＤＰＣＭ／ランレングス）及び値の種
類（ランレングス方式の場合のラン／非ゼロ要素）ごとにＶＬＣテーブルを切り替えることで、量子化行列の定義に要する符号量は一層削減される。

【0124】

図２０の第１行の関数residual_matrix()においても、ＶＬＣテーブルの適応的な切り替えが採用されている。即ち、第７行のvlc_table_dataは、ＤＰＣＭ方式の差分データ（delta_coef）のために選択されるＶＬＣテーブルのテーブル番号を特定する。第１０行の差分データ（delta_coef）は、第７行で特定されるＶＬＣテーブルを用いて符号化される。第１５行のvlc_table_dataは、ランレングス方式の非ゼロ要素の値（data）のために選択されるＶＬＣテーブルのテーブル番号を特定する。第１６行のvlc_table_runは、ランレングス方式のランの値（run）のために選択されるＶＬＣテーブルのテーブル番号を特定する。第１９行のランの値（run）は、上述したvlc_table_runにより特定されるＶＬＣテーブルを用いて符号化される。第２０行の非ゼロ要素の値（data）は、上述したvlc_table_dataにより特定されるＶＬＣテーブルを用いて符号化される。

【0125】

このようなＱＭＰＳのシンタックスの様々な特徴により、量子化行列の定義に要する符号量が効果的に削減され、符号化効率は向上し得る。なお、本節で説明したシンタックスは一例に過ぎない。即ち、ここで例示したシンタックスの一部が省略され、パラメータの順序が変更され、又は他のパラメータがシンタックスに追加されてもよい。また、本節で説明したシンタックスのいくつかの特徴は、ＱＭＰＳではなくＳＰＳ又はＰＰＳにおいて量子化行列を定義する際に採用されてもよい。その場合には、ＳＰＳ又はＰＰＳにおける量子化行列の定義に要する符号量を削減することができる。

【0126】

＜６．パラメータセットの様々な構成例＞
ここまで、量子化行列パラメータを格納する量子化行列パラメータセット（ＱＭＰＳ）のシンタックスの具体的ないくつかの例を説明した。ＱＭＰＳは、実質的には、量子化行列パラメータのみを含む専用のパラメータセットであってもよく、量子化行列以外の符号化ツールに関連する他のパラメータをも含む共用のパラメータセットであってもよい。例えば、“Adaptation Parameter Set (APS)”（JCTVC-F747r3，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 14-22 July, 2011）は、適応パラメータセット（ＡＰＳ：Adaptation Parameter Set）と呼ばれる新たなパラメータセットを導入し、適応ループフィルタ（ＡＬＦ：Adaptive Loop Filter）及びサンプル適応オフセット（ＳＡＯ：Sample Adaptive Offset）に関連するパラメータをＡＰＳに格納することを提案している。かかるＡＰＳにさらに量子化行列パラメータを含めることで、上述したＱＭＰＳを実質的に構成することもできる。そこで、本節では、“Adaptation Parameter Set (APS)”（JCTVC-F747r3）により提案されているＡＰＳを利用してＱＭＰＳを構成するためのいくつかの手法について説明する。

【0127】

［６−１．第１の手法］
第１の手法は、１つのＡＰＳ内で対象の全てのパラメータを列挙し、当該ＡＰＳを一意に識別する識別子であるＡＰＳ ＩＤを用いて各パラメータを参照する、という手法である。図２４は、第１の手法に従って構成される符号化ストリームの一例を示している。

【0128】

図２４を参照すると、シーケンスの先頭に位置するピクチャＰ０の冒頭に、ＳＰＳ８０１、ＰＰＳ８０２及びＡＰＳ８０３が挿入されている。ＰＰＳ８０２は、ＰＰＳ ＩＤ“Ｐ０”により識別される。ＡＰＳ８０３は、ＡＰＳ ＩＤ“Ａ０”により識別される。ＡＰＳ８０３は、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータ及び量子化行列パラメータ（以下、ＱＭ関連パラメータという）を含む。ピクチャＰ０内のスライスデータに付加されているスライスヘッダ８０４は、参照ＰＰＳ ＩＤ“Ｐ０”を含み、これは当該スライスデータを復号するためにＰＰＳ８０２内のパラメータが参照されることを意味する。同様に、スライスヘッダ８０４は、参照ＡＰＳ ＩＤ“Ａ０”を含み、これは当該スライスデータを復号するためにＡＰＳ８０３内のパラメータが参照されることを意味する。

【0129】

ピクチャＰ０に続くピクチャＰ１には、ＡＰＳ８０５が挿入されている。ＡＰＳ８０５は、ＡＰＳ ＩＤ“Ａ１”により識別される。ＡＰＳ８０５は、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータ及びＱＭ関連パラメータを含む。ＡＰＳ８０５に含まれるＡＬＦ関連パラメータ及びＳＡＯ関連パラメータはＡＰＳ８０３から更新されているが、ＱＭ関連パラメータは更新されていない。ピクチャＰ１内のスライスデータに付加されているスライスヘッダ８０６は、参照ＡＰＳ ＩＤ“Ａ１”を含み、これは当該スライスデータを復号するためにＡＰＳ８０５内のパラメータが参照されることを意味する。

【0130】

ピクチャＰ１に続くピクチャＰ２には、ＡＰＳ８０７が挿入されている。ＡＰＳ８０７は、ＡＰＳ ＩＤ“Ａ２”により識別される。ＡＰＳ８０７は、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータ及びＱＭ関連パラメータを含む。ＡＰＳ８０７に含まれるＡＬＦ関連パラメータ及びＱＭ関連パラメータはＡＰＳ８０５から更新されているが、ＳＡＯ関連パラメータは更新されていない。ピクチャＰ２内のスライスデータに付加されているスライスヘッダ８０８は、参照ＡＰＳ ＩＤ“Ａ２”を含み、これは当該スライスデータを復号するためにＡＰＳ８０７内のパラメータが参照されることを意味する。

【0131】

図２５は、第１の手法に従って定義されるＡＰＳのシンタックスの一例を示している。図２５の第２行において、当該ＡＰＳを一意に識別するためのＡＰＳ ＩＤが特定される。ＡＰＳ ＩＤは、図３を用いて説明したＱＭＰＳ ＩＤの代わりに用いられるパラメータセット識別子である。第１３行〜第１７行では、ＡＬＦ関連パラメータが特定される。第１８行〜第２３行では、ＳＡＯ関連パラメータが特定される。第２４行〜第２８行では、ＱＭ関連パラメータが特定される。第２４行の“aps_qmatrix_flag”は、当該ＡＰＳ内にＱＭ関連パラメータが設定されているかを示す量子化行列存在フラグである。第２７行の“qmatrix_param()”は、図１３〜図２０に例示したような量子化行列パラメータを特定する関数である。当該ＡＰＳ内にＱＭ関連パラメータが設定されていることを第２４行の量子化行列存在フラグが示している場合（aps_qmatrix_flag＝１）に、当該ＡＰＳ内で関数qmatrix_param()を用いて量子化行列パラメータが設定され得る。

【0132】

第１の手法が採用される場合、図８に示したパラメータ取得部１６０は、ＡＰＳに含まれる量子化行列存在フラグを参照することにより、当該ＡＰＳ内に量子化行列パラメータが設定されているかを判定する。そして、パラメータ取得部１６０は、ＡＰＳ内に量子化行列パラメータが設定されている場合に、当該ＡＰＳから量子化行列パラメータを取得する。

【0133】

図２６は、第１の手法に従って定義されるスライスヘッダのシンタックスの一例を示す説明図である。図２６の第５行では、当該スライスに設定すべきパラメータのうちＰＰＳに含まれるパラメータを参照するための参照ＰＰＳ ＩＤが特定される。第８行では、当該スライスに設定すべきパラメータのうちＡＰＳに含まれるパラメータを参照するための参照ＡＰＳ ＩＤが特定される。参照ＡＰＳ ＩＤは、図４を用いて説明した（参照）ＱＭＰＳ ＩＤの代わりに用いられる参照用パラメータである。

【0134】

第１の手法によれば、“Adaptation Parameter Set (APS)”（JCTVC-F747r3）により提案されているＡＰＳを拡張することにより、上述した量子化行列パラメータセットを少ないコストで実現することができる。また、量子化行列存在フラグを用いて、ＡＰＳに包含可能な様々な符号化ツールに関連するパラメータのうち、量子化行列パラメータのみを部分的に更新し、又は量子化行列パラメータのみを部分的に更新しないことが可能となる。即ち、量子化行列の更新の必要性が生じたタイミングでのみＡＰＳに量子化行列パラメータを含めることができるため、ＡＰＳ内で量子化行列パラメータを効率的に伝送することができる。

【0135】

［６−２．第１の手法の変形例］
ＡＰＳ内の量子化行列パラメータの符号量をより削減するために、以下に説明する変形例に係る手法が採用されてもよい。

【0136】

図２７は、第１の手法の一変形例に従って定義されるＡＰＳのシンタックスの一例を示している。図２７に示したシンタックスにおいて、第２４行〜第３３行では、ＱＭ関連パラメータが特定される。第２４行の“aps_qmatrix_flag”は、当該ＡＰＳ内にＱＭ関連パラメータが設定されているかを示す量子化行列存在フラグである。第２５行の“ref_aps_id_present_flag”は、当該ＡＰＳのＱＭ関連パラメータとして過去参照ＩＤが使用されるかを示す過去参照ＩＤ存在フラグである。過去参照ＩＤが使用されることを過去参照ＩＤ存在フラグが示している場合（ref_aps_id_present_flag＝１）には、第２７行において、過去参照ＩＤ“ref_aps_id”が設定される。過去参照ＩＤは、当該ＡＰＳよりも前に符号化され又は復号されるＡＰＳのＡＰＳ ＩＤを参照するための識別子である。過去参照ＩＤが使用される場合には、参照元の（後の）ＡＰＳ内には量子化行列パラメータは設定されない。この場合、図８に示した設定部１７０は、参照元のＡＰＳに対応する量子化行列として、過去参照ＩＤにより示される参照先のＡＰＳの量子化行列パラメータに基づいて設定した量子化行列を再利用する。なお、過去参照ＩＤが参照元のＡＰＳのＡＰＳ ＩＤを参照すること（いわゆる自己参照）は、禁止されてもよい。その代わりに、設定部１７０は、自己参照が行われているＡＰＳに対応する量子化行列として、既定の量子化行列を設定してもよい。過去参照ＩＤが使用されない場合（ref_aps_id_present_flag＝０）には、第３１行の関数“qmatrix_param()”を用いて、当該ＡＰＳ内に量子化行列パラメータが設定され得る。

【0137】

このように、既に符号化され又は復号された量子化行列を過去参照ＩＤを用いて再利用することで、同じ量子化行列パラメータが繰り返しＡＰＳ内に設定されることが回避される。それにより、ＡＰＳ内の量子化行列パラメータの符号量を削減することができる。なお、図２７では、過去のＡＰＳを参照するためにＡＰＳ ＩＤが使用される例を示したが、過去のＡＰＳを参照する手法はかかる例に限定されない。例えば、参照元のＡＰＳと参照先のＡＰＳとの間のＡＰＳの数などの他のパラメータが、過去のＡＰＳを参照するために用いられてもよい。また、過去参照ＩＤ存在フラグが使用される代わりに、過去参照ＩＤが所定の値（例えばマイナス１）を示すか否かに応じて、過去のＡＰＳの参照と新たな量子化行列パラメータの設定とが切り替えられてもよい。

【0138】

［６−３．第２の手法］
第２の手法は、パラメータの種類ごとに異なるＡＰＳ（異なるＮＡＬユニット）内にパラメータを格納し、各ＡＰＳを一意に識別するＡＰＳ ＩＤを用いて各パラメータを参照する、という手法である。図２８は、第２の手法に従って構成される符号化ストリームの一例を示している。

【0139】

図２８を参照すると、シーケンスの先頭に位置するピクチャＰ０の冒頭に、ＳＰＳ８１１、ＰＰＳ８１２、ＡＰＳ８１３ａ、ＡＰＳ８１３ｂ及びＡＰＳ８１３ｃが挿入されている。ＰＰＳ８１２は、ＰＰＳ ＩＤ“Ｐ０”により識別される。ＡＰＳ８１３ａはＡＬＦ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ００”により識別される。ＡＰＳ８１３ｂはＳＡＯ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ１０”により識別される。ＡＰＳ８１３ｃはＱＭ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ２０”により識別される。ピクチャＰ０内のスライスデータに付加されているスライスヘッダ８１４は、参照ＰＰＳ ＩＤ“Ｐ０”を含み、これは当該スライスデータを復号するためにＰＰＳ８１２内のパラメータが参照されることを意味する。同様に、スライスヘッダ８１４は、参照ＡＰＳ＿ＡＬＦ ＩＤ“Ａ００”、参照ＡＰＳ＿ＳＡＯ ＩＤ“Ａ１０”及び参照ＡＰＳ＿ＱＭ ＩＤ“Ａ２０”を含み、これらは当該スライスデータを復号するためにＡＰＳ８１３ａ、８１３ｂ及び８１３ｃ内のパラメータが参照されることを意味する。

【0140】

ピクチャＰ０に続くピクチャＰ１には、ＡＰＳ８１５ａ及びＡＰＳ８１５ｂが挿入されている。ＡＰＳ８１５ａはＡＬＦ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ０１”により識別される。ＡＰＳ８１５ｂはＳＡＯ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ１１”により識別される。ピクチャＰ０からＱＭ関連パラメータは更新されないため、ＱＭ関連パラメータ用のＡＰＳは挿入されていない。ピクチャＰ１内のスライスデータに付加されているスライスヘッダ８１６は、参照ＡＰＳ＿ＡＬＦ ＩＤ“Ａ０１”、参照ＡＰＳ＿ＳＡＯ ＩＤ“Ａ１１”及び参照ＡＰＳ＿ＱＭ ＩＤ“Ａ２０”を含む。これらは、当該スライスデータを復号するためにＡＰＳ８１５ａ、８１５ｂ及び８１３ｃ内のパラメータが参照されることを意味する。

【0141】

ピクチャＰ１に続くピクチャＰ２には、ＡＰＳ８１７ａ及びＡＰＳ８１７ｃが挿入されている。ＡＰＳ８１７ａはＡＬＦ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ０２”により識別される。ＡＰＳ８１７ｃはＱＭ関連パラメータ用のＡＰＳであり、ＡＰＳ ＩＤ“Ａ２１”により識別される。ピクチャＰ１からＳＡＯ関連パラメータは更新されないため、ＳＡＯ関連パラメータ用のＡＰＳは挿入されていない。ピクチャＰ２内のスライスデータに付加されているスライスヘッダ８１８は、参照ＡＰＳ＿ＡＬＦ ＩＤ“Ａ０２”、参照ＡＰＳ＿ＳＡＯ ＩＤ“Ａ１１”及び参照ＡＰＳ＿ＱＭ ＩＤ“Ａ２１”を含む。これらは、当該スライスデータを復号するためにＡＰＳ８１７ａ、８１５ｂ及び８１７ｃ内のパラメータが参照されることを意味する。

【0142】

第２の手法におけるＱＭ関連パラメータ用のＡＰＳ（例えば、ＡＰＳ８１３ｃ及び８１７ｃ）は、実質的に上述したＱＭＰＳに等しい。ＱＭ関連パラメータ用のＡＰＳのＡＰＳ ＩＤは、図３を用いて説明したＱＭＰＳ ＩＤの代わりに用いられる。第２の手法によれば、パラメータの種類ごとに異なるＡＰＳが用いられるため、更新の必要性がないパラメータについて冗長的なパラメータの伝送が行われない。そのため、符号化効率は最適化され得る。但し、第２の手法では、ＡＰＳの対象とされるパラメータの種類が増加するほど、ＡＰＳの種類を識別するための識別子であるＮＡＬユニットタイプ（nal_unit_type）の種類も増加する。ＨＥＶＣの標準仕様において、拡張のために確保されているＮＡＬユニットタイプ（nal_unit_type）の数には制限がある。従って、ＡＰＳのために多数のＮＡＬユニットタイプを消費することを回避する仕組みを考慮することが有益である。

【0143】

［６−４．第３の手法］
第３の手法は、ＡＰＳに量子化行列パラメータ及び他のパラメータを含め、これらパラメータをＡＰＳ ＩＤとは別に定義される識別子ごとにグループ化する、という手法である。本明細書では、ＡＰＳ ＩＤとは別に定義されグループごとに付与される当該識別子を、補助識別子（ＳＵＢ ＩＤ）という。各パラメータは、スライスヘッダにおいて補助識別子を用いて参照される。図２９は、第３の手法に従って構成される符号化ストリームの一例を示している。

【0144】

図２９を参照すると、シーケンスの先頭に位置するピクチャＰ０の冒頭に、ＳＰＳ８２１、ＰＰＳ８２２及びＡＰＳ８２３が挿入されている。ＰＰＳ８２２は、ＰＰＳ ＩＤ“Ｐ０”により識別される。ＡＰＳ８２３は、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータ及びＱＭ関連パラメータを含む。ＡＬＦ関連パラメータは、１つのグループに属し、ＡＬＦ用の補助識別子であるＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ０”により識別される。ＳＡＯ関連パラメータは、１つのグループに属し、ＳＡＯ用の補助識別子であるＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ０”により識別される。ＱＭ関連パラメータは、１つのグループに属し、ＱＭ用の補助識別子であるＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”により識別される。ピクチャＰ０内のスライスデータに付加されているスライスヘッダ８２４は、参照ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ０”、参照ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ０”及び参照ＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”を含む。これらは、当該スライスデータを復号するために、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ０”に属するＡＬＦ関連パラメータ、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ０”に属するＳＡＯ関連パラメータ及びＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”に属するＱＭ関連パラメータが参照されることを意味する。

【0145】

ピクチャＰ０に続くピクチャＰ１には、ＡＰＳ８２５が挿入されている。ＡＰＳ８２５は、ＡＬＦ関連パラメータ及びＳＡＯ関連パラメータを含む。ＡＬＦ関連パラメータは、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ１”により識別される。ＳＡＯ関連パラメータは、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”により識別される。ピクチャＰ０からＱＭ関連パラメータは更新されないため、ＡＰＳ８２５にＱＭ関連パラメータは含まれていない。ピクチャＰ１内のスライスデータに付加されているスライスヘッダ８２６は、参照ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ１”、参照ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”及び参照ＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”を含む。これらは、当該スライスデータを復号するために、ＡＰＳ８２５内のＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ１”に属するＡＬＦ関連パラメータ及びＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”に属するＳＡＯ関連パラメータ、並びにＡＰＳ８２３内のＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”に属するＱＭ関連パラメータが参照されることを意味する。

【0146】

ピクチャＰ１に続くピクチャＰ２には、ＡＰＳ８２７が挿入されている。ＡＰＳ８２７は、ＡＬＦ関連パラメータ及びＱＭ関連パラメータを含む。ＡＬＦ関連パラメータは、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ２”により識別される。ＱＭ関連パラメータは、ＳＵＢ＿ＱＭ ＩＤ“ＡＱ１”により識別される。ピクチャＰ１からＳＡＯ関連パラメータは更新されないため、ＡＰＳ８２７にＳＡＯ関連パラメータは含まれていない。ピクチャＰ２内のスライスデータに付加されているスライスヘッダ８２８は、参照ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ２”、参照ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”及び参照ＳＵＢ＿ＱＭ ＩＤ“ＡＱ１”を含む。これらは、当該スライスデータを復号するために、ＡＰＳ８２７内のＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ２”に属するＡＬＦ関連パラメータ及びＳＵＢ＿ＱＭ ＩＤ“ＡＱ１”に属するＱＭ関連パラメータ、並びにＡＰＳ８２５内のＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”に属するＳＡＯ関連パラメータが参照されることを意味する。

【0147】

図３０は、第３の手法に従って定義されるＡＰＳのシンタックスの一例を示している。図３０の第２行〜第４行において、３つのグループ存在フラグ“aps_adaptive_loop_filter_flag”、“aps_sample_adaptive_offset_flag”及び“aps_qmatrix_flag”が特定される。グループ存在フラグは、各グループに属するパラメータが当該ＡＰＳ内に含まれるか否かを示す。図３０の例ではＡＰＳ ＩＤはシンタックスから省略されているが、当該ＡＰＳを識別するためのＡＰＳ ＩＤがシンタックス内に追加されてもよい。第１２行〜第１７行では、ＡＬＦ関連パラメータが特定される。第１３行の“sub_alf_id”は、ＡＬＦ用の補助識別子である。第１８行〜第２４行では、ＳＡＯ関連パラメータが特定される。第１９行の“sub_sao_id”は、ＳＡＯ用の補助識別子である。第２５行〜第３０行では、ＱＭ関連パラメータが特定される。第２６行の“sub_qmatrix_id”は、ＱＭ用の補助識別子である。第２９行の“qmatrix_param()”は、図１３〜図２０に例示したような量子化行列パラメータを特定する関数である。

【0148】

図３１は、第３の手法に従って定義されるスライスヘッダのシンタックスの一例を示す説明図である。図３１の第５行では、当該スライスに設定すべきパラメータのうちＰＰＳに含まれるパラメータを参照するための参照ＰＰＳ ＩＤが特定される。第８行では、当該スライスに設定すべきパラメータのうちＡＬＦ関連パラメータを参照するための参照ＳＵＢ＿ＡＬＦ ＩＤが特定される。第９行では、当該スライスに設定すべきパラメータのうちＳＡＯ関連パラメータを参照するための参照ＳＵＢ＿ＳＡＯ ＩＤが特定される。第１０行では、当該スライスに設定すべきパラメータのうちＱＭ関連パラメータを参照するための参照ＳＵＢ＿ＱＭ ＩＤが特定される。

【0149】

第３の手法が採用される場合、画像符号化装置１０のシンタックス処理部１３のパラメータ生成部１２０は、量子化行列パラメータが更新される都度、更新された一群の量子化行列パラメータに補助識別子として新たなＳＵＢ＿ＱＭ ＩＤを付与する。そして、挿入部１３０は、ＳＵＢ＿ＱＭ ＩＤの付与された量子化行列パラメータを、他のパラメータと共にＡＰＳに挿入する。画像復号装置６０のシンタックス処理部６１のパラメータ取得部１６０は、各スライスに設定される量子化行列パラメータを、スライスヘッダ内で指定される参照ＳＵＢ＿ＱＭ ＩＤを用いてＡＰＳから取得する。

【0150】

第３の手法によれば、補助識別子を用いてＡＰＳ内のパラメータがグループ化され、更新の必要性がないグループのパラメータについて冗長的なパラメータの伝送が行われない。そのため、符号化効率は最適化され得る。また、パラメータの種類が増加してもＡＰＳの種類は増加しないため、上述した第２の手法のようにＮＡＬユニットタイプが数多く消費されることがない。従って、第３の手法は、将来の拡張の柔軟性を損なうこともない。

【0151】

図２９〜図３１の例では、ＡＰＳに含まれるパラメータが、ＡＬＦ、ＳＡＯ及びＱＭという関連する符号化ツールに応じてグループ化されている。しかしながら、これはパラメータのグループ化の一例に過ぎない。また、ＡＰＳには、他の符号化ツールに関連するパラメータが含まれてもよい。例えば、適応補間フィルタ（ＡＩＦ：Adaptive Interpolation Filter）のフィルタ係数などのＡＩＦ関連パラメータは、ＡＰＳに含められ得るパラメータの一例である。以下、図３２を参照しながら、ＡＰＳに含まれるパラメータのグループ化の様々な基準について述べる。

【0152】

図３２に示された表は、代表的な符号化ツールごとのパラメータの特徴として、「パラメータの内容」、「更新頻度」及び「データサイズ」を一覧化している。

【0153】

適応ループフィルタ（ＡＬＦ）は、復号画像と原画像との誤差を最小化するように適応的に決定されるフィルタ係数で復号画像を２次元フィルタリングするフィルタ（典型的には、ウィーナフィルタ）である。ＡＬＦ関連パラメータは、各ブロックに適用されるフィルタ係数とＣＵ（Coding Unit）ごとのＯｎ／Ｏｆｆフラグとを含む。ＡＬＦのフィルタ係数のデータサイズは、他の種類のパラメータと比較して非常に大きい。そのため、通常、符号量の多いＩピクチャについてはＡＬＦ関連パラメータは伝送されるが、符号量の小さいＢピクチャについてはＡＬＦ関連パラメータの伝送は省略され得る。これは、符号量の小さいピクチャについてデータサイズの大きいＡＬＦ関連パラメータを伝送することが利得の観点から非効率的であるためである。ＡＬＦのフィルタ係数は、ほとんどの場合、ピクチャごとに変化する。フィルタ係数は画像の内容に依存するため、過去に設定されたフィルタ係数を再利用できる可能性は低い。

【0154】

サンプル適応オフセット（ＳＡＯ）は、復号画像の各画素値に適応的に決定されるオフセット値を加えることにより、復号画像の画質を向上させるツールである。ＳＡＯ関連パラメータは、オフセットパターン及びオフセット値を含む。ＳＡＯ関連パラメータのデータサイズは、ＡＬＦ関連パラメータほどには大きくない。ＳＡＯ関連パラメータもまた、原則としてピクチャごとに変化する。但し、ＳＡＯ関連パラメータには、画像の内容がわずかに変化してもあまり変化しないという性質があるため、過去に設定されたパラメータ値を再利用できる可能性がある。

【0155】

量子化行列（ＱＭ）は、直交変換によって画像データから変換される変換係数を量子化する際に用いられる量子化スケールを要素とする行列である。ＱＭ関連パラメータ、即ち量子化行列パラメータについては、本明細書で詳しく説明した通りである。ＱＭ関連パラメータのデータサイズは、ＳＡＯ関連パラメータよりも大きい。量子化行列は、原則として全てのピクチャに必要とされるが、画像の内容が大きく変化しなければ必ずしもピクチャごとに更新されなくてよい。そのため、量子化行列は、同じ種別（Ｉ／Ｐ／Ｂピクチャなど）のピクチャについて、又はＧＯＰごとに再利用され得る。

【0156】

適応補間フィルタ（ＡＩＦ）は、動き補償の際に用いられる補間フィルタのフィルタ係数をサブピクセル位置ごとに適応的に変化させるツールである。ＡＩＦ関連パラメータは、サブピクセル位置ごとのフィルタ係数を含む。ＡＩＦ関連パラメータのデータサイズは、上述した３種類のパラメータと比較すると小さい。ＡＩＦ関連パラメータは、原則としてピクチャごとに変化する。但し、ピクチャの種別が同じであれば補間の特性が類似する傾向があることから、同じ種別（Ｉ／Ｐ／Ｂピクチャなど）のピクチャについてＡＩＦ関連パラメータを再利用することができる。

【0157】

上述したようなパラメータの性質に基づいて、例えば、ＡＰＳに含まれるパラメータをグループ化するための次の３通りの基準を採用することができる。
基準Ａ）符号化ツールに応じたグループ化
基準Ｂ）更新頻度に応じたグループ化
基準Ｃ）パラメータの再利用の可能性に応じたグループ化

【0158】

基準Ａは、関連する符号化ツールに応じてパラメータをグループ化する、という基準である。図２９〜図３１に例示したパラメータセットの構成は、基準Ａに基づいている。パラメータの性質は概して関連する符号化ツールに応じて決まるため、符号化ツールごとにパラメータをグループ化することで、パラメータの様々な性質に応じて適時かつ効率的にパラメータを更新することが可能となる。

【0159】

基準Ｂは、更新頻度に応じてパラメータをグループ化する、という基準である。図３２に示したように、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータおよびＡＩＦ関連パラメータは、いずれも原則として毎ピクチャ更新され得る。そこで、例えばこれらパラメータを１つのグループに、ＱＭ関連パラメータを他のグループにグループ化することができる。この場合には、基準Ａと比較してグループの数が少なくなる。その結果、スライスヘッダで特定すべき補助識別子の数も少なくなるため、スライスヘッダの符号量を削減することができる。一方、同じグループに属するパラメータの更新頻度は互いに類似するため、更新されないパラメータが他のパラメータの更新のために冗長的に伝送される可能性も低く保たれる。

【0160】

基準Ｃは、パラメータの再利用の可能性に応じてパラメータをグループ化する、という基準である。ＡＬＦ関連パラメータについては再利用の可能性は低いが、ＳＡＯ関連パラメータ及びＡＩＦ関連パラメータについてはある程度の再利用の可能性がある。ＱＭ関連パラメータについては、複数のピクチャにわたってパラメータが再利用される可能性が高い。従って、このような再利用の可能性に応じてパラメータをグループ化することで、再利用されるパラメータをＡＰＳ内で冗長的に伝送することを回避することができる。

【0161】

［６−５．第３の手法の変形例］
上述した第３の手法では、図３１に例示したように、ＡＰＳ内のパラメータをグループ化するグループの数だけ参照ＳＵＢ ＩＤがスライスヘッダ内で特定されることになる。参照ＳＵＢ ＩＤのために要する符号量は、おおよそスライスヘッダの数とグループの数との積に比例する。このような符号量をより削減するために、以下に説明する変形例に係る手法が採用されてもよい。

【0162】

第３の手法の変形例では、補助識別子の組合せに関連付けられる組合せＩＤが、ＡＰＳ又は他のパラメータセット内で定義される。そして、ＡＰＳ内に含まれるパラメータは、組合せＩＤを通じてスライスヘッダから参照され得る。図３３は、第３の手法のこのような変形例に従って構成される符号化ストリームの一例を示している。

【0163】

図３３を参照すると、シーケンスの先頭に位置するピクチャＰ０の冒頭に、ＳＰＳ８３１、ＰＰＳ８３２及びＡＰＳ８３３が挿入されている。ＰＰＳ８３２は、ＰＰＳ ＩＤ“Ｐ０”により識別される。ＡＰＳ８３３は、ＡＬＦ関連パラメータ、ＳＡＯ関連パラメータ及びＱＭ関連パラメータを含む。ＡＬＦ関連パラメータは、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ０”により識別される。ＳＡＯ関連パラメータは、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ０”により識別される。ＱＭ関連パラメータは、ＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”により識別される。さらに、ＡＰＳ８３３は、組合せの定義として、組合せＩＤ“Ｃ００”＝｛ＡＡ０，ＡＳ０，ＡＱ０｝を含む。ピクチャＰ０内のスライスデータに付加されているスライスヘッダ８３４は、組合せＩＤ“Ｃ００”を含む。これは、当該スライスデータを復号するために、組合せＩＤ“Ｃ００”にそれぞれ関連付けられているＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ０”に属するＡＬＦ関連パラメータ、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ０”に属するＳＡＯ関連パラメータ及びＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”に属するＱＭ関連パラメータが参照されることを意味する。

【0164】

ピクチャＰ０に続くピクチャＰ１には、ＡＰＳ８３５が挿入されている。ＡＰＳ８３５は、ＡＬＦ関連パラメータ及びＳＡＯ関連パラメータを含む。ＡＬＦ関連パラメータは、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ１”により識別される。ＳＡＯ関連パラメータは、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”により識別される。ピクチャＰ０からＱＭ関連パラメータは更新されないため、ＡＰＳ８３５にＱＭ関連パラメータは含まれていない。さらに、ＡＰＳ８３５は、組合せの定義として、組合せＩＤ“Ｃ０１”＝｛ＡＡ１，ＡＳ０，ＡＱ０｝、組合せＩＤ“Ｃ０２”＝｛ＡＡ０，ＡＳ１，ＡＱ０｝及び組合せＩＤ“Ｃ０３”＝｛ＡＡ１，ＡＳ１，ＡＱ０｝を含む。ピクチャＰ１内のスライスデータに付加されているスライスヘッダ８３６は、組合せＩＤ“Ｃ０３”を含む。これは、当該スライスデータを復号するために、組合せＩＤ“Ｃ０３”にそれぞれ関連付けられているＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ１”に属するＡＬＦ関連パラメータ、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”に属するＳＡＯ関連パラメータ及びＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”に属するＱＭ関連パラメータが参照されることを意味する。

【0165】

ピクチャＰ１に続くピクチャＰ２には、ＡＰＳ８３７が挿入されている。ＡＰＳ８３７は、ＡＬＦ関連パラメータを含む。ＡＬＦ関連パラメータは、ＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ２”により識別される。ピクチャＰ１からＳＡＯ関連パラメータ及びＱＭ関連パラメータは更新されないため、ＡＰＳ８３７にＳＡＯ関連パラメータ及びＱＭ関連パラメータは含まれていない。さらに、ＡＰＳ８３７は、組合せの定義として、組合せＩＤ“Ｃ０４”＝｛ＡＡ２，ＡＳ０，ＡＱ０｝及び組合せＩＤ“Ｃ０５”＝｛ＡＡ２，ＡＳ１，ＡＱ０｝を含む。ピクチャＰ２内のスライスデータに付加されているスライスヘッダ８３８は、組合せＩＤ“Ｃ０５”を含む。これは、当該スライスデータを復号するために、組合せＩＤ“Ｃ０５”にそれぞれ関連付けられているＳＵＢ＿ＡＬＦ ＩＤ“ＡＡ２”に属するＡＬＦ関連パラメータ、ＳＵＢ＿ＳＡＯ ＩＤ“ＡＳ１”に属するＳＡＯ関連パラメータ及びＳＵＢ＿ＱＭ ＩＤ“ＡＱ０”に属するＱＭ関連パラメータが参照されることを意味する。

【0166】

なお、本変形例において、補助識別子の全ての組合せについて組合せＩＤが定義されなくてよく、スライスヘッダにおいて実際に参照される補助識別子の組合せについてのみ組合せＩＤが定義されてよい。また、補助識別子の組合せは、対応するパラメータが格納されているＡＰＳとは異なるＡＰＳ内で定義されてもよい。

【0167】

本変形例が採用される場合、画像符号化装置１０のシンタックス処理部１３のパラメータ生成部１２０は、量子化行列パラメータを含む様々なパラメータをグループ化する補助識別子の組合せに関連付けられる組合せＩＤを、追加的なパラメータとして生成する。そして、挿入部１３０は、パラメータ生成部１３０により生成された組合せＩＤを、ＡＰＳ又は他のパラメータセットに挿入する。画像復号装置６０のシンタックス処理部６１のパラメータ取得部１６０は、各スライスのスライスヘッダにおいて指定される組合せＩＤを取得し、当該組合せＩＤに関連付けられる補助識別子を用いてＡＰＳ内の量子化行列パラメータをさらに取得する。

【0168】

このように、補助識別子の組合せに関連付けられる組合せＩＤを用いてＡＰＳ内のパラメータを参照することで、スライスヘッダから各パラメータを参照するために要する符号量を削減することができる。

【0169】

＜７．応用例＞
上述した実施形態に係る画像符号化装置１０及び画像復号装置６０は、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、４つの応用例について説明する。

【0170】

［７−１．第１の応用例］
図３４は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース９０９、制御部９１０、ユーザインタフェース９１１、及びバス９１２を備える。

【0171】

チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送手段としての役割を有する。

【0172】

デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。また、デマルチプレクサ９０３は、符号化ビットストリームからＥＰＧ（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。

【0173】

デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。

【0174】

映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのＧＵＩ（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。

【0175】

表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はＯＬＥＤなど）の映像面上に映像又は画像を表示する。

【0176】

音声信号処理部９０７は、デコーダ９０４から入力される音声データについてＤ／Ａ変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。

【0177】

外部インタフェース９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送手段としての役割を有する。

【0178】

制御部９１０は、ＣＰＵ（Central Processing Unit）などのプロセッサ、並びにＲＡＭ（Random Access Memory）及びＲＯＭ（Read Only Memory）などのメモリを有する。メモリは、ＣＰＵにより実行されるプログラム、プログラムデータ、ＥＰＧデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にＣＰＵにより読み込まれ、実行される。ＣＰＵは、プログラムを実行することにより、例えばユーザインタフェース９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。

【0179】

ユーザインタフェース９１１は、制御部９１０と接続される。ユーザインタフェース９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。

【0180】

バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース９０９及び制御部９１０を相互に接続する。

【0181】

このように構成されたテレビジョン装置９００において、デコーダ９０４は、上述した実施形態に係る画像復号装置６０の機能を有する。従って、テレビジョン装置９００で復号される映像についての符号化効率の低下を緩和し、あるいは符号化効率を向上することができる。

【0182】

［７−２．第２の応用例］
図３５は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。

【0183】

アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。

【0184】

携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。

【0185】

音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをＡ／Ｄ変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びＤ／Ａ変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。

【0186】

また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９の記憶媒体に記憶させる。

【0187】

記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、ＲＡＭ又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、ＵＳＢメモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。

【0188】

また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記録再生部９２９の記憶媒体に記憶させる。

【0189】

また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号をアンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びＤ／Ａ変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。

【0190】

このように構成された携帯電話機９２０において、画像処理部９２７は、上述した実施形態に係る画像符号化装置１０及び画像復号装置６０の機能を有する。従って、携帯電話機９２０で符号化及び復号される映像についての符号化効率の低下を緩和し、あるいは符号化効率を向上することができる。

【0191】

［７−３．第３の応用例］
図３６は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データ及び映像データを復号する。

【0192】

記録再生装置９４０は、チューナ９４１、外部インタフェース９４２、エンコーダ９４３、ＨＤＤ（Hard Disk Drive）９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、ＯＳＤ（On-Screen Display）９４８、制御部９４９、及びユーザインタフェース９５０を備える。

【0193】

チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送手段としての役割を有する。

【0194】

外部インタフェース９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース９４２は、例えば、ＩＥＥＥ１３９４インタフェース、ネットワークインタフェース、ＵＳＢインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース９４２を介して受信される映像データ及び音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース９４２は、記録再生装置９４０における伝送手段としての役割を有する。

【0195】

エンコーダ９４３は、外部インタフェース９４２から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。

【0196】

ＨＤＤ９４４は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、ＨＤＤ９４４は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。

【0197】

ディスクドライブ９４５は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばＤＶＤディスク（ＤＶＤ−Ｖｉｄｅｏ、ＤＶＤ−ＲＡＭ、ＤＶＤ−Ｒ、ＤＶＤ−ＲＷ、ＤＶＤ＋Ｒ、ＤＶＤ＋ＲＷ等）又はＢｌｕ−ｒａｙ（登録商標）ディスクなどであってよい。

【0198】

セレクタ９４６は、映像及び音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをＨＤＤ９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、ＨＤＤ９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。

【0199】

デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをＯＳＤ９４８へ出力する。また、デコーダ９０４は、生成した音声データを外部のスピーカへ出力する。

【0200】

ＯＳＤ９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、ＯＳＤ９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのＧＵＩの画像を重畳してもよい。

【0201】

制御部９４９は、ＣＰＵなどのプロセッサ、並びにＲＡＭ及びＲＯＭなどのメモリを有する。メモリは、ＣＰＵにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にＣＰＵにより読み込まれ、実行される。ＣＰＵは、プログラムを実行することにより、例えばユーザインタフェース９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。

【0202】

ユーザインタフェース９５０は、制御部９４９と接続される。ユーザインタフェース９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。

【0203】

このように構成された記録再生装置９４０において、エンコーダ９４３は、上述した実施形態に係る画像符号化装置１０の機能を有する。また、デコーダ９４７は、上述した実施形態に係る画像復号装置６０の機能を有する。従って、記録再生装置９４０で符号化及び復号される映像についての符号化効率の低下を緩和し、あるいは符号化効率を向上することができる。

【0204】

［７−４．第４の応用例］
図３７は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。

【0205】

撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、ＯＳＤ９６９、制御部９７０、ユーザインタフェース９７１、及びバス９７２を備える。

【0206】

光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、ＯＳＤ９６９、及び制御部９７０を相互に接続する。

【0207】

光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、ＣＣＤ又はＣＭＯＳなどのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。

【0208】

信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。

【0209】

画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース９６６又はメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース９６６又はメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、ＯＳＤ９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。

【0210】

ＯＳＤ９６９は、例えばメニュー、ボタン又はカーソルなどのＧＵＩの画像を生成して、生成した画像を画像処理部９６４へ出力する。

【0211】

外部インタフェース９６６は、例えばＵＳＢ入出力端子として構成される。外部インタフェース９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得る。さらに、外部インタフェース９６６は、ＬＡＮ又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース９６６は、撮像装置９６０における伝送手段としての役割を有する。

【0212】

メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はＳＳＤ（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。

【0213】

制御部９７０は、ＣＰＵなどのプロセッサ、並びにＲＡＭ及びＲＯＭなどのメモリを有する。メモリは、ＣＰＵにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にＣＰＵにより読み込まれ、実行される。ＣＰＵは、プログラムを実行することにより、例えばユーザインタフェース９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。

【0214】

ユーザインタフェース９７１は、制御部９７０と接続される。ユーザインタフェース９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。

【0215】

このように構成された撮像装置９６０において、画像処理部９６４は、上述した実施形態に係る画像符号化装置１０及び画像復号装置６０の機能を有する。従って、撮像装置９６０で符号化及び復号される映像についての符号化効率の低下を緩和し、あるいは符号化効率を向上することができる。

【0216】

＜８．まとめ＞
ここまで、図１〜図３７を用いて、一実施形態に係る画像符号化装置１０及び画像復号装置６０について説明した。本実施形態によれば、画像の量子化及び逆量子化の際に使用される量子化行列を定義する量子化行列パラメータが、シーケンスパラメータセット及びピクチャパラメータセットとは異なる量子化行列パラメータセット（ＱＭＰＳ）内に挿入される。それにより、量子化行列の更新の際に量子化行列パラメータ以外のパラメータを符号化することも、量子化行列パラメータ以外のパラメータの更新の際に量子化行列パラメータを符号化することも不要となる。従って、量子化行列の更新に伴う符号化効率の低下が緩和され、あるいは符号化効率が向上する。特に、量子化行列のサイズがより大きい場合、又はピクチャごとに定義される量子化行列の数がより多い場合には、本明細書で開示した手法による符号量の削減は、一層効果的となる。

【0217】

また、本実施形態によれば、量子化行列を直接的に定義する代わりに、以前に生成した量子化行列をコピーすることを指示するパラメータが、ＱＭＰＳに含められ得る。この場合には、量子化行列そのものを特定するパラメータ（例えば、ＤＰＣＭ方式での差分データの配列）がＱＭＰＳ内で省略されるため、量子化行列の定義に要する符号量をさらに削減することができる。

【0218】

また、本実施形態によれば、各ＱＭＰＳにＱＭＰＳ ＩＤが付与される。そして、コピーモードにおいては、コピー元の量子化行列を定義したＱＭＰＳのＱＭＰＳ ＩＤが、ソースＩＤとして指定され得る。また、コピー元の量子化行列のサイズ及びタイプが、コピー元サイズ及びコピー元タイプとして指定され得る。従って、以前に生成した複数のＱＭＰＳの量子化行列のうち任意のＱＭＰＳの量子化行列をコピー元の量子化行列として柔軟に指定することができる。また、サイズ又はタイプの異なる量子化行列をコピーして再利用することも可能である。

【0219】

また、本実施形態によれば、コピーされる量子化行列の残差成分を指定するパラメータが、ＱＭＰＳに含められ得る。従って、以前に生成した量子化行列と完全には等しくない量子化行列をも、少ない符号量で新たに生成することができる。

【0220】

また、軸指定モードにおいては、量子化行列の全ての要素がスキャンされる代わりに、量子化行列の３つの基準軸又は４つのコーナーに該当する量子化行列の要素の値のみが、ＱＭＰＳに含められ得る。従って、この場合にも少ない符号量で量子化行列を定義することができる。

【0221】

また、本実施形態によれば、スライスヘッダにおいて指定されるＱＭＰＳ ＩＤにより識別されるＱＭＰＳ内の量子化行列パラメータに基づいて、各スライスについて使用すべき量子化行列が設定される。従って、スライスごとに量子化行列を柔軟に切り替えることができるため、時々刻々と画像特性が変化する場合にも、各時点で最適な量子化行列を使用して映像を符号化又は復号することができる。

【0222】

なお、本明細書では、量子化行列パラメータセットが、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、量子化行列パラメータセットを伝送する手法はかかる例に限定されない。例えば、各パラメータセット内の情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライス若しくはブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像（又はビットストリーム）とは別の伝送路上で伝送されてもよい。また、情報は、画像（又はビットストリーム）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と画像（又はビットストリーム）とは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。

【0223】

以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。

【0224】

なお、以下のような構成も本開示の技術的範囲に属する。
（１）
量子化行列を定義する量子化行列パラメータがシーケンスパラメータセット及びピクチャパラメータセットとは異なるパラメータセット内に設定された符号化ストリームから、前記量子化行列パラメータを取得する取得部と、
前記取得部により取得される前記量子化行列パラメータに基づいて、前記符号化ストリームから復号されるデータを逆量子化する際に用いられる量子化行列を設定する設定部と、
前記設定部により設定される量子化行列を用いて、前記符号化ストリームから復号される前記データを逆量子化する逆量子化部と、
を備える画像処理装置。
（２）
前記量子化行列パラメータを含むパラメータセットは、量子化行列以外の符号化ツールに関連する他の符号化パラメータをも設定可能な共用のパラメータセットであり、
前記取得部は、前記共用のパラメータセット内に前記量子化行列パラメータが設定されている場合に、当該量子化行列パラメータを取得する、
前記（１）に記載の画像処理装置。
（３）
前記取得部は、前記共用のパラメータセットに含まれるフラグを参照することにより、前記共用のパラメータセット内に前記量子化行列パラメータが設定されているかを判定する、前記（２）に記載の画像処理装置。
（４）
前記共用のパラメータセットは、適応パラメータセット（Adaptation Parameter Set）である、前記（２）又は前記（３）に記載の画像処理装置。
（５）
前記設定部は、第１の適応パラメータセットの後に復号される第２の適応パラメータセット内に前記第１の適応パラメータセットへの参照が含まれる場合に、前記第１の適応パラメータセットから取得された前記量子化行列パラメータに基づいて設定した量子化行列を、前記第２の適応パラメータセットに対応する量子化行列として再利用する、前記（４）に記載の画像処理装置。
（６）
前記設定部は、第３の適応パラメータセット内に当該第３の適応パラメータセットへの参照が含まれる場合に、当該第３の適応パラメータセットに対応する量子化行列として既定の量子化行列を設定する、前記（５）に記載の画像処理装置。
（７）
前記設定部は、第１のパラメータセットについての第１の量子化行列のコピーを指示するコピーパラメータが第２のパラメータセットに含まれる場合には、前記第１の量子化行列をコピーすることにより、第２の量子化行列を設定する、前記（１）に記載の画像処理装置。
（８）
前記量子化行列パラメータを含む各パラメータセットは、各パラメータセットを識別する識別子を有し、
前記コピーパラメータは、コピー元のパラメータセットの識別子を含む、
前記（７）に記載の画像処理装置。
（９）
各パラメータセットは、複数の種類の量子化行列をそれぞれ定義する前記量子化行列パラメータを含み、
前記コピーパラメータは、前記第１の量子化行列の種類を指定する種類パラメータを含む、
前記（８）に記載の画像処理装置。
（１０）
前記設定部は、第３のパラメータセットに含まれる前記コピー元のパラメータセットの識別子が前記第３のパラメータセットの識別子に等しい場合には、前記第３のパラメータセットについての第３の量子化行列として、既定の量子化行列を設定する、前記（８）に記載の画像処理装置。
（１１）
前記設定部は、前記第２の量子化行列のサイズが前記第１の量子化行列のサイズよりも大きい場合には、コピーした前記第１の量子化行列の要素を補間することにより、前記第２の量子化行列を設定する、前記（７）に記載の画像処理装置。
（１２）
前記設定部は、前記第２の量子化行列のサイズが前記第１の量子化行列のサイズよりも小さい場合には、コピーした前記第１の量子化行列の要素を間引くことにより、前記第２の量子化行列を設定する、前記（７）に記載の画像処理装置。
（１３）
前記設定部は、コピーされる量子化行列の残差成分を指定する残差指定パラメータが前記第２のパラメータセットに含まれる場合には、コピーした前記第１の量子化行列に前記残差成分を加算することにより、前記第２の量子化行列を設定する、前記（７）に記載の画像処理装置。
（１４）
前記量子化行列パラメータを含む各パラメータセットは、各パラメータセットを識別するパラメータセット識別子を有し、
前記逆量子化部は、スライスヘッダにおいて指定される前記パラメータセット識別子により識別されるパラメータセットに含まれる量子化行列パラメータに基づいて前記設定部により設定される量子化行列を、各スライスについて使用する、
前記（１）に記載の画像処理装置。
（１５）
前記量子化行列パラメータを含むパラメータセットは、量子化行列以外の符号化ツールに関連する他の符号化パラメータをさらに含む、前記（７）〜（１４）のいずれか１項に記載の画像処理装置。
（１６）
前記量子化行列パラメータ及び前記他の符号化パラメータは、各パラメータセットを識別するパラメータセット識別子とは別に定義される補助識別子ごとにグループ化され、
前記取得部は、前記量子化行列パラメータを、前記補助識別子を用いて取得する、
前記（１５）に記載の画像処理装置。
（１７）
前記パラメータセット又は他のパラメータセットにおいて、複数の前記補助識別子の組合せに関連付けられる組合せ識別子が定義され、
前記取得部は、各スライスのスライスヘッダにおいて指定される前記組合せ識別子を取得し、取得した前記組合せ識別子に関連付けられる前記補助識別子を用いて前記量子化行列パラメータを取得する、
前記（１６）に記載の画像処理装置。
（１８）
量子化行列を定義する量子化行列パラメータがシーケンスパラメータセット及びピクチャパラメータセットとは異なるパラメータセット内に設定された符号化ストリームから、前記量子化行列パラメータを取得することと、
取得された前記量子化行列パラメータに基づいて、前記符号化ストリームから復号されるデータを逆量子化する際に用いられる量子化行列を設定することと、
設定された量子化行列を用いて、前記符号化ストリームから復号される前記データを逆量子化することと、
を含む画像処理方法。
（１９）
データを量子化行列を用いて量子化する量子化部と、
前記量子化部により前記データを量子化する際に使用される量子化行列を定義する量子化行列パラメータを設定する設定部と、
前記設定部により設定される前記量子化行列パラメータをシーケンスパラメータセット及びピクチャパラメータセットとは異なるパラメータセット内に符号化する符号化部と、 を備える画像処理装置。
（２０）
データを量子化行列を用いて量子化することと、
前記データを量子化する際に使用される前記量子化行列を定義する量子化行列パラメータを設定することと、
設定された前記量子化行列パラメータをシーケンスパラメータセット及びピクチャパラメータセットとは異なるパラメータセット内に符号化することと、
を含む画像処理方法。

【符号の説明】

【0225】

１０ 画像処理装置（画像符号化装置）
１６ 量子化部
１２０ パラメータ生成部
１３０ 挿入部
６０ 画像処理装置（画像復号装置）
６３ 逆量子化部
１６０ パラメータ取得部
１７０ 設定部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】

【図24】

【図25】

【図26】

【図27】

【図28】

【図29】

【図30】

【図31】

【図32】

【図33】

【図34】

【図35】

【図36】

【図37】

【図38】