ホーム > 特許ランキング > サン パテント トラスト
知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6135939
(24)【登録日】2017年5月12日
(45)【発行日】2017年5月31日
(54)【発明の名称】符号化復号装置
(51)【国際特許分類】
H04N 19/52 20140101AFI20170522BHJP
H04N 19/58 20140101ALI20170522BHJP
H04N 19/70 20140101ALI20170522BHJP
H04N 19/513 20140101ALI20170522BHJP
H04N 19/463 20140101ALI20170522BHJP
【ＦＩ】
H04N19/52
H04N19/58
H04N19/70
H04N19/513
H04N19/463
【請求項の数】1
【全頁数】41
(21)【出願番号】特願2014-215730(P2014-215730)
(22)【出願日】2014年10月22日
(62)【分割の表示】特願2014-182701(P2014-182701)の分割
【原出願日】2013年5月7日
(65)【公開番号】特開2015-39227(P2015-39227A)
(43)【公開日】2015年2月26日
【審査請求日】2016年1月26日
(31)【優先権主張番号】61/644,511
(32)【優先日】2012年5月9日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】316002062
【氏名又は名称】サン パテント トラスト
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】チョン スン リム
(72)【発明者】
【氏名】スー モン セット ナイング
(72)【発明者】
【氏名】西 孝啓
(72)【発明者】
【氏名】笹井 寿郎
(72)【発明者】
【氏名】柴原 陽司
(72)【発明者】
【氏名】杉尾 敏康
(72)【発明者】
【氏名】谷川 京子
(72)【発明者】
【氏名】松延 徹
(72)【発明者】
【氏名】寺田 健吾
【審査官】
長谷川 素直
(56)【参考文献】
【文献】
特開２００４−２１５２１５（ＪＰ，Ａ）
【文献】
特開２００３−３３３６０２（ＪＰ，Ａ）
【文献】
Chong Soon Lim(外1名)，High-level Syntax: MVP scaling issue for LTRPs，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-I0422，米国，ITU-T，２０１２年 ５月 ７日，p.1-3
【文献】
Yunfei Zheng(外2名)，Unified Motion Vector Predictor Selection for Merge and AMVP，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-E396，米国，ITU-T，２０１１年 ３月２３日，p.1-5
(58)【調査した分野】（Int.Cl.，ＤＢ名）
Ｈ０４Ｎ １９／００−１９／９８
(57)【特許請求の範囲】
【請求項1】
第１画像に含まれる第１カレントブロックを符号化して第１符号化ビットストリームを生成する符号化装置と、
第２符号化ビットストリームから、第２画像に含まれる第２カレントブロックを復号する復号装置とを備え、
前記符号化装置は、符号化部と第１記憶部とを備え、
前記符号化部は、
前記第１カレントブロックの第１カレント動きベクトルを符号化するための第１予測動きベクトルの候補を、前記第１記憶部に記憶されたブロックであって、前記第１カレントブロックが含まれる第１カレントピクチャに含まれ、前記第１カレントブロックに隣接する隣接ブロック又は前記第１カレントピクチャ以外のピクチャに含まれる同位置ブロックである第１ブロックの第１動きベクトルから導出し、
導出された前記第１予測動きベクトルの候補を第１候補リストに追加し、
前記第１候補リストから選択された候補に基づいて、少なくとも１つの第１予測動きベクトルを導出し、
導出された前記第１予測動きベクトルを用いて前記第１カレント動きベクトルを符号化し、前記第１カレント動きベクトルを用いて前記第１カレントブロックを符号化し、
前記第１予測動きベクトルの候補の導出において、
前記第１カレントブロックが前記第１カレント動きベクトルを用いて参照する第１カレント参照ピクチャのタイプと、前記第１ブロックが前記第１動きベクトルを用いて参照する第１参照ピクチャのタイプとに基づいて、前記第１動きベクトルから前記第１予測動きベクトルの候補を導出するか否かを判定し、
前記第１カレント参照ピクチャのタイプ及び前記第１参照ピクチャのタイプは、ロングターム参照ピクチャ及びショートターム参照ピクチャのいずれか一方であり、
前記第１カレント参照ピクチャのタイプと前記第１参照ピクチャのタイプが同じ場合には、前記第１動きベクトルから前記第１予測動きベクトルの候補を導出すると判定し、
前記復号装置は、復号部と第２記憶部とを備え、
前記復号部は、
前記第２カレントブロックの第２カレント動きベクトルを復号するための第２予測動きベクトルの候補を、前記第２記憶部に記憶されているブロックであって、前記第２カレントブロックが含まれる第２カレントピクチャに含まれ、前記第２カレントブロックに隣接する隣接ブロック又は前記第２カレントピクチャ以外のピクチャに含まれる同位置ブロックである第２ブロックの第２動きベクトルから導出し、
導出された前記第２予測動きベクトルの候補を第２候補リストに追加する第２追加部と、
前記第２候補リストから選択された候補に基づいて、少なくとも１つの第２予測動きベクトルを導出し、
導出された前記第２予測動きベクトルから前記第２カレント動きベクトルを復号し、復号された前記第２カレント動きベクトルを用いて前記第２カレントブロックを復号し、
前記第２予測動きベクトルの候補の導出において、
前記第２カレントブロックが前記第２カレント動きベクトルを用いて参照する第２カレント参照ピクチャのタイプと、前記第２ブロックが前記第２動きベクトルを用いて参照する第２参照ピクチャのタイプとに基づいて、前記第２動きベクトルから前記第２予測動きベクトルの候補を導出するか否かを判定し、
前記第２カレント参照ピクチャのタイプ及び前記第２参照ピクチャのタイプは、ロングターム参照ピクチャ及びショートターム参照ピクチャのいずれか一方であり、
前記第２カレント参照ピクチャのタイプと前記第２参照ピクチャのタイプが同じ場合には、前記第２動きベクトルから前記第２予測動きベクトルの候補を導出すると判定する
符号化復号装置。
第２符号化ビットストリームから、第２画像に含まれる第２カレントブロックを復号する復号装置とを備え、
前記符号化装置は、符号化部と第１記憶部とを備え、
前記符号化部は、
前記第１カレントブロックの第１カレント動きベクトルを符号化するための第１予測動きベクトルの候補を、前記第１記憶部に記憶されたブロックであって、前記第１カレントブロックが含まれる第１カレントピクチャに含まれ、前記第１カレントブロックに隣接する隣接ブロック又は前記第１カレントピクチャ以外のピクチャに含まれる同位置ブロックである第１ブロックの第１動きベクトルから導出し、
導出された前記第１予測動きベクトルの候補を第１候補リストに追加し、
前記第１候補リストから選択された候補に基づいて、少なくとも１つの第１予測動きベクトルを導出し、
導出された前記第１予測動きベクトルを用いて前記第１カレント動きベクトルを符号化し、前記第１カレント動きベクトルを用いて前記第１カレントブロックを符号化し、
前記第１予測動きベクトルの候補の導出において、
前記第１カレントブロックが前記第１カレント動きベクトルを用いて参照する第１カレント参照ピクチャのタイプと、前記第１ブロックが前記第１動きベクトルを用いて参照する第１参照ピクチャのタイプとに基づいて、前記第１動きベクトルから前記第１予測動きベクトルの候補を導出するか否かを判定し、
前記第１カレント参照ピクチャのタイプ及び前記第１参照ピクチャのタイプは、ロングターム参照ピクチャ及びショートターム参照ピクチャのいずれか一方であり、
前記第１カレント参照ピクチャのタイプと前記第１参照ピクチャのタイプが同じ場合には、前記第１動きベクトルから前記第１予測動きベクトルの候補を導出すると判定し、
前記復号装置は、復号部と第２記憶部とを備え、
前記復号部は、
前記第２カレントブロックの第２カレント動きベクトルを復号するための第２予測動きベクトルの候補を、前記第２記憶部に記憶されているブロックであって、前記第２カレントブロックが含まれる第２カレントピクチャに含まれ、前記第２カレントブロックに隣接する隣接ブロック又は前記第２カレントピクチャ以外のピクチャに含まれる同位置ブロックである第２ブロックの第２動きベクトルから導出し、
導出された前記第２予測動きベクトルの候補を第２候補リストに追加する第２追加部と、
前記第２候補リストから選択された候補に基づいて、少なくとも１つの第２予測動きベクトルを導出し、
導出された前記第２予測動きベクトルから前記第２カレント動きベクトルを復号し、復号された前記第２カレント動きベクトルを用いて前記第２カレントブロックを復号し、
前記第２予測動きベクトルの候補の導出において、
前記第２カレントブロックが前記第２カレント動きベクトルを用いて参照する第２カレント参照ピクチャのタイプと、前記第２ブロックが前記第２動きベクトルを用いて参照する第２参照ピクチャのタイプとに基づいて、前記第２動きベクトルから前記第２予測動きベクトルの候補を導出するか否かを判定し、
前記第２カレント参照ピクチャのタイプ及び前記第２参照ピクチャのタイプは、ロングターム参照ピクチャ及びショートターム参照ピクチャのいずれか一方であり、
前記第２カレント参照ピクチャのタイプと前記第２参照ピクチャのタイプが同じ場合には、前記第２動きベクトルから前記第２予測動きベクトルの候補を導出すると判定する
符号化復号装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動きベクトル予測方法と、その動きベクトル予測を含んだ符号化方法および復号方法と、それらの符号化装置および復号装置とに関する。本発明は、どんなマルチメディアデータの符号化にも適用可能であり、特に、動きベクトル予測処理において様々なタイプの参照ピクチャをサポートしている動画像（または画像）符号化に適用可能である。
【背景技術】
【0002】
ＨＥＶＣ（高効率動画像圧縮符号化）、ＭＶＣ（多視点動画像符号化）、ＳＶＣ（スケーラブル動画像符号化）といった最近の動画像符号化方式は、符号化済みの参照ピクチャを用いるピクチャ間予測に対応している。参照ピクチャの分類は、例えば、対象ピクチャからのピクチャ・オーダー・カウント（ＰＯＣ）距離、ＳＶＣの場合はビューレイヤ、ならびに、３ＤビデオおよびＭＶＣの場合はビューＩＤによって異なる。それにもかかわらず、従来の符号化方式は、ビューＩＤおよびビューレイヤ、また、ショートターム参照ピクチャかロングターム参照ピクチャかにも関係なく、全タイプの参照ピクチャに対して同じ動きベクトル予測を適用している。例えば、ロングターム参照ピクチャ（ＬＴＲＰ）を指す動きベクトル（ＭＶ）をＰＯＣに基づいてスケーリングすると、非常に大きいまたは小さいスケーリングされた動きベクトルになるかもしれない。このような場合、動きベクトル予測処理の精度および効率は準最適なものとなる。
【0003】
ＨＥＶＣは、空間動きベクトル予測と時間動きベクトル予測とに対応している。空間動きベクトル予測では、対象予測単位（ＰＵ）の動きベクトルを、すでに符号化された隣接するＰＵの動きベクトルを用いて予測する。対象ＰＵも隣接ＰＵも共にカレント対象ピクチャ内にある。時間動きベクトル予測では、対象予測単位（ＰＵ）の動きベクトルを、同位置ブロックの動きベクトルを用いて予測する。同位置ブロックは、すでに符号化された同位置ピクチャ内にあり、当該同位置ブロックは、参照ピクチャ（同位置参照ピクチャとする）を指す動きベクトルを用いて符号化される。「同位置」とは、通常、同位置ピクチャ内の同位置ＰＵの座標が、カレント対象ピクチャ内の対象ＰＵの座標と同じであることを意味する。しかしながら、ＨＥＶＣでは符号化単位と予測単位のサイズは変化するため、カレントＰＵと同位置ＰＵとが完全には一致しない場合があり（つまり、それらの座標が異なる場合）、同位置ＰＵを選択するために所定の選択方式が用いられる。
【0004】
対象ピクチャとそれに対応する参照ピクチャとの時間距離（つまり、ピクチャ・オーダー・カウント（ＰＯＣ）値の差分）など、動きベクトルの特定の特徴に基づいて隣接ＰＵまたは同位置ＰＵの動きベクトルをスケーリングすることにより、予測動きベクトル（ＭＶＰ）を取得することができる。例えば、同位置ＰＵの動きベクトルをＰＯＣ距離に応じてスケーリングして、以下の式により、カレントＰＵの時間ＭＶＰを生成してもよい。ＭＶＰ＝（ｔｂ／ｔｄ）＊ｎｍｖ
ここで、ＭＶＰは、同位置ブロック／ＰＵの動きベクトルから導出される時間予測動きベクトル、ｎｍｖは、同位置ブロック／ＰＵの動きベクトル、ｔｂは、カレントピクチャから、対象ブロック／ＰＵが参照する参照ピクチャまでの符号付きＰＯＣ距離／差分値、ｔｄは、同位置ピクチャから、同位置ブロック／ＰＵが参照する参照ピクチャまでの符号付きＰＯＣ距離／差分値を表すものとする。
【0005】
通常、空間予測では、「ｔｄ」を導出する際、対象ピクチャはカレントピクチャであり、その参照ピクチャは同位置参照ピクチャである。時間予測では、「ｔｂ」を導出する際、対象ピクチャは同位置ピクチャであり、その参照ピクチャは同位置参照ピクチャである。空間予測および時間予測の両方において、「ｔｂ」を導出する際は、対象ピクチャはカレントピクチャであり、その参照ピクチャはカレント参照ピクチャ（つまり、ＲｅｆＬｉｓｔ０およびＲｅｆＬｉｓｔ１のどちらか一方のうち対象ＰＵによって参照されるもの）である。
【先行技術文献】
【非特許文献】
【0006】
【非特許文献1】ＩＳＯ／ＩＥＣ １４４９６−１０、「ＭＰＥＧ−４ Ｐａｒｔ １０ Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ」
【発明の概要】
【発明が解決しようとする課題】
【0007】
背景技術において説明したように、従来の符号化方式では、全タイプの参照ピクチャに対して同じ動きベクトル予測を適用、つまり、関係する参照ピクチャのタイプを考慮することなくスケーリングを行っている。例えば、従来のＰＯＣに基づくスケーリング方式では、動きベクトル予測に関係する参照ピクチャがロングターム参照ピクチャかどうかを考慮しない。ロングターム参照ピクチャを指す動きベクトル（ＭＶ）をＰＯＣに基づいてスケーリングすると、非常に大きいまたは小さいスケーリングされた動きベクトル（つまり、ＭＶＰ）になるかもしれない。これは、ロングターム参照ピクチャ（ＬＴＲＰ）と当該ＬＴＲＰを参照するＰＵとのＰＯＣ距離が大きいことが原因である。このような場合、動きベクトル予測処理の精度および効率は不確かで準最適なものとなる。
【課題を解決するための手段】
【0008】
本発明の実施の形態は、関係する参照ピクチャのタイプを考慮した動きベクトル予測を行う方法および装置を提供することを目的とする。特に、本発明の実施の形態によれば、関係する参照ピクチャのタイプに基づいて、動きベクトルをスケーリングして予測動きベクトル候補を生成するか否か、予測動きベクトル候補の候補リストに動きベクトルを含めるか否かの少なくともいずれか一方を判定する。しがたって、不要なまたは望ましくないスケーリングステップ（つまり、誤った予測動きベクトルを生成することになるスケーリング）を削減または削除するため、動きベクトル予測処理の効率を向上させることができる。
【0009】
実施の形態では、空間動きベクトル予測において、以下のいずれかの条件に当てはまる場合、ＰＯＣに基づく動きベクトルスケーリングは無効である。― カレント（つまり、対象）ＰＵが所定タイプの参照ピクチャを参照する。または、
― 隣接ＰＵが所定タイプの参照ピクチャを参照する。
【0010】
別の実施の形態では、時間動きベクトル予測において、以下のいずれかの条件に当てはまる場合、ＰＯＣに基づく動きベクトルスケーリングは無効である。― カレント（つまり、対象）ＰＵが所定タイプの参照ピクチャを参照する。または、
― 同位置ＰＵが所定タイプの参照ピクチャを参照する。
【0011】
例えば、所定タイプの参照ピクチャとは、ロングターム参照ピクチャである。実施の形態において、ＰＯＣに基づく動きベクトルスケーリングが無効な場合で、空間または時間動きベクトル予測に利用可能な動きベクトル候補が必要とされる際は、隣接または同位置ＰＵの動きベクトルがそのまま空間または時間予測動きベクトルとなる。
【0012】
特定の実施の形態では、関係する参照ピクチャのタイプに応じて、空間または時間動きベクトル候補を利用不可と直接設定してもかまわない（つまり、候補リストに含めない）。
【0013】
本発明の第１の態様によれば、画像に含まれるカレントブロックの動きベクトル予測を行う方法であって、カレント動きベクトルとカレント参照ピクチャを有する前記カレントブロックのための予測動きベクトル候補の候補リストのために、予測動きベクトル候補を導出する候補導出ステップと、前記候補リストから選択された予測動きベクトル候補に基づいて、予測動きベクトルを導出する予測動きベクトル導出ステップを含み、前記候補導出ステップでは、前記カレントブロックの隣接ブロックまたは同位置ブロックの動きベクトルであって、関連する参照ピクチャを有する動きベクトルを選択し、前記カレント参照ピクチャのタイプ、前記関連する参照ピクチャのタイプの少なくとも一方に基づいて、前記動きベクトルをスケーリングして前記予測動きベクトル候補を生成するか否か、前記候補リストに前記動きベクトルを含めるか否かの少なくともいずれか一方を判定する方法を提供する。
【0014】
好ましくは、前記判定ステップでは、前記カレント参照ピクチャまたは前記関連する参照ピクチャが所定のタイプであるか否かを判定する。
【0015】
さらに、当該方法は、前記カレント参照ピクチャまたは前記関連する参照ピクチャが前記所定のタイプである場合、前記動きベクトルを前記候補リストに含めない除外ステップを含んでもよい。
【0016】
さらに、当該方法は、前記カレント参照ピクチャまたは前記関連する参照ピクチャが前記所定のタイプである場合、記動きベクトルをスケーリングして前記予測動きベクトル候補を生成するスケーリングステップを含んでもよい。
【0017】
前記カレント参照ピクチャまたは前記関連する参照ピクチャが前記所定のタイプである場合、当該方法は、前記動きベクトルをスケーリングしないと判定し、前記予測動きベクトル候補を生成するために前記動きベクトルを複製してもよい。
【0018】
さらに、当該方法は、前記カレント参照ピクチャおよび前記関連する参照ピクチャが同じタイプである場合、前記動きベクトルをスケーリングして前記予測動きベクトル候補を生成するスケーリングステップを含んでもよい。
【0019】
好ましくは、前記参照ピクチャの所定のタイプは、ロングターム参照ピクチャ、インタービュー参照ピクチャ、および／または、インターレイヤー参照ピクチャである。
【0020】
本発明の第２の態様によれば、ピクチャのカレントブロックを符号化して符号化ビットストリームを生成する符号化方法であって、前述した本発明の第１の態様に係る前記カレントブロックの動きベクトル予測を行う方法を含む符号化方法を提供する。
【0021】
本発明の第３の態様によれば、符号化ビットストリームからピクチャのカレントブロックを復号する復号方法であって、前述した本発明の第１の態様に係る前記カレントブロックの動きベクトル予測を行う方法を含む復号方法を提供する。
【0022】
本発明の第４の態様によれば、画像に含まれるカレントブロックを符号化して符号化ビットストリームを生成する符号化装置であって、カレント動きベクトルとカレント参照ピクチャを有する前記カレントブロックのための予測動きベクトル候補の候補リストのために予測動きベクトル候補を導出し、前記候補リストから選択された予測動きベクトル候補に基づいて予測動きベクトルを導出する動きベクトル予測部と、前記カレントブロックの隣接ブロックまたは同位置ブロックの動きベクトルであって、関連する参照ピクチャを有する動きベクトルを受信し、前記カレント参照ピクチャのタイプ、前記関連する参照ピクチャのタイプの少なくとも一方に基づいて、前記動きベクトルをスケーリングして前記予測動きベクトル候補を生成するか否か、前記候補リストに前記動きベクトルを含めるか否かの少なくともいずれか一方を判定する制御部と、前記導出された予測動きベクトルに基づいて予測ブロックを生成するインター予測部と、前記カレントブロックと前記予測ブロックとに基づいて前記符号化ビットストリームを生成する符号化部とを備え、前記制御部は、前記判定結果を示す信号を、当該信号に基づいて前記予測動きベクトル候補を導出する前記動きベクトル予測部に出力する符号化装置を提供する。
【0023】
本発明の第５の態様によれば、符号化ビットストリームからピクチャのカレントブロックを復号する復号装置であって、カレント動きベクトルとカレント参照ピクチャを有する前記カレントブロックのための予測動きベクトル候補の候補リストのために予測動きベクトル候補を導出し、前記候補リストから選択された予測動きベクトル候補に基づいて予測動きベクトルを導出する動きベクトル予測部と、前記カレントブロックの隣接ブロックまたは同位置ブロックの動きベクトルであって、関連する参照ピクチャを有する動きベクトルを受信し、前記カレント参照ピクチャのタイプ、前記関連する参照ピクチャのタイプの少なくとも一方に基づいて、前記動きベクトルをスケーリングして前記予測動きベクトル候補を生成するか否か、前記候補リストに前記動きベクトルを含めるか否かの少なくともいずれか一方を判定する制御部と、前記符号化ビットストリームから前記カレントブロックを復号する復号部と、前記導出された予測動きベクトルに基づいて、前記カレントブロックを再構成する際に用いられる予測ブロックを生成するインター予測部とを備え、前記制御部は、前記判定結果を示す信号を、当該信号に基づいて前記予測動きベクトル候補を導出する前記動きベクトル予測部に出力する復号装置を提供する。
【0024】
本発明の第６の態様によれば、前述した本発明の第１の様態に係る前記方法を行うために、プロセッサにより実行可能な命令を含む、非一時的なコンピュータ読み取り可能記憶媒体に具現化されたコンピュータプログラム製品。
【発明の効果】
【0025】
本発明の実施の形態は、より正確な動きベクトル予測のために符号化／復号効率を向上させることを目的とする。また、不要または望ましくないスケーリングステップを削除するので、動きベクトル予測処理の複雑さを低減する。
【図面の簡単な説明】
【0026】
【発明を実施するための形態】
【0027】
高効率動画像圧縮符号化（ＨＥＶＣ）などの最新動画像符号化規格では、入力画像を、最大符号化単位（ＬＣＵ）と呼ばれる方形ブロックに分割する。ＬＣＵ１０２の例を図１に示す。ＬＣＵ１０２は、イントラ予測ブロック（網掛けブロックとして図示）１０６として符号化されても、インター予測ブロック（網掛けなしブロックとして図示）１０８として符号化されてもよい符号化単位（ＣＵ）１０４から構成される。ＣＵ１０４は、さらに、予測単位（ＰＵ）１１０を１以上含み、各ＰＵ１１０を用いて空間予測または時間予測を行う。ＣＵ１０４がイントラモードで符号化されれば、ＣＵ１０４の各ＰＵ１１０は、それ自身の空間予測方向を有する。一方、ＣＵ１０４がインターモードで符号化されれば、ＣＵ１０４の各ＰＵ１１０は、それ自身の（複数の）動きベクトルと（複数の）関連参照ピクチャとを有する。
【0028】
ＨＥＶＣでは、動きベクトルを予測的に符号化する。カレント動きベクトルとカレント参照ピクチャとを有するカレントブロック（例えば、ＰＵ）１１０の場合、（予測動きベクトル（ＭＶＰ）候補の）候補リストに対するＭＶＰ候補を、カレントブロックの空間的な隣接ブロックまたは時間的な同位置ブロック（例えば、ＰＵ）の動きベクトルから導出することができる。対象ピクチャとそれに対応する参照ピクチャとの時間距離（ＰＯＣ値の差分）など、動きベクトルの特定の特徴に基づいて隣接ＰＵまたは同位置ＰＵの動きベクトルをスケーリングすることにより、ＭＶＰ候補を取得することができる。例えば、隣接ＰＵの動きベクトルをＰＯＣ距離に応じてスケーリングして、候補リストに含めるカレントＰＵの空間ＭＶＰ候補を生成してもよい。この場合、カレントＰＵに適するＭＶＰは、当該技術分野において周知の所定選択方式に従って候補リストから選ばれる。
【0029】
背景後術で述べたように、参照ピクチャの分類は、例えば、対象ピクチャからのピクチャ・オーダー・カウント（ＰＯＣ）距離、ＳＶＣの場合はビューレイヤ、ならびに、３ＤビデオおよびＭＶＣの場合はビューＩＤによって異なる。それにもかかわらず、従来の符号化方式は、ビューＩＤやビューレイヤ、また、ショートターム参照ピクチャかロングターム参照ピクチャかにも関係なく、全タイプの参照ピクチャに対して同じ動きベクトル予測を適用している。例えば、ロングターム参照ピクチャ（ＬＴＲＰ）を指す動きベクトルをＰＯＣに基づいてスケーリングすると、非常に大きいまたは小さいスケーリングされた動きベクトルになるかもしれない。このような場合、動きベクトル予測処理の精度および効率は準最適なものとなる。
【0030】
本発明の実施の形態は、関係する参照ピクチャのタイプを考慮した動きベクトル予測を行う方法および装置を提供することを目的とする。特に、本発明の実施の形態によれば、関係する参照ピクチャのタイプに基づいて、動きベクトルをスケーリングして予測動きベクトル候補を生成するか否か、候補リストに動きベクトルを含めるか否かの少なくともいずれか一方を判定する。しがたって、不要なまたは望ましくないスケーリングステップ（つまり、誤った予測動きベクトルを生成することになるスケーリング）を削減または削除するため、動きベクトル予測処理の効率を向上させることができる。
【0031】
図２〜図４は、本発明の実施の形態に係る、符号化ビデオビットストリーム２００における参照ピクチャ分類パラメータ２０２の位置の例を示した図である。図２は、実施の形態に係る、符号化ビデオビットストリーム２００のシーケンスヘッダ２０４内にある参照ピクチャ分類パラメータ２０２を示している。シーケンスヘッダ２０４とは、符号化ビデオビットストリーム２００（例えば、複数のピクチャ２０６）のヘッダのことである。図３は、別の実施の形態に係る、符号化ビデオビットストリーム２００内のピクチャ２０６のピクチャヘッダ２０８内にある参照ピクチャ分類パラメータ２０２を示している。ピクチャヘッダ２０８とは、ピクチャ２０６（例えば、複数のスライス２１０）のヘッダのことである。図４は、さらに別の実施の形態に係る、ピクチャ２０６内のスライス２１０のスライスヘッダ２１２内にある参照ピクチャ分類パラメータ２０２を示している。スライスヘッダ２１２とは、スライス２１０のヘッダのことである。
【0032】
図５は、実施の形態に係る、予測モードタイプパラメータ３０２の位置の例を示した符号化ビデオビットストリーム２００の分解図である。予測モードタイプパラメータ３０２は、カレントブロック（例えば、符号化単位１０４または予測単位１１０）を符号化するのに用いる予測モード（例えば、インター予測モードを用いるか否か）を示す。本実施の形態では、予測モードタイプパラメータ３０２は、符号化単位ヘッダ３０４（つまり、符号化単位１０４のヘッダ）内にある。分解図で示すように、各スライス２１０は、スライスヘッダ２１２と、複数の符号化単位１０４を含む関連スライスデータ２１４とで構成される。
【0033】
ここで、図６および図７に示すような、本発明の実施の形態に係る、ピクチャのカレントブロックに対する動きベクトル予測方法Ｓ６００について説明する。第１ステップＳ６０２として、カレント動きベクトルとカレント参照ピクチャとを有するカレントブロックに対し、候補リスト（つまり、予測動きベクトル候補の候補リスト）用の予測動きベクトル候補を導出する。次に、ステップＳ６０４において、候補リストから選択された動きベクトル候補に基づいて、カレントブロックの予測動きベクトルを導出する。予測動きベクトル候補を導出する上記ステップＳ６０２は、カレントブロックの隣接ブロックまたは同位置ブロックの動きベクトルであって、関連参照ピクチャを有する動きベクトルを選択するステップＳ７０２と、カレント参照ピクチャのタイプと関連参照ピクチャのタイプとの少なくとも一方に基づいて、動きベクトルをスケーリングして予測動きベクトル候補を生成するか否か、候補リストに動きベクトルを含めるか否かの少なくともいずれか一方を判定するステップＳ７０４とを含む。
【0034】
本発明の実施の形態によれば、カレントブロックの動きベクトル予測方法Ｓ４００を含んだ、ピクチャのカレントブロックを符号化して符号化ビットストリーム２００を生成する符号化方法と、符号化ビットストリーム２００からカレントブロックを復号する復号方法とを提供する。明瞭性および説明のため、符号化方法および復号方法の例については後ほど説明する。
【0035】
したがって、誤った予測動きベクトルを生成することになる不要なまたは望ましくないスケーリングステップを削減または削除することによって、動きベクトル予測処理の効率を向上させることができる。
【0036】
図８は、カレントピクチャ８０２のカレントブロック（例えば、ＰＵ）８０４と、カレント参照ピクチャ８０６または８０７と、同位置ピクチャ８１０の同位置ブロック８０８と、同位置参照ピクチャ８１２との間の一般的な関係を示す。図８に示すように、カレントまたは対象ブロック８０４は、カレント動きベクトルと関連カレント参照ピクチャ８０６または８０７を有する。カレント参照ピクチャ８０６または８０７とは、インター予測処理を行うためにカレントブロック８０２によって参照される参照ピクチャのことである。カレント参照ピクチャがＲｅｆＬｉｓｔ１ ８０６からかＲｅｆＬｉｓｔ０ ８０７からかは、カレントブロック８０２に関連付けられたフラグ（例えば、ｃｏｌｌｏｃａｔｅｄ＿ｆｒｏｍ＿ｌ０＿ｆｌａｇ）８１４で示してもよい。例えば、値が「１」のフラグ８１４でＲｅｆＬｉｓｔ０ ８０７を示し、値が「０」のフラグ８１４でＲｅｆＬｉｓｔ１ ８０６を示してもよい。この例では、カレント動きベクトルを、カレントブロック８０４の同位置ブロック８０８の動きベクトルに基づいて予測する（つまり、予測動きベクトルを導出する）。同位置ブロック８０８の動きベクトルは、同位置参照ピクチャと呼ばれる参照ピクチャ８１２を指す。
【0037】
図８から、同位置参照ピクチャ８１２を導出するためのステップ例は、以下に示すようなものでもよい。
【0038】
第１ステップとして、フラグ８１４（例えば、ｃｏｌｌｏｃａｔｅｄ＿ｆｒｏｍ＿ｌ０＿ｆｌａｇ）に基づき、参照ピクチャリストを選択する（ＲｅｆＬｉｓｔ１ ８０６またはＲｅｆＬｉｓｔ０ ８０７）。例えば、フラグ８１４はスライスヘッダ２１２またはスライスタイプから信号化してもよい。選択された参照ピクチャリストは、参照インデックスをそれぞれ有する１以上の参照ピクチャを含む。例えば、信号（例えば、ｃｏｌｌｏｃａｔｅｄ＿ｒｅｆ＿ｉｄｘ）８１６は、時間動きベクトル予測に用いられた同位置ピクチャ８１０の参照インデックスを設定する同じスライスヘッダ２１２から解析される。したがって、同位置ピクチャ８１０は、同位置ピクチャ８１０の参照インデックスを示す信号８１６に基づいて決定されてもよい。同位置ピクチャ８１０内の同位置ブロック８０８は、当該技術分野において周知の所定選択手法に基づいて選択／導出されるため、ここでの詳細な説明は省略する。参照ピクチャタイプと同位置動きベクトルとを含む同位置参照ピクチャ８１２の情報は、同位置ブロック８０８から取り出されてもよい。
【0039】
明瞭性および説明のため、ここで、本発明の実施の形態に係る、動きベクトル予測を含んだ動画像／画像符号化および復号方法の例についてさらに詳しく説明する。
【0041】
第１ステップＳ９０２として、関係する参照ピクチャのタイプを識別または特定するために参照ピクチャ分類を決定する。次に、ステップＳ９０４において、符号化ビデオビットストリーム２００のヘッダに（複数の）参照ピクチャ分類パラメータ２０２を書き込む。例えば、図２に示すように、（複数の）参照ピクチャ分類パラメータは、シーケンスヘッダ２０４、ピクチャヘッダ２０８、または、スライスヘッダ２０２内に存在可能である。ステップＳ９０６において、カレントまたは対象サンプルブロックに対応するカレント動きベクトルとカレント参照ピクチャとを選択するための動き検出処理を行う。そして、ステップＳ９０８において、インター予測隣接サンプルブロックを、当業者に周知の所定選択方式に従って選択するが、ここでの説明は省略する。インター予測隣接ブロックは、動きベクトルと、その動きベクトルによって指された関連参照ピクチャとを有する。単純化のため、隣接ブロックの動きベクトルおよび参照ピクチャを、それぞれ、隣接動きベクトルおよび隣接参照ピクチャとする。ステップＳ９１０において、参照ピクチャタイプと隣接動きベクトルとを含む、隣接参照ピクチャに関する情報を隣接ブロックから取り出す。ステップＳ９１２において、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が、特定または所定タイプの参照ピクチャであるか否かを判定／判断する。
【0042】
第１の実施の形態では、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ９１４において、隣接動きベクトルを、カレントブロックのインター予測に利用可能な複数の動きベクトル候補から除外する。つまり、隣接動きベクトルを、カレントブロックに対する予測動きベクトル候補の候補リストに含めないと判定する。そうでなければ、カレント参照ピクチャと隣接参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ９１６において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成し、ステップＳ９１８において、そのＭＶＰ候補を候補リストに含める。
【0043】
好ましい実施の形態では、ステップＳ９１２において、カレント参照ピクチャと隣接参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが所定タイプの参照ピクチャである場合も含む）、ステップＳ９１６に進む。つまり、ステップＳ９１６において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成し、ステップＳ９１８において、そのＭＶＰ候補を候補リストに含める。
【0044】
ステップＳ９２０において、利用可能な複数のＭＶＰ候補（例えば、候補リスト）からＭＶＰを選択する。当該ＭＶＰおよびカレント動きベクトルに基づき、ステップＳ９２２において、差分動きベクトルを導出する。ステップＳ９２４において、導出された差分動きベクトルと、カレント参照ピクチャを示す参照インデックスとを、符号化ビデオビットストリーム２００に書き込む。ステップＳ９２６において、カレント動きベクトルを用いてカレントブロックを符号化する。
【0045】
例えば、ここで述べる実施の形態において、参照ピクチャの所定のタイプは、ロングターム参照ピクチャ、インタービュー参照ピクチャ、および／または、インターレイヤー参照ピクチャである。インタービュー参照ピクチャの例として、異なるビュー間で存在する参照ピクチャ（例えば、３Ｄビュー）がある。インターレイヤー参照ピクチャの例として、異なる質のレイヤー間で存在する参照ピクチャ（例えば、ＳＮＲスケーラビリティ）、異なる解像度のレイヤー間で存在する参照ピクチャ（例えば、空間スケーラビリティ）、異なるビデオコーデックを用いて符号化されたレイヤー間で存在する参照ピクチャ（例えば、ＭＰＥＧ２／ＡＶＣを用いて符号化されたレイヤーおよびＨＥＶＣを用いて符号化された別のレイヤー）がある。典型的な例として、符号化ビデオレイヤーは、ベースレイヤーと１以上のエンハンスメントレイヤーとを含んでいる。
【0047】
第１ステップＳ１００２として、参照ピクチャのタイプを識別または特定する（複数の）参照ピクチャ分類パラメータ２０２を符号化ビデオビットストリームのヘッダから解析する。次に、ステップＳ１００４において、（前述した符号化方法のステップＳ９２４において符号化ビデオビットストリーム２００に書き込まれた、）差分動きベクトルと、カレント参照ピクチャを示す参照インデックスとを、符号化ビデオビットストリーム２００から解析する。そして、ステップＳ１００６において、インター予測隣接サンプルブロックを、当業者に周知の所定選択方式に従って選択するが、ここでの説明は省略する。インター予測隣接ブロックは、動きベクトルと、その動きベクトルによって指された関連参照ピクチャとを有する。単純化のため、隣接ブロックの動きベクトルおよび参照ピクチャを、それぞれ、隣接動きベクトルおよび隣接参照ピクチャとする。ステップＳ１００８において、参照ピクチャタイプと隣接動きベクトルとを含む、隣接参照ピクチャに関する情報を隣接ブロックから取り出す。ステップＳ１０１０において、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が特定または所定タイプの参照ピクチャであるか否かを判定／判断する。
【0048】
第１の実施の形態では、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１０１２において、隣接動きベクトルを、カレントブロックのインター予測に利用可能な複数の予測動きベクトル候補から除外する。つまり、隣接動きベクトルを、カレントブロックに対する予測動きベクトル候補の候補リストに含めないと判定する。そうでなければ、カレント参照ピクチャと隣接参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１０１４において、隣接動きベクトルをＰＯＣに基づいてスケーリングして予測動きベクトル（ＭＶＰ）候補を生成し、ステップＳ１０１６において、そのＭＶＰ候補を候補リストに含める。
【0049】
好ましい実施の形態では、カレント参照ピクチャと隣接参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが所定タイプの参照ピクチャである場合も含む）、ステップＳ１０１４に進む。つまり、ステップＳ１０１４において、隣接動きベクトルをＰＯＣに基づいてスケーリングして予測動きベクトル（ＭＶＰ）候補を生成し、ステップＳ１０１６において、そのＭＶＰ候補を候補リストに含める。
【0050】
ステップＳ１０１８において、利用可能な複数の動きベクトル候補（例えば、候補リスト）から予測動きベクトルを選択する。当該予測動きベクトルおよび解析された差分動きベクトルに基づき、ステップＳ１０２０において、カレント動きベクトルを導出する。ステップＳ１０２２において、カレント動きベクトルを用いてカレントブロックを復号する。
【0052】
第１の実施形態の符号化方法と第２の実施形態の符号化方法とは、ステップＳ１１１４、Ｓ１１１６、および、Ｓ１１１８を除いて概ね同じである。明瞭性および不要な繰り返しを避けるため、第１の実施形態のステップと同一または類似の第２の実施形態のステップの説明は省略する（つまり、Ｓ１１０２、Ｓ１１０４、Ｓ１１０６、Ｓ１１０８、Ｓ１１１０、Ｓ１１１２、Ｓ１１２０、Ｓ１１２２、Ｓ１１２４、および、Ｓ１１２６）。
【0053】
第２の実施の形態では、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１１１４において、隣接動きベクトルをそのまま複製してＭＶＰ候補を生成する、つまり、動きベクトルのスケーリングは行わない。そうでなければ、カレント参照ピクチャと隣接参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１１１６において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。第２の実施形態では、どちらの場合でも、ステップＳ１１１８において、ＭＶＰ候補（つまり、ステップＳ１１１４で複製された動きベクトル、または、ステップＳ１１１６でスケーリングされた動きベクトル）を候補リストに含める。
【0054】
好ましい実施の形態では、カレント参照ピクチャと隣接参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１１１６に進む。つまり、ステップＳ１１１６において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。
【0055】
これ以降のステップ（つまり、Ｓ１１２０、Ｓ１１２２、Ｓ１１２４、および、Ｓ１１２６）は、第１の実施形態におけるステップＳ９２０、Ｓ９２２、Ｓ９２４、および、Ｓ９２６とそれぞれ同じであるため、説明を省略する。
【0057】
第１の実施形態の復号方法と第２の実施形態の復号方法とは、ステップＳ１２１２、Ｓ１２１４、および、Ｓ１２１６を除いて概ね同じである。明瞭性および不要な繰り返しを避けるため、第１の実施形態のステップと同一または類似の第２の実施形態のステップの説明は省略する（つまり、Ｓ１２０２、Ｓ１２０４、Ｓ１２０６、Ｓ１２０８、Ｓ１２１０、Ｓ１２１８、Ｓ１２２０、および、Ｓ１２２２）。
【0058】
第２の実施の形態では、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１２１２において、隣接動きベクトルをそのまま複製してＭＶＰ候補を生成する、つまり、動きベクトルのスケーリングは行わない。そうでなければ、カレント参照ピクチャと隣接参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１２１４において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。第２の実施形態では、どちらの場合でも、ステップＳ１２１６において、ＭＶＰ候補（つまり、ステップＳ１２１２で複製された動きベクトル、または、ステップＳ１２１４でスケーリングされた動きベクトル）を候補リストに含める。
【0059】
好ましい実施の形態では、カレント参照ピクチャと隣接参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１２１４に進む。つまり、ステップＳ１２１４において、隣接動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。
【0060】
これ以降のステップ（つまり、Ｓ１２１８、Ｓ１２２０、および、Ｓ１２２２）は、第１の実施形態におけるステップＳ１０１８、Ｓ１０２０、および、Ｓ１０２２とそれぞれ同じであるため、説明を省略する。
【0062】
第３の実施形態は時間動きベクトル予測に関し、第１の実施形態は空間動きベクトル予測に関する。したがって、第３の実施形態の符号化方法と第１の実施形態の符号化方法とは、同位置ブロック８０８、同位置ピクチャ８１０、および、同位置参照ピクチャ８１２（隣接ブロック、隣接ピクチャ、および、隣接参照ピクチャと比較して）を除いて概ね同じである。
【0063】
第１ステップＳ１３０２として、関係する参照ピクチャのタイプを識別または特定するために参照ピクチャ分類を決定する。次に、ステップＳ１３０４において、符号化ビデオビットストリーム２００のヘッダに（複数の）参照ピクチャ分類パラメータを書き込む。ステップＳ１３０６において、カレントまたは対象サンプルブロックに対応するカレント動きベクトルとカレント参照ピクチャとを選択するための動き検出処理を行う。そして、ステップＳ１３１０において、同位置ブロック８０８を、当業者に周知の所定選択方式に従って選択するが、ここでの説明は省略する。図８に示すように、同位置ピクチャ８１０内の同位置ブロック８０８は、動きベクトルと、その動きベクトルによって指された関連参照ピクチャ８１２とを有する。単純化のため、同位置ブロック８０８の動きベクトルおよび参照ピクチャを、それぞれ、同位置動きベクトルおよび同位置参照ピクチャ８１２とする。ステップＳ１３１２において、参照ピクチャタイプと同位置動きベクトルとを含む、同位置参照ピクチャに関する情報を同位置ブロックから取り出す。ステップＳ１３１４において、カレント参照ピクチャと同位置参照ピクチャとのいずれか一方が特定または所定タイプの参照ピクチャであるか否かを判定／判断する。
【0064】
第３の実施の形態では、カレント参照ピクチャと同位置参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１３１６において、同位置動きベクトルを、カレントブロックのインター予測に利用可能な複数の動きベクトル候補から除外する。そうでなければ、カレント参照ピクチャと同位置参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１３１８において、同位置動きベクトルをＰＯＣに基づいてスケーリングして予測動きベクトル（ＭＶＰ）候補を生成し、ステップＳ１３２０において、そのＭＶＰ候補を候補リストに含める。
【0065】
好ましい実施の形態では、Ｓ１３１４において、カレント参照ピクチャと同位置参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１３１８に進む。つまり、ステップＳ１３１８において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成し、ステップＳ１３２０において、そのＭＶＰ候補を候補リストに含める。
【0066】
ステップＳ１３２２において、利用可能な複数の動きベクトル候補（例えば、候補リスト）からＭＶＰを導出または選択する。当該ＭＶＰおよびカレント動きベクトルに基づき、ステップＳ１３２４において、差分動きベクトルを導出する。ステップＳ１３２６において、導出された差分動きベクトルと、カレント参照ピクチャを示す参照インデックスとを、符号化ビデオビットストリーム２００に書き込む。ステップＳ１３２８において、カレント動きベクトルを用いてカレントブロックを符号化する。
【0068】
前述したように、第３の実施形態は時間動きベクトル予測に関し、第１の実施形態は空間動きベクトル予測に関する。したがって、第３の実施形態の復号方法と第１の実施形態の復号方法とは、同位置ブロック８０８、同位置ピクチャ８１０、および、同位置参照ピクチャ８１２（隣接ブロック、隣接ピクチャ、および、隣接参照ピクチャと比較して）を除いて概ね同じである。
【0069】
第１ステップＳ１４０２として、参照ピクチャのタイプを識別または特定する（複数の）参照ピクチャ分類パラメータ２０２を符号化ビデオビットストリーム２００のヘッダから解析する。次に、ステップＳ１４０４において、（前述した符号化方法のステップＳ１３２６において符号化ビデオビットストリーム２００に書き込まれた、）差分動きベクトルと、カレント参照ピクチャを示す参照インデックスとを、符号化ビデオビットストリーム２００から解析する。そして、ステップＳ１４０８において、インター予測同位置ブロックを、当業者に周知の所定選択方式に従って選択するが、ここでの説明は省略する。同位置ピクチャ８１０内の同位置ブロック８０８は、動きベクトルと、その動きベクトルによって指された関連参照ピクチャ８１２とを有する。単純化のため、同位置ブロック８０８の動きベクトルおよび参照ピクチャを、それぞれ、同位置動きベクトルおよび同位置参照ピクチャ８１２とする。ステップＳ１４１０において、参照ピクチャタイプと同位置動きベクトルとを含む、同位置参照ピクチャに関する情報を同位置ブロックから取り出す。ステップＳ１４１２において、カレント参照ピクチャと同位置参照ピクチャとのいずれか一方が特定または所定タイプの参照ピクチャであるか否かを判定／判断する。
【0070】
第３の実施の形態では、カレント参照ピクチャと隣接参照ピクチャとのいずれか一方が特定タイプの参照ピクチャである場合、ステップＳ１４１４において、同位置動きベクトルを、カレントブロックのインター予測に利用可能な複数の予測動きベクトル候補から除外する。
【0071】
好ましい実施の形態では、カレント参照ピクチャと同位置参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１４１６に進む。つまり、ステップＳ１４１６において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成し、ステップＳ１４１８において、そのＭＶＰ候補を候補リストに含める。
【0072】
ステップＳ１４２０において、利用可能な複数の動きベクトル候補からＭＶＰを選択する。当該ＭＶＰおよび解析された差分動きベクトルに基づき、ステップＳ１４２２において、カレント動きベクトルを導出する。ステップＳ１４２４において、カレント動きベクトルを用いてカレントブロックを復号する。
【0074】
第４の実施形態の符号化方法と第３の実施形態の符号化方法とは、ステップＳ１５１６、Ｓ１５１８、および、Ｓ１５２０を除いて概ね同じである。明瞭性および不要な繰り返しを避けるため、第３の実施形態のステップと同一または類似の第４の実施形態のステップの説明は省略する（つまり、Ｓ１５０２、Ｓ１５０４、Ｓ１５０６、Ｓ１５１０、Ｓ１５１２、Ｓ１５１４、Ｓ１５２２、Ｓ１５２４、Ｓ１５２６、および、Ｓ１５２８）。
【0075】
第４の実施の形態では、ステップＳ１５１４において、カレント参照ピクチャと同位置参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１５１６において、同位置動きベクトルをそのまま複製してＭＶＰ候補を生成する、つまり、動きベクトルのスケーリングは行わない。そうでなければ、カレント参照ピクチャと同位置参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１５１８において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。第４の実施形態では、どちらの場合でも、ステップＳ１５２０において、ＭＶＰ候補（つまり、ステップＳ１５１６で複製された動きベクトル、または、ステップＳ１５１８でスケーリングされた動きベクトル）を候補リストに含める。
【0076】
好ましい実施の形態では、カレント参照ピクチャと同位置参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１５１８に進む。つまり、ステップＳ１５１８において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。
【0077】
これ以降のステップ（つまり、Ｓ１５２２、Ｓ１５２４、Ｓ１５２６、および、Ｓ１５２８）は、第３の実施形態におけるステップＳ１３２２、Ｓ１３２４、Ｓ１３２６、および、Ｓ１３２８とそれぞれ同じであるため、説明を省略する。
【0079】
第４の実施形態の復号方法と第３の実施形態の復号方法とは、ステップＳ１６１４、Ｓ１６１６、および、Ｓ１６１８を除いて概ね同じである。明瞭性および不要な繰り返しを避けるため、第３の実施形態のステップと同一または類似の第４の実施形態のステップの説明は省略する（つまり、Ｓ１６０２、Ｓ１６０４、Ｓ１６０８、Ｓ１６１０、Ｓ１６１２、Ｓ１６２０、Ｓ１６２２、および、Ｓ１６２４）。
【0080】
第４の実施の形態では、ステップＳ１６１２において、カレント参照ピクチャと同位置参照ピクチャとのいずれか一方が所定タイプの参照ピクチャである場合、ステップＳ１６１４において、同位置動きベクトルをそのまま複製してＭＶＰ候補を生成する、つまり、動きベクトルのスケーリングは行わない。そうでなければ、カレント参照ピクチャと同位置参照ピクチャとの少なくとも一方が所定タイプの参照ピクチャではないと判定された場合、Ｓ１６１６において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。第４の実施形態では、どちらの場合でも、ステップＳ１６１８において、ＭＶＰ候補（つまり、ステップＳ１６１４で複製された動きベクトル、または、ステップＳ１６１６でスケーリングされた動きベクトル）を候補リストに含める。
【0081】
好ましい実施の形態では、ステップＳ１６１２において、カレント参照ピクチャと同位置参照ピクチャとの両方が同じ参照ピクチャタイプである場合（両方の参照ピクチャが特定タイプの参照ピクチャである場合も含む）、ステップＳ１６１６に進む。つまり、ステップＳ１６１６において、同位置動きベクトルをＰＯＣに基づいてスケーリングしてＭＶＰ候補を生成する。
【0082】
これ以降のステップ（つまり、Ｓ１６２０、Ｓ１６２２、および、Ｓ１６２４）は、第３の実施形態におけるステップＳ１４２０、Ｓ１４２２、および、Ｓ１４２４とそれぞれ同じであるため、説明を省略する。
【0084】
第５の実施形態は、マージモードと呼ばれる動きベクトル予測のタイプ、例えば、予測単位がマージモードで符号化されるタイプに関する。したがって、第５の実施形態の符号化方法と第３の実施形態の符号化方法とは、ステップＳ１７０６におけるカレントピクチャの選択（マージモードで符号化された予測単位に対するものに基づく）を除いて同じであり、差分動きベクトルを符号化ビデオビットストリーム２００に書き込むと決定する必要がない。
【0085】
具体的には、ステップＳ１７０６において、マージモードで符号化された予測単位に対する所定の参照ピクチャ選択方式に従って、カレント参照ピクチャを選択する（第３の実施形態におけるステップＳ１３０６の代わり）。そして、これ以降は第３の実施形態と同様に進む。ただし、利用可能な複数の動きベクトル候補からＭＶＰを選択するステップＳ１７２２の後は、Ｓ１７２４において、そのＭＶＰを用いてサンプルブロックを符号化する（第３の実施形態における差分動きベクトル導出ステップＳ１３２４の代わり）。
【0087】
前述したように、第５の実施形態は、マージモードと呼ばれる動きベクトル予測のタイプ、例えば、予測単位がマージモードで符号化されるタイプに関する。したがって、第５の実施形態の復号方法と第３の実施形態の復号方法とは、ステップＳ１８０４におけるカレントピクチャの選択（マージモードで符号化された予測単位に対するものに基づく）を除いて同じであり、符号化ビデオビットストリーム２００から差分動きベクトルを解析する必要がない。
【0088】
具体的には、ステップＳ１８０４において、マージモードで符号化された予測単位に対する所定の参照ピクチャ選択方式に従って、カレント参照ピクチャを選択する（第３の実施形態におけるステップＳ１４０４の代わり）。そして、これ以降は第３の実施形態と同様に進む。ただし、利用可能な複数の動きベクトル候補からＭＶＰを選択するステップＳ１８２０の後は、Ｓ１８２２において、選択されたＭＶＰを用いてサンプルブロックを再構成する（第３の実施形態における、解析された差分動きベクトルに基づいてカレント動きベクトルを導出するステップＳ１４２２の代わり）。
【0090】
第６の実施形態もまた、マージモードと呼ばれる動きベクトル予測のタイプ、例えば、予測単位がマージモードで符号化されるタイプに関する。特に、第６の実施形態の符号化方法と第４の実施形態の符号化方法とは、ステップＳ１９０６におけるカレントピクチャの選択（マージモードで符号化された予測単位に対するものに基づく）を除いて同じであり、差分動きベクトルを符号化ビデオビットストリーム２００に書き込むと決定する必要がない。
【0091】
具体的には、ステップＳ１９０６において、マージモードで符号化された予測単位に対する所定の参照ピクチャ選択方式に従って、カレント参照ピクチャを選択する（第４の実施形態におけるステップＳ１５０６の代わり）。そして、これ以降は第４の実施形態と同様に進む。ただし、利用可能な複数の動きベクトル候補からＭＶＰを選択するステップＳ１９２２の後は、Ｓ１９２４において、そのＭＶＰを用いてカレントサンプルブロックを符号化する（第４の実施形態における差分動きベクトル導出ステップＳ１５２４の代わり）。
【0093】
前述したように、第６の実施形態もまた、マージモードと呼ばれる動きベクトル予測のタイプ、例えば、予測単位がマージモードで符号化されるタイプに関する。特に、第６の実施形態の復号方法と第４の実施形態の復号方法とは、ステップＳ２００４におけるカレントピクチャの選択（マージモードで符号化された予測単位に対するものに基づく）を除いて同じであり、符号化ビデオビットストリーム２００から差分動きベクトルを解析する必要がない。
【0094】
具体的には、ステップＳ２００４において、マージモードで符号化された予測単位に対する所定の参照ピクチャ選択方式に従って、カレント参照ピクチャを選択する（第４の実施形態におけるステップＳ１６０４の代わり）。そして、これ以降は第４の実施形態と同様に進む。ただし、利用可能な複数の動きベクトル候補からＭＶＰを選択するステップＳ２０２０の後は、Ｓ２０２２において、選択されたＭＶＰを用いてサンプルブロックを再構成する（第４の実施形態における、解析された差分動きベクトルに基づいてカレント動きベクトルを導出するステップＳ１６２２の代わり）。
【0095】
図２１は、本発明の実施形態に係る動画像／画像符号化装置の構成例を示すブロック図である。
【0096】
動画像符号化装置２１００は、入力動画像／画像ビットストリームをブロック単位で符号化して符号化出力ビットストリーム２００を生成する。図２１に示すように、動画像符号化装置２１００は、変換部２１０１と、量子化部２１０２と、逆量子化部２１０３と、逆変換部２１０４と、ブロックメモリ２１０５と、ピクチャ／フレームメモリ２１０６と、イントラ予測部２１０７と、インター予測部２１０８と、エントロピー符号化部２１０９と、制御部２１３０と、動きベクトル予測部２１３１と、書き込み部２１３６とを備える。
【0097】
ここで、動作の流れの例を説明する。入力動画像が加算器に入力され、加算値が変換部２１０１に出力される。変換部２１０１は、加算値を周波数係数に変換し、得られた周波数係数を量子化部２１０２に出力する。量子化部２１０２は、入力された周波数係数を量子化し、得られた量子化値を逆量子化部２１０３とエントロピー符号化部２１０９とに出力する。エントロピー符号化部２１０９は、量子化部２１０２から出力された量子化値を符号化し、符号化ビットストリーム２００を出力する。
【0098】
逆量子化部２１０３は、量子化部２１０２から出力されたサンプル値を逆量子化し、その周波数係数を逆変換部２１０４に出力する。逆変換部２１０４は、周波数係数に逆周波数変換を行うことにより周波数係数をビットストリームのサンプル値に変換し、得られたサンプル値を加算器に出力する。加算器は、逆変換部２１０４から出力されたビットストリームのサンプル値を、インター／イントラ予測部２１０７、２１０８から出力された予測動画像／画像値に加算し、今後の予測のために、得られた加算値をブロックメモリ２１０５またはピクチャメモリ２１０６に出力する。インター／イントラ予測部２１０７、２１０８は、ブロックメモリ２１０５に格納された再構成動画像／画像内またはフレームメモリ２１１０内の再構成動画像／画像を検索し、予測のために、例えば、入力動画像／画像に最も類似している動画像／画像領域を検出する。インター予測部２１０７は、動きベクトル予測部２１３１から出力された導出または選択動きベクトルに基づき予測処理を行って、予測動画像／画像値を生成する（つまり、予測ブロックまたはカレントブロックの予測サンプルもしくはブロック）。
【0099】
制御部２１３０は、ＭＶＰを導出するためのパラメータ（例えば、ｃｏｌｌｏｃａｔｅｄ＿ｆｒｏｍ＿ＩＯ＿ｆｌａｇ、および、ｃｏｌｌｏｃａｔｅｄ＿ｒｅｆ＿ｉｄｘ）と、関係する参照ピクチャの参照ピクチャ分類を導出するためのパラメータ（例えば、関係する参照ピクチャのＰＯＣ情報）を受信する。本発明の実施の形態に係る前述の関係する参照ピクチャのタイプに基づき、制御部２１３０は、動きベクトルをスケーリングして候補セットに含める予測動きベクトル候補を生成するか否か、候補セットに動きベクトルを含めるか否かの少なくともいずれか一方を判定する。そして、制御部２１３０は、判定結果を示す信号２１３３を動きベクトル予測部２１３１に出力する。
【0100】
動きベクトル予測部２１３１は、カレント動きベクトルとカレント参照ピクチャを有するカレントブロックに対し、（予測動きベクトル候補の）候補リスト用の予測動きベクトル候補を導出する。また、動きベクトル予測部２１３１は、候補リストから選択された動きベクトル候補に基づいて、予測動きベクトル２１３４を導出する。そして、動きベクトル予測部２１３０は、導出された予測動きベクトルを示す信号を、動きベクトル予測を行うインター予測部２１３１に出力する。書き込み部２１３６は、動きベクトル予測部２１３１からのカレント参照ピクチャを示す参照インデックス２１３７と制御部２１３０からの参照ピクチャ分類パラメータ２１３８とを出力符号化ビットストリーム２００に書き込む。
【0101】
図２２は、本発明の実施形態に係る動画像復号装置２２００の構成例を示すブロック図である。
【0102】
動画像復号装置２２００は、入力符号化ビットストリームをブロック単位で復号して動画像／画像を出力する。図２２に示すように、動画像復号装置２２００は、エントロピー復号部２２０１と、逆量子化部２２０２と、逆変換部２２０３と、ブロックメモリ２２０４と、ピクチャ／フレームメモリ２２０５と、イントラ予測部２２０６と、インター予測部２２０７と、動きベクトル予測部２２１０と、制御部２２１２と、解析部２２１２とを備える。
【0103】
入力符号化ビットストリームをエントロピー復号部２２０１に入力する。入力符号化ビットストリームをエントロピー復号部２２０１に入力した後、エントロピー復号部２２０１は入力符号化ビットストリームを復号し、その復号値を逆量子化部２２０２に出力する。逆量子化部２２０２は、復号値を逆量子化し、その周波数係数を逆変換部２２０３に出力する。逆変換部２２０３は、周波数係数に逆周波数変換を行うことにより周波数係数をサンプル値に変換し、得られた画素値を加算器に出力する。加算器は、得られた画素値を、イントラ／インター予測部２２０６、２２０７から出力された予測動画像／画像値（つまり、予測ブロックまたはカレントブロックの予測サンプルもしくはブロック）に加算して、得られた値を表示部に出力し、かつ、今後の予測のために、ブロックメモリ２２０４またはピクチャメモリ２２０５に出力する。また、イントラ／インター予測部２２０６、２２０７は、ブロックメモリ２２０４に格納された動画像／画像内またはフレームメモリ２２０５内の再構成動画像／画像を検索し、予測のために、例えば、復号された動画像／画像に最も類似している動画像／画像領域を検出する。インター予測部２２０７は、動きベクトル予測部２２１０から出力された導出または選択動きベクトル２２１１に基づき予測処理を行って、予測動画像／画像値を生成する。
【0104】
解析部２２１４は、参照ピクチャ分類パラメータ３０９と、残差サンプルブロックと、差分動きベクトルと、カレント参照ピクチャを示す参照インデックスとを、符号化ビデオビットストリーム２００から解析する。
【0105】
動きベクトル予測部２２１０は、カレント動きベクトルとカレント参照ピクチャを有するカレントブロックに対し、（予測動きベクトル候補の）候補リスト用の予測動きベクトル候補を導出する。また、動きベクトル予測部２２１０は、候補リストに基づいて、予測動きベクトルを導出する。そして、動きベクトル予測部２２１０は、導出された予測動きベクトルを示す信号を、動きベクトル予測を行うインター予測部２２１１に出力する。
【0106】
制御部２２１２は、利用可能な複数の参照ピクチャから参照ピクチャを選択し、その参照ピクチャ内のサンプルブロックを選択し、カレントブロックの隣接ブロックまたは同位置ブロックの動きベクトルを受信する。当該動きベクトルは、関連参照ピクチャを有する（つまり、当該動きベクトルによって指される参照ピクチャ）。また、制御部２２１２は、カレント参照ピクチャのタイプ、関連参照ピクチャのタイプの少なくとも一方に基づいて、動きベクトルをスケーリングして予測動きベクトル候補を生成するか否か、候補群に動きベクトルを含めるか否かの少なくともいずれか一方を判定する。制御部２２１２は、判定結果を示す信号２２１４を、当該信号２２１４に基づいて予測動きベクトル候補を導出する動きベクトル予測部２２１０に出力する。
【0107】
しがたって、不要なまたは望ましくないスケーリングステップ（つまり、誤った予測動きベクトルを生成することになるスケーリング）を削減または削除するため、前述したように、本発明の実施の形態に係る動きベクトル予測処理の効率を向上させることができる。
【0108】
（実施の形態Ａ）上記各実施の形態で示した動画像符号化方法（画像符号化方法）または動画像復号化方法（画像復号方法）の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ＩＣカード、半導体メモリ等、プログラムを記録できるものであればよい。
【0109】
さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）や動画像復号化方法（画像復号方法）の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
【0110】
図２３は、コンテンツ配信サービスを実現するコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。
【0111】
このコンテンツ供給システムｅｘ１００は、インターネットｅｘ１０１にインターネットサービスプロバイダｅｘ１０２および電話網ｅｘ１０４、および基地局ｅｘ１０６からｅｘ１１０を介して、コンピュータｅｘ１１１、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）ｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５などの各機器が接続される。
【0112】
しかし、コンテンツ供給システムｅｘ１００は図２３のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ｅｘ１０６からｅｘ１１０を介さずに、各機器が電話網ｅｘ１０４に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
【0113】
カメラｅｘ１１３はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラｅｘ１１６はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ｅｘ１１４は、ＧＳＭ（登録商標）（Ｇｌｏｂａｌ Ｓｙｓｔｅｍ ｆｏｒ Ｍｏｂｉｌｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ）方式、ＣＤＭＡ（Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、Ｗ−ＣＤＭＡ（Ｗｉｄｅｂａｎｄ−Ｃｏｄｅ Ｄｉｖｉｓｉｏｎ Ｍｕｌｔｉｐｌｅ Ａｃｃｅｓｓ）方式、若しくはＬＴＥ（Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）方式、ＨＳＰＡ（Ｈｉｇｈ Ｓｐｅｅｄ Ｐａｃｋｅｔ Ａｃｃｅｓｓ）の携帯電話機、またはＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙｐｈｏｎｅ Ｓｙｓｔｅｍ）等であり、いずれでも構わない。
【0114】
コンテンツ供給システムｅｘ１００では、カメラｅｘ１１３等が基地局ｅｘ１０９、電話網ｅｘ１０４を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラｅｘ１１３を用いて撮影するコンテンツ（例えば、音楽ライブの映像等）に対して上記各実施の形態で説明したように符号化処理を行い（即ち、本発明の一態様に係る画像符号化装置として機能する）、ストリーミングサーバｅｘ１０３に送信する。一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ＰＤＡｅｘ１１２、カメラｅｘ１１３、携帯電話ｅｘ１１４、ゲーム機ｅｘ１１５等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【0115】
なお、撮影したデータの符号化処理はカメラｅｘ１１３で行っても、データの送信処理をするストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバｅｘ１０３で行ってもよいし、互いに分担して行ってもよい。また、カメラｅｘ１１３に限らず、カメラｅｘ１１６で撮影した静止画像および／または動画像データを、コンピュータｅｘ１１１を介してストリーミングサーバｅｘ１０３に送信してもよい。この場合の符号化処理はカメラｅｘ１１６、コンピュータｅｘ１１１、ストリーミングサーバｅｘ１０３のいずれで行ってもよいし、互いに分担して行ってもよい。
【0116】
また、これら符号化・復号化処理は、一般的にコンピュータｅｘ１１１や各機器が有するＬＳＩｅｘ５００において処理する。ＬＳＩｅｘ５００は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ−ＲＯＭ、フレキシブルディスク、ハードディスクなど）に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ｅｘ１１４がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ｅｘ１１４が有するＬＳＩｅｘ５００で符号化処理されたデータである。
【0117】
また、ストリーミングサーバｅｘ１０３は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
【0118】
以上のようにして、コンテンツ供給システムｅｘ１００では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムｅｘ１００では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
【0119】
なお、コンテンツ供給システムｅｘ１００の例に限らず、図２４に示すように、デジタル放送用システムｅｘ２００にも、上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）または動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。具体的には、放送局ｅｘ２０１では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ｅｘ２０２に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである（即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである）。これを受けた放送衛星ｅｘ２０２は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナｅｘ２０４が受信する。受信した多重化データを、テレビ（受信機）ｅｘ３００またはセットトップボックス（ＳＴＢ）ｅｘ２１７等の装置が復号化して再生する（即ち、本発明の一態様に係る画像復号装置として機能する）。
【0120】
また、ＤＶＤ、ＢＤ等の記録メディアｅｘ２１５に記録した多重化データを読み取り復号化する、または記録メディアｅｘ２１５に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ／レコーダｅｘ２１８にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタｅｘ２１９に表示され、多重化データが記録された記録メディアｅｘ２１５により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルｅｘ２０３または衛星／地上波放送のアンテナｅｘ２０４に接続されたセットトップボックスｅｘ２１７内に動画像復号化装置を実装し、これをテレビのモニタｅｘ２１９で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
【0121】
図２５は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ（受信機）ｅｘ３００を示す図である。テレビｅｘ３００は、上記放送を受信するアンテナｅｘ２０４またはケーブルｅｘ２０３等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナｅｘ３０１と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調／復調部ｅｘ３０２と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ｅｘ３０６で符号化された映像データ、音声データを多重化する多重／分離部ｅｘ３０３を備える。
【0122】
また、テレビｅｘ３００は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ｅｘ３０４、映像信号処理部ｅｘ３０５（本発明の一態様に係る画像符号化装置または画像復号装置として機能する）を有する信号処理部ｅｘ３０６と、復号化した音声信号を出力するスピーカｅｘ３０７、復号化した映像信号を表示するディスプレイ等の表示部ｅｘ３０８を有する出力部ｅｘ３０９とを有する。さらに、テレビｅｘ３００は、ユーザ操作の入力を受け付ける操作入力部ｅｘ３１２等を有するインタフェース部ｅｘ３１７を有する。さらに、テレビｅｘ３００は、各部を統括的に制御する制御部ｅｘ３１０、各部に電力を供給する電源回路部ｅｘ３１１を有する。インタフェース部ｅｘ３１７は、操作入力部ｅｘ３１２以外に、リーダ／レコーダｅｘ２１８等の外部機器と接続されるブリッジｅｘ３１３、ＳＤカード等の記録メディアｅｘ２１６を装着可能とするためのスロット部ｅｘ３１４、ハードディスク等の外部記録メディアと接続するためのドライバｅｘ３１５、電話網と接続するモデムｅｘ３１６等を有していてもよい。なお記録メディアｅｘ２１６は、格納する不揮発性／揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビｅｘ３００の各部は同期バスを介して互いに接続されている。
【0123】
まず、テレビｅｘ３００がアンテナｅｘ２０４等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、ＣＰＵ等を有する制御部ｅｘ３１０の制御に基づいて、変調／復調部ｅｘ３０２で復調した多重化データを多重／分離部ｅｘ３０３で分離する。さらにテレビｅｘ３００は、分離した音声データを音声信号処理部ｅｘ３０４で復号化し、分離した映像データを映像信号処理部ｅｘ３０５で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ｅｘ３０９から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファｅｘ３１８、ｅｘ３１９等に一旦これらの信号を蓄積するとよい。また、テレビｅｘ３００は、放送等からではなく、磁気／光ディスク、ＳＤカード等の記録メディアｅｘ２１５、ｅｘ２１６から多重化データを読み出してもよい。次に、テレビｅｘ３００が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビｅｘ３００は、リモートコントローラｅｘ２２０等からのユーザ操作を受け、制御部ｅｘ３１０の制御に基づいて、音声信号処理部ｅｘ３０４で音声信号を符号化し、映像信号処理部ｅｘ３０５で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重／分離部ｅｘ３０３で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファｅｘ３２０、ｅｘ３２１等に一旦これらの信号を蓄積するとよい。なお、バッファｅｘ３１８、ｅｘ３１９、ｅｘ３２０、ｅｘ３２１は図示しているように複数備えていてもよいし、１つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調／復調部ｅｘ３０２や多重／分離部ｅｘ３０３の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
【0124】
また、テレビｅｘ３００は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのＡＶ入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビｅｘ３００は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
【0125】
また、リーダ／レコーダｅｘ２１８で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビｅｘ３００、リーダ／レコーダｅｘ２１８のいずれで行ってもよいし、テレビｅｘ３００とリーダ／レコーダｅｘ２１８が互いに分担して行ってもよい。
【0126】
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生／記録部ｅｘ４００の構成を図２６に示す。情報再生／記録部ｅｘ４００は、以下に説明する要素ｅｘ４０１、ｅｘ４０２、ｅｘ４０３、ｅｘ４０４、ｅｘ４０５、ｅｘ４０６、ｅｘ４０７を備える。光ヘッドｅｘ４０１は、光ディスクである記録メディアｅｘ２１５の記録面にレーザスポットを照射して情報を書き込み、記録メディアｅｘ２１５の記録面からの反射光を検出して情報を読み込む。変調記録部ｅｘ４０２は、光ヘッドｅｘ４０１に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ｅｘ４０３は、光ヘッドｅｘ４０１に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアｅｘ２１５に記録された信号成分を分離して復調し、必要な情報を再生する。バッファｅｘ４０４は、記録メディアｅｘ２１５に記録するための情報および記録メディアｅｘ２１５から再生した情報を一時的に保持する。ディスクモータｅｘ４０５は記録メディアｅｘ２１５を回転させる。サーボ制御部ｅｘ４０６は、ディスクモータｅｘ４０５の回転駆動を制御しながら光ヘッドｅｘ４０１を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ｅｘ４０７は、情報再生／記録部ｅｘ４００全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ｅｘ４０７が、バッファｅｘ４０４に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ｅｘ４０２、再生復調部ｅｘ４０３、サーボ制御部ｅｘ４０６を協調動作させながら、光ヘッドｅｘ４０１を通して、情報の記録再生を行うことにより実現される。システム制御部ｅｘ４０７は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
【0127】
以上では、光ヘッドｅｘ４０１はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
【0128】
図２７に光ディスクである記録メディアｅｘ２１５の模式図を示す。記録メディアｅｘ２１５の記録面には案内溝（グルーブ）がスパイラル状に形成され、情報トラックｅｘ２３０には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックｅｘ２３１の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックｅｘ２３０を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアｅｘ２１５は、データ記録領域ｅｘ２３３、内周領域ｅｘ２３２、外周領域ｅｘ２３４を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ｅｘ２３３であり、データ記録領域ｅｘ２３３より内周または外周に配置されている内周領域ｅｘ２３２と外周領域ｅｘ２３４は、ユーザデータの記録以外の特定用途に用いられる。情報再生／記録部ｅｘ４００は、このような記録メディアｅｘ２１５のデータ記録領域ｅｘ２３３に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
【0129】
以上では、１層のＤＶＤ、ＢＤ等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録／再生を行う構造の光ディスクであってもよい。
【0130】
また、デジタル放送用システムｅｘ２００において、アンテナｅｘ２０５を有する車ｅｘ２１０で衛星ｅｘ２０２等からデータを受信し、車ｅｘ２１０が有するカーナビゲーションｅｘ２１１等の表示装置に動画を再生することも可能である。なお、カーナビゲーションｅｘ２１１の構成は例えば図２５に示す構成のうち、ＧＰＳ受信部を加えた構成が考えられ、同様なことがコンピュータｅｘ１１１や携帯電話ｅｘ１１４等でも考えられる。
【0131】
図２８Ａは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ｅｘ１１４を示す図である。携帯電話ｅｘ１１４は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ３５０、映像、静止画を撮ることが可能なカメラ部ｅｘ３６５、カメラ部ｅｘ３６５で撮像した映像、アンテナｅｘ３５０で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ｅｘ３５８を備える。携帯電話ｅｘ１１４は、さらに、操作キー部ｅｘ３６６を有する本体部、音声を出力するためのスピーカ等である音声出力部ｅｘ３５７、音声を入力するためのマイク等である音声入力部ｅｘ３５６、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ｅｘ３６７、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ｅｘ３６４を備える。
【0132】
さらに、携帯電話ｅｘ１１４の構成例について、図２８Ｂを用いて説明する。携帯電話ｅｘ１１４は、表示部ｅｘ３５８及び操作キー部ｅｘ３６６を備えた本体部の各部を統括的に制御する主制御部ｅｘ３６０に対して、電源回路部ｅｘ３６１、操作入力制御部ｅｘ３６２、映像信号処理部ｅｘ３５５、カメラインタフェース部ｅｘ３６３、ＬＣＤ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ）制御部ｅｘ３５９、変調／復調部ｅｘ３５２、多重／分離部ｅｘ３５３、音声信号処理部ｅｘ３５４、スロット部ｅｘ３６４、メモリ部ｅｘ３６７がバスｅｘ３７０を介して互いに接続されている。
【0133】
電源回路部ｅｘ３６１は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ｅｘ１１４を動作可能な状態に起動する。
【0134】
携帯電話ｅｘ１１４は、ＣＰＵ、ＲＯＭ、ＲＡＭ等を有する主制御部ｅｘ３６０の制御に基づいて、音声通話モード時に音声入力部ｅｘ３５６で収音した音声信号を音声信号処理部ｅｘ３５４でデジタル音声信号に変換し、これを変調／復調部ｅｘ３５２でスペクトラム拡散処理し、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。また携帯電話ｅｘ１１４は、音声通話モード時にアンテナｅｘ３５０を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調／復調部ｅｘ３５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ３５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ３５７から出力する。
【0135】
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ｅｘ３６６等の操作によって入力された電子メールのテキストデータは操作入力制御部ｅｘ３６２を介して主制御部ｅｘ３６０に送出される。主制御部ｅｘ３６０は、テキストデータを変調／復調部ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナｅｘ３５０を介して基地局ｅｘ１１０へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ｅｘ３５８に出力される。
【0136】
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ｅｘ３５５は、カメラ部ｅｘ３６５から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し（即ち、本発明の一態様に係る画像符号化装置として機能する）、符号化された映像データを多重／分離部ｅｘ３５３に送出する。また、音声信号処理部ｅｘ３５４は、映像、静止画等をカメラ部ｅｘ３６５で撮像中に音声入力部ｅｘ３５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ３５３に送出する。
【0137】
多重／分離部ｅｘ３５３は、映像信号処理部ｅｘ３５５から供給された符号化された映像データと音声信号処理部ｅｘ３５４から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調／復調部（変調／復調回路部）ｅｘ３５２でスペクトラム拡散処理をし、送信／受信部ｅｘ３５１でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナｅｘ３５０を介して送信する。
【0138】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナｅｘ３５０を介して受信された多重化データを復号化するために、多重／分離部ｅｘ３５３は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ３７０を介して符号化された映像データを映像信号処理部ｅｘ３５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ３５４に供給する。映像信号処理部ｅｘ３５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し（即ち、本発明の一態様に係る画像復号装置として機能する）、ＬＣＤ制御部ｅｘ３５９を介して表示部ｅｘ３５８から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ｅｘ３５４は、音声信号を復号し、音声出力部ｅｘ３５７から音声が出力される。
【0139】
また、上記携帯電話ｅｘ１１４等の端末は、テレビｅｘ３００と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という３通りの実装形式が考えられる。さらに、デジタル放送用システムｅｘ２００において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
【0140】
このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
【0141】
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
【0142】
（実施の形態Ｂ）上記各実施の形態で示した動画像符号化方法または装置と、ＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
【0143】
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。
【0144】
この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、ＭＰＥＧ−２トランスポートストリーム形式のデジタルストリームである。
【0145】
図２９は、多重化データの構成を示す図である。図２９に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム（ＰＧ）、インタラクティブグラフィックスストリームのうち、１つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム（ＩＧ）は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にＧＵＩ部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーＡＣ−３、Ｄｏｌｂｙ Ｄｉｇｉｔａｌ Ｐｌｕｓ、ＭＬＰ、ＤＴＳ、ＤＴＳ−ＨＤ、または、リニアＰＣＭのなどの方式で符号化されている。
【0146】
多重化データに含まれる各ストリームはＰＩＤによって識別される。例えば、映画の映像に利用するビデオストリームには０ｘ１０１１が、オーディオストリームには０ｘ１１００から０ｘ１１１Ｆまでが、プレゼンテーショングラフィックスには０ｘ１２００から０ｘ１２１Ｆまでが、インタラクティブグラフィックスストリームには０ｘ１４００から０ｘ１４１Ｆまでが、映画の副映像に利用するビデオストリームには０ｘ１Ｂ００から０ｘ１Ｂ１Ｆまで、主音声とミキシングする副音声に利用するオーディオストリームには０ｘ１Ａ００から０ｘ１Ａ１Ｆが、それぞれ割り当てられている。
【0147】
図３０は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームｅｘ２３５、複数のオーディオフレームからなるオーディオストリームｅｘ２３８を、それぞれＰＥＳパケット列ｅｘ２３６およびｅｘ２３９に変換し、ＴＳパケットｅｘ２３７およびｅｘ２４０に変換する。同じくプレゼンテーショングラフィックスストリームｅｘ２４１およびインタラクティブグラフィックスｅｘ２４４のデータをそれぞれＰＥＳパケット列ｅｘ２４２およびｅｘ２４５に変換し、さらにＴＳパケットｅｘ２４３およびｅｘ２４６に変換する。多重化データｅｘ２４７はこれらのＴＳパケットを１本のストリームに多重化することで構成される。
【0148】
図３１は、ＰＥＳパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図３１における第１段目はビデオストリームのビデオフレーム列を示す。第２段目は、ＰＥＳパケット列を示す。図３１の矢印ｙｙ１，ｙｙ２，ｙｙ３，ｙｙ４に示すように、ビデオストリームにおける複数のＶｉｄｅｏ Ｐｒｅｓｅｎｔａｔｉｏｎ ＵｎｉｔであるＩピクチャ、Ｂピクチャ、Ｐピクチャは、ピクチャ毎に分割され、ＰＥＳパケットのペイロードに格納される。各ＰＥＳパケットはＰＥＳヘッダを持ち、ＰＥＳヘッダには、ピクチャの表示時刻であるＰＴＳ（Ｐｒｅｓｅｎｔａｔｉｏｎ Ｔｉｍｅ−Ｓｔａｍｐ）やピクチャの復号時刻であるＤＴＳ（Ｄｅｃｏｄｉｎｇ Ｔｉｍｅ−Ｓｔａｍｐ）が格納される。
【0149】
図３２は、多重化データに最終的に書き込まれるＴＳパケットの形式を示している。ＴＳパケットは、ストリームを識別するＰＩＤなどの情報を持つ４ＢｙｔｅのＴＳヘッダとデータを格納する１８４ＢｙｔｅのＴＳペイロードから構成される１８８Ｂｙｔｅ固定長のパケットであり、上記ＰＥＳパケットは分割されＴＳペイロードに格納される。ＢＤ−ＲＯＭの場合、ＴＳパケットには、４ＢｙｔｅのＴＰ＿Ｅｘｔｒａ＿Ｈｅａｄｅｒが付与され、１９２Ｂｙｔｅのソースパケットを構成し、多重化データに書き込まれる。ＴＰ＿Ｅｘｔｒａ＿ＨｅａｄｅｒにはＡＴＳ（Ａｒｒｉｖａｌ＿Ｔｉｍｅ＿Ｓｔａｍｐ）などの情報が記載される。ＡＴＳは当該ＴＳパケットのデコーダのＰＩＤフィルタへの転送開始時刻を示す。多重化データには図３２下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はＳＰＮ（ソースパケットナンバー）と呼ばれる。
【0150】
また、多重化データに含まれるＴＳパケットには、映像・音声・字幕などの各ストリーム以外にもＰＡＴ（Ｐｒｏｇｒａｍ Ａｓｓｏｃｉａｔｉｏｎ Ｔａｂｌｅ）、ＰＭＴ（Ｐｒｏｇｒａｍ Ｍａｐ Ｔａｂｌｅ）、ＰＣＲ（Ｐｒｏｇｒａｍ Ｃｌｏｃｋ Ｒｅｆｅｒｅｎｃｅ）などがある。ＰＡＴは多重化データ中に利用されるＰＭＴのＰＩＤが何であるかを示し、ＰＡＴ自身のＰＩＤは０で登録される。ＰＭＴは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのＰＩＤと各ＰＩＤに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。ＰＣＲは、ＡＴＳの時間軸であるＡＴＣ（Ａｒｒｉｖａｌ Ｔｉｍｅ Ｃｌｏｃｋ）とＰＴＳ・ＤＴＳの時間軸であるＳＴＣ（Ｓｙｓｔｅｍ Ｔｉｍｅ Ｃｌｏｃｋ）の同期を取るために、そのＰＣＲパケットがデコーダに転送されるＡＴＳに対応するＳＴＣ時間の情報を持つ。
【0151】
図３３はＰＭＴのデータ構造を詳しく説明する図である。ＰＭＴの先頭には、そのＰＭＴに含まれるデータの長さなどを記したＰＭＴヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのＰＩＤ、ストリームの属性情報（フレームレート、アスペクト比など）が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
【0152】
記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
【0153】
多重化データ情報ファイルは、図３４に示すように多重化データの管理情報であり、多重化データと１対１に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
【0154】
多重化データ情報は図３４に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのＰＩＤフィルタへの最大転送レートを示す。多重化データ中に含まれるＡＴＳの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのＰＴＳであり、再生終了時刻は多重化データの終端のビデオフレームのＰＴＳに１フレーム分の再生間隔を足したものが設定される。
【0155】
ストリーム属性情報は図３５に示すように、多重化データに含まれる各ストリームについての属性情報が、ＰＩＤ毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。
【0156】
本実施の形態においては、上記多重化データのうち、ＰＭＴに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、ＰＭＴに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
【0157】
また、本実施の形態における動画像復号化方法のステップを図３６に示す。ステップｅｘＳ１００において、多重化データからＰＭＴに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップｅｘＳ１０１において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップｅｘＳ１０２において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠するものであることを示している場合には、ステップｅｘＳ１０３において、従来の規格に準拠した動画像復号方法により復号を行う。
【0158】
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。
【0159】
（実施の形態Ｃ）上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるＬＳＩで実現される。一例として、図３７に１チップ化されたＬＳＩｅｘ５００の構成を示す。ＬＳＩｅｘ５００は、以下に説明する要素ｅｘ５０１、ｅｘ５０２、ｅｘ５０３、ｅｘ５０４、ｅｘ５０５、ｅｘ５０６、ｅｘ５０７、ｅｘ５０８、ｅｘ５０９を備え、各要素はバスｅｘ５１０を介して接続している。電源回路部ｅｘ５０５は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
【0160】
例えば符号化処理を行う場合には、ＬＳＩｅｘ５００は、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有する制御部ｅｘ５０１の制御に基づいて、ＡＶ Ｉ／Ｏｅｘ５０９によりマイクｅｘ１１７やカメラｅｘ１１３等からＡＶ信号を入力する。入力されたＡＶ信号は、一旦ＳＤＲＡＭ等の外部のメモリｅｘ５１１に蓄積される。制御部ｅｘ５０１の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ｅｘ５０７に送られ、信号処理部ｅｘ５０７において音声信号の符号化および／または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ｅｘ５０７ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームＩ／Ｏｅｘ５０６から外部に出力する。この出力された多重化データは、基地局ｅｘ１０７に向けて送信されたり、または記録メディアｅｘ２１５に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファｅｘ５０８にデータを蓄積するとよい。
【0161】
なお、上記では、メモリｅｘ５１１がＬＳＩｅｘ５００の外部の構成として説明したが、ＬＳＩｅｘ５００の内部に含まれる構成であってもよい。バッファｅｘ５０８も１つに限ったものではなく、複数のバッファを備えていてもよい。また、ＬＳＩｅｘ５００は１チップ化されてもよいし、複数チップ化されてもよい。
【0162】
また、上記では、制御部ｅｘ５０１が、ＣＰＵｅｘ５０２、メモリコントローラｅｘ５０３、ストリームコントローラｅｘ５０４、駆動周波数制御部ｅｘ５１２等を有するとしているが、制御部ｅｘ５０１の構成は、この構成に限らない。例えば、信号処理部ｅｘ５０７がさらにＣＰＵを備える構成であってもよい。信号処理部ｅｘ５０７の内部にもＣＰＵを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、ＣＰＵｅｘ５０２が信号処理部ｅｘ５０７、または信号処理部ｅｘ５０７の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ｅｘ５０１は、信号処理部ｅｘ５０７、またはその一部を有するＣＰＵｅｘ５０２を備える構成となる。
【0163】
なお、ここでは、ＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【0164】
また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現してもよい。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0165】
さらには、半導体技術の進歩または派生する別技術によりＬＳＩに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
【0166】
（実施の形態Ｄ）上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、ＬＳＩｅｘ５００において、従来の規格に準拠する映像データを復号する際のＣＰＵｅｘ５０２の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
【0167】
この課題を解決するために、テレビｅｘ３００、ＬＳＩｅｘ５００などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図３８は、本実施の形態における構成ｅｘ８００を示している。駆動周波数切替え部ｅｘ８０３は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ｅｘ８０２に対し、映像データを復号するよう指示する。
【0168】
より具体的には、駆動周波数切替え部ｅｘ８０３は、図３７のＣＰＵｅｘ５０２と駆動周波数制御部ｅｘ５１２から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ｅｘ８０１、および、従来の規格に準拠する復号処理部ｅｘ８０２は、図３７の信号処理部ｅｘ５０７に該当する。ＣＰＵｅｘ５０２は、映像データがどの規格に準拠するものであるかを識別する。そして、ＣＰＵｅｘ５０２からの信号に基づいて、駆動周波数制御部ｅｘ５１２は、駆動周波数を設定する。また、ＣＰＵｅｘ５０２からの信号に基づいて、信号処理部ｅｘ５０７は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態Ｂで記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態Ｂで記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、ＣＰＵｅｘ５０２における駆動周波数の選択は、例えば、図４０のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファｅｘ５０８や、ＬＳＩの内部メモリに格納しておき、ＣＰＵｅｘ５０２がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
【0169】
図３９は、本実施の形態の方法を実施するステップを示している。まず、ステップｅｘＳ２００では、信号処理部ｅｘ５０７において、多重化データから識別情報を取得する。次に、ステップｅｘＳ２０１では、ＣＰＵｅｘ５０２において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップｅｘＳ２０２において、駆動周波数を高く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、高い駆動周波数に設定される。一方、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ステップｅｘＳ２０３において、駆動周波数を低く設定する信号を、ＣＰＵｅｘ５０２が駆動周波数制御部ｅｘ５１２に送る。そして、駆動周波数制御部ｅｘ５１２において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
【0170】
さらに、駆動周波数の切替えに連動して、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することが考えられる。
【0171】
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、ＭＰＥＧ４−ＡＶＣ規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
【0172】
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を高く設定し、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、ＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、ＣＰＵｅｘ５０２の駆動を停止させることなく、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、ＣＰＵｅｘ５０２の駆動を一時停止させることも考えられる。この場合は、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
【0173】
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてＬＳＩｅｘ５００またはＬＳＩｅｘ５００を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
【0174】
（実施の形態Ｅ）テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、ＬＳＩｅｘ５００の信号処理部ｅｘ５０７が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ｅｘ５０７を個別に用いると、ＬＳＩｅｘ５００の回路規模が大きくなり、また、コストが増加するという課題が生じる。
【0175】
この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のＭＰＥＧ−２、ＭＰＥＧ４−ＡＶＣ、ＶＣ−１などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図４１Ａのｅｘ９００に示す。例えば、上記各実施の形態で示した動画像復号方法と、ＭＰＥＧ４−ＡＶＣ規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、ＭＰＥＧ４−ＡＶＣ規格に対応する復号処理部ｅｘ９０２を共有し、ＭＰＥＧ４−ＡＶＣ規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ｅｘ９０１を用いるという構成が考えられる。特に、本発明の一態様は、逆量子化に特徴を有していることから、例えば、逆量子化については専用の復号処理部ｅｘ９０１を用い、それ以外のエントロピー復号、デブロッキング・フィルタ、動き補償のいずれか、または、全ての処理については、復号処理部を共有することが考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、ＭＰＥＧ４−ＡＶＣ規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
【0176】
また、処理を一部共有化する他の例を図４１Ｂのｅｘ１０００に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ｅｘ１００１と、他の従来規格に特有の処理内容に対応した専用の復号処理部ｅｘ１００２と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ｅｘ１００３とを用いる構成としている。ここで、専用の復号処理部ｅｘ１００１、ｅｘ１００２は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、ＬＳＩｅｘ５００で実装することも可能である。
【0177】
このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、ＬＳＩの回路規模を小さくし、かつ、コストを低減することが可能である。
【0178】
なお、具体的な実施の形態で示されたような本発明に対し、本発明の精神と範囲を逸脱することがなければ、様々な変形例および／または一部改良がなされてもよいことを当業者は理解されよう。したがって、上述の実施の形態は例示するためのものであり、本発明を限定するものではない。