特許 6013547 画像符号化装置および画像符号化方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6013547

(24)【登録日】2016年9月30日

(45)【発行日】2016年10月25日

(54)【発明の名称】画像符号化装置および画像符号化方法

(51)【国際特許分類】

   H04N 19/103 20140101AFI20161011BHJP

   H04N 19/70 20140101ALI20161011BHJP

   H04N 19/146 20140101ALI20161011BHJP

   H04N 19/176 20140101ALI20161011BHJP

   H04N 19/436 20140101ALI20161011BHJP

【ＦＩ】

   H04N19/103

   H04N19/70

   H04N19/146

   H04N19/176

   H04N19/436

【請求項の数】3

【全頁数】23

(21)【出願番号】特願2015-78050(P2015-78050)

(22)【出願日】2015年4月6日

(62)【分割の表示】特願2013-503408(P2013-503408)の分割

【原出願日】2012年3月9日

(65)【公開番号】特開2015-146634(P2015-146634A)

(43)【公開日】2015年8月13日

【審査請求日】2015年4月6日

(31)【優先権主張番号】特願2011-51221(P2011-51221)

(32)【優先日】2011年3月9日

(33)【優先権主張国】JP

(73)【特許権者】

【識別番号】514136668

【氏名又は名称】パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ

【氏名又は名称原語表記】Ｐａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ

(74)【代理人】

【識別番号】100081422

【弁理士】

【氏名又は名称】田中 光雄

(74)【代理人】

【識別番号】100100158

【弁理士】

【氏名又は名称】鮫島 睦

(74)【代理人】

【識別番号】100125874

【弁理士】

【氏名又は名称】川端 純市

(72)【発明者】

【氏名】大古瀬 秀之

(72)【発明者】

【氏名】安倍 清史

(72)【発明者】

【氏名】荒川 博

(72)【発明者】

【氏名】重里 達郎

(72)【発明者】

【氏名】木村 一仁

【審査官】 岩井 健二

(56)【参考文献】

【文献】 特開２０１０−１９３３９８（ＪＰ，Ａ）

【文献】 特表２０１０−５２１１１３（ＪＰ，Ａ）

【文献】 特表２００９−５２２９６８（ＪＰ，Ａ）

【文献】 特開２００７−１６６０３９（ＪＰ，Ａ）

【文献】 国際公開第２００３／０８４２４３（ＷＯ，Ａ１）

【文献】 米国特許出願公開第２００７／００６５０２６（ＵＳ，Ａ１）

【文献】 大久保 榮，インプレス標準教科書シリーズ 改訂版Ｈ．２６４／ＡＶＣ教科書，株式会社インプレスＲ＆Ｄ，２００６年 １月 １日，pp.82-84, 277-279, 294-299

【文献】 Keiichi Chono et al.，Pulse code modulation mode for HEVC，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11，4th Meeting: Daegu, Korea，２０１１年 １月，JCTVC-D044-rev1，pp.1-9

【文献】 Keiichi Chono et al.，Proposal of enhanced PCM coding in HEVC，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11，5th Meeting: Geneva, CH，２０１１年 ３月，JCTVC-E192-r2，pp.1-12

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ １９／００ − １９／９８

(57)【特許請求の範囲】

【請求項1】

ピクチャを符号化対象ユニットで符号化する画像符号化装置であって、
符号化対象ユニットに含まれる予測ユニットに対して予測情報を用いて予測画像を生成する予測部と、
前記ピクチャと前記予測画像との差分である差分画像に対して変換処理及び量子化処理を行うことにより残差係数を生成する変換・量子化部と、
前記予測情報によらずに決定される符号化モードに基づいて、前記残差係数を符号列に符号化する符号化部と、を備え、
前記符号化部において、
前記符号化モードが第１モードの場合、前記残差係数を可変長符号化して前記符号列を生成し、前記符号化モードが第２モードの場合、前記残差係数への変換処理及び量子化処理を行わず、前記差分画像をそのまま用いて前記符号列を生成し、
前記符号化対象ユニットについての符号化モードが前記第１モードであるか前記第２モードであるかを示すモード情報、および前記予測情報を、前記符号化対象ユニットのシンタックスに追記する
画像符号化装置。

【請求項2】

前記符号化部において、前記第１モードで前記符号化対象ユニットを符号化する際に前記符号列の符号量が所定の値よりも大きくなる場合、前記第２モードに切り替えて前記符号化対象ユニットを符号化する
請求項１記載の画像符号化装置。

【請求項3】

ピクチャを符号化対象ユニットで符号化する画像符号化方法であって、
符号化対象ユニットに含まれる予測ユニットに対して予測情報を用いて予測画像を生成する予測ステップと、
前記ピクチャと前記予測画像との差分である差分画像に対して変換処理及び量子化処理を行うことにより残差係数を生成する変換・量子化ステップと、
前記予測情報によらずに決定される符号化モードに基づいて、前記残差係数を符号列に符号化する符号化ステップと、を含み、
前記符号化ステップにおいて、
前記符号化モードが第１モードの場合、前記残差係数を可変長符号化して前記符号列を生成し、前記符号化モードが第２モードの場合、前記残差係数への変換処理及び量子化処理を行わず、前記差分画像をそのまま用いて前記符号列を生成し、
前記符号化対象ユニットについての符号化モードが前記第１モードであるか前記第２モードであるかを示すモード情報、および前記予測情報を、前記符号化対象ユニットのシンタックスに追記する
画像符号化方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、入力された画像をブロックに分割して符号化する画像符号化装置および画像符号化方法に関するものである。

【背景技術】

【0002】

近年、マルチメディアアプリケーションの発展に伴い、画像、音声及びテキストなど、あらゆるメディアの情報を統一的に扱うことが一般的になってきた。また、ディジタル化された画像は膨大なデータ量を持つため、蓄積及び伝送のためには、画像の情報圧縮技術が不可欠である。一方で、圧縮した画像データを相互運用するためには、圧縮技術の標準化も重要である。例えば、画像圧縮技術の標準規格としては、ＩＴＵ−Ｔ（国際電気通信連合 電気通信標準化部門）のＨ．２６１、Ｈ．２６３、Ｈ．２６４、ＩＳＯ／ＩＥＣ（国際標準化機構）のＭＰＥＧ−１、ＭＰＥＧ−３、ＭＰＥＧ−４、ＭＰＥＧ−４ＡＶＣなどがある。また、現在は、ＩＴＵ−ＴとＩＳＯ／ＩＥＣとの共同によるＨＥＶＣと呼ばれる次世代画面符号化方式の標準化活動が進んでいる。

【0003】

このような動画像の符号化では、符号化対象の各ピクチャを符号化単位ブロックに分割し、ブロック毎に時間方向および空間方向の冗長性を削減することによって情報量の圧縮を行う。時間的な冗長性の削減を目的とする画面間予測符号化では、前方または後方のピクチャを参照してブロック単位で動きの検出および予測画像の作成を行い、得られた予測画像と符号化対象のブロックの入力画像との差分画像を取得する。また空間的な冗長性の削減を目的とする画面内予測符号化では、周辺の符号化済みブロックの画素情報から予測画像の生成を行い、得られた予測画像と符号化対象のブロックの入力画像との差分画像を取得する。さらに得られた差分画像に対して離散コサイン変換等の直交変換および量子化を行い、可変長符号化を用いて符号列を生成することで情報量が圧縮される。

【0004】

また復号化では、前記符号化処理によって生成された符号列を解析して予測情報および残差係数情報を取得し、予測情報を用いて画面間予測復号化および画面内予測復号化を行って予測画像を生成し、残差係数情報に対して逆量子化および逆直交変換を行って差分画像を生成し、得られた予測画像と差分画像を加算することで最終的な出力画像を復元する。

【0005】

Ｈ．２６４（非特許文献１）では、ブロック単位の処理量の上限を制約するために、ブロック単位の発生符号量の最大値が定義されている（具体的には３２００ビット）。前述の通常の符号化処理を行うと、入力画像の性質や量子化処理の条件によって前記発生符号量の最大値を超過した符号列を生成してしまう可能性があるため、ＩＰＣＭと呼ばれる特別な符号化モードを使用することによって常に最大値内に納めることを可能としている。

【0006】

ＩＰＣＭは通常の符号化モードとは異なり、画面内・画面間予測による差分画像の生成や直交変換・量子化を行うことなく、入力画像の画素値をそのままのビット列として符号列に記述するモードである。このモードを使用すると、例えば入力画像のフォーマットが各画素８ビットのＹＵＶ４：２：０であった場合、輝度成分のブロックが１６×１６画素、２つの色差成分のブロックがそれぞれ８×８画素であるため、合計で３８４バイトとなり、ヘッダに必要な情報を含めても前記最大値の３２００ビット以下に必ず納めることが可能となる。

【先行技術文献】

【非特許文献】

【0007】

ITU-T H.264 : Advanced video coding for generic audiovisual services (03/2010)

【発明の概要】

【発明が解決しようとする課題】

【0008】

多くの動画像符号化・復号化装置はＬＳＩと呼ばれる集積回路によって符号化・復号化処理を実現している。このような符号化・復号化装置では処理高速化のためにパイプラインと呼ばれる並列動作を可能とする構成を取っている。具体的には１つのブロックの処理が完了する前に次のブロックの処理を開始することで同時に処理が進行する。

【0009】

図１４（ａ）に符号化におけるパイプラインの例を示す。ブロック１に対して、画素読込み、モード判定（画面間予測モードとするか画面内予測モードとするかの判定）、画面間／内予測、変換／量子化、可変長符号化、の各処理が順に適用され、ブロック２に対しても同様の処理が適用されている。このとき、ブロック２はブロック１の画素読込みが完了した時点で直ぐに処理を開始することで、処理タイミングを１ステップずつ遅らせながら並行して処理を行う。Ｈ．２６４やＨＥＶＣの符号化・復号化処理では過去に符号化・復号化したブロックの情報を参照しながら処理が行われるため、図にあるようにブロック１で確定した予測情報、画素情報、符号化情報等をブロック２が参照しながら処理を行う必要がある。

【0010】

しかし、前述のブロック単位の発生符号量が最大値以下に納められているかどうかは、可変長符号化が完了した時点での符号量を調べないと判断できない。そのため、もし最大値を超過すると判定された場合はその時点でＩＰＣＭに切替えて符号列を生成し直さなくてはならない。

【0011】

図１４（ｂ）にＩＰＣＭへの切替えが発生した場合のパイプラインの例を示す。ブロック１の可変長符号化処理においてＩＰＣＭへ切替えることが確定したとする。しかし、このとき、既にブロック２はブロック１が通常の符号化を行った場合の予測情報、画素情報等を参照しながら符号化処理が進行してしまっている。そのため、ブロック１のモード判定まで戻って、ブロック１がＩＰＣＭで符号化された前提に置き直して参照する情報を更新してブロック２の処理をやり直さなくてはならない。

【0012】

このようにパイプラインを遡る制御は非常に複雑な処理制御が必要となる。また対象ピクチャ内でＩＰＣＭが多数発生して遡る回数が増加すると処理速度遅延の原因となり、要求時間内に対象ピクチャの符号化処理を完了できなくなる。

【0013】

本発明は上記課題を解決するものであり、パイプライン構造を持つ画像符号化装置において、パイプラインを遡るのを抑制しつつ、ブロック単位の発生符号量を特定の最大値以下に納めることを可能とする、従来のＩＰＣＭに代わる符号化方法を提供することを目的とする。

【課題を解決するための手段】

【0014】

【0015】

また本発明の画像符号化装置は、ピクチャをブロック単位で符号化する画像符号化装置であって、符号化対象ブロックに対して予測情報を用いて予測画像を生成する予測部と、前記ピクチャと前記予測画像との差分である差分画像に対して変換処理及び量子化処理を行うことにより残差係数を生成する変換・量子化部と、前記予測情報によらずに決定される符号化モードに基づいて、前記残差係数を符号列に符号化する符号化部と、を備え、前記符号化部において、前記符号化モードが第１モードの場合、前記残差係数を可変長符号化して前記符号列を生成し、前記符号化モードが第２モードの場合、前記残差係数への変換処理及び量子化処理を行わず、前記差分画像をそのまま用いて前記符号列を生成し、前記符号化対象ブロックについての符号化モードが前記第１モードであるか前記第２モードであるかを示すモード情報、および前記予測情報を、前記符号化対象ブロック単位のヘッダに追記する。

【0016】

【0017】

なお、本発明は、このような画像符号化装置に含まれる各手段と同等の処理をプログラムや集積回路としても実現することもできる。

【発明の効果】

【0018】

【0019】

【0020】

本発明の符号化装置によれば、第１モードにおいて、符号化部で生成された残差係数を可変長符号化して符号列を生成し、当該符号列にヘッダ情報を対応付ける。一方、第２モードにおいて、差分画像を可変長符号化して得られる符号列を、ヘッダに続けて追記することで最終的な符号列を生成する。ここで、残差係数は差分画像とは同一の入力画像に基づくものである。そのため、現ブロックが第２モードモードに切り替わった場合でも、ヘッダに記述されている予測情報の変更は不要である。しかし、復号化装置において残差係数を当該残差係数とセットの予測情報を用いて復号化した場合、差分画像とは異なる画像が生成される。そのため、第１モードで符号化したときと、第２モードで符号化したときとで、復号化装置において最終的に得られる再構成画像の画素情報が異なるものとなる。このとき、現ブロックの画素情報を参照する他のブロックの符号化処理は進行している。そのため、当該他のブロックにおいても、画素情報を置き換えて処理をやり直す必要がある。したがって、現ブロックの画面間／内予測の処理まで遡る必要がある。しかし、従来の制御と比較すると、モード判定まで遡る必要がないので、遡る処理の数を少なくできる。したがって、パイプライン構造を持つ符号化装置において、パイプラインを遡るのを抑制しつつ、符合かすることが可能となる。したがって、パイプライン構造を持つ符号化装置において、処理速度の遅延もしくは処理量の増加を抑制しつつ、ブロック単位の発生符号量を特定の最大値以下に納めることが可能となる。

【図面の簡単な説明】

【0021】

【図1】実施形態１に係る動画像符号化装置の構成を示すブロック図である。

【図2】実施形態１に係る符号列生成処理のフローチャートである。

【図3】実施形態１によって生成される符号列のシンタックスの一例を説明するための概念図である。

【図4】実施形態１によって生成される符号列のシンタックスの別の一例を説明するための概念図である。

【図5】実施形態１によって生成される符号列のシンタックスのさらに別の一例を説明するための概念図である。

【図6】実施形態１に係る動画像符号化装置のパイプライン制御を説明するための概念図である。

【図7】実施形態２に係る動画像符号化装置の構成を示すブロック図である。

【図8】実施形態２に係る符号列生成処理のフローチャートである。

【図9】実施形態２に係る動画像符号化装置のパイプライン制御を説明するための概念図である。

【図10】実施形態３に係る動画像符号化装置の構成を示すブロック図である。

【図11】実施形態３に係る符号列生成処理のフローチャートである。

【図12】実施形態４に係る動画像復号化装置の構成を示すブロック図である。

【図13】実施形態４に係る符号列解析処理のフローチャートである。

【図14】従来の動画像符号化装置のパイプライン制御を説明するための概念図である。

【発明を実施するための形態】

【0022】

（実施形態１）
本実施形態１に係る動画像符号化装置について、図面を参照しながら説明する。

【0023】

１．動画像符号化装置の構成
図１は、本実施形態に係る動画像符号化装置１００の構成を示すブロック図である。動画像符号化装置１００は、ピクチャ単位で入力された動画像をブロックに分割し、ブロック単位で符号化処理を行い符号列を生成する。

【0024】

この動画像符号化装置１００は、ピクチャメモリ１０１と、予測残差符号化部１０２と、予測残差復号化部１０３と、ローカルバッファ１０４と、予測符号化部１０５と、量子化値決定部１０６と、ヘッダ符号列生成部１０７と、係数符号列生成部１０８とを備えている。

【0025】

ピクチャメモリ１０１は、表示を行う順にピクチャ単位で入力される入力画像信号１５１を、符号化を行う順にピクチャの並び替えを行って蓄積する。次に、ピクチャメモリ１０１は、差分演算部１０９または予測符号化部１０５からの読出し命令を受け付けると当該読出し命令に係る入力画像信号をそれぞれ出力する。このとき、各々のピクチャはコーディングユニット（以下、ＣＵと称す）と呼ばれる複数の画素から構成される符号化単位に分割される。このＣＵは、例えば水平６４×垂直６４画素のブロック、水平３２×垂直３２画素のブロック、水平１６×垂直１６画素のブロック等である。なお、本実施形態における動画像符号化装置１００では、ＣＵ単位で以降の処理が行われる。

【0026】

予測残差符号化部１０２は、差分演算部１０９から出力される差分画像信号１５２に対して直交変換を行う。さらに、予測残差符号化部１０２は、得られた各周波数成分の直交変換係数に対し量子化を行うことで画像情報の圧縮を行い、残差符号化信号１５３を生成する。予測残差符号化部１０２は、生成した残差符号化信号１５３を予測残差復号化部１０３および係数符号列生成部１０８に出力する。このとき予測残差符号化部１０２は、量子化値決定部１０６において決定された量子化値信号１５８を用いて、直交変換係数を量子化する。

【0027】

予測残差復号化部１０３は、予測残差符号化部１０２から出力される残差符号化信号１５３に対して、逆量子化および逆直交変換することで残差復号化信号１５４を生成する。そして、生成した残差復号化信号１５４を加算演算部１１０に出力する。

【0028】

ローカルバッファ１０４は、加算演算部１１０から出力される再構成画像信号１５５を格納する。この再構成画像信号１５５は、現在符号化対象となっているピクチャ以降のピクチャの符号化における予測符号化処理に用いられる。つまり、再構成画像信号１５５は、現在符号化対象となっているピクチャ以降のピクチャを符号化する際、画素データとして参照される。ローカルバッファ１０４は、予測符号化部１０５からの読出し命令に応じて、格納している再構成画像信号１５５を画素データとして予測符号化部１０５に出力する。

【0029】

予測符号化部１０５は、ピクチャメモリ１０１から出力される入力画像信号を基に、画面内予測、または画面間予測を用いて予測画像信号１５６を生成する。そして、予測符号化部１０５は、生成した予測画像信号１５６を差分演算部１０９および加算演算部１１０に出力する。なお、予測符号化部１０５は、画面間予測を用いる際は、ローカルバッファ１０４に蓄積されている既に符号化済みの過去のピクチャの再構成画像信号１５５を用いる。また予測符号化部１０５は、画面内予測を用いる際は、符号化対象ＣＵに隣接する既に符号化済みのＣＵの現在のピクチャの再構成画像信号１５５を用いる。画面内予測を用いるか画面間予測を用いるかのモード判定方法については、どちらの予測方法がより残差信号の情報量を少なくすることができるかを予測して行われる。

【0030】

量子化値決定部１０６は、ピクチャメモリ１０１に格納されているピクチャに基づいて、予測残差符号化部１０２において差分画像信号１５２を量子化する際の量子化値を設定する。量子化値決定部１０６は、設定した量子化値を予測残差符号化部１０２およびヘッダ符号列生成部１０７に出力する。なお、量子化値決定部１０６における量子化値の設定方法としては、符号列信号１５９のビットレートが、目標とするビットレートに近づくように量子化値を設定する、いわゆるレート制御に基づく量子化値の設定方法を利用しても構わない。

【0031】

ヘッダ符号列生成部１０７は、予測符号化部１０５が出力する予測情報信号１５７と、量子化値決定部１０６が出力する量子化値信号１５８と、その他の符号化制御に関する制御情報を可変長符号化することで符号列を生成する。なお、予測情報信号１５７に含まれる予測情報には、例えば画面内予測モードを示す情報、画面間予測モードを示す情報、動きベクトルを示す情報、参照ピクチャを示す情報等が含まれる。また、制御情報は係数符号列生成部１０８における処理前までに取得可能な情報であって、ＣＵの符号化時に適用した符号化条件を示す情報である。例えばブロック符号化タイプ、ブロック分割情報等が含まれる。

【0032】

係数符号列生成部１０８は、予測残差符号化部１０２が出力する残差符号化信号１５３を可変長符号化して生成した符号列、もしくは予測残差復号部１０３から出力される残差復号化信号１５４を可変長符号化せずに生成した符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９を生成する。なお、ここでいう可変長符号化には、算術符号化を含む。以下において同様である。

【0033】

つまり、係数符号列生成部１０８は、入力される信号に応じて２つのモードを切り換えて実行する。第１モードは、予測残差符号化部１０２が出力する残差符号化信号１５３を可変長符号化して得られる符号列とヘッダ符号列生成部１０７が出力する符号列から符号列信号１５９を生成して出力するモードである。第２モードは、予測残差復号化部１０３が出力する残差復号化信号１５４とヘッダ符号列生成部１０７が出力する符号列から符号列信号１５９を生成して出力するモードである。この第２モードを用いて符号列信号１５９を出力する場合、残差復号化信号１５４は可変長符号化せずに、残差復号化信号１５４をそのまま符号列として扱う。

【0034】

差分演算部１０９は、ピクチャメモリ１０１から読み出された画像信号と、予測符号化部１０５の出力である予測画像信号１５６との差分値である差分画像信号１５２を生成し、予測残差符号化部１０２に出力する。

【0035】

加算演算部１１０は、予測残差復号化部１０３から出力される残差復号化信号１５４と、予測符号化部１０５から出力される予測画像信号１５６とを加算することにより再構成画像信号１５５を生成し、ローカルバッファ１０４及び予測符号化部１０５に出力する。

【0036】

２．符号列信号の生成方法
ヘッダ符号列生成部１０７および係数符号列生成部１０８において符号列信号を生成する方法について、図２のフローチャートを用いて具体的に説明する。

【0037】

まず、ヘッダ符号列生成部１０７は、前述の符号化処理を行った結果生成された予測情報信号１５７、量子化値信号１５８、その他の符号化制御情報を可変長符号化することによってヘッダ情報の符号列を生成する（Ｓ４０１）。

【0038】

次に、係数符号列生成部１０８は、入力された残差符号化信号１５３を用いて、符号化対象ＣＵの発生符号量が規定値を超過する可能性があるかどうかを判定する（Ｓ４０２）。

【0039】

ステップＳ４０２において、超過する可能性がないと判断された場合は、Ｒｅｓｉｄｕａｌモードで係数が符号化されていることを示す識別子を符号化し（Ｓ４０３）、つづいて、従来の符号化と同様に入力された残差符号化信号１５３を可変長符号化する（Ｒｅｓｉｄｕａｌモード）ことで符号列を生成する（Ｓ４０４）。

【0040】

一方、ステップＳ４０２において、超過する可能性があると判断された場合は、ＰＣＭモードで係数が符号化されていることを示す識別子を符号化し（Ｓ４０５）、つづいて、入力された残差復号化信号１５４を可変長符号化せずにそのまま符号列に追加する（ＰＣＭモード）ことで符号列を生成する（Ｓ４０６）。

【0041】

なお、ステップＳ４０２において、入力された残差符号化信号１５３を用いて符号化対象ＣＵの発生符号量が規定値を超過する可能性があるかどうかを判定しているが、それ以外の方法を用いて発生符号量が規定値を超過する可能性があるかどうかを判定してもよい。例えば、符号列信号１５９を用いて符号量が既定値を超過しているか判定する方法がある。この場合、判定を行った時点で既に係数符号列生成部１０８から符号列が出力されているので、当該符号列において、残差符号化信号１５３を可変長符号化して得られる符号列に代えて、入力された残差復号化信号１５４にそのまま置き換えることで処理がなされる。

【0042】

また、ＣＵ単位で判定を行う代わりに、複数のＣＵ単位、もしくは別のブロック単位で判定を行ってもよい。

【0043】

３．シンタックス
図３は、本実施の形態によって生成される符号列における、ＣＵ単位のシンタックス：ｃｏｄｉｎｇ＿ｕｎｉｔ（）の一例を示した図である。

【0044】

シンタックスの先頭には、ヘッダ符号列生成部１０７によって生成された、予測モード：ｐｒｅｄ＿ｍｏｄｅ、予測情報：ｐｒｅｄｉｃｔｉｏｎ＿ｕｎｉｔ（）、量子化値：ｑｐ＿ｖａｌｕｅ等の情報を可変長符号化した符号列が記述されている。

【0045】

つづいて、図２で説明した識別子であるｐｃｍ＿ｆｌａｇが記述されている。この識別子が０であることは、Ｒｅｓｉｄｕａｌモードによって係数符号列がＲｅｓｉｄｕａｌ＿ｄａｔａ（）に記述されていることを示す。また、識別子が１であることは、ＰＣＭモードによって係数符号列がｐｃｍ＿ｄａｔａ（）に記述されていることを示す。ｐｃｍ＿ｄａｔａ（）に記述される係数符号列は、前述の通り可変長符号化を行わない残差復号化信号１５４である。

【0046】

図４は本実施の形態によって生成される符号列のＣＵ単位のシンタックス：ｃｏｄｉｎｇ＿ｕｎｉｔ（）の別の一例を示した図である。図３で説明したシンタックスと異なるのは識別子としてｐｃｍ＿ｆｌａｇの代わりにｃｂｐ＿ｙｕｖ＿ｒｏｏｔを用いている点のみである。

【0047】

この識別子は、従来の符号化において輝度成分および色差成分毎に残差符号化信号があるかないかを示すために用いられていたものである。この識別子が０から７であることは、従来通りＲｅｓｉｄｕａｌモードによって係数符号列がＲｅｓｉｄｕａｌ＿ｄａｔａ（）に記述されていることを示す。この識別子が８であることは、ＰＣＭモードによって係数符号列がｐｃｍ＿ｄａｔａ（）に記述されていることを示す。つまり、従来から存在する０から７までの情報に８番目の情報を追加する。

【0048】

これによって、新たな識別子の追加による符号量の増加を招くことなく、新たな機能を追加することが可能となる。

【0049】

図５は本実施の形態によって生成される符号列のＣＵ単位のシンタックス：ｃｏｄｉｎｇ＿ｕｎｉｔ（）のさらに別の一例を示した図である。図３で説明したシンタックスと異なるのは識別子としてｐｃｍ＿ｆｌａｇの代わりにｒｅｓｉｄｕａｌ＿ｄａｔａ＿ｆｌａｇを用いている点のみである。

【0050】

この識別子は、従来の別の符号化において対象ブロックに残差符号化信号があるかないかを示すために用いられていたものである。つまり、この識別子が０であることは、従来通り係数情報がないことを示す。また、識別子が１であることは、従来通り係数情報がＲｅｓｉｄｕａｌモードによって係数符号列がＲｅｓｉｄｕａｌ＿ｄａｔａ（）に記述されていることを示す。さらに、識別子が２であることは、ＰＣＭモードによって係数符号列がｐｃｍ＿ｄａｔａ（）に記述されていることを示す。

【0051】

これによって、識別子として従来から存在する信号を共有して使用することが可能となり、新たな識別子の追加による符号量の増加を抑制することが可能となる。

【0052】

なお、図３、図４、図５で説明したシンタックスおよび識別子の値については、本実施の形態を説明するための一例であり、ここに記載されている内容と異なるシンタックスや識別子の値を割り当てることによって同様の機能を実現してもよい。

【0053】

なお、図２のステップＳ４０２における規定値とは、前記残差復号化信号１５４をそのまま符号列として記述する際に必要となる符号量と、前記ヘッダ符号列に記述すべき全ての情報を符号化する際に必要となる最大の符号量とを合わせた符号量に余裕量を加えた符号量である。例えば、画像のフォーマットが各画素８ビットのＹＵＶ４：２：０であり、符号化対象ＣＵのサイズが３２×３２画素であった場合、前記残差復号化信号１５４をそのまま符号列として記述する際に必要となる符号量は１５３６バイトとなる。この場合、規定値は、この符号量と、前記ヘッダ符号列に記述すべき全ての情報を符号化する際に必要となる最大の符号量と、余裕量とを合わせた符号量とすることが考えられる。例えば１３０００ビット等の値が考えられる。

【0054】

４．パイプライン改善効果
図６を用いて本実施の形態による動画像符号化装置のパイプラインの例を示す。

【0055】

図６（ａ）は図２のステップＳ４０２の判定の結果、Ｒｅｓｉｄｕａｌモードで係数符号列を生成した場合のパイプラインの制御を示す図である。図１４（ａ）で説明した従来の制御と全く同様の流れで処理が行われている。

【0056】

一方、図６（ｂ）、は図２のステップＳ４０２の判定の結果、ＰＣＭモードで係数符号列を生成した場合のパイプライン制御を示す図である。本実施形態では、第１モードにおいて、前述のように、予測残差符号化部１０２で生成された残差符号化信号１５３を可変長符号化して係数符号列を生成し、係数符号列にヘッダ符号列生成部１０７で生成されたヘッダ情報を対応付けた状態で、係数符号列および前記ヘッダ情報を出力する。一方、第２モードにおいて、予測残差復号化部１０３で生成された残差復号化信号１５４を可変長符号化することなく、残差復号化信号１５４をそのまま係数符号列とし、係数符号列にヘッダ情報符号列生成部１０７で生成されたヘッダ情報を対応付けた状態で、係数符号列およびヘッダ情報を出力する。ここで、残差復号化信号１５４は、残差符号化信号１５３とは同一の入力画像信号１５１に基づくものである。また、復号化装置において、残差符号化信号１５３を当該信号とセットの予測情報を用いて復号化すると、残差復号化信号１５４と同一の信号が得られる。つまり、復号化装置において最終的に生成される再構成画像信号の画素情報は、第１モードの場合でも第２モードの場合でも同一となる。そのため、ブロック１がＰＣＭモードに切り替わっても、ヘッダ符号列に記述されている予測情報の変更や、再度の符号化は不要である。そのため、ブロック１の予測情報や画素情報を参照しながら符号化処理が進行しているブロック２の処理には全く影響を与えない。よって、パイプラインを遡ることなくそのまま係数符号列のみをＰＣＭモードで符号化することが可能となる。

【0057】

なお、残差復号化信号１５４を出力する場合、復号化装置において、当該信号の復号は不要である。そのため、当該信号を復号する上では、予測情報は不要であるが、この予測情報は、ブロック２の復号等において参照される。

【0058】

このように、本実施の形態による動画像符号化装置は、パイプラインを遡ることなくＰＣＭモードに切替えて符号化を行うことができるため、処理速度の遅延もしくは処理量を増加させることなく、ブロック単位の発生符号量を特定の最大値以下に納めることが可能となる。

【0059】

５．まとめ
本実施形態における動画像符号化装置１００は、入力される動画像をブロック単位で符号化する動画像符号化装置１００であって、符号化対象画像に対応する予測画像を生成する予測符号化部１０５と、前記符号化対象画像と前記生成された予測画像との差分画像信号１５２を生成する差分演算部１０９と、前記差分演算部１０９の出力に対して直交変換処理および量子化処理を行い、残差符号化信号１５３を生成する予測残差符号化部１０２と、前記残差符号化信号１５３に対して逆量子化処理および逆直交変換処理を行い、残差復号化信号１５４を生成する予測残差復号化部１０３と、前記予測符号化部１０５で生成された予測画像と前記予測残差復号化部１０３で生成された残差復号化信号１５４とを加算することで再構成画像信号１５５を生成する加算演算部１１０と、前記予測画像を生成する際に利用した予測情報を少なくとも含むヘッダ情報を生成するヘッダ符号列生成部１０７と、第１モードにおいて、前記予測残差符号化部１０２で生成された残差符号化信号１５３を可変長符号化して係数符号列を生成し、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する一方、第２モードにおいて、前記予測残差復号化部１０３で生成された残差復号化信号１５４を可変長符号化することなく、前記残差復号化信号１５４をそのまま係数符号列とし、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する係数符号列生成部１０８と、を備える。

【0060】

また好ましくは、前記係数符号列生成部１０８は、前記係数符号列および前記ヘッダ情報に、前記係数符号列を復号する際に逆量子化および逆直交変換をするか否かを示す識別子を対応付けた状態で、前記係数符号列、前記ヘッダ情報および前記識別子を出力する。
また好ましくは、前記識別子は、前記第１モードにおける係数符号列および前記第２モードにおける係数符号列で共通で使用される識別子であり、当該識別子情報のうち１つは、前記第１モードにおける係数符号列として符号化したことを示すものであり、また別の１つは、前記第２モードにおける係数符号列として符号化したことを示し、かつ符号化した残差符号化信号１５３があるかないかを示すものである。

【0061】

（実施形態２）
実施形態２に係る動画像符号化装置について、図面を参照しながら説明する。

【0062】

１．動画像符号化装置の構成
図７は、本実施形態に係る動画像符号化装置１００−１のブロック図である。動画像符号化装置１００−１は、ピクチャ単位で入力された動画像をブロックに分割し、ブロック単位で符号化処理し、符号列を生成する。

【0063】

この動画像符号化装置１００−１は、実施の形態１の動画像符号化装置１００の係数符号列生成部１０８の代わりに、係数符号列生成部１０８−１を備えている。

【0064】

以下、説明の便宜上、実施形態１と同様の構成についてはその詳細な説明を省略する。さらに、図７では、図１と同様の機能を有するブロックについては同じ番号を付す。

【0065】

係数符号列生成部１０８−１は、予測残差符号化部１０２が出力する残差符号化信号１５３を可変長符号化して得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−１を生成する第１モードを有する。さらに、係数符号列生成部１０８−１は、差分演算部１０９から出力される差分画像信号１５２を可変長符号化せずに得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−１を生成する第２モードを有する。

【0066】

なお、上記第２モードは、差分演算部１０９から出力される差分画像信号１５２を可変長符号化してえられる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−１を生成するモードでも構わない。

【0067】

係数符号列生成部１０８−１は、上記の第１モードおよび第２モードを切り換えて実行する。

【0068】

２．符号列の生成方法
図８は、ヘッダ符号列生成部１０７および係数符号列生成部１０８−１において符号列信号を生成する方法を示すフローチャートである。

【0069】

このフローチャートは、実施形態１の図２のフローチャートにおけるステップＳ４０６の代わりに、ステップＳ４０６−１の処理が行われる。

【0070】

具体的には、ステップＳ４０２において符号化対象ＣＵの発生符号量が規定値を超過する可能性があると判断された場合に、ＰＣＭモードで係数が符号化されていることを示す識別子を符号化する（Ｓ４０５）。つづいて、入力された差分画像信号１５２を可変長符号化せずにそのまま符号列に追加する（ＰＣＭモード）ことで符号列を生成する（Ｓ４０６−１）。なお、上記において、差分画像信号１５２を可変長符号化して出力する構成にしても構わない。

【0071】

３．シンタックス
本実施の形態におけるシンタックスおよびＳ４０５で符号化する識別子は、実施形態１と同様である。

【0072】

なお、図８のステップＳ４０２における規定値とは、差分画像（差分画像信号１５２の画素値）をそのまま符号列として記述する際に必要となる符号量と、前記ヘッダ符号列に記述すべき全ての情報を符号化する際に必要となる最大の符号量とを合わせた符号量に余裕量を加えた符号量である。例えば、画像のフォーマットが各画素８ビットのＹＵＶ４：２：０であり、符号化対象ＣＵのサイズが３２×３２画素であった場合、差分画像信号１５２の画素値をそのまま符号列として記述する際に必要となる符号量は１５３６バイトとなり、これに前記ヘッダ符号列に記述すべき全ての情報を符号化する際に必要となる最大の符号量とを合わせた符号量に余裕量を加えて、前記規定値として１３０００ビット等の値が考えられる。

【0073】

４．パイプライン改善効果
図９を用いて本実施の形態による動画像符号化装置のパイプラインの例を示す。

【0074】

図９（ａ）は図８のステップＳ４０２の判定の結果、Ｒｅｓｉｄｕａｌモードで係数符号列を生成した場合のパイプラインの制御を示す図である。図１４（ａ）で説明した従来の制御と全く同様の流れで処理が行われている。

【0075】

一方、図９（ｂ）は図８のステップＳ４０２の判定の結果、ＰＣＭモードで係数符号列を生成した場合のパイプラインの制御を示す図である。本実施形態では、前述のように、第１モードにおいて、予測残差符号化部１０２が出力する残差符号化信号１５３を可変長符号化して得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−１を生成する。一方、第２モードにおいて、差分演算部１０９から出力される差分画像信号１５２を可変長符号化せずに得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−１を生成する。ここで、残差符号化信号１５３は差分画像信号１５２とは同一の入力画像信号１５１に基づくものである。そのため、ブロック１がＰＣＭモードに切り替わった場合でも、ヘッダ符号列に記述されている予測情報の変更は不要である。しかし、復号化装置において残差符号化信号１５３を当該信号とセットの予測情報を用いて復号化した場合、差分画像信号１５２とは異なる信号が生成される。そのため、第１モードで符号化したときと、第２モードで符号化したときとで、復号化装置において最終的に得られる再構成画像信号の画素情報が異なるものとなる。このとき、ブロック１の画素情報を参照するブロック２の符号化処理は進行している。そのため、ブロック２においても、画素情報を置き換えて処理をやり直す必要がある。したがって、ブロック１の画面間／内予測の処理まで遡る必要がある。しかし、図１４（ｂ）で説明した従来の制御と比較すると遡る処理の数が少なくなっている。

【0076】

このように、本実施の形態による動画像符号化装置は、パイプラインを遡る処理の量を従来よりも減らすことができる。そのため、処理速度の遅延もしくは処理量の増加を抑制しつつ、ブロック単位の発生符号量を特定の最大値以下に納めることが可能となる。

【0077】

また、本実施の形態では、符号化処理前の差分画像を符号化する。そのため、対応する動画像復号化装置において復号化した画像の画質を向上させることが可能となる。

【0078】

５．まとめ
本実施形態における動画像符号化装置は、入力される動画像をブロック単位で符号化する動画像符号化装置１００−１であって、符号化対象画像に対応する予測画像を生成する予測符号化部１０５と、前記符号化対象画像と前記生成された予測画像との差分画像信号１５２を生成する差分演算部１０９と、前記差分演算部１０９の出力に対して直交変換処理および量子化処理を行い、残差符号化信号１５３を生成する予測残差符号化部１０２と、前記残差符号化信号１５３に対して逆量子化処理および逆直交変換処理を行い、残差復号化信号１５４を生成する予測残差復号化部１０３と、前記予測符号化部１０５で生成された予測画像と前記予測残差復号化部１０３で生成された残差復号化信号１５４とを加算することで再構成画像信号１５５を生成する加算演算部１１０と、前記予測画像を生成する際に利用した予測情報を少なくとも含むヘッダ情報を生成するヘッダ符号列生成部１０７と、第１モードにおいて、前記予測残差符号化部１０２で生成された残差符号化信号１５３を可変長符号化して係数符号列を生成し、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する一方、第２モードにおいて、前記差分演算部１０９で生成された差分画像信号１５２を可変長符号化することなく、前記差分画像信号１５２をそのまま係数符号列とし、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する係数符号列生成部１０８−１と、を備える。

【0079】

また、本実施形態における動画像符号化装置は、入力される動画像をブロック単位で符号化する動画像符号化装置１００−１であって、符号化対象画像に対応する予測画像を生成する予測符号化部１０５と、前記符号化対象画像と前記生成された予測画像との差分画像信号１５２を生成する差分演算部１０９と、前記差分演算部１０９の出力に対して直交変換処理および量子化処理を行い、残差符号化信号１５３を生成する予測残差符号化部１０２と、前記残差符号化信号１５３に対して逆量子化処理および逆直交変換処理を行い、残差復号化信号１５４を生成する予測残差復号化部１０３と、前記予測符号化部１０５で生成された予測画像と前記予測残差復号化部１０３で生成された残差復号化信号１５４とを加算することで再構成画像信号１５５を生成する加算演算部１１０と、前記予測画像を生成する際に利用した予測情報を少なくとも含むヘッダ情報を生成するヘッダ符号列生成部１０７と、第１モードにおいて、前記予測残差符号化部１０２で生成された残差符号化信号１５３を可変長符号化して係数符号列を生成し、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する一方、第２モードにおいて、前記差分演算部１０９で生成された差分画像信号１５２を可変長符号化して、前記差分画像信号１５２をそのまま係数符号列とし、前記係数符号列に前記ヘッダ情報生成部で生成されたヘッダ情報を対応付けた状態で、前記係数符号列および前記ヘッダ情報を出力する係数符号列生成部１０８−１と、を備える。

【0080】

また好ましくは、前記係数符号列生成部１０８−１は、前記係数符号列および前記ヘッダ情報に、前記係数符号列を復号する際に逆量子化および逆直交変換をするか否かを示す識別子を対応付けた状態で、前記係数符号列、前記ヘッダ情報および前記識別子を出力する。

【0081】

また好ましくは、前記識別子は、前記第１モードにおける係数符号列および前記第２モードにおける係数符号列で共通で使用される識別子であり、当該識別子情報のうち１つは、前記第１モードにおける係数符号列として符号化したことを示すものであり、また別の１つは、前記第２モードにおける係数符号列として符号化したことを示し、かつ符号化した残差符号化信号１５３があるかないかを示すものである。

【0082】

（実施形態３）
実施形態３に係る動画像符号化装置について、図面を参照しながら説明する。

【0083】

１．動画像符号化装置の構成
図１０は、本実施形態に係る動画像符号化装置１００−２のブロック図である。動画像符号化装置１００−２は、ピクチャ単位で入力された動画像をブロックに分割し、ブロック単位で符号化処理し、符号列を生成する。

【0084】

この動画像符号化装置１００−２は、実施形態１の動画像符号化装置１００の係数符号列生成部１０８の代わりに係数符号列生成部１０８−２を備えている。

【0085】

以下、説明の便宜上、実施形態１と同様の構成についてはその詳細な説明を省略する。さらに、図１０では、図１、図７と同様の機能を有するブロックについては同じ番号を付す。

【0086】

係数符号列生成部１０８−２は、入力される信号に応じて２つのモードを切り換えて実行する。第１モードは、予測残差符号化部１０２が出力する残差符号化信号１５３を可変長符号化して得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−２を生成するモードである。第２モードは、残差復号化信号１５４の各係数を１／Ｎ倍（Ｎは自然数）した符号列を可変長符号化せずに得られる符号列を、ヘッダ符号列生成部１０７が生成した符号列に続けて追記することで最終的な符号列信号１５９−２を生成するモードである。

【0087】

２．符号列の生成方法
図１１は、ヘッダ符号列生成部１０７および係数符号列生成部１０８−２において符号列信号を生成する方法を示すフローチャートである。

【0088】

このフローチャートは、実施形態１の図２のフローチャートにおけるステップＳ４０６の代わりに、ステップＳ４０６−２の処理が行われる点のみが異なっている。

【0089】

具体的には、ステップＳ４０２において、符号化対象ＣＵの発生符号量が規定値を超過する可能性があると判断された場合に、ＰＣＭモードで係数が符号化されていることを示す識別子を符号化する（Ｓ４０５）。つづいて、入力された残差復号化信号１５４の各係数を１／Ｎ倍して、可変長符号化せずにそのまま符号列に追加する（ＰＣＭモード）ことで符号列を生成する（Ｓ４０６−２）。

【0090】

３．シンタックス
本実施の形態におけるシンタックスおよびＳ４０５で符号化する識別子は、実施形態１と同様である。

【0091】

４．パイプライン改善効果
本実施の形態による動画像符号化装置のパイプラインの例は、図９とほぼ同様で、異なる点を以下に説明する。

【0092】

図８のステップＳ４０２の判定の結果、ＰＣＭモードが選択された場合、残差復号画像を１／Ｎ倍するが、復号時にはＮ倍して残差復号画像を生成する必要がある。このため、±（Ｎ−１）の範囲で誤差が発生する。

【0093】

図９（ｂ）は、図８のステップＳ４０２の判定の結果、ＰＣＭモードで係数符号列を生成した場合のパイプライン制御を示す図である。ブロック１がＰＣＭモードに切り替わった場合、ヘッダ符号列に記述されている予測情報は変更されない。しかし、残差復号化画像が変わる。そのため、ブロック１の画素情報を参照するブロック２の符号化処理は進行している。その結果、画素情報を置き換えて処理をやり直す必要がある。そのため、ブロック１の画面間／内予測の処理まで遡っている。しかし、図１４（ｂ）で説明した従来の制御と比較すると遡る処理の数が少なくなっている。

【0094】

このように、本実施の形態による動画像符号化装置は、パイプラインを遡る処理の量を従来よりも減らすことができる。そのため、処理速度の遅延もしくは処理量の増加を抑制しつつ、ブロック単位の発生符号量を特定の最大値以下に納めることが可能となる。

【0095】

また、本実施の形態では、残差復号化画像を１／Ｎ倍する。そのため、ビット量を削減することが可能となる。

【0096】

Ｎの値を固定の値とした場合、シンタックス上に記述しなくてもよい。シンタックス上にＮの値を記載する場合、ピクチャ単位で一つの値を設定するフィールドを設けて、その値を記述してもよい。

【0097】

５．まとめ
本実施形態における係数符号列生成部１０８−２は、前記第１モードの場合、前記残差符号化信号１５３を可変長符号化して第１係数符号列を生成し、前記第２モードの場合、１／Ｎ倍（Ｎは自然数）にした前記差分復号化画像を第２係数符号列とする。

【0098】

また本実施形態における係数符号列生成部１０８−２は、前記第１モードの場合、前記残差符号化信号１５３を可変長符号化して第１係数符号列を生成し、前記第２モードの場合、１／Ｎ倍（Ｎは自然数）にした前記差分画像信号１５２を第２係数符号列とする。

【0099】

（実施形態４）
実施形態４に係る動画像復号化装置について、図面を参照しながら説明する。

【0100】

１．動画像復号化装置の構成
図１２は、実施形態４に係る動画像復号化装置２００の構成を示すブロック図である。動画像復号化装置２００は、実施形態２で説明した動画像符号化装置によって生成された符号列に対し、コーディングユニット（ＣＵ）と呼ばれるブロック単位で復号化処理し、出力画像を生成する。

【0101】

この動画像復号化装置２００は、ヘッダ符号列解析部２０１と、係数符号列解析部２０２と、予測残差復化部２０３と、ピクチャメモリ２０４と、予測復号化部２０５と、量子化値決定部２０６とを備えている。

【0102】

ヘッダ符号列解析部２０１は、入力されたブロック単位の符号列信号２５１のヘッダ領域に対して可変長復号化を施すことによりヘッダ情報の解析を行う。ヘッダ符号列解析部２０１は、解析して得られる予測情報信号２５６を予測復号化部２０５へ出力する。さらに、ヘッダ符号列解析部２０１は、解析して得られる量子化値情報を量子化値決定部２０６へ出力する。

【0103】

係数符号列解析部２０２は、ヘッダ符号列解析部２０１によって解析されたヘッダ情報に続いて符号化されている係数符号列の解析を行う。このとき、係数符号列解析部２０２は、解析の結果、係数符号列が残差符号化信号２５２の場合、当該残差符号化信号２５２を予測残差復号化部２０３に出力する。一方、係数符号列解析部２０２は、解析の結果、係数符号列が差分画像信号２５９である場合、当該差分画像信号２５９を、予測残差復号化部２０３をバイパスして加算器２０７に出力する。つまり、係数符号列が差分画像信号２５９である場合、予測残差復号化部２０３による残差復号化信号２５３の生成処理は行わない。なお、係数符号列が可変長符号化されている場合、係数符号列解析部は係数符号列を可変長復号化した後、残差符号化信号２５２または差分画像信号２５９として出力する。一方、可変長符号化されていない場合、係数符号列解析部は係数符号列を可変長復号化することなく、残差符号化信号２５２または差分画像信号２５９として出力する。

【0104】

予測残差復号化部２０３は、係数符号列解析部２０２から入力された残差符号化信号２５２に対して、逆量子化および逆直交変換することで残差復号化信号２５３を生成する。そして、予測残差復号化部２０３は、生成した残差復号化信号２５３を加算演算部２０７に出力する。このとき、予測残差復号化部２０３は、量子化値決定部２０６において決定された量子化値信号２５７を用いることで逆量子化を制御する。

【0105】

予測復号化部２０５は、ヘッダ符号列解析部２０１から出力された予測情報信号２５６を基に、画面内予測、または画面間予測を用いて予測画像信号２５４を生成する。そして、予測復号化部２０５は、生成した予測画像信号２５４を加算演算部２０７に出力する。なお、予測復号化部２０５は、画面間予測を用いる際、ピクチャメモリ２０４に蓄積されている既に復号化済みの過去のピクチャの再構成画像信号２５５を用いる。また、予測復号化部２０５は、画面内予測を用いる際、復号化対象ＣＵに隣接する既に復号化済みのＣＵの現在のピクチャの再構成画像信号２５５を用いる。画面内予測を用いるか画面間予測を用いるかの判定については、入力される予測情報信号２５６に従って行われる。

【0106】

加算演算部２０７では、予測残差復号化部２０３から出力された残差復号化信号２５３もしくは係数符号列解析部２０２から出力された差分画像信号２５９に、予測復号化部２０５から出力された予測画像信号２５４を加算することによって再構成画像信号２５５を生成する。生成された再構成画像信号２５５はピクチャメモリ２０４に格納され、最終的にピクチャ単位の出力画像信号２５８として表示装置に出力される。

【0107】

２．符号列の解析方法
ヘッダ符号列解析部２０１および係数符号列解析部２０２において符号列の解析を行う方法について、図１３のフローチャートを用いて具体的に説明する。

【0108】

まず、ヘッダ符号列解析部２０１は、入力された符号列のヘッダ領域に対して可変長復号化を施すことによりヘッダ情報の解析を行い、生成された予測情報信号２５６、量子化値情報、その他の復号化制御情報を図１２の各処理ブロックへ出力する（Ｓ１２０１）。

【0109】

次に、係数符号列解析部２０２は、ステップＳ１２０２において識別子の解析を行い、つづいてステップＳ１２０３において、解析された識別子が、ＰＣＭモードで係数が符号化されていることを示しているか、もしくはＲｅｓｉｄｕａｌモードで係数が符号化されていることを示しているかの判定を行う。

【0110】

ステップＳ１２０３において、Ｒｅｓｉｄｕａｌモードで係数が符号化されていると判定された場合は、従来と同様に入力された係数符号列に対して可変長復号化を施すことによって残差符号化信号２５２を取得し、予測残差復号化部２０３に出力する（Ｓ１２０４）。

【0111】

一方、ステップＳ１２０３において、ＰＣＭモードで係数が符号化されていると判定された場合は、入力された係数符号列に対して可変長復号化を施すことなく、そのまま差分画像信号２５９として、予測残差復号化部２０３から出力される残差復号化信号２５３に置き換えて以降の処理を行う（Ｓ１２０５）。

【0112】

なお、ここでは実施の形態２で説明した動画像符号化装置１００−１で生成された符号列に対しての処理方法を説明したが、実施の形態１で説明した動画像符号化装置１００で生成された符号列に対しても全く同様の処理方法で復号化することが可能である。その際に、ステップＳ１２０５で取得される情報は、対応する符号化装置における残差復号化後の残差復号化信号２５２に置き換わるが、復号化処理としては区別することなく処理を行うことが可能である。

【0113】

また、実施の形態３で説明した動画像符号化装置１００−２で生成された符号列に対しては、ステップＳ１２０５で係数符号列解析部２０２において残差復号化信号２５２の各係数をＮ倍したものを残差復号化信号２５２として出力する部分が異なるのみで、その他の処理は全く同様の処理方法で復号化することが可能である。

【0114】

３．シンタックス
本実施の形態において復号化処理を行う符号列のシンタックスおよびＳ１２０２で解析する識別子は、実施形態１と同様である。

【0115】

４．パイプライン改善効果
本実施の形態による動画像復号化装置を用いることにより、これに対応する符号列を生成する動画像符号化装置は、実施の形態１で説明したような構成をとることが可能となり、図６（ｂ）のようにパイプラインを遡ることなくＰＣＭモードに切替えて符号化を行うことができる。そのため、処理速度の遅延もしくは処理量を増加させることなく、ブロック単位の発生符号量を特定の最大値以下に納めることが可能となる。

【0116】

また同様に、本実施の形態による動画像復号化装置を用いることにより、これに対応する符号列を生成する動画像符号化装置は、実施の形態２あるいは実施の形態３で説明したような構成をとることが可能となり、図９（ｂ）のようにパイプラインを遡る処理の量を従来よりも減らすことができる。そのため、処理速度の遅延もしくは処理量の増加を抑制しつつ、ブロック単位の発生符号量を特定の最大値以下に納めることができ、さらに復号化した画像の画質を向上させることが可能となる。

【0117】

５．まとめ
本実施形態における動画像復号化装置２００は、復号化対象符号列をブロック単位で復号化する動画像復号化装置２００であって、符号化された残差係数に基づく情報およびそれに対応付けられたヘッダ情報を含む第１の復号化対象符号列または前記復号化対象符号列の符号化処理過程で得られる残差画像およびそれに対応付けられたヘッダ情報を含む第２の復号化対象符号列を前記復号化対象符号列として受け付けるヘッダ符号列解析部２０１と、前記ヘッダ情報から少なくとも、前記復号化対象符号列を生成した際に利用された予測画像に関する情報である前記予測情報を取得するヘッダ符号列解析部２０１と、前記ヘッダ符号列解析部２０１が受け付けた復号化対象符号列を可変長復号化し残差係数を出力する係数符号列解析部２０２と、前記係数符号列解析部２０２が出力する残差係数に対して、逆量子化および逆直交変換を行い、残差復号化画像を生成する予測残差復号化部２０３と、前記ヘッダ符号列解析部２０１で取得された前記予測情報に基づいて、前記復号化対象符号列に対応する予測画像を生成する予測復号化部２０５と、前記ヘッダ符号列解析部２０１で受け付けた復号化対象符号列が前記第１の復号化対象符号列である場合、前記予測残差復号化部２０３で生成された前記残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する一方、前記ヘッダ符号列解析部２０１で受け付けた復号化対象符号列が前記第２の復号化対象符号列である場合、前記第２の復号化対象符号列に含まれる残差画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する加算演算部２０７と、を備える。

【0118】

また、本実施形態における動画像復号化装置２００は、復号化対象符号列をブロック単位で復号化する動画像復号化装置２００であって、符号化された残差係数に基づく情報およびそれに対応付けられたヘッダ情報を含む第１の復号化対象符号列または前記復号化対象符号列の符号化処理過程において得られる残差係数をローカルデコードした残差復号化画像およびそれに対応付けられたヘッダ情報を含む第２の復号化対象符号列を復号化対象符号列として受け付けるヘッダ符号列解析部２０１と、前記ヘッダ情報から少なくとも、前記復号化対象符号列を生成した際に利用された予測画像に関する情報である前記予測情報を取得するヘッダ符号列解析部２０１と、前記ヘッダ符号列解析部２０１が受け付けた復号化対象符号列を可変長復号化し残差係数を出力する係数符号列解析部２０２と、前記係数符号列解析部２０２が出力する残差係数に対して、逆量子化および逆直交変換を行い、残差復号化画像を生成する予測残差復号化部２０３と、前記ヘッダ符号列解析部２０１で取得された前記予測情報に基づいて、前記復号化対象符号列に対応する予測画像を生成する予測復号化部２０５と、前記ヘッダ符号列解析部２０１で受け付けた復号化対象符号列が前記第１の復号化対象符号列である場合、前記予測残差復号化部２０３で生成された前記残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する一方、前記ヘッダ符号列解析部２０１で受け付けた復号化対象符号列が前記第２の復号化対象符号列である場合、前記第２の復号化対象符号列に含まれる残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する加算演算部２０７と、を備える。

【0119】

また好ましくは、前記復号化対象符号列は、前記復号化対象符号列の符号化処理過程で得られる残差画像が前記復号化対象符号列に含まれているか否かを示す識別子を含み、前記加算演算部２０７は、前記識別子が前記復号化対象符号列に前記復号化対象符号列の符号化処理過程で得られる残差画像が含まれないことを示す場合、前記予測残差復号化部２０３で生成された前記残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力し、前記識別子が前記復号化対象符号列に前記復号化対象符号列の符号化処理過程で得られる残差画像が含まることを示す場合、前記第２の復号化対象符号列に含まれる残差画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する。

【0120】

また好ましくは、前記復号化対象符号列は、前記復号化対象符号列の符号化処理過程において得られる残差係数をローカルデコードした残差復号化画像が前記復号化対象符号列に含まれているか否かを示す識別子を含み、前記加算演算部２０７は、前記識別子が前記復号化対象符号列に前記復号化対象符号列の符号化処理過程において得られる残差係数をローカルデコードした残差復号化画像が含まれないことを示す場合、前記予測残差復号化部２０３で生成された前記残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力し、前記識別子が前記復号化対象符号列に前記復号化対象符号列の符号化処理過程において得られる残差係数をローカルデコードした残差復号化画像が含まることを示す場合、前記第２の復号化対象符号列に含まれる残差復号化画像と前記予測復号化部２０５で生成された前記予測画像とを加算することにより、再構成画像を生成して出力する。

【0121】

また好ましくは、前記ヘッダ符号列解析部２０１が前記第２の復号化対象符号列を受け付けた場合、前記予測残差復号化部２０３は前記係数符号列に対して逆量子化および逆直交変換しない。

【0122】

（その他の実施形態）
上記各実施形態で示した動画像符号化装置および動画像復号化装置に含まれる各手段と同等の機能を備えるプログラムを、フレキシブルディスク等の記録媒体に記録することにより、上記実施の形態で示した処理を、独立したコンピュータシステムにおいて簡単に実施することが可能となる。なお、記録媒体は、フレキシブルディスクに限らず、光ディスク、ＩＣカード、ＲＯＭカセット等、プログラムを記録できるものであればよい。

【0123】

また、上記実施の形態で示した動画像符号化装置および動画像復号化装置に含まれる各手段と同等の機能を集積回路であるＬＳＩとして実現してもよい。これらは一部または全てを含むように１チップ化されてもよい。ＬＳＩは集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと称されることもある。

【0124】

また、集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセッサで実現しても良い。ＬＳＩ製造後に、プログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用しても良い。

【0125】

さらには、半導体技術の進歩または派生する別技術によりＬＳＩなどに置き換わる集積回路の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。

【0126】

また、本発明は、上述した動画像符号化装置および動画像復号化装置を含む、放送局から放送される放送波を圧縮し、記録を行うＤＶＤレコーダー、ＢＤレコーダー等の放送波記録装置に適用しても構わない。

【0127】

また、上記実施の形態に係る、動画像符号化装置および動画像復号化装置、またはその変形例の機能のうち少なくとも一部を組み合わせてもよい。

【産業上の利用可能性】

【0128】

本発明は、例えば、ビデオカメラ、デジタルカメラ、ビデオレコーダ、携帯電話、及びパーソナルコンピューター等における、入力画像を構成する各ピクチャを符号化して動画像符号化データとして出力する動画像符号化装置や、前記動画像符号化データを復号化して復号化画像を生成する動画像復号化装置として有用である。

【符号の説明】

【0129】

１００、１００−１、１００−２ 動画像符号化装置
１０１ ピクチャメモリ
１０２ 予測残差符号化部
１０３ 予測残差復号化部
１０４ ローカルバッファ
１０５ 予測符号化部
１０６ 量子化値決定部
１０７ ヘッダ符号列生成部
１０８、１０８−１、１０８−２ 係数符号列生成部
１０９ 差分演算部
１１０ 加算演算部
１５１ 入力画像信号
１５２ 差分画像信号
１５３ 残差符号化信号
１５４ 残差復号化信号
１５５ 再構成画像信号
１５６ 予測画像信号
１５７ 予測情報信号
１５８ 量子化値信号
１５９、１５９−１、１５９−２ 符号列信号
２００ 動画像復号化装置
２０１ ヘッダ符号列解析部
２０２ 係数符号列解析部
２０３ 予測残差復号化部
２０４ ピクチャメモリ
２０５ 予測復号化部
２０６ 量子化値決定部
２５１ 符号列信号
２５２ 残差符号化信号
２５３ 残差復号化信号
２５４ 予測画像信号
２５５ 再構成画像信号
２５６ 予測情報信号
２５７ 量子化値信号
２５８ 出力画像信号
２５９ 差分画像信号

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】