(58)【調査した分野】(Int.Cl.,DB名)
【背景技術】
【0002】
良く知られているように、国際規格ISO/IEC 13818−2で標準化されたMPEG−2規格による動画像(Moving Picture)の一般的な圧縮方式は、ビデオストリームから冗長な情報を削除することによって、ビデオ記憶容量と必要な帯域幅とを削減すると言う原理に基づいている。尚、MPEGは、Moving Picture Experts Groupの略である。
【0003】
MPEG−2規格は、ビットストリームのシンタックス(圧縮符号化データ列の規則または符号化データのビットストリームの構成方法)およびデコードプロセスのみを規定しているので、衛星放送・サービス、ケーブルテレビジョン、インターラクティブテレビジョン、インターネット等の種々の状況で十分利用可能なようにフレキシブルなものである。
【0004】
MPEG−2のエンコードプロセスでは、最初にデジタルビデオの各画素の色差と輝度の成分を規定するために、ビデオ信号がサンプルされ量子化される。色差と輝度との成分を示す値は、マクロブロックに蓄積される。マクロブロックに蓄積された色差と輝度との値は、離散コサイン変換(DCT:Discrete Cosine Transform)を使用して周波数値に変換される。DCTによって得られる変換係数は、ピクチャーの輝度と色差で異なった周波数を持つ。量子化されたDCT変換係数は、ビデオストリームを更に圧縮する可変長コーディング(VLC:Variable Length Coding)によってエンコードされる。
【0005】
MPEG−2のエンコードプロセスでは、動き圧縮技術による付加圧縮が規定されている。MPEG−2の規格では、Iフレーム、Pフレーム、Bフレームの3種類のフレーム(ピクチャとも称す)が存在している。Iフレームは、ビデオストリーム中の他のいかなるフレームを参照することなく再生されるフレームを意味する、イントラ符号化(コード)されたフレームである。PフレームとBフレームは、他のフレームの参照によって再生されるフレームを意味する、インター符号化(コード)されたフレームである。例えば、PフレームとBフレームとは、参照フレームに関して動き推定を示す動きベクトルを含む。動きベクトルの使用によって、MPEGエンコーダは特定のビデオストリームに必要な帯域幅の低減が可能となる。尚、Iフレームは独立(intra-coded)フレームと呼ばれ、Pフレームは片方向予測(predictive-coded)フレームと呼ばれ、Bフレームは両方向予測(bi-directionally predictive-coded)フレームと呼ばれる。
【0006】
従って、MPEG−2の動画像符号化装置(Encoder)は、フレームメモリと動きベクトル検出部と動き補償部と減算部とDCT変換部と量子化部と逆量子化部と逆DCT変換部と可変長符号化部と加算部とによって構成される。符号化される動画像信号は、PフレームやBフレームの符号化や動きベクトル検出のために、フレームメモリに格納された後に、フレームメモリから読み出され、動き補償部からの動き補償予測信号が減算部で減算される。減算により生成された予測残差は、DCT変換部と量子化部でそれぞれ、DCT変換処理と量子化処理とが実行される。量子化されたDCT変換係数は、可変長符号化部によって可変長符号化処理されるとともに、逆量子化部と逆DCT変換部において局部復号処理が実行された後に、この局部復号処理結果が加算部に直接供給されるとともに、動き補償部を介して減算部に供給される。
【0007】
一方、MPEG−2の動画像復号装置(Decoder)は、バッファメモリと可変長復号部と逆量子化部と逆DCT変換部と動き補償部と加算部とフレームメモリによって構成される。MPEG−2の符号化ビットストリームは、バッファメモリに蓄積された後、可変長復号部と逆量子化部と逆DCT変換部でそれぞれ、可変長復号処理と逆量子化処理と逆DCT変換処理が実行され、可変長復号処理された動きベクトルから動き補償部によって求められた予測画像と逆DCT変換処理結果が加算部で加算され、加算部の出力から再生画像信号が生成される。この再生画像信号は、フレームメモリに格納され、他のフレームの予測に使用される。
【0008】
MPEG−2の規格に続いて、テレビ電話等の低レートの符号化のための国際規格ISO/IEC 14496で標準化されたMPEG−4規格(H.263)よる動画像圧縮方式も提案されている。MPEG−4規格(H.263)による圧縮方式は、MPEG−2と同様に、フレーム間予測と離散コサイン変換を用いた「ハイブリッド型」と呼ばれるものであり、更に1/4画素(クォーターペル)単位での動き補償が導入された。この圧縮方式は、MPEG−2と同様に、エントロピー符号化としてハフマン符号を使用するが、新しくランとレベルとラストとを同時に符号化する3次元可変長符号化(3次元VLC)という技術を導入して、圧縮率を大きく向上させている。尚、ランとレベルとはランレングスの係数に関するものであって、ラストとは最後の係数であるか否かを示すものである。更に、MPEG−4規格(H.263)には、Baselineと呼ばれる基本部分と、Annexと呼ばれる拡張規格とがある。
【0009】
MPEG−4規格(H.263)による圧縮方式を、より符号化効率が高いものにすべく、MPEG−4 AVC規格(H.264)が国際規格ISO/IEC 14496−10によって標準化された。尚、AVCは、Advanced Video Codingの略であり、MPEG−4 AVC規格(H.264)は、H.264/AVC規格と呼ばれる。
【0010】
H.264/AVC規格によるビデオコーディングは、ビデオコーディング層(Video Coding Layer)と、ネットワーク抽象層(Network Abstraction Layer)とから構成されている。すなわち、ビデオコーディング層は、ビデオコンテキストを有効に表現するように設計されたものであり、またネットワーク抽象層は、ビデオのVCL表現をフォーマットするとともに、種々の転送層や記憶媒体による転送のために適切な方法でのヘッダー情報を与えるものである。
【0011】
MPEG−2、MPEG−4、H.264/AVC規格等の国際標準動画像符号化方法では、時間方向の相関を使って高い符号化効率を実現するために、フレーム間予測符号化が使用されている。フレームの符号化モードには、フレーム間の相関を使わずに符号化するIフレームと、過去に符号化した1フレームから予測するPフレームと、過去に符号化した2フレームから予測することができるBフレームがある。
【0012】
このフレーム間予測符号化では、動画像から動き補償された参照画像(予測画像)が減算され、この減算による予測残差が符号化される。符号化の処理は、DCT(離散コサイン変換)等の直交変換と量子化と可変長符号化との処理を含んでいる。動き補償(動き補正)は、フレーム間予測の参照フレームを空間的に移動させる処理を含むものであり、動き補償の処理は、被符号化フレームのブロック単位で行われる。画像内容に動きが無い場合には、移動は無く被予測画素と同一位置の画素が使用される。動きが有る場合には、最も適合するブロックが探索され、移動量が動きベクトルとされる。動き補償のブロックは、MPEG−2の符号化方法では、16画素×16画素/16画素×8画素のブロックであり、MPEG−4の符号化方法では、16画素×16画素/16画素×8画素/8画素×8画素のブロックである。動き補償のブロックは、H.264/AVC規格の符号化方法では16画素×16画素/16画素×8画素/8画素×16画素/8画素×8画素/8画素×4画素/4画素×8画素/4画素×4画素のブロックである。
【0013】
上述した符号化処理は映像画面(フレームまたはフィールド)毎に行われるものであり、画面を細分化したブロック(通常は16画素×16画素、MPEGではマクロブロック(MB)と呼ばれる)が処理単位となるものである。すなわち、符号化されるべきブロック毎に、既に符号化された参照画像から最も類似したブロック(予測画像)が選択され、符号化画像(ブロック)と予測画像との差分信号が符号化(直交変換、量子化等)される。画面内での符号化されるブロックと予測信号の相対位置の差が、動きベクトルと呼ばれるものである。
【0014】
また下記非特許文献1には、H.264/AVC規格によるビデオコーディング層(VCL)は、ブロックベースドハイブリッドビデオコーディングと呼ばれるアプローチに従っていると記載されている。VCL設計は、マクロブロック、スライス、スライスブロックから構成されており、各ピクチャーは固定サイズの複数のマクロブロックに分割され、各マクロブロックは、輝度成分で16×16サンプルの四角形ピクチャー領域と、それに対応する2つの色差成分のそれぞれに四角形サンプル領域とを含んでいる。1つのピクチャーは、1つまたはそれ以上のスライスを含むことができ、各スライスは、アクティブシーケンスとピクチャーパラメータセットとを与えると言う意味で自己包含的であり、スライス表現は、基本的には他のスライスからの情報を使用することなくデコードされるので、シンタックスエレメントは、ビットストリームとピクチャーの領域のサンプルの値とから解析できる。しかしながら、より完全なデコーディングのために、スライス境界にわたってデブロッキングフィルタを適応するためには、他のスライスからのいくつかの情報が必要となる。また、各スライスは、ピクチャーの他のスライスと独立してエンコードされデコードされるので、スライスは並列処理に使用できることも、下記非特許文献1に記載されている。
【0015】
一方で、動画像符号を扱うシステムは、デジタルHDTV(High Definition Television)放送受信機やHDTV信号を撮影可能なデジタルビデオカメラなど、画像サイズが大画面化してきている。これらの信号を処理する画像符号化装置や画像復号装置には、ますます高い処理性能が求められている。
【0016】
このような背景から、H.264/AVC規格の後続規格であるH.265(ISO/IEC 23008−2)規格が提案された。この新規格は、HEVC(High Efficiency Video Coding)規格とも呼ばれている。このHEVC規格は、ブロックサイズの適正化等により圧縮効率が優れており、MPEG−2規格と比較して約4倍、H.264/AVC規格と比較して約2倍の圧縮性能を有するものである。
【0017】
一方、下記特許文献1には、MPEG−1/2/4とH.261/H.263/H.264/AVC規格等、広く採用されている種々の符号化圧縮規格が、16×16画素からなる1つのマクロブロックが動き補償と後続処理の処理単位として使用されているのに対し、H.265/HEVC規格では、よりフレキシブルなブロック構造が処理単位として採用されると記載されている。このフレキシブルなブロック構造の単位は、コーディングユニット(CU)と呼ばれ、最大コーディングユニット(LCU)から出発して良好な性能を達成するために、クアッド・トリー(quadtree)を使用した小さなブロックに適応的に分割される。最大コーディングユニット(LCU)のサイズは、16×16画素のマクロブロックのサイズよりもずっと大きな64×64画素である。下記特許文献1の
図1とそれに関係する開示には、クアッド・トリーに基づくコーディングユニット分割の例が示され、その深さ“ゼロ”では、最初のコーディングユニット(CU)は、64×64画素からなる最大コーディングユニット(LCU)である。スプリットフラグ“0”は、その時点のコーディングユニット(CU)が分割されないことを示し、スプリットフラグ“1”は、その時点のコーディングユニット(CU)がクアッド・ツリーによって4つの小さなコーディングユニットに分割されることを示す。分割後のコーディングユニット(CU)は、予め特定された最小コーディングユニット(CU)サイズに到達するまで、更にクアッド・ツリー分割されることも、下記特許文献1に記載されている。
【0018】
下記非特許文献2には、H.265/HEVC規格の概観が記載されている。以前の規格のコーディングレイヤーのコアが、輝度サンプルの16×16ブロックと8×8ブロックの2つの色差サンプルを含むマクロブロックであったのに対して、H.265/HEVC規格においては、伝統的なマクロブロックよりも大きくエンコーダによってサイズが選択されるコーディングツリーユニット(CTU)である。コーディングツリーユニット(CTU)は、輝度コーディングツリーブロック(CTB)と色差コーディングツリーブロック(CTB)とシンタックス要素とによって構成される。コーディングツリーユニット(CTU)のクアッド・ツリー・シンタックスは、その輝度と色差のコーディングツリーブロック(CTB)の大きさと位置とを指定する。ピクチャー領域を符号化するためにインター・ピクチャーまたはイントラ・ピクチャーが使用されるか否かの決定は、コーディングユニット(CU)のレベルでなされる。プレディクションユニット(PU)の分割構造は、コーディングユニット(CU)のレベルにその根源を持っている。基本的なプレディクションタイプの決定に依存して、輝度と色差のコーディングブロック(CB)は、サイズの分割が可能で、輝度と色差のプレディクションブロック(PB)からの予測が可能である。H.265/HEVC規格は、64×64サンプルから4×4サンプルまでの可変のプレディクションブロック(PB)のサイズをサポートする。予測残差はブロック変換によって符号化されて、トランスフォームユニット(TU)のツリー構造は、コーディングユニット(CU)のレベルにその根源を持つものである。輝度のコーディングブロック(CB)の残差は、輝度のトランスフォームブロック(TB)と同一なことが可能であり、更に小さな輝度のトランスフォームブロック(TB)への分割が可能である。これは、色差のトランスフォームブロック(TB)でも同様である。離散コサイン変換(DCT)の関数と類似した整数ベースの関数が、4×4、8×8、16×16、32×32サンプルの四角型のトランスフォームブロック(TB)のサイズのために定義されている。H.265/HEVC規格では、H.264/AVC規格と同様に、均等復元量子化(URQ:Uniform Reconstruction Quantization)が使用される。すなわち、量子化パラメータ(QP)の値の範囲は0から51までで規定され、量子化パラメータ(QP)のマッピングは量子化スケーリングマトリックスの対数に近似的に対応する。
【0019】
更に下記非特許文献2には、H.265/HEVC規格のスライスは、同一のピクチャーの他のスライスから独立に符号化されることが可能なデータ構造であることが記載されている。また更に下記非特許文献2には、H.265/HEVC規格には、並列処理における処理能力を強化するかパケッタイズする目的でスライスデータの構造を修正するために、タイルやウエーブフロント・パラレル・プロセッシング(WPP)の新規な特徴が導入されていることも記載されている。タイルは、ピクチャーを四角形の領域に分割するものであり、タイルの主たる目的は、誤差の回復力を提供するよりも、並列処理の能力を増加するものである。複数のタイルは、1つのピクチャーの独立に復号可能な領域であり、こられは共有ヘッダー情報によって符号化される。ウエーブフロント・パラレル・プロセッシング(WPP)により、1つのスライスは複数のコーディングツリーユニット(CTU)の行に分割される。最初の行は通常の方法によって処理され、最初の行に若干の決定がされた後に2番目の行は処理を開始され、2番目の行に若干の決定がされた後に3番目の行は処理を開始されることができる。
【0020】
更に、下記特許文献2の
図7と
図8と
図9とそれに関係する開示には、MPEG−2規格によって符号化されたビットストリームを、スライスレベルで並列処理するMPEGデコーダが記載されている。すなわち、MPEG−2規格では、スライスは1行分のマクロブロック(MB)のみを含むので、スライスレベルで並列処理することで、複数行のマクロブロック(MB)の並列処理をMPEGデコーダが実行するものである。
【0021】
また更に下記特許文献2には、MPEG−4(H.263)規格では、MPEG−2規格のようなスライスヘッダと呼ばれるユニークコードがVOP(Video Object Plane)と呼ばれるピクチャー内に存在しないので、スライスレベルの並列処理ができないという問題が記載されている。この問題を解決するために、下記特許文献2の
図1と
図2の第1実施形態による画像復号装置は、ビットストリーム解析部と4個のVOPデコーダとフレームメモリとメモリ制御部とによって構成される。ビットストリーム解析部は、4個のVOPデコーダでの各マクロブロックのデコード処理開始タイミングが、各マクロブロックが必要とする参照画像領域のデコード完了後となるように、4個のVOPデコーダのデコード処理開始制御が実行されるものである。下記特許文献2の
図1と
図2の第1実施形態では、このデコード処理開始制御を具体的に実行するために、FCODE(エフコード)が使用される。すなわち、FCODE=2の場合には、参照画像領域は±32画素となるので、符号化対象ピクチャー内の処理マクロブロックが必要とする参照画像領域は、参照ピクチャー内部で、処理マクロブロックの位置に対して上下マクロブロック(MB)2個分と左右マクロブロック(MB)2個分の範囲となる。また、FCODE(エフコード)は、下記特許文献3の
図13に示されたように、エフコード=1の場合には、動きベクトル探索範囲が−16〜+15.5画素となり、エフコード=2の場合には、動きベクトル探索範囲が−32〜+31.5画素となる。また、エフコード=3の場合には、動きベクトル探索範囲が−64〜+63.5画素となり、エフコード=4の場合には、動きベクトル探索範囲が−128〜+127.5画素となる。更に、エフコード=5の場合には、動きベクトル探索範囲が−256〜+255.5画素となり、エフコード=6の場合には、動きベクトル探索範囲が−512〜+511.5画素となり、エフコード=7の場合には、動きベクトル探索範囲が−1024〜+1023.5画素となる。
【0022】
更に、下記特許文献2の
図3と
図4の第2実施形態には、符号化対象ピクチャー内の処理マクロブロックが必要とする参照画像領域を示す動きベクトルが未処理領域を示す場合には、未処理領域のデコードが完了するので待機するようにデコード制御部により制御することも記載されている。
【発明を実施するための形態】
【0052】
1.実施の形態の概要
まず、本願において開示される代表的な実施の形態について、その概要を説明する。代表的な実施の形態の概要説明で括弧を付して参照する図面の参照符号は、それが付された構成要素の概念に含まれるものを例示するに過ぎない。
【0053】
〔1〕代表的な実施の形態による動画像復号処理装置は、復号制御部(10)と第1復号処理部(20)と第2復号処理部(21)とを具備する。
【0054】
前記復号制御部(10)は、符号化ビットストリーム(BS)から第1の複数のフレーム(I0、P2)の符号化情報と第2の複数のフレーム(P1、P3)の符号化情報とを生成する。
【0055】
前記第1の複数のフレーム(I0、P2)の前記符号化情報が前記復号制御部(10)から前記第1復号処理部(20)に供給され、前記第2の複数のフレーム(P1、P3)の前記符号化情報が前記復号制御部(10)から前記第2復号処理部(21)に供給される。
【0056】
第1期間(T0)では、前記第1の複数のフレーム(I0、P2)に含まれた第1の先行フレーム(I0)の開始点(0、0)から途中点(X/2、Y/2)までの前記符号化情報が前記第1復号処理部(20)によって復号処理される。
【0057】
前記第1期間(T0)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の復号処理の前記途中点(X/2、Y/2)の到達に応答して、第2期間(T1)では、前記第2の複数のフレーム(P1、P3)に含まれた第2の先行フレーム(P1)の開始点(0、0)から途中点(X/2、Y/2)までの前記符号化情報が前記第2復号処理部(21)によって復号処理される。
【0058】
前記第2期間(T1)では、前記第1の複数のフレーム(I0、P2)に含まれた前記第1の先行フレーム(I0)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報が前記第1復号処理部(20)によって復号処理される。
【0059】
前記第2期間(T1)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の復号処理の前記終了点(X、Y)の到達を示す第1終了信号(PEN0)に応答して、第3期間(T2)では、前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報が前記第2復号処理部(21)によって復号処理される。
【0060】
前記第3期間(T2)での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報の復号処理のために、前記第1終了信号(PEN0)に応答して、前記第3期間(T2)での前記第1復号処理部(20)による復号処理の結果の使用が禁止される。
【0061】
前記第3期間(T2)での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の前記符号化情報の復号処理のために、前記第2期間(T1)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の前記復号処理の結果の使用が許可される。
【0062】
前記第2期間(T1)での前記第2復号処理部による前記第2の先行フレームの復号処理の前記途中点の到達に応答して、前記第3期間では前記第1の複数のフレームに含まれた第1の後続フレーム(P2)の開始点(0、0)から途中点(X/2、Y/2)までの符号化情報が前記第1復号処理部(20)によって復号処理されることを特徴とする(
図1、
図2参照)。
【0063】
前記実施の形態によれば、並列処理能力の低下を軽減することができる。
【0064】
好適な実施の形態では、前記第3期間での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の復号処理の前記終了点(X、Y)の到達を示す第2終了信号(PEN1)に応答して、第4期間(T3)では、前記第1の後続フレーム(P2)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報が前記第1復号処理部(20)によって復号処理される。
【0065】
前記第4期間(T3)での前記第1復号処理部(20)による前記第1の後続フレーム(P2)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報の復号処理のために、前記第2終了信号(PEN1)に応答して、前記第4期間(T3)での前記第2復号処理部(21)による復号処理の結果の使用が禁止される。
【0066】
前記第4期間(T3)での前記第1復号処理部(20)による前記第1の後続フレーム(P2)の前記符号化情報の復号処理のために、前記第3期間(T2)での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の前記復号処理の結果の使用が許可される。
【0067】
前記第3期間での前記第1復号処理部(による前記第1の後続フレームの復号処理の前記途中点(X/2、Y/2)の到達に応答して、前記第4期間では前記第2の複数のフレームに含まれた第2の後続フレーム(P3)の開始点(0、0)から途中点(X/2、Y/2)までの符号化情報が前記第2復号処理部(21)によって復号処理される(
図1、
図2参照)。
【0068】
他の好適な実施の形態では、前記第1復号処理部(20)と前記第2復号処理部(21)の各復号処理部は、可変長復号部(201)と逆量子化部(202)と逆変換部(203)とセレクタ部(204)と動き補償部(205)とイントラ予測部(206)と加算部(207)とフィルタ部(208)とを含むことを特徴とする(
図1参照)。
【0069】
更に他の好適な実施の形態では、前記復号制御部(10)と前記第1復号処理部(20)と前記第2復号処理部(21)とは、半導体集積回路の半導体チップの内部に集積化されたことを特徴とする(
図1参照)。
【0070】
具体的な実施の形態では、前記動画像復号処理装置は、H.264/AVC規格またはH.265/HEVC規格に準拠した前記符号化ビットストリーム(BS)を復号処理することを特徴とする(
図1、
図2参照)。
【0071】
〔2〕代表的な実施の形態による動画像符号化処理装置は、符号制御部(10、30)と第1符号化処理部(50)と第2符号化処理部(51)とを具備する。
【0072】
前記符号制御部(10、30)に、第1の複数のフレーム(I0、P2)の動画像信号と第2の複数のフレーム(P1、P3)の動画像信号とを含む符号化対象である映像入力信号(VS)が供給される。
【0073】
前記第1の複数のフレーム(I0、P2)の前記動画像信号が前記符号制御部(10、30)から前記第1符号化処理部(50)に供給され、前記第2の複数のフレーム(P1、P3)の前記動画像信号が前記符号制御部(10、30)から前記第2符号化処理部(51)に供給される。
【0074】
第1期間(T0)では、前記第1の複数のフレーム(I0、P2)に含まれた第1の先行フレーム(I0)の開始点(0、0)から途中点(X/2、Y/2)までの前記動画像信号が前記第1符号化処理部(50)によって符号化処理される。
【0075】
前記第1期間での前記第1符号化処理部による前記第1の先行フレームの符号化処理の前記途中点の到達に応答して、第2期間(T1)では、前記第2の複数のフレーム(P1、P3)に含まれた第2の先行フレーム(P1)の開始点(0、0)から途中点(X/2、Y/2)までの前記動画像信号が前記第2符号化処理部(51)によって符号化処理される。
【0076】
前記第2期間(T1)では、前記第1の複数のフレーム(I0、P2)に含まれた前記第1の先行フレーム(I0)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号が前記第1符号化処理部(50)によって符号化処理される。
【0077】
前記第2期間(T1)での前記第1符号化処理部(50)による前記第1の先行フレーム(I0)の符号化処理の前記終了点(X、Y)の到達を示す第1終了信号(PEN0)に応答して、第3期間(T2)では、前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号が前記第2符号化処理部(51)によって符号化処理される。
【0078】
前記第3期間(T2)での前記第2符号化処理部(51)による前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号の符号化処理のために、前記第1終了信号(PEN0)に応答して、前記第3期間(T2)での前記第1符号化処理部(50)による符号化処理の結果の使用が禁止される。
【0079】
前記第3期間(T2)での前記第2符号化処理部(51)による前記第2の先行フレーム(P1)の前記動画像信号の符号化処理のために、前記第2期間(T1)での前記第1符号化処理部(50)による前記第1の先行フレーム(I0)の前記符号化処理の結果の使用が許可される。
【0080】
前記第2期間での前記第2符号化処理部による前記第2の先行フレームの符号化処理の前記途中点の到達に応答して、前記第3期間(T2)では前記第1の複数のフレームに含まれた第1の後続フレーム(P2)の開始点(0、0)から途中点(X/2、Y/2)までの符号化情報が前記第1符号化処理部(50)によって符号化処理される(
図3、
図4参照)。
【0081】
前記実施の形態によれば、並列処理能力の低下を軽減することができる。
【0082】
好適な実施の形態では、前記第3期間での前記第2符号化処理部による前記第2の先行フレームの符号化処理の前記終了点の到達を示す第2終了信号(PEN1)に応答して、第4期間(T3)では、前記第1の後続フレーム(P2)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号が前記第1符号化処理部(50)によって符号化処理される。
【0083】
前記第4期間(T3)での前記第1符号化処理部(50)による前記第1の後続フレーム(P2)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号の符号化処理のために、前記第2終了信号(PEN1)に応答して、前記第4期間(T3)での前記第2符号化処理部(51)による符号化処理の結果の使用が禁止される。
【0084】
前記第4期間(T3)での前記第1符号化処理部(50)による前記第1の後続フレーム(P2)の前記動画像信号の符号化処理のために、前記第3期間(T2)での前記第2符号化処理部(51)による前記第2の先行フレーム(P1)の前記符号化処理の結果の使用が許可される。
【0085】
前記第3期間での前第1符号化処理部による前記第1の後続フレームの符号化処理の前記途中点の到達に応答して、前記第4期間(T3)では前記第2の複数のフレームに含まれた第2の後続フレーム(P3)の開始点(0、0)から途中点(X/2、Y/2)までの動画像信号が前記第2符号化処理部(51)によって符号化処理される(
図3、
図4参照)。
【0086】
他の好適な実施の形態では、前記第1符号化処理部(50)と前記第2符号化処理部(51)の各符号化処理部は、減算器と周波数変換部と量子化部と逆量子化部と逆周波数変換部と加算器とフィルタ部と動きベクトル検出部と動き補償部とイントラ予測部とセレクタ部と可変長符号化部とを含むことを特徴とする(
図3参照)。
【0087】
更に他の好適な実施の形態では、前記符号制御部(10、30)と前記第1符号化処理部(50)と前記第2符号化処理部(51)とは、半導体集積回路の半導体チップの内部に集積化されたことを特徴とする(
図1参照)。
【0088】
具体的な実施の形態では、前記動画像符号化処理装置は、映像入力信号(VS)を符号化処理することによって、H.264/AVC規格またはH.265/HEVC規格に準拠した前記符号化ビットストリーム(BS)を生成することを特徴とする(
図3、
図4参照)。
【0089】
〔3〕代表的な実施の形態は、復号制御部(10)と第1復号処理部(20)と第2復号処理部(21)とを具備する動画像復号処理装置の動作方法である。
【0090】
前記復号制御部(10)は、符号化ビットストリーム(BS)から第1の複数のフレーム(I0、P2)の符号化情報と第2の複数のフレーム(P1、P3)の符号化情報とを生成する。
【0091】
前記第1の複数のフレーム(I0、P2)の前記符号化情報が前記復号制御部(10)から前記第1復号処理部(20)に供給され、前記第2の複数のフレーム(P1、P3)の前記符号化情報が前記復号制御部(10)から前記第2復号処理部(21)に供給される。
【0092】
第1期間(T0)では、前記第1の複数のフレーム(I0、P2)に含まれた第1の先行フレーム(I0)の開始点(0、0)から途中点(X/2、Y/2)までの前記符号化情報が前記第1復号処理部(20)によって復号処理される。
【0093】
前記第1期間(T0)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の復号処理の前記途中点(X/2、Y/2)の到達に応答して、第2期間(T1)では、前記第2の複数のフレーム(P1、P3)に含まれた第2の先行フレーム(P1)の開始点(0、0)から途中点(X/2、Y/2)までの前記符号化情報が前記第2復号処理部(21)によって復号処理される。
【0094】
前記第2期間(T1)では、前記第1の複数のフレーム(I0、P2)に含まれた前記第1の先行フレーム(I0)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報が前記第1復号処理部(20)によって復号処理される。
【0095】
前記第2期間(T1)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の復号処理の前記終了点(X、Y)の到達を示す第1終了信号(PEN0)に応答して、第3期間(T2)では、前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報が前記第2復号処理部(21)によって復号処理される。
【0096】
前記第3期間(T2)での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記符号化情報の復号処理のために、前記第1終了信号(PEN0)に応答して、前記第3期間(T2)での前記第1復号処理部(20)による復号処理の結果の使用が禁止される。
【0097】
前記第3期間(T2)での前記第2復号処理部(21)による前記第2の先行フレーム(P1)の前記符号化情報の復号処理のために、前記第2期間(T1)での前記第1復号処理部(20)による前記第1の先行フレーム(I0)の前記復号処理の結果の使用が許可される。
【0098】
前記第2期間での前記第2復号処理部による前記第2の先行フレーム(P1)の復号処理の前記途中点の到達に応答して、前記第3期間(T2)では前記第1の複数のフレームに含まれた第1の後続フレーム(P2)の開始点(0、0)から途中点(X/2、Y/2)までの符号化情報が前記第1復号処理部(20)によって復号処理される(
図1、
図2参照)。
【0099】
前記実施の形態によれば、並列処理能力の低下を軽減することができる。
【0100】
〔4〕代表的な実施の形態は、符号制御部(10、30)と第1符号化処理部(50)と第2符号化処理部(51)とを具備する動画像符号化処理装置の動作方法である。
【0101】
前記符号制御部(10、30)に、第1の複数のフレーム(I0、P2)の動画像信号と第2の複数のフレーム(P1、P3)の動画像信号とを含む符号化対象である映像入力信号(VS)が供給される。
【0102】
前記第1の複数のフレーム(I0、P2)の前記動画像信号が前記符号制御部(10、30)から前記第1符号化処理部(50)に供給され、前記第2の複数のフレーム(P1、P3)の前記動画像信号が前記符号制御部(10、30)から前記第2符号化処理部(51)に供給される。
【0103】
第1期間(T0)では、前記第1の複数のフレーム(I0、P2)に含まれた第1の先行フレーム(I0)の開始点(0、0)から途中点(X/2、Y/2)までの前記動画像信号が前記第1符号化処理部(50)によって符号化処理される。
【0104】
前記第1期間での前記第1符号化処理部による前記第1の先行フレーム(I0)の符号化処理の前記途中点(X/2、Y/2)の到達に応答して、第2期間(T1)では、前記第2の複数のフレームに含まれた第2の先行フレーム(P1)の開始点(0、0)から途中点(X/2、Y/2)までの前記動画像信号が前記第2符号化処理部(51)によって符号化処理される。
【0105】
前記第2期間(T1)では、前記第1の複数のフレーム(I0、P2)に含まれた前記第1の先行フレーム(I0)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号が前記第1符号化処理部(50)によって符号化処理される。
【0106】
前記第2期間(T1)での前記第1符号化処理部(50)による前記第1の先行フレーム(I0)の符号化処理の前記終了点(X、Y)の到達を示す第1終了信号(PEN0)に応答して、第3期間(T2)では、前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号が前記第2符号化処理部(51)によって符号化処理される。
【0107】
前記第3期間(T2)での前記第2符号化処理部(51)による前記第2の先行フレーム(P1)の前記途中点(X/2、Y/2)から終了点(X、Y)までの前記動画像信号の符号化処理のために、前記第1終了信号(PEN0)に応答して、前記第3期間(T2)での前記第1符号化処理部(50)による符号化処理の結果の使用が禁止される。
【0108】
前記第3期間(T2)での前記第2符号化処理部(51)による前記第2の先行フレーム(P1)の前記動画像信号の符号化処理のために、前記第2期間(T1)での前記第1符号化処理部(50)による前記第1の先行フレーム(I0)の前記符号化処理の結果の使用が許可される。
【0109】
前記第2期間での前記第2符号化処理部による前記第2の先行フレーム(P1)の符号化処理の前記途中点の到達に応答して、前記第3期間(T2)では前記第1の複数のフレームに含まれた第1の後続フレーム(P2)の開始点(0、0)から途中点(X/2、Y/2)までの符号化情報が前記第1符号化処理部(50)によって符号化処理される(
図3、
図4参照)。
【0110】
前記実施の形態によれば、並列処理能力の低下を軽減することができる。
【0111】
2.実施の形態の詳細
次に、実施の形態について更に詳述する。尚、発明を実施するための最良の形態を説明するための全図において、前記の図と同一の機能を有する部品には同一の符号を付して、その繰り返しの説明は省略する。
【0112】
[実施の形態1]
《動画像復号処理装置の構成》
図1は、実施の形態1による動画像復号処理装置の構成を示す図である。
【0113】
図1に示した実施の形態1の動画像復号処理装置は、復号制御部10と第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とメモリ制御部30とフレームメモリ40とによって構成される。
【0114】
図示しない動画像符号化装置から生成される符号化ビットストリームBSが復号制御部10に供給されることより、第1番目のIフレームI0と第2番目のPフレームP1と第3番目のPフレームP2と第4番目のPフレームP3のそれぞれの符号化情報が復号制御部10から生成される。
【0115】
図1に示した実施の形態1でも、並列復号処理を実行する動画像復号処理装置のハードウェアを削減するために、奇数番目の第1番目のIフレームI0と第3番目のPフレームP2の符号化情報が第1復号処理部20(DEC0)により復号処理され、偶数番目の第2番目のPフレームP1と第4番目のPフレームP3の符号化情報が第2復号処理部21(DEC1)により復号処理される。
【0116】
奇数番目の第1番目のIフレームI0は、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。すなわち、高精細HDの画素サイズに設定された動画像符号化画面は、水平方向にX個の画素を有し、垂直方向にY個の画素を有するものである。偶数番目の第2番目のPフレームP1も、奇数番目の第3番目のPフレームP2も、偶数番目の第4番目のPフレームP3も、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0117】
《復号制御部》
復号制御部10は、図示しない動画像符号化装置によってH.264/AVC規格もしくはH.265/HEVC規格に準拠して符号化されたビットストリームBSのパーシング(構文解釈)を実行する。すなわち、復号制御部10は、符号化ビットストリームBSのシンタックス(圧縮符号化データ列の規則もしくは符号化データのビットストリームの構成方法)のパーシングを実行する。その結果、復号制御部10は符号化ビットストリームBSのフレーム分割を実行するので、奇数番目の第1番目のIフレームI0と第3番目のPフレームP2の符号化情報が第1復号処理部20(DEC0)に供給され、偶数番目の第2番目のPフレームP1と第4番目のPフレームP3の符号化情報が第2復号処理部21(DEC1)に供給される。
【0118】
更に、復号制御部10は、画像参照制御部101と処理ブロック制御部102とを含んでいる。画像参照制御部101には第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とからフレーム復号処理終了信号PEN0、PEN1とが供給されることによって、画像参照制御部101から処理ブロック制御部102に画像参照制御信号B0、B1が供給される。処理ブロック制御部102から第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とにブロック処理開始信号Start_MB0、Start_MB1が供給されて、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とから処理ブロック制御部102に処理ブロック信号PMB0、PMB1が供給される。
【0119】
《第1と第2の復号処理部》
第1復号処理部20(DEC0)は、可変長復号部201と逆量子化部202と逆変換部203とセレクタ部204と動き補償部205とイントラ予測部206と加算部207とフィルタ部208とを含んでいる。
【0120】
第2復号処理部21(DEC1)も、可変長復号部211と逆量子化部212と逆変換部213とセレクタ部214と動き補償部215とイントラ予測部216と加算部217とフィルタ部218とを含んでいる。
【0121】
第1復号処理部20(DEC0)の可変長復号部201は可変長復号を実行するエントロピー復号ユニットとして機能するので、第1番目のIフレームI0と第3番目のPフレームP2の符号化情報のエントロピー符号を逆転させて、図示しない動画像符号化装置によって符号化された予測モードを復号する。復号された予測モードがイントラ予測モードである場合に可変長復号部201はイントラ予測の情報を再構築する一方、復号された予測モードがインター予測モードである場合に可変長復号部201は動きベクトルを再構築する。
【0122】
第2復号処理部21(DEC1)の可変長復号部211も可変長復号を実行するエントロピー復号ユニットとして機能するので、第2番目のIフレームI1と第4番目のPフレームP3の符号化情報のエントロピー符号を逆転させて、図示しない動画像符号化装置によって符号化された予測モードを復号する。復号された予測モードがイントラ予測モードである場合に可変長復号部211はイントラ予測の情報を再構築する一方、復号された予測モードがインター予測モードである場合に可変長復号部211は動きベクトルを再構築する。
【0123】
第1復号処理部20(DEC0)の可変長復号部201と逆変換部203とセレクタ部204と動き補償部205とイントラ予測部206と加算部207とフィルタ部208は、それぞれ下記のように動作するものである。
【0124】
可変長復号部201によりエントロピー復号された輝度および色差の予測残差成分が逆量子化部202の入力端子に供給され、この予測残差成分が逆量子化部202により逆量子化処理される。逆量子化部202の出力信号は、逆変換部203によって逆離散コサイン変換(DCT)または逆離散サイン変換(DST)の処理の実行によって残差信号に変換される。すなわち、逆変換部203に逆量子化部202から周波数ドメインのデータが供給され、残差信号に変換される。
【0125】
加算部207の第1入力端子には逆変換部203から残差信号が供給され、加算部207の第2入力端子にはセレクタ部204から予測情報が供給される。復号動画像ストリームでインター予測モードが示されている場合には、セレクタ部204は予測された予測信号を動き補償部205から選択する。復号動画像ストリームでイントラ予測モードが示されている場合には、セレクタ部204はイントラ予測部206から予測信号を選択する。
【0126】
動き補償部205はフレームメモリ40とメモリ制御部30からの参照データを使用するとともに、動画像復号処理装置によって計算されて符号化動画像ビットストリームで伝送された動き予測を適用することによって、予測信号を生成するものである。すなわち、動き補償部205は、可変長復号部201からの動きベクトルMVと、フレームメモリ40からの参照データRef_Pictとを使用することによって、予測信号を生成するものである。
【0127】
イントラ予測部206は現在のブロックより以前に復号された周辺画素を参照データRef_Pictとして使用して符号化動画像ビットストリームで伝送されたイントラ予測モードにより指定された動画像復号処理装置によって計算されたイントラ予測を適用することによって、予測信号を生成する。すなわち、イントラ予測部206は、可変長復号部201からの空間的予測モードSPMとフレームメモリ40からの参照データRef_Pictとを使用することにより、予測信号を生成するものである。
【0128】
加算部207は、逆変換部203から供給される残差信号とセレクタ部204により選択される予測信号とを加算することによって、復号映像信号VSを生成する。加算部207によって生成された復号映像信号VSは、フィルタ部208とメモリ制御部30とフレームメモリ40とを介して、図示されない表示装置に供給される。
【0129】
フィルタ部208は、H.264/AVC規格に準拠してブロック歪みを低減するためのデブロッキングフィルタの機能を有するものである。またフィルタ部208はH.265/HEVC規格に準拠するために、デブロッキングフィルタ機能と別にサンプルアダプティブオフセット(SAO)と呼ばれるフィルタ機能を有する。このフィルタ機能は、動画像符号化処理装置側の度数分布解析により決定される追加パラメータを使用して記述されたルックアップテーブルを使用することにより、原信号振幅を良好に再構築するものである。加算部207の出力信号がフィルタ部208の入力端子に供給されることによって、フィルタ部208の出力端子から復号映像信号VSが生成され、図示されない表示装置に供給される。尚、生成された復号映像信号VSが、参照データRef_Pictとしてフレームメモリ40に格納される。
【0130】
第2復号処理部21(DEC1)の可変長復号部211と逆変換部213とセレクタ部214と動き補償部215とイントラ予測部216と加算部217とフィルタ部218とは、上述した第1復号処理部20(DEC0)の場合と全く同様に動作するので、その説明を省略する。
【0131】
特に、第1復号処理部20(DEC0)では、フレームメモリ40から参照データRef_Pictをアクセスするための参照データアドレス信号Add_Ref_Pictが、可変長復号部201からメモリ制御部30を介してフレームメモリ40に供給される。同様に、第2復号処理部21(DEC1)でも、フレームメモリ40から参照データRef_Pictをアクセスするための参照データアドレス信号Add_Ref_Pictが、可変長復号部211からメモリ制御部30を介してフレームメモリ40に供給される。
【0132】
図1に示した実施の形態1の動画像復号処理装置がH.264/AVC規格に従って復号処理動作を実行する場合には、フレームメモリ40からアクセスされる参照データRef_Pictは輝度成分で16画素×16画素のサイズを有するマクロブロック(MB)の画像参照データとなる。それに対して、
図1に示した実施の形態1の動画像復号処理装置がH.265/HEVC規格に従って復号処理動作を実行する場合には、フレームメモリ40からアクセスされる参照データRef_Pictは最大で64画素×64画素のサイズを有する最大コーディングユニット(LCU)の画像参照データとなる。
【0133】
更に、第1復号処理部20(DEC0)の可変長復号部201には復号制御部10の処理ブロック制御部102から生成されるブロック処理開始信号Start_MB0が供給され、第2復号処理部21(DEC1)の可変長復号部211にも同様に復号制御部10の処理ブロック制御部102から生成されるブロック処理開始信号Start_MB1が供給される。
【0134】
図1に示した実施の形態1の動画像復号処理装置がH.264/AVC規格に従って復号処理動作を実行する場合には、ブロック処理開始信号Start_MB0、MB1は復号処理が開始されるマクロブロック(MB)の連続番号を指示する。それに対して
図1に示した実施の形態1の動画像復号処理装置がH.265/HEVC規格に従って復号処理動作を実行する場合には、ブロック処理開始信号Start_MB0、MB1は復号処理が開始される最大コーディングユニット(LCU)の連続番号を指示する。
【0135】
更に第1復号処理部20(DEC0)のフィルタ部208から生成される処理ブロック信号PMB0が復号制御部10の処理ブロック制御部102に供給され、第2復号処理部21(DEC1)のフィルタ部218から生成される処理ブロック信号PMB1が復号制御部10の処理ブロック制御部102に供給される。処理ブロック信号PMB0は第1復号処理部20(DEC0)のフィルタ部208が処理中の処理ブロックの位置を示すものであり、処理ブロック信号PMB1も第2復号処理部21(DEC1)のフィルタ部218が処理中の処理ブロックの位置を示すものである。
【0136】
図1に示した実施の形態1の動画像復号処理装置がH.264/AVC規格に従って復号処理動作を実行する場合には、処理ブロック信号PMB0、PMB1は、復号処理部20(DEC0)、21(DEC1)によりインター復号処理またはイントラ復号処理されるマクロブロック(MB)の連続番号を指示する。それに対して、
図1に示した実施の形態1の動画像復号処理装置がH.265/HEVC規格に従って復号処理動作を実行する場合には、処理ブロック信号PMB0、PMB1は、復号処理部20(DEC0)、21(DEC1)によってインター復号処理またはイントラ復号処理される最大コーディングユニット(LCU)の連続番号を指示する。
【0137】
更に、第1復号処理部20(DEC0)のフィルタ部208から生成されるフレーム復号処理終了信号PEN0が復号制御部10の画像参照制御部101に供給されて、第2復号処理部21(DEC1)のフィルタ部218から生成されるフレーム復号処理終了信号PEN1が復号制御部10の画像参照制御部101に供給される。
【0138】
図1に示した実施の形態1の動画像復号処理装置がH.264/AVC規格に従って復号処理動作を実行する場合には、フレーム復号処理終了信号PEN0、PEN1は、フレーム中の終了点(X、Y)でのマクロブロック(MB)のインター復号処理もしくはイントラ復号処理が完了したことを示すものである。それに対して、
図1に示した実施の形態1の動画像復号処理装置がH.265/HEVC規格に従って復号処理動作を実行する場合には、フレーム復号処理終了信号PEN0、PEN1は、フレーム中の終了点(X、Y)での最大コーディングユニット(LCU)のインター復号処理またはイントラ復号処理が完了したことを示すものである。
【0139】
《半導体集積回路の利用》
図1に示した実施の形態1による動画像復号処理装置は、その大部分がシステムオンチップ(SoC)と呼ばれるシステムLSI半導体集積回路の半導体チップの内部に集積化されている。しかし、フレームメモリ40は、このシステムLSI半導体集積回路と別個に構成された同期スタティックランダムアクセスメモリ(SRAM)の半導体チップの内部に集積化される。従って、復号制御部10と第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とメモリ制御部30は、システムオンチップ(SoC)の半導体チップの内部に集積化されたものである。
【0140】
《動画像復号処理装置の動作》
図2は、
図1に示した実施の形態1による動画像復号処理装置の動作を説明する図である。
【0141】
《第1期間の復号単独処理》
上述したように復号制御部10による符号化ビットストリームBSのフレーム分割によって、奇数番目の第1番目のIフレームI0の符号化情報が第1復号処理部20(DEC0)に供給されるので、第1期間T0では第1復号処理部20(DEC0)が第1番目のIフレームI0の開始点(0、0)の符号化情報の復号処理を開始する。すなわち、復号制御部10の処理ブロック制御部102から第1復号処理部20(DEC0)の可変長復号部201にブロック処理開始信号Start_MB0が供給され、ブロック処理開始信号Start_MB0によって復号処理が開始されるマクロブロック(MB)もしくは最大コーディングユニット(LCU)の連続番号が指示される。復号制御部10の処理ブロック制御部102がブロック処理開始信号Start_MB0の値をインクリメントするので、第1復号処理部20(DEC0)は、第1番目のIフレームI0の開始点(0、0)から中間点(X/2、Y/2)に向かって符号化情報の復号処理を進行する。第1復号処理部20(DEC0)が第1番目のIフレームI0の開始点(0、0)の符号化情報の復号処理を開始してから第1番目のIフレームI0の中間点(X/2、Y/2)の符号化情報の復号処理を開始するまでの第1期間T0では、第1復号処理部20(DEC0)だけが復号処理を実行して、第2復号処理部21(DEC1)が復号処理を中止する、と言う復号単独処理が実行される。
【0142】
《第2期間の並列復号処理》
更に第1復号処理部20(DEC0)が第1番目のIフレームI0の中間点(X/2、Y/2)の符号化情報の復号処理を開始してから第1番目のIフレームI0の終了点(X、Y)の符号化情報の復号処理を終了するまでの第2期間T1では、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とが復号処理を実行する、と言う並列復号処理が実行される。すなわち、第1復号処理部20(DEC0)による第1番目のIフレームI0の復号処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第1復号処理部20(DEC0)のフィルタ部208から復号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB0による検出結果に応答して、第2復号処理部21(DEC1)による第2番目のPフレームP1の前半の復号処理が開始点(0、0)から開始される。
【0143】
すなわち、処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化に応答して、第2期間T1では第2復号処理部21(DEC1)が第2番目のPフレームP1の開始点(0、0)の符号化情報の復号処理を開始する。具体的には、復号制御部10の処理ブロック制御部102から第2復号処理部21(DEC1)の可変長復号部211にブロック処理開始信号Start_MB1が供給され、ブロック処理開始信号Start_MB1によって復号処理が開始されるマクロブロック(MB)または最大コーディングユニット(LCU)の連続番号が指示される。復号制御部10の処理ブロック制御部102がブロック処理開始信号Start_MB1の値をインクリメントするので、第2復号処理部21(DEC1)は第2番目のPフレームP1の開始点(0、0)から中間点(X/2、Y/2)に向かって符号化情報の復号処理を進行する。第2復号処理部21(DEC1)が第2番目のPフレームP1の開始点(0、0)の符号化情報の復号処理を開始してから第2番目のPフレームP1の中間点(X/2、Y/2)の符号化情報の復号処理を開始するまでの第2期間T1では、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)が復号処理を実行する、と言う復号並列処理が実行される。この第2期間T1での復号並列処理における第2復号処理部21(DEC1)による第2番目のPフレームP1の前半部分のインター復号処理のための参照画像情報として、第1期間T0での第1復号処理部20(DEC0)による第1番目のIフレームI0の前半部分のイントラ復号処理結果が第2復号処理部21(DEC1)によって使用される。
【0144】
従って、第2復号処理部21(DEC1)は、第2番目のPフレームP1の前半部分のインター復号処理のための参照画像情報としての第1期間T0での第1復号処理部20(DEC0)による第1番目のIフレームI0の前半部分のイントラ復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictを第2期間T1において生成する。すなわち、第1期間T0における第1復号処理部20(DEC0)によるIフレームI0の前半部分のイントラ復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictが、第2期間T1に第2復号処理部21(DEC1)の可変長復号部211からメモリ制御部30を介してフレームメモリ40に供給される。
【0145】
《第3期間の並列復号処理》
更に第2復号処理部21(DEC1)が第2番目のPフレームP1の中間点(X/2、Y/2)の符号化情報の復号処理を開始してから第2番目のPフレームP1の終了点(X、Y)の符号化情報の復号処理を終了するまでの第3期間T2でも、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とが復号処理を実行する、と言う並列復号処理が実行される。特に、第2期間T1の最終タイミングで第1復号処理部20(DEC0)による第1番目のIフレームI0の終了点(X、Y)でのマクロブロック(MB)または最大コーディングユニット(LCU)のインター復号処理が完了したことを示すフレーム復号処理終了信号PEN0が、第1復号処理部20(DEC0)のフィルタ部208から画像参照制御部101に供給される。従って、フレーム復号処理終了信号PEN0に応答して、画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B0が、ハイレベル“1”からローレベル“0”に変化するので、第3期間T2における第2復号処理部21(DEC1)による第1復号処理部20(DEC0)の復号処理位置の監視が停止されるものである。尚、フレーム復号処理終了信号PEN0が第1復号処理部20(DEC0)のフィルタ部208から復号制御部10の画像参照制御部101に供給される以前では画像参照制御信号B0がハイレベル“1”に維持されているので、第2復号処理部21(DEC1)による第1復号処理部20(DEC0)の復号処理位置の監視が許可されている。このように、第3期間T2においては、フレーム復号処理終了信号PEN0と画像参照制御信号B0とに応答して、第2復号処理部21(DEC1)による第2番目のPフレームP1の後半のインター復号処理のための参照画像として、第3期間T2での第1復号処理部20(DEC0)による復号処理結果が使用されることが禁止される。しかし、第3期間T2では、第2復号処理部21(DEC1)による第2番目のPフレームP1の後半のインター復号処理のための参照画像として、第2期間T1での第1復号処理部20(DEC0)による第1番目のIフレームI0の後半のイントラ復号処理結果が使用されることが可能とされる。
【0146】
従って、
図1と
図2とに示した実施の形態1による動画像復号処理装置によれば、第3期間T2では第1復号処理部20(DEC0)がノーオペレーション(NOP)を実行する必要がなく第3番目のPフレームP2の前半のインター復号処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0147】
更に、第2復号処理部21(DEC1)による第2番目のPフレームP1の復号処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第2復号処理部21(DEC1)のフィルタ部218から復号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB1による検出結果に応答して、第1復号処理部20(DEC0)による第3番目のPフレームP2の前半の復号処理が開始点(0、0)から開始される。
【0148】
すなわち、処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化に応答して、第3期間T2では第1復号処理部20(DEC0)が第3番目のPフレームP2の開始点(0、0)の符号化情報の復号処理を開始する。具体的には、復号制御部10の処理ブロック制御部102から第1復号処理部20(DEC0)の可変長復号部201にブロック処理開始信号Start_MB0が供給され、ブロック処理開始信号Start_MB0によって復号処理が開始されるマクロブロック(MB)または最大コーディングユニット(LCU)の連続番号が指示される。復号制御部10の処理ブロック制御部102がブロック処理開始信号Start_MB0の値をインクリメントするので、第1復号処理部20(DEC0)は第3番目のPフレームP2の開始点(0、0)から中間点(X/2、Y/2)に向かって符号化情報の復号処理を進行する。第1復号処理部20(DEC0)が第3番目のPフレームP2の開始点(0、0)の符号化情報の復号処理を開始してから第3番目のPフレームP2の中間点(X/2、Y/2)の符号化情報の復号処理を開始するまでの第3期間T2では、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)が復号処理を実行する、と言う復号並列処理が実行される。この第3期間T2での復号並列処理における第1復号処理部20(DEC0)による第3番目のPフレームP2の前半部分のインター復号処理のための参照画像情報として、第2期間T1での第2復号処理部21(DEC1)による第2番目のPフレームP1の前半部分のインター復号処理結果が第1復号処理部20(DEC0)によって使用される。
【0149】
従って、第1復号処理部20(DEC0)は、第3番目のPフレームP2の前半部分のインター復号処理のための参照画像情報としての第2期間T1での第2復号処理部21(DEC1)による第2番目のPフレームP1の前半部分のイントラ復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictを第3期間T2において生成する。すなわち、第2期間T1における第2復号処理部21(DEC1)によるPフレームP1の前半部分のインター復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictが、第3期間T2に第1復号処理部20(DEC0)の可変長復号部201からメモリ制御部30を介してフレームメモリ40に供給される。
【0150】
《第4期間の並列復号処理》
更に第1復号処理部20(DEC0)が第3番目のPフレームP2の中間点(X/2、Y/2)の符号化情報の復号処理を開始してから第3番目のPフレームP2の終了点(X、Y)の符号化情報の復号処理を終了するまでの第4期間T3でも、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とが復号処理を実行する、と言う並列復号処理が実行される。特に、第3期間T2の最終タイミングで第2復号処理部21(DEC1)による第2番目のPフレームP1の終了点(X、Y)でのマクロブロック(MB)または最大コーディングユニット(LCU)のインター復号処理が完了したことを示すフレーム復号処理終了信号PEN1が、第2復号処理部21(DEC1)のフィルタ部218から復号制御部10の画像参照制御部101に供給される。従って、フレーム復号処理終了信号PEN1に応答して画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B1がハイレベル“1”からローレベル“0”に変化するので、第4期間T3における第1復号処理部20(DEC0)による第2復号処理部21(DEC1)の復号処理位置の監視が停止される。尚、フレーム復号処理終了信号PEN1が第2復号処理部21(DEC1)のフィルタ部218から復号制御部10の画像参照制御部101に供給される以前では画像参照制御信号B1がハイレベル“1”に維持されているので、第1復号処理部20(DEC0)による第2復号処理部21(DEC1)の復号処理位置の監視が許可されている。このように第4期間T3においては、フレーム復号処理終了信号PEN1と画像参照制御信号B1とに応答して、第1復号処理部20(DEC0)による第3番目のPフレームP2の後半のインター復号処理のための参照画像として、第4期間T3での第2復号処理部21(DEC1)による復号処理結果が使用されることが禁止される。しかし、第4期間T3では、第1復号処理部20(DEC0)による第3番目のPフレームP2の後半のインター復号処理のための参照画像として、第3期間T2での第2復号処理部21(DEC1)による第2番目のPフレームP1の後半のインター復号処理結果が使用されることが可能とされる。
【0151】
従って、
図1と
図2とに示した実施の形態1による動画像復号処理装置によれば、第4期間T3では第2復号処理部21(DEC1)がノーオペレーション(NOP)を実行する必要がなく第4番目のPフレームP3の前半のインター復号処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0152】
更に、第1復号処理部20(DEC0)による第3番目のPフレームP2の復号処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第1復号処理部20(DEC0)のフィルタ部208から復号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB0による検出結果に応答して、第2復号処理部21(DEC1)による第4番目のPフレームP3の前半の復号処理が開始点(0、0)から開始される。
【0153】
すなわち、処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化に応答して、第4期間T3では第2復号処理部21(DEC1)が第4番目のPフレームP3の開始点(0、0)の符号化情報の復号処理を開始する。具体的には、復号制御部10の処理ブロック制御部102から第2復号処理部21(DEC1)の可変長復号部211にブロック処理開始信号Start_MB1が供給され、ブロック処理開始信号Start_MB1によって復号処理が開始されるマクロブロック(MB)または最大コーディングユニット(LCU)の連続番号が指示される。復号制御部10の処理ブロック制御部102がブロック処理開始信号Start_MB1の値をインクリメントするので、第2復号処理部21(DEC1)は第4番目のPフレームP3の開始点(0、0)から中間点(X/2、Y/2)に向かって符号化情報の復号処理を進行する。第2復号処理部21(DEC1)が第4番目のPフレームP3の開始点(0、0)の符号化情報の復号処理を開始してから第4番目のPフレームP3の中間点(X/2、Y/2)の符号化情報の復号処理を開始するまでの第4期間T3では、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)が復号処理を実行する、と言う復号並列処理が実行される。この第4期間T3での復号並列処理における第2復号処理部21(DEC1)による第4番目のPフレームP3の前半部分のインター復号処理のための参照画像情報として、第3期間T2での第1復号処理部20(DEC0)による第3番目のPフレームP2の前半部分のインター復号処理結果が第2復号処理部21(DEC1)によって使用される。
【0154】
従って、第2復号処理部21(DEC1)は、第4番目のPフレームP3の前半部分のインター復号処理のための参照画像情報としての第3期間T2での第1復号処理部20(DEC0)による第3番目のPフレームP2の前半部分のイントラ復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictを第4期間T3において生成する。すなわち、第3期間T2における第1復号処理部20(DEC0)によるPフレームP2の前半部分のインター復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictが、第4期間T3に第2復号処理部21(DEC1)の可変長復号部211からメモリ制御部30を介してフレームメモリ40に供給される。
【0155】
《第5期間の並列復号処理》
更に第2復号処理部21(DEC1)が第4番目のPフレームP3の中間点(X/2、Y/2)の符号化情報の復号処理を開始してから第4番目のPフレームP3の終了点(X、Y)の符号化情報の復号処理を終了するまでの第5期間T4でも、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)とが復号処理を実行する、と言う並列復号処理が実行される。特に、第4期間T3の最終タイミングで第1復号処理部20(DEC0)による第3番目のPフレームP2の終了点(X、Y)でのマクロブロック(MB)または最大コーディングユニット(LCU)のインター復号処理が完了したことを示すフレーム復号処理終了信号PEN0が、第1復号処理部20(DEC0)のフィルタ部208から復号制御部10の画像参照制御部101に供給される。従って、フレーム復号処理終了信号PEN0に応答して画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B0がハイレベル“1”からローレベル“0”に変化するので、第5期間T4における第2復号処理部21(DEC1)による第1復号処理部20(DEC0)の復号処理位置の監視が停止される。尚、フレーム復号処理終了信号PEN0が第1復号処理部20(DEC0)のフィルタ部208から復号制御部10の画像参照制御部101に供給される以前では画像参照制御信号B0がハイレベル“1”に維持されているので、第2復号処理部21(DEC1)による第1復号処理部20(DEC0)の復号処理位置の監視が許可されている。このように第5期間T4においては、フレーム復号処理終了信号PEN0と画像参照制御信号B0とに応答して、第2復号処理部21(DEC1)による第4番目のPフレームP3の後半のインター復号処理のための参照画像として、第5期間T4での第1復号処理部20(DEC0)による復号処理結果が使用されることが禁止される。しかし、第5期間T4では、第2復号処理部21(DEC1)による第4番目のPフレームP3の後半のインター復号処理のための参照画像として、第4期間T3での第1復号処理部20(DEC0)による第3番目のPフレームP2の後半のインター復号処理結果が使用されることが可能とされる。
【0156】
従って、
図1と
図2とに示した実施の形態1による動画像復号処理装置によれば、第5期間T4では第1復号処理部20(DEC0)がノーオペレーション(NOP)を実行する必要がなく
図2で省略された第5番目のPフレームP4の前半のインター復号処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0157】
更に、第2復号処理部21(DEC1)による第4番目のPフレームP3の復号処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第2復号処理部21(DEC1)のフィルタ部218から復号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB1による検出結果に応答して、第1復号処理部20(DEC0)により
図2で省略された第5番目のPフレームP4の前半の復号処理が開始点(0、0)から開始される。
【0158】
すなわち、処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化に応答して、第5期間T4では第1復号処理部20(DEC0)が
図2で省略された第5番目のPフレームP4の開始点(0、0)の符号化情報の復号処理を開始する。具体的には、復号制御部10の処理ブロック制御部102から第1復号処理部20(DEC0)の可変長復号部201にブロック処理開始信号Start_MB0が供給され、ブロック処理開始信号Start_MB0によって復号処理が開始されるマクロブロック(MB)または最大コーディングユニット(LCU)の連続番号が指示される。復号制御部10の処理ブロック制御部102がブロック処理開始信号Start_MB0の値をインクリメントするので、第1復号処理部20(DEC0)は
図2で省略された第5番目のPフレームP4の開始点(0、0)から中間点(X/2、Y/2)に向かって符号化情報の復号処理を進行する。第1復号処理部20(DEC0)が第5番目のPフレームP4の開始点(0、0)の符号化情報の復号処理を開始してから第5番目のPフレームP4の中間点(X/2、Y/2)の符号化情報の復号処理を開始するまでの第5期間T4では、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)が復号処理を実行する、と言う復号並列処理が実行される。この第5期間T4での復号並列処理における第1復号処理部20(DEC0)による第5番目のPフレームP4の前半部分のインター復号処理のための参照画像情報として、第4期間T3での第2復号処理部21(DEC1)による第4番目のPフレームP3の前半部分のインター復号処理結果が第2復号処理部21(DEC1)によって使用される。
【0159】
従って、第1復号処理部20(DEC0)は、第5番目のPフレームP4の前半部分のインター復号処理のための参照画像情報としての第4期間T3での第2復号処理部21(DEC1)による第4番目のPフレームP3の前半部分のイントラ復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictを第4期間T3において生成する。すなわち、第4期間T3における第2復号処理部21(DEC1)によるPフレームP3の前半部分のインター復号処理結果をアクセスする参照データアドレス信号Add_Ref_Pictが、第5期間T4に第1復号処理部20(DEC0)の可変長復号部201からメモリ制御部30を介してフレームメモリ40に供給される。
【0160】
図2では、図示されていないが、第6期間T5では、第1復号処理部20(DEC0)による第5番目のPフレームP4の後半部分のインター復号処理と第2復号処理部21(DEC1)による第6番目のPフレームP5の前半部分のインター復号処理とが実行される、と言う復号並列処理が実行される。以下、同様にして、上述した復号並列処理が反復して実行されることが可能である。
【0161】
[実施の形態2]
《動画像符号化処理装置の構成》
図3は、実施の形態2による動画像符号化処理装置の構成を示す図である。
【0162】
図3に示した実施の形態2の動画像符号化処理装置は、符号制御部10と第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とメモリ制御部30とフレームメモリ40とストリームバッファ60、70とストリーム合成部80とによって構成される。
【0163】
図3に示したようにメモリ制御部30には符号化対象である映像入力信号VSが供給されるので、メモリ制御部30は映像入力信号VSの奇数番目の第1番目のフレームと第3番目のフレームと偶数番目の第2番目のフレームと第4番目のフレームをフレームメモリ40に格納される。
【0164】
フレームメモリ40に格納された後にメモリ制御部30によって読み出される奇数番目の第1番目のフレームと第3番目のフレームとは第1符号化処理部50(ENC0)によって符号化処理され、フレームメモリ40に格納された後にメモリ制御部30によって読み出される偶数番目の第2番目のフレームと第4番目のフレームとは第2符号化処理部51(ENC1)によって符号化処理される。その結果、
図3に示した実施の形態2の動画像符号化処理装置は、並列符号化処理を実行するためのハードウェアを削減することが可能となる。
【0165】
メモリ制御部30によって読み出される第1番目のフレームはその他のピクチャーを参照すること無しに第1符号化処理部50(ENC0)によりイントラ符号化され、その次に読み出される第2番目のフレームは第1番目のIフレームI0の符号化処理結果を参照することによって第2符号化処理部51(ENC1)によりインター符号化される。その次に読み出される第3番目のフレームは第2番目のPフレームP1の符号化処理結果を参照することによって第1符号化処理部50(ENC0)によりインター符号化され、その次に読み出される第4番目のフレームは第3番目のPフレームP2の符号化処理結果を参照することによって第2符号化処理部51(ENC1)によりインター符号化される。
【0166】
奇数番目の第1番目のIフレームI0は、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。すなわち、高精細HDの画素サイズに設定された動画像符号化画面は、水平方向にX個の画素を有し、垂直方向にY個の画素を有するものである。偶数番目の第2番目のPフレームP1も、奇数番目の第3番目のPフレームP2も、偶数番目の第4番目のPフレームP3も、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0167】
《符号制御部》
符号制御部10は、H.264/AVC規格またはH.265/HEVC規格に準拠してフレームメモリ40に格納された複数のフレームを符号化処理するための符号化制御を実行する。すなわち、符号制御部10は、フレームメモリ40に格納された複数のフレームの各フレームをイントラ符号化によって符号化するかインター符号化によって符号化するかを決定するとともに、各フレームの符号化処理のタイミング制御を実行する。その結果、第1符号化処理部50(ENC0)による第1番目のIフレームI0の符号化処理と第2符号化処理部51(ENC1)による第2番目のPフレームP1の符号化処理が、高精細HDの画素サイズの約半分の時間差を有するパイプライン動作となるものである。
【0168】
従って、高精細HDの画素サイズの約半分の時間差を有するパイプライン動作により、第1期間での第1符号化処理部50(ENC0)による第1番目のIフレームI0の前半部分のイントラ符号化処理結果が、第2期間での第2符号化処理部51(ENC1)による第2番目のPフレームP1の前半部分のインター符号化処理のための参照画像情報として使用されることが可能となる。更に、第2期間での第1符号化処理部50(ENC0)による第1番目のIフレームI0の後半部分のイントラ符号化処理結果が、第3期間での第2符号化処理部51(ENC1)による第2番目のPフレームP1の後半部分でのインター符号化処理のための参照画像情報として使用されることが可能となる。
【0169】
更に、符号制御部10は、画像参照制御部101と処理ブロック制御部102とを含んでいる。画像参照制御部101には第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とからフレーム符号化処理終了信号PEN0、PEN1とが供給されることによって、画像参照制御部101から処理ブロック制御部102に画像参照制御信号B0、B1が供給される。処理ブロック制御部102から第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)に画像処理開始信号Start_Pix0、Start_Pix1が供給され、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とから処理ブロック制御部102に処理ブロック信号PMB0、PMB1が供給される。
【0170】
《第1と第2の符号化処理部》
第1符号化処理部50(ENC0)は、画像供給スイッチ5001と減算器5002と周波数変換部5003と量子化部5004と逆量子化部5005と逆周波数変換部5006と加算器5007とによって構成される。更に第1符号化処理部50(ENC0)は、フィルタ部5008と動きベクトル検出部5009と動き補償部5010とイントラ予測部5011とセレクタ部5012と可変長符号化部5013とによって構成される。
【0171】
奇数番目の第1番目のIフレームI0と第3番目のPフレームP2の各フレームから1個分のマクロブロック(MB)または最大コーディングユニット(LCU)を構成する動画像信号が、画像処理開始信号Start_Pix0によってオン状態に制御される画像供給スイッチ5001を介して、減算器5002の一方の入力端子に供給される。それと同時に、この動画像信号は、動きベクトル検出部5009の一方の入力端子とイントラ予測部5011の一方の入力端子とに供給される。
【0172】
図3に示されていないが、動画像の各ピクチャーのインター予測またはイントラ予測を示す予測モードが、符号制御部10からセレクタ部5012と可変長符号化部5013とに供給される。インター符号化される動画像信号は、PフレームもしくはBフレームの符号化や動きベクトルの検出ためにフレームメモリ40に格納された後、フレームメモリ40から読み出されて減算器5002の一方の入力端子に供給される。動きベクトル検出部5009は、フレームメモリ40から読み出された動画像信号とフレームメモリ40に格納された参照画像とに応答して、動きベクトルMVを生成する。動き補償部5010は、動きベクトル検出部5009から生成された動きベクトルMVとフレームメモリ40に格納された参照画像とに応答して、動き補償予測信号を生成する。動き補償部5010からの動き補償予測信号がセレクタ部5012を介して減算部101で動画像信号から減算され、減算部101の減算出力信号である予測残差信号に関して周波数変換部5003と量子化部5004とでそれぞれ周波数変換処理と量子化処理とが実行される。量子化部5004で量子化された周波数変換係数と動きベクトル検出部5009から生成された動きベクトルMVとは可変長符号化部5013で可変長符号化処理され、ストリームバッファ60とストリーム合成部80とを介して、符号化ビットストリームBSが生成される。量子化部5004で量子化された周波数変換係数は、逆量子化部5005と逆周波数変換部5006と加算器5007とフィルタ部5008によって局部復号処理が実行された後に、この局部復号処理結果は参照画像としてフレームメモリ40に格納される。フィルタ部5008は、H.264/AVC規格に従って、ブロック歪みを低減するためのデブロッキングフィルタの機能を有するものである。また更にフィルタ部5008は、H.265/HEVC規格に準拠するために、デブロッキングフィルタ機能の後にサンプルアダプティブオフセット(SAO)と呼ばれるフィルタ機能を有する。このサンプルアダプティブオフセット(SAO)のフィルタ機能は、
図3の動画像符号化装置において図示しない符号化制御ユニットの度数分布解析により決定される追加パラメータによって記述されるルックアップテーブルを使用することにより、原信号振幅を良好に再構築するものである。
【0173】
イントラ符号化される動画像信号はフレームメモリ40に格納された後に、フレームメモリ40から読み出された動画像信号は、イントラ予測部5011の一方の入力端子に供給される。その一方で、加算器5007の出力端子にはイントラ予測により符号化されて局部復号処理により生成された参照画像が生成されているので、加算器5007の出力端子から生成された参照画像がイントラ予測部5011の他方の入力端子に供給される。従って、イントラ予測部5011は一方の入力端子に供給される動画像信号をイントラ符号化する際に、加算器5007の出力端子から他方の入力端子に供給される符号化済みの参照画像に含まれる複数の近隣の画像信号から最適な画像信号を選択して更に選択された最適な画像信号の空間情報を生成する。その結果、イントラ予測部5011は、イントラ予測された最適な画像信号と対応する空間的予測モードとを含んだイントラ予測情報をセレクタ部5012に供給するものである。
【0174】
第2符号化処理部51(ENC1)は、画像供給スイッチ5101と減算器5102と周波数変換部5103と量子化部5104と逆量子化部5105と逆周波数変換部5106と加算器5107とによって構成される。更に第2符号化処理部51(ENC1)は、フィルタ部5108と動きベクトル検出部5109と動き補償部5110とイントラ予測部5111とセレクタ部5112と可変長符号化部5113とによって構成される。
【0175】
偶数番目の第2番目のPフレームP1と第4番目のPフレームP3の各フレームから1個分のマクロブロック(MB)または最大コーディングユニット(LCU)を構成する動画像信号が、画像処理開始信号Start_Pix1によってオン状態に制御される画像供給スイッチ5101を介して、減算器5102の一方の入力端子に供給される。それと同時に、この動画像信号は、動きベクトル検出部5109の一方の入力端子とイントラ予測部5111の一方の入力端子とに供給される。
【0176】
第2符号化処理部51の減算器5102と周波数変換部5103と量子化部5104と逆量子化部5105と逆周波数変換部5106と加算器5107とフィルタ部5108と動きベクトル検出部5109と動き補償部5110とイントラ予測部5111とセレクタ部5112と可変長符号化部5113とは、上述した第1符号化処理部50と全く同様に動作するので、その説明を省略する。
【0177】
《半導体集積回路の利用》
図3に示した実施の形態2による動画像符号化処理装置は、その大部分がシステムオンチップ(SoC)と呼ばれるシステムLSI半導体集積回路の半導体チップ内部に集積化されている。しかし、フレームメモリ40は、このシステムLSI半導体集積回路と別個に構成された同期スタティックランダムアクセスメモリ(SRAM)の半導体チップ内部に集積化される。従って、符号制御部10と第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とメモリ制御部30とストリームバッファ60、70とストリーム合成部80とは、システムオンチップ(SoC)の半導体チップの内部に集積化されたものである。
【0178】
《動画像符号化処理装置の動作》
図4は、
図3に示した実施の形態2による動画像符号化処理装置の動作を説明する図である。
【0179】
《第1期間の符号化単独処理》
上述のようにフレームメモリ40からメモリ制御部30によって読み出される奇数番目の第1番目のフレームと第3番目のフレームとは第1符号化処理部50(ENC0)によって符号化処理され、フレームメモリ40に格納された後にメモリ制御部30によって読み出される偶数番目の第2番目のフレームと第4番目のフレームとは第2符号化処理部51(ENC1)によって符号化処理される。
【0180】
すなわち、奇数番目の第1番目のIフレームI0の動画像信号が第1符号化処理部50(ENC0)に供給されるので、第1期間T0では第1符号化処理部50(ENC0)が第1番目のIフレームI0の開始点(0、0)の動画像信号の符号化処理を開始する。具体的には、符号制御部10の処理ブロック制御部102から第1符号化処理部50(ENC0)の画像供給スイッチ5001に画像処理開始信号Start_Pix0が供給され、画像処理開始信号Start_Pix0によって符号化処理が開始される1個分のマクロブロック(MB)もしくは最大コーディングユニット(LCU)を構成する動画像信号の連続番号が指示される。符号制御部10の処理ブロック制御部102が画像処理開始信号Start_Pix0の値をインクリメントするので、第1符号化処理部50(ENC0)は第1番目のIフレームI0の開始点(0、0)から中間点(X/2、Y/2)に向かって動画像信号の符号化処理を進行する。第1符号化処理部50が第1番目のIフレームI0の開始点(0、0)の動画像信号の符号化処理を開始してから第1番目のIフレームI0の中間点(X/2、Y/2)の動画像信号の符号化処理を開始するまでの第1期間T0では、第1符号化処理部50だけが符号化処理を実行して、第2符号化処理部51が符号化処理を中止する、と言う符号化単独処理が実行される。
【0181】
《第2期間の並列符号化処理》
更に第1符号化処理部50(ENC0)が第1番目のIフレームI0の中間点(X/2、Y/2)の動画像信号の符号化処理を開始してから第1番目のIフレームI0の終了点(X、Y)の動画像信号の符号化処理を終了するまでの第2期間T1では、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)が符号化処理を実行する、と言う並列符号化処理が実行される。すなわち、第1符号化処理部50(ENC0)による第1番目のIフレームI0の符号化処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第1符号化処理部50(ENC0)のフィルタ部5008から符号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB0による検出結果に応答して、第2符号化処理部51(ENC1)による第2番目のPフレームP1の前半の符号化処理が開始点(0、0)から開始される。
【0182】
すなわち、処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化に応答して、第2期間T1では第2符号化処理部51(ENC1)が第2番目のPフレームP1の開始点(0、0)の動画像信号の符号化処理を開始する。具体的には、符号制御部10の処理ブロック制御部102から第2符号化処理部51(ENC1)の画像供給スイッチ5101に画像処理開始信号Start_Pix1が供給され、画像処理開始信号Start_Pix1によって符号化処理が開始される1個分のマクロブロック(MB)もしくは最大コーディングユニット(LCU)を構成する動画像信号の連続番号が指示される。符号制御部10の処理ブロック制御部102が画像処理開始信号Start_Pix0の値をインクリメントするので、第2符号化処理部51(ENC1)は第2番目のPフレームP1の開始点(0、0)から中間点(X/2、Y/2)に向かって動画像信号の符号化処理を進行する。第2符号化処理部51(ENC1)が第2番目のPフレームP1の開始点(0、0)の動画像信号の符号化処理を開始してから第2番目のPフレームP1の中間点(X/2、Y/2)の動画像信号の符号化処理を開始するまでの第2期間T1では、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)が符号化処理を実行する、と言う符号化並列処理が実行される。この第2期間T1での符号化並列処理における第2符号化処理部51(ENC1)による第2番目のPフレームP1の前半部分のインター符号化処理のための参照画像情報として、第1期間T0での第1符号化処理部50(ENC0)による第1番目のIフレームI0の前半部分のイントラ符号化処理結果が第2符号化処理部51(ENC1)によって使用される。
【0183】
従って、第2符号化処理部51(ENC1)は、第2番目のPフレームP1の前半部分でのインター符号化処理のための参照画像情報としての第1期間T0での第1符号化処理部50(ENC0)による第1番目のIフレームI0の前半部分のイントラ符号化処理結果をアクセスする参照データアドレス信号を第2期間T1において生成する。すなわち、第1期間T0における第1符号化処理部50(ENC0)によるIフレームI0の前半部分のイントラ符号化処理結果をアクセスする参照データアドレス信号が、第2期間T1に第2符号化処理部51(ENC1)からメモリ制御部30を介してフレームメモリ40に供給される。
【0184】
《第3期間の並列符号化処理》
更に第2符号化処理部51(ENC1)が第2番目のPフレームP1の中間点(X/2、Y/2)の動画像信号の符号化処理を開始してから第2番目のPフレームP1の終了点(X、Y)の動画像信号の符号化処理を終了するまでの第3期間T2でも、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とが符号化処理を実行する、と言う並列符号化処理が実行される。特に第2期間T1の最終タイミングで第1符号化処理部50による第1番目のIフレームI0の終了点(X、Y)での1個分のマクロブロックもしくは最大コーディングユニットを構成する動画像信号のインター符号化処理が完了したことを示すフレーム符号化処理終了信号PEN0が、第1符号化処理部50のフィルタ部5108から画像参照制御部101に供給される。従って、フレーム符号化処理終了信号PEN0に応答して、画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B0が、ハイレベル“1”からローレベル“0”に変化するので、第3期間T2における第2符号化処理部51(ENC1)による第1符号化処理部50(ENC0)の符号化処理位置の監視が停止されるものである。尚、フレーム符号化処理終了信号PEN0が第1符号化処理部50(ENC0)のフィルタ部5108から符号化制御部10の画像参照制御部101に供給される以前では画像参照制御信号B0がハイレベル“1”に維持されているので、第2符号化処理部51(ENC1)による第1符号化処理部50(ENC0)の符号化処理位置の監視が許可されている。このように、第3期間T2においては、フレーム符号化処理終了信号PEN0と画像参照制御信号B0とに応答して、第2符号化処理部51(ENC1)による第2番目のPフレームP1の後半のインター符号化処理のための参照画像として、第3期間T2での第1符号化処理部50(ENC0)による符号化処理結果が使用されることが禁止される。しかし、第3期間T2では、第2符号化処理部51(ENC1)による第2番目のPフレームP1の後半のインター符号化処理のための参照画像として、第2期間T1での第1符号化処理部50(ENC0)による第1番目のIフレームI0の後半のイントラ符号化処理結果が使用されることが可能とされる。
【0185】
従って、
図3と
図4とに示した実施の形態2による動画像符号化処理装置によれば、第3期間T2では第1符号化処理部50(ENC0)がノーオペレーション(NOP)を実行する必要がなく第3番目のPフレームP2の前半のインター符号化処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0186】
更に、第2符号化処理部51(ENC1)による第2番目のPフレームP1の復号処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第2符号化処理部51(ENC1)のフィルタ部5018から符号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB1による検出結果に応答して、第1符号化処理部50(ENC0)による第3番目のPフレームP2の前半の符号化処理が開始点(0、0)から開始される。
【0187】
すなわち、処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化に応答して、第3期間T2では第1符号化処理部50(ENC0)が第3番目のPフレームP2の開始点(0、0)の動画像信号の符号化処理を開始する。具体的には、符号制御部10の処理ブロック制御部102から第1符号化処理部50(ENC0)の画像供給スイッチ5001に画像処理開始信号Start_Pix0が供給され、画像処理開始信号Start_Pix0によって符号化処理が開始される1個分のマクロブロック(MB)もしくは最大コーディングユニット(LCU)を構成する動画像信号の連続番号が指示される。符号制御部10の処理ブロック制御部102が画像処理開始信号Start_Pix0の値をインクリメントするので、第1符号化処理部50(ENC0)は第3番目のPフレームP2の開始点(0、0)から中間点(X/2、Y/2)に向かって動画像信号の符号化処理を進行する。第1符号化処理部50(ENC0)が第3番目のPフレームP2の開始点(0、0)の動画像信号の符号化処理を開始してから第3番目のPフレームP2の中間点(X/2、Y/2)の動画像信号の符号化処理を開始するまでの第3期間T2では、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)が符号化処理を実行する、と言う符号化並列処理が実行される。この第3期間T2での符号化並列処理における第1符号化処理部50(ENC0)による第3番目のPフレームP2の前半部分のインター符号化処理のための参照画像情報として、第2期間T1での第2符号化処理部51(ENC1)による第2番目のPフレームP1の前半部分のインター符号化処理結果が第1符号化処理部50(ENC0)によって使用される。
【0188】
従って、第1符号化処理部50(ENC0)は、第3番目のPフレームP2の前半部分のインター符号化処理のための参照画像情報としての第2期間T1での第2符号化処理部51(ENC1)による第2番目のPフレームP1の前半部分のイントラ符号化処理結果をアクセスする参照データアドレス信号を第3期間T2において生成する。すなわち、第2期間T1における第2符号化処理部51(ENC1)によるPフレームP1の前半部分のインター符号化処理結果をアクセスする参照データアドレス信号が、第3期間T2に第1符号化処理部50(ENC0)からメモリ制御部30を介してフレームメモリ40に供給される。
【0189】
《第4期間の並列符号化処理》
更に第1符号化処理部50(ENC0)が第3番目のPフレームP2の中間点(X/2、Y/2)の動画像信号の符号化処理を開始してから第3番目のPフレームP2の終了点(X、Y)の動画像信号の符号化処理を終了するまでの第4期間T3でも、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とが符号化処理を実行する、と言う並列符号化処理が実行される。特に、第3期間T2の最終タイミングで第2符号化処理部51による第2番目のPフレームP1の終了点(X、Y)での1個分のマクロブロックもしくは最大コーディングユニットを構成する動画像信号のインター符号化処理が完了したことを示すフレーム符号化処理終了信号PEN1が、第2符号化処理部51のフィルタ部5018から符号制御部10の画像参照制御部101に供給される。従って、フレーム符号化処理終了信号PEN1に応答して画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B1がハイレベル“1”からローレベル“0”に変化するので、第4期間T3における第1符号化処理部50(ENC0)による第2符号化処理部51(ENC1)の符号化処理位置の監視が停止される。尚、フレーム符号化処理終了信号PEN1が第2符号化処理部51(ENC1)のフィルタ部5018から符号制御部10の画像参照制御部101に供給される以前では画像参照制御信号B1がハイレベル“1”に維持されているので、第1符号化処理部50(ENC0)による第2符号化処理部51(ENC1)の符号化処理位置の監視が許可されている。このように第4期間T3においては、フレーム符号化処理終了信号PEN1と画像参照制御信号B1とに応答して、第1符号化処理部50(ENC0)による第3番目のPフレームP2の後半のインター符号化処理のための参照画像として、第4期間T3での第2符号化処理部51(ENC1)による符号化処理結果が使用されることが禁止される。しかし、第4期間T3では、第1符号化処理部50(ENC0)による第3番目のPフレームP2の後半のインター符号化処理のための参照画像として、第3期間T2での第2符号化処理部51(ENC1)による第2番目のPフレームP1の後半のインター符号化処理結果が使用されることが可能とされる。
【0190】
従って、
図3と
図4とに示した実施の形態2による動画像復号処理装置によれば、第4期間T3では第2符号化処理部51(ENC1)がノーオペレーション(NOP)を実行する必要がなく第4番目のPフレームP3の前半のインター符号化処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0191】
更に、第1符号化処理部50(ENC0)による第3番目のPフレームP2の符号化処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第1符号化処理部50(ENC0)のフィルタ部208から符号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB0による検出結果に応答して、第2符号化処理部51(ENC1)による第4番目のPフレームP3の前半の符号化処理が開始点(0、0)から開始される。
【0192】
すなわち、処理ブロック信号PMB0のローレベル“0”からハイレベル“1”への変化に応答して、第4期間T3では第2符号化処理部51(ENC1)が第4番目のPフレームP3の開始点(0、0)の動画像信号の符号化処理を開始する。具体的には、符号制御部10の処理ブロック制御部102から第2符号化処理部51(ENC1)の画像供給スイッチ5101に画像処理開始信号Start_Pix1が供給され、画像処理開始信号Start_Pix1によって符号化処理が開始される1個分のマクロブロック(MB)もしくは最大コーディングユニット(LCU)を構成する動画像信号の連続番号が指示される。符号制御部10の処理ブロック制御部102が画像処理開始信号Start_Pix1の値をインクリメントするので、第2符号化処理部51(ENC1)は第4番目のPフレームP3の開始点(0、0)から中間点(X/2、Y/2)に向かって動画像信号の符号化処理を進行する。第2符号化処理部51(ENC1)が第4番目のPフレームP3の開始点(0、0)の動画像信号の符号化処理を開始してから第4番目のPフレームP3の中間点(X/2、Y/2)の動画像信号の符号化処理を開始するまでの第4期間T3では、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)が符号化処理を実行する、と言う符号化並列処理が実行される。この第4期間T3での符号化並列処理における第2符号化処理部51(ENC1)による第4番目のPフレームP3の前半部分のインター符号化処理のための参照画像情報として、第3期間T2での第1符号化処理部50(ENC0)による第3番目のPフレームP2の前半部分のインター符号化処理結果が第2符号化処理部51(ENC1)によって使用される。
【0193】
従って、第2符号化処理部51(ENC1)は、第4番目のPフレームP3の前半部分のインター符号化処理のための参照画像情報としての第3期間T2での第1符号化処理部50(ENC0)による第3番目のPフレームP2の前半部分のイントラ符号化処理結果をアクセスする参照データアドレス信号を第4期間T3において生成する。すなわち、第3期間T2における第1符号化処理部50(ENC0)によるPフレームP2の前半部分のインター符号化処理結果をアクセスする参照データアドレス信号が、第4期間T3に第2符号化処理部51(ENC1)からメモリ制御部30を介してフレームメモリ40に供給される。
【0194】
《第5期間の並列符号化処理》
更に第2符号化処理部51(ENC1)が第4番目のPフレームP3の中間点(X/2、Y/2)の動画像信号の符号化処理を開始してから第4番目のPフレームP3の終了点(X、Y)の動画像信号の符号化処理を終了するまでの第5期間T4でも、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)とが符号化処理を実行する、と言う並列符号化処理が実行される。特に第4期間T3の最終タイミングで第1符号化処理部50による第3番目のPフレームP2の終了点(X、Y)での1個分のマクロブロックもしくは最大コーディングユニットを構成する動画像信号のインター符号化処理が完了したことを示すフレーム符号化処理終了信号PEN0が、第1符号化処理部50のフィルタ部5108から画像参照制御部101に供給される。従って、フレーム符号化処理終了信号PEN0に応答して、画像参照制御部101から処理ブロック制御部102に供給される画像参照制御信号B0がハイレベル“1”からローレベル“0”に変化するので、第5期間T4における第2符号化処理部51(ENC1)による第1符号化処理部50(ENC0)の符号化処理位置の監視が停止される。尚、フレーム符号化処理終了信号PEN0が第1符号化処理部50(ENC0)のフィルタ部5108から符号制御部10の画像参照制御部101に供給される以前では画像参照制御信号B0がハイレベル“1”に維持されているので、第2符号化処理部51(ENC1)による第1符号化処理部50(ENC0)の符号化処理位置の監視が許可されている。このように第5期間T4においては、フレーム符号化処理終了信号PEN0と画像参照制御信号B0とに応答して、第2符号化処理部51(ENC1)による第4番目のPフレームP3の後半のインター符号化処理のための参照画像として、第5期間T4での第1符号化処理部50(ENC0)による符号化処理結果が使用されることが禁止される。しかし、第5期間T4では、第2符号化処理部51(ENC1)による第4番目のPフレームP3の後半のインター符号化処理のための参照画像として、第4期間T3での第1符号化処理部50(ENC0)による第3番目のPフレームP2の後半のインター符号化処理結果が使用されることが可能とされる。
【0195】
従って、
図3と
図4とに示した実施の形態2による動画像符号化処理装置によれば、第5期間T4では第1符号化処理部50(ENC0)がノーオペレーション(NOP)を実行する必要がなく
図4で省略された第5番目のPフレームP4の前半のインター符号化処理を実行することが可能となるので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0196】
更に、第2符号化処理部51(ENC1)による第4番目のPフレームP3の符号化処理が開始点(0、0)から開始され中間点(X/2、Y/2)まで到達したことが、第2符号化処理部51(ENC1)のフィルタ部5018から符号制御部10の処理ブロック制御部102に供給される処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化によって検出される。処理ブロック信号PMB1による検出結果に応答して、第1符号化処理部50(ENC0)により
図4で省略された第5番目のPフレームP4の前半の符号化処理が開始点(0、0)から開始される。
【0197】
すなわち、処理ブロック信号PMB1のローレベル“0”からハイレベル“1”への変化に応答して、第5期間T4では第1符号化処理部50(ENC0)が
図4で省略された第5番目のPフレームP4の開始点(0、0)の動画像信号の符号化処理を開始する。具体的には、符号制御部10の処理ブロック制御部102から第1符号化処理部50(ENC0)の画像供給スイッチ5001に画像処理開始信号Start_Pix0が供給され、画像処理開始信号Start_Pix0によって符号化処理が開始される1個分のマクロブロック(MB)もしくは最大コーディングユニット(LCU)を構成する動画像信号の連続番号が指示される。符号制御部10の処理ブロック制御部102が画像処理開始信号Start_Pix0の値をインクリメントするので、第1符号化処理部50(ENC0)は
図4で省略された第5番目のPフレームP4の開始点(0、0)から中間点(X/2、Y/2)に向かって動画像信号の符号化処理を進行する。第1符号化処理部50(ENC0)が第5番目のPフレームP4の開始点(0、0)の動画像信号の符号化処理を開始してから第5番目のPフレームP4の中間点(X/2、Y/2)の動画像信号の符号化処理を開始するまでの第5期間T4では、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)が符号化処理を実行する、と言う符号化並列処理が実行される。この第5期間T4での符号化並列処理における第1符号化処理部50(ENC0)による第5番目のPフレームP4の前半部分のインター符号化処理のための参照画像情報として、第4期間T3での第2符号化処理部51(ENC1)による第4番目のPフレームP3の前半部分のインター符号化処理結果が第2符号化処理部51(ENC1)によって使用される。
【0198】
従って、第1符号化処理部50(ENC0)は、第5番目のPフレームP4の前半部分のインター符号化処理のための参照画像情報としての第4期間T3での第2符号化処理部51(ENC1)による第4番目のPフレームP3の前半部分のイントラ符号化処理結果をアクセスする参照データアドレス信号を第4期間T3において生成する。すなわち、第4期間T3における第2符号化処理部51(ENC1)によるPフレームP3の前半部分のインター符号化処理結果をアクセスする参照データアドレス信号が、第5期間T4に第1符号化処理部50(ENC0)からメモリ制御部30を介してフレームメモリ40に供給される。
【0199】
図4では、図示されていないが、第6期間T5では、第1符号化処理部50(ENC0)による第5番目のPフレームP4の後半部分のインター符号化処理と第2符号化処理部51(ENC1)による第6番目のPフレームP5の前半部分のインター符号化処理とが実行される、と言う符号化並列処理が実行される。以下、同様にして、上述した符号化並列処理が反復して実行されることが可能である。
【0200】
以上、本発明者によってなされた発明を種々の実施の形態に基づいて具体的に説明したが、本発明はそれに限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは言うまでもない。
【0201】
例えば、本動画像復号処理装置は、第1復号処理部20(DEC0)と第2復号処理部21(DEC1)の2個のみの復号処理部を具備することに限定されるものではない。
【0202】
図5は本発明の他の実施の形態による動画像復号処理装置の構成と動作を説明する図である。すなわち、
図5に示した本発明の他の実施の形態による動画像復号処理装置は、第1復号処理部DEC0と第2復号処理部DEC1と第3復号処理部DEC2と第4復号処理部DEC3とを具備したものである。
【0203】
図5に示すように、第1番目のIフレームI0と第5番目のIフレームI4と第9番目のIフレームI8とが、第1復号処理部DEC0によりイントラ復号処理される。尚、第1番目のIフレームI0と第5番目のIフレームI4と第9番目のIフレームI8の各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0204】
第2番目のPフレームP1と第6番目のPフレームP5と第10番目のPフレームP9が、第2復号処理部DEC1によりインター復号処理される。尚、第2番目のPフレームP1と第6番目のPフレームP5と第10番目のPフレームP9との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0205】
第3番目のPフレームP2と第7番目のPフレームP6が、第3復号処理部DEC2によりインター復号処理される。尚、第3番目のPフレームP2と第7番目のPフレームP6との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0206】
第4番目のPフレームP3と第8番目のPフレームP7が、第4復号処理部DEC3によりインター復号処理される。尚、第4番目のPフレームP3と第8番目のPフレームP7との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0207】
図5に示した動画像復号処理装置では、第3期間T2にて第1復号処理部DEC0から生成されるフレーム復号処理終了信号PEN0に応答して、第2復号処理部DEC1による第2番目のPフレームP1の後半のインター復号処理のための参照画像として、第3期間T2での第1復号処理部DEC0による第5番目のIフレームI4の前半のイントラ復号処理結果が使用されることが禁止される。しかし、第3期間T2では、第2復号処理部DEC1による第2番目のPフレームP1の後半のインター復号処理のための参照画像として、第2期間T1での第1復号処理部DEC0による第1番目のIフレームI0の後半のイントラ復号処理結果が使用されることが可能とされる。
【0208】
図5に示した動画像復号処理装置では、第4期間T3にて第2復号処理部DEC1から生成されるフレーム復号処理終了信号PEN1に応答して、第3復号処理部DEC2による第3番目のPフレームP2の後半のインター復号処理のための参照画像として、第4期間T3での第2復号処理部DEC1による第6番目のPフレームP5の前半のインター復号処理結果が使用されることが禁止される。しかし、第4期間T3では、第3復号処理部DEC2による第3番目のPフレームP2の後半のインター復号処理のための参照画像として、第3期間T2での第2復号処理部DEC1による第2番目のPフレームP1の後半のインター復号処理結果が使用されることが可能とされる。
【0209】
図5に示した動画像復号処理装置では、第5期間T4にて第1復号処理部DEC0から生成されるフレーム復号処理終了信号PEN0に応答して、第2復号処理部DEC1による第6番目のPフレームP5の後半のインター復号処理のための参照画像として、第5期間T4での第1復号処理部DEC0による第9番目のIフレームI8の前半のイントラ復号処理結果が使用されることが禁止される。しかし、第5期間T4では、第2復号処理部DEC1による第6番目のPフレームP5の後半のインター復号処理のための参照画像として、第4期間T3での第1復号処理部DEC0による第5番目のIフレームI4の後半のイントラ復号処理結果が使用されることが可能とされる。更に、第5期間T4にて第3復号処理部DEC2から生成されるフレーム復号処理終了信号PEN2に応答して、第4復号処理部DEC3による第4番目のPフレームP3の後半のインター復号処理のための参照画像として、第5期間T4での第3復号処理部DEC2による第7番目のPフレームP6の前半のインター復号処理結果が使用されることが禁止される。しかし、第5期間T4では、第4復号処理部DEC3による第4番目のPフレームP3の後半のインター復号処理のための参照画像として、第4期間T3での第3復号処理部DEC2による第3番目のPフレームP2の後半のインター復号処理結果が使用されることが可能とされる。
【0210】
図5の動画像復号処理装置では、第6期間T5にて第2復号処理部DEC1から生成されるフレーム復号処理終了信号PEN1に応答して、第3復号処理部DEC2による第7番目のPフレームP6の後半のインター復号処理のための参照画像として、第6期間T5での第2復号処理部DEC1による第10番目のPフレームP9の前半のインター復号処理結果が使用されることが禁止される。しかし、第6期間T5では、第3復号処理部DEC2による第7番目のPフレームP6の後半のインター復号処理のための参照画像として、第5期間T4での第2復号処理部DEC1による第6番目のPフレームP5の後半のインター復号処理結果が使用されることが可能とされる。
【0211】
従って、
図5に示した本発明の他の実施の形態による動画像復号処理装置もノーオペレーション(NOP)を実行する必要がないので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0212】
更に、本動画像符号化処理装置は、第1符号化処理部50(ENC0)と第2符号化処理部51(ENC1)の2個のみの符号化処理部を具備することに限定されるものではない。
【0213】
図6は本発明の他の実施の形態による動画像符号化処理装置の構成と動作を説明する図である。すなわち、
図6に示した本発明の他の実施の形態による動画像符号化処理装置は、第1符号化処理部ENC0と第2符号化処理部ENC1と第3符号化処理部ENC2と第4符号化処理部ENC3とを具備したものである。
【0214】
図6に示すように、第1番目のIフレームI0と第5番目のIフレームI4と第9番目のIフレームI8とは、第1符号化処理部ENC0によりイントラ符号化処理されたものである。尚、第1番目のIフレームI0と第5番目のIフレームI4と第9番目のIフレームI8の各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0215】
第2番目のPフレームP1と第6番目のPフレームP5と第10番目のPフレームP9とは、第2符号化処理部ENC1によりインター符号化処理されたものである。尚、第2番目のPフレームP1と第6番目のPフレームP5と第10番目のPフレームP9との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0216】
第3番目のPフレームP2と第7番目のPフレームP6とは、第3符号化処理部ENC2によりインター符号化処理されものである。尚、第3番目のPフレームP2と第7番目のPフレームP6との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0217】
第4番目のPフレームP3と第8番目のPフレームP7とは、第4符号化処理部ENC3によりインター符号化処理されものである。尚、第4番目のPフレームP3と第8番目のPフレームP7との各フレームは、高精細HDの画素サイズに設定された動画像符号化画面のラスター・スキャンの開始点(0、0)と中間点(X/2、Y/2)と終了点(X、Y)のそれぞれの符号化情報を含んでいる。
【0218】
図6に示した装置では、第3期間T2にて第1符号化処理部ENC0から生成されるフレーム符号化処理終了信号PEN0に応答して、第2符号化処理部ENC1による第2番目のPフレームP1の後半のインター符号化処理のための参照画像として、第3期間T2での第1符号化処理部ENC0による第5番目のIフレームI4の前半のイントラ符号化処理結果が使用されることが禁止される。しかし、第3期間T2では、第2符号化処理部ENC1による第2番目のPフレームP1の後半のインター符号化処理のための参照画像として、第2期間T1での第1符号化処理部ENC0による第1番目のIフレームI0の後半のイントラ符号化処理結果が使用されることが可能とされる。
【0219】
図6に示した装置では、第4期間T3にて第2符号化処理部ENC1から生成されるフレーム符号化処理終了信号PEN1に応答して、第3符号化処理部ENC2による第3番目のPフレームP2の後半のインター符号化処理のための参照画像として、第4期間T3での第2符号化処理部ENC1による第6番目のPフレームP5の前半のインター符号化処理結果が使用されることが禁止される。しかし、第4期間T3では、第3符号化処理部ENC2による第3番目のPフレームP2の後半のインター符号化処理のための参照画像として、第3期間T2での第2符号化処理部ENC1による第2番目のPフレームP1の後半のインター符号化処理結果が使用されることが可能とされる。
【0220】
図6に示した装置では、第5期間T4にて第1符号化処理部ENC0から生成されるフレーム符号化処理終了信号PEN0に応答して、第2符号化処理部ENC1による第6番目のPフレームP5の後半のインター符号化処理のための参照画像として、第5期間T4での第1符号化処理部ENC0による第9番目のIフレームI8の前半のイントラ符号化処理結果が使用されることが禁止される。しかし、第5期間T4では、第2符号化処理部ENC1による第6番目のPフレームP5の後半のインター符号化処理のための参照画像として、第4期間T3での第1符号化処理部ENC0による第5番目のIフレームI4の後半のイントラ符号化処理結果が使用されることが可能とされる。更に、第5期間T4にて第3符号化処理部ENC2から生成されるフレーム符号化処理終了信号PEN2に応答して、第4符号化処理部ENC3による第4番目のPフレームP3の後半のインター符号化処理のための参照画像として、第5期間T4での第3符号化処理部ENC2による第7番目のPフレームP6の前半のインター符号化処理結果が使用されることが禁止される。しかし、第5期間T4では、第4符号化処理部ENC3による第4番目のPフレームP3の後半のインター符号化処理のための参照画像として、第4期間T3での第3符号化処理部ENC2による第3番目のPフレームP2の後半のインター符号化処理結果が使用されることが可能とされる。
【0221】
図6に示した装置では、第6期間T5にて第2符号化処理部ENC1から生成されるフレーム符号化処理終了信号PEN1に応答して、第3符号化処理部ENC2による第7番目のPフレームP6の後半のインター符号化処理のための参照画像として、第6期間T5での第2符号化処理部ENC1による第10番目のPフレームP9の前半のインター符号化処理結果が使用されることが禁止される。しかし、第6期間T5では、第3符号化処理部ENC2による第7番目のPフレームP6の後半のインター符号化処理のための参照画像として、第5期間T4での第2符号化処理部ENC1による第6番目のPフレームP5の後半のインター符号化処理結果が使用されることが可能とされる。
【0222】
従って、
図6に示した本発明の他の実施の形態による動画像符号化処理装置もノーオペレーション(NOP)を実行する必要がないので、
図7で説明したような並列処理能力の低下を軽減することが可能となる。
【0223】
更に本動画像復号処理装置または本動画像符号化処理装置は、H.264/AVC規格またはH.265/HEVC規格に準拠する符号化ビットストリームBSを復号処理することにのみ限定されるものではない。
【0224】
また更に、本動画像復号処理装置は、64×64画素の最大のサイズを有する最大コーディングユニット(LCU)を処理単位とするH.265/HEVC規格以外に64×64画素より大きな最大サイズを有する最大コーディングユニット(LCU)を処理単位とする将来出現する規格に準拠した符号化ビットストリームBSを復号処理することに適用することも可能である。
【0225】
更に、本動画像符号化処理装置は、64×64画素の最大サイズよりも小さい、例えば32×32画素のサイズを有する最大コーディングユニット(LCU)を処理単位として、H.265/HEVC規格に準拠して符号化された符号化ビットストリームBSを復号処理することも可能である。
【0226】
更に、本動画像符号化処理装置は、64×64画素の最大サイズよりも小さい、例えば32×32画素のサイズを有する最大コーディングユニット(LCU)を処理単位として、H.265/HEVC規格に準拠して符号化された符号化ビットストリームBSを生成する符号化処理することも可能である。
【0227】
更に本動画像復号処理装置または本動画像符号化処理装置では、各フレームの画素サイズは、高精細HDの画素サイズである1920画素×1080画素のみに限定されるものではない。すなわち、本動画像復号処理装置もしくは本動画像符号化処理装置における各フレームの画素サイズは、4KTVの画素サイズである4096画素×2160画素もしくは3840画素×2160画素とすることが可能である。このようにフレームの画素サイズが4KTVである場合には、動きベクトルの最大値が4KTVの画素サイズの約半分となるように動画像符号化処理を実行するものとする。