(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-09
(45)【発行日】2024-09-18
(54)【発明の名称】画像符号化装置、画像符号化方法及び画像符号化プログラム、並びに画像復号化装置、画像復号化方法及び画像復号化プログラム
(51)【国際特許分類】
H04N 19/119 20140101AFI20240910BHJP
H04N 19/136 20140101ALI20240910BHJP
H04N 19/176 20140101ALI20240910BHJP
【FI】
H04N19/119
H04N19/136
H04N19/176
(21)【出願番号】P 2023066272
(22)【出願日】2023-04-14
(62)【分割の表示】P 2022064406の分割
【原出願日】2016-12-06
【審査請求日】2023-04-14
(73)【特許権者】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(72)【発明者】
【氏名】福島 茂
【審査官】岩井 健二
(56)【参考文献】
【文献】特開2013-098711(JP,A)
【文献】特表2015-516769(JP,A)
【文献】国際公開第2018/037853(WO,A1)
【文献】国際公開第2017/008678(WO,A1)
【文献】国際公開第2016/123476(WO,A1)
【文献】国際公開第2016/091161(WO,A1)
【文献】国際公開第2012/172668(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 19/00 - 19/98
(57)【特許請求の範囲】
【請求項1】
画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化装置であって、
前記画像を所定サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割部と、
符号化対象ブロックのブロック分割情報を符号化する符号化部と、
符号化済ピクチャの画像信号を使って予測画像信号を生成するインター予測部とを備え
、
前記ブロック分割部は、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割部と、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを含み
、
前記2分割部は、前回の再帰的分割が2分割であり前記符号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する、
ことを特徴とする画像符号化装置。
【請求項2】
画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化方法であって、
前記画像を所定サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割ステップと
、
符号化対象ブロックのブロック分割情報を符号化する符号化ステップと、
符号化済ピクチャの画像信号を使って予測画像信号を生成するインター予測ステップとを有し、
前記ブロック分割ステップは、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割ステップとを含み
、
前記2分割ステップは、前回の再帰的分割が2分割であり前記符号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する
ことを特徴とする画像符号化方法。
【請求項3】
画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化プログラムであって、
前記画像を所定サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割ステップと
、
符号化対象ブロックのブロック分割情報を符号化する符号化ステップと、
符号化済ピクチャの画像信号を使って予測画像信号を生成するインター予測ステップとをコンピュータに実行させ、
前記ブロック分割ステップは、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割ステップとを含み
、
前記2分割ステップは、前回の再帰的分割が2分割であり前記符号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する
ことを特徴とする画像符号化プログラム。
【請求項4】
画像を分割したブロック単位で復号化を行う画像復号化装置であって、
画像を分割したブロックのブロック分割情報を復号化する復号化部と、
復号化された再帰的な前記ブロック分割情報に基づいて、復号化対象ブロックを生成するブロック分割部
と、
復号済ピクチャの画像信号を使って予測画像信号を生成するインター予測部とを備え、
前記ブロック分割部は、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割部と、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを含み
、
前記2分割部は、前回の再帰的分割が2分割であり前記復号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する
ことを特徴とする画像復号化装置。
【請求項5】
画像を分割したブロック単位で復号化を行う画像復号化方法であって、
画像を分割したブロックのブロック分割情報を復号化する復号化ステップと、
復号化された再帰的な前記ブロック分割情報に基づいて、復号化対象ブロックを生成するブロック分割ステップ
と、
復号済ピクチャの画像信号を使って予測画像信号を生成するインター予測ステップとを有し、
前記ブロック分割ステップは、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割ステップとを含み
、
前記2分割ステップは、前回の再帰的分割が2分割であり前記復号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する
ことを特徴とする画像復号化方法。
【請求項6】
画像を分割したブロック単位で復号化を行う画像復号化プログラムであって、
画像を分割したブロックのブロック分割情報を復号化する復号化ステップと、
復号化された再帰的な前記ブロック分割情報に基づいて、復号化対象ブロックを生成するブロック分割ステップ
と、
復号済ピクチャの画像信号を使って予測画像信号を生成するインター予測ステップとをコンピュータに実行させ、
前記ブロック分割ステップは、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、
再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割ステップとを含み
、
前記2分割ステップは、前回の再帰的分割が2分割であり前記復号化対象ブロックのブロックが所定サイズ以下の場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する
ことを特徴とする画像復号化プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像をブロックに分割し、分割されたブロック単位で符号化及び復号化を行
う技術に関する。
【背景技術】
【0002】
画像符号化及び復号化では、画像を所定数の画素の集合であるブロックに分割し、ブロ
ック単位で符号化及び復号化を行う。適切なブロックの分割を行うことで画面内予測(イ
ントラ予測)、画面間予測(インター予測)、直交変換、エントロピー符号化、等の効率
が向上し、その結果、符号化効率が向上する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
適切な大きさ及び形状でブロックを分割しなければ、符号化効率が低下する。また、適
切な大きさ及び形状でブロックを分割しなければ、その後の符号化及び復号化での処理量
が増大する。
【0005】
本発明はこうした状況に鑑みてなされたものであり、その目的は、画像符号化及び復号
化に適したブロック分割を行うことにより、符号化効率を向上させる技術を提供すること
にある。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明のある態様の画像符号化装置は、画像をブロックに
分割し、分割されたブロック単位で符号化を行う画像符号化装置であって、前記画像を所
定サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割部と、符
号化対象ブロックに近接する符号化済みブロックの画像信号を用いて予測画像信号を生成
するイントラ予測部と、符号化対象ブロックのブロック分割情報を符号化する符号化部と
を備え、前記ブロック分割部は、再帰的分割における対象ブロックを水平方向かつ垂直方
向に4分割して4つのブロックを生成する4分割部と、再帰的分割における対象ブロック
を水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを含み、前記
2分割部は、前回の再帰的分割が2分割である場合、前回の再帰的分割においてブロック
が分割された方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止
する。
【0007】
本発明のさらに別の態様は、画像符号化方法である。この方法は、画像をブロックに分
割し、分割されたブロック単位で符号化を行う画像符号化方法であって、前記画像を所定
サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割ステップと
、符号化対象ブロックに近接する符号化済みブロックの画像信号を用いて予測画像信号を
生成するイントラ予測ステップと、符号化対象ブロックのブロック分割情報を符号化する
符号化ステップとを有し、前記ブロック分割ステップは、再帰的分割における対象ブロッ
クを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、再
帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生
成する2分割ステップとを含み、前記2分割ステップは、前回の再帰的分割が2分割であ
る場合、前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰
的分割の対象ブロックを分割することを禁止する。
【0008】
本発明のさらに別の態様は、画像符号化プログラムである。画像をブロックに分割し、
分割されたブロック単位で符号化を行う画像符号化プログラムであって、前記画像を所定
サイズの矩形に再帰的に分割して符号化対象ブロックを生成するブロック分割ステップと
、符号化対象ブロックに近接する符号化済みブロックの画像信号を用いて予測画像信号を
生成するイントラ予測ステップと、符号化対象ブロックのブロック分割情報を符号化する
符号化ステップとをコンピュータに実行させ、前記ブロック分割ステップは、再帰的分割
における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4
分割ステップと、再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して
2つのブロックを生成する2分割ステップとを含み、前記2分割ステップは、前回の再帰
的分割が2分割である場合、前回の再帰的分割においてブロックが分割された方向と同一
の方向で今回の再帰的分割の対象ブロックを分割することを禁止する。
【0009】
本発明のさらに別の態様は、画像復号化装置である。この装置は、画像を分割したブロ
ック単位で復号化を行う画像復号化装置であって、画像を分割したブロックのブロック分
割情報を復号化する復号化部と、復号化された再帰的な前記ブロック分割情報に基づいて
、復号化対象ブロックを生成するブロック分割部と、復号化対象ブロックに近接する復号
化済みブロックの画像信号を用いて予測画像信号を生成するイントラ予測部とを備え、前
記ブロック分割部は、再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割
して4つのブロックを生成する4分割部と、再帰的分割における対象ブロックを水平方向
又は垂直方向に2分割して2つのブロックを生成する2分割部とを含み、前記2分割部は
、前回の再帰的分割が2分割である場合、前回の再帰的分割においてブロックが分割され
た方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する。
【0010】
本発明のさらに別の態様は、画像復号化方法である。この方法は、画像を分割したブロ
ック単位で復号化を行う画像復号化方法であって、画像を分割したブロックのブロック分
割情報を復号化する復号化ステップと、復号化された再帰的な前記ブロック分割情報に基
づいて、復号化対象ブロックを生成するブロック分割ステップと、復号化対象ブロックに
近接する復号化済みブロックの画像信号を用いて予測画像信号を生成するイントラ予測ス
テップとを有し、前記ブロック分割ステップは、再帰的分割における対象ブロックを水平
方向かつ垂直方向に4分割して4つのブロックを生成する4分割ステップと、再帰的分割
における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2
分割ステップとを含み、前記2分割ステップは、前回の再帰的分割が2分割である場合、
前回の再帰的分割においてブロックが分割された方向と同一の方向で今回の再帰的分割の
対象ブロックを分割することを禁止する。
【0011】
本発明のさらに別の態様は、画像復号化プログラムである。このプログラムは、画像を
分割したブロック単位で復号化を行う画像復号化プログラムであって、画像を分割したブ
ロックのブロック分割情報を復号化する復号化ステップと、復号化された再帰的な前記ブ
ロック分割情報に基づいて、復号化対象ブロックを生成するブロック分割ステップと、復
号化対象ブロックに近接する復号化済みブロックの画像信号を用いて予測画像信号を生成
するイントラ予測ステップとをコンピュータに実行させ、前記ブロック分割ステップは、
再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを
生成する4分割ステップと、再帰的分割における対象ブロックを水平方向又は垂直方向に
2分割して2つのブロックを生成する2分割ステップとを含み、前記2分割ステップは、
前回の再帰的分割が2分割である場合、前回の再帰的分割においてブロックが分割された
方向と同一の方向で今回の再帰的分割の対象ブロックを分割することを禁止する。
【0012】
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒
体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効で
ある。
【発明の効果】
【0013】
本発明によれば、画像符号化及び復号化に適したブロック分割が可能になり、符号化効
率を向上させ、処理量の少ない画像符号化及び復号化を提供することができる。
【図面の簡単な説明】
【0014】
【
図1】第1の実施の形態に係る画像符号化装置の構成図である。
【
図2】第1の実施の形態に係る画像復号化装置の構成図である。
【
図3】ツリーブロックへの分割及びツリーブロック内部の分割を説明するフローチャートである。
【
図4】入力された画像をツリーブロックに分割する様子を示す図である。
【
図6】ツリーブロックを水平かつ垂直方向に4分割した図である。
【
図7】ツリーブロックを水平方向に2分割した図である。
【
図8】ツリーブロックを垂直方向に2分割した図である。
【
図9】ツリーブロックを水平方向及び垂直方向に4分割した場合の分割された各ブロックの処理を説明するフローチャートである。
【
図10】ツリーブロックを水平方向に2分割した場合の分割された各ブロックの処理を説明するフローチャートである。
【
図11】ツリーブロックの分割が水平方向に2分割された場合の分割されたブロックの再分割の様子を示す図である。
【
図12】ツリーブロックを垂直方向に2分割した場合の分割された各ブロックの処理を説明するフローチャートである。
【
図13】ツリーブロックの分割が垂直方向に2分割された場合の分割されたブロックの再分割の様子を示す図である。
【
図14】第1の実施の形態のブロック分割に関するシンタックスの例を示す図である。
【
図17】第2の実施の形態のブロック分割に関するシンタックスの例を示す図である。
【
図18】第2の実施の形態のブロック分割に関するシンタックスの別の例を示す図である。
【
図19】第3の実施の形態のブロック分割に関するシンタックスの例を示す図である。
【
図20】水平方向または垂直方向に2分割された場合のブロック内部をさらに同一方向に再分割する様子を示す図である。
【
図21】第4の実施の形態のブロック分割に関するシンタックスの例を示す図である。
【
図22】ツリーブロックの分割が2分割された場合のブロック内部の4分割を示す図である。
【発明を実施するための形態】
【0015】
本発明の実施の形態は、画像を矩形ブロックに分割し、分割されたブロックを符号化・
復号化する画像符号化技術を提供する。
【0016】
(第1の実施の形態)
本発明の実施の形態1に係る画像符号化装置100及び画像復号化装置200について
説明する。実施の形態1では、ブロック分割を再帰的に行う際、同一方向に連続して分割
することを制限する。
【0017】
図1は第1の実施の形態に係る画像符号化装置100の構成図である。ここで、
図1で
は画像信号に関するデータの流れのみを表しており、動きベクトルや予測モードなど画像
信号以外の付加情報については各構成要素が符号化ビット列生成部105に供給して対応
する符号化データを生成するが、付加情報に関するデータの流れは図示していない。
【0018】
ブロック分割部101は、画像を符号化の処理単位となる符号化対象ブロックに分割し
、符号化対象ブロック内の画像信号を残差信号生成部103に供給する。また、ブロック
分割部101は、予測画像の一致度を評価するために符号化対象ブロックの画像信号を予
測画像生成部102に供給する。
【0019】
ブロック分割部101は、画像を所定サイズの矩形に再帰的に分割して符号化対象ブロ
ックを生成する。ブロック分割部101は、再帰的分割における対象ブロックを水平方向
かつ垂直方向に4分割して4つのブロックを生成する4分割部と、再帰的分割における対
象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを
含む。ブロック分割部101の詳細の動作については後述する。
【0020】
予測画像生成部102は、復号画像メモリ108から供給される復号画像信号から、予
測モードを基にピクチャ内予測(イントラ予測)或いはピクチャ間予測(インター予測)
を行い、予測画像信号を生成する。ブロック分割部101から供給される符号化対象ブロ
ック内の画像信号はイントラ予測及びインター予測の評価に用いられる。イントラ予測で
は、ブロック分割部101から供給される符号化対象ブロックの画像信号と、復号画像メ
モリ108から供給される符号化対象のブロックと同じピクチャ内に存在する符号化対象
のブロックに近接する周囲の符号化済みブロックの画像信号を用いて予測画像信号を生成
する。インター予測では、ブロック分割部101から供給され符号化対象ブロックの画像
信号を、符号化対象ブロックを含むピクチャ(符号化ピクチャ)の時系列で前または後ろ
にある復号画像メモリ108に格納されている符号化済みピクチャを参照ピクチャとし、
符号化ピクチャと参照ピクチャとの間でブロックマッチング等のブロック一致度評価を行
い、動き量を示す動きベクトルを求め、この動き量を基に参照ピクチャから動き補償を行
い、予測画像信号を生成する。予測画像生成部102は、こうして生成された予測画像信
号を残差信号生成部103に供給する。
【0021】
残差信号生成部103は、符号化する画像信号と予測画像生成部102にて生成された
予測信号との減算を行い残差信号を生成し、直交変換・量子化部104に供給する。
【0022】
直交変換・量子化部104は、残差信号生成部103から供給される残差信号を直交変
換・量子化し、直交変換・量子化された残差信号を符号化ビット列生成部105及び逆量
子化・逆直交変換部106に供給する。
【0023】
符号化ビット列生成部105は直交変換・量子化部104から供給される直交変換・量
子化された残差信号に対する符号化ビット列を生成する。また、符号化ビット列生成部1
05は動きベクトルや予測モード、ブロック分割情報などの付加情報について、対応する
符号化ビット列を生成する。
【0024】
逆量子化・逆直交変換部106は、直交変換・量子化部104から供給される直交変換
・量子化された残差信号を逆量子化・逆直交変換し、逆量子化・逆直交変換された残差信
号を復号画像信号重畳部107に供給する。
【0025】
復号画像信号重畳部107は、予測画像生成部102により生成された予測画像信号と
逆量子化・逆直交変換部106で逆量子化及び逆直交変換された残差信号を重畳して復号
画像を生成し、復号画像メモリ108に格納する。尚、復号画像に対して符号化によるブ
ロック歪等を減少させるフィルタリング処理を施して、復号画像メモリ108に格納する
こともある。
【0026】
図2は実施の形態1に係る画像復号化装置200の構成図である。ここで、
図2では画
像信号に関するデータの流れのみを表しており、動きベクトルや予測モードなど画像信号
以外の付加情報についてはビット列復号部201が各構成要素に供給して対応する処理に
用いるが、付加情報に関するデータの流れは図示していない。
【0027】
ビット列復号部201は、供給された符号化ビット列を復号化して、直交変換・量子化
された残差信号をブロック分割部202に供給する。
【0028】
ブロック分割部202は、復号化したブロック分割情報に基づいて復号化対象ブロック
の形状を決定し、決定された復号化対象ブロックの直交変換・量子化された残差信号を逆
量子化・逆直交変換部203に供給する。
【0029】
ブロック分割部202は、画像を復号化されたブロック分割情報に基づいて所定サイズ
の矩形に再帰的に分割して復号化対象ブロックを生成する。ブロック分割部202は、再
帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生
成する4分割部と、再帰的分割における対象ブロックを水平方向又は垂直方向に2分割し
て2つのブロックを生成する2分割部とを含む。ブロック分割部202の詳細の動作につ
いては後述する。
【0030】
逆量子化・逆直交変換部203は、供給された直交変換・量子化された残差信号に対し
て、逆直交変換及び逆量子化を行い、逆直交変換・逆量子化された残差信号を得る。
【0031】
予測画像生成部204は、復号画像メモリ206から供給される復号画像信号から予測
画像信号を生成し、復号画像信号重畳部205に供給する。
【0032】
復号画像信号重畳部205は、予測画像生成部204で生成された予測画像信号と、逆
量子化・逆直交変換部203により逆直交変換・逆量子化された残差信号とを重畳するこ
とにより、復号画像信号を生成し、出力するとともに復号画像メモリ206に格納する。
尚、復号画像に対して符号化によるブロック歪等を減少させるフィルタリング処理を施し
て、復号画像メモリ206に格納することもある。
【0033】
画像符号化装置100のブロック分割部101の動作について詳細に説明する。
図3は
ツリーブロックへの分割及びツリーブロック内部の分割を説明するフローチャートである
。
【0034】
まず、入力された画像を所定サイズのツリーブロックに分割する(S1000)。例え
ば、ツリーブロックを128画素x128画素とする。ただし、ツリーブロックは128
画素x128画素に限定されず、矩形であればどのような大きさ及び形状を用いてもよい
。また、ツリーブロックの大きさ及び形状は、符号化装置と復号化装置の間で固定の値を
定めておいてもよいが、符号化装置が決定して符号化ビットストリーム内に記録し復号化
装置が記録されたブロックサイズを用いる構成にしてもよい。入力された画像をツリーブ
ロックに分割する様子を
図4に示す。ツリーブロックは、ラスタスキャン順、すなわち左
から右、上から下に符号化及び復号化される。
【0035】
ツリーブロックの内部をさらに矩形のブロックに分割していく。ツリーブロック内部は
z-スキャン順に符号化・復号化していく。
図5にz-スキャンの順序を示す。z-スキ
ャンでは、左上、右上、左下、右下、の順序で符号化及び復号化する。ツリーブロック内
部の分割は4分割と2分割が可能であり、4分割は水平方向かつ垂直方向に分割する。2
分割は水平方向又は垂直方向に分割する。
図6はツリーブロックを水平かつ垂直方向に4
分割した図である。
図7はツリーブロックを水平方向に2分割した図である。
図8はツリ
ーブロックを垂直方向に2分割した図である。
【0036】
再び
図3を参照する。ツリーブロック内部を水平及び垂直方向に4分割するかどうかを
判断する(S1001)。
【0037】
ツリーブロック内部を4分割すると判断した場合(S1001:Yes)、ツリーブロ
ック内部を4分割し(S1002)、水平かつ垂直方向に4分割したブロックの各処理を
行う(S1003)。4分割されたブロックの再分割処理については後述する(
図9)。
【0038】
ツリーブロック内部を4分割しないと判断した場合(S1001:No)、ツリーブロ
ック内部を2分割するかどうかを判断する(S1004)。
【0039】
ツリーブロック内部を2分割すると判断した場合(S1004:Yes)、2分割する
方向を水平方向とするかどうかを判断する(S1005)。
【0040】
2分割する方向を水平方向と判断した場合(S1005:Yes)、ツリーブロック内
部を水平方向に2分割し(S1006)、水平方向に2分割したブロックの各処理を行う
(S1007)。水平方向に2分割されたブロックの再分割処理については後述する(図
10)。
【0041】
2分割する方向を水平方向ではなく垂直方向と判断した場合(S1005:No)、ツ
リーブロック内部を垂直方向に2分割し(S1008)、垂直方向に2分割したブロック
の各処理を行う(S1009)。水平方向に2分割されたブロックの再分割処理について
は後述する(
図11)。
【0042】
ツリーブロック内部を2分割しないと判断した場合(S1004:No)、ツリーブロ
ックの内部をブロック分割せずにブロック分割処理を終了する(S1010)。
【0043】
続いて、ツリーブロックを水平方向かつ垂直方向に4分割した場合の分割された各ブロ
ックの処理について
図9のフローチャートを用いて説明する。
【0044】
ブロック内部を水平かつ垂直方向に再び4分割するかどうかを判断する(S1101)
。
【0045】
ブロック内部を再び4分割すると判断した場合(S1101:Yes)、ブロック内部
を再び4分割し(S1102)、水平かつ垂直方向に4分割したブロックの各処理を行う
(S1103)。
【0046】
ブロック内部を再び4分割しないと判断した場合(S1101:No)、ブロック内部
を2分割するかどうかを判断する(S1104)。
【0047】
ブロック内部を2分割すると判断した場合(S1104:Yes)、2分割する方向を
水平方向とするかどうかを判断する(S1105)。
【0048】
2分割する方向を水平方向と判断した場合(S1105:Yes)、ブロック内部を水
平方向に2分割し(S1106)、水平方向に2分割したブロックの各処理を行う(S1
107)。
【0049】
2分割する方向を水平方向ではなく垂直方向と判断した場合(S1105:No)、ブ
ロック内部を垂直方向に2分割し(S1108)、垂直方向に2分割したブロックの各処
理を行う(S1109)。
【0050】
ブロック内部を2分割しないと判断した場合(S1104:No)、ブロックの内部を
ブロック分割せずにブロック分割処理を終了する(S1110)。
【0051】
図9のフローチャートに示す処理が4分割された各ブロックについて実行される。4分
割されたブロックの内部もz-スキャン順に符号化及び復号化していく。
【0052】
続いて、ツリーブロックを水平方向に2分割した場合の分割された各ブロックの処理に
ついて
図10のフローチャートを用いて説明する。
【0053】
ツリーブロックを水平方向に2分割した場合、2分割された各ブロックは、まず、ブロ
ック内部を水平及び垂直方向に4分割するかどうかを判断する(S1201)。
【0054】
ブロック内部を4分割すると判断した場合(S1201:Yes)、ブロック内部を4
分割し(S1202)、水平かつ垂直方向に4分割したブロックの各処理を行う(S12
03)。
【0055】
ブロック内部を4分割しないと判断した場合(S1201:No)、ブロック内部を再
び2分割するかどうかを判断する(S1204)。
【0056】
再び2分割すると判断した場合(S1204:Yes)、ブロック内部を垂直方向に分
割し(S1205)、垂直方向に2分割したブロックの各処理を行う(S1206)。
【0057】
再び2分割しないと判断した場合(S1204:No)、ブロックの内部を再分割せず
ブロック分割処理を終了する(S1207)。
【0058】
図11にツリーブロックの分割が水平方向に2分割された場合の分割されたブロックの
再分割の様子を示す。ここで、親ブロックであるツリーブロックが水平方向に2分割され
た場合、分割されたブロックの再2分割では、垂直方向のみの2分割を許容し、自動的に
垂直方向に2分割する。また、親ブロックであるツリーブロックが2分割された場合、子
ブロックでは4分割も完全に禁止することも可能である。これにより、親ブロックと同一
方向にブロックが分割されることを禁止できるため、より横方向に細長い長方形となるブ
ロック分割を防止でき、符号化・復号化の処理がしやすくなる。
【0059】
図10のフローチャートに示す処理が水平方向に2分割された各ブロックについて実行
される。2分割されたブロックの内部も上、下の順に符号化及び復号化していく。
【0060】
続いて、ツリーブロックを垂直方向に2分割した場合の分割された各ブロックの処理に
ついて
図12のフローチャートを用いて説明する。
【0061】
ツリーブロックを垂直方向に2分割した場合、2分割された各ブロックは、まず、ブロ
ック内部を水平及び垂直方向に4分割するかどうかを判断する(S1301)。
【0062】
ブロック内部を4分割すると判断した場合(S1301:Yes)、ブロック内部を4
分割し(S1302)、水平かつ垂直方向に4分割したブロックの各処理を行う(S13
03)。
【0063】
ブロック内部を4分割しないと判断した場合(S1301:No)、ブロック内部を再
び2分割するかどうかを判断する(S1304)。
【0064】
再び2分割すると判断した場合(S1304:Yes)、ブロック内部を水平方向に分
割し(S1305)、水平方向に2分割したブロックの各処理を行う(S1306)。
【0065】
再び2分割しないと判断した場合(S1304:No)、ブロックの内部を再分割せず
ブロック分割処理を終了する(S1307)。
【0066】
図13にツリーブロックの分割が垂直方向に2分割された場合の分割されたブロックの
再分割の様子を示す。ここで、親ブロックであるツリーブロックが垂直方向に2分割され
た場合、分割されたブロックの再2分割では、水平方向のみの2分割を許容し、自動的に
水平方向に2分割する。また、親ブロックであるツリーブロックが2分割された場合、子
ブロックでは4分割も完全に禁止することも可能である。これにより、親ブロックと同一
方向にブロックが分割されることを禁止できるため、より縦方向に細長い長方形となるブ
ロック分割を防止でき、符号化・復号化の処理がしやすくなる。
【0067】
図12のフローチャートに示す処理が垂直方向に2分割された各ブロックについて実行
される。2分割されたブロックの内部も左、右の順に符号化及び復号化していく。
【0068】
なお、ツリーブロックが分割された時の分割されたブロックの再分割について説明した
が、親ブロックがツリーブロックでなくてもよい。例えば、ツリーブロック(128x1
28)を4分割し、4分割されたブロック(64x64)をさらに4分割又は2分割した
場合に、再分割されたブロックの分割にも上記処理を適用していく。
【0069】
次に、画像復号化装置200のブロック分割部202の動作について説明する。画像符
号化装置100のブロック分割部101と同じ処理手順でブロックを分割するが、画像符
号化装置100のブロック分割部101では、ブロック分割のパターンを選択し、選択し
たブロック分割情報を出力するのに対して、画像復号化装置のブロック分割部202は、
符号化ビットストリームから復号化されたブロック分割情報を用いてブロックを分割する
こと、また、符号化ビットストリームからブロック分割情報を復号化する際に、同一方向
への再分割が禁止される状況では、選択肢のない情報はビットストリーム内で伝送しない
シンタックス構造となっていることが異なる。
【0070】
第1の実施の形態のブロック分割に関するシンタックス(符号化ビットストリームの構
文規則)の例を
図14に示す。ツリーブロックの内部の分割は、まず4分割をするかどう
かのフラグ(4_division_flag)を送受信する。4分割する場合(4_division_flagが1)
は、ツリーブロック内を4分割して処理を終了する。その後4分割されたブロックについ
て再度
図14に示すシンタックスで内部を再分割する。4分割しない場合(4_division_f
lagが0)は、2分割するかどうかのフラグ(2_division_flag)を送受信する。2分割す
る場合(2_division_flagが1)は、さらに、2分割する方向を示すフラグ(2_division_d
irection)を送受信する。2_division_directionが1の場合は垂直方向への分割を示し、2
_division_directionが0の場合は水平方向への分割を示す。その後2分割されたブロック
について再度
図14に示すシンタックスでブロック内部を再分割する。2分割しない場合
(2_division_flagが0)は、ツリーブロックを分割せずに処理を終了する。
【0071】
ここで、4分割又は2分割されたブロックの内部を再分割する処理について説明する。
ブロック内部を再分割する処理も
図14に示すシンタックスを用いるが、ツリーブロック
を分割する場合と比較して、2分割する場合の分割方向に制限があることが異なる。つま
り、ツリーブロックを2分割している場合、2分割されたブロックの内部を再分割する場
合には、ツリーブロックを2分割した分割方向と同一の方向で分割することを禁止する。
これにより、分割されたブロックがより細長い長方形になることを防止し、イントラ予測
やインター予測で必要となるメモリ帯域の増加を防止することができる。メモリ帯域の増
加の防止についての詳細は後述する。
【0072】
また、同一方向に2分割した数をカウントして所定回数を超えた場合に同一方向に分割
することを制限してももちろんよい。例えば、2回まで同一方向への2分割を許可するが
、3回目からは同一方向への2分割を禁止する。
【0073】
図14では、4分割を優先して選択し、4分割するかどうかの情報を2分割するかどう
かの情報よりも先に送受信するシンタックスとした。一方、2分割を優先して選択する場
合、2分割するかどうかの情報を4分割するかどうかの情報よりも先に送受信するシンタ
ックスとすることも可能である。確率的により発生しやすい事象を先に送受信する方がビ
ットストリームとして伝送する符号量が少なくなるためである。つまり、予め4分割と2
分割のどちらが発生しやすいか推定し、より発生しやすい分割情報を先にする送受信する
シンタックスとしてもよい。例えば、画像のヘッダ情報で4分割を優先するか、2分割を
優先するかを送受信することで、符号化装置が適応的に符号化効率の高い優先分割数を決
定して、復号化装置では選択された優先分割数に基づいたシンタックスでツリーブロック
内部を分割することもできる。
【0074】
画像符号化装置100及び画像復号化装置200において、分割されたブロックを用い
てイントラ予測やインター予測が行われる。イントラ予測、インター予測ともにメモリか
らの画素のコピーを伴う。
【0075】
図15(a)~
図15(d)にイントラ予測の一例を示す。
図15(a)及び
図15(
b)はイントラ予測の予測方向とモード番号を示す。イントラ予測は、
図15(c)及び
図15(d)に示すように、符号化・復号化対象ブロックに近接する符号化・復号化済の
画素から画素をコピーすることで符号化・復号化対象ブロックの予測画像を生成する。イ
ントラ予測では、ブロック単位で予測画像生成から符号化・復号化画素生成を繰り返すた
め、処理順序がブロック単位でシーケンシャルとなり、ブロック内部を小さく分割するほ
ど全体の処理の負荷が大きくなる。また、ブロックの形状が細長い長方形になるほどメモ
リからの画素コピーの処理が大きくなる。また、符号化・復号化には残差信号の直交変換
を行うため、長方形のサイズの種類が多くなればなるほど必要な直交変換の種類が多くな
り、その結果回路規模の増大につながる。そのため、ブロック内部を2分割する場合に、
親ブロックの分割方法と同一方向に2分割することを制限することで、イントラ予測で必
要となるメモリ帯域の増加を防止することができる。
【0076】
図16にインター予測の一例を示す。インター予測は、符号化・復号化済の画像に含ま
れる画素からブロック単位で画素をコピーすることで符号化・復号化対象ブロックの予測
画像を生成する。インター予測では、参照画像からブロック単位で画素をコピーする際に
、必要な画素が含まれるメモリの管理単位での取得が必要な装置の構成となることが多い
。そのため、ブロックを小さく分割するほど、また、ブロックの形状が細長い長方形にな
るほど、全体の処理の負荷が大きくなる。また、参照画像に対して補間フィルタを用いた
小数精度の動き補償を行う場合には、ブロック内に含まれる画素に数画素を加えた画素の
コピーが必要となり、ブロックの大きさが小さいほど、追加する数画素の相対的な比率が
大きくなり、全体の処理の負荷が大きくなる。そのため、ブロック内部を2分割する場合
に、親のブロックの分割方向と同一方向に2分割することを制限することで、インター予
測で必要となるメモリ帯域の増加を防止することができる。
【0077】
(第2の実施の形態)
本発明の第2の実施の形態に係る画像符号化装置及び画像復号化装置について説明する
。第2の実施の形態では、ブロックが所定サイズ以下の場合にブロック内部をさらに分割
することを制限することが第1の実施の形態とは異なり、それ以外の構成は第1の実施の
形態と同様である。これにより、ブロック内部を小さく分割するほど全体の処理の負荷が
大きくなることを防止する。
【0078】
図17、
図18に第2の実施の形態のブロック分割に関するシンタックスを示す。第1
の実施の形態の
図14のシンタックスとの差異は、最初にブロックの大きさが所定サイズ
より大きい場合のみブロック分割を可能としていることである。
図17の場合、ブロック
内の画素数が64より大きい場合のブロックを4分割または2分割できる。
【0079】
また、4分割と2分割で分割されたブロック内の画素数の差を考慮する場合、
図18の
ように、4分割はブロック内の画素数が64より大きい場合に許可し、2分割はブロック
内の画素数が32より大きい場合に許可する。これにより、分割されたブロックの画素数
の制限を精度よく制御できる。
【0080】
(第3の実施の形態)
本発明の第3の実施の形態に係る画像符号化装置及び画像復号化装置について説明する
。第3の実施の形態では、垂直方向に分割されたブロック内部をさらに垂直方向に分割す
ることを制限することが第1の実施の形態とは異なり、それ以外の構成は第1の実施の形
態と同様である。
【0081】
通常、画像の画素情報は一次元メモリにラスタスキャン順に格納される。つまり、一次
元メモリ上は、水平方向の画素は相対的に近くに格納されており、垂直方向の画素は相対
的に遠くに格納されている。よって、水平方向の画素へのアクセスは容易であるが、垂直
方向の画素へのアクセスは容易ではない。例えば、横16画素x縦8画素のブロックと横
8画素x縦16画素のブロックの場合、画素数は同じであるが、横8画素x縦16画素の
ブロックの方が横画素16x縦画素8のブロックよりも画素が格納されているメモリの範
囲が広い。そのため、動き補償を用いる際に画素の転送により多くのメモリバンド幅を必
要とする。
【0082】
図19に第3の実施の形態のブロック分割に関するシンタックスを示す。第1の実施の
形態の
図14のシンタックスとの差異は、親ブロックが垂直方向に2分割されている場合
にのみ、さらに内部を垂直方向に2分割することを禁止する。つまり、
図20のように、
親ブロックが垂直方向に2分割されている場合、さらに内部を2分割する場合には、水平
方向と垂直方向の選択はなく自動的に水平方向の分割が選択される。
【0083】
(第4の実施の形態)
本発明の第4の実施の形態に係る画像符号化装置及び画像復号化装置について説明する
。第4の実施の形態では、ブロックを2分割した後、分割された内部のブロックを4分割
した場合に、4分割された内部のブロックのさらなる分割を禁止することが第1の実施の
形態とは異なり、それ以外の構成は第1の実施の形態と同様である。
【0084】
図21に第4の実施の形態のブロック分割に関するシンタックスを示す。
図22のよう
に、親ブロックが2分割された後に、分割された内部のブロックを4分割した場合、2_di
vision_after_4_division_flagが1となり、その後の分割をすべて禁止する。
【0085】
これは、2分割後に4分割した場合には、2分割を選択した際に4分割を選択しなかっ
たことが確定しているため、2分割後に4分割した後にさらにブロック分割が必要になる
可能性が低いためである。そのような場合は、最初から4分割を選択すればよい。また、
2分割後に4分割している場合は、ブロックの形状が既に長方形になっているため、4分
割後にさらに2分割する方向を禁止しようとすると、処理が複雑になる。2分割後に4分
割されたブロックに対して一意的にその後のブロック分割を禁止すれば、ブロック分割が
可能であるかどうか判定処理も複雑にならずに済む。2分割後に4分割されたブロックに
対して一意的にその後のブロック分割を禁止することで、ブロック分割をしない選択をビ
ットストリームで送受信する必要がなくなり、伝送する符号量を削減できる。
【0086】
なお、第1の実施の形態~第4の実施の形態までのブロック分割制限の手法を複数組み
合わせることももちろん可能である。
【0087】
以上述べた実施の形態の画像符号化装置が出力する画像の符号化ビットストリームは、
実施の形態で用いられた符号化方法に応じて復号化することができるように特定のデータ
フォーマットを有しており、画像符号化装置に対応する画像復号化装置がこの特定のデー
タフォーマットの符号化ビットストリームを復号化することができる。
【0088】
画像符号化装置と画像復号化装置の間で符号化ビットストリームをやりとりするために
、有線または無線のネットワークが用いられる場合、符号化ビットストリームを通信路の
伝送形態に適したデータ形式に変換して伝送してもよい。その場合、画像符号化装置が出
力する符号化ビットストリームを通信路の伝送形態に適したデータ形式の符号化データに
変換してネットワークに送信する送信装置と、ネットワークから符号化データを受信して
符号化ビットストリームに復元して画像復号化装置に供給する受信装置とが設けられる。
【0089】
送信装置は、画像符号化装置が出力する符号化ビットストリームをバッファするメモリ
と、符号化ビットストリームをパケット化するパケット処理部と、パケット化された符号
化データをネットワークを介して送信する送信部とを含む。受信装置は、パケット化され
た符号化データをネットワークを介して受信する受信部と、受信された符号化データをバ
ッファするメモリと、符号化データをパケット処理して符号化ビットストリームを生成し
、画像復号化装置に提供するパケット処理部とを含む。
【0090】
また、画像復号化装置で復号化された画像を表示する表示部を構成に追加することで、
表示装置とすることも可能である。その場合、表示部は、復号画像信号重畳部205によ
り生成され、復号画像メモリ206に格納された復号画像信号を読み出して画面に表示す
る。
【0091】
また、撮像部を構成に追加し、撮像した画像を画像符号化装置に入力することで、撮像
装置とすることも可能である。その場合、撮像部は、撮像した画像信号をブロック分割部
101に入力する。
【0092】
以上の符号化及び復号化に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置
として実現することができるのは勿論のこと、ROM(リード・オンリ・メモリ)やフラ
ッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによ
っても実現することができる。そのファームウェアプログラム、ソフトウェアプログラム
をコンピュータ等で読み取り可能な記録媒体に記録して提供することも、有線あるいは無
線のネットワークを通してサーバから提供することも、地上波あるいは衛星ディジタル放
送のデータ放送として提供することも可能である。
【0093】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構
成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例
も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【0094】
100 画像符号化装置、 101 ブロック分割部、 102 予測画像生成部、
103 残差信号生成部、 104 直交変換・量子化部、 105 符号化ビット列生
成部、 106 逆量子化・逆直交変換部、 107 復号画像信号重畳部、 108
復号画像メモリ、 200 画像復号化装置、 201 ビット列復号部、 202 ブ
ロック分割部、 203 逆量子化・逆直交変換部、 204 予測画像生成部、 20
5 復号画像信号重畳部、 206 復号画像メモリ。