特許第6075898号(P6075898)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電信電話株式会社の特許一覧 ▶ NTTエレクトロニクス株式会社の特許一覧

特許6075898映像符号化装置、映像符号化方法及びプログラム
<>
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000002
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000003
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000004
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000005
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000006
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000007
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000008
  • 特許6075898-映像符号化装置、映像符号化方法及びプログラム 図000009
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】6075898
(24)【登録日】2017年1月20日
(45)【発行日】2017年2月8日
(54)【発明の名称】映像符号化装置、映像符号化方法及びプログラム
(51)【国際特許分類】
   H04N 19/119 20140101AFI20170130BHJP
   H04N 19/137 20140101ALI20170130BHJP
   H04N 19/14 20140101ALI20170130BHJP
   H04N 19/176 20140101ALI20170130BHJP
   H04N 19/52 20140101ALI20170130BHJP
【FI】
   H04N19/119
   H04N19/137
   H04N19/14
   H04N19/176
   H04N19/52
【請求項の数】17
【全頁数】22
(21)【出願番号】特願2015-170887(P2015-170887)
(22)【出願日】2015年8月31日
【審査請求日】2015年8月31日
(73)【特許権者】
【識別番号】000004226
【氏名又は名称】日本電信電話株式会社
(73)【特許権者】
【識別番号】591230295
【氏名又は名称】NTTエレクトロニクス株式会社
(74)【代理人】
【識別番号】110001634
【氏名又は名称】特許業務法人 志賀国際特許事務所
(72)【発明者】
【氏名】佐野 卓
(72)【発明者】
【氏名】大西 隆之
(72)【発明者】
【氏名】清水 淳
(72)【発明者】
【氏名】尾崎 克之
(72)【発明者】
【氏名】中村 健
【審査官】 後藤 嘉宏
(56)【参考文献】
【文献】 特開2014−107708(JP,A)
【文献】 特開2015−144467(JP,A)
【文献】 特開2013−42304(JP,A)
【文献】 特開2014−158164(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 19/00−19/98
(57)【特許請求の範囲】
【請求項1】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え
前記マージサイズ決定部は、前記直交変換値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項2】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え、
前記マージサイズ決定部は、前記直交変換値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記直交変換値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項3】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え、
前記マージサイズ決定部は、前記直交変換値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記直交変換値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項4】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え
前記マージサイズ決定部は、前記予測誤差値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項5】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え、
前記マージサイズ決定部は、前記予測誤差値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記予測誤差値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項6】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、
前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、
前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、
を備え、
前記マージサイズ決定部は、前記予測誤差値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記予測誤差値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化装置。
【請求項7】
前記閾値は、階層符号化における階層の深さを示すテンポラルIDに応じて決定される、
ことを特徴とする請求項1から請求項のいずれか一項に記載の映像符号化装置。
【請求項8】
前記閾値は、量子化パラメータの値に応じて決定される、
ことを特徴とする請求項1から請求項のいずれか一項に記載の映像符号化装置。
【請求項9】
前記閾値は、前記符号化ユニットの輝度の分散値をスケーリングした値である、
ことを特徴とする請求項1から請求項のいずれか一項に記載の映像符号化装置。
【請求項10】
前記マージサイズ決定部は、階層符号化における階層の深さを示すテンポラルIDが同一の符号化済みのピクチャにおける同一の符号化ユニットサイズの符号化ユニットの直交変換値または予測誤差値の平均値をスケーリングして前記閾値を決定する、
ことを特徴とする請求項1から請求項のいずれか一項に記載の映像符号化装置。
【請求項11】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換ステップと、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記直交変換値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項12】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換ステップと、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記直交変換値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記直交変換値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項13】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換ステップと、
前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記直交変換値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記直交変換値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項14】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記予測誤差値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項15】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記予測誤差値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記予測誤差値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項16】
入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置に用いられる映像符号化方法であって、
入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測ステップと、
前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定ステップと、
決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出ステップと、
前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定ステップと、
前記マージサイズ決定ステップにおいて決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価ステップと、
前記マージモード評価ステップによる各マージ候補の前記評価と、前記符号化ユニットサイズ決定ステップにおいて決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定ステップと、
を有し、
前記マージサイズ決定ステップにおいては、前記予測誤差値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記予測誤差値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、
ことを特徴とする映像符号化方法。
【請求項17】
コンピュータを、
請求項1から請求項10のいずれか一項に記載の映像符号化装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像符号化装置、映像符号化方法及びプログラムに関する
【背景技術】
【0002】
映像符号化技術には、MPEG(Moving Picture Experts Group)−2、MPEG−4、MPEG−4/AVC(Advanced Video Coding)が多く用いられている。最近では、次世代の映像符号化規格であるHEVC(High Efficiency Video Coding)が規格化され、今後普及していくものと考えられる。HEVCでは符号化処理の自由度を高めるために様々なブロックサイズでの符号化をサポートしている。
【0003】
図7は、HEVCにおけるPU(予測ユニット)分割パターンを示す図である。HEVCでは、ブロックサイズが64×64、32×32、16×16、8×8の4つの符号化ユニット(CU)それぞれを、同図に示す7〜8種類のPUに分割することが可能となっている。再帰的な四分木構造によって適応的に符号化ユニットを分割することで、高効率な符号化が可能である。また、H.264/AVCやHEVCでは、差分動きベクトルを符号化する動きベクトル予測符号化と、差分動きベクトルを伝送しない符号化の2種類の動き情報符号化モードを採用している。これらのモードを切り替えることで高効率な符号化が実現される。これらのモードはH.264/AVCではダイレクトモード(予測誤差の符号化も行わない場合はスキップモード)、HEVCではマージモードと呼ばれる。
【0004】
動きベクトル予測符号化では2つの予測動きベクトル候補から選択して符号化を行う。
図8は、HEVCにおける空間マージ候補を示す図である。マージ符号化では、同図に示すように符号化対象のPU(対象PU)の周囲の動きベクトルを使用する空間マージ候補に加え、時間マージ候補、結合双予測候補、ゼロマージ候補の中から最大で5つの動きベクトルをマージ候補リストに登録し、符号化を行う。従って、CUサイズ(4種類)とPUサイズ(7種類)の組み合わせそれぞれに対して予測動きベクトル候補(2種類)及びマージ候補(5種類)が存在する。全てのブロックサイズとモードの組み合わせは、4×7×(2+5)=196パターンとなるため、非常に膨大な演算量を必要とする。
【0005】
このような問題を解決するために、動き予測に要する演算量を削減する手法がある(例えば、特許文献1参照)。この手法では、処理対象の符号化ブロックと参照ピクチャにおける同位置のブロックとの差分値を求め、差分値を閾値処理することでダイレクトモード又はスキップモードを用いるか否かを決定する。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2013−157662号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1に記載の映像符号化装置では、対象符号化ブロックに対する動き予測の演算量が均一にならないため、ハードウェアの実装においてはハードウェア規模の増大や使用効率低下というデメリットがある。
【0008】
上記事情に鑑み、本発明は、符号化モードの決定に要する演算量を削減することができる映像符号化装置、映像符号化方法及びプログラムを提供することを目的としている。
【課題を解決するための手段】
【0009】
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記直交変換値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、映像符号化装置である。
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記直交変換値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記直交変換値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、映像符号化装置である。
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値にアダマール変換を行って直交変換値を算出する直交変換部と、前記直交変換値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記直交変換値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記直交変換値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記直交変換値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、映像符号化装置である。
【0010】
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記予測誤差値が閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、閾値以上の場合は前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定する、映像符号化装置である。
【0012】
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記予測誤差値が第1の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットと同じ符号化ユニットサイズに決定し、前記予測誤差値が、前記第1の閾値以上かつ第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が、前記第2の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも2つ小さい符号化ユニットサイズに決定する、映像符号化装置である
【0013】
本発明の一態様は、入力映像信号のピクチャの時間的相関を利用し、該ピクチャについて符号化ユニット単位に動き予測を行い、前記動き予測の結果に基づき生成された予測画像との差分の符号化処理を行う映像符号化装置であって、入力映像信号のピクチャである原画像に対し複数の符号化ユニットサイズについて動き予測を行い、前記符号化ユニットサイズごとに動き予測の評価を行う動き予測部と、前記動き予測の評価に基づいて前記原画像の符号化ユニットサイズを決定する符号化ユニットサイズ決定部と、決定された前記符号化ユニットサイズの前記符号化ユニットの前記原画像と前記予測画像との差分である予測誤差値を算出する予測誤差算出部と、前記予測誤差値と閾値との比較に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定するマージサイズ決定部と、前記マージサイズ決定部が決定した前記マージサイズの符号化ユニットについて各マージ候補の評価を行うマージモード評価部と、前記マージモード評価部による各マージ候補の前記評価と、前記符号化ユニットサイズ決定部が決定した前記符号化ユニットサイズの前記評価とに基づき、符号化に用いるモードを決定するインター予測モード決定部と、を備え、前記マージサイズ決定部は、前記予測誤差値が第1の閾値以上の場合、前記マージサイズを前記符号化ユニットよりも1つ小さい符号化ユニットサイズに決定し、前記予測誤差値が前記第1の閾値よりも小さく、かつ、第2の閾値以上の場合、前記マージサイズを前記符号化ユニットと同じサイズの符号化ユニットサイズに決定し、前記予測誤差値が前記第2の閾値よりも小さい場合、前記マージサイズを前記符号化ユニットよりも1つ大きい符号化ユニットサイズに決定する、映像符号化装置である
【0014】
本発明の一態様は、上述の映像符号化装置であって、前記閾値は、階層符号化における階層の深さを示すテンポラルIDに応じて決定される。
【0015】
本発明の一態様は、上述の映像符号化装置であって、前記閾値は、量子化パラメータの値に応じて決定される。
【0016】
本発明の一態様は、上述の映像符号化装置であって、前記閾値は、前記符号化ユニットの輝度の分散値をスケーリングした値である。
【0017】
本発明の一態様は、上述の映像符号化装置であって、前記マージサイズ決定部は、階層符号化における階層の深さを示すテンポラルIDが同一の符号化済みのピクチャにおける同一の符号化ユニットサイズの符号化ユニットの直交変換値または予測誤差値の平均値をスケーリングして前記閾値を決定する。
【発明の効果】
【0018】
本発明により、符号化モードの決定に要する演算量を削減することが可能となる。
【図面の簡単な説明】
【0019】
図1】本発明の一実施形態による映像符号化装置100の構成を示すブロック図である。
図2図1に示すインター予測処理部102の構成を示すブロック図である。
図3図2に示すマージサイズ決定部203の処理フローを示す図である。
図4】階層符号化構造におけるテンポラルIDを示す図である。
図5図2に示すマージサイズ決定部203の処理フロー(2段階小さくすることが可能な場合)を示す図である。
図6図2に示すマージサイズ決定部203の処理フロー(1段階大きく/小さくすることが可能な場合)を示す図である。
図7】HEVCにおけるPU分割パターンを示す図である。
図8】HEVCにおける空間マージ候補を示す図である。
【発明を実施するための形態】
【0020】
以下、図面を参照して、本発明の一実施形態による映像符号化装置を説明する。
図1は、本実施形態による映像符号化装置100の構成を示すブロック図であり、本実施形態と関係する機能ブロックのみを抽出して示してある。同図に示すように、映像符号化装置100は、イントラ予測処理部101、インター予測処理部102、予測残差信号生成部103、変換・量子化処理部104、エントロピー符号化部105、符号量制御部106、逆量子化・逆変換処理部107、復号信号生成部108、及び、ループフィルタ処理部109を備える。映像符号化装置100において、インター予測処理部102の中の処理が従来技術と異なる構成であり、他の部分はHEVC等の映像符号化装置として用いられている従来の一般的な構成と同様である。
【0021】
映像符号化装置100は、符号化対象であるピクチャ(原画像)の入力映像信号を入力する。原画像は、符号化処理の対象となっている動画像の個々のフレームのピクチャである。映像符号化装置100は、入力映像信号のピクチャを符号化ツリーユニット(CTU)に分割してユニット毎に符号化し、そのビットストリームを符号化ストリームとして出力する。この符号化のため、予測残差信号生成部103は、入力映像信号とイントラ予測処理部101又はインター予測処理部102の出力である予測信号との差分を求め、求めた差分を予測残差信号として出力する。予測信号は、予測画像を表す。変換・量子化処理部104は、予測残差信号生成部103が出力した予測残差信号に対して離散コサイン変換等の直交変換を行う。変換・量子化処理部104は、直交変換の結果得られた変換係数を量子化し、その量子化された変換係数を出力する。エントロピー符号化部105は、変換・量子化処理部104により量子化された変換係数をエントロピー符号化し、符号化ストリーム(ビットストリーム)として出力する。符号量制御部106は、エントロピー符号化部105が出力した符号化ストリームから符号量等の符号化情報を入力とし、次の符号化に必要な量子化パラメータを適応的に切り替えて出力する。
【0022】
一方、変換・量子化処理部104により量子化された変換係数は、逆量子化・逆変換処理部107にも入力される。逆量子化・逆変換処理部107は、変換係数に逆量子化と逆直交変換を行った結果得られた予測残差信号を出力する。復号信号生成部108は、予測残差信号とイントラ予測処理部101又はインター予測処理部102の出力である予測信号とを加算し、符号化した符号化対象ブロックの復号映像信号を生成する。この復号映像信号は、インター予測処理部102において参照画像として用いられるため、ループフィルタ処理部109に対して出力される。ループフィルタ処理部109は、符号化歪みを低減するフィルタリング処理を行い、このフィルタリング処理後の参照画像を復号映像信号としてインター予測処理部102に対して出力する。
【0023】
次に、図2を参照して、図1に示すインター予測処理部102の構成を説明する。
図2は、図1に示すインター予測処理部102の構成を示すブロック図である。
インター予測処理部102は、動き予測部201、符号化ユニットサイズ決定部202、マージサイズ決定部203、マージモード評価部204、インター予測モード決定部205、及び、予測画像信号生成部206を備える。本実施形態では、マージサイズ決定部203の中の処理が従来技術と異なる構成であり、他の部分は任意の一般的な処理を適用できる。
【0024】
動き予測部201は、符号化対象である原画像と、参照画像となる復号映像信号を入力し、各符号化ユニットサイズについて動き予測を行う。動き予測では、復号映像信号が示す参照画像(ピクチャ)において、原画像(ピクチャ)内の符号化ユニットと類似する領域を探索する。動き予測部201は、動き予測の結果として符号化ユニットサイズ毎の評価値を符号化ユニットサイズ決定部202へ出力する。評価値は、例えば、原画像内の符号化ユニットの画素と参照画像上で対応する領域の画素との差分の絶対値和に、動きベクトルや符号化モードを記述するために必要なビット量(符号化コスト)に相当する値を加えた値を用いることができるが、これに限定されない。符号化ユニットサイズ決定部202は、動き予測部201から入力した符号化ユニットサイズ毎の評価値を用いて予測動きベクトル符号化に用いる符号化ユニットサイズを決定し、マージサイズ決定部203に出力する。また、符号化ユニットサイズ決定部202は、決定した符号化ユニットサイズを含む予測動きベクトル符号化情報を、インター予測モード決定部205に出力する。
【0025】
マージサイズ決定部203は、符号化ユニットサイズ決定部202により決定された符号化ユニットサイズの残差信号(SAD)又はSADにアダマール変換を施したアダマール係数(SATD)に対して閾値処理を行う。マージサイズ決定部203は、この閾値処理によって、マージ評価を行うマージサイズを1つ決定し、マージモード評価部204に出力する。
マージサイズ決定部203は、予測誤差算出部2031、直交変換部2032、及び、サイズ決定部2033を備える。予測誤差算出部2031は、符号化ユニットサイズ決定部202により決定された符号化ユニットサイズの符号化ユニットについてSADを算出する。SADは、符号化ユニットの予測画像と原画像との差分値として算出される予測誤差である。予測画像は、ループフィルタ処理部109から入力された参照画像の生成に用いられた予測信号が示すピクチャである。直交変換部2032は、予測誤差算出部2031が算出したSADにアダマール変換を行って、SATDを算出する。サイズ決定部2033は、SAD又はSATDと閾値とを比較した結果に基づいてマージモードの符号化ユニットサイズであるマージサイズを決定する。なお、サイズ決定部2033がSAD値と閾値との比較によりマージサイズを決定する場合、マージサイズ決定部203は、直交変換部2032を備えなくともよい。
【0026】
マージモード評価部204は、マージサイズ決定部203により決定されたマージサイズの符号化ユニットについて最大5つのマージ候補の評価を行うために動き予測処理を行い、動き予測処理に基づいて各マージ候補の評価値を算出してインター予測モード決定部205に出力する。この評価値には、動き予測部201と同様の評価値が用いられる。原画像内の符号化ユニットと参照画像上で対応する領域は、その符号化ユニットのマージ候補について算出済みの動きベクトルの情報から特定される。
【0027】
インター予測モード決定部205は、符号化ユニットサイズ決定部202及びマージモード評価部204から動き予測の評価値を入力する。符号化ユニットサイズ決定部202から入力する動き予測の評価値は、符号化ユニットサイズ決定部202が決定した符号化ユニットサイズについての評価値である。マージモード評価部204から入力する動き予測の評価値は、マージサイズ決定部203が決定した1つのマージサイズについての最大5つのマージ候補それぞれの評価値である。インター予測モード決定部205は、動き予測の評価値に基づいて符号化ユニットサイズ及びインター予測モードを決定し、予測画像信号生成部206へ送信する。インター予測モードは、動きベクトルを符号化するモードと、動きベクトルを符号化しないマージモードとのいずれかである。予測画像信号生成部206は、インター予測モード決定部205により決定された符号化ユニットサイズ及びインター予測モードに従って予測画像信号を生成し、予測残差信号生成部103へ送信する。
【0028】
本実施形態では、図2に示すマージサイズ決定部203が、符号化ユニットサイズ決定部202により決定された符号化ユニットサイズを基準として、マージサイズを、当該符号化ユニットと同サイズにするか1つ小さいサイズにするかを決定する。マージサイズ決定部203は、この決定を、当該符号化ユニットのSAD値又はSATD値に応じて行う。マージサイズ決定部203がマージサイズを決定することにより、マージモード評価部204は、少ない演算量でマージモードの評価を行うことができる。従って、符号化効率を低下させずに動き予測に要する演算量を削減することが可能である。以下、SATD値を用いた場合について説明するが、SAD値を用いた場合も同様の処理を行うことが可能である。
【0029】
図3は、図2に示すマージサイズ決定部203の処理フローを示す図である。マージサイズ決定部203は、符号化ユニットごとに図3に示す処理を行い、当該符号化ユニットのマージサイズを決定する。以下では、マージサイズを決定する対象の符号化ユニットを、対象符号化ユニットとも記載する。
【0030】
マージサイズ決定部203は、符号化ユニットサイズ決定部202により決定された対象符号化ユニットの符号化ユニットサイズを判断する(ステップS105)。符号化ユニットサイズが64×64である場合(ステップS105:符号化ユニットサイズ64×64)、直交変換部2032は、予測誤差算出部2031が算出した対象符号化ユニットの残差信号からSATD値を算出し、SATD64×64とする。サイズ決定部2033は、SATD64×64と閾値TH64×64とを比較する(ステップS110)。サイズ決定部2033は、SATD64×64が閾値TH64×64よりも小さいと判断した場合(ステップS110:YES)、対象符号化ユニットのマージサイズを符号化ユニットサイズと同じ64×64に決定する(ステップS115)。一方、サイズ決定部2033は、SATD64×64が閾値TH64×64以上であると判断した場合(ステップS110:NO)、当該符号化ユニットサイズでは符号化効率が悪くなる可能性があるため、対象符号化ユニットのマージサイズを、符号化ユニットサイズよりも1つ小さい32×32に決定する(ステップS120)。これにより、符号化効率の低下を抑制する。
【0031】
以下同様に、符号化ユニットサイズが32×32である場合(ステップS105:符号化ユニットサイズ32×32)、直交変換部2032は、予測誤差算出部2031が算出した対象符号化ユニットの残差信号からSATD値を算出し、SATD32×32とする。サイズ決定部2033は、SATD32×32と閾値TH32×32とを比較する(ステップS125)。サイズ決定部2033は、SATD32×32が閾値TH32×32よりも小さいと判断した場合(ステップS125:YES)、対象符号化ユニットのマージサイズを符号化ユニットサイズと同じ32×32に決定する(ステップS120)。一方、サイズ決定部2033は、SATD32×32が閾値TH32×32以上であると判断した場合(ステップS125:NO)、マージサイズを符号化ユニットサイズよりも1つ小さい16×16に決定する(ステップS130)。
【0032】
符号化ユニットサイズが16×16である場合(ステップS105:符号化ユニットサイズ16×16)、直交変換部2032は、予測誤差算出部2031が算出した対象符号化ユニットの残差信号からSATD値を算出し、SATD16×16とする。サイズ決定部2033は、SATD16×16と閾値TH16×16とを比較する(ステップS135)。サイズ決定部2033は、SATD16×16が閾値TH16×16よりも小さいと判断した場合(ステップS135:YES)、対象符号化ユニットのマージサイズを符号化ユニットサイズと同じ16×16に決定する(ステップS130)。一方、サイズ決定部2033は、SATD16×16が閾値以上であると判断した場合(ステップS135:NO)、マージサイズを符号化ユニットサイズよりも1つ小さい8×8に決定する(ステップS140)。
【0033】
符号化ユニットサイズが8×8である場合(ステップS105:符号化ユニットサイズ8×8)、サイズ決定部2033は、対象符号化ユニットのマージサイズを符号化ユニットサイズと同じ8×8に決定する(ステップS140)。
【0034】
図3の処理においてSATD値との比較に用いられる閾値の決定方法はいくつか考えられる。1つ目の形態は、サイズ毎に異なる固定値を用いる方法である。各符号化ユニットサイズに応じて、TH64×64、TH32×32、TH16×16、TH8×8をそれぞれ設定する。最も単純な方法であり、常に一定の条件でSATD値が大きい場合は、マージサイズは対象符号化ユニットの符号化ユニットサイズよりも1つ小さいサイズとする。
【0035】
2つ目の形態は、テンポラルIDに応じて閾値を設定する方法である。
図4は、階層符号化構造におけるテンポラルIDを示す図である。テンポラルIDとは、同図に示すように、階層符号化構造を用いた場合の階層の深さを示す値である。BはBピクチャ、IはIピクチャを示し、矢印の先はBピクチャが参照しているピクチャを示す。テンポラルIDが深いほどBピクチャと参照先のピクチャのフレーム間距離が短くなるため、一般的にはピクチャの符号量が少なくなっていく。大きなサイズのマージモードを効率良く適用することで、階層が深い場合のピクチャ符号量を削減することが可能である。そこで、各テンポラルID(TemporalID)毎に基準閾値(BaseTH)を用意しておき、下記の式(1)〜(4)に示すように固定値βに乗ずる。これにより、階層が深くなるにつれマージサイズの分割がされにくくなるように閾値を設定する。
【0036】
TH64×64=β×BaseTH[TemporalID] …(1)
TH32×32=β×BaseTH[TemporalID]/4 …(2)
TH16×16=β×BaseTH[TemporalID]/16 …(3)
TH8×8=β×BaseTH[TemporalID]/64 …(4)
【0037】
3つ目の形態は、量子化パラメータ(QP)に応じて閾値を設定する方法である。上記で述べたようにピクチャの割り当て符号量が少ない場合には大きなサイズのマージモードを効率よく適用し、逆にピクチャの割り当て符号量が多い場合には小さいサイズのマージモードを用いることで高効率な符号化が可能となる。よって下記の式(5)〜(8)に示すようにQPの値に応じて閾値を設定する。γは固定値である。
【0038】
TH64×64=γ×QP …(5)
TH32×32=γ×QP/4 …(6)
TH16×16=γ×QP/16 …(7)
TH8×8=γ×QP/64 …(8)
【0039】
4つめの形態は、原画像における処理対象の符号化ユニットの輝度の分散値を用いる方法である。輝度の分散値が大きい場合、すなわち当該符号化ユニットのテクスチャが細かい場合は、符号化ユニットサイズを小さくして細かく符号化を行う方が効率が良い。反対に、輝度の分散値が小さい場合、符号化ユニットサイズを大きくして符号量を削減する方が効率が良い。よって、下記の式(9)〜(12)に示すように輝度の分散値(Var)に応じて閾値を設定する。ζは固定値である。
【0040】
TH64×64=ζ/Var …(9)
TH32×32=ζ/Var/4 …(10)
TH16×16=ζ/Var/16 …(11)
TH8×8=ζ/Var/64 …(12)
【0041】
5つめの形態は、同一テンポラルIDの符号化済みピクチャにおける同一の符号化ユニットサイズの符号化ユニットについてSAD又はSATDの平均値を用いる方法である。サイズ決定部2033は、毎ピクチャ符号化終了時に符号化ユニットサイズ毎にSAD値又はSATD値を集計し、平均値を算出して保存しておく。そして次ピクチャの符号化開始時に、サイズ決定部2033は、同一テンポラルIDの直近の符号化済みピクチャから得られた各符号化ユニットサイズのSAD値又はSATD値の平均値を読み出し、値を調整するスケーリングを行って閾値として設定する。
【0042】
以上、閾値の設定方法を説明してきたが、上記実施の形態は例示に過ぎず、上記実施の形態に限定されるものではないことは明らかである。また、上記実施の形態を組み合わせて閾値を設定することももちろん可能である。例えば2つめの形態で説明したテンポラルIDと3つめの形態で説明した量子化パラメータを組み合わせて閾値を設定した場合は、下記の式(13)〜(16)のようにすればよい。ηは固定値である。
【0043】
TH64×64
=η×BaseTH[TemporalID]×QP …(13)
TH32×32
=η×BaseTH[TemporalID]×QP/4 …(14)
TH16×16
=η×BaseTH[TemporalID]×QP/16 …(15)
TH8×8
=η×BaseTH[TemporalID]×QP/64 …(16)
【0044】
また、図3ではマージサイズを符号化ユニットと同サイズか1つ小さいサイズに決定する手法について述べたが、64×64サイズ、32×32サイズにおいては閾値を調整することで2つ小さいサイズに変更する手段も考えられる。
【0045】
図5は、64×64サイズ、32×32サイズにおいて2つ小さいサイズに変更可能な場合のマージサイズ決定部203の処理フローを示す図である。
マージサイズ決定部203は、符号化ユニットサイズ決定部202により決定された対象符号化ユニットの符号化ユニットサイズを判断する(ステップS205)。符号化ユニットサイズが64×64である場合(ステップS205:符号化ユニットサイズ64×64)、直交変換部2032は、対象符号化ユニットのSATD値であるSATD64×64を算出する。サイズ決定部2033は、SATD64×64と閾値TH64×64(第1の閾値)とを比較する(ステップS210)。サイズ決定部2033は、SATD64×64が閾値TH64×64よりも小さいと判断した場合(ステップS210:YES)、マージサイズを符号化ユニットサイズと同じ64×64に決定する(ステップS215)。サイズ決定部2033は、SATD64×64が閾値TH64×64以上であると判断した場合(ステップS210:NO)、SATD64×64と閾値TH64×64×1.5(第2の閾値)とを比較する(ステップS220)。サイズ決定部2033は、SATD64×64が閾値TH64×64×1.5よりも小さいと判断した場合(ステップS220:YES)、マージサイズを32×32に決定し(ステップS225)、閾値TH64×64×1.5以上と判断した場合(ステップS220:NO)、マージサイズを16×16に決定する(ステップS230)。
【0046】
符号化ユニットサイズが32×32である場合(ステップS205:符号化ユニットサイズ32×32)、直交変換部2032は、対象符号化ユニットのSATD値であるSATD32×32を算出する。サイズ決定部2033は、SATD32×32と閾値TH32×32(第1の閾値)とを比較する(ステップS235)。サイズ決定部2033は、SATD64×64が閾値TH32×32よりも小さいと判断した場合(ステップS235:YES)、マージサイズを符号化ユニットサイズと同じ32×32に決定する(ステップS240)。サイズ決定部2033は、SATD32×32が閾値TH32×32以上であると判断した場合(ステップS235:NO)、SATD32×32と閾値TH32×32×1.5(第2の閾値)とを比較する(ステップS245)。サイズ決定部2033は、SATD32×32が閾値TH32×32×1.5よりも小さいと判断した場合(ステップS245:YES)、マージサイズを16×16に決定し(ステップS250)、閾値TH32×32×1.5以上と判断した場合(ステップS245:NO)、マージサイズを8×8に決定する(ステップS255)。
【0047】
符号化ユニットサイズが16×16(ステップS205:符号化ユニットサイズ16×16)の場合、及び、8×8の場合(ステップS205:符号化ユニットサイズ8×8)、サイズ決定部2033の処理は、図5に示す処理と同様である。すなわち、符号化ユニットサイズが16×16の場合(ステップS205:符号化ユニットサイズ16×16)、サイズ決定部2033は、SATD16×16と閾値TH16×16とを比較する(ステップS260)。サイズ決定部2033は、SATD16×16が閾値TH16×16よりも小さいと判断した場合(ステップS260:YES)、マージサイズを16×16に決定し(ステップS265)、閾値以上であると判断した場合(ステップS260:NO)、マージサイズを8×8に決定する(ステップS270)。また、符号化ユニットサイズが8×8である場合(ステップS205:符号化ユニットサイズ8×8)、サイズ決定部2033は、マージサイズを8×8に決定する(ステップS270)。
【0048】
図5の例示では、各閾値TH64×64、TH32×32の1.5倍の値を第2の閾値としたが、どの程度スケーリングするかは任意に設定できる。
【0049】
更に、同様の閾値処理により、マージサイズを符号化ユニットサイズより1つ大きいサイズ、符号化ユニットサイズと同一のサイズ、符号化ユニットサイズより1つ小さいサイズの3種類に変更することができる。
図6は、マージサイズを3種類に変更可能な場合のマージサイズ決定部203の処理フローを示す図である。
マージサイズ決定部203は、符号化ユニットサイズ決定部202により決定された対象符号化ユニットの符号化ユニットサイズを判断する(ステップS305)。符号化ユニットサイズが64×64の場合(ステップS305:符号化ユニットサイズ64×64)、マージサイズ決定部203の処理は図3に示す処理と同様である。すなわち、サイズ決定部2033は、SATD64×64が閾値TH64×64よりも小さいと判断した場合(ステップS310:YES)、マージサイズを64×64に決定し(ステップS315)。SATD64×64が閾値TH64×64以上であると判断した場合(ステップS310:NO)、マージサイズを32×32に決定する(ステップS320)。
【0050】
符号化ユニットサイズが32×32である場合(ステップS305:符号化ユニットサイズ32×32)、直交変換部2032は、対象符号化ユニットのSATD値であるSATD32×32を算出する。サイズ決定部2033は、SATD32×32と閾値TH32×32(第1の閾値)とを比較する(ステップS325)。サイズ決定部2033は、SATD32×32が閾値TH32×32以上であると判断した場合(ステップS325:NO)、マージサイズを16×16に決定する(ステップS330)。サイズ決定部2033は、SATD32×32が閾値TH32×32より小さいと判断した場合(ステップS325:YES)、SATD32×32と閾値TH32×32×0.5(第2の閾値)とを比較する(ステップS335)。サイズ決定部2033は、SATD32×32が閾値TH32×32×0.5よりも小さいと判断した場合(ステップS335:YES)、マージサイズを64×64に決定し(ステップS340)、閾値TH32×32×0.5以上と判断した場合(ステップS335:NO)、マージサイズを32×32に決定する(ステップS345)。
【0051】
符号化ユニットサイズが16×16である場合(ステップS305:符号化ユニットサイズ16×16)、直交変換部2032は、対象符号化ユニットのSATD値であるSATD16×16を算出する。サイズ決定部2033は、SATD16×16と閾値TH16×16(第1の閾値)とを比較する(ステップS350)。サイズ決定部2033は、SATD16×16が閾値TH16×16以上であると判断した場合(ステップS350:NO)、マージサイズを8×8に決定する(ステップS355)。サイズ決定部2033は、SATD16×16が閾値TH16×16より小さいと判断した場合(ステップS350:YES)、SATD16×16と閾値TH16×16×0.5(第2の閾値)とを比較する(ステップS360)。サイズ決定部2033は、SATD16×16が閾値TH16×16×0.5よりも小さいと判断した場合(ステップS360:YES)、マージサイズを32×32に決定し(ステップS365)、閾値TH16×16×0.5以上と判断した場合(ステップS360:NO)、マージサイズを16×16に決定する(ステップS370)。
【0052】
符号化ユニットサイズが8×8である場合(ステップS305:符号化ユニットサイズ8×8)、直交変換部2032は、対象符号化ユニットのSATD値であるSATD8×8を算出する。サイズ決定部2033は、SATD8×8と閾値TH8×8とを比較する(ステップS375)。サイズ決定部2033は、SATD8×8が、閾値TH8×8以上であると判断した場合(ステップS375:NO)、マージサイズを8×8に決定し(ステップS380)、閾値TH8×8より小さいと判断した場合(ステップS385:YES)、マージサイズを16×16に決定する(ステップS385)。
【0053】
図6の例示では、第1の閾値TH32×32、TH16×16それぞれの0.5倍の値を第2の閾値としたが、どの程度スケーリングするかは任意に設定できる。
【0054】
上述した実施形態によれば、映像符号化装置100は、予測動きベクトル候補の予測結果からマージ候補の評価を行うブロックサイズを予め決定することにより、マージ候補の評価値算出に要する演算量を削減することができる。つまり、マージサイズ決定部203は、符号化ユニットサイズ決定部202により決定された符号化ユニットサイズの符号化ユニットから算出したSATD値に応じてマージサイズを決定する。これにより、マージモード評価部204は、少ない演算量によりマージモードの評価を行うことが可能となる。従って、映像符号化装置100は、符号化効率を低下させずに動き予測に要する演算量を削減することができる。
【0055】
上述した映像符号化装置100は、入力映像信号の時間的相関を利用し、符号化対象のピクチャについて符号化ユニット(符号化ブロック)単位に動き予測を行い、その差分の符号化処理を行う。そして、映像符号化装置100の符号化ユニットサイズ決定部202は、符号化ユニット毎に動き予測処理を行い、最適な符号化ユニットサイズを決定する。マージサイズ決定部203は、決定された符号化ユニットサイズの予測画像と原画像との差分である予測誤差値(SAD)を算出する。マージサイズ決定部203は、算出した予測誤差値、又は、その予測誤差値にアダマール変換などの直交変換を行って得られた直交変換値と閾値とを比較し、マージモードの符号化ユニットサイズを決定する。マージモード評価部204は、決定されたマージサイズの対象符号化ユニットについて、マージ候補の動き予測処理を行い、評価値を算出する。
このように、動き予測を用いて符号化を行う映像符号化方式において、マージ候補の動き予測処理を行う符号化ユニットサイズを予め決定することで、符号化効率を低下させずに動き予測に要する演算量を削減できるという効果が得られる。
【0056】
前述した実施形態における映像符号化装置100をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記録装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。
また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるものであってもよく、PLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現される物であってもよい。
【0057】
以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。従って、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行ってもよい。
【産業上の利用可能性】
【0058】
動き予測処理や符号化モードを決定に要する演算量が限られている映像符号化装置又は映像符号化プログラムに適用できる。
【符号の説明】
【0059】
100…映像符号化装置、101…イントラ予測処理部、102…インター予測処理部、103…予測残差信号生成部、104…変換・量子化処理部、105…エントロピー符号化部、106…符号量制御部、107…逆量子化・逆変換処理部、108…復号信号生成部、109…ループフィルタ処理部、201…動き予測部、202…符号化ユニットサイズ決定部、203…マージサイズ決定部、2031…予測誤差算出部、2032…直交変換部、2033…サイズ決定部、204…マージモード評価部、205…インター予測モード決定部、206…予測画像信号生成部
【要約】
【課題】符号化モードの決定に要する演算量を削減する。
【解決手段】動き予測部201は、原画像に対し複数の符号化ユニットサイズについて動き予測を行い、動き予測の評価を行う。符号化ユニットサイズ決定部202は、動き予測の評価に基づいて原画像の符号化ユニットサイズを決定する。予測誤差算出部2031は、決定された符号化ユニットサイズの符号化ユニットの原画像と予測画像との差分である予測誤差値を算出する。サイズ決定部2033は、予測誤差値と閾値との比較に基づいてマージサイズを決定する。マージモード評価部204は、決定されたマージサイズの符号化ユニットについて各マージ候補の評価を行う。インター予測モード決定部205は、各マージ候補の評価と、符号化ユニットサイズ決定部202が決定した符号化ユニットサイズの評価とに基づき、符号化に用いるモードを決定する。
【選択図】図2
図1
図2
図3
図4
図5
図6
図7
図8