【解決手段】第1参照サンプル生成部181は、対象参照位置のサンプルが符号化済みである場合には、加算器から出力される第1成分のフィルタ前復号信号を参照サンプルとして生成する。対象参照位置のサンプルが符号化済みでない場合には、対象参照位置に隣接する参照位置の符号化済みのサンプルのコピーを参照サンプルとして生成する。第1予測サンプル生成部182は、第1参照サンプル生成部から出力される参照サンプルを用いて、第1成分の予測サンプルを生成し、対象ユニットに含まれる第1成分の予測サンプルを生成するイントラ予測モードを予測係数導出部183及びチャネル間参照サンプル生成部185に出力する。
前記パラメータは、前記参照サンプルの微分値、前記参照サンプルの2回微分値、前記参照サンプルのヒストグラム、前記参照サンプルの中央値及び前記参照サンプルのエッジ成分の位置の少なくともいずれか1つである、請求項1に記載の画像復号装置。
前記復号側線形予測部は、前記閾値以下である前記参照サンプルに基づいて前記第1係数を算出し、前記閾値よりも大きい前記参照サンプルに基づいて前記第2係数を算出する、請求項1又は請求項2に記載の画像復号装置。
前記復号側線形予測部は、画像符号化装置から受信する制御データに基づいて、予め定められた予測係数の中から前記第1係数及び前記第2係数を選択する、請求項1又は請求項2に記載の画像復号装置。
【発明を実施するための形態】
【0014】
以下において、実施形態について図面を参照しながら説明する。なお、以下の図面の記載において、同一又は類似の部分には、同一又は類似の符号を付している。
【0015】
但し、図面は模式的なものであり、各寸法の比率などは現実のものとは異なる場合があることに留意すべきである。従って、具体的な寸法などは以下の説明を参酌して判断すべきである。また、図面相互間においても互いの寸法の関係又は比率が異なる部分が含まれている場合があることは勿論である。
【0016】
[開示の概要]
開示の概要に係る画像復号装置は、対象ユニットについて、第1成分の予測サンプルを生成する復号側第1生成部と、前記第1成分のサンプル及び予測係数を用いて第2成分の線形予測サンプルを生成する復号側線形予測部と、前記対象ユニットについて、前記第2成分の線形予測サンプルを用いて前記第2成分の予測サンプルを生成する復号側第2生成部とを備える。前記復号側線形予測部は、前記第1成分のサンプルが閾値以下である場合に、前記予測係数として第1係数を用い、前記第1成分のサンプルが前記閾値よりも大きい場合に、前記予測係数として前記第1係数とは異なる第2係数を用いる。前記閾値は、前記対象ユニットについて参照される参照ユニットに含まれる前記第1成分及び前記第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。
【0017】
開示の概要に係る画像復号装置では、予測係数を使い分けるための閾値は、第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。参照サンプルの平均値に基づいて閾値を設定するケースと比べて、エッジ成分に関する情報を考慮することが可能であり、予測係数を適切に使い分けることができる。
【0018】
開示の概要に係る画像符号化装置は、対象ユニットについて、第1成分の予測サンプルを生成する符号化側第1生成部と、前記第1成分のサンプル及び予測係数を用いて第2成分の線形予測サンプルを生成する符号化側線形予測部と、前記対象ユニットについて、前記第2成分の線形予測サンプルを用いて前記第2成分の予測サンプルを生成する符号化側第2生成部とを備える。前記符号化側線形予測部は、前記第1成分のサンプルが閾値以下である場合に、前記予測係数として第1係数を用い、前記第1成分のサンプルが前記閾値よりも大きい場合に、前記予測係数として前記第1係数とは異なる第2係数を用いる。前記閾値は、前記対象ユニットについて参照される参照ユニットに含まれる前記第1成分及び前記第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。
【0019】
開示の概要に係る画像符号化装置では、予測係数を使い分けるための閾値は、第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。参照サンプルの平均値に基づいて閾値を設定するケースと比べて、エッジ成分に関する情報を考慮することが可能であり、予測係数を適切に使い分けることができる。
【0020】
開示の概要としては、上述した画像復号装置の動作に係る画像復号方法が提供されてもよく、上述した画像符号化装置の動作に係る画像符号化方法が提供されてもよい。開示の概要としては、上述した画像復号装置及び画像符号化装置を有する画像処理システムが提供されてもよい。開示の概要としては、上述した画像復号装置の動作に係るプログラムが提供されてもよく、上述した画像符号化装置の動作に係るプログラムが提供されてもよい。
【0021】
[実施形態]
(画像処理システム)
以下において、実施形態に係る画像処理システムについて説明する。
図1は、実施形態に係る実施形態に係る画像処理システム10を示す図である。
【0022】
図1に示すように、画像処理システム10は、画像符号化装置100及び画像復号装置200を有する。画像符号化装置100は、入力画像信号を符号化することによって符号化データを生成する。画像復号装置200は、符号化データを復号することによって出力画像信号を生成する。符号化データは、画像符号化装置100から画像復号装置200に対して伝送路を介して送信されてもよい。符号化データは、記憶媒体に格納された上で、画像符号化装置100から画像復号装置200に提供されてもよい。
【0023】
(画像符号化装置)
以下において、実施形態に係る画像符号化装置について説明する。
図2は、実施形態に係る画像符号化装置100を示す図である。
【0024】
図2に示すように、画像符号化装置100は、インター予測部111と、イントラ予測部112と、減算器121と、加算器122と、変換・量子化部131と、逆変換・逆量子化部132と、符号化部140と、インループフィルタ150と、フレームバッファ160とを有する。
【0025】
インター予測部111は、インター予測(フレーム間予測)によって予測信号を生成する。具体的には、インター予測部111は、符号化対象のフレーム(以下、対象フレーム)とフレームバッファ160に格納される参照フレームとの比較によって、参照フレームに含まれる参照ユニットを特定し、特定された参照ユニットに対する予測動きベクトルを決定する。インター予測部111は、予測ユニット及び予測動きベクトルに基づいて予測信号を予測ユニット毎に生成する。インター予測部111は、予測信号を減算器121及び加算器122に出力する。参照フレームは、対象フレームとは異なるフレームである。
【0026】
イントラ予測部112は、イントラ予測(フレーム内予測)によって予測信号を生成する。具体的には、イントラ予測部112は、対象フレームに含まれる参照ユニットを特定し、特定された参照ユニットに基づいて予測信号を予測ユニット毎に生成する。イントラ予測部112は、予測信号を減算器121及び加算器122に出力する。参照ユニットは、予測対象のユニット(以下、対象ユニット)について参照されるユニットである。例えば、参照ユニットは、対象ユニットに隣接するユニットである。
【0027】
減算器121は、入力画像信号から予測信号を減算し、予測残差信号を変換・量子化部131に出力する。ここで、減算器121は、イントラ予測又はインター予測によって生成される予測信号と入力画像信号との差分である予測残差信号を生成する。
【0028】
加算器122は、逆変換・逆量子化部132から出力される予測残差信号に予測信号を加算し、フィルタ前復号信号をイントラ予測部112及びインループフィルタ150に出力する。フィルタ前復号信号は、イントラ予測部112で用いる参照ユニットを構成する。
【0029】
変換・量子化部131は、予測残差信号の変換処理を行うとともに、係数レベル値を取得する。さらに、変換・量子化部131は、係数レベル値の量子化を行ってもよい。変換処理は、予測残差信号を周波数成分信号に変換する処理である。変換処理では、離散コサイン変換(DCT;Discrete Cosine Transform)に対応する基底パターン(変換行列)が用いられてもよく、離散サイン変換(DCT;Discrete Sine Transform)に対応する基底パターン(変換行列)が用いられてもよい。
【0030】
逆変換・逆量子化部132は、変換・量子化部131から出力される係数レベル値の逆変換処理を行う。ここで、逆変換・逆量子化部132は、逆変換処理に先立って、係数レベル値の逆量子化を行ってもよい。逆変換処理及び逆量子化は、変換・量子化部131で行われる変換処理及び量子化とは逆の手順で行われる。
【0031】
符号化部140は、変換・量子化部131から出力された係数レベル値を符号化し、符号化データを出力する。例えば、符号化は、係数レベル値の発生確率に基づいて異なる長さの符号を割り当てるエントロピー符号化である。
【0032】
符号化部140は、係数レベル値に加えて、復号処理で用いる制御データを符号化する。制御データは、符号化ユニットサイズ、予測ユニットサイズ、変換ユニットサイズなどのサイズデータを含んでもよい。
【0033】
インループフィルタ150は、加算器122から出力されるフィルタ前復号信号に対してフィルタ処理を行うとともに、フィルタ後復号信号をフレームバッファ160に出力する。例えば、フィルタ処理は、ブロック(予測ユニット又は変換ユニット)の境界部分で生じる歪みを減少するデブロッキングフィルタ処理である。
【0034】
フレームバッファ160は、インター予測部111で用いる参照フレームを蓄積する。フィルタ後復号信号は、インター予測部111で用いる参照フレームを構成する。
【0035】
(イントラ予測部)
以下において、実施形態に係るイントラ予測部について説明する。
図3は、実施形態に係るイントラ予測部112を示す図である。
【0036】
図3に示すように、イントラ予測部112は、イントラ予測部112P及びイントラ予測部112Qを有する。イントラ予測部112Pは、イントラ予測によって第1成分の予測信号を生成する。例えば、第1成分は、輝度成分である。イントラ予測部112Qは、イントラ予測によって第2成分の予測信号を生成する。例えば、第2成分は、色差成分である。
【0037】
第1に、イントラ予測部112Pは、第1参照サンプル生成部181及び第1予測サンプル生成部182を有する。
【0038】
第1参照サンプル生成部181は、第1成分の参照サンプルを生成する。例えば、第1参照サンプル生成部181は、対象参照位置のサンプルが符号化済みである場合には、加算器122から出力される第1成分のフィルタ前復号信号を参照サンプルとして生成する。一方で、第1参照サンプル生成部181は、対象参照位置のサンプルが符号化済みでない場合には、対象参照位置に隣接する参照位置の符号化済みのサンプルのコピーを参照サンプルとして生成する。第1参照サンプル生成部181は、参照サンプルの平滑化処理を行ってもよい。
【0039】
第1予測サンプル生成部182は、第1参照サンプル生成部181から出力される参照サンプルを用いて、第1成分の予測サンプルを生成する。実施形態では、第1予測サンプル生成部182は、符号化側第1生成部の一例である。第1成分の予測サンプルを生成するイントラ予測モードとしては、DC(Direct Current)予測モード、プレーナ予測モード、方向性予測モードが挙げられる。第1予測サンプル生成部182は、対象ユニットに含まれる第1成分の予測サンプルを生成するイントラ予測モードを予測係数導出部183及びチャネル間参照サンプル生成部185に出力する。
【0040】
第2に、イントラ予測部112Qは、予測係数導出部183、チャネル間再構成サンプル生成部184、チャネル間参照サンプル生成部185、第2参照サンプル生成部186、スイッチ187、第2予測サンプル生成部188及び判定部189を有する。
【0041】
予測係数導出部183は、第1成分のサンプルに基づいて第2成分の線形予測サンプルを生成するために用いる予測係数を導出する。例えば、予測係数導出部183は、第1成分のサンプルを用いて予測係数を導出してもよく、第1成分のイントラ予測モードを用いて予測係数を導出してもよく、第2成分の参照サンプルを用いて予測係数を導出してもよい。予測係数導出部183は、第1成分のサンプル、第1成分のイントラ予測モード及び第2成分の参照サンプルのいずれか2以上を用いて、予測係数を導出してもよい。実施形態では、予測係数導出部183は、閾値以下である第1成分のサンプルに適用する第1係数、閾値よりも大きい第1成分のサンプルに適用する第2係数を導出する。第1係数及び第2係数は互いに異なる。
【0042】
例えば、上述した線形予測は、以下の式によって表される。α
1及びβ
1は、第1係数を示しており、α
2及びβ
2は、第2係数を示している。Pred
C[x、y]は、サンプル[x、y]の第2成分の線形予測サンプルであり、S’L[x、y]は、サンプル[x、y]の第1成分のサンプルである。
【0044】
ここで、閾値は、対象ユニットについて参照される参照ユニットに含まれる第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。パラメータは、参照サンプルの微分値、参照サンプルの2回微分値、参照サンプルのヒストグラム、参照サンプルの中央値及び参照サンプルのエッジ成分の位置の少なくともいずれか1つであってもよい。閾値設定方法の詳細については、参照サンプルの微分値及び参照サンプルのヒストグラムを例に挙げて後述する(
図8及び
図9を参照)。
【0045】
実施形態では、予測係数導出部183は、第1予測サンプル生成部182から取得するイントラ予測モードに応じて参照ユニットを選択してもよい。例えば、イントラ予測モードが水平方向に近い場合には、予測係数導出部183は、対象ユニットに対して垂直方向に位置する参照ユニットを選択せずに、対象ユニットに対して水平方向に位置する参照ユニットを選択する。イントラ予測モードが垂直方向に近い場合には、予測係数導出部183は、対象ユニットに対して水平方向に位置する参照ユニットを選択せずに、対象ユニットに対して垂直方向に位置する参照ユニットを選択する。
【0046】
チャネル間再構成サンプル生成部184は、第1成分のサンプル(ここでは、第1成分の再構成サンプル)及び予測係数を用いて第2成分の線形予測サンプルを生成する。実施形態では、予測係数導出部183及びチャネル間再構成サンプル生成部184は、符号化側線形予測部の一例である。具体的には、チャネル間再構成サンプル生成部184は、対象ユニットに含まれる第1成分の再構成サンプル及び予測係数導出部183から出力される予測係数を用いて、対象ユニットに含まれる第2成分の線形予測サンプルを生成する。チャネル間再構成サンプル生成部184は、上述した式に従って第2成分の線形予測サンプルを生成するが、S’L[x、y]は、第1成分の再構成サンプル(Rec’
L[x,y])であり、
図2に示す加算器122から出力されるフィルタ前復号信号である。
【0047】
チャネル間参照サンプル生成部185は、第1成分のサンプル(ここでは、第1成分の参照サンプル)及び予測係数を用いて第2成分の線形予測サンプルを生成する。実施形態では、予測係数導出部183及びチャネル間参照サンプル生成部185は、符号化側線形予測部の一例である。具体的には、チャネル間参照サンプル生成部185は、参照ユニットに含まれる第1成分の参照サンプル及び予測係数導出部183から出力される予測係数を用いて、参照ユニットに含まれる第2成分の線形予測サンプルを生成する。チャネル間参照サンプル生成部185は、上述した式に従って第2成分の線形予測サンプルを生成するが、S’L[x、y]は、第1成分の参照サンプル(Ref’
L[x,y])であり、
図2に示す加算器122から出力されるフィルタ前復号信号である。
【0048】
実施形態では、チャネル間参照サンプル生成部185は、第1予測サンプル生成部182から取得するイントラ予測モードに応じて参照ユニットを選択してもよい。例えば、イントラ予測モードが水平方向に近い場合には、チャネル間参照サンプル生成部185は、対象ユニットに対して垂直方向に位置する参照ユニットを選択せずに、対象ユニットに対して水平方向に位置する参照ユニットを選択する。イントラ予測モードが垂直方向に近い場合には、チャネル間参照サンプル生成部185は、対象ユニットに対して水平方向に位置する参照ユニットを選択せずに、対象ユニットに対して垂直方向に位置する参照ユニットを選択する。
【0049】
第2参照サンプル生成部186は、第2成分の参照サンプルを生成する。例えば、第2参照サンプル生成部186は、対象参照位置のサンプルが符号化済みである場合には、加算器122から出力される第2成分のフィルタ前復号信号を参照サンプルとして生成する。一方で、第2参照サンプル生成部186は、対象参照位置のサンプルが符号化済みでない場合には、対象参照位置に隣接する参照位置の符号化済みのサンプルのコピーを参照サンプルとして生成する。第2参照サンプル生成部186は、参照サンプルの平滑化処理を行ってもよい。
【0050】
スイッチ187は、判断部189の判断結果に基づいて、第2予測サンプル生成部188への入力を切り替える。具体的には、スイッチ187は、チャネル間再構成サンプル生成部184、チャネル間参照サンプル生成部185及び第2参照サンプル生成部186の中から、第2予測サンプル生成部188への入力ソースを選択する。
【0051】
第2予測サンプル生成部188は、スイッチ187によって切り替えられる入力ソースから取得する参照サンプル又は線形予測サンプルを用いて、第2成分の予測サンプルを生成する。実施形態では、第2予測サンプル生成部188は、符号化側第2生成部の一例である。
【0052】
ここで、第2予測サンプル生成部188は、入力ソースが第2参照サンプル生成部186である場合に、第2参照サンプル生成部186から出力される参照サンプルを用いて、第2成分の予測サンプルを生成する。第2成分の予測サンプルを生成するイントラ予測モードとしては、DC予測モード、プレーナ予測モード、方向性予測モードが挙げられる。
【0053】
一方で、第2予測サンプル生成部188は、入力ソースがチャネル間再構成サンプル生成部184である場合には、チャネル間再構成サンプル生成部184から出力される対象ユニットの第2成分の線形予測サンプルを第2成分の予測サンプルとして出力する(
図6を参照)。第2予測サンプル生成部188は、入力ソースがチャネル間参照サンプル生成部185である場合には、チャネル間参照サンプル生成部185から出力される参照ユニットの第2成分の線形予測サンプルを用いたイントラ予測によって対象ユニットの第2成分の予測サンプルを生成する(
図7を参照)。
【0054】
判定部189は、第2予測サンプル生成部188への入力ソースを判定する。判定部189は、判定結果をスイッチ187に出力するとともに、第2成分の予測サンプルの生成に用いる入力ソースを示す情報要素を制御データとして画像復号装置200に出力する。
【0055】
ここで、判定部189は、符号化効率が最も高い入力ソースを選択してもよい。入力ソースは、対象ユニットの位置、対象ユニットのサイズ及び第1成分のイントラ予測モードの中から選択される1以上のパラメータと予め対応付けられていてもよい。
【0056】
(画像復号装置)
以下において、実施形態に係る画像復号装置について説明する。
図4は、実施形態に係る画像復号装置200を示す図である。
【0057】
図4に示すように、画像復号装置200は、復号部210と、逆変換・逆量子化部220と、加算器230と、インター予測部241と、イントラ予測部242と、インループフィルタ250と、フレームバッファ260とを有する。
【0058】
復号部210は、画像符号化装置100によって生成される符号化データを復号し、係数レベル値を復号する。例えば、復号は、符号化部140で行われるエントロピー符号化とは逆の手順のエントロピー復号である。
【0059】
復号部210は、符号化データの復号処理によって制御データを取得してもよい。上述したように、制御データは、符号化ユニットサイズ、予測ユニットサイズ、変換ユニットサイズなどのサイズデータを含んでもよい。制御データは、第2成分の予測サンプルの生成に用いる入力ソースを示す情報要素を含んでもよい。
【0060】
逆変換・逆量子化部220は、復号部210から出力される係数レベル値の逆変換処理を行う。ここで、逆変換・逆量子化部220は、逆変換処理に先立って、係数レベル値の逆量子化を行ってもよい。逆変換処理及び逆量子化は、変換・量子化部131で行われる変換処理及び量子化とは逆の手順で行われる。
【0061】
加算器230は、逆変換・逆量子化部220から出力される予測残差信号に予測信号を加算し、フィルタ前復号信号をイントラ予測部262及びインループフィルタ250に出力する。フィルタ前復号信号は、イントラ予測部262で用いる参照ユニットを構成する。
【0062】
インター予測部241は、インター予測部111と同様に、インター予測(フレーム間予測)によって予測信号を生成する。具体的には、インター予測部241は、対象フレームとフレームバッファ260に格納される参照フレームとの比較によって、参照フレームに含まれる参照ユニットを特定し、特定された参照ユニットに対する予測動きベクトルを決定する。インター予測部241は、予測ユニット及び予測動きベクトルに基づいて予測信号を予測ユニット毎に生成する。インター予測部241は、予測信号を加算器230に出力する。
【0063】
イントラ予測部262は、イントラ予測部112と同様に、イントラ予測(フレーム内予測)によって予測信号を生成する。具体的には、イントラ予測部262は、対象フレームに含まれる参照ユニットを特定し、特定された参照ユニットに基づいて予測信号を予測ユニット毎に生成する。イントラ予測部262は、予測信号を加算器230に出力する。
【0064】
インループフィルタ250は、インループフィルタ150と同様に、加算器230から出力されるフィルタ前復号信号に対してフィルタ処理を行うとともに、フィルタ後復号信号をフレームバッファ260に出力する。例えば、フィルタ処理は、ブロック(予測ユニット又は変換ユニット)の境界部分で生じる歪みを減少するデブロッキングフィルタ処理である。
【0065】
フレームバッファ260は、フレームバッファ160と同様に、インター予測部241で用いる参照フレームを蓄積する。フィルタ後復号信号は、インター予測部241で用いる参照フレームを構成する。
【0066】
(イントラ予測部)
以下において、実施形態に係るイントラ予測部について説明する。
図5は、実施形態に係るイントラ予測部242を示す図である。
【0067】
図5に示すように、イントラ予測部242は、イントラ予測部242P及びイントラ予測部242Qを有する。イントラ予測部242Pは、イントラ予測によって第1成分の予測信号を生成する。例えば、第1成分は、輝度成分である。イントラ予測部242Qは、イントラ予測によって第2成分の予測信号を生成する。例えば、第2成分は、色差成分である。
【0068】
第1に、イントラ予測部242Pは、第1参照サンプル生成部281及び第1予測サンプル生成部282を有する。
【0069】
第1参照サンプル生成部281は、第1参照サンプル生成部181と同様に、第1成分の参照サンプルを生成する。例えば、第1参照サンプル生成部281は、対象参照位置のサンプルが符号化済みである場合には、加算器122から出力される第1成分のフィルタ前復号信号を参照サンプルとして生成する。一方で、第1参照サンプル生成部281は、対象参照位置のサンプルが符号化済みでない場合には、対象参照位置に隣接する参照位置の符号化済みのサンプルのコピーを参照サンプルとして生成する。第1参照サンプル生成部281は、参照サンプルの平滑化処理を行ってもよい。
【0070】
第1予測サンプル生成部282は、第1予測サンプル生成部182と同様に、第1参照サンプル生成部281から出力される参照サンプルを用いて、第1成分の予測サンプルを生成する。実施形態では、第1予測サンプル生成部282は、復号側第1生成部の一例である。第1成分の予測サンプルを生成するイントラ予測モードとしては、DC予測モード、プレーナ予測モード、方向性予測モードが挙げられる。第1予測サンプル生成部282は、対象ユニットに含まれる第1成分の予測サンプルを生成するイントラ予測モードを予測係数導出部283及びチャネル間参照サンプル生成部285に出力する。
【0071】
第2に、イントラ予測部242Qは、予測係数導出部283、チャネル間再構成サンプル生成部284、チャネル間参照サンプル生成部285、第2参照サンプル生成部286、スイッチ287、第2予測サンプル生成部288及び判定部289を有する。
【0072】
予測係数導出部283は、予測係数導出部183と同様に、第1成分のサンプルに基づいて第2成分の線形予測サンプルを生成するために用いる予測係数を導出する。例えば、予測係数導出部283は、第1成分のサンプルを用いて予測係数を導出してもよく、第1成分のイントラ予測モードを用いて予測係数を導出してもよく、第2成分の参照サンプルを用いて予測係数を導出してもよい。予測係数導出部283は、第1成分のサンプル、第1成分のイントラ予測モード及び第2成分の参照サンプルのいずれか2以上を用いて、予測係数を導出してもよい。実施形態では、予測係数導出部283は、閾値以下である第1成分のサンプルに適用する第1係数、閾値よりも大きい第1成分のサンプルに適用する第2係数を導出する。第1係数及び第2係数は互いに異なる。
【0073】
例えば、上述した線形予測は、以下の式によって表される。α
1及びβ
1は、第1係数を示しており、α
2及びβ
2は、第2係数を示している。Pred
C[x、y]は、サンプル[x、y]の第2成分の線形予測サンプルであり、S’L[x、y]は、サンプル[x、y]の第1成分のサンプルである。
【0075】
ここで、閾値は、対象ユニットについて参照される参照ユニットに含まれる第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。パラメータは、参照サンプルの微分値、参照サンプルの2回微分値、参照サンプルのヒストグラム、参照サンプルの中央値及び参照サンプルのエッジ成分の位置の少なくともいずれか1つであってもよい。閾値設定方法の詳細については後述する。
【0076】
実施形態では、予測係数導出部283は、第1予測サンプル生成部282から取得するイントラ予測モードに応じて参照ユニットを選択してもよい。例えば、イントラ予測モードが水平方向に近い場合には、予測係数導出部283は、対象ユニットに対して垂直方向に位置する参照ユニットを選択せずに、対象ユニットに対して水平方向に位置する参照ユニットを選択する。イントラ予測モードが垂直方向に近い場合には、予測係数導出部283は、対象ユニットに対して水平方向に位置する参照ユニットを選択せずに、対象ユニットに対して垂直方向に位置する参照ユニットを選択する。
【0077】
チャネル間再構成サンプル生成部284は、チャネル間再構成サンプル生成部184と同様に、第1成分のサンプル(ここでは、第1成分の再構成サンプル)及び予測係数を用いて第2成分の線形予測サンプルを生成する。実施形態では、予測係数導出部283及びチャネル間再構成サンプル生成部284は、復号側線形予測部の一例である。具体的には、チャネル間再構成サンプル生成部284は、対象ユニットに含まれる第1成分の再構成サンプル及び予測係数導出部283から出力される予測係数を用いて、対象ユニットに含まれる第2成分の線形予測サンプルを生成する。チャネル間再構成サンプル生成部284は、上述した式に従って第2成分の線形予測サンプルを生成するが、S’L[x、y]は、第1成分の再構成サンプル(Rec’
L[x,y])であり、
図4に示す加算器230から出力されるフィルタ前復号信号である。
【0078】
チャネル間参照サンプル生成部285は、チャネル間参照サンプル生成部185と同様に、第1成分のサンプル(ここでは、第1成分の参照サンプル)及び予測係数を用いて第2成分の線形予測サンプルを生成する。実施形態では、予測係数導出部283及びチャネル間参照サンプル生成部285は、復号側線形予測部の一例である。具体的には、チャネル間参照サンプル生成部285は、参照ユニットに含まれる第1成分の参照サンプル及び予測係数導出部283から出力される予測係数を用いて、参照ユニットに含まれる第2成分の線形予測サンプルを生成する。チャネル間参照サンプル生成部285は、上述した式に従って第2成分の線形予測サンプルを生成するが、S’L[x、y]は、第1成分の参照サンプル(Ref’
L[x,y])であり、
図4に示す加算器230から出力されるフィルタ前復号信号である。
【0079】
実施形態では、チャネル間参照サンプル生成部285は、第1予測サンプル生成部282から取得するイントラ予測モードに応じて参照ユニットを選択してもよい。例えば、イントラ予測モードが水平方向に近い場合には、チャネル間参照サンプル生成部285は、対象ユニットに対して垂直方向に位置する参照ユニットを選択せずに、対象ユニットに対して水平方向に位置する参照ユニットを選択する。イントラ予測モードが垂直方向に近い場合には、チャネル間参照サンプル生成部285は、対象ユニットに対して水平方向に位置する参照ユニットを選択せずに、対象ユニットに対して垂直方向に位置する参照ユニットを選択する。
【0080】
第2参照サンプル生成部286は、第2参照サンプル生成部186と同様に、第2成分の参照サンプルを生成する。例えば、第2参照サンプル生成部286は、対象参照位置のサンプルが符号化済みである場合には、加算器122から出力される第2成分のフィルタ前復号信号を参照サンプルとして生成する。一方で、第2参照サンプル生成部286は、対象参照位置のサンプルが符号化済みでない場合には、対象参照位置に隣接する参照位置の符号化済みのサンプルのコピーを参照サンプルとして生成する。第2参照サンプル生成部286は、参照サンプルの平滑化処理を行ってもよい。
【0081】
スイッチ287は、スイッチ187と同様に、判断部289の判断結果に基づいて、第2予測サンプル生成部288への入力を切り替える。具体的には、スイッチ287は、チャネル間再構成サンプル生成部284、チャネル間参照サンプル生成部285及び第2参照サンプル生成部286の中から、第2予測サンプル生成部288への入力ソースを選択する。
【0082】
第2予測サンプル生成部288は、第2予測サンプル生成部188と同様に、スイッチ287によって切り替えられる入力ソースから取得する参照サンプル又は線形予測サンプルを用いて、第2成分の予測サンプルを生成する。実施形態では、第2予測サンプル生成部288は、復号側第2生成部の一例である。
【0083】
ここで、第2予測サンプル生成部288は、入力ソースが第2参照サンプル生成部286である場合に、第2参照サンプル生成部286から出力される参照サンプルを用いて、第2成分の予測サンプルを生成する。第2成分の予測サンプルを生成するイントラ予測モードとしては、DC予測モード、プレーナ予測モード、方向性予測モードが挙げられる。
【0084】
一方で、第2予測サンプル生成部288は、入力ソースがチャネル間再構成サンプル生成部284である場合には、チャネル間再構成サンプル生成部284から出力される対象ユニットの第2成分の線形予測サンプルを第2成分の予測サンプルとして出力する(
図6を参照)。第2予測サンプル生成部288は、入力ソースがチャネル間参照サンプル生成部285である場合には、チャネル間参照サンプル生成部285から出力される参照ユニットの第2成分の線形予測サンプルを用いたイントラ予測によって対象ユニットの第2成分の予測サンプルを生成する(
図7を参照)。
【0085】
(線形予測方法)
以下において、実施形態に係る線形予測方法について説明する。
図6及び
図7は、実施形態に係る線形予測方法を説明するための図である。
図6及び
図7において、P
TARGETは、第1成分の対象ユニットを示しており、P
REFERENCEは、第1成分の参照ユニットを示している。Q
TARGETは、第2成分の対象ユニットを示しており、Q
REFERENCEは、第2成分の参照ユニットを示している。
【0086】
第1に、予測係数導出部183、予測係数導出部283、チャネル間再構成サンプル生成部184及びチャネル間再構成サンプル生成部284の動作について説明する。ここでは、これらを総称して線形予測部と称する。
【0087】
図6に示すように、線形予測部は、第1成分のP
TARGETの再構成サンプルに基づいて、第2成分のQ
TARGETの予測サンプルを生成する。このようなケースにおいて、P
TARGETの再構成サンプルは、P
TARGETの予測サンプル及びP
TARGETの残差サンプルによって構成される。P
TARGETの予測サンプルは、P
REFERENCEを用いて生成される。Q
TARGETの予測サンプルの生成において、Q
REFERENCEの参照サンプルは用いられない。
【0088】
第2に、予測係数導出部183、予測係数導出部283、チャネル間参照サンプル生成部185及びチャネル間参照サンプル生成部285の動作について説明する。ここでは、これらを総称して線形予測部と称する。
【0089】
図7に示すように、線形予測部は、第1成分のP
REFERENCEに基づいて、第2成分のQ
REFERENCEの参照サンプルを生成する。このようなケースにおいて、Q
TARGETの予測サンプルは、Q
REFERENCEの参照サンプルを用いたイントラ予測によって生成される。Q
TARGETの予測サンプルの生成において、P
TARGETの再構成サンプルは用いられない。
【0090】
これらの線形予測においては、上述したように、予測係数α及びβが用いられる。予測係数は、閾値以下である第1成分のサンプルに適用する第1係数及び閾値よりも大きい第1成分のサンプルに適用する第2係数を含む。
【0091】
ここで、参照ユニットは、上述したように、第1成分のイントラ予測モードに応じて選択されてもよい。例えば、イントラ予測モードが水平方向に近い場合には、P
REFERENCE2、P
REFERENCE3、Q
REFERENCE2及びQ
REFERENCE3が選択されずに、P
REFERENCE1及びQ
REFERENCE1が参照ユニットとして選択されてもよい。イントラ予測モードが垂直方向に近い場合には、P
REFERENCE1、P
REFERENCE2、Q
REFERENCE1及びQ
REFERENCE2が選択されずに、P
REFERENCE3及びQ
REFERENCE3が参照ユニットとして選択されてもよい。
【0092】
(閾値設定方法)
以下において、実施形態に係る閾値設定方法について説明する。
図8及び
図9は、実施形態に係る閾値設定方法を説明するための図である。ここでは、
図8に示すように、第1成分の参照ユニット(P
REFERENCE)及び対象ユニットがエッジ成分(P
TARGET)を含むケースについて例示する。参照サンプルは、第1成分(すなわち、輝度成分)の参照ユニット(P
REFERENCE)に含まれるサンプルである。
【0093】
このようなケースにおいて、
図8に示す直線Lについて考えると、輝度値と位置との関係は
図9の上図によって表される。
【0094】
第1に、
図9の左下図で示されるように、予測係数導出部183は、参照サンプルの微分値に基づいて閾値を設定してもよい。具体的には、予測係数導出部183は、参照サンプルの微分値に基づいて、エッジ成分の輝度値を特定し、特定されたエッジ成分の輝度値に基づいて、エッジ成分とエッジ成分以外の成分とを区分けするように閾値を設定する。参照サンプルの微分値は、参照サンプルの変化を表すパラメータの一例である。参照サンプルの変化を表すパラメータとしては、参照サンプルの2回微分値が用いられてもよい。
【0095】
第2に、
図9の右下図で示されるように、予測係数導出部183は、参照サンプルのヒストグラムに基づいて閾値を設定してもよい。具体的には、予測係数導出部183は、参照サンプルの微分値に基づいて、2つのピークが別々に区分けされるように閾値を設定する。参照サンプルのヒストグラムは、参照サンプルの分布を表すパラメータの一例である。参照サンプルの分布を表すパラメータとしては、参照サンプルの中央値又は参照サンプルのエッジ成分の位置が用いられてもよい。
【0096】
これらのケースにおいて、画像符号化装置100は、閾値を示す情報要素又は閾値の算出方法を示す情報要素(参照サンプルの変化を表すパラメータを示すインデックス)を制御データとして画像復号装置200に送信してもよい。画像復号装置200は、制御データに基づいて閾値を設定してもよい。
【0097】
ここで、
図9の右下図において、参照サンプルの輝度値を昇順又は降順に並べ直した上で、輝度値の昇順又は降順で並べられた参照サンプルをX(Xは2以上)等分することによって、1以上の閾値が設定されてもよい。
【0098】
(作用及び効果)
実施形態に係る画像復号装置200では、予測係数を使い分けるための閾値は、第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。参照サンプルの平均値に基づいて閾値を設定するケースと比べて、エッジ成分に関する情報を考慮することが可能であり、予測係数を適切に使い分けることができる。
【0099】
開示の概要に係る画像符号化装置200では、予測係数を使い分けるための閾値は、第1成分及び第2成分の少なくともいずれか1つの参照サンプルの分布又は変化を表すパラメータに基づいて設定される。参照サンプルの平均値に基づいて閾値を設定するケースと比べて、エッジ成分に関する情報を考慮することが可能であり、予測係数を適切に使い分けることができる。
【0100】
[変更例1]
以下において、実施形態の変更例1について説明する。以下においては、実施形態に対する相違点について主として説明する。
【0101】
第1に、予測係数導出部183(線形予測部)は、閾値以下である参照サンプルに基づいて第1係数を算出し、閾値よりも大きい参照サンプルに基づいて第2係数を算出してもよい。
【0102】
第1係数及び第2係数の算出方法は特に限定されるものではないが、例えば、Joint Video Exploration Team (JVET)of ITU−T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11のJVET−D0110(Qualcomm)に記載された方法を採用することができる。但し、このような方法を実施形態で用いる場合には、第1係数及び第2係数の算出で参照される参照サンプルは互いに異なることに留意すべきである。このようなケースにおいては、予測係数導出部283(線形予測部)は、予測係数導出部183と同様の手順で第1係数及び第2係数を算出してもよい。
【0103】
第2に、予測係数導出部183(線形予測部)は、閾値以下である参照サンプルに基づいて、予め定められた予測係数の中から第1係数を選択し、閾値よりも大きい参照サンプルに基づいて、予め定められた予測係数の中から第2係数を選択してもよい。
【0104】
第1係数及び第2係数の選択方法は特に限定されるものではないが、例えば、特開2016−72903号公報に記載された方法を採用することができる。但し、このような方法を実施形態で用いる場合には、第1係数及び第2係数の算出で参照される参照サンプルは互いに異なることに留意すべきである。
【0105】
このようなケースにおいては、画像符号化装置100は、選択された第1係数及び第2係数を示す情報要素(例えば、予測係数と対応付けられたインデックス)を制御データとして画像復号装置200に送信してもよい。予測係数導出部283(線形予測部)は、画像符号化装置100から受信する制御データに基づいて、予め定められた予測係数の中から第1係数及び第2係数を選択してもよい。
【0106】
[変更例2]
以下において、実施形態の変更例2について説明する。以下においては、実施形態に対する相違点について主として説明する。
【0107】
上述した第1成分の再構成サンプルは、第1成分の予測サンプル及び第1成分の残差サンプルによって構成される。従って、第1成分の再構成サンプルは、以下の式によって表すことができる。
【0109】
第1に、Pred
L[x,y]は、対象ユニットの第1成分の予測サンプルを表しており、Res
L[x,y]は、対象ユニットの第1成分の残差サンプルを表している。CCP(Res
L[x,y])は、対象ユニットの第1成分の残差サンプルに基づいた補正成分を表している。
【0110】
従って、チャネル間再構成サンプル生成部184及びチャネル間再構成サンプル生成部284は、対象ユニットの第1成分の再構成サンプルの生成を待たずに、対象ユニットの第1成分の予測サンプル及び予測係数を用いて、対象ユニットの第2成分の線形予測サンプルを生成すると考えてもよい。このようなケースにおいて、対象ユニットの第2成分の線形予測サンプルは、CCP(Res
L[x,y])によって補正されることが好ましい。
【0111】
第2に、Ref
Lは、参照ユニットの第1成分の参照サンプルを表しており、α×Ref
L+βは、チャネル間参照サンプル生成部185及びチャネル間参照サンプル生成部285によって生成される参照ユニットの第2成分の線形予測サンプルを表しており、IntraPred(α×Ref
L+β)[x,y]は、参照ユニットの第2成分の線形予測サンプルのイントラ予測によって生成される対象ユニットの第2成分の予測サンプルである。このようなケースにおいても、参照ユニットの第2成分の線形予測サンプル又は対象ユニットの第2成分の予測サンプルは、CCP(Res
L[x,y])によって補正されてもよい。
【0112】
上述したケースにおいて、画像符号化装置100は、CCP(Res
L[x,y])を示す情報要素(例えば、CCP(Res
L[x,y])を示すインデックス)を制御データとして画像復号装置200に送信してもよい。画像復号装置200は、制御データに基づいてCCP(Res
L[x,y]による補正を行ってもよい。
【0113】
[変更例3]
以下において、実施形態の変更例3について説明する。以下においては、実施形態に対する相違点について主として説明する。
【0114】
変更例3では、2種類以上の予測係数(第1係数及び第2係数)を適用するか否かを判断する基準について説明する。
【0115】
第1に、ユニットサイズ(符号化ユニットサイズ、予測ユニットサイズ及び変換ユニットサイズの少なくともいずれか1つ)と所定サイズとの比較結果に基づいて、2種類以上の予測係数が適用されるか否かを判断してもよい。2種類以上の予測係数は、ユニットサイズが所定サイズよりも小さい場合に適用されてもよい。言い換えると、2種類以上の予測係数は、ユニットサイズが所定サイズよりも大きい場合に適用されなくてもよい。このような構成によれば、ユニットサイズが所定サイズよりも大きい場合において、エッジ成分を考慮した閾値設定を適切に行えない可能性があるという知見に基づいて、2種類以上の予測係数を適切に適用することができる。
【0116】
第2に、ユニット(符号化ユニット、予測ユニット及び変換ユニットの少なくともいずれか1つ)のアスペクト比と所定アスペクト比との比較結果に基づいて、2種類以上の予測係数が適用されるか否かを判断してもよい。2種類以上の予測係数は、ユニットのアスペクト比が所定アスペクト比よりも大きい場合に適用されてもよい。言い換えると、2種類以上の予測係数は、ユニットのアスペクト比が所定アスペクト比よりも小さい場合に適用されなくてもよい。このような構成によれば、ユニットのアスペクト比が所定アスペクト比よりも大きい場合において、ユニットにエッジ成分が含まれる可能性が高くなるという知見に基づいて、2種類以上の予測係数を適切に適用することができる。
【0117】
第3に、ユニットサイズが所定サイズよりも小さく、かつ、イントラ予測モードが垂直方向又は水平方向に近い場合に、2種類以上の予測係数が適用されてもよい。言い換えると、ユニットサイズが所定サイズよりも大きい、又は、イントラ予測モードが垂直方向又は水平方向に近くない場合に、2種類以上の予測係数が適用されなくてもよい。このような構成によれば、ユニットサイズが所定サイズよりも小さく、かつ、イントラ予測モードが垂直方向又は水平方向に近い場合において、ユニットに縞模様(複数のエッジ成分)が含まれる可能性が高くなるという知見に基づいて、2種類以上の予測係数を適切に適用することができる。
【0118】
[変更例4]
以下において、実施形態の変更例4について説明する。以下においては、実施形態に対する相違点について主として説明する。
【0119】
上述したように、判定部189は、符号化効率が最も高い入力ソースを選択する。このようなケースにおいて、判定部189は、2以上のパラメータに基づいて閾値を設定するとともに、設定された2以上の閾値のそれぞれについて符号化効率を算出してもよい。判定部189は、符号化効率が最も高い閾値を用いると判定する。さらに、判定部189は、2種類以上の予測係数(第1係数及び第2係数の組合せ)を導出し、導出された2種類以上の予測係数のそれぞれについて符号化効率を算出してもよい。判定部189は、符号化効率が最も高い予測係数を用いると判定する。
【0120】
さらに、判定部189は、2以上のパラメータに基づいて閾値を設定するとともに、2種類以上の予測係数(第1係数及び第2係数の組合せ)を導出し、閾値及び予測係数の組合せのそれぞれについて符号化効率を算出してもよい。判定部189は、符号化効率が最も高い閾値及び予測係数の組合せを用いると判定する。
【0121】
但し、実施形態及び変更例4はこれに限定されるものではなく、閾値設定方法及び予測係数導出方法については、予め1種類の方法が定められていてもよい。
【0122】
[その他の実施形態]
本発明は上述した実施形態によって説明したが、この開示の一部をなす論述及び図面は、この発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施形態、実施例及び運用技術が明らかとなろう。
【0123】
実施形態において、閾値は、第1成分の参照サンプルの分布又は変化を表すパラメータに基づいて設定される。しかしながら、実施形態はこれに限定されるものではない。閾値は、第2成分の参照サンプルの分布又は変化を表すパラメータに基づいて設定されてもよい。閾値は、第1成分及び第2成分の双方の参照サンプルの分布又は変化を表すパラメータに基づいて設定されてもよい。
【0124】
実施形態では、閾値は、参照ユニットに含まれる参照サンプルの分布又は変化を表すパラメータに基づいて設定される。しかしながら、実施形態はこれに限定されるものではない。閾値は、対象ユニットに含まれるサンプルの分布又は変化を表すパラメータに基づいて設定されてもよい。
【0125】
実施形態において、閾値が1種類であり、予測係数が2種類であるケースについて主として説明した。しかしながら、実施形態はこれに限定されるものではない。閾値は2種類以上であってもよく、予測係数は3種類以上であってもよい。
【0126】
実施形態では特に触れていないが、第1成分の対象ユニットのサイズは、第2成分の対象ユニットのサイズと異なっていてもよい。例えば、第1成分の対象ユニットのサイズが第2成分の対象ユニットのサイズよりも大きい場合には、第1成分の対象ユニットのダウンサンプリングが行われてもよい。ダウンサンプリングの方法は特に限定されるものではないが、例えば、Joint Video Exploration Team (JVET)of ITU−T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11のJVET−D0110(Qualcomm)に記載された方法を採用することができる。
【0127】
実施形態では特に触れていないが、第2成分のイントラ予測部112Qは、線形予測を行う場合に、第1成分のイントラ予測部112Pが用いるイントラ予測モードと同じイントラ予測モードを用いてもよい。
【0128】
実施形態では、第2予測サンプル生成部188は、スイッチ187によって切り替えられる入力ソースから取得する参照サンプル又は線形予測サンプルを用いて、第2成分の予測サンプルを生成する。しかしながら、実施形態はこれに限定されるものではない。第2予測サンプル生成部188は、参照サンプル及び線形予測サンプルの重み付け加算によって第2成分の予測サンプルを生成してもよい。
【0129】
実施形態では、第2予測サンプル生成部288は、第2予測サンプル生成部188と同様に、スイッチ287によって切り替えられる入力ソースから取得する参照サンプル又は線形予測サンプルを用いて、第2成分の予測サンプルを生成する。しかしながら、実施形態はこれに限定されるものではない。第2予測サンプル生成部188は、参照サンプル及び線形予測サンプルの重み付け加算によって第2成分の予測サンプルを生成してもよい。
【0130】
重み付け加算の方法については特に限定されるものではないが、例えば、Joint Video Exploration Team (JVET)of ITU−T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11のJVET−D0110(Qualcomm)に記載された方法を採用することができる。
【0131】
実施形態では特に触れていないが、判定部189は、第1成分及び第2成分のイントラ予測モードが同じである場合に、線形予測を行うか否かを判定してもよい。
【0132】
実施形態では、画像符号化装置100は、チャネル間再構成サンプル生成部184及びチャネル間参照サンプル生成部185の双方を有する。しかしながら、実施形態はこれに限定されるものではない。画像符号化装置100は、チャネル間再構成サンプル生成部184及びチャネル間参照サンプル生成部185のいずれか1つを有していてもよい。
【0133】
実施形態では、画像復号装置200は、チャネル間再構成サンプル生成部284及びチャネル間参照サンプル生成部285の双方を有する。しかしながら、実施形態はこれに限定されるものではない。画像復号装置200は、チャネル間再構成サンプル生成部284及びチャネル間参照サンプル生成部285のいずれか1つを有していてもよい。
【0134】
実施形態では、第1成分が輝度成分であり、第2成分が色差成分である。しかしながら、実施形態はこれに限定されるものではない。例えば、第1成分が色差成分であり、第2成分が輝度成分であってもよい。
【0135】
実施形態では特に触れていないが、イントラ予測モードが垂直方向に近いか否かは、イントラ予測モードの方向と垂直方向との角度が所定角度よりも小さいか否かで判断されてもよい。垂直方向に近いイントラ予測モードは予め定義されていてもよい。同様に、イントラ予測モードが水平方向に近いか否かは、イントラ予測モードの方向と水平方向との角度が所定角度よりも小さいか否かで判断されてもよい。水平方向に近いイントラ予測モードは予め定義されていてもよい。
【0136】
実施形態では特に触れていないが、画像符号化装置100及び画像復号装置200が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。また、プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD−ROMやDVD−ROM等の記録媒体であってもよい。
【0137】
或いは、画像符号化装置100及び画像復号装置200が行う各処理を実行するためのプログラムを記憶するメモリ及びメモリに記憶されたプログラムを実行するプロセッサによって構成されるチップが提供されてもよい。