IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

特許7424982画像符号化装置、画像復号装置、及びプログラム
<>
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図1
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図2
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図3
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図4
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図5
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図6
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図7
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図8
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図9
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図10
  • 特許-画像符号化装置、画像復号装置、及びプログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-22
(45)【発行日】2024-01-30
(54)【発明の名称】画像符号化装置、画像復号装置、及びプログラム
(51)【国際特許分類】
   H04N 19/12 20140101AFI20240123BHJP
   H04N 19/159 20140101ALI20240123BHJP
   H04N 19/176 20140101ALI20240123BHJP
   H04N 19/186 20140101ALI20240123BHJP
   H04N 19/593 20140101ALI20240123BHJP
【FI】
H04N19/12
H04N19/159
H04N19/176
H04N19/186
H04N19/593
【請求項の数】 12
(21)【出願番号】P 2020537446
(86)(22)【出願日】2019-08-09
(86)【国際出願番号】 JP2019031561
(87)【国際公開番号】W WO2020036132
(87)【国際公開日】2020-02-20
【審査請求日】2022-07-11
(31)【優先権主張番号】P 2018152988
(32)【優先日】2018-08-15
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001106
【氏名又は名称】弁理士法人キュリーズ
(72)【発明者】
【氏名】岩村 俊輔
(72)【発明者】
【氏名】市ヶ谷 敦郎
(72)【発明者】
【氏名】根本 慎平
【審査官】鉢呂 健
(56)【参考文献】
【文献】特表2015-515821(JP,A)
【文献】特表2015-515236(JP,A)
【文献】VAN DER AUWERA, Geert et al.,Description of Core Experiment 3: Intra Prediction and Mode Coding,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 10th Meeting: San Diego, USA, 10-20 Apr. 2018, [JVET-J1023_r2],JVET-J1023 (version 3),ITU-T,2018年06月21日,<URL:https://jvet-experts.org/doc_end_user/documents/10_San%20Diego/wg11/JVET-J1023-v3.zip>: JVET-J1023r2_with_markups.docx: pp.25-34
【文献】KIM, Hui Yong et al.,Mode-dependent DCT/DST for chroma,Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 9th Meeting: Geneva, CH, 27 April - 7 May 2012, [JCTVC-I0415],JCTVC-I0415 (version 3),ITU-T,2012年04月25日,<URL:http://phenix.it-sudparis.eu/jct/doc_end_user/documents/9_Geneva/wg11/JCTVC-I0415-v3.zip>: JCTVC-I0415_r2.doc: pp.1-8
【文献】IWAMURA, Shunsuke et al.,CE6-related: Implicit transform selection for Multi directional LM,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 13th Meeting: Marrakech, MA, 9-18 Jan. 2019, [JVET-M0480-v3],JVET-M0480 (version 3),ITU-T,2019年01月10日,<URL:https://jvet-experts.org/doc_end_user/documents/13_Marrakech/wg11/JVET-M0480-v3.zip>: JVET-M0480-ImplicitTransformSelectionForMdlm-r1.docx: pp.1-3
(58)【調査した分野】(Int.Cl.,DB名)
H04N 19/00-19/98
(57)【特許請求の範囲】
【請求項1】
符号化すべき第2成分のブロックに隣接する隣接復号画素として第1成分の復号画素及び第2成分の復号画素を参照して前記第2成分のブロックを予測する成分間イントラ予測によって第2成分の予測ブロックを生成する成分間イントラ予測部と、
前記第2成分のブロックに対する前記第2成分の予測ブロックの誤差を表す予測残差に対する直交変換処理に適用する直交変換タイプの候補を生成する候補生成部と、
前記候補生成部により生成された候補の中から選択された直交変換タイプを用いて、前記予測残差に対する直交変換処理を行う変換部と、を備え、
前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置に基づいて、前記直交変換タイプの候補を生成することを特徴とする画像符号化装置。
【請求項2】
前記第1成分は、輝度成分であり、
前記第2成分は、色差成分であることを特徴とする請求項1に記載の画像符号化装置。
【請求項3】
前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置が前記第2成分のブロックの上下左右のうちいずれか1つのみであるか否かに応じて、前記直交変換タイプの候補を生成することを特徴とする請求項1又は2に記載の画像符号化装置。
【請求項4】
前記成分間イントラ予測部は、第1のモード及び第2のモードを含む複数のモードの中から選択されたモードを用いて前記成分間イントラ予測を行い、
前記第1のモードは、前記第2成分のブロックの上側及び左側の両方の前記隣接復号画素を参照して前記第2成分のブロックを予測するモードであり、
前記第2のモードは、前記第2成分のブロックの上側のみ又は左側のみの前記隣接復号画素を参照して前記第2成分のブロックを予測するモードであり、
前記候補生成部は、
前記第1のモードが選択された場合には、前記直交変換タイプの候補として、1以上の直交変換タイプからなる第1の候補を生成し、
前記第2のモードが選択された場合には、前記直交変換タイプの候補として、前記第1の候補とは異なる第2の候補を生成することを特徴とする請求項1乃至3のいずれか1項に記載の画像符号化装置。
【請求項5】
前記第2の候補は、水平方向の直交変換処理に適用する1以上の直交変換タイプの候補からなる水平方向候補と、垂直方向の直交変換処理に適用する1以上の直交変換タイプの候補からなる垂直方向候補と、を含み、
前記水平方向候補と前記垂直方向候補とが少なくとも部分的に互いに異なっていることを特徴とする請求項4に記載の画像符号化装置。
【請求項6】
復号すべき第2成分のブロックに隣接する隣接復号画素として第1成分の復号画素及び第2成分の復号画素を参照して前記第2成分のブロックを予測する成分間イントラ予測によって第2成分の予測ブロックを生成する成分間イントラ予測部と、
前記第2成分のブロックに対する前記第2成分の予測ブロックの誤差を表す予測残差に対応する第2成分の変換係数に対する逆直交変換処理に適用する直交変換タイプの候補を生成する候補生成部と、
前記候補生成部により生成された候補の中から選択された直交変換タイプを用いて、前記第2成分の変換係数に対する逆直交変換処理を行う逆変換部と、を備え、
前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置に基づいて、前記直交変換タイプの候補を生成することを特徴とする画像復号装置。
【請求項7】
前記第1成分は、輝度成分であり、
前記第2成分は、色差成分であることを特徴とする請求項6に記載の画像復号装置。
【請求項8】
前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置が前記第2成分のブロックの上下左右のうちいずれか1つのみであるか否かに応じて、前記直交変換タイプの候補を生成することを特徴とする請求項6又は7に記載の画像復号装置。
【請求項9】
前記成分間イントラ予測部は、第1のモード及び第2のモードを含む複数のモードの中から選択されたモードを用いて前記成分間イントラ予測を行い、
前記第1のモードは、前記第2成分のブロックの上側及び左側の両方の前記隣接復号画素を参照して前記第2成分のブロックを予測するモードであり、
前記第2のモードは、前記第2成分のブロックの上側のみ又は左側のみの前記隣接復号画素を参照して前記第2成分のブロックを予測するモードであり、
前記候補生成部は、
前記第1のモードが選択された場合には、前記直交変換タイプの候補として、1以上の直交変換タイプからなる第1の候補を生成し、
前記第2のモードが選択された場合には、前記直交変換タイプの候補として、前記第1の候補とは異なる第2の候補を生成することを特徴とする請求項6乃至のいずれか1項に記載の画像復号装置。
【請求項10】
前記第2の候補は、水平方向の逆直交変換処理に適用する1以上の直交変換タイプの候補からなる水平方向候補と、垂直方向の逆直交変換処理に適用する1以上の直交変換タイプの候補からなる垂直方向候補と、を含み、
前記水平方向候補と前記垂直方向候補とが少なくとも部分的に互いに異なっていることを特徴とする請求項9に記載の画像復号装置。
【請求項11】
コンピュータを請求項1乃至5のいずれか1項に記載の画像符号化装置として機能させることを特徴とするプログラム。
【請求項12】
コンピュータを請求項6乃至10のいずれか1項に記載の画像復号装置として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像符号化装置、画像復号装置、及びプログラムに関する。
【背景技術】
【0002】
画像符号化技術において、フレーム内の空間的な相関を利用したイントラ予測が広く用いられている。イントラ予測では、予測対象のブロックに隣接する隣接復号画素を参照して当該ブロック内の画素値を予測して予測画像を生成する。
【0003】
画像符号化装置は、当該ブロックに対する予測画像の誤差を表す予測残差を算出し、当該予測残差に対して直交変換処理を行うことにより変換係数を生成し、変換係数を量子化及びエントロピー符号化して符号化データ(ビットストリーム)を出力する。
【0004】
例えば、特許文献1には、画像のブロックごとに色差信号のイントラ予測モードを定めるイントラ予測器において、色差信号のイントラ予測モードの符号化効率を向上することができるイントラ予測器を用いた画像符号化装置が開示されている(特許文献1参照)。直交変換処理に適用される直交変換タイプとしては、従来からDCTタイプ2(DCT-2)が広く用いられている。
【0005】
また、非特許文献1に記載のHEVCでは、イントラ予測を適用した規定サイズ以下のブロックに対しては、DCT-2でなくDSTタイプ7(DST-7)を適用するよう規定されている。DST-7は、DCT-2とは異なり、インパルス応答が非対称な直交変換であり、その片側の端点の係数が小さく、他方の端点の係数が大きい変換である。
【0006】
イントラ予測は、ブロックに隣接する隣接復号画素を参照して当該ブロックを予測するものであるため、当該ブロック内において隣接復号画素に近い領域の予測精度が高く、隣接復号画素から遠い領域の予測精度が低くなる可能性が高い。かかる特徴をもつ予測残差に対してDST-7を適用することにより、予測残差のエネルギーをより効率的に集中させることが可能となる。
【0007】
一方、イントラ予測のモードとして、輝度(Luma)の隣接復号画素を用いて色差(Chroma)の画素値を予測する成分間イントラ予測(CCIP:Cross-Component Intra Prediction)が知られている。
【0008】
具体的には、成分間イントラ予測では、色差ブロックの上側及び左側に隣接する輝度復号画素及び色差復号画素を参照して、当該ブロックの輝度及び色差の線形モデルを算出し、算出した線形モデルを用いて当該ブロック内の色差の画素値を予測する。なお、成分間イントラ予測は、CCLM(Cross-Component Linear Model)予測と称されることもある。
【0009】
成分間イントラ予測では、ブロックの上側及び左側の輝度及び色差の隣接復号画素の信号分布の関係が当該ブロックの輝度及び色差の信号分布の関係と近似できることを利用することにより、色差の信号を精度よく予測できる。しかし、上側及び左側の隣接復号画素を常に用いるため、上側と左側とで、輝度及び色差の信号分布の関係が異なる場合には、正しい線形モデルが算出できず、結果として色差の予測精度が低下してしまう。
【0010】
非特許文献2には、かかる問題点に鑑みて、色差の新たなイントラ予測モードとしてCCIP_Aモード及びCCIP_Lモードが記載されている。CCIP_Aモードは、上側及び左側の輝度及び色差の隣接復号画素を用いる代わりに、上側のみの輝度及び色差の隣接復号画素を用いて線形モデルを算出するイントラ予測モードである。CCIP_Lモードは、左側のみの輝度及び色差の隣接復号画素を用いて線形モデルを算出するイントラ予測モードである。なお、非特許文献3にも同様なイントラ予測モードが記載されているが、CCIP_AがLM-topと称され、CCIP_LがLM-leftと称されている。
【0011】
また、非特許文献2には、CCIPモード、CCIP_Aモード、又はCCIP_Lモードを適用した色差ブロックの予測残差に対する直交変換処理において、DCT-2を垂直方向及び水平方向に適用するか、又は、DCT-8若しくはDST-7を垂直方向及び水平方向のそれぞれについて選択的に適用することが記載されている。
【先行技術文献】
【特許文献】
【0012】
【文献】特開2018-078409号公報
【非特許文献】
【0013】
【文献】Recommendation ITU-T H.265,(12/2016), "High efficiency video coding", International Telecommunication Union
【文献】JVET-J0025、"Description of SDR,HDR and 360° video coding technology proposal by Qualcomm and Technicolormedium complexity version"、2018年5月22日検索、インターネット<URL:http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/10_San%20Diego/wg11/JVET-J0025-v4.zip>
【文献】JVET-J0018、"Description of SDR video coding technology proposal by MediaTek"、[2018年5月22日検索]、インターネット<URL:http://phenix.it-sudparis.eu/jvet/doc_end_user/documents/10_San%20Diego/wg11/JVET-J0018-v2.zip>
【発明の開示】
【発明が解決しようとする課題】
【0014】
しかしながら、CCIP_Aモード又はCCIP_Lモードを適用した色差ブロックの予測残差は、そのエネルギー分布傾向に偏りがでる可能性が高い。
【0015】
例えば、CCIP_Aモードを適用する場合には、上側の輝度及び色差の隣接復号画素を線形モデルの算出に用いるため、当該ブロックの上端部領域の予測精度は高くなる可能性が高い。一方、線形モデル算出に用いた隣接復号画素から遠い下端部領域の予測精度は低くなる可能性が高い。かかる特徴をもつ予測残差に対して、垂直方向にDCT-8を適用すると、予測残差のエネルギーが集中しないため、符号化効率が低下してしまう問題がある。
【0016】
同様に、CCIP_Lモードを適用する場合には、左側の輝度及び色差の隣接復号画素を線形モデル算出に用いるため、当該ブロックの色差の左端部領域の予測精度は高くなる可能性が高いが、線形モデルの算出に用いた隣接復号画素から遠い右端部領域の予測精度は低くなる可能性が高い。かかる特徴をもつ予測残差に対して、水平方向にDCT-8を適用すると、予測残差のエネルギーが集中しないため、符号化効率が低下してしまう問題がある。
【0017】
そこで、本発明は、成分間イントラ予測を用いる場合において符号化効率を改善した画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0018】
第1の特徴に係る画像符号化装置は、符号化すべき第2成分のブロックに隣接する隣接復号画素として第1成分の復号画素及び第2成分の復号画素を参照して前記第2成分のブロックを予測する成分間イントラ予測によって第2成分の予測ブロックを生成する成分間イントラ予測部と、前記第2成分のブロックに対する前記第2成分の予測ブロックの誤差を表す予測残差に対する直交変換処理に適用する直交変換タイプの候補を生成する候補生成部と、前記候補生成部により生成された候補の中から選択された直交変換タイプを用いて、前記予測残差に対する直交変換処理を行う変換部と、を備え、前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置に基づいて、前記直交変換タイプの候補を生成することを要旨とする。
【0019】
第2の特徴に係る画像復号装置は、復号すべき第2成分のブロックに隣接する隣接復号画素として第1成分の復号画素及び第2成分の復号画素を参照して前記第2成分のブロックを予測する成分間イントラ予測によって第2成分の予測ブロックを生成する成分間イントラ予測部と、前記第2成分のブロックに対する前記第2成分の予測ブロックの誤差を表す予測残差に対応する第2成分の変換係数に対する逆直交変換処理に適用する直交変換タイプの候補を生成する候補生成部と、前記候補生成部により生成された候補の中から選択された直交変換タイプを用いて、前記第2成分の変換係数に対する逆直交変換処理を行う逆変換部と、を備え、前記候補生成部は、前記成分間イントラ予測において参照された前記隣接復号画素の位置に基づいて、前記直交変換タイプの候補を生成することを要旨とする。
【0020】
第3の特徴に係るプログラムは、コンピュータを第1の特徴に係る画像符号化装置として機能させる。
【0021】
第4の特徴に係るプログラムは、コンピュータを第2の特徴に係る画像復号装置として機能させる。
【発明の効果】
【0022】
本発明によれば、成分間イントラ予測を用いる場合において符号化効率を改善した画像符号化装置、画像復号装置、及びプログラムを提供できる。
【図面の簡単な説明】
【0023】
図1】実施形態に係る画像符号化装置の構成を示す図である。
図2】通常のCCIPモードを示す図である。
図3】CCIP_Aモードを示す図である。
図4】CCIP_Lモードを示す図である。
図5】実施形態に係る画像復号装置の構成を示す図である。
図6】実施形態に係る画像符号化装置の動作例を示す図である。
図7】実施形態に係る画像復号装置の動作例を示す図である。
図8】実施形態の変更例1に係る画像符号化装置の動作例を示す図である。
図9】実施形態の変更例1に係る画像復号装置の動作例を示す図である。
図10】実施形態の変更例2に係る画像符号化装置の動作例を示す図である。
図11】実施形態の変更例2に係る画像復号装置の動作例を示す図である。
【発明を実施するための形態】
【0024】
図面を参照して、一実施形態に係る画像符号化装置及び画像復号装置について説明する。本実施形態に係る画像符号化装置及び画像復号装置は、MPEGに代表される動画像の符号化及び復号を行う。なお、以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
【0025】
<1.画像符号化装置の構成>
図1は、本実施形態に係る画像符号化装置1の構成を示す図である。
【0026】
図1に示すように、画像符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170と、変換制御部180とを備える。
【0027】
ブロック分割部100は、動画像を構成するフレーム(或いはピクチャ)単位の入力画像をブロック状の小領域に分割し、分割により得たブロックを減算部110に出力する。入力画像内の各画素は、輝度(Y)及び色差(Cb、Cr)からなる。
【0028】
ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。ブロックの形状は正方形に限らず、長方形であってもよい。ブロックは、画像符号化装置1が符号化を行う単位及び画像復号装置2が復号を行う単位である。
【0029】
本実施形態において、ブロック分割部100は、入力画像をCU(Coding Unit)と呼ばれるブロックに分割する。1つのCUは、輝度ブロックと色差ブロックとを含む。画像符号化装置1は、1つのCUを構成する輝度ブロック及び色差ブロックを別々に符号化することが可能である。同様に、画像復号装置2は、1つのCUを構成する輝度ブロック及び色差ブロックを別々に復号することが可能である。
【0030】
減算部110は、ブロック分割部100から入力されたブロックと、予測部170が当該ブロックを予測して得た予測画像(予測ブロック)との間の画素単位での誤差を表す予測残差を算出する。具体的には、減算部110は、ブロック分割部100から入力されたブロックの各画素値から予測画像の各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。
【0031】
変換・量子化部120は、ブロック単位で直交変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを備える。
【0032】
変換部121は、変換制御部180の制御下で、減算部110から入力された予測残差に対して直交変換処理を行って変換係数を算出し、算出した変換係数を量子化部122に出力する。直交変換処理とは、例えば、離散コサイン変換(DCT)や離散サイン変換(DST)、カルーネンレーブ変換(KLT)等をいう。
【0033】
本実施形態において、変換部121は、DCTタイプ2(DCT-2)、DCTタイプ5(DCT-5)、DCTタイプ8(DCT-8)、及びDSTタイプ7(DST-7)の中から変換制御部180により選択された直交変換タイプを用いて、水平方向及び垂直方向のそれぞれの直交変換処理を行う。なお、これらの直交変換タイプ自体は当業者によく知られているため、各直交変換タイプの数式等についての説明は省略する。
【0034】
量子化部122は、変換部121から入力された変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化変換係数を生成する。量子化パラメータ(Qp)は、ブロック内の各変換係数に対して共通して適用されるパラメータであって、量子化の粗さを定めるパラメータである。量子化行列は、各変換係数を量子化する際の量子化値を要素として有する行列である。量子化部122は、量子化された変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。
【0035】
エントロピー符号化部130は、量子化部122から入力された変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを画像符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context-based Adaptive Binary Arithmetic Coding;コンテキスト適応型2値算術符号)等を用いることができる。
【0036】
なお、エントロピー符号化部130には、予測部170から予測に関する制御情報が入力され、変換制御部180から変換処理に関する制御情報が入力される。エントロピー符号化部130は、これらの制御情報のエントロピー符号化も行う。
【0037】
逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを備える。
【0038】
逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から入力された量子化変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、変換係数を復元し、復元した変換係数を逆変換部142に出力する。
【0039】
逆変換部142は、変換制御部180の制御下で、変換部121が行う直交変換処理に対応する逆直交変換処理を行う。例えば、変換部121がDCT-2による直交変換処理を行った場合には、逆変換部142はDCT-2による逆直交変換処理を行う。逆変換部142は、逆量子化部141から入力された変換係数に対して、水平方向及び垂直方向のそれぞれの逆直交変換処理を行って予測残差を復元し、復元した予測残差を合成部150に出力する。
【0040】
合成部150は、逆変換部142から入力された復元予測残差を、予測部170から入力された予測画像と画素単位で合成する。合成部150は、復元予測残差の各画素値と予測画像の各画素値を加算してブロックを再構成(復号)し、復号したブロック単位の復号画像をメモリ160に出力する。かかる復号画像は、再構成画像と称されることがある。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。
【0041】
メモリ160は、合成部150から入力された復号画像を記憶する。メモリ160は、復号画像をフレーム単位で記憶する。
【0042】
予測部170は、ブロック単位で予測を行う。予測部170は、イントラ予測部171と、インター予測部172と、切替部173とを備える。
【0043】
イントラ予測部171は、フレーム単位の原画像を分割して得られたブロック単位でイントラ予測を行う。イントラ予測部171は、メモリ160に記憶された復号画像のうち、予測対象のブロックに隣接する隣接復号画素を参照してイントラ予測画像を生成し、生成したイントラ予測画像を切替部173に出力する。
【0044】
また、イントラ予測部171は、複数のイントラ予測モードの中から、対象ブロックに適用する最適なイントラ予測モードを選択し、選択したイントラ予測モードを用いてイントラ予測を行う。イントラ予測部171は、選択したイントラ予測モードを示すインデックスをエントロピー符号化部130に出力する。なお、イントラ予測モードには、Planar予測、DC予測、及び方向性予測等がある。
【0045】
イントラ予測部171は、予測対象のCUの色差ブロックに適用するイントラ予測モードとして、成分間イントラ予測(CCIP)を選択可能である。具体的には、イントラ予測部171は、CCIPにより、CUの輝度ブロックの復号画像(復号画素値)を用いて当該CUの色差ブロックを予測する成分間イントラ予測部171aを備える。
【0046】
具体的には、成分間イントラ予測部171aは、符号化すべき色差ブロックに隣接する隣接復号画素として輝度復号画素及び色差復号画素を参照して当該色差ブロックを予測する成分間イントラ予測によって予測色差ブロックを生成する。
【0047】
なお、成分間イントラ予測(CCIP)が適用される場合、イントラ予測部171は、CUの輝度ブロックのイントラ予測を先に行っており、メモリ160には、当該CUの輝度ブロックの復号画像が記憶されている。
【0048】
成分間イントラ予測部171aは、成分間イントラ予測(CCIP)によって予測色差ブロックを生成し、切替部173を介して予測色差ブロックを減算部110に出力する。減算部110は、ブロック分割部100から入力された色差ブロックに対する予測色差ブロックの誤差を表す色差予測残差を算出し、算出した色差予測残差を変換部121に出力する。変換部121は、減算部110から入力された色差予測残差に対して直交変換処理を行う。
【0049】
本実施形態において、CCIPは、通常のCCIP、CCIP_A、及びCCIP_Lの3つのモードを含む。図2は通常のCCIPモードを示す図であり、図3はCCIP_Aモードを示す図であり、図4はCCIP_Lモードを示す図である。
【0050】
図2に示すように、通常のCCIPモードの場合、成分間イントラ予測部171aは、CUの上側及び左側に隣接する輝度復号画素及び色差復号画素を用いて、当該CUの輝度及び色差の線形モデルを算出し、算出した線形モデルを用いて当該CUの色差ブロックの画素値を予測する。
【0051】
通常のCCIPモードは、CUの上側及び左側の輝度及び色差の隣接復号画素の信号分布の関係が当該CUの輝度及び色差の信号分布の関係と近似できることを利用し、色差の信号を精度よく予測できる。なお、隣接復号画素は、次隣接の復号画素を含む概念であってもよい。
【0052】
成分間イントラ予測部171aは、上述した、非特許文献の他、例えば、JVET-G1001-V1等に記載されているように、次の式(1)によりCUの色差(Cb)の予測画素値predc(i,j)を算出する。
【0053】
【数1】
【0054】
但し、recL '(i, j)は、当該CUのダウンサンプルされた輝度の復号画素値(downsampled reconstructed luma samples)を表す。
【0055】
また、α及びβは次の式(2)及び(3)により算出する。
【0056】
【数2】
【0057】
但し、L(n)は、ダウンサンプルされた上側及び左側の輝度の隣接復号画素値(top and left neighbouring reconstructed luma samples)を表す。C(n)は、上側及び左側の色差の隣接復号画素値(top and left neighbouring reconstructed chroma samples)を表す。
【0058】
このように、通常のCCIPは、CUの上側及び左側の隣接復号画素を常に用いるため、上側と左側とで、輝度及び色差の信号分布の関係が異なる場合には、正しい線形モデルが算出できず、結果として色差の予測精度が低下してしまう。CCIP_Aモード及びCCIP_Lモードは、CUの上側と左側とで輝度及び色差の信号分布の関係が異なる場合において好適なモードである。
【0059】
図3に示すように、CCIP_Aモードの場合、成分間イントラ予測部171aは、CUの上側及び左側の輝度及び色差の隣接復号画素を用いる代わりに、CUの上側のみの輝度及び色差の隣接復号画素を用いて線形モデルを算出する。
【0060】
CCIP_Aモードを適用する場合には、線形モデルの算出に用いた隣接復号画素に近い領域(すなわち、色差ブロックの上端部領域)の予測精度は高くなる可能性が高い。一方、線形モデル算出に用いた隣接復号画素から遠い領域(すなわち、色差ブロックの下端部領域)の予測精度は低くなる可能性が高い。
【0061】
図4に示すように、CCIP_Lモードの場合、成分間イントラ予測部171aは、CUの上側及び左側の輝度及び色差の隣接復号画素を用いる代わりに、CUの左側のみの輝度及び色差の隣接復号画素を用いて線形モデルを算出する。
【0062】
CCIP_Lモードを適用する場合には、線形モデルの算出に用いた隣接復号画素から遠い領域(すなわち、色差ブロックの左端部領域)の予測精度は高くなる可能性が高いが、線形モデルの算出に用いた隣接復号画素から近い領域(すなわち、色差ブロックの右端部領域)の予測精度は低くなる可能性が高い。
【0063】
成分間イントラ予測部171aは、色差ブロックに適用するイントラ予測モードとして、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかが選択された場合に、選択されたモードを示すインデックスをエントロピー符号化部130及び変換制御部180に出力する。
【0064】
インター予測部172は、メモリ160に記憶された復号画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、予測対象のブロックを予測してインター予測画像を生成し、生成したインター予測画像を切替部173に出力する。インター予測部172は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。
【0065】
切替部173は、イントラ予測部171から入力されるイントラ予測画像とインター予測部172から入力されるインター予測画像とを切り替えて、いずれかの予測画像を減算部110及び合成部150に出力する。
【0066】
変換制御部180は、変換部121が行う直交変換処理及び逆変換部142が行う逆直交変換処理を制御する。本実施形態において、変換制御部180は、色差ブロックに適用するイントラ予測モードとして、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかが選択された場合に、当該色差ブロックに対応する変換処理(直交変換処理及び逆直交変換処理)を制御する。
【0067】
変換制御部180は、候補生成部181と、タイプ選択部182とを備える。
【0068】
候補生成部181は、成分間イントラ予測部171aから入力されたイントラ予測モードのインデックスに基づいて、色差予測残差に対する直交変換処理に適用する直交変換タイプの候補を生成し、生成した候補をタイプ選択部182に出力する。例えば、直交変換タイプの候補は、DCT-2、DCT-5、DCT-8、及びDST-7のうち少なくとも1つである。
【0069】
具体的には、候補生成部181は、成分間イントラ予測(CCIP)において参照された隣接復号画素の位置が色差ブロックの上下左右のうちいずれか1つのみであるか否かに応じて、直交変換タイプの候補を生成する。
【0070】
本実施形態において、成分間イントラ予測部171aは、第1のモード(通常のCCIPモード)及び第2のモード(CCIP_Aモード又はCCIP_Lモード)を含む複数のモードの中から選択されたモードを用いて成分間イントラ予測を行う。第1のモードは、色差ブロックの上側及び左側の両方の隣接復号画素を参照して色差ブロックを予測するモードである。第2のモードは、色差ブロックの上側のみ又は左側のみの隣接復号画素を参照して色差ブロックを予測するモードである。
【0071】
候補生成部181は、第1のモードが選択された場合には、直交変換タイプの候補として、1以上の直交変換タイプからなる第1の候補を生成する。候補生成部181は、第2のモードが選択された場合には、直交変換タイプの候補として、第1の候補とは異なる第2の候補を生成する。すなわち、候補生成部181は、第1のモード(通常のCCIPモード)と第2のモード(CCIP_Aモード又はCCIP_Lモード)とで、互いに異なる直交変換タイプの候補を生成する。
【0072】
ここで、第1の候補及び第2の候補のそれぞれは、水平方向の変換処理に適用する1以上の直交変換タイプの候補からなる水平方向候補と、垂直方向の変換処理に適用する1以上の直交変換タイプの候補からなる垂直方向候補とを含む。第1の候補において、水平方向候補と垂直方向候補とが同じであってもよい。一方、第2の候補においては、水平方向候補と垂直方向候補とが互いに異なっている。
【0073】
タイプ選択部182は、候補生成部181から入力された候補の中から色差予測残差に対する直交変換処理に適用する直交変換タイプを選択し、選択した直交変換タイプを示すインデックス(フラグ)を変換部121、逆変換部142、及びエントロピー符号化部130に出力する。例えば、タイプ選択部182は、候補生成部181から入力された候補のそれぞれについてRD(Rate Distortion)コストを算出し、算出したRDコストに基づいて当該候補の中から直交変換タイプを選択してもよい。
【0074】
具体的には、タイプ選択部182は、候補生成部181から入力された水平方向候補の中から水平方向の変換処理に適用する直交変換タイプを選択し、選択した水平方向の直交変換タイプを示すインデックス(フラグ)を変換部121、逆変換部142、及びエントロピー符号化部130に出力する。
【0075】
但し、候補生成部181から入力された水平方向候補が1つの直交変換タイプのみからなる場合には、水平方向の変換処理に適用する直交変換タイプが一意に定まるため、水平方向の直交変換タイプを示すインデックス(フラグ)をエントロピー符号化部130に出力しなくてもよい。
【0076】
また、タイプ選択部182は、候補生成部181から入力された垂直方向候補の中から垂直方向の変換処理に適用する直交変換タイプを選択し、選択した垂直方向の直交変換タイプを示すインデックス(フラグ)を変換部121、逆変換部142、及びエントロピー符号化部130に出力する。
【0077】
但し、候補生成部181から入力された垂直方向候補が1つの直交変換タイプのみからなる場合には、垂直方向の変換処理に適用する直交変換タイプが一意に定まるため、垂直方向の直交変換タイプを示すインデックス(フラグ)をエントロピー符号化部130に出力しなくてもよい。
【0078】
<2.画像復号装置の構成>
図5は、本実施形態に係る画像復号装置2の構成を示す図である。
【0079】
図5に示すように、画像復号装置2は、エントロピー符号復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240と、変換制御部250とを備える。
【0080】
エントロピー符号復号部200は、画像符号化装置1により生成された符号化データを復号し、量子化された変換係数を逆量子化・逆変換部210に出力する。また、エントロピー符号復号部200は、予測(イントラ予測及びインター予測)に関する制御情報を取得し、取得した制御情報を予測部240に出力する。
【0081】
本実施形態において、エントロピー符号復号部200は、イントラ予測モード(具体的には、CCIPのモード)のインデックスと、水平方向及び垂直方向のそれぞれの直交変換タイプのインデックスとを取得し、イントラ予測モードのインデックスをイントラ予測部241及びタイプ選択部252に出力し、直交変換タイプのインデックスをタイプ選択部252に出力する。
【0082】
逆量子化・逆変換部210は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを備える。
【0083】
逆量子化部211は、画像符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー符号復号部200から入力された量子化変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより変換係数を復元し、復元した変換係数を逆変換部212に出力する。
【0084】
逆変換部212は、変換制御部250の制御下で、画像符号化装置1の変換部121が行う直交変換処理に対応する逆直交変換処理を行う。逆変換部212は、逆量子化部211から入力された変換係数に対して、水平方向及び垂直方向のそれぞれの逆直交変換処理を行って予測残差を復元し、復元した予測残差を合成部220に出力する。
【0085】
合成部220は、逆変換部212から入力された予測残差と、予測部240から入力された予測画像(予測ブロック)とを画素単位で合成することにより、元のブロックを再構成(復号)し、ブロック単位の復号画像をメモリ230に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。
【0086】
メモリ230は、合成部220から入力された復号画像を記憶する。メモリ230は、復号画像をフレーム単位で記憶する。メモリ230は、フレーム単位の復号画像を画像復号装置2の外部に出力する。
【0087】
予測部240は、ブロック単位で予測を行う。予測部240は、イントラ予測部241と、インター予測部242と、切替部243とを備える。
【0088】
イントラ予測部241は、メモリ230に記憶された復号画像のうち、予測対象のブロックに隣接する隣接復号画素を参照してイントラ予測画像を生成し、生成したイントラ予測画像を切替部243に出力する。また、イントラ予測部241は、エントロピー符号復号部200から入力されたイントラ予測モードのインデックスに基づいて複数のイントラ予測モードの中からイントラ予測モードを選択し、選択したイントラ予測モードを用いてイントラ予測を行う。
【0089】
イントラ予測部241は、成分間イントラ予測(CCIP)により、CUの輝度ブロックの復号画像(復号画素値)を用いて当該CUの色差ブロックを予測する成分間イントラ予測部241aを備える。具体的には、成分間イントラ予測部241aは、復号すべき色差ブロックに隣接する隣接復号画素として輝度復号画素及び色差復号画素を参照して当該色差ブロックを予測する成分間イントラ予測によって予測色差ブロックを生成する。
【0090】
なお、成分間イントラ予測(CCIP)が適用される場合、イントラ予測部241は、CUの輝度ブロックのイントラ予測を先に行っており、メモリ230には、当該CUの輝度ブロックの復号画像が記憶されている。
【0091】
成分間イントラ予測部241aは、成分間イントラ予測(CCIP)によって予測色差ブロックを生成し、切替部243を介して予測色差ブロックを合成部220に出力する。合成部220は、逆変換部212から入力された色差予測残差と、成分間イントラ予測部241aから入力された予測色差ブロックとを画素単位で合成することにより、元の色差ブロックを再構成(復号)し、ブロック単位の復号画像をメモリ230に出力する。
【0092】
本実施形態において、CCIPは、通常のCCIP、CCIP_A、及びCCIP_Lの3つのモードを含む。成分間イントラ予測部241aは、色差ブロックに適用するイントラ予測モードとして、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかが選択された場合に、選択されたモードを示すインデックスを変換制御部250に出力する。
【0093】
インター予測部242は、メモリ230に記憶された復号画像を参照画像として用いて予測対象のブロックを予測するインター予測を行う。インター予測部242は、エントロピー符号復号部200から入力された制御情報(動きベクトル情報等)に従ってインター予測を行うことによりインター予測画像を生成し、生成したインター予測画像を切替部243に出力する。
【0094】
切替部243は、イントラ予測部241から入力されるイントラ予測画像とインター予測部242から入力されるインター予測画像とを切り替えて、いずれかの予測画像を合成部220に出力する。
【0095】
変換制御部250は、逆変換部212が行う逆直交変換処理を制御する。本実施形態において、変換制御部250は、色差ブロックに適用するイントラ予測モードとして、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかが選択された場合に、当該色差ブロックに対応する変換処理(逆直交変換処理)を制御する。変換制御部250は、候補生成部251と、タイプ選択部252とを備える。
【0096】
候補生成部251は、成分間イントラ予測部241aから入力されたイントラ予測モードのインデックスに基づいて、逆変換部212が行う逆直交変換処理に適用する直交変換タイプの候補を生成し、生成した候補をタイプ選択部252に出力する。例えば、直交変換タイプの候補は、DCT-2、DCT-5、DCT-8、及びDST-7のうち少なくとも1つである。
【0097】
具体的には、候補生成部251は、成分間イントラ予測(CCIP)において参照された隣接復号画素の位置が色差ブロックの上下左右のうちいずれか1つのみであるか否かに応じて、直交変換タイプの候補を生成する。
【0098】
本実施形態において、成分間イントラ予測部241aは、第1のモード(通常のCCIPモード)及び第2のモード(CCIP_Aモード又はCCIP_Lモード)を含む複数のモードの中から選択されたモードを用いて成分間イントラ予測を行う。第1のモードは、色差ブロックの上側及び左側の両方の隣接復号画素を参照して色差ブロックを予測するモードである。第2のモードは、色差ブロックの上側のみ又は左側のみの隣接復号画素を参照して色差ブロックを予測するモードである。
【0099】
候補生成部251は、第1のモードが選択された場合には、直交変換タイプの候補として、1以上の直交変換タイプからなる第1の候補を生成する。候補生成部251は、第2のモードが選択された場合には、直交変換タイプの候補として、第1の候補とは異なる第2の候補を生成する。すなわち、候補生成部251は、第1のモード(通常のCCIPモード)と第2のモード(CCIP_Aモード又はCCIP_Lモード)とで、互いに異なる直交変換タイプの候補を生成する。
【0100】
ここで、第1の候補及び第2の候補のそれぞれは、水平方向の変換処理に適用する1以上の直交変換タイプの候補からなる水平方向候補と、垂直方向の変換処理に適用する1以上の直交変換タイプの候補からなる垂直方向候補とを含む。第1の候補において、水平方向候補と垂直方向候補とが同じであってもよい。一方、第2の候補においては、水平方向候補と垂直方向候補とが互いに異なっている。
【0101】
タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向、垂直方向)に従って、候補生成部251から入力された候補の中から逆直交変換処理(水平方向、垂直方向)に適用する直交変換タイプを選択する。具体的には、エントロピー符号復号部200から入力される直交変換タイプのインデックスは、候補生成部251が生成する候補のうちいずれかを指定するものである。タイプ選択部252は、選択した直交変換タイプを示すインデックス(フラグ)を逆変換部212に出力する。
【0102】
<3.動作例>
以下において、本実施形態に係る画像符号化装置1及び画像復号装置2の動作例について説明する。
【0103】
<3.1.画像符号化装置の動作例>
図6は、本実施形態に係る画像符号化装置1の動作例を示す図である。
【0104】
図6に示すように、ステップS101において、イントラ予測部171は、色差ブロックに対するイントラ予測モードを選択する。ここでは、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかが選択されたと仮定して説明を進める。成分間イントラ予測部171aは、選択されたモードに従って成分間イントラ予測を行い、予測色差ブロックを生成する。減算部110は、元の色差ブロックと予測色差ブロックとの誤差を表す色差予測残差を算出する。
【0105】
(通常のCCIPモード)
通常のCCIPモードが選択された場合(ステップS102:YES)、ステップS103において、候補生成部181は、水平方向候補として、DCT-2、DCT-8、及びDST-7からなる候補を生成する。候補生成部181は、垂直方向候補として、DCT-2、DCT-8、及びDST-7からなる候補を生成する。
【0106】
ステップS107において、タイプ選択部182は、DCT-2を垂直方向及び水平方向に適用するか、又は、DCT-8若しくはDST-7を垂直方向及び水平方向のそれぞれについて選択的に適用するかを判断する。
【0107】
ステップS108において、変換部121は、タイプ選択部182により選択された直交変換タイプを用いて、色差予測残差に対する直交変換処理(水平方向、垂直方向)を行って変換係数を生成する。
【0108】
ステップS109において、エントロピー符号化部130は、量子化後の変換係数と、通常のCCIPモードを示すインデックスとを符号化する。
【0109】
また、ステップS109において、エントロピー符号化部130は、選択された直交変換タイプを示すインデックスを符号化する。例えば、当該インデックスは、第1のフラグ及び第2のフラグを含む。具体的には、DCT-2を水平および垂直に適用する場合には、第1のフラグを「1」として符号化及び伝送する。DCT-8又はDST-7を選択的に垂直及び水平のそれぞれに適用する場合には、第1のフラグを「0」として符号化及び伝送した後、水平方向の直交変換タイプがDCT-8及びDST-7のどちらであるかを示す第2のフラグを符号化し、ビットストリームにより出力する。同様に、垂直方向の直交変換タイプがDCT-8及びDST-7のどちらであるかを示す第2のフラグを符号化し、ビットストリームにより出力する
【0110】
(CCIP_Lモード)
CCIP_Lモードが選択された場合(ステップS104:YES)、ステップS105において、候補生成部181は、水平方向候補として、DST-7のみからなる候補を生成する。また、候補生成部181は、垂直方向候補として、DCT-8及びDST-7からなる候補を生成する。上述したように、色差ブロックにCCIP_Lモードを適用する場合には、予測残差の左側領域のエネルギーが小さくなる傾向にあり、また予測残差の右側領域のエネルギーが大きくなる傾向にある。そこで、候補生成部181が水平方向候補としてDST-7のみからなる候補を生成することとしている。
【0111】
ステップS107において、タイプ選択部182は、垂直方向についてDCT-8及びDST-7のいずれか一方を選択する。水平方向についてはDST-7しか候補が存在しないため、タイプ選択部182は水平方向についてDST-7を選択する。
【0112】
ステップS108において、変換部121は、タイプ選択部182により選択された直交変換タイプを用いて、色差予測残差に対する直交変換処理(水平方向、垂直方向)を行って変換係数を生成する。
【0113】
ステップS109において、エントロピー符号化部130は、量子化後の変換係数と、CCIP_Lモードを示すインデックスとを符号化する。
【0114】
また、ステップS109において、エントロピー符号化部130は、選択された直交変換タイプを示すインデックスを符号化する。但し、水平方向における直交変換候補が1つのみであるため、エントロピー符号化部130は、水平方向に適用する直交変換タイプを示すフラグをエントロピー符号化せずに、垂直方向に適用する直交変換タイプを示すフラグ(上述した第1のフラグ及び第2のフラグ)をエントロピー符号化する。水平方向に適用する直交変換タイプを示すフラグのエントロピー符号化が不要であるため、画像復号装置2に伝送すべきフラグを削減できる。
【0115】
(CCIP_Aモード)
CCIP_Aモードが選択された場合(ステップS104:NO)、ステップS106において、候補生成部181は、垂直方向候補として、DST-7のみからなる候補を生成する。また、候補生成部181は、水平方向候補として、DCT-8及びDST-7からなる候補を生成する。上述したように、色差ブロックにCCIP_Aモードを適用する場合には、予測残差の上側領域のエネルギーが小さくなる傾向にあり、また予測残差の下側領域のエネルギーが大きくなる傾向にある。そこで、候補生成部181は垂直方向候補としてDST-7のみからなる候補を生成することとしている。
【0116】
ステップS107において、タイプ選択部182は、水平方向についてDCT-8及びDST-7のいずれか一方を選択する。垂直方向についてはDST-7しか候補が存在しないため、タイプ選択部182は水平方向についてDST-7を選択する。
【0117】
ステップS108において、変換部121は、タイプ選択部182により選択された直交変換タイプを用いて、色差予測残差に対する直交変換処理(水平方向、垂直方向)を行って変換係数を生成する。
【0118】
ステップS109において、エントロピー符号化部130は、量子化後の変換係数と、CCIP_Aモードを示すインデックスとを符号化する。
【0119】
また、ステップS109において、エントロピー符号化部130は、選択された直交変換タイプを示すインデックスを符号化する。但し、垂直方向における直交変換候補が1つのみであるため、エントロピー符号化部130は、垂直方向に適用する直交変換タイプを示すフラグをエントロピー符号化せずに、水平方向に適用する直交変換タイプを示すフラグ(上述した第1のフラグ及び第2のフラグ)をエントロピー符号化する。垂直方向に適用する直交変換タイプを示すフラグのエントロピー符号化が不要であるため、画像復号装置2に伝送すべきフラグを削減できる。
【0120】
<3.2.画像復号装置の動作例>
図7は、本実施形態に係る画像復号装置2の動作例を示す図である。
【0121】
図7に示すように、ステップS201において、エントロピー符号復号部200は、画像符号化装置1により生成された符号化データを復号し、量子化された変換係数を逆量子化・逆変換部210に出力する。また、エントロピー符号復号部200は、イントラ予測モードのインデックスと、直交変換タイプのインデックス(水平方向、垂直方向)とを取得する。ここでは、イントラ予測モードのインデックスが、通常のCCIPモード、CCIP_Aモード、及びCCIP_Lモードのいずれかを示すと仮定して説明を進める。成分間イントラ予測部241aは、当該インデックスが示すモードに従って成分間イントラ予測を行い、予測色差ブロックを生成する。
【0122】
(通常のCCIPモード)
通常のCCIPモードの場合(ステップS202:YES)、ステップS203において、候補生成部251は、水平方向候補として、DCT-2、DCT-8、及びDST-7からなる候補を生成する。候補生成部251は、垂直方向候補として、DCT-2、DCT-8、及びDST-7からなる候補を生成する。
【0123】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向、垂直方向)に基づいて、候補生成部251が生成した候補(水平方向、垂直方向)の中から、変換係数に対する逆直交変換処理に適用する直交変換タイプ(水平方向、垂直方向)を選択する。
【0124】
ステップS208において、逆変換部212は、タイプ選択部252により選択された直交変換タイプを用いて、変換係数に対する逆直交変換処理(水平方向、垂直方向)を行って色差予測残差を復元する。その後、合成部220は、復元された色差予測残差と、成分間イントラ予測部241aにより生成された予測色差ブロックとを合成して元の色差ブロックを復元(復号)する。
【0125】
(CCIP_Lモード)
CCIP_Lモードの場合(ステップS204:YES)、ステップS205において、候補生成部251は、水平方向候補として、DST-7のみからなる候補を生成する。また、候補生成部251は、垂直方向候補として、DCT-8及びDST-7からなる候補を生成する。
【0126】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(垂直方向)に基づいて、垂直方向についてDCT-8及びDST-7のいずれか一方を選択する。水平方向についてはDST-7しか候補が存在しないため、タイプ選択部252は水平方向についてDST-7を選択する。
【0127】
ステップS208において、逆変換部212は、タイプ選択部252により選択された直交変換タイプを用いて、変換係数に対する逆直交変換処理(水平方向、垂直方向)を行って色差予測残差を復元する。その後、合成部220は、復元された色差予測残差と、成分間イントラ予測部241aにより生成された予測色差ブロックとを合成して元の色差ブロックを復元(復号)する。
【0128】
(CCIP_Aモード)
CCIP_Aモードの場合(ステップS204:NO)、ステップS206において、候補生成部251は、垂直方向候補として、DST-7のみからなる候補を生成する。また、候補生成部251は、水平方向候補として、DCT-8及びDST-7からなる候補を生成する。
【0129】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向)に基づいて、水平方向についてDCT-8及びDST-7のいずれか一方を選択する。垂直方向についてはDST-7しか候補が存在しないため、タイプ選択部252は水平方向についてDST-7を選択する。
【0130】
ステップS208において、逆変換部212は、タイプ選択部252により選択された直交変換タイプを用いて、変換係数に対する逆直交変換処理(水平方向、垂直方向)を行って色差予測残差を復元する。その後、合成部220は、復元された色差予測残差と、成分間イントラ予測部241aにより生成された予測色差ブロックとを合成して元の色差ブロックを復元(復号)する。
【0131】
<4.実施形態のまとめ>
上述したように、本実施形態に係る画像符号化装置及び画像復号装置2によれば、成分間イントラ予測において参照された隣接復号画素の位置が色差ブロックの上下左右のうちいずれか1つのみである場合(すなわち、CCIP_Aモード又はCCIP_Lモードの場合)であっても、予測残差のエネルギー分布傾向に適した直交変換タイプを用いて変換処理(直交変換処理及び逆直交変換処理)を行うことができるため、符号化効率を改善できる。
【0132】
本実施形態に係る画像符号化装置1及び画像復号装置2によれば、第1のモード(通常のCCIPモード)と第2のモード(CCIP_Aモード又はCCIP_Lモード)とで、互いに異なる直交変換タイプの候補を生成することにより、第2のモードにおける予測残差のエネルギー分布傾向に適した直交変換タイプを用いて変換処理(直交変換処理及び逆直交変換処理)を行うことができるため、符号化効率を改善できる。
【0133】
本実施形態に係る画像符号化装置1及び画像復号装置2によれば、第2のモードが選択された場合において、水平方向の変換処理と垂直方向の変換処理とで互いに異なる直交変換タイプの候補を生成することにより、水平方向及び垂直方向のそれぞれにおける予測残差のエネルギー分布傾向に適した直交変換タイプを用いて変換処理を行うことができるため、符号化効率を改善できる。
【0134】
<5.変更例1>
上述した実施形態に係る動作例において、水平方向又は垂直方向の直交変換タイプの候補として1つのみの候補を生成する際に、DST-7を直交変換候補として生成する一例について説明した。しかしながら、DST-7と同様に非対称なインパルス応答を持つ変換であり、一方の端点の係数が小さく、他方の端点の係数が大きい直交変換であればよく、そのタイプはDST-7に限らない。例えば、DST-7と同様な特徴を持つDCT-5をDST-7の代わりに用いてもよい。
【0135】
或いは、DCT-5及びDST-7を選択的に適用してもよい。図8は、本変更例に係る画像符号化装置1の動作例を示す図である。図9は、本変更例に係る画像復号装置2の動作例を示す図である。ここでは、上述した実施形態に係る動作例との相違点について説明する。
【0136】
図8に示すように、CCIP_Lの場合(ステップS104:YES)、ステップS105aにおいて、候補生成部181は、水平方向候補として、DCT-5及びDST-7からなる候補を生成する。また、候補生成部181は、垂直方向候補として、DCT-8及びDST-7からなる候補を生成する。かかる場合、ステップS107において、タイプ選択部182は、水平方向についてDCT-5及びDST-7のいずれか一方を選択し、垂直方向についてDCT-8及びDST-7のいずれか一方を選択する。
【0137】
一方、CCIP_Aの場合(ステップS104:NO)、ステップS106aにおいて、候補生成部181は、垂直方向候補として、DCT-5及びDST-7からなる候補を生成する。また、候補生成部181は、水平方向候補として、DCT-8及びDST-7からなる候補を生成する。
【0138】
ステップS107において、タイプ選択部182は、垂直方向についてDCT-5及びDST-7のいずれか一方を選択し、水平方向についてDCT-8及びDST-7のいずれか一方を選択する。
【0139】
図9に示すように、CCIP_Lモードの場合(ステップS204:YES)、ステップS205aにおいて、候補生成部251は、水平方向候補として、DCT-5及びDST-7からなる候補を生成する。また、候補生成部251は、垂直方向候補として、DCT-8及びDST-7からなる候補を生成する。
【0140】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向)に基づいて水平方向についてDCT-5及びDST-7のいずれか一方を選択し、エントロピー符号復号部200から入力された直交変換タイプのインデックス(垂直方向)に基づいて垂直方向についてDCT-8及びDST-7のいずれか一方を選択する。
【0141】
一方、CCIP_Aモードの場合(ステップS204:NO)、ステップS206aにおいて、候補生成部251は、垂直方向候補として、DCT-5及びDST-7からなる候補を生成する。また、候補生成部251は、水平方向候補として、DCT-8及びDST-7からなる候補を生成する。
【0142】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(垂直方向)に基づいて垂直方向についてDCT-5及びDST-7のいずれか一方を選択し、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向)に基づいて水平方向についてDCT-8及びDST-7のいずれか一方を選択する。
【0143】
なお、本変更例においては、DST-7及びDCT-5を直交変換候補として生成する一例について記載したが、DST-7やDCT-5と同様の特徴を持つ非対称なインパルス応答の変換であれば、DST-7やDCT-5に限らない。
【0144】
<6.変更例2>
上述した実施形態及び変更例1においては、CCIP_Lモードを適用する場合とCCIP_Aモードを適用する場合とにおける直交変換候補の数を、通常のCCIPモードにおける直交変換候補の数よりも少なくすることにより、画像符号化装置1から画像復号装置2に伝送するフラグのビット長を少なくすることが可能である。しかしながら、次のような構成としてもよい。
【0145】
具体的には、本変更例では、CCIP_Aモードを適用する場合に、垂直方向にDCT-8の適用を禁止し、垂直方向候補にDCT-8を含めないようにする。また、CCIP_Lモードを適用する場合に、水平方向にDCT-8の適用を禁止し、水平方向候補にDCT-8を含めないようにする。それ以外の直交変換候補については、通常のCCIPモードにおける直交変換候補と同様とする。
【0146】
次に、図10は、本変更例に係る画像符号化装置1の動作例を示す図である。また、図11は、本変更例に係る画像復号装置2の動作例を示す図であり、上述した実施形態に係る動作例との相違点について説明する。
【0147】
図10に示すように、CCIP_Lモードを適用する場合、候補生成部181は、水平方向候補として、DCT-2及びDST-7からなる候補を生成し、垂直方向候補として、DCT-2、DCT-8及びDST-7からなる候補を生成する(ステップS105b)。
【0148】
ステップS107において、タイプ選択部182は、水平方向についてDCT-2及びDST-7のいずれか一方を選択し、垂直方向についてDCT-2、DCT-8及びDST-7のいずれか1つを選択する。
【0149】
一方、CCIP_Aモードを適用する場合、候補生成部181は、垂直方向候補として、DCT-2及びDST-7からなる候補を生成し、水平方向候補として、DCT-2、DCT-8及びDST-7からなる候補を生成する(ステップS106b)。
【0150】
ステップS107において、タイプ選択部182は、垂直方向についてDCT-2及びDST-7のいずれか一方を選択し、水平方向についてDCT-2、DCT-8及びDST-7のいずれか1つを選択する。
【0151】
図11に示すように、CCIP_Lモードを適用する場合、候補生成部251は、水平方向候補として、DCT-2及びDST-7からなる候補を生成し、垂直方向候補として、DCT-2、DCT-8及びDST-7からなる候補を生成する(ステップS205b)。
【0152】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向)に基づいて水平方向についてDCT-2及びDST-7のいずれか一方を選択する。そして、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(垂直方向)に基づいて垂直方向についてDCT-2、DCT-8及びDST-7のいずれか1つを選択するCCIP_Aモードを適用する場合、候補生成部251は、垂直方向候補として、DCT-2及びDST-7からなる候補を生成し、水平方向候補として、DCT-2、DCT-8及びDST-7からなる候補を生成する。
【0153】
ステップS207において、タイプ選択部252は、エントロピー符号復号部200から入力された直交変換タイプのインデックス(垂直方向)に基づいて垂直方向についてDCT-2及びDST-7のいずれか一方を選択し、エントロピー符号復号部200から入力された直交変換タイプのインデックス(水平方向)に基づいて水平方向についてDCT-2、DCT-8及びDST-7のいずれか1つを選択する。
【0154】
<7.その他の実施形態>
上述した実施形態において、色差ブロックの上側及び左側の輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するCCIPモードを通常のCCIPモードとして用いる一例を説明したが、かかるモードに代えて、色差ブロックの下側及び右側の輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するモードを用いてもよい。
【0155】
また、上述した実施形態において、色差ブロックの上側のみの輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するCCIP_Aモードを用いる一例を説明したが、かかるモードに代えて、色差ブロックの下側のみの輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するモードを用いてもよい。
【0156】
また、上述した実施形態において、色差ブロックの左側のみの輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するCCIP_Lモードを用いる一例を説明したが、かかるモードに代えて、色差ブロックの右側のみの輝度及び色差の隣接復号画素を参照して当該色差ブロックを予測するモードを用いてもよい。
【0157】
上述した実施形態において、直交変換候補には、残差信号に変換を適用しない変換スキップが含まれてもよい。変換スキップは、DCTやDST等の変換を施すことなく、残差信号をスケーリングして変換係数とするものである。
【0158】
上述した実施形態において、映像信号を構成する成分が輝度・色差成分(YCbCr)である一例について説明したが、映像信号を構成する成分は三原色成分(RGB)であってもよい。
【0159】
なお、画像符号化装置1が行う各処理をコンピュータに実行させるプログラム及び画像復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。また、画像符号化装置1が行う各処理を実行する回路を集積化し、画像符号化装置1を半導体集積回路(チップセット、SoC)として構成してもよい。同様に、画像復号装置2が行う各処理を実行する回路を集積化し、画像復号装置2を半導体集積回路として構成してもよい。
【0160】
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【0161】
本願は日本国特許出願第2018-152988号(2018年8月15日出願)の優先権を主張し、その内容の全てが本願明細書に組み込まれている。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11