IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

特許7361498イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
<>
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図1
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図2
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図3
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図4
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図5
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図6
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図7
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図8
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図9
  • 特許-イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-05
(45)【発行日】2023-10-16
(54)【発明の名称】イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
(51)【国際特許分類】
   H04N 19/11 20140101AFI20231006BHJP
   H04N 19/136 20140101ALI20231006BHJP
   H04N 19/176 20140101ALI20231006BHJP
   H04N 19/186 20140101ALI20231006BHJP
   H04N 19/593 20140101ALI20231006BHJP
【FI】
H04N19/11
H04N19/136
H04N19/176
H04N19/186
H04N19/593
【請求項の数】 7
(21)【出願番号】P 2019099529
(22)【出願日】2019-05-28
(65)【公開番号】P2020195063
(43)【公開日】2020-12-03
【審査請求日】2022-04-28
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001106
【氏名又は名称】弁理士法人キュリーズ
(72)【発明者】
【氏名】根本 慎平
(72)【発明者】
【氏名】岩村 俊輔
(72)【発明者】
【氏名】井口 和久
(72)【発明者】
【氏名】市ヶ谷 敦郎
【審査官】田中 純一
(56)【参考文献】
【文献】特開2018-078409(JP,A)
【文献】特開2015-211265(JP,A)
【文献】Jeeyoon Park, et al.,CE3-related: Chroma Intra Mode Coding with Lumped Luma Directions and Replacement for DM mode,Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 14th Meeting: Geneva, CH, 19-27 March 2019,JVET-N0218r1,2019年03月26日,pp.1-8,庁内DB(送付可)
【文献】Jianle Chen, et al.,Algorithm description for Versatile Video Coding and Test Model 2 (VTM 2),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 11th Meeting: Ljubljana, SI, 10-18 July 2018,JVET-K1002-v2,2018年10月02日,pp.1-21,庁内DB(送付可)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/12
H04N 19/00 - 19/98
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
輝度信号と色差信号とにより構成される画像を輝度ブロックと色差ブロックとに分割して得られた前記色差ブロックに対してイントラ予測を行うイントラ予測装置であって、
前記色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モードとして決定する第1決定部と、
前記第1候補モードと重複しない第2候補モードを決定する第2決定部と、
前記第1候補モード及び前記第2候補モードを含む複数の候補モードの中から前記色差ブロックのイントラ予測に用いるイントラ予測モードを選択する予測モード選択部と、を備え、
前記第2決定部は、前記第2候補モードとして予め定められたデフォルトモードと前記第1候補モードとが重複する場合、前記重複するデフォルトモードに代えて用いる代替モードとして、前記色差ブロックのブロック形状に基づいて、前記色差ブロックの左下の頂点から右上の頂点へ向かう参照方向に対応するイントラ予測モードを決定することを特徴とするイントラ予測装置。
【請求項2】
前記第2決定部は、
前記色差ブロックの高さに対する前記色差ブロックの幅の比が大きくなるにつれて、前記代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が大きくなるように前記代替モードを決定し、
前記色差ブロックの高さに対する前記色差ブロックの幅の比が小さくなるにつれて、前記代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が小さくなるように前記代替モードを決定することを特徴とする請求項に記載のイントラ予測装置。
【請求項3】
輝度信号と色差信号とにより構成される画像を輝度ブロックと色差ブロックとに分割して得られた前記色差ブロックに対してイントラ予測を行うイントラ予測装置であって、
前記色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モードとして決定する第1決定部と、
前記第1候補モードと重複しない第2候補モードを決定する第2決定部と、
前記第1候補モード及び前記第2候補モードを含む複数の候補モードの中から前記色差ブロックのイントラ予測に用いるイントラ予測モードを選択する予測モード選択部と、を備え、
前記第2決定部は、前記第2候補モードとして予め定められたデフォルトモードと前記第1候補モードとが重複する場合において、前記重複するデフォルトモードに代えて用いる代替モードとして、
前記色差ブロックの幅が前記色差ブロックの高さよりも大きい場合には、前記色差ブロックの左下の頂点から右上の頂点へ向かう参照方向に対応するイントラ予測モードを決定し、
前記色差ブロックの幅が前記色差ブロックの高さよりも小さい場合には、前記色差ブロックの右上の頂点から左下の頂点へ向かう参照方向に対応するイントラ予測モードを決定することを特徴とするイントラ予測装置。
【請求項4】
前記第2決定部は、
前記色差ブロックの幅が前記色差ブロックの高さよりも大きい場合、前記色差ブロックの高さに対する前記色差ブロックの幅の比が大きくなるにつれて、前記代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が大きくなるように前記代替モードを決定し、
前記色差ブロックの幅が前記色差ブロックの高さよりも小さい場合、前記色差ブロックの高さに対する前記色差ブロックの幅の比が小さくなるにつれて、前記代替モードとして決定するイントラ予測モードの参照方向と、水平方向とのなす角度が大きくなるように前記代替モードを決定することを特徴とする請求項に記載のイントラ予測装置。
【請求項5】
請求項1乃至のいずれか1項に記載のイントラ予測装置を備えることを特徴とする画像符号化装置。
【請求項6】
請求項1乃至のいずれか1項に記載のイントラ予測装置を備えることを特徴とする画像復号装置。
【請求項7】
コンピュータを請求項1乃至のいずれか1項に記載のイントラ予測装置として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、イントラ予測装置、画像符号化装置、画像復号装置、及びプログラムに関する。
【背景技術】
【0002】
従来から、伝送時や保存時の静止画像や動画像のデータ量を圧縮するため映像符号化方式の研究が行われている。近年、映像符号化技術では8K-SHVに代表されるような超高解像度映像の普及が進んでおり、膨大なデータ量の動画像を伝送するための手法としてAVC/H.264やHEVC/H.265などの符号化方式が知られている。
【0003】
MPEG及びITUが合同で標準化を行っている次世代符号化方式であるVVCでは、フレーム内の空間的な相関を利用したイントラ予測が利用されている(非特許文献1参照)。符号化対象ブロック周辺の復号済み参照画素を利用し、Planar予測、DC予測、及び65通りの方向性予測からなる計67通りの予測モードの中から、エンコーダ側で最適なモードが選択され、選択された情報がデコーダ側へ送られる。
【0004】
また、VVCでは、画像を構成する輝度信号及び色差信号に対して個別にブロック分割を行い、分割して得た輝度ブロック及び色差ブロックをそれぞれ符号化する。
【0005】
色差ブロックのイントラ予測においては、色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モードとして決定し、第1候補モードと重複しない第2候補モードを決定し、これらの候補モードの中から色差ブロックのイントラ予測に用いるイントラ予測モードを選択することが想定されている。このような第1候補モードは、DM(Direct Mode、若しくはDerived Mode)と呼ばれることがある。
【0006】
第2候補モードとして予め定められたデフォルトモードのうちのいずれかのモードと、第1候補モード(DM)とが重複する場合、重複するデフォルトモードに代えて第2候補モードとして用いる代替モードを決定する。デフォルトモードは、Planarモード(モード0)、垂直モード(モード50)、水平モード(モード18)、及びDCモード(モード1)である。代替モードとしては、デフォルトモード以外の固定のイントラ予測モードを用いることが想定されている。
【先行技術文献】
【非特許文献】
【0007】
【文献】JVET-M1001 Versatile Video Coding (Draft 4)
【発明の開示】
【発明が解決しようとする課題】
【0008】
VVCにおけるブロック分割では、HEVCのような正方形のブロック形状に加えて、長方形(非正方形)のブロック形状も新たに追加されるため、色差ブロックが長方形のブロック形状になりうる。
【0009】
しかしながら、現在想定されている代替モードの決定方法は、色差ブロックのブロック形状にかかわらず固定のイントラ予測モードを代替モードとして用いるものであるため、色差ブロックのイントラ予測の予測精度を向上させる点において改善の余地がある。
【0010】
そこで、本発明は、色差ブロックのブロック形状が長方形である場合であっても代替モードとして適切なイントラ予測モードを用いることを可能とし、色差ブロックのイントラ予測の予測精度を向上させるイントラ予測装置、画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0011】
第1の態様に係るイントラ予測装置は、輝度信号と色差信号とにより構成される画像を輝度ブロックと色差ブロックとに分割して得られた前記色差ブロックに対してイントラ予測を行う。前記イントラ予測装置は、前記色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モードとして決定する第1決定部と、前記第1候補モードと重複しない第2候補モードを決定する第2決定部と、前記第1候補モード及び前記第2候補モードを含む複数の候補モードの中から前記色差ブロックのイントラ予測に用いるイントラ予測モードを選択する予測モード選択部とを備える。前記第2決定部は、前記第2候補モードとして予め定められたデフォルトモードと前記第1候補モードとが重複する場合、前記重複するデフォルトモードに代えて用いる代替モードを、前記色差ブロックのブロック形状に基づいて決定する。
【0012】
第2の態様に係る画像符号化装置は、第1の態様に係るイントラ予測装置を備える。
【0013】
第3の態様に係る画像復号装置は、第1の態様に係るイントラ予測装置を備える。
【0014】
第4の態様に係るプログラムは、コンピュータを第1の態様に係るイントラ予測装置として機能させる。
【発明の効果】
【0015】
本発明によれば、色差ブロックのブロック形状が長方形である場合であっても代替モードとして適切なイントラ予測モードを用いることを可能とし、色差ブロックのイントラ予測の予測精度を向上させるイントラ予測装置、画像符号化装置、画像復号装置、及びプログラムを提供できる。
【図面の簡単な説明】
【0016】
図1】実施形態に係る画像符号化装置の構成を示す図である。
図2】実施形態に係る輝度ブロックに用いるイントラ予測モードの候補を示す図である。
図3】実施形態に係るWAIPを示す図である。
図4図4(a)は、輝度ブロックのブロック形状が横長形状である場合のモード番号「2」から「66」までのイントラ予測角度範囲の一例を示す図であり、図4(b)は、輝度ブロックのブロック形状が縦長形状である場合のモード番号「2」から「66」までのイントラ予測角度範囲の一例を示す図である。
図5】実施形態に係る画像符号化装置のイントラ予測部の構成を示す図である。
図6】実施形態に係る代替モード決定部の動作例1を示す図である。
図7】実施形態に係る代替モード決定部の動作例2を示す図である。
図8】実施形態に係る画像復号装置の構成を示す図である。
図9】実施形態に係る画像復号装置のイントラ予測部の構成を示す図である。
図10】実施形態に係るイントラ予測部の動作フロー例を示す図である。
【発明を実施するための形態】
【0017】
図面を参照して、実施形態に係る画像符号化装置及び画像復号装置について説明する。実施形態に係る画像符号化装置及び画像復号装置は、MPEGに代表される動画像の符号化及び復号をそれぞれ行う。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
【0018】
<画像符号化装置の構成>
まず、本実施形態に係る画像符号化装置について説明する。図1は、本実施形態に係る画像符号化装置1の構成を示す図である。
【0019】
図1に示すように、画像符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170とを有する。
【0020】
ブロック分割部100は、動画像を構成するフレーム(或いはピクチャ)単位の入力画像である原画像を複数の画像ブロックに分割し、分割により得た画像ブロックを減算部110に出力する。画像ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。画像ブロックの形状は正方形に限らず長方形(非正方形)であってもよい。画像ブロックは、画像符号化装置1が符号化を行う単位(符号化対象ブロック)であり、且つ画像復号装置が復号を行う単位(復号対象ブロック)である。このような画像ブロックはCU(Coding Unit)と呼ばれることがある。
【0021】
入力画像は、輝度信号(Y)及び色差信号(Cb、Cr)により構成されており、入力画像内の各画素は輝度成分(Y)及び色差成分(Cb、Cr)により構成される。ブロック分割部100は、輝度信号と色差信号とでブロック分割を独立に設定可能である。画像符号化装置1は、輝度ブロック及び色差ブロックを別々に符号化することが可能である。以下において、輝度ブロック及び色差ブロックを特に区別しないときは単に符号化対象ブロックと呼ぶ。
【0022】
減算部110は、ブロック分割部100から入力された符号化対象ブロックと、符号化対象ブロックを予測部170が予測して得た予測ブロックとの差分(誤差)を表す予測残差を算出する。具体的には、減算部110は、ブロックの各画素値から予測ブロックの各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。
【0023】
変換・量子化部120は、ブロック単位で直交変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを有する。
【0024】
変換部121は、減算部110から入力された予測残差に対して直交変換処理を行って直交変換係数を算出し、算出した直交変換係数を量子化部122に出力する。直交変換とは、例えば、離散コサイン変換(DCT:Discrete Cosine Transform)や離散サイン変換(DST:Discrete Sine Transform)、カルーネンレーブ変換(KLT: Karhunen?Loeve Transform)等をいう。
【0025】
量子化部122は、変換部121から入力された直交変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化した直交変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。なお、量子化パラメータ(Qp)は、ブロック内の各直交変換係数に対して共通して適用されるパラメータであって、量子化の粗さを定めるパラメータである。量子化行列は、各直交変換係数を量子化する際の量子化値を要素として有する行列である。
【0026】
エントロピー符号化部130は、量子化部122から入力された直交変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを画像符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context-based Adaptive Binary Arithmetic Coding;コンテキスト適応型2値算術符号)等を用いることができる。なお、エントロピー符号化部130は、予測部170から予測に関するシンタックス等の情報が入力され、入力された情報のエントロピー符号化も行う。
【0027】
逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを有する。
【0028】
逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から入力された直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより直交変換係数を復元し、復元した直交変換係数を逆変換部142に出力する。
【0029】
逆変換部142は、変換部121が行う直交変換処理に対応する逆直交変換処理を行う。例えば、変換部121が離散コサイン変換を行った場合には、逆変換部142は逆離散コサイン変換を行う。逆変換部142は、逆量子化部141から入力された直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差である復元予測残差を合成部150に出力する。
【0030】
合成部150は、逆変換部142から入力された復元予測残差を、予測部170から入力された予測ブロックと画素単位で合成する。合成部150は、復元予測残差の各画素値と予測ブロックの各画素値を加算して符号化対象ブロックを再構成(復号)し、復号したブロック単位の復号画像をメモリ160に出力する。このような復号画像は、再構成画像と呼ばれることがある。
【0031】
メモリ160は、合成部150から入力された復号画像を記憶する。メモリ160は、復号画像をフレーム単位で記憶する。メモリ160は、記憶している復号画像を予測部170に出力する。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。
【0032】
予測部170は、ブロック単位で予測を行う。予測部170は、インター予測部171と、イントラ予測部172と、切替部173とを有する。
【0033】
インター予測部171は、メモリ160に記憶された復号画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、符号化対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部173に出力する。
【0034】
インター予測部171は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。インター予測部171は、インター予測に関する情報(動きベクトル等)をエントロピー符号化部130に出力する。
【0035】
イントラ予測部172は、メモリ160に記憶された復号画像のうち、符号化対象ブロックの周辺にある復号画素値を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部173に出力する。また、イントラ予測部172は、選択した予測モードに関するシンタックスをエントロピー符号化部130に出力する。
【0036】
切替部173は、インター予測部171から入力されるインター予測ブロックとイントラ予測部172から入力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを減算部110及び合成部150に出力する。
【0037】
イントラ予測部172は、複数の予測モードの中から、イントラ予測対象ブロックに適用する最適な予測モードを選択し、選択した予測モードを用いてイントラ予測の対象ブロックを予測する。
【0038】
具体的には、イントラ予測部172は、輝度ブロックについてイントラ予測を行い、輝度イントラ予測ブロックを出力する。また、イントラ予測部172は、色差ブロックについてイントラ予測を行い、色差イントラ予測ブロックを出力する。
【0039】
イントラ予測部172は、色差ブロックのイントラ予測を行うよりも前に、この色差ブロックに対応する輝度ブロックのイントラ予測を行う。そして、イントラ予測部172は、各輝度ブロックのイントラ予測に用いたイントラ予測モードをメモリ230に記憶させる。
【0040】
色差ブロックに対応する輝度ブロックとは、色差信号の解像度変換を考慮した色差ブロックの位置に対応する位置にある輝度ブロックをいう。但し、色差ブロックの位置に対応して複数の輝度ブロックがある場合、色差ブロックを垂直方向に2分割し、かつ水平方向に2分割し、これにより得られる4つの分割ブロックのうち、右下分割ブロックにおける左上頂点の色差ピクセル(画素)に対応する輝度ピクセル(画素)が含まれる輝度ブロックを、色差ブロックに対応する輝度ブロックとする。
【0041】
図2は、本実施形態に係る輝度ブロックに用いるイントラ予測モードの候補を示す図である。
【0042】
図2に示すように、0から66までの67通りの予測モードがある。予測モードのモード「0」はPlanar予測であり、予測モードのモード「1」はDC予測であり、予測モードのモード「2」乃至「66」は方向性予測である。
【0043】
方向性予測において、矢印の方向は参照方向を示し、矢印の起点は予測対象の画素の位置を示し、矢印の終点はこの予測対象画素の予測に用いる参照画素の位置を示す。
【0044】
ブロックの右上の頂点と左下の頂点とを通る対角線に平行な参照方向として、左下方向を参照する予測モードであるモード「2」と、右上方向を参照する予測モードであるモード「66」とがあり、モード「2」からモード「66」まで時計回りに所定角度ごとにモード番号が割り振られている。
【0045】
左下方向を参照するモード「2」における参照方向は、水平方向とのなす角度が45°である。モード「66」における参照方向は、垂直方向とのなす角度が45°である。
【0046】
ブロック分割部100が出力する輝度ブロックは、正方形のブロック形状に加えて、長方形のブロック形状もとりうる。輝度ブロックのブロック形状が長方形である場合、イントラ予測部172は、輝度ブロックに用いるイントラ予測モードの参照方向の範囲を調整する。このような技術は、Wide Angle Intra Prediction(WAIP)と呼ばれることがある。
【0047】
図3は、本実施形態に係るWAIPを示す図である。
【0048】
図3に示すように、WAIPにおいて、イントラ予測部172は、輝度ブロックのブロック形状が横長形状(すなわち、高さよりも幅が大きい形状)である場合、モード番号の小さい順に一部のイントラ予測モードを削除し、モード番号の大きい方にその削除分のイントラ予測モードを追加する。
【0049】
一方、イントラ予測部172は、輝度ブロックのブロック形状が縦長形状(すなわち、高さよりも幅が小さい形状)である場合、例えば、モード番号の大きい順に一部のイントラ予測モードを削除し、モード番号の小さい方にその削除分のイントラ予測モードを追加する。
【0050】
このようなWAIPの処理は、追加した予測モードのうち最も外側の予測モードが、長方形ブロックの対角線と並行になるように参照方向が決定される。予測ブロック形状に応じたイントラ予測モードから適用モードを選択することで、より柔軟なイントラ予測を可能としている。
【0051】
なお、図3に示すモード番号は、イントラ予測モードを示すシンタックス上は違うモード番号が割り当てられていてもよい。この場合、輝度ブロックのブロック形状に応じて、モード番号「2」乃至「66」を読み替えればよい。
【0052】
図4(a)は、輝度ブロックのブロック形状が横長形状である場合のモード番号「2」から「66」までのイントラ予測角度範囲(Range of intra prediction angle)の一例を示す図である。図4(b)は、輝度ブロックのブロック形状が縦長形状である場合のモード番号「2」から「66」までのイントラ予測角度範囲の一例を示す図である。図4(a)及び(b)において、白抜きで示す正方形は予測対象のブロックの画素を示し、網掛けで示す正方形は参照画素を示す。図4(a)及び(b)に示すように、輝度ブロックのブロック形状が長方形である場合、モード「2」及び「66」の参照方向は、45°とは異なる角度になる。
【0053】
一方、色差ブロックのイントラ予測モードの候補の数は、輝度ブロックのイントラ予測モードの候補の数よりも少ない。
【0054】
色差ブロックと輝度ブロックとで共通するイントラ予測モードの候補は、Planarモード(モード0)、垂直予測モード(モード50)、水平予測モード(モード18)、及びDCモード(モード1)の4つであり、これにDMを追加して5つになる。
【0055】
DMは、色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードである。なお、色差ブロックに特有なイントラ予測モードとして、輝度ブロックの復号済み画素を予測に用いるLinear Mode(LM)と呼ばれるモードもある。
【0056】
イントラ予測部172は、これらの候補の中から、色差ブロックのイントラ予測に用いるイントラ予測モードを選択し、選択したイントラ予測モードを用いて色差ブロックのイントラ予測を行って色差イントラ予測ブロックを出力する。また、イントラ予測部172は、これらの候補の中から選択したイントラ予測モードを示すシンタックスをエントロピー符号化部130に出力し、エントロピー符号化部130がこのシンタックスを符号化して出力する。
【0057】
図5は、本実施形態に係るイントラ予測部172の構成を示す図である。イントラ予測部172は、画像符号化装置1に設けられるイントラ予測装置に相当する。図5においては、色差ブロックのイントラ予測に関連する構成を図示している。
【0058】
図5に示すように、イントラ予測部172は、第1決定部172aと、第2決定部172bと、予測モード選択部172cと、色差イントラ予測部172dとを有する。
【0059】
第1決定部172aは、メモリ160を参照し、予測対象の色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モード(DM)として決定し、決定した第1候補モード(DM)を第2決定部172b及び予測モード選択部172cに出力する。
【0060】
ここで、第1候補モード(DM)に当たる予測モードが、予め定められたデフォルトモード、すなわち、Planarモード(モード0)、垂直モード(モード50)、水平モード(モード18)、及びDCモード(モード1)のいずれかのモードと同じである場合、選択肢のうち2モードが重複してしまい冗長となる。
【0061】
第2決定部172bは、第1候補モード(DM)と重複しない第2候補モード(本実施形態では、4つのイントラ予測モード)を決定し、決定した第2候補モードを予測モード選択部172cに出力する。
【0062】
第2決定部172bは、代替モード決定部1721を有する。代替モード決定部1721は、予め定められたデフォルトモードと第1候補モード(DM)とが重複する場合、重複するデフォルトモードに代えて第2候補モードとして用いる代替モードを、予測対象の色差ブロックのブロック形状に基づいて決定する。色差ブロックのブロック形状とは、この色差ブロックの幅(W:width)及び高さ(H:height)をいう。
【0063】
例えば、代替モード決定部1721は、第1候補モード(DM)が、デフォルトモードの1つであるPlanarモード(モード0)である場合、デフォルトモードに含まれるPlanarモード(モード0)を削除し、Planarモード(モード0)の代わりに代替モードを決定して第2候補モードに追加する。
【0064】
図6は、本実施形態に係る代替モード決定部1721の動作例1を示す図である。動作例1において、代替モード決定部1721は、予測対象の色差ブロックのブロック形状に基づいて、この色差ブロックの左下の頂点から右上の頂点へ向かう参照方向に対応するイントラ予測モードを代替モードとして決定する。
【0065】
言い換えると、代替モード決定部1721は、色差ブロックのブロック形状から、図3に示すような右上方向参照の予測モードのうち、最も外側のイントラ予測モード(すなわち、垂直方向とのなす角度が最も大きいイントラ予測モード)を代替モードとして決定する。
【0066】
具体的には、代替モード決定部1721は、色差ブロックの高さ(H)に対する色差ブロックの幅(W)の比が大きくなるにつれて、代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が大きくなるように代替モードを決定する。代替モード決定部1721は、色差ブロックの高さ(H)に対する色差ブロックの幅(W)の比が小さくなるにつれて、代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が小さくなるように代替モードを決定する。
【0067】
図6に示す例において、代替モード決定部1721は、色差ブロックの高さ(H)に対する色差ブロックの幅(W)の比が大きくなるにつれて、代替モードとして決定するイントラ予測モードのモード番号を大きくするように代替モードを決定する。
【0068】
動作例1によれば、予測対象の色差ブロックの上側の参照画素を参照するイントラ予測モードであって、かつ、デフォルトモードの1つである垂直モード(モード50)から最も離れたイントラ予測モードを代替モードとして決定できる。
【0069】
ラスタスキャン順に処理が行われるため、予測対象の色差ブロックの上側の参照画素は復号済みである可能性が高いため、上側の参照画素を参照するイントラ予測モードを代替モードとして決定することとしている。
【0070】
また、デフォルトモードの1つである垂直モード(モード50)から最も離れたイントラ予測モードを代替モードとして決定することにより、イントラ予測モードの候補に多様性を持たせることができるため、予測モード選択部172cがより最適なイントラ予測モードを選択しやすくすることができる。
【0071】
図7は、本実施形態に係る代替モード決定部1721の動作例2を示す図である。動作例2において、代替モード決定部1721は、予測対象の色差ブロックの幅(W)が色差ブロックの高さ(H)よりも大きい場合、色差ブロックの左下の頂点から右上の頂点へ向かう参照方向に対応するイントラ予測モードを代替モードとして決定する。一方、色差ブロックの幅(W)が色差ブロックの高さ(H)よりも小さい場合、代替モード決定部1721は、色差ブロックの右上の頂点から左下の頂点へ向かう参照方向に対応するイントラ予測モードを代替モードとして決定する。
【0072】
代替モード決定部1721は、色差ブロックの幅(W)が色差ブロックの高さ(H)よりも大きい場合、色差ブロックの高さに対する色差ブロックの幅の比(W/H)が大きくなるにつれて、代替モードとして決定するイントラ予測モードの参照方向と、垂直方向とのなす角度が大きくなるように代替モードを決定する。
【0073】
代替モード決定部1721は、色差ブロックの幅(W)が色差ブロックの高さ(H)よりも小さい場合、色差ブロックの高さに対する色差ブロックの幅の比(W/H)が小さくなるにつれて、代替モードとして決定するイントラ予測モードの参照方向と、水平方向とのなす角度が大きくなるように代替モードを決定する。
【0074】
図7に示す例において、代替モード決定部1721は、色差ブロックの幅(W)が色差ブロックの高さ(H)よりも大きい場合、色差ブロックの高さに対する色差ブロックの幅の比(W/H)が大きくなるにつれて、代替モードとして決定するイントラ予測モードのモード番号を大きくするように代替モードを決定する。
【0075】
また、代替モード決定部1721は、色差ブロックの幅(W)が色差ブロックの高さ(H)よりも小さい場合、色差ブロックの高さに対する色差ブロックの幅の比(W/H)が小さくなるにつれて、代替モードとして決定するイントラ予測モードのモード番号を小さくするように代替モードを決定する。
【0076】
動作例2によれば、デフォルトモードを構成する水平モード(モード18)及び垂直モード(モード50)から最も離れたイントラ予測モードを代替モードとして決定することができる。これにより、イントラ予測モードの候補に多様性を持たせることができるため、予測モード選択部172cがより最適なイントラ予測モードを選択しやすくすることができる。
【0077】
予測モード選択部172cは、第1決定部172aから入力された第1候補モード(DM)と第2決定部172bから入力された第2候補モード(4つ)とを含む複数の候補モードの中から、予測対象の色差ブロックのイントラ予測に用いるイントラ予測モードを選択し、選択したイントラ予測モードを色差イントラ予測部172dに出力する。また、予測モード選択部172cは、選択したイントラ予測モードを示すシンタックスをエントロピー符号化部130に出力する。
【0078】
色差イントラ予測部172dは、予測モード選択部172cから入力されたイントラ予測モードを用いて予測対象の色差ブロックのイントラ予測を行うことにより、色差イントラ予測ブロックを生成し、生成した色差イントラ予測ブロックを切替部173に出力する。
【0079】
<画像復号装置の構成>
次に、本実施形態に係る画像復号装置について説明する。図8は、本実施形態に係る画像復号装置2の構成を示す図である。
【0080】
図8に示すように、画像復号装置2は、エントロピー復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240とを有する。
【0081】
エントロピー復号部200は、画像符号化装置1により生成された符号化データを復号し、量子化された直交変換係数を逆量子化・逆変換部210に出力する。また、エントロピー復号部200は、予測(イントラ予測及びインター予測)に関するシンタックスを取得し、取得したシンタックスを予測部240に出力する。
【0082】
逆量子化・逆変換部210は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを有する。
【0083】
逆量子化部211は、画像符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー復号部200から入力された量子化直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、復号対象ブロックの直交変換係数を復元し、復元した直交変換係数を逆変換部212に出力する。
【0084】
逆変換部212は、画像符号化装置1の変換部121が行う直交変換処理に対応する逆直交変換処理を行う。逆変換部212は、逆量子化部211から入力された直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差(復元予測残差)を合成部220に出力する。
【0085】
合成部220は、逆変換部212から入力された予測残差と、予測部240から入力された予測ブロックとを画素単位で合成することにより、元のブロックを再構成(復号)し、ブロック単位の復号画像をメモリ230に出力する。
【0086】
メモリ230は、合成部220から入力された復号画像を記憶する。メモリ230は、復号画像をフレーム単位で記憶する。メモリ230は、フレーム単位の復号画像を画像復号装置2の外部に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。
【0087】
予測部240は、ブロック単位で予測を行う。予測部240は、インター予測部241と、イントラ予測部242と、切替部243とを有する。
【0088】
インター予測部241は、メモリ230に記憶された復号画像を参照画像として用いて、復号対象ブロックをインター予測により予測する。インター予測部241は、エントロピー復号部200から入力されたシンタックス及び動きベクトル等に従ってインター予測を行うことによりインター予測ブロックを生成し、生成したインター予測ブロックを切替部243に出力する。
【0089】
イントラ予測部242は、メモリ230に記憶された復号画像を参照し、エントロピー復号部200から入力されたシンタックスに基づいて、復号対象ブロックをイントラ予測により予測することによりイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部243に出力する。
【0090】
具体的には、イントラ予測部172は、輝度ブロックについてイントラ予測を行い、輝度イントラ予測ブロックを出力する。また、イントラ予測部172は、色差ブロックについてイントラ予測を行い、色差イントラ予測ブロックを出力する。
【0091】
イントラ予測部172は、色差ブロックのイントラ予測を行うよりも前に、この色差ブロックに対応する輝度ブロックのイントラ予測を行う。そして、イントラ予測部172は、各輝度ブロックのイントラ予測に用いたイントラ予測モードをメモリ230に記憶させる。
【0092】
切替部243は、インター予測部241から入力されるインター予測ブロックとイントラ予測部242から入力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを合成部220に出力する。
【0093】
図9は、本実施形態に係るイントラ予測部242の構成を示す図である。イントラ予測部242は、画像復号装置2に設けられるイントラ予測装置に相当する。図9においては、色差ブロックのイントラ予測に関連する構成を図示している。
【0094】
図9に示すように、イントラ予測部242は、第1決定部242aと、第2決定部242bと、予測モード選択部242cと、色差イントラ予測部242dとを有する。第2決定部242bは、代替モード決定部2421を有する。
【0095】
第1決定部242a、第2決定部242b、予測モード選択部242c、及び色差イントラ予測部242dは、図5に示した第1決定部172a、第2決定部172b、予測モード選択部172c、及び色差イントラ予測部172dとそれぞれ同様な動作を行う。
【0096】
但し、予測モード選択部242cは、第1決定部242aから入力された第1候補モード(DM)と第2決定部242bから入力された第2候補モード(4つ)とを含む複数の候補モードの中から、エントロピー復号部200から入力されたイントラ予測モードシンタックスに基づいて、予測対象の色差ブロックのイントラ予測に用いるイントラ予測モードを選択する。
【0097】
<色差イントラ予測の動作フロー例>
次に、本実施形態に係るイントラ予測の動作フロー例について説明する。画像符号化装置1及び画像復号装置2でイントラ予測の動作は同じであるが、ここでは画像復号装置2におけるイントラ予測(イントラ予測部242)の動作を説明する。図10は、イントラ予測部242の動作フロー例を示す図である。
【0098】
図10に示すように、ステップS1において、第1決定部242aは、メモリ160を参照し、予測対象の色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モード(DM)として決定し、決定した第1候補モード(DM)を第2決定部242b及び予測モード選択部242cに出力する。
【0099】
ステップS2において、第2決定部242b(代替モード決定部2421)は、予め定められたデフォルトモード(4つ)と第1候補モード(DM)とが重複するか否かを判定する。
【0100】
デフォルトモードと第1候補モード(DM)とが重複しない場合(ステップS2:NO)、ステップS3において、第2決定部242b(代替モード決定部2421)は、デフォルトモードを予測モード選択部242cに出力する。この場合、予測モード選択部242cは、第1決定部242aから入力された第1候補モード(DM)と第2決定部242bから入力された第2候補モード(4つ)とを含む複数の候補モードの中から、予測対象の色差ブロックのイントラ予測に用いるイントラ予測モードを選択し、選択したイントラ予測モードを色差イントラ予測部242dに出力する。
【0101】
一方、デフォルトモードと第1候補モード(DM)とが重複する場合(ステップS2:YES)、ステップS4において、第2決定部242b(代替モード決定部2421)は、重複するデフォルトモードに代えて用いる代替モードを予測対象の色差ブロックのブロック形状に基づいて決定し、デフォルトモード(3つ)と代替モードとを予測モード選択部242cに出力する。この場合、ステップS5において、予測モード選択部242cは、第1決定部242aから入力された第1候補モード(DM)と第2決定部242bから入力された第2候補モード(4つ)及び代替モードとを含む複数の候補モードの中から、予測対象の色差ブロックのイントラ予測に用いるイントラ予測モードを選択し、選択したイントラ予測モードを色差イントラ予測部242dに出力する。
【0102】
ステップS6において、色差イントラ予測部172dは、予測モード選択部172cから入力されたイントラ予測モードを用いて予測対象の色差ブロックのイントラ予測を行うことにより、色差イントラ予測ブロックを生成する。
【0103】
<実施形態のまとめ>
以上説明したように、イントラ予測部242は、画像を分割して得た色差ブロックに対するイントラ予測を行う。イントラ予測部242は、色差ブロックに対応する輝度ブロックのイントラ予測に用いられたイントラ予測モードを第1候補モードとして決定する第1決定部242aと、第1候補モードと重複しない第2候補モードを決定する第2決定部242bと、第1候補モード及び第2候補モードを含む複数の候補モードの中から色差ブロックのイントラ予測に用いるイントラ予測モードを選択する予測モード選択部242cとを備える。第2決定部242bは、第2候補モードとして予め定められたデフォルトモードと第1候補モードとが重複する場合、重複するデフォルトモードに代えて第2候補モードとして用いる代替モードを、色差ブロックのブロック形状に基づいて決定する。
【0104】
これにより、VVCにおけるブロック分割のように、色差ブロックが長方形のブロック形状になりうる場合であっても、色差ブロック形状に応じた代替モードを決定できるため、色差ブロックについてより柔軟なイントラ予測を可能とし、色差ブロックのイントラ予測の予測精度を向上させることができる。
【0105】
<その他の実施形態>
画像符号化装置1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。画像復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。
【0106】
画像符号化装置1が行う各処理を実行する回路を集積化し、画像符号化装置1を半導体集積回路(チップセット、SoC)により構成してもよい。画像復号装置2が行う各処理を実行する回路を集積化し、画像復号装置2を半導体集積回路(チップセット、SoC)により構成してもよい。
【0107】
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【符号の説明】
【0108】
1 :画像符号化装置
2 :画像復号装置
100 :ブロック分割部
110 :減算部
120 :変換・量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆量子化・逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :インター予測部
172 :イントラ予測部
172a :第1決定部
172b :第2決定部
172c :予測モード選択部
172d :色差イントラ予測部
173 :切替部
200 :エントロピー復号部
210 :逆量子化・逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :インター予測部
242 :イントラ予測部
242a :第1決定部
242b :第2決定部
242c :予測モード選択部
242d :色差イントラ予測部
243 :切替部
1721 :代替モード決定部
2421 :代替モード決定部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10