IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

<>
  • 特開-画像処理装置、及び画像処理方法 図1
  • 特開-画像処理装置、及び画像処理方法 図2
  • 特開-画像処理装置、及び画像処理方法 図3
  • 特開-画像処理装置、及び画像処理方法 図4
  • 特開-画像処理装置、及び画像処理方法 図5
  • 特開-画像処理装置、及び画像処理方法 図6
  • 特開-画像処理装置、及び画像処理方法 図7
  • 特開-画像処理装置、及び画像処理方法 図8
  • 特開-画像処理装置、及び画像処理方法 図9
  • 特開-画像処理装置、及び画像処理方法 図10
  • 特開-画像処理装置、及び画像処理方法 図11
  • 特開-画像処理装置、及び画像処理方法 図12A
  • 特開-画像処理装置、及び画像処理方法 図12B
  • 特開-画像処理装置、及び画像処理方法 図13
  • 特開-画像処理装置、及び画像処理方法 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024144523
(43)【公開日】2024-10-11
(54)【発明の名称】画像処理装置、及び画像処理方法
(51)【国際特許分類】
   H04N 19/117 20140101AFI20241003BHJP
   H04N 19/176 20140101ALI20241003BHJP
   H04N 19/186 20140101ALI20241003BHJP
   H04N 19/82 20140101ALI20241003BHJP
   H04N 19/86 20140101ALI20241003BHJP
   H04N 19/157 20140101ALI20241003BHJP
【FI】
H04N19/117
H04N19/176
H04N19/186
H04N19/82
H04N19/86
H04N19/157
【審査請求】有
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2024117798
(22)【出願日】2024-07-23
(62)【分割の表示】P 2023092309の分割
【原出願日】2018-12-20
(31)【優先権主張番号】P 2018065130
(32)【優先日】2018-03-29
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2018106367
(32)【優先日】2018-06-01
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】池田 優
(57)【要約】
【課題】画像処理装置及び画像処理方法を提供する。
【解決手段】本開示に係る画像処理装置は、復号画像のブロック境界を対象とし、直交変換で得る色差成分に関する色差関連パラメータを用いて算出した境界強度に基づき、前記復号画像の色差成分へのデブロックフィルタ適用要否を判定し、判定結果に基づき前記対象の近傍に位置する画素の色差成分にデブロックフィルタを適用し、前記境界強度は、前記色差関連パラメータに基づき、前記境界強度の算出対象の前記ブロック境界を挟むブロックに、前記色差成分における第1及び第2成分の夫々に対して独立して有意係数の有無を判定することで、前記第1及び前記第2成分夫々に対して独立に算出され、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向のサイズに基づく判定と、により前記デブロックフィルタ適用要否を判定する。
【選択図】図7
【特許請求の範囲】
【請求項1】
符号化ストリームを復号して復号画像を生成する復号部と、
前記復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、
を備え、
前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、
前記判定部は、
前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、
画像処理装置。
【請求項2】
前記判定部は、前記境界強度がインター予測に関連する値を有する場合に、前記ラージブロック判定を行う、
請求項1に記載の画像処理装置。
【請求項3】
前記色差成分は、U成分およびV成分からなり、前記第1の成分は前記U成分であり、前記第2の成分は前記V成分である、
請求項1に記載の画像処理装置。
【請求項4】
前記色差関連パラメータは、前記直交変換の変換ブロック内に有意係数が含まれるか否かを示すフラグを含む、
請求項1に記載の画像処理装置。
【請求項5】
前記境界強度は、複数のビットにより表現され、
前記複数のビットには、各成分に対応するビットが少なくとも1つずつ含まれる、請求項1に記載の画像処理装置。
【請求項6】
前記フィルタリング部は、前記デブロックフィルタとして、ウィークフィルタ、またはストロングフィルタを前記ブロック境界の近傍に位置する画素の色差成分に適用する、請求項1に記載の画像処理装置。
【請求項7】
前記ストロングフィルタの係数は、前記ストロングフィルタの適用対象範囲の中心位置において2であり、その他の位置において1である、請求項6に記載の画像処理装置。
【請求項8】
前記フィルタリング部は、前記ブロック境界から両側3画素までを前記ストロングフィルタの適用対象範囲とし、前記適用対象範囲の中心位置の両側の3画素を参照画素として、前記適用対象範囲に含まれる画素の色差成分に前記ストロングフィルタを適用する、請求項6に記載の画像処理装置。
【請求項9】
前記フィルタリング部は、前記ブロック境界から5画素以上離れた画素の代わりに、前記ブロック境界から4画素目の画素値を、パディングすることで前記参照画素の画素値として用いる、請求項8に記載の画像処理装置。
【請求項10】
前記フィルタリング部は、量子化パラメータに基づいて特定されるパラメータtCに基づくクリッピング処理を行って、前記ストロングフィルタを適用する、請求項8に記載の画像処理装置。
【請求項11】
前記判定部は、前記ブロック境界の近傍に位置する画素の色差成分に適用される前記デブロックフィルタのフィルタ強度をさらに判定し、
前記フィルタリング部は、前記判定部により判定された前記フィルタ強度に応じて、前記ウィークフィルタ、または前記ストロングフィルタを前記ブロック境界の近傍に位置する画素の色差成分に適用する、請求項6に記載の画像処理装置。
【請求項12】
前記判定部は、前記デブロックフィルタ適用要否の判定後に、前記フィルタ強度を判定する、請求項11に記載の画像処理装置。
【請求項13】
前記判定部は、前記ブロック境界の近傍に位置する画素の色差成分の波形に基づいて前記フィルタ強度を判定する、請求項12に記載の画像処理装置。
【請求項14】
前記判定部は、前記ブロック境界の近傍に位置する画素のうち、2つのラインに含まれる画素の色差成分の平坦度に関する条件、連続性に関する条件、及びギャップに関する条件に基づいて前記フィルタ強度を判定し、
前記フィルタリング部は、前記平坦度に関する条件、前記連続性に関する条件、前記ギャップに関する条件のうち、全ての条件が満たされると判定された場合に前記ストロングフィルタを適用し、少なくとも1つの条件が満たされないと判定された場合に前記ウィークフィルタを適用する、請求項13に記載の画像処理装置。
【請求項15】
符号化ストリームを復号して復号画像を生成することと、
前記復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、
を含み、
前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、
前記判定することは、
前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、
画像処理方法。
【請求項16】
ローカル復号による処理で復号された復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、
前記フィルタリング部により前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化する符号化部と、
を備え、
前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、
前記判定部は、
前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、
画像処理装置。
【請求項17】
ローカル復号による処理で復号された復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、
前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化することと、
を含み、
前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、
前記判定することは、
前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、
画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置、及び画像処理方法に関する。
【背景技術】
【0002】
映像符号化方式の標準仕様の1つであるH.265/HEVCでは、符号化の際に生じるブロック歪みに起因する画質の劣化を抑制するために、復号画像のブロック境界にデブロックフィルタが適用される。H.265/HEVCでは、輝度成分に適用され得るデブロックフィルタがウィークフィルタとストロングフィルタの2種類である一方で、色差成分に適用され得るデブロックフィルタはウィークフィルタの1種類のみであった。
【0003】
また、現在、H.265/HEVCよりも符号化効率をさらに向上することを目的として、ITU-TとISO/IECとの共同の標準化団体であるJVET(Joint Video Experts Team)により、次世代の映像符号化方式であるFVC(Future Video Coding)の標準化作業が進められている(例えば、非特許文献1参照)。
【0004】
FVCの標準化作業では、下記非特許文献2において、色差成分に適用され得るデブロックフィルタを、輝度成分に適用され得るデブロックフィルタと同様に2種類に変更し、色差成分に対してもストロングフィルタが適用され得る手法が提案されている。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】J. Chen, E. Alshina, G. J. Sullivan, J.-R. Ohm, J. Boyce,“Algorithm Description of Joint Exploration Test Model (JEM7)”, JVET-G1001, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 7th Meeting: Torino, IT, 13-21 July 2017
【非特許文献2】Seung-Hwan Kim, Jie Zhao, Misra Kiran and Andrew Segall, “Improvement of chroma deblocking filter”, JVET-D0108, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 4th Meeting: Chengdu, CN, 15-21 October 2016
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記のようなデブロックフィルタの適用要否は、ブロック境界の境界強度を用いて判定されており、ブロック境界の境界強度の算出は、色差成分の情報が用いられることなく、輝度成分の情報に基づいて行われていた。しかし、復号画像の色差成分に対するデブロックフィルタの適用要否を、輝度成分の情報に基づいて特定される境界強度を用いて判定すると、適切にデブロックフィルタを適用できず、ブロック歪みが残ってしまう恐れがあった。
【0007】
そこで、本開示では、復号画像の色差成分に対して、より適切にデブロックフィルタを適用することが可能な仕組みを提案する。
【課題を解決するための手段】
【0008】
本開示によれば、符号化ストリームを復号して復号画像を生成する復号部と、前記復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、を備え、前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、前記判定部は、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、画像処理装置が提供される。
【0009】
また、本開示によれば、符号化ストリームを復号して復号画像を生成することと、前記復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、を含み、前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、前記判定することは、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、画像処理方法が提供される。
【0010】
また、本開示によれば、ローカル復号による処理で復号された復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、前記フィルタリング部により前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化する符号化部と、を備え、前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、前記判定部は、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、画像処理装置が提供される。
【0011】
また、本開示によれば、ローカル復号による処理で復号された復号画像のブロック境界を対象とし、直交変換により得られる色差成分の変換係数に関する情報である色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化することと、を含み、前記境界強度は、前記色差関連パラメータに基づいて、前記境界強度の算出対象である前記ブロック境界を挟むブロックに、前記色差成分に含まれる成分のうち第1の成分の有意係数が存在するか否か、及び、第2の成分の有意係数が存在するか否か、を独立に判定することにより、前記第1の成分および前記第2の成分それぞれに対して独立に算出され、前記判定することは、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックの前記ブロック境界と直交する方向と平行な方向とのうち前記直交する方向のサイズが8より大きいか否かに基づくラージブロック判定と、により、前記デブロックフィルタ適用要否を判定する、画像処理方法が提供される。
【発明の効果】
【0012】
以上説明したように本開示によれば、復号画像の色差成分に対して、より適切にデブロックフィルタを適用することが可能である。
【0013】
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
【図面の簡単な説明】
【0014】
図1】HEVCにおけるbSの算出について説明するための表である。
図2】非特許文献2におけるbSの算出について説明するための表である。
図3】垂直のブロック境界BBを挟んで隣接する、2つのブロックBp及びブロックBq内の色差成分(U成分、V成分)の画素の一例を示す説明図である。
図4】本開示の一実施形態におけるbSの算出について説明するための表である。
図5】同実施形態にかかる画像処理装置の一態様である画像符号化装置10の構成の一例を示すブロック図である。
図6】同実施形態にかかる画像処理装置の一態様である画像復号装置60の構成の一例を示すブロック図である。
図7】同実施形態にかかるデブロックフィルタ26の詳細な構成の一例を示すブロック図である。
図8】境界強度算出部261により算出されるbSの一例を示す表である。
図9】同実施形態にかかるデブロックフィルタ26による処理の流れの一例を示すフローチャートである。
図10】境界強度算出部261により実行される境界強度算出処理の流れを説明するためのフローチャートである。
図11】境界強度算出部261により算出されるbSの変形例を示す表である。
図12A図11の変形例に対応する境界強度算出処理の流れの一例を説明するためのフローチャートの前半部である。
図12B図11の変形例に対応する境界強度算出処理の流れの一例を説明するためのフローチャートの後半部である。
図13】ハードウェア構成例を示す説明図である。
図14】bSの算出の一変形例を示す表である。
【発明を実施するための形態】
【0015】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0016】
また、本明細書で開示される範囲は、実施例の内容に限定されるものではなく、出願当時において公知となっている以下の参照文献REF1~REF3の内容も、参照により本明細書に組み込まれる。つまり、以下の参照文献REF1~REF3に記載されている内容もサポート要件について判断する際の根拠となる。例えば、参照文献REF2に記載されているQuad-Tree Block Structure、参照文献REF3に記載されているQTBT(Quad Tree Plus Binary Tree) Block Structureが発明の詳細な説明において直接的に定義されていない場合でも、本開示の範囲内であり、特許請求の範囲のサポート要件を満たすものとする。また、例えば、パース(Parsing)、シンタックス(Syntax)、セマンティクス(Semantics)等の技術用語についても同様に、発明の詳細な説明において直接的に定義されていない場合でも、本開示の範囲内であり、特許請求の範囲のサポート要件を満たすものとする。
REF1:Recommendation ITU-T H.264 (04/2017) “Advanced video coding for generic audiovisual services”, April 2017
REF2:Recommendation ITU-T H.265,(12/2016) “High efficiency video coding”, December 2016
REF3:J. Chen, E. Alshina, G. J. Sullivan, J.-R. Ohm, J. Boyce,“Algorithm Description of Joint Exploration Test Model (JEM7)”, JVET-G1001, Joint Video Exploration Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11 7th Meeting: Torino, IT, 13-21 July 2017
【0017】
また、以下では、特に記載のない場合、YUV420フォーマットの信号を例に説明を行い、輝度成分をY成分、色差成分をU成分、V成分として表すことがある。ただし、以下に説明する技術は、YUV444フォーマットやYUV422フォーマット等、他のフォーマットの信号に対しても同様に適用することが可能である。また、輝度成分と色差成分の表現は、対象とする信号に応じて異なるものであり、例えば輝度成分と色差成分がYCbCrで表現される信号に対しても、以下に説明する技術を同様に適用することが可能である。
【0018】
また、本明細書において用いられる以下の用語は、下記のように定義される。
色差関連パラメータとは、色差に関連するパラメータ全般を意味する。例えば、色差関連パラメータは、各TU(Transform Unit)に含まれる色差成分の変換係数や、各TUにおける色差成分の有意係数(非ゼロの変換係数)の有無を示すフラグ等、色差成分の変換係数に関する情報を含み得る。ただし、色差関連パラメータはかかる例に限定されず、色差に関連する多様なパラメータであり得る。
デブロックフィルタ適用要否とは、デブロックフィルタを適用すべきか否かを意味する。例えばデブロックフィルタ適用要否を判定すること、とは、デブロックフィルタを適用すべきか否かを判定することを意味する。また、デブロックフィルタ適用要否の判定結果とは、デブロックフィルタを適用すべきか否かを判定した結果であり、例えば当該判定結果は、適用すべき、あるいは適用しなくてよい、のいずれかを示す情報であり得る。
ラージブロック判定とは、判定対象となるブロックが大きなブロックであるか否かの判定を意味する。本明細書において、判定対象となるブロックは、後述するように、ブロック境界を挟むブロックであり得る。また、ラージブロック判定は、ブロックの大きさ(ブロックサイズ)を所定の閾値と比較することにより行われ得る。なお、ラージブロック判定が行われるケースや、ラージブロック判定の詳細については後述する。
【0019】
なお、説明は以下の順序で行うものとする。
1.概要
1-1.既存のデブロックフィルタ
1-2.本開示にかかる技術の概要
2.装置の概要
2-1.画像符号化装置
2-2.画像復号装置
3.デブロックフィルタ
3-1.構成例
3-2.処理の流れ
3-3.変形例
4.ハードウェア構成例
5.むすび
【0020】
<1.概要>
[1-1.既存の手法]
【0021】
HEVC等の既存の画像符号化方式におけるデブロックフィルタにかかる処理は、適用要否判定処理、フィルタ強度の判定処理、及びフィルタリング処理(フィルタ適用処理)を含む。以下では、既存のデブロックフィルタにかかる処理について、HEVCのデブロックフィルタを例に説明する。なお、以下では、復号画像(符号化時にローカル復号された画像も含む)の色差成分に対するデブロックフィルタについて主に説明し、復号画像の輝度成分に対するデブロックフィルタに関する説明は適宜省略する。
【0022】
デブロックフィルタにかかる処理として、まず適用要否判定処理が行われる。適用要否判定処理は、復号画像のブロック境界(Block Boundary)にデブロックフィルタを適用すべきか否かを判定する処理である。なお、HEVCにおいて、ブロック境界は、参照文献REF2に記載されているQuad-Tree Block Structureのブロック構造に基づいて特定される。具体的には、最小のブロック単位である8×8画素ブロック(サンプルグリッド)のエッジのうち、TU(Transform Unit)境界あるいはPU(Prediction Unit)境界のうち少なくともいずれか一方であるという条件を満たすエッジが、HEVCにおけるブロック境界として特定される。
【0023】
適用要否判定処理は、ブロック境界の境界強度(Boundary Strength:以下、bSと呼ぶ場合がある)に基づいて行われる。HEVCにおいてbSは、特定されたブロック境界の4ラインごとに算出される。ブロック境界が垂直境界である場合には、上記ラインは、垂直境界と直交する行に相当する。また、ブロック境界が水平境界である場合には、上記ラインは、水平境界と直交する列に相当する。
【0024】
図1は、HEVCにおけるbSの算出について説明するための表である。図1に示すように、HEVCにおいてbSは、イントラ予測に関する条件である条件A、Y成分の有意係数に関する条件である条件B1、及び動きベクトル(MV)と参照ピクチャに関する条件である条件B2の真偽(満たされるか満たされないか)に基づいて算出される。図1を参照すると、条件Aが真である場合にbSは2に設定される。また、条件Aが偽であり、条件B1、条件B2のうち少なくとも一方が真である場合にbSは1に設定される。そして、条件A、条件B1、及び条件B2がいずれも偽である場合にbSは0に設定される。なお、図1に示す条件A、条件B1、条件B2は、以下のような条件である。
【0025】
-条件A:bS算出対象のラインのうち最も上のラインの画素を含みブロック境界を挟むCU(Coding Unit)のうち、少なくともいずれか一方の符号化モードがイントラ予測モードである
-条件B1:ブロック境界がTU境界であり、bS算出対象のラインのうち最も上のラインの画素を含みブロック境界を挟む2つのTUのうち、少なくともいずれか一方にY成分の有意係数が存在する
-条件B2:bS算出対象のラインのうち最も上のラインの画素を含みブロック境界を挟む2つのCUの間で、MVの差の絶対値が1画素以上、または、動き補償の参照ピクチャが異なるか、MVの数が異なる
【0026】
さらに、HEVCにおいては、上記のように設定されたbSが1以上であるブロック境界を対象に、復号画像の輝度成分(Y成分)に対するデブロックフィルタが適用され得る。そのため、HEVCにおいて、条件B1、条件B2が満たされるか否かに応じて、復号画像の輝度成分に対するデブロックフィルタの適用要否の判定結果は異なり得る。
【0027】
なお、HEVCにおいて、復号画像の輝度成分に対するデブロックフィルタとして、フィルタ強度が大きいストロングフィルタと、フィルタ強度が小さいウィークフィルタとが用意されている。bSが1以上である場合、復号画像の輝度成分に対するデブロックフィルタに関する処理は、さらなる条件に基づくさらなる適用要否判定処理が行われた後に、フィルタ強度の判定処理、フィルタリング処理と続く。これらの処理の詳細については上記参照文献REF2に記載されており、ここでの説明は省略する。
【0028】
一方で、HEVCにおける復号画像の色差成分(U成分、V成分)に対するデブロックフィルタは、bSが2であるブロック境界のみを対象として適用される。そのため、図1に示すように、条件B1、条件B2が満たすか否かは、HEVCにおいて、復号画像の色差成分に対するデブロックフィルタの適用要否判定に影響を与えない。
【0029】
また、HEVCにおいて、復号画像の色差成分に対して適用され得るデブロックフィルタはウィークフィルタのみである。そのため、復号画像の色差成分について、フィルタ強度の判定処理は不要であり、bSが2である場合には、復号画像の色差成分に対してウィークフィルタが適用される。
【0030】
ところで、上記参照文献REF3に記載されるように、FVCにおけるQTBT Block Structureによるブロック分割では、HEVCにおけるQuad-Tree Block Structureによるブロック分割よりも、さらに大きなサイズのブロックが選択され得る。フラットな領域(領域内の画素値の変化が小さい領域)におけるブロックのサイズが大きい場合、ブロック歪みが発生し易い。そのため、より大きなサイズのブロックが選択され得るFVCにおいて、HEVCと同様に復号画像の色差成分に対して適用され得るデブロックフィルタをウィークフィルタのみとした場合、色差成分において、顕著なブロック歪みが残ってしまう恐れがあった。このような状況に鑑み、復号画像の色差成分に対するデブロックフィルタを改善することが望まれている。
【0031】
例えば、非特許文献2では、色差成分に適用され得るデブロックフィルタを、輝度成分に適用され得るデブロックフィルタと同様に2種類に変更し、色差成分に対しても、ストロングフィルタを適用し得る手法が提案されている。また、非特許文献2では、bSが2である場合のみならず、bSが1の場合であっても、復号画像の色差成分に対してデブロックフィルタが適用され得ることが記載されている。
【0032】
図2は、非特許文献2におけるbSの算出について説明するための表である。図2に示すように、非特許文献2において、図2に示したHEVCの例と同様に、上述した条件A、条件B1、条件B2に基づいてbSが算出される。ただし、上述したように、非特許文献2では、bSが2である場合のみならず、bSが1の場合であっても復号画像の色差成分に対してデブロックフィルタが適用され得る。そのため、図2に示すように、非特許文献2において、条件B1、条件B2が満たされるか否かに応じて、復号画像の色差成分(U成分、V成分)に対するデブロックフィルタの適用要否の判定結果は異なり得る。
【0033】
以下では、非特許文献2において復号画像の色差成分に適用され得るデブロックフィルタに関する、適用要否判定処理、フィルタ強度の判定処理、及びフィルタリング処理について、図3を参照しながら説明する。図3は、垂直のブロック境界BBを挟んで隣接する、2つのブロックBp及びブロックBq内の色差成分(U成分、V成分)の画素の一例を示す説明図である。なお、ここでは垂直境界を例にとって説明するが、当然ながら、ここで説明される事項は水平境界にも同様に適用可能である。また、図3には、色差成分においてブロックBp及びブロックBqが4×4である例を示しているが、ここで説明される事項は、他のサイズのブロックにも同様に適用可能である。
【0034】
図3の例において、ブロックBp内の色差成分の画素は、pi,jという記号で示されている。iは列のインデックス、jは行のインデックスである。列のインデックスiは、ブロック境界BBに近い列から順に(図中の左から右へ)0,1,2,3と付番されている。行のインデックスjは、上から下へ0,1,2,3と付番されている。一方、ブロックBq内の色差成分の画素は、qk,jという記号で示されている。kは列のインデックス、jは行のインデックスである。列のインデックスkは、ブロック境界BBに近い列から順に(図中の右から左へ)0,1,2,3と付番されている
【0035】
図2を参照して説明したようにbSが算出された後、以下のように3つの条件を用いて、適用要否判定処理、及びフィルタ強度の判定処理が行われる。かかる処理は、YUV420フォーマットの場合、色差成分における2ラインごとに行われ、例えば図3に示す例ではラインL11とラインL12に関する判定と、ラインL21とラインL22に関する判定が別々に行われる。なお、ラインごとの判定は、判定対象のラインの画素を用いて行われる。以下では、ラインL11とラインL12を例に、適用要否判定処理、フィルタ強度の判定処理、及びフィルタリング処理について説明する。
【0036】
まず、適用要否判定処理では、以下の条件C91、及び条件C92が真であるか否かが順に判定される。
【0037】
-条件C91:(bS==2||bS==1&&(block_width>16&&block_height>16)))
-条件C92:d<beta
【0038】
なお、上記の条件C91においてblock_width、及びblock_heightは、図3に示したように、それぞれ判定の対象となるブロック境界にかかるブロック(例えばCU)の水平方向のサイズと垂直方向のサイズである。
【0039】
また、上記条件C92における変数betaは、エッジ判定閾値であり、変数betaの初期値は、量子化パラメータに応じて与えられる。また変数betaの値は、スライスヘッダ内のパラメータでユーザにより指定可能である。また、上記条件C92における変数dは、以下の式(1)~(7)により算出される。
【0040】
dp0=Abs(p2,0-2*p1,0+p0,0) …(1)
dp1=Abs(p2,1-2*p1,1+p0,1) …(2)
dq0=Abs(q2,0-2*q1,0+q0,0) …(3)
dq1=Abs(q2,1-2*q1,1+q0,1) …(4)
dpq0=dp0+dq0 …(5)
dpq1=dp1+dq1 …(6)
d=dpq0+dpq1 …(7)
【0041】
なお、上記条件C92は、参照されるラインが異なることを除いて、HEVCにおいて輝度成分に適用されるデブロックフィルタの適用要否判定処理において用いられる条件(以下、輝度成分における条件と呼ぶ)と同様である。輝度成分における条件では1ライン目の画素と4ライン目の画素が参照されて、4ラインごとに判定が行われていた。一方、YUV420フォーマットでは、色差成分(U成分、V成分)の画素密度が輝度成分の画素密度の半分であるため、上記条件C92では、1ライン目であるラインL11の画素と2ライン目であるラインL12の画素が参照されて2ラインごとに判定が行われる。
【0042】
上記条件C91、条件C92のうち少なくともいずれか一方が偽である場合には、復号画像の色差成分にデブロックフィルタが適用されない。一方、上記条件C91、条件C92の両方が真である場合、処理はフィルタ強度の判定処理へ進む。
【0043】
フィルタ強度の判定処理では、ストロングフィルタとウィークフィルタとのうち、いずれのフィルタを適用するか判定するため、以下の条件C93が真であるか否かが判定される。
【0044】
-条件C93:(block_width>16&&block_height>16)
【0045】
なお、上記の条件C93におけるblock_width、及びblock_heightは、条件C91におけるblock_width、及びblock_heightと同様に、それぞれ判定の対象となるブロック境界にかかるブロックの水平方向のサイズと垂直方向のサイズである。
【0046】
上記条件C93が真である場合には、対象となるブロック境界において復号画像の色差成分にストロングフィルタが適用され、上記条件C93が偽である場合には、対象となるブロック境界において復号画像の色差成分にウィークフィルタが適用される。
【0047】
非特許文献2において色差成分に適用されるストロングフィルタは、HEVCにおいて輝度成分に適用されるストロングフィルタと同様であり、以下の式(8)~(13)のように表される。
【0048】
p0′=Clip3(p0-2*tc,p0+2*tC,(p2+2*p1+2*p0+2*q0+q1+4)>>3) …(8)
p1′=Clip3(p1-2*tc,p1+2*tC,(p2+p1+p0+q0+2)>>2) …(9)
p2′=Clip3(p2-2*tc,p2+2*tC,(2*p3+3*p2+p1+p0+q0+4)>>3) …(10)
q0′=Clip3(q0-2*tc,q0+2*tC,(p1+2p0+2q0+2q1+q2+4)>>3) …(11)
q1′=Clip3(q1-2*tc,q1+2*tC,(p0+q0+q1+q2+2)>>2) …(12)
q2′=Clip3(q2-2*tc,q2+2*tC,(p0+q0+q1+3*q2+2*q3+4)>>3) …(13)
【0049】
なお、上記の式(8)~(13)において、pi、及びqkはデブロックフィルタ適用前の色差成分の画素値である。また、pi′、及びqk′は、デブロックフィルタ適用後の色差成分の画素値である。ここで、i及びkはそれぞれ上述したブロックBp、ブロックBq内の列のインデックスであり、式(8)~(13)では行のインデックスは省略されている。また、tCは量子化パラメータに応じて与えられるパラメータである。また、Clip3(a,b,c)は、値cをa≦c≦bの範囲でクリップするクリッピング処理を表す。
【0050】
非特許文献2において色差成分に適用されるウィークフィルタは、HEVCにおいて色差成分に適用されるウィークフィルタと同一であるため、ここでの説明は省略する。
【0051】
以上、非特許文献2において復号画像の色差成分に適用され得るデブロックフィルタに関する処理について説明した。上述した手法によれば、輝度成分に対してだけでなく、色差成分に対しても、条件に応じてストロングフィルタを適用することが可能である。
【0052】
しかし、図2を参照して説明したように、非特許文献2においてbSの算出に用いられる条件B1はHEVCの場合と同様に輝度成分(Y成分)の有意係数の有無に依存しており、その他の条件を含めても、色差成分(U成分、V成分)の情報が用いられていない。しかし、輝度成分の空間パターンと色差成分それぞれの空間パターンとは、必ずしも一致しない。したがって、色差成分に対するデブロックフィルタの適用要否の判定を、輝度成分の情報に基づく条件に従って行うと、ブロック歪みが発生しているにもかかわらず、適切にデブロックフィルタが適用されず、ブロック歪みが残ってしまう恐れがあった。
【0053】
また、bSが1の場合、非特許文献2において適用要否判定処理に用いられる条件C91が真となるためには、判定の対象となるブロック境界にかかるブロックの水平方向のサイズと垂直方向のサイズの両方が16より大きい必要がある。しかし、参照文献REF3に記載されるように、FVCにおけるブロック(例えばCU)の形状は、正方形だけでなく、非正方形の長方形であり得る。そして、ブロック歪みは、ブロック境界と同一方向のサイズよりも、ブロック境界と直交する方向のサイズに依存して発生し易い傾向がある。そのため、ブロックの形状によっては、非特許文献2の適用要否判定処理では、適切にデブロックフィルタが適用されず、ブロック歪みが残ってしまう恐れがあった。
【0054】
また、非特許文献2におけるストロングフィルタは、HEVCにおいて適用されるストロングフィルタと同様である。一方、上述したように、FVCでは、HEVCにおけるブロック分割よりも、さらに大きなサイズのブロックが選択され得るため、非特許文献2におけるストロングフィルタを適用したとしても、十分にブロック歪みを軽減できない恐れがあった。
【0055】
[1-2.本開示の一実施形態の概要]
そこで、上記事情を一着眼点にして本開示の一実施形態を創作するに至った。本開示の一実施形態による画像処理装置は、復号画像の色差に関連する色差関連パラメータを用いて算出された境界強度(bS)に基づいて、復号画像の色差成分に対するデブロックフィルタ適用の要否を判定する適用要否判定処理を行う。以下、本開示の一実施形態の概要について説明する。
【0056】
図4は、本実施形態におけるbSの算出について説明するための表である。図4に示すように、イントラ予測に関する条件である条件A、Y成分の有意係数に関する条件である条件B1-Y、U成分の有意係数に関する条件である条件B1-U、V成分の有意係数に関する条件である条件B1-V、及びMVと参照ピクチャに関する条件である条件B2に基づいて算出される。
【0057】
図4を参照すると、条件Aが真である場合にbSは16に設定される。また、条件Aが偽であり、条件B2が真である場合、bSは1に設定される。そして、条件Aと条件B2とが偽であり、かつ条件B1-Y、条件B1-U、及び条件B1-Vのうちいずれか1つでも真である場合、bSは2~14の間の値に設定される。そして、条件A、条件B1-Y、条件B1-U、条件B1-V、及び条件B2がいずれも偽である場合にbSは0に設定される。なお、図4に示す条件A、条件B1-Y、条件B2は、それぞれ図1を参照して説明した条件A、条件B1、条件B2と同一である。また、本実施形態にかかるbSの算出方法については後により詳細に説明する。
【0058】
また、図4に示す条件B1-U、及び条件B1-Vは、条件B1-YにおけるY成分の有意係数の有無の代わりに、それぞれU成分の有意係数の有無、及びV成分の有意係数の有無を判定に用いる条件に相当し、以下のように表現される。なお、以下の条件B1-U、及び条件B1-Vの真偽は、各TUにおける色差成分の有意係数の有無を示すフラグ(色差関連パラメータの一例)に基づいて判定することが可能である。
【0059】
-条件B1-U:ブロック境界がTU境界であり、bS算出対象のラインのうち最も上のラインの画素を含みブロック境界を挟む2つのTUのうち、少なくともいずれか一方にU成分の有意係数が存在する
-条件B1-V:ブロック境界がTU境界であり、bS算出対象のラインのうち最も上のラインの画素を含みブロック境界を挟む2つのTUのうち、少なくともいずれか一方にV成分の有意係数が存在する
【0060】
本実施形態では、上記のような色差に関連する条件B1-U、条件B1-Vを用いて算出されたbSに基づいて、復号画像の色差成分に対するデブロックフィルタ適用要否の判定が行われる。かかる構成により、色差成分に対してより適切にデブロックフィルタを適用することが可能となる。
【0061】
また、本実施形態では、後述するように、ブロック境界と直交する方向のサイズにさらに基づいて、復号画像の色差成分に対するデブロックフィルタ適用要否の判定が行われる。かかる構成により、ブロックの形状が非正方形の長方形の場合であってもより適切にデブロックフィルタを適用することが可能となる。
【0062】
また、本実施形態では、後述するように、非特許文献2におけるストロングフィルタよりも強度が大きい(ローパス特性が強い)ストロングフィルタが復号画像の色差成分に対して適用され得る。また、かかるストロングフィルタをより適切に適用するため、本実施形態では、非特許文献2におけるフィルタ強度の判定処理とは異なる方法でフィルタ強度の判定が行われる。かかる構成により、よりブロック歪みを軽減し得る。
【0063】
以上、本開示の一実施形態の概要について説明した。以下では、上述した効果を実現するための、本実施形態の構成、及び動作について順次詳細に説明する。
【0064】
<2.装置の概略構成>
まず、図5及び図6を用いて、本明細書で開示する技術を適用可能な一例としての装置の概略構成を説明する。本明細書で開示する技術は、例えば、画像符号化装置及び画像復号装置に適用可能である。
【0065】
[2-1.画像符号化装置]
図5は、本開示の一実施形態にかかる画像処理装置の一態様である画像符号化装置10の構成の一例を示すブロック図である。
【0066】
図5を参照すると、画像符号化装置10は、並び替えバッファ11、制御部12、減算部13、直交変換部14、量子化部15、可逆符号化部16、蓄積バッファ17、逆量子化部21、逆直交変換部22、加算部23、インループフィルタ24、フレームメモリ30、スイッチ31、モード設定部32、イントラ予測部40及びインター予測部50を備える。
【0067】
並び替えバッファ11は、符号化すべき映像を構成する一連の画像を、符号化処理にかかるGOP(Group of Pictures)構造に応じて並び替える。並び替えバッファ11は、並び替え後の画像を制御部12、減算部13、イントラ予測部40、及びインター予測部50へ出力する。
【0068】
制御部12は、外部、または予め指定された処理単位のブロックサイズに基づいて、画像を処理単位のブロックへ分割する。制御部12によるブロック分割により、Quad-Tree Block Structure、またはQTBT(Quad Tree Plus Binary Tree) Block StructureのCUが処理単位として形成されてもよい。また、制御部12は、符号化処理にかかるパラメータを、例えば、RDO(Rate-Distortion Optimization)に基づいて決定する。決定されたパラメータは、各部へ供給される。
【0069】
減算部13は、並び替えバッファ11から入力される画像と予測画像との差分である予測誤差を算出し、算出した予測誤差を直交変換部14へ出力する。
【0070】
直交変換部14は、各領域内に設定される1つ以上の変換ブロック(TU)の各々について直交変換処理を実行する。ここでの直交変換は例えば、離散コサイン変換または離散サイン変換等であってよい。より具体的には、直交変換部14は、減算部13から入力される予測誤差を、変換ブロックごとに、空間領域の画像信号から周波数領域の変換係数に変換する。そして、直交変換部14は、変換係数を量子化部15へ出力する。
【0071】
また、直交変換部14は、直交変換により得られた変換係数に基づいて、各TUにおける有意係数の有無を示すフラグを成分ごと(Y成分、U成分、V成分ごと)に生成し、可逆符号化部16及びインループフィルタ24へ出力してもよい。なお、直交変換部14により生成される、各TUにおけるU成分の有意係数の有無を示すフラグ、及び各TUにおけるV成分の有意係数の有無を示すフラグは、色差関連パラメータに含まれる。
【0072】
量子化部15には、直交変換部14から入力される変換係数、及び後に説明するレート制御部18からのレート制御信号が供給される。量子化部15は変換係数を量子化し、量子化後の変換係数(以下、量子化データとも呼ぶ)を可逆符号化部16及び逆量子化部21へ出力する。また、量子化部15は、レート制御部18からのレート制御信号に基づいて量子化スケールを切り替えることにより、可逆符号化部16に入力される量子化データのビットレートを変化させる。
【0073】
可逆符号化部16は、量子化部15から入力される量子化データを符号化することにより、符号化ストリームを生成する。また、可逆符号化部16は、デコーダにより参照される様々なパラメータを符号化して、符号化パラメータを符号化ストリームへ挿入する。可逆符号化部16により符号化されるパラメータは、上述した制御部12により決定されたパラメータを含み得る。
【0074】
さらに、可逆符号化部16により符号化されるパラメータは、色差関連パラメータを含み得る。可逆符号化部16により符号化される色差関連パラメータは、例えば上述したように直交変換部14から入力される各TUにおけるU成分の有意係数の有無を示すフラグ、及び各TUにおけるV成分の有意係数の有無を示すフラグを含む。可逆符号化部16は、生成した符号化ストリームを蓄積バッファ17へ出力する。
【0075】
蓄積バッファ17は、可逆符号化部16から入力される符号化ストリームを半導体メモリ等の記憶媒体を用いて一時的に蓄積する。そして、蓄積バッファ17は、蓄積した符号化ストリームを、伝送路の帯域に応じたレートで、図示しない伝送部(例えば、通信インタフェースまたは周辺機器との接続インタフェース等)へ出力する。
【0076】
レート制御部18は、蓄積バッファ17の空き容量を監視する。そして、レート制御部18は、蓄積バッファ17の空き容量に応じてレート制御信号を生成し、生成したレート制御信号を量子化部15へ出力する。例えば、レート制御部18は、蓄積バッファ17の空き容量が少ない時には、量子化データのビットレートを低下させるためのレート制御信号を生成する。また、例えば、レート制御部18は、蓄積バッファ17の空き容量が十分大きい時には、量子化データのビットレートを高めるためのレート制御信号を生成する。
【0077】
逆量子化部21、逆直交変換部22及び加算部23は、ローカルデコーダを構成する。ローカルデコーダは、符号化されたデータから復号画像をローカル復号する役割を有する。
【0078】
逆量子化部21は、量子化部15により使用されたものと同じ量子化パラメータで量子化データを逆量子化し、変換係数を復元する。そして、逆量子化部21は、復元した変換係数を逆直交変換部22へ出力する。
【0079】
逆直交変換部22は、逆量子化部21から入力される変換係数について逆直交変換処理を実行することにより、予測誤差を復元する。そして、逆直交変換部22は、復元した予測誤差を加算部23へ出力する。
【0080】
加算部23は、逆直交変換部22から入力される復元された予測誤差とイントラ予測部40またはインター予測部50から入力される予測画像とを加算することにより、復号画像(リコンストラクト画像)を生成する。そして、加算部23は、生成した復号画像をインループフィルタ24及びフレームメモリ30へ出力する。
【0081】
インループフィルタ24は、復号画像の画質の向上を目的として一連のインループフィルタを適用する。例えば、参照文献REF3の「2.5. In-loop filtering」に記載されているように、4つのインループフィルタが、バイラテラルフィルタ、デブロックフィルタ、適応オフセットフィルタ、及び適応ループフィルタの順番で適用されてもよい。図5に示すインループフィルタ24は、例えばバイラテラルフィルタ25、デブロックフィルタ26a、適応オフセットフィルタ27、及び適応ループフィルタ28を含み、上記4つのインループフィルタが順に適用され得る。しかしながら、インループフィルタ24はかかる構成に限定されず、4つのインループフィルタのうち、いずれのフィルタを適用するか、また、どのような順番で適用するかは、適宜選択可能であり得る。なお、デブロックフィルタ26aについては、後に詳細に説明する。
【0082】
インループフィルタ24は、インループフィルタが適用された復号画像をフレームメモリ30へ出力する。
【0083】
フレームメモリ30は、加算部23から入力されるフィルタリング前の復号画像、及びインループフィルタ24から入力されるインループフィルタが適用された復号画像を記憶媒体を用いて記憶する。
【0084】
スイッチ31は、イントラ予測のために使用されるフィルタリング前の復号画像をフレームメモリ30から読み出し、読み出した復号画像を参照画像としてイントラ予測部40に供給する。また、スイッチ31は、インター予測のために使用されるフィルタリング後の復号画像をフレームメモリ30から読み出し、読み出した復号画像を参照画像としてインター予測部50に供給する。
【0085】
モード設定部32は、イントラ予測部40及びインター予測部50から入力されるコストの比較に基づいて、ブロックごとに予測符号化モードを設定する。モード設定部32は、イントラ予測モードを設定したブロックについては、イントラ予測部40により生成される予測画像を減算部13及び加算部23へ出力すると共に、イントラ予測に関する情報を可逆符号化部16へ出力する。また、モード設定部32は、インター予測モードを設定したブロックについては、インター予測部50により生成される予測画像を減算部13及び加算部23へ出力すると共に、インター予測に関する情報を可逆符号化部16へ出力する。
【0086】
イントラ予測部40は、原画像及び復号画像に基づいて、イントラ予測処理を実行する。例えば、イントラ予測部40は、探索範囲に含まれる予測モード候補の各々について、予測誤差及び発生する符号量に基づくコストを評価する。次に、イントラ予測部40は、コストが最小となる予測モードを最適な予測モードとして選択する。また、イントラ予測部40は、選択した最適な予測モードに従って予測画像を生成する。そして、イントラ予測部40は、最適な予測モードを示す予測モード情報を含むイントラ予測に関する情報、対応するコスト、及び予測画像を、モード設定部32へ出力する。
【0087】
インター予測部50は、原画像及び復号画像に基づいて、インター予測処理(動き補償)を実行する。例えば、インター予測部50は、ある探索範囲に含まれる予測モード候補の各々について、予測誤差及び発生する符号量に基づくコストを評価する。次に、インター予測部50は、コストが最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、インター予測部50は、選択した最適な予測モードに従って予測画像を生成する。そして、インター予測部50は、インター予測に関する情報、対応するコスト、及び予測画像を、モード設定部32へ出力する。
【0088】
[2-2.画像復号装置]
続いて、以上のように符号化されたデータの復号について説明する。図6は、本実施形態にかかる画像処理装置の一態様である画像復号装置60の構成の一例を示すブロック図である。図6を参照すると、蓄積バッファ61、可逆復号部62、逆量子化部63、逆直交変換部64、加算部65、インループフィルタ66、並び替えバッファ72、D/A(Digital to Analogue)変換部73、フレームメモリ80、セレクタ81a及び81b、イントラ予測部90並びにインター予測部100を備える。
【0089】
蓄積バッファ61は、図示しない伝送部(例えば、通信インタフェースまたは周辺機器との接続インタフェース等)を介して画像符号化装置10から受信される符号化ストリームを記憶媒体を用いて一時的に蓄積する。
【0090】
可逆復号部62は、蓄積バッファ61から入力される符号化ストリームを、符号化の際に使用された符号化方式に従って復号し、量子化データを生成する。可逆復号部62は、生成した量子化データを逆量子化部63へ出力する。
【0091】
また、可逆復号部62は、符号化ストリームから、各種のパラメータをパースする。可逆復号部62によりパースされるパラメータは、例えば、イントラ予測に関する情報、及びインター予測に関する情報を含み得る。可逆復号部62は、イントラ予測に関する情報をイントラ予測部90へ出力する。また、可逆復号部62は、インター予測に関する情報をインター予測部100へ出力する。
【0092】
また、可逆復号部62によりパースされるパラメータは、色差関連パラメータを含み得る。可逆復号部62は、色差関連パラメータを、インループフィルタ66へ出力する。なお、可逆復号部62によりパースされる色差関連パラメータは、例えば上述した各TUにおけるU成分の有意係数の有無を示すフラグ、及び各TUにおけるV成分の有意係数の有無を示すフラグを含む。
【0093】
逆量子化部63は、可逆復号部62から入力される量子化データを、符号化の際に使用されたものと同じ量子化ステップで逆量子化し、変換係数を復元する。逆量子化部63は、復元した変換係数を逆直交変換部64へ出力する。
【0094】
逆直交変換部64は、符号化の際に使用された直交変換方式に従い、逆量子化部63から入力される変換係数について逆直交変換を行うことにより、予測誤差を生成する。逆直交変換部64は、生成した予測誤差を加算部65へ出力する。
【0095】
加算部65は、逆直交変換部64から入力される予測誤差と、セレクタ71bから入力される予測画像とを加算することにより、復号画像を生成する。そして、加算部65は、生成した復号画像をインループフィルタ66及びフレームメモリ80へ出力する。
【0096】
インループフィルタ66は、復号画像の画質の向上を目的として一連のインループフィルタを適用する。例えば、参照文献REF3の「2.5. In-loop filtering」に記載されているように、4つのインループフィルタが、バイラテラルフィルタ、デブロックフィルタ、適応オフセットフィルタ、及び適応ループフィルタの順番で適用されてもよい。図6に示すインループフィルタ66は、例えばバイラテラルフィルタ67、デブロックフィルタ26b、適応オフセットフィルタ69、及び適応ループフィルタ70を含み、上記4つのインループフィルタが順に適用され得る。しかしながら、インループフィルタ66はかかる構成に限定されず、4つのインループフィルタのうち、いずれのフィルタを適用するか、また、どのような順番で適用するかは、適宜選択可能であり得る。なお、デブロックフィルタ26bについては、後に詳細に説明する。
【0097】
インループフィルタ66は、インループフィルタが適用された復号画像を並び替えバッファ72及びフレームメモリ80へ出力する。
【0098】
並び替えバッファ72は、インループフィルタ66から入力される画像を並び替えることにより、時系列の一連の画像を生成する。そして、並び替えバッファ72は、生成した画像をD/A変換部73へ出力する。
【0099】
D/A変換部73は、並び替えバッファ72から入力されるデジタル形式の画像をアナログ形式の画像信号に変換する。そして、D/A変換部73は、例えば、画像復号装置60と接続されるディスプレイ(図示せず)にアナログ画像信号を出力することにより、映像を表示させる。
【0100】
フレームメモリ80は、加算部65から入力されるフィルタリング前の復号画像、及びインループフィルタ66から入力されるインループフィルタが適用された復号画像を記憶媒体を用いて記憶する。
【0101】
セレクタ81aは、可逆復号部62により取得される予測モード情報に応じて、画像内のブロックごとに、フレームメモリ80からの画像の出力先をイントラ予測部90とインター予測部100との間で切り替える。例えば、セレクタ81aは、イントラ予測モードが指定された場合には、フレームメモリ80から供給されるフィルタリング前の復号画像を参照画像としてイントラ予測部90へ出力する。また、セレクタ81aは、インター予測モードが指定された場合には、フィルタリング後の復号画像を参照画像としてインター予測部100へ出力する。
【0102】
セレクタ81bは、可逆復号部62により取得される予測モード情報に応じて、加算部65へ供給すべき予測画像の出力元をイントラ予測部90とインター予測部100との間で切り替える。例えば、セレクタ81bは、イントラ予測モードが指定された場合には、イントラ予測部90から出力される予測画像を加算部65へ供給する。また、セレクタ81bは、インター予測モードが指定された場合には、インター予測部100から出力される予測画像を加算部65へ供給する。
【0103】
イントラ予測部90は、可逆復号部62から入力されるイントラ予測に関する情報とフレームメモリ80からの参照画像とに基づいてイントラ予測処理を行い、予測画像を生成する。そして、イントラ予測部90は、生成した予測画像をセレクタ81bへ出力する。
【0104】
インター予測部100は、可逆復号部62から入力されるインター予測に関する情報とフレームメモリ80からの参照画像とに基づいてインター予測処理を行い、予測画像を生成する。そして、インター予測部100は、生成した予測画像をセレクタ81bへ出力する。
【0105】
<3.デブロックフィルタ>
[3-1.デブロックフィルタの構成例]
本節では、図5に示した画像符号化装置10のデブロックフィルタ26a及び図6に示した画像復号装置60のデブロックフィルタ26bの構成の一例を説明する。なお、デブロックフィルタ26a及びデブロックフィルタ26bの構成は、共通であってよい。したがって、以下の説明では、特に両者を区別する必要が無い場合には、デブロックフィルタ26a及びデブロックフィルタ26bをデブロックフィルタ26と総称する。
【0106】
本実施形態にかかるデブロックフィルタ26は、上述したように、色差に関連する色差関連パラメータを用いて算出されたbSに基づいて、復号画像の色差成分に対するデブロックフィルタ適用要否を判定する。また、本実施形態にかかるデブロックフィルタ26は、上述したように、ブロック境界と直交する方向のサイズにさらに基づいて、復号画像の色差成分に対するデブロックフィルタ適用要否を判定する。また、本実施形態にかかるデブロックフィルタ26は、上述したように、非特許文献2におけるストロングフィルタよりも強度が大きい(ローパス特性が強い)ストロングフィルタを復号画像の色差成分に対して適用し得る。また、かかるストロングフィルタをより適切に適用するため、本実施形態では、非特許文献2におけるフィルタ強度の判定処理とは異なる方法でフィルタ強度を判定する。なお、以下では、主に復号画像の色差成分に対して適用されるデブロックフィルタに関するデブロックフィルタ26の機能について説明し、輝度成分に対して適用されるデブロックフィルタに関するデブロックフィルタ26の機能については適宜省略する。
【0107】
図7は、本実施形態にかかるデブロックフィルタ26の詳細な構成の一例を示すブロック図である。図7を参照すると、デブロックフィルタ26は、境界強度算出部261と、判定部263と、フィルタリング部269とを有する。
【0108】
(1)境界強度算出部
境界強度算出部261は、復号画像のブロック境界を対象とし、色差に関連する色差関連パラメータを用いてbS(境界強度)を算出する。YUV420フォーマットの信号が対象である場合、境界強度算出部261は、復号画像の輝度成分における4ライン単位、すなわち復号画像の色差成分における2ライン単位でbSを算出する。
【0109】
本実施形態において境界強度算出部261がbSの算出に用いる色差関連パラメータは、各TUにおけるU成分の有意係数の有無を示すフラグ、及び各TUにおけるV成分の有意係数の有無を示すフラグを含む。図7に示されるように、境界強度算出部261には、各TUにおける各成分(Y成分、U成分、V成分)の有意係数の有無を示すフラグが直交変換部14、あるいは可逆復号部62から入力される。
【0110】
境界強度算出部261は、図4を参照して説明した条件A、条件B1-Y、条件B1-U、条件B1-V、及び条件B2に基づいてbSを算出する。つまり、境界強度算出部261は、bSの算出対象であるブロック境界を挟むTUに、色差成分の有意係数が存在するか否かに基づいてbSを算出する。さらに、本実施形態にかかる境界強度算出部261は、bSの算出対象であるブロック境界を挟むTUに、Y成分、U成分、V成分の各成分の有意係数が存在するか否かを独立に判定することにより、bSを算出し得る。かかる構成により、図2を参照して説明したようにY成分の有意係数が存在するか否かに基づいてbSを算出するよりも、U成分、V成分に適したbSが算出され、より適切にデブロックフィルタを適用することが可能となる。
【0111】
図8を参照して、境界強度算出部261によるbSの算出についてより詳細に説明する。図8は、境界強度算出部261により算出されるbSの一例を示す表である。境界強度算出部261により算出されるbSは、複数のビットにより表現され得る。図8に示される例では、bSは5ビットで表現される。また、当該複数のビットには、Y成分、U成分、V成分の各成分に対応するビットが少なくとも1つずつ含まれるように、bSが算出されてもよい。かかる構成により、後述する判定部263がbSに基づいてデブロックフィルタ適用要否を判定する際に、判定の対象となる成分ごとに対応するbSのビットを参照することで、容易に判定を行うことが可能となる。
【0112】
また、境界強度算出部261は、bSに含まれる各ビットが各条件の真偽に対応するようにbSを算出してもよい。図8に示す例では、各条件が真である場合、当該条件に対応するビットが1であり、各条件が偽である場合、当該条件に対応するビットが0であるようにbSが算出される。また、図8に示す例では、bSが5ビットで表現され、bSの5ビット目がイントラ予測に関する条件Aと、bSの4ビット目がY成分の有意係数に関する条件B1-Yと、bSの3ビット目がU成分の有意係数に関する条件B1-Uと、bSの2ビット目がV成分の有意係数に関する条件B1-Vと、bSの1ビット目がMVと参照ピクチャに関する条件B2と、それぞれ対応している。ただし、bSの各ビットと各条件との対応は、図8に示した例に限定されない。例えば、Y成分、U成分、V成分の各成分にそれぞれ対応するbSの4ビット目、3ビット目、2ビット目の順番が入れ替えられてもよい。
【0113】
(2)判定部
判定部263は、図7に示すように、復号画像の色差成分に対するデブロックフィルタ適用要否を判定する適用要否判定部265と、当該復号画像の色差成分に適用されるデブロックフィルタのフィルタ強度を判定するフィルタ強度判定部267とを含む。以下、適用要否判定部265、及びフィルタ強度判定部267の機能について順次説明を行う。
【0114】
なお、以下の説明では、復号画像の色差成分に対するデブロックフィルタ適用要否、及びフィルタ強度の判定について主に説明し、輝度成分に対する判定については適宜説明を省略する。また、本実施形態にかかる適用要否判定部265、及びフィルタ強度判定部267は、U成分とV成分のそれぞれについて独立に、デブロックフィルタ適用要否、及びフィルタ強度を判定する。
【0115】
適用要否判定部265は、復号画像のブロック境界を対象とし、境界強度算出部261により上述したように算出されたbS(境界強度)に基づいて、当該復号画像の色差成分に対するデブロックフィルタ適用要否を判定する。
【0116】
また、適用要否判定部265は、さらに当該ブロック境界を挟むブロックのブロックサイズに基づいて当該復号画像の色差成分に対するデブロックフィルタ適用要否を判定してもよい。なお、以下ではかかるブロックサイズに基づく判定をラージブロック判定と呼称する場合がある。また、適用要否判定部265は、全てのブロック境界に対して常にラージブロック判定を行う必要はなく、bSに応じてラージブロック判定を行うか否かを決定してもよい。なお、ラージブロック判定が行われるケースや、ラージブロック判定の詳細については後述する。
【0117】
本実施形態にかかる適用要否判定部265は、以下の条件C1の判定と、条件C2の判定とにより、デブロックフィルタ適用要否を判定する。
【0118】
-条件C1:(bS==16||(条件C11&&条件C12))
-条件C2:d<beta
【0119】
上記の条件C1における条件C11は、ラージブロック判定を行うか否かを判定するための条件であり、条件C12はラージブロック判定にかかる条件である。bSが16である場合、すなわちイントラ予測に関する条件Aが満たされる場合には、ラージブロック判定を行う必要なく条件C1は真であると判定され得る。そのため、ラージブロック判定を行うか否かを判定するための条件C11は、bSがインター予測に関連する値を有する場合に真となり得る。なお、このように、bSが16である場合にラージブロック判定をスキップして条件C1を真と判定することにより、ラージブロック判定にかかる処理量を抑制することができる。
【0120】
また、条件C1の条件C11が偽である場合にも、条件C12の判定(ラージブロック判定)は行われず、条件C1が偽と判定される。かかる構成により、ラージブロック判定にかかる処理量を抑制することができる。
【0121】
条件C11は、各成分の有意係数に関する条件、あるいは上述した条件B2が真である場合に真となってよい。つまり、条件C11は、判定対象となる成分によって異なってよい。例えば、判定対象がU成分である場合の条件C11は以下の条件C11-Uのような条件であってよく、判定対象がV成分である場合の条件C11は以下の条件C11-Vのような条件であってよい。
【0122】
-条件C11-U:(bS&0x04||bS&0x01)
-条件C11-V:(bS&0x02||bS&0x01)
【0123】
また、適用要否判定部265は、ブロック境界を挟むブロックにおける前記ブロック境界と直交する方向のサイズに基づいてラージブロック判定を行う。かかる構成により、ブロックの形状が非正方形の長方形の場合に、ブロック歪みの発生に影響を与えやすい、ブロック境界と直交する方向のサイズに基づいて、デブロックフィルタの適用要否を判定することが可能となる。
【0124】
また、適用要否判定部265は、ブロック境界を挟むブロックにおけるブロック境界と直交する方向のサイズが所定の閾値より大きいか否かに基づいてラージブロック判定を行ってもよい。このラージブロック判定で用いられる閾値は限定されるものではないが、例えば16であってもよい。ブロック境界と直交する方向のサイズが小さく、特に16以下の場合には、ブロックノイズが目立ちにくいため、かかる構成により、不要なデブロックフィルタの適用を回避することが可能となる。例えば、ラージブロック判定にかかる条件C12は、以下のような条件であってよい。
【0125】
-条件C12:(EDGE_VER&&block_width>16)||(EDGE_HOR&&block_height>16)
【0126】
なお、上記の条件C12において、EDGE_VERは、判定の対象となるブロック境界が垂直境界であることを意味し、EDGE_HORは、判定の対象となるブロック境界が水平境界であることを意味する。
【0127】
また、上記の条件C2は、上述した条件C92と同一であるため、ここでの説明は省略する。なお、上記の条件C2の判定は、条件C1が真であった場合に行われ、条件C1が偽であった場合には、条件C2の判定が行われることなく、デブロックフィルタを適用しないと判定される。条件C2の判定は、上述した式(1)~(7)のように変数dを算出する処理を要し、条件C1の判定よりも処理量が大きいため、条件C1の後に条件C2の判定を行うことにより、処理量を抑制することが可能である。
【0128】
また、フィルタ強度判定部267は、上述したように条件C1、条件C2によりデブロックフィルタ適用要否が判定された後に、復号画像の色差成分に適用されるデブロックフィルタのフィルタ強度をさらに判定する。本実施形態で適用され得るデブロックフィルタは、後述するように、より弱い強度を有するウィークフィルタと、より強い強度を有するストロングフィルタの2種類であってよい。そして、後述するフィルタリング部269は、フィルタ強度判定部267により判定されたフィルタ強度に応じて、ウィークフィルタとストロングフィルタのいずれかを適用する。
【0129】
フィルタ強度判定部267は、デブロックフィルタを適用すると判定された場合に、フィルタ強度を判定する。フィルタ強度の判定をデブロックフィルタ適用要否の判定よりも後に行うことにより、フィルタ強度の判定にかかる処理を抑制することが可能となる。
【0130】
また、フィルタ強度判定部267は、ブロック境界の近傍に位置する画素の色差成分の波形に基づいて、フィルタ強度を判定する。以下、波形に基づく判定について説明する。フィルタ強度判定部267は、以下の波形に基づく条件C3により、フィルタ強度を判定する。
【0131】
-条件C3:(条件C31&&条件C32&&条件C33)
-条件C31:|p3-p0|+|q3-q0|<(beta>>3)
-条件C32:|p2-2*p1+p0|+|q2-2*q1+q0|<(beta>>2)
-条件C33:|p0-q0|<((tc*5+1)>>1)
【0132】
フィルタ強度判定部267は、ブロック境界の近傍に位置する画素のうち、2つのラインに含まれる画素について、上記の条件C3の判定を行う。上記C3で用いられる条件C31、条件C32、条件C33はラインごとに判定される。なお、条件C31、条件C32、条件C33におけるpi、qk、pi′、qk′、beta、及びtCについては、既に上記で説明したためここでの説明は省略する。
【0133】
条件C31、条件C32、及び条件C33は、各ラインに含まれる画素を用いて判定する条件である。より具体的には条件C31は、各ラインに含まれる画素の色差成分のブロック内における平坦度に関する条件である。また、条件C32は、各ラインに含まれる画素の色差成分のブロック内における連続性の判定に関する条件である。また、条件C33は、各ラインに含まれる画素の色差成分のブロック間のギャップ(差分)に関する条件であり、より具体的にはブロック境界に隣接する画素値を用いて、ブロック間のギャップを判定するための条件である。
【0134】
条件C31が真である場合には、各ブロック内において色差成分の波形の平坦度が高い。また、条件C32が真である場合には、各ブロック内において色差成分の波形は連続性が高い。また、条件C32が真である場合には、色差成分の波形はブロック境界において大きなギャップを有する。
【0135】
上記のように、条件C3は、上記の条件C31、条件C32、条件C33の全てが真である場合に真と判定される。また、フィルタ強度判定部267は上記の条件C3をラインごとに判定する。ただし、上述したようにフィルタ強度は2ライン単位で判定される。つまり、連続する2つのラインの両方において上記の条件C3が真である場合に当該2つラインにストロングフィルタが適用され、偽である場合に当該2つのラインにウィークフィルタが適用されるように、フィルタ強度が判定される。
【0136】
(3)フィルタリング部
フィルタリング部269は、適用要否判定部265によるデブロックフィルタ適用要否の判定結果に基づいて、ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用する。また、上述したようにフィルタリング部269は、フィルタ強度判定部267により判定されたフィルタ強度に応じて、ウィークフィルタ、またはストロングフィルタをデブロックフィルタとして適用する。
【0137】
本実施形態にかかるフィルタリング部269により、色差成分に対して適用されるウィークフィルタは、例えば上述した非特許文献2やHEVCにおいて復号画像の色差成分に対して適用されるウィークフィルタと同一であってよい。一方、本実施形態において色差成分に対して適用されるストロングフィルタは、非特許文献2において色差成分に対して適用されるストロングフィルタ(HEVCにおいて輝度成分に対して適用されるストロングフィルタ)とは異なってよい。以下、本実施形態において、色差成分に対して適用されるストロングフィルタの例について説明する。
【0138】
本実施形態において色差成分に対して適用されるストロングフィルタの係数は、ストロングフィルタの適用対象範囲の中心位置において2であり、その他の位置において1であってよい。また、フィルタリング部269は、ブロック境界から両側3画素までをストロングフィルタの適用対象範囲とし、適用対象範囲の中心位置の両側の3画素を参照画素として、適用対象範囲に含まれる画素の色差成分にストロングフィルタを適用してもよい。例えば、p0を適用対象範囲の中心位置としたストロングフィルタは、以下の式(14)のように表される。
【0139】
p0′=Clip3(p0-w*tC,p0+w*tC,((p3+p2+p1+2*p0+q0+q1+q2+4)>>3)) …(14)
【0140】
なお、上記の式(14)においてwは適宜設定され得る重みであり、例えば1、あるいは2に設定されてもよい。また、Clip3(a,b,c)は、上述したように値cをa≦c≦bの範囲でクリップするクリッピング処理を表す。
【0141】
このようなストロングフィルタを適用することにより、上述した非特許文献2において色差成分に対して適用されるストロングフィルタよりも強いデブロックフィルタを適用することが可能となる。
【0142】
ところで、ストロングフィルタの適用対象範囲の中心位置がブロック境界から2画素目、または3画素目の場合、参照画素には、ブロック境界から5画素以上離れた画素が含まれる。しかし、ブロック境界から5画素以上離れた画素は、フィルタ強度の判定に用いられておらず、参照画素として用いるのに適さない場合がある。そのため、フィルタリング部269は、ブロック境界から5画素以上離れた画素の代わりに、ブロック境界から4画素目の画素の画素値を、パディングすることで参照画素の画素値として用いてもよい。
【0143】
例えば、p1を適用対象範囲の中心位置としたストロングフィルタは、以下の式(15)のように表される。
p1′=Clip3(p1-w*tC,p1+w*tC,((p4+p3+p2+2*p1+p0+q0+q1+4)>>3))
=Clip3(p1-w*tC,p1+w*tC,((p3+p3+p2+2*p1+p0+q0+q1+4)>>3))
=Clip3(p1-w*tC,p1+w*tC,((2*p3+p2+2*p1+p0+q0+q1+4)>>3)) …(15)
【0144】
同様に、p2を適用対象範囲の中心位置としたストロングフィルタは、以下の式(16)のように表される。
p2′=Clip3(p2-w*tC,p2+w*tC,((p5+p4+p3+2*p2+p1+p0+q0+4)>>3))
=Clip3(p2-w*tC,p2+w*tC,((p3+p3+p3+2*p2+p1+p0+q0+4)>>3))
=Clip3(p2-w*tC,p2+w*tC,((3*p3+2*p2+p1+p0+q0+4)>>3)) …(16)
【0145】
また、同様に、q0~q3を適用対象範囲の中心位置としたストロングフィルタは、それぞれ以下の式(17)~(19)のように表される。
q0′=Clip3(q0-w*tC,q0+w*tC,((p2+p1+p0+2*q0+q1+q2+q3+4)>>3)) …(17)
q1′=Clip3(q1-w*tC,q1+w*tC,((p1+p0+q0+2*q1+q2+2*q3+4)>>3)) …(18)
q2′=Clip3(q2-w*tC,q2+w*tC,((p0+q0+q1+2*q2+3*q3+4)>>3)) …(19)
【0146】
[3-2.処理の流れ]
以上、本実施形態にかかるデブロックフィルタ26の構成例について説明した。続いて、本実施形態にかかるデブロックフィルタ26による処理の流れについて説明する。図9は、本実施形態にかかるデブロックフィルタ26による処理の流れの一例を示すフローチャートである。なお、以下では、デブロックフィルタ26による処理のうち、本実施形態の特徴に関する処理について説明を行い、他の処理についての説明は適宜省略する。
【0147】
まず、境界強度算出部261により、bS(境界強度)が算出される(S10)。ここで、図10を参照して、bSの算出方法についてより詳細に説明する。図10は、境界強度算出部261により実行される境界強度算出処理(S10)の流れを説明するためのフローチャートである。
【0148】
まず、境界強度算出部261はbSを0に初期化する(S102)。続いて、境界強度算出部261は、イントラ予測に関する条件である条件Aの真偽を判定する(S104)。条件Aが真である場合(S104においてYES)、bSは16に設定される(S106)。
【0149】
一方、条件Aが偽である場合(S104においてNO)、境界強度算出部261は、動きベクトル(MV)と参照ピクチャに関する条件である条件B2の真偽を判定する(S108)。条件B2が真(S108においてYES)である場合、bSは1に設定される(S110)。
【0150】
一方、条件B2が偽である場合(S108においてNO)、境界強度算出部261は、Y成分の有意係数の有無に関する条件である条件B1-Yの真偽を判定する(S112)。条件B1-Yが真(S112においてYES)である場合、bSに8が加算された(S114)後に、処理はステップS116へ進む。一方、条件B1-Yが偽(S112においてNO)である場合、処理はそのままステップS116へ進む。
【0151】
ステップS116において、境界強度算出部261は、U成分の有意係数の有無に関する条件である条件B1-Uの真偽を判定する。条件B1-Uが真(S116においてYES)である場合、bSに4が加算された(S118)後に、処理はステップS120へ進む。一方、条件B1-Uが偽(S116においてNO)である場合、処理はそのままステップS120へ進む。
【0152】
ステップS120において、境界強度算出部261は、V成分の有意係数の有無に関する条件である条件B1-Vの真偽を判定する。条件B1-Vが真(S120においてYES)である場合、bSに2が加算された(S122)後に、境界強度算出処理(S10)は終了する。条件B1-Vが偽(S120においてNO)である場合、境界強度算出処理(S10)はそのまま終了する。
【0153】
図9に戻ってデブロックフィルタ26による処理の流れの説明を続ける。ステップS20において、判定部263の適用要否判定部265が、上述した条件C1の真偽を判定する。条件C1が偽である場合(S20においてNO)、処理は終了する。
【0154】
一方、条件C1が真である場合(S20においてYES)、適用要否判定部265は、上述した条件C2の真偽を判定する(S30)。条件C2が偽である場合(S30においてNO)、処理は終了する。
【0155】
一方、条件C2が真である場合(S30においてYES)、判定部263のフィルタ強度判定部267は、上述した条件C3の真偽を判定することにより、フィルタ強度を判定する(S40)。条件C3が真である場合(S40においてYES)、フィルタリング部269はブロック境界の近傍に位置する画素の色差成分にストロングフィルタを適用する(S50)。一方、条件C3が偽である場合(S40においてNO)、フィルタリング部269はブロック境界の近傍に位置する画素の色差成分にウィークフィルタを適用する(S60)。
【0156】
以上、本実施形態にかかるデブロックフィルタ26による処理の流れについて説明した。なお、図9図10を参照して説明した上述の処理は、例えばYUV420フォーマットの場合、復号画像の輝度成分における4ライン単位、すなわち復号画像の色差成分における2ライン単位で行われ得る。
【0157】
[3-3.変形例]
図11は、境界強度算出部261により算出されるbSの変形例を示す表である。図8の例と同様、bSは、ここでも5ビットで表現されている。また、bSの複数のビットには、Y成分、U成分、V成分の各成分に対応するビットが少なくとも1つずつ含まれる。bSの5ビット目(最上位ビット)がイントラ予測に関する条件Aと、bSの4ビット目がY成分の有意係数に関する条件B1-Yと、bSの3ビット目がU成分の有意係数に関する条件B1-Uと、bSの2ビット目がV成分の有意係数に関する条件B1-Vと、bSの1ビット目(最下位ビット)がMVと参照ピクチャに関する条件B2と、それぞれ対応する。
【0158】
図8の例とは異なり、本変形例では、特に条件B1-Yが偽である(よって、bSが8未満である)場合に、bSの1ビット目が1に設定される。結果的に、図8の例ではbSが0、1、2、4、6、8、10、12、14または16という10通りの値のうちのいずれかをとるのに対し、本変形例では、bSは0、1、2、3、4、5、6、7、8、10、12、14または16という13通りの値のうちのいずれかをとる。
【0159】
図12A及び図12Bは、図11の変形例に対応する境界強度算出処理の流れの一例を説明するためのフローチャートである。処理の開始の前に、bSは0に初期化されているものとする。図12Aを参照すると、まず、境界強度算出部261は、イントラ予測に関する条件である条件Aの真偽を判定する(S150)。条件Aが真である場合には、bSは16に設定され(S152)、境界強度算出処理は終了する。
【0160】
条件Aが偽である場合、境界強度算出部261は、Y成分の有意係数の有無に関する条件である条件B1-Yの真偽を判定する(S154)。条件B1-Yが真である場合にはbSに8が加算され(S156)、条件B1-Yが偽である場合には8の加算はスキップされる(S158)。次に、U成分の有意係数の有無に関する条件である条件B1-Uの真偽が判定され(S160)、条件B1-Uが真である場合にはbSに4が加算され(S162)、条件B1-Uが偽である場合には4の加算はスキップされる(S164)。次に、V成分の有意係数の有無に関する条件である条件B1-Vの真偽が判定され(S166)、条件B1-Vが真である場合にはbSに2が加算され(S168)、条件B1-Vが偽である場合には2の加算はスキップされる(S170)。
【0161】
図12Bを参照すると、その後の処理は、Y成分の有意係数の有無に関する条件である条件B1-Yが真であったかまたは偽であったかに依存して分岐する(S172)。条件B1-Yが真であった場合には、bSの4ビット目が1に等しく、よってbSは8以上の値(14、12、10または8)に設定されており(S174)、後述するMVチェックが実行されることなく境界強度算出処理は終了する。
【0162】
一方、条件B1-Yが偽であった場合には、境界強度算出部261は、MVチェックを実行する(S176)。ここでのMVチェックは、動きベクトルと参照ピクチャに関する条件である条件B2の真偽の判定を意味する。条件B2が真である場合にはbSに1が加算され(S178)、条件B2が偽である場合には1の加算はスキップされる(S180)。
【0163】
<4.ハードウェア構成例>
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。
【0164】
図13は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0165】
図13に示されるコンピュータ800において、CPU(Central Processing Unit)801、ROM(Read Only Memory)802、RAM(Random Access Memory)803は、バス804を介して相互に接続されている。
【0166】
バス804にはまた、入出力インタフェース810も接続されている。入出力インタフェース810には、入力部811、出力部812、記憶部813、通信部814、及びドライブ815が接続されている。
【0167】
入力部811は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部812は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部813は、例えば、ハードディスク、RAMディスク、不揮発性のメモリなどよりなる。通信部814は、例えば、ネットワークインタフェースよりなる。ドライブ815は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア821を駆動する。
【0168】
以上のように構成されるコンピュータでは、CPU801が、例えば、記憶部813に記憶されているプログラムを、入出力インタフェース810及びバス804を介して、RAM803にロードして実行することにより、上述した一連の処理が行われる。RAM803にはまた、CPU801が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0169】
コンピュータ(CPU801)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア821に記録して適用することができる。その場合、プログラムは、リムーバブルメディア821をドライブ815に装着することにより、入出力インタフェース810を介して、記憶部813にインストールすることができる。
【0170】
また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部814で受信し、記憶部813にインストールすることができる。
【0171】
その他、このプログラムは、ROM802や記憶部813に、予めインストールしておくこともできる。
【0172】
<5.むすび>
以上説明したように、本開示の実施形態によれば、復号画像の色差成分に対して、より適切にデブロックフィルタを適用することが可能である。
【0173】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【0174】
(色差関連パラメータ)
例えば、上記実施形態では、色差関連パラメータとして各TUにおける色差成分の有意係数の有無を示すフラグが用いられる例を説明したが、本技術はかかる例に限定されない。例えば色差成分の変換係数そのものが、色差関連パラメータに含まれてもよい。かかる場合、境界強度算出部261は、色差成分の変換係数から、各TUにおける色差成分の有意係数の有無を判定することで、bSを算出してもよい。また、上記実施形態に関連して、条件B1-Y、B1-UまたはB1-Vが満たされるか否かのみならず、条件B2が満たされるか否かに応じてbSの値が異なる例を図4に示した。しかしながら、図14に示す代替的な例のように、例えば処理コストの増大を抑制するために、色差成分U及びVの両方について条件B2が満たされるかの判定が省略されてもよい。
【0175】
(ラージブロック判定の閾値)
上記実施形態では、ラージブロック判定で用いられる閾値が16である例を説明したが、本技術はかかる例に限定されず、8や32に設定されてもよい。また、YUV444フォーマットの場合、YUV420フォーマットで用いられる閾値以上の閾値がラージブロック判定において用いられてもよい。
【0176】
(ストロングフィルタ)
上記実施形態では、式(15)~(19)で表現されるストロングフィルタが色差成分に対して適用される例を説明したが、本技術において適用されるストロングフィルタはかかる例に限定されない。色差成分に対して適用されるストロングフィルタは、ウィークフィルタよりもフィルタ強度が強いフィルタであればよい。例えば非特許文献2において色差成分に対して適用されるストロングフィルタ(HEVCにおいて輝度成分に対して適用されるストロングフィルタ)が本技術において色差成分に対して適用されてもよい。
【0177】
(本技術の適用対象)
本技術は、任意の画像符号化・復号方式に適用することができる。つまり、上述した本技術と矛盾しない限り、変換(逆変換)、量子化(逆量子化)、符号化(復号)、予測等、画像符号化・復号に関する各種処理の仕様は任意であり、上述した例に限定されない。また、上述した本技術と矛盾しない限り、これらの処理の内の一部を省略してもよい。
【0178】
(ブロック)
また、本明細書において、画像(ピクチャ)の部分領域や処理単位として説明に用いる「ブロック」(処理部を示すブロックではない)は、特に言及しない限り、ピクチャ内の任意の部分領域を示し、その大きさ、形状、及び特性等は限定されない。例えば、「ブロック」には、上述の参照文献REF1~REF3に記載のTB(Transform Block)、TU(Transform Unit)、PB(Prediction Block)、PU(Prediction Unit)、SCU(Smallest Coding Unit)、CU(Coding Unit)、LCU(Largest Coding Unit)、CTB(Coding Tree Block)、CTU(Coding Tree Unit)、変換ブロック、サブブロック、マクロブロック、タイル、またはスライス等、任意の部分領域(処理単位)が含まれるものとする。
【0179】
(処理単位)
以上において説明した各種情報が設定されるデータ単位や、各種処理が対象とするデータ単位は、それぞれ任意であり上述した例に限定されない。例えば、これらの情報や処理が、それぞれ、TU(Transform Unit)、TB(Transform Block)、PU(Prediction Unit)、PB(Prediction Block)、CU(Coding Unit)、LCU(Largest Coding Unit)、サブブロック、ブロック、タイル、スライス、ピクチャ、シーケンス、またはコンポーネント毎に設定されるようにしてもよいし、それらのデータ単位のデータを対象とするようにしてもよい。もちろん、このデータ単位は、情報や処理毎に設定され得るものであり、全ての情報や処理のデータ単位が統一されている必要はない。なお、これらの情報の格納場所は任意であり、上述したデータ単位のヘッダやパラメータセット等に格納されるようにしてもよい。また、複数個所に格納されるようにしてもよい。
【0180】
また、上記実施形態では、2ライン単位で色差成分へのデブロックフィルタ処理が行われているが、本技術はかかる例に限定されない。例えば、YUV444フォーマットの場合、4ライン単位で色差成分へのデブロックフィルタ処理が行われてもよい。かかる場合、適用要否判定部265は、上述した条件C3の判定において、1ライン目と3ライン目を参照さして、判定を行ってもよい。
【0181】
(制御情報)
以上において説明した本技術に関する制御情報を符号化側から復号側に伝送するようにしてもよい。例えば、上述した本技術を適用することを許可(または禁止)するか否かを制御する制御情報(例えばenabled_flag)を伝送するようにしてもよい。また、例えば、上述した本技術を適用する対象(または適用しない対象)を示す制御情報を伝送するようにしてもよい。例えば、本技術を適用する(または、適用を許可若しくは禁止する)ブロックサイズ(上限若しくは下限、またはその両方)、フレーム、コンポーネント、またはレイヤ等を指定する制御情報を伝送するようにしてもよい。
【0182】
(ブロックサイズ情報)
本技術を適用するブロックのサイズを指定するに当たって、直接的にブロックサイズを指定するだけでなく、間接的にブロックサイズを指定するようにしてもよい。例えばサイズを識別する識別情報を用いてブロックサイズを指定するようにしてもよい。また、例えば、基準となるブロック(例えばLCUやSCU等)のサイズとの比または差分によってブロックサイズを指定するようにしてもよい。例えば、シンタックス要素等としてブロックサイズを指定する情報を伝送する場合に、その情報として、上述のような間接的にサイズを指定する情報を用いるようにしてもよい。このようにすることにより、その情報の情報量を低減させることができ、符号化効率を向上させることができる場合もある。また、このブロックサイズの指定には、ブロックサイズの範囲の指定(例えば、許容されるブロックサイズの範囲の指定等)も含む。
【0183】
(その他)
なお、本明細書において「フラグ」とは、複数の状態を識別するための情報であり、真(1)または偽(0)の2状態を識別する際に用いる情報だけでなく、3以上の状態を識別することが可能な情報も含まれる。したがって、この「フラグ」が取り得る値は、例えば1/0の2値であってもよいし、3値以上であってもよい。すなわち、この「フラグ」を構成するbit数は任意であり、1bitでも複数bitでもよい。また、識別情報(フラグも含む)は、その識別情報をビットストリームに含める形だけでなく、ある基準となる情報に対する識
別情報の差分情報をビットストリームに含める形も想定されるため、本明細書においては、「フラグ」や「識別情報」は、その情報だけではなく、基準となる情報に対する差分情報も包含する。
【0184】
また、符号化データ(ビットストリーム)に関する各種情報(メタデータ等)は、符号化データに関連付けられていれば、どのような形態で伝送または記録されるようにしてもよい。ここで、「関連付ける」という用語は、例えば、一方のデータを処理する際に他方のデータを利用し得る(リンクさせ得る)ようにすることを意味する。つまり、互いに関連付けられたデータは、1つのデータとしてまとめられてもよいし、それぞれ個別のデータとしてもよい。例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の伝送路上で伝送されるようにしてもよい。また、例えば、符号化データ(画像)に関連付けられた情報は、その符号化データ(画像)とは別の記録媒体(または同一の記録媒体の別の記録エリア)に記録されるようにしてもよい。なお、この「関連付け」は、データ全体でなく、データの一部であってもよい。例えば、画像とその画像に対応する情報とが、複数フレーム、1フレーム、またはフレーム内の一部分などの任意の単位で互いに関連付けられるようにしてもよい。
【0185】
なお、本明細書において、「合成する」、「多重化する」、「付加する」、「一体化する」、「含める」、「格納する」、「入れ込む」、「差し込む」、「挿入する」等の用語は、例えば符号化データとメタデータとを1つのデータにまとめるといった、複数の物を1つにまとめることを意味し、上述の「関連付ける」の1つの方法を意味する。
【0186】
本技術は、装置またはシステムを構成するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。
【0187】
なお、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
【0188】
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。また、例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【0189】
また、例えば、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。換言するに、1つのステップに含まれる複数の処理を、複数のステップの処理として実行することもできる。逆に、複数のステップとして説明した処理を1つのステップとしてまとめて実行することもできる。
【0190】
なお、コンピュータが実行するプログラムは、プログラムを記述するステップの処理が、本明細書で説明する順序に沿って時系列に実行されるようにしてもよいし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで個別に実行されるようにしてもよい。つまり、矛盾が生じない限り、各ステップの処理が上述した順序と異なる順序で実行されるようにしてもよい。さらに、このプログラムを記述するステップの処理が、他のプログラムの処理と並列に実行されるようにしてもよいし、他のプログラムの処理と組み合わせて実行されるようにしてもよい。
【0191】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示にかかる技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【0192】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
符号化ストリームを復号して復号画像を生成する復号部と、
前記復号画像のブロック境界を対象とし、色差に関連する色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、
を備える、画像処理装置。
(2)
前記色差関連パラメータは、色差成分の変換係数に関する情報を含み、
前記境界強度は、前記境界強度の算出対象である前記ブロック境界を挟むブロックに前記色差成分の有意係数が存在するか否かに基づいて算出される、前記(1)に記載の画像処理装置。
(3)
前記境界強度は、前記境界強度の算出対象である前記ブロック境界を挟むブロックに各成分の有意係数が存在するか否かを独立に判定することにより算出される、前記(2)に記載の画像処理装置。
(4)
前記境界強度は、複数のビットにより表現され、
前記複数のビットには、各成分に対応するビットが少なくとも1つずつ含まれる、前記(1)~(3)のいずれか一項に記載の画像処理装置。
(5)
前記判定部は、前記境界強度に基づく判定と、前記ブロック境界を挟むブロックのブロックサイズを用いたラージブロック判定とにより、前記デブロックフィルタ適用要否を判定する、前記(1)~(4)のいずれか一項に記載の画像処理装置。
(6)
前記判定部は、前記境界強度がインター予測に関連する値を有する場合に、前記ラージブロック判定を行う、前記(5)に記載の画像処理装置。
(7)
前記判定部は、前記ブロック境界を挟むブロックにおける前記ブロック境界と直交する方向のサイズに基づいて、前記ラージブロック判定を行う、前記(5)または(6)に記載の画像処理装置。
(8)
前記判定部は、前記ブロック境界を挟むブロックにおける前記ブロック境界と直交する方向のサイズが16より大きいか否かに基づいて、前記ラージブロック判定を行う、前記(7)に記載の画像処理装置。
(9)
前記フィルタリング部は、前記デブロックフィルタとして、ウィークフィルタ、またはストロングフィルタを前記ブロック境界の近傍に位置する画素の色差成分に適用する、前記(1)~(8)のいずれか一項に記載の画像処理装置。
(10)
前記ストロングフィルタの係数は、前記ストロングフィルタの適用対象範囲の中心位置において2であり、その他の位置において1である、前記(9)に記載の画像処理装置。
(11)
前記フィルタリング部は、前記ブロック境界から両側3画素までを前記ストロングフィルタの適用対象範囲とし、前記適用対象範囲の中心位置の両側の3画素を参照画素として、前記適用対象範囲に含まれる画素の色差成分に前記ストロングフィルタを適用する、前記(9)または(10)に記載の画像処理装置。
(12)
前記フィルタリング部は、前記ブロック境界から5画素以上離れた画素の代わりに、前記ブロック境界から4画素目の画素値をパディングすることで前記参照画素の画素値として用いる、前記(11)に記載の画像処理装置。
(13)
前記フィルタリング部は、量子化パラメータに基づいて特定されるパラメータtCに基づくクリッピング処理を行って、前記ストロングフィルタを適用する、前記(10)~(12)のいずれか一項に記載の画像処理装置。
(14)
前記判定部は、前記ブロック境界の近傍に位置する画素の色差成分に適用される前記デブロックフィルタのフィルタ強度をさらに判定し、
前記フィルタリング部は、前記判定部により判定された前記フィルタ強度に応じて、前記ウィークフィルタ、または前記ストロングフィルタを前記ブロック境界の近傍に位置する画素の色差成分に適用する、前記(9)~(13)のいずれか一項に記載の画像処理装置。
(15)
前記判定部は、前記デブロックフィルタ適用要否の判定後に、前記フィルタ強度を判定する、前記(14)に記載の画像処理装置。
(16)
前記判定部は、前記ブロック境界の近傍に位置する画素の色差成分の波形に基づいて前記フィルタ強度を判定する、前記(15)に記載の画像処理装置。
(17)
前記判定部は、前記ブロック境界の近傍に位置する画素のうち、2つのラインに含まれる画素の色差成分の平坦度に関する条件、連続性に関する条件、及びギャップに関する条件に基づいて前記フィルタ強度を判定し、
前記フィルタリング部は、前記平坦度に関する条件、前記連続性に関する条件、前記ギャップに関する条件のうち、全ての条件が満たされると判定された場合に前記ストロングフィルタを適用し、少なくとも1つの条件が満たされないと判定された場合に前記ウィークフィルタを適用する、前記(16)に記載の画像処理装置。
(18)
符号化ストリームを復号して復号画像を生成することと、
前記復号画像のブロック境界を対象とし、色差に関連する色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、
を含む画像処理方法。
(19)
ローカル復号された復号画像のブロック境界を対象とし、色差に関連する色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定する判定部と、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用するフィルタリング部と、
前記フィルタリング部により前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化する符号化部と、
を備える画像処理装置。
(20)
ローカル復号された復号画像のブロック境界を対象とし、色差に関連する色差関連パラメータを用いて算出された境界強度に基づいて、前記復号画像の色差成分に対するデブロックフィルタ適用要否を判定することと、
前記デブロックフィルタ適用要否の判定結果に基づいて、前記ブロック境界の近傍に位置する画素の色差成分にデブロックフィルタを適用することと、
前記デブロックフィルタが適用された前記復号画像を用いて、画像を符号化することと、
を含む画像処理方法。
【符号の説明】
【0193】
10 画像符号化装置
16 可逆符号化部
26 デブロックフィルタ
60 画像復号装置
62 可逆復号部
261 境界強度算出部
263 判定部
265 適用要否判定部
267 フィルタ強度判定部
269 フィルタリング部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12A
図12B
図13
図14