特表-13164922IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧
(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO/0
(43)【国際公開日】2013年11月7日
【発行日】2015年12月24日
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
   H04N 19/105 20140101AFI20151201BHJP
   H04N 19/30 20140101ALI20151201BHJP
   H04N 19/176 20140101ALI20151201BHJP
   H04N 19/136 20140101ALI20151201BHJP
   H04N 19/597 20140101ALI20151201BHJP
【FI】
   H04N19/105
   H04N19/30
   H04N19/176
   H04N19/136
   H04N19/597
【審査請求】未請求
【予備審査請求】未請求
【全頁数】46
【出願番号】特願2014-513342(P2014-513342)
(21)【国際出願番号】PCT/0/0
(22)【国際出願日】2013年3月5日
(31)【優先権主張番号】特願2012-105245(P2012-105245)
(32)【優先日】2012年5月2日
(33)【優先権主張国】JP
(81)【指定国】 AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IS,JP,KE,KG,KM,KN,KP,KR,KZ,LA,LC,LK,LR,LS,LT,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT,TZ,UA,UG,US,UZ,VC
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニー株式会社
(74)【代理人】
【識別番号】100095957
【弁理士】
【氏名又は名称】亀谷 美明
(74)【代理人】
【識別番号】100096389
【弁理士】
【氏名又は名称】金本 哲男
(74)【代理人】
【識別番号】100101557
【弁理士】
【氏名又は名称】萩原 康司
(74)【代理人】
【識別番号】100128587
【弁理士】
【氏名又は名称】松本 一騎
(72)【発明者】
【氏名】佐藤 数史
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA17
5C159MA31
5C159PP03
5C159PP04
5C159PP16
5C159SS02
5C159SS10
5C159SS13
5C159SS14
5C159SS15
5C159TA25
5C159TA26
5C159TA31
5C159TB08
5C159TC02
5C159TC24
5C159UA02
5C159UA05
(57)【要約】
【課題】色差成分のイントラ予測のためのLMモードの予測精度を高めること。
【解決手段】スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、を備える画像処理装置を提供する。
【選択図】図11
【特許請求の範囲】
【請求項1】
スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、
を備える画像処理装置。
【請求項2】
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて輝度ベース色差予測モード以外の予測モードが指定された場合において、前記第1の予測ブロックについて取得される別個の予測モード情報が輝度ベース色差予測モードを示すときに、前記係数を有する前記予測関数を用いて前記第2の予測ブロックの前記予測画像を生成する、請求項1に記載の画像処理装置。
【請求項3】
前記ベースレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートしない第1の符号化方式に従って復号するベースレイヤ復号部と、
前記エンハンスメントレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートする第2の符号化方式に従って復号するエンハンスメントレイヤ復号部と、
をさらに備える、請求項1に記載の画像処理装置。
【請求項4】
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて輝度ベース色差予測モードが指定された場合に、前記係数を有する前記予測関数を用いて前記第2の予測ブロックの前記予測画像を生成する、請求項1に記載の画像処理装置。
【請求項5】
前記エンハンスメントレイヤ予測部は、前記ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分のうち一部のみを、輝度ベース色差予測モードの係数算出式に代入することにより、前記係数を算出する、請求項1に記載の画像処理装置。
【請求項6】
前記ベースレイヤ内のデブロックフィルタ適用前の輝度成分及び色差成分の画素値を記憶するメモリ、をさらに備え、
前記エンハンスメントレイヤ予測部は、前記メモリに記憶される前記画素値を用いて、前記係数を算出する、
請求項1に記載の画像処理装置。
【請求項7】
スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、
を含む画像処理方法。
【請求項8】
スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、
を備える画像処理装置。
【請求項9】
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて最適な予測モードとして輝度ベース色差予測モードが選択されたかに関わらず、前記係数を有する前記予測関数を用いる輝度ベース色差予測モードを含む1つ以上の予測モードから、前記第2の予測ブロックについての最適な予測モードを選択する、請求項8に記載の画像処理装置。
【請求項10】
前記ベースレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートしない第1の符号化方式に従って符号化するベースレイヤ符号化部と、
前記エンハンスメントレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートする第2の符号化方式に従って符号化するエンハンスメントレイヤ符号化部と、
をさらに備える、請求項8に記載の画像処理装置。
【請求項11】
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて最適な予測モードとして輝度ベース色差予測モードが選択された場合に、前記係数を有する前記予測関数を用いる輝度ベース色差予測モードを前記第2の予測ブロックについての最適な予測モードとして選択する、請求項8に記載の画像処理装置。
【請求項12】
前記エンハンスメントレイヤ予測部は、前記ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分のうち一部のみを、輝度ベース色差予測モードの係数算出式に代入することにより、前記係数を算出する、請求項8に記載の画像処理装置。
【請求項13】
フィルタ適用前の輝度成分及び色差成分の画素値を記憶するメモリ、をさらに備え、
前記エンハンスメントレイヤ予測部は、前記メモリに記憶される前記画素値を用いて、前記係数を算出する、
請求項8に記載の画像処理装置。
【請求項14】
スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、
を含む画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
現在、H.264/AVCよりも符号化効率をさらに向上することを目的として、ITU−TとISO/IECとの共同の標準化団体であるJCTVC(Joint Collaboration Team-Video Coding)により、HEVC(High Efficiency Video Coding)と呼ばれる画像符号化方式の標準化が進められている。HEVC規格については、2012年2月に最初のドラフト版の仕様であるCommittee draftが発行されている(例えば、下記非特許文献1参照)。
【0003】
HEVCに代表される画像符号化方式において重要な技術の1つは、画面内予測、即ちイントラ予測である。イントラ予測は、画像の様々な相関特性を利用し、あるブロック内の画素値を他のブロックの画素値から予測することで、符号化される情報量を削減する技術である。イントラ予測に際しては、通常、予測対象のブロックの画素値を予測するために最適な予測モードが、複数の予測モードから選択される。例えば、HEVCでは、平均値予測(DC Prediction)、角度予測(Angular Prediction)及び平面予測(Planar Prediction)などの様々な予測モードが選択可能である。また、色差成分のイントラ予測に関しては、動的に構築される輝度成分の線型関数を予測関数として用いて色差成分の画素値を予測する、線型モデル(LM:Linear Model)モードと呼ばれる追加的な予測モードもまた提案されている(下記非特許文献2参照)。
【0004】
スケーラブル符号化(SVC(Scalable Video Coding)ともいう)もまた、将来の画像符号化方式において重要な技術の1つである。スケーラブル符号化とは、粗い画像信号を伝送するレイヤと精細な画像信号を伝送するレイヤとを階層的に符号化する技術をいう。スケーラブル符号化において階層化される典型的な属性は、主に次の3種類である。
−空間スケーラビリティ:空間解像度あるいは画像サイズが階層化される。
−時間スケーラビリティ:フレームレートが階層化される。
−SNR(Signal to Noise Ratio)スケーラビリティ:SN比が階層化される。
さらに、標準規格で未だ採用されていないものの、ビット深度スケーラビリティ及びクロマフォーマットスケーラビリティもまた議論されている。また、スケーラブル符号化におけるベースレイヤを旧来の画像符号化方式で符号化し、エンハンスメントレイヤをHEVCで符号化することも提案されている(下記非特許文献3参照)。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Thomas Wiegand, "High efficiency video coding (HEVC) text specification draft 6"(JCTVC-H1003 ver20, 2012年2月17日)
【非特許文献2】Jianle Chen, et al. "CE6.a.4: Chroma intra prediction by reconstructed luma samples"(JCTVC-E266,2011年3月)
【非特許文献3】Ajay Luthra, Jens-Rainer Ohm, Joern Ostermann, "Draft requirements for the scalable enhancement of HEVC"(ISO/IEC JTC1/SC29/WG11 N12400,2011年11月)
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記非特許文献2により提案されているLMモードにおいて、予測関数の係数は、予測対象のブロックに隣接する隣接ブロックの輝度成分及び色差成分の画素値を用いて算出される。そのため、予測対象のブロックにおける色成分の間の相関が隣接ブロックにおける相関と異なる場合には、良好な予測精度を有する予測関数が構築されない。結果として、LMモードは、予測対象のブロックと隣接ブロックとの間で色成分の間の相関が十分に類似するケースにおいてのみ有益であった。
【0007】
通常、シングルレイヤの(あるいはシングルビューの)画像符号化方式では、あるブロックの色差成分を予測する際に、当該色差成分の実際の画素値は当然ながら未知である。しかし、マルチレイヤの(あるいはマルチビューの)画像符号化方式では、あるブロックの色差成分を予測する際に、他のレイヤの対応するブロックの色差成分の実際の画素値が既に復号されているケースがあり得る。
【0008】
本明細書では、上述した点に着目し、主にスケーラブル符号化における色差成分のイントラ予測のためのLMモードの予測精度を向上させる技術を提案する。
【課題を解決するための手段】
【0009】
本開示によれば、スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、を備える画像処理装置が提供される。
【0010】
上記画像処理装置は、典型的には、画像を復号する画像復号装置として実現され得る。
【0011】
また、本開示によれば、スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、を含む画像処理方法が提供される。
【0012】
また、本開示によれば、スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、を備える画像処理装置が提供される。
【0013】
上記画像処理装置は、典型的には、画像を符号化する画像符号化装置として実現され得る。
【0014】
また、本開示によれば、スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、を含む画像処理方法が提供される。
【発明の効果】
【0015】
本開示に係る技術によれば、色差成分のイントラ予測のためのLMモードの予測精度を高めることができる。
【図面の簡単な説明】
【0016】
図1】スケーラブル符号化について説明するための説明図である。
図2】既存のLMモードについて説明するための説明図である。
図3】本開示において提案される新たなLMモードについて説明するための説明図である。
図4】一実施形態に係る画像符号化装置の概略的な構成を示すブロック図である。
図5】一実施形態に係る画像復号装置の概略的な構成を示すブロック図である。
図6図4に示した第1符号化部及び第2符号化部の構成の一例を示すブロック図である。
図7図6に示したイントラ予測部の詳細な構成の一例を示すブロック図である。
図8】参照画素の間引きの一例について説明するための説明図である。
図9】一実施形態に係る符号化時の概略的な処理の流れの一例を示すフローチャートである。
図10図9に示したエンハンスメントレイヤのイントラ予測処理の詳細な流れの一例を示すフローチャートである。
図11図5に示した第1復号部及び第2復号部の構成の一例を示すブロック図である。
図12図11に示したイントラ予測部の詳細な構成の一例を示すブロック図である。
図13】一実施形態に係る復号時の概略的な処理の流れの一例を示すフローチャートである。
図14図13に示したエンハンスメントレイヤのイントラ予測処理の詳細な流れの一例を示すフローチャートである。
図15】テレビジョン装置の概略的な構成の一例を示すブロック図である。
図16】携帯電話機の概略的な構成の一例を示すブロック図である。
図17】記録再生装置の概略的な構成の一例を示すブロック図である。
図18】撮像装置の概略的な構成の一例を示すブロック図である。
図19】スケーラブル符号化の用途の第1の例について説明するための説明図である。
図20】スケーラブル符号化の用途の第2の例について説明するための説明図である。
図21】スケーラブル符号化の用途の第3の例について説明するための説明図である。
図22】マルチビューコーデックについて説明するための説明図である。
図23】マルチビューコーデックのための画像符号化装置の概略的な構成を示すブロック図である。
図24】マルチビューコーデックのための画像復号装置の概略的な構成を示すブロック図である。
【発明を実施するための形態】
【0017】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0018】
また、以下の順序で説明を行う。
1.概要
1−1.スケーラブル符号化
1−2.既存のLMモード
1−3.新たなLMモード
1−4.エンコーダの基本的な構成例
1−5.デコーダの基本的な構成例
2.一実施形態に係る符号化部の構成例
2−1.全体的な構成
2−2.イントラ予測部の詳細な構成
3.一実施形態に係る符号化時の処理の流れ
4.一実施形態に係る復号部の構成例
4−1.全体的な構成
4−2.イントラ予測部の詳細な構成
5.一実施形態に係る復号時の処理の流れ
6.応用例
6−1.様々な製品への応用
6−2.スケーラブル符号化の様々な用途
6−3.その他
7.まとめ
【0019】
<1.概要>
[1−1.スケーラブル符号化]
スケーラブル符号化においては、一連の画像をそれぞれ含む複数のレイヤが符号化される。ベースレイヤ(base layer)は、最初に符号化される、最も粗い画像を表現するレイヤである。ベースレイヤの符号化ストリームは、他のレイヤの符号化ストリームを復号することなく、独立して復号され得る。ベースレイヤ以外のレイヤは、エンハンスメントレイヤ(enhancement layer)と呼ばれる、より精細な画像を表現するレイヤである。エンハンスメントレイヤの符号化ストリームは、ベースレイヤの符号化ストリームに含まれる情報を用いて符号化される。従って、エンハンスメントレイヤの画像を再現するためには、ベースレイヤ及びエンハンスメントレイヤの双方の符号化ストリームが復号されることになる。スケーラブル符号化において扱われるレイヤの数は、2つ以上のいかなる数であってもよい。3つ以上のレイヤが符号化される場合には、最下位のレイヤがベースレイヤ、残りの複数のレイヤがエンハンスメントレイヤである。より上位のエンハンスメントレイヤの符号化ストリームは、より下位のエンハンスメントレイヤ又はベースレイヤの符号化ストリームに含まれる情報を用いて符号化され及び復号され得る。本明細書では、依存関係を有する少なくとも2つのレイヤのうち、依存される側のレイヤを下位レイヤ(lower layer)、依存する側のレイヤを上位レイヤ(upper layer)という。
【0020】
図1は、スケーラブル符号化される3つのレイヤL1、L2及びL3を示している。レイヤL1はベースレイヤであり、レイヤL2及びL3はエンハンスメントレイヤである。なお、ここでは、様々な種類のスケーラビリティのうち、空間スケーラビリティを例にとっている。レイヤL2のレイヤL1に対する空間解像度の比は、2:1である。レイヤL3のレイヤL1に対する空間解像度の比は、4:1である。なお、スケーラビリティ比は、かかる例に限定されない。例えば、1.5:1という非整数のスケーラビリティ比もまた採用され得る。レイヤL1のブロックB1は、ベースレイヤのピクチャ内の予測ブロックである。レイヤL2のブロックB2は、ブロックB1と共通するシーンを映したエンハンスメントレイヤのピクチャ内の予測ブロックである。ブロックB2は、レイヤL1のブロックB1に対応する。レイヤL3のブロックB3は、ブロックB1及びB2と共通するシーンを映したより上位のエンハンスメントレイヤのピクチャ内の予測ブロックである。ブロックB3は、レイヤL1のブロックB1及びレイヤL2のブロックB2に対応する。
【0021】
このようなレイヤ構造において、あるレイヤの画像の相関特性は、通常、共通するシーンに対応する他のレイヤの画像の相関特性と類似する。相関特性とは、空間的相関、時間的相関、及び色成分間の相関を含み得る。例えば、空間的相関を例にとると、レイヤL1においてブロックB1がある方向の隣接ブロックとの間の強い相関を有する場合、レイヤL2においてブロックB2が同じ方向の隣接ブロックとの間で強い相関を有し、レイヤL3においてブロックB3がやはり同じ方向の隣接ブロックとの間で強い相関を有する可能性が高い。従って、例えばベースレイヤ内のあるブロックについて特定の予測モードが最適であると判定された場合、エンハンスメントレイヤ内の対応するブロックについても同じ予測モードが最適である可能性が高い。この傾向は、予測モード情報のレイヤ間の再利用の動機付けとなり得る。なお、レイヤ間で画像の相関特性が類似するという点は、図1に例示した空間スケーラビリティのみならず、SNRスケーラビリティ、ビット深度スケーラビリティ及びクロマフォーマットスケーラビリティにおいても同様である。
【0022】
ここで、上記非特許文献2により提案されているLMモード(輝度ベース色差予測モードともいう)は、輝度成分と色差成分との間の相関を利用することにより、輝度成分の画素値から色差成分の画素値を予測しようとする予測モードである。予測は、隣接ブロックの輝度成分及び色差成分の画素値を用いて算出される係数を有する予測関数を用いて行われる。しかし、予測ブロックと隣接ブロックとの間で、色成分間の相関は必ずしも類似しない。そして、色成分間の相関が類似しない場合には、隣接ブロックの画素値に基づいて構築される予測関数は、もはや予測ブロックの色差成分の画素値を予測するための良好な予測精度を有しない。このような理由から、LMモードは、比較的限られたケースにおいてのみ有益であった。
【0023】
しかし、図1を用いて説明したようなマルチレイヤの(あるいはマルチビューの)画像符号化方式では、例えばエンハンスメントレイヤ内の予測ブロックについてイントラ予測を実行しようとする場合に、下位レイヤ内の対応ブロックは既に符号化され又は復号されている。そして、予測ブロックと隣接ブロックとの間で色成分間の相関が類似しない場合であっても、当該予測ブロックと下位レイヤ内の対応ブロックとの間では色成分間の相関は同等であるか少なくとも類似する。従って、エンハンスメントレイヤでは、LMモードの予測関数を、隣接ブロックの代わりに下位レイヤ内の対応ブロックの画素値に基づいて構築することで、既存のLMモードよりも高い予測精度を達成できると期待される。そこで、本開示に係る技術では、スケーラブル符号化における色差成分のイントラ予測のLMモードを改良し、既存の手法よりも向上された予測精度を実現する。
【0024】
[1−2.既存のLMモード]
HEVCの標準化作業において提案されているLMモード(輝度ベース色差予測モード)では、動的に計算される係数を有する線型関数が予測関数として用いられる。予測関数の引数は(必要に応じてダウンサンプリングされる)輝度成分の値であり、戻り値は色差成分の予測画素値である。より具体的には、LMモードにおける予測関数は、次のような線型一次関数であってよい:
【0025】
【数1】
【0026】
式(1)において、Re´(x,y)は、復号画像(いわゆるリコンストラクト画像)の輝度成分のダウンサンプリングされた値を表す。輝度成分のダウンサンプリング(あるいは位相シフト)は、クロマフォーマットに依存して色差成分の密度が輝度成分の密度と異なる場合に行われ得る。α及びβは、所定の計算式を用いて隣接ブロックの画素値から計算される係数である。
【0027】
例えば、図2を参照すると、クロマフォーマットが4:2:0である場合の、16×16画素のサイズを有する輝度成分(Luma)の予測ブロック及び対応する色差成分(Chroma)の予測ブロックが概念的に示されている。輝度成分の密度は、水平方向及び垂直方向の各々について色差成分の密度の2倍である。各予測ブロックの周囲に位置し、図中で塗りつぶされている丸印は、上記予測関数の係数α、βを算出する際に参照される、隣接ブロック内の参照画素である。図中右において斜線で網掛けされている丸印は、処理対象の予測ブロック内の、ダウンサンプリングされた輝度成分である。このようにダウンサンプリングされた輝度成分の値を上記予測関数の右辺のRe´(x,y)に代入することにより、共通する画素位置の色差成分の予測値が算出される。クロマフォーマットが4:2:0である場合、図2の例のように、2×2個の輝度成分ごとに1つの輝度成分の入力値(予測関数へ代入される値)がダウンサンプリングにより生成される。参照画素も同様にダウンサンプリングされ得る。
【0028】
予測関数の係数α及びβは、それぞれ次の式(2)及び式(3)に従って算出される。なお、Iは参照画素数を表す。
【0029】
【数2】
【0030】
本開示に係る技術では、LMモードの予測関数を構築するためのこのような隣接ブロックに依存する手法を、特にエンハンスメントレイヤにおいて、次に説明するように、隣接ブロックではなく下位レイヤ内の対応ブロックに依存する手法に改良する。
【0031】
[1−3.新たなLMモード]
図3の例では、説明を簡明にするために、クロマフォーマットが4:4:4であって、ベースレイヤ内の予測ブロックのサイズは4×4画素、エンハンスメントレイヤ内の予測ブロックのサイズは8×8画素であるものとする。図3には、ベースレイヤ内の輝度成分の予測ブロックBb1及び色差成分の予測ブロックBb2、並びに、エンハンスメントレイヤ内の輝度成分の予測ブロックBh1及び色差成分の予測ブロックBh2が示されている。これら予測ブロックの画像内の位置は、互いに対応する(即ち、これら予測ブロックは画像内で共通する位置に存在する)。ベースレイヤ内の色差成分の予測ブロックBb2にLMモードが適用される場合には、予測ブロックBb1及びBb2の隣接ブロックの画素値を上記式(2)及び式(3)に代入することにより算出される係数α、βを用いて、LMモードの予測関数が構築される。これに対し、本開示に係る技術において、エンハンスメントレイヤ内の色差成分の予測ブロックBh2にLMモードが適用される場合には、下位レイヤ内の対応ブロックBb1及びBb2の画素値が上記式(2)及び式(3)に代入される。そして、これら対応ブロックの画素値に基づいて算出される係数α、βを用いて、エンハンスメントレイヤのための予測関数が構築される。
【0032】
このように改良されるエンハンスメントレイヤのためのLMモードは、既存のLMモードと比較して、より高い予測精度を実現することができる。それに加えて、例えばベースレイヤにおいてLMモード以外の予測モード(DC予測、平面予測又は角度予測など)が符号化効率の観点で最適な場合であっても、エンハンスメントレイヤにおいては上述した改良されたLMモードがさらに高い符号化効率を達成できる余地が生じる。なぜならば、ベースレイヤでのLMモードが予測ブロックとは位置の異なる隣接ブロックの色成分間の相関に基づくのに対し、エンハンスメントレイヤでのLMモードは、共通する位置の対応ブロックの色成分間の相関に基づくからである。従って、ここで説明した新たなLMモードをエンハンスメントレイヤにおいて少なくとも探索の候補として採用することは、ベースレイヤにおいてどの予測モードが最適であると判定されたかに関わらず有益である。
【0033】
[1−4.エンコーダの基本的な構成例]
図4は、スケーラブル符号化をサポートする、一実施形態に係る画像符号化装置10の概略的な構成を示すブロック図である。図4を参照すると、画像符号化装置10は、第1符号化部1a、第2符号化部1b、共通メモリ2及び多重化部3を備える。
【0034】
第1符号化部1aは、ベースレイヤ画像を符号化し、ベースレイヤの符号化ストリームを生成する。第2符号化部1bは、エンハンスメントレイヤ画像を符号化し、エンハンスメントレイヤの符号化ストリームを生成する。共通メモリ2は、レイヤ間で共通的に利用される情報を記憶する。多重化部3は、第1符号化部1aにより生成されるベースレイヤの符号化ストリームと、第2符号化部1bにより生成される1つ以上のエンハンスメントレイヤの符号化ストリームとを多重化し、マルチレイヤの多重化ストリームを生成する。
【0035】
[1−5.デコーダの基本的な構成例]
図5は、スケーラブル符号化をサポートする、一実施形態に係る画像復号装置60の概略的な構成を示すブロック図である。図5を参照すると、画像復号装置60は、逆多重化部5、第1復号部6a、第2復号部6b及び共通メモリ7を備える。
【0036】
逆多重化部5は、マルチレイヤの多重化ストリームをベースレイヤの符号化ストリーム及び1つ以上のエンハンスメントレイヤの符号化ストリームに逆多重化する。第1復号部6aは、ベースレイヤの符号化ストリームからベースレイヤ画像を復号する。第2復号部6bは、エンハンスメントレイヤの符号化ストリームからエンハンスメントレイヤ画像を復号する。共通メモリ7は、レイヤ間で共通的に利用される情報を記憶する。
【0037】
図4に例示した画像符号化装置10において、ベースレイヤの符号化のための第1符号化部1aの構成と、エンハンスメントレイヤの符号化のための第2符号化部1bの構成とは、互いに類似する。第1符号化部1aにより生成され又は取得されるいくつかのパラメータは、共通メモリ2を用いてバッファリングされ、第2符号化部1bにより再利用される。次節では、そのような第1符号化部1a及び第2符号化部1bの構成について詳細に説明する。
【0038】
同様に、図5に例示した画像復号装置60において、ベースレイヤの復号のための第1復号部6aの構成と、エンハンスメントレイヤの復号のための第2復号部6bの構成とは、互いに類似する。第1復号部6aにより生成され又は取得されるいくつかのパラメータは、共通メモリ7を用いてバッファリングされ、第2復号部6bにより再利用される。さらに次の節では、そのような第1復号部6a及び第2復号部6bの構成について詳細に説明する。
【0039】
<2.一実施形態に係る符号化部の構成例>
[2−1.全体的な構成]
図6は、図4に示した第1符号化部1a及び第2符号化部1bの構成の一例を示すブロック図である。図6を参照すると、第1符号化部1aは、並び替えバッファ12、減算部13、直交変換部14、量子化部15、可逆符号化部16、蓄積バッファ17、レート制御部18、逆量子化部21、逆直交変換部22、加算部23、デブロックフィルタ24、フレームメモリ25、セレクタ26及び27、動き探索部30、並びにイントラ予測部40aを備える。第2符号化部1bは、イントラ予測部40aの代わりに、イントラ予測部40bを備える。
【0040】
並び替えバッファ12は、一連の画像データに含まれる画像を並び替える。並び替えバッファ12は、符号化処理に係るGOP(Group of Pictures)構造に応じて画像を並び替えた後、並び替え後の画像データを減算部13、動き探索部30及びイントラ予測部40a又は40bへ出力する。
【0041】
減算部13には、並び替えバッファ12から入力される画像データ、及び後に説明する動き探索部30又はイントラ予測部40a若しくは40bから入力される予測画像データが供給される。減算部13は、並び替えバッファ12から入力される画像データと予測画像データとの差分である予測誤差データを算出し、算出した予測誤差データを直交変換部14へ出力する。
【0042】
直交変換部14は、減算部13から入力される予測誤差データについて直交変換を行う。直交変換部14により実行される直交変換は、例えば、離散コサイン変換(Discrete Cosine Transform:DCT)又はカルーネン・レーベ変換などであってよい。直交変換部14は、直交変換処理により取得される変換係数データを量子化部15へ出力する。
【0043】
量子化部15には、直交変換部14から入力される変換係数データ、及び後に説明するレート制御部18からのレート制御信号が供給される。量子化部15は、変換係数データを量子化し、量子化後の変換係数データ(以下、量子化データという)を可逆符号化部16及び逆量子化部21へ出力する。また、量子化部15は、レート制御部18からのレート制御信号に基づいて量子化パラメータ(量子化スケール)を切り替えることにより、量子化データのビットレートを変化させる。
【0044】
可逆符号化部16は、量子化部15から入力される各レイヤの量子化データについて可逆符号化処理を行うことにより、各レイヤの符号化ストリームを生成する。また、可逆符号化部16は、セレクタ27から入力されるイントラ予測に関する情報又はインター予測に関する情報を符号化して、符号化パラメータを符号化ストリームのヘッダ領域内に多重化する。そして、可逆符号化部16は、生成した符号化ストリームを蓄積バッファ17へ出力する。
【0045】
蓄積バッファ17は、可逆符号化部16から入力される符号化ストリームを半導体メモリなどの記憶媒体を用いて一時的に蓄積する。そして、蓄積バッファ17は、蓄積した符号化ストリームを、伝送路の帯域に応じたレートで、図示しない伝送部(例えば、通信インタフェース又は周辺機器との接続インタフェースなど)へ出力する。
【0046】
レート制御部18は、蓄積バッファ17の空き容量を監視する。そして、レート制御部18は、蓄積バッファ17の空き容量に応じてレート制御信号を生成し、生成したレート制御信号を量子化部15へ出力する。例えば、レート制御部18は、蓄積バッファ17の空き容量が少ない時には、量子化データのビットレートを低下させるためのレート制御信号を生成する。また、例えば、レート制御部18は、蓄積バッファ17の空き容量が十分大きい時には、量子化データのビットレートを高めるためのレート制御信号を生成する。
【0047】
逆量子化部21は、量子化部15から入力される量子化データについて逆量子化処理を行う。そして、逆量子化部21は、逆量子化処理により取得される変換係数データを、逆直交変換部22へ出力する。
【0048】
逆直交変換部22は、逆量子化部21から入力される変換係数データについて逆直交変換処理を行うことにより、予測誤差データを復元する。そして、逆直交変換部22は、復元した予測誤差データを加算部23へ出力する。
【0049】
加算部23は、逆直交変換部22から入力される復元された予測誤差データと動き探索部30又はイントラ予測部40a若しくは40bから入力される予測画像データとを加算することにより、復号画像データ(いわゆるリコンストラクト画像)を生成する。そして、加算部23は、生成した復号画像データをデブロックフィルタ24及びフレームメモリ25へ出力する。
【0050】
デブロックフィルタ24は、画像の符号化時に生じるブロック歪みを減少させるためのフィルタリング処理を行う。デブロックフィルタ24は、加算部23から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データをフレームメモリ25へ出力する。
【0051】
フレームメモリ25は、加算部23から入力される復号画像データ、及びデブロックフィルタ24から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。
【0052】
セレクタ26は、インター予測のために使用されるフィルタリング後の復号画像データをフレームメモリ25から読み出し、読み出した復号画像データを参照画像データとして動き探索部30に供給する。また、セレクタ26は、イントラ予測のために使用されるフィルタリング前の復号画像データをフレームメモリ25から読み出し、読み出した復号画像データを参照画像データとしてイントラ予測部40a又は40bに供給する。
【0053】
セレクタ27は、インター予測モードにおいて、動き探索部30から出力されるインター予測の結果としての予測画像データを減算部13へ出力すると共に、インター予測に関する情報を可逆符号化部16へ出力する。また、セレクタ27は、イントラ予測モードにおいて、イントラ予測部40a又は40bから出力されるイントラ予測の結果としての予測画像データを減算部13へ出力すると共に、イントラ予測に関する情報を可逆符号化部16へ出力する。セレクタ27は、インター予測モードとイントラ予測モードとを、動き探索部30及びイントラ予測部40a又は40bから出力されるコスト関数値の大きさに応じて切り替える。
【0054】
動き探索部30は、並び替えバッファ12から入力される符号化対象の画像データ(原画像データ)、及びセレクタ26を介して供給される復号画像データに基づいて、インター予測処理(フレーム間予測処理)を行う。例えば、動き探索部30は、各予測モードによる予測結果を所定のコスト関数を用いて評価する。次に、動き探索部30は、コスト関数値が最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、動き探索部30は、当該最適な予測モードに従って予測画像データを生成する。そして、動き探索部30は、選択した最適な予測モードを示す予測モード情報及び参照画像情報を含むインター予測に関する情報、コスト関数値、並びに予測画像データを、セレクタ27へ出力する。
【0055】
イントラ予測部40aは、ベースレイヤの原画像データ及び復号画像データに基づいて、予測ブロックごとにイントラ予測処理を行う。例えば、イントラ予測部40aは、各予測モードによる予測結果を所定のコスト関数を用いて評価する。次に、イントラ予測部40aは、コスト関数値が最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、イントラ予測部40aは、当該最適な予測モードに従ってベースレイヤの予測画像データを生成する。そして、イントラ予測部40aは、選択した最適な予測モードを示す予測モード情報を含むイントラ予測に関する情報、コスト関数値、及び予測画像データを、セレクタ27へ出力する。また、イントラ予測部40aは、イントラ予測に関する少なくとも一部のパラメータを、共通メモリ2によりバッファリングさせる。
【0056】
イントラ予測部40bは、エンハンスメントレイヤの原画像データ及び復号画像データに基づいて、予測ブロックごとにイントラ予測処理を行う。例えば、イントラ予測部40bは、各予測モードによる予測結果を所定のコスト関数を用いて評価する。次に、イントラ予測部40bは、コスト関数値が最小となる予測モード、即ち圧縮率が最も高くなる予測モードを、最適な予測モードとして選択する。また、イントラ予測部40bは、当該最適な予測モードに従ってエンハンスメントレイヤの予測画像データを生成する。そして、イントラ予測部40bは、選択した最適な予測モードを示す予測モード情報を含むイントラ予測に関する情報、コスト関数値、及び予測画像データを、セレクタ27へ出力する。エンハンスメントレイヤにおいて探索される予測モードの候補は、上述したように改良される新たなLMモードを含み得る。イントラ予測部40bは、ある予測ブロックへの新たなLMモードの適用に際して、共通メモリ2によりバッファリングされ得る下位レイヤ内の対応する位置の輝度成分及び色差成分の画素値を参照する。イントラ予測部40bは、共通メモリ2により追加的にバッファリングされ得る下位レイヤの予測モード情報に基づいて、エンハンスメントレイヤにおいて探索される予測モードの候補を絞り込んでもよい。予測モードの候補が1つしか残らない場合には、当該1つの予測モードが最適な予測モードとして選択されてよい。
【0057】
第1符号化部1aは、ここで説明した一連の符号化処理を、ベースレイヤの一連の画像データについて実行する。第2符号化部1bは、ここで説明した一連の符号化処理を、エンハンスメントレイヤの一連の画像データについて実行する。エンハンスメントレイヤが複数存在する場合には、エンハンスメントレイヤの符号化処理は、エンハンスメントレイヤの数だけ繰り返され得る。ベースレイヤの符号化処理と、エンハンスメントレイヤの符号化処理とは、例えば、何らかのブロックごとに同期して実行されてもよい。
【0058】
なお、本明細書では、ベースレイヤ及びエンハンスメントレイヤの双方がHEVCに従って符号化され及び復号される例を主に説明する。本明細書における予測ブロックは、HEVCにおいて予測処理の処理単位を意味する予測単位(PU:Prediction Unit)に相当する。但し、本開示に係る技術は、少なくとも1つのレイヤがMPEG2又はAVCなどの他の種類の画像符号化方式に従って符号化され及び復号されるケースにも適用可能である。例えば、ベースレイヤは、LMモードをサポートしない画像符号化方式に従って符号化され及び復号されてもよい。また、本開示に係る技術は、マルチレイヤではなくマルチビューの画像符号化方式にも適用可能である。
【0059】
[2−2.イントラ予測部の詳細な構成]
図7は、図6に示したイントラ予測部40a及び40bの詳細な構成の一例を示すブロック図である。図7を参照すると、イントラ予測部40aは、予測制御部41a、係数算出部42a、フィルタ44a、予測部45a及びモード判定部46aを有する。イントラ予測部40bは、予測制御部41b、係数算出部42b、フィルタ44b、予測部45b及びモード判定部46bを有する。
【0060】
(1)ベースレイヤのイントラ予測処理
イントラ予測部40aの予測制御部41aは、ベースレイヤのイントラ予測処理を制御する。例えば、予測制御部41aは、各予測ブロックについて、輝度成分についてのイントラ予測処理及び色差成分についてのイントラ予測処理を実行する。各色成分についてのイントラ予測処理において、予測制御部41aは、複数の予測モードで予測部45aに各予測ブロックの予測画像を生成させ、モード判定部46aに最適な予測モードを判定させる。ベースレイヤがHEVCに従って符号化される場合には、色差成分の予測モードの候補(以下、候補モードという)は、LMモードを含む。ベースレイヤにおけるLMモードは、図2を用いて説明した既存のLMモードである。
【0061】
係数算出部42aは、LMモードにおいて予測部45aにより使用される予測関数の係数を、上述した式(2)及び式(3)に隣接ブロックの画素値を代入することにより算出する。フィルタ44aは、フレームメモリ25から入力される予測ブロックの輝度成分の画素値をクロマフォーマットに応じてダウンサンプリング(位相シフト)することにより、LMモードの予測関数への入力値を生成する。
【0062】
予測部45aは、予測制御部41aによる制御の下、各色成分(即ち、輝度成分及び色差成分の各々)について、様々な候補モードに従って、各予測ブロックの予測画像を生成する。候補モードがLMモードである場合には、予測部45aは、フィルタ44aにより生成される輝度成分の入力値を、係数算出部42aにより算出される係数を有する予測関数に代入することにより、各色差成分の値を予測する。他の候補モードでの予測画像の生成もまた、既存の手法と同様に行われてよい。予測部45aは、予測モードごとに、予測の結果として生成される予測画像データをモード判定部46aへ出力する。
【0063】
モード判定部46aは、並び替えバッファ12から入力される原画像データと予測部45aから入力される予測画像データとに基づいて、各予測モードのコスト関数値を算出する。そして、モード判定部46aは、算出したコスト関数値に基づき、各色成分についての最適な予測モードを選択する。そして、モード判定部46aは、選択した最適な予測モードを示す予測モード情報を含むイントラ予測に関する情報、コスト関数値、並びに各色成分の予測画像データを、セレクタ27へ出力する。
【0064】
また、共通メモリ2は、フレームメモリ25から入力される、デブロックフィルタ適用前の復号画像データを記憶する。当該復号画像データは、輝度成分及び色差成分の画素値を含む。共通メモリ2により記憶される復号画像データは、上位レイヤにおいて新たなLMモードのための予測関数の係数を算出する際に、イントラ予測部40bにより参照される。また、モード判定部46aは、予測ブロックごとの最適な予測モードを示す予測モード情報を、共通メモリ2に記憶させてもよい。当該予測モード情報は、上位レイヤにおいて候補モードを絞り込むために利用され得る。
【0065】
(2)エンハンスメントレイヤのイントラ予測処理
イントラ予測部40bの予測制御部41bは、エンハンスメントレイヤのイントラ予測処理を制御する。例えば、予測制御部41bは、予測ブロックごとに、輝度成分についてのイントラ予測処理及び色差成分についてのイントラ予測処理を実行する。各色成分についてのイントラ予測処理において、予測制御部41bは、1つ以上の予測モードで予測部45bに各予測ブロックの予測画像を生成させ、モード判定部46bに最適な予測モードを判定させる。色差成分の候補モードには、図3を用いて説明した新たなLMモードが含まれる。
【0066】
係数算出部42bは、予測ブロックに対応する位置の下位レイヤの輝度成分及び色差成分の画素値を、共通メモリ2から取得する。そして、係数算出部42bは、共通メモリ2から取得した画素値を上述した式(2)及び式(3)に代入することにより、新たなLMモードのための予測関数の係数を算出する。フィルタ44bは、フレームメモリ25から入力される予測ブロックの輝度成分の画素値をクロマフォーマットに応じてダウンサンプリング(位相シフト)することにより、予測関数への入力値を生成する。
【0067】
予測部45bは、予測制御部41bによる制御の下、各色成分(即ち、輝度成分及び色差成分の各々)について、様々な候補モードに従って、各予測ブロックの予測画像を生成する。候補モードがLMモードである場合には、予測部45bは、フィルタ44bにより生成される輝度成分の入力値を、係数算出部42bにより算出される係数を有する予測関数に代入することにより、各色差成分の値を予測する。他の候補モードでの予測画像の生成は、既存の手法と同様に行われてよい。予測部45bは、予測モードごとに、予測の結果として生成される予測画像データをモード判定部46bへ出力する。
【0068】
モード判定部46bは、並び替えバッファ12から入力される原画像データと予測部45bから入力される予測画像データとに基づいて、各予測モードのコスト関数値を算出する。そして、モード判定部46bは、算出したコスト関数値に基づき、各色成分についての最適な予測モードを選択する。そして、モード判定部46bは、選択した最適な予測モードを示す予測モード情報を含むイントラ予測に関する情報、コスト関数値、並びに各色成分の予測画像データを、セレクタ27へ出力する。
【0069】
なお、予測制御部41bは、共通メモリ2によりバッファリングされ得る下位レイヤ内の対応ブロックの予測モード情報に基づいて、エンハンスメントレイヤ内の予測ブロックについての候補モードを絞り込んでもよい。
【0070】
例えば、予測制御部41bは、対応ブロックについて最適な予測モードとしてLMモードが選択されたことを予測モード情報が示す場合に、予測ブロックについての候補モードを新たなLMモードのみに絞り込んでもよい。既存のLMモードよりも新たなLMモードの方が予測精度がより高いと想定されることから、下位レイヤにおいてLMモードが最適な予測モードとして選択された場合には、上位レイヤにおいて必然的に新たなLMモードが最適である可能性が高い。そのため、このような絞り込みによって、予測モードの探索に要する処理コストを削減することができる。また、エンハンスメントレイヤ内の予測ブロックについて別個の予測モード情報を符号化することが不要となるため、符号化効率も高められる。
【0071】
一方で、予測制御部41bは、対応ブロックについて最適な予測モードとして非LMモードが選択された場合にも、予測ブロックについての候補モードに新たなLMモードを含める。このように、対応ブロックについて非LMモードが選択されたかに関わらずエンハンスメントレイヤ内の予測ブロックについて新たなLMモードを候補モードに含めることにより、高い予測精度を実現し得る新たなLMモードを最大限に活用して、符号化効率を効果的に高めることができる。
【0072】
なお、候補モードが1つしか残らない場合には、モード判定部46bによるコスト関数値の比較は省略され、当該1つの候補モードが最適な予測モードとして選択されてよい。
【0073】
さらなる上位レイヤが存在する場合には、共通メモリ2は、フレームメモリ25から入力されるデブロックフィルタ適用前のエンハンスメントレイヤの復号画像データをさらに記憶してもよい。また、モード判定部46bは、予測ブロックごとの最適な予測モードを示す予測モード情報を、さらなる上位レイヤのために共通メモリ2に記憶させてもよい。
【0074】
なお、上述したように、式(2)及び式(3)におけるIの値は、参照画素数を表す。色差成分の予測ブロックの一辺のサイズをSとすると、既存のLMモードでは、I=2・Sである。これに対し、上述した新たなLMモードでは、Iの値は異なり得る。例えば、スケーラビリティ比が2:1の場合、対応ブロックの一辺のサイズはS/2であり、I=(S/2)である。ブロックサイズが大きくなると、既存のLMモードと比較して、新たなLMモードにおける参照画素数Iはより大きくなり得る。参照画素数Iがより大きいほど、式(2)及び式(3)の計算に要するコストは増大する。そこで、係数算出部42bは、新たなLMモードの適用に際して、下位レイヤ内の参照画素を間引くことにより、係数算出処理の処理コストを低減してもよい。
【0075】
図8は、参照画素の間引きの一例について説明するための説明図である。図8を参照すると、図3と同様の、8×8画素のサイズを有するエンハンスメントレイヤ内の予測ブロック、及び4×4画素のサイズを有するベースレイヤ内の対応ブロックが示されている。ここでも、説明を簡明にするために、クロマフォーマットは4:4:4であるものとする。エンハンスメントレイヤ内の色差成分の予測ブロックBh2にLMモードが適用される場合には、下位レイヤ内の予測ブロックBb1及びBb2の画素値が、係数算出部42bにより係数算出式に代入される。但し、図8の例では、係数算出部42bは、予測ブロックBb1及びBb2の全ての画素値ではなく一部のみ(例えば、図中で網掛けされた画素)を係数算出式に代入する。それにより、係数算出処理の処理コストを低減することができる。なお、間引かれる参照画素の位置は、図8の例に限定されず、いかなる位置であってもよい。間引かれる参照画素の割合もまた、図8の例に限定されず、いかなる割合であってもよい。間引かれる参照画素の位置又は割合が、ブロックサイズなどのパラメータに依存して動的に設定されてもよい。
【0076】
<3.一実施形態に係る符号化時の処理の流れ>
本節では、図9及び図10を用いて、符号化時の処理の流れについて説明する。
【0077】
(1)概略的な流れ
図9は、一実施形態に係る符号化時の概略的な処理の流れの一例を示すフローチャートである。なお、説明の簡明さのために、本開示に係る技術に直接的に関連しない処理ステップは、図から省略されている。
【0078】
図9を参照すると、まず、ベースレイヤのためのイントラ予測部40aは、ベースレイヤのイントラ予測処理を実行する(ステップS110)。ここでのイントラ予測処理は、例えば、上記非特許文献1において定義されているような仕様に従った処理であってよい。次に、可逆符号化部16は、イントラ予測処理の結果として生成されるイントラ予測に関する情報及び量子化データを符号化し、ベースレイヤの符号化ストリームを生成する(ステップS120)。また、共通メモリ2は、デブロックフィルタ適用前のベースレイヤの輝度成分及び色差成分の画素値をバッファリングする(ステップS130)。
【0079】
次に、エンハンスメントレイヤのためのイントラ予測部40bは、エンハンスメントレイヤのイントラ予測処理を実行する(ステップS140)。ここでのイントラ予測処理について、後により詳細に説明する。次に、可逆符号化部16は、イントラ予測処理の結果として生成されるイントラ予測に関する情報及び量子化データを符号化し、エンハンスメントレイヤの符号化ストリームを生成する(ステップS150)。
【0080】
その後、より上位のエンハンスメントレイヤが存在するか否かが判定される(ステップS160)。そして、より上位のエンハンスメントレイヤが存在する場合には、デブロックフィルタ適用前のエンハンスメントレイヤの輝度成分及び色差成分の画素値が共通メモリ2によりバッファリングされ(ステップS170)、処理はステップS140へ戻る。一方、より上位のエンハンスメントレイヤが存在しない場合には、図9のフローチャートは終了する。
【0081】
(2)エンハンスメントレイヤのイントラ予測処理
図10は、図9のステップS140におけるエンハンスメントレイヤのイントラ予測処理の詳細な流れの一例を示すフローチャートである。
【0082】
図10のフローチャートにおける処理対象の予測ブロックを、ここでは注目ブロックという。注目ブロックについて、新たなLMモードを含む1つ以上の候補モードが存在し得る。エンハンスメントレイヤのイントラ予測処理は、処理対象の候補モードに応じて分岐する(ステップS141)。処理対象の候補モードがLMモードである場合には、処理はステップS142へ進む。そうでない場合には、処理はステップS146へ進む。
【0083】
LMモードの処理において、係数算出部42bは、注目ブロックに対応する位置の下位レイヤの輝度成分及び色差成分の参照画素値を、共通メモリ2から取得する(ステップS142)。次に、係数算出部42bは、必要に応じて(例えば、参照画素数が所定の閾値よりも多い場合に)、取得した参照画素を間引く(ステップS143)。次に、係数算出部42bは、輝度成分及び色差成分の参照画素値を係数算出式に代入することにより、LMモードの予測関数の係数α、βを算出する(ステップS144)。次に、予測部45bは、フィルタ44bにより生成される輝度成分の入力値を、係数算出部42bにより算出される係数を有する予測関数に代入することにより、注目ブロックの予測画像を生成する(ステップS145)。
【0084】
一方、非LMモードの処理において、予測部45bは、予測制御部41bにより指定される予測モードに従って、注目ブロックの予測画像を生成する(ステップS145)。
【0085】
これら処理は、注目ブロックについての全ての候補モードが探索されるまで繰り返される(ステップS147)。そして、全ての候補モードが探索されると、モード判定部46bは、コスト関数値を比較することにより、1つ以上の候補モードから最適な予測モードを選択する(ステップS148)。
【0086】
<4.一実施形態に係る復号部の構成例>
[4−1.全体的な構成]
図11は、図5に示した第1復号部6a及び第2復号部6bの構成の一例を示すブロック図である。図11を参照すると、第1復号部6aは、蓄積バッファ61、可逆復号部62、逆量子化部63、逆直交変換部64、加算部65、デブロックフィルタ66、並び替えバッファ67、D/A(Digital to Analogue)変換部68、フレームメモリ69、セレクタ70及び71、動き補償部80、並びにイントラ予測部90aを備える。第2復号部6bは、イントラ予測部90aの代わりに、イントラ予測部90bを備える。
【0087】
蓄積バッファ61は、伝送路を介して入力される符号化ストリームを記憶媒体を用いて一時的に蓄積する。
【0088】
可逆復号部62は、蓄積バッファ61から入力される符号化ストリームを、符号化の際に使用された符号化方式に従って復号する。また、可逆復号部62は、符号化ストリームのヘッダ領域に多重化されている情報を復号する。可逆復号部62により復号される情報は、例えば、上述したインター予測に関する情報及びイントラ予測に関する情報を含み得る。可逆復号部62は、インター予測に関する情報を動き補償部80へ出力する。また、可逆復号部62は、イントラ予測に関する情報をイントラ予測部90a又は90bへ出力する。
【0089】
逆量子化部63は、可逆復号部62による復号後の量子化データを逆量子化する。逆直交変換部64は、符号化の際に使用された直交変換方式に従い、逆量子化部63から入力される変換係数データについて逆直交変換を行うことにより、予測誤差データを生成する。そして、逆直交変換部64は、生成した予測誤差データを加算部65へ出力する。
【0090】
加算部65は、逆直交変換部64から入力される予測誤差データと、セレクタ71から入力される予測画像データとを加算することにより、復号画像データを生成する。そして、加算部65は、生成した復号画像データをデブロックフィルタ66及びフレームメモリ69へ出力する。
【0091】
デブロックフィルタ66は、加算部65から入力される復号画像データをフィルタリングすることによりブロック歪みを除去し、フィルタリング後の復号画像データを並び替えバッファ67及びフレームメモリ69へ出力する。
【0092】
並び替えバッファ67は、デブロックフィルタ66から入力される画像を並び替えることにより、時系列の一連の画像データを生成する。そして、並び替えバッファ67は、生成した画像データをD/A変換部68へ出力する。
【0093】
D/A変換部68は、並び替えバッファ67から入力されるデジタル形式の画像データをアナログ形式の画像信号に変換する。そして、D/A変換部68は、例えば、画像復号装置60と接続されるディスプレイ(図示せず)にアナログ画像信号を出力することにより、画像を表示させる。
【0094】
フレームメモリ69は、加算部65から入力されるフィルタリング前の復号画像データ、及びデブロックフィルタ66から入力されるフィルタリング後の復号画像データを記憶媒体を用いて記憶する。
【0095】
セレクタ70は、可逆復号部62により取得されるモード情報に応じて、画像内のブロックごとに、フレームメモリ69からの画像データの出力先を動き補償部80とイントラ予測部90a又は90bとの間で切り替える。例えば、セレクタ70は、インター予測モードが指定された場合には、フレームメモリ69から供給されるフィルタリング後の復号画像データを参照画像データとして動き補償部80へ出力する。また、セレクタ70は、イントラ予測モードが指定された場合には、フレームメモリ69から供給されるフィルタリング前の復号画像データを参照画像データとしてイントラ予測部90a又は90bへ出力する。
【0096】
セレクタ71は、可逆復号部62により取得されるモード情報に応じて、加算部65へ供給すべき予測画像データの出力元を動き補償部80とイントラ予測部90a又は90bとの間で切り替える。例えば、セレクタ71は、インター予測モードが指定された場合には、動き補償部80から出力される予測画像データを加算部65へ供給する。また、セレクタ71は、イントラ予測モードが指定された場合には、イントラ予測部90a又は90bから出力される予測画像データを加算部65へ供給する。
【0097】
動き補償部80は、可逆復号部62から入力されるインター予測に関する情報とフレームメモリ69からの参照画像データとに基づいて動き補償処理を行い、予測画像データを生成する。そして、動き補償部80は、生成した予測画像データをセレクタ71へ出力する。
【0098】
イントラ予測部90aは、可逆復号部62から入力されるイントラ予測に関する情報とフレームメモリ69からの参照画像データとに基づいてベースレイヤのイントラ予測処理を行い、予測画像データを生成する。そして、イントラ予測部90aは、生成したベースレイヤの予測画像データをセレクタ71へ出力する。また、イントラ予測部40aは、イントラ予測に関する少なくとも一部のパラメータを、共通メモリ7によりバッファリングさせる。
【0099】
イントラ予測部90bは、可逆復号部62から入力されるイントラ予測に関する情報とフレームメモリ69からの参照画像データとに基づいてエンハンスメントレイヤのイントラ予測処理を行い、予測画像データを生成する。そして、イントラ予測部90bは、生成したエンハンスメントレイヤの予測画像データをセレクタ71へ出力する。エンハンスメントレイヤにおいて指定される候補モードは、上述した新たなLMモードを含み得る。イントラ予測部90bは、ある予測ブロックへの新たなLMモードの適用に際して、共通メモリ7によりバッファリングされ得る下位レイヤ内の対応する位置の輝度成分及び色差成分の画素値を参照する。イントラ予測部90bは、共通メモリ7により追加的にバッファリングされ得る下位レイヤの予測モード情報に基づいて、エンハンスメントレイヤの候補モードを絞り込んでもよい。候補モードが1つしか残らない場合には、エンハンスメントレイヤの予測モード情報は復号されない。
【0100】
第1復号部6aは、ここで説明した一連の復号処理を、ベースレイヤの一連の画像データについて実行する。第2復号部6bは、ここで説明した一連の復号処理を、エンハンスメントレイヤの一連の画像データについて実行する。エンハンスメントレイヤが複数存在する場合には、エンハンスメントレイヤの復号処理は、エンハンスメントレイヤの数だけ繰り返され得る。ベースレイヤの復号処理と、エンハンスメントレイヤの復号処理とは、何らかのブロックごとに同期して実行されてもよい。
【0101】
[4−2.イントラ予測部の詳細な構成]
図12は、図11に示したイントラ予測部90a及び90bの詳細な構成の一例を示すブロック図である。図12を参照すると、イントラ予測部90aは、予測制御部91a、係数算出部92a、フィルタ94a及び予測部95aを有する。イントラ予測部90bは、予測制御部91b、係数算出部92b、フィルタ94b及び予測部95bを有する。
【0102】
(1)ベースレイヤのイントラ予測処理
イントラ予測部90aの予測制御部91aは、ベースレイヤのイントラ予測処理を制御する。例えば、予測制御部91aは、各予測ブロックについて、輝度成分についてのイントラ予測処理及び色差成分についてのイントラ予測処理を実行する。各色成分についてのイントラ予測処理において、予測制御部91aは、可逆復号部62により復号される予測モード情報を取得する。そして、予測制御部91aは、予測モード情報により指定された予測モードで予測部95aに各予測ブロックの予測画像を生成させる。ベースレイヤがHEVCに従って復号される場合には、予測モード情報は、色差成分についてLMモードを示し得る。ベースレイヤにおけるLMモードは、図2を用いて説明した既存のLMモードである。
【0103】
係数算出部92aは、LMモードにおいて予測部95aにより使用される予測関数の係数を、上述した式(2)及び式(3)に隣接ブロックの画素値を代入することにより算出する。フィルタ94aは、フレームメモリ69から入力される予測ブロックの輝度成分の画素値をクロマフォーマットに応じてダウンサンプリング(位相シフト)することにより、LMモードの予測関数への入力値を生成する。
【0104】
予測部95aは、予測制御部91aによる制御の下、各色成分(即ち、輝度成分及び色差成分の各々)について、指定された予測モードに従って、各予測ブロックの予測画像を生成する。候補モードがLMモードである場合には、予測部95aは、フィルタ94aにより生成される輝度成分の入力値を、係数算出部92aにより算出される係数を有する予測関数に代入することにより、各色差成分の値を予測する。他の予測モードでの予測画像の生成もまた、既存の手法と同様に行われてよい。そして、予測部95aは、予測の結果として生成される予測画像データを、加算部65へ出力する。
【0105】
共通メモリ7は、フレームメモリ69から入力される、デブロックフィルタ適用前の復号画像データを記憶する。当該復号画像データは、輝度成分及び色差成分の画素値を含む。共通メモリ7により記憶される復号画像データは、上位レイヤにおいて新たなLMモードのための予測関数の係数を算出する際に、イントラ予測部90bにより参照される。また、予測制御部91aは、予測ブロックごとに指定された予測モードを示す予測モード情報を、共通メモリ7に記憶させてもよい。当該予測モード情報は、上位レイヤにおいて予測モードを絞り込むために利用され得る。
【0106】
(2)エンハンスメントレイヤのイントラ予測処理
イントラ予測部90bの予測制御部91bは、エンハンスメントレイヤのイントラ予測処理を制御する。例えば、予測制御部91bは、予測ブロックごとに、輝度成分についてのイントラ予測処理及び色差成分についてのイントラ予測処理を実行する。各色成分についてのイントラ予測処理において、予測制御部91bは、可逆復号部62により復号される予測モード情報を取得する。そして、予測制御部91bは、予測モード情報により指定された予測モードで予測部95bに各予測ブロックの予測画像を生成させる。色差成分について、予測モード情報は、図3を用いて説明した新たなLMモードを示し得る。
【0107】
係数算出部92bは、予測ブロックに対応する位置の下位レイヤの輝度成分及び色差成分の画素値を、共通メモリ7から取得する。そして、係数算出部92bは、共通メモリ7から取得した画素値を上述した式(2)及び式(3)に代入することにより、新たなLMモードのための予測関数の係数を算出する。フィルタ94bは、フレームメモリ69から入力される予測ブロックの輝度成分の画素値をクロマフォーマットに応じてダウンサンプリング(位相シフト)することにより、予測関数への入力値を生成する。
【0108】
予測部95bは、予測制御部91bにより指定される予測モードに従って、各色成分(即ち、輝度成分及び色差成分の各々)について、各予測ブロックの予測画像を生成する。LMモードが指定された場合には、予測部95bは、フィルタ94bにより生成される輝度成分の入力値を、係数算出部92bにより算出される係数を有する予測関数に代入することにより、各色差成分の値を予測する。他の予測モードでの予測画像の生成は、既存の手法と同様に行われてよい。予測部95bは、予測の結果として生成される予測画像データを、加算部65へ出力する。
【0109】
なお、予測制御部91bは、共通メモリ7によりバッファリングされ得る下位レイヤ内の対応ブロックの予測モード情報に基づいて、エンハンスメントレイヤ内の予測ブロックについての予測モードを絞り込んでもよい。
【0110】
例えば、予測制御部91bは、対応ブロックについて予測モード情報によりLMモードが指定された場合に、予測ブロックについての予測モードを新たなLMモードのみに絞り込んでもよい。この場合、エンハンスメントレイヤ内の予測ブロックについて、別個の予測モード情報は符号化ストリームから復号されない。
【0111】
一方で、予測制御部91bは、対応ブロックについて予測モード情報により非LMモードが指定された場合には、予測ブロックについて別個の予測モード情報を取得する。そして、予測制御部91bは、取得した別個の予測モード情報がLMモードを示す場合に、新たなLMモードに従って、予測部95bに予測ブロックの予測画像を生成させる。
【0112】
さらなる上位レイヤが存在する場合には、共通メモリ7は、フレームメモリ69から入力されるデブロックフィルタ適用前のエンハンスメントレイヤの復号画像データをさらに記憶してもよい。また、予測制御部91bは、予測ブロックごとに指定された予測モードを示す予測モード情報を、さらなる上位レイヤのために共通メモリ7に記憶させてもよい。
【0113】
また、係数算出部92bは、図8を用いて説明したように、新たなLMモードの適用に際して、下位レイヤ内の参照画素を間引くことにより、係数算出処理の処理コストを低減してもよい。
【0114】
<5.一実施形態に係る復号時の処理の流れ>
本節では、図13及び図14を用いて、復号時の処理の流れについて説明する。
【0115】
(1)概略的な流れ
図13は、一実施形態に係る復号時の概略的な処理の流れの一例を示すフローチャートである。なお、説明の簡明さのために、本開示に係る技術に直接的に関連しない処理ステップは、図から省略されている。
【0116】
図13を参照すると、まず、可逆復号部62は、ベースレイヤの符号化ストリームから、ベースレイヤのイントラ予測に関する情報及び量子化データを復号する(ステップS210)。次に、ベースレイヤのためのイントラ予測部90aは、ベースレイヤのイントラ予測処理を実行する(ステップS220)。ここでのイントラ予測処理は、例えば、上記非特許文献1において定義されているような仕様に従った処理であってよい。共通メモリ7は、デブロックフィルタ適用前のベースレイヤの輝度成分及び色差成分の画素値をバッファリングする(ステップS230)。
【0117】
次に、可逆復号部62は、エンハンスメントレイヤの符号化ストリームから、エンハンスメントレイヤのイントラ予測に関する情報及び量子化データを復号する(ステップS240)。次に、エンハンスメントレイヤのためのイントラ予測部90bは、エンハンスメントレイヤのイントラ予測処理を実行する(ステップS250)。ここでのイントラ予測処理について、後により詳細に説明する。
【0118】
その後、より上位のエンハンスメントレイヤが存在するか否かが判定される(ステップS260)。そして、より上位のエンハンスメントレイヤが存在する場合には、デブロックフィルタ適用前のエンハンスメントレイヤの輝度成分及び色差成分の画素値が共通メモリ7によりバッファリングされ(ステップS270)、処理はステップS240へ戻る。一方、より上位のエンハンスメントレイヤが存在しない場合には、図13のフローチャートは終了する。
【0119】
(2)エンハンスメントレイヤのイントラ予測処理
図14は、図13のステップS250におけるエンハンスメントレイヤのイントラ予測処理の詳細な流れの一例を示すフローチャートである。
【0120】
図14のフローチャートにおける処理対象の予測ブロックを、ここでは注目ブロックという。まず、予測制御部91bは、注目ブロックについての予測モードを判定する(ステップS251)。例えば、予測制御部91bは、可逆復号部62により復号されるエンハンスメントレイヤのための別個の予測モード情報を取得することにより、注目ブロックについての予測モードを判定してもよい。また、予測制御部91bは、ベースレイヤ内の対応ブロックについての予測モード情報から予測モードを1つに絞り込むことができる場合には、エンハンスメントレイヤのための別個の予測モード情報を取得することなく、注目ブロックについての予測モードを判定してもよい。その後の処理は、判定された注目ブロックの予測モードに応じて分岐する(ステップS252)。注目ブロックの予測モードがLMモードである場合には、処理はステップS253へ進む。そうでない場合には、処理はステップS257へ進む。
【0121】
LMモードの処理において、係数算出部92bは、注目ブロックに対応する位置の下位レイヤの輝度成分及び色差成分の参照画素値を、共通メモリ7から取得する(ステップS53)。次に、係数算出部92bは、必要に応じて(例えば、参照画素数が所定の閾値よりも多い場合に)、取得した参照画素を間引く(ステップS254)。次に、係数算出部92bは、輝度成分及び色差成分の参照画素値を係数算出式に代入することにより、LMモードの予測関数の係数α、βを算出する(ステップS255)。次に、予測部95bは、フィルタ94bにより生成される輝度成分の入力値を、係数算出部92bにより算出される係数を有する予測関数に代入することにより、注目ブロックの予測画像を生成する(ステップS256)。
【0122】
一方、非LMモードの処理において、予測部95bは、予測制御部91bにより指定される予測モードに従って、注目ブロックの予測画像を生成する(ステップS257)。
【0123】
<6.応用例>
[6−1.様々な製品への応用]
上述した実施形態に係る画像符号化装置10及び画像復号装置60は、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、4つの応用例について説明する。
【0124】
(1)第1の応用例
図15は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース909、制御部910、ユーザインタフェース911、及びバス912を備える。
【0125】
チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。
【0126】
デマルチプレクサ903は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPG(Electronic Program Guide)などの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
【0127】
デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。
【0128】
映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUI(Graphical User Interface)の画像を生成し、生成した画像を出力画像に重畳してもよい。
【0129】
表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス(例えば、液晶ディスプレイ、プラズマディスプレイ又はOLEDなど)の映像面上に映像又は画像を表示する。
【0130】
音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
【0131】
外部インタフェース909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。
【0132】
制御部910は、C予測ブロック(Central Processing Unit)などのプロセッサ、並びにRAM(Random Access Memory)及びROM(Read Only Memory)などのメモリを有する。メモリは、C予測ブロックにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にC予測ブロックにより読み込まれ、実行される。C予測ブロックは、プログラムを実行することにより、例えばユーザインタフェース911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。
【0133】
ユーザインタフェース911は、制御部910と接続される。ユーザインタフェース911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。
【0134】
バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース909及び制御部910を相互に接続する。
【0135】
このように構成されたテレビジョン装置900において、デコーダ904は、上述した実施形態に係る画像復号装置60の機能を有する。それにより、テレビジョン装置900での画像のスケーラブル復号に際して、エンハンスメントレイヤにおいて新たなLMモードを採用することにより、予測精度を一層高めることができる。
【0136】
(2)第2の応用例
図16は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。
【0137】
アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。
【0138】
携帯電話機920は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
【0139】
音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
【0140】
また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929の記憶媒体に記憶させる。
【0141】
記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
【0142】
また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記録再生部929の記憶媒体に記憶させる。
【0143】
また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
【0144】
このように構成された携帯電話機920において、画像処理部927は、上述した実施形態に係る画像符号化装置10及び画像復号装置60の機能を有する。それにより、携帯電話機920での画像のスケーラブル符号化及び復号に際して、エンハンスメントレイヤにおいて新たなLMモードを採用することにより、予測精度を一層高めることができる。
【0145】
(3)第3の応用例
図17は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データ及び映像データを復号する。
【0146】
記録再生装置940は、チューナ941、外部インタフェース942、エンコーダ943、HDD(Hard Disk Drive)944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)948、制御部949、及びユーザインタフェース950を備える。
【0147】
チューナ941は、アンテナ(図示せず)を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送手段としての役割を有する。
【0148】
外部インタフェース942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース942は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース942を介して受信される映像データ及び音声データは、エンコーダ943へ入力される。即ち、外部インタフェース942は、記録再生装置940における伝送手段としての役割を有する。
【0149】
エンコーダ943は、外部インタフェース942から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。
【0150】
HDD944は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD944は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
【0151】
ディスクドライブ945は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVDディスク(DVD−Video、DVD−RAM、DVD−R、DVD−RW、DVD+R、DVD+RW等)又はBlu−ray(登録商標)ディスクなどであってよい。
【0152】
セレクタ946は、映像及び音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。
【0153】
デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ904は、生成した音声データを外部のスピーカへ出力する。
【0154】
OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
【0155】
制御部949は、C予測ブロックなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、C予測ブロックにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にC予測ブロックにより読み込まれ、実行される。C予測ブロックは、プログラムを実行することにより、例えばユーザインタフェース950から入力される操作信号に応じて、記録再生装置940の動作を制御する。
【0156】
ユーザインタフェース950は、制御部949と接続される。ユーザインタフェース950は、例えば、ユーザが記録再生装置940を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。
【0157】
このように構成された記録再生装置940において、エンコーダ943は、上述した実施形態に係る画像符号化装置10の機能を有する。また、デコーダ947は、上述した実施形態に係る画像復号装置60の機能を有する。それにより、記録再生装置940での画像のスケーラブル符号化及び復号に際して、エンハンスメントレイヤにおいて新たなLMモードを採用することにより、予測精度を一層高めることができる。
【0158】
(4)第4の応用例
図18は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
【0159】
撮像装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース971、及びバス972を備える。
【0160】
光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、及び制御部970を相互に接続する。
【0161】
光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD又はCMOSなどのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。
【0162】
信号処理部963は、撮像部962から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。
【0163】
画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース966又はメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース966又はメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。
【0164】
OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。
【0165】
外部インタフェース966は、例えばUSB入出力端子として構成される。外部インタフェース966は、例えば、画像の印刷時に、撮像装置960とプリンタとを接続する。また、外部インタフェース966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置960にインストールされ得る。さらに、外部インタフェース966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース966は、撮像装置960における伝送手段としての役割を有する。
【0166】
メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD(Solid State Drive)のような非可搬性の記憶部が構成されてもよい。
【0167】
制御部970は、C予測ブロックなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、C予測ブロックにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置960の起動時にC予測ブロックにより読み込まれ、実行される。C予測ブロックは、プログラムを実行することにより、例えばユーザインタフェース971から入力される操作信号に応じて、撮像装置960の動作を制御する。
【0168】
ユーザインタフェース971は、制御部970と接続される。ユーザインタフェース971は、例えば、ユーザが撮像装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。
【0169】
このように構成された撮像装置960において、画像処理部964は、上述した実施形態に係る画像符号化装置10及び画像復号装置60の機能を有する。それにより、撮像装置960での画像のスケーラブル符号化及び復号に際して、エンハンスメントレイヤにおいて新たなLMモードを採用することにより、予測精度を一層高めることができる。
【0170】
[6−2.スケーラブル符号化の様々な用途]
上述したスケーラブル符号化の利点は、様々な用途において享受され得る。以下、3つの用途の例について説明する。
【0171】
(1)第1の例
第1の例において、スケーラブル符号化は、データの選択的な伝送のために利用される。図19を参照すると、データ伝送システム1000は、ストリーム記憶装置1001及び配信サーバ1002を含む。配信サーバ1002は、ネットワーク1003を介して、いくつかの端末装置と接続される。ネットワーク1003は、有線ネットワークであっても無線ネットワークであってもよく、又はそれらの組合せであってもよい。図19には、端末装置の例として、PC(Personal Computer)1004、AV機器1005、タブレット装置1006及び携帯電話機1007が示されている。
【0172】
ストリーム記憶装置1001は、例えば、画像符号化装置10により生成される多重化ストリームを含むストリームデータ1011を記憶する。多重化ストリームは、ベースレイヤ(BL)の符号化ストリーム及びエンハンスメントレイヤ(EL)の符号化ストリームを含む。配信サーバ1002は、ストリーム記憶装置1001に記憶されているストリームデータ1011を読み出し、読み出したストリームデータ1011の少なくとも一部分を、ネットワーク1003を介して、PC1004、AV機器1005、タブレット装置1006、及び携帯電話機1007へ配信する。
【0173】
端末装置へのストリームの配信の際、配信サーバ1002は、端末装置の能力又は通信環境などの何らかの条件に基づいて、配信すべきストリームを選択する。例えば、配信サーバ1002は、端末装置が扱うことのできる画質を上回るほど高い画質を有する符号化ストリームを配信しないことにより、端末装置における遅延、オーバフロー又はプロセッサの過負荷の発生を回避してもよい。また、配信サーバ1002は、高い画質を有する符号化ストリームを配信しないことにより、ネットワーク1003の通信帯域が占有されることを回避してもよい。一方、配信サーバ1002は、これら回避すべきリスクが存在しない場合、又はユーザとの契約若しくは何らかの条件に基づいて適切だと判断される場合に、多重化ストリームの全てを端末装置へ配信してもよい。
【0174】
図19の例では、配信サーバ1002は、ストリーム記憶装置1001からストリームデータ1011を読み出す。そして、配信サーバ1002は、高い処理能力を有するPC1004へ、ストリームデータ1011をそのまま配信する。また、AV機器1005は低い処理能力を有するため、配信サーバ1002は、ストリームデータ1011から抽出されるベースレイヤの符号化ストリームのみを含むストリームデータ1012を生成し、ストリームデータ1012をAV機器1005へ配信する。また、配信サーバ1002は、高い通信レートで通信可能であるタブレット装置1006へストリームデータ1011をそのまま配信する。また、携帯電話機1007は低い通信レートでしか通信できないため、配信サーバ1002は、ベースレイヤの符号化ストリームのみを含むストリームデータ1012を携帯電話機1007へ配信する。
【0175】
このように多重化ストリームを用いることにより、伝送されるトラフィックの量を適応的に調整することができる。また、個々のレイヤがそれぞれ単独に符号化されるケースと比較して、ストリームデータ1011の符号量は削減されるため、ストリームデータ1011の全体が配信されるとしても、ネットワーク1003に掛かる負荷は抑制される。さらに、ストリーム記憶装置1001のメモリリソースも節約される。
【0176】
端末装置のハードウエア性能は、装置ごとに異なる。また、端末装置において実行されるアプリケーションのケイパビリティも様々である。さらに、ネットワーク1003の通信容量もまた様々である。データ伝送のために利用可能な容量は、他のトラフィックの存在に起因して、時々刻々と変化し得る。そこで、配信サーバ1002は、ストリームデータの配信を開始する前に、配信先の端末装置との間のシグナリングを通じて、端末装置のハードウエア性能及びアプリケーションケイパビリティなどに関する端末情報と、ネットワーク1003の通信容量などに関するネットワーク情報とを取得してもよい。そして、配信サーバ1002は、取得した情報に基づいて、配信すべきストリームを選択し得る。
【0177】
なお、復号すべきレイヤの抽出は、端末装置において行われてもよい。例えば、PC1004は、受信した多重化ストリームから抽出され復号されるベースレイヤ画像をその画面に表示してもよい。また、PC1004は、受信した多重化ストリームからベースレイヤの符号化ストリームを抽出してストリームデータ1012を生成し、生成したストリームデータ1012を記憶媒体に記憶させ、又は他の装置へ転送してもよい。
【0178】
図19に示したデータ伝送システム1000の構成は一例に過ぎない。データ伝送システム1000は、いかなる数のストリーム記憶装置1001、配信サーバ1002、ネットワーク1003、及び端末装置を含んでもよい。
【0179】
(2)第2の例
第2の例において、スケーラブル符号化は、複数の通信チャネルを介するデータの伝送のために利用される。図20を参照すると、データ伝送システム1100は、放送局1101及び端末装置1102を含む。放送局1101は、地上波チャネル1111上で、ベースレイヤの符号化ストリーム1121を放送する。また、放送局1101は、ネットワーク1112を介して、エンハンスメントレイヤの符号化ストリーム1122を端末装置1102へ送信する。
【0180】
端末装置1102は、放送局1101により放送される地上波放送を受信するための受信機能を有し、地上波チャネル1111を介してベースレイヤの符号化ストリーム1121を受信する。また、端末装置1102は、放送局1101と通信するための通信機能を有し、ネットワーク1112を介してエンハンスメントレイヤの符号化ストリーム1122を受信する。
【0181】
端末装置1102は、例えば、ユーザからの指示に応じて、ベースレイヤの符号化ストリーム1121を受信し、受信した符号化ストリーム1121からベースレイヤ画像を復号してベースレイヤ画像を画面に表示してもよい。また、端末装置1102は、復号したベースレイヤ画像を記憶媒体に記憶させ、又は他の装置へ転送してもよい。
【0182】
また、端末装置1102は、例えば、ユーザからの指示に応じて、ネットワーク1112を介してエンハンスメントレイヤの符号化ストリーム1122を受信し、ベースレイヤの符号化ストリーム1121とエンハンスメントレイヤの符号化ストリーム1122とを多重化することにより多重化ストリームを生成してもよい。また、端末装置1102は、エンハンスメントレイヤの符号化ストリーム1122からエンハンスメントレイヤ画像を復号してエンハンスメントレイヤ画像を画面に表示してもよい。また、端末装置1102は、復号したエンハンスメントレイヤ画像を記憶媒体に記憶させ、又は他の装置へ転送してもよい。
【0183】
上述したように、多重化ストリームに含まれる各レイヤの符号化ストリームは、レイヤごとに異なる通信チャネルを介して伝送され得る。それにより、個々のチャネルに掛かる負荷を分散させて、通信の遅延若しくはオーバフローの発生を抑制することができる。
【0184】
また、何らかの条件に応じて、伝送のために使用される通信チャネルが動的に選択されてもよい。例えば、データ量が比較的多いベースレイヤの符号化ストリーム1121は帯域幅の広い通信チャネルを介して伝送され、データ量が比較的少ないエンハンスメントレイヤの符号化ストリーム1122は帯域幅の狭い通信チャネルを介して伝送され得る。また、特定のレイヤの符号化ストリーム1122が伝送される通信チャネルが、通信チャネルの帯域幅に応じて切り替えられてもよい。それにより、個々のチャネルに掛かる負荷をより効果的に抑制することができる。
【0185】
なお、図20に示したデータ伝送システム1100の構成は一例に過ぎない。データ伝送システム1100は、いかなる数の通信チャネル及び端末装置を含んでもよい。また、放送以外の用途において、ここで説明したシステムの構成が利用されてもよい。
【0186】
(3)第3の例
第3の例において、スケーラブル符号化は、映像の記憶のために利用される。図21を参照すると、データ伝送システム1200は、撮像装置1201及びストリーム記憶装置1202を含む。撮像装置1201は、被写体1211を撮像することにより生成される画像データをスケーラブル符号化し、多重化ストリーム1221を生成する。多重化ストリーム1221は、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを含む。そして、撮像装置1201は、多重化ストリーム1221をストリーム記憶装置1202へ供給する。
【0187】
ストリーム記憶装置1202は、撮像装置1201から供給される多重化ストリーム1221を、モードごとに異なる画質で記憶する。例えば、ストリーム記憶装置1202は、通常モードにおいて、多重化ストリーム1221からベースレイヤの符号化ストリーム1222を抽出し、抽出したベースレイヤの符号化ストリーム1222を記憶する。これに対し、ストリーム記憶装置1202は、高画質モードにおいて、多重化ストリーム1221をそのまま記憶する。それにより、ストリーム記憶装置1202は、高画質での映像の記録が望まれる場合にのみ、データ量の多い高画質のストリームを記録することができる。そのため、画質の劣化のユーザへの影響を抑制しながら、メモリリソースを節約することができる。
【0188】
例えば、撮像装置1201は、監視カメラであるものとする。撮像画像に監視対象(例えば侵入者)が映っていない場合には、通常モードが選択される。この場合、撮像画像は重要でない可能性が高いため、データ量の削減が優先され、映像は低画質で記録される(即ち、ベースレイヤの符号化ストリーム1222のみが記憶される)。これに対し、撮像画像に監視対象(例えば、侵入者である被写体1211)が映っている場合には、高画質モードが選択される。この場合、撮像画像は重要である可能性が高いため、画質の高さが優先され、映像は高画質で記録される(即ち、多重化ストリーム1221が記憶される)。
【0189】
図21の例では、モードは、例えば画像解析結果に基づいて、ストリーム記憶装置1202により選択される。しかしながら、かかる例に限定されず、撮像装置1201がモードを選択してもよい。後者の場合、撮像装置1201は、通常モードにおいて、ベースレイヤの符号化ストリーム1222をストリーム記憶装置1202へ供給し、高画質モードにおいて、多重化ストリーム1221をストリーム記憶装置1202へ供給してもよい。
【0190】
なお、モードを選択するための選択基準は、いかなる基準であってもよい。例えば、マイクロフォンを通じて取得される音声の大きさ又は音声の波形などに応じて、モードが切り替えられてもよい。また、周期的にモードが切り替えられてもよい。また、ユーザがらの指示に応じてモードが切り替えられてもよい。さらに、選択可能なモードの数は、階層化されるレイヤの数を超えない限り、いかなる数であってもよい。
【0191】
図21に示したデータ伝送システム1200の構成は一例に過ぎない。データ伝送システム1200は、いかなる数の撮像装置1201を含んでもよい。また、監視カメラ以外の用途において、ここで説明したシステムの構成が利用されてもよい。
【0192】
[6−3.その他]
(1)マルチビューコーデックへの応用
マルチビューコーデックは、マルチレイヤコーデックの一種であり、いわゆる多視点映像を符号化し及び復号するための画像符号化方式である。図22は、マルチビューコーデックについて説明するための説明図である。図22を参照すると、3つの視点においてそれぞれ撮影される3つのビューのフレームのシーケンスが示されている。各ビューには、ビューID(view_id)が付与される。これら複数のビューのうちいずれか1つのビューが、ベースビュー(base view)に指定される。ベースビュー以外のビューは、ノンベースビューと呼ばれる。図22の例では、ビューIDが"0"であるビューがベースビューであり、ビューIDが"1"又は"2"である2つのビューがノンベースビューである。これらビューが階層的に符号化される場合、各ビューがレイヤに相当し得る。図中に矢印で示したように、ノンベースビューの画像は、ベースビューの画像を参照して符号化され及び復号される(他のノンベースビューの画像も参照されてよい)。
【0193】
図23は、マルチビューコーデックをサポートする画像符号化装置10vの概略的な構成を示すブロック図である。図23を参照すると、画像符号化装置10vは、第1レイヤ符号化部1c、第2レイヤ符号化部1d、共通メモリ2及び多重化部3を備える。
【0194】
第1レイヤ符号化部1cの機能は、入力としてベースレイヤ画像の代わりにベースビュー画像を受け取ることを除き、図4を用いて説明した第1符号化部1aの機能と同等である。第1レイヤ符号化部1cは、ベースビュー画像を符号化し、第1レイヤの符号化ストリームを生成する。第2レイヤ符号化部1dの機能は、入力としてエンハンスメントレイヤ画像の代わりにノンベースビュー画像を受け取ることを除き、図4を用いて説明した第2符号化部1bの機能と同等である。第2レイヤ符号化部1dは、ノンベースビュー画像を符号化し、第2レイヤの符号化ストリームを生成する。共通メモリ2は、レイヤ間で共通的に利用される情報を記憶する。多重化部3は、第1レイヤ符号化部1cにより生成される第1レイヤの符号化ストリームと、第2レイヤ符号化部1dにより生成される第2レイヤの符号化ストリームとを多重化し、マルチレイヤの多重化ストリームを生成する。
【0195】
図24は、マルチビューコーデックをサポートする画像復号装置60vの概略的な構成を示すブロック図である。図24を参照すると、画像復号装置60vは、逆多重化部5、第1レイヤ復号部6c、第2レイヤ復号部6d及び共通メモリ7を備える。
【0196】
逆多重化部5は、マルチレイヤの多重化ストリームを第1レイヤの符号化ストリーム及び第2レイヤの符号化ストリームに逆多重化する。第1レイヤ復号部6cの機能は、入力としてベースレイヤ画像の代わりにベースビュー画像が符号化された符号化ストリームを受け取ることを除き、図5を用いて説明した第1復号部6aの機能と同等である。第1レイヤ復号部6cは、第1レイヤの符号化ストリームからベースビュー画像を復号する。第2レイヤ復号部6dの機能は、入力としてエンハンスメントレイヤ画像の代わりにノンベースビュー画像が符号化された符号化ストリームを受け取ることを除き、図5を用いて説明した第2復号部6bの機能と同等である。第2レイヤ復号部6dは、第2レイヤの符号化ストリームからノンベースビュー画像を復号する。共通メモリ7は、レイヤ間で共通的に利用される情報を記憶する。
【0197】
マルチビューの画像データを符号化し又は復号する際、本開示に係る技術に従って、ノンベースビューの色差成分の予測ブロックの予測画像が、ベースビューの対応する位置の参照画素に基づいて構築される予測関数を用いて、LMモードで生成されてもよい。それにより、スケーラブル符号化のケースと同様に、マルチビューコーデックにおいても、予測精度を高め、符号化効率を一層向上させることができる。
【0198】
(2)ストリーミング技術への応用
本開示に係る技術は、ストリーミングプロトコルに適用されてもよい。例えば、MPEG−DASH(Dynamic Adaptive Streaming over HTTP)では、解像度などのパラメータが互いに異なる複数の符号化ストリームがストリーミングサーバにおいて予め用意される。そして、ストリーミングサーバは、複数の符号化ストリームからストリーミングすべき適切なデータをセグメント単位で動的に選択し、選択したデータを配信する。このようなストリーミングプロトコルにおいて、本開示に係る技術に従って、LMモードの予測精度が向上させられてもよい。
【0199】
<7.まとめ>
ここまで、図1図24を用いて、一実施形態に係る画像符号化装置10及び画像復号装置60について説明した。上述した実施形態によれば、スケーラブル符号化又は復号される画像のエンハンスメントレイヤ内の色差成分の予測ブロックの予測画像が生成される際に、隣接ブロックの参照画素ではなく、ベースレイヤ内の対応する位置の参照画素に基づいて構築される予測関数が、LMモードにおいて使用される。従って、予測ブロックと隣接ブロックとの間で色成分間の相関が類似しない場合であっても、良好な予測精度を有する予測関数を構築してLMモードの予測精度を向上させることができる。
【0200】
また、上述した実施形態によれば、ベースレイヤ内の対応ブロックについてLMモード以外の予測モードが指定された場合においても、エンハンスメントレイヤ内の予測ブロックについて、LMモードが指定され得る。即ち、エンハンスメントレイヤにおいて、ベースレイヤの予測モードを覆して、LMモードを活用することができる。それにより、高い予測精度を有する改良されたLMモードをより多くの画像領域で活用して、符号化効率を高めることが可能となる。このような手法は、例えば、ベースレイヤがLMモードをサポートしない画像符号化方式(例えば、MPEG2又はAVC)で、エンハンスメントレイヤがLMモードをサポートする画像符号化方式(例えば、HEVC)で符号化され及び復号される、いわゆるマルチコーデックのスケーラブル符号化において、LMモードの活用の幅を広げることができる点で有益である。
【0201】
また、上述した実施形態によれば、ベースレイヤ内の対応ブロックについてLMモードが指定された場合には、エンハンスメントレイヤ内の予測ブロックについて他の予測モードの探索が行われることなくLMモードが指定され得る。それにより、エンハンスメントレイヤにおいて別個の予測モード情報を符号化することが不要となるため、符号化効率を一層向上することができる。また、エンコーダ側の処理コストを低減することができる。
【0202】
なお、本明細書では、イントラ予測に関する情報及びインター予測に関する情報が、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について主に説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像(スライス若しくはブロックなど、画像の一部であってもよい)と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像(又はビットストリーム)とは別の伝送路上で伝送されてもよい。また、情報は、画像(又はビットストリーム)とは別の記録媒体(又は同一の記録媒体の別の記録エリア)に記録されてもよい。さらに、情報と画像(又はビットストリーム)とは、例えば、複数フレーム、1フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
【0203】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【0204】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、
を備える画像処理装置。
(2)
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて輝度ベース色差予測モード以外の予測モードが指定された場合において、前記第1の予測ブロックについて取得される別個の予測モード情報が輝度ベース色差予測モードを示すときに、前記係数を有する前記予測関数を用いて前記第2の予測ブロックの前記予測画像を生成する、前記(1)に記載の画像処理装置。
(3)
前記ベースレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートしない第1の符号化方式に従って復号するベースレイヤ復号部と、
前記エンハンスメントレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートする第2の符号化方式に従って復号するエンハンスメントレイヤ復号部と、
をさらに備える、前記(1)又は前記(2)に記載の画像処理装置。
(4)
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて輝度ベース色差予測モードが指定された場合に、前記係数を有する前記予測関数を用いて前記第2の予測ブロックの前記予測画像を生成する、前記(1)に記載の画像処理装置。
(5)
前記エンハンスメントレイヤ予測部は、前記ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分のうち一部のみを、輝度ベース色差予測モードの係数算出式に代入することにより、前記係数を算出する、前記(1)〜(4)のいずれか1項に記載の画像処理装置。
(6)
前記ベースレイヤ内のデブロックフィルタ適用前の輝度成分及び色差成分の画素値を記憶するメモリ、をさらに備え、
前記エンハンスメントレイヤ予測部は、前記メモリに記憶される前記画素値を用いて、前記係数を算出する、
前記(1)〜(5)のいずれか1項に記載の画像処理装置。
(7)
スケーラブル復号される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、
を含む画像処理方法。
(8)
スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成するエンハンスメントレイヤ予測部、
を備える画像処理装置。
(9)
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて最適な予測モードとして輝度ベース色差予測モードが選択されたかに関わらず、前記係数を有する前記予測関数を用いる輝度ベース色差予測モードを含む1つ以上の予測モードから、前記第2の予測ブロックについての最適な予測モードを選択する、前記(8)に記載の画像処理装置。
(10)
前記ベースレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートしない第1の符号化方式に従って符号化するベースレイヤ符号化部と、
前記エンハンスメントレイヤの符号化ストリームを、輝度ベース色差予測モードをサポートする第2の符号化方式に従って符号化するエンハンスメントレイヤ符号化部と、
をさらに備える、前記(8)又は前記(9)に記載の画像処理装置。
(11)
前記エンハンスメントレイヤ予測部は、前記第1の予測ブロックに対応する前記ベースレイヤ内の第2の予測ブロックについて最適な予測モードとして輝度ベース色差予測モードが選択された場合に、前記係数を有する前記予測関数を用いる輝度ベース色差予測モードを前記第2の予測ブロックについての最適な予測モードとして選択する、前記(8)に記載の画像処理装置。
(12)
前記エンハンスメントレイヤ予測部は、前記ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分のうち一部のみを、輝度ベース色差予測モードの係数算出式に代入することにより、前記係数を算出する、前記(8)〜(11)のいずれか1項に記載の画像処理装置。
(13)
フィルタ適用前の輝度成分及び色差成分の画素値を記憶するメモリ、をさらに備え、
前記エンハンスメントレイヤ予測部は、前記メモリに記憶される前記画素値を用いて、前記係数を算出する、
前記(8)〜(12)のいずれか1項に記載の画像処理装置。
(14)
スケーラブル符号化される画像のエンハンスメントレイヤ内の色差成分の第1の予測ブロックの予測画像を、ベースレイヤ内の前記第1の予測ブロックに対応する位置の輝度成分及び色差成分から算出される係数を有する輝度ベース色差予測モードの予測関数を用いて生成すること、
を含む画像処理方法。
【符号の説明】
【0205】
10 画像符号化装置(画像処理装置)
40a イントラ予測部(ベースレイヤ予測部)
40b イントラ予測部(エンハンスメントレイヤ予測部)
60 画像復号装置(画像処理装置)
90a イントラ予測部(ベースレイヤ予測部)
90b イントラ予測部(エンハンスメントレイヤ予測部)

図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
【国際調査報告】