(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024029125
(43)【公開日】2024-03-05
(54)【発明の名称】ビデオ符号化/復号化の方法及び装置
(51)【国際特許分類】
H04N 19/593 20140101AFI20240227BHJP
H04N 19/46 20140101ALI20240227BHJP
【FI】
H04N19/593
H04N19/46
【審査請求】有
【請求項の数】1
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023220187
(22)【出願日】2023-12-27
(62)【分割の表示】P 2023015190の分割
【原出願日】2019-03-06
(31)【優先権主張番号】62/639,862
(32)【優先日】2018-03-07
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/182,788
(32)【優先日】2018-11-07
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】520353802
【氏名又は名称】テンセント・アメリカ・エルエルシー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】シュイ,シアオジョォン
(72)【発明者】
【氏名】リ,シアン
(72)【発明者】
【氏名】リィウ,シャン
(57)【要約】 (修正有)
【課題】ビデオ符号化/復号化の方法及び装置を提供する。
【解決手段】ビデオ復号化装置は、符号化されたビデオビットストリームから、現在ブロックの予測情報を復号化する。予測情報は、フレーム内ブロックコピーモードを示す。ビデオ復号化装置は、複数の候補解像度からなるセットから、現在ブロックのブロックベクトル差分の解像度を選択し、選択されたブロックベクトル差分の解像度と、現在ブロックのブロックベクトル予測値とに基づいて、現在ブロックのブロックベクトルを決定する。ビデオ復号化装置は、ブロックベクトルに基づいて、現在ブロックの少なくとも1つのサンプルを再構築する。
【選択図】
図10
【特許請求の範囲】
【請求項1】
デコーダでビデオを復号化する方法であって、
符号化されたビデオビットストリームから、現在ブロックの予測情報を復号化するステップであって、前記予測情報はフレーム内ブロックコピーモードを示すものである、ステップと、
複数の候補解像度からなるセットから、前記現在ブロックのブロックベクトル差分の解像度を選択するステップと 、
前記選択されたブロックベクトル差分の解像度と、前記現在ブロックのブロックベクトル予測値とに基づいて、前記現在ブロックのブロックベクトルを決定するステップと、
前記ブロックベクトルに基づいて、前記現在ブロックの少なくとも1つのサンプルを再構築するステップと、を含む、
ことを特徴とする方法。
【発明の詳細な説明】
【技術分野】
【0001】
「関連出願の相互参照」
本開示は、2018年3月7日に提出された米国仮出願第62/639,862号「画像及びビデオ圧縮における動きおよびブロックベクトル解像度の適応方法」、および、2018年11月7日に提出された米国特許出願第16/182,788号「ビデオ符号化/復号化の方法および装置」に対する優先権を主張し、その全体が参照により本明細書に組み込まれる。
[技術分野]
本開示は、概してビデオ符号化/復号化に関連する実施形態を説明する。
【背景技術】
【0002】
本明細書で提供される背景技術の説明は、本開示のコンテキストを全体的に示すことを目的とする。この背景技術部分及び本明細書の各態様において説明された、現在署名されている発明者の作業の程度は、本開示の提出時に先行技術として示されておらず、また、本開示の先行技術として認められていることを明示または暗示していない。
【0003】
ビデオ符号化と復号化は、動き補償を有するフレーム間画像予測を用いて実行されることができる。圧縮されていないデジタルビデオは、一連の画像を含むことができ、各画像が、例えば1920×1080の輝度サンプルおよび関連された色度サンプルの空間的次元を有する。この一連の画像は、例えば1秒間に60枚の画像または60ヘルツ(Hz)の固定または可変の画像レート(非公式にはフレームレートとして知られている)を有することができる。圧縮されていないビデオには、非常に高いビットレート要件がある。例えば、サンプルあたり8ビットの1080p60 4:2:0のビデオ(60Hzのフレームレートでの1920x1080の輝度サンプル解像度)は、1.5Gbit/sの帯域幅に近い必要がある。このようなビデオは、一時間で600GB以上の記憶空間を必要とする。
【0004】
ビデオ符号化および復号化の1つの目的は、入力ビデオ信号における冗長情報を圧縮により低減することである。圧縮は、上記の帯域幅または記憶空間に対する要件を低減することを助けることができ、いくつかの場合では、二桁以上程度を低減することができる。無損失性および損失性の圧縮、ならびに両方の組み合わせは、いずれも使用されることができる。無損失性の圧縮とは、元の信号の正確なコピーを圧縮された元の信号から再構築することができる、という技術を指す。損失性の圧縮が使用される場合、再構築された信号は、元の信号と同一ではない可能性があるが、元の信号と再構築された信号との間の歪みが十分に小さいので、再構築された信号が予想されるアプリケーションに利用されることができる。ビデオの場合、損失性の圧縮は広く使われている。許容される歪みの量は、アプリケーションに依存し、例えば、あるストリーミングアプリケーションを消費するユーザは、テレビ貢献アプリケーションのユーザより、高い歪みを許容することができる。実現可能な圧縮比は、より高い許可/許容可能な歪みがより高い圧縮比を生成することができる、ということを反映している。
【0005】
ビデオエンコーダおよびデコーダは、例えば動き補償、変換、量子化およびエントロピー符号化を含む、いくつかの広範なカテゴリからの技術を利用することができる。
【0006】
ビデオ符号化/復号化技術は、フレーム内符号化として知られている技術を含むことができる。フレーム内符号化では、サンプル値は、以前に再構築された参照画像からのサンプルまたは他のデータを参照せずに表現される。いくつかのビデオコーデックでは、画像は空間的にサンプルブロックに細分される。すべてのサンプルブロックがフレーム内モードで符号化された場合、その画像はフレーム内画像とすることができる。独立したデコーダリフレッシュ画像などのようなフレーム内画像およびそれらの派生は、デコーダの状態をリセットするために使用されることができ、したがって、符号化されたビデオビットストリームおよびビデオセッション中の1番目の画像または静止画像として使用されることができる。フレーム内ブロックのサンプルは変換に用いられ、また、変換係数はエントロピー符号化の前に量子化されることができる。フレーム内予測は、プリ変換ドメインにおけるサンプル値を最小化する技術であることができる。いくつかの場合では、変換後のDC値が小さくなり、AC係数が小さくなるほど、エントロピー符号化後のブロックを表すために、与えられた量子化ステップサイズで必要なビットが少なくなる。
【0007】
例えばMPEG―2符号化技術から知られているような従来のフレーム内符号化は、フレーム内予測を使用していない。しかしながら、いくつかのより新しいビデオ圧縮技術は、例えば、周囲のサンプルデータおよび/またはメタデータからデータブロックを取得しようとする技術を含み、周囲のサンプルデータおよび/またはメタデータは、空間的に隣接するブロックの符号化/復号化期間で、かつ、復号化順の前に得られたものである。このような技術は、以降「フレーム内予測」技術と呼ばれる。少なくともいくつかの場合では、フレーム内予測は、参照画像からの参照データを使用せずに、再構築中の現在画像からの参照データのみを使用する、ということに留意されたい。
【0008】
多くの異なる形態のフレーム内予測が存在することができる。与えられたビデオ符号化技術では、このような技術のうちの2つ以上を使用することができる場合、使用中の技術は、フレーム内予測モードで符号化を行うことができる。いくつかの場合では、モードは、サブモードおよび/またはパラメータを有してもよいし、これらのモードが、単独で符号化されてもよく、またはモードコードワードに含まれてもよい。どのコードワードを与えられたモード/サブモード/パラメータの組み合わせに使用するかは、フレーム内予測によって符号化効率利得に影響を及ぼすので、コードワードをビットストリームに変換するために使用されるエントロピー符号化技術には、このような場合もある。
【0009】
フレーム内予測の特定のモードは、H.264で導入され、H.265において改善され、また、共同探索モデル(JEM:joint exploration model)、汎用ビデオ符号化(VVC:versatile video coding)、ベンチマークセット(BMS:benchmark set)などの、更新しい符号化/復号化技術においてさらに改善される。予測ブロックは、既に利用可能なサンプルに属する、隣接するサンプル値を使用して形成されることができる。隣接するサンプルのサンプル値は、ある方向に従って予測ブロックにコピーされる。使用中の方向への参照は、ビットストリームに符号化されてもよく、または、その自身が予測されてもよい。
【0010】
図1を参照して、右下には、H.265の35個の予測可能な方向から知られている9つの予測方向のサブセットが描かれている。矢印が収束する点(101)は、予測されているサンプルを表す。矢印は、サンプルが予測されている方向を表す。例えば、矢印(102)は、サンプル(101)が水平から45度の角度になる右上の1つ以上のサンプルから予測されることを示す。同様に、矢印(103)は、サンプル(101)が水平から22.5度の角度になるサンプル(101)の左下の1つ以上のサンプルから予測されることを示す。
【0011】
引き続き
図1を参照すると、左上には4×4のサンプルの正方形ブロック(104)が描かれている(太い破線で示される)。正方形ブロック(104)は、16個のサンプルを含み、各サンプルが、「S」と、Y次元(例えば、行索引)での位置と、X次元(例えば、列索引)での位置とでラベル付けられている。例えば、サンプルS21は、Y次元での2番目のサンプル(上から)とX次元での1番目のサンプル(左から)である。同様に、サンプルS44は、Y次元およびX次元の両方でのブロック(104)の4番目のサンプルである。このブロックが4×4サイズのサンプルであるため、S44は右下にある。さらに、同様の番号付けスキームに従う参照サンプルも示されている。参照サンプルは、「R」と、ブロック(104)に対するY位置(例えば、行索引)およびX位置(例えば、列索引)とでラベル付けられている。H.264とH.265の両方では、予測サンプルは再構築中のブロックに隣接しているので、負の値を使用する必要はない。
【0012】
フレーム内画像予測は、シグナルで通知された予測方向に応じて、隣接するサンプルから参照サンプル値をコピーすることによって機能することができる。例えば、符号化されたビデオビットストリームには、シグナリングが含まれていると仮定すると、このシグナリングは、このブロックに対して、矢印(102)と一致する予測方向を示し、すなわち、サンプルが水平と45度の角度になる右上の1つ以上の予測サンプルから予測される。この場合、サンプルS41、S32、S23、S14は、同じR05から予測される。そして、サンプルS44は、R08から予測される。
【0013】
いくつかの場合では、参照サンプルを計算するために、特に、方向が45度で均等に割り切れない場合、例えば、補間を通じて複数の参照サンプルの値を組み合わせることができる。
【0014】
ビデオ符号化技術の発展につれて、可能な方向の数が既に増加された。H.264(2003年)では、9つの異なる方向を表すことができた。これは、H.265(2013年)で33個に増加し、JEM/VC/BMSは、開示時点で最多65個の方向をサポートすることができる。最も可能な方向を識別するための実験が行われ、そして、エントロピー符号化におけるいくつかの技術は、少数のビットでそれらの可能性がある方向を表すために使用され、可能性が低い方向に対して、いくつかの代償を受ける。さらに、方向の自体は、隣接する既に復号化されたブロックで使用される隣接する方向から予測されることができる場合がある。
【0015】
図2は、時間の経過とともに増加する予測方向の数を説明するために、JEMによる65個のフレーム内予測方向を描く概略図(201)を示す。
【0016】
フレーム内予測方向から符号化されたビデオビットストリームにおける方向を表すビットへのマッピングは、ビデオ符号化技術によって異なることができ、また、例えば、予測方向への簡単な直接マッピングから、フレーム内予測モード、コードワード、最も可能性が高いモードを含む複雑な適応スキーム、および類似な技術まで、様々なものがある。当業者は、それらの技術に容易に精通している。しかしながら、すべての場合では、ビデオコンテンツにおいて、他の特定の方向よりも統計的に発生する可能性が低い特定の方向が存在する可能性がある。ビデオ圧縮の目的は冗長性の削減であるため、それらの可能性が低い方向は、適切に機能するビデオ符号化技術では、可能性が高い方向よりも多くのビットで表される。
【発明の概要】
【課題を解決するための手段】
【0017】
本開示の態様は、ビデオ符号化/復号化の方法及び装置を提供する。いくつかの例では、装置は、ビデオを復号化する処理回路を含む。前記処理回路は、符号化されたビデオビットストリームから、現在ブロックの予測情報を復号化する。前記予測情報は、フレーム内ブロックコピーモードを示す。前記処理回路は、複数の候補解像度からなるセットから、現在ブロックのブロックベクトル差分の解像度を選択し、選択されたブロックベクトル差分の解像度と、現在ブロックのブロックベクトル予測値とに基づいて、現在ブロックのブロックベクトルを決定する。そして、前記処理回路は、ブロックベクトルに基づいて、現在ブロックの少なくとも1つのサンプルを再構築する。
【0018】
一例では、前記処理回路は、1ビットのフラグに基づいて、2つの候補解像度から現在ブロックの解像度を選択する。
【0019】
本開示の態様によれば、前記処理回路は、ブロックベクトル差分の第1成分の第1解像度を選択し、ブロックベクトル差分の第2成分の第2解像度を選択する。例えば、前記処理回路は、第1フラグに基づいて、ブロックベクトル差分の第1成分の第1解像度を選択し、第2フラグに基づいて、ブロックベクトル差分の第2成分の第2解像度を選択する。
【0020】
いくつかの実施形態では、前記処理回路は、ブロックベクトル予測値の第1成分に基づいて、ブロックベクトル差分の第1成分の第1解像度を選択し、ブロックベクトル予測値の第2成分に基づいて、ブロックベクトル差分の第2成分の第2解像度を選択する。
【0021】
いくつかの例では、前記処理回路は、ブロックベクトル予測値の第1成分が閾値より小さい場合、2つの解像度からなるセットから、デフォルト解像度を第1解像度として選択し、ブロックベクトル予測値の第1成分が閾値より大きい場合、2つの解像度からなるセットから、より小さい解像度を第1解像度として選択する。
【0022】
なお、一例では、前記処理回路は、ブロックベクトル予測値が選択された解像度と異なる解像度を使用した場合、ブロックベクトル予測値を丸めてブロックベクトルを算出することではなく、ブロックベクトル差分をブロックベクトル予測値に加算する。別の例では、前記処理回路は、ブロックベクトル予測値が選択された解像度と異なる解像度を有する場合、現在ブロックのブロックベクトル予測値を選択された解像度に丸め、ブロックベクトル差分を丸められたブロックベクトル予測値に加算してブロックベクトルを算出する。
【0023】
いくつかの実施形態では、前記処理回路は、ブロックベクトル差分とブロックベクトル予測値のうちの少なくとも1つを変更して、ブロックベクトルを有効な領域に制約する。
【0024】
本開示の態様は、ビデオを復号化するコンピュータによって実行される場合、前記コンピュータにビデオ復号化の方法を実行させる命令を記憶している、非一時的なコンピュータ読み取り可能な媒体を提供する。
【図面の簡単な説明】
【0025】
開示された主題の更なる特徴、性質、および様々な利点は、以下の詳細な説明および添付図面からより明らかになり、ここで、
【
図1】H.265によるフレーム内予測モードのサブセットの概略図である。
【
図2】JEMによるフレーム内予測方向の概略図である。
【
図3】一実施形態による通信システム(300)の簡略化されたブロック図の概略図である。
【
図4】一実施形態による通信システム(400)の簡略化されたブロック図の概略図である。
【
図5】一実施形態によるデコーダの簡略化されたブロック図の概略図である。
【
図6】一実施形態によるエンコーダの簡略化されたブロック図の概略図である。
【
図7】別の実施形態によるエンコーダのブロック図を示す図である。
【
図8】別の実施形態によるデコーダのブロック図を示す図である。
【
図9】本開示の一実施形態によるフレーム内ブロックコピーの例を示す図である。
【
図10】本開示の実施形態によるプロセス(1000)を概説するフローチャートを示す。
【
図11】一実施形態によるコンピュータシステムの概略図である。
【発明を実施するための形態】
【0026】
図3は、本開示の実施形態による通信システム(300)の簡略化されたブロック図である。通信システム(300)は、例えばネットワーク(350)を介して相互に通信することができる複数の端末デバイスを含む。例えば、通信システム(300)は、ネットワーク(350)を介して相互接続された第1ペアの端末デバイス(310)と(320)を含む。
図3の例では、第1ペアの端末デバイス(310)と(320)は、データの単方向伝送を行う。例えば、端末デバイス(310)は、ネットワーク(350)を介して他の端末デバイス(320)に伝送するために、ビデオデータ(例えば、端末デバイス(310)によって捕捉されたビデオ画像ストリーム)を符号化することができる。符号化されたビデオデータは、1つ以上の符号化されたビデオビットストリームの形で伝送されることができる。端末デバイス(320)は、ネットワーク(350)から、符号化されたビデオデータを受信し、符号化されたビデオデータを復号化してビデオ画像を復元し、復元されたビデオデータに基づいてビデオ画像を表示することができる。単方向データ伝送は、メディアサービングアプリケーションなどでは一般的である。
【0027】
別の例では、通信システム(300)は、例えばビデオ会議中に発生する可能性がある、符号化されたビデオデータの双方向伝送を実行する第2ペアの端末デバイス(330)と(340)を含む。データの双方向伝送の場合、一例では、端末デバイス(330)と(340)の各端末デバイスは、ネットワーク(350)を介して端末デバイス(330)と(340)のうちの他方の端末デバイスに送信するために、ビデオデータ(例えば、端末デバイスによって捕捉されたビデオ画像ストリーム)を符号化することができる。端末デバイス(330)と(340)の各端末デバイスは、端末デバイス(330)と(340)のうちの他方の端末デバイスによって送信された、符号化されたビデオデータを受信することもでき、また、符号化されたビデオデータを復号化してビデオ画像を復元し、復元されたビデオデータに基づいて、アクセス可能な表示デバイスにビデオ画像を表示することもできる。
【0028】
図3の例では、端末デバイス(310)、(320)、(330)および(340)は、サーバ、パーソナルコンピュータおよびスマートフォンとして示されてもよいが、本開示の原理は、これに限定されていない。本開示の実施形態は、ラップトップコンピュータ、タブレットコンピュータ、メディアプレイヤーおよび/または専用のビデオ会議機器を有するアプリケーションを見つける。ネットワーク(350)は、端末デバイス(310)、(320)、(330)および(340)間で、符号化されたビデオデータを伝送する任意の数のネットワークを表し、有線(ワイヤード)および/または無線の通信ネットワークを含む。通信ネットワーク(350)は、回路交換および/またはパケット交換のチャンネルでデータを交換することができる。代表的なネットワークは、電気通信ネットワーク、ローカルエリアネットワーク、ワイドエリアネットワークおよび/またはインターネットを含む。本開示の目的のために、ネットワーク(350)のアーキテクチャおよびトポロジは、以下に本明細書で説明されない限り、本開示の動作にとって重要ではない場合がある。
【0029】
図4は、開示された主題に対するアプリケーションの例として、ストリーミング環境におけるビデオエンコーダおよびビデオデコーダの配置を示す。開示された主題は、例えば、CD、DVD、メモリスティックなどを含むデジタルメディアへの圧縮されたビデオの記憶、ビデオ会議、デジタルTVなどを含む、他のビデオサポートアプリケーションにも同等に適用可能である。
【0030】
ストリーミングシステムは、捕捉サブシステム(413)を含むことができ、この捕捉サブシステムが、例えばデジタルカメラなどのビデオソース(401)を含むことができ、例えば圧縮されていないビデオ画像ストリーム(402)を作成する。一例では、ビデオ画像ストリーム(402)は、デジタルカメラによって撮影されたサンプルを含む。符号化されたビデオデータ(404)(または符号化されたビデオビットストリーム)と比較する際に、高いデータボリュームを強調するために太い線で描かれたビデオ画像ストリーム(402)は、ビデオソース(401)に結合されたビデオエンコーダ(403)を含む電子デバイス(420)によって処理されることができる。ビデオエンコーダ(403)は、以下でより詳細に説明するように、開示された主題の様々な態様を可能にするかまたは実現するために、ハードウェア、ソフトウェア、またはそれらの組み合わせを含むことができる。ビデオ画像ストリーム(402)と比較する際に、より低いデータボリュームを強調するために細い線で描かれた、符号化されたビデオデータ(404)(または符号化されたビデオビットストリーム(404))は、将来の使用のためにストリーミングサーバ(405)に記憶されることができる。
図4のクライアントサブシステム(406)および(408)などのような1つ以上のストリーミングクライアントサブシステムは、符号化されたビデオデータ(404)のコピー(407)および(409)を検索するために、ストリーミングサーバー(405)にアクセスすることができる。クライアントサブシステム(406)は、例えば、電子デバイス(430)にビデオデコーダ(410)を含むことができる。ビデオデコーダ(410)は、伝入される、符号化されたビデオデータのコピー(407)を復号化して、伝出される、ビデオ画像ストリーム(411)を生成し、このビデオ画像ストリーム(411)が、ディスプレイ(412)(例えば、ディスプレイスクリーン)または他のレンダリングデバイス(図示せず)に表示されることができる。一部のストリーミングシステムでは、符号化されたビデオデータ(404)、(407)および(409)(例えば、ビデオビットストリーム)は、特定のビデオ符号化/圧縮規格に従って符号化されることができる。これらの規格の例は、ITU-T推薦H.265を含む。一例では、開発中のビデオ符号化規格は、非公式には次世代ビデオ符号化またはVVC(Versatile Video Coding)と呼ばれる。開示された主題は、VVCのコンテキストで使用されることができる。
【0031】
なお、電子デバイス(420)および(430)は、他のコンポーネント(図示せず)を含むことができる。例えば、電子デバイス(420)は、ビデオデコーダ(図示せず)を含むことができ、電子デバイス(430)は、同様にビデオエンコーダ(図示せず)を含むことができる。
【0032】
図5は、本開示の実施形態によるビデオデコーダ(510)のブロック図を示す。ビデオデコーダ(510)は、電子デバイス(530)に含まれることができる。電子デバイス(530)は、受信機(531)(例えば、受信回路)を含むことができる。ビデオデコーダ(510)は、
図4の例におけるビデオデコーダ(410)の代わりに使用することができる。
【0033】
受信機(531)は、ビデオデコーダ(510)によって復号化される1つ以上の符号化されたビデオシーケンスを受信することができ、同じまたは別の実施形態では、一度に1つの符号化されたビデオシーケンスを受信することができ、ここで、各符号化されたビデオシーケンスの復号化が、他の符号化されたビデオシーケンスから独立されている。符号化されたビデオシーケンスは、チャンネル(501)から受信されることができ、このチャンネルが、符号化されたビデオデータを記憶する記憶デバイスへのハードウェア/ソフトウェアのリンクであってもよい。受信機(531)は、それぞれの使用エンティティ(図示せず)に伝送されることができる、例えば符号化されたオーディオデータおよび/または補助データストリームなどのような他のデータとともに、符号化されたビデオデータを受信することができる。受信機(531)は、符号化されたビデオシーケンスを他のデータから分離することができる。ネットワークジッタを防止するために、バッファメモリ(515)は、受信機(531)とエントロピーデコーダ/解析器(Parser)(520)(以降「解析器(520)」)との間に結合されることができる。いくつかのアプリケーションでは、バッファメモリ(515)は、ビデオデコーダ(510)の一部である。他の場合では、バッファメモリ(515)は、ビデオデコーダ(510)の外部に配置されてもよい(図示せず)。さらに他の場合では、例えばネットワークジッタを防止するために、ビデオデコーダ(510)の外部にバッファメモリ(図示せず)があり得て、さらに、例えば再生タイミングを処理するために、ビデオデコーダ(510)の内部に別のバッファメモリ(515)があり得る。受信機(531)が十分な帯域幅および制御可能性を有するストア/フォワードデバイスからまたは等時性同期ネットワーク(isosynchronous network)からデータを受信する場合、バッファメモリ(515)は、必要ではないかまたは小さくてもよい。インターネットなどのようなベストエフォートパケットネットワークで使用するために、バッファメモリ(515)は、必要になる場合があり、比較的大きくすることができ、有利には適応性のサイズにすることができ、オペレーティングシステムまたはビデオデコーダ(510)の外部の類似要素(図示せず)に少なくとも部分的に実装されることができる。
【0034】
ビデオデコーダ(510)は、符号化されたビデオシーケンスからシンボル(521)を再構築するための解析器(520)を含むことができる。これらのシンボルのカテゴリには、ビデオデコーダ(510)の動作を管理するために使用される情報と、電子デバイス(530)の不可欠な部分ではないが、
図5に示すように、電子デバイス(530)に結合されることができるレンダリングデバイス(512)(例えば、ディスプレイスクリーン)などのようなレンダリングデバイスを制御するための潜在的情報とが含まれる。レンダリングデバイスの制御情報は、補足強化情報(SEIメッセージ)またはビジュアルユーザビリティ情報(VUI)パラメータセットフラグメント(図示せず)の形であってもよい。解析器(520)は、受信された、符号化されたビデオシーケンスに対して解析/エントロピー復号化を行うことができる。符号化されたビデオシーケンスの符号化は、ビデオ符号化技術または規格に従うことができ、可変長符号化、ハフマン符号化、コンテキスト感度を有するかまたは有しないかの算術符号化などを含む、様々な原理に従うことができる。解析器(520)は、グループに対応する少なくとも1つのパラメータに基づいて、符号化されたビデオシーケンスから、ビデオデコーダにおける画素のサブグループのうちの少なくとも1つのサブグループパラメータのセットを抽出することができる。サブグループは、画像のグループ(GOP:Group of Pictures)、画像、タイル、スライス、マクロブロック、符号化ユニット(CU:Coding Unit)、ブロック、変換ユニット(TU:Trans form Unit)、予測ユニット(PU:Prection Unit)などを含むことができる。解析器(520)は、変換係数、量子化器パラメータ値、動きベクトルなどのような情報を符号化されたビデオシーケンスから抽出することもできる。
【0035】
解析器(520)は、シンボル(521)を作成するために、バッファメモリ(515)から受信されたビデオシーケンスに対してエントロピー復号化/解析動作を実行することができる。
【0036】
シンボル(521)の再構築は、符号化されたビデオ画像またはその一部(例えば、フレーム間画像およびフレーム内画像、フレーム間ブロックおよびフレーム内ブロック)のタイプおよび他の要因に応じて、複数の異なるユニットに関連することができる。どのようなユニットに関連するか、およびどのように関連するかは、解析器(520)によって、符号化されたビデオシーケンスから解析されたサブグループ制御情報によって制御されることができる。解析器(520)と以下の複数のユニットとの間のそのようなサブグループ制御情報のフローは、明瞭にするために示されていない。
【0037】
既に言及された機能ブロックに加えて、ビデオデコーダ(510)は、以下に説明するように、いくつかの機能ユニットに概念的に細分されることができる。商業的制約で動作する実際の実施形態では、これらのユニットの多くは、互いに密接に相互作用し、少なくとも部分的には互いに統合されることができる。しかしながら、開示された主題を説明する目的のために、以下の機能ユニットへの概念的な細分は適切である。
【0038】
第1ユニットは、スケーラ/逆変換ユニット(551)である。スケーラ/逆変換ユニット(551)は、量子化された変換係数と、どのような変換を使用するかということ、ブロックサイズ、量子化因子、量子化スケーリング行列などを含む制御情報とを、解析器(520)からシンボル(521)として受信する。スケーラ/逆変換ユニット(551)は、アグリゲータ(555)に入力できるサンプル値を含むブロックを出力することができる。
【0039】
いくつかの場合では、スケーラ/逆変換ユニット(551)の出力サンプルは、フレーム内符号化ブロックに属することができ、即ち、以前に再構築された画像からの予測情報を使用していないが、現在画像の以前に再構築された部分からの予測情報を使用することができるブロックである。このような予測情報は、フレーム内画像予測ユニット(552)によって提供されてもよい。いくつかの場合では、フレーム内画像予測ユニット(552)は、現在画像バッファ(558)から抽出された、周囲の既に再構築された情報を使用して、再構築中のブロックと同じサイズおよび形状のブロックを生成する。現在画像バッファ(558)は、例えば、部分的に再構築された現在画像および/または完全に再構築された現在画像をバッファリングする。アグリゲータ(555)は、いくつかの場合では、サンプルごとに基づいて、フレーム内予測ユニット(552)によって生成された予測情報を、スケーラ/逆変換ユニット(551)によって提供される出力サンプル情報に追加する。
【0040】
他の場合では、スケーラ/逆変換ユニット(551)の出力サンプルは、フレーム間符号化されたブロックおよび潜在的に動き補償されたブロックに属することができる。このような場合、動き補償予測ユニット(553)は、参照画像メモリ(557)にアクセスして、予測に用いられるサンプルを抽出することができる。抽出されたサンプルが、ブロックに関連するシンボル(521)に基づいて動き補償された後、これらのサンプルは、出力サンプル情報を生成するために、アグリゲータ(555)によってスケーラ/逆変換ユニット(551)の出力(この場合、残差サンプルまたは残差信号と呼ばれる)に追加されることができる。動き補償予測ユニット(553)が予測サンプルを抽出するときの参照画像メモリ(557)内のアドレスは、例えば、X、Y、および参照画像成分を有することができるシンボル(521)の形で、動き補償予測ユニット(553)に利用可能な動きベクトルによって制御されることができる。動き補償は、サブサンプルの正確な動きベクトルが使用中であるときに、参照画像メモリ(557)から抽出されたサンプル値の補間、運動ベクトル予測メカニズムなどを含むこともできる。
【0041】
アグリゲータ(555)の出力サンプルは、ループフィルタユニット(556)において様々なループフィルタリング技術によって採用されてもよい。ビデオ圧縮技術は、符号化されたビデオシーケンス(符号化されたビデオビットストリームとも呼ばれる)に含まれ、解析器(520)からのシンボル(521)としてループフィルタユニット(556)に利用可能になるパラメータによって制御されるループ内フィルタ技術を含むことができ、また、符号化された画像または符号化されたビデオシーケンスの前の部分(復号化順序で)を復号化する期間で得られたメタ情報に応答し、および、以前に再構築されてループフィルタリングされたサンプル値に応答することもできる。
【0042】
ループフィルタユニット(556)の出力は、レンダリングデバイス(512)に出力することができ、および、将来のフレーム間画像予測で使用するために参照画像メモリ(557)に記憶することができるサンプルストリームとすることができる。
【0043】
特定の符号化された画像は、完全に再構築されると、将来の予測のための参照画像として使用することができる。例えば、現在画像に対応する符号化された画像が完全に再構築され、符号化された画像が(例えば、解析器(520)によって)参照画像として識別されると、現在画像バッファ(558)は、参照画像メモリ(557)の一部になることができ、そして、後続の符号化された画像の再構築を開示する前に、新しい現在画像バッファを再割り当てることができる。
【0044】
ビデオデコーダ(510)は、例えばITU-T Rec.H.265.などのような規格における所定のビデオ圧縮技術に従って復号化動作を実行することができる。符号化されたビデオシーケンスは、符号化されたビデオシーケンスがビデオ圧縮技術または規格の構文と、ビデオ圧縮技術または規格の文書としてのプロファイルとの両方に従うという意味で、使用されているビデオ圧縮技術または規格によって指定された構文に従うことができる。具体的には、プロファイルは、ビデオ圧縮技術または規格で使用可能なすべてのツールから、そのプロファイルで使用できる唯一のツールとしていくつかのツールを選択することができる。符号化されたビデオシーケンスの複雑さが、ビデオ圧縮技術または規格の階層によって定義された範囲内にあるということもコンプライアンスに必要である。いくつかの場合では、階層は、最大画像サイズ、最大フレームレート、(例えば、毎秒メガ(mega)個のサンプルを単位として測定された)最大再構築サンプルレート、最大参照画像サイズなどを制限する。階層によって設定された制限は、いくつかの場合では、仮想参照デコーダ(HRD:Hypthetical Reference Decoder)仕様と、符号化されたビデオシーケンスにおいてシグナルで通知されるHRDバッファ管理のメタデータとによって、さらに制限されることができる。
【0045】
一実施形態では、受信機(531)は、符号化されたビデオとともに付加(冗長)的なデータを受信することができる。付加的なデータは、符号化されたビデオシーケンスの一部として含まれることができる。付加的なデータは、データを適切に復号化し、および/または元のビデオデータをより正確に再構築するために、ビデオデコーダ(510)によって使用されることができる。付加的なデータは、例えば、時間的、空間的、または信号雑音比(SNR:signal noise ratio)拡張層、冗長スライス、冗長画像、前方誤り訂正符号などのような形式にすることができる。
【0046】
図6は、本開示の一実施形態によるビデオエンコーダ(603)のブロック図を示す。ビデオエンコーダ(603)は、電子デバイス(620)に含まれる。電子デバイス(620)は、送信機(640)(例えば、送信回路)を含む。ビデオエンコーダ(603)は、
図4の例におけるビデオエンコーダ(403)の代わりに使用することができる。
【0047】
ビデオエンコーダ(603)は、ビデオエンコーダ(603)によって符号化されるビデオ画像を捕捉するビデオソース(601)(
図6の例における電子デバイス(620)の一部ではない)から、ビデオサンプルを受信することができる。別の例では、ビデオソース(601)は、電子デバイス(620)の一部である。
【0048】
ビデオソース(601)は、ビデオエンコーダ(603)によって符号化されたソースビデオシーケンスをデジタルビデオサンプルストリームの形式で提供することができ、前記デジタルビデオサンプルストリームは、任意の適切なビット深度(例えば、8ビット、10ビット、12ビット…)、任意の色空間(例えば、BT.601 Y CrCB、RGB…)及び任意の適切なサンプリング構造(例えば、Y CrCb 4:2:0、Y CrCb 4:4:4)を有することができる。メディアサービスシステムでは、ビデオソース(601)は、以前に準備されたビデオを記憶する記憶デバイスであってもよい。ビデオ会議システムでは、ビデオソース(601)は、ローカル画像情報をビデオシーケンスとして捕捉するカメラであってもよい。ビデオデータは、順番に見られるときに動きを与える複数の個別の画像として提供されることができる。画像自体は、空間画素アレイとして構成されてもよく、ここで、各画素は、使用中のサンプリング構造、色空間などに応じて、1つ以上のサンプルを含むことができる。当業者は、画素とサンプルとの間の関係を容易に理解することができる。以下の説明は、サンプルに焦点を当てる。
【0049】
一実施形態によれば、ビデオエンコーダ(603)は、リアルタイムで、またはアプリケーションによって要求される任意の他の時間制約の下で、ソースビデオシーケンスの画像を、符号化されたビデオシーケンス(643)に符号化し圧縮することができる。適切な符号化速度を実施することは、コントローラ(650)の1つの機能である。いくつかの実施形態では、コントローラ(650)は、以下で説明するように他の機能ユニットを制御し、他の機能ユニットに機能的に結合される。該結合は、明瞭にするために図示されていない。コントローラ(650)によって設定されたパラメータは、レート制御関連パラメータ(画像スキップ、量子化器、レート歪み最適化技術のλ(ラムダ)値…)、画像サイズ、画像のグループ(GOP:group of pictures)レイアウト、最大動きベクトル探索範囲などを含むことができる。コントローラ(650)は、特定のシステム設計に対して最適化されたビデオエンコーダ(603)に関連する他の適切な機能を有するように構成されることができる。
【0050】
いくつかの実施形態では、ビデオエンコーダ(603)は、符号化ループで動作するように構成される。過度に簡単化された説明として、一例では、符号化ループは、ソースコーダ(630)(例えば、符号化される入力画像と、参照画像とに基づいて、シンボルストリームなどのようなシンボルを作成することを担当する)と、ビデオエンコーダ(603)に埋め込まれた(ローカル)デコーダ(633)とを含むことができる。デコーダ(633)は、(リモート)デコーダがサンプルデータを作成すると同様の方法でシンボルを再構築してサンプルデータを作成する(開示された主題で考慮されているビデオ圧縮技術では、シンボルと符号化されたビデオビットストリームとの間の任意の圧縮が無損失であるからである)。再構築されたサンプルストリーム(サンプルデータ)は、参照画像メモリ(634)に入力される。シンボルストリームの復号化により、デコーダの位置(ローカルまたはリモート)に関係なくビット正確な結果が得られるため、参照画像メモリ(634)のコンテンツは、ローカルエンコーダとリモートエンコーダの間でもビットで正確に対応する。言い換えれば、エンコーダの予測部分が「見た」参照画像サンプルは、デコーダが復号化期間に予測を使用する際に「見た」サンプル値と全く同じである。この参照画像の同期性の基本原理(および、例えばチャンネル誤差の原因で同期性が維持されない場合に生じるドリフト)は、いくつかの関連技術でも使用されている。
【0051】
「ローカル」デコーダ(633)の動作は、既に
図5に関連して以上で詳細に説明された、ビデオデコーダ(510)などのような「リモート」デコーダの動作と同じであってもよい。しかし、
図5をさらに簡単に参照すると、シンボルが利用可能であり、かつ、エントロピーコーダ(645)および解析器(520)によって符号化されたビデオシーケンスへのシンボルの符号化/復号化が無損失であることができるため、バッファメモリ(515)と解析器(520)を含むビデオデコーダ(510)のエントロピーデコード部分は、ローカルデコーダ(633)で完全に実行できない可能性がある。
【0052】
この時点で、デコーダに存在する解析/エントロピー復号化以外のいかなるデコーダ技術も、対応するエンコーダにおいて、実質的に同一の機能形式で必ず存在する必要がある、ということが観察されている。このため、開示された主題は、デコーダ動作に焦点を合わせる。エンコーダ技術の説明は、包括的に説明されたデコーダ技術の逆であるため、省略されることができる。特定の領域だけで、より詳細な説明が必要であり、以下で提供される。
【0053】
動作中に、いくつかの実施形態では、ソースコーダ(630)は、動き補償予測符号化を実行することができ、前記動き補償予測符号化は、ビデオシーケンスから「参照画像」として指定された1つ以上の以前に符号化された画像を参照して、入力画像を予測的に符号化する。このようにして、符号化エンジン(632)は、入力画像の画素ブロックと、入力画像に対する予測参照として選択されることができる参照画像の画素ブロックとの間の差分を符号化する。
【0054】
ローカルビデオデコーダ(633)は、ソースコーダ(630)によって生成されたシンボルに基づいて、参照画像として指定されることができる画像の符号化されたビデオデータを復号化することができる。符号化エンジン(632)の動作は、有利には損失性プロセスであってもよい。符号化されたビデオデータがビデオデコーダ(
図6に示されない)で復号化された場合、再構築されたビデオシーケンスは、通常、いくつかの誤差を伴うソースビデオシーケンスのレプリカであってもよい。ローカルビデオデコーダ(633)は、参照画像に対してビデオデコーダによって実行されることができる復号化プロセスをコピーして、再構築された参照画像を参照画像キャッシュ(634)に記憶することができる。このようにして、ビデオエンコーダ(603)は、遠端ビデオデコーダによって得られる(伝送誤差が存在しない)再構築された参照画像と共通のコンテンツを有する再構築された参照画像のコピーを、ローカルに記憶することができる。
【0055】
予測器(635)は、符号化エンジン(632)に対して予測検索を実行することができる。すなわち、符号化される新しい画像について、予測器(635)は、新しい画像の適切な予測参照として機能するサンプルデータ(候補参照画素ブロックとして)または特定のメタデータ、例えば参照画像動きベクトル、ブロック形状などについて、参照画像メモリ(634)を検索することができる。予測器(635)は、適切な予測参照を見つけるために、サンプルブロックに基づいて、画素ブロックごとに動作することができる。いくつかの場合では、予測器(635)によって得られた検索結果によって決定されるように、入力画像は、参照画像メモリ(634)に記憶された複数の参照画像から引き出された予測参照を有することができる。
【0056】
コントローラ(650)は、例えば、ビデオデータを符号化するために使用されるパラメータおよびサブグループパラメータの設定を含む、ソースコーダ(630)の符号化動作を管理することができる。
【0057】
上述のすべての機能ユニットの出力は、エントロピーコーダ(645)でエントロピー符号化されることができる。エントロピーコーダ(645)は、例えばハフマン符号化、可変長符号化、算術符号化などのような、当業者に知られている技術に従って、シンボルを無損失で圧縮することにより、様々な機能ユニットによって生成されたシンボルを符号化されたビデオシーケンスに変換する。
【0058】
送信機(640)は、符号化されたビデオデータを記憶する記憶デバイスへのハードウェア/ソフトウェアリンクであることができる通信チャンネル(660)を介した送信に備えるために、エントロピーコーダ(645)によって生成成された、符号化されたビデオシーケンスをバッファリングすることができる。送信機(640)は、ビデオコーダ(603)からの符号化されたビデオデータを、送信される他のデータ、例えば、符号化されたオーディオデータおよび/または補助データストリーム(ソースは図示せず)とマージすることができる。
【0059】
コントローラ(650)は、ビデオエンコーダ(603)の動作を管理することができる。符号化する期間、コントローラ(650)は、各符号化された画像に、特定の符号化された画像タイプを割り当てることができ、これは、それぞれの画像に適用できる符号化技術に影響を与える可能性がある。例えば、画像は、以下の画像タイプのいずれかとして割り当てられることが多いし、即ち、フレーム内画像(I画像)は、シーケンス内の任意の他の画像を予測のソースとして使用せずに、符号化および復号化されることができるものであってもよい。
【0060】
いくつかのビデオコーデックは、独立したデコーダリフレッシュ(Independent Decoder Refresh、「IDR」)画像などの異なるタイプのフレーム内画像を許容する。当業者は、I画像の変種とそれらのアプリケーションおよび機能とを理解している。
【0061】
予測画像(P画像)は、多くとも1つの動きベクトルおよび参照インデックスを使用して各ブロックのサンプル値を予測するフレーム内予測またはフレーム間予測を使用して符号化および復号化され得るものであってもよい。
【0062】
双方向予測画像(B画像)は、多くとも2つの動きベクトルおよび参照インデックスを使用して各ブロックのサンプル値を予測するフレーム内予測またはフレーム間予測を使用して符号化および復号化され得るものであってもよい。同様に、複数の予測画像は、単一のブロックの再構築に、2つ以上の参照画像および関連されたメタデータを使用することができる。
【0063】
ソース画像は、一般的に、複数のサンプルブロック(例えば、それぞれ4×4、8×8、4×8、または16×16個のサンプルのブロック)に空間的に細分され、ブロックごとに符号化されることができる。これらのブロックは、ブロックのそれぞれの画像に適用される符号化割り当てによって決定されるように、他の(既に符号化された)ブロックを参照して予測的に符号化されることができる。例えば、I画像のブロックは、非予測的に符号化されてもよく、またはそれらが同じ画像の既に符号化されたブロックを参照して予測的に符号化されてもよい(空間予測またはフレーム内予測)。P画像の画素ブロックは、1つ前に符号化された参照画像を参照して、空間的予測を介してまたは時間的予測を介して予測的に符号化されてもよい。B画像のブロックは、1つまたは2つ前に符号化された参照画像を参照して、空間的予測を介してまたは時間的予測を介して予測的に符号化されてもよい。
【0064】
ビデオエンコーダ(603)は、例えばITU―T H.265などのような所定のビデオ符号化技術または規格に従って、符号化動作を実行することができる。その動作において、ビデオエンコーダ(603)は、入力ビデオシーケンスにおける時間的と空間的冗長性を利用する予測符号化動作を含む、様々な圧縮動作を実行することができる。したがって、符号化されたビデオデータは、使用されるビデオ符号化技術または規格によって指定された構文に従うことができる。
【0065】
一実施形態では、送信機(640)は、符号化されたビデオとともに、付加的なデータを送信することができる。ソースコーダ(630)は、そのようなデータを、符号化されたビデオシーケンスの一部として含むことができる。付加的なデータは、時間的/空間的/SNR拡張層、冗長画像やスライスなどのような他の形式の冗長データ、補足強化情報(SEI)メッセージ、ビジュアルユーザビリティ情報(VUI)パラメータセットフラグメントなどを含むことができる。
【0066】
ビデオは、時系列で複数のソース画像(ビデオ画像)として捕捉されることができる。フレーム内画像予測(フレーム内予測と略称されることが多い)は、与えられた画像における空間的相関を利用し、フレーム間画像予測は、画像間の(時間的または他の)相関を利用する。一例では、現在画像と呼ばれる、符号化/復号化中の特定の画像がブロックに分割される。現在画像のブロックが、ビデオにおける以前に符号化され、まだバッファリングされている参照画像における参照ブロックに類似している場合、現在画像のブロックは、動きベクトルと呼ばれるベクトルによって符号化されることができる。動きベクトルは、参照画像における参照ブロックを指し、複数の参照画像が使用されている場合、参照画像を識別する3番目の次元を有することができる。
【0067】
いくつかの実施形態では、双方向予測技術は、フレーム間画像予測に使用されることができる。双方向予測技術によれば、例えば、復号化の順で両方とも、ビデオにおける現在画像の前にある(ただし、表示の順でそれぞれ、過去と将来にあるかもしれない)第1および第2参照画像などのような2つの参照画像が使用される。現在画像におけるブロックは、第1参照画像における第1参照ブロックを指す第1動きベクトルと、第2参照画像における第2参照ブロックを指す第2動きベクトルによって符号化されることができる。ブロックは、第1参照ブロックおよび第2参照ブロックの組み合わせによって予測されることができる。
【0068】
さらに、符号化効率を向上させるために、マージモード技術は、フレーム間画像予測で使用されることができる。
【0069】
本開示のいくつかの実施形態によれば、フレーム間画像予測やフレーム内画像予測などのような予測は、ブロックの単位で実行される。例えば、HEVC規格に従って、ビデオ画像のシーケンスにおける画像は、圧縮のために符号化ツリーユニット(CTU:coding tree unit)に分割され、画像におけるCTUは同じサイズ、例えば64×64画素、32×32画素、または16×16画素を有する。一般的に、CTUは、1つの輝度CTBと2つの色度CTBである3つの符号化ツリーブロック(CTB)を含む。各CTUは、再帰的に四分木で1つ以上の符号化ユニット(CU)に分割されてもよい。例えば、64×64画素のCTUは、1つの64×64画素のCU、4つの32×32画素のCU、または16つの16×16画素のCUに分割されることができる。一例では、各CUは、フレーム間予測タイプまたはフレーム内予測タイプなどのようなCUに対する予測タイプを決定するために分析される。CUは、時間的および/または空間的予測可能性に応じて、1つ以上の予測ユニット(PU)に分割される。通常、各PUは、輝度予測ブロック(PB)と2つの色度PBを含む。一実施形態では、符号化(エンコーディング/デコーディング)における予測動作は、予測ブロックの単位で実行される。輝度予測ブロックを予測ブロックの例として使用すると、予測ブロックは、8×8画素、16×16画素、8×16画素、16×8画素などのような画素値(例えば、輝度値)の行列を含む。
【0070】
図7は、本開示の別の実施形態によるビデオエンコーダ(703)の図を示す。ビデオエンコーダ(703)は、ビデオ画像シーケンスにおける現在ビデオ画像内のサンプル値の処理ブロック(例えば、予測ブロック)を受信し、処理ブロックを符号化されたビデオシーケンスの一部である符号化された画像に符号化するように構成される。一例では、ビデオエンコーダ(703)は、
図4の例におけるビデオエンコーダ(403)の代わりに使用される。
【0071】
HEVCの例では、ビデオエンコーダ(703)は、例えば8×8サンプルの予測ブロックなどのような処理ブロックのサンプル値の行列を受信する。ビデオエンコーダ(703)は、例えばレート歪み最適化を使用して、フレーム内モード、フレーム間モード、または双方向予測モードを使用して処理ブロックを符号化するかどうかを決定する。処理ブロックがフレーム内モードで符号化される場合、ビデオエンコーダ(703)は、フレーム内予測技術を使用して、処理ブロックを符号化された画像に符号化することができ、また、処理ブロックがフレーム間モードまたは双方向予測モードで符号化される場合、ビデオエンコーダ(703)は、それぞれフレーム間予測または双方向予測技術を使用して、処理ブロックを符号化された画像に符号化することができる。特定のビデオ符号化技術では、マージモードは、予測値以外にある符号化された動きベクトル成分の利点を利用しない場合に、動きベクトルが1つ以上の動きベクトル予測値から導出されるフレーム間画像予測サブモードにすることができる。特定の他のビデオ符号化技術では、主題ブロックに適用可能な動きベクトル成分が存在する場合がある。一例では、ビデオエンコーダ(703)は、処理ブロックのモードを決定するためのモード決定モジュール(図示せず)などのような他のコンポーネントを含む。
【0072】
図7の例では、ビデオエンコーダ(703)は、
図7に示すように一緒に結合された、フレーム間エンコーダ(730)と、フレーム内エンコーダ(722)と、残差計算器(723)と、スイッチ(726)と、残差エンコーダ(724)と、汎用コントローラ(721)と、エントロピーエンコーダ(725)とを含む。
【0073】
フレーム間エンコーダ(730)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、そのブロックを参照画像(例えば、前の画像と後の画像におけるブロック)内の1つ以上の参照ブロックと比較し、フレーム間予測情報(例えば、フレーム間符号化技術による冗長情報説明、動きベクトル、マージモード情報)を生成して、任意の適切な技術を使用して、フレーム間予測情報に基づいてフレーム間予測結果(例えば、予測されたブロック)を計算するように構成される。いくつかの例では、参照画像は、復号化された参照画像であり、それが符号化されたビデオ情報に基づいて復号化されたものである。
【0074】
フレーム内エンコーダ(722)は、現在ブロック(例えば、処理ブロック)のサンプルを受信し、いくつかの場合では、そのブロックを同じ画像で既に符号化されたブロックと比較し、変換後に量子化された係数を生成して、いくつかの場合では、フレーム内予測情報(例えば、1つ以上のフレーム内符号化技術によるフレーム内予測方向情報)を生成するように構成される。一例では、フレーム内エンコーダ(722)は、フレーム内予測情報と、同じ画像における参照ブロックとに基づいて、フレーム内予測結果(例えば、予測されたブロック)も計算する。
【0075】
汎用コントローラ(721)は、汎用制御データを決定し、汎用制御データに基づいてビデオエンコーダ(703)の他のコンポーネントを制御するように構成される。一例では、汎用コントローラ(721)は、ブロックのモードを決定し、そのモードに基づいて制御信号をスイッチ(726)に提供する。例えば、モードがフレーム内である場合、汎用コントローラ(721)は、残差計算器(723)によって使用されるフレーム内モード結果を選択するように、スイッチ(726)を制御し、フレーム内予測情報を選択して、そのフレーム内予測情報をコードストリームに含めるように、エントロピーエンコーダ(725)を制御する。また、モードがフレーム間モードである場合、汎用コントローラ(721)は、残差計算器(723)によって使用されるフレーム間予測結果を選択するように、スイッチ(726)を制御し、フレーム間予測情報を選択して、そのフレーム間予測情報をコードストリームに含めるように、エントロピーエンコーダ(725)を制御する。
【0076】
残差計算器(723)は、受信されたブロックとフレーム内エンコーダ(722)またはフレーム間エンコーダ(730)から選択された予測結果との間の差(残差データ)を計算するように構成される。残差エンコーダ(724)は、残差データに基づいて動作して、残差データを符号化することで変換係数を生成するように構成される。一例では、残差エンコーダ(724)は、周波数領域で残差データを変換し、変換係数を生成するように構成される。次に、変換係数は量子化処理を受けて、量子化された変換係数が得られる。様々な実施形態では、ビデオエンコーダ(703)はまた、残差デコーダ(728)も含む。残差デコーダ(728)は、逆変換を実行し、復号化された残差データを生成するように構成される。復号化された残差データは、フレーム内エンコーダ(722)およびフレーム間エンコーダ(730)によって適切に使用されることができる。例えば、フレーム間エンコーダ(730)は、復号化された残差データおよびフレーム間予測情報に基づいて、復号化されたブロックを生成することができ、フレーム内エンコーダ(722)は、復号化された残差データおよびフレーム内予測情報に基づいて、復号化されたブロックを生成することができる。復号化されたブロックは、復号化された画像を生成するために適切に処理され、いくつかの例では、復号化された画像は、メモリ回路(図示せず)でバッファされ、参照画像として使用されることができる。
【0077】
エントロピーエンコーダ(725)は、符号化されたブロックを含むようにビットストリームをフォーマットするように構成される。エントロピーエンコーダ(725)は、HEVC規格などのような適切な規格に従って様々な情報を含むように構成される。一例では、エントロピーエンコーダ(725)は、汎用制御データ、選択された予測情報(例えば、フレーム内予測情報またはフレーム間予測情報)、残差情報、およびビットストリーム内の他の適切な情報を含むように構成される。開示された主題によれば、フレーム間モードまたは双方向予測モードのマージサブモードでブロックを符号化する場合、残差情報はないということに留意されたい。
【0078】
図8は、本開示の別の実施形態によるビデオデコーダ(810)の図を示す。ビデオデコーダ(810)は、符号化されたビデオシーケンスの一部である符号化された画像を受信し、符号化された画像を復号化して再構築された画像を生成するように構成される。一例では、ビデオデコーダ(810)は、
図4の例におけるビデオデコーダ(410)の代わりに使用される。
【0079】
図8の例では、ビデオデコーダ(810)は、
図8に示されるように一緒に結合された、エントロピーデコーダ(871)と、フレーム間デコーダ(880)と、残差デコーダ(873)と、再構築モジュール(874)と、フレーム内デコーダ(872)とを含む。
【0080】
エントロピーデコーダ(871)は、符号化された画像から、符号化された画像を構成する構文要素を表す特定のシンボルを再構築するように構成されることができる。このようなシンボルは、例えば、ブロックを符号化するためのモード(例えば、フレーム内、フレーム間、双方向予測、後者の2つのマージサブモードまたは別のサブモード)と、フレーム内デコーダ(872)またはフレーム間デコーダ(880)による予測に使用される特定のサンプルまたはメタデータをそれぞれ識別できる予測情報(例えば、フレーム内予測情報またはフレーム間予測情報など)と、例えば量子化された変換係数の形式の残差情報などとを含む。一例では、予測モードがフレーム間予測モードまたは双方向予測モードである場合、フレーム間予測情報は、フレーム間デコーダ(880)に提供される。そして、予測タイプがフレーム内予測タイプである場合、フレーム内予測情報は、フレーム内デコーダ(872)に提供される。残差情報は、逆量子化を受けて、残差デコーダ(873)に提供されることができる。
【0081】
フレーム間デコーダ(880)は、フレーム間予測情報を受信し、フレーム間予測情報に基づいてフレーム間予測結果を生成するように構成される。
【0082】
フレーム内デコーダ(872)は、フレーム内予測情報を受信し、フレーム内予測情報に基づいて予測結果を生成するように構成される。
【0083】
残差デコーダ(873)は、逆量子化を実行して、逆量子化された変換係数を抽出し、その逆量子化された変換係数を処理して、残差を周波数領域から空間領域に変換するように構成される。残差デコーダ(873)はまた、特定の制御情報(量子化器パラメータ(QP)を含むように)も必要とする場合があり、その情報は、エントロピーデコーダ(871)によって提供される場合がある(これが低ボリューム制御情報のみであるため、データ経路は図示されていない)。
【0084】
再構築モジュール(874)は、空間領域において、残差デコーダ(873)による出力としての残差と、(場合によっては、フレーム間予測モジュールまたはフレーム内予測モジュールによる出力としての)予測結果とを組み合わせて、再構築されたブロックを形成するように構成され、再構築されたブロックは、再構築された画像の一部とすることができ、その後、再構築された画像は、再構築されたビデオの一部とすることができる。それは、視覚的品質を改善するために、デブロッキング動作などのような他の適切な動作を実行することができる、ということに留意されたい。
【0085】
ビデオエンコーダ(403)、(603)および(703)と、ビデオデコーダ(410)、(510)および(810)とは、任意の適切な技術を使用して実現されることができる、ということに留意されたい。一実施形態では、ビデオエンコーダ(403)、(603)および(703)と、ビデオデコーダ(410)、(510)および(810)とは、1つ以上の集積回路を使用して実現されることができる。別の実施形態では、ビデオエンコーダ(403)、(603)および(703)と、ビデオデコーダ(410)、(510)および(810)とは、ソフトウェア命令を実行する1つ以上のプロセッサを使用して実装されることができる。
【0086】
本開示の態様は、フレーム内画像ブロック補償のための技術を提供する。
【0087】
異なる画像からのブロックベースの補償は、動き補償と呼ばれる。同様に、ブロック補償は、同じ画像内の以前に再構築された領域から実行されることもできる。同じ画像内の再構築された領域からのブロックベースの補償は、フレーム内画像ブロック補償またはフレーム内ブロックコピーと呼ばれる。現在ブロックと同じ画像内の参照ブロックとの間のオフセットを示すシフトベクトルは、ブロックベクトル(または略してBV)と呼ばれる。任意の値(正または負、xまたはy方向のいずれか)にすることができる、動き補償における動きベクトルとは異なり、ブロックベクトルは、いくつかの制約を有し、これにより、参照ブロックが利用可能であり、既に再構築されたことが保証される。また、いくつかの例では、並列処理を考慮して、タイル境界または波面ラダー形状境界であるいくつかの参照領域が除外されている。
【0088】
ブロックベクトルの符号化は、明示的または暗黙的のいずれかであってもよい。明示的モードでは、ブロックベクトルとその予測器との間の差がシグナルで通知され、暗黙的モードでは、ブロックベクトルは、マージモードの動きベクトルと同様の方法で、予測器(ブロックベクトル予測器と呼ばれる)から復元される。いくつかの実現では、ブロックベクトルの解像度は、整数の位置に制限され、他のシステムでは、ブロックベクトルは、小数の位置を指すように許可される。
【0089】
いくつかの例では、ブロックレベルでのフレーム内ブロックのコピーの使用は、参照インデックスアプローチを使用してシグナルで通知されることができる。復号化中の現在画像は、参照画像として扱われる。一例では、このような参照画像は、参照画像のリストの最後の位置に置かれる。この特別な参照画像はまた、復号化された画像のバッファ(DPB)などのようなバッファ内の他の時間参照画像と一緒に管理される。
【0090】
フレーム内ブロックコピーにもいくつかの変化があり、例えば、反転されたフレーム内ブロックコピー(参照ブロックは、現在ブロックを予測するために使用される前に、水平または垂直方向に反転される)、またはラインベースのフレーム内ブロックコピー(M×N符号化ブロック内の各補償ユニットは、M×1または1×Nのラインである)である。
【0091】
図9は、本開示の一実施形態によるフレーム内ブロックコピーの例を示す図。現在画像(900)は復号化中である。現在画像(900)は、再構築された領域(910)(グレー領域)と復号化されるべき領域(920)(白い領域)を含む。現在ブロック(930)は、デコーダによって再構築中である。現在ブロック(930)は、再構築された領域(910)にある参照ブロック(940から再構築されることができる。参照ブロック(940)と現在ブロック(930)との間の位置オフセットは、ブロックベクトル(950)(またはBV(950))と呼ばれる。
【0092】
伝統的に、動きベクトル解像度は、例えば、H.264/AVCおよびHEVCのメインプロファイルにおける1/4画素(ピクセル)精度または1/8画素精度などの固定値であった。HEVC SCCでは、動きベクトルの解像度は、1整数画素または1/4画素に選択されることができる。切り替えは、各スライスで行われる。換言すれば、スライス内の全ての動きベクトルの解像度は同じである。
【0093】
その後のいくつかの発展では、動きベクトルの解像度は、1/4画素、1整数画素または4整数画素のいずれかであり得る。4整数画素の例では、各ユニットは、4つの整数画素を表す。したがって、シンボル「0」から「1」までの間に4つの整数画素の距離が存在している。さらに、適応性は、ブロックレベルで発生し、つまり、動きベクトルは、ブロックごとに異なる解像度を選択することができる。
【0094】
本開示の各態様は、画像及びビデオ圧縮における動きベクトル解像度及びブロックベクトル解像度の適応方法を提供する。
【0095】
ブロックベクトルは、通常、整数解像度で信号で通知される。したがって、フレーム内ブロックコピーがフルフレーム範囲に拡張される場合、現在の復号されている画像の全ての再構築された領域は、参照として使用されることができるが、遠距離参照の場合、ブロックベクトル差分を符号化するコストは高くなってします。適応ブロックベクトル差分解像度は、ブロックベクトル差分の符号化を改善するために使用されることができる。
【0096】
いくつかの例では、複数のブロックベクトル解像度がブロックベクトルの符号化に使用され、また、ブロックベクトル解像度がブロックレベルで切り替えられることができる。さらに、2つを超える可能な解像度が使用される場合、複数のブロックベクトル解像度のうちのどれが現在ブロックのブロックベクトル差分に使用されるかを知らせるために、1-bin(バイナリビット)よりも多く含むことができるシグナリングフラグが使用される。可能な解像度には、1/8画素、1/4画素、1/2画素、1整数画素、2整数画素、4整数画素、8整数画素などが含まれるが、これらに限定されていない。X整数画素は、シンボルの各最小ユニットがX個の整数位置を表す、ということを意味する。例えば、2整数画素は、シンボルの各最小ユニットが2つの整数位置を表す、ということを意味し、4整数画素は、シンボルの各最小ユニットが4つの整数位置を表す、ということを意味し、8整数画素は、シンボルの各最小ユニットが8つの整数位置を表す、ということを意味する。
【0097】
一実施形態では、1組の解像度が使用されることができ、当該組の解像度のうちのどれを使用するかを示すように、フラグが信号で通知されることができる。一例では、ブロックベクトル差分解像度セットには、1整数画素および2整数画素などの2つの解像度が含まれる。次に、1-bin(1バイナリ)フラグは、2つの可能な解像度から1つの解像度を選択するように、信号で通知される。別の例では、ブロックベクトル解像度セットには、1整数画素および4整数画素が含まれる。次に、1-binフラグは、2つの可能な解像度から1つを選択するように、信号で通知される。
【0098】
別の例では、ブロックベクトル差分解像度セットには、1整数画素、2整数画素及び4整数画素が含まれる。1-binフラグは、1整数画素解像度が使用されるかどうかを示すように信号で通知される。1整数画素が使用されない場合、別の1-binフラグは、4整数画素解像度が選択されるかどうかを示すように信号で通知される。1-binまたは2-binを使用して3つの可能な解像度からの解像度選択を示すのと同様の方法で、異なる2値化の実施形態が導出され得る。
【0099】
別の例では、ブロックベクトル差分解像度セットには、1整数画素、4整数画素及び8整数画素が含まれる。1-binフラグは、1整数画素解像度が使用されるかどうかを示すように信号で通知される。1整数画素が使用されない場合、別の1-binフラグは、4整数画素解像度が選択されるどうか否かを示すように信号で通知される。1-bin又は2-binを使用して3つの可能な解像度からの解像度選択を示すのと同様の方法で、異なる2値化の実施形態が導出され得る。
【0100】
別の例では、ブロックベクトル差分のxおよびy成分は、異なる解像度を使用することができる。例えば、ブロックベクトル差分のx成分は、1整数画素解像度であり、y成分は、4整数画素解像度である。明示的なシグナリング(成分ごとに1つのフラグ)または推論によって成分ごとに解像度を選択することができる。例えば、現在ブロックのブロックベクトル予測値の大きさを使用して、解像度を推定することができる。一例では、ブロックベクトル予測値の成分の大きさが閾値よりも大きい場合、当該成分のブロックベクトル差分解像度は、より大きいステップ解像度、例えば4整数画素解像度を使用し、そうではない場合、当該成分は、より小さいステップ解像度、例えば1整数画素解像度を使用する。
【0101】
別の例では、ブロックベクトル差分のxおよびy成分は、異なる解像度を使用することができる。デフォルトでは、2つの成分は、例えば1整数画素解像度などの固定解像度を使用する。成分に関する条件は、解像度を決定するためにそれぞれ設定される。例えば、一部の成分に関する条件が満たされる場合、各成分は、推論によって異なる解像度に切り替えられることができる。予測値の成分も、対応する解像度に量子化されるか、または元の解像度を変更せずに維持される。例えば、1つの成分に関する条件は、現在ブロックのブロックベクトル予測値の大きさに関連している。各成分における現在ブロックのブロックベクトル予測値の大きさを評価することにより、当該成分の解像度を推定することができる。例えば、ブロックベクトル予測値の成分の大きさが閾値よりも大きい場合、当該成分のブロックベクトル差分解像度は、例えば4整数画素解像度などの、より大きいステップ解像度を使用し、そうではない場合、当該成分は、例えば1整数画素解像度などの、デフォルトのステップ解像度を使用する。1つの特定の例では、デフォルトの解像度は1整数画素である。ブロックベクトル予測値は(-21,-3)に設定され、各成分について4整数画素解像度を使用するための閾値を20にする。復号化されたブロックベクトル差分シンボルは(2,2)である。ルールによれば、x成分は4整数画素解像度を使用し、y成分は1整数画素解像度を使用する。そして、予測値は、(-20,-3)(-21は、-20に丸められる)になり、また、ブロックベクトル差分は、(8,2)(x成分のための4整数画素およびy成分のための1整数画素による)になる。この例では、最終的に復号化されたブロックベクトルは、(-12,-1)である。
【0102】
上記の例における同様の導出を使用して、同様の例を導出することができる。一実施形態では、可能な解像度のセットが形成され、1つ以上のシグナリングフラグが、解像度の選択をブロックごとに示すために使用される。上述の例では、シグナリングフラグのバイナリビット(bins)は、コンテキスト符号化されてもよく、バイパス符号化されてもよい。コンテキスト符号化が使用される場合、現在ブロックの空間的に隣接するブロックのブロックベクトル解像度は、コンテキストモデリングのために使用されることができる。あるいは、最後的に符号化されたブロックベクトルの解像度は使用されることができる。
【0103】
本開示の別の態様によれば、ブロックベクトル予測値は、通常、隣接するブロックの以前に符号化された1つのブロックベクトルから現在ブロックに導出される。予測値として使用される場合、以前に復号化されたブロックベクトルは、現在ブロックの解像度とは異なる解像度を有することができる。本開示は、この問題を解決する方法を提供する。
【0104】
一実施形態では、ブロックベクトル予測値の元の解像度は不変のままである。復号化されたブロックベクトル差分は、そのターゲット解像度で、ブロックベクトル予測値に加算されることで、最終的に復号化されたブロックベクトルが取得される。したがって、最終的に復号化されたブロックベクトルは、2つの解像度(ブロックベクトル予測値の元の解像度と、復号化されたブロックベクトル差分のターゲット解像度と)のうちの高い方になる。例えば、ブロックベクトル予測値は、1整数画素解像度を有するベクトル(-11,0)である。復号化されたブロックベクトル差分は、4整数画素解像度を有するベクトル(-4,0)である。復号化されたブロックベクトルは、1整数画素解像度を有するベクトル(-15,0)になる。
【0105】
別の実施形態では、ブロックベクトル予測値の元の解像度は、現在ブロックのターゲット解像度に丸められる。復号化されたブロックベクトル差分は、そのターゲット解像度で、ブロックベクトル予測値に加算される。したがって、最終的に復号化されたブロックベクトルは、2つの解像度のうちの低い方になる。例えば、ブロックベクトル予測値は、1整数画素解像度を有するベクトル(-11,0)である。復号化されたブロックベクトル差分は、4整数画素解像度を有するベクトル(-4,0)である。ブロックベクトル予測値は、復号化されたブロックベクトル差分に加算される前に、まず、4整数画素解像度を有するベクトル(-12,0)に丸められる。復号化されたブロックベクトルは、4整数画素解像度を有するベクトル(-16,0)になる。
【0106】
様々な丸め技術は使用されることができる。一例では、ベクトルは、差分値に応じて(整数シンボル値に対応する)最も近い整数に丸められることができる。例えば、1整数画素解像度を有する(-11,0)は、4整数画素解像度を有する(-12,0)に丸められ、1整数画素解像度を有する(-13,0)も、4整数画素解像度を有する(-12,0)に丸められる。
【0107】
別の例では、現在の値よりも小さくない(整数シンボル値に対応する)最も近い整数に丸められるように、切り上げ演算(ceiling operation、シーリング演算)がベクトルに適用される。例えば、1整数画素解像度を有する(-11,0)は、4整数画素解像度を有する(-8,0)に丸められ、1整数画素解像度を有する(-13,0)も、4整数画素解像度を有する(-12,0)に丸められる。
【0108】
別の例では、現在の値よりも大きくない(整数シンボル値に対応する)最も近い整数に丸められるように、切り下げ演算(flooring operation、フローリング操作)がベクトルに適用される。例えば、1整数画素解像度を有する(-11,0)は、4整数画素解像度を有する(-12,0)に丸められ、1整数画素解像度を有する(-13,0)も、4整数画素解像度を有する(-16,0)に丸められる。
【0109】
別の例では、ベクトルは、ゼロ方向に向かって丸められる。例えば、1整数画素解像度を有する(-11,0)は、4整数画素解像度を有する(-8,0)に丸められ、1整数画素解像度を有する(11,-5)は、4整数画素解像度を有する(8,-4)に丸められる。
【0110】
本開示の態様は、複数の解像度を有する境界制約を処理するための技術をさらに提供する。一例では、ブロックベクトルは、フレーム内画像ブロック補償の使用が許可されている参照領域を指すように制約される。前記制約には、許可された参照領域の画像/スライス/タイル(picture/slice/tile)および波面境界(wavefront boundaries)が含まれることができる。複数の解像度が使用される場合、特に1整数画素解像度よりも大きい解像度が使用される場合、境界制約は、正しく処理される必要がある。
【0111】
一実施形態では、ブロックベクトル(ブロックベクトル予測値+差分値)が参照領域境界の外側にある場所を指す場合、クリッピング操作(clipping operation)が実行されて、ブロックベクトルの1つ又は2つの成分が境界のエッジに戻すように変更され、これにより、変更されたブロックベクトルが有効なものになる。クリッピング操作は、復号化されたブロックベクトルの解像度を考慮せずに実行されることができる。したがって、変更後、ブロックベクトルの解像度は、変更前の解像度と異なる場合がある。
【0112】
別の実施形態では、ブロックベクトル(ブロックベクトル予測値+差分値)が参照領域境界の外側にある場所を指す場合、クリッピング操作が実行されて、ブロックベクトルの1つ又は2つの成分が境界のエッジに戻すように変更され、これにより、変更されたブロックベクトルが有効なものになる。クリッピング操作は、復号化されたブロックベクトルの解像度を考慮して実行されることができる。したがって、変更後、ブロックベクトルの解像度は、変更前と同じままである。
【0113】
別の実施形態では、ブロックベクトル(ブロックベクトル予測値+差分値)が参照領域境界の外側にある場所を指す場合、境界の外側の画素は、境界で画素を水平または垂直に拡張することによって、表示されることができる。
【0114】
別の実施形態では、ブロックベクトル(ブロックベクトル予測値+差分値)が参照領域境界の外側にある場所を指す場合、ブロックベクトル差分の解像度は、可能な限り最高の精度に変更される。例えば、ブロックベクトル予測値はベクトル(0,0)であり、また、ブロックベクトル差分は4整数画素解像度のシンボル(-5,0)である。可能な限り最高の精度は1整数画素である。復号化されたブロックベクトルが4整数画素解像度である場合、ブロックベクトルは(-20,0)になる。(-20,0)が左画像境界の外側にある場所を指す場合、復号化されたブロックベクトル差分は1整数画素解像度に変更され、これにより、復号化されたブロックベクトルは(-5,0)になり、この場合、それは有効なベクトルである。この変更は、ブロックベクトルを境界内で移動するのを助けることができる。
【0115】
本開示の別の態様によれば、フレーム内画像ブロック補償のためのブロックベクトルにおける複数の解像度を処理するための技術は、フレーム間画像ブロック補償のための動きベクトルにも同様に適用されることができる。いくつかの実施形態では、複数の動きベクトル解像度が動きベクトルの符号化に使用され、動きベクトル解像度はブロックレベルで切り替えられることができる。さらに、2つを超える可能な解像度が使用される場合、複数の動きベクトル解像度のうちのどれが現在ブロックの動きベクトル差分に使用されるかを知らせるために、1-binを超えることができるシグナリングフラグが使用される。可能な解像度には、1/8画素、1/4画素、1/2画素、1整数画素、2整数画素、4整数画素、8整数画素などが含まれるが、これらに限定されない。X整数画素は、シンボルの各最小ユニットがX個の整数位置を表す、ということを意味する。例えば、2整数画素は、シンボルの各最小ユニットが2つの整数位置を表す、ということを意味し、4整数画素は、シンボルの各最小ユニットが4つの整数位置を表す、ということを意味し、8整数画素は、シンボルの各最小ユニットが8つの整数位置を表す、ということを意味する。
【0116】
一例では、動きベクトル差分のxおよびy成分は、異なる解像度を使用することができる。例えば、動きベクトル差分のx成分は、1整数画素解像度であり、y成分は、4整数画素解像度である。明示的なシグナリング(成分ごとに1つのフラグ)または推論によって成分ごとに解像度を選択することができる。例えば、現在ブロックの動きベクトル予測値の大きさを使用して、解像度を推定することができる。一例では、動きベクトル予測値の成分の大きさが閾値よりも大きい場合、当該成分の動きベクトル差分解像度は、より大きいステップ解像度、例えば4整数画素解像度を使用し、そうではない場合、当該成分は、より小さいステップ解像度、例えば1整数画素解像度を使用する。
【0117】
別の例では、動きベクトル差分のxおよびy成分は、異なる解像度を使用することができる。デフォルトでは、2つの成分は、例えば1/4画素解像度などの固定解像度を使用する。成分に関する成分条件は、解像度を決定するためにそれぞれ設定される。例えば、一部の成分に関する条件が満たされる場合、各成分は、推論によって異なる解像度に切り替えられることができる。予測値の成分も、対応する解像度に量子化されるか、または元の解像度を変更せずに維持される。例えば、1つの成分に関する条件は、現在ブロックの動きベクトル予測値の大きさに関連している。各成分における現在ブロックの動きベクトル予測値の大きさを評価することにより、当該成分の解像度を推定することができる。例えば、動きベクトル予測値の成分の大きさが閾値よりも大きい場合、当該成分の動きベクトル差分解像度は、例えば4整数画素解像度などの、より大きいステップ解像度を使用し、そうではない場合、当該成分は、例えば1/4画素解像度などの、デフォルトのステップ解像度を使用する。1つの特定の例では、デフォルトの解像度は1/4画素である。動きベクトル予測値は(-20.75,-3.75)に設定され、各成分について1整数画素解像度を使用するための閾値を5にする。復号化された動きベクトル差分シンボルは(2,2)である。ルールによれば、x成分は1整数画素解像度を使用し、y成分は1/4画素解像度を使用する。そして、動きベクトル予測値は(-20,-3.75)(例えば、-20.75はゼロ方向に向かって-20に丸められる)になり、また、ブロックベクトル差分は、(2,0.5)(x成分のための1整数画素およびy成分のための1/4画素による)になる。この例では、最終的に復号化されたブロックベクトルは(-18,-3.25)である。
【0118】
図10は、本開示の実施形態によるプロセス(1000)を概説するフローチャートを示す。プロセス(1000)は、フレーム内モードで符号化されたブロックの再構築に使用されることができ、再構築中のブロックの予測ブロックを生成することができる。様々な実施形態では、プロセス(1000)は、端末デバイス(310)、(320)、(330)および(340)における処理回路、ビデオエンコーダ(403)の機能を実行する処理回路、ビデオデコーダ(410)の機能を実行する処理回路、ビデオデコーダ(510)の機能を実行する処理回路、フレーム内予測モジュール(552)の機能を実行する処理回路、ビデオエンコーダ(603)の機能を実行する処理回路、予測器(635)の機能を実行する処理回路、フレーム内エンコーダ(722)の機能を実行する処理回路、フレーム内デコーダ(872)の機能を実行する処理回路などの処理回路によって実行される。いくつかの実施形態では、プロセス(1000)は、ソフトウェア命令によって実現され、したがって、処理回路がソフトウェア命令を実行する場合、処理回路は、プロセス(1000)を実行する。このプロセスは(S1001)から始まり、(S1010)に進む。
【0119】
(S1010)では、符号化されたビデオビットストリームから、現在ブロックの予測情報を復号化する。予測情報は、フレーム内ブロックコピーモードを示す。
【0120】
(S1020)では、複数の候補解像度からなるセットから、現在ブロックのブロックベクトル差分の解像度を選択する。一例では、解像度フラグを受信し、当該フラグに基づいて解像度を選択する。別の例では、推論に基づいて解像度を決定する。
【0121】
(S1030)では、選択されたブロックベクトル差分の解像度と、現在ブロックのブロックベクトル予測値とに基づいて、現在ブロックのブロックベクトルを決定する。
【0122】
(S1040)では、決定されたブロックベクトルに基づいて、現在ブロックのサンプルを再構築する。そして、当該プロセスは(S1099)に進んで終了する。
【0123】
上記の技術は、コンピュータ読み取り可能な命令を使用してコンピュータソフトウェアとして実現され、また、物理的に1つ以上のコンピュータ読み取り可能な媒体に記憶されることができる。例えば、
図11は、開示された主題の特定の実施形態を実現するのに適したコンピュータシステム(1100)を示す。
【0124】
コンピュータソフトウェアは、任意の適切なマシンコードまたはコンピュータ言語を使用して符号化されてもよく、アセンブリ、コンパイル、リンクなどの機構によって命令を含むコードを作成してもよいし、この命令は、1つ以上のコンピュータ中央処理ユニット(CPU)、グラフィック処理ユニット(GPU)などによって直接的に実行されてもよく、または解釈、マイクロコードなどによって実行されてもよい。
【0125】
命令は、例えば、パーソナルコンピュータ、タブレットコンピュータ、サーバ、スマートフォン、ゲームデバイス、オブジェクトネットワークデバイス(internet of things devices)などを含む、様々なタイプのコンピュータまたはそのコンポーネントで実行されてもよい。
【0126】
図11に示されるコンピュータシステム(1100)のコンポーネントは、本質的に例示的なものであり、本開示の実施形態を実現するコンピュータソフトウェアの使用範囲または機能に関するいかなる制限も示唆することが意図されていない。コンポーネントの構成は、コンピュータシステム(1100)の例示的な実施形態に示されているコンポーネントのいずれかまたは組み合わせに関連する任意の依存性または要件を有すると解釈されるべきではない。
【0127】
コンピュータシステム(1100)は、いくつかのヒューマンインターフェース入力デバイスを含むことができる。このようなヒューマンインターフェース入力デバイスは、触覚入力(例えば、キーストローク、スワイプ、データグローブの動きなど)、オーディオ入力(例えば、音声、拍手など)、視覚入力(例えば、ジェスチャーなど)、嗅覚入力(図示せず)によって、1人以上のユーザによる入力に応答することができる。ヒューマンインタフェースデバイスはまた、例えばオーディオ(例えば、音声、音楽、環境音など)、画像(例えば、スキャンされた画像、静止画像カメラから得られた写真画像など)、ビデオ(例えば、2次元ビデオ、立体映像を含む3次元ビデオなど)などの、人間による意識的な入力に必ずしも直接関連しているとは限らない、特定のメディアを捕捉するために使用されることもできる。
【0128】
ヒューマンインタフェース入力デバイスは、キーボード(1101)、マウス(1102)、トラックパッド(1103)、タッチスクリーン(1110)、データグローブ(図示せず)、ジョイスティック(1105)、マイクロホン(1106)、スキャナ(1107)、カメラ(1108)の1つまたは複数を含むことができる(そのうちの1つだけが図示された)。
【0129】
コンピューターシステム(1100)はまた、いくつかのヒューマンインターフェース出力デバイスを含むことができる。そのようなヒューマンインターフェース出力デバイスは、例えば、触覚出力、音、光、および嗅覚/味覚によって、1人以上のユーザの感覚を刺激することができる。このようなヒューマンインターフェース出力デバイスは、触覚出力デバイス(例えば、タッチスクリーン(1110)、データグローブ(図示せず)またはジョイスティック(1105)による触覚フィードバックであるが、入力デバイスとして作用しない触覚フィードバックデバイスであってもよい)、オーディオ出力デバイス(例えば、スピーカ(1109)、ヘッドホン(図示せず))、視覚出力デバイス(例えば、CRTスクリーン、LCDスクリーン、プラズマスクリーン、OLEDスクリーンを含むスクリーン(1110)であり、各々は、タッチスクリーン入力機能を備えてもよく、あるいは備えていなくてもよいし、各々は、触覚フィードバック機能を備えてもよく、あるいは備えていなくてもよいし、これらのいくつかは、例えば、ステレオグラフィック出力、仮想現実メガネ(図示せず)、ホログラフィックディスプレイとスモークタンク(図示せず)、およびプリンタ(図示せず)などによって、2次元の視覚出力または3次元以上の視覚出力を出力することができる。
【0130】
コンピューターシステム(1100)は、CD/DVDを有するCD/DVD ROM/RW(1120)を含む光学媒体または類似の媒体(1121)、サムドライブ(1122)、リムーバブルハードドライブまたはソリッドステートドライブ(1123)、テープおよびフロッピーディスク(図示せず)などのようなレガシー磁気媒体、セキュリティドングル(図示せず)などのような特殊なROM/ASIC/PLDベースのデバイスなどのような、人間がアクセス可能な記憶デバイスおよびそれらに関連する媒体を含むことができる。
【0131】
当業者はまた、ここで開示されている主題に関連して使用される「コンピュータ読み取り可能な媒体」という用語は、伝送媒体、搬送波、または他の一時的な信号を包含しないことを理解すべきである。
【0132】
コンピューターシステム(1100)はまた、一つ以上の通信ネットワークへのインターフェースを含むことができる。ネットワークは、例えば、無線、有線、光学的であってもよい。ネットワークはさらに、ローカルネットワーク、広域ネットワーク、大都市圏ネットワーク、車両用ネットワークおよび産業用ネットワーク、リアルタイムネットワーク、遅延耐性ネットワークなどであってもよい。ネットワークの例は、イーサネット(登録商標)、無線LAN、セルラーネットワーク(GSM(登録商標)、3G、4G、5G、LTEなど)などのLAN、テレビケーブルまたは無線広域デジタルネットワーク(有線テレビ、衛星テレビ、地上放送テレビを含む)、車両用および産業用ネットワーク(CANBusを含む)などを含む。いくつかのネットワークは、一般に、いくつかの汎用データポートまたは周辺バス(1149)(例えば、コンピュータシステム(1100)のUSBポート)に接続された外部ネットワークインターフェースアダプタが必要であり、他のシステムは、通常、以下に説明するようにシステムバスに接続することによって、コンピュータシステムシステム(1100)のコアに統合される(例えば、PCコンピュータシステムへのイーサネットインターフェース、またはスマートフォンコンピュータシステムへのセルラーネットワークインターフェース)。これらのネットワークのいずれかを使用して、コンピュータシステム(1100)は、他のエンティティと通信することができる。このような通信は、単方向の受信のみ(例えば、放送TV)、単方向の送信のみ(例えば、Canbusから特定のCanbusデバイスへ)、あるいは、双方向の、例えばローカルまたは広域デジタルネットワークを使用して他のコンピュータシステムへの通信であってもよい。上述のように、特定のプロトコルおよびプロトコルスタックは、それらのネットワークおよびネットワークインターフェースのそれぞれで使用されることができる。
【0133】
上記のヒューマンインターフェースデバイス、ヒューマンアクセス可能な記憶デバイス、およびネットワークインターフェースは、コンピューターシステム(1100)のコア(1140)に接続されることができる。
【0134】
コア(1140)は、1つ以上の中央処理ユニット(CPU)(1141)、グラフィック処理ユニット(GPU)(1142)、フィールドプログラマブルゲートアレイ(FPGA)(1143)の形式の専用プログラマブル処理ユニット、特定のタスクのためのハードウェア加速器(1144)などを含むことができる。これらのデバイスは、リードオンリーメモリ(ROM)(1145)、ランダムアクセスメモリ(1146)、例えば内部の非ユーザアクセスハードディスクドライブ、SSDなどの内部大容量ストレージ(1147)などとともに、システムバス(1148)を介して接続されてもよい。いくつかのコンピュータシステムでは、付加的なCPU、GPUなどによって拡張を可能にするために、システムバス(1148)に1つ以上の物理的プラグの形でアクセスすることができる。周辺デバイスは、コアのシステムバス(1148)に直接的に接続されてもよく、または周辺バス(1149)を介して接続されてもよい。周辺バスのアーキテクチャは、外部コントローラインターフェース(PCI)、汎用シリアルバス(USB)などを含む。
【0135】
CPU(1141)、GPU(1142)、FPGA(1143)、および加速器(1144)は、いくつかの命令を実行することができ、これらの命令を組み合わせて上述のコンピュータコードを構成することができる。そのコンピュータコードは、ROM(1145)またはRAM(1146)に記憶されることができる。また、一時的なデータは、RAM(1146)に記憶されることができる一方、永久的なデータは、例えば内部大容量ストレージ(1147)に記憶されることができる。1つ以上のCPU(1141)、GPU(1142)、大容量ストレージ(1147)、ROM(1145)、RAM(1146)などと密接に関連することができる、高速ストレージを使用することにより、任意のメモリデバイスに対する高速記憶および検索が可能になる。
【0136】
コンピュータ読み取り可能な媒体は、様々なコンピュータ実行された動作を実行するためのコンピュータコードを有することができる。媒体およびコンピュータコードは、本開示の目的のために特別に設計および構成されたものであってもよく、またはコンピュータソフトウェア分野の技術者によって知られ、利用可能な媒体およびコードであってもよい。
【0137】
限定ではなく例として、アーキテクチャ(1100)、特にコア(1140)を有するコンピュータシステムは、1つ以上の有形な、コンピュータ読み取り可能な媒体に具体化されたソフトウェアを実行する、(CPU、GPU、FPGA、加速器などを含む)プロセッサとして機能を提供することができる。このようなコンピュータ読み取り可能な媒体は、上記のユーザがアクセス可能な大容量メモリに関連する媒体であり、コア内部大容量ストレージ(1147)またはROM(1145)などの、不揮発性コア(1140)を有する特定のストレージであってもよい。本開示の様々な実施形態を実現するソフトウェアは、そのようなデバイスに記憶され、コア(1140)によって実行されてもよい。コンピュータ読み取り可能な媒体は、特定のニーズに応じて、1つ以上のメモリデバイスまたはチップを含むことができる。このソフトウェアは、コア(1140)、具体的にはその中のプロセッサ(CPU、GPU、FPGAなどを含む)に、RAM(1146)に記憶されているデータ構造を定義することと、ソフトウェアによって定義されたプロセスに従ってこのようなデータ構造を変更することとを含む、ここで説明された特定のプロセスまたは特定のプロセスの特定の部分を実行させることができる。加えてまたは代替として、コンピュータシステムは、ロジックハードウエアまたは他の方式で回路(例えば、アクセラレータ(1144))で具体化された結果としての機能を提供することができ、この回路は、ソフトウェアの代わりに動作しまたはソフトウェアと一緒に動作して、ここで説明された特定のプロセスの特定のプロセスまたは特定の部分を実行してもよい。適切な場合には、ソフトウェアへの参照はロジックを含むことができ、逆もまた然りである。適切な場合には、コンピュータ読み取り可能な媒体への参照は、実行ソフトウェアを記憶する回路(集積回路(IC)など)ことを含み、実行ロジックを具体化する回路、またはその両方を兼ね備えることができる。本開示は、ハードウェアおよびソフトウェアの任意の適切な組み合わせを包含する。
付録A:頭字語
JEM:joint exploration model、共同開発モデル
VVC:versatile video coding、汎用ビデオ符号化
BMS:benchmark set、ベンチマークセット
MV:Motion Vector、モーションベクトル
HEVC:High Efficiency Video Coding、高効率ビデオ符号化
SEI:Supplementary Enhancement Information、補足強化情報
VUI:Video Usability Information、ビデオユーザビリティ情報
GOPs:Groups of Pictures、画像のグループ
TUs:Transform Units、変換ユニット
PUs:Prediction Units、予測ユニット
CTUs:Coding Tree Units、符号化ツリーユニット
CTBs:Coding Tree Blocks、符号化ツリーブロック
PBs:Prediction Blocks、予測ブロック
HRD:Hypothetical Reference Decoder、仮想参照デコーダ
SNR:Signal Noise Ratio、信号雑音比
CPUs:Central Processing Units、中央処理ユニット
GPUs:Graphics Processing Units、グラフィック処理ユニット
CRT:Cathode Ray Tube、陰極線管
LCD:Liquid-Crystal Display、液晶ディスプレイ
OLED:Organic Light-Emitting Diode、有機発光ダイオード
CD:Compact Disc、コンパクトディスク
DVD:Digital Video Disc、デジタルビデオディスク
ROM:Read-Only Memory、読み取り専用メモリ
RAM:Random Access Memory、ランダムアクセスメモリ
ASIC:Application-Specific Integrated Circuit、特定用途向け集積回路
PLD:Programmable Logic Device、プログラマブルロジックデバイス
LAN:Local Area Network、ローカルエリアネットワーク
GSM:Global System for Mobile communications、モバイル通信のグローバルシステム
LTE:Long-Term Evolution、長期的な進化
CANBus:Controller Area Network Bus
USB:Universal Serial Bus、汎用シリアルバス
PCI:Peripheral Component Interconnect、外部コントローラインターフェース
FPGA:Field Programmable Gate Areas、フィールドプログラマブルゲートアレイ
SSD:solid-state drive、ソリッドステートドライブ
IC:Integrated Circuit、集積回路
CU:Coding Unit、符号化ユニット
本開示は、いくつかの例示的な実施形態について説明したが、本開示の範囲内にある変更、配置、および様々な均等置換が存在している。したがって、当業者は、本明細書では明確に示されていないかまたは説明されていないが、本開示の原則を具現しているので、本開示の精神および範囲内にある、様々なシステムおよび方法を設計することができる、ということを理解されたい。
【符号の説明】
【0138】
101 サンプル
300 通信システム
310、320 端末デバイス
350 ネットワーク
【外国語明細書】