(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
本出願で記載される少なくとも1つの実現は、単一の画像のマージされる立体画像のペアを圧縮する効率を改善する。この実現は、H.264圧縮アルゴリズムがイントラブロック予測を良好に利用するのを可能にするやり方で立体画像のペアを並べ替える。立体画像のペアの左のビュー及び右のビューは、マクロブロックレベルでインターリーブされる。左のビューのピクチャと右のビューのピクチャの配置は、イントラ予測効率対典型的な水平又は垂直分割スクリーンの配置を典型的に改善する。
【0009】
ブロックに基づく圧縮アルゴリズム(例えばMPEG2,MPEG4)では、本発明者は、圧縮されたストリームに割り当てられる全体のビットバジェットの不均衡なパーセンテージがIピクチャの圧縮に費やされることを判定している。なお、Iピクチャは、参照画像として使用されることがある。近いうちに、ブロードキャスト3Dビデオは、左/右の立体画像のペアを伝送するために、分割スクリーンのアプローチを頼りにする可能性がある。典型的な配置は、左及び右のピクチャであり、それぞれ半分だけ水平方向にサブサンプルされ、単一のフルサイズの複合の左+右ピクチャを形成するために連結される。
【0010】
水平方向のサブサンプリング及び垂直方向のサブサンプリングは、現在の世代の半解像度の3Dデコーダにおいて共に使用される。典型的に、水平方向のサブサンプリングは、1920×1080ソースマテリアルについて使用され、垂直方向のサブサンプリングは、1280×720ソースマテリアルについて使用される。
【0011】
これらサブサンプリングのアプローチの利点は、複合ピクチャは、左及び右の画像の分離に関与する表示装置をもつ旧式の装置によりエンコード及びデコードすることができる。圧縮アルゴリズムがこの冗長度を良好に利用するのを可能にするやり方で左の画像と右の画像を配列し直すことで、結果として得られる圧縮された画像ストリームは、符号化されたI(又は参照)ピクチャの圧縮効率を増加しつつ、旧式のエンコード/デコードツールとの互換性が依然として大いに保たれる。
【0012】
先のアプローチは、MVC(多視点符号化)に対する代替として使用することができる。代替ではあるが、先のアプローチ及びMVCは、2つのアプローチが異なる結果を生成する場合がある点で必ずしも等価ではない。MVCは、具体的にはAVC規格の多視点映像符号化(MVC)拡張(Annex H)を示し、H.264/MPEG-4 AVC, MVC拡張(「MVC拡張」又はシンプルに「MVC」)と呼ばれる。MVCは、例えば立体画像のペアにおける左のビューと右のビューとの間の冗長度を利用するために開発されたH.264/MPEG-4 AVC規格の拡張である、非後方互換圧縮アルゴリズムである。
【0013】
図1を参照して、イントラ符号化ピクチャ(すなわちIピクチャ)を処理する実現を提供するシステム100が示される。イントラ符号化ピクチャは、
図1に示され、以下に記載される方法に従う。システム100は、符号化ブロック110、復号化ブロック120、及び符号化ブロック110及び復号化ブロック120にリンクする伝送動作130を含む。
【0014】
立体画像のペアについてフル解像度の入力ピクチャは、符号化ブロック110への入力うとして提供される。フル解像度の立体画像は、左のビューのピクチャ140及び右のビューのピクチャ142を含む。フル解像度の画像は、1/2だけ水平方向に次元においてダウンサンプルされて、1/2だけオリジナルの水平方向のサイズが低減される。これにより、オリジナルの水平方向のサイズの1/2の水平方向のサンプルレートの変換(SRC)となる。また、ダウンサンプリングは、サブサンプリング、レート変換又はダウンスケーリングとも呼ばれる。符号化ブロック110は、左のビューのピクチャ140をダウンサンプルするサンプラ144と、右のビューのピクチャ142をダウンサンプルするサンプラ146とを含む。サンプラ144は、水平方向の次元において左のビューのピクチャ140のサイズの1/2であるサンプルされた左のビューのピクチャ148を生成する。同様に、サンプラ146は、水平方向の次元において右のビューのピクチャ142のサイズの1/2であるサンプルされた右のビューのピクチャ150を生成する。
【0015】
サンプルされた左のビューのピクチャ148及びサンプルされた右のビューのピクチャ150は、インターリーブされた複合ピクチャ152を形成するためにインターリーブされる。複合ピクチャ152は、サンプルされた左のビューのピクチャ148を16×16のマクロブロックに分解(区分又は分割)し、サンプルされた右のビューのピクチャ150を16×16のマクロブロックに分解し、左のビューのピクチャ148及び右のビューのピクチャ150からのマクロブロックをインターリーブすることで、複合画像152が形成される。
【0016】
図1に示される実現では、マクロブロックは、以下の
図4に関して更に説明されるように、列毎のフォーマットで交互するやり方でインターリーブされる。これにより、サンプルされた左のビューのピクチャ148及びサンプルされた右のビューのピクチャ150と同じ垂直の次元を有し、サンプルされた左のビューのピクチャ148及びサンプルされた右のビューのピクチャ150の何れかの水平方向の次元の2倍の次元を有する複合ピクチャ152が得られる。
【0017】
符号化ブロック110は、複合ピクチャ152を符号化するH.264エンコーダ154を含む。符号化ブロック110では、複合ピクチャ152は、符号化されたピクチャ(図示せず)を形成するため、HP@L4.×を使用して符号化される。HP@L4.×は、4.0,4.1及び4.2を含むHigh Profile, level 4.xを示す。しかし、他の実現は、例えばベースラインプロファイルの全てのレベル、メインプロファイルの全てのレベル、及びハイプロファイルの全てのレベルのようなH.264符号化プロファイルの幾つかの何れかを使用する。
【0018】
エンコーダ154は、Iピクチャとして複合ピクチャ152を符号化し、H.264イントラ符号化モードを使用する。これに応じて、複合ピクチャ152のブロックは、参照として複合ピクチャ152から1以上の他のブロックを使用して符号化される。例えば、所与のブロックの予測子は、隣接ブロックの組み合わせから形成される。所与のブロックの隣接ブロックは、コーナ又はエッジでの所与のブロックに接触する8つのブロックの1つとなるように一般に定義される。
図2を参照して、中央のブロックMの8つの隣接するブロックがブロック1〜8として示される。なお、H.264イントラ予測モードのため、ブロック1,2,3,4及び6は、予測子として一般に許可される。
【0019】
図3を参照して、様々な実現は、水平方向に左(ブロックA)、垂直方向の上(ブロックB)、及び対角線方向に右及び上(ブロックC)にあるブロックの組み合わせから所与のブロック(ブロックG)の予測子を形成する。複合ピクチャ152は、列毎のインターリーブを使用するため、ブロックGはサンプルされた左のビューのピクチャ148又はサンプルされた右のビューのピクチャ150の何れかの1つからであり、ブロックA及びCの両者は、他のサンプルされたピクチャからであることは明らかである。様々な実現は、ブロックA,B又はCの1つ(組み合わせではない)、又は隣接しないブロックを含む他のブロックに基づいて予測子を形成する。特に、様々な実現は、ブロックAのみに関して、又はブロックCのみに関してブロックGが符号化されるのを可能にする符号化モードを提供する。
【0020】
ブロックAのみ又はブロックCのみを使用してブロックGを符号化する係るモードは、インターリーブされない分割スクリーンフォーマットを使用する場合に比較したとき、インターリーブされた複合ピクチャ152を使用することで増加された符号化効率を有することが期待される(以下に記載される水平方向の分割スクリーンのピクチャ160を参照)。増加される効率は、他のビューから対応するブロックを使用してあるビューからのブロックを符号化することができることから、少なくとも部分的に生じることが期待される。対応するブロックが良好に揃えられた場合、残差が小さくなり、符号化するために少ないビットを必要とする。しかし、アラインメントは残差を低減し、符号化ゲインを提供するために完全である必要はない。
【0021】
先に説明したように、
図2に示されるブロック1,2,3及び4は、H.264イントラ予測におけるブロックMの予測子として使用される。しかし、様々な実現は、立体視において、2つのピクチャにおいて、垂直方向の変位ではなく、水平方向の変位があることが期待される事実を利用するため、インターリーブを実行する。係るケースにおける最良の予測子は、他の立体視からの対応するブロックとなることが期待される。その対応するブロックは、列毎のインターリーブ後に符号化されているブロックの左にあり、行毎のインターリーブ後に符号化されているブロックの上にある。
【0022】
様々な実現は、最良の参照ブロックのために、複合ピクチャ152においてサーチすることで、複合ピクチャ152のイントラ符号化を実行する。より詳細には、幾つかの係る実現は、既に符号化されている現在のピクチャのそれらの部分の再構成をサーチする。サーチのため、係るモードは、参照として予め決定された隣接ブロックブロックを単に使用するよりも、時間がかかり、プロセッサに集中する。しかし、係るモードは、所与のブロックの良好な予測を発見する利点を典型的に提供する。また、係るモードは、視差(disparity)を知る必要なしに、対応する立体画像のブロックを発見する利点を典型的に提供する。
【0023】
符号化ブロック110は、復号化されたピクチャ158を生成するため、符号化されたピクチャを復号化するH.264デコーダを含む。符号化ブロック110の実現では、符号化されたピクチャは、HP@L4.xを使用して復号化される。復号化されたピクチャ158は、複合ピクチャ152の再構築である。
【0024】
符号化ブロック110は、復号化されたピクチャ158をデインターリーブして、水平方向の分割スクリーンのピクチャ160を形成する。水平方向の分割スクリーンのピクチャ160は、サンプルされた左のビューのピクチャ148の左のピクチャの再構築162を含み、サンプルされた右のビューのピクチャ150の右のピクチャの再構築164を含む。水平方向の分割スクリーンのピクチャン160は、参照ピクチャストレージ(図示せず)に参照ピクチャとして記憶され、符号化ブロック110により参照ピクチャとして使用されるために利用可能である。
【0025】
P及びBピクチャは、水平方向の分割スクリーンピクチャとして符号化される。すなわち、P及びBピクチャについて、サンプルされた左のビューのピクチャ148及びサンプルされた右のビューのピクチャ150は、インターリーブされた復号化ピクチャではなく水平方向の分割スクリーンピクチャに形成され、エンコーダ154により符号化される。また、参照ピクチャは、先に示されたように、水平方向の分割スクリーンピクチャとして記憶される。P又はB符号化ブロックは、Iピクチャを示す動きのリファレンスを含み、動き予測は、水平方向の分割スクリーンの再構築されたピクチャ160から抽出される。
【0026】
従って、符号化ブロック110は、P及びBブロックに比較して、Iブロックについて異なる動作を実行する。例えば、Iブロックについて、符号化ブロック110は、(i)符号化前にインターリーブを行い、(ii)水平方向の分割スクリーンの再構築ピクチャを形成する前のデインターリーブを行う。別の例として、P及びBブロックについて、符号化ブロック110は、符号化前に分割スクリーンのピクチャを形成する。
【0027】
エンコーダ154は、送信のために送信動作130に符号化されたピクチャを提供する(図示せず)。送信されたピクチャは、復号化ブロック120により受信される。
【0028】
復号化ブロック120は、受信されたピクチャのHP@L4.xデコードを実行するH.264デコーダ170を含む。デコーダ170は、複合ピクチャ152の再構築である再構築されたピクチャ172を生成する。従って、再構築されたピクチャ172は、左の画像(サンプルされた左のビューの画像148)及び右の画像(サンプルされた右のビューのピクチャ150)からインターリーブされたマクロブロックを有する。典型的な実現では、デコーダ170は、デコーダ156と同じである。
【0029】
復号化ブロック120は、再構築されたピクチャをデインターリーブして、左のピクチャの再構築176及び右のピクチャの再構築178を含む水平方向の分割スクリーンのピクチャ174を形成する。送信又は復号化においてエラーがない場合、(i)再構築されたピクチャ172は、符号化ブロック110から復号化されたピクチャ158を整合し、(ii)水平方向の分割スクリーンのピクチャ174が水平方向の分割スクリーンのピクチャ160、(iii)左のピクチャの再構築176は、左のピクチャの再構築162に整合し、及び(iv)右のピクチャの再構築178は、右のピクチャの再構築164に整合する。
【0030】
復号化ブロック120は、オリジナルの水平方向サイズを回復するため、水平方向のサンプルレート変換を実行するサンプラ180を含む。サンプラ180は、左のビューのピクチャ140のオリジナルの水平方向のサイズを回復するため、左のピクチャの再構築176をアップサンプリングすることで、変換を実行する。サンプラ180は、左のビューのピクチャ140の再構築である再構築された左のビューのピクチャ184を生成する。アップサンプリングは、レート変換又はアップスケーリングとも呼ばれる。
【0031】
同様に、復号化ブロック120は、オリジナル水平方向のサイズを回復するため、水平方向のサンプルレート変換を実行するサンプラ182を含む。サンプラ182は、右のビューのピクチャ142のオリジナルの水平方向のサイズを回復するため、右のピクチャの再構築178をアップサンプリングすることで変換を実行する。サンプラ182は、右のビューのピクチャ142の再構築である再構築された右のビューのピクチャ186を生成する。
【0032】
再構築された左のビューのピクチャ184、及び再構築された右のビューのピクチャ186は、ディスプレイへの出力の準備ができているフル解像度のピクチャである。また、他の実現は、又は代替的に、再構成された左のビューのピクチャ184及び/又は再構築された右のビューのピクチャ186を処理のために提供する。係る処理は、例えばフィルタリング、更なる画像のレンダリング、アーチファクト低減、色修正、エッジ鮮鋭化、及び/又はオブジェクト検出を含む、表示の前に実行されるか又は表示の代わりに実行される。さらに、他の実現は、処理及び/又は表示のための出力として、水平方向の分割スクリーンのピクチャ174を提供する。
【0033】
符号化ブロック110と同様に、復号化ブロック120は、P及びBブックに比較して、Iブロックの異なる動作を実行する。例えば、Iブロックについて、復号化ブロック120は、水平方向の分割スクリーンのピクチャ174を形成する前に、デインターリーブを実行する。対照的に、P及びBブロックについて、デコーダ170の出力は、水平方向の分割スクリーンのピクチャである。
【0034】
図1のプロセスは、既存のプロセスと少なくとも大いに後方互換性がある。さらに、旧式のH.264エンコーダ及びデコーダが使用される場合がある。しかし、
図1のプロセスは、全ての既存のデコードプロセスと完全に後方互換性がない。しかし、統合されたBlitを使用する多くのデコーダ(例えばプログラマブルビットマップグラフィック装置、又は例えば複数のビットマップを組み合わせるため、ビットブロック画像転送を実行するビットブリット装置)の機能、又は左/右の分割スクリーン画像にマクロブロックインターリーブされたIピクチャ画像を変換するDMA機能に含まれる。すなわち、既存のH.264デコーダは、デコードされた(インターリーブされたピクチャ)158を、水平方向の分割スクリーンのピクチャ160に変換するか、再構築されたピクチャ172を水平方向の分割スクリーンのピクチャ174に変換する。しかし、この変換を実行する技術が実行可能であり、統合されたBlit又はDMAのような技術を使用して当業者により良好に行われる。さらに、係る技術は、H.264エンコーダへの入力として使用される、インターリーブされた画像(例えば複合ピクチャ152)又は分割スクリーンの連結された画像の何れかを選択的に作成するために使用される。
【0035】
他の実現は、先に記載されたシステム100の様々な態様を変更する。特定の実現及び変更が以下に記載されるが、他の変更も同様に想定される。
【0036】
例えば、2つの入力画像は、立体画像のペアを形成する必要はない。様々な実現では、入力画像は、多視点システムからの画像である。
【0037】
さらに、入力画像は、正確に1/2だけダウンサンプルされる必要はなく、全くダウンサンプルされる必要はない。様々な実現では、入力画像は、(i)それらのオリジナルのサンプリングレートのままであるか、(ii)1/2以外の値でダウンサンプルされるか、又は(iii)アップサンプルされる。
【0038】
さらに、入力画像は、同じレートでサンプリングされる必要はない。様々な実現では、第一の入力画像は、第一のレートでサンプリングされ、第二の入力画像は、第一のレートとは異なる第二のレートでサンプリングされる。
【0039】
実現は、2を超える入力画像を使用する場合がある。様々な実現は、3以上の入力画像を使用して、入力画像の全てをインターリーブする。1つの係る実現は、多視点システムからの3以上の入力ビューをインターリーブする。別の係る実現は、第一の瞬間でステレオカメラから撮影された第一の立体画像のペアと、第二の瞬間でステレオカメラから撮影された第二の立体画像のペアとを含む4つの画像をインターリーブする。
【0040】
様々な実現は、入力画像をサンプリングすることに加えて、又は入力画像をサンプリングすることに代えて、入力画像を処理する。様々な実現により実行される処理は、例えば画像の画素値をフィルタリングし、画像の画素値をクリップし、ブロックを画像の境界の周りの画像に加え、又はオーバラップするコンテンツを有さないブロックを除くことを含む。
【0041】
インターリーブのために使用されるブロックは、16×16である必要はなく、マクロブロックである必要さえない。様々な実現は、16×16とは異なるサイズを有するブロックを使用し、及び/又は符号化で使用されるマクロブロックのサイズとは異なるブロックサイズを使用する。また、様々な実現は、ブロックサイズを変えるか、又は選択可能なブロックサイズを使用する。H.264規格は、4×4ブロック及び16×16マクロブロックについてイントラ予測を可能にする。先の実現は、マクロブロックを使用したコンセプトを図示及び記載しているが、他の実現は、例えば4×4ブロックレベル、8×8ブロックレベル、及び4×4ブロック及び8×8ブロックの両者を使用する可変レベルを含むブロックレベルでのインターリーブを実現する。
【0042】
インターリーブされた画像は、HP@L4.xを使用して符号化される必要はなく、H.264を使用して符号化される必要さえない。様々な実現は、異なる2.264プロファイル又は異なる符号化スキームを使用する。例えば、H.264について、ハイプロファイルの全てのレベル、メインプロファイルの全てのレベル、及びベースラインプロファイルの全てのレベルが使用される場合があり、様々な実現は、これらのレベル及びプロファイルに向けられる。
【0043】
符号化ブロック110により提供される符号化されたインターリーブされた画像は、送信される必要はない。様々な実現は、例えば符号化された画像を記憶する。
【0044】
参照画像は、水平方向の分割スクリーン画像である必要はなく、全く分割スクリーン画像である必要もない。様々な実現は、例えば、参照として垂直方向の分割スクリーン画像を使用するか、参照としてインターリーブされた画像を使用するか、又は参照として個々の画像を使用する。
【0045】
P及びBピクチャは、水平方向の分割スクリーンピクチャとして符号化される必要はない。様々な実現は、Iピクチャについて先に行われたように、P及び/又はB立体画像のペアのインターリーブを実行する。これらの実現の1以上は、参照として使用される他のピクチャに関するインター符号化を使用して、インターリーブされたP及び/又はBピクチャを符号化する。幾つかの係る実現の参照もまたインターリーブされたピクチャであるが、他の実現について、参照がインターリーブされない。さらに、これらの実現の幾つかは、インターリーブされたP又はBピクチャにおける所与のブロックを符号化するため、インター予測モード及びイントラ予測モードの両者を考慮する。係るように、これらの実現の幾つかは、インターリーブされたP又はBピクチャから所与のブロックの最適な符号化を実行する。
【0046】
図4を参照して、マクロブロックレベルのインターリーブの2つの実現の更に詳細なビューが示される。
図4は、立体画像のペアの左のピクチャ410及び右のピクチャ420を示す。この実現では、左のピクチャ410及び右のピクチャ420は、ファクタ2により水平方向においてダウンサンプリングされている。これら2つのピクチャ410及び420は、矢印425により示されるように結合され、インターリーブされたピクチャ430が形成される。インターリーブされたピクチャ430は、ピクチャ410及び420を列毎にインターリーブする。
【0047】
この実現のため、エンコーダは、左から右に、行毎に、インターリーブされたピクチャ430を符号化する。従って、エンコーダがインターリーブされたピクチャ430を符号化しているとき、エンコーダが(インターリーブされたピクチャ430で円で囲まれる)R22でラベル付けされたブロックに達するとき、エンコーダは、左のピクチャから(インターリーブされたピクチャ430で円で囲まれた)対応するブロックL22を既に符号化し、R22の符号化における使用のために利用可能なL22の符号化を有する。L22は、インターリーブされたピクチャ430においてR22のすぐ左にある。
【0048】
L22及びR22は、立体画像のペアにおける対応するブロックとして対応しており、従ってそれらのコンテンツは、かなりオーバラップしていると想定される。両方のブロックが幾つかの共通のコンテンツを有するときに、コンテンツはオーバラップする。例えば、両方のブロックが特定のオブジェクト又はバックグランドを含むときに、そのオブジェクト又はバックグランドがブロックのそれぞれにおいて同じ相対的な位置に正確にないとしても、ブロックは、共通のコンテンツを共有する。
【0049】
これら対応するブロックの識別は、L22及びR22が2つのピクチャ410及び420における対応する位置を有するという事実にシンプルに基づく。すなわち、L22及びR22は、それらそれぞれのピクチャ410及び420における同じ座標(x,y)を有することが想定される。
【0050】
他の実現は、例えば視差に基づいて対応するブロックを決定する。係る視差に基づく実現について、例えば立体画像のペアの平均の視差のような、様々な視差に基づくメトリクスが使用される。1つの係る実現では、ピクチャ410の平均の視差は、単一のブロックの水平方向のサイズに等しくなるように決定される。従って、ピクチャ410のブロックL12は、ピクチャ420のブロックR11に対応するように決定される。係る実現において、インターリービングは、インターリーブされたピクチャ430におけるように実行されるか、又はインターリーブは、視差に基づく場合がある。
【0051】
1つの視差に基づく実現では、インターリーブされたピクチャ430におけるように、ブロックがインターリーブされる。しかし、対応するブロックは、隣接するブロック(neighbors)であるか又は隣接するブロックではない場合がある。L12がR11に対応する例では、それらのブロックは、インターリーブされたピクチャ430に示されるように、なお隣接するブロックである。しかし、視差がブロックの水平方向のサイズの2倍に等しい場合、L13は、R11に対応し、それらのブロックは、インターリーブされたピクチャ430における隣接するブロックではない。
【0052】
別の視差に基づく実現では、視差に基づいてブロックがインターリーブされる。従って、L13がR11に対応する場合、それらのブロックは、それらが隣接するブロックであるようにインターリーブされる。1つの係る実現では、ピクチャ410の第一の2つの列は、インターリーブされたピクチャにダイレクトに挿入され、ピクチャ410の残りの列は、ピクチャ420からの列と、列毎にインターリーブされる。最後に、ピクチャ420の最後の残りの列は、インターリーブされたピクチャにダイレクトに挿入される。
【0053】
様々な実現では、ブロック間の対応関係が完全でない。すなわち、共通のコンテンツは、対応するブロックのそれぞれにおいて同じ相対的な位置にない。例えば、視差は、ブロックの水平方向のサイズに等しくない。それにも係らず、符号化のゲインは、なお達成される。他の視差に基づく実現では、様々な入力画像からのブロックは、入力画像におけるそれらの相対的な位置に基づいてインターリーブされる。例えば、ピクチャ410の第一の列は、ピクチャ420の第一の列により後続される。しかし、インターリーブされたピクチャの個々のブロックは、良好な参照を発見するためにインターリーブされたピクチャにおいてサーチすることでイントラ符号化される。係るサーチは、サーチの前に視差を知る実現なしに、対応するブロックを識別する。
【0054】
他のダウンサンプリング及びインターリーブのオプションが可能である。
図4を更に参照して、左のピクチャ410及び右のピクチャ420が、先の
図4の説明で前に記載されたように、水平方向におけるよりも、ファクタ2により垂直方向においてダウンサンプルされることが想定される実現が示される。さらに、垂直方向にダウンサンプルされたピクチャ410及び420は、矢印435により示されるように、インターリーブされたピクチャ440を形成するために行毎にインターリーブされる。インターリーブされたピクチャ430の符号化と同様に、エンコーダが(インターリーブされたピクチャ440において円で囲まれた)R22でラベル付けされたブロックに達したとき、エンコーダは、左からの(インターリーブされたピクチャ440において円で囲まれた)対応するブロックL22を既に符号化しており、R22の符号化において使用するために利用可能なL22の符号化を有する。L22は、インターリーブされたピクチャ440においてR22のすぐ上にある。
【0055】
更に別の実現では、左及び右のピクチャは、結合されたファクタ2によりそれらのサイズを低減するため、水平方向及び垂直方向の組み合わせでダウンサンプルされる。当業者により理解されるように、水平方向及び垂直方向におけるダウンサンプリングの様々な組み合わせは、結合されたファクタ2の低減を達成するために可能である。これらのダウンサンプルされたピクチャは、行毎及び列毎のインターリーブの組み合わせを含めて、当業者にとって知られたやり方でインターリーブされる。
【0056】
別の実現は、全くダウンサンプリングせず、ピクチャ410及び420は、それらのオリジナルサイズであることが想定される。この実現は、大きなインターリーブされたピクチャを生成するため、当該技術分野で知られた様々なインターリーブオプションの何れかを使用して左及び右のピクチャをシンプルに結合する。H.264エンコーダは、この大きなインターリーブされたピクチャを符号化する。
【0057】
図4のいずれかのインターリーブのオプションの典型的な実現において、エンコーダ及びデコーダは、インターリーブされたピクチャ430及び440をデインターリーブし、
図1の水平方向の分割スクリーンのピクチャにより提供されるような、典型的な左/右の水平方向の分割スクリーンのビューの再構築を形成する。しかし、他の実現では、エンコーダ及びデコーダは、この動作を実行しない。むしろ、エンコーダ及びデコーダは、インターリーブされた左及び右のビューを有する再構築されたインターリーブされたピクチャをシンプルに生成する。エンコーダは、その後のピクチャの符号化を実行するため、このインターリーブされた再構築を使用する。例えば、Pピクチャが参照としてインターリーブされたIピクチャを使用して動き符号化される場合、エンコーダは、インターリーブされたIピクチャを使用して通常のやり方で適切な動きベクトルのサーチを実行する。このやり方で、エンコーダは、左又は右のビューの何れかに対応するブロックがPピクチャにおいて符号化されている現在のブロックの最良の「整合」であるかを判定する。他の実現は、インターリーブされた参照画像において更に離れているコンポーネント左及び右のピクチャのブロックをインターリーブが広げる事実を考慮するため、参照画像における最良の「整合」の発見において使用されるサーチウィンドウを拡大する。
【0058】
図5を参照して、2つの画像の符号化において使用するための実現が示される。
図5は、2つの画像、又は2つの画像の一部の符号化において使用されるプロセス500を示す。
【0059】
プロセス500は、第一の画像のブロックにアクセスすることを含む(510)。第一の画像は、例えば、
図1のサンプリングされた左のビューのピクチャであり、第一の画像のブロックは、例えば、サンプルされた左のビューのピクチャ148から左上のブロックである。
【0060】
プロセス500は、コンテンツにおける第一の画像のブロックにオーバラップする第二の画像のブロックにアクセスするステップを含む(520)。第二の画像は、例えば、
図1のサンプルされた右のビューのピクチャ150である。サンプルされた左のビューのピクチャ148及びサンプルされた右のビューのピクチャ150の両者は、立体画像のペアから生成され、従ってコンテンツにおいてオーバラップすることが想定される。第二の画像のブロックは、例えば、サンプルされた右のビューのピクチャ150から左上のブロックである。
【0061】
サンプルされた左のビューのピクチャ148の左上のブロックの視差が左上のブロックの水平方向のブロックサイズよりも大きい場合、コンテンツはサンプルされた右のビューのピクチャ150の左上のブロックのコンテンツにオーバラップしない可能性がある。先に記載されたように、例えば、特徴が2つのブロックのそれぞれにおける同じ相対的な一において揃えられない場合でさえ、2つのブロック共通の特徴を含むとき、コンテンツはオーバラップする場合がある。係るオーバラップは、多視点システムの個別のビューにおいても同様に、立体画像のペアにおいて典型的に生じる。また、コンテンツは、画像のうちの一方がフリップされたか、回転されたか、フィルタリングされたか、又はさもなければ処理されたかに係らずオーバラップする場合がある。
【0062】
プロセス500は、第一の画像のブロックを含む第一の画像からの一部、及び第二の画像のブロックを含む第二の画像からの一部をブロックインターリーブする(530)。2つの部分は、第一の画像と第二の画像の全体を含む場合がある。代替的に、2つの部分は、第一及び第二の画像の全て未満を含む場合がある。ブロックのインターリーブは、例えば
図1の複合ピクチャ152を形成するため、先に記載されたように実行される。
【0063】
プロセス500は、参照としてインターリーブされた第二の画像のブロックを使用して、インターリーブされた第一の画像のブロックを符号化することを含む(540)。符号化は、複合ピクチャ152を形成するブロックを符号化するため、例えば
図1のエンコーダ154を使用するために上述されたように実行される。例えば、列毎のインターリーブを想定して、予測子として(すなわち参照として)ブロックAを使用した
図1BのブロックGの符号化により、参照として第二の画像のブロック(ブロックA)を使用して符号化されている第一の画像のブロック(ブロックG)が得られる。
【0064】
図6を参照して、2つの画像の復号化で使用される実現が示される。
図6は、2つの画像又は2つの画像の一部の復号化で使用されるプロセス600を示す。
【0065】
プロセス600は、画像の符号化にアクセスするステップを含む(610)。画像は、2つの画像がブロック毎にインターリーブされているインターリーブされた画像である。2つの画像は、複数の第一の画像のブロックを含む第一の画像と、複数の第二の画像のブロックを含む第二の画像である。符号化は、例えば、先に説明された
図1の復号化ブロック120により受信及び復号化される受信されたピクチャである。
【0066】
プロセス600は、アクセスされた符号化の一部を復号化することを含む(620)。一部は、参照として第二の画像のブロックを使用して符号化されている第一の画像のブロックの符号化を含む。第一の画像のブロックは、先に指摘されたように、サンプリングされた左のビューのピクチャ148からの左上のブロックである。第二の画像ブロックは、先に指摘されたように、サンプルされた左のビューのピクチャ148からの左上のブロックとオーバラップするコンテンツを有するようにこの説明で想定される、サンプルされた右のビューのピクチャ150からの左上のブロックである。復号化は、例えば、先に記載された
図1のH.264デコーダ170により実行される。
【0067】
図7を参照して、エンコーダ700は、例えばビデオイメージャ又はデプスイメージャのような画像を符号化するために使用されるエンコーダの実現を示す。1実現では、エンコーダ700は、
図1のシステム100におけるエンコーダ154として使用される。エンコーダ700は、例えば符号化されたビットストリームに関する情報を提供するメタデータのようなデータを符号化するために使用される。エンコーダ700は、
図9に関して以下に記載されるビデオ伝送システムの一部として実現される。また、
図7のブロックは、エンコーダのブロック図を提供することに加えて、符号化プロセスのフローダイアグラムを提供することが明らかである。
【0068】
入力画像系列は、変位補償(displacement compensation)ブロック720及び変位予測(displacement estimation)ブロック718に同様に、加算器701で到達する。なお、動き又は視差の何れかを示す。加算器701への別の入力は、スイッチ723を通して受信された様々な可能性のある参照ピクチャの情報のうちの1つである。
【0069】
例えば、スイッチ723と接続されるモード判定モジュール724が、符号化モードが、現在符号化されている同じピクチャからのブロックを参照するイントラ予測であると判定した場合、加算器701は、イントラ予測モジュール722からその入力を受信する。代替的に、モード判定モジュール724が、符号化モードが、現在符号化されているピクチャとは異なるピクチャを参照する変位補償及び予測であると判定した場合、加算器701は、変位補償モジュール720からその入力を受信する。
【0070】
様々な実現では、イントラ予測モジュール722は、符号化されているブロックに対する隣接ブロックである1以上のブロックに基づいて、予め決定された予測子を提供する。係る隣接ブロックは、例えば符号化されているピクチャと立体画像のペアを形成するピクチャのような、別の入力画像からのインターリーブされたブロックである。様々な実現では、インタリービングは、構成ピクチャに現れる順序でブロックがインターリーブされるように、(x,y)座標に基づく。しかし、他の実現では、それらのブロックがそれらの構成ピクチャに位置される場所に係らず、コンテンツにおいて対応するブロックが可能な限り互いに隣接してインターリーブされるように、インターリービングは視差に基づく。
【0071】
他の特定の実現は、インターリーブの前に、左のピクチャと右のピクチャとの間のシフトのブロックの整数を指定する単一の数を符号化することで、このコンセプトの実用的な使用が提供される。これにより、インターリーブを誘導するためにエンコーダで平均の視差の測定が可能となり、ストリームにおいて符号化するコストは非常に少なくて済み、表示の前のデコーダでのブロックの容易なデスクランブルが可能となる。
【0072】
様々な実現では、イントラ予測モジュール722は、最良の参照ブロックについて符号化されたピクチャ内をサーチすることで、予測子(参照)を提供する。より詳細には、幾つかの係る実現は、既に符号化されている現在のピクチャのそれらの一部の再構築内をサーチする。幾つかの実現において、サーチは、既存のブロックの境界にあるブロックに制限される。しかし、他の実現では、サーチは、それらのブロックが既存のブロックの境界に交差するかに係らず、ブロックをサーチすることが許可される。サーチのため、係る実現は、参照として予め決定された隣接ブロックを単に使用するよりも時間がかかり且つプロセッサに処理が集中することがある。しかし、係る実現は、所与のブロックの良好な予測を発見する利点を典型的に提供する。係る実現は、視差を知る必要なしに、対応する立体画像のブロック、又は対応する多視点画像のブロックを発見する利点を典型的に提供する。
【0073】
係る実現は、最小の予測イントラ予測ブロックに繋がる場合がある。さらに、様々な実現では、参照ブロックの境界は、サブピクセルの境界にあることがあり、参照の回復は、復号化の間の参照として使用される実際のブロックを回復する補間ステップを含む。ピクチャの内容に依存して、係るサブピクセルの補間の実現は、参照として隣接ブロックの使用に比較して、圧縮効率を改善する。
【0074】
加算器701は、変換モジュール702に信号を供給し、変換モジュール702は、その入力信号を変換し、変換された信号を量子化モジュール704に供給する。量子化モジュール704は、その受信された信号で量子化を実行し、エントロピーエンコーダ705に量子化された情報を出力する。エントロピーエンコーダ705は、ビットストリームを生成するため、その入力信号にエントロピー符号化を施す。逆量子化モジュール706は、量子化モジュール704から量子化された信号を受信し、量子化された信号の逆量子化を実行する。次いで、逆変換モジュール708は、逆量子化モジュール706から逆量子化された信号を受信し、その受信された信号に逆変換を実行する。逆変換モジュール708の出力は加算器701からその出力である信号の再構築である。
【0075】
加算器(より一般的には結合器とも呼ばれる)709は、逆変換モジュール708及びスイッチ723から受信された信号を加算(加算)結合し、イントラ予測モジュール722及びインループフィルタ710に結果として得られる信号を出力する。結果として得られる信号は、エンコーダ700に入力される画像系列信号の再構成である。
【0076】
イントラ予測モジュール722は、その受信された信号を使用して、先に説明されたような、イントラ予測を実行する。同様に、インループフィルタ710は、加算器709から受信された信号をフィルタリングし、参照バッファ712にフィルタリングされた信号を供給する。参照バッファ712は、変位予測モジュール718及び変位補償モジュール720に画像情報を供給する。
【0077】
メタデータは、符号化されたメタデータとしてエンコーダ700に加算され、エントロピーコーダ705からの出力ビットと結合される。代替的に、例えば、符号化されていないメタデータは、量子化された画像系列と共にエントロピー符号化のためにエントロピーコーダ705に入力される。
【0078】
データは、モード判定モジュール724により出力ビットストリームに供給される。モード判定モジュール724は、所与のブロックを符号化するために使用されるモードを示す情報をビットストリームに提供する。係る情報は、参照ブロックの位置に示唆を含む。例えば、イントラ予測を使用し、参照ブロックを発見する現在のピクチャのサーチを実行する様々な実現では、視差ベクトルの情報は、イントラ予測モジュール722によりモード判定モジュール724に供給される。
【0079】
以下に更に記載されるように、視差ベクトルの情報は、参照として隣接のマクロブロックの視差ベクトルを使用して異なって符号化される。さらに、視差ベクトルにおける空間的類似性が存在する可能性があるので、あるピクチャの視差ベクトルは、グループ化され、エントロピーを除くために更に符号化される。
【0080】
図8を参照して、デコーダ800は、画像をデコードして、デコードされた画像を例えば表示装置に供給するために使用されるデコーダの実現を示す。また、デコーダ800は、例えばデコードされたビットストリームに関する情報を供給するメタデータをデコードするために使用される。1実現では、デコーダ800は、
図1のシステム100におけるデコーダ156及び/又はデコーダ170として使用される。さらに、デコーダ800は、例えば
図10に関して以下に記載されるビデオ受信システムの一部として実現される。
図8のブロックは、デコーダのブロック図を提供することに加えて、復号化プロセスのフローダイアグラムを提供することが明らかである。
【0081】
デコーダ800は、ビットストリーム受信機802を使用してビットストリームを受信する。ビットストリーム受信機802は、ビットストリーム分析器804と接続され、ビットストリームをビットストリーム分析器804に供給する。
【0082】
ビットストリーム分析器804は、残差ビットストリームをエントロピーデコーダ806に送信し、制御シンタックスエレメントをモード選択モジュール816に送信し、変位(動き/視差)ベクトル情報を変位補償モジュール826及びイントラ予測モジュール818に送信する。
【0083】
変位ベクトル情報は、例えば動きベクトル情報又は視差ベクトル情報である。動きベクトル情報は、前の画像からの相対的な動きを示すために、インター予測で典型的に使用される。視差ベクトルの情報は、(i)個別の画像に関して視差を示すためのインター予測、又は(ii)同じ画像の一部に関して視差を示すためのイントラ予測、の何れかで典型的に使用される。当該技術分野で知られているように、視差は、2つの画像間の相対的なずれ、又は変位を典型的に示す。視差は、画像の2つの部分間の相対的なずれ又は変位を示すために使用される。
【0084】
逆量子化モジュール808は、エントロピーデコーダ806から受信されたエントロピー復号化信号に逆量子化を実行する。さらに、逆変換モジュール810は、逆量子化モジュール808から受信された逆量子化された信号に逆変換を施し、加算器(結合器とも呼ばれる)に逆変換された信号を出力する。
【0085】
加算器812は、採用された復号化モードに依存して様々な他の信号のうちの1つを受信する。例えば、モード判定モジュール816は、制御シンタックスエレメントを分析及び解析することで、エンコーダにより現在処理されたブロックに、変位補償又はイントラ予測符号化が実行されたかを判定する。決定されたモードに依存して、モード選択制御モジュール816は、加算器812が変位補償モジュール826又はイントラ予測モジュール818からの信号を受信することができるように、制御シンタックスエレメントに基づいて、スイッチ817にアクセス及び制御する。
【0086】
ここで、イントラ予測モジュール818は、イントラ予測を実行して、現在復号化されている同じピクチャへの参照を使用してブロックを復号化する。次いで、変位補償モジュール826は、変位補償を実行して、現在復号化されているピクチャとは異なる別の前イン処理されたピクチャのブロックへの参照を使用してブロックを復号化する。
【0087】
さらに、様々な実現のイントラ予測モジュール818は、イントラ予測で使用された参照ブロックの位置を識別するビットストリーム分析器804からの視差ベクトル情報を受信する。係る実現では、ブロックは、参照を発見するために符号化されるピクチャをサーチするイントラ符号化モードで典型的に符号化される。
【0088】
予測又は補償情報信号を受信した後、加算器812は、例えばブロッキングアーチファクトをフィルタリングするデブロッキングフィルタのような、インーループフィルタ814への送信のため、予測又は補償情報信号を逆変換された信号と加算する。また、加算器812は、イントラ予測における使用のため、加算された信号をイントラ予測モジュール818に出力する。
【0089】
インループフィルタ814は、その入力信号をフィルタリングし、デコードされたピクチャを出力する。さらに、インループフィルタ814は、フィルタリングされた信号を参照バッファ820に供給する。参照バッファ820は、その受信された信号を分析し、参照バッファ820が分析された信号を供給する、変位補償モジュール826による変位補償復号化を許可及び支援する。係る分析された信号は、例えば、参照として使用されている様々なピクチャの全部又は一部である。
【0090】
メタデータは、ビットストリーム受信機802に供給されるビットストリームに含まれる。メタデータは、ビットストリーム分析器804により分析され、エントロピーデコーダ806によりデコードされる。デコードされたメタデータは、出力(図示せず)を使用してエントロピー復号化の後にデコーダ800から抽出される。
【0091】
図9を参照して、先に記載された特徴及び原理が適用されるビデオ送信システム/装置900が示される。ビデオ送信システム900は、例えば衛星、ケーブル、電話回線、又は地上波放送のような様々な媒体の何れかを使用して信号を送信するヘッドエンド又は送信システムである。送信は、インターネット又は幾つかの他のネットワークを通して提供される。ビデオ送信システム900は、例えばビデオコンテンツ、及び例えば深度及び/又は視差の値を含めて深度の指標のような他のコンテンツを収集及び伝達可能である。
図9のブロックは、ビデオ送信システム/装置のブロック図を提供することに加えて、ビデオ送信プロセスのフローダイアグラムを提供することが明らかである。
【0092】
ビデオ伝送システム900は、処理装置901から入力ビデオを受信する。1実現では、処理装置901は、左のビューのピクチャ140及び右のビューのピクチャ142のようなオリジナルのサイズの画像をビデオ送信システム900にシンプルに提供する。しかし、別の実現では、処理装置901は、複合ピクチャ152が得られるインタリービングと同様に、サンプラ144及びサンプラ146の動作に関して、システム100について上述されたダウンサンプリング及びインタリービングを実行する。処理装置901の様々な実現は、例えば
図5のプロセス500の処理510,520及び530を実現する処理装置を含む。また、処理装置901は、入力ピクチャがインターリーブされているかを示し、及び/又はインターリーブを記述する様々なパラメータを供給するメタデータをビデオ送信システム900に供給する。係るパラメータは、例えばインターリーブされたピクチャの数、それぞれのピクチャの変換レート、それぞれのピクチャの変換のタイプ(例えば水平方向のサンプリング又は垂直方向のサンプリング)、又はインターリーブモード(例えば、行毎のインターリーブ又は列毎のインターリーブ)を含む。
【0093】
ビデオ送信システム900は、エンコーダ902及び符号化された信号を送信可能な送信機904を含む。エンコーダ902は、プロセッサ901からのビデオ情報を受信する。ビデオ情報は、例えば画像及び深度インジケータを含む。エンコーダ902は、ビデオ情報に基づいて符号化された信号を生成する。エンコーダ902は、例えば符号化ブロック110、エンコーダ154又はエンコーダ700である。エンコーダ902は、例えば記憶又は送信のための構築されたフォーマットに情報の様々な部分を受信及び組み立てるためにアセンブリユニットを例えば含むサブモジュールを含む。情報の様々な部分は、例えば符号化又は非符号化ビデオ、符号化又は非符号化深度インジケータ及び/又は情報、並びに、例えば動きベクトル、符号化モードモジュール及びシンタックスエレメントのような符号化又は非符号化エレメントを含む。幾つかの実現では、エンコーダ902は、プロセッサ901を含み、従ってプロセッサ901の動作を実行する。
【0094】
送信機904は、エンコーダ902からの符号化された信号を受信し、符号化された信号を1以上の出力ビットストリームで送信する。送信機904は、例えばプログラム信号に関連する符号化されたピクチャ及び/又は情報を表す1以上のビットストリームを有するプログラム信号を送信する。典型的な送信機は、例えば誤り訂正符号化を提供すること、信号におけるデータをインターリーブすること、信号のエネルギーをランダム化すること、及び変調器906を使用して1以上の搬送波を信号で変調すること、のうちの1以上のような機能を実行する。送信機904は、アンテナ(図示せず)を含むか、又はアンテナとインタフェースをとる。さらに、送信機904の実現は、変調器906に制限される場合がある。
【0095】
図10を参照して、上述された特徴及び原理が適用されるビデオ受信システム/装置1000が示される。ビデオ受信システム1000は、例えば衛星、ケーブル、電話回線、又は地上波放送のような様々な媒体を通して信号を受信する。信号は、インターネット又は幾つかの他のネットワークを通して受信される。
図10のブロックは、ビデオ受信システム/装置のブロック図を提供することに加えて、ビデオ受信プロセスのフローダイアグラムを提供することは明らかである。
【0096】
ビデオ受信システム1000は、例えば携帯電話、コンピュータ、セットトップボックス、テレビジョン、又は符号化されたビデオを受信し、例えばユーザへの表示、処理又は記憶のために復号化されたビデオを提供する他の装置である。従って、ビデオ受信システム1000は、例えばテレビジョンのスクリーン、コンピュータモニタ、コンピュータ(記憶、処理又は表示向け)、或いは幾つかの他の記憶、処理又は表示装置にその出力を提供する。
【0097】
ビデオ受信システム1000は、ビデオ情報を含むビデオコンテンツを受信及び処理が可能である。ビデオ受信システム1000は、例えばこの出願の実現において記載された信号のような符号化された信号を受信する受信機1002を含む。受信機1002は、例えば、
図1の復号化ブロック120に受信されたピクチャを提供する信号、
図7のエンコーダ700からのビットストリームを搬送する信号、及び
図9のビデオ送信システム900からの信号出力を受信する。
【0098】
受信機1002は、例えば符号化されたピクチャを表す複数のビットストリームを有するプログラム信号を受信する。典型的な受信機は、例えば変調及び符号化されたデータ信号を受信すること、復調器1004を使用して1以上の搬送波からデータ信号を復調すること、信号におけるエネルギーをランダム化すること、信号におけるデータをデインターリーブすること、及び信号を誤り訂正復号化すること、のうちの1以上のような機能を実行する。受信機1002は、アンテナ(図示)を含むか、アンテナとインタフェースをとる。受信機1002の実現は、復調器1004に制限される場合がある。
【0099】
ビデオ受信システム1000は、デコーダ1006を含む、受信機1002は、デコーダ1006に受信された信号を供給する。デコーダ1006は、例えばビデオ情報を含む復号化されたビデオ信号のような復号化された信号を出力する。デコーダ1006は、
図1のシステム100のデコーダ156又はデコーダ170、或いは
図8のデコーダ800である。
【0100】
デコーダ1006からの出力ビデオは、1実現において、処理装置1008に供給される。処理装置1008は、1実現では、サンプラ180及びサンプラ182の処理と同様に、水平方向の分割スクリーンのピクチャ174を生じるデインターリーブに関して、システム100の上述されたデインターリーブ及びアップスケールを実行する。幾つかの実現では、デコーダ1006は、プロセッサ1008を含み、従ってプロセッサ1008の処理を実行する。他の実現では、プロセッサ1008は、例えばセットトップボックス又はテレビジョンのようなダウンストリーム装置の一部である。
【0101】
従って、特定の特徴及び態様を有する1以上の実現が提供される。しかし、記載された実現の特徴及び態様は、他の実現についても適合される。
【0102】
例えば、先の特徴、態様及び実現は、左/右のステレオシステムに制限されない他のシステムに適用及び又は適合される。1つの係る実現は、ビデオピクチャ及びその対応する深度ピクチャをインターリーブする。別の係る実現は、左及び右のビューとして必ずしも関連しない多視点システムとは異なる2以上のビューをインターリーブする。
【0103】
別の例として、先の実現は、マクロブロックレベルでのインターリーブを一般に記載している。しかし、インターリーブは、他の実現において他のレベルで実行される。係る他のレベルは、例えばフィールドレベル、スライスレベル、及びパーティションレベルを含む。
【0104】
更に別の例として、これらの実現及び特徴は、符号化ビデオのコンテクスト及び/又は他のタイプのデータの符号化で使用される。さらに、これらの実現及び特徴は、規格のコンテキストで使用されるか、規格のコンテクストでの使用向けに適合される場合がある。係る規格は、例えばAVC、多視点符号化(MVC)向けのAVCの拡張、スケーラブルビデオ符号化(SVC)のAVCの拡張、及び提案される3次元ビデオ符号化(3DV)及び高性能映像符号化(HVC)向けのMPEG/JVT規格を含むが、他の規格(既存又将来的)が使用される場合がある。勿論、実現及び特徴は、規格において使用される必要はない。
【0105】
様々な実現は、「画像」及び/又は「ピクチャ」を示す。用語「画像」及び「ピクチャ」は、本明細書を通して交換可能に使用され、広義の用語であることが意図される。「イメージ」又は「ピクチャ」は、例えばフレーム又はフィールドの全部又は一部である。用語「ビデオ」は、画像(又はピクチャ)の系列を示す。画像、又はピクチャは、例えば様々なビデオコンポーネント又はそれらの組み合わせを含む。係るコンポーネント、又はそれらの組み合わせは、例えば、輝度、色度、(YUV又はYCbCr又はYPbPrの)Y、(YUVの)U、(YUVの)V、(YCbCrの)Cb、(YCbCrの)Cr、(YPbPrの)Pb、(YPbPrの)Pr、(RGBの)赤、(RGBの)緑、(RGBの)青、S-Video、これらの成分の何れかのネガティブ又はポジティブを含む。「画像」又は「ピクチャ」は、又は代替的に、例えば典型的な2次元ビデオ、2次元ビデオピクチャの視差マップ、2次元ビデオピクチャに対応する深度マップ、又はエッジマップを含む様々な異なるタイプのコンテンツを示す場合がある。
【0106】
さらに、本出願又はその特許請求の範囲は、様々な情報の部分を「判定する」。情報の判定は、例えば情報の推定、情報の計算、情報の予測、情報の識別、又はメモリからの情報の検索、のうちの1以上を含む。
【0107】
以下「/」、「及び/又は」及び「少なくとも1つの」の使用について、例えば「A/B」、「A及び/又はB」及び「A及びBの少なくとも1つ」の場合、第二の列挙されたオプション(B)なしでの第一の列挙されたオプション(A)の選択、第一の列挙されたオプション(A)なしでの第二の列挙されたオプション(B)の選択、又は両方のオプション(A及びB)の選択を含むことが意図される。更なる例として、「A,B及び/又はC」、「A,B及びCの少なくとも1つ」及び「A,B又はCの少なくとも1つ」の場合、係る記載は、第二(B)及び第三(C)の列挙されたオプションの選択がない第一の列挙されたオプション(A)の選択、又は第一(A)及び第三(C)の列挙されたオプションの選択がない第二の列挙されたオプション(B)の選択、又は第一(A)及び第二(B)の列挙されたオプションの選択がない第三の列挙されたオプション(C)の選択、又は第三の列挙されたオプション(C)の選択がない第一及び第二の列挙されたオプション(A及びB)の選択、又は、第二の列挙されたオプション(B)の選択がない第一及び第三の列挙されたオプション(A及びC)の選択、又は第一の列挙されたオプション(A)の選択がない第二及び第三の列挙されたオプション(B及びC)の選択、或いは、全ての3つのオプション(A及びB及びC)の選択を含む。これは、当業者にとって容易に明らかであるように、任意のサイズのリストについて拡張される場合がある。なお、この節に記載される記載の何れもが、列挙されないエレメントを含まないように、選択を制限することが意図されない。例えば「A及び/又はB」は、「A」及び「B」の選択を排除しない。
【0108】
本発明の「1実施の形態」又は「実施の形態」又は「1実現」或いは「実現」は、その他の変形例と同様に、実施の形態と共に記載される特定の特徴、構造、特性等が本発明の少なくとも1つの実施の形態に含まれることを意味する。従って、明細書を通して様々な場所で現れる記載「1実施の形態では」又は「実施の形態では」又は「1実現では」或いは「実現では」の実現は、他の変形例と同様に、必ずしも、同じ実施の形態を全て示すものではない。さらに、これらの記載(例えば「1実施の形態では」)は、1つのみの可能な実施の形態が存在することを示すことが意図されず、むしろ、特定の実施の形態が説明されるという事実に注意を引き付けるものである。
【0109】
本明細書で記載された実現は、例えば方法又はプロセス、装置、ソフトウェアプログラム、データストリーム、又は信号で実現される。(例えば方法としてのみ説明される)単一の実現の形式の文脈でのみ記載されているとしても、説明される特徴の実現は、(例えば装置又はプログラムといった)他の形式で実現される場合もある。装置は、例えば適切なハードウェア、ソフトウェア及び/又はファームウェアで実現される場合がある。本方法は、例えばコンピュータ、マイクロプロセッサ、集積回路、又はプログラマブルロジック装置を含む、一般に処理装置と呼ばれる、例えばプロセッサのような装置で実現される。また、プロセッサは、例えばコンピュータ、携帯電話、ポータブル/パーソナルデジタルアシスタント(PDA)のような通信装置、及びエンドユーザ又は装置間で情報の通信を容易にする他の装置を含む。
【0110】
本明細書で記載される様々なプロセス及び特徴の実現は、例えばデータ符号化及び復号化と関連される機器又はアプリケーションといった、様々な異なる機器又はアプリケーションで実施される。係る機器の例は、エンコーダ、デコーダ、デコーダからのポストプロセッサの処理出力、エンコーダに入力を提供するプリプロセッサ、ビデオコーダ、ビデオデコーダ、ビデオコーデック、ウェブサーバ、セットトップボックス、ラップトップ、パーソナルコンピュータ、携帯電話、PDA及び他の通信装置を含む。明らかであるように、機器は、携帯電話である場合があり、移動車両に設置されることさえある。
【0111】
さらに、本方法は、プロセッサにより実行される命令により実現されるが、係る命令(及び/又は実現により生成されるデータ値)は、例えば集積回路、ソフトウェアキャリア又は、例えばハードディスク、コンパクトディスク、ランダムアクセスメモリ(RAM)、又はリードオンリメモリ(ROM)のような他の記憶装置のようなプロセッサ読取り可能な媒体に記憶される。命令は、プロセッサ読取り可能な媒体で有形に実施されるアプリケーションプログラムを形成する場合がある。命令は、例えばハードウェア、ファームウェア、ソフトウェア又は組み合わせである場合がある。命令は、例えばオペレーティングシステム、個別のアプリケーション、又は2つの組み合わせで発見される。従って、プロセッサは、プロセスを実行するように構成される装置及びプロセスを実行する命令を有する(記憶装置のような)プロセッサ読取り可能な媒体を含む装置の両者として特徴付けされる。さらに、プロセッサ読取り可能な媒体は、命令に加えて、又は命令に代わって、実現により生成されたデータ値を記憶する場合がある。
【0112】
当業者にとって明らかであるように、実現は、例えば記憶又は送信される情報を伝送するためにフォーマットされる様々な信号を生成する場合がある。情報は、例えば、ある方法を実行する命令、又は記載される実現のうちの1つにより生成されるデータを含む。係る信号は、例えば電磁波(例えばスペクトルの無線周波部分を使用)又はベースバンド信号として、フォーマットされる場合がある。フォーマットは、例えばデータストリームを符号化すること、及び符号化されたデータストリームで搬送波を変調することを含む。搬送が搬送する情報は、例えばアナログ又はデジタル情報である場合がある。信号は、既知であるように、様々な異なる有線又は無線リンクを通して転送される。信号は、プロセッサ読取り可能な媒体で記憶される。
【0113】
多数の実現が記載された。それにもかかわらず、様々な変更が行われることを理解されたい。例えば、異なる実現のエレメントは、他の実現を生成するために組み合わせられ、補足され、変更され、又は除去される場合がある。さらに、当業者であれば、他の構成及びプロセスがそれら開示されたものいついて置き変えられること、結果として得られる実現が開示された実現と同じ結果を少なくとも実質的に達成するために、少なくとも実質的に同じやり方で同じ機能を少なくとも実質的に実行することを理解されうであろう。従って、これらの実現及び他の実現は、この開示により想定され、この開示の範囲に含まれる。