(58)【調査した分野】(Int.Cl.,DB名)
得られたビットストリームにおけるマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントにおける前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを符号化する符号化器を含み、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含む、装置。
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、請求項1に記載の装置。
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つをさらに含む、請求項1に記載の装置。
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と前記符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項3に記載の装置。
前記符号化されたカメラ・ビューの各々の前記特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、請求項4に記載の装置。
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と前記符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方をさらに含み、前記符号化されていないカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されていないカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項1に記載の装置。
前記符号化されていないカメラ・ビューの各々の前記特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、請求項6に記載の装置。
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、請求項3に記載の装置。
前記少なくとも1つのビューを生成するための前記パラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、請求項8に記載の装置。
前記少なくとも1つのハイレベル・シンタックスエレメントは、前記ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で送信される、請求項1に記載の装置。
得られたビットストリームにおけるマルチビュー・ビデオ・コンテンツを符号化することと、少なくとも1つのハイレベル・シンタックスエレメントにおける前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報を符号化することとを含み、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含む、方法。
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、請求項11に記載の方法。
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つをさらに含む、請求項11に記載の方法。
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と前記符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項13に記載の方法。
前記符号化されたカメラ・ビューの各々の前記特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、請求項14に記載の方法。
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と前記符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方をさらに含み、前記符号化されていないカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されていないカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項11に記載の方法。
前記符号化されていないカメラ・ビューの各々の前記特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、請求項16に記載の方法。
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、請求項13に記載の方法。
前記少なくとも1つのビューを生成するための前記パラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、請求項18に記載の方法。
前記少なくとも1つのハイレベル・シンタックスエレメントは、前記ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で送信される、請求項11に記載の方法。
得られたビットストリームからのマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントからの前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを復号する復号器を含み、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含む、装置。
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、請求項21に記載の装置。
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つをさらに含む、請求項21に記載の装置。
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と前記符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項23に記載の装置。
前記符号化されたカメラ・ビューの各々の前記特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、請求項24に記載の装置。
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と前記符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方をさらに含み、前記符号化されていないカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されていないカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項21に記載の装置。
前記符号化されていないカメラ・ビューの各々の前記特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、請求項26に記載の装置。
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、請求項23に記載の装置。
前記少なくとも1つのビューを生成するための前記パラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、請求項28に記載の装置。
前記少なくとも1つのハイレベル・シンタックスエレメントは、前記ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で受信される、請求項21に記載の装置。
得られたビットストリームからのマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントからの前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを復号することを含み、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含む、方法。
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、請求項31に記載の方法。
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つをさらに含む、請求項31に記載の方法。
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と前記符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項33に記載の方法。
前記符号化されたカメラ・ビューの各々の前記特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、請求項34に記載の方法。
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と前記符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方をさらに含み、前記符号化されていないカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されていないカメラ・ビューの合計数のうちの1以上のいずれかの数である、請求項31に記載の方法。
前記符号化されていないカメラ・ビューの各々の前記特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、請求項36に記載の方法。
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、請求項33に記載の方法。
前記少なくとも1つのビューを生成するための前記パラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、請求項38に記載の方法。
前記少なくとも1つのハイレベル・シンタックスエレメントは、前記ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で受信される、請求項31に記載の方法。
復号器に復号方法を実行させるための、得られたビットストリームにおける符号化されたマルチビュー・ビデオ・コンテンツを含み、前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報は少なくとも1つのハイレベル・シンタックスエレメントで符号化され、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含み、前記復号器は、前記符号化されていないカメラ・ビュー情報に基づいて前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報を復号する、ビデオ符号化に適したデータ構造。
得られたビットストリームにおける符号化されたマルチビュー・ビデオ・コンテンツを含み、前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報は少なくとも1つのハイレベル・シンタックスエレメントで符号化され、前記マルチビュー符号化情報は、符号化されていないカメラ・ビュー情報を含み、前記符号化されていないカメラ・ビュー情報は、いずれのカメラ・ビューが符号化されていないかを示す情報を含み、復号器は、前記符号化されていないカメラ・ビュー情報に基づいて前記マルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報を復号する、前記復号器に復号方法を実行させるための符号化されたビデオ信号データが記憶された記憶媒体。
【発明を実施するための形態】
【0013】
本願の原理は、ハイレベル・シンタックスで伝送されるマルチビュー情報のための方法および装置に関する。
【0014】
本説明は、本願の原理を例示するものである。従って、本明細書において明示的に記載、または図示されていなくとも、当業者が本願の原理を実施する様々な構成を企図することが可能であり、このような構成が本願の趣旨および範囲の中に包含されることが理解できるであろう。
【0015】
本明細書に記載された全ての例および条件付の文言は、本願の原理を読者が理解するのを助けるための教示目的のものであり、発明者によって寄与された概念は、技術を発展させるものであり、このような具体的に記載された例や条件に限定されるように解釈されるべきではない。
【0016】
また、本明細書における本発明の原理、態様、および、実施の形態についての全ての記載、さらに、その特定の例は、構造的、機能的な均等物を包含するように意図したものである。さらに、このような均等物は、現在公知の均等物だけでなく、将来において開発される均等物、即ち、構造に係らず、同一の機能を実行するように開発された全ての要素を包含するように意図されている。
【0017】
従って、例えば、当業者であれば、本明細書において示されたブロック図は、本願の原理を実施する回路を例示する概念図であることが理解できよう。同様に、フローチャート、フロー図、状態遷移図、擬似コードなどは、いずれも様々な処理を表す。これらの処理は、実質的にコンピュータによって読み取り可能なメディアにおいて表すことができ、コンピュータまたはプロセッサにより実行され、このようなコンピュータまたはプロセッサがはっきりと図示されているかどうかに係るものではない。
【0018】
各図面において示される様々な要素の機能は、専用のハードウエアの使用により提供されてもよく、適切なソフトウエアと関連付けてソフトウエアを実行することが可能なハードウエアの使用によって提供されてもよい。機能がプロセッサによって提供される場合にも、単一の専用プロセッサによって提供されてもよく、単一の共有プロセッサによって提供されてもよく、複数の別個のプロセッサによって提供されてもよく、幾つかのプロセッサが共有されていてもよい。さらに、用語「プロセッサ」または「コントローラ」を明示的に使用した場合であっても、ソフトウエアを実行することが可能なハードウエアのみを意味するように解釈されるべきではなく、限定するものではないが、ディジタル信号プロセッサ(DSP: digital signal processor)・ハードウエア、ソフトウエアを格納する読み出し専用メモリ(ROM: read‐only memory)、ランダム・アクセス・メモリ(RAM: random access memory)、および不揮発性の記憶装置を暗黙的に含むことがある。
【0019】
また、従来のおよび/または慣習的な他のハードウエアを含むこともある。同様に、図面に示されたどのスイッチも概念的なものに過ぎない。これらの機能はプログラム・ロジックの動作を介して、専用のロジックを介して、プログラム制御と専用のロジックとのインタラクションを介して、または、手動でも実行されることがある。文脈からより具体的に理解できるように、実施者により、特定の技術を選択可能である。
【0020】
請求の範囲において、特定の機能を実施するための手段として表現されたいずれの要素も、この機能をどのような方法で実行するものも包含するように意図している。例えば、a)機能を実行する回路要素を組み合わせたもの、または、b)形態に関わらず、ソフトウエア、つまり、ファームウエア、マイクロコード等を含み、機能を実施するためにソフトウエアを実行する適当な回路と組み合わせたものも包含する。このような請求の範囲によって定義される本願の原理は、請求項に記載された様々な手段によって提供される機能が請求の範囲の要件として、組み合わせられ、まとめられている事実に基づいたものである。従って、出願人は、このような機能を提供することが可能な手段はどのようなものであっても、本願において示されているものと均等であるとみなす。
【0021】
明細書において、本願の原理の「一実施の形態」、または、「実施の形態」と言及されている場合、これは、実施の形態に関して記載される特定の特徴事項、構造、特性などが本願の原理の少なくとも1つの実施の形態に含まれることを意味する。従って、明細書全体に渡って様々な箇所に存在する文言「一実施の形態においては」、または、「実施の形態においては」は、必ずしも、全てが同一の実施の形態について言及するものではない。
【0022】
用語「および/または」の使用は、例えば、「Aおよび/またはB」の場合、1番目に列挙されたオプション(A)の選択、2番目に列挙されたオプション(B)の選択、または、両方のオプション(AおよびB)の選択を包含すると意図される。別の例として、「A、B、および/またはC」の場合、このような文言は、1番目に列挙されたオプション(A)の選択、2番目に列挙されたオプション(B)の選択、3番目に列挙されたオプション(C)の選択、1番目および2番目に列挙されたオプション(AおよびB)の選択、2番目および3番目に列挙されたオプション(AおよびC)の選択、2番目および3番目に列挙されたオプション(BおよびC)、または、全ての3つのオプション(A、B、およびC)の選択を包含すると意図される。列挙された多くの項目の分だけ、このことが拡張されることは、当該技術分野、さらに、関連する技術分野における通常の技術知識を有するものであれば容易に理解できるであろう。
【0023】
さらに、「読む/解析する(read/parse)」および「読んだ/解析した(read/parsed)」は、読むことと解析することの両方を意味する。
【0024】
さらに、本願の原理の1つ以上の実施の形態を本明細書中でMPEG−4 AVC規格のマルチビュー・ビデオ符号化に関連させて説明しているが、本願の原理は、この規格およびその対応規格のみに限定されるものではなく、従って、本願の原理の趣旨を逸脱することなく、マルチビュー・ビデオ符号化に関連する他のビデオ符号化規格、勧告およびその拡張版にも利用することができる。
【0025】
本明細書において使用される「ハイレベル・シンタックス」は、マクロブロック層よりも階層的に上位に位置するビットストリームに存在するシンタックスを意味する。例えば、本明細書において使用されるハイレベル・シンタックスは、限定するものではないが、スライス・ヘッダ・レベル、付加拡張情報(SEI:Supplemental Enhancement Information)レベル、ピクチャ・パラメータ・セット(PPS)・レベル、ビュー・パラメータ・セット(VPS)・レベル、ネットワーク抽象化層(NAL:network abstraction layer)ユニット・ヘッダ・レベルでのシンタックス、さらに、付加拡張情報(SEI:Supplemental Enhancement Information)メッセージ内のシンタックスを意味する場合がある。
【0026】
例示的に、説明の簡略化のために、本明細書では、付加拡張情報(SEI)メッセージの使用に関し、以下の実施の形態を説明する。しかしながら、マルチビュー情報の伝達に関連した付加拡張情報(SEI)メッセージの使用のみに本願の原理が限定されるものではなく、従って、本願の原理の趣旨を逸脱することなく、スライス・ヘッダ・レベルでのシンタックス、ピクチャ・パラメータ・セット(PPS)・レベル、ビュー・パラメータ・セット(VPS)・レベル、ネットワーク抽象化層(NAL:network abstraction layer)ユニット・ヘッダ・レベルでのシンタックス、さらに、付加拡張情報(SEI:Supplemental Enhancement information)メッセージ内のシンタックスを含む、少なくとも上述したタイプのハイレベル・シンタックスに関してマルチビュー情報の伝送を実施できることが理解できよう。
【0027】
図1を参照すると、例示的なマルチビュー符号化(MVC)の符号化器が概ね参照符号100によって示されている。符号化器100は、変換器110の入力と信号通信する出力を有する結合器105を含む。変換器110の出力は、量子化器115の入力と信号通信するように結合されている。量子化器115の出力は、エントロピー符号化器120の入力および逆量子化器125の入力と信号通信するように結合されている。逆量子化器125の出力は、逆変換器130の入力と信号通信するように結合されている。逆変換器130の出力は、結合器135の第1の非反転入力と信号通信するように結合されている。結合器135の出力は、イントラ予測器145の入力およびデブロッキング・フィルタ150の入力と信号通信するように結合されている。デブロッキング・フィルタ150の出力は、(ビューiのための)参照ピクチャ記憶部155の入力と信号通信するように結合されている。参照ピクチャ記憶部155の出力は、動き補償器175の第1の入力および動き推定器180の第1の入力と信号通信するように結合されている。動き推定器180の出力は、動き補償器175の第2の入力と信号通信するように結合されている。
【0028】
(他のビューのための)参照ピクチャ記憶部160は、ディスパリティ推定器170の第1の入力およびディスパリティ補償器165の第1の入力と信号通信するように結合されている。ディスパリティ推定器170の出力は、ディスパリティ補償器165の第2の入力と信号通信するように結合されている。
【0029】
エントロピー復号器120の出力は、符号化器100の出力として利用可能である。結合器105の非反転入力は、符号化器100の入力として利用可能であり、ディスパリティ推定器170の第2の入力および動き推定器180の第2の入力と信号通信するように結合されている。スイッチ185の出力は、結合器135の第2の非反転入力および結合器105の非反転入力と信号通信するように結合されている。スイッチ185は、動き補償器175の出力と信号通信するように結合される第1の入力と、ディスパリティ補償器165の出力と信号通信する第2の入力と、イントラ予測子145の出力と信号通信する第3の入力とに結合されている。
【0030】
図2を参照すると、例示的なマルチビュー・ビデオ符号化(MVC)の復号器が概ね参照符号200によって示されている。復号器200は、逆量子化器210の入力と信号通信するように出力が結合されたエントロピー復号器205を有する。逆量子化器210の出力は、逆変換器215の入力と信号通信するように結合されている。逆変換器215の出力は、結合器220の第1の非反転入力と信号通信するように結合されている。結合器220の出力は、デブロッキング・フィルタ225の入力およびイントラ予測器230の入力と信号通信するように結合されている。デブロッキング・フィルタ225の出力は、(ビューiのための)参照ピクチャ記憶部240の入力と信号通信するように結合されている。参照ピクチャ記憶部240の出力は、動き補償器235の第1の入力と信号通信するように結合されている。
【0031】
(他のビューiのための)参照ピクチャ記憶部245の出力は、ディスパリティ補償器250の第1の入力と信号通信するように結合されている。
【0032】
エントロピー符号化器205の入力は、残差ビットストリームを受信するため、復号器200の入力として利用可能である。さらに、スイッチ255の制御入力は、このスイッチ255によってどの入力が選択されるかを制御する制御シンタックスを受信するために、復号器200に対する入力として利用可能である。さらに、動き補償器235の第2の入力は、動きベクトルを受信するために、復号器200の入力として利用可能である。さらに、ディスパリティ補償器250の第2の入力は、ディスパリティ・ベクトルを受信するために、復号器200に対する入力として利用可能である。
【0033】
スイッチ255の出力は、結合器220の第2の非反転入力と信号通信するように結合されている。スイッチ255の第1の入力は、ディスパリティ補償器250の出力と信号通信するように結合されている。スイッチ255の第2の入力は、動き補償器235の出力と信号通信するように結合されている。スイッチ255の第3の入力は、イントラ予測器230の出力と信号通信するように結合されている。モード・モジュール260の出力は、スイッチ255によってどの入力が選択されるかを制御するために、スイッチ255と信号通信するように結合される。デブロッキング・フィルタ225の出力は、復号器の出力として利用可能である。
【0034】
上述したように、本願の原理は、付加拡張情報(SEI)メッセージ内において伝送されるマルチビュー情報のための方法および装置に関する。実施の形態においては、新たな補助情報メッセージ(SEI)がMPEG−4 AVC規格のマルチビュー・ビデオ符号化(MVC)の拡張版におけるマルチビュー情報の信号を送信するために提供される。
【0035】
本願の原理は、限定するものではないが、ストリーム適応化、データ抽出および伝送、ランダム・アクセス、エラー検出、エラー隠蔽などを含むマルチビュー・ビデオ・ストリームに対応する様々なシステム・レベルの各処理に適用される。必要な情報は、元のビットストリームを分析することによって得られるが、このようなビットストリームの分析は、実施および演算量の点において軽視できるものではない。ビデオ符号化器および復号器に限らないシステムのコンポーネントからでも情報にアクセスできると、より柔軟であり、都合がよい。本願の原理は、符号化器および復号器に限らず、このような情報を提供する。
【0036】
本願の原理に従って、必要なマルチビュー・ビデオ符号化(MVC)情報を提供するために、幾つかの新たな付加拡張情報メッセージを提供する。マルチビュー符号化において、幾らかの符号化されたカメラ・ビュー、幾らかの符号化されていないカメラ・ビュー、さらに、カメラによってキャプチャされたものではないが、元のカメラ・ビューから生成された幾つかのフリー・ビューを有する。本願の原理に従って、限定するものではないが、以下の3つの例示的なカテゴリーに基づいて新たな付加拡張情報メッセージを説明する。
(1)符号化されたカメラ・ビュー
(2)符号化されていないカメラ・ビュー
(3)フリー・ビューポイント・アプリケーションのために生成されたビュー
勿論、本明細書において提供される本願の原理の開示内容に鑑み、本願の原理は、このような分類に限定されることなく、本技術分野、さらに、関連する技術分野の当業者であれば、本願の原理の趣旨を逸脱することなく、別の分類や、実施態様を採用することも容易である。
【0037】
マルチビュー・ビデオ通信に関連し、有用である、例示的なマルチビュー・ビデオ符号化情報には、限定するものではないが、以下のものが含まれる。
【0038】
符号化されたカメラ・ビューに関しては、例示的なマルチビュー・ビデオ符号化情報には、以下に限定するものではないが、符号化されたビューの合計数、各符号化されたビューの特性、ビュー識別子およびその符号化順、ビュー・スケーラビリティ情報、ビュー依存性情報、ビットレート、フレームサイズ、フレームレート、関心領域(ROI:Region of Interest)、スケーラビリティ情報(時間、空間、およびSN比(SNR)、必要な復号器(例えば、プロフィール、レベル、およびプロフィール互換情報)、必要な初期パラメータ・セット、さらに、カメラ・パラメータが含まれる。
【0039】
符号化されていないカメラ・ビューに関しては、例示的なマルチビュー・ビデオ符号化情報には、以下に限定するものではないが、符号化されていないビューの合計数、各符号化されたビューの特性、ビュー識別子、ビュー補間情報、およびカメラ・パラメータを含む。
【0040】
フリー・ビューポイントに関しては、例示的なマルチビュー符号化情報には、以下に限定するものではないが、フリー・ビュー生成情報が含まれる。
【0041】
前述したタイプのマルチビュー・ビデオ符号化情報は、メディア・オファー/アンサー・ネゴシエーション、機能交換、さらに、ストリーム適応化処理において使用することができる。さらに、前述したタイプのマルチビュー・ビデオ符号化情報は、効率的なデータ抽出、伝送、ビュー生成などに使用することができる。
【0042】
符号化されたカメラ・ビューのための情報
ビュー識別子は、固有のものであり、あるビューと他のビューとを区別するために使用される。ビュー識別子は、出力処理、ビュー抽出、ビュー・ランダム・アクセスなどのために使用される。ビュー符号化順は、符号化されたビューを捕捉するビュー識別子は、符号化順における符号化されたビュー毎に1増やされる。ビュー識別子は、失われたビューを復号器が検出する際に有用である。
【0043】
ビュー・スケーラビリティ情報は、最小限の復号処理負荷で選択されたビューにアクセスできるようにするために使用される。ビュー・スケーラビリティ情報は、状況の変化するネットワークを介して複数の異なる端末にビデオが表示できるようにする。ビュー・スケーラビリティ情報は、不連続なビュー・レベルが検出されたときに失われたビューを検出するために使用することができる。
【0044】
特定のビューの表現のために全てのビューが必要となるものではないことが知られているが、どのビューが必要でないかは当初はわからない。ビュー依存性情報は、ビュー抽出、ビュー・ランダム・アクセスなどに役に立つ。ビュー依存性情報は、所与のビューにおけるフレームにアクセスする際、復号器のビュー次元(dimension)内で各フレームの復号を最小限にするのに役に立つ。ビュー依存性情報は、ストリーミング・サーバが不要なビューの送信を回避する際、このような回避を行うためのビットストリームの解析をしなくてもよいようにするのに役に立つ。失われたビューのエラー隠蔽のために、依存性情報は、どのビューをコピー、さらに/または補間するかを復号器が決定するのに役に立つ。
【0045】
アプリケーション、さらに、利用可能なリソースに依存して、ビットレート、フレームレート、および、フレームサイズ情報は、異なるビューに対して異なる設定がなされる場合がある。この情報は、ビューの中でのピクチャ品質を導出するために使用することができ、アプリケーションは、表示のためにどのビューを抽出するかどうかを決定することができる。さらに、ビットレート情報は、復号器が並列処理のために演算リソースを管理するのに役に立つ。フレームレートおよびフレームサイズ情報は、ビュー合成に使用することができる。この情報は、さらに、エラー検出にも役に立つ。特定のビューのために受信されたビットレートまたはフレームレートが規定されたものよりも低い場合には、このビューの中にエラーが存在することが分かる。
【0046】
アプリケーションに依存して、ビューの中には、画像の部分のみが符号化されるものもある。関心領域(ROI)情報は、関心ビュー領域をサポートするのに有用である。エラー隠蔽の目的で、関心領域は、画像のどの部分が関連性を有するかについて、ヒントを提供する役目を果たす。
【0047】
各ビューに対し、時間/空間/SN比(SNR)のスケーラビリティ情報により、メディア認識(media−aware)ネットワーク要素または受信機がフレキシブルに特定のビューのためにどのスケーラビリティ情報を捨てることができるかを知ることができる。
【0048】
現行のマルチビュー・ビデオ符号化システムにおいては、MPEG−4 AVC規格準拠ビューおよび非準拠ビューは、異なるシーケンス・パラメータ・セットを使用する。即ち、ビューの表現は、ビットストリーム全体の初期パラメータ・セットの全てを使わない場合がある。従って、全ての初期パラメータ・セットを送信することは、送信帯域幅の浪費につながったり、初期セットアップ遅延を長期化させたりする場合があるが、特に、その理由は、初期パラメータ・セットが通常、アウトオブバンドで良好な信頼性で送信されるからである。これは、受信確認が使用され、再送信が使用される場合があることを示唆している。各ビューの表現のための初期パラメータの信号を送信することにより問題が解決される。
【0049】
カメラ・パラメータは、ビュー生成、ビュー補間、ビュー合成などに役に立つ。ビュー生成、ビュー補間、およびビュー合成は、符号化目的の役目を果たすだけでなく、復号器でのエラー隠蔽のために使用することもできる。
【0050】
上述した符号化されたカメラ・ビュー情報をサポートする付加拡張情報メッセージの実施の形態を表1に例示する。
表1
【0051】
符号化されたカメラ・ビュー情報のための付加拡張情報メッセージのシンタックスは、表1において太字で示されており、各セマンティクスを以下に説明する。なお、シンタックスおよび/またはセマンティクスにおいて参照されている初期パラメータ・セットは、ビットストリームの最初におくことができるパラメータ・セット、または、セッションの最初に送信することができるパラメータ・セットである。
【0052】
num_coded_views_minus1に1加えたものが、ビットストリームによってサポートされる符号化されるビューの数を示す。num_coded_views_minus1の値は、0以上1023以下の範囲にある。
【0053】
view_id[i]は、i番目のビューの識別子を示す。
view_num[i]は、view_id[i]に相当するビュー識別子を有するビューのビュー符号化順を示す。view_numは、符号化順における符号化されたビュー毎に1増やされる。
view_level[i]は、view_id[i]に相当するビュー識別子を有するビューのビュー・スケーラビリティのレベルを示す。
【0054】
view_dependency_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのビュー依存性情報が付加拡張メッセージ内に存在していることを示す。0の値は、ビューのビュー依存性情報がview_dependency_info_src_view_id_delta[i]によって示される別のビューと同じであること(view_dependency_info_src_view_id_delta[i]が0でないとき)、または、ビューの付加拡張情報が付加拡張メッセージ内に存在しないこと(view_dependency_info_src_view_id_delta[i]が0であるとき)を示す。
【0055】
bitrate_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー拡張子を有するビューのビットレート情報が付加拡張メッセージ内に存在することを示す。0の値は、view_id[i]に相当するビューのビットレート情報が付加拡張情報メッセージ内に存在しないことを示す。
【0056】
frm_rate_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのビュー依存性情報が付加拡張メッセージ内に存在することを示す。0の値は、ビューのフレームレート情報がframe_rate_info_src_view_id_delta[i]によって示される別のビューと同じである(frame_rate_info_src_view_id_delta[i]が0でないとき)、または、ビューのフレームレート情報が付加拡張情報メッセージ内に存在しないこと(frame_rate_info_src_view_id_delta[i]が0であるとき)を示す。
【0057】
frm_size_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー拡張子を有するビューのフレームサイズ情報が付加拡張メッセージ内に存在することを示す。0の値は、ビューのフレームサイズ情報がfrm_size_info_src_view_id_delta_minus1[i]によって示される別のビューと同じであることを示している。
【0058】
sub_region_view_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのサブ領域情報が付加拡張メッセージ内に存在していることを示す。0の値は、ビューのサブ領域情報がsub_region_info_src_view_id_delta[i]によって示される別のビューと同じであること(sub_region_info_src_view_id_delta[i]が0でないとき)、または、ビューのサブ領域情報が付加拡張情報メッセージ内に存在しないこと(sub_region_info_src_view_id_delta[i]が0であるとき)を示す。
【0059】
scalability_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのためのスケーラビリティ情報が付加拡張メッセージ内に存在することを示す。0の値は、ビューのビュー依存性情報がview_dependency_info_src_view_id_delta[i]によって示される別のビューと同じであること(scalable_info_src_view_id_delta[i]が0でないとき)、または、ビューのスケーラビリティ情報が付加拡張メッセージ内に存在しないこと(scalable_info_src_view_id_delta[i]が0であるとき)を示す。1の値は、MPEG−4 AVC規格のスケーラブル・ビデオ符号化(SVC:scalable video coding)拡張版におけるscalable_info()付加拡張情報メッセージの使用を示す。
【0060】
profile_level_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのためのプロフィールおよびレベル情報が付加拡張情報メッセージ内に存在することを示す。0の値は、view_id[i]に相当するビュー識別子を有するビューのプロフィールおよびレベル情報がprofile_level_info_src_view_id_delta[i]によって示される別のビューと同じであること(profile_level_info_src_view_id_delta[i]が0でないとき)、または、ビューのプロフィールおよびレベル情報が付加拡張情報メッセージ内に存在しないこと(profile_level_info_src_view_id_delta[i]が0であるとき)を示す。
【0061】
init_parameter_sets_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューの初期パラメータ・セット情報が付加拡張情報メッセージ内に存在することを示す。0の値は、ビューの初期パラメータ・セット情報がinit_parameter_set_src_view_id_delta[i]によって示される別のビューと同じであること(init_parameter_set_src_view_id_delta[i]が0でないとき)、または、初期パラメータ・セット情報が付加拡張情報メッセージ内に存在しないこと(init_parameter_set_src_view_id_delta[i]が0であるとき)を示す。
【0062】
camera_parameter_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのためのカメラ・パラメータ情報が付加拡張メッセージ内に存在することを示す。0の値は、ビューのカメラ・パラメータ情報がcamera_parameter_info_src_view_id_delta[i]によって示される別のビューと同じであること(camera_parameter_info_src_view_id_delta[i]が0でないとき)、または、初期パラメータ・セット情報が付加拡張情報メッセージ内に存在しないこと(camera_parameter_info_src_view_id_delta[i]が0であるとき)を示す。
【0063】
view_profile_idc[i]、view_constraint_set0_flag[i]、view_constraint_set1_flag[i]、view_constraint_set2_flag[i]、view_constraint_set3_flag[i]、およびview_level_idc[i]は、view_id[i]に相当するビュー識別子を有するビューの表現のビットストリームに対するプロフィールおよびレベルの準拠性(compliancy)を示す。view_profile_idc[i]、view_constraint_set0_flag[i]、view_constraint_set1_flag[i]、view_constraint_set2_flag[i]、view_constraint_set3_flag[i]、およびview_level_idc[i]のセマンティクスは、profile_idc、constraint_set0_flag、constraint_set1_flag、constraint_set2_flag、constraint_set3_flag、およびlevel_idcのそれぞれのセマンティクスと同じであり、問題となるビットストリームは、このビューの表現の1つである。
【0064】
proile_level_info_src_view_id_delta[i]が0よりも大きい場合、それは、view_id[i]に相当するビュー識別子を有するビューが、(view_id[i] + profile_level_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じプロフィールおよびレベル情報を有することを規定している。0の値は、view_id[i]に相当するビュー識別子を有するビューのプロフィールおよびレベル情報が付加拡張情報メッセージ内に存在しないことを示す。
【0065】
avg_bitrate[i]は、view_id[i]に相当するビュー識別子を有するビューの表現の平均ビットレートを毎秒1000ビットの単位で示す。ターゲット・ビットストリームがビューの表現のビットストリームであることを除き、accurate_statistics_flagが1であるとき、avg_bitrateのセマンティクスは、サブシーケンス・ビュー特徴付加拡張情報メッセージ内のaverage_bit_rateのセマンティクスと同一である。
【0066】
max_bitrate_view[i]は、max_bitrate_calc_window[i]によって規定される時間窓で計算される、view_id[i]に相当するビュー識別子を有するビューのビットストリームの最大ビットレートを毎秒1000ビットの単位で示す。
【0067】
max_bitrate_decoded_picture[i]は、max_bitrate_calc_window[i]によって規定される時間窓に基づいて計算される、view_id[i]に相当するビュー識別子を有するビューの表現のビットストリームの最大ビットレートを毎秒1000ビットの単位で示す。
【0068】
max_bitrate_calc_window[i]は、1/100秒の単位で、時間窓の長さを示し、この時間窓の長さに基づいてmax_bitrate1[i]およびmax_bitrate2[i]が計算される。
【0069】
constant_frm_rate_idc[i]は、view_id[i]に相当するビュー識別子を有するビューの表現のフレームレートが一定であるかどうかを示す。以下に規定するavg_fm_rate[i]の値が一定であれば、ビューの表現のどの時間部分が計算に使用されているかに関わらず、フレームレートは一定である。そうでない場合は、フレームレートは一定ではない。0の値は、非一定のフレームレートを表し、1の値は、一定のフレームレートを表し、2の値は、フレームレートが一定であるかどうか不明であることを表す。constantFrameRateの値は、0以上2以下の範囲にある。
【0070】
avg_frm_rate[i]は、view_id[i]に相当するビュー識別子を有するビューの表現の平均フレームレートを、毎秒フレームの単位で示す。avg_frm_rateのセマンティクスは、ターゲット・ビットストリームがビューの表現のビットストリームであることを除き、accurate_statistics_flagが1であるとき、avg_frm_rateのセマンティクスは、サブシーケンス・ビュー特徴付加拡張情報メッセージ内のavg_frm_rateのセマンティクスのセマンティクスと同じである。
【0071】
frm_rate_info_src_view_id_deltaが0よりも大きい場合、それは、view_id[i]に相当するビュー識別子を有するビューが、(view_id[i] − frm_rate_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じフレームレート情報を有することを示す。0の値は、view_id[i]に相当するビュー識別子を有するビューのフレームレート情報が付加拡張情報メッセージ内に存在しないことを示す。
【0072】
frm_width_in_mbs_minus1[i]に1を加えたものが、view_id[i]に相当するビュー識別子を有するビューの表現における符号化されたフレームの、マクロブロックにおける最大幅を示す。変数PicWidthInMbs[i]は、(frm_width_in_mbs_minus1[i]+1)として導出される。
【0073】
frm_height_in_mbs_minus1[i]に1を加えたものが、view_id[i]に相当するビュー識別子を有するビューの表現における符号化されたフレームの、マクロブロックにおける最大高さを示す。
変数PicHeightInMbs[i]は、(frm_height_in_mbs_minus[i]+1)として導出される。変数PicSizeInMbs[i]は、マクロブロックの単位でのピクチャ・サイズを示し、PicWidthInMbs[i]*PicHeightInMbs[i]として導出される。
【0074】
frm_size_info_src_view_id_delta[i]は、view_id[i]に相当するビュー識別子を有するビューが(view_id[i]+fm_size_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じフレームサイズ情報を有することを規定している。0の値は、view_id[i]に相当するビュー識別子を有するビューのフレームサイズ情報が付加拡張情報メッセージ内に存在しないことを示す。
【0075】
horizontal_offset[i]およびvertical_offset[i]は、view_id[i]に相当するビュー識別子を有するビューの表現によって表される矩形領域の左上隅の画素の、水平方向のオフセットおよび垂直方向のオフセットをそれぞれ示す。
【0076】
region_width[i]およびregion_height[i]は、view_id[i]に相当するビュー識別子を有するビューの表現によって表される矩形領域の幅および高さをそれぞれ示す。
【0077】
sub_region_info_src_view_id_delta[i]は、view_id[i]に相当するビュー識別子を有するビューが(view_id[i]+sub_region_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同様のサブ領域情報を有する。0の値は、view_id[i]に相当するビュー識別子を有するビューのサブ領域情報が付加拡張情報メッセージ内に存在しないことを示す。
【0078】
num_directly_dependent_views_anchor[i]は、view_id[i]に相当するビュー識別子を有するビューのアンカー・ピクチャが直接依存しているビューの数を示す。num_directly_dependent_views_anchorの値は、0以上15以下の範囲にある。
【0079】
num_directly_dependent_views_non_anchor[i]は、view_id[i]に相当するビュー識別子を有するビューの非アンカー・ピクチャが直接依存しているビューの数を示す。ビューBからの非アンカー・ピクチャからのビュー内予測を使用してビューAの中に少なくとも1つの符号化された非アンカー・ピクチャが存在する場合には、ビューAの非アンカー・ピクチャは、ビューBの非アンカー・ピクチャに直接依存している。num_directly_dependent_views_non_anchorの値は、0以上15以下の範囲にある。
【0080】
diredtly_dependent_view_id_delta_anchor[i][j]は、view_id[i]と、view_id[i]に相当するビュー識別子を有するビューのアンカー・ピクチャが直接依存しているj番目のビューのビュー識別子との間の差を示す。直接依存しているビューのビュー識別子は、(view_id[i]+directly_dependent_layer_id_delta_anchor[i][j])に相当する。
【0081】
diredtly_dependent_view_id_delta_non_anchor[i][j]は、view_id[i]と、view_id[i]に相当するビュー識別子を有するビューの非アンカー・ピクチャが依存しているj番目のビューのビュー識別子との間の差を示す。直接依存しているビューのビュー識別子は、(view_id[i]+directly_dependent_layer_id_delta_non_anchor[i][j])に相当する。
【0082】
num_init_seq_parameter_set_minus1[i]に1を加えたものが、view_id[i]に相当するビュー識別子を有するビューの表現を復号する初期シーケンス・パラメータ・セットの数を示す。
【0083】
init_seq_parameter_set_id_delta[i][j]は、jが0である場合、view_id[i]に相当するビュー識別子を有するビューの表現を復号するj番目の初期パラメータ・セットのseq_parameter_set_idの値を示す。jが0よりも大きい場合、init_seq_parameter_set_id_delta[i][j]は、j番目の初期パラメータ・セットのseq_parameter_set_idの値と、j−1番目の初期シーケンス・パラメータ・セットのseq_parameter_set_idの値との間の差を示す。初期シーケンス・パラメータ・セットは、seq_parameter_set__idの値の昇順でロジカルに順序付けられている。
【0084】
num_init_pic_parameter_set_minus1[i]に1を加えたものが、view_id[i]に相当するビュー識別子を有するビューの表現を復号する初期ピクチャ・パラメータ・セットの数を示す。
【0085】
init_pic_parameter_set_id_delta[i][j]は、jが0である場合、view_id[i]に相当するビュー識別子を有するビューの表現を復号するj番目の初期ピクチャ・パラメータ・セットのpic_parameter_set_idの値を示す。jが0よりも大きい場合、init_pic_parameter_set_id_delta[i][j]は、j番目の初期ピクチャ・パラメータ・セットのpic_parameter_set_idの値と、j−1番目の初期ピクチャ・パラメータ・セットのpic_parameter_set_idの値との間の差を示す。初期ピクチャ・パラメータ・セットは、pic_parameter_set_idの値の昇順にロジカルに順序付けられている。
【0086】
init_parameter_sets_info_src_view_id_delta[i]は、view_id[i]に相当するビュー識別子を有するビューが(view_id[i]+init_parameter_sets_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じ初期パラメータ・セット情報を有することを規定している。0の値は、view_id[i]に相当するビュー識別子を有するビューの初期パラメータ・セット情報が付加拡張情報メッセージ内に存在しないことを示す。
【0087】
camera_parameter_src_view_id_delta[i]は、view_id[i]に相当するビュー識別子を有するビューが(view_id[i]+camera_parameter_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じカメラ・パラメータ情報を有することを規定している。0の値は、view_id[i]に相当するビュー識別子を有するビューのカメラ・パラメータ情報が付加拡張情報メッセージ内に存在しないことを示す。
【0088】
符号化されていないカメラ・ビューのための情報
ビュー識別子は、どのビューが符号化されていないかを復号器に示すために使用される。ビュー復号器は、ネットワーク・エラーや意図的に符号化されなかったことに起因して欠落したビューが失われていることを復号器が判定するのに役に立つ。
【0089】
ビュー補間情報は、復号器が符号化されたビューから符号化されていないビューを補間する際に役に立つ。ビュー補間情報には、例えば、どのビューが補間に使用されているか、どの補間方法を使用するべきか、などの情報を含めることができる。従って、特定の符号化されていないビューのみを表示することをアプリケーションが要求している場合には、サーバーは、補間のために必要なビュー、さらに、符号化されたビューのビュー依存性情報に基づくそれぞれの依存したビューを抽出し、送信するだけでよい。
【0090】
カメラ・パラメータは、符号化されていないビューの補間または合成に使用することができる。
【0091】
上述した符号化されていないカメラ・ビュー情報をサポートする付加拡張情報メッセージの実施の形態を表2に例示する。
表2
【0092】
符号化されていないカメラ・ビュー情報の付加拡張情報メッセージは、表2において太字で示されており、各セマンティクスを以下に説明する。なお、シンタックスおよび/またはセマンティクスにおいて参照される初期パラメータ・セットは、ビットストリームの最初に置くことができるパラメータ・セットか、セッションの最初で送信することができるパラメータ・セットを指す。
【0093】
num_non_coded_views_minus1に1を加えたものがビットストリームによってサポートされる符号化されていないビューの数を示す。num_non_coded_views_minus1は、0以上1023以下の範囲にある。
【0094】
view_id[i]は、i番目のビューの識別子を示す。
【0095】
view_interpolation_info_present_flag[i]が1であるものは、view_id[i]に相当するビュー識別子を有するビューのためのビュー補間情報が付加拡張情報メッセージ内に存在することを示す。0の値は、ビューの補間情報がview_interpolation_info_src_view_id_delta[i]によって示される別のビューと同じであること(view_interpolation_info_src_view_id_delta[i]が0でないとき)、または、ビューのビュー依存性情報が付加拡張情報メッセージ内に存在しないこと(view_interpolation_info_src_view_id_delta[i]が0であるとき)を示す。
【0096】
camera_parameters_info_present_flag[i]が1であるものはview_id[i]に相当するビュー識別子を有するビューのためのカメラ・パラメータ情報が、付加拡張情報メッセージ内に存在することを示す。0の値は、ビューのカメラ・パラメータ情報がcamera_parameter_info_src_view_id_delta[i]によって示される別のビューと同じであること(camera_parameter_info_src_view_id_delta[i]が0でないとき)、または、カメラ・パラメータ情報が付加拡張情報メッセージ内に存在しないこと(camera_parameter_info_src_view_id_delta[i]が0であるとき)を示す。
【0097】
camera_parameters
各カメラ・パラメータは、3×4の投影マトリックスPの形式で伝送されるものと推定される。マトリックスPは、3Dの世界におけるポイントを2Dの画像座標にマッピングするために使用される。
I=P*[Xw:Yw:Zw:1]
ここで、同次座標I=[λ・|x:λ・|y:λ]である。
各要素camera_parameters_*_*は、IEEE(Institute of_Electrical and Electronics Engineers)単精度浮動小数点(32ビット)規格に従って表される。
【0098】
num_referenced_views[i]は、view_id[i]に相当するビュー識別子を有するビューが補間された形態である、ビューの数を示す。num_directly_dependent_viewsの値は、0以上1023以下の範囲にある。
【0099】
directly_dependent_view_id_delta[i][j]は、view_id[i]と、view_id[i]に相当するビュー識別子を有するビューが補間された形態である、j番目のビューのビュー識別子との間の差を示す。このようなビューのビュー識別子は、(view_id[i]+directly_dependent_layer_id_delta[i][j])に相当する。
【0100】
camera_parameter_info_src_view_id_delta[i]は、view_id[i]に相当するビュー識別子を有するビューが(view_id[i]+camera_parameter_info_src_view_id_delta[i])に相当するビュー識別子を有するビューと同じカメラ・パラメータ情報を有することを規定している。0の値は、view_id[i]に相当するビュー識別子を有するビューのカメラ・パラメータ情報が付加拡張情報メッセージ内に存在しないことを示す。
【0101】
フリー・ビューポイント・アプリケーションのための情報
フリー・ビューポイント・ビデオは、三次元(3D)コンピュータ・グラフィックスから公知であるものと同様の機能を提供する。ユーザは、視覚シーン内で特定のビューポイントおよびビュー方向を選択することができ、従って、インタラクティブなビューポイント・ナビゲーションを提供する。この機能は、例えば、ユーザが自由にビューポイントを選択することができるオペラ/コンサート/スポーツのイベントのDVDなど、多くのユーザ・アプリケーションにとって関心が高いものである。
【0102】
フリー・ビューポイント・アプリケーションをより良好にサポートするために、限定するものではないが、以下のものを含むフリー・ビューポイントに特定した情報を伝送するためにマルチビュー情報付加拡張情報メッセージを使用することができる。
【0103】
フリー・ビューポイント情報の一例は、例えば、リニア・アレイ、ドーム・アレイ、および/または、2次元(2D)矩形アレイなどのカメラ・アレイ設定のタイプである。
【0104】
フリー・ビューポイントのさらに別の例は、ユーザがビューポイントおよび/またはビュー方向を変更できる限りにおけるナビゲーション空間の定義である。レンダリング・デバイスの性能に依存して、ナビゲーション空間は、1次元空間として定義される場合もあれば、多次元空間として定義される場合もある。2次元空間の場合には、水平/垂直ビューポイントおよび/またはパン/チルト(上下左右)ビュー方向の各次元として座標系を定義することができる。
【0105】
フリー・ビューポイント情報のさらに別の説明は、ナビゲーション空間における所与の位置のレンダリングに必要なビューのセットである。例えば、レンダリング・デバイスが1次元のベースラインに沿ってナビゲートできるように制約されていると、そのベースラインの各々のセグメントに依存するビューのセットが規定されるべきである。この情報は、利用可能であれば、マルチビュー・ビデオ・コンテンツを復号する機能を有する復号器が、ナビゲーション空間内の所与の位置をレンダリングするために必要なビュー画像のサブセットを決定するのに役立つ。
【0106】
上述したフリー・ビューポイント情報をサポートする付加拡張情報メッセージの実施の形態を表3に例示する。
表3
【0107】
符号化されていないカメラ・ビュー情報のための付加拡張情報メッセージのシンタックスは、表3において太字で示されており、各セマンティクスを以下に説明する。なお、シンタックスおよび/またはセマンティクスにおいて参照されている初期パラメータ・セットは、ビットストリームの最初に置くことができるパラメータ・セット、または、セッションの最初に送信することができるパラメータ・セットである。
【0108】
camera_array_typeは、カメラ・アレイのタイプを示す。
【0109】
left_bound_for_navigationは、ナビゲーション空間の左側境界を指す。
【0110】
right_bound_for_navigationは、ナビゲーション空間の左側境界を指す
【0111】
num_segments_in_navigation_spaceは、レンダリングのために必要な異なるビューのセットを有するナビゲーション空間におけるセグメントの数を示す。
【0112】
left_bound_segmentは、ナビゲーション空間の現在のセグメントの左境界を示す。
【0113】
num_views_needed_for_renderingは、現在のセグメントをナビゲートしている際にレンダリングに必要なビューの数を示す。
【0114】
view_id_needed_for_rendering[i][j]は、ナビゲーション空間内のi番目のセグメントにおいてナビゲートしている際にレンダリングに必要なj番目のビューのview_idを示す。
【0115】
図3A〜
図3Dを参照すると、マルチビュー情報を符号化する例示的な方法が概ね参照符号300によって示されている。方法300は、符号化されていないカメラ・ビュー情報を含むマルチビュー情報を符号化する方法500と、フリー・ビューポイント情報を含むマルチビュー情報を符号化する方法600を含むことが理解できるであろう。さらに、方法300は、符号化されたカメラ・ビュー情報を含むマルチビュー情報を符号化することが理解できるであろう。
【0116】
方法300は、制御を機能ブロック304に受け渡す開始ブロック302を含む。機能ブロック304は、符号化器設定ファイルを読み出し、制御を機能ブロック306に受け渡す。機能ブロック306は、符号化パラメータをセットアップし、制御を機能ブロック308に受け渡す。機能ブロック308は、ハイレベル・シンタックス(例えば、シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、および/または、ビュー・パラメータ・セット)を作成し、制御を機能ブロック310に受け渡す。機能ブロック310は、符号化されたカメラ・ビュー情報付加拡張情報(SEI)メッセージの作成を開始し、制御を機能ブロック312に受け渡す。機能ブロック312は、符号化されたビューの数を設定し、制御を決定ブロック314に受け渡す。決定ブロック314は、符号化されたビューの数が全てのビューに対して設定されているかどうかを判定する。符号化されたビューの数が全てのビューに対して設定されている場合には、制御が機能ブロック316に受け渡される。そうでない場合には、制御が機能ブロック320に受け渡される。
【0117】
機能ブロック316は、ビットストリームに対して付加拡張情報(SEI)メッセージを記述し、制御を機能ブロック317に受け渡す。機能ブロック317は、インバンドまたはアウトオブバンドで付加拡張情報(SEI)を送信し、制御を機能ブロック318に受け渡す。機能ブロック318は、各ビューを符号化し、制御を終了ブロック399に受け渡す。
【0118】
機能ブロック320は、view_idシンタックス・パラメータを設定し、制御を機能ブロック322に受け渡す。機能ブロック322は、view_numシンタックスエレメントを設定し、制御を機能ブロック324に受け渡す。機能ブロック324は、view_levelシンタックス・パラメータを設定し、制御を機能ブロック326に受け渡す。機能ブロック326は、ビュー依存性存在フラグを設定し、制御を機能ブロック328に受け渡す。機能ブロック328は、ビットレート情報存在フラグを設定し、制御を機能ブロック330に受け渡す。機能ブロック330は、フレームレート情報存在フラグを設定し、制御を機能ブロック332に受け渡す。機能ブロック332は、フレームサイズ情報存在フラグを設定し、制御を機能ブロック334に受け渡す。機能ブロック334は、サブ領域フラグを設定し、制御を機能ブロック336に受け渡す。機能ブロック336は、スケーラビリティ情報存在フラグを設定し、制御を機能ブロック338に受け渡す。機能ブロック338は、プロフィール/レベル・フラグを設定し、制御を機能ブロック340に受け渡す。機能ブロック340は、初期パラメータ・セット・フラグを設定し、制御を機能ブロック342に受け渡す。機能ブロック342は、カメラ・パラメータ存在フラグを設定する。決定ブロック344は、プロフィール/レベル情報存在フラグが設定されているかどうかを判定する。プロフィール/レベル情報存在フラグが設定されている場合には、制御が機能ブロック346に受け渡される。そうでない場合には、制御が機能ブロック348に受け渡される。
【0119】
機能ブロック346は、プロフィール/レベル制約フラグを設定し、view_levelフラグを設定し、制御を決定ブロック350に受け渡す。決定ブロック350は、ビットレート情報存在フラグが設定されているかどうかを判定する。そうでない場合には、制御が決定ブロック354に受け渡される。
【0120】
機能ブロック352は、ビットレート関連情報を設定し、制御を決定ブロック354に受け渡す。
【0121】
決定ブロック354は、フレーム情報存在フラグが設定されているかどうかを判定する。フレーム情報判定フラグが設定されている場合には、制御が機能ブロック362に受け渡される。そうでない場合には、制御が機能ブロック358に受け渡される。
【0122】
機能ブロック356は、フレームレート関連情報を設定し、制御を決定ブロック360に受け渡す。
【0123】
決定ブロック360は、フレームサイズ情報存在フラグが設定されているかどうかを判定する。フレームサイズ情報存在フラグが設定されている場合には、制御を機能ブロック362に受け渡す。そうでない場合には、制御が機能ブロック364に受け渡される。
【0124】
機能ブロック362は、フレームサイズ情報を設定し、制御を決定ブロック366に受け渡す。
【0125】
決定ブロック366は、サブ領域情報フラグが設定されているかどうかを判定する。サブ領域情報フラグが設定されている場合には、制御が機能ブロック368に受け渡される。
【0126】
機能ブロック368は、サブ領域情報を設定し、制御をオン/オフ・ページ・コネクタ395に受け渡す。
【0127】
オン/オフ・ページ・コネクタ395は、制御を決定ブロック402に受け渡す。決定ブロック402は、ビュー依存性情報フラグが設定されているかどうかを判定する。ビュー依存性情報フラグが設定されている場合には、制御が機能ブロック404に受け渡される。そうでない場合には、制御が機能ブロック406に受け渡される。
【0128】
機能ブロック404は、ビュー依存性情報パラメータを設定し、制御を決定ブロック408に受け渡す。決定ブロック408は、パラメータ・セット初期情報存在フラグが設定されているかどうかを判定する。パラメータ・セット初期情報存在フラグが設定されている場合には、制御が機能ブロック410に受け渡される。そうでない場合には、制御が機能ブロック412に受け渡される。
【0129】
機能ブロック410は、パラメータ・セット初期情報パラメータを設定し、制御を決定ブロック414に受け渡す。決定ブロック414は、フリー・ビューポイント情報存在フラグが設定されているかどうかを判定する。フリー・ビューポイント情報存在フラグが設定されている場合には、制御が機能ブロック416に受け渡される。そうでない場合には、制御が機能ブロック418に受け渡される。
【0130】
機能ブロック416は、フリー・ビューポイント情報パラメータを設定し、制御を決定ブロック420に受け渡す。決定ブロック420は、スケーラブル情報存在フラグが設定されているかどうかを判定する。スケーラブル情報存在フラグが設定されている場合には、制御が機能ブロック422に受け渡される。そうでない場合には、制御が機能ブロック424に受け渡される。
【0131】
機能ブロック422は、スケーラブル情報パラメータを設定し、制御を決定ブロック426に受け渡す。決定ブロック426は、カメラ情報存在フラグが設定されているかどうかを判定する。カメラ情報存在フラグが設定されている場合には、制御が機能ブロック428に受け渡される。そうでない場合には、制御が機能ブロック430に受け渡される。
【0132】
機能ブロック428は、カメラ情報パラメータを設定し、制御をオン/オフ・ページ・コネクタ397に受け渡す。オン/オフ・ページ・コネクタ397は、制御を決定ブロック314に戻す。
【0133】
機能ブロック348は、ソースview_idデルタ値を設定し、制御を決定ブロック350に受け渡す。
【0134】
機能ブロック358は、ソースview_idデルタ値を設定し、制御を決定ブロック360に受け渡す。
【0135】
機能ブロック364は、ソースview_idデルタ値を設定し、制御を決定ブロック366に受け渡す。
【0136】
機能ブロック370は、ソースview_idデルタ値を設定し、制御をオン/オフ・ページ・コネクタ395に受け渡す。
【0137】
機能ブロック406は、ソースview_idデルタ値を設定し、制御を決定ブロック408に受け渡す。
【0138】
機能ブロック412は、ソースview_idデルタ値を設定し、制御を決定ブロック414に受け渡す。
【0139】
機能ブロック418は、ソースview_idデルタ値を設定し、制御を決定ブロック420に受け渡す。
【0140】
機能ブロック424は、ソースview_idデルタ値を設定し、制御を決定ブロック426に受け渡す。
【0141】
機能ブロック430は、ソースview_idデルタ値を設定し、制御をオン/オフ・ページ・コネクタ397に受け渡す。
【0142】
方法500は、機能ブロック504に制御を受け渡す開始ブロック502を含む。機能ブロック504は、符号化されたビューの数を設定し、制御を決定ブロック506に受け渡す。決定ブロック506は、全ての符号化されていないビューに対してフラグが設定されているかどうかを判定する。フラグが設定されている場合には、制御がオン/オフ・ページ・コネクタ397に受け渡される。そうでない場合には、制御が機能ブロック508に受け渡される。
【0143】
機能ブロック508は、符号化されていないビューに対してview_idシンタックス・パラメータを設定し、制御を機能ブロック510に受け渡す。機能ブロック510は、符号化されていないビューに対してビュー補間情報存在フラグを設定し、制御を機能ブロック512に受け渡す。機能ブロック512は、符号化されていないビューに対してカメラ・パラメータ情報存在フラグを設定し、制御を決定ブロック514に受け渡す。決定ブロック514は、ビュー補間フラグが設定されているかどうかを判定する。ビュー補間フラグが設定されていれば、制御が機能ブロック516に受け渡される。そうでない場合、制御が機能ブロック518に受け渡される。
【0144】
機能ブロック516は、ビュー補間情報を設定し、制御を決定ブロック520に受け渡す。決定ブロック520は、カメラ・パラメータ存在フラグが設定されているかどうかを判定する。カメラ・パラメータ存在フラグが設定されている場合には、制御が機能ブロック522に受け渡される。そうでない場合、制御が機能ブロック524に受け渡される。
【0145】
機能ブロック522は、カメラ・パラメータ情報を設定し、制御を決定ブロック506に受け渡す。
【0146】
機能ブロック518は、ソースview_idデルタ値を設定し、制御を決定ブロック520に受け渡す。
【0147】
機能ブロック524は、ソースview_idデルタ値を設定し、制御を決定ブロック506に戻す。
【0148】
方法600は、機能ブロック604に制御を受け渡す開始ブロック602を含む。機能ブロック604は、カメラ・アレイ・タイプを設定し、制御を決定ブロック606に受け渡す。決定ブロック606は、カメラ・アレイ・タイプが1であるかどうかを判定する。カメラ・アレイ・タイプが1である場合には、制御がオン/オフ・ページ・コネクタ393に受け渡される。そうでない場合には、制御が機能ブロック608に受け渡される。機能ブロック608は、ナビゲーションのための左側境界を設定し、制御を機能ブロック610に受け渡す。機能ブロック610は、ナビゲーションのための右側境界を設定し、制御を機能ブロック612に受け渡す。機能ブロック612は、ナビゲーション空間におけるセグメントの数を設定し、制御を決定ブロック614に受け渡す。決定ブロック614は、全てのセグメントが処理されているかどうか(即ち、セグメントの境界及び数が設定されているかどうか)を判定する。全てのセグメントが処理されている場合には、制御がオン/オフ・ページ・コネクタ393に受け渡される。全てのセグメントが処理されていない場合には、制御が機能ブロック616に受け渡される。機能ブロック616は、左側境界セグメントを設定し、制御を機能ブロック618に受け渡す。機能ブロック618は、レンダリングに必要なビューの数を設定し、制御を決定ブロック620に受け渡す。決定ブロック620は、全てのビューが処理されているかどうかを判定する。全てのビューが処理されている場合には、制御が決定ブロック614に戻される。全てのビューが処理されていない場合には、制御が機能ブロック622に受け渡される。機能ブロック622は、必要に応じて、view_id_syntaxパラメータを設定する。
【0149】
図4A〜
図4Dを参照すると、マルチビュー情報を復号する例示的な方法が概ね参照符号700によって示されている。方法700が、符号化されていないカメラ・ビュー情報を含むマルチビュー情報を符号化する方法900と、フリー・ビューポイント情報を含むマルチビュー情報を符号化する方法1000とを含むことが理解できるであろう。さらに、方法700が符号化されたカメラ・ビュー情報を含むマルチビュー情報を符号化することが理解できるであろう。
【0150】
方法700は、制御を機能ブロック704に受け渡す開始ブロック702を含む。機能ブロック704は、インバンド、またはアウトオブバンドでシーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、および/または、ビュー・パラメータ・セット(VPS)メッセージを受信し、制御を機能ブロック706に受け渡す。機能ブロック706は、ハイレベル・シンタックス(シーケンス・パラメータ・セット(SPS)、ピクチャ・パラメータ・セット(PPS)、および/または、ビュー・パラメータ・セット(VPS)を読み出し、制御を機能ブロック708に受け渡す。機能ブロック708は、符号化されたカメラの付加拡張情報メッセージの解析を開始し、制御を機能ブロック710に受け渡す。機能ブロック710は、符号化されたビューの数を読み出し/解析し、制御を決定ブロック714に受け渡す。決定ブロック714は、全てのビューが読み出されている/解析されているかどうかを判定する。全てのビューが読み出されている/解析されている場合には、制御が機能ブロック716に受け渡される。そうでない場合には、制御が機能ブロック720に受け渡される。
【0151】
機能ブロック716は、メモリに付加拡張情報(SEI)を格納し、制御を機能ブロック718に受け渡す。機能ブロック718は、ビューを復号し、制御を終了ブロック799に受け渡す。
【0152】
機能ブロック720は、view_idシンタックスエレメントを読み出し/解析し、制御を機能ブロック722に受け渡す。機能ブロック722は、view_numシンタックスエレメントを読み出し/解析し、制御を機能ブロック724に受け渡す。機能ブロック724は、view_levelシンタックスエレメントを読み出し/解析し、制御を機能ブロック726に受け渡す。機能ブロック726は、ビュー依存性存在フラグを読み出し/解析し、制御を機能ブロック728に受け渡す。機能ブロック728は、ビットレート情報存在フラグを読み出し/解析し、制御を機能ブロック730に受け渡す。機能ブロック730は、フレームレート情報存在フラグを読み出し/解析し、制御を機能ブロック732に受け渡す。機能ブロック732は、フレームサイズ情報存在フラグを読み出し/解析し、制御を機能ブロック734に受け渡す。機能ブロック734は、サブ領域フラグを読み出し/解析し、制御を機能ブロック736に受け渡す。機能ブロック736に受け渡す。機能ブロック736は、スケーラビリティ情報存在フラグを読み出し/解析し、制御を機能ブロック738に受け渡す。機能ブロック738は、プロフィール/レベル・フラグを読み出し/解析し、制御を機能ブロック740に受け渡す。機能ブロック740は、初期パラメータ・セット・フラグを読み出し/解析し、制御を機能ブロック742に受け渡す。機能ブロック742は、カメラ・パラメータ存在フラグを読み出し/解析し、制御を決定ブロック744に受け渡す。決定ブロック744は、プロフィール/レベル情報存在フラグが読み出されている/解析されているかどうかを判定する。プロフィール/レベル情報存在フラグが読み出されている/解析されている場合には、制御が機能ブロック746に受け渡される。そうでない場合には、制御が決定ブロック748に受け渡される。
【0153】
機能ブロック746は、プロフィール/レベル制約フラグを読み出し/解析し、view_levelシンタックスエレメントを読み出し/解析し、制御を決定ブロック750に受け渡す。決定ブロック750は、ビットレート情報存在フラグが読み出されている/解析されているかどうかを判定する。ビットレート情報存在フラグが読み出されている/解析されている場合には、制御が機能ブロック752に受け渡される。そうでない場合には、制御が決定ブロック754に受け渡される。
【0154】
機能ブロック752は、ビットレート関連情報を読み出し/解析し、制御を決定ブロック754に受け渡す。
【0155】
決定ブロック754は、フレーム情報フラグが読み出されている/解析されているかどうかを判定する。フレーム情報フラグが読み出されている/解析されている場合には、制御が機能ブロック756に受け渡される。そうでない場合には、制御が機能ブロック758に受け渡される。
【0156】
機能ブロック756は、フレームレート関連情報を読み出し/解析し、制御を決定ブロック760に受け渡す。
【0157】
決定ブロック760は、フレームサイズ情報存在フラグが読み出し/解析されているかどうかを判定する。フレームサイズ情報存在フラグが読み出し/解析されている場合には、制御が機能ブロック762に受け渡される。そうでない場合には、制御が機能ブロック764に受け渡される。
【0158】
機能ブロック762は、フレームサイズ情報を読み出し、制御を決定ブロック766に受け渡す。決定ブロック766は、サブ領域情報存在フラグが読み出されている/解析されているかどうかを判定する。サブ領域情報存在フラグが読み出されている/解析されている場合には、制御が機能ブロック768に受け渡される。そうでない場合には、制御が機能ブロック860に受け渡される。
【0159】
機能ブロック768は、サブ領域情報を読み出し/解析し、制御をオン/オフ・ページ・コネクタ795に受け渡す。
【0160】
オン/オフ・ページ・コネクタ795は、制御を決定ブロック802に受け渡す。決定ブロック802は、ビュー依存性情報存在フラグが設定されたかどうかを判定する。ビュー依存性情報存在フラグが設定されている場合、制御が機能ブロック804に受け渡される。そうでない場合には、制御が機能ブロック806に受け渡される。
【0161】
機能ブロック804は、ビュー依存性情報パラメータを読み出し/解析し、制御を決定ブロック808に受け渡す。決定ブロック808は、パラメータ・セット初期情報存在フラグが設定されているかどうかを判定する。パラメータ・セット初期情報存在フラグが設定されている場合には、制御が機能ブロック810に受け渡される。そうでない場合には、制御が機能ブロック812に受け渡される。
【0162】
機能ブロック810は、パラメータ・セット初期情報パラメータを読み出し/解析し、制御を決定ブロック814に受け渡す。決定ブロック814は、フリー・ビューポイント情報フラグが設定されているかどうかを判定する。フリー・ビューポイント情報フラグが設定されている場合には、制御が機能ブロック816に受け渡される。そうでない場合には、制御が機能ブロック818に受け渡される。
【0163】
機能ブロック816は、フリー・ビューポイント情報パラメータを読み出し/解析し、制御を決定ブロック820に受け渡す。決定ブロック820は、スケーラブル情報存在フラグが設定されているかどうかを判定する。スケーラブル情報存在フラグが設定されている場合には、制御が機能ブロック822に受け渡される。そうでない場合には、制御が機能ブロック824に受け渡される。
【0164】
機能ブロック822は、スケーラブル情報パラメータを読み出し/解析し、制御を決定ブロック826に受け渡す。決定ブロック826は、カメラ情報存在フラグが設定されているかどうかを判定する。カメラ情報存在フラグが設定されている場合には、制御が機能ブロック828に受け渡される。そうでない場合、制御が機能ブロック830に受け渡される。
【0165】
機能ブロック828は、カメラ情報パラメータを読み出し/解析し、制御をオン/オフ・ページ・コネクタ797に受け渡す。
【0166】
機能ブロック748は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック750に受け渡す。
【0167】
機能ブロック758は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック760に受け渡す。
【0168】
機能ブロック764は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック766に受け渡す。
【0169】
機能ブロック770は、ソースview_idデルタ値を読み出し/解析し、制御をオン/オフ・ページ・コネクタ795に受け渡す。
【0170】
機能ブロック806は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック808に受け渡す。
【0171】
機能ブロック812は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック814に受け渡す。
【0172】
機能ブロック818は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック820に受け渡す。
【0173】
機能ブロック824は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック826に受け渡す。
【0174】
機能ブロック830は、ソースview_idデルタ値を読み出し/解析し、制御をオン/オフ・ページ・コネクタ797に受け渡す。
【0175】
方法900は、制御を機能ブロック904に受け渡す開始ブロック902を含む。機能ブロック904は、符号化されていないビューの数を読み出し/解析し、制御を決定ブロック906に受け渡す。決定ブロック906は、全ての符号化されていないビューが読み出されている/解析されているかどうかを判定する。全ての符号化されていないビューが読み出されている/解析されている場合には、制御がオン/オフ・ページ・コネクタ797に受け渡される。そうでない場合には、制御が機能ブロック908に受け渡される。機能ブロック908は、view_idシンタックスエレメントを読み出し/解析し、制御を機能ブロック910に受け渡す。機能ブロック910は、ビュー補間情報存在フラグを読み出し/解析し、制御を機能ブロック912に受け渡す。機能ブロック912は、カメラ・パラメータ情報存在フラグを読み出し/解析し、制御を決定ブロック914に受け渡す。決定ブロック914は、ビュー補間フラグが設定されているかどうかを判定する。ビュー補間フラグが設定されている場合には、制御が機能ブロック916に受け渡される。そうでない場合には、制御が機能ブロック918に受け渡される。
【0176】
機能ブロック916は、ビュー補間情報を読み出し/解析し、制御を決定ブロック920に受け渡す。決定ブロック920は、カメラ・パラメータ存在フラグがセットされているかどうかを判定する。カメラ・パラメータ存在フラグがセットされていれば、制御が機能ブロック922に受け渡される。そうでない場合、制御が機能ブロック924に受け渡される。
【0177】
機能ブロック918は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック920に受け渡す。
【0178】
機能ブロック924は、ソースview_idデルタ値を読み出し/解析し、制御を決定ブロック906に戻す。
【0179】
方法1000は、制御を機能ブロック1004に受け渡す開始ブロック1002を含む。機能ブロック1004は、カメラ・アレイ・タイプを読み出し/解析し、制御を決定ブロック1006に受け渡す。決定ブロック1006は、カメラ・アレイ・タイプが1であるかどうかを判定する。カメラ・アレイ・タイプが1であるなら、制御がオン/オフ・ページ・コネクタ793に受け渡される。そうでない場合には、制御が機能ブロック1008に受け渡される。
【0180】
機能ブロック1008は、ナビゲーションの左側境界を読み出し/解析し、制御を機能ブロック1010に受け渡す。機能ブロック1010は、ナビゲーションの右側境界を読み出し/解析し、制御を機能ブロック1012に受け渡す。機能ブロック1012は、ナビゲーション空間内のセグメントの数を読み出し/解析し、制御を決定ブロック1014に受け渡す。決定ブロック1014は、全てのブロックが処理されているかどうかを判定する。全てのブロックが処理されている場合には、制御がオン/オフ・ページ・コネクタ793に受け渡される。そうでない場合には、制御が機能ブロック1016に受け渡される。機能ブロック1016は、左側境界セグメントを読み出し、制御を機能ブロック1018に受け渡す。機能ブロック1018は、レンダリングに必要なビューの数を読み出し/解析し、制御を決定ブロック1020に受け渡す。決定ブロック1020は、全てのビューの解析が完了しているかどうかを判定する。全てのビューの解析が完了している場合には、制御が決定ブロック1014に戻される。そうでない場合には、制御が機能ブロック1022に受け渡される。
【0181】
機能ブロック1022は、必要に応じて、view_idを読み出す/解析する。
【0182】
本発明の多くの付随する利点/特徴の幾つかについて説明する。これらの幾つかは既に述べた通りのものである。例えば、1つの利点/特徴は、得られたビットストリームにおけるマルチビュー・ビデオ・コンテンツおよび少なくとも1つのハイレベル・シンタックスエレメントにおけるマルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報を符号化する符号化器を含む、装置である。
【0183】
別の利点/特徴は、上述した符号化器を有する装置であって、前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、前記装置である。
【0184】
また、別の利点/特徴は、上述した符号化器を有する装置であって、前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含む、前記装置である。
【0185】
さらに、別の利点/特徴は、上述した符号化器を有する装置であって、前記マルチビュー符号化情報は、上述したように、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含み、前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、前記装置である。
【0186】
さらに、別の利点/特徴は、符号化器を有する装置であって、上述したように、前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上であり、前記符号化されたカメラ・ビューの各々の特性が、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報が、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様がプロフィールおよびレベル情報とプロフィールおよびレベル制約情報のうちの少なくとも1つにより示される、前記装置である。
【0187】
さらに、別の利点/特徴は、符号化器を有する装置であって、前記マルチビュー符号化情報は、上述したように、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含み、前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、前記装置である。
【0188】
さらに、別の利点/特徴は、符号化器を有する装置であって、前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上であり、前記符号化されていないビューの各々の特性が、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、前記装置である。
【0189】
さらに、別の利点/特徴は、符号化器を有する装置であって、前記マルチビュー符号化情報は、上述したように、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、およびフリー・ビューポイント情報のうちの少なくとも1つを含み、前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、前記装置である。
【0190】
さらに、別の利点/特徴は、符号化器を有する装置であって、前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含み、前記少なくとも1つのビューを生成するためのパラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットうちの少なくとも1つを含む、前記装置である。
【0191】
さらに、別の利点/特徴は、上述した符号化器を有する装置であって、前記少なくとも1つのハイレベル・シンタックスエレメントは、ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で送信される、前記装置である。
【0192】
本願の原理のこれらの特徴およびその他の特徴は、関連する分野において通常の知識を有するものであれば、本明細書中の開示内容に基づいて、容易に解明することができるであろう。本願の原理の開示内容は、ハードウエア、ソフトウエア、ファームウエア、特定用途向けプロセッサ、または、これらを組み合わせたものの形態で実施することができることが理解できよう。
【0193】
より好ましくは、本願の原理の開示内容は、ハードウエアおよびソフトウエアを組み合わせて実施される。さらに、ソフトウエアは、プログラム・ストレージ・ユニットに上に現実的に実装されるアプリケーション・プログラムとして実施される。アプリケーション・プログラムは、適切なアーキテクチャからなるマシンにアップロードされ、このマシンによって実行されるようにしてもよい。好ましくは、このマシンは、1つ以上の中央処理装置(CPU)、ランダム・アクセス・メモリ(RAM)、入出力(I/O)インタフェースを有するコンピュータ・プラットフォーム上で実施される。また、コンピュータ・プラットフォームは、オペレーティング・システムおよびマイクロインストラクション・コードを含むようにしてもよい。本明細書中で開示される様々な処理および機能は、マイクロインストラクション・コードの一部を構成するものでもよいし、アプリケーション・プログラムの一部を構成するものであってもよいし、これらを組み合わせたものであってもよいし、CPUによって実行されるものであってもよい。さらに、追加的なデータ記憶装置や印刷機等、コンピュータ・プラットフォームに様々な他の周辺機器を結合するようにしてもよい。
【0194】
添付図面に示すシステムの構成要素および方法のステップの幾つかは、好ましくは、ソフトウエアの形態によって実施されるため、システムの構成要素または処理機能ブロック間の実際の結合は、本願の原理をプログラムする方法によって異なる場合があることが理解できよう。本明細書の開示する内容に基づいて、関連する技術における通常の技術知識を有するものであれば、本願の原理の実施の形態または構成、さらに、類似した実施の形態または構成を企図することができるであろう。
【0195】
添付図面を参照して本明細書中で例示的な実施の形態について説明したが、本発明はこれらの実施の形態に厳格に限定されるものではなく、関連技術に関して通常の技術を有する者であれば、本願の原理の範囲または趣旨を逸脱することなく、様々な変更、改変を施すことが可能であることが理解できるであろう。このような変更、改変は、全て、添付の請求の範囲に定義されたような本願の原理の範囲に含まれるべきものと解釈するべきである。
本発明は以下の態様を含む。
(付記1)
得られたビットストリームにおけるマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントにおけるマルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを符号化する符号化器(100)を含む、装置。
(付記2)
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、付記1に記載の装置。
(付記3)
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含む、付記1に記載の装置。
(付記4)
前記符号化カメラ・ビュー情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記3に記載の装置。
(付記5)
前記符号化されたカメラ・ビューの各々の特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、付記4に記載の装置。
(付記6)
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記3に記載の装置。
(付記7)
前記符号化されていないビューの各々の特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、付記6に記載の装置。
(付記8)
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、付記3に記載の装置。
(付記9)
前記少なくとも1つのビューを生成するためのパラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、付記7に記載の装置。
(付記10)
前記少なくとも1つのハイレベル・シンタックスエレメントは、前記ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で送信される、付記1に記載の装置。
(付記11)
得られたビットストリームにおけるマルチビュー・ビデオ・コンテンツを符号化することと、少なくとも1つのハイレベル・シンタックスエレメントにおけるマルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報を符号化することとを含む、方法(310)。
(付記12)
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、付記11に記載の方法。
(付記13)
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含む、付記11に記載の方法(310,500,600)。
(付記14)
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記13に記載の方法(312)。
(付記15)
前記符号化されたカメラ・ビューの各々の特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、付記14に記載の方法(300)。
(付記16)
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記13に記載の方法(504)。
(付記17)
前記符号化されていないビューの各々の特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、付記16に記載の方法(508,510,512,516,522)。
(付記18)
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、付記13に記載の方法(414,416)。
(付記19)
前記少なくとも1つのビューを生成するためのパラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、付記18に記載の方法(600)。
(付記20)
前記少なくとも1つのハイレベル・シンタックスエレメントは、ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で送信される、付記11に記載の方法(317)。
(付記21)
得られたビットストリームからのマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントからのマルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを復号する復号器(200)を含む、装置。
(付記22)
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、付記21に記載の装置。
(付記23)
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含む、付記21に記載の装置。
(付記24)
前記符号化されたカメラ・ビュー情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記23に記載の装置。
(付記25)
前記符号化されたカメラ・ビューの各々の特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、付記24に記載の装置。
(付記26)
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記23に記載の装置。
(付記27)
前記符号化されていないビューの各々の特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、付記26に記載の装置。
(付記28)
前記フリー・ビューポイント情報は、所与のビューポイントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、付記23に記載の装置。
(付記29)
前記少なくとも1つのビューを生成するためのパラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、付記28に記載の装置。
(付記30)
前記少なくとも1つのハイレベル・シンタックスエレメントは、ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で受信される、付記21に記載の装置。
(付記31)
得られたビットストリームからのマルチビュー・ビデオ・コンテンツと、少なくとも1つのハイレベル・シンタックスエレメントからのマルチビュー・ビデオ・コンテンツのためのマルチビュー符号化情報とを復号することを含む、方法(708)。
(付記32)
前記少なくとも1つのハイレベル・シンタックスエレメントは、スライス・ヘッダ、シーケンス・パラメータ・セット、ピクチャ・パラメータ・セット、ビュー・パラメータ・セット、ネットワーク抽象化レイヤー・ユニット・ヘッダ、および、付加拡張情報メッセージのうちの少なくとも1つを含む、付記31に記載の方法。
(付記33)
前記マルチビュー符号化情報は、符号化されたカメラ・ビュー情報、符号化されていないカメラ・ビュー情報、および、フリー・ビューポイント情報のうちの少なくとも1つを含む、付記31に記載の方法(708,900,1000)。
(付記34)
前記符号化されたカメラ・ビュー符号化情報は、符号化されたカメラ・ビューの数と符号化されたカメラ・ビューの各々の特性との少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記33に記載の方法(710)。
(付記35)
前記符号化されたカメラ・ビューの各々の特性は、スケーラビリティ情報、ビュー・スケーラビリティ情報、ビュー依存性情報、関心領域情報、ビットレート、フレームサイズ、フレームレート、初期パラメータ・セット、カメラ・パラメータ、復号器仕様、ビットストリーム制限情報、ビュー識別子、および符号化順情報のうちの少なくとも1つを含み、前記スケーラビリティ情報は、時間スケーラビリティ情報、空間スケーラビリティ情報、および、SN比スケーラビリティ情報のうちの少なくとも1つを含み、前記復号器仕様はプロフィールおよびレベル情報とプロフィールおよびレベル制約情報とのうちの少なくとも1つにより示される、付記34に記載の方法(700)。
(付記36)
前記符号化されていないカメラ・ビュー情報は、符号化されていないカメラ・ビューの数と符号化されていないカメラ・ビューの各々の特性とのうちの少なくとも一方を含み、前記符号化されたカメラ・ビューの数は、前記マルチビュー・ビデオ・コンテンツに対応する符号化されたカメラ・ビューの合計数のうちの1つ以上である、付記33に記載の方法(904)。
(付記37)
前記符号化されていないビューの各々の特性は、ビュー識別子、ビュー補間情報、および、カメラ・パラメータの少なくとも1つを含む、付記36に記載の方法(908,910,912,916,920)。
(付記38)
前記フリー・ビューポイント情報は、所与のビューピントおよびビューアングルで少なくとも1つのビューを生成するためのパラメータおよび方法のうちの少なくとも1つを含む、付記33に記載の方法(814,816)。
(付記39)
前記少なくとも1つのビューを生成するためのパラメータは、カメラ・アレイ設定、ナビゲーション空間の解像度、該ナビゲーション空間における特定の位置をレンダリングするための符号化されたカメラ・ビューのセットのうちの少なくとも1つを含む、付記38に記載の方法(1000)。
(付記40)
前記少なくとも1つのハイレベル・シンタックスエレメントは、ビットストリームに関して、インバンドおよびアウトオブバンドの少なくとも一方で受信される、付記31に記載の方法(704)。
(付記41)
得られたビットストリームにおける符号化されたマルチビュー・ビデオ・コンテンツを含み、前記マルチビュー・コンテンツのためのマルチビュー符号化情報は少なくとも1つのハイレベル・シンタックスエレメントで符号化される、ビデオ符号化に適したビデオ信号構造。
(付記42)
得られたビットストリームにおける符号化されたマルチビュー・ビデオ・コンテンツを含み、前記マルチビュー・コンテンツのためのマルチビュー符号化情報は少なくとも1つのハイレベル・シンタックスエレメントで符号化される、符号化されたビデオ信号データが記憶された記憶媒体。