(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022171957
(43)【公開日】2022-11-11
(54)【発明の名称】送信方法、送信装置、受信装置および受信方法
(51)【国際特許分類】
H04N 21/2662 20110101AFI20221104BHJP
H04N 21/2362 20110101ALI20221104BHJP
H04N 21/434 20110101ALI20221104BHJP
【FI】
H04N21/2662
H04N21/2362
H04N21/434
【審査請求】有
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022150748
(22)【出願日】2022-09-21
(62)【分割の表示】P 2021042048の分割
【原出願日】2015-07-09
(31)【優先権主張番号】P 2014161833
(32)【優先日】2014-08-07
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100093241
【弁理士】
【氏名又は名称】宮田 正昭
(74)【代理人】
【識別番号】100101801
【弁理士】
【氏名又は名称】山田 英治
(74)【代理人】
【識別番号】100095496
【弁理士】
【氏名又は名称】佐々木 榮二
(74)【代理人】
【識別番号】100086531
【弁理士】
【氏名又は名称】澤田 俊夫
(74)【代理人】
【識別番号】110000763
【氏名又は名称】特許業務法人大同特許事務所
(72)【発明者】
【氏名】塚越 郁夫
(57)【要約】
【課題】基本フォーマット画像データと共に所定数の高品質フォーマット画像データを良好に送信する。
【解決手段】基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する、あるいは、基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する。生成されたビデオストリームを含む所定フォーマットのコンテナを送信する。基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する。
【選択図】
図10
【特許請求の範囲】
【請求項1】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置。
【請求項2】
上記符号化画像データは、NALユニット構造を有し、
上記画像符号化部は、上記識別情報を上記NALユニットのヘッダに挿入する
請求項1に記載の送信装置。
【請求項3】
上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する
請求項2に記載の送信装置。
【請求項4】
上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する
請求項2に記載の送信装置。
【請求項5】
上記コンテナのレイヤに、上記符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える
請求項1に記載の送信装置。
【請求項6】
上記コンテナは、MPEG2-TSであり、
上記情報挿入部は、
上記情報を、プログラムマップテーブルの配下に存在する上記ビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する
請求項5に記載の送信装置。
【請求項7】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する画像符号化ステップと、
送信部により、上記画像符号化ステップで生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップを有し、
上記画像符号化ステップでは、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信方法。
【請求項8】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する各ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置。
【請求項9】
上記符号化画像データは、NALユニット構造を有し、
上記識別情報は、上記NALユニットのヘッダに挿入されている
請求項8に記載の受信装置。
【請求項10】
上記コンテナのレイヤに、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、
上記処理部は、上記コンテナのレイヤに挿入されている情報に基づいて、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する
請求項8に記載の受信装置。
【請求項11】
基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置。
【請求項12】
上記符号化画像データは、NALユニット構造を有し、
上記画像符号化部は、上記識別情報を上記NALユニットのヘッダに挿入する
請求項11に記載の送信装置。
【請求項13】
上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する
請求項12に記載の送信装置。
【請求項14】
上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する
請求項12に記載の送信装置。
【請求項15】
上記コンテナのレイヤに、上記符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える
請求項11に記載の送信装置。
【請求項16】
上記コンテナは、MPEG2-TSであり、
上記情報挿入部は、
上記情報を、プログラムマップテーブルの配下に存在する上記ビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する
請求項15に記載の送信装置。
【請求項17】
基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する画像符号化ステップと、
送信部により、上記画像符号化ステップで生成された上記ビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップを有し、
上記画像符号化ステップでは、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信方法。
【請求項18】
基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する上記ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置。
【請求項19】
上記符号化画像データは、NALユニット構造を有し、
上記識別情報は、上記NALユニットのヘッダに挿入されている
請求項18に記載の受信装置。
【請求項20】
上記コンテナのレイヤに、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、
上記処理部は、上記コンテナのレイヤに挿入されている情報に基づいて、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する
請求項18に記載の受信装置。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、送信装置、送信方法および受信装置に関し、基本フォーマット画像データと共に所定数の高品質フォーマット画像データを送信する送信装置等に関する。
【背景技術】
【0002】
従来、基本フォーマット画像データと共に高品質フォーマット画像データを送信し、受信側において、基本フォーマット画像データまたは高品質フォーマット画像データを選択的に用いることが知られている。例えば、特許文献1には、メディア符号化をスケーラブルに行って、低解像度のビデオサービスのためのベースレイヤのストリームと、高解像度のビデオサービスのための拡張レイヤのストリームを生成し、これらを含む放送信号を送信することが記載されている。なお、高品質フォーマットには、高解像度の他に、高フレーム周波数、高ダイナミックレンジ、広色域、高ビット長などがある。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本技術の目的は、基本フォーマット画像データと共に所定数の高品質フォーマット画像データを良好に送信することにある。
【課題を解決するための手段】
【0005】
本技術の概念は、
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置にある。
【0006】
本技術において、画像符号化部により、基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと、所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームが生成される。例えば、基本フォーマット画像データに関しては、この基本フォーマット画像データ内の予測符号化処理が行われる。また、高品質フォーマット画像データに関しては、この高品質フォーマット画像データ内の予測符号化処理または基本フォーマット画像データあるいは他の高品質フォーマット画像データとの間の予測符号化処理が行われる。
【0007】
送信部により、画像符号化部で生成された基本ビデオストリームおよび拡張ビデオストリームを含む所定フォーマットのコンテナが送信される。例えば、コンテナは、デジタル放送規格で採用されているトランスポートストリーム(MPEG-2 TS)であってもよい。また、例えば、コンテナは、インターネットの配信などで用いられるMP4、あるいはそれ以外のフォーマットのコンテナであってもよい。
【0008】
画像符号化部では、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入される。例えば、符号化画像データは、NALユニット構造を有し、画像符号化部は、識別情報をNALユニットのヘッダに挿入する、ようにされてもよい。この場合、例えば、画像符号化部は、識別情報を、NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する、ようにされてもよい。また、この場合、例えば、画像符号化部は、識別情報を、NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する、ようにされてもよい。
【0009】
このように本技術においては、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されるものである。そのため、受信側では、識別情報に基づいて、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。
【0010】
なお、本技術において、例えば、コンテナのレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える、ようにされてもよい。この場合、例えば、コンテナは、MPEG2-TSであり、情報挿入部は、情報を、プログラムマップテーブルの配下に存在する拡張ビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する、ようにされてもよい。この場合、受信側では、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。
【0011】
また、本技術の他の概念は、
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する各ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置にある。
【0012】
本技術において、受信部により、基本ビデオストリームおよび拡張ビデオストリームを有する所定フォーマットのコンテナが受信される。ここで、基本ビデオストリームには、基本フォーマット画像データの符号化画像データが含まれる。拡張ビデオストリームには、所定数の高品質フォーマット画像データのそれぞれの符号化画像データが含まれる。
【0013】
基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されている。例えば、符号化画像データは、NALユニット構造を有し、識別情報は、NALユニットのヘッダに挿入されている、ようにされてもよい。処理部により、受信されたコンテナが有する各ビデオストリームが、識別情報と表示能力情報に基づいて処理される。
【0014】
このように本技術においては、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに挿入されている、対応するフォーマットを識別するための識別情報と、表示能力情報に基づいて、受信されたコンテナが有する拡張ビデオストリームが処理されるものである。そのため、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。
【0015】
なお、本技術において、例えば、コンテナのレイヤに、符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、処理部は、コンテナのレイヤに挿入されている情報に基づいて、符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する、ようにされてもよい。
【0016】
また、本技術の他の概念は、
基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置にある。
【0017】
本技術において、画像符号化部により、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームが生成される。例えば、基本フォーマット画像データに関しては、この基本フォーマット画像データ内の予測符号化処理が行われる。また、高品質フォーマット画像データに関しては、この高品質フォーマット画像データ内の予測符号化処理または基本フォーマット画像データあるいは他の高品質フォーマット画像データとの間の予測符号化処理が行われる。
【0018】
送信部により、画像符号化部で生成されたビデオストリームを含む所定フォーマットのコンテナが送信される。例えば、コンテナは、デジタル放送規格で採用されているトランスポートストリーム(MPEG-2 TS)であってもよい。また、例えば、コンテナは、インターネットの配信などで用いられるMP4、あるいはそれ以外のフォーマットのコンテナであってもよい。
【0019】
画像符号化部では、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入される。例えば、符号化画像データは、NALユニット構造を有し、画像符号化部は、識別情報をNALユニットのヘッダに挿入する、ようにされてもよい。この場合、例えば、画像符号化部は、識別情報を、NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する、ようにされてもよい。また、この場合、例えば、画像符号化部は、識別情報を、NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する、ようにされてもよい。
【0020】
このように本技術においては、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されるものである。そのため、受信側では、識別情報に基づいて、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。
【0021】
なお、本技術において、例えば、コンテナのレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える、ようにされてもよい。この場合、例えば、コンテナは、MPEG2-TSであり、情報挿入部は、情報を、プログラムマップテーブルの配下に存在するビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する、ようにされてもよい。この場合、受信側では、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。
【0022】
また、本技術の他の概念は、
基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する上記ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置にある。
【0023】
本技術において、受信部により、基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを有する所定フォーマットのコンテナを受が受信される。
【0024】
基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されている。例えば、符号化画像データは、NALユニット構造を有し、識別情報は、NALユニットのヘッダに挿入されている、ようにされてもよい。処理部により、受信されたコンテナが有するビデオストリームが、識別情報と表示能力情報に基づいて処理される。
【0025】
このように本技術においては、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに挿入されている、対応するフォーマットを識別するための識別情報と、表示能力情報に基づいて、受信されたコンテナが有するビデオストリームが処理されるものである。そのため、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。
【0026】
なお、本技術において、例えば、コンテナのレイヤに、符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、処理部は、コンテナのレイヤに挿入されている情報に基づいて、符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する、ようにされてもよい。
【発明の効果】
【0027】
本技術によれば、基本フォーマット画像データと共に所定数の高品質フォーマット画像データを良好に送信できる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【0028】
【
図1】実施の形態としての送受信システムの構成例を示すブロック図である。
【
図3】基本フォーマット画像データVbと、3つの高品質フォーマット画像データVh1,Vh2,Vh3を生成する画像データ生成部の構成例を示すブロック図である。
【
図4】エンコード部の主要部の構成例を示すブロック図である。
【
図5】NALユニットヘッダの構造例と、その構造例における主要なパラメータの内容を示す図である。
【
図6】符号化画像データCb,Ch1,Ch2,Ch3の構成例を示す図である。
【
図7】スケーラブル・エクステンション・デスクリプタの構造例を示す図である。
【
図8】スケーラブル・エクステンション・デスクリプタの構造例における主要な情報の内容を示す図である。
【
図9】NALユニットヘッダの「nuh_layer_id」の値と、スケーラブル・エクステンション・デスクリプタの記述との対応関係を示す図である。
【
図10】トランスポートストリームTSの構成例(2ストリームの場合)を示す図である。
【
図11】トランスポートストリームTSの構成例(1ストリームの場合)を示す図である。
【
図12】受信装置の構成例を示すブロック図である。
【
図13】デコード部の主要部の構成例を示すブロック図である。
【
図14】2ストリーム構成の場合における圧縮データバッファ(cpb)の出力と、「nuh_layer_id」による符号化画像データCb,Ch1,Ch2,Ch3の対応するデコード部への振り分けを概略的に示す図である。
【
図15】1ストリーム構成の場合における圧縮データバッファ(cpb)の出力と、「nuh_layer_id」による符号化画像データCb,Ch1,Ch2,Ch3の対応するデコード部への振り分けを概略的に示す図である。
【
図16】表示能力情報(表示性能情報)からデコード範囲を判断する処理の一例を示すフローチャートである。
【
図17】符号化画像データCb,Ch1,Ch2,Ch3の構成例を示す図である。
【
図18】NALユニットヘッダの「nuh_layer_id」、「nuh_temporal_id_plus1」の値と、スケーラブル・エクステンション・デスクリプタの記述との対応関係を示す図である。
【
図19】表示能力情報(表示性能情報)からデコード範囲を判断する処理の他の一例を示すフローチャートである。
【発明を実施するための形態】
【0029】
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
【0030】
<1.実施の形態>
[送受信システム]
図1は、実施の形態としての送受信システム10の構成例を示している。この送受信システム10は、送信装置100と、受信装置200とを有している。送信装置100から受信装置200にコンテナとしてのトランスポートストリームTSが放送波あるいはネットのパケットに載せて送信される。この実施の形態においては、(1)トランスポートストリームTSが基本ビデオストリームおよび拡張ビデオストリームの2本のビデオストリームを有する2ストリーム構成の場合と、(2)トランスポートストリームTSが1本のビデオストリームを有する1ストリーム構成の場合の2通りがある。
【0031】
「2ストリーム構成の場合」
送信装置100は、コンテナとしてのトランスポートストリームTSを放送波あるいはネットのパケットに載せて送信する。このトランスポートストリームTSには、基本ビデオストリームと拡張ビデオストリームの2本のビデオストリームが含まれる。基本ビデオストリームは、基本フォーマット画像データの符号化画像データを含むものである。基本ビデオストリームは、例えば、基本フォーマット画像データにH.264/AVC、H.265/HEVCなどの予測符号化処理が施されて生成されたものである。
【0032】
拡張ビデオストリームは、所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むものである。この拡張ビデオストリームは、所定数の高品質画像データに、それぞれ、例えば、H.264/AVC、H.265/HEVCなどの予測符号化処理が施されて生成されたものである。
【0033】
基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入される。受信側では、この識別情報に基づいて、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。この実施の形態において、識別情報は、NALユニットのヘッダに挿入される。
【0034】
コンテナのレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入される。受信側では、この情報により、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。この実施の形態において、情報は、プログラムマップテーブルの配下に存在する拡張ビデオストリームに対応した各ビデオエレメンタリストリームループ内に挿入される。
【0035】
受信装置200は、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSを受信する。このトランスポートストリームTSは、上述したように、基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと、所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを有している。
【0036】
所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、上述したように、対応するフォーマットを識別するための識別情報が挿入されている。受信装置200は、この識別情報と表示能力情報に基づいて、トランスポートストリームTSに含まれている各ビデオストリームを処理し、表示能力に応じた画像データを取得する。
【0037】
「1ストリーム構成の場合」
送信装置100は、コンテナとしてのトランスポートストリームTSを放送波あるいはネットのパケットに載せて送信する。このトランスポートストリームTSには、1本のビデオストリームが含まれる。このビデオストリームは、基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むものである。このビデオストリームは、基本フォーマット画像データおよび所定数の高品質フォーマット画像データに、それぞれ、例えば、H.264/AVC、H.265/HEVCなどの予測符号化処理が施されて生成されたものである。
【0038】
基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、基本フォーマットあるいは対応する高品質フォーマットを識別するための識別情報が挿入される。受信側では、この識別情報に基づいて、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。この実施の形態において、識別情報は、NALユニットのヘッダに挿入される。
【0039】
コンテナのレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入される。受信側では、この情報により、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。この実施の形態において、情報は、プログラムマップテーブルの配下に存在するビデオストリームに対応した各ビデオエレメンタリストリームループ内に挿入される。
【0040】
受信装置200は、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSを受信する。このトランスポートストリームTSは、上述したように、基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを有している。
【0041】
基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、上述したように、対応するフォーマットを識別するための識別情報が挿入されている。受信装置200は、この識別情報と表示能力情報に基づいて、トランスポートストリームTSに含まれているビデオストリームを処理し、表示能力に応じた画像データを取得する。
【0042】
「送信装置の構成」
図2は、送信装置100の構成例を示している。この送信装置100は、送信画像データとして、基本フォーマット画像データVbと、3つの高品質フォーマット画像データVh1,Vh2,Vh3を取り扱う。ここで、基本フォーマット画像データVbは、フレーム周波数が50HzであるLDR(Low Dynamic Lange)画像データである。高品質フォーマット画像データVh1は、フレーム周波数が100HzであるLDR画像データである。LDR画像データは、従来のLDR画像の白ピークの明るさに対して0%から100%の輝度範囲を持つ。
【0043】
高品質フォーマット画像データVh2は、フレーム周波数が50HzであるHDR(High Dynamic Range)画像データである。高品質フォーマット画像データVh3は、フレーム周波数が100HzであるHDR画像データである。このHDR画像データは、従来のLDR画像の白ピークの明るさを100%とすると、0~100%*N、例えば0~1000%あるいはそれ以上の範囲の輝度をもつ。
【0044】
図3は、基本フォーマット画像データVbと、3つの高品質フォーマット画像データVh1,Vh2,Vh3を生成する画像データ生成部150の構成例を示している。この画像データ生成部150は、HDRカメラ151と、フレームレート変換部152と、ダイナミックレンジ変換部153と、フレームレート変換部154を有している。
【0045】
HDRカメラ151は、被写体を撮像し、フレーム周波数が100HzであるHDR画像データ、つまり高品質フォーマット画像データVh3を出力する。フレームレート変換部152は、HDRカメラ151から出力される高品質フォーマット画像データVh3に対して、フレーム周波数を100Hzから50Hzに変換する処理をおこなって、フレーム周波数が50HzであるHDR画像データ、つまり高品質フォーマット画像データVh2を出力する。
【0046】
ダイナミックレンジ変換部153は、HDRカメラ151から出力される高品質フォーマット画像データVh3に対して、HDRからLDRに変換する処理をおこなって、フレーム周波数が100HzであるLDR画像データ、つまり高品質フォーマット画像データVh1を出力する。フレームレート変換部154は、ダイナミックレンジ変換部153から出力される高品質フォーマット画像データVh1に対して、フレーム周波数を100Hzから50Hzに変換する処理をおこなって、フレーム周波数が50HzであるLDR画像データ、つまり基本フォーマット画像データVbを出力する。
【0047】
図2に戻って、送信装置100は、制御部101と、LDR光電変換部102,103と、HDR光電変換部104,105と、ビデオエンコーダ106と、システムエンコーダ107と、送信部108を有している。制御部101は、CPU(Central Processing Unit)を備えて構成され、制御プログラムに基づいて、送信装置100の各部の動作を制御する。
【0048】
LDR光電変換部102は、基本フォーマット画像データVbに対して、LDR画像用の光電変換特性(LDR OETFカーブ)を適用して、伝送用の基本フォーマット画像データVb´を得る。LDR光電変換部103は、高品質フォーマット画像データVh1に対して、LDR画像用の光電変換特性を適用して、伝送用の高品質フォーマット画像データVh1´を得る。
【0049】
HDR光電変換部104は、高品質フォーマット画像データVh2に対して、HDR画像用の光電変換特性(HDR OETFカーブ)を適用して、伝送用の高品質フォーマット画像データVh2´を得る。HDR光電変換部105は、高品質フォーマット画像データVh3に対して、HDR画像用の光電変換特性を適用して、伝送用の高品質フォーマット画像データVh3´を得る。
【0050】
ビデオエンコーダ106は、4つのエンコード部106-0,106-1,106-2,106-3を有する。エンコード部106-0は、伝送用の基本フォーマット画像データVb´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理を行って、符号化画像データCbを得る。この場合、エンコード部106-0は、画像データVb´内の予測を行う。
【0051】
エンコード部106-1は、伝送用の高品質フォーマット画像データVh1´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理を行って、符号化画像データCh1を得る。この場合、エンコード部106-1は、予測残差を小さくするために、符号化ブロック毎に、画像データVh1´内の予測、または画像データVb´との間の予測を、選択的に行う。
【0052】
エンコード部106-2は、伝送用の高品質フォーマット画像データVh2´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理を行って、符号化画像データCh2を得る。この場合、エンコード部106-2は、予測残差を小さくするために、符号化ブロック毎に、画像データVh2´内の予測、または画像データVb´との間の予測を、選択的に行う。
【0053】
エンコード部106-3は、伝送用の高品質フォーマット画像データVh3´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理を行って、符号化画像データCh3を得る。この場合、エンコード部106-3は、予測残差を小さくするために、符号化ブロック毎に、画像データVh3´内の予測、または画像データVh2´との間の予測を、選択的に行う。
【0054】
図4は、エンコード部160の主要部の構成例を示している。このエンコード部160は、エンコード部106-1,106-2,106-3に適用し得るものである。このエンコード部160は、レイヤ内予測部161と、レイヤ間予測部162と、予測調整部163と、選択部164と、エンコード機能部165を有している。
【0055】
レイヤ内予測部161は、符号化対象の画像データV1に対して、この画像データV1内での予測(レイヤ内予測)を行って予測残差データを得る。レイヤ間予測部162は、符号化対象の画像データV1に対して、参照対象の画像データV2との間での予測(レイヤ間予測)を行って予測残差データを得る。
【0056】
予測調整部163は、レイヤ間予測部162におけるレイヤ間予測を効率よく行うために、画像データV1の、画像データV2に対するスケーラブル拡張のタイプに応じて、以下の処理を行う。ダイナミックレンジ拡張の場合は、LDRからHDRに変換するためのレベル調整を行う。空間スケーラブル拡張の場合は、他のレイヤのブロックを所定のサイズにスケーリング処理を施したものを対象とする。フレームレート拡張の場合は、バイパスする。色域拡張の場合は、輝度・色差のそれぞれに対してマッピングを行う。ビット長拡張の場合は、画素のMSBを揃える変換を行う。
【0057】
例えば、エンコード部106-1の場合、画像データV1は高品質フォーマット画像データVh1´(100Hz、LDR)であり、画像データV2は基本フォーマット画像データVb´(50Hz、LDR)であり、スケーラブル拡張のタイプはフレームレート拡張に当たる。そのため、予測調整部163では、画像データVb´がそのままバイパスされる。
【0058】
また、例えば、エンコード部106-2の場合、画像データV1は高品質フォーマット画像データVh2´(50Hz、HDR)であり、画像データV2は基本フォーマット画像データVb´(50Hz、LDR)であり、スケーラブル拡張のタイプはダイナミックレンジ拡張に当たる。そのため、予測調整部163では、画像データVb´に対してLDRからHDRに変換するためのレベル調整が行われる。なお、レベル調整は、ダイナミックレンジ変換部153から供給される情報を元に行われてもよい。
【0059】
また、例えば、エンコード部106-3の場合、画像データV1は高品質フォーマット画像データVh3´(100Hz、HDR)であり、画像データV2は高品質フォーマット画像データVh2´(50Hz、HDR)であり、スケーラブル拡張のタイプはフレームレート拡張に当たる。そのため、予測調整部163では、画像データVb´がそのままバイパスされる。
【0060】
選択部164は、符号化ブロック毎に、レイヤ内予測部161で得られる予測残差データ、またはレイヤ間予測部162で得られる予測残差データを選択的に取り出し、エンコード機能部165に送る。この場合、選択部164では、例えば、予測残差の小さい方が取り出される。エンコード機能部165は、選択部164から取り出された予測残差データに対して、変換符号化、量子化、エントロピー符号化などのエンコード処理を行って、符号化画像データCVを得る。
【0061】
図2に戻って、ビデオエンコーダ106は、符号化画像データCb,Ch1,Ch2,Ch3のそれぞれに、対応するフォーマットを識別するための識別情報を挿入する。ビデオエンコーダ106は、この識別情報を、例えば、NALユニットのヘッダに挿入する。
【0062】
図5(a)は、NALユニットヘッダの構造例(Syntax)を示し、
図5(b)は、その構造例における主要なパラメータの内容(Semantics)を示している。「forbidden_zero_bit」の1ビットフィールドは、0が必須である。「nal_unit_type」の6ビットフィールドは、NALユニットタイプを示す。「nuh_layer_id」の6ビットフィールドは、ストリームのレイヤ拡張種別を示すIDである。「nuh_temporal_id_plus1」の3ビットフィールドは、temporal_id(0~6)を示し、1を加えた値(1~7)を取る。
【0063】
この実施の形態において、「nuh_layer_id」の6ビットフィールドは、当該NALユニット(符号化画像データ)が対応するフォーマットを識別するための識別情報を示す。例えば、“0”は、基本を示す。“1”は、空間拡張を示す。“2”は、フレームレート拡張を示す。“3”は、ビット長拡張を示す。“4”は、ダイナミックレンジ拡張を示す。“5”は、広色域拡張を示す。“6”は、フレームレート拡張とダイナミックレンジ拡張を示す。“7”は、空間拡張とフレームレート拡張を示す。
【0064】
符号化画像データCbは基本フォーマット画像データVbに対応し、この符号化画像データCbの「nuh_layer_id」は“0”とされる。また、符号化画像データCh1は、フレームレート拡張フォーマット画像データVh1に対応し、この符号化画像データCh1の「nuh_layer_id」は“2”とされる。また、符号化画像データCh2は、ダイナミックレンジ拡張フォーマット画像データVh2に対応し、この符号化画像データCh2の「nuh_layer_id」は“4”とされる。また、符号化画像データCh3は、フレームレート拡張とダイナミックレンジ拡張のフォーマット画像データVh3に対応し、この符号化画像データCh3「nuh_layer_id」は“6”とされる。
【0065】
図6は、符号化画像データCb,Ch1,Ch2,Ch3の構成例を示している。横軸は表示順(POC:picture order of composition)を示し、左側は表示時刻が前で、右側は表示時刻が後になる。矩形枠のそれぞれがピクチャを示し、矢印は、予測符号化処理におけるピクチャの参照関係の一例を示している。レイヤ間、レイヤ内の双方とも予測はブロックごとに対象ピクチャが変わり、また、予測の向き、参照数は図示の例に限定されるわけではない。
【0066】
符号化画像データCbは、「00」、「01」、・・・のピクチャの符号化画像データで構成される。符号化画像データCh1は、符号化画像データCbの各ピクチャの間に位置する「10」、「11」、・・・のピクチャの符号化画像データで構成される。符号化画像データCh2は、符号化画像データCbの各ピクチャと同じ位置の「20」、「21」、・・・のピクチャの符号化画像データで構成される。そして、符号化画像データCh3は、符号化画像データCh2の各ピクチャの間に位置する「30」、「31」、・・・のピクチャの符号化画像データで構成される。
【0067】
図2に戻って、システムエンコーダ107は、ビデオエンコーダ106で生成された符号化画像データCb,Ch1,Ch2,Ch3を用いて、ビデオストリームを生成し、PESパケット化およびTSパケット化を行って、トランスポートストリームTSを生成する。そして、送信部108は、このトランスポートストリームTSを、放送波あるいはネットのパケットに載せて、受信装置200に送信する。
【0068】
ここで、2ストリーム構成の場合、システムエンコーダ107は、符号化画像データCbを含む基本ビデオストリームと符号化画像データCh1,Ch2,Ch3を含む拡張ビデオストリームを生成する。つまり、この場合、トランスポートストリームTSは、符号化画像データCbを含む基本ビデオストリームと符号化画像データCh1,Ch2,Ch3を含む拡張ビデオストリームの2本のビデオストリームを有するものとなる。
【0069】
また、1ストリーム構成の場合、システムエンコーダ107は、符号化画像データCb,Ch1,Ch2,Ch3を含むビデオストリームを生成する。つまり、この場合、トランスポートストリームTSは、符号化画像データCb,Ch1,Ch2,Ch3を含む1本のビデオストリームを有するものとなる。
【0070】
システムエンコーダ107は、コンテナ(トランスポートストリーム)のレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する。
【0071】
この実施の形態において、2ストリーム構成の場合、PMT(Program Map Table)の配下に存在する拡張ビデオストリーム(符号化データCh1,Ch2,Ch3を含む)に対応したビデオエレメンタリストリームループ中に、スケーラブル・エクステンション・デスクリプタ(Scalable extension descriptor)を挿入する。この場合、符号化画像データCh1,Ch2,Ch3に挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する。
【0072】
また、この実施の形態において、1ストリーム構成の場合、PMT(Program Map Table)の配下に存在するビデオストリーム(符号化画像データCb,Ch1,Ch2,Ch3を含む)に対応したビデオエレメンタリストリームループ中に、スケーラブル・エクステンション・デスクリプタ(Scalable extension descriptor)を挿入する。この場合、符号化画像データCb,Ch1,Ch2,Ch3に挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する。
【0073】
図7は、このスケーラブル・エクステンション・デスクリプタの構造例(Syntax)を示している。
図8は、
図7に示す構造例における主要な情報の内容(Semantics)を示している。「descriptor_tag」の8ビットフィールドは、デスクリプタタイプを示し、ここでは、スケーラブル・エクステンション・デスクリプタであることを示す。「descriptor_length」の8ビットフィールドは、デスクリプタの長さ(サイズ)を示し、デスクリプタの長さとして以降のバイト数を示す。
【0074】
「Extended_spatial_resolution_flag」のフラグは、空間解像度の拡張成分を含むかを示す。“1”は空間解像度拡張成分を含むことを示し、“0”は空間解像度拡張成分を含まないことを示す。「Extended_frame_rate_flag」のフラグは、フレームレート拡張成分を含むかを示す。“1”はフレームレート拡張成分を含むことを示し、“0”はフレームレート拡張成分を含まないことを示す。
【0075】
「Extended_bit_depth_flag」のフラグは、ビット長拡張成分を含むかを示す。“1”はビット長拡張成分を含むことを示し、“0”はビット長拡張成分を含まないことを示す。「Extended_dynamic_range_flag」のフラグは、ダイナミックレンジ拡張成分を含むかを示す。“1”はダイナミックレンジ拡張成分を含むことを示し、“0”はダイナミックレンジ拡張成分を含まないことを示す。「Extended_color_gamut_flag」のフラグは、色域拡張成分を含むかを示す。“1”は色域拡張成分を含むことを示し、“0”は色域拡張成分を含まないことを示す。
【0076】
「number_of_layerIDs」の8ビットフィールドは、ストリームが含むレイヤ数を示す。レイヤ数分だけ「layerID」の6ビットフィールドが存在する。この「layerID」のフィールドは、レイヤID(Layer_id)を示す。
【0077】
ここで、2ストリーム構成の場合であって、拡張ビデオストリームに符号化画像データCh1,Ch2,Ch3が含まれるとき、「Extended_spatial_resolution_flag」、「Extended_bit_depth_flag」および「Extended_color_gamut_flag」は“0”に設定され、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定される。また、「number_of_layerIDs」は“3”に設定され、「layerID」として、順に、“2”、“4”、“6”が設定される。
【0078】
このような設定により、「layerID」=“2”はフレームレート拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと定義される。また、「layerID」=“4”はダイナミックレンジ拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、「layerID」=“6”はフレームレート拡張およびダイナミックレンジ拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0079】
また、1ストリーム構成の場合であって、ビデオストリームに符号化データCb,Ch1,Ch2,Ch3が含まれるとき、「Extended_spatial_resolution_flag」、「Extended_bit_depth_flag」および「Extended_color_gamut_flag」は“0”に設定され、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定される。また、「number_of_layerIDs」は“4”に設定され、「layerID」として、順に、“0”、“2”、“4”、“6”が設定される。
【0080】
このような設定により、「layerID」=“0”は基本を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“0”は基本フォーマットの符号化画像データを示すものと定義される。また、「layerID」=“2”はフレームレート拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと定義される。また、「layerID」=“4”はダイナミックレンジ拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、「layerID」=“6”はフレームレート拡張およびダイナミックレンジ拡張を示し、従ってNALユニットのヘッダの「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0081】
図9は、NALユニットヘッダの「nuh_layer_id」の値と、スケーラブル・エクステンション・デスクリプタの記述との対応関係を示している。すなわち、ストリームに、「nuh_layer_id」=“0”である基本フォーマットの符号化画像データ(基本成分)が含まれる場合、「layerID」として、“0”が設定される。
【0082】
また、ストリームに、「nuh_layer_id」=“1”である空間拡張の符号化画像データ(空間拡張成分)が含まれる場合、「Extended_spatial_resolution_flag」は“1”とされ、「layerID」として、“1”が設定される。また、ストリームに、「nuh_layer_id」=“2”であるフレームレート拡張の符号化画像データ(フレームレート拡張成分)が含まれる場合、「Extended_frame_rate_flag」は“1”とされ、「layerID」として、“2”が設定される。また、ストリームに、「nuh_layer_id」=“3”であるフレームレート拡張の符号化画像データ(ビット長拡張成分)が含まれる場合、「Extended_bit_depth_flag」は“1”とされ、「layerID」として、“3”が設定される。
【0083】
また、ストリームに、「nuh_layer_id」=“4”であるダイナミックレンジ拡張の符号化画像データ(ダイナミックレンジ拡張成分)が含まれる場合、「Extended_dynamic_range_flag」は“1”とされ、「layerID」として、“4”が設定される。また、ストリームに、「nuh_layer_id」=“5”である色域拡張の符号化画像データ(色域拡張成分)が含まれる場合、「Extended_color_gamut_flag」は“1”とされ、「layerID」として、“5”が設定される。
【0084】
また、ストリームに、「nuh_layer_id」=“6”であるフレームレート拡張とダイナミックレンジ拡張の符号化画像データ(フレームレート拡張成分とダイナミックレンジ拡張成分)が含まれる場合、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”とされ、「layerID」として、“6”が設定される。また、ストリームに、「nuh_layer_id」=“7”である空間拡張とフレームレート拡張の符号化画像データ(空間拡張成分とフレームレート拡張成分)が含まれる場合、「Extended_spatial_resolution_flag」および「Extended_frame_rate_flag」は“1”とされ、「layerID」として、“7”が設定される。
【0085】
[トランスポートストリームTSの構成]
図10は、2ストリーム構成の場合におけるトランスポートストリームTSの構成例を示している。このトランスポートストリームTSには、基本ビデオストリームSTbと拡張ビデオストリームSTeの2本のビデオストリームが含まれている。この構成例では、各ビデオストリームのPESパケット「video PES」が存在する。
【0086】
基本ビデオストリームSTbのパケット識別子(PID)は例えばPID1とされている。この基本ビデオストリームSTbには、基本フォーマットの各ピクチャの符号化画像データが含まれている。この基本フォーマットの各ピクチャの符号化画像データには、AUD、VPS、SPS、PPS、PSEI、SLICE、SSEI、EOSなどのNALユニットが存在する。これらのNALユニットのヘッダにおける「nuh_layer_id」は、例えば、“0”とされ、基本フォーマットに係る符号化画像データであることが示される。
【0087】
また、拡張ビデオストリームSTeのパケット識別子(PID)は例えばPID2とされている。この拡張ビデオストリームSTeには、フレームレート拡張、ダイナミックレンジ拡張、さらにはフレームレート拡張およびダイナミックレンジ拡張の3つの高品質フォーマットの各ピクチャの符号化画像データが含まれている。この高品質フォーマットの各ピクチャの符号化画像データには、AUD、SPS、PPS、PSEI、SLICE、SSEI、EOSなどのNALユニットが存在する。
【0088】
なお、基本フォーマットの各ピクチャの符号化画像データにおけるSPSと、高品質フォーマットの各ピクチャの符号化画像データにおけるSPSとは、「nal_unit_type」の値は同じで、中にエクステンションを含むかどうかで異なる。すなわち、高品質フォーマットの各ピクチャの符号化画像データにおけるSPSは、SPSエクステンションを含む。なお、基本フォーマットのSPSと高品質フォーマットのSPSとを別の「nal_unit_type」の値とすることも可能である。
【0089】
フレームレート拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“2”とされ、フレームレート拡張に係る符号化画像データであることが示される。また、ダイナミックレンジ拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“4”とされ、ダイナミックレンジ拡張に係る符号化画像データであることが示される。また、フレームレート拡張およびダイナミックレンジ拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“6”とされ、フレームレート拡張およびダイナミックレンジ拡張に係る符号化画像データであることが示される。
【0090】
また、トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(Program Map Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。
【0091】
PMTには、プログラム全体に関連する情報を記述するプログラム・ループ(Program loop)が存在する。また、PMTには、各エレメンタリストリームに関連した情報を持つエレメンタリストリームループが存在する。この構成例では、基本ビデオストリームSTbと拡張ビデオストリームSTeの2本のビデオストリームに対応して2つのビデオエレメンタリストリームループ(video ES loop)が存在する。基本ビデオストリームSTbに対応したビデオエレメンタリストリームループには、ストリームタイプ(ST0)、パケット識別子(PID1)等の情報が配置される。
【0092】
また、拡張ビデオストリームSTeに対応したビデオエレメンタリストリームループには、ストリームタイプ(ST1)、パケット識別子(PID2)等の情報が配置されると共に、この拡張ビデオストリームSTeに関連する情報を記述するデスクリプタも配置される。このデスクリプタの一つとして、上述したスケーラブル・エクステンション・デスクリプタ(Scalable extension descriptor)(
図7参照)が挿入される。
【0093】
このデスクリプタにおいて、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定され、「number_of_layerIDs」は“3”に設定され、「layerID」として、順に、“2”、“4”、“6”が設定される。これにより、NALユニットのヘッダの「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと定義される。また、NALユニットのヘッダの「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、NALユニットのヘッダの「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0094】
図11は、1ストリーム構成の場合におけるトランスポートストリームTSの構成例を示している。このトランスポートストリームTSには、1本のビデオストリームSTが含まれている。この構成例では、このビデオストリームSTのPESパケット「video PES」が存在する。
【0095】
このビデオストリームSTのパケット識別子(PID)は例えばPID1とされている。このビデオストリームSTには、基本フォーマットの各ピクチャの符号化画像データが含まれていると共に、フレームレート拡張、ダイナミックレンジ拡張、さらにはフレームレート拡張およびダイナミックレンジ拡張の3つの高品質フォーマットの各ピクチャの符号化画像データが含まれている。
【0096】
基本フォーマットの各ピクチャの符号化画像データには、AUD、VPS、SPS、PPS、PSEI、SLICE、SSEI、EOSなどのNALユニットが存在する。これらのNALユニットのヘッダにおける「nuh_layer_id」は、例えば、“0”とされ、基本フォーマットに係る符号化画像データであることが示される。
【0097】
また、高品質フォーマットの各ピクチャの符号化画像データには、AUD、SPS、PPS、PSEI、SLICE、SSEI、EOSなどのNALユニットが存在する。なお、基本フォーマットの各ピクチャの符号化画像データにおけるSPSと、高品質フォーマットの各ピクチャの符号化画像データにおけるSPSとは、「nal_unit_type」の値は同じで、中にエクステンションを含むかどうかで異なる。すなわち、高品質フォーマットの各ピクチャの符号化画像データにおけるSPSは、SPSエクステンションを含む。
【0098】
フレームレート拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“2”とされ、フレームレート拡張に係る符号化画像データであることが示される。また、ダイナミックレンジ拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“4”とされ、ダイナミックレンジ拡張に係る符号化画像データであることが示される。また、フレームレート拡張およびダイナミックレンジ拡張の各ピクチャの符号化画像データを構成するNALユニットのヘッダにおける「nuh_layer_id」は、“6”とされ、フレームレート拡張およびダイナミックレンジ拡張に係る符号化画像データであることが示される。
【0099】
また、トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(Program Map Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。
【0100】
PMTには、プログラム全体に関連する情報を記述するプログラム・ループ(Program loop)が存在する。また、PMTには、各エレメンタリストリームに関連した情報を持つエレメンタリストリームループが存在する。この構成例では、1本のビデオストリームSTに対応して1つのビデオエレメンタリストリームループ(video ES loop)が存在する。
【0101】
このビデオエレメンタリストリームループには、ストリームタイプ(ST0)、パケット識別子(PID1)等の情報が配置されると共に、このビデオストリームSTに関連する情報を記述するデスクリプタも配置される。このデスクリプタの一つとして、上述したスケーラブル・エクステンション・デスクリプタ(Scalable extension descriptor)(
図7参照)が挿入される。
【0102】
このデスクリプタにおいて、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定され、「number_of_layerIDs」は“4”に設定され、「layerID」として、順に、“0”、“2”、“4”、“6”が設定される。これにより、NALユニットのヘッダの「nuh_layer_id」=“0”は基本フォーマットの符号化画像データを示すものと定義される。NALユニットのヘッダの「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと定義される。また、NALユニットのヘッダの「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、NALユニットのヘッダの「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0103】
図2に示す送信装置100の動作を簡単に説明する。フレーム周波数が50HzのLDR画像データである基本フォーマット画像データVbは、LDR光電変換部102に供給される。このLDR光電変換部102では、基本フォーマット画像データVbに対して、LDR画像用の光電変換特性(LDR OETFカーブ)が適用されて、伝送用の基本フォーマット画像データVb´が得られる。この基本フォーマット画像データVb´は、ビデオエンコーダ106のエンコード部106-0,106-1,106-2に供給される。
【0104】
また、フレーム周波数が100HzのLDR画像データである高品質フォーマット画像データVh1は、LDR光電変換部103に供給される。このLDR光電変換部103では、高品質フォーマット画像データVh1に対して、LDR画像用の光電変換特性(LDR OETFカーブ)が適用されて、伝送用の高品質フォーマット画像データVh1´が得られる。この高品質フォーマット画像データVh1´は、ビデオエンコーダ106のエンコード部106-1に供給される。
【0105】
また、フレーム周波数が50HzのHDR画像データである高品質フォーマット画像データVh2は、HDR光電変換部104に供給される。このHDR光電変換部104では、高品質フォーマット画像データVh2に対して、HDR画像用の光電変換特性(HDR OETFカーブ)が適用されて、伝送用の高品質フォーマット画像データVh2´が得られる。この高品質フォーマット画像データVh2´は、ビデオエンコーダ106のエンコード部106-2,106-3に供給される。
【0106】
また、フレーム周波数が100HzのHDR画像データである高品質フォーマット画像データVh3は、HDR光電変換部105に供給される。このHDR光電変換部105では、高品質フォーマット画像データVh3に対して、HDR画像用の光電変換特性(HDR OETFカーブ)が適用されて、伝送用の高品質フォーマット画像データVh3´が得られる。この高品質フォーマット画像データVh3´は、ビデオエンコーダ106のエンコード部106-3に供給される。
【0107】
ビデオエンコーダ106では、基本フォーマット画像データVb´、高品質フォーマット画像データVh1´,Vh2´,Vh3´のそれぞれに対して符号化処理が施されて、符号化画像データCb,Ch1,Ch2,Ch3が生成される。すなわち、エンコード部106-0では、伝送用の基本フォーマット画像データVb´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理が行われて、符号化画像データCbが得られる。
【0108】
また、エンコード部106-1では、伝送用の高品質フォーマット画像データVh1´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理が行われて、符号化画像データCh1が得られる。また、エンコード部106-2では、伝送用の高品質フォーマット画像データVh2´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理が行われて、符号化画像データCh2が得られる。さらに、エンコード部106-3では、伝送用の高品質フォーマット画像データVh3´に対してH.264/AVC、H.265/HEVCなどの予測符号化処理が行われて、符号化画像データCh3が得られる。
【0109】
ビデオエンコーダ106では、符号化画像データCb,Ch1,Ch2,Ch3のそれぞれに、対応するフォーマットを識別するための識別情報が挿入される。すなわち、ビデオエンコーダ106では、NALユニットのヘッダの「nuh_layer_id」のフィールドに、当該NALユニット(符号化画像データ)が対応するフォーマットを識別するための識別情報が挿入される。
【0110】
ビデオエンコーダ106で得られる符号化画像データCb,Ch1,Ch2,Ch3は、システムエンコーダ107に供給される。システムエンコーダ107では、符号化画像データCb,Ch1,Ch2,Ch3を用いて、ビデオストリームが生成され、PESパケット化およびTSパケット化が行われて、トランスポートストリームTSが生成される。
【0111】
ここで、2ストリーム構成の場合、符号化画像データCbを含む基本ビデオストリームと符号化画像データCh1,Ch2,Ch3を含む拡張ビデオストリームの2本のビデオストリームが生成される。また、1ストリーム構成の場合、符号化画像データCb,Ch1,Ch2,Ch3を含む1本のビデオストリームが生成される。
【0112】
システムエンコーダ107では、コンテナ(トランスポートストリーム)のレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入される。
【0113】
ここで、2ストリーム構成の場合、PMTの配下に存在する拡張ビデオストリーム(符号化画像データCh1,Ch2,Ch3を含む)に対応したビデオエレメンタリストリームループ中に、スケーラブル・エクステンション・デスクリプタが挿入される。また、1ストリーム構成の場合、PMTの配下に存在するビデオストリーム(符号化画像データCb,Ch1,Ch2,Ch3を含む)に対応したビデオエレメンタリストリームループ中に、スケーラブル・エクステンション・デスクリプタが挿入される。
【0114】
システムエンコーダ107で生成されるトランスポートストリームTSは、送信部108に送られる。送信部108では、このトランスポートストリームTSが、放送波あるいはネットのパケットに載せて、受信装置200に送信される。
【0115】
「受信装置の構成」
図12は、受信装置200の構成例を示している。この受信装置200は、
図2の送信装置100の構成例に対応したものである。この受信装置200は、制御部201と、受信部202と、システムデコーダ203と、圧縮データバッファ(cpb)204と、ビデオデコーダ205と、LDR電光変換部206,207と、HDR電光変換部208、209と、表示部(表示デバイス)210を有している。
【0116】
制御部201は、CPU(Central Processing Unit)を備えて構成され、制御プログラムに基づいて、受信装置200の各部の動作を制御する。受信部202は、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSを受信する。システムデコーダ203は、このトランスポートストリームTSからビデオストリームを抽出する。
【0117】
2ストリーム構成の場合(
図10参照)、基本フォーマット画像データの符号化画像データCbを含む基本ビデオストリームと高品質フォーマット画像データの符号化画像データCh1,Ch2,Ch3を含む拡張ビデオストリームの2本のビデオストリームを抽出する。また、1ストリーム構成の場合(
図11参照)、基本フォーマット画像データの符号化画像データCbおよび高品質フォーマット画像データの符号化画像データCh1,Ch2,Ch3を含む1本のビデオストリームを抽出する。
【0118】
また、システムデコーダ203は、コンテナ(トランスポートストリーム)のレイヤに挿入されている種々の情報を抽出し、制御部201に送る。この情報には、上述したスケーラブル・エクステンション・デスクリプタも含まれる。制御部201は、このデスクリプタに基づいて、符号化画像データに挿入されている識別情報(この実施の形態においては、NALユニットのヘッダの「nuh_layer_id」)がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。
【0119】
圧縮データバッファ204は、システムデコーダ203で抽出されるビデオストリームを、一時的に蓄積する。ビデオデコーダ205は、4つのデコード部205-0,205-1,205-2,205-3を有する。デコード部205-0は、圧縮データバッファ204から選択的に読み出される、基本フォーマットの符号化画像データ(基本成分)Cbに対して復号化処理を行って、基本フォーマット画像データVb´を生成する。この場合、デコード部205-0は、画像データVb´内で予測補償を行う。
【0120】
デコード部205-1は、圧縮データバッファ204から選択的に読み出される、フレームレート拡張の符号化画像データ(フレームレート拡張成分)Ch1に対して復号化処理を行って、高品質フォーマット画像データVh1´を生成する。この場合、デコード部205-1は、符号化時における予測に対応させて、符号化ブロック毎に、画像データVh1´内の予測補償、または画像データVb´との間の予測補償を、行う。
【0121】
デコード部205-2は、圧縮データバッファ204から選択的に読み出される、ダイナミックレンジ拡張の符号化画像データ(ダイナミックレンジ拡張成分)Ch2に対して復号化処理を行って、高品質フォーマット画像データVh2´を生成する。この場合、デコード部205-2は、符号化時における予測に対応させて、符号化ブロック毎に、画像データVh2´内の予測補償、または画像データVb´との間の予測補償を、行う。
【0122】
デコード部205-3は、圧縮データバッファ204から選択的に読み出される、フレームレート拡張とダイナミックレンジ拡張の符号化画像データ(フレームレート拡張成分とダイナミックレンジ拡張成分)Ch3に対して復号化処理を行って、高品質フォーマット画像データVh3´を生成する。この場合、デコード部205-3は、符号化時における予測に対応させて、符号化ブロック毎に、画像データVh3´内の予測補償、または画像データVh2´との間の予測補償を、行う。
【0123】
図13は、デコード部250の主要部の構成例を示している。このデコード部250は、デコード部205-1,205-2,205-3に適用し得るものである。このデコード部250は、
図4のエンコード部165の処理とは逆の処理を行う。このデコード部250は、デコード機能部251と、レイヤ内予測補償部252と、レイヤ間予測補償部253と、予測調整部254と、選択部255と、を有している。
【0124】
デコード機能部251は、符号化画像データCVに対して、予測補償以外のデコード処理を行って予測残差データを得る。レイヤ内予測補償部252は、予測残差データに対して、画像データV1内での予測補償(レイヤ内予測補償)を行って、画像データV1を得る。レイヤ間予測補償部253は、予測残差データに対して、参照対象の画像データV2との間での予測補償(レイヤ間予測補償)を行って、画像データV1を得る。
【0125】
予測調整部254は、詳細説明は省略するが、
図4のエンコード部160の予測調整部163と同様に、画像データV1の、画像データV2に対するスケーラブル拡張のタイプに応じた処理を行う。選択部255は、符号化時における予測に対応させて、符号化ブロック毎に、レイヤ内予測補償部252で得られる画像データV1、またはレイヤ間予測補償部253で得られる画像データV1を選択的に取り出して、出力とする。
【0126】
図12に戻って、LDR電光変換部206は、デコード部205-0で得られる基本フォーマット画像データVb´に、上述した送信装置100におけるLDR光電変換部102とは逆特性の電光変換を施し、基本フォーマット画像データVbを得る。この基本フォーマット画像データは、フレーム周波数が50HzのLDR画像データである。
【0127】
また、LDR電光変換部207は、デコード部205-1で得られる高品質フォーマット画像データVh1´に、上述した送信装置100におけるLDR光電変換部103とは逆特性の電光変換を施し、高品質フォーマット画像データVh1を得る。この高品質フォーマット画像データVh1は、フレーム周波数が100HzのLDR画像データである。
【0128】
また、HDR電光変換部208は、デコード部205-2で得られる高品質フォーマット画像データVh2´に、上述した送信装置100におけるHDR光電変換部104とは逆特性の電光変換を施し、高品質フォーマット画像データVh2を得る。この高品質フォーマット画像データVh2は、フレーム周波数が50HzのHDR画像データである。
【0129】
また、HDR電光変換部209は、デコード部205-3で得られる高品質フォーマット画像データVh3´に、上述した送信装置100におけるHDR光電変換部105とは逆特性の電光変換を施し、高品質フォーマット画像データVh3を得る。この高品質フォーマット画像データVh3は、フレーム周波数が100HzのHDR画像データである。
【0130】
表示部210は、例えば、LCD(Liquid Crystal Display)、有機EL(Organic Electro-Luminescence)パネル等で構成されている。表示部210は、表示能力に応じて、基本フォーマット画像データVb、高品質フォーマット画像データVh1,Vh2,Vh3のいずれかによる画像を表示する。
【0131】
この場合、制御部201は、表示部210に供給すべき画像データを制御する。この制御は、各符号化画像データに挿入されている基本フォーマット、高品質フォーマットの識別情報と、表示部209の表示能力情報に基づいて、行われる。
【0132】
すなわち、表示部210が高フレーム周波数の表示も高ダイナミックレンジの表示も不可能である場合には、表示部210に基本フォーマットの符号化画像データ(基本成分)Cbの復号化に係る基本フォーマット画像データVbが供給されるように制御する。この場合、制御部201は、圧縮データバッファ204から基本フォーマットの符号化画像データCbを選択的に取り出してデコード部205-0に送る。そして、制御部201は、デコード部205-0が符号化画像データCbを復号化し、LDR電光変換部206が基本フォーマット画像データVbを出力するように制御する。
【0133】
また、表示部210が高フレーム周波数の表示は可能だが高ダイナミックレンジの表示が不可能である場合には、表示部210にフレームレート拡張の符号化画像データ(フレームレート拡張成分)Ch1の復号化に係る高品質フォーマット画像データVh1が供給されるように制御する。
【0134】
この場合、制御部201は、圧縮データバッファ204から基本フォーマットの符号化画像データCbを選択的に取り出してデコード部205-0に送ると共に、圧縮データバッファ204からフレームレート拡張の符号化画像データCh1を選択的に取り出してデコード部205-1に送る。そして、制御部201は、デコード部205-0が符号化画像データCbを復号化し、デコード部205-1が符号化画像データCh1を復号化し、LDR電光変換部207が高品質フォーマット画像データVh1を出力するように制御する。
【0135】
また、表示部210が高フレーム周波数の表示は不可能だが高ダイナミックレンジの表示が可能である場合には、表示部210にダイナミックレンジ拡張の符号化画像データ(ダイナミックレンジ拡張成分)Ch2の復号化に係る高品質フォーマット画像データVh2が供給されるように制御する。
【0136】
この場合、制御部201は、圧縮データバッファ204から基本フォーマットの符号化画像データCbを選択的に取り出してデコード部205-0に送ると共に、圧縮データバッファ204からダイナミックレンジ拡張の符号化画像データCh2を選択的に取り出してデコード部205-2に送る。そして、制御部201は、デコード部205-0が符号化画像データCbを復号化し、デコード部205-2が符号化画像データCh2を復号化し、LDR電光変換部208が高品質フォーマット画像データVh2を出力するように制御する。
【0137】
また、表示部210が高フレーム周波数の表示も高ダイナミックレンジの表示も可能である場合には、表示部210にフレームレート拡張およびダイナミックレンジ拡張の符号化画像データ(フレームレート拡張成分およびダイナミックレンジ拡張成分)Ch3の復号化に係る高品質フォーマット画像データVh3が供給されるように制御する。
【0138】
この場合、制御部201は、圧縮データバッファ204から基本フォーマットの符号化画像データCbを選択的に取り出してデコード部205-0に送ると共に、圧縮データバッファ204からダイナミックレンジ拡張の符号化画像データCh2を選択的に取り出してデコード部205-1に送り、さらに、圧縮データバッファ204からフレームレート拡張とダイナミックレンジ拡張の符号化画像データCh3を選択的に取り出してデコード部205-3に送る。
【0139】
そして、制御部201は、デコード部205-0が符号化画像データCbを復号化し、デコード部205-2が符号化画像データCh2を復号化し、デコード部205-3が符号化画像データCh3を復号化し、HDR電光変換部209が高品質フォーマット画像データVh3を出力するように制御する。
【0140】
図14は、2ストリーム構成の場合における圧縮データバッファ(cpb)204の出力と、「nuh_layer_id」による符号化画像データCb,Ch1,Ch2,Ch3の対応するデコード部への振り分けを概略的に示している。
【0141】
2ストリーム構成の場合、
図14(a)に示すように、圧縮データバッファ(cpb)204から、基本ビデオストリーム(PID1)に含まれていた基本フォーマットの符号化画像データCbおよび拡張ビデオストリーム(PID2)に含まれていた高品質フォーマットの符号化画像データCh1,Ch2,Ch3の各ピクチャの符号化画像デーが順次読み出されていく。
【0142】
ここで、「00」、「01」、・・・は、符号化画像データCbを構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“0”に設定されている。制御部201は、この符号化画像データCbが基本ビデオストリームに含まれていたものであることから、「nuh_layer_id」=“0”は基本フォーマットの符号化画像データを示すものと把握する。
【0143】
また、「10」、「11」、・・・は、符号化画像データCh1を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“2”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと把握する。
【0144】
また、「20」、「21」、・・・は、符号化画像データCh2を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“4”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと把握する。
【0145】
さらに、「30」、「31」、・・・は、符号化画像データCh3を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“6”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと把握する。
【0146】
圧縮データバッファ204から読み出された各ピクチャの符号化画像データは、
図14(b)に示すように、「nuh_layer_id」に基づいて、対応するデコード部に送られる。この場合、デコードに関係しないレイヤの符号化画像データは。読み捨てられる。図示の例は、全てをデコードする場合の例を示している。
【0147】
図15は、1ストリーム構成の場合における圧縮データバッファ(cpb)204の出力と、「nuh_layer_id」による符号化画像データCb,Ch1,Ch2,Ch3の対応するデコード部への振り分けを概略的に示している。
【0148】
1ストリーム構成の場合、
図15(a)に示すように、圧縮データバッファ(cpb)204から、1本のビデオストリーム(PID1)に含まれていた基本フォーマットの符号化画像データCbおよび高品質フォーマットの符号化画像データCh1,Ch2,Ch3の各ピクチャの符号化画像デーが順次読み出されていく。
【0149】
ここで、「00」、「01」、・・・は、符号化画像データCbを構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“0”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“0”は基本フォーマットの符号化画像データを示すものと把握する。
【0150】
また、「10」、「11」、・・・は、符号化画像データCh1を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“2”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“2”はフレームレート拡張の符号化画像データを示すものと把握する。
【0151】
また、「20」、「21」、・・・は、符号化画像データCh2を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“4”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“4”はダイナミックレンジ拡張の符号化画像データを示すものと把握する。
【0152】
さらに、「30」、「31」、・・・は、符号化画像データCh3を構成する各ピクチャの符号化画像データを示しており、NALユニットのヘッダの「nuh_layer_id」は“6”に設定されている。制御部201は、スケーラブル・エクステンション・デスクリプタによる定義から、「nuh_layer_id」=“6”はフレームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと把握する。
【0153】
圧縮データバッファ204から読み出された各ピクチャの符号化画像データは、
図15(b)に示すように、「nuh_layer_id」に基づいて、対応するデコード部に送られる。この場合、デコードに関係しないレイヤの符号化画像データは。読み捨てられる。図示の例は、全てをデコードする場合の例を示している。
【0154】
図16のフローチャートは、制御部201が、表示能力情報(表示性能情報)から、デコード範囲を判断する処理の一例を示している。制御部201は、ステップST1において、処理を開始する。
【0155】
次に、制御部201は、ステップST2において、スケーラブル・エクステンション・デスクリプタを参照して、各フォーマットの「nuh_layer_id」を把握する。この実施の形態では、基本フォーマットでは「nuh_layer_id」=“0”であり、フレームレート拡張では「nuh_layer_id」=“2”であり、ダイナミックレンジレート拡張では「nuh_layer_id」=“4”であり、フレームレート拡張およびダイナミックレンジレート拡張では「nuh_layer_id」=“6”であることを把握する。
【0156】
次に、制御部201は、ステップST3において、100pHDRの表示、つまりフレーム周波数が100HzでHDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST4において、「nuh_layer_id」が“0”,“4”,“6”である符号化画像データ、つまり符号化画像データCb,Ch2,Ch3をデコード範囲とし、その後、ステップST11において、処理を終了する。
【0157】
ステップST3で可能でないとき、制御部201は、ステップST5において、50pHDRの表示、つまりフレーム周波数が50HzでHDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST6において、「nuh_layer_id」が“0”,“4”である符号化画像データ、つまり符号化画像データCb,Ch2をデコード範囲とし、その後、ステップST11において、処理を終了する。
【0158】
ステップST5で可能でないとき、制御部201は、ステップST7において、100pLDRの表示、つまりフレーム周波数が100HzでLDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST8において、「nuh_layer_id」が“0”,“2”である符号化画像データ、つまり符号化画像データCb,Ch1をデコード範囲とし、その後、ステップST11において、処理を終了する。
【0159】
ステップST7で可能でないとき、制御部201は、ステップST9において、50pLDRの表示、つまりフレーム周波数が50HzでLDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST10において、「nuh_layer_id」が“0”である符号化画像データ、つまり符号化画像データCbをデコード範囲とし、その後、ステップST11において、処理を終了する。なお、ステップST9で可能でないとき、制御部201は、ステップST11において、処理を終了する。
【0160】
図12に示す受信装置200の動作を簡単に説明する。受信部202では、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSが受信される。このトランスポートストリームTSは、システムデコーダ203に供給される。システムデコーダ203では、このトランスポートストリームTSからビデオストリームが抽出される。このビデオストリームは、圧縮データバッファ204に一時的に蓄積される。
【0161】
ここで、2ストリーム構成の場合(
図10参照)、基本フォーマット画像データの符号化画像データCbを含む基本ビデオストリームと高品質フォーマット画像データの符号化画像データCh1,Ch2,Ch3を含む拡張ビデオストリームの2本のビデオストリームが抽出される。また、1ストリーム構成の場合((
図11参照)、基本フォーマット画像データの符号化画像データCbおよび高品質フォーマット画像データの符号化画像データCh1,Ch2,Ch3を含む1本のビデオストリームが抽出される。
【0162】
また、システムデコーダ203では、コンテナ(トランスポートストリーム)のレイヤに挿入されている種々の情報が抽出され、制御部201に送られる。この情報には、スケーラブル・エクステンション・デスクリプタも含まれる。制御部201では、このデスクリプタに基づいて、符号化画像データに挿入されている識別情報(この実施の形態においては、NALユニットのヘッダの「nuh_layer_id」)がいかなるフォーマットの符号化画像データを示すかが把握される。
【0163】
表示部210が高フレーム周波数の表示も高ダイナミックレンジの表示も不可能である場合には、LDR電光変換部206から表示部210に基本フォーマット画像データVbが供給される。表示部210には、この基本フォーマット画像データVb、つまりフレーム周波数が50HzでLDR画像データによる50pLDR画像が表示される。
【0164】
この場合、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“0”である基本フォーマットの符号化画像データCbが選択的に取り出されてデコード部205-0に供給される。デコード部205-0では、符号化画像データCbに対して復号化処理が行われ、基本フォーマット画像データVb´が生成される。この基本フォーマット画像データVb´は、LDR電光変換部206に供給される。LDR電光変換部206では、この基本フォーマット画像データVb´に電光変換が施され、基本フォーマット画像データVbが得られて、表示部210に供給される。
【0165】
また、表示部210が高フレーム周波数の表示は可能だが高ダイナミックレンジの表示が不可能である場合には、LDR電光変換部207から表示部210に高品質フォーマット画像データVh1が供給される。表示部210には、この高品質フォーマット画像データVh1、つまりフレーム周波数が100HzでLDR画像データによる画像が表示される。
【0166】
この場合、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“0”である基本フォーマットの符号化画像データCbが選択的に取り出されてデコード部205-0に供給される。デコード部205-0では、符号化画像データCbに対して復号化処理が行われ、基本フォーマット画像データVb´が生成される。
【0167】
また、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“2”であるフレームレート拡張の符号化画像データCh1が選択的に取り出されてデコード部205-1に供給される。デコード部205-1では、符号化画像データCh1に対して、基本フォーマット画像データVb´が参照されて復号化処理が行われ、高品質フォーマット画像データVh1´が生成される。
【0168】
デコード部205-1で生成される高品質フォーマット画像データVh1´は、LDR電光変換部207に供給される。LDR電光変換部207では、この高品質フォーマット画像データVh1´に電光変換が施され、高品質フォーマット画像データVh1が得られて、表示部210に供給される。
【0169】
また、表示部210が高フレーム周波数の表示は不可能だが高ダイナミックレンジの表示が可能である場合には、HDR電光変換部208から表示部210に高品質フォーマット画像データVh2が供給される。表示部210には、この高品質フォーマット画像データVh2、つまりフレーム周波数が50HzでHDR画像データによる画像が表示される。
【0170】
この場合、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“0”である基本フォーマットの符号化画像データCbが選択的に取り出されてデコード部205-0に供給される。デコード部205-0では、符号化画像データCbに対して復号化処理が行われ、基本フォーマット画像データVb´が生成される。
【0171】
また、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“4”であるダイナミックレンジ拡張の符号化画像データCh2が選択的に取り出されてデコード部205-2に供給される。デコード部205-2では、符号化画像データCh2に対して、基本フォーマット画像データVb´が参照されて復号化処理が行われ、高品質フォーマット画像データVh2´が生成される。
【0172】
デコード部205-2で生成される高品質フォーマット画像データVh2´は、HDR電光変換部208に供給される。HDR電光変換部208では、この高品質フォーマット画像データVh2´に電光変換が施され、高品質フォーマット画像データVh2が得られて、表示部210に供給される。
【0173】
また、表示部210が高フレーム周波数の表示も高ダイナミックレンジの表示も可能である場合には、HDR電光変換部209から表示部210に高品質フォーマット画像データVh3が供給される。表示部210には、この高品質フォーマット画像データVh3、つまりフレーム周波数が100HzでHDR画像データによる画像が表示される。
【0174】
この場合、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“0”である基本フォーマットの符号化画像データCbが選択的に取り出されてデコード部205-0に供給される。デコード部205-0では、符号化画像データCbに対して復号化処理が行われ、基本フォーマット画像データVb´が生成される。
【0175】
また、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“4”であるダイナミックレンジ拡張の符号化画像データCh2が選択的に取り出されてデコード部205-2に供給される。デコード部205-2では、符号化画像データCh2に対して、基本フォーマット画像データVb´が参照されて復号化処理が行われ、高品質フォーマット画像データVh2´が生成される。
【0176】
また、圧縮データバッファ204からNALユニットのヘッダの「nuh_layer_id」が“6”であるフレームレート拡張およびダイナミックレンジ拡張の符号化画像データCh3が選択的に取り出されてデコード部205-3に供給される。デコード部205-3では、符号化画像データCh2に対して、高品質フォーマット画像データVh2´が参照されて復号化処理が行われ、高品質フォーマット画像データVh3´が生成される。
【0177】
デコード部205-3で生成される高品質フォーマット画像データVh3´は、HDR電光変換部209に供給される。HDR電光変換部209では、この高品質フォーマット画像データVh3´に電光変換が施され、高品質フォーマット画像データVh3が得られて、表示部210に供給される。
【0178】
以上説明したように、
図1に示す送受信システム10において、送信装置100では、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されるものである。そのため、受信側では、識別情報に基づいて、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることが容易に可能となる。
【0179】
また、
図1に示す送受信システム10において、送信装置100では、コンテナのレイヤに、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されるものである。そのため、受信側では、符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを、コンテナのレイヤで、予め把握することが可能となる。
【0180】
<2.変形例>
なお、上述実施の形態においては、符号化画像データに識別情報を挿入するためにNALユニットのヘッダの「nuh_layer_id」のフィールドを用いる例を示したが、「nuh_layer_id」および「nuh_temporal_id_plus1」の2つのフィールドを用いることも考えられる。
【0181】
例えば、符号化画像データCb,Ch1,Ch2,Ch3の「nuh_layer_id」および「nuh_temporal_id_plus1」は、例えば、
図17に示すように、設定される。すなわち、基本フォーマットの符号化画像データCbについては、「nuh_layer_id」は“0”とされ、「nuh_temporal_id_plus1」は“1~6”とされる。また、フレームレート拡張の符号化画像データCh1については、「nuh_layer_id」は“0”とされ、「nuh_temporal_id_plus1」は“7”とされる。
【0182】
また、ダイナミックレンジ拡張の符号化画像データCh2については、「nuh_layer_id」は“4”とされ、「nuh_temporal_id_plus1」は“1~6”とされる。さらに、フレームレート拡張およびダイナミックレンジ拡張の符号化画像データCh3については、「nuh_layer_id」は“4”とされ、「nuh_temporal_id_plus1」は“7”とされる。
【0183】
この場合、スケーラブル・エクステンション・デスクリプタ(
図7参照)は、以下のように設定される。すなわち、2ストリーム構成の場合であって、拡張ビデオストリームに符号化データCh2,Ch3が含まれるとき、「Extended_spatial_resolution_flag」、「Extended_bit_depth_flag」および「Extended_color_gamut_flag」は“0”に設定され、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定される。また、「number_of_layer IDs」は“3”に設定され、「layerID」として、順に、“4”、“4”が設定される。
【0184】
このような設定により、「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“7”はフレームレート拡張の符号化画像データを示すものと定義される。また、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“1~6”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“7”は、レームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0185】
また、1ストリーム構成の場合であって、拡張ビデオストリームに符号化データCb,Ch1,Ch2,Ch3が含まれるとき、「Extended_spatial_resolution_flag」、「Extended_bit_depth_flag」および「Extended_color_gamut_flag」は“0”に設定され、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”に設定される。また、「number_of_layer IDs」は“4”に設定され、「layerID」として、順に、“0”、“0”、“4”、“4”が設定される。
【0186】
このような設定により、「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“1~6”は基本フォーマットの符号化画像データを示すものと定義される。また、「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“7”はフレームレート拡張の符号化画像データを示すものと定義される。また、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“1~6”はダイナミックレンジ拡張の符号化画像データを示すものと定義される。さらに、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“7”は、レームレート拡張およびダイナミックレンジ拡張の符号化画像データを示すものと定義される。
【0187】
図18は、NALユニットヘッダの「nuh_layer_id」、「nuh_temporal_id_plus1」の値と、スケーラブル・エクステンション・デスクリプタの記述との対応関係を示している。すなわち、ストリームに、「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“1~6”である基本フォーマットの符号化画像データ(基本成分)が含まれる場合、「layerID」として、“0”が設定される。また、ストリームに、「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“7”であるフレームレート拡張の符号化画像データ(フレームレート拡張成分)が含まれる場合、「Extended_spatial_resolution_flag」は“1”とされ、「layerID」として、“0”が設定される。
【0188】
また、ストリームに、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“1~6”であるダイナミックレンジ拡張の符号化画像データ(フレームレート拡張成分)が含まれる場合、「Extended_dynamic_range_flag」は“1”とされ、「layerID」として、“4”が設定される。また、ストリームに、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“7”であるフレームレート拡張およびダイナミックレンジ拡張の符号化画像データ(フレームレート拡張成分およびダイナミックレンジ拡張成分)が含まれる場合、「Extended_frame_rate_flag」および「Extended_dynamic_range_flag」は“1”とされ、「layerID」として、“4”が設定される。
【0189】
図19のフローチャートは、上述したように符号化画像データに識別情報を挿入するためにNALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」の2つのフィールドを用いた場合において、制御部201が、表示能力情報(表示性能情報)から、デコード範囲を判断する処理の一例を示している。
【0190】
制御部201は、ステップST21において、処理を開始する。次に、制御部201は、ステップST22において、スケーラブル・エクステンション・デスクリプタを参照して、各フォーマットの「nuh_layer_id」、「nuh_temporal_id_plus1」を把握する。
【0191】
ここでは、基本フォーマットでは「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“1~6”であり、フレームレート拡張では「nuh_layer_id」=“0”、「nuh_temporal_id_plus1」=“7”であり、ダイナミックレンジ拡張では「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“1~6”であり、フレームレート拡張およびダイナミックレンジ拡張では、「nuh_layer_id」=“4”、「nuh_temporal_id_plus1」=“7”であることを把握する。
【0192】
次に、制御部201は、ステップST23において、100pHDRの表示、つまりフレーム周波数が100HzでHDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST24において、「nuh_layer_id」=“0”かつ「nuh_temporal_id_plus1」=“1~6”である符号化画像データCbと、「nuh_layer_id」=“4”かつ「nuh_temporal_id_plus1」=“1~7”である符号化画像データCh2,Ch3をデコード範囲とし、その後、ステップST31において、処理を終了する。
【0193】
ステップST23で可能でないとき、制御部201は、ステップST25において、50pHDRの表示、つまりフレーム周波数が50HzでHDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST26において、「nuh_layer_id」=“0”かつ「nuh_temporal_id_plus1」=“1~6”である符号化画像データCbと、「nuh_layer_id」=“4”かつ「nuh_temporal_id_plus1」=“1~6”である符号化画像データCh2をデコード範囲とし、その後、ステップST31において、処理を終了する。
【0194】
ステップST25で可能でないとき、制御部201は、ステップST27において、100pLDRの表示、つまりフレーム周波数が100HzでLDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST28において、「nuh_layer_id」=“0” かつ「nuh_temporal_id_plus1」=“1~7”である符号化画像データCb,Ch1をデコード範囲とし、その後、ステップST31において、処理を終了する。
【0195】
ステップST27で可能でないとき、制御部201は、ステップST29において、50pLDRの表示、つまりフレーム周波数が50HzでLDRの表示が可能か否かを判断する。可能であるとき、制御部201は、ステップST30において、「nuh_layer_id」=“0”かつ「nuh_temporal_id_plus1」=“1~6”である符号化画像データCbをデコード範囲とし、その後、ステップST31において、処理を終了する。なお、ステップST29で可能でないとき、制御部201は、ステップST31において、処理を終了する。
【0196】
また、上述実施の形態においては、送信装置100と受信装置200とからなる送受信システム10を示したが、本技術を適用し得る送受信システムの構成は、これに限定されるものではない。例えば、受信装置200の部分が、HDMI(High-Definition Multimedia Interface)などのデジタルインタフェースで接続されたセットトップボックスおよびモニタの構成などであってもよい。この場合、セットトップボックスは、モニタからEDID(Extended display identification data)を取得する等して表示能力情報を得ることができる。なお、「HDMI」は、登録商標である。
【0197】
また、上述実施の形態においては、コンテナがトランスポートストリーム(MPEG-2 TS)である例を示した。しかし、本技術は、インターネット等のネットワークを利用して受信端末に配信される構成のシステムにも同様に適用できる。インターネットの配信では、MP4やそれ以外のフォーマットのコンテナで配信されることが多い。つまり、コンテナとしては、デジタル放送規格で採用されているトランスポートストリーム(MPEG-2 TS)、インターネット配信で使用されているMP4などの種々のフォーマットのコンテナが該当する。
【0198】
また、本技術は、以下のような構成を取ることもできる。
(1)基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置。
(2)上記符号化画像データは、NALユニット構造を有し、
上記画像符号化部は、上記識別情報を上記NALユニットのヘッダに挿入する
前記(1)に記載の送信装置。
(3)上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する
前記(2)に記載の送信装置。
(4)上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する
前記(2)に記載の送信装置。
(5)上記コンテナのレイヤに、上記符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える
前記(1)から(4)のいずれかに記載の送信装置。
(6)上記コンテナは、MPEG2-TSであり、
上記情報挿入部は、
上記情報を、プログラムマップテーブルの配下に存在する上記拡張ビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する
前記(5)に記載の送信装置。
(7)基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを生成する画像符号化ステップと、
送信部により、上記画像符号化ステップで生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップを有し、
上記画像符号化ステップでは、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信方法。
(8)基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含む拡張ビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する各ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置。
(9)上記符号化画像データは、NALユニット構造を有し、
上記識別情報は、上記NALユニットのヘッダに挿入されている
前記(8)に記載の受信装置。
(10)上記コンテナのレイヤに、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、
上記処理部は、上記コンテナのレイヤに挿入されている情報に基づいて、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する
前記(8)または(9)に記載の受信装置。
(11)基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記ビデオストリームを含む所定フォーマットのコンテナを送信する送信部を備え、
上記画像符号化部は、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信装置。
(12)上記符号化画像データは、NALユニット構造を有し、
上記画像符号化部は、上記識別情報を上記NALユニットのヘッダに挿入する
前記(11)に記載の送信装置。
(13)上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」のフィールドを用いて挿入する
前記(12)に記載の送信装置。
(14)上記画像符号化部は、上記識別情報を、上記NALユニットのヘッダの「nuh_layer_id」および「nuh_temporal_id_plus1」のフィールドを用いて挿入する
前記(12)に記載の送信装置。
(15)上記コンテナのレイヤに、上記符号化画像データに挿入される識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報を挿入する情報挿入部をさらに備える
前記(11)から(14)のいずれかに記載の送信装置。
(16)上記コンテナは、MPEG2-TSであり、
上記情報挿入部は、
上記情報を、プログラムマップテーブルの配下に存在する上記ビデオストリームに対応したビデオエレメンタリストリームループ内に挿入する
前記(15)に記載の送信装置。
(17)基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを生成する画像符号化ステップと、
送信部により、上記画像符号化ステップで生成された上記ビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップを有し、
上記画像符号化ステップでは、上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入する
送信方法。
(18)基本フォーマット画像データの符号化画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データを含むビデオストリームを有する所定フォーマットのコンテナを受信する受信部を備え、
上記基本フォーマット画像データおよび上記所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報が挿入されており、
上記受信されたコンテナが有する上記ビデオストリームを、上記識別情報と表示能力情報に基づいて処理する処理部をさらに備える
受信装置。
(19)上記符号化画像データは、NALユニット構造を有し、
上記識別情報は、上記NALユニットのヘッダに挿入されている
前記(18)に記載の受信装置。
(20)上記コンテナのレイヤに、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを定義する情報が挿入されており、
上記処理部は、上記コンテナのレイヤに挿入されている情報に基づいて、上記符号化画像データに挿入されている識別情報がいかなるフォーマットの符号化画像データを示すかを把握する
前記(18)または(19)に記載の受信装置。
【0199】
本技術の主な特徴は、基本フォーマット画像データおよび所定数の高品質フォーマット画像データのそれぞれの符号化画像データに、対応するフォーマットを識別するための識別情報を挿入して送信することで、受信側において、所定の符号化画像データに選択的に復号化処理を行って表示能力に応じた画像データを得ることを容易としたことである(
図10、
図11参照)。
【0200】
10・・・送受信システム
100・・・送信装置
101・・・制御部
102,103・・・LDR光電変換部
104,105・・・HDR光電変換部
106・・・ビデオエンコーダ
106-0,106-1,106-2,106-3・・・エンコード部
107・・・システムエンコーダ
108・・・送信部
150・・・画像データ生成部
151・・・HDRカメラ
152,154・・・フレームレート変換部
153・・・ダイナミックレンジ変換部
160・・・エンコード部
161・・・レイヤ内予測部
162・・・レイヤ間予測部
163・・・予測調整部
164・・・選択部
165・・・エンコード機能部
200・・・受信装置
201・・・制御部
202・・・受信部
203・・・システムデコーダ
204・・・圧縮データバッファ
205・・・ビデオデコーダ
205-0,205-1,205-2,205-3・・・デコード部
206,207・・・LDR電光変換部
208,209・・・HDR電光変換部
210・・・表示部
250・・・デコード部
251・・・デコード機能部
252・・・レイヤ内予測補償部
253・・・レイヤ間予測補償部
254・・・予測調整部
255・・・選択部
【手続補正書】
【提出日】2022-10-21
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数のタイプのスケーラブル拡張に対応する所定数の高品質フォーマット画像データの符号化画像データを含む拡張ビデオストリームを生成する画像符号化ステップと、
上記画像符号化ステップで生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含むコンテナを送信する送信ステップを有し、
上記拡張ビデオストリームは、少なくともフレームレート拡張に対応する高品質フォーマット画像データの符号化画像データを含み、
上記基本ビデオストリームと上記拡張ビデオストリームに含まれる符号化画像データは、上記フレームレート拡張に対応する高品質フォーマット画像データに対応するTemporal IDを示す値または上記フレームレート拡張に対応する高品質フォーマット画像データに対応しないTemporal IDを示す値が挿入されたNALユニットを含む
送信方法。
【請求項2】
上記コンテナのレイヤに含まれるテーブルの、ビデオストリームの単位に対応するループ領域には、上記拡張ビデオストリームに含まれる上記符号化画像データのスケーラブル拡張のタイプを示すフラグ情報が挿入される
請求項1に記載の送信方法。
【請求項3】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数のタイプのスケーラブル拡張に対応する所定数の高品質フォーマット画像データの符号化画像データを含む拡張ビデオストリームを生成する画像符号化部と、
上記画像符号化部で生成された上記基本ビデオストリームおよび上記拡張ビデオストリームを含むコンテナを送信する送信部を備え、
上記拡張ビデオストリームは、少なくともフレームレート拡張に対応する高品質フォーマット画像データの符号化画像データを含み、
上記基本ビデオストリームと上記拡張ビデオストリームに含まれる符号化画像データは、上記フレームレート拡張に対応する高品質フォーマット画像データに対応するTemporal IDを示す値または上記フレームレート拡張に対応する高品質フォーマット画像データに対応しないTemporal IDを示す値が挿入されたNALユニットを含む
送信装置。
【請求項4】
基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数のタイプのスケーラブル拡張に対応する所定数の高品質フォーマット画像データの符号化画像データを含む拡張ビデオストリームを有するコンテナを受信する受信部を備え、
上記拡張ビデオストリームは、少なくともフレームレート拡張に対応する高品質フォーマット画像データの符号化画像データを含み、
上記基本ビデオストリームと上記拡張ビデオストリームに含まれる符号化画像データは、上記フレームレート拡張に対応する高品質フォーマット画像データに対応するTemporal IDを示す値または上記フレームレート拡張に対応する高品質フォーマット画像データに対応しないTemporal IDを示す値が挿入されたNALユニットを含み、
上記受信されたコンテナが有する各ビデオストリームを、上記Temporal IDを示す値と表示能力情報に基づいて処理する処理部をさらに備える
受信装置。
【請求項5】
上記コンテナのレイヤに含まれるテーブルの、ビデオストリームの単位に対応するループ領域には、上記拡張ビデオストリームに含まれる上記符号化画像データのスケーラブル拡張のタイプを示すフラグ情報が挿入され、
上記処理部は、上記フラグ情報、上記Temporal IDを示す値、及び上記表示能力情報に基づいて、上記受信されたコンテナが有する各ビデオストリームを処理する
請求項4に記載の受信装置。
【請求項6】
受信部により、基本フォーマット画像データの符号化画像データを含む基本ビデオストリームと所定数のタイプのスケーラブル拡張に対応する所定数の高品質フォーマット画像データの符号化画像データを含む拡張ビデオストリームを有するコンテナを受信する受信ステップを有し、
上記拡張ビデオストリームは、少なくともフレームレート拡張に対応する高品質フォーマット画像データの符号化画像データを含み、
上記基本ビデオストリームと上記拡張ビデオストリームに含まれる符号化画像データは、上記フレームレート拡張に対応する高品質フォーマット画像データに対応するTemporal IDを示す値または上記フレームレート拡張に対応する高品質フォーマット画像データに対応しないTemporal IDを示す値が挿入されたNALユニットを含み、
上記受信されたコンテナが有する各ビデオストリームを、上記Temporal IDを示す値と表示能力情報に基づいて処理する処理ステップをさらに有する
受信方法。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0001
【補正方法】変更
【補正の内容】
【0001】
本技術は、送信方法、送信装置、受信装置および受信方法に関する。