特許第6439296号(P6439296)IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6439296
(24)【登録日】2018年11月30日
(45)【発行日】2018年12月19日
(54)【発明の名称】復号装置および方法、並びにプログラム
(51)【国際特許分類】
   G10L 19/008 20130101AFI20181210BHJP
   G10L 19/02 20130101ALI20181210BHJP
【FI】
   G10L19/008 100
   G10L19/02 150
   G10L19/02 170B
   G10L19/02 180A
   G10L19/02 180B
【請求項の数】13
【全頁数】53
(21)【出願番号】特願2014-136633(P2014-136633)
(22)【出願日】2014年7月2日
(65)【公開番号】特開2015-194666(P2015-194666A)
(43)【公開日】2015年11月5日
【審査請求日】2017年2月3日
(31)【優先権主張番号】特願2014-60486(P2014-60486)
(32)【優先日】2014年3月24日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニー株式会社
(74)【代理人】
【識別番号】100121131
【弁理士】
【氏名又は名称】西川 孝
(74)【代理人】
【識別番号】100082131
【弁理士】
【氏名又は名称】稲本 義雄
(72)【発明者】
【氏名】知念 徹
(72)【発明者】
【氏名】西口 正之
(72)【発明者】
【氏名】史 潤宇
(72)【発明者】
【氏名】畠中 光行
(72)【発明者】
【氏名】山本 優樹
【審査官】 上田 雄
(56)【参考文献】
【文献】 国際公開第2012/125855(WO,A1)
【文献】 特表2013−502184(JP,A)
【文献】 特表2002−516421(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G10L 19/00−19/26
(57)【特許請求の範囲】
【請求項1】
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得する取得部と、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号するオーディオ信号復号部と、
前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成する加算部と、
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行うゲイン調整部と
を備える復号装置。
【請求項2】
前記オーディオ信号復号部は、前記優先度情報により示される優先度合いが所定の度合い以上である、前記符号化されたオーディオ信号を復号する
請求項1に記載の復号装置。
【請求項3】
前記取得部は、前記所定の時間における前記複数のチャネルまたは前記複数のオブジェクトのオーディオ信号の前記優先度情報に基づいて、前記所定の度合いを変更する
請求項2に記載の復号装置。
【請求項4】
前記取得部は、前記オーディオ信号ごとに複数の前記優先度情報を取得し、
前記オーディオ信号復号部は、前記複数の前記優先度情報のなかから選択された1つの前記優先度情報に基づいて、前記符号化されたオーディオ信号を復号する
請求項1乃至請求項3の何れか一項に記載の復号装置。
【請求項5】
前記複数の前記優先度情報は、前記符号化されたオーディオ信号の復号側の計算能力に応じて、前記計算能力ごとに生成されたものである
請求項4に記載の復号装置。
【請求項6】
前記符号化されたオーディオ信号に基づいて、前記優先度情報を生成する優先度情報生成部をさらに備える
請求項1乃至請求項5の何れか一項に記載の復号装置。
【請求項7】
前記優先度情報生成部は、前記符号化されたオーディオ信号から得られる、オーディオ信号の音圧またはスペクトル形状に基づいて前記優先度情報を生成する
請求項6に記載の復号装置。
【請求項8】
前記オーディオ信号復号部は、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間の前記符号化されたオーディオ信号を復号するかを選択する
請求項1に記載の復号装置。
【請求項9】
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、高域のパワー値をゲイン調整するとともに、ゲイン調整された前記パワー値と、前記所定の時間のオーディオ信号とに基づいて、前記所定の時間のオーディオ信号の高域成分を生成する高域生成部をさらに備える
請求項1に記載の復号装置。
【請求項10】
チャネルごとまたはオブジェクトごとに、高域のパワー値と、前記所定の時間のオーディオ信号とに基づいて、高域成分が含まれる前記所定の時間のオーディオ信号を生成する高域生成部をさらに備え、
前記ゲイン調整部は、高域成分が含まれる前記所定の時間のオーディオ信号のゲイン調整を行う
請求項1に記載の復号装置。
【請求項11】
前記所定の時間の前記優先度情報に基づいて、オブジェクトのオーディオ信号を複数の各チャネルに所定のゲイン値で割り当てて、前記複数の各チャネルのオーディオ信号を生成するレンダリング部をさらに備える
請求項1に記載の復号装置。
【請求項12】
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得し、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号し、
前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成し、
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行う
ステップを含む復号方法。
【請求項13】
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得し、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号し、
前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成し、
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行う
ステップを含む処理をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は復号装置および方法、並びにプログラムに関し、特に、オーディオ信号の復号の計算量を低減させることができるようにした復号装置および方法、並びにプログラムに関する。
【背景技術】
【0002】
例えば、オーディオ信号を符号化する方法として、国際標準規格であるMPEG(Moving Picture Experts Group)-2 AAC(Advanced Audio Coding)規格、MPEG-4 AAC規格やMPEG-D USAC(Unified Speech and Audio Coding)規格のマルチチャネル符号化が知られている(例えば、非特許文献1および非特許文献2参照)。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】INTERNATIONAL STANDARD ISO/IEC 14496-3 Fourth edition 2009-09-01 Information technology-coding of audio-visual objects-part3:Audio
【非特許文献2】INTERNATIONAL STANDARD ISO/IEC 23003-3 Frist edition 2012-04-01 Information technology-coding of audio-visual objects-part3:Unified speech and audio coding
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、従来の5.1チャネルサラウンド再生を超える、より高臨場感な再生や、複数の音素材(オブジェクト)を伝送するためには、より多くのオーディオチャネルを用いた符号化技術が必要になる。
【0005】
例えば、24チャネルのオーディオ信号および複数のオブジェクトのオーディオ信号を符号化し、復号を行う場合と、2チャネルのオーディオ信号を符号化し復号する場合とを考える。このような場合、計算能力の乏しいモバイルデバイスなどでは、2チャネルのオーディオ信号をリアルタイムに復号することは可能であるが、24チャネルのオーディオ信号および複数のオブジェクトのオーディオ信号をリアルタイムに復号することが困難な場合がある。
【0006】
現状のMPEG-D USACなどのオーディオコーデックでは、全チャネルおよび全オブジェクトのオーディオ信号を復号する必要があるため、復号時の計算量を低減させることが困難である。そうすると、復号側の機器によっては、リアルタイムでオーディオ信号を再生することができなくなってしまうことがある。
【0007】
本技術は、このような状況に鑑みてなされたものであり、復号の計算量を低減させることができるようにするものである。
【課題を解決するための手段】
【0008】
本技術の一側面の復号装置は、複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得する取得部と、前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号するオーディオ信号復号部と、前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成する加算部と、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行うゲイン調整部とを備える。
【0009】
前記オーディオ信号復号部には、前記優先度情報により示される優先度合いが所定の度合い以上である、前記符号化されたオーディオ信号を復号させることができる。
【0010】
前記取得部には、前記所定の時間における前記複数のチャネルまたは前記複数のオブジェクトのオーディオ信号の前記優先度情報に基づいて、前記所定の度合いを変更させることができる。
【0011】
前記取得部には、前記オーディオ信号ごとに複数の前記優先度情報を取得させ、前記オーディオ信号復号部には、前記複数の前記優先度情報のなかから選択された1つの前記優先度情報に基づいて、前記符号化されたオーディオ信号を復号させることができる。
【0012】
前記複数の前記優先度情報を、前記符号化されたオーディオ信号の復号側の計算能力に応じて、前記計算能力ごとに生成されたものであるとすることができる。
【0013】
復号装置には、前記符号化されたオーディオ信号に基づいて、前記優先度情報を生成する優先度情報生成部をさらに設けることができる。
【0014】
前記優先度情報生成部には、前記符号化されたオーディオ信号から得られる、オーディオ信号の音圧またはスペクトル形状に基づいて前記優先度情報を生成させることができる。
【0015】
前記オーディオ信号復号部には、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間の前記符号化されたオーディオ信号を復号するかを選択させることができる。
【0017】
復号装置には、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、高域のパワー値をゲイン調整するとともに、ゲイン調整された前記パワー値と、前記所定の時間のオーディオ信号とに基づいて、前記所定の時間のオーディオ信号の高域成分を生成する高域生成部をさらに設けることができる。
【0018】
復号装置には、チャネルごとまたはオブジェクトごとに、高域のパワー値と、前記所定の時間のオーディオ信号とに基づいて、高域成分が含まれる前記所定の時間のオーディオ信号を生成する高域生成部をさらに設け、前記ゲイン調整部には、高域成分が含まれる前記所定の時間のオーディオ信号のゲイン調整を行わせることができる。
【0019】
復号装置には、前記所定の時間の前記優先度情報に基づいて、オブジェクトのオーディオ信号を複数の各チャネルに所定のゲイン値で割り当てて、前記複数の各チャネルのオーディオ信号を生成するレンダリング部をさらに設けることができる。
【0020】
本技術の一側面の復号方法またはプログラムは、複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得し、前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号し、前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成し、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行うステップを含む。
【0021】
本技術の一側面においては、複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報が取得され、前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号が復号され、前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とが加算されて前記所定の時間のオーディオ信号が生成され、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整が行われる。
【発明の効果】
【0029】
本技術の一側面によれば、復号の計算量を低減させることができる。
【0030】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載された何れかの効果であってもよい。
【図面の簡単な説明】
【0031】
図1】ビットストリームについて説明する図である。
図2】符号化について説明する図である。
図3】優先度情報について説明する図である。
図4】優先度情報の値の意味について説明する図である。
図5】符号化装置の構成例を示す図である。
図6】チャネルオーディオ符号化部の構成例を示す図である。
図7】オブジェクトオーディオ符号化部の構成例を示す図である。
図8】符号化処理を説明するフローチャートである。
図9】復号装置の構成例を示す図である。
図10】アンパッキング/復号部の構成例を示す図である。
図11】復号処理を説明するフローチャートである。
図12】選択復号処理を説明するフローチャートである。
図13】アンパッキング/復号部の他の構成例を示す図である。
図14】選択復号処理を説明するフローチャートである。
図15】オブジェクトのメタデータのシンタックスの一例を示す図である。
図16】オーディオ信号の生成について説明する図である。
図17】オーディオ信号の生成について説明する図である。
図18】MDCT係数の出力先の選択について説明する図である。
図19】オーディオ信号と高域のパワー値のゲイン調整について説明する図である。
図20】オーディオ信号と高域のパワー値のゲイン調整について説明する図である。
図21】アンパッキング/復号部の他の構成例を示す図である。
図22】選択復号処理を説明するフローチャートである。
図23】オーディオ信号のゲイン調整について説明する図である。
図24】オーディオ信号のゲイン調整について説明する図である。
図25】アンパッキング/復号部の他の構成例を示す図である。
図26】選択復号処理を説明するフローチャートである。
図27】VBAPゲインについて説明する図である。
図28】VBAPゲインについて説明する図である。
図29】アンパッキング/復号部の他の構成例を示す図である。
図30】復号処理を説明するフローチャートである。
図31】選択復号処理を説明するフローチャートである。
図32】コンピュータの構成例を示す図である。
【発明を実施するための形態】
【0032】
以下、図面を参照して、本技術を適用した実施の形態について説明する。
【0033】
〈第1の実施の形態〉
〈本技術の概要について〉
本技術は、マルチチャネルを構成する各チャネルのオーディオ信号、およびオブジェクトのオーディオ信号の符号化において、各チャネルのオーディオ信号の優先度情報および各オブジェクトのオーディオ信号の優先度情報を伝送することで、復号の計算量を低減させることができるようにするものである。
【0034】
また、本技術は復号側において、各チャネルまたは各オブジェクトの優先度情報に示される優先度合いが所定の度合い以上である場合に周波数時間変換を行い、優先度情報に示される優先度合いが所定の度合い未満である場合には、周波数時間変換を行わず、周波数時間変換の結果を0とすることで、オーディオ信号の復号の計算量を低減させることができるようにするものである。
【0035】
なお、以下では、マルチチャネルのオーディオ信号およびオブジェクトのオーディオ信号がAAC規格に従って符号化される場合について説明するが、他の方式で符号化される場合にも同様の処理が行なわれる。
【0036】
例えば、マルチチャネルのオーディオ信号、および複数のオブジェクトのオーディオ信号がAAC規格に従って符号化され、伝送される場合、各チャネルや各オブジェクトのオーディオ信号がフレームごとに符号化されて伝送される。
【0037】
具体的には図1に示すように、符号化されたオーディオ信号や、オーディオ信号の復号等に必要な情報が複数のエレメント(ビットストリームエレメント)に格納され、それらのエレメントからなるビットストリームが伝送されることになる。
【0038】
この例では、1フレーム分のビットストリームには、先頭から順番にt個のエレメントEL1乃至エレメントELtが配置され、最後に当該フレームの情報に関する終端位置であることを示す識別子TERMが配置されている。
【0039】
例えば、先頭に配置されたエレメントEL1は、DSE(Data Stream Element)と呼ばれるアンシラリデータ領域であり、DSEにはオーディオ信号のダウンミックスに関する情報や識別情報など、複数の各チャネルに関する情報が記述される。
【0040】
エレメントEL1の後に続くエレメントEL2乃至エレメントELtには、符号化されたオーディオ信号が格納される。
【0041】
特に、シングルチャネルのオーディオ信号が格納されているエレメントはSCEと呼ばれており、ペアとなる2つのチャネルのオーディオ信号が格納されているエレメントはCPEと呼ばれている。また、各オブジェクトのオーディオ信号はSCEに格納される。
【0042】
本技術では、マルチチャネルを構成する各チャネルのオーディオ信号の優先度情報、および各オブジェクトのオーディオ信号の優先度情報が生成されてDSEに格納される。
【0043】
例えば、図2に示すように連続するフレームF11乃至フレームF13のオーディオ信号が符号化されるとする。
【0044】
このような場合、符号化装置(エンコーダ)は、それらのフレームごとに、各チャネルのオーディオ信号がどの程度の優先度合いであるかを解析し、例えば図3に示すように各チャネルの優先度情報を生成する。同様に、符号化装置は、各オブジェクトのオーディオ信号についても優先度情報を生成する。
【0045】
例えば符号化装置は、オーディオ信号の音圧やスペクトルの形状、さらに各チャネル間やオブジェクト間のスペクトル形状の相関などに基づいて、オーディオ信号がどの程度の優先度合いであるかを解析する。
【0046】
図3では、全チャネル数がMチャネルである場合における各チャネルの優先度情報が例として示されている。すなわち、チャネル番号が0であるチャネルから、チャネル番号がM−1であるチャネルまでの各チャネルについて、それらのチャネルのオーディオ信号の優先度合いを示す数値が優先度情報として示されている。
【0047】
例えばチャネル番号が0であるチャネルの優先度情報は3となっており、チャネル番号が1であるチャネルの優先度情報は0となっている。なお、以下、所定のチャネル番号m(m=0,1,・・・,M-1)のチャネルをチャネルmとも称することとする。
【0048】
図3に示した優先度情報の値は、図4に示すように0から7までの何れかの値とされるようになされており、優先度情報の値が大きいほど、オーディオ信号の再生時の優先度合い、つまり重要度が高いとされている。
【0049】
したがって、優先度情報の値が0であるオーディオ信号は最も優先度が低く、優先度情報の値が7であるオーディオ信号は最も優先度が高いことになる。
【0050】
マルチチャネルのオーディオ信号や複数のオブジェクトのオーディオ信号が同時に再生される場合、通常、それらのオーディオ信号により再生される音声のなかには、他の音声と比べるとそれほど重要ではない音声も含まれている。換言すれば、全体の音声のなかで、ある特定の音声が再生されなかったとしても、そのことにより受聴者に違和感を与えるようなことがない程度の音声も存在する。
【0051】
したがって、必要に応じて優先度の低いオーディオ信号については復号しないようにすれば、音質の劣化を抑えつつ復号の計算量を低減させることができる。そこで、符号化装置では、復号しないオーディオ信号を適切に選択することができるように、再生時における各オーディオ信号の重要さの度合い、つまり復号を優先させるべき度合いを示す優先度情報が、フレームごとに各オーディオ信号に対して付与される。
【0052】
以上のようにして各オーディ信号の優先度情報が定められると、それらの優先度情報は、図1に示したエレメントEL1のDSEに格納される。特に図3の例では、マルチチャネルのオーディオ信号を構成するチャネル数はMであるから、チャネル0からチャネルM−1のM個の各チャネルの優先度情報がDSEに格納される。
【0053】
同様に、各オブジェクトの優先度情報もエレメントEL1のDSEに格納される。ここでは、例えばオブジェクト番号が0からN−1までのN個のオブジェクトがあるとすると、N個の各オブジェクトに対して、それぞれ優先度情報が定められ、DSEに格納される。
【0054】
なお、以下、所定のオブジェクト番号n(n=0,1,・・・,N-1)のオブジェクトをオブジェクトnとも称することとする。
【0055】
このように、各オーディオ信号に対して優先度情報を定めれば、再生側、つまりオーディオ信号の復号側において、再生時にどのオーディオ信号が重要であり、優先して復号すべきか、つまり再生に用いるべきかを簡単に特定することができる。
【0056】
図2の説明に戻り、例えば所定のチャネルのフレームF11とフレームF13のオーディオ信号の優先度情報が7であり、その所定のチャネルのフレームF12のオーディオ信号の優先度情報が0であったとする。
【0057】
また、オーディオ信号の復号側、つまり復号装置(デコーダ)において所定の優先度合い未満のオーディオ信号に対しては、復号が行われないようになっているとする。
【0058】
ここで、例えば所定の優先度合いを閾値と呼ぶこととし、その閾値が4であるとすると、上述した例では、優先度情報が7である所定チャネルのフレームF11とフレームF13のオーディオ信号に対しては復号が行われる。
【0059】
これに対して、優先度情報が0である所定チャネルのフレームF12のオーディオ信号に対しては復号が行われない。
【0060】
したがって、この例ではフレームF12のオーディオ信号が無音信号とされて、フレームF11とフレームF13のオーディオ信号が合成され、最終的な所定チャネルのオーディオ信号とされる。
【0061】
より詳細には、例えば各オーディオ信号の符号化時には、オーディオ信号に対する時間周波数変換が行われて時間周波数変換により得られた情報が符号化され、その結果得られた符号化データがエレメントに格納される。
【0062】
なお、時間周波数変換としてどのような処理が行われてもよいが、以下では時間周波数変換としてMDCT(Modified Discrete Cosine Transform)(修正離散コサイン変換)が行われるものとして説明を続ける。
【0063】
また、復号装置では、符号化データに対する復号が行われ、その結果得られたMDCT係数に対してIMDCT(Inverse Modified Discrete Cosine Transform)(逆修正離散コサイン変換)が行われ、オーディオ信号が生成される。すなわち、ここでは時間周波数変換の逆変換(周波数時間変換)としてIMDCTが行われる。
【0064】
そのため、より詳細には、優先度情報が閾値の値4以上であるフレームF11とフレームF13についてはIMDCTが行われてオーディオ信号が生成される。
【0065】
また、優先度情報が閾値の値4未満であるフレームF12についてはIMDCTが行われず、IMDCTの結果が0とされてオーディオ信号が生成される。これにより、フレームF12のオーディオ信号は無音信号、つまり0データとなる。
【0066】
さらに別の例として、図3に示した例では、閾値が4であるときには各チャネル0乃至チャネルM−1のオーディオ信号のうち、優先度情報が閾値である4未満の値となっているチャネル0、チャネル1、およびチャネルM−2のオーディオ信号の復号が行われないことになる。
【0067】
以上のように閾値との比較結果に応じて、優先度情報により示される優先度合いの低いオーディオ信号については復号を行わないようにすることで、音質の劣化を最小限に抑えつつ、復号の計算量を低減させることができる。
【0068】
〈符号化装置の構成例〉
次に、本技術を適用した符号化装置および復号装置の具体的な実施の形態について説明する。まず、符号化装置について説明する。
【0069】
図5は、本技術を適用した符号化装置の構成例を示す図である。
【0070】
図5の符号化装置11は、チャネルオーディオ符号化部21、オブジェクトオーディオ符号化部22、メタデータ入力部23、およびパッキング部24を有している。
【0071】
チャネルオーディオ符号化部21には、チャネル数がMであるマルチチャネルの各チャネルのオーディオ信号が供給される。例えば各チャネルのオーディオ信号は、それらのチャネルに対応するマイクロフォンから供給される。図5では、文字「#0」乃至「#M−1」は、各チャネルのチャネル番号を表している。
【0072】
チャネルオーディオ符号化部21は、供給された各チャネルのオーディオ信号を符号化するとともに、オーディオ信号に基づいて優先度情報を生成し、符号化により得られた符号化データと、優先度情報とをパッキング部24に供給する。
【0073】
オブジェクトオーディオ符号化部22には、N個の各オブジェクトのオーディオ信号が供給される。例えば各オブジェクトのオーディオ信号は、それらのオブジェクトに取り付けられたマイクロフォンから供給される。図5では、文字「#0」乃至「#N−1」は、各オブジェクトのオブジェクト番号を表している。
【0074】
オブジェクトオーディオ符号化部22は、供給された各オブジェクトのオーディオ信号を符号化するとともに、オーディオ信号に基づいて優先度情報を生成し、符号化により得られた符号化データと、優先度情報とをパッキング部24に供給する。
【0075】
メタデータ入力部23は、各オブジェクトのメタデータをパッキング部24に供給する。例えばオブジェクトのメタデータは、空間上におけるオブジェクトの位置を示す空間位置情報などとされる。より具体的には、例えば空間位置情報は3次元空間におけるオブジェクトの位置の座標を示す3次元座標情報である。
【0076】
パッキング部24は、チャネルオーディオ符号化部21から供給された符号化データと優先度情報、オブジェクトオーディオ符号化部22から供給された符号化データと優先度情報、およびメタデータ入力部23から供給されたメタデータをパッキングしてビットストリームを生成し、出力する。
【0077】
このようにして得られるビットストリームには、フレームごとに各チャネルの符号化データ、各チャネルの優先度情報、各オブジェクトの符号化データ、各オブジェクトの優先度情報、および各オブジェクトのメタデータが含まれていることになる。
【0078】
ここで、1フレーム分のビットストリームに格納されるM個の各チャネルのオーディオ信号、およびN個の各オブジェクトのオーディオ信号は、同時に再生されるべき同一フレームのオーディオ信号である。
【0079】
なお、ここでは、各チャネルや各オブジェクトのオーディオ信号の優先度情報として、1フレームごとに各オーディオ信号に対して優先度情報が生成される例について説明するが、任意の所定の時間を単位として、例えば数フレーム分のオーディオ信号に対して1つの優先度情報が生成されるようにしてもよい。
【0080】
〈チャネルオーディオ符号化部の構成例〉
また、図5のチャネルオーディオ符号化部21は、より詳細には、例えば図6に示すように構成される。
【0081】
図6に示すチャネルオーディオ符号化部21は、符号化部51および優先度情報生成部52を備えている。
【0082】
符号化部51はMDCT部61を備えており、符号化部51は外部から供給された各チャネルのオーディオ信号を符号化する。
【0083】
すなわち、MDCT部61は、外部から供給された各チャネルのオーディオ信号に対してMDCTを行う。符号化部51は、MDCTにより得られた各チャネルのMDCT係数を符号化し、その結果得られた各チャネルの符号化データ、つまり符号化されたオーディオ信号をパッキング部24に供給する。
【0084】
また、優先度情報生成部52は、外部から供給された各チャネルのオーディオ信号を解析して、それらの各チャネルのオーディオ信号の優先度情報を生成し、パッキング部24に供給する。
【0085】
〈オブジェクトオーディオ符号化部の構成例〉
さらに、図5のオブジェクトオーディオ符号化部22は、より詳細には、例えば図7に示すように構成される。
【0086】
図7に示すオブジェクトオーディオ符号化部22は、符号化部91および優先度情報生成部92を備えている。
【0087】
符号化部91はMDCT部101を備えており、符号化部91は外部から供給された各オブジェクトのオーディオ信号を符号化する。
【0088】
すなわち、MDCT部101は、外部から供給された各オブジェクトのオーディオ信号に対してMDCTを行う。符号化部91は、MDCTにより得られた各オブジェクトのMDCT係数を符号化し、その結果得られた各オブジェクトの符号化データ、つまり符号化されたオーディオ信号をパッキング部24に供給する。
【0089】
また、優先度情報生成部92は、外部から供給された各オブジェクトのオーディオ信号を解析して、それらの各オブジェクトのオーディオ信号の優先度情報を生成し、パッキング部24に供給する。
【0090】
〈符号化処理の説明〉
次に、符号化装置11により行われる処理について説明する。
【0091】
符号化装置11は、同時に再生される、複数の各チャネルのオーディオ信号および複数の各オブジェクトのオーディオ信号が1フレーム分だけ供給されると、符号化処理を行って、符号化されたオーディオ信号が含まれるビットストリームを出力する。
【0092】
以下、図8のフローチャートを参照して、符号化装置11による符号化処理について説明する。なお、この符号化処理はオーディオ信号のフレームごとに行われる。
【0093】
ステップS11において、チャネルオーディオ符号化部21の優先度情報生成部52は、供給された各チャネルのオーディオ信号の優先度情報を生成し、パッキング部24に供給する。例えば優先度情報生成部52は、チャネルごとにオーディオ信号を解析し、オーディオ信号の音圧やスペクトル形状、チャネル間のスペクトル形状の相関などに基づいて優先度情報を生成する。
【0094】
ステップS12において、パッキング部24は、優先度情報生成部52から供給された各チャネルのオーディオ信号の優先度情報をビットストリームのDSEに格納する。すなわち、優先度情報がビットストリームの先頭のエレメントに格納される。
【0095】
ステップS13において、オブジェクトオーディオ符号化部22の優先度情報生成部92は、供給された各オブジェクトのオーディオ信号の優先度情報を生成し、パッキング部24に供給する。例えば優先度情報生成部92は、オブジェクトごとにオーディオ信号を解析し、オーディオ信号の音圧やスペクトル形状、オブジェクト間のスペクトル形状の相関などに基づいて優先度情報を生成する。
【0096】
なお、各チャネルや各オブジェクトのオーディオ信号の優先度情報の生成時には、優先度情報の値となる優先度合いごとに、それらの優先度合いが割り当てられるオーディオ信号の数が、チャネル数やオブジェクト数に対して予め定められているようにしてもよい。
【0097】
例えば図3の例では、優先度情報が「7」とされるオーディオ信号の数、つまりチャネルの数は5個、優先度情報が「6」とされるオーディオ信号の数は3個などと、予め定められているようにしてもよい。
【0098】
ステップS14において、パッキング部24は、優先度情報生成部92から供給された各オブジェクトのオーディオ信号の優先度情報をビットストリームのDSEに格納する。
【0099】
ステップS15において、パッキング部24は、各オブジェクトのメタデータをビットストリームのDSEに格納する。
【0100】
例えばメタデータ入力部23は、ユーザの入力操作を受けたり、外部との通信を行ったり、外部の記録領域からの読み出しを行ったりすることで、各オブジェクトのメタデータを取得し、パッキング部24に供給する。パッキング部24は、このようにしてメタデータ入力部23から供給されたメタデータをDSEに格納する。
【0101】
以上の処理により、ビットストリームのDSEには、全チャネルのオーディオ信号の優先度情報、全オブジェクトのオーディオ信号の優先度情報、および全オブジェクトのメタデータが格納されたことになる。
【0102】
ステップS16において、チャネルオーディオ符号化部21の符号化部51は、供給された各チャネルのオーディオ信号を符号化する。
【0103】
より具体的には、MDCT部61は各チャネルのオーディオ信号に対してMDCTを行い、符号化部51は、MDCTにより得られた各チャネルのMDCT係数を符号化し、その結果得られた各チャネルの符号化データをパッキング部24に供給する。
【0104】
ステップS17において、パッキング部24は符号化部51から供給された各チャネルのオーディオ信号の符号化データを、ビットストリームのSCEまたはCPEに格納する。すなわち、ビットストリームにおいてDSEに続いて配置されている各エレメントに符号化データが格納される。
【0105】
ステップS18において、オブジェクトオーディオ符号化部22の符号化部91は、供給された各オブジェクトのオーディオ信号を符号化する。
【0106】
より具体的には、MDCT部101は各オブジェクトのオーディオ信号に対してMDCTを行い、符号化部91は、MDCTにより得られた各オブジェクトのMDCT係数を符号化し、その結果得られた各オブジェクトの符号化データをパッキング部24に供給する。
【0107】
ステップS19において、パッキング部24は符号化部91から供給された各オブジェクトのオーディオ信号の符号化データを、ビットストリームのSCEに格納する。すなわち、ビットストリームにおいてDSEよりも後に配置されているいくつかのエレメントに符号化データが格納される。
【0108】
以上の処理により、処理対象となっているフレームについて、全チャネルのオーディオ信号の優先度情報と符号化データ、全オブジェクトのオーディオ信号の優先度情報と符号化データ、および全オブジェクトのメタデータが格納されたビットストリームが得られる。
【0109】
ステップS20において、パッキング部24は、得られたビットストリームを出力し、符号化処理は終了する。
【0110】
以上のようにして符号化装置11は、各チャネルのオーディオ信号の優先度情報と、各オブジェクトのオーディオ信号の優先度情報とを生成してビットストリームに格納し、出力する。したがって、復号側において、どのオーディオ信号がより優先度合いの高いものであるかを簡単に把握することができるようになる。
【0111】
これにより、復号側では、優先度情報に応じて、符号化されたオーディオ信号の復号を選択的に行うことができる。その結果、オーディオ信号により再生される音声の音質の劣化を最小限に抑えつつ、復号の計算量を低減させることができる。
【0112】
特に、各オブジェクトのオーディオ信号の優先度情報をビットストリームに格納しておくことで、復号側において、復号の計算量を低減できるだけでなく、その後のレンダリング等の処理の計算量も低減させることができる。
【0113】
〈復号装置の構成例〉
次に、以上において説明した符号化装置11から出力されたビットストリームを入力とし、ビットストリームに含まれる符号化データを復号する復号装置について説明する。
【0114】
そのような復号装置は、例えば図9に示すように構成される。
【0115】
図9に示す復号装置151は、アンパッキング/復号部161、レンダリング部162、およびミキシング部163を有している。
【0116】
アンパッキング/復号部161は、符号化装置11から出力されたビットストリームを取得するとともに、ビットストリームのアンパッキングおよび復号を行う。
【0117】
アンパッキング/復号部161は、アンパッキングおよび復号により得られた各オブジェクトのオーディオ信号と、各オブジェクトのメタデータとをレンダリング部162に供給する。このとき、アンパッキング/復号部161は、ビットストリームに含まれている優先度情報に応じて各オブジェクトの符号化データの復号を行う。
【0118】
また、アンパッキング/復号部161は、アンパッキングおよび復号により得られた各チャネルのオーディオ信号をミキシング部163に供給する。このとき、アンパッキング/復号部161は、ビットストリームに含まれている優先度情報に応じて各チャネルの符号化データの復号を行う。
【0119】
レンダリング部162は、アンパッキング/復号部161から供給された各オブジェクトのオーディオ信号、および各オブジェクトのメタデータとしての空間位置情報に基づいて、Mチャネルのオーディオ信号を生成し、ミキシング部163に供給する。このときレンダリング部162は、各オブジェクトの音像が、それらのオブジェクトの空間位置情報により示される位置に定位するようにM個の各チャネルのオーディオ信号を生成する。
【0120】
ミキシング部163は、アンパッキング/復号部161から供給された各チャネルのオーディオ信号と、レンダリング部162から供給された各チャネルのオーディオ信号とをチャネルごとに重み付け加算を行って、最終的な各チャネルのオーディオ信号を生成する。ミキシング部163は、このようにして得られた最終的な各チャネルのオーディオ信号を、外部の各チャネルに対応するスピーカに供給し、音声を再生させる。
【0121】
〈アンパッキング/復号部の構成例〉
また、図9に示した復号装置151のアンパッキング/復号部161は、より詳細には例えば図10に示すように構成される。
【0122】
図10に示すアンパッキング/復号部161は、優先度情報取得部191、チャネルオーディオ信号取得部192、チャネルオーディオ信号復号部193、出力選択部194、0値出力部195、IMDCT部196、オブジェクトオーディオ信号取得部197、オブジェクトオーディオ信号復号部198、出力選択部199、0値出力部200、およびIMDCT部201を有している。
【0123】
優先度情報取得部191は、供給されたビットストリームから、各チャネルのオーディオ信号の優先度情報を取得して出力選択部194に供給するとともに、ビットストリームから各オブジェクトのオーディオ信号の優先度情報を取得して出力選択部199に供給する。
【0124】
また、優先度情報取得部191は、供給されたビットストリームから各オブジェクトのメタデータを取得してレンダリング部162に供給するとともに、ビットストリームをチャネルオーディオ信号取得部192およびオブジェクトオーディオ信号取得部197に供給する。
【0125】
チャネルオーディオ信号取得部192は、優先度情報取得部191から供給されたビットストリームから各チャネルの符号化データを取得して、チャネルオーディオ信号復号部193に供給する。チャネルオーディオ信号復号部193は、チャネルオーディオ信号取得部192から供給された各チャネルの符号化データを復号し、その結果得られたMDCT係数を出力選択部194に供給する。
【0126】
出力選択部194は、優先度情報取得部191から供給された各チャネルの優先度情報に基づいて、チャネルオーディオ信号復号部193から供給された各チャネルのMDCT係数の出力先を選択的に切り替える。
【0127】
すなわち、出力選択部194は、所定のチャネルについての優先度情報が所定の閾値P未満である場合、そのチャネルのMDCT係数を0として0値出力部195に供給する。また、出力選択部194は、所定のチャネルについての優先度情報が所定の閾値P以上である場合、チャネルオーディオ信号復号部193から供給された、そのチャネルのMDCT係数をIMDCT部196に供給する。
【0128】
0値出力部195は、出力選択部194から供給されたMDCT係数に基づいてオーディオ信号を生成し、ミキシング部163に供給する。この場合、MDCT係数は0であるので、無音のオーディオ信号が生成される。
【0129】
IMDCT部196は、出力選択部194から供給されたMDCT係数に基づいてIMDCTを行ってオーディオ信号を生成し、ミキシング部163に供給する。
【0130】
オブジェクトオーディオ信号取得部197は、優先度情報取得部191から供給されたビットストリームから各オブジェクトの符号化データを取得して、オブジェクトオーディオ信号復号部198に供給する。オブジェクトオーディオ信号復号部198は、オブジェクトオーディオ信号取得部197から供給された各オブジェクトの符号化データを復号し、その結果得られたMDCT係数を出力選択部199に供給する。
【0131】
出力選択部199は、優先度情報取得部191から供給された各オブジェクトの優先度情報に基づいて、オブジェクトオーディオ信号復号部198から供給された各オブジェクトのMDCT係数の出力先を選択的に切り替える。
【0132】
すなわち、出力選択部199は、所定のオブジェクトについての優先度情報が所定の閾値Q未満である場合、そのオブジェクトのMDCT係数を0として0値出力部200に供給する。また、出力選択部199は、所定のオブジェクトについての優先度情報が所定の閾値Q以上である場合、オブジェクトオーディオ信号復号部198から供給された、そのオブジェクトのMDCT係数をIMDCT部201に供給する。
【0133】
なお、閾値Qの値は、閾値Pの値と同じであってもよいし、閾値Pの値と異なる値であってもよい。復号装置151の計算能力等に応じて適切に閾値Pおよび閾値Qを定めることにより、オーディオ信号の復号の計算量を、復号装置151がリアルタイムに復号することが可能な範囲内の計算量まで低減させることができる。
【0134】
0値出力部200は、出力選択部199から供給されたMDCT係数に基づいてオーディオ信号を生成し、レンダリング部162に供給する。この場合、MDCT係数は0であるので、無音のオーディオ信号が生成される。
【0135】
IMDCT部201は、出力選択部199から供給されたMDCT係数に基づいてIMDCTを行ってオーディオ信号を生成し、レンダリング部162に供給する。
【0136】
〈復号処理の説明〉
次に、復号装置151の動作について説明する。
【0137】
復号装置151は、符号化装置11から1フレーム分のビットストリームが供給されると、復号処理を行ってオーディオ信号を生成し、スピーカへと出力する。以下、図11のフローチャートを参照して、復号装置151により行われる復号処理について説明する。
【0138】
ステップS51において、アンパッキング/復号部161は、符号化装置11から送信されてきたビットストリームを取得する。すなわち、ビットストリームが受信される。
【0139】
ステップS52において、アンパッキング/復号部161は選択復号処理を行う。
【0140】
なお、選択復号処理の詳細は後述するが、選択復号処理では各チャネルの符号化データと、各オブジェクトの符号化データとが優先度情報に基づいて選択的に復号される。そして、その結果得られた各チャネルのオーディオ信号がミキシング部163に供給され、各オブジェクトのオーディオ信号がレンダリング部162に供給される。また、ビットストリームから取得された各オブジェクトのメタデータがレンダリング部162に供給される。
【0141】
ステップS53において、レンダリング部162は、アンパッキング/復号部161から供給された各オブジェクトのオーディオ信号、および各オブジェクトのメタデータとしての空間位置情報に基づいて、各オブジェクトのオーディオ信号のレンダリングを行う。
【0142】
例えばレンダリング部162は、空間位置情報に基づいてVBAP(Vector Base Amplitude Pannning)により、各オブジェクトの音像が空間位置情報により示される位置に定位するように各チャネルのオーディオ信号を生成し、ミキシング部163に供給する。
【0143】
ステップS54において、ミキシング部163は、アンパッキング/復号部161から供給された各チャネルのオーディオ信号と、レンダリング部162から供給された各チャネルのオーディオ信号とをチャネルごとに重み付け加算し、外部のスピーカに供給する。これにより、各スピーカには、それらのスピーカに対応するチャネルのオーディオ信号が供給されるので、各スピーカは供給されたオーディオ信号に基づいて音声を再生する。
【0144】
各チャネルのオーディオ信号がスピーカに供給されると、復号処理は終了する。
【0145】
以上のようにして、復号装置151は、ビットストリームから優先度情報を取得して、その優先度情報に応じて各チャネルおよび各オブジェクトの符号化データを復号する。
【0146】
〈選択復号処理の説明〉
続いて、図12のフローチャートを参照して、図11のステップS52の処理に対応する選択復号処理について説明する。
【0147】
ステップS81において、優先度情報取得部191は、供給されたビットストリームから、各チャネルのオーディオ信号の優先度情報、および各オブジェクトのオーディオ信号の優先度情報を取得して、それぞれ出力選択部194および出力選択部199に供給する。
【0148】
また、優先度情報取得部191は、ビットストリームから各オブジェクトのメタデータを取得してレンダリング部162に供給するとともに、ビットストリームをチャネルオーディオ信号取得部192およびオブジェクトオーディオ信号取得部197に供給する。
【0149】
ステップS82において、チャネルオーディオ信号取得部192は、処理対象とするチャネルのチャネル番号に0を設定し、保持する。
【0150】
ステップS83において、チャネルオーディオ信号取得部192は、保持しているチャネル番号がチャネル数M未満であるか否かを判定する。
【0151】
ステップS83において、チャネル番号がM未満であると判定された場合、ステップS84において、チャネルオーディオ信号復号部193は、処理対象のチャネルのオーディオ信号の符号化データを復号する。
【0152】
すなわち、チャネルオーディオ信号取得部192は、優先度情報取得部191から供給されたビットストリームから、処理対象のチャネルの符号化データを取得してチャネルオーディオ信号復号部193に供給する。
【0153】
すると、チャネルオーディオ信号復号部193は、チャネルオーディオ信号取得部192から供給された符号化データを復号し、その結果得られたMDCT係数を出力選択部194に供給する。
【0154】
ステップS85において、出力選択部194は、優先度情報取得部191から供給された処理対象のチャネルの優先度情報が、図示せぬ上位の制御装置等により指定された閾値P以上であるか否かを判定する。ここで閾値Pは、例えば復号装置151の計算能力等に応じて定められる。
【0155】
ステップS85において、優先度情報が閾値P以上であると判定された場合、出力選択部194は、チャネルオーディオ信号復号部193から供給された、処理対象のチャネルのMDCT係数をIMDCT部196に供給し、処理はステップS86に進む。この場合、処理対象のチャネルのオーディオ信号の優先度合いは、所定の優先度合い以上であるので、そのチャネルについての復号、より詳細にはIMDCTが行われる。
【0156】
ステップS86において、IMDCT部196は、出力選択部194から供給されたMDCT係数に基づいてIMDCTを行って、処理対象のチャネルのオーディオ信号を生成し、ミキシング部163に供給する。オーディオ信号が生成されると、その後、処理はステップS87へと進む。
【0157】
これに対して、ステップS85において、優先度情報が閾値P未満であると判定された場合、出力選択部194は、MDCT係数を0として0値出力部195に供給する。
【0158】
0値出力部195は、出力選択部194から供給された0であるMDCT係数から、処理対象のチャネルのオーディオ信号を生成し、ミキシング部163に供給する。したがって、0値出力部195では、実質的にはIMDCTなどのオーディオ信号を生成するための処理は何も行われない。
【0159】
なお、0値出力部195により生成されるオーディオ信号は無音信号である。オーディオ信号が生成されると、その後、処理はステップS87へと進む。
【0160】
ステップS85において優先度情報が閾値P未満であると判定されたか、またはステップS86においてオーディオ信号が生成されると、ステップS87において、チャネルオーディオ信号取得部192は、保持しているチャネル番号に1を加え、処理対象のチャネルのチャネル番号を更新する。
【0161】
チャネル番号が更新されると、その後、処理はステップS83に戻り、上述した処理が繰り返し行われる。すなわち、新たな処理対象のチャネルのオーディオ信号が生成される。
【0162】
また、ステップS83において、処理対象のチャネルのチャネル番号がM未満ではないと判定された場合、全てのチャネルについてオーディオ信号が得られたので、処理はステップS88へと進む。
【0163】
ステップS88において、オブジェクトオーディオ信号取得部197は、処理対象とするオブジェクトのオブジェクト番号に0を設定し、保持する。
【0164】
ステップS89において、オブジェクトオーディオ信号取得部197は、保持しているオブジェクト番号がオブジェクト数N未満であるか否かを判定する。
【0165】
ステップS89において、オブジェクト番号がN未満であると判定された場合、ステップS90において、オブジェクトオーディオ信号復号部198は、処理対象のオブジェクトのオーディオ信号の符号化データを復号する。
【0166】
すなわち、オブジェクトオーディオ信号取得部197は、優先度情報取得部191から供給されたビットストリームから、処理対象のオブジェクトの符号化データを取得してオブジェクトオーディオ信号復号部198に供給する。
【0167】
すると、オブジェクトオーディオ信号復号部198は、オブジェクトオーディオ信号取得部197から供給された符号化データを復号し、その結果得られたMDCT係数を出力選択部199に供給する。
【0168】
ステップS91において、出力選択部199は、優先度情報取得部191から供給された処理対象のオブジェクトの優先度情報が、図示せぬ上位の制御装置等により指定された閾値Q以上であるか否かを判定する。ここで閾値Qは、例えば復号装置151の計算能力等に応じて定められる。
【0169】
ステップS91において、優先度情報が閾値Q以上であると判定された場合、出力選択部199は、オブジェクトオーディオ信号復号部198から供給された、処理対象のオブジェクトのMDCT係数をIMDCT部201に供給し、処理はステップS92に進む。
【0170】
ステップS92において、IMDCT部201は、出力選択部199から供給されたMDCT係数に基づいてIMDCTを行って、処理対象のオブジェクトのオーディオ信号を生成し、レンダリング部162に供給する。オーディオ信号が生成されると、その後、処理はステップS93へと進む。
【0171】
これに対して、ステップS91において、優先度情報が閾値Q未満であると判定された場合、出力選択部199は、MDCT係数を0として0値出力部200に供給する。
【0172】
0値出力部200は、出力選択部199から供給された0であるMDCT係数から、処理対象のオブジェクトのオーディオ信号を生成し、レンダリング部162に供給する。したがって、0値出力部200では、実質的にはIMDCTなどのオーディオ信号を生成するための処理は何も行われない。
【0173】
なお、0値出力部200により生成されるオーディオ信号は無音信号である。オーディオ信号が生成されると、その後、処理はステップS93へと進む。
【0174】
ステップS91において優先度情報が閾値Q未満であると判定されたか、またはステップS92においてオーディオ信号が生成されると、ステップS93において、オブジェクトオーディオ信号取得部197は、保持しているオブジェクト番号に1を加え、処理対象のオブジェクトのオブジェクト番号を更新する。
【0175】
オブジェクト番号が更新されると、その後、処理はステップS89に戻り、上述した処理が繰り返し行われる。すなわち、新たな処理対象のオブジェクトのオーディオ信号が生成される。
【0176】
また、ステップS89において、処理対象のオブジェクトのオブジェクト番号がN未満ではないと判定された場合、全てのチャネルおよびオブジェクトについてオーディオ信号が得られたので選択復号処理は終了し、その後、処理は図11のステップS53に進む。
【0177】
以上のようにして、復号装置151は、各チャネルまたは各オブジェクトについて、優先度情報と閾値とを比較して、処理対象のフレームのチャネルやオブジェクトごとに符号化されたオーディオ信号の復号を行うか否かを判定しながら、符号化されたオーディオ信号を復号する。
【0178】
すなわち、復号装置151では、各オーディオ信号の優先度情報に応じた所定の数だけ、符号化されたオーディオ信号が復号され、残りのオーディオ信号は復号されない。
【0179】
これにより、再生環境に合わせて優先度合いの高いオーディオ信号のみを選択的に復号することができ、オーディオ信号により再生される音声の音質の劣化を最小限に抑えつつ、復号の計算量を低減させることができる。
【0180】
しかも、各オブジェクトのオーディオ信号の優先度情報に基づいて、符号化されたオーディオ信号の復号を行うことで、オーディオ信号の復号の計算量だけでなく、レンダリング部162等における処理など、その後の処理の計算量も低減させることができる。
【0181】
〈第1の実施の形態の変形例1〉
〈優先度情報について〉
なお、以上においては各チャネルや各オブジェクトの1つのオーディオ信号に対して、1つの優先度情報が生成されると説明したが、複数の優先度情報が生成されるようにしてもよい。
【0182】
そのような場合、例えば複数の各優先度情報は復号の計算量、すなわち復号側の計算能力に応じて、計算能力ごとに生成される。
【0183】
具体的には、例えば2チャネル相当のオーディオ信号をリアルタイムに復号するための計算量に基づいて、2チャネル相当の計算能力を有する機器のための優先度情報が生成される。
【0184】
このような2チャネル相当の機器のための優先度情報では、例えば全オーディオ信号のうち、より優先度合いが低い、つまり0に近い値が優先度情報として割り当てられるオーディオ信号が多くなるように優先度情報が生成される。
【0185】
また、例えば24チャネル相当のオーディオ信号をリアルタイムに復号するための計算量に基づいて、24チャネル相当の計算能力を有する機器のための優先度情報も生成される。24チャネル相当の機器のための優先度情報では、例えば全オーディオ信号のうち、より優先度合いが高い、つまり7に近い値が優先度情報として割り当てられるオーディオ信号が多くなるように優先度情報が生成される。
【0186】
この場合、例えば優先度情報生成部52は、図8のステップS11において、各チャネルのオーディオ信号に対して2チャネル相当の機器のための優先度情報を生成するとともに、それらの優先度情報に2チャネル相当の機器のためのものであることを示す識別子を付加し、パッキング部24に供給する。
【0187】
さらに、優先度情報生成部52は、ステップS11において、各チャネルのオーディオ信号に対して24チャネル相当の機器のための優先度情報も生成するとともに、それらの優先度情報に24チャネル相当の機器のためのものであることを示す識別子を付加し、パッキング部24に供給する。
【0188】
同様に、優先度情報生成部92も図8のステップS13において、2チャネル相当の機器のための優先度情報と、24チャネル相当の機器のための優先度情報とを生成して識別子を付加し、パッキング部24に供給する。
【0189】
これにより、例えばポータブルオーディオプレーヤや、多機能型携帯電話機、タブレット型コンピュータ、テレビジョン受像機、パーソナルコンピュータ、高品位な音響機器などの再生機器の計算能力に応じた優先度情報が複数得られることになる。
【0190】
例えばポータブルオーディオプレーヤなどの再生機器は、比較的計算能力が低いので、そのような再生機器では、2チャネル相当の機器のための優先度情報に基づいて符号化されたオーディオ信号を復号すれば、リアルタイムでオーディオ信号の再生を行うことができる。
【0191】
以上のように、1つのオーディオ信号に対して複数の優先度情報が生成される場合、復号装置151では、例えば上位の制御装置により、複数の優先度情報のうちのどの優先度情報を用いて復号を行うかが優先度情報取得部191等に対して指示がされる。どの優先度情報を用いるかの指示は、例えば識別子が供給されることにより行われる。
【0192】
なお、どの識別子の優先度情報を用いるかが、復号装置151ごとに予め定められているようにしてもよい。
【0193】
例えば優先度情報取得部191において、予めどの識別子の優先度情報を用いるかが定められた場合、または上位の制御装置により識別子が指定された場合、図12のステップS81では、優先度情報取得部191は、定められた識別子が付加されている優先度情報を取得する。そして、取得された優先度情報が優先度情報取得部191から、出力選択部194や出力選択部199に供給される。
【0194】
換言すれば、ビットストリームに格納されている複数の優先度情報のなかから、復号装置151、より詳細にはアンパッキング/復号部161の計算能力等に応じて適切な優先度情報が1つ選択される。
【0195】
この場合、各チャネルの優先度情報と、各オブジェクトの優先度情報とで異なる識別子が利用されてビットストリームから優先度情報が読み出されてもよい。
【0196】
このように、ビットストリームに含まれている複数の優先度情報のなかから、特定の優先度情報を選択して取得することにより、復号装置151の計算能力等に応じて適切な優先度情報を選択し、復号を行うことができる。これにより、何れの復号装置151においてもリアルタイムでオーディオ信号を再生することができるようになる。
【0197】
〈第2の実施の形態〉
〈アンパッキング/復号部の構成例〉
なお、以上においては、符号化装置11から出力されるビットストリームに優先度情報が含まれている例について説明したが、符号化装置によっては、ビットストリームに優先度情報が含まれていないこともあり得る。
【0198】
そこで、復号装置151において優先度情報を生成するようにしてもよい。例えば、ビットストリームに含まれているオーディオ信号の符号化データから抽出できる、オーディオ信号の音圧を示す情報やスペクトル形状を示す情報を用いて優先度情報を生成することが可能である。
【0199】
このように、復号装置151において優先度情報を生成する場合、復号装置151のアンパッキング/復号部161は、例えば図13に示すように構成される。なお、図13において、図10における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
【0200】
図13に示すアンパッキング/復号部161は、チャネルオーディオ信号取得部192、チャネルオーディオ信号復号部193、出力選択部194、0値出力部195、IMDCT部196、オブジェクトオーディオ信号取得部197、オブジェクトオーディオ信号復号部198、出力選択部199、0値出力部200、IMDCT部201、優先度情報生成部231、および優先度情報生成部232を有している。
【0201】
図13に示すアンパッキング/復号部161の構成は、優先度情報取得部191が設けられておらず、新たに優先度情報生成部231、および優先度情報生成部232が設けられている点で図10のアンパッキング/復号部161と異なり、他の構成は図10のアンパッキング/復号部161と同じとなっている。
【0202】
チャネルオーディオ信号取得部192は、供給されたビットストリームから各チャネルの符号化データを取得して、チャネルオーディオ信号復号部193および優先度情報生成部231に供給する。
【0203】
優先度情報生成部231は、チャネルオーディオ信号取得部192から供給された各チャネルの符号化データに基づいて、各チャネルの優先度情報を生成し、出力選択部194に供給する。
【0204】
オブジェクトオーディオ信号取得部197は、供給されたビットストリームから各オブジェクトの符号化データを取得して、オブジェクトオーディオ信号復号部198および優先度情報生成部232に供給する。また、オブジェクトオーディオ信号取得部197は、供給されたビットストリームから各オブジェクトのメタデータを取得して、レンダリング部162に供給する。
【0205】
優先度情報生成部232は、オブジェクトオーディオ信号取得部197から供給された各オブジェクトの符号化データに基づいて、各オブジェクトの優先度情報を生成し、出力選択部199に供給する。
【0206】
〈選択復号処理の説明〉
アンパッキング/復号部161が図13に示した構成とされる場合、復号装置151は、図11に示した復号処理のステップS52に対応する処理として、図14に示す選択復号処理を行う。以下、図14のフローチャートを参照して、復号装置151による選択復号処理について説明する。
【0207】
ステップS131において、優先度情報生成部231は各チャネルのオーディオ信号の優先度情報を生成する。
【0208】
例えばチャネルオーディオ信号取得部192は、供給されたビットストリームから各チャネルの符号化データを取得して、チャネルオーディオ信号復号部193および優先度情報生成部231に供給する。
【0209】
優先度情報生成部231は、チャネルオーディオ信号取得部192から供給された各チャネルの符号化データに基づいて各チャネルの優先度情報を生成し、出力選択部194に供給する。
【0210】
例えばビットストリームには、オーディオ信号の符号化データとして、MDCT係数を得るためのスケールファクタ、サイド情報、および量子化スペクトルが含まれている。ここで、スケールファクタはオーディオ信号の音圧を示す情報であり、量子化スペクトルはオーディオ信号のスペクトル形状を示す情報である。
【0211】
優先度情報生成部231は、各チャネルの符号化データとして含まれているスケールファクタや量子化スペクトルに基づいて、各チャネルのオーディオ信号の優先度情報を生成する。このように、スケールファクタや量子化スペクトルを用いて優先度情報を生成すれば、符号化データの復号を行う前に、直ちに優先度情報を得ることができ、優先度情報の生成のための計算量も低減させることができる。
【0212】
なお、優先度情報は、その他、MDCT係数の自乗平均値を計算することで得られる、オーディオ信号の音圧や、MDCT係数のピーク包絡から得られるオーディオ信号のスペクトル形状に基づいて生成されるようにしてもよい。この場合、優先度情報生成部231は、適宜、符号化データの復号を行ったり、チャネルオーディオ信号復号部193からMDCT係数を取得したりする。
【0213】
各チャネルの優先度情報が得られると、その後、ステップS132乃至ステップS137の処理が行われるが、これらの処理は図12のステップS82乃至ステップS87の処理と同様であるので、その説明は省略する。但し、この場合、すでに各チャネルの符号化データは取得されているので、ステップS134では符号化データの復号のみが行われる。
【0214】
また、ステップS133において、チャネル番号がM未満でないと判定されると、ステップS138において、優先度情報生成部232は各オブジェクトのオーディオ信号の優先度情報を生成する。
【0215】
例えばオブジェクトオーディオ信号取得部197は、供給されたビットストリームから各オブジェクトの符号化データを取得して、オブジェクトオーディオ信号復号部198および優先度情報生成部232に供給する。また、オブジェクトオーディオ信号取得部197は、供給されたビットストリームから各オブジェクトのメタデータを取得して、レンダリング部162に供給する。
【0216】
優先度情報生成部232は、オブジェクトオーディオ信号取得部197から供給された各オブジェクトの符号化データに基づいて各オブジェクトの優先度情報を生成し、出力選択部199に供給する。例えば優先度情報は、各チャネルにおける場合と同様に、スケールファクタや量子化スペクトルに基づいて生成される。
【0217】
また、MDCT係数から得られる音圧やスペクトル形状に基づいて優先度情報が生成されてもよい。この場合、優先度情報生成部232は、適宜、符号化データの復号を行ったり、オブジェクトオーディオ信号復号部198からMDCT係数を取得したりする。
【0218】
各オブジェクトの優先度情報が得られると、その後、ステップS139乃至ステップS144の処理が行われて選択復号処理は終了するが、これらの処理は図12のステップS88乃至ステップS93の処理と同様であるので、その説明は省略する。但し、この場合、すでに各オブジェクトの符号化データは取得されているので、ステップS141では符号化データの復号のみが行われる。
【0219】
選択復号処理が終了すると、その後、処理は図11のステップS53へと進む。
【0220】
以上のようにして、復号装置151は、ビットストリームに含まれている符号化データに基づいて、各チャネルや各オブジェクトのオーディオ信号の優先度情報を生成する。このように復号装置151において優先度情報を生成することで、各オーディオ信号について適切な優先度情報を少ない計算量で得ることができ、復号の計算量やレンダリング等の計算量を低減させることができる。また、オーディオ信号により再生される音声の音質の劣化を最小限に抑えることもできる。
【0221】
なお、図10に示したアンパッキング/復号部161の優先度情報取得部191が、供給されたビットストリームから、各チャネルおよび各オブジェクトのオーディオ信号の優先度情報を取得しようとしたが、ビットストリームから優先度情報が取得できなかった場合に、優先度情報が生成されるようにしてもよい。そのような場合、優先度情報取得部191は、優先度情報生成部231や優先度情報生成部232と同様の処理を行い、符号化データから各チャネルおよび各オブジェクトのオーディオ信号の優先度情報を生成する。
【0222】
〈第3の実施の形態〉
〈優先度情報の閾値について〉
さらに、以上においては、各チャネルや各オブジェクトについて、優先度情報と、閾値Pや閾値Qとを比較して復号するオーディオ信号、より詳細にはIMDCTを行うMDCT係数を選択すると説明したが、これらの閾値Pや閾値Qがオーディオ信号のフレームごとに動的に変更されるようにしてもよい。
【0223】
例えば図10に示したアンパッキング/復号部161の優先度情報取得部191では、復号を必要とせずに、ビットストリームから各チャネルおよび各オブジェクトの優先度情報を取得することができる。
【0224】
したがって、例えば優先度情報取得部191が全チャネルのオーディオ信号の優先度情報を読み出せば、処理対象となっているフレームにおける優先度情報の分布を得ることができる。また、復号装置151では、例えば何チャネルまでなら同時に、つまりリアルタイムで処理できるかなど、予め自分自身の計算能力が分かっている。
【0225】
そこで、優先度情報取得部191が処理対象のフレームにおける優先度情報の分布と、復号装置151の計算能力とに基づいて、その処理対象のフレームについての優先度情報の閾値Pを定めるようにしてもよい。
【0226】
例えば閾値Pは、復号装置151がリアルタイムで処理を行うことのできる範囲内で最も多くのオーディオ信号が復号されるように定められる。
【0227】
また、優先度情報取得部191は、閾値Pにおける場合と同様に閾値Qを動的に定めることができる。この場合、優先度情報取得部191は全オブジェクトのオーディオ信号の優先度情報に基づいて、それらの優先度情報の分布を求め、求めた分布と、復号装置151の計算能力とに基づいて、処理対象のフレームについての優先度情報の閾値Qを定める。
【0228】
このような閾値Pや閾値Qの決定は、比較的少ない計算量で行うことができる。
【0229】
このように優先度情報の閾値を動的に変化させることで、リアルタイムで復号を行いつつ、オーディオ信号により再生される音声の音質の劣化を最小限に抑えることができる。特にこのような場合、優先度情報を複数用意する必要がなく、また優先度情報に識別子を設ける必要もないので、ビットストリームの符号量も少なくてすむ。
【0230】
〈オブジェクトのメタデータについて〉
さらに、以上において説明した第1の実施の形態乃至第3の実施の形態では、ビットストリームの先頭のエレメントには、1フレーム分のオブジェクトのメタデータや優先度情報などが格納されると説明した。
【0231】
この場合、ビットストリームの先頭のエレメントにおける、オブジェクトのメタデータおよび優先度情報が格納される部分のシンタックスは、例えば図15に示すようになる。
【0232】
図15に示す例では、オブジェクトのメタデータのなかに、オブジェクトの空間位置情報と優先度情報が1フレーム分だけ格納されている。
【0233】
この例では「num_objects」はオブジェクトの数を示している。また、「object_priority[o]」はO番目のオブジェクトの優先度情報を示している。ここで、O番目のオブジェクトとは、オブジェクト番号により特定されるオブジェクトである。
【0234】
「position_azimuth[o]」は、視聴者であるユーザからみた、つまり所定の基準位置からみたO番目のオブジェクトの3次元空間位置を表す水平方向角度を示している。また、「position_elevation[o]」は、視聴者であるユーザからみたO番目のオブジェクトの3次元空間位置を表す垂直方向角度を示している。さらに「position_radius[o]」は、視聴者からO番目のオブジェクトまでの距離を示している。
【0235】
したがって、3次元空間におけるオブジェクトの位置は、これらの「position_azimuth[o]」、「position_elevation[o]」、および「position_radius[o]」から特定されることになり、これらの情報がオブジェクトの空間位置情報とされる。
【0236】
また、「gain_factor[o]」はO番目のオブジェクトの利得を示している。
【0237】
このように、図15に示すメタデータには、1つのオブジェクトについての「object_priority[o]」、「position_azimuth[o]」、「position_elevation[o]」、「position_radius[o]」、および「gain_factor[o]」が、そのオブジェクトのデータとして順番に配置されている。そして、メタデータ内には、各オブジェクトのデータが、例えばオブジェクトのオブジェクト番号順に並べられて配置されている。
【0238】
〈第4の実施の形態〉
〈オーディオ信号の完全再構成と不連続性に起因するノイズについて〉
以上においては、復号装置151においてビットストリームから読み出されたチャネルまたはオブジェクトごとの各フレーム(以下では、特に時間フレームと称する)の優先度情報が、予め定められた閾値未満である場合にIMDCT等の復号処理を省くことで、復号時の処理量を削減する例について説明した。具体的には、優先度情報が閾値未満である場合には、0値出力部195や0値出力部200から無音のオーディオ信号を出力する、つまりオーディオ信号として0データを出力すると説明した。
【0239】
ところが、そのような場合、聴感上の音質劣化が生じてしまう。具体的には、オーディオ信号の完全再構成に起因する音質劣化と、グリッチノイズ等の信号の不連続性に起因するノイズの発生による音質劣化が生じる。
【0240】
(完全再構成に起因する音質劣化)
例えば、優先度情報が閾値未満である場合にオーディオ信号として0データを出力すると、0データの出力と、0データではない通常のオーディオ信号の出力との切り替え時に音質劣化が生じる。
【0241】
上述したようにアンパッキング/復号部161では、IMDCT部196やIMDCT部201において、ビットストリームから読み出された時間フレームごとのMDCT係数に対してIMDCTが行われる。そして、より詳細にはアンパッキング/復号部161では、現時間フレームについてのIMDCTの結果または0データと、1時間フレーム前のIMDCTの結果または0データとから、現時間フレームのオーディオ信号が生成される。
【0242】
ここで、オーディオ信号の生成について、図16を参照して説明する。なお、ここでは、オブジェクトのオーディオ信号の生成を例として説明するが、各チャネルのオーディオ信号の生成についても同様である。また、以下では、0値出力部200から出力されるオーディオ信号、およびIMDCT部201から出力されるオーディオ信号を、特にIMDCT信号とも称することとする。同様に、0値出力部195から出力されるオーディオ信号、およびIMDCT部196から出力されるオーディオ信号を、特にIMDCT信号とも称することとする。
【0243】
図16では、図中、横方向は時間を示しており、文字「data[n-1]」乃至「data[n+2]」が記された長方形は、それぞれ所定のオブジェクトの時間フレーム(n-1)乃至時間フレーム(n+2)のビットストリームを表している。また、各時間フレームのビットストリーム内の数値は、その時間フレームのオブジェクトの優先度情報の値を示しており、この例では各時間フレームの優先度情報の値は「7」となっている。
【0244】
さらに、図16において文字「MDCT_coef[q]」(但し、q=n-1,n,…)が記された長方形は、それぞれ時間フレーム(q)のMDCT係数を表している。
【0245】
いま、閾値Q=4であるとすると、時間フレーム(n-1)の優先度情報の値「7」は閾値Q以上であるので、時間フレーム(n-1)についてのMDCT係数に対してIMDCTが行われる。同様に、時間フレーム(n)の優先度情報の値「7」も閾値Q以上であるので、時間フレーム(n)についてのMDCT係数に対してIMDCTが行われる。
【0246】
その結果、時間フレーム(n-1)のIMDCT信号OPS11と、時間フレーム(n)のIMDCT信号OPS12が得られたとする。
【0247】
この場合、アンパッキング/復号部161は、時間フレーム(n)のIMDCT信号OPS12の前半部分と、1時間フレーム前の時間フレーム(n-1)のIMDCT信号OPS11の後半部分とを足し合わせて、時間フレーム(n)のオーディオ信号、つまり期間FL(n)のオーディオ信号とする。換言すれば、IMDCT信号OPS11の期間FL(n)の部分と、IMDCT信号OPS12の期間FL(n)の部分とがオーバーラップ加算されて、処理対象のオブジェクトの符号化前の時間フレーム(n)のオーディオ信号が再現される。
【0248】
このような処理は、IMDCT信号がMDCT前の信号に完全再構成されるために必要な処理である。
【0249】
しかしながら、上述したアンパッキング/復号部161では、例えば図17に示すように、各時間フレームの優先度情報に応じて、IMDCT部201のIMDCT信号と0値出力部200のIMDCT信号を切り替えるタイミングにおいて、IMDCT信号がMDCT前の信号に完全再構成されなくなる。つまり、オーバーラップ加算時にもとの信号ではなく0データが用いられると、完全再構成されないため、もとのオーディオ信号を再現することができず、オーディオ信号の聴感上の音質が劣化してしまう。
【0250】
なお、図17において、図16における場合と対応する部分には同一の文字等を記してあり、その説明は省略する。
【0251】
図17の例では、時間フレーム(n-1)の優先度情報の値は「7」であるが、他の時間フレーム(n)乃至時間フレーム(n+2)の優先度情報は最も低い「0」となっている。
【0252】
したがって、閾値Q=4であるとすると、時間フレーム(n-1)については、IMDCT部201においてMDCT係数に対するIMDCTが行われ、時間フレーム(n-1)のIMDCT信号OPS21が得られる。これに対して、時間フレーム(n)については、MDCT係数に対するIMDCTが行われず、0値出力部200から出力される0データが時間フレーム(n)のIMDCT信号OPS22とされる。
【0253】
この場合、時間フレーム(n)のIMDCT信号OPS22である0データの前半部分と、その1時間フレーム前の時間フレーム(n-1)のIMDCT信号OPS21の後半部分とが足し合わされて、最終的な時間フレーム(n)のオーディオ信号とされる。すなわち、IMDCT信号OPS22とIMDCT信号OPS21の期間FL(n)の部分がオーバーラップ加算されて、処理対象のオブジェクトの最終的な時間フレーム(n)のオーディオ信号とされる。
【0254】
このようにIMDCT信号の出力元がIMDCT部201から0値出力部200へと、または0値出力部200からIMDCT部201へと切り替わるときには、IMDCT部201からのIMDCT信号が完全再構成されなくなり、聴感上の音質の劣化が生じてしまう。
【0255】
(不連続性に起因するノイズの発生による音質劣化)
また、IMDCT信号の出力元がIMDCT部201から0値出力部200へと、または0値出力部200からIMDCT部201へと切り替わる場合、信号が完全再構成されないので、IMDCTにより得られたIMDCT信号と、0データとされたIMDCT信号との接続部分で信号が不連続となることがある。そうすると、その不連続な接続部分にグリッチノイズが発生し、オーディオ信号の聴感上の音質が劣化してしまう。
【0256】
さらに、アンパッキング/復号部161において音質を向上させるために、IMDCT部201や0値出力部200から出力されたIMDCT信号をオーバーラップ加算して得られたオーディオ信号に対して、SBR(Spectral Band Replication)等の処理が行われることがある。
【0257】
なお、IMDCT部201や0値出力部200の後段の処理として様々な処理が考えられるが、以下ではSBRを例として説明を続ける。
【0258】
SBRでは、低域成分である、オーバーラップ加算により得られたオーディオ信号と、ビットストリームに格納されている高域のパワー値とから、符号化前のもとのオーディオ信号の高域成分が生成される。
【0259】
具体的には、1時間フレーム分のオーディオ信号が、タイムスロットと呼ばれるいくつかの区間に分割され、各タイムスロットのオーディオ信号が低域の複数のサブバンドの信号(以下、低域サブバンド信号とも称する)に帯域分割される。
【0260】
そして各サブバンドの低域サブバンド信号と、高域側のサブバンドごとのパワー値とに基づいて、高域の各サブバンドの信号(以下、高域サブバンド信号とも称する)が生成される。例えば、所定のサブバンドの低域サブバンド信号を高域の目的とするサブバンドのパワー値によりパワー調整したり、周波数シフトしたりすることで、目的とする高域サブバンド信号が生成される。
【0261】
さらに、高域サブバンド信号と低域サブバンド信号が合成されて、高域成分を含むオーディオ信号が生成され、タイムスロットごとに生成された高域成分を含むオーディオ信号が結合されて、高域成分を含む1時間フレームのオーディオ信号とされる。
【0262】
IMDCT部201や0値出力部200の後段において、このようなSBRが行われる場合、IMDCT部201から出力されたIMDCT信号からなるオーディオ信号については、SBRにより高域成分が生成される。ところが、0値出力部200から出力されたIMDCT信号は0データであるため、0値出力部200から出力されたIMDCT信号からなるオーディオ信号については、SBRにより得られる高域成分も0データとなってしまう。
【0263】
そうすると、IMDCT信号の出力元がIMDCT部201から0値出力部200へと、または0値出力部200からIMDCT部201へと切り替わるときに、高域においても接続部分が不連続となってしまうことがある。そのような場合、グリッチノイズが発生し、聴感上の音質が劣化してしまう。
【0264】
そこで、本技術では前後の時間フレームを考慮したMDCT係数の出力先の選択、およびオーディオ信号に対するフェードイン処理とフェードアウト処理を行うことにより、上述した聴感上の音質劣化を抑制し、音質を向上させるようにした。
【0265】
〈前後の時間フレームを考慮したMDCT係数の出力先の選択について〉
まず、前後の時間フレームを考慮したMDCT係数の出力先の選択について説明する。なお、ここでもオブジェクトのオーディオ信号を例として説明するが、各チャネルのオーディオ信号についても同様である。また、以下において説明する処理は、オブジェクトごと、およびチャネルごとに行われる。
【0266】
例えば、上述した実施の形態では、出力選択部199は、現時間フレームの優先度情報に基づいて、各オブジェクトのMDCT係数の出力先を選択的に切り替えると説明した。これに対して、本実施の形態では、出力選択部199は、現時間フレーム、現時間フレームの1つ前の時間フレーム、および現時間フレームの1つ後の時間フレームの時間的に連続する3つの時間フレームの優先度情報に基づいて、MDCT係数の出力先を切り替える。換言すれば、連続する3つの時間フレームの優先度情報に基づいて、符号化データの復号を行うか否かが選択される。
【0267】
具体的には、出力選択部199は、処理対象のオブジェクトについて、次式(1)に示す条件式が満たされる場合、そのオブジェクトの時間フレーム(n)のMDCT係数をIMDCT部201に供給する。
【0268】
【数1】
【0269】
式(1)において、object_priority[q](但し、q=n-1,n,n+1)は各時間フレーム(q)の優先度情報を示しており、threは閾値Qを示している。
【0270】
したがって、現時間フレームと、現時間フレームの前後の時間フレームとの合計3つの連続する時間フレームにおいて、1つでも優先度情報が閾値Q以上となる時間フレームがある場合、MDCT係数の供給先としてIMDCT部201が選択される。この場合、符号化データの復号、より詳細にはMDCT係数に対するIMDCTが行われる。これに対して、それらの3つの時間フレームの優先度情報が全て閾値Q未満である場合、MDCT係数が0とされて0値出力部200に出力される。この場合、符号化データの復号、より詳細にはMDCT係数に対するIMDCTは実質的に行われない。
【0271】
これにより、図18に示すようにIMDCT信号からオーディオ信号が完全再構成され、聴感上の音質の劣化が抑制される。なお、図18において、図16における場合と対応する部分には同一の文字等を記してあり、その説明は省略する。
【0272】
図18の上側に示す例では、各時間フレームの優先度情報の値が図17に示した例と同じとなっている。例えば閾値Q=4であるとすると、図中、上側に示す例では時間フレーム(n-1)の優先度情報は閾値Q以上であるが、時間フレーム(n)乃至時間フレーム(n+2)では、優先度情報が閾値Q未満となっている。
【0273】
そのため、式(1)に示した条件式から、時間フレーム(n-1)と時間フレーム(n)のMDCT係数に対してIMDCTが行われ、それぞれIMDCT信号OPS31とIMDCT信号OPS32が得られる。これに対して、条件式が満たされない時間フレーム(n+1)では、MDCT係数に対するIMDCTが行われず、0データがIMDCT信号OPS33とされる。
【0274】
したがって、図17の例では完全再構成されなかった時間フレーム(n)のオーディオ信号が、図18の上側に示す例では完全再構成されるようになり、聴感上の音質の劣化が抑制される。但し、この例では、その次の時間フレーム(n+1)でオーディオ信号が完全再構成されないため、時間フレーム(n)と時間フレーム(n+1)で後述するフェードアウト処理が行われ、聴感上の音質の劣化が抑制される。
【0275】
また、図中、下側に示す例では、時間フレーム(n-1)乃至時間フレーム(n+1)で優先度情報が閾値Q未満となっており、時間フレーム(n+2)で優先度情報は閾値Q以上となっている。
【0276】
そのため、式(1)に示した条件式から、条件式が満たされない時間フレーム(n)ではMDCT係数に対するIMDCTが行われず、0データがIMDCT信号OPS41とされる。これに対して、時間フレーム(n+1)および時間フレーム(n+2)のMDCT係数に対してIMDCTが行われ、それぞれIMDCT信号OPS42とIMDCT信号OPS43が得られる。
【0277】
この例では、優先度情報が閾値Q未満の値から閾値Q以上の値へと切り替わった時間フレーム(n+2)で、オーディオ信号を完全再構成することができるため、聴感上の音質の劣化を抑制することができる。但し、この場合においても、その直前の時間フレーム(n+1)でオーディオ信号が完全再構成されないため、時間フレーム(n+1)と時間フレーム(n+2)で後述するフェードイン処理が行われ、聴感上の音質の劣化が抑制される。
【0278】
なお、ここでは、1時間フレーム分だけ優先度情報の先読みを行って、連続する3時間フレームの優先度情報からMDCT係数の出力先が選択されている。そのため、図中、上側で示した例の時間フレーム(n)と時間フレーム(n+1)でフェードアウト処理が行われ、図中、下側で示した例の時間フレーム(n+1)と時間フレーム(n+2)でフェードイン処理が行われる。
【0279】
しかし、2時間フレーム分の優先度情報の先読みを行うことができる場合には、図中、上側で示した例の時間フレーム(n+1)と時間フレーム(n+2)でフェードアウト処理が行われ、図中、下側で示した例の時間フレーム(n)と時間フレーム(n+1)でフェードイン処理が行われるようにしてもよい。
【0280】
〈フェードイン処理とフェードアウト処理について〉
次に、オーディオ信号に対するフェードイン処理とフェードアウト処理について説明する。なお、ここでもオブジェクトのオーディオ信号を例として説明するが、各チャネルのオーディオ信号についても同様である。また、フェードイン処理とフェードアウト処理は、オブジェクトごと、およびチャネルごとに行われる。
【0281】
本技術では、例えば図18に示した例のように、IMDCTにより得られたIMDCT信号と0データであるIMDCT信号とがオーバーラップ加算される時間フレームとその前または後の時間フレームにおいて、フェードイン処理またはフェードアウト処理が行われる。
【0282】
フェードイン処理では、その時間フレームのオーディオ信号の振幅(大きさ)が時間とともに大きくなるように、オーディオ信号に対するゲイン調整が行われる。逆にフェードアウト処理では、その時間フレームのオーディオ信号の振幅が時間とともに小さくなるように、オーディオ信号に対するゲイン調整が行われる。
【0283】
これにより、IMDCTにより得られたIMDCT信号と、0データとされたIMDCT信号との接続部分が不連続となる場合でも聴感上の音質の劣化を抑制することができる。なお、以下、このようなゲイン調整時にオーディオ信号に対して乗算されるゲイン値を、特にフェーディング信号ゲインとも称することとする。
【0284】
さらに、本技術では、IMDCTにより得られたIMDCT信号と0データであるIMDCT信号との接続部分について、SBRにおいてもフェードイン処理またはフェードアウト処理が行われる。
【0285】
すなわち、SBRではタイムスロットごとに高域の各サブバンドのパワー値が用いられるが、本技術では、フェードイン処理用またはフェードアウト処理用にタイムスロットごとに定められたゲイン値が、高域の各サブバンドのパワー値に乗算されてSBRが行われる。つまり、高域のパワー値のゲイン調整が行われる。
【0286】
なお、以下、高域のパワー値に乗算される、タイムスロットごとに定められたゲイン値を、特にフェーディングSBRゲインとも称することとする。
【0287】
具体的には、フェードイン処理用のフェーディングSBRゲインは、そのゲイン値が時間とともに大きくなるように、つまり時間的に後方のタイムスロットのフェーディングSBRゲインほど、その値が大きくなるように定められている。逆に、フェードアウト処理用のフェーディングSBRゲインは、時間的に後方のタイムスロットのフェーディングSBRゲインほど、その値が小さくなるように定められている。
【0288】
このように、SBR時にもフェードイン処理やフェードアウト処理を行うことで、高域が不連続となるときでも聴感上の音質の劣化を抑制することができる。
【0289】
このようなオーディオ信号および高域のパワー値に対するフェードイン処理やフェードアウト処理といったゲイン調整として、具体的には、例えば図19図20に示す処理が行われることになる。なお、図19および図20において、図18における場合と対応する部分には同一の文字や符号等を記してあり、その説明は省略する。
【0290】
図19に示す例は、図18における図中、上側に示した場合の例である。この例では、時間フレーム(n)および時間フレーム(n+1)のオーディオ信号に対して、折れ線GN11に示されるフェーディング信号ゲインが乗算されることになる。
【0291】
折れ線GN11に示されるフェーディング信号ゲインの値は、時間フレーム(n)の部分では時間とともに「1」から「0」まで線形に変化し、時間フレーム(n+1)の部分では継続して「0」となっている。したがって、フェーディング信号ゲインによるオーディオ信号のゲイン調整によって、オーディオ信号は徐々に0データへと変化していくので、聴感上の音質の劣化を抑制することができる。
【0292】
また、この例では時間フレーム(n)の各タイムスロットの高域のパワー値に対して、矢印GN12に示されるフェーディングSBRゲインが乗算されることになる。
【0293】
矢印GN12に示されるフェーディングSBRゲインの値は、時間的に後方のタイムスロットほど小さくなるように、「1」から「0」まで変化している。したがって、フェーディングSBRゲインによる高域のゲイン調整によって、オーディオ信号の高域成分は徐々に0データへと変化していくので、聴感上の音質の劣化を抑制することができる。
【0294】
これに対して、図20に示す例は、図18における図中、下側に示した場合の例である。この例では、時間フレーム(n+1)および時間フレーム(n+2)のオーディオ信号に対して、折れ線GN21に示されるフェーディング信号ゲインが乗算されることになる。
【0295】
折れ線GN21に示されるフェーディング信号ゲインの値は、時間フレーム(n+1)の部分では継続して「0」となっており、時間フレーム(n+2)の部分では時間とともに「0」から「1」まで線形に変化している。したがって、フェーディング信号ゲインによるオーディオ信号のゲイン調整によって、オーディオ信号は徐々に0データから本来の信号へと変化していくので、聴感上の音質の劣化を抑制することができる。
【0296】
また、この例では時間フレーム(n+2)の各タイムスロットの高域のパワー値に対して、矢印GN22に示されるフェーディングSBRゲインが乗算されることになる。
【0297】
矢印GN22に示されるフェーディングSBRゲインの値は、時間的に後方のタイムスロットほど大きくなるように、「0」から「1」まで変化している。したがって、フェーディングSBRゲインによる高域のゲイン調整によって、オーディオ信号の高域成分は徐々に0データから本来の信号へと変化していくので、聴感上の音質の劣化を抑制することができる。
【0298】
〈アンパッキング/復号部の構成例〉
以上において説明したMDCT係数の出力先の選択と、フェードイン処理やフェードアウト処理といったゲイン調整とが行われる場合、アンパッキング/復号部161は、例えば図21に示すように構成される。なお、図21において、図10における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
【0299】
図21に示すアンパッキング/復号部161は優先度情報取得部191、チャネルオーディオ信号取得部192、チャネルオーディオ信号復号部193、出力選択部194、0値出力部195、IMDCT部196、オーバーラップ加算部271、ゲイン調整部272、SBR処理部273、オブジェクトオーディオ信号取得部197、オブジェクトオーディオ信号復号部198、出力選択部199、0値出力部200、IMDCT部201、オーバーラップ加算部274、ゲイン調整部275、およびSBR処理部276から構成される。
【0300】
図21に示すアンパッキング/復号部161の構成は、図10に示したアンパッキング/復号部161の構成に、さらにオーバーラップ加算部271乃至SBR処理部276が設けられた構成となっている。
【0301】
オーバーラップ加算部271は、0値出力部195またはIMDCT部196から供給されたIMDCT信号(オーディオ信号)をオーバーラップ加算することにより、各時間フレームのオーディオ信号を生成し、ゲイン調整部272に供給する。
【0302】
ゲイン調整部272は、優先度情報取得部191から供給された優先度情報に基づいて、オーバーラップ加算部271から供給されたオーディオ信号をゲイン調整し、SBR処理部273に供給する。
【0303】
SBR処理部273は、優先度情報取得部191からタイムスロットごとの高域の各サブバンドのパワー値を取得するとともに、優先度情報取得部191から供給された優先度情報に基づいて高域のパワー値をゲイン調整する。また、SBR処理部273は、ゲイン調整された高域のパワー値を用いて、ゲイン調整部272から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をミキシング部163に供給する。
【0304】
オーバーラップ加算部274は、0値出力部200またはIMDCT部201から供給されたIMDCT信号(オーディオ信号)をオーバーラップ加算することにより、各時間フレームのオーディオ信号を生成し、ゲイン調整部275に供給する。
【0305】
ゲイン調整部275は、優先度情報取得部191から供給された優先度情報に基づいて、オーバーラップ加算部274から供給されたオーディオ信号をゲイン調整し、SBR処理部276に供給する。
【0306】
SBR処理部276は、優先度情報取得部191からタイムスロットごとの高域の各サブバンドのパワー値を取得するとともに、優先度情報取得部191から供給された優先度情報に基づいて高域のパワー値をゲイン調整する。また、SBR処理部276は、ゲイン調整された高域のパワー値を用いて、ゲイン調整部275から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をレンダリング部162に供給する。
【0307】
〈選択復号処理の説明〉
続いて、アンパッキング/復号部161が図21に示した構成とされる場合における復号装置151の動作について説明する。この場合、復号装置151は、図11を参照して説明した復号処理を行う。但し、ステップS52の選択復号処理として、図22に示す処理を行う。
【0308】
以下、図22のフローチャートを参照して、図11のステップS52の処理に対応する選択復号処理について説明する。
【0309】
ステップS181において、優先度情報取得部191は、供給されたビットストリームから、各チャネルのオーディオ信号の高域のパワー値を取得してSBR処理部273に供給するとともに、ビットストリームから、各オブジェクトのオーディオ信号の高域のパワー値を取得してSBR処理部276に供給する。
【0310】
高域のパワー値が取得されると、その後ステップS182乃至ステップS187の処理が行われて処理対象のチャネルのオーディオ信号(IMDCT信号)が生成されるが、これらの処理は図12のステップS81乃至ステップS86の処理と同様であるので、その説明は省略する。
【0311】
但し、ステップS186では、上述した式(1)と同様の条件式が満たされる場合、すなわち処理対象のチャネルの現時間フレームの優先度情報、およびその現時間フレームの直前および直後の各時間フレームの優先度情報のうちの1つでも閾値P以上である場合、優先度情報が閾値P以上であると判定される。また、0値出力部195またはIMDCT部196で生成されたIMDCT信号は、オーバーラップ加算部271に出力される。
【0312】
ステップS186において優先度情報が閾値P以上であると判定されなかったか、またはステップS187においてIMDCT信号が生成されると、ステップS188の処理が行われる。
【0313】
ステップS188において、オーバーラップ加算部271は、0値出力部195またはIMDCT部196から供給されたIMDCT信号のオーバーラップ加算を行い、その結果得られた現時間フレームのオーディオ信号をゲイン調整部272に供給する。
【0314】
具体的には、例えば図18を参照して説明したように、現時間フレームのIMDCT信号の前半部分と、直前の時間フレームのIMDCT信号の後半部分とが足し合わされて現時間フレームのオーディオ信号とされる。
【0315】
ステップS189において、ゲイン調整部272は、優先度情報取得部191から供給された処理対象のチャネルの優先度情報に基づいて、オーバーラップ加算部271から供給されたオーディオ信号をゲイン調整し、SBR処理部273に供給する。
【0316】
具体的にはゲイン調整部272は、現時間フレームの直前の時間フレームの優先度情報が閾値P以上であり、かつ現時間フレームの優先度情報と、現時間フレームの直後の時間フレームの優先度情報が閾値P未満である場合、図19の折れ線GN11に示されるフェーディング信号ゲインでオーディオ信号のゲインを調整する。この場合、図19における時間フレーム(n)が現時間フレームに対応し、現時間フレームの直後の時間フレームでは、折れ線GN11に示されるように、フェーディング信号ゲイン=0でのゲイン調整が行われる。
【0317】
また、ゲイン調整部272は、現時間フレームの優先度情報が閾値P以上であり、現時間フレームの直前の2時間フレームの優先度情報がともに閾値P未満である場合、図20の折れ線GN21に示されるフェーディング信号ゲインでオーディオ信号のゲインを調整する。この場合、図20における時間フレーム(n+2)が現時間フレームに対応し、現時間フレームの直前の時間フレームでは、折れ線GN21に示されるように、フェーディング信号ゲイン=0でのゲイン調整が行われる。
【0318】
なお、ゲイン調整部272は、これらの2つの例の場合のみゲイン調整を行い、それ以外の場合にはゲイン調整を行わず、オーディオ信号をそのままSBR処理部273に供給する。
【0319】
ステップS190において、SBR処理部273は、優先度情報取得部191から供給された、処理対象のチャネルの高域のパワー値および優先度情報に基づいて、ゲイン調整部272から供給されたオーディオ信号に対してSBRを行う。
【0320】
具体的には、SBR処理部273は、現時間フレームの直前の時間フレームの優先度情報が閾値P以上であり、かつ現時間フレームの優先度情報と、現時間フレームの直後の時間フレームの優先度情報が閾値P未満である場合、図19の矢印GN12に示されるフェーディングSBRゲインで高域のパワー値をゲイン調整する。すなわち、高域のパワー値にフェーディングSBRゲインが乗算される。
【0321】
そして、SBR処理部273は、ゲイン調整された高域のパワー値を用いてSBRを行い、その結果得られたオーディオ信号をミキシング部163に供給する。この場合、図19における時間フレーム(n)が現時間フレームに対応する。
【0322】
また、SBR処理部273は、現時間フレームの優先度情報が閾値P以上であり、現時間フレームの直前の2時間フレームの優先度情報がともに閾値P未満である場合、図20の矢印GN22に示されるフェーディングSBRゲインで高域のパワー値をゲイン調整する。そして、SBR処理部273は、ゲイン調整された高域のパワー値を用いてSBRを行い、その結果得られたオーディオ信号をミキシング部163に供給する。この場合、図20における時間フレーム(n+2)が現時間フレームに対応する。
【0323】
なお、SBR処理部273は、これらの2つの例の場合のみ高域のパワー値のゲイン調整を行い、それ以外の場合にはゲイン調整を行わずに、取得された高域のパワー値をそのまま用いてSBRを行い、その結果得られたオーディオ信号をミキシング部163に供給する。
【0324】
SBRが行われて現時間フレームのオーディオ信号が得られると、その後、ステップS191乃至ステップS196の処理が行われるが、これらの処理は図12のステップS87乃至ステップS92の処理と同様であるので、その説明は省略する。
【0325】
但し、ステップS195では、上述した式(1)の条件式が満たされる場合、優先度情報が閾値Q以上であると判定される。また、0値出力部200またはIMDCT部201で生成されたIMDCT信号(オーディオ信号)は、オーバーラップ加算部274に出力される。
【0326】
このようにして現時間フレームのIMDCT信号が得られると、ステップS197乃至ステップS199の処理が行われて現時間フレームのオーディオ信号が生成されるが、これらの処理はステップS188乃至ステップS190の処理と同様であるので、その説明は省略する。
【0327】
ステップS200において、オブジェクトオーディオ信号取得部197がオブジェクト番号に1を加えると、処理はステップS193に戻る。そして、ステップS193においてオブジェクト番号がN未満ではないと判定されると、選択復号処理は終了し、その後、処理は図11のステップS53へと進む。
【0328】
以上のようにしてアンパッキング/復号部161は、現時間フレームとその前後の時間フレームの優先度情報に応じて、MDCT係数の出力先を選択する。これにより、優先度情報が閾値以上である時間フレームと、優先度情報が閾値未満である時間フレームとの切り替わり部分においてオーディオ信号が完全再構成されるようになり、聴感上の音質の劣化を抑制することができる。
【0329】
また、アンパッキング/復号部161は、連続する3時間フレームの優先度情報に基づいて、オーバーラップ加算後のオーディオ信号や、高域のパワー値をゲイン調整する。すなわち、適宜、フェードイン処理やフェードアウト処理が行われる。これにより、グリッチノイズの発生を抑制し、聴感上の音質の劣化を抑制することができる。
【0330】
〈第5の実施の形態〉
〈フェードイン処理とフェードアウト処理について〉
なお、第4の実施の形態では、オーバーラップ加算後のオーディオ信号に対してゲイン調整を行い、さらにSBR時に高域のパワー値に対するゲイン調整を行うと説明した。この場合、最終的なオーディオ信号の低域成分と高域成分とで別々にゲイン調整、つまりフェードイン処理やフェードアウト処理が行われることになる。
【0331】
そこで、より少ない処理でこれらのフェードイン処理やフェードアウト処理を実現することができるように、オーバーラップ加算直後およびSBR時にはゲイン調整を行わず、SBRにより得られたオーディオ信号に対してゲイン調整を行うようにしてもよい。
【0332】
そのような場合、例えば図23図24に示すようにゲイン調整が行われる。なお、図23および図24において、図19および図20における場合と対応する部分には同一の文字等を記してあり、その説明は省略する。
【0333】
図23に示す例は、優先度情報の変化が図19に示した場合と同じである例である。この例では、閾値Q=4であるとすると、時間フレーム(n-1)の優先度情報は閾値Q以上であるが、時間フレーム(n)乃至時間フレーム(n+2)では、優先度情報が閾値Q未満となっている。
【0334】
このような場合、時間フレーム(n)および時間フレーム(n+1)における、SBRにより得られたオーディオ信号に対して、折れ線GN31に示されるフェーディング信号ゲインが乗算されてゲイン調整されることになる。
【0335】
この折れ線GN31に示されるフェーディング信号ゲインは、図19の折れ線GN11に示されるフェーディング信号ゲインと同じものとなっている。但し、図23の例の場合には、ゲイン調整の対象となるオーディオ信号は、低域成分も高域成分も含まれたものとなっているので、それらの低域成分と高域成分のゲイン調整を1つのフェーディング信号ゲインで行うことができる。
【0336】
このようなフェーディング信号ゲインによるオーディオ信号のゲイン調整によって、IMDCTにより得られたIMDCT信号と、0データとされたIMDCT信号とがオーバーラップ加算される部分とその直前の部分で、オーディオ信号が徐々に0データへと変化していくようになる。これにより、聴感上の音質の劣化を抑制することができる。
【0337】
これに対して、図24に示す例は、優先度情報の変化が図20に示した場合と同じである例である。この例では、閾値Q=4であるとすると、時間フレーム(n)および時間フレーム(n+1)では優先度情報が閾値Q未満であるが、時間フレーム(n+2)の優先度情報は閾値Q以上となっている。
【0338】
このような場合、時間フレーム(n+1)および時間フレーム(n+2)における、SBRにより得られたオーディオ信号に対して、折れ線GN41に示されるフェーディング信号ゲインが乗算されてゲイン調整されることになる。
【0339】
この折れ線GN41に示されるフェーディング信号ゲインは、図20の折れ線GN21に示されるフェーディング信号ゲインと同じものとなっている。但し、図24の例の場合には、ゲイン調整の対象となるオーディオ信号は、低域成分も高域成分も含まれたものとなっているので、それらの低域成分と高域成分のゲイン調整を1つのフェーディング信号ゲインで行うことができる。
【0340】
このようなフェーディング信号ゲインによるオーディオ信号のゲイン調整によって、IMDCTにより得られたIMDCT信号と、0データとされたIMDCT信号とがオーバーラップ加算される部分とその直後の部分で、オーディオ信号が0データから本来の信号へと徐々に変化していくようになる。これにより、聴感上の音質の劣化を抑制することができる。
【0341】
〈アンパッキング/復号部の構成例〉
図23および図24を参照して説明したフェードイン処理やフェードアウト処理によるゲイン調整が行われる場合、アンパッキング/復号部161は、例えば図25に示すように構成される。なお、図25において、図21における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
【0342】
図25に示すアンパッキング/復号部161は優先度情報取得部191、チャネルオーディオ信号取得部192、チャネルオーディオ信号復号部193、出力選択部194、0値出力部195、IMDCT部196、オーバーラップ加算部271、SBR処理部273、ゲイン調整部272、オブジェクトオーディオ信号取得部197、オブジェクトオーディオ信号復号部198、出力選択部199、0値出力部200、IMDCT部201、オーバーラップ加算部274、SBR処理部276、およびゲイン調整部275から構成される。
【0343】
図25に示すアンパッキング/復号部161の構成は、ゲイン調整部272およびゲイン調整部275が、それぞれSBR処理部273およびSBR処理部276の後段に配置されている点で、図21に示したアンパッキング/復号部161の構成と異なる。
【0344】
図25に示すアンパッキング/復号部161では、SBR処理部273は、優先度情報取得部191から供給された高域のパワー値に基づいて、オーバーラップ加算部271から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をゲイン調整部272に供給する。この場合、SBR処理部273では、高域のパワー値のゲイン調整は行われない。
【0345】
ゲイン調整部272は、優先度情報取得部191から供給された優先度情報に基づいて、SBR処理部273から供給されたオーディオ信号をゲイン調整し、ミキシング部163に供給する。
【0346】
SBR処理部276は、優先度情報取得部191から供給された高域のパワー値に基づいて、オーバーラップ加算部274から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をゲイン調整部275に供給する。この場合、SBR処理部276では、高域のパワー値のゲイン調整は行われない。
【0347】
ゲイン調整部275は、優先度情報取得部191から供給された優先度情報に基づいて、SBR処理部276から供給されたオーディオ信号をゲイン調整し、レンダリング部162に供給する。
【0348】
〈選択復号処理の説明〉
続いて、アンパッキング/復号部161が図25に示した構成とされる場合における復号装置151の動作について説明する。この場合、復号装置151は、図11を参照して説明した復号処理を行う。但し、ステップS52の選択復号処理として、図26に示す処理を行う。
【0349】
以下、図26のフローチャートを参照して、図11のステップS52の処理に対応する選択復号処理について説明する。なお、ステップS231乃至ステップS238の処理は、図22のステップS181乃至ステップS188の処理と同様であるので、その説明は省略する。但し、ステップS232では、SBR処理部273およびSBR処理部276には、優先度情報は供給されない。
【0350】
ステップS239において、SBR処理部273は、優先度情報取得部191から供給された高域のパワー値に基づいて、オーバーラップ加算部271から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をゲイン調整部272に供給する。
【0351】
ステップS240において、ゲイン調整部272は、優先度情報取得部191から供給された処理対象のチャネルの優先度情報に基づいて、SBR処理部273から供給されたオーディオ信号をゲイン調整し、ミキシング部163に供給する。
【0352】
具体的にはゲイン調整部272は、現時間フレームの直前の時間フレームの優先度情報が閾値P以上であり、かつ現時間フレームの優先度情報と、現時間フレームの直後の時間フレームの優先度情報が閾値P未満である場合、図23の折れ線GN31に示されるフェーディング信号ゲインでオーディオ信号のゲインを調整する。この場合、図23における時間フレーム(n)が現時間フレームに対応し、現時間フレームの直後の時間フレームでは、折れ線GN31に示されるように、フェーディング信号ゲイン=0でのゲイン調整が行われる。
【0353】
また、ゲイン調整部272は、現時間フレームの優先度情報が閾値P以上であり、現時間フレームの直前の2時間フレームの優先度情報がともに閾値P未満である場合、図24の折れ線GN41に示されるフェーディング信号ゲインでオーディオ信号のゲインを調整する。この場合、図24における時間フレーム(n+2)が現時間フレームに対応し、現時間フレームの直前の時間フレームでは、折れ線GN41に示されるように、フェーディング信号ゲイン=0でのゲイン調整が行われる。
【0354】
なお、ゲイン調整部272は、これらの2つの例の場合のみゲイン調整を行い、それ以外の場合にはゲイン調整を行わず、オーディオ信号をそのままミキシング部163に供給する。
【0355】
オーディオ信号のゲイン調整が行われると、その後、ステップS241乃至ステップS247の処理が行われるが、これらの処理は図22のステップS191乃至ステップS197の処理と同様であるので、その説明は省略する。
【0356】
このようにして処理対象のオブジェクトの現時間フレームのオーディオ信号が得られると、ステップS248およびステップS249の処理が行われて最終的な現時間フレームのオーディオ信号が生成されるが、これらの処理はステップS239およびステップS240の処理と同様であるので、その説明は省略する。
【0357】
ステップS250において、オブジェクトオーディオ信号取得部197がオブジェクト番号に1を加えると、処理はステップS243に戻る。そして、ステップS243においてオブジェクト番号がN未満ではないと判定されると、選択復号処理は終了し、その後、処理は図11のステップS53へと進む。
【0358】
以上のようにしてアンパッキング/復号部161は、連続する3時間フレームの優先度情報に基づいて、SBRにより得られたオーディオ信号をゲイン調整する。これにより、より簡単にグリッチノイズの発生を抑制し、聴感上の音質の劣化を抑制することができる。
【0359】
なお、この実施の形態では、3時間フレーム分の優先度情報を用いたMDCT係数の出力先の選択と、フェーディング信号ゲインによるゲイン調整とを行う例について説明したが、フェーディング信号ゲインによるゲイン調整のみが行われるようにしてもよい。
【0360】
そのような場合、出力選択部194や出力選択部199では、第1の実施の形態における場合と同様の処理により、MDCT係数の出力先が選択される。そして、ゲイン調整部272およびゲイン調整部275では、現時間フレームの優先度情報が閾値未満である場合、現時間フレームのフェーディング信号ゲインを線形に増加または減少させることで、フェードイン処理やフェードアウト処理を行う。ここで、フェードイン処理とするか、またはフェードアウト処理とするかは、現時間フレームの優先度情報と、その前後の時間フレームの優先度情報とから定めればよい。
【0361】
〈第6の実施の形態〉
〈フェードイン処理とフェードアウト処理について〉
ところで、レンダリング部162では、例えばVBAPが行われて各オブジェクトのオーディオ信号から、各オブジェクトの音声を再生するための各チャネルのオーディオ信号が生成される。
【0362】
具体的には、VBAPではチャネルごと、つまり音声を出力するスピーカごとに、各オブジェクトについて、オーディオ信号のゲイン値(以下、VBAPゲインとも称する)が時間フレームごとに算出される。そして、同じチャネル(スピーカ)についてのVBAPゲインが乗算された各オブジェクトのオーディオ信号の和が、そのチャネルのオーディオ信号とされる。換言すれば、各オブジェクトについて、オブジェクトのオーディオ信号がチャネルごとに算出されたVBAPゲインで、それらの各チャネルに割り当てられる。
【0363】
そこで、オブジェクトのオーディオ信号については、オブジェクトのオーディオ信号や高域のパワー値のゲイン調整をするのではなく、VBAPゲインを適切に調整することにより、グリッチノイズの発生を抑制して聴感上の音質の劣化を抑制するようにしてもよい。
【0364】
そのような場合、例えば各時間フレームのVBAPゲインに対して線形補間等が行われ、各時間フレーム内のオーディオ信号のサンプルごとのVBAPゲインが算出され、得られたVBAPゲインにより各チャネルのオーディオ信号が生成される。
【0365】
例えば、処理対象の時間フレームの先頭サンプルのVBAPゲインの値は、処理対象の時間フレームの直前の時間フレームの末尾のサンプルのVBAPゲインの値とされる。また、処理対象の時間フレームの末尾のサンプルのVBAPゲインの値は、その処理対象の時間フレームに対する通常のVBAPにより算出されたVBAPゲインの値とされる。
【0366】
そして、処理対象の時間フレームでは、先頭サンプルから末尾のサンプルまでVBAPゲインが線形に変化するように、先頭サンプルと末尾のサンプルとの間の各サンプルのVBAPゲインの値が定められる。
【0367】
但し、処理対象の時間フレームの優先度情報が閾値未満である場合には、VBAPの計算は行われず、その処理対象の時間フレームの末尾のサンプルのVBAPゲインの値は、0とされる。そして、処理対象の時間フレームの先頭サンプルから、末尾のサンプルまでVBAPゲインが線形に変化するように、各サンプルのVBAPゲインが定められる。
【0368】
このようにしてVBAPゲインにより各オブジェクトのオーディオ信号のゲイン調整を行うことで、低域成分と高域成分のゲイン調整を1度に行うことができ、より少ない処理量でグリッチノイズの発生を抑制し、聴感上の音質の劣化を抑制することができる。
【0369】
このようにサンプルごとにVBAPゲインを定める場合、各時間フレームのサンプルごとのVBAPゲインは例えば図27図28に示すようになる。
【0370】
なお、図27および図28において、図19および図20における場合と対応する部分には同一の文字等を記してあり、その説明は省略する。また、図27および図28において、「VBAP_gain[q][s]」(但し、q=n-1,n,n+1,n+2)は、所定のチャネルに対応するスピーカを特定するスピーカインデックスがsである、処理対象のオブジェクトの時間フレーム(q)のVBAPゲインを示している。
【0371】
図27に示す例は、優先度情報の変化が図19に示した場合と同じである例である。この例では、閾値Q=4であるとすると、時間フレーム(n-1)の優先度情報は閾値Q以上であるが、時間フレーム(n)乃至時間フレーム(n+2)では、優先度情報が閾値Q未満となっている。
【0372】
このような場合、時間フレーム(n-1)乃至時間フレーム(n+1)のVBAPゲインは、例えば折れ線GN51に示されるゲインとされる。
【0373】
この例では、時間フレーム(n-1)の優先度情報は閾値Q以上であるので、通常のVBAPにより算出されたVBAPゲインに基づいて、各サンプルのVBAPゲインが定められる。
【0374】
すなわち、時間フレーム(n-1)の先頭のサンプルのVBAPゲインの値は、時間フレーム(n-2)の末尾のサンプルのVBAPゲインの値と同じとされている。また、時間フレーム(n-1)の末尾のサンプルのVBAPゲインの値は、処理対象となっているオブジェクトについて、時間フレーム(n-1)に対する通常のVBAPにより算出された、スピーカsに対応するチャネルのVBAPゲインの値とされている。そして、時間フレーム(n-1)の各サンプルのVBAPゲインの値は、先頭のサンプルから末尾のサンプルまで線形に変化するように定められている。
【0375】
また、時間フレーム(n)の優先度情報は閾値Q未満であるので、時間フレーム(n)の末尾のサンプルのVBAPゲインの値は0とされる。
【0376】
すなわち、時間フレーム(n)の先頭のサンプルのVBAPゲインの値は、時間フレーム(n-1)の末尾のサンプルのVBAPゲインの値と同じとされ、時間フレーム(n)の末尾のサンプルのVBAPゲインの値は0とされる。そして、時間フレーム(n)の各サンプルのVBAPゲインの値が、先頭のサンプルから末尾のサンプルまで線形に変化するように定められる。
【0377】
さらに、時間フレーム(n+1)の優先度情報は閾値Q未満であるので、時間フレーム(n+1)の末尾のサンプルのVBAPゲインの値は0とされ、結果として時間フレーム(n+1)の全サンプルのVBAPゲインの値は0となる。
【0378】
このように、優先度情報が閾値Q未満である時間フレームの末尾のサンプルのVBAPゲインの値を0とすることで、図23の例と等価なフェードアウト処理が可能となる。
【0379】
これに対して、図28に示す例は、優先度情報の変化が図24に示した場合と同じである例である。この例では、閾値Q=4であるとすると、時間フレーム(n-1)乃至時間フレーム(n+1)では優先度情報が閾値Q未満であるが、時間フレーム(n+2)の優先度情報は閾値Q以上となっている。
【0380】
このような場合、時間フレーム(n-1)乃至時間フレーム(n+2)のVBAPゲインは、例えば折れ線GN61に示されるゲインとされる。
【0381】
この例では、時間フレーム(n)の優先度情報も時間フレーム(n+1)の優先度情報もともに閾値Q未満であるので、時間フレーム(n+1)の全サンプルのVBAPゲインは0となる。
【0382】
また、時間フレーム(n+2)の優先度情報は閾値Q以上であるので、処理対象となっているオブジェクトについて、通常のVBAPにより算出されたスピーカsに対応するチャネルのVBAPゲインに基づいて、各サンプルのVBAPゲインが定められる。
【0383】
すなわち、時間フレーム(n+2)の先頭のサンプルのVBAPゲインの値は、時間フレーム(n+1)の末尾のサンプルのVBAPゲインの値である0とされ、時間フレーム(n+2)の末尾のサンプルのVBAPゲインの値は、時間フレーム(n+2)に対する通常のVBAPにより算出されたVBAPゲインの値とされている。そして、時間フレーム(n+2)の各サンプルのVBAPゲインの値は、先頭のサンプルから末尾のサンプルまで線形に変化するように定められている。
【0384】
このように、優先度情報が閾値Q未満である時間フレームの末尾のサンプルのVBAPゲインの値を0とすることで、図24の例と等価なフェードイン処理が可能となる。
【0385】
〈アンパッキング/復号部の構成例〉
図27および図28を参照して説明したフェードイン処理やフェードアウト処理によるゲイン調整が行われる場合、アンパッキング/復号部161は、例えば図29に示すように構成される。なお、図29において、図25における場合と対応する部分には同一の符号を付してあり、その説明は適宜省略する。
【0386】
図29に示すアンパッキング/復号部161は優先度情報取得部191、チャネルオーディオ信号取得部192、チャネルオーディオ信号復号部193、出力選択部194、0値出力部195、IMDCT部196、オーバーラップ加算部271、SBR処理部273、ゲイン調整部272、オブジェクトオーディオ信号取得部197、オブジェクトオーディオ信号復号部198、出力選択部199、0値出力部200、IMDCT部201、オーバーラップ加算部274、およびSBR処理部276から構成される。
【0387】
図29に示すアンパッキング/復号部161の構成は、ゲイン調整部275が設けられていない点で、図25に示したアンパッキング/復号部161の構成と異なり、その他の点では同じ構成となっている。
【0388】
図29に示すアンパッキング/復号部161では、SBR処理部276は、優先度情報取得部191から供給された高域のパワー値に基づいて、オーバーラップ加算部274から供給されたオーディオ信号に対してSBRを行い、その結果得られたオーディオ信号をレンダリング部162に供給する。
【0389】
また、優先度情報取得部191は、供給されたビットストリームから各オブジェクトのメタデータと優先度情報を取得してレンダリング部162に供給する。なお、各オブジェクトの優先度情報は、出力選択部199にも供給される。
【0390】
〈復号処理の説明〉
続いて、アンパッキング/復号部161が図29に示した構成とされる場合における復号装置151の動作について説明する。
【0391】
この場合、復号装置151は、図30に示す復号処理を行う。以下、図30のフローチャートを参照して、復号装置151により行われる復号処理について説明する。但し、ステップS281では、図11のステップS51の処理と同様の処理が行われるので、その説明は省略する。
【0392】
ステップS282において、アンパッキング/復号部161は選択復号処理を行う。
【0393】
ここで、図31のフローチャートを参照して、図30のステップS282の処理に対応する選択復号処理について説明する。
【0394】
なお、ステップS311乃至ステップS328の処理は、図26のステップS231乃至ステップS248の処理と同様であるので、その説明は省略する。但し、ステップS312では、優先度情報取得部191は、ビットストリームから取得された優先度情報をレンダリング部162にも供給する。
【0395】
ステップS329において、オブジェクトオーディオ信号取得部197がオブジェクト番号に1を加えると、処理はステップS323に戻る。そして、ステップS323においてオブジェクト番号がN未満ではないと判定されると、選択復号処理は終了し、その後、処理は図30のステップS283へと進む。
【0396】
したがって、図31に示した選択復号処理では、各チャネルのオーディオ信号については、第5の実施の形態における場合と同様にフェーディング信号ゲインによるゲイン調整が行われ、各オブジェクトについては、ゲイン調整は行われず、SBRにより得られたオーディオ信号がそのままレンダリング部162に出力される。
【0397】
図30の復号処理の説明に戻り、ステップS283において、レンダリング部162は、SBR処理部276から供給された各オブジェクトのオーディオ信号と、優先度情報取得部191から供給された各オブジェクトのメタデータとしての位置情報、および各オブジェクトの現時間フレームの優先度情報とに基づいて、各オブジェクトのオーディオ信号のレンダリングを行う。
【0398】
例えばレンダリング部162は、図27図28を参照して説明したように、オブジェクトごとに、各チャネルについて現時間フレームの優先度情報と、現時間フレームの直前の時間フレームの末尾のサンプルのVBAPゲインに基づいて、現時間フレームの各サンプルのVBAPゲインを算出する。このときレンダリング部162は、適宜、位置情報に基づいてVBAPによりVBAPゲインを算出する。
【0399】
そして、レンダリング部162は、各オブジェクトについて算出した各チャネルのサンプルごとのVBAPゲインと、各オブジェクトのオーディオ信号とに基づいて、各チャネルのオーディオ信号を生成し、ミキシング部163に供給する。
【0400】
なお、ここでは時間フレーム内の各サンプルのVBAPゲインが線形に変化するように各サンプルのVBAPゲインを算出する例について説明したが、VBAPゲインが非線形に変化するようにしてもよい。また、VBAPにより各チャネルのオーディオ信号が生成される例について説明したが、他の方法により各チャネルのオーディオ信号を生成する場合でも、VBAPにおける場合と同様の処理により、各オブジェクトのオーディオ信号のゲインを調整することが可能である。
【0401】
各チャネルのオーディオ信号が生成されると、その後、ステップS284の処理が行われて復号処理は終了するが、ステップS284の処理は図11のステップS54の処理と同様であるので、その説明は省略する。
【0402】
このようにして復号装置151は、各オブジェクトについて、優先度情報に基づいてサンプルごとにVBAPゲインを算出し、各チャネルのオーディオ信号の生成時に、VBAPゲインによりオブジェクトのオーディオ信号のゲイン調整を行う。これにより、より少ない処理量でグリッチノイズの発生を抑制し、聴感上の音質の劣化を抑制することができる。
【0403】
なお、第4の実施の形態乃至第6の実施の形態では、現時間フレームの直前および直後の時間フレームの優先度情報を利用してMDCT係数の出力先を選択したり、フェーディング信号ゲイン等によるゲイン調整を行ったりすると説明した。しかし、これに限らず、現時間フレームの優先度情報と、現時間フレームの所定時間フレームだけ前の時間フレームの優先度情報や、現時間フレームの所定時間フレームだけ後の時間フレームの優先度情報とが用いられるようにしてもよい。
【0404】
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどが含まれる。
【0405】
図32は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0406】
コンピュータにおいて、CPU(Central Processing Unit)501,ROM(Read Only Memory)502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
【0407】
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、入力部506、出力部507、記録部508、通信部509、およびドライブ510が接続されている。
【0408】
入力部506は、キーボード、マウス、マイクロフォン、撮像素子などよりなる。出力部507は、ディスプレイ、スピーカなどよりなる。記録部508は、ハードディスクや不揮発性のメモリなどよりなる。通信部509は、ネットワークインターフェースなどよりなる。ドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア511を駆動する。
【0409】
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505およびバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
【0410】
コンピュータ(CPU501)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア511に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【0411】
コンピュータでは、プログラムは、リムーバブルメディア511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
【0412】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0413】
また、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0414】
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【0415】
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0416】
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0417】
また、本明細書中に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。
【0418】
さらに、本技術は、以下の構成とすることも可能である。
【0419】
(1)
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得する取得部と、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号するオーディオ信号復号部と
を備える復号装置。
(2)
前記オーディオ信号復号部は、前記優先度情報により示される優先度合いが所定の度合い以上である、前記符号化されたオーディオ信号を復号する
(1)に記載の復号装置。
(3)
前記取得部は、前記所定の時間における前記複数のチャネルまたは前記複数のオブジェクトのオーディオ信号の前記優先度情報に基づいて、前記所定の度合いを変更する
(2)に記載の復号装置。
(4)
前記取得部は、前記オーディオ信号ごとに複数の前記優先度情報を取得し、
前記オーディオ信号復号部は、前記複数の前記優先度情報のなかから選択された1つの前記優先度情報に基づいて、前記符号化されたオーディオ信号を復号する
(1)乃至(3)の何れか一項に記載の復号装置。
(5)
前記複数の前記優先度情報は、前記符号化されたオーディオ信号の復号側の計算能力に応じて、前記計算能力ごとに生成されたものである
(4)に記載の復号装置。
(6)
前記符号化されたオーディオ信号に基づいて、前記優先度情報を生成する優先度情報生成部をさらに備える
(1)乃至(5)の何れか一項に記載の復号装置。
(7)
前記優先度情報生成部は、前記符号化されたオーディオ信号から得られる、オーディオ信号の音圧またはスペクトル形状に基づいて前記優先度情報を生成する
(6)に記載の復号装置。
(8)
前記オーディオ信号復号部は、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間の前記符号化されたオーディオ信号を復号するかを選択する
(1)に記載の復号装置。
(9)
前記復号が行われた場合、前記復号により得られた信号を出力信号とし、前記復号が行われなかった場合、0データを出力信号として、チャネルごとまたはオブジェクトごとに、前記所定の時間の前記出力信号と、前記所定の時間よりも前または後の時間の前記出力信号とを加算して前記所定の時間のオーディオ信号を生成する加算部と、
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、前記所定の時間のオーディオ信号のゲイン調整を行うゲイン調整部と
をさらに備える(1)に記載の復号装置。
(10)
チャネルごとまたはオブジェクトごとに、前記所定の時間の前記優先度情報と、前記所定の時間よりも前または後の時間の前記優先度情報とに基づいて、高域のパワー値をゲイン調整するとともに、ゲイン調整された前記パワー値と、前記所定の時間のオーディオ信号とに基づいて、前記所定の時間のオーディオ信号の高域成分を生成する高域生成部をさらに備える
(9)に記載の復号装置。
(11)
チャネルごとまたはオブジェクトごとに、高域のパワー値と、前記所定の時間のオーディオ信号とに基づいて、高域成分が含まれる前記所定の時間のオーディオ信号を生成する高域生成部をさらに備え、
前記ゲイン調整部は、高域成分が含まれる前記所定の時間のオーディオ信号のゲイン調整を行う
(9)に記載の復号装置。
(12)
前記所定の時間の前記優先度情報に基づいて、オブジェクトのオーディオ信号を複数の各チャネルに所定のゲイン値で割り当てて、前記複数の各チャネルのオーディオ信号を生成するレンダリング部をさらに備える
(1)に記載の復号装置。
(13)
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得し、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号する
ステップを含む復号方法。
(14)
複数のチャネルまたは複数のオブジェクトの符号化されたオーディオ信号、および所定の時間における各前記オーディオ信号の優先度情報を取得し、
前記優先度情報に基づいて、前記優先度情報に応じた所定の数のチャネルまたはオブジェクトの前記符号化されたオーディオ信号を復号する
ステップを含む処理をコンピュータに実行させるプログラム。
(15)
複数のチャネルまたは複数のオブジェクトのオーディオ信号の所定の時間における優先度情報を生成する優先度情報生成部と、
前記優先度情報をビットストリームに格納するパッキング部と
を備える符号化装置。
(16)
前記優先度情報生成部は、前記オーディオ信号ごとに複数の前記優先度情報を生成する
(15)に記載の符号化装置。
(17)
前記優先度情報生成部は、符号化された前記オーディオ信号の復号側の計算能力に応じて、前記計算能力ごとに前記優先度情報を生成する
(16)に記載の符号化装置。
(18)
前記優先度情報生成部は、前記オーディオ信号の音圧またはスペクトル形状に基づいて前記優先度情報を生成する
(15)乃至(17)の何れか一項に記載の符号化装置。
(19)
前記複数のチャネルまたは前記複数のオブジェクトのオーディオ信号を符号化する符号化部をさらに備え、
前記パッキング部は、前記優先度情報と符号化された前記オーディオ信号とを前記ビットストリームに格納する
(15)乃至(18)の何れか一項に記載の符号化装置。
(20)
複数のチャネルまたは複数のオブジェクトのオーディオ信号の所定の時間における優先度情報を生成し、
前記優先度情報をビットストリームに格納する
ステップを含む符号化方法。
(21)
複数のチャネルまたは複数のオブジェクトのオーディオ信号の所定の時間における優先度情報を生成し、
前記優先度情報をビットストリームに格納する
ステップを含む処理をコンピュータに実行させるプログラム。
【符号の説明】
【0420】
11 符号化装置, 21 チャネルオーディオ符号化部, 22 オブジェクトオーディオ符号化部, 23 メタデータ入力部, 24 パッキング部, 51 符号化部, 52 優先度情報生成部, 61 MDCT部, 91 符号化部, 92 優先度情報生成部, 101 MDCT部, 151 復号装置, 161 アンパッキング/復号部, 162 レンダリング部, 163 ミキシング部, 191 優先度情報取得部, 193 チャネルオーディオ信号復号部, 194 出力選択部, 196 IMDCT部, 198 オブジェクトオーディオ信号復号部, 199 出力選択部, 201 IMDCT部, 231 優先度情報生成部, 232 優先度情報生成部, 271 オーバーラップ加算部, 272 ゲイン調整部, 273 SBR処理部, 274 オーバーラップ加算部, 275 ゲイン調整部, 276 SBR処理部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32