IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ フラウンホーファー−ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェラインの特許一覧

特許7483792符号化オーディオ信号を復号する復号装置および復号方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-07
(45)【発行日】2024-05-15
(54)【発明の名称】符号化オーディオ信号を復号する復号装置および復号方法
(51)【国際特許分類】
   G10L 19/02 20130101AFI20240508BHJP
   G10L 19/035 20130101ALI20240508BHJP
   G10L 21/0388 20130101ALI20240508BHJP
【FI】
G10L19/02 150
G10L19/035 Z
G10L21/0388 100
【請求項の数】 16
(21)【出願番号】P 2022097243
(22)【出願日】2022-06-16
(62)【分割の表示】P 2020000087の分割
【原出願日】2014-07-15
(65)【公開番号】P2022123060
(43)【公開日】2022-08-23
【審査請求日】2022-06-24
(31)【優先権主張番号】13177348.3
(32)【優先日】2013-07-22
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】13177350.9
(32)【優先日】2013-07-22
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】13177353.3
(32)【優先日】2013-07-22
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】13177346.7
(32)【優先日】2013-07-22
(33)【優先権主張国・地域又は機関】EP
(31)【優先権主張番号】13189374.5
(32)【優先日】2013-10-18
(33)【優先権主張国・地域又は機関】EP
(73)【特許権者】
【識別番号】500341779
【氏名又は名称】フラウンホーファー-ゲゼルシャフト・ツール・フェルデルング・デル・アンゲヴァンテン・フォルシュング・アインゲトラーゲネル・フェライン
(74)【代理人】
【識別番号】110000121
【氏名又は名称】IAT弁理士法人
(72)【発明者】
【氏名】ニーデルマイヤー,アンドレアス
(72)【発明者】
【氏名】エルテル,クリスティアン
(72)【発明者】
【氏名】ガイガー,ラルフ
(72)【発明者】
【氏名】ギド,フローリン
(72)【発明者】
【氏名】ヘルムリッヒ,クリスティアン
【審査官】菊池 智紀
(56)【参考文献】
【文献】特開2002-050967(JP,A)
【文献】特開2006-003580(JP,A)
【文献】特開2001-053617(JP,A)
【文献】特開2006-293400(JP,A)
【文献】特表2010-526346(JP,A)
【文献】米国特許出願公開第2009/0006103(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G10L 19/00-19/26,21/038-21/0388
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
第1セットの第1スペクトル部(302,306,904,921)の符号化表現(901b)と、第2セットの第2スペクトル部(307a,307b,922,923)に対するスペクトルエネルギ情報を示すパラメトリックデータの符号化表現(901a)と、を含む符号化オーディオ信号を復号化する復号装置において、
前記第1セットの第1スペクトル部(302,306,904,921)の符号化表現(901b)を復号して前記第1セットの第1スペクトル部(302,306,904,921)を取得し、前記パラメトリックデータの前記符号化表現(901a)を復号して、前記第2セットの第2スペクトル部(307a,307b,922,923)に対する復号化パラメトリックデータ(902)であって、個別の再構築帯域に対してそれらの再構築帯域の個別エネルギ情報を示すデータ(902)を取得するオーディオデコーダ(900)であって、第1復号表現を、前記第1セットの第1スペクトル部(302,306,904,921)の第1スペクトル部(306)が、周波数に対して、前記第2セットの第2スペクトル部(307a,307b,922,923)の2つの第2スペクトル部(307a,307b)の間に配置されるように、かつ、前記第1セットの第1のスペクトル部分(302,306,904,921)の前記第1のスペクトル部分(306)が、前記第2セットの第2のスペクトル部分(307a,307b,922,923)の前記2つの第2のスペクトル部分(307a,307b)に取り囲んで配置されるように、生成するオーディオデコーダ(900)と、
前記個別の再構築帯域のひとつの再構築帯域(920)であって前記第2セットの第2スペクトル部(307a,307b,922,923)のひとつの第2スペクトル部(307a,307b,922,923)を含む再構築帯域(920)内のスペクトル値を、前記第1セットの第1スペクトル部(302,306,904,921)のうちのひとつの第1スペクトル部(302)を使用し、かつ前記第1セットの第1スペクトル部(302,306,904,921)のさらなる第1スペクトル部(306,921)と前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)とをさらに含む前記再構築帯域(920)に対する個別エネルギ情報を使用して、再構築する周波数再生器(906)と
を備える復号装置。
【請求項2】
請求項1記載の復号装置において、
前記周波数再生器(906)は、
前記再構築帯域(920)内に周波数値を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記さらなる第1スペクトル部(306,921)の蓄積されたエネルギ情報を含む残存エネルギを判定(912)し、
前記再構築帯域(920)内に周波数を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記さらなる第1スペクトル部(306,921)とは異なる周波数値に対して、前記再構築帯域(920)の前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)のタイルエネルギ情報を判定(918)し、ここで、前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)は、前記再構築帯域(920)内に周波数を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記さらなる第1スペクトル部(306,921)とは異なる前記第1スペクトル部(302)を用いる周波数再生により生成され、
前記再構築帯域(920)に対する消失エネルギ情報を、前記再構築帯域(920)に対する個別エネルギ情報と残存エネルギ情報とを用いて判定(914)し、
前記再構築帯域(920)内の前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)を、前記消失エネルギ情報と前記タイルエネルギ情報とに基づいて、調整(916)する
ことを特徴とする復号装置。
【請求項3】
請求項2に記載の復号装置において、前記再構築帯域(920)に対する個別エネルギ情報は、前記再構築帯域(920)内の多数のスぺクトル値に対して正規化されていることを特徴とする復号装置。
【請求項4】
請求項1から3のいずれか1項に記載の復号装置において、前記周波数再生器(906)は、ギャップ充填周波数(309)の上の前記再構築帯域(920)を再構築し、前記再構築帯域(920)内の前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)を再構築するため、前記ギャップ充填周波数(309)より低い周波数を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記第1スペクトル部(302)を用いる構成であることを特徴とする復号装置。
【請求項5】
請求項1から4のいずれか1項に記載の復号装置において、
前記オーディオデコーダ(900)は、スケールファクタ帯域のセットとそれに関連付けられたスケールファクタを用いる構成であり、各スケールファクタは前記再構築帯域(920)に関連付けられ、前記オーディオデコーダ(900)は、前記再構築帯域(920)内にスペクトル値を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記さらなる第1スペクトル部(306,921)を、前記スケールファクタを用いて復号化する構成である
ことを特徴とする復号装置。
【請求項6】
請求項1から5のいずれか1項に記載の復号装置において、
前記パラメトリックデータの前記符号化表現(901a)は、前記再構築帯域(920)に対して、前記再構築帯域(920)の少なくとも一部に対するスケールファクタと、前記再構築帯域(920)に対する個別エネルギ情報とを含み、
前記オーディオデコーダは、前記再構築帯域(920)に対する個別エネルギ情報を、前記再構築帯域(920)内にある、または前記再構築帯域(920)に一致するスケールファクタ帯域に対するスケールファクタに加えて、前記パラメトリックデータの前記符号化表現(901a)から得る構成である
ことを特徴とする復号装置。
【請求項7】
請求項5または6に記載の復号装置において、前記周波数再生器(906)は、複数の再構築帯域(920)を使用する構成であり、スケールファクタ帯域の帯域境界が、前記複数の再構築帯域(920)からの前記再構築帯域(920)の境界に一致することを特徴とする復号装置。
【請求項8】
請求項5から7のいずれか1項に記載の復号装置において、前記オーディオデコーダ(900)は、周波数に伴って変化するスケールファクタ帯域を用いる構成であり、第1周波数を有するスケールファクタ帯域は、前記第1周波数より高い第2周波数を有する別のスケールファクタ帯域より周波数帯域幅が狭いことを特徴とする復号装置。
【請求項9】
請求項2に記載の復号装置において、前記周波数再生器(906)は、自乗スペクトル値を蓄積することにより前記残存エネルギ情報を判定する、または自乗スペクトル値を蓄積することにより前記タイルエネルギ情報を判定する構成であることを特徴とする復号装置。
【請求項10】
請求項2または9に記載の復号装置において、
前記再構築帯域(920)に対する個別エネルギ情報は、前記再構築帯域(920)の各スペクトル値に対するエネルギ値を示し、
前記周波数再生器(906)は、前記消失エネルギ情報を、前記再構築帯域(920)に対する個別エネルギ情報に前記再構築帯域(920)内の複数のスペクトル値を乗算し、前記残存エネルギ情報を差し引くことにより、判定する構成であることを特徴とする復号装置。
【請求項11】
請求項2、9または10に記載の復号装置において、前記周波数再生器(906)は、前記再構築帯域(920)に対する利得ファクタを、前記消失エネルギ情報および前記タイルエネルギ情報を使用し、前記利得ファクタを、前記再構築帯域(920)内の前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)内のスペクトル値に適用し、前記再構築帯域(920)内のスペクトル値を有する前記第1セットの第1スペクトル部(302,306,904,921)の前記さらなる第1スペクトル部(306,921)には適用しない構成であることを特徴とする復号装置。
【請求項12】
請求項2、9、10または11に記載の復号装置において、
前記オーディオデコーダ(900)は、短ブロックまたは長ブロックを処理する構成であり、複数の短ブロックが、2以上のグループ分けされた短ブロックに対して単一セットのスケールファクタだけを有する短ブロックにグループ分けされ、前記再構築帯域(920)に対する個別エネルギ情報が、前記再構築帯域(920)内の各スペクトル値に対するエネルギを示し、
前記周波数再生器(906)は、前記2以上のグループ分けされた短ブロックに対する前記残存エネルギ情報を計算する、前記2以上のグループ分けされた短ブロックに対する前記タイルエネルギ情報を計算する、または前記2以上のグループ分けされた短ブロックに対する前記残存エネルギ情報を、前記2以上のグループ分けされた短ブロックに対する個別エネルギ情報に前記再構築帯域(920)に対する複数のスペクトル値を乗算することにより計算する
ことを特徴とする復号装置。
【請求項13】
請求項1から12のいずれか1項に記載の復号装置において、
前記オーディオデコーダ(900)は、異なる周波数に対する複数のグループ分けされた再構築帯域の個別エネルギ情報を提供する構成であり、
前記周波数再生器(906)は、前記グループ分けされた再構築帯域のそれぞれに対する前記個別エネルギ情報を用いる構成である
ことを特徴とする復号装置。
【請求項14】
請求項1に記載の復号装置において、前記オーディオデコーダ(900)は、
第1復号表現を、この第1復号表現が復号オーディオ信号の周波数時間変換により生成される時間領域信号のサンプリングレートに等しいナイキスト周波数を有するように生成する、または
第1復号表現を、この第1復号表現内の最大周波数に対するスペクトル値によって示される最大周波数が復号信号出力の周波数時間変換により生成される時間表現内に含まれる最大周波数に等しくなるように生成し、ここで、前記第1復号表現内の最大周波数に対するスペクトル値がゼロまたはゼロとは異なる値である
ことを特徴とする復号装置。
【請求項15】
第1セットの第1スペクトル部(302,306,904,921)の符号化表現(901b)と、第2セットの第2スペクトル部(307a,307b,922,923)に対するスペクトルエネルギ情報を示すパラメトリックデータの符号化表現(901a)と、を含む符号化オーディオ信号を復号化する復号方法において、
前記第1セットの第1スペクトル部(302,306,904,921)の符号化表現(901b)を復号(900)して前記第1セットの第1スペクトル部(302,306,904,921)を取得し、前記パラメトリックデータの前記符号化表現(901a)を復号して、前記第2セットの第2スペクトル部(307a,307b,922,923)に対する復号化パラメトリックデータ(902)であって、個別の再構築帯域に対してそれらの再構築帯域の個別エネルギ情報を示すデータ(902)を取得し、ここで、この復号(900)では、第1復号表現を、前記第1セットの第1スペクトル部(302,306,904,921)の第1スペクトル部(306)が、周波数に対して、前記第2セットの第2スペクトル部(307a,307b,922,923)の2つの第2スペクトル部(307a,307b)の間に配置されるように、かつ、前記第1セットの第1のスペクトル部分(302,306,904,921)の前記第1のスペクトル部分(306)が、前記第2セットの第2のスペクトル部分(307a,307b,922,923)の前記2つの第2のスペクトル部分(307a,307b)に取り囲んで配置されるように、生成し、
前記個別の再構築帯域のひとつの再構築帯域(920)であって前記第2セットの第2スペクトル部(307a,307b,922,923)のひとつの第2スペクトル部(307a,307b,922,923)を含む再構築帯域(920)内のスペクトル値を、前記第1セットの第1スペクトル部(302,306,904,921)のうちのひとつの第1スペクトル部(302)を使用し、かつ前記第1セットの第1スペクトル部(302,306,904,921)のさらなる第1スペクトル部(306,921)と前記第2セットの第2スペクトル部(307a,307b,922,923)の前記第2スペクトル部(307a,307b,922,923)とをさらに含む前記再構築帯域(920)に対する個別エネルギ情報を使用して、再構築(906)する
復号方法。
【請求項16】
コンピュータまたはプロセッサで動作するとき、請求項15に記載の方法を実行するコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、オーディオ符号化および復号化に関し、特に、インテリジェントギャップ充填(IGF:Intelligent gap filling)を用いるオーディオ符号化に関する。
【背景技術】
【0002】
オーディオ符号化は信号圧縮の一分野であり、音響心理学の知識を用いて、オーディオ信号における冗長性および非関連性を利用する処理を行う。今日において、オーディオコーデックは、典型的には、ほぼ全ての種のオーディオ信号の知覚的に透明な符号化のために、チャネルあたり60kbps程度を要する。さらに新しいコーデックは、帯域幅拡張(BWE)などの技術を用いて、信号におけるスペクトルの類似性を活用して、符号化ビットレートの削減を試みている。あるBWEスキームにおいては、オーディオ信号の高周波数(HF)成分を示すよう設定された低ビットレートパラメータが用いられる。HFスペクトルは、低周波数(LF)域からのスペクトルコンテンツによって充足され、スペクトルの形状、傾きおよび時間的連続性が、オリジナル信号の音質および色彩を保つよう調整される。そのようなBWE手法によって、オーディオコーデックは、チャネルあたり24kbps程度の低ビットレートであっても、良好な品質を保つことができる。
【0003】
オーディオ信号の蓄積または送信については、厳格なビットレート制限が適用されることがよくある。過去においては、極めて低ビットレートしか利用可能でない場合には、符号化する側において、強制的に、送信オーディオ帯域幅を大幅に低減させられていた。
【0004】
今日における近代オーディオコーデックは、帯域幅拡張(BWE)法を用いて、広帯域信号を符号化できる(非特許文献1)。これらのアルゴリズムは、高周波数コンテンツ(HF)のパラメトリック表現に依拠している。このパラメトリック表現は、復号信号の波形符号化された低周波数部(LF)から、HFスペクトル領域に移転(「パッチング」)させて、パラメータ駆動の後処理を行うことにより、生成される。BWEスキームにおいては、所与のいわゆるクロスオーバー周波数の上へのHFスペクトル領域の再構築が、しばしば、スペクトルパッチングに基づいて行われる。一般的に、HF領域は、複数の近接パッチから構成され、これらのパッチのそれぞれは、所与のクロスオーバー周波数より下のLFスペクトルのバンドパス(BP)領域から供給される。最新のシステムは、例えば、近接するサブバンド係数一式をソースから対象領域にコピーすることによって、直交ミラーフィルタバンク(QMF)などのフィルタバンク表現内において、パッチングを効率的に実施する。
【0005】
今日のオーディオコーデックに見られる、圧縮効率を向上させかつ低ビットレートでオーディオ帯域幅を拡張する別の技術としては、オーディオスペクトルの適宜な部分を、パラメータ駆動により合成置換する技術が挙げられる。例えば、オリジナルのオーディオ信号におけるノイズ様の信号部分は、デコーダ内で生成され副情報パラメータによりスケーリングされた人工ノイズによって、主観的品質を実質的に損なうことなく置換される。一例としては、MPEG-4アドバンストオーディオコーディング(AAC)に含まれる、知覚的ノイズ置換(PNS)ツールが挙げられる(非特許文献5)。
【0006】
低ビットレートでオーディオ帯域幅を拡張する他の規定としては、MPEG-Dの音声音響統合符号化方式(USAC)に含まれる、ノイズ充填技術が挙げられる(非特許文献7)。粗すぎる量子化による量子化装置のデッドゾーンから推測されるスペクトルギャップ(ゼロ)は、デコーダにおける人工ノイズにより事後に充填され、パラメータによって決定される事後処理によってスケーリングされる。
【0007】
別の最新システムは、精密スペクトル置換(ASR)と称される(非特許文献2-4)。波形コーデックに加えて、ASRは、専用の信号合成段階を採用し、この信号合成段階によって、信号内の知覚的に重要な正弦部分が、デコーダにより復元される。また、非特許文献5に記載のシステムは、波形符号器のHF領域における正弦モデリングに依拠して、低ビットレートでも相当の知覚的品質を有する拡張オーディオ帯域幅を実現している。これらの方法は全て、修正離散コサイン変換(MDCT)とは別の第2領域へのデータ変換を含み、また、HF正弦成分の保存のためのかなり複雑な解析/合成段階を含む。
【0008】
図13aは、例えば、高効率アドバンストオーディオコーディング(HE-AAC)において使用されている帯域幅拡張技術用の、オーディオエンコーダの概略図である。ライン1300上のオーディオ信号は、ローパス1302およびハイパス1304からなるフィルタシステムに入力される。ハイパスフィルタ1304から出力された信号は、パラメータ抽出器/符号器1306に入力される。パラメータ抽出器/符号器1306は、例えば、スペクトル包絡線パラメータやノイズ付加パラメータ、欠落高調波パラメータ、逆フィルタリングパラメータなどのパラメータを計算し、符号化するよう構成される。これらの抽出パラメータは、ビットストリーム多重変換器1308に入力される。ローパス出力信号は、ダウンサンプラ1310およびコア符号器1312の機能を一般的に有する処理器に入力される。ローパス1302は、帯域幅を制限して、ライン1300上のオリジナル入力オーディオ信号よりも、相当に狭い帯域幅に符号化されるようにする。コア符号器において生じる全ての機能が、削減された帯域の信号上で機能すれば良いという事実により、かなりの符号化利得が得られる。例えば、ライン1300上のオーディオ信号の帯域幅が20キロヘルツであり、かつローパスフィルタ1302が仮に4キロヘルツの帯域幅を有しているとすると、サンプリング定理を満たすためには、ダウンサンプラの後段の信号が8キロヘルツのサンプリング周波数を有することで理論上は十分であり、これは、オーディオ信号1300において必要となる少なくとも40キロヘルツのサンプリングレートの、実質的削減である。
【0009】
図13bは、対応する帯域幅拡張デコーダの概略図である。デコーダは、ビットストリーム多重変換器1320を有する。ビットストリーム多重分離器1320は、コアデコーダ1322用の入力信号、およびパラメトリックデコーダ1324用の入力信号を抽出する。コアデコーダ出力信号は、上述の例においては、8キロヘルツのサンプリングレートを有し、したがって、4キロヘルツの帯域幅を有する。一方、完全な帯域幅再構築のためには、高周波数再構築器1330の出力信号は、少なくとも40キロヘルツのサンプリングレートを要する20キロヘルツでなければならない。これを可能にするためには、デコーダ処理器が、アップサンプラ1325およびフィルタバンク1326の機能を有することが必要となる。そして高周波数再構築器1330は、フィルタバンク1326より出力され周波数解析された低周波数信号を受信して、図13aのハイパスフィルタ1304によって定義された周波数範囲を、周波数帯域のパラメトリック表現を用いて再構築する。高周波数再構築器1330は、低周波数範囲におけるソース範囲を利用して上位の周波数範囲を再生したり、スペクトル包絡線を調整したり、ノイズを付与するなど、様々な機能を有している。また、高周波数再構築器1330には、欠落高調波を上位の周波数範囲に導入する機能や、図13aの符号器において適用され算出された場合には逆フィルタを行い、高周波数範囲が一般的には低周波数範囲ほど音調がないという事実に対処する機能がある。HE-AACにおいては、デコーダ側において欠落高調波が再合成され、再構築帯域のちょうど真ん中に配置される。したがって、所定の再構築帯域において決定された全ての欠落高調波線は、オリジナル信号で配置されていた周波数値には配置されない。その代わりに、これらの欠落高調波線は、所定帯域の中心周波数に配置される。よって、オリジナル信号中の欠落高調波線が、オリジナル信号中の再構築帯域の境界に非常に近接して配置されると、この欠落高調波線を再構築信号において帯域の中心に配置することにより生じる周波数エラーは、個別の再構築帯域の50%近くになり、これについてパラメータが生成され送られる。
【0010】
さらに、一般的なオーディオコア符号器は、スペクトル領域で機能するにも関わらず、コアデコーダはなお時間領域信号を生成し、この時間領域信号が、再びフィルタバンク1326機能によりスペクトル領域に変換される。これによって追加的な処理遅延が発生し、またまずスペクトル領域から周波数領域に変形し、そして一般的には再び異なる周波数領域へと変形する直列処理によって、アーティファクトが発生する恐れがある。もちろん、これによって、計算が相当程度複雑になり、相当量の電力が必要となる。この電力の問題は、帯域幅拡張技術が携帯電話やタブレット、ノートパソコンなどの携帯機器に適用された場合、特に問題となる。
【0011】
現在のオーディオコーデックは、符号化スキームの不可分の一部として、BWEを用いて低ビットレートオーディオ符号化を実施する。しかしながら、BWE技術は、高周波数(HF)コンテンツのみを置換することに限定されている。さらに、BWE技術は、所定のクロスオーバー周波数より上の、知覚的に重要なコンテンツを、波形符号化することはできない。したがって、現代のオーディオコーデックは、信号の音の高調波の正確な配列がほとんどのシステムにおいて考慮されないため、BWEが実行されると、HFの詳細または音質のいずれかが喪失される。
【0012】
BWEシステムの現代技術に関する別の課題としては、オーディオ信号を、BWEを実行するための新たな領域に変換する必要があることである(例:MDCTからQMF領域への変換)。これによって、同期性の煩雑化、追加的計算の煩雑性およびメモリ要件の増加などにつながる。
【0013】
図13aおよび図13bに示す周波数帯域複製技術は、ローパスフィルタ1302により、クロスオーバー周波数を超える全てのスペクトル部を完全に除去し、これにより、後続のダウンサンプリング1310が実行される。トーン部は、デコーダ側で、64チャンネル合成フィルタバンクのQMF帯域であるスペクトル帯域複製帯域の中心周波数に再挿入される。したがって、この技術は、クロスオーバー周波数を超える残存トーン部が無いものと仮定している。すぎてしまうと、特にオーディオ信号における過渡部に、プリエコーおよびポストエコーが生じてしまう。
【発明の概要】
【発明が解決しようとする課題】
【0014】
本発明の目的は、符号化オーディオ信号を復号する改善された復号装置を提供することにある。
【課題を解決するための手段】
【0015】
この目的は、特許請求範囲の独立項に記載の復号装置および復号方法、またはその方法を実行するコンピュータプログラムによって達成される。
【0016】
本発明は、再構築信号のオーディオ品質が、IGFにより改善されるという発見に基づいている。その理由は、全スペクトルがコアエンコーダで処理でき、これにより、例えば、高スペクトル領域における知覚的に重要なトーン部も、パラメトリック差分ではなくコア符号器により符号化できるからである。さらに、例えば典型的には低周波数レンジからの第1セットのトーン部である第1セットの第1スペクトル部からの周波数タイル、さらには、可能な場合にはさらに高い周波数レンジからの周波数タイル、を使用するギャップ充填が実行される。しかしながら、デコーダ側でのスペクトル包絡線調整に対して、再構築帯域に配置される第1セットの第1スペクトル部からのスペクトル部には、例えばスペクトル包絡線調整のような、さらなる後処理は行われない。コアデコーダからのものではない再構築帯域の残りのスペクトル値は、包絡線情報を用いて包絡線調整される。包絡線情報は、望ましくは、再構築帯域内の第1セットの第1スペクトル部および同じ再構築帯域内の第2セットの第2スペクトル部の全エネルギを考慮した全帯域包絡線情報である。ここで、第2セットの第2スペクトル部のスペクトル値はゼロと示され、したがって、コアデコーダでは符号化されず、低解像度エネルギ情報でパラメトリックに符号化される。
【0017】
エネルギの絶対値が、対応する帯域の帯域幅で正規化されたものでも、正規化されていないものでも有用であり、デコーダ側での適用に非常に有効であることが見出された。これは、特に、利得ファクタが、再構築帯域の残留エネルギ再構築帯域、消失エネルギおよび再構築帯域の周波数タイル情報に基づいて計算される場合にそうである。
【0018】
さらに、符号化されたビットストリームが、再構築帯域に対するエネルギ情報だけでなく、付加的に、最大周波数まで延びるスケールファクタ帯域に対するスケールファクタをカバーすることが望ましい。これは、特定のトーン部、すなわち第1スペクトル部がある各再構築帯域に対して、この第1セットの第1スペクトル部が実際に正しい振幅で符号化されることを確実にする。さらに、各再構築帯域に対するスケールファクタに加えて、この再構築帯域に対するエネルギが、エンコーダで生成され、デコーダに送信される。さらに、再構築帯域は、スケールファクタ帯域に一致し、またはエネルギをグループ分けする場合には、少なくとも再構築帯域の境界が、スケールファクタ帯域の境界に一致する。
【0019】
他の側面は、帯域幅拡張の分離に関する問題と、コア符号化に関する問題が、コアデコーダが機能する同じスペクトル領域において帯域幅拡張を実施することにより、解決され克服されるという知見に基づいている。したがって、全てのオーディオ信号範囲を符号化し復号化するフルレートのコアデコーダが提供される。これは、エンコーダ側におけるダウンサンプラ、およびデコーダ側におけるアップサンプラを要しない。その代わりに、すべての処理がフルサンプリングレートまたはフル帯域幅領域において実施される。高符号化ゲインを得るために、オーディオ信号は、高解像度で符号化される第1セットの第1スペクトル部を見つけるべく解析される。一実施形態においては、この第1セットの第1スペクトル部には、オーディオ信号の音調部が含まれる。一方、第2セットの第2スペクトル部を構成するオーディオ信号における非音調成分またはノイズ成分は、低スペクトル解像度でパラメトリックに符号化される。そして、符号化オーディオ信号は、波形保存手法により高スペクトル解像度で符号化された第1セットの第1スペクトル部、および第1セットから供給される周波数「タイル」を用いて低解像度でパラメトリックに符号化された第2セットの第2スペクトル部のみを必要とする。デコーダ側においては、フル帯域デコーダとしてのコアデコーダは、波形保存手法により(つまり、何か追加的周波数の再生がなされたことを知らなくとも)、第1セットの第1スペクトル部を再構築する。しかしながら、そのように生成されたスペクトルは、たくさんのスペクトルギャップを有する。これらのギャップは、パラメトリックデータ適用する周波数再生、およびソーススペクトル範囲(つまり、フルレートオーディオデコーダによって再構築される第1スペクトル部)を用いて、発明的なインテリジェントギャップ充填(IGF)技術により、事後に充填される。
【0020】
他の実施形態においては、帯域幅複製または周波数タイル充填よりもむしろ、ノイズ充填によってのみ再構築されたスペクトル部が、第3セットの第3スペクトル部を構成する。符号化概念は、コア符号化/復号化および周波数再生用の単一領域において機能するという事実のため、IGFは、周波数再生を伴わないノイズ充填をするか、または異なる周波数範囲の周波数タイルを使って周波数再生することのいずれかにより、より高周波数の範囲を充填するのに限定されるのみならず、より低周波数の範囲を充填することもできる。
【0021】
さらに、スペクトルエネルギに関する情報、個別エネルギに関する情報または個別エネルギ情報、残存エネルギに関する情報または残存エネルギ情報、タイルエネルギに関する情報またはタイルエネルギ情報、あるいは欠落エネルギに関する情報または欠落エネルギ情報は、エネルギ値を有するのみならず、(例えば絶対的な)振幅値、レベル値またはその他値をも有し、これらから最終的なエネルギ値が求められる。したがって、エネルギに関する情報は、例えばエネルギ情報それ自体、および/またはレベルおよび/または振幅および/または絶対振幅の値を含んでもよい。
【0022】
他の側面は、相関状況がソースレンジにとって重要であるのみならず、対象範囲にとっても重要であるという知見に基づく。さらに、本発明は、ソースレンジと対象レンジとで、異なる相関状況が生じ得る状況を加味している。例えば、高周波数ノイズを有する音声信号を検討してみると、スピーカを真ん中に配置したときに、少量の倍音を有する音声信号を含む低周波数帯域が、左チャンネルおよび右チャンネルにおいて相関が高い状況がありえる。しかしながら、高周波数部分については、左側には異なる高周波数ノイズがある一方、右側には別の高周波数ノイズがあるか、または高周波数ノイズがないということがありえるという事実から、強固な相関はありえない。よって、この状況を無視した直接的なギャップ充填が実施されてしまうと、高周波数部分も相関をもってしまい、これによって、再構築信号において、重大な空間分離アーティファクトが生成されるおそれがある。この問題を解決するためには、再構築帯域用のパラメトリックデータ、または、一般的に、第1セットの第1スペクトル部を使用して再構築されなければならない第2セットの第2スペクトル部用のパラメトリックデータを計算して、第2スペクトル部(換言すると、再構築帯域)の第1または第2の異な2チャンネル表現のいずれかを識別する。したがって、エンコーダ側において、2チャンネル識別は、第2スペクトル部、つまり、再構築帯域のためのエネルギ情報が追加的に計算される部分について、計算される。そして、デコーダ側における周波数再生器は、第1セットの第1スペクトル部の第1部分、つまりスペクトル包絡線エネルギ情報やその他スペクトル包絡線データなどのような第2部分のためのソースデータおよびパラメトリックデータに依拠して、さらに第2部分のための2チャンネル識別情報(再考下のこの再構築帯域のための2チャンネル識別情報)に依拠して、第2スペクトル部を再生する。
【0023】
2チャンネル識別情報は、各再構築帯域についてフラグとして送信されることが好ましく、またエンコーダからデコーダにデータが送信され、そしてデコーダが、コア帯域について好適に算出されたフラグが示すコア信号を復号する。実施においては、コア信号は、ステレオ表現(例えば、右/左、中央/サイド)の両方ともに蓄積され、そしてIGF周波数タイル充填については、インテリジェントギャップ充填または再構築帯域(つまり対象範囲)について2チャンネル識別情報フラグによって示される対象タイル表現に合うよう、ソースタイル表現が選択される。
【0024】
この手順は、ステレオ信号(つまり左チャンネルおよび右チャンネル)について機能するのみならず、多チャンネル信号についても機能する。多チャンネル信号の場合、異なるチャンネルの異なる組み合わせについて、左右チャンネルを第1組み合わせとし、左サラウンドチャンネルおよび右サラウンドチャンネルを第2組み合わせとし、中央チャンネルおよび重低音強調効果チャンネルを第3組み合わせとするなどして、処理をすることができる。7.1チャンネルや11.1チャンネルなどのより高度な出力チャンネルフォーマットについては、その他の組み合わせとしてもよい。
【0025】
その他の側面は、信号適応周波数タイル充填スキームを適用することにより、オーディオ品質における所定の品質低下が改善されるという知見に基づく。このため、所定の目標領域にもっとも適合するソース領域候補を見つけるべく、エンコーダ側の解析がなされる。対象領域のために、所定のソース領域を選択的な追加情報とともに特定する整合情報は、サイド情報として生成されデコーダに対して送信される。デコーダは、整合情報を用いて、周波数タイル充填処理を行う。このため、デコーダは、送信済データストリームまたはデータファイルから整合情報を読み取り、所定の再構築帯域のために特定されたソース領域にアクセスする。そして、もし整合情報において示されている場合には、再構築帯域のためのスペクトル生データを生成するために、このソース領域データについて追加的に処理を実行する。そして、音調部などの第1スペクトル部も有する再構築帯域を最終的に入手するために、スペクトル包絡線情報を使って、周波数タイル充填処理の結果(つまり、再構築帯域のスペクトル生データ)を形作る。しかしながら、これらの音調部は、適応タイル充填スキームによって生成されるわけではなく、これらの第1スペクトル部は、オーディオデコーダまたはコアデコーダによって直接に出力される。
【0026】
適応スペクトルタイル選択スキームは、低粒度で実行してもよい。実施においては、ソース領域を、一般的なオーバーラップソース領域と対象領域とに細分化し、あるいは再構築帯域を、非オーバーラップ周波数対象領域により得る。そして、各ソース領域と各対象領域との間の類似性を符号器側で決定し、もっとも整合するソース領域と対象領域の組み合わせを整合情報として特定する。一方、デコーダ側において、整合情報で特定されたソース領域を、再構築帯域のためのスペクトル生データを生成するために用いる。
【0027】
高粒度化するために、各ソース領域は、類似性が最大の場合には、所定程度遅滞させるために、シフト可能とされる。この遅滞は、周波数ビンと同程度の精度を有してもよく、そしてソース領域と対象領域とのよりよい整合が図れる。
【0028】
さらに、もっともよく整合する組み合わせを特定することのみを追加して、この相関遅延も、整合情報内で送信されてもよく、またサイン(正負符合)さえもが送信されてもよい。このサインが符号器側において負であると判定された場合は、対応するサインフラグも整合情報内で送信され、そしてデコーダ側で、ソース領域のスペクトル値に対して-1が乗じられるか、あるいは複素数表現の場合には、180度「回転」させる。
【0029】
本発明のさらなる実施形態によると、タイル白色化手順を実施する。スペクトルの白色化によって、粗いスペクトル包絡線情報が除去され、タイル類似性を評価するのに主要なスペクトル微細構造が強調される。したがって、周波数タイルおよび/またはソース信号は、クロス相関度を計算する前に白色化される。所定の手順によってタイルのみが白色化される場合には、デコーダに対して、同様の所定の白色化手順がIGF内の周波数タイルについて適用されるべきであることを示す白色化フラグが送信される。
【0030】
タイルの選択に関して、相関の遅延を利用して、再生されたスペクトルを変形ビンの整数分だけシフトすることが好ましい。基礎となる変形によっては、スペクトルのシフトにおいては、追加的な修正を要する。奇数の遅延の場合には、時間的シーケンスの-1/1を変更することにより、タイルを乗数によって追加的に変調して、全てのその他帯域の周波数逆転表現がMDCT内で相殺される。さらに、相関結果のサインは、周波数タイルを生成する際に適用される。
【0031】
さらに、迅速に変化するソース領域により同じ再構築領域または対象領域についてアーティファクトが生じるのを避けられるよう確保するために、タイルの切り詰めおよび安定化処理をすることが好ましい。このため、識別された異なるソース領域間の類似性解析を実施し、ソースタイルが類似性の閾値を超えて他のソースタイルと類似するときには、このソースタイルは、潜在的ソースタイルのセットから除外されてもよい。というのも、これは、他のソースタイルと高い相関を有するからである。また、タイル選択安定化処理の一種として、現在のフレームにおけるいずれのソースタイルも、現在のフレームにおける対象タイルと相関を有しない(所定の閾値を超えない)場合には、タイルの順番を前回フレームから保つことが好ましい。
【0032】
さらなる側面は、特に、オーディオ信号において頻繁に発生する過渡部を有する信号について、時間領域雑音整形(TNS)技術または時間領域タイル整形(TTS)技術と高周波数再構築とを組み合わせることにより、品質を改善しビットレートを削減することができるという知見に基づくものである。エンコーダ側のTNS/TTS処理が、周波数の予測によって実行され、オーディオ信号の時間包絡線を再構築する。実施次第では(つまり、時間領域雑音整形フィルタが、ソース周波数範囲だけでなく目的周波数範囲までをも対象とする周波数範囲において決定され、周波数再生デコーダにおいて再構築される場合には)、ギャップ充填開始周波数に達するまで、時間包絡線がコアオーディオ信号に対して適用されるだけでなく、時間包絡線が再構築第2スペクトル部のスペクトル範囲にも適用される。したがって、時間領域タイル整形がなければ生じていたプリエコーまたはポストエコーが減少または除去される。これは、所定のギャップ充填開始周波数に達するまでのコア周波数範囲内のみならず、コア周波数範囲を超えた周波数範囲内においても、周波数に対する逆予測を適用することにより達成される。このため、周波数の再生または周波数タイルの再生が、周波数に対する予測適用の前に、デコーダ側において実施される。しかしながら、周波数に対する予測は、フィルタリング後のまたは包絡線整形前の(全)スペクトル値の後のスペクトル残差値に対して、エネルギ情報計算が実施されたか否か次第で、スペクトル包絡線整形の前または後のいずれかに適用すればよい。
【0033】
1つ以上の周波数タイルに対するTTS処理によって、ソース範囲および再構築範囲間、または近接する2つ再構築範囲もしくは周波数タイル間の相関性の継続が追加的に設定される。
【0034】
実施においては、複素TNS/TTSフィルタリングを使用するのが好ましい。それによって、MDCTのようなクリティカルサンプルされた実数表現において、(時間的)エイリアシングアーティファクトが避けられる。複素TNSフィルタは、複素変形変換に加えて、修正離散コサイン変換だけでなく修正離散サイン変換を適用することにより、エンコーダ側で算出できる。それにも関わらず、修正離散コサイン変換値(つまり、複素変換の実数部分)のみが送信される。しかしながら、デコーダ側においては、前回のまたは後続のフレームのMDCTスペクトルを使って、当該変換の虚数部分を推定することができる。そして、それによってデコーダ側においては、周波数に対する逆予測、ならびに特にソース範囲と再構築範囲の境界線、および再構築範囲における周波数近接周波数タイル間の境界線に対する予測において、複素フィルタを再び適用することができる。
【0035】
本発明に係るオーディオ符号化システムは、広範囲のビットレートにより、任意のオーディオ信号を効率的に符号化する。高ビットレートにおいては、本発明のシステムは、透明性に集中する一方、低ビットレートにおいては、知覚的な不快感が最小限化される。そのため、利用可能なビットレートの主要な部分は、エンコーダにおいて、知覚的にもっとも適切な信号構造に波形符号化することに用いられる。そして、その結果としてのスペクトルギャップは、デコーダにおいて、元来のスペクトルに大まかに近接した信号コンテンツによって充填される。エンコーダからデコーダに対して送信される専用のサイド情報によって、相当に限られたビット配分のみが、パラメータ駆動されるいわゆるスペクトルインテリジェントギャップ充填(IGF)を制御するのに消費される。
【0036】
本発明の好適な実施形態を、以下、添付図面を参照して説明する。
【図面の簡単な説明】
【0037】
図1A図1aは、オーディオ信号を符号化する装置を示す図である。
図1B図1bは、図1aのエンコーダと整合する符号化されたオーディオ信号を復号するデコーダを示す図である。
図2A図2aは、デコーダの好適な実施形態を示す図である。
図2B図2bは、エンコーダの好適な実施形態を示す図である。
図3A図3aは、図1bのスペクトル領域デコーダによって生成されたスペクトル表現を示す概略図である。
図3B図3bは、換算係数帯域用の換算係数と、再構築帯域用のエネルギと、ノイズ充填帯域用のノイズ充填情報との関係を示す表である。
図4A図4aは、スペクトル部の選択を第1および第2セットのスペクトル部に対して適用するスペクトル領域エンコーダの機能を示す図である。
図4B図4bは、図4aの機能の実施形態を示す図である。
図5A図5aは、MDCTエンコーダの機能を示す図である。
図5B図5bは、MDCT技術とデコーダの機能を示す図である。
図5C図5cは、周波数再生器の実施形態を示す図である。
図6A図6aは、時間的ノイズ整形/時間的タイル整形機能を有するオーディオコーダを示す図である。
図6B図6bは、時間的ノイズ整形/時間的タイル整形技術を有するデコーダを示す図である。
図6C図6cは、時間的ノイズ整形/時間的タイル整形機能のさらなる機能を、異なる順番のスペクトル予測フィルタおよびスペクトル整形器とともに示す図である。
図7A図7aは、時間的タイル整形(TTS)機能の実施形態を示す図である。
図7B図7bは、図7aのエンコーダの実施形態と整合するデコーダの実施形態を示す図である。
図7C図7cは、オリジナル信号のスペクトルと、TTSを有しない拡張信号のスペクトルを示す図である。
図7D図7dは、インテリジェントギャップ充填周波数と時間的タイル整形エネルギとの間の通信を示す周波数表現を示す図である。
図7E図7eは、オリジナル信号のスペクトルと、TTSを有する拡張信号のスペクトルを占めす図である。
図8A図8aは、周波数生成を伴う2チャンネルデコーダを示す図である。
図8B図8bは、表現とソース/目標レンジの異なる組合せを示す表である。
図8C図8cは、図8aの周波数生成を伴う2チャンネルデコーダの機能を示すフローチャートである。
図8D図8dは、図8aのデコーダの詳細なる実施形態を示す図である。
図8E図8eは、図8aのデコーダによって復号されるべき2チャンネル処理のためのエンコーダの実施形態を示す図である。
図9A図9aは、エネルギ値を再生周波数範囲に使用する周波数生成技術を有するデコーダを示す図である。
図9B図9bは、図9aの周波数再生器のさらに詳細なる実施形態を示す図である。
図9C図9cは、図9bの機能を概略的に示す図である。
図9D図9dは、図9aのデコーダのさらなる実施形態を示す図である。
図10A図10aは、図9aのデコーダと整合するエンコーダのブロック図である。
図10B図10bは、図10aのパラメータ計算器のさらなる機能の実施形態を示すブロック図である。
図10C図10cは、図10aのパラメータ計算器のさらなる機能の実施形態を示すブロック図である。
図10D図10dは、図10aのパラメータ計算器のさらなる機能の実施形態を示すブロック図である。
図11A図11aは、デコーダにおけるスペクトルタイル充填手順のために、所定のソース範囲の特定をする別のデコーダを示す図である。
図11B図11bは、図11aの周波数再生器のさらなる機能を示す図である。
図11C図11cは、図11aのデコーダと連携して使用されるエンコーダを示す図である。
図11D図11dは、図11cのパラメータ計算器の実施形態を示すブロック図である。
図12A図12aおよび12bは、ソース範囲および対象範囲を示す周波数図である。
図12C図12cは、2つの信号の相関性例の見取り図である。
図13A図13aは、帯域幅拡張を有する従来の符号器を示す図である。
図13B図13bは、帯域幅拡張を有する従来のデコーダを示す図である。
【発明を実施するための形態】
【0038】
図1aは、オーディオ信号99を符号化する装置を示す。オーディオ信号99は、あるサンプリングレートを有するオーディオ信号をスペクトル表現101へと変換する時間スペクトル変換器100に入力され、変換されたスペクトル表現101が、時間スペクトル変換器により出力される。スペクトル101は、スペクトル表現101を解析するスペクトル解析器102に入力される。スペクトル解析器101は、第1スペクトル解像度により符号化されるべき第1セットの第1スペクトル部103(第1スペクトル部の集合)と、第2スペクトル解像度により符号化されるべき別の第2セットの第2スペクトル部105(第2スペクトル部の集合)とを決定するよう構成される。第2スペクトル解像度は、第1スペクトル解像度よりも小さい。第2セットの第2スペクトル部105は、第2スペクトル解像度を有するスペクトル包絡線情報を計算するパラメータ計算器すなわちパラメトリック符号器104に入力される。さらに、第1スペクトル解像度を有する第1セットの第1スペクトル部の第1符号化表現107を生成するために、スペクトル領域オーディオコーダ106が設けられる。また、パラメータ計算器すなわちパラメトリック符号器104は、第2セットの第2スペクトル部の第2符号化表現109を生成するよう構成される。第1符号化表現107と第2符号化表現109とは、ビットストリーム多重変換装置またはビットストリーム形成器108に入力され、ビットストリーム形成器108は、最終的に、送信または蓄積装置における蓄積のために、符号化されたオーディオ信号を出力する。
【0039】
一般的に、図3aの306などの第1スペクトル部は、307aや307bのような2つの第2スペクトル部によって取り囲まれている。コア符号化周波数範囲が帯域的に制限されているHE AACの場合には、この限りではない。
【0040】
図1bは、図1aのエンコーダと整合するデコーダを示す。第1符号化表現107は、第1セットの第1スペクトル部の第1復号化表現を生成するスペクトル領域オーディオデコーダ112に入力される。さらに、第2符号化表現109は、第1スペクトル解像度よりも低い第2スペクトル解像度を有する第2セットの第2スペクトル部の第2復号化表現を生成するパラメトリックデコーダ114に入力される。
【0041】
デコーダは、第1解像度を有する再構築第2スペクトル部を、第1スペクトル部を使って再生する周波数再生器116をさらに有する。周波数再生器116は、タイル充填手順を実行する。つまり、第1セットの第1スペクトル部のタイルまたは部分を使って、第1セットの第1スペクトル部を、第2スペクトル部を有する再構築レンジまたは再構築帯域にコピーする。そして、一般的には、パラメトリックデコーダ114により出力された復号された第2表現により示されるように、すなわち、第2セットの第2スペクトル部に関する情報を使って、スペクトル包絡線整形処理、またはその他の手順を実行する。復号化された第1セットの第1スペクトル部と、線117上の周波数再生器116の出力に示される再構築された第2セットのスペクトル部とは、スペクトル時間変換器118に入力される。このスペクトル時間変換器118は、第1復号表現と再構築された第2スペクトル部とを、所定の高サンプリングレートを有する時間表現119に変換するよう構成される。
【0042】
図2bは、図1aのエンコーダの実施形態を示す。オーディオ入力信号99は、図1aの時間スペクトル変換器100に対応する解析フィルタバンク220に入力される。そして、TNSブロック222において、時間領域雑音整形処理が実行される。したがって、図2bのブロック音調マスク226に対応する図1aのスペクトル解析器102は、時間ノイズ整形/時間タイル整形処理が適用されないときには、全スペクトル値となり、図2bのブロック222に示すTNS処理が適用されるときには、スペクトル残差値となる。2チャンネル信号または多チャンネル信号の場合、ジョイントチャンネル符号化228が追加的に実施されてもよく、図1aのスペクトル領域エンコーダ106には、ジョイントチャンネル符号化ブロック228が含まれてもよい。さらに、可逆データ圧縮を実施するエントロピー符号器232が設けられ、これは、図1aのスペクトル領域エンコーダ106の一部となる。
【0043】
スペクトル解析器/音調マスク226は、TNSブロック222の出力を、コア帯域と、第1セットの第1スペクトル部103に対応する音調成分と、図1aの第2セットの第2スペクトル部105に対応する残留成分とに分別する。IGFパラメータ抽出符号化手順として表示されるブロック224は、図1aのパラメトリック符号器104に対応し、ビットストリーム多重変換装置230は、図1aのビットストリーム多重変換装置108に対応する。
【0044】
解析フィルタバンク222がMDCT(変更離散コサイン変換フィルタバンク)として実施され、MDCTを使って、変更離散コサイン変換を周波数解析ツールとして機能させて、信号99を時間-周波数領域に変換することが好ましい。
【0045】
スペクトル解析器226は、音調マスクを適用することが好ましい。この音調マスク推定段階は、信号中のノイズ様成分から音調成分を分別するのに用いられる。これによって、コア符号器228が全ての音調成分を心理音響モジュールによって符号化することができる。音調マスク推定段は、いくつもの異なる方法によって実施されてもよく、音声/オーディオ符号化(非特許文献8,9)用の正弦およびノイズモデリング、または非特許文献10に記載されるHILNモデル系オーディオコーダにおいて用いられる正弦トラック推定段と機能的に同様に実施されるのが好ましい。実施形態としては、生死軌跡を維持する必要なく簡単に実施できることが好ましいが、その他の音調またはノイズ検出器を用いてもよい。
【0046】
IGFモジュールは、ソース領域と対象領域との間に存在する類似性を計算する。対象領域は、ソース領域からのスペクトルにより表現される。ソース領域と対象領域との類似点を測ることは、クロス相関性アプローチを用いて行われる。対象領域は、非オーバーラップ周波数タイルnTarに分解される。対象領域における全てのタイルについて、固定開始周波数からソースタイルnSrcが整形される。これらのソースタイルは、0および1の間の要素によってオーバーラップし、ここで0とは0%のオーバーラップを、1とは100%のオーバーラップを意味する。これらのソースタイルのそれぞれは、対象タイルに最もマッチするソースタイルを見つけるための様々な遅延において、対象タイルと相関性を有する。最もマッチするタイルの数は、tileNum[idxtar]に記憶され、対象と最も相関性を有する遅延は、xcorrlag[idxtar][idxsrc]に記憶され、相関性のサインは、xcorrsign[idxtar][idxsrc]に記憶される。相関性が極めて否定的な場合には、ソースタイルは、デコーダにおけるタイル充填処理の前に、-1を乗じる必要がある。IGFモジュールはまた、音調成分が音調マスクを使って保存されていないため、スペクトルにおける音調成分を上書きしないよう注意する必要がある。帯域側のエネルギパラメータは、対象領域のエネルギを蓄積するのに用いられ、これによってスペクトルを正確に再構築することができる。
【0047】
この方法は、正弦曲線間のギャップがソース領域からの最も整合する「整形ノイズ」により充填される一方、マルチ音調信号の倍音グリットがコア符号器によって保存されるという点で、伝統的なSBR(非特許文献1)に対して利点がある。ASR(精密スペクトル置換)(非特許文献2-4)と比べて、このシステムの別の利点としては、デコーダにおいて信号の重要部分を作り出する信号合成段がないということが挙げられる。その代わり、この作業はコア符号器によって実行される。よって、スペクトルの重要性分を保存できる。提案システムの別の利点としては、その機能が提案する継続的なスケーラビリティが挙げられる。全てのタイルについて単にtileNum[idxtar]とxcorrlag=0とを使用することは、総粒度マッチングと称され、低ビットレートに使用することができる。一方、可変的なxcorrlagを全てのタイルに使用すると、対象スペクトルとソーススペクトルの整合性がより良くなる。
【0048】
さらに、トリリングやミュージカルノイズなどの周波数領域アーティファクトを除去するタイル選択安定化技術が提案されている。
【0049】
ステレオチャンネルのペアの場合には、追加的ジョイントステレオ処理が適用される。この処理は必要であり、というのも、ある目標レンジにおいては、信号が高い相関性を有する定位音源である場合があるためである。この特定の領域について選択された音源領域があまり相関を有しない場合には、目標領域についてエネルギが整合していても、相関しない音源領域によって空間像が悪化する場合がある。エンコーダは、一般的にはスペクトル値のクロス相関処理をして、各目標領域のエネルギ帯域を解析して、もし所定の閾値を超過している場合には、このエネルギ帯域にジョイントフラグを設定する。デコーダにおいて、左右チャンネルのエネルギ帯域は、このジョイントステレオフラグが設定されていない場合、個別に処理される。ジョイントステレオフラグが設定されている場合、両方のエネルギおよびパッチングがジョイントステレオ領域において実行される。IGF領域におけるジョイントステレオ情報は、コア符号処理におけるジョイントステレオ情報と同様に信号化され、予測の場合には、予測の方向性がダウンミックスからの残差なのか、それともその逆なのか、を示すフラグが含まれる。
【0050】
エネルギは、L/R領域の送信済エネルギから計算することができる。
midNrg[k]=leftNrg[k]+rightNrg[k];
sideNrg[k]=eftNrg[k]-rightNrg[k];
ここで、kは変形領域における周波数指数である。
【0051】
その他の解決としては、ジョイントステレオが積極的な帯域については、ジョイントステレオ領域において直接エネルギを計算および送信し、デコーダ側にける追加的エネルギ変形を不要とすることが挙げられる。
【0052】
ソースタイルは、常に、ミッド/サイドマトリック:
midTile[k]=0.5・(leftTile[k]+rightTile[k]
sideTile[k]=0.5・(leftTile[k]-rightTile[k]
エネルギ調整:
midTile[k]=midTile[k]*midNrg[k];
sideTile[k]=sideTile[k]*sideNrg[k];
ジョイントステレオ→LR変換:
何ら追加的予測パラメータが符号化されていない場合:
leftTile[k]=midTile[k]+sideTile[k]
rightTile[k]=midTile[k]-sideTile[k]
追加的な予測パラメータが必要な場合で、信号化された方向性がミッドからサイドの場合:
sideTile[k]=sideTile[k]-predictionCoeff・midTile[k]
leftTile[k]=midTile[k]+sideTile[k]
rightTile[k]=midTile[k]-sideTile[k]
信号化された方向性がサイドからミッドの場合:
midTile1[k]=midTile[k]-predictionCoeff・sideTile[k]
leftTile[k]=midTile1[k]-sideTile[k]
rightTile[k]=midTile1[k]+sideTile[k]
に従って生成される。
【0053】
この処理によって、相関性の高い目標領域と定位目標領域とを再生するのに用いられたタイルから生じた左右チャンネルが、たとえ音源領域が相関を有しないとしても、当該領域のステレオイメージを保存し、相関性を有する定位音源を示すよう確保できる。
【0054】
つまり、ビットストリームにおいては、例えばL/RまたはM/Sのいずれを総合ジョイントステレオ符号化処理に用いるべきかを示すジョイントステレオフラグが送信される。デコーダにおいては、まずコア帯域についてジョイントステレオフラグの示す通り、コア信号が復号される。第二に、コア信号は、L/RおよびM/S表現の両方に蓄積される。IGFタイル充填について、ソースタイル表現が選択され、IGF帯域に関するジョイントステレオ情報の示す対象タイル表現に合うようされる。
【0055】
時間領域雑音整形(TNS)は、標準技術であり、AAC(非特許文献11-13)の一部である。TNSは、知覚符号化の基本スキームを延長したものと考えられ、フィルタバンクと量子化段の間に、オプションとしての処理工程を挿入する。TNSモジュールのメイン作業は、過渡的な信号の時間的マスキング領域において、生成された量子化ノイズを隠すことであり、これによって、効率的な符号化スキームとなる。まず、TNSは、例えばMDCTのような変形領域において、「前方予測」を用いて予測係数セットを算出する。そして、これらの係数は、信号の時間包絡線をフラット化するのに用いられる。量子化によってTNSフィルタスペクトルが影響を受けるため、量子化ノイズも一時的にフラットである。デコーダ側において、逆TNSフィルタリングを適用することで、量子化ノイズがTNSフィルタの時間包絡線に従って整形され、よって量子化ノイズがその過渡性によりマスクされる。
【0056】
IGFは、MDCT表現に基づく。効率的符号化のためには、好ましくは、約20msの長ブロックを用いなければならない。このような長ブロック内における信号が過渡を含む場合、IGFスペクトル帯域において、タイル充填により、可聴のプリ・ポストエコーが発生する。図7cは、過渡開始前の、IGFによる一般的なプリエコー効果を示す。左側において、オリジナル信号のスペクトル写真が示され、右側において、TNSフィルタリングなしで拡張された帯域幅のスペクトル写真が示される。
【0057】
このプリエコー効果は、IGF環境においてTNSを用いることにより低減される。ここでTNSは、デコーダにおけるスペクトル再生がTNS残差信号に対して実行されるため、時間領域タイル整形ツール(TTS)として用いられている。必要となるTTS予測係数は、通常通り、エンコーダ側における全スペクトルを用いて計算され、適用される。TNS/TTS開始および停止周波数は、IGFツールのIGF開始周波数fIGFsrartによって影響されない。伝統的なTNSと比較して、TTS停止周波数は、fIGFsrartよりも高いIGFツールの停止周波数まで増加される。デコーダ側において、TNS/TTS係数が再び全スペクトルにて適用される。つまり、コアスペクトル+再生スペクトル+音調マップからの音調成分である(図7eを参照)。TTSの適用は、再生スペクトルの時間包絡線がオリジナル信号の包絡線と整合するよう形成するのに必要である。したがって、示されたプリエコーは低減される。さらに、TNSには通常のことではあるが、それによってfIGFsrartより下の信号における量子化ノイズが依然として形成される。
【0058】
伝統的なデコーダにおいては、オーディオ信号に対するスペクトルパッチングは、パッチ境界におけるスペクトル相関を害する。それによって、分散が生じ、オーディオ信号の時間包絡線が害される。よって、残差信号に対してIGFタイル充填を実施する別のメリットとしては、整形フィルタを適用した後、タイル境界がシームレスに相関し、信号をより忠実に時間的に再生することができることが挙げられる。
【0059】
本発明に係るエンコーダにおいては、TNS/TTSフィルタリング処理、音調マスク処理およびIGFパラメータ予測処理を経たスペクトルは、音調成分を除き、IGF開始周波数より上の信号は存在しない。まばらなスペクトルが今、算術符号化および予測符号化の原則によって、コア符号器により符号化される。これらの符号化成分は、信号のビットとともに、オーディオのビットストリームを形成する。
【0060】
図2aは、対応するデコーダの実施形態を示す。符号化オーディオ信号に相当する図2aのビットストリームは、図1bであればブロック112および114に接続される多重分離装置/デコーダに入力される。ビットストリーム多重分離装置は、入力オーディオ信号を、図1bの第1符号化表現107と図1bの第2符号化表現109とに分離する。第1セットの第1スペクトル部を有する第1符号化表現は、図1bのスペクトル領域デコーダ112に対応するジョイントチャンネル復号ブロック204に入力される。第2符号化表現は、図2aに図示されないパラメトリックデコーダ114に入力され、そして図1bの周波数再生器116に対応するIGFブロック202に入力される。周波数再生に必要な第1セットの第1スペクトル部は、線203を経てIGFブロック202に入力される。さらに、ジョイントチャンネル復号処理204の後、音調マスクブロック206において、音調マスク206の出力がスペクトル領域符号器112の出力と対応するよう、特定のコア復号処理が適用される、そして、合成器208による合成が実行され、合成器208の出力がフルレンジのスペクトルを有するが、それでいて、TNS/TTSフィルタ領域内にあるというフレーム構成が作成される。そして、ブロック210において、逆TNS/TTS処理が、線109を介して供給されるTNS/TTSフィルタ情報を用いて実行される。つまり、好ましくは、TTSサイド情報が、スペクトル領域エンコーダ106によって生成される第1符号化表現に含まれる。スペクトル領域エンコーダ106は、例えば、直接的なAACまたはUSACコアエンコーダであってもよく、あるいは第2符号化表現に含まれてもよい。ブロック210の出力において、最大周波数までの全スペクトルを得ることができ、これはオリジナル入力信号のサンプリングレートによって定められるフルレンジの周波数である。そして、スペクトル/時間変換が合成フィルタバンク212において実行され、オーディオ出力信号が最終的に得られる。
【0061】
図3aは、スペクトル表現を表す概略図である。スペクトルは、スケールファクタ帯域SCBに分割され、図3aにおける図示例においては、7つのスケールファクタ帯域SCB1~SCB7がある。スケールファクタ帯域は、AAC規格に定められるAACスケールファクタ帯域であってもよく、図3aにその概略が図示される通り、上側の周波数まで増加する帯域を有してもよい。スペクトルの当初から(つまり低周波数から)インテリジェントギャップ充填を実行するのではなく、IGF手順を309にて図示するIGF開始周波数で開始することが好ましい。したがって、コア周波数帯域は、最低周波数からIGF開始周波数まで存在する。IGF開始周波数より上においては、スペクトル解析を適用して、高解像度のスペクトル成分304、305、306、307(第1セットの第1スペクトル部)を、第2セットの第2スペクトル部の示す低解像度成分から分離する。図3aは、スペクトル領域エンコーダ106またはジョイントチャンネル符号器228に例示的に入力されるスペクトルを示し、つまりコアエンコーダがフルレンジで機能しているが、相当量のスペクトル値0を符号化している。これらのスペクトル値0は、ゼロに量子化されるか、または量子化の前または後にゼロに設定される。いずれにせよ、エンコーダは、フルレンジで動作し、スペクトルがその通り表現されているかのように、すなわち、いずれのインテリジェントギャップ充填についても、第2セットの第2スペクトル部の符号化が低スぺクトル解像度で符号化されていることも、知る必要なしに動作する。
【0062】
好適には、高解像度は、MDCT線のようなスペクトル線の線単位の符号化によって定義づけられ、一方、第2解像度または低解像度は、例えばいくつもの周波数線を対象とするスケールファクタ帯域について、そのスケールファクタ帯域あたりの単一スペクトル値のみを計算することにより定義づけられる。したがって、第2低解像度は、スペクトル解像度については、一般にAACやUSACコアエンコーダなどのコアエンコーダによって適用される線単位符号化によって定義される第1または高解像度よりも、ずっと低い。
【0063】
スケールファクタまたはエネルギ計算について、その状況が図3bに図示される。エンコーダがコアエンコーダであるという事実、および各帯域において第1セットのスペクトル部の成分が含まれ得る(ただし、必ずしも含まれる必要はない)という事実に伴い、コアエンコーダは、IGF開始周波数309より下のコア範囲のみならず、IGF開始周波数より上の最大周波数fIGFstop(これはサンプリング周波数、つまりfs/2の半分以下である)に達するまでの帯域について、IGF開始周波数各帯域についてスケールファクタを計算する。よって、本実施形態において、図3aにおける符号化音調部302、304、305、306、307は、スケールファクタSCB1~SCB7とともに、高解像度スペクトルデータに対応する。低解像度スペクトルデータは、IGF開始周波数から開始して計算され、スケールファクタSF4~SF7とともに送信される、エネルギ情報値E、E、E、Eに対応する。
【0064】
特に、コアエンコーダが低ビットレート状況下にある場合、コア帯域、つまりIGF開始周波数よりも低い周波数(スケールファクタ帯域SCB1~SCB3)において、追加的ノイズ充填手順が適用されてもよい。ノイズ充填においては、ゼロに量子化されたいくつもの近接するスペクトル線が存在する。デコーダ側においては、これらのゼロに量子化されたスペクトル値は再度合成され、この合成されたスペクトル値について、図3bに308として示されるNFなどのノイズ充填エネルギを用いて、その大きさが調整される。特に、USACのように、スケールファクタについて絶対ベースまたは相対ベースで設定され得るノイズ充填エネルギは、ゼロに量子化されたスペクトル値のセットのエネルギに対応する。これらのノイズ充填スペクトル線はまた、第3セットの第3スペクトル部と考えられ、直接的なノイズ充填合成により、ソースレンジおよびエネルギ情報値E、E、E、Eからのスペクトル値を用いた周波数タイルを再構築するためのその他の周波数からの周波数タイルを用いた周波数再生に依拠する周波数タイルIGF手順を適用せずに、再生される。
【0065】
エネルギ情報が計算される帯域は、スケールファクタ帯域と一致することが好ましい。別の実施形態においては、例えばスケールファクタ帯域4および5について単一のエネルギ情報値のみが送信されるよう、エネルギ情報値のグループ分けが適用されるが、この実施形態においても、グループ分けされた再構築帯域は、スケールファクタ帯域の境界と一致する。もし異なる帯域分別が適用された場合には、所定の再計算または同期化計算を適用してもよく、所定の実施形態によってはこれが合理的である。
【0066】
図1aのスペクトル領域エンコーダ106は、図4aに図示されるような心理音響的に駆動されるエンコーダであることが好ましい。一般的には、例えばMPEG2/4のAAC規格またはMPEG1/2レイヤ3規格に示される通り、スペクトル範囲(図4aの401)に変換された後の符号化対象のオーディオ信号は、スケールファクタ算出器400に転送される。スケールファクタ算出器は、心理音響モデルによる制御により、量子化対象のオーディオ信号をさらに受信するか、またはMPEG1/2レイヤ3規格またはMPEGAAC規格の通り、オーディオ信号の復号スペクトル表現を受信する。心理音響モデルは、各スケールファクタ帯域について、心理音響閾値を表現するスケールファクタを算出する。さらに、スケールファクタは、公知の内側および外側反復ループの連携により、またはその他適切なエンコーディング手順により、所定のビットレート条件が満たされるよう調整される。そして、量子化対象スペクトル値と算出スケールファクタとが量子化処理器404に入力される。直接的なオーディオ符号化動作においては、量子化対象スペクトル値は、スケールファクタによって重み付けされ、この重み付けされたスペクトル値が、一般的に上位の振幅範囲まで圧縮する機能を有する固定量子化装置に入力される。そして、量子化処理器の出力においては、エントロピーエンコーダに転送される量子化インデックスが確かに存在する。一般的に、このエントロピーエンコーダは、近接する周波数値のためのゼロ量子化インデックスまたは当該分野におけるいわゆるゼロ値「ラン」のために、特定のかつ相当に効率のよい符号機能を有する。
【0067】
しかしながら、図1aのオーディオエンコーダにおいては、量子化処理器は、一般的に、スペクトル解析器から第2スペクトル部に関する情報を受信する。したがって、量子化処理器404は、その出力において、スペクトル解析器102によって識別された第2スペクトル部がゼロであるか、またはエンコーダもしくはデコーダによってゼロ表現であると認められた表現(特にスペクトルにゼロ値の「ラン」が存在する場合に、相当に効率的に符号化できる表現)を有するよう確保する。
【0068】
図4bは、量子化処理器の実施形態を図示する。MDCTスペクトル値は、ゼロ設定ブロック410に入力することができる。そして、ブロック412におけるスケールファクタによる重み付けが実施される前に、第2スペクトル部が既にゼロに設定される。追加的実施形態においては、ブロック410が設けられず、重み付けブロック412の後に、ブロック418においてゼロ設定の連携が実施される。さらに別の実施形態においては、量子化ブロック420における量子化の後に、ゼロ設定ブロック422においてゼロ設定手順が実施されてもよい。この実施形態においては、ブロック410および418は存在しない。概して、ブロック410、418および422のうち少なくとも1つが、具体的な実施形態に応じて設けられる。
【0069】
そして、ブロック422の出力において、図3aに図示されるものに対応する量子化スペクトルが得られる。そして、この量子化スペクトルは、図2bにおける232のようなエントロピー符号器に入力される。このエントロピー符号器は、例えばUSAC規格に定義されるハフマン符号器または演算符号器であってもよい。
【0070】
ゼロ設定ブロック410、418および422は、互いに交互に、または並列に設けられるが、スペクトル解析器424によって制御される。スペクトル解析器は、公知の音調検知器を有することが好ましく、またはスペクトルを高解像度で符号化される成分と低解像度で符号化される成分とに分別することができる異なる種の検知器を有することが好ましい。その他スペクトル解析器において実行されるアルゴリズムは、異なるスペクトル部に関する解像度要件を、スペクトル情報または関連メタデータに応じて決定する音声活動検出器、ノイズ検出器、音声検出器、その他検出器であってもよい。
【0071】
図5aは、例えばAACやUSACにおいて実施される、図1aの時間スペクトル変換器100の好ましい実施形態を図示する。時間スペクトル変換器100は、過渡検知器504によって制御される窓回路502を有する。過渡検知器504が過渡を検知すると、長い窓から短い窓への切り替えが窓回路502に対して指示される。そして、窓回路502は、オーバーラップしているブロックについて、各窓フレームが一般的に2048値のような2つのN値を有する場合には、窓フレームを計算する。その後、ブロック変換器506内での変換が実施され、このブロック変換器が追加的デシメーションを提供する。そして、デシメーション/変換の結合が実行され、MDCTスペクトル値などのN値を有するスペクトルフレームが得られる。そのため、長窓動作については、ブロック506の入力におけるフレームが、例えば2048値のような2つのN値を有し、そしてスペクトルフレームが1024値を有する。しかしながら、その後、長窓と比較して各短ブロックが1/8の窓時間領域値しか有さず、かつ各スペクトルブロックが長ブロックと比較して1/8のスペクトル値しか有さない場合に8つの短ブロックが実行されたときには、短ブロックに対する切替が実行される。そのため、このデシメーションが窓回路の50%オーバーラップ動作と結合したとき、スペクトルは、時間領域オーディオ信号99のクリティカルサンプルバージョンである。
【0072】
続いて、図1bの周波数再生器116およびスペクトル時間変換器118の特定の実施形態、または図2aのブロック208および212の結合動作の具体的実施形態を示す図5bを参照する。図5bにおいて、特定の再構築帯域が、図3aのスケールファクタ帯域6のように考慮される。この再構築帯域における第1スペクトル部(つまり図3aの第1スペクトル部306)は、フレーム構築/調整ブロック510に入力される。その上、スケールファクタ帯域6のための再構築第2スペクトル部も、フレーム構築器/調整器510に入力される。また、図3bにおけるEのような、スケールファクタ帯域6のためのエネルギ情報もまた、ブロック510に入力される。再構築帯域における再構築第2スペクトル部は、ソースレンジを使って周波数タイル充填により既に生成されており、この再構築帯域が対象レンジに対応する。ここで、フレームのエネルギ調整を実行し、例えば、図2aの結合器208の出力において得られる、N値を有する完全な再構築フレームを最終的に得る。そして、ブロック512において、逆ブロック変換/補間処理を実行して、例えば、ブロック512の入力における124スペクトル値について、248時間領域値を得る。その後、ブロック514において合成窓処理が実行され、これもまた、符号化されたオーディオ信号においてサイド情報として送信される長窓/短窓指示により制御される。そして、ブロック516において、前回時間フレームとのオーバーラップ/加算処理が実行される。各新規の時間フレームが2N値の場合、Nの時間領域値が最終的に出力されるよう、MDCTは、50%オーバーラップ処理を適用することが好ましい。50%オーバーラップ処理によってクリティカルサンプルが提供され、あるフレームから次のフレームへの継続的クロスオーバーが、ブロック516におけるオーバーラップ/加算処理により提供されるという事実からすると、50%オーバーラップ処理が特に好ましい。
【0073】
図3aの301に示す通り、ノイズ充填処理は、IGF開始周波数より下で追加的に適用されるのみならず、図3aのスケールファクタ帯域6と合致する対象再構築帯域などのような、IGF開始周波数より上においても追加的に適用されてもよい。そして、ノイズ充填スペクトル値も、フレーム構築器/調整器510に入力されてもよく、ノイズ充填スペクトル値がこのブロック内にて調整されてもよい。あるいは、ノイズ充填スペクトル値は、フレーム構築器/調整器510に入力されるよりも前に、ノイズ充填エネルギを用いて既に調整されていてもよい。
【0074】
好ましくは、IGF処理(つまりその他の部分からのスペクトル値を使った周波数タイル充填処理)は、全スペクトルに対して適用されてもよい。したがって、スペクトルタイル充填処理は、IGF開始周波数より上の高帯域のみならず、低帯域においても適用されてもよい。また、周波数タイル充填によらないノイズ充填もまた、IGF開始周波数より下のみならず、IGF開始周波数より上でも適用されてもよい。但し、ノイズ充填処理がIGF開始周波数よりも下に限定され、かつ図3aに示される通り、周波数タイル充填処理がIGF開始周波数よりも上に限定されているときに、高品質および高効率のオーディオエンコーディングが得られることが判明している。
【0075】
対象タイル(TT)(IGF開始周波数より大きい周波数を有する)は、フルレート符号器のスケールファクタ帯域境界に結合させることが好ましい。ソースタイル(ST)は、ここから情報を得られるが、IGF開始周波数よりも低周波数であり、スケールファクタ帯域境界と結合していない。STの大きさは、関連するTTの大きさに対応すべきである。これを以下の例を使って示す。TT[0]は、10MDCTビンの長さを有する。これはまさに、2つの後続のSCBの長さ(例えば4+6)に相当する。そして、TT[0]と相関性を有する可能性のある全てのSTもまた、10ビンの長さを有する。TT[0]に近接する第2対象タイルTT[1]は、15ビンの長さを有する(7+8の長さを有するSCB)。そして、そのSTは、TT[0]用の10ビンではなく、15ビンの長さを有する。
【0076】
対象タイルの長さを有するSTについて、TTを見つけられない場合が生じたとき(例えば、TTの長さが利用可能なソースレンジよりも大きいとき)には、相関性は計算されず、対象タイルTTが完全に充填されるまで、ソースレンジが何度もこのTTにコピーされる(このコピーは、第2コピーの最も低い周波数を有する周波数線が、第1コピーの最も高い周波数を有する周波数線の直後に周波数的に来るよう、次から次になされる。)。
【0077】
そして、図1bの周波数生成器116または図2aのIGFブロック202のさらなる好適実施形態を示す図5cを参照する。ブロック522は、対象帯域IDのみならず、さらにソース帯域IDをも受信する周波数タイル生成器である。例示的に、エンコーダ側において、図3aのスケールファクタ帯域3がスケールファクタ帯域7の再構築にかなり適していると決定されている。したがって、ソース帯域IDは2であり、対象帯域IDは7である。この情報に基づき、周波数タイル生成器522は、スペクトル成分523の生の第2部を生成するために、コピー処理や倍音タイル充填処理、その他タイル充填処理を適用する。スペクトル成分の生の第2部は、第1セットの第1スペクトル部に含まれる周波数解像度と同じ周波数解像度を有している。
【0078】
そして、図3aの307などのような再構築帯域の第1スペクトル部は、フレーム構築器524に入力され、生の第2部523もフレーム構築器524に入力される。その後、再構築されたフレームは、ゲイン係数算出器528によって算出された再構築帯域のゲイン係数を利用して、調整器526により調整される。ただし、重要な点としては、フレームにおける第1スペクトル部は、調整器526による影響を受けず、再構築フレームのための生の第2部のみが調整器526の影響を受けることである。このため、ゲイン係数算出器528は、ソース帯域または生の第2部523を解析し、さらに、スケールファクタ帯域7が想定される場合には、調整器526によって出力される調整後フレームのエネルギがエネルギEを有するよう、再構築帯域における第1スペクトル部を追加的に解析して、正しいゲイン係数527を最終的に見出す。
【0079】
この意味では、HE-AACと比べて、本発明による周波数再構築の正確性が高いことを評価することが非常に重要である。これは、図3aにおけるスケールファクタ帯域7について説明される。図13aに図示される従来のエンコーダは、高解像度で符号化されるべきスペクトル部307を「欠落倍音」として検知する。そして、このスペクトル成分のエネルギが、スケールファクタ帯域7などの再構築帯域に関するスペクトル包線絡情報とともに、デコーダに送信される。その後、デコーダが欠落倍音を再生する。しかしながら、欠落倍音307が図13aに示す従来のデコーダによって再構築されるスペクトル値が、再構築周波数390によって示される周波数における帯域7の中央に存在する。よって、本発明は、図13dの従来のデコーダによって生じる周波数エラー391を避けることができる。
【0080】
一実施形態において、スペクトル解析器を実行して、第1スペクトル部と第2スペクトル部の類似性を算出し、算出された類似性に基づき、再構築範囲の第2スペクトル部について、この第2スペクトル部とできる限りマッチする第1スペクトル部を決定する。そして、可変的ソース範囲/対象範囲の実行において、パラメトリックコーダは、第2符号化表現において、各対象範囲について整合する対象範囲を表現する整合情報を追加的に導入する。デコーダ側において、この情報は、図5cの周波数タイル生成器522によって用いられる。図5cは、ソース帯域IDおよび対象帯域IDに基づく生の第2部523の生成を図示する。
【0081】
さらに、図3aに示す通り、スペクトル解析器は、最大限の解析周波数まで、スペクトル表現を解析するよう構成される。この最大限の解析周波数は、サンプリング周波数の半分を少しだけ下回り、少なくともサンプリング周波数の1/4かまたは一般的にはこれより高い方が好ましい。
【0082】
図示される通り、エンコーダは、低解像度処理をすることなく動作し、またデコーダは、高解像度処理をすることなく動作する。つまり、スペクトル領域オーディオコーダは、オリジナルの入力オーディオ信号のサンプリングレートにより定義されるナイキスト周波数を有するスペクトル表現を生成するよう構成される。
【0083】
さらに、図3aに図示される通り、スペクトル解析器は、ギャップ充填開始周波数から開始し、スペクトル表現に含まれる最大周波数に示される最大周波数で終了するスペクトル表現を解析するよう構成される。そして、最大周波数からギャップ充填開始周波数までのスペクトル部が第1セットのスペクトル部に属し、例えば304、305、306、307などのギャップ充填周波数より上の周波数値を有するさらなるスペクトル部が、第1セットの第1スペクトル部に追加的に含まれている。
【0084】
上述の通り、スペクトル領域オーディオデコーダ112は、第1復号表現のスペクトル値によって示される最大周波数が、サンプリングレートを有する時間表現に含まれる最大周波数と等しくなるよう構成され、第1セットの第1スペクトル部における最大周波数のスペクトル値が、ゼロまたはゼロとは異なる値である。いずれにせよ、スペクトル成分の第1セットにおけるこの最大周波数については、スケールファクタ帯域のスケールファクタが存在する。このスケールファクタは、図3aおよび3bの関係で議論された通り、このスケールファクタ帯域における全てのスペクトル値がゼロに設定されたか否かを問わず、生成され送信される。
【0085】
したがって、本発明は、ノイズ置換やノイズ充填(これらの技術は、ローカル信号コンテンツのようなノイズの効率的表現に特化している)などのような圧縮効率を向上させるその他のパラメータ技術について、本発明によると音調成分の正確な周波数再生が可能であるという利点を有する。今日まで、いずれの従来技術も、低帯域(LF)と高帯域(HF)における固定された演繹分割の制限のない、スペクトルギャップ充填による任意の信号コンテンツの効率的パラメトリック表現について、提案していない。
【0086】
本発明のシステムの実施形態は、従来技術のアプローチを改善し、高圧縮効率を実現し、知覚的な不快感をほとんどなくし、低ビットレートであっても全オーディオ帯域を提供する。
【0087】
一般的なシステムは、下記から構成される。
・全帯域コア符号化
・インテリジェントギャップ充填(タイル充填またはノイズ充填)
・音調マスクにより選択されたコア内におけるまばらな音調部分
・充填を含む、全帯域のためのジョイントステレオペア符号化
・タイル上のTNS
・IGFレンジにおけるスペクトル白色化
【0088】
より効率的なシステムに向かっての第1ステップとしては、スペクトルデータを、コア符号器の1つとは異なる第2変形領域に変換する必要性を除去することである。例えばAACなどの多くのオーディオコーデックは、MDCTを基本的な変換として用いているので、MDCT領域においてBWEも実行できると便利である。BWEシステムの第2要件としては、音調グリッドを保存する必要性がある。これによって、HF音調成分が保存され、符号化オーディオの質が既存のシステムよりも優れたものになる。BWEスキームについて、上記の要件の両方に対処するために、インテリジェントギャップ充填(IGF)と称される新システムが提案されている。図2bは、エンコーダ側における提案システムのブロック図を示し、図2aは、デコーダ側におけるシステムを示す。
【0089】
図6aは、本発明の別の実施形態における符号化オーディオ信号を復号する装置を示す。この復号装置は、第1セットのスペクトル部の第1復号表現を生成するスペクトル領域オーディオデコーダ602と、スペクトル領域オーディオデコーダ602の下流に接続され、第1セットの第1スペクトル部に含まれる第1スペクトル部を用いて、再構築第2スペクトル部を生成する周波数再生器604とを備える。603として図示される通り、第1スペクトル部および第2スペクトル部におけるスペクトル値は、スペクトル予測残差値である。これらのスペクトル予測残差値を全スペクトル表現に変換するために、スペクトル予測フィルタ606が設けられる。逆予測フィルタは、第1セットの第1周波数および再構築された第2スペクトル部のスペクトル残差値を用いて、周波数に対して逆予測を行うよう構成される。スペクトル逆予測フィルタ606は、符号化オーディオ信号に含まれるフィルタ情報によって構成される。図6bは、図6aの実施形態の詳細なる実施を図示する。スペクトル予測残差値603は、再構築帯域または所定の第2周波数部のための生のスペクトル値を生成する周波数タイル生成器612に入力される。この生データは、高解像度の第1スペクトル表現と同じ解像度を有し、スペクトル整形器614に入力される。スペクトル整形器は、ビットストリームに送信される包絡線情報を用いてスペクトルを整形する。このスペクトル整形されたデータは、スペクトル予測フィルタ616に適用される。スペクトル予測フィルタ616は、ビットストリームを介してエンコーダからデコーダに送信されるフィルタ情報607を使って、全スペクトル値のフレームを最終的に生成する。
【0090】
図6bにおいては、エンコーダ側において、ビットストリームを介して送信され、線607を介して使用されるフィルタ情報が、包絡線情報を計算した後に計算されると想定されている。したがって、換言すると、図6bのデコーダに整合するエンコーダは、スペクトル残差値をまず算出し、そして例えば図7aに示す通り、スペクトル残差値を用いて包絡線情報を計算する。しかしながら、エンコーダ側においてTNSまたはTTSフィルタリングより前に包絡線情報が算出される場合、その他の実施形態が、所定の実施形態にとっても便利である。そして、スペクトル予測フィルタ622は、ブロック624においてスペクトル整形を実施するために適用される。よって、換言すると、全スペクトル値は、スペクトル整形処理624が適用される前に生成される。
【0091】
複素数値を有するTNSフィルタまたはTTSフィルタが算出されることが好ましい。これは図7aに図示される。オリジナルオーディオ信号が複素MDCTブロック702に入力される。そして、TTSフィルタ計算およびTTSフィルタリングが複素領域において実行される。その後、ブロック706において、IGFサイド情報が算出され、符号化等のためのスペクトル解析などのその他処理も算出される。そして、ブロック706により生成された第1セットの第1スペクトル部は、708として図示される心理音響モデルにより駆動するエンコーダにより符号化され、図7aにおいてX(k)として示される第1セットの第1スペクトル部が得られる。これらの全てのデータは、ビットストリーム多重変換装置710に転送される。
【0092】
デコーダ側においては、符号化されたデータが多重分離装置720に入力され、IGFサイド情報およびTTSサイド情報と、第1セットの第1スペクトル部の符号化表現とを分別する。
【0093】
そして、1つ以上の実数スペクトルから複素スペクトルを計算するために、ブロック724が用いられる。その後、実数スペクトルおよび複素スペクトルの両方が、ブロック726に入力され、再構築帯域のための第2セットの第2スペクトルにおける再構築周波数値が生成される。タイル充填された全帯域フレームが完全に入手できると、逆TTS処理728が実行され、デコーダ側では、最終逆複素MDCT処理がブロック730において実行される。したがって、コア帯域または個別のタイル帯域において適用されたときのみならず、コア/タイル境界またはタイル/タイル境界に適用された場合にも、複素TNSフィルタ情報の利用によって、タイル境界処理が自動的に生成され、最終的にはタイル間のスペクトル相関が再導入される。このタイル境界に対するスペクトル相関は、周波数タイルを生成し、周波数タイルの生データに対してスペクトル包絡線調整を実施するだけでは得ることはできない。
【0094】
図7cは、オリジナル信号(左のパネル)とTTSを有しない拡張信号との比較を示す。750で示される上部周波数範囲において、拡張部として示される強いアーティファクトが見られる。しかしながら、これは、750の同じスペクトル部が図7cのアーティファクト関連成分750と比較したとき、図7eにおいては生じない。
【0095】
本発明の実施形態またはオーディオ符号化システムは、利用可能なビットレートの主要部分を用いて、信号における知覚的に最も関連ある構造のみを、エンコーダにおいて波形符号化する。そして、それによって生じたスペクトルギャップは、オリジナルスペクトルにおおよそ近似する信号コンテンツを用いて、デコーダにおいて充填される。パラメータ駆動されるいわゆるスペクトルインテリジェントギャップ充填(IGF)を制御するために、相当に限られたビット配分のみが、エンコーダからデコーダに送信される専用サイド情報により消費される。
【0096】
オーディオ信号の蓄積または送信については、厳格なビットレート制限が適用されることが多い。過去において、符号器は、相当な低ビットレートしか利用可能でない場合には、送信オーディオ帯域を徹底的に削減することを強制されていた。今日においては、近代のオーディオコーデックは、スペクトル帯域レプリケーション(SBR)(非特許文献1)などの帯域幅拡張(BWE)方法を使って、広帯域信号を符号化することができる。これらのアルゴリズムは、高周波数コンテンツ(HF)のパラメトリック表現に依存している。この周波数コンテンツは、HFスペクトル領域への転換(「パッチング」)およびパラメータ駆動の後処理によって、復号信号の波形符号化された低周波数部分(LF)から生成される。BWEスキームにおいては、いわゆる所定のクロスオーバー周波数より上のHFスペクトル領域は、スペクトルパッチングに基づき再構築されることが多い。一般的に、HF領域は、複数の近接パッチから構成され、これらの各パッチは、所定のクロスオーバー周波数よりも下のLFスペクトルのバンドパス(BP)から供給される。従来のシステムは、近接するサブバンド係数のセットをソースから対象領域にコピーすることにより、フィルタバンク表現内において、効率的にパッチングを実施する。
【0097】
もしBWEシステムがフィルタバンクまたは時間周波数変換領域において実施された場合、帯域幅拡張信号の時間的形状を制御する可能性はかなり限られている。一般的に、時間的粒度は、近接する変換窓間において用いられるホップサイズによって制限される。これによって、帯域幅拡張スペクトル範囲において、不要なプリエコーまたはポストエコーが生じ得る。
【0098】
知覚的オーディオ符号化から、オーディオ信号の時間包絡線の形は、時間領域包絡線整形(TNS)(非特許文献14)のようなスペクトルフィルタリング技術を用いて復元することができることが知られている。しかしながら、従来技術から知られているTNSフィルタリングは、実数スペクトルに対する実数フィルタである。実数スペクトルに対する実数フィルタは、特に基礎となる実数変換が修正離散コサイン変換(MDCT)の場合には、エイリアシングアーティファクトによって著しく害される恐れがある。
【0099】
時間領域包絡線タイル整形処理は、複素修正離散コサイン変換(CMDCT)などから得られたような複素数スペクトルに対して、複素フィルタリングを適用する。それによって、エイリアシングアーティファクトを避けることができる。
【0100】
時間タイル整形は、以下から構成される:
・複素フィルタ係数の推定と、エンコーダにおけるオリジナル信号のスペクトルに対する平坦化フィルタの適用
・サイド情報におけるフィルタ係数の送信
・デコーダにおけるタイル充填再構築スペクトルに対する整形フィルタの適用
【0101】
本発明は、オーディオ変換符号化から知られる従来技術を拡張するものである。特に、周波数方向に沿う直列予測により、時間ノイズ整形(TNS)を拡張して、帯域幅拡張の点で変形使用できるようするものである。
【0102】
さらに、本発明による帯域幅拡張アルゴリズムは、インテリジェントギャップ充填(IGF)に基づくものであるが、信号表現として、実数のクリティカルサンプルMDCT表現に依拠するIGF規格設定に対して、オーバーサンプルの複素数変換(CMDCT)を採用するものである。CMDCTは、実数部分におけるMDCT係数と、各複素数スペクトル係数の虚数部分におおけるMDST係数との組合せと見ることができる。
【0103】
IGFの観点から新たなアプローチが記載されているが、本発明の方法は、オーディオ信号のフィルタバンク表現に基づくいかなるBWE方法とも組み合わせて用いることができる。
【0104】
新規性の観点では、周波数方向に沿った直列予測は、時間ノイズ整形としては使用されず、むしろ時間タイル整形(TTS)技術として使用される。タイル充填された信号成分が、従来の知覚的変換コーデックのTNSによる量子化ノイズ整形に対して、TTSによって時間的に整形されるという事実により、このようにリネームも正当化される。
【0105】
図7aは、IGFおよび新たなTTSアプローチを使用したBWEエンコーダのブロック図である。
【0106】
基礎となるエンコーディングスキームは、次の通り機能する。
・時間領域信号x(n)のCMDCTを計算して周波数領域信号X(k)を求め、
・複素数TTSフィルタを算出し、
・BWEについてサイド情報を入手して、デコーダによって再生されるべきスペクトル情報を除去し、
・心理音響モジュール(PAM)を用いて量子化を適用し、
・データを蓄積/送信し、実数MDCT係数のみが送信される。
【0107】
図7bは、対応するデコーダを示す。デコーダにおいては、エンコーダにおける処理を主に反対にしたものである。
【0108】
ここで、基礎的復号スキームは、次の通り機能する。
・MDCT値からMDST係数を予測し(この処理において、1ブロック復号遅延が追加される)、MDCTおよびMDSTを結合して、複素数CMDCT係数にし、
・後処理とともにタイル充填を実行し、
・送信されたTTSフィルタ係数を利用して逆TTSフィルタリングを適用し、
・逆CMDCTを計算する。
【0109】
なお、上記の代わりに、TTS解析とIGFパラメータ予測がエンコーダにおいて一貫して反転されるのであれば、TTS解析とIGF後処理のデコーダにおける順番を反対にしてもよい。
【0110】
効率的な変換符号化のために、約20msのいわゆる「長ブロック」を使用して、合理的な変換ゲインを達成することが好ましい。当該長ブロック内の信号が過渡を含む場合には、タイル充填によって、可聴のプリ・ポストエコーが再構築スペクトル帯域において発生する。図7cは、IGFにより過渡を害する典型的なプリ・ポストエコー効果を示す。図7cの左パネルにおいて、オリジナル信号のスペクトルが示され、右パネルにおいて、本発明のTTSフィルタリングを適用せずにタイル充足された信号のスペクトルが示される。この例においては、コア帯域およびタイル充填帯域間におけるIGF開始周波数fIGFstartまたはfSplitが、f/4に選択されている。図7cの右パネルにおいては、過渡を取り囲む、明確なプリ・ポストエコーを見ることでき、特に再現された周波数領域のスペクトル上端において顕著である。
【0111】
TTSモジュールにおける主なタスクとしては、これらの不要な信号成分を過渡の周囲に密接した近隣に閉じ込め、人間の知覚の時間的マスク効果により支配される時間領域においてこれらを隠すことが挙げられる。したがって、CMDCT領域における「前方予測」を用いて、必要なTTS予測係数を計算し適用する。
【0112】
TTSとIGFを組み合せてコーデックとした実施形態においては、IGFタイルが完全に1つのTTSフィルタ(平坦化フィルタまたは整形フィルタ)によってフィルタされるか、またはされないよう、所定のTTSパラメータとIGFパラメータを並べることが重要である。したがって、全てのTTSstart[..]周波数またはTTSstop[..]は、1つのIGFタイルに含まれるのではなく、それぞれのfIGF...周波数について並べられる。図7dは、3つのTTSフィルタについてのTTSおよびIGF処理エリアの例を示す。
【0113】
TTS停止周波数は、IGFツールの停止周波数に調整され、これはfIGFstartよりも高い。もしTTSが2つ以上のフィルタを用いる場合には、2つのTTSフィルタ間におけるクロスオーバー周波数がIGF分割周波数とマッチするよう確保されなければならない。そうでなければ、1つのTTSサブフィルタが、fIGFstartを超過して、オーバーシェイピングのように不要なアーティファクトにつながってしまう。
【0114】
図7aおよび7bに示す変形実施形態においては、デコーダにおいてIGFエネルギが正しく調整されるか追加的注意が必要である。特に、TTSおよびIGF処理の一環で、異なる予測ゲインを有する異なるTTSフィルタがソース領域に対して平坦化フィルタとして適用され、1つのIGFタイルの対象スペクトル領域に対して当該平坦化フィルタの正確な対面とではない整形フィルタとして適用される場合には、注意が必要である。この場合、二つの適用TTSフィルタの予測ゲイン比は、もはや等しいものではなく、この比に基づくエネルギ調整が適用されなければならない。
【0115】
別の変形実施形態においては、IGF後処理とTTSの順番が反対とされる。デコーダにおいて、これは、IGF後処理によるエネルギ調整が、TTSフィルタリングの後に算出され、よって合成変換前の最終処理工程であることを意味する。したがって、符号化において、異なるTTSフィルタゲインが1つのタイルについて適用されたか否かを問わず、最終エネルギは常に、IGF処理によって正しく調整される。
【0116】
デコーダ側においては、TTSフィルタ係数が全スペクトルに対して再び適用され、つまり再生スペクトルによって拡張されたコアスペクトルに適用される。TTSの適用は、再生されたスペクトルの時間包絡線を、オリジナル信号の包絡線と再びマッチさせるよう変形するために必要である。したがって、プリエコーが低減される。また、それによって、過去のTNSにはよくあるように、fIGFstartよりも下の信号における量子化ノイズが時間的になお形成される。
【0117】
伝統的な符号器のおいては、オーディオ信号に対するスペクトルパッチング(例:SBR)は、パッチ境界におけるスペクトル相関性を害し、それによってオーディオ信号に分散がもたらされ、時間包絡線が害される。したがって、IGFタイル充填を残差信号に対して実行する別のメリットとしては、TTS整形フィルタの適用後、タイル境界がシームレスに相関され、より信号を忠実に時間的に再現することができる。
【0118】
このように処理された信号の結果が図7eに示される。フィルタされないバージョン(図7cの右パネル)と比較すると、TTSフィルタされた信号においては、不要なプリ・ポストエコー(図7eの右パネル)がよく低減されている。
【0119】
さらに、上述の通り、図7aは、図7bのデコーダまたは図6aのデコーダと一致するエンコーダを示す。基本的に、オーディオ信号を符号化する装置は、702のようなオーディオ信号をスペクトル表現に変換する時間スペクトル変換器を備える。スペクトル表現は実数スペクトル表現であってもよいし、またはブロック702に示すように、複素数スペクトル表現であってもよい。さらに、704などの周波数に対して予測を行う予測フィルタが、スペクトル残差値を生成するために設けられる。予測フィルタ704は、オーディオ信号から抽出される予測フィルタ情報によって定義され、図7aに714で示す通り、ビットストリーム多重変換装置710に転送される。さらに、心理音響により駆動するオーディオエンコーダ704のようなオーディオ符号器が設けられる。オーディオ符号器は、スペクトル残差値の第1スペクトル部の第1セットを符号化して、第1スペクトル値の符号化された第1セットを得るよう構成される。さらに、図7aにおいて706で示されるようなパラメトリック符号器が、第2セットの第2スペクトル部を符号化するために設けられる。第1セットの第1スペクトル部は、第2セットの第2スペクトル部と比較して、より高いスペクトル解像度で符号化されることが好ましい。
【0120】
最後に、図7aに図示される通り、パラメトリック符号化された第2セットの第2スペクトル部、符号化された第1セットの第1スペクトル部、および「TTSサイド情報」として図7aにおいて714として示されるフィルタ情報、を含む符号化された信号を出力するため、出力インターフェイスが設けられる。
【0121】
予想フィルタ704は、スペクトル表現のスペクトル値を使ってフィルタ情報を計算するよう構成されたフィルタ情報計算器を有することが好ましい。さらに、予想フィルタは、フィルタ情報を計算するために用いられるものと同じスペクトル表現のスペクトル値を使って、スペクトル残差値を計算するよう構成されることが好ましい。
【0122】
TTSフィルタ704は、従来のオーディオエンコーダと同様に、TNSツールをAAC規格に従って適用するよう構成されることが好ましい。
【0123】
以下、図8aないし8eを参照して、2チャンネル復号処理を用いたさらなる実施形態を説明する。また、図2aおよび2bにおける対応する構成(ジョイントチャンネル符号器228およびジョイントチャンネルデコーダ204)に関する記載も参照する。
【0124】
図8aは、復号2チャンネル信号を生成するオーディオデコーダを示す。このオーディオデコーダは、符号化された2チャンネル信号を復号して第1セットの第1スペクトル部を得る4つのオーディオデコーダ802と、第2セットの第2スペクトル部のためのパラメトリックデータと、第2スペクトル部について第1か第2の異なる2チャンネル表現のいずれかを識別する2チャンネル識別情報とを提供するパラメトリックデコーダ804と、を有する。さらに、周波数再生器806が、第1セットの第1スペクトル部と、第2部のためのパラメトリックデータと、第2部のための2チャンネル識別情報とに基づいて、第2スペクトル部を再生するよう設けられる。図8bは、ソースレンジおよび目標レンジにおける2チャンネル表現の異なる組合せを示す。ソースレンジが第1の2チャンネル表現にある一方、目標レンジもまた第1の2チャンネル表現にあってもよい。あるいは、ソースレンジが第1の2チャンネル表現にある一方、目標レンジが第2の2チャンネル表現あってもよい。さらに、図8bの第2列に示す通り、ソースレンジが第2の2チャンネル表現にある一方、目標レンジが第1の2チャンネル表現にあってもよい。最後に、ソースレンジと目標レンジの両方が、第2の2チャンネル表現にあってもよい。一実施形態においては、第1の2チャンネル表現は、2チャンネル信号の2チャンネルが個別に表現されている別個の2チャンネル表現である。そして、第2の2チャンネル表現は、2チャンネル表現における2つのチャンネルが統合的に表現された統合表現(つまり、対応するスピーカに出力するのに必要なように、別個の2チャンネル表現を再計算するために、さらなる処理または表現変換が必要な表現)である。
【0125】
一実施形態において、第1の2チャンネル表現が左/右(L/R)表現である一方、第2の2チャンネル表現が統合ステレオ表現であってもよい。しかしながら、左/右またはM/Sまたはステレオ予測ではない他の2チャンネル表現が適用されてもよく、本発明において使用されてもよい。
【0126】
図8cは、図8aのオーディオデコーダによって実施される処理のフローチャートである。ステップ812において、オーディオデコーダ802は、ソースレンジの復号をおこなう。図3aについて、ソースレンジは、スケールファクタ帯域SCB1ないしSCB3を含む。さらに、各スケールファクタ帯域について2チャンネル識別情報があってもよく、スケールファクタ帯域1が例えば第1表現(例えばL/R)である一方、第3スケールファクタ帯域がM/Sや予想ダウンミックス/残差のような第2の2チャンネル表現であってもよい。したがって、ステップ812に関しては、異なる帯域について異なる表現となることがありえる。そして、ステップ814において、周波数再生器806は、周波数再生のためにソースレンジを選択するよう構成される。ステップ816において、周波数再生器806は、ソースレンジの表現をチェックし、ブロック818において、周波数再生器806は、ソースレンジの2チャンネル表現と目標レンジの2チャンネル表現とを比較する。もし両方の表現が同じであれば、周波数再生器806は、2チャンネル信号の各チャンネルについて個別の周波数を再生する。しかしながら、ブロック818に示す通り、これらの表現が同じでない場合には、信号フロー824が取られ、ブロック822がソースレンジからの他方の2チャンネル表現を計算し、この計算した2チャンネル表現を使って目標レンジを再生する。したがって、図8aのデコーダは、第1の2チャンネル表現となっているソースレンジを使って、第2の2チャンネル識別情報を有していると示される目標レンジを再生することができる。本発明によると、同様の2チャンネル識別情報を有するソースレンジを使って、目標レンジを再生することがおのずと追加的に可能となる。さらに、本発明によると、統合2チャンネル表現を示す2チャンネル識別情報を有する目標レンジを再生することが可能となり、またこの表現を、2チャンネル信号用の対応する拡声器に蓄積または送信するのに必要となる、個別のチャンネル表現に変換することも可能となる。
【0127】
2チャンネル表現の2チャンネルは、左チャンネルや右チャンネルのような二つのステレオチャンネルであってもよいことを強調しておく。しかしながら、信号は、例えば5チャンネルやサブウーファーチャンネル、またはもっと多くのチャンネルを有している多チャンネル信号であってもよい。そして、図8aないし8eを参照して上述した通り、1対の2チャンネルが例えば、左チャンネルと右チャンネルの場合、左サラウンドチャンネルと右サラウンドチャンネルの場合、および中央チャンネルとLFE(サブウーファー)チャンネルの場合には、対による2チャンネル処理を実施することができる。その他の組合せを使って、例えば3つの2チャンネル処理手順により、6つの入力信号が表現されてもよい。
【0128】
図8dは、図8aに対応する本発明のデコーダのブロック図である。ソースレンジすなわちコアのデコーダ830は、オーディオデコーダ802に対応する。その他のブロック832、834、836、838、840、842および846は、図8aの周波数再生器806の一部である。特に、ブロック832は、ブロック832の出力において、第1表現におけるソースレンジと第2の2チャンネル表現におけるソースレンジとの完全なセットが存在するよう、ソースレンジ表現を個別の帯域に変換する表現変換器である。これらの2つの完全なソースレンジ表現は、ソースレンジの両方の表現について、蓄積部834に記憶することができる。
【0129】
そして、ブロック836は、ソースレンジIDを入力として使って、さらに対象レンジについて2チャンネルIDを入力として使用して、周波数タイル再生処理を適用する。対象レンジについての2チャンネルIDに基づいて、周波数タイル生成器は蓄積部834にアクセスして、835において周波数タイル生成器に入力された対象レンジに係る2チャンネルIDにマッチするソースレンジの2チャンネル表現を受信する。そのため、対象レンジについての2チャンネルIDが統合ステレオ処理を示すときには、周波数タイル生成器836は、蓄積部834にアクセスして、ソースレンジID833によって示されるソースレンジの統合ステレオ表現を得る。
【0130】
周波数タイル生成器836は、この処理を各対象レンジについて実行する。周波数タイル生成器の出力は、2チャンネル識別情報によって識別されたチャンネル表現における各チャンネルが存在するようになされる。そして、包絡線調整器838による包絡線調整が実施される。包絡線調整は、2チャンネル識別により識別された2チャンネル領域において実行される。このため、包絡線調整パラメータが必要となり、これらのパラメータは、上述と同様の2チャンネル表現において、エンコーダからデコーダに送信される。包絡線調整器による処理対象となる対象レンジにおける2チャンネル識別情報が、当該対象レンジについて包絡線データとは異なる2チャンネル表現を示す2チャンネル識別情報を有している場合には、パラメータ変換器840が包絡線パラメータの必要な2チャンネル表現に変換する。例えば、ある帯域の2チャンネル識別情報が統合ステレオ符号処理を示し、当該対象レンジのパラメータがL/R包絡線パラメータとして送信された場合には、正しいパラメトリック表現が対象レンジのスペクトル包絡線調整に使用されるよう、パラメータ変換器が上述のL/R包絡線パラメータから統合ステレオ包絡線パラメータを算出する。
【0131】
他の好適な実施形態においては、対象帯域において統合ステレオが用いられている場合、包絡線パラメータが統合ステレオパラメータとして既に送信されている。
【0132】
異なる2チャンネル表現を有する対象レンジのセットが包絡線調整器838へ入力されることが想定される場合には、包絡線調整器838の出力もまた、異なる2チャンネル表現を有する対象レンジのセットとなる。対象レンジが例えばM/Sのように統合表現を有する場合には、この対象レンジは、表現変換器842によって処理される。表現変換器842は、拡声器への蓄積または送信のために必要となる個別表現を算出する。しかしながら、対象レンジが既に個別の表現を有している場合には、信号フロー844がとられ、表現変換器842が迂回される。ブロック842の出力において、個別の2チャンネル表現である2チャンネルスペクトル表現が得られ、これはブロック846によって示される通りさらに処理される。このさらなる処理は、例えば周波数/時間変換処理やその他必要な処理であってもよい。
【0133】
第2スペクトル部が周波数帯域に対応することが好ましく、また2チャネル識別情報が、図8bの表に対応するフラグ配列(各周波数帯域について1つのフラグが存在するもの。)として提供されることが好ましい。そして、パラメトリックデコーダは、フラグが設定されたか否かをチェックし、フラグに従って、周波数再生器106が第1スペクトル部の第1表現または第2表現のいずれかを用いるよう制御する構成である。
【0134】
一実施形態においては、図3aのIGF開始周波数309から開始する再構築レンジのみが、異なる再構築帯域について2チャンネル識別情報を有する。さらなる実施形態においては、これがIGF開始周波数309よりも下の周波数に適用されてもよい。
【0135】
またさらなる実施形態において、ソース帯域識別情報および対象帯域識別情報は、類似性解析によって最適に決定することができる。しかしながら、ソースレンジと対象レンジに固定の関連性がある場合には、本発明の2チャンネル処理が適用されてもよい。ソースレンジは、高効率のAAC処理から知られるマルチプルパッチの処理に類似する2以上の周波数タイル充填処理を用いる倍音周波数タイル充填処理またはコピー周波数タイル充填処理のいずれかによって、周波数についてより広い対象レンジを再形成するために使用することができる。
【0136】
図8eは、2チャンネルオーディオ信号を符号化するオーディオエンコーダを示す。エンコーダは、2チャンネルオーディオ信号をスペクトル表現に変換する時間スペクトル変換器860を有する。さらに、スペクトル解析器866は、2チャンネルオーディオチャンネルのオーディオ信号をスペクトル表現へと変換する。さらに、スペクトル解析器866は、いずれのスペクトル部が高解像度で符号化されるかを決定するため(つまり、第1スペクトル部の第1セットを見出し、さらに第2スペクトル部の第2セットを見出すため)に、解析をするよう設けられる。
【0137】
さらに、2チャンネル解析器864は、第2セットの第2スペクトル部を解析して、第1の2チャンネル表現かまたは第2の2チャンネル表現かを識別する2チャンネル識別情報を決定するよう設けられる。
【0138】
2チャンネル解析器の結果によっては、第2スペクトル表現における帯域は、第1の2チャンネル表現または第2の2チャンネル表現を用いてパラメータ化され、これがパラメトリックエンコーダ868により実行される。コア周波数レンジ(つまり、図3aにおけるIGF開始周波数309よりも下の周波数帯域)は、コアエンコーダ870によって符号化される。ブロック868および870の結果は、出力インターフェイス872に入力される。上述の通り、2チャンネル解析器は、IGF開始周波数より上の各帯域かまたは全部の周波数帯域について、2チャンネル識別情報を提供し、この2チャンネル識別情報が出力インターフェイス872により出力される符号化された信号873に含まれるよう、この2チャンネル識別情報が出力インターフェイス872に対して送られる。
【0139】
さらに、オーディオエンコーダが帯域変換器862をさらに備えることが好ましい。2チャンネル解析器862の決定に基づき、時間スペクトル変換器862の出力信号が、2チャンネル解析器、特に2チャンネルID835によって示される表現に変換される。よって、帯域変換器862の出力は、各周波数帯域が第1の2チャンネル表現または第2の2チャンネル表現のいずれかにあってもよい周波数帯域のセットである。本発明が全帯域に適用された場合、つまりソースレンジと再構築レンジの両方が帯域変換器によって処理される場合、スペクトル解析器860は、この表現を解析する。しかしながら、その代わりに、スペクトル解析器860はまた、時間スペクトル変換器の信号出力を、制御線861の示すところにより、解析してもよい。したがって、スペクトル解析器860は、帯域変換器862の出力か、または帯域変換器862によって処理される前の時間スペクトル変換器860の出力かのいずれに対して、好適な音調解析を適用してもよい。さらに、スペクトル解析器は、所定の対象レンジに最も整合するソースレンジの識別を、帯域変換器862または時間スペクトル変換器860のいずれかの結果に基づいて行なってもよい。
【0140】
次に、図3aおよび図3bを参照して既に説明したエネルギ情報値の好適な算出を図示する図9ないし9dを参照する。
【0141】
現在のオーディオコーダは、様々な技術を適用して、所定のオーディオ信号を表現するデータ量を最小限にしている。USAC(非特許文献1)のようなオーディオコーデックは、MDCTのような時間周波数変換を適用して、所定のオーディオ信号のスペクトル表現を得ている。これらのMDCT係数は、人間の聴覚システムの心理音響的側面を活用して、量子化されている。利用可能なビットレートが減少した場合、量子化が粗くなり、ゼロのスペクトル値が大量にもたらされて、デコーダ側において可聴なアーティファクトを生成してしまう。知覚品質を改善するために、従来のデコーダは、これらのゼロスペクトルの部分をランダムノイズにより充填する。IGF手法は、残りのゼロではない信号からタイルを採取し、スペクトルにおけるこれらのギャップを充填する。復号オーディオ信号の知覚品質にとって、スペクトル係数のスペクトル包絡線とエネルギ分散とが保存されることが重要である。ここで説明されるエネルギ調整方法においては、送信されたサイド情報を用いて、オーディオ信号のスペクトルMDCT包絡線が再構築される。
【0142】
eSBR(非特許文献15)においては、少なくとも2つのファクタにより、オーディオ信号が低解像度処理され,スペクトルの高周波数部分が完全にゼロ設定とされる(非特許文献1、17)。この削除された部分は、デコーダ側においてパラメータ技術であるeSBRにより置き換えられる。eSBRは、追加的変換として、QMF変換(空の高周波数部分を置換してオーディオ信号を再サンプルするために利用される変換)の使用を示唆する(非特許文献17)。これによって、オーディオコーダにおいては、計算がより複雑となり、またメモリ消費が増えてしまう。
【0143】
USAC符号器(非特許文献15)は、スペクトルホール(ゼロのスペクトル線)をランダムノイズにより充填する可能性を提供するが、ランダムノイズは過渡信号の時間的微細構造を保全することはできず、また、音調信号の倍音構造を保存することもできないという欠点がある。
【0144】
デコーダ側においてeSBRが動作するエリアは、エンコーダにより完全に削除された(非特許文献1)。したがって、eSBRは、高周波数領域における音調線を削除し、オリジナル信号の倍音構造を歪ませがちである。eSBRのQMF周波数解像度はかなり低く、正弦波成分の再挿入は基礎となるフィルタバンクの解像度が粗い場合にのみ可能なので、再生周波数レンジにおけるeSBRによる音調成分の再生は、その精度が非常に低いものとする。
【0145】
eSBRは、パッチされたエリアのエネルギを調整する技術の、スペクトル包絡線調整(非特許文献1)を用いる。この技術は、QMF周波数時間グリッド上の送信済エネルギ値を使って、スペクトル包絡線を再整形する。この従来技術は、部分的に削除されたスペクトルを取り扱わず、また高時間解像度のため、適切なエネルギ値を送信するのに相当量のビットを必要とするか、またはこのエネルギ値に粗い量子化を適用するかのいずれかになりがちである。
【0146】
IGFの手法は、非特許文献15に記載されるように算出される伝統的なMDCT変換を用いるため、追加的変換を要しない。
【0147】
ここで説明されるエネルギ調整方法は、エンコーダにより生成されたサイド情報を用いて、オーディオ信号のスペクトル包絡線を再構築する。サイド情報は、以下に概略を示すようにしてエンコーダにより生成される:
a)窓化されたMDCT変換を入力オーディオ信号に対して適用し(非特許文献16、セクション4.6)、選択的に窓化されたMDSTを算出するか、または窓化されたMDSTを、算出されたMDCTから予測し、
b)TNS/TTSをMDCT係数に適用し(非特許文献15、セクション7.8)、
c)IGF開始周波数fIGFstartより上でかつIGF停止周波数fIGFstopまでの各MDCTスケールファクタ帯域について、平均エネルギを算出し、
d)平均エネルギ値を量子化する。
IGFstartおよびfIGFstopは、ユーザの設定するパラメータである。
【0148】
ステップc)およびd)で算出された値は、サイド情報として損失なく符号化され、ビットストリームとともにデコーダに送信される。
【0149】
デコーダは、送信された値を受信し、これらを用いてスペクトル包絡線を調整する:
a)送信されたMDCT値を逆量子化し、
b)信号化される場合には伝統的なUSACノイズ充填処理を適用し、
c)IGFタイル充填処理を適用し、
d)送信されたエネルギ値を逆量子化し、
e)帯域側でスペクトル包絡線スケールファクタを調整し、
f)信号化される場合には、TNS/TTSを適用する。
【0150】
【数1】
を、窓長2Nの窓化されたオーディオ信号の、MDCT変換された実数スペクトル表現とする。この変換は、非特許文献16に記載されている。エンコーダは、このx^に対して選択的にTNSを適用する。
【0151】
非特許文献16、4.6.2において、スケールファクタ帯域におけるx^の区画が記載されている。スケールファクタ帯域はインデックスのセットであり、scbと示されている。
【0152】
k=0,1,2,…max_sfbの各scbの限界は、配列swb_offsetによって定義され(非特許文献16、4.6.2)、そこでは、swb_offset[k]とswb_offset[k+1]-1とが、scbkに含まれる最低および最高スペクトル係数線について、第1および最後のインデックスを定義している。ここで、スケールファクタ帯域を次のように表現する。
scb:={swb_offset[k],1+swb_offset[k],2+swb_offset[k],…,swb_offset[k+1]-1}
【0153】
もしエンコーダがIGFツールを使用する場合には、ユーザがIGF開始周波数およびIGF停止周波数を定義する。これらの二つの値は、最もフィットするスケールファクタ帯域インデックスigfStartSfbおよびigfStopSfbに対してマップされる。両方とも、ビットストリームにてデコーダへと信号伝達される。
【0154】
非特許文献16には、長ブロックおよび短ブロック変換の両方が記載される。長ブロックについては、スペクトル係数の1セットのみが、スケールファクタの1セットとともにデコーダに送信される。短ブロックについては、異なる8つのスペクトル係数セットを有する8つの短窓が計算される。ビットレートを節約するために、これら8つの短ブロック窓のスケールファクタは、エンコーダによってグループ分けされる。
【0155】
IGFの場合、個々で説明される方法は、デコーダに送信されるスペクトル値をグループ分けするために、過去のスケールファクタ帯域
【数2】
を用いる。ここで、
k=igfStartSfb,1+igfStartSfb,2+igfStartSfb,…igfEndSfb
である。量子化については、以下が計算される。
【数3】
全ての値E^が、デコーダに送信される。
【0156】
ここで、エンコーダが、num_window_groupスケールファクタセットをグループ分けすることを決定するものとする。8つの短窓のインデックスとしての集合{0,1,2,..,7}におけるこのグループ区画を、wにより表現する。wは、wにおけるl番目の部分集合を意味し、lは、窓グループのインデックス0≦l≦num_window_groupを意味する。
【0157】
短ブロック計算においては、ユーザが定義したIGF開始/停止周波数を、適切なスケールファクタ帯域にマップする。しかしながら、簡略化のため、短ブロックについても、k=igfStartSfb,1+igfStartSfb,2+igfStartSfb,…igfEndSfbと表現する。
【0158】
IGFエネルギ算出においては、グループ化情報を用いて、値Ek,lをグループ分けする。
【数4】
量子化については、
【数5】
を計算する。全ての値E^k,lが、デコーダに送信される。
【0159】
上述の符号化式は、実数MDCT係数x^のみを用いて動作する。IGFレンジにおいてより安定的なエネルギ分布を得るには、つまり時間的振幅のばらつきを低減させるには、代替的手法を用いて値E^kを計算することができる。
【0160】
x^
【数6】
を、窓長2Nの窓化されたオーディオ信号のMDCT変換された実数スペクトル表現とし、x^
【数7】
を、オーディオ信号の同じ部分のMDST変換実数スペクトル表現とする。MDSTスペクトル表現x^は、x^から算出されるか、または予測されるかの、いずれであってもよい。
【数8】
は、実数部分としてx^を有し、虚数部分としてx^を有する窓化されたオーディオ信号の複素スペクトル表現を意味する。エンコーダは、x^およびx^に対してTNSを選択的に適用する。
【0161】
ここで、IGFレンジにおけるオリジナル信号のエネルギは、以下をもって計ることができる。
【数9】
再構築帯域の実数および複素数エネルギ、つまりIGFレンジscbkの再構築においてデコーダ側で用いるべきタイルは、以下にしたがって算出される。
【数10】
ここで、trは、scbに依拠する、関連ソースタイルレンジのインデックスセットである。上記2つの式において、インデックス集合scbの代わりに集合
【数11】
(「scb 」とも表す。後で定義する)を使用して、trを生成してより正確なEおよびEを達成することもできる。Etk>0であれば、
【数12】
を算出し、それ以外は、f=0とする。
【0162】
【数13】
を用いて、安定的な値Eが計算される。その理由は、EをMDCT値のみを用いて計算することは、MDCT値がパーセバルの定理に従わないという事実の障害があり、したがってMDCT値は、スペクトル値の完全なエネルギ情報を反映していないためである。E^は、上述の通り算出される。
【0163】
上述の通り、短ブロックについては、スケールファクタセットnum_windows_groupをグループ分けする決定は、エンコーダが行うものと想定する。上述の通り、wは、wにおけるl番目の部分集合を意味し、lは、窓グループのインデックス0≦l≦num_window_groupを意味する。
【0164】
繰り返しになるが、より安定的なEk,lを算出する上述の代替バージョンを計算する。ここで、数8に示すc^の定義を用いる。x^は、MDCT変換され窓化された長さ2Nのオーディオ信号、x^は、MDST変換された窓化された長さ2Nのオーディオ信号である。この計算は、
【数14】
となる。
【0165】
同様に、
【数15】
を計算し、ファクタfk,lを、
【数16】
とし、これを用いて、前回算出されたErk,lを調節する。
【数17】
E^k,lが、上述の通り算出される。
【0166】
複素再構築帯域またはMDCT値のいずれかから抽出した再構築帯域のエネルギのみならず、ソースレンジからのエネルギ情報も使用する手順によって、エネルギ再構築が改善される。
【0167】
特に、パラメータ算出器1006は、再構築帯域のエネルギに関する情報、および再構築帯域を再構築するのに使用されるソースレンジのエネルギに関する情報を使って、再構築帯域のためのエネルギ情報を算出するよう構成される。
【0168】
また、パラメータ算出器1006は、オリジナル信号の複素スペクトルの再構築帯域に関するエネルギ情報(Eok)を算出し、また再構築帯域の再構築に使用されるオリジナル信号の複素スペクトルの実数部分のソースレンジに関するさらなるエネルギ情報(Erk)を算出するよう構成される。そして、パラメータ算出器は、エネルギ情報(Eok)とさらなるエネルギ情報(Erk)とを使って、再構築帯域についてエネルギ情報を算出するよう構成される。
【0169】
さらに、パラメータ算出器1006は、オリジナル信号の複素スペクトルの再構築対象スケールファクタ帯域に関する第1エネルギ情報(Eok)を決定し、再構築対象スケールファクタ帯域を再構築するのに使用されるオリジナル信号の複素スペクトルのソースレンジに関する第2エネルギ情報(Etk)を決定し、再構築対象スケールファクタ帯域を再構築するのに使用されるオリジナル信号の複素スペクトルの実数部分のソースレンジに関する第3エネルギ(Erk)を決定し、第1エネルギ情報、第2エネルギ情報および第3エネルギ情報の少なくとも2つにおける関係に基づき重み付け情報を決定し、この重み付け情報を使って第1エネルギ情報と第3エネルギ情報の1つに重みを付けて重み付けエネルギ情報を入手し、この重み付けエネルギ情報を当該再構築帯域のエネルギ情報として使用するよう構成される。
【0170】
計算の例を以下に示すが、上述の一般原則を参照すると、当業者にとっては、その他の多くも明らかであろう。
A)
f_k=E_ok/E_tk;
E_k=sqrt(f_k*E_rk);
B)
f_k=E_tk/E_ok;
E_k=sqrt((1/f_k)*E_rk);
C)
f_k=E_rk/E_tk;
E_k=sqrt(f_k*E_ok)
D)
f_k=E_tk/E_rk;
E_k=sqrt((1/f_k)*E_ok)
【0171】
これら全ての例では、実数のMDCT値のみがデコーダ側で処理されるが、実際の計算は、オーバーラップおよび追加に伴い、複素数を使って黙示的に実行される時間領域エイリアシングキャンセル手順により実施されるという事実に基づくものである。しかしながら、再構築帯域920のさらなるスペクトル部922、923のタイルエネルギ情報の決定処理918は、再構築帯域920において周波数を有する第1スペクトル部921とは異なる周波数値のために、実数のMDCT値に依拠している。したがって、一般的に、デコーダに送信されるエネルギ情報は、オリジナル信号の複素スペクトルの再構築帯域に関するエネルギ情報Eokよりも小さくなる。例えば、上記Cの事例については、これは、ファクタf_k(重み付け情報)が1より小さいことを意味する。
【0172】
デコーダ側においては、もしIGFツールがONとして信号化された場合、送信された値E^はビットストリームから入手され、k=igfStartSfb,1+igfStartSfb,2+igfStartSfb,…igfEndSfbなるすべてのkに対して、
【数18】
に従って逆量子化される。
【0173】
デコーダは、送信MDCT値をx∈Rに逆量子化し、残りの残存エネルギ
【数19】
を算出する。ここで、kは、上述の定義のレンジ内にある。
【0174】
ここでは、
【数20】
とする。この集合には、スケールファクタ帯域scbの全インデックスが含まれ、エンコーダによってゼロに量子化される。
【0175】
IGFサブバンド入手手法(ここでは説明しない)を使って、送信されたMDCTの非ゼロ値を使うことにより、MDCTスペクトル値の粗い量子化からエンコーダ側において生じるスペクトルギャップを充填する。xには、これまでの全てのゼロ値を置換する値が追加的に含まれている。このタイルエネルギは、
【数21】
によって算出される。ここで、kは、上述の定義のレンジ内にある。
【0176】
再構築帯域において欠落するエネルギは、
mE:=│scb│E -sE
によって算出される。調整のためのゲインファクタは、
【数22】
によって得られる。
g’=min(g,10)
を用い、スペクトル包絡線調整は、上述で定義されたレンジにおける全てのi∈scb とkに対して、
:=g’x
となる。これは、xのスペクトル包絡線を、オリジナルスペクトル包絡線x^の形状に再整形する。
【0177】
短窓シーケンスを用いる場合、上述の全ての計算は原則的に同じであるが、スケールファクタ帯域のグループ分けを考慮する必要がある。Ek,lは、ビットストリームから得られた、逆量子化されグループ分けされたエネルギ値を示す。
【数23】
および
【数24】
を計算する。インデックスjは、短ブロックシーケンスの窓インデックスを示す。
【0178】
mEk,l:=│scb│Ek,l -sEk,l
と、
【数25】
を計算し、
g’=min(g,10)
を用い、i∈scb に対して、
:=g’x
を適用する。
【0179】
低ビットレート応用では、Eの対グループ分けが、それほど大きな精度の低下を引き起こすことなく可能である。この方法は、長ブロックでのみ適用され、
【数26】
となる。ここで、k=igfStartSfb,1+igfStartSfb,2+igfStartSfb,…igfEndSfbである。繰り返しになるが、量子化の後、全ての値Ek>>1がデコーダに送信される。
【0180】
図9aは、符号化オーディオ信号を復号する装置を示す。このオーディオ信号は、第1セットの第1スペクトル部の符号化表現、および第2セットの第2スペクトル部についてのスペクトルエネルギを示すパラメトリックデータの符号化表現を含んでいる。第1セットの第1スペクトル部は、図9aにおいて901aで示され、パラメトリックデータの符号化表現は、図9aの901bで示される。オーディオデコーダ900は、第1セットの第1スペクトル部の符号化表現901aを復号して、復号化された第1セットの第1スペクトル部904を得るよう設けられる。また、オーディオデコーダ900は、パラメトリックデータの符号化表現を復号して、個別の再構築帯域について個別のエネルギを示す第2セットの第2スペクトル部についての復号パラメトリックデータ902を得る。ここで、第2スペクトル部は、再構築帯域内に存在している。さらに、周波数再生器906は、第2スペクトル部を有する再構築帯域のスペクトル値を再構築するために設けられる。さらに、周波数再生器906は、第1セットの第1スペクトル部に含まれる第1スペクトル部と、再構築帯域に係る個別のエネルギ情報を用いる。ここで、再構築帯域には、第1スペクトル部と第2スペクトル部が含まれる。周波数再生器906は、残存エネルギ情報を決定する算出器912を有する。この残存エネルギ情報には、再構築帯域内に周波数を有する第1スペクトル部の累積エネルギが含まれる。さらに、周波数再生器906は、再構築帯域のさらなるスペクトル部のタイルエネルギ情報を決定し、第1スペクトル部とは異なる周波数値のための計算器918を有する。これらの周波数値は、再構築帯域に周波数を有するものであり、さらなるスペクトル部は、再構築帯域の第1スペクトル部とは異なる第1スペクトル部を用いて、周波数再構築により生成されるものである。
【0181】
周波数再生器906は、再構築帯域における欠落エネルギのための計算器914をさらに有する。この計算器914は、再構築帯域についての個別エネルギおよびブロック912により生成された残存エネルギを用いて動作する。さらに、周波数再生器906は、欠落エネルギ情報、およびブロック918により生成されたタイルエネルギ情報に基づき、再構築帯域におけるさらなるスペクトル部を調整するスペクトル包絡線調整器916を有する。
【0182】
再構築帯域920の一例を示す図9cを参照する。再構築帯域は、図3aにおける第1スペクトル部306などの再構築帯域における第1スペクトル部を有し、これは921としてその概略が示される。さらに、再構築帯域920における残りのスペクトル値は、例えば、図3aのインテリジェントギャップ充填開始周波数309より下のスケールファクタ帯域1、2、3からのソース領域を用いて生成されることとなる。周波数生成器906は、第2スペクトル部922および923のための生スペクトル値を生成するよう構成される。そして、図9cに示される通り、周波数帯域922および923におけるスペクトル値を最終的に調整するために、そして再構築帯域920における再構築および調整第2スペクトル部を得るために、ゲインファクタgが計算される。これらの第2スペクトル部は、第1スペクトル部921と同じスペクトル解像度、つまり同じ線距離を有している。図9cにおいて921で示される再構築帯域における第1スペクトル部は、オーディオデコーダ900によって復号され、図9bのブロック916の実施する包絡線調整によっては影響を受けないことを理解することが重要である。その代わり、921で示される再構築帯域における第1スペクトル部は、線904を介して、全帯域または全レートのオーディオデコーダ900により出力されるため、そのままに放置される。
【0183】
以下において、実数を用いた一例について説明する。ブロック912により算出された残りの残存エネルギは、例えば5エネルギ単位だとする。このエネルギは、第1フペクトル部921において例示的に示された4つのスペクトル線のエネルギである。
【0184】
さらに、図3bまたは図3aのスケールファクタ帯域6に対応する再構築帯域に係るエネルギ数E3は、10単位に等しい。重要なこととしては、エネルギ値には、スペクトル部922および923のエネルギのみならず、エンコーダ側で算出された再構築帯域920の全エネルギ(つまり、例えば、音調マスクを用いてスペクトル解析を実行する前のもの)も含まれる。したがって、10エネルギ単位は、再構築帯域における第1および第2スペクトル部を対象とする。そして、ブロック922、923のソースレンジデータのエネルギまたはブロック922、923用の生の対象レンジデータのエネルギは、8エネルギ単位であるという前提とする。よって、5単位の欠落エネルギが計算される。
【0185】
タイルエネルギtEkにより分割された欠落エネルギに基づき、0.79のゲインファクタが計算される。そして、第2スペクトル部922、923の生のスペクトルラインに対して、算出されたゲインファクタを乗じる。よって、第2スペクトル部922、923のスペクトル値のみが調整され、第1スペクトル部921のスペクトル線は、この包絡線調整によって影響を受けない。第2スペクトル部922、923について生のスペクトル値を乗じた後、完全なる再構築帯域が計算される。これは、再構築帯域における第1スペクトル部から構成され、再構築帯域920における第2スペクトル部922、923のスペクトル線から構成される。
【0186】
帯域922、923の生のスペクトルデータを生成するためのソースレンジは、周波数について、IGF開始周波数309より下であり、再構築帯域920はIGF開始周波数309よりも上であることが好ましい。
【0187】
さらに、再構築帯域境界がスケールファクタ帯域境界と一致することが好ましい。よって、一実施形態において、再構築帯域は、コアオーディオデコーダの対応スケールファクタ帯域の大きさを有するか、またはエネルギペアリングが適用されたとき、再構築帯域のエネルギ値が整数2以上のスケールファクタ帯域のエネルギを提供する大きさを有する。したがって、スケールファクタ帯域4、スケールファクタ帯域5およびスケールファクタ帯域6についてエネルギ蓄積が実施されるとの前提の場合には、再構築帯域920の低周波数境界は、スケールファクタ帯域4の下限境界と等しくなり、再構築帯域920の高周波数境界は、スケールファクタ帯域6の上限境界と一致する。
【0188】
以下において、図9aのデコーダのさらなる機能を示すために、図9dについて説明する。オーディオデコーダ900は、第1セットのスペクトル部の第1スペクトル部に対応する逆量子化スペクトル値を受信する。そして、図3bに示すようなスケールファクタ帯域のためのスケールファクタが、追加的に逆スケールブロック940に提供される。逆スケールブロック940は、図3aのIGF開始周波数309より下の全ての第1セットの第1スペクトル部を提供し、さらにIGF開始周波数より上の第1スペクトル部(つまり、図3aの第1スペクトル部304、305、306、307であり、これらは全て図9dの941に示す通り、再構築帯域内に位置している)を提供する。さらに、再構築帯域における周波数タイル充填に用いられるソース帯域の第1スペクトル部は、包絡線調整器/計算器942に提供され、このブロックは、図9dにおいて943で示す通り、符号化されたオーディオ信号に対してパラメータサイド情報として提供された再構築帯域のエネルギ情報を追加的に受信する。そして、包絡線調整器/計算器942は、図9bおよび9cの機能を提供し、再構築帯域における第2スペクトル部のために、調整されたスペクトル値を最終的に出力する。再構築帯域における第2スペクトル部に係るこれらの調整スペクトル値922、923、並びに図9dにおいて線941により示される再構築帯域の第1スペクトル部921は、統合すると、再構築帯域の全スペクトル表現をなしている。
【0189】
以下において、符号化されたオーディオ信号を提供または生成するために、オーディオ信号を符号化するオーディオエンコーダの好適実施形態を説明する図10aおよび10bを参照する。このエンコーダは、スペクトル解析器1004に供給する時間/スペクトル変換器1002を有し、このスペクトル解析器1004は、パラメータ計算器1006に接続する一方、オーディオエンコーダ1008にも他方で接続する。オーディオエンコーダ1008は、第1セットの第1スペクトル部の符号化表現を提供し、第2セットの第2スペクトル部を対象としない。一方で、パラメータ計算器1006は、第1および第2スペクトル部を対象とする再構築帯域のエネルギ情報を提供する。さらに、オーディオエンコーダ1008は、第1スペクトル解像度を有する第1フペクトル部の第1セットの第1符号化表現を生成するよう構成される。ここで、オーディオエンコーダ1008は、ブロック1002によって生成されるスペクトル表現の全ての帯域に係るスケールファクタを提供する。これに加えて、図3bに示す通り、エンコーダは、図3aに示すIGF開始周波数309よりも上の周波数に位置する再構築帯域については少なくとも、エネルギ情報を提供する。したがって、再構築帯域がスケールファクタ帯域またはスケールファクタ帯域群と好適に一致しているので、オーディオエンコーダ1008からの対応スケールファクタと、パラメータ計算器1006によって出力されるエネルギ情報という2つの値が与えられる。
【0190】
オーディオエンコーダは、異なる周波数帯域幅を有する(つまり異なる数のスペクトル値を有する)スケールファクタ帯域を有することが好ましい。したがって、パラメータ計算器は、特定の再構築帯域の帯域幅について、異なる帯域幅のためのエネルギを正規化する正規化器1012を有する。このため、正規化器1012は、入力として、帯域におけるエネルギと、帯域におけるいくつものスペクトル値を受信し、再構築/スケールファクタ帯域毎に正規化されたエネルギを出力する。
【0191】
さらに、図10aのパラメータ計算器1006aは、図10aにおける線1007により示されるコアまたはオーディオエンコーダ1008から制御情報を受信するエネルギ値計算器を有する。この制御信号には、オーディオエンコーダによって使用される長/短ブロックに関する情報、および/またはグループ化情報が含まれる場合がある。したがって、長/短ブロックに関する情報および短窓に関するグループ化情報が「時間」グループ分けに関するものである一方、グループ化情報はまた、スペクトルグループ分け(つまり、2つのスケールファクタ帯域を単一の再構築帯域にグループ分けすること)に言及してもよい。よって、エネルギ値計算器1014は、スペクトル部のみがグループ分けされているとき、第1予備第2スペクトル部を対象とするグループ分けされた各帯域について、単一のエネルギ値を出力する。
【0192】
図10dは、スペクトルグループ分けを実施するためのさらなる実施形態を示す。このため、ブロック1016は、2つの近接帯域のエネルギ値を計算するよう構成される。そして、ブロック1018において、近接する帯域のエネルギ値を比較し、エネルギ値がそれほど異ならない場合、または例えば、閾値で規定したほど異ならない場合には、ブロック1020に示すように、両方の帯域について、単一の(正規化された)値が生成される。線1019に示す通り、ブロック1018を迂回してもよい。さらに、ブロック1020により実行される2つ以上の帯域に係る単一値の生成は、エンコーダビットレート制御1024により制御されてもよい。このため、ビットレートを低減する必要がある場合には、ブロック1018における比較において、エネルギ情報値のグループ分けが許されない場合であったとしても、符号化されたビットレート制御処理1024により、ブロック1020を制御して、2つ以上の帯域について単一の正規化値を生成させる。
【0193】
オーディオエンコーダが2つ以上の短窓のグループ分けを行っているときには、このグループ分けがエネルギ情報についても適用される。コアエンコーダが2つ以上の短ブロックのグループ分けを行うときには、これら2つ以上のブロックについて、スケールファクトの単一セットのみを計算し送出する。デコーダ側においては、オーディオデコーダは、スケールファクタの同じセットを両方のグループ分けされた窓に適用する。
【0194】
エネルギ情報計算に関して、再構築帯域におけるスペクトル値が2つ以上の短窓に対して蓄積される。つまり、短ブロックおよび後続の短ブロックについての所定の再構築帯域におけるスペクトル値は一緒に蓄積され、2つの短ブロックを対象とするこの再構築帯域については、単一のエネルギ情報値しか送信されないことを意味する。そして、デコーダ側においては、図9aないし9dに関して説明された包絡線調整は、各短ブロックについて個別には実施されず、グループ分けされた短窓のセットについて一緒に実施される。
【0195】
周波数におけるグループ分けまたは時間におけるグループ分けが実施された場合であっても、正規化によって、デコーダ側のエネルギ値情報計算について、一方のエネルギ情報値と再構築帯域またはグループ分けされた再構築帯域のセットにおけるスペクトルライン量のみが簡単に知られるよう、対応する正規化が再び実施される。
【0196】
従来のBWEスキームにおいては、いわゆる所定のクロスオーバー周波数より上のHFスペクトル領域は、スペクトルパッチングに基づき再構築されることが多い。一般的に、HF領域は、複数の近接パッチから構成され、これらの各パッチは、所定のクロスオーバー周波数よりも下のLFスペクトルのバンドパス(BP)から供給される。信号のフィルタバンク表現内において、このようなシステムは、近接するサブバンド係数のセットをLFスペクトルから対象領域にコピーする。一般的に、この選択されたセットの境界は、システムに依存するものであり、信号に依存するものではない。ある信号コンテンツについて、この静的パッチ選択が再構築信号の不快な音質や色合いにつながってしまう場合がある。
【0197】
その他のアプローチにおいては、信号適応単側波帯(SSB)変調により、LF信号がHFへと変換される。そのようなアプローチは、時間領域サンプルにおいて高いサンプリングレートで動作するため、(非特許文献1)に比べて計算の複雑さは大きい。また、パッチングは、特に非音調信号(例:無声音声)の場合には、不安定になる可能性がある。よって、従来の信号適応パッチングは、信号を害する恐れがあった。
【0198】
本発明によるアプローチは、インテリジェントギャップ充填(IGF)と称され、その好適実施形態においては、時間周波数変換(例:修正離散コサイン変換(MDCT))に基づくBWEシステムにおいて適用される。それにも拘わらず、本発明の教示は、例えば直交ミラーフィルタバンク(QMF)系のシステム内においても同様に、広く適用できる。
【0199】
MDCTに基づくIGF構成の利点としては、MDCTベースのオーディオコーダ(例:MPEGアドバンストオーディオコーディング(AAC))におけるシームレスな統合ができる点である。波形オーディオ符号化およびBWEについて同じ変換を共有することで、オーディオコーデックの全体的な計算上の複雑性が、大幅に除去される。
【0200】
さらに、本発明によると、従来の適応パッチングスキームに内在する安定性の問題についての解決手段が提供される。
【0201】
提案に係るシステムは、ある信号についての制御不能なパッチ選択により、音質変化や信号着色が誘発され得るという知見に基づくものである。もし信号がスペクトルソース領域(SSR)における音調ではあるが、スペクトル対象領域(STR)ではノイズに等しい場合には、ノイズのようなSTRを音調SSRによりパッチングすることで、不自然な音質となってしまう恐れがある。信号の音調構造は、パッチング過程で不整列とされたり、さらには破壊されたりするため、信号の音質もまた変化し得る。
【0202】
提案に係るIGFシステムは、特定のSSRと特定のSTR間の類似性基準として、クロス相関性を用いて、インテリジェントタイル選択を実施する。2つの信号のクロス相関性によって、これらの信号の類似性に関する基準、および最大限の相関とそのサインの遅れに関する基準が提供される。したがって、相関性ベースのタイル選択のアプローチは、コピーされたスペクトルのスペクトルオフセットを正確に音調して、スペクトルがオリジナルスペクトルの構造に可能な限り近似するよう用いることができる。
【0203】
提案システムの基本的な貢献としては、適切な類似性基準の選択肢、およびタイル選択プロセスの安定化技術が挙げられる。提案技術は、瞬間信号適応性と時間的安定性との間の最適なバランスを同時に提供する。時間的安定性を提供することは、SSRおよびSTRとはほとんど類似性を有しないため、低クロス相関性値を呈する信号にとっては特に重要であり、また採用される類似性基準が曖昧な場合にも重要である。このような場合、安定化によって、適応タイル選択の疑似ランダム挙動が防止される。
【0204】
例えば、従来のBWEにおいてよく問題を生じる信号区分は、図12a(左)に示される通り、エネルギを任意のスペクトル領域に明確に注力させていることがその特徴としてあげられる。対象領域におけるスペクトル包絡線および再構築スペクトルの音調を調整する方法はあるものの、一部の信号については、図12a(右)に示す通り、これらの方法は音質を保全できない。図12aに示す例において、オリジナル信号の対象領域における、いわゆるクロスオーバー周波数fxoverスペクトル(図12a、左)よりも上のスペクトル振幅は、ほぼ直線的に減少する。一方で、再構築スペクトル(図12a、右)においては、音質色彩アーティファクトとして知覚される沈下とピークとの明確なセットが存在する。
【0205】
新たなアプローチの重要なステップとしては、セットとなったタイルの中から類似性に基づく後続の選択がなされるよう、当該タイルのセットを定義することが上げられる。まず、ソース領域および対象領域のタイル境界を、それぞれに従って定義する必要がある。そのため、コア符号器のIGF開始周波数fIGFstartと可能な限りの高周波数fIGFstopとの間における対象領域を、任意の整数のタイルに分割し、これらのそれぞれが個別のあらかじめ設定された大きさを有する。そして、ターゲットタイルtar[idx_tar]のそれぞれについて、同サイズのソースタイルのセットsrc[idx_srcが生成される。これによって、IGFシステムの基本的自由度が決定される。ソースタイルnSrcの総数は、ソース領域の帯域幅
bwsrc=(fIGFstart-fIGFmin
によって決定される。ここで、fIGFminは、整数nSrc個のソースタイルがbwsrcに適合するよう、タイル選択において利用可能な最低周波数である。ソースタイルの最小数は0である。
【0206】
さらに選択および調整の自由度を増すために、ソースタイルは、0および1の間のオーバーラップファクタにおいて、それぞれオーバーラップするよう定義されてもよく、ここで0とはオーバーラップがないこと、および1とは100%オーバーラップしていることを意味する。100%オーバーラップする場合とは、単一のソースタイルのみが利用可能か、あるいは利用可能なソースタイルが一切ないことを意味する。
【0207】
図12bは、タイルセットのタイル境界の例を示す。この場合において、全ての対象タイルは、ソースタイルのそれぞれと相互に関連している。この例では、ソースタイルは、50%オーバーラップしている。
【0208】
対象タイルについて、xcorr_maxLagビンまでの遅延をもって、様々なソースタイルを使ってクロス相関を算出する。ある対象タイルidx_tarおよびソースタイルidx_srcについて、xcorr_val[idx_tar][idx_src}が、タイル間の絶対クロス相関最大値を与え、一方、xcorr_lag[idx_tar][idx_src]が、最大値が生じる遅延を与え、xcorr_sign[idx_tar][idx_src]が、xcorr_lag[idx_tar][idx_src]におけるクロス相関のサインを与える。
【0209】
パラメータxcorr_lagは、ソースタイルと対象タイルとの整合の近さを制御するのに用いられる。このパラメータによって、アーティファクトが減少し、信号の音質と色彩の保全によりよく役立つ。
【0210】
あるシナリオでは、特定の対象タイルの大きさが、利用可能なソースタイルの大きさよりも大きいことがありえる。この場合、利用可能なソースタイルが必要な限りの頻度において繰り返され、当該特定タイルを完全に充填する。対象タイルにおいて、クロス相関遅延xcorr_lagおよびサインxcorr_signという意味で、ソースタイルを最も良い位置に置くために、大きな対象タイルと小さなソースタイルとの間のクロス相関を実施することが依然として可能である。
【0211】
生のスペクトルタイルとオリジナル信号のクロス相関は、強固なフォルマント構造を有するオーディオスペクトルに対して適用される類似性基準としては、最適ではないかもしれない。スペクトルの白色化によって、粗いスペクトル包絡線情報が除去され、類似性を評価するのに重要なスペクトル微細構造が強調される。白色化によって、IGFにより処理される領域に関する、符号器でのSTR包絡線整形が容易になされる。したがって、クロス相関性度を計算する前に、タイルおよびソース信号は、選択的に白色化される。
【0212】
他の形態においては、タイルのみが事前に設定された手順に従って白色化される。送信される白色化フラグは、デコーダに対して、同様の所定の白色化手順がIGF内のタイルについて適用されるべきであることを示す。
【0213】
信号を白色化するためには、まずスペクトル包絡線予測が計算される。そして、MDCTスペクトルは、スペクトル包絡線によって分割される。スペクトル包絡線予測は、MDCTスペクトル、MDCTスペクトルエネルギ、MDCT系複素電力スペクトル、または電力スペクトル予測に基づき、予測される。包絡線が予測される信号を、以下「基礎信号」という。
【0214】
MDCT系複素電力スペクトルまたは電力スペクトル予測に基づき計算された包絡線は、音調成分に対して時間的ばらつきがないという利点を有する。
【0215】
もし基礎信号がエネルギ領域にあるのであれば、MDCTスペクトルは、信号を正しく白色化するために、包絡線の平方根により分割される必要がある。包絡線の算出方法としては、以下のものがある。
・基礎信号を離散コサイン変換(DCT)により変換し、低いDCT係数のみを保持し(最上をゼロにセットし)、逆DCTを計算する、
・時間領域オーディオフレームに基づき算出された線形予測係数(LPC)セットのスペクトル包絡線を計算する、
・基礎信号をローパスフィルタによりフィルタリングする。
【0216】
最後のアプローチが選択されることが好ましい。計算上の複雑性が低いことを求めるアプリケーションについては、MDCTスペクトルの白色化に対して簡略化がなされてもよい。まず、移動平均の手段により包絡線を計算する。これには、MDCTビン毎に2つの処理器サイクルしか要しない。そして、分割および平方根の計算を避けるために、スペクトル包絡線は、##2nに近接させられる。ここで、##nは、包絡線の整数対数である。この領域において、平方根演算は、単にシフト演算となり、さらに包絡線による分割は、別のシフト演算により実行される。
【0217】
各ソースタイルと各対象タイルとの相関性を計算した後、全てのnTar対象タイルについて、最も高い相関を有するソースタイルを選択してこれを置換する。オリジナルスペクトル構造と最も整合させるために、相関の遅延を利用して、再生されたスペクトルを変形ビンの整数分だけ調整する。奇数の遅延の場合には、MDCTにおけるひとつおきの帯域の周波数反転表現を補てんするために、タイルは、-1/1の交互の時間的シーケンスにより、乗法を通じて追加的に調整される。
【0218】
図12cは、ソースタイルと対象タイルとの相関の例を示す。この例において、相関の遅延は5である。そして、ソースタイルは、BWEアルゴリズムのコピー段において、高周波数ビンに向かって5ビンだけ調節される必要がある。また、最大相関値が負であり、上述の追加的調節は奇数遅延を対処するので、タイルのサインを反転させる必要がある。
【0219】
よって、エンコーダからデコーダに対して送信されるサイド情報の総量は、次のデータにより構成される。
・tileNum[nTar]:対象タイル毎に選択されたソースタイルのインデックス
・tileSign[nTar]:対象タイルのサイン
・tileMod[nTar]:対象タイル毎の相関遅延
【0220】
タイル除去および安定化は、IGFにおいて重要なステップである。その必要性と優位性を、例えば安定的なピッチパイプ音のような静的な音調オーディオ信号を想定した具体例により説明する。論理的には、所定の対象領域について、ソースタイルがフレームを超えた同じソース領域から常に選択される場合には、最小のアーティファクトしか導入されない。信号が静的だという想定であったとしても、この条件は、全てのフレームについてあてはまるわけではない。というのも、他の同程度に類似するソース領域の類似性基準(例えば、相関性)によって、類似結果(例えば、クロス相関性)が支配され得るからである。これによって、近接フレーム間のtileNum[nTar]が、2つまたは3つの非常に類似する選択肢の間で迷うこととなる。これが、アーティファクトのような不快なミュージカルノイズの原因となりうる。
【0221】
このようなアーティファクトを除去するために、ソースタイルの集合について、残りのソース集合が最大限までに非類似となるよう除去処理を行わなければならない。これは、ソースタイルの集合
S={s1,s2,...sn}
の全体に対して、以下のように達成される。いずれのソースタイルsについても、他の全てのソースタイルと関連付けられ、sとsとの最も良い相関を見つけ、これをマトリックスSに蓄積する。ここで、S[i][j]は、sとsとの間の最大絶対クロス相関値を含む。段に沿ってマトリックスSを加えると、ソースタイルsとその他のソースタイルTとのクロス相関の和が得られる。
T[i]=S[i][1]+S[i][2]...+S[i][n]
ここで、Tは、ソースがいかに他のソースタイルに類似しているかの基準を示す。いずれかのソースタイルiについて、
T > 閾値
が成立しているならば、ソースタイルiは、潜在的ソースのセットから除外される。というのも、他のソースと非常に相関しているからである。式の条件を満たすタイルセットから最も低い相関のタイルを選択し、この部分集合の代表的タイルとする。このように、ソースタイルがそれぞれ最大限にまで非類似となるよう確保される。
【0222】
タイル除去方法には、以前のフレームで用いられた除去タイルセットの記録が含まれる。以前のフレームにおいてアクティブであったタイルは、除去の候補が他に存在すれば、次のフレームでも維持される。
【0223】
フレームkにおけるタイル{s,s...,s}のうち、タイルs、s、およびsがアクティブであるとすると、フレームk+1においては、sが他のタイルと最大限まで相関を有し、s、s、およびsが除去されるべき場合であったとしても、sは前回のフレームにおいて有用なソースタイルであったため、保持される。したがって、ソースタイルのセットにおいてこれを保持することは、タイル選択の時間的継続性を実施するのに有益である。この方法は、T[i][j]と表すソースiと対象jとの間のクロス相関が高い場合に適用される。
【0224】
タイル選択安定化処理の追加的方法として、現在のフレームにおけるいずれのソースタイルも対象タイルとあまり相関を有しない場合には、タイル順番を前回フレームk-1から保つ方法が挙げられる。この方法は、T[i][j]と表すソースiと対象jとの間のクロス相関が、全てのi、jについて極めて低い場合に適用される。
【0225】
例えば、暫定的な閾値を用いて、
[i][j]<0.6
とすると、このフレームkの全てのnTarについて、
tileNum[nTar]=tileNum[nTar]k-1
となる。
【0226】
上述の2つの技術は、フレームを超えて高速で変化するセットタイル数から生じるアーティファクトを大幅に削減する。このタイル削減および安定化方法の別の付加的メリットとしては、追加的情報を何らデコーダに送る必要がなく、またデコーダの構造を変更する必要がないことが挙げられる。この提案に係るタイル除去方法は、タイル化されたスペクトル領域におけるアーティファクトなどの潜在的なミュージカルノイズや過剰なノイズを除去する素晴らしい方法である。
【0227】
図11aは、符号化されたオーディオ信号を復号するオーディオデコーダを示す。オーディオデコーダは、第1セットの第1スペクトル部の第1復号表現を生成するオーディオ(コア)デコーダ1102を有し、この復号表現は、第1スペクトル解像度を有する。
【0228】
さらに、オーディオデコーダは、第1スペクトル解像度よりも低い第2スペクトル解像度を有する第2セットの第2スペクトル部の第2復号表現を生成するパラメトリックデコーダ1104を有する。さらに、第1入力1101として第1スペクトル部を受信し、1103で示す第2入力としてパラメトリック情報を受信する周波数生成器1106が設けられる。このパラメトリック情報には、各対象周波数タイルまたは対象再構築帯域についてのソースレンジ情報が含まれる。周波数生成器1106は、対象レンジのスペクトルデータを生成するために、整合情報にて特定されたソースレンジからのスペクトル値を使って、周波数再生を実行する。その後、第1スペクトル部1101と周波数再生器1107の出力との両方が、スペクトル時間変換器1108に入力され、最終的に復号オーディオ信号を生成する。
【0229】
オーディオデコーダ1102は、時間領域オーディオデコーダやパラメトリックオーディオデコーダなどのような他のオーディオ復号であってもよいが、スペクトル領域オーディオデコーダであることが好ましい。
【0230】
図11bに示す通り、周波数再生器1106は、奇数遅延のためのソースレンジ選択タイル変調器を示すブロック1120の機能や、白色化フラグ1123が提供される場合には、白色化フィルタ1122、さらには、ブロック1128にて実行され図示される調節機能を有するスペクトル包絡線を有してもよい。なお、ブロック1128は、当該調節機能の実行に際しては、ブロック1120またはブロック1122のいずれか、またはこれら両ブロックの連携により生成された生のスペクトルデータを用いる。いずれにせよ、周波数再生器1106は、受信した白色化フラグ1123に反応するスイッチ1124を含んでもよい。白色化フラグがセットされると、奇数遅延のためのソースレンジ選択器/タイル調整器の出力が、白色化フィルタ1122に入力される。しかしながら、このとき、白色化フラグ1123は、所定の再構築帯域については設定されず、ブロック1120の出力が、白色化されることなくスペクトル包絡線調整ブロック1128へと提供されるよう、バイパス線1126が起動される。
【0231】
ビットストリームにおいては、2つ以上のレベルの白色化(1123)が信号化されており、これらのレベルは、タイル毎に信号化される。各タイルについて3つのレベルが信号化されている場合、これらは次の方法によって符号化される。
bit = readBit(1);
if(bit == 1) {
for(tile_index = 0..nT)
/*same levels as last frame*/
whitening_level[tile_index] = whitening_level_prev_frame[tile_index];
} else {
/*first tile:*/
tile_index = 0;
bit = readBit(1);
if(bit == 1) {
whitening_level[tile_index] = MID_WHITENING;
} else {
bit = readBit(1);
if(bit == 1) {
whitening_level[tile_index] = STRONG_WHITENING;
} else {
whitening_level[tile_index] = OFF; /*no-whitening*/


/*remaining tiles:*/
bit = readBit(1);
if(bit == 1) {
/*flattening levels for remaining tiles same as first.*/
/*No further bits have to be read*/
for(tile_index = 1..nT)
whitening_level[tile_index] = whitening_level[0];
} else {
/*read bits for remaining tiles as for first tile*/
for(tile_index = 1..nT) {
bit = readBit(1);
if(bit == 1) {
whitening_level[tile_index] = MID_WHITENING;
} else {
bit = readBit(1);
if(bit == 1) {
whitening_level[tile_index] = STRONG_WHITENING;
} else {
whitening_level[tile_index] = OFF; /*no-whitening*/




【0232】
MID_WHITENINGおよびSTRONG_WHITENINGは、包絡線が計算される方法(上述の通り)に違いを有する、異なる白色化フィルタ(1122)を意味する。
【0233】
デコーダ側の周波数再生器は、粗いスペクトルタイル選択スキームのみが適用された場合、ソースレンジID1121によって制御されてもよい。しかしながら、微細に調整したスペクトルタイル選択スキームが適用されると、追加的に、ソースレンジ遅延1119が提供される。さらに、相関計算が負の結果だった場合には、ページデータスペクトル線のそれぞれに対して-1を乗じて負のサインに対処するよう、相関のサインもブロック1120に対して追加的に適用される。
【0234】
したがって、図11aおよび11bにて説明される本発明は、所定の目標または対象レンジについて最も整合するソースレンジがエンコーダ側で計算され、デコーダ側で適用されるという事実により、最適なオーディオ品質が得られるよう確保する。
【0235】
図11cは、オーディオ信号を符号化するオーディオエンコーダであって、時間スペクトル変換器1130、その後段に接続されたペクトル解析器1132、パラメータ計算器1134およびコア符号器1136を有するものを示す。コア符号器1136は、符号化されたソースレンジを出力し、パラメータ計算器1134は、対象レンジの整合情報を出力する。
【0236】
符号化されたソースレンジは、図11aに示すデコーダが周波数再生を実施する位置に置かれるよう、対象レンジの整合情報とともにデコーダに送信される。
【0237】
パラメータ計算器1134は、第1スペクトル部と第2スペクトル部の類似性を算出し、算出された類似性に基づき、第2スペクトル部について、この第2スペクトル部とできる限り整合する第1スペクトル部を決定する。図12aおよび12bに示される異なるソースレンジと対象レンジの整合結果が、第2スペクトル部を有する選択された整合ペアを決定するのが好ましく、またパラメータ計算器は、整合ペアを符号化されたオーディオ信号において特定する、この整合情報を提供するよう構成される。このパラメータ計算器1134は、第2セットの第2スペクトル部において事前に設定された対象領域、または例えば図12bに示す、第1セットの第1スペクトル部において事前に設定されたソース領域を使用するよう構成されることが好ましい。事前に設定された対象領域がオーバーラップしないか、または事前に設定されたソース領域がオーバーラップすることが好ましい。事前に設定されたソース領域が、図3aのギャップ充填開始周波数309より下の第1フペクトル部の第1セットの部分集合である場合には、低スペクトル領域を対象とする事前に設定された対象領域は、いずれの対象レンジもギャップ充填開始周波数より上に位置し、かつソースレンジがギャップ充填開始周波数より下に位置するよう、その低周波数側境界においてギャップ充填開始周波に一致することが好ましい。
【0238】
上述の通り、ソース領域に何ら遅延がないソース領域を有する対象領域と、ソース領域は同じだが所定の遅延があるものとを比較することにより、微細な粒度が得られる。これらの遅延は、図11dのクロス相関性計算器1140において適用され、整合ペア選択は、タイル選択器1144によって最終的に行われる。
【0239】
さらに、ブロック1142に示される、ソースおよび/またはターゲットレンジの白色化を実施することが好ましい。そしてこのブロック1142は、図11bのデコーダ側スイッチ1123を制御するのに用いられるビットストリームに対して、白色化フラグを提供する。さらに、クロス相関計算器1140が負の結果を出した場合には、この負の結果もデコーダに対して信号化される。したがって、好適実施形態においては、タイル選択器は、対象レンジ、遅延、サインのためのソースレンジIDを出力し、ブロック1142は、追加的に白色化フラグを提供する。
【0240】
さらに、パラメータ計算器1134は、類似性の閾値に基づきソースパッチを潜在的ソースタイルの集合から落とすよう潜在的ソースレンジの数を削減して、ソースタイル除去1146を実施するよう構成される。したがって、2つのソースタイルが類似性の閾値と同等にまたはこれを超過して類似する場合には、これらの2つのソースタイルのうち1つが潜在的ソースの集合から除去され、除去されたソースタイルは、以後の処理において一切使用されない。特に、タイル選択器1144は、この除去タイルを選択することはできないし、またブロック1140において実施される、異なるソースレンジと対象レンジとの間のクロス相関計算には使用されない。
【0241】
復号装置は、第1セットの第1スペクトル部の符号化表現と、第2セットの第2スペクトル部に対するスペクトルエネルギ情報を示すパラメトリックデータの符号化表現と、を含む符号化オーディオ信号を復号化する構成において、第1セットの第1スペクトル部の符号化表現901bを復号して第1セットの第1スペクトル部904を取得し、パラメトリックデータの符号化表現を復号して、個別の再構築帯域に対する個別エネルギ情報を示す、第2セットの第2スペクトル部に対する復号化パラメトリックデータ902を取得するオーディオデコーダ900と、第2スペクトル部922,923を含む再構築帯域920内のスペクトル値を、第1スペクトル部921と第2スペクトル部とを含む再構築帯域に対する個別エネルギ情報とを使用して、再構築する周波数再生器906とを備え、周波数再生器906は、再構築帯域内の周波数値を有する蓄積された第1スペクトル部のエネルギ情報を含む残存エネルギを判定(912)し、再構築帯域920内に周波数を有する第1スペクトル部922,923とは異なる周波数値に対して、再構築帯域920の、周波数再生成により再構築帯域内の第1スペクトル部921,306とは異なる第1スペクトル部302を用いて生成される、さらなるスペクトル部922,923のタイルエネルギ情報を判定(918)し、再構築帯域920内の消失エネルギ情報を、再構築帯域に対する個別エネルギ情報と残存エネルギ情報とを用いて判定(914)し、再構築帯域内のさらなるスペクトル部を、消失エネルギ情報とタイルエネルギ情報とに基づいて、調整(916)する構成とすることもできる。
【0242】
この構成の復号装置において、周波数再生器906は、ギャップ充填周波数309の上の再構築帯域を再構築し、再構築帯域920内のさらなるスペクトル部922,923を再構築するため、ギャップ充填周波数309より低い周波数を有する第1スペクトル部302を用いる構成とすることが望ましい。
【0243】
これらの構成の復号装置において、オーディオデコーダ900は、スケールファクタ帯域のセットとそれに関連付けられたスケールファクタを用いる構成であり、各スケールファクタは再構築帯域に関連付けられ、オーディオデコーダ900は、再構築帯域920内にスペクトル値を有する第1スペクトル部921を、スケールファクタを用いて復号化する構成とすることが望ましい。
【0244】
これらの構成の復号装置において、復号化表現は、再構築帯域に対して、再構築帯域の少なくとも一部に対するスケールファクタを含み、オーディオデコーダは、再構築帯域に対する個別エネルギ情報を、再構築帯域内にある、または再構築帯域に一致するスケールファクタ帯域に対するスケールファクタに加えて、パラメトリックデータの符号化再構築から得る構成とすることができる。
【0245】
あるいは、周波数再生器906は、複数の再構成帯域920を使用する構成であり、スケールファクタ帯域の帯域境界が、複数の再構築帯域からの再構築帯域の境界に一致する構成とすることもできる。
【0246】
オーディオデコーダ900は、周波数に伴って変化するスケールファクタ帯域を用いる構成であり、第1周波数を有するスケールファクタ帯域は、第1周波数より高い第2周波数を有する別のスケールファクタ帯域より周波数帯域幅が狭い構成とすることが望ましい。
【0247】
再構築帯域に対する個別エネルギ情報は再構築帯域内の複数のスペクトル値で正規化されていることが望ましい。
【0248】
以上の構成の復号装置において、周波数再生器906は、残存エネルギ情報912または自乗スペクトル値を蓄積することによるタイルエネルギ情報918を判定する構成とすることが望ましい。
【0249】
以上の構成の復号装置において、周波数再生器906は、消失エネルギ914を、再構築帯に対する個別エネルギ情報に再構築帯域内の複数のスペクトル値で重み付けすることにより、または残存エネルギ912情報を差し引くことにより、判定する構成とすることが望ましい。
【0250】
以上の構成の復号装置において、周波数再生器906は、再構成帯域に対する利得ファクタを、消失エネルギ情報およびタイルエネルギ情報を使用し、利得ファクタを、再構築帯域内のさらなるスペクトル部922,923内のスペクトル値に適用し、再構築帯域内のスペクトル値を有する第1スペクトル部921には適用しない構成とすることができる。
【0251】
以上の構成の復号装置において、オーディオデコーダ900は、短ブロックまたは長ブロックを処理する構成であり、複数の短いブロックが、2以上のグループ分け短ブロックに対して単一セットのスケールファクタだけを有するブロックにグループ分けされ、周波数再生器906は、2以上のグループ分け短ブロックに対する残存エネルギ情報またはタイルエネルギ情報を計算する、または2以上のグループ分け短ブロックに対する残存エネルギ情報またはタイルエネルギ情報を、2以上のグループ分け短ブロックに対する個別エネルギ情報を再構築帯域に対する複数のスペクトル値により重み付けすることにより計算する構成とすることができる。
【0252】
以上の構成の復号装置において、オーディオデコーダ900は、異なる周波数に対する複数のグループ分けされた再構成帯域の個別エネルギ情報を提供する構成であり、周波数再生器906は、グループ分けされた再構成帯域のそれぞれに対する個別エネルギ情報を用いる構成であることが望ましい。
【0253】
符号化オーディオ信号を生成するオーディオエンコーダにおいて、オーディオ信号をスペクトル表現に変換する時間スペクトル変換器1002と、オーディオ信号のスペクトル表現を解析して、第1解像度で符号化される第1セットの第1スペクトル部と、第1解像度より低い第2解像度で符号化される第2セットの第2スペクトル部とを判定するスペクトルアナライザ1004と、第1スペクトル部のスペクトル値を含み第2スペクトル部を含む再構築帯域に対してエネルギ情報を提供するパラメータ計算器1006と、第1スペクトル解像度を有する第1セットの第1スペクトル部の符号化表現を生成し、1以上のスケールファクタ帯域に対して1以上のスケールファクタを提供するオーディオエンコーダ1008とを備え、パラメータ計算器1006は、第2セットの第2スペクトル部の第2符号化表現を生成する構成であり、第2符号化表現は再構成帯域に対するエネルギ情報を含むこともできる。
【0254】
この構成のオーディオエンコーダにおいて、再構成帯域に対する1以上のスケールファクタを心理音響マスク閾値402を用いて計算する構成であることが望ましい。
【0255】
これらの構成のオーディオエンコーダにおいて、再構築帯域内のエネルギを再構築帯域内の複数のスペクトル値により正規化する構成であり、複数の異なる再構築帯域の異なる再構築帯域は異なる数のスペクトル値を有することが望ましい。
【0256】
オーディオエンコーダ1008は、長ブロックと短ブロックとを切り替え、転送されたスケールファクタの計算でブロックのグループ分けを行う構成であり、パラメータ計算器1006は、オーディオエンコーダ1008によりなされたと同等のエネルギ情報のグループ分けを実行する構成であることが望ましい。
【0257】
以上の構成のオーディオエンコーダにおいて、パラメータ計算器1006は、スケールファクタ帯域の周波数境界と一致する周波数境界を有する再構成帯域を用いる構成であるが望ましい。
【0258】
以上の構成のオーディオエンコーダにおいて、パラメータエンコーダは、2以上のスケールファクタ帯域にわたって延びる再構築帯域を使用し、2以上のスケールファクタ帯域に対するエネルギ情報を、2以上のスケールファクタ帯域に対するグループ分けされたエネルギ情報として計算する構成であることが望ましい。
【0259】
以上の構成のオーディオエンコーダにおいて、パラメータ計算器1006は、再構築帯域のエネルギ情報を使用し、付加的に、再構築帯域を再構築するために使用されるソースレンジのエネルギ情報を使用して、再構築帯域に対するエネルギ情報を計算する構成であるが望ましい。
【0260】
この構成において、パラメータ計算器1006は、オリジナル信号の複素スペクトルの再構築帯域のエネルギ情報Eokを計算し、再構築帯域を再構築するために使用するオリジナル信号の複素スペクトルの実部のソースレンジのさらなるエネルギ情報Erkを計算する構成であり、パラメータ計算器は、エネルギ情報Eokおよびさらなるエネルギ情報Erkを用いて再構築帯域に対するエネルギ情報を計算する構成であることが望ましい。
【0261】
以上の構成のオーディオエンコーダにおいて、パラメータ計算器1006は、オリジナル信号の複素スペクトルの再構築されるべきスケールファクタ帯域のエネルギ情報を第1エネルギ情報Eokとして決定し、再構成されるべきスケールファクタ帯域を再構成するために使用されるオリジナル信号の複素スペクトルの実部のソースレンジのエネルギ情報を第2エネルギ情報Etkとして決定し、再構成されるべきスケールファクタ帯域を再構成するために使用されるオリジナル信号の複素スペクトルのソースレンジのエネルギ情報を第3エネルギ情報Erkとして決定し、第1エネルギ情報、第2エネルギ情報および第3エネルギ情報の少なくとも2つの間の相関に基づいて重み付け情報を決定し、第1エネルギ情報と第3エネルギ情報の一方に重み付け情報を用いて重み付けして重み付けされた情報を取得し、この重み付けされた情報を再構築帯域に対するエネルギ情報として用いる構成とすることができる。
【0262】
第1セットの第1スペクトル部の符号化表現と、第2セットの第2スペクトル部に対するスペクトルエネルギ情報を示すパラメトリックデータの符号化表現と、を含む符号化オーディオ信号を復号化する復号方法において、第1セットの第1スペクトル部の符号化表現901bを復号900して第1セットの第1スペクトル部904を取得し、パラメトリックデータの符号化表現を復号(900)して、個別の再構築帯域に対する個別エネルギ情報を示す、第2セットの第2スペクトル部に対する復号化パラメトリックデータ902を取得し、第2スペクトル部922,923を含む再構築帯域920内のスペクトル値を、第1スペクトル部921と第2スペクトル部とを含む再構築帯域に対する個別エネルギ情報とを使用して、再構築(906)し、この再構築(906)では、再構築帯域内の周波数値を有する蓄積された第1スペクトル部のエネルギ情報を含む残存エネルギを判定(912)し、再構築帯域920内に周波数を有する第1スペクトル部922,923とは異なる周波数値に対して、再構築帯域920の、周波数再生成により再構築帯域内の第1スペクトル部921,306とは異なる第1スペクトル部302を用いて生成される、さらなるスペクトル部922,923のタイルエネルギ情報を判定(918)し、再構築帯域920内の消失エネルギ情報を、再構築帯域に対する個別エネルギ情報と残存エネルギ情報とを用いて判定(914)し、再構築帯域内のさらなるスペクトル部を、消失エネルギ情報とタイルエネルギ情報とに基づいて、調整(916)することができる。
【0263】
符号化オーディオ信号を生成する方法において、オーディオ信号をスペクトル表現に変換(1002)し、オーディオ信号のスペクトル表現を解析して、第1解像度で符号化される第1セットの第1スペクトル部と、第1解像度より低い第2解像度で符号化される第2セットの第2スペクトル部とを判定(1004)し、第1スペクトル部のスペクトル値を含み第2スペクトル部を含む再構築帯域に対してエネルギ情報を提供(1006)し、第1スペクトル解像度を有する第1セットの符号化表現を生成(1008)して、1以上のスケールファクタ帯域に対して1以上のスケールファクタを提供し、この提供(1006)では、第2セットの第2スペクトル部の符号化表現であって再構成帯域に対するエネルギ情報を含む第2符号化表現を生成することができる。
【0264】
異なる図面を参照して異なる実施形態を説明した。図1aないし5cは、全レートまたは全帯域エンコーダ/デコーダスキームに関する。図6aないし7eは、TNSまたはTTS処理を有するエンコーダ/デコーダに関する。図8aないし8eは、特定2チャンネル処理を有するエンコーダ/デコーダスキームに関する。図9aないし10dは、特定エネルギ情報計算および適用に関し、図11aないし12cは、タイル選択の所定方法に関する。
【0265】
これらの異なる側面は、それぞれ独立して、発明として使用できるが、図2aおよび2bに基本的に示すように、一緒に適用されてもよい。しかしながら、特定2チャンネル処理は、図13に示すエンコーダ/デコーダスキームについても適用可能であり、デコーダ側における再構築帯域または適応ソースレンジ識別および対応アプリケーションにおける、TNS/TTS処理、包絡線エネルギ情報計算および適用についても同様のことがいえる。一方で、全レートの側面は、TNS/TTS処理とともに、またはこの処理を伴わずして適用されてもよく、また2チャンネル処理を伴っても伴わなくともよく、適応ソースレンジ識別を伴っても伴わなくともよい。あるいは、スペクトル包絡線表現の他の種のエネルギ計算とともに適用されてもよい。したがって、これらの個別の一側面の特徴は、他の側面にも適用できる。
【0266】
一部の側面については、エンコーディングまたは復号化の装置の文脈において説明されたが、これらの側面は、対応する方法の記載も示すことは明らかであり、ブロックや装置は、方法ステップまたは方法ステップの特徴に対応する。同様に、方法の観点から説明された側面もまた、対応するブロックもしくは物品または対応する装置の特徴の説明としても機能するものである。一部のまたは全ての方法ステップは、例えば、マイクロプロセッサ、プログラム可能なコンピュータ、または電子回路などのハードウェア装置によって(またはこれを用いて)実行されてもよい。一部の実施形態において、最も重要な方法ステップの1つ以上がこのような装置によって実行されてもよい。
【0267】
所定の実施に係る要件次第では、発明の実施形態は、ハードウェアで実行されてもよいし、ソフトウェアで実行されてもよい。実施は、例えばフレキシブルディスク、ハードディスクドライブ(HDD)、DVD、ブルーレイ、CD、ROM、PROM、EPROM、EEPROM(登録商標)、またはフラッシュメモリなどのような、電子的に読み取り可能な制御信号が蓄積されたデジタル蓄積媒体を用いてすることができ、当該方法が実行されるようこれらのデジタル蓄積媒体がプログラム可能なコンピュータシステムと連携する(または連携することできる)。したがって、デジタル蓄積媒体は、コンピュータに読み取り可能である。
【0268】
本発明による一部の実施形態では、電子的に読み取り可能な制御信号を有するデータキャリアを含み、当該キャリアは、開示される方法のいずれかが実施されるよう、プログラム可能なコンピュータシステムと連携することができる。
【0269】
概して、本発明の実施形態は、プログラムコードを有するコンピュータプログラム製品として実行されてもよく、このようなプログラムコードは、コンピュータプログラム製品がコンピュータにおいて実行されるとき、上記方法のいずれかを実施するよう動作する。このプログラムコードは、例えば機械で読み取り可能なキャリアに蓄積されてもよい。
【0270】
その他の実施形態においては、開示されるいずれかの方法を実行する、機械で読み取り可能なキャリアに蓄積されたコンピュータプログラムを有する。
【0271】
つまり、本発明に係る方法は、その一実施形態においては、コンピュータプログラムがコンピュータで実行されたとき、開示されるいずれかの方法を実行するプログラムコードを有するコンピュータプログラムとして構成される。
【0272】
本発明に係る方法のさらなる実施形態は、したがって、開示される方法のいずれかを実施するコンピュータプログラムが蓄積されたデータキャリア(またはデジタル蓄積媒体またはコンピュータに読み取り可能な媒体)として構成される。データキャリア、デジタル蓄積媒体、または蓄積媒体は、一般的には有形でおよび/または固定的である。
【0273】
本発明に係る方法のさらなる実施形態は、したがって、開示される方法のいずれかを実施するコンピュータプログラムを示すデータストリームまたは信号シーケンスとして構成される。このデータストリームまたは信号シーケンスは、例えば、データコミュニケーション接続(例えばインターネットなど)を介して送られるよう構成されてもよい。
【0274】
その他の実施形態においては、開示されるいずれかの方法を実行するよう構成または適応された処理手段、例えばコンピュータ、プログラム可能な論理機構を有する。
【0275】
その他の実施形態においては、開示されるいずれかの方法を実行するコンピュータプログラムをインストールしたコンピュータを有する。
【0276】
本発明によるその他の実施形態においては、開示されるいずれかの方法を実行するコンピュータプログラムを、受信器に対して移動(例えば電子的にまたは選択的に)させるよう構成された装置またはシステムを有する。受信器は、例えばコンピュータや携帯機器、メモリ機器などであってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信器側に移動させるファイルサーバを有してもよい。
【0277】
一部の実施形態においては、開示される方法の機能の一部または全部を実行するために、プログラム可能な論理機構(例えば、フィールドプログラマブルゲートアレイ)を用いてもよい。一部の実施形態においては、開示される方法のいずれかを実行するために、フィールドプログラマブルゲートアレイとマイクロプロセッサとを連携させてもよい。一般に、これらの方法はハードウェア装置によって実行されることが好ましい。
【0278】
上述の実施形態は、本発明の原理を単に示すに過ぎない。この明細書に開示する構成や詳細に対して変更または変形を施すことができることは、当業者にとって明らかであると理解される。したがって、次に続く特許請求の範囲によってのみ制限される趣旨であり、実施形態の記載または説明によってなされた特定の詳細によっては、何ら限定されない。
【先行技術文献】
【非特許文献】
【0279】
【文献】Dietz, L. Liljeryd, K. Kjoerling and O. Kunz, “Spectral Band Replication, a novel approach in audio coding,” in 112th AES Convention, Munich, May 2002.
【文献】Ferreira, D. Sinha, “Accurate Spectral Replacement”, Audio Engineering Society Convention, Barcelona, Spain 2005.
【文献】D. Sinha, A. Ferreira1 and E. Harinarayanan, “A Novel Integrated Audio Bandwidth Extension Toolkit (ABET)”, Audio Engineering Society Convention, Paris, France 2006.
【文献】R. Annadana, E. Harinarayanan, A. Ferreira and D. Sinha, “New Results in Low Bit Rate Speech Coding and Bandwidth Extension”, Audio Engineering Society Convention, San Francisco, USA 2006.
【文献】T. Zernicki, M. Bartkowiak, “Audio bandwidth extension by frequency scaling of sinusoidal partials”, Audio Engineering Society Convention, San Francisco, USA 2008.
【文献】J. Herre, D. Schulz, Extending the MPEG-4 AAC Codec by Perceptual Noise Substitution, 104th AES Convention, Amsterdam, 1998, Preprint 4720.
【文献】M. Neuendorf, M. Multrus, N. Rettelbach, et al., MPEG Unified Speech and Audio Coding-The ISO/MPEG Standard for High-Efficiency Audio Coding of all Content Types, 132nd AES Convention, Budapest, Hungary, April, 2012.
【文献】McAulay, Robert J., Quatieri, Thomas F. “Speech Analysis/Synthesis Based on a Sinusoidal Representation”. IEEE Transactions on Acoustics, Speech, And Signal Processing, Vol 34(4), August 1986.
【文献】Smith, J.O., Serra, X. “PARSHL: An analysis/synthesis program for non-harmonic sounds based on a sinusoidal representation”, Proceedings of the International Computer Music Conference, 1987.
【文献】Purnhagen, H.; Meine, Nikolaus, “HILN-the MPEG-4 parametric audio coding tools”, Circuits and Systems, 2000. Proceedings. ISCAS 2000 Geneva. The 2000 IEEE International Symposium on , vol.3, no., pp.201,204 vol.3, 2000
【文献】International Standard ISO/IEC 13818-3, “Generic Coding of Moving Pictures and Associated Audio: Audio”, Geneva, 1998.
【文献】M. Bosi, K. Brandenburg, S. Quackenbush, L. Fielder, K. Akagiri, H. Fuchs, M. Dietz, J. Herre, G. Davidson, Oikawa: “MPEG-2 Advanced Audio Coding”, 101st AES Convention, Los Angeles 1996
【文献】J. Herre, “Temporal Noise Shaping, Quantization and Coding methods in Perceptual Audio Coding: A Tutorial introduction”, 17th AES International Conference on High Quality Audio Coding, August 1999
【文献】J. Herre, “Temporal Noise Shaping, Quantization and Coding methods in Perceptual Audio Coding: A Tutorial introduction”, 17th AES International Conference on High Quality Audio Coding, August 1999
【文献】International Standard ISO/IEC 23001-3:2010, Unified speech and audio coding Audio, Geneva, 2010.
【文献】International Standard ISO/IEC 14496-3:2005, Information technology - Coding of audio-visual objects - Part 3: Audio, Geneva, 2005.
【文献】P. Ekstrand, “Bandwidth Extension of Audio Signals by Spectral Band Replication”, in Proceedings of 1st IEEE Benelux Workshop on MPCA, Leuven, November 2002
【文献】F. Nagel, S. Disch, S. Wilde, A continuous modulated single sideband bandwidth extension, ICASSP International Conference on Acoustics, Speech and Signal Processing, Dallas, Texas (USA), April 2010
図1A
図1B
図2A
図2B
図3A
図3B
図4A
図4B
図5A
図5B
図5C
図6A
図6B
図6C
図7A
図7B
図7C
図7D
図7E
図8A
図8B
図8C
図8D
図8E
図9A
図9B
図9C
図9D
図10A
図10B
図10C
図10D
図11A
図11B
図11C
図11D
図12A
図12C
図13A
図13B