(58)【調査した分野】(Int.Cl.,DB名)
帯域分割された利得を後処理してオーディオ信号に適用するための後処理された利得を生成する方法であって、前記帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定され、当該方法は:
特定の周波数帯域についての特定の後処理された利得を生成する段階を含み、前記段階は少なくとも、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームにおける前記特定の周波数帯域および現在フレームにおける前記特定の周波数帯域に隣接する周波数帯域を含むT型領域からの利得値を使って百分位数フィルタリングすることを含む、
方法。
前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスに依存する、請求項1ないし4のうちいずれか一項記載の方法。
前記特定の周波数帯域についての前記百分位数フィルタリングの幅および深さの一方または両方が、その特定の周波数帯域に依存する、請求項1ないし5のうちいずれか一項記載の方法。
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値は前記一つまたは複数の入力オーディオ信号の分類および前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスのうちの一つまたは複数に依存する、請求項1ないし7のうちいずれか一項記載の方法。
前記帯域分割された利得は、二つ以上の入力オーディオ信号から決定され、ノイズおよび位置外信号を削減するためである、請求項1ないし10のうちいずれか一項記載の方法。
前記帯域分割された利得は一つまたは複数の入力オーディオ信号および一つまたは複数の参照信号から決定され、ノイズおよびエコーを削減するためである、請求項1ないし10のうちいずれか一項記載の方法。
前記帯域分割された利得は、知覚的ドメイン・ベースの平準化、知覚的ドメイン・ベースのダイナミックレンジ制御および知覚的ドメイン・ベースの動的等化のうちの一つまたは複数のためである、請求項1ないし10のうちいずれか一項記載の方法。
命令を含む有体のコンピュータ可読記憶媒体であって、前記命令は、処理システムの一つまたは複数のプロセッサによって実行されたときに、処理ハードウェアに、請求項1ないし14のうちいずれか一項記載の、オーディオ信号に適用するための帯域分割された利得を後処理する方法を実行させるものである、媒体。
オーディオ信号に適用するための帯域分割された利得を後処理する装置であって、前記帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定されたものであり、当該装置は:
前記帯域分割された利得を受け容れて、後処理された利得を生成する後処理器を有し、特定の周波数帯域についての特定の後処理された利得を生成することは、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームにおける前記特定の周波数帯域および現在フレームにおける前記特定の周波数帯域に隣接する周波数帯域を含むT型領域からの利得値を使って百分位数フィルタリングすることを含む、
装置。
前記後処理器が、前記百分位数フィルタリングされた利得を平滑化する平滑化フィルタを含み、前記平滑化が周波数帯域から周波数帯域にかけての平滑化および時間を通じた平滑化の少なくとも一方を含む、請求項17記載の装置。
前記一つまたは複数の入力オーディオ信号の信号分類を生成する信号分類器をさらに有しており、前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号の前記信号分類に依存する、請求項17または18記載の装置。
前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスに依存する、請求項17ないし20のうちいずれか一項記載の装置。
前記特定の周波数帯域についての前記百分位数フィルタリングの幅および深さの一方または両方が、その特定の周波数帯域に依存する、請求項17ないし21のうちいずれか一項記載の装置。
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値は前記一つまたは複数の入力オーディオ信号の分類および前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスのうちの一つまたは複数に依存する、請求項17ないし23のうちいずれか一項記載の装置。
前記帯域分割された利得は、二つ以上の入力オーディオ信号から決定され、ノイズおよび位置外信号を削減するためである、請求項17ないし26のうちいずれか一項記載の装置。
前記帯域分割された利得は一つまたは複数の入力オーディオ信号および一つまたは複数の参照信号から決定され、ノイズおよびエコーを削減するためである、請求項17ないし26のうちいずれか一項記載の装置。
前記帯域分割された利得は、知覚的ドメイン・ベースの平準化、知覚的ドメイン・ベースのダイナミックレンジ制御および知覚的ドメイン・ベースの動的等化のうちの一つまたは複数のためである、請求項17ないし26のうちいずれか一項記載の装置。
【発明を実施するための形態】
【0010】
〈概観〉
本発明の諸実施形態は、方法、装置および前記方法を実行するために一つまたは複数のコンピュータ可読な有体の媒体にエンコードされた論理を含む。
【0011】
ある実施形態は、オーディオ信号に適用するための帯域分割された利得を後処理する方法を含む。帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定される。本方法は、帯域分割された利得を後処理して、後処理された利得を生成し、特定の周波数帯域についての特定の後処理された利得を生成することを含む。これは、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームからおよび前記特定の周波数帯域に隣接する周波数帯域についての利得値からの利得値を使って百分位数フィルタリングすることを含む。
【0012】
ある実施形態は、オーディオ信号に適用するための帯域分割された利得を後処理する装置を含む。帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定される。本装置は、帯域分割された利得を受け容れて、後処理された利得を生成し、特定の周波数帯域についての特定の後処理された利得を生成する後処理器を有する。これは、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームからおよび前記特定の周波数帯域に隣接する周波数帯域についての利得値からの利得値を使って百分位数フィルタリングすることを含む。
【0013】
いくつかの実施形態では、前記後処理は、前記百分位数フィルタリングのあとに、周波数帯域から周波数帯域にかけての平滑化および時間を横断しての平滑化の少なくとも一方を含む。
【0014】
いくつかの実施形態では、前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号の信号分類に依存する。いくつかの実施形態では、前記分類は、前記入力オーディオ信号が音声である可能性が高いか否かを含む。
【0015】
いくつかの実施形態では、前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスに依存する。
【0016】
いくつかの実施形態では、前記特定の周波数帯域についての前記百分位数フィルタリングの幅および深さの一方または両方が、前記百分位数フィルタリングによって決定される前記特定の周波数帯域に依存する。
【0017】
いくつかの実施形態では、前記周波数帯域は知覚的スケールまたは対数スケール上である。
【0018】
いくつかの実施形態では、前記百分位数フィルタリングは百分位数値のものであり、たとえば前記百分位数値はメジアンである。いくつかの実施形態では、前記百分位数フィルタリングは百分位数値のものであり、前記百分位数値は前記一つまたは複数の入力オーディオ信号の分類および前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスのうちの一つまたは複数に依存する。
【0019】
いくつかの実施形態では、前記百分位数フィルタリングは重み付けされた百分位数フィルタリングである。
【0020】
いくつかの実施形態では、一つまたは複数の入力オーディオ信号から決定された前記帯域分割された利得はノイズを削減するためである。いくつかの実施形態では、帯域分割された利得は、二つ以上の入力オーディオ信号から決定され、ノイズおよび位置外信号を削減するためである。いくつかの実施形態では、帯域分割された利得は一つまたは複数の入力オーディオ信号および一つまたは複数の参照信号から決定され、ノイズおよびエコーを削減するためである。
【0021】
ある実施形態は、命令を含む有体のコンピュータ可読記憶媒体を含み、前記命令は、処理システムの一つまたは複数のプロセッサによって実行されたときに、処理ハードウェアに、本稿に記載されるようにしてオーディオ信号に適用するための帯域分割された利得を後処理する方法を実行させる。
【0022】
ある実施形態は、少なくとも一つのプロセッサによって実行されたときに、本稿に記載される方法の実行を引き起こすプログラム論理を含む。
【0023】
個別的な実施形態は、これらの側面、特徴または利点の全部を提供することもあれば、一部を提供することもあれば、あるいは一つも提供しないこともある。個別的な実施形態は、一つまたは複数の他の側面、特徴または利点を提供してもよく、その一つまたは複数は本願の図面、記述および請求項から当業者にはすぐに明白となりうるものである。
【0024】
〈いくつかの例示的な実施形態〉
本発明のある側面は、たとえばノイズ削減のためまたは他の入力処理のための利得平滑化のための利得の百分位数フィルタリングを含む。百分位数フィルタ〔パーセンタイル・フィルタ〕は、特定の利得値を、あらかじめ定義された数の値のあらかじめ定義された百分位数で、たとえば前記特定の利得値およびあらかじめ定義された近傍利得値の集合の前記あらかじめ定義された百分位数で、置き換える。百分位数フィルタの一例は、メジアン・フィルタである。メジアン・フィルタについては、前記あらかじめ定義された百分位数は第50百分位数である。あらかじめ定義された百分位数はパラメータであってもよく、データ依存であってもよいことを注意しておく。よって、本稿に記載されるいくつかの例では、ある型のデータ、たとえばノイズである可能性が高いデータについては第一のあらかじめ定義された百分位数があってもよく、別の型のデータ、たとえば音声である可能性が高いデータについては、異なる第二の百分位数値があってもよい。百分位数フィルタは時にランク順フィルタと称される。その場合、あらかじめ定義された百分位数ではなく、あらかじめ定義されたランク順が使用される。たとえば、整数9個の値について、第三ランク順フィルタは、それら九つの値の三番目に大きな値を出力することになり、第五ランク順フィルタは五番目に大きな値を出力することになり、これはメジアン、すなわち第50百分位数である。
【0025】
図1は、本発明のある実施形態を含む、一つまたは複数のオーディオ信号、たとえば異なる位置のマイクロホンからのマイクロホン信号101の集合を処理することの一例を示している。処理は、ある数、たとえばM個のサンプルの時間フレームごとである。簡単な実施形態では、一つの入力、たとえば一つのマイクロホンしかなく、別の実施形態では、Pで表わされる複数個の入力、たとえばマイクロホン信号101がある。入力処理器105はサンプリングされた入力オーディオ信号101を受け容れ、複数B個の周波数帯域についての該入力オーディオ信号101の帯域分割された瞬時周波数領域振幅メトリック119を形成する。二つ以上の入力オーディオ信号があるいくつかの実施形態では、メトリック119は入力オーディオ信号から下方混合される。振幅メトリックはスペクトル内容を表わす。本稿に記載される実施形態の多くでは、スペクトル内容はパワースペクトルで表わされるが、本発明はパワースペクトル値を処理することに限定されるものではない。むしろ、任意のスペクトル振幅依存メトリックが使用できる。たとえば、振幅スペクトルが直接使われる場合、そのようなスペクトル内容は時にスペクトル包絡線と称される。そのため、本記述においては時に「パワー(または他の振幅メトリック)スペクトル」という句が使われる。
【0026】
いくつかの実施形態では、利得の後処理は、位相または群遅延のような諸帯域における追加的な信号属性および/または複数の入力チャネル間の、あるサブバンドにわたる相関を使う利得に関係することを注意しておく。
【0027】
あるノイズ削減実施形態では、入力処理器105は、瞬時振幅メトリック119に適用するべき帯域分割された利得111の集合を決定する。ある実施形態では、入力処理はさらに、入力オーディオ信号の単一の分類、たとえば音声活動検出器(VAD: voice activity detector)によって決定されるところの入力オーディオ信号(単数または複数)が音声である可能性が高いか否かの指標および/または風活動検出器(WAD: wind activity detector)によって決定されるところの入力音声信号(単数または複数)が風である可能性が高いか否かの指標および/またはたとえばスペクトル・フラックスがある閾値を超えることによって示される信号エネルギーが急速に変化しつつあることの指標を決定することを含む。
【0028】
本発明の諸実施形態の一つの特徴は、利得を後処理して出力の品質を改善することを含む。ある実施形態では、後処理は、入力処理によって決定された利得の百分位数フィルタリングを含む。百分位数フィルタは、利得の集合を考え、該利得の集合のうちあらかじめ決定された百分位数である利得を出力する。百分位数フィルタリングの一例はメジアン・フィルタである。もう一つの例は、整数P個の値の集合に対して作用し、p番目の値を選択する百分位数フィルタである。ここで、1<p<Pである。フレーム毎にB個の利得の集合が決定され、よって、B個の周波数帯域に対するB個の利得の諸集合の時系列がある。ある実施形態では、百分位数フィルタは周波数を横断して延在するが、本発明のいくつかの実施形態では、百分位数フィルタは時間および周波数の両方を横断して延在し、現在処理されている時間フレームについて特定の周波数帯域について、1)その特定の周波数帯域および該特定の周波数の近傍のあらかじめ定義された数の周波数帯域を含む、現在の時点での周波数帯域の集合の集合のそれぞれにおける利得、および、2)一つまたは複数の以前の時間フレームにおける少なくともその特定の周波数の利得のうちの、あらかじめ定義された百分位数値、たとえばメジアンまたは他の百分位数を決定する。
【0029】
図2は、帯域分割された利得の諸集合を図的に示している。現在の時間、一フレーム前、二フレーム前、三フレーム前などのそれぞれについて一つの集合がある。
図2はさらに、現在のフレームにおける周波数帯域b
cを中心とした五つの利得値および同じ周波数帯域b
cについての二つの前の時間フレームにおける二つの利得値を含む例示的な百分位数フィルタのカバレッジを示している。フィルタ幅といえば、周波数帯域領域におけるフィルタの幅を意味し、フィルタ深さといえば、時間領域におけるフィルタの深さを意味する。記憶のない百分位数フィルタは、同じ時間フレームに対して百分位数フィルタリングを実行するだけで、よってフィルタ深さ1をもつ。
図6に示されるT型の百分位数フィルタは幅5および深さ3をもつ。
【0030】
百分位数フィルタの種々の実施形態のさらなる詳細は本稿でのちに述べる。
【0031】
図1に戻ると、後処理は、瞬時パワー(または他の振幅メトリック)119に適用されて出力を、たとえば複数の処理された周波数ビン133として生じる後処理された利得125の集合を生成する。出力合成フィルタバンク135(またはその後の符号化のための変換器/再マッピング器)がこれらの周波数ビンを所望される出力137に変換する。
【0032】
入力処理要素105は、入力分解フィルタバンクおよび利得計算器を含む。入力分解フィルタバンクは、一つの入力オーディオ信号101の場合、フレームのサンプルを諸周波数ビンに変換する変換器と、諸周波数帯域を形成する帯域分割要素とを含む。周波数帯域の大半は複数の周波数ビンを含む。入力分解フィルタバンクは、複数の入力オーディオ信号101の場合、各入力オーディオ信号のフレームのサンプルを諸周波数ビンに変換する変換器と、下方混合器、たとえば前記複数を単一の信号に下方混合するビーム形成器と、諸周波数帯域を形成する帯域分割要素とを含む。周波数帯域の大半は複数の周波数ビンを含む。
【0033】
ある実施形態では、変換器は短時間フーリエ変換(STFT)を実装する。計算効率のため、変換器は、高速フーリエ変換(FFT)によって実装される離散的な有限長のフーリエ変換(DFT)を使う。他の実施形態は異なる変換を使う。
【0034】
ある実施形態では、B個の帯域は、間隔が単調非減少である周波数にある。周波数帯域のそこそこの数、たとえば90%が二つ以上の周波数ビンからの寄与を含み、特定的な諸実施形態では、各周波数帯域は二つ以上の周波数ビンからの寄与を含む。いくつかの実施形態では、それらの帯域は対数式に単調増加する。いくつかの実施形態では、それらの帯域は音響心理学的スケール上にある。すなわち、それらの周波数帯域は、音響心理学的な臨界的間隔に関係するスケーリングをもって離間される。そのような帯域分割は本稿では「知覚的に離間された帯域分割」と呼ばれる。特定的な諸実施形態では、帯域間隔は約1ERBまたは0.5バークである、あるいは等価だが諸帯域は中心周波数の約10%の周波数離間をもつ。周波数間隔の合理的な範囲は5〜20%または約0.05..2ERBである。
【0035】
入力処理がノイズ削減を含むいくつかの実施形態では、入力処理はエコー削減をも含む。エコー削減を含む入力処理の一例は、2011年2月10日に出願された、発明者Dickinsraへの、「COMBINED SUPRRESSION OF NOISE, ECHO, AND OUT-OF-LOCATION SIGNALS」という名称の米国仮出願第61/441,611号に記載されている。その内容はここに参照によって組み込まれる。入力処理がエコー削減を含む実施形態については、一つまたは複数の参照信号も含まれ、エコーの何らかの属性、たとえばエコーのパワー(または他の振幅メトリック)スペクトルの推定を得るために使われる。結果として得られる帯域分割された利得は、同時のエコー削減およびノイズ削減を達成する。
【0036】
ノイズ削減およびエコー削減を含むいくつかの実施形態では、後処理された利得は要素123によって受け容れられ、要素123がそれらの利得を修正して追加的なエコー抑制を含める。結果は、後処理された利得125の集合であり、これらの利得が、周波数領域において、たとえば周波数ビンとして入力オーディオ信号を、たとえば異なる位置のマイクロホンからの二つ以上の入力オーディオ信号がある場合には下方混合したあとに、処理するために使われる。
【0037】
利得適用モジュール131は後処理された帯域分割された利得125を受け容れ、そのような利得を適用する。ある実施形態では、それらの帯域利得は補間され、入力オーディオ信号(一つの場合)または下方混合された入力オーディオ信号(二つ以上の入力オーディオ信号がある場合)の周波数ビン・データに適用される。周波数ビン・データは、Y
nで表わされる。n=0,1,…,N−1であり、Nは周波数ビンの数である。Y
n、n=0,1,…,N−1は諸入力オーディオ信号サンプルY
m、m=1,,Mのフレームの周波数ビンである。処理されたデータ133は次いで出力合成フィルタバンク135によってサンプル領域に変換し戻されて、M個の信号サンプル137を生成してもよい。いくつかの実施形態では、これに加えてまたは代わりに、信号133が変換または再マッピングにかけられて、たとえば、何らかの符号化方法に基づく符号化の準備ができた形にされる。
【0038】
ノイズ(および可能性としてはエコーおよび位置外信号)を削減するための入力処理を含む米国仮出願第61/441,611号と同様のシステムの例示的な実施形態について、以下でより詳細に述べる。
【0039】
本発明は、むろん、米国仮出願第61/441,611号に記載される入力処理および利得計算にもノイズ削減にも限定されるものではない。
【0040】
ある実施形態では入力処理はノイズ(および可能性としてはエコーおよび位置外信号)を削減するためだが、他の実施形態では、入力処理は、追加的にまたは主として、知覚的ドメイン・ベース平準化(leveling)、知覚的ドメイン・ベース・ダイナミックレンジ制御および知覚的ドメイン・ベース動的等化の一つまたは複数を実行するものであってもよく、たとえば本願と同じ所有者の特許文献1に記載されるように、オーディオ信号の再生レベルに依存するオーディオの知覚における変動を考慮に入れる。特許文献1によって計算される帯域分割された利得は、百分位数フィルタリングを含めて後処理されて、(変換された)入力に適用すべき、後処理された利得125が決定される。
【0041】
〈例示的な百分位数フィルタ〉
図3のAは、本発明のある実施形態に基づく、百分位数フィルタ305を含む後処理器121の簡略されたブロック図を示している。後処理器121は利得111を受け容れ、後処理が信号分類によって変わる実施形態では、一つまたは複数の信号分類指標115、たとえばVAD、WADまたは高レート・エネルギー変化、たとえば高スペクトル・フラックス検出器のうち一つまたは複数の出力を受け容れる。すべての実施形態に含まれるわけではないが、後処理器のいくつかの実施形態は、それらの利得があらかじめ定義された、可能性としては周波数依存の値を下回らないことを保証するために、最小利得処理器303を含む。ここでもまた、すべての実施形態に含まれるわけではないが、後処理器のいくつかの実施形態は、周波数帯から周波数帯にかけての変動を平滑化するおよび/または時間変動を平滑化するために、百分位数フィルタリングのあとに利得を処理する平滑化フィルタ307を含む。
図3のBは、生の利得を、そして後処理が信号分類によって変わる実施形態では一つまたは複数の信号分類指標115を受け容れることを311において含む後処理310の方法の簡略化されたフローチャートを示している。後処理は、本発明の諸実施形態によれば、百分位数フィルタリング315を含む。発明者は、百分位数フィルタリングが強力な非線形平滑化技法であり、これが平滑化方法を使うだけの場合と比べて望まれない突出値を消去するためによく機能することを見出した。いくつかの実施形態は、段階313において、それらの利得があらかじめ定義された、周波数帯域依存であってもよい最小を下回らないことを保証することを含む。いくつかの実施形態はさらに、段階317において、帯域から帯域にかけてのおよび/または時間的な平滑化、たとえば重み付けされた移動平均などを使った線形平滑化を含む。
【0042】
このように、本発明のいくつかの実施形態では、帯域分割された利得値の百分位数フィルタ315は:1)百分位数値を決定するために含められる帯域分割された利得の数、2)含められる帯域分割された利得の時間および周波数帯での位置;3)時間および周波数における利得値の位置に従って百分位数を決定する際にどのように各利得値をカウントするか;および4)エッジ条件、すなわち帯域分割された利得を、時間および周波数帯域のエッジにおける百分位数の計算を許容するよう拡張するために使われる条件;5)百分位数フィルタの該特徴付けが信号分類、たとえば音声の存在、風の存在および高スペクトル・フラックスによって示される急速に変化するエネルギーのうちの一つまたは複数によってどのように影響されるか;6)一つまたは複数の百分位数フィルタ特性が周波数帯域上でどのように変化するか;6)時間次元における百分位数フィルタリングの場合、時間遅延された利得値が生の利得であるか(直接的)、上記後処理段階の一つまたは複数のあと、たとえば百分位数フィルタリングのあとの利得であるか(再帰的)によって特徴付けられる。
【0043】
いくつかの実施形態は、信号分類に基づいて、周波数および時間上での前記百分位数フィルタリング特性の一つまたは複数を制御するための機構を含む。たとえば、音声活動検出を含むある実施形態では、百分位数フィルタリング特性の一つまたは複数は、入力がVADによって声であると確かめられるか否かに従って変わる。風活動検出を含むある実施形態では、百分位数フィルタリング特性の一つまたは複数は、入力がWADによって風であると確かめられるか否かに従って変わる。さらにもう一つの実施形態では、百分位数フィルタリング特性の一つまたは複数は、たとえばスペクトル・フラックスの測定値によって示される、どのくらい速く信号中でエネルギーが変化しているかに従って変わる。
【0044】
種々のエッジ条件の例は、(a)エッジについての内部の値の外挿;(b)エッジにおける帯域分割された利得を拡張するために最小利得値を使うこと;(c)エッジにおける帯域分割された利得を拡張するために零利得値を使うこと;(d)エッジにおける帯域分割された利得を拡張するために中央フィルタ位置値を複製すること;(e)エッジにおける帯域分割された利得を拡張するために最大利得値を使うこと、を含む。
【0045】
〈追加的な後処理〉
すべての実施形態に含まれるわけではないが、いくつかの実施形態では、後処理器121は、それらの利得があらかじめ定義された最小利得値を下回らないことを保証する段階313を実行する最小利得処理器303を含む。いくつかの実施形態では、最小利得処理器は、周波数帯域に依存する仕方で最小値を保証する。いくつかの実施形態では、防止最小の仕方は、活動分類115、たとえば声か否かに依存する。
【0046】
ある実施形態では、入力処理からの計算された利得をGain'
b,Sで表わすと、最小処理器後のGain'
b,RAWで表わされる利得についてのいくつかの代替は、次のようになる。
【0047】
【数1】
一例として、後処理器121および段階310のいくつかの実施形態では、最大抑制深さまたは最小利得の範囲は、−80dBから−5dBの範囲であってもよく、周波数依存であってもよい。ある実施形態では、抑制深さは200Hzより下の低周波数では約−20dBであり、1kHでは約−10dBまで変化し、4kHzのまわりの上音声周波数(upper voice frequencies)ではたった−6dBまで緩和される。さらに、ある実施形態では、VADが信号が声であると判定する場合、Gain'
b,MINがたとえば周波数帯域に依存する仕方で(または別の実施形態では各帯域bについて同じ量だけ)増大させられる。ある実施形態では、最小の増大量は中間の諸周波数帯域、たとえば500Hzから2kHzの間の諸帯域においてより大きくなる。
【0048】
さらに、すべての実施形態に含まれるわけではないが、いくつかの実施形態では、後処理器121は平滑化フィルタ307、たとえば周波数帯域から帯域への平滑化および時間的な平滑化の一方または両方を実行する線形平滑化フィルタを含む。いくつかの実施形態では、そのような平滑化は、信号分類115に従って変えられる。
【0049】
平滑化317の一つの実施形態は、固定カーネルを用いた重み付けされた移動平均を使う。一例は、重み付けされた移動平均のためにガウシアン重み付けカーネルの二項近似を使う。一例として、5点二項平滑化器は、カーネル(1/16)[1 4 6 4 1]をもつ。むろん、実際上、因子1/16は省いて、スケーリングは必要に応じていずれかの時点で行なってもよい。もう一つの例として、3点二項平滑化器は、カーネル(1/4)[1 2 1]をもつ。他の多くの重み付けされた移動平均フィルタが知られており、任意のそのようなフィルタが、利得の帯域から帯域にかけての平滑化のために好適に修正されることができる。
【0050】
ある実施形態では、帯域から帯域にかけてのメジアン・フィルタリングは、信号分類によって制御される。ある実施形態では、VAD、たとえば空間選択的なVADが含まれ、VADが声があると判定する場合、ノイズが検出されるときに平滑化の度合いが高められる。ある例示的な実施形態では、5点の帯域から帯域にかけての重み付けされた平均平滑化は、VADが声が検出されることを示す場合に実行され、そうではなく、VADが声がないと判定するときは、平滑化は実行されない。
【0051】
いくつかの実施形態では、利得の時間的平滑化も含められる。いくつかの実施形態では、B個の帯域の各帯域の利得が、一次平滑化フィルタによって平滑化される。
【0052】
Gain
b,Smoothed=α
bGain
b+(1−α
b)Gain
b,SmoothedPrev
ここで、Gain
bは現在の時間フレームの利得、Gain
b,Smoothedは時間平滑化された利得、Gain
b,SmoothedPrevは前のMサンプル・フレームからのGain
b,Smoothedである。α
bは、周波数帯域依存であってもよい時定数であり、典型的には20ないし500msの範囲内である。ある実施形態では、50msの値が使用された。ある実施形態では、時間平滑化の量は、現在フレームの信号分類によって制御される。利得の一次時間平滑化を含むある個別的な実施形態では、現在フレームの信号分類が、各帯域において時間的に利得をフィルタリングするために使われる一次時定数の値を制御するために使われる。VADが含まれる場合には、ある実施形態は、声が検出される場合、時間平滑化を止める。
【0053】
発明者は、声が始まったら積極的な平滑化は中止することが重要であることを見出した。よって、後処理のパラメータは、低いレイテンシーをもち、ノイズ・モードから音声モード(または他の所望される信号モード)への後処理の迅速な遷移を達成できる中間的な信号分類器(VAD、WAD)値によって制御されることが好ましい。音声の検出後に、すなわちトレールアウト(trail out)においてより積極的な後処理が復活されるスピードは、それほど重要でないことが見出された。声の了解性に対する影響がより少ないからである。
【0054】
〈時間周波数特性〉
所望される利得値が、たとえばノイズ抑制または利得計算アルゴリズムの所望される選択性または活動性のためまたは他の理由により、諸周波数を横断して著しく変動するとき、発明者は、周波数軸に沿って百分位数フィルタを走らせることは、時間的包絡線の連続性を破壊するリスクがあることを発見した。時間的包絡線は多くの信号にとって本来的な属性であり、知覚にとって決定的でもある。突出値に対するより大きな不感性を提供する一方、より長い百分位数フィルタは処理のスペクトル選択性を低下させ、潜在的には周波数および時間を通じた利得値におけるより大きな不連続またはジャンプを導入することがある。各周波数帯域における時間的包絡線の不連続を最小にするため、本発明のいくつかの実施形態は、2D百分位数フィルタ、たとえば時間および周波数情報の両方を組み込むメジアン・フィルタを使う。そのようなフィルタは、特定の周波数帯域(「目標」帯域)のまわりの、該目標周波数帯域についてのフィルタリングされた値を生成するための時間‐周波数窓によって特徴付けられることができる。特に、本発明のいくつかの実施形態は、ちょうどその目標帯域の前の諸時間値が各目標帯域に含められる、T型フィルタを使う。
図2は、目標帯域の二つの前の値が含められる、7点T型フィルタの一つのそのような実施形態を示している。
【0055】
いくつかの実施形態では、時間遅延された利得値は生の利得であり(直接的)、よって百分位数フィルタは時間において非再帰的である。一方、時間および周波数百分位数フィルタリングを使う他の実施形態では、時間遅延された利得値は、後処理段階の一つまたは複数のあとのもの、たとえば百分位数フィルタリング後のものであり、よって百分位数フィルタは時間において再帰的である。
【0056】
〈音声活動制御の例〉
ある実施形態では、帯域から帯域にかけての百分位数フィルタリングは、信号分類によって制御される。ある実施形態では、VADが含められ、VADが声がない可能性が高いと判定する場合、5点の帯域から帯域にかけてのおよび3点の時間的な百分位数フィルタリングをもつ7点のT型メジアン・フィルタが、エッジにおいて百分位数を計算するために最小利得値または値0を延長することを含むエッジ処理とともに、実行される。VADが声が存在する可能性が高いと判定する場合には、第一のバージョンでは、現在の時間フレームにおいて三つの周波数帯域をもち、二つの前の時間フレームを使う5点のT型時間‐周波数百分位数フィルタリングが実行される。第二の実施形態では、3点の記憶なしの周波数帯域のみの百分位数フィルタが、エッジにおいて百分位数を計算するために外挿されたエッジ値を用いて、使用される。そのような一組の実施形態では、百分位数はメジアン値であり、よって百分位数フィルタはメジアン・フィルタである。
【0057】
〈風活動制御の例〉
本発明の一つの特徴は、百分位数フィルタリングが信号の分類に依存するということであり、一つのそのような分類は、いくつかの実施形態では、風があるか否かである。いくつかの実施形態では、WADが含められ、WADが風がないと判定し、VADが声がないことを示す場合、百分位数フィルタにはより少数の利得値が含められる。風が存在するとき、一組の利得は、時間的に、特により低い周波数帯域においてより大きな変動を示しうる。WADおよびVADが含まれるとき、WADが風がない可能性が高いと判定し、VADが声がありそうだと判定する場合、百分位数フィルタリングはより短くするべきであり、時間的フィルタリングはなしとするべきである。これはたとえば、3点の記憶なしの帯域から帯域にかけての百分位数フィルタを、エッジにおいて適用されるエッジ値の外挿とともに使うことによる。WADが風がなさそうであることを示し、VADが声もなさそうだと示す場合、周波数帯域および時間の両方においてより多くの百分位数フィルタリングが使用できる。たとえば、5点の帯域から帯域にかけてのおよび3点の時間的な百分位数フィルタリングをもつ7点のT型メジアン・フィルタが、エッジにおいて百分位数を計算するために最小利得値または値0を延長することを含むエッジ処理とともに、実行される。WADが風がありそうであることを示し、VADが声はなさそうだと示す場合、周波数帯域および時間の両方においてさらに多くの百分位数フィルタリングが使用できる。たとえば、7点の帯域から帯域にかけてのおよび3点の時間的な百分位数フィルタリングをもつ9点のT型メジアン・フィルタが、エッジにおいて百分位数を計算するために最小利得値または値0を延長することを含むエッジ処理とともに、実行される。ある実施形態では、WADが風が存在することを示し、声がありそうなときの百分位数フィルタリングは周波数依存であり、より低い周波数帯域、たとえば1kHz未満を含む帯域については7点の帯域から帯域にかけてのフィルタリングを用い、他の(より高い)周波数帯域については7点の帯域から帯域にかけての百分位数フィルタリングを用い、すべての周波数帯域について3点の時間的百分位数フィルタリングを用いる。より低い周波数帯域におけるこのようなより大きな百分位数フィルタリングは、散発的な高利得の蔓延を防止しうる。風および声が存在するときは、百分位数フィルタリングについてそれほど積極的でなくなる。一組のそのような実施形態では、百分位数値はメジアン値であり、百分位数フィルタはメジアン・フィルタである。風が存在するときは、VADはそれほど信頼できないことがありうることを注意しておく。
【0058】
一般に、いくつかの実施形態では、より低い周波数(<1kHz)でのメジアン・フィルタが、短い低周波の風バーストを除去するために、より大きなスペクトル帯域範囲(100〜500Hz)およびより長い継続時間(50〜200ms)をカバーするよう延長されることが有用であることが見出される。風活動が存在し、声の確率が低いとき、このより広いフィルタはより高い周波数に延長されてもよい。このフィルタリングは声に対して影響をもちうるので、風活動があり、声のそこそこの確率がある場合には、より短いフィルタが使用される。
【0059】
〈時間周波数特性のスペクトル・フラックス制御〉
信号のスペクトル・フラックスは、信号のパワー(または他の振幅メトリック)スペクトルがどのくらい急速に変化しているかを決定するために基準として使われることができる。本発明のいくつかの実施形態では、スペクトル・フラックスは百分位数フィルタの特性を制御するために使われる。信号スペクトルがあまりに速く変化している場合、百分位数フィルタの時間次元は縮小されることができる。たとえば、スペクトル・フラックスがあらかじめ定義された閾値より上である場合、5点の記憶なしの周波数帯域のみの百分位数フィルタでエッジにおいて外挿されたものが使われる。さらに異なる実施形態では、通常は、5点の帯域から帯域にかけてのおよび3点の時間的なT型の時間‐周波数百分位数フィルタが使用され、一方、スペクトル・フラックスがあらかじめ定義された閾値より上の場合には、3かける3の5点のT型時間‐周波数百分位数フィルタリングが使用される。
【0060】
〈百分位数値の制御〉
上記の百分位数フィルタリングは、たとえば3点、5点または7点の短いカーネルのフィルタのまわりで動作する。エッジ制約条件および長さに加えて、変えることのできる一つの特性は、どの百分位数値が計算されるかである。たとえば、5点百分位数フィルタについて、二番目に大きな値または二番目に高い値が、第50百分位数、すなわちメジアン値の代わりに選択されることができる。百分位数値は、信号分類によって制御されてもよい。たとえば、音声活動検出を含むある実施形態では、5点の周波数帯域から周波数帯域への記憶なしの百分位数フィルタリングが使用でき、VADが声が存在しない可能性が高いと判定するときは二番目に小さな値が選択され、VADが声が存在する可能性が高いと判定するときは二番目に大きな値が選択される。厳密な第50百分位数以外の使用は、各百分位数フィルタ・カーネルにおける偶数個のデータ点の使用をも許容する。たとえば、ある実施形態では、周波数帯域領域において5タップ、時間領域において2タップを有する6タップのT型の百分位数フィルタが使用される。VADが含まれる場合、百分位数フィルタは、声が存在する可能性が高いときは昇順で三番目に高い値(第60百分位数)を選択し、声が存在しない可能性が高いときは三番目に小さい値(第40百分位数)を選択するよう構成される。
【0061】
〈百分位数計算の重み付け〉
いくつかの実施形態では、現在の時間における目標周波数帯域のまわりの利得値の集合の直接的な百分位数ではなく、百分位数フィルタリングにおいて使用される異なる周波数帯域(および可能性としては時間)位置が、異なる仕方で重み付けされる。たとえば、ある実施形態では、百分位数フィルタ母集団(population)における中央利得タップが複製される。そのような場合、
図2のT型百分位数フィルタを考えると、現在の時間におけるb
Cと表わされる中央帯域は二回数えられ、百分位数フィルタの出力として百分位数値が使われる値は合計八つある。他の実施形態では、フィルタ・カーネル中の各位置は整数回数えられ、含まれる総数の値の百分位数が計算される。さらに他の実施形態では、非整数の重みが使われる。しかしながら、整数重みが低計算量という利点をもつ。重み付けされた百分位数利得値を決定するために乗算が必要とされないからである。
【0062】
いくつかの実施形態では、百分位数フィルタリングにおいて使用される重み付けは信号の分類に依存させられる。音声活動検出が含まれるある実施形態では、たとえば、百分位数フィルタリングは、入力が声であると見なされるか否かに依存させられる。ある例示的な実施形態では、現在のフレームが声と分類される場合、隣接帯域より大きな重みが現在のフレームの中央帯域に置かれることができ、現在のフレームが声なしと分類される場合、中央帯域とその隣接帯域は均等に重みを割り当てられることができる。ある個別的な実施形態では、メジアン・フィルタにおける中央タップの重み付けは、声が存在する可能性が高いときには、音声活動検出器が声が存在することがありそうもないと判定するときに使われる重み付けに比べて、二倍にされる。
【0063】
〈周波数帯域依存特性をもつ百分位数フィルタ〉
いくつかの実施形態では、百分位数フィルタの特性の一つまたは複数は、周波数帯域に依存させられる。たとえば、百分位数フィルタの(時間)深さおよび/または百分位数フィルタの(周波数帯域)幅は周波数帯域に依存する。たとえば、人間の発話における第二フォルマント(F2)はしばしば他のフィルマントより速く変動することが知られている。ある実施形態は、百分位数フィルタの(時間における)深さおよび(周波数帯域における)幅がF2のまわりでより小さくなるよう、百分位数フィルタを変化させる。音声活動検出(VAD)が使用されるある実施形態では、F2のまわりでの百分位数フィルタリングの量のこの低減は、VADが入力オーディオ信号が声である可能性が高いことを示す場合のみである。
【0064】
上記の実施形態において、帯域分割は、知覚的または対数スケール上であることを注意しておく。提示される実施形態における提案されるフィルタ長は、約1ERBまたは0.5バークのフィルタ帯域間隔について、あるいは等価だが中央周波数の約10%の周波数離間をもつ諸帯域について適切である。本方法は線形な帯域間隔を含む他の帯域分割構造にも適用可能であることは明白であろうが、フィルタ長の値はしかるべくスケールすることになる。線形帯域構造では、百分位数、たとえばメジアン・フィルタの長さが周波数が上がるにつれて長くなるようにすることがより有意であろう。これは、対数的に離間されたフィルタバンク上での単一長のメジアン・フィルタを提案する上記の諸実施形態では含意されている。
【0065】
上記の諸実施形態においてT型の百分位数メジアン・フィルタについて提案される3時間単位(フレーム)の深さがフィルタバンクのサンプリング区間に関係していることをも注意しておくべきである。上記の諸実施形態については、16msのサンプリング区間が使われ、提案されるメジアン・フィルタリングの程度として約48ないし64msの長さを与えた。このより長い長さは、フィルタバンク自身に起因する時間的な広がりを反映する。
【0066】
上記の二つの点を考えると、以下の推奨は、任意のメジアンまたは百分位数フィルタリングについて提供される。
【0067】
声の確率が低いと見なされるノイズ状況においては、帯域中心周波数の約±20%の周波数領域上のメジアン・フィルタリングが提案される(±10%ないし±30%の範囲は合理的と考えられる)。時間領域上の広がりは約48msである(32ないし64msの範囲は合理的と考えられる、あるいは信頼できる低レイテンシーのVAD、たとえば別個の信頼できる低レイテンシーのVADが利用可能であれば一層長くてもよい)。百分位数フィルタは、VADが声が存在しそうもないことを示すとき、20%ないし50%の範囲は合理的と考えられるが、メジアン以下である利得を選択するべきである。
【0068】
声の確率が高いと見なされる有声状況においては、帯域中心周波数の約±10%の周波数領域上のメジアン・フィルタが提案される(5%ないし20%の範囲は合理的と考えられる)。時間領域上の広がりは現在時点のみを使う(0ms、ただし0ないし48msの範囲のデータが使用されるのは合理的と考えられる)。百分位数フィルタは、VADがノイズが存在しそうもないことを示すとき、50%ないし80%の範囲は合理的と考えられるが、メジアン以上である利得を選択するべきである。
【0069】
〈例示的な音響ノイズ削減システム〉
音響ノイズ削減システムは典型的にはノイズ推定器と、たとえば一組の周波数帯域上で決定され、周波数領域に変換して前記一組の周波数帯域に帯域分割したあとの(ノイズのある)入力オーディオ信号に適用されてノイズ成分を減衰させる一組のノイズ削減利得を決定する利得計算モジュールとを含む。音響ノイズ削減システムは、一つのマイクロホン、あるいは異なる位置のマイクロホンからの複数の入力および一つの入力オーディオ信号を生成するための下方混合〔ダウンミキシング〕、たとえばビーム形成を含んでいてもよい。音響ノイズ削減システムはさらに、エコー削減を含んでいてもよく、さらに、位置外(out-of-location)信号削減を含んでいてもよい。
【0070】
図4は、ノイズの抑制およびいくつかのバージョンでは同時のエコー抑制およびいくつかのバージョンでは位置外信号の同時の抑制のための、後処理された利得の集合を決定するよう構成された装置の一例を示している。そのようなシステムはたとえば米国仮出願第61/441,611号に記載されている。入力は一つまたは複数のオーディオ信号101、たとえば異なる位置のマイクロホンからの信号を含む。それぞれフレーム当たりMサンプルからなる諸集合をなす。空間的情報が含まれるとき、二つ以上の入力オーディオ信号、たとえば空間的に離間したマイクロホンからの信号がある。エコー抑制が含まれるときは、一つまたは複数の参照信号103も、M個のサンプルからなるフレームの形で受容される。これらはたとえば、一つまたは複数のラウドスピーカーからの一つまたは複数の信号であってもよく、あるいは別の実施形態では、ラウドスピーカーを駆動するために使われる信号であってもよい。第一の入力処理段403は、P'
bで表わされる帯域分割されたパワー(または他の振幅メトリック)スペクトル413およびY'
bで表わされる瞬時パワーの帯域分割された測度417を決定する。二つ以上の入力オーディオ信号が含まれるときは、スペクトル413および瞬時の帯域分割された測度417のそれぞれは、下方混合器、たとえばビーム形成器によって下方混合されたあとの入力のものである。エコー抑制が含まれるときは、第一の入力処理段403は、E'
bで表わされるエコーの帯域分割されたパワースペクトル推定値415をも決定する。この決定は、適応的に決定されるフィルタ係数の集合をもつフィルタを使って、エコーの、前に計算されたパワースペクトル推定値からである。位置外信号抑制を含むバージョンでは、第一の入力信号処理段403は、信号を所望される位置から発する成分と所望される方向からではない成分に空間的に分離するために使用可能な帯域分割された位置確率指標(location probability indicator)419の形で空間的特徴(spatial feature)419をも決定する。
【0071】
第一段403からの量は、利得を決定し、該利得に対して本発明の諸実施形態の百分位数フィルタリングを含む後処理をして、帯域分割された後処理された利得125を決定する第二段405において使用される。第二段405の諸実施形態は、E'
bで表わされるノイズ・パワー(または他の振幅メトリック)スペクトルの測度を決定するノイズ・パワー(または他の振幅メトリック)スペクトル計算器421と、信号分類115を決定する信号分類器423、たとえば音声活動検出器(VAD)、風活動検出器およびパワー・フラックス計算器のうちの一つまたは複数とを含む。
図4はVADを含む信号分類器423を示している。
【0072】
図5は、
図4の諸要素のある実施形態500をより詳細に示しており、ノイズ、エコーおよび位置外ノイズ抑制のこの例示的実施形態については、後処理された利得125を適用した抑制器131と、出力信号137を生成する出力合成器(または変換器または再マッピング器)135とを含む。
【0073】
図4と
図5を比べると、
図4の第一段の処理器403は、
図5の要素503、505、507、509、511、513、515、517、521、523、525および527を含む。いくつかの詳細では、入力フレーム101は入力変換器(単数または複数)503によって変換されて、変換された入力信号ビンが決定される。周波数ビンの数はNで表わされる。二つ以上の入力オーディオ信号の場合、これらの周波数領域信号はビーム形成器507によってビーム形成されて、Y
n、n=1,…,Nで表わされる入力周波数ビン・データを形成し、入力周波数ビン・データY
nはスペクトル帯域分割要素509によってB個のスペクトル帯域、ある実施形態では知覚的に離間されたスペクトル帯域に帯域分割され、パワーの瞬時の帯域分割された測度Y'
b、b=1,…,Bを生成する。位置外抑制および二つ以上の入力オーディオ信号を含むバージョンでは、入力変換器503からの周波数領域信号は帯域分割された空間的特徴計算器によって受容され、それぞれ0から1までの間の、帯域分割された位置確率指標を決定する。エコー抑制を含むバージョンでは、二つ以上の参照信号、たとえばQ個の参照信号がある場合、それらの信号は組み合わせ器511、ある実施形態では総和器によって組み合わされ、組み合わされた参照入力を生成する。入力変換器513およびスペクトル帯域分割器515は該参照を、B個の帯域についてのX'
b、b=1,…,Bで表わされる帯域分割された参照スペクトル内容に変換する。Lタップ線形予測フィルタ517が、LかけるBのフィルタ更新係数528を使って、帯域分割されたエコー・スペクトル内容E'
b、b=1,…,Bを予測する。信号スペクトル計算器521は、(下方混合された)パワー(または他の振幅メトリック)スペクトルP'
b、b=1,…,Bの測度を計算する。いくつかの実施形態では、Y'
bはP'
bに対する十分良好な近似として使われる。
【0074】
フィルタ517についてのLBフィルタ係数は、適応フィルタ更新器527によって決定される。適応フィルタ更新器527は、現在の帯域分割されたエコー・スペクトル内容E'
b、(下方混合された)パワー(または他の振幅メトリック)スペクトルP'
bの測度、N'
b、b=1,…,Bで表わされ、ノイズ計算器523によって瞬時パワーY'
bおよび信号スペクトル計算器521からの測度から決定される帯域分割されたノイズ・パワー(または他の振幅メトリック)スペクトル524を使う。更新は、Sで表わされる、音声活動検出器(VAD)525によってP'
b(またはY'
b)、N'
bおよびE'
bを使って決定される音声活動信号によってトリガーされる。Sが閾値を超えると、信号は声であると想定される。エコー更新音声活動検出器525において導出されるVADおよびフィルタ更新器527は、エコー予測の適応を制御するという特定の目的に資する。この目的をもつVADまたは検出器はしばしばダブルトーク検出器と称される。ある実施形態では、更新器527のエコー・フィルタ係数更新はゲーティングされ、更新は、VAD 525によって決定され、ローカル信号活動度Sの低い値によって示されるところにより、予期されるエコーが予期されるノイズおよび現在の入力パワーに比べて有意であるときに行なわれる。
【0075】
図4および
図5による第一段403の諸要素がいくつかの実施形態においてどのように動作するかの詳細は次のようになる。ある実施形態では、入力変換器503、511は短時間フーリエ変換(STFT)を決定する。別の実施形態では、下記の変換および逆の対が、要素503および511における順変換についておよび出力合成要素135において使われる。
【0076】
【数2】
ここで、i
2=−1であり、u
nおよびv
nは適切な窓関数であり、x
nは最後の2N個の入力サンプルを表わし、x
N-1が最も最近のサンプルであり、X
nは周波数の昇順にN個の複素数値の周波数ビンを表わす。逆変換または合成は、後半二つの式で表わされている。y
nは、指定された窓について適切な重複、加算および破棄に先立つ個々の逆変換から帰結する2N個の出力サンプルを表わす。この変換は、ブロック乗算およびFFTとして効率的な実装をもつことを注意しておくべきである。変換の上記の式におけるx
nおよびX
nの使用は便宜上のことであることを注意しておく。本開示の他の部分では、X
n、n=1,…,N−1は下方混合された入力オーディオ信号の周波数ビンを表わす。
【0077】
ある実施形態では、ある実施形態における上記の変換のための窓関数u
nおよびv
nは正弦波窓族であり、それについての一つの提案される実施形態は次のとおり。
【0078】
【数3】
当業者には、プロトタイプ・フィルタとしても知られる分解窓および合成窓は、本稿で与えられる例より大きいまたは小さい長さであってもよいことは明白であるはずである。
【0079】
本発明は任意の下方混合された信号とともに機能するが、いくつかの実施形態では、下方混合器は、所望される位置のほうへの何らかの空間的選択性を達成するよう設計されたビーム形成器507である。ある実施形態では、ビーム形成器507は線形な時間不変なプロセス、すなわち、一般に各入力チャネルについての複素数値の周波数依存の利得の集合によって定義される受動的なビーム形成器である。所望される音源がアレイの真横に、すなわち垂直二等分線に位置している二マイクロホン・アレイの例については、ある実施形態は、ビーム形成器507について、二つの入力チャネルの単純な和を決定する受動的なビーム形成器107を使う。いくつかのバージョンでは、ビーム形成器507は、(諸周波数ビンとしての)入力の諸集合を、複素数値の重みの集合によって重み付けする。ある実施形態では、ビーム形成器107のビーム形成重みは、最大比合成(MRC: maximum-ratio combining)に従って決定される。もう一つの実施形態では、ビーム形成器507は、零強制(zero-forcing)を使って決定された重みを使う。そのような方法は当技術分野においてよく知られている。
【0080】
スペクトル帯域分割要素509および514の帯域分割(banding)は次式によって記述できる。
【0081】
【数4】
ここで、Y'
bは下方混合された、たとえばビーム形成された信号の帯域分割された瞬時パワーであり、W
bは規格化利得であり、w
b,nは帯域分割行列からの要素である。
【0082】
ある実施形態における信号スペクトル計算器521は平滑化プロセス
【数5】
によって記述される。ここで、P'
bPREVは前に、たとえば最も最近に決定された信号パワー(または他の周波数領域振幅メトリック)推定値であり、α
P,bは時間信号推定時定数であり、Y'
minはオフセットである。信号推定時定数α
P,bについての好適な範囲は20から200msまでの間であることが見出された。ある実施形態では、オフセットY'
minは零レベルのパワースペクトル(または他の振幅メトリック・スペクトル)推定値を避けるために加えられる。Y'
minは、測定されることができ、あるいは先験的な知識に基づいて選択されることができる。Y'
minは、たとえば聴覚の閾値または装置ノイズ閾値に関係付けされることができる。
【0083】
ある実施形態では、適応フィルタ517は、次式で記述されるLタップ適応フィルタを使って帯域bについてのT'
bで表わされる瞬時エコー・パワースペクトル(または他の振幅メトリック・スペクトル)を決定することを含む。
【0084】
【数6】
ここで、現在フレームはX'
b=X'
b,0であり、X'
b,0,…,X'
b,l,…,X'
b,L-1は、現在フレームX'
b=X'
b,0を含む(組み合わされた)帯域分割された参照信号X'
bのL個の最も最近のフレームである。所与の帯域bについてのL個のフィルタ係数はそれぞれF
b,0,…,F
b,l,…,F
b,L-1によって表わされる。
【0085】
ある実施形態は、エコー予測フィルタ517からエコー・スペクトル推定値E'
bを決定する、瞬時エコーの時間的平滑化を含む。ある実施形態では、次のような一次の時間的平滑化フィルタが使われる。
【0086】
【数7】
ここで、E'
bPrevは、前に決定されたエコー・スペクトル推定値、たとえば最も最近に決定されたまたは他の前に決定された推定値であり、α
E,bは一次の平滑化時定数である。
【0087】
ある実施形態では、ノイズ・パワースペクトル計算器523は、指数関数的成長のある最小追随手段(minimum follower)を使う。
【0088】
【数8】
ここで、α
N,bは、最小追随手段がノイズにおける何らかの増大を追跡するために増大することができる時間的なレートを指定するパラメータである。ある実施形態では、E'
bがN'
bPrevより小さいという基準は、E'
b<N'
bPrev/2の場合、すなわち、(平滑化された)エコー・スペクトル推定値E'
bがN'
bの前の値の3dB下より小さい場合であり、その場合、ノイズ推定値は前記成長または現在のパワーに追随する。それ以外の場合には、N'
b=N'
bPrevである、すなわちN'
bはN'
bの前の値に保持される。パラメータα
N,bは、最小追随手段が追跡する時間的レートを用いて表現するのが最善である。そのレートはdB/secで表現でき、よってこれはα
N,bの値を決定する機構を提供する。範囲は1ないし30dB/secである。ある実施形態では、20dB/secの値が使用される。
【0089】
他の実施形態では、ノイズ推定のための種々のアプローチが使用されてもよい。そのような種々のアプローチの例は、信号観察の窓、たとえば1および10秒の窓にわたる最小を決定する代替的な処方法を含むがそれに限られるものではない。該最小に加えてまたはその代わりに、そのような種々のアプローチはまた、信号がノイズである可能性が高いまたは声がありそうもない時間の間に信号の平均および分散を決定してもよい。
【0090】
ある実施形態では、最小追随手段の一つまたは複数の漏れレート(leak rate)パラメータは、音声活動検出(VAD)によって決定される音声が存在する確率によって制御される。ある実施形態では、VAD要素525はSで表わされる全体的な信号活動度レベルを次式のように決定する。
【0091】
【数9】
ここで、β
N、β
B>1はそれぞれノイズおよびエコーのためのマージンであり、Y'
sensは設定可能な感度オフセットである。これらのパラメータは一般に、諸帯域を横断して変わりうる。ある実施形態では、β
N、β
Eの値は1から4までの間である。ある特定的な実施形態では、β
N、β
Eはそれぞれ2である。Y'
sensは、典型的なコンポーネントでの実験によって得られる、予期されるマイクロホンおよびシステムのノイズ・レベルの周辺であるよう設定される。あるいはまた、Y
sensの値を決定するために聴覚の閾値を使うことができる。
【0092】
ある実施形態では、更新器527のエコー・フィルタ係数更新は次のようにゲーティングされる。ローカル信号活動度レベルが低い、たとえばあらかじめ決定された閾値S
threshより低い場合、すなわちS<S
threshの場合、適応フィルタ係数は次のように更新される。
【0093】
【数10】
ここで、γ
Nは、ノイズとエコー推定値の間の安定性を保証するためにチューニングされるチューニング・パラメータである。γ
Nについての典型的な値は1.4(+3dB)である。値1ないし4の範囲が使用できる。μは、エコー推定値の収束レートおよび安定性に影響するチューニング・パラメータである。0から1までの間の値が種々の実施形態において有用でありうる。ある実施形態では、フレーム・サイズMによらずμ=0.1である。X'
sensは、小さな参照信号についての不安定な適応を避けるために設定される。ある実施形態では、X'
sensは聴覚の閾値に関係している。S
threshについての値の選択は帯域の数に依存する。S
threshは1からBまでの間であり、8kHzまでの24個の帯域をもつある実施形態については、好適な範囲は2から8までの間であることが見出された。ある特定的な実施形態は値4を使う。
【0094】
本発明の諸実施形態は、特定の帯域bが関心対象空間領域から入射するエネルギーをもつ確率に対して単調である、帯域bにおける一つまたは複数の空間的特徴から決定される一つまたは複数の測度の形の空間的情報を使う。そのような量は、空間的確率指標(spatial probability indicator)と呼ばれる。ある実施形態では、前記一つまたは複数の空間的確率指標は、入力オーディオ信号の一つまたは複数の帯域分割され重み付けされた共変行列の関数である。N個の周波数ビンに関するP個の入力変換の出力X
p,n、p=1,…,P、n=0,…,N−1を与えられて、ビンnについてのP個の入力にわたる入力ベクトルとその共役転置との積を合計し、要素w
b,nをもつ帯域分割行列W
bによって重み付けすることによって、対応する重み付けされた共変行列の集合を構築する。
【0095】
【数11】
w
b,nは諸帯域への寄与のために各ビンがどのように重み付けされるかの指標を与える。いくつかの実施形態では、前記一つまたは複数の共変行列は時間的に平滑化される。いくつかの実施形態では、帯域分割行列は、重み付けされた移動平均のために、時間に依存する重み付けを含む。これは要素w
b,n,lをもつW
b,lで表わされ、lが時間フレームを表わす。よって、L個の時間フレームにわたって、
【数12】
二つの入力P=2の場合、
【数13】
と定義すると、各帯域共変行列R'
bは2×2エルミート正定値行列であり、
【数14】
である。ここで、上線は複素共役を示すために使われている。
【0096】
空間的特徴「比」によって、帯域分割された大きさR'
b11/R'
b22の比に対して単調な量を表わすとする。ある実施形態では、次の対数関係が使われる。
【0097】
【数15】
ここで、σは特異性を避けるために加えられる小さなオフセットである。σはR'
b11についての最小の期待される値と考えることができる。ある実施形態では、σは、マイクロホンおよび関係する電子系についての帯域bにおけるノイズ・パワー(または他の周波数領域振幅メトリック)の決定されたまたは推定された(先験的な)値である。すなわち、使用される任意の前処理の最小感度である。
【0098】
空間的特徴位相によって、tan
-1R'
b21に対して単調な量を表わすとする。
【0099】
Phase'
b=tan
-1R'
b21
空間的特徴「コヒーレンス」によって、R'
b21R'
b12/R'
b11R'
b22に対して単調な量を表わすとする。いくつかの実施形態では、コヒーレンスの関係する測度が使われることができる。たとえば、2R'
b21R'
b12/(R'
b11R'
b11+R'
b22R'
b22)または共変行列の条件付け(conditioning)、ランク(rank)または固有値広がり(eigenvalue spread)に関係した値である。ある実施形態では、コヒーレンス特徴は
【数16】
であり、オフセットσは上記で定義したとおりである。
【0100】
ノイズ、エコーおよび位置外信号抑制のいくつかの実施形態の一つの特徴は、所望される信号特徴の先験的な期待されるまたは現在の推定値――たとえば統計的データから集められる空間的位置を表わす目標値――に基づいて、各帯域における各空間的特徴は、帯域bについての特徴についての確率指標を生成するために使われることができる。
【0101】
ある実施形態では、所望される位置についての期待される空間的特徴の分布は、ガウス分布としてモデル化される。ガウス分布は、各空間的特徴および帯域から導出される確率指標のために関心領域を捕捉する堅牢な方法を呈する。
【0102】
三つの空間的確率指標がこれら三つの空間的特徴に関係しており、RPI'
bで表わされる比確率指標(ratio probability indicator)、PPI'
bで表わされる位相確率指標(phase probability indicator)およびCPI'
bで表わされるコヒーレンス確率指標(coherence probability indicator)である。ここで、
【数17】
ここで、ΔRatio'
b=Ratio'
b−Ratio
targetbおよびRatio
targetbは、先験的な推定または使用された設備、たとえばヘッドセットでの実験から、たとえば
図9Aに示されるようなデータから決定される。
【0103】
関数f
Rb(ΔRatio')はなめらかな関数である。ある実施形態では、比確率指標関数は
【数18】
である。ここで、Width
Ratio,bは対数単位、たとえばdBで表わした幅チューニング・パラメータである。Width
Ratio,bは実際のデータに関係しているが、実際のデータから決定される必要はない。これは、通常の状態およびノイズのある状態において空間的特徴の期待される変動をカバーするよう設定されるが、全体的なシステムが所望される抑制を達成するというコンテキストにおいて必要とされるくらい狭いだけでよい。
【0104】
位相確率指標については、
【数19】
であり、ΔPhase'
b=Phase'
b−Phase
targetbおよびPhase
targetbは、先験的な推定または使用された設備、たとえばヘッドセットでの実験から決定され、たとえばデータから得られる。
【0105】
関数f
Pb(ΔPhase')はなめらかな関数である。ある実施形態では、
【数20】
である。ここで、Width
Phase,bは位相の単位で表わした幅チューニング・パラメータである。ある実施形態では、Width
Phase,bは実際のデータに関係しているが、実際のデータから決定される必要はない。
【0106】
コヒーレンス確率指標については、目標は使用されず、ある実施形態では、
【数21】
であり、CFactr
bは、0.1から10の範囲の一定値であってもよいチューニング・パラメータである。ある実施形態では、値0.25が有効であることが見出された。
【0107】
図6は、生の利得の、要素529における計算の一例を示しており、空間的な感度のある音声活動検出器(VAD)621および風活動検出器(WAD)623を含んでいる。ノイズ削減の代替的なバージョンは、WADまたは空間的な感度をもつVADを含まなくてもよく、さらに、エコー抑制または他の削減を含まなくてもよい。さらに、
図6に示した実施形態は、追加的なエコー抑制を含むが、これはより単純なバージョンでは含まれなくてもよい。
【0108】
ある実施形態では、空間的確率指標は、ビーム利得と称されるものを決定するために使われる。これは、BeamGain'
bと表わされる統計的な量であって、たとえばビーム外スペクトル計算器603を使って、全パワーからビーム内およびビーム外のパワーを推定するために使用でき、さらに、空間的抑制利得計算器611によってビーム外抑制利得を決定するために使用できる。慣習により、本稿に提示される実施形態では、確率指標は、ビーム利得が最大値1をもつようスケーリングされる。
【0109】
ある実施形態では、ビーム利得は
BeamGain'
b=BeamGain
min+(1−BeamGain
min)RPI'
b・PPI'
b・CPI'
b
である。
【0110】
いくつかの実施形態は、0.01から0.3(−40dBから−10dB)のBeamGain
minを使う。ある実施形態は0.1のBeamGain
minを使う。
【0111】
ビーム内およびビーム外パワーは次のようになる。
【0112】
Power'
b,InBeam=BeamGain'
b2Y'
b
Power'
b,OutOfBeam=(1−BeamGain'
b2)Y'
b
Power'
b,InBeamおよびPower'
b,OutOfBeamは抑制のために使われる統計的測度であることを注意しておく。
【0113】
要素603のあるバージョンでは、次のようになる。
【0114】
Power'
b,OutOfBeam=[0.1+0.9(1−BeamGain
b2)]Y'
b
利得計算の一つのバージョンは、ノイズ・パワー(または振幅の他のメトリック)スペクトルの推定値を決定する、空間的に選択的なノイズ・パワースペクトル計算器605を使う。本発明のある実施形態は、追跡レートが少なくとも一つの漏れレート・パラメータによって決定される、漏れのある最小追随手段(leaky minimum follower)を使う。漏れレート・パラメータは、エコー係数更新において使われる非空間選択的なノイズ推定についてと同じである必要はない。N'
b,Sによって、空間選択的なノイズ・スペクトル推定値を表わすとする。ある実施形態では、次のようになる。
【0115】
【数22】
ここで、N'
b,SPrevは、N'
b,Sの、すでに決定された、すなわち前の値である。漏れレート・パラメータα
bはdB/s単位で表わされ、Tで表わされるフレーム時間について、(1+α
b)
1/Tが、声の確率が低ければ1.2から4までの間にあり、声の確率が高ければ1であるようなものである。α
bの公称値は3dB/sであり、(1+α
b)
1/T=1.4となる。
【0116】
いくつかの実施形態では、ノイズ推定値にバイアスを加えるのを避けるために、エコー・ゲーティングが使われる。すなわち、
【数23】
すなわち、ノイズ推定値は、前のノイズ推定値がノイズ・レベルがより大きい、たとえば現在のエコー予測の二倍より大きいことを示唆する場合にのみ、更新される。そうしないと、エコーがノイズ推定値にバイアスをかけてしまう。
【0117】
図4、
図5および
図6に示されるノイズ削減器の一つの特徴は、1)空間選択的なノイズ推定値に基づくノイズおよび2)ビーム外信号を同時に抑制することを含む。利得計算器529は、ノイズ・パワー(または他の周波数領域振幅メトリック)スペクトルの空間選択的な推定値およびさらに特定の帯域における瞬時の帯域分割された入力パワーY'
bに基づいて、中間信号、たとえば周波数ビンY
nのための利得として表わされる確率指標を計算する要素613を含む。簡単のため、この確率指標は利得と称され、Gain
Nで表わされる。しかしながら、この利得Gain
Nが直接適用されるのではなく、追加的な利得、すなわち追加的な確率指標と利得組み合わせ器615において組み合わされて、単一の抑制アクションを達成するために適用する単一の利得を達成することを注意しておくべきである。
【0118】
要素613はエコー抑制をもつものとして示されているが、いくつかのバージョンではエコー抑制を含まない。
【0119】
計算量および効果の点で効果的であると見出された表式は次によって与えられる。
【0120】
【数24】
ここで、Y'
bは瞬時の帯域分割されたパワー(または他の周波数領域振幅メトリック)であり、N'
b,Sは帯域分割された空間選択的な(ビーム外)ノイズ推定値であり、β'
Nは典型的には1から4の範囲のスケーリング・パラメータである。あるバージョンでは、β'
N=1.5である。パラメータGainExpは、積極性、あるいは抑制利得の抑制から伝達への遷移のレートの制御である。この指数は一般に、0.25から4の範囲の値を取る。あるバージョンでは、GainExp=2である。
【0121】
〈エコー抑制の追加〉
ノイズ削減のための入力処理のいくつかの実施形態は、ノイズ抑制のみならず、同時のエコーの抑制をも含む。利得計算器529のいくつかの実施形態では、要素613はエコー抑制を含み、利得計算器529において、エコーを抑制するための確率指標がGain'
b,N+Eで表わされる利得として表現される。上記のノイズ抑制利得表式は、エコー抑制をも含む場合、次のようになる。
【0122】
【数25】
ここで、Y'
bはやはり瞬時の帯域分割されたパワーであり、N'
b,S、E'
bは帯域分割された空間選択的なノイズおよび帯域分割されたエコー推定値であり、β'
N、β'
Eは1から4の範囲のスケーリング・パラメータであり、ノイズおよびエコー推定値における誤差を斟酌し、利得曲線をしかるべくオフセットするものである。ここでもまた、これらは、VAD関数において使われる定数と目的および大きさにおいて同様であるが、必ずしも同じ値ではない。ある実施形態では、好適なチューニングされた値はβ'
N=1.5、β'
E=1.4、GainExp
bはbのすべての値について2である。
【0123】
本稿に記載されるGain'
N+Eについての表式のいくつかは、分子および分母の両方において瞬時の帯域分割された入力パワー(または他の周波数領域振幅メトリック)Y'
bをもつ。これは、帯域分割が本稿に記載されるように、対数様の周波数帯域または知覚的に離間された周波数帯域を用いて適正に設計されているときに、よく機能する。本発明の代替的な諸実施形態では、分母は推定された帯域分割されたパワースペクトル(または他の振幅メトリック・スペクトル)P'
bを使い、それによりGain'
b,N+Eについての上記の表式は次のようになる。
【0124】
【数26】
〈エコー抑制の追加的な独立した制御〉
上記の抑制利得の表式は、瞬時入力パワーの、時に簡単のため「ノイズ」と呼ばれる予期される望ましくない信号パワーに対する比の定義域上での関数として一般化されることができる。これらの利得表式では、望ましくない信号パワーは、推定される(位置に敏感な)ノイズ・パワーと予測されるもしくは推定されるエコー・パワーとの和である。このようにしてノイズとエコーを組み合わせることは、望ましくないノイズおよび望ましくないエコーの両方の同時の減衰を引き起こす抑制利得の形の単一の確率指標を与える。
【0125】
いくつかの場合には、たとえばエコーがノイズのレベルより実質的に高いレベルを達成できる場合には、そのような抑制は十分なエコー減衰につながらないことがある。たとえば、いくつかのアプリケーションでは、一般にはいかなるエコーも可聴に至らないまでに抑制されることが要求される一方、周辺ノイズの穏やかな削減のみが必要であることがある。そのような所望される効果を達成するために、ある実施形態では、確率指標または利得の追加的なスケーリングが使われ、そのような追加的なスケーリングは、入力オーディオ信号のエコー・パワーに対する比のみに基づく。
【0126】
f
A(・)、f
B(・)によって一対の抑制利得関数を表わすとする。それぞれは、たとえば上記のような、たとえばなめらかであることを含む、抑制利得のための所望される属性をもつ。一例として、f
A(・)、f
B(・)のそれぞれはS字関数特性をもつ。いくつかの実施形態では、利得表式がf
A(Y'
b/(N'
b,S+E'
b))として定義されるのではなく、代わりに一対の確率指標、たとえば利得f
A(Y'
b/N'
b,S)およびf
B(Y'
b/E'
b)を使い、f
A(Y'
b/N'
b,S)およびf
B(Y'
b/E'
b)から組み合わされた利得因子を決定することができる。これは、ノイズおよびエコーの信号パワーへの応答のための積極性および深さの独立した制御を許容する。さらにもう一つの実施形態では、f
A(Y'
b/(N'
b,S+E'
b))はノイズおよびエコー抑制両方に適用されることができ、f
B(Y'
b/E'
b)は
追加的なエコー抑制のために適用されることができる。
【0127】
ある実施形態では、二つの関数f
A(Y'
b/N'
b,S)、f
B(Y'
b/E'
b)または別の実施形態では二つの関数、f
A(Y'
b/(N'
b,S+E'
b))、f
B(Y'
b/E'
b)が積として組み合わされて、抑制利得として組み合わされた確率指標を達成する。
【0128】
〈位置外信号の同時抑制のための抑制利得の組み合わせ〉
ある実施形態では、空間的抑制利得と呼ばれ、Gain'
b,Sで表わされる、ビーム利得612として表現される、ビーム内信号についての抑制確率指標は、要素529(
図5)内の空間的抑制利得計算器611によって、
Gain'
b,S=BeamGain
b=BeamGain
min+(1−BeamGain
min)RPI'
b・PPI'
b・CPI'
b
として決定される。
【0129】
空間的抑制利得612は利得組み合わせ器615において他の抑制利得と組み合わされて、抑制利得として表現された全体的な確率指標を形成する。利得Gain'
b,RAWとして表現される、ノイズ、エコーおよびビーム外信号の同時抑制のための全体的な確率指標は、ある実施形態では、上記の利得の積:
Gain'
b,RAW=Gain'
b,S・Gain'
b,N+E
である。
【0130】
ある代替的な実施形態では、追加的な平滑化が適用される。利得要素615のある例示的な実施形態では、
Gain'
b,RAW=0.1+0.9Gain'
b,S・Gain'
b,N+E
である。ここで、最小利得0.1および0.9=(1−0.1)の因子は、異なる実施形態については、利得についての異なる最小値を達成するために変えることができる。提案される範囲は0.001から0.3(−60dBから−10dB)である。
【0131】
Gain'
b,RAWについての上記の表式は、ノイズおよびエコーを等しく抑制する。上記で論じたように、ノイズは完全にはなくさないがエコーは完全になくすことが望ましいことがありうる。利得決定のあるそのような実施形態では、
Gain'
b,RAW=0.1+0.9Gain'
b,S・f
A(Y'
b/(N'
b,S+E'
b))・f
B(Y'
b/E'
b)
であり、ここで、f
A(Y'
b/(N'
b,S+E'
b))はノイズおよびエコー両方の(比較的)穏やかな抑制を達成し、f
B(Y'
b/E'
b)はエコーをさらに抑制する。ある異なる実施形態では、f
A(・)はノイズのみを抑制し、f
B(・)はエコーを抑制する。
【0132】
さらにもう一つの実施形態では、
Gain'
b,RAW=0.1+0.9Gain'
b,S・Gain'
b,N+E
であり、ここで、
Gain'
b,E+B=(0.1+0.9f
A(Y'
b/(N'
b,S+E'
b)))・(0.1+0.9f
B(Y'
b/E'
b))
である。
【0133】
いくつかの実施形態では、ノイズおよびエコー抑制利得は、空間的特徴確率指標または利得と組み合わされて、生の組み合わされた利得を形成し、次いで、安定性および他の所望される振る舞いを保証するよう後処理器625および後処理段階によって後処理される。
【0134】
もう一つの実施形態では、エコー抑制に固有の利得関数f
B(Y'
b/E'
b)は、後処理器625による後処理後に利得として適用される。利得計算器529のいくつかの実施形態は、追加的なエコー抑制利得の決定器と、該追加的なエコー抑制利得を後処理された利得と組み合わせて適用すべき全体的なB個の利得を生じる組み合わせ器627とを含む。本発明者は、そのような実施形態が、エコーのより特定的かつより深い減衰を提供できることを発見した。エコー確率指標または利得f
B(Y'
b/E'
b)が、後処理によって課される平滑化および連続性にかけられないからである。
【0135】
図7は、たとえば異なる位置のマイクロホンからの、P≧1個の信号入力101中のノイズおよび位置外信号およびいくつかの実施形態ではエコーを抑制する処理装置100の動作方法700のフローチャートを示している。エコー抑制を含む実施形態では、方法700は、Q≧1個の参照入力102、たとえばQ個のラウドスピーカー上でレンダリングされるべきQ個の入力またはQ個のラウドスピーカーから得られた信号を処理することを含む。
【0136】
ある実施形態では、方法700は、当該処理装置において、複数のサンプリングされた入力オーディオ信号101を受け容れ701、複数の周波数帯域についての、入力オーディオ信号101の、下方混合された帯域分割された瞬時周波数領域振幅メトリック417を形成する703、707、709ことを含む。該形成は、一組の周波数ビンについての複素数値の周波数領域値に変換する703ことを含む。ある実施形態では、該変換は、703において、入力オーディオ信号を周波数ビンに変換し、周波数データを下方混合、たとえばビーム形成707し、709において、帯域分割することを含む。711では、本方法は、信号のパワー(または他の振幅メトリック)スペクトルを計算することを含む。代替的な実施形態では、下方混合は変換の前であってもよく、よって単一の下方混合された信号が変換される。代替的な実施形態では、システムは、実現されるシステム内の別の処理コンポーネントまたは源によって提供される、帯域分割されたエコー参照の推定またはエコー参照の周波数領域スペクトルの同様の表現を利用してもよい。
【0137】
本方法は、705において帯域分割された空間的特徴、たとえば位置確率指標419を、前記複数のサンプリングされた入力オーディオ信号から決定することを含む。
【0138】
同時のエコー抑制を含む実施形態では、本方法は、一つまたは複数の参照信号を受け容れ713、該一つまたは複数の参照信号の帯域分割された周波数領域振幅メトリック表現を形成する715および717ことを含む。前記表現はある実施形態では和である。やはりエコー抑制を含む実施形態では、本方法は、適応的に決定されるエコー・フィルタ係数を使ってエコーの帯域分割された周波数領域振幅メトリック表現415を予測する721ことを含む。該予測はある実施形態ではさらに、音声活動検出――VAD――を含む。VADは、下方混合された信号413の帯域分割されたスペクトル振幅メトリックの推定値と、ノイズの帯域分割されたスペクトル振幅メトリックの推定値と、前に予測されたエコー・スペクトル内容415とを使う。上記係数は、音声活動検出の結果に応じて、更新されたりされなかったりする。更新は、ノイズの帯域分割されたスペクトル振幅メトリックの推定値と、前に予測されたエコー・スペクトル内容415と、下方混合された信号の帯域分割されたスペクトル振幅メトリックの推定値413とを使う。下方混合された信号の帯域分割されたスペクトル振幅メトリックの推定値は、ある実施形態では、入力オーディオ信号の、下方混合された帯域分割された瞬時周波数領域振幅メトリック417である。一方、他の実施形態では、単一のスペクトル推定が使われる。
【0139】
いくつかの実施形態では、方法700は:a)前記空間的特徴419の二つ以上を使って決定される位置外信号利得および空間選択的ノイズ・スペクトル内容を使って決定されるノイズ抑制利得を含む生の抑制利得を723において計算し;b)それらの生の抑制利得を組み合わせて各帯域についての第一の組み合わされた利得にすることを含む。ノイズ抑制利得はいくつかの実施形態では、エコーの抑制を含み、その計算723は予測されたエコー・スペクトル内容415をも使う。
【0140】
いくつかの実施形態では、方法700はさらに、725において、前記空間的特徴419の二つ以上を使って決定される空間選択的な音声活動検出を実行して、信号分類、たとえば声か否かを生成することを含む。いくつかの実施形態では、風検出が使われ、信号分類はさらに信号が風か否かを含む。
【0141】
方法700はさらに、帯域の第一の組み合わされた利得に対する後処理を実行して、後処理された利得125を各帯域について生成することを含む。いくつかの実施形態では、後処理は、最小利得を、たとえば帯域依存の仕方で保証することを含む。本発明の実施形態の一つの特徴は、たとえば突出値利得がないことを保証するために、後処理が、組み合わされた利得の百分位数フィルタリングを実行することを含むということである。いくつかの実施形態では、百分位数フィルタリングは、時間‐周波数式に実行される。後処理のいくつかの実施形態は、時間および/または帯域間の平滑化を実行することによってなめらかさを保証することを含む。
【0142】
いくつかの実施形態では、後処理725は、信号分類、たとえば声か否かまたは風か否かに基づき、いくつかの実施形態では、百分位数フィルタリングの特性は、信号分類、たとえば声か否かまたは風か否かに応じて変わる。
【0143】
エコー抑制が含まれるある実施形態では、本方法は、726において追加的なエコー抑制利得を計算することを含む。ある実施形態では、追加的なエコー抑制利得は、各帯域についての最終利得として使われる第一の組み合わされた利得に含まれ、別の実施形態では、追加的なエコー抑制利得は、第一の組み合わされた利得を後処理して各帯域についての最終利得を生成する結果と組み合わされる。
【0144】
本方法は、727において、最終利得を適用する段階であって、ビン・データについての利得を補間して下方混合された信号のビン・データに対して抑制を実行して抑制された信号データ133を形成することを含む段階と、729において、a)出力サンプルを生成するための出力合成および変換ならびにb)出力周波数ビンを生成するための出力再マッピングの一方または両方を適用する段階とを含む。
【0145】
典型的には、P≧2かつQ≧1である。しかしながら、本稿に開示される方法、システムおよび装置は、P=1、Q≧1およびP≧2、Q=0のより単純な場合にも有効なままでスケールダウンできる。本稿に開示される方法および装置は、P=1、Q=0についてもそこそこよく機能する。この最後の例は提示される発明の縮小された、おそらくはトリビアルな実施形態であるが、提案される枠組みがスケーリングできることは有利でありさらに、たとえばセンサーまたはマイクロホンの障害のために入力オーディオ信号または参照信号の一つまたは複数が破損または利用不能になる場合、実際上、より低い信号動作ケースが要求されることがありうる。
【0146】
本開示は、同時のエコー、ノイズおよび空間的位置外の抑制を含む抑制のすべての側面を含む完全なノイズ削減方法(
図7)、システムまたは装置(
図5、
図6)について提示されている、あるいは処理システム(後述する
図8参照)の一つまたは複数のプロセッサによって実行されたときに該処理システムを含む処理装置に
図7のような方法を実行させる命令を含むコンピュータ可読記憶媒体として提示されているが、例示的な実施形態は、より単純な応用および状況のためのスケーラブルな解決策をも提供することを注意しておく。さらに、ノイズ削減は、本発明の実施形態において記述される百分位数フィルタリングを含む後処理方法によって後処理されることができる利得を決定する入力処理の一例でしかない。
【0147】
〈処理システム・ベースの装置〉
図8は、たとえばマイクロホン(図示せず)からの一つまたは複数のオーディオ入力101を処理するためのある処理装置実施形態800の簡略化されたブロック図を示している。処理装置800は、一組の利得を決定し、決定された利得を百分位数フィルタリングすることを含め、利得を後処理し、利得の適用によって修正されたオーディオ出力137を生成するものである。あるバージョンは、知覚的ドメイン・ベース平準化、知覚的ドメイン・ベース・ダイナミックレンジ制御および知覚的ドメイン・ベース動的等化を含み、これはオーディオ信号の再生レベルに依存するオーディオの知覚における変動を考慮に入れる。別のバージョンはノイズ削減を達成した。
【0148】
あるノイズ削減バージョンは、エコー削減を含み、そのようなバージョンでは、処理装置は、たとえば一つまたは複数のラウドスピーカー(図示せず)からまたはそのようなラウドスピーカーへのフィード(単数または複数)から一つまたは複数の参照信号103をも受け容れる。そのようなあるノイズ削減バージョンでは、処理装置800は、本発明の一つまたは複数の特徴に従って規定されるように、ある実施形態ではノイズおよび位置外信号を、別の実施形態ではエコーをも抑制することによって修正されたオーディオ出力137を生成する。本装置は、たとえば、
図6に示されるシステムおよびその任意の代替を実装でき、動作するときに、本稿に記載される方法の任意の変形を含め
図7の方法を実行できる。そのような装置は、たとえば、ブルートゥース・ヘッドセットのようなヘッドフォン・セットに含まれてもよい。オーディオ入力101、参照入力(単数または複数)103およびオーディオ出力137は、サンプリングされたデータのM個のサンプルからなるフレームの形であると想定される。アナログ入力の場合、アナログ‐デジタル変換器および量子化器を含むデジタイザーが存在するであろう。オーディオ再生のためには、量子化解除器およびデジタル‐アナログ変換器が存在するであろう。完全なオーディオ処理システム、たとえばヘッドセット・デバイスに含まれることがあるそのようなおよびその他の要素は割愛されている。そのような要素をいかにして含めるかは、当業者には明らかであろう。
【0149】
図8に示した実施形態は、動作において、本稿に記載される抑制方法を実行するよう構成された処理システム803を含む。処理システム803は、少なくとも一つのプロセッサ805を含む。これは、デジタル信号処理装置の処理ユニット(単数または複数)またはより汎用の処理装置のCPUであることができる。処理システム803は、典型的には一つまたは複数のメモリ要素を含む記憶サブシステム807をも含む。処理システムの要素は、たとえばバス・サブシステムまたは
図8に示されない他の何らかの相互接続機構によって結合される。処理システム803の要素のいくつかは、当業者に普通に知られている技法を使って、単一の回路中に統合されてもよい。
【0150】
記憶サブシステム807は、プロセッサ805によって実行されたときに本稿に記載される方法の実行を引き起こす命令811を含んでいる。
【0151】
いくつかの実施形態では、記憶サブシステム807は、処理システム803によって実行される処理段階のいくつかを変えるために使用できる一つまたは複数のチューニング・パラメータ813を記憶するよう構成されている。
【0152】
図8に示したシステムは、ヘッドセット、たとえば無線ブルートゥース・ヘッドセットのような特化した装置に組み込まれることができる。システムはまた、オーディオ信号を処理するよう構成された汎用コンピュータ、たとえばパーソナル・コンピュータの一部であることができる。
【0153】
〈設定可能な感度をもつ音声活動検出〉
本発明のいくつかの実施形態では、後処理、たとえば百分位数フィルタリングは、VADによって決定される信号分類によって制御される。本発明は、いかなる特定の型のVADにも限定されるものではなく、多くのVADが当技術分野において知られている。抑制に適用されるとき、発明者は、全ユーザーにとっての「最適」VADをもつのではなく、抑制システムの異なる部分が異なるVADによって制御され、それぞれのそのようなVADがそれが使われる抑制器の機能のためにカスタム設計されるときに、抑制が最もよく機能することを発見した。したがって、ノイズ削減のための入力処理のいくつかのバージョンでは、複数のVADがそれぞれ、感度および空間的選択性を含む選択性を別個に制御するチューニング・パラメータの小さな集合によって制御され、そのようなパラメータはVADが使われる抑制要素に応じてチューニングされる。前記複数のVADのそれぞれは、Y'
bから音声活動度の指示を決定するユニバーサルVADのインスタンス化である。ユニバーサルVADは、一組のパラメータによって制御され、ノイズ・スペクトル内容の推定値と、エコーの帯域分割された周波数領域振幅メトリック表現と、帯域分割された空間的特徴とを使う。前記一組のパラメータは、ノイズ・スペクトル内容の推定値が空間的に選択性であるか否かを含む。特定のインスタンス化が決定する音声活動の指示の型は、上記パラメータの選択によって制御される。
【0154】
一般的な空間選択的なVAD構造――さまざまな機能のためにチューニングできる音声活動度を計算するためのユニバーサルVAD――の一つの実施形態は、
【数27】
である。ここで、BeamGain'
b=BeamGain
min+(1−BeamGain
min)RPI'
b・PPI'
b・CPI'
bであり、BeamGainExpは、より大きな値についてはVADの空間的選択性の積極性を増し、非空間選択的なVADについては0であるパラメータである。N'
b∨N'
b,Sは、ビーム外パワー(または他の周波数領域振幅メトリック)を使って決定された全ノイズ・パワー(または他の周波数領域振幅メトリック)推定値N'
bまたは空間選択的なノイズ推定値N'
b,Sを表わす。β
N、β
E>1は、それぞれノイズおよびエコーのためのマージンであり、Y'
sensは設定可能な感度オフセットである。こβ
N、β
Eの値は1から4までの間である。BeamGainExpは、空間的選択性が所望されるときは0.5から2.0までの間であり、たとえば本発明のいくつかの実施形態における後処理を制御するために使われる空間選択的なVADのある実施形態については1.5である。RPI'
b、PPI'
bおよびCPI'
bは上記のように、三つの空間的確率指標、すなわち比確率指標、位相確率指標およびコヒーレンス確率指標である。
【0155】
上記の表式は、ユニバーサル音声活動検出方法の動作をも制御する。
【0156】
音声指標値Sを生成するための任意の所与の一組のパラメータについて、声の存在を示すものとして試験S>S
threshを考えることによって、二分決定または二項分類器が得られる。値Sが瞬時声レベルの連続的な指標として使用できることも明白であるはずである。さらに、伝達制御または後処理の制御といった動作のための改善された有用なユニバーサルVADが、好適な「ハングオーバー」または検出されたイベント後の声の継続される指示の期間を使って得られる。そのようなハングオーバー期間は0から500msまで変わりうる。ある実施形態では、200msの値が使用された。ハングオーバー期間中は、活性化閾値をたとえば因子2/3によって低下させることが有用であることがある。これは、ひとたび語りバーストが始まったときに、声に対する増大した感度および安定性を作り出す。
【0157】
たとえば空間選択的なVADについての一つまたは複数の後処理動作を制御するための空間選択的な音声活動検出について、上記の表式におけるノイズは、ビーム外のパワー(または他の周波数領域振幅メトリック)の推定値を使って決定される、N'
b,Sである。Y
sensは、典型的なコンポーネントでの実験によって得られる、予期されるマイクロホンおよびシステムのノイズ・レベルの周辺に設定される。
【0158】
〈百分位数フィルタリング結果の例〉
図9は、VADについての入力波形および対応するVAD値を示している。ここで、0は無声を示し、1は有声の発話を示す。ノイズのある発話は、クリーンな発話と自動車ノイズとの、0dBの信号対雑音比(SNR)での混合である。
【0159】
図10は、本発明のある実施形態を含む種々のメジアン・フィルタリング戦略を使って処理された波形を示す、(a)ないし(e)で表わす五つのプロットを示している。
図10における結果(a)は、いかなる後処理もなしで生の利得を使った結果である。
図10における結果(b)は、無声については5点の周波数のみのメジアン・フィルタを使い、有声については3点の周波数のみのメジアン・フィルタを使った結果である。
図10における結果(c)は、無声については7点の周波数のみのメジアン・フィルタを使い、有声については5点の周波数のみのメジアン・フィルタを使った結果である。
図10における結果(d)は、3点の時間のみのメジアン・フィルタを使っただけの結果である。
図10における結果(e)は、無声については7点の時間‐周波数メジアン・フィルタを使い、有声については5点の時間‐周波数メジアン・フィルタを使った結果である。本発明の百分位数フィルタリング方法の実施形態を使っている
図10の結果(e)が、周波数のみのアプローチおよび時間のみのメジアン・フィルタリングと比べ、ずっとなめらかな時間的包絡線を示すことが明らかである。知覚的な聴取も、提案されるフィルタが、より少数のアーチファクトを含む、より快い出力を生成することを確証している。しかしながら、本発明者は、時には、生の後処理されない利得を使うよりも、音声開始時にやや大きな歪みがあることに気づいた。だが、この減衰は
図10に示した例を含め、たいていの場合、かろうじて知覚可能な程度である。ある改善された実施形態では、VADは、たとえば空間選択的なパラメータを使って、より敏感になるようチューニングされ、時間的な百分位数フィルタリングはなくされた(すなわち、声の始まりが検出されるときに百分位数フィルタが周波数帯域のみのフィルタに変更された)。
【0160】
図9および
図10の例は、音声信号についての時間‐周波数メジアン・フィルタの利点を実証している。ノイズに対するその影響をさらに例解するために、自動車ノイズのセグメントが処理された。
図11は、自動車ノイズのセグメントの入力波形と、対応するVAD値を示している。
図12は、本発明のある実施形態を含む種々のメジアン・フィルタリング方法を使って
図11の自動車ノイズのセグメントについて、(a)ないし(e)で表わされる処理された出力を示す。
図11の縦軸は例解目的のために[−0.1,0.1]にスケーリングしてある。
図12における結果(a)は、いかなる後処理もなしで生の利得を使った結果である。
図12における結果(b)は、無声については5点の周波数のみのメジアン・フィルタを(そして、ここでは現われない有声については3点の周波数のみのメジアン・フィルタを)使った結果である。
図12における結果(c)は、無声については7点の周波数のみのメジアン・フィルタを使い、有声については5点の周波数のみのメジアン・フィルタを使った結果である(有声はここでは存在しない)。
図12における結果(d)は、3点の時間のみのメジアン・フィルタを使っただけの結果である。
図12における結果(e)は、無声については7点の時間‐周波数メジアン・フィルタを使い、有声については5点の時間‐周波数メジアン・フィルタを使った結果である(ここでは有声はない)。本発明の百分位数フィルタリング方法の実施形態を使っている
図12の結果(e)が、より低いノイズフロアをもつ、ずっとなめらかな結果を示すことが明らかである。
【0161】
〈一般〉
本明細書を通じて、「処理」、「コンピューティング」、「計算」、「決定/判定/判別」などといった用語を使っての議論は、限定するものではないが、回路またはコンピュータまたはコンピューティング・システムまたは同様の電子コンピューティング装置または他のハードウェアの、電子的な量などの物理的な量として表現されたデータを操作および/または変換して物理的な量として同様に表現された他のデータにするアクションおよび/またはプロセスを指しうることが理解される。
【0162】
同様に、用語「プロセッサ」は、たとえばレジスタおよび/またはメモリからの電子データを処理して、該電子データを、たとえばレジスタおよび/またはメモリに記憶されうる他の電子データに変換する任意の装置または装置の部分を指しうる。「コンピュータ」または「コンピューティング機械」または「コンピューティング・プラットフォーム」は一つまたは複数のプロセッサを含みうる。
【0163】
いくつかの要素、たとえばいくつかの段階を含む方法が記述されるとき、明示的に述べられるのでない限り、そのような要素の、たとえばそのような段階の順序は含意されない。
【0164】
本稿に記載される方法論は、いくつかの実施形態では、一つまたは複数のコンピュータ可読媒体上にエンコードされた論理:命令を受け容れる一つまたは複数のプロセッサによって実行可能である。前記プロセッサの一つまたは複数によって実行されたとき、前記命令は、本稿に記載される方法の少なくとも一つの実行を引き起こす。取るべきアクションを指定する命令(逐次的またはその他)の集合を実行できる任意のプロセッサが含まれる。このように、一例は、一つまたは複数のプロセッサを含む典型的な処理システムである。各プロセッサは、CPUまたは同様の要素、グラフィック処理ユニット(GPU)、フィールドプログラム可能なゲートアレイ、特定用途向け集積回路および/またはプログラム可能なDSPユニットの一つまたは複数を含んでいてもよい。処理システムはさらに、半導体デバイスに組み込まれたメモリを含みうる少なくとも一つの記憶媒体をもつ記憶サブシステム、あるいはメインRAMおよび/または静的RAMおよび/またはROMを、またキャッシュ・メモリをも含む別個のメモリ・サブシステムを含む。記憶サブシステムはさらに、磁気および/または光学式および/またはさらなる固体記憶デバイスといった一つまたは複数の他の記憶デバイスを含んでいてもよい。コンポーネント間の通信のためにバス・サブシステムが含まれていてもよい。処理システムはさらに、たとえばネットワーク・インターフェース・デバイスまたは無線ネットワーク・インターフェース・デバイスを介してネットワークによって結合された諸プロセッサをもつ分散式処理システムであってもよい。処理システムがディスプレイを必要とする場合には、そのようなディスプレイが含まれてもよい。たとえば、液晶ディスプレイ(LCD)、有機発光ディスプレイ(OLED)または陰極線管(CRT)ディスプレイである。手動のデータ入力が必要とされる場合には、処理システムは、キーボードのような英数字入力ユニット、マウスのようなポインティング制御装置などの一つまたは複数といった入力装置をも含む。本稿で使われるところの記憶装置、記憶サブシステムおよびメモリ・ユニットという用語のそれぞれは、コンテキストから明らかであり、そうでないことが明示的に述べられているのでない限り、ディスク・ドライブ・ユニットのような記憶システムをも包含する。処理システムは、いくつかの構成では、音出力装置およびネットワーク・インターフェース・デバイスを含んでいてもよい。
【0165】
いくつかの実施形態では、非一時的なコンピュータ可読媒体が、少なくとも一つのプロセッサ要素および記憶サブシステムを含むデジタル信号処理装置またはサブシステムのような処理システムの一つまたは複数のプロセッサによって実行されたときに、本稿に記載される方法の実行を引き起こす命令、たとえば論理をもって構成されている、たとえばそれをエンコードされている。いくつかの実施形態は、論理自身の形である。非一時的なコンピュータ可読媒体は、特に一時的な伝搬される信号または一時的な搬送波または他の何らかの一時的な伝送媒体ではない、任意のコンピュータ可読媒体である。よって、「非一時的なコンピュータ可読媒体」という用語は、任意の有体なコンピュータ可読記憶媒体をカバーする。非一時的なコンピュータ可読媒体は、任意の有体のコンピュータ可読記憶媒体を含み、不揮発性記憶媒体および揮発性記憶媒体を含む多くの形を取りうる。不揮発性記憶媒体は、たとえば、静的RAM、光ディスク、磁気ディスクおよび光磁気ディスクを含む。揮発性記憶媒体は、処理システム内のメイン・メモリのような動的メモリおよび処理システム内のハードウェア・レジスタを含む。よって、上記の典型的な処理システムでは、記憶サブシステムは、一つまたは複数のプロセッサによって実行されたときに本稿に記載される方法段階のうちの一つまたは複数の実行を引き起こす命令、たとえば論理、たとえばソフトウェアをもって構成されている、たとえばそれをエンコードされているコンピュータ可読記憶媒体である。前記ソフトウェアはハードディスクに存在していてもよいし、あるいはコンピュータ・システムによるその実行の間、完全にまたは少なくとも部分的に、メモリ、たとえばRAM内におよび/またはプロセッサ・レジスタ内に存在していてもよい。このように、メモリおよびプロセッサ・レジスタも、実行されたときに方法段階の実行を引き起こす命令がエンコードできる非一時的なコンピュータ可読媒体をなす。
【0166】
コンピュータ可読媒体はある例示的な実施形態では単一の媒体であるよう示されているが、用語「媒体」は、命令の前記一つまたは複数の集合を記憶する単一の媒体または複数の媒体(たとえば、いくつかのメモリ、中央集中されたまたは分散されたデータベースおよび/または付随するキャッシュおよびサーバー)を含むと解釈されるべきである。
【0167】
さらに、非一時的なコンピュータ可読媒体、たとえばコンピュータ可読記憶媒体は、コンピュータ・プログラム・プロダクトを形成してもよく、あるいはコンピュータ・プログラム・プロダクトに含まれてもよい。
【0168】
代替的な実施形態では、前記一つまたは複数のプロセッサは、単体の装置として動作してもよいし、あるいはネットワーク接続された展開において他のプロセッサ(単数または複数)に接続、たとえばネットワーク接続されていてもよい。あるいは、前記一つまたは複数のプロセッサは、サーバー‐クライアント・ネットワーク環境におけるサーバーまたはクライアント機械の役割で、あるいはピアツーピアまたは分散式のネットワーク環境におけるピア機械として、動作してもよい。処理システムの用語は、本稿において明示的に除外されているのでない限り、そのようなすべての可能性を包含する。前記一つまたは複数のプロセッサは、パーソナル・コンピュータ(PC)、メディア再生装置、ヘッドセット装置、ハンズフリー通信装置、タブレットPC、セットトップボックス(STB)、携帯情報端末(PDA)、ゲーム機、携帯電話、ウェブ・アプライアンス、ネットワーク・ルータ、スイッチもしくはブリッジまたは当該機械によって行なわれるアクションを指定する命令(逐次的またはその他)の集合を実行することのできる任意の機械をなしてもよい。
【0169】
一部の図面(単数または複数)は、単一のプロセッサおよび単一の記憶サブシステム、たとえば命令を含む論理を記憶する単一のメモリを示すだけであるものの、当業者は、上記のコンポーネントの多くが含まれているが、発明側面を埋没させないために明示的に図示または記述されていないことを理解するであろう。たとえば、単一の機械だけが図示されているものの、用語「機械」は、本稿で論じられる方法論の任意の一つまたは複数を実行するために個々にまたは合同して一組の(または複数組の)命令を実行する任意の機械の集合をも含むものと解釈される。
【0170】
このように、当業者は理解するであろうが、本発明の実施形態は、方法、特殊目的装置のような装置、データ処理システムのような装置、たとえば非一時的なコンピュータ可読媒体において具現される論理または命令をエンコードされたコンピュータ可読媒体、たとえばコンピュータ・プログラム・プロダクトとして構成されたコンピュータ可読記憶媒体として具現されうる。コンピュータ可読媒体は、一つまたは複数のプロセッサによって実行されたときに方法段階の実行を引き起こす一組の命令をもって構成されている。よって、本発明の諸側面は、方法、完全にハードウェアの実施形態、完全にソフトウェアの実施形態またはソフトウェアおよびハードウェア側面を組み合わせる実施形態の形を取りうる。さらに、本発明は、プログラム論理、たとえばコンピュータ可読記憶媒体上のコンピュータ・プログラムまたはコンピュータ可読プログラム・コードをもって構成された前記コンピュータ可読記憶媒体、たとえばコンピュータ・プログラム・プロダクトの形を取りうる。
【0171】
また、本発明の実施形態がいかなる特定の実装またはプログラミング技法にも限定されないことおよび本発明が本稿に記載される機能を実装するためのいかなる適切な技法を使って実装されてもよいことも理解されるであろう。さらに、実施形態は、いかなる特定のプログラミング言語またはオペレーティング・システムにも限定されない。
【0172】
本明細書を通じて「一つの実施形態」または「ある実施形態」への言及は、その実施形態との関連で記述される特定の特徴、構造または特性が本発明の少なくとも一つの実施形態に含まれることを意味する。よって、本明細書を通じて随所に「一つの実施形態」または「ある実施形態」という句が現われることは、必ずしもみなが同じ実施形態に言及しているのではない。さらに、個別的な特徴、構造または特性は、一つまたは複数の実施形態において、本開示から当業者に明白となるであろういかなる好適な仕方で組み合わされてもよい。
【0173】
同様に、本発明の例示的な実施形態の上記の記述において、本発明のさまざまな特徴が、本開示の流れをよくし、さまざまな発明側面のうちの一つまたは複数の理解を助けるために、時に単一の実施形態、図面またはその説明に一緒にまとめられていることが理解されるはずである。しかしながら、この開示方法は、特許請求される発明が、各請求項において明示的に記載されているより多くの特徴を必要とするという意図を反映したものと解釈されるものではない。むしろ、付属の請求項が反映しているように、発明側面は、単一の上記の開示される実施形態の全部よりも少ない特徴にある。よって、特許請求の範囲にある請求項は、ここに明示的に発明の詳細な説明に組み込まれ、各請求項はそれ自身で本発明の別個の実施形態をなす。
【0174】
さらに、本稿に記載されるいくつかの実施形態は、他の実施形態に含まれるいくつかの特徴は含むが他の特徴は含まないものの、異なる実施形態の特徴の組み合わせは、本発明の範囲内であり、異なる実施形態をなすことが意図されている。当業者はこのことを理解するであろう。たとえば、請求項において、特許請求される実施形態の任意のものが任意の組み合わせにおいて使用されることができる。
【0175】
さらに、実施形態のいくつかは、本稿では、コンピュータ・システムのプロセッサによってまたは当該機能を実行する他の手段によって実装されることができる方法または方法の要素の組み合わせとして記述されている。よって、プロセッサは、そのような方法または方法の要素を実行するための必要な命令とともに、該方法または方法の要素を実行する手段をなす。さらに、本稿に記載される装置実施形態の要素は、本発明を実行するために該要素によって実行される機能を実行する手段の例である。
【0176】
本稿で与えた記述では、数多くの個別的詳細が記載されている。しかしながら、本発明の実施形態はそうした個別的詳細なしでも実施されうることは理解される。他の事例では、よく知られた方法、構造および技法は、本記述の理解をかすませないために、詳細に示してはいない。
【0177】
本稿での用法では、そうでないことが述べられるのでない限り、共通のオブジェクトを記述する序数形容語「第一の」「第二の」「第三の」などの使用は単に、同様のオブジェクトの異なるインスタンスが言及されていることを示すのであって、そのように記述されるそれらのオブジェクトが、時間的に、空間的に、ランキングにおいてまたは他の任意の仕方において、所与の序列でなければならないことを含意することは意図されていない。
【0178】
ある実施形態では、短時間フーリエ変換(STFT)が周波数帯域を得るために使用されるが、本発明はSTFTに限定されるものではない。STFTのような変換はしばしば巡回変換(circulant transform)と称される。巡回変換の最も一般的な形は、バッファリング、窓、ツイスト(実数値から複素数値への変換)およびDFT、たとえばFFTによって表現できる。特定の変換定義に合うよう周波数領域表現を調整するために、DFT後の複素ツイストが使用されることができる。本発明は、修正DFT(MDFT)、短時間フーリエ変換(STFT)を含むこのクラスの変換の任意のものによっておよびより長い窓およびラッピング、共役直交ミラー・フィルタ(CQMF)をもって、実装されうる。修正離散コサイン変換(MDCT)および修正離散サイン変換(MDST)のような他の標準的な変換も、周波数領域ビンの追加的な複素ツイストとともに、使用できる。該追加的な複素ツイストは、変換の基礎になる周波数分解能または処理能力を変えないので、処理チェーンの最後まで残され、必要であれば再マッピングにおいて適用されることができる。
【0179】
本稿で引用されるあらゆる米国特許、米国特許出願および米国を指定する国際(PCT)特許出願はここに参照によって組み込まれる。特許規則または法令が、それ自身参照によって情報を組み込んでいる素材の参照による組み込みを許さない場合には、本稿における参照による組み込みは、そのような参照によって組み込まれる素材における参照によって組み込まれている情報は、そのような情報が明示的に本稿に参照によって組み込まれているのでない限り、除外する。
【0180】
本明細書における他の技術のいかなる議論も、いかなる意味でも、そのような技術が発明の時点において周知である、公知であるまたは当技術分野における技術常識の一部をなすことを認めたものであると考えるべきではない。
【0181】
請求項および明細書の記述において、有する、からなる、含むといった用語のいずれも、挙げられている要素/特徴を少なくとも含むが他を排除するものではないことを意味するオープンな用語である。よって、請求項で使われるときの有する/含むの用語は、挙げられている手段または要素またはステップに限定するものとして解釈すべきではない。たとえば、AおよびBを有する装置という表現の範囲は、要素AおよびBのみからなる装置に限定されるべきではない。本願で使われるところの含むも、挙げられている要素/特徴を少なくとも含むが他を排除するものではないことを意味するオープンな用語である。よって、含むは有すると同義であり、有することを意味する。
【0182】
同様に、請求項において使用されるときの結合されたという用語は、直接接続だけに限定するものと解釈すべきではないことも注意しておくべきである。「結合された」および「接続された」という用語およびそれらの派生形が使用されうる。これらの用語は、互いと同義であるとは意図されていないことを理解しておくべきである。よって、装置Bに結合された装置Aという表現の範囲は、装置Aの出力が装置Bの入力に直接接続されている装置またはシステムに限定されるべきではない。Aの出力とBの入力の間に経路が存在し、その経路が他の装置または手段を含んでいてもよいことを意味する。「結合された」は二つ以上の要素が直接的な物理的または電気的接触状態にあること、あるいは二つ以上の要素が互いに直接接触してはいないがそれでも互いと協働または対話することを意味しうる。
【0183】
このように、本発明の好ましい実施形態であると考えられるものについて記述してきたが、当業者は、本発明の精神から外れることなく他のさらなる修正がされうることを認識するであろう。本発明の範囲内にはいるようなそのようなすべての変更および修正を特許請求することが意図されている。たとえば、上記で挙げた公式は単に使用されうる手順の代表的なものである。ブロック図に機能を追加あるいは削除してもよく、機能ブロック間で動作が交換されてもよい。本発明の範囲内で記載される方法にステップが追加または削除されてもよい。
いくつかの付番実施例を記載しておく。
〔付番実施例1〕
帯域分割された利得を後処理してオーディオ信号に適用するための後処理された利得を生成する方法であって、前記帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定され、当該方法は:
特定の周波数帯域についての特定の後処理された利得を生成する段階を含み、前記段階は少なくとも、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームからおよび前記特定の周波数帯域に隣接する周波数帯域についての利得値からの利得値を使って百分位数フィルタリングすることを含み、前記周波数帯域は一つまたは複数の周波数ビンを含む、
方法。
〔付番実施例2〕
前記百分位数フィルタリングのあとに、周波数帯域から周波数帯域にかけての平滑化および時間を通じた平滑化の少なくとも一方をさらに含む、付番実施例1記載の方法。
〔付番実施例3〕
前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号の信号分類に依存する、付番実施例1または2記載の方法。
〔付番実施例4〕
前記分類は、前記入力オーディオ信号が声である可能性が高いか否かを含む、付番実施例3記載の方法。
〔付番実施例5〕
前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスに依存する、付番実施例1ないし4のうちいずれか一項記載の方法。
〔付番実施例6〕
前記特定の周波数帯域についての前記百分位数フィルタリングの幅および深さの一方または両方が、その特定の周波数帯域に依存する、付番実施例1ないし5のうちいずれか一項記載の方法。
〔付番実施例7〕
前記周波数帯域は知覚的スケールまたは対数スケール上である、付番実施例1ないし6のうちいずれか一項記載の方法。
〔付番実施例8〕
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値はメジアンである、付番実施例1ないし7のうちいずれか一項記載の方法。
〔付番実施例9〕
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値は前記一つまたは複数の入力オーディオ信号の分類および前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスのうちの一つまたは複数に依存する、付番実施例1ないし7のうちいずれか一項記載の方法。
〔付番実施例10〕
前記百分位数フィルタリングは重み付けされた百分位数フィルタリングである、付番実施例1ないし9のうちいずれか一項記載の方法。
〔付番実施例11〕
一つまたは複数の入力オーディオ信号から決定された前記帯域分割された利得はノイズを削減するためである、付番実施例1ないし10のうちいずれか一項記載の方法。
〔付番実施例12〕
前記帯域分割された利得は、二つ以上の入力オーディオ信号から決定され、ノイズおよび位置外信号を削減するためである、付番実施例1ないし10のうちいずれか一項記載の方法。
〔付番実施例13〕
前記帯域分割された利得は一つまたは複数の入力オーディオ信号および一つまたは複数の参照信号から決定され、ノイズおよびエコーを削減するためである、付番実施例1ないし10のうちいずれか一項記載の方法。
〔付番実施例14〕
前記帯域分割された利得は、知覚的ドメイン・ベースの平準化、知覚的ドメイン・ベースのダイナミックレンジ制御および知覚的ドメイン・ベースの動的等化のうちの一つまたは複数のためである、付番実施例1ないし10のうちいずれか一項記載の方法。
〔付番実施例15〕
命令を含む有体のコンピュータ可読記憶媒体であって、前記命令は、処理システムの一つまたは複数のプロセッサによって実行されたときに、処理ハードウェアに、付番実施例1ないし14のうちいずれか一項記載の、オーディオ信号に適用するための帯域分割された利得を後処理する方法を実行させるものである、媒体。
〔付番実施例16〕
少なくとも一つのプロセッサによって実行されたときに、付番実施例1ないし14のうちいずれか一項記載の方法の実行を引き起こすプログラム論理。
〔付番実施例17〕
オーディオ信号に適用するための帯域分割された利得を後処理する装置であって、前記帯域分割された利得は、一つまたは複数の入力オーディオ信号を入力処理することによって決定されたものであり、当該装置は:
前記帯域分割された利得を受け容れて、後処理された利得を生成し、特定の周波数帯域についての特定の後処理された利得を生成する後処理器を有し、該後処理は、前記一つまたは複数の入力オーディオ信号の一つまたは複数の前のフレームからおよび前記特定の周波数帯域に隣接する周波数帯域についての利得値からの利得値を使って百分位数フィルタリングすることを含む、
装置。
〔付番実施例18〕
前記後処理器が、前記百分位数フィルタリングされた利得を平滑化する平滑化フィルタを含み、前記平滑化が周波数帯域から周波数帯域にかけての平滑化および時間を通じた平滑化の少なくとも一方を含む、付番実施例17記載の装置。
〔付番実施例19〕
前記一つまたは複数の入力オーディオ信号の信号分類を生成する信号分類器をさらに有しており、前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号の前記信号分類に依存する、付番実施例17または18記載の装置。
〔付番実施例20〕
前記信号分類器は音声活動検出器を含み、前記信号分類が前記入力オーディオ信号が声である可能性が高いか否かを含む、付番実施例19記載の装置。
〔付番実施例21〕
前記百分位数フィルタリングの幅および深さの一方または両方が、前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスに依存する、付番実施例17ないし20のうちいずれか一項記載の装置。
〔付番実施例22〕
前記特定の周波数帯域についての前記百分位数フィルタリングの幅および深さの一方または両方が、その特定の周波数帯域に依存する、付番実施例17ないし21のうちいずれか一項記載の装置。
〔付番実施例23〕
前記周波数帯域は知覚的スケールまたは対数スケール上である、付番実施例17ないし22のうちいずれか一項記載の装置。
〔付番実施例24〕
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値はメジアンである、付番実施例17ないし23のうちいずれか一項記載の装置。
〔付番実施例25〕
前記百分位数フィルタリングはある百分位数値のものであり、前記百分位数値は前記一つまたは複数の入力オーディオ信号の分類および前記一つまたは複数の入力オーディオ信号のスペクトル・フラックスのうちの一つまたは複数に依存する、付番実施例17ないし23のうちいずれか一項記載の装置。
〔付番実施例26〕
前記百分位数フィルタリングは重み付けされた百分位数フィルタリングである、付番実施例17ないし25のうちいずれか一項記載の装置。
〔付番実施例27〕
一つまたは複数の入力オーディオ信号から決定された前記帯域分割された利得はノイズを削減するためである、付番実施例17ないし26のうちいずれか一項記載の装置。
〔付番実施例28〕
前記帯域分割された利得は、二つ以上の入力オーディオ信号から決定され、ノイズおよび位置外信号を削減するためである、付番実施例17ないし26のうちいずれか一項記載の装置。
〔付番実施例29〕
前記帯域分割された利得は一つまたは複数の入力オーディオ信号および一つまたは複数の参照信号から決定され、ノイズおよびエコーを削減するためである、付番実施例17ないし26のうちいずれか一項記載の装置。
〔付番実施例30〕
前記帯域分割された利得は、知覚的ドメイン・ベースの平準化、知覚的ドメイン・ベースのダイナミックレンジ制御および知覚的ドメイン・ベースの動的等化のうちの一つまたは複数のためである、付番実施例17ないし26のうちいずれか一項記載の装置。