(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、前記した一つ目の方法は、頭部インパルス応答と音響空間における反射とが同時に測定されることになるため、最適な聴感を得るには受聴者自身が音響空間に赴き、バイノーラルルームインパルス応答を測定しなければならなかった。そのため、例えば受聴者が変わる場合は、その都度受聴者が音響空間に赴いてバイノーラルルームインパルス応答を再測定する必要があり、処理が煩雑であるという問題があった。
【0009】
また、前記した二つ目の方法は、当該方法によって付加される残響が、本来スピーカでの再生を前提としており、例えばヘッドホンを通じて両耳に直接提示される場合は、必ずしも元の場所(音響空間)の響きを再現する所望の残響となるとは限らないという問題があった。
【0010】
本発明はかかる点に鑑みてなされたものであって、ヘッドホン受聴時において、受聴者が入れ替わった場合であっても、同じ音響空間で受聴したものに近い残響の生成が可能な残響応答を生成する残響応答生成装置およびそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0011】
前記課題を解決するために請求項1に係る残響応答生成装置は、音響空間における残響を生成するための残響応答を生成する装置であって、インパルス応答畳み込み手段と、第1インパルス応答変換手段と、第2インパルス応答変換手段と、スペクトログラム算出手段と、スペクトログラム変換手段と、インパルス応答逆畳み込み手段と、を備える構成とした。
【0012】
このような構成を備える残響応答生成装置は、インパルス応答畳み込み手段によって、音響空間における音源位置から任意の受音点までの、当該受音点を基準とした複数の方向ごとの音響伝達特性を示す第1方向別ルームインパルス応答と、無響空間における音源位置から頭部の耳の位置までの、当該耳の位置を基準とした複数の方向ごとの音響伝達特性を示す頭部インパルス応答とを、一致する方向ごとに畳み込むことで、各方向の第1バイノーラル方向別ルームインパルス応答を算出する。また、残響応答生成装置は、第1インパルス応答変換手段によって、第1バイノーラル方向別ルームインパルス応答を短時間フーリエ変換することで、当該第1バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。また、残響応答生成装置は、第2インパルス応答変換手段によって、音響空間における音源位置から受音点と同一位置に配置された頭部の耳の位置までの音響伝達特性を示すバイノーラルルームインパルス応答を短時間フーリエ変換することで、当該バイノーラルルームインパルス応答のスペクトログラムを算出する。
【0013】
また、残響応答生成装置は、スペクトログラム算出手段によって、全方向の第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の総和に対する、各方向の前記第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の割合を、バイノーラルルームインパルス応答のスペクトログラムの振幅に乗じるとともに、バイノーラルルームインパルス応答のスペクトログラムの位相を複製することで、各方向の第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。また、残響応答生成装置は、スペクトログラム変換手段によって、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを逆短時間フーリエ変換することで、第2バイノーラル方向別ルームインパルス応答を算出する。そして、残響応答生成装置は、第2バイノーラル方向別ルームインパルス応答と、頭部インパルス応答とを、一致する方向ごとに逆畳み込みすることで、各方向の第2方向別ルームインパルス応答を残響応答として算出する。
【0014】
このように、残響応答生成装置は、スペクトログラム算出手段によって、全方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の総和に対する、各方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の割合をバイノーラルルームインパルス応答の振幅応答に乗じ、かつ、バイノーラルルームインパルス応答の位相応答を複製するとともに、インパルス応答逆畳み込み手段によって、頭部インパルス応答と逆畳み込みを行うことで、バイノーラル録音されたバイノーラルルームインパルス応答から頭部インパルス応答を分離し、残響応答(第2方向別インパルス応答)を生成することができる。
【0015】
また、請求項2に係る残響応答生成装置は、請求項1に係る残響応答生成装置において、頭部インパルス応答分割手段と、遅延量削除手段と、を備える構成とした。
【0016】
このような構成を備える残響応答生成装置は、頭部インパルス応答分割手段によって、頭部インパルス応答を最小位相成分と全域通過成分とに分割する。また、残響応答生成装置は、遅延量削除手段によって、第2方向別ルームインパルス応答から遅延量を削除する。また、残響応答生成装置は、インパルス応答逆畳み込み手段によって、第2バイノーラル方向別ルームインパルス応答と、頭部インパルス応答の最小位相成分とを、一致する方向ごとに逆畳み込みすることで、各方向の第2方向別ルームインパルス応答を算出する。そして、残響応答生成装置は、遅延量削除手段によって、第2方向別ルームインパルス応答から、頭部インパルス応答の全域通過成分の近似量として得られる遅延量を削除する。
【0017】
このように、残響応答生成装置は、頭部インパルス応答分割手段によって、頭部インパルス応答を、時間遅れ分を含まない最小位相成分と時間遅れ分を含む全域通過成分とに分割するため、インパルス応答逆畳み込み手段によって、時間遅れ分を含まない頭部インパルス応答の最小位相成分を用いて、第2バイノーラル方向別ルームインパルス応答との逆畳み込みを行うことができる。
【0018】
前記課題を解決するために請求項3に係る残響応答生成プログラムは、音響空間における残響を生成するための残響応答を生成するために、コンピュータを、インパルス応答畳み込み手段、第1インパルス応答変換手段、第2インパルス応答変換手段、スペクトログラム算出手段、スペクトログラム変換手段、インパルス応答逆畳み込み手段、として機能させることとした。
【0019】
このような構成を備える残響応答生成プログラムは、インパルス応答畳み込み手段によって、音響空間における音源位置から任意の受音点までの、当該受音点を基準とした複数の方向ごとの音響伝達特性を示す第1方向別ルームインパルス応答と、無響空間における音源位置から頭部の耳の位置までの、当該耳の位置を基準とした複数の方向ごとの音響伝達特性を示す頭部インパルス応答とを、一致する方向ごとに畳み込むことで、各方向の第1バイノーラル方向別ルームインパルス応答を算出する。また、残響応答生成プログラムは、第1インパルス応答変換手段によって、第1バイノーラル方向別ルームインパルス応答を短時間フーリエ変換することで、当該第1バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。また、残響応答生成プログラムは、第2インパルス応答変換手段によって、音響空間における音源位置から受音点と同一位置に配置された頭部の耳の位置までの音響伝達特性を示すバイノーラルルームインパルス応答を短時間フーリエ変換することで、当該バイノーラルルームインパルス応答のスペクトログラムを算出する。
【0020】
また、残響応答生成プログラムは、スペクトログラム算出手段によって、全方向の第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の総和に対する、各方向の前記第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の割合を、バイノーラルルームインパルス応答のスペクトログラムの振幅に乗じるとともに、バイノーラルルームインパルス応答のスペクトログラムの位相を複製することで、各方向の第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。また、残響応答生成プログラムは、スペクトログラム変換手段によって、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを逆短時間フーリエ変換することで、第2バイノーラル方向別ルームインパルス応答を算出する。そして、残響応答生成プログラムは、第2バイノーラル方向別ルームインパルス応答と、頭部インパルス応答とを、一致する方向ごとに逆畳み込みすることで、各方向の第2方向別ルームインパルス応答を残響応答として算出する。
【0021】
このように、残響応答生成プログラムは、スペクトログラム算出手段によって、全方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の総和に対する、各方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の割合をバイノーラルルームインパルス応答の振幅応答に乗じ、かつ、バイノーラルルームインパルス応答の位相応答を複製するとともに、インパルス応答逆畳み込み手段によって、頭部インパルス応答と逆畳み込みを行うことで、バイノーラル録音されたバイノーラルルームインパルス応答から頭部インパルス応答を分離し、残響応答(第2方向別インパルス応答)を生成することができる。
【発明の効果】
【0022】
請求項1および請求項3に係る発明によれば、生成された第2方向別ルームインパルス応答と受聴者の頭部インパルス応答とを音響信号に畳み込むことで、受聴者が実際の音響空間に赴くことなく、当該受聴者が同じ音響空間で受聴したものに近い残響を生成することができる。また、請求項1および請求項3に係る発明によれば、受聴者が入れ替わった場合であっても、生成された第2方向別ルームインパルス応答と当該変更後の受聴者の頭部インパルス応答とを音響信号に畳み込むことで、当該変更後の受聴者が同じ音響空間で受聴したものに近い残響を生成することができる。
【0023】
請求項2に係る発明によれば、マイクロホンの配置のずれ、測定誤差などの要因により頭部インパルス応答をそのまま逆畳み込みを行うと因果律を満たさなくなる場合であっても、因果律を満たしながら第2バイノーラル方向別ルームインパルスとの逆畳み込みを行うことができ、音響空間における反射などの音響伝達特性を示す第2方向別ルームインパルス応答を生成することができる。
【発明を実施するための形態】
【0025】
本発明の実施形態に係る残響応答生成装置およびそのプログラムについて、図面を参照しながら説明する。なお、以下の説明において、同一の構成については同一の名称および符号を付し、詳細説明を省略する。
【0026】
[第1実施形態]
以下、本発明の第1実施形態に係る残響応答生成装置1の構成について、
図1〜
図4を参照しながら説明する。残響応答生成装置1は、残響を生成する際に用いられる残響応答を生成するものである。ここで、「残響応答」とは、所定の音響空間における任意の受音点を基準とした、有限数(例えばN個)の到来方向ごとのルームインパルス応答(反射の成分)のことを示しており、具体的には
図1に示すように、第2方向別ルームインパルス方向のことを意味している。
【0027】
残響応答生成装置1は、
図1に示すように、頭部インパルス応答、第1方向別ルームインパルス応答およびバイノーラルルームインパルス応答を入力として、第2方向別ルームインパルス応答を生成する。すなわち、残響応答生成装置1は、後記するように、頭部インパルス応答と第1方向別ルームインパルス応答とを利用して、反射の成分を含む頭部インパルス応答であるバイノーラルルームインパルス応答から頭部インパルス応答を分離し、反射の成分のみを含む第2方向別ルームインパルス応答を生成することを特徴としている。なお、このように生成された第2方向別ルームインパルス応答は、後記するように、受聴者の頭部インパルス応答とともに音響信号に畳み込まれることで、音響空間の残響が生成されることになる(後記する
図8参照)。
【0028】
残響応答生成装置1は、ここでは
図1に示すように、インパルス応答畳み込み手段10と、第1インパルス応答変換手段20と、第2インパルス応答変換手段30と、スペクトログラム算出手段40と、スペクトログラム変換手段50と、インパルス応答逆畳み込み手段60と、を備えている。以下、残響応答生成装置1の各要素について説明する。
【0029】
インパルス応答畳み込み手段10は、第1バイノーラル方向別ルームインパルス応答を算出するものである。ここで、「バイノーラル方向別ルームインパルス応答」とは、所定の音響空間における任意の受音点を基準とした、有限数(例えばN個)の到来方向ごとのバイノーラルルームインパルス応答のことを示している。インパルス応答畳み込み手段10は、具体的には
図1に示すように、第1方向別ルームインパルス応答と頭部インパルス応答とを、一致する方向ごとに畳み込む(コンボリューションする)ことで、予め定められた複数の方向ごとに第1バイノーラルルームインパルス応答を算出する。
【0030】
ここで、インパルス応答畳み込み手段10に入力される頭部インパルス応答は、残響応答生成装置1における処理前に予め求められるものである。この頭部インパルス応答は、例えば音響無響室の所定位置にダミーヘッドまたはHATSを配置し、これらの頭部の耳の位置(両耳鼓膜位置または両耳外耳道入口)を基準として、予め定められた複数の方向ごとに求められ、
図1に示すように、それぞれがインパルス応答畳み込み手段10に出力される。なお、前記した頭部インパルス応答は、ダミーヘッドまたはHATSのみならず、実際の人間の頭部を用いて求めても構わない。
【0031】
頭部インパルス応答を求めるための具体的な方法は特に限定されず、任意の方法を用いることができる。頭部インパルス応答は、例えば、頭部がある場合の所定位置にある音源から外耳耳入口に設置したマイクロホンまでの音響伝達関数を、頭部がない場合の前記所定位置にある音源から頭部中心位置においたマイクロホンまでの音響伝達関数で除算し、これを逆離散フーリエ変換することで算出することができる。
【0032】
また、頭部インパルス応答を求める方向も特に限定されないが、例えば前記したダミーヘッドなどの耳(両耳鼓膜位置または両耳外耳道入口)の位置を基準として、水平方向に8方位(45度間隔)、上下に2層の合計16方向分の頭部インパルス応答を求めることができる。なお、頭部インパルス応答は、左右の耳のそれぞれについて求めることができるが、ここでは左右の耳の一方について求めればよい。但し、左右の耳のそれぞれについて頭部インパルス応答を求め、左右の耳の頭部インパルス応答のうち、S/Nなどの条件が良好なものを選択して用いても構わない。
【0033】
インパルス応答畳み込み手段10に入力される第1方向別ルームインパルス応答は、残響応答生成装置1における処理前に予め求められるものである。ここで、「方向別ルームインパルス応答」とは、所定の音響空間における任意の受音点を基準とした、有限数(例えばN個)の到来方向ごとのルームインパルス応答のことを示している。この第1方向別ルームインパルス応答は、例えば音響空間の所定位置を基準として、予め定められた複数の方向ごとに求められ、
図1に示すように、それぞれがインパルス応答畳み込み手段10に出力される。
【0034】
ここで、バイノーラルルームインパルス応答から直接音を除いた信号、すなわち音響空間における反射の成分を示す応答は、
図2に示すように、様々な方向から到来する反射音に到来方向に相当する頭部インパルス応答を畳み込んだ信号の、頭部近傍境界面S上における面積分で表すことができると仮定する。そして、様々な方向から到来する反射音の到来方向を有限数に限定(離散化)し、様々な方向から到来する反射音をパンニングなどの従来手法によって限定されたN個の到来方向に振り分けることで、これらの時系列信号を方向別インパルス応答として近似して用いることができる。なお、
図2における頭部は、バイノーラル録音において用いられるダミーヘッドDHを示している。
【0035】
一方、本発明に係る残響応答生成装置1は、
図3および
図4に示すように、予め定められた複数の方向別に実測したルームインパルス応答を方向別インパルス応答として用いている。なお、
図4は、方向別ルームインパルス応答の一例を示しており、縦軸が振幅を、横軸が時間を示している。方向別ルームインパルス応答は、
図4に示すように、時間とともに徐々に振幅が減衰する波形として表わすことができる。
【0036】
第1方向別ルームインパルス応答を求めるための具体的な方法は特に限定されず、任意の方法を用いることができる。第1方向別ルームインパルス応答は、例えば、音響シミュレーションによって音響空間の所定位置を基準とした方向別ルームインパルス応答を解析的に算出する方法や、音響空間内の所定位置に指向性マイクロホンを設置し、複数の方向ごとに実測する方法などを用いることができる。
【0037】
また、第1方向別ルームインパルス応答を求める方向も特に限定されないが、全周囲を等分する方向が望ましい。例えば頭部インパルス応答と同様に、音響空間内の所定位置を基準として、水平方向に8方位(45度間隔)、上下に2層の合計16方向分の第1方向別ルームインパルス応答を求めることができる。すなわち、第1方向別ルームインパルス応答と頭部インパルス応答とは、それぞれ一致した方向について求める。
【0038】
インパルス応答畳み込み手段10は、例えば前記したように、第1方向別ルームインパルス応答と頭部インパルス応答とがそれぞれ16方向分入力された場合は、それぞれ一致する方向について畳み込みを行うことで16方向分の第1バイノーラル方向別ルームインパルス応答を算出し、これらを第1インパルス応答変換手段20に出力する。
【0039】
第1インパルス応答変換手段20は、第1バイノーラル方向別ルームインパルス応答をスペクトログラムに変換するものである。第1インパルス応答変換手段20は、具体的には、第1バイノーラル方向別ルームインパルス応答を短時間フーリエ変換することで、当該第1バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。
【0040】
第1インパルス応答変換手段20は、例えば前記したように、第1バイノーラル方向別ルームインパルス応答が16方向分入力された場合は、それぞれ短時間フーリエ変換を行うことで16方向分のスペクトログラムを算出し、これらをスペクトログラム算出手段40に出力する。なお、短時間フーリエ変換は、音声などの時間変化する信号の周波数と位相の変化を解析するために用いられ、関数に窓関数をずらしながら掛け、それをフーリエ変換することでスペクトログラムが算出される。
【0041】
第2インパルス応答変換手段30は、バイノーラルルームインパルス応答をスペクトログラムに変換するものである。第2インパルス応答変換手段30は、具体的には、バイノーラルルームインパルス応答を短時間フーリエ変換することで、当該バイノーラルルームインパルス応答のスペクトログラムを算出する。そして、第2インパルス応答変換手段30は、
図1に示すように、算出したバイノーラルルームインパルス応答のスペクトログラムをスペクトログラム算出手段40に出力する。
【0042】
ここで、第2インパルス応答変換手段30に入力されるバイノーラルルームインパルス応答は、残響応答生成装置1における処理前に予め求められるものである。バイノーラルルームインパルス応答は、前記した第1方向別ルームインパルス応答を求めた音響空間における所定位置と同一位置に、インパルス応答畳み込み手段10に入力される頭部インパルス応答を測定したものと同じダミーヘッドまたはHATSを配置し、従来のバイノーラル録音技術を用いて求めることができる。なお、バイノーラルルームインパルス応答は、左右の耳のそれぞれについて求めることができるが、ここでは左右の耳の一方について求めればよい。但し、左右の耳のそれぞれについてバイノーラルルームインパルス応答を求め、左右の耳のバイノーラルルームインパルス応答のうち、S/Nなどが良好なものを選択して用いても構わない。
【0043】
スペクトログラム算出手段40は、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出するものである。スペクトログラム算出手段40は、具体的には、全方向の第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の総和に対する、各方向の第1バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅の割合を、バイノーラルルームインパルス応答のスペクトログラムの振幅に乗じるとともに、バイノーラルルームインパルス応答のスペクトログラムの位相を複製することで、複数の方向ごとに第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する。なお、バイノーラルルームインパルス応答のスペクトログラムの位相を複製するとは、当該バイノーラルルームインパルス応答のスペクトログラムの位相を第2バイノーラル方向別ルームインパルス応答のスペクトログラムの位相としてそのまま用いることを意味している。このように、スペクトログラム算出手段40は、各方向の第2バイノーラル方向別ルームインパルス応答の全方向に対する割合(比率)によって、バイノーラル録音されたバイノーラルルームインパルス応答を分割し、反射の成分のみからなる第2バイノーラル方向別ルームインパルス応答を生成する。
【0044】
スペクトログラム算出手段40は、より具体的には、以下の式(1)により、第2バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅を算出する。
【0046】
ここで、式(1)において、F
Giは、第2バイノーラル方向別ルームインパルス応答のスペクトログラム、F
Bはバイノーラルルームインパルス応答のスペクトログラム、F
Diは各方向の第1方向別ルームインパルス応答のスペクトログラム、kは時間のインデックス、fは周波数ビンのインデックス、Nは第1方向別ルームインパルス応答の測定方向数、iは第1方向別ルームインパルス応答の測定方向数のインデックスを示している。また、式(1)の分母は、全方向の第1方向別ルームインパルス応答のスペクトログラムの振幅の総和を示している。
【0047】
また、スペクトログラム算出手段40は、より具体的には、以下の式(2)により、第2バイノーラル方向別ルームインパルス応答のスペクトログラムの位相を複製する。
【0049】
ここで、式(2)において、∠F
Giは、第2バイノーラル方向別ルームインパルス応答のスペクトログラムの位相、∠F
Bはバイノーラルルームインパルス応答のスペクトログラムの位相、kは時間のインデックス、fは周波数ビンのインデックス、Nは第1方向別ルームインパルス応答の測定方向数、iは第1方向別ルームインパルス応答の測定方向数のインデックスを示している。
【0050】
スペクトログラム算出手段40は、例えば前記したように、第1バイノーラル方向別ルームインパルス応答のスペクトログラムが16方向分入力された場合は、前記した式(1)に示すように、それぞれの振幅の割合をバイノーラルルームインパルス応答のスペクトログラムの振幅に乗じるとともに、バイノーラルルームインパルス応答のスペクトログラムの位相を複製することで、16方向分の第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出し、これらをスペクトログラム変換手段50に出力する。
【0051】
スペクトログラム変換手段50は、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを第2バイノーラル方向別ルームインパルス応答に変換するものである。スペクトログラム変換手段50は、具体的には、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを逆短時間フーリエ変換することで、第2バイノーラル方向別ルームインパルス応答を算出する。
【0052】
スペクトログラム変換手段50は、例えば前記したように、第2バイノーラル方向別ルームインパルス応答のスペクトログラムが16方向分入力された場合は、それぞれ逆短時間フーリエ変換を行うことで16方向分の第2バイノーラル方向別ルームインパルス応答を算出し、これらをインパルス応答逆畳み込み手段60に出力する。
【0053】
インパルス応答逆畳み込み手段60は、第2方向別ルームインパルス応答を算出するものである。この第2方向別ルームインパルス応答は、前記したように、残響応答のことを示している。インパルス応答逆畳み込み手段60は、具体的には、第2バイノーラル方向別ルームインパルス応答と頭部インパルス応答とを、一致する方向ごとに逆畳み込みする(デコンボリューションする)ことで、複数の方向ごとに第2方向別ルームインパルス応答を算出する。
【0054】
インパルス応答逆畳み込み手段60は、例えば前記したように、第2バイノーラル方向別ルームインパルス応答と頭部インパルス応答とがそれぞれ16方向分入力された場合は、それぞれ一致する方向について逆畳み込みを行うことで、16方向分の第2方向別ルームインパルス応答を算出する。
【0055】
以上のような構成を備える残響応答生成装置1は、スペクトログラム算出手段40によって、全方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の総和に対する、各方向の第1バイノーラル方向別ルームインパルス応答の振幅応答の割合をバイノーラルルームインパルス応答の振幅応答に乗じ、かつ、バイノーラルルームインパルス応答の位相応答を複製するとともに、インパルス応答逆畳み込み手段60によって、頭部インパルス応答と逆畳み込みを行うことで、バイノーラル録音されたバイノーラルルームインパルス応答から頭部インパルス応答を分離し、残響応答(第2方向別インパルス応答)を生成することができる。
【0056】
従って、残響応答生成装置1によれば、生成された第2方向別ルームインパルス応答と受聴者の頭部インパルス応答とを音響信号に畳み込むことで、受聴者が実際の音響空間に赴くことなく、当該受聴者が同じ音響空間で受聴したものに近い残響を生成することができる。また、残響応答生成装置1によれば、受聴者が入れ替わった場合であっても、生成された第2方向別ルームインパルス応答と当該変更後の受聴者の頭部インパルス応答とを音響信号に畳み込むことで、当該変更後の受聴者が同じ音響空間で受聴したものに近い残響を生成することができる。
【0057】
[残響応答生成装置1の処理手順]
以下、残響応答生成装置1の処理手順について、
図5〜
図7を参照(適宜
図1も参照)しながら説明する。なお、以下の説明では、
図5〜
図7に示すように、各インパルス応答(頭部インパルス応答、第1方向別ルームインパルス応答およびバイノーラルルームインパルス応答)の測定処理も含めて説明する。また、以下の説明では、
図5〜
図7に示すように、各インパルス応答の処理を別々の図面で示しているが、図面の順序と各インパルス応答の処理の順序とは関係していない。従って、例えば各インパルス応答の測定(
図5のステップS10、
図6のステップS20、
図7のステップS30)のタイミングは同じであっても別であっても構わない。
【0058】
まず、残響応答生成装置1は、
図5に示すように、例えば図示しない測定手段などによってダミーヘッドなどの頭部インパルスが測定されると、これをインパルス応答畳み込み手段10に入力する(ステップS10)。
【0059】
次に、残響応答生成装置1は、
図6に示すように、例えば図示しない測定手段などによって第1方向別ルームインパルス応答が測定されると、これをインパルス応答畳み込み手段10に入力する(ステップS20)。次に、残響応答生成装置1は、
図6に示すように、インパルス応答畳み込み手段10によって、第1方向別ルームインパルス応答と頭部インパルス応答との畳み込みを行い、第1バイノーラル方向別ルームインパルス応答を算出する(ステップS21)。次に、残響応答生成装置1は、
図6に示すように、第1インパルス応答変換手段20によって、第1バイノーラル方向別ルームインパルス応答を短時間フーリエ変換することで、スペクトログラムを算出する(ステップS22)。
【0060】
次に、残響応答生成装置1は、
図7に示すように、例えば図示しない測定手段などによってバイノーラルルームインパルス応答が測定されると、これを第2インパルス応答変換手段30に入力する(ステップS30)。次に、残響応答生成装置1は、
図7に示すように、第2インパルス応答変換手段30によって、当該バイノーラルルームインパルス応答を短時間フーリエ変換することで、スペクトログラムを算出する(ステップS31)。
【0061】
次に、残響応答生成装置1は、
図7に示すように、スペクトログラム算出手段40によって、各方向の第1バイノーラル方向別ルームインパルス応答の振幅応答(スペクトログラムの振幅)の全体に対する割合をバイノーラルルームインパルス応答のスペクトログラムの振幅に乗じることで、第2バイノーラル方向別ルームインパルス応答のスペクトログラムの振幅を算出する(ステップS32)。次に、残響応答生成装置1は、
図7に示すように、スペクトログラム算出手段40によって、バイノーラルルームインパルス応答の位相応答(スペクトログラムの位相)を複製し、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する(ステップS33)。
【0062】
次に、残響応答生成装置1は、
図7に示すように、スペクトログラム変換手段50によって、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを短時間フーリエ変換することで、第2バイノーラル方向別ルームインパルス応答を算出する(ステップS34)。次に、残響応答生成装置1は、
図7に示すように、インパルス応答逆畳み込み手段60によって、第2バイノーラル方向別ルームインパルス応答と頭部インパルス応答との逆畳み込みを行うことで、第2方向別ルームインパルス応答を算出し(ステップS35)、処理を終了する。
【0063】
残響応答生成装置1は、以上のような手順により、バイノーラル録音されたバイノーラルルームインパルス応答から頭部インパルス応答を分離し、残響応答(第2方向別インパルス応答)を生成する。
【0064】
[受聴者への残響の提示手順]
以下、残響応答生成装置1によって生成された第2方向別ルームインパルス応答を用いて残響を生成し、受聴者に提示する(聴取させる)手順について、
図8を参照しながら説明する。なお、以下の説明では、
図8に示すように、残響応答生成装置1によって、予めN方向分(N個)の第2方向別ルームインパルス応答が生成されており、かつ、図示しない測定手段などによって、予め受聴者LのN方向分(N個)の両耳の頭部インパルス応答が測定されているものとする。また、第2方向別ルームインパルス応答と頭部インパルス応答とは、受音点あるいは受聴者Lを基準として、それぞれ一致する方向について生成および測定されているものとする。
【0065】
まず、最初に、
図8に示すように、音響信号に対して、残響応答生成装置1によって生成されたN方向分の第2方向別ルームインパルス応答をそれぞれ畳み込む(ステップS100)。これにより、音響信号にそれぞれ異なるN個の第2方向別ルームインパルス応答が畳み込まれ、N個の信号が生成される。
【0066】
次に、
図8に示すように、ステップS100において生成されたN個の信号に、一致する方向の頭部インパルス応答を左右耳分それぞれ畳み込む(ステップS101)。これにより、N個の信号に、それぞれ異なるN個の左耳の頭部インパルス応答と、それぞれ異なるN個の右耳の頭部インパルス応答とが畳み込まれ、2N個の信号が生成される。
【0067】
次に、
図8に示すように、ステップS101において生成された2N個の信号を、左耳ごとおよび右耳ごとに加算し、ヘッドホンなどを介して受聴者Lの左耳および右耳にそれぞれ提示する(ステップS102)。
【0068】
以上のような手順により、音響空間の残響が生成され、受聴者Lに対して、当該受聴者Lがあたかも音響空間にいるかのような響きを再現する残響が提示される。なお、
図8における受聴者Lが別の受聴者に入れ替わった場合であっても、ステップS101で用いられる頭部インパルス応答を当該別の受聴者の頭部インパルス応答と変更することで、別の受聴者に対して、あたかも音響空間にいるかのような響きを再現する残響が提示される。
【0069】
[第2実施形態]
以下、本発明の第2実施形態に係る残響応答生成装置1Aの構成について、
図9を参照しながら説明する。ここで、残響応答生成装置1Aは、
図9に示すように、インパルス応答逆畳み込み手段60の代わりにインパルス応答逆畳み込み手段60Aを備え、頭部インパルス応答分割手段70および遅延量削除手段80を備えている以外は、前記した第1実施形態に係る残響応答生成装置1と同様の構成を備えている。従って、前記した残響応答生成装置1と重複する構成については、同じ符号を付して説明を省略し、動作についても説明を省略する。なお、
図9において、
図1に示す残響応答生成装置1から変更あるいは新たに付加された手段は、太枠のブロックで示している。
【0070】
インパルス応答逆畳み込み手段60Aは、前記したインパルス応答逆畳み込み手段60と同様に、第2方向別ルームインパルス応答を算出するものである。インパルス応答逆畳み込み手段60Aは、具体的には、第2バイノーラル方向別ルームインパルス応答と、頭部インパルス応答の最小位相成分とを、一致する方向ごとに逆畳み込みすることで、第2方向別ルームインパルス応答を算出する。なお、最小位相成分については後記する。
【0071】
頭部インパルス応答分割手段70は、頭部インパルス応答の成分ごとに分割するものである。頭部インパルス応答分割手段70は、具体的には、頭部インパルス応答を最小位相成分と全域通過成分とに分割する。ここで、頭部インパルス応答は、前記したように、自由音場における音源位置から耳の位置(両耳鼓膜位置または両耳外耳道入口)までの音響伝達特性であるため、時間遅れ成分が含まれている。第2バイノーラル方向別ルームインパルス応答とそのまま逆畳み込みを行うと、通常は、第2バイノーラル方向別ルームインパルス応答の時間遅れ成分と相殺されるが、マイクロホンの配置のずれ、測定誤差などの要因により、因果律を満たさない場合がある。そこで、頭部インパルス応答分割手段70によって、頭部インパルス応答を、時間遅れ成分を含まない最小位相成分と時間遅れ成分を含む全域通過成分とに分割することで、前記したように、インパルス応答逆畳み込み手段60Aにおいて、時間遅れ成分を含まない最小位相成分と、第2バイノーラル方向別ルームインパルス応答との逆畳み込みを行うことができる。
【0072】
頭部インパルス応答分割手段70は、例えば前記したように、頭部インパルス応答が16方向分入力された場合は、それぞれを最小位相成分と全域通過成分に分割することで、16方向分の最小位相成分と16方向分の全域通過成分とを生成する。そして、頭部インパルス応答分割手段70は、
図9に示すように、16方向分の最小位相成分をインパルス応答逆畳み込み手段60Aに出力し、16方向分の全域通過成分を遅延量削除手段80に出力する。
【0073】
遅延量削除手段80は、第2方向別ルームインパルス応答から遅延量を削除するものである。遅延量削除手段80は、具体的には、頭部インパルス応答の全域通過成分の近似量として得られる遅延量が、第2方向別ルームインパルス応答の時間遅れ成分(遅延量)より小さい場合は、第2方向別ルームインパルス応答から、前記した遅延量(全域通過成分の近似量)を削除する。一方、遅延量削除手段80は、頭部インパルス応答の全域通過成分の近似量として得られる遅延量が、第2方向別ルームインパルス応答の時間遅れ成分(遅延量)より大きい場合は、第2方向別ルームインパルス応答から、当該第2方向別ルームインパルス応答の遅延量を削除する。すなわち、遅延量削除手段80は、第2方向別ルームインパルス応答の先頭部分から、前記した遅延量に相当するサンプル分を削除する。なお、このように第2方向別ルームインパルス応答から遅延量を削除するのは、頭部インパルス応答の最小位相成分との逆畳み込みだけでは、前記した遅延量分だけ応答が遅れてしまうためである。
【0074】
以上のような構成を備える残響応答生成装置1Aは、頭部インパルス応答分割手段70によって、頭部インパルス応答を、時間遅れ分を含まない最小位相成分と時間遅れ分を含む全域通過成分とに分割するため、インパルス応答逆畳み込み手段60Aによって、時間遅れ分を含まない頭部インパルス応答の最小位相成分を用いて、第2バイノーラル方向別ルームインパルス応答との逆畳み込みを行うことができる。
【0075】
従って、残響応答生成装置1Aによれば、マイクロホンの配置のずれ、測定誤差などの要因により頭部インパルス応答をそのまま逆畳み込みを行うと因果律を満たさなくなる場合であっても、因果律を満たしながら第2バイノーラル方向別ルームインパルスとの逆畳み込みを行うことができ、音響空間における反射などの音響伝達特性を示す第2方向別ルームインパルス応答を生成することができる。
【0076】
[残響応答生成装置1Aの処理手順]
以下、残響応答生成装置1Aの処理手順について、
図10および
図11を参照しながら説明する。なお、以下の説明では、
図10および
図11に示すように、各インパルス応答(頭部インパルス応答およびバイノーラルルームインパルス応答)の測定処理も含めて説明する。また、第1バイノーラル方向別ルームインパルス応答のスペクトログラムの算出処理は、前記した残響応答生成装置1と同様であるため(
図6参照)、ここでは説明を省略する。
【0077】
まず、残響応答生成装置1Aは、
図10に示すように、例えば図示しない測定手段などによってダミーヘッドなどの頭部インパルス応答が測定されると、これを頭部インパルス応答分割手段70に入力する(ステップS40)。次に、残響応答生成装置1Aは、
図10に示すように、頭部インパルス応答分割手段70によって、頭部インパルス応答を最小位相成分と全域通過成分とに分割する(ステップS41)。
【0078】
次に、残響応答生成装置1Aは、
図11に示すように、例えば図示しない測定手段などによってバイノーラルルームインパルス応答が測定されると、これを第2インパルス応答変換手段30に入力する(ステップS50)。次に、残響応答生成装置1Aは、
図11に示すように、第2インパルス応答変換手段30によって、当該バイノーラルルームインパルス応答を短時間フーリエ変換することで、スペクトログラムを算出する(ステップS51)。
【0079】
次に、残響応答生成装置1Aは、
図11に示すように、スペクトログラム算出手段40によって、各方向の第1バイノーラル方向別ルームインパルス応答の振幅応答(スペクトログラムの振幅)の全体に対する割合をバイノーラルルームインパルス応答の振幅応答に乗じることで、第2バイノーラル方向別ルームインパルス応答の振幅応答を算出する(ステップS52)。次に、残響応答生成装置1Aは、
図11に示すように、スペクトログラム算出手段40によって、バイノーラルルームインパルス応答の位相応答(スペクトログラムの位相)を複製し、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを算出する(ステップS53)。
【0080】
次に、残響応答生成装置1Aは、
図11に示すように、スペクトログラム変換手段50によって、第2バイノーラル方向別ルームインパルス応答のスペクトログラムを短時間フーリエ変換することで、第2バイノーラル方向別ルームインパルス応答を算出する(ステップS54)。次に、残響応答生成装置1Aは、
図11に示すように、インパルス応答逆畳み込み手段60Aによって、第2バイノーラル方向別ルームインパルス応答と頭部インパルス応答の最小位相成分との逆畳み込みを行うことで、第2方向別ルームインパルス応答を算出する(ステップS55)。そして、残響応答生成装置1Aは、
図11に示すように、遅延量削除手段80によって、第2方向別ルームインパルス応答から、全域通過成分の近似量として得られる遅延量を削除し(ステップS56)、処理を終了する。
【0081】
残響応答生成装置1Aは、以上のような手順により、頭部インパルス応答に時間遅れ成分が含まれる場合であっても、バイノーラル録音されたバイノーラルルームインパルス応答から頭部インパルス応答を分離し、残響応答(第2方向別インパルス応答)を生成することができる。
【0082】
[残響応答生成プログラム]
前記した残響応答生成装置1,1Aは、一般的なコンピュータを、前記した各手段および各部として機能させるプログラムにより動作させることで実現することができる。このプログラムは、通信回線を介して配布することも可能であるし、CD−ROMなどの記録媒体に書き込んで配布することも可能である。
【0083】
[残響生成装置]
以下、前記した第2方向別ルームインパルス応答を用いて残響を生成する残響生成装置について説明する。残響生成装置は、前記した残響応答生成装置1,1Aの各構成に加えて、第2方向別ルームインパルス応答畳み込み手段と、頭部インパルス応答畳み込み手段と、信号加算手段と、を備えている。
【0084】
第2方向別ルームインパルス応答畳み込み手段は、残響応答生成装置1,1Aによって生成された各方向の第2方向別ルームインパルス応答と音響信号とを畳み込むものである。これにより、前記した
図8に示すように、音響信号にそれぞれ異なるN個の第2方向別ルームインパルス応答が畳み込まれ、N個の信号が生成される。そして、第2方向別ルームインパルス応答畳み込み手段は、生成されたN個の信号を頭部インパルス応答畳み込み手段に出力する。
【0085】
頭部インパルス応答畳み込み手段は、第2方向別ルームインパルス応答畳み込み手段によって生成された信号と、受聴者の左右の頭部インパルス応答とを畳み込むものである。これにより、前記した
図8に示すように、N個の信号に、それぞれ異なるN個の左耳の頭部インパルス応答と、それぞれ異なるN個の右耳の頭部インパルス応答とが畳み込まれ、2N個の信号が生成される。
【0086】
信号加算手段は、頭部インパルス応答畳み込み手段によって生成された2N個の信号を左耳ごとおよび右耳ごとに加算するものである。これにより、前記した
図8に示すように、左耳用の信号と右耳用の信号とが生成される。そして、このように生成された信号を、前記した
図8に示すように、ヘッドホンなどを介して受聴者Lの左耳および右耳にそれぞれ提示することで残響が生成される。
【0087】
以上、本発明に係る残響応答生成装置およびそのプログラムについて、発明を実施するための形態により具体的に説明したが、本発明の趣旨はこれらの記載に限定されるものではなく、特許請求の範囲の記載に基づいて広く解釈されなければならない。また、これらの記載に基づいて種々変更、改変などしたものも本発明の趣旨に含まれることはいうまでもない。
【0088】
ここで、本発明に係る残響応答生成装置の具体的な用途としては、例えば番組制作のエンジニアがヘッドホンを装着しながら収録番組の編集作業などを行う際に、当該エンジニアに対して、実際に番組を収録したスタジオなどの音響空間の残響を提示するような場合が想定される。この場合、予め複数のエンジニアごとの頭部インパルス応答を音響無響室で測定しておく。そして、編集作業を行うエンジニアごとに頭部インパルス応答を切り替えながら、本発明に係る残響応答生成装置によって生成された残響応答(第2方向別ルームインパルス応答)との畳み込みにより残響を生成する。これにより、収録番組の編集作業などを行うエンジニアに対して、実際にスタジオにいるかのような響きを再現する残響を提示することができる。