(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-04-14
(45)【発行日】2025-04-22
(54)【発明の名称】音場支援方法および音場支援装置
(51)【国際特許分類】
H04S 7/00 20060101AFI20250415BHJP
【FI】
H04S7/00 300
H04S7/00 320
(21)【出願番号】P 2021045543
(22)【出願日】2021-03-19
【審査請求日】2024-01-25
(73)【特許権者】
【識別番号】000004075
【氏名又は名称】ヤマハ株式会社
(74)【代理人】
【識別番号】110000970
【氏名又は名称】弁理士法人 楓国際特許事務所
(72)【発明者】
【氏名】渡辺 隆行
(72)【発明者】
【氏名】橋本 悌
(72)【発明者】
【氏名】四童子 広臣
【審査官】川▲崎▼ 博章
(56)【参考文献】
【文献】特開2008-193382(JP,A)
【文献】国際公開第2019/156892(WO,A1)
【文献】特開2006-222801(JP,A)
【文献】特開2007-228526(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04S 7/00
(57)【特許請求の範囲】
【請求項1】
仮想空間上で設定される音源の位置情報
を選択し、
対象空間に設定されるスピーカからの出力音で前記音源の音を模擬するときの前記音源の定位情
報を選択し、
前記選択された前記位置情報および前記定位情報に基づく音を用いて、前記スピーカによる前記音源の音像定位を調整する、
音場支援方法。
【請求項2】
前記選択された
前記位置情報および前記定位情報に基づく音を比較し、比較結果に基づいて前記音像定位を調整する、
請求項1に記載の音場支援方法。
【請求項3】
前記選択された
前記位置情報および前記定位情報に基づく音に、初期反射音または残響音を
それぞれ付加する、
請求項1または請求項2に記載の音場支援方法。
【請求項4】
前記対象空間に視聴位置を設定し、
前記位置情報または前記定位情報と前記視聴位置とに基づいてバイノーラル処理を設定し、
前記バイノーラル処理された音を出力する、
請求項1乃至請求項3のいずれかに記載の音場支援方法。
【請求項5】
前記視聴位置での視聴者の顔の向きを設定し、
前記位置情報または前記定位情報、前記視聴位置、および、前記顔の向きに基づいて、前記バイノーラル処理を設定する、
請求項4に記載の音場支援方法。
【請求項6】
仮想空間上で設定される音源の位置情報
を選択し、
対象空間に設定されるスピーカからの出力音で前記音源の音を模擬するときの前記音源の定位情
報を選択する
、
選択部と、
前記選択された前記位置情報および前記定位情報に基づく音を用いて、前記スピーカによる前記音源の音像定位を調整する調整部と、
を備える、音場支援装置。
【請求項7】
前記調整部は、
前記選択された
前記位置情報および前記定位情報に基づく音を比較し、比較結果に基づいて前記音像定位を調整する、
請求項6に記載の音場支援装置。
【請求項8】
前記選択された
前記位置情報および前記定位情報に基づく音に初期反射音または残響音を
それぞれ付加するリバーブ処理部を備える、
請求項6または請求項7に記載の音場支援装置。
【請求項9】
前記対象空間に視聴位置を設定する視聴点設定部と、
前記位置情報または前記定位情報と前記視聴位置とに基づいて、前記音にバイノーラル処理を施して、前記バイノーラル処理された音を出力するバイノーラル処理部と、
を備える、
請求項6乃至請求項8のいずれかに記載の音場支援装置。
【請求項10】
前記視聴位置での視聴者の顔の向きを検出する姿勢検出部を備え、
前記バイノーラル処理部は、
前記位置情報または前記定位情報、前記視聴位置、および、前記顔の向きに基づいて、前記バイノーラル処理を設定する、
請求項9に記載の音場支援装置。
【発明の詳細な説明】
【技術分野】
【0001】
この発明の一実施形態は、仮想空間に設定した音源による音場と、スピーカが配置される対象空間で模擬するための処理を行う音場支援方法および音場支援装置に関する。
【背景技術】
【0002】
仮想空間に設定した音源の音を実空間で模擬する技術が各種考案されている。
【0003】
例えば、特許文献1に示すようなシミュレーションシステムは、視聴者の位置の変化に伴って、仮想空間上での視聴者との相対的位置関係を保って追従するように複数の仮想スピーカの位置を設定する。さらに、特許文献1に示すシミュレーションシステムは、複数の仮想スピーカの音量バランスを設定する。
【0004】
特許文献1に示すシミュレーションシステムは、これらの設定に基づいて、複数の仮想スピーカを用いた音処理を実行する。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、仮想音源(特許文献1の仮想スピーカ)を用いて設定された音を対象空間で放音する場合、この音は、対象空間に配置され、仮想音源が割り当てられたスピーカによって放音される。すなわち、対象空間で放音される音は、仮想音源の音をスピーカの音で模擬したものである。
【0007】
そして、従来、仮想音源からの音と、対象空間でスピーカによって模擬的に再生される音(模擬再生音)とは、比較できなかった。そのため、視聴者は、模擬再生音によって仮想音源からの音をどの程度模擬できているかを確認できず、調整を容易に行えなかった。
【0008】
そこで、この発明の一実施形態は、仮想音源の音と模擬再生音とを比較可能にすることを目的とする。
【課題を解決するための手段】
【0009】
音場支援方法は、仮想空間上で設定される音源の位置情報と、対象空間に設定されるスピーカからの出力音で音源の音を模擬するときの音源の定位情報と、のいずれか一方を選択し、選択された位置情報および定位情報に基づく音を用いて、スピーカによる音源の音像定位を調整する。
【発明の効果】
【0010】
音場支援方法は、仮想音源の音と模擬再生音とを視聴者が比較できる。
【図面の簡単な説明】
【0011】
【
図1】本発明の第1の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
【
図2】本発明の第1の実施形態に係る音場支援方法における音源、視聴点、複数スピーカの位置関係の一例を示す図であり、音源の位置座標、視聴点の位置座標、複数のスピーカの位置座標を示す図である。
【
図3】音源から放音するイメージを示す図であり、音源をスピーカにレンダリングして放音するイメージを示す図である。
【
図4】本発明の第1の実施形態に係る音場支援方法の第1方法を示すフローチャートである。
【
図5】本発明の第1の実施形態に係る音場支援方法の第2方法を示すフローチャートである。
【
図6】パラメータ調整用のGUIの一例を示す図である。
【
図7】本発明の第2の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
【
図8】本発明の第2の実施形態に係る音場支援方法における音源、視聴点、複数スピーカ、仮想空間の位置関係の一例を示す図である。
【
図9】音の広がりおよび定位感の調整用のGUIの一例を示す図である。
【
図10】本発明の第2の実施形態に係る音場支援方法を示すフローチャートである。
【
図11】本発明の第3の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
【
図12】本発明の第3の実施形態に係る音場支援方法を示すフローチャートである。
【発明を実施するための形態】
【0012】
本発明の実施形態に係る音場支援方法および音場支援装置について、図を参照して説明する。
【0013】
本実施形態において、対象空間は、視聴者がスピーカ等を用いて、仮想空間に設定した音源の音を実際に聞く空間である。なお、より詳細には、本実施形態の音場支援方法においては、対象空間は、スピーカが実際に配置される空間を意味するのではなく、スピーカを配置して、視聴者がこのスピーカからの音を聞く予定の空間を意味する。仮想空間は、対象空間で模擬したい音源が設定される空間である。
【0014】
[第1の実施形態]
図1は、本発明の第1の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
図2(A)は、本発明の第1の実施形態に係る音場支援方法における音源、視聴点、複数スピーカの位置関係の一例を示す図であり、
図2(B)は、
図2(A)の場合における音源の位置座標、視聴点の位置座標、複数のスピーカの位置座標を示す図である。
図3(A)は、音源から放音するイメージを示す図であり、
図3(B)は、音源をスピーカにレンダリングして放音するイメージを示す図である。
【0015】
図2(A)に示すように、対象空間90には、視聴者が視聴する視聴点900、複数のスピーカSP1-SP5が配置される。この対象空間90には、仮想空間が設定されている。仮想空間には、音源OBJが設定される。
【0016】
なお、本実施形態の説明では、音源は1個であるが、音源は複数個であってもよい。音源が複数個の場合、以下に示す音場支援方法は、複数の音源毎に適用してもよい。または、以下に示す音場支援方法は、複数の音源をまとめて適用してもよい。なお、本実施形態では、音源1個の場合を説明する。また、本実施形態の説明では、スピーカの台数は5台であるが、スピーカの台数はこれに限るものではない。
【0017】
対象空間90の座標系と仮想空間の座標系とは、例えば、直交三軸の方向、中心点が一致するように設定されている。この場合、対象空間90での座標系による位置座標と、仮想空間の座標系による位置座標とは一致する。なお、対象空間90の座標系と仮想空間の座標系とが一致しなくても、この場合は、対象空間90と仮想空間との間の座標変換行列が設定されていればよい。
【0018】
図1に示すように、音場支援システムは、音場支援装置10、および、ヘッドフォン80を備える。音場支援装置10は、視聴点設定部21、音源位置設定部22、スピーカ位置設定部23、調整操作部29、模擬再生音信号生成部30、選択部40、および、バイノーラル処理部50を備える。音場支援装置10は、上述の各機能部を実行するプログラムと、このプログラムを記憶する記憶媒体と、このプログラムを実行するCPU等の演算処理装置とによって実現される。
【0019】
視聴点設定部21は、対象空間90における視聴点900の位置座標Prを設定する。視聴点設定部21は、視聴点900の位置座標Prを、模擬再生音信号生成部30およびバイノーラル処理部50に出力する。
【0020】
音源位置設定部22は、仮想空間における音源OBJの位置座標Pobj(より具体的には、仮想空間における音源を対象空間90に射影した位置座標)を設定する。音源位置設定部22は、音源OBJの位置座標Pobjを、模擬再生音信号生成部30およびバイノーラル処理部50に出力する。
【0021】
スピーカ位置設定部23は、対象空間90における複数のスピーカSP1-SP5の位置座標Psp1-Psp5を設定する。スピーカ位置設定部23は、複数のスピーカSP1-P5の位置座標Psp1-Psp5を、模擬再生音信号生成部30およびバイノーラル処理部50に出力する。
【0022】
調整操作部29は、調整用のパラメータの操作入力を受け付ける。調整操作部29は、調整用のパラメータを模擬再生音信号生成部30に出力する。
【0023】
模擬再生音信号生成部30は、オブジェクト再生音信号から、対象空間90のスピーカSP1-SP5に出力するための模擬再生音信号を生成する。
【0024】
ここで、オブジェクト再生音信号とは、音源OBJから出力される音信号である。模擬再生音信号とは、音源OBJをレンダリングしたスピーカによって音源OBJの音像定位を行うための音信号である。
【0025】
より具体的には、模擬再生音信号生成部30は、視聴点900の位置座標Prを基準点として、音源OBJの位置座標Pobjと複数のスピーカSP1-SP5の位置座標Psp1-Psp5との位置関係を算出する。模擬再生音信号生成部30は、この位置関係を用いて、音源OBJの音像定位情報を設定する。音像定位情報とは、複数のスピーカSP1-SP5が出力する音によって視聴点900において音源OBJで放音しているように設定する情報であり、複数のスピーカSP1-SP5からの出力音の音量、出力タイミングを決定する情報である。
【0026】
模擬再生音信号生成部30は、音源OBJの音像定位情報を用いて、音源OBJをレンダリングする複数のスピーカを設定する(
図3(B)参照)。模擬再生音信号生成部30は、音源OBJがレンダリングされた複数のスピーカで再生する模擬再生音信号を生成する。模擬再生音信号生成部30は、模擬再生音信号を選択部40に出力する。
【0027】
選択部40は、視聴者等からの操作入力を受け、オブジェクト再生音信号と、模擬再生音信号とを選択する。より具体的に、仮想空間上に設定された音源OBJから直接出力された音を聞く設定(
図3(A)の状態)が選択されると、選択部40は、オブジェクト再生音信号を選択して出力する。一方、レンダリングされた複数のスピーカからの音を聞く設定(
図3(B)の状態)が選択されると、選択部40は、模擬再生音信号を選択して出力する。言い換えれば、音源OBJの位置情報が選択されれば、オブジェクト再生音信号を選択して出力し、スピーカを用いた音源OBJの定位情報が選択されれば、模擬再生音信号を選択して出力する。
【0028】
選択部40は、選択した音信号をバイノーラル処理部50に出力する。
【0029】
バイノーラル処理部50は、選択部40で選択された音信号にバイノーラル処理を施す。なお、バイノーラル処理は頭部伝達関数を用いるものであり、詳細な内容は既知であり、バイノーラル処理の詳細な説明は、省略する。
【0030】
より具体的には、選択部40がオブジェクト再生音信号を選択した場合、バイノーラル処理部50は、音源OBJの位置座標Pobjと視聴点900の位置座標Prとを用いて、音源OBJの音信号にバイノーラル処理を施す。選択部40が模擬再生音信号を選択した場合、バイノーラル処理部50は、音源OBJがレンダリングされたスピーカSPの位置座標Pspと視聴点900の位置座標Prとを用いて、模擬再生音信号にバイノーラル処理を施す。
【0031】
例えば、
図2(A)、
図2(B)、
図3(A)、
図3(B)の場合であれば、選択部40がオブジェクト再生音信号を選択した場合、バイノーラル処理部50は、音源OBJの位置座標Pobjと視聴点900の位置座標Prとを用いて、オブジェクト再生音信号にバイノーラル処理を施す。選択部40が模擬再生音信号を選択した場合、バイノーラル処理部50は、音源OBJがレンダリングされたスピーカSP1、SP5の位置座標Psp1、Psp5と視聴点900の位置座標Prとを用いて、模擬再生音信号にバイノーラル処理を施す。
【0032】
バイノーラル処理部50は、バイノーラル処理を施した音信号(バイノーラル信号)を、ヘッドフォン80に出力する。
【0033】
ヘッドフォン80は、バイノーラル信号による音信号を再生して放音する。なお、本実施形態では、ヘッドフォン80を用いて放音する態様を示したが、2チャンネルのステレオスピーカを用いて放音することもできる。
【0034】
このような構成によって、オブジェクト再生音信号が選択された場合、視聴者は、ヘッドフォン80を通じて、音源OBJの位置に音源が定位した音(オブジェクト再生音)を聞くことができる。一方、模擬再生音信号が選択された場合、視聴者は、ヘッドフォンを通じて、音源OBJにレンダリングしたスピーカによって音源OBJの位置に音源を模擬的に定位させた音(模擬再生音)を聞くことができる。
【0035】
これにより、視聴者は、実際に実空間にスピーカを配置しなくても、オブジェクト再生音と模擬再生音とを比較して聞くことができる。したがって、視聴者は、オブジェクト再生音と模擬再生音との相違を直接体感でき、模擬再生音がオブジェクト再生音を精度良く再現(模擬)できているか、オブジェクト再生音と模擬再生音との間で違和感がないかを判断できる。
【0036】
また、視聴者は、このような体感結果を参照することで、模擬再生音信号の調整用のパラメータを調整できる。そして、このようなパラメータの調整を繰り返すことによって、視聴者は、模擬再生音によってオブジェクト再生音を精度良く再現できる。
【0037】
なお、ここでは、音源OBJの音を精度良く再現するために、模擬再生音信号を調整する態様を示した。しかしながら、例えば、対象空間90のスピーカの位置の変更、パラメータの設定の変更が難しい場合で、音源OBJの位置設定を変更できる場合には、上述のバイノーラル処理された音を聞いて、視聴者が音源OBJの設定を変更し、所望の音場を実現することが可能である。
【0038】
(第1実施形態の音場支援方法1)
図4は、本発明の第1の実施形態に係る音場支援方法の第1方法を示すフローチャートである。
図4に示す音場支援方法は、バイノーラル処理が施された音信号を出力するまでを実行するものである。なお、
図4に示す各処理における詳細な説明は上述しているので、以下での詳細な説明は省略する。また、以下では、
図2(A)、
図2(B)、
図3(A)、
図3(B)に示す配置態様の場合を例に説明する。
【0039】
音源位置設定部22は、仮想空間における音源OBJの位置を設定する(S11)。スピーカ位置設定部23は、対象空間におけるスピーカSP1-SP5の位置を設定する(S12)。
【0040】
模擬再生音信号生成部30は、音源OBJの位置座標Pobj、スピーカSP1-SP5の位置座標Psp1-Psp5、視聴点900の位置座標Prを用いて、音源OBJをスピーカSP1、SP5にレンダリングする(S13)。模擬再生音信号生成部30は、レンダリング結果を用いて模擬再生音信号を生成する(S14)。
【0041】
選択部40は、視聴者等からの操作によって、オブジェクト再生音信号と模擬再生音信号とを選択する(S15)。例えば、音場支援装置10は、GUI(Graphical User Interface)等を備える。GUIは、再生対象の音信号を選択する操作子を備える。視聴者がオブジェクト再生音信号の出力を選択すれば、選択部40は、オブジェクト再生音信号を選択する(S150:YES)。視聴者が模擬再生音信号の出力を選択すれば、選択部40は、模擬再生音信号を選択する(S150:NO)。なお、オブジェクト再生音信号と模擬再生音信号との選択は、切り替え時間を設定し、この時間に応じて、自動で切り替えるようにすることも可能である。
【0042】
バイノーラル処理部50は、選択した音信号にバイノーラル処理を施し、バイノーラル信号を生成する。より具体的には、オブジェクト再生音信号が選択されていれば、バイノーラル処理部50は、オブジェクト再生音信号にバイノーラル処理を施し、オブジェクト再生音信号のバイノーラル信号を生成する(S161)。模擬再生音信号が選択されていれば、バイノーラル処理部50は、模擬再生音信号にバイノーラル処理を施し、模擬再生音信号のバイノーラル信号を生成する(S162)。
【0043】
ヘッドフォン80は、バイノーラル信号を再生する(S17)。より具体的には、ヘッドフォン80は、オブジェクト再生音信号のバイノーラル信号が入力されれば、このバイノーラル信号を再生する。ヘッドフォン80は、模擬再生音信号のバイノーラル信号が入力されれば、このバイノーラル信号を再生する。
【0044】
このような処理を行うことによって、音場支援方法は、オブジェクト再生音と模擬再生音とを選択的に、視聴者等に提供できる。
【0045】
(第1実施形態の音場支援方法2)
図5は、本発明の第1の実施形態に係る音場支援方法の第2方法を示すフローチャートである。
図5に示す音場支援方法は、
図4に示す音場支援方法に、パラメータ調整を加えたものである。なお、
図5に示す処理における
図4に示す処理と同じ処理の説明は省略する。また、以下では、
図2(A)、
図2(B)、
図3(A)、
図3(B)に示す配置態様の場合を例に説明する。
【0046】
図5に示す音場支援方法は、
図4に示す音場支援方法に対して、ステップS17までは同じ処理を実行する。
【0047】
視聴者は、ステップS15からステップS17の処理を実行して再生する音信号を切り替える。これにより、視聴者は、オブジェクト再生音信号のバイノーラル信号の音と、模擬再生音信号のバイノーラル信号の音とを聞き、これらの音を比較する。
【0048】
パラメータ調整が不要であれば(S23:NO)、すなわち、模擬再生音信号のバイノーラル信号による音がオブジェクト再生音信号のバイノーラル信号による音を精度良く再現できていれば、処理は終了する。パラメータ調整が必要であれば(S23:YES)、視聴者は、調整操作部29を用いてパラメータ調整を行う(S24)。模擬再生音信号生成部30は、この調整されたパラメータを用いて模擬再生音信号を生成する(S14)。
【0049】
なお、調整されるパラメータは、例えば、音源OBJとスピーカとのレンダリングの設定、模擬再生音信号の音量レベル、周波数特性等である。
図6は、パラメータ調整用のGUIの一例を示す図である。
図6に示すように、GUI100は、位置関係確認ウィンドウ111、波形確認ウィンドウ112、複数の操作子113を備える。複数の操作子113は、それぞれに、ノブ1131と調整値表示ウィンドウ1132とを備える。
【0050】
位置関係確認ウィンドウ111は、音源OBJ1-OBJ3と複数のスピーカSP1-SP5とを、それぞれに設定された位置座標で表示する。音源OBJに割り当てるスピーカSPの設定は、例えば、位置関係確認ウィンドウ111において、レンダリングする音源OBJとスピーカSPとを選択することによって実現できる。
【0051】
波形確認ウィンドウ112は、模擬再生音信号の波形を表示する。表示する模擬再生音信号の選択は、例えば、位置関係確認ウィンドウ111に表示された複数のスピーカSP1-SP5を選択することによって切り替えられる。
【0052】
複数の操作子113は、例えば、模擬再生音信号のQ、フィルタ処理の設定、ゲイン値の設定等を、複数の周波数帯域(Hi、Mid、Low)毎に受け付ける操作子である。ノブ1131は、視聴者からの操作を受け付け、調整値表示ウィンドウ1132は、ノブ1131によって設定された数値を表示する。複数の操作子113による操作入力によって、模擬再生音信号のパラメータは調整される。そして、この調整されたパラメータによる波形が、波形確認ウィンドウ112に表示される。
【0053】
視聴者は、このGUI100を見ながら操作することによって、パラメータを調整および設定できる。
【0054】
以降、視聴者は、オブジェクト再生音信号のバイノーラル信号による音と模擬再生音信号のバイノーラル信号による音とを聞き比べながらパラメータ調整を行う。これにより、視聴者は、模擬再生音信号のバイノーラル信号による音がオブジェクト再生音信号のバイノーラル信号による音を精度良く再現する、すなわち、スピーカによる模擬再生音が音源OBJのオブジェクト再生音を精度良く模擬できるように調整できる。なお、オブジェクト再生音と模擬再生音とを出力して比較する手段、および、調整操作部29によって、本発明の「調整部」は実現される。
【0055】
なお、本実施形態の音場支援装置10および音場支援方法は、バイノーラル再生によるオブジェクト再生音と模擬再生音の比較を行う態様を示した。しかしながら、本実施形態の音場支援装置10および音場支援方法は、例えば、オブジェクト再生音信号の波形や周波数スペクトル、HOA(高次アンビソニックス)と、模擬再生音信号の波形や周波数スペクトル、HOA(高次アンビソニックス)を比較して、パラメータ調整を行うことも可能である。
【0056】
[第2の実施形態]
本発明の第2の実施形態に係る音場支援装置および音場支援方法について、図を参照して説明する。
【0057】
図7は、本発明の第2の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
図8は、本発明の第2の実施形態に係る音場支援方法における音源、視聴点、複数スピーカ、仮想空間の位置関係の一例を示す図である。
【0058】
図7に示すように、第2の実施形態に係る音場支援装置10Aは、第1の実施形態に係る音場支援装置10に対して、リバーブ処理部60を追加した点で異なる。音場支援装置10Aの他の構成は、音場支援装置10と同様であり、同様の箇所の説明は省略する。
【0059】
音場支援装置10Aは、リバーブ処理部60を備える。リバーブ処理部60には、オブジェクト再生音信号および模擬再生音信号が入力される。
【0060】
リバーブ処理部60は、仮想空間99の情報を用いて初期反射音信号および残響音信号を生成する。初期反射音信号とは、音源OBJの音が仮想空間の壁で反射(一次反射)して視聴点に届く音を模擬する音信号である。初期反射音信号は、仮想空間の幾何学形状、仮想空間における音源OBJの位置、視聴点の位置において決定される。残響音信号は、仮想空間を多重反射して視聴点に届く音を模擬する音信号である。残響音信号は、仮想空間の幾何学形状、仮想空間における視聴点の位置において決定される。
【0061】
より具体的には、リバーブ処理部60は、音源OBJの位置情報と仮想空間99の情報と視聴点の位置情報とを用いて、オブジェクト再生音信号に対する初期反射音信号および残響音信号を生成する。リバーブ処理部60は、この生成した初期反射音信号および残響音信号をオブジェクト再生音信号に付加して、選択部40に出力する。
【0062】
また、リバーブ処理部60は、音源OBJの位置情報、スピーカSP1-スピーカSP5の位置情報、仮想空間99の情報、および、視聴点の位置情報を用いて、模擬再生音信号に対する初期反射音信号および残響音信号を生成する。具体的な一例として、リバーブ処理部60は、音源OBJおよび視聴点の位置情報と仮想空間99の情報とから、この音源OBJに対する初期反射音の発生位置を模擬的に表す仮想音源を設定する。リバーブ処理部60は、この仮想音源と、この仮想音源が割り当てられるスピーカSPとの位置関係から、初期反射音信号を生成する。リバーブ処理部60は、仮想空間の幾何学形状、仮想空間における視聴点の位置を用いて、残響音信号を生成する。リバーブ処理部60は、このように生成した初期反射音信号および残響音信号を模擬再生音信号に付加して、選択部40に出力する。
【0063】
このような構成によって、音場支援装置10Aは、オブジェクト再生音(音源OBJからの音)および模擬再生音(スピーカで模擬した音)に、それぞれのリバーブ成分(初期反射音および残響音)を付加して、出力できる。これにより、視聴者は、リバーブ成分も考慮して、模擬再生音によるオブジェクト再生音の再現の精度を判断できる。
【0064】
さらに、リバーブ処理部60は、模擬再生音信号の初期反射音信号および残響音信号に対して広がりおよび定位感を与えることもできる。この場合、視聴者は、例えば、
図9に示すようなGUIを用いて調整を行うことができる。
図9は、音の広がりおよび定位感の調整用のGUIの一例を示す図である。
図9に示すように、GUI100Aは、設定表示ウィンドウ111A、出力状態表示ウィンドウ115、複数の操作子116を備える。複数の操作子116は、ノブ1161、調整値表示ウィンドウ1162を備える。
【0065】
設定表示ウィンドウ111Aは、音源OBJに対して設定された仮想音源SS、複数のスピーカSP、仮想空間99、視聴点RPを、それぞれに設定された位置座標で表示する。
【0066】
複数の操作子116は、ウェイト値を設定するウェイトボリューム、シェイプ値を設定するシェイプボリューム等を設定する操作子である。ウェイトボリューム用の操作子116は、左右のウェイト、前後のウェイト、上下のウェイトを設定する操作子116をそれぞれに備え、それぞれに、ゲイン値の設定用の操作子と、遅延量の設定用の操作子とを備える。シェイプボリューム用の操作子116は、広がりを設定する操作子を備え、ゲイン値の設定用の操作子と、遅延量の設定用の操作子とを備える。視聴者は、複数の操作子116を操作することで、音の広がりおよび定位感の調整できる。
【0067】
出力状態表示ウィンドウ115は、複数の操作子116によって設定されたウェイト値およびシェイプ値によって実現される音の広がりおよび定位感を、グラフィカルに模式的に表示する。これにより、ユーザは、複数の操作子116によって設定した音の広がりおよび定位感を画像として容易に認識できる。なお、出力状態表示ウィンドウ115は、バイノーラル処理された音をヘッドフォン80で聞く場合に、頭部を表す画像と、この頭部の画像に合わせて音の広がりおよび定位感を表現する画像とを組み合わせて表示することもできる。
【0068】
これにより、視聴者は、音の広がりおよび定位感も考慮して、模擬再生音によるオブジェクト再生音の再現の精度を判断できる。
【0069】
なお、例えば、設定表示ウィンドウ111Aを操作することによって、視聴者は、仮想空間99の形状、再生空間に対する位置、音源OBJの位置、複数のスピーカSPの位置を調整することも可能である。この場合、音場支援装置は、調整された各種の内容に応じて、オブジェクト再生音信号および模擬再生音信号を生成し、同様のリバーブ処理を施す。これにより、視聴者は、この調整後についても、模擬再生音によるオブジェクト再生音の再現の精度を判断できる。
【0070】
(第2実施形態の音場支援方法)
図10は、本発明の第2の実施形態に係る音場支援方法を示すフローチャートである。
図10に示す音場支援方法は、
図4に示す音場支援方法に、リバーブ成分の付加処理を加えたものである。なお、
図10に示す各処理における
図4に示す処理と同じ処理の説明は省略する。
【0071】
図10に示す音場支援方法は、
図4に示す音場支援方法に対して、ステップS14までは同じ処理を実行する。
【0072】
リバーブ処理部60は、オブジェクト再生音信号および模擬再生音信号に対するリバーブ成分(初期反射音信号および残響音信号)を生成し、オブジェクト再生音信号および模擬再生音信号に付加する(S31)。
【0073】
音場支援装置10Aは、リバーブ成分が付加した音信号およびリバーブ成分が付加した模擬再生音信号を用いて、ステップS15以降の処理を実行する。
【0074】
これにより、第2の実施形態の音場支援方法は、オブジェクト再生音(音源OBJからの音)および模擬再生音(スピーカで模擬した音)に、それぞれのリバーブ成分(初期反射音および残響音)を付加して、出力できる。これにより、視聴者は、リバーブ成分も考慮して、模擬再生音によるオブジェクト再生音の再現の精度を判断できる。
【0075】
[第3の実施形態]
本発明の第3の実施形態に係る音場支援装置および音場支援方法について、図を参照して説明する。
図11は、本発明の第3の実施形態に係る音場支援装置を含む音場支援システムの構成を示す機能ブロック図である。
【0076】
図11に示すように、第3の実施形態に係る音場支援装置10Bは、第1の実施形態に係る音場支援装置10に対して、姿勢検出部70を追加した点で異なる。音場支援装置10Bの他の構成は、音場支援装置10と同様であり、同様の箇所の説明は省略する。
【0077】
姿勢検出部70は、視聴者の頭部に装着され、視聴者の頭部の姿勢を検出する。例えば、姿勢検出部70は、直交三軸の姿勢検出センサであり、ヘッドフォン80に装着されている。姿勢検出部70は、検出した視聴者の頭部の姿勢を、バイノーラル処理部50に出力する。
【0078】
バイノーラル処理部50は、視聴者の頭部の姿勢検出結果、すなわち、視聴者の顔の向きを用いて、オブジェクト再生音信号および模擬再生音信号にバイノーラル処理を施す。
【0079】
これにより、音場支援装置10Bは、視聴者の顔の向きに応じたオブジェクト再生音および模擬再生音を体感できる。したがって、視聴者は、対象空間内で顔の向きを変えながら、その顔の向きに応じたオブジェクト再生音と模擬再生音とを比較して聞くことができる。このため、視聴者は、対象空間内において複数の向きで、オブジェクト再生音と模擬再生音との相違を直接体感でき、模擬再生音がオブジェクト再生音を精度良く再現(模擬)できているか、オブジェクト再生音と模擬再生音との間で違和感がないかを、より精度良く判断できる。また、この結果、視聴者は、模擬再生音によってオブジェクト再生音をより精度良く再現できる。
【0080】
(第3実施形態の音場支援方法)
図12は、本発明の第3の実施形態に係る音場支援方法を示すフローチャートである。
図12に示す音場支援方法は、
図4に示す音場支援方法に、頭部の姿勢検出に関連する処理を加えたものである。なお、
図12に示す各処理における
図4に示す処理と同じ処理の説明は省略する。
【0081】
図12に示す音場支援方法は、
図4に示す音場支援方法に対して、ステップS14までは同じ処理を実行する。
【0082】
姿勢検出部70は、視聴者の頭部の姿勢を検出する(S41)。
【0083】
選択部40は、視聴者等からの操作によって、オブジェクト再生音信号と模擬再生音信号とを選択する(S15)。
【0084】
オブジェクト再生音信号が選択されれば(S150:YES)、バイノーラル処理部50は、検出した頭部の姿勢を用いて、オブジェクト再生音信号にバイノーラル処理を施す(S461)。模擬再生音信号が選択されれば(S150:NO)、バイノーラル処理部50は、検出した頭部の姿勢を用いて、模擬再生音信号にバイノーラル処理を施す(S462)。
【0085】
音場支援装置10Bは、バイノーラル処理が施された音信号を用いて、ステップS17の処理を実行する。
【0086】
これにより、第3の実施形態の音場支援方法は、視聴者の顔の向きに応じたオブジェクト再生音および模擬再生音を出力できる。したがって、視聴者は、対象空間内で顔の向きを変えながら、その顔の向きに応じたオブジェクト再生音と模擬再生音とを比較して聞くことができる。このため、視聴者は、対象空間内において複数の向きで、オブジェクト再生音と模擬再生音との相違を直接体感でき、模擬再生音がオブジェクト再生音を精度良く再現(模擬)できているか、オブジェクト再生音と模擬再生音との間で違和感がないかを、より精度良く判断できる。また、この結果、視聴者は、模擬再生音によってオブジェクト再生音をより精度良く再現できる。
【0087】
なお、上述の各実施形態の構成および処理は、適宜組合せが可能であり、それぞれの組合せに応じた作用効果を奏することができる。
【0088】
また、本実施形態の説明は、すべての点で例示であって、制限的なものではない。本発明の範囲は、上述の実施形態ではなく、特許請求の範囲によって示される。さらに、本発明の範囲には、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0089】
10、10A、10B:音場支援装置
21:視聴点設定部
22:音源位置設定部
23:スピーカ位置設定部
29:調整操作部
30:模擬再生音信号生成部
40:選択部
50:バイノーラル処理部
60:リバーブ処理部
70:姿勢検出部
80:ヘッドフォン
90:対象空間
99:仮想空間
100、100A:GUI
111:位置関係確認ウィンドウ
111A:設定表示ウィンドウ
112:波形確認ウィンドウ
113、116:操作子
115:出力状態表示ウィンドウ
900:視聴点