(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022125635
(43)【公開日】2022-08-29
(54)【発明の名称】音信号処理方法および音信号処理装置
(51)【国際特許分類】
H04R 3/00 20060101AFI20220822BHJP
H04S 1/00 20060101ALI20220822BHJP
H04S 3/00 20060101ALI20220822BHJP
【FI】
H04R3/00
H04S1/00
H04S3/00
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2021023330
(22)【出願日】2021-02-17
(71)【出願人】
【識別番号】000004075
【氏名又は名称】ヤマハ株式会社
(74)【代理人】
【識別番号】100125254
【弁理士】
【氏名又は名称】別役 重尚
(74)【代理人】
【識別番号】100118278
【弁理士】
【氏名又は名称】村松 聡
(72)【発明者】
【氏名】臼井 篤志
(72)【発明者】
【氏名】伊藤 孝
(72)【発明者】
【氏名】金田 匡史
【テーマコード(参考)】
5D162
5D220
【Fターム(参考)】
5D162BA17
5D162CB16
5D220EE11
5D220EE25
5D220EE34
(57)【要約】
【課題】機器接続の複雑化を回避しつつ、音信号ごとに適切な処理を施して適切な出力先へ出力する。
【解決手段】処理部Aが、音信号Siに後段処理部A-2による周囲音強調処理を行って音信号Sgを生成すると共に、音信号Sgをミックスバス34へ出力し、処理部Cが、音信号Saに、C処理を行って音信号Seを生成すると共に、音信号Seをミックスバス34と第1出力先(通信端末装置28またはPC29)とに出力し、ミックスバス34は、音信号Sgと音信号Seとを混合して音信号Shを生成すると共に、音信号Shを第2出力先(ヘッドホン31またはスピーカ32)に出力する、音信号処理方法を提供する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
第1処理部が、第1音信号に第1処理を行って第2音信号を生成すると共に、前記第2音信号をミックスバスへ出力し、
第2処理部が、第3音信号に第2処理を行って第4音信号を生成すると共に、前記第4音信号を前記ミックスバスと第1出力先とに出力し、
前記ミックスバスは、前記第2音信号と前記第4音信号とを混合して第5音信号を生成すると共に、前記第5音信号を第2出力先に出力する、音信号処理方法。
【請求項2】
前記第1音信号はステレオ信号であり、
前記第1処理部は、
前記ステレオ信号から和信号と差信号とを生成し、
前記和信号に対して中音域の音圧を減少させる処理を行った処理後和信号を生成し、
前記差信号に対して所定の帯域の音圧を増加させる処理を行った処理後差信号を生成し、
前記処理後和信号と前記処理後差信号とをステレオ信号に変換することで前記第2音信号を生成する、請求項1に記載の音信号処理方法。
【請求項3】
前記第1音信号は、3チャンネル以上のチャンネル数の第6音信号をステレオ化する第3処理を第3処理部が施すことによって生成された信号である、請求項1または2に記載の音信号処理方法。
【請求項4】
第4処理部が、第7音信号に第4処理を行って第8音信号を生成すると共に、前記第8音信号を前記ミックスバスへ出力し、
前記ミックスバスは、前記第2音信号と前記第4音信号とに対してさらに前記第8音信号を混合することで前記第5音信号を生成する、請求項1乃至3のいずれか1項に記載の音信号処理方法。
【請求項5】
前記第3音信号は、マイクロフォンから出力された音信号である、請求項1乃至4のいずれか1項に記載の音信号処理方法。
【請求項6】
前記第6音信号は、ゲーム装置から出力された音信号である、請求項3に記載の音信号処理方法。
【請求項7】
前記第7音信号は、アプリケーションを介して出力された音信号である、請求項4に記載の音信号処理方法。
【請求項8】
前記第1出力先はコンピュータであり、
前記第2出力先は音響出力機器である、請求項1乃至7のいずれか1項に記載の音信号処理方法。
【請求項9】
ミックスバスと、
第1音信号に第1処理を行って第2音信号を生成すると共に、前記第2音信号を前記ミックスバスへ出力する第1処理部と、
第3音信号に第2処理を行って第4音信号を生成すると共に、前記第4音信号を前記ミックスバスと第1出力先とに出力する第2処理部と、を有し、
前記ミックスバスは、前記第2音信号と前記第4音信号とを混合して第5音信号を生成すると共に、前記第5音信号を第2出力先に出力する、音信号処理装置。
【請求項10】
前記第1音信号はステレオ信号であり、
前記第1処理部は、
前記ステレオ信号から和信号と差信号とを生成し、
前記和信号に対して中音域の音圧を減少させる処理を行った処理後和信号を生成し、
前記差信号に対して所定の帯域の音圧を増加させる処理を行った処理後差信号を生成し、
前記処理後和信号と前記処理後差信号とをステレオ信号に変換することで前記第2音信号を生成する、請求項9に記載の音信号処理装置。
【請求項11】
前記第1音信号は、3チャンネル以上のチャンネル数の第6音信号をステレオ化する第3処理を第3処理部が施すことによって生成された信号である、請求項9または10の音信号処理装置。
【請求項12】
第7音信号に第4処理を行って第8音信号を生成すると共に、前記第8音信号を前記ミックスバスへ出力する第4処理部をさらに有し、
前記ミックスバスは、前記第2音信号と前記第4音信号とに対してさらに前記第8音信号を混合することで前記第5音信号を生成する、請求項9乃至11のいずれか1項の音信号処理装置。
【請求項13】
前記第3音信号は、マイクロフォンから出力された音信号である、請求項9乃至12のいずれか1項の音信号処理装置。
【請求項14】
前記第6音信号は、ゲーム装置から出力された音信号である、請求項11の音信号処理装置。
【請求項15】
前記第7音信号は、アプリケーションを介して出力された音信号である、請求項12の音信号処理装置。
【請求項16】
前記第1出力先はコンピュータであり、
前記第2出力先は音響出力機器である、請求項9乃至15のいずれか1項の音信号処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、音信号処理方法および音信号処理装置に関する。
【背景技術】
【0002】
従来、音響効果を高めるために、音信号に各種処理を施して混合する音信号処理装置が知られている。例えば、特許文献1、2は、ステレオ音響信号を和信号および差信号に変換し、和信号、差信号にそれぞれ音響効果等の処理を施した後、再びステレオ音響信号に変換する。これにより、ステレオ音響信号の音響効果を多様にかつ容易に調整することができる。あるいは、違和感の少ない音を提供することができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2018-116153号公報
【特許文献2】特開2017-220789号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、エフェクトなどの施したい処理内容や、音信号を出力したい出力先は、音信号によって異なる。従って、複数の系統から多くの音信号が取得される場合、音信号の各々に適切な処理を施すために変換機器が増えて機器接続が複雑になる場合がある。
【0005】
本発明の一つの目的は、機器接続の複雑化を回避しつつ、音信号ごとに適切な処理を施して適切な出力先へ出力することができる音信号処理方法および音信号処理装置を提供することである。
【課題を解決するための手段】
【0006】
本発明の一形態によれば、第1処理部が、第1音信号に第1処理を行って第2音信号を生成すると共に、前記第2音信号をミックスバスへ出力し、第2処理部が、第3音信号に第2処理を行って第4音信号を生成すると共に、前記第4音信号を前記ミックスバスと第1出力先とに出力し、前記ミックスバスは、前記第2音信号と前記第4音信号とを混合して第5音信号を生成すると共に、前記第5音信号を第2出力先に出力する、音信号処理方法が提供される。
【発明の効果】
【0007】
本発明の一形態によれば、機器接続の複雑化を回避しつつ、音信号ごとに適切な処理を施して適切な出力先へ出力することができる。
【図面の簡単な説明】
【0008】
【
図2】信号処理に関する構成を示すブロック図である。
【
図4】バイノーラル化部における信号の流れを示す図である。
【発明を実施するための形態】
【0009】
以下、図面を参照して本発明の実施の形態を説明する。
【0010】
図1は、本発明の一実施の形態に係る音信号処理装置のブロック図である。この音信号処理装置100は、一例としてミキサ装置として構成される。音信号処理装置100はCPU11を有し、CPU11は、バス10を介して複数の構成要素と情報をやりとりする。音信号処理装置100は、ROM12、RAM13、記憶部14、表示部15、設定操作部16を有する。また、音信号処理装置100は、外部機器を接続するための各種インターフェイスを有し、各種インターフェイスを介して、接続された外部機器とCPU11との間で信号が入出力される。各種インターフェイスには、通信部17、第1のマイク入力端子18、第2のマイク入力端子19、AUX端子20、USB端子21、HDMI(登録商標)入力端子22、HDMI出力端子23、ヘッドホン出力端子24、スピーカ出力端子25が含まれる。
【0011】
CPU11には不図示のタイマが接続されている。CPU11は、本装置全体を制御する。ROM12は、CPU11が実行する制御プログラムや各種テーブルデータ等を記憶する。RAM13は、各種データを記憶する。記憶部14は、上記制御プログラムを含む各種アプリケーションプログラムや各種データを記憶する。設定操作部16は、ユーザからの各種情報の入力を受け付ける。表示部15は、各種情報を表示する。通信部17は、LANインターフェイスやMIDI(Musical Instrument Digital Interface)を含んでもよい。
【0012】
第1のマイク入力端子18、第2のマイク入力端子19には、外部マイクが接続可能である。例えば、第1のマイク入力端子18には第1のマイクロフォン26が接続され、第2のマイク入力端子19には、ヘッドホン31とセットになった第2のマイクロフォン27が接続される。AUX端子20には、スマートホン等の通信端末装置28が接続される。USB端子21には、USB機器、例えばパーソナルコンピュータであるPC29が接続される。HDMI入力端子22、HDMI出力端子23には、HDMI機器が接続可能である。例えば、HDMI入力端子22にゲーム装置30が接続され、HDMI出力端子23に表示モニタ42が接続される。ヘッドホン出力端子24には、ヘッドホン31が接続される。スピーカ出力端子25には、スピーカ32が接続される。スピーカ32は、2チャンネルスピーカに限らず、サラウンドスピーカであってもよく、発音のチャンネル数は例えば8チャンネル(7.1ch)である。
【0013】
図2は、音信号処理装置100における信号処理に関する構成を示すブロック図である。音信号処理装置100は、処理部A、B、C、ミックスバス34、切替部33、35などを備える。なお、処理部A、B、Cの機能は、必要なハードウェアに加えて、主としてCPU11、ROM12およびRAM13の協働により実現される。ミックスバス34、切替部33、35の動作はCPU11により制御される。
【0014】
ゲーム装置30で生成されHDMI入力端子22から入力される信号Sdは、HDMI出力端子23に出力され、表示モニタ42に供給される。信号Sdは、映像信号を含み、信号Sdに基づく映像が表示モニタ42で表示される。なお、信号Sdは、音信号を含んでもよく、HDMI出力端子23に音響機器が接続された場合は、信号Sdに基づく音響が音響機器から発生する。
【0015】
ゲーム装置30で生成されHDMI入力端子22から入力される音信号、またはPC29で生成されUSB端子21から入力される音信号が、音信号Scとして処理部Aに入力される。音信号Scは、3チャンネル以上のチャンネル数の音信号であり、本実施の形態では8チャンネルの信号であるとする。処理部Aは、音信号Scに対してA処理(後述する)を施すことで音信号Sgを生成すると共に、音信号Sgをミックスバス34へ出力する。
【0016】
通信端末装置28で生成されAUX端子20から入力される音信号、またはPC29で生成されUSB端子21から入力される音信号が、音信号Sbとして処理部Bに入力される。音信号Sbとして、例えば、ボイスチャットの音信号が想定される。音信号Sbは、例えば、通信端末装置28またはPC29で実行されるアプリケーションソフトにより生成される。処理部Bは、音信号Sbに対してB処理を施すことで音信号Sfを生成すると共に、生成した音信号Sfをミックスバス34へ出力する。
【0017】
切替部33は、第1のマイクロフォン26で集音され第1のマイク入力端子18から入力される音信号と、第2のマイクロフォン27で集音され第2のマイク入力端子19から入力される音信号とを、排他的に選択する。例えば、マイクロフォンが接続されたマイク入力端子が選択され、双方のマイク入力端子にマイクロフォンが接続された場合は第2のマイク入力端子19が優先的に選択される。そして切替部33は、選択したマイク入力端子からの音信号を、音信号Saとして処理部Cへ出力する。
【0018】
処理部Cは、音信号SaにC処理を施すことで音信号Seを生成すると共に、音信号Seをミックスバス34へ出力する。C処理は、例えば、エフェクトやレベル調整などを含む。さらに処理部Cは、生成した音信号SeをAUX端子20とUSB端子21とに出力する。その際、D/A変換や2チャンネル化等の処理が介在してもよい。従って、AUX端子20、USB端子21にそれぞれ接続された通信端末装置28、PC29へ音信号Seが出力される。通信端末装置28、PC29での設定によっては、音信号Seに応じた音響が発生する。
【0019】
なお、A処理、B処理、C処理は、互いに異なる処理である。また、音信号Saはマイクロフォンから入力されるとしたが、音信号Scの入力系統とは別の系統から入力される信号であればよい。また、ミックスバス34を介さずに出力される音信号Seの出力先(AUX端子20またはUSB端子21に接続されたもの)は、音信号Shの出力先(ヘッドホン出力端子24またはスピーカ出力端子25に接続されたもの)と異なればよい。
【0020】
ミックスバス34は、少なくとも音信号Sgと音信号Seとを混合して音信号Shを生成する。本実施の形態では、音信号Sgと音信号Seとに加えて音信号Sfが混合されて音信号Shが生成される。ミックスバス34は、切替部35を介してヘッドホン出力端子24またはスピーカ出力端子25に音信号Shを出力する。ここで、音信号Shは、ヘッドホン用信号Sh-1およびスピーカ用信号Sh-2を含む。切替部35は、音信号Shの出力先を排他的に選択する。例えば、ヘッドホン31がヘッドホン出力端子24に接続されている場合は、ヘッドホン出力端子24が出力先として選択され、ヘッドホン31がヘッドホン出力端子24に接続されていない場合は、スピーカ出力端子25が出力先として選択される。ヘッドホン出力端子24が選択された場合は、ヘッドホン用信号Sh-1がヘッドホン31に出力される。スピーカ出力端子25が選択された場合は、スピーカ用信号Sh-2がスピーカ32に出力される。なお、切替部35が音信号Shを出力する際、レベル調整やD/A変換が施されてもよい。特に、ヘッドホン用信号Sh-1が出力される場合は、ヘッドホンに合わせた出力特性の調整も施されてもよい。
【0021】
図3は、処理部Aの詳細なブロック図である。処理部Aは、前段処理部A-1と後段処理部A-2とからなる。A処理は、前段処理部A-1によるバイノーラル化処理と後段処理部A-2による周囲音強調処理とからなる。前段処理部A-1は、バイノーラル化部36を含む。後段処理部A-2は、MS変換部37、DeEsser(ディエッサ)38、PEQ39、LR変換部40、PEQ41を含む。PEQ39、41はいずれも、一例として4bandのパラメトリックイコライザである。ただし、PEQ39、41は4bandである必要はなく、またPEQでなくてもよく、例えばグラフィックイコライザ(GEQ)であってもよい。
【0022】
図4は、バイノーラル化部36における信号の流れを示す図である。音信号Scは、一例として、7.1ch(C:センタ、L:フロントL、R:フロントR、SL:サラウンドL、SR:サラウンドR、BL:サラウンドバックL、BR:サラウンドバックR、LFE:サブウーファ)により構成されるオーディオ信号である。
【0023】
頭部伝達関数(HRTF:Head Related Transfer Function)は、ある位置に設置した仮想スピーカからそれぞれ左右の耳に至る音の大きさ、到達時間、および周波数特性の差を表現したインパルス応答である。LFE以外の信号には、それぞれの信号に応じたHRTFおよびリバーブ(Reverb)が適用される。リバーブを適用するのは、音源との距離感を再現するためである。ただし、LFEは定位を感じにくいので、HRTFおよびリバーブを適用しない。8チャンネルの音信号Scは、バイノーラル化部36によるバイノーラル化処理を経てステレオ化され、すなわち、LとRの2チャンネルのステレオ信号に変換される。このステレオ信号が音信号Siとして後段処理部A-2におけるMS変換部37に入力される。
【0024】
後段処理部A-2(
図3)において、MS変換部37は、音信号Siから和信号Sjと差信号Skとを生成する。音信号Siの左信号をL、右信号をRで表すと、和信号Sjは、Sj=(SiのL)/2+(SiのR)/2により算出される。また、差信号Skは、Sk=(SiのL)/2-(SiのR)/2により算出される。
【0025】
図5は、DeEsser38の詳細構成を示す図である。DeEsser38は、HPF(ハイパスフィルタ)、LPF(ローパスフィルタ)、COMP(コンプレッサ)等を備え、和信号Sjに対して中音域の音圧を減少させる処理を行った処理後和信号Slを生成する。PEQ39は、差信号Skに対して所定の帯域の音圧を増加させる処理を行った処理後差信号Smを生成する。
【0026】
例えば、シューティングゲームを行っているとき、DeEsser38により、ゲームユーザの操作による銃声音が低減され、やかましさが緩和される。また、PEQ39により、サイドの音が強調され、射撃する敵の足音などがわかりやすくなる。従って、所定の帯域は限定されないが、周囲の音を聞きとりやすくするために、主に周囲の音が含まれるような、方向性を感じやすい周波数の帯域であることが望ましい。
【0027】
LR変換部40は、処理後和信号Slと処理後差信号Smとをステレオ信号に変換することで音信号Snを生成する。音信号Snの左信号をL、右信号をRで表すと、音信号SnのL信号は、Sl+Smにより算出される。音信号SnのR信号は、Sl-Smにより算出される。PEQ41は、設定に応じて音信号Snに対して各帯域の音圧を増減する。これにより、全体の音質が調整された音信号Sgが処理部Aから出力される。なお、PEQ41を設けることは必須でない。
【0028】
処理部B(
図2)が音信号Sbに対して施すB処理は、一例として、ボイスチャットに対するバイノーラル化処理を含む。例えば、音信号Sbに対して、HRTFとリバーブの少なくとも一方が適用されて、ステレオ信号である音信号Sfが生成される。なお、CPU11は、ユーザからの切り替え指示によって、HRTFとリバーブのいずれが適用されるかを切り替えてもよい。また、ユーザからの切り替え指示によって、HRTFとリバーブのいずれも適用しない場合があってもよい。
【0029】
本実施の形態によれば、処理部A(第1処理部)が、音信号Si(第1音信号)に、後段処理部A-2による周囲音強調処理(第1処理)を行って音信号Sg(第2音信号)を生成すると共に、音信号Sgをミックスバス34へ出力する。また、処理部C(第2処理部)が、音信号Sa(第3音信号)に、C処理(第2処理)を行って音信号Se(第4音信号)を生成すると共に、音信号Seをミックスバス34と第1出力先(通信端末装置28またはPC29)とに出力する。ミックスバス34は、少なくとも音信号Sg(第2音信号)と音信号Se(第4音信号)とを混合して音信号Sh(第5音信号)を生成すると共に、音信号Shを第2出力先(ヘッドホン31またはスピーカ32)に出力する。従って、機器接続の複雑化を回避しつつ、音信号ごとに適切な処理を施して適切な出力先へ出力することができる。例えば、複数の系統から多くの音信号が取得される場合でも、音信号の各々に適切な処理を施すために多くの変換機器を接続する必要がなく、接続が複雑になることが回避される。
【0030】
また、音信号Siは、周囲音強調処理(第1処理)により、和信号Sj、差信号Skの生成、および処理後和信号Sl、処理後差信号Smの生成を経て、ステレオの音信号Sgに変換されるので、周囲の音を聞きとりやすくすることができる。
【0031】
また、音信号Siは、8チャンネルの音信号Sc(第6音信号)に対し、前段処理部A-1でバイノーラル化処理(第3処理)を施すことにより、ステレオ化して生成されたものである。従って、臨場感を再現することができる。なお、この観点からは、音信号Scは3チャンネル以上のチャンネル数の音信号であればよい。なお、機器接続の複雑化を回避しつつ、音信号ごとに適切な処理を施して適切な出力先へ出力するという効果を求めることに限れば、前段処理部A-1は必須でない。従って、音信号Si(第1音信号)は、音信号処理装置100にステレオ信号として入力された音信号であってもよい。
【0032】
また、処理部B(第4処理部)が、音信号Sb(第7音信号)にB処理(第4処理)を行って音信号Sf(第8音信号)を生成すると共に、音信号Sfをミックスバス34へ出力する。ミックスバス34は、音信号Sg(第2音信号)と音信号Se(第4音信号)とに対してさらに音信号Sf(第8音信号)を混合することで音信号Sh(第5音信号)を生成する。従って、ボイスチャット音声などの音を併せて出力することができる。なお、処理部Bを設けることは必須でない。従って、音信号Sh(第5音信号)は、音信号Sfを含まずに音信号Sg(第2音信号)と音信号Se(第4音信号)とを混合した信号であってもよい。
【0033】
また、音信号Sa(第3音信号)は、マイクロフォン(26、27)から出力された音信号であるので、ゲームをするユーザの声などを併せて処理することができる。なお、音信号Saの取得元はマイクロフォンに限定されない。
【0034】
また、音信号Sc(第6音信号)が、ゲーム装置30から出力された音信号であれば、ゲーム音などを併せて処理することができる。また、音信号Sb(第7音信号)が、例えば、アプリケーションを介して出力された音信号であれば、ボイスチャット音声などの音を併せて処理することができる。
【0035】
また、ミックスバス34を介さずに出力される音信号Seの出力先は、通信端末装置28またはPC29等のコンピュータであれば、コンピュータにはC処理を施した音を出力することができる。また、音信号Shの出力先が、ヘッドホン31またはスピーカ32等の音響出力機器であれば、音響出力機器にはA、B、C処理を施した音を混合して出力できる。なお、ヘッドホン31は、耳装着型の音出力機器の一例であり、イヤホンであってもよい。
【0036】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
【符号の説明】
【0037】
A、B、C 処理部、 Si、Sa、Sg、Se、Sh 音信号、 11 CPU、 28 通信端末装置、 29 PC、 31 ヘッドホン、 32 スピーカ、 34 ミックスバス