(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-18
(45)【発行日】2023-12-26
(54)【発明の名称】オーディオ空間化のための強調
(51)【国際特許分類】
H04S 7/00 20060101AFI20231219BHJP
H04R 3/00 20060101ALN20231219BHJP
H04R 1/10 20060101ALN20231219BHJP
【FI】
H04S7/00 320
H04R3/00 310
H04R1/10 101
【外国語出願】
(21)【出願番号】P 2022159452
(22)【出願日】2022-10-03
(62)【分割の表示】P 2021518505の分割
【原出願日】2019-10-04
【審査請求日】2022-10-03
(32)【優先日】2018-10-05
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2018-10-05
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-03-01
(33)【優先権主張国・地域又は機関】US
【早期審査対象出願】
(73)【特許権者】
【識別番号】514108838
【氏名又は名称】マジック リープ, インコーポレイテッド
【氏名又は名称原語表記】Magic Leap,Inc.
【住所又は居所原語表記】7500 W SUNRISE BLVD,PLANTATION,FL 33322 USA
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】サミュエル チャールズ ディッカー
【審査官】堀 洋介
(56)【参考文献】
【文献】国際公開第2018/183390(WO,A1)
【文献】特開平06-133389(JP,A)
【文献】国際公開第2015/068587(WO,A1)
【文献】特開平10-164698(JP,A)
【文献】特開平10-136497(JP,A)
【文献】JOT, Jean-Marc,Interactive 3D Audio Rendering in Flexible Playback Configurations,Proceedings of The 2012 Asia Pacific Signal and Information Processing Association Annual Summit and,2012年12月03日,p.1-9
(58)【調査した分野】(Int.Cl.,DB名)
H04S 1/00- 7/00
H04R 3/00- 3/14
H04R 1/10
(57)【特許請求の範囲】
【請求項1】
オーディオ信号をウェアラブル頭部デバイスのユーザに提示する方法であって、前記方法は、
第1の入力オーディオ信号を受信することであって、前記第1の入力オーディオ信号は、前記ウェアラブル頭部デバイスのディスプレイ上に提示される仮想環境と関連付けられる、ことと、
前記第1の入力オーディオ信号を処理し、出力オーディオ信号を発生させることであって、前記出力オーディオ信号は、前記仮想環境と関連付けられ、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用し、前記第1の入力オーディオ信号の低周波数成分を減衰させ、フィルタ処理された第1の入力オーディオ信号を発生させること
を含む、ことと
を含み、
前記減衰させられた低周波数成分は、音アーチファクトの低減と関連付けられ、
前記音アーチファクトは、前記仮想環境内の仮想オブジェクト移動と関連付けられる制御信号変化によって引き起こされる、方法。
【請求項2】
前記第1の入力オーディオ信号を処理することは、利得を前記第1の入力オーディオ信号に適用することを含み、前記利得は、前記仮想環境内の場所と関連付けられる、請求項1に記載の方法。
【請求項3】
第1の利得が、前記仮想環境内の第1の場所とさらに関連付けられ、前記方法は、第2の利得を前記第1の入力オーディオ信号に適用することをさらに含み、前記第2の利得は、前記仮想環境の第2の場所と関連付けられる、請求項2に記載の方法。
【請求項4】
前記出力オーディオ信号のレベルは、前記仮想環境内の音の場所に基づく、請求項1に記載の方法。
【請求項5】
前記プリエンファシスフィルタは、一次微分フィルタを備える、請求項1に記載の方法。
【請求項6】
第2の入力オーディオ信号を受信することと、
前記第2の入力オーディオ信号を処理することであって、前記第2の入力オーディオ信号を処理することは、第2のプリエンファシスフィルタを前記第2の入力オーディオ信号に適用し、前記第2の入力オーディオ信号の低周波数成分を減衰させ、フィルタ処理された第2の入力オーディオ信号を発生させることを含む、ことと
をさらに含む、請求項1に記載の方法。
【請求項7】
ミキサを介して、前記フィルタ処理された第1の入力オーディオ信号を前記フィルタ処理された第2の入力オーディオ信号と混合することをさらに含む、請求項6に記載の方法。
【請求項8】
前記第1の入力オーディオ信号を処理することは、第1の利得および第2の利得を前記第1の入力オーディオ信号に適用することを含み、
前記第1および第2の利得は、前記仮想環境内の前記仮想オブジェクト移動と関連付けられ、
前記制御信号変化は、前記第1の利得から前記第2の利得への変化を含む、請求項1に記載の方法。
【請求項9】
前記第1の入力オーディオ信号を処理することは、デエンファシスフィルタを前記第1の入力オーディオ信号に適用することをさらに含む、請求項1に記載の方法。
【請求項10】
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の高周波数成分を減衰させることを含む、請求項9に記載の方法。
【請求項11】
ウェアラブルデバイスであって、
ディスプレイと、
1つ以上のスピーカと、
方法を実施するように構成される1つ以上のプロセッサと
を備え、
前記方法は、
第1の入力オーディオ信号を受信することであって、前記第1の入力オーディオ信号は、前記ディスプレイ上に提示される仮想環境と関連付けられる、ことと、
前記第1の入力オーディオ信号を処理し、出力オーディオ信号を発生させることであって、前記出力オーディオ信号は、前記仮想環境と関連付けられ、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用し、前記第1の入力オーディオ信号の低周波数成分を減衰させ、フィルタ処理された第1の入力オーディオ信号を発生させること
を含む、ことと
を含み、
前記減衰させられた低周波数成分は、音アーチファクトの低減と関連付けられ、
前記音アーチファクトは、前記仮想環境内の仮想オブジェクト移動と関連付けられる制御信号変化によって引き起こされる、ウェアラブルデバイス。
【請求項12】
前記第1の入力オーディオ信号を処理することは、利得を前記第1の入力オーディオ信号に適用することを含み、前記利得は、前記仮想環境内の場所と関連付けられる、請求項11に記載のウェアラブルデバイス。
【請求項13】
第1の利得が、前記仮想環境内の第1の場所とさらに関連付けられ、前記方法は、第2の利得を前記第1の入力オーディオ信号に適用することをさらに含み、前記第2の利得は、前記仮想環境の第2の場所と関連付けられる、請求項12に記載のウェアラブルデバイス。
【請求項14】
前記出力オーディオ信号のレベルは、前記仮想環境内の音の場所に基づく、請求項11に記載のウェアラブルデバイス。
【請求項15】
前記方法は、
第2の入力オーディオ信号を受信することと、
前記第2の入力オーディオ信号を処理することであって、前記第2の入力オーディオ信号を処理することは、第2のプリエンファシスフィルタを前記第2の入力オーディオ信号に適用し、前記第2の入力オーディオ信号の低周波数成分を減衰させ、フィルタ処理された第2の入力オーディオ信号を発生させることを含む、ことと
をさらに含む、請求項11に記載のウェアラブルデバイス。
【請求項16】
前記方法は、ミキサを介して、前記フィルタ処理された第1の入力オーディオ信号を前記フィルタ処理された第2の入力オーディオ信号と混合することをさらに含む、請求項15に記載のウェアラブルデバイス。
【請求項17】
前記第1の入力オーディオ信号を処理することは、第1の利得および第2の利得を前記第1の入力オーディオ信号に適用することを含み、
前記第1および第2の利得は、前記仮想環境内の前記仮想オブジェクト移動と関連付けられ、
前記制御信号変化は、前記第1の利得から前記第2の利得への変化を含む、請求項11に記載のウェアラブルデバイス。
【請求項18】
前記第1の入力オーディオ信号を処理することは、デエンファシスフィルタを前記第1の入力オーディオ信号に適用することをさらに含む、請求項11に記載のウェアラブルデバイス。
【請求項19】
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の高周波数成分を減衰させることを含む、請求項18に記載のウェアラブルデバイス。
【請求項20】
非一過性コンピュータ可読媒体であって、前記非一過性コンピュータ可読媒体は、1つ以上のプログラムを記憶しており、前記1つ以上のプログラムは、命令を備え、前記命令は、1つ以上のプロセッサとメモリとを伴う電子デバイスによって実行されると、方法を前記デバイスに実施させ、前記方法は、
第1の入力オーディオ信号を受信することであって、前記第1の入力オーディオ信号は、前記電子デバイスのディスプレイ上に提示される仮想環境と関連付けられる、ことと、
前記第1の入力オーディオ信号を処理し、出力オーディオ信号を発生させることであって、前記出力オーディオ信号は、前記仮想環境と関連付けられ、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用し、前記第1の入力オーディオ信号の低周波数成分を減衰させ、フィルタ処理された第1の入力オーディオ信号を発生させること
を含む、ことと
を含み、
前記減衰させられた低周波数成分は、音アーチファクトの低減と関連付けられ、
前記音アーチファクトは、前記仮想環境内の仮想オブジェクト移動と関連付けられる制御信号変化によって引き起こされる、非一過性コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本願は、その内容が、参照することによってその全体として本明細書に組み込まれる、2018年10月5日に出願された米国仮出願第62/742,254号、2019年3月1日に出願された米国仮出願第62/812,546号、および2018年10月5日に出願された米国仮出願第62/742,191号の優先権を主張する。
【0002】
本開示は、概して、オーディオ信号処理のためのシステムおよび方法に関し、特に、複合現実環境内でオーディオ信号を提示するためのシステムおよび方法に関する。
【背景技術】
【0003】
没入感および信憑性がある仮想環境は、ユーザの予期、例えば、仮想環境内のオブジェクトに対応するオーディオ信号が、仮想環境内のそのオブジェクトの場所と、そしてそのオブジェクトの視覚的提示と一貫するであろうという予期と一貫する様式におけるオーディオ信号の提示を要求する。仮想現実、拡張現実、および複合現実環境内で豊富かつ複雑な音景(音環境)を作成することは、それぞれ、ユーザの環境内の異なる場所/近接および/または方向から発するように現れる、多数のデジタルオーディオ信号の効率的な提示を要求する。音景は、オブジェクトの提示を含み、ユーザに相対的であり、オブジェクトおよびユーザの位置および配向は、迅速に変化し、音景がそれに応じて調節されることを要求し得る。オブジェクトおよびユーザの位置および配向を信憑性があるように反映するために音景を調節することは、オーディオ信号の急速な変化を要求し得、これは、仮想環境の没入感を損なう「クリック」音等の望ましくない音アーチファクトをもたらし得る。しかしながら、そのような音アーチファクトを低減させるためのいくつかの技法は、特に、仮想環境と相互作用するために一般的に使用されるモバイルデバイスに関して、算出的に高価であり得る。仮想環境のユーザに音景を提示するシステムおよび方法が、音アーチファクトを最小限にし、算出的に効率的なままでありながら、仮想環境の音を正確に反映することが、望ましい。
【発明の概要】
【課題を解決するための手段】
【0004】
本開示の実施例は、オーディオ信号をウェアラブル頭部デバイスのユーザに提示するためのシステムおよび方法を説明する。例示的方法によると、第1の入力オーディオ信号が、受信される。第1の入力オーディオ信号は、第1の出力オーディオ信号を発生させるように処理される。第1の出力オーディオ信号は、ウェアラブル頭部デバイスと関連付けられる1つ以上のスピーカを介して提示される。第1の入力オーディオ信号を処理するステップは、プリエンファシスフィルタを第1の入力オーディオ信号に適用するステップと、第1の入力オーディオ信号の利得を調節するステップと、デエンファシスフィルタを第1のオーディオ信号に適用するステップとを含む。プリエンファシスフィルタを第1の入力オーディオ信号に適用するステップは、第1の入力オーディオ信号の低周波数成分を減衰させるステップを含む。デエンファシスフィルタを第1の入力オーディオ信号に適用するステップは、第1の入力オーディオ信号の高周波数成分を減衰させるステップを含む。
本発明は、例えば、以下を提供する。
(項目1)
オーディオ信号をウェアラブル頭部デバイスのユーザに提示する方法であって、前記方法は、
第1の入力オーディオ信号を受信することと、
前記第1の入力オーディオ信号を処理し、第1の出力オーディオ信号を発生させることであって、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することと、
前記第1の入力オーディオ信号の利得を調節することと、
デエンファシスフィルタを第1のオーディオ信号に適用することと
を含む、ことと、
前記ウェアラブル頭部デバイスと関連付けられる1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することと
を含み、
前記プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の低周波数成分を減衰させることを含み、
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の高周波数成分を減衰させることを含む、方法。
(項目2)
前記プリエンファシスフィルタは、一次微分フィルタを備える、項目1に記載の方法。
(項目3)
前記一次微分フィルタは、約6デシベルの1オクターブあたりロールオフを有する、項目2に記載の方法。
(項目4)
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することはさらに、前記第1の入力オーディオ信号の低周波数成分の振幅を維持または増加させることを含む、項目1に記載の方法。
(項目5)
前記デエンファシスフィルタは、積分器フィルタを備える、項目1に記載の方法。
(項目6)
前記デエンファシスフィルタは、約6デシベルの1オクターブあたりブーストを伴うリーキー積分器を備える、項目1に記載の方法。
(項目7)
前記デエンファシスフィルタは、DCブロッキングフィルタを備える、項目1に記載の方法。
(項目8)
第2の入力オーディオ信号を受信することをさらに含み、前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、ミキサを介して、前記第1の入力オーディオ信号を前記第2の入力オーディオ信号と混合することを含む、項目1に記載の方法。
(項目9)
前記ウェアラブル頭部デバイスの1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することは、
第1の頭部関連伝達関数(HRTF)を前記第1の出力オーディオ信号に適用することと、
前記第1のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの左スピーカに提示することと、
第2のHRTFを前記第1の出力オーディオ信号に適用することと、
前記第2のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの右スピーカに提示することと
を含む、項目1に記載の方法。
(項目10)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、
前記プリエンファシスフィルタの出力を1つ以上のフィルタに適用することと、
前記1つ以上のフィルタの第1の出力をパンニングし、第1のパンニングされた信号、第2のパンニングされた信号、第3のパンニングされた信号、および第4のパンニングされた信号を発生させることと、
前記第1のパンニングされた信号を左バスに適用することと、
前記第2のパンニングされた信号を右バスに適用することと、
前記第3のパンニングされた信号を標準バスに適用することと、
前記第4のパンニングされた信号を拡散バスに適用することと、
前記左バス、前記右バス、前記標準バス、および前記拡散バスをバーチャライザへの入力として適用することと
を含み、
前記デエンファシスフィルタを前記第1のオーディオ信号に適用することは、前記デエンファシスフィルタを前記バーチャライザの出力に適用することを含む、項目1に記載の方法。
(項目11)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、事前遅延を前記第1のパンニングされた信号および前記第2のパンニングされた信号に適用することを含む、項目10に記載の方法。
(項目12)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、非相関フィルタを前記拡散バスに適用することを含む、項目10に記載の方法。
(項目13)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力をクラスタ化反射モジュールへの入力として適用し、前記クラスタ化反射モジュールの出力を前記標準バスに適用することを含む、項目10に記載の方法。
(項目14)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力を反響モジュールへの入力として適用し、前記反響モジュールの出力を前記標準バスに適用することを含む、項目10に記載の方法。
(項目15)
前記1つ以上のフィルタは、距離フィルタを備える、項目10に記載の方法。
(項目16)
前記1つ以上のフィルタは、空気吸収フィルタを備える、項目10に記載の方法。
(項目17)
前記1つ以上のフィルタは、源方向性フィルタを備える、項目10に記載の方法。
(項目18)
前記1つ以上のフィルタは、オクルージョンフィルタを備える、項目10に記載の方法。
(項目19)
前記1つ以上のフィルタは、妨害フィルタを備える、項目10に記載の方法。
(項目20)
システムであって、
ウェアラブル頭部デバイスと、
1つ以上のスピーカと、
1つ以上のプロセッサであって、前記1つ以上のプロセッサは、方法を実行するように構成されており、前記方法は、
第1の入力オーディオ信号を受信することと、
前記第1の入力オーディオ信号を処理し、第1の出力オーディオ信号を発生させることであって、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することと、
前記第1の入力オーディオ信号の利得を調節することと、
デエンファシスフィルタを第1のオーディオ信号に適用することと
を含む、ことと、
前記1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することと
を含み、
前記プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の低周波数成分を減衰させることを含み、
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の高周波数成分を減衰させることを含む、
1つ以上のプロセッサと
を備える、システム。
(項目21)
前記プリエンファシスフィルタは、一次微分フィルタを備える、項目20に記載のシステム。
(項目22)
前記一次微分フィルタは、約6デシベルの1オクターブあたりロールオフを有する、項目21に記載のシステム。
(項目23)
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することはさらに、前記第1の入力オーディオ信号の低周波数成分の振幅を維持または増加させることを含む、項目20に記載のシステム。
(項目24)
前記デエンファシスフィルタは、積分器フィルタを備える、項目20に記載のシステム。
(項目25)
前記デエンファシスフィルタは、約6デシベルの1オクターブあたりブーストを伴うリーキー積分器を備える、項目20に記載のシステム。
(項目26)
前記デエンファシスフィルタは、DCブロッキングフィルタを備える、項目20に記載のシステム。
(項目27)
前記方法はさらに、第2の入力オーディオ信号を受信することを含み、前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、ミキサを介して、前記第1の入力オーディオ信号を前記第2の入力オーディオ信号と混合することを含む、項目20に記載のシステム。
(項目28)
前記ウェアラブル頭部デバイスの1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することは、
第1の頭部関連伝達関数(HRTF)を前記第1の出力オーディオ信号に適用することと、
前記第1のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの左スピーカに提示することと、
第2のHRTFを前記第1の出力オーディオ信号に適用することと、
前記第2のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの右スピーカに提示することと
を含む、項目20に記載のシステム。
(項目29)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、
前記プリエンファシスフィルタの出力を1つ以上のフィルタに適用することと、
前記1つ以上のフィルタの第1の出力をパンニングし、第1のパンニングされた信号、第2のパンニングされた信号、第3のパンニングされた信号、および第4のパンニングされた信号を発生させることと、
前記第1のパンニングされた信号を左バスに適用することと、
前記第2のパンニングされた信号を右バスに適用することと、
前記第3のパンニングされた信号を標準バスに適用することと、
前記第4のパンニングされた信号を拡散バスに適用することと、
前記左バス、前記右バス、前記標準バス、および前記拡散バスをバーチャライザへの入力として適用することと
を含み、
前記デエンファシスフィルタを前記第1のオーディオ信号に適用することは、前記デエンファシスフィルタを前記バーチャライザの出力に適用することを含む、項目20に記載のシステム。
(項目30)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、事前遅延を前記第1のパンニングされた信号および前記第2のパンニングされた信号に適用することを含む、項目29に記載のシステム。
(項目31)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、非相関フィルタを前記拡散バスに適用することを含む、項目29に記載のシステム。
(項目32)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力をクラスタ化反射モジュールへの入力として適用し、前記クラスタ化反射モジュールの出力を前記標準バスに適用することを含む、項目29に記載のシステム。
(項目33)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力を反響モジュールへの入力として適用し、前記反響モジュールの出力を前記標準バスに適用することを含む、項目29に記載のシステム。
(項目34)
前記1つ以上のフィルタは、距離フィルタを備える、項目29に記載のシステム。
(項目35)
前記1つ以上のフィルタは、空気吸収フィルタを備える、項目29に記載のシステム。
(項目36)
前記1つ以上のフィルタは、源方向性フィルタを備える、項目29に記載のシステム。
(項目37)
前記1つ以上のフィルタは、オクルージョンフィルタを備える、項目29に記載のシステム。
(項目38)
前記1つ以上のフィルタは、妨害フィルタを備える、項目29に記載のシステム。
(項目39)
非一過性コンピュータ可読媒体であって、前記非一過性コンピュータ可読媒体は、命令を記憶しており、前記命令は、1つ以上のプロセッサによって実行されると、前記1つ以上のプロセッサに、オーディオ信号をウェアラブル頭部デバイスのユーザに提示する方法を実施させ、前記方法は、
第1の入力オーディオ信号を受信することと、
前記第1の入力オーディオ信号を処理し、第1の出力オーディオ信号を発生させることであって、前記第1の入力オーディオ信号を処理することは、
プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することと、
前記第1の入力オーディオ信号の利得を調節することと、
デエンファシスフィルタを第1のオーディオ信号に適用することと
を含む、ことと、
前記ウェアラブル頭部デバイスと関連付けられる1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することと
を含み、
前記プリエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の低周波数成分を減衰させることを含み、
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することは、前記第1の入力オーディオ信号の高周波数成分を減衰させることを含む、非一過性コンピュータ可読媒体。
(項目40)
前記プリエンファシスフィルタは、一次微分フィルタを備える、項目39に記載の非一過性コンピュータ可読媒体。
(項目41)
前記一次微分フィルタは、約6デシベルの1オクターブあたりロールオフを有する、項目40に記載の非一過性コンピュータ可読媒体。
(項目42)
前記デエンファシスフィルタを前記第1の入力オーディオ信号に適用することはさらに、前記第1の入力オーディオ信号の低周波数成分の振幅を維持または増加させることを含む、項目39に記載の非一過性コンピュータ可読媒体。
(項目43)
前記デエンファシスフィルタは、積分器フィルタを備える、項目39に記載の非一過性コンピュータ可読媒体。
(項目44)
前記デエンファシスフィルタは、約6デシベルの1オクターブあたりブーストを伴うリーキー積分器を備える、項目39に記載の非一過性コンピュータ可読媒体。
(項目45)
前記デエンファシスフィルタは、DCブロッキングフィルタを備える、項目39に記載の非一過性コンピュータ可読媒体。
(項目46)
前記方法はさらに、第2の入力オーディオ信号を受信することを含み、前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、ミキサを介して、前記第1の入力オーディオ信号を前記第2の入力オーディオ信号と混合することを含む、項目39に記載の非一過性コンピュータ可読媒体。
(項目47)
前記ウェアラブル頭部デバイスの1つ以上のスピーカを介して前記第1の出力オーディオ信号を提示することは、
第1の頭部関連伝達関数(HRTF)を前記第1の出力オーディオ信号に適用することと、
前記第1のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの左スピーカに提示することと、
第2のHRTFを前記第1の出力オーディオ信号に適用することと、
前記第2のHRTFの出力を前記ウェアラブル頭部デバイスの1つ以上のスピーカの右スピーカに提示することと
を含む、項目39に記載の非一過性コンピュータ可読媒体。
(項目48)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、
前記プリエンファシスフィルタの出力を1つ以上のフィルタに適用することと、
前記1つ以上のフィルタの第1の出力をパンニングし、第1のパンニングされた信号、第2のパンニングされた信号、第3のパンニングされた信号、および第4のパンニングされた信号を発生させることと、
前記第1のパンニングされた信号を左バスに適用することと、
前記第2のパンニングされた信号を右バスに適用することと、
前記第3のパンニングされた信号を標準バスに適用することと、
前記第4のパンニングされた信号を拡散バスに適用することと、
前記左バス、前記右バス、前記標準バス、および前記拡散バスをバーチャライザへの入力として適用することと
を含み、
前記デエンファシスフィルタを前記第1のオーディオ信号に適用することは、前記デエンファシスフィルタを前記バーチャライザの出力に適用することを含む、項目39に記載の非一過性コンピュータ可読媒体。
(項目49)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、事前遅延を前記第1のパンニングされた信号および前記第2のパンニングされた信号に適用することを含む、項目48に記載の非一過性コンピュータ可読媒体。
(項目50)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、非相関フィルタを前記拡散バスに適用することを含む、項目48に記載の非一過性コンピュータ可読媒体。
(項目51)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力をクラスタ化反射モジュールへの入力として適用し、前記クラスタ化反射モジュールの出力を前記標準バスに適用することを含む、項目48に記載の非一過性コンピュータ可読媒体。
(項目52)
前記第1の入力オーディオ信号を処理し、前記第1の出力オーディオ信号を発生させることはさらに、前記1つ以上のフィルタの第2の出力を反響モジュールへの入力として適用し、前記反響モジュールの出力を前記標準バスに適用することを含む、項目48に記載の非一過性コンピュータ可読媒体。
(項目53)
前記1つ以上のフィルタは、距離フィルタを備える、項目48に記載の非一過性コンピュータ可読媒体。
(項目54)
前記1つ以上のフィルタは、空気吸収フィルタを備える、項目48に記載の非一過性コンピュータ可読媒体。
(項目55)
前記1つ以上のフィルタは、源方向性フィルタを備える、項目48に記載の非一過性コンピュータ可読媒体。
(項目56)
前記1つ以上のフィルタは、オクルージョンフィルタを備える、項目48に記載の非一過性コンピュータ可読媒体。
(項目57)
前記1つ以上のフィルタは、妨害フィルタを備える、項目48に記載の非一過性コンピュータ可読媒体。
【図面の簡単な説明】
【0005】
【
図1A】
図1A-1Bは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図1B】
図1A-1Bは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【0006】
【
図2A】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2B】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2C】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2D】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2E】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2F】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2G】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【
図2H】
図2A-2Hは、本開示のいくつかの実施形態による、例示的オーディオ空間化システムを図示する。
【0007】
【
図3A】
図3Aは、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【0008】
【
図3B】
図3Bは、本開示のいくつかの実施形態による、例示的プリエンファシスフィルタを図示する。
【0009】
【
図3C】
図3Cは、本開示のいくつかの実施形態による、例示的デエンファシスフィルタを図示する。
【0010】
【
図4】
図4-8は、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【
図5】
図4-8は、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【
図6】
図4-8は、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【
図7】
図4-8は、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【
図8】
図4-8は、本開示のいくつかの実施形態による、プリエンファシスおよびデエンファシスフィルタを含む、例示的オーディオ空間化システムを図示する。
【0011】
【
図9】
図9は、本開示のいくつかの実施形態による、例示的ウェアラブルシステムを図示する。
【0012】
【
図10】
図10は、本開示のいくつかの実施形態による、例示的ウェアラブルシステムと併せて使用され得る、例示的ハンドヘルドコントローラを図示する。
【0013】
【
図11】
図11は、本開示のいくつかの実施形態による、例示的ウェアラブルシステムと併せて使用され得る、例示的補助ユニットを図示する。
【0014】
【
図12】
図12は、本開示のいくつかの実施形態による、例示的ウェアラブルシステムに関する例示的機能ブロック図を図示する。
【発明を実施するための形態】
【0015】
実施例の以下の説明では、本明細書の一部を形成し、例証として、実践され得る具体的実施例が示される、付随の図面が、参照される。他の実施例も、使用され得、構造変更が、開示される実施例の範囲から逸脱することなく、行われ得ることを理解されたい。
【0016】
例示的ウェアラブルシステム
【0017】
図9は、ユーザの頭部上に装着されるように構成される、例示的ウェアラブル頭部デバイス900を図示する。ウェアラブル頭部デバイス900は、頭部デバイス(例えば、ウェアラブル頭部デバイス900)、ハンドヘルドコントローラ(例えば、下記に説明されるハンドヘルドコントローラ1000)、および/または補助ユニット(例えば、下記に説明される補助ユニット1100)等の1つ以上のコンポーネントを含む、より広範なウェアラブルシステムの一部であってもよい。いくつかの実施例では、ウェアラブル頭部デバイス900は、仮想現実、拡張現実、または複合現実システムまたは用途のために使用されることができる。ウェアラブル頭部デバイス900は、ディスプレイ910Aおよび910B(左および右透過性ディスプレイと、直交瞳拡大(OPE)格子セット912A/912Bおよび射出瞳拡大(EPE)格子セット914A/914B等、ディスプレイからユーザの眼に光を結合するための関連付けられるコンポーネントとを含み得る)等の1つ以上のディスプレイと、スピーカ920Aおよび920B(それぞれ、つるアーム922Aおよび922B上に搭載され、ユーザの左および右耳に隣接して位置付けられ得る)等の左および右音響構造と、赤外線センサ、加速度計、GPSユニット、慣性測定ユニット(IMU、例えば、IMU926)、音響センサ(例えば、マイクロホン950)等の1つ以上のセンサと、直交コイル電磁受信機(例えば、左つるアーム922Aに搭載されるように示される受信機927)と、ユーザから離れるように配向される、左および右カメラ(例えば、深度(飛行時間)カメラ930Aおよび930B)と、ユーザに向かって配向される、左および右眼カメラ(例えば、ユーザの眼移動を検出するため)(例えば、眼カメラ928Aおよび928B)とを含むことができる。しかしながら、ウェアラブル頭部デバイス900は、本開示の範囲から逸脱することなく、任意の好適なディスプレイ技術およびセンサまたは他のコンポーネントの任意の好適な数、タイプ、または組み合わせを組み込むことができる。いくつかの実施例では、ウェアラブル頭部デバイス900は、ユーザの音声によって発生されるオーディオ信号を検出するように構成される、1つ以上のマイクロホン950を組み込んでもよく、そのようなマイクロホンは、ユーザの口に隣接して位置付けられてもよい。いくつかの実施例では、ウェアラブル頭部デバイス900は、他のウェアラブルシステムを含む、他のデバイスおよびシステムと通信するために、ネットワーキング特徴(例えば、Wi-Fi能力)を組み込んでもよい。ウェアラブル頭部デバイス900はさらに、バッテリ、プロセッサ、メモリ、記憶ユニット、または種々の入力デバイス(例えば、ボタン、タッチパッド)等のコンポーネントを含んでもよい、または1つ以上のそのようなコンポーネントを含むハンドヘルドコントローラ(例えば、ハンドヘルドコントローラ1000)または補助ユニット(例えば、補助ユニット1100)に結合されてもよい。いくつかの実施例では、センサは、ユーザの環境に対する頭部搭載型ユニットの座標のセットを出力するように構成されてもよく、入力をプロセッサに提供し、同時位置特定およびマッピング(SLAM)プロシージャおよび/またはビジュアルオドメトリアルゴリズムを実施してもよい。いくつかの実施例では、ウェアラブル頭部デバイス900は、下記にさらに説明されるように、ハンドヘルドコントローラ1000および/または補助ユニット1100に結合されてもよい。
【0018】
図10は、例示的ウェアラブルシステムの例示的モバイルハンドヘルドコントローラコンポーネント200を図示する。いくつかの実施例では、ハンドヘルドコントローラ1000は、ウェアラブル頭部デバイス900および/または下記に説明される補助ユニット1100と有線または無線通信してもよい。いくつかの実施例では、ハンドヘルドコントローラ1000は、ユーザによって保持されるべき取っ手部分1020と、上面1010に沿って配置される1つ以上のボタン1040とを含む。いくつかの実施例では、ハンドヘルドコントローラ1000は、光学追跡標的としての使用のために構成されてもよく、例えば、ウェアラブル頭部デバイス900のセンサ(例えば、カメラまたは他の光学センサ)は、ハンドヘルドコントローラ1000の位置および/または配向を検出するように構成されることができ、これは、転じて、ハンドヘルドコントローラ1000を保持するユーザの手の位置および/または配向を示し得る。いくつかの実施例では、ハンドヘルドコントローラ1000は、プロセッサ、メモリ、記憶ユニット、ディスプレイ、または上記に説明されるもの等の1つ以上の入力デバイスを含んでもよい。いくつかの実施例では、ハンドヘルドコントローラ1000は、1つ以上のセンサ(例えば、ウェアラブル頭部デバイス900に関して上記に説明されるセンサまたは追跡コンポーネントのうちのいずれか)を含む。いくつかの実施例では、センサは、ウェアラブル頭部デバイス900に対する、またはウェアラブルシステムの別のコンポーネントに対するハンドヘルドコントローラ1000の位置または配向を検出することができる。いくつかの実施例では、センサは、ハンドヘルドコントローラ1000の取っ手部分1020内に位置付けられてもよい、および/またはハンドヘルドコントローラに機械的に結合されてもよい。ハンドヘルドコントローラ1000は、例えば、ボタン1940の押下状態、またはハンドヘルドコントローラ1000の位置、配向、および/または運動(例えば、IMUを介して)に対応する、1つ以上の出力信号を提供するように構成されることができる。そのような出力信号は、ウェアラブル頭部デバイス900のプロセッサへの、補助ユニット1100への、またはウェアラブルシステムの別のコンポーネントへの入力として使用されてもよい。いくつかの実施例では、ハンドヘルドコントローラ1000は、音(例えば、ユーザの発話、環境音)を検出し、ある場合には、検出された音に対応する信号をプロセッサ(例えば、ウェアラブル頭部デバイス900のプロセッサ)に提供するために、1つ以上のマイクロホンを含むことができる。
【0019】
図11は、例示的ウェアラブルシステムの例示的補助ユニット1100を図示する。いくつかの実施例では、補助ユニット1100は、ウェアラブル頭部デバイス900および/またはハンドヘルドコントローラ1000と有線または無線通信してもよい。補助ユニット1100は、ウェアラブル頭部デバイス900および/またはハンドヘルドコントローラ1000(ディスプレイ、センサ、音響構造、プロセッサ、マイクロホン、および/またはウェアラブル頭部デバイス900またはハンドヘルドコントローラ1000の他のコンポーネントを含む)等のウェアラブルシステムの1つ以上のコンポーネントを動作させるためのエネルギーを提供するために、バッテリを含むことができる。いくつかの実施例では、補助ユニット1100は、プロセッサ、メモリ、記憶ユニット、ディスプレイ、1つ以上の入力デバイス、および/または上記に説明されるもの等の1つ以上のセンサを含んでもよい。いくつかの実施例では、補助ユニット1100は、補助ユニットをユーザに取り付けるためのクリップ1110(例えば、ユーザによって装着されるベルト)を含む。ウェアラブルシステムの1つ以上のコンポーネントを格納するために補助ユニット1100を使用する利点は、そのように行うことが、大きいまたは重いコンポーネントが、(例えば、ウェアラブル頭部デバイス900内に格納される場合)ユーザの頭部に搭載される、または(例えば、ハンドヘルドコントローラ1000内に格納される場合)ユーザの手によって担持されるのではなく、大きく重い物体を支持するために比較的に良好に適しているユーザの腰部、胸部、または背部の上に担持されることを可能にし得ることである。これは、バッテリ等の比較的に重いまたは嵩張るコンポーネントに関して特に有利であり得る。
【0020】
図12は、上記に説明される、例示的ウェアラブル頭部デバイス900と、ハンドヘルドコントローラ1000と、補助ユニット1100とを含み得る等、例示的ウェアラブルシステム1200に対応し得る、例示的機能ブロック図を示す。いくつかの実施例では、ウェアラブルシステム1200は、仮想現実、拡張現実、または複合現実用途のために使用され得る。
図12に示されるように、ウェアラブルシステム1200は、ここでは「トーテム」と称される(および上記に説明されるハンドヘルドコントローラ1000に対応し得る)例示的ハンドヘルドコントローラ1200Bを含むことができ、ハンドヘルドコントローラ1200Bは、トーテム/ヘッドギヤ6自由度(6DOF)トーテムサブシステム1204Aを含むことができる。ウェアラブルシステム1200はまた、(上記に説明されるウェアラブル頭部デバイス900に対応し得る)例示的ヘッドギヤデバイス1200Aを含むことができ、ヘッドギヤデバイス1200Aは、トーテム/ヘッドギヤ6DOFヘッドギヤサブシステム1204Bを含む。実施例では、6DOFトーテムサブシステム1204Aおよび6DOFヘッドギヤサブシステム1204Bは、協働し、ヘッドギヤデバイス1200Aに対するハンドヘルドコントローラ1200Bの6つの座標(例えば、3つの平行移動方向におけるオフセットおよび3つの軸に沿った回転)を決定する。6自由度は、ヘッドギヤデバイス1200Aの座標系に対して表されてもよい。3つの平行移動オフセットは、そのような座標系内におけるX、Y、およびZオフセット、平行移動行列、またはある他の表現として表されてもよい。回転自由度は、ヨー、ピッチ、およびロール回転のシーケンス、ベクトル、回転行列、四元数、またはある他の表現として表されてもよい。いくつかの実施例では、ヘッドギヤデバイス1200A内に含まれる1つ以上の深度カメラ1244(および/または1つ以上の非深度カメラ)および/または1つ以上の光学標的(例えば、上記に説明されるようなハンドヘルドコントローラ1000のボタン1040またはハンドヘルドコントローラ内に含まれる専用光学標的)は、6DOF追跡のために使用されることができる。いくつかの実施例では、ハンドヘルドコントローラ1200Bは、上記に説明されるようなカメラを含むことができ、ヘッドギヤデバイス1200Aは、カメラと併せた光学追跡のための光学標的を含むことができる。いくつかの実施例では、ヘッドギヤデバイス1200Aおよびハンドヘルドコントローラ1200Bは、それぞれ、3つの直交して配向されるソレノイドのセットを含み、これは、3つの区別可能な信号を無線で送信および受信するために使用される。受信するために使用される、コイルのそれぞれの中で受信される3つの区別可能な信号の相対的大きさを測定することによって、ヘッドギヤデバイス1200Aに対するハンドヘルドコントローラ1200Bの6DOFが、決定されてもよい。いくつかの実施例では、6DOFトーテムサブシステム1204Aは、ハンドヘルドコントローラ1200Bの高速移動に関する改良された正確度および/またはよりタイムリーな情報を提供するために有用である、慣性測定ユニット(IMU)を含むことができる。
【0021】
拡張現実または複合現実用途を伴ういくつかの実施例では、座標をローカル座標空間(例えば、ヘッドギヤデバイス1200Aに対して固定される座標空間)から慣性座標空間に、または環境座標空間に変換することが、望ましくあり得る。例えば、そのような変換は、ヘッドギヤデバイス1200Aのディスプレイが、ディスプレイ上の固定位置および配向において(例えば、ヘッドギヤデバイス1200Aのディスプレイにおける同一の位置において)ではなく、仮想オブジェクトを実環境に対する予期される位置および配向において提示する(例えば、ヘッドギヤデバイス1200Aの位置および配向にかかわらず、前方に向いた実椅子に着座している仮想人物)ために必要であり得る。これは、仮想オブジェクトが、実環境内に存在する(かつ、例えば、ヘッドギヤデバイス1200Aが、偏移および回転するにつれて、実環境内に不自然に位置付けられて現れない)という錯覚を維持することができる。いくつかの実施例では、座標空間の間の補償変換が、慣性または環境座標系に対するヘッドギヤデバイス1200Aの変換を決定するために、(例えば、同時位置特定およびマッピング(SLAM)および/またはビジュアルオドメトリプロシージャを使用して)深度カメラ1244からの画像を処理することによって決定されることができる。
図12に示される実施例では、深度カメラ1244は、SLAM/ビジュアルオドメトリブロック1206に結合されることができ、画像をブロック1206に提供することができる。SLAM/ビジュアルオドメトリブロック1206実装は、本画像を処理し、次いで、頭部座標空間と実座標空間との間の変換を識別するために使用され得る、ユーザの頭部の位置および配向を決定するように構成される、プロセッサを含むことができる。同様に、いくつかの実施例では、ユーザの頭部姿勢および場所に関する情報の付加的源が、ヘッドギヤデバイス1200AのIMU1209から取得される。IMU1209からの情報は、SLAM/ビジュアルオドメトリブロック1206からの情報と統合され、ユーザの頭部姿勢および位置の高速調節に関する改良された正確度および/またはよりタイムリーな情報を提供することができる。
【0022】
いくつかの実施例では、深度カメラ1244は、ヘッドギヤデバイス1200Aのプロセッサ内に実装され得る、手のジェスチャトラッカ1211に、3D画像を供給することができる。手のジェスチャトラッカ1211は、例えば、深度カメラ1244から受信された3D画像を手のジェスチャを表す記憶されたパターンに合致させることによって、ユーザの手のジェスチャを識別することができる。ユーザの手のジェスチャを識別する他の好適な技法も、明白となるであろう。
【0023】
いくつかの実施例では、1つ以上のプロセッサ1216は、ヘッドギヤサブシステム1204B、IMU1209、SLAM/ビジュアルオドメトリブロック1206、深度カメラ1244、マイクロホン1250、および/または手のジェスチャトラッカ1211からデータを受信するように構成されてもよい。プロセッサ1216はまた、制御信号を6DOFトーテムシステム1204Aに送信し、それから受信することができる。プロセッサ1216は、ハンドヘルドコントローラ1200Bがテザリングされない実施例等では、無線で、6DOFトーテムシステム1204Aに結合されてもよい。プロセッサ1216はさらに、視聴覚コンテンツメモリ1218、グラフィカル処理ユニット(GPU)1220、および/またはデジタル信号プロセッサ(DSP)オーディオ空間化装置1222等の付加的コンポーネントと通信してもよい。DSPオーディオ空間化装置1222は、頭部関連伝達関数(HRTF)メモリ1225に結合されてもよい。GPU1220は、画像毎に変調された光の左源1224に結合される、左チャネル出力と、画像毎に変調された光の右源1226に結合される、右チャネル出力とを含むことができる。GPU1220は、立体視画像データを画像毎に変調された光の源1224、1226に出力することができる。DSPオーディオ空間化装置1222は、オーディオを左スピーカ1212および/または右スピーカ1214に出力することができる。DSPオーディオ空間化装置1222は、プロセッサ1216から、ユーザから仮想音源(例えば、ハンドヘルドコントローラ1200Bを介して、ユーザによって移動され得る)への方向ベクトルを示す入力を受信することができる。方向ベクトルに基づいて、DSPオーディオ空間化装置1222は、対応するHRTFを決定することができる(例えば、HRTFにアクセスすることによって、または複数のHRTFを補間することによって)。DSPオーディオ空間化装置1222は、次いで、決定されたHRTFを仮想オブジェクトによって発生された仮想音に対応するオーディオ信号等のオーディオ信号に適用することができる。これは、複合現実環境内の仮想音に対するユーザの相対的位置および配向を組み込むことによって、すなわち、その仮想音が、実環境内の実音である場合に聞こえるであろうもののユーザの予期に合致する仮想音を提示することによって、仮想音の信憑性および現実性を向上させることができる。
【0024】
図12に示されるもの等のいくつかの実施例では、プロセッサ1216、GPU1220、DSPオーディオ空間化装置1222、HRTFメモリ1225、およびオーディオ/視覚的コンテンツメモリ1218のうちの1つ以上のものは、補助ユニット1200C(上記に説明される補助ユニット1100に対応し得る)内に含まれてもよい。補助ユニット1200Cは、バッテリ1227を含み、そのコンポーネントを給電する、および/または電力をヘッドギヤデバイス1200Aおよび/またはハンドヘルドコントローラ1200Bに供給してもよい。そのようなコンポーネントを、ユーザの腰部に搭載され得る、補助ユニット内に含むことは、ヘッドギヤデバイス1200Aのサイズおよび重量を限定することができ、これは、ひいては、ユーザの頭部および頸部の疲労を低減させることができる。
【0025】
図12は、例示的ウェアラブルシステム1200の種々のコンポーネントに対応する要素を提示するが、これらのコンポーネントの種々の他の好適な配列も、当業者に明白となるであろう。例えば、補助ユニット1200Cと関連付けられるものとして
図12に提示される要素は、代わりに、ヘッドギヤデバイス1200Aまたはハンドヘルドコントローラ1200Bと関連付けられ得る。さらに、いくつかのウェアラブルシステムは、ハンドヘルドコントローラ1200Bまたは補助ユニット1200Cを完全に無くしてもよい。そのような変更および修正は、開示される実施例の範囲内に含まれるものとして理解されるものである。
【0026】
オーディオ空間化
【0027】
下記に説明されるシステムおよび方法は、上記に説明されるもの等の拡張現実または複合現実システムにおいて実装されることができる。例えば、拡張現実システムの1つ以上のプロセッサ(例えば、CPU、DSP)が、オーディオ信号を処理するために、または下記に説明されるコンピュータ実装方法のステップを実装するために使用されることができ、拡張現実システムのセンサ(例えば、カメラ、音響センサ、IMU、LIDAR、GPS)が、本システムのユーザまたはユーザの環境内の要素の位置および/または配向を決定するために使用されることができ、拡張現実システムのスピーカが、オーディオ信号をユーザに提示するために使用されることができる。
【0028】
上記に説明されるもの等の拡張現実または複合現実システムでは、1つ以上のプロセッサ(例えば、DSPオーディオ空間化装置1222)は、1つ以上のスピーカ(例えば、上記に説明される左および右スピーカ1212/1214)を介したウェアラブル頭部デバイスのユーザへの提示のために、1つ以上のオーディオ信号を処理することができる。いくつかの実施形態では、1つ以上のスピーカは、ウェアラブル頭部デバイスとは別個のユニット(例えば、ウェアラブル頭部デバイスと通信するヘッドホンの対)に属してもよい。オーディオ信号の処理は、知覚されるオーディオ信号の真正性、例えば、複合現実環境内のユーザに提示されるオーディオ信号が、オーディオ信号が実環境内で聞こえるであろう方法のユーザの予期に合致する程度と、オーディオ信号を処理する際に伴う算出オーバーヘッドとの間のトレードオフを要求する。仮想環境内でオーディオ信号を現実的に空間化することは、没入感および信憑性があるユーザ体験を作成することに対して重要であり得る。
【0029】
図1Aは、いくつかの実施形態による、空間化システム100A(以降、「システム100A」と称される)を図示する。システム100Aは、1つ以上のエンコーダ104A-Nと、ミキサ106と、1つ以上のスピーカ108A-Mとを含む。システム100Aは、音景内に提示されるべきオブジェクトに対応する入力音/信号を空間化することによって音景(音環境)を作成し、音景を1つ以上のスピーカ108A-Mを通して配信する。
【0030】
システム100Aは、1つ以上の入力信号102A-Nを受信する。1つ以上の入力信号102A-Nは、音景内に提示されるべきオブジェクトに対応するデジタルオーディオ信号を含んでもよい。いくつかの実施形態では、デジタルオーディオ信号は、オーディオデータのパルスコード変調(PCM)波形であってもよい。入力信号の合計数(N)は、音景内に提示されるべきオブジェクトの合計数を表し得る。
【0031】
1つ以上のエンコーダ104A-Nの各エンコーダは、1つ以上の入力信号102A-Nの少なくとも1つの入力信号を受信し、1つ以上の利得調節信号を出力する。例えば、いくつかの実施形態では、エンコーダ104Aは、入力信号102Aを受信し、利得調節信号を出力する。いくつかの実施形態では、各エンコーダは、音景を配信する1つ以上のスピーカ108A-Mのスピーカ毎に利得調節信号を出力する。例えば、エンコーダ104は、スピーカ108A-Mのそれぞれに関してM個の利得調節信号を出力する。スピーカ108A-Mは、上記に説明されるもの等の拡張現実または複合現実システムに属してもよく、例えば、スピーカ108A-Mのうちの1つ以上のものは、上記に説明されるもの等のウェアラブル頭部デバイスに属してもよく、オーディオ信号を本デバイスを装着するユーザの耳に直接提示するように構成されてもよい。音景内のオブジェクトが具体的場所/近接から生じるように見せるために、1つ以上のエンコーダ104A-Nの各エンコーダは、それに応じて、利得モジュールに入力される制御信号の値を設定する。
【0032】
1つ以上のエンコーダ104A-Nの各エンコーダは、1つ以上の利得モジュールを含む。例えば、エンコーダ104Aは、利得モジュールg_A1-AMを含む。いくつかの実施形態では、システム100Aにおける1つ以上のエンコーダ104A-Nの各エンコーダは、同数の利得モジュールを含んでもよい。例えば、1つ以上のエンコーダ104A-Nはそれぞれ、それぞれ、M個の利得モジュールを含んでもよい。いくつかの実施形態では、エンコーダ内の利得モジュールの合計数は、音景を配信するスピーカの合計数に対応する。各利得モジュールは、1つ以上の入力信号102A-Nの少なくとも1つの入力信号を受信し、入力信号の利得を調節し、利得調節信号を出力する。例えば、利得モジュールg_A1は、入力信号102Aを受信し、入力信号102Aの利得を調節し、利得調節信号を出力する。各利得モジュールは、1つ以上の制御信号CTRL_A1-NMの制御信号の値に基づいて、入力信号の利得を調節する。例えば、利得モジュールg_A1は、制御信号CTRL_A1の値に基づいて、入力信号102Aの利得を調節する。各エンコーダは、入力信号が対応する音景内に提示されるべきオブジェクトの場所/近接に基づいて、利得モジュールに入力される制御信号の値を調節する。各利得モジュールは、入力信号に、制御信号の値の関数である係数を乗算する、乗算器であってもよい。
【0033】
ミキサ106は、エンコーダ104A-Nから利得調節信号を受信し、利得調節信号を混合し、混合された信号をスピーカ108A-Mに出力する。スピーカ108A-Mは、ミキサ106から混合された信号を受信し、音を出力する。いくつかの実施形態では、ミキサ106は、1つのみの入力信号(例えば、入力102A)が、存在する場合、システム100Aから除去されてもよい。
【0034】
いくつかの実施形態では、本動作を実施するために、空間化システム(「空間化装置」)は、ユーザの外耳および頭部を通した、そしてその傍の音の伝搬および回折をシミュレートする頭部関連伝達関数(HRTF)フィルタの対を用いて、各入力信号(例えば、デジタルオーディオ信号(「源」))を処理する。HRTFフィルタの対は、ユーザの左耳に関するHRTFフィルタと、ユーザの右耳に関するHRTFフィルタとを含む。全ての源に関する左耳HRTFフィルタの出力は、ともに混合され、左耳スピーカを通して再生され、全ての源に関する右耳HRTFフィルタの出力は、ともに混合され、右耳スピーカを通して再生される。
【0035】
図1Bは、いくつかの実施形態による、空間化システム100B(以降、「システム100B」と称される)を図示する。システム100Bは、入力音/信号を空間化することによって音景(音環境)を作成する。
図1Bに図示されるシステム100Bは、
図1Aに図示されるシステム100Aに類似するが、いくつかの点において異なり得る。例えば、例示的システム100Aでは、ミキサ106の出力は、スピーカ108A-Mに入力される。システム100Bでは、ミキサ106の出力は、デコーダ110に入力され、デコーダ110の出力は、左耳スピーカ112Aおよび右耳スピーカ112B(以降、集合的に、「スピーカ112」と称される)に入力される。いくつかの実施形態では、ミキサ106は、1つのみの入力信号(例えば、入力102A)が、存在する場合、システム100Aから除去されてもよい。
【0036】
実施例では、デコーダ110は、左HRTFフィルタL_HRTF_1-Mと、右HRTFフィルタR_HRTF_1-Mとを含む。デコーダ110は、ミキサ106から混合された信号を受信し、混合された信号をフィルタ処理および合計し、フィルタ処理された信号をスピーカ112に出力する。例えば、デコーダ110は、ミキサ106から、音景内に提示されるべき第1のオブジェクトを表す第1の混合された信号を受信する。実施例を継続すると、デコーダ110は、第1の左HRTFフィルタL_HRTF_1および第1の右HRTFフィルタR_HRTF_1を通して第1の混合された信号を処理する。具体的には、第1の左HRTFフィルタL_HRTF_1は、第1の混合された信号をフィルタ処理し、第1の左のフィルタ処理された信号を出力し、第1の右HRTFフィルタR_HRTF_1は、第1の混合された信号をフィルタ処理し、第1の右のフィルタ処理された信号を出力する。デコーダ110は、第1の左のフィルタ処理された信号を、他の左のフィルタ処理された信号、例えば、左HRTFフィルタL_HRTF_2-Mからの出力と合計し、左出力信号を左耳スピーカ112Aに出力する。デコーダ110は、第1の右のフィルタ処理された信号を、他の右のフィルタ処理された信号、例えば、右HRTFフィルタR_HRTF_2-Mからの出力と合計し、右出力信号を右耳スピーカ112Bに出力する。
【0037】
いくつかの実施形態では、デコーダ110は、HRTFフィルタのバンクを含んでもよい。バンク内のHRTFフィルタはそれぞれ、ユーザの頭部に対する具体的方向をモデル化してもよい。いくつかの実施形態では、算出的に効率的なレンダリング方法が、使用されてもよく、仮想音源あたりの増分の処理費用は、最小限にされる。これらの方法は、空間関数の固定セットおよび基底フィルタの固定セットにわたるHRTFデータの分解に基づいてもよい。これらの実施形態では、ミキサ106からの各混合された信号は、源の方向に最も近い方向をモデル化するHRTFフィルタの入力に混合されてもよい。それらのHRTFフィルタのそれぞれに混合される信号のレベルは、源の具体的方向によって決定される。
【0038】
音景内に提示されるオブジェクトの方向および/または場所が、変化する場合、エンコーダ104A-Nは、音景内にオブジェクトを適切に提示するために、利得モジュールg_A1-NMに関する制御信号CTRL_A1-NMの値を変化させることができる。
【0039】
いくつかの実施形態では、エンコーダ104A-Nは、利得モジュールg_A1-NMに関する制御信号CTRL_A1-NMの値を瞬間的に変化させてもよい。しかしながら、
図1Aのシステム100Aおよび/または
図1Bのシステム100Bに関して、制御信号CTRL_A1-NMの値を瞬間的に変化させることは、システム100Aにおけるスピーカ108A-Mおよび/またはシステム100Bにおけるスピーカ112において音アーチファクトをもたらし得る。音アーチファクトは、例えば、「クリック」音であり得る。制御信号の値を瞬間的に変化させることに起因する音アーチファクトの深刻さは、利得変化の量および利得変化の時点における入力信号の振幅の組み合わせに依存し得る。
【0040】
そのような音アーチファクトを低減させるために、いくつかの実施形態では、エンコーダ104A-Nは、瞬間的にではなく、ある時間周期にわたって利得モジュールg_A1-NMに関する制御信号CTRL_A1-NMの値を変化させてもよい。いくつかの実施形態では、エンコーダ104A-Nは、入力信号102A-Nのあらゆるサンプル毎に制御信号CTRL_A1-NMに関する新しい値を算出してもよい。制御信号CTRL_A1-NMに関する新しい値は、以前の値とわずかにのみ異なり得る。新しい値は、線形曲線、指数関数的曲線等を辿り得る。本プロセスは、新しい方向/場所に関する要求される混合レベルに到達するまで、繰り返されてもよい。しかしながら、
図1Aのシステム100Aおよび/または
図1Bのシステム100Bに関して、入力信号102A-Nのあらゆるサンプル毎に制御信号CTRL_A1-NMに関する新しい値を算出することは、算出的に高価であり、時間がかかり得る。
【0041】
いくつかの実施形態では、エンコーダ104A-Nは、繰り返し、例えば、いくつかのサンプル毎に、2つのサンプル毎に、4つのサンプル毎に、10個のサンプル毎に、および同等物毎に1回ずつ、制御信号CTRL_A1-NMに関する新しい値を算出してもよい。本プロセスは、新しい方向/場所に関する要求される混合レベルに到達するまで、繰り返されてもよい。しかしながら、
図1Aのシステム100Aおよび/または
図1Bのシステム100Bに関して、いくつかのサンプル毎に1回ずつ、制御信号CTRL_A1-NMに関する新しい値を算出することは、システム100Aにおけるスピーカ108A-Mおよび/またはシステム100Bにおけるスピーカ112において音アーチファクトをもたらし得る。音アーチファクトは、例えば、「ジップ」音であり得る。
【0042】
音アーチファクトを低減させるために、いくつかの実施形態では、エンコーダは、ゼロクロスに関して入力信号を検索し、ゼロクロスの時点で、制御信号の値を調節してもよい。いくつかの実施形態では、エンコーダが、ゼロクロスに関して入力信号を検索し、ゼロクロスの時点で、制御信号の値を調節することは、多くの算出サイクルがかかり得る。しかしながら、入力信号が、直流(DC)バイアスを有する場合、エンコーダは、入力信号におけるゼロクロスを決して検出または決定し得ず、したがって、制御信号の値を決して調節しないであろう。したがって、ハイパスフィルタまたはDCブロッキングフィルタが、DCバイアスを低減/除去し、信号において十分なゼロクロスが存在することを確実にするために、エンコーダの前に導入されてもよい。システム(例えば、システム100Aおよび/またはシステム100B)のいくつかの実施形態では、ハイパスフィルタまたはDCブロッキングフィルタが、本システムにおける各エンコーダの前に導入されてもよい。いったんDCバイアスが、入力信号から低減/除去されると、エンコーダは、ゼロクロスに関してDCバイアスを伴わない入力信号を検索し、ゼロクロスの時点で、制御信号の値を調節し得る。ゼロクロスを検索することは、時間がかかり得る。本システムが、信号を変化させる他のコンポーネントまたはモジュールを含む場合、それらの他のコンポーネントまたはモジュールは、同様に、ゼロクロスに関して他のコンポーネントまたはモジュールに入力される信号を検索し、ゼロクロスの時点で、種々のコンポーネントまたはモジュールのパラメータの値を調節するであろう。
【0043】
非限定的実施例として、
図2Aは、エンコーダ204と、ミキサ206と、第1-第4のスピーカ208A-Dとを含む、システム200を図示する。例示的システム200は、システム100Aに類似するが、いくつかの点において異なり得る。システム200は、音景内に提示されるべきオブジェクトに対応する入力音/信号を空間化することによって音景(音環境)を作成し、音景を第1-第4のスピーカ208A-Dを通して配信する。
【0044】
システム200は、入力信号202を受信する。入力信号202は、音景内に提示されるべきオブジェクトに対応するデジタルオーディオ信号を含んでもよい。エンコーダ204は、入力信号202を受信し、4つの利得調節信号を出力する。エンコーダ204は、音景を配信する第1-第4のスピーカ208A-Dのスピーカ毎に利得調節信号を出力する。音景内のオブジェクトが具体的場所/近接から生じるように見せるために、エンコーダ204は、それに応じて、第1-第4の利得モジュールg_1-4に入力される制御信号の値を設定する。エンコーダ204は、第1-第4の利得モジュールg_1-4を含む。利得モジュールの合計数は、音景を配信するスピーカの合計数に対応する。第1-第4の利得モジュールg_1-4の各利得モジュールは、入力信号202を受信し、入力信号202の利得を調節し、利得調節信号を出力する。第1-第4の利得モジュールg_1-4の各利得モジュールは、第1-第4の制御信号CTRL_1-4の制御信号の値に基づいて、入力信号202の利得を調節する。例えば、第1の利得モジュールg_1は、第1の制御信号CTRL_1の値に基づいて、入力信号202の利得を調節する。エンコーダ204は、入力信号202が対応する音景内に提示されるべきオブジェクトの場所および/または近接に基づいて、第1-第4の利得モジュールg_1-4に入力される第1-第4の制御信号CTRL_1-4の値を調節する。ミキサ206は、エンコーダ204から利得調節信号を受信し、利得調節信号を混合し、混合された信号を第1-第4のスピーカ208A-Dに出力する。本実施例では、1つのみの入力信号202および1つのみのエンコーダ204が、存在するため、ミキサ206は、いかなる利得調節信号も混合しない。第1-第4のスピーカ208A-Dは、ミキサ106から混合された信号を受信し、音を出力する。
【0045】
図2Bは、第1-第4のスピーカ208A-Dと、ユーザ220とを含む、環境240を図示する。スピーカ208A-Dは、拡張現実システム(例えば、ウェアラブル頭部デバイスを含む)に属してもよく、ユーザ220は、拡張現実システムのユーザであってもよい。
図2Cは、環境240内の第1の場所/近接における仮想ハチ222-1を図示する。仮想ハチ222-1は、第1-第4のスピーカ208A-Dによって配信される音景内に提示されるべきオブジェクトである。仮想ハチ222-1は、ユーザ220による使用時に拡張現実システムのディスプレイにおいて視覚的に提示されてもよく、概して、音景が、仮想ハチ222-1の視覚的表示と一貫することが、望ましい。エンコーダ204は、仮想ハチ222-1に対応するデジタルオーディオ信号を含む、入力信号202を受信する。エンコーダ204は、仮想ハチ222-1の第1の場所/近接に基づいて、第1-第4の制御信号CTRL_1-4の値を設定する。
図2Dは、
図2Cに描写される仮想ハチ222-1の第1の場所/近接に基づく、第1-第4の制御信号CTRL_1-4の値を図示する。
図2Dに図示されるように、ユーザ220に対する仮想ハチ222-1の第1の場所/近接に基づいて、第1および第2の制御信号CTRL_1-2は、同一の非ゼロの値(例えば、0.5)を有し、第3および第4の制御信号CTRL_3-4は、ゼロの値を有する。すなわち、仮想ハチ222-1は、ユーザ220の直接正面に存在するものとして音景内に提示されるべきであるため、第1および第2の制御信号CTRL_1-2は、同一の非ゼロの値を有し、第3および第4の制御信号CTRL_3-4は、ゼロの値を有する。
【0046】
図2Eは、環境240内の第2の場所/近接における仮想ハチ222-2を図示する。エンコーダ204は、仮想ハチ222-2の第2の場所/近接に基づいて、第1-第4の制御信号CTRL_1-4の値を調節する。例えば、エンコーダ204は、仮想ハチ222-1が、第1の場所/近接に存在していたときの第1の制御信号CTRL_1の値に対して第1の制御信号CTRL_1の値を増加させ(例えば、0.75の値)、エンコーダ204は、仮想ハチ222-1が、第1の場所/近接に存在していたときの第2の制御信号CTRL_2の値に対して第2の制御信号CTRL_2の値を減少させ(例えば、0.25の値)、エンコーダ204は、第3-第4の制御信号CTRL_3-4のいかなる調節も行わず、これは、ゼロの値のままである。
【0047】
図2Fは、いくつかの実施形態による、
図2Eに描写される仮想ハチ222-2の第2の場所/近接に基づく、第1-第4の制御信号CTRL_1-4の値を図示する。
図2Fに図示されるように、エンコーダ204は、時間t_1において、第1および第2の制御信号CTRL_1-2の値を瞬間的に変化させる。上記に説明されるように、時間t_1において、第1および第2の制御信号CTRL_1-2の値を瞬間的に変化させることは、スピーカ208A-Dにおいて望ましくない音アーチファクトをもたらし得る。音アーチファクトは、例えば、「クリック」音であり得る。
【0048】
図2Gは、いくつかの実施形態による、
図2Eに描写される仮想ハチ222-2の第2の場所/近接に基づく、第1-第4の制御信号CTRL_1-4の値を図示する。
図2Gに図示されるように、エンコーダ204は、ある時間周期にわたって第1および第2の制御信号CTRL_1-2の値を変化させる。本実施形態では、エンコーダ204は、入力信号202のあらゆるサンプル毎に第1および第2の制御信号CTRL_1-2に関する新しい値を算出してもよい。第1および第2の制御信号CTRL_1-2に関する新しい値は、以前の値とわずかにのみ異なり得る。本プロセスは、新しい方向/場所に関する要求される混合レベルに到達するまで、繰り返されてもよい。例えば、プロセスは、第1の制御信号CTRL_1の値が、(例えば、0.5から0.75に)増加され、第2の制御信号CTRL_2の値が、(例えば、0.5から0.25に)減少されるまで、繰り返されてもよい。しかしながら、上記に言及されるように、入力信号202のあらゆるサンプル毎に第1および第2の制御信号CTRL_1-2に関する新しい値を算出することは、算出的に高価であり、時間がかかり得る。
【0049】
図2Hは、いくつかの実施形態による、
図2Eに描写される仮想ハチ222-2の第2の場所/近接に基づく、第1-第4の制御信号CTRL_1-4の値を図示する。
図2Hに図示されるように、エンコーダ204は、ある時間周期にわたって第1および第2の制御信号CTRL_1-2の値を変化させる。本実施形態では、エンコーダ204は、いくつかのサンプル毎に1回ずつ、第1および第2の制御信号CTRL_1-2に関する新しい値を算出してもよい。本プロセスは、新しい方向/場所に関する要求される混合レベルに到達するまで、繰り返されてもよい。しかしながら、上記に説明されるように、いくつかのサンプル毎に1回ずつ、第1および第2の制御信号CTRL_1-2に関する新しい値を算出することは、スピーカ208A-Dにおいて望ましくない音アーチファクトをもたらし得る。音アーチファクトは、例えば、「ジップ」音であり得る。
【0050】
図3Aは、いくつかの実施形態による、空間化システム300(以降、「システム300」と称される)を図示する。例示的システム300は、入力音/信号を空間化することによって音景(音環境)を作成する。
図3に図示されるシステム300は、
図1Aに図示されるシステム100Aに類似するが、いくつかの点において異なり得る。1つ以上のエンコーダ304A-N、ミキサ306、および1つ以上のスピーカ308A-Mに加えて、システム300は、1つ以上のプリエンファシスフィルタ332A-Nと、1つ以上のデエンファシスフィルタ334A-Mとを含む。1つ以上のプリエンファシスフィルタ332A-Nおよび1つ以上のデエンファシスフィルタ334A-Mの追加は、1つ以上のエンコーダ304A-Nが、スピーカ308A-Mにおける音アーチファクトを最小限にしながら、制御信号CTRL_A1-NMの値を瞬間的に変化させることを可能にする。いくつかの実施形態では、1つ以上のプリエンファシスフィルタ332A-Nおよび1つ以上のデエンファシスフィルタ334A-Nは、雑音を低減させる。1つ以上のプリエンファシスフィルタ332A-Nおよび1つ以上のデエンファシスフィルタ334A-Nは、相補フィルタであってもよい。1つ以上のプリエンファシスフィルタ332A-Nおよび1つ以上のデエンファシスフィルタ334A-Nは、ある場合には、DCが遮断される低周波数を除いて、相互に相殺してもよい。
【0051】
実施例では、1つ以上のプリエンファシスフィルタ332A-Nの各プリエンファシスフィルタは、1つ以上の入力信号302A-Nの少なくとも1つの入力信号を受信し、入力信号をフィルタ処理し、フィルタ処理された信号を1つ以上のエンコーダ304A-Nのエンコーダに出力する。各プリエンファシスフィルタは、例えば、入力信号から低周波数エネルギーを低減させることによって、少なくとも1つの入力信号をフィルタ処理する。プリエンファシスフィルタから出力されるフィルタ処理された信号の振幅は、入力信号の振幅よりもゼロに近いものであり得る。利得変化の量および利得変化の時点における入力信号の振幅の組み合わせに依存し得る、制御信号の値を瞬間的に変化させることに起因し得る音アーチファクトの深刻さは、フィルタ処理された信号の振幅がゼロに近いことによって軽減され得る。
【0052】
実施例では、1つ以上のエンコーダ304A-Nの各エンコーダは、入力信号、したがって、フィルタ処理された信号が対応する音景内に提示されるべきオブジェクトの場所/近接に基づいて、利得モジュールに入力される制御信号の値を調節することができる。各エンコーダは、スピーカ308A-Mにおいて音アーチファクトをもたらすことなく、瞬間的に制御信号の値を調節し得る。これは、各利得モジュールが、入力信号を直接調節するのではなく、フィルタ処理された信号(例えば、プリエンファシスフィルタ332A-Nの出力)の利得を調節するためである。
【0053】
実施例では、1つ以上のデエンファシスフィルタ334A-Nの各デエンファシスフィルタは、信号、例えば、ミキサ306から出力される1つまたは複数の混合された信号の混合された信号を受信し、混合された信号から信号を再構成し、再構成された信号を1つ以上のスピーカ308A-Mのスピーカに出力する。各デエンファシスフィルタは、例えば、信号から高周波数エネルギーを低減させることによって、信号をフィルタ処理することができる。いくつかの実施形態では、デエンファシスフィルタは、入力信号の振幅の全ての急激な変化を、波形の傾斜の変化に変えてもよい。
【0054】
制御信号の値を瞬間的に変化させることは、信号の波形の振幅の変化を引き起こし得、これは、主に、高周波数雑音を導入し得る。プリエンファシスフィルタは、少なくとも1つの入力信号の振幅を低減させる。デエンファシスフィルタは、信号の振幅の急激な変化を、低減された高周波数雑音を伴う波形の傾斜の変化に変える。
【0055】
図3Bは、いくつかの実施形態による、例示的プリエンファシスフィルタを図示する。プリエンファシスフィルタは、受信された信号を受信し、受信された信号をフィルタ処理し、伝送された信号を出力する。伝送された信号は、受信された信号のフィルタ処理されたバージョンである。プリエンファシスフィルタは、受信された信号の高周波数成分の振幅を維持または増幅しながら、受信された信号の低周波数成分の振幅を減少または減衰させてもよい。いくつかの実施形態では、プリエンファシスフィルタは、受信された信号の振幅をゼロにはるかに近づける。プリエンファシスフィルタは、受信された信号内に存在し得るいずれのDCオフセットも減衰させることに役立ち得る。いくつかの実施形態では、プリエンファシスフィルタは、ハイパスフィルタ、例えば、一次ハイパスフィルタを含んでもよい。いくつかの実施形態では、プリエンファシスフィルタは、一次微分フィルタを含んでもよい。一次微分フィルタは、減少する周波数(例えば、ナイキストからDCまで)を伴う約6デシベルの1オクターブあたりロールオフを有してもよい。その結果、低周波数において、受信された信号は、受信された信号のフィルタ処理されていないバージョンに対して大いに減衰され得る。
【0056】
図3Cは、いくつかの実施形態による、例示的デエンファシスフィルタを図示する。デエンファシスフィルタは、受信された信号を受信し、受信された信号をフィルタ処理し、伝送された信号を出力する。
図3Cの受信された信号および伝送された信号は、必ずしも、
図3Bの受信された信号および伝送された信号と同一ではないことに留意されたい。伝送された信号は、受信された信号のフィルタ処理されたバージョンである。デエンファシスフィルタは、受信された信号の低周波数成分の振幅を維持または増幅しながら、受信された信号の高周波数成分の振幅を減少または減衰させてもよい。いくつかの実施形態では、デエンファシスフィルタは、ローパスフィルタを含んでもよい。いくつかの実施形態では、デエンファシスフィルタは、積分器フィルタ、例えば、リーキー積分器を含んでもよい。リーキー積分器は、減少する周波数を伴う約6デシベルの1オクターブあたりブーストを有してもよい。その結果、低周波数において、受信された信号は、受信された信号のフィルタ処理されていないバージョンに対して大いに増幅され得る。いくつかの実施形態では、デエンファシスフィルタは、DCブロッキングフィルタを含んでもよい。
【0057】
図3Aに図示されるように、デエンファシスフィルタ334A-Mは、ミキサ306と1つ以上のスピーカ308A-Mとの間にあり得る。本実施形態では、デエンファシスフィルタ334A-Mの数は、1つ以上のスピーカ308A-Mの数と同一であり得る、ミキサ306の出力の数と同一であり得る。
【0058】
図4は、いくつかの実施形態による、空間化システム400(以降、「システム400」と称される)を図示する。システム400は、入力音/信号を空間化することによって音景(音環境)を作成する。
図4に図示されるシステム400は、
図3Aに図示されるシステム300に類似するが、いくつかの点において異なり得る。システム400では、1つ以上のデエンファシスフィルタ434A1-NMは、1つ以上のエンコーダ404A-Nとミキサ406との間にあり得る。本実施形態では、デエンファシスフィルタ434A1-NMの数は、1つ以上のエンコーダ404A-Nからの出力の数と同一であり得る。
【0059】
図5は、いくつかの実施形態による、空間化システム500(以降、「システム500」と称される)を図示する。システム500は、入力音/信号を空間化することによって音景(音環境)を作成する。
図5に図示されるシステム500は、
図1Bに図示されるシステム100Bに類似するが、いくつかの点において異なり得る。1つ以上のエンコーダ504A-N、ミキサ506、デコーダ510、左耳スピーカ512A、および右耳スピーカ512Bに加えて、システム500は、1つ以上のプリエンファシスフィルタ532A-Nと、左デエンファシスフィルタ534Aと、右デエンファシスフィルタ534Bとを含む。1つ以上のプリエンファシスフィルタ532A-Nおよび左および右デエンファシスフィルタ534A-Bの追加は、1つ以上のエンコーダ504A-Nが、左および右スピーカ512A-Bにおける音アーチファクトをもたらすことなく、制御信号CTRL_A1-NMの値を瞬間的に変化させることを可能にすることができる。いくつかの実施形態では、1つ以上のプリエンファシスフィルタ532A-Nおよび左および右デエンファシスフィルタ534A-Bは、雑音を低減させる。1つ以上のプリエンファシスフィルタ532A-Nは、
図3Bに図示され、上記に説明されるプリエンファシスフィルタと同一であり得る。左および右デエンファシスフィルタ534A-Bは、
図3Cに図示され、上記に説明されるデエンファシスフィルタと同一であり得る。
【0060】
図6は、いくつかの実施形態による、空間化システム600(以降、「システム600」と称される)を図示する。システム600は、入力音/信号を空間化することによって音景(音環境)を作成する。
図6に図示されるシステム600は、
図5に図示されるシステム500に類似するが、いくつかの点において異なり得る。システム600では、1つ以上のデエンファシスフィルタ634A-Mは、ミキサ606とデコーダ610との間にあり得る。本実施形態では、デエンファシスフィルタ634A-Mの数は、デコーダ610内の左および右HRTFフィルタ対の数と同一であり得る、ミキサ606の出力の数と同一であり得る。
【0061】
図7は、いくつかの実施形態による、空間化システム700(以降、「システム700」と称される)を図示する。システム700は、入力音/信号を空間化することによって音景(音環境)を作成する。
図7に図示されるシステム700は、
図5に図示されるシステム500に類似するが、いくつかの点において異なり得る。システム700では、1つ以上のデエンファシスフィルタ734A1-NMは、1つ以上のエンコーダ704A-Nとミキサ706との間にあり得る。本実施形態では、デエンファシスフィルタ734A1-NMの数は、1つ以上のエンコーダ704A-Nからの出力の数と同一であり得る。
【0062】
図8は、いくつかの実施形態による、空間化システム800(以降、「システム800」と称される)を図示する。システム800は、プリエンファシスフィルタ802と、事前処理モジュール804と、クラスタ化反射モジュール814と、反響モジュール816と、反響パンニングモジュール818と、反響オクルージョンモジュール820と、マルチチャネル非相関フィルタバンク822と、バーチャライザ824と、デエンファシスフィルタ826とを含む。
【0063】
いくつかの実施形態では、フィルタ806、クラスタ化反射814、反響モジュール816、反響パンニングモジュール818、および/または反響オクルージョンモジュール820は、1つ以上の制御信号の1つまたは複数の値に基づいて調節されてもよい。プリエンファシスフィルタ802およびデエンファシスフィルタ826を伴わない実施形態では、瞬間的に、および/または繰り返し制御信号の値を変化させることは、音アーチファクトをもたらし得る。プリエンファシスフィルタ802およびデエンファシスフィルタ826は、上記に説明されるもの等の音アーチファクトの深刻さを低減させ得る。
【0064】
示される実施例では、プリエンファシスフィルタ802は、3D源信号を受信し、3D源信号をフィルタ処理し、フィルタ処理された信号を事前処理モジュール804に出力する。3D源信号は、例えば、
図1A-1B、3A、および4-7に関して上記に説明される入力信号に類似し得る。プリエンファシスフィルタ802は、例えば、
図3A-3Bおよび4-7に関して上記に説明されるプリエンファシスフィルタに類似し得る。
【0065】
事前処理モジュール804は、1つ以上のフィルタ806と、1つ以上の事前遅延モジュール808と、1つ以上のパンニングモジュール810と、スイッチ812とを含む。
【0066】
プリエンファシスフィルタ802から受信されたフィルタ処理された信号は、1つ以上のフィルタ806に入力される。1つ以上のフィルタ806は、例えば、距離フィルタ、空気吸収フィルタ、源方向性フィルタ、オクルージョンフィルタ、妨害フィルタ、および同等物であってもよい。1つ以上のフィルタ806の第1のフィルタは、信号をスイッチ812に出力し、1つ以上のフィルタ806の残りのフィルタは、個別の信号を事前遅延モジュール808に出力する。
【0067】
スイッチ812は、第1のフィルタから出力される信号を受信し、信号を第1のパンニングモジュール、第2のパンニングモジュール、または両耳間時間差(ITD)遅延モジュールに指向する。ITD遅延モジュールは、第1の遅延信号を第3のパンニングモジュールに出力し、第2の遅延信号を第4のパンニングモジュールに出力する。
【0068】
1つ以上の事前遅延モジュール808は、それぞれ、個別の信号を受信し、受信された信号を遅延させ、受信された信号の遅延バージョンを出力する。第1の事前遅延モジュールは、第1の遅延信号を第5のパンニングモジュールに出力する。残りの遅延モジュールは、遅延信号を種々の反響送信バスに出力する。
【0069】
1つ以上のパンニングモジュール810は、それぞれ、個別の入力信号をバスにパンニングする。第1のパンニングモジュールは、信号を拡散バスにパンニングし、第2のパンニングモジュールは、信号を標準バスにパンニングし、第3のパンニングモジュールは、信号を左バスにパンニングし、第4のパンニングモジュールは、信号を右バスにパンニングし、第5のパンニングモジュールは、信号をクラスタ化反射バスにパンニングする。
【0070】
クラスタ化反射バスは、信号をクラスタ化反射モジュール814に出力する。クラスタ化反射モジュール814は、反射のクラスタを発生させ、反射のクラスタをクラスタ化反射オクルージョンモジュールに出力する。
【0071】
種々の反響送信バスは、信号を種々の反響モジュール816に出力する。反響モジュール816は、反響を発生させ、反響を種々の反響パンニングモジュール818に出力する。反響パンニングモジュール818は、反響を種々の反響オクルージョンモジュール820にパンニングする。反響オクルージョンモジュール820は、フィルタ806に類似するオクルージョンおよび他の性質をモデル化し、オクルージョン化されたパンニングされた反響を標準バスに出力する。
【0072】
マルチチャネル非相関フィルタバンク822は、拡散バスを受信し、1つ以上の非相関フィルタを適用し、例えば、フィルタバンク822は、非点源の音を作成するように信号を発散し、拡散された信号を標準バスに出力する。
【0073】
バーチャライザ824は、左バス、右バス、および標準バスを受信し、信号をデエンファシスフィルタ826に出力する。バーチャライザ824は、例えば、
図1Bおよび5-7に関して上記に説明されるデコーダに類似し得る。デエンファシスフィルタ826は、例えば、
図3A、3C、および4-7に関して上記に説明されるデエンファシスフィルタに類似し得る。
【0074】
本開示の種々の例示的実施形態が、本明細書に説明される。これらの実施例は、非限定的意味で参照される。それらは、本開示のより広範に適用可能な側面を例証するために提供される。種々の変更が、説明される本開示に行われてもよく、本開示の真の精神および範囲から逸脱することなく、均等物が代用されてもよい。加えて、多くの修正が、特定の状況、材料、組成物、プロセス、プロセス作用、またはステップを本開示の目的、精神、または範囲に適合させるために行われてもよい。さらに、当業者によって理解されるであろうように、本明細書に説明および図示される個々の変形例はそのそれぞれ、本開示の範囲または精神から逸脱することなく、他のいくつかの実施形態のうちのいずれかの特徴から容易に分離され得るか、またはそれと組み合わせられ得る、離散コンポーネントおよび特徴を有する。全てのそのような修正は、本開示と関連付けられる請求項の範囲内であることが意図される。
【0075】
本開示は、本主題のデバイスを使用して実施され得る方法を含む。本方法は、そのような好適なデバイスを提供する行為を含んでもよい。そのような提供は、エンドユーザによって実施されてもよい。換言すると、「提供する」行為は、単に、エンドユーザが、本主題の方法において必要なデバイスを取得する、それにアクセスする、それに接近する、それを位置付ける、それを設定する、それをアクティブ化する、それに電源を入れる、または別様にそれを提供するように作用することを要求する。本明細書に列挙される方法は、論理的に可能な列挙されたイベントの任意の順序およびイベントの列挙された順序で実行されてもよい。
【0076】
本開示の例示的側面は、材料選択および製造に関する詳細とともに、上記に記載されている。本開示の他の詳細に関して、これらは、上記に参照された特許および刊行物に関連して理解され、概して、当業者によって公知である、または理解され得る。同じことが、一般的または論理的に採用されるような付加的行為の観点から、本開示の方法ベースの側面に関しても当てはまり得る。
【0077】
加えて、本開示は、随意に、種々の特徴を組み込む、いくつかの実施例を参照して説明されているが、本開示は、本開示の各変形例に関して検討されるように説明または示されるものに限定されるものではない。種々の変更が、説明される開示に行われてもよく、均等物(本明細書に列挙されるか、またはある程度の簡潔目的のために含まれないかにかかわらず)が、本開示の真の精神および範囲から逸脱することなく代用されてもよい。加えて、値の範囲が、提供される場合、その範囲の上限と下限との間の全ての介在する値および任意の他の述べられた値または述べられた範囲内の介在値が、本開示内に包含されるものと理解されたい。
【0078】
また、説明される変形例の任意の随意の特徴は、独立して、または本明細書に説明される特徴のうちの任意の1つ以上のものと組み合わせて、記載および請求され得ることが検討される。単数形項目の言及は、存在する複数の同一項目が存在する可能性を含む。より具体的には、本明細書および本明細書に関連付けられる請求項で使用されるように、単数形「a」、「an」、「said」、および「the」は、別様に具体的に記載されない限り、複数の言及を含む。換言すると、冠詞の使用は、上記の説明および本開示と関連付けられる請求項における本主題の項目のうちの「少なくとも1つ」を可能にする。さらに、そのような請求項は、任意の随意の要素を除外するように起草され得ることに留意されたい。したがって、本文言は、請求項の要素の列挙と関連する「単に」、「のみ」、および同等物等の排他的専門用語の使用、または「消極的」限定の使用のための先行詞としての役割を果たすことが意図される。
【0079】
そのような排他的専門用語を使用しなければ、本開示と関連付けられる請求項における用語「~を備える」は、所与の数の要素がそのような請求項で列挙されるかどうかにかかわらず、任意の付加的要素の包含を可能にするものとする、または特徴の追加は、そのような請求項に記載される要素の性質を変換すると見なされ得る。本明細書で具体的に定義される場合を除いて、本明細書で使用される全ての技術および科学用語は、請求項の正当性を維持しながら、可能な限り広い一般的に理解されている意味を与えられるべきである。
【0080】
本開示の範疇は、提供される実施例および/または本明細書に限定されるものではなく、むしろ、本開示と関連付けられる請求項の用語の範囲のみによって限定されるものとする。