(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024032687
(43)【公開日】2024-03-12
(54)【発明の名称】空間内音源及び物体表面からの音源の3次元探査システム
(51)【国際特許分類】
H04R 3/00 20060101AFI20240305BHJP
G01H 11/02 20060101ALI20240305BHJP
G01S 3/808 20060101ALI20240305BHJP
G10K 11/34 20060101ALI20240305BHJP
【FI】
H04R3/00 320
G01H11/02 Z
G01S3/808
G10K11/34
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023137984
(22)【出願日】2023-08-28
(31)【優先権主張番号】P 2022135833
(32)【優先日】2022-08-29
(33)【優先権主張国・地域又は機関】JP
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 日本音響学会2023年春季研究発表会講演論文集pp.1027-1028 2023年3月1日掲載 [刊行物等]日本音響学会2023年春季研究発表会 オンライン発表(Zoom開催) 第6会場 スペシャルセッション(音環境の可視化・可聴化技術の動向1) https://www.mtg.acoustics.jp/detail.html#3-6-3 https://www.mtg.acoustics.jp/auth/venue_6.html 2023年3月17日開催 [刊行物等]https://s2023.siggraph.org/presentation/?id=pos_225&sess=sess389 https://dl.acm.org/doi/10.1145/3588028.3603682 2023年7月23日掲載 [刊行物等]SIGGRAPH 2023 Los Angeles Convention Center, West Lobby Entrance, Poster, Article No.38 2023年8月6日~10日開催 [刊行物等]https://confit.atlas.jp/guide/event/internoise2023/participant_login?eventCode=internoise2023 2023年8月20日掲載 [刊行物等]INTER-NOISE 2023 幕張メッセ国際会議場 2023年8月23日開催
(71)【出願人】
【識別番号】000235543
【氏名又は名称】飛島建設株式会社
(71)【出願人】
【識別番号】899000068
【氏名又は名称】学校法人早稲田大学
(74)【代理人】
【識別番号】100082658
【弁理士】
【氏名又は名称】伊藤 儀一郎
(72)【発明者】
【氏名】小林 真人
(72)【発明者】
【氏名】岩根 康之
(72)【発明者】
【氏名】佐藤 考浩
(72)【発明者】
【氏名】及川 靖広
(72)【発明者】
【氏名】井上 敦登
(72)【発明者】
【氏名】寺岡 航
(72)【発明者】
【氏名】草野 翼
(72)【発明者】
【氏名】後藤 昌彦
(72)【発明者】
【氏名】潘 明宇
【テーマコード(参考)】
2G064
5D220
5J083
【Fターム(参考)】
2G064AB13
2G064BA02
2G064BD02
2G064DD02
5D220BA06
5D220BC05
5J083BC01
5J083CA10
(57)【要約】
【課題】本発明は、3次元空間内において、音源の位置と共に音の伝搬状況さえも3次元的に解析できて3次元的な計測結果、すなわち立体的な音源の位置と音の伝搬状況が得られ、かつ前記3次元的計測結果を3次元の実空間上にリアルタイムで表現できる空間内音源の3次元探査システムを提供する。
【解決手段】本発明は、3次元空間内に3次元極座標もしくは3次元直交座標を設定し、該3次元極座標もしくは3次元直交座標内に3次元方向に散在させた複数仮想音源を配置し、配置した複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できるビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られることを特徴とする。
【選択図】
図1
【特許請求の範囲】
【請求項1】
3次元空間内に3次元極座標もしくは3次元直交座標を設定し、該3次元極座標もしくは3次元直交座標内に3次元方向に散在させた複数仮想音源を配置し、配置した複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できるビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とする空間内音源の3次元探査システム。
【請求項2】
3次元空間内に3次元極座標もしくは3次元直交座標を設定し、該3次元極座標もしくは3次元直交座標内に3次元方向に散在させた複数仮想音源を配置し、配置した複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できる最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とする空間内音源の3次元探査システム。
【請求項3】
物体の表面における点群座標を取得し、取得した点群座標を仮想音源として使用してなり、使用する複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できるビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とする物体の表面における音源の3次元探査システム。
【請求項4】
物体の表面における点群座標を取得し、取得した点群座標を仮想音源として使用してなり、使用する複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できる最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とする空間内音源の3次元探査システム。
【請求項5】
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、各仮想音源からマイクロホンまでの伝達関数であるステアリングベクトルの算出につき、当初時間に計算した前記ステアリングベクトルの算出結果をその後の時間経過後のアルゴリズム計算で用いる、
ことを特徴とする請求項2または請求項4記載の空間内音源の3次元探査システム。
【請求項6】
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、相関行列の逆行列の計算結果につき、前の時間に求めた前記相関行列の逆行列の計算結果から次の時間の相関行列の逆行列の計算結果を再帰的に求め、前記相関行列の逆行列の計算回数を削減した、
ことを特徴とする請求項2または請求項4記載の空間内音源の3次元探査システム。
【請求項7】
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、各仮想音源からマイクロホンまでの伝達関数であるステアリングベクトルa(r)と、マイクロホン間の相関行列R(k)の算出に際して、音の伝搬状況の情報が損なわせない範囲で仮想音源の計算点数が調整できる、
ことを特徴とする請求項2または請求項4記載の空間内音源の3次元探査システム。
【請求項8】
前記算出された3次元の音圧レベル分布が3次元の実空間上にMR・ARデバイスで重畳表示できて立体的に可視化できる、
ことを特徴とする請求項1、請求項2、請求項3または請求項4記載の空間内音源の3次元探査システム。
【請求項9】
前記MR・ARデバイスで3次元の実空間上に重畳表示された3次元の音圧レベル分布を2次元の音圧レベル分布の表示に変換出来る、
ことを特徴とする請求項8記載の空間内音源の3次元探査システム。
【請求項10】
前記MR・ARデバイスで3次元の実空間上に重畳表示された3次元の音圧レベル分布を複数の2次元の音圧レベル分布表示に変換し、変換した複数の2次元の音圧レベル分布表示が擬似的な3次元音圧レベル分布表示となる、
ことを特徴とする請求項8記載の空間内音源の3次元探査システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば、現実の3次元空間内での奥行き方向を含む異なる位置からの音のそれぞれ音圧レベルを3次元的に計測でき、また例えば3次元空間を囲む壁や床など物体の表面からの音(例えば反射音、遮音した壁などから漏れる音漏れ音)の音圧レベルを3次元的に計測でき、かつ前記それぞれの音圧レベル分布の計測結果をリアルタイムで現実の3次元空間上あるいは3次元空間内における物体の表面上にデータ化して立体的に表示して可視化できるシステムとした空間内音源及び物体表面からの音源の3次元探査システムに関するものである。
【背景技術】
【0002】
従来の空間内の音源探査装置としては、複数のマイクロホンを球面上に配置して構成されたマイクロホンアレイを用いて前記空間内の音源位置を算出し、カメラで撮影した画像上に前記算出結果を重畳するもの(特許文献1)や、同一平面上ではない位置で近接させた4点のマイクロホンを用いて、コンサートホールのような反射音の多い空間での音の到来方向を表示するものが一般に知られている(特許文献2)。
【0003】
しかしながら、前記特許文献1による探査装置では、3次元空間を360°スキャンして音源位置を探査することはできるが、発生源からの音の伝搬状況を3次元的に把握すること、すなわち立体的に把握することが出来なかった。また、フラッターエコーなどの音響障害に対して詳細な検証を行うことは難しいとの課題があった。
【0004】
また特許文献2による装置では、音の到来方向を計測できるため音源方向や反射面を把握することができるが、やはり3次元空間上での音源の位置を立体的に特定することができないとの課題があった。さらに、前記特許文献1及び特許文献2に示された両装置での計測結果は、対象空間の切り取られた平面的画像もしくは平面的図面上に重畳して2次元的に表示されものであり、3次元的、すなわち立体的に前記計測結果を把握することが出来ないため、立体的な状態で直感的に結果を理解するのは難しいといった課題があった。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2009-257944号公報
【特許文献2】特開2009-246827号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、前記従来の課題を解決するために創案されたものであり、3次元空間内において、音源の位置と共に音の伝搬状況さえも3次元的に解析できて3次元的な計測結果、すなわち立体的な音源の位置と音の伝搬状況が得られ、かつ前記3次元的計測結果を3次元の実空間上にリアルタイムで表現できる空間内音源の3次元探査システムを提供することを目的とするものである。
【課題を解決するための手段】
【0007】
本発明は、
3次元空間内に3次元極座標もしくは3次元直交座標を設定し、該3次元極座標もしくは3次元直交座標内に3次元方向に散在させた複数仮想音源を配置し、配置した複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できるビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とし、
または、
3次元空間内に3次元極座標もしくは3次元直交座標を設定し、該3次元極座標もしくは3次元直交座標内に3次元方向に散在させた複数仮想音源を配置し、配置した複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できる最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とし、
または、
物体の表面における点群座標を取得し、取得した点群座標を仮想音源として使用してなり、使用する複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できるビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とし、
または、
物体の表面における点群座標を取得し、取得した点群座標を仮想音源として使用してなり、使用する複数仮想音源の音圧レベルを、複数のマイクロホンに前記仮想音源からの音が到達する際の時間差をもとに、特定方向・位置における仮想音源の音圧レベルが推定できる最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングにより解析し、解析した解析結果から3次元の音圧レベル分布が得られる、
ことを特徴とし、
または、
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、各仮想音源からマイクロホンまでの伝達関数であるステアリングベクトルの算出につき、当初時間に計算した前記ステアリングベクトルの算出結果をその後の時間経過後のアルゴリズム計算で用いる、
ことを特徴とし、
または、
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、相関行列の逆行列の計算結果につき、前の時間に求めた前記相関行列の逆行列の計算結果から次の時間の相関行列の逆行列の計算結果を再帰的に求め、前記相関行列の逆行列の計算回数を削減した、
ことを特徴とし、
または、
前記最小分散無歪応答法 (MVDR)によるアルゴリズムを用いたビームフォーミングによる解析につき、所定時間経過毎に複数回の解析を行うとき、
解析に使用する前記アルゴリズムのうち、各仮想音源からマイクロホンまでの伝達関数であるステアリングベクトルa(r)と、マイクロホン間の相関行列R(k)の算出に際して、音の伝搬状況の情報が損なわせない範囲で仮想音源の計算点数が調整できる、
ことを特徴とし、
または、
前記算出された3次元の音圧レベル分布が3次元の実空間上にMR・ARデバイスで重畳表示できて立体的に可視化できる、
ことを特徴とし、
または、
前記MR・ARデバイスで3次元の実空間上に重畳表示された3次元の音圧レベル分布を2次元の音圧レベル分布の表示に変換出来る、
ことを特徴とし、
または、
前記MR・ARデバイスで3次元の実空間上に重畳表示された3次元の音圧レベル分布を複数の2次元の音圧レベル分布表示に変換し、変換した複数の2次元の音圧レベル分布表示が擬似的な3次元音圧レベル分布表示となる、
ことを特徴とするものである。
【発明の効果】
【0008】
本発明によれば、3次元空間内において、あるいは例えば3次元空間を囲む壁や床など物体の表面上において、音源の位置と共に音の伝搬状況さえも3次元的に解析できて3次元的な計測結果、すなわち立体的な音源の位置と音の伝搬状況が得られ、かつ前記3次元的計測結果を3次元の実空間上においてもリアルタイムで表現できる空間内音源の3次元探査システムを提供できるとの効果を奏する。
【0009】
さらに、ビームフォーミングによる解析で3次元的に示した音圧レベル分布データを現実の3次元空間においてそれぞれリアルタイムに計測できて、計測したデータを現実の3次元空間上に重畳表示できると共に、前記3次元的音圧レベル分布データをカラー表示で色分けした音圧レベル分布図にすることが出来、該カラー表示で色分けした音圧レベル分布図を現実の空間である3次元空間内に重畳表示し、もって奥行方向の異なった位置での音圧レベル情報についても確実に把握、認識できるとの優れた効果を奏する。
【図面の簡単な説明】
【0010】
【
図1】本発明の概略構成を説明する概略構成説明図である。
【
図2】所定空間内の3次元音圧レベルの算出を説明する説明図である。
【
図3】所定空間内の3次元音圧レベル分布の算出を説明する説明図である。
【
図4】MVDRビームフォーマの導出を説明する説明図(1)である。
【
図5】MVDRビームフォーマの導出を説明する説明図(2)である。
【
図6】MVDRビームフォーマによる解析の具体例を説明する説明図である。
【
図7】3次元極座標上に複数の仮想音源を配置した状態を説明する説明図である。
【
図8】MVDRビームフォーマによる解析で3次元極座標上に3次元音圧レベル分布が表示された状態を説明する説明図である。
【
図9】MVDRビームフォーマによる解析で3次元直交座標上に3次元音圧レベル分布が表示された状態を説明する説明図である。
【
図10】ビームフォーマによる解析速度の向上に向けたアルゴリズムの改良について説明する説明図(1)である。
【
図11】ビームフォーマによる解析速度の向上に向けたアルゴリズムの改良について説明する説明図(2)である。
【
図12】ビームフォーマによる解析速度の向上に向けたアルゴリズムの改良について説明する説明図(3)である。
【
図13】ビームフォーマによる解析速度の向上に向けたアルゴリズムの改良について説明する説明図(4)である。
【
図14】算出した3次元音圧レベル分布をMRあるいはARデバイス実空間上で表示した状態を説明する説明図である。
【
図15】算出した3次元音圧レベル分布をMRあるいはARデバイス実空間上で任意の断面に切り出して可視化した状態を説明する説明図である。
【
図17】3次元空間内物体の表面上での3次元音圧レベルを可視化した状態を説明する説明図である。
【発明を実施するための形態】
【0011】
以下、本発明を図に示す実施例に基づいて説明する。
図1に本発明の概略構成を示す。
本発明は収録部1を有している。また、例えばPCに設けられた解析処理部2を有している。さらに、タブレットや端末に設けられた3次元の可視化処理部3を有している。
【0012】
ここで、前記収録部1には複数のマイクロホンで構成されたマイクロホンアレイ4あるいはARマーカ5などが該当する。尚、ARマーカ5は、前記解析処理部2で解析された音圧レベルをタブレットや端末に設けられた3次元の可視化処理部3に入力される際、該音圧レベル分布を3次元の実空間上に3次元の音圧レベル分布として重畳表示する際に使用されるものとなる。
【0013】
ここで、ARマーカ5とは3Dコンテンツ動画などのデジタルコンテンツを表示させる目印となる画像をいい、該画像を事前に登録しておくことでARマーカ5として機能する。MRデバイス6あるいはARデバイス7などが有する3次元の可視化処理部3ではARマーカ5に設定した画像を認識し、コンテンツを表示する仕組みとなっている。
【0014】
次に、解析処理部2は、各仮想音源からの音が前記マイクロホンアレイ4で収録された収録データが保存される格納部8を有している。
また、計測パラメータ設定部9を有している。計測パラメータ設定部9においては、各仮想音源の音圧レベルの計測範囲、仮想音源数、FFT条件などが設定される。
【0015】
さらに、ビームフォーミング処理部10を有している。該ビームフォーミング処理部10では、前記収録データや各仮想音源における音圧レベルの計測範囲、仮想音源数、FFT条件などの計測パラメータが用いられてビームフォーミング処理され、3次元の音圧レベル分布が算出されることになる。そして、算出された3次元の音圧レベル分布はタブレットやディスプレイなどの表示部11で3次元の状態で可視化される。
【0016】
また、算出された3次元の音圧レベル分布は例えばバイナリーデータに変換され、PCの送信部により、タブレットや端末に設けられた3次元の可視化処理部3へ送信される。そして、送信されたバイナリーデータとしての3次元の音圧レベル分布は符号12に示すように3次元の実空間上に3次元の音圧レベル分布として表示されるものとなる。その際、前述したようにARマーカ5が使用される。
【0017】
本発明による空間内音源の3次元探査システムでは、第1に3次元空間内における空間での音源等の探査が行える。
【0018】
まず、3次元空間内に3次元極座標13もしくは3次元直交座標14が設定される。次いで設定された3次元極座標13もしくは3次元直交座標14内に仮の音源、すなわち仮想音源を例えば複数の数につき空間内に間隔をあけて配置するものとされる(
図7参照)。
図7から理解されるように仮想音源は大量数の黒点で示す如く配置される。
そして3次元空間内に配置された前記仮想音源からのそれぞれの音につき、マイクロホンアレイ4を構成する複数のマイクロホンで集音し、収録する。
【0019】
集音、収録後、前記複数のマイクロホンに到達する際の前記仮想音源からの音の到達時間差をもとに、特定の方向・位置における前記それぞれの仮想音源からの音の音圧レベルをビームフォーミング処理部10においてビームフォーミング処理されて解析される。そして、解析した結果から3次元空間内における前記仮想音源の3次元音圧レベル分布が算出されるシステムとして構成されているものである。
これによって、3次元空間内において、音源の位置と共に音の伝搬状況さえも3次元的に解析できて3次元的な立体的な音源の位置と音の伝搬状況が得られる。
【0020】
次に、例えば3次元空間内における物体の表面上より生ずる音源(例えば反射音、壁などからの音漏れ音)等の3次元探査システムにつき説明する。
本システムでは、主に、例えばLiDAR等の3Dレーザスキャナにより、測定対象空間に存する物体(対象空間を囲む床、壁および天井や、対象空間上に設置された什器および資機材など)上の点群データを取得する。そして、この取得した点群データのうちの点群座標が仮想音源として使用される。
【0021】
3次元極座標13もしくは3次元直交座標14を設定して物体の表面上の音源等の3次元探査を行うことも可能である。しかしながら、前記点群データの使用と比較すると極めて複雑で面倒な作業を有する。さらに、点群データを使用する場合であれば、3次元極座標13もしくは3次元直交座標14を設定して使用する場合より、より正確により明確に音源の位置や音の伝搬状況を表現できる。
【0022】
よって、床、壁、天井、什器および資機材などの物体の表面上の音源等の3次元探査を行うには、前記点群データの座標を用い、これを仮想音源とするのが好ましい。
すなわち、LiDAR技術(レーザー光を物体に照射して形状や距離を測定する技術)によって、3次元空間を囲む床・壁・天井や3次元空間内の什器・資機材など物体の点群座標を取得する。
【0023】
次いで、取得した物体表面の点群座標を音圧レベル分布の計算点である仮想音源とするのである。
例えばスマートフォン、タブレット、眼鏡型MRデバイスなどLiDARセンサが搭載された各種のデバイスを用いることも出来、極めて簡易な方法で3次元空間を囲む床・壁・天井や3次元空間内の什器・資機材など物体表面の立体的な音源の位置と音の伝搬状況が解析できる操作が行える。
【0024】
ここで、まず測定対象空間の点群情報(床、壁、天井、机などの物体の形状)を前記LiDARセンサで取得する。そして、前記取得した点群座標を仮想音源として用い、点群座標内でマイクロホンアレイの位置を定義することにより各点群座標(仮想音源)とマイクロホン間の距離が決まり、その情報からMVDRビームフォーマによる解析が実施出来るものとなる。
すなわち、前述したように物体の表面上にある複数の点群を仮想音源とし、該仮想音源からのそれぞれの音(例えば反射音)につき、マイクロホンアレイ4を構成する複数のマイクロホンで集音し、収録する。
【0025】
集音、収録後、前記複数のマイクロホンに到達する際の前記仮想音源からの音の到達時間差をもとに、特定の方向・位置における前記それぞれの仮想音源からの音の音圧レベルをビームフォーミング処理部10においてビームフォーミング処理されて解析する。そして、解析した結果から床、壁、天井、机などの物体の表面上の音源の3次元音圧レベル分布が算出できるものとなる。
【0026】
このように本システムでは、物体表面での音の情報(反射音、遮音した壁から漏れる直接的な音漏れ音など)を可視化することが出来、これにより、界壁の遮音欠損部を可視化することも出来る。また、壁面での反射音の発生状況を可視化し、吸音対策の検討に用いることも出来る。
すなわち、本システムの概要をまとめると、スマートフォンなどLiDARセンサが搭載された各種のデバイスにより、測定対象空間の点群座標(床、壁、天井、机などの物体の形状)を取得し、点群情報を解析すべく、PCの解析処理部2に読み込ませ、点群座標内でマイクロホンアレイの位置を定義することにより各点群座標とマイクロホン間の距離が決まり、その情報からMVDRビームフォーマによる解析が行われるのである。
【0027】
尚、音圧レベル分布の可視化のため、MRデバイスなど可視化デバイスでマイクロホンアレイの位置を読み込み、音圧レベル分布の3DCGが現実の物体とぴったり合うように、例えばマイクロホンアレイに取り付けられたマーカを使用して調整する。
そして、MRデバイスなどにより、物体表面上の音圧レベル分布が可視化されるものとなる。
【0028】
図17には本システムの概要が示されており、観測する3次元空間の3Dデータの取得には、LiDARが搭載されたスマートフォンなどの小型デバイスを用いることが出来る。また、録音には例えば12ch.平面マイクロホンアレイが用いられ、オーディオインターフェースを通してPCに接続される。
LiDARスキャナによる観測する3次元空間の3Dデータは、点の集合体である点群データとして取得される。点群データの各点が位置情報を持つことを利用し、それぞれの点の位置に仮想的な音源があると仮定して仮想音源位置rでのMVDRビームフォーマの時間平均出力パワーを計算する。
【0029】
その後、計算結果、すなわち物体表面の立体的な音源の位置と音の伝搬状況などが表現された仮想映像がMRデバイスなどを用いて、現実の3次元空間である3Dデータ上に重畳して表示されることで、現実の音源の位置などが推定できる。
尚、仮想音源位置の設定、ビームフォーマの出力の計算、計算結果の3Dデータへの重畳は、数値計算ソフトウェアで行える。
【0030】
図17に、本システムによる反射音の可視化実験を行っている。実験装置(スピーカやマイクロホンアレイ)を会議室に設置したのち、スマートフォンに搭載されたLiDARを用いてスキャンを行った際の3Dデータを示した。
スピーカを部屋の中央に、マイクロホンアレイを部屋の手前側に設置した。壁からの反射音を確認するために、スピーカは左側の壁に向けて斜めに設置し、音源を再生した。その実験結果が
図17に示した。会議室の3Dデータに、MVDRビームフォーマの出力結果を重畳して表示した。
図17によりスピーカの近傍位置と左の壁の一部に高い出力を示す仮想映像が確認できる。このように物体表面の立体的な音源の位置と音の伝搬状況の仮想映像により、スピーカからの直接音と、左の壁からの反射音を確認することができる。
【0031】
本システムでは、会議室の画像データ上に音源位置推定結果を重畳して表示することによって、どこから音が発生しているかも視覚的にわかりやすく表すことができるのである。
【0032】
本システムでは、3次元音源位置推定においてLiDARによって取得した点群データの利用を創案した。比較的簡易に使えるようになってきているLiDARを用い観測空間の3Dデータを取得し、その3Dデータを利用して音源位置推定(音圧レベルを算出)しその結果を実際の空間の画像に重畳することで、音源が実際の空間のどこにあるのかをわかりやすく表示することを可能にしたものである。
反射音の可視化実験では、実験室と実験装置の画像データに音源位置推定結果を重ね合わせることで、スピーカからの直接音と壁からの反射音を視覚的に確認することができるのである。
【0033】
なお、点群座標を取得する方法については何ら限定するものではなく、上記のような3Dレーザスキャナ(LiDAR)による方法の他にも、例えば写真測量のように画像を利用して点群座標を取得する方法、360度カメラの画像を利用して点群座標を取得する方法、BIMやCIM等の設計データを利用して点群座標を取得する方法等のように、点群座標を取得できる方法であれば適用できる。
【0034】
前記3次元極座標13もしくは3次元直交座標14を設定したビームフォーミングによる解析及び点群座標を用いたビームフォーミングによる解析には、遅延和法(DS法)、最尤法(ML法)、最小分散無歪法(MVDR法)などによる解析法がある(
図2参照)。しかるに本発明の第1発明では3次元極座標13もしくは3次元直交座標14を用いたビームフォーミング解析法の種類について何ら限定するものではない。
【0035】
しかしながら、本発明では空間内音源の3次元探査システムについて、マイクロホンアレイ4を構成する複数のマイクロホンに到達する際の音についての時間差をもとに、特定の方向・位置における音圧レベルを、特に最小分散無歪応答法 (MVDR)のアルゴリズムを用いたビームフォーミングにより解析し算出するものとした(
図3参照)。これにより、明瞭、確実な解析し算出した結果が得られ、もって3次元の音圧レベル分布が立体的に明瞭に算出できて認識できるシステムを提供できる。
【0036】
ここで、最小分散無歪応答法 (MVDR)による解析、算出に使用されるアルゴリズムは、
図3、
図4、
図5に示してある。
アルゴリズムとは、コンピュータにプログラムの形で与えて実行できるよう定式化された、処理手順の集合をいい、MVDRによる解析、算出に使用されるアルゴリズムは、最小分散無歪応答法 (Minimum Variance Distortionless Response; MVDR)を用いた音源分離が行えるアルゴリズムになっている。
【0037】
そして、該アルゴリズムでは目的音源を歪ませない線形拘束条件の下で、出力パワーを最小化するような分離行列が求められるものとなっている。
これにより、音源位置と音の伝搬状況とを3次元的(立体的)に明瞭に解析出来るものとなった。
【0038】
本発明において、前記配置した複数の仮想音源につき、例えばマイクロホンアレイ4を構成する4chマイクロホンで収録した仮想音源からの音から3次元極座標13もしくは3次元直交座標14上の各音圧レベルを解析、算出していくのである。前記ビームフォーミング処理部10によるMVDRビームフォーマでの解析、算出には
図3に示すアルゴリズムが用いられる。
かかる
図3に示すアルゴリズムを用いた3次元極座標13もしくは3次元直交座標14上の各音圧レベルの解析、算出は、例えばPC内の制御部、すなわち解析処理部2におけるビームフォーミング処理部10で行われることはすでに述べた。
【0039】
図3に示すアルゴリズムにおいて、P
MVDRは仮想音源のパワー、換言すれば音圧レベルを指標する。また、rは仮想音源の位置を示す。さらに、a(r)はステアリングベクトルを示す。
ステアリングベクトルとは、各マイクロホンで収録される信号の遅延などを考慮した音源からマイクロホンまでの伝達関数をいう。また、Rは観測信号ベクトル(各マイクロホン間)の相関行列を示す。
【0040】
しかるに、
図3に示すアルゴリズムをビームフォーミング処理部10によって解析、算出することで、複数想定する仮想音源の音圧レベル分布を3次元的(立体的)に把握することが出来るのである(
図8、
図9参照)。
【0041】
さらに、本発明では、
図3によるアルゴリズムをビームフォーミング処理部10で解析、算出する仮想音源パワーを一定間隔毎に複数回にわたって求めることも出来る。これによって時間的変動を伴う音圧レベル分布の変動を3次元的(立体的)に把握することが可能となる。すなわち、
図8あるいは
図9に示された音圧レベル分布の変動を時間の経過毎に可視化提供でき、もって音圧レベルの変動状態が時間の経過に従って確実に認識できるものとなる。
【0042】
また、前述したように、前記3次元音圧レベル分布の解析結果については3次元の実空間上に重畳して表示させることも出来るものともなっている(
図14参照)。
尚、前記
図3に示すMVDRビームフォーマのアルゴリズムによる解析、算出の概略、具体例を説明する。説明の簡略化のため、平面での解析状態として
図6に例示する。
【0043】
図6から理解されるように、解析範囲を10m、仮想音源点数を9点に設定してある。そして、
図6に示す如くに仮想音源を略格子状に配置しておく。その後、仮想音源から各マイクロホンまでの経路長より、到達する音の時間ずれを算出するのである。
【0044】
算出例)
ch1:12.7(経路長)÷340(音速)=0.037秒(到達時間)
ch2:12.9(経路長)÷340(音速)=0.038秒(到達時間)
前記到達時間の差がマイクロホン間の時間ずれとなる。
【0045】
ここで、各仮想音源について、マイクロホン間の時間ずれをa(r)として定義する。ついで、収録した音波について、マイクロホン間の相関行列R(k)を算出する。相関行列R(k)の算出例は
図6に示す。
そして、前記算出した時間ずれであるa(r)の値と
図6の算出例から求められたR(k)の値により、各仮想音源のパワー(P
MVDR)、すなわち各仮想音源の音圧レベルが算出できることになる。
【0046】
ところで、本発明では、前記時間的経過毎に時系列的に複数の解析結果を迅速に解析、算出し、リアルタイムで出力する要望にも応えている。すなわち所定時間経過毎の複数の仮想音源の音圧レベル分布を迅速に解析、算出し、リアルタイムで出力できるのである。
その場合において、仮想音源点数の削減調整や時間がかかる計算式の省略など、コンピュータ内のビームフォーミング処理部10によるアルゴリズム算出の高速化に関する改良が極めて重要となる(
図10参照)。
【0047】
すなわち、仮想音源パワーを一定時間の間隔毎に求めることによって時間的変動を伴う音圧レベル分布を3次元的(立体的)に迅速にリアルタイムに把握したいときにおいても、前述の
図8あるいは
図9に示された音圧レベル分布を所定時間の経過毎に時系列的に迅速に、リアルタイムに複数取得でき、もって音圧レベルの変動状態が時間の経過毎に明確に確認、認識できるものとなる。
そのため、第一の改良点としては、ビームフォーミング処理部10によるアルゴリズム算出における計算式の省略を企図すべくステアリングベクトルの算出についての改良を行った。
【0048】
すなわち、
図11に示す様に、各仮想音源からマイクロホンまでの伝達関数であるステアリングベクトルをフレームごとに、すなわち所定の時間の経過毎に計算するのではなく、事前に計算した結果、例えば当初の時間のときに計算した算出結果をその後の各フレーム、すなわち、その後の時間経過後のアルゴリズム計算で用いることとし、その結果、計算式の省略を図ったものである。
【0049】
次に、第二の改良点としては、仮想音源パワー、すなわち仮想音源の音圧レベルを算出する際に必要である相関行列の逆行列を、前記第一の改良点と同様に前フレーム(前の時間)の結果から再帰的に求め、その後の時間における逆行列の計算回数を削減することで計算時間を短縮させたものである(
図12)。
【0050】
さらに、第三の改良点としては、仮想音源点数の調整が行えることとした。マイクロホン間の時間ずれa(r)と、マイクロホン間の相関行列R(k)の算出に際して、仮想音源点数が多い程、算出に時間を要する。しかし、逆に仮想音源点数が少なすぎると各仮想音源のパワー(PMVDR)が明瞭に算出できず、明瞭な音圧レベル分布が得られなくなる。
【0051】
そこで、音の伝搬状況の情報が損なわれない範囲で計算点数を調整出来るように構成した。すなわち、あくまで音の伝搬状況の情報が損なわれないことを前提としてコンピュータに設けられたビームフォーミング処理部10によるアルゴリズム計算をコンピュータ操作者が所望する計算速度まで高速化出来るよう仮想音源点数の調整、換言すれば仮想音源密度の調整が出来るようにしたのである(
図13参照)。
【0052】
さらに、前述したように本発明では、音圧レベル分布の解析結果を実空間上で重畳して表示出来るようにするため、例えばMRデバイス6あるいはARデバイス7による可視化が出来るように構成されている(
図14参照)。
【0053】
ここで、ARとは「Augmented Reality(アグメンティッド・リアリティ)」の頭文字をとった略で、現実世界を仮想的に拡張する技術をいう。例えばスマートフォンを平面にかざすと家具が現れたり、アプリでポスターをかざした際に画面上で動き出すなど、現実を拡張してコンテンツを楽しむことができる。
【0054】
またARに近い言葉にVRやMRがある。VRとは、100%バーチャルの世界に入り込んだ体験ができる技術であり、MRとは、表示されたデジタル情報を触って操作できる技術をいう。
【0055】
全仮想音源における音圧レベルの解析結果を重畳表示した場合、視覚・画面全体が例えば3Dモデルで覆われるように認識できるのである(
図14参照)。
しかしながら、ARデバイス7などを使用して3Dモデルにより閲覧すると、場合によっては視覚酔いが発生する恐れがある。よって、本発明では仮想音源の解析結果を、選択した範囲において2次元の断面表示できるよう、かつ、それをカラーマップで可視化できるよう構成した(
図15参照)。
【0056】
例えば、MRデバイス6やARデバイス7では、音の到来方向に向かって形が変化するビジュアライザーボール15が3次元空間上に表示される。
図15ではマイクの近傍位置にビジュアライザーボール15が表示されている。そして、この形を参考にして可視化面である2次断面図のカラーマップが設定されるものとなる。
【0057】
2次断面図としてのカラーマップの枚数、範囲、角度はMRデバイス6などのハンドジェスチャー16で自由に設定できる。
図15の例では3枚のカラーマップが2時断面として設定された。
すなわち、3次元空間内で垂直面として示した2次断面
図17、該垂直面に直交する直交面として示した2次断面
図18及び水平面として示した2次断面
図19として設定されている。
【0058】
このように、計測対象に合わせてカラーマップの枚数や範囲を設定することにより、音源の位置や音の伝搬状況をたとえ2次断面図で重畳表示したとしても3次元的に可視化することが出来るのである。そして視覚酔いが発生する恐れも減少する。
【0059】
以上、上記の構成により、音の伝搬状況が実空間上にリアルタイムで表示することが出来、もって騒音源の対策方法を検討しやすくなるとのメリットがある。
例えば、建築構造物の施工不具合や経年変化により発生する異音の探査に大きな威力を発揮する。
また、フラッターエコーや側路伝搬音、固体音といった音響障害の可視化、これら音響障害の対策効果の検証にも大きな効果が発揮できる。
【0060】
ここで、フラッターエコーとは、音が多重反射を起こすことで生まれる音響障害をいい、壁と床、または天井と床が平行であったり、その平行面の面積が広かったりする場合に、発生した音が延々と反射を繰り返すことで生ずる。
フラッターエコーが発生すると、反響した音がしばらくの間残る。
【0061】
また、側路伝搬音あるいは固体音といった平面での可視化では捉えることができない音響障害についても本発明のシステムであれば、迅速に検証することができる。
【0062】
側路伝搬音とは室間の音の伝搬経路で界壁を直接透過する以外の経路の音をいう。界壁の遮音性能が良くても側路伝搬の影響で遮音性能が低下することもある。
また、固体音とは建物に力や衝撃が与えられたとき、振動が建物内を伝搬する音を言う。そして、この現象を固体伝搬といい、伝搬先で空気中に放射される音を固体伝搬音という。これは固体音とも表記される。
【0063】
このような平面での可視化では捉えることができない音響障害について迅速に検証することができるのである。
さらに、建設現場などの騒音音源から敷地境界・民家までの騒音の伝搬状況の把握など騒音対策方法の検討や対策効果の検証にも効果を発揮できる。
【符号の説明】
【0064】
1 収録部
2 解析処理部
3 可視化処理部
4 マイクロホンアレイ
5 ARマーカ
6 MRデバイス
7 ARデバイス
8 格納部
9 計測パラメータ設定部
10 ビームフォーミング処理部
11 表示部
12 MR・AR表示例
13 3次元極座標
14 3次元直交座標
15 ビジュアルアナライザーボール
16 ハンドジェスチャー
17 垂直面として示した2次断面図
18 垂直面に直交する直交面として示した2次断面図
19 水平面として示した2次断面図