【国等の委託研究の成果に係る記載事項】(出願人による申告)平成21年度、独立行政法人情報通信研究機構、委託研究「革新的な三次元映像技術による超臨場感コミュニケーション技術の研究開発 課題エ:感性情報認知・伝達技術」、産業技術力強化法第19条の適用を受ける特許出願
(58)【調査した分野】(Int.Cl.,DB名)
前記データベースは、前記心理効果ごとの全体寄与率と、前記心理効果および所定のコンテンツの種類ごとの個別寄与率とを前記寄与率として記憶すると共に、前記コンテンツの種類と因子得点とを予め学習して対応付けた因子空間をさらに記憶し、
前記心理効果影響度算出手段は、
前記再生音場音響分析値に前記全体寄与率を乗じて前記心理効果ごとに乗算値を算出し、当該心理効果ごとの乗算値を総和して前記再生音場における因子得点を算出し、前記再生音場における因子得点および前記因子空間に基づいて前記再生音場音響信号におけるコンテンツの種類を決定し、決定した当該コンテンツの種類に応じた前記個別寄与率を前記再生音場音響分析値に乗じて前記再生音場における心理効果推定値を算出すると共に、
前記実音場音響分析値に前記全体寄与率を乗じて前記心理効果ごとに乗算値を算出し、当該心理効果ごとの乗算値を総和して前記実音場における因子得点を算出し、前記実音場における因子得点および前記因子空間に基づいて前記実音場音響信号におけるコンテンツの種類を決定し、決定した当該コンテンツの種類に応じた前記個別寄与率を前記実音場音響分析値に乗じて前記実音場における心理効果推定値を算出することを特徴とする請求項1に記載の臨場感推定装置。
前記データベースは、印象ごとの全体寄与率と、前記印象および前記コンテンツの種類ごとの個別寄与率とを前記寄与率としてさらに記憶すると共に、前記心理効果の階層関係が予め設定された階層関係情報をさらに記憶し、
前記心理効果影響度算出手段は、
前記個別寄与率を前記再生音場音響分析値に乗じて前記再生音場における下位階層の印象推定値を算出し、前記個別寄与率を前記下位階層の印象推定値に乗じて前記再生音場における中位階層の印象推定値を算出し、前記個別寄与率を前記中位階層の印象推定値に乗じて前記再生音場における上位階層の前記心理効果推定値を算出し、当該心理効果推定値を総和して前記再生音場における心理効果影響度を算出すると共に、
前記個別寄与率を前記実音場音響分析値に乗じて前記実音場における下位階層の印象推定値を算出し、前記個別寄与率を前記下位階層の印象推定値に乗じて前記実音場における中位階層の印象推定値を算出し、前記個別寄与率を前記中位階層の印象推定値に乗じて前記実音場における上位階層の前記心理効果推定値を算出し、当該心理効果推定値を総和して前記実音場における心理効果影響度を算出することを特徴とする請求項2又は請求項3に記載の臨場感推定装置。
【発明を実施するための形態】
【0033】
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の機能を有する手段には同一の符号を付し、説明を省略した。
まず、第1実施形態として、実音場音響信号Aおよび再生音場音響信号Bが入力され、臨場感として、これら信号から心理効果影響度、音響信号類似度および心理効果類似度を算出する構成について説明する。
その後、第2実施形態として、再生音場音響信号Bだけが入力され、臨場感として、この信号から心理効果影響度を算出する構成について説明する。
【0034】
(第1実施形態)
[臨場感推定装置の構成]
以下、
図1を参照して、本発明の第1実施形態に係る臨場感推定装置1の構成について説明する。
図1に示すように、臨場感推定装置1は、実音場での音を示す実音場音響信号を、実音場と異なる再生音場で再生したときの臨場感を推定するものであり、音響信号分析手段10と、音場再現度提示手段20と、コンテンツデータベース(データベース)30と、情動反応度提示手段40と、印象再現度提示手段50とを備える。
【0035】
まず、音響信号分析手段10に入力される実音場音響信号Aおよび再生音場音響信号Bのそれぞれについて詳細に説明する。
実音場音響信号Aは、実音場で収音された音響信号(再生対象となった音響空間で計測された音響信号)であり、例えば、コンサートホールでのオーケストラ生演奏を収音した音響信号である。
再生音場音響信号Bは、再生音場で収音された音響信号(実際に再現された音響空間で計測された音響信号)である。例えば、再生音場音響信号Bは、コンサートホールでのオーケストラ生演奏を収音した音響信号を、リビングルームのオーディオ機器により再生して、その再生音を収音した音響信号である。
【0036】
このとき、音響空間の計測(実音場音響信号Aおよび再生音場音響信号Bの収音)には、例えば、人間の頭部を模擬した計測装置900(ダミーヘッドDHに設置されたマイクロホンMC)を用いることができる(
図2参照)。
また、音響空間の計測には、複数のマイクロホンを用いて空間的な情報を取得できる計測装置を用いてもよい。例えば、狭指向性マイクを扇状に配置して、音量を比較することで、音の到来方向を算出することができる。このとき、信号間相関(ダミーヘッドDHの場合は、両耳間相関)を算出することで、音の拡がり感を空間的な情報として取得できる。
【0037】
音響信号分析手段10は、実音場音響信号Aと再生音場音響信号Bとが入力され、実音場音響信号Aを音響分析して実音場音響信号Aの物理的特徴を示す実音場音響分析値を算出すると共に、再生音場音響信号Bを音響分析して再生音場音響信号Bの物理的特徴を示す再生音場音響分析値を算出する。ここで、音響信号分析手段10は、実音場音響信号Aおよび再生音場音響信号Bを音響分析して、例えば、基本周波数の時間変化パターン、周波数特性、周波数特性の分類クラス、レベルの時間変化パターン、ラウドネス、ラフネス、シャープネス、両耳間時間差、両耳間レベル差、両耳間相関度、両耳間相関関数の幅などの物理的特徴を、実音場音響分析値および再生音場音響分析値として算出する。
【0038】
そして、音響信号分析手段10は、入力された実音場音響信号Aまたは音響分析した実音場音響分析値の少なくとも一方が含まれる実音場評価対象信号を、後記する音場再現度提示手段20および情動反応度提示手段40に出力する。また、音響信号分析手段10は、入力された再生音場音響信号Bまたは音響分析した再生音場音響分析値の少なくとも一方が含まれる再生音場評価対象信号を、音場再現度提示手段20および情動反応度提示手段40に出力する。
【0039】
なお、これら音響分析の手法は、一般的なものであるため説明を省略する。また、音響信号分析手段10が求める物理的特徴は、音響分析可能なものであればよく、これらに限定されないことは言うまでもない。また、音響信号分析手段10がどの物理的特徴を求めるかは、例えば、ユーザが手動で設定する。
【0040】
音場再現度提示手段20は、実音場音響信号Aと再生音場音響信号Bとの類似度である音響信号類似度を算出するものであり、音響信号類似度算出手段21と、音響信号類似度提示手段23とを備える。
【0041】
音響信号類似度算出手段21は、音響信号分析手段10から実音場評価対象信号と再生音場評価対象信号とが入力されると共に、再生音場評価対象信号と実音場評価対象信号との差に基づいて、音響信号類似度を算出する。そして、音響信号類似度算出手段21は、算出した音響信号類似度を後記する音響信号類似度提示手段23に出力する。
【0042】
<第1例:音響信号類似度の算出、音響信号>
以下、
図2を参照して、音響信号類似度算出手段21による音響信号類似度の算出について、第1例〜第3例を説明する(適宜
図1参照)。
なお、
図2では、実音場音響信号Aを「音響信号A」と図示し、再生音場音響信号Bを「音響信号B」と図示している。
【0043】
この第1例は、実音場評価対象信号として実音場音響信号Aが入力され、再生音場評価対象信号として再生音場音響信号Bが入力された例である。この場合、音響信号類似度算出手段21は、下記の式(1)に示すように、実音場音響信号Aと再生音場音響信号Bとの差分絶対値を2乗した値を、実音場音響信号Aの2乗値で除算する。そして、音響信号類似度算出手段21は、この除算した値の平方根を求めて、音響信号類似度を算出する。つまり、音響信号類似度算出手段21は、実音場音響信号Aと再生音場音響信号Bとの差に基づいて、音響信号類似度を算出している。
【0045】
この式(1)では、sig
A(s)が実音場音響信号A(時系列のサンプルリングデータ)であり、sig
B(s)が再生音場音響信号B(時系列のサンプルリングデータ)であり、Errorが音響信号類似度である。
この第1例によれば、臨場感推定装置1は、簡易な演算処理で音響信号類似度を算出できる。
【0046】
<第2例:音響信号類似度の算出、1種類の音響分析値>
この第2例は、実音場評価対象信号として1種類の実音場音響分析値(例えば、実音場音響信号Aのラウドネス)が入力され、再生音場評価対象信号として同種の再生音場音響分析値(例えば、再生音場音響信号Bのラウドネス)が入力された例である。
【0047】
この場合、音響信号類似度算出手段21は、実音場音響分析値と再生音場音響分析値との差に基づいて、音響信号類似度を算出することができる。例えば、音響信号類似度算出手段21は、前記した式(1)において、sig
A(s)を実音場音響信号Aのラウドネスとし、sig
B(s)を再生音場音響信号Bのラウドネスとすることで、音響信号類似度を算出できる。
この第2例によれば、臨場感推定装置1は、簡易な演算処理で音響信号類似度を算出できる。
【0048】
<第3例:音響信号類似度の算出、音響信号および音響分析値の2種類以上>
この第3例は、実音場評価対象信号として2種類の実音場音響分析値(例えば、実音場音響信号Aのラウドネスと両耳相関度)が入力され、再生音場評価対象信号として同種の再生音場音響分析値(例えば、再生音場音響信号Bのラウドネスと両耳相関度)が入力された例である。
【0049】
この場合、音響信号類似度算出手段21は、前記した式(1)を用いて、実音場音響分析値の種類ごとに音響信号類似度を算出する。そして、音響信号類似度算出手段21は、その音響信号類似度に実音場音響分析値の種類ごとに予め設定した係数を乗算した乗算値を求め、その乗算値を総和した値を音響信号類似度として算出する。
【0050】
より具体的には、音響信号類似度算出手段21は、前記した式(1)において、sig
A(s)を実音場音響信号Aのラウドネスとし、sig
B(s)を再生音場音響信号Bのラウドネスとすることで、1種類目の音響信号類似度を算出する。この1種類目の音響信号類似度をError1とする。次に、音響信号類似度算出手段21は、前記した式(1)において、sig
A(s)を実音場音響信号Aの両耳相関度とし、sig
B(s)を再生音場音響信号Bの両耳相関度とすることで、2種類目の音響信号類似度を算出する。この2種類目の音響信号類似度をError2とする。そして、音響信号類似度算出手段21は、下記の式(2)に示すように、1種類目の音響信号類似度Error1に係数k1を乗算した乗算値を求め、2種類目の音響信号類似度Error2に係数k2を乗算した乗算値を求め、これら乗算値の総和を係数k1,k2の和で除算して、音響信号類似度Errorを算出する。
【0052】
2種類の音響分析値を用いる例を説明したが、音響信号類似度算出手段21は、音響信号と1種類の音響分析値(例えば、ラウドネス)とを組み合わせて、音響信号類似度を算出してもよい。具体的には、音響信号類似度算出手段21は、前記した第1例と同様に、音響信号同士の差による音響信号類似度を算出し、この音響信号類似度をError1とする。また、音響信号類似度算出手段21は、前記した第2例と同様に、ラウドネスの差による音響信号類似度を算出し、この音響信号類似度をError2とする。そして、音響信号類似度算出手段21は、前記した式(2)を用いて、音響信号と音響分析値とを組み合わせた音響信号類似度を算出する。
【0053】
さらに、音響信号類似度算出手段21は、音響信号および音響分析値を合わせて3種類以上組み合わせて、音響信号類似度を算出してもよい。具体的には、音響信号類似度算出手段21は、前記した式(1)を用いて、1種類目〜M種類目までの音響信号類似度を算出する。そして、音響信号類似度算出手段21は、下記の式(3)に示すように、1種類目〜M種類目までの音響信号類似度Error1〜ErrorMに、それぞれの係数k1〜kMを乗算した乗算値を求め、これら乗算値の総和を係数k1〜kMの和で除算して、音響信号類似度を算出する(但し、Mは3以上の整数)。
【0055】
この式(3)では、k1,k2〜kMは、ユーザによって予め設定される係数である。
この第3例によれば、臨場感推定装置1は、音響信号および音響分析値を複数組み合わせることで、より正確な音響信号類似度を算出できる。
【0056】
なお、第2例、第3例では、ラウドネスおよび両耳相関度を用いる例を説明したが、これに限定されない。例えば、音響信号類似度算出手段21は、基本周波数の時間変化パターン、周波数特性、周波数特性の分類クラス、レベルの時間変化パターン、ラフネス、シャープネス、両耳間時間差、両耳間レベル差、または、両耳間相関関数の幅の差に基づいて、音響信号類似度を算出できる。
また、前記した第1例〜第3例の何れを用いるかは、例えば、ユーザが手動で設定する。
【0057】
なお、前記した式(1)ないし式(3)のErrorを音響信号類似度とする例で説明したがこれに限定されない。例えば、音響信号類似度算出手段21は、前記した式(1)ないし式(3)で算出したErrorの値を用いて、(1−Error)×100という計算を行い、その計算結果を音響信号類似度としてもよい。これによって、後記する音響信号類似度提示手段23は、音響信号類似度の値を百分率で提示することができる。
【0058】
以下、
図1に戻り、臨場感推定装置1の構成について説明を続ける。
音響信号類似度提示手段23は、音響信号類似度算出手段21から音響信号類似度が入力されると共に、音響信号類似度を臨場感の推定結果として提示する。ここで、音響信号類似度提示手段23は、例えば、この音響信号類似度を0以上1以下の範囲内で正規化した後、グラフ化(メータ化)して提示する(
図6参照)。
なお、音響信号類似度提示手段23の詳細は、後記する。
【0059】
コンテンツデータベース30は、後記する情動反応度提示手段40が用いる様々な情報が予め記憶されたデータベースである。ここで、コンテンツデータベース30は、例えば、元音響信号と、元音響分析値と、分類基準値と、コンテンツの種類と、因子空間と、寄与率と、階層関係情報とを予め記憶している。
【0060】
以下、
図3を参照し、コンテンツデータベース30について詳細に説明する。
元音響信号は、実音場で収音された音響信号、例えば、コンサートホールでのオーケストラ生演奏を収音した音響信号である。
元音響分析値は、前記した音響信号分析手段10と同様の音響解析により求められた、元音響信号の物理的特徴(例えば、ラウドネス)を示す値である。
【0061】
分類基準値は、コンテンツの種類を分類(グルーピング)する基準となる値であり、例えば、印象評価値または生体測定値の何れか一方を用いることができる。
印象評価値は、元音響信号を収音するときの音を実音場で評価者に聴かせる主観評価実験を行い、評価者がその音から感受した印象や心理効果の度合いを示す値である。例えば、元音響信号がコンサートホールでのオーケストラ生演奏を収音した音響信号であれば、その印象評価値は、コンサートホールでのオーケストラ生演奏を主観評価実験した結果となる。
生体測定値は、音響信号を収音する対象となった音を実音場で評価者に聴かせ、その時の評価者の脳波計測値、心拍数または発汗量を計測した値である。例えば、生体測定値は、コンサートホールでのオーケストラ生演奏を聴いたときの、評価者の脳波計測値である。この生体測定値は、評価者の脳波を計測するため、心理効果を示す言葉を用いる主観評価実験に比べて、言葉の定義が評価者間で異なるために生じる誤差を低減できる。また、評価者が意識できるはっきりとした心理効果(印象)の相違を対象とする主観評価実験に比べて、この生体測定値は、はっきりとした心理効果(印象)の相違がないような、評価者の意識下の心理効果(印象)の相違を計測可能である。
なお、分類基準値として、印象評価値または生体測定値のどちらを用いるかは、例えば、ユーザが手動で設定する。また、本実施形態では、分類基準値として印象評価値を用いるとして説明する。
【0062】
コンテンツの種類は、後記する因子空間SP上での距離が近いコンテンツ(音)を同一の種類として予めグルーピングしたものである。
因子空間SPは、コンテンツの種類と因子得点SCとを対応付けたものである。
【0063】
ここで、コンテンツの種類および因子空間について説明する。
例えば、コンテンツの種類は、分類基準値を因子分析し、どの象限に属するコンテンツであるかを分類(グルーピング)することで求められる。例えば、複数のコンテンツ(C個)に対して、複数の印象評価値(I個)がある場合を考える。この場合、逆行列の固有値を求めて、複数の行列(因子)で印象評価値(C×I個)を一定以下の誤差で近似した結果、M個の因子を得ることができる。そして、分類基準値から因子得点SCを求めると、各コンテンツは、M次元の因子空間上の1点として表現することができる。その後、コンテンツの種類は、因子空間SP上において、距離が近いコンテンツを同一の種類としてグルーピングすることで求められる。
図3の例では、因子空間SPは、因子Iおよび因子IIの因子得点と、コンテンツの種類1〜4とを対応付けている。つまり、因子空間SPにおいて、横軸が因子Iであり、縦軸が因子IIである。そして、因子空間SPにおいて、各因子得点SCが近いものを同一種類のコンテンツとして対応させている。つまり、因子空間SPでは、破線で区切られた矩形領域のそれぞれにコンテンツの種類1〜4が対応することになる。
なお、因子分析を用いたコンテンツの種類の分類手法の詳細は、例えば、文献「“音楽と感情”、谷口高士著、株式会社 北大路書房、1998年1月」に記載されている。
【0064】
寄与率は、全体寄与率と個別寄与率とが含まれ、後記する学習によって求めることができる。
全体寄与率は、心理効果または印象の寄与率を示すものである。例えば、ある心理効果「明るい」に対して、1つの全体寄与率が学習によって求められる。また、例えば、別の心理効果「おごそかな」に対しても、1つの全体寄与率が学習によって求められる(
図4のWij参照)。
個別寄与率は、コンテンツの種類ごとに、心理効果または印象の寄与率を示すものである。例えば、心理効果「ジーン」で、かつ、コンテンツの種類「テンポが速いクラシック」に対して、1つの個別寄与率が学習によって求められる。また、例えば、心理効果「ジーン」で、かつ、コンテンツの種類「テンポが遅いクラシック」に対しても、1つの個別寄与率が学習によって求められる(
図4のW1ij〜W3ij参照)。
【0065】
ここで、寄与率の学習方法の一例について説明する。
寄与率は、例えば、学習として、重回帰分析を行って求めることができる。重回帰分析では、複数の観測値(説明変数)から変数(目的変数)を予測するとき、予測誤差が最も少なくなるように寄与率を算出する。本実施形態では、観測値(説明変数)をコンテンツデータベース30に記憶した元音響分析値とし、変数(目的変数)をコンテンツデータベース30に記憶した印象評価値として重回帰分析を行う。このことから、寄与率は、コンテンツデータベース30に記憶されている観測値に依存することになる。
まず、コンテンツデータベース30の全体に対して学習(重回帰分析)を行って、全体寄与率を算出する。さらに、コンテンツデータベース30において、コンテンツの種類ごとに学習(重回帰分析)を行って、個別寄与率を算出することが好ましい。このように、コンテンツの種類ごとに学習(重回帰分析)すると、寄与率の正確性がより高くなる。
【0066】
なお、コンテンツデータベース30の全体に対する学習だけを行って、全体寄与率のみを算出してもよいことは言うまでもない。
また、重回帰分析して寄与率を学習する例を説明したが、学習手法は、これに限定されない。例えば、寄与率は、ニューラルネットワークを用いて学習することもできる。
【0067】
階層関係情報は、心理効果の階層関係を予め設定した情報である。この心理効果の階層関係は、数学的に求められないので経験的に定義する必要がある。すなわち、心理効果の階層関係を示す階層関係情報は、ユーザにより手動で設定される。本実施形態では、
図4に示すように、心理効果の階層関係は、上位階層を「心理効果」、中位階層を「複合印象」、および、下位階層を「一次的印象」とした3階層で定義される。
図4の例では、階層関係情報は、「音の幅」および「残響量」を一次的印象として、「拡がり感」および「移動感」を複合印象として、「ジーン」および「ワクワク」を心理効果として対応付けている。
【0068】
「心理効果」は、聴取者が感受する心理状態を示すものであり、ユーザによって予め定義される。この心理効果は、例えば、音の印象(例えば、「明るい音」)に対する聴取者の気持ち(例えば、「心が躍った」や「晴れ晴れとした気持ちになった」、「ジーンとした(ジーン)」、「ワクワクした(ワクワク)」)を指すものである。
【0069】
印象は、聴取者が感受する音の特徴を示すものであり、例えば、「一次的印象」および「複合印象」が含まれる。
「一次的印象」は、音響信号の特徴量または感覚量に直接的に結び付く印象(例えば、「音の大きさ」、「音の幅」、「残響量」)である。つまり、「一次的印象」は、人間の情報処理系での末梢に近い部位で処理していると思われる音の印象である。
「複合印象」は、「一次的印象」に対して、人間の情報処理系の深部(脳の高次機能)で処理されていると思われる音の印象である(例えば、「迫力がある」や「迫力がない」、「拡がり感」、「移動感」)。
【0070】
「心理効果」と、音の印象を示す「一次的印象」および「複合印象」との区別は、例えば、コンテンツデータベース30を構築するときに行う主観評価実験において、「音の印象として、その音にどういう特徴があるのか」、「その音を聴いた結果、どういう気持ちになったのか」などの質問項目により行うことができる。
【0071】
また、「一次的印象」と「複合印象」との区別は、例えば、その印象を示す言葉の定義として多義的か、評価者による評価値のばらつきが大きいか、および、単純な変換関数(
図10参照)で音響分析値から印象評価値を近似することが可能か、などの基準で行うことができる。
【0072】
以下、
図1に戻り、臨場感推定装置1の構成について説明を続ける。
図1に示すように、情動反応度提示手段40は、実音場音響信号Aを再生した音から受ける心理効果の影響度である心理効果影響度と、再生音場音響信号Bを再生した音から受ける心理効果の影響度である心理効果影響度とを算出するものであり、心理効果影響度算出手段41と、心理効果影響度提示手段43とを備える。
【0073】
心理効果影響度算出手段41は、音響信号分析手段10から実音場評価対象信号(実音場音響分析値)と再生音場評価対象信号(再生音場音響分析値)とが入力される。また、心理効果影響度算出手段41は、実音場音響分析値から実音場における心理効果影響度を算出し、再生音場音響分析値から再生音場における心理効果影響度を算出する。そして、心理効果影響度算出手段41は、算出した実音場における心理効果影響度と再生音場における心理効果影響度とを心理効果影響度提示手段43に出力する。
【0074】
以下、
図4を参照して、心理効果影響度算出手段41による心理効果影響度の算出について詳細に説明する(適宜
図1参照)。
なお、実音場評価対象信号には、コンテンツの種類を確定するための実音場音響分析値として、基本周波数の時間変化パターン、および、周波数特性、レベルの時間変化パターンという3つの物理的特徴が含まれるとする。また、実音場評価対象信号には、心理効果影響度の算出するための実音場音響分析値として、ラウドネス、両耳間相関度および両耳間レベル差の3つの物理的特徴が含まれるとする。
また、再生音場評価対象信号には、再生音場音響分析値として、実音場評価対象信号と同種の物理的特徴が含まれるとする。
【0075】
図4に示すように、心理効果影響度算出手段41は、コンテンツの種類を確定した後、心理効果影響度を算出する。ここで、心理効果影響度算出手段41は、例えば、1回目の処理で再生音場における心理効果影響度を算出し、2回目の処理で実音場における心理効果影響度を算出するというように、実音場音響分析値および再生音場音響分析値をそれぞれ入力して同じ処理を2回繰り返す。
【0076】
<コンテンツの種類の確定>
以下、心理効果影響度算出手段41によるコンテンツの種類の確定と、心理効果影響度の算出とを順に説明する。
まず、再生音場における心理効果影響度を算出するため、心理効果影響度算出手段41は、再生音場音響分析値を用いて、再生音場音響信号Bについてコンテンツの種類を確定する。このため、心理効果影響度算出手段41は、再生音場音響分析値に全体寄与率を乗じて心理効果ごとに乗算値を算出する。
【0077】
具体的には、心理効果影響度算出手段41は、コンテンツデータベース30を参照し、心理効果「明るい」の全体寄与率Wijと、心理効果「おごそかな」の全体寄与率Wijと取得する。
【0078】
また、
図4上段に示すように、心理効果影響度算出手段41は、心理効果の全体寄与率Wijに、コンテンツの種類を確定するための再生音場音響分析値を乗算した計算値を求める。例えば、心理効果影響度算出手段41は、心理効果「明るい」の全体寄与率Wijに音響分析値「基本周波数の時間変化パターン」を乗算した計算値を求める。そして、心理効果影響度算出手段41は、心理効果「明るい」の全体寄与率Wijに音響分析値「周波数特性」を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、心理効果「明るい」の全体寄与率Wijに音響分析値「レベルの時間変化パターン」を乗算した計算値を求める。その後、心理効果影響度算出手段41は、これら3つの計算値を総和して心理効果「明るい」の乗算値を求める。
【0079】
なお、基本周波数の時間変化パターンなどの数値化されていない音響分析値については、例えば、ダミー変数に置き換えてから回帰分析を行う数量化I類を用いることで、数値化して扱うことができる。この場合、ダミー変数は、コンテンツデータベース30に予め記憶しておく。
【0080】
また、心理効果影響度算出手段41は、心理効果「明るい」と同様に、心理効果「おごそかな」の全体寄与率Wijに音響分析値「基本周波数」の時間変化パターンを乗算した計算値を求める。そして、心理効果影響度算出手段41は、心理効果「おごそかな」の全体寄与率Wijに音響分析値「周波数特性」を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、心理効果「おごそかな」の全体寄与率Wijに音響分析値「レベルの時間変化パターン」を乗算した計算値を求める。その後、心理効果影響度算出手段41は、これら3つの計算値を総和して心理効果「おごそかな」の乗算値を求める。
【0081】
そして、心理効果影響度算出手段41は、心理効果ごとの乗算値を総和して、再生音場における因子得点を算出する。例えば、心理効果影響度算出手段41は、心理効果「明るい」の乗算値と、心理効果「おごそかな」の乗算値とを総和して、再生音場における因子得点を算出する。さらに、心理効果影響度算出手段41は、この再生音場における因子得点およびコンテンツデータベース30に記憶された因子空間に基づいて、再生音場音響信号Bについてコンテンツの種類を確定する。例えば、心理効果影響度算出手段41は、算出した再生音場における因子得点SCが、
図3の因子空間SP上においてどの矩形領域に含まれるかで、コンテンツの種類を確定する。以下、再生音場音響信号Bについて、そのコンテンツの種類が「テンポが速いクラシック」であるとする。
【0082】
<心理効果影響度の算出>
次に、心理効果影響度算出手段41は、
図4下段に示すように、確定したコンテンツの種類および再生音場音響分析値を用いて、再生音場における心理効果影響度を算出する。ここで、心理効果影響度算出手段41は、心理効果が階層関係を有するため、コンテンツデータベース30に記憶された階層関係情報および個別寄与率W1ij〜W3ijに基づいて、以下で述べるような階層的処理を行う。
【0083】
まず、心理効果影響度算出手段41は、コンテンツデータベース30を参照し、一次的印象「音の幅」および「残響量」と、複合印象「拡がり感」および「移動感」と、心理効果「ジーン」および「ワクワク」について、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ij〜W3ijを取得する。
【0084】
また、心理効果影響度算出手段41は、一次的印象の個別寄与率W1ijを心理効果影響度の算出するための再生音場音響分析値に乗じて、一次的印象ごとに再生音場における印象推定値を算出する。例えば、心理効果影響度算出手段41は、一次的印象「音の幅」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「ラウドネス」を乗算した計算値を求める。そして、心理効果影響度算出手段41は、一次的印象「音の幅」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「両耳相関度」を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、一次的印象「音の幅」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「両耳相間レベル差」を乗算した計算値を求める。そして、心理効果影響度算出手段41は、これら3つの計算値を総和して一次的印象「音の幅」の印象推定値を求める。
【0085】
このとき、心理効果影響度算出手段41は、一次的印象「残響量」についても、一次的印象「音の幅」と同様の処理を行う。例えば、心理効果影響度算出手段41は、一次的印象「残響量」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「ラウドネス」を乗算した計算値を求める。そして、心理効果影響度算出手段41は、一次的印象「残響量」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「両耳相関度」を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、一次的印象「残響量」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W1ijに、音響分析値「両耳相間レベル差」を乗算した計算値を求める。そして、心理効果影響度算出手段41は、これら3つの計算値を総和して一次的印象「残響量」の印象推定値を求める。
【0086】
また、心理効果影響度算出手段41は、複合印象の個別寄与率W2ijを一次的印象の印象推定値に乗じて、複合印象ごとに再生音場における印象推定値を算出する。例えば、心理効果影響度算出手段41は、複合印象「拡がり感」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W2ijに、一次的印象「音の幅」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41は、複合印象「拡がり感」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W2ijに、一次的印象「残響量」の印象推定値を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、これら2つの計算値を総和して複合印象「拡がり感」の印象推定値を求める。
【0087】
このとき、心理効果影響度算出手段41は、複合印象「移動感」についても、複合印象「拡がり感」と同様の処理を行う。例えば、心理効果影響度算出手段41は、複合印象「移動感」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W2ijに、一次的印象「音の幅」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41は、複合印象「移動感」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W2ijに、一次的印象「残響量」の印象推定値を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、これら2つの計算値を総和して複合印象「移動感」の印象推定値を求める。
【0088】
また、心理効果影響度算出手段41は、心理効果の個別寄与率W3ijを複合印象の印象推定値に乗じて、心理効果ごとに再生音場における心理効果推定値を算出する。例えば、心理効果影響度算出手段41は、心理効果「ジーン」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W3ijに、複合印象「拡がり感」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41は、心理効果「ジーン」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W3ijに、複合印象「移動感」の印象推定値を乗算した計算値を求める。さらに、心理効果影響度算出手段41は、これら2つの計算値を総和して心理効果「ジーン」の心理効果推定値を求める。
【0089】
このとき、心理効果影響度算出手段41は、心理効果「ワクワク」についても、心理効果「ジーン」と同様の処理を行う。例えば、心理効果影響度算出手段41は、心理効果「ワクワク」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W3ijに、複合印象「拡がり感」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41は、心理効果「ワクワク」で、かつ、コンテンツの種類「テンポが速いクラシック」の個別寄与率W3ijに、複合印象「移動感」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41は、これら2つの計算値を総和して心理効果「ワクワク」の心理効果推定値を求める。
【0090】
さらに、心理効果影響度算出手段41は、心理効果推定値を総和して再生音場における心理効果影響度を算出する。例えば、心理効果影響度算出手段41は、心理効果「ジーン」の心理効果推定値と、心理効果「ワクワク」の心理効果推定値とを総和して、再生音場における心理効果影響度を算出する。
【0091】
ここで、心理効果影響度算出手段41は、心理効果推定値のそれぞれを寄与率W4ij(不図示)で重み付けしてから、再生音場における心理効果影響度を算出してもよい。例えば、心理効果影響度算出手段41は、心理効果「ジーン」の心理効果推定値に寄与率W4ijで重み付けを行うと共に、心理効果「ワクワク」の心理効果推定値に寄与率W4ijで重み付けを行う。そして、心理効果影響度算出手段41は、寄与率W4ijで重み付けした心理効果「ジーン」,「ワクワク」の心理効果推定値を総和して、再生音場における心理効果影響度を算出する。
【0092】
その後、心理効果影響度算出手段41は、再生音場における心理効果影響度と、実音場における心理効果影響度とを心理効果影響度提示手段43に出力する。また、心理効果影響度算出手段41は、再生音場および実音場における印象推定値と心理効果推定値とを心理効果類似度算出手段51に出力する。
【0093】
なお、心理効果影響度算出手段41は、実音場における心理効果影響度を、再生音場における心理効果影響度と同じ処理で算出できるので、その説明を省略する。
また、心理効果影響度算出手段41は、1回目の処理で実音場における心理効果影響度を算出し、2回目の処理で再生音場における心理効果影響度を算出してもよく、両処理を並行に実行してもよい。
【0094】
なお、実音場音響分析値は、
図4の例に限定されないことは言うまでもない。例えば、心理効果影響度算出手段41は、音響分析値「ラウドネス」を用いてコンテンツの種類を確定してもよく、「基本周波数の時間変化パターン」を用いて心理効果影響度を算出してもよい。また、例えば、心理効果影響度算出手段41は、同種の音響分析値(例えば、「ラウドネス」)を用いてコンテンツの種類を確定し、心理効果影響度を算出してもよい。
【0095】
以下、
図1に戻り、臨場感推定装置1の構成について説明を続ける。
心理効果影響度提示手段43は、心理効果影響度算出手段41から再生音場における心理効果影響度と実音場における心理効果影響度とが入力されると共に、これら心理効果影響度を臨場感の推定結果として提示する。ここで、心理効果影響度提示手段43は、例えば、これら心理効果影響度を0以上1以下の範囲内で正規化した後、グラフ化(メータ化)して提示する(
図6参照)。
なお、心理効果影響度提示手段43の詳細は後記する。
【0096】
印象再現度提示手段50は、再生音場音響信号Bと実音場音響信号Aとを再生した音から受ける心理効果の類似度である心理効果類似度を算出するものであり、心理効果類似度算出手段51と、心理効果類似度提示手段53とを備える。
【0097】
心理効果類似度算出手段51は、心理効果影響度算出手段41から再生音場および実音場における印象推定値と心理効果推定値とが入力される。そして、心理効果類似度算出手段51は、再生音場における印象推定値および心理効果推定値と、実音場における印象推定値および心理効果推定値との差に基づいて、心理効果類似度を算出する。そして、心理効果類似度算出手段51は、算出した心理効果類似度を心理効果類似度提示手段53に出力する。
【0098】
以下、
図5を参照して、心理効果類似度算出手段51による心理効果類似度の算出について詳細に説明する(適宜
図1参照)。
なお、
図5では、実音場音響信号Aを「音響信号A」と図示し、再生音場音響信号Bを「音響信号B」と図示している。また、
図5では、印象推定値A1および印象推定値B1が同種の印象推定値であるとし、印象推定値A2および印象推定値B2が同種の印象推定値であるとする。また、
図5では、説明を簡易にするため、心理効果推定値の図示を省略した。
【0099】
具体的には、心理効果類似度算出手段51は、下記の式(4)により、再生音場と実音場との間において、同種の印象推定値の差分絶対差を2乗した値と、同種の心理効果推定値の差分絶対差を2乗した値との総和を求めることになる。
【0101】
この式(4)では、imp
Aが実音場における印象推定値または心理効果推定値であり、imp
Bが再生音場における印象推定値または心理効果推定値であり、Nが印象推定値と心理効果推定値との種類であり、Error´が心理効果類似度である。
【0102】
例えば、印象推定値A1が実音場における一次的印象「残響量」の印象推定値であり、印象推定値B1が再生音場における一次的印象「残響量」の印象推定値であり、印象推定値A2が実音場における複合印象「拡がり感」の印象推定値であり、印象推定値B2が再生音場における複合印象「拡がり感」の印象推定値であるとする(N=2)。この場合、心理効果類似度算出手段51は、前記した式(4)のように、実音場における一次的印象「残響量」の印象推定値と、再生音場における一次的印象「残響量」の印象推定値との差分絶対値を2乗した値を求める。また、同様に、心理効果類似度算出手段51は、実音場における複合印象「拡がり感」の印象推定値と、再生音場における複合印象「拡がり感」の印象推定値との差分絶対値を2乗した値を求める。そして、心理効果類似度算出手段51は、これら印象「残響量」,「拡がり感」における差分絶対値の2乗値を総和して、この総和値をNで除算することで、心理効果類似度を算出する。
【0103】
以下、
図1に戻り、臨場感推定装置1の構成について説明を続ける。
心理効果類似度提示手段53は、心理効果類似度算出手段51から心理効果類似度が入力されると共に、この心理効果類似度を臨場感の推定結果として提示する。ここで、心理効果類似度提示手段53は、例えば、この心理効果類似度を0以上1以下の範囲内で正規化した後、グラフ化(メータ化)して提示する。
【0104】
以下、
図6を参照して、臨場感のグラフ化(メータ化)について詳細に説明する。
なお、
図6(a)および
図6(b)において、音場再現度αは、音響信号類似度提示手段23が提示する音響信号類似度である。また、再現度印象βは、心理効果類似度提示手段53が提示する心理効果類似度である。そして、影響度(再生音場)γ1は、心理効果影響度提示手段43が提示する再生音場における心理効果影響度である。さらに、影響度(実音場)γ2は、心理効果影響度提示手段43が提示する実音場における心理効果影響度である。
また、
図6(c)では、再生音場における心理効果影響度を破線で図示し、実音場における心理効果影響度を実線で図示している。
【0105】
この
図6(a)に示すように、音響信号類似度提示手段23、心理効果影響度提示手段43および心理効果類似度提示手段53は、横棒グラフ形式で臨場感の推定結果を提示してもよい。また、
図6(b)に示すように、音響信号類似度提示手段23、心理効果影響度提示手段43および心理効果類似度提示手段53は、レーダーチャート形式で臨場感の推定結果を提示してもよい。さらに、臨場感推定装置1は、音場再現度α、再現度印象β、影響度(再生音場)γ1および影響度(実音場)γ2それぞれの数値を、各グラフの隣に提示してもよい(不図示)。
【0106】
このとき、
図6(c)に示すように、心理効果影響度提示手段43は、例えば、「ワクワク」,「ドキッ」,「ジーン」,「ゾクッ」といった個別の心理効果について、それぞれの心理効果推定値を心理効果影響度としてレーダーチャート形式で提示してもよい。
【0107】
以上のように、臨場感推定装置1は、システム臨場感やコンテンツ臨場感というように、複数の要因が関連する臨場感の推定結果を、一目して判断しやすい形式でユーザに提示することができる。
【0108】
[臨場感推定装置の動作]
以下、
図7を参照して、臨場感推定装置1の動作について説明する(適宜
図1参照)。
図7(a)に示すように、臨場感推定装置1は、音響信号分析手段10によって、実音場音響信号Aを音響分析して実音場音響信号Aの物理的特徴を示す実音場音響分析値を算出すると共に、再生音場音響信号Bを音響分析して再生音場音響信号Bの物理的特徴を示す再生音場音響分析値を算出する。そして、臨場感推定装置1は、音響信号分析手段10によって、入力された実音場音響信号Aまたは音響分析した実音場音響分析値の少なくとも一方が含まれる実音場評価対象信号と、入力された再生音場音響信号Bまたは音響分析した再生音場音響分析値の少なくとも一方が含まれる再生音場評価対象信号とを出力する(ステップS1)。
【0109】
また、臨場感推定装置1は、音響信号類似度算出手段21によって、再生音場評価対象信号と実音場評価対象信号との差に基づいて、音響信号類似度を算出する(ステップS2)。そして、臨場感推定装置1は、音響信号類似度提示手段23によって、音響信号類似度を臨場感の推定結果として提示する(ステップS3)。
【0110】
また、臨場感推定装置1は、心理効果影響度算出手段41によって、実音場評価対象信号(実音場音響分析値)から実音場における心理効果影響度を算出し、再生音場評価対象信号(再生音場音響分析値)から再生音場における心理効果影響度を算出する(ステップS4)。そして、臨場感推定装置1は、心理効果影響度提示手段43によって、再生音場における心理効果影響度と実音場における心理効果影響度とを臨場感の推定結果として提示する(ステップS5)。
【0111】
また、臨場感推定装置1は、心理効果類似度算出手段51によって、再生音場における印象推定値および心理効果推定値と、実音場における印象推定値および心理効果推定値との差に基づいて、心理効果類似度を算出する(ステップS6)。そして、臨場感推定装置1は、心理効果類似度提示手段53によって、心理効果類似度を臨場感の推定結果として提示する(ステップS7)。
【0112】
図7(a)では、ステップS1〜S7の処理を順次実行する例を説明したが、臨場感推定装置1の動作は、これに限定されない。
例えば、
図7(b)に示すように、臨場感推定装置1は、ステップS2,S3の処理と、ステップS4〜S7の処理とを並列に実行してもよい。
また、例えば、
図7(c)に示すように、臨場感推定装置1は、ステップS1,S2,S4,S6との処理を実行することで臨場感を求め、その後、ステップS3,S5,S7の処理を実行することで臨場感を提示してもよい。
なお、
図7(b)および
図7(c)におけるステップS1〜S7の処理は、
図7(a)と同様のものであるため、詳細な説明を省略する。
【0113】
以上のように、本発明の第1実施形態に係る臨場感推定装置1は、人間が音を聴いて評価することなく、再生音場および実音場における心理効果影響度、音響信号類似度および心理効果類似度を求めるため、大規模な主観評価実験を毎回行うことなく、これらを客観的な臨場感として推定することができる。このとき、臨場感推定装置1は、これら臨場感の推定結果をグラフ化して提示するため(
図7参照)、ユーザが、臨場感の推定結果を一目して判断でき、臨場感の評価を行いやすくなる。例えば、ユーザは、臨場感推定装置1を用いることで、再生音場と実音場との間で、どの程度、臨場感に差があるかを容易に評価することができる。
【0114】
また、臨場感推定装置1は、個別寄与率をコンテンツの種類ごとに学習しているため、個別寄与率の正確性がより高くなる。このため、臨場感推定装置1は、この個別寄与率を用いて心理効果影響度、音響信号類似度および心理効果類似度を求めることで、より客観的な臨場感を推定することができる。さらに、臨場感推定装置1は、心理効果を階層化することで、心理効果の関係を定義(モデル化)し易くすることができる。これによって、臨場感推定装置1は、心理効果ごとの全体寄与率および個別寄与率をより正確に学習でき、臨場感の推定精度を向上させることができる。
【0115】
以上、本発明の第1実施形態に係る臨場感推定装置1の構成および動作について説明したが、本発明は、この実施形態に限定されるものではない。
本発明の種々の変形例について、第1実施形態と異なる点を説明する。
【0116】
(変形例1:寄与率または心理効果影響度の補正)
本発明の変形例1に係る臨場感推定装置1B(
図8参照)は、音以外の情報が心理効果に与える影響を考慮する点が、
図1の臨場感推定装置1と大きく異なる。以下、臨場感推定装置1Bの構成を説明する前に、映像や臭いなど音以外の情報が心理効果に与える影響について説明する。
【0117】
同じ音響信号からの再生音を聴いた場合でも、映像や臭いなどの音以外の情報により、心理効果は、様々な影響を受けると考えられる。さらには、その映像が音にマッチしているか、マッチしていないかでも、心理効果への影響が異なると考えられる。
【0118】
例えば、物理的特徴の再生音圧レベルが、心理効果「迫力がある」と「騒々しい」に影響があるとする。そして、心理効果「迫力がある」と再生音圧レベルとの関係が、非線形な関数(
図10(c)参照)で表されるとする。さらに、心理効果「騒々しい」と再生音圧レベルの関係が、別の非線形な関数で表されるとする。ここで、心理効果「迫力がある」の寄与率が正の数値であり、心理効果「騒々しい」の寄与率が負の数値である場合、再生音圧レベルが変化すると、心理効果「迫力がある」の心理効果推定値に寄与率を乗算した値が心理効果「騒々しい」の心理効果推定値に寄与率を乗算した値より小さくなる点で、心理効果への影響度がピークとなる。映像がある場合には、臨場感を最大となる再生音圧レベルが低くなることが知られているので、映像がある場合には映像がない場合に比べ、心理効果「迫力がある」の心理効果推定値もしくは寄与率が低くなるか、または、心理効果「騒々しい」の心理効果推定値もしくは寄与率が高くなることが考えられる。このため、臨場感推定装置1Bは、映像や臭いなど音以外の情報による影響を考慮して、心理効果影響度を補正する。
【0119】
以下、
図8を参照して、臨場感推定装置1Bの構成について、詳細に説明する。
コンテンツデータベース30Bは、心理効果影響度を補正する値を示す補正値情報をさらに記憶する。
この補正値情報は、印象評価値を求めるときの主観評価実験によって求めることができる。例えば、映像がない場合、音にマッチした映像がある場合、および、音にマッチしていない映像がある場合といった条件ごとに主観評価実験を行う。そして、映像がない場合と音にマッチした映像がある場合との印象評価値の差分を求め、音にマッチした映像がある場合の補正値情報としてコンテンツデータベース30Bに予め記憶しておく。また、映像がない場合と音にマッチしていない映像がある場合との印象評価値の差分を求め、音にマッチしていない映像がある場合の補正値情報としてコンテンツデータベース30Bに予め記憶しておく。
【0120】
心理効果影響度算出手段41Bは、音以外の情報からの影響により補正を行うか否かを示す補正制御信号が入力される。例えば、補正制御信号は、ユーザによって以下のように入力される。
【0121】
信号値:補正制御信号の内容
「0」:映像による影響がないため補正を行わないことを示す
「1」:音にマッチした映像による影響があるため、補正を行うことを示す
「2」:音にマッチしていない映像による影響があるため、補正を行うことを示す
【0122】
そして、心理効果影響度算出手段41Bは、入力された補正制御信号の信号値により補正を行うか否かを判定する。
補正制御信号の信号値が「0」として入力された場合、心理効果影響度算出手段41Bは、補正を行わないと判定する。この場合、心理効果影響度算出手段41Bは、
図1の心理効果影響度算出手段41と同様に、再生音場における心理効果影響度と、実音場における心理効果影響度とを算出する。
一方、補正制御信号の信号値が「1」又は「2」として入力された場合、心理効果影響度算出手段41Bは、補正を行うと判定する。この場合、心理効果影響度算出手段41Bは、
図1の心理効果影響度算出手段41と同様に、再生音場における心理効果影響度と、実音場における心理効果影響度とを算出する。
【0123】
その後、心理効果影響度算出手段41Bは、コンテンツデータベース30Bに記憶された補正値情報に基づいて、再生音場における心理効果影響度および実音場における心理効果影響度を補正する。
例えば、補正制御信号の信号値が「1」として入力された場合、心理効果影響度算出手段41Bは、コンテンツデータベース30Bを参照し、音にマッチした映像がある場合の補正値情報を読み出す。そして、心理効果影響度算出手段41Bは、算出した再生音場における心理効果影響度および実音場における心理効果影響度のそれぞれに対して、この補正値情報が示す値を加算して補正する。つまり、音にマッチした映像がある場合、
図6に図示した影響度(再生音場)γ1および影響度(実音場)γ2が高くなる。
また、補正制御信号の信号値が「2」として入力された場合、心理効果影響度算出手段41Bは、コンテンツデータベース30Bを参照し、音にマッチしていない映像がある場合の補正値情報を読み出す。そして、心理効果影響度算出手段41Bは、算出した再生音場における心理効果影響度および実音場における心理効果影響度のそれぞれに対して、この補正値情報が示す値を減算して補正する。つまり、音にマッチしていない映像がある場合、
図6に図示した影響度(再生音場)γ1および影響度(実音場)γ2が低くなる。
【0124】
以上のように、心理効果影響度算出手段41Bは、音以外の情報による心理効果への影響を考慮して、心理効果影響度を補正することができる。従って、臨場感推定装置1Bは、影響度(再生音場)γ1および影響度(実音場)γ2に対して、音以外の情報による心理効果への影響を反映させて、ユーザに提示することができる(
図6参照)。
【0125】
なお、心理効果影響度算出手段41Bは、心理効果影響度に補正値情報が示す値を加算および減算する例を説明したが、これに限定されない。例えば、心理効果影響度算出手段41Bは、心理効果影響度に補正値情報を乗算または除算することで、心理効果影響度を補正してもよい。
【0126】
なお、心理効果影響度算出手段41Bが心理効果影響度を補正する例を説明したが、これに限定されない。例えば、心理効果影響度算出手段41Bは、補正値情報に基づいて、コンテンツデータベース30Bから読み出した全体寄与率および個別寄与率の値を補正してもよい。また、例えば、心理効果影響度算出手段41Bは、補正値情報に基づいて、印象推定値および心理効果推定値の値を補正してもよい。この場合、心理効果影響度算出手段41Bは、全体寄与率および個別寄与率の値と、印象推定値および心理効果推定値の値との両方を補正してもよい。
【0127】
なお、補正値情報を印象評価値の差分から求める例で説明したが、これに限定されない。例えば、補正値情報は、映像がない場合の印象評価値と音にマッチした映像がある場合の印象評価値との比といったように、印象評価値の比であってもよい。
【0128】
(変形例2:コンテンツの種類を確定することなく心理効果影響度を算出)
以下、
図9を参照し、本発明の変形例2に係る臨場感推定装置1Cについて説明する(適宜
図1参照)。
臨場感推定装置1Cは、心理効果影響度算出手段41Cが、コンテンツの種類を確定することなく、再生音場における心理効果影響度と、実音場における心理効果影響度とを算出することが、
図1の臨場感推定装置1と大きく異なる。
【0129】
ここで、コンテンツデータベース30Cは、例えば、一次的印象「残響量」の全体寄与率W1ij’と、一次的印象「音の幅」全体寄与率W1ij’と、複合印象「移動感」の全体寄与率W2ij’と、複合印象「拡がり感」の全体寄与率W2ij’と、心理効果「ワクワク」の全体寄与率W3ij’と、心理効果「ジーン」の全体寄与率W3ij’とを記憶しているとして説明する。
【0130】
図9に示すように、心理効果影響度算出手段41Cは、再生音場音響分析値を用いて、再生音場における心理効果影響度を算出する。ここで、心理効果影響度算出手段41Cは、心理効果が階層関係を有するため、コンテンツデータベース30に記憶された階層関係情報および全体寄与率W1ij’〜W3ij’に基づいて、以下で述べるような階層的処理を行う。
【0131】
まず、心理効果影響度算出手段41Cは、一次的印象の全体寄与率W1ij’を再生音場音響分析値に乗じて、一次的印象ごとに再生音場における印象推定値を算出する。例えば、心理効果影響度算出手段41は、一次的印象「音の幅」の全体寄与率W1ij’に、音響分析値「ラウドネス」を乗算した計算値を求める。そして、心理効果影響度算出手段41Cは、一次的印象「音の幅」の全体寄与率W1ij’に、音響分析値「両耳相関度」を乗算した計算値を求める。さらに、心理効果影響度算出手段41Cは、一次的印象「音の幅」の全体寄与率W1ij’に、音響分析値「両耳相間レベル差」を乗算した計算値を求める。そして、心理効果影響度算出手段41Cは、これら3つの計算値を総和して一次的印象「音の幅」の印象推定値を求める。
なお、一次的印象「残響量」は、一次的印象「音の幅」と同様の処理を行えばよいので、その説明を省略する。
【0132】
また、心理効果影響度算出手段41Cは、複合印象の全体寄与率W2ij’を一次的印象の印象推定値に乗じて、複合印象ごとに再生音場における印象推定値を算出する。例えば、心理効果影響度算出手段41Cは、複合印象「拡がり感」の全体寄与率W2ij’に、一次的印象「音の幅」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41Cは、複合印象「拡がり感」の全体寄与率W2ij’に、一次的印象「残響量」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41Cは、これら2つの計算値を総和して複合印象「拡がり感」の印象推定値を求める。
なお、複合印象「移動感」は、複合印象「拡がり感」と同様の処理を行えばよいので、その説明を省略する。
【0133】
さらに、心理効果影響度算出手段41Cは、心理効果の全体寄与率W3ij’を複合印象の印象推定値に乗じて、心理効果ごとに再生音場における心理効果推定値を算出する。例えば、心理効果影響度算出手段41Cは、心理効果「ジーン」の全体寄与率W3ij’に、複合印象「拡がり感」の印象推定値を乗算した計算値を求める。そして、心理効果影響度算出手段41Cは、心理効果「ジーン」の全体寄与率W3ij’に、複合印象「移動感」の印象推定値を乗算した計算値を求める。さらに、心理効果影響度算出手段41Cは、これら2つの計算値を総和して心理効果「ジーン」の心理効果推定値を求める。
なお、心理効果「ワクワク」は、心理効果「ジーン」と同様の処理を行えばよいので、その説明を省略する。
【0134】
その後、心理効果影響度算出手段41Cは、心理効果推定値を総和して再生音場における心理効果影響度を算出する。例えば、心理効果影響度算出手段41Cは、心理効果「ジーン」の心理効果推定値と、心理効果「ワクワク」の心理効果推定値とを総和して、再生音場における心理効果影響度を算出する。
なお、心理効果影響度算出手段41Cは、実音場における心理効果影響度を、再生音場における心理効果影響度と同じ処理で算出できるので、その説明を省略する。
【0135】
以上のように、心理効果影響度算出手段41Cは、コンテンツの種類を確定することなく、再生音場における心理効果影響度と、実音場における心理効果影響度とを算出することができる。従って、臨場感推定装置1Cは、コンテンツの種類ごとに個別寄与率を学習してコンテンツデータベース30に記憶させる必要がなく、その構成を簡素にすることができる。また、臨場感推定装置1Cは、コンテンツの種類を確定する処理が不要なので、演算速度を向上させることができる。
【0136】
(変形例3:感覚量変換値を用いて心理効果影響度を算出)
以下、
図10を参照し、本発明の変形例3に係る臨場感推定装置1Dについて説明する(適宜
図1,
図4参照)。
なお、
図10(a)には、音源A〜音源Eそれぞれの音響分析の結果として、ラウドネスおよび両耳相関度を示した。また、
図10(b)では、丸の中に記載されたA〜Eが音源A〜音源Eであり、縦軸が複合印象「拡がり感」の印象評価値であり、横軸がラウドネスまたは両耳相関度の音響分析値である。また、
図10(d)では、丸の中に記載されたA〜Eが音源A〜音源Eであり、縦軸が複合印象「拡がり感」の感覚量変換値であり、横軸がラウドネスまたは両耳相関度の音響分析値である。
【0137】
臨場感推定装置1Dは、実音場音響分析値および再生音場評価対象信号を変換関数によって感覚量変換値に変換する。そして、臨場感推定装置1Dは、実音場音響分析値および再生音場評価対象信号の代わりに感覚量変換値を用いて、コンテンツの種類を確定し、心理効果影響度を算出することが、
図1の臨場感推定装置1と大きく異なる。
【0138】
コンテンツデータベース30Dは、実音場音響分析値および再生音場評価対象信号を、実音場および再生音場における感覚量変換値に変換する変換関数をさらに記憶する。
【0139】
ここで、
図10(b)に示すように、音響分析値と印象評価値とは、ある値を境に急増するというように、必ずしも線形な関係になるとは限られない。このため、
図10(c)に示すように、コンテンツデータベース30Dに記憶された印象評価値を、単純な関数(変換関数の候補)の幾つかで近似する。そして、誤差が最小となる変換関数の候補を変換関数として、コンテンツデータベース30Dに記憶する。ここで、例えば、コンテンツデータベース30Dは、ラウドネスの変換関数F1と、両耳相関度の変換関数F2とを記憶したとして説明する。
なお、音響分析値と印象評価値との関係を単純な関数で近似した例は、文献「M. Morimoto, K. Iida; ”A practical evaluation method of auditory source width in concert halls,”J.Acoust.Soc.Jpn.(E), 16, 2, pp.59-69 (1995)」に記載されている。
【0140】
心理効果影響度算出手段41Dは、音響信号分析手段10から実音場評価対象信号(実音場音響分析値)と再生音場評価対象信号(再生音場音響分析値)とが入力される。また、心理効果影響度算出手段41Dは、コンテンツデータベース30Dから変換関数を読み出して、実音場音響分析値を実音場における感覚量変換値に変換し、再生音場音響分析値を再生音場における感覚量変換値に変換する。例えば、
図10(b)および
図10(d)に示すように、心理効果影響度算出手段41Dは、再生音場および実音場のそれぞれについて、ラウドネスの値を変換関数F1でラウドネスの感覚変換値に変換し、両耳相関度の値を変換関数F2で両耳相関度の感覚変換値に変換する。
【0141】
そして、心理効果影響度算出手段41Dは、再生音場および実音場についての感覚変換値(例えば、ラウドネスや両耳相関度の感覚変換値)を音響分析値の代わりに用いて、コンテンツの種類を確定し、心理効果影響度を算出する。つまり、心理効果影響度算出手段41Dは、
図4の左側に図示した音響分析値の代わりに、それぞれの音響分析値から求めた感覚変換値を用いる。
なお、心理効果影響度算出手段41Dは、コンテンツの種類を確定する処理および心理効果影響度を算出する処理が、
図1の心理効果影響度算出手段41と同様のものであるため、その説明を省略する。
【0142】
以上のように、臨場感推定装置1Dは、変換関数を用いることで、非線形な関係にある音響分析値の扱いを容易とし、正確性が高い寄与率を学習することができる。
【0143】
(変形例4:臨場感を時系列で提示)
以下、
図11を参照し、本発明の変形例4に係る臨場感推定装置1Eについて説明する(適宜
図1参照)。
臨場感推定装置1Eは、所定の時間ごとに臨場感を推定し、臨場感の推定結果を時系列データでユーザに提示する。
【0144】
音響信号分析手段10Eは、所定の時間ごとに、所定の時間幅の実音場音響信号Aを音響分析して実音場音響信号Aの物理的特徴を示す実音場音響分析値を算出すると共に、所定の時間幅の再生音場音響信号Bを音響分析して再生音場音響信号Bの物理的特徴を示す再生音場音響分析値を算出する。この音響分析を行う時間間隔は、ユーザが手動で設定できるとし、例えば、0.5秒間隔から10秒間隔の間とする。さらに、分析に用いる音響信号の時間幅は、ユーザが手動で設定できるとし、例えば、0.5秒から30秒の間とする。例えば、音響分析を行う時間間隔を0.5秒、分析に用いる音響信号の時間幅を20秒とした場合、音響信号分析手段10Eは、実音場音響信号Aおよび再生音場音響信号Bの分析開始時刻を基準として、0.5秒単位で20秒間の実音場音響信号Aおよび再生音場音響信号Bを分析する。
なお、音響信号分析手段10Eは、
図1の音響信号分析手段10と同様に音響分析を行うので、その説明を省略する。
【0145】
音響信号類似度算出手段21Eは、所定の時間(例えば、音響信号分析手段10と同じ時間間隔)ごとに、前記した時間幅の実音場音響信号Aを用いて生成した実音場評価対象信号と、前記した時間幅の再生音場音響信号Bを用いて生成した再生音場評価対象信号とから、音響信号類似度を算出する。
【0146】
心理効果影響度算出手段41Eは、所定の時間(例えば、音響信号分析手段10と同じ時間間隔)ごとに、前記した時間幅の実音場音響信号Aを用いて算出した実音場音響分析値から実音場における心理効果影響度を算出し、前記した時間幅の再生音場音響信号Bを用いて算出した再生音場音響分析値から再生音場における心理効果影響度を算出する。
【0147】
心理効果類似度算出手段51Eは、所定の時間(例えば、音響信号分析手段10と同じ時間間隔)ごとに、前記した時間幅の実音場音響信号Aおよび再生音場音響信号Bを用いて算出した印象推定値および心理効果推定値から、心理効果類似度を算出する。
【0148】
なお、音響信号類似度算出手段21E、心理効果影響度算出手段41E、および、心理効果類似度算出手段51Eは、
図1の各手段と同様のものであるため、その説明を省略する。
【0149】
音響信号類似度提示手段23Eは、音響信号類似度算出手段21Eが算出した音響信号類似度を、臨場感の推定結果として時系列で提示する。
心理効果影響度提示手段43Eは、心理効果影響度算出手段41Eが算出した再生音場における心理効果影響度と実音場における心理効果影響度とを、臨場感の推定結果として時系列で提示する。
心理効果類似度提示手段53Eは、心理効果類似度算出手段51Eが算出した心理効果類似度を臨場感の推定結果として提示する。
【0150】
具体的には、
図11に示すように、提示画面の下部には、時刻を示すラベルLBと、スライドバーSBとが配置されている。
このラベルLBは、実音場音響信号Aおよび再生音場音響信号Bの開始時刻を基準とした、音場再現度α、再現度印象β、影響度(再生音場)γ1および影響度(実音場)γ2の時刻(例えば、1分0秒)を示している。
このスライドバーSBは、左端を開始時刻および右端を終了時刻として、スライドバーSB上でのポインタPOの位置によって、音場再現度α、再現度印象β、影響度(再生音場)γ1および影響度(実音場)γ2の時刻を示している。
【0151】
ここで、マウスなどの操作手段(不図示)を介してユーザがポインタPOを移動させたとする。この場合、音響信号類似度算出手段21E、心理効果影響度提示手段43Eおよび心理効果類似度提示手段53Eは、ポインタPOの位置に対応する時刻における音場再現度α、再現度印象β、影響度(再生音場)γ1および影響度(実音場)γ2をそれぞれ提示する。
【0152】
以上のように、臨場感推定装置1Eは、実音場音響信号Aおよび再生音場音響信号Bの一部分について、その臨場感を提示することができる。例えば、ユーザがポインタPOを左端にスライドさせると、実音場音響信号Aおよび再生音場音響信号Bにおける先頭部分の臨場感がユーザに提示され、ユーザがポインタPOを右端にスライドさせると、実音場音響信号Aおよび再生音場音響信号Bにおける終了部分の臨場感がユーザに提示される。これによって、ユーザは、実音場音響信号Aおよび再生音場音響信号Bのどの部分が、どの程度の臨場感を感受させるか、容易に評価することができる。また、ユーザは、実音場音響信号Aおよび再生音場音響信号Bの先頭から最後まで、時間の経過に応じて、臨場感がどの程度変化するか、容易に評価することができる。
【0153】
なお、臨場感推定装置1Eが、提示画面の下部にスライドバーSBを配置する例を説明したが、これに限定されない。例えば、臨場感推定装置1Eは、提示画面にラベルLBおよびスライドバーSBを配置せずに、再生音場音響信号Bを再生しながら、その再生時刻の音場再現度α、再現度印象β、影響度(再生音場)γ1および影響度(実音場)γ2をリアルタイムで提示してもよい。
【0154】
なお、実音場音響信号Aおよび再生音場音響信号Bの開始時刻(先頭)から終了時刻(最後)までの全部分について、臨場感を時系列で提示する例を説明したが、これに限定されない。例えば、臨場感推定装置1Eは、実音場音響信号Aおよび再生音場音響信号Bの一部分(例えば、1分から2分までの間)について、臨場感を時系列で提示してもよい。
【0155】
(第2実施形態)
[臨場感推定装置の構成]
以下、
図12を参照して、本発明の第2実施形態に係る臨場感推定装置1Fの構成について、
図1の臨場感推定装置1と異なる点を説明する。
【0156】
図12に示すように、臨場感推定装置1Fは、実音場での音を示す実音場音響信号を、実音場と異なる再生音場で再生したときの臨場感を推定するものであり、音響信号分析手段10Fと、コンテンツデータベース(データベース)30と、情動反応度提示手段40Fとを備える。
【0157】
音響信号分析手段10Fは、再生音場音響信号Bが入力され、再生音場音響信号Bを音響分析して再生音場音響信号Bの物理的特徴を示す再生音場音響分析値を算出する。そして、音響信号分析手段10Fは、入力された再生音場音響信号Bまたは音響分析した再生音場音響分析値の少なくとも一方が含まれる再生音場評価対象信号を情動反応度提示手段40Fに出力する。つまり、音響信号分析手段10Fは、
図1の実音場音響信号Aが入力されず、再生音場音響信号Bについてのみ音響分析を行う。
なお、音響信号分析手段10Fは、
図1の音響信号分析手段10と同様に音響分析できるので、その説明を省略する。
【0158】
情動反応度提示手段40Fは、再生音場音響信号Bを再生した音から受ける心理効果の影響度である心理効果影響度を算出するものであり、心理効果影響度算出手段41Fと、心理効果影響度提示手段43Fとを備える。
【0159】
心理効果影響度算出手段41Fは、音響信号分析手段10Fから再生音場評価対象信号(再生音場音響分析値)が入力される。また、心理効果影響度算出手段41Fは、再生音場音響分析値から再生音場における心理効果影響度を算出する。そして、心理効果影響度算出手段41Fは、算出した再生音場における心理効果影響度を心理効果影響度提示手段43Fに出力する。
なお、心理効果影響度算出手段41Fは、
図1の心理効果影響度算出手段41と同様に心理効果影響度を算出できるので、その説明を省略する。
【0160】
心理効果影響度提示手段43Fは、心理効果影響度算出手段41Fから再生音場における心理効果影響度が入力されると共に、この心理効果影響度を臨場感の推定結果として提示する。ここで、心理効果影響度提示手段43Fは、
図13(a)に示すように、再生音場における心理効果影響度γ1を0以上1以下の範囲内で正規化した後、グラフ化(メータ化)して提示する。また、心理効果影響度提示手段43Fは、
図13(b)に示すように、「ワクワク」,「ドキッ」,「ジーン」,「ゾクッ」といった個別の心理効果について、それぞれの心理効果推定値を心理効果影響度としてレーダーチャート形式で提示してもよい。
【0161】
[臨場感推定装置の動作]
以下、
図14を参照して、臨場感推定装置1Fの動作について説明する(適宜
図13参照)。
図14(a)に示すように、臨場感推定装置1Fは、音響信号分析手段10Fによって、再生音場音響信号Bを音響分析して再生音場音響信号Bの物理的特徴を示す再生音場音響分析値を算出する。そして、臨場感推定装置1Fは、音響信号分析手段10Fによって、入力された再生音場音響信号Bまたは音響分析した再生音場音響分析値の少なくとも一方が含まれる再生音場評価対象信号を出力する(ステップS11)。
【0162】
また、臨場感推定装置1Fは、心理効果影響度算出手段41Fによって、再生音場評価対象信号(再生音場音響分析値)から再生音場における心理効果影響度を算出する(ステップS12)。そして、臨場感推定装置1Fは、心理効果影響度提示手段43Fによって、再生音場における心理効果影響度を臨場感の推定結果として提示する(ステップS13)。
【0163】
以上のように、本発明の第2実施形態に係る臨場感推定装置1Fは、人間が音を聴いて評価することなく、再生音場における心理効果影響度、音響信号類似度および心理効果類似度を求めるため、大規模な主観評価実験を毎回行うことなく、これらを客観的な臨場感として推定することができる。このとき、臨場感推定装置1Fは、これら臨場感の推定結果をグラフ化して提示するため、ユーザが、臨場感の推定結果を一目して判断でき、臨場感の評価を行いやすくなる。さらに、臨場感推定装置1Fは、ユーザが実音場音響信号Aを収音(準備)できない場合でも、再生音場音響信号Bだけで臨場感を推定できるので、ユーザにとって利便性がよい。
【0164】
なお、各実施形態では、本発明に係る臨場感推定装置を独立した装置として説明したが、本発明では、一般的なコンピュータのハードウェア資源を、前記した各手段として協調動作させるプログラムによって実現することもできる。このプログラムは、通信回線を介して配布しても良く、CD−ROMやフラッシュメモリなどの記録媒体に書き込んで配布しても良い。