(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-22
(45)【発行日】2024-05-01
(54)【発明の名称】信号処理装置、信号処理システム、プログラム、信号処理方法
(51)【国際特許分類】
G10L 19/02 20130101AFI20240423BHJP
G10L 21/04 20130101ALI20240423BHJP
H03H 17/00 20060101ALI20240423BHJP
【FI】
G10L19/02 160A
G10L21/04
H03H17/00 601G
H03H17/00 611Z
(21)【出願番号】P 2019203883
(22)【出願日】2019-11-11
【審査請求日】2022-10-26
(73)【特許権者】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】小幡 光一
【審査官】堀 洋介
(56)【参考文献】
【文献】特開2016-016372(JP,A)
【文献】特開2015-053037(JP,A)
【文献】国際公開第2016/136934(WO,A1)
【文献】特開2014-229312(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G10L 19/00-19/02
G10L 21/00-21/04
G06F 3/01
H03H 17/00
(57)【特許請求の範囲】
【請求項1】
伝達対象の周波数帯域に含まれる信号である第1信号と前記周波数帯域よりも低域側の周波数の信号である第2信号とが前記周波数帯域に収まるように、前記第1信号と前記第2信号とを時間方向に圧縮することで加工する信号加工部
を有し、
前記信号加工部は、圧縮する対象の信号の時間方向の長さである信号長と時間方向に圧縮された後の信号の時間方向の長さである信号長との差に応じた信号長の信号である第3信号を、前記圧縮された後の信号の時間方向における前後の少なくともいずれかに付加する
信号処理装置。
【請求項2】
前記信号加工部は、前記圧縮する対象の信号の開始時刻以前である所定の信号長の第4信号と、前記圧縮する対象の信号と、前記圧縮する対象の信号の終了時刻以後である所定の信号長の第5信号とを含む信号の時間方向の長さである信号長と、時間方向に圧縮された後の信号の時間方向の長さである信号長との差に応じた信号長の第6信号を、
前記第3信号を付加することに代えて、前記圧縮された後の信号の時間方向における前後の少なくともいずれかに付加する
請求項1に記載の信号処理装置。
【請求項3】
請求項1に記載された信号処理装置と、
前記信号処理装置からの入力信号の周波数帯域が当該周波数帯域の低域側に下がるように加工する伸張部と、
前記加工された信号のうち前記周波数帯域に対応する信号と、前記周波数帯域よりも低域側の信号とのうち少なくともいずれか一方を出力する出力部と、
を有する信号処理装置と、
を有する信号処理システム。
【請求項4】
請求項1又は請求項2に記載の信号処理装置としてコンピュータを機能させるためのプログラム。
【請求項5】
信号加工部が、伝達対象の周波数帯域に含まれる信号である第1信号と前記周波数帯域よりも低域側の周波数の信号である第2信号とが前記周波数帯域に収まるように、前記第1信号と前記第2信号とを時間方向に圧縮することで加工するものであり、
前記信号加工部が、圧縮する対象の信号の時間方向の長さである信号長と時間方向に圧縮された後の信号の時間方向の長さである信号長との差に応じた信号長の信号である第3信号を、前記圧縮された後の信号の時間方向における前後の少なくともいずれかに付加する
信号処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号処理装置、信号処理システム、プログラム、信号処理方法に関する。
【背景技術】
【0002】
時系列の波形信号を対象として信号処理する技術として、音声信号を信号処理する技術が広く普及している。一般に、音声信号を信号処理する場合、音声信号に含まれる全周波数帯域を対象とするのでなく、特定の周波数帯域を対象として信号処理が行われる。例えば、人間の可聴帯域を対象として信号処理することで、情報量の低減や、ノイズ除去をすることができる。この場合、可聴帯域には含まれない低域の周波数帯域の信号は、意図的にカットされて信号処理されることが多い。可聴帯域の信号を後段の機器に出力することで、例えば、スピーカ等によって音として出力される。ユーザには、可聴帯域の信号に応じた音を伝えることが可能である。
【0003】
特許文献1では、既存の音声処理系において、信号処理をする際に、可聴帯域における高域の信号が欠落しないように、信号の周波数を低周波数帯にシフトさせることが開示されている。これにより、可聴帯域における高域の信号が欠落してしまうことを低減することで、ユーザに対して高域の音を伝えることが可能となり、音質の低下を抑制することができる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、信号処理を行う過程において、後段に伝達される対象の周波数帯域が制限されているため、伝達対象の範囲の周波数の信号は後段に伝達可能であるが、伝達対象の範囲外の周波数の信号は、後段に伝達することができない。例えば、可聴帯域の信号を後段に伝達することができても、可聴帯域よりも低域側の信号は伝達されないため、後段において、低域側の信号を利用することができない。
特許文献1の技術では、高域の周波数の信号の欠落を抑制することに留まるものである。
【0006】
本発明は、このような事情に鑑みてなされたもので、その目的は、信号処理を行う際に、低域の周波数の信号の欠落を低減することができる信号処理装置、振動装置、信号処理システム、プログラム、信号処理方法を提供することにある。
【課題を解決するための手段】
【0007】
上述した課題を解決するために、本発明における信号処理装置の一態様は、伝達対象の周波数帯域に含まれる信号である第1信号と前記周波数帯域よりも低域側の周波数の信号である第2信号とが前記周波数帯域に収まるように、前記第1信号と前記第2信号とを時間方向に圧縮することで加工する信号加工部を有し、前記信号加工部は、圧縮する対象の信号の時間方向の長さである信号長と時間方向に圧縮された後の信号の時間方向の長さである信号長との差に応じた信号長の信号である第3信号を、前記圧縮された後の信号の時間方向における前後の少なくともいずれかに付加する。
【0009】
また、本発明における信号処理システムの一態様は、上述した信号加工部を有する信号処理装置と、前記信号処理装置からの入力信号の周波数帯域が当該周波数帯域の低域側に下がるように加工する伸張部と、前記加工された信号のうち前記周波数帯域に対応する信号と、前記周波数帯域よりも低域側の信号とのうち少なくともいずれか一方を出力する出力部と、を有する信号処理装置と、を有する。
また、本発明におけるプログラムの一態様は、上述のいずれかの信号処理装置としてコンピュータを機能させるためのプログラムであってもよい。
また、本発明における信号処理方法の一態様は、信号加工部が、伝達対象の周波数帯域に含まれる信号である第1信号と前記周波数帯域よりも低域側の周波数の信号である第2信号とが前記周波数帯域に収まるように、前記第1信号と前記第2信号とを時間方向に圧縮することで加工するものであり、
前記信号加工部が、圧縮する対象の信号の時間方向の長さである信号長と時間方向に圧縮された後の信号の時間方向の長さである信号長との差に応じた信号長の信号である第3信号を、前記圧縮された後の信号の時間方向における前後の少なくともいずれかに付加する信号処理方法である。
【0010】
また、本発明では、振動などの信号波形に対して音声処理系の記録・再生または伝送を行うとき、信号の入力部分では周波数変換処理を行い、出力部分では周波数逆変換処理を行うことで、処理系の対象とする周波数帯以外の帯域成分を持つ信号を欠落することなく処理することができる。
また、記録・伝送処理の入力部分と出力部分にそれぞれ信号の周波数変換・逆変換処理を行う処理を追加する。周波数変換処理には信号の時間空間での圧縮・伸張処理または周波数空間でのシフト処理を行い、信号を変換する。時間空間での処理では、入力部分でごく短い区間ごとに振動波形を時間方向に圧縮し、圧縮により不要になった時間分に逆変換で検出可能な正弦波またはパルスコードなどの規程信号を挿入することで逆変換の際に不要部分を検出し削除し信号部分を伸張する。
周波数空間での処理では、入力・出力部分でフーリエ変換により波形信号を周波数空間に変換したあと、周波数シフト処理を行い、逆フーリエ変換を行う。
【発明の効果】
【0011】
以上説明したように、この発明によれば、信号処理を行う際に、低域の周波数の信号の欠落を低減することができる。
【図面の簡単な説明】
【0012】
【
図1】この発明の一実施形態による信号処理システム1の構成を示す概略ブロック図である。
【
図2】信号処理装置10の構成を示す概略ブロック図である。
【
図3】時間空間での圧縮・伸張により信号を加工する方法を説明する図である。
【
図4】処理区間の両端において信号が不連続化する問題を解決する方法を説明する図である。
【
図5】信号を周波数空間においてシフトすることで周波数変換処理を説明する図である。
【
図6】信号処理装置50の構成を示す概略ブロック図である。
【
図7】
図1における信号処理システム1の動作を説明するシーケンス図である。
【
図8】信号処理装置10の他の実施形態である信号処理装置10Aの構成を示す概略機能ブロック図である。
【
図9】信号処理装置50の他の実施形態である信号処理装置50Aの構成を示す概略機能ブロック図である。
【発明を実施するための形態】
【0013】
以下、本発明の一実施形態による信号処理装置について図面を参照して説明する。
図1は、この発明の一実施形態による信号処理システム1の構成を示す概略ブロック図である。
信号処理システム1は、信号処理装置10、記憶装置20、無線通信装置30、無線通信装置40、信号処理装置50、駆動装置60を含んで構成される。
信号処理システム1では、処理対象の信号を記録、再生、伝送を行う場合、信号の入力部分では信号処理装置10が波形信号に対して周波数変換処理を行い、記憶装置20に記憶する、または、無線通信装置30から無線通信装置40に送信することで、信号処理装置50に波形信号を伝達することができる。そして出力部分では信号処理装置50が周波数逆変換処理を行うことで、処理系の対象とする周波数帯以外の帯域成分を持つ信号を欠落することなく、後段の駆動装置60に伝達することができる。
【0014】
ここで取り扱われる信号は、信号を符号化、復号する場合や、信号を圧縮や伸張する場合に、情報量の低減やノイズ除去を目的として、伝達する対象として定められた周波数帯域の信号を含み、それ以外の信号が含まれないように除去される。このように定められた範囲の周波数帯の信号として取り扱うことで、入力される波形信号は、一般的に活用されている規格に則った伝送技術を用いて伝送することが可能となる。
ここで本実施形態においては、除去される信号のうち、特に、低域側の周波数の信号を活用することに着目している。低域側の周波数の信号については、その周波数が可聴帯域に含まれていても良いが、主に、非可聴領域の信号を活用する。このような非可聴領域の信号を出力する場合には、例えば、この信号を振動装置に入力することで、振動として出力することが可能である。振動として出力する場合には、例えば、皮膚により感知されるような振動波形(振動信号)としてユーザに伝達することができる。なお、振動装置は、一定の振動モードでオンオフ駆動するものではなく、振動波形に応じて各種周波数の振動を出力することができる。
【0015】
ここで、音声処理系の記録・再生技術としては、例えばwave、mp3、wmvなどのフォーマットに従ったコンピュータを用いたデジタル音声記録形式、磁気テープ、レコードなどのアナログ音声記録形式などを用いることができる。記憶装置20は、デジタル音声記録形式で波形信号に対応したデータを記憶する。記憶装置20は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、またはこれらの記憶媒体の任意の組み合わせによって構成される。この記憶装置20は、例えば、不揮発性メモリを用いることができる。
また、このようなデータは、記憶装置20ではなく、CD(Compact Disc)やDVD(Digital Versatile Disc)等の記録媒体に記録されてもよい。
【0016】
また音声処理系の伝送技術としては、Bluetooth(登録商標)におけるSBC(サブバンドコーデック)やAAC(Advanced Audio Coding)、aptX(アプトエックス)、aptXHD(アプトエックス エイチディー)、LDAC(エルダック)、aptX Low Latency(アプトエックス・ロー・レイテンシー)などのコーデックを介したワイヤレスデジタル通信や、AM/FM波によるアナログ通信などを用いることができる。無線通信装置30と無線通信装置40との間の通信は、このような伝送技術を用いることができる。
【0017】
これらの記録・再生技術や伝送技術は、PC(パーソナルコンピュータ)やスマートフォン、タブレット、その他映像再生機器やラジオ受信機器などに実装され、既に広く普及している。
【0018】
入力部分と出力部分の処理は、リアルタイムに信号処理ができるコンピュータ上で動作するソフトウェアを用いて行うか、専用のDSP(digital signal processor)を用いて行ってもよい。
【0019】
駆動装置60は、例えば、スピーカと振動装置とを含む機器であり、信号処理装置50から得られる波形信号に基づいて、伝達対象の周波数帯域の信号(例えば音信号)に基づいてスピーカから音信号を出力したり、伝達対象の周波数帯域よりも低域側の周波数の信号(例えば、振動させるための信号)に基づいて振動装置を駆動することで、音と振動を出力することができる。振動装置は、例えば、モータと振動部とから構成し、信号処理装置50から得られる波形信号に基づいてモータを駆動し、そのモータの出力軸の回転を振動部によって振動に変換することで、振動を出力するようにしてもよい。これにより、ユーザに対して、伝達対象の周波数帯域よりも低域側の周波数の振動を伝達することができる。
また、駆動装置60は、スピーカを有していなくてもよく、その場合、信号処理装置50から、伝達対象の周波数帯域よりも低域側の信号のみを受信して振動装置を駆動するようにしてもよい。
【0020】
図2は、信号処理装置10の構成を示す概略ブロック図である。
信号処理装置10は、信号入力部110、信号加工部120、出力部130を含む。
信号入力部110は、信号を入力する。例えば、信号入力部110は、wave、mp3、wmvなどのフォーマットのうち、いずれかのフォーマットに従った音データを入力する。
【0021】
信号加工部120は、伝達対象の周波数帯域に含まれる信号である第1信号と前記周波数帯域よりも低域側の周波数の信号である第2信号とが前記周波数帯域に収まるように加工する。この加工は、例えば、次の2つのうちいずれかを用いることができる。
(1)信号加工部120は、第1信号と第2信号とを時間方向に圧縮することで加工する。
図3は、時間空間での圧縮・伸張により信号を加工する方法を説明する図である。
図3において、符号(a)に示すグラフは、信号加工部120による加工を行う前の信号を示しており、符号(b)に示すグラフは、信号加工部120による加工が行われた後の信号を示している。
ここでは、入力信号として振動波形W1が入力される。振動波形W1は、ある連続的な信号である。振動波形W1は、第1信号と第2信号とが含まれる信号である。
この振動波形W1に対し、処理の単位時間を時間方向における区間S1とし、この区間S1に含まれる振動波形W1について、区間S2(ただしS1>S2)となるように、時間方向に圧縮する。
【0022】
これにより、振動波形W1の周波数は、第1信号と第2信号を含む状態で時間方向に圧縮されるため、第1信号及び第2信号の周波数は、圧縮率に応じて高い周波数となる。そのため、伝達対象の周波数帯域に含まれない低域側の周波数の第2信号であっても、圧縮率に応じて高い周波数となる。例えば、圧縮率を2倍にした場合には、周波数としては2倍になる。そのため、伝達対象の周波数帯域に収まるような周波数となる程度まで時間方向に圧縮することで、第2信号についても、後段に伝達可能となる。
ここで、区間S1と区間S2との比を圧縮比Rとして表すことができる。この圧縮比Rは、第2信号の周波数と伝達対象の周波数帯に収まるような周波数とに基づいて決定してもよい。また、圧縮後の振動波形W1の単位時間は、S2=S1×Rとして表すことができる。振動波形W1が時間方向に圧縮されると、区間S1と区間S2との間では、空白の区間である区間Dが生じる。この区間Dは、もとの信号長に対する空白区間であり、D=S1-S2なる式で、時間方向の長さを求めることができる。
ここで、区間S1を十分に小さく設定することで、圧縮と伸張にかかる時間を短くすることができるため、伝達する際の遅延を低減することができ、リアルタイム性が向上する。
【0023】
ここで、信号加工部120は、圧縮する対象の信号の時間方向の長さである信号長(区間S1)と時間方向に圧縮された後の信号の時間方向の長さである信号長(区間S2)との差(区間D)に応じた信号長の信号である第3信号(規程信号W3)を、圧縮された後の信号(振動波形W2)の時間方向における前後の少なくともいずれかに充填するようにしてもよい。
【0024】
この
図3においては、振動波形W2の時間方向において後段側に規程信号W3を付加する場合が図示されている。ここでは、振動波形W1の信号の開始時間と、振動波形W2の開始時間が同じになるように圧縮されているため、規程信号W3を振動波形W2の後段に付加している。
また、振動波形W2の時間方向において前段側に規程信号W3を付加するようにしてもよい。この場合、振動波形W1の信号の開始時間と規程信号W3の開始時間とが同じになるように規程信号W3を加入した上で、規程信号W3の後段に、振動波形W2を配置するようにしてもよい。この場合、振動波形W1の終了時間と振動波形W2の終了時間が同じになる。
【0025】
規程信号W3は、あらかじめ規程された信号であり、振動波形W1及び振動波形W2とは十分に識別可能な信号を用いることができ、例えば、規程信号W3は、正弦波またはパルスコードなどの信号を用いるようにしてもよい。規程信号W3が予め定められていることにより、後段側(例えば、信号処理装置50)において、規程信号W3を簡単に検出することができ、この規程信号W3を除去し、振動波形W2を抽出することが可能となる。振動波形W2を抽出する場合、周波数解析またはパターンマッチング処理により区間Dの時間軸上における位置を検出し、区間S2を導出し、区間S2が区間S1になるように振動波形W2を時間方向に伸張する処理(逆変換)を行う。
【0026】
なお、この実施形態では、規程信号W3を、振動波形W2の前段または後段に充填する場合について説明したが、規程信号W3を規程信号W3aと規程信号W3bとして2つに分割し、振動波形W2の前段に規程信号W3a、振動波形W2の後段にW3bを充填するようにしてもよい。ここでは、規程信号W3aと規程信号W3bの時間方向の区間の和が区間Dと同じ区間の長さとなっていればよい。
【0027】
信号加工部120は、このような加工を、振動波形W1の区間S1に応じた時間が到来する毎に、次の区間について行う。
また、信号加工部120は、振動波形に対する加工処理を、アナログ処理またはデジタル処理のいずれで行うようにしてもよい。デジタル処理による場合、信号加工部120は、時間方向への圧縮を行う場合、信号の標本を一定間隔で削除することで圧縮してもよく、信号処理装置50は、時間方向への伸張を行う場合、標本を一定時間間隔で挿入することで補間することで伸張するようにしてもよい。これにより、実装を単純化できる。
【0028】
図4は、前述の方法おいて使用する音声処理系が一定区間の前後波形を参照することで圧縮・伸張、符号化・復号化、FFTなどが行われているとき、処理区間の両端において信号が不連続化する問題を解決する方法である。
処理区間の両端とは、時間方向において処理区間の開始時刻よりも前の時間と、処理区間の終了時刻よりも後ろの時間である。
【0029】
この場合、信号加工部102は、処理区間S1の時間方向において前後のそれぞれに予備区間Cを追加し、加工処理を行う。
図4では、一例として、信号加工部120は、区間S1の前に予備区間Cとして区間C11を追加し、区間S1の後ろに予備区間Cとして区間C12を追加する。一方、伸張部520は、逆変換を行う場合、処理区間S2の前後C×R分の信号を削除して伸張処理を行う。ここで、Rは波形の圧縮比率であり、S2/S1により求まる。伸張部520は、逆変換を行った後、区間S2の前方の区間C21をC11×Rによって求め、求められた区間C21を削除する。また、伸張部520は、区間S2の後方の区間C22をC12×R分によって求め、求められた区間C22を削除する。
【0030】
予備区間Cを使用する音声処理系の前後参照処理ウィンドウサイズよりも大きくなるように設定することで、処理区間S1の両端での不連続化を抑制することができる。
【0031】
(2)信号加工部120は、変換部121を有しており、上述の(1)の時間方向における圧縮とは異なる方法によって入力信号を加工する場合には、この変換部121の機能を用いる。変換部121は、第1信号と第2信号とをフーリエ変換することで周波数空間の信号に変換する。信号加工部120は、加工対象の信号が変換部121によって周波数空間の信号に変換された後、変換された周波数空間の信号が伝達対象の数波数帯域に収まるように周波数をシフトする。
【0032】
図5は、信号を周波数空間においてシフトすることで周波数変換処理を説明する図である。
図5において、符号(a)に示すグラフは、変換部121により変換された後の振動波形W5を示しており、符号(b)に示すグラフは、信号加工部120による加工が行われた後の振動波形W6を示している。
【0033】
図5の符号(a)で表すグラフにおいては、振動波形W5は、低域側の周波数から高域側に渡って信号強度を有している。変換部121は、このような、信号入力部110から入力される振動波形W5をFFT(Fast Fourier transform)などのフーリエ変換処理を行うことで、周波数ごとの強度成分情報に変換する。
信号加工部120は、変換部121によって変換された後の振動波形W5の周波数を、低域側について伝達対処の周波数帯域に収まるようにシフトする。
図5の符号(b)で表すグラフでは、周波f1から周波数f2(f1<f2)までの低域側の周波数帯域の分(シフト量S)に応じて、正の方向に(周波数が高くなるように)振動波形W5を全体的にシフトする。シフトするにあたり、振動波形W5の信号強度は変更せず、周波数をシフトする。
【0034】
このシフト量Sは、伝達対象の周波数帯域に収まるような周波数となる程度まで周波数空間において高域側にシフトできればよい。例えば、伝達対象の周波数帯域の下限値が20Hzである場合には、振動波形W5についてシフト量Sを20Hzとすることで、20Hz以下の信号成分を伝達対象の周波数帯域に収めるように加工することができる。
これにより、振動波形W5の低域側の周波数成分について、伝達対象の周波数帯域に収めることができるため、第2信号についても後段に伝達可能となる。
【0035】
図2に戻り、出力部130は、信号加工部120によって加工された後の信号を出力する。この出力は、例えば、記憶装置への出力、無線通信装置への出力、記録媒体への書き込み等である。記憶装置への出力を行うことで、出力部130から出力された信号が記憶装置に書き込まれる。また、無線通信装置への出力を行うことで、出力部130から出力された信号が、無線通信装置によって、外部の機器(他の無線通信装置等)に対して無線によって送信される。
【0036】
次に、
図6は、信号処理装置50の構成を示す概略ブロック図である。
信号処理装置50は、信号入力部510、伸張部520、出力部530を含む。
信号入力部510は、信号を入力する。信号入力部510は、wave、mp3、wmvなどのフォーマットのうち、いずれかのフォーマットに従った音データであって、信号処理装置10の信号入力部110において入力されたフォーマットと同じフォーマットであってもよい。
【0037】
伸張部520は、信号入力部510から入力される入力信号の周波数帯域が当該周波数帯域の低域側に下がるように加工する。
伸張部520は、次の2つのうちいずれかの方法にて入力信号を加工することができる。
(a)伸張部520は、入力信号を時間方向に伸張する。
このとき、伸張部520は、入力信号のうち、定められたパターンの信号である規程信号ではない区間について、定められた時間となるように時間方向に伸張する。
例えば、
図3の符号(b)に示すように、伸張部520は、振動波形W2及び規程信号W3を含む信号が入力された場合には、伸張部520上述したように、周波数解析またはパターンマッチング処理を行うことで、規程信号W3が存在する区間Dを検出し、区間Dを除外した残りの区間(区間S2)の信号を振動波形W2として抽出する。そして伸張部520は、抽出された振動波形W2の区間S2が区間S1となるように時間軸方向に伸張する。これにより、振動波形W2が時間軸方向に伸張することで、振動波形W2の周波数が低域側に下がる。これにより、伝達対象の周波数帯域ではない低域側の信号であっても、信号処理装置10によって圧縮された後、信号処理装置50において伸張することで、信号処理装置50において振動波形W2から振動波形W1に復元し、後段において利用することが可能となる。
【0038】
伸張部520は、信号処理装置10の信号加工部120による圧縮処理において、振動波形が時間方向に圧縮された信号を伸張した場合には、圧縮された際に欠落したデータを、伸張されたデータの時間の前後関係に基づいて補間するようにしてもよい。
【0039】
ここでは、信号処理装置10において行われた圧縮処理に対応した伸張処理を信号処理装置50において実行できるように、圧縮条件や伸張条件を信号処理装置10と信号処理装置50との間で共有できていればよい。例えば、規程信号W3のパターンや、区間S1の時間方向の長さ、区間S2の時間方向の長さ、圧縮率R、振動波形W2に対して規程信号W3が前後のいずれに配置されるか等の条件が、信号処理装置10と信号処理装置50とにおいてお互いに共有されていればよい。
【0040】
(b)伸張部520は、変換部521を有しており、上述の(a)の時間方向における伸張とは異なる方法(例えば周波数空間において周波数シフトをする方法)によって入力信号を伸張(復元)する場合には、この変換部521の機能を用いる。
変換部521は、伸張部520によって伸張された入力信号を逆フーリエ変換する。変換部521を用いる場合、伸張部520は、入力信号を周波数空間において負の方向に(低域側に)シフトするように加工する。その上で、伸張部520は、低域側にシフトされた入力信号を変換部521によって逆フーリエ変換を行うことで、時間空間の入力信号に変換する。
【0041】
図5を参照し、より具体的に説明する。
伸張部520は、
図5の符号(b)に示す振動波形W6が入力されると、シフト量Sの分だけ、振動波形W6の周波数を低域側にシフトする。これにより、振動波形W6は、信号強度を有する最低の周波数がf2であったところ、周波数f1となるように信号全体をシフトする。その上で、伸張部520は、変換部521によって、入力信号を周波数空間から時間空間に変換することができる。
これにより、振動波形W6から振動波形W5を得ることができ、さらに、振動波形W5を時間空間の信号に変換することで、圧縮前(加工前)において含まれていた低域側の周波数成分の信号を、伝達された後段の機器において利用することができる。
【0042】
図6に戻り、出力部530は、伸張部520によって伸張する加工がなされた信号のうち、周波数帯域に対応する信号(第4信号)と、周波数帯域よりも低域側の信号(第5信号)とのうち少なくともいずれか一方の信号を出力する。ここでは、出力部530は、後段の機器が必要とする信号に応じて、第4信号のみ、第5信号のみ、第4信号と第5信号の両方を含む信号、のうち、いずれか1つを選択し、後段に出力するようにしてもよい。
また、出力部530は、入力信号が音信号である場合には、周波数帯域に対応する信号を音信号として出力し、周波数帯域よりも低域側の信号について振動を発生させる信号である振動波形として出力する。
【0043】
図7は、
図1における信号処理システム1の動作を説明するシーケンス図である。ここでは、信号処理装置10から信号処理装置50に対して、無線通信装置30及び無線通信装置40を介して、振動信号を伝達する場合について説明する。
信号処理装置10の信号入力部110は、外部から入力される振動信号を入力し(ステップS101)、信号処理装置10の信号加工部120は、入力された振動信号について、低域側の周波数成分が伝達対象の周波数帯域に収まるように加工処理を行う(ステップS102)。この加工処理は、時間方向における圧縮であってもよいし、振動信号を周波数空間に変換した後にシフト量Sに応じて周波数をシフトする加工であってもよい。そして、信号処理装置10の出力部130は、加工後の振動信号を無線通信装置30に出力する(ステップS103)。ここで、無線通信装置30が周波数空間で表された振動信号を無線通信によって送信することができない場合には、出力部130が、周波数空間において表された振動信号を逆フーリエ変換することで時間空間に変換した後、無線通信装置30に出力するようにしてもよい。
【0044】
無線通信装置30は、信号処理装置10から出力された振動信号を入力すると(ステップS301)、振動信号を無線によって通信相手である無線通信装置40に対して送信する(ステップS302)。ここでは、振動信号の低域側の信号は、無線通信装置30において伝達可能な周波数帯域に収まる周波数帯域の信号となっているため、無線通信装置30から無線通信装置40に送信する段階で、低域側の周波数成分が欠落することがない。
【0045】
無線通信装置40は、無線通信装置30から送信された振動信号を受信すると(ステップS401)、受信した振動信号を信号処理装置50に出力する(ステップS402)。
【0046】
信号処理装置50は、無線通信装置40から振動信号を受信すると(ステップS501)、受信した振動信号の周波数成分が低域側となるように振動信号を加工し(ステップS502)、加工後の振動信号を後段の機器に出力する(ステップS503)。このステップS502における加工は、ステップS102において信号処理装置10において加工された圧縮方法に対応していれば、時間軸方向における信号の伸張であってもよいし、周波数空間において低域側に周波数をシフトさせる処理であってもよい。また、周波数空間において低域側に周波数をシフトさせる処理を行っていた場合には、信号処理装置50の出力部530は、振動信号に対して逆変換フーリエ変換を行うことで、振動信号を時間空間に変換した後に、後段の機器に出力するようにしてもよい。
【0047】
図8は、信号処理装置10の他の実施形態である信号処理装置10Aの構成を示す概略機能ブロック図である。信号処理装置10と共通する機能について同じ符号を付し、その説明を省略する。
信号入力部110Aは、振動信号入力部111と、コンテンツ取得部112と、信号合成部113とを含む。
振動信号入力部111は、伝達対象の周波数帯域よりも低い周波数の信号を入力する。例えば、振動信号入力部111には、出力したい振動に応じた信号が外部から入力される。
コンテンツ取得部112は、伝達対象の周波数帯域の信号である。この信号は、音を出力することが可能なデータであってもよく、人の声をマイク等で収集して符号化された音声データや、楽曲の音を表す楽曲データ、効果音や環境音を表す音響データであってもよい。コンテンツ取得部112は、例えば、既存のコンテンツを取得してもよい。
【0048】
信号合成部113は、振動信号入力部111から入力される信号とコンテンツ取得部112から入力される信号を合成することで、伝達対象の周波数帯域の信号と伝達対象の周波数帯域よりも低い帯域の信号とを含む信号を生成する。
【0049】
このように、信号処理装置10Aは、コンテンツに対して、外部から入力される振動信号を追加で付加することができる。そのため、伝達対象の周波数帯域よりも低い帯域の信号が含まれていないコンテンツがあったとしても、そのコンテンツに対して後から、振動信号を加えた上で、信号加工部120によって加工処理をすることができる。
信号処理装置10Aから出力される信号は、伝達対象の機器に接続された信号処理装置に無線通信装置等を介して出力してもよいし、記憶装置20に記憶するようにしてもよい。
【0050】
図9は、信号処理装置50の他の実施形態である信号処理装置50Aの構成を示す概略機能ブロック図である。信号処理装置10と共通する機能について同じ符号を付し、その説明を省略する。
信号分離部515は、信号入力部510から入力される入力信号が複数チャンネルの音信号である場合に、チャンネル毎に分離し、第1チャンネルの信号を伸張部520に出力し、第2チャンネルの信号を信号補間部525と出力部530とに出力する。
第1チャンネルは、例えば、伝達対象の周波数帯域よりも低域の周波数成分を含む信号である。第2チャンネルは、伸張部520によって伸張処理を行わない信号であり、例えば、低域の周波数成分を含まない信号である。
【0051】
信号補間部525は、信号分離部515から得られた信号に基づいて、伸張部520から得られた信号を補間して出力部530に出力する。ここで、伸張部520によって伸張された信号は、低域の周波数成分を含むように圧縮処理が行われた際に、高域の周波数成分が、伝達対象の周波数帯域に収まらずに欠落する場合がある。そのような場合、欠落しうる周波数に基づいてクロスオーバー周波数を予め定めておき、信号補間部525が、このクロスオーバー周波数に基づいて、伸張部520から得られた信号の高域側に、信号分離部515から得られる信号のうちクロスオーバー周波数よりも高域側の信号を合成する。これにより、伸張部520によって伸張された信号において、高域側の周波数成分が欠落していたとしても、他のチャンネルにおいて得られた高域側の周波数成分の信号を用いて補間することができる。ここでは、他のチャンネルの信号を用いて補間するため、完全に元の信号に必ずしも戻るものではないが、あるチャンネルだけ常に特定の高域の周波数成分が欠落してしまうことで生じる音の聞こえ方における違和感を低減することができる。
出力部530は、信号補間部525によって補間された後の信号と、信号分離部515から得られた信号とを後段の機器に出力する。これにより、複数チャンネルのそれぞれの信号を出力できるだけでなく、伝達対象の周波数帯域よりも低域の周波数の信号を、いずれかのチャンネルの信号に含めて後段に伝達することができる。
【0052】
上述した実施形態においては、低域側の信号について、処理対象領域に収まるように信号を加工し、再生側の装置において、信号を復元して出力するようにした。これにより、可聴帯域の信号についてはスピーカ等の出力装置から出力することで、音として出力することができる。そして、可聴帯域よりも低い周波数の信号であっても、処理対象領域から欠落することなく再生側で受け取って再生することができる。これにより、可聴帯域よりも低い周波数の信号についても、振動として出力することが可能となる。
これにより、一般的なシステムでは低域側の信号が伝達されないが、上述した信号処理システムでは、低域側の信号も伝達することができるので、後段の機器において、この低域側の信号を出力することができる。
【0053】
これにより、例えば、上述の信号処理システムをゲーム機等のエンターテイメント機器に適用した場合には、ゲームの進行状況や、ゲームのシーンや操作内容に応じた振動をユーザに対して伝達することができる。振動装置がゲームのコントローラに設けられている場合には、コントローラを持つユーザの手に振動を伝達することができる。振動装置が、ゲームをプレイするユーザが着座するシートに設けられている場合には、シートの背もたれ、座面、フットレスト等の少なくともいずれかの部位からユーザに対し、ゲームの進行状況等に応じた振動を伝達することができる。
【0054】
また、例えば、音楽の演奏のライブが収録されたコンテンツを再生する場合であっても、ライブ会場において発生された低域側の振動に応じた波形信号についても、再生側に伝達することで、再生側において、その低域側の信号を振動として再生することができる。これにより、低域側の周波数成分を含む信号に対応する振動をユーザに伝達することができるため、音として聞こえる振動だけでなく、ライブ会場において体に伝達される振動(低域の周波数成分を持つ振動)についても、再生側において伝達することができるため、コンテンツを再生したとしても、ライブ感を向上させることで、臨場感・没入感を向上させることができる。また、コンテンツが映画である場合には、映画のシーンに応じた振動を信号としてコンテンツに含めるようにすることで、例えば、映画に登場する登場人物やキャラクターが感じている振動を視聴者にも与えることができるため、現実感を向上させたコンテンツを提供することができる。
【0055】
また、上述した実施形態においては、既存のコンテンツに対して、振動信号とともに処理対象領域に含まれるように加工しておくことで、既存のコンテンツを活用して振動信号を含むコンテンツを作成することが可能となる。これにより、このコンテンツをサーバからダウンロードする、あるいは記録媒体から読み出すことで、振動信号を含むコンテンツを復元処理することで、音信号と振動信号を取り出し、再生することができる。
【0056】
このような振動装置は、例えば、椅子(座席)に取り付けることが可能な装置であってもよい。例えば、座面、背もたれ、ヘッドレスト、フッドレスト等のうち少なくともいずれか1つに取り付けるようにしてもよい。
【0057】
また、上述した実施形態によれば、既存の音声処理技術(記録・再生技術や伝送技術)を用いて記録・伝送する場合であっても、皮膚により感知されるような振動波形を伝送することができる。また、既存の音声処理技術を用いて振動情報を処理することができるため、ハードウェア・部品やフォーマットなどの規格を共通化することができる。また、広く普及している既存の音声処理技術を用いることができるため、処理の基幹部分の実装を変更することなく、振動波形の処理を行うことができる。
【0058】
また、上述した実施形態において、時間軸方向において圧縮・伸張する処理を行った場合には、フーリエ変換処理あるいは逆フーリエ変換処理を行う必要がないので、信号処理の負荷を低減することができ、リアルタイム性を向上させることができる。
【0059】
なお、上述した実施形態において、信号処理装置10、信号処理装置10Aは、無線通信装置30とは異なる機器として説明したが、信号処理装置10または信号処理装置10Aが、無線通信装置30に一体として内蔵されるようにしてもよい。例えば、信号処理装置10または信号処理装置10Aと、無線通信装置30との機能を含むスマートフォン、PC、タブレット、携帯電話、のうちいずれかとして構成するようにしてもよい。
また、上述した実施形態において、信号処理装置50、信号処理装置50Aは、無線通信装置40とは異なる機器として説明したが、信号処理装置50または信号処理装置50Aが、無線通信装置40に一体として内蔵されるようにしてもよい。例えば、信号処理装置50または信号処理装置50Aと、無線通信装置40との機能を含むスマートフォン、PC、タブレット、携帯電話、のうちいずれかとして構成するようにしてもよい。
【0060】
上述した実施形態における信号処理装置10、信号処理装置50、信号処理装置10Aのいずれかの機能を、CPU(中央処理装置)等の処理装置若しくは専用の電子回路で構成するよいにしてもよい。
また、上述した実施形態における信号処理装置10、信号処理装置50、信号処理装置10Aのいずれかの機能をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA(Field Programmable Gate Array)等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0061】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0062】
1…信号処理システム、10…信号処理装置、10A…信号処理装置、20…記憶装置、30…無線通信装置、40…無線通信装置、50…信号処理装置、50A…信号処理装置、60…駆動装置、110…信号入力部、110A…信号入力部、111…振動信号入力部、112…コンテンツ取得部、113…信号合成部、120…信号加工部、121…変換部、130…出力部、510…信号入力部、515…信号分離部、520…伸張部、521…変換部、525…信号補間部、530…出力部