(58)【調査した分野】(Int.Cl.,DB名)
前記コンピューティングデバイスが、前記第1のオーディオパノラマの少なくとも一部を消去するアンチノイズを生成することにより前記第2のオーディオパノラマを生成するように構成されている、請求項1に記載のシステム。
前記ユーザが乗る車両の外部に結合され、前記第1のオーディオパノラマを変換するように構成された音声トランスデューサのセットをさらに含む請求項1に記載のシステム。
【発明を実施するための形態】
【0009】
以下の説明では、本発明をより完全に理解するために多くの特定の詳細を記載する。しかし、これらの1つ又は複数の特定の詳細なしで本発明を実施してもよいことが当業者には明らかであろう。
【0010】
図1Aは、本発明の一実施形態による、個人安全システムのユーザに危険、又はその他の関心対象の事象の存在を示すように修正し得るオーディオパノラマ100を示す概念図である。図示のように、オ―ディオパノラマ100はユーザ110を囲み、音源101、102及び103を含む様々な音源を含んでいる。ユーザ110は方向112に面しており、したがって方向112に対する特定方向から発する異なる各々の音源101、102及び103に気付くことができる。ユーザ110は例えば、ユーザ110の左方向から発する音源101に気付くであろう。同様に、ユーザ110はユーザ110の正面方向から発する音源102に気付き、また、ユーザ110の右方向から発する音源103に気付くであろう。
【0011】
これも図示のように、ユーザ110は、(i)ユーザ110を脅かすことがある危険の存在を検出し、(ii)オーディオパノラマ100を修正することに拠ってその危険方向へとユーザ110の聴覚を引き付けるように構成された個人安全システム120に結合されている。個人安全システム120は、
図2A〜2Cに関連して以下により詳細に記載される異なる幾つかの実施形態により実装され得るため、個人安全システム120の特定の詳細はここには示さない。しかし一般的には、個人安全システムは、ユーザ110に危険、又はその他の関心対象の事象の存在を検出するように構成された様々なセンサ、並びにオーディオパノラマ100を修正するためユーザ110に音響を出力するように構成された様々な音声出力デバイスを含んでいる。
【0012】
個人安全システム120は、ユーザ110の聴覚を危険な方向に引き付けるための異なる幾つかの技術を実装し得る。
図1Bを参照して以下により詳細に記載するように、個人安全システム120は、危険な方向から発しない音源をすべて消去し、又は無効にしてもよい。
図1Cに関連して以下により詳細に記載するように、個人安全システム120はまた、オーディオパノラマ100を収縮して、ユーザ110が危険な方向から発するそのパノラマ内の音源の一部又はすべてに気付くようにしてもよい。
図1Dに関連して以下により詳細に記載するように、個人安全システム120はまた、ユーザ110が危険な方向から発するパノラマ内の音源に気付く一方、元のパノラマ内のこれらの音源の相対的な位置を保つようにオーディオパノラマ100を圧縮してもよい。
【0013】
図1Bは、本発明の一実施形態による、危険114があることを示すためにオーディオコーン116に分解された
図1のオーディオパノラマ100を示す概念図である。図示のように、危険114はユーザ110の右方向からユーザ110に接近する。ユーザ110は方向112に面しており、危険112が迫っていることを即座には気付かないかもしれない。しかし、個人安全システム120は危険114を検出し、それに応答してコーン116の形状になるように音響パノラマ110を修正することによって、ユーザ110の聴覚を危険114に方向に引き付けるように構成されている。
【0014】
具体的には、個人安全システム120は、オーディオコーン116の外側にある元のオーディオパノラマ100内にあるすべての音源を消去し、オーディオコーン116内にあるどの音源をも許容する。
図1Bでは、個人安全システム120は、音源101と102とがオーディオコーン116外にあるためこれらを消去し、音源103はオーディオコーン116内にあるためこれが残ることを許容する。個人安全システム120は、音源101及び102を消去する際に、技術的に実現可能な任意のノイズ消去アプローチを実装してもよい。一実施形態では、ユーザ安全システム120はまた、例えば音源103などのオーディオコーン116内の音響を増幅してもよい。
【0015】
このようにしてオーディオパノラマ100の形状を変えることにより、個人安全システム120はユーザ110の聴覚を音源103の方向に、ひいては危険114の方向に引き付ける。これに反応して、ユーザ110は危険114に向かって振り向き、危険114が迫っていることに視覚的に気付くようになる。
図1Cを参照して、オーディオパノラマ100を修正する別のアプローチを以下に記載する。
【0016】
図1Cは、危険114があることを示すためにオーディオコーン116に収縮された、本発明の一実施形態による
図1のオーディオパノラマ100を示す概念図である。図示のように、危険114はユーザ110の右方向からユーザ110に接近し、ユーザ110は
図1Bと同様に方向112に面している。個人安全システム120は危険114を検出し、それに応答してオーディオパノラマ100をオーディオコーン116へと収縮するように構成されている。
【0017】
具体的には、個人安全システム120は、元のオーディオパノラマ100内のすべての音源を消去し、これらの音源がオーディオコーン116内の単一の位置、又は角度にあるように音源を再配置する。
図1Cでは、個人安全システム120は音源101、102及び103がオーディオコーン116内の単一の角度に沿って位置するようにこれらの音源を再配置する。そうすることによって、個人安全システム120は音源101、102及び103を消去し、次いでこれらの音源を複製して、ユーザ110がオーディオコーン116内の同じ方向から発する各音源に関連する音声に気付くようにする。消去された音源は簡略にするためにこの図では示さない。
【0018】
このような機能を実装するため、個人安全システム120は音源101、102及び103を録音し、ノイズ消去技術を用いてこれらの音源を消去し、録音された音源を二次元(2D)又は三次元(3D)位置オーディオ技術を用いて表現し、次いでこれらの変調された音源をユーザ110に出力する。一実施形態では、個人安全システム120は音源101、102及び103を、ユーザ110がオーディオコーン116内の単一の位置から発するものと気付くことができる単一のモノラル音源に収縮する。
【0019】
本明細書に記載の態様でオーディオパノラマ100を収縮することによって、個人安全システム120は
図1Bを参照して前述したように、ユーザ110の聴覚をオーディオコーン116内の音源101、102及び103の方向に、ひいては危険114の方向に引き付けることができる。これに反応して、ユーザ110は危険114に面するように振り向き、危険114が迫っていることに視覚的に気付くようになる。
図1Dを参照して、オーディオパノラマ100を修正する別のアプローチを以下に記載する。
【0020】
図1Dは、危険114があることを示すために空間的にオーディオコーン116へと圧縮された、本発明の一実施形態による
図1のオーディオパノラマ100を示す概念図である。図示のように、危険114は
図1B〜1Cと同様にユーザ110の右方向からユーザ110に接近し、ユーザ110は方向112に面している。個人安全システム120は危険114を検出し、それに応答して全体がオーディオコーン116内に存在するようにオーディオパノラマ100を圧縮する一方、音源101、102及び103の相対的な角度位置が保たれるように構成されている。
【0021】
具体的には、個人安全システム120は元のオーディオパノラマ100内のすべての音源を消去し、次いで、これらの音源の元の間隔に応じて角間隔を相対的に互いに隔てるようにこれらの音源をオーディオコーン116内の新たな位置にマッピングする。
図1Dでは、個人安全システム120は、これらの音源間の元の距離又は角度から導出された距離又は角度で互いに離間されたオーディオコーン116内の新たな位置に音源101、102及び103を再配置する。例えば、個人安全システム120は、オーディオパノラマ100内のこれらの音源の元の位置と同様に互いに相対的に近接した位置に音源102及び103を再配置する。
【0022】
このような機能を実装するため、個人安全システム120は音源101、102及び103を録音し、次いで
図1B〜1Cを参照して前述したようにノイズ消去技術を用いてこれらの音源を消去する。次いで個人安全システム120は、音源101、102及び103の新たな位置を計算することによりオーディオパノラマ100をオーディオコーン116へと圧縮し、次いでこれらの音源がこれらの新たな位置から発すると思われるように、録音された音源を2D又は3D位置オーディオ技術を用いて表現してもよい。個人安全システム120は次いで、変調された音源をユーザ110に出力してもよい。そこでユーザ110は、オーディオパノラマ100全体がオーディオコーン116内から発するように感じることができる。本明細書に簡単に記載する「圧縮」機能を達成するための幾つかの技術は、
図3A〜4Cを参照して以下でも詳細に記載する。
【0023】
本明細書に記載のようにオーディオパノラマ100を圧縮することによって、個人安全システム120は、ユーザ110の聴覚をオーディオコーン116内の音源101、102及び103の方向に、ひいては危険114の方向に引き付けることができる。ユーザ110は、それに反応して危険114に振り向き、危険114が迫っていることに視覚的に気付くようになる。
【0024】
図1A〜1Dを全般的に参照すると、当業者は、上記の機能を実装するために個人安全システム120が広範な異なる技術に依拠してもよいことを理解するであろう。例えば、個人安全システム120は、音声及び視覚データ処理、コンピュータビジョン技術、環境データの経験則などを含むセンサ入力データを処理するいずれかのアプローチにより危険114の存在を検出することができよう。加えて、個人安全システム120は、構造的干渉、又はその他の形態の騒音防止を含む技術的に実現可能ないずれかのノイズ消去アプローチを用いてオーディオパノラマ100内の音源を消去することができよう。さらに、個人安全システム120は、音響パノラマ100を修正して危険114自体に関する音響を増幅し、又はそのパノラマ内の別の音響を、迫りくる無音の危険に関連する方向に集中させることができよう。一般に、オーディオパノラマ100を修正するため、個人安全システム120はオーディオコーン116を方向112に対して位置決めしてもよい。一実施形態では、ユーザ110が面している方向を検出するように構成されたセンサ、又はユーザ110が見ている方向を検出するように構成された視線検出センサを含んでいる。
【0025】
開示される機能を実装することによって、個人安全システム120は、追加の知覚情報を導入せずにユーザ110の注意を危険114の方向に引き付けることができる。したがって、個人安全システム120は、ユーザ110の驚きや動転を回避し得る。加えて、ユーザ110は聴覚の変更方向(すなわち
図1B〜1Dに示すコーン116)に自然に振り向くことができるため、本明細書に記載のアプローチはユーザ110の直感に密接に一致させることができる。この聴覚には動転させる人工音を含んでいないため、ユーザ110は無意識に危険114に面することができ、したがってその危険に適切に反応する十分な認知資源を保つことができる。
【0026】
個人安全システム120は、多様な異なる実施形態により実装し得る。しかし一般的には、個人安全システム120は、1つ又は複数のセンサ、1つ又は複数の音声出力デバイス、及び少なくとも1つの処理デバイスを含んでいる。これらの異なるデバイスは、これまで記載した機能を実行するために相互運用するように構成されている。
図7を参照して個人安全システム120の例示的実装を以下により詳細に記載する。個人安全システム120は、異なる多様なコンテクストで実装され得る。例えば、個人安全システム120は自動車、ウェアラブルコンピューティングデバイス、ポータブルコンピューティングデバイス、聴力増幅装置などに組み込んでもよい。
図2A〜2Cを参照して、個人安全システム120を実装し得る幾つかの例示的コンテクストを以下により詳細に記載する。
【0027】
図2Aは、車両200に組み込まれた本発明の一実施形態による個人安全システム120を示すブロック図である。図示のように、危険210は、方向114からユーザ110がいる車両200に接近する。車両200は、外向きのカメラ220、コンピューティングデバイス230、左のスピーカ240−1、及び右のスピーカ240−2を含む個人安全システム120の幾つかの要素を含んでいる。
【0028】
外向きのカメラ220は車両200の内部又は外部に取り付けてもよく、一般に車両200の周囲環境に関連するビデオを撮像するように位置される。コンピューティングデバイス230は、データ処理が可能な、技術的に実現可能な任意のデバイスでよい。例示的コンピューティングデバイス230は、
図7を参照して以下により詳細に記載する。スピーカ240には、一般的な自動車に見られる従来型のスピーカ、ヘッドレストに埋め込まれたスピーカ、又はその他のタイプのスピーカが含まれてもよい。スピーカ240には、ノイズ消去専用の1つ又は複数の音声出力デバイスが含まれるとともに、音響生成専用の1つ又は複数のオーディオデバイスも含まれてもよい。
【0029】
外向きのカメラ220は、危険210を反映し得るビデオデータを捉えるように構成されている。コンピューティングデバイス230は、外向きのカメラ220によって捉えられたビデオデータを処理し、危険210を検知するように構成されている。危険210に反応して、コンピューティングデバイス230は、
図1A〜1Dを参照して前述したように、ユーザ110に関連するオーディオパノラマ100を修正して、スピーカ240にオーディオコーン116を生成させる。オーディオコーン116は、ユーザ110の注意をその危険な方向に引き付けることができる。コンピューティングデバイス230は、ユーザ110に出力されたオーディオパノラマを修正してオーディオコーン116を生成するためにこれまで記載したどの技術を実装してもよい。そうすることによって、ユーザ110に関連するオーディオパノラマを消去し、又はその他の修正によってオーディオコーン116を生成するため、選択的な(すなわちスピーカ240による)ノイズ消去を実装し得る。
【0030】
前述の機能を実行する際、個人安全システム120は、車両200内で車両の周囲環境に関連する外部のオーディオパノラマを複製するように構成されている。そこで、危険210が検出されると、個人安全システム120は複製されたそのパノラマを修正して、
図2Aに示したオーディオコーン116の形状になるようにする。個人安全システム120は、
図3A〜3Cを参照して以下でもより詳細に記載するように、オーディオコーン116を生成するため、左右のスピーカ240に送信されるように左右に割り当てられた音声チャネルを変調するように構成されている。
図2Bを参照して個人安全システム120の別の実施形態を以下に記載する。
【0031】
図2Bは、本発明の別の実施形態による、車両に組み込まれた個人安全システム120を示すブロック図である。図示のように、危険210は
図2Aと同様に、方向114からユーザ110がいる車両200に接近する。車両200は、外向きのカメラ220、コンピューティングデバイス230、及びインイヤーデバイス250を含む個人安全システム120の幾つかの要素を含んでいる。インイヤーデバイス250は、補聴器、又は音声をユーザ110の耳内に直接送信するように構成されたその他の形態の音声デバイスでよいであろう。
【0032】
図2Aを参照して記載したように、外向きのカメラ220は、危険210を反映し得るビデオデータを捉えるように構成され、コンピューティングデバイス230は、そのビデオデータを処理して危険210を検出するように構成されている。危険210に反応して、コンピューティングデバイス230は、
図1A〜1Dを参照して前述したように、インイヤーデバイス250がユーザ110に関連するオーディオパノラマを修正してオーディオコーン116を生成するようにさせる。オーディオコーン116は、その危険な方向にユーザ110の注意を引き付けることができる。コンピューティングデバイス230は、ユーザ110に出力されたオーディオパノラマを修正してオーディオコーン116を生成するためにこれまで記載したどの技術を実装してもよい。個人安全システム120の別の実装形態は
図2Cを参照して以下に記載する。
【0033】
図2Cは、本発明の一実施形態による、ウェアラブルシステムに組み込まれた個人安全システム120を示すブロック図である。図示のように、危険210は
図2A〜2Bと同様に方向114からユーザ110に接近する。ユーザ110は、コンピューティングデバイス230、ウェアラブルカメラ260、及びインイヤーデバイス270を含む個人安全システム120を装着している。
【0034】
インイヤーデバイス270は補聴器、又は音声をユーザ110の耳内に直接送信するように構成されたその他の形態の音声デバイスでよい。ウェアラブルカメラ260は、それらに限定されないが、例えばメガネセット、帽子、ユーザ110が着けるイヤホン、又は例えばお守りなどのユーザ110が着ける宝石などのユーザのアクセサリーに組み込んでもよい。コンピューティングデバイス230は、メガネセット又は他のユーザアクセサリーに組み込まれる回路であってもよく、あるいは、ユーザ110が携帯する携帯電話又はタブレットコンピュータであってもよい。
【0035】
ウェアラブルカメラ260は、危険210を反映し得るビデオデータを捉えるように構成され、コンピューティングデバイス230は、そのビデオデータを処理して危険210を検出するように構成されている。危険210に反応して、コンピューティングデバイス230は、
図1A〜1Dを参照して前述したように、インイヤーデバイス270がユーザ110に関連するオーディオパノラマを修正してオーディオコーン116を生成するようにさせる。オーディオコーン116は、その危険な方向にユーザ110の注意を引き付けることができる。コンピューティングデバイス230は、ユーザ110に出力されたオーディオパノラマを修正してオーディオコーン116を生成するためにこれまで記載したどの技術を実装してもよい。
図3A〜4Cを参照して、以下にこれらの技術をより詳細に記載する。
【0036】
図3Aは、本発明の一実施形態による、車両200の外部にある環境オーディオパノラマ300−1を示す概念図である。図示のように、車両200は、環境オーディオパノラマ300−1を検出するように構成された左マイクロフォン310−1及び右マイクロフォン310−2を含んでいる。マイクロフォン310は、個人安全システム120に組み込まれてもよい。環境オーディオパノラマ300−1は音源101、102及び103を含んでいる。
【0037】
一般に、本発明の実施形態は、動物、別の車などの自然音を含む外部の音場を完全に捉えるマイクロフォン310などの任意の形態の外部トランスデューサに依拠してもよい。外部の音場を拾う一般的な方法は、互いに近接した位置にあるが異なる方向を向く(
図3Aに示すような)2つの双方向マイクロフォンを使用することである。2つのマイクロフォン間の角度は90度と120度の間でよい。マイクロフォン310−1は左チャネルに送られる信号を供給し、マイクロフォン310−2は右チャネルに送られる信号を供給する。次いで、
図3Bを参照して以下により詳細に記載するように、環境オーディオパノラマ300−1を複製するために、これらのチャネルに関連する音声がスピーカ240を介してユーザ110に出力される。
【0038】
図3Bは、車両200内で生成される複製オーディオパノラマ300−2を示す概念図である。左のスピーカ240−1及び右のスピーカ240−2は、ユーザ110が車両200内のオーディオパノラマ300−2を感知するように、車両200内の音源101、102及び103を複製するように構成されている。オーディオパノラマ300−2は環境オーディオパノラマ300−1と同様に見えてもよい。言い換えると、個人安全システム120は、外部の音響が車両200の外部から車両200の内部に伝わり、そこでユーザ110が知覚できるように「パススルー」デバイスとして機能するように構成されている。
【0039】
上記の機能を達成するため、左マイクロフォン310−1は、環境オーディオパノラマ300−1の左側に関連する音響をサンプリングし、サンプリングされた音響を左チャネルに割り当てるように構成されている。同様に、右マイクロフォン310−2は、環境オーディオパノラマ300−1の右側に関連する音響をサンプリングし、サンプリングされた音響を右チャネルに割り当てるように構成されている。左のスピーカ240−1は次いで左チャネルの100%を出力し、一方、右のスピーカ240−2は右チャネルの100%を出力するように構成されていることにより、マイクロフォン310によってサンプリングされた環境オーディオパノラマ300−1全体を複製する。
【0040】
音響システムは一般に、左と右の音響チャネルを有してもよく、上記の構成と同様に、左のスピーカが左チャネルを出力し、右のスピーカが右チャネルを出力することを当業者は理解するであろう。しかし、個人安全システム120は、複製サウンドパノラマ300−2を狭くするために、各チャネルが異なるスピーカに出力される度合いを修正するようにも構成される。そうすることによって、個人安全システム120は
図3Cを参照して以下に記載するように、スピーカ240が様々な比率で左右のチャネルを出力するようにさせる。
【0041】
図3Cは、本発明の一実施形態による、オーディオコーン116へと圧縮された
図3Bの複製オーディオパノラマ300−2を示す概念図である。図示のように、オーディオコーン116は聴覚的注意314の方向に位置合わせされる。実際には、個人安全システム120は、迫る危険に関連する方向を示すためにオーディオコーン116を生成することによって、このような危険が存在することをユーザ110に伝える。そうすることによって、個人安全システム120は、
図1Dを参照して記載したように音源101、102及び103を再配置することにより、これらの音源の相対的角度位置が保たれるように複製オーディオパノラマ300−2を圧縮する。音源の相対的角度位置を保ちつつ前述の音源再配置を達成する1つの技術は、ラウドスピーカへの音響チャネルの配分を操作することにより、複製オーディオパノラマ300−1を狭くすることである。
【0042】
ラウドスピーカへの音響チャネルの配分を操作することによりサウンドパノラマを狭めることを説明するため、一例として追加の音響システムを検討する。このような音響システムは、個々の楽器の集合に関連する音声を生成することができ、各々の楽器は個々の音源に相当する。各音源の一部の位置を左の音響チャネルに割り当て、各音源の一部の位置を右チャネルに割り当てることによって、個々の音源はすべて、サウンドミキサによりオーディオパノラマに沿って左端から右端、又はその間のどこかに位置決めされる。具体的には、1つの音源が最も遠い左方位置から発するように感じさせるため、音響システムは、音源に関連する信号の100%を左チャネルに送り、その信号の0%を右チャネルに送るであろう。音源が真っすぐ前から発するように感じさせるため、音響システムは、信号の50%を左チャネルに送り、信号の50%を右チャネルに送るであろう。通常の構成では、左チャネルは専ら左のラウドスピーカに送られ、右チャネルは専ら右のラウドスピーカに送られるが、後者の構成では、音源がスピーカの間から発するという聴覚的、空間的な錯覚を生じる(同じことが、必然的に2D音場、又はサラウンド音場を形成する2つのラウドスピーカにも当てはまる)。
【0043】
前述のように、ほとんどのスピーカシステムに共通の標準的な構成では、左チャネルの100%が左のラウドスピーカで再生され、右チャネルの100%が右のラウドスピーカで再生される。個々の音源のすべての相対的角度位置を保ちつつ、なおオーディオパノラマ300−2をオーディオコーン116に狭めるために、個人安全システム120は、左チャネルと右チャネルのデフォルトの配分を左と右のラウドスピーカ240−1及び240−2にそれぞれ変更するように構成されている。例えば、左チャネルの100%を左のスピーカ240−1に送り、右チャネルの100%を右のスピーカ240−2に送る代わりに、個人安全システム120は、左チャネルの80%を左のスピーカ240−1に、また左チャネルの20%を右のスピーカ240−2に送り、右チャネルの80%を右のスピーカ240−2に、また右チャネルの20%を左のスピーカ240−1に送ってもよい。この構成では、複製オーディオパノラマ300−1は、元のパノラマよりも狭いオーディオコーン116へと圧縮される。
【0044】
別の実施例では、個人安全システム120は、左チャネルの50%を左のスピーカ240−1に、また左チャネルの50%を右のスピーカ240−2に送り、右チャネルの100%を右のスピーカ240−2に送ってもよい。この構成では、複製オーディオパノラマ300−2は半分のサイズに圧縮されてオーディオコーン116になり、同時にオーディオコーン116がユーザ110の視野から右側に回転される。この特殊なケースは
図3Cに示されている。
【0045】
音源の再配置の代替技術は以下のとおりである。環境オーディオパノラマ300−1は、例えばマイクロフォン310などの1つ又は複数の音声トランスデューサによってサンプリングされる。次いで、サンプリングされた音声が鳥のさえずり、犬の吠える声、又は別の車のエンジン音などの個々の音源について分析される。個々の音源を検出した後、ディジタル信号処理(DSP)技術を用いて各音源が音響的に分離される。各音源がモノラルの音の流れに分離された後、これらの音源は、前述の付加的なサウンドミキシングと同様に、複製オーディオパノラマ300−2内の任意の位置に配置できる。この構成では、外部トランスデューサからの音響信号は左チャネルと右チャネルとに直接割り当てられない。
【0046】
各音源の位置は、例えば左前方から来た鳥のさえずりなどの音源が発する元の方向を反映することができ、複製オーディオパノラマ300−2内に同じ角度位置で左前方に配置することができる。複製オーディオパノラマ300−2を元のパノラマよりも狭いオーディオコーン116に空間的に圧縮するため、個々の音源を、個々の音源の相対的角度位置を保つ位置を含む(しかしそれらに限定されない)オーディオコーン116内の任意の所望の位置にコンピュータにより配置することができる。あるいは、複数の音源を同一の角度位置に配置し、複製オーディオパノラマ300−2を単一のポイントに収縮し、すべての音源間の角度差をゼロに縮小することができよう。さらに別の代替形態では、ユーザのために複製オーディオパノラマ302−2全体にわたって個々の音源を広げ、これらの音源間の角度差を最大にすることもできよう。後者の代替形態は、ユーザが例えば同様の方向ではあるが、正確に同じではない方向から接近する2台の異なる車などの2つの個々の音源を識別し易くなるために適している。
【0047】
上記の技術は、
図4A〜4Cを参照して以下により詳細に記載するように、車両200内の360度のオーディオパノラマ全体を複製するためにも利用可能である。
【0048】
図4Aは、音源101、102、103、104及び105を含む360度オーディオパノラマ400−1を示している。車両200は、個人安全システム120の要素であるサラウンドマイクロフォン群410を含んでいる。サラウンドマイクロフォン群410は、
図4Bを参照して以下により詳細に記載するように、360度オーディオパノラマ400−1をサンプリングし、そのパノラマを車両200内で複製するように構成されている。
【0049】
図4Bは、車両200内の個人安全システム120により生成された複製360度オーディオパノラマを示す概念図である。図示のように、車両200は左前スピーカ440−1、右前スピーカ440−2、左後スピーカ440−3、及び右後スピーカ440−4を含んでいる。個人安全システム120は、360度オーディオパノラマ400−1をサンプリングし、次いで複製360度オーディオパノラマ400−2をスピーカ440に出力させるように構成されている。そうすることによって、個人安全システムは
図3A〜3Dを参照して前述したように同様の技術を使用し得る。
【0050】
具体的には、個人安全システム120は、マイクロフォン群410内の各マイクロフォンに、360度オーディオパノラマの異なる領域に関連する音声をサンプリングさせ、次いでこのような各領域に関連する音声を別個のチャネルに割り当てさせる。個人安全システム120は次いで、異なるスピーカ440に各々の異なるチャネルを出力させる。左前スピーカ440−1は360度オーディオパノラマ400−1の左前部に関連する音声を出力し、右前スピーカ440−2は360度オーディオパノラマ400−1の右前部に関連する音声を出力し、左後スピーカ440−3は360度オーディオパノラマ400−1の左後部に関連する音声を出力し、右後スピーカ440−4は360度オーディオパノラマ400−1の右後部に関連する音声を出力することになる。個人安全システム120は、
図4Cを参照して詳細に記載するように、次いでスピーカ440への音声チャネルの配分を操作するように構成されている。
【0051】
図4Cは、オーディオコーン316へと圧縮された複製オーディオパノラマ300−2を示す概念図である。図示のように、オーディオコーン316には音源101、102、103、104及び105を含んでいる。個人安全システム120は、これらの音源の元の角度位置に応じて相対的角度位置を有するようにこれらの音源を配置するように構成されている。オーディオコーン416は、実際には迫る危険に関連する方向を示す聴覚的注意414の方向に位置合わせされる。個人安全システム120は、音源101、102、103、104及び105が
図4Cに示すオーディオコーン416内の位置から発していると感じさせるために、マイクロフォン群410内のマイクロフォンに関連する音声チャネルの配分を操作するように構成されている。個人安全システム120はまた、各音源を別個のチャネルに割り当て、次いでこれらのチャネルの配分を操作してもよい。そうすることによって、個人安全システムは一般に、
図3A〜3Dに記載の技術と同様の技術を使用する。
【0052】
これまで記載した任意の技術を本明細書に記載のその他の技術と組み合わせてもよいことが当業者には理解されよう。例えば、
図4Cを参照して記載した360度オーディオパノラマを複製及び修正するアプローチは、
図3Cを参照して上に記載したウェアラブル個人安全システムのコンテクストで実装されてもよい。
図5を参照して、個人安全システム120により実行される基本的技術を段階的に記載する。
【0053】
図5は、本発明の一実施形態による、危険又はその他の関心対象の事象があることをユーザに示すためにオーディオパノラマを修正する方法ステップの流れ図である。方法ステップは
図1A〜4Cのシステムに関連して記載するが、任意の方法ステップを任意の順序で実行するように構成されたどのシステムも本発明の範囲内にあることが当業者には理解されよう。
【0054】
図示のように、方法500はステップ501で開始され、そこで個人安全システム120は危険が検出されたか否かを判定する。個人安全システム120は、例えば
図1A〜4Cに示すユーザ110などのユーザが装着してもよく、又は
図2A〜2Cを参照して記載したように、その他の可能性のなかでも特にユーザが運転する車両内に組み込んでもよい。別の実施形態では、それらに限定されないが、例えば個人安全システム120は、特定の部屋で泣く幼児、又はガス漏れ、又は火災などの家庭内の危険、又は関心対象の事象にユーザの注意を引き付けるために家庭環境で実装されてもよい。個人安全システム120は、危険が検知されるまで方法500のステップ501を反復してもよい。個人安全システム120は、センサの生データを処理し、多様なデータ処理技術のいずれかを実装することによって危険を検出するように構成されている。個人安全システム120は、それらに限定されないが、例えばユーザに脅威をもたらす自動車を特定するコンピュータビジョンによるアプローチを実装することができよう。
【0055】
例えば
図1B〜1Dに示す危険114などの危険を検出すると、個人安全システム120は次いで、ステップ502で危険な方向を判定する。ステップ503で、個人安全システム120は、ユーザの頭の向きをも判定する。個人安全システム120は、それらに限定されないが、例えばユーザが面している、又は見ている方向を判定するためのヘッドセンサ又は視線方向センサを使用することができよう。
【0056】
ステップ504で、個人安全システム120はユーザのオーディオパノラマを修正する。オーディオパノラマは、例えば
図1A〜1Dに示したオーディオパノラマ100でよい。そうすることによって、個人安全システム120は、
図1Bを参照して前述したように、危険な方向から発する以外のオーディオパノラマ内のすべての音源を消去する。個人安全システム120はまた、オーディオパノラマ内のすべての音源を消去し、次いで
図1Cを参照して記載したように、オーディオパノラマの圧縮バージョンに相当する音響出力を生成してもよい。個人安全システム120は、オーディオパノラマ内のすべての音源を消去し、次いで
図1Dを参照して記載したように、オーディオパノラマの圧縮バージョンに相当する音響出力を生成してもよい。
【0057】
個人安全システム120は、切迫する危険に継続的にオーディオパノラマを集中させるため、必要に応じて方法500を反復してもよい。本明細書に記載のアプローチで、個人安全システム120は、追加の知覚情報を導入せずにユーザの注意を危険な方向に引き付けることができる。したがって、個人安全システム120はユーザの驚きや動転を回避し得る。
【0058】
図1D及び3A〜4Cを参照して前述したように、オーディオパノラマの圧縮バージョンに相当する音響出力を生成する際に、個人安全システム120は、
図6を参照して以下に段階的に記載する特定の技術を実装してもよい。
【0059】
図6は、本発明の一実施形態による、個人安全装置のユーザに危険、又はその他の関心対象の事象を示すため、オーディオパノラマの音源をオーディオコーン内の位置にマッピングする方法ステップの流れ図である。方法ステップは
図1A〜4Cのシステムに関連して記載するが、方法ステップを任意の順序で実行するように構成されたどのシステムも本発明の範囲内にあることが当業者には理解されよう。
【0060】
図示のように、方法600は、ステップ601で開始され、そこで個人安全システム120がユーザの周囲のオーディオパノラマ内の音源の位置を特定する。例えば、オーディオパノラマは、音源が、例えば、
図1A〜1Dの音源101、102及び103のようなオーディオパノラマ100でもよい。
【0061】
ステップ602では、個人安全システム120は、危険な方向を示すオーディオパノラマ内にオーディオコーンを生成する。オーディオコーンは、例えば
図1B〜1Dのオーディオコーン116でもよいであろう。個人安全システム120は、前述の方法500のステップ502を実装することによって危険な方向を特定し得る。個人安全システム120は、ユーザの頭の向きに対する危険な方向と位置合わせされる特定の方向性を有するオーディオコーンを生成する。ユーザの頭の向きは、方法500のステップ503を実行することによって判定可能であろう。
【0062】
ステップ603で、個人安全システム120は、オーディオパノラマ内の音源をオーディオコーン内の対応位置にマッピングする。個人安全システム120は、例えば
図1Aに示す音源101、102及び103を
図1Dに示すこれらの音源の新たな位置にマッピングする。個人安全システム120は、オーディオパノラマの角度を360度の全方位からより小さい角度に圧縮することにより、オーディオコーン内の所定の音源の新たな位置を判定する。個人安全システム120は、その他のタイプの入力のなかで特に手振りなどのユーザから受信した入力に基づいて音源の新たな位置を判定する。一実施形態では、個人安全システム120は、オーディオパノラマの一部を圧縮するためにスピーカへのチャネルの配分を操作する。別の実施形態では、個人安全システム120は、各音源を別個のチャネルに割り当て、次いで音源を別個に移動させるためにこれらの別個のチャネルの配分を操作する。
【0063】
ステップ604で、個人安全システム120は、オーディオコーン内の音源の新たな位置を反映するようにユーザに出力された音響を変調する。そうすることによって個人安全システム120は、音源のリアリティを高めるために3D音声技術、ノイズ消去技術、及びその他の多様な音声調整技術に依拠し得る。
【0064】
ステップ605で、個人安全システム120は、追加の音源をマッピングする必要があるか否かを判定する。追加の音源が残っている場合は、方法はステップ603に戻り、別の音源のマッピングに進む。そうでない場合は、方法600は終了する。
【0065】
このアプローチで、個人安全システム120は、個別の音源を別個に再配置することによってオーディオパノラマをより小さいオーディオコーンへと縮小する。個人安全システム120は、このような各音源を再配置する際に異なる技術を用いてもよく、他の音源の再配置を避けつつ、ある音源を選択的に再配置してもよい。例えば、個人安全システムは、大きい音を再配置してこれらの音が危険な方向から発することを気付かせ、一方、より小さい周囲音を再配置することを避ける。個人安全システムは、特定の音源の特定の位置を選択する多様な技術を実装してもよいことを当業者は理解するであろう。したがって、各音源を他の音源とは別個に再配置するこのような技術は本発明の範囲内にある。
【0066】
図7は、本発明の一実施形態による、
図1A〜4Cの個人安全システムのユーザに危険、又はその他の関心対象の事象があることを示すために環境オーディオパノラマを複製し、複製されたオーディオパノラマをオーディオコーンに縮小する方法ステップの流れ図である。方法ステップは
図1A〜4Cのシステムに関連して記載するが、任意の順序で方法ステップを実行するように構成された任意のシステムが本発明の範囲内にあることを当業者は理解するであろう。
【0067】
図示のように、方法700はステップ701で開始され、そこで個人安全システム120は、ユーザ110による周囲音の認識を反映する第1のセットの音声チャネルを生成するために環境オーディオパノラマをサンプリングする。環境オーディオパノラマは例えば、
図3Aの環境オーディオパノラマ300−1でもよく、又は
図4Aのオーディオパノラマ400−1でもよい。個人安全システム120は、例えば
図3Aのマイクロフォン310、又は
図4Aのマイクロフォン群410などのトランスデューサのセットを介して環境オーディオパノラマをサンプリングするように構成されている。最初に、個人安全システム120はこのような各々のトランスデューサの出力を異なる音声チャネルに割り当ててもよい。個人安全システム120はまた、サンプリングされた音声をフィルタリングして、
図6を参照して前述したように、個々のチャネルに割り当てられる音響の個々の音源を特定してもよい。
【0068】
ステップ702で、個人安全システム120は、複製オーディオパノラマを生成するために音声チャネルのセットをユーザ110の近傍のスピーカに配分する。そうすることによって、個人安全システム120は、
図3Bを参照して前述したように、左チャネルを左のスピーカに、右チャネルを右のスピーカに割り当ててもよい。複製されたオーディオパノラマはそれぞれ、
図3B及び4Bの複製オーディオパノラマ300−2又は400−2でよい。
【0069】
ステップ704で、個人安全システム120は、危険、又はその他の関心対象の事象に関連する方向を判定する。個人安全システム120は、車、動物、又は歩行者などの実際の対象が特に出現したことを特定するため、ビデオ又はその他の画像ベースのデータをコンピュータビジョン技術で処理することによって、危険、又はその他の関心対象の事象に関連する方向を特定することができる。個人安全システム120は、接近軌道に沿ってユーザ110に向かって進行する任意の対象を特定することもできる。一般に、個人安全システム120は、任意の実際の対象(1つ又は複数)又は事象(1つ又は複数)を特定し、また、ユーザ110に対する対象(1つ又は複数)又は事象(1つ又は複数)に関する方向を特定するように構成されてもよい。
【0070】
ステップ705で、個人安全システム120は、危険に関連する方向に位置合わせされたオーディオコーンへと複製オーディオパノラマを圧縮する。複製オーディオパノラマを圧縮する際、個人安全システム120は、
図3C、3D及び4Cにも示すように、複製されたオーディオパノラマが圧縮されたという錯覚を引き起こすため、音声チャネルのセットをユーザの近傍のスピーカに再配分してもよい。個人安全システム120はまた、個々の音源に関連する各チャネルを再配分して、これらの音源がオーディオコーン内から発するように感じられるようにしてもよい。いずれの場合も、個人安全システム120は、これらの音源の相対的角度位置を保ちつつ、複製オーディオパノラマをオーディオコーンに圧縮する。
【0071】
このように個人安全システム120は、ユーザ110によって知覚される環境オーディオパノラマに関連する周囲音を複製するため「パススルー」デバイスとして機能してもよい。次いで、個人安全システム120は、ユーザ110の注意を危険、又はその他の関心対象の事象に引き付けるために複製オーディオパノラマを修正してもよい。
【0072】
図8は、本発明の一実施形態による、個人安全システム120に含めてもよいコンピューティングデバイス230を示すブロック図である。図示のように、コンピューティングデバイス230は、各々が互いに結合された処理ユニット801、入力/出力(I/O)デバイス802、及びメモリユニット803を含んでいる。メモリユニット803は、データベース805と相互運用するように構成されたアプリケーション804を含んでいる。
【0073】
処理ユニット801は中央処理ユニット(CPU)、ディジタル信号処理ユニット(DSP)などを含んでもよい。I/Oデバイス802は、入力デバイス、出力デバイス、及び入力の受信と出力の提供の両方が可能なデバイスを含んでもよい。メモリユニット803は、メモリモジュール又はメモリモジュールの集合体でよい。メモリユニット803内のソフトウエアアプリケーション804は、コンピューティングデバイス230の機能全体を実装し、ひいては個人安全システム120の動作を全体的に調整するために処理ユニット801によって実行されてもよい。
【0074】
コンピューティングデバイス230は、例えばマイクロフォン群410などの1つ又は複数のセンサを含むセンサアレイに結合されてもよい。センサアレイは、ユーザ110がいる環境の様々な特性、並びにユーザ110に関連する様々な特性を測定するように構成されている。センサアレイは、任意数のマイクロフォン、ビデオカメラ、タッチセンサ、風センサ、熱センサ、光センサ、電界検出器、無線トランシーバ、全地球測位システム(GPS)受信機、又はその他のいずれかのタイプのセンサを含んでもよい。一般に、センサアレイは、環境に関連する知覚データ、及びユーザ110に関連する知覚データを捉え、そのデータをコンピューティングデバイス230に提供する。
【0075】
コンピューティングデバイス230はまた、音声出力を生成し、例えばスピーカ240などのその音声出力をユーザ110に気付かせるように構成された1つ又は複数のデバイスを含む音声出力デバイスに結合されてもよい。音声出力デバイスは、任意数のスピーカ、ヘッドフォン、インイヤー音声デバイス、又は音声を生成可能なその他の任意のタイプのデバイスを含んでもよい。一般に、音声出力デバイスは、環境から派生する自然音、特定の音を消去するアンチノイズ、及び環境音を基に生成される変調音を生成するように構成されている。
【0076】
コンピューティングデバイス120は全体として、マイクロプロセッサ、特定用途向き集積回路(ASIC)、システムオンチップ(SoC)、タブレット型コンピュータ又は携帯電話などのモバイルコンピューティングデバイスなどでよい。一般に、コンピューティングデバイス230は、個人安全システム120の動作全体を調整するように構成されている。個人安全システム120の機能を実装するように構成された技術的に実現可能などのシステムも本発明の範囲内に含まれる。
【0077】
実際には、コンピューティングデバイス230は、これに結合されたセンサアレイから環境データを受信し、ユーザ110に脅威を与える可能性のある特定の危険などの関心対象の事象を特定するように構成されている。例えば、コンピューティングデバイス230は、ユーザ110と衝突する進路で走行する自動車を特定するコンピュータビジョン技術を実装することができよう。あるいは、コンピューティングデバイス230は、例えば危険動物などの危険な存在に共通して関連する音声を特定する音声認識技術を実装することができよう。コンピューティングデバイス230はまた、危険、又は関心対象のその他の事象に関連する方向を特定するように構成されている。加えて、コンピューティングデバイス230はまた、ユーザ110に関連するセンサアレイからデータを受信し、ユーザ110が面している方向を特定するように構成されている。例えば、
図1A〜1Dを参照すると、コンピューティングデバイス230は、ユーザ110の頭が方向112に面し、又はユーザ110の眼が方向112と一致することを特定できよう。
【0078】
次いでコンピューティングデバイス230は、これに結合された音声出力デバイスに、
図1A〜1Dに示すオーディオパノラマ100の修正バージョンを表す音響出力を生成させる。例えば、コンピューティングデバイス230は、
図1Bを参照して前述したように、音声出力デバイス210に、危険な方向から発する音源以外のオーディオパノラマ100内のすべての音源を消去させることができよう。別の実施形態では、コンピューティングデバイス230は、
図1Cを参照して記述したように、音声出力デバイス210に、オーディオパノラマ100の収縮バージョンを表す音響出力を生成させることができよう。さらに別の実施例では、コンピューティングデバイス230は、
図1Dを参照して記述したように、音声出力デバイス210に、オーディオパノラマ100の圧縮バージョンを表す音響出力を生成させることができよう。
【0079】
上記の例示的機能のいずれかを実行する際、コンピューティングデバイス230は、ユーザ110が面する方向112に対して、また、危険な方向に対してオーディオパノラマ100を選択的に消去し、且つ/又は変調する。例えば、コンピューティングデバイス230が、ユーザ110が面する方向112の右に向かって危険が迫っていると判定すると、コンピューティングデバイス230は、音声出力デバイスに、ユーザ110の聴覚的注意をユーザ110の右側に引き付ける音響出力を生成させるであろう。そうすることによって、コンピューティングデバイス230は、オーディオパノラマ100の一部を分離、収縮、又は圧縮して、基本的に方向112の左側向きとなるそのパノラマの修正バージョンを生成し得る。
【0080】
加えて、コンピューティングデバイス230は、3D音響調整技術を実装して、ユーザ110に出力される音質を修正又は改善してもよい。例えば、ヘッドフォン又はインイヤー音声デバイスを介してオーディオパノラマを生成する場合、これらの特定の音声デバイスはユーザ110の外耳を迂回するものの、コンピューティングデバイス230は、音声出力がユーザ110の外耳を横切る音の通過をシミュレートするように音声出力を変調してもよい。このアプローチで、コンピューティングデバイス230は、自然の音声環境を複製し得る。コンピューティングデバイス230はまた、危険が検出される前に周囲のオーディオパノラマをユーザ110に対して受動的に再生することによって、「パススルー」デバイスとして機能するようにしてもよい。危険、又はその他の関心対象の事象が検出されると、コンピューティングデバイス230は、前述の技術を用いてオーディオパノラマを修正することができよう。
【0081】
要約すると、個人安全システムは、切迫する危険、又はその他の関心対象の事象を検出し、次いでユーザが知覚するオーディオパノラマを修正して、ユーザの関心を危険、又はその他の関心対象の事象に集中させる。そうすることによって、個人安全システムは、危険、又はその他の関心対象の事象の方向から発する音響を分離し、オーディオパノラマを危険、又はその他の関心対象の事象の方向に収縮し、又はオーディオパノラマを角度的に圧縮して、危険、又はその他の関心対象の事象の方向と位置合わせし得る。個人安全システムは、自動車、又はユーザに物理的に取り付けられるウェアラブルシステムに組み込んでもよい。
【0082】
開示する技術の1つの利点は、ユーザに追加の知覚情報を導入せずに危険、又はその他の関心対象の事象にユーザの注意を引き付けることができることである。したがって、ユーザは驚いたり動転したりせずに危険、又はその他の関心対象の事象を認識できる。加えて、本明細書に記載のアプローチは、ユーザが個人安全システムにより生じる聴覚の変化の方向に自然に振り向くことができるため、ユーザの本来の直感と密接に一致させることができる。この聴覚は動転させる人工音を伝達しないため、ユーザは無意識に危険に振り向くことができ、したがって危険、又はその他の関心対象の事象に適切に反応する十分な認知資源を保つことができる。自動車に組み込む場合は、開示するシステムは、警報を発することなく切迫した危険、又はその他の関心対象の事象をユーザに気付かせることによって、自動車事故のリスクを低減できる。同様に、歩行者が身に付けるウェアラブルシステムに組み込む場合は、開示するシステムは同様に歩行者事故のリスクを低減できる。したがって、本発明の個人安全システムは、人間の個人的安全を保つ上で大きな進歩をもたらす。
【0083】
本発明の一実施形態は、コンピュータシステムと共に使用するプログラム製品として実装され得る。プログラム製品のプログラム(1つ又は複数)は、(本明細書に記載の方法を含む)実施形態の機能を規定し、多様なコンピュータ読み取り可能記憶媒体に格納される。例示的なコンピュータ読み取り可能媒体には、それらに限定されないが、(i)書き込み不能記憶媒体(例えばCD−ROMドライブにより読み取り可能なコンパクトディスク読み出し専用メモリ(CD−ROM)、フラッシュメモリ、読み取り専用メモリ(ROM)チップ、又はその他のいずれかのタイプのソリッドステート不揮発性半導体メモリなど);(ii)変更可能な情報が格納される書き込み可能記憶媒体(例えばディスケットドライブ又はハードディスクドライブ内のフロッピー(登録商標)ディスク、又はいずれかのタイプのソリッドステートランダムアクセス半導体メモリ)が含まれる。
【0084】
本発明を特定の実施形態を参照して記載した。しかし、添付の特許請求に記載の本発明のより広い趣旨及び範囲から逸脱せずに、様々な修正及び変更を行ってもよいことが当業者には理解されよう。例えば、本明細書の記述の多くは危険又は脅威(例えば危険114)に言及しているが、本明細書に記載のシステム及び技術はユーザの焦点及び/又は注意をその他のいずれかのタイプの関心対象の事象に向けることにも応用可能であることが当業者には理解されよう。したがって、上記の記載及び図面は限定的ではなく、例示的な意味と見なされるべきである。
【0085】
したがって、本発明の実施形態の範囲は以下の特許請求の範囲に記載する。