IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ドルビー ラボラトリーズ ライセンシング コーポレイションの特許一覧

特開2023-52933向上した3Dオーディオ作成および表現のためのシステムおよびツール
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023052933
(43)【公開日】2023-04-12
(54)【発明の名称】向上した3Dオーディオ作成および表現のためのシステムおよびツール
(51)【国際特許分類】
   H04S 7/00 20060101AFI20230404BHJP
【FI】
H04S7/00 300
【審査請求】有
【請求項の数】7
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023016507
(22)【出願日】2023-02-07
(62)【分割の表示】P 2021157435の分割
【原出願日】2012-06-27
(31)【優先権主張番号】61/504,005
(32)【優先日】2011-07-01
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】61/636,102
(32)【優先日】2012-04-20
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】507236292
【氏名又は名称】ドルビー ラボラトリーズ ライセンシング コーポレイション
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】トウィンゴ,ニコラ エール
(72)【発明者】
【氏名】ロビンソン,チャールズ キュー
(72)【発明者】
【氏名】スカーフ,ジャーゲン ダヴリュー
(57)【要約】
【課題】オーディオ再生データのオーサリングおよびレンダリングのための改善されたツールが提供される。
【解決手段】いくつかのそのようなオーサリング・ツールは、オーディオ再生データが幅広い多様な再生環境のために一般化されることを許容する。オーディオ再生データは、オーディオ・オブジェクトについてのメタデータを生成することによってオーサリングされうる。メタデータは、スピーカー・ゾーンを参照して生成されてもよい。レンダリング・プロセスの間、オーディオ再生データは特定の再生環境の再生スピーカー・レイアウトに従って再生されてもよい。
【選択図】図22
【特許請求の範囲】
【請求項1】
一つまたは複数のオーディオ・オブジェクトおよび該一つまたは複数のオーディオ・オブジェクトのそれぞれに関連付けられたメタデータを含むオーディオ再生データを受領する段階と;
再生環境における再生スピーカーの数の指示および前記再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領する段階と;
各オーディオ・オブジェクトに振幅パン・プロセスを適用することにより前記オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングする段階であって、前記振幅パン・プロセスは少なくとも部分的には各オーディオ・オブジェクトに関連付けられたメタデータおよび前記再生環境内の各再生スピーカーの位置に基づいて、各再生スピーカーに対応するスケーリング因子を、前記オーディオ・オブジェクトについて決定することを含み、各スピーカー・フィード信号は、前記再生環境内の再生スピーカーの少なくとも一つに対応する、段階とを含み、
各オーディオ・オブジェクトに関連付けられたメタデータは、前記再生環境内でのそのオーディオ・オブジェクトの意図された再生位置を示すオーディオ・オブジェクト座標と、前記振幅パン・プロセスが前記オーディオ・オブジェクトを単一スピーカー・フィード信号にレンダリングするべきか、パン規則を適用して前記オーディオ・オブジェクトを複数のスピーカー・フィード信号にレンダリングするべきかを示すスナップ・フラグを含む、
方法。
【請求項2】
前記スナップ・フラグが、前記振幅パン・プロセスが前記オーディオ・オブジェクトを単一スピーカー・フィード信号にレンダリングするべきであると示し;
前記振幅パン・プロセスが前記オーディオ・オブジェクトを、前記オーディオ・オブジェクトの前記意図された再生位置に最も近い再生スピーカーに対応するスピーカー・フィード信号にレンダリングする、
請求項1に記載の方法。
【請求項3】
前記スナップ・フラグが、前記振幅パン・プロセスが前記オーディオ・オブジェクトを単一スピーカー・フィード信号にレンダリングするべきであると示し;
前記オーディオ・オブジェクトの前記意図された再生位置と、前記オーディオ・オブジェクトの前記意図された再生位置に最も近い再生スピーカーとの間の距離が閾値を超え;
前記振幅パン・プロセスが前記スナップ・フラグをオーバーライドし、パン規則を適用して前記オーディオ・オブジェクトを複数のスピーカー・フィード信号にレンダリングする、
請求項1に記載の方法。
【請求項4】
前記メタデータが時間変化し;
前記再生環境内でのそのオーディオ・オブジェクトの意図された再生位置を示すオーディオ・オブジェクト座標が、第一の時点と第二の時点とで異なり;
前記第一の時点では、前記オーディオ・オブジェクトの前記意図された再生位置に最も近い再生スピーカーは第一の再生スピーカーに対応し;
前記第二の時点では、前記オーディオ・オブジェクトの前記意図された再生位置に最も近い再生スピーカーは第二の再生スピーカーに対応し;
前記振幅パン・プロセスは、前記オーディオ・オブジェクトを前記第一の再生スピーカーに対応する第一のスピーカー・フィード信号にレンダリングすることと、前記オーディオ・オブジェクトを前記第二の再生スピーカーに対応する第二のスピーカー・フィード信号にレンダリングすることとの間でなめらかに遷移する、
請求項2に記載の方法。
【請求項5】
前記メタデータが時間変化し;
第一の時点では、前記スナップ・フラグは、前記振幅パン・プロセスが前記オーディオ・オブジェクトを単一スピーカー・フィード信号にレンダリングするべきであることを示し;
第二の時点では、前記スナップ・フラグは、前記振幅パン・プロセスがパン規則を適用して、前記オーディオ・オブジェクトを複数のスピーカー・フィード信号にレンダリングするべきであることを示し;
前記振幅パン・プロセスは、前記オーディオ・オブジェクトを、前記オーディオ・オブジェクトの前記意図された再生位置に最も近い再生スピーカーに対応するスピーカー・フィード信号にレンダリングすることと、パン規則を適用して、前記オーディオ・オブジェクトを複数のスピーカー・フィード信号にレンダリングすることとの間でなめらかに遷移する、
請求項1に記載の方法。
【請求項6】
インターフェース・システムおよび論理システムを有する装置であって、当該装置は請求項1ないし5のうちいずれか一項に記載の方法を実行するように構成されている、装置。
【請求項7】
請求項1ないし5のうちいずれか一項に記載の方法を実行するコンピュータ・プログラム・プロダクト。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願への相互参照
本願は2011年7月1日に出願された米国仮出願第61/504,005号および2012年4月20日に出願された米国仮出願第61/636,076号の優先権を主張するものである。両出願はここに参照によってあらゆる目的について全体において組み込まれる。
【0002】
技術
本開示は、オーディオ再生データのオーサリングおよびレンダリングに関する。特に、本開示は、映画館サウンド再生システムのような再生環境のためのオーディオ再生データのオーサリングおよびレンダリングに関する。
【背景技術】
【0003】
1927年に映画に音声が導入されて以来、映画サウンドトラックの芸術的な意図を捉えてそれを映画館環境で再現するために使われる技術は着実に進歩を遂げてきた。1930年代にはディスク上の同期されたサウンドはフィルム上の可変領域サウンドに取って代わられ、それは1940年代にはさらに、劇場の音響の考察および改善されたスピーカー設計により改善された。それとともにマルチトラック録音および方向制御可能な再生(音を動かすために制御トーンを使う)の早期の導入があった。1950年代および1960年代には、フィルムの磁気ストライプにより劇場での多チャネル再生が可能になり、サラウンド・チャネル、高級なシアターでは5つのスクリーン・チャネルまでを導入した。
【0004】
1970年代には、ドルビーは、ポストプロダクションおよびフィルム上の両方におけるノイズ削減を、3つのスクリーン・チャネルおよびモノのサラウンド・チャネルとの混合をエンコードおよび配布するコスト効率のよい手段とともに、導入した。映画館サウンドの品質は1980年代には、ドルビー・スペクトラル・レコーディング(SR: Spectral Recording)ノイズ削減およびTHXのような認証プログラムによってさらに改善された。ドルビーは1990年代に、離散的な左、中央および右スクリーン・チャネル、左および右のサラウンド・アレイおよび低域効果のためのサブウーファー・チャネルを与える5.1チャネル・フォーマットをもって映画館にデジタル・サウンドをもたらした。2010年に導入されたドルビー・サラウンド7.1は、既存の左および右サラウンド・チャネルを四つの「ゾーン」に分割することによって、サラウンド・チャネルの数を増やした。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】V. Pulkki、Compensating Displacement of Amplitude-Panned Virtual Sources、Audio Engineering Society (AES) International Conference on Virtual, Synthetic and Entertainment Audio
【非特許文献2】D. de Vries、Wave Field Synthesis、AES Monograph 1999
【発明の概要】
【発明が解決しようとする課題】
【0006】
チャネル数が増え、スピーカー・レイアウトが平面的な二次元(2D)アレイから高さを含む三次元(3D)アレイに遷移するにつれ、サウンドを位置決めし、レンダリングするタスクはますます難しくなる。改善されたオーディオ・オーサリングおよびレンダリング方法が望ましいであろう。
【課題を解決するための手段】
【0007】
本開示において記述される主題のいくつかの側面は、オーディオ再生データをオーサリングおよびレンダリングするためのツールにおいて実装できる。そのようないくつかのオーサリング・ツールは、オーディオ再生データが幅広い多様な再生環境のために一般化されることを許容する。そのような実装のいくつかによれば、オーディオ再生データは、オーディオ・オブジェクトについてのメタデータを生成することによってオーサリングされる。メタデータは、スピーカー・ゾーンを参照して生成されてもよい。レンダリング・プロセスの間、オーディオ再生データは特定の再生環境の再生スピーカー・レイアウトに従って再生されてもよい。
【0008】
本稿に記載されるいくつかの実装は、インターフェース・システムおよび論理システムを含む装置を提供する。論理システムは、インターフェース・システムを介して、一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データならびに再生環境データを受け取るよう構成されていてもよい。再生環境データは、再生環境における再生スピーカーの数の指示および再生環境内の各再生スピーカーの位置の指示を含んでいてもよい。論理システムは、少なくとも部分的には関連するメタデータおよび再生環境データに基づいて、オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングするよう構成されていてもよい。ここで、各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応する。論理システムは、仮想スピーカー位置に対応するスピーカー利得を計算するよう構成されていてもよい。
【0009】
再生環境はたとえば、映画館サウンド・システム環境であってもよい。再生環境はドルビー・サラウンド5.1構成、ドルビー・サラウンド7.1構成または浜崎22.2サラウンド・サウンド構成を有していてもよい。再生環境データは、再生スピーカー位置を示す再生スピーカー・レイアウト・データを含んでいてもよい。再生環境データは、再生スピーカー領域および該再生スピーカー領域と一致する再生スピーカー位置を示す再生スピーカー・ゾーン・レイアウト・データを含んでいてもよい。
【0010】
メタデータは、オーディオ・オブジェクト位置を単一の再生スピーカー位置にマッピングするための情報を含んでいてもよい。レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型の一つまたは複数に基づいて総合利得を生成することに関わってもよい。メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含んでいてもよい。メタデータはオーディオ・オブジェクトについての軌跡データを含んでいてもよい。
【0011】
レンダリングは、スピーカー・ゾーン制約条件を課すことに関わってもよい。たとえば、装置はユーザー入力システムを含んでいてもよい。いくつかの実装によれば、レンダリングは、ユーザー入力システムから受領される、スクリーンから部屋へのバランス(screen-to-room balance)制御データに従ってスクリーンから部屋へのバランス制御を適用することに関わっていてもよい。
【0012】
本装置はディスプレイ・システムを含んでいてもよい。論理システムは、再生環境の動的な三次元ビューを表示するようディスプレイ・システムを制御するよう構成されていてもよい。
【0013】
レンダリングは、三次元のうち一つまたは複数の次元方向でのオーディオ・オブジェクトの広がりを制御することに関わってもよい。レンダリングは、スピーカー過負荷に応答して動的なオブジェクト・ブロッビング(blobbing)に関わってもよい。レンダリングは、オーディオ・オブジェクト位置を再生環境のスピーカー・アレイの平面にマッピングすることに関わってもよい。
【0014】
本装置は、メモリ・システムのメモリ・デバイスのような一つまたは複数の非一時的な記憶媒体を含んでいてもよい。メモリ・デバイスはたとえば、ランダム・アクセス・メモリ(RAM)、読み出し専用メモリ(ROM)、フラッシュメモリ、一つまたは複数のハードドライブなどを含んでいてもよい。インターフェース・システムは、論理システムと、一つまたは複数のそのようなメモリ・デバイスとの間のインターフェースを含んでいてもよい。インターフェース・システムは、ネットワーク・インターフェースをも含んでいてもよい。
【0015】
メタデータは、スピーカー・ゾーン制約メタデータを含んでいてもよい。論理システムは、以下の動作を実行することによって選択されたスピーカー・フィード信号を減衰させるよう構成されていてもよい:選択されたスピーカーからの寄与を含む第一の利得を計算し;選択されたスピーカーからの寄与を含まない第二の利得を計算し;第一の利得を第二の利得とブレンドする。論理システムは、オーディオ・オブジェクト位置についてパン規則を適用するか、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングするかを決定するよう構成されていてもよい。論理システムは、オーディオ・オブジェクト位置の第一の単一のスピーカー位置へのマッピングから第二の単一のスピーカー位置へ遷移するときに、スピーカー利得における遷移をなめらかにするよう構成されていてもよい。論理システムは、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングすることと、オーディオ・オブジェクト位置についてパン規則を適用することとの間で遷移するときに、スピーカー利得における遷移をなめらかにするよう構成されていてもよい。論理システムは、仮想スピーカー位置の間の一次元曲線に沿った諸オーディオ・オブジェクト位置についてスピーカー利得を計算するよう構成されていてもよい。
【0016】
本稿に記載されるいくつかの方法は、一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データを受領し、再生環境における再生スピーカーの数の指示を含む再生環境データを受領することに関わる。再生環境データは、再生環境内の各再生スピーカーの位置の指示を含んでいてもよい。これらの方法は、少なくとも部分的には関連するメタデータに基づいて、オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングすることに関わっていてもよい。各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応してもよい。再生環境は、映画館サウンド・システム環境であってもよい。
【0017】
レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型の一つまたは複数に基づいて総合利得を生成することに関わってもよい。メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含んでいてもよい。レンダリングは、スピーカー・ゾーン制約条件を課すことに関わってもよい。
【0018】
いくつかの実装は、ソフトウェアが記憶されている一つまたは複数の非一時的な媒体において具現されてもよい。ソフトウェアは、以下の動作を実行するよう一つまたは複数の装置を制御する命令を含んでいてもよい:一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データを受領し;再生環境における再生スピーカーの数の指示および再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領し;少なくとも部分的には関連するメタデータに基づいて、オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングする。各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応してもよい。再生環境は、たとえば、映画館サウンド・システム環境であってもよい。
【0019】
レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型の一つまたは複数に基づいて総合利得を生成することに関わってもよい。メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含んでいてもよい。レンダリングは、スピーカー・ゾーン制約条件を課すことに関わってもよい。レンダリングは、スピーカー過負荷に応答して動的なオブジェクト・ブロッビング(blobbing)に関わってもよい。
【0020】
代替的なデバイスおよび装置が本稿に記載される。いくつかのそのような装置は、インターフェース・システム、ユーザー入力システムおよび論理システムを含んでいてもよい。論理システムは、インターフェース・システムを介してオーディオ・データを受領し、ユーザー入力システムまたはインターフェース・システムを介してオーディオ・オブジェクトの位置を受領し、三次元空間におけるオーディオ・オブジェクトの位置を決定するよう構成されていてもよい。該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することに関わっていてもよい。論理システムは、少なくとも部分的にはユーザー入力システムを介して受領されたユーザー入力に基づいて、オーディオ・オブジェクトに関連するメタデータを生成するよう構成されていてもよい。前記メタデータは、三次元空間におけるオーディオ・オブジェクトの位置を示すデータを含む。
【0021】
メタデータは、三次元空間内でのオーディオ・オブジェクトの時間変化する位置を示す軌跡データを含んでいてもよい。論理システムは、ユーザー入力システムを介して受領されたユーザー入力に従って軌跡データを計算するよう構成されていてもよい。軌跡データは、複数の時点における三次元空間内での位置の集合を含んでいてもよい。軌跡データは、初期位置、速度データおよび加速度データを含んでいてもよい。軌跡データは、初期位置および三次元空間における諸位置および対応する時間を定義する式を含んでいてもよい。
【0022】
本装置は、ディスプレイ・システムを含んでいてもよい。論理システムは、軌跡データに従ってオーディオ・オブジェクト軌跡を表示するようディスプレイ・システムを制御するよう構成されていてもよい。
【0023】
論理システムは、ユーザー入力システムを介して受領されたユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成するよう構成されていてもよい。スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含んでいてもよい。論理システムは、オーディオ・オブジェクト位置を単一のスピーカーにマッピングすることによってスピーカー・ゾーン制約メタデータを生成するよう構成されていてもよい。
【0024】
本装置は、サウンド再生システムを含んでいてもよい。論理システムは、少なくとも部分的には前記メタデータに従ってサウンド再生システムを制御するよう構成されていてもよい。
【0025】
オーディオ・オブジェクトの位置は、一次元曲線に制約されてもよい。論理システムはさらに、該一次元曲線に沿った諸仮想スピーカー位置を生成するよう構成されていてもよい。
【0026】
代替的な方法が本稿に記載される。いくつかのそのような方法は、オーディオ・データを受領し、オーディオ・オブジェクトの位置を受領し、三次元空間におけるオーディオ・オブジェクトの位置を決定することに関わる。該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することに関わっていてもよい。これらの方法は、少なくとも部分的にはユーザー入力に基づいて、オーディオ・オブジェクトに関連するメタデータを生成することに関わってもよい。
【0027】
メタデータは、三次元空間内でのオーディオ・オブジェクトの位置を示すデータを含んでいてもよい。メタデータは、三次元空間内でのオーディオ・オブジェクトの時間変化する位置を示す軌跡データを含んでいてもよい。メタデータの生成は、たとえばユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成することに関わってもよい。スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含んでいてもよい。
【0028】
オーディオ・オブジェクトの位置は、一次元曲線に制約されてもよい。これらの方法は、該一次元曲線に沿った諸仮想スピーカー位置を生成することに関わってもよい。
【0029】
本開示の他の側面が、ソフトウェアが記憶されている一つまたは複数の非一時的な媒体において具現されてもよい。ソフトウェアは、以下の動作を実行するよう一つまたは複数の装置を制御する命令を含んでいてもよい:オーディオ・データを受領し、オーディオ・オブジェクトの位置を受領し、三次元空間におけるオーディオ・オブジェクトの位置を決定する。該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することに関わっていてもよい。ソフトウェアは、オーディオ・オブジェクトに関連するメタデータを生成するよう一つまたは複数の装置を制御する命令を含んでいてもよい。メタデータは、少なくとも部分的にはユーザー入力に基づいて生成されてもよい。
【0030】
メタデータは、三次元空間内でのオーディオ・オブジェクトの位置を示すデータを含んでいてもよい。メタデータは、三次元空間内でのオーディオ・オブジェクトの時間変化する位置を示す軌跡データを含んでいてもよい。メタデータの生成は、たとえばユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成することに関わってもよい。スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含んでいてもよい。
【0031】
オーディオ・オブジェクトの位置は、一次元曲線に制約されてもよい。ソフトウェアは、該一次元曲線に沿った諸仮想スピーカー位置を生成するよう一つまたは複数の装置を制御する命令を含んでいてもよい。
【0032】
本明細書に記載される主題の一つまたは複数の実装の詳細は、付属の図面および以下の説明において記載される。他の特徴、側面および利点が該説明、図面および請求項から明白となるであろう。以下の図面の相対的な寸法は縮尺通りに描かれていないことがあることを注意しておく。
【図面の簡単な説明】
【0033】
図1】ドルビー・サラウンド5.1配位をもつ再生環境の例を示す図である。
図2】ドルビー・サラウンド7.1配位をもつ再生環境の例を示す図である。
図3】浜崎22.2サラウンド・サウンド配位をもつ再生環境の例を示す図である。
図4A】仮想再生環境におけるさまざまな高さにおけるスピーカー・ゾーンを描くグラフィカル・ユーザー・インターフェース(GUI)の例を示す図である。
図4B】別の再生環境の例を示す図である。
図5A】三次元空間の二次元面に制約されている位置をもつオーディオ・オブジェクトに対応するスピーカー応答の例を示す図である。
図5B】三次元空間の二次元面に制約されている位置をもつオーディオ・オブジェクトに対応するスピーカー応答の例を示す図である。
図5C】三次元空間の二次元面に制約されている位置をもつオーディオ・オブジェクトに対応するスピーカー応答の例を示す図である。
図5D】オーディオ・オブジェクトが制約されうる二次元面の例を示す図である。
図5E】オーディオ・オブジェクトが制約されうる二次元面の例を示す図である。
図6A】オーディオ・オブジェクトの位置を二次元面に制約するプロセスの一例を概説する流れ図である。
図6B】オーディオ・オブジェクト位置を単一のスピーカー位置または単一のスピーカー・ゾーンにマッピングするプロセスの一例を概説する流れ図である。
図7】仮想スピーカーを確立し、使用するプロセスを概説する流れ図である。
図8】A~Cは、線端点にマッピングされた仮想スピーカーおよび対応するスピーカー応答の例を示す図である。
図9】A~Cは、オーディオ・オブジェクトを動かすために仮想ひも(tether)を使う例を示す図である。
図10A】オーディオ・オブジェクトを動かすために仮想ひも(tether)を使うプロセスを概説する流れ図である。
図10B】オーディオ・オブジェクトを動かすために仮想ひも(tether)を使う代替的なプロセスを概説する流れ図である。
図10C図10Bで概説されたプロセスの例を示す図である。
図10D図10Bで概説されたプロセスの例を示す図である。
図10E図10Bで概説されたプロセスの例を示す図である。
図11】仮想再生環境においてスピーカー・ゾーン制約条件を適用する例を示す図である。
図12】スピーカー・ゾーン制約条件を適用するいくつかの例を概説する流れ図である。
図13A】仮想再生環境の二次元ビューと三次元ビューの間で切り換えることのできるGUIの例を示す図である。
図13B】仮想再生環境の二次元ビューと三次元ビューの間で切り換えることのできるGUIの例を示す図である。
図13C】再生環境の二次元および三次元描画の組み合わせを示す図である。
図13D】再生環境の二次元および三次元描画の組み合わせを示す図である。
図13E】再生環境の二次元および三次元描画の組み合わせを示す図である。
図14A図13C~13Eに示されるもののようなGUIを呈示するよう装置を制御するプロセスを概説する流れ図である。
図14B】再生環境についてオーディオ・オブジェクトをレンダリングするプロセスを概説する流れ図である。
図15】Aは、仮想再生環境におけるオーディオ・オブジェクトおよび関連するオーディオ・オブジェクト幅の例を示す図であり、Bは、Aに示したオーディオ・オブジェクト幅に対応する拡散(spread)プロファイルの例を示す図である。
図16】オーディオ・オブジェクトをブロッビングするプロセスを概説する流れ図である。
図17】AおよびBは、三次元仮想再生環境に位置されるオーディオ・オブジェクトの例を示す図である。
図18】諸パン・モードに対応する諸ゾーンの例を示す図である。
図19】A~Dは、種々の位置にあるオーディオ・オブジェクトに近距離場および遠距離場パン技法を適用する例を示す図である。
図20】スクリーンから部屋へのバイアス制御プロセスにおいて使用されうる再生環境のスピーカー・ゾーンを示す図である。
図21】オーサリングおよび/またはレンダリング装置のコンポーネントの例を与えるブロック図である。
図22】Aは、オーディオ・コンテンツ生成のために使用されうるいくつかのコンポーネントを表すブロック図であり、Bは再生環境におけるオーディオ再生のために使用されうるいくつかのコンポーネントを表すブロック図である。 さまざまな図面における参照番号および符号は同様の要素を指示する。
【発明を実施するための形態】
【0034】
以下の記述は、本開示のいくつかの斬新な側面およびこれら斬新な側面が実装されうるコンテキストの例を記述する目的のためのある種の実装に向けられる。しかしながら、本稿の教示はさまざまな異なる仕方で適用されることができる。たとえば、さまざまな実装が具体的な再生環境を使って記述されているが、本稿の教示は他の既知の再生環境および将来導入されうる再生環境に広く適用可能である。同様に、グラフィカル・ユーザー・インターフェース(GUI)の例が本稿に呈示されており、そのいくつかはスピーカー位置、スピーカー・ゾーンなどの例を提供しているが、他の実装も発明者によって考えられている。さらに、記載される実装はさまざまなオーサリングおよび/またはレンダリング・ツールにおいて実装されてもよく、それらは多様なハードウェア、ソフトウェア、ファームウェア等で実装されてもよい。したがって、本開示の教示は、図面に示されるおよび/または本稿で記述される実装に限定されることは意図されておらず、むしろ広い適用可能性をもつものである。
【0035】
図1は、ドルビー・サラウンド5.1配位をもつ再生環境の例を示している。ドルビー・サラウンド5.1は1990年代に開発されたが、この配位はいまだ広く映画館サウンド・システム環境に配備されている。プロジェクター105は、たとえば映画のためのビデオ画像をスクリーン150に投影するよう構成されていてもよい。オーディオ再生データは、該ビデオ画像と同期され、サウンド・プロセッサ110によって処理されてもよい。電力増幅器115はスピーカー・フィード信号を再生環境100のスピーカーに与えてもよい。
【0036】
ドルビー・サラウンド5.1配位は、左サラウンド・アレイ120、右サラウンド・アレイ125を含み、そのそれぞれは単一チャネルによって集団駆動される。ドルビー・サラウンド5.1配位は左スクリーン・チャネル130、中央スクリーン・チャネル135および右スクリーン・チャネル140についての別個のチャネルをも含む。サブウーファー145についての別個のチャネルが低域効果(LFE: low-frequency effects)のために提供される。
【0037】
2010年に、ドルビーはドルビー・サラウンド7.1を導入することによってデジタル映画館サウンドに対する向上を提供した。図2は、ドルビー・サラウンド7.1配位をもつ再生環境の例を示している。デジタル・プロジェクター205はデジタル・ビデオ・データを受領し、ビデオ画像をスクリーン150上に投影するよう構成されていてもよい。オーディオ再生データは、サウンド・プロセッサ210によって処理されてもよい。電力増幅器215がスピーカー・フィード信号を再生環境200のスピーカーに提供してもよい。
【0038】
ドルビー・サラウンド7.1配位は、左側方サラウンド・アレイ220、右側方サラウンド・アレイ225を含み、そのそれぞれは単一チャネルによって駆動されてもよい。ドルビー・サラウンド5.1と同様に、ドルビー・サラウンド7.1配位は左スクリーン・チャネル230、中央スクリーン・チャネル235、右スクリーン・チャネル240およびサブウーファー245のための別個のチャネルをも含む。しかしながら、ドルビー・サラウンド7.1は、ドルビー・サラウンド5.1の左および右のサラウンド・チャネルを四つのゾーンに分割することによって、サラウンド・チャネルの数を増している。すなわち、左側方サラウンド・アレイ220および右側方サラウンド・アレイ225に加えて、左後方サラウンド・スピーカー224および右後方サラウンド・スピーカー226のための別個のチャネルが含まれる。再生環境200内のサラウンド・ゾーンの数を増すことは、音の定位を著しく改善できる。
【0039】
より没入的な環境を生成しようとする努力において、いくつかの再生環境は、増加した数のチャネルによって駆動される増加した数のスピーカーをもって構成されることがある。さらに、いくつかの再生環境は、さまざまな高さに配備されるスピーカーを含むことがあり、そのような高さの一部は再生環境の座席領域より上方であることがある。
【0040】
図3は、浜崎22.2サラウンド・サウンド配位をもつ再生環境の例を示している。浜崎22.2は日本のNHK放送技術研究所において、超高精細度テレビジョンのサラウンド・サウンド・コンポーネントとして開発された。浜崎22.2は24個のスピーカー・チャネルを提供し、それらは三層に配置されたスピーカーを駆動するために使用されうる。再生環境300の上スピーカー層310は9チャネルによって駆動されうる。中スピーカー層320は10チャネルによって駆動されうる。下スピーカー層330は5チャネルによって駆動されうるが、そのうち2チャネルはサブウーファー345aおよび345b用である。
【0041】
よって、現在のトレンドは、より多くのスピーカーおよびより多くのチャネルを含めるだけでなく、異なる高さのスピーカーをも含めるものである。チャネルの数が増し、スピーカー・レイアウトが2Dアレイから3Dアレイに遷移するにつれて、サウンドを位置決めし、レンダリングするタスクはますます難しくなる。
【0042】
本開示は、3Dオーディオ・サウンド・システムのための機能を高めるおよび/またはオーサリング複雑さを軽減するさまざまなツールおよび関係するユーザー・インターフェースを提供する。
【0043】
図4Aは、仮想再生環境におけるさまざまな高さにあるスピーカー・ゾーンを描くグラフィカル・ユーザー・インターフェース(GUI)の例を示している。GUI 400はたとえば、論理システムからの命令、ユーザー入力装置から受領される信号などに従って、表示装置上に表示されてもよい。そのようないくつかの装置は図21を参照して後述する。
【0044】
仮想再生環境404のような仮想再生環境への言及に関する本稿での用法では、用語「スピーカー・ゾーン」は概括的に、実際の再生環境の再生スピーカーと一対一対応があってもなくてもよい論理的な構造体を指す。たとえば、「スピーカー・ゾーン位置」は、映画館再生環境の特定の再生スピーカー位置に対応してもしなくてもよい。その代わり、用語「スピーカー・ゾーン位置」は概括的に、仮想再生環境のゾーンを指してもよい。いくつかの実装では、仮想再生環境のスピーカー・ゾーンは、たとえば二チャネル・ステレオ・ヘッドホンの組を使ってリアルタイムに仮想サラウンド・サウンド環境を生成するドルビー・ヘッドホン(商標)(時にモバイル・サラウンド(商標)と称される)のような仮想化技術の使用を通じて仮想スピーカーに対応してもよい。GUI 400には、第一の高さに七つのスピーカー・ゾーン402aがあり、第二の高さに二つのスピーカー・ゾーン402bがあり、仮想再生環境404内のスピーカー・ゾーンは合計九つとなっている。この例では、スピーカー・ゾーン1~3は仮想再生環境404の前方領域405にある。前方領域405はたとえば、映画館再生環境の、スクリーン150が位置する領域、家庭のテレビジョン・スクリーンが位置する領域などに対応してもよい。
【0045】
ここで、スピーカー・ゾーン4は概括的には左領域410のスピーカーに対応し、スピーカー・ゾーン5は仮想再生環境404の右領域415のスピーカーに対応する。スピーカー・ゾーン6は左後方領域412に対応し、スピーカー・ゾーン7は仮想再生環境404の右後方領域414に対応する。スピーカー・ゾーン8は上領域420aのスピーカーに対応し、スピーカー・ゾーン9は上領域420bのスピーカーに対応し、これは図5Dおよび5Eに示される仮想天井520の領域のような仮想天井領域であってもよい。したがって、下記でより詳細に述べるように、図4Aに示されるスピーカー・ゾーン1~9の位置は実際の再生環境の再生スピーカーの位置に対応してもしなくてもよい。さらに、他の実装はより多数またはより少数のスピーカー・ゾーンおよび/または高さを含んでいてもよい。
【0046】
本稿に記載されるさまざまな実装において、GUI 400のようなユーザー・インターフェースが、オーサリング・ツールおよび/またはレンダリング・ツールの一部として使用されてもよい。いくつかの実装では、オーサリング・ツールおよび/またはレンダリング・ツールは、一つまたは複数の非一時的な媒体上に記憶されるソフトウェアを介して実装されてもよい。オーサリング・ツールおよび/またはレンダリング・ツールは、(少なくとも部分的には)図21を参照して後述する論理システムおよび他の装置のようなハードウェア、ファームウェアなどによって実装されてもよい。いくつかのオーサリング実装では、関連するオーサリング・ツールが関連するオーディオ・データについてのメタデータを生成するために使用されてもよい。メタデータは、たとえば、三次元空間におけるオーディオ・オブジェクトの位置および/または軌跡を示すデータ、スピーカー・ゾーン制約条件データなどを含んでいてもよい。メタデータは、実際の再生環境の特定のスピーカー・レイアウトに関してではなく、仮想再生環境404のスピーカー・ゾーン402に関して生成されてもよい。レンダリング・ツールは、オーディオ・データおよび関連するメタデータを受領してもよく、再生環境のためのオーディオ利得およびスピーカー・フィード信号を計算してもよい。そのようなオーディオ利得およびスピーカー・フィード信号は、振幅パン・プロセスに従って計算されてもよい。振幅パン・プロセスは、音が再生環境中の位置Pから来ているような知覚を創り出すことができるものである。たとえば、スピーカー・フィード信号は、次式
xi(t)=gix(t) i=1,…,N (式1)
に従って再生環境の再生スピーカー1ないしNに与えられてもよい。
【0047】
式(1)において、xi(t)はスピーカーiに加えられるスピーカー・フィード信号を表し、giは対応するチャネルの利得因子を表し、x(t)はオーディオ信号を表し、tは時間を表す。利得因子はたとえばここに参照により組み込まれる非特許文献1のSection 2、pp.3-4に記載される振幅パン方法(amplitude panning methods)に従って決定されてもよい。いくつかの実装では、利得は周波数依存であってもよい。いくつかの実装では、x(t)をx(t-Δt)で置き換えることによって時間遅延が導入されてもよい。
【0048】
いくつかのレンダリング実装では、スピーカー・ゾーン402を参照して生成されたオーディオ再生データは、ドルビー・サラウンド5.1配位、ドルビー・サラウンド7.1配位、浜崎22.2配位または他の配位であってもよい幅広い範囲の再生環境のスピーカー位置にマッピングされうる。たとえば、図2を参照するに、レンダリング・ツールは、スピーカー・ゾーン4および5についてのオーディオ再生データを、ドルビー・サラウンド7.1配位をもつ再生環境の左側方サラウンド・アレイ220および右側方サラウンド・アレイ225にマッピングしてもよい。スピーカー・ゾーン1、2および3についてのオーディオ再生データは、それぞれ左スクリーン・チャネル230、右スクリーン・チャネル240および中央スクリーン・チャネル235にマッピングされてもよい。スピーカー・ゾーン6および7についてのオーディオ再生データは、左後方サラウンド・スピーカー224および右後方サラウンド・スピーカー226にマッピングされてもよい。
【0049】
図4Bは、別の再生環境の例を示している。いくつかの実装では、レンダリング・ツールは、スピーカー・ゾーン1、2および3についてのオーディオ再生データを再生環境450の対応するスクリーン・スピーカー455にマッピングしてもよい。レンダリング・ツールは、スピーカー・ゾーン4および5についてのオーディオ再生データを、左側方サラウンド・アレイ460および右側方サラウンド・アレイ465にマッピングしてもよく、スピーカー・ゾーン8および9についてのオーディオ再生データを、左頭上スピーカー470aおよび右頭上スピーカー470bにマッピングしてもよい。スピーカー・ゾーン6および7についてのオーディオ再生データは、左後方サラウンド・スピーカー480aおよび右後方サラウンド・スピーカー480bにマッピングされてもよい。
【0050】
いくつかのオーサリング実装では、オーサリング・ツールは、オーディオ・オブジェクトについてのメタデータを生成するために使われてもよい。本稿での用法では、用語「オーディオ・オブジェクト(audio object)」はオーディオ・データおよび関連するメタデータのストリームを指す。メタデータは典型的にはオブジェクトの3D位置、レンダリング制約条件およびコンテンツ型(たとえばダイアログ、効果など)を指示する。実装に依存して、メタデータは、幅データ、利得データ、軌跡データなどの他の型のデータを含んでいてもよい。いくつかのオーディオ・オブジェクトは静的であってもよく、一方、他のオーディオ・オブジェクトは動いてもよい。オーディオ・オブジェクトの詳細は、所与の時点における三次元空間内でのオーディオ・オブジェクトの位置などを示しうる関連するメタデータに従ってオーサリングまたはレンダリングされてもよい。オーディオ・オブジェクトが再生環境においてモニタリングまたは再生されるとき、オーディオ・オブジェクトは、ドルビー5.1やドルビー7.1のような伝統的なチャネル・ベースのシステムの場合のように所定の物理的チャネルに出力されるのではなく、再生環境に存在する再生スピーカーを使って、位置メタデータに従ってレンダリングされうる。
【0051】
さまざまなオーサリングおよびレンダリング・ツールが、GUI 400と実質的に同じであるGUIを参照して本願で記述されるが、GUIを含むがGUIに限定されない他のさまざまなインターフェースがこれらオーサリングおよびレンダリング・ツールと関連して使用されうる。いくつかのそのようなツールは、さまざまな型の制約条件を適用することによってオーサリング・プロセスを単純化することができる。いくつかの実装についてこれから、図5A以下を参照して述べる。
【0052】
図5A~5Cは、三次元空間の二次元面に制約された位置をもつオーディオ・オブジェクトに対応するスピーカー応答の例を示している。二次元面はこの例では半球である。これらの例において、スピーカー応答は、各スピーカーがスピーカー・ゾーン1~9の一つに対応する9スピーカー配位を想定してレンダラーによって計算されている。しかしながら、本稿の他所で述べているように、一般には、仮想再生環境のスピーカー・ゾーンと再生環境における再生スピーカーとの間に一対一のマッピングがなくてもよい。まず図5Aを参照するに、オーディオ・オブジェクト505が仮想再生環境404の左前部の位置に示されている。よって、スピーカー・ゾーン1に対応するスピーカーは実質的な利得を示し、スピーカー・ゾーン3および4に対応するスピーカーは中程度の利得を示す。
【0053】
この例において、オーディオ・オブジェクト505の位置は、オーディオ・オブジェクト505上にカーソル510を置いて、オーディオ・オブジェクト505を仮想再生環境404のxy平面内の所望される位置に「ドラッグ」することによって変えられる。オブジェクトが再生環境の中央に向けてドラッグされるにつれて、オブジェクトは半球の表面にもマッピングされ、その高さが増す。ここで、オーディオ・オブジェクト505の高さ増は、オーディオ・オブジェクト505を表す円の直径の増大によって示されている。すなわち、図5Bおよび5Cに示されるように、オーディオ・オブジェクト505が仮想再生環境404の頂部の中央にドラッグされるにつれ、オーディオ・オブジェクト505はますます大きく見える。代替的または追加的に、オーディオ・オブジェクト505の高さは、色、明るさ、数値による高さ指示などの変化によって示されてもよい。オーディオ・オブジェクト505が図5Cに示されるように仮想再生環境404の頂部中央に位置されるときは、スピーカー・ゾーン8および9に対応するスピーカーが実質的な利得を示し、他のスピーカーはほとんどまたは全く利得を示さない。
【0054】
この実装では、オーディオ・オブジェクト505の位置は、球面、楕円面、円錐面、円筒面、楔形などといった二次元面に制約される。図5Dおよび5Eは、オーディオ・オブジェクトが制約されうる二次元面の例を示している。図5Dおよび5Eは、仮想再生環境404を通じた断面図であり、前領域405が左に示されている。図5Dおよび5Eでは、図5A~5Cに示したx-y軸の配向との一貫性を保持するために、y-z軸のy値は仮想再生環境404の前領域405の方向に増大する。
【0055】
図5Dに示される例では、二次元面515aは楕円面のセクションである。図5Eに示される例では、二次元面515bは楔形のセクションである。しかしながら、図5Dおよび5Eに示される二次元面515の形、配向および位置は単に例である。代替的な実装では、二次元面515の少なくとも一部が仮想再生環境404の外に延びてもよい。いくつかのそのような実装では、二次元面515は仮想天井520の上に延びてもよい。よって、その中に二次元面515が延在する三次元空間は、必ずしも仮想再生環境404の体積と同じ広がりでない。さらに他の実装では、オーディオ・オブジェクトは曲線、直線などといった一次元特徴に制約されてもよい。
【0056】
図6Aは、オーディオ・オブジェクトの位置を二次元面に制約するプロセスの一例を概説する流れ図である。本稿で与える他の流れ図と同様、プロセス600の動作は必ずしも図示した順序で実行されるのではない。さらに、プロセス600(および本稿で与えられる他のプロセス)は、図に示されているおよび/または記述されているものより多数または少数の動作を含んでいてもよい。この例では、ブロック605ないし622はオーサリング・ツールによって実行され、ブロック624ないし630はレンダリング・ツールによって実行される。オーサリング・ツールおよびレンダリング・ツールは、単一の装置において、あるいは二つ以上の装置において実装されてもよい。図6A(および本稿で与えられている他の流れ図)は、オーサリング・プロセスとレンダリング・プロセスが逐次的に実行されるような印象を与えるかもしれないが、多くの実装では、オーサリング・プロセスとレンダリング・プロセスは実質的に同時に実行される。オーサリング・プロセスおよびレンダリング・プロセスは対話的であってもよい。たとえば、オーサリング処理の結果がレンダリング・ツールに送られてもよく、レンダリング・ツールの対応する結果がユーザーによって評価されてもよく、ユーザーはこれらの結果に基づいてさらなるオーサリングを実行してもよい、など。
【0057】
ブロック605では、オーディオ・オブジェクト位置が二次元面に制約されるべきであるという指示が受領される。この指示は、たとえば、オーサリングおよび/またはレンダリング・ツールを提供するよう構成されている装置の論理システムによって受領されてもよい。本稿に記載される他の実装と同様に、論理システムは、非一時的媒体に記憶されているソフトウェアの命令、ファームウェアなどに従って動作してもよい。前記指示は、ユーザーからの入力に応答したユーザー入力装置(タッチスクリーン、マウス、トラックボール、ジェスチャー認識装置など)からの信号であってもよい。
【0058】
任意的なブロック607において、オーディオ・データが受領される。オーディオ・データは、メタデータ・オーサリング・ツールに時間同期されている別の源(たとえばミキシング・コンソール)から直接レンダラーに行ってもよいので、ブロック607はこの例では任意的である。いくつかのそのような実装では、各オーディオ・ストリームを対応する入来メタデータ・ストリームに結び付けてオーディオ・オブジェクトを形成する暗黙的な機構が存在してもよい。たとえば、メタデータ・ストリームは、それが表すオーディオ・オブジェクトについての識別子、たとえば1からNの数値を含んでいてもよい。レンダリング装置がやはり1からNの番号を付されたオーディオ入力をもって構成される場合、レンダリング・ツールは自動的に、オーディオ・オブジェクトが、ある数値(たとえば1)で同定されるメタデータ・ストリームと、第一のオーディオ入力上で受領されるオーディオ・データとによって形成されていると想定してもよい。同様に、番号2として同定されている任意のメタデータ・ストリームが、第二のオーディオ入力チャネル上で受領されるオーディオとオブジェクトを形成してもよい。いくつかの実装では、オーディオおよびメタデータは、オーサリング・ツールによって事前パッケージングされてオーディオ・オブジェクトを形成してもよく、該オーディオ・オブジェクトがレンダリング・ツールに与えられてもよい、たとえばTCP/IPパケットとしてネットワークを通じて送られてもよい。
【0059】
代替的な実装では、オーサリング・ツールはネットワーク上でメタデータを送るだけでもよく、レンダリング・ツールは別の源から(たとえばパルス・コード変調(PCM)ストリームを介して、アナログ・オーディオ等を介してなど)オーディオを受領してもよい。そのような実装では、レンダリング・ツールが、オーディオ・データおよびメタデータをグループ化してオーディオ・オブジェクトを形成するよう構成されていてもよい。オーディオ・データはたとえば、インターフェースを介して論理システムによって受領されてもよい。インターフェースはたとえば、ネットワーク・インターフェース、オーディオ・インターフェース(たとえば、AES/EBUとしても知られるオーディオ・エンジニアリング協会およびヨーロッパ放送連合(Audio Engineering Society and the European Broadcasting Union)によって開発されたAES3規格を介した、マルチチャネル・オーディオ・デジタル・インターフェース(MADI: Multichannel Audio Digital Interface)プロトコルを介した、アナログ信号を介したなどの通信のために構成されたインターフェース)または論理システムとメモリ装置の間のインターフェースであってもよい。この例では、レンダラーによって受領されるデータは少なくとも一つのオーディオ・オブジェクトを含む。
【0060】
ブロック610では、オーディオ・オブジェクト位置の(x,y)または(x,y,z)座標が受領される。ブロック610はたとえば、図5A~5Cを参照して上記したように、オーディオ・オブジェクトの初期位置を受領することに関わっていてもよい。ブロック610はまた、ユーザーがオーディオ・オブジェクトを位置させたまたは位置させ直したという指標を受領することに関わっていてもよい。オーディオ・オブジェクトの座標はブロック615において二次元面にマッピングされる。二次元面は図5Dおよび5Eを参照して上記したものと同様であってもよいし、あるいは異なる二次元面であってもよい。この例では、xy平面の各点は単一のz値にマッピングされる。よって、ブロック615はブロック610において受領されるxおよびy座標をzの値にマッピングすることに関わる。他の実装では、異なるマッピング・プロセスおよび/または座標系が使用されてもよい。オーディオ・オブジェクトは、ブロック615において決定される(x,y,z)位置において表示されてもよい(ブロック620)。オーディオ・データおよびブロック615において決定されたマッピングされた(x,y,z)位置を含むメタデータは、ブロック621において記憶されてもよい。オーディオ・データおよびメタデータはレンダリング・ツールに送られてもよい(ブロック622)。いくつかの実装では、メタデータは、いくつかのオーサリング処理が実行されている間に、たとえばオーディオ・オブジェクトが位置付けされ、制約され、GUI 400に表示されているなどの間に、連続的に送られてもよい。
【0061】
ブロック623では、オーサリング・プロセスが続くかどうかが決定される。たとえば、ユーザーがもはやオーディオ・オブジェクト位置を二次元面に制約することを望まないことを指示するユーザー・インターフェースからの入力を受領したら、オーサリング・プロセスは終了してもよい(ブロック625)。そうでなければ、オーサリング・プロセスは、たとえばブロック607またはブロック610に戻ることによって続いてもよい。いくつかの実装では、オーサリング・プロセスが続くか否かによらず、レンダリング処理は続いてもよい。いくつかの実装では、オーディオ・オブジェクトはオーサリング・プラットフォーム上のディスクに記録されてもよく、次いで専用のサウンド・プロセッサまたはサウンド・プロセッサ、たとえば図2のサウンド・プロセッサ210のようなサウンド・プロセッサに接続された映画館サーバーから、展示目的のために再生されてもよい。
【0062】
いくつかの実装では、レンダリング・ツールは、オーサリング機能を提供するよう構成されている装置上で走るソフトウェアであってもよい。他の実装では、レンダリング・ツールは別の装置上で提供されてもよい。オーサリング・ツールとレンダリング・ツールの間の通信のために使用される通信プロトコルの型は、両方のツールが同じ装置上で走っているかあるいはネットワークを通じて通信しているかに従って変わりうる。
【0063】
ブロック626では、オーディオ・データおよびメタデータ(ブロック615で決定された(x,y,z)位置を含む)がレンダリング・ツールによって受領される。代替的な実装では、オーディオ・データおよびメタデータはレンダリング・ツールによって別個に受領され、暗黙的な機構を通じてオーディオ・オブジェクトとして解釈されてもよい。上記のように、たとえば、メタデータ・ストリームがオーディオ・オブジェクト識別コード(たとえば1,2,3等)を含んでいてもよく、レンダリング・システム上の第一、第二、第三のオーディオ入力(すなわち、デジタルまたはアナログのオーディオ接続)にそれぞれ取り付けられて、スピーカーに対してレンダリングされることのできるオーディオ・オブジェクトを形成してもよい。
【0064】
プロセス600のレンダリング処理(および本稿に記載される他のレンダリング処理)の間、パン利得の式(panning gain equations)が、特定の再生環境の再生スピーカー・レイアウトに従って適用されてもよい。よって、レンダリング・ツールの論理システムは、再生環境における再生スピーカーの数の指示および該再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領してもよい。これらのデータはたとえば、論理システムによってアクセス可能なメモリに記憶されているデータ構造にアクセスすることによって受領されても、あるいはインターフェース・システムを介して受領されてもよい。
【0065】
この例において、オーディオ・データに適用(ブロック630)すべき利得値を決定する(ブロック628)するために(x,y,z)位置についてパン利得の式が適用される。いくつかの実装では、利得値に応答してレベルにおいて調整されたオーディオ・データが再生スピーカーによって、たとえばレンダリング・ツールの論理システムと通信するよう構成されたヘッドホンのスピーカー(または他のスピーカー)によって再生されてもよい。いくつかの実装では、再生スピーカー位置は、上記の仮想再生環境404のような仮想再生環境のスピーカー・ゾーンに対応してもよい。対応するスピーカー応答は、たとえば図5A~5Cに示したような表示装置上に表示されてもよい。
【0066】
ブロック635では、プロセスが続くかどうかが決定される。たとえば、プロセスは、ユーザーがもはやレンダリング・プロセスを続けることを望んでいないことを指示するユーザー・インターフェースからの入力を受領したときに終了してもよい(ブロック640)。そうでなければ、プロセスは、たとえばブロック626に戻ることによって続いてもよい。論理システムが、ユーザーが対応するオーサリング・プロセスに戻ることを望んでいるという指示を受領する場合には、プロセス600はブロック607またはブロック610に戻ってもよい。
【0067】
他の実装は、さまざまな他の型の制約条件を課すことまたはオーディオ・オブジェクトについての他の型の制約メタデータを生成することに関わってもよい。図6Bは、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングするプロセスの一例を概説する流れ図である。このプロセスは本稿では「スナッピング(snapping)」と称されることもある。ブロック655では、オーディオ・オブジェクト位置が単一のスピーカー位置または単一のスピーカー・ゾーンにスナップされてもよいという指示が受領される。この例では、この指示は、オーディオ・オブジェクト位置が、適宜、単一のスピーカー位置にスナップされるというものである。この指示は、オーサリング・ツールを提供するよう構成されている装置の論理システムによって受領されてもよい。この指示は、ユーザー入力装置から受領される入力に対応してもよい。しかしながら、この指示は、オーディオ・オブジェクトのカテゴリー(たとえば弾丸音、発声)および/またはオーディオ・オブジェクトの幅に対応してもよい。カテゴリーおよび/または幅に関する情報は、たとえば、オーディオ・オブジェクトについてのメタデータとして受領されてもよい。そのような実装では、ブロック657はブロック655より前に行われてもよい。
【0068】
ブロック656では、オーディオ・データが受領される。オーディオ・オブジェクト位置の座標がブロック657において受領される。この例では、オーディオ・オブジェクト位置は、ブロック657において受領される座標に従って表示される(ブロック658)。オーディオ・オブジェクト座標およびスナップ機能を示すスナップ・フラグを含むメタデータがブロック659において保存される。オーディオ・データおよびメタデータはオーサリング・ツールによってレンダリング・ツールに送られる(ブロック660)。
【0069】
ブロック662では、オーサリング・プロセスが続くかどうかが決定される。たとえば、ユーザーがもはやオーディオ・オブジェクト位置をスピーカー位置にスナップさせることを望まないことを指示するユーザー・インターフェースからの入力を受領したら、オーサリング・プロセスは終了してもよい(ブロック663)。そうでなければ、オーサリング・プロセスは、たとえばブロック665に戻ることによって続いてもよい。いくつかの実装では、オーサリング・プロセスが続くか否かによらず、レンダリング処理は続いてもよい。
【0070】
ブロック664では、オーサリング・ツールによって送られたオーディオ・データおよびメタデータがレンダリング・ツールによって受領される。ブロック665では、オーディオ・オブジェクト位置をスピーカー位置にスナップさせるかどうかが(たとえば論理システムによって)決定される。この決定は、少なくとも部分的には、オーディオ・オブジェクト位置と再生環境の最も近い再生スピーカー位置との間の距離に基づいていてもよい。
【0071】
この例では、ブロック665においてオーディオ・オブジェクト位置をスピーカー位置にスナップさせることが決定された場合、ブロック670においてオーディオ・オブジェクト位置はスピーカー位置、一般にはオーディオ・オブジェクトについて受領される意図される(x,y,z)位置に最も近いスピーカー位置にマッピングされる。この場合、このスピーカー位置によって再生されるオーディオ・データについての利得は1.0となる。一方、他のスピーカーによって再生されるオーディオ・データの利得はゼロとなる。代替的な実装では、オーディオ・オブジェクト位置はブロック670において、スピーカー位置の群にマッピングされてもよい。
【0072】
たとえば、再び図4Bを参照するに、ブロック670は、オーディオ・オブジェクトの位置を左頭上スピーカー470aの一つにスナップさせることに関わってもよい。あるいはまた、ブロック670は、オーディオ・オブジェクトの位置をある単一のスピーカーと近隣スピーカー、たとえば1つまたは2つの近隣のスピーカーとにスナップさせることに関わってもよい。よって、対応するメタデータは、再生スピーカーの小さな群におよび/または個々の再生スピーカーに適用されてもよい。
【0073】
しかしながら、ブロック665において、オーディオ・オブジェクト位置がスピーカー位置にスナップされないと決定される場合、たとえば、そうしたとしたら当該オブジェクトについて受領されたもとの意図された位置に比して位置の大きな食い違いが生ずる場合、パン規則が適用される(ブロック675)。パン規則は、オーディオ・オブジェクト位置および該オーディオ・オブジェクトの他の特性(幅、ボリュームなど)に従って適用されてもよい。
【0074】
ブロック675から決定された利得データは、ブロック681でオーディオ・データに適用されてもよく、結果が保存されてもよい。いくつかの実装では、結果として生ずるオーディオ・データは、論理システムとの通信のために構成されているスピーカーによって再生されてもよい。ブロック685において、プロセス650が続くことが決定される場合、プロセス650はブロック664に戻って、レンダリング処理を続けてもよい。あるいはまた、プロセス650はブロック655に戻ってオーサリング処理を再開してもよい。
【0075】
プロセス650は、さまざまな型の平滑化処理に関わってもよい。たとえば、論理システムは、オーディオ・オブジェクト位置のマッピングを第一の単一のスピーカー位置から第二の単一のスピーカー位置に遷移するときにオーディオ・データに適用される利得における遷移をなめらかにするよう構成されていてもよい。再び図4Bを参照するに、オーディオ・オブジェクトの位置が最初は左頭上スピーカー470aの一つにマッピングされていたのが、のちに右後方サラウンド・スピーカー480bの一つにマッピングされる場合、論理システムは、オーディオ・オブジェクトが突然あるスピーカー(またはスピーカー・ゾーン)から別のものに「ジャンプする」ように感じられないよう、スピーカー間の遷移をなめらかにしてもよい。いくつかの実装では、この平滑化は、クロスフェード・レート・パラメータに従って実装されてもよい。
【0076】
いくつかの実装では、論理システムは、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングすることと、オーディオ・オブジェクト位置についてパン規則を適用することとの間で遷移するときに、オーディオ・データに適用される利得における遷移をなめらかにするよう構成されていてもよい。たとえば、ブロック665でその後、オーディオ・オブジェクトの位置が、最も近いスピーカーからあまりに遠いと判定される位置に動かされたと判定された場合、オーディオ・オブジェクト位置についてのパン規則がブロック675において適用されてもよい。しかしながら、スナッピングからパンへの(またはその逆の)遷移をするとき、論理システムは、オーディオ・データに適用される利得における遷移をなめらかにするよう構成されていてもよい。プロセスは、たとえばユーザー・インターフェースからの対応する入力の受領に際して、ブロック690において終了してもよい。
【0077】
いくつかの代替的な実装は、論理的な制約条件を生成することに関わっていてもよい。いくつかの事例では、たとえば、サウンド・ミキサーは、特定のパン処理の間に使われるスピーカーの集合に対する、より明示的なコントロールを所望してもよい。いくつかの実装は、ユーザーが、スピーカーのセットとパン・インターフェースの間で一次元または二次元の「論理マッピング」を生成することを許容する。
【0078】
図7は、仮想スピーカーを確立し、使用するプロセスを概説する流れ図である。図8のA~Cは、線端点にマッピングされた仮想スピーカーおよび対応するスピーカー・ゾーン応答の例を示す。まず図7のプロセス700を参照するに、ブロック705において、仮想スピーカーを生成する指示が受領される。指示はたとえば、オーサリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領される入力に対応してもよい。
【0079】
ブロック710において、仮想スピーカー位置の指示が受領される。たとえば、図8のAを参照するに、ユーザーは、カーソル510を仮想スピーカー805aの位置に位置付け、たとえばマウス・クリックを介してその位置を選択するために、入力装置を使ってもよい。ブロック715では、この例では追加的な仮想スピーカーが選択されることが(たとえばユーザー入力に従って)決定される。プロセスはブロック710に戻り、ユーザーはこの例では図8のAに示される仮想スピーカー805bの位置を選択する。
【0080】
この事例では、ユーザーは、二つの仮想スピーカー位置を確立することを望むだけである。よって、ブロック715において、さらなる仮想スピーカーは選択されないことが(たとえばユーザー入力に従って)決定される。図8のAに示されるように、仮想スピーカー805aおよび805bの位置をつなぐポリライン(polyline)810が表示されてもよい。いくつかの実装では、オーディオ・オブジェクト505の位置はポリライン810に制約される。いくつかの実装では、オーディオ・オブジェクト505の位置はパラメトリック曲線上に制約されてもよい。たとえば、一組の制御点がユーザー入力に従って提供されてもよく、スプラインのような曲線当てはめアルゴリズムを使ってパラメトリック曲線を決定してもよい。ブロック725では、ポリライン810に沿ったオーディオ・オブジェクト位置の指示が受領される。いくつかのそのような実装では、位置は0と1の間のスカラー値として示される。ブロック725において、オーディオ・オブジェクトの(x,y,z)座標と、仮想スピーカーによって定義されるポリラインとが表示されてもよい。オーディオ・データと、得られたスカラー位置および仮想スピーカーの(x,y,z)座標を含む関連するメタデータとが表示されてもよい(ブロック727)。ここで、オーディオ・データおよびメタデータは適切な通信プロトコルを介してブロック728においてレンダリング・ツールに送られてもよい。
【0081】
ブロック729では、オーサリング・プロセスが続くかどうかが決定される。続かない場合、プロセス700は終了してもよく(ブロック730)、あるいはレンダリング処理に続いてもよい。これはユーザー入力に従う。しかしながら、上記のように、多くの実装では、少なくともいくつかのレンダリング処理がオーサリング処理と並行して実行されてもよい。
【0082】
ブロック732では、オーディオ・データおよびメタデータがレンダリング・ツールによって受領される。ブロック735では、オーディオ・データに適用される利得が各仮想スピーカー位置について計算される。図8のBは仮想スピーカー805aの位置についてのスピーカー応答を示している。図8のCは、仮想スピーカー805bの位置についてのスピーカー応答を示している。この例では、本稿に記載する他の多くの例と同様、示されるスピーカー応答は、GUI 400のスピーカー・ゾーンについて示される位置に対応する位置をもつ再生スピーカーについてのものである。ここで、仮想スピーカー805aおよび805bならびに線810は、スピーカー・ゾーン8および9に対応する位置をもつ再生スピーカーに近くない平面内に位置されている。よって、これらのスピーカーについての利得は図8のBやCには示されていない。
【0083】
ユーザーがオーディオ・オブジェクト505を線810に沿った他の位置に動かすとき、論理システムは、たとえばオーディオ・オブジェクト・スカラー位置パラメータに従ってこれらの位置に対応するクロスフェードを計算する(ブロック740)。いくつかの実装では、ペアごとのパン則(pair-wise panning law)(たとえばエネルギーを保存する正弦または冪乗則)が、仮想スピーカー805aの位置についてのオーディオ・データに適用される利得と仮想スピーカー805bの位置についてのオーディオ・データに適用される利得との間でブレンドするために使われてもよい。
【0084】
ブロック742において、プロセス700を続けるかどうかが(たとえばユーザー入力に従って)決定されてもよい。ユーザーはたとえば、レンダリング処理を続けるまたはオーサリング処理に戻るオプションを(たとえばGUIを介して)呈示されてもよい。プロセス700が続かないことが決定される場合には、プロセスは終了する(ブロック745)。
【0085】
速く動くオーディオ・オブジェクト(たとえば自動車、ジェットなどに対応するオーディオ・オブジェクト)をパンするとき、オーディオ・オブジェクト位置が一時に一点ずつユーザーによって選択されるとしたら、なめらかな軌跡をオーサリングすることが難しいことがある。オーディオ・オブジェクト軌跡におけるなめらかさの欠如は、知覚される音像に影響することがある。よって、本稿において提供されるいくつかのオーサリング実装は、結果として得られるパン利得をなめらかにするために、オーディオ・オブジェクトの位置に低域通過フィルタを適用する。代替的なオーサリング実装は、オーディオ・データに適用される利得に低域通過フィルタを適用する。
【0086】
他のオーサリング実装はユーザーが、オーディオ・オブジェクトをつかむこと、引っ張ること、投げることまたはオーディオ・オブジェクトと同様に対話することをシミュレートすることを許容してもよい。そのようないくつかの実装は、速度、加速、運動量、運動エネルギー、力の印加などを記述するために使われる規則セットのようなシミュレートされる物理法則の適用に関わってもよい。
【0087】
図9のA~Cは、オーディオ・オブジェクトをドラッグするために仮想ひも(tether)を使う例を示している。図9のAでは、仮想ひも905がオーディオ・オブジェクト505とカーソル510との間に形成される。この例では、仮想ひも905は仮想ばね定数をもつ。いくつかのそのような実装では、仮想ばね定数はユーザー入力に従って選択可能であってもよい。
【0088】
図9のBは、その後の時点におけるオーディオ・オブジェクト505およびカーソル510を示している。このあと、ユーザーはカーソル510をスピーカー・ゾーン3のほうに動かしている。ユーザーはカーソル510をマウス、ジョイスティック、トラックボール、ジェスチャー検出装置または他の型のユーザー入力装置を使って動かしてもよい。仮想ひも905は伸長されており、オーディオ・オブジェクト505はスピーカー・ゾーン8の近くに動かされている。オーディオ・オブジェクト505は図9のAおよびBにおいてほぼ同じサイズである。これは、(この例では)オーディオ・オブジェクト505の高さが実質的に変化しなかったことを示している。
【0089】
図9のCは、よりあとの時点におけるオーディオ・オブジェクト505およびカーソル510を示している。このあと、ユーザーはカーソルをスピーカー・ゾーン9をめぐって動かしている。仮想ひも905はさらに伸長されている。オーディオ・オブジェクト505は下方に動かされており、このことは、オーディオ・オブジェクト505のサイズの減少によって示されている。オーディオ・オブジェクト505はなめらかな弧で動かされた。この例は、そのような実装の一つの潜在的な恩恵を示す。それは、ユーザーが単に一点ずつオーディオ・オブジェクト505についての位置を選択する場合よりもなめらかな軌跡においてオーディオ・オブジェクト505が動かされうるということである。
【0090】
図10Aは、オーディオ・オブジェクトを動かすために仮想ひもを使うプロセスを概説する流れ図である。プロセス1000は、オーディオ・データが受領されるブロック1005をもって始まる。ブロック1007では、オーディオ・オブジェクトとカーソルとの間に仮想ひもを取り付ける指示が受領される。この指示は、オーサリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領された入力に対応してもよい。図9のAを参照するに、ユーザーはカーソル510をオーディオ・オブジェクト505の上に位置させ、次いでユーザー入力装置またはGUIを介して、仮想ひも905がカーソル510とオーディオ・オブジェクト505との間に形成されるべきであることを指示してもよい。カーソルおよびオブジェクト位置データが受領されてもよい。(ブロック1010)
この例では、カーソル510が動かされるにつれて、カーソル速度および/または加速度データが論理システムによって、カーソル位置データに従って計算されてもよい。(ブロック1015)オーディオ・オブジェクト505についての位置データおよび/または軌跡データは、仮想ひも905の仮想ばね定数ならびにカーソル位置、速度および加速度データに従って計算されてもよい。いくつかのそのような実装は、オーディオ・オブジェクト505に仮想質量を割り当てることに関わっていてもよい(ブロック1020)。たとえば、カーソル510が比較的一定の速度で動かされる場合、仮想ひも905は伸長しなくてもよく、オーディオ・オブジェクト505は比較的一定の速度で引っ張られてもよい。カーソル510が加速する場合には、仮想ひも905は伸長されてもよく、仮想ひも905によって対応する力がオーディオ・オブジェクト505に適用されてもよい。カーソル510の加速と仮想ひも905によって加えられる力との間には時間遅れがあってもよい。代替的な実装では、オーディオ・オブジェクト505の位置および/または軌跡は、異なる仕方で、たとえば仮想ばね定数を仮想ひも905に割り当てることなく、オーディオ・オブジェクト505に摩擦および/または慣性規則を適用することによって、などで決定されてもよい。
【0091】
オーディオ・オブジェクト505およびカーソル510の離散的な諸位置および/または軌跡が表示されてもよい(ブロック1025)。この例では、論理システムは、ある時間間隔でオーディオ・オブジェクト位置をサンプリングする(ブロック1030)。いくつかのそのような実装では、ユーザーがサンプリングのための時間間隔を決定してもよい。オーディオ・オブジェクト位置および/または軌跡メタデータなどが保存されてもよい(ブロック1034)。
【0092】
ブロック1036では、このオーサリング・モードが続くかどうかが決定される。ユーザーがそう望む場合には、たとえばブロック1005またはブロック1010に戻ることによって、プロセスは続いてもよい。そうでない場合には、プロセス1000は終了してもよい(ブロック1040)。
【0093】
図10Bは、オーディオ・オブジェクトを動かすために仮想ひもを使う代替的なプロセスを概説する流れ図である。図10C~10Eは、図10Bで概説されるプロセスの例を示す。まず図10Bを参照するに、プロセス1050は、オーディオ・データが受領されるブロック1055をもって始まる。ブロック1057では、オーディオ・オブジェクトとカーソルとの間に仮想ひもを取り付ける指示が受領される。この指示は、オーサリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領された入力に対応してもよい。図10Cを参照するに、たとえば、ユーザーはカーソル510をオーディオ・オブジェクト505の上に位置させ、次いでユーザー入力装置またはGUIを介して、仮想ひも905がカーソル510とオーディオ・オブジェクト505との間に形成されるべきであることを指示してもよい。
【0094】
ブロック1060において、カーソルおよびオブジェクト位置データが受領されてもよい。ブロック1062では、論理システムは、オーディオ・オブジェクト505が指示された位置、たとえばカーソル510によって指示される位置に保持されるべきであるという指示を(たとえばユーザー入力装置またはGUIを介して)受領してもよい。ブロック1065では、論理装置は、カーソル510が新たな位置に動かされたという指示を受領し、該新たな位置はオーディオ・オブジェクト505の位置とともに表示されてもよい(ブロック1067)。図10Dを参照するに、たとえば、カーソル510は仮想再生環境404の左側から右側に動いている。しかしながら、オーディオ・オブジェクト510はいまだ図10Cで示される同じ位置に保持されている。結果として、仮想ひも905は実質的に伸長されている。
【0095】
ブロック1069では、論理システムは、オーディオ・オブジェクト505が解放されるべきであるという指示を(たとえばユーザー入力装置またはGUIを介して)受領する。論理システムは、結果として得られるオーディオ・オブジェクト位置および/または軌跡データを計算してもよく、それは表示されてもよい(ブロック1075)。結果として得られる表示は図10Eに示されるものと同様であってもよく、それは仮想再生環境404を横断してなめらかかつ高速に動くオーディオ・オブジェクト505を示す。論理システムは、オーディオ・オブジェクト位置および/または軌跡メタデータをメモリ・システムに保存してもよい(ブロック1080)。
【0096】
ブロック1085では、オーサリング・プロセス1050が続くかどうかが決定される。論理システムが、ユーザーがそう望んでいるという指示を受領する場合には、プロセスは続く。たとえば、プロセス1050は、ブロック1055またはブロック1060に戻ることによって続いてもよい。そうでない場合には、オーサリング・ツールはオーディオ・データおよびメタデータをレンダリング・ツールに送ってもよく(ブロック1090)、その後、プロセス1050は終了してもよい(1095)。
【0097】
オーディオ・オブジェクトの知覚される動きの本物らしさを最適化するために、オーサリング・ツール(またはレンダリング・ツール)のユーザーに、再生環境中のスピーカーの部分集合を選択させ、アクティブなスピーカーの集合を選ばれた部分集合に限定させることが望ましいことがある。いくつかの実装では、スピーカー・ゾーンおよび/またはスピーカー・ゾーンの群が、オーサリングまたはレンダリング処理の間、アクティブまたは非アクティブと指定されてもよい。たとえば、図4Aを参照するに、前領域405、左領域410、右領域415および/または上領域420のスピーカー・ゾーンは、群として制御されてもよい。スピーカー・ゾーン6および7(および他の実装ではスピーカー・ゾーン6と7の間に位置される一つまたは複数の他のスピーカー・ゾーン)を含む背後領域のスピーカー・ゾーンも群として制御されてもよい。特定のスピーカー・ゾーンに、あるいは複数のスピーカー・ゾーンを含む領域に対応するスピーカー全部を動的に有効化または無効化するためのユーザー・インターフェースが提供されてもよい。
【0098】
いくつかの実装では、オーサリング装置(またはレンダリング装置)の論理システムは、ユーザー入力システムを介して受領されるユーザー入力に従ってスピーカー・ゾーン制約メタデータを生成するよう構成されていてもよい。スピーカー・ゾーン制約メタデータは、選択されたスピーカー・ゾーンを無効にするためのデータを含んでいてもよい。そのようないくつかの実装について、これから図11および図12を参照して述べる。
【0099】
図11は、仮想再生環境においてスピーカー・ゾーン制約を適用する例を示している。いくつかのそのような実装において、ユーザーは、マウスのようなユーザー入力装置を使ってGUI 400のようなGUIにおける表現をクリックすることによって、スピーカー・ゾーンを選択することができてもよい。ここではユーザーは仮想再生環境404の側方にあるスピーカー・ゾーン4および5を無効にしている。スピーカー・ゾーン4および5は、映画館サウンド・システム環境のような物理的な再生環境におけるスピーカーの大半(または全部)に対応してもよい。この例において、ユーザーはまた、オーディオ・オブジェクト505の位置を、線1105に沿った位置に制約している。側壁に沿ったスピーカーの大半または全部が無効にされていると、スクリーン150から仮想再生環境404の背後へのパンは、側方スピーカーを使わないよう制約される。これは、幅広い聴衆領域にとって、特にスピーカー・ゾーン4および5に対応する再生スピーカーの近くに座っている観衆にとって、前から後への改善された知覚される動きを生成しうる。
【0100】
いくつかの実装では、スピーカー・ゾーン制約はすべての再レンダリング・モードを通じて実行されてもよい。たとえば、スピーカー・ゾーン制約は、より少数のゾーンがレンダリングのために利用可能であるときの、たとえば7または5個のゾーンしか呈さないドルビー・サラウンド7.1または5.1配位についてレンダリングするときの状況において実行されてもよい。スピーカー・ゾーン制約は、より多数のゾーンがレンダリングのために利用可能であるときに実行されてもよい。よって、スピーカー・ゾーン制約は、再レンダリングをガイドして、伝統的な「上方混合/下方混合〔アップミキシング/ダウンミキシング〕」プロセスへの盲目的でない解決策を提供する方法と見ることもできる。
【0101】
図12は、スピーカー・ゾーン制約規則を適用するいくつかの例を概説する流れ図である。プロセス1200は、スピーカー・ゾーン制約規則を適用するために一つまたは複数の指示が受領されるブロック1205をもって始まる。指示は、オーサリングまたはレンダリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領された入力に対応してもよい。たとえば、指示は、非アクティブにすべき一つまたは複数のスピーカー・ゾーンのユーザーによる選択に対応してもよい。いくつかの実装では、ブロック1205は、たとえば後述するように、どの型のスピーカー・ゾーン制約規則が適用されるべきかの指示を受領することに関わっていてもよい。
【0102】
ブロック1207では、オーディオ・データがオーサリング・ツールによって受領される。オーディオ・オブジェクト位置が、たとえばオーサリング・ツールのユーザーからの入力に従って、受領され(ブロック1210)、表示されてもよい(ブロック1215)。位置データはこの例では(x,y,z)座標である。ここでは、選択されたスピーカー・ゾーン制約規則についてのアクティブおよび非アクティブなスピーカー・ゾーンもブロック1215において表示される。ブロック1220では、オーディオ・データおよび関連するメタデータが保存される。この例において、メタデータはオーディオ・オブジェクト位置と、スピーカー・ゾーン同定フラグを含んでいてもよいスピーカー・ゾーン制約メタデータとを含む。
【0103】
いくつかの実装では、スピーカー・ゾーン制約メタデータは、レンダリング・ツールが、たとえば選択された(無効にされた)スピーカー・ゾーンのすべてのスピーカーを「オフ」、他のすべてのスピーカー・ゾーンを「オン」であると見なすことによって、二値的に利得を計算するようパンの式(panning equations)を適用すべきであることを指示してもよい。論理システムは、選択されたスピーカー・ゾーンを無効にするためのデータを含むスピーカー・ゾーン制約メタデータを生成するよう構成されていてもよい。
【0104】
代替的な実装では、スピーカー・ゾーン制約メタデータは、レンダリング・ツールが、無効にされた諸スピーカー・ゾーンの諸スピーカーからの一定度合いの寄与を含むブレンドされた仕方で利得を計算するようパンの式を適用することを指示してもよい。たとえば、論理システムは、レンダリング・ツールが以下の処理を実行することによって選択されたスピーカー・ゾーンを減衰させるべきであることを指示するスピーカー・ゾーン制約メタデータを生成するよう構成されていてもよい:選択された(無効にされた)スピーカー・ゾーンからの寄与を含む第一の利得を計算し;選択されたスピーカー・ゾーンからの寄与を含まない第二の利得を計算し;第一の利得を第二の利得とブレンドする。いくつかの実装では、選択されたスピーカー・ゾーンからのある範囲の潜在的な寄与を許容するために、(選択された最小値から選択された最大値までの)第一の利得および/または第二の利得にバイアスが適用されてもよい。
【0105】
この例では、ブロック1225において、オーサリング・ツールはオーディオ・データおよびメタデータをレンダリング・ツールに送る。次いで、論理システムはオーサリング・プロセスが続くかどうかを決定してもよい(ブロック1227)。論理システムが、ユーザーがそうすることを望むという指示を受領する場合に、オーサリング・プロセスは続いてもよい。そうでない場合には、オーサリング・プロセスは終了してもよい(ブロック1229)。いくつかの実装では、レンダリング処理はユーザー入力に従って続けられてもよい。
【0106】
オーサリング・ツールによって生成されたオーディオ・データおよびメタデータを含むオーディオ・オブジェクトは、ブロック1230において、レンダリング・ツールによって受領される。この例では、特定のオーディオ・オブジェクトについての位置データがブロック1235において受領される。レンダリング・ツールの論理システムは、スピーカー・ゾーン制約規則に従って、オーディオ・オブジェクト位置データについての利得を計算するためにパンの式を適用してもよい。
【0107】
ブロック1245では、計算された利得がオーディオ・データに適用される。論理システムは、利得、オーディオ・オブジェクト位置およびスピーカー・ゾーン制約メタデータをメモリ・システムに保存してもよい。いくつかの実装では、オーディオ・データはスピーカー・システムによって再生されてもよい。対応するスピーカー応答は、いくつかの実装ではディスプレイ上に示されてもよい。
【0108】
ブロック1248では、プロセス1200が続くかどうかが決定される。論理システムが、ユーザーがそうすることを望むという指示を受領する場合に、プロセスは続いてもよい。たとえば、レンダリング・プロセスは、ブロック1230またはブロック1235に戻ることによって続いてもよい。ユーザーが対応するオーサリング・プロセスに戻ることを望んでいるという指示が受領される場合には、プロセスはブロック1207またはブロック1210に戻ってもよい。それ以外の場合には、プロセス1200は終了してもよい(ブロック1250)。
【0109】
三次元仮想再生環境においてオーディオ・オブジェクトを位置付けおよびレンダリングするタスクはますます難しくなる。難しさの一部は、GUIにおいて仮想再生環境を表現することにおける困難に関係する。本稿で提供されるいくつかのオーサリングおよびレンダリング実装はユーザーが二次元スクリーン空間のパンと三次元部屋空間のパンとの間で切り換えることを許容する。そのような機能は、ユーザーにとって便利であるGUIを提供しつつ、オーディオ・オブジェクトの位置付けの正確さを保存する助けとなりうる。
【0110】
図13Aおよび13Bは、仮想再生環境の二次元ビューと三次元ビューの間で切り換えることのできるGUIの例を示している。図13Aを参照するに、GUI 400はスクリーン上の画像1305を描いている。この例では、画像1305は剣歯虎の画像である。仮想再生環境404のこの上面図では、ユーザーはオーディオ・オブジェクト505がスピーカー・ゾーン1の近くであることを容易に観察できる。高さはたとえば、オーディオ・オブジェクト505のサイズ、色または他の何らかの属性によって推定されうる。しかしながら、この位置の、画像1305の位置に対する関係は、このビューでは判別するのが難しいことがありうる。
【0111】
この例では、GUI 400は、軸1310のような軸のまわりに動的に回転されるように見えることができる。図13Bは、回転プロセス後のGUI 1300を示している。このビューでは、ユーザーは画像1305をより明瞭に見ることができ、画像1305からの情報を使ってオーディオ・オブジェクト505をより正確に位置付けすることができる。この例において、オーディオ・オブジェクトは剣歯虎が見ている先の音に対応する。仮想再生環境404の上面図とスクリーン・ビューとの間で切り換えることができることは、ユーザーが、スクリーン上の材料からの情報を使って、オーディオ・オブジェクト505についての適正な高さを迅速かつ正確に選択することを許容する。
【0112】
オーサリングおよび/またはレンダリングのためのさまざまな他の便利なGUIが本稿で提供される。図13C~13Eは、再生環境の二次元および三次元描画の組み合わせを示している。まず図13Cを参照するに、仮想再生環境404の上面図がGUI 1310の左領域に描かれている。GUI 1310はまた、仮想(または実際の)再生環境の三次元描画1345をも含んでいる。三次元描画1345の領域1350はGUI 400のスクリーン150に一致する。オーディオ・オブジェクト505の位置、特にその高さは、三次元描画1345において明瞭に見て取ることができる。この例では、オーディオ・オブジェクト505の幅(width)も三次元描画1345において示されている。
【0113】
スピーカー・レイアウト1320はスピーカー位置1324ないし1340を描いている。各位置は、仮想再生環境404におけるオーディオ・オブジェクト505の位置に対応する利得を示すことができる。いくつかの実装では、スピーカー・レイアウト1320はたとえば、ドルビー・サラウンド5.1配位、ドルビー・サラウンド7.1配位、ドルビー7.1配位に頭上スピーカーを増強したものなどといった実際の再生環境の諸再生スピーカー位置を表していてもよい。論理システムが、仮想再生環境404におけるオーディオ・オブジェクト505の位置の指示を受領するとき、論理システムは、この位置を、スピーカー・レイアウト1320のスピーカー位置1324ないし1340についての利得にマッピングするよう構成されていてもよい。これはたとえば上記の振幅パン・プロセスによる。たとえば、図13Cにおいて、スピーカー位置1325、1335および1337はそれぞれ、オーディオ・オブジェクト505の位置に対応する利得を指示する色の変化をもつ。
【0114】
ここで図13Dを参照するに、オーディオ・オブジェクトはスクリーン150の背後の位置に動かされている。たとえば、ユーザーは、カーソルをGUI 400内のオーディオ・オブジェクト505に置き、該オブジェクトを新たな位置にドラッグすることによって、オーディオ・オブジェクト505を動かしたのでもよい。この新たな位置も、新たな配向に回転された三次元描画1345において示されている。スピーカー・レイアウト1320の応答は、図13Cおよび13Dにおいて実質的に同じに見えてもよい。しかしながら、実際のGUIでは、スピーカー位置1325、1335および1337は、オーディオ・オブジェクト505の新たな位置によって引き起こされる対応する利得の差を指示するために(異なる明るさまたは色など)異なる見え方を有していてもよい。
【0115】
ここで図13Eを参照するに、オーディオ・オブジェクト505は仮想再生環境404の右後方部分における位置に急速に動いていてもよい。図13Eに描かれる瞬間には、スピーカー位置1326がオーディオ・オブジェクト505の現在位置に応答しており、スピーカー位置1325および1337はいまだオーディオ・オブジェクト505の以前の位置に応答している。
【0116】
図14Aは、図13C~13Eに示されるもののようなGUIを呈示するための装置を制御するプロセスを概説する流れ図である。プロセス1400は、オーディオ・オブジェクト位置、スピーカー・ゾーン位置および再生環境についての再生スピーカー位置を表示するための一つまたは複数の指示が受領されるブロック1405において始まる。スピーカー・ゾーン位置は、たとえば図13C~13Eに示されるような、仮想再生環境および/または実際の再生環境に対応してもよい。指示はレンダリングおよび/またはオーサリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領される入力に対応してもよい。たとえば、該指示は、再生環境構成のユーザーによる選択に対応してもよい。
【0117】
ブロック1407では、オーディオ・データが受領される。オーディオ・オブジェクト位置データおよび幅がブロック1410において、たとえばユーザー入力に従って受領される。ブロック1415では、オーディオ・オブジェクト、スピーカー・ゾーン位置および再生スピーカー位置が表示される。オーディオ・オブジェクト位置は、たとえば図13C~13Eに示されるような二次元および/または三次元ビューにおいて表示されてもよい。幅データは、オーディオ・オブジェクト・レンダリングに使われうるのみならず、オーディオ・オブジェクトがどのように表示されるかにも影響してもよい(図13C~13Eの三次元描画1345におけるオーディオ・オブジェクト505の描画を参照)。
【0118】
オーディオ・データおよび関連するメタデータが記録されてもよい(ブロック1420)。ブロック1425では、オーサリング・ツールはオーディオ・データおよびメタデータをレンダリング・ツールに送る。次いで、論理システムは、オーサリング・プロセスが続くかどうかを決定してもよい(ブロック1427)。論理システムが、ユーザーがそうすることを望んでいるという指示を受領する場合に、オーサリング・プロセスは(たとえばブロック1405に戻ることによって)続いてもよい。そうでない場合には、オーサリング・プロセスは終了してもよい(ブロック1429)。
【0119】
オーサリング・ツールによって生成されたオーディオ・データおよびメタデータを含むオーディオ・オブジェクトは、ブロック1430においてレンダリング・ツールによって受領される。この例では、特定のオーディオ・オブジェクトについての位置データがブロック1435において受領される。レンダリング・ツールの論理システムは、幅メタデータに従って、オーディオ・オブジェクト位置データについての諸利得を計算するためにパンの式を適用してもよい。
【0120】
いくつかのレンダリング実装では、論理システムは、スピーカー・ゾーンを再生環境の再生スピーカーにマッピングしてもよい。たとえば、論理システムは、スピーカー・ゾーンおよび対応する再生スピーカー位置を含むデータ構造にアクセスしてもよい。さらなる詳細および例は図14Bを参照して後述する。
【0121】
いくつかの実装では、オーディオ・オブジェクトの位置、幅および/または再生環境のスピーカー位置のような他の情報に従って、たとえば論理システムによって、パンの式が適用されてもよい(ブロック1440)。ブロック1445では、オーディオ・データは、ブロック1440において得られた利得に従って処理される。結果として得られるオーディオ・データの少なくとも一部は、もし望まれるなら、オーサリング・ツールから受領される対応するオーディオ・オブジェクト位置データおよび他のメタデータとともに記憶されてもよい。オーディオ・データはスピーカーによって再生されてもよい。
【0122】
次いで論理システムは、プロセス1400が続くかどうかを決定してもよい(ブロック1448)。たとえば論理システムがユーザーがそうすることを望んでいるという指示を受領する場合、プロセス1400は続いてもよい。そうでない場合には、プロセス1400は終了してもよい(ブロック1449)。
【0123】
図14Bは、ある再生環境についてオーディオ・オブジェクトをレンダリングするプロセスを概説する流れ図である。プロセス1450は、ある再生環境についてオーディオ・オブジェクトをレンダリングするための一つまたは複数の指示が受領されるブロック1455において始まる。指示はレンダリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領される入力に対応してもよい。たとえば、該指示は、再生環境構成の、ユーザーによる選択に対応してもよい。
【0124】
ブロック1457では、(一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含む)オーディオ再生データが受領される。ブロック1460において再生環境データが受領されてもよい。再生環境データは、再生環境における再生スピーカーの数の指標および再生環境内の各再生スピーカーの位置の指標を含んでいてもよい。再生環境は映画館サウンド・システム環境、家庭シアター環境などであってもよい。いくつかの実装では、再生環境データは、再生スピーカー・ゾーンおよび該スピーカー・ゾーンに対応する再生スピーカー位置を示す再生スピーカー・ゾーン・レイアウト・データを含んでいてもよい。
【0125】
再生環境はブロック1465において表示されてもよい。いくつかの実装では、再生環境は、図13C~13Eに示されたスピーカー・レイアウト1320と同様の仕方で表示されてもよい。
【0126】
ブロック1470では、オーディオ・オブジェクトは、前記再生環境のための一つまたは複数のスピーカー・フィード信号にレンダリングされてもよい。いくつかの実装では、オーディオ・オブジェクトに関連するメタデータは、上記のような仕方でオーサリングされたものであってもよく、メタデータはスピーカー・ゾーンに対応する(たとえばGUI 400のスピーカー・ゾーン1~9に対応する)利得データを含んでいてもよい。論理システムは、スピーカー・ゾーンを再生環境の再生スピーカーにマッピングしてもよい。たとえば、論理システムは、メモリに記憶された、スピーカー・ゾーンおよび対応する再生スピーカー位置を含むデータ構造にアクセスしてもよい。レンダリング装置は、それぞれが異なるスピーカー配位に対応する、多様なそのようなデータ構造を有していてもよい。いくつかの実装では、レンダリング装置は、ドルビー・サラウンド5.1配位、ドルビー・サラウンド7.1配位および/または浜崎22.2サラウンド・サウンド配位のような多様な標準的な再生環境配位についてそのようなデータ構造を有していてもよい。
【0127】
いくつかの実装では、オーディオ・オブジェクトについてのメタデータは、オーサリング・プロセスからの他の情報を含んでいてもよい。たとえば、メタデータはスピーカー制約条件データを含んでいてもよい。メタデータは、オーディオ・オブジェクト位置を単一の再生スピーカー位置または単一の再生スピーカー・ゾーンにマッピングするための情報を含んでいてもよい。メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するデータを含んでいてもよい。メタデータはオーディオ・オブジェクトについての軌跡データを含んでいてもよい。メタデータはコンテンツ型(たとえば、対話、音楽または効果)についての識別子を含んでいてもよい。
【0128】
よって、レンダリング・プロセスは、たとえばスピーカー・ゾーン制約を課すために、メタデータの使用に関わってもよい。いくつかのそのような実装では、レンダリング装置は、ユーザーに、メタデータによって指示される制約を修正する、たとえばスピーカー制約条件を修正し、しかるべく再レンダリングするオプションを提供してもよい。レンダリングは、所望されるオーディオ・オブジェクト位置、所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型の一つまたは複数に基づいて総合利得を生成することに関わってもよい。再生スピーカーの対応する応答が表示されてもよい(ブロック1475)。いくつかの実装では、論理システムは、レンダリング・プロセスの結果に対応する音を再生するよう、スピーカーを制御してもよい。
【0129】
ブロック1480では、論理システムは、プロセス1450が続くかどうかを決定してもよい。たとえば、論理システムが、ユーザーがそうすることを望むという指示を受領する場合に、プロセス1450は続いてもよい。たとえば、プロセス1450は、ブロック1457またはブロック1460に戻ることによって続いてもよい。そうでない場合には、プロセス1450は終了してもよい(ブロック1485)。
【0130】
拡散および見かけの源幅の制御は、いくつかの既存のサラウンド・サウンド・オーサリング/レンダリング・システムの特徴である。本開示では、用語「拡散(spread)」は、音像をぼかすために同じ信号を複数のスピーカーにわたって分散させることをいう。用語「幅(width)」は、見かけの幅制御のために出力信号を各チャネルに脱相関させることをいう。幅は、各スピーカー・フィード信号に加えられる脱相関の量を制御する追加的なスカラー値であってもよい。
【0131】
本稿に記載されるいくつかの実装は、3D軸方向の拡散制御(3D axis oriented spread control)を提供する。一つのそのような実装についてここで図15のAおよびBを参照して述べる。図15のAは、仮想再生環境におけるオーディオ・オブジェクトおよび関連付けられたオーディオ・オブジェクト幅の例を示している。ここで、GUI 400は、オーディオ・オブジェクト505のまわりに広がっている楕円体1505を示しており、これがオーディオ・オブジェクト幅を示す。オーディオ・オブジェクト幅は、オーディオ・オブジェクト・メタデータによって指示されてもよく、および/またはユーザー入力に従って受領されてもよい。この例では、楕円体1505のxおよびy寸法は異なっているが、他の実装ではこれらの寸法は同じであってもよい。楕円体1505のz寸法は図15のAには示していない。
【0132】
図15のBは、図15のAに示されるオーディオ・オブジェクト幅に対応する拡散プロファイルの例を示している。拡散は、三次元ベクトル・パラメータとして表現されてもよい。この例では、拡散プロファイル1507は、たとえばユーザー入力に従って、三つの次元方向に沿って独立して制御されることができる。xおよびy軸に沿っての利得は図15のBにおいて曲線1510および1520のそれぞれの高さによって示されている。各サンプル1512についての利得は、拡散プロファイル1507内での対応する円1515のサイズによっても示される。スピーカー1510の応答は、図15のBの灰色の網掛けによって示されている。
【0133】
いくつかの実装では、拡散プロファイル1507は各軸についての分離可能な積分によって実装されてもよい。いくつかの実装によれば、パンするときの音色の食い違いを避けるために、スピーカー配置の関数として最小拡散値が自動的に設定されてもよい。代替的または追加的に、映画における高速で動いている画像がぼやけて見えるのと同様に、オーディオ・オブジェクト速度が増すにつれてオブジェクトがますます空間的に広がるよう、パンされるオーディオ・オブジェクトの速度の関数として最小拡散値が自動的に設定されてもよい。
【0134】
本稿に記載されるようなオーディオ・オブジェクトに基づくオーディオ・レンダリング実装を使うとき、潜在的に多数のオーディオ・トラックおよび付随するメタデータ(三次元空間内でのオーディオ・オブジェクト位置を指示するメタデータを含むがそれに限られない)が、混合されずに再生環境に送達されてもよい。リアルタイム・レンダリング・ツールは、再生環境に関するそのようなメタデータおよび情報を使って、各オーディオ・オブジェクトの再生を最適化するためのスピーカー・フィード信号を計算してもよい。
【0135】
多数のオーディオ・オブジェクトが混合されてスピーカー出力にされる場合、デジタル領域(たとえばデジタル信号がアナログ変換の前にクリッピングされることがある)またはアナログ領域において、増幅されたアナログ信号が再生スピーカーによって再生されるときに、過負荷が起こることがある。いずれの場合も、可聴な歪みにつながるが、それは望ましくない。アナログ領域における過負荷は、再生スピーカーを損傷することもありうる。
【0136】
よって、本稿に記載されるいくつかの実装は、再生スピーカー過負荷に応答した、動的オブジェクトの「ブロッビング(blobbing)」に関わる。オーディオ・オブジェクトが所与の拡散プロファイルをもってレンダリングされるとき、いくつかの実装では、全体的な一定のエネルギーを維持しながら、増大した数の近隣の再生スピーカーにエネルギーが向けられてもよい。たとえば、オーディオ・オブジェクトについてのエネルギーがN個の再生スピーカーにわたって一様に拡散されたとすると、各再生スピーカー出力に1/√Nの利得をもって寄与しうる。このアプローチは、追加的な混合「余地(headroom)」を与え、クリッピングのような再生スピーカー歪みを軽減または防止することができる。
【0137】
数値的な例を使うと、スピーカーが、1.0より大きな入力を受け取る場合にクリッピングを起こすとする。二つのオブジェクトがスピーカーAに混合されることが指示されており、一方がレベル1.0で、他方がレベル0.25であるとする。ブロッビングが使用されなかったとすると、スピーカーAにおける混合レベルは合計1.25になり、クリッピングが生じる。しかしながら、第一のオブジェクトが別のスピーカーBを用いてブロッビングされれば、(いくつかの実装によれば)各スピーカーは当該オブジェクトを0.707において受領することになる。結果として、追加的なオブジェクトを混合するためのスピーカーAにおける追加的な「余地」を与える。すると、第二のオブジェクトは、クリッピングすることなくスピーカーAに安全に混合されることができる。スピーカーAについての混合レベルは0.707+0.25=0.957となるからである。
【0138】
いくつかの実装では、オーサリング段階の間、各オーディオ・オブジェクトは、スピーカー・ゾーンの部分集合に(または全スピーカー・ゾーンに)所与の混合利得をもって混合されてもよい。したがって、各スピーカーに寄与するすべてのオブジェクトの動的なリストが構築されることができる。いくつかの実装では、このリストは、たとえば信号のもとの二乗平均平方根(RMS: root mean square)レベルに混合利得を乗算した積を使って、エネルギー・レベルの降順にソートされてもよい。他の実装では、リストは、オーディオ・オブジェクトに割り当てられた相対的重要さなどの他の基準に従ってソートされてもよい。
【0139】
レンダリング・プロセスの間は、所与の再生スピーカー出力について過負荷が検出されたら、オーディオ・オブジェクトのエネルギーはいくつかの再生スピーカーにまたがって拡散されてもよい。たとえば、オーディオ・オブジェクトのエネルギーは、過負荷の量および所与の再生スピーカーへの各オーディオ・オブジェクトの相対寄与に比例する幅もしくは拡散因子を使って拡散されてもよい。同じオーディオ・オブジェクトがいくつかの過負荷の再生スピーカーに寄与している場合には、その幅または拡散因子はいくつかの実装では、加法的に増大させられて、オーディオ・データの次のレンダリングされるフレームに適用される。
【0140】
一般に、硬リミッタは、閾値を越えるいかなる値も、その閾値にクリッピングする。上記の例のように、スピーカーがレベル1.25の混合オブジェクトを受領し、最大レベル1.0しか許容できない場合、オブジェクトは1.0に「硬リミッティング」される。軟リミッタは、よりなめらかな、聴覚的により快適な結果を与えるために、絶対的な閾値に到達する前にリミッティングを適用しはじめる。軟リミッタは、クリッピングが起こるときより前になめらかに利得を低下させ、それによりクリッピングを避けるために、「先読み(look ahead)」を使って将来のクリッピングが起こりうるときを予測してもよい。
【0141】
空間的な正確さ/鮮鋭さの劣化を避けながら可聴な歪みを制限するよう、硬リミッタまたは軟リミッタと関連して、本稿で提供されるさまざまな「ブロッビング」実装が使用されてもよい。グローバルな拡散やリミッタのみの使用とは異なり、ブロッビング実装は音の大きなオブジェクトまたは所与のコンテンツ型のオブジェクトを選択的にターゲットとすることができる。そのような実装はミキサーによって制御されてもよい。たとえば、オーディオ・オブジェクトについてのスピーカー・ゾーン制約メタデータが、再生スピーカーのある部分集合が使用されるべきでないことを指示する場合、レンダリング装置は、ブロッビング方法を実装することに加えて、対応するスピーカー・ゾーン制約規則を適用してもよい。
【0142】
図16は、オーディオ・オブジェクトをブロッビングするプロセスを概説する流れ図である。プロセス1600は、オーディオ・オブジェクト・ブロッビング機能をアクティブ化するという一つまたは複数の指示が受領されるブロック1605で始まる。該指示は、レンダリング装置の論理システムによって受領されてもよく、ユーザー入力装置から受領される入力に対応していてもよい。いくつかの実装では、指示は、再生環境構成の、ユーザーによる選択を含んでいてもよい。代替的な実装では、ユーザーは、再生環境構成を以前に選択していてもよい。
【0143】
ブロック1607では、オーディオ再生データ(一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含む)が受領される。いくつかの実装では、メタデータは、たとえば上記のような、スピーカー・ゾーン制約メタデータを含んでいてもよい。この例では、ブロック1610において、オーディオ・オブジェクト位置、時間および拡散データがオーディオ再生データからパースされる(parsed)(または他の仕方で、たとえばユーザー・インターフェースからの入力を介して受領される)。
【0144】
再生スピーカー応答は、たとえば上記のように、オーディオ・オブジェクト・データについてパンの式を適用することによって当該再生環境構成について決定される(ブロック1612)。ブロック1615では、オーディオ・オブジェクト位置および再生スピーカー応答が表示される(ブロック1615)。再生スピーカー応答は、論理システムとの通信のために構成されているスピーカーを介して再生されてもよい。
【0145】
ブロック1620では、論理システムは、再生環境のいずれかの再生スピーカーについて過負荷が検出されるかどうかを判定する。もしそうであれば、上記のようなオーディオ・オブジェクト・ブロッビング規則が、過負荷が検出されなくなるまで、適用される(ブロック1625)。ブロック1630において、望むなら、オーディオ・データ出力は保存されてもよく、再生スピーカーに出力されてもよい。
【0146】
ブロック1635では、論理システムは、プロセス1600が続くかどうかを決定してもよい。たとえば、論理システムが、ユーザーがそうすることを望んでいるという指示を受け取る場合に、プロセス1600は続いてもよい。たとえば、プロセス1600は、ブロック1607またはブロック1610に戻ることによって続いてもよい。そうでない場合には、プロセス1600は終了してもよい(ブロック1640)。
【0147】
いくつかの実装は、三次元空間においてオーディオ・オブジェクト位置をイメージングするために使われることができる、拡張されたパン利得の式(panning gain equations)を提供する。いくつかの例についてここで図17のAおよびBを参照して述べる。図17のAおよびBは、三次元仮想環境内に位置されているオーディオ・オブジェクトの例を示している。まず図17のAを参照するに、オーディオ・オブジェクト505の位置が、仮想再生環境404内に見られる。この例では、スピーカー・ゾーン1~7は、一平面内に位置しており、スピーカー・ゾーン8および9は図17のBに示されるように別の平面内に位置している。しかしながら、スピーカー・ゾーン、平面などの数は単に例として示されているのであって、本稿に記載される概念はスピーカー・ゾーン(または個々のスピーカー)の異なる数および二つより多くの高さ平面(elevation planes)にも拡張されうる。
【0148】
この例では、0から1までの範囲でありうる高さパラメータ「z」がオーディオ・オブジェクトの位置を諸高さ平面にマッピングする。この例では、値z=0がスピーカー・ゾーン1~7を含む基礎平面に対応し、値z=1がスピーカー・ゾーン8および9を含む頭上平面に対応する。0と1の間のeの値は、基礎平面内のスピーカーのみを使って生成される音像と頭上平面内のスピーカーのみを使って生成される音像との間のブレンドに対応する。
【0149】
図17のBに示される例では、オーディオ・オブジェクト505についての高さパラメータは値0.6をもつ。よって、ある実装では、第一の音像は、基礎平面内のオーディオ・オブジェクト505の(x,y)座標に従って、基礎平面についてのパンの式を使って生成されてもよい。第二の音像は、頭上平面内のオーディオ・オブジェクト505の(x,y)座標に従って、頭上平面についてのパンの式を使って生成されてもよい。結果的な音像は、オーディオ・オブジェクト505の各平面への近さに応じて第一の音像を第二の音像と組み合わせることによって生成されてもよい。高さzの、エネルギーまたは振幅保存の関数が適用されてもよい。たとえば、zが0から1までの範囲で変わりうるとして、第一の音像の利得値はcos(z*π/2)を乗算されてもよく、第二の音像の利得値はsin(z*π/2)を乗算されてもよい。それにより、両者の平方の和は1となる(エネルギー保存)。
【0150】
本稿に記載される他の実装は、二つ以上のパン技法に基づく利得を計算し、一つまたは複数のパラメータに基づいて総合利得を生成することに関わっていてもよい。パラメータは次の一つまたは複数を含んでいてもよい:所望されるオーディオ・オブジェクト位置、所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速さもしくは速度またはオーディオ・オブジェクト・コンテンツ型。
【0151】
いくつかのそのような実装についてここで図18以下を参照して述べる。図18は、種々のパン・モードに対応するゾーンの例を示している。これらのゾーンのサイズ、形および広がりは単に例として挙げられている。この例では、ゾーン1805内に位置するオーディオ・オブジェクトについては近距離場パン方法(near-field panning methods)が適用され、ゾーン1810外のゾーン1815内に位置するオーディオ・オブジェクトについては遠距離場パン方法(far-field panning methods)が適用される。
【0152】
図19のA~Dは、種々の位置におけるオーディオ・オブジェクトへの近距離場および遠距離場パン方法の適用の例を示している。まず図19のAを参照するに、オーディオ・オブジェクトは実質的に仮想再生環境1900の外である。この位置は、図18のゾーン1815に対応する。したがって、一つまたは複数の遠距離場パン方法がこの例では適用される。いくつかの実装では、遠距離場パン方法は、当業者に既知のベクトル・ベースの振幅パン(VBAP: vector-based amplitude panning)の式に基づいていてもよい。たとえば、遠距離場パン方法は、ここに参照によって組み込まれる非特許文献1のp.4、Section 2.3に記載されるVBAPの式に基づいていてもよい。代替的な実装では、遠距離場および近距離場のオーディオ・オブジェクトをパンするために他の方法、たとえば対応する音響平面または球面波の合成に関わる方法が使用されてもよい。ここに参照によって組み込まれる非特許文献2が関連する方法を記述している。
【0153】
ここで図19のBを参照するに、オーディオ・オブジェクトは仮想再生環境1900の内部である。この位置は、図18のゾーン1805に対応する。したがって、一つまたは複数の近距離場パン方法がこの例では適用される。いくつかのそのような近距離場パン方法は、仮想再生環境1900内のオーディオ・オブジェクト505を囲むいくつかのスピーカー・ゾーンを使う。
【0154】
いくつかの実装では、近距離場パン方法は、「デュアル・バランス」パンおよび二組の利得の組み合わせに関わってもよい。図19のBに描かれる例では、第一の組の利得は、y軸に沿ったオーディオ・オブジェクト505の諸位置を囲む二組のスピーカー・ゾーンの間の前後バランスに対応する。対応する応答は、仮想再生環境1900の、スピーカー・ゾーン1915および1960以外のすべてのスピーカー・ゾーンに関わる。
【0155】
図19のCに描かれる例では、第二の組の利得は、x軸に沿ったオーディオ・オブジェクト505の諸位置を囲む二組のスピーカー・ゾーンの間の左右バランスに対応する。対応する応答はスピーカー・ゾーン1905ないし1925に関わる。図19のDは、図19のBおよびCに示される応答を組み合わせた結果を示している。
【0156】
オーディオ・オブジェクトが仮想再生環境1900にはいるまたは仮想再生環境1900を出る際に異なるパン・モードの間でブレンドすることが望ましいことがある。よって、近距離場パン方法および遠距離場パン方法に従って計算された利得のブレンドが、ゾーン1810内に位置されるオーディオ・オブジェクトに適用される(図18参照)。いくつかの実装では、ペアごとのパン則(pair-wise panning law)(たとえばエネルギーを保存する正弦または冪乗則)が、近距離場パン方法および遠距離場パン方法に従って計算された利得の間でブレンドするために使われてもよい。代替的な実装では、ペアごとのパン則は、エネルギーを保存するのではなく、振幅を保存してもよい。よって、平方和が1に等しくなるのではなく、和が1に等しくなる。たとえば両方のパン方法を独立に使ってオーディオ信号を処理し、二つの結果として得られるオーディオ信号をクロスフェードするよう、結果的な処理された信号をブレンドすることも可能である。
【0157】
コンテンツ・クリエーターおよび/またはコンテンツ再生者が簡単に、所与のオーサリングされた軌跡について種々の再レンダリングを微調整できるようにする機構を提供することが望ましいことがありうる。映画のためのミキシングのコンテキストでは、スクリーンから部屋への(screen-to-room)エネルギー・バランスの概念が重要であると考えられる。いくつかの事例では、所与のサウンド軌跡(あるいは「パン」)の自動的な再レンダリングが、再生環境における再生スピーカーの数に依存して異なるスクリーンから部屋へのバランス(screen-to-room balance)につながる。いくつかの実装によれば、スクリーンから部屋へのバイアスは、オーサリング・プロセスの間に生成されるメタデータに従って制御される。代替的な実装によれば、スクリーンから部屋へのバイアスは、メタデータに応答するのではなく、もっぱらレンダリング側で(すなわち、コンテンツ再生者の制御のもとで)制御されてもよい。
【0158】
よって、本稿に記載されるいくつかの実装は、スクリーンから部屋へのバイアス制御(screen-to-room bias control)の一つまたは複数の形を提供する。いくつかのそのような実装では、スクリーンから部屋へのバイアスは、スケーリング処理として実装されてもよい。たとえば、スケーリング処理は、前後方向に沿ったオーディオ・オブジェクトのもとの意図された軌跡および/またはパン利得を決定するためのレンダラーにおいて使用されるスピーカー位置のスケーリングに関わってもよい。いくつかのそのような実装では、スクリーンから部屋へのバイアス制御は、0から最大値(たとえば1)までの間の可変値であってもよい。変動は、たとえば、GUI、仮想的もしくは物理的なスライダー、ノブなどを用いて制御可能であってもよい。
【0159】
代替的または追加的に、スクリーンから部屋へのバイアス制御は、何らかの形のスピーカー領域制約を使って実装されてもよい。図20は、スクリーンから部屋へのバイアス制御プロセスにおいて使用されうる再生環境のスピーカー・ゾーンを示す。この例では、前方スピーカー領域2005および後方スピーカー領域2010(または2015)が確立されうる。スクリーンから部屋へのバイアスは、選択されたスピーカー領域の関数として調整されてもよい。いくつかのそのような実装では、スクリーンから部屋へのバイアスは、前方スピーカー領域2005と後方スピーカー領域2010(または2015)との間のスケーリング処理として実装されてもよい。代替的な実装では、スクリーンから部屋へのバイアスは、たとえばユーザーが前側バイアス、後側バイアスまたはバイアスなしを選択できるようにすることによって、二値的に実装されてもよい。それぞれの場合についてのバイアス設定は、前方スピーカー領域2005および後方スピーカー領域2010(または2015)についてのあらかじめ決定された(そして一般には0でない)バイアス・レベルに対応していてもよい。本質的には、そのような実装は、連続値のスケーリング処理ではなく(またはそれに加えて)、スクリーンから部屋へのバイアス制御のための三つの事前セット(pre-sets)を提供しうる。
【0160】
いくつかのそのような実装によれば、オーサリングGUI(たとえば400)において、側壁を前側壁および後側壁に分割することによって、二つの追加的な論理的スピーカー・ゾーンが生成されてもよい。いくつかの実装では、二つの追加的な論理的スピーカー・ゾーンは、レンダラーの左壁/左サラウンド・サウンドおよび右壁/右サラウンド・サウンド領域に対応する。これら二つの論理的なスピーカー・ゾーンのどちらがアクティブであるかのユーザー選択に依存して、レンダリング・ツールは、ドルビー5.1またはドルビー7.1配位にレンダリングするときに、(たとえば上記のような)事前セット・スケーリング因子(preset scaling factors)を適用することができる。レンダリング・ツールは、たとえば物理的なスピーカー配位が側壁上に一つしか物理的スピーカーを有さないなどのためにこれら二つの余剰の論理的ゾーンの定義をサポートしないような再生環境のためにレンダリングするときに、そのような事前セット・スケーリング因子を適用してもよい。
【0161】
図21は、オーサリングおよび/またはレンダリング装置のコンポーネントの例を与えるブロック図である。この例では、装置2100はインターフェース・システム2105を含む。インターフェース・システム2105は、無線ネットワーク・インターフェースのようなネットワーク・インターフェースを含んでいてもよい。代替的または追加的に、インターフェース・システム2105はユニバーサル・シリアル・バス(USB)インターフェースまたは他のそのようなインターフェースを含んでいてもよい。
【0162】
装置2100は論理システム2110を含む。論理システム2110は、汎用の単一チップまたは複数チップ・プロセッサのようなプロセッサを含んでいてもよい。論理システム2110は、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)または他のプログラム可能型論理デバイス、離散的なゲートもしくはトランジスタ論理または離散的なハードウェア・コンポーネントまたはそれらの組み合わせを含んでいてもよい。論理システム2110は、装置2100の他のコンポーネントを制御するよう構成されていてもよい。装置2100のコンポーネントの間のインターフェースは図21には示されていないが、論理システム2110は、他のコンポーネントとの通信のためのインターフェースをもつよう構成されていてもよい。他のコンポーネントは、適宜、互いとの通信のために構成されていてもいなくてもよい。
【0163】
論理システム2110は、本稿に記載されるオーディオ・オーサリングおよび/またはレンダリング機能を含むがこれに限られないオーディオ・オーサリングおよび/またはレンダリング機能を実行するよう構成されていてもよい。いくつかのそのような実装では、論理システム2110は、(少なくとも部分的には)一つまたは複数の非一時的媒体に記憶されたソフトウェアに従って動作するよう構成されていてもよい。非一時的媒体は、ランダム・アクセス・メモリ(RAM)および/または読み出し専用メモリ(ROM)のような、論理システム2110に付随するメモリを含んでいてもよい。非一時的媒体は、メモリ・システム2115のメモリを含んでいてもよい。メモリ・システム2115は、フラッシュメモリ、ハードドライブなどの、一つまたは複数の好適な型の非一時的な記憶媒体を含んでいてもよい。
【0164】
表示システム2130は、装置2100の具現に依存して、一つまたは複数の好適な型のディスプレイを含んでいてもよい。たとえば、表示システム2130は液晶ディスプレイ、プラズマ・ディスプレイ、双安定ディスプレイなどを含んでいてもよい。
【0165】
ユーザー入力システム2135は、ユーザーからの入力を受け入れるよう構成された一つまたは複数の装置を含んでいてもよい。いくつかの実装では、ユーザー入力システム2135は、表示システム2130のディスプレイにかぶさるタッチスクリーンを含んでいてもよい。ユーザー入力システム2135はマウス、トラックボール、ジェスチャー検出システム、ジョイスティック、一つまたは複数のGUIおよび/または表示システム2130上に呈示されるメニュー、ボタン、キーボード、スイッチなどを含んでいてもよい。いくつかの実装では、ユーザー入力システム2135は、マイクロホン2125を含んでいてもよい:ユーザーは、マイクロホン2125を介して装置2100についての音声コマンドを提供してもよい。論理システムは、音声認識のために、そしてそのような音声コマンドに従って装置2100の少なくともいくつかの動作を制御するために構成されていてもよい。
【0166】
電力システム2140は、ニッケル‐カドミウム電池またはリチウム・イオン電池のような一つまたは複数の好適なエネルギー蓄積装置を含んでいてもよい。電力システム2140は電気コンセントから電力を受領するよう構成されていてもよい。
【0167】
図22のAは、オーディオ・コンテンツ生成のために使用されてもよいいくつかの構成要素を表すブロック図である。システム2200はたとえば、ミキシング・スタジオおよび/またはダビング・ステージにおけるオーディオ・コンテンツ生成のために使われてもよい。この例では、システム2200は、オーディオおよびメタデータ・オーサリング・ツール2205およびレンダリング・ツール2210を含む。この実装では、オーディオおよびメタデータ・オーサリング・ツール2205およびレンダリング・ツール2210は、それぞれオーディオ接続インターフェース2207および2212を含み、該オーディオ接続インターフェースはAES/EBU、MADI、アナログなどを介した通信のために構成されていてもよい。オーディオおよびメタデータ・オーサリング・ツール2205およびレンダリング・ツール2210は、それぞれネットワーク・インターフェース2209および2217を含み、該ネットワーク・インターフェースはTCP/IPまたは他の任意の好適なプロトコルを介してメタデータを送受信するよう構成されていてもよい。インターフェース2220はオーディオ・データをスピーカーに出力するよう構成されている。
【0168】
システム2200はたとえば、ProTools(商標)システムのような、プラグインとしてメタデータ生成ツール(すなわち、本稿に記載されたパン手段〔パンナー〕のような)を走らせる既存のオーサリング・システムを含んでいてもよい。パン手段は、レンダリング・ツール2210に接続されたスタンドアローン・システム(たとえばPCまたはミキシング・コンソール)上で走ることもでき、あるいはレンダリング・ツール2210と同じ物理装置上で走ることもできる。後者の場合、パン手段およびレンダラーは、たとえば共有メモリを通じた、ローカルな接続を使うことができる。パン手段GUIは、タブレット装置、ラップトップなどの上でリモートにされることができる。レンダリング・ツール2210は、レンダリング・ソフトウェアを実行するよう構成されたサウンド・プロセッサを含むレンダリング・システムを有していていもよい。レンダリング・システムはたとえば、オーディオ入出力のためのインターフェースおよび適切な論理システムを含むパーソナル・コンピュータ、ラップトップなどを含んでいてもよい。
【0169】
図22Bは、再生環境(たとえば映画シアター)におけるオーディオ再生のために使用されうるいくつかのコンポーネントを表しているブロック図である。システム2250は、この例では、映画館サーバー2255およびレンダリング・システム2260を含む。映画館サーバー2255およびレンダリング・システム2260は、それぞれネットワーク・インターフェース2257および2262を含み、該ネットワーク・インターフェースはTCP/IPまたは他の任意の好適なプロトコルを介してオーディオ・オブジェクトを送受信するよう構成されていてもよい。インターフェース2264はオーディオ・データをスピーカーに出力するよう構成されている。
【0170】
本開示に記載される実装へのさまざまな修正が、当業者にはすぐに明白となりうる。本稿において定義される一般的な原理は、本開示の精神または範囲から外れることなく、他の実装にも適用されてもよい。このように、特許請求の範囲は、本稿に示される実装に限定されることは意図されておらず、本稿に開示される開示、原理および新規な特徴と整合する最も広い範囲を与えられるべきものである。
【0171】
いくつかの態様を記載しておく。
〔態様1〕
インターフェース・システムおよび論理システムを有する装置であって:
前記論理システムは:
前記インターフェース・システムを介して、一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データを受領する段階と;
前記インターフェース・システムを介して、再生環境における再生スピーカーの数の指示および再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領する段階と;
少なくとも部分的には前記関連するメタデータに基づいて、前記オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングする段階とを実行するよう構成されており、
各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応する、
装置。
〔態様2〕
前記再生環境は映画館サウンド・システム環境である、態様1記載の装置。
〔態様3〕
前記再生環境はドルビー・サラウンド5.1構成、ドルビー・サラウンド7.1構成または浜崎22.2サラウンド・サウンド構成を有する、態様1記載の装置。
〔態様4〕
前記再生環境データは、再生スピーカー位置を示す再生スピーカー・レイアウト・データを含む、態様1記載の装置。
〔態様5〕
前記再生環境データは、再生スピーカー領域および該再生スピーカー領域に対応する再生スピーカー位置を示す再生スピーカー・ゾーン・レイアウト・データを含む、態様1記載の装置。
〔態様6〕
前記メタデータは、オーディオ・オブジェクト位置を単一の再生スピーカー位置にマッピングするための情報を含む、態様5記載の装置。
〔態様7〕
前記レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型のうちの一つまたは複数に基づいて総合利得を生成することを含む、態様1記載の装置。
〔態様8〕
前記メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含む、態様1記載の装置。
〔態様9〕
前記メタデータはオーディオ・オブジェクトについての軌跡データを含む、態様1記載の装置。
〔態様10〕
前記レンダリングは、スピーカー・ゾーン制約を課すことを含む、態様1記載の装置。
〔態様11〕
ユーザー入力システムをさらに有する態様1記載の装置であって、前記レンダリングが、前記ユーザー入力システムから受領される、スクリーンから部屋へのバランス制御データに従ってスクリーンから部屋へのバランス制御を適用することを含む、装置。
〔態様12〕
ディスプレイ・システムをさらに有する態様1記載の装置であって、前記論理システムは、前記再生環境の動的な三次元ビューを表示するよう前記ディスプレイ・システムを制御するよう構成されている、装置。
〔態様13〕
前記レンダリングは、三次元のうち一つまたは複数の次元方向でのオーディオ・オブジェクト拡散を制御することを含む、態様1記載の装置。
〔態様14〕
前記レンダリングは、スピーカー過負荷に応答した動的なオブジェクト・ブロッビングを含む、態様1記載の装置。
〔態様15〕
前記レンダリングは、オーディオ・オブジェクト位置を前記再生環境のスピーカー・アレイの平面にマッピングすることを含む、態様1記載の装置。
〔態様16〕
メモリ・デバイスをさらに有する態様1記載の装置であって、前記インターフェース・システムは、前記論理システムと前記メモリ・デバイスとの間のインターフェースを有する、態様1記載の装置。
〔態様17〕
前記インターフェース・システムはネットワーク・インターフェースを有する、態様1記載の装置。
〔態様18〕
態様1記載の装置であって、前記メタデータは、スピーカー・ゾーン制約メタデータを含み、前記論理システムは:
選択されたスピーカーからの寄与を含む第一の利得を計算し;
選択されたスピーカーからの寄与を含まない第二の利得を計算し;
前記第一の利得を前記第二の利得とブレンドする処理を実行することによって、
選択されたスピーカー・フィード信号を減衰させるよう構成されている、装置。
〔態様19〕
態様1記載の装置であって、前記メタデータは、スピーカー・ゾーン制約メタデータを含み、前記論理システムは、オーディオ・オブジェクト位置についてパン規則を適用するか、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングするかを決定するよう構成されている、装置。
〔態様20〕
態様19記載の装置であって、前記論理システムは、オーディオ・オブジェクト位置の第一の単一のスピーカー位置へのマッピングから第二の単一のスピーカー位置へ遷移するときに、スピーカー利得における遷移をなめらかにするよう構成されている、装置。
〔態様21〕
態様19記載の装置であって、前記論理システムは、オーディオ・オブジェクト位置を単一のスピーカー位置にマッピングすることと、オーディオ・オブジェクト位置についてのパン規則を適用することとの間で遷移するときに、スピーカー利得における遷移をなめらかにするよう構成されている、装置。
〔態様22〕
前記論理システムが、仮想スピーカー位置に対応するスピーカー利得を計算するようさらに構成されている、態様1ないし21のうちいずれか一項記載の装置。
〔態様23〕
態様22記載の装置であって、前記論理システムが、仮想スピーカー位置の間の一次元曲線に沿った諸オーディオ・オブジェクト位置についてスピーカー利得を計算するようさらに構成されている、装置。
〔態様24〕
一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データを受領する段階と;
再生環境における再生スピーカーの数の指示および再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領する段階と;
少なくとも部分的には前記関連するメタデータに基づいて、前記オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングする段階とを含み、
各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応する、
方法。
〔態様25〕
前記再生環境は、映画館サウンド・システム環境である、態様24記載の方法。
〔態様26〕
前記レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型のうちの一つまたは複数に基づいて総合利得を生成することを含む、態様24記載の方法。
〔態様27〕
前記メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含む、態様24記載の方法。
〔態様28〕
前記レンダリングは、スピーカー・ゾーン制約を課すことを含む、態様24記載の方法。
〔態様29〕
ソフトウェアが記憶されている非一時的な媒体であって、前記ソフトウェアは:
一つまたは複数のオーディオ・オブジェクトおよび関連するメタデータを含むオーディオ再生データを受領する段階と;
再生環境における再生スピーカーの数の指示および再生環境内の各再生スピーカーの位置の指示を含む再生環境データを受領する段階と;
少なくとも部分的には前記関連するメタデータに基づいて、前記オーディオ・オブジェクトを一つまたは複数のスピーカー・フィード信号にレンダリングする段階とを実行するための命令を含み、
各スピーカー・フィード信号は、再生環境内の再生スピーカーの少なくとも一つに対応する、
非一時的な媒体。
〔態様30〕
前記再生環境は、映画館サウンド・システム環境である、態様29記載の非一時的な媒体。
〔態様31〕
前記レンダリングは、所望されるオーディオ・オブジェクト位置、該所望されるオーディオ・オブジェクト位置から参照位置までの距離、オーディオ・オブジェクトの速度またはオーディオ・オブジェクト・コンテンツ型のうちの一つまたは複数に基づいて総合利得を生成することを含む、態様29記載の非一時的な媒体。
〔態様32〕
前記メタデータは、オーディオ・オブジェクトの位置を一次元曲線または二次元面に制約するためのデータを含む、態様29記載の非一時的な媒体。
〔態様33〕
前記レンダリングは、スピーカー・ゾーン制約を課すことを含む、態様29記載の非一時的な媒体。
〔態様34〕
前記レンダリングは、スピーカー過負荷に応答しての動的なオブジェクト・ブロッビングを含む、態様29記載の非一時的な媒体。
〔態様35〕
インターフェース・システム、ユーザー入力システムおよび論理システムを有する装置であって、前記論理システムは:
前記インターフェース・システムを介してオーディオ・データを受領する段階と;
前記ユーザー入力システムまたは前記インターフェース・システムを介してオーディオ・オブジェクトの位置を受領する段階と;
三次元空間における前記オーディオ・オブジェクトの位置を決定する段階であって、該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することを含む、段階と;
少なくとも部分的には前記ユーザー入力システムを介して受領されたユーザー入力に基づいて、前記オーディオ・オブジェクトに関連するメタデータを生成する段階であって、前記メタデータは、三次元空間における前記オーディオ・オブジェクトの位置を示すデータを含む、段階とを実行するよう構成されている、
装置。
〔態様36〕
前記メタデータは、三次元空間内での前記オーディオ・オブジェクトの時間変化する位置を示す軌跡データを含む、態様35記載の装置。
〔態様37〕
前記論理システムは、前記ユーザー入力システムを介して受領されたユーザー入力に従って前記軌跡データを計算するよう構成されている、態様36記載の装置。
〔態様38〕
前記軌跡データは、複数の時点における三次元空間内での位置の集合を含む、態様36記載の装置。
〔態様39〕
前記軌跡データは、初期位置、速度データおよび加速度データを含む、態様36記載の装置。
〔態様40〕
前記軌跡データは、初期位置および三次元空間における諸位置および対応する時間を定義する式を含む、態様36記載の装置。
〔態様41〕
ディスプレイ・システムをさらに有する態様36記載の装置であって、前記論理システムは、前記軌跡データに従ってオーディオ・オブジェクト軌跡を表示するよう前記ディスプレイ・システムを制御するよう構成されている、装置。
〔態様42〕
前記論理システムは、前記ユーザー入力システムを介して受領されたユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成するよう構成されている、態様35記載の装置。
〔態様43〕
前記スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含む、態様42記載の装置。
〔態様44〕
前記論理システムは、オーディオ・オブジェクト位置を単一のスピーカーにマッピングすることによってスピーカー・ゾーン制約メタデータを生成するよう構成されている、態様42記載の装置。
〔態様45〕
サウンド再生システムをさらに有する態様35記載の装置であって、前記論理システムは、少なくとも部分的には前記メタデータに従って前記サウンド再生システムを制御するよう構成されている、装置。
〔態様46〕
前記オーディオ・オブジェクトの位置は一次元曲線に制約されており、前記論理システムはさらに、該一次元曲線に沿った諸仮想スピーカー位置を生成するよう構成されている、態様35記載の装置。
〔態様47〕
オーディオ・データを受領する段階と;
オーディオ・オブジェクトの位置を受領する段階と;
三次元空間における前記オーディオ・オブジェクトの位置を決定する段階であって、該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することを含む、段階と;
少なくとも部分的にはユーザー入力に基づいて、前記オーディオ・オブジェクトに関連するメタデータを生成する段階であって、前記メタデータは、三次元空間内での前記オーディオ・オブジェクトの位置を示すデータを含む、段階とを含む、
方法。
〔態様48〕
前記メタデータは、三次元空間内での前記オーディオ・オブジェクトの時間変化する位置を示す軌跡データを含む、態様47記載の方法。
〔態様49〕
前記メタデータの生成が、ユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成することを含み、前記スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含む、態様47記載の方法。
〔態様50〕
前記オーディオ・オブジェクトの位置が一次元曲線に制約され、該一次元曲線に沿った諸仮想スピーカー位置を生成することをさらに含む、態様47記載の方法。
〔態様51〕
ソフトウェアが記憶されている非一時的な媒体であって、前記ソフトウェアは:
オーディオ・データを受領する段階と;
オーディオ・オブジェクトの位置を受領する段階と;
三次元空間における前記オーディオ・オブジェクトの位置を決定する段階であって、該決定は、前記位置を、三次元空間内の一次元曲線または二次元面に制約することを含む、段階と;
少なくとも部分的にはユーザー入力に基づいて前記オーディオ・オブジェクトに関連するメタデータを生成する段階であって、前記メタデータは、三次元空間内での前記オーディオ・オブジェクトの位置を示すデータを含む、段階とを実行するための命令を含む、
非一時的な媒体。
〔態様52〕
前記メタデータが、三次元空間内での前記オーディオ・オブジェクトの時間変化する位置を示す軌跡データを含む、態様51記載の非一時的な媒体。
〔態様53〕
前記メタデータの生成は、ユーザー入力に従って、スピーカー・ゾーン制約メタデータを生成することを含み、前記スピーカー・ゾーン制約メタデータは、選択されたスピーカーを無効にするためのデータを含む、態様51記載の非一時的な媒体。
〔態様54〕
前記オーディオ・オブジェクトの位置は、一次元曲線に制約され、該一次元曲線に沿った諸仮想スピーカー位置を生成することをさらに含む、態様51記載の非一時的な媒体。
図1
図2
図3
図4A
図4B
図5A
図5B
図5C
図5D
図5E
図6A
図6B
図7
図8
図9
図10A
図10B
図10C
図10D
図10E
図11
図12
図13A
図13B
図13C
図13D
図13E
図14A
図14B
図15
図16
図17
図18
図19
図20
図21
図22
【外国語明細書】