(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0017】
以降、諸図面を参照しながら、本発明の実施態様を詳細に説明する。
【0018】
本発明は、「単一の音響空間層を持つ音響信号」を表現する記述法(以下「Basic stru
cture descriptor」という)を拡張し、「複数の音響空間層を持つ音響信号」を表現する
記述法(以下「Extended structure descriptor」という)とするものである。Basic str
ucture descriptorについて、本件出願人は韓国特許出願(10-2012-0112984)を行ってお
り、本件の理解のため、以下、Basic structure descriptorを概説する。
【0019】
マルチチャンネルの音響空間層を表現するためには、どのチャンネルをどの位置から再
生するかを記述しなければならない。この記述情報をdescriptorと呼び、この記述情報は
メタデータとして該当マルチチャンネル音響信号のヘッダ又はマルチチャンネルを構成す
る各オーディオチャンネルのヘッダに記述される。
【0020】
表1は、Basic structure descriptorの用語を説明する表である。Basic structure de
scriptorは、例えばマルチチャンネル音響の完プロ番組(complete mix、再生に必要な音
が全て収録された番組)の作成・交換に使用される。
【表1】
【0021】
Sound Essenceは、番組に関する記述、Sound-fieldに関する記述(名称)、その他関連
する記述で構成される。
【0022】
Sound-fieldは、
図7に示すとおり、階層的な構成をもつSound-field configurationで
記述する。
【0023】
Sound Channelは、Channel labelによる記述、及び/又は、Channel Positionによる記
述で記述する。
【0024】
これ以降、Basic structure descriptorの各記述子(descriptor)を説明する。なお、
多様な交換シナリオを想定し、一部記述子には重複する項目があるが、番組作成者などは
、交換シナリオ毎に適宜必要な記述子を選択することができる。
【0025】
Basic structure descriptorは、(A)Sound Essence descriptorsと、(B)Sound-field c
onfiguration descriptorsと、(C)Sound Channel descriptorsとを含む。
【0026】
表2は、Basic structure descriptorにおける(A)Sound Essence descriptorsを示す表
である。
【表2】
【0027】
表3は、Basic structure descriptor における(B)Sound-field configuration descri
ptorsを示す表である。
【表3】
【0028】
表4は、Basic structure descriptor における(C)Sound Channel descriptorsを示す
表である。
【表4】
【0029】
表5は、Sound Channel descriptorsが含むChannel label dataの記述子であるC.1 Cha
nnel label descriptorsを示す表である。
【表5】
【0030】
表6は、Sound Channel descriptorsが含むChannel position dataの記述子であるC.2
Channel position descriptorsを示す表である。
【表6】
【0031】
本発明は、上記で述べた「単一の音響空間層を持つ音響信号」の記述法であるBasic St
ructure Descriptorsを拡張し、「複数の音響空間層を持つ音響信号」の記述法であるExt
ended Structure Descriptorsとするものである。
【0032】
表7は、Extended structure descriptorの用語を説明する表である。
【表7】
【0033】
Sound Essenceは、番組に関する記述、Sound-fieldに関する記述(名称)、その他関連
する記述で構成される。
【0034】
Extended structure descriptorにおけるSound-fieldは、
図1の通り、階層的な構成を
もつ複数のSound-field-layer configuration(Group of sound-field configuration) (S
ound space configuration)で記述する。
【0035】
Sound Channelは、Channel labelによる記述、及び/又は、Channel Positionによる記
述で記述する。
【0036】
表8は、Extended structure descriptor における(A)Sound Essence descriptorsを示
す表である。
【表8】
【0037】
表9は、Extended structure descriptor におけるA.2 Sound-field descriptorsを示
す表である。
【表9】
【0038】
Extended structure descriptorにおける(B)Sound-field configuration descriptor
sと、(C)Sound Channel descriptorsについては、Basic structure descriptorと同一
であるため、説明を省略する。
【0039】
図2は、本発明の一実施形態に係る音響信号作成装置の構成を示す図である。音響信号
作成装置は、番組制作において、番組交換の受取先や家庭での環境に合わせて受信した音
響信号の変形・変換・入替を「容易に」行うことができるように「複数の音響空間層を持
つ音響信号」の形式であるExtended structure descriptorによる音響番組制作を行う。
音響信号作成装置は、Extended structure descriptorを、メタデータとして該当音響フ
ォーマット信号のヘッダまたは各音響信号を構成する各ヘッダに入れて、番組交換や家庭
への伝送を行う。音響信号作成装置は、ミキシング部11と、メタデータ付加部12と、
コーディング部13と、マルチプレクサ14と、モニタリング部15とを備える。
【0040】
ミキシング部11は、音響ソース信号(Audio Source 1〜M)をミキシングし「複数の
音響空間層を持つ音響信号制作システム」から出力されるSpatial anchor、Commentary、
Dialogue、Object signalsを含む複数の音響空間層の音響ミキシング信号をコーディング
部13に出力する。
【0041】
メタデータ付加部12は、Spatial anchor、Commentary、Dialogue、Object signalsを
含む複数の音響空間層のExtended structure descriptorに記述するメタデータを作成し
、コーディング部13に出力する。
【0042】
コーディング部13は、ミキシング部11からの音響ミキシング信号と、メタデータ付
加部12からのメタデータに基づき、Extended structure descriptorによる音響信号を
作成し、当該音響信号を符号化してマルチプレクサ14に出力する。
【0043】
マルチプレクサ14は、放送又は伝送により信号を音響信号再生装置に伝えるため、コ
ーディング部13からの符号化されたExtended structure descriptorによる音響信号を
ビットストリームに多重化する。マルチプレクサ14は、多重化したビットストリームを
電波またはIP回線等で家庭など遠隔地に伝送する。
【0044】
モニタリング部15は、音響信号及びメタデータの内容確認に用いられる。
【0045】
図3は、本発明の一実施形態に係る音響信号再生装置の構成を示す図である。音響信号
再生装置は、スピーカ配置情報や再生するナレーション音像の位置情報などの再生システ
ムの情報入力により、受信した音響信号に含まれるメタデータを利用して、制作した臨場
感に匹敵する高品質音響を保持しつつ、使用者の希望するナレーション言語やナレーショ
ン再生位置にナレーション音声を制御して再現する。また、音響信号再生装置は、制作条
件と異なるサイズの映像ディスプレイを設置した視聴環境においては、制作した臨場感に
匹敵する高品質音響を保持しつつ、かつ映像と音像位置の一致が必要な「映音一致音源」
の音響空間層については映像ディスプレイにあわせるように音像の空間位置を制御するこ
とで映像ディスプレイにあった音響を再現する。音響信号再生装置は、デマルチプレクサ
21と、デコーディング部22と、レンダリング再生部23と、環境情報入力部24と、
モニタリング部25とを備える。
【0046】
デマルチプレクサ21は、放送又は伝送により受信したビットストリームに多重化され
たExtended structure descriptorによる音響信号より、各音響空間層の音響信号及びメ
タデータを分離してデコーディング部22に出力する。
【0047】
デコーディング部22は、デマルチプレクサ21からの符号化された音響信号及びメタ
データをデコードし、Spatial anchor、Commentary、Dialogue、Object signals、メタデ
ータを含む信号をレンダリング再生部23に出力する。
【0048】
レンダリング再生部23は、Extended structure descriptorに基づき、本来の音響信
号をそのまま再生したり、視聴環境(例えばスピーカのチャネル数、ディスプレイサイズ
)に基づくダウンミックスなどの音響信号変換を行ってから音響信号を再生したりする。
すなわち、レンダリング再生部23は、Extended structure descriptorに基づき、番組
作成時と異なる音響再生環境において、音響信号の入替え、変形及び変換などのレンダリ
ング処理をするものである。
【0049】
環境情報入力部24は、Extended structure descriptorとして記載されるメタデータ
の情報を視聴者に対して表示し、また、視聴者側にて、視聴者の環境情報として、多重音
声の言語選択、再生システム情報(スピーカ構成、ディスプレイサイズ)などの入力を受
け付け、入力された情報をレンダリング再生部23に出力する。
【0050】
モニタリング部25は、レンダリング再生部23による再生結果の確認や番組の視聴に
用いられる。
【0051】
以下、音響信号作成装置及び音響信号再生装置の具体的な使用形態について述べる。例
えば、本発明に係る音響信号作成装置及び音響信号再生装置によれば、家庭視聴の環境に
合わせて、ナレーション言語の選択やナレーション再生位置を容易に制御することが可能
となる。また、本発明に係る音響信号作成装置及び音響信号再生装置によれば、標準制作
条件と異なるサイズの映像ディスプレイを設置した視聴環境において、制作した臨場感に
匹敵する高品質音響を保持しつつ、かつ映像と音像位置の一致が必要な「映音一致音源」
の音響空間層については映像ディスプレイにあわせるように音像の空間位置を容易に制御
して再生することが可能となる。
【0052】
(作成形態1:複数言語に関する音響空間層を含む信号作成)
「複数の音響空間層を持つ音響信号」の形式であるExtended Structure descriptorを
用いて番組制作を行う一例として、日本語や韓国語ナレーション・せりふ用の音響信号の
ほか、英語など多言語用の音響信号を制作する場合について示す。この例では、言語にか
かわらず使用するいわゆるインターナショナルサウンド(Spatial anchor)で構成される音
響空間層と特定言語で構成されるナレーション・せりふで構成される複数の音響空間層(C
ommentary, Dialogue)からなる「複数の音響空間層を持つ音響信号」の形式で音響信号制
作システムが構成される。
【0053】
この場合、メタデータ付加部12は、Extended Structure descriptorに則り、表10
に示すメタデータを該当マルチチャンネル音響フォーマット信号のヘッダまたはマルチチ
ャンネルを構成する各オーディオチャンネルの各ヘッダに付随する。
【表10】
【0054】
(再生形態1:複数言語に関する音響空間層を含む信号再生)
使用者側ではスピーカ配置情報や再生するナレーション音像の位置情報などの再生シス
テムの情報を入力して、使用者が任意に再生する位置の変更など音響信号を操作する。例
えば家庭視聴環境において、制作した臨場感に匹敵する高品質音響を保持しつつ、希望す
るナレーション言語やナレーション再生位置などに関し、音響信号を制御して再現する。
【0055】
この機能を実現するため、受信する使用者側では、環境情報入力部24により、再生し
たいナレーション言語やナレーション再生位置など希望するナレーション音声の情報、ス
ピーカの配置情報など再生システムの情報を入力する。レンダリング再生部23は、メタ
データに記載されている制作されているナレーション言語の中から指定された「ナレーシ
ョン言語」層の音響信号を選択し、言語にかかわらず使用するいわゆるインターナショナ
ルサウンドを加算して再生する。また、レンダリング再生部23は、希望するナレーショ
ン再生位置とスピーカの配置情報および制作されている「ナレーション言語」層の音響信
号を選択し、指定するナレーション再生位置から得られるようにレンダリング処理を施し
て制作した臨場感に匹敵する音質が得られるように信号に変換したのち、言語にかかわら
ず使用するいわゆるインターナショナルサウンドを加算して再生する。
【0056】
図4は、言語にかかわらず使用するいわゆるインターナショナルサウンド(Spatial anc
hor)の音響空間層と「ナレーション言語」(Commentary, Dialogue)の音響空間層からなる
複数の音響空間層の概念図を示す。
【0057】
(作成形態2:映像と音声との一致不一致に関する音響空間層を含む番組作成)
「複数の音響空間層を持つ音響信号」の形式であるExtended Structure descriptorを
用いて番組制作を行う一例として、「映像と音の位置の一致が必要な音」と「映像の位置
に直接係らない音」を別個に制作記録する例を示す。音響信号には、俳優のせりふや画面
内の物体から放射される音のように画面の中の「映像と音の位置の一致が必要な音」のほ
かに、番組全体の臨場感を高めるための効果音など「映像の位置に直接係らない音」があ
り、「映像と音の位置の一致が必要な音」と「映像の位置に直接係らない音」を別個に制
作記録する場合がある。この例では、「映像と音の位置の一致が必要な音」で構成される
音響空間層と「映像の位置に直接係らない音」からなる「複数の音響空間層を持つ音響信
号」の形式で音響信号制作システムが構成される。
【0058】
この場合、メタデータ付加部12は、Extended Structure descriptorに則り、表11
に示すメタデータを該当マルチチャンネル音響フォーマット信号のヘッダまたはマルチチ
ャンネルを構成する各オーディオチャンネルの各ヘッダに付随する。
【表11】
【0059】
(再生形態2:映像と音声との一致不一致に関する音響空間層を含む番組再生)
音響信号再生装置は、例えば、
図5のような制作条件と異なるサイズの映像ディスプレ
イを設置した視聴環境においては、制作した臨場感に匹敵する高品質音響を保持しつつ、
かつ映像と音像位置の一致が必要な「映音一致音源」の音響空間層については映像ディス
プレイにあわせるように音像の空間位置を制御して再現する。
【0060】
この機能を実現するため、受信する使用者側では、環境情報入力部24により、映像デ
ィスプレイの配置情報など再生システムの情報を入力する。レンダリング再生部23は、
メタデータに記載されている制作時の映像ディスプレイ・スピーカ配置条件と受信使用者
側の映像ディスプレイ・スピーカ配置が同一条件であれば受信した音響信号の変形・変換
を行わず「映像と音の位置の一致が必要な音」と「映像の位置に直接係らない音」を加算
して再生する。一方、レンダリング再生部23は、映像ディスプレイかスピーカ配置のど
ちらか一方が同一条件でない場合、レンダリング処理またはダウンミックス処理を施して
制作した臨場感に匹敵する音質が得られるように信号に変換したのち、加算して再生する
。映像ディスプレイサイズが異なり、スピーカ配置が同一の場合には、レンダリング再生
部23は、「映像と音の位置の一致が望ましい音」の層の音響信号は、映像ディスプレイ
サイズと音像の幅が同一となるようにレンダリング処理を施す。レンダリング再生部23
は、レンダリング処理を施した「映像と音の位置の一致が望ましい音」と変形・変換を行
わない「映像の位置に直接係らない音」を加算して再生する。ここで「映像と音の位置の
一致が望ましい音」の音像幅を映像ディスプレイサイズと合わせるためのレンダリング処
理は「映音一致音源」の音響空間層のChannel position data内で定義される Spatial po
sition dataのAzimuth angleとElevation angleの空間位置情報を利用することで容易に
行うことができる。
【0061】
図6は、「映音一致音源」の音響空間層(Video linked object)「映像の位置に直接係
らない」音響空間層(Spatial anchor, Dialogue)からなる複数の音響空間層の概念図を示
す。
【0062】
このように、本実施形態によれば、Extended Structure descriptorは、音響空間層の
数と、音響空間層のタイプと、言語情報と、を含む。これにより、「複数の音響空間層を
持つ音響信号」の形式に対応した音響信号記述法が実現される。
【0063】
また、音響空間層のタイプは、音響空間層が、言語に係らず使用されるインターナショ
ナルサウンドの音響空間層であるか、特定の言語で構成される音響空間層であるか、を示
す、ことが好ましい。これにより、例えば家庭視聴環境において、制作した臨場感に匹敵
する高品質音響を保持しつつ、希望するナレーション言語やナレーション再生位置などに
関し、音響信号を制御して再現することが可能になる。
【0064】
さらに、本実施形態によれば、Extended Structure descriptorは、音響空間層の数と
、各音響空間層が映像に連動するかどうかを示す映像リンク識別子と、を含む。これによ
り、例えば制作条件と異なるサイズの映像ディスプレイを設置した視聴環境において、制
作した臨場感に匹敵する高品質音響を保持しつつ、かつ映像と音像位置の一致が必要な「
映音一致音源」の音響空間層については映像ディスプレイにあわせるように音像の空間位
置を制御して再現することが可能になる。
【0065】
さらに、本実施形態に係る音響信号作成装置及び音響信号再生装置によれば、Extended
Structure descriptorで記述された音響信号を作成及び再生することが可能になる。ま
た、本発明の範囲は、Extended Structure descriptorで記述された音響信号を電波また
はIP回線等で家庭など遠隔地に伝送する装置、Extended Structure descriptorで記述さ
れた音響信号を記憶媒体に蓄積、記録する装置、Extended Structure descriptorで記述
された音響信号が蓄積、記録された記憶媒体をも含むものである。
【0066】
本発明の一実施形態に係る音響信号作成装置は、音響空間層の数と、音響空間層のタイ
プと、言語情報とを含むメタデータを作成し、入力音響信号及びメタデータに基づきExte
nded Structure descriptorによる音響信号を作成し、当該音響信号をビットストリーム
に多重化する。また、本発明の一実施形態に係る音響信号再生装置は、音響信号に含まれ
る音響空間層の数、音響空間層のタイプ、及び言語情報と、視聴者の環境情報とに応じて
、音響信号を変換して再生する。これにより、「複数の音響空間層を持つ音響信号」を用
いた番組作成及び視聴が可能となる。特に、音響信号再生装置は、視聴者により選択され
た特定の言語の音響信号を、インターナショナルサウンドに加算して再生する。これによ
り、受信したメタデータを用いて視聴者が任意に言語選択などの操作を行い、制作時の臨
場感に匹敵する高品質音を保持しつつ、適切なナレーション言語やナレーション再生位置
の入替・変形を行うことが可能となる。
【0067】
また、本発明の一実施形態に係る音響信号作成装置は、音響空間層の数と、各音響空間
層が映像に連動するかどうかを示す映像リンク識別子とを含むメタデータを作成し、入力
音響信号及びメタデータに基づきExtended Structure descriptorによる音響信号を作成
し、当該音響信号をビットストリームに多重化する。また、本発明の一実施形態に係る音
響信号再生装置は、音響信号に含まれる音響空間層の数及び各音響空間層が映像に連動す
るかどうかを示す映像リンク識別子と、視聴者の環境情報とに応じて、音響信号を変換し
て再生する。これにより、「複数の音響空間層を持つ音響信号」を用いた番組作成及び視
聴が可能となる。特に、音響信号再生装置は、映像リンク識別子が、音響空間層が映像に
連動することを示す場合、当該音響空間層の音響信号に、視聴者の映像ディスプレイの情
報に基づくレンダリング処理を施して再生する。これにより、視聴者側の映像ディスプレ
イ情報など再生システムの情報を入力し、メタデータに記載されている制作時の映像ディ
スプレイ情報を利用して、制作した臨場感に匹敵する高品質音を保持しつつ、かつ映像と
音像位置の一致が必要な「映音一致音源」の音響空間層については映像ディスプレイにあ
わせるように音像の空間位置を変形・変換することが可能になる。
【0068】
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々
の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正
は本発明の範囲に含まれることに留意されたい。例えば、各部材、各手段、各ステップな
どに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の手段やステ
ップなどを1つに組み合わせたり、或いは分割したりすることが可能である。