(58)【調査した分野】(Int.Cl.,DB名)
前記第1のフォーマットで多重化されたビデオストリームとオーディオストリームを含むデータを、前記第2のフォーマットで多重化し、多重化データを生成する処理部をさらに備える
請求項1または2に記載の情報処理装置。
【発明を実施するための形態】
【0017】
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
1.フォーマット変換の例
2.MMTについて
3.MPEG-2 TSについて
4.情報処理装置の構成例
5.カウンタ値の変換について
6.情報処理装置の動作
7.変形例
【0018】
<1.フォーマット変換の例>
図1は、本技術の一実施形態に係る情報処理装置によるフォーマット変換の例を示す図である。
【0019】
情報処理装置1は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの記録媒体を内蔵した録画機器、テレビジョン受像機、パーソナルコンピュータ、セットトップボックスなどの装置である。情報処理装置1は、放送波の伝送路、またはインターネットなどの通信の伝送路を介して放送(配信)された、ビデオとオーディオを含むテレビジョン番組などのコンテンツを受信する。放送波の伝送路には、地上波放送、衛星放送の伝送路が含まれる。
【0020】
放送波の伝送路、または通信の伝送路を介したコンテンツの伝送は、MMTで行われる。情報処理装置1は、ビデオストリームとオーディオストリームをMMTで多重化して得られた多重化データを受信する。多重化データには字幕データも適宜含まれる。
【0021】
情報処理装置1は、ARIB STD-B60(「デジタル放送におけるMMTによるメディアトランスポート方式」)に準拠したMMTのコンテンツの受信に対応した装置である。また、情報処理装置1は、ARIB TR-B39(「高度広帯域衛星デジタル放送 運用規定」)に準拠したコンテンツ伝送に対応した装置でもある。
【0022】
情報処理装置1は、受信したMMTのコンテンツを再生し、コンテンツの映像と音声を、情報処理装置1に接続されたテレビジョン受像機(図示せぬ)などから出力させる機能を有する。
【0023】
また、情報処理装置1は、受信したMMTのコンテンツを、MPEG-2 TSのコンテンツに変換する機能を有する。MPEG-2 TSは、ITU-H.222.0により規定される。
【0024】
MMTからMPEG-2 TSへのフォーマットの変換時、情報処理装置1は、MMTP(MMT Protocol)パケットに格納されたビデオデータやオーディオデータを取得し、TSパケットに格納し直す。情報処理装置1は、SI(Service Information)などの制御情報を格納したTSパケットとともに、ビデオのTSパケットとオーディオのTSパケットを多重化することによってTS(トランスポートストリーム)を生成する。
【0025】
フォーマットの変換時、情報処理装置1は、MMTのコンテンツに含まれる時刻情報を、MPEG-2 TSの時刻情報に変換する。MMTとMPEG-2 TSは、時間軸が異なるフォーマットである。時間軸が異なるとは、時刻を規定するカウンタ値のビット数と精度(分解能)のうちの少なくともいずれかが異なることを意味する。
【0026】
MMTのコンテンツとMPEG-2 TSのコンテンツには、時刻情報として、動作の基準となる参照時刻を表すカウンタ値と、PTS(Presentation Time Stamp)、DTS(Decode Time Stamp)を表すカウンタ値が含まれる。
【0027】
図2は、カウンタ値の変換の例を示す図である。
【0028】
図2の左側に示すように、MMTにおいて、参照時刻は、NTP(Network Time Protocol)形式の時刻情報として表される。
【0029】
詳細については後述するが、NTP形式においては、32+nbit/2
nHzのカウンタ値で参照時刻が表される。ここで、32+nbit/2
nHzは、1秒以上の時刻が、秒単位で、32bitを用いて表され、1秒以下の時刻がnbitを用いて表されることを示す。1秒以下の精度は2
nHzである。
【0030】
ARIB TR-B39では、NTP形式の運用として、nが24以上であることが規定されている。
【0031】
MMTにおいて、PTSとDTSは、32+nbit/2
nHzのカウンタ値で表される時刻から求められる。
【0032】
一方、
図2の右側に示すように、MPEG-2 TSにおいて、動作の基準となる参照時刻であるPCRは、42bit/27MHzのカウンタ値で表される。
【0033】
また、MPEG-2 TSにおいて、PTSとDTSは、それぞれ、33bit/90kHzのカウンタ値で表される。
【0034】
情報処理装置1は、32+nbit/2
nHzのカウンタ値で表されるMMTの参照時刻を、42bit/27MHzのカウンタ値で表されるMPEG-2 TSのPCRに変換する。
【0035】
また、情報処理装置1は、MMTにおけるPTSとDTSを、それぞれ、33bit/90kHzのカウンタ値で表されるMPEG-2 TSのPTSとDTSに変換する。
【0036】
情報処理装置1は、このようにして変換したMPEG-2 TSの時刻情報を含むTSを生成する。
【0037】
図1の説明に戻り、情報処理装置1は、MMTのコンテンツを変換することによって生成したMPEG-2 TSのコンテンツを、情報処理装置1に装着された記録媒体11に記録する。記録媒体11は、例えばBlu-ray(登録商標) Disc(以下、適宜、BDという)である。BDは、MPEG-2 TSのファイルを記録可能な記録媒体である。
【0038】
情報処理装置1は、MMTで伝送されてきたコンテンツをBDに記録できることになる。BDの再生に対応した再生装置は、情報処理装置1によりBDに書き込まれたコンテンツを再生できることになる。
【0039】
また、情報処理装置1は、MMTのコンテンツを変換することによって生成したMPEG-2 TSのコンテンツを、インターネットなどのネットワーク12を介して送信する。MPEG-2 TSのコンテンツの再生に対応した再生装置は、情報処理装置1により生成されたコンテンツを再生できることになる。
【0040】
このように、MMTのコンテンツをMPEG-2 TSのコンテンツに変換できるようにすることにより、MMTで提供されたコンテンツの処理を、MPEG-2 TSを処理可能な各種の装置が行うことが可能になる。すなわち、MPEG-2 TSの資産を活かすことが可能になる。
【0041】
<2.MMTについて>
<2−1.MMTのパケット構造>
MMTについて説明する。ここでは、ARIB STD-B60の規定のうち、情報処理装置1の処理に関係のある部分について説明する。特に明示するもの以外は、基本的に、ARIB STD-B60 1.7版の規定によるものである。
【0042】
図3は、MMTを用いる放送システムのプロトコルスタックを示す図である。
【0043】
番組の映像信号及び音声信号の符号はMFU(Media Fragment Unit)/MPU(Media Processing Unit)の伝送単位に区切られる。1つ以上のアクセスユニットのデータを含む単位であるMPUは、複数のMFUを含むようにして構成される。
【0044】
MFUは、MMTPペイロードに配置され、MMTPヘッダが付加されることによってMMTPパケットが構成される。MMTPパケットはIPパケットを用いて伝送される。1つのMMTPパケットは1つのIPパケットで伝送される。
【0045】
放送番組の構成などを示す制御情報であるMMT-SIについても、MMTの制御メッセージの形式として、MMTPペイロードに配置されてMMTPパケット化され、IPパケットで伝送される。
【0046】
上述したNTP形式の時刻情報も、IPパケットを用いて伝送される。
【0047】
図4は、NTP形式の構成を示す図である。
【0048】
IETF RFC 5905 “Network Time Protocol Version 4: Protocol and Algorithms Specification”に規定するNTP形式のIPパケットが、協定世界時(Coordinated Universal Time, UTC)を提供するために用いられる。
【0049】
leap_indicator(閏秒指示子)は、現在月の最後の1分に、閏秒(うるう秒)を挿入あるいは削除することを示す。
【0050】
フォーマット変換前のMMTのコンテンツが閏秒の挿入または削除を挟む場合、情報処理装置1においては、閏秒の挿入分または削除分を調整するようにしてタイムスタンプの変換が行われる。
【0051】
MPEG-2 TSには閏秒の概念がないため、フォーマット変換前のMMTのコンテンツが閏秒の挿入または削除を挟む場合には、閏秒の挿入または削除を考慮して、MMTのタイムスタンプをMPEG-2 TSのタイムスタンプに変換する必要がある。
【0052】
NTPでは、1900年1月1日0時0分0秒からの積算秒数が使用される。NTP形式には、reference_timestamp(参照タイムスタンプ)が含まれる。
【0053】
reference_timestampは、システム時刻が最後に補正された時刻をNTP長形式で示す。NTP長形式は、秒単位を示す32bitのフィールドと、1秒以下を示す32bitのフィールドとから構成される。
【0054】
ARIB TR-B39では、1秒以下の時刻を、nbit(n:24以上)を使用して示すことが規定される。nは32以下となる。
【0055】
NTPが示す時刻は、1秒以上の時刻を秒単位で表す32bitと、1秒以下の時刻を表すnbitを足し合わせた32+nbitカウンタのカウンタ値として表される。1秒以下の精度は2
nHzとなる。
【0056】
1秒以下の精度であるnが、
図4のprecision(精度)により示される。nは、システムクロックの精度(秒単位)のlog2を示す。
【0057】
ARIB STD-B60では、MMTを用いる放送システムにおける送出システム及び受信機は以下の要件を満たす必要がある。
・送出システムは、NTPタイムスタンプに基づくクロックを保持すること。
・送出システムでは、上記クロックと映像、音声のエンコード処理を行うクロックが同期していること。
・受信機は、受信したNTP形式の時刻情報に基づくクロックを再生、保持すること。
・受信機では、上記クロックを保持するためのシステムクロックと映像・音声等のデコード処理を行うクロックが同期していること。
【0058】
図5は、STD-B44における、NTP形式の時刻情報を含むIPパケットを格納するTLV(Type Length Value)パケットの配置を示す図である。
【0059】
NTP形式の時刻情報を含むIPパケットも含めて、IPパケットは、TLVパケットにより伝送することがSTD-B323_1により規定されている。NTP形式の時刻情報を含むIPパケットを格納するTLVパケットは、TLVストリームIDごとに割り当てられたスロットのうち、最初のスロットの先頭に配置される。
【0060】
NTP形式の時刻情報を含むIPパケットを格納するTLVパケットをこのように配置することにより、NTP形式の時刻情報を含むIPパケットの遅延変動を抑えることが可能になる。
【0061】
情報処理装置1は、TLVストリームを構成するTLVパケットからIPパケットを抽出し、IPパケットに格納されているNTP形式の時刻情報、または、映像や音声のMMTPパケットを取得することになる。
【0062】
図6は、映像・音声信号からMMTPペイロードを構成する例を示す図である。
【0063】
映像信号や音声信号の処理では、MPUが処理の単位となる。
図6の中段に破線でサンプルデータとして示すように、MPUは1つ以上のアクセスユニットを含み、映像や音声の復号処理をMPU単体で行うことができる単位となる。MPUの大きさは任意であり、任意の数のアクセスユニットを含むことができる。フレーム間予測を用いて符号化する映像信号では、MPUはGOP(Group of Picture)単位とする必要がある。
【0064】
図6の中段に示すように、MPUは、MPU全体の構成に関する情報を含むMPUメタデータ、符号化したメディアデータの情報を含むムービーフラグメントメタデータ、符号化したメディアデータであるサンプルデータから構成される。1つのMPUは1つ以上のムービーフラグメントから構成できるため、ムービーフラグメントメタデータとサンプルデータは複数存在することがある。
【0065】
MPUには、同一のアセットに属するMPUごとに同じシーケンス番号が付加される。アセットを識別するアセットIDとMPUのシーケンス番号を用いることで、各MPUを区別することが可能になる。
【0066】
MFUは、MPUよりも小さな単位である。MFUは、MPUを構成するサンプルデータから取り出すことができる。MFUの構成方法として、
図6の下向き矢印で示すようにNALユニット単位やアクセスユニット単位でMFUを構成する方法がある。メディアを意識してMFUを構成することで、パケットロスのような伝送品質の低下が発生したときの誤りの伝搬を抑えることができる。
【0067】
映像コンポーネントや音声コンポーネントなどの提示時刻が指定されるメディアには、MPU単位で、提示時刻(上述した、MMTにおけるPTS)が示される。MPUの提示時刻は、UTCに基づき、共通の時間軸を用いて指定される。そのため、受信側の装置は、放送と通信の伝送路の違いや送信元の違いによらず、必要なメディアコンポーネントを同期して提示することができる。
【0068】
このように、MMTにおける符号化信号を構成する要素には、MPU、MFU、MMTPパケット、MMTPペイロードがある。
【0069】
なお、
図6は、1つのMFUを1つのMMTPペイロードに格納した例を示すものである。1つのMMTPペイロードに複数のMFUが格納される場合もあるし、反対に、1つのMFUが複数のMMTPペイロードに格納される場合もある。
【0070】
図7は、MMTPパケットの構成を示す図である。
【0071】
MMTPパケットは、MMTPヘッダとMMTPペイロードから構成される。
図7に示す記述のうち、先頭から、MMTP_payload()の前までの記述がMMTPヘッダを構成する。
【0072】
MMTPヘッダに含まれるpayload_type(ペイロードタイプ)は、MMTPペイロードのデータタイプを示す。
【0073】
図8は、payload_typeの値の意味を示す図である。
【0074】
図8に示すように、payload_typeの値が0x00であることは、MMTPペイロードに、映像や音声などのMPUが含まれることを示す。
【0075】
また、payload_typeの値が0x02であることは、MMTPペイロードに、制御メッセージが含まれることを示す。
【0076】
図7の説明に戻り、MMTPヘッダに含まれるpacket_id(パケット識別子)は、MMTPペイロードのデータの種類を識別するための情報である。
【0077】
ARIB TR-B39では、MMTPペイロードにMPUが含まれる場合(payload_typeの値が0x00である場合)、後述するMMTパッケージテーブルに示される、アセットのpacket_idが記述されることが規定されている。
【0078】
図9および
図10は、MMTP_payload()の構成を示す図である。
【0079】
図9は、payload_typeの値が0x00である、すなわち当該MMTPペイロードにMPUが含まれる場合の記述を示す。一方、
図10は、payload_typeの値が0x02である、すなわち当該MMTPペイロードに制御メッセージが含まれる場合の記述を示す。
【0080】
図9に示す記述のうち、fragment_type(フラグメントタイプ)は、MMTPペイロードに格納する情報のフラグメント種別を示す。
【0081】
fragment_typeの値が2であることは、MMTPペイロードに、MFUを構成する時間付きメディアデータのサンプルデータ(NALユニット、アクセスユニット)、サブサンプルデータ、あるいは時間なしメディアデータのアイテムが含まれることを示す。例えば、fragment_typeの値が2であり、timed_flagの値が1である場合に記述される
図9のMFU_data_byteが、MFUを構成する時間付きメディアデータのサンプルデータに相当する。
【0082】
また、
図9に示す記述のうち、MPU_sequence_number(MPUシーケンス番号)は、当該MMTPペイロードがMPUメタデータ、ムービーフラグメントメタデータ、MFUを格納するものである場合、それらが属するMPUのシーケンス番号を示す。
【0083】
図10に示す記述のうち、payload_typeの値が0x02である場合に記述されるmessage_length(メッセージデータ長)は、このフィールドの直後に配置される1つの制御メッセージの大きさをバイト単位で示す。
【0084】
message_byte(メッセージデータ)は、制御メッセージのデータバイトである。以下、適宜、制御メッセージを単にメッセージともいう。
【0085】
<2−2.MMTの制御メッセージ>
ここで、MMTPペイロードに格納される制御メッセージについて説明する。
【0086】
図11は、制御情報であるMMT-SIの構造を示す図である。
【0087】
MMTのパッケージの構成や放送サービスに関連する情報を示すMMT-SIは、
図11に示すように、テーブルや記述子を格納するメッセージ、特定の情報を示す要素や属性を持つテーブル、および、詳細な情報を示す記述子の3階層から構成される。
【0088】
上述したように、メッセージは、MMTPペイロードに格納され、MMTPパケットを用いて伝送される。メッセージがMMTPペイロードを構成する際のpayload_typeの値は0x02である。複数のメッセージを1つのMMTPペイロードに格納することは行われず、1つのメッセージが1つのMMTPペイロードに格納される。
【0089】
図12は、MMT-SIのメッセージの種類と機能を示す図である。
【0090】
図12に示すように、メッセージには、主に、Package Access(PA)メッセージ、M2セクションメッセージ、CAメッセージ、M2短セクションメッセージ、データ伝送メッセージがある。例えばPAメッセージは、MMT-SIのエントリーポイントとなり、MMT-SIの各種のテーブルを伝送するために用いられる。
【0091】
このようなメッセージの種類が、message_byteとしてMMTPペイロードに記述されるmessage_id(メッセージ識別子)により識別される。
【0092】
図13は、PAメッセージの構成を示す図である。
【0093】
message_idは、
図14に示すように0x0000として設定される。
【0094】
number_of_tables(テーブル数)は、このPAメッセージが格納するテーブルの数を示す。
【0095】
table_id(テーブル識別)は、このPAメッセージが格納するテーブルの識別子を示す。
【0096】
table(テーブル)は、このPAメッセージが格納するテーブルである。テーブルの1つであるMPT(MMTパッケージテーブル)が、PAメッセージのtable()に記述される。
【0097】
このようなPAメッセージの記述が、message_byteとしてMMTPペイロード(
図10)に含まれる。
【0098】
図15は、MPTの構成を示す図である。
【0099】
MPTは、アセットのリストやアセットのネットワーク上の位置などの、パッケージを構成する情報を与える。MPTには記述子が含まれる。
【0100】
図15に示す記述のうちのMPT_descriptors_length(MPT記述子長)は、MPT記述子領域の長さをバイト単位で示す。
【0101】
MPT_descriptors_byte(MPT記述子領域)は、MPTの記述子を格納する領域である。MPT_descriptors_byteに格納される記述子には、例えば、MPUタイムスタンプ記述子(MPU_Timestamp_Descriptor())、MPU拡張タイムスタンプ記述子(MPU_Extended_Timestamp_Descriptor())がある。
【0102】
MPUタイムスタンプ記述子は、MPUにおいて提示順序で最初のアクセスユニットの提示時刻を示す記述子である。また、MPU拡張タイムスタンプ記述子は、MPU内のアクセスユニットの復号時刻を提供する記述子である。
【0103】
図16は、MPUタイムスタンプ記述子の構成を示す図である。
【0104】
MPUタイムスタンプ記述子のdescriptor_tagは、0x001として設定される。
【0105】
mpu_sequence_number(MPUシーケンス番号)は、当該MPUタイムスタンプ記述子においてタイムスタンプを記述するMPUのシーケンス番号を示す。上述したように、各MPUには、同一のアセットに属するMPUごとに同じシーケンス番号が付加される。
【0106】
mpu_presentation_time(MPU提示時刻)は、MPUの提示時刻をNTP形式で示す(32+nbit/2
nHzのカウンタ値で示す)。
【0107】
図17は、MPU拡張タイムスタンプ記述子の構成を示す図である。
【0108】
MPU拡張タイムスタンプ記述子のdescriptor_tagは、0x8026として設定される。
【0109】
mpu_sequence_number(MPUシーケンス番号)は、当該MPU拡張タイムスタンプ記述子において復号時刻等を指定するアクセスユニットが含まれるMPUのシーケンス番号を示す。
【0110】
mpu_decoding_time_offset(MPU復号時刻オフセット)は、MPUシーケンス番号により特定されるMPUにおいて、復号順で最初のアクセスユニットの復号時刻と、提示順で最初のアクセスユニットの提示時刻との差分の絶対値を、タイムスケールで示される時間単位で示す。
【0111】
num_of_au(アクセスユニット数)は、当該MPU拡張タイムスタンプ記述子で復号時刻等を指定するアクセスユニットの数を示す。
【0112】
dts_pts_offset(復号時刻・提示時刻オフセット)は、アクセスユニットの復号時刻から提示時刻までの時間を、タイムスケールで示される時間単位で示す。
【0113】
pts_offset(PTSオフセット)は、同一MPU内における、提示順で直前のアクセスユニットと現在のアクセスユニットとの提示時刻の差分を、タイムスケールで示される時間単位で示す。
【0114】
MPUタイムスタンプ記述子から、MPUの、提示順序で最初のアクセスユニットの提示時刻が特定される。また、MPU拡張タイムスタンプ記述子から、各アクセスユニットの復号時刻が特定される。
【0115】
MPU拡張タイムスタンプ記述子には、mpu_presentation_time_leap_indicator(MPU 提示時刻閏秒指示子)が含まれる。
【0116】
mpu_presentation_time_leap_indicatorは、閏秒の挿入または削除による時刻情報の調整があるか否かを示す。mpu_presentation_time_leap_indicatorの値が1であることは、午前8時59分59秒の後に閏秒として午前8時59分59秒の挿入が行われることを表し、2であることは、午前8時59分59秒の削除が行われることを表す。
【0117】
図18は、MMTにおけるPTSとDTSの算出方法を示す図である。
【0118】
図18に示す各矩形は、あるMPUに含まれるGOPnを構成するピクチャ(アクセスユニット)を示す。
図18の上段は、各アクセスユニットの復号順での並びを示し、下段は、各アクセスユニットの提示順での並びを示す。I/P/Bのアルファベットはピクチャタイプを示し、数字は提示順での各ピクチャの番号を示す。
【0119】
MPUタイムスタンプ記述子のmpu_presentation_timeは、MPU内において提示順序で最初のアクセスユニットの提示時刻を示す。MPUタイムスタンプ記述子が示す提示時刻は、
図18の左下の上向き三角形が指す時刻である。
【0120】
一方、MPU拡張タイムスタンプ記述子は、mpu_decoding_time_offsetにより、
図18の左側に破線矢印で示すように、MPU内において、復号順序で最初のアクセスユニットの復号時刻と、提示順序で最初のアクセスユニットの提示時刻との差分値を示す。
【0121】
また、MPU拡張タイムスタンプ記述子は、各アクセスユニットの復号時刻と提示時刻の差分値を、タイムスケールを単位時間とする値でdts_pts_offestにより示す。さらに、MPU拡張タイムスタンプ記述子は、同一MPU内における、提示順序で直前のアクセスユニットの提示時刻と現在のアクセスユニットの提示時刻の差分値を、タイムスケールを単位時間とする値でpts_offsetにより示す。
【0122】
これらの時刻や値を用いて、MPU内のn番目のアクセスユニットの復号時刻DTS(n)と提示時刻PTS(n)は、それぞれ下式(1)、式(2)により算出される。
【数1】
【数2】
【0123】
このように、MPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子から、各アクセスユニットのPTSとDTSが特定される。32+nbit/2
nHzのカウンタ値であるmpu_presentation_timeを用いて求められるから、MPUのDTSも、32+nbit/2
nHzのカウンタ値で示される時刻といえる。
【0124】
情報処理装置1においては、MMTPパケットの制御メッセージからMPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子がそれぞれ取得され、MPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子に基づいてPTSとDTSが求められる。PTSとDTSの算出は、他のMMTPパケットを用いて伝送されたMPUを構成する各アクセスユニットの復号開始前に行われる。
【0125】
<3.MPEG-2 TSについて>
次に、MPEG-2 TSについて説明する。
【0126】
図19は、TSを構成するTSパケットの構成を示す図である。
【0127】
1つのTSパケットは、4bytesのヘッダに対して、184bytesの、ペイロード、アダプテーションフィールド、または、その両方が付加されることによって構成される。ヘッダには、例えば、ペイロード中に含まれるデータの種類の識別情報であるPIDが含まれる。このようなTSパケットの構成については例えばISO/IEC 138180-1で規定される。
【0128】
TSパケットのアダプテーションフィールドには、
図20において斜線を付して示すようにPCRが含まれる。
図20はアダプテーションフィールドの構成を示す図である。
【0129】
MMTからMPEG-2 TSへの変換時、情報処理装置1においては、NTP形式の時刻情報により表されるMMTの参照時刻を変換して得られたPCRが、TSパケットのアダプテーションフィールドに設定される。
【0130】
図21は、PES(Packetized Elementary Stream)パケットの構成を示す図である。
【0131】
MPEG-2 TSにおいては、ビデオとオーディオのストリームは所定の単位毎に分割され、PESパケットに格納される。1つのPESパケットが、複数のTSパケットに分割される。PESパケットにはヘッダが付加され、
図21に示すようにPTSとDTSが記述される。
【0132】
MMTからMPEG-2 TSへの変換時、情報処理装置1においては、MMT-SIを解析することによって算出されたMMTのPTSとDTSを変換して得られたPTSとDTSがPESパケットに設定される。
【0133】
<4.情報処理装置の構成例>
図22は、情報処理装置1の構成例を示すブロック図である。
【0134】
情報処理装置1は、受信部31、MMT信号処理部32、記録制御部33、ドライブ34、出力制御部35、および通信部36から構成される。
【0135】
受信部31は、図示せぬアンテナからの放送波信号を受信し、復調処理、誤り訂正処理などの各種の処理を施す。受信部31は、各種の処理を施すことによって得られたTVLストリームをMMTのコンテンツとしてMMT信号処理部32に出力する。
【0136】
また、受信部31は、コンテンツの伝送が通信の伝送路を介して行われる場合、通信部36を制御してMMTのコンテンツを受信し、所定の処理を施すことによって得られたTVLストリームをMMT信号処理部32に出力する。
【0137】
MMT信号処理部32は、MMTのコンテンツを再生し、コンテンツの映像と音声をテレビジョン受像機から出力させたり、MMTのコンテンツをMPEG-2 TSのコンテンツに変換したりする。
【0138】
例えば、MMT信号処理部32は、MMTのコンテンツを再生する場合、受信部31から供給されたTLVストリームからビデオデータとオーディオデータを抽出し、デコードする。MMT信号処理部32は、デコードして得られたコンテンツの映像と音声のデータを出力制御部35に出力する。
【0139】
また、MMT信号処理部32は、MMTのコンテンツをMPEG-2 TSのコンテンツに変換する場合、受信部31から供給されたTLVストリームから抽出したMMTPパケットに格納されているデータをTSパケットに格納し直すなどしてTSを生成する。MMT信号処理部32は、MPEG-2 TSのコンテンツを記録媒体11に記録する場合、生成したTSを記録制御部33に出力し、ネットワーク12を介して他の装置に送信する場合、生成したTSを通信部36に出力する。
【0140】
記録制御部33は、ドライブ34を制御し、MMT信号処理部32により生成されたTSを、ドライブ34に装着された記録媒体11に記録させる。
【0141】
出力制御部35は、MMT信号処理部32から供給された映像と音声のデータを情報処理装置1に接続された例えばテレビジョン受像機に供給し、ディスプレイとスピーカからそれぞれ出力させる。
【0142】
通信部36は、ネットワーク12を介して各種の装置と通信を行う。例えば、通信部36は、サーバからネットワーク12を介して配信されたMMTのコンテンツを受信し、受信部31に出力する。また、通信部36は、MMT信号処理部32により生成されたTSを、ネットワーク12を介して他の装置に送信する。
【0143】
図23は、
図22のMMT信号処理部32と記録制御部33の構成例を示すブロック図である。
【0144】
デマルチプレクサ51は、受信部31から供給されたTLVストリームを構成するTLVパケットからIPパケットを抽出し、IPパケットを用いて伝送されたMMTのデータのDEMUX処理を行う。
【0145】
例えば、デマルチプレクサ51は、TLVパケットを用いて伝送された、NTP形式の時刻情報を含むIPパケットを抽出し、比較器52に出力する。
図5を参照して説明したように、NTP形式の時刻情報を含むIPパケットは、TLVストリームを構成するスロットのうちの最初のスロットの先頭に配置される。
【0146】
また、デマルチプレクサ51は、IPパケットを用いて伝送されたMMTPパケットのうち、MMT-SIを格納するMMTPパケットをMMT-SI解析部55に出力する。デマルチプレクサ51は、MPUを構成するビデオデータ、オーディオデータを格納するMMTPパケットをMPU/MMTパケット解析部58に出力する。MMTPペイロードに格納されるデータの種類については、MMTPパケットのpayload_typeにより識別される(
図8)。
【0147】
比較器52は、デマルチプレクサ51から供給されたIPパケットに格納されたNTP形式の時刻情報(32+nbitのカウンタ値)をNTPクロックカウンタ53に出力し、カウンタ値の初期値として設定する。
【0148】
また、比較器52は、NTP形式の時刻情報を含むIPパケットがデマルチプレクサ51から供給される毎に、NTPクロックカウンタ53からの時刻情報と、デマルチプレクサ51から供給されたNTP形式の時刻情報との誤差を求め、NTPクロックカウンタ53に出力する。
【0149】
NTPクロックカウンタ53は、図示せぬVCOが生成する2
nHzのクロック信号をカウントし、32+nbitのカウンタ値を表す2
nHzのシステムクロック信号を出力する。NTPクロックカウンタ53から出力されたシステムクロック信号は、比較器52、クロック変換部54、および映像音声同期制御部56に供給される。
【0150】
クロック変換部54は、NTPクロックカウンタ53から供給された2
nHzのシステムクロック信号により表される32+nbitのカウンタ値を、MPEG-2 TSのPCRを示す42bitのカウンタ値(27MHz)に変換する。クロック変換部54による変換の詳細については後述する。クロック変換部54は、変換して得られた42ビットのカウンタ値をPCRとしてTS化処理部62に出力する。
【0151】
MMT-SI解析部55は、デマルチプレクサ51から供給されたIPパケットに格納されたMMTPパケットからMMT-SIを取得し、解析する。例えば、MMT-SI解析部55は、MMTPパケットに格納されたPAメッセージにより伝送されたMPTを取得し、MPTに記述されたMPUタイムスタンプ記述子(
図16)とMPU拡張タイムスタンプ記述子(
図17)を取得する。
【0152】
また、MMT-SI解析部55は、MPUタイムスタンプ記述子に基づいて各MPUのPTSを算出する(特定する)。MMT-SI解析部55は、各MPUのPTSと、MPU拡張タイムスタンプ記述子の記述とを
図18を参照して説明したようにして用いて、各MPUを構成するアクセスユニットのDTSを算出する。
【0153】
MMT-SI解析部55は、算出したPTSとDTSを、MPUのシーケンス番号を示すmpu_sequence_numberとともに、映像音声同期制御部56とタイムスタンプ変換部57に出力する。上述したように、MPUタイムスタンプ記述子に含まれるmpu_sequence_numberは、提示時刻を指定するMPUのシーケンス番号を示す(
図16)。また、MPU拡張タイムスタンプ記述子に含まれるmpu_sequence_numberは、復号時刻等を指定するアクセスユニットが含まれるMPUのシーケンス番号を示す(
図17)。
【0154】
MMT-SI解析部55は、TTML形式の字幕データ(以下、適宜、TTML字幕という)の伝送が行われており、TTML文書内の時刻がNTP形式で表される場合、MH-データ符号化方式記述子を解析し、その起点となる時刻であるRST(Reference Start Time)を特定する。MMT-SI解析部55は、特定したRSTを映像音声同期制御部56とタイムスタンプ変換部57に出力する。
【0155】
映像音声同期制御部56は、NTPクロックカウンタ53からのシステムクロック信号に従って動作し、MMT-SI解析部55により算出されたPTSとDTSに基づいて、映像音声デコーダ60によるデコードと出力のタイミングを制御する。映像音声同期制御部56による映像音声デコーダ60の制御は、MPU/MMTパケット解析部58から供給されたMPUメタデータ、ムービーフラグメントメタデータなどのメタデータにも基づいて行われる。
【0156】
タイムスタンプ変換部57は、MMT-SI解析部55により算出されたPTSとDTSを表す32+nbitのカウンタ値を、それぞれ、MPEG-2 TSの33bitのPTSとDTSを表すカウンタ値(90kHz)に変換する。タイムスタンプ変換部57による変換の詳細については後述する。タイムスタンプ変換部57は、変換して得られたMPEG-2 TSのPTSとDTSをTS化処理部62に出力する。
【0157】
タイムスタンプ変換部57からは、変換して得られたMPEG-2 TSのPTSとDTSが関係するMPUのシーケンス番号を表すmpu_sequence_numberが出力される。また、タイムスタンプ変換部57においては、適宜、MPEG-2 TSに含める必要のあるSIがMMT-SIに基づいて生成され、TS化処理部62に出力される。
【0158】
また、タイムスタンプ変換部57は、MMT-SI解析部55により特定されたRSTのカウンタ値をMPEG-2 TSの33bitのカウンタ値(90kHz)に変換する。タイムスタンプ変換部57は、変換して得られたカウンタ値を、MTS(Module Time Stamp)としてTS化処理部62に出力する。
【0159】
タイムスタンプ変換部57は、変換の対象とするMMTのビデオ、オーディオの伝送が閏秒を跨いで行われている場合、閏秒の調整の影響を排除するようにタイムスタンプの変換を行う。
【0160】
MPU/MMTパケット解析部58は、デマルチプレクサ51から供給されたIPパケットに格納されたMMTPパケットを解析することによって、各MPUのデータを取得する。各MPUのデータであるMPUメタデータ、ムービーフラグメントメタデータ、およびMFUは、それらが属するMPUのシーケンス番号を示す情報であるMPU_sequence_number(
図9)により特定される。
【0161】
MPU/MMTパケット解析部58は、MMTのコンテンツの再生時、MMTPペイロードから取得した各MPUのMPUメタデータとムービーフラグメントメタデータなどのメタデータを映像音声同期制御部56に出力する。また、MPU/MMTパケット解析部58は、MMTPペイロードから取得した、各MPUを構成するMFUのビデオデータとオーディオデータをデコーダバッファ59に出力する。
【0162】
一方、MPU/MMTパケット解析部58は、MMTからMPEG-2 TSへフォーマットの変換時、MMTPペイロードから取得した、各MPUを構成するMFUのビデオデータ(VIDEO ES)とオーディオデータ(AUDIO ES)を、MPU_sequence_numberとともにバッファ61に出力する。
【0163】
TTML字幕の伝送が行われている場合、MPU/MMTパケット解析部58は、MMTPペイロードから取得したTTML字幕のデータ(SUBTITLE DATA)をMPU_sequence_numberとともにバッファ61に出力する。
【0164】
映像音声デコーダ60は、映像音声同期制御部56による制御に従って、デコーダバッファ59に記録されたビデオデータとオーディオデータをデコードし、出力する。映像音声デコーダ60から出力されたデータは出力制御部35に供給され、コンテンツの映像と音声が出力される。
【0165】
TS化処理部62は、バッファ61に記録されたビデオデータ、オーディオデータのデータのうち、MPU_sequence_numberとして同じ値が設定されたデータをまとめることによってPESを構成する。また、TS化処理部62は、各PESに対して、タイムスタンプ変換部57から供給された、各PESに関連するPTSとDTSを付加し、PESパケットを生成する。各PTS/DTSをどのPESに付加するのかは、タイムスタンプ変換部57から供給されたmpu_sequence_numberに基づいて特定される。
【0166】
TS化処理部62は、生成したPESパケットのTSパケット化を行う。TS化処理部62は、PESパケットのデータをペイロードに格納したTSパケットと、クロック変換部54により生成されたPCRをアダプテーションフィールドに含むTSパケットに基づいてTSを生成する。
【0167】
TS化処理部62は、TTML字幕のデータをDSM-CC(Digital Storage Media Command and. Control)のMulti Part Module形式で多重化することによってTSを生成することなども行う。
【0168】
Partial TSの生成時、TS化処理部62は、ARIB STD-B14で規定される、PAT、PMT、
DIT、SITなどのMPEG-2 TSのSIを、タイムスタンプ変換部57から供給された情報に基づいてTSに埋め込む。
【0169】
PAT(Program Association Table)は、Partial TSに関連するPMTを伝送するTSパケットのパケット識別子を指定する情報である。PMT(Program Map Table)は、放送番組を構成する各符号化信号を伝送するTSパケットのパケット識別子を指定する情報である。PATとPMTは、100msに一回以上の周期で再送される。
【0170】
DIT(Discontinuity Information Table)は、Partial TSで伝送される番組の番組配列情報が不連続かもしれない変化点を指示する情報である。SIT(Selection Information Table)は、Partial TSで伝送される番組に関する情報を指示する情報である。
【0171】
TS化処理部62は、以上のようなTS化処理を行うことによって得られたTSを記録制御部33に出力する。
【0172】
制御部63は、クロック変換処理で用いられるカウンタ値の初期値をクロック変換部54に設定し、タイムスタンプ変換処理で用いられるカウンタ値の初期値をタイムスタンプ変換部57に設定する。
【0173】
フォーマット変換時に行われる、クロック変換処理、タイムスタンプ変換処理、およびES再多重変換処理は、それぞれ異なる処理時間を要する。クロック変換処理は、
図24の矢印#11で示す、比較器52、NTPクロックカウンタ53、およびクロック変換部54における処理である。タイムスタンプ変換処理は、矢印#12で示すMMT-SI解析部55、タイムスタンプ変換部57における処理である。ES再多重変換処理は、矢印#13で示すMPU/MMTパケット解析部58、バッファ61における処理である。
【0174】
制御部63は、それぞれの処理の遅延の影響を排除するように初期値を設定することによってオフセット調整を行う。
【0175】
記録制御部33は、T-STD81、PLL82、Arrival time clock counter83、Source packetizer84、およびWrite Buffer85から構成される。なお、
図23に示す記録制御部33の構成は、レコーディングプロセスを規定するための概念上のモデルである。記録制御部33は、このレコーダモデルに従って、TSを構成するTSパケットにATS(Arrival_time_stamp)を付加し、ソースパケットの並びを生成する機能を有する。
【0176】
MMT信号処理部32から供給されたTSのi番目のバイトは、T-STD(Transport stream system target decoder)81とSource packetizer84に対して、時刻t(i)に入力される。
【0177】
なお、T-STD81はレコーダモデルにおける仮想的なデコーダである。T-STD81に対応するデコーダが記録制御部33に存在するわけではない。
【0178】
PLL82は、TSのPCRの値にロックされた27MHzのクロックを発生する。
【0179】
Arrival time clock counter83は、PLL82が出力する27MHzの周波数のパルスをカウントするバイナリカウンタである。Arrival_time_clock(i)は、時刻t(i)におけるArrival time clock counter83のカウンタ値である。
【0180】
Source packetizer84は、すべてのTSパケットにTP_extra_headerを付加し、ソースパケットを生成する。また、Source packetizer84は、TSパケットにATSを付加する。
【0181】
具体的には、Source packetizer84は、Arrival time clock counter83から供給されるArrival_time_clock(i)を基に、ソースパケットのTP_extra_headerにおけるATSの値を設定する。ATSは、TSパケットの第1バイト目がT-STD81とSource packetizer84の両方へ到着する時刻を表す。
【0182】
Write Buffer85は、Source packetizer84により生成されたソースパケットを記録する。Write Buffer85から出力された各ソースパケットは、ドライブ34に供給され、記録媒体11に記録される。
【0183】
このように、MMT信号処理部32においては、TTML字幕の伝送が行われている場合にはそのタイムスタンプの変換も行われる。以下においては、ビデオ、オーディオ、TTML字幕に関するクロックの変換と、ビデオとオーディオのタイムスタンプの変換について主に説明する。
【0184】
<5.カウンタ値の変換について>
<5−1.タイムスタンプ変換>
ここで、PTS/DTSを示すカウンタ値の変換について説明する。
【0185】
(1)タイムスタンプ変換の基本的な流れ
図25は、MPEG-2 TSにおけるカウンタ値と時間の関係を示す図である。
【0186】
図25に示すグラフの横軸は時刻を示し、縦軸はカウンタ値を示す。
図26以降においても同様である。
【0187】
MPEG-2 TSのPTS/DTSは、33bit@90kHzのカウンタ値で表される。「@90kHz」の表記は、カウンタの精度(分解能)が90kHzであることを表す。
【0188】
MPEG-2 TSのカウンタ値のラップアラウンド(桁上がり)は、下式(3)に示されるように、おおよそ26.5h毎に生じる。
【数3】
【0189】
MPEG-2 TSのカウンタ値と実時間との関係は、
図25の実線で示されるものとなる。
【0190】
図26は、MMTにおけるカウンタ値と時間の関係を示す図である。
【0191】
MMTのPTS/DTSは、NTP形式により32+nbit@2
nHzのカウンタ値で表される。
【0192】
MMTのカウンタ値のラップアラウンドは、下式(4)に示されるように、1193046h毎に生じる。
【数4】
【0193】
MMTのカウンタ値と実時間との関係は、
図26の実線で示されるものとなる。
【0194】
NTPのカウンタ値は、UTCの1900年1月1日0時0分0秒を起点とした値である。MPEG-2 TSのSTC(System Time Clock)の起点における時刻を、原点の1900年1月1日0時0分0秒より後の任意の時刻として、MPEG-2 TSのカウンタの特性(
図25)とMMTのカウンタの特性(
図26)を重ねて示すと
図27に示すものとなる。
【0195】
1900年1月1日0時0分0秒と、システム/プログラム毎に独立に計時されるMPEG-2 TSのSTCおよびそれを伝送するPCR(Program Clock Reference)の起点とは固定的な関係がないため、NTPの起点とSTCの起点を一致させる必要はない。
【0196】
ここで、MPEG-2 TSのSTCのカウント開始時刻を時刻Sとする。時刻Sは、例えばコンテンツのフォーマットを変換してBDに記録(録画)する際の録画開始時刻である。
【0197】
また、時刻Sにおける、MMTのカウンタ値(UTC時刻)をS@MMT、MPEG-2 TSのカウンタ値(STCカウント開始値(初期値))をS’@MPEG-2 TSとする。
【0198】
MMTのPTS/DTSが所定の時刻を示す場合、それに対応するMPEG-2 TSのPTS/DTSは、その所定の時刻を表すMPEG-2 TSのカウンタ値を、MMTのカウンタ値に基づいて求めることによって特定される。
【0199】
具体的には、MPEG-2 TSのカウンタ値X’は、MMTのカウンタ値Xを元にして以下の手順で求められる。
【0200】
・手順1
MPEG-2 TSのカウンタ(33bit@90kHz)のラップアラウンドが生じるカウンタ値A’は、下式(5)により表される。
【数5】
【0201】
MMTのカウンタ(32+nbit@2
nHz)の1秒未満をnbit分解能(2
nHz)として、2
33を2
nと90kの比とする。この場合、MPEG-2 TSのカウンタのラップアラウンド毎の、MMTのカウンタ値の間隔Aは、下式(6)により表される。
【数6】
【0202】
MPEG-2 TSのカウンタ値A’とMMTのカウンタ値の間隔Aを
図27に示す。
【0203】
・手順2
MMTのカウンタ値XをX@MMT、X@MMTを元にして求めようとするMPEG-2 TSのカウンタ値X’をX’@MPEG-2 TSとする。X@MMTとX’@MPEG-2 TSの例を
図28に示す。
【0204】
MMTのカウンタ値がX@MMTとなる時刻(時刻X)における、MPEG-2 TSのカウンタ値であるX’@MPEG-2 TSは、MMTのカウンタ値がS@MMTからX@MMTまで増加する間のMPEG-2 TSのカウンタ値の増加分に、MPEG-2 TSのカウンタの初期値S’を加えたものである。
図28の白丸で示すX’aliasは、下式(7)により表される。
【数7】
【0205】
A’(MPEG-2 TSのカウンタ値A’)の剰余を求めることによってMPEG-2 TSのカウンタのラップアラウンドの影響を排除すると、求めようとするMPEG-2 TSのカウンタ値X’は下式(8)により表される。
【数8】
【0206】
このように、MPEG-2 TSのカウンタ値として任意の初期値S’を設定した上で、MMTのカウンタ値Xに対応する、MPEG-2 TSのカウンタ値X’を求めることが可能になる。
【0207】
任意の初期値S’を設定できるようにすることにより、クロック変換処理やES再多重変換処理との遅延差や、MMTとMPEG-2 TSのバッファモデルの違いによるタイミング差の調整が可能になる。
【0208】
すなわち、制御部63は、遅延差などを調整するような初期値S’をタイムスタンプ変換部57に設定し、MMTのPTS/DTSをMPEG-2 TSのPTS/DTSに変換させる。
【0209】
(2)閏秒の調整を考慮したタイムスタンプ変換
(2−1)閏秒の挿入があった場合
図29は、閏秒の挿入があった場合のタイムスタンプの変換の例を示す図である。
図29には、閏秒の挿入があった時刻(午前8時59分59秒)近傍が拡大して示されている。
【0210】
図29の下方に示すように、閏秒の挿入があった場合、MPU拡張タイムスタンプ記述子のmpu_presentation_time_leap_indicator(
図17)の値は、1回目の午前8時59分59秒の直後のタイミングで1から0に切り替わる。TTML字幕の時刻の閏秒の調整に用いられるMH-データ符号化方式記述子のreference_start_time_leap_indicatorの値も、mpu_presentation_time_leap_indicatorの値と同様にして切り替わる。
【0211】
また、閏秒の挿入があった場合、NTPのleap_indicator(
図4)の値は、午前8時59分59秒を挿入した直後のタイミングで1から0に切り替わる。
【0212】
この場合、
図29の上方に示すように、MMTのカウンタ値は、閏秒である2回目の午前8時59分59秒になる直前のタイミングで、閏秒(1秒)に相当する分だけ減少し、その後、閏秒の挿入がある前と同様に増加する。MMTのカウンタ値は、実線#21と実線#22に示すように不連続点を挟んで増加することになる。
【0213】
ここで、例えばBDに記録する場合の1Clip(1TS)の連続録画時間は最大約26時間半であるから、実用的な連続録画時間内に考慮する必要がある閏秒による調整回数は1回と仮定できる。
【0214】
閏秒挿入以降のある時刻のMMTのカウンタ値X(X@MMT)を元にして、MPEG-2 TSのカウンタ値X’を上述したようにして求めた場合、
図29において黒丸で示されるMPEG-2 TSのカウンタ値X’(X’@MPEG-2 TS)が求められる。このMPEG-2 TSのカウンタ値X’は、閏秒の挿入分を補正する前のカウンタ値となる。
【0215】
MMTのカウンタ値Xを元にして求めたMPEG-2 TSのカウンタ値X’を以下のように補正する。閏秒の挿入によるUTC補正は1秒の補正であるから、MPEG-2 TSのカウンタ値の補正量は、90kHzのカウンタでは90000となる。
【0216】
(i)変換元のMMTのカウンタ値の情報が載った記述子のleap_indicatorの値が1の期間が、録画開始時刻(時刻S)からMMTのカウンタ値の時刻までの間にあり、変換対象となるMMTのカウンタ値の時刻においてはleap_indicatorの値が0である場合。
【0217】
この場合、MMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’は下式(9)により補正される。
【数9】
【0218】
これにより、閏秒挿入以降のある時刻のMMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’は、上向き矢印の先に示すように補正される。閏秒の挿入があった場合でも、MPEG-2 TSのカウンタ値X’の増加は、不連続点を挟むことなく、直線#31で表されることになる。
【0219】
(ii)それ以外の場合。すなわち、変換元のMMTのカウンタ値の情報が載った記述子のleap_indicatorの値が1の期間が、録画開始時刻からMMTのカウンタ値の時刻までの間にないか、または、変換対象となるMMTのカウンタ値の時刻においてはleap_indicatorの値が1である場合。
【0220】
この場合、MPEG-2 TSのカウンタ値X’の補正は行われず、MMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’がそのまま用いられる。
【0221】
(2−2)閏秒の削除があった場合
図30は、閏秒の削除があった場合のタイムスタンプの変換の例を示す図である。
図30には、閏秒の削除があった時刻(午前8時59分59秒)近傍が拡大して示されている。
【0222】
図30の下方に示すように、閏秒の削除があった場合、MPU拡張タイムスタンプ記述子のmpu_presentation_time_leap_indicator(
図17)の値は、午前8時59分58秒の直後のタイミングで2から0に切り替わる。TTML字幕の時刻の閏秒の調整に用いられるMH-データ符号化方式記述子のreference_start_time_leap_indicatorの値も、mpu_presentation_time_leap_indicatorの値と同様にして切り替わる。
【0223】
また、閏秒の削除があった場合、NTPのleap_indicator(
図4)の値は、午前8時59分58秒の直後のタイミングで2から0に切り替わる。
【0224】
この場合、
図30の上方に示すように、MMTのカウンタ値は、午前8時59分59秒になる直前のタイミングで、閏秒(1秒)に相当する分だけ増加し、その後、閏秒の削除がある前と同様に増加する。MMTのカウンタ値は、実線#51と実線#52に示すように不連続点を挟んで増加することになる。
【0225】
ここで、例えばBDに記録する場合の1Clip(1TS)の連続録画時間は最大26時間半であるから、実用的な連続録画時間内に考慮する必要がある閏秒による調整回数は1回と仮定できる。
【0226】
閏秒削除以降のある時刻のMMTのカウンタ値X(X@MMT)を元にして、MPEG-2 TSのカウンタ値X’を上述したようにして求めた場合、
図30において黒丸で示されるMPEG-2 TSのカウンタ値X’(X’@MPEG-2 TS)が求められる。このMPEG-2 TSのカウンタ値X’は、閏秒の削除分を補正する前のカウンタ値となる。
【0227】
MMTのカウンタ値Xを元にして求めたMPEG-2 TSのカウンタ値X’を以下のように補正する。閏秒の削除によるUTC補正は毎回1秒の補正であるから、MPEG-2 TSのカウンタ値の補正量は、90kHzカウンタでは90000となる。
【0228】
(i)変換元のMMTのカウンタ値の情報が載った記述子のleap_indicatorの値が2の期間が、録画開始時刻からMMTのカウンタ値の時刻までの間にあり、変換対象となるMMTのカウンタ値の時刻においてはleap_indicatorの値が0である場合。
【0229】
この場合、MMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’は下式(10)により補正される。
【数10】
【0230】
これにより、閏秒削除以降のある時刻のMMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’は、下向き矢印の先に示すように補正される。閏秒の削除があった場合でも、MPEG-2 TSのカウンタ値X’の増加は、不連続点を挟むことなく、直線#61で表されることになる。
【0231】
(ii)それ以外の場合。すなわち、変換元のMMTのカウンタ値の情報が載った記述子のleap_indicatorの値が2の期間が、録画開始時刻からMMTのカウンタ値の時刻までの間にないか、または、変換対象となるMMTのカウンタ値の時刻においてはleap_indicatorの値が2である場合。
【0232】
この場合、MPEG-2 TSのカウンタ値X’の補正は行われず、MMTのカウンタ値Xを元にして求められたMPEG-2 TSのカウンタ値X’がそのまま用いられる。
【0233】
このように、タイムスタンプ変換部57は、MMTの時刻情報において閏秒による調整があった場合、その影響を排除するように、MPEG-2 TSのカウンタ値X’の補正を行う。
【0234】
なお、閏秒の調整があるか否かの判断は、MPU拡張タイムスタンプ記述子の解析結果に基づいて行われるようにしてもよいし、NTPの解析結果に基づいて行われるようにしてもよい。後者の場合、例えば、図示せぬ解析部によりNTPの解析が行われ、leap_indicatorの値を表す情報が解析結果としてタイムスタンプ変換部57に供給される。
【0235】
<5−2.クロック変換>
次に、クロック変換について説明する。
【0236】
MMTにおいて、NTP形式の参照時刻は、32+nbit@2
nHzのカウンタ値として表される。
【0237】
また、MPEG-2 TSにおいて、参照時刻としてのPCRは、42bit@27MHzのカウンタ値(下式)として表される。
33bit(90kHz counter 0-(2
33-1)) + 6bit(Reserve) + 9bit(27MHz counter 0-300)
【0238】
クロック変換部54は、32+nbit@2
nHzのカウンタ値を42bit@27MHzのカウンタ値に変換し、PCRとして出力する。
【0239】
図31は、クロック変換処理を行う構成を示すブロック図である。
【0240】
図31に示す構成のうち、
図23を参照して説明した構成には同じ符号を付してある。
図31に示すように、クロック変換処理は、2
nHz PLL101と27MHz PLL102の2段のPLLにより行われる。27MHz PLL102が、クロック変換部54に相当する。
【0241】
2
nHz PLL101は、比較器52、2
nHz VCO111、およびNTPクロックカウンタ53により構成される。2
nHz PLL101に対しては、NTP形式の時刻情報がデマルチプレクサ51から入力される。
【0242】
比較器52は、NTP形式の時刻情報(reference_timestamp)が入力されたことをトリガとして、入力された32+nbit@2
nHzのカウンタ値と、NTPクロックカウンタ53のカウンタ値とを比較する。
【0243】
比較器52に対しては、例えば図示せぬ解析部により解析されたreference_timestampの値が入力される。
図4を参照して説明したように、reference_timestampは32+nbit@2
nHzのカウンタ値である。比較器52は、比較結果に応じて2
nHz VCO111の発振周波数を制御する。比較器52によるカウンタ値の比較は、NTP形式の時刻情報が入力される毎に行われる。
【0244】
2
nHz VCO111は、比較器52による制御に従って、2
nHzのクロック信号(NTPクロック)をNTPクロックカウンタ53に出力する。
【0245】
NTPクロックカウンタ53は、カウント開始時、NTP形式の時刻情報に基づいてカウンタ値の初期値を設定する。閏秒による調整が行われている場合、閏秒の調整後のカウンタ値が設定される。
【0246】
NTPクロックカウンタ53は、nbitカウンタ53Aと32bitカウンタ53Bから構成される。NTPクロックカウンタ53は、2
nHz VCO111から供給されるNTPクロックに応じて、1秒以下を表すカウンタ値のカウントをnbitカウンタ53Aにおいて行い、1秒以上を表すカウンタ値のカウントを32bitカウンタ53Bにおいて行う。NTPクロックカウンタ53による32+nbit@2
nHzのカウンタ値は比較器52に供給される。
【0247】
一方、27MHz PLL102は、分周器121、設定器122、比較器123、27MHz VCO124、STCカウンタ125、および演算器126から構成される。分周器121に対しては、nbitカウンタ53Aのカウンタ値が入力される。
【0248】
すなわち、NTPクロックカウンタ53の1秒以上を表すカウンタ値は、27MHz PLL102においては用いられない。閏秒の調整は1秒の調整であるから、MMTにおいて生じることのある閏秒の調整の影響は、nbitカウンタ53Aのカウンタ値だけが27MHz PLL102に入力されるようにすることにより、いわば吸収されることになる。
【0249】
分周器121は、nbitカウンタ53Aのカウンタ値を分周比xで分周し、トリガ信号を比較器123に周期的に出力する。
【0250】
設定器122は、期待値dを比較器123に設定する。期待値dは、nbitカウンタ53Aのカウンタ値がxだけカウントアップす
る間の、STCの増加分ΔSTCの期待値である。
【0251】
ここで、分周比xと期待値dは、下式(11)の関係を満たすように設定される。
【数11】
【0252】
分周比xと期待値dが上式(11)の関係を満たすことは、NTPとSTCのそれぞれの時間粒度(2
nHzと27MHz)に誤差(剰余)が生じない周波数で比較器123により比較が行われることを表す。
【0253】
例えば、n=24bit、比較周波数を32Hzとすると、分周比xと期待値dはそれぞれ下式(12)、(13)のように表される。
【数12】
【数13】
【0254】
この例の場合、比較器123による比較は31.25msec(1/32Hz)周期で行われる。この比較周期はNTPの送出間隔である33.04647msecに近く、これにより、27MHz PLL102での位相比較(カウンタ値の比較)が、NTPの送出間隔に近い周期で行われることになる。
【0255】
比較器123は、分周器121からトリガ信号が供給される毎に、設定器122により設定された期待値dと、演算器126により求められたSTCの増加分ΔSTCとを比較する。比較器123は、比較結果に応じて27MHz VCO124の発振周波数を制御する。
【0256】
期待値dに対して増加分ΔSTCが遅れている場合にはSTCを進ませるように発振周波数が制御され、期待値dに対して増加分ΔSTCが進んでいる場合にはSTCを遅らせるように発振周波数が制御される。
【0257】
27MHz VCO124は、比較器123による制御に従って27MHzのクロック信号(STCクロック)をSTCカウンタ125に出力する。
【0258】
STCカウンタ125は、9bitカウンタ125Aと33bitカウンタ125Bから構成される。STCカウンタ125は、27MHz VCO124から供給されるSTCクロックに応じて9bitカウンタ125Aにおいてカウンタ値のカウントを行う。また、STCカウンタ125は、27MHzのSTCクロックを300分周した90kHzのクロック信号に応じて33bitカウンタ125Bにおいてカウンタ値のカウントを行う。
【0259】
9bitカウンタ125Aと33bitカウンタ125Bの42bit(33bit+9bit)のカウンタ値はSTCであり、演算器126に供給される。また、42bit(33bit+9bit)のカウンタ値は、MPEG-2 TSのPCRを示す42bitのカウンタ値として出力される。
【0260】
STCカウンタ125は、リセット時、カウンタ値の初期値を設定する。初期値は、タイムスタンプ変換処理の遅延とES再多重変換処理の遅延の影響を排除するような値が設定される。
【0261】
演算器126は、比較周期毎のSTCの増加分ΔSTCを求め、比較器123に出力する。STCカウンタ125のラップアラウンドの影響は、増加分ΔSTCの算出時に排除される。
【0262】
このように、クロック変換は、2
nHz PLL101と27MHz PLL102の2段のPLLを用いて行われる。NTPクロックの復調を行う2
nHz PLL101の後段に27MHz PLL102を設けることにより、STCクロックを、NTPクロックに同期させることが可能になる。
【0263】
NTPの閏秒の調整は±1秒の調整であるため、27MHz PLL102における比較動作が、nbitカウンタ53Aのカウンタ値に基づいて32Hzのような所定の整数の比較周波数で行われるようにすることにより、NTPの閏秒の調整が27MHz PLL102におけるクロック変換に影響しないことになる。すなわち、閏秒の調整に影響されないクロック変換が可能となる。
【0264】
また、STCカウンタ125の初期値として任意の値を設定可能な構成とすることにより、オフセット調整機能を27MHz PLL102が持つことになる。これにより、タイムスタンプ変換処理やES再多重化変換処理との遅延差の影響を排除することが可能になる。
【0265】
また、比較器123による比較が増分期待値を用いた比較であるため、NTP/UTC値とSTC初期値の関係を自由に選ぶことが可能になる。
【0266】
<6.情報処理装置の動作>
次に、
図32のフローチャートを参照して、MMTのコンテンツをMPEG-2 TSのコンテンツに変換し、記録媒体11に記録する情報処理装置1の一連の処理について説明する。
【0267】
ステップS1において、受信部31は、放送波の伝送路または通信の伝送路を介して供給されたMMTのコンテンツを受信して取得する。受信部31は、MMTのコンテンツのデータであるTVLストリームをMMT信号処理部32に出力する。
【0268】
ステップS2において、MMT信号処理部32のデマルチプレクサ51は、TLVストリームを構成するTLVパケットからIPパケットを抽出し、DEMUX処理を行う。すなわち、NTP形式の時刻情報を含むIPパケットは比較器52に供給され、MMT-SIを格納するMMTPパケットはMMT-SI解析部55に供給される。MPUを構成するビデオデータ、オーディオデータを格納するMMTPパケットはMPU/MMTパケット解析部58に供給される。
【0269】
ステップS3において、MPU/MMTパケット解析部58は、各MPUを構成するMFUのビデオデータ、オーディオデータをMMTPパケットから抽出する。抽出されたデータはMPU_sequence_numberとともにバッファ61に出力され、記憶される。
【0270】
ステップS4において、MMT-SI解析部55は、MMTPパケットに格納されているMMT-SIを解析することによってMPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子を取得する。
【0271】
ステップS5において、MMT-SI解析部55は、MPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子に基づいて、各MPUのPTSと、各MPUを構成するアクセスユニットのDTSを算出する。
【0272】
また、MMT-SI解析部55は、例えばMPU拡張タイムスタンプ記述子を解析することによって、閏秒の調整が行われているか否かを特定する。閏秒の調整が行われているか否かを表す情報は、PTS/DTSの情報とともにタイムスタンプ変換部57に供給される。
【0273】
ステップS6において、制御部63は、初期値となる所定のカウンタ値をクロック変換部54とタイムスタンプ変換部57にそれぞれ設定し、オフセット調整を行う。ここで設定される初期値は、例えば、クロック変換処理、タイムスタンプ変換処理、ES再多重変換処理の3つの処理の遅延に基づいて予め決められている値である。
【0274】
具体的には、MPEG-2 TSに多重化する同じタイミングのデータを得るための上記3つの処理のうち、クロック変換処理が、処理時間が最も短い処理であるとする。また、クロック変換処理の処理時間を基準としたときに、タイムスタンプ変換処理には+0.5秒の遅延があり、ES再多重変換処理には+1.0秒の遅延があるものとする。同じ時刻のデータとして多重化するPCR、タイムスタンプ、ビデオ/オーディオデータについては、ほぼ同じタイミングでTS化処理部62に供給される必要がある。
【0275】
この場合、制御部63は、クロック変換処理の初期値として、STCカウンタ125のカウンタ値を1.0秒だけ遅らせるような値を設定し、タイムスタンプ変換処理の初期値として、時刻Sを0.5秒だけ遅らせるような値を設定する。
【0276】
図32の説明に戻り、ステップS7において、タイムスタンプ変換部57は、MMTのタイムスタンプをMPEG-2 TSのタイムスタンプに変換する。すなわち、タイムスタンプ変換部57は、MMT-SI解析部55により算出されたMMTのPTS/DTSを表す32+nbit@2
nHzのカウンタ値を、それぞれ、MPEG-2 TSのPTS/DTSを表す33bit@90kHzのカウンタ値に変換する。
【0277】
ステップS8において、クロック変換部54は、32+nbit@2
nHzのカウンタ値として表されるNTP形式の時刻情報を、MPEG-2 TSのPCRを示す42bitのカウンタ値に変換する。ここでは、2
nHz PLL101と27MHz PLL102により、
図31を参照して説明した処理が行われ、42bit@27MHzのカウンタ値が生成される。生成されたカウンタ値はPCRとしてTS化処理部62に供給される。
【0278】
ステップS9において、TS化処理部62は、MPU_sequence_numberとして同じ値が設定されたビデオデータとオーディオデータを用いてPESを構成し、各PESに関連するPTSとDTSを付加することによってPESパケットを生成する。
【0279】
ステップS10において、TS化処理部62は、PESパケットのTSパケット化を行う。
【0280】
ステップS11において、TS化処理部62は、PESパケットのデータをペイロードに格納したTSパケットに対して、クロック変換部54により生成されたPCRをアダプテーションフィールドに含むTSパケットを挿入し、TSを生成する。適宜、MMT-SIに基づいて生成されたSIを格納するTSパケットもTSに挿入される。
【0281】
ステップS12において、記録制御部33は、ドライブ34を制御し、MMT信号処理部32により生成されたTSを記録媒体11に記録させる。情報処理装置1は、いわば、変換して得られたMPEG-2 TSのファイルを記録した記録媒体を製造する製造装置としても機能することになる。
【0282】
図33は、情報処理装置1における一連の変換処理を示す図である。
【0283】
左端の破線矢印#101の先に示すように、クロック変換処理として、NTP形式の時刻情報である32+nbit@2
nHzのカウンタ値を、42bit@27MHzのカウンタ値に変換する処理が行われる。クロック変換処理にはオフセット調整が行われる。
【0284】
破線矢印#102の先に示すように、クロック変換処理により得られた42bit@27MHzのカウンタ値はPCRとしてTSパケットのアダプテーションフィールドに記述される。
【0285】
破線矢印#103の先に示すように、MMTのMPTを解析することによって生成された、PMTなどのA/V符号化情報(SI)がTSに多重化される。
【0286】
MPTに含まれるMPUタイムスタンプ記述子とMPU拡張タイムスタンプ記述子の解析が行われ、破線矢印#104の先に示すように、各AUのPTS/DTSがMPU毎に算出される。
【0287】
32+nbit@2
nHzのカウンタ値として表される、破線矢印#105の先に示す各AUのPTS/DTSは、破線矢印#106の先に示すように、タイムスタンプ変換処理が行われることによって、MPEG-2 TSのPTS/DTSに変換される。タイムスタンプ変換処理にはオフセット調整が行われる。
【0288】
破線矢印#107の先に示すように、33bit@90kHzのカウンタ値として表される、タイムスタンプ変換処理により得られたMPEG-2 TSのPTS/DTSは、各PESパケットのPESヘッダに記述される。
【0289】
以上の処理により、時間軸が異なるMMTのコンテンツをMPEG-2 TSのコンテンツに変換し、BDなどの記録媒体に記録することができる。
【0290】
<7.変形例>
<7−1.逆変換について>
MMTのコンテンツをMPEG-2 TSのコンテンツに変換する場合について説明したが、MPEG-2 TSのコンテンツをMMTのコンテンツに変換することも可能である。
【0291】
この場合、情報処理装置1は、変換対象とするMPEG-2 TSのコンテンツのTSを構成するTSパケットからビデオデータとオーディオデータを取得し、MMTPパケットに格納し直す。
【0292】
また、情報処理装置1は、42bit@27MHzのカウンタ値として表されるPCRをTSパケットから抽出し、32+nbit@2
nHzのカウンタ値として表されるNTP形式の時刻情報に変換する。
【0293】
さらに、情報処理装置1は、33bit@90kHzのカウンタ値として表されるMPEG-2 TSのPTS/DTSをPESパケットから抽出し、32+nbit@2
nHzのカウンタ値として表されるMMTのPTS/DTSに変換する。この処理は、MPEG-2 TSのカウンタ値X’を元にして、MMTのカウンタ値Xを求める処理となる。
【0294】
情報処理装置1は、ビデオデータとオーディオデータを格納するMMTPパケットと、MMTのPTS/DTSの算出に用いる記述子を伝送する制御メッセージを格納するMMTPパケットを生成する。また、情報処理装置1は、生成したそれらのMMTPパケットを格納するIPパケットとNTP形式の時刻情報を含むIPパケットを多重化することによって、TLVストリームを生成する。
【0295】
<7−2.その他の例>
MMTからMPEG-2 TSへの変換とMPEG-2 TSからMMTへの逆変換について説明したが、変換/逆変換の対象となるコンテンツのフォーマットはMMTとMPEG-2 TSに限られるものではない。上述した処理は、時間軸が異なる各種のフォーマットの変換/逆変換に用いることができる。
【0296】
変換/逆変換の対象となるコンテンツが、ビデオデータとオーディオデータの両方を含むものであるものとしたが、いずれか一方のコンテンツのフォーマットの変換/逆変換に上述した処理を適用するようにしてもよい。また、ビデオデータとオーディオデータ以外の種類のデータのフォーマットの変換/逆変換に適用されるようにしてもよい。
【0297】
・コンピュータの構成例
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
【0298】
図34は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0299】
CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003は、バス1004により相互に接続されている。
【0300】
バス1004には、さらに、入出力インタフェース1005が接続される。入出力インタフェース1005には、キーボード、マウスなどよりなる入力部1006、ディスプレイ、スピーカなどよりなる出力部1007が接続される。また、入出力インタフェース1005には、ハードディスクや不揮発性のメモリなどよりなる記憶部1008、ネットワークインタフェースなどよりなる通信部1009、リムーバブルメディア1011を駆動するドライブ1010が接続される。
【0301】
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを入出力インタフェース1005及びバス1004を介してRAM1003にロードして実行することにより、上述した一連の処理が行われる。
【0302】
CPU1001が実行するプログラムは、例えばリムーバブルメディア1011に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部1008にインストールされる。
【0303】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0304】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0305】
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【0306】
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0307】
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0308】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0309】
・構成の組み合わせ例
本技術は、以下のような構成をとることもできる。
(1)
1秒以下の精度を2
nHz(nは24以上の整数)とする32+nビットカウンタのカウンタ値により表される第1のフォーマットのタイムスタンプを、1秒以下の精度を90kHzとする33ビットカウンタのカウンタ値により表される第2のフォーマットのタイムスタンプに変換するタイムスタンプ変換部と、
前記32+nビットカウンタのカウンタ値により表される前記第1のフォーマットの参照時刻を、1秒以下の精度を27MHzとする42ビットカウンタのカウンタ値により表される第2のフォーマットの参照時刻に変換する参照時刻変換部と、
タイムスタンプ変換における前記33ビットカウンタのカウンタ値の初期値と、を設定参照時刻の変換における前記42ビットカウンタのカウンタ値の初期値とをそれぞれ設定する制御部と
を備える情報処理装置。
(2)
前記タイムスタンプ変換部は、前記第1のフォーマットのタイムスタンプに閏秒の調整が行われたことに応じて補正した第2のフォーマットのタイムスタンプを生成する
前記(1)に記載の情報処理装置。
(3)
前記第1のフォーマットで多重化されたビデオストリームとオーディオストリームを含むデータを、前記第2のフォーマットで多重化し、多重化データを生成する処理部をさらに備える
前記(1)または(2)に記載の情報処理装置。
(4)
前記処理部は、前記第2のフォーマットのタイムスタンプと参照時刻が付加された前記多重化データを生成する
前記(3)に記載の情報処理装置。
(5)
前記制御部は、タイムスタンプの変換処理、参照時刻の変換処理、および多重化処理のそれぞれの処理時間に基づいて初期値を設定する
前記(4)に記載の情報処理装置。
(6)
前記第1のフォーマットはMMTであり、
前記第2のフォーマットはMPEG-2 TSである
前記(1)乃至(5)のいずれかに記載の情報処理装置。
(7)
1秒以下の精度を2
nHz(nは24以上の整数)とする32+nビットカウンタのカウンタ値により表される第1のフォーマットのタイムスタンプを、1秒以下の精度を90kHzとする33ビットカウンタのカウンタ値により表される第2のフォーマットのタイムスタンプに変換し、
前記32+nビットカウンタのカウンタ値により表される前記第1のフォーマットの参照時刻を、1秒以下の精度を27MHzとする42ビットカウンタのカウンタ値により表される第2のフォーマットの参照時刻に変換し、
タイムスタンプ変換における前記33ビットカウンタのカウンタ値の初期値と、参照時刻の変換における前記42ビットカウンタのカウンタ値の初期値とをそれぞれ設定する
ステップを含む情報処理方法。
(8)
1秒以下の精度を2
nHz(nは24以上の整数)とする32+nビットカウンタのカウンタ値により表される第1のフォーマットのタイムスタンプを、1秒以下の精度を90kHzとする33ビットカウンタのカウンタ値により表される第2のフォーマットのタイムスタンプに変換し、
前記32+nビットカウンタのカウンタ値により表される前記第1のフォーマットの参照時刻を、1秒以下の精度を27MHzとする42ビットカウンタのカウンタ値により表される第2のフォーマットの参照時刻に変換し、
タイムスタンプ変換における前記33ビットカウンタのカウンタ値の初期値と、参照時刻の変換における前記42ビットカウンタのカウンタ値の初期値とをそれぞれ設定する
ステップを含む処理をコンピュータに実行させるプログラム。
(9)
1秒以下の精度を2
nHz(nは24以上の整数)とする32+nビットカウンタのカウンタ値により表される第1のフォーマットのタイムスタンプを、1秒以下の精度を90kHzとする33ビットカウンタのカウンタ値により表される第2のフォーマットのタイムスタンプに変換し、
前記32+nビットカウンタのカウンタ値により表される前記第1のフォーマットの参照時刻を、1秒以下の精度を27MHzとする42ビットカウンタのカウンタ値により表される第2のフォーマットの参照時刻に変換し、
タイムスタンプ変換における前記33ビットカウンタのカウンタ値の初期値と、参照時刻の変換における前記42ビットカウンタのカウンタ値の初期値とをそれぞれ設定し、
前記第1のフォーマットで多重化されたビデオストリームとオーディオストリームを含むデータを、前記第2のフォーマットで多重化することによって多重化データを生成し、
前記多重化データを記録媒体に記録させる
記録媒体製造方法。