IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

<>
  • 特許-配信装置、受信装置、及びプログラム 図1
  • 特許-配信装置、受信装置、及びプログラム 図2
  • 特許-配信装置、受信装置、及びプログラム 図3
  • 特許-配信装置、受信装置、及びプログラム 図4
  • 特許-配信装置、受信装置、及びプログラム 図5
  • 特許-配信装置、受信装置、及びプログラム 図6
  • 特許-配信装置、受信装置、及びプログラム 図7
  • 特許-配信装置、受信装置、及びプログラム 図8
  • 特許-配信装置、受信装置、及びプログラム 図9
  • 特許-配信装置、受信装置、及びプログラム 図10
  • 特許-配信装置、受信装置、及びプログラム 図11
  • 特許-配信装置、受信装置、及びプログラム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-12
(45)【発行日】2023-12-20
(54)【発明の名称】配信装置、受信装置、及びプログラム
(51)【国際特許分類】
   H04N 21/238 20110101AFI20231213BHJP
   H04N 21/438 20110101ALI20231213BHJP
   H04N 21/236 20110101ALI20231213BHJP
   H04H 20/18 20080101ALI20231213BHJP
   H04H 60/76 20080101ALI20231213BHJP
【FI】
H04N21/238
H04N21/438
H04N21/236
H04H20/18
H04H60/76
【請求項の数】 10
(21)【出願番号】P 2019125601
(22)【出願日】2019-07-04
(65)【公開番号】P2021013077
(43)【公開日】2021-02-04
【審査請求日】2022-06-01
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001564
【氏名又は名称】フェリシテ弁理士法人
(72)【発明者】
【氏名】大西 正芳
(72)【発明者】
【氏名】山本 正男
(72)【発明者】
【氏名】藤澤 和也
(72)【発明者】
【氏名】西村 敏
(72)【発明者】
【氏名】大亦 寿之
【審査官】富樫 明
(56)【参考文献】
【文献】特開2013-162205(JP,A)
【文献】特開2012-244388(JP,A)
【文献】特開2003-101977(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00-21/858
H04H 20/18
H04H 60/76
(57)【特許請求の範囲】
【請求項1】
放送通信連携システムにおいて、放送により伝送される放送映像を受信する受信装置との通信を行う配信装置であって、
前記放送映像と合成して提示されるべき通信映像を取得するとともに、前記通信映像からフレーム単位の静止画を生成する静止画生成部と、
前記静止画生成部により生成された複数の静止画を結合することによりユニット静止画を生成する静止画結合部と、
前記静止画結合部により生成された前記ユニット静止画を通信により前記受信装置に伝送する通信部と、を備えることを特徴とする配信装置。
【請求項2】
前記放送映像との同期提示を行うための提示時刻情報を前記複数の静止画のそれぞれに付与し、前記提示時刻情報を前記ユニット静止画に多重する時刻情報付与部をさらに備えることを特徴とする請求項1に記載の配信装置。
【請求項3】
前記静止画結合部は、前記複数の静止画のそれぞれに対して、該静止画の前記ユニット静止画内での座標位置を示す座標情報を付与し、前記座標情報を前記ユニット静止画に多重することを特徴とする請求項1又は2に記載の配信装置。
【請求項4】
前記受信装置で検出されたユーザ操作の内容を示す操作情報を取得するとともに、前記操作情報に応じた描画処理を行うことにより前記通信映像を生成する描画処理部をさらに備え、
前記静止画生成部は、前記描画処理部が描画出力する前記通信映像から前記静止画を生成することを特徴とする請求項1乃至3のいずれか1項に記載の配信装置。
【請求項5】
放送通信連携システムにおいて、放送送信装置から放送によって伝送される放送映像を受信するとともに配信装置との通信を行う受信装置であって、
前記放送映像を復号する映像デコーダ部と、
前記配信装置から通信によって伝送されるユニット静止画を受信する通信部と、
前記ユニット静止画に含まれる複数の静止画の中から提示する静止画を順次更新する提示静止画更新部と、
前記映像デコーダ部が出力する復号済み放送映像と前記提示静止画更新部が出力する静止画とを合成して提示する合成提示部と、を備えることを特徴とする受信装置。
【請求項6】
前記放送映像に多重された時刻情報に基づいて基準時刻情報を取得する基準時刻情報取得部をさらに備え、
前記提示静止画更新部は、前記基準時刻情報と、前記複数の静止画のそれぞれに付与されている提示時刻情報とに基づいて、前記放送映像と前記ユニット静止画との同期提示を行うように、前記提示する静止画を順次更新することを特徴とする請求項5に記載の受信装置。
【請求項7】
前記提示静止画更新部は、前記複数の静止画のそれぞれに付与されている座標情報に基づいて、前記ユニット静止画から各静止画を抽出することを特徴とする請求項5又は6に記載の受信装置。
【請求項8】
配信要求を前記配信装置に送信する配信要求部をさらに備え、
前記配信要求部は、1つの静止画の提示が完了してから次の静止画の提示が完了するまでの時間を表す更新間隔実績値に基づいて、前記配信装置が前記ユニット静止画に含める静止画の時間間隔を指定することを特徴とする請求項5乃至7のいずれか1項に記載の受信装置。
【請求項9】
コンピュータを、請求項1に記載の配信装置として機能させることを特徴とするプログラム。
【請求項10】
コンピュータを、請求項5に記載の受信装置として機能させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、放送通信連携システムに用いる配信装置、受信装置、及びプログラムに関する。
【背景技術】
【0002】
従来、放送によって伝送される放送映像を受信する受信装置において、放送と同時に通信経由でコンテンツを受信し、これらを同時に視聴可能とする放送通信連携技術が知られている(例えば、非特許文献1参照)。このような形態はハイブリッドキャストと呼ばれることもある。なお、以下において「映像」とは「動画」を意味するものとする。
【0003】
放送通信連携技術を用いたサービスの一例として、PinP(Picture in Picture)が挙げられる。これは放送映像及び別の映像を受信装置により合成して提示するサービスであり、例えば放送番組の別視点の映像を視聴できるマルチビューや、放送番組の情報を補完する手話映像への利用が想定されている。
【先行技術文献】
【非特許文献】
【0004】
【文献】放送通信連携システム仕様 “IPTVFJ STD-0010”
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述したようなハイブリッドキャストの放送通信同期動作モデルでPinPを実現しようとする場合、放送用と通信用とで合計2つの映像デコーダが必要になる。
【0006】
一方、市販の多くの受信装置の処理能力は限られており、受信装置が備える映像デコーダは1つのみであることが一般的である。また、コストを鑑みると、将来においても大半の市販受信機において映像デコーダは1つのみである状況が想定される。
【0007】
そこで、本発明は、受信側の映像デコーダが1つのみである場合であってもPinPサービスを実現する配信装置、受信装置、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
第1の態様に係る配信装置は、放送通信連携システムにおいて、放送により伝送される放送映像を受信する受信装置との通信を行う。前記配信装置は、前記放送映像と合成して提示されるべき通信映像を取得するとともに、前記通信映像からフレーム単位の静止画を生成する静止画生成部と、前記静止画生成部により生成された複数の静止画を結合することによりユニット静止画を生成する静止画結合部と、前記静止画結合部により生成された前記ユニット静止画を通信により前記受信装置に伝送する通信部とを備える。
【0009】
第2の態様に係る受信装置は、放送通信連携システムにおいて、放送送信装置から放送によって伝送される放送映像を受信するとともに配信装置との通信を行う。前記受信装置は、前記放送映像を復号する映像デコーダ部と、前記配信装置から通信によって伝送されるユニット静止画を受信する通信部と、前記ユニット静止画に含まれる複数の静止画の中から提示する静止画を順次更新する提示静止画更新部と、前記映像デコーダ部が出力する復号済み放送映像と前記提示静止画更新部が出力する静止画とを合成して提示する合成提示部とを備える。
【0010】
第3の態様に係るプログラムは、コンピュータを、第1の態様に係る配信装置又は第2の態様に係る受信装置として機能させることを要旨とする。
【発明の効果】
【0011】
本発明によれば、受信側の映像デコーダが1つのみである場合であってもPinPサービスを実現する配信装置、受信装置、及びプログラムを提供できる。
【図面の簡単な説明】
【0012】
図1】実施形態に係る放送通信連携システムの構成を示す図である。
図2】実施形態に係るユニット静止画の一例を示す図である。
図3】実施形態に係る受信装置における映像表示例を示す図である。
図4】実施形態に係る放送送信装置の構成を示す図である。
図5】実施形態に係る配信装置の構成を示す図である。
図6】実施形態に係る静止画結合部の動作を示す図である。
図7】実施形態に係る受信装置の構成を示す図である。
図8】実施形態に係るバッファ部が保持する提示用時刻マップリストの一例を示す図である。
図9】実施形態に係るユニット静止画の初回の配信要求時における受信装置の動作を示す図である。
図10】実施形態に係るユニット静止画の提示処理を示す図である。
図11】実施形態の変更例に係る配信装置の構成を示す図である。
図12】実施形態の変更例に係る受信装置の構成を示す図である。
【発明を実施するための形態】
【0013】
図面を参照して実施形態について説明する。図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
【0014】
(放送通信連携システム)
まず、本実施形態に係る放送通信連携システムについて説明する。図1は、本実施形態に係る放送通信連携システム1の構成を示す図である。
【0015】
図1に示すように、放送通信連携システム1は、放送によって伝送される映像データである放送映像を受信する受信装置300において、放送と同時に通信経由でコンテンツを受信し、これらを同時に視聴可能とするシステムである。本実施形態において、受信装置300は、映像デコーダ部303を1つのみ有しており、この映像デコーダ部303を用いて放送映像を復号して提示する。
【0016】
本実施形態に係る放送通信連携システム1は、受信装置300の映像デコーダ部303が1つのみである場合であってもPinPサービスを実現する。PinPとは、放送映像及び別の映像を受信装置300により合成して提示するサービスをいう。
【0017】
本実施形態に係る放送通信連携システム1は、放送送信装置100と、配信装置200と、受信装置300とを有する。
【0018】
放送送信装置100は、放送による伝送を行う装置である。放送送信装置100は、例えば放送局から放送映像を取得し、この放送映像を放送により受信装置300に伝送する。すなわち、放送送信装置100は、放送映像を含む放送波である放送信号を受信装置300に伝送する。
【0019】
また、放送送信装置100は、放送映像に基準時刻情報を多重した放送信号を送信する。さらに、放送送信装置100は、放送映像に多重する基準時刻情報と同じ基準時刻情報を配信装置200に出力する。
【0020】
配信装置200は、例えば放送局から通信映像を取得する。通信映像とは、PinPにより放送映像と合成して提示されるべき映像データをいう。通信映像は、例えば、放送映像の別視点の映像であってもよいし、放送映像(放送番組)の情報を補完する手話映像であってもよい。
【0021】
また、配信装置200は、受信装置300からの配信要求に基づいて、通信映像を変換して得たユニット静止画を通信により受信装置300に伝送する。ユニット静止画とは、複数の静止画をタイル状(すなわち、行列状)に並べて結合した静止画データをいう。なお、通信伝送路は、インターネット等のIP網を含んでもよい。
【0022】
配信装置200は、通信映像からフレーム単位の静止画を生成し、複数の静止画を含むユニット静止画を通信により受信装置に伝送する。以下において、ユニット静止画を構成する静止画を「タイル静止画」と呼ぶ。また、配信装置200は、放送送信装置100から出力される基準時刻情報に基づいて、放送映像との同期提示を行うための提示時刻情報を複数のタイル静止画のそれぞれに付与する。
【0023】
図2は、本実施形態に係るユニット静止画の一例を示す図である。図2に示すように、ユニット静止画は、複数のタイル静止画を行列状に並べて結合した静止画である。図2において、タイル静止画が3行3列に並べられており、合計9つのタイル静止画によりユニット静止画が構成される一例を示している。
【0024】
受信装置300は、放送送信装置100から放送によって伝送される放送映像を受信するとともに、配信装置200との通信を行う装置である。受信装置300は、例えば、通信に対応したテレビ受像機に内蔵されてもよいし、テレビ受像機と接続されるチューナ装置であってもよい。
【0025】
受信装置300は、放送送信装置100から受信する放送映像を映像デコーダ部303により復号して提示する。また、受信装置300は、配信装置200からユニット静止画を受信すると、このユニット静止画に含まれる複数のタイル静止画の中から提示する静止画を順次更新する。
【0026】
このように、通信映像を連続的なタイル画像を結合したユニット静止画に変換し、受信装置300でこのユニット静止画中のタイル静止画を順次更新しながら提示する。そして、受信装置300は、映像デコーダ部303による復号済みの放送映像と、順次更新される静止画とを合成して提示する。なお、「提示する」とは、受信装置300と一体に設けられたディスプレイに映像を表示させることであってもよいし、受信装置300と別体に設けられたディスプレイに映像信号を出力することであってもよい。
【0027】
図3は、本実施形態に係る受信装置300における映像表示例を示す図である。図3に示すように、受信装置300は、放送映像を表示するとともに、この放送映像に重ねて静止画を表示する。但し、受信装置300は、同一ディスプレイ上に放送映像及び静止画を表示させればよく、放送映像と静止画とを並べて表示させてもよいし、放送映像と静止画とを離間して表示させてもよい。
【0028】
受信装置300が表示する静止画を順次更新することにより、擬似的な通信映像(動画)を表示できる。ここで、放送映像を表示するためには映像デコーダ部303が必要であるが、静止画を表示するためには受信装置300のCPU等で処理が足りるため、映像デコーダ部303を用いることなく通信映像を表示できる。これにより、受信装置300の処理能力が低い前提下においてもPinPサービスを実現できる。
【0029】
また、配信装置200が、放送送信装置100から出力される基準時刻情報に基づいて提示時刻情報を複数のタイル静止画のそれぞれに付与することにより、受信装置300は、この提示時刻情報に基づいて放送映像と同期させて静止画を提示できる。
【0030】
さらに、複数のタイル静止画を行列状に並べて結合したユニット静止画を伝送することにより、各タイル静止画を個別に伝送する場合に比べてオーバヘッドを削減できる。また、受信装置300がユニット静止画単位で配信装置200に配信を要求できるため、受信装置300が備えるバッファのサイズが小さい場合でも、バッファのオーバーフローが生じないようにすることができる。これにより、効率的な伝送を行うことができる。
【0031】
(放送送信装置)
次に、本実施形態に係る放送送信装置100について説明する。図4は、本実施形態に係る放送送信装置100の構成を示す図である。
【0032】
図4に示すように、放送送信装置100は、基準時刻情報生成部101と、多重化部102と、送信部103とを有する。
【0033】
基準時刻情報生成部101は、基準時刻情報を生成し、基準時刻情報を多重化部102に出力するとともに、基準時刻情報を配信装置200に出力する。これらの基準時刻情報には、同期調整用にそれぞれに対してシフト値を設定することができる。
【0034】
ここで、基準時刻情報のフォーマットはUTCなど様々なクロック値を利用できる。基準時刻情報は、時間進行に伴い正確に増加し、ミリ秒精度を扱えるカウンタークロックとし、単位は限定しない。また、基準時刻情報は、配信装置200や受信装置300での演算処理を容易にするために時刻表記から実数に変換してもよい。
【0035】
多重化部102は、放送映像を取得するとともに、基準時刻情報生成部101から出力される同期時刻情報を放送映像に多重し、同期時刻情報を多重した放送映像を送信部103に出力する。
【0036】
送信部103は、多重化部102から出力される放送映像を放送信号に変換し、放送伝送路を介して放送信号を送信する。
【0037】
放送送信装置100は、多重化部102から出力される放送映像を蓄積する蓄積部104を有していてもよい。
【0038】
なお、放送送信装置100内での基準時刻情報の多重は、放送信号の送信時、あるいは放送信号の送信時よりも前の時点で行う。
【0039】
放送信号の送信時に基準時刻情報を多重する場合、基準時刻情報生成部101の基準時刻情報の値は番組進行時刻と合わせる。また、多重化部102は、番組進行時刻に合わせて基準時刻情報を放送映像に多重する。
【0040】
一方、放送信号の送信時よりも前の時点で基準時刻情報を多重する場合、多重化部102は、基準時刻情報生成部101から取得される基準時刻情報を、番組開始予定時刻に合わせてシフトして放送映像に多重する。この場合、蓄積部104は、シフトされた基準時刻情報が多重された放送映像を蓄積する。
【0041】
(配信装置)
次に、本実施形態に係る配信装置200について説明する。図5は、本実施形態に係る配信装置200の構成を示す図である。
【0042】
図5に示すように、配信装置200は、静止画生成部201と、時刻情報付与部202と、静止画蓄積部203と、静止画結合部204と、通信部205とを有する。
【0043】
静止画生成部201は、放送映像と合成して提示されるべき通信映像を取得するとともに、この通信映像からフレーム単位の静止画を生成し、生成した各静止画(タイル静止画)を時刻情報付与部202に出力する。
【0044】
時刻情報付与部202は、放送送信装置100から出力される基準時刻情報に基づいて、静止画生成部201から出力される各静止画に対して提示時刻情報を付与及び多重し、提示時刻情報が多重された各静止画を静止画蓄積部203に出力する。ここで、各静止画のデータは、ペイロード部分に加えて、提示時刻情報を記録する領域を持つものとする。
【0045】
また、時刻情報付与部202は、放送映像と同期提示したい各静止画に合わせて基準時刻情報の値を提示時刻情報として多重する。時刻情報付与部202は、同期の調整のために基準時刻情報をシフトしたものを提示時刻情報として多重してもよい。時刻情報付与部202は、放送信号の送信時よりも前の時点で提示時刻情報を多重する場合、基準時刻情報生成部101から取得される基準時刻情報を、番組開始予定時刻に合わせてシフトして静止画に多重する。
【0046】
静止画蓄積部203は、時刻情報付与部202から出力される静止画を蓄積する。具体的には、静止画蓄積部203は、提示時刻情報に応じてソートして静止画を蓄積していく。また、静止画蓄積部203は、蓄積されている一連の静止画の提示時刻情報のリストを蓄積範囲情報として生成する。
【0047】
静止画結合部204は、通信部205が受信装置300から受信する配信要求に基づいて、静止画蓄積部203から複数の静止画を取得し、取得した複数の静止画からユニット静止画を生成し、生成したユニット静止画を通信部205に出力する。
【0048】
また、静止画結合部204は、ユニット静止画を構成する各静止画に対して、該静止画のユニット静止画内での座標位置を示す座標情報を付与し、座標情報をユニット静止画に多重する。
【0049】
通信部205は、受信装置300からユニット静止画の配信要求を受信し、受信した配信要求を静止画結合部204に出力する。ユニット静止画の配信要求は、下記の情報を含む。
【0050】
・要求するタイル静止画の開始時刻:trequest-start
・要求するタイル静止画の終了時刻:trequest-end
・タイル更新間隔:Δtrequest-update
ここで、タイル更新間隔とは、受信装置300が提示するタイル静止画を更新する時間間隔(時間長)をいう。
【0051】
また、通信部205は、静止画結合部204から出力されるユニット静止画を、通信伝送路を介して受信装置300に送信する。
【0052】
ここで、本実施形態に係る静止画結合部204の動作について説明する。図6は、本実施形態に係る静止画結合部204の動作を示す図である。
【0053】
図6に示すように、ステップS110において、静止画結合部204は、ユニット静止画の配信要求を受ける。
【0054】
ステップS120において、静止画結合部204は、タイル静止画リストを作成する。具体的には、静止画結合部204は、ユニット静止画の配信要求で要求されたtrequest-startからtrequest-endまでの範囲で、Δtrequest-updateをステップとした時刻情報のリストTrequestを作成する。静止画結合部204は、Trequestの各時刻情報Trequest[n]に対して、蓄積範囲情報Tstoreから最も近い値を探索し、その結果をリストTtileとする。
【0055】
ステップS130において、静止画結合部204は、1つのユニット静止画を作成する。
【0056】
第1に、静止画結合部204は、次式により1つのユニット静止画に含まれるタイル静止画の数nunit-tileを取得する。
【0057】
unit-tile=columnunit*rowunit
但し、columnunitはユニット静止画内のタイル列数であり、rowunitはユニット静止画内のタイル行数である。
【0058】
第2に、静止画結合部204は、Ttileのうち、対応するタイル静止画の結合処理が行われていない時刻情報からnunit-tile個のリストを抽出し、それぞれの時刻情報に相当するタイル静止画からなるタイル静止画群tilepre-syntesisを静止画蓄積部203から取得する。
【0059】
第3に、静止画結合部204は、タイル静止画群tilepre-syntesisを結合してユニット静止画を生成する。ここで、i番目のタイル静止画は次式に従う座標値をもとに配置して結合する。なお、iは0から始まる整数値とする。
【0060】
タイル列番号:columntile=i%columnunit
タイル行番号:rowtile=(i-columntile)/rowunit-1
タイル左端座標値:coordinateleft=wtile*columntile
タイル右端座標値:coordinateright=wtile*(columntile+1)
タイル上端座標値:coordinatetop=htile*rowtile
タイル下端座標値:coordinatebottom=htile*(rowtile+1)
但し、%は剰余演算子であり、wtileはタイル静止画の幅であり、htileはタイル静止画の高さである。
【0061】
ステップS140において、静止画結合部204は、生成したユニット静止画に次のメタデータを多重し、ファイル化する。生成されたユニット静止画はjpgやpng等のフォーマットで圧縮されていてもよい。
【0062】
・ファイル名(生成するユニット静止画ファイルごとに異なった名前にする)
・タイル静止画ごとの番号i、提示時刻情報、座標情報
ステップS150において、静止画結合部204は、生成したユニット静止画ファイルを通信部205により受信装置300に配信する。
【0063】
(受信装置)
次に、本実施形態に係る受信装置300について説明する。図7は、本実施形態に係る受信装置300の構成を示す図である。
【0064】
図7に示すように、受信装置300は、放送受信部301と、放送信号分離部302と、映像デコーダ部303と、基準時刻情報取得部304と、通信部305と、配信要求部306と、バッファ部307と、提示静止画更新部308と、合成提示部309とを有する。
【0065】
放送受信部301は、放送送信装置100から放送伝送路を介して放送信号を受信し、受信した放送信号を放送信号分離部302に出力する。
【0066】
放送信号分離部302は、放送受信部301から出力される放送信号から放送映像及び基準時刻情報を分離し、放送映像を映像デコーダ部303に出力するとともに、基準時刻情報を基準時刻情報取得部304に出力する。
【0067】
映像デコーダ部303は、放送信号分離部302から出力される放送映像を復号(具体的には、圧縮復号)し、復号後の放送映像を合成提示部309に出力する。
【0068】
基準時刻情報取得部304は、自走クロックを有しており、放送信号分離部302から出力される基準時刻情報を用いて自走クロックの値を校正し、更生後のクロック値を基準時刻情報として配信要求部306及び提示静止画更新部308に出力する。
【0069】
通信部305は、配信要求部306から出力されるユニット静止画配信要求を、通信伝送路を介して配信装置200に送信する。また、通信部305は、配信装置200から通信伝送路を介してユニット静止画(ユニット静止画ファイル)を受信し、受信したユニット静止画をバッファ部307に出力する。
【0070】
配信要求部306は、ユニット静止画の配信要求を生成し、この配信要求を通信部305に出力する。ユニット静止画の初回の配信要求時には、この配信要求に含める情報を次のように設定する。
【0071】
・要求するタイル静止画の開始時刻trequest-start
基準時刻情報取得部304から取得した基準時刻情報TBCTの値
・要求するタイル静止画の終了時刻trequest-end
基準時刻情報TBCT+バッファ時間Δtbufferの値
・タイル更新間隔Δtrequest-update
タイル更新間隔初期値Δtinitial-update
ここで、バッファ時間とは、バッファ部307でユニット静止画を保持する時間長をいう。ユニット静止画の初回の配信要求時には、バッファ時間として初期値を用いる。
【0072】
なお、放送送信装置100内で基準時刻情報を多重する多重化部102と、受信装置300内で基準時刻情報を取得する基準時刻情報取得部304との間において、遅延Δtdelay-broadcastが生じることを前提とした場合、バッファ時間Δtbufferは、Δtdelay-broadcast>Δtbufferとなるように設定する。
【0073】
バッファ部307は、通信部305から出力されるユニット静止画を一時的に保持する。また、バッファ部307は、ユニット静止画に多重されているメタデータに基づいて、保持しているユニット静止画の提示用の時刻マップリストを保持する。
【0074】
図8は、本実施形態に係るバッファ部307が保持する提示用時刻マップリストの一例を示す図である。図8に示すように、提示用時刻マップリストは、タイル静止画ごとに、このタイル静止画が属するユニット静止画のファイル名と、このタイル静止画の提示時刻情報と、このタイル静止画の構成座標情報とを有する。構成座標とは、各タイル静止画の左端、上端、右端、下端の座標をいう。このリストは、提示時刻情報に対して昇順でソートされている。
【0075】
このような提示用時刻マップリストは、バッファ部307内のユニット静止画の追加・破棄により更新される。また、バッファ部307内のユニット静止画は、ユニット静止画内のすべてのタイル静止画の提示が完了すると破棄される。
【0076】
提示静止画更新部308は、バッファ部307が保持するユニット静止画に含まれる複数のタイル静止画の中から提示する静止画を順次更新し、この静止画を合成提示部309に出力する。ここで、提示静止画更新部308は、基準時刻情報取得部304が出力する基準時刻情報と各タイル静止画に付与されている提示時刻情報とに基づいて、放送映像と静止画との同期提示を行うように、提示する静止画を順次更新する。
【0077】
また、提示静止画更新部308は、各タイル静止画に付与されている座標情報(構成座標)に基づいて、バッファ部307が保持するユニット静止画から各静止画を抽出する。
【0078】
合成提示部309は、映像デコーダ部303が出力する復号済み放送映像と提示静止画更新部308が出力する静止画とを合成して提示する(図3参照)。ここで、放送映像及び静止画のディスプレイ上の配置位置、大きさ、縦横比、及び重なり順序は任意に決定できるものとし、HTML5などのレイアウト記述言語にて記述できるものとする。その記述を行うものをレイアウト記述ファイルと呼ぶ。
【0079】
また、配信要求部306は、2回目以降の配信要求時(すなわち、ユニット静止画の追加配信要求時)には、この配信要求に含める情報を次のように設定する。
【0080】
・要求するタイル静止画の開始時間trequest-start
バッファ部307の提示用時刻マップリストの最終レコードの提示時刻情報+Δtrequest-update
・要求するタイル静止画の終了時間trequest-end
request-start+Δtrequest-update*nunit-tile
・タイル更新間隔Δtrequest-update
タイル更新間隔初期値Δtsetting-update、又は更新間隔実績値Δtachievement-update
但し、更新間隔実績値Δtachievement-updateは、1つの静止画の提示が完了してから次の静止画の提示が完了するまでの時間の実績値である。配信要求部306は、更新間隔実績値Δtachievement-updateをタイル更新間隔Δtrequest-updateとしてユニット静止画の配信要求に含めることにより、受信装置300の処理能力に見合ったタイル更新間隔Δtrequest-updateを設定できる。
【0081】
なお、1つのユニット静止画内のタイル静止画の数nunit-tileは、予め定められた固定値であってもよいし、配信装置200が変更可能な可変値であってもよい。nunit-tileが可変である場合、nunit-tileの値は配信装置200から受信装置300に通知されるものとする。
【0082】
図9は、本実施形態に係るユニット静止画の初回の配信要求時における受信装置300の動作を示す図である。
【0083】
図9に示すように、ステップS210において、配信要求部306は、基準時刻情報取得部304が出力する基準時刻情報TBTCを取得する。
【0084】
ステップS220において、配信要求部306は、ユニット静止画の初回の配信要求を生成する。通信部305は、この配信要求を配信装置200に送信する。
【0085】
ステップS230において、通信部305は、配信装置200からユニット静止画を受信する。バッファ部307は、このユニット静止画を保持する。
【0086】
ステップS240において、提示静止画更新部308は、ユニット静止画の提示処理を行う。
【0087】
図10は、本実施形態に係るユニット静止画の提示処理を示す図である。
【0088】
図10に示すように、ステップS241において、提示静止画更新部308は、基準時刻情報取得部304が出力する基準時刻情報TBTCを取得する。
【0089】
ステップS242において、提示静止画更新部308は、提示するタイル静止画を決定し、このタイル静止画を合成提示部309に出力する。
【0090】
第1に、提示静止画更新部308は、バッファ部307に保持されている提示用時刻マップリストの各提示時刻情報TPTSの中から、基準時刻情報TBTCに最も近い値を探索し、探索された値に対応する提示用時刻マップリストのレコードをRpresentationとする。
【0091】
第2に、Rpresentationに相当するタイル静止画を合成提示部309で提示する。提示静止画更新部308は、Rpresentationの構成座標でユニット静止画上の提示範囲を指定する。合成提示部309は、レイアウト記述ファイルが指定するレイアウトの通りにディスプレイ上にタイル静止画を提示する。
【0092】
第3に、提示静止画更新部308は、1枚の提示が完了してから、次の提示が完了するまでの時間値を計測し、更新間隔実績値Δtachievement-updateとして保持する。但し、更新間隔実績値Δtachievement-update<更新間隔初期値Δtsetting-updateのときは、その値を保持せず、Δtachievement-updateをΔtsetting-updateとする。
【0093】
ステップS243において、提示静止画更新部308は、バッファ部307を参照し、提示されたタイル静止画の提示時刻がユニット静止画内で最後であるか否かを判定する。最後ではない場合、処理がステップS242に戻る。
【0094】
一方、最後である場合、ステップS244において、提示静止画更新部308は、バッファ部307に保持されているユニット静止画を削除する。
【0095】
ステップS245において、配信要求部306は、ユニット静止画の追加の配信要求を生成する。通信部305は、この配信要求を配信装置200に送信する。
【0096】
ステップS246において、通信部305は、配信装置200から追加のユニット静止画を受信する。バッファ部307は、このユニット静止画を保持する。その後、処理がステップS242に戻る。
【0097】
<変更例>
変更例について、上述した実施形態との相違点を説明する。
【0098】
本変更例では、放送映像の別視点の360度映像をユーザ操作で任意に操作し、この360度映像を通信映像として放送映像と合成して提示するPinPサービスを想定する。具体的には、360度映像のようなテクスチャマッピングを必要とするコンテンツや3DのCGを伴うコンテンツを通信経由で提供する。
【0099】
360度映像の処理に対応した高度なGPUを備える受信装置300は現在市販されておらず、コストを鑑みると将来においても大半の市販の受信装置300において高度なGPUを搭載するケースは限定的と想定される。
【0100】
本変更例では、配信装置200側で360度映像の描画処理を行い、その描画出力をユニット静止画化して通信経由で受信装置300に配信して再生可能とする。具体的には、描画出力を連続的なタイル画像を結合したユニット静止画に変換し、受信装置300でこのユニット静止画中のタイル静止画を連続的に更新描画する。
【0101】
(配信装置)
本変更例に係る配信装置200について説明する。図11は、本変更例に係る配信装置200の構成を示す図である。
【0102】
図11に示すように、本実施形態に係る配信装置200は、描画処理部206を備える点、及び静止画蓄積部203を備えていない点が、上述した実施形態とは異なっている。
【0103】
描画処理部206は、受信装置300で検出されたユーザ操作の内容を示す操作情報を取得するとともに、操作情報に応じた描画処理を行うことにより通信映像を生成する。具体的には、描画処理部206は、ユーザ操作に応じてコンテンツリソースから描画処理を行い、その処理結果を描画出力する。
【0104】
例えば、操作情報は、ユーザの視線方向を示す情報であってもよい。描画処理部206は、ヘッドマウントディスプレイの視線センサーやタブレット端末でのユーザ操作により検出された利用者の視線方向の情報を操作情報として用いる。描画処理部206は、この情報を用いて、ユーザの視線方向に応じた360度映像の一部領域を選択し、選択した領域を通信映像として静止画生成部201に出力する。
【0105】
本変更例において、静止画生成部201は、描画処理部206が描画出力する通信映像からフレーム単位の静止画を生成し、各静止画(タイル静止画)を時刻情報付与部202に出力する。静止画生成部201は、通信部305から出力されるタイル更新間隔を受けて、そのタイル更新間隔ごとに静止画を生成する。
【0106】
また、本変更例において、静止画結合部204は、nunit-tile個の連続したタイル静止画を時刻情報付与部202から取得し、これらのタイル静止画からなるタイル静止画群を結合してユニット静止画を生成する。
【0107】
その他の構成については、上述した実施形態と同様である。
【0108】
(受信装置)
本変更例に係る受信装置300について説明する。図12は、本変更例に係る受信装置300の構成を示す図である。
【0109】
図12に示すように、本変更例に係る受信装置300は、操作情報生成部310を備える点が、上述した実施形態とは異なっている。例えば、操作情報生成部310は、ヘッドマウントディスプレイの視線センサーやタブレット端末でのユーザ操作により視線方向を検出し、この視線方向を示す操作情報を通信部305に出力する。通信部305は、操作情報生成部310から出力される操作情報を、通信伝送路を介して配信装置200に送信する。
【0110】
その他の構成については、上述した実施形態と同様である。
【0111】
ここで、本変更例に係る提示静止画更新部308における提示静止画の更新手順について説明する。
【0112】
まず、提示静止画更新部308は、バッファ部307が保持するユニット静止画からタイル静止画を順に提示する。
【0113】
ここで、第1に、提示静止画更新部308は、提示するタイル静止画のレコードとして提示用時刻マップリストの最初のレコードを指定し、このレコードのタイル静止画を提示する。
【0114】
第2に、提示静止画更新部308は、提示用時刻マップリストの提示中のレコードの提示時刻情報をTcurrent、次のレコードの提示時刻情報をTnextとし、その差分Δtupdate=Tnext-Tcurrentを求める。
【0115】
第3に、提示静止画更新部308は、基準時刻情報TBCTを取得及び記録し、Δtupdateだけ待機し、次のレコードを指定する。
【0116】
提示静止画更新部308は、このような処理を、そのユニット静止画内のタイル静止画がすべて表示されるまで繰り返す。
【0117】
次に、提示静止画更新部308は、記録した基準時刻情報TBCTから更新時間実績値Δtachievement-updateを算出し、Δtachievement-updateをタイル更新間隔として決定する。Δtachievement-updateは、記録した基準時刻情報TBCTの全体平均、移動平均、又は最大値とする。
【0118】
次に、提示静止画更新部308は、すべてのタイル静止画の提示が終了したユニット静止画をバッファ部307から削除する。
【0119】
<その他の実施形態>
上述した実施形態に係る各装置が行う処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。また、上述した実施形態に係る各装置が行う処理を実行する機能部(回路)を集積化し、これらの装置を半導体集積回路(チップセット、SoC)として構成してもよい。
【0120】
以上、図面を参照して一実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【符号の説明】
【0121】
1 :放送通信連携システム
100 :放送送信装置
101 :基準時刻情報生成部
102 :多重化部
103 :送信部
104 :蓄積部
200 :配信装置
201 :静止画生成部
202 :時刻情報付与部
203 :静止画蓄積部
204 :静止画結合部
205 :通信部
206 :描画処理部
300 :受信装置
301 :放送受信部
302 :放送信号分離部
303 :映像デコーダ部
304 :基準時刻情報取得部
305 :通信部
306 :配信要求部
307 :バッファ部
308 :提示静止画更新部
309 :合成提示部
310 :操作情報生成部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12