(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023028984
(43)【公開日】2023-03-03
(54)【発明の名称】送信装置、受信装置、送信プログラム及び受信プログラム
(51)【国際特許分類】
H04N 21/234 20110101AFI20230224BHJP
H04N 21/44 20110101ALI20230224BHJP
【FI】
H04N21/234
H04N21/44
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021135012
(22)【出願日】2021-08-20
(71)【出願人】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】100141139
【弁理士】
【氏名又は名称】及川 周
(74)【代理人】
【識別番号】100171446
【弁理士】
【氏名又は名称】高田 尚幸
(74)【代理人】
【識別番号】100114937
【弁理士】
【氏名又は名称】松本 裕幸
(74)【代理人】
【識別番号】100171930
【弁理士】
【氏名又は名称】木下 郁一郎
(72)【発明者】
【氏名】白戸 諒
(72)【発明者】
【氏名】中戸川 剛
(72)【発明者】
【氏名】川本 潤一郎
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164GA03
5C164SB01P
5C164SB21S
5C164SC01S
5C164UB01P
5C164UB21S
5C164UC21S
(57)【要約】
【課題】映像分割処理による処理遅延を抑えながら、映像分割に起因する軽圧縮処理による画質劣化を低減する。
【解決手段】送信装置は、撮像装置により撮像された映像ストリームを取得する映像取得部と、取得した前記映像ストリームの映像フレームを、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって少なくとも2以上の離散した位置に存在する前記画素群を有する分割映像フレームに分割する分割部と、前記分割映像フレームを圧縮する圧縮部と、圧縮された前記分割映像フレームを送信する送信部とを備える。
【選択図】
図2
【特許請求の範囲】
【請求項1】
撮像装置により撮像された映像ストリームを取得する映像取得部と、
取得した前記映像ストリームの映像フレームを、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって少なくとも2以上の離散した位置に存在する前記画素群を有する分割映像フレームに分割する分割部と、
前記分割映像フレームを圧縮する圧縮部と、
圧縮された前記分割映像フレームを送信する送信部と
を備える送信装置。
【請求項2】
前記分割部は、前記映像フレームを4つの前記分割映像フレームに分割し、
前記送信部は、前記分割映像フレームを2K映像の映像ストリームとして送信する
請求項1に記載の送信装置。
【請求項3】
前記映像ストリームは、8K映像、4K映像、又は2K映像のいずれかであり、
前記分割部は、前記映像フレームが8K映像である場合には4K映像の前記分割映像フレームに分割した後に2K映像の前記分割映像フレームに分割し、前記映像フレームが4K映像である場合には2K映像の前記分割映像フレームに分割し、前記映像フレームが2K映像である場合には分割しない
請求項1又は請求項2に記載の送信装置。
【請求項4】
前記分割部は、前記映像フレームを縦方向に少なくとも2つの前記画素群に分割し、横方向に少なくとも4つの前記画素群に分割し、複数の前記画素群を組み合わせて前記分割映像フレームとする
請求項1から請求項3のいずれか一項に記載の送信装置。
【請求項5】
前記分割部により分割される前記画素群が有する横方向のライン数である分割ライン数を取得する分割ライン数取得部を更に備え、
前記分割部は、取得された前記分割ライン数ごとに前記映像フレームを横方向に分割する
請求項4に記載の送信装置。
【請求項6】
送信装置により送信された2K映像の映像ストリームを受信する受信部と、
取得した前記映像ストリームに対して伸張処理を行うことにより分割映像フレームを復元する伸張部と、
復元された複数の前記分割映像フレームにそれぞれ含まれる複数の画素群を、少なくとも2以上の離散した位置に統合することにより統合映像フレームに統合する統合部と、
統合された前記統合映像フレームを出力する出力部と
を備える受信装置。
【請求項7】
コンピュータに、
撮像装置により撮像された映像ストリームを取得する映像取得ステップと、
取得した前記映像ストリームの映像フレームを、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって少なくとも2以上の離散した位置に存在する前記画素群を有する分割映像フレームに分割する分割ステップと、
前記分割映像フレームを圧縮する圧縮ステップと、
圧縮された前記分割映像フレームを送信する送信ステップと
を実行させる送信プログラム。
【請求項8】
コンピュータに、
送信装置により送信された2K映像の映像ストリームを受信する受信ステップと、
取得した前記映像ストリームに対して伸張処理を行うことにより分割映像フレームを復元する伸張ステップと、
復元された複数の前記分割映像フレームにそれぞれ含まれる複数の画素群を、少なくとも2以上の離散した位置に統合することにより統合映像フレームに統合する統合ステップと、
統合された前記統合映像フレームを出力する出力ステップと
を実行させる受信プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、送信装置、受信装置、送信プログラム及び受信プログラムに関する。
【背景技術】
【0002】
映像信号をIPパケット化して汎用のイーサネットネットワーク上で伝送するための標準化が、SMPTE(米国テレビ映画技術者協会)で議論されている。このように映像信号をIPパケット化して伝送することにより、既存のインフラを用いて映像信号を効率的に共有することのできる番組制作システム、IP制作システムを実現することが期待される。
【0003】
この標準規格及び技術を用いたライブ番組制作の手法は、IPリモート制作と呼ばれている。従来、中継番組の番組制作は、中継現場に番組制作機材を輸送し機材設営を行い、中継現場で番組制作を行っていた。一方、IPリモート制作では、番組制作に必要な映像や音声といった番組素材を中継現場から放送局に伝送し、放送局で番組制作を行う。IPリモート制作によれば、番組制作機材は放送局に設置したまま、放送局から番組制作を行うことができる。
【0004】
IPリモート制作においても従来の中継番組の質を保つため、高画質を保ったままの映像を中継現場から放送局に、リアルタイムで送信することが要求される。従来の中継番組の質を保つためには、具体的には1映像フレーム(16.6ms)以下の遅延時間で映像を伝送することが要求される。伝送する映像はデータ量が大きいため、高画質を保ちつつ回線を効率的に利用するためには、映像を圧縮して伝送する必要がある。
【0005】
中継現場から伝送される映像は2K、4K又は8Kのいずれの映像フォーマットであり、番組によっては映像フォーマットが混在する場合もある。従来の映像圧縮伝送装置では、いずれかの映像フォーマットしか扱うことが出来ないため、フォーマット毎に専用の装置を用いることを要していた。また、番組に合わせて専用の装置を準備する必要があるため、機材運用に課題があった。
【0006】
そこで、4K又は8Kの映像を2K映像の映像に分割し、それぞれ2K×4ch、2K×16chの映像として扱うことが考えられる。このように4K及び8Kの映像を複数の2K圧縮映像ストリームとして扱うことで、映像圧縮リソースを2K映像用の処理フォーマットに統一することができる。また、映像フォーマットが異なっていても、共通の一つの伝送装置で圧縮伝送することが可能となり、運用性が大きく向上する。
【0007】
4K及び8Kの映像の場合は、圧縮を行ってもデータ量が大きく、10Gbps(Giga bits per second)や100Gbpsの帯域幅を持つ広帯域なネットワークが必要となる。100Gbpsのネットワークより10Gbps、1Gbpsなど狭帯域のネットワークの方が安価であるため、4K及び8K映像を複数の2K圧縮映像ストリームとして扱う方が、システムを安価に構成できる。また、狭帯域のネットワークの方が比較的どのような中継現場でもネットワークが提供されているため、利用しやすい。
【0008】
ここで、従来の分割方式として2SI(2-Sample Interleave Division)とSQD(Square Division)が知られている(例えば、非特許文献1を参照)。
【先行技術文献】
【非特許文献】
【0009】
【非特許文献1】石川孝明、映像情報メディア学会誌Vol.74、No.1、pp.87~92(2020)、JPEG軽量映像圧縮技術
【発明の概要】
【発明が解決しようとする課題】
【0010】
2SIを用いる場合、映像分割処理の遅延は小さいが、非分割の場合と比較して画質劣化が大きくなる。一方、SQDを用いる場合、非分割の場合と比較して画質劣化は小さいが、映像分割処理の遅延が大きい。したがって、処理遅延及び画質劣化のいずれも抑止可能な映像分割方式が求められている。
【0011】
そこで、本発明は、映像分割処理による処理遅延を抑えながら、映像分割に起因する軽圧縮処理による画質劣化を低減することが可能な送信装置、受信装置、送信プログラム及び受信プログラムを提供しようとするものである。
【課題を解決するための手段】
【0012】
[1]上記の課題を解決するため、本発明の一態様による送信装置は、撮像装置により撮像された映像ストリームを取得する映像取得部と、取得した前記映像ストリームの映像フレームを、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって少なくとも2以上の離散した位置に存在する前記画素群を有する分割映像フレームに分割する分割部と、前記分割映像フレームを圧縮する圧縮部と、圧縮された前記分割映像フレームを送信する送信部とを備えるものである。
【0013】
[2]また、本発明の一態様は、上記の送信装置において、前記分割部は、前記映像フレームを4つの前記分割映像フレームに分割し、前記送信部は、前記分割映像フレームを2K映像の映像ストリームとして送信するものである。
【0014】
[3]また、本発明の一態様は、上記の送信装置において、前記映像ストリームは、8K映像、4K映像、又は2K映像のいずれかであり、前記分割部は、前記映像フレームが8K映像である場合には4K映像の前記分割映像フレームに分割した後に2K映像の前記分割映像フレームに分割し、前記映像フレームが4K映像である場合には2K映像の前記分割映像フレームに分割し、前記映像フレームが2K映像である場合には分割しないものである。
【0015】
[4]また、本発明の一態様は、上記の送信装置において、前記分割部は、前記映像フレームを縦方向に少なくとも2つの前記画素群に分割し、横方向に少なくとも4つの前記画素群に分割し、複数の前記画素群を組み合わせて前記分割映像フレームとするものである。
【0016】
[5]また、本発明の一態様による送信装置は、前記分割部により分割される前記画素群が有する横方向のライン数である分割ライン数を取得する分割ライン数取得部を更に備え、前記分割部は、取得された前記分割ライン数ごとに前記映像フレームを横方向に分割するものである。
【0017】
[6]また、本発明の一態様による受信装置は、送信装置により送信された2K映像の映像ストリームを受信する受信部と、
取得した前記映像ストリームに対して伸張処理を行うことにより分割映像フレームを復元する伸張部と、復元された複数の前記分割映像フレームにそれぞれ含まれる複数の画素群を、少なくとも2以上の離散した位置に統合することにより統合映像フレームに統合する統合部と、統合された前記統合映像フレームを出力する出力部とを備えるものである。
【0018】
[7]また、本発明の一態様は、コンピュータに、撮像装置により撮像された映像ストリームを取得する映像取得ステップと、取得した前記映像ストリームの映像フレームを、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって少なくとも2以上の離散した位置に存在する前記画素群を有する分割映像フレームに分割する分割ステップと、前記分割映像フレームを圧縮する圧縮ステップと、圧縮された前記分割映像フレームを送信する送信ステップとを実行させる送信プログラムである。
【0019】
[8]また、本発明の一態様は、コンピュータに、送信装置により送信された2K映像の映像ストリームを受信する受信ステップと、取得した前記映像ストリームに対して伸張処理を行うことにより分割映像フレームを復元する伸張ステップと、復元された複数の前記分割映像フレームにそれぞれ含まれる複数の画素群を、少なくとも2以上の離散した位置に統合することにより統合映像フレームに統合する統合ステップと、統合された前記統合映像フレームを出力する出力ステップとを実行させる受信プログラムである。
【発明の効果】
【0020】
本発明によれば、映像分割処理による処理遅延を抑えながら、映像分割に起因する軽圧縮処理による画質劣化を低減することができる。
【図面の簡単な説明】
【0021】
【
図1】本発明の第1の実施形態による番組制作システムの概略機能構成を示すブロック図である。
【
図2】同実施形態による送信装置の機能構成の一例を示すブロック図である。
【
図3】同実施形態による受信装置の機能構成の一例を示すブロック図である。
【
図4】同実施形態による分割部が4K映像の映像フレームを2K映像の映像フレームに分割する場合の一例について説明するための図である。
【
図5】同実施形態による分割部が8K映像の映像フレームを4K映像の映像フレームに分割する場合の一例について説明するための図である。
【
図6】同実施形態における圧縮処理リソースを動作させるのに要するバッファについて説明するための図である。
【
図7】同実施形態による送信装置の一連の動作を示すフローチャートである。
【
図8】同実施形態による受信装置の一連の動作を示すフローチャートである。
【
図9】同実施形態による圧縮比とPSNRの関係について示す図である。
【
図11】本発明の第2の実施形態による分割部が4K映像の映像フレームを2K映像の映像フレームに分割する場合の一例について説明するための図である。
【
図12】同実施形態による送信装置の機能構成の一例を示すブロック図である。
【
図13】同実施形態による分割ラインごとの遅延量を示す図である。
【
図14】従来技術による画質劣化について説明するための図である。
【
図15】従来技術による映像分割処理の遅延について説明するための図である。
【
図16】従来技術による2SI及びSQDを用いた場合の圧縮比とPSNRの関係について示す図である。
【
図17】従来技術による2SI及びSQDを用いた場合の遅延量を示す図である。
【発明を実施するための形態】
【0022】
[従来技術]
まず、従来技術である2SI(2-Sample Interleave Division)又はSQD(Square Division)を用いて映像分割した場合の問題点について、
図14から
図17を参照しながら説明する。
【0023】
図14は、従来技術による画質劣化について説明するための図である。
図14(A)を参照しながら、2SIを用いて8K映像フレームを4つの4K映像フレームに映像分割する際の一例を説明し、
図14(B)を参照しながら、SQDを用いて8K映像フレームを4つの4K映像フレームに映像分割する際の一例について説明する。
【0024】
図14(A)及び
図14(B)は、いずれも縦4320[px(ピクセル)]×横7680[px]から構成される8K映像フレームを示す。各ピクセルには、1から4のうちいずれかの番号が付されている。各ピクセルに付された番号は、4つの4K映像フレームのうち、いずれの4K映像フレームに分割されるかを示す。
【0025】
まず、
図14(A)を参照しながら、2SIの一例について説明する。2SIは、分割前の8K映像フレームにおけるピクセルを、2ピクセルずつ横方向(水平方向)にマッピングし、分割後の4K映像フレームを生成する。この際、1列分のピクセルを2ピクセルずつ交互に2つの映像フレームにマッピングする。なお、偶数列と奇数列は、それぞれ異なる映像フレームにマッピングされる。
【0026】
2SIによれば、2ピクセル毎に異なる映像フレームに分割されてしまうため、分割後の4K映像フレームが有する空間周波数成分の高周波数成分の割合は、分割前の8K映像フレームが有する空間周波数特性における高周波数成分の割合と比較して、増加する。したがって、分割後の4K映像フレームを所定の方法により圧縮し、伸張した場合には、画質が劣化してしまうといった問題があった。
【0027】
なお、上述した一例においては、8K映像フレームを4つの4K映像フレームに映像分割する際の一例について説明したが、4K映像フレームを4つの2K映像フレームに映像分割する場合においても、同様の問題が発生する。
【0028】
次に、
図14(B)を参照しながら、SQDの一例について説明する。SQDは、分割前の映像フレームを、田の字に分割し分割映像フレームを生成する。8K映像フレームを16個の2K映像フレームに分割する場合、まず、8K映像フレームを田の字に4つの4K映像フレームに分割し、更に分割後の各4K映像フレームを田の字に4つの2K映像フレームに分割する。
【0029】
SQDによれば、分割後であっても連続するピクセル情報は維持されるため、空間周波数成分を保持したまま圧縮、伸張することができる。すなわち、SQDは2SIと比較して、画質劣化を抑止することができる。
【0030】
図15は、従来技術による映像分割処理の遅延について説明するための図である。
図15(A)を参照しながら、2SIを用いて8K映像フレームを4つの4K映像フレームに映像分割し、分割後のそれぞれの4K映像フレームを更に4つの(すなわち、16個の)2K映像フレームに分割する際の一例を説明し、
図15(B)を参照しながら、SQDを用いて8K映像フレームを4つの4K映像フレームに映像分割し、分割後のそれぞれの4K映像フレームを更に4つの(すなわち、16個の)2K映像フレームに分割する際の一例について説明する。
【0031】
図15(A)及び
図15(B)は、いずれも縦4320[px]×横7680[px]から構成される8K映像フレームを示す。各ピクセルには、n-mの番号(n及びmは1から4の自然数)が付されている。各ピクセルに付された番号のうち、nは8K映像フレームが分割される4つの4K映像フレームのうち、いずれの4K映像フレームに分割されるかを示す。また、mはnで指定された4K映像フレームが分割される4つの2K映像フレームのうち、いずれの2K映像フレームに分割されるかを示す。すなわち、ピクセルに“2-3”と付されていれば、第2の4K映像フレームに分割され、更に第3の2K映像フレームに分割されることを示す。
【0032】
ここで、2Kフレームレート60pの映像を圧縮処理するための、必要かつ適切な圧縮処理リソースの機能要件は1/60[秒]に1920×1080[px]の映像フレームを処理できることである。圧縮処理リソースが足りない場合、60pのフレームレートを保てなくなる。逆に圧縮処理リソースが多い場合、60pのフレームレートを保てる一方、高速に動作・待機が繰り返されることになり、待機時間が発生する。この待機時間を他のリソースに割り当てることは困難であり、結果として過剰なリソースが割り当てられることとなる。すなわち、圧縮リソースの性能とは、例えば2K60pの圧縮処理リソースであれば2K映像を60pのフレームレートを保ったまま適切なリソースが割り当てられたものである。
【0033】
具体的に、2K60p、4:2:2、10[bit]の映像を処理する圧縮処理リソースの処理性能を、データ処理能力として表すと1920×1080×20×60≒2.5[Gbps]となる。
8Kの場合、8Kを処理するのに必要な圧縮処理リソースの処理能力は40[Gbps]である。8Kを2K16枚に分割して処理する場合、圧縮処理全体のリソースとしては40[Gbps]であることは変わらないため、2K用の圧縮処理リソース性能2.5[Gbps]を16個並列動作させて疑似的に合計40[Gbps]の性能を出す必要がある。
同様に、4Kの場合、2K用の圧縮処理リソース性能2.5[Gbps]を4個並列動作させて疑似的に合計10[Gbps]の性能を出す必要がある。
【0034】
したがって、映像分割を行い映像圧縮処理するためにはバッファリングをする必要があり、バッファリングのために要する時間が映像分割処理における遅延時間となる。以降の説明において、バッファリングのために要する時間(すなわち、すべての圧縮処理リソースが動作し始めるまでの時間)を、単に遅延時間と記載する場合がある。
【0035】
まず、
図15(A)を参照しながら、2SIの一例について説明する。2SIによれば、映像信号は映像フレームの1ライン上を左から右に向かって、また上から下方向に向かってライン毎に出力されるため、縦方向(垂直方向)に4[px]、及び横方向に7[px]処理を進めた時点で初めて16個目の2K映像フレームについての処理が開始される。換言すれば、図中太線で示したピクセルの処理中は全てのリソースが動作していない状態である。
【0036】
次に、
図15(B)を参照しながら、SQDの一例について説明する。SQDによれば、映像信号は映像フレームの1ライン上を左から右に向かって、また上から下方向に向かってライン毎に出力されるため、縦方向に3241[px]、及び横方向に5761[px]処理を進めた時点で初めて16個目の2K映像フレームについての処理が開始される。換言すれば、図中太線で示したピクセルの処理中は全てのリソースが動作していない。したがって、SQDによれば、2SIと比較して処理遅延が大きいという問題があった。
【0037】
図16は、従来技術による2SI及びSQDを用いた場合の圧縮比とPSNRの関係について示す図である。同図は、2SI又はSQDを用いた場合の画質劣化を、PSNR(Peak signal-to-noise ratio)を用いてシミュレーション評価した結果を示す図である。具体的には、2SI又はSQDを用いて8K映像フレームを2K映像フレームに16分割した後、軽圧縮技術のひとつであるJPEG XSを用いて圧縮および伸張し、伸張した分割映像を統合した映像フレームと元の8K映像フレームを、PSNRを用いて評価した結果を示す。
図16(B)及び
図16(D)には、測定結果を示した表を、
図16(A)及び
図16(C)には、測定結果をプロットした表を示す。それぞれの図には、画質劣化の程度を評価するため、映像を分割せずにJPEG XSを用いて圧縮および伸張した場合の結果も示している。
【0038】
図16(A)及び
図16(B)の一例は、映像情報メディア学会が提供する超高精細・広色域標準動画像 Bシリーズから“No.1 水球(ゴール) [Water polo(goal)]”のうち1映像フレームを評価映像として用いた場合の一例である(以下、評価映像1として記載する)。
図16(C)及び
図16(D)の一例は、同シリーズから“No.3 競馬(ダート) [Horse race(dirt)]”のうち1映像フレームを評価映像として用いた場合の一例である(以下、評価映像2として記載する)。
評価映像1と評価映像2の空間周波数成分を比較すると、評価映像2の方がより空間周波数成分の高い成分が多い。
【0039】
2SIの場合、評価映像1において、分割しなかった場合と比較して約1.5から1.7[dB(デシベル)]の画質劣化が生じている。また、評価映像2において、分割しなかった場合と比較して約4.0から4.2[dB]の画質劣化が生じている。すなわち、2SIによれば、映像分割を行ったことによる映像圧縮伸張処理の画質劣化が大きい。
なお、評価映像2は、評価映像1より空間周波数成分の高い成分が多いため、より画質劣化が生じていると考えられる。
【0040】
一方、SQDは評価映像1及び評価映像2のいずれにおいても、分割しなかった場合と比較して最大で約0.2[dB]の画質劣化に抑えられている。すなわち、SQDによれば、映像分割を行ったことによる映像圧縮伸張処理の画質劣化が小さい。
【0041】
図17は、従来技術による2SI及びSQDを用いた場合の遅延量を示す図である。同図は、2SIとSQDの分割処理によって生じる処理遅延を示す。2SIとSQDそれぞれについて、4K映像を2K映像に分割した場合の処理遅延と、8K映像を2K映像に分割した場合の処理遅延とを示す。
【0042】
2SIによれば、処理遅延は4K映像の場合15.4[μs(マイクロ秒)]、8K映像の場合も15.4[μs]であり十分に小さい。一方、SQDによれば、処理遅延は4K映像の場合8.3[ms(ミリ秒)]、8K映像の場合12.5[ms]であり、2SIと比較して大きい。
IPリモート制作が要求する遅延量は、16.6[ms]であるため、他に伝送に要するファイバ距離などの伝送遅延を踏まえると、SQDによる処理遅延は大き過ぎることが課題である。
【0043】
そこで、本発明においては、2SIを用いた場合に生じる画質劣化を低減しつつ、かつSQDを用いた場合に生じる処理遅延を抑止することを目的とする。
【0044】
[実施形態]
まず、実施形態の前提となる事項を説明する。
【0045】
本実施形態に係る番組制作システム100は、撮影現場2において撮影及び録音された、番組制作に必要な映像や音声といった番組素材を、番組制作現場3に伝送する。番組制作システム100は、映像伝送システム1と、音声伝送システム4とを含む。番組制作に必要な映像素材として、8K、4K又は2Kの映像素材が混在しているものとする。
【0046】
撮影現場2においては、8K、4K、又は2Kの映像素材をそれぞれ撮影するための専用のカメラが備えられる。映像伝送システム1は、8Kで撮影された映像素材を16個の2Kの映像ストリームに分割し、4Kで撮影された映像素材を4個の2Kの映像ストリームに分割する。映像伝送システム1は、2Kで撮影された映像素材については分割を行わない。
【0047】
映像伝送システム1は、2Kの映像ストリームに統一された映像ストリームを圧縮し、番組制作現場3に伝送する。ここで、映像伝送システム1が圧縮する映像ストリームは2Kに統一されているため、2K用の圧縮リソースを用いて圧縮することができる。すなわち、映像伝送システム1は、8K用の圧縮リソースと4K用の圧縮リソースとを備えることを要しない。
【0048】
ここで、圧縮技術としては、画質劣化の少ない、低遅延で圧縮可能な、軽圧縮と呼ばれる圧縮手法が用いられる。この圧縮手法は、HEVC(High Efficiency Video Coding)といった高圧縮率のコーデックと異なり、圧縮率を1/4から1/10程度に抑えることで、ラインレベルの低遅延を実現する。具体的には、LLVC(Low Latency Video Codec)、VC2、TICO(Tiny Codec)、JPEG XS(XSは、eXtra Speed eXtra Smallの略)といった手法が存在し、用いられている。
【0049】
これらの手法のうち、JPEG XSのみについては、国際標準化が完了している。JPEG XSを用いたIP制作システムにおける圧縮信号のパケタイズについては、ISO/IEC 21122において明らかにされている。本実施形態においては、JPEG XSを用いて圧縮する場合の一例について説明する。
【0050】
映像伝送システム1は、2Kの映像ストリームをJPEG XSにより軽圧縮した後、IPパケット化およびイーサネットフレーム化し、番組制作現場3に伝送する。番組制作現場3ではIPデパケットおよびイーサネットデフレーム化を行い、映像復号後、分割された画像を統合し映像を出力する。
番組制作現場3では、統合後の8K、4Kの映像素材、又は2Kの映像素材を用いて番組制作を行う。
【0051】
[第1の実施形態]
以下、本発明の第1の実施形態について、図面を参照しながら説明する。
【0052】
[映像伝送システムの機能構成]
図1は、本発明の第1の実施形態による番組制作システムの概略機能構成を示すブロック図である。同図を参照しながら番組制作システム100の概略機能構成について説明する。番組制作システム100は、複数の撮像装置(カメラ)10と、複数の集音装置(マイク)11と、映像伝送システム1と、音声伝送システム4と、番組編集システム38とを含む。
映像伝送システム1は、撮影現場2において、送信装置20と、ネットワークスイッチ27とを備える。また、映像伝送システム1は、番組制作現場3において、ネットワークスイッチ37と、受信装置30とを備える。
音声伝送システム4は、撮影現場2において、IPゲートウェイ26と、ネットワークスイッチ27とを備える。また、音声伝送システム4は、番組制作現場3において、ネットワークスイッチ37と、IPゲートウェイ36とを備える。
【0053】
映像伝送システム1には、複数の撮像装置10として、撮像装置10-1と、撮像装置10-2と、撮像装置10-3とを接続する。撮像装置10-1は2Kの映像ストリームを、撮像装置10-2は4Kの映像ストリームを、撮像装置10-3は8Kの映像ストリームを、それぞれ撮影する。
また、音声伝送システム4には、複数の集音装置11として、集音装置11-1と、集音装置11-2と、集音装置11-3とを接続する。集音装置11-1、集音装置11-2、及び集音装置11-3は、それぞれ撮像装置10-1、撮像装置10-2、及び撮像装置10-3に応じた音声情報を集音し、集音した音声情報を所定の方法により録音する。
【0054】
送信装置20は、撮像装置10により撮影された8K、4Kの映像ストリームを2Kの映像ストリームに分割し、2Kの映像ストリームはそのまま軽圧縮方式を用いて圧縮する。また、送信装置20は、圧縮された映像ストリームをIPパケット化及びイーサネットフレーム化する。送信装置20は、ネットワークスイッチ27を介して、IPパケット化及びイーサネットフレーム化した映像ストリームを番組制作現場3に送信する。送信装置20の詳細な機能構成については後述する。
【0055】
IPゲートウェイ26は、集音装置11により録音された音声データをIPパケット化及びイーサネットフレーム化する。IPゲートウェイ26は、ネットワークスイッチ27を介して、IPパケット化及びイーサネットフレーム化した音声データを番組制作現場3に送信する。
【0056】
ネットワークスイッチ27及びネットワークスイッチ37は、映像伝送システム1及び音声伝送システム4を構成する機器であり、IPパケットを転送する。ネットワークスイッチ27及びネットワークスイッチ37は、複数の入力ポートと複数の出力ポートを備える。
具体的には、ネットワークスイッチ27は、送信装置20から送出されたIPパケットと、IPゲートウェイ26から送出されたIPパケットを受信し、番組制作現場3に設置されたネットワークスイッチ37に転送する。ネットワークスイッチ27は、IPパケットのヘッダーを参照することにより、受信したパケットを宛先に対応する出力ポートに出力する。
【0057】
ネットワークスイッチ37は、ネットワークスイッチ27により送信されたIPパケットを受信する。ネットワークスイッチ37は、受信したIPパケットを受信装置30及びIPゲートウェイ36に出力する。
【0058】
受信装置30は、取得した情報をイーサネットデフレーム化及びIPデパケット化する。受信装置30は、IPデパケット化により得られる映像ストリームであって、送信装置20により圧縮された映像ストリームを一旦2Kの映像ストリームに伸張し、送信装置20によって8K又は4Kの映像ストリームを分割して生成された2Kの映像ストリームに対応する伸張した映像ストリームを8K又は4Kの映像ストリームに統合する。また、受信装置30は、統合された映像ストリームを番組編集システム38に出力する。受信装置30の詳細な機能構成については後述する。
【0059】
IPゲートウェイ36は、取得した情報をイーサネットデフレーム化及びIPデパケット化する。IPゲートウェイ36は、IPデパケット化により得られる音声データを番組編集システム38に出力する。
【0060】
番組編集システム38は、撮影現場2から伝送された映像ストリームと音声データとに基づき、番組を制作する。具体的には、番組編集システム38は、表示装置40と、映像切替装置381と、映像編集装置382と、音声合成装置383とを備える。
【0061】
表示装置40は、受信装置30から受信した8K、4K又は2Kの映像ストリームを表示する。映像切替装置381は、表示装置40に表示された映像材料のうち、いずれの映像を番組に用いるかを切り替える。映像編集装置382は、受信装置30から受信した映像材料を編集する。音声合成装置383は、IPゲートウェイ36から受信した音声データと、映像材料とを合成する。
【0062】
[送信装置の機能構成]
図2は、同実施形態による送信装置の機能構成の一例を示すブロック図である。同図を参照しながら、送信装置20の機能構成の一例について説明する。送信装置20は、映像取得部210と、分割部220と、圧縮部230と、送信バッファ(送信部)240とを備える。
【0063】
映像取得部210は、撮像装置10により撮像された映像ストリームVSを取得する。映像取得部210は、8K、4K又は2Kの映像ストリームVSを取得する。
【0064】
分割部220は、映像取得部210により取得された映像ストリームVSの映像フレームVFを、分割映像フレームDVFに分割する。分割部220は、具体的には、取得した映像ストリームVSの映像フレームVFが8Kである場合には、4Kの分割映像フレームDVFに分割した後に2Kの分割映像フレームDVFに分割する。また、取得した映像ストリームの映像フレームが4Kである場合には、2Kの分割映像フレームDVFに分割する。すなわち、分割部220は、映像フレームVFを4つの分割映像フレームDVFに分割する。
なお、分割部220は、取得した映像ストリームVSの映像フレームVFが2Kである場合には、分割しない。
【0065】
圧縮部230は、分割部220により2Kの映像フレームVFに分割された分割映像フレームDVFを圧縮する。圧縮部230は、軽圧縮処理により、分割映像フレームDVFを圧縮する。
【0066】
送信バッファ240は、圧縮部230により圧縮された分割映像フレームDVFである圧縮映像ストリームCVSを送信する。
圧縮映像ストリームCVSは、分割部220により2Kの映像ストリームに分割されているため、送信バッファ240は、分割映像フレームDVFを2K映像の映像ストリームとして送信する。
【0067】
[受信装置の機能構成]
図3は、同実施形態による受信装置の機能構成の一例を示すブロック図である。同図を参照しながら、受信装置30の機能構成の一例について説明する。受信装置30は、受信バッファ(受信部)310と、伸張部320と、統合部330と、出力部340とを備える。
【0068】
受信バッファ310は、送信装置20により送信された2K映像の圧縮映像ストリームCVSを受信する。
【0069】
伸張部320は、受信バッファ310が取得した圧縮映像ストリームCVSに対して伸張処理を行うことにより、分割映像フレームDVFを復元する。
【0070】
統合部330は、復元された複数の分割映像フレームDVFを統合することにより統合映像フレームIVFに統合する。統合部330は、具体的には4つの分割映像フレームDVFを統合することにより4K映像フレームに統合し、16個の分割映像フレームDVFを統合することにより8K映像フレームに統合する。
【0071】
出力部340は、統合された統合映像フレームIVFを表示装置40に出力する。
【0072】
[MCDによる映像分割]
図4は、同実施形態による分割部が4K映像の映像フレームを2K映像の映像フレームに分割する場合の一例について説明するための図である。本実施形態における映像分割方式を、MCD(Multi-Cross Division)と記載する。同図を参照しながら、MCD方式による映像分割方法について説明する。
同図を参照しながら、4K映像フレームをMCDにより2K映像フレームに分割する場合の一例について説明する。
図4(A)は、分割前の4K映像フレームを、
図4(B)は、分割後の2K映像フレームを示す。
【0073】
MCD方式は、映像フレームの左半分と右半分について、特定の分割ライン毎に上から順に分割することにより、分割映像フレームを生成する。同図には、540ラインごとに分割する場合の一例について説明する。
以降の説明において、横方向及び縦方向に連続する複数の画素を画素群と記載する。1の画素群は、映像フレームの縦方向及び横方向にそれぞれ連続する複数の画素を含む。同図において、それぞれの画素群には、1から8の番号が付されている。それぞれの画素群を画素群1から画素群8と記載する場合がある。
【0074】
映像フレームの左半分のフレームに着目すると1ラインから540ラインまで(画素群1)が第1分割映像フレームに、541ラインから1080ライン(画素群3)が第3分割映像フレームに、1081ラインから1620ライン(画素群5)が第1分割映像フレームに、1621ラインから2160ライン(画素群7)が第3分割映像フレームに、割り当てられる。
【0075】
同様に映像フレームの右半分のフレームに着目すると、1ラインから540ライン(画素群2)までが第2分割映像フレームに、541ラインから1080ライン(画素群4)が第4分割映像フレームに、1081ラインから1620ライン(画素群6)が第2分割映像フレームに、1621ラインから2160ライン(画素群8)が第4分割映像フレームに、割り当てられる。
【0076】
ここで、それぞれの画素群の横方向の画素数は、映像フレームが横方向に有する画素数の半分である。また、それぞれの画素群の縦方向の画素数は任意であるが、135ライン以上(例えば、135ライン、270ライン、又は540ライン)が好適である。
【0077】
分割映像フレームDVFは、少なくとも2以上の離散した位置に存在する画素群を有する。例えば、
図4(B)に図示するように、4Kの映像フレームVFを、分割映像フレームDVF1から分割映像フレームDVF4の4つの2Kの分割映像フレームDVFに分割する場合について説明する。この場合、分割映像フレームDVF1は画素群1及び画素群5のように、分割映像フレームDVF3は画素群3及び画素群7のように、分割映像フレームDVF2は画素群2及び画素群6のように、分割映像フレームDVF4は画素群4及び画素群8のように、2つの離散した位置に存在する画素群を有する。
【0078】
すなわち、分割部220は、映像フレームVFを、映像フレームVFの縦方向及び横方向にそれぞれ連続する複数の画素を含む画素群であって、少なくとも2以上の離散した位置に存在する画素群を有する分割映像フレームDVFに分割する。
また、統合部330は、複数の分割映像フレームDVFにそれぞれ含まれる複数の画素群を、少なくとも2以上の離散した位置に統合することにより、統合映像フレームIVFに統合する。
【0079】
より具体的には、分割部220は、映像フレームVFを縦方向に少なくとも2つの画素群に分割する。また、分割部220は、映像フレームVFを横方向に少なくとも4つの画素群に分割する。分割部220は、分割した複数の画素群を組み合わせて分割映像フレームDVFとする。
【0080】
図5は、同実施形態による分割部が8K映像の映像フレームを4K映像の映像フレームに分割する場合の一例について説明するための図である。同図を参照しながら、8K映像フレームをMCDにより4K映像フレームに分割する場合の一例について説明する。
図5(A)は、分割前の8K映像フレームを、
図5(B)は、分割後の4K映像フレームを示す。
【0081】
8K映像の映像フレームを2K映像の映像フレームに分割する場合、分割部220は、まず4Kの場合と同様の処理により4分割を行う。次に分割部220は、分割された4Kの分割映像フレームを、4Kの場合と同様の処理により再度2Kの分割映像フレームに分割する。
図5を参照しながら行う説明においては、8K映像の映像フレームを4K映像の映像フレームに分割する場合の一例について説明する。
【0082】
映像フレームの左半分のフレームに着目すると1ラインから1080ライン(画素群1)までが第1分割映像フレームに、1081ラインから2160ライン(画素群3)が第3分割映像フレームに、2161ラインから3240ライン(画素群5)が第1分割映像フレームに、3241ラインから4320ライン(画素群7)が第3分割映像フレームに、割り当てられる。
【0083】
同様に映像フレームの右半分のフレームに着目すると、1ラインから1080ライン(画素群2)までが第2分割映像フレームに、1081ラインから2160ライン(画素群4)が第4分割映像フレームに、2161ラインから3240ライン(画素群6)が第2分割映像フレームに、3241ラインから4320ライン(画素群8)が第4分割映像フレームに、割り当てられる。
【0084】
ここで、それぞれの画素群の横方向の画素数は、映像フレームが横方向に有する画素数の半分である。また、それぞれの画素群の縦方向の画素数は任意であるが、270ライン以上(例えば、270ライン、540ライン、又は1080ライン)が好適である。
【0085】
図6は、同実施形態における圧縮処理リソースを動作させるのに要するバッファについて説明するための図である。同図を参照しながら、MCDを用いて8K映像フレームを4つの4K映像フレームに映像分割し、分割後のそれぞれの4K映像フレームを更に4つの(すなわち、16個の)2K映像フレームに分割する際の一例について説明する。
同図は、縦4320[px]×横7680[px]から構成される8K映像フレームを示す。各ピクセルには、n-mの番号(n及びmは1から4の自然数)が付されている。各ピクセルに付された番号のうち、nは4つの4K映像フレームのうち、いずれの4K映像フレームに分割されるかを示す。また、mは4つの2K映像フレームのうち、いずれの2K映像フレームに分割されるかを示す。すなわち、ピクセルに“2-3”と付されていれば、第2の4K映像フレームに分割され、更に第3の2K映像フレームに分割されることを示す。
【0086】
分割後のそれぞれの2K映像フレームには、映像圧縮リソースが1対1で対応する。すなわち、第1の2K映像フレームには第1の映像圧縮リソースが対応し、…、第mの2K映像フレームには第mの映像圧縮リソースが対応する。
【0087】
バッファ処理は、送信装置20側、又は受信装置30側のいずれで行われてもよい。すなわち、送信装置20側でバッファ処理が行われた場合、受信装置30側でバッファ処理をする必要はなく、逆に送信装置20側でバッファ処理が行われない場合、受信装置30側でバッファ処理をする必要がある。
例えば、送信装置20が備える圧縮部230がバッファ処理を行ってもよい。
【0088】
MCDによれば、横方向に順に処理を進める場合、縦方向(垂直方向)に1621[px]、及び横方向に5761[px]処理を進めた時点で初めて16個目の2K映像フレームについての処理が開始される。換言すれば、図中太線で示したピクセルの処理が完了した時点において、すべてのリソースが動作し始めることができる。
【0089】
[映像伝送システムの動作]
図7は、同実施形態による送信装置の一連の動作を示すフローチャートである。同図を参照しながら、送信装置20の一連の動作について説明する。
(ステップS110)映像取得部210は、撮像装置10により撮像された映像ストリームVSを取得する。
(ステップS120)分割部220は、取得した映像ストリームVSの映像フレームVFを、MCDにより分割する。この際、分割部220は、取得した映像ストリームVSが4K映像である場合は一度、8K映像である場合は繰り返し4分割することにより、2K映像となるよう分割する。
(ステップS130)圧縮部230は、2K映像に分割された分割映像フレームDVFを圧縮する。
(ステップS140)送信バッファ240は、ネットワークスイッチ27を介して、圧縮された圧縮映像ストリームCVSを送信する。
【0090】
図8は、同実施形態による受信装置の一連の動作を示すフローチャートである。同図を参照しながら、受信装置30の一連の動作について説明する。
(ステップS210)受信バッファ310は、送信装置20により送信された2K映像の圧縮映像ストリームCVSを取得する。
(ステップS220)伸張部320は、取得した2K映像の圧縮映像ストリームCVSを伸張処理することにより、分割映像フレームDVFを復元する。
(ステップS230)統合部330は、分割映像ストリームDVFを統合することにより、4K又は8Kの統合映像フレームIVFに統合する。
(ステップS240)出力部340は、統合映像フレームIVFを出力する。
【0091】
[映像伝送システムの効果]
図9は、同実施形態による圧縮比とPSNRの関係について示す図である。同図は、MCDを用いて8K映像フレームを2K映像フレームに16分割した後、JPEG XSを用いて圧縮および伸張し、伸張した分割映像を統合して8K映像フレームに戻した場合の画質劣化を、PSNRを用いて測定した結果を示す。
図9(B)及び
図9(D)には、測定結果を示した表を、
図9(A)及び
図9(C)には、測定結果をプロットした表を示す。それぞれの図には、画質劣化の程度を評価するため、映像を分割しなかった場合の結果と、2SI及びSQDを用いた場合の結果についても併せて示している。
【0092】
図9(A)及び
図9(B)の一例は、
図16において示した評価映像1を用いた場合の一例である。
図9(C)及び
図9(D)の一例は、
図16において示した評価映像2を用いた場合の一例である。
両映像フレーム共に画質劣化は最大でも約0.2[dB]であり、2SIと比較して大きく画質劣化が低減していることが分かる。また、SQDと同程度に抑えられていることが分かる。
【0093】
図10は、同実施形態による遅延量を示す図である。同図は、MCDの分割処理によって生じる処理遅延を示す。同図には、4K映像を2K映像に分割した場合の処理遅延と、8K映像を2K映像に分割した場合の処理遅延とを示す。また、遅延量の程度を評価するため、2SI及びSQDを用いた場合の結果についても併せて示している。
【0094】
MCDによれば、4Kの場合、4.2[ms]であり、8Kの場合、6.2[ms]である。2SIの場合に比べると処理遅延が大きくなるが、SQDの場合に比べると、約半分程度に処理遅延を抑えられていることが分かる。
画質劣化と処理遅延とを総合考慮すると、MCDでは、SQDと同程度の画質劣化に抑えることができる一方、SQDの約半分程度に処理遅延を抑えることができている。したがって、MCDによれば、2SIの欠点であった画質劣化を抑止することができ、更にSQDの欠点であった処理遅延を改善することができる。
【0095】
[第1の実施形態のまとめ]
以上説明した実施形態によれば、送信装置20は、映像取得部210を備えることにより撮像装置10により撮像された映像ストリームVSを取得し、分割部220を備えることによりMCDを用いて8K又は4Kの映像フレームVFを2K映像の映像フレームに分割し、圧縮部230を備えることにより分割映像フレームDVFを圧縮し、送信バッファ240を備えることにより圧縮映像ストリームCVSを出力する。
MCDによれば、分割部220により分割される分割映像フレームDVFは、少なくとも2以上の離散した位置に存在する画素群を有する。ここで、画素群は、映像フレームVFの縦方向及び横方向にそれぞれ連続する複数の画素を含む。
【0096】
したがって、本実施形態によれば、分割後であっても連続するピクセル情報は維持されるため、空間周波数成分を保持したまま圧縮することができる。すなわち、画質劣化を抑止することができる。
また、本実施形態によれば、分割前の映像フレームを田の字に4つに分割するSQDと比較して、より細かく分割するため、全てのリソースが動作し始めるタイミングが早い。よって、処理遅延を抑えることができる。
【0097】
また、以上説明した実施形態によれば、分割部220は映像フレームVFを4つの分割映像フレームDVFに分割し、送信バッファ240は分割映像フレームDVFを2Kの圧縮映像ストリームCVSとして出力する。したがって、本実施形態によれば、2Kの映像ストリームVSに統一して撮影現場2及び番組制作現場3間の伝送を行うため、2K4K8K毎にフォーマット専用の映像圧縮伝送装置が不要となる。したがって、本実施形態に係る送信装置20及び受信装置30によれば、使用フォーマットが異なる様々な現場であっても、2K4K8K毎にフォーマット専用の映像圧縮伝送装置を要せず、柔軟に運用することができる。したがって、低コスト化及び装置の小型化をすることができる。
【0098】
また、以上説明した実施形態によれば、映像取得部210が取得する映像ストリームVSは、8K映像、4K映像、又は2K映像のいずれかである。また、分割部220は、8K映像を4K映像に4分割した後に、2K映像に更に4分割する。したがって、本実施形態によれば、8K映像を4K映像にする場合も、4K映像を2K映像に分割する場合も、同様のアルゴリズムを用いることができる。よって、本実施形態によれば、アルゴリズムを簡略化することができる。
【0099】
また、以上説明した実施形態によれば、分割部220は、映像フレームVFを縦方向に少なくとも2つの画素群に分割し、横方向に少なくとも4つの画素群に分割し、複数の画素群を組み合わせて分割映像フレームDVFとする。したがって、本実施形態によれば、連続する画素の情報を維持することができるため、空間周波数成分の情報を失わずに分割することができる。すなわち、画質劣化を抑止することができる。
【0100】
[第2の実施形態]
次に、第2の実施形態について説明する。第2の実施形態においては、分割ライン数が可変である点において、第1の実施形態とは異なる。分割ライン数とは、MCDにより横方向に分割されるライン数のことであり、換言すれば、画素群が有する縦方向の画素数である。
例えば、上述した第1の実施形態においては、4K映像フレームの場合、分割ラインは540ラインに固定され、8K映像フレームの場合、分割ラインは1080ラインに固定されていた。第2の実施形態によれば、例えば、4K映像フレームの場合、分割ラインは135、270、540ラインであってもよいし、8映像フレームの場合、分割ラインは270、540、1080ラインであってもよい。
【0101】
図11は、本発明の第2の実施形態による分割部が4K映像の映像フレームを2K映像の映像フレームに分割する場合の一例について説明するための図である。同図を参照しながら、第2の実施形態におけるMCD方式による映像分割方法について説明する。
同図を参照しながら、4K映像フレームを第2の実施形態におけるMCDにより2K映像フレームに分割する場合の一例について説明する。
図11(A)は、分割前の4K映像フレームを、
図11(B)は、分割後の2K映像フレームを示す。
なお、8K映像フレームを4K映像フレームに分割する場合については説明を省略するが、4K映像フレームを2K映像フレームに分割する場合と同様のアルゴリズムが用いられてもよい。
【0102】
第2の実施形態におけるMCD方式は、映像フレームの左半分と右半分に分割する点においては、第1の実施形態におけるMCD方式と同様である。第2の実施形態におけるMCD方式は、上から順に分割する際の分割ライン数が可変である点において、第1の実施形態とは異なる。同図には、270ラインごとに分割する場合の一例について示している。
【0103】
同図に示すように、分割前の4K映像フレームは16個の画素群に分割され、分割後の2K映像フレームは、それぞれ4個の画素群を含んで構成される。具体的には、分割前の4K映像フレームのうち、左半分が奇数の画素群に分割され、右半分が偶数の画素群に分割されている。
分割映像フレームDVF1は、画素群1、画素群5、画素群9、画素群13を有し、分割映像フレームDVF3は、画素群3、画素群7、画素群11、画素群15を有し、分割映像フレームDVF2は、画素群2、画素群6、画素群10、画素群14を有し、分割映像フレームDVF4は、画素群4、画素群8、画素群12、画素群16を有する。
【0104】
例えば、分割ライン数を540ラインから、270ライン、135ラインと、小さくしていくに従い、画素群の大きさは小さくなる。したがって、分割ライン数を小さくするほど、遅延時間が短くなる。一方、分割ライン数を小さくするほど、連続するピクセル情報が失われてしまうことにもなるため、画質劣化は大きくなる。
【0105】
このように、分割ライン数を可変させることにより処理遅延と画質劣化において相反する結果が生じる。第2の実施形態においては、分割ライン数を可変させることができる。分割ライン数の決定は、例えばユーザの設定により行われてもよい。
【0106】
図12は、同実施形態による送信装置の機能構成の一例を示すブロック図である。同図を参照しながら、送信装置20Aの機能構成の一例について説明する。送信装置20Aは、分割ライン数取得部250を新たに備え、分割部220に代えて分割部220Aを備える点において、送信装置20とは異なる。
【0107】
分割ライン数取得部250は、分割ライン数DLを取得する。分割ライン数DLとは、分割部220により分割される画素群が有する横方向のライン数である。分割ライン数DLは、不図示の記憶部に記憶されていてもよいし、ユーザの操作に基づいて取得されてもよい。また、分割ライン数DLは、映像ストリームVSのサイズ等に応じて自動的に決定されてもよい。
【0108】
分割部220Aは、映像取得部210から映像ストリームVSを取得し、分割ライン数取得部250から分割ライン数DLを取得する。分割部220Aは、取得した映像ストリームVSの映像フレームVFを、取得した分割ライン数DLに応じてMCDにより分割する。具体的には、分割部220Aは、取得された分割ライン数DLごとに映像フレームVFを横方向に分割する。
【0109】
図13は、同実施形態による分割ラインごとの遅延量を示す図である。同図は、第2の実施形態によるMCDの分割処理によって生じる処理遅延を示す。同図には、分割ライン数DLを可変させた場合の処理遅延を示す。具体的には、4K映像について、分割ライン数DLを135ライン、270ライン、540ラインとした場合の処理遅延を示す。また、8K映像について、分割ライン数DLを270ライン、540ライン、1080ラインとした場合の処理遅延を示す。8K映像から4K映像に分割した後の、4K映像から2K映像に分割する処理においては、8K映像から4K映像に分割する際の分割ライン数DLの半分の値を用いた。
【0110】
4Kの場合、分割ライン数DLが135ラインのとき1.0[ms]、270ラインのとき2.1[ms]、540ラインのとき4.2[ms]であった。
8Kの場合、分割ライン数DLが、8Kから4Kが270ラインで4Kから2Kが135ラインのとき1.6[ms]、8Kから4Kが540ラインで4Kから2Kが270ラインのとき3.1[ms]、8Kから4Kが1080ラインで4Kから2Kが540ラインのとき6.2[ms]であった。
処理遅延時間は分割ライン数DLに依存するが、SQDと比較して遅延を抑えられていることが分かる。
【0111】
[第2の実施形態のまとめ]
以上説明した実施形態によれば、送信装置20Aは、分割ライン数取得部250を備えることにより分割ライン数DLを取得し、分割部220Aは、取得された分割ライン数DLごとに映像フレームVFを横方向に分割する。したがって、本実施形態によれば、分割ライン数DLを可変させることができる。
ここで、分割ライン数DLを可変させることにより、処理遅延と画質劣化において相反する結果が生じる。したがって、本実施形態によれば、処理遅延を少なくすることを優先するか、画質劣化を小さくすることを優先するかを、任意に決定することができる。
【0112】
なお、上述した実施形態における映像伝送システム1が備える各部の機能全体あるいはその一部は、これらの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0113】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶部のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバーやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0114】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。また、本発明はこうした実施形態に何ら限定されるものではなく、本発明の趣旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【符号の説明】
【0115】
1 映像伝送システム
2 撮影現場
3 番組制作現場
4 音声伝送システム
10 撮像装置
11 集音装置
20 送信装置
26 IPゲートウェイ
27 ネットワークスイッチ
30 受信装置
36 IPゲートウェイ
37 ネットワークスイッチ
38 番組編集システム
381 映像切替装置
382 映像編集装置
383 音声合成装置
40 表示装置
210 映像取得部
220 分割部
230 圧縮部
240 送信バッファ
250 分割ライン数取得部
310 受信バッファ
320 伸張部
330 統合部
340 出力部
100 番組制作システム