(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024145754
(43)【公開日】2024-10-15
(54)【発明の名称】映像処理装置
(51)【国際特許分類】
H04N 21/241 20110101AFI20241004BHJP
H04L 41/0897 20220101ALI20241004BHJP
H04N 7/18 20060101ALI20241004BHJP
H04N 21/238 20110101ALI20241004BHJP
【FI】
H04N21/241
H04L41/0897
H04N7/18 K
H04N21/238
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2023058238
(22)【出願日】2023-03-31
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和3年度 国立研究開発法人情報通信研究機構「革新的情報通信技術研究開発委託研究/(高臨場感通信環境実現のための広帯域・低遅延リアルタイム配信処理プラットフォームの研究開発)(採択番号03101)」、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】391022614
【氏名又は名称】学校法人幾徳学園
(71)【出願人】
【識別番号】000114226
【氏名又は名称】ミハル通信株式会社
(74)【代理人】
【識別番号】100144749
【弁理士】
【氏名又は名称】小林 正英
(74)【代理人】
【識別番号】100076369
【弁理士】
【氏名又は名称】小林 正治
(72)【発明者】
【氏名】丸山 充
(72)【発明者】
【氏名】瀬林 克啓
(72)【発明者】
【氏名】加藤 康久
(72)【発明者】
【氏名】青木 弘太
【テーマコード(参考)】
5C054
5C164
【Fターム(参考)】
5C054CA04
5C054CC02
5C054EA00
5C054HA17
5C164FA29
5C164MA02S
5C164SB21P
5C164SB51P
5C164TA22S
(57)【要約】
【課題】 ネットワーク上のクラウドやエッジのコンピューティング能力を使用し、必要な時だけシステムを仮想的に構成し、映像処理ワークフローを実現できるようにする。
【解決手段】 ネットワークに接続されたPCサーバや仮想マシンを使って映像処理する映像処理装置であり、DPDKで提供する機能を用いて、OSの配下から特定のCPUコアやメモリ、ネットワークインタフェースカードのリソースを取り上げて、ユーザプログラムで専有できる状態にした上で、映像処理機能割当部が映像データの入出力に用いるネットワークインタフェースカードのリソース割り当て、複数のプログラム処理を実行するファンクションためのCPUのコアのリソース割り当て、入出力に用いるアドレス情報の割り当てを行い、ファンクション部は、割り当てられたファンクションのみの動作を繰り返し実行させることで、ファンクション部を一斉に起動した後は、入力パケットデータに基づく途切れのない映像処理を実行できるようにした。
【選択図】
図1
【特許請求の範囲】
【請求項1】
映像処理をネットワークに接続された汎用のPCサーバや仮想マシンを使って実現する映像処理装置において、
DPDKで提供する機能を用いて、OSの配下から特定のCPUコアやメモリ、ネットワークインタフェースカードのリソースを取り上げて、ユーザプログラムで専有できる状態にした上で、
映像処理機能割当部が、映像データの入出力に用いるネットワークインタフェースカードのリソース割り当て、複数のプログラム処理を実行するファンクションためのCPUのコアのリソース割り当て、入出力に用いるアドレス情報の割り当てを行い、
ファンクション部の各CPUコアは、割り当てたファンクションのみの動作を繰り返し実行させることで、ファンクション部を一斉に起動した後は、入力パケットデータに基づく途切れのない映像処理を実行でき、各ファンクションには、外部からの映像処理に関わる機能制御を行うAPIインタフェースを備えることにより、リアルタイム映像処理を行える、
ことを特徴とする映像処理装置。
【請求項2】
請求項1記載の映像処理装置において、
ネットワークインタフェースカードのリソース割り当てやCPUのコアリソース割り当て、アドレス割り当ての情報を一括して設定可能なリソース統合情報で管理する、
ことを特徴とする映像処理装置。
【請求項3】
請求項1又は請求項2記載の映像処理装置において、
ネットワークインタフェースの回線状況や割り当てたコアのCPUやメモリのリソースを内部リソース監視部でモニタリングして、絶えずリソース状況を監視表示することが可能である、
ことを特徴とする映像処理装置。
【請求項4】
請求項1又は請求項2記載の映像処理装置において、
リソース状況のモニタリングの結果、リソース不足が判明した場合には、該当のCPUコア数などの割り当て数を変更し、リソース統合情報を書き替え、映像処理機能割当部が各ファンクション部を再起動可能である、
ことを特徴とする映像処理装置。
【請求項5】
請求項1記載の映像処理装置において、
複数の映像処理機能を連結して、一連の映像ワークフローを実現するために、
映像処理機能の構成情報を管理する映像処理機能構成管理部を加え、
外部ネットワークから入力された映像パケットに対して、入力映像のパケットプロトコル処理および映像処理機能部で処理する順番を指定する機能を有する映像処理入力部と、
複数の映像処理機能部と、
外部ネットワークに出力するための映像パケットに変換するプロトコル処理を行うための映像出力部が相互結合されたコネクションネットワークで接続され、
映像処理機能構成管理部が複数の映像処理機能部と映像処理入力部と映像出力処理部を起動することで、
外部ネットワークからの映像入力パケットに基づく途切れのない複数の映像処理の連結動作を行い、処理後の映像パケットを出力することを可能とする、
ことを特徴とする映像処理装置。
【請求項6】
請求項2記載の映像処理装置において、
複数の映像処理機能を連結して、一連の映像ワークフローを実現するために、
映像処理機能の構成情報を管理する映像処理機能構成管理部を加え、
外部ネットワークから入力された映像パケットに対して、入力映像のパケットプロトコル処理および映像処理機能部で処理する順番を指定する機能を有する映像処理入力部と、
複数の映像処理機能部と、
外部ネットワークに出力するための映像パケットに変換するプロトコル処理を行うための映像出力部が相互結合されたコネクションネットワークで接続され、
映像処理機能構成管理部が複数の映像処理機能部と映像処理入力部と映像出力処理部を起動することで、
外部ネットワークからの映像入力パケットに基づく途切れのない複数の映像処理の連結動作を行い、処理後の映像パケットを出力することを可能とする、
ことを特徴とする映像処理装置。
【請求項7】
請求項5記載の映像処理装置において、
回線状況および映像処理機能部のリソース状況をリアルタイムに監視する映像処理機能リソース監視部によりシステムの正常動作を監視・表示できる、
ことを特徴とする映像処理装置。
【請求項8】
請求項6記載の映像処理装置において、
回線状況および映像処理機能部のリソース状況をリアルタイムに監視する映像処理機能リソース監視部によりシステムの正常動作を監視・表示できる、
ことを特徴とする映像処理装置。
【請求項9】
請求項5記載の映像処理装置において、
リソース不足が判明した場合に、映像処理機能構成管理部に通知することで、映像処理機能部の実行に割り当ててある仮想マシンや物理サーバ等の割り当て情報を再割り当てして、安定動作可能にする、
ことを特徴とする映像処理装置。
【請求項10】
請求項6記載の映像処理装置において、
リソース不足が判明した場合に、映像処理機能構成管理部に通知することで、映像処理機能部の実行に割り当ててある仮想マシンや物理サーバ等の割り当て情報を再割り当てして、安定動作可能にする、安定動作可能にする、
ことを特徴とする映像処理装置。
【請求項11】
請求項7記載の映像処理装置において、
リソース不足が判明した場合に、映像処理機能構成管理部に通知することで、映像処理機能部の実行に割り当ててある仮想マシンや物理サーバ等の割り当て情報を再割り当てして、安定動作可能にする、
ことを特徴とする映像処理装置。
【請求項12】
請求項8記載の映像処理装置において、
リソース不足が判明した場合に、映像処理機能構成管理部に通知することで、映像処理機能部の実行に割り当ててある仮想マシンや物理サーバ等の割り当て情報を再割り当てして、安定動作可能にする、安定動作可能にする、
ことを特徴とする映像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ライブ映像制作に用いる映像処理装置(映像処理システム)に関するものである。
【背景技術】
【0002】
ライブ映像制作では、複数のカメラ映像素材やレコーダの収録済の映像素材などの入力素材に加工を加え、随時切り替える編集作業を行い、視聴者に送出する映像ワークフローを実現するためのシステムが使われる。
図14のように、遠隔地のカメラ素材(例えばお天気カメラ)などは、送信伝送装置Aから送出され、ネットワークを介して、受信伝送装置Bで受信したものを素材として用いる。編集拠点では、様々な映像処理機能(色調整C、フォーマット変換D、映像切り替えE、フォーマット変換・圧縮機能F)を実現する複数の映像処理装置を組み合わせてシステム化し、それら映像処理装置の結線にはSDIなどの数mから最長100m程度の映像インタフェースケーブルが使われる事が多い。
このため、複数の映像処理装置を1箇所に集める必要がある他、映像処理装置は、映像フォーマットによって様々な種類があり、電気的な入出力インタフェース条件が違うと接続できないなど構築に関する専門の知識が必要となる。また、最近普及してきた8K映像に対応したものになると、48Gbpsや24Gbpsの映像インタフェース速度が必要となり、映像処理装置間では複数本数の映像インタフェースを束ねて並列伝送したり、光ケーブルを使って伝送したりするシステムになり、高価であり、簡単に利用する事はできない課題がある。
【0003】
従来、IPネットワークが広く使われるようになり、中継現場とスタジオをネットワークで接続し、番組制作を行うリモートプロダクションというワークフローが浸透してきた他、さらにネットワーク上のクラウドやエッジのコンピューティング能力を用いて、先行投資なしで必要な時だけ映像編集処理を行う動きがある(非特許文献1)。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】https://www.nhk.or.jp/strl/publica/rd/179/2.html
【0005】
しかしながら、現在のクラウドコンピューティングを用いた映像処理機能の実現においては、以下のような実現上の課題がある。
(1)8K映像で必要となるover10Gbpsの高速処理を実現するのが難しい。
(2)複数の映像処理機能を連携する仕組みが用意されていない。
(3)CPUやネットワークのリソースを監視する仕組みがない。
(4)リソース低減時にリソースを再割り当てする仕組みがない。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は上記の如き問題を解消すべく開発されたもので、その目的とするところは、距離的制約やインタフェースの複雑さを排除し、ネットワーク上のクラウドやエッジのコンピューティング能力を使用し、必要な時だけシステムを仮想的に構成し、映像処理ワークフローを実現できる映像処理装置を提供することにある。
【課題を解決するための手段】
【0007】
本発明は、映像処理をネットワークに接続されたPCサーバや仮想マシンを使って実現する映像処理装置において、
図7のようなDPDK(Data Plane Development Kit)で提供する機能を用いて、OSの配下から特定のCPUコアやメモリ、ネットワークインタフェースカードのリソースを取り上げて、ユーザプログラムで専有できる状態で動作させることで、割り込み等の影響を避けた高速動作を可能とする。また、映像処理装置は、映像処理機能割当部、ファンクション部を備え、映像処理機能割当部は映像データの入出力に用いるネットワークインタフェースカードのリソース割り当て、複数のプログラム処理を実行するファンクションためのCPUのコアのリソース割り当て、入出力に用いるアドレス情報の割り当てを行い、ファンクション部は複数のCPUコアとAPIインタフェースを備え、各CPUコアは,割り当てたファンクションのみの動作を繰り返し実行させる事で、ファンクション部を一斉に起動した後は、入力パケットデータに基づく途切れのない映像処理を実行できる。APIインタフェースは外部からの映像処理に関わる機能制御を行う。
【0008】
前記映像処理装置では、ネットワークインタフェースカードのリソース割り当てやCPUのコアリソース割り当て、アドレス割り当ての情報を一括して設定可能なリソース統合情報で管理主体を付加する事で、アプリケーションに応じた容易な設定を行う事もできる。
【0009】
前記映像処理装置では、内部リソース監視部を付加することで、ネットワークインタフェースの回線状況や割り当てたコアのCPUやメモリのリソース状況を絶えず監視表示することもできる。
【0010】
前記映像処理装置では,リソース状況のモニタリングの結果,リソース不足が判明した場合には、該当のCPUコア数などの割り当て数を変更し、リソース統合情報を書き替え、前記映像処理機能割当部が前記各ファンクション部を再起動する事で、安定的な動作を達成することができる。
【0011】
本発明では、複数の映像処理機能を必要な個数および順番に連結して(システム化して)、一連の映像ワークフローを実現する映像処理装置とすることもできる。このために、前記映像処理装置に映像処理機能の構成情報を管理する映像処理機能構成管理部を加え、前記映像処理装置に相当するプログラム可能な映像処理機能部が仮想マシンや物理サーバを用いて複数動作する場合において、外部ネットワークから入力された映像パケットに対して、入力映像のパケットプロトコル処理および映像処理機能部で処理する順番を指定する機能を有する映像処理入力部と、複数の映像処理機能部と、外部ネットワークに出力するための映像パケットに変換するプロトコル処理を行うための映像出力部が相互結合されたコネクションネットワークで接続され、映像処理機能構成管理部が複数の映像処理機能部と映像処理入力部と映像出力処理部を起動することで、外部ネットワークからの映像入力パケットに基づく途切れのない複数の映像処理の連結動作を行い、処理後の映像パケットを出力する構成とする。
【0012】
本発明の前記映像処理装置においては、回線状況および前記映像処理機能部のリソース状況をリアルタイムに監視する映像処理機能リソース監視部によりシステムの正常動作の監視およびリソース状況の表示が達成される。
【0013】
本発明の前記映像処理装置においては、リソース不足が判明した場合に、その旨を前記映像処理機能構成管理部に通知する事で、前記映像処理機能部の実行に割り当てた仮想マシンや物理サーバを性能が高いものに変更して、安定動作させることができる。
【発明の効果】
【0014】
本発明の映像処理装置によれば、従来の映像処理システムの課題であった、映像入出力のインタフェースの距離制約により複数の映像処理装置を1箇所に集める必要があったことや、インタフェースの仕様により接続不可が発生する課題の解決を行うために、インタフェースが統一されて距離制約をなくしたIPネットワークを用いた上で、クラウドやエッジのコンピューティング能力を導入して、必要な時に自在にシステムが組める利便性を有するシステムを構築することができる。
【0015】
8Kなどの広帯域映像処理に向けた実現上の課題を克服し、次のことも可能となる。
(1)8K映像で必要となるover10Gbpsの高速処理の実現。
(2)複数の映像処理機能を連携する仕組み。
(3)CPUやネットワークのリソースを監視する仕組み。
(4)リソース低減時にリソースを再割り当てする仕組み。
【図面の簡単な説明】
【0016】
【
図2】本発明の映像処理装置の他の実施例の説明図。
【
図4】本発明の映像処理装置のリソース構成情報図。
【
図7】DPDK(Data Plane Development Kit)を用いた映像処理説明図。
【
図9】本発明の映像処理装置におけるリソース設定例であって、映像処理入力部(主系列)の設定説明図。
【
図10】本発明の映像処理装置におけるリソース設定例であって、映像処理入力部(副系統1)の設定説明図。
【
図11】本発明の映像処理装置におけるリソース設定例であって、映像処理入力部(副系統2)の設定説明図。
【
図12】本発明の映像処理装置におけるリソース設定例であって、映像処理機能・映像切り替え(1段目)の設定説明図。
【
図13】本発明の映像処理装置におけるリソース設定例であって、映像処理機能・映像切り替え(2段目)の設定説明図。
【発明を実施するための形態】
【0017】
本発明に係る映像処理装置は、次のような各部(機能)を備えたものであり、これら各部で以下の機能を分担することで、リアルタイム映像編集に関する処理を実現することができる。
【0018】
(1)映像処理機能割当部:DPDKの利用によって構成される映像処理装置が使用する映像データの入出力に用いるネットワークインタフェースカードのリソース割り当て、複数のプログラム処理を実行するファンクションためのCPUのコアのリソース割り当て、入出力に用いるアドレス情報の割り当てを行う。
(2)ファンクション部:各CPUコアは、割り当てたファンクションのみの動作を繰り返し実行する動作により、ファンクション部を一斉に起動した後は、入力パケットデータに基づく途切れのない映像処理を実行。
(3)APIインタフェース:外部からの映像処理に関わる機能制御を行うファンクションに備わっている機能。
(4)リソース統合情報:ネットワークインタフェースカードのリソース割り当てやCPUのコアリソース割り当て、アドレス割り当ての情報を一括して設定可能なリソース統合情報で管理主体を付加する事で、アプリケーションに応じた容易な設定が可能である。
(5)内部リソース監視部:ネットワークインタフェースの回線状況や割り当てたコアのCPUやメモリのリソースを監視する機能を付加することで、絶えずリソース状況を監視表示が可能となる。
(6)映像処理装置のリソース再割り当て機能:リソース状況のモニタリングの結果、リソース不足が判明した場合には、該当のCPUコア数などの割り当て数を変更し、リソース統合情報を書き替え、映像処理機能割当部が各ファンクション部を再起動する事で、安定的な動作が達成される。
(7)映像処理機能構成管理部:複数の映像処理機能を必要な個数および順番に連結して、一連の映像ワークフローを実現する映像処理システムの構成においては、映像処理機能の構成情報を管理する。
(8)映像処理機能部:映像処理装置に相当するプログラム可能な映像処理機能部が仮想マシンや物理サーバを用いて複数動作するものである。
(9)映像処理入力部:外部ネットワークから入力された映像パケットに対して、入力映像のパケットプロトコル処理および映像処理機能部で処理する順番を指定する機能。
(10)映像処理出力部:外部ネットワークに出力するための映像パケットに変換するプロトコル処理を行うための機能。
(11)コネクションネットワーク:映像処理入力部と、複数の映像処理機能部と、映像処理出力部が相互結合された構成であり、映像処理機能構成管理部が複数の映像処理機能部と映像処理入力部と映像出力処理部を起動することで、外部ネットワークからの映像入力パケットに基づく途切れのない複数の映像処理の連結動作を行い、処理後の映像パケットを出力することが可能となる。
(12)映像処理機機能リソース監視部:映像処理システムにおいては、回線状況および映像処理機能部のリソース状況をリアルタイムに監視することによりシステムの正常動作の監視およびリソース状況の表示が可能となる。
(13)映像処理システムのリソース再割り当て機能:映像処理システムにおいては、リソース不足が判明した場合に、映像処理機能構成管理部に通知することで、映像処理機能部の実行に割り当てた仮想マシンや物理サーバを性能が高いものに変更して、安定動作が可能となる。
【0019】
本発明に係る映像処理装置の実施例を図面に基づいて説明する。
図1は、本発明の映像処理装置の一実施例であり、複数の映像を切り替える機能を持つ映像スイッチャーの例である。
図1において、符号1と2は映像入力装置、3と4は映像信号をIPパケットに変換して送信する送信伝送装置、5は本発明に関わる映像処理装置、6は本装置に係る操作を行う操作端末、7はIPパケットを受信して映像信号に変換する受信伝送装置、8は表示装置を示している。
【0020】
映像入力装置1、2は,市中のカメラやレコーダ等の装置であり、接続インタフェースは、業務用に使用するデジタル信号のインタフェースのSDI(Serial Digital Interface)シリーズ(HD-SDI、3G-SDI、12G-SDI、U-SDI)が使われる。本実施例は、様々な解像度の映像の中で8K映像を扱う場合を一例として示す。
【0021】
8Kの非圧縮映像信号には、様々な種類がある。8K-DG(8Kデュアルグリーン)24Gbps、フル解像度8K 48Gbps、フルスペック8K 144Gbpsなどである。それぞれに使用するインタフェースは、8K-DGでは、3G-SDI(ビデオのデジタル信号を伝送するSDIにおいて、3G-SDI(3Gbps(2.97Gbps))のスピードがあり、1本の同軸ケーブルで1080pのHD映像を伝送可能なもの)を8本使用して24Gbpsの速度を伝送できる。また、フル解像度 8Kでは、3G-SDIを16本使用したり、12G-SDIを4本で伝送したりするものが多い。また、フルスペック8K 144Gbpsでは、光ファイバベースのU-SDIを使う事が多い。
【0022】
ここでは、映像入力装置1、2から8K-DG 24Gbpsを3G-SDI 8本で伝送する例をあげる。送信伝送装置3、4は、8K-DG 24Gbpsで入力された信号をそのままIPパケット化して回線に出力する。回線は広く使われている10Gbpsのイーサネット(10GBASE)を数本や40Gbpsのイーサネット(40GBASE)を使って、伝送し、映像処理装置5に入力される。映像処理装置5では、入力装置1から送信伝送装置3を介して伝送される「主系統」と入力装置2から送信伝送装置4を通して伝送される「副系統」の映像をリアルタイムで切り替える機能を有する。操作端末6から、どちらの映像を切り替えて選択出力するかの指示を受け取る。選択された映像は、IPパケットの形で出力される。こちらも10GBASE数本や40GBASEなどのイーサネットを使って伝送する。受信伝送装置7では、選択済の映像のIPパケットを受け取り、映像信号に変換して、表示装置8に出力する。
【0023】
図2は映像処理装置5の構成図である。映像処理装置5は、PCサーバや仮想マシンで構成される。映像処理機能割当部11からは、映像処理装置5を動作させるためのCPUコア、メモリ割り当ておよび動作するプログラムや使用する入出力インタフェースの割り当てが行われる。入力回線12や出力回線18は、10GBASE数本や40GBASEなどのイーサネットで構成される。13はネットワークインタフェースカード(NIC)であり、入力回線12からのパケット信号が入力される。18は出力回線であり、ネットワークインタフェースカード(NIC)17からのパケット信号が出力される。14、15、16はファンクション部で、DPDKによりPCサーバのOSや仮想マシンのOSからCPUコアやメモリを映像処理専用で動作できるようになっている。同様に、NIC(13、17)も映像処理専用で動作させるようになっている。
【0024】
図2では、入力回線12が1系統になっているが、実際には入力回線12が複数、対応するネットワークインタフェースカードが複数枚の構成とすることもできる。またファンクション部14、15、16も様々な構成とすることができる。
【0025】
図2のファンクション部14は、NIC13から直接パケットを入力し、入力プロトコル処理を行い、次のファンクション部15に渡す役目を担う。ファンクション部14では任意の宛先IPアドレスや特定のVLAN(仮想ネットワーク)のパケットのみを受け取るフィルタ処理を行う事もできる。ファンクション部15では、映像処理をメインで行い、処理結果をファンクション部16に渡す。ファンクション部16は、NIC17からパケットを出力するための送信プロトコル処理を行う。ファンクション部16では送信先のアドレスやポート番号、VLAN(仮想ネットワーク)番号や送出に使用する送信元のフレームのMACアドレスを任意に設定する事もできる。ファンクション部14、15、16に関しては、入力回線12から入力し、出力回線18から出力するフォーマットおよび処理の負荷に応じて数を増やして並列化することもできる。アプリケーションプログラミングインタフェース(API)19は、各ファンクション14、15、16に装置外部からの操作指示や外部にステータスを出力する用途に用いる。APIは通常のWebサービスで使用されるREST(RESTful)APIが使用可能である。今回の利用例では、「主系統」と「副系統」の映像を選択する指示に利用する。
【0026】
図3は、本発明の
図1の映像処理装置5の詳細図である。この構成では、「主系統」および「副系統」にそれぞれ8K-DGの映像を使用することを想定する。また、入力映像装置1、3からは、3G-SDI 8本を入力し、それぞれの3G-SDIを
図1の送信伝送装置3および送信伝送装置4でIPパケット化し、
図1の映像処理装置5に伝送する系を考える。使用するIP映像伝送に利用するストリームは表1、表2のような8本にする。宛先アドレスは、映像伝送でよく利用するマルチキャストアドレスである。宛先アドレスと宛先ポート番号の組で、ストリームをユニークに区別可能である。
【0027】
【0028】
【0029】
8K-DGの映像伝送帯域は、24Gbpsであるため、主系統を入力するためのNIC13-1(
図3)では、40GBASEまたは10GBASEを4つという構成にする。NIC13-1では主系統(1)-(8)のパケットを入力し、それを4つのファンクション部14-1、2、3、4に、それぞれCPU、1コアを割り当てて処理を行う。
【0030】
ファンクション部14-1では主系統(1)と主系統(2)の処理を行う。ファンクション部14-2では主系統(3)と主系統(4)というように1コアで2つのストリームを分担する。ファンクション部14-1、2、3、4では、自アドレスとして192.168.130.101を割り当てて、マルチキャストを受信するために、239.0.130.11,12,13,14にJoin要求をかけて、回線上のマルチキャスト送信元からのパケットを引き込み、宛先アドレスとポート番号からフロー単位でストリームを分離するプロトコル処理を行って、ストリーム単位で、ファンクション部15-1、2、3、4にデータを渡す。プロトコル処理としては、VLAN(仮想ネットワーク)番号によるフィルタリングや誤り訂正や暗号化されたデータの複合化なども行う事ができる。
【0031】
同様に、副系統を入力するためのNIC13-2(
図3)でも40GBASEを使い、ファンクション部14-5、6、7、8にそれぞれCPU1コアを割り当てて、副系統の2つのストリームを分担する。
【0032】
ファンクション部14-5、6、7、8では、自アドレスとして192.168.130.101を割り当てて、マルチキャストを受信するために、239.0.130.15,16,17,18にJoin要求をかけて、回線上のマルチキャスト送信元からのパケットを引き込み、宛先アドレスとポート番号からストリームを分離するプロトコル処理を行って、副系統のペイロード部分をフレームバッファ101-1、2、3、4に格納した上で、ストリーム単位で、ファンクション部15-1、2、3、4にデータを渡す。
【0033】
本実施例での映像切り替え処理は、高速切り替え処理を実現するために、主系統の映像が選択された場合には、主系統のストリームで用いる宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号、ペイロードをそのままパケット出力するか、任意に設定された宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号、VLAN(仮想ネットワーク)番号や送出に使用する送信元のフレームのMACアドレスを個別に指定して使用することもできる。副系統の映像が選択された場合には、副系統のストリームのペイロード部分を抽出した上で、主系統のストリームで使用するのと同一の宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号を使って、ペイロード分だけを差し替えてパケット出力を行う。
【0034】
前記ファンクション部15-1、2、3、4は、2ストリーム毎に1CPUコアを割り当てて処理を行う。REST API19(
図2)から主系統映像と副系統映像のどちらを選択するかの指示をもらい、主系統の場合には、そのまま、データを出力処理を行うファンクション部16-1、2、3、4(
図3)に渡す。副系統の場合には、バッファ101-1、2、3、4(
図3)に格納されたデータから、パケットのペイロードに切り出す処理を行い、主系統のストリームで扱う宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号からなるヘッダを付加して、パケット出力処理を行うファンクション部16-1、2、3、4(
図3)に渡す。ファンクション部16-1、2、3、4では、入力された主系統のストリームの宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号をそのまま使って出力する代わりに、任意に設定された宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号、VLAN(仮想ネットワーク)番号や送出に使用する送信元のフレームのMACアドレスを個別に指定して使用することもできる。
【0035】
出力処理を行うファンクション部16-1、2、3、4では、出力用のNIC17(
図3)の出力状態を監視して、出力処理を行う。主に、送信タイミングが一定間隔になるような出力制御を行う他、誤り訂正符号を付加したり、暗号化したりすることもできる。NIC17の先に接続されるのは、24Gbpsの帯域が送出できる40GBASEの出力回線18である。
【0036】
上記のCPUコア割り当て、NICの割り当て、ネットワークアドレスのリソース設定をテキストベースで管理し、これを基に映像処理割当部11(
図2)で構文解析をして割り当てることができる。設定例を
図4に示す。
【0037】
図4では、interface部において、DPDKの入力処理に用いるNICの指定および、該当のNICにおいてマルチキャストのJoinに使用するパケット情報などを設定する。また、flow部ではそれぞれのストリームのフロー単位に名前をつける。フローは、入力NIC、宛先IPアドレス、宛先ポート番号で指定している。stream_swaps部では、主系統のフローと該当する副系統のフローを対応づけた上で、DPDKでCPUコアを割り当てるソケット指定および、出力に用いるDPDKのNICの指定を行う。本例では、出力VLAN番号を1131に、出力パケット(フレーム)のソースMACアドレスを使用するNICのMACアドレスに置き換える指定、出力パケットの宛先アドレスを239.33.33.11-14に書き替え指定、出力パケットのソースアドレスを192.168.131.101に書き替える指定をした例である。DPDKで使用するCPUコアを詳細に設定する事もできるため、本ファイルを書き替えるだけで、詳細な構成変更が可能である。
【0038】
図2における内部リソース監視部21に関しては、ネットワークインタフェースカード13、17から得られるパケット入出力情報やパケット欠落情報、ファンクション部にDPDKでサポートされるCPUクロック数のカウント機能に基づく、各ファンクション部14、15、16での処理時間を集約し、APIを介して表示する事を可能とする。
【0039】
本発明では、リソース毎に設定された閾値を超え、リソース不足と判断された場合において、リソース統合情報(CPU割当、NIC割当、アドレス設定)20に定義されたリソース情報を書き直して、映像処理機能割当部11において、再度割り当てる方法である。様々なリース不足に対処する割り当て情報を予め複数用意しておき、切り替えることで実現できる。
【0040】
図5は本発明の映像処理装置における各種機器を結線したシステム(映像処理システム)の一例である。この映像処理システム9は、その内部に、前述した映像スイッチング機能を有する映像処理機能112-1、112-2を2つ組み合わせて、3入力の映像を切り替える機能を持つ映像スイッチャーを構成した例である。
図5では副系統が1つ追加されており、副系統用の映像入力装置2-1と2-2、副系統用の送信伝送装置4-1と4-2、本システムに関わる操作を行う操作端末6、受信伝送装置7、映像表示装置8を備えている。
【0041】
図5の映像処理システムも8K-DGフォーマットの映像を扱う。映像入力装置2-1と2-2から8K-DG 24Gbpsを3G-SDI 8本で伝送する例をあげる。送信伝送装置3、4-1、4-2は、8K-DG 24Gbpsで入力された信号をそのままIPパケット化して入力回線に出力する。入力回線は40Gbpsのイーサネット(40GBASE)を使って伝送し、映像処理システム9に入力される。映像装置9では、入力装置1から送信伝送装置3を介して伝送される「主系統」と、映像入力装置2-1から送信伝送装置4-1を通して伝送される「副系統1」の映像および映像入力装置2-2から送信伝送装置4-2を通して伝送される「副系統2」の映像の3種類から1つを選択してリアルタイムで切り替える機能を有する。操作端末6から、どの映像を切り替えて選択出力するかの指示を受け取る。選択された映像は、IPパケットの形で出力され40GBASEなどのイーサネットを使って伝送する。受信伝送装置7では、選択済の映像のIPパケットを受け取り、映像信号に変換して、表示装置8に出力する。
【0042】
図6は本発明の映像処理システム9の他の実施例の構成図である。
図6の映像処理システム9は、PCサーバや仮想マシンが複数台構成され、相互接続ネットワークで構成された分散システムである。1箇所にまとまったシステムではなく、各機能が地理的に依存せずに分散することが可能な構成である。
図6の映像処理機能構成管理部111からは、各機能部を動作させるためのPCサーバやVM(仮想マシン)、動作する映像処理機能、アドレスなどの割り当てが行われる。それを元に各映像処理機機能では映像処理装置で記したようなCPUコアの割り当て、メモリ割り当て、NIC割り当てなどのリソース割り当てが行われる。入力回線12や出力回線18は、10GBASE数本や40GBASEなどのイーサネットで構成される。ここでは、各処理部にはNICが搭載されている事を前提にして説明する。113は映像処理入力部であり、入力回線12からパケット入力を行い、入力プロトコル処理を行う他、入力パケットに対して、映像処理機能112-1、112-2に対して、どのような順番で転送・処理を行うかの特別なヘッダを各パケットに付加する。
【0043】
前記のように、パケット単位で中継先を指定して伝送を行う実現形態はソースルーティング手法として知られている。ここでは、ソースルーティングおよび処理を指定可能な、セグメントルーティングの中で、既存のIPv6ネットワークでそのまま利用可能なSRv6という経路手法を使って実現する。
【0044】
図6のコネクションネットワーク115では、SRv6のヘッダを元に経路制御が行われ、結果的に映像処理入力部113、映像処理機能112-1、112-2、映像処理出力部114の接続がパケット毎に制御可能である。ここには、市販のSRv6対応のL3スイッチやルータが使用可能である。
【0045】
図6の映像処理出力部114では、映像処理入力部113で付加したSRv6用のヘッダを削除して、通常のパケットに戻して、出力回線18から外部ネットワークに送出する。
【0046】
映像処理機能112-1、112-2の内部は、入出力のNICおよび複数のファンクション部で構成されて、DPDKによりCPUコアやメモリを映像処理専用で動作させている。前記映像処理装置と異なるところは、SRv6のプロトコルを解釈し、適切な経路制御が可能なところである。
【0047】
図6でも、映像処理入力部113や映像処理出力部114が1系統になっているが、実際には回線が複数、対応する映像処理部が複数の構成とすることもできる。
【0048】
[
図5の動作説明]
図5の動作を実際のアドレスを使って説明する。
図5の「主系統」および「副系統1」、「副系統2」にそれぞれ8K―DGの映像を使用することを想定する。また、入力映像装置1、2-1、2-2からは、3G-SDI 8本を入力し、それぞれの3G-SDIそのままIPパケット化し、伝送する系を考える。使用するIP映像伝送に利用するストリームは表3、表4、表5のような8本にする。宛先アドレスは、映像伝送で良く利用するIPv4マルチキャストアドレスである。宛先アドレスと宛先ポート番号の組で、ストリームをユニークに区別可能である。
【0049】
【0050】
【0051】
【0052】
8K-DGの映像伝送帯域は、24Gbpsであるため、主系統を入力するための映像入力処理部113-1(
図5)では、40GBASE対応構成にする。この映像入力処理部113-1では、239.0.130.11,12,13,14にJoin要求をかけて、回線上のマルチキャスト送信元からのパケットを引き込み、宛先アドレスとポート番号からストリームを分離するプロトコル処理をおこない、IPv6のヘッダをつけるカプセル化し、SRv6のセグメントリスト(A->D->E)を挿入するSRv6 Encap動作を行う。
図5の映像処理システム9で用いるIPv6セグメントには、SID(セグメントID)が付与され、セグメントをどのように経由していくかを示したものがセグメントリストになる。A->D->Eとは、各パケットがAセグメント、Dセグメント、Eセグメントを経由して送られる事を示す。このため、まず主系統のパケットは、映像処理機能・映像切り替え112-1の主系統入力用のNICに入力される。
【0053】
副系統1に関しては、映像処理入力部113-2で、239.0.130.21,22,23,24にJoin要求をかけて、回線上のマルチキャスト送信元からのパケットを引き込み、宛先アドレスとポート番号からストリームを分離するプロトコル処理をおこない、IPv6のヘッダをつけるカプセル化し、SRv6のセグメントリスト(B)を挿入するSRv6 Encap動作を行う。これにより、副系統のパケットは、映像処理機能・映像切り替え112-1の副系統入力用のNICに入力される。
【0054】
副系統2に関しては、映像処理入力部113-3で、239.0.130.31,32,33,34にJoin要求をかけて、回線上のマルチキャスト送信元からのパケットを引き込み、宛先アドレスとポート番号からストリームを分離するプロトコル処理をおこない、IPv6のヘッダをつけるカプセル化し、SRv6のセグメントリスト(C)を挿入するSRv6 Encap動作を行う。これにより、副系統のパケットは、映像処理機能・映像切り替え112-2の副系統入力用のNICに入力される。
【0055】
映像処理入力部113-1、113-2、113-3は、誤り訂正や暗号化されたデータの複合化なども行う事ができる。
【0056】
本実施例での映像切り替え処理は、高速切り替え処理を実現するために、主系統の映像が選択された場合には、主系統のストリームで用いる宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号、ペイロードをそのままパケット出力する。副系統の映像が選択された場合には、副系統のストリームのペイロード部分を抽出した上で、主系統のストリームで用いる宛先アドレス、宛先ポート番号、送信元アドレス、送信元ポート番号を使って、ペイロード分だけを差し替えてパケット出力を行う。
【0057】
主系統、副系統1、副系統2の選択指示は、
図5の操作端末6から行う。
【0058】
主系統の場合には、映像処理機能・映像切り替え112-1において、映像パケットをそのまま次のセグメント先のDセグメントへの出力処理を行い、映像処理機能112-2においては、次のセグメント先のEセグメントへの出力処理を行い、114の映像処理出力部において、SRv6の終端処理(SRv6 End(PSP))を行って、IPv4ヘッダに戻して映像出力を行う。
【0059】
副系統1の場合には、映像処理機能112-1副系統を利用するように設定を行う。これにより、内部のバッファに格納されたデータから、パケットのペイロードを切り出す処理を行い、主系統のストリームで扱うSRv6ヘッダ、カプセル内部のIPv4宛先アドレス、IPv4宛先ポート番号、IPv4送信元アドレス、IPv4送信元ポート番号からなるヘッダを付加して、パケット出力処理を行うため、主系統のセグメントリストに従って、Dセグメントに送出される。同時に映像処理機能・映像切り替え112-2が主系統を選ぶように設定されるため、映像処理機能・映像切り替え112-2において、そのままパケットをセグメントリストに従って、Eセグメントに送出される。映像処理出力部114において、SRv6の終端処理(SRv6 End(PSP))を行って、IPv4ヘッダに戻して映像出力を行う。
【0060】
副系統2の場合には、映像処理機能・映像切り替え112-2において、内部のバッファに格納されたデータから、パケットのペイロードを切り出す処理を行い、主系統のストリームで扱うSRv6ヘッダ、カプセル内部のIPv4宛先アドレス、IPv4宛先ポート番号、IPv4送信元アドレス、IPv4送信元ポート番号からなるヘッダを付加して、パケット出力処理を行うため、主系統のセグメントリストに従って、Eセグメントに送出される。映像処理出力部114において、SRv6の終端処理(SRv6 End(PSP))を行って、IPv4ヘッダに戻して映像出力を行う。
【0061】
上記処理のリソース設定をテキストベースで管理し、これを基に映像処理機能構成管理部111で構文解析をして割り当てることができる。設定例を
図9~
図13に示す。同図の例においては、
セグメントA fd77:fb3d:88f5:aa::
セグメントB fd77:fb3d:88f5:ab::
セグメントC fd77:fb3d:88f5:bb::
セグメントD fd77:fb3b:88f5:ba::
セグメントE fd77:fb3b:88f5:ff::
に設定した場合の設定例を示す。
【0062】
以下に
図5を参照して、
図9~
図13の説明をする。
図5の映像入力部(主系統)113-1においては、interfaces指定において、入出力に使用するNICの指定を行うと共に、IPv6のアドレス指定やIPv4マルチキャストを引き込むためのJoin情報を記載する。flow指定において、扱うフローの定義を行い、v6encapsでカプセル化した際に必要なIPv6アドレスを指定する。srv6_h_insertにおいて、SRv6セグメントリストの挿入を行い、該当のパケットに途中経過するセグメント「A」、「D」、「E」を設定する。映像入力部(副系統1)113-2においても、同様な処理を行い、srv6_h_insertにおいては、経由するセグメントが1つしかないため、「B」だけを指定している。同様に映像入力部(副系統2)113-3においても、同様な処理を行いsrv6_h_insertにおいては、経由する唯一のセグメント「C」を指定する。
図5の映像処理機能112-1においては、映像切り替え処理を行うために、入力に使用するセグメント「A」と「B」が使われる。それぞれ、srv6_endによって、次に示すセグメントへのポインタ処理が行われるが、「A」に入ったパケットに対しては、次の「D」が指定される。「B」に入ったパケットに対しては、次がないため終端される。映像処理のペイロード差し替えは、前述した仕組みと同じで主系統のアドレス情報を使って、指定された出力用NICからパケットが出力される。最後の設定情報の例では、映像処理機能112-2と映像処理出力部114の処理を同じシステムで行っている。映像切り替え処理を行うために、入力に使用するセグメント「D」と「C」が使われる。それぞれ、srv6_endによって、次に示すセグメントへのポインタ処理が行われるが、「D」に入ったパケットに対しては、次の「E」が指定される。「C」に入ったパケットに対しては、次がないため終端される。映像処理のペイロード差し替えは、前述した仕組みと同じで主系統のアドレス情報を使って、出力処理を進め、次にセグメント「E」の処理として、end_pspでSRv6 End(PSP)処理によりセグメントヘッダが取り除かれる。その後、v6decap処理によって、カプセル化されていたIPv6のヘッダを外すアンカプセル化が行われて、指定された出力用NICからIPv4パケットとして出力される。この例では、出力時にIPv4の宛先アドレスとソースアドレスを書き替えている。
【0063】
[
図6の映像処理システムの動作説明]
図6の映像処理システム9においては、映像処理機能リソース監視部116が、映像処理入力部113や映像処理機能112-1、112-2、映像処理出力部114の回線状況および映像処理機能112-1、112-2のリソース状況を、映像処理機能リソース監視部116でリアルタイムに監視することで、映像処理システム9の正常動作の監視およびリソース状況の表示を行うことができる。回線状況のモニタには、各部のNICのパケット入出力情報やパケット欠落情報および、コネクションネットワークの入出力情報などを利用できる。映像処理機能部112-1、112-2のCPU等のリソース情報は、映像処理機能部112-1、112-2でサポートするCPUクロック数のカウント機能に基づく、各ファンクション部での処理時間を集約できる。これらを、APIを介して表示する事を可能とする。
【0064】
前記のように、リソース毎にリアルタイムに監視されたリソースが、設定された閾値を超え、リソース不足と判断され、リソース不足が映像処理機能構成管理部111に通知されると、映像処理機能構成管理部111は定義されたリソース情報を書き直して、再度サーバPCや仮想マシンを割り当てることができる。映像処理機能構成管理部111には様々なリース不足に対処する割り当て情報が予め複数用意されており、夫々のリース不足に応じて割り当て情報を切り替えることができる。
【産業上の利用可能性】
【0065】
本発明の映像処理装置は前記実施例に示した分野以外での利用も可能である、また、発明の課題を解決可能な範囲で、各種機器の構成、機能、システム化を変更することも可能である。
【符号の説明】
【0066】
1、2 映像入力装置
2-1 副系統用の映像入力装置
2-2 副系統用の映像入力装置
3 送信伝送装置
4-1 送信伝送装置
4-2 送信伝送装置
5 映像処理装置
6 操作端末
7 受信伝送装置
8 表示装置
9 映像処理システム
101-1、2、3、4 フレームバッファ
101-1、2、3、4 バッファ
11 映像処理機能割当部
12 入力回線
12 外部NW回線
13 ネットワークインタフェースカード(NIC)
13-1 NIC
14 ファンクション部
14-1、2、3、4 ファンクション部
14-5、6、7、8 ファンクション部
15 ファンクション部
15―1、2、3、4 ファンクション部
16 ファンクション部
16-1、2、3、4 ファンクション部
17 ネットワークインタフェースカード(NIC)
18 出力回線
19 アプリケーションプログラミングインタフェース部(API部)
21 内部リソース監視部
111 映像処理機能構成管理部
112-1 映像処理機能
112-2 映像処理機能
112-1 映像処理機能・映像切り替え
113 映像処理入力部
113-1 映像入力処理部
113-2 映像処理入力部
114 映像処理出力部
113-1 映像処理入力部
113-2 映像処理入力部
113-3 映像処理入力部
116 映像処理機能リソース監視部
A 従来の送信伝送装置
B 従来の受信伝送装置
C 色調整機能
D フォーマット変換機能
E 映像切り替え機能
F フォーマット変換・圧縮機能