(58)【調査した分野】(Int.Cl.,DB名)
前記カメラパラメータは、レンズの焦点距離、開放絞り値の形式、撮影時のシャッター速度、絞り値、ホワイトバランス、対象物までの距離、感度設定値のうちの少なくともいずれかを含むことを特徴とする、請求項3に記載の映像処理サーバ。
補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別するとともに、前記ステレオ映像信号を該ステレオ映像再生形式に適応化させる端末適応部をさらに備えていることを特徴とする、請求項2に記載の映像処理サーバ。
前記複数のカメラは、前記モバイルネットワークに接続しうる携帯端末に設けられたカメラ、または、固定カメラであることを特徴とする、請求項1ないし5のいずれか1項に記載の映像処理サーバ。
前記パケット転送装置は、モバイルパケットネットワークのSGSN装置、GGSN装置、もしくはxGSN装置、または、モバイルLTE/EPCネットワークのS−GW装置もしくはP−GW装置であることを特徴とする、請求項1ないし6のいずれか1項に記載の映像処理サーバ。
映像処理サーバが、複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信する工程と、
前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正するとともに、補正後の映像信号から新たに映像信号を生成する工程と、
生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出する工程と、
前記複数の映像信号のうちの第1の映像信号と第2の映像信号のタイムスタンプの差に所定のずらし量を加えた時刻差を求め、前記時刻差を有する第1の映像信号と第2の映像信号との相関が最大となるように前記所定のずらし量を算出することで、前記第1の映像信号と前記第2の映像信号との間における撮影開始時刻のずれを補正する工程と、を含む、
ことを特徴とする映像処理方法。
映像処理サーバが、前記複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように前記複数の映像信号を補正する工程を含むことを特徴とする、請求項8または9に記載の映像処理方法。
映像処理サーバが、補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別する工程と、前記ステレオ映像信号を前記ステレオ映像再生形式に適応化させる工程と、をさらに含むことを特徴とする、請求項9に記載の映像処理方法。
前記複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように前記複数の映像信号を補正する処理をコンピュータに実行させることを特徴とする、請求項12または13に記載のプログラム。
補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別する処理と、前記ステレオ映像信号を前記ステレオ映像再生形式に適応化させる処理と、をさらにコンピュータに実行させることを特徴とする、請求項13に記載のプログラム。
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記の特許文献の開示を、本書に引用をもって繰り込むものとする。以下の分析は、本発明者によってなされたものである。
【0007】
LTE(Long Term Evolution)、EPC(Evolved Packet Core)等の技術により、モバイルネットワークの下り方向だけでなく上り方向の帯域幅の大幅な増大が可能となる。したがって、これまで不可能であったサービスが出現することが予想される。例えば、複数の携帯端末のカメラで撮影した映像信号(動画像など)、または、複数の固定設置カメラで撮影した映像信号をモバイルネットワーク上に配置してあるサーバに送出し、携帯端末のCPU(Central Processing Unit)性能では実現困難な複雑あるいは演算量の多い映像処理をサーバにおいて実時間で実行し、処理した結果を携帯端末に送出し、携帯端末で再生表示するサービスが考えられる。
【0008】
しかしながら、複数台の手持ちの携帯端末のカメラなどで撮影した映像、または、複数台の独立なカメラで撮影した映像を、モバイルネットワーク上のサーバにアップロードし、サーバで映像処理を実時間で実現し、例えば、ステレオ映像などを実時間で合成しようとすると、複数台のカメラ間のズレ、歪み、回転等が問題となり、生成後のステレオ映像の画質が著しく劣化したり時間がずれたりするという問題がある。
【0009】
また、サーバで合成処理した映像信号を携帯端末で受信する場合に、携帯端末の機種に応じて、その処理の能力が異なる。すなわち、受信しうるコンテンツのコーデック、画面解像度等の能力が携帯端末の機種に応じて異なるため、携帯端末の機種によっては受信した映像信号を再生したり、表示したりすることができないという問題がある。
【0010】
さらに、サーバでステレオ映像信号を合成し、端末で再生表示しようとした場合に、携帯端末がステレオ映像を再生表示できるか否か、再生表示できる形式(例えば、サイドバイサイド(side by side)、垂直インターリービング(vertical interleaving)等)は何か等について、合成した映像信号を携帯端末で再生表示できる形式に、サーバ側が適応化させる必要があるという問題がある。
【0011】
なお、特許文献1に記載された画像処理システムにおける画像処理サーバは、各携帯端末から受信した映像信号を個別に処理するものであることから、これらの問題を解消することはできない。
【0012】
そこで、映像処理サーバがモバイルネットワークを介して複数の携帯端末または複数の固定カメラから受信した映像信号を合成して携帯端末に送出する場合に、携帯端末が合成後の映像信号を再生できるようにすることが課題となる。本発明の目的は、かかる課題を解決する映像処理サーバ、映像処理方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0013】
本発明の第1の視点に係る映像処理サーバは、
複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信するパケット受信部と、
前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正し、補正後の映像信号から新たに映像信号を生成する映像生成部と、
前記映像生成部により生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出するパケット送信部と、を備え、
前記パラメータは、前記複数の映像信号のそれぞれのタイムスタンプを含み、
前記映像生成部は、前記複数の映像信号の
うちの第1の映像信号と第2の映像信号のタイムスタンプの差に所定のずらし量を加えた時刻差を求め、前記時刻差を有する第1の映像信号と第2の映像信号との相関が最大となるように前記所定のずらし量を算出することで、前記第1の映像信号と前記第2の映像信号との間における撮影開始時刻のずれを補正する。
【0014】
本発明の第2の視点に係る映像処理方法は、
映像処理サーバが、複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信する工程と、
前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正するとともに、補正後の映像信号から新たに映像信号を生成する工程と、
生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出する工程と、
前記複数の映像信号の
うちの第1の映像信号と第2の映像信号のタイムスタンプの差に所定のずらし量を加えた時刻差を求め、前記時刻差を有する第1の映像信号と第2の映像信号との相関が最大となるように前記所定のずらし量を算出することで、前記第1の映像信号と前記第2の映像信号との間における撮影開始時刻のずれを補正する工程と、を含む。
【0015】
本発明の第3の視点に係るプログラムは、
複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信する処理と、
前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正するとともに、補正後の映像信号から新たに映像信号を生成する処理と、
生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出する処理と、
前記複数の映像信号の
うちの第1の映像信号と第2の映像信号のタイムスタンプの差に所定のずらし量を加えた時刻差を求め、前記時刻差を有する第1の映像信号と第2の映像信号との相関が最大となるように前記所定のずらし量を算出することで、前記第1の映像信号と前記第2の映像信号との間における撮影開始時刻のずれを補正する処理と、をコンピュータに実行させる。
【発明の効果】
【0016】
本発明に係る映像処理サーバ、映像処理方法およびプログラムによると、映像処理サーバがモバイルネットワークを介して、複数の携帯端末または複数の固定カメラから受信した映像信号を合成して携帯端末に送出する場合に、携帯端末は画質を低下させることなく合成後の映像信号を再生することができる。
【発明を実施するための形態】
【0018】
はじめに、本発明の概要について説明する。なお、この概要に付記した図面参照符号は、専ら理解を助けるための例示であり、本発明を図示の態様に限定することを意図するものではない。
【0019】
図2を参照すると、本発明の映像処理サーバ(160)は、複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信するパケット受信部(114)と、前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正し、補正後の映像信号から新たに映像信号を生成する映像生成部(117)と、映像生成部(117)により生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出するパケット送信部(120)と、を備えている。
【0020】
ここで、映像生成部(117)は、一例として、補正後の映像信号からステレオ映像信号を生成するようにしてもよい。
【0021】
また、上記のパラメータは、複数のカメラのそれぞれに対するカメラパラメータを含んでいてもよい。このとき、映像生成部(117)は、複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように複数の映像信号を補正することが好ましい。
【0022】
さらに、上記パラメータは、複数の映像信号のそれぞれのタイムスタンプを含んでいてもよい。このとき、映像生成部は、かかるタイムスタンプを参照して、複数の映像信号の間における撮影開始時刻のずれを補正することが好ましい。
【0023】
また、
図2を参照すると、映像処理サーバ(160)は、補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別するとともに、上記のステレオ映像信号を該ステレオ映像再生形式に適応化させる端末適応部(119)をさらに備えていてもよい。
【0024】
映像処理サーバ(160)によると、映像処理サーバ(160)がモバイルネットワークを介して、複数の携帯端末または複数の固定カメラから受信した映像信号を合成して携帯端末に送出する場合に、携帯端末は画質を低下させることなく合成後の映像信号を再生することができる。映像処理サーバ(160)は、各映像信号のカメラパラメータを受け、これを用いて映像信号を補正するとともに、各映像信号のタイムスタンプを受け、これを用いることでカメラ間の映像信号のフレーム間の対応づけをとることができるからである。
【0025】
また、映像処理サーバ(160)によると、映像処理サーバ(160)で映像処理した映像信号を携帯端末で受信し再生表示する場合に、携帯端末を改造する必要がなくなる。映像処理サーバ(160)は、携帯端末の機種に応じた能力の違い、ステレオ映像信号を再生表示する場合の形式の違い等に関して、携帯端末が合成された映像信号を再生表示できるように映像信号を適応化させることができるからである。
【0026】
本発明において、下記の形態が可能である。
【0027】
[形態1]
上記第1の視点に係る映像処理サーバのとおりである。
【0028】
[形態2]
前記映像生成部は、補正後の映像信号からステレオ映像信号を生成することが好ましい。
【0029】
[形態3]
前記パラメータは、前記複数のカメラのそれぞれに対するカメラパラメータを含み、前記映像生成部は、前記複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように前記複数の映像信号を補正することが好ましい。
【0030】
[形態4]
前記パラメータは、前記複数の映像信号のそれぞれのタイムスタンプを含み、前記映像生成部は、タイムスタンプを参照して、前記複数の映像信号の間における撮影開始時刻のずれを補正することが好ましい。
【0031】
[形態5]
前記カメラパラメータは、レンズの焦点距離、開放絞り値の形式、撮影時のシャッター速度、絞り値、ホワイトバランス、対象物までの距離、感度設定値のうちの少なくともいずれかを含むことが好ましい。
【0032】
[形態6]
補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別するとともに、前記ステレオ映像信号を該ステレオ映像再生形式に適応化させる端末適応部をさらに備えていることが好ましい。
【0033】
[形態7]
前記複数のカメラは、前記モバイルネットワークに接続しうる携帯端末に設けられたカメラ、または、固定カメラであってもよい。
【0034】
[形態8]
前記パケット転送装置は、モバイルパケットネットワークのSGSN装置、GGSN装置、もしくはxGSN装置、または、モバイルLTE/EPCネットワークのS−GW装置もしくはP−GW装置であってもよい。
【0035】
[形態9]
映像処理システムは、上記の形態に係る映像処理サーバを備えていることが好ましい。
【0036】
[形態10]
上記第2の視点に係る映像処理方法のとおりである。
【0037】
[形態11]
映像処理サーバが、補正後の映像信号からステレオ映像信号を生成する工程を含むことが好ましい。
【0038】
[形態12]
映像処理サーバが、前記複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように前記複数の映像信号を補正する工程を含むことが好ましい。
【0039】
[形態13]
映像処理サーバが、前記複数の映像信号のそれぞれのタイムスタンプを参照して、前記複数の映像信号の間における撮影開始時刻のずれを補正する工程を含むことが好ましい。
【0040】
[形態14]
映像処理サーバが、補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別する工程と、前記ステレオ映像信号を前記ステレオ映像再生形式に適応化させる工程と、をさらに含むことが好ましい。
【0041】
[形態15]
また、複数のカメラによって撮影され、モバイルネットワークに送出された複数の映像信号を該モバイルネットワーク上のパケット転送装置を介して受信する処理と、前記複数の映像信号の間における属性の相違を表すパラメータを用いて前記複数の映像信号を補正するとともに、補正後の映像信号から新たに映像信号を生成する処理と、生成された映像信号を、前記モバイルネットワークに接続しうる携帯端末に前記パケット転送装置を介して送出する処理と、をコンピュータに実行させるプログラムが提供される。
【0042】
[形態16]
補正後の映像信号からステレオ映像信号を生成する処理をコンピュータに実行させることが好ましい。
【0043】
[形態17]
前記複数のカメラの間でカメラパラメータが異なる場合には、カメラパラメータが同一となるように前記複数の映像信号を補正する処理をコンピュータに実行させることが好ましい。
【0044】
[形態18]
前記複数の映像信号のそれぞれのタイムスタンプを参照して、前記複数の映像信号の間における撮影開始時刻のずれを補正する処理をコンピュータに実行させることが好ましい。
【0045】
[形態19]
補正後の映像信号の送出先の携帯端末の機種情報を参照し、該携帯端末のステレオ映像再生形式を判別する処理と、前記ステレオ映像信号を前記ステレオ映像再生形式に適応化させる処理と、をさらにコンピュータに実行させることが好ましい。
【0046】
(実施形態1)
第1の実施形態に係る映像処理サーバについて、図面を参照して説明する。
図1〜
図4を参照して、本実施形態の映像処理サーバの構成および動作について詳細に説明する。なお、以下の実施形態では、コンテンツの例として動画像の場合の構成例を示すが、静止画、オーディオ、音声、ソフトウェア、アプリケーションなどの場合も同一の構成を用いることができる。
【0047】
図1は、本実施形態に係る映像処理サーバ160を備えた映像処理システムの接続構成を一例として示す。
図1は、ネットワークとして3G(第3世代)モバイルパケットネットワーク(以下、単に「モバイルパケットネットワーク」という。)150を用い、パケット転送装置としてxGSN装置190_1〜190_Nを用いる場合の構成を示す。ここで、xGSN装置とは、SGSN(Serving GPRS Support Node)装置とGGSN(Gateway GPRS Support Node)装置が同一の場所に設けられた装置をいう。
【0048】
ここでは、一例として、複数台の携帯端末170_1〜170_3のカメラを用いて、手持ちで撮影した映像信号を映像処理サーバ160に送信するものとする。また、映像処理サーバ160は、映像処理として、複数の映像信号を用いてステレオ映像信号を生成し、これを携帯端末170_1〜170_3に送出するものとする。さらに、携帯端末170_1〜170_3は、ステレオ映像を再生・表示するものとする。また、一例として、2台の携帯端末170_1、170_2によって映像信号を撮影するものとする。
【0049】
図1において、手持ちの携帯端末170_1および170_2のカメラで、同一の対象物を異なる位置から撮影し、カメラ撮影後の映像信号を携帯端末内で圧縮符号化してモバイルパケットネットワーク150に送出する。ここで、映像信号の圧縮符号化には、例えば、ITU−T(International Telecommunication Union Telecommunication Standardization Sector) H.264規格を用いることができる。
【0050】
基地局180_1は、携帯端末170_1からの映像信号を受信してRNC(Radio Network Controller)装置195_1に出力する。同様に、基地局180_Lは、携帯端末170_2からの映像信号を受信してRNC装置195_Lに出力する。
【0051】
RNC装置195_1は、基地局180_1から受信した映像信号をGTP−U(GPRS Tunneling Packet−Uplane)パケットに格納してxGSN装置190_1に出力する。同様に、RNC装置195_Lは、基地局180_Lから受信した映像信号をGTP−Uパケットに格納してxGSN装置190_1に出力する。
【0052】
xGSN装置190_1は、RNC装置195_1およびRNC装置195_Lから受信したそれぞれのGTP−UパケットからGTPヘッダを取り去った後にRTP(Real−time Transport Protocol)パケットに変換し、IMS(IP Multimedia Subsystem)網155に配置された映像処理サーバ160にRTPパケットを出力する。
【0053】
映像処理サーバ160は、xGSN装置190_1から受信したRTPパケットに対し、パケットのペイロードに格納されたH.264圧縮符号化ストリームを取り出す。また、映像処理サーバ160は、2つの携帯端末分のH.264圧縮符号化ストリームに対して、少なくとも1つのパラメータとしてカメラパラメータと圧縮符号化ストリームのタイムスタンプを入力し、実時間でステレオ映像生成処理を行う。さらに、映像処理サーバ160は、生成されたステレオ映像信号に対して、例えば、H.264により圧縮符号化またはトランスコーディングを施し、RTPパケットのペイロードにこれを格納し、携帯端末170_3において再生表示するために、xGSN装置190_Nに送出する。
【0054】
xGSN装置190_Nは、受信したRTPパケットにGTPヘッダを追加してGTP−Uパケットに変換し、GTP−UパケットをRNC装置196_Lに出力する。GTP−Uパケットは、基地局181_Lを介して携帯端末170_3に送信される。
【0055】
携帯端末170_3は、ステレオ映像を表示できる表示デバイスを有する。携帯端末170_3は、受信したパケットからH.264圧縮符号化ストリームを取り出し、H.264復号した後、ステレオ映像を再生する。
【0056】
図2は、映像処理サーバ160の構成を一例として示すブロック図である。
図2を参照すると、映像処理サーバ160は、制御信号送受信部111、解析部112、パケット受信部114、バッファメモリ115、映像生成部117、パケット送信部120、端末能力解析部113、および、端末適応部119を備えている。
【0057】
制御信号送受信部111は、携帯端末170_1および170_2のそれぞれから、映像信号を映像処理サーバ160にアップロードするための呼制御信号を受信する。ここで、呼制御信号としては、IMSで標準的に使用されるSIP(Session Initiation Protocol)を用いるものとする。ただし、他の制御信号、例えば、http(Hypertext Transfer Protocol)等を使用することもできる。SIP信号は、メディア信号(ここでは、映像信号)の属性を記述するSDP(Session Description Protocol)を使用している。制御信号送受信部111は、SDPを受信すると解析部112に出力する。
【0058】
解析部112は、制御信号送受信部111からSDPを受け取り、SDPの記述内容を解析することで、携帯端末170_1および170_2から送信されたそれぞれの映像信号の属性情報、例えば、映像信号の圧縮符号化に使用したコーデック、コーデックの最大ビットレート、画面解像度、フレームレート、ファイル形式またはストリーミング形式、携帯端末のカメラパラメータ(例えば、レンズの焦点距離や開放絞り値などの形式、撮影時のシャッター速度、絞り値、ホワイトバランス、対象物までの距離、感度設定値など)、携帯端末の受信IPアドレス、受信ポート番号などの情報の少なくとも一つを得た上で、映像生成部117と端末適応部119に出力する。
【0059】
パケット受信部114は、携帯端末170_1および170_2からxGSN装置を介して、映像信号を格納したRTPパケットを受信し、RTPパケットのペイロード部に格納されたH.264圧縮符号化ストリームを取り出してバッファメモリ115に出力する。パケット受信部114は、RTPパケットのRTPペイロードフォーマットまたはヘッダに格納された映像信号のタイムスタンプを取り出して、映像信号毎にバッファメモリ115に格納する。
【0060】
バッファメモリ115は、H.264圧縮符号化ストリームと映像信号のタイムスタンプを2ch分、複数フレームにわたり一旦バッファリングする。
【0061】
映像生成部117は、バッファメモリ115から2ch分の映像ストリームとタイムスタンプを入力とともに、解析部112から映像信号の属性情報とカメラパラメータを入力し、2ch分の映像ストリームを処理してステレオ映像信号を生成し、端末適応部119に出力する。
【0062】
図3は、映像生成部117の構成を一例として示すブロック図である。
図3を参照すると、映像生成部117は、デコーダ部130、映像補正部131、同期処理部132、および、ステレオ映像信号生成部134を備えている。
【0063】
デコーダ部130は、各映像信号の属性情報のうちのコーデック情報を解析部112から入力し、携帯端末が搭載しているエンコーダに対応したデコーダをセットする。また、デコーダ部130は、バッファメモリ115から2ch分の映像ストリームを入力し、デコーダによりデコードして映像信号を復号し、復号後の映像信号を映像補正部131に出力する。
【0064】
映像補正部131は、各映像信号の属性情報のうちのカメラパラメータを解析部112から入力し、さらに、デコーダ部130から2ch分の復号後の映像信号を入力し、携帯端末間でカメラパラメータが異なる場合には、これらが同一となるように補正する。具体的には、映像補正部131は、例えば、2ch目のカメラパラメータを1ch目のカメラパラメータと同一にするようなカメラパラメータの変換行列を計算し、これを2ch目の復号後映像信号に行列演算することで、カメラパラメータを補正するようにしてもよい。映像補正部131は、補正後の映像信号を同期処理部132に出力する。
【0065】
同期処理部132は、バッファメモリ115から各映像信号のタイムスタンプを入力し、2chの映像信号における撮影開始時刻の推定値T1,T2を求めるとともに、撮影開始時刻の差の推定値Tdを求める。ここで、時刻T1は1ch目の映像信号の撮影開始時刻の推定値であり、時刻T2は2ch目の撮影開始時刻の推定値である。ここでは、一例として、時刻T1は時刻T2よりも早い時刻とする。このとき、推定値Tdは次式から求められる。
【0067】
同期処理部132は、推定値Tdをもとに、各カメラの開始時刻のずれを補正しながら、2ch分の映像信号に対しフレーム毎の対応づけを行う。同期処理部132は、一例として、次式(2)によって与えられる量γを最大化する時刻ずらし量τを計算することで、フレーム毎の対応付けを行うようにしてもよい。
【0068】
γ=maxΣΣX(m,n,t+Td+τ)A(m,n,t)Y(m,n,t) (2)
【0069】
式(2)において、X(m,n,t)、Y(m,n,t)は、それぞれ、補正後の1ch目の映像信号、補正後の2ch目の映像信号を示す。m、n、tは、それぞれ、x座標、y座標、フレーム番号である。τは、フレーム番号に対するあらかじめ定められたずらし量(±両方向)である。A(m,n,t)は、2ch目の映像信号に対する補正係数を示す。同期処理部132は、入力した2ch分の補正後の映像信号とフレーム毎の対応付けの情報を、ステレオ映像信号生成部134に出力する。
【0070】
ステレオ映像信号生成部134は、同期処理部132から2ch分の補正後の映像信号とフレーム毎の対応付けの情報を入力し、解析部112から映像信号の属性情報のうちのコーデック情報、フレームレート等を入力し、フレーム毎に対応づけられた2ch分の補正後の映像信号に対し、両目の視差距離だけ離れた位置の映像信号を生成する。具体的には、ステレオ映像信号生成部134は、フレーム毎に対応付けられた1ch目の映像信号、および/または、2ch目の映像信号を用いて映像信号を補間処理し、視差距離だけ離れた新たな映像信号X’(m,n,t)とY’(m,n,t)を生成する。ここで、X’(m,n,t)とY’(m,n,t)は、補間処理により得られた、人間の両目の平均的な視差距離だけ離れた距離に位置する映像信号である。ここでは、X’(m,n,t)を左目用映像信号とし、Y’(m,n,t)を右目用映像信号とする。ステレオ映像信号生成部134は、左目用映像信号X’(m,n,t)および右目用映像信号Y’(m,n,t)を端末適応部119に出力する。
【0071】
図1の携帯端末170_3は、ステレオ映像を受信再生可能な端末であり、IMS網155の映像処理サーバ160に対し、ステレオ映像信号を受信するための接続要求信号を送出する。接続要求信号として、SIP/SDPを用いることができる。なお、他の制御信号を用いるようにしてもよい。ここで、携帯端末170_3は、端末能力情報、例えば、受信再生可能なコーデック、コーデックの最大ビットレート、画面解像度、ファイル形式またはストリーミング形式、ステレオ映像の受信が可能か否か、ステレオ映像受信が可能な場合には受信形式(例えば、サイドバイサイド、水平インターリービング(horizontal interleaving)、垂直インターリンビング、トップダウン(top down)、チェッカーボード(checkerboard)、テンポラルインターリービング(temporal interleaving))等の情報をSDPに記述して、映像処理サーバ160に送出する。
【0072】
図2の映像処理サーバ160において、制御信号送受信部111は、
図1のRNC装置およびxGSN装置を経由して、
図1の携帯端末170_3から送出されたSIP/SDP制御信号を受信し、SDPに記載された端末能力情報を取り出して、端末能力解析部113に出力する。
【0073】
図4は、端末適応部119の構成を一例として示すブロック図である。
図4を参照すると、端末適応部119は、照合部135、画面解像度変換部136、合成部137、および、トランスコーダ部138を備えている。
【0074】
画像解像度変換部136は、映像生成部117から左目用映像信号X’(m,n,t)および右目用映像信号Y’(m,n,t)を受信する。
【0075】
照合部135は、
図2の端末能力解析部113から、映像信号を受信再生する携帯端末170_3の端末能力情報のうちの、例えば、受信再生可能なコーデック、コーデックの最大ビットレート、画面解像度、ファイル形式またはストリーミング形式、ステレオ映像の受信が可能か否か、ステレオ映像の受信が可能である場合には受信形式(例えば、サイドバイサイド、水平インターリービング、垂直インターリービング、トップダウン、チェッカーボード、テンポラルインターリービング)等の情報を入力する。
【0076】
また、照合部135は、
図2の解析部112から映像信号の属性情報のうちの、映像信号の圧縮符号化に使用したコーデック、コーデックの最大ビットレート、画面解像度、フレームレートを入力する。
【0077】
ここでは、
図1の携帯端末170_3は、ステレオ映像信号の受信が可能であるものとする。このとき、まず、照合部135は、コーデック情報、画面解像度、コーデックの最大ビットレートについて、端末能力解析部113からの情報と解析部112からの情報とを照らし合わせる。
【0078】
画面解像度が一致していない場合には、照合部135は、画面解像度変換部136にフィルタ処理を指示する。このとき、画像解像度変換部136は、左目用映像信号X’(m,n,t)および右目用映像信号Y’(m,n,t)に対して画面解像度を変換するためのフィルタ処理を行い、合成部137に出力する。
【0079】
一方、画面解像度が一致している場合には、照合部135は、画面解像度変換部136に対し、受信した映像信号をスルーするように指示する。このとき、画面解像度変換部136は、左目用映像信号X’(m,n,t)および右目用映像信号Y’(m,n,t)をそのまま合成部137に出力する。
【0080】
照合部135は、携帯端末170_3のステレオ映像信号受信形式がサイドバイサイド、水平インターリービング、垂直インターリンビング、トップダウン、チェッカーボード、テンポラルインターリービングのうちのいずれに相当するかを判別し、合成部137に判別されたステレオ合成方式に基づく指示を出す。
【0081】
合成部137は、指示されたステレオ合成方式に従い、入力した左目用映像信号X’(m,n,t)および右目用映像信号Y’(m,n,t)をステレオ映像信号に合成してトランスコーダ部138に出力する。例えば、テンポラルインターリービングの場合には、合成部137は、左目用映像信号X’(m,n,t)と右目用映像信号Y’(m,n,t)とをフレーム毎に交互に切り替えて出力するため、フレームレートが2倍の信号となる。したがって、もとのフレームレートが30fpsである場合には、ステレオ合成後のフレームレートは60fpsとなる。
【0082】
次に、照合部135は、コーデック情報およびビットレートのうちの少なくともいずれかが一致していない場合には、コーデックおよびビットレートのうちの少なくともいずれかを変換する指示をトランスコーダ部138に出す。
【0083】
トランスコーダ部138は、かかる指示を受けると、入力したステレオ合成信号に対して、コーデックおよびビットレートのうちの少なくともいずれかの変換を行うための再エンコード処理を行い、変換後の信号を
図2のパケット送信部120に出力する。
【0084】
図2の映像処理サーバにおいて、パケット送信部120は、端末能力解析部113から携帯端末170_3が受信しうる形式がストリーム形式であるのか、またはファイル形式であるのかを入力する。また、パケット送信部120は、端末適応部119から入力したステレオ合成信号をストリーム形式またはファイル形式に格納し、前者をRTPパケットとして、後者をUDPまたはTCPパケットとして、
図1のxGSN装置190_Nに送出する。
【0085】
図1を参照すると、xGSN装置190_Nは、映像処理サーバ160からステレオ合成信号が格納されたパケットを入力し、RNC装置196_Lに送出する。
【0086】
RNC装置196_Lは、基地局181_Lを介して携帯端末170_3にパケットを送出する。
【0087】
携帯端末170_3は、パケットを受信し、端末に搭載している映像デコーダによりステレオ合成映像信号を復号し、ステレオ映像信号として再生表示する。
【0088】
図1では、SGSN装置とGGSN装置を一体化したxGSN装置を用いる構成とした。なお、SGSN装置とGGSN装置を分離した構成を採用することもできる。また、SGSN装置またはGGSN装置のいずれかに映像処理サーバ160を接続した構成を採用することもできる。
【0089】
携帯端末170_1〜170_3は、携帯電話、スマートフォン、PCにデータ通信カードを搭載したもののいずれであってもよい。また、携帯端末170_1〜170_3は、モバイル3G網やモバイル3.9G網と通信ができる端末であればよい。
図1ではモバイルパケットネットワーク150を介して映像信号をアップロードする携帯端末を2台の携帯端末170_1、170_2としたが、3台以上の携帯端末としてもよい。また、
図1では、ステレオ映像信号を受信再生する携帯端末を、アップロードする携帯端末以外の1台の携帯端末170_3とした。しかしながら、受信再生する携帯端末を2台以上としてもよいし、アップロードする携帯端末と受信再生する携帯端末とを同一の端末としてもよい。
【0090】
また、
図1では、映像信号の撮影は、携帯端末170_1および170_2に搭載されたカメラによるものとした。しかし、カメラのみを独立に2台以上設置し、カメラから直接アップロードするようにしてもよい。また、設置されたカメラで撮影した映像信号を、携帯端末またはモバイルデータカード差し込んだPCで読み込んだ上で、携帯端末またはモバイルデータカード差し込んだPCから、映像信号をモバイルパケットネットワーク150経由でアップロードするようにしてもよい。
【0091】
(実施形態2)
第2の実施形態に係る映像処理サーバについて、図面を参照して説明する。
図5は、本実施形態の映像処理サーバを備えた映像処理システムの接続構成を一例として示す図である。
【0092】
図5において、
図1と同一の符号を付した構成要素は
図1と同じ動作をするので説明を省略する。
図5では、モバイルLTE/EPCネットワーク250として、3.9世代のモバイル網である、LTE(Long Term Evolution)およびEPC(Evolved Packet Core)網を使用する構成を示している。
【0093】
LTEでは基地局装置とRNC装置の機能が縮退し、eNodeB装置のみとなる。また、EPCではS/P−GW(Serving/Packet Data−Gateway)装置がeNodeB装置に接続される。ここで、S/P−GW装置は、S−GW装置とP−GW装置が一体化された構成であることを意味する。また、
図5は、M台のeNodeB装置が1台のS/P−GW装置に接続される構成を示す。例えば、S/P−GW装置290_1には、eNodeB装置260_1〜260_Mが接続されている。
【0094】
携帯端末170_1および170_2は、映像処理サーバ160のIPアドレスを記載して接続要求メッセージを発する。すると、携帯端末170_1および170_2が在圏しているeNodeB装置(
図1の場合には260_1〜261_Mのいずれか)は、接続要求メッセージを受信する。eNodeB装置260_1〜261Mのいずれかは、接続要求メッセージをGTP−Uプロトコルのペイロード部分に、接続要求メッセージおよび映像配信サーバ160のIPアドレス、携帯端末のIPアドレス等を格納し、S/P−GW装置290_1から290_Nのいずれかに対してGTP−Uパケットを転送する。
【0095】
S/P−GW装置290_1から290_Nのいずれかは、受信したGTP−Uパケットのペイロードから接続要求メッセージを取り出して映像処理サーバ160に送出する。
【0096】
図5では、S−GW装置とP−GW装置を一体化したS/P−GW装置を用いる構成とした。しかし、S−GW装置とP−GW装置とを分離した構成を採用することもできる。かかる場合には、S−GW装置またはP−GW装置のいずれかに、映像処理サーバ160を接続する構成を採用することもできる。
【0097】
上記実施形態1、2に係る映像処理サーバ160によると、複数台の携帯端末のカメラで撮影した映像信号、または、固定的に複数台設置したカメラで撮影した映像信号を、モバイルネットワーク上の映像処理サーバ160にアップロードし、映像処理サーバが実時間で映像処理を実現する際、少なくとも1つのパラメータとして、各映像信号のカメラパラメータを入力し、これを用いて映像信号を補正するとともに、各映像信号のタイムスタンプを入力し、これを用いることでカメラ間の映像信号のフレーム間の対応づけをとることにより、ステレオ映像信号の合成処理における画質の劣化を抑えることができる。
【0098】
さらに、映像処理サーバ160によると、映像処理サーバ160で映像処理した映像信号を携帯端末で受信し再生表示する場合に、携帯端末の機種応じた能力の違い、ステレオ映像信号を再生表示する場合の形式の違い等に関して、携帯端末が合成された映像信号を再生表示できるように映像処理サーバ160上で映像信号を適応化させることができるため、携帯端末を改造する必要がない。
【0099】
本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施例の各要素、各図面の各要素等を含む)の多様な組み合わせないし選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。