(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0013】
以下、本発明の実施の形態(以降、「本実施形態」とも表す。)について、図面を参照しながら詳細に説明する。本実施形態では、正距円筒図法で表現されたパノラマ動画におけるユーザの視野範囲の位置(垂直角度θの値)に応じて、部分領域タイル又は全天周投影球の極付近をカバーするタイル(後述する天頂タイル)のいずれか配信するパノラマ動画配信システム1について説明する。
【0014】
ここで、部分領域タイル及び天頂タイルは、いずれも全体縮小タイルと比べて高画質なタイルであるものとする。したがって、部分領域タイル及び天頂タイルを「高画質タイル」、全体縮小タイルを「低画質タイル」とも称する。また、タイルとは、正距円筒図法で表現されたパノラマ動画における矩形領域のことである。ただし、タイルは必ずしも矩形でなくても良く、例えば、三角形や円形等の任意の形状の領域であっても良い。
【0015】
また、パノラマ動画とは、全天周投影球で表現される画像(又は、この画像を正距円筒図法で表現した画像)をフレーム画像とする動画のことである。本実施形態では、パノラマ動画の各フレーム画像は、正距円筒図法で表現されているものとする。この場合、パノラマ動画は、視聴の際のレンダリング時に、正距円筒図法で表現されているフレーム画像が全天周投影球上のテキスチャとしてマッピングされ、全天周投影球で表現される。
【0016】
なお、パノラマ動画には音声が含まれていても良いし、音声は含まれていなくても良い。また、パノラマ動画としては実写を想定するが、必ずしも実写である必要はなく、例えば、CG(コンピュータグラフィックス)やアニメーション等であっても良い。
【0017】
<全体構成>
まず、本実施形態に係るパノラマ動画配信システム1の全体構成について、
図3を参照しながら説明する。
図3は、本実施形態に係るパノラマ動画配信システム1の全体構成の一例を示す図である。
【0018】
図3に示すように、本実施形態に係るパノラマ動画配信システム1には、パノラマ動画配信サーバ10と、1以上の端末20とが含まれる。また、パノラマ動画配信サーバ10と、端末20とは、例えばインターネット等のネットワークNを介して通信可能に接続されている。
【0019】
パノラマ動画配信サーバ10は、端末20からの要求に応じて、パノラマ動画をストリーミング配信するコンピュータ又はコンピュータシステムである。このとき、パノラマ動画配信サーバ10は、当該端末20に表示される視野範囲の位置(垂直角度θの値)に応じて、部分領域タイル又は後述する天頂タイルと、全体縮小タイルとを当該端末20に配信する。なお、本実施形態では、パノラマ動画において、端末20に表示される範囲を「視野範囲」と表現するが、視野範囲は、例えば「視認範囲」や「表示範囲」、「視聴範囲」等と称されても良い。
【0020】
ここで、部分領域タイルとは、パノラマ動画(より正確には、当該パノラマ動画のフレーム画像)において、視野範囲を含む部分領域のデータである。また、天頂タイルとは、後述するように、パノラマ動画(より正確には、当該パノラマ動画のフレーム画像)において、視野範囲を含み、かつ、全天周投影球で天頂タイルに対応する実効領域が極付近(つまり、極の近傍)も含む部分領域のことである。更に、全体縮小タイルとは、パノラマ動画(より正確には、当該パノラマ動画のフレーム画像)全体を圧縮したデータである。
【0021】
端末20は、パノラマ動画を視聴可能なスマートフォンやタブレット端末、ヘッドマウントディスプレイ、ウェアラブルデバイス、PC(パーソナルコンピュータ)等である。ユーザは、端末20を用いて、パノラマ動画配信サーバ10から配信されたパノラマ動画を視聴することができる。
【0022】
ここで、ユーザは、端末20を操作等することで、パノラマ動画中における視野範囲を移動又は変更することができる。このような操作としては、例えば、端末20のディスプレイに対するスワイプ操作やフリック操作、視野範囲の移動ボタンの押下操作等であっても良いし、マウス等のポインティングデバイスを用いた視野範囲の移動ボタンの押下操作等であっても良い。また、上下左右の全方位360度の向きを検出可能なセンサを端末20が備えている場合には、当該端末20の向きを変更することで、視野範囲の移動又は変更を行うことができても良い。
【0023】
なお、
図1に示すパノラマ動画配信システム1の構成は一例であって、他の構成であっても良い。例えば、端末20に対してパノラマ動画をライブ配信する場合には、上下左右の全方位360度の動画を撮影可能なカメラ装置や音を収集するマイク等がパノラマ動画配信システム1に含まれていても良い。また、例えば、端末20に対してパノラマ動画をオンデマンド配信する場合には、パノラマ動画を保持する記憶装置等がパノラマ動画配信システム1に含まれていても良い。
【0024】
<天頂タイル>
次に、天頂タイルについて、
図4を参照しながら説明する。
図4は、天頂タイルの一例を説明するための図である。以降では、視野範囲の位置は、当該視野範囲の中心座標で表されるものとする。なお、中心座標は、水平角度φと垂直角度θとの組(φ,θ)で表される。
【0025】
図4(a)に示すように、視野範囲の中心座標の垂直角度θがπに近い場合(言い換えれば、中心座標の垂直角度θが第1の閾値Th
1以上の場合)、パノラマ動画配信サーバ10は、当該視野範囲を含み、かつ、4頂点が(0,π),(0,θ
1),(2π,θ
1),(2π,π)で表される天頂タイル(以降では、この天頂タイルを「第1の天頂タイル」とも表す。)を配信する。この第1の天頂タイルの実効領域は、北極点の付近を含むものとなる。
【0026】
ここで、θ
1は、第1の天頂タイルの高さ(垂直角度方向の幅)を決定するためのパラメータである。このθ
1は、予め決められた値であっても良いし、ユーザが設定することができても良い。なお、視野範囲が第1の天頂タイルに含まれる必要があるため、π−θ
1が視野範囲の高さ(垂直角度方向の幅)より大きくなるようにθ
1が決定される必要がある。また、同様の理由から第1の閾値Th
1は、θ
1に応じて決定される。例えば、ε
1をパラメータ、視野範囲の高さをhとして、第1の閾値Th
1=θ
1+h×1/2+ε
1等と決定される。
【0027】
図4(b)に示すように、視野範囲の中心座標の垂直角度θが0に近い場合(言い換えれば、中心座標の垂直角度θが第2の閾値Th
2以下の場合)、パノラマ動画配信サーバ10は、当該視野範囲を含み、かつ、4頂点が(0,θ
2),(0,0),(2π,0),(2π,θ
2)で表される天頂タイル(以降では、この天頂タイルを「第2の天頂タイル」とも表す。)を配信する。この第2の天頂タイルの実効領域は、南極点の付近を含むものとなる。
【0028】
ここで、θ
2は、第2の天頂タイルの高さを決定するためのパラメータである。このθ
2は、予め決められた値であっても良いし、ユーザが設定することができても良い。なお、視野範囲が第2の天頂タイルに含まれる必要があるため、θ
2が視野範囲の高さより大きくなるようにθ
2が決定される必要がある。また、同様の理由から第2の閾値Th
2は、θ
2に応じて決定される。例えば、ε
2をパラメータ、視野範囲の高さをhとして、第2の閾値Th
2=θ
2−h×1/2−ε
2等と決定される。
【0029】
なお、上記のパラメータθ
1及びθ
2の関係について、π−θ
1≠θ
2であっても良いし、π−θ
1=θ
2であっても良い。π−θ
1≠θ
2である場合は第1の天頂タイルの高さと第2の天頂タイルの高さとが異なる一方で、π−θ
1=θ
2である場合は第1の天頂タイルの高さと第2の天頂タイルの高さとが同じになる。
【0030】
以上のように、本実施形態に係るパノラマ動画配信サーバ10は、視野範囲の位置が垂直角度θ=πに近くなった場合又は視野範囲の位置が垂直角度θ=0に近くなった場合、部分領域タイルの代わりに、天頂タイルを端末20に配信する。これにより、全天周投影球での実効領域を大きくすることができる。
【0031】
また、上記では、視野範囲の位置が垂直角度θ=πに近くなった場合又は視野範囲の位置が垂直角度θ=0に近くなった場合に天頂タイルを端末20に配信するものとしたが、これ以外にも、例えば、ユーザの視野範囲の履歴(視野範囲の中心座標の履歴)等を用いて視野範囲の位置が垂直角度θ=π又はθ=0に近くなることを予測した上で、この予測結果に応じて天頂タイルを端末20に配信するようにしても良い。
【0032】
なお、正距円筒図法で表現されたパノラマ動画は、極に近い程(つまり、垂直角度θがπ/2から離れる程)、所定の単位領域当たりの情報量が減少する。このため、天頂タイルは部分領域タイルと同等程度のデータサイズで配信することが可能である。
【0033】
<機能構成>
次に、本実施形態に係るパノラマ動画配信システム1の機能構成について、
図5を参照しながら説明する。
図5は、本実施形態に係るパノラマ動画配信システム1の機能構成の一例を示す図である。
【0034】
図5に示すように、本実施形態に係るパノラマ動画配信システム1のパノラマ動画配信サーバ10は、機能部として、動画配信処理部101を有する。当該機能部は、パノラマ動画配信サーバ10にインストールされた1以上のプログラムがCPU(Central Processing Unit)等に実行させる処理により実現される。
【0035】
動画配信処理部101は、端末20からの要求に応じて、パノラマ動画(すなわち、パノラマ動画の各フレーム画像の部分領域タイル又は天頂タイルと全体縮小タイル)を当該端末20に配信する処理を実行する。ここで、動画配信処理部101には、判定部111と、タイル作成部112と、配信部113とが含まれる。
【0036】
判定部111は、高画質タイルとして部分領域タイル又は天頂タイルのいずれを配信するかを判定する。ここで、判定部111は、視野範囲の中心座標の垂直角度θと、所定の閾値(第1の閾値Th
1及び第2の閾値Th
2)とを比較判定することで、部分領域タイル又は天頂タイルのいずれを配信するかを判定する。
【0037】
タイル作成部112は、判定部111の判定結果に応じて、高画質タイルと低画質タイルとを作成する。すなわち、タイル作成部112は、高画質タイルとして部分領域タイルを配信すると判定部111が判定した場合、部分領域タイルと全体縮小タイルとを作成する。一方で、タイル作成部112は、高画質タイルとして天頂タイルを配信すると判定部111が判定した場合、天頂タイルと全体縮小タイルとを作成する。
【0038】
なお、例えば、端末20に対してパノラマ動画をライブ配信する場合には、タイル作成部112は、カメラ装置等から受信したパノラマ動画を用いて、高画質タイルと低画質タイルとを作成する。一方で、例えば、端末20に対してパノラマ動画をオンデマンド配信する場合には、タイル作成部112は、所定の記憶装置等に予め保持されているパノラマ動画を用いて、高画質タイルと低画質タイルとを作成する。
【0039】
配信部113は、タイル作成部112が作成した高画質タイル及び低画質タイルを端末20に配信する。
【0040】
また、
図5に示すように、本実施形態に係るパノラマ動画配信システム1の端末20は、機能部として、動画視聴処理部201を有する。当該機能部は、端末20にインストールされた1以上のプログラムがCPUに実行させる処理により実現される。
【0041】
動画視聴処理部201は、パノラマ動画を表示するためのタイル配信要求をパノラマ動画配信サーバ10に送信する。ここで、タイル配信要求には、例えば、視野範囲の中心座標又は当該中心座標を特定するための情報が含まれる。視野範囲の中心座標を特定するための情報としては、例えば、視野範囲の各頂点の座標等が挙げられる。
【0042】
また、動画視聴処理部201は、パノラマ動画配信サーバ10から配信されたタイル(高画質タイル及び低画質タイル)によりパノラマ動画を表示する。これにより、端末20には、パノラマ動画配信サーバ10からストリーミング配信されたパノラマ動画が表示される。
【0043】
<パノラマ動画配信処理>
次に、パノラマ動画配信サーバ10がパノラマ動画を端末20に配信する処理(パノラマ動画配信処理)について、
図6を参照しながら説明する。
図6は、本実施形態に係るパノラマ動画配信処理の一例を示すシーケンス図である。以降のステップS101〜ステップS107は、例えば、パノラマ動画のフレーム画像の或るまとまり(例えば、1秒乃至数秒間のフレーム画像群)毎に繰り返し実行される。
【0044】
まず、端末20の動画視聴処理部201は、タイル配信要求をパノラマ動画配信サーバ10に送信する(ステップS101)。ここで、タイル配信要求には、例えば、視野範囲の中心座標又は当該中心座標を特定するための情報が含まれる。
【0045】
パノラマ動画配信サーバ10の動画配信処理部101は、判定部111により、高画質タイルとして部分領域タイル又は天頂タイルのいずれを配信するかを判定する(ステップS102)。すなわち、判定部111は、視野範囲の中心座標の垂直角度θと、所定の閾値(第1の閾値Th
1及び第2の閾値Th
2)とを比較判定することで、部分領域タイル又は天頂タイルのいずれを配信するかを判定する。
【0046】
ここで、中心座標の垂直角度θが第1の閾値Th
1未満かつ第2の閾値Th
2より大である場合、判定部111は、高画質タイルとして部分領域タイルを配信すると判定する。一方で、中心座標の垂直角度θが第1の閾値Th
1以上又は第2の閾値Th
2以下であると場合、判定部111は、高画質タイルとして天頂タイルを配信すると判定する。
【0047】
なお、ユーザは、天頂タイルの使用有無を設定することができても良い。天頂タイルの使用有無が「使用無」に設定されている場合には、上記のステップS102の判定を行わずに、以降のステップS103のみを実行すれば良い。
【0048】
ステップS102で高画質タイルとして部分領域タイルを配信すると判定された場合、パノラマ動画配信サーバ10の動画配信処理部101は、タイル作成部112により、高画質タイルとして部分領域タイルを作成する(ステップS103)。すなわち、タイル作成部112は、視野範囲を含み、かつ、所定の画像サイズの部分領域タイルを作成する。所定の画像サイズとしては、例えば、HDサイズ(1280×720)やフルHDサイズ(1920×1080)等が挙げられる。部分領域タイルの画像サイズとしてどのような画像サイズを利用するかは、例えば、ユーザにより予め設定される。
【0049】
一方で、ステップS102で高画質タイルとして天頂タイルを配信すると判定された場合、パノラマ動画配信サーバ10の動画配信処理部101は、タイル作成部112により、高画質タイルとして天頂タイルを作成する(ステップS104)。すなわち、タイル作成部112は、視野範囲を含み、かつ、所定の4頂点で特定される天頂タイルを作成する。
【0050】
ここで、中心座標の垂直角度θが第1の閾値Th
1以上である場合、タイル作成部112は、4頂点{(0,π),(0,θ
1),(2π,θ
1),(2π,π)}で特定される第1の天頂タイルを作成する。一方で、中心座標の垂直角度θが第2の閾値Th
2以下である場合、タイル作成部112は、4頂点{(0,θ
2),(0,0),(2π,0),(2π,θ
2)}で特定される第2の天頂タイルを作成する。
【0051】
なお、タイル作成部112は、第1の天頂タイル又は第2の天頂タイルを、上記のステップS103で作成される部分領域タイルと同じ画像サイズに圧縮しても良い。
【0052】
ステップS103又はステップS104に続いて、パノラマ動画配信サーバ10の動画配信処理部101は、タイル作成部112により、低画質タイルとして全体縮小タイルを作成する(ステップS105)。すなわち、タイル作成部112は、パノラマ動画のフレーム画像を、上記のステップS103で作成される部分領域タイルと同じ画像サイズに圧縮した全体縮小タイルを作成する。
【0053】
例えば、パノラマ動画のフレーム画像が4Kサイズ(3840×2160)、部分領域タイルがHDサイズである場合、タイル作成部112は、当該フレーム画像をHDサイズに圧縮することで全体縮小タイルを作成する。
【0054】
なお、上記のステップS103〜ステップS105では、フレーム画像群に含まれる各フレーム画像から部分領域タイル又は天頂タイルと全体縮小タイルとがそれぞれ作成される。
【0055】
次に、パノラマ動画配信サーバ10の動画配信処理部101は、配信部113により、高画質タイル(部分領域タイル又は天頂タイル)と低画質タイル(全体縮小タイル)とを端末20に配信する(ステップS106)。
【0056】
端末20の動画視聴処理部201は、パノラマ動画配信サーバ10から配信されたパノラマ動画(高画質タイル及び低画質タイル)を表示(再生)する(ステップS107)。このとき、動画視聴処理部201は、全体縮小タイルを元の画像サイズ(すなわち、元のフレーム画像のサイズ)に伸張した上でパノラマ動画を再生する。例えば、パノラマ動画のフレーム画像が4Kサイズである場合、動画配信処理部101は、全体縮小タイルを4Kサイズに伸張する。これにより、端末20のユーザはパノラマ動画を視聴することができる。なお、圧縮及び伸張が行われることにより、全体縮小タイルは、部分領域タイル及び天頂タイルよりも低画質で表示されることになる。
【0057】
<まとめ>
以上のように、本実施形態に係るパノラマ動画配信システム1は、端末20からの要求に応じて、視野範囲を含む高画質タイルと、視野範囲外の低画質タイルとをパノラマ動画配信サーバ10が配信する。これにより、本実施形態に係るパノラマ動画配信システム1では、例えば、端末20のユーザが視野範囲を高画質タイル外に移動させたような場合であっても、低画質タイルによりパノラマ動画の再生を継続させることができるようになる。
【0058】
また、本実施形態に係るパノラマ動画配信システム1は、全天周投影球上の視野範囲の位置が極(北極点又は南極点)に近い場合には、高画質タイルとして、部分領域タイルの代わりに天頂タイルを配信する。これにより、本実施形態に係るパノラマ動画配信システム1では、全天周投影球上で視野範囲が極に近い場合であっても、高画質タイルがカバーする実効領域の範囲を広く確保することができる。このため、例えば、天頂タイル内でユーザが視野範囲を移動させたような場合に、高画質なパノラマ動画なユーザに提供することができるようになる。
【0059】
なお、本実施形態に係るパノラマ動画配信システム1では、全天周投影球上の視野範囲の位置が極に近い場合には、高画質タイルとして、部分領域タイルの代わりに天頂タイルを配信する場合について説明したが、これに限られず、例えば、端末20に配信する部分領域タイルのアスペクト比を変更(例えば、極に近いほど部分領域タイルの横のサイズを大きくする等)するようにしても良い。
【0060】
また、本実施形態に係るパノラマ動画配信システム1では、パノラマ動画配信サーバ10が端末20に対して、ネットワークNを介してパノラマ動画を配信する場合(つまり、パノラマ動画がネットワーク配信される場合)について説明したが、これに限られない。すなわち、本実施形態は、例えば、パノラマ動画配信サーバ10の機能を端末20が有しており、端末20がローカルストレージ内のパノラマ動画(例えば、端末20のHDD等に格納されているパノラマ動画)を再生する場合についても同様に適用することができる。これにより、端末20がパノラマ動画を再生する際における処理負荷等を軽減させることができるようになる。
【0061】
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【解決手段】パノラマ動画を再生する端末とネットワークを介して接続される動画配信装置であって、前記パノラマ動画のフレーム画像が前記端末に表示される範囲の位置に応じて、前記範囲を含み、かつ、所定の画像サイズの第1の高画質データと、前記範囲を含み、かつ、全天周投影球で表現した場合に極の近傍を含む第2の高画質データとのうちのいずれを前記端末に配信するかを判定する判定手段と、前記判定手段による判定結果に応じて、前記第1の高画質データ又は前記第2の高画質データと、前記フレーム画像を前記画像サイズに圧縮した低画質データとを作成する作成手段と、前記作成手段が作成した前記第1の高画質データ又は前記第2の高画質データと前記低画質データとを前記端末に配信する配信手段と、を有することを特徴とする。