(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
さらなる様態は、一部は、以下の説明に部分的に記載され、また一部は、その説明から明らかになるか、あるいは提示された実施形態によっても習得される。
【0011】
開示された一実施形態による映像表示装置は、ディスプレイ部、グラフィック処理部、及び現在ビューポイントに係わる情報に基づいて、平面状映像からコピー領域を決定し、コピー領域に対応する映像を球にマッピングして球状映像を生成し、球状映像をレンダリングして出力映像を生成するようにグラフィック処理部を制御し、出力映像を表示するようにディスプレイ部を制御するプロセッサを含んでもよい。
【0012】
開示された一実施形態によるプロセッサは、ビューポイントを変更する入力に応答し、現在ビューポイントに係わる情報を変更し、変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更することができる。
【0013】
開示された一実施形態による現在ビューポイントに係わる情報は、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを含んでもよい。
【0014】
開示された一実施形態によるプロセッサは、出力映像に対応する領域よりコピー領域を大きく設定することができる。
【0015】
開示された一実施形態によるプロセッサは、平面状映像が動画の最初フレームに対応する映像であるとき、既設定のビューポイントに係わる情報に基づいて、コピー領域を決定することができる。
【0016】
開示された一実施形態による既設定のビューポイントに係わる情報は、ユーザ入力、または映像表示装置の内部設定によっても異なる。
【0017】
開示された一実施形態によるプロセッサは、コピー領域に対応する映像をグラフィック処理部に伝送し、伝送されたコピー領域に対応する映像を球にマッピングし、球状映像を生成するように、グラフィック処理部を制御することができる。
【0018】
開示された一実施形態による映像表示装置は、外部装置から受信された360°映像をデコーディングし、平面状映像を生成するデコーダ(decoder)をさらに含んでもよい。
【0019】
開示された一実施形態によるプロセッサは、現在ビューポイントに係わる情報により、コピー領域の形態及び大きさのうち少なくとも一つを異なるように決定することができる。
【0020】
開示された一実施形態による映像表示方法は、現在ビューポイントに係わる情報に基づいて、平面状映像からコピー領域を決定する段階、コピー領域に対応する映像を球にマッピングし、球状映像を生成する段階、球状映像をレンダリングして出力映像を生成する段階、及び出力映像を表示する段階を含んでもよい。
【0021】
開示された一実施形態による映像表示方法は、ビューポイントを変更する入力に応答し、現在ビューポイントに係わる情報を変更する段階、及び変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更する段階をさらに含んでもよい。
【0022】
開示された一実施形態による現在ビューポイントに係わる情報は、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを含んでもよい。
【0023】
開示された一実施形態による映像表示方法は、出力映像に対応する領域よりコピー領域を大きく設定する段階をさらに含んでもよい。
【0024】
開示された一実施形態による映像表示方法は、平面状映像が動画の最初フレームに対応する映像であるとき、既設定のビューポイントに係わる情報に基づいて、コピー領域を決定する段階をさらに含んでもよい。
【0025】
開示された一実施形態による既設定のビューポイントに係わる情報は、ユーザ入力、または映像表示装置の内部設定によっても異なる。
【0026】
開示された一実施形態による映像表示方法は、コピー領域に対応する映像をグラフィック処理部に伝送する段階、及び伝送されたコピー領域に対応する映像を球にマッピングし、球状映像を生成する段階をさらに含んでもよい。
【0027】
開示された一実施形態による映像表示方法は、外部装置から受信された360°映像をデコーディングし、平面状映像を生成する段階をさらに含んでもよい。
【0028】
開示された一実施形態による映像表示方法は、現在ビューポイントに係わる情報により、コピー領域の形態及び大きさのうち少なくとも一つを異なるように決定することができる。
【0029】
球状映像は、球状360°映像を含み、平面状映像は、平面状360°映像を含んでもよい。
【0030】
以下では、添付した図面を参照し、本開示が属する技術分野において当業者が容易に実施することができるように、本開示の実施形態について詳細に説明する。しかし、本開示は、さまざまに異なる形態に具現され、ここで説明する実施形態に限定されるものではない。また、図面において、本開示について明確に説明するために、説明と関係のない部分は省略し、明細書全体を通じて、類似した部分については、類似した図面符号を付した。
【0031】
本開示で使用される用語は、本開示で言及される機能を考慮し、現在使用される一般的な用語で記載されたが、それは、当分野の当業者の意図、判例、または新たな技術の出現などにより、多様な異なる用語を意味することができる。従って、本開示で使用される用語は、用語の名称だけで解釈されるものではなく、該用語が有する意味と、本開示の全般にわたる内容とを基に解釈されなければならない。
【0032】
また、本開示で使用された用語は、単に特定実施形態についての説明に使用されたものであり、本開示を限定する意図で使用されるものではない。単数の表現は、文脈上明白に単数を意味しない限り、複数の意味を含む。また、明細書全体において、ある部分が他の部分と「連結」されているとするとき、それは、「直接連結」されている場合だけではなく、その中間に、他の素子を挟み、「電気的に連結」されている場合も含む。また、ある部分がある構成要素を「含む」とするとき、それは、特別に反対となる記載がない限り、他の構成要素を除くものではなく、他の構成要素をさらに含んでもよいということを意味する。
【0033】
本明細書、特に、特許請求の範囲で使用された「前記」、及びそれと類似した指示語は、単数及び複数のいずれも指示するものでもある。また、本開示による方法について説明する段階の順序を明白に指定する記載がなければ、記載された段階は、適する順序で行われる。記載された段階の記載順序により、本開示が限定されるものではない。
【0034】
本明細書において、多様なところに登場する「一部実施形態において」または「一実施形態において」というような語句は、必ずしもいずれも同一実施形態を示すものではない。
【0035】
本開示の一部実施形態は、機能的なブロック構成、及び多様な処理段階によっても示される。そのような機能ブロックの一部または全部は、特定機能を行う多様な個数のハードウェア構成及び/またはソフトウェア構成によっても具現される。例えば、本開示の機能ブロックは、1以上のマイクロプロセッサによっても具現されるか、あるいは所定機能のための回路構成によっても具現される。また、例えば、本開示の機能ブロックは、多様なプログラミング言語またはスクリプティング言語によっても具現される。該機能ブロックは、1以上のプロセッサで実行されるアルゴリズムによっても具現される。また、本開示は、電子的な環境設定、信号処理及び/またはデータ処理などのために、従来技術を採用することができる。「メカニズム」、「要素」、「手段」及び「構成」というような用語は、汎用され、機械的であって物理的な構成として限定されるものではない。
【0036】
また、図面に図示された構成要素間の連結線または連結部材は、機能的な連結及び/または物理的または回路的な連結を例示的に示したものであるのみである。実際の装置においては、代替可能であったり、追加されたりする多様な機能的な連結、物理的な連結または回路の連結により、構成要素間の連結が示される。
【0037】
以下、添付された図面を参照し、本開示について詳細に説明する。
【0038】
図1は、開示された一実施形態による360°映像を表示する映像表示装置を示す図面である。
【0039】
図1を参照すれば、開示された一実施形態による映像表示装置100は、TV(television)でもあるが、それに限定されるものではなく、ディスプレイ部を含む電子装置としても具現される。例えば、映像表示装置100は、携帯電話、タブレットPC(personal computer)、デジタルカメラ、カムコーダ、ノート型パソコン(laptop computer)、デスクトップ、電子書籍端末機、デジタル放送用端末機、PDA(personal digital assistant)、PMP(portable multimedia player)、ナビゲーション、MP3プレイヤ、着用型機器(wearable device)のような多様な電子装置によっても具現される。また、映像表示装置100は、固定型または移動型でもあり、デジタル放送受信が可能なデジタル放送受信機でもある。
【0040】
映像表示装置100は、平面(flat)ディスプレイ装置だけではなく、曲率を有する画面である曲面(curved)ディスプレイ装置、または曲率が調整可能な可変型(flexible)ディスプレイ装置によっても具現される。映像表示装置100の出力解像度は、例えば、HD(high definition)、full HD、Ultra HDのもの、またはUltra HDよりさらに鮮明な解像度を含んでもよい。
【0041】
映像表示装置100は、制御装置101によっても制御され、制御装置101は、リモコンまたは携帯電話のように、映像表示装置100を制御するための多様な形態の装置によっても具現される。映像表示装置100のディスプレイ部がタッチスクリーンによって具現される場合、制御装置101は、ユーザの指や、入力ペンなどによっても代替される。
【0042】
制御装置101は、赤外線(infrared)またはブルートゥース(Bluetooth(登録商標))を含む近距離通信を利用し、映像表示装置100を制御することができる。制御装置101は、具備されたキー(ボタンを含む)、タッチパッド、ユーザ音声の受信が可能なマイク(図示せず)、及び制御装置101のモーション認識が可能なセンサ(図示せず)のうち少なくとも一つを利用し、映像表示装置100の機能を制御することができる。
【0043】
制御装置101は、映像表示装置100の電源をオン(on)にしたりオフ(off)にしたりするための電源オン/オフボタンを含んでもよい。また、制御装置101は、ユーザ入力により、映像表示装置100のチャネル変更、音量調整、地上波放送/ケーブル放送/衛星放送の選択または環境設定(setting)を行うことができる。
【0044】
また、制御装置101は、ポインティング装置でもある。例えば、制御装置101は、特定キー入力を受信する場合、ポインティング装置として動作することができる。
【0045】
本明細書の実施形態において、「ユーザ」という用語は、制御装置101を利用し、映像表示装置100の機能または動作を制御する者を意味し、視聴者、管理者または設置技士を含んでもよい。
【0046】
開示された一実施形態による映像表示装置100は、360°映像を表示することができる。
【0047】
360°映像は、360°の画角(angle of view)を有する映像でもある。例えば、360°映像は、少なくとも1台のカメラを利用し、360°方向に撮影された複数の映像に基づいて生成された映像でもある。このとき、撮影された複数の映像は、球にマッピング(mapping)され、マッピングされた映像の接点が連結(スティッチング(stitching))され、球(sphere)状の360°映像が生成されることができる。また、球状の360°映像は、他のデバイスに伝送したり保存したりするために、
図1に図示されているように、平面状の360°映像50にも変換される。
【0048】
開示された一実施形態による映像表示装置100は、平面状の360°映像50にグラフィック処理を施し、平面状の360°映像50を、球状の360°映像70で変換することができる。例えば、映像表示装置100は、平面状の360°映像を球にマッピングし、球状の360°映像70を生成することができる。
【0049】
開示された一実施形態による映像表示装置100は、球状の360°映像70において、現在ビューポイント(view point)に対応する一部領域80を選択し、選択された領域80に対応する出力映像を生成することができる。そして、映像表示装置100は、生成された出力映像を表示することができる。
【0050】
該ビューポイントは、360°映像において、ユーザが見ている地点(point)を意味する。例えば、該ビューポイントは、ユーザが、球中心点に位置すると仮定するとき、球の表面にマッピングされた360°映像において、ユーザが見ている地点を意味するが、それに限定されるものではない。該ビューポイントは、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを利用して示すことができる。前述の水平角度、垂直角度、画角、及び球中心点からの距離に係わる詳細な説明は、
図2を参照して後述する。
【0051】
平面状の360°映像50を、球状の360°映像70に変換する過程は、映像表示装置100のグラフィック処理部でも遂行される。該グラフィック処理部が、平面状の360°映像50を球状の360°映像70に変換するためには、平面状の360°映像50がグラフィック処理部に伝送されなければならない。このとき、平面状の360°映像50は、高い解像度を有する場合が多いために、映像が大きくなる。従って、平面状の360°映像50全体をグラフィック処理部に伝送するためには、長い時間が必要となってしまう。
【0052】
開示された多様な実施形態は、平面状の360°映像50において、現在ビューポイントに係わる情報に基づいて、決定された一部領域に対応する映像を、グラフィック処理部に伝送することができる。それにより、平面状の360°映像50を、グラフィック処理部に伝送するときに必要となる時間が短縮される。
【0053】
また、開示された多様な実施形態は、平面状の360°映像50において、グラフィック処理部に伝送された一部領域に対応する映像に基づいて、球状の360°映像70及び出力映像を生成することができる。従って、開示された多様な実施形態は、平面状の360°映像50全体がグラフィック処理部に伝送されるときより、球状の360°映像70及び出力映像を生成するのに必要となる時間を短縮させることができる。
【0054】
図2Aないし
図2Cは、開示された一実施形態による、ビューポイントに係わる情報について説明するための図面である。
【0055】
前述のように、360°映像は、少なくとも1台のカメラを利用し、360°方向に撮影された複数の映像に基づいて生成された映像でもある。撮影された複数の映像は、球にもマッピングされ、マッピングされた映像の接点が連結(スティッチング)され、球状の360°映像が生成される。そして、映像表示装置100は、球状の360°映像において、現在ビューポイントに対応する映像を表示することができる。
【0056】
該ビューポイントは、360°映像において、ユーザが見ている地点を意味する。該ビューポイントは、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを利用して示すことができる。従って、現在ビューポイントに係わる情報は、360°映像において、ユーザが現在見ている地点を、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つで示す情報を意味する。
【0057】
該水平角度は、球の中心を過ぎながら、xy平面に平行な第1平面を基準に、球の表面に沿って回転しながら形成される角を意味する。例えば、
図2Aを参照すれば、球状の映像200において、球表面に位置する所定地点201の水平角度を0°と設定することができる。このとき、該水平角度は、第1平面を基準に、0°以上360°以下の値を有することができる。
【0058】
該垂直角度は、球の中心を過ぎながら、z軸平面に平行な第2平面を基準に、球表面に沿って回転しながら形成される角を意味する。例えば、
図2Aを参照すれば、球状の映像200において、球表面に位置する所定地点201の垂直角度を0°と設定することができる。このとき、該垂直角度は、第2平面を基準に、−90°以上90°以下の値を有することができる。または、一実施形態により、該垂直角度は、第2平面を基準に、0°以上180°以下の値を有することができるが、前述の例に限定されるものではない。
【0059】
該画角は、球状の360°映像において、映像表示装置100に表示される領域を示す角度範囲を意味し、0°以上360°以下の値を有することができる。
【0060】
例えば、
図2Bの左側に図示された球状の映像210を参照すれば、球状の映像210において、第1領域211が映像表示装置100のディスプレイ部に表示されるとき、第1領域211の画角は100°でもある。他の例として、
図2Bの右側に図示された球状の映像220を参照すれば、球状の映像220において、第2領域221がディスプレイ部に表示されるとき、第2領域221の画角は、180°でもある。このとき、
図2Bに図示された第1領域211及び第2領域221の画角は、球中心点を基準に決定された値でもあるが、それに限定されるものではない。
【0061】
該画角は、球中心点からの距離によっても異なる。
【0062】
例えば、
図2Cに図示された球状の映像230,240を参照すれば、ディスプレイ部に表示される領域231,241が同一であるとき、球中心点である第1地点232を基準に判断した画角は、100°であり、第2地点242を基準に判断した画角は、70°でもある。球中心点からの距離が長いほど、画角が狭まる。
【0063】
例えば、直径が1である球を仮定すれば、球中心点からの距離は、0以上0.5以下の値を有することができる。例えば、
図2Cの左側に図示されているように、球中心点である第1地点232を基準に画角を判断するとき、球中心点からの距離は、0にもなる。または、
図2Cの右側に図示されているように、第2地点232を基準に画角を判断するとき、球中心点からの距離は、0.5にもなる。しかし、球中心点からの距離は、実施形態によって異なり、前述の例に限定されるものではない。
【0064】
図3は、開示された一実施形態による映像表示装置の構成を示すブロック図である。
【0065】
図3に図示された映像表示装置100aは、
図1に図示された映像表示装置100の一実施形態でもある。
図3を参照すれば、開示された一実施形態による映像表示装置100aは、プロセッサ310、グラフィック処理部(GPU)320及びディスプレイ部330を含んでもよい。しかし、映像表示装置100aは、図示された構成要素より多くの構成要素によっても具現され、前述の例に限定されるものではない。
【0066】
以下、前記構成要素について、順に説明する。
【0067】
開示された一実施形態によるプロセッサ310は、現在ビューポイントに係わる情報に基づいて、平面状の360°映像からコピー領域を決定する。
【0068】
該コピー領域は、平面状の360°映像において、グラフィック処理のために、グラフィック処理部320に伝送される領域を意味する。該コピー領域は、現在ビューポイントに係わる情報により、コピー領域の形態及び大きさのうち少なくとも一つが異なるようにも決定される。
【0069】
開示された一実施形態によるプロセッサ310は、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを含む現在ビューポイントに係わる情報に基づいて、コピー領域を決定することができる。例えば、プロセッサ310は、現在ビューポイントに係わる情報に基づいて、ディスプレイ部330に表示される領域をまず決定することができる。そして、プロセッサ310は、ディスプレイ部330に表示される領域から、コピー領域を決定することができる。例えば、プロセッサ310は、コピー領域を、ディスプレイ部330に表示される領域より所定比率ほど大きい領域として決定することができる。または、一実施形態により、プロセッサ310は、コピー領域を、ディスプレイ部330に表示される領域と同一領域として決定することができるが、それらに限定されるものではない。
【0070】
開示された一実施形態によるプロセッサ310は、平面状の360°映像が、360°ビデオの最初フレームであるとき、既設定のビューポイントに係わる情報に基づいて、コピー領域を決定することができる。このとき、既設定のビューポイントに係わる情報は、ユーザ入力、または映像表示装置の内部設定によっても異なる。
【0071】
開示された一実施形態によるプロセッサ310は、ビューポイントを変更する入力に応答し、現在ビューポイントに係わる情報を変更することができる。そして、プロセッサ310は、変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更することができる。
【0072】
開示された一実施形態によるプロセッサ310は、コピー領域に対応する映像を、グラフィック処理部320に伝送することができる。例えば、プロセッサ310は、平面状の360°映像において、コピー領域に対応する映像をメモリにコピーし、該メモリにコピーされた映像を、グラフィック処理部320に伝送することができる。
【0073】
プロセッサ310は、平面状の360°映像全体ではなく、コピー領域に対応する映像を、グラフィック処理部320に伝送することにより、グラフィック処理部320に伝送されるデータ量を減らすことができる。それにより、平面状の360°映像がグラフィック処理部320に伝送されるときに必要となる時間が短縮される。そして、グラフィック処理部320が、球状の360°映像を生成するのに必要となる時間が短縮される。
【0074】
プロセッサ310は、1以上のメモリ、及び1以上のプロセッサの多様な組み合わせによっても具現される。例えば、該メモリは、プロセッサ310の動作により、プログラムモジュールを生成して削除することができ、プロセッサ310は、プログラムモジュールの動作を処理することができる。
【0075】
開示された一実施形態によるプロセッサ310は、メモリに保存された1以上のインストラクションを実行することにより、現在ビューポイントに係わる情報に基づいて、平面状の360°映像からコピー領域を決定することができる。また、プロセッサ310は、メモリに保存された1以上のインストラクションを実行することにより、コピー領域に対応する映像を球にマッピングし、球状の360°映像を生成し、球状の360°映像をレンダリングして出力映像を生成するように、グラフィック処理部320を制御することができる。また、プロセッサ310は、メモリに保存された1以上のインストラクションを遂行することにより、出力映像を表示するように、ディスプレイ部330を制御することができる。
【0076】
開示された一実施形態によるグラフィック処理部320は、コピー領域に対応する映像を球にマッピングし、球状の360°映像を生成することができる。そして、グラフィック処理部320は、球状の360°映像をレンダリングし、出力映像を生成することができる。
【0077】
開示された一実施形態によるグラフィック処理部320は、平面状の360°映像全体ではなく、コピー領域に対応する映像を球にマッピングし、球状の360°映像を生成することができる。それにより、平面状の360°映像全体を利用し、球状の360°映像を生成するときより、グラフィック処理過程で使用されるデータの低減される。従って、グラフィック処理部320が、球状の360°映像を生成するのに必要となる時間が短縮される。
【0078】
開示された一実施形態によるディスプレイ部330は、グラフィック処理部320で生成された出力映像を表示することができる。
【0079】
例えば、ディスプレイ部330は、360°映像において、現在ビューポイントに対応する映像を表示することができる。また、ディスプレイ部330は、現在ビューポイントを変更する入力に応答し、変更された出力映像を表示することができる。
【0080】
ディスプレイ部330がタッチスクリーンによって具現される場合、ディスプレイ部330は、出力装置以外に、入力装置としても使用される。ディスプレイ部330は、液晶ディスプレイ(liquid crystal display)、薄膜トランジスタ液晶ディスプレイ(thin film transistor−liquid crystal display)、有機発光ダイオード(organic light−emitting diode)、フレキシブルディスプレイ(flexible display)、三次元ディスプレイ(3D display)、電気泳動ディスプレイ(electrophoretic display)のうち少なくとも一つを含んでもよい。
【0081】
また、映像表示装置100aの具現形態により、映像表示装置100aは、ディスプレイ部330を2個以上含んでもよい。
【0082】
図3としては、グラフィック処理部320がプロセッサ310と別途の構成であるようにも説明したが、それに限定されるものではなく、一実施形態により、プロセッサ310がグラフィック処理部320を含んでもよい。
【0083】
図4は、開示された他の実施形態による映像表示装置の構成を示すブロック図である。
【0084】
図4に図示されているように、映像表示装置100bは、プロセッサ310、グラフィック処理部320及びディスプレイ部330の以外に、チューナ部140、通信部150、感知部160、入出力部170、ビデオ処理部180、オーディオ処理部115、オーディオ出力部125、ユーザ入力部190及びメモリ120をさらに含んでもよい。
【0085】
プロセッサ310、グラフィック処理部320及びディスプレイ部330について、
図3で説明した内容と同一内容は、
図4において省略する。
【0086】
ディスプレイ部330は、プロセッサ310の制御により、チューナ部140を介して受信された放送信号に含まれたビデオを画面に表示することができる。また、ディスプレイ部330は、通信部150または入出力部170を介して入力されるコンテンツ(例えば、動画)を表示することができる。ディスプレイ部330は、プロセッサ310の制御により、メモリ120に保存された映像を出力することができる。また、ディスプレイ部330は、音声認識に対応する音声認識タスクを遂行するための音声UI(user interface)(例えば、音声命令語ガイドを含む)、またはモーション認識に対応するモーション認識タスクを遂行するためのモーションUI(例えば、モーション認識のためのユーザモーションガイドを含む)を表示することができる。
【0087】
オーディオ処理部115は、オーディオデータに係わる処理を行う。オーディオ処理部115においては、オーディオデータに係わるデコーディング、増幅、ノイズフィルタリングのような多様な処理が行われる。一方、オーディオ処理部115は、複数のコンテンツに対応するオーディオを処理するために、複数のオーディオ処理モジュールを具備することができる。
【0088】
オーディオ出力部125は、プロセッサ310の制御により、チューナ部140を介して受信された放送信号に含まれたオーディオを出力する。オーディオ出力部125は、通信部150または入出力部170を介して入力されるオーディオ(例えば、音声、サウンド)を出力することができる。また、オーディオ出力部125は、プロセッサ310の制御により、メモリ120に保存されたオーディオを出力することができる。オーディオ出力部125は、スピーカ126、ヘッドフォン出力端子127またはS/PDIF(Sony/Philips Digital Interface)出力端子128のうち少なくとも一つを含んでもよい。オーディオ出力部125は、スピーカ126、ヘッドフォン出力端子127及びS/PDIF出力端子128の組み合わせを含んでもよい。
【0089】
チューナ部140は、有線または無線によって受信される放送信号を、増幅(amplification)、混合(mixing)、共振(resonance)などを介して、多くの電波成分のうち、映像表示装置100bで受信しようとするチャネルの周波数のみをチューニングして選択することができる。該放送信号は、オーディオ(audio)、ビデオ(video)及び付加情報(例えば、EPG(electronic program guide))を含む。
【0090】
チューナ部140は、ユーザ入力(例えば、制御装置101から受信される制御信号、例えば、チャネル番号入力、チャネルのアップダウン(up−down)入力、及びEPG画面でのチャネル入力)により、チャネル番号(例えば、ケーブル放送506番)に対応する周波数帯域において放送信号を受信することができる。
【0091】
チューナ部140は、地上波放送、ケーブル放送、衛星放送、インターネット放送のように、多様なソースから放送信号を受信することができる。チューナ部140は、アナログ放送またはデジタル放送のようなソースから、放送信号を受信することもできる。チューナ部140を介して受信された放送信号は、デコーディング(例えば、オーディオデコーディング、ビデオデコーディングまたは付加情報デコーディング)され、オーディオ、ビデオ及び/または付加情報に分離される。分離されたオーディオ、ビデオ及び/または付加情報は、プロセッサ310の制御により、メモリ120にも保存される。
【0092】
映像表示装置100bのチューナ部140は、一つでもあり、複数でもある。チューナ部140は、映像表示装置100bと、一体型(all−in−one)にも具現されるか、あるいは映像表示装置100bと電気的に連結されるチューナ部を有する別個の装置(例えば、セットトップボックス(図示せず)、入出力部170に連結されるチューナ部(図示せず))によっても具現される。
【0093】
通信部150は、プロセッサ310の制御により、映像表示装置100bを、外部装置(例えば、オーディオ装置など)と連結することができる。プロセッサ310は、通信部150を介して連結された外部装置に/からコンテンツを送/受信したり、外部装置からアプリケーション(application)をダウンロードしたり、ウェブブラウジング行ったりする。通信部150は、映像表示装置100bの性能及び構造に対応し、無線LAN(local area network)151、ブルートゥース152及び有線イーサネット(登録商標)153のうち一つを含んでもよい。
【0094】
また、通信部150は、無線LAN151、ブルートゥース152及び有線イーサネット153の組み合わせを含んでもよい。通信部150は、プロセッサ310の制御により、制御装置101の制御信号を受信することができる。該制御信号は、ブルートゥースタイプ、RF(radio frequency)信号タイプまたはWi−Fi(wireless fidelity)タイプによっても具現される。
【0095】
通信部150は、ブルートゥース以外に、他の近距離通信(例えば、NFC(near field communication)(図示せず)、BLE(Bluetooth low energy)(図示せず)をさらに含んでもよい。
【0096】
感知部160は、ユーザ音声、ユーザの映像、またはユーザのインタラクションを感知し、マイク161、カメラ部162及び光受信部163を含んでもよい。
【0097】
マイク161は、ユーザの発話(utterance)された音声を受信する。マイク161は、受信された音声を電気信号に変換し、プロセッサ310に出力することができる。ユーザ音声は、例えば、映像表示装置100bのメニューまたは機能に対応する音声を含んでもよい。
【0098】
カメラ部162は、カメラ認識範囲において、ジェスチャを含むユーザのモーションに対応する映像(例えば、連続フレーム)を受信することができる。プロセッサ310は、受信されたモーションの認識結果を利用し、映像表示装置100bに表示されるメニューを選択したり、モーション認識結果に対応する制御を行ったりする。例えば、チャネル調整、ボリューム調整、指示子移動、カーソル移動を含んでもよい。
【0099】
光受信部163は、外部の制御装置から受信される光信号(制御信号を含む)を、ディスプレイ部330のベゼル光窓(図示せず)などを介して受信する。光受信部163は、制御装置から、ユーザ入力(例えば、タッチ、押し、タッチジェスチャ、音声またはモーション)に対応する光信号を受信することができる。受信された光信号から、プロセッサ310の制御により、制御信号が抽出される。
【0100】
入出力部170は、プロセッサ310の制御により、映像表示装置100bの外部から、ビデオ(例えば、動画など)、オーディオ(例えば、音声、音楽など)及び付加情報(例えば、EPGなど)などを受信する。入出力部170は、HDMI(登録商標)ポート(high−definition multimedia interface port)171、コンポーネントジャック(component jack)172、PCポート(PC port)173及びUSBポート(USB(universal serial bus) port)174のうち一つを含んでもよい。入出力部170は、HDMIポート171、コンポーネントジャック172、PCポート173及びUSBポート174の組み合わせを含んでもよい。
【0101】
プロセッサ310は、映像表示装置100bの全般的な動作、及び映像表示装置100bの内部構成要素間の信号フローを制御し、データを処理する機能を遂行する。プロセッサ310は、ユーザの入力があるか、あるいは既設定の保存された条件を満足する場合、メモリ120に保存されたOS(operation system)及び多様なアプリケーションを実行することができる。
【0102】
ユーザ入力部190は、ユーザが、映像表示装置100bを制御するためのデータを入力する手段を意味する。例えば、ユーザ入力部190は、キーパッド(key pad)、ドームスイッチ(dome switch)、タッチパッド(接触式静電容量方式、圧力式抵抗膜方式、赤外線感知方式、表面超音波伝導方式、積分式張力測定方式、ピエゾ効果方式など)、ジョグホイール、ジョグスイッチなどを含んでもよいが、それらに限定されるものではない。
【0103】
開示された一実施形態によるユーザ入力は、ビューポイントを変更する入力を意味する。ユーザ入力部190が、キーパッドまたはドームスイッチによって構成される場合、ビューポイントを変更するユーザ入力は、特定方向に対応するキーをクリック(click)したり押したりする入力でもある。または、ユーザ入力部190がタッチパッドによって構成される場合、特定方向に対応するキーをタッチする入力でもあるが、前述の例に限定されるものではない。
【0104】
ビューポイントを変更するユーザ入力は、キーをクリックしたりタッチしたりする方法により、ビューポイントの変化量が異なりもする。例えば、キーを所定時間以上押したりタッチしたりする場合、ビューポイントが連続的に変わりもする。そして、キーを短くクリックしたり短くタッチしたりする場合、ビューポイントが、所定の角度区間単位にも変わる。例えば、ユーザが右側方向に対応するキーを1回ずつクリックするたびに、ビューポイントが右側に30°ずつ移動する。
【0105】
ユーザ入力部190は、前述の制御装置101の構成要素でもあり、映像表示装置100bの構成要素でもある。
【0106】
開示された一実施形態によるメモリ120は、映像表示装置100bを制御するためのプログラムを保存することができ、映像表示装置100bに入力されたり、映像表示装置100bから出力されたりするデータを保存することができる。
【0107】
メモリ120は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、SDメモリまたはXDメモリなど)、RAM(random access memory)、SRAM(static random access memory)、ROM(read−only memory)、EEPROM(electrically erasable programmable read−only memory)、PROM(programmable read−only memory)、磁気メモリ、磁気ディスク、光ディスクのうち少なくとも1つのタイプの記録媒体を含んでもよい。
【0108】
開示された一実施形態によるメモリ120は、現在ビューポイントに係わる情報に基づいて、平面状の360°映像からコピー領域を決定し、コピー領域に対応する映像を球にマッピングし、球状の360°映像を生成し、球状の360°映像をレンダリングして出力映像を生成し、出力映像を表示する、1以上のインストラクションを含むモジュールを含んでもよい。
【0109】
一方、
図3及び
図4に図示された映像表示装置100a及び100bのブロック図は、一実施形態のためのブロック図である。ブロック図の各構成要素は、実際に具現される映像表示装置100a及び100bの仕様により、統合、追加または省略されもする。例えば、必要により、2以上の構成要素が、1つの構成要素に合わされたり、1つの構成要素が2以上の構成要素に細分化たりしても構成される。また、各ブロックで遂行する機能は、実施形態について説明するためのものであり、その具体的な動作や装置は、本発明の権利範囲を制限するものではない。
【0110】
図5Aないし
図5Cは、開示された一実施形態によるコピー領域を決定する方法について説明するための図面である。
【0111】
開示された一実施形態による映像表示装置100は、現在ビューポイントに係わる情報に基づいて、平面状の360°映像から、コピー領域を決定することができる。
【0112】
前述のように、コピー領域は、平面状の360°映像において、グラフィック処理のために、グラフィック処理部320に伝送される領域を意味する。
【0113】
平面状の360°映像は、外部装置またはネットワークを介して受信された360°映像をデコーディングして生成された映像でもあるが、それに限定されるものではない。
【0114】
該360°映像は、360°映像全体がディスプレイ部330に表示されるものではなく、現在ビューポイントに対応する映像が、ディスプレイ部330に表示される。例えば、
図5Aを参照すれば、映像表示装置100は、平面状の360°映像510において、現在ビューポイントに対応する領域511の映像をディスプレイ部330に表示することができる。
【0115】
開示された一実施形態による映像表示装置100は、現在ビューポイントに係わる情報に基づいて、平面状の360°映像から、ディスプレイ部330に表示される領域を決定し、ディスプレイ部330に表示される領域から、コピー領域を決定することができる。
【0116】
図5Aに図示された表500を参照すれば、映像表示装置100は、水平角度、垂直角度、画角、及び球中心点からの距離を利用し、現在ビューポイントを示すことができる。例えば、水平角度が0°であり、垂直角度が0°であり、画角が120°であり、球中心点からの距離が0であるとき、映像表示装置100は、平面状の360°映像510のうち真ん中領域511を、ディスプレイ部330に表示される領域として決定することができる。
【0117】
また、
図5Bに図示された表520を参照すれば、水平角度が90°であり、垂直角度が0°であり、画角が120°であり、球中心点からの距離が0であるとき、ディスプレイ部330に表示される領域531は、
図5Aに図示された領域511より右側に90°移動した領域でもある。
【0118】
開示された一実施形態による映像表示装置100は、平面状の360°映像510のメタ情報として、水平角度、垂直角度、画角、及び球中心点からの距離に係わる情報を保存することができる。または、一実施形態により、映像表示装置100は、水平角度、垂直角度、画角、及び球中心点からの距離と、ディスプレイ部330に表示される領域とのマッピング関係をあらかじめ保存することができるが、前述の例に限定されるものではない。そして、映像表示装置100は、既保存のマッピング関係または情報に基づいて、現在ビューポイントに対応する領域を決定することができる。
【0119】
開示された一実施形態による映像表示装置100は、コピー領域を、映像表示装置100に表示される領域511と同一領域として決定することができる。または、
図5Aに図示されているように、映像表示装置100は、映像表示装置100に表示される領域511より、コピー領域を所定比率ほど大きい領域512として決定することができる。該コピー領域がディスプレイ部330に表示される領域511より、所定比率ほど大きい領域512に設定されれば、映像表示装置100が、現在ビューポイントを変更する入力に応答し、コピー領域を迅速に変更することができない場合にも、映像表示装置100は、360°映像をバッファリングなしに表示することができる。
【0120】
前述のように、現在ビューポイントに係わる情報を構成する要素は、実施形態によっても異なる。
【0121】
例えば、
図5Cを参照すれば、現在ビューポイントに係わる情報540は、水平角度及び垂直角度のみを含んでもよい。例えば、水平角度が0°であり、垂直角度が90°であるとき、ディスプレイ部330に表示される領域は、平面状の360°映像550において、上端領域551でもある。このとき、該コピー領域は、ディスプレイ部330に表示される領域と同一領域551でもあるが、それに限定されるものではない。
【0122】
映像表示装置100は、現在ビューポイントに係わる情報により、コピー領域の形態及び大きさのうち少なくとも一つを異なるように決定することができる。例えば、
図5Aないし
図5Cに図示されているように、
図5A及び
図5Bに図示されたコピー領域512,532と、
図5Cに図示されたコピー領域551は、現在ビューポイントに係わる情報により、コピー領域の形態及び大きさのうち少なくとも一つが異なりもする。
【0123】
図6は、開示された一実施形態による球状の360°映像を生成する方法について説明するための図面である。
【0124】
開示された一実施形態による映像表示装置100は、コピー領域に対応する映像を、グラフィック処理部320に伝送することができる。グラフィック処理部320は、伝送されたコピー領域に対応する映像を利用し、球状の360°映像を生成することができる。
【0125】
例えば、
図6を参照すれば、映像表示装置100は、平面状の360°映像600におけるコピー領域601に対応する映像を、グラフィック処理部320に伝送することができる。それにより、映像表示装置100は、グラフィック処理部320に伝送されるデータ量を減らすことができる。
【0126】
開示された一実施形態によるグラフィック処理部320は、コピー領域601に対応する映像を球610にマッピングし、球状の360°映像611を生成することができる。グラフィック処理部320は、平面状の360°映像600全体ではないコピー領域601に対応する映像を利用し、球状の360°映像611を生成するために、球状の360°映像611を生成するのに必要となる時間を短縮させることができる。グラフィック処理部320が、球状の360°映像611を生成する過程は、当業者に周知されているので、詳細な説明は、省略する。
【0127】
図7は、開示された一実施形態による球状の360°映像をレンダリングし、出力映像を生成する方法について説明するための図面である。
【0128】
図7を参照すれば、グラフィック処理部320は、球状の360°映像700をレンダリングし、出力映像710を生成することができる。
【0129】
例えば、グラフィック処理部320は、球状の360°映像700に基づいて、画面のレイアウトにより、各客体が表示される座標値、形態、大きさ、カラーのような属性値を演算することができる。そして、グラフィック処理部320は、演算された属性値に基づいて、出力映像710を生成することができる。グラフィック処理部320が、球状の360°映像700をレンダリングする過程については、当業者に周知されているので、詳細な説明は、省略する。
【0130】
映像表示装置100は、グラフィック処理部320で生成された出力映像710を表示することができる。
【0131】
図8Aないし
図8Cは、開示された一実施形態による現在ビューポイントを変更する場合について説明するための図面である。
【0132】
開示された一実施形態による映像表示装置100は、現在ビューポイントを変更する入力に応答し、現在ビューポイントに係わる情報を変更することができる。
【0133】
現在ビューポイントは、制御装置101を利用し、現在ビューポイントを所定方向に移動させるユーザ入力、または映像表示装置100の内部インストラクションによっても変更される。例えば、
図8Aを参照すれば、映像表示装置100は、制御装置101を利用し、現在ビューポイントを右側に移動させる入力801を受信することができる。現在ビューポイントを右側に移動させる入力801は、制御装置101の右側方向キーをクリックしたりタッチしたりする入力でもあるが、それに限定されるものではない。
【0134】
開示された一実施形態による映像表示装置100は、現在ビューポイントを所定方向に移動させるユーザ入力に応答し、現在ビューポイントに係わる情報を構成する要素(例えば、水平角度、垂直角度、画角及び球中心点)のうち少なくとも一つを変更することができる。例えば、
図8Bを参照すれば、映像表示装置100は、現在ビューポイントを右側に移動させる入力801に応答し、水平角度を0° 812から90° 822に変更させる。
【0135】
開示された一実施形態による映像表示装置100は、変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更することができる。
【0136】
例えば、
図8Bを参照すれば、水平角度が0°あり、垂直角度が0°であり画角が120°であるとき、コピー領域は、平面状の360°映像810の真ん中領域811でもある。そして、現在ビューポイントに係わる情報において、水平角度が0°から90°に変更されることにより、コピー領域は、平面状の360°映像820の右側領域821に変更される。例えば、コピー領域は、
図8Bの左側に図示されたコピー領域より右側に90°移動した領域でもある。
【0137】
開示された一実施形態による映像表示装置100は、変更されたコピー領域に対応する映像を、グラフィック処理部320に伝送することができる。
【0138】
図8Cを参照すれば、グラフィック処理部320は、変更されたコピー領域831に対応する映像を球840にマッピングし、球状の360°映像850を生成することができる。また、グラフィック処理部320は、生成された球状の360°映像850をレンダリングし、出力映像を生成することができる。
【0139】
そして、映像表示装置100は、グラフィック処理部320で生成された出力映像を、ディスプレイ部330に表示することができる。
【0140】
図9は、開示された一実施形態による映像表示方法を示すフローチャートである。
【0141】
段階S910において、映像表示装置100は、現在ビューポイントに係わる情報に基づいて、平面状の360°映像からコピー領域を決定する。
【0142】
前述のように、コピー領域は、平面状の360°映像において、グラフィック処理のために、グラフィック処理部320に伝送される領域を意味する。現在ビューポイントは、水平角度、垂直角度、画角、及び球中心点からの距離のうち少なくとも一つを利用して示すことができる。また、該コピー領域は、現在ビューポイントに係わる情報により、該コピー領域の形態及び大きさのうち少なくとも一つが異なるようにも決定される。
【0143】
開示された一実施形態による映像表示装置100は、現在ビューポイントに係わる情報に基づいて、ディスプレイ部330に表示される領域を決定することができる。そして、映像表示装置100は、ディスプレイ部330に表示される領域から、該コピー領域を決定することができる。例えば、プロセッサ310は、該コピー領域をディスプレイ部330に表示される領域より、所定比率ほど大きい領域として決定することができる。または、一実施形態により、プロセッサ310は、コピー領域を、ディスプレイ部330に表示される領域と同一領域として決定することができるが、それに限定されるものではない。
【0144】
開示された一実施形態による映像表示装置100は、平面状の360°映像が、360°ビデオの最初フレームであるとき、既設定のビューポイントに係わる情報に基づいて、コピー領域を決定することができる。このとき、既設定のビューポイントに係わる情報は、ユーザ入力、または映像表示装置の内部設定によっても異なる。
【0145】
開示された一実施形態による映像表示装置100は、ビューポイントを変更する入力に応答し、現在ビューポイントに係わる情報を変更することができる。そして、映像表示装置100は、変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更することができる。
【0146】
そして、映像表示装置100は、平面状の360°映像において、コピー領域に対応する映像を、グラフィック処理部に伝送することができる。
【0147】
段階S920において、映像表示装置100は、コピー領域に対応する映像を、球にマッピングし、球状の360°映像を生成する。
【0148】
段階S930において、映像表示装置100は、球状の360°映像をレンダリングし、出力映像を生成する。
【0149】
段階S940において、映像表示装置100は、出力映像を表示する。
【0150】
図10は、開示された他の実施形態による映像表示方法を示すフローチャートである。
【0151】
開示された一実施形態による映像表示装置100によって表示される360°映像は、360°ビデオを含んでもよい。そして、360°ビデオは、複数のビデオフレームを含んでもよい。このとき、映像表示装置100は、1秒当たり数十フレームの速度で、360°ビデオを再生することができる。例えば、30fps(frames per second)の速度で360°ビデオを再生するとき、受信された各ビデオフレームがグラフィック処理され、ディスプレイ部330に表示されるのに必要となる時間が、33ms以内ではなければならない。従って、映像表示装置100が、360°ビデオをバッファリングなしに再生するためには、受信された各ビデオフレームをグラフィック処理するのに必要となる時間を短縮させることができる方法が必要である。
【0152】
開示された一実施形態による映像表示装置100は、各ビデオフレームに対して、現在ビューポイントに係わる情報に基づいてコピー領域を決定し、コピー領域に対応する領域を、グラフィック処理部320に伝送することができる。
【0153】
映像表示装置100は、各ビデオフレームに対して、現在ビューポイントに係わる情報が変更されたか否かということを判断することにより、現在ビューポイントに係わる情報が変更されていない場合、既決定のコピー領域をさらに使用することができる。それにより、各ビデオフレームをグラフィック処理するのに必要となる時間が短縮される。
【0154】
S1000段階において、映像表示装置100は、ビデオフレームを受信することができる。
【0155】
S1010段階において、映像表示装置100は、受信されたビデオフレームが360°ビデオの最初フレームであるか否かということを確認することができる。
【0156】
例えば、受信されたビデオフレームが、360°ビデオの最初フレームであるとき、現在ビューポイントに係わる情報が保存されていない。このとき、映像表示装置100は、既設定のビューポイントに係わる情報に基づいて、コピー領域を決定する(S1020段階)。例えば、映像表示装置100は、既設定のビューポイントに係わる情報として、水平角度を0°、垂直角度を0°、画角を80°と事前に設定することができる。それにより、映像表示装置100は、受信されたビデオフレームが、360°ビデオの最初フレームであるとき、別途の入力を待つ必要なしに、水平角度が0°、垂直角度が0°、及び画角が80°に対応するコピー領域を決定することができる。
【0157】
また、既設定のビューポイントに係わる情報は、ユーザ入力、または映像表示装置100の内部設定によっても異なる。
【0158】
受信されたビデオフレームが、360°ビデオの最初フレームではない場合、映像表示装置100は、現在ビューポイントに係わる情報が変更された否かということを確認することができる(S1030段階)。
【0159】
該現在ビューポイントに係わる情報が変更されていない場合、映像表示装置100は、コピー領域を変更する必要がない。それにより、映像表示装置100は、以前フレームについて決定されたコピー領域を再び使用することができる。しかし、現在ビューポイントに係わる情報が変更された場合、映像表示装置100は、変更された現在ビューポイントに係わる情報に基づいて、コピー領域を変更することができる(S1040段階)。
【0160】
S1050段階において、映像表示装置100は、平面状の360°映像において、コピー領域に対応する映像を、グラフィック処理部に伝送することができる。
【0161】
S1060段階において、映像表示装置100のグラフィック処理部320は、コピー領域に対応する映像を球にマッピングし、球状の360°映像を生成し、球状の360°映像をレンダリングし、出力映像を生成することができる。
【0162】
S1070段階において、映像表示装置100は、生成された出力映像を表示することができる。
【0163】
開示された実施形態は、多様なコンピュータ手段を介して遂行されるプログラム命令形態によって具現され、コンピュータ可読媒体にも記録される。前記コンピュータ可読媒体は、プログラム命令、データファイル、データ構造などを、単独でまたは組み合わせて含んでもよい。前記媒体に記録されるプログラム命令は、本発明のために特別に設計されて構成されたものでもあり、コンピュータソフトウェア当業者に公知されて使用可能なものであってもよい。該コンピュータ可読記録媒体の例には、ハードディスク、フロッピィーディスク及び磁気テープのような磁気媒体(magnetic media);CD−ROM(compact disc read only memory)、DVD(digital versatile disc)のような光記録媒体(optical media);フロプティカルディスク(floptical disk)のような磁気・光媒体(magneto−optical media);及びROM、RAM、フラッシュメモリのような、プログラム命令を保存して遂行するように、特別に構成されたハードウェア装置が含まれる。プログラム命令の例には、コンパイラによって作われるような機械語コードだけではなくインタープリタなどを使用し、コンピュータによって実行される高級言語コードを含む。
【0164】
前述の本発明の説明は、例示のものであり、本発明が属する技術分野の当業者であるならば、本発明の技術的思想や、必須な特徴を変更せずとも、他の具体的な形態で容易に変形が可能であるということを理解することができるであろう。従って、以上で記述した実施形態は、全ての面で例示的なものであり、限定的ではないものであると理解しなければならない。例えば、単一型として説明されている各構成要素は、分散されても実施され、同様に、分散されていると説明されている構成要素も、結合された形態でも実施される。
【0165】
本発明の範囲は、前述の詳細な説明よりは、特許請求の範囲によって示され、特許請求の範囲の意味、範囲及びその均等概念から導出される全ての変更、または変形された形態は、本発明の範囲に含まれるものであると解釈されなければならない。