【文献】
Wi-Fi Alliance Technical Committee Wi-Fi Display Technical Task Group,"Wi-Fi Display Technical Specification Version 1.0.0",Wi-Fi Alliance,2012年 8月24日,Pages 1-149
【文献】
平田寛将(外5名),「IPマルチキャスト放送における加入ナビゲーションシステム」,電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2008年 5月22日,Vol.108, No.60,第37〜41頁,ISSN:0913-5685
(58)【調査した分野】(Int.Cl.,DB名)
前記WFDシンクのネイティブ解像度に関する情報は、コンシューマー エレクトロニクス アソシエーション(CEA)、ビデオ エレクトロニクス スタンダーズ アソシエーション(VESA)及びハンドヘルド(HH)フォーマットの1つに対する解像度/リフレッシュレートのインデックスにより示される、請求項1に記載の方法。
前記WFDシンクのネイティブ解像度に関する情報は、コンシューマー エレクトロニクス アソシエーション(CEA)、ビデオ エレクトロニクス スタンダーズ アソシエーション(VESA)及びハンドヘルド(HH)フォーマットの1つに対する解像度/リフレッシュレートのインデックスにより示される、請求項5に記載のWFDソース。
【発明を実施するための形態】
【0020】
既存の無線LANシステムではアクセスポイント(access point、AP)がハブとして機能するインフラストラクチャ(infrastructure)BSS(basic service set)内での装置(AP及びSTA(station))間の動作が主に定義された。APは、無線/有線連結のための物理階層サポート機能、ネットワーク上の装置に対するルーティング機能、装置をネットワークに追加/除去する機能、サービス提供機能などを担当することができる。即ち、既存の無線LANシステムにおいて、ネットワーク内の装置は、APを介して連結されるものであり、相互間に直接連結されるものではない。
【0021】
装置間の直接連結をサポートするための技術としてワイパイダイレクト(Wi−Fi Direct)標準が定義されている。ワイパイダイレクトは、既存の無線LANシステムで基本的に要求されるアクセスポイント無しで装置(device)(または、STA(station))間に互いに容易に連結できるようにする直接通信技術である。ワイパイダイレクトが使われる場合、複雑な設定過程無しで装置間に連結が設定されてユーザに多様なサービスを提供することができる。
【0022】
WFA(Wi−Fi Alliance)ではWi−Fi Directリンクを利用した多様なサービス(例えば、センド(Send)、プレイ(Play)、ディスプレイ(Display)、プリント(Print)等)をサポートするワイパイダイレクトサービス(WFDS)が研究されている。WFDSによると、アプリケーションは、ASP(Application Service Platform)というサービスプラットフォームにより制御または管理されることができる。
【0023】
WFDSがサポートされるWFDS装置は、ディスプレイ装置、プリンタ、デジタルカメラ、プロジェクタ及びスマートフォンなどのような無線LANシステムをサポートする装置を含む。また、WFDS装置は、STA及びAPを含むことができる。WFDSネットワーク内のWFDS装置は、互いに直接連結されることができる。
【0024】
図1は、ワイパイダイレクトサービス(WFDS)フレームワーク構成要素を示す概念図である。
【0025】
図1を参照すると、WFDSフレームワークは、Wi−Fi Direct階層100、ASP120、サービス階層140、アプリケーション階層160を含むことができる。
【0026】
Wi−Fi Direct階層100は、ワイパイダイレクト標準で定義されたMAC(medium access control)階層である。Wi−Fi Direct階層100の下位にはWi−Fi PHYと互換される物理階層(図示せず)により無線連結が構成されることができる。Wi−Fi Direct階層100の上位にはASP(Application Service Platform)120が定義される。
【0027】
ASP120は、共通共有プラットフォーム(common shared platform)であり、その上位のアプリケーション(Application)階層160とその下位のWi−Fi Direct階層100との間でセッション(session)管理、サービスの命令処理、ASP間の制御及びセキュリティ機能を遂行する。
【0028】
ASP120の上位にはサービス(Service)階層140が定義される。例えば、サービス階層140では4個の基本サービスであるセンド(Send)、プレイ(Play)、ディスプレイ(Display)、プリント(Print)サービス及びサードパーティーアプリケーションで定義されたサービスがサポートされることができる。それだけでなく、サービス階層140は、ワイパイシリアルバス(Wi−Fi Serial Bus、WSB)、ワイパイドッキング(Wi−Fi Docking)、または隣接認知ネットワーク(Neighbor Awareness Networking、NAN)をサポートすることもできる。
【0029】
アプリケーション階層160は、ユーザインターフェース(user interface、UI)を提供することができ、情報を人間が認識可能な形態で表現し、ユーザの入力を下位階層に伝達することができる。
【0030】
以下、本発明の実施例では、WFDSのうち、ワイパイディスプレイ(WFD:Wi−Fi(wireless fidelity)display)がより具体的に開示される。
【0031】
WFD標準は、高い品質と低いレイテンシーを満たさせながら、オーディオ/ビデオ(AV:audio/video)データを装置間に送信するために定義された。Wi−Fiデバイスは、ホームネットワーク、オフィスネットワーク、またはホット−スポットネットワークに接続せずに、WFD標準が適用されたWFDネットワーク(WFDセッション)を介してピアツーピア(peer to peer)方式で互いに連結されることができる。以下、WFD標準によってデータを送信及び受信する装置は、WFD装置という用語で表現されることができる。WFDネットワーク内のWFD装置は、WFD装置に対する情報(例えば、能力情報(capability information))を互いに探索し、WFDセッションを設定した後、WFDセッションを介してコンテンツをレンダリング(rendering)することができる。
【0032】
WFDセッションは、コンテンツを提供するソース装置(source device)及びコンテンツを受信してレンダリングするシンク装置(sink device)間のネットワークである。ソース装置はWFDソース、シンク装置はWFDシンクという用語で表現されることもできる。WFDソースは、WFDソースのディスプレイ(または、スクリーン)上に存在するデータをWFDシンクのディスプレイでミラーリング(mirroring)することができる。
【0033】
WFDソースとWFDシンクは、相互間に第1のシーケンスメッセージを交換してデバイス探索及びサービス探索手順を実行することができる。WFDソースとWFDシンクとの間のデバイス探索及びサービス探索手順が完了した以後、WFDソース及びWFDシンクの各々にインターネットプロトコル(internet protocol、IP)アドレスが割り当てられることができる。WFDソースとWFDシンクとの間には送信制御プロトコル(TCP:transmission control protocol)連結が確立され、以後WFDソース及びWFDシンクに対するリアルタイムストリーミングプロトコル(RTSP:real time streaming protocol)及びリアルタイムプロトコル(RTP:real time protocol)スタックが活性化されることができる。
【0034】
WFDソースとWFDシンクとの間に能力交渉手順(capability negotiation procedure)は、RTSPを介して実行され、能力交渉手順が実行される間に、WFDソースとWFDシンクは、RTSPベースのメッセージ(M(message)1乃至M4)を交換することができる。以後WFDソースとWFDシンクは、WFDセッション制御メッセージを交換することができる。また、WFDソースとWFDシンクとの間にはRTPを介したデータセッションが確立されることができる。WFDネットワークではデータ伝達(data transport)のためにユーザデータグラムプロトコル(User Datagram Protocol、UDP)が使われることができる。
【0035】
図2は、WFDネットワークを示す概念図である。
【0036】
図2を参照すると、WFDソース200とWFDシンク250は、WFD装置であって、WiFi−P2Pに基づいて連結されることができる。
【0037】
ここで、WFDソース200は、WiFi P2P(peer to peer)リンクを介してマルチメディアコンテンツのストリーミングをサポートする装置であり、WFDシンク250は、P2Pリンクを介してWFDソース200からマルチメディアコンテンツを受信し、イメージ及び/またはサウンドを生成する手順を実行する装置を意味する。イメージ及び/またはサウンドを生成する手順は、レンダリングという用語で表現されることができる。
【0038】
WFDシンク250は、プライマリ(primary)シンクとセカンダリ(secondary)シンクとに区分されることができる。特に、セカンダリシンクは、WFDソース200と独立的に連結されると、オーディオペイロードのみをレンダリングすることができる。
【0039】
図3は、WFDセッションを示す概念図である。
【0040】
図3の上段の1番目は、オーディオ−単独(audio only)セッションである。WFDソース300は、オーディオ単独セッションを介してプライマリシンク305またはセカンダリシンク310のうちいずれか一つと連結されることができる。
【0041】
図3の上段の2番目は、ビデオ−単独(video−only)セッションである。WFDソース320は、プライマリシンク325と連結されることができる。
【0042】
図3の上段の3番目は、オーディオ及びビデオセッションであって、ビデオ−単独(video−only)セッションと同様に、WFDソース340は、プライマリシンク345と連結されることができる。
【0043】
図3の上段の4番目は、カップルドシンク(Coupled WFD Sink)動作でセッション連結を開示する。カップルドシンク(Coupled WFD Sink)動作でプライマリシンク365は、ビデオをレンダリングし、セカンダリシンク370は、オーディオを各々レンダリングすることができる。または、プライマリシンク365がビデオ及びオーディオを両方ともレンダリングすることもできる。
【0044】
このようなWFDセッションは、以下の
図4に示すような手順を実行した後に確立されることができる。
【0045】
図4は、WFDセッション設定方法を示す概念図である。
【0046】
図4を参照すると、WFD装置探索手順(WFD Device Discovery)S401、WFDサービス探索手順(WFD Service Discovery)S402、WFD接続セットアップ手順(WFD Connection Setup)S403、能力交換及び交渉手順(Capability Exchange and Negotiation)S404が実行された以後、WFDセッションが設定されることができる。
【0047】
具体的に、WFD装置探索手順S401において、WFDソースは、WFD装置探索手順を介してWFDのためのピア装置、即ち、WFDシンクをさがすことができる。
【0048】
WFDソース及びWFDシンクによりWFD装置探索のために送信されるビーコンフレーム、プローブ要求フレーム及びプローブ応答フレームなどは、WFD IE(Information Element)を含むことができる。ここで、WFD IEは、装置タイプ、装置状態などのWFDと関連した情報を含む情報要素である。
【0049】
WFDソースは、WFD IEを含むプローブ要求フレームをWFDシンクに送信することができ、WFDシンクは、プローブ要求フレームに対する応答としてWFD IEを含むプローブ応答フレームを送信することができる。もし、WFD装置がインフラストラクチャAPと連係されてWi−Fi P2P装置で動作する場合、プローブ要求フレームにはWFD IE及びP2P情報要素が含まれることができる。プローブ要求フレームに対する応答であるプローブ応答フレームは、プローブ要求フレームが受信されたチャネルを介して送信され、P2P IE及びWFD IEを両方とも含むことができる。
【0050】
言及されないWFD装置探索と関連した内容は、「Wi−Fi Display Technical Specification」及び/または「Wi−Fi Peer−to−Peer(P2P)Technical Specification Wi−Fi Direct Service Addendum」文書に従い、これは以下の説明にも適用される。
【0051】
WFDサービス探索手順S402ではWFD装置探索を実行したWFDソース及びWFDシンクの相互間のサービス能力に対する探索が実行されることができる。例えば、WFDソースがWFD能力(capability)に対する情報を含むサービス探索要求フレームを送信すると、WFDシンクは、サービス探索要求フレームに対する応答としてWFD能力に対する情報を含むサービス探索応答フレームが送信されることができる。WFDサービス探索手順は、選択的な手順である。
【0052】
WFDサービス探索手順の実行のためにWFD装置探索手順に利用されるプローブ要求フレーム及びプローブ応答フレームは、WFD装置がサービス探索手順をサポートする能力を備えているかどうかを指示する情報を含むことができる。
【0053】
WFD接続セットアップ手順S403において、WFD装置探索手順、そして選択的にWFDサービス探索手順を実行したWFD装置は、WFD接続セットアップのためのWFD装置を選択することができる。政策(policy)またはユーザ入力などによってWFD接続セットアップのためのWFD装置が選択された後、WFD接続のためにWi−Fi P2P及びTDLS(tunneled direct link service)うちいずれか一つの接続方法(connectivity scheme)が使われることができる。WFD装置は、接続優先順(preferred connectivity)情報及びWFD情報要素と共に伝達される連係したBSSID(basic service set identifier)副要素(subelement)に基づいて接続方法を決定することができる。
【0054】
図5は、WFDソースとWFDシンクとの間のネットワークを示す概念図である。
【0055】
図5の上段ではWi−Fi P2Pに基づくWFDソース500とWFDシンク510との間の連結が開示され、
図5の下段ではTDLSリンクに基づくWFDソース550とWFDシンク560との間の連結が開示されている。
【0056】
図5の上段のように、APは、WFDソース500とWFDシンク510に共通され、または異なる。または、APは、存在しない場合もある。
図5の下段のように、TDLSリンクを使用してWFD接続を実行する場合、WFDソース550とWFDシンク560は、同じAPと連結を維持しなければならない。
【0057】
WFD能力交換及び交渉手順は、WFD装置間にWFD接続セットアップ手順以後に実行されることができる。WFD能力交換及び交渉を介してWFDソース及びWFDシンクは、相互がサポートするコーデック、コーデックのプロファイル情報、コーデックのレベル情報及び解像度情報のうち少なくとも一つ以上の情報を相互間に交換することができる。WFD能力交換及び交渉は、RTSP(Real Time Streaming Protocol)を利用したメッセージを交換により実行されることができる。また、WFDセッション間のオーディオ/ビデオペイロードを定義するパラメータセットを決定することができる。WFD能力交換及び交渉手順は、後述する
図6に示すように、RTSP M1からRTSP M4メッセージの交換により実行されることができる。
【0058】
WFD交換及び交渉手順以後、WFDセッション確立手順が実行されることができる。
【0059】
図6は、WFD能力交換及び交渉手順を示す概念図である。
【0060】
図6を参照すると、WFDソースは、RSTP手順及びWFD能力交渉を開始するためのRTSP M1要求メッセージを送信することができる(ステップS601)。
【0061】
RTSP M1要求メッセージは、WFDシンクでサポートするRTSPメソッド(methods)セット(set)を決定するためのRTSP OPTIONS要求を含むことができる。RTSP M1要求メッセージを受信したWFDシンクは、自分がサポートするRTSPメソッドが列挙されたRTSP M1応答メッセージを送信することができる(ステップS602)。
【0062】
その次に、WFDシンクは、WFDソースでサポートするRTSPメソッドセットを決定するためのRTSP M2要求メッセージを送信することができる(ステップS603)。
【0063】
RTSP M2要求メッセージが受信されると、WFDソースは、自分がサポートするRTSPメソッドが列挙されたRTSP M2応答メッセージで応答できる(ステップS604)。
【0064】
WFDソースは、知りたいWFD能力の目録を明示したRTSP M3要求メッセージ(RTSP GET_PARAMETER要求メッセージ)を送信することができる(ステップS605)。
【0065】
RTSP M3要求メッセージが受信されると、WFDシンクは、RTSP M3応答メッセージ(RTSP GET_PARAMETER応答メッセージ)で応答できる(ステップS606)。
【0066】
RTSP M3応答メッセージに基づいて、WFDソースは、WFDセッションの間に使われる最適のパラメータセットを決定し、決定されたパラメータセットを含むRTSP M4要求メッセージ(RTSP SET_PARAMETER要求メッセージ)をWFDシンクに送信することができる。
【0067】
RTSP M4要求メッセージを受信したWFDシンクは、RTSP M4応答メッセージ(RTSP SET_PARAMETER応答メッセージ)を送信することができる(ステップS607)。
【0068】
図7は、WFDセッション確立手順を示す概念図である。
【0069】
図7では、WFD能力交換及び交渉を実行したWFDソース/WFDシンクは、WFDセッションを確立することができる。具体的に、WFDソースは、RTSP SETパラメータ要求メッセージ(RTSP M5 Trigger SETUP request)をWFDシンクに送信することができる(S701)。
【0070】
WFDシンクは、RTSP SETパラメータ要求メッセージに対する応答としてRTSP M5応答メッセージ(RTSP M5 response message)を送信することができる(ステップS702)。
【0071】
トリガパラメータ設定(SETUP)を含むRTSP M5メッセージが成功的に交換されると、WFDシンクは、RTSP SETUP要求メッセージ(RTSP M6 request)をWFDソースに送信することができる(ステップS703)。
【0072】
RTSP M6要求メッセージが受信されると、WFDソースは、RTSP SETUP応答メッセージ(RTSP M6response)で応答できる(ステップS704)。
【0073】
RTSP M6応答メッセージの状態コードの設定を介してRTSPセッションの成功的な構築が指示されることができる。
【0074】
RTSP M6メッセージの成功的な交換以後、WFDシンクは、RTPストリームを受信する準備ができたことを知らせるために、RTSP PLAY要求メッセージ(RTSP M7 request message)をソース装置に送信することができ(ステップS705)、WFDソースは、RTSP PLAY応答メッセージ(RTSP M7 response message)で応答できる(ステップS706)。RTSP PLAY応答メッセージの状態コードに基づいてWFDセッションの成功的な確立が指示されることができる。
【0075】
WFDセッションが確立された後、WFDソースは、WFDシンクでサポートする少なくとも一つのRTSPパラメータに対する能力を取得するためのRTSP M3要求メッセージ(RTSP GET_PARAMETER要求メッセージ)、AV(Audio/Video)フォーマット更新のためのWFDソース及びWFDシンク間の能力再交渉のためにWFDセッションに対応する少なくとも一つのRTSPパラメータ値を設定するためのRTSP M4要求メッセージ、WFDシンクがRTSP PAUSE要求メッセージ(RTSP M9要求メッセージ)を送信するようにトリガするRTSP M5要求メッセージ、WFDソースがWFD待機モード(standby mode)に進入することを指示するRTSP M12要求メッセージ、UIBC(user input back channel)で使われる入力タイプ、入力装置及び他のパラメータを選択するためのRTSP M14要求メッセージまたはUIBC(user input back channel)を活性化(enable)または非活性化(disable)するためのRTSP M15要求メッセージなどをWFDシンクに送信することができる。WFDソースから前述したRTSP要求メッセージを受信したWFDシンクは、RTSP応答メッセージで応答できる。
【0076】
その次に、WFDシンクは、オーディオ/ビデオストリーミングを開始(または、再開)するためのRTSP M7要求メッセージ(RTSP PLAY要求メッセージ)、WFDソースからWFDシンクに送信されるオーディオ/ビデオストリーミングの一時中断のためのRTSP M9要求メッセージ(RTSP PAUSE要求メッセージ)、WFDソースにオーディオレンダリング装置を変更することを要求するためのRTSP M10要求メッセージ、活性コネクタタイプ(active connector type)の変更を指示するRTSP M11要求メッセージ、WFDシンクがWFD待機モードに進入したことを指示するRTSP M12要求メッセージ、WFDソースにIDR(instantaneous decoding refresh)をリフレッシュすることを要求するM13要求メッセージ、UIBCで使われる入力タイプ、入力装置及び他のパラメータを選択するためのRTSP M14要求メッセージまたはUIBCの活性化(enable)または非活性化(disable)のためのRTSP M15要求メッセージなどをWFDソースに送信することができる。WFDシンクから前記列挙されたRTSP要求メッセージを受信したWFDソースは、RTSP応答メッセージで応答できる。
【0077】
WFDセッションが構築されてオーディオ/ビデオストリーミングが開始されると、WFDソース及びWFDシンクは、両方とも共通にサポートするコーデックを利用してオーディオ/ビデオストリーミングを進行することができる。WFDソースとWFDシンクが共通にサポートするコーデックを利用することによって両者間の相互運用性(interoperability)が保障されることができる。
【0078】
WFD通信は、WFD IEに基づいており、WFD IEのフォーマットは、以下の表1のように定義されることができる。
【0080】
要素ID(element ID)フィールド、長さ(Length)フィールド、WFD特定のOUIフィールド、WFD IEのタイプ/バージョンを示すOUIタイプフィールド及びWFD副要素(subelement)フィールドからなる。WFD副要素フィールドは、以下の表2のような形式を有する。
【0082】
副要素IDは、以下の表3のように定義されることができる。
【0084】
表3を参照すると、1オクテットの副要素IDフィールドは、WFD副要素がどのような情報を含むかを指示することができる。具体的に、副要素IDフィールドの値0、1、…、10は、副要素の各々がWFD Device Information subelement、Associated BSSID subelement、WFD Audio Formats subelement、WFD Video Formats subelement、WFD 3D Video Formats subelement、WFD Content Protection subelement、Coupled Sink Information subelement、WFD Extended Capability subelement、Local IP Address subelement、WFD Session Information subelement、Alternative MAC Address subelementであることを示すことができる。ここで、WFD Device Information subelementは、WFD装置とのペアリング及びセッション生成を試みるかを決定するのに必要な情報を含むことができる。Associated BSSID subelementは、現在連係したAPのアドレスを指示するために使われることができる。WFD Audio Formats subelement、WFD Video Formats subelement、WFD 3D Video Formats subelementの各々は、オーディオ、ビデオ、3Dビデオに関連したWFD装置の能力(capability)を指示するために使われることができる。WFD Content Protection subelementは、コンテンツ保護方法と関連した情報を伝達し、Coupled Sink Information subelementは、coupledシンクの状態、MACアドレスなどに対する情報を伝達することができる。WFD Extended Capability subelementは、その他のWFD装置の多様な能力情報を伝達するために使われ、Local IP Address subelementは、TDLSセットアップ過程でWFDピアにIPアドレスを伝達するために使われることができる。WFD Session Information subelementは、WFDグループ内のWFD装置情報技術者のリストなどの情報を含むことができる。WFD接続方法が装置探索で使われるものと異なるインターフェース(例えば、MACアドレス)を必要とする場合、Alternative MAC Address subelementが関連情報を伝達することができる。
【0085】
以下、本発明の実施例ではWFD(または、ミラキャスト(miracast))を介したユーザ入力(user input、UI)及びサブタイトル(subtitle)に対する情報を送信する方法が開示される。
【0086】
特に、UIイメージ/サブタイトルの各々は、基礎ストリーム(elementary stream)としてパケットタイジングされて別途のPES(Packetized Elementary Stream)で生成された後、MPEG2−TS(transport stream)の多重化部を介してビデオストリームにオーバーレイ(overlay)及び多重化(MUX)されて送信されることができる。本発明の実施例では、WFDソースにより送信されたUIイメージ/サブタイトルがWFDシンクで最適化されて設定されるための方法が開示される。
【0087】
本発明の実施例によると、WFDソースは、WFDシンクのネイティブ解像度(native resolution)を認知してWFDシンクに最適化された解像度を有するUIストリーム及びサブタイトルストリームを送信することができる。このような方法に基づいてWFDシンクは、画質低下無しでWFDシンクのディスプレイ上で最適の大きさを有するUIイメージ/サブタイトルイメージをWFDシンクのディスプレイ上に出力することができる。
【0088】
また、以下、本発明の実施例では、UIイメージ及びサブタイトルイメージがビデオイメージにオーバーレイ(overlay)される場合、WFDシンクでUIBCデータ(または、UIBCボディフォーマット)にオーバーレイと関連した情報を含んで送信する方法が開示される。オーバーレイと関連した情報は、オーバーレイインデックス、ストリームインデックスなどを含むことができる。UIBCを介して送信されるUIBCデータに含まれるオーバーレイと関連した情報に基づいてWFDソースがWFDシンク上で実行されるユーザの動作の意図を正確に認知することができる。
【0089】
WFDソースで送信される一つのMPEG2−TSで多重化(multiplexing)されたストリームは、複数個のオーディオストリーム/ビデオストリーム、UIストリーム、サブタイトルストリームを含み、WFDシンクは、一つのMPEG2−TSで多重化されたストリームを逆多重化(demultiplexing)し、複数個の互いに異なるストリームをアルファブレンディング(alpha−blending)という方法でオーバーレイしてWFDシンクのディスプレイ上に出力することができる。
【0090】
MPEG2−TSは、複数のストリームをオーバーレイ多重化するための送信ストリームに対する一つの例示であり、MPEG2−TSの代わりに他のフォーマット(または、構造(structure))の送信ストリームがオーディオストリーム/ビデオストリーム、UIストリーム、サブタイトルストリームなどを多重化して送信するために使われることもできる。
【0091】
図8は、本発明の実施例に係るMPEG−TSに基づく複数のストリームを送信及び受信する方法を示す概念図である。
【0092】
図8を参照すると、ビデオストリーム800、オーディオストリーム810、サブタイトルストリーム820、ユーザインターフェースストリーム830は、オーバーレイ多重化されてMPEG2−TS840で生成されることができる。
【0093】
ビデオストリーム800は、ビデオデータを含み、オーディオストリーム810は、オーディオデータを含み、サブタイトルストリーム820は、サブタイトルデータを含み、ユーザインターフェースストリーム830は、ユーザインターフェースに対するデータを含むことができる。
【0094】
ビデオストリーム800、オーディオストリーム810、サブタイトルストリーム820、ユーザインターフェースストリーム830は、個別的なES(elementary stream)であり、複数のESの各々は、互いに異なるフォーマット、互いに異なる解像度、互いに異なるビットレートを有することができる。複数のESの各々は、パケット化されて複数のPESの各々で生成されることができ、複数のPESの各々は、オーバーレイ多重化されてMPEG2−TSで生成されることができる。
【0095】
WFDソースは、生成されたMPEG2−TS840をWiFiダイレクト(WiFi P2P(peer to peer))に基づいてWFDシンクに送信することができる。
【0096】
WFDシンクは、MPEG2−TS840をWiFiダイレクトに基づいて受信することができる。WFDシンクにおけるMPEG2−TS840は、逆多重化されてビデオストリーム850、オーディオストリーム860、サブタイトルストリーム870、ユーザインターフェースストリーム880に再び分離されることができる。分離されたビデオストリーム850、オーディオストリーム860、サブタイトルストリーム870、ユーザインターフェースストリーム880は、アルファブレンディング(または、オーバーレイ)に基づいて再生されることができる。
【0097】
図9は、本発明の実施例に係るMPEG−TSに基づくオーバーレイ多重化(overlay Mux)の問題点を示す概念図である。
【0098】
前述したように、MPEG2−TSに基づく複数のESのオーバーレイ時、複数のESの各々は、互いに異なる解像度を有することができる。大部分のWFDシンクは、受信したビデオストリーム(または、ビデオデータ)/サブタイトルストリーム(または、サブタイトルデータ)/ユーザインターフェースストリーム(または、ユーザインターフェースデータ)の解像度がWFDシンクのネイティブ解像度(native resolution)と合わない場合、ネイティブ解像度に合うように受信したビデオストリーム/サブタイトルストリーム/ユーザインターフェースストリームの解像度が再スケーリング(rescaling)(アップスケーリングまたはダウンスケーリング)されることができる。
【0099】
以下、説明の便宜上、ビデオストリーム/サブタイトルストリーム/ユーザインターフェースストリームの解像度が再スケーリングされるという表現を使用するが、このような表現は、ビデオストリームに含まれるビデオデータの解像度/サブタイトルストリームに含まれるサブタイトルデータの解像度/ユーザインターフェースストリームに含まれるユーザインターフェースデータの解像度が再スケーリングされることを意味する。
【0100】
ビデオストリームが再スケーリングされる場合、ユーザには大きい拒否感がない。しかし、ユーザインターフェースストリームやサブタイトルストリームが再スケーリングされる場合、ユーザにあまりにも大きい、またはあまりにも小さいユーザインターフェースイメージ/サブタイトルイメージがWDFシンク上でディスプレイされることができる。
【0101】
図9では、WFDシンクのネイティブ解像度に合うように受信したビデオストリーム/サブタイトルストリーム/ユーザインターフェースストリームの解像度がアップスケーリングされた場合が開示される。
【0102】
図9を参照すると、WFDシンクのネイティブ解像度が1920×1080であり、WFDソースのネイティブ解像度が640×480である場合が仮定される。このような場合、WFDソースにより送信される複数のESを含むMPEG2−TSに含まれるビデオストリーム、サブタイトルストリームまたはユーザインターフェースストリームの解像度は、640×480である。
【0103】
640×480の解像度を有するビデオストリーム、サブタイトルストリーム及びユーザインターフェースストリームを受信したWFDシンクは、WFDシンクのネイティブ解像度を考慮して640×480の解像度を有するビデオストリーム、サブタイトルストリーム及びユーザインターフェースストリームを1920×1080にアップスケールリング900することができる。
【0104】
このような場合、ビデオイメージは、WFDシンクで大きい異質感無しで出力されることができるが、ユーザインターフェースイメージとサブタイトルイメージは、あまりにも大きくなる。例えば、WFDソースでは、ユーザの可視性及び操作容易度のために画面の比率に比べて相対的に大きいイメージのサブタイトル及びユーザインターフェースが活用されることができ、WFDシンクでこのような比率を考慮せずにWFDシンクのネイティブ解像度を考慮してサブタイトルイメージ及びユーザインターフェースイメージをアップスケールリング900する場合、サブタイトルイメージ及びユーザインターフェースイメージがあまりにも大きくなる。それだけでなく、サブタイトルイメージとユーザインターフェースイメージのアップスケールリング900によりサブタイトルイメージとユーザインターフェースイメージの解像度がWFDシンクのディスプレイの解像度と差が大きい場合、文字可読性が落ちてユーザが一層異質感を大きく感じるようになる。
【0105】
図10は、本発明の実施例に係るMPEG−TSに基づくオーバーレイ多重化の問題点を示す概念図である。
【0106】
図10では、WFDシンクのネイティブ解像度に合うように受信したビデオストリーム/サブタイトルストリーム/ユーザインターフェースストリームの解像度がダウンスケーリング1000された場合が開示される。
【0107】
図10を参照すると、WFDシンクのネイティブ解像度が1920×1080であり、WFDソースのネイティブ解像度が4096×2160である場合が仮定される。このような場合、WFDソースにより送信される複数のESを含むMPEG2−TSに含まれるビデオストリーム、サブタイトルストリーム、ユーザインターフェースストリームの解像度は、4096×2160である。
【0108】
4096×2160の解像度を有するビデオストリーム、サブタイトルストリーム及びユーザインターフェースストリームを受信したWFDシンクは、WFDシンクのネイティブ解像度を考慮して4096×2160の解像度を有するビデオストリーム、サブタイトルストリーム及びユーザインターフェースストリームを1920×1080にダウンスケーリング1000することができる。
【0109】
このような場合、ビデオストリームは、WFDシンクでユーザに大きい異質感無しで出力されることができるが、ユーザインターフェースとサブタイトルが同じ場合、あまりにも小さくなる。例えば、WFDソースでは、ユーザの可視性及び操作容易度のために画面の比率に比べて相対的に小さいサブタイトル及びユーザインターフェースが活用されることができ、WFDシンクでこのような比率を考慮せずにWFDシンクのネイティブ解像度を考慮してサブタイトル及びユーザインターフェースをダウンスケーリング1000をする場合、サブタイトル及びユーザインターフェースがあまりにも小さくなる。
【0110】
即ち、
図9及び
図10に示すように、WFDソースがWFDシンクのネイティブ解像度を考慮せずに、オーバーレイエンコーディングを実行してES/PESを送信する場合、WFDシンク上で不要に大きいまたは小さいユーザインターフェースイメージ、サブタイトルイメージが出力されることができる。本発明の実施例では、画面上にオーバーレイして出力されるサブタイトルイメージ/ユーザインターフェースイメージの大きさをWFDシンクに合わせて調整するための方法が開示される。
【0111】
図11は、本発明の実施例に係るユーザインターフェース及びサブタイトルの設定方法を示す概念図である。
【0112】
図11では、WFDソースがWFDシンクのネイティブ解像度に対する情報を取得するための方法が開示される。前述したように、ユーザインターフェースとサブタイトルがオーバーレイして送信される場合、WFDシンクのディスプレイに最適化されたユーザインターフェースとサブタイトルの設定及び表示方法が必要である。
【0113】
本発明の実施例によると、ソースWFDは、オーバーレイエンコーディング(overlay encoding)時、WFDシンクのネイティブ解像度に合うサブタイトルストリームとユーザインターフェースストリームに基づいてオーバーレイエンコーディングを実行することができる。
【0114】
即ち、WFDシンクは、WFDソースから受信したビデオストリームに対してのみ再スケーリング(アップスケールリング/ダウンスケーリング)を実行することができる。サブタイトルストリームとユーザインターフェースストリームは、WFDシンクのネイティブ解像度を考慮してWFDソースにより送信されるため、サブタイトルストリームとユーザインターフェースストリームに対しては、WFDシンクは、ネイティブ解像度に基づく再スケーリングを実行しない。
【0115】
即ち、WFDシンクは、WFDシンクのネイティブ解像度に合うサブタイトルストリーム及びユーザインターフェースストリームをWFDソースから受信し、再スケーリングすることなくそのまま出力することができる。したがって、サブタイトルとユーザインターフェースに対する画質損失無しでWFDシンクの解像度に適応的に合うサブタイトルイメージ及びユーザインターフェースイメージがWFDシンクに提供されることができる。
【0116】
WFDソースは、WFDサービス探索手順及びRTSP能力交渉手順上でWFDシンクのネイティブ解像度に対する情報を取得することができる。
【0117】
図11を参照すると、WFDソースは、WFDサービス探索要求フレーム1100をWFDシンクに送信することができる。WFDシンクは、WFDサービス探索要求フレーム1100に対する応答としてWFDサービス探索応答フレーム1120を送信することができる。WFDサービス探索応答フレーム1120は、WFDシンクのネイティブ解像度に対する情報を含むことができる。例えば、WFDサービス探索応答フレーム1120は、WFDビデオフォーマット副要素(WFD Video Formats subelement)に含まれるネイティブ解像度/リフレッシュレートビットマップを介してWFDシンクのネイティブ解像度に対する情報を伝達することができる。
【0118】
または、WFDソースは、RTSP M3要求メッセージ(または、M3 RTSP GET PARAMETER Request)1140を送信し、WFDシンクは、RTSP M3要求メッセージ1140に対する応答としてRTSP M3応答メッセージ(または、M3 RTSP GET PARAMETER Response)1160を送信することができる。そのとき、RTSP M3応答メッセージ1160は、WFDシンクのネイティブ解像度に対する情報を含むことができる。
【0119】
図12は、本発明の実施例に係るWFDソースのユーザインターフェース情報及びサブタイトル情報の送信方法を示す概念図である。
【0120】
図12を参照すると、WFDソースは、WFDシンクのネイティブ解像度を認知することができ、WFDソースは、WFDシンクに対してWFDシンクの解像度に合う最適(optimal)のユーザインターフェースデータ及び最適のサブタイトルデータの各々に対するESをパケット化して多重化してWFDシンクに送信することができる。
【0121】
WFDソースがWFDシンクのネイティブ解像度に基づいて決定された最適の解像度のサブタイトルストリーム及びユーザインターフェースストリームをビデオストリームとオーバーレイして送信する場合、WFDシンクは、WFDシンクのディスプレイ上でサブタイトル及びユーザインターフェースを最適化して出力することができる。
【0122】
このような方法が使われる場合、ユーザは、ビデオストリーム(または、ビデオデータ)の解像度と独立的な解像度を有するWFDシンクのネイティブ解像度に合うサブタイトルストリーム及びユーザインターフェースストリームを受信することができる。即ち、WFDシンクは、ユーザインターフェースとサブタイトルを画質低下無しでディスプレイ上で出力することができる。
【0123】
そのために、WFDソースは、格納部(storage)1200に多様な解像度/設定のユーザインターフェースデータ及びサブタイトルデータの設定セットを含むことができる。WFDソースは、ユーザインターフェースデータ及びサブタイトルデータの設定セットでWFDソースのネイティブ解像度に最適であるユーザインターフェース及びサブタイトルを選択してWFDシンクに送信することができる。
【0124】
例えば、WFDソースの格納部1200には多様な解像度(2048×N、1920×N、1680×N、1280×N等)の水平方向のユーザインターフェース情報/水平方向のサブタイトル情報が格納されることができる。また、WFDソースの格納部1200には多様な解像度(N×2048、N×1920、N×1680、N×1280等)の垂直方向のユーザインターフェース情報/垂直方向のサブタイトル情報が格納されることができる。
【0125】
WFDソースは、WFDサービス探索手順及びRTSP能力交渉手順上でWFDシンクのネイティブ解像度に対する情報だけでなく、選好するユーザインターフェース及びサブタイトルの方向に対する情報を取得し、解像度及びユーザインターフェース及びサブタイトルの方向に対する情報に基づいて最適のサブタイトルストリーム及びユーザインターフェースストリームをWFDシンクに送信することができる。
【0126】
図13は、本発明の実施例に係る最適のユーザインターフェース及びサブタイトルを設定する方法を示す概念図である。
【0127】
図13において、WFDソースは、WFDソースのユーザインターフェースデータ及びサブタイトルデータの設定セット(configuration set)に基づいてWFDシンクに合うようにユーザインターフェースの位置を調整することができる。
【0128】
例えば、
図12に示すように、ユーザインターフェースデータ及びサブタイトルデータの設定セットが垂直方向のユーザインターフェースデータ及びサブタイトルデータと水平方向のユーザインターフェースデータ及びサブタイトルデータとを含む場合、WFDソースとWFDシンクとの間の交渉(negotiation)によって水平または垂直方向のユーザインターフェースデータ及びサブタイトルデータがWFDソースからWFDシンクに送信されることができる。
【0129】
図13を参照すると、WFDソースは、エンコーディング/ストリーミングするビデオストリームの解像度と独立的にWFDシンクのネイティブ解像度に基づいて決定された解像度の垂直または水平方向のサブタイトルデータ/ユーザインターフェースデータの各々を各々のストリームで生成してビデオストリームと共にオーバーレイ多重化してMPEG2−TSを介して送信することができる。
【0130】
WFDシンクは、MPEG2−TSに対する逆多重化を実行した後、ビデオストリームに対してのみ再スケーリング(アップスケールリング/ダウンスケーリング)してディスプレイ上で出力することができる。また、WFDシンクは、MPEG2−TSに対する逆多重化を介して分離したサブタイトルストリーム及びユーザインターフェースストリームの各々に対しては再スケーリング手順無しで即座に出力することができる。
【0131】
図14は、本発明の実施例に係るUIBCに基づくWFDソース及びWFDシンクの動作を示す概念図である。
【0132】
図14では、WFDソースがビデオストリーム、サブタイトルストリームユーザインターフェースストリームをオーバーレイエンコーディング(overlay encoding)して送信する場合、UIBC(user input back channel)を介してユーザのWFDシンクに対する入力信号をWFDソースに伝達するための方法が開示される。UIBCは、WFDシンクに存在するユーザインターフェースでユーザ動作に基づくユーザ入力情報を入力した場合、ユーザ入力情報をWFDソースに伝達するためのチャネルである。
【0133】
以下、既存のUIBCを介したWFDシンク及びWFDソース間の通信において、ユーザ入力情報の解釈の問題点が開示される。
【0134】
図14を参照すると、WFDソースが二つの互いに異なるユーザインターフェース(UI1、UI2)の各々に対する複数のユーザインターフェースストリームの各々をMPEG2−TSにオーバーレイする場合、WFDシンクは、ディスプレイ上でどこでもUI1イメージ1400及びUI2イメージ1450を出力することができる。
【0135】
WFDシンクは、WFDシンクのディスプレイを基準にしてユーザ入力信号に対するX座標、Y座標をUIBCを介して送信し、WFDソースは、WFDシンクのディスプレイを基準にするユーザ入力信号による動作を正確に解釈することができない。例えば、ユーザがWFDシンクのディスプレイ上で左側マウスボタンを押してクリック状態を設定してUI1イメージ1400を選択した以後、マウスを動いてUI1イメージ1400を他の位置に移動させ、左側マウスボタンの押しを解除してクリック状態を解除する場合が仮定されることができる。
【0136】
このような場合、WFDシンクは、WFDシンクのディスプレイ上の(10、200)位置で左側マウスダウン信号が生成されることを指示するLeft mouse Down(10、200)信号(ステップS1410)を生成し、マウスがWFDシンクのディスプレイ上の(1700、800)位置に移動することを指示するMouse move(1700、800)信号(ステップS1420)を生成し、(1710、820)の位置で左側マウスアップ信号が生成されることを指示するLeft mouse Up(1710、820)信号(ステップS1430)を順次に生成してWFDソースに送信することができる。
【0137】
しかし、ビデオストリームとオーバーレイして送信したUI1に対するユーザインターフェースストリーム1に基づくUI1イメージ1400とUI2に対するユーザインターフェースストリーム2に基づくUI2イメージ1450の各々がWFDシンクのディスプレイ上へのどの位置に出力されるかは、WFDシンクの決定に従うため、WFDソースは、ユーザ入力信号によるユーザの意図を正確に解釈することができない。また、既存のように包括タイプ(generic type)のUIBCパケットが生成される場合、WFDソースは、UI1及びUI2のうちどのUIに対するユーザ動作であるかに対しても正確に認知することができない。
【0138】
図15は、本発明の実施例に係るUIBCに基づくWFDソース及びWFDシンクの動作を示す概念図である。
【0139】
図15では、
図14で開示した既存のUIBCを介したWFDシンク及びWFDソース間の通信において、ユーザ入力情報の解釈の問題点を解決するための方法が開示される。UIBCベースの動作のために、WFDシンクは、既存の座標情報及び追加的な情報(オーバーレイインデックス(overlay index)またはMPEG2−TSストリーム識別子(MPEG2TX stream id)、ストリームタイプ(stream type)、説明タグ(description tag)等)をUIBCを介してWFDソースに送信してユーザ入力情報を伝達することができる。
【0140】
図15を参照すると、WFDソースは、WFDシンクが送信するUIBCメッセージのUIBC包括入力ボディ(UIBC generic input body)内に含まれるストリーム情報(stream information)に基づいて現在WFDシンクを介してユーザがどのUIに対してどのような動作を実行したかに対する情報を取得することができる。
【0141】
具体的に、UIBC包括入力ボディは、以下の表4のような構成を含むことができる。
【0143】
以上の表4において、ストリーム情報(stream information)は、以下の表5のようなフィールドを含むことができる。
【0145】
即ち、WFDソースは、ストリーム情報フィールドに含まれるオーバーレイインデックス情報に基づいてWFDシンクでユーザが指示したUIに対する情報を取得することができる。また、WFDソースは、ストリーム情報フィールドに含まれるストリームID情報、ストリームタイプ情報に基づいてユーザが指示したUIに対する情報を取得することができる。
【0146】
説明タグは、複数のオーバーレイID(または、ストリームID)の各々により指示されるUIイメージ/サブタイトルイメージ/ビデオイメージの各々に対するユーザの動作で生成されたユーザ入力信号(または、ユーザ入力情報)を理解するための詳細情報を含むことができる。例えば、説明タグは、オーバーレイIDに対応されるWFDシンクのディスプレイ上で出力されるイメージで可能なX座標及びY座標に対する情報を含むことができる。例えば、説明タグに含まれるX座標、Y座標の値は、WFDシンクで出力されるUIイメージの横/縦の大きさに対応されることができる。例えば、UI1のイメージ(UIイメージ1)1500の大きさが400×200であり、WFDシンクのディスプレイ上でユーザがUIイメージ1 1500上でユーザ入力信号を発生させた場合、発生可能なX座標、Y座標は(0、0)から最大(400、200)の範囲に含まれることができる。
【0147】
図15のように、WFDシンクは、UIBC包括入力ボディ内にストリーム情報を含んで送信することができる。WFDソースは、ストリーム情報に基づいてWFDシンクがどのUIイメージ上で動作したかに対して決定できる。例えば、WFDシンクは、UIイメージ1 1500上の特定部分座標(390、200)に対して左側マウスダウンをしてクリックし(ステップS1510)、ビデオストリームに基づくビデオイメージを基準にして特定部分座標(1700、800)にマウスを移動し(ステップS1520)、UIイメージ2 1550上の特定位置座標(200、100)でMouse up動作をすることができる(ステップS1530)。
【0148】
このように、WFDシンクは、全体画面を基準にする座標値伝達でないオーバーレイされる各々のイメージ(または、オーバーレイされるストリーム)(例えば、UIイメージ)を基準にする座標を伝達することができる。したがって、WFDシンクのディスプレイ上で各オーバーレイされるUIの位置が変更される場合、WFDソースは、WFDシンクから送信されるUIBC包括入力ボディ内にストリーム情報に基づいてユーザ入力信号によるユーザ動作を正確に解釈(または、決定)することができる。
【0149】
また、本発明の実施例ではユーザインターフェース及びサブタイトルがオーバーレイ多重化に基づいて送信される場合、WFDシンクのディスプレイに最適化されたUIとサブタイトルの設定及び出力のために下記のような方法が使われることができる。UIとサブタイトルは、補助コンテンツ(auxiliary contents)、UIとサブタイトルのためのストリームは、補助ストリーム(auxiliary contents)という用語で表現されることができる。WFDソースでサポート可能な補助コンテンツ(補助ストリーム)の解像度とWFDシンクのネイティブ解像度(または、パネル解像度)を比較し、二つのうち解像度が低いものがWFDシンクで出力される補助コンテンツ(補助ストリーム)の解像度で設定されることができる。
【0150】
数式として、WFDシンクで補助コンテンツのための解像度(Resolution for auxiliary contents in WFD sink)=Minimum{ソース装置(または、WFDソース)の最大解像度(Source device(WFD source)’s maximum resolution)、シンク装置(または、WFDシンク)のネイティブ解像度(Sink device(WFD sink)’s native resolution)}で表現されることができる。
【0151】
例えば、WFDソースの最大解像度が2048×1080(2k)であり、WFDシンクのネイティブ解像度が3840×2160(または、4096×2160)(4k)であり、シンク装置の最大解像度が2kである場合、WFDシンクで出力される補助コンテンツの解像度は、2kである。
【0152】
他の例として、WFDソースの最大解像度が4kであり、WFDシンクのネイティブ解像度が4kであり、シンク装置の最大解像度が2kである場合、WFDシンクで出力される補助コンテンツの解像度は、4kである。
【0153】
また、本発明の実施例ではユーザインターフェース及びサブタイトルがオーバーレイ多重化に基づいて送信される場合、WFDシンクのディスプレイに最適化されたUIとサブタイトルの設定及び出力のために下記のような方法が使われることができる。
【0154】
WFDソースの補助コンテンツ(または、補助ストリーム)のためにサポート可能な最大解像度とWFDシンクの補助コンテンツ(または、補助ストリーム)のためにサポート可能な最大解像度を比較し、二つのうち低い解像度がWFDシンクで出力される補助コンテンツ(または、補助ストリーム)に対する最大解像度である。
【0155】
数式として、WFDシンクで補助ストリームのための解像度(Resolution for auxiliary streams in WFD sink)=Minimum{ソース装置(または、WFDソース)の補助ストリームの最大解像度(Source device(WFD source)’s maximum resolution of auxiliary streams及びシンク装置(または、WFDシンク)の補助ストリームの最大解像度(Sink device(WFD sink)’s maximum resolution of auxiliary streams)}である。
【0156】
例えば、WFDソースで補助ストリームに対して最大サポート可能な解像度が2048×1080(2k)であり、WFDシンクで補助ストリームに対して最大サポート可能な解像度が3840×2160(4k)である場合、WFDシンクで出力される補助コンテンツの解像度は、2kである。
【0157】
他の例として、WFDソースで補助ストリームに対して最大サポート可能な解像度が4kであり、WFDシンクで補助ストリームに対して最大サポート可能な解像度が2kである場合、WFDシンクで出力される補助コンテンツの解像度は、4kである。
【0158】
図16は、本発明の実施例に係る補助ストリームのための解像度を決定する方法を示す概念図である。
【0159】
図16を参照すると、WFDソースは、WFD2サービス探索(service discovery)とRTSP能力交渉(capability negotiation)に基づいてWFDシンクでサポート可能な補助ストリームのフォーマットに対する情報/サポート可能な補助ストリームの最大解像度に対する情報を取得することができる。
【0160】
例えば、WFDソースは、WFD2サービス探索要求フレーム1600をWFDシンクに送信することができる。WFDシンクは、WFD2サービス探索要求フレーム1600に対する応答としてWFD2サービス探索応答フレーム1610をWFDソースに送信することができる。WFDシンクのWFD2サービス探索応答フレーム1610は、補助ストリームフォーマット副要素(auxiliary stream formats subelement)を含むことができる。補助ストリームフォーマット副要素は、補助ストリームコーデックビットマップ、参照オーバーレイ解像度ビットマップを含むことができる。補助ストリームコーデックビットマップは、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報を含み、参照オーバーレイ解像度ビットマップは、WFDシンクでサポート可能な補助ストリームの最大解像度に対する情報を含むことができる。
【0161】
また、RTSP M3要求メッセージ(M3 RTSP GET PARAMETER Request)1620/RTSP M3応答メッセージ(M3 RTSP GET PARAMETER Response)1630に基づいてWFDシンクでサポート可能な補助ストリームのフォーマットに対する情報/サポート可能な補助ストリームの最大解像度に対する情報が取得されることもできる。
【0162】
RTSP M3応答メッセージ1630は、補助ストリームフォーマットを含むことができる。補助ストリームフォーマットは、補助ストリームコーデックビットマップ、参照オーバーレイ解像度ビットマップを含むことができる。補助ストリームコーデックビットマップは、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報を含み、参照オーバーレイ解像度ビットマップは、WFDシンクでサポート可能な補助ストリームの最大解像度に対する情報を含むことができる。
【0163】
補助ストリームコーデックビットマップは、以下の表6のように定義されることができる。
【0165】
表6を参照すると、補助ストリームコーデックビットマップは、サポートされる補助コンテンツのコーデックに対する情報を含むことができる。補助ストリームコーデックビットマップで、1番目のビットは、PNGフォーマットの補助コンテンツをサポートするかどうかに対する情報を指示し、2番目のビットは、JPEGフォーマットの補助コンテンツをサポートするかどうかに対する情報を指示することができる。
【0166】
参照オーバーレイ解像度ビットマップは、以下の表7のように定義されることができる。
【0168】
表7を参照すると、参照オーバーレイ解像度ビットマップは、補助ストリームを生成するためにサポートされる解像度を示すためのビットを含むことができる。
【0169】
補助ストリームのためのサポートされる解像度/リフレッシュレートは、CEA(Consumer Electronics Association)、VESA(Video Electronics Standards Association)、HH(handheld)フォーマットの解像度/リフレッシュレートを参照することができる。
【0170】
参照オーバーレイ解像度ビットマップの1:0ビット情報を介して参照するグラフィックフォーマットに対する情報を含み、7:2ビット情報に基づいて1:0ビット情報を介して選択されたグラフィックフォーマットでサポートされる全ての解像度に対する情報が指示されることができる。
【0171】
表8は、CEA解像度/リフレッシュレートに対するインデックスを例示的に示す。
【0173】
または、本発明の実施例ではユーザインターフェース及びサブタイトルがオーバーレイ多重化に基づいて送信される場合、WFDシンクのディスプレイに最適化されたUIとサブタイトルの設定及び出力のために下記のような方法が使われることができる。
【0174】
WFDシンクで出力される補助コンテンツ(または、補助ストリーム)の解像度は、1)WFDソースの補助ストリームに対する最大解像度、2)WFDシンクのネイティブ解像度及びWFDシンクの補助ストリームの最大解像度のうち最小値に対して1)、2)の最小値である。
【0175】
数式として、補助ストリームのための解像度(Resolution for auxiliary streams)=Minimum{ソース装置(または、WFDソース)の補助ストリームの最大解像度(Source device(WFD source)’s maximum resolution of auxiliary streams)、Minimum[シンク装置のネイティブ解像度(Sink device(WFD sink)’s native resolution)、シンク装置(または、WFDシンク)の補助ストリームの最大解像度(Sink device(WFD sink)’s maximum resolution of auxiliary streams)]}である。
【0176】
例えば、WFDソースで補助ストリームに対して最大サポート可能な解像度が2kであり、WFDシンクで補助ストリームに対して最大サポート可能な解像度が2kであり、WFDシンクでネイティブ解像度が4kである場合、WFDシンクで出力される補助コンテンツの解像度は、2kである。
【0177】
図17は、本発明の実施例に係る補助ストリームのための解像度を決定する方法を示す概念図である。
【0178】
図17を参照すると、WFDソースは、WFDサービス探索手順とRTSP能力交渉手順に基づいてWFDシンクのネイティブ解像度に対する情報、WFDシンクの最大ビデオ解像度(max video resolution)に対する情報、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報及びサポート可能な補助ストリームの最大解像度に対する情報を取得することができる。
【0179】
例えば、WFDソースは、WFD2サービス探索要求フレーム1700をWFDシンクに送信することができる。WFDシンクは、WFD2サービス探索要求フレーム1700に対する応答としてWFD2サービス探索応答フレーム1710をWFDソースに送信することができる。WFDシンクのWFD2サービス探索応答フレーム1710は、ビデオフォーマット副要素(video format subelement)及び補助ストリームフォーマット副要素(auxiliary stream formats subelement)を含むことができる。
【0180】
ビデオフォーマット副要素(video format subelement)は、WFDシンクのネイティブ解像度に対する情報及びWFDシンクの最大ビデオ解像度に対する情報を含むことができる。
【0181】
補助ストリームフォーマット副要素は、補助ストリームコーデックビットマップ、参照オーバーレイ解像度ビットマップを含むことができる。補助ストリームコーデックビットマップは、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報を含み、参照オーバーレイ解像度ビットマップは、WFDシンクでサポート可能な補助ストリームの最大解像度に対する情報を含むことができる。
【0182】
また、RTSP M3要求メッセージ(M3 RTSP GET PARAMETER Request)1720/RTSP M3応答メッセージ(M3 RTSP GET PARAMETER Response)1730に基づいてWFDシンクのネイティブ解像度に対する情報、WFDシンクの最大ビデオ解像度に対する情報、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報及びサポート可能な補助ストリームの最大解像度に対する情報を取得することができる。
【0183】
RTSP M3応答メッセージ1730は、ビデオフォーマット及び補助ストリームフォーマットを含むことができる。
【0184】
ビデオフォーマットは、WFDシンクのネイティブ解像度に対する情報及びWFDシンクの最大ビデオ解像度に対する情報を含むことができる。
【0185】
補助ストリームフォーマットは、補助ストリームコーデックビットマップ、参照オーバーレイ解像度ビットマップを含むことができる。補助ストリームコーデックビットマップは、WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報を含み、参照オーバーレイ解像度ビットマップは、WFDシンクでサポート可能な補助ストリームの最大解像度に対する情報を含むことができる。
【0186】
WFDソースは、WFD2サービス探索応答フレーム1710/RTSP M3応答メッセージ1730に含まれる情報に基づいてWFDシンクに送信する補助コンテンツの解像度を決定することができる。
【0187】
以下の表9は、ビデオフォーマット副要素に含まれるWFDシンクのネイティブ解像度に対する情報を示すビットマップに対する説明である。
【0189】
選択されたグラフィックフォーマットでサポートされる解像度に対するインデックスに基づいてWFDシンクのネイティブ解像度に対する情報が指示されることができる。具体的に、ビデオフォーマット副要素ではCEA、VESA、HHのうち、一つの解像度/リフレッシュレートに対するインデックスを介してWFDシンクのネイティブ解像度に対する情報が指示されることができる。
【0190】
WFDシンクでサポート可能な補助ストリームのフォーマットに対する情報及びWFDシンクでサポート可能な補助ストリームの最大解像度に対する情報は、前述した表6及び表7のようなビットマップに基づいて送信されることができる。
【0191】
または、本発明の実施例ではユーザインターフェース及びサブタイトルがオーバーレイ多重化に基づいて送信される場合、WFDシンクのディスプレイに最適化されたUIとサブタイトルの設定及び出力のために下記のような方法が使われることができる。
【0192】
WFDシンクで出力される補助コンテンツ(または、補助ストリーム)の解像度は、1)WFDソースの最大解像度、2)WFDシンクのネイティブ解像度及びWFDシンクの最大解像度の最小値に対して1)、2)の最小値である。
【0193】
数式として、WFDシンクで補助ストリームのための解像度(Resolution for auxiliary streams in WFD sink)=Minimum{ソース装置(または、WFDソース)の最大解像度(Source device(WFD source)′s maximum resolution)、Minimum[シンク装置のネイティブ解像度(Sink device(WFD sink)’s native resolution)、シンク装置(または、WFDシンク)の最大解像度(Sink device(WFD sink)’s maximum resolution)]}である。
【0194】
WFDソースの最大解像度は、ソースにより選択される特定AUX(auxiliary)コーデックによりサポートされる補助ストリームに対するサポート可能な最大解像度である。
【0195】
WFDシンクの最大解像度は、RTSP M3応答メッセージに含まれる最大解像度情報に基づいて指示されることができる。WFDシンクの最大解像度に対する情報は、RTSP M3応答メッセージのwfd−video−codecs、wfd−3d−video−formats、wfd−preferred−display−modeのようなパラメータに含まれることができる。
【0196】
WFDシンクのネイティブ解像度は、RTSP M3応答メッセージに含まれるネイティブ解像度情報に基づいて指示されることができる。ネイティブ解像度情報は、RTSP M3応答メッセージのwfd−video−codecs、wfd−3d−video−formats、wfd−preferred−display−modeのようなパラメータに含まれることができる。
【0197】
例えば、WFDソースの最大解像度が2kであり、WFDシンクの最大解像度が2kであり、WFDシンクのネイティブ解像度が4kである場合、WFDシンクで出力される補助コンテンツの解像度は、2kである。
【0198】
図18は、本発明の実施例に係る補助ストリームのための解像度を決定する方法を示す概念図である。
【0199】
図18を参照すると、WFDソースは、WFDサービス探索手順とRTSP能力交渉手順に基づいてWFDシンクのネイティブ解像度に対する情報、WFDシンクの最大解像度に対する情報を取得することができる。
【0200】
例えば、WFDソースは、WFD2サービス探索要求フレーム1800をWFDシンクに送信することができる。WFDシンクは、WFD2サービス探索要求フレーム1800に対する応答としてWFD2サービス探索応答フレーム1810をWFDソースに送信することができる。WFDシンクのWFD2サービス探索応答フレーム1810は、ビデオフォーマット副要素を含むことができる。
【0201】
ビデオフォーマット副要素は、WFDシンクのネイティブ解像度に対する情報及びWFDシンクの最大解像度に対する情報を含むことができる。
【0202】
また、RTSP M3要求メッセージ(M3 RTSP GET PARAMETER Request)1820/RTSP M3応答メッセージ(M3 RTSP GET PARAMETER Response)1830に基づいてWFDシンクのネイティブ解像度に対する情報、WFDシンクの最大解像度に対する情報を取得することができる。
【0203】
RTSP M3応答メッセージ1830は、ビデオフォーマットを含むことができる。
【0204】
ビデオフォーマットは、WFDシンクのネイティブ解像度に対する情報及びWFDシンクの最大解像度に対する情報を含むことができる。
【0205】
WFDソースは、WFD2サービス探索応答フレーム1810/RTSP M3応答メッセージ1830に含まれる情報に基づいてWFDシンクに送信する補助コンテンツの解像度を決定することができる。
【0206】
図19は、本発明の実施例が適用されることができる無線装置を示すブロック図である。
【0207】
図19を参照すると、無線装置は、前述した実施例を具現することができるWFDソース1900及びWFDシンク1950である。
【0208】
WFDソース1900は、プロセッサ1910、メモリ1920及びRF部(radio frequency unit)1930を含む。
【0209】
RF部1930は、プロセッサ1910と連結して無線信号を送信/受信することができる。
【0210】
プロセッサ1910は、本発明で提案された機能、過程及び/または方法を具現することができる。例えば、プロセッサ1910は、前述した本発明の実施例に係るWFDソース1900の動作を実行するように具現されることができる。プロセッサは、
図1乃至
図18の実施例で開示したWFDソース1900の動作を実行することができる。
【0211】
例えば、プロセッサ1910は、WFDシンクにサービス能力(service capability)を探索するためのWFDサービス探索要求フレームを送信し、WFDシンクからWFDサービス探索要求フレームに対する応答としてWFDサービス探索応答フレームを受信し、WFDサービス探索応答フレームに基づいてWFDシンクとWFD接続(connection)を設定することができる。
【0212】
また、プロセッサ1910は、WFD接続以後、WFDシンクと能力交渉(capability negotiation)手順のためにRTSP(real time streaming protocol)に基づくRTSPパラメータ要求メッセージを前記WFDシンクに送信し、RTSPパラメータ要求メッセージに対する応答としてRTSPパラメータ応答メッセージをWFDシンクに送信するように具現されることができる。
【0213】
また、プロセッサ1910は、能力交渉手順以後、第1の解像度のビデオデータを含むビデオストリーム、第2の解像度の補助データを含む補助ストリームをオーバーレイ多重化した送信ストリームをWFDシンクに送信するように具現され、前述したWFD探索応答フレームは、第2の解像度の決定のための第2の解像度関連情報を含み、RTSPパラメータ応答フレームは、前記第2の解像度関連情報を含むことができる。
【0214】
補助データは、サブタイトルデータ、ユーザインターフェースデータを含むことができる。
【0215】
前述したように、第2の解像度と関連した情報は、WFDシンクのネイティブ解像度(native resolution)に対する情報を含み、第1の解像度は、前記WFDソースのネイティブ解像度に基づいて決定され、第2の解像度は、前記WFDシンクのネイティブ解像度に基づいて決定されることができる。
【0216】
または、第2の解像度と関連した情報は、WFDシンクの補助データに対してサポートされる最大解像度に対する情報を含み、第1の解像度は、WFDソースのネイティブ解像度に基づいて決定され、第2の解像度は、WFDシンクの補助データに対してサポートされる最大解像度に対する情報に基づいて決定されることができる。
【0217】
ビデオデータは、WFDシンクで再スケーリングされて前記第1の解像度と異なる解像度で出力され、補助データは、前記WFDシンクで再スケーリングすることなく前記第2の解像度で出力されることができる。
【0218】
また、プロセッサ1910は、WFDシンクからUIBC(user input back channel)を介してWFDシンク上でユーザ動作によるユーザ動作情報を受信し、ユーザ動作情報に対応される動作を実行するように具現されることができる。
【0219】
ユーザ動作情報は、ストリーム情報を含み、ストリーム情報は、ユーザ動作がWFDシンクで出力されるビデオデータ及び補助データの各々に基づくオーバーレイされた複数のイメージのうちどのイメージ上で実行されるかを指示する識別情報を含むことができる。
【0220】
WFDシンク1950は、プロセッサ1960、メモリ1970及びRF部(radio frequency unit)1980を含む。
【0221】
RF部1980は、プロセッサ1960と連結して無線信号を送信/受信することができる。
【0222】
プロセッサ1960は、本発明で提案された機能、過程及び/または方法を具現することができる。例えば、プロセッサ1960は、前述した本発明の実施例に係るWFDシンク1950の動作を実行するように具現されることができる。プロセッサは、
図1乃至
図18の実施例でWFDシンク1950の動作を実行することができる。
【0223】
例えば、プロセッサ1960は、WFDソースにWFDシンクで出力される補助データの解像度を決定するための情報を送信するように具現されることができる。例えば、プロセッサ1960は、WFDシンクのネイティブ解像度、WFDシンクで出力可能な補助コンテンツの解像度に対する情報などをWFDサービス探索応答フレーム/RTSPベースの応答メッセージに基づいて送信するように具現されることができる。
【0224】
プロセッサ1960は、WFDソースから受信した送信ストリーム(MPEG2−TS)を逆多重化し、ビデオストリームに含まれるビデオデータは、再スケーリングして異なる解像度でディスプレイ上に出力し、補助ストリーム(サブタイトルストリーム、ユーザインターフェースストリーム)に含まれるサブタイトルデータ、ユーザインターフェースデータは、再スケーリングすることなく受信したデータと同じ解像度で出力できる。
【0225】
プロセッサ1910、1960は、ASIC(application−specific integrated circuit)、他のチップセット、論理回路、データ処理装置及び/またはベースバンド信号及び無線信号を相互変換する変換器を含むことができる。メモリ1920、1970は、ROM(read−only memory)、RAM(random access memory)、フラッシュメモリ、メモリカード、格納媒体及び/または他の格納装置を含むことができる。RF部1930、1980は、無線信号を送信及び/または受信する一つ以上のアンテナを含むことができる。
【0226】
実施例がソフトウェアで具現される時、前述した技法は、前述した機能を遂行するモジュール(過程、機能など)で具現されることができる。モジュールは、メモリ1920、1970に格納され、プロセッサ1910、1960により実行されることができる。メモリ1920、1970は、プロセッサ1910、1960の内部または外部にあり、よく知られた多様な手段でプロセッサ1910、1960と連結されることができる。