(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-13
(45)【発行日】2022-05-23
(54)【発明の名称】ビデオ送信方法及びデータ送信機
(51)【国際特許分類】
H04N 21/436 20110101AFI20220516BHJP
H04L 1/00 20060101ALI20220516BHJP
H04N 19/46 20140101ALI20220516BHJP
H04N 19/33 20140101ALI20220516BHJP
H04N 21/442 20110101ALI20220516BHJP
【FI】
H04N21/436
H04L1/00 E
H04N19/46
H04N19/33
H04N21/442
(21)【出願番号】P 2017184554
(22)【出願日】2017-09-26
【審査請求日】2020-09-11
(32)【優先日】2016-09-26
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2016-11-22
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】512187343
【氏名又は名称】三星ディスプレイ株式會社
【氏名又は名称原語表記】Samsung Display Co.,Ltd.
【住所又は居所原語表記】1, Samsung-ro, Giheung-gu, Yongin-si, Gyeonggi-do, Republic of Korea
(74)【代理人】
【識別番号】110000051
【氏名又は名称】特許業務法人共生国際特許事務所
(72)【発明者】
【氏名】アミン モバシェル
(72)【発明者】
【氏名】ジャリル カマリ
(72)【発明者】
【氏名】グレゴリー ダブリュ クック
(72)【発明者】
【氏名】ザモラ ディビッド
【審査官】富樫 明
(56)【参考文献】
【文献】特表2010-518653(JP,A)
【文献】米国特許出願公開第2010/0278230(US,A1)
【文献】特表2010-515392(JP,A)
【文献】特表2014-519224(JP,A)
【文献】特表2007-515866(JP,A)
【文献】米国特許出願公開第2008/0253462(US,A1)
【文献】特開2007-194706(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00-21/858
H04L 1/00
H04N 19/46
H04N 19/33
(57)【特許請求の範囲】
【請求項1】
無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオ
データを送信する方法であって、
前記送信機により、
データソースから
、非圧縮ビデオデータを含むビデオデータ信号を受信する段階と、
前記受信機から
、チャンネル品質、ビデオ品質、コーデック要件、及びデータレート要件の一つ以上を含む前記受信機に対するデータ送信に関する多様な情報を含むリターン信号を受信する段階と、
前記リターン信号に基づいて、前記
ビデオデータ信号を前記受信機に送信するための一つ以上のパラメータを各々含み、
前記非圧縮ビデオデータの送信に対応する一つ以上のプロファイル及び圧縮ビデオデータの送信に対応する一つ以上のプロファイルを含む複数のプロファイルの中から一つのプロファイルを選択する段階と、
前記選択されたプロファイルに従って、品質レイヤ、解像度レイヤ、空間位置、及びカラーコンポーネントで分割されるレイヤ基盤圧縮を前記ビデオデータ信号に対して遂行する段階と、
類似するピクセルビットがグループ化されるように、重要度レベルによりパケットで再構成する段階と、
異なるタイプのデータの重要度レベルに基づいて、前記ビデオデータ信号を受信機に送信するために不均一誤り保護を遂行する段階と、
前記ディスプレイパネル上のディスプレイのため
に前記不均一誤り保護が遂行されたビデオデータ信号を前記受信機に送信する段階と、
前記ビデオデータ信号のヘッダパケット内のビット選択により、前記選択されたプロファイルに関する情報を前記受信機に送信する段階と、を有することを特徴とするビデオ送信方法。
【請求項2】
前記リターン信号は、前記受信機により測定された前記無線通信チャンネルの品質の識別子を含むことを特徴とする請求項1に記載のビデオ送信方法。
【請求項3】
前記リターン信号は、前記受信機により測定された視覚品質の識別子を含むことを特徴とする請求項1に記載のビデオ送信方法。
【請求項4】
前記送信機により、
前記リターン信号に基づいて、前記受信機に対応する表示装置を識別する段階と、
前記受信機に対応する表示装置に基づいて前記プロファイルを選択する段階と、を更に含むことを特徴とする請求項1に記載のビデオ送信方法。
【請求項5】
前記複数のプロファイルは、第1~第8プロファイルの中の一つ以上を含み、
前記第1プロファイルは、一群のピクセルの任意のピクセルからのピクセルデータが送信後に前記受信機で損失された場合、前記受信機が周辺ピクセルの値を平均化することで損失されたピクセルデータを再計算することができるように、チャンネル品質が第1臨界レベルを超える非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第2プロファイルは、一群のピクセルの一つのピクセルからのピクセルデータが前記受信機に送信されず、前記受信機が周辺ピクセルの値を平均化することで前記一つのピクセルからのピクセルデータを再計算することができるように、チャンネル品質が前記第1臨界レベルよりも低いが第2臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第3プロファイルは、パケット内のピクセルの最下位ビットが前記受信機に送信されず、前記受信機が前記最下位ビットを補償することができるように、チャンネル品質が前記第1臨界レベル及び前記第2臨界レベルよりも低いが第3臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第4、第5、第6、及び第7プロファイルは、複数のデータレイヤを生成するレイヤ-基盤圧縮方法を用いて圧縮された圧縮ビデオデータを送信するためのパラメータを定義し、
前記複数のデータレイヤは、第1圧縮比を有する最高レイヤと、前記最高レイヤ及び任意の介在レイヤに追加される場合に前記第1圧縮比よりも低い第2圧縮比を有するデータを有する最低レイヤとを含み、
前記第4プロファイルにより、前記複数のデータレイヤの各々は前記受信機に送信され、
前記第5プロファイルにより、前記複数のデータレイヤのサブセットは前記受信機に送信され、
前記第6プロファイルにより、前記複数のデータレイヤの中の単一のデータレイヤは前記受信機に送信され、
前記第7プロファイルにより、前記複数のデータレイヤの一つ以上のデータレイヤの一部のみが前記受信機に送信され、
前記第8プロファイルは、前記ビデオデータをディスプレイするための表示装置に基づいて異なる優先順位レベルを有するビデオデータを送信するためのパラメータを定義することを特徴とする請求項1に記載のビデオ送信方法。
【請求項6】
前記選択されたプロファイルに関する情報は、前記選択されたプロファイルに対応する圧縮解除、リバースレイヤリング、デコーディング、又は誤り訂正情報の一つ以上を含むことを特徴とする請求項
1に記載のビデオ送信方法。
【請求項7】
無線通信チャンネルを通じて受信機にディスプレイパネルに対する
ビデオデータを送信する送信機であって、
前記送信機は、
データソースから
、非圧縮ビデオデータを含むビデオデータ信号を受信する手段と、
前記受信機から
、チャンネル品質、ビデオ品質、コーデック要件、及びデータレート要件の一つ以上を含む前記受信機に対するデータ送信に関する多様な情報を含むリターン信号を受信する手段と、
前記リターン信号に基づいて、前記
ビデオデータ信号を前記受信機に送信するための一つ以上のパラメータを各々含み、
前記非圧縮ビデオデータの送信に対応する一つ以上のプロファイル及び圧縮ビデオデータの送信に対応する一つ以上のプロファイルを含む複数のプロファイルの中から一つのプロファイルを選択する手段と、
前記選択されたプロファイルに従って、品質レイヤ、解像度レイヤ、空間位置、及びカラーコンポーネントで分割されるレイヤ基盤圧縮を前記ビデオデータ信号に対して遂行する手段と、
類似するピクセルビットがグループ化されるように、重要度レベルによりパケットで再構成する手段と、
異なるタイプのデータの重要度レベルに基づいて、前記ビデオデータ信号を受信機に送信するために不均一誤り保護を遂行する手段と、
前記ディスプレイパネル上のディスプレイのため
に前記不均一誤り保護が遂行されたビデオデータ信号を前記受信機に送信する手段と、
前記ビデオデータ信号のヘッダパケット内のビット選択により、前記選択されたプロファイルに関する情報を前記受信機に送信する手段と、を備えることを特徴とする送信機。
【請求項8】
前記リターン信号は、前記受信機により測定された前記無線通信チャンネルの品質の識別子を含むことを特徴とする請求項
7に記載の送信機。
【請求項9】
前記送信機は、
前記リターン信号に基づいて、前記受信機に対応する表示装置を識別する手段と、
前記受信機に対応する表示装置に基づいて前記プロファイルを選択する手段と、を更に含むことを特徴とする請求項
7に記載の送信機。
【請求項10】
前記複数のプロファイルは、第1~第8プロファイルの中の一つ以上を含み、
前記第1プロファイルは、一群のピクセルの任意のピクセルからのピクセルデータが送信後に前記受信機で損失された場合、前記受信機が周辺ピクセルの値を平均化することで損失されたピクセルデータを再計算することができるように、チャンネル品質が第1臨界レベルを超える非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第2プロファイルは、一群のピクセルの一つのピクセルからのピクセルデータが前記受信機に送信されず、前記受信機が周辺ピクセルの値を平均化することで前記一つのピクセルからのピクセルデータを再計算することができるように、チャンネル品質が前記第1臨界レベルよりも低いが第2臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第3プロファイルは、パケット内のピクセルの最下位ビットが前記受信機に送信されず、前記受信機が前記最下位ビットを補償することができるように、チャンネル品質が前記第1臨界レベル及び前記第2臨界レベルよりも低いが第3臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、
前記第4、第5、第6、及び第7プロファイルは、複数のデータレイヤを生成するレイヤ-基盤圧縮方法を用いて圧縮された圧縮ビデオデータを送信するためのパラメータを定義し、
前記複数のデータレイヤは、第1圧縮比を有する最高レイヤと、前記最高レイヤ及び任意の介在レイヤに追加される場合に前記第1圧縮比よりも低い第2圧縮比を有するデータを有する最低レイヤとを含み
前記第4プロファイルにより、前記複数のデータレイヤの各々は前記受信機に送信され、
前記第5プロファイルにより、前記複数のデータレイヤのサブセットは前記受信機に送信され、
前記第6プロファイルにより、前記複数のデータレイヤの中の単一のデータレイヤは前記受信機に送信され、
前記第7プロファイルにより、前記複数のデータレイヤの一つ以上のデータレイヤの一部のみが前記受信機に送信され、
前記第8プロファイルは、前記ビデオデータをディスプレイするための表示装置に基づいて異なる優先順位レベルを有するビデオデータを送信するためのパラメータを定義することを特徴とする請求項
7に記載の送信機。
【請求項11】
前記選択されたプロファイルに関する情報は、前記選択されたプロファイルに対応する圧縮解除、リバースレイヤリング、デコーディング、又は誤り訂正情報の一つ以上を含むことを特徴とする請求項
7に記載の送信機。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子データ通信システム及び方法に関し、より詳細には、無線通信チャンネルを通じて受信機にディスプレイパネルに対するビデオデータを送信する方法及びデータ送信機に関する。
【背景技術】
【0002】
本発明は、2016年9月26日に米国特許庁に出願され、発明の名称が「A SYSTEM AND METHOD FOR CROSS LAYER IMAGE OPTIMIZATION(CLIO) FOR WIRELESS VIDEO TRANSMISSION OVER MULTI-GIGABIT CHANNELS」である米国仮特許出願番号第62/400,042号を優先権として主張し、この文書の全体内容は引用により本明細書に含まれる。本発明は追加的に、「System and Method for Electronic Data Communication」という名称の米国特許出願及び「System and Method for Electronic Data Communication」という名称の米国特許出願に関連しており、この両出願の全体内容は引用により本明細書に含まれる。
【0003】
無線を通じたビデオ送信に対する要求は新たなアプリケーション及び利用事例の出現により増加している。高解像度ディスプレイスクリーンの技術的進歩及び高品質ビデオ(HD、FHD、UHDなど)の出現は、最近数年間の高スループット送信に対する帯域幅の要件を増加させた。例えば、非圧縮(uncompressed)UHD(Ultra High Definition)ビデオは12Gbpsの帯域幅を要求する。
【0004】
高いデータレートの制約以外にも、無線ビデオ送信は時間/遅延にも敏感である。秒当たり60フレームを提供する場合、フレーム間の時間(inter-frame time)は1/60秒=16.6msである。従って、16.6ms内に受信されないフレームの任意の部分はディスプレイが次のフレームのレンダリングを始めることができるように脱落(drop)させなければならず、データ再送信は通常実行可能なオプションでない。高い帯域幅及びレイテンシ要件以外にも、無線チャンネルは干渉を受けやすく、これは無線チャンネルの品質が時間の経過により予測不可能に変動するおそれがある。従って、無線チャンネルを通じて高品質のビデオデータを伝送するために保証されたサービス品質(QoS)を提供することが難しくなる。
【0005】
この背景セクションで説明した上記情報は、単に説明した技術の背景に対する理解を高めるためのものに過ぎず、そのため、それは当業者に既に知られた従来の技術を構成しない情報を含み得る。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、上記従来の問題点に鑑みてなされたものであって、本発明の目的は、無線通信チャンネルを通じて受信機にディスプレイパネルに対するビデオデータを送信する方法及びデータ送信機を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するためになされた本発明の一態様によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからデータ信号を受信する段階と、前記受信機からリターン信号(return signal)を受信する段階と、チャンネル品質、ビデオ品質、コーデック要件、又はデータレート要件の一つ以上に基づいて、前記データ信号を前記受信機に送信するための一つ以上のパラメータを各々含み、非圧縮ビデオデータの送信に対応する一つ以上のプロファイル及び圧縮ビデオデータの送信に対応する一つ以上のプロファイルを含む複数のプロファイルの中から一つのプロファイルを選択する段階と、前記ディスプレイパネル上のディスプレイのために前記選択されたプロファイルに従って前記データ信号を前記受信機に送信する段階と、を有する。
【0008】
前記送信機により受信されたデータ信号は、ビデオデータ信号であり得る。
前記ビデオ送信方法は、前記送信機により、前記リターン信号に基づいて前記複数のプロファイルの中から前記プロファイルを選択する段階を更に含み、前記リターン信号は、前記受信機により測定された前記無線通信チャンネルの品質の識別子を含み得る。
前記ビデオ送信方法は、前記送信機により、前記リターン信号に基づいて前記複数のプロファイルの中から前記プロファイルを選択する段階を更に含み、前記リターン信号は、前記受信機により測定された視覚品質の識別子を含み得る。
前記ビデオ送信方法は、前記送信機により、前記リターン信号に基づいて前記受信機に対応する表示装置を識別する段階と、前記受信機に対応する表示装置に基づいて前記プロファイルを選択する段階と、を更に含み得る。
前記複数のプロファイルは、第1~第8プロファイルの中の一つ以上を含み、前記第1プロファイルは、一群のピクセルの任意のピクセルからのピクセルデータが送信後に前記受信機で損失された場合、前記受信機が周辺ピクセルの値を平均化することで損失されたピクセルデータを再計算することができるように、チャンネル品質が第1臨界レベルを超える非圧縮ビデオデータを送信するためのパラメータを定義し、前記第2プロファイルは、一群のピクセルの一つのピクセルからのピクセルデータが前記受信機に送信されず、前記受信機が周辺ピクセルの値を平均化することで前記一つのピクセルからのピクセルデータを再計算することができるように、チャンネル品質が前記第1臨界レベルよりも低いが第2臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、前記第3プロファイルは、パケット内のピクセルの最下位ビットが前記受信機に送信されず、前記受信機が前記最下位ビットを補償することができるように、チャンネル品質が前記第1臨界レベル及び前記第2臨界レベルよりも低いが第3臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、前記第4、第5、第6、及び第7プロファイルは、複数のデータレイヤを生成するレイヤ-基盤圧縮方法を用いて圧縮された圧縮ビデオデータを送信するためのパラメータを定義し、前記複数のデータレイヤは、第1圧縮比を有する最高レイヤ(highest layer)と、前記最高レイヤ及び任意の介在レイヤに追加される場合に前記第1圧縮比よりも低い第2圧縮比を有するデータを有する最低レイヤと、を含み、前記第4プロファイルにより、前記複数のデータレイヤの各々は前記受信機に送信され、前記第5プロファイルにより、前記複数のデータレイヤのサブセットは前記受信機に送信され、前記第6プロファイルにより、前記複数のデータレイヤの中の単一のデータレイヤは前記受信機に送信され、前記第7プロファイルにより、前記複数のデータレイヤの一つ以上のデータレイヤの一部のみが前記受信機に送信され、前記第8プロファイルは、前記ビデオデータをディスプレイするための表示装置に基づいて異なる優先順位レベルを有するビデオデータを送信するためのパラメータを定義し得る。
前記ビデオ送信方法は、前記送信機により、前記データ信号のヘッダパケット内のビット選択により前記選択されたプロファイルに関する情報を前記受信機に送信する段階を更に含み得る。
前記選択されたプロファイルに関する情報は、前記選択されたプロファイルに対応する圧縮解除、リバースレイヤリング(reverse layering)、デコーディング、又は誤り訂正情報の一つ以上を含み得る。
【0009】
上記目的を達成するためになされた本発明の一態様による送信機は、無線通信チャンネルを通じて受信機にディスプレイパネルに対するデータを送信する送信機であって、前記送信機は、データソースからデータ信号を受信する手段と、前記受信機からリターン信号を受信する手段と、チャンネル品質、ビデオ品質、コーデック要件、又はデータレート要件の一つ以上に基づいて、前記データ信号を前記受信機に送信するための一つ以上のパラメータを各々含み、非圧縮ビデオデータの送信に対応する一つ以上のプロファイル及び圧縮ビデオデータの送信に対応する一つ以上のプロファイルを含む複数のプロファイルの中から一つのプロファイルを選択する手段と、前記ディスプレイパネル上のディスプレイのために前記選択されたプロファイルに従ってデータ信号を前記受信機に送信する手段と、を備える。
【0010】
前記送信機により受信されたデータ信号は、ビデオデータ信号であり得る。
前記送信機は、前記リターン信号に基づいて前記複数のプロファイルの中から前記プロファイルを選択する手段を更に含み、前記リターン信号は、前記受信機により測定された前記無線通信チャンネルの品質の識別子を含み得る。
前記送信機は、前記リターン信号に基づいて前記受信機に対応する表示装置を識別する手段と、前記受信機に対応する表示装置に基づいてプロファイルを選択する手段と、を更に含み得る。
前記複数のプロファイルは、第1~第8プロファイルの中の一つ以上を含み、前記第1プロファイルは、一群のピクセルの任意のピクセルからのピクセルデータが送信後に前記受信機で損失された場合、前記受信機が周辺ピクセルの値を平均化することで損失されたピクセルデータを再計算することができるように、チャンネル品質が第1臨界レベルを超える非圧縮ビデオデータを送信するためのパラメータを定義し、前記第2プロファイルは、一群のピクセルの一つのピクセルからのピクセルデータが前記受信機に送信されず、前記受信機が周辺ピクセルの値を平均化することで前記一つのピクセルからのピクセルデータを再計算することができるように、チャンネル品質が前記第1臨界レベルよりも低いが第2臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、前記第3プロファイルは、パケット内のピクセルの最下位ビットが前記受信機に送信されず、前記受信機が前記最下位ビットを補償することができるように、チャンネル品質が前記第1臨界レベル及び前記第2臨界レベルよりも低いが第3臨界レベルよりも高い非圧縮ビデオデータを送信するためのパラメータを定義し、前記第4、第5、第6、及び第7プロファイルは、複数のデータレイヤを生成するレイヤ-基盤圧縮方法を用いて圧縮された圧縮ビデオデータを送信するためのパラメータを定義し、前記複数のデータレイヤは、第1圧縮比を有する最高レイヤ(highest layer)と、前記最高レイヤ及び任意の介在レイヤに追加される場合に前記第1圧縮比よりも低い第2圧縮比を有するデータを有する最低レイヤと、を含み、前記第4プロファイルにより、前記複数のデータレイヤの各々は前記受信機に送信され、前記第5プロファイルにより、前記複数のデータレイヤのサブセットは前記受信機に送信され、前記第6プロファイルにより、前記複数のデータレイヤの中の単一のデータレイヤは前記受信機に送信され、前記第7プロファイルにより、前記複数のデータレイヤの一つ以上のデータレイヤの一部のみが前記受信機に送信され、前記第8プロファイルは、前記ビデオデータをディスプレイするための表示装置に基づいて異なる優先順位レベルを有するビデオデータを送信するためのパラメータを定義し得る。
前記送信機は、前記データ信号のヘッダパケット内のビット選択により前記選択されたプロファイルに関する情報を前記受信機に送信する手段を更に含み、前記選択されたプロファイルに関する情報は、前記選択されたプロファイルに対応する圧縮解除、リバースレイヤリング、デコーディング、又は誤り訂正情報の一つ以上を含み得る。
【0011】
上記目的を達成するためになされた本発明の他の態様によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからデータ信号を受信する段階と、前記受信機からリターン信号を受信する段階と、前記データ信号を前記受信機に送信するための一つ以上のパラメータを各々含み、非圧縮ビデオデータの送信に対応する一つ以上のプロファイル及び圧縮ビデオデータの送信に対応する一つ以上のプロファイルを含む複数のプロファイルの中から一つのプロファイルを選択する段階と、前記ディスプレイパネル上のディスプレイのために前記選択されたプロファイルに従って前記データ信号を前記受信機に送信する段階と、を有する。
【0012】
前記ビデオ送信方法は、チャンネル品質に基づいて前記プロファイルを選択する段階を更に含み得る。
前記ビデオ送信方法は、前記受信機で測定されたビデオ品質に基づいてプロファイルを選択する段階を更に含み得る。
前記ビデオ送信方法は、コーデック要件に基づいてプロファイルを選択する段階を更に含み得る。
前記ビデオ送信方法は、データレート要件に基づいてプロファイルを選択する段階を更に含み得る。
前記ビデオ送信方法は、前記送信機により、前記リターン信号に基づいて前記受信機に対応する表示装置を識別する段階と、前記受信機に対応する表示装置に基づいて前記プロファイルを選択する段階と、を更に含み得る。
前記ビデオ送信方法は、前記送信機により、前記受信機からのリターン信号をモニタリングする段階と、チャンネル品質又はビデオ品質の一つ以上の変化に基づいて後続送信のための他のプロファイルを選択する段階と、を更に含み得る。
【0013】
一実施形態によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからビデオデータのフレームを受信する段階と、前記ビデオデータのフレームに対応するビットを複数の重要度レベルにそれぞれ対応する複数のグループにグループ化する段階と、前記複数のグループの中の一番目になるように配列され、最高重要度レベルを有する複数のパケットヘッダに対応するグループを有する再構成されたデータフレームを生成するために重要度順にグループを再構成する段階と、各パケットヘッダに対応するデータビットの長さを示す値を前記各パケットヘッダの前に挿入する段階と、前記複数のグループの中の各々のグループが対応する重要度レベルに基づく異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのために前記ビデオデータのフレームに対応するビットを前記受信機に送信する段階と、を有する。
【0014】
前記各々のグループは、対応する重要度レベルに基づいて異なる変調及びコーディング方式(MCS)値を有する。
前記各々のグループは、対応する重要度レベルに基づいて異なる順方向誤り訂正コーディングレートを有する。
前記ビデオ送信方法は、前記受信機のデコーダーがビデオデータのフレームを再構成する段階を更に含む。
前記ビデオデータのフレームを再構成する段階は、前記各パケットヘッダを元の相対的位置に移動させる段階を含む。
前記ビデオデータのフレームを再構成する段階は、前記データビットの長さを示す値を除去する段階を含む。
前記ビデオ送信方法は、前記送信機により、前記受信機からのリターン信号をモニタリングする段階と、後続送信のための異なる保護技術を調整する段階を更に含む。
前記ビデオ送信方法は、前記送信機により、前記受信機に対応する表示装置のタイプにより異なる保護技術を選択する段階を更に含む。
【0015】
一実施形態による送信機は、無線通信チャンネルを通じて受信機にディスプレイパネルに対するデータを送信する送信機であって、前記送信機は、データソースからビデオデータのフレームを受信する手段と、前記ビデオデータのフレームに対応するビットを複数の重要度レベルにそれぞれ対応する複数のグループにグループ化する手段と、前記複数のグループの中の一番目になるように配列され、最高重要度レベルを有する複数のパケットヘッダに対応するグループを有する再構成されたデータフレームを生成するために重要度順にグループを再構成する手段と、各パケットヘッダに対応するデータビットの長さを示す値を前記各パケットヘッダの前に挿入する手段と、前記複数のグループの中の各々のグループが対応する重要度レベルに基づく異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのために前記ビデオデータのフレームに対応するビットを前記受信機に送信する手段と、を備える。
【0016】
前記各々のグループは、対応する重要度レベルに基づいて異なる変調及びコーディング方式(MCS)値を有する。
前記各々のグループは、対応する重要度レベルに基づいて異なる順方向誤り訂正コーディングレートを有する。
前記送信機は、前記受信機のデコーダーが前記各パケットヘッダを元の相対的位置に移動させることによって前記ビデオデータのフレームを再構成する手段を更に含む。
前記送信機は、前記受信機からのリターン信号をモニタリングする手段と、後続送信のために異なる保護技術を調整する手段と、を更に含む。
【0017】
他の実施形態によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからビデオデータのフレームを受信する段階と、前記ビデオデータのフレームに対応するビットを複数の重要度レベルにそれぞれ対応する複数のグループにグループ化する段階と、前記複数のグループの中の一番目になるように配列され、最高重要度レベルを有する複数のパケットヘッダに対応するグループを有する再構成されたデータフレームを生成するために重要度順にグループを再構成する段階と、前記複数のグループの中の各々のグループが対応する重要度レベルに基づく異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのために前記ビデオデータのフレームに対応するビットを前記受信機に送信する段階と、有する。
【0018】
前記ビデオ送信方法は、前記送信機により、各パケットヘッダに対応するデータビットの長さを示す値を前記各パケットヘッダの前に挿入する段階を更に含む。
前記各々のグループは、対応する重要度レベルに基づいて異なる変調及びコーディング方式(MCS)値を有する。
前記各々のグループは、対応する重要度レベルに基づいて異なる順方向誤り訂正コーディングレートを有する。
前記ビデオ送信方法は、前記受信機のデコーダーがビデオデータのフレームを再構成する段階を更に含む。
前記ビデオ送信方法は、前記送信機により、前記受信機からのリターン信号をモニタリングする段階と、チャンネル品質又はビデオ品質の一つ以上の変化に基づいて後続送信のための異なる保護技術を調整する段階と、を更に含む。
前記ビデオ送信方法は、前記送信機により、前記受信機に対応する表示装置のタイプによりイメージの異なる領域に対応するデータに対して異なる保護技術を選択する段階を更に含む。
【0019】
更に他の実施形態によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからビデオデータのフレームを受信する段階と、前記ビデオデータのフレームのビットの重要度レベルにより前記ビデオデータのフレームを複数のパケットで再構成する段階と、各パケットの異なる相対的重要度レベルに対応し、前記各パケットに対応するタグを生成する段階と、前記各パケットに対応するタグに基づいて前記各パケットに対して異なる保護技術を遂行する段階と、前記各パケットが対応するタグに基づいて異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのためにパケット及びタグを前記受信機に送信する段階と、を有する。
【0020】
前記各パケットのタグは、パケットの相対的重要度レベルを示すビットパターンがパケットのヘッダに追加される。
前記各パケットのタグは、対応する重要度レベルに基づく変調及びコーディング方式(MCS)値に対応する。
より重要なパケットは、少し重要なパケットよりも低いMCS値を有する。
前記各パケットのタグは、対応する重要度レベルに基づく順方向誤り訂正コーディングレートに対応する。
前記ビデオ送信方法は、前記送信機により、複数のアグリゲーティングされたMACプロトコルデータユニット(A-MPDU)サブフレームでパケットをパッキングする段階と、前記A-MPDUサブフレームを前記受信機に送信する段階と、を更に含む。
前記ビデオ送信方法は、前記送信機により、複数の物理レイヤ収束手続(PLCP)プロトコルデータユニット(PPDU)フレームを同一のタグでタギングする段階と、同一の重要度レベルを有するA-MPDUサブフレームをPPDUフレームでパッキングする段階と、前記PPDUフレームを前記受信機に送信する段階と、を更に含む。
前記ビデオ送信方法は、前記送信機により、前記受信機に対応する表示装置のタイプにより前記ビデオデータのフレームのイメージの異なる領域に対して異なる保護技術を選択する段階を更に含む。
【0021】
他の実施例による送信機は、無線通信チャンネルを通じて受信機にディスプレイパネルに対するデータを送信する送信機であって、前記送信機は、データソースからビデオデータのフレームを受信する手段と、前記ビデオデータのフレームのビットの重要度レベルにより前記ビデオデータのフレームを複数のパケットで再構成する手段と、各パケットの異なる相対的重要度レベルに対応し、前記各パケットに対応するタグを生成する手段と、前記各パケットに対応するタグに基づいて前記各パケットに対して異なる保護技術を遂行する手段と、前記各パケットが対応するタグに基づいて異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのためにパケット及びタグを受信機に送信する手段と、を備える。
【0022】
前記各パケットのタグは、パケットの相対的重要度レベルを示すビットパターンがパケットのヘッダに追加される。
前記各パケットのタグは、対応する重要度レベルに基づく変調及びコーディング方式(MCS)値に対応する。
前記各パケットのタは、対応する重要度レベルに基づく順方向誤り訂正コーディングレートに対応する。
前記送信機は、複数のアグリゲーティングされたMACプロトコルデータユニット(A-MPDU)サブフレームでパケットをパッキングする手段と、前記A-MPDUサブフレームを受信機に送信する手段と、を更に含む。
前記送信機は、複数の物理レイヤ収束手続(PLCP)プロトコルデータユニット(PPDU)フレームを同一のタグでタギングする手段と、同一の重要度レベルを有するA-MPDUサブフレームをPPDUフレームでパッキングする手段と、前記PPDUフレームを前記受信機に送信する手段と、を更に含む。
【0023】
また更に他の実施形態によるビデオ送信方法は、無線通信チャンネルを通じて受信機と電子通信する送信機によりディスプレイパネルに対するビデオを送信する方法であって、前記送信機により、データソースからビデオデータのフレームを受信する段階と、前記ビデオデータのフレームのビットの重要度レベルにより前記ビデオデータのフレームを複数のパケットで再構成する段階と、各パケットの異なる相対的重要度レベルに対応し、前記各パケットに対応するタグを生成する段階と、前記各パケットが対応するタグに基づいて異なる保護技術により送信されるように、ディスプレイパネル上のディスプレイのためにパケット及びタグを前記受信機に送信する段階と、を有する。
【0024】
前記ビデオ送信方法は、前記送信機により、前記各パケットに対応するタグに基づいて前記各パケットに対して異なる保護技術を遂行する段階を更に含む。
前記各パケットのタグは、パケットの相対的重要度レベルを示すビットパターンがパケットのヘッダに追加される。
前記ビデオ送信方法は、前記送信機により、複数のアグリゲーティングされたMACプロトコルデータユニット(A-MPDU)サブフレームでパケットをパッキングする段階と、前記A-MPDUサブフレームを前記受信機に送信する段階と、を更に含む。
前記ビデオ送信方法は、前記送信機により、複数の物理レイヤ収束手続(PLCP)プロトコルデータユニット(PPDU)フレームを同一のタグでタギングする段階と、同一の重要度レベルを有するA-MPDUサブフレームをPPDUフレームでパッキングする段階と、前記PPDUフレームを前記受信機に送信する段階と、を更に含む。
前記ビデオ送信方法は、前記送信機により、前記受信機からのリターン信号をモニタリングする段階と、チャンネル品質又はビデオ品質の少なくとも一つ以上の変化に基づいて異なる保護技術を調整する段階と、を更に含む。
【発明の効果】
【0025】
本発明によると、電子データ通信のためのシステム及び方法が提供される。
【図面の簡単な説明】
【0026】
【
図1】本発明の一実施形態によるクロス-レイヤ最適化システムのハイレバル概要を説明するための無線データ送信システムの一例を示すブロック図である。
【
図2】本発明の一実施形態により利用されるレイヤ-基盤圧縮方式の一例を示す図である。
【
図3】本発明の一実施形態によるAPP、MAC、及びPHYレイヤにおける制御方式を含むデータ送信システムのクロス-レイヤ最適化システムのアーキテクチャー及び一部のコンポーネントの追加細部事項の一例を示すブロック図である。
【
図4】本発明の一実施形態によるピクセルを異なるタイプでパーティショニングする一例を示す図である。
【
図5】本発明の一実施形態による片目の視野の一例を示す図である。
【
図6】本発明の一実施形態によるパケット又はレイヤ構造の再構成の一例を示す図である。
【
図7】本発明の一実施形態によるヘッダ構造の一例を示す図である。
【
図8】本発明の一実施形態によるデータの再構成の一例を示す図である。
【
図9】本発明の一実施形態によるピクセルビット及びパケットの再構成の一例を示す図である。
【
図10】無線通信標準下で利用可能なヘッダフィールドの一例を示す図である。
【
図11】本発明の一実施例によるクロス-レイヤイメージ最適化のための方法の多様なオペレーションの一例を示すフローチャートである。
【発明を実施するための形態】
【0027】
以下、本発明を実施するための形態の具体例を、図面を参照しながら詳細に説明する。
【0028】
以下の詳細な説明は、本発明により提供されるマルチ-ギガビットチャンネル(multi-gigabit channel)上の無線ビデオ送信のためのクロス-レイヤイメージ最適化(cross layer image optimization:CLIO)のためのシステム及び方法の実施形態であり、本発明の唯一の形態を示すものではない。以下の説明は例示する実施形態に関連して本発明の特徴を記述する。しかし、同一又は等価の機能及び構造が本発明の思想及び範囲内に含まれるものと意図される異なる実施形態により達成され得ることが理解される。本明細書の他の部分に示す通り、類似する図面符号は類似する部分又は特徴を示す。
【0029】
ディスプレイ技術の未来は多様な無線ストリーミングデバイス(携帯電話、セットップボックス、プロジェクターなど)により提供される廉価のディスプレイで満たされる世界を含む。無線リンクを通じた高品質ビデオ送信は難題であることを示す。無線デバイスは非定常性である一方、無線リンクは、帯域幅が不足であり、多様な種類のノイズにぜい弱であり、またレイテンシ(latency)が高く、可変的であり、これは特にビデオに有害である。ビデオ送信の厳しい要件により、異なるレイヤ(例えば、アプリケーション(APP)レイヤ、媒体アクセス制御(MAC)レイヤ、及び物理(PHY)レイヤ)が独立的に設計される一般的な設計方法は、高いデータレート無線データ送信を可能にしない。従って、本発明の実施形態は、一つのレイヤにおける情報が異なるレイヤのパラメータを変更するために利用されるクロスレイヤ接近法を提供する。このような柔軟性は、無線リンクの速い変化に対する迅速な適応を許容する。
【0030】
IEEE802.11ad標準は、非圧縮FHD(full high definition)無線ビデオに必要なビットレートを提供する。802.11adは、2.16GHzの帯域幅を有するチャンネルを使用する60GHz帯域で作動し、単一キャリアを使用して物理レイヤ(PHY)で最大4.6Gbpsの帯域幅を提供し、これは非圧縮FHDビデオ送信に十分である。しかし、IEEE802.11adは確実な配置でのみ最大帯域幅を獲得することができる。例えば、IEEE802.11adは、送信機と受信機が互いに短距離内に、そしてLoS(line of sight)内に位置するように要求する。従って、本発明の実施形態は無線データ送信に対して向上させたアプローチを提供する。
【0031】
いくつかの実施形態によると、本発明の多様な特性は、物理(PHY)、媒体アクセス制御(MAC)、又はアプリケーション(APP)クロスレイヤソリューションをはじめ、無線ネットワークを通じたビデオストリーミングのためのQoSを向上させ、保証することに用いられる。従って、一つのレイヤ(例えば、MACレイヤ)からの情報は他のレイヤ(例えば、APPレイヤ)のパラメータを最適化することに用いられる。例えば、ビデオストリーミングで、APPレイヤはレート制御(ネットワーク認識)においてチャンネル品質に関する情報を利用する。また、下位レイヤはビデオトラフィック特性に関する情報を利用するように構成される。多様な実施形態により、システムは、動的プロファイルパーティショニング、パケットに対する動的タギング、レイヤ基盤圧縮技術における異なるレイヤに対する不均一誤り保護、重要度レベル認識及び変調/コーディング選択、パケット化、及びビット又はピクセル間引き(pruning)を利用する。
【0032】
一実施形態によると、クロスレイヤ方法は、遅延制限された拡張可能なビデオ送信で知覚品質を最適化するために用いられる。また、それぞれのビデオレイヤに対するPHYレイヤのパケット損失可視性(packet loss visibility)により不均一誤り保護(Unequal Error Protection:UEP)が用いられる。また、APPレイヤにバッファ-認識ソース適応(buffer-aware source adaptation)が存在する。レート適応方式はIEEE802.11メディア独立的ハンドオーバー(MIH)フレームワークに基づくQoS-駆動シームレスハンドオフ方式のために使用される。レートを制御するために、量子化パラメータ(QP)は単一のレイヤコーディング(AVC/H.264)に対して適応され、向上レイヤは拡張可能コーディング(SVC/H.264)のために脱落される。無線ビデオ送信で承認されたセッションの数及びビデオ品質の観点でQoSを最適化するための承認制御及び自動レイヤ管理と共にレート及びトラフィック適応も含まれる。トラフィック管理、経路選択、及びフレームフィルタリングは、セルラーネットワークでUDP/RTPを通じたビデオストリーミングのためのクロスレイヤ最適化技術として含まれる。クロスレイヤフレームワークは、使用者のQoSレベル及びディスプレイの大きさ及びエネルギー制約を考慮した無線マルチメディアブロードキャスト受信機のエネルギー効率を最適化するために、ビデオコーデック最適化、レイヤコーディング送信(layer coded transmission)のための時間スライシング最適化、及び適応型変調及びコーディング方式(MCS)を含む。
【0033】
元来、圧縮はソースから冗長性(redundancy)を除去し、これによって本質的に送信誤りに対してより敏感である。圧縮システムがビデオストリームで送信誤りの影響を緩和することに用いられるいくつかの方法がある。ビデオストリームが品質、空間的又は時間的拡張性がある場合、不均一誤り保護(UEP)の概念を用いてより重要な情報ビットに対してより高いレベルの保護を提供することができる。受信機側で、ビデオストリームが誤り耐性の特性を有する場合、誤り電波は最小化され、良好な比率の誤りは無視される。デコーディングの後に、誤り隠蔽(error concealment)をデコーディングされた出力に適用する。時間的誤り隠蔽を使用する一つの技術は、前のフレームを格納し、現在のフレームが損傷された場合、そのフレームを再生するものである。他の可能性は、誤りがある領域の周辺ピクセルを用いて現在のピクセルを予測するものである。一般的に、誤り隠蔽は他の方法が失敗した場合に最後の手段として使用される。
【0034】
図1は、本発明の一実施形態によるクロス-レイヤ最適化システムのハイレバル概要を説明するための無線データ送信システム100の一例を示すブロック図である。無線データ送信システム100は、送信機102及び受信機106を含む。送信機102は、データソース104(例えば、ビデオカードコンピュータシステムのような外部データソース)からのデータ(例えば、非圧縮ビデオデータ)を入力端子103で受信する。受信機106は、イメージ及びビデオをディスプレイするディスプレイパネル110を有する使用者のデバイス又は電子装置108(例えば、電子表示装置、スマートフォン、テレビ、タブレットなど)に統合される。ディスプレイパネル110は複数のピクセルを含み、各ピクセルは複数の異なるカラーコンポーネント(又はサブ-ピクセル)(例えば、各ピクセルは赤色コンポーネント、緑色コンポーネント、及び青色コンポーネントを含む)を含む。
【0035】
ビデオの観点でみると、ビデオのそれぞれのフレームは、ディスプレイパネル110上にイメージとしてディスプレイ(例えば、簡略にディスプレイ)される。一実施形態で、ディスプレイパネル110は、例えばテレビ、モニター、携帯電話、タブレットコンピュータ、ウェアラブルデバイス、拡張現実(AR)ヘッドセット、仮想現実(VR)ヘッドセットのような一体型ディスプレイを有する任意の電子装置108の一部として含まれる。
【0036】
また、送信機102及び受信機106には無線ラジオ(112、114)が統合されており、送信機102は無線ラジオ(112、114)を通じて受信機106と無線データ通信する。従って、送信機102及び受信機106は任意の適切な無線データスペクトル及び標準(例えば、IEEE(Institute of Electrical and Electronics Engineers)802.11標準)を用いて相互間でデータのやり取りをする。例えば、送信機102は直通(例えば、データ)チャンネル130(例えば、無線通信チャンネル)を通じて受信機106にクロス-レイヤイメージ最適化方式のパラメータ又は特性と共にデータ信号を送信し、受信機106はリターンチャンネル132を通じて送信機102にフィードバックデータ又はリターン信号(例えば、チャンネル又は視覚品質データを含む)を送信する。
【0037】
他のエレメントのうち、送信機102は、アプリケーション(APP)レイヤ116(例えば、ディスプレイプロトコル及びビデオエンコーダモジュールを含む)、媒体アクセス制御(MAC)レイヤ118、及び物理(PHY)レイヤ120を更に含む。本実施形態により、クロス-レイヤイメージ最適化の多様な様相がAPPレイヤ116、MACレイヤ118、及びPHYレイヤ120で遂行されるか又は実行される。これと同様に、受信機106は、APPレイヤ122、MACレイヤ124、及びPHYレイヤ126を含む。
【0038】
無線データ送信システム100は、クロス-レイヤイメージ最適化システム及び方法を制御するために、送信機102の一部として又は送信機102と協力して動作するクロス-レイヤイメージ最適化(CLIO)モジュール又はエンジン134を更に含む。CLIOモジュール134は、例えばプロセッサー及びプロセッサーに結合されたメモリを含み、メモリはプロセッサーにより実行される命令を格納し、この命令はプロセッサーが本明細書で説明するクロス-レイヤイメージ最適化システム及び方法の多様な動作を実行する。例えば、CLIOモジュール134は、APPレイヤ116、MACレイヤ118、及びPHYレイヤ120と電子通信してデータ及び命令を交換することによって、本明細書で説明するクロス-レイヤイメージ最適化システム及び方法を遂行する。
【0039】
従って、
図1に示した通り、無線データ送信システム100は、APPレイヤ116、MACレイヤ118、及びPHYレイヤ126でクロス-レイヤイメージ最適化のための多様なメカニズムを実現した後、送信機102でデータを受信し、受信機106にデータを送信する。
【0040】
ビデオ圧縮/圧縮解除システム又はコーデックは、本質的に6つの異なる方式、即ち圧縮、品質(わい曲)、複雑度、レイテンシ、品質拡張性、及び誤り耐性で評価される。
【0041】
一部の実施形態によると、ビデオ又はデータストリームが多数の品質レイヤ、解像度レイヤ、空間位置、又はカラーコンポーネントで構文解析(パーシング)されるか又は分割されるレイヤ-基盤圧縮アーキテクチャーがデータ又はビデオ圧縮のために用いられる。関連技術のレイヤ-基盤圧縮アーキテクチャー(例えば、JPEG2000)で、データストリームはフレームヘッダで始まり、次にパケットヘッダ及びデータビットのシークエンスが後に続く。しかし、ストリームは、特にリアルタイムUHDコーデックの場合、重要度の順に整列されなくてもよい。
【0042】
一実施形態で、レイヤ-基盤圧縮システム(例えば、JPEG2000標準又はこれと類似するもの)は、クロス-レイヤイメージ最適化システム及び方法(例えば、CLIOモジュール134により実行される)の一部でレイヤ-基盤圧縮として利用される。本実施形態によるレイヤ-基盤エンコーダは、コンポーネントに対するカラー変換、各カラーチャンネル上のウェーブレット変換、ウェーブレット係数の量子化、及び最後にコード-ブロックとして知られたウェーブレット係数の長方形領域の算術コーディングの各段階を利用する。このようなエンコーダは、カラーコンポーネント、解像度レベル、空間ブロックポジション、又はレイヤに基づいてこれらのコード-ブロックの多様なシークエンスを許容することによってエンコーディングされたデータの構造に対する柔軟性を提供する。個別コードブロックは独立的にデコーディング可能であるが、これらコードブロックに対するヘッダは前のヘッダに依存し、従ってシークエンスの通りデコーディングされる。
【0043】
図2は、本発明の一実施形態により利用されるレイヤ-基盤圧縮方式の一例を示す図である。本実施形態により利用されるレイヤ-基盤圧縮エンコーディングされたデータストリームは、フレームヘッダで始まり、次にパケットヘッダ及びデータビットのシークエンスが後に続く。上述した通り、データストリームは、多数の品質レイヤ、解像度レベル、空間ポジション、及びカラーコンポーネントで分割される。しかし、利用される特定のエンコーディングシステム(例えば、JPEG2000)に依存して、ストリームは、特にリアルタイムUHDコーデックの場合、重要度の順に整列される。
図2の例は、レイヤで生成されたレイヤ-基盤圧縮エンコーディングされたデータストリームの例を示すが、一例として、第1レイヤは8:1の圧縮レベルに対応し、(全ての第1レイヤパケットをデコーディングした)第2レイヤの端で圧縮は4:1にセッティングされる。最後に、第3レイヤパケットをデコーディングすることは2:1圧縮でストリームを伝送するのと等価である。本実施形態は上述した圧縮比又はレイヤの数に制限されない。むしろ、本実施形態は、第1又は最高レイヤが最高圧縮比を有し、次のレイヤは、第1レイヤに追加される時に圧縮比が第1レイヤの圧縮比よりもより低くなるようにするデータを有する方式で行われ、最低又は最後のレイヤが先行レイヤのそれぞれに追加される時に視聴者に比較的低いか、視覚的に無損失か、又は視覚的に殆ど無損失(例えば、1:1、1.5:1、2:1)の圧縮比になるようにするデータを有する時まで行われるように、クロス-レイヤイメージ最適化システム及び方法の設計及び機能により任意の適切な圧縮比を有する任意の適切な数のレイヤを利用する。
【0044】
一部の実施形態によると、VRディスプレイのコンテキストで、立体視イメージ(stereoscopic image)が受信機に送信される時、データ送信の誤りは、その誤りが一側にのみあっても左側及び右側イメージの両方に影響を与える。従って、一部の実施形態で、クロス-レイヤイメージ最適化システム及び方法(例えば、APPレイヤ116のCLIOモジュール134及び/又はビデオエンコーダモジュール)は、左側イメージ+右側イメージの差に対して圧縮を行い、その後、多様な左側イメージ+右側イメージの差のスライスがマルチプレキシングされたストリームとしてエンコーディングされることを保証する。このような手続は、データ送信の誤りがアーチファクト(artifact)の可視性に衝撃を与えるインスタンスの数を(例えば、半分に)減少させる。
【0045】
ビデオストリーミングの品質を向上させるためのクロスレイヤアルゴリズムにおける本実施形態は、PHYレイヤの一つ以上の特徴、例えばPHYレイヤのチャンネル品質の識別子に基づいて変調及びコーディング方式(MCS)が変更される動的適応型変調及びコーディング(AMC)を追加的に利用する。より低いMCS値はより低いビット誤りレートを提供するが、より低いスループットも達成する。MACレイヤは、MCSに基づいて圧縮レートを調整するためにMCSに関してAPPレイヤに通知する。
【0046】
異なるビット及びパケットを損失することは、ビデオ品質に異なる衝撃を与え、本実施形態は、非圧縮/圧縮ビデオで最上位ビット(MSB)に対するより多くの保護、JPEG2000のパケットヘッダに対するより多くの保護、又はMPEG-4のI-フレームに対するより多くの保護をはじめ、UEP接近法を利用してビデオ受信でより重要なビットを保護するように動作する。保護は、より堅固なMCS、再送信、又はリード-ソロモン(Reed-Solomon)のような追加誤り訂正コードを使用することによって達成される。
【0047】
図3は、本発明の一実施形態によるAPP、MAC、及びPHYレイヤにおける制御方式を含むデータ送信システム100のクロス-レイヤ最適化システムのアーキテクチャー及び一部のコンポーネントの追加的な細部事項の一例を示すブロック図である。測定及びフィードバックブロックは、ビット誤りレート、ビデオ品質、及び特定のサービスクラスの使用可能な帯域幅のような条件を推定することに使用される。その後、APPレイヤとMACレイヤのモデルは、最適のビット割当によりビデオ品質のわい曲を最小化して、順方向誤り訂正に必要なビット数を減少させ、その損失の衝撃によりパケットの優先順位を決定する。
【0048】
一部の実施形態で、
図3に示した通り、APPレイヤで、システムは受信機からのフィードバック及び測定に基づいて(例えば、受信機106からのリターンチャンネル132上で受信されたデータに基づいて)光圧縮をイネーブル/ディスエーブルする。フィードバックは、例えばビデオ品質に基づき、ビデオ品質の測定は、例えば受信機により報告される信号対雑音比(SNR)又はピーク信号対雑音比(PSNR)に基づく。
【0049】
図3のMACレイヤは、例えばピクセルパーティショニング、再送信及び多重CRC検査、MSB/LSB分離のような特徴を用いたパケット化、及び異なるバッファをはじめとする多数の機能、モジュール、又は手続を含む。PHYレイヤから受信されたフィードバック又はAPPレイヤのパラメータに基づいて、システム(例えば、CLIOモジュール134)は、MACレイヤでこれらの関数のパラメータを変更し、これらの関数、モジュール、又は手続が如何に作動すべきかを決定する。例えば、ピクセルパーティショニングが遂行されるか否か、及びピクセルパーティショニングが遂行される場合、パーティションがパケットで分割される方法がある。また、これらのシステムは再送信がイネーブルされるか否かを決定するか又は選択するように構成される。
【0050】
一部の実施形態によると、システム(例えば、CLIOモジュール134)はUEP実現でこれらの特徴を利用する。例えば、パケットのうちの一部は再送信のようなこのような特徴を含むか、又はこれらの特徴は異なるMCS又はMSB/LSB分離のように異なるパケットに対して異なるパラメータを有する。
【0051】
PHYレイヤ(例えば、受信機内の対応するPHYレイヤ126と共にPHYレイヤ302及び送信機内の対応するPHYレイヤ120と共にPHYレイヤ300)は、
図3に示した通り、UEPの実現のために多数のレイヤを含む。異なるパケットは異なるMCS値を有する異なるレイヤを通じて伝送される。異なるレイヤは、異なる優先順位を有する異なるバッファに関連付けられる。一部の実施形態により、システム(例えば、CLIOモジュール134)は、ビデオ品質及び測定フィードバックにより異なるパケットを異なるレイヤ及びバッファに関連付ける。
【0052】
一部の実施形態によると、非圧縮又は圧縮送信のためのクロス-レイヤイメージ最適化の第1段階は、レイヤリング(layering)又はパーティショニングである。本実施形態は、以下でより詳細に説明する複数の予め定義されたレイヤリング及び/又はパーティショニングプロファイルを利用する。データ送信セッションの一部として、異なるレイヤリング及び/又はパーティショニングプロファイルのうちの一つは、例えば表示装置のタイプ、ビデオ視覚品質に対する異なる基準又は識別子(ピーク信号対雑音比(PSNR)を含む)、チャンネル品質、コーデック要件又は選択、MCS及びデータレート要件などを含む一つ以上の予め定義されたパラメータに基づいて選択される。それぞれのプロファイルは、例えば他の誤り訂正技術、圧縮、又はパケット化をはじめ、送信機及び受信機における異なるセットの手続を指示するか又はそれによって定義される。
【0053】
また、本実施形態は、異なるレイヤの順序化されたビットストリームに対するクロス-レイヤイメージ最適化の一部として不均一誤り保護(UEP)方法を利用する。ビットストリーム又はパケットの順序化は、レイヤード-基盤圧縮ビデオ又は非-圧縮ビデオ上で遂行される。異なるMCS値はチャンネル品質により異なるレイヤに対して利用される。
【0054】
一部の実施形態によると、(例えば、IEEE802.11adでのように)パケットに対する動的タギング(dynamic tagging)は本発明のクロス-レイヤイメージ最適化システム及び方法の一部として用いられる。重要度レベル認識手続が送信機に対するMACパケット化器及び受信機における逆パケット化器(depacketizer)で実現されるため、重要度レベル及び対応する情報が受信機に送信されるか又はシグナリングされる。
【0055】
上述した通り、本実施形態において、システムは本発明のクロスレイヤイメージ最適化システム及び方法の一部として動的レイヤリング及びパーティショニングプロファイルを利用する。送信機及び受信機(例えば、送信機102及び受信機106)は、複数の予め定義されたレイヤリング/パーティショニングプロファイルを活用するか又はこれに同意する。このようなプロファイルは、ビデオ視覚品質(PSNRを含む)、チャンネル品質、コーデック要件又は選択、MCS、データレート要件などに対する異なる基準に基づいて選択される。受信機は、その後、レイヤリング方法をリバース(reverse)し、及び/又は選択されたプロファイルに対応する誤り隠蔽アルゴリズムを用いて任意の送信誤りを追加的に訂正するために実行される対応する一つ以上のアルゴリズムを選択する。
【0056】
一実施形態において、システムは多様なチャンネル条件と共に使用するために7つのプロファイルを利用するが、プロファイルの数はこれに制限されず、無線データ送信システムの設計及び機能により任意の適切な数のプロファイルが用いられる。
【0057】
例えば、プロファイル「00」はチャンネルが理想的又は略理想的条件で作動する時に対して定義される反面、プロファイル「06」はチャンネルが非常に劣悪な条件で動作する時に対して定義される。「00」と「06」との間のプロファイルはその後に多様な中間条件に対して定義される。
【0058】
図4は、本発明の一実施形態によるピクセルを異なるタイプでパーティショニングする一例を示す図である。例えば、第1プロファイル(例えば、プロファイル「00」又は理想的/略理想的条件プロファイル)は、チャンネル品質が高い場合に対応する非圧縮ビデオ送信のために定義される。このようなプロファイルに対して、ピクセルパーティショニング技術は互いに隣接するピクセルが非常に類似するコンテンツを含む確率が高いと仮定する。4つからなるグループからの任意のピクセルが脱落した場合、それは他の3つのキャプチャされたピクセルから再計算される。プロファイル「00」は、
図4に示した通り、4つのタイプのピクセルでイメージを分割することにより選択される。一つのタイプにおけるピクセルの3つのカラーは1パケットでパッキングされる。全ての4タイプのパケットは受信機に送信される。プロファイル「00」が送信されることを知っている受信機はイメージ品質を向上させることができる。例えば、ピクセルのうちの任意のもののピクセルデータ(又はピクセル内の任意のカラー)が脱落した場合、受信機は4又は8つ(平均化するピクセルの数は動的である)の周辺ピクセルのグループを平均化することによって脱落したピクセル又はカラーを代替する平均化方法を実行する。イメージ圧縮方法は、互いに隣接するピクセルが相関値を有するというアイディアにも依存する。この方法は、エントロピー-コーディング圧縮アルゴリズムに比べて実現がより簡単で、ビット誤りに対してより堅固になる。
【0059】
第2プロファイル(例えば、プロファイル「01」)は、第1プロファイル(プロファイル「00」)と類似に、4タイプのピクセルでイメージを分割することによって選択される。しかし、送信のために3つのタイプのピクセルが選択される。システムは一つのタイプのピクセルを脱落させることによって結果的なわい曲が臨界値より低いか否かを計算する。このプロファイルが受信機にシグナリングされると、受信機は4つのピクセルタイプの各々のうちの3つ(又はそれ以上)の他のピクセルの平均から脱落したピクセルデータ値を推定する。臨界値は、例えば視覚品質(例えば、PSNR)を含む異なる基準に基づいて選択される。送信されないピクセルタイプの選択及び臨界値もシグナリングされる。
【0060】
第3プロファイル(例えば、プロファイル「02」)は、上述した最初の2つのプロファイル(例えば、プロファイル「00」及び「01」)よりも低い帯域幅上で動作する(例えば、それによって選択される)。例えば、第3プロファイルは、一つ又は全てのパケットでピクセルの最下位ビット(LSB)を送信しない。その後、受信機で、平均化アルゴリズムがこのビットを補償する。わい曲に対する他の臨界レベルは、非圧縮ビデオに対して上述した第1又は第2プロファイル(例えば、プロファイル「01」又は「00」)の代わりに、第3プロファイル(例えば、プロファイル「02」)を選択するように考慮される。
【0061】
チャンネルの品質が低く、PHYレイヤがMCSに対するより低い値をシグナリングする場合、他のプロファイルが圧縮ビデオのために考慮される。例えば、無線ビデオ送信のための新たなプロファイルを定義するために多重品質-レイヤリングが用いられる。レイヤード-基盤圧縮で、多重レイヤが上述した通り生成される。本実施形態によると、最高レイヤは複数のレイヤのうちの最高圧縮比を有するデータを含み、最低レイヤは、上位レイヤに追加される場合、比較的低い圧縮比(例えば、1:1又は1:1.5又は任意の適切な又は視覚的無損失圧縮比)でイメージを形成するデータを含む。例えば、(例えば、
図2に例示した通り)3レイヤ圧縮方式で、レイヤ1は4:1の圧縮比を有する圧縮イメージデータを含む。レイヤ2は、レイヤ1に追加された場合、2:1の圧縮比を有する圧縮イメージを形成するデータを含む。レイヤ3は、レイヤ1及びレイヤ2に追加された場合、結果的なイメージが1:1の圧縮比(又は1.5:1又は他の視覚的に無損失圧縮比)を有するビットストリームを含む。
【0062】
送信機は、チャンネル品質、視覚品質、コーデック要件などにより、伝送するレイヤを選択する。レイヤ1、2、及び3(又は全てのレイヤ)を送信する時に第4プロファイル(例えば、プロファイル「03」)を、レイヤ1及び2(又はレイヤのサブ-セット)を伝送する時に第5プロファイル(例えば、プロファイル「04」)を、そしてレイヤ1又は最高圧縮比を有するレイヤを伝送する時に第6プロファイル(例えば、プロファイル「05」)を定義する。第7プロファイル(例えば、プロファイル「07」)に対して、送信機は、レイヤのうちの一つの部分、例えばレイヤ1及びレイヤ2の全部及びレイヤ3の一部のみを伝送する。受信機は、第7プロファイル(例えば、プロファイル「06」)が送信されることを認知することによって、脱落したデータ情報を探索するか又は追加訂正アルゴリズムを実行する。送信機は、元のパケットの長さ、及びパケットヘッダ内の送信されたパケットの長さも示す。これによって、受信機は、レイヤの一部が受信されていないことを認知し、受信されたパケットの正しい大きさを推論する。また、受信機は、パケットの一部が受信されていないことをデコーダーに警告し、それは余分の情報が送信機により再伝送されるか又は再送信されるように要請する。
【0063】
追加のプロファイルは、送信されるデータのタイプ、イメージがディスプレイされるディスプレイの性質、又は同一のイメージの他の部分に対するイメージの特定部分の重要度により設定される。例えば、一部の実施形態によると、イメージの特定部分又は領域は、イメージの一部分に対応するビットに対するデータ送信の誤りがイメージの他の部分に対応するビットに対するデータ送信の誤りよりも視聴者に、より知覚可能であるかもしれないという意味で、イメージの他の部分より重要になる。
【0064】
図5は、本発明の一実施形態による片目の視野の一例を示す図である。一部の実施形態によると、クロス-レイヤイメージ最適化システム及び方法は、例えばディスプレイ(例えば、ディスプレイパネル110)がVRディスプレイであるVRディスプレイシステムのコンテキストで展開される。このような状況で、視聴者のイメージ知覚の大部分(例えば、90%)は、イメージの中央(例えば、視野の中心15度)及びその周囲に焦点を合わせるが、その理由は使用者がイメージの異なる部分に焦点を合わせるために自身の頭を動かす傾向があるためである。従って、
図5に示した通り、クロス-レイヤイメージ最適化システム及び方法(例えば、CLIOモジュール134)は、イメージの第2領域(例えば、ラベル「B」で
図5にラベリングされた領域、例えば、第1領域と第1領域の外側の第2視野の間又は視野の15度と20度との間の領域)よりも、イメージの第1又は中心領域(例えば、ラベル「A」で
図5にラベリングされた領域、例えば視野の15度の領域)に対応するデータを優先視する。また、イメージの第1及び第2領域の両方は、イメージの第3領域(例えば、
図5に「C」でラベリングされた領域、例えば第1及び第2領域の外部又は視野の20度外側の領域)よりも優先視される。
【0065】
より高い重要度又は優先順位を有するイメージの領域を識別する他の方法は、その全体が引用により本明細書に含まれる米国特許出願番号第15/288,977号で説明される。例えば、一部の実施形態によると、より高い重要度を有するイメージの領域に対応するデータは、より低い重要度を有するイメージの領域に対応するデータに比べて、より高いレベルの重要度又はより高い程度の誤り保護を有するように指定される。より高い重要度を有するイメージの領域は、例えば
図5に関連して本明細書で説明した通り、受信機に対応する表示装置のタイプにより変動する。
【0066】
イメージの異なる領域が異なるように優先視されるため、クロス-レイヤイメージ最適化システム及び方法(例えば、CLIOモジュール134)は、イメージの他の領域のデータと比較して、第1領域のデータが最低レベルの誤りを有し、イメージの第2領域が2番目に低いレベルの誤りを有する方式になるように、プロファイル(例えば、上述したようなレイヤリング/パーティショニングプロファイル)又はUEP方式(以下でより詳細に説明する)を選択する。また、一部の実施形態によると、クロス-レイヤイメージ最適化システム及び方法(例えば、CLIOモジュール134)は、外部領域又は領域からの誤りがイメージの最高優先順位(例えば、中心)領域に伝播されないようにデータをパーティショニングする。
【0067】
一部の実施形態によると、クロス-レイヤイメージ最適化システムは、例えば送信のためにイメージの異なる部分を優先視するために、より低い番号プロファイル(例えば、より低い誤りがちのプロファイル(lower error-prone profile))がイメージのより高い優先順位の部分に対して選択され、より高い番号プロファイル(例えば、より高い誤りがちのプロファイル)がイメージのより低い優先順位の部分に対して選択されるように上述した多様なプロファイル(例えば、第1プロファイル~第7プロファイル)を利用する。一部の実施形態によると、別途のプロファイルが表示装置のタイプ(例えば、テレビ、VRディスプレイ、ARディスプレイ、無線医療ディスプレイなど)により具体的に予め定義されるため、データは、交換されるイメージデータの部分の優先順位レベルにより、送信(例えば、圧縮、エンコーディング、パケット化、ビット脱落(bit dropping)又は間引き(pruning))又は受信(例えば、圧縮解除、デコーディング、誤り訂正、逆パケット化、再送信)において異なる手続で送信される。
【0068】
一実施形態で、レイヤリング又はパーティショニングプロファイルに対する選択基準は、ビデオ視覚品質(例えば、PSNR)及び/又はチャンネル品質(例えば、SNR)に基づく。レイヤリングは、非圧縮ビデオ、一部パケットが脱落された非圧縮ビデオ、又は異なる圧縮比を有する圧縮ビデオが伝送されなければならないのかを識別する。キューの優先順位、遅延公差、誤り保護、及び/又は信頼性の観点で異なるレイヤが異なるように取り扱われる。それに相応して、送信機及び受信機は、プロファイルを選択するか又はプロファイル番号を受信することによって、データ送信(例えば、圧縮、エンコーディング、パケット化、ビット脱落又は間引き)又は受信(例えば、圧縮解除、デコーディング、誤り訂正、逆パケット化)の一部として又はその前に、異なる手続をイネーブルする。
【0069】
一部の実施形態によると、プロファイルの選択は、MAC又はPHYヘッダパケットのビット選択により受信機に送信される。ビット選択に基づいて、受信機はレイヤリングのために選択された方法を識別する。プロファイル番号以外に、例えば圧縮において、レイヤの数及び/又はそれぞれのレイヤで、パケット/バイト数をはじめ、選択されたプロファイルに対して要求される任意の他の情報が受信機に送信される。余分の情報はパケットヘッダのビットパターンにより又はセキュリティチャンネルを通じて伝送されるか又は予め定義される。
【0070】
従って、本発明の一つ以上の実施形態は、無線データ通信チャンネル上で送信機から受信機にデータ(例えば、非圧縮ビデオデータ)を送信するために予め定義されたレイヤリング及び/又はパーティショニングプロファイルのセットを選択するためのシステム及び方法を含む。プロファイルは、例えばチャンネル品質、ビデオ品質、コーデック要件又は選択、MCS及びデータレート要件、送信されるデータの性質又は特性、(例えば、受信機にカップリングされた)受信機端の表示装置の性質又は特性を含む多様な条件又はパラメータにより選択される。プロファイルの選択は、例えばMACレイヤ及び/又はPHYレイヤヘッダパケットのビット選択により送信機から受信機に送信される。選択されたプロファイルに依存して、圧縮解除、デコーディング、誤り訂正などに対する一つ以上のパラメータを示す追加情報も送信機から受信機に(例えば、MACレイヤ及び/又はPHYレイヤヘッダパケットで)送信される。送信機から受信機に送信された情報(例えば、ビット選択)に基づいて、受信機は、データレイヤリング及び/又はパーティショニング及び/又は圧縮のために送信機で利用された方法及び/又はプロトコルを識別し、これによりレイヤリング及び/又はパーティショニング及び/又は圧縮をリバースさせ、選択されたプロファイルに対応する誤り隠蔽アルゴリズム又は手続を用いて、送信の間の任意の誤りも訂正するために実行する対応するアルゴリズム又は手続を選択することが可能になる。
【0071】
図6は、本発明の一実施形態によるパケット又はレイヤ構造の再構成の一例を示す図であり、
図7は、本発明の一実施形態によるヘッダ構造の一例を示す図である。本実施形態は、更に、例えばビデオデコーディングのためにより重要なビットを保護するように(例えば、そのビットの適切な送信を容易にするように)優先順位-基盤不均一誤り保護(UEP)を利用する。例えば、レイヤ-基盤圧縮で、より高い圧縮レートに対応するか(例えば、ベースレイヤ又はレイヤ1に対応)又はこれに関連するビットはビデオデコーディングでより重要であり、従ってより多くの保護を必要とする。また、パケットヘッダ又はフレームヘッダのビット誤りはビデオデコーダーが後続データビットをデコーディングできないようにする。クロス-レイヤイメージ最適化システム及び方法の一実施形態において、パケットヘッダは、
図6に示した通り、それぞれのフレームの先頭(beginning)に移動する。また、パケットヘッダは、
図7に示した通り、固有の先頭及び後尾(end)値により識別される。ヘッダがフレームの先頭に移動すると、識別子もヘッダを互いに分離させるように移動する。後尾識別子も一部の例示的な実施例により除去される。最後の後尾識別子はヘッダ情報の端と次のレイヤのデータ情報との間を区別するように維持される。
【0072】
一部の実施形態によると、クロス-レイヤイメージ最適化システム及び方法(例えば、CLIOモジュール134)は、これらのヘッダ及びベースレイヤに対する無線媒体の損失又は誤りに備えて異なる保護技術を利用する。例えば、一部の実施形態によると、異なるMCS値が異なるレイヤに利用されるか又は異なる順方向誤り訂正(FEC)アルゴリズムが異なるコーディングレートで用いられる。また、不均一誤り保護オペレーションはMACレイヤで実行され、これにより本実施形態は、再構成エンジンを向上させるか又は最適化してこれを異なるコーデックに適用することを可能にする。例えば、APPレイヤが全体データをMACレイヤに伝達するが、MACレイヤは本明細書で説明する多様なクロス-レイヤイメージ最適化オペレーションを遂行するためにより多くの柔軟性を有する。また、MACレイヤでUEPを実行することによって、システムは相対的により動的であるが、その理由は、異なる機能が本明細書で説明した通り特定状況により異なるパラメータに修正されるためである。また、本実施形態は、これによって無線チャンネルの状態に基づいて部分的な再構成のみを遂行することが可能になる。
【0073】
図8は、本発明の一実施形態によるデータの再構成の一例を示す図である。本実施形態により利用される圧縮技術は、
図8に示した通り、異なるデータコンポーネントを提供することによって異なる圧縮比のレイヤ以外にも、追加的なパーティショニング技術を提供する。例えば、多様な類似するピクセルビット(例えば、同一又は類似するMCS値を有するピクセルビット)は共にグループ化されるようにパケットで再構成される。異なる優先順位を有する多数のレイヤでその出力もパーティショニングする任意の適切な圧縮技術が用いられる。ヘッダ及びデータ移動において同一のアプローチが用いられる。
【0074】
異なるMCS値又は異なるコーディングレートを有するFECがデータのヘッダ又はパーティションに対して用いられる。
【0075】
一実施形態において、ヘッダはフレームでそのヘッダの次にくるデータパケットの長さに関する情報を含む。一部のインスタンスで、クロス-レイヤイメージ最適化システム及び方法は、チャンネル条件、MCS条件、帯域幅条件などによりそれぞれのレイヤ又はパーティションでデータビットの一部を送信する。従って、送信されるデータストリームの長さもヘッダ情報に添付されて受信機に送信される。例えば、固定された又は予め決定された数のバイト(Nバイト)がこの長さを識別するために予約される。一部の実施形態によると、データストリームの長さは容易な識別のためにそれぞれのヘッダの端にある。
【0076】
従って、本発明の一部の実施形態によるシステム及び方法は、無線データ通信チャンネル上の送信に対する優先順位、遅延公差、及び/又は保護又は信頼性レベルによりレイヤ又はレベル基盤圧縮システムでビットを再パーティショニング又は再構成するように構成される。データフレームは、フレームヘッダ及びパケットヘッダビットを含み、これはデータビットと比較してより高いレベルの保護を必要とする。フレームのデータビットも、異なる優先順位、保護及び/又は信頼性レベルにパーティショニングされる。ヘッダは、予め定義された又は知られたビットストリングにより識別され、データビットは重要度の順により整列される。一部の実施形態によると、より高い優先順位又はより低い遅延公差ビットはデータフレームの先頭に移動するか又は再構成される。例えば、データのフレームは、(例えば、優先順位又は重要度の順に)フレームヘッダで始まり、パケットヘッダが後に続き、データビットが後に続く。パケットヘッダは、予め定義されるか又は予め決定されたビットストリングにより分離されるか又は識別される。また、一部の実施形態により、データビットストリームの長さは、それぞれのパケットヘッダに対応する長さの識別子をパケットヘッダに、その前又はその後に挿入することによって示される。受信機のデコーダーは、例えばパケットヘッダ及び他のデータビットを元の位置(再構成の前)に移動させ、データ長さビットのように任意の追加的に挿入されたデータを除去することによってフレームを再構成するが、フレームを再構成することに追加データを利用する。
【0077】
従って、本実施形態は、クロスレイヤイメージ最適化のための任意のレイヤ及び/又はレベル基盤圧縮技術に対して不均一誤り保護の実現を提供する。ヘッダ、レイヤ、及び/又はデータパーティションは、重要度又は優先順位レベルにより再構成され、そのような再構成は送信機のMACレイヤで実行される。クロスレイヤイメージ最適化方式により、それぞれのパケットからのデータの一定部分は除去されるか又は脱落され、このデータに関する情報はヘッダ情報に統合される。付加的に、本実施形態は、例えば異なる重要度レベルに又は異なるように情報を保護するために順方向誤り訂正(FEC)に対して異なるMCS値を利用することで不均一誤り保護を利用する。一部の実施形態による不均一誤り保護の一部として、全てのヘッダが(例えば、一位置で)共にグループ化されるように再構成されるため、全てのヘッダは、例えばフレームのヘッダのそれぞれに対していくつかの小さい順方向誤り訂正(FEC)を個別的に使用するよりは、一つの不均一誤り保護アルゴリズムを経る。
【0078】
一部の実施形態によると、異なるパケットは、UEP及びレイヤ/パーティション-基盤圧縮を用いて異なるように保護されるため、異なるパケットを損失することは視覚品質に異なるように影響を与える。例えば、ヘッダ又はベースレイヤの特定パケットが損失された場合、システムは受信機側でビデオを再構成できないこともある。一方、一部パケットの損失はPSNR低下を招くことがある。また、上述した通り、システムで利用される表示装置のタイプに依存して、イメージデータの異なる部分は誤りを最小化する観点でイメージデータの他の部分よりもより高い優先順位を有する。従って、本実施形態は、更に、以下でより詳細に説明するように動的UEP及び重要度認識タギングを利用する。
【0079】
上述した通り、本実施形態によるクロス-レイヤイメージ最適化システム及び方法は、パケットを優先順位、遅延公差、保護、又は信頼性に基づく異なる重要度レベルにパーティショニングするように動作する。それぞれの重要度レベルは、送信及び/又は受信時に異なるように取り扱われる。
【0080】
一実施形態で、それぞれのフレームは、異なる重要度レベルを有する多数のビデオパケットで分割される。システムは、その後にそれぞれのパケットを対応する重要度レベルにタギング(tagging)し、対応するビットはアグリゲーティングされたMACプロトコルデータユニット(A-MPDU)サブフレーム及び物理レイヤ収束手続(PLCP)プロトコルデータユニット(PPDU)フレームでパッキングされる。一例で、PPDUは、重要度レベルでタギングされ、同一の重要度レベルのパケット及びA-MPDUサブフレームと動的にパッキングされる。再送信が可能になると、再送信される必要があるA-MPDUサブフレームは、キューイングされ、適切な重要度レベルを有する適切なPPDUに配置される必要がある。
【0081】
他の実施形態によると、それぞれのA-MPDUサブフレームは重要度レベルによりタギングされる。この場合、全てのPPDUは、重要度レベルの観点で同等に考慮され、これらは異なる重要度レベルを有するA-MPDUとパッキングされる。再送信を必要とする遅延敏感シナリオで、PPDUパケットよりはA-MPDUサブフレームをタギングすることが有利になる。PPDUパケットよりはA-MPDUサブフレームにタギングすることがタグ情報に対してより多くのオーバーヘッドを利用するが、このようなアプローチは多数の重要度レベルのパケットを管理することにより容易になる。
【0082】
多様な実施形態によると、パケットをタギングするためにビットパターンがA-MPDU又はPPDUのヘッダに追加される。ビットパターンは、Mビットであり、0…0は最高重要度を示し、1…1は最低重要度を示す。一部の実施形態により、値Mは予め定義され、M値はヘッダ情報の一部としてシグナリングされる。一部の実施形態によると、送信機及び受信機は、2M重要度レベル及びそれぞれのレベルに対して異なる手続を定義する。
【0083】
IEEE802.11ad又はIEEE802.11ayを通じた無線ビデオ送信のための保証されたサービス品質のために、本発明の一部の実施形態によるクロス-レイヤイメージ最適化システム及び方法は、それぞれのタギングされた重要度レベルに対する動的重要度レベル認識AMCを通じてUEPを実現する。異なる重要度レベルは異なるMCS値で変調されるか、或いはこれらは異なる順方向誤り訂正(FEC)値で、又はFEC値は同一であるが異なるコーディングレートでエンコーディングされる。
【0084】
図9は、本発明の一実施形態によるピクセルビット及びパケットの再構成の一例を示す図である。関連技術システムにおいて、PHYは現在チャンネル状況に適切なMCSインデックスを勧告する。しかし、本発明の一部の実施形態によると、クロス-レイヤイメージ最適化システム及び方法は、ビットストリームの大部分に対して勧告されたMCSを適応させる。例えば、システムはより重要なレイヤ又はパケットに対してMCSインデックスを減少させ、少し重要なレイヤ又はパケットに対してMCSインデックスを増加させる。
図9は、システムがピクセルでRGBカラーを示すビットのMSB/LSB部分に対して異なるMCS値を選択する非圧縮ビデオ送信に対する例を示す。4つのMSBビットは、MCS-1に伝送され、次の2ビットはMCSに伝送され、最後の2つのLSBビットはMCS+1に伝送される。それはまた、同一のMCSインデックスを有するビットが同一のパケット/A-MPDUサブフレームにグループ化されるようにパケット/A-MPDUサブフレームへのビットの再グループ化を含む。
【0085】
例えば、圧縮ビデオ送信において、
図6及び
図8について上述した通り、レイヤード-基盤圧縮が遂行され、ビットが送信の重要度レベルにより再構成された後に、ヘッダ及びベースレイヤ1はMCS-1に送信され、レイヤ2はMCSに伝送され、最後にレイヤ3はMCS又はMCS+1に伝送される。ヘッダ及びレイヤ1は、そのためにより保護され、殆ど誤りなしに送信される。このような情報ビットはMCS-1に伝送されるため、必要な帯域幅がMCSに関するチャンネルの支援帯域幅を超える可能性がある。補償のために、レイヤ3の一部が脱落されるか、及び/又はレイヤ3ビットがMCS+1に変調される。
【0086】
図10は、無線通信標準下で利用可能なヘッダフィールドの一例を示す図である。IEEE802.11adで、MCSインデックスは262,143バイトのそれぞれのPPDUパケットに対してのみシグナリングされる。従って、PPDUが重要度レベルにタギングされる場合、本実施形態はそれぞれのパケットに対する勧告されたMCS又は修正されたMCSインデックスを使用するためにIEEE802.11ad手続を利用する。一部の実施形態によると、IEEE802.11adにおけるシグナリングは、MCSがそれぞれのA-MPDUサブフレームに対してシグナリングされるように修正される。例えば、それぞれのパケットのヘッダ内の現在予約されたビット又は未使用情報が用いられる。IEEE802.11ad規格により、ヘッダは
図10のフィールドを含む。一例として、ピアツーピア連結で、本実施形態はMCSをシグナリングするために「アドレス4」を使用する。本実施形態は、更に、それぞれのA-MPDUに対するMCSをシグナリングするためにヘッダに新たなバイトを追加する。
【0087】
従って、本発明の一部の実施形態によるクロス-レイヤイメージ最適化システム及び方法は、例えば優先順位、遅延公差、及び/又は保護又は信頼性に基づいて異なる重要度カテゴリーでビデオフレームのデータ(例えば、ピクセルデータ、パケットなど)をパーティショニングするように動作する。それぞれのビデオフレームは、多数の重要度レベルで分割され、対応するビットはA-MPDUサブフレームでパッキングされる。異なるパケット(例えば、A-MPDUサブフレーム、PPDUサブフレームなど)が重要度レベルによりタギングされ、一部の実施形態により異なるパケットはその重要度の順で受信機に送信される。異なるパケット(例えば、A-MPDUサブフレーム)はその重要度レベルにより(例えば、PPDUパケットで)グループ化される。重要度レベルを示す値又はタグがパケットのヘッダに追加される。受信機端で、受信機はタグレベルを決定することが可能になり、それによってタギングにより異なる誤りの復元及び/又は隠蔽手続を追加的に可能にする。また、異なる重要度レベルを有するデータは、それぞれのパケットに対して異なる変調及びコーディング方式(MCS)値を選択することによって異なるように保護される。対応するMCS値はタグ以外にもパケットに対するヘッダに挿入される。
【0088】
従って、本実施形態は、無線クロス-レイヤイメージ最適化のためのAMCをはじめ、無線データ送信のための送信機及び受信機におけるパケットに対する動的パーティショニング及び/又はタギング(例えば、IEEEマルチ-ギガビット802.11で)及び重要度認識手続を可能にする。本実施形態は、多数のコンテンツ駆動タグを利用してA-MPDU(データ)パケット内のそれぞれの小さいパケットのタギングを可能にする。タグは送信されて受信機にシグナリングされる。異なる手続又はパラメータは、本明細書で説明したクロス-レイヤイメージ最適化メカニズムの多様な様相を統合するためのタグに関連付けられる。また、本実施形態は、AMC(タグに対するMCS適応)のような不均一誤り保護基盤タグを利用する。
【0089】
多様な実施形態によると、システムは、クロス-レイヤイメージ最適化のための多様なパラメータ及びファクターを連続的にモニタリングし、相応するように調整する。例えば、システムは、受信機からのリターン信号をモニタリングし、環境が変わることによって、例えば後続データ送信のために上述した通り異なるプロファイル、圧縮、又は誤り訂正技術などを選択することによってクロス-レイヤイメージ最適化を相応するように調整する。
【0090】
図11は、本発明の一実施形態によるクロス-レイヤイメージ最適化のための方法の多様なオペレーションの一例を示すフローチャートである。しかし、
図11に示したオペレーションの数及び順序は例示したフローチャートに限定されない。例えば、一部の実施形態によると、オペレーションの順序は(別途指示されない限り)修正され、或いは、プロセスは本発明の思想及び範囲を逸脱せずに追加のオペレーション又はより少ないオペレーションを全て含む。例えば、本明細書及び対応する図面から説明された多様な他の特徴及びオペレーションは、プロセスに統合され、或いは、特定のオペレーションは本発明の一部の例示的な実施形態により省略される。
【0091】
プロセスが始まると、段階1200で、システム(例えば、無線データ送信システム100及び/又は送信機102)は、データソースからデータ(例えば、非圧縮ビデオデータを含むビデオデータ信号)を受信する。段階1202で、例えばチャンネル品質、視覚品質、及び受信機に連結された表示装置のタイプをはじめ、受信機に対するデータ送信に関する多様な情報を含むリターンデータが受信機(例えば、受信機106)から受信される。次に、段階1204で、システムは表示装置のタイプを識別する。段階1206で、レイヤリング及び/又はパーティショニングプロファイルは、例えば表示装置のタイプ、ビデオ視覚品質に対する異なる基準又は識別子(ピーク信号対雑音比(PSNR)を含む)、チャンネル品質、コーデック要件又は選択、MCS、及びデータレート要件などを含む一つ以上の予め定義されたパラメータに基づいて選択された後、送信される。
【0092】
段階1208で、レイヤ又はレベル-基盤圧縮が、例えば選択されたレイヤリング/パーティショニングプロファイルによりデータ上で遂行される。その後、段階1210で、レイヤ、パーティション、パケット又はデータのビットは、上述した通りその重要度レベルによりグループ又はパケットで再構成される。
【0093】
段階1212で、データはデータのパケット及び/又はデータの重要度レベルを示すようにタギングされる。その後、段階1214で、異なるタイプのデータの重要度レベルに基づいて、データを受信機に送信するために不均一誤り保護が遂行される。段階1216で、データは、例えばディスプレイパネル上の表示のために受信機に送信される。
【0094】
本明細書で説明した本発明の実施形態による無線データ送信システム及び/又は任意の他の関連デバイス又はコンポーネントは、任意の適切なハードウェア、ファームウエア(例えば、注文型集積回路)、ソフトウェア、又はソフトウェア、ファームウエア、ハードウェアの適切な組み合わせを利用して具現される。例えば、無線データ送信システムの多様なコンポーネントは、一つの集積回路(IC)チップ又は別途のICチップ上に形成される。また、表示装置の多様なコンポーネントは、フレキシブル印刷回路フィルム、テープキャリアパッケージ(TCP)、印刷回路ボード(PCB)上に実現されるか又は表示装置と同一の基板上に形成される。また、無線データ送信システムの多様なコンポーネントは、一つ以上のプロセッサー上で実行され、一つ以上のコンピューティングデバイスで、コンピュータプログラム命令を実行し、本明細書で説明した多様な機能性を遂行するために他のシステムコンポーネントと相互作用するプロセス又はスレッドである。コンピュータプログラム命令は、例えばランダムアクセスメモリ(RAM)のような標準メモリデバイスを用いてコンピューティングデバイスで具現されるメモリに格納される。コンピュータプログラム命令は、また、例えばCD-ROM、フラッシュドライブなどのような他の非一時的なコンピュータ読み取り可能な記録媒体に格納される。また、当業者は、本発明の実施形態の範囲から逸脱せずに、多様なコンピューティングデバイスの機能性が単一のコンピューティングデバイスに統合若しくは結合されるか、又は特定のコンピューティングデバイスの機能性が一つ以上のコンピューティングデバイスに亘って分散されることを認知しなければならない。
【0095】
以上、本発明の実施形態について図面を参照しながら詳細に説明したが、本発明は、上述の実施形態に限定されるものではなく、本発明の技術的範囲から逸脱しない範囲内で多様に変更実施することが可能である。
【符号の説明】
【0096】
100 無線データ送信システム
102 送信機
103 入力端子
104 データソース
106 受信機
108 電子装置
110 ディスプレイパネル
112、114 無線ラジオ
116、122 アプリケーション(APP)レイヤ
118、124 媒体アクセス制御(MAC)レイヤ
120、126、300、302 物理(PHY)レイヤ
130 直通チャンネル
132 リターンチャンネル
134 CLIOモジュール