特許第6918150号(P6918150)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ サムスン エレクトロニクス カンパニー リミテッドの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6918150
(24)【登録日】2021年7月26日
(45)【発行日】2021年8月11日
(54)【発明の名称】ディスプレイ装置及びその映像処理方法
(51)【国際特許分類】
   H04N 5/208 20060101AFI20210729BHJP
   G06T 5/00 20060101ALI20210729BHJP
   G09G 5/36 20060101ALI20210729BHJP
   G09G 5/00 20060101ALI20210729BHJP
【FI】
   H04N5/208
   G06T5/00 710
   G09G5/36 520C
   G09G5/00 550R
   G09G5/00 550M
   G09G5/36 520F
【請求項の数】13
【全頁数】24
(21)【出願番号】特願2019-567252(P2019-567252)
(86)(22)【出願日】2018年7月13日
(65)【公表番号】特表2020-522946(P2020-522946A)
(43)【公表日】2020年7月30日
(86)【国際出願番号】KR2018007970
(87)【国際公開番号】WO2019045264
(87)【国際公開日】20190307
【審査請求日】2019年12月5日
(31)【優先権主張番号】10-2017-0110249
(32)【優先日】2017年8月30日
(33)【優先権主張国】KR
(73)【特許権者】
【識別番号】503447036
【氏名又は名称】サムスン エレクトロニクス カンパニー リミテッド
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100091214
【弁理士】
【氏名又は名称】大貫 進介
(72)【発明者】
【氏名】イム,ヒョン−ジュン
(72)【発明者】
【氏名】ユ,ソク−ボン
(72)【発明者】
【氏名】アン,テ−ギョン
(72)【発明者】
【氏名】ムン,ヨン−ス
(72)【発明者】
【氏名】チェー,ソン−フン
【審査官】 西谷 憲人
(56)【参考文献】
【文献】 特開2017−072733(JP,A)
【文献】 米国特許出願公開第2014/0009469(US,A1)
【文献】 特開2003−058098(JP,A)
【文献】 特開平09−298682(JP,A)
【文献】 特開2017−038360(JP,A)
【文献】 特開2017−092872(JP,A)
【文献】 特開2013−207673(JP,A)
【文献】 特開2016−105254(JP,A)
【文献】 特開2005−323365(JP,A)
【文献】 特開2007−221516(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/208
G06T 5/00
G09G 5/00
G09G 5/36
(57)【特許請求の範囲】
【請求項1】
入力映像を受信するための入力インターフェースと、 入力映像フレームの映像領域を保存する第1ストレージと、 ディスプレイと、 特定ピクセルの特定ピクセル値、前記特定ピクセルを中心に予め設定されたピクセル間隔で離隔されたピクセルのピクセル値をサンプリングすることで、n×nメトリクス形式の第1パッチを獲得し、 前記特定ピクセルを固定し、前記特定ピクセルを中心に予め設定されたピクセル間隔で離隔された前記ピクセルの前記ピクセル値を時計回りまたは反時計回り回転して順次に配置することによって第2パッチを獲得し、 前記第2パッチに基づいて前記特定ピクセル値に対する高周波成分を獲得し、 前記高周波成分を前記入力映像に適用して前記入力映像を処理し、 前記処理された映像をディスプレイするように前記ディスプレイを制御するプロセッサと を含むディスプレイ装置。
【請求項2】
前記第2パッチをぼかし処理し、前記第1パッチに含まれた第1ピクセル値セット及び前記ぼかし処理された第2パッチに含まれた第2ピクセル値セットの差に基づいて、前記特定ピクセル値に対する高周波成分を含む第3パッチを獲得し、獲得された第3パッチを前記入力映像の前記特定ピクセル値に適用することを特徴とする請求項1に記載のディスプレイ装置。
【請求項3】
前記プロセッサは、 前記第1パッチで前記特定ピクセル値及び前記特定ピクセル値に隣接する第3ピクセル値セットのそれぞれの差に基づいて、前記第3ピクセル値セットのそれぞれに対する加重値を獲得し、前記第3パッチに含まれた高周波成分のそれぞれに前記獲得された加重値のうち、対応する加重値を適用して前記特定ピクセル値に対する高周波成分を獲得することを特徴とする請求項2に記載のディスプレイ装置。
【請求項4】
前記プロセッサは、 前記第2パッチの境界領域に位置した第4ピクセル値セットをミラーリングして前記第2パッチの外郭領域に配置し、前記第2パッチの境界領域に位置した第4ピクセル値セットに対するぼかし処理を行うことを特徴とする請求項2に記載のディスプレイ装置。
【請求項5】
前記プロセッサは、 前記第3パッチに含まれた高周波成分の平均値を予め設定された値に調整し、前記平均値の調整された第3パッチを前記入力映像の前記特定ピクセル値に適用することを特徴とする請求項2に記載のディスプレイ装置。
【請求項6】
前記プロセッサは、 前記特定ピクセル値を中心に予め設定されたピクセル間隔を半径とする円に外接する四角の各頂点に位置した第5ピクセル値セット及び前記円と前記四角の接点に位置した第6ピクセル値セットが前記特定ピクセル値を囲む3*3形態の前記第1パッチを獲得し、 前記第1パッチで前記特定ピクセル値の位置を固定させ、相互離隔配置されたピクセルを前記特定ピクセル値を中心に順次に配置して前記第2パッチを獲得することを特徴とする請求項1に記載のディスプレイ装置。
【請求項7】
前記プロセッサは、 前記第1パッチで前記特定ピクセル値を中心に対角方向に位置した隣接ピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を同一の方向に獲得して順次に配置することで、前記第2パッチを獲得することを特徴とする請求項6に記載のディスプレイ装置。
【請求項8】
前記第1ストレージは、前記予め設定された数に対応するNラインメモリで実現され、 前記プロセッサは、 前記第1ストレージに保存されたN個のラインに対応するピクセル値のうち、(N+1)/2番目のラインに位置した前記特定ピクセル値を中心に上下左右方向にそれぞれ(N−1)/2ピクセル間隔分だけ離隔した位置の複数の第2ピクセル値、及び前記複数の第2ピクセル値を各角の中央点とする四角の各頂点に位置した複数の第1ピクセル値をサンプリングして前記第1パッチを獲得することを特徴とする請求項6に記載のディスプレイ装置。
【請求項9】
第2ストレージを更に含み、 前記プロセッサは、 前記特定ピクセル値に対する高周波成分が獲得されると、前記獲得された高周波成分を前記第2ストレージに保存し、順次に次のピクセル値に対する高周波成分を獲得して前記第2ストレージに保存し、前記入力映像に含まれた全てのピクセル値に対する高周波成分が前記第2ストレージに保存されると、前記保存された高周波成分のそれぞれに対応するピクセル値に適用して補正された映像を獲得することを特徴とする請求項1に記載のディスプレイ装置。
【請求項10】
ディスプレイ装置の映像処理方法において、 入力映像フレームの映像領域を保存するステップと、 特定ピクセルの特定ピクセル値、前記特定ピクセルを中心に予め設定されたピクセル間隔で離隔されたピクセルのピクセル値をサンプリングすることで、n×nメトリクス形式の第1パッチを獲得するステップと、 前記特定ピクセルを固定し、前記特定ピクセルを中心に予め設定されたピクセル間隔で離隔された前記ピクセルの前記ピクセル値を時計回りまたは反時計回り回転して順次に配置することによって第2パッチを獲得するステップと、 前記第2パッチに基づいて前記特定ピクセル値に対する高周波成分を獲得するステップと、 前記高周波成分を入力映像に適用して前記入力映像を処理するステップと、 前記処理された映像をディスプレイ上にディスプレイするステップと を含む映像処理方法。
【請求項11】
前記高周波成分を獲得するステップは、 前記第2パッチをぼかし処理し、前記第1パッチに含まれたピクセル値セット及び前記ぼかし処理された第2パッチに含まれたピクセル値セットの差に基づいて、前記特定ピクセル値に対する高周波成分を含む第3パッチを獲得することを特徴とする請求項10に記載の映像処理方法。
【請求項12】
前記高周波成分を獲得するステップは、 前記第1パッチで前記特定ピクセル値及び前記特定ピクセル値に隣接する第3ピクセル値セットのそれぞれの差に基づいて、複数のピクセル値のそれぞれに対する加重値を獲得し、前記第3パッチに含まれた高周波成分のそれぞれに前記獲得された加重値のうち、対応する加重値を適用して前記特定ピクセル値に対する高周波成分を獲得することを特徴とする請求項11に記載の映像処理方法。
【請求項13】
前記第2パッチを獲得するステップは、 前記第2パッチの境界領域に位置した第4ピクセル値セットをミラーリングして前記第2パッチの外郭領域に配置し、前記第2パッチの境界領域に位置した第4ピクセル値セットに対するぼかし処理を行うことを特徴とする請求項11に記載の映像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ディスプレイ装置及びその映像処理方法に関し、より詳細には、入力映像の高周波成分を復元するディスプレイ装置及びその映像処理方法に関する。
【背景技術】
【0002】
電子技術の発達により、様々な電子機器が開発及び普及されている。特に、家庭内、事務室、公共の所など、色々な場所で用いられるディスプレイ装置はここ数年間持続的な発展を遂げている。
【0003】
近来、4K UHDテレビなどの高解像度ディスプレイパネルが発売され、広く普及されている。しかし、まだ高品質の高解像度コンテンツは、不足している現状にある。そこで、低解像度コンテンツで高解像度コンテンツを生成するための様々な技術が求められている。更に、MPEG/H.264/HEVCなどの映像圧縮により、コンテンツの高周波成分の損失が発生するおそれがあることから、損失された高周波成分を復元するための技術が求められている。
【0004】
上記内容は、本発明の理解を促すためだけに背景技術として理解されてよい。上記内容が本発明に関連する従来技術として適用可能か否かに関し、如何なる判断や主張も行われていない。
【発明の概要】
【発明が解決しようとする課題】
【0005】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、映像拡大、映像圧縮などにより、テクスチャの損失された映像に対してテクスチャ生成を通じ、映像の細密度を向上させるディスプレイ装置及びその映像処理方法を提供することにある。
【課題を解決するための手段】
【0006】
以上のような目的を達成するための本発明の一実施形態に係るディスプレイ装置は、入力部と、第1ストレージと、ディスプレイと、前記入力部を介して入力された映像で予め設定された数のラインに対応する複数のピクセル値を保存するように前記第1ストレージを制御し、前記第1ストレージに保存されたピクセル値のうち、特定ピクセル値を基準とするメトリクス(Metrix)外郭に位置した複数のピクセル値をサンプリングして予め設定された大きさの第1パッチを獲得し、前記第1パッチに基づいて前記特定ピクセル値に対する高周波成分を獲得し、前記高周波成分に基づいて前記入力映像を処理し、前記処理された映像をディスプレイするように前記ディスプレイを制御するプロセッサとを含む。この場合、前記プロセッサは、前記第1パッチで前記特定ピクセル値を基準に、前記複数のピクセル値の位置を予め設定された順番に応じて変更して第2パッチを獲得してよい。
【0007】
なお、前記プロセッサは、前記第2パッチをぼかし(blurring)処理し、前記第1パッチに含まれたピクセル値及び前記ぼかし処理された第2パッチに含まれたピクセル値の差に基づいて、前記特定ピクセル値に対する高周波成分を含む第3パッチを獲得し、獲得された第3パッチを前記入力映像の前記特定ピクセル値に適用してよい。
【0008】
なお、前記プロセッサは、前記第1パッチで前記特定ピクセル値及び前記特定ピクセル値に隣接する複数のピクセル値のそれぞれの差に基づいて、前記複数のピクセル値のそれぞれに対する加重値を獲得し、前記第3パッチに含まれた高周波成分のそれぞれに前記獲得された加重値のうち、対応する加重値を適用して前記特定ピクセル値に対する高周波成分を獲得してよい。
【0009】
なお、前記プロセッサは、前記第2パッチの境界領域に位置したピクセル値をミラーリングして前記第2パッチの外郭領域に配置し、前記第2パッチの境界領域に位置したピクセル値に対するぼかし処理を行ってよい。
【0010】
なお、前記プロセッサは、前記第3パッチに含まれた高周波成分の平均値を予め設定された値に調整し、前記平均値の調整された第3パッチを前記入力映像の前記特定ピクセル値に適用してよい。
【0011】
なお、前記プロセッサは、前記特定ピクセル値を基準に予め設定されたピクセル間隔を半径とする円に外接する四角の各頂点に位置したピクセル値及び前記円と前記四角の接点に位置したピクセル値が前記特定ピクセル値を囲む3*3形態の前記第1パッチを獲得し、前記第1パッチで前記特定ピクセル値の位置を固定させ、相互離隔配置されたピクセルを前記特定ピクセル値を基準に順次に配置して前記第2パッチを獲得してよい。
【0012】
なお、前記プロセッサは、前記第1パッチで前記特定ピクセル値を基準に対角方向に位置した隣接ピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を同一の方向に獲得して順次に配置することで、前記第2パッチを獲得してよい。
【0013】
なお、前記第1ストレージは、前記予め設定された数に対応するNラインメモリで実現され、前記プロセッサは、前記第1ストレージに保存されたN個のラインに対応するピクセル値のうち、(N+1)/2番目のラインに位置した前記特定ピクセル値を基準に上下左右方向にそれぞれ(N−1)/2ピクセル間隔分だけ離隔した位置の前記複数の第2ピクセル値、及び前記複数の第2ピクセル値を各角の中央点とする四角の各頂点に位置した複数の第1ピクセル値をサンプリングして前記第1パッチを獲得してよい。
【0014】
なお、第2ストレージを更に含み、前記プロセッサは、前記特定ピクセル値に対する高周波成分が獲得されると、前記獲得された高周波成分を前記第2ストレージに保存し、順次に次のピクセル値に対する高周波成分を獲得して前記第2ストレージに保存し、前記入力映像に含まれた全てのピクセル値に対する高周波成分が前記第2ストレージに保存されると、前記保存された高周波成分のそれぞれに対応するピクセル値に適用して補正された映像を獲得してよい。
【0015】
一方、本発明の一実施形態に係るディスプレイ装置の映像処理方法は、入力映像で予め設定された数のラインに対応する複数のピクセル値を保存するステップと、前記保存された複数のピクセル値のうち、特定ピクセル値を基準とするメトリクス外郭に位置した複数のピクセル値をサンプリングして予め設定された大きさの第1パッチを獲得するステップと、前記第1パッチに基づいて前記特定ピクセル値に対する高周波成分を獲得するステップと、前記高周波成分に基づいて前記入力映像を処理するステップと、前記処理された映像をディスプレイ上にディスプレイするステップとを含む。
【0016】
この場合、前記高周波成分を獲得するステップは、前記第1パッチで前記特定ピクセル値を基準に、前記複数のピクセル値の位置を予め設定された順番に応じて変更して第2パッチを獲得してよい。
【0017】
なお、前記高周波成分を獲得するステップは、前記第2パッチをぼかし処理し、前記第1パッチに含まれたピクセル値及び前記ぼかし処理された第2パッチに含まれたピクセル値の差に基づいて、前記特定ピクセル値に対する高周波成分を含む第3パッチを獲得してよい。
【0018】
なお、前記高周波成分を獲得するステップは、前記第1パッチで前記特定ピクセル値及び前記特定ピクセル値に隣接する複数のピクセル値のそれぞれの差に基づいて、前記複数のピクセル値のそれぞれに対する加重値を獲得し、前記第3パッチに含まれた高周波成分のそれぞれに前記獲得された加重値のうち、対応する加重値を適用して前記特定ピクセル値に対する高周波成分を獲得してよい。
【0019】
なお、前記第2パッチを獲得するステップは、前記第2パッチの境界領域に位置したピクセル値をミラーリングして前記第2パッチの外郭領域に配置し、前記第2パッチの境界領域に位置したピクセル値に対するぼかし処理を行ってよい。
【0020】
なお、前記第3パッチに含まれた高周波成分の平均値を予め設定された値に調整し、前記平均値の調整された第3パッチを前記入力映像の前記特定ピクセル値に適用するステップを更に含んでよい。
【0021】
なお、前記第1パッチを獲得するステップは、前記特定ピクセル値を基準に予め設定されたピクセル間隔を半径とする円に外接する四角の各頂点に位置したピクセル値及び前記円と前記四角の接点に位置したピクセル値が前記特定ピクセル値を囲む3*3形態の前記第1パッチを獲得してよい。
【0022】
この場合、前記第2パッチを獲得するステップは、前記第1パッチで前記特定ピクセル値の位置を固定させ、相互離隔配置されたピクセルを前記特定ピクセル値を基準に順次に配置して前記第2パッチを獲得してよい。
【0023】
なお、前記第2パッチを獲得するステップは、前記第1パッチで前記特定ピクセル値を基準に対角方向に位置した隣接ピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を同一の方向に獲得して順次に配置することで、前記第2パッチを獲得してよい。
【0024】
なお、前記ディスプレイ装置は、前記予め設定された数に対応するNラインメモリを含み、前記第1パッチを獲得するステップは、前記メモリに保存されたN個のラインに対応するピクセル値のうち、(N+1)/2番目のラインに位置した前記特定ピクセル値を基準に上下左右方向にそれぞれ(N−1)/2ピクセル間隔分だけ離隔した位置の前記複数の第2ピクセル値、及び前記複数の第2ピクセル値を各角の中央点とする四角の各頂点に位置した複数の第1ピクセル値をサンプリングして前記第1パッチを獲得してよい。
【0025】
なお、前記特定ピクセル値に対する高周波成分が獲得されると、前記獲得された高周波成分を保存し、順次に次のピクセル値に対する高周波成分を獲得して保存するステップと、前記入力映像に含まれた全てのピクセル値に対する高周波成分が保存されると、前記保存された高周波成分のそれぞれに対応するピクセル値に適用して補正された映像を獲得するステップとを更に含んでよい。
【0026】
なお、本発明の一実施形態に係るディスプレイ装置のプロセッサによって実行される場合、前記ディスプレイ装置が動作を行うようにするコンピュータ命令を保存する非一時的なコンピュータ読み取り可能な媒体において、前記動作は、入力映像で予め設定された数のラインに対応する複数のピクセル値を保存するステップと、前記保存された複数のピクセル値のうち、特定ピクセル値を基準とするメトリクス外郭に位置した複数のピクセル値をサンプリングして予め設定された大きさの第1パッチを獲得するステップと、前記第1パッチに基づいて前記特定ピクセル値に対する高周波成分を獲得するステップと、前記高周波成分に基づいて前記入力映像を処理するステップとを含む。
【発明の効果】
【0027】
以上説明したように、本発明によれば、映像拡大及び/または映像圧縮などによって、テクスチャの損失された映像に対してテクスチャ生成を通じて映像の細密度を向上させることができるようになる。
【図面の簡単な説明】
【0028】
図1】本発明の実施形態に係るディスプレイ装置の実現例を説明するための図である。
図2】本発明の実施形態に係るディスプレイ装置の構成を示すブロック図である。
図3】本発明の実施形態に係る第1パッチを獲得する方法を説明するための図である。
図4A】本発明の実施形態によって第1パッチのピクセル位置をリオーダリングして第2パッチを獲得する方法を説明するための図である。
図4B】本発明の実施形態によって第1パッチのピクセル位置をリオーダリングして第2パッチを獲得する方法を説明するための図である。
図5A】本発明の実施形態に係る第2パッチに対するぼかし方法を説明するための図である。
図5B】本発明の実施形態に係る第2パッチに対するぼかし方法を説明するための図である。
図5C】本発明の実施形態に係る第2パッチに対するぼかし方法を説明するための図である。
図6】本発明の実施形態に係る第3パッチ獲得方法を説明するための図である。
図7A】本発明の実施形態によって加重値が適用された第3パッチを獲得する方法を説明するための図である。
図7B】本発明の実施形態によって加重値が適用された第3パッチを獲得する方法を説明するための図である。
図8】本発明の実施形態によって次のピクセル値に対する高周波成分を獲得する方法を説明するための図である。
図9A】本発明の多様な実施形態によって獲得された高周波成分を入力映像に適用する方法を説明するための図である。
図9B】本発明の多様な実施形態によって獲得された高周波成分を入力映像に適用する方法を説明するための図である。
図10】本発明の別の実施形態に係るディスプレイ装置の構成を示すブロック図である。
図11】本発明の一実施形態に係るディスプレイ装置の映像処理方法を説明するためのフローチャートである。
図12】本発明の一実施形態に係るディスプレイ装置の映像処理方法を説明するための図である。
図13A】本発明の一実施形態に係る侵害摘発方法を説明するための図である。
図13B】本発明の一実施形態に係る侵害摘発方法を説明するための図である。
図13C】本発明の一実施形態に係る侵害摘発方法を説明するための図である。
図14A】本発明の一実施形態に係る侵害摘発方法を説明するための図である。
図14B】本発明の一実施形態に係る侵害摘発方法を説明するための図である。
【発明を実施するための形態】
【0029】
以下においては、図面を参照して本発明について詳細に説明する。本発明を説明するうえで、関連の公知機能或いは構成に対する具体的な説明が、本発明の要旨を不要に曖昧にすると判断される場合、それに対する詳細な説明は省略する。更に、下記の実施形態は、様々な形態に変形することができ、本発明の技術的な思想の範囲が下記の実施形態に限定されるわけではない。むしろ、これらの実施形態は、本発明をより充実かつ完全なものにするために、当業者に本発明の技術的な思想を完全に伝達するために提供されるものである。
【0030】
なお、如何なる構成要素を「含む」とは、特別に反対される記載がない限り、別の構成要素を除くわけではなく、別の構成要素をより含むことができることを意味する。更に、図面における多様な要素と領域は、概略に描かれたものである。よって、本発明の技術的な思想は、添付の図に示された相対的な大きさや間隔によって制限されない。
【0031】
以下において、添付の図を用いて、本発明について具体的に説明する。
【0032】
図1は、本発明の実施形態に係るディスプレイ装置の実現例を説明するための図である。
【0033】
ディスプレイ装置100は、図1に示すように、テレビで実現されてよいが、それに限定されるわけではなく、スマートフォン、タブレットパソコン、ノートパソコン、HMD(Head mounted Display)、NED(Near Eye Display)、LFD(Large format display)、Digital Signage(デジタル看板)、DID(Digital Information Display)、ビデオウォール(video wall)、プロジェクタディスプレイなどのように、ディスプレイ機能を備えた装置なら適用可能である。
【0034】
ディスプレイ装置100は、多様な解像度の映像または多様な圧縮映像を受信することができる。例えば、ディスプレイ装置100は、SD(Standard Definition)、HD(High Definition)、Full HD、Ultra HD映像のうち、いずれか一つの映像を受信することができる。なお、ディスプレイ装置100は、MPEG(例えば、MP2、MP4、MP7など)、AVC、H.264、HEVCなどで圧縮された形態20で映像を受信することもできる。
【0035】
一実施形態によって、ディスプレイ装置100がUHDテレビで実現されるとしても、UHDコンテンツそのものが不足しているため、SD、HD、Full HDなどの映像(以下、低解像度映像10という)が入力されることが多い。この場合、入力された低解像度映像をUHD映像(以下、高解像度映像とする)に拡大して提供する方法を利用することができる。しかし、映像の拡大過程で映像のテクスチャがブラー(Blur)されて細密度が低下する問題がある。ここで、映像のテクスチャは、映像中で同一の質感と見なされる領域の特有の柄または模様を意味する。
【0036】
別の実施形態によって、高解像度映像が入力されるとしても、映像圧縮などによってテクスチャの損失が発生し、細密度が低下する問題がある。デジタル映像は、画素数が増加するにつれて、より多くのデータを必要とするようになり、大容量データを圧縮する場合、圧縮によるテクスチャの損失は避けられないためである。
【0037】
よって、以下では、上述のように、多様な場合において、損失されたテクスチャ成分を復元して映像の細密度を向上させる多様な実施形態について説明する。
【0038】
図2は、本発明の実施形態に係るディスプレイ装置の構成を示すブロック図である。
【0039】
図2によると、ディスプレイ装置100は、入力インターフェース110、第1ストレージ120、ディスプレイ130、プロセッサ140を含む。
【0040】
入力インターフェースは、多様なタイプのコンテンツを入力される。例えば、入力インターフェース110は、AP基盤のWi−Fi(Wi−Fi、Wireless LAN、ネットワーク)、ブルートゥース(Bluetooth(登録商標))、Zigbee、有/無線LAN(Local Area Network)、WAN、イーサネット(登録商標)、IEEE 1394、HDMI(登録商標)、USB、MHL、AES/EBU、オプティカル(Optical)、コアキシャル(Coaxial)などのような通信方式を通じて、外部装置(例えば、ソース装置)、外部保存媒体(例えば、USB)、外部サーバ(例えば、ウェブハード)などからストリーミングまたはダウンロード方式で映像入力を受信することができる。ここで、映像信号は、デジタル信号であってよいが、それに限定されるわけではない。入力インターフェース110は、実施形態にハードウェアまたはハードウェア及びソフトウェアの組み合わせで実現されてよい。
【0041】
第1ストレージ120は、入力インターフェース110を介して入力された映像のうち少なくとも一部を保存することができる。特に、第1ストレージ120は、入力された映像フレーム中に少なくとも一部の領域を保存することができる。この場合、少なくとも一部の領域は、本発明の一実施形態に係る映像処理を行うのに必要な領域であってよい。一実施形態により、第1ストレージ120は、Nラインメモリで実現されてよい。例えば、Nラインメモリは、縦方向に17ライン相当の容量を有するメモリであってよいが、それに限定されない。例えば、1080p(1920×1080の解像度)のFull HD映像が入力される場合、Full HD映像で17ラインの映像領域のみが第1ストレージ120に保存される。このように、第1ストレージ120は、Nラインメモリで実現され、入力された映像フレーム中に一部領域のみが映像処理のために保存される理由は、ハードウェア的な限界により、第1ストレージ120のメモリ容量が制限的であるためである。
【0042】
このような理由で、本発明の一実施形態によると、第1ストレージ120は入力された映像フレーム中に予め設定された数のラインの映像領域のみを保存して映像処理を行い、少なくとも1ライン分遅延された映像領域を保存しつつ連続的に映像処理を行うようになるが、それに対する詳細な説明は後述する。
【0043】
ディスプレイ130は、LCD(liquid crystal display)、OLED(organic light−emitting diode)、LCoS(Liquid Crystal on Silicon)、DLP(Digital Light Processing)、QD(quantum dot)ディスプレイパネルなどのような多様な形態で実現されてよい。
【0044】
プロセッサ140は、ディスプレイ装置100の動作全般を制御する。
【0045】
一実施形態によって、プロセッサ140は、デジタル映像信号を処理するデジタルシグナルプロセッサ(Digital Signal Processor:DSP)、マイクロプロセッサ(microprocessor)、TCON(Time controller)で実現されてよい。ただ、それに限らずに、中央処理装置(central processing unit:CPU)、MCU(Micro Controller Unit)、MPU(Micro processing unit)、コントローラ(controller)、アプリケーションプロセッサ(Application Processor:AP)、またはコミュニケーションプロセッサ(Communication Processor:CP)、ARMプロセッサのうち、一つまたはそれ以上を含むか、当該用語で定義されてよい。なお、プロセッサ120は、プロセッシングアルゴリズムが内装されたSoC(System on Chip)、LSI(Large Scale Integration)で実現されてよく、FPGA(Field Programmable Gate Array)形態で実現されてよい。
【0046】
本発明の一実施形態によると、プロセッサ140は入力インターフェース110を介して入力された映像で予め設定された数のラインに対応するピクセル値を第1ストレージ120に保存する。ここで、予め設定された数のラインは、第1ストレージ120の最大ライン容量であってよい。一実施形態により、第1ストレージ120が縦方向17ラインメモリで実現される場合、プロセッサ140は入力された映像フレームで17ラインに対応するピクセル値を保存することができる。
【0047】
次いで、プロセッサ140は、第1ストレージ120に保存されたピクセル値のうち、特定ピクセル値を基準に相互異なる方向にそれぞれ離隔している位置の複数のピクセル値をサンプリングし、予め設定された大きさの第1パッチを獲得することができる。ここで、予め設定された大きさは、3*3、5*5など、多様な大きさであってよく、以下では、説明の便宜のため、3*3パッチを獲得する場合を想定して説明する。
【0048】
具体的に、プロセッサ140は、Nラインメモリで実現される第1ストレージ120に入力映像中でN個のラインに該当するピクセル値が保存されると、(N+1)/2番目のラインに位置した特定ピクセル値を中心とするN*Nメトリクスの外郭に位置する複数のピクセル値をサンプリングして第1パッチを獲得することができる。場合によって、プロセッサ140は、(N+1)/2番目のラインに位置した特定ピクセル値を中心からNより面積の狭いメトリクスの外郭に位置する複数のピクセル値をサンプリングして第1パッチを獲得することもできる。
【0049】
一実施形態により、プロセッサ140は、(N+1)/2番目のラインに位置する特定ピクセル値を基準に上下左右方向にそれぞれ(N−1)/2ピクセル間隔分だけ離隔している位置の複数の第1ピクセル値及び複数の第1ピクセル値を各角の中央点とする四角の各頂点に位置する複数の第2ピクセル値をサンプリングして第1パッチを獲得することができる。
【0050】
例えば、プロセッサ140は、特定ピクセル値を基準に予め設定されたピクセル間隔、即ち、(N−1)/2ピクセル間隔を半径とする円に外接する四角の各頂点に位置する第1ピクセル値及び当該円と当該四角の接点に位置する第2ピクセル値が特定ピクセル値を囲むn*n形態の第1パッチを獲得することができる。
【0051】
図3は、本発明の実施形態に係る第1パッチを獲得する方法を説明するための図である。
【0052】
図3は、本発明の一実施形態に係る第1ストレージ120が17ラインメモリで実現される場合を想定したものである。この場合、上述のように、入力映像30中に最大17ラインのピクセル値のみが第1ストレージ120に保存されてよいが、本発明では、ハードウェア的に与えられた17ラインメモリ内で最大の高周波を生成するために現在のピクセル(または、中心ピクセル)から予め設定されたサンプリング基準を満たすように、最大離隔しているピクセルをサンプリングして第1パッチを生成することができる。
【0053】
ここで、サンプリング基準は、一つのコンテンツ、例えば、動画で各フレーム別に同様に適用されてよい。それは、一つの動画で隣接フレーム間で一貫するようにテクスチャを生成するためである。ただ、場合によって、予め設定された区間単位(例えば、シーン単位)でサンプリング基準を変更することも可能である。例えば、各シーンの映像特性に符合するサンプリング基準があれば、各シーン別に相互異なるサンプリング基準を適用することも可能である。一方、現在のピクセル(または、中心ピクセル)とは、本発明の一実施形態によって獲得された高周波成分に適用されるピクセルになってよい。
【0054】
一実施形態によって予め設定されたサンプリング基準は、現在のピクセルを中心に最大の半径を有する円に外接する正方形に含まれた複数のピクセルをサンプリングするように設定されてよい。特に、現在のピクセルを基準に上下左右及び対角線方向を含む8つの方向で当該正方形に位置するピクセル値をサンプリングすることができる。
【0055】
例えば、プロセッサ140は、図3に示すように、現在のピクセル310を中心に8ピクセルを半径とする円に外接する四角の各頂点に位置する第1ピクセル値311、313、315、317及び当該円と当該四角の接点に位置する第2ピクセル値312、314、316、318を第1パッチのためのピクセル値にサンプリングすることができる。
【0056】
映像で周波数は、ピクセル値の変化率を示すものとして、特に、高周波数成分で映像の細密度を表現することができるようになる。通常、現在のピクセルを基準に遠く離隔しているピクセル値が現在のピクセルと差が大きくなる確率が高いため、現在のピクセルを基準に離隔しているピクセル値を用いて、現在のピクセルに対する高周波成分を獲得することができるようになる。それにより、本発明では、現在のピクセルを基準にハードウェア的なメモリ容量の限界下で最大で離隔しているピクセル値を用いて高周波成分を獲得するものである。
【0057】
一方、プロセッサ140は、現在のピクセル値310が中心に位置し、サンプリングされた複数のピクセル値311ないし318が上下左右及び対角線方向に隣接する3*3形態のメトリクス形態の第1パッチ300−1を獲得することができる。
【0058】
ただ、それは一実施形態に過ぎず、サンプリング基準は必ずしも上述の実施形態に限定されるものではない。例えば、図3において、四角の各頂点に位置した第1ピクセル値311、313、315、317の代わりに、第1ピクセル値311、313、315、317の対角線方向の内側隣接ピクセル値(図示せず)を第1パッチのためのピクセル値でサンプリングすることもできる。
【0059】
一実施形態によると、プロセッサ140は特定ピクセル値を基準に複数のピクセル値の位置を予め設定れた順番に応じて変更して第2パッチを獲得し、獲得された第2パッチに基づいて特定ピクセル値に対する高周波成分を獲得することができる。プロセッサ140は、第1パッチが獲得されると、第1パッチに含まれた複数のピクセル値の位置を予め設定されたリオーダリング基準に応じて変更して第2パットを獲得することができる。このように、ピクセル値をリオーダリングする理由は、制限されたメモリ容量内でランダム性を有する高周波成分を獲得するためである。このように、ピクセル値リオーダリング過程を通じてテクスチャを生成すると、水平/垂直格子雑音のない細密なテクスチャ成分を生成することができるようになる。
【0060】
例えば、プロセッサ140は、第1パッチで現在のピクセル値を中央に固定させ、相互離隔配置されたピクセルのピクセル値を現在のピクセル値を基準に順次に配置し、第2パッチを獲得することができる。ここで、リオーダリング基準は、一つのコンテンツ、例えば、動画で各フレーム別に同様に適用されてよい。それは、一つの動画で隣接フレーム間で一貫するようにテクスチャを生成するためのである。ただ、場合によって、予め設定された区間単位(例えば、シーン単位)でリオーダリング基準を変更することも可能である。例えば、各シーンの映像特性に符合するリオーダリング順番があれば、各シーン別に相互異なるリオーダリング基準を適用することも可能である。
【0061】
図4Aは、本発明の実施形態によって第1パッチのピクセル位置をリオーダリングして第2パッチを獲得する方法を説明するための図である。
【0062】
図4Aに示すように、プロセッサ140は第1タッチで現在のピクセル値を基準に対角方向に位置した隣接ピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を同一の方向に獲得して順次に配置するリオーダリング基準を適用して第2パッチを獲得することができる。例えば、プロセッサ140は、獲得されたピクセル値を配置する際、メトリクス形態の一番目のラインに沿って左から右にピクセル値を配列することができる。実施形態によって、一番目のラインに空間がないため、プロセッサ140は、次のラインで左から右にピクセル値を配列することができる。
【0063】
例えば、図4Aに示すように、第1パッチ300−1で現在のピクセル値310を基準に対角方向に位置したピクセル値311、313、315、316を時計回りに獲得して順次に配置し、残りのピクセル値312、314、316、318を同一の方向に獲得して順次に配置するリオーダリング基準を適用して第2パッチ400−1を獲得することができる。
【0064】
ただ、それは一実施形態に過ぎず、リオーダリング基準は必ずしも上述の実施形態に限定されるものではない。
【0065】
一例として、プロセッサ140は、第1パッチで現在のピクセル値を基準に対角方向に位置したピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を反対方向に獲得して順次に配置するリオーダリング基準を適用して第2パッチを獲得することができる。
【0066】
別の例として、プロセッサ140は、図4Bに示すように、現在のピクセル値310を基準に対角方向に位置したピクセル値311、315、317、313を時計回りに獲得してピクセル値311、315、317、313の順で順次に配置し、残りのピクセル値312、314、316、318を反時計回りに獲得し、ピクセル値312、314、316、318の順で順次に配置するリオーダリング基準を適用して第2パッチ400−3を獲得することもできる。このように、リオーダリング基準は、離隔している位置のピクセル値を隣接するように配置するという原則の下に多様に適用可能である。
【0067】
一方、プロセッサ140は、第2パッチが獲得されると、獲得された第2パッチをぼかし(または、平滑化)し、第1パッチに含まれたピクセル値及びぼかしされた第2パッチに含まれたピクセル値の差に基づいて、現在のピクセル値に対する高周波成分を含む第3パッチを獲得することができる。ただ、別の実施形態によると、プロセッサ140は、第1パッチに基づいて高周波成分を含む第3パッチを獲得することも可能である。即ち、プロセッサ140は、第1パッチに含まれたピクセル値及びぼかしされた第1パッチに含まれたピクセル値の差に基づいて、現在のピクセル値に対する高周波成分を含む第3パッチを獲得することもできる。ただ、以下では、説明の便宜のために、ピクセル値リオーダリングを通じて獲得された第2パッチに基づいて高周波成分を獲得することを想定して説明する。
【0068】
3*3形態の第2パッチに対するぼかし処理のために、プロセッサ140は高周波成分をフィルタリングする低周波通過フィルタを適用することができる。例えば、プロセッサ140は、ガウシアンぼかし(または、ガウシアンフィルタリング)処理をすることができる。ガウシアンぼかしは、ガウシアン確率分布に基づいたガウシアンフィルタを用いてブラー処理する方法でとして、ガウシアンフィルタを第2パッチに適用すると、高周波成分は遮断されてブラー処理となる。
【0069】
図5Aないし図5Cは、本発明の実施形態に係る第2パッチに対するぼかし方法を説明するための図である。
【0070】
例えば、ガウシアンフィルタは、図5Aに示すように、x軸の0は加重値が大きく、x軸上の数値の絶対値が増加する方向に加重値が少なくなる形態になってよく、このようなガウシアンフィルタを3*3形態のマスク50に適用すると、マスク50中心は加重値が大きく、マスク50の周縁に進むにつれて加重値が少なくなる形態になってよい。ただ、図5Aに示す数値は、例に挙げたものであって、フィルタリング数値はガウシアン関数のシグマ値に応じて異なってくる。
【0071】
プロセッサ140は、図5Bに示すように、ガウシアンマスク50を第2パッチ400−1に含まれた各ピクセル値に適用し、第2パッチ400−1をガウシアンぼかし処理することができる。具体的に、プロセッサ140は、第2パッチ400−1に含まれた各ピクセル値がガウシアンマスク50の中心に位置するようにガウシアンマスク50を移動させて各ピクセル値に対してフィルタリングを行うことができる。
【0072】
この場合、プロセッサ140は、第2パッチ400−1の境界に位置するピクセル値に対しては、ミラーリングしたピクセル値に基づいてフィルタリングを行うことができる。例えば、第2パッチ400−1の(1、1)の位置のピクセル値、即ち、P1をガウシアンマスク50の中心に位置させてフィルタリングを行う場合には、図5Cに示すように、境界位置のピクセル値をミラーリングしてP1値を中心とする仮想の第2パッチ20を生成した後、P1値をガウシアンマスク50の中心に位置させてフィルタリングを行うことができる。
【0073】
このように、プロセッサ140は、第2パッチ400−1に含まれた全てのピクセル値に対するガウシアンフィルタリングを行い、ぼかしされた第2パッチ500を獲得することができる。
【0074】
図6は、本発明の実施形態に係る第3パッチ獲得方法を説明するための図である。
【0075】
図6によると、本発明の一実施形態に係る3*3の第2パッチ400−1に含まれた各ピクセル値において、図5Bで獲得されたぼかしされた第2パッチ500に含まれた対応する位置の各ピクセル値を差し引いて、第3パッチ600を獲得することができる。このように、第3パッチ600に含まれた値が中心ピクセル値(P0)に関連する高周波成分になってよい。
【0076】
例えば、第3パッチ600で、(1、1)、(1、2)、(1、3)、(2、1)、(2、2)、(2、3)、(3、1)、(3、2)、(3、3)の位置の各高周波成分は、(P1−P1’)、(P3−P3’)、(P5−P5’)、(P7−P7’)、(P0−P0’)、(P2−P2’)、(P4−P4’)、(P6−P6’)、(P8−P8’)になってよく、これらのそれぞれは、中心ピクセル値(P0)に関連する高周波成分になってよい。これは、上述のように、第2パッチ400−1には高周波成分が含まれており、ぼかしされた第2パッチ500には高周波成分が含まれていないためである。
【0077】
プロセッサ140は、高周波成分を含む第3パッチ600が獲得されると、第3パッチ600に含まれた高周波成分の平均値を0に調整することができる。それは、中心ピクセル値(P0)を基準に、+、−成分の高周波成分を獲得するためである。
【0078】
具体的に、プロセッサ140は、図6に示すように、第3パッチ600に含まれた高周波成分の平均値(Pa)を算出した後、各高周波成分で平均値(Pa)を引くと、第3パッチ600に含まれた高周波成分の平均値を0に調整することができる。即ち、平均値が0に調整された第3パッチ(以下、修正された第3パッチという)600−1に含まれた高周波成分は、それぞれ(P1−P1’−Pa)、(P3−P3’−Pa)、(P5−P5’−Pa)、(P7−P7’−Pa)、(P0−P0’−Pa)、(P2−P2’−Pa)、(P4−P4’−Pa)、(P6−P6’−Pa)、(P8−P8’−Pa)になってよい。
【0079】
本発明の別の実施形態によると、プロセッサ140は、第1パッチで現在のピクセル値及び現在のピクセル値に隣接する複数のピクセル値のそれぞれの差に基づいて、複数のピクセル値のそれぞれに対する加重値を獲得することができる。この場合、プロセッサ140は、修正された第3パッチ600−1に含まれた高周波成分のそれぞれに対応する加重値を適用して特定ピクセル値に対する最終高周波成分を獲得することができる。それは、第2パッチ400−1で中心に位置した現在のピクセル値(P0)と隣接する複数のピクセル値の間の差が予め設定された臨界値を超過する場合に、当該ピクセル値に対する加重値を減らすことで、リンギング(Ringing)などの副作用を防止するためである。
【0080】
一例として、プロセッサ140は、以下の数式(1)に基づいて加重値を獲得することができる。
【0081】
【数1】
【0082】
ここで、Pcは中心ピクセル値、P(x、y)は周辺ピクセル値を示す。
【0083】
このような加重値は、加重値マップ(Weight Map)形態で算出されて第3パッチに適用されてよい。例えば、プロセッサ140は、3*3の加重値マップを3*3の第3パッチに掛け算して加重値の適用された第3パッチを獲得することができる。
【0084】
図7A及び図7Bは、本発明の実施形態によって加重値が適用された第3パッチを獲得する方法を説明するための図である。
【0085】
図7Aは、本発明の一実施形態に係る3*3の加重値マップを獲得する方法を説明するための図である。
【0086】
図7Aによると、本発明の一実施形態に係る3*3の第1パッチ300−1に含まれた現在のピクセル値、即ち、中心ピクセル値(P0)と残りのピクセル値(P1ないしP8)のそれぞれの差700に基づいて、第1パッチ300−1に対応する3*3の加重値マップ800を獲得することができる。
【0087】
即ち、3*3の加重値マップ800で、(1、1)、(1、2)、(1、3)、(2、1)、(2、2)、(2、3)、(3、1)、(3、2)、(3、3)の位置のそれぞれの加重値は、(P1−P0)、(P2−P0)、(P3−P0)、(P4−P0)、(P0−P0)、(P5−P0)、(P6−P0)、(P7−P0)、(P8−P0)に基づいて獲得されてよい。
【0088】
例えば、プロセッサ140は、(2、2)の位置、即ち、中心ピクセル値に対応する位置の加重値を1とし、中心ピクセル値(P0)と残りのピクセル値(P1ないしP8)のそれぞれの差値700に基づいて、残りの位置のピクセル値の加重値w1ないしw8を獲得することができる。
【0089】
図7Bは、本発明の一実施形態に係る加重値マップを第2パッチに適用する方法を説明するための図である。
【0090】
図7Bに示すように、本発明の一実施形態に係る修正された第3パッチ600−1の各高周波成分と、図7Aで算出された加重値マップ800の対応する位置の各加重値を1:1で乗算し、加重値が適用された第3パッチ1000を獲得することができる。
【0091】
一方、プロセッサ140は、獲得された高周波成分、即ち、修正された第3パッチ600−1に基づいて入力映像を処理することができる。ただ、別の実施形態によって、加重値マップを適用した場合、加重値が適用された第3パッチ1000に基づいて、入力映像を処理することができる。ただ、以下では、説明の便宜のため、加重値が適用された第3パッチ1000に基づいて入力映像を処理するものとして説明する。
【0092】
一実施形態により、プロセッサ140は、現在のピクセル値に対する第3パッチ1000、即ち、高周波成分が獲得されると、獲得された高周波成分を第2ストレージ(図示せず)に保存することができる。ここで、第2ストレージ(図示せず)は、第1ストレージ120と別のメモリで実現されてよい。
【0093】
続いて、プロセッサ140は、特定ピクセル値に対する高周波成分が獲得されると、獲得された高周波成分、即ち、第3パッチを第2ストレージに保存し、順次に次のピクセル値に対する高周波成分を獲得して第2ストレージに保存することができる。続いて、プロセッサ140は、入力映像に含まれた全てのピクセル値に対する高周波成分が第2ストレージに保存されると、保存された高周波成分のそれぞれに対応するピクセル値に適用して補正された映像を獲得することができる。
【0094】
図8は、本発明の実施形態によって次のピクセル値に対する高周波成分を獲得する方法を説明するための図である。
【0095】
プロセッサ140は、入力映像30中で、1で17ラインのピクセル値に基づいて、特定ピクセル値310に対する高周波成分が獲得されると、2で18ラインのピクセル値を第1ストレージ120に保存し、保存されたピクセル値に基づいて、次のピクセル値320に対応する高周波成分を獲得することができる。次のピクセル値320に対する高周波成分を獲得する具体的な方法は、上述の図4Aないし図7Bに示す方法が同様に適用されるため、詳細な説明を省略する。プロセッサ140は、入力映像30で1ラインずつ遅延したピクセル値を第1ストレージ120にライトして同様の方法で入力映像30に含まれた全てのピクセル値に対する高周波成分を獲得することができる。ただ、場合によっては、n(n>1)ライン単位でピクセル値を遅延させ、入力映像30のn倍数ラインに該当するピクセル値に対する高周波成分を獲得することも可能である。この場合、映像の細密度が多少低下するとしても、演算量を減らすことができるという効果がある。
【0096】
図9A及び図9Bは、本発明の多様な実施形態によって獲得された高周波成分を入力映像に適用する方法を説明するための図である。
【0097】
図9Aは、本発明の一実施形態によって入力映像に対応する高周波成分イメージを獲得した後、獲得された高周波成分イメージを入力映像に適用する方法を説明するための図である。
【0098】
図9Aに示すように、プロセッサ140は、第1ピクセル31に対する高周波成分を含む第3パッチ1000が獲得されると、獲得された第3パッチ1000を第2ストレージ(図示せず)に保存し、第2ピクセル32に対する高周波成分を含む第3パッチ1000−1が獲得されると、第2ピクセル32の位置に第3パッチ1000−1の中心が対応するように保存することができる。第3ピクセル33に対する高周波成分を含む第3パッチ1000−2が獲得されると、第3ピクセル33の位置に第3パッチ1000−2の中心が対応するように保存することができる。このように、全てのピクセルに対する高周波成分、即ち、第3パッチを獲得して保存すると、高周波成分がオーバーラップして保存され、入力映像の大きさに対応する高周波成分イメージ800’を獲得することができるようになる。続いて、プロセッサ140は、獲得された高周波成分イメージ800’を入力映像30に適用して補正された領域を獲得することができる。
【0099】
図8Bは、本発明の別の実施形態によって獲得された高周波成分を含む第3パッチをリアルタイムで入力映像のうち、対応するピクセルに適用する方法を説明するための図である。
【0100】
別の実施形態によると、プロセッサ140は、第1ピクセル31に対する高周波成分を含む第3パッチ1000が獲得されると、獲得された第3パッチ1000の中心が第1ピクセル31に対応するように入力映像30に第3パッチ1000を適用し、第2ピクセル32に対する高周波成分を含む第3パッチ1000−1が獲得されると、獲得された第3パッチ1000の中心が第2ピクセル32に対応するように、入力映像30に第3パッチ1000−1を獲得することができる。このように、プロセッサ140は、入力映像300に含まれた全てのピクセルに対する高周波成分を順次に適用して補正された映像を獲得することができる。
【0101】
一方、上述の映像処理過程は、実施形態によって、映像のスケーリング前または後に行われてよい。例えば、低解像度映像を高解像度映像に拡大するスケーリング後に上述の映像処理を行うか、圧縮映像をデコーディングする過程で上述の映像処理を行った後スケーリングを行うこともできる。
【0102】
図10は、本発明の別の実施形態に係るディスプレイ装置の構成を示すブロック図である。図10によると、ディスプレイ装置200は、入力インターフェース110、第1ストレージ120、第2ストレージ121、第3ストレージ122、ディスプレイ130、プロセッサ140、出力部150を含む。図10に示す説明のうち、図2に示す構成と重複する構成については、詳細な説明を省略する。
【0103】
プロセッサ140は、CPU、ディスプレイ装置200の制御のための制御プログラムが保存されたROM(または、非揮発性メモリ)及びディスプレイ装置200の外部から入力されるデータを保存するか、ディスプレイ装置200で行われる多様な作業に対応する保存領域として使用されるRAM(または、揮発性メモリ)を含んでよい。
【0104】
CUP141は、第1ないし第3ストレージ120ないし122のうち、少なくとも一つにアクセスし、保存された各種プログラム、コンテンツ、データなどを用いて多様な動作を行う。
【0105】
ここで、第1ないし第3ストレージ120ないし122のうち、少なくとも一つは、プロセッサ140に含まれたROM、RAMなどの内部メモリで実現されたり、プロセッサ140と別途のメモリで実現されてよい。この場合、第1ないし第3ストレージ120ないし122のうち、少なくとも一つは、データ保存用途に応じて、ディスプレイ装置200にエンベデッドされたメモリ形態で実現されるか、ディスプレイ装置200に脱着可能なメモリ形態で実現されてよい。例えば、ディスプレイ装置200の駆動のためのデータの場合、ディスプレイ装置200にエンベデッドされたメモリに保存され、ディスプレイ装置200の拡張機能のためのデータの場合、ディスプレイ装置200に脱着が可能なメモリに保存されてよい。一方、ディスプレイ装置200にエンベデッドされたメモリの場合、非揮発性メモリ、揮発性メモリ、ハードディスクドライブ(HDD)またはソリッドステートドライブ(SSD)などのような形態で実現され、ディスプレイ装置200に脱着が可能なメモリの場合、メモリカード(例えば、micro SDカード、USBメモリなど)、USBポートに接続可能な外部メモリ(例えば、USBメモリ)などのような形態で実現されてよい。
【0106】
第1ストレージ120は、上述のように、Nラインメモリで実現されてよい。ここで、第1ストレージ120をプロセッサ140内部メモリで実現されてよく、この場合、プロセッサ140のハードウェア的なメモリ容量限界によるNラインメモリで実現されてよい。
【0107】
第2ストレージ121は、獲得された高周波成分を保存するためのメモリとして、本発明の多様な実施形態によって多様なサイズのメモリで実現されてよい。例えば、本発明の一実施形態によって、入力映像の各ピクセル値に対応する高周波成分を全て獲得して保存した後、入力映像に適用するように実現される場合、第2ストレージ121は入力映像の大きさと同じか、大きいサイズで実現されてよい。別の実施形態によって、第1ストレージ120のサイズに対応する映像単位で高周波成分を適用するか、ピクセルライン単位で獲得された高周波成分をピクセルライン単位で適用するなどの場合には、当該映像処理のための適切なサイズで実現されてよい。
【0108】
第3ストレージ122は、獲得された高周波成分を適用して映像処理した出力映像が保存されたメモリとして、本発明の多様な実施形態によって多様なサイズのメモリで実現されてよい。例えば、本発明の一実施形態によって入力映像の各ピクセル値に対応する高周波成分を全て適用して出力映像を獲得してディスプレイするように実現される場合、第3ストレージ122は入力映像の大きさと同じか、大きいサイズで実現されてよい。別の実施形態により、第1ストレージ120のサイズに対応する映像単位で映像を出力するか、ピクセルライン単位で出力するなどの場合には、当該映像保存のための適切なサイズで実現されてよい。
【0109】
ただ、第1ストレージ120または第2ストレージ121に出力映像がオーバーライトされるか、出力映像が保存されずに直ちにディスプレイされる形態で実現される場合などに、第3ストレージ122は必要としなくなる。
【0110】
出力部150は、音響信号を出力する。
【0111】
例えば、出力部150は、プロセッサ140で処理されたデジタル音響信号をアナログ音響信号に変換して増幅して出力することができる。例えば、出力部150は、少なくとも一つのチャネルを出力することができる、少なくとも一つのスピーカユニット、D/Aコンバータ、オーディオアンプ(audio amplifier)などを含んでよい。一例として、出力部150は、Lチャネル、Rチャネルをそれぞれ再生するLチャネルスピーカ及びRチャネルスピーカを含んでよい。ただ、それに限定されずに、出力部150は、多様な形態で実現可能である。別の例として、出力部140は、Lチャネル、Rチャネル、Centerチャネルを再生するサウンドバー形態で実現されることも可能である。
【0112】
図11は、本発明の一実施形態に係るディスプレイ装置の映像処理方法を説明するためのフローチャートであり、図12は、本発明の一実施形態に係るディスプレイ装置の映像処理方法を説明するための図である。
【0113】
図11に示す本発明の一実施形態に係るディスプレイ装置の映像処理方法によると、入力映像で予め設定された数のラインに対応するピクセル値を保存する(S1110)。例えば、図12に示すように、縦方向17ラインに該当するピクセル値を保存することができる(S1210)。
【0114】
続いて、保存されたピクセル値のうち、特定ピクセル値を基準に相互異なる方向にそれぞれ離隔している位置の複数のピクセル値をサンプリングし、予め設定された大きさの第1パッチを獲得する(S1220)。具体的に、保存されたピクセル値のうち、特定ピクセル値を基準とするメトリクス外郭に位置した複数のピクセル値をサンプリングして予め設定された大きさの第1パッチを獲得することができる。特に、特定ピクセル値を基準に予め設定されたピクセル間隔を半径とする円に外接する四角の各頂点に位置したピクセル値及び円と四角の接点に位置したピクセル値が特定ピクセル値を囲む3*3形態の第1パッチを獲得することができる。例えば、図12に示すように、特定ピクセル値を基準に上下左右方向に8ピクセル離隔した位置のピクセル値及び対角線方向に位置したピクセル値をマージング(Merging)して第1パッチ1221を獲得することができる。
【0115】
続いて、特定ピクセル値を基準に第1パッチに含まれた複数のピクセル値の位置を予め設定された順番に応じて変更し、第2パッチを獲得することができる(S1130)。具体的に、第1パッチで特定ピクセル値の位置を固定させ、相互離隔配置されたピクセルを特定ピクセル値を基準に順次に配置して第2パッチを獲得することができる。一実施形態によって、第1パッチで特定ピクセル値を基準に対角方向に位置した隣接ピクセル値を時計回りまたは反時計回りに獲得して順次に配置し、残りのピクセル値を同様の方向に獲得して順次に配置することで、第2パッチを獲得することができる。例えば、図12に示す形態で複数のピクセル値の位置をリオーダリングして第2パッチ1231を獲得することができる(1230)。
【0116】
続いて、第2パッチに基づいて特定ピクセル値に対する高周波成分を獲得し(S1140)、獲得された高周波成分に基づいて入力映像を処理し、処理された映像をディスプレイする(S1140)。例えば、第1パッチで特定ピクセル値及び特定ピクセル値に隣接する複数のピクセル値のそれぞれの差に基づいて、複数のピクセル値のそれぞれに対する加重値を獲得し、第3パッチに含まれた高周波成分のそれぞれに獲得された加重値のうち、対応する位置の加重値を適用して特定ピクセル値に対する高周波成分を獲得することができる。
【0117】
図12に示すように、第2パッチ及びブラー処理された第2パッチに基づいて高周波成分を獲得し(1240)、第1パッチから加重値を獲得した後(1250)、獲得された高周波成分に加重値を適用し、加重値の適用された高周波成分を獲得することができる(1260)。その後、3*3形態の第3パッチの中心を現在のピクセル位置に対応するようにし、高周波成分を継続して足していく(1270)。このような過程を通じ、17ラインに該当するピクセル値に対する高周波マップ(1280)を獲得することができる。
【0118】
その後、獲得された高周波マップを入力映像に適用し(1290)、映像処理された出力映像(1300)を獲得することができる。
【0119】
図13Aないし図14Bは、本発明の一実施形態に係る侵害摘発方法を説明するための図である。
【0120】
図13Aに示すように、特定パターン映像(例えば、1ピクセルの大きさのブラックドット1310映像1301を入力し、本発明の適用可否を判断することができる。
【0121】
本発明の一実施形態によって、図3に示す第1パッチ300−1、即ち、ピクセル値リオーダリング前のパッチに基づいて、高周波成分を獲得して映像処理した場合、出力映像1302は、図13Bに示すような形態になる。
【0122】
それは、図14Aに示すように、ブラックドット1310が上下左右方向に離隔しているピクセル1312、1314、1316、1318及び対角線方向に離隔しているピクセル1311、1313、1315、1317の高周波成分の生成、即ち、本発明の一実施形態に係る第3パッチ1401(1321ないし1328)に影響を及ぼすためである。例えば、ブラックドット1310を基準に、左上の対角線方向に位置したピクセル1311に対する高周波成分、即ち、第3パッチ1321を獲得する際、ブラックドット1310は第3パッチ1321で当該ピクセル1311を基準に右下の対角線方向の高周波成分に影響を及ぼすことになる。即ち、ブラックドット1310を基盤に獲得された第3パッチ1321の中心部分が当該ピクセル値1311に対応するように足されるようになるため、図14Aに示すように、出力映像1302は当該ピクセル1311の右下の対角線方向にドットを含む形態になる。残りのピクセル1312ないし1318に対しても、同一の原理が適用されるため、出力映像1302は、図13Bに示すような形態であってよい。
【0123】
本発明の別の実施形態によって、図4Aに示す第2パッチ400−1、即ち、第1パッチ300−1に含まれたピクセル値をリオーダリングして獲得されたパッチに基づいて、高周波成分を獲得して映像処理した場合、出力映像1303は、図13Cに示すような形態であってよい。
【0124】
それは、ブラックドット1310を基準に左上の対角線方向に位置したピクセル1311に対する高周波成分、即ち、第3パッチ1321を獲得する際、ブラックドット1310は、図14Aで説明したように、第3パッチ1321で当該ピクセル1311を基準に右下の対角線方向の高周波成分に影響を及ぼすことになるが、当該周波数成分の位置がピクセルリオーダリングによって左上の対角線方向に変更されたためである。即ち、ブラックドット1310を基盤に獲得された第3パッチ1321の中心部分が当該ピクセル値1311に対応するように足されるようになるため、図14Bの第3パッチ1402に示すように、出力映像1303は、当該ピクセル1311の右上の対角線方向にドットを含む形態になる。残りのピクセル1312ないし1318に対しても、同じ原理が適用されるため、出力映像は図13Cに示すような形態になってよい。
【0125】
上述の多様な実施形態によると、映像拡大及び/映像圧縮などによって、テクスチャが損失された映像に対してテクスチャ生成を通じて映像の細密度を向上させることができるようになる。
【0126】
ただ、本発明の多様な実施形態は、ディスプレイ装置だけでなく、セットトップボックスのような映像受信装置、映像処理装置など、映像処理が可能な全ての電子装置に適用され得る。
【0127】
一方、本発明の一実施形態によると、以上で説明された多様な実施形態は、ソフトウェア、ハードウェアまたはこれらの組み合わせを用いてコンピュータまたはそれと類似する装置で読み取れる記録媒体内で実現されてよい。一部の場合において、本明細書で説明される実施形態がプログラムそのもので実現されてよい。ソフトウェア的な実現によると、本明細書で説明される手続き及び機能のような実施形態は、別途のソフトウェアモジュールで実現されてよい。ソフトウェアモジュールのそれぞれは、本明細書で説明される一つ以上の機能及び動作を行うことができる。
【0128】
一方、上述の多様な実施形態による機器のプロセッシング動作を行うためのコンピュータ命令語(computer instructions)は、非一時的なコンピュータ読み取り可能な媒体(non−transitory computer−readable medium)に保存されてよい。このような非一時的なコンピュータ読み取り可能な媒体に保存されたコンピュータ命令語は、特定機器のプロセッサによって実行された際、上述の多様な実施形態に係る機器における処理動作を特定機器が行うようにする。
【0129】
非一時的なコンピュータ読み取り可能な媒体とは、レジスタ、キャッシュ、メモリなどのように、短い間データを保存する媒体ではなく、半永久的にデータを保存し、機器によって読み取りが可能な媒体を意味する。非一時的なコンピュータ読み取り可能な媒体の具体的な例としては、CD、DVDD、ハードディスク、ブルーレイディスク、USB、メモリカード、ROM等があってよい。
【0130】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明は以上の実施形態に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的趣旨の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
図1
図2
図3
図4a
図4b
図5a
図5b
図5c
図6
図7a
図7b
図8
図9a
図9b
図10
図11
図12
図13A
図13B
図13C
図14A
図14B