(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-01-31
(54)【発明の名称】ディスプレイ装置及びその制御方法
(51)【国際特許分類】
H04N 19/117 20140101AFI20220124BHJP
G06T 7/00 20170101ALI20220124BHJP
G06T 3/40 20060101ALI20220124BHJP
H04N 19/86 20140101ALI20220124BHJP
H04N 7/01 20060101ALI20220124BHJP
【FI】
H04N19/117
G06T7/00 350C
G06T3/40 725
G06T3/40 730
H04N19/86
H04N7/01 170
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021513901
(86)(22)【出願日】2019-11-07
(85)【翻訳文提出日】2021-03-11
(86)【国際出願番号】 KR2019015016
(87)【国際公開番号】W WO2020101257
(87)【国際公開日】2020-05-22
(31)【優先権主張番号】10-2018-0138373
(32)【優先日】2018-11-12
(33)【優先権主張国・地域又は機関】KR
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】503447036
【氏名又は名称】サムスン エレクトロニクス カンパニー リミテッド
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】イ,サンジョ
(72)【発明者】
【氏名】ナ,サンクォン
(72)【発明者】
【氏名】キム,ドヒュン
【テーマコード(参考)】
5B057
5C063
5C159
5L096
【Fターム(参考)】
5B057AA20
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CC02
5B057CD05
5B057CE06
5C063BA09
5C063BA10
5C159KK54
5C159RC14
5C159TA69
5C159TB04
5C159TC01
5C159TC38
5C159TD01
5C159TD15
5C159UA05
5C159UA12
5C159UA14
5L096AA06
5L096BA08
5L096DA01
5L096DA04
5L096EA03
5L096GA53
5L096GA55
5L096HA11
(57)【要約】
本発明は、ディスプレイ装置及びその制御方法に関し、ディスプレイ装置は、ビデオ信号をデコード可能なビデオデコーダ;いずれか一つのフィルターの出力が他のフィルターの入力となるように設けられる複数のフィルターを含み、デコードされたビデオ信号を処理して映像の解像度を調節するAIスケーラーを含み、複数のフィルターは、それぞれが制御信号に基づいて選択的にターンオン又はオフされ、ターンオンされたフィルターは、学習によって設定されたパラメータによってビデオ信号を処理し、ターンオフオフされたフィルターは、入力されるビデオ信号をバイパスして出力する。
【特許請求の範囲】
【請求項1】
ディスプレイ装置であって、
ビデオ信号をデコード可能なビデオデコーダ;
複数のフィルターを含み、前記デコードされたビデオ信号を処理するAIスケーラー;及び
制御信号に基づいて、前記複数のフィルターのそれぞれを選択的にターンオン又はオフすることによって映像の解像度を制御する制御部を含み、
前記複数のフィルターのうち、選択されたフィルターは制御信号によってターンオンされ、前記複数のフィルターのうち、選択されなかったフィルターは制御信号によってターンオフされ、
前記ターンオンに基づいて選択されたフィルターは、学習に基づく一つ以上の第1のパラメータに基づいて前記ビデオ信号を処理し、前記学習は、トレーニングによって前記一つ以上の第1のパラメータに到達することを含み、
前記ターンオフに基づいて選択されなかったフィルターは、前記選択されなかったフィルターに入力される信号をバイパスして出力する、ディスプレイ装置。
【請求項2】
前記学習を行って生成されたルックアップテーブルが記憶された記憶部をさらに含み、
前記制御部は、前記ルックアップテーブルから抽出された前記一つ以上のパラメータに基づいて前記選択されたフィルターをセットする、請求項1に記載のディスプレイ装置。
【請求項3】
前記選択されたフィルターは、それぞれが一つ以上の第2のパラメータにセットされた複数の第2のフィルターを含み、
前記AIスケーラーは、前記デコードされたビデオ信号が前記複数の第2のフィルターを順次に通過するようにする、請求項1に記載のディスプレイ装置。
【請求項4】
前記制御部は、
前記ビデオデコーダから前記ビデオ信号のコーデック情報を取得し、
前記取得したコーデック情報に基づいて前記ルックアップテーブルから一つ以上のパラメータを抽出し、
前記抽出された一つ以上のパラメータに基づいて前記選択されたフィルターをセットする、請求項2に記載のディスプレイ装置。
【請求項5】
前記制御部は、
前記AIスケーラーが、
第1のフィルターによって前記ビデオ信号の映像特性を分析し、
前記分析された映像の特性に対応する第3パラメータにセットされた第2のフィルターによって前記ビデオ信号を処理し、前記選択されたフィルターは前記第2のフィルターを含み、前記一つ以上の第2のパラメータは第3パラメータを含む、請求項2に記載のディスプレイ装置。
【請求項6】
前記ルックアップテーブルは、映像の特性に基づく学習に基づき、
前記ルックアップテーブルは、前記第3パラメータを記憶する、請求項5に記載のディスプレイ装置。
【請求項7】
前記選択されたフィルターは、
前記映像に対して、ノイズ除去及びディテール強化のうち少なくとも一つに対応する後処理を行う第3フィルターを含む、請求項5に記載のディスプレイ装置。
【請求項8】
前記一つ以上の第1のパラメータは第1のAI学習ベース処理に基づいたり、又は前記一つ以上の第1のパラメータは第2のAI学習ベース処理に基づく、請求項1~7のいずれかに記載のディスプレイ装置。
【請求項9】
前記複数のフィルターのそれぞれは、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理のいずれか一方を示す構成制御信号に基づいてターンオン又はターンオフされ、前記AIスケーラーは、前記第1の組合せのフィルターと前記第2の組合せのフィルターのいずれか一方を用いて前記デコードされたビデオ信号を処理するように制御される、請求項8に記載のディスプレイ装置。
【請求項10】
ディスプレイ装置の制御方法であって、
ビデオ信号をデコードする段階;及び
制御信号に基づいて複数のフィルターのそれぞれを選択的にターンオン又はオフし、前記複数のフィルターを通じて前記デコードされたビデオ信号を処理して、映像の解像度を制御する段階を含み、
前記複数のフィルターのうち、選択されたフィルターは制御信号によってターンオンされ、前記複数のフィルターのうち、選択されなかったフィルターは制御信号によってターンオフされ、
前記ターンオンに基づいて選択されたフィルターは、学習に基づく一つ以上の第1のパラメータに基づいて前記ビデオ信号を処理し、前記学習は、トレーニングによって前記一つ以上の第1のパラメータに到達することを含み、
前記ターンオフに基づいて選択されなかったフィルターは、前記選択されなかったフィルターに入力される信号をバイパスして出力するディスプレイ装置の制御方法。
【請求項11】
前記選択されたフィルターは、それぞれが一つ以上の第2のパラメータにセットされた複数の第2のフィルターを含み、
前記映像の解像度を制御する段階は、
前記デコードされたビデオ信号が、前記複数の第2のフィルターを順次に通過する段階を含む、請求項10に記載のディスプレイ装置の制御方法。
【請求項12】
前記学習を行って生成された第1のルックアップテーブルを記憶する段階をさらに含み、
前記映像の解像度を制御する段階は、
ビデオデコーダから前記ビデオ信号のコーデック情報を取得する段階、
前記コーデック情報に基づいて前記第1のルックアップテーブルから一つ以上の第1のパラメータを抽出する段階、及び
前記一つ以上の第1のパラメータに基づいて前記選択されたフィルターをセットする段階を含む、請求項11に記載のディスプレイ装置の制御方法。
【請求項13】
前記映像の解像度を制御する段階は、第1のフィルターによって前記ビデオ信号の映像特性を分析する段階をさらに含み、
前記デコードされたビデオ信号を処理する段階は、前記分析された映像の特性に対応する第3パラメータにセットされた第2のフィルターによって前記ビデオ信号を処理する段階を含み、前記選択されたフィルターは前記第2のフィルターを含み、前記一つ以上の第2のパラメータは第3パラメータを含む、請求項10に記載のディスプレイ装置の制御方法。
【請求項14】
映像の特性に基づく学習に基づく第2のルックアップテーブルを記憶する段階をさらに含み、
前記映像の解像度を制御する段階は、前記第2のルックアップテーブルから前記第3パラメータを抽出する段階を含む、請求項13に記載のディスプレイ装置の制御方法。
【請求項15】
前記映像に対して、第3フィルターによってノイズ除去及びディテール強化のうち少なくとも一つに対応する後処理を行う段階をさらに含む、請求項13に記載のディスプレイ装置の制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ディスプレイ装置及びその制御方法に関し、特に、AIベースでビデオ信号を処理するディスプレイ装置及びその制御方法に関する。
【背景技術】
【0002】
人工知能(Artificial Intelligence,AI)システムは、人間レベルの知能を具現するコンピュータシステムであり、既存ルール(Rule)ベースのスマートシステムと違い、機械が自ら学習し判断してスマートになるシステムである。人工知能システムは、使用すればするほど認識率が向上し、ユーザの好みがより正確に理解可能になることから、既存ルールベースのスマートシステムは次第にAI学習ベースの人工知能システムに取って代わられている。
【0003】
人工知能技術は、マシンラーニング(機械学習)、ディープラーニングのような学習ベース処理及び学習を活用した要素技術で構成される。
【0004】
学習は、入力データの特徴を自ら分類/学習するアルゴリズム技術であり、要素技術は、ディープラーニングなどの学習アルゴリズムを活用して人間頭脳の認知、判断などの機能を模写する技術であり、言語的理解、視覚的理解、推論/予測、知識表現、動作制御などの技術分野で構成される。
【0005】
人工知能技術が応用される様々な分野は、次の通りである。言語的理解は、人間の言語/文字を認識して応用/処理する技術であり、自然語処理、機械翻訳、会話システム、質疑応答、音声認識/合成などを含む。視覚的理解は、事物を人間の視覚で認識するかのように認識して処理する技術であり、客体認識、客体追跡、映像検索、人認識、場面理解、空間理解、映像改善などを含む。推論予測は、情報を判断して論理的に推論し予測する技術であり、知識/確率ベース推論、最適化予測、選好ベース計画、推薦などを含む。知識表現は、人間の経験情報を知識データに自動化処理する技術であり、知識構築(データ生成/分類)、知識管理(データ活用)などを含む。動作制御は、車両の自律走行、ロボットの動きを制御する技術であり、動き制御(航法、衝突、走行)、操作制御(行動制御)などを含む。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、AIベースでビデオ信号を処理するとき、マシンラーニング又はディープラーニングベースによる映像の解像度調節を選択的に適用できるディスプレイ装置及びその制御方法を提供する。
【課題を解決するための手段】
【0007】
いくつかの実施例によれば、ビデオ信号をデコード可能なビデオデコーダ;複数のフィルターを含み、前記デコードされたビデオ信号を処理するAIスケーラー;及び、制御信号に基づいて、前記複数のフィルターのそれぞれを選択的にターンオン又はオフすることによって映像の解像度を制御する制御部を含み、前記複数のフィルターのうち、選択されたフィルターは、制御信号によってターンオンされ、前記複数のフィルターのうち、選択されなかったフィルターは、制御信号によってターンオフされ、前記ターンオンに基づいて選択されたフィルターは、学習に基づく一つ以上の第1のパラメータに基づいて前記ビデオ信号を処理し、前記学習は、トレーニングによって前記一つ以上の第1のパラメータに到達することを含み、前記ターンオフに基づいて選択されなかったフィルターは、前記選択されなかったフィルターに入力される信号をバイパスして出力する、ディスプレイ装置が提供される。
【0008】
いくつかの実施例において、前記ディスプレイ装置は、前記学習を行って生成されたルックアップテーブルが記憶された記憶部をさらに含み、前記制御部は、前記ルックアップテーブルから抽出された前記一つ以上のパラメータに基づいて前記選択されたフィルターをセットすることができる。
【0009】
前記ディスプレイ装置のいくつかの実施例において、前記選択されたフィルターは、それぞれが一つ以上の第2のパラメータにセットされた複数の第2のフィルターを含み、前記AIスケーラーは、前記デコードされたビデオ信号が前記複数の第2のフィルターを順次に通過するようにすることができる。
【0010】
前記ディスプレイ装置のいくつかの実施例において、前記制御部は、前記ビデオデコーダから前記ビデオ信号のコーデック情報を取得し、前記取得したコーデック情報に基づいて前記ルックアップテーブルから一つ以上のパラメータを抽出し、前記抽出された一つ以上のパラメータに基づいて前記選択されたフィルターをセットすることができる。
【0011】
前記ディスプレイ装置のいくつかの実施例において、前記コーデック情報は、コーデック種類又は圧縮強度のうち少なくとも一つを含むことができる。
【0012】
前記ディスプレイ装置のいくつかの実施例において、前記制御部は、前記AIスケーラーが、第1のフィルターによって前記ビデオ信号の映像特性を分析し、前記分析された映像の特性に対応する第3パラメータにセットされた第2のフィルターによって前記ビデオ信号を処理し、前記選択されたフィルターは前記第2のフィルターを含み、前記一つ以上の第2のパラメータは第3パラメータを含むことができる。
【0013】
前記ディスプレイ装置のいくつかの実施例において、前記ルックアップテーブルは、映像の特性に基づく学習に基づき、前記ルックアップテーブルは、前記第3パラメータを記憶することができる。
【0014】
前記ディスプレイ装置のいくつかの実施例において、前記選択されたフィルターは、前記映像に対して、ノイズ除去及びディテール強化のうち少なくとも一つに対応する後処理を行う第3フィルターを含むことができる。
【0015】
前記ディスプレイ装置のいくつかの実施例において、前記一つ以上の第1のパラメータは、第1のAI学習ベース処理に基づいたり、又は前記一つ以上の第1のパラメータは、第2のAI学習ベース処理に基づくことができる。
【0016】
前記ディスプレイ装置のいくつかの実施例において、前記複数のフィルターのそれぞれは、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理のいずれか一方を示す構成制御信号に基づいてターンオン又はターンオフされ、前記AIスケーラーは、前記第1の組合せのフィルターと前記第2の組合せのフィルターのいずれか一方を用いて前記デコードされたビデオ信号を処理するように制御されてよい。
【0017】
前記ディスプレイ装置のいくつかの実施例において、前記複数のフィルターのうち少なくとも一つのフィルターは、第1の組合せのフィルター及び第2の組合せのフィルターに含まれ、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理において共用に使用可能である。
【0018】
一方、いくつかの実施例によれば、ビデオ信号をデコードする段階;及び制御信号に基づいて複数のフィルターのそれぞれを選択的にターンオン又はオフし、前記複数のフィルターを通じて前記デコードされたビデオ信号を処理して、映像の解像度を制御する段階を含み、前記複数のフィルターのうち、選択されたフィルターは、制御信号によってターンオンされ、前記複数のフィルターのうち、選択されなかったフィルターは、制御信号によってターンオフされ、前記ターンオンに基づいて選択されたフィルターは、学習に基づく一つ以上の第1のパラメータに基づいて前記ビデオ信号を処理し、前記学習は、トレーニングによって前記一つ以上の第1のパラメータに到達することを含み、前記ターンオフに基づいて選択されなかったフィルターは、前記選択されなかったフィルターに入力される信号をバイパスして出力する、ディスプレイ装置の制御方法が提供される。
【0019】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記選択されたフィルターは、それぞれが一つ以上の第2のパラメータにセットされた複数の第2のフィルターを含み、前記映像の解像度を制御する段階は、前記デコードされたビデオ信号が、前記複数の第2のフィルターを順次に通過する段階を含むことができる。
【0020】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記方法は、前記学習を行って生成された第1のルックアップテーブルを記憶する段階をさらに含み、前記映像の解像度を制御する段階は、ビデオデコーダから前記ビデオ信号のコーデック情報を取得する段階、前記コーデック情報に基づいて前記第1のルックアップテーブルから一つ以上の第1のパラメータを抽出する段階、及び前記一つ以上の第1のパラメータに基づいて前記選択されたフィルターをセットする段階を含むことができる。
【0021】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記方法は、前記映像の解像度を制御する段階は、第1のフィルターによって前記ビデオ信号の映像特性を分析する段階をさらに含み、前記デコードされたビデオ信号を処理する段階は、前記分析された映像の特性に対応する第3パラメータにセットされた第2のフィルターによって前記ビデオ信号を処理する段階を含み、前記選択されたフィルターは前記第2のフィルターを含み、前記一つ以上の第2のパラメータは第3パラメータを含むことができる。
【0022】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記方法は、映像の特性に基づく学習に基づく第2のルックアップテーブルを記憶する段階をさらに含み、前記映像の解像度を制御する段階は、前記第2のルックアップテーブルから前記第3パラメータを抽出する段階を含むことができる。
【0023】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記方法は、前記映像に対して、第3フィルターによってノイズ除去及びディテール強化のうち少なくとも一つに対応する後処理を行う段階をさらに含むことができる。
【0024】
前記ディスプレイ装置の制御方法のいくつかの実施例において、前記一つ以上の第1のパラメータは、第1のAI学習ベース処理に基づいたり、又は前記一つ以上の第1のパラメータは第2のAI学習ベース処理に基づくことができる。
【0025】
前記方法のいくつかの実施例において、前記映像の解像度を制御する段階は、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理のいずれか一方を示す構成制御信号に基づいて前記複数のフィルターのそれぞれがターンオン又はオフされるように制御する段階を含むことができる。
【0026】
一方、少なくとも一つのプロセッサによって行われるインストラクションを記憶する不揮発性のコンピュータ読み取り可能媒体が提供され、前記インストラクションは、前記プロセッサがビデオ信号をデコードし、制御信号に基づいて選択的にオン又はオフされる複数のフィルターによって映像の解像度を制御し、前記複数のフィルターのうち、選択されたフィルターは、制御信号によってターンオンされ、複数のフィルターのうち、選択されなかったフィルターは、制御信号によってターンオフされ、前記複数のフィルターを通じて前記デコードされたビデオ信号を処理し、前記ターンオンに基づいて選択されたフィルターが、学習に基づく一つ以上の第1のパラメータに基づいて前記ビデオ信号を処理し、前記学習は、トレーニングによって前記一つ以上の第1のパラメータに到達し、前記選択されなかったフィルターが、前記選択されなかったフィルターに入力される前記ビデオ信号をバイパスして出力するようにする。
【0027】
一実施例によれば、ビデオ信号をデコード可能なビデオデコーダ;いずれか一つのフィルターの出力が他のフィルターの入力となるように設けられる複数のフィルターを含み、前記デコードされたビデオ信号を処理して映像の解像度が制御されるようにするAIスケーラー;を含み、前記複数のフィルターは、それぞれが制御信号に基づいて選択的にターンオン又はオフされ、前記ターンオンされたフィルターは、学習によって設定されたパラメータによって前記ビデオ信号を処理し、前記ターンオフされたフィルターは、入力される前記ビデオ信号をバイパスして出力するディスプレイ装置が提供される。
【0028】
ディスプレイ装置は、事前に前記学習を行って生成されたルックアップテーブルが記憶された記憶部をさらに含み、前記ターンオンされたフィルターは、前記ルックアップテーブルから抽出された前記パラメータによってセットされてよい。
【0029】
前記ターンオンされたフィルターは、それぞれが所定のパラメータにセットされた複数のフィルターを含み、前記デコードされたビデオ信号が、前記ターンオンされた前記複数のフィルターを順次に通過して前記映像の解像度が制御されてよい。
【0030】
前記ディスプレイ装置は、事前に前記学習を行って生成されたルックアップテーブルが記憶された記憶部;及び、前記ビデオデコーダから前記ビデオ信号のコーデック情報を取得し、前記取得したコーデック情報に基づいて前記ルックアップテーブルからパラメータを抽出し、動作がオンされた前記複数のフィルターのそれぞれが前記抽出されたパラメータに基づいてセットされるようにする制御部をさらに含むことができる。
【0031】
前記コーデック情報は、コーデック種類又は圧縮強度のうち少なくとも一つを含むことができる。
【0032】
前記ターンオンされたフィルターは、前記ビデオ信号の映像特性を分析する第1のフィルターと、前記分析された映像の特性に対応するパラメータにセットされて前記映像の解像度を調節する第2のフィルターとを含むことができる。
【0033】
前記ディスプレイ装置は、事前に前記学習を行って映像の特性別に生成されたルックアップテーブルが記憶された記憶部;及び、前記第1のフィルターによって分析された映像の特性に対応するパラメータを前記ルックアップテーブルから抽出し、前記第2のフィルターが前記抽出されたパラメータに基づいてセットされるようにする制御部をさらに含むことができる。
【0034】
前記ターンオンされたフィルターは、前記第2のフィルターによって解像度が調節された映像に対して、ノイズ除去又はディテール強化のうち少なくとも一つに対応する後処理を行う第3フィルターをさらに含むことができる。
【0035】
前記AIスケーラーは、第1のAI学習ベース処理に対応して、前記複数のフィルターのうち第1の組合せのフィルターを用いて前記デコードされたビデオ信号を処理したり、又は第2のAI学習ベース処理に対応して、前記複数のフィルターのうち前記第1の組合せとは異なる第2の組合せのフィルターを用いて前記デコードされたビデオ信号を処理することができる。
【0036】
前記複数のフィルターのそれぞれは、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理のいずれか一方を示す構成制御信号に基づいてターンオン又はオフされるように制御されてよく、前記AIスケーラーは、前記第1の組合せのフィルターと前記第2の組合せのフィルターのいずれか一方を用いて前記デコードされたビデオ信号を処理するように制御されてよい。
【0037】
前記複数のフィルターのうち少なくとも一つのフィルターは、第1の組合せのフィルター及び第2の組合せのフィルターに含まれ、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理において共用に用いられてよい。
【0038】
一方、本発明の一実施例によれば、ビデオ信号をデコードする段階;及び、いずれか一つのフィルターの出力が他のフィルターの入力となるように設けられる複数のフィルターを用いて前記デコードされたビデオ信号を処理して映像の解像度を制御する段階を含み、前記映像の解像度を調節する段階において、前記複数のフィルターは、それぞれが制御信号に基づいて選択的にターンオン又はオフされ、前記ターンオンされたフィルターが、学習によって設定されたパラメータによって前記ビデオ信号を処理する段階;及び、前記ターンオフされたフィルターが、入力される前記ビデオ信号をバイパスして出力する段階を含むディスプレイ装置の制御方法が提供される。
【0039】
前記ターンオンされたフィルターは、それぞれが所定パラメータにセットされた複数のフィルターを含み、前記映像の解像度を制御する段階は、前記デコードされたビデオ信号が、動作がオンされた前記複数のフィルターを順次に通過して前記映像の解像度が制御されるようにすることができる。
【0040】
前記方法は、事前に前記学習を行って生成されたルックアップテーブルを記憶する段階をさらに含み、前記映像の解像度を制御する段階は、ビデオデコーダから前記ビデオ信号のコーデック情報を取得する段階;及び、前記取得したコーデック情報に基づいて前記ルックアップテーブルからパラメータを抽出し、動作がオンされた前記複数のフィルターのそれぞれが前記抽出されたパラメータに基づいてセットされるようにする段階を含むことができる。
【0041】
前記映像の解像度を制御する段階は、第1のフィルターによって前記ビデオ信号の映像特性を分析する段階と;前記分析された映像の特性に対応するパラメータにセットされた第2のフィルターによって前記映像の解像度を調節する段階を含むことができる。
【0042】
前記方法は、事前に前記学習を行って映像の特性別に生成されたルックアップテーブルを記憶する段階をさらに含み、前記映像の解像度を調節する段階は、前記第1のフィルターによって分析された映像の特性に対応するパラメータを前記ルックアップテーブルから抽出する段階;及び、前記抽出されたパラメータに前記第2のフィルターをセットする段階を含むことができる。
【0043】
前記映像の解像度を制御する段階は、前記第2のフィルターによって解像度が調節された映像に対して、第3フィルターによってノイズ除去又はディテール強化のうち少なくとも一つに対応する後処理を行う段階をさらに含むことができる。
【0044】
前記映像の解像度を調節する段階は、第1のAI学習ベース処理に対応して、前記複数のフィルターのうち第1の組合せのフィルターを用いて前記デコードされたビデオ信号を処理したり、又は第2のAI学習ベース処理に対応して、前記複数のフィルターのうち前記第1の組合せとは異なる第2の組合せのフィルターを用いて前記デコードされたビデオ信号を処理することができる。
【0045】
前記映像の解像度を制御する段階は、前記第1のAI学習ベース処理と前記第2のAI学習ベース処理のいずれか一方を示す構成制御信号に基づいて前記複数のフィルターのそれぞれがターンオン又はオフされるように制御する段階と、前記AIスケーラーが前記第1の組合せのフィルターと前記第2の組合せのフィルターのいずれか一方を用いて前記デコードされたビデオ信号を処理する段階とを含むことができる。
【0046】
一方、本発明の一実施例に係るコンピュータプログラム製品は、複数のインストラクションが記憶されたメモリ;及び、プロセッサを含み、前記インストラクションは、前記プロセッサによって実行されると、ビデオデコーダによってビデオ信号をデコードし、いずれか一つのフィルターの出力が他のフィルターの入力となるように設けられる複数のフィルターを用いて前記デコードされたビデオ信号を処理して映像の解像度を制御し、前記複数のフィルターは、それぞれが制御信号に基づいて動作が選択的にオン又はオフされ、前記動作がオンされたフィルターが、学習によって設定されたパラメータによって前記ビデオ信号を処理し、前記動作がオフされたフィルターが、入力される前記ビデオ信号をバイパスして出力するようにする。
【0047】
一方、本発明の一実施例に係るディスプレイ装置のプロセッサによって実行可能な方法のプログラムが記録された、コンピュータ読取り可能な不揮発性の記録媒体において、前記方法は、ビデオ信号をデコードする段階;及び、いずれか一つのフィルターの出力が他のフィルターの入力となるように設けられる複数のフィルターを用いて前記デコードされたビデオ信号を処理して映像の解像度を制御する段階を含み、前記映像の解像度を調節する段階において、前記複数のフィルターは、それぞれが制御信号に基づいて動作が選択的にオン又はオフされ、前記動作がオンされたフィルターが、学習によって設定されたパラメータによって前記ビデオ信号を処理する段階;及び、前記動作がオフされたフィルターが、入力される前記ビデオ信号をバイパスして出力する段階を含む。
【発明の効果】
【0048】
上記のような本発明のディスプレイ装置及びその制御方法によれば、可変組合せが可能な複数のフィルターを含むAIスケーラーによって、マシンラーニング処理に基づく解像度調節とディープラーニング処理に基づく映像度調節を、必要によって選択的に行うことができる長所がある。
【0049】
また、本発明のディスプレイ装置及びその制御方法によれば、コーデック情報を用いて各フィルターのパラメータを設定することによって、コーデックの種類や圧縮強度などによる映像圧縮特性までも反映した解像度調節が可能である。
【0050】
また、本発明のディスプレイ装置及びその制御方法によれば、使用しないフィルターによって映像画質改善のための後処理を行うことによって、遊休リソースの活用度を高め、より向上した画質の映像を生成できる効果がある。
【図面の簡単な説明】
【0051】
上記及び/又は形態は、添付の図面を参照した例示的な実施例の次の説明から明らかになり、より容易に認識されるであろう。
【0052】
【
図1】本発明の一実施例に係るディスプレイ装置の構成を示すブロック図である。
【
図2】本発明の一実施例のディスプレイ装置においてビデオ信号処理のための構成を詳細に示すブロック図である。
【
図3】本発明の一実施例に係るAI学習ベース処理過程を説明するための図である。
【
図4】本発明の一実施例に係るAI学習ベース処理過程を説明するための図である。
【
図5】本発明の一実施例に係るAI学習ベース処理過程を説明するための図である。
【
図6】本発明の一実施例に係るAI学習ベース処理過程を説明するための図である。
【
図7】本発明の一実施例によって第1のAI学習ベース処理のための第1の組合せのフィルターからなるAIスケーラーを示すブロック図である。
【
図8】本発明の一実施例によって第2のAI学習ベース処理のための第2の組合せのフィルターからなるAIスケーラーを示すブロック図である。
【
図9】DNNモードで動作する場合にフィルターの動作を説明するための図である。
【
図10】DNNモードで動作する場合にフィルターの動作を説明するための図である。
【
図11】映像分析モードで動作する場合にフィルターの動作を説明するための図である。
【
図12】映像分析モードで動作する場合にフィルターの動作を説明するための図である。
【
図13】本発明の他の実施例のディスプレイ装置においてビデオ信号処理のための構成を詳細に示すブロック図である。
【発明を実施するための形態】
【0053】
以下では、添付の図面を参照して本発明の実施例を詳細に説明する。図面中、同一の参照番号又は符号は、実質的に同一の機能を行う構成要素を示し、図面において各構成要素の大きさは、説明の明瞭性と便宜のために誇張されることがある。ただし、本発明の技術的思想とその核心構成及び作用が、以下の実施例に説明された構成又は作用に限定されるものではない。本発明の説明において、本発明に関連した公知技術又は構成についての具体的な説明が本発明の要旨を却って曖昧にすると判断される場合には、その詳細な説明を省略する。
【0054】
本発明の実施例において、第1、第2などのように序数を含む用語は、一つの構成要素を他の構成要素から区別する目的にのみ使われ、単数の表現は、文脈に上特に断らない限り、複数の表現も含む。また、本発明の実施例において、‘構成される’、‘含む’、‘有する’などの用語は、一つ又はそれ以上の他の特徴、数字、段階、動作、構成要素、部品又はそれらを組み合わせたものの存在又は付加の可能性をあらかじめ排除しないものとして理解すべきである。また、本発明の実施例において、‘モジュール’或いは‘部’は、少なくとも一つの機能又は動作を行い、ハードウェア又はソフトウェアによって具現されたり或いはハードウェアとソフトウェアとの結合によって具現され、少なくとも一つのモジュールに一体化して具現されてよい。また、本発明の実施例において、複数の要素のうち少なくとも一つ(at least one)とは、複数の要素の全部の他にも、複数の要素のうち残りを排除した各一つ或いはそれらの組合せの全部を指す。
【0055】
図1は、本発明の一実施例に係るディスプレイ装置の構成を示すブロック図である。
図2は、本発明の一実施例のディスプレイ装置において、ビデオ信号処理のための構成を詳細に示すブロック図である。
【0056】
本発明の一実施例に係るディスプレイ装置100は、外部の信号供給源、すなわち、映像ソース(図示せず)から提供される映像信号を、既に設定されたプロセスによって処理して映像として表示する。
【0057】
一実施例において、ディスプレイ装置100は、放送局の送出装備から受信する放送信号、放送情報、又は放送データのうち少なくとも一つに基づく放送映像を処理するテレビジョン(TV)のようなディスプレイ装置を含む。
【0058】
ディスプレイ装置100は、例えば、放送局から送出されるRF(radio frequency)信号、すなわち、放送信号を無線で受信することができ、そのために、放送信号を受信するアンテナ及び放送信号をチャネル別にチューニングするためのチューナーを含むことができる。ディスプレイ装置の受信する放送信号は、地上波、ケーブル、衛星などを通じて受信可能であり、本発明における信号供給源は、放送局に限定されない。すなわち、セットトップボックスや、ブルーレイ(Blu-ray(登録商標))又はDVDなどの光ディスクが再生可能なプレーヤー(player)のように、データの送受信又は中継が可能な装置又はステーションであれば、本発明の信号供給源として可能である。
【0059】
ディスプレイ装置100で受信する信号の規格は、その具現形態に応じて様々な方式で構成されてよく、例えば、HDMI(high definition multimedia interface(登録商標))、コンポジット(composite)ビデオ、コンポーネント(component)ビデオ、スーパービデオ(super video)、SCART(Syndicat des Constructeurs d’Appareils Radiorecepteurs et Televiseurs)規格などに従って有線で映像信号を受信することができる。また、ディスプレイ装置100は、ワイファイ(Wi-Fi)、ワイファイダイレクト(Wi-Fi direct)、又はブルートゥース(Bluetooth(登録商標))のような無線通信を通じて無線で映像信号を受信することができる。
【0060】
また、ディスプレイ装置100は、内部/外部の記憶媒体に記憶された信号/データに基づく動画、静止画、アプリケーション(application)、OSD(on-screen display)、様々な動作制御のためのユーザインターフェース(user interface,UI)(以下、GUI(graphic user interface)ともいう。)などを画面に表示するように信号を処理することができる。
【0061】
一実施例において、ディスプレイ装置100は、スマートTV又はIP TV(Internet Protocol TV)として動作可能である。スマートTVは、実時間で放送信号を受信して表示でき、ウェブブラウジング機能を有しているので、実時間放送信号の表示と同時にインターネットを通じて様々なコンテンツ検索及び消費が可能であり、そのための便利なユーザ環境を提供できるテレビジョンである。また、スマートTVは、開放型ソフトウェアプラットホームを含んでおり、ユーザに両方向サービスを提供することができる。したがって、スマートTVは、開放型ソフトウェアプラットホームを通じて様々なコンテンツ、例えば、所定のサービスを提供するアプリケーションをユーザに提供することができる。このようなアプリケーションは、種々のサービスを提供できる応用プログラムであり、例えば、SNS、金融、ニュース、天気、地図、音楽、映画、ゲーム、電子書籍などのサービスを提供するアプリケーションを含む。
【0062】
しかしながら、本発明において、ディスプレイ装置100の具現形態はTVに限定されず、例えば、ラップトップ(laptop)又はデスクトップ(desktop)を含むコンピュータ(PC)装置(又は、コンピュータ本体と接続されているモニタ)などの様々な装置を含むことができる。
【0063】
本発明の一実施例に係るディスプレイ装置100は、
図1に示すように、信号受信部110、通信部120、ビデオ処理部130、ディスプレイ部140、ユーザ入力部150、記憶部160及び制御部170を含む。
【0064】
信号受信部110は、外部から映像信号(コンテンツ)を受信してビデオ処理部130に伝達する。信号受信部110は、モデムが装着された電波受信器を用いて無線で映像信号を受信することができる。または、信号は、後述する有線接続で受信されてもよい。受信される信号の規格は、ディスプレイ装置100の具現形態に対応して様々な方式で構成されてよい。例えば、信号受信部110は、放送局(図示せず)から送出されるRF信号を無線で受信したり、コンポジットビデオ、コンポーネントビデオ、スーパービデオ、SCART、HDMI規格などによる映像信号を有線で受信することができる。
【0065】
信号受信部110は、ディスプレイ装置100を外部映像ソースと有線接続させる接続部111を含む。一実施例において、接続部111は、HDMIケーブルを通じて映像ソースに接続されるが、接続される方式はHDMIに限定されない。
【0066】
ディスプレイ装置100は、有線接続された接続部111を通じてセットトップボックスのような映像ソースからコンテンツを取り込むことができる。接続部111は、基本的には映像ソースから信号を受信するが、両方向に信号を送受信可能に設けられてもよい。
【0067】
接続部111は、種々の通信プロトコルに対応する通信モジュール(S/Wモジュール、チップなど)とポート(port)などが組み合わせられたデータ入出力インターフェースを含む通信回路(communication circuitry)として具現されてよい。
【0068】
一実施例において、接続部111を通じてディスプレイ装置100と有線接続される装置は、セットトップボックスやPCのような映像ソースになるが、本発明はこれに限定されない。例えば、他の実施例として、ディスプレイ装置100は接続部111を通じてモバイル装置と有線接続されてもよい。
【0069】
一実施例において、信号受信部110は、映像信号が放送信号である場合、この放送信号をチャネル別にチューニングするためのチューナーを含むことができる。
【0070】
また、映像信号は、様々な周辺装置から入力されてよい。また、映像信号は、インターネットなどのようなネットワークを通じて受信されるデータから起因したものであってもよく、この場合、ディスプレイ装置100は、後述する通信部120を通じて映像信号を受信することができる。
【0071】
また、映像信号は、フラッシュメモリ、ハードディスクなどのような不揮発性の記憶部160に記憶されたデータから起因したものであってもよい。記憶部160は、ディスプレイ装置100の内部又は外部に設けられてよく、外部に設けられる場合、記憶部160は接続部111を通じてディスプレイ装置100に接続されてよい。
【0072】
一実施例において、信号受信部110は、信号供給源、すなわち、コンテンツ提供装置側のエンコーディング端で所定のAI学習ベース処理を用いてエンコードされたビデオ信号をコンテンツとして取り込むことができる。
【0073】
通信部120は、少なくとも一つの外部装置と有線或いは無線通信方式を用いて通信可能に設けられる。通信部120は、有線及び/又は無線通信モジュールを含む。
【0074】
通信部120は、種々の通信プロトコルに対応する通信モジュール(S/Wモジュール、チップなど)を含む通信回路(communication circuitry)として具現されてよい。
【0075】
一実施例において、通信部120は、無線LANユニット(WLAN)を含む。無線LANユニットは、制御部170の制御に応じて、AP(access point)を通じて、制御対象である少なくとも一つのデバイスに該当の信号が伝達されるようにすることができる。無線LANユニットは、ワイファイ(Wi-Fi)通信モジュールを含む。
【0076】
一実施例において、通信部120は、ブルートゥース(bluetooth)、ブルートゥース低エネルギー(bluetooth low energy)、RF(radio frequency)通信、ワイファイダイレクト(Wi-Fi Direct)、ジグビー(Zigbee)、UWB(Ultra Wideband)、NFC(Near Field Communication)、赤外線通信(IrDA,infrared data association)などの近距離通信モジュールのうち少なくとも一つを含む。近距離通信モジュールは、AP無しに無線でディスプレイ装置100と少なくとも一つのデバイス300との間にダイレクトに通信を支援するように設けられる。
【0077】
一実施例において、通信部120は、イーサネット(Ethernet)などのような有線通信モジュールをさらに含むことができる。
【0078】
本発明の実施例に係るディスプレイ装置100の通信部120は、性能によって、無線LANユニット、近距離通信モジュール、有線通信モジュールのいずれか1つ又は2つ以上の組合せからなってよい。
【0079】
一実施例において、ディスプレイ装置100は、通信部120を通じて少なくとも一つの外部装置と無線通信を行う。ディスプレイ装置100が少なくても一つの外部装置とダイレクトに無線通信を行う場合、記憶部160には通信対象装置に関する識別情報(例えば、MACアドレス又はIPアドレス)が記憶されてよい。
【0080】
ビデオ処理部130は、信号受信部110又は通信部120の少なくとも一方から受信した映像信号に対して、既に設定された様々な映像/音声処理プロセスを行う。ビデオ処理部130は、このような映像処理プロセスを行って生成又は結合した出力信号をディスプレイ部140に出力することによって、ディスプレイ部140に映像信号に対応する映像が表示されるようにする。
【0081】
ビデオ処理部130は、
図1に示すように、デコーダ(decoder)131と、AIスケーラー(scaler)133とを含む。
【0082】
ビデオデコーダ131は、映像信号をディスプレイ装置100の映像フォーマットに対応するようにデコードする。ビデオデコーダ131は、例えば、H.264デコーダであることを一例とするが、これに限定されるものではない。すなわち、本発明の実施例に係るビデオデコーダ131は、MPEG(Moving Picture Experts Group)デコーダ又はHEVC(High Efficiency Video Codec)デコーダなど、様々な圧縮標準に従うデコーダとして具現可能である。
【0083】
AIスケーラー133は、映像信号をディスプレイ部140の出力規格に合わせて調節又は変換するスケーリングを行う。
【0084】
本発明の実施例に係るディスプレイ装置100において、AIスケーラー133は、ビデオ、すなわち、映像の解像度を拡張する解像度拡張モジュール、すなわち、スケーリングアップモジュール(Scaling-Up Module)として具現される。言い換えると、AIスケーラー133は、アップスケーリングによって低解像度映像(Low Resolution Image)から高解像度映像(High Resolution Image)又はスーパー解像度映像(Super Resolution Image)を生成することができる。
【0085】
一実施例において、AIスケーラー133は、ビデオデコーダ131によってデコードされたビデオ信号を、所定のAI学習ベース処理によってスケーリングアップさせる。ここで、AIスケーラー133は、信号供給源、すなわち、コンテンツ提供装置のエンコーディング端で用いられたAI学習ベース処理に対応してビデオ信号をスケーリングアップするように具現可能である。
【0086】
具体的に、AIスケーラー133は、
図2に示すように、可変組合せ、すなわち、フレキシブル(flexible)なフィルターの組合せが可能な複数のフィルターFilter 1(フィル 1),Filter 2(フィル 2),…,Filter M(フィル M),Filter N(フィル N)を含み、複数のフィルターの組合せによってビデオ信号を処理することによって、ビデオ(映像)の解像度を調節することができる。
図2において、複数のフィルターFilters 1~Nは、“足し算(Adding)”の機能ブロックが続く直列配列で表示される。足し算ブロックには2つの入力があり、一方はFilter Nによって供給され、他方はFilter 1の出力によって供給される。足し算は、出力を算出するためにこのような入力の直接的な代数合計(direct algebraic summation)を含む。
【0087】
一実施例において、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nは、いずれか一つのフィルター、例えば、Filter 1の出力が他のフィルター、例えば、Filter 2の入力となるように設けられ、全フィルターFilters 1~Nがビデオ信号を処理するピクセルデータ経路(path)を構成する。
【0088】
一実施例において、ビデオ処理部130は、
図2に示すように、ビデオデコーダ131から出力されたビデオ信号がAIスケーラー133に伝達されるように前処理(pre-processing)を行う前処理モジュール132と、AIスケーラー133から出力されたビデオ信号に対して画質改善のための後処理(post-processing)を行う後処理モジュール134とをさらに含むことができる。
【0089】
一実施例において、前処理モジュール132、AIスケーラー133及び後処理モジュール134は、映像の画質を改善するための構成であり、いわゆる画質チェーンcに含まれる。
【0090】
本発明の一実施例に係るAIスケーラー133は、第1のAI学習ベース処理に対応してビデオ信号を処理したり、又は第1のAI学習ベース処理とは異なる第2のAI学習ベース処理に対応してビデオ信号を処理し、ビデオ(映像)の解像度を調節できるように構成される。
【0091】
ここで、第1のAI学習ベース処理は、機械学習、すなわち、マシンラーニング(Machine Learning,ML)ベース処理に、第2のAI学習ベース処理は、ディープ神経網ネットワーク(Deep Neural Network,DNN)、すなわち、ディープラーニング(Deep Learning)ベース処理に、それぞれ対応する。
【0092】
すなわち、AI学習ベースのビデオ信号処理においてマシンラーニング又はディープラーニングベースを選択的に用いて映像の解像度を制御するディスプレイ装置100、その制御方法及び記録媒体が提供される。
【0093】
第1のAI学習ベース処理と第2のAI学習ベース処理の具体的な動作については、後でより詳しく説明する。
【0094】
一方、本発明のビデオ処理部130が行うプロセスの種類は限定されないところ、ビデオ処理部130は、例えば、インターレース(interlace)方式の放送信号をプログレッシブ(progressive)方式に変換するデインターレース(de-interlacing)、映像画質改善のためのノイズ低減(noise reduction)、ディテール強化(detail enhancement)、フレームリフレッシュレート(frame refresh rate)変換、ラインスキャニング(line scanning)などの様々なプロセスを行うための少なくとも一つのモジュールをさらに含むことができる。
【0095】
ビデオ処理部130は、このような各プロセスを独自で実行可能な個別構成、すなわち、モジュールのグループとして具現されてもよく、或いは様々な機能を統合させたメインSoC(System-on-Chip)に含まれる形態として具現されてもよい。メインSoCは、後述する制御部170を具現する一例である少なくとも一つのプロセッサ、例えば、マイクロプロセッサ又はCPUを含むことができる。
【0096】
一実施例において、ビデオ処理部130は、このような各プロセスを行うための様々なチップセット、メモリ、電子部品、配線などの回路構成が印刷回路基板(PCB)上に実装された映像ボードとして具現されてよい。この場合、ディスプレイ装置100には、チューナー、ビデオ処理部130及び制御部170が単一の映像ボードに設けられてよい。勿論、これは一例に過ぎず、相互に通信可能に連結された複数の印刷回路基板に配置されてもよい。
【0097】
ビデオ処理部130によって処理された映像信号はディスプレイ部140に出力される。ディスプレイ部140は、ビデオ処理部130から受信した映像信号に対応する映像を表示する。
【0098】
一実施例において、ディスプレイ部140は、ビデオ処理部130のAIスケーラー133のスケーリングアップによって解像度が拡張された高解像度映像を表示することができる。
【0099】
ディスプレイ部140の具現方式は限定されず、例えば、液晶(liquid crystal)、プラズマ(plasma)、発光ダイオード(light-emitting diode)、有機発光ダイオード(organic light-emitting diode)、面伝導電子銃(surface-conduction electron-emitter)、炭素ナノチューブ(carbon nano-tube)、ナノクリスタル(nano-crystal)などの様々なディスプレイ方式によって具現されてよい。一実施例において、ディスプレイ部140は、映像を表示するディスプレイパネルを含み、その具現方式に応じて付加的な構成、例えば、駆動部(driver)をさらに含むことができる。
【0100】
ユーザ入力部150は、ユーザの入力によって、既に設定された様々な制御コマンド又は限定されない情報を制御部170に伝達する。
【0101】
一実施例において、ユーザ入力部150は、AIスケーラー133が第1のAI学習ベース処理又は第2のAI学習ベース処理のいずれかによって動作するようにする構成制御信号(configuration control signal)を制御部170に出力することができる。
【0102】
ユーザ入力部150は、ディスプレイ装置100本体に設けられた電源キー、数字キー、メニューキーなどのボタンを含むキーパッド(又は、入力パネル)を含む。
【0103】
一実施例において、ユーザ入力部150は、ディスプレイ装置100を遠隔で制御可能に既に設定されたコマンド/データ/情報/信号を生成してディスプレイ装置100に伝送する入力装置を含む。入力装置は、ディスプレイ装置100本体と離隔分離され、ユーザ入力を受信可能なリモコン(remote control)、キーボード(keyboard)、マウスなどを含む。
【0104】
リモコンには、ユーザのタッチ入力を受信するタッチ感知部及び/又はユーザによる自体モーションを感知するモーション感知部が設けられてよい。入力装置は、リモコンアプリケーションが設置されたスマートフォンのような端末装置を含み、この場合、タッチスクリーンを介したユーザのタッチ入力が受信可能である。
【0105】
入力装置は、ディスプレイ装置100と無線通信する外部装置に含まれ、無線通信は、ワイファイ、ブルートゥース、赤外線通信、RF通信、無線LAN、ワイファイダイレクトなどを含む。
【0106】
一実施例において、ユーザ入力部150は、ユーザから発話した音声/サウンドを受信する音声入力部をさらに含むことができる。音声入力部は、音声信号を受信するマイクロホン(microphone)によって具現されてよい。
【0107】
記憶部160は、ディスプレイ装置100の様々なデータを記憶するように構成される。記憶部160は、ディスプレイ装置100に供給される電源が遮断されてもデータが残っていなければならず、且つ変動事項を反映できるように書き込み可能な不揮発性メモリ(writable memory)とすることができる。記憶部160は、ハードディスク(HDD)、フラッシュメモリ(flash memory)、EPROM又はEEPROMのうち少なくとも一つを含むことができる。
【0108】
記憶部160は、RAMのような揮発性メモリ(volatile memory)をさらに含み、揮発性メモリは、ディスプレイ装置100の読み取り又は書き込み速度が不揮発性メモリに比べて速いDRAM又はSRAMとすることができる。すなわち、本発明において、記憶部とは、不揮発性メモリの他、揮発性メモリ、制御部170の内部に設けられるキャッシュメモリ、接続部111を通じてディスプレイ装置100に装着可能なメモリカード(例えば、micro SDカード、メモリスティックなど)を包括する用語として定義される。
【0109】
記憶部160に記憶されるデータは、例えば、ディスプレイ装置100の駆動のための運営体制をはじめとして、この運営体制上で実行可能な様々なアプリケーション、映像データ、付加データなどを含む。
【0110】
具体的に、記憶部160は、制御部170の制御によって各構成要素の動作に対応するように入/出力される信号又はデータを記憶することができる。記憶部160は、ディスプレイ装置100の制御のためのプログラム、メーカーから提供されるか或いは外部からダウンロードしたアプリケーションと関連したUI、UIを提供するためのイメージ、ユーザ情報、文書、データベース又は関連データを記憶することができる。
【0111】
一実施例において、記憶部160には、第1のAI学習ベース処理と第2のAI学習ベース処理にそれぞれ対応するように設けられたルックアップテーブル(Look-Up table,LUT)が記憶されてよい。
【0112】
第1のAI学習ベース処理に対応するLUTは、事前に第1のAI学習、すなわち、マシンラーニングを行うことによって映像の特性別に生成されたフィルターパラメータ(以下、パラメータともいう。)が記憶された第1のLUTを含む。AIスケーラー133は、第1のAI学習ベース処理によるプロセスを行うランタイム(run time)時に、上記のようにマシンラーニングによってあらかじめ生成された第1のLUTから、入力される映像(ビデオ信号)の特性に対応するパラメータセットを抽出し、解像度拡張のためのスケーリングアップを行う。
【0113】
第2のAI学習ベース処理に対応するLUTは、事前に第2のAI学習ベース処理、すなわち、ディープラーニングを行って生成されたフィルターパラメータが記憶された第2のLUTを含む。第2のLUTは、映像の特性に関係なく生成されたパラメータで構成される。AIスケーラー133は、第2のAI学習ベース処理によるプロセスを行うランタイム時に、前記のようにディープラーニングによってあらかじめ生成された第2のLUTから、パラメータセットを抽出し、解像度拡張のためのスケーリングアップを行う。
【0114】
一実施例において、第2のAI学習ベース処理によってビデオ信号を処理するAIスケーラー133は、第2のLUTから、映像のコーデック(codec)又は圧縮特性に対応するフィルターパラメータセットを抽出し、スケーリングアップを行うことができる。
【0115】
制御部170は、ディスプレイ装置100の諸般構成が動作するための制御を行う。制御部170は、制御プログラムが設置された不揮発性のメモリから、制御プログラムの少なくとも一部を揮発性のメモリにロードし、ロードされた制御プログラムを実行する少なくとも一つの汎用プロセッサを含み、例えば、CPU(Central Processing Unit)、AP(application processor)、又はマイクロプロセッサ(microprocessor)によって具現されてよい。
【0116】
制御部170は、シングルコア、デュアルコア、トリプルコア、クォードコア又はその倍数からなる一つ以上のコアが搭載された少なくとも一つのプロセッサを含むことができる。プロセッサは、複数のプロセッサ、例えば、メインプロセッサ(main processor)及びスリープモード(sleep mode、例えば、待機電源のみが供給され、ディスプレイ装置として動作しない)で動作するサブプロセッサ(sub processor)を含むことができる。また、プロセッサ、ROM及びRAMは内部バス(bus)を通じて相互接続されてよい。
【0117】
一実施例において、制御部170は、グラフィック処理のためのGPU(Graphic Processing Unit)をさらに含むことができる。
【0118】
一実施例において、制御部170は、ディスプレイ装置100に内蔵されるPCB上に実装されるメインSoC(Main SoC)に含まれる形態として具現可能である。他の実施例において、メインSoCは、ビデオ信号を処理するビデオ処理部130をさらに含むことができる。
【0119】
制御プログラムは、BIOS、デバイスドライバー、運営体制、ファームウェア、プラットホーム及び応用プログラム(アプリケーション)のうち少なくとも一つの形態として具現されるプログラムを含むことができる。一実施例として、応用プログラムは、ディスプレイ装置100の製造時にディスプレイ装置100にあらかじめ設置又は記憶されてもよく、或いは使用に当たって外部から応用プログラムのデータを受信し、受信されたデータに基づいてディスプレイ装置100に設置されてもよい。応用プログラムのデータは、例えば、アプリケーションマーケットのような外部サーバーからディスプレイ装置100にダウンロードされてもよい。このような外部サーバーは、本発明のコンピュータプログラム製品の一例であるが、これに限定されない。
【0120】
一実施例として、上記のような制御部170の動作は、ディスプレイ装置100とは別に設けられるコンピュータプログラム製品(図示せず)に記憶されたコンピュータプログラムとして具現されてもよい。
【0121】
この場合、コンピュータプログラム製品は、コンピュータプログラムに該当するインストラクションが記憶されたメモリと、プロセッサとを含む。インストラクションは、プロセッサによって実行されれば、第1のAI学習ベース処理に対応して第1の組合せのフィルターを用いてデコードされたビデオ信号を処理するようにし、第2のAI学習ベース処理に対応して第1の組合せとは異なる第2の組合せのフィルターを用いてデコードされたビデオ信号を処理するようにAIスケーラー133を制御することによって制御部170の動作を行うことができる。
【0122】
これによって、ディスプレイ装置100は、別個のコンピュータプログラム製品に記憶されたコンピュータプログラムをディスプレイ装置100にダウンロード及び実行して、制御部170の動作を行うことができる。
【0123】
また、一実施例として、制御部170の動作は、記録媒体に記憶され、コンピュータ読取り可能なプログラムとして具現されてもよい。記録媒体に記憶されたプログラム、すなわち、データは、制御部170によって直接アクセスされて実行されたり、コンピュータシステムが相互結合した有無線ネットワークを通じて具現される伝送媒体を介してディスプレイ装置100にダウンロードされて実行されることによって、動作を行うことができる。
【0124】
本発明の実施例に係るディスプレイ装置100において、制御部170は、
図2に示すように、構成制御モジュール171、LUT制御モジュール173、パラメータ抽出モジュール174を含む。一実施例において、制御部170は、コーデック分析モジュール172をさらに含むことができる。
【0125】
一実施例において、構成制御モジュール171、コーデック分析モジュール172、LUT制御モジュール173、パラメータ抽出モジュール174は、フィルター構成及びパラメータ生成のための制御経路(control path)を構成する。
【0126】
上記のような制御部170の構成171,172,173,174のうち少なくとも一つは、ハードウェアモジュールとして具現されてもよく、前述したコンピュータプログラムとして具現されてもよい。以下において、AIスケーラー133が所定のAI学習ベース処理を行うようにするための制御動作は、ディスプレイ装置100の制御部170によって行われるものと理解できよう。
【0127】
以下、図面を参照して、本発明の実施例によって行われるAI学習ベース処理による解像度拡張プロセスについて詳しく説明する。
【0128】
図3~
図6は、本発明の一実施例に係るAI学習ベース処理過程を説明するための図である。
【0129】
図3に示すように、ディスプレイ装置100のビデオデコーダ131は、信号受信部110を通じて入力されるビデオ信号をデコードする(200)。
【0130】
段階200でデコードされたビデオ信号は、第1のAI学習ベース処理に対応して、AIスケーラー133を構成する複数のフィルターのうち第1の組合せのフィルターを用いて処理されたり(201)、或いは第2のAI学習ベース処理に対応して、AIスケーラー133を構成する複数のフィルターのうち第1の組合せとは異なる第2の組合せのフィルターを用いて処理される(202)。
【0131】
図2及び
図4を参照すると、ディスプレイ装置100において、制御部170の構成制御モジュール171は、構成制御信号(configuration control signal)を受信する(301)。
【0132】
構成制御信号は外部入力信号であり、例えば、ユーザ入力部140を介したユーザ選択に対応して構成制御モジュール171に入力されたり、又は通信部120を通じて外部装置から受信した信号に対応して構成制御モジュール171に入力されてよい。
【0133】
他の例として、構成制御信号は、所定イベントの発生に応答してディスプレイ装置100で自動生成されてもよい。
【0134】
一実施例において、構成制御信号は、ディスプレイ装置100の製造過程又は最初設置過程で決定されてよい。
【0135】
制御部170は、入力された構成制御信号を識別し、その識別結果に基づいて、第1のAI学習ベース処理と第2のAI学習ベース処理のいずれか一方に対応するようにAIスケーラー133の動作モード(operation mode)を決定することができる(302)。
【0136】
構成制御信号は、AIスケーラー133の動作モードを示す。具体的に、構成制御信号は、AIスケーラー133が第1のAI学習ベース処理、すなわち、マシンラーニング手法で動作する映像分析モードと、AIスケーラー133が第2のAI学習ベース処理、すなわち、ディープ神経網ネットワーク(DNN)(ディープラーニング)手法で動作するDNNモードのいずれか一方を示すことができる。
【0137】
AIスケーラー133は、上記のように入力された構成制御信号に対応して、映像分析モード又はDNNモードのいずれかで動作する。AIスケーラー133は、可変組合せが可能な複数のフィルターを含む。
【0138】
一実施例において、AIスケーラー133は、動作モードに対応して、異なる組合せのフィルターを用いてビデオ信号を処理する。
【0139】
すなわち。映像分析モードで動作するAIスケーラー133は、第1の組合せのフィルターを用いてビデオ信号を処理し、DNNモードで動作するAIスケーラー133は、第2の組合せのフィルターを用いてビデオ信号を処理することができる。
【0140】
一実施例において、AIスケーラー133の複数のフィルターのうち少なくとも一つのフィルターは、映像分析モードとDNNモードで共用に用いられてよい。例えば、
図2に示す第1のフィルター(Filter 1)と第2のフィルター(Filter 2)は、第1の組合せのフィルターと第2の組合せのフィルターの両方に含まれてよい。
【0141】
映像分析モードでは、事前に第1のAI学習ベース処理を行うことによって生成されたデータ(フィルターパラメータ)に基づいて、第1の組合せのフィルターをそれぞれ独立して制御する。ここで、第1のAI学習ベース処理によるフィルターパラメータは、ビデオ信号(映像)の特性に対応して設けられるものであるので、第1のAI学習ベース処理はマシンラーニングに設計されてよい。
【0142】
DNNモードでは、事前に第2のAI学習ベース処理を行うことによって生成されたデータ(フィルターパラメータ)に基づいて、第2の組合せのフィルターをそれぞれ独立して制御する。ここで、第2のAI学習ベース処理によるフィルターパラメータは、ビデオ信号(映像)の特性に関係なく設けられるものであるので、第2のAI学習ベース処理はディープラーニングに設計されてよい。
【0143】
構成制御モジュール171は、入力された構成制御信号に基づいて、
図2のように、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのそれぞれの動作を選択的にオン(ON)又はオフ(OFF)するフィルター制御(filter control)信号を出力し、AIスケーラー133がその動作モードに対応するフィルターレイヤ(layer)を構成するようにする。
【0144】
また、構成制御モジュール171に入力された構成制御信号は、LUT制御モジュール173及びパラメータ抽出モジュール174に伝達され、各レイヤを構成するフィルターの動作パラメータ(parameter)が設定されるようにする。
【0145】
LUT制御モジュール173は、構成制御信号に応答して、記憶部160に設けられた第1のLUTと第2のLUTのうち、動作モードに対応する一方を選択することができる。
【0146】
パラメータ抽出モジュール174は、選択されたLUTからフィルターパラメータを抽出し、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのそれぞれに対してパラメータ情報を出力する。ここで、パラメータ抽出モジュール174は、複数のフィルターのうち、フィルター制御信号によってオンされたフィルターに対して選択的にパラメータ情報を出力することができる。
【0147】
図4を参照すると、入力された構成制御信号が映像分析モードを示す場合、言い換えると、段階302でDNNモードを示さないものと識別されれば、構成制御モジュール171から出力されるフィルター制御信号に基づいて、映像分析ユニットを含む第1の組合せのフィルターとしてフィルターレイヤが構成され、パラメータ抽出モジュール174から出力されたパラメータ情報に基づいてLUTからパラメータセットがロードされる(303)。
【0148】
上記のように構成された第1の組合せのフィルターにおいて、いずれか一つのフィルター、例えば、第1のフィルターFilter 1は、映像、すなわち、ビデオ信号の特性を分析する映像分析ユニットとして動作し、映像分析ユニット(Filter 1)の映像分析(image analysis)結果は、LUT制御モジュール173に出力され、パラメータ抽出モジュール174でLUTから分析された映像の特性に対応してパラメータセットがロードされる。
【0149】
そして、フィルター制御信号、すなわち、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nに対するオン/オフ信号と、ロードされたパラメータ情報が、対応する各フィルターに出力される(304)。
【0150】
一方、入力された構成制御信号が段階302でDNNモードを示すものと識別されれば、構成制御モジュール171から出力されるフィルター制御信号に基づいて第2の組合せのフィルターとしてフィルターレイヤが構成され、パラメータ抽出モジュール174から出力されたパラメータ情報に基づいて、LUTからパラメータセットがロードされる(305)。
【0151】
ここで、AIスケーラー133がDNNモードで動作する場合、コーデック分析モジュール172は、ビデオデコーダ131から、処理対象であるビデオ信号のコーデック情報を取得することができる。コーデック分析モジュール172のコーデック分析結果は、LUT制御モジュール173に出力され、パラメータ抽出モジュール174でLUTから分析されたコーデックに対応してパラメータセットが生成されてよい。
【0152】
そして、フィルター制御信号、すなわち、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nに対するオン/オフ信号と、ロードされたパラメータ情報が、対応する各フィルターに出力される(306)。
【0153】
これらの過程において、LUT制御モジュール173の動作を、
図5を参照して説明すると、次の通りである。
【0154】
AIスケーラー133が映像分析モードで動作する場合、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのいずれか一つが映像分析ユニットとして動作し、
図5に示すように、映像分析ユニットから映像分析情報が出力される(401)。
【0155】
LUT制御モジュール173は、段階401で出力された映像分析情報に基づいて、LUTから分析された映像の特性に対応するパラメータセットをロードする(402)。ここで、LUT制御モジュール173は、構成制御信号が示すモード情報によって映像分析モードに対応するようにあらかじめ設けられた第1のLUTから分析された映像の特性に対応するパラメータセットを選択的にロードすることができる。
【0156】
そして、ロードされたパラメータセットから各フィルターに適用されるパラメータが抽出され(403)、抽出されたパラメータが、対応するフィルターに出力される(404)。
【0157】
一方、AIスケーラー133がDNNモードで動作する場合、
図5に示すように、コーデック分析モジュール172からコーデック情報が出力される(405)。ここで、コーデック情報は、コーデック種類又は圧縮強度のうち少なくとも一つを含む。
【0158】
具体的に、コーデック分析モジュール172は、ビデオデコーダ131から取得したコーデックメタ情報(codec meta information)ベースでコーデック種類別、圧縮強度別に情報を生成し、LUT制御モジュール173に出力することができる。例えば、コーデック分析モジュール172は、コーデック種類及び圧縮強度を示す量子化パラメータ(Quantization Parameter,QP)を用いてLUT選択のための情報を生成することができる。
【0159】
LUT制御モジュール173は、段階401で出力されたコーデック情報に基づいて、LUTから当該コーデックに対応するパラメータセットを生成する(406)。ここで、LUT制御モジュール173は、構成制御信号が示すモード情報によってDNNモードに対応するようにあらかじめ設けられた第2のLUTから識別されたコーデックに対応するパラメータセットを生成することができる。
【0160】
そして、生成されたパラメータセットから、各フィルターに適用されるパラメータが抽出され(403)、抽出されたパラメータが、対応するフィルターに出力される(404)。
【0161】
これらの過程において、フィルター制御信号が出力される動作を、
図6を参照して説明すると、次の通りである。
【0162】
図4及び
図5で説明した通り、構成制御信号に基づいて、構成制御モジュール171が複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのそれぞれに出力されるフィルター制御(filter control)信号を生成することによって、各フィルター別に動作のオン(ON)又はオフ(OFF)が決定され、パラメータ抽出モジュール174がLUTからフィルターパラメータを抽出することによって、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのそれぞれに対するパラメータ値が設定される(501)。
【0163】
そして、段階501で、各フィルター別に、すなわち、フィルターレイヤを構成する各チャネル別にオン/オフ信号及びパラメータが出力される(502)。オフ信号を受信するフィルターは、バイパスモード(By-pass mode)で動作する。
【0164】
本発明の実施例に係るAIスケーラー133は、上記のような過程によって、第1のAI学習ベース処理、すなわち、マシンラーニングベースで動作する映像分析モードと第2のAI学習ベース処理、すなわち、ディープラーニングベースで動作するDNNモードのいずれか一方に対応するように組み合わせられた複数のフィルターで構成される。
【0165】
図7は、本発明の一実施例によって第1のAI学習ベース処理のための第1の組合せのフィルターからなるAIスケーラーを示すブロック図であり、
図8は、本発明の一実施例によって第2のAI学習ベース処理のための第2の組合せのフィルターからなるAIスケーラーを示すブロック図である。
【0166】
図7に示すように、第1のAI学習ベース処理のための第1の組合せのフィルターからなるAIスケーラー133では、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのいずれか一方、すなわち、第1のフィルターFilter 1が映像分析ユニットの役割を担い、いずれか他方、すなわち、第2のフィルターFilter 2がスケーリングアップによって解像度が調節された高解像度映像(High Resolution Image)を生成する役割を担うことができる。
【0167】
映像分析ユニット(Filter 1)から出力された映像分析結果は、LUT制御モジュール173に出力され、LUT制御モジュール173は、第1のLUTから、分析された映像の特性に対応するパラメータを読み、パラメータ抽出モジュール174が当該パラメータを第2のフィルターFilter 2に出力する。
【0168】
第2のフィルターFilter 2は、例えば、抽出されたパラメータに基づく補間(Interpolation)によって推定される方式によって高解像度映像を生成することができる。
【0169】
図8に示すように、第2のAI学習ベース処理のための第2の組合せのフィルターからなるAIスケーラー133は、多数の層、すなわち、レイヤ(layer)で構成されたマルチフィルター構造を有する。
【0170】
第2の組合せのフィルターからなるAIスケーラー133において、各フィルターFilter 1,Filter 2,…,Filter M,Filter Nは、事前にDNN(ディープラーニング)ベースのトレーニング(training)によって生成された第2のLUTから抽出されたパラメータによってセットされる。低解像度の入力映像、すなわち、ビデオ信号は、対応するパラメータによってセットされた複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nを順次に通過しながら、自動で解像度が拡張された高解像度映像が生成される。
【0171】
上記のように第2の組合せのフィルターからなるAIスケーラー133では、各フィルター別にパラメータがセットされることにより、多層レイヤ(layer)がそれぞれ独立して制御され得る。
【0172】
一実施例において、制御部170がコーデック分析モジュール172をさらに含む場合、各フィルターFilter 1,Filter 2,…,Filter M,Filter Nは、ビデオデコーダ131から取得したコーデック情報に基づいて、当該コーデックに対応するパラメータ値にセットされてよい。
【0173】
本発明の実施例に係るディスプレイ装置100は、上記のように、コーデック情報を各フィルターFilter 1,Filter 2,…,Filter M,Filter Nのパラメータセッティングに用いることによって、コーデックの種類や圧縮強度などによる映像圧縮特性までも反映した解像度拡張が可能な長所を有する。
【0174】
以下、図面を参照して、上記のように第1の組合せのフィルター又は第2の組合せのフィルターで構成されたAIスケーラー133において各フィルターの具体的な動作について説明する。
【0175】
図9及び
図10は、DNNモードで動作する場合にフィルターの動作を説明するための図である。
【0176】
図9に示すように、DNN動作モードで各フィルターは畳み込みフィルター(convolution filter)601と非線形関数(non-linear function)602で構成される。
【0177】
一実施例において、畳み込みフィルター601は、1×1~N×Nまで様々に使用可能であり、例えば、1×1、3×3、5×5フィルターの形態として具現可能である。他の実施例において、畳み込みフィルター601は、M個のチャネル(CH)で構成されてもよい。
【0178】
畳み込みフィルター601は、外部から入力されて設定されたパラメータ(weight parameter)が記憶されたレジスターと畳み込み演算子で構成され、畳み込み演算子がレジスターから読み出したパラメータ値を入力映像データ(X0,X1,X2…Xn)とかけ、それらの掛け算の結果値を合算して畳み込み演算を行うことができる。
【0179】
非線形関数602には、
図10に示すように、様々な形態を有する非線形関数701,702が適用されてよい。
【0180】
図9に示すように、畳み込みフィルター601と非線形関数602で構成された各フィルターは、畳み込み神経網(Convolutional Neural Network,CNN)アルゴリズムによって動作しながら、映像データを取り込んで解像度拡張処理された映像データを出力する。低解像度映像である入力ビデオ信号は、各フィルターを通過しながらスケーリングアップによって解像度が調節されることによって高解像度映像として生成される。
【0181】
図11及び
図12は、映像分析モードで動作する場合にフィルターの動作を説明するための図である。
【0182】
図11は、映像分析ユニットの役割を担うフィルター、例えば、
図7の第1のフィルターFilter 1の動作を示す。
【0183】
図11に示すように、フィルターが映像分析機能を担う場合、入力された映像データにN×N形態の畳み込みフィルターをかけて出力データを取得する(801)。取得した出力データは、映像分析結果としてLUT制御モジュール173に出力される。他の実施例において、畳み込みフィルターはM個のチャネル(CH)で構成されてもよい。
【0184】
特定フィルターが映像分析機能を担う場合、続く処理段階である非線形関数は動作せず、入力された映像データをバイパス(by-pass)する(802)。このため、入力された映像データがそのままフィルターを通過して出力されることにより、次のフィルター、例えば、
図7の第2のフィルターFilter 2で調節がなされる。
【0185】
図12は、解像度拡張(スケーリングアップ)を行うフィルター、例えば、
図7の第2のフィルターFilter 2の動作を示す。
【0186】
図12に示すように、スケーリングアップを行うフィルター、例えば、
図7の第2のフィルターFilter 2は、
図9で説明したDNNモードにおけるフィルターと同じ方式で動作する。言い換えると、フィルターは映像データを取り込んで処理された映像データを出力することによって、低解像度映像であるビデオ信号をスケーリングアップによって解像度が調節された高解像度映像として生成する。
【0187】
一方、本発明他の実施例において、AIスケーラー133が映像分析モードで動作する場合、使用しないフィルターのうち少なくとも一つを用いて後処理を行うように具現してもよい。
【0188】
図13は、本発明の他の実施例のディスプレイ装置において、ビデオ信号処理のための構成を詳細に示すブロック図である。
【0189】
図13に示すように、AIスケーラー133を構成する複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのうち、第3組合せのフィルターを用いてビデオ信号が処理されてもよい。
【0190】
第3組合せのフィルターは、
図7に示したような第1の組合せのフィルターに、後処理を行う一つ以上のフィルターをさらに含む形態として組み合わせられてよい。
【0191】
具体的に、第3組合せのフィルターにおいて、いずれか一方のフィルター、例えば、第1のフィルターFilter 1は、映像、すなわち、ビデオ信号の特性を分析する映像分析ユニットの役割を担い、いずれか他方、すなわち、第2のフィルター(Filter 2)が、スケーリングアップによって解像度が調節された高解像度映像(High Resolution Image)を生成する役割を担う。そして、
図13に示すように、複数のフィルターFilter 1,Filter 2,…,Filter M,Filter Nのうち、第1のフィルターFilter 1と第2のフィルターFilter 2以外の少なくとも一方、例えば、N番目のフィルターFilter Nが映像の画質改善のための後処理(post-processing)を行うことができる。
【0192】
ここで、後処理は、ノイズ低減、ディテール強化などの映像画質改善のための様々なプロセスを含み、後処理の種類は限定されない。
【0193】
上記のようなN番目のフィルターFilter Nは、事実上、
図2の一実施例において処理モジュール134の機能を少なくとも一部行うものとなる。
【0194】
上記のような他の実施例に係るディスプレイ装置100では、AIスケーラー133の可変組合せが可能な複数のフィルターのうち、映像分析モードでは使用しないフィルター、すなわち、遊休リソースを後処理に活用することによって、リソースの活用度を高め、映像画質改善の向上した効果が期待できる。
【0195】
以上、好ましい実施例を挙げて本発明に関して詳細に説明したが、本発明は、これに限定されるものではなく、特許請求の範囲内で様々に実施可能である。
【国際調査報告】