特開2020-187306(P2020-187306A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社メガチップスの特許一覧

<>
  • 特開2020187306-画像処理システム及び画像処理方法 図000003
  • 特開2020187306-画像処理システム及び画像処理方法 図000004
  • 特開2020187306-画像処理システム及び画像処理方法 図000005
  • 特開2020187306-画像処理システム及び画像処理方法 図000006
  • 特開2020187306-画像処理システム及び画像処理方法 図000007
  • 特開2020187306-画像処理システム及び画像処理方法 図000008
  • 特開2020187306-画像処理システム及び画像処理方法 図000009
  • 特開2020187306-画像処理システム及び画像処理方法 図000010
  • 特開2020187306-画像処理システム及び画像処理方法 図000011
  • 特開2020187306-画像処理システム及び画像処理方法 図000012
  • 特開2020187306-画像処理システム及び画像処理方法 図000013
  • 特開2020187306-画像処理システム及び画像処理方法 図000014
  • 特開2020187306-画像処理システム及び画像処理方法 図000015
  • 特開2020187306-画像処理システム及び画像処理方法 図000016
  • 特開2020187306-画像処理システム及び画像処理方法 図000017
  • 特開2020187306-画像処理システム及び画像処理方法 図000018
  • 特開2020187306-画像処理システム及び画像処理方法 図000019
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2020-187306(P2020-187306A)
(43)【公開日】2020年11月19日
(54)【発明の名称】画像処理システム及び画像処理方法
(51)【国際特許分類】
   G09G 3/36 20060101AFI20201023BHJP
   G09G 3/34 20060101ALI20201023BHJP
   G09G 3/20 20060101ALI20201023BHJP
【FI】
   G09G3/36
   G09G3/34 J
   G09G3/20 641P
   G09G3/20 642A
   G09G3/20 612U
【審査請求】未請求
【請求項の数】11
【出願形態】OL
【全頁数】31
(21)【出願番号】特願2019-93198(P2019-93198)
(22)【出願日】2019年5月16日
(71)【出願人】
【識別番号】591128453
【氏名又は名称】株式会社メガチップス
(74)【代理人】
【識別番号】100103850
【弁理士】
【氏名又は名称】田中 秀▲てつ▼
(74)【代理人】
【識別番号】100109715
【弁理士】
【氏名又は名称】塩谷 英明
(72)【発明者】
【氏名】原口 雄基
【テーマコード(参考)】
5C006
5C080
【Fターム(参考)】
5C006AA11
5C006AA21
5C006AF13
5C006AF41
5C006AF44
5C006AF45
5C006AF46
5C006BB11
5C006BC16
5C006BC20
5C006BF01
5C006BF22
5C006BF39
5C006FA22
5C080AA09
5C080AA10
5C080BB05
5C080CC03
5C080DD05
5C080EE28
5C080EE29
5C080EE30
5C080GG07
5C080GG12
5C080JJ01
5C080JJ02
5C080JJ05
5C080JJ06
5C080JJ07
(57)【要約】
【課題】本発明は、ローカルディミング制御での画像再現性の向上を図ることができる画像処理システム及び画像処理方法を提供することを目的とする。
【解決手段】本発明は、液晶表示装置5の光源として用いられるバックライトユニット3に設けられた複数のLED31のそれぞれの発光輝度と、入力画素値IP(n)から目標輝度を決定する目標輝度決定部113aと、目標輝度分布と、複数のLED31がそれぞれ所定輝度で発光した場合に当該光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数のLED31の発光輝度を調整する調整処理を所定回数繰り返して複数のLED31のそれぞれの発光輝度を決定する発光輝度決定部113cとを備えている。
【選択図】図2
【特許請求の範囲】
【請求項1】
複数の発光素子及び複数の前記発光素子を駆動する駆動回路を有する光源装置と、
複数の前記発光素子を光源とし非自発光型の表示パネルを有する表示装置と、
前記表示パネルの表示領域を構成する複数の画素に表示される画像の画素値の目標値である入力画素値に基づいて、目標輝度と、複数の前記発光素子のそれぞれの発光輝度とを決定する目標輝度決定部、前記目標輝度決定部で決定された前記目標輝度の目標輝度分布と、複数の前記発光素子がそれぞれ所定輝度で発光した場合に前記光源装置の光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数の前記発光素子の発光輝度を調整する調整処理を所定回数繰り返して複数の前記発光素子のそれぞれの発光輝度を決定する発光輝度決定部、前記発光輝度決定部で決定された発光輝度に基づいて前記駆動回路を制御する制御信号を生成する制御信号生成部、前記発光輝度決定部で決定された発光輝度に基づく推定輝度分布に基づいて前記入力画素値に乗算されるゲインを算出するゲイン算出部、及び、前記ゲイン算出部から入力されたゲインを前記入力画素値に乗算して得た拡張画素値を前記表示装置に出力するゲイン乗算部を有する画像処理装置と、
を備える画像処理システム。
【請求項2】
前記発光輝度決定部は、前記調整処理において、前記差分と各発光素子が与える影響度を加味して発光輝度を調整し、調整された前記所定輝度に基づく推定輝度分布と前記目標輝度分布との差分を求める
請求項1に記載の画像処理システム。
【請求項3】
前記目標輝度決定部は、前記表示領域を分割した領域であって複数の前記発光素子のそれぞれに対応付けられた分割領域を構成する複数の前記画素の前記入力画素値に基づいて前記目標輝度を決定する、
請求項1又は2に記載の画像処理システム。
【請求項4】
前記目標輝度決定部は、前記分割領域を構成する複数の前記画素の累積画素数が所定の閾値以上となる輝度を暫定目標輝度に設定し、前記暫定目標輝度を残余の画素に基づく輝度で補正した輝度を前記目標輝度に設定する、
請求項3に記載の画像処理システム。
【請求項5】
前記画像処理装置は、前記入力画素値から、前記ゲインを調整するゲイン調整係数を算出する係数算出部を有する、
請求項1から3までのいずれか一項に記載の画像処理システム。
【請求項6】
前記画像処理装置は、前記目標輝度から、前記ゲインを調整するゲイン調整係数を算出する係数算出部を有する、
請求項1から3までのいずれか一項に記載の画像処理システム。
【請求項7】
前記ゲイン算出部は、前記ゲイン及び前記ゲイン調整係数のうちの小さい方を選択する、
請求項5又は6に記載の画像処理システム。
【請求項8】
表示装置に設けられ非自発光型の表示パネルの表示領域を構成する複数の画素に表示される画像の画素値の目標値である入力画素値に基づいて、目標輝度と、前記表示装置の光源として用いられる光源装置に設けられた複数の発光素子のそれぞれの輝度となる発光輝度とを決定し、
決定された前記目標輝度の目標輝度分布と、複数の前記発光素子がそれぞれ所定輝度で発光した場合に前記光源装置の光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数の前記発光素子の発光輝度を調整する調整処理を所定回数繰り返して複数の前記発光素子のそれぞれの発光輝度を決定し、
決定された発光輝度に基づいて前記発光素子を駆動する駆動回路を制御する制御信号を生成し、
決定された発光輝度に基づく輝度分布に基づいて前記入力画素値に乗算されるゲインを算出し、
入力されたゲインを前記入力画素値に乗算して得た拡張画素値を前記表示装置に出力する、
画像処理方法。
【請求項9】
前記画像処理方法は、前記入力画素値から、前記ゲインを補正するゲイン調整係数を算出することを含む、
請求項8に記載の画像処理方法。
【請求項10】
前記目標輝度から、前記ゲインを補正するゲイン調整係数を算出するステップを含む、
請求項8又は9に記載の画像処理方法。
【請求項11】
前記ゲインの算出には、前記ゲイン及び前記ゲイン調整係数のうちの小さい方を選択することが含まれる、
請求項10に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、面光源装置を光源とする非自発光型の表示装置に表示される画像を処理する画像処理システム及び画像処理方法に関する。
【背景技術】
【0002】
表示装置の画面全体を複数の区画に分け、それぞれの区画に映し出す映像の明るさに応じてバックライトユニットの明るさを調整するローカルディミング法が知られている(例えば特許文献1から6)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−304908号公報
【特許文献2】特開2010−79023号公報
【特許文献3】特開2010−152174号公報
【特許文献4】特開2011−13458号公報
【特許文献5】特開2012−2862号公報
【特許文献6】特開2013−210510号公報
【特許文献7】国際公開第2011/010380号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来のローカルディミング法は、バックライトユニットの明るさを調整することによって生じる輝度分布の変更量の推定が十分でない。このため、従来のローカルディミング法は、入力画像データに基づく画像と表示画面に表示される画像とが乖離し、画像再現性が低いという問題がある。
【0005】
本発明の目的は、ローカルディミング制御での画像再現性の向上を図ることができる画像処理システムおよび画像処理方法を提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するための本発明は、以下に示す発明特定事項乃至は技術的特徴を含んで構成される。
【0007】
ある観点に従う本発明は、複数の発光素子及び複数の前記発光素子を駆動する駆動回路を有する光源装置と、複数の前記発光素子を光源とし非自発光型の表示パネルを有する表示装置と、前記表示パネルの表示領域を構成する複数の画素に表示される画像の画素値の目標値である入力画素値に基づいて、目標輝度と、複数の前記発光素子のそれぞれの発光輝度とを決定する目標輝度決定部、前記目標輝度決定部で決定された前記目標輝度の目標輝度分布と、複数の前記発光素子がそれぞれ所定輝度で発光した場合に前記光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数の前記発光素子の発光輝度を調整する調整処理を所定回数繰り返して複数の前記発光素子のそれぞれの発光輝度を決定する発光輝度決定部、前記発光輝度決定部で決定された発光輝度に基づいて前記駆動回路を制御する制御信号を生成する制御信号生成部、前記発光輝度決定部で決定された発光輝度に基づく推定輝度分布に基づいて前記入力画素値に乗算されるゲインを算出するゲイン算出部、及び、前記ゲイン算出部から入力されたゲインを前記入力画素値に乗算して得た拡張画素値を前記表示装置に出力するゲイン乗算部を有する画像処理装置と、を備える。
【0008】
前記発光輝度決定部は、前記調整処理において、前記差分と各発光素子が与える影響度を加味して発光輝度を調整し、調整された前記所定輝度に基づく推定輝度分布と前記目標輝度分布との差分を求めてもよい。
【0009】
前記目標輝度決定部は、前記表示領域を分割した領域であって複数の前記発光素子のそれぞれに対応付けられた分割領域を構成する複数の前記画素の前記入力画素値に基づいて前記目標輝度を決定してもよい。
【0010】
前記目標輝度決定部は、前記分割領域を構成する複数の前記画素の累積画素数が所定の閾値以上となる輝度を暫定目標輝度に設定し、前記暫定目標輝度を残余の画素に基づく輝度で補正した輝度を前記目標輝度に設定してもよい。
【0011】
前記画像処理装置は、前記入力画素値から、前記ゲインを調整するゲイン調整係数を算出する係数算出部を有していてもよい。
【0012】
前記画像処理装置は、前記目標輝度から、前記ゲインを調整するゲイン調整係数を算出する係数算出部を有していてもよい。
【0013】
前記ゲイン調整係数は、前記ゲイン及び前記ゲイン調整係数のうちの小さい方を選択してもよい。
【0014】
ある観点に従う本発明は、表示装置に設けられ非自発光型の表示パネルの表示領域を構成する複数の画素に表示される画像の画素値の目標値である入力画素値に基づいて、目標輝度と、前記表示装置の光源として用いられる光源装置に設けられた複数の発光素子のそれぞれの輝度となる発光輝度とを決定し、決定された前記目標輝度の目標輝度分布と、複数の前記発光素子がそれぞれ所定輝度で発光した場合に前記光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数の前記発光素子の発光輝度を調整する調整処理を所定回数繰り返して複数の前記発光素子のそれぞれの発光輝度を決定し、決定された発光輝度に基づいて前記発光素子を駆動する駆動回路を制御する制御信号を生成し、決定された発光輝度に基づく輝度分布に基づいて前記入力画素値に乗算されるゲインを算出し、入力されたゲインを前記入力画素値に乗算して得た拡張画素値を前記表示装置に出力する。
【0015】
前記画像処理方法は、前記入力画素値から、前記ゲインを補正するゲイン調整係数を算出することを含んでいてもよい。
【0016】
前記目標輝度から、前記ゲインを補正するゲイン調整係数を算出するステップを含んでいてもよい。
【0017】
前記ゲインの算出には、前記ゲイン及び前記ゲイン調整係数のうちの小さい方を選択することが含まれていてもよい。
【0018】
なお、本明細書等において、手段とは、単に物理的手段を意味するものではなく、その手段が有する機能をソフトウェアによって実現する場合も含む。また、1つの手段が有する機能が2つ以上の物理的手段により実現されても、2つ以上の手段の機能が1つの物理的手段により実現されてもよい。
【発明の効果】
【0019】
本発明によれば、ローカルディミング制御での画像再現性の向上を図ることができる。
【0020】
本発明の他の技術的特徴、目的、及び作用効果乃至は利点は、添付した図面を参照して説明される以下の実施形態により明らかにされる。
【図面の簡単な説明】
【0021】
図1】本発明の第1実施形態に係る画像処理システムの概略構成を示すブロック図である。
図2】本発明の第1実施形態に係る画像処理システムに設けられた画像処理装置の要部の機能ブロック図である。
図3】本発明の第1実施形態に係る画像処理システムを説明する図であって、入力画素値に基づいて複数のLEDのそれぞれの発光輝度を決定する処理を模式的に示す図である。
図4】本発明の第1実施形態に係る画像処理システムを説明する図であって、目標輝度決定部が目標輝度を決定する際に作成する入力画素値に基づく輝度の累積度数分布の一例を示すグラフである。
図5】本発明の第1実施形態に係る画像処理システムを説明する図であって、ルックアップテーブルを作成するために用いられる輝度の補正データの一例を示すグラフである。
図6】本発明の第1実施形態に係る画像処理システムを説明する図であって、プロファイルを作成するために用いられる液晶表示装置の表示領域を撮影した画像の一例を模式的に示す図である。
図7】本発明の第1実施形態に係る画像処理システムを説明する図であって、プロファイルを作成するために表示領域の撮像画像にサブエリアを割り当てた状態を模式的に示す図である。
図8】本発明の第1実施形態に係る画像処理システムを説明する図であって、代表点の正規化を説明するための図である。
図9】本発明の第1実施形態に係る画像処理システムを説明する図であって、複数のLEDの輝度が所定代表点で表現される階調に及ぼす影響度の一例を示すグラフである。
図10】本発明の第1実施形態に係る画像処理システムを説明する図であって、目標輝度決定部で決定された発光輝度に基づいて輝度分布を推定する方法を模式的に示す図である。
図11】本発明の第1実施形態に係る画像処理システムを説明する図であって、2405点の輝度分布を用いて全ての画素に輝度情報をアップスケーリングする方法を説明するための図である。
図12】本発明の第1実施形態に係る画像処理システムを説明する図であって、ポストプロセス部における処理を模式的に示す図(その1)である。
図13】本発明の第1実施形態に係る画像処理システムを説明する図であって、ポストプロセス部における処理を模式的に示す図(その2)である。
図14】ゲインリミットを用いない場合のポストプロセス部の処理の一例を模式的に示す図である。
図15】本発明の第1実施形態に係る画像処理方法の流れの一例を示すフローチャートである。
図16】本発明の第1実施形態に係る画像処理方法におけるLED発光輝度決定処理の流れの一例を示すフローチャートである。
図17】本発明の第2実施形態に係る画像処理システムに設けられた画像処理装置の要部の機能ブロック図である。
【発明を実施するための形態】
【0022】
以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。本発明は、その趣旨を逸脱しない範囲で種々変形(例えば各実施形態を組み合わせる等)して実施することができる。また、以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。
【0023】
〔第1実施形態〕
[画像処理システム]
本発明の第1実施形態に係る画像処理システムについて図1から図16を用いて説明する。まず、本実施形態に係る画像処理システム10について図1を用いて説明する。図1は、本発明の第1実施形態に係る画像処理システム10の一例を示すブロック図である。
【0024】
図1に示すように、本実施形態に係る画像処理システム10は、バックライトユニット(光源装置の一例)3と、液晶表示装置(表示装置の一例)5と、画像処理装置1とを備えている。画像処理装置1は、バックライトユニット3及び液晶表示装置5を制御するように構成されている。画像処理装置1は、バックライトユニット3及び液晶表示装置5の制御として、例えばローカルディミング制御を実行できるように構成されている。
【0025】
バックライトユニット3は、複数のLED(発光素子の一例)31と、複数のLED31のそれぞれで発光した光を面状の光に拡散して液晶表示装置5に向かって出力する導光部33と、複数のLED31を駆動するLED駆動回路35とを有している。複数のLED31は、例えば導光部33の光出射面の裏面側にマトリクス状に並んで配置されている。つまり、図1では、バックライトユニット3は、直下型バックライトユニットの構成を有しているが、エッジライト型バックライトユニットの構成を有していてもよい。液晶表示装置5は、画像を表示する表示領域511を有する液晶表示パネル51と、液晶表示パネル51を駆動するLCD駆動回路53とを有している。
【0026】
画像処理装置1は、画像処理システム10の外部に設けられた外部装置(不図示)から例えばnフレーム目(nは自然数)の入力画素値IP(n)が入力される制御部11と、種々の設定データが予め記憶されたメモリ15とを備えている。入力画素値は、液晶表示パネル51の表示領域511に設けられた複数の画素に表示される画像の画素値の目標値である。詳細は後述するが、制御部11は、例えばnフレーム目の入力画素値IP(n)に基づいてバックライトユニット3に設けられた複数のLED31のそれぞれの発光輝度を決定するように構成されている。また、制御部11は、決定した発光輝度に基づいて、例えば光射出面の側に生じる輝度分布を推定したり、LED駆動回路35を制御する制御信号Sdyを生成したりするように構成されている。また、制御部11は、例えば当該輝度分布及びnフレーム目の入力画素値IP(n)に基づいて、液晶表示パネル51の表示領域511に表示する画像の画素値である拡張画素値EP(n)を生成するように構成されている。即ち、画像処理装置1は、拡張画素値EP(n)を用いた表示画像として、入力画像との乖離が少なく、再現性が高く、階調を保った画像とするため、入力画素値IP(n)を目標値とし、かつバックライトユニット3の消費電力を削減するためのローカルディミング制御を併せて行う。
【0027】
[画像処理装置の機能ブロック]
次に、本実施形態に係る画像処理システム10に設けられた画像処理装置1の要部の機能ブロックの一例について図1を参照しつつ図2から図13を用いて説明する。図2は、画像処理装置1の要部の機能ブロックの一例を示す図である。
【0028】
図2に示すように、制御部11は例えば、入力画素値IP(n)の座標を検出するプリプロセス部111を有している。制御部11は例えば、目標輝度(詳細は後述)及び複数のLED31(図1参照)の発光輝度の決定並びにLED駆動回路35を制御する制御信号Sdyを生成する機能を発揮するコアプロセス部113を有している。制御部11は、液晶表示パネル51の表示領域511(図1参照)の画素に表示されるnフレーム目の画像の拡張画素値EP(n)を生成する機能を発揮するポストプロセス部115を有している。以下、各機能ブロックについて詳細に説明する。
【0029】
<プリプロセス部>
図2に示すように、制御部11に設けられたプリプロセス部111は、画像処理システム10の外部に設けられた外部装置(不図示)から入力される入力画素値IP(n)の座標を検出する座標検出部111aを有している。座標検出部111aは例えば、表示領域511の列方向の座標(X座標)用カウンタと、表示領域511の行方向の座標(Y座標)用カウンタとを有している。座標検出部111aは、入力画素値IP(n)が入力される度にX座標用カウンタをカウントアップするように構成されている。また、座標検出部111aは例えば、1行分の入力画素値IP(n)の入力が完了するとX座標用カウンタをリセットするとともに、Y座標用カウンタをカウントアップするように構成されている。また、座標検出部111aは例えば、1フレーム分の入力画素値IP(n)の入力が完了すると、X座標用カウンタ及びY座標用カウンタをリセットするように構成されている。さらに、座標検出部111aは、入力された入力画素値IP(n)の情報と、当該入力画素値IP(n)の座標情報とをコアプロセス部113とポストプロセス部115に出力するように構成されている。
【0030】
<コアプロセス部>
図2に示すように、制御部11に設けられたコアプロセス部113は例えば、液晶表示パネル51の表示領域511を構成する複数の画素(図1では不図示)に表示される画像の画素値の目標値である入力画素値IP(n)に基づいて、液晶表示装置5の光源として用いられるバックライトユニット3に設けられた複数のLED31のそれぞれの発光輝度の決定と、目標値となる目標輝度を決定する目標輝度決定部113aを備えている。複数のLED31のそれぞれの発光輝度および目標輝度を決定するために用いられる入力画素値は、拡張画素値EP(n)を生成するために用いられる入力画素値IP(n)よりも1フレーム前の入力画素値IP(n−1)であっても良い。
【0031】
コアプロセス部113は、目標輝度決定部113aで決定された目標輝度の目標輝度分布と、複数のLED31がそれぞれ所定の発光輝度で発光した場合に当該光出射面の側に生じると推定される推定輝度分布との差分を用いて、複数のLED31の発光輝度を調整する調整処理を所定回数繰り返して複数のLED31のそれぞれの発光輝度を決定する発光輝度決定部113cを備えている。さらに、コアプロセス部113は、発光輝度決定部113cで決定された発光輝度に基づいて複数のLED31を駆動するLED駆動回路35を制御する制御信号Sdyを生成するデューティ値変換部(制御信号生成部の一例)113bを備えている。
【0032】
(目標輝度決定部)
目標輝度決定部113aは、表示領域511を分割した領域であって複数のLED31のそれぞれに対応付けられたサブエリア(分割領域の一例)LSBを構成する複数のサブブロックSBを構成する画素の入力画素値IP(n)に基づいて、各LED31の発光輝度を決定するように構成されている。目標輝度決定部113aは、プリプロセス部111に設けられた座標検出部111a、発光輝度決定部113c及びメモリ15に接続されている。これにより、目標輝度決定部113aには、入力画素値IP(n)及び当該入力画素値IP(n)の座標情報が入力される。また、目標輝度決定部113aで決定された複数のLED31のそれぞれの発光輝度の情報及び、各サブブロックSBの目標輝度が発光輝度決定部113cに出力される。
【0033】
ここで、目標輝度決定部113aが目標輝度を決定する処理について図3から図5を用いて具体的に説明する。図3は、入力画素値IP(n)に基づいて複数のLED31のそれぞれの発光輝度を決定する処理を模式的に示す図である。図3中の左上には、表示領域511が模式的に図示されている。図3中の左中央には、表示領域511をサブエリアLSBに分割した状態が模式的に図示されている。図3中の右上には、複数のLED31が図示されている。図3中の左下の中央寄りには、表示領域511と複数のLED31とが重ね合わされて、表示領域511に設けられたサブエリアLSBと複数のLED31との対応関係が模式的に図示されている。なお、図3では理解を容易にするため、複数のLED31は、表示領域511に対してずらして図示されている。本例では、各LEDに各サブエリアLSBが割り当てられているが、これに限られるものではなく、複数のLEDを一つのサブエリアに割り当てても良いし、一つのLEDを複数のサブエリアに割り当てても良い。さらに、図3中の右下には、1つのサブエリアLSBを構成する複数のサブブロックSBが模式的に図示されている。各サブブロックには所定の数の画素P(図3では不図示)が含まれる。
【0034】
図3中の左上に示すように、表示領域511は、例えば、4K解像度の場合、8.2メガピクセル(=2160行×3840列)の画素Pを有している。ここで、画素Pは、赤色画素、緑色画素及び青色画素を1組とした画素である。各サブエリアLSBは、例えば48個(=6行×8列)のサブブロックSBが含まれるように構成されている。このため、表示領域511は、例えば2304個(=36行×64列)のサブブロックSBに分割される。図3では、理解を容易にするため、表示領域511が48個(=6行×8列)のサブエリアLSBに分割された状態が図示されている。以下、サブエリアLSBを個別に説明する場合には、サブエリアLSBの符号に行番号及び列番号を付すことにする。例えば図3では、48個のサブエリアLSBのうちの左隅(1行×1列)に配置されたサブエリアには、符号「LSB11」を付すことによって、1行1列に配置されたサブエリアであることが示されている。また同様に、3行8列に配置されたサブエリアが「サブエリアLSB38」として示され、6行5列に配置されたサブエリアが「サブエリアLSB65」として示されている。
【0035】
図3中の右上に示すように、バックライトユニット3は、48個(=6行×8列)のLED31を有している。以下、48個のLED31を個別に説明する場合には、LED31の符号に行番号及び列番号を付すことにする。図3では、48個のLED31のうちの左隅(1行×1列)に配置されたLED31には、符号「31−11」を付すことによって、1列1行に配置されたLEDが「LED31−11」として示されている。また同様に、3行8列に配置されたLEDが「LED31−38」として示され、6行5列に配置されたLEDが「LED31−65」として示されている。
【0036】
本実施形態では、1個のLED31に対して1個のサブエリアLSBが対応付けられている。さらに、1個のサブエリアLSBは、48個のサブブロックSBで構成されている。図3中の右下には、サブブロックSBの構成例として、サブエリアLSB38に含まれるサブブロックSBが模式的に図示されている。図3中の右下に示すように、サブエリアLSB38には、例えば48個のサブブロックSBが含まれている。以下、サブブロックSBを個別に説明する場合には、サブブロックSBの符号に行番号及び列番号を付すことにする。例えば、48個のサブブロックSBのうちの左隅(1行×1列)に配置されたサブブロックには、符号「SB11」を付すことによって、1行1列目に配置されたサブブロックであることを示す。したがって、図3中の右下に示すサブブロックSB68は、6行8列目に配置されたサブブロックを示し、サブブロックSB18は、1行8列目に配置されたサブブロックを示し、サブブロックSB61は、6行1列目に配置されたサブブロックを示している。したがって、サブエリアLSB38には、サブブロックSB11〜SB18,・・・,SB61〜SB68が含まれている。また、本実施形態では、サブブロックSBのそれぞれは、3600画素(60行×60列)の画素P(図3では不図示)が含まれている。
【0037】
図3中の左下の中央寄りに示すように、48個のLED31は、液晶表示パネル51(図1参照)の背面側で表示領域511に導光部33(図1参照)を介して、重ね合わせて配置される。本実施形態では、複数のLED31及び複数のサブエリアLSBは、1対1の関係で対応付けられている。図3中の左下の中央寄りに示すように例えば、LED31−11とサブエリアLSB11とが対応付けられ、LED31−65とサブエリアLSB65とが対応付けられ、LED31−38(図3中の右上参照)とサブエリアLSB38とが対応付けられている。また、サブエリアLSBのそれぞれは、48個のサブブロックSBで構成されている。このため、1個のLED31に対応付けられるサブブロックSBの個数は48個となる。LED31−38(図3中の右上参照)には、例えばサブエリアLSB38が対応付けられている。サブエリアLSB38は、サブブロックSB11〜SB68で構成されている。このため、LED31−38には、48個のサブブロックSB11〜SB68が対応付けられる。
【0038】
目標輝度決定部113aは、1つのLED31に対応付けられたサブエリアLSBを構成する画素に表示される画像の画素値の目標となる入力画素値IP(n)に基づいて、複数のLED31のそれぞれの初回の発光輝度と、各サブブロックSBの目標値となる目標輝度を決定する。ここで、発光輝度は、表示領域511を構成する画素Pに入力画素値IP(n)の画像を表示する際に複数のLED31がそれぞれ出射する光の輝度である。また、目標輝度は、発光輝度決定部113cにおいて発光輝度を決定するための目標値として用いられる。目標輝度決定部113aは、目標輝度を決定するために、まず、入力された入力画素値IP(n)を例えばグレースケール化(輝度抽出)する。あるいは、目標輝度決定部113aは、例えば入力された入力画素値IP(n)を構成する赤色画素、緑色画素及び青色画素のうちの階調値が最も大きい色画素を抽出し、抽出した階調値を入力画素値IP(n)の階調値とする。このように、目標輝度決定部113aは、赤色画素、緑色画素及び青色画素の階調値を共通化して1つの入力画素値IP(n)に対して階調値を1つにする。
【0039】
次に、目標輝度決定部113aは、サブブロックSBを構成する画素に表示される画像の輝度である目標輝度を入力画素値IP(n)の階調値から算出する。ここで、目標輝度決定部113aが目標輝度を決定する方法について図4を用いて説明する。図4は、目標輝度決定部113aが目標輝度を決定する際に作成する入力画素値IP(n)に基づく輝度の累積度数分布の一例を示すグラフである。図4中に示すグラフの横軸は輝度を示し、当該グラフの縦軸は累積画素数を示している。なお、縦軸の累積画素数は、サブブロックSBを構成する画素の個数で正規化されている。
【0040】
目標輝度決定部113aは、サブブロックSBを構成する複数の画素Pの累積画素数が所定の閾値CPth以上となる輝度を暫定目標輝度PTLに設定し、暫定目標輝度PTLを残余の画素に基づく輝度で補正した輝度を目標輝度に設定する。より具体的には、図4に示すように、目標輝度決定部113aは、サブブロックSBを構成する画素に表示される画像の入力画素値IP(n)に対する階調値に基づく輝度の累積度数分布を作成する。目標輝度決定部113aは、サブブロックSBを構成する複数の画素の個数の累積値が閾値CPth(本実施形態では0.8、すなわち80%)以上となった輝度を暫定目標輝度PTLに設定する。暫定目標輝度PTLが目標輝度に設定された場合、サブブロックSBを構成する複数の画素のうちの残余の画素(図4中に示すオーバー範囲ORに含まれる画素)に基づく輝度(暫定目標輝度PTLを上回る輝度)が得られない。そこで、目標輝度決定部113aは、オーバー範囲ORに含まれる複数の画素のそれぞれの輝度と暫定目標輝度PTLの差分値を合計した輝度の平均値を暫定目標輝度PTLに加算して得た輝度を新たな暫定目標輝度に設定する。これにより、画像処理装置1は、サブブロックSBを構成する複数の画素のうちの一部に明るさを保証できない画素を生じさせてしまうものの、突発的な明るさに反応するとともに消費電力の削減効果を向上させることができる。
次に、新たな暫定目標輝度の補正を行う。図5は、新たな暫定目標輝度の補正データを作成するために用いられる輝度の補正方法の一例を示すグラフである。図5中に示すグラフの横軸は、補正前の輝度(つまり新たな暫定目標輝度)を示し、最大値で正規化されている。また、当該グラフの縦軸は、補正後の輝度(つまり最終的な目標輝度)を示し、補正後の輝度の最大値で正規化されている。本グラフが示す対応表は、例えば、ルックアップテーブルLUT2として、メモリに記憶され、必要に応じて入力される。
【0041】
図5に示すように、本実施形態では、補正後の輝度は、元の輝度よりも高くなるように設定される。つまり、補正後の輝度が、本来必要なバックライトユニット3の輝度よりも若干明るくなるように補正する。特に、新たな暫定目標輝度の補正は、低輝度における補正量が高輝度における補正量より大きくなるように設定されている。
【0042】
図3に戻って、図3中の左下の中央寄りに示す例では、目標輝度決定部113aは、LED31−38の発光輝度を決定するにあたって、LED31−38に対応付けられたサブエリアLSB38のサブブロックSB11〜SB68のそれぞれの目標輝度を求める。図3中の右下に示すように、サブブロックSBは複数の画素Pを有している。図3中の右下には、理解を容易にするため、画素Pは図示されていないが、上述のとおり、本例では、1つのサブブロックSBには例えば3600個の画素Pが含まれている。目標輝度決定部113aは、サブブロックSB11の目標輝度として、サブブロックSB11に含まれている例えば3600個の画素Pのそれぞれに表示される画像の入力画素値IP(n)に基づく輝度の累積度数分布を作成し、当該累積度数分布を用いて上述の補正の方法により目標輝度を決定する。目標輝度決定部113aは、サブブロックSB12〜SB68についても同様の方法により目標輝度を決定する。目標輝度決定部113aは、サブブロックSB11〜SB68のそれぞれの目標輝度の平均値や最大値をLED31−38の発光輝度に決定する。
【0043】
制御部11は、LED31の個数、サブエリアLSBの分割数、目標輝度決定部113aで使用するサブブロックSBの分割数、LED31及びサブブロックSBとの対応付けなどの1度決定した後に変更される可能性の低いデータをメモリ15に記憶するように構成されているが、この限りではない。一方、制御部11は、目標輝度決定部113aが求めた目標輝度及び決定した発光輝度などの入力画素値IPに応じて変更されるデータを不図示のメモリに記憶するように構成されている。
【0044】
図3では、画素Pの個数がLED31の個数で割り切れる場合のサブブロックSBの設定例を説明したが、画素Pの個数がLED31の個数で割り切れない場合もある。例えば、表示領域511が8.2メガピクセル個(=2160行×3840列)の画素Pを有し、バックライトユニット3が21個(=1行×21列)のLED31を有しているとする。この場合、画素Pの3840列をLED31の21列で均等に分割することができない。このため、例えば左端のLED31には、(=2160行×181列)の画素Pを対応付け、右端のLED31には、2160行x182列の画素Pを対応付け、残余のLED31のそれぞれには、2160行×183列の画素Pを対応付ける。本例では、各LED31に含まれる画素Pの個数は、可能な限り均等に分割されているが、両端での反射等を考慮して非均等な任意の個数で分割してもよい。本例では、左端のLED31は、列方向に見て、60列、60列、61列ずつ3つのサブブロックに分割される。また、右端のLED31は、列方向に見て、60列、61列、61列ずつ3つのサブブロックに分割される。また、残余のLED31は、列方向において、183列を一組として19個の組に分割される。
【0045】
(発光輝度決定部)
発光輝度決定部113cは、目標輝度分布と推定輝度分布との差分を用いて、サブエリアLSBを構成する複数のLED31の発光輝度を調整する調整処理を所定回数(本実施形態では3回)繰り返して当該複数のLED31のそれぞれの発光輝度を決定するように構成されている。ここで、目標輝度分布は、目標輝度決定部113aで決定された目標輝度の分布である。また、推定輝度分布は、サブエリアLSBを構成する複数のLED31がそれぞれ所定の発光輝度で発光した場合にバックライトユニット3の光出射面の側に生じると推定される輝度の分布である。発光輝度決定部113cは、当該調整処理において、目標輝度分布と推定輝度分布との差分を用いて変更された発光輝度に基づく推定輝度分布と、目標輝度分布との差分を繰り返し求めるように構成されている。
【0046】
ここで、発光輝度決定部113cが目標輝度分布および推定輝度分布を算出する方法について図6から図11を用いて説明する。目標輝度分布および推定輝度分布の算出方法は、目標輝度分布が目標輝度決定部113aで決定された目標輝度が用いられるのに対し、推定輝度分布は上述の調整処理によって繰り返し調整される発光輝度を用いて算出される。そこで、推定輝度分布の算出方法について説明する。
【0047】
発光輝度決定部113cは、複数のLED31のそれぞれを発光させた場合のバックライトユニット3の光出射面の側の輝度分布データを用いて、バックライトユニット3の光出射面の側に生じる輝度分布を推定するように構成されている。輝度分布の推定に用いられる輝度分布データは、複数のLED31のそれぞれを例えば単体で発光させて得られる。ここで、バックライトユニット3の光出射面の側は、液晶表示パネル51の表示領域511である。
【0048】
まず、輝度分布データを算出するために用いられるLED点灯パターンのプロファイルPFの作成方法について図6から図8を用いて説明する。図6は、プロファイルPFを作成するために用いられる液晶表示装置の表示領域を撮影した画像の一例を模式的に示す図である。図6(a)は、表示領域511を含むように液晶表示装置5を不図示の撮像装置(例えばデジタルカメラ)で撮像した画像を模式的に示す図である。図6(b)は、図6(a)に示す画像中の表示領域511の部分を抜き出した画像を示す図である。図7は、プロファイルPFを作成するために用いられる液晶表示装置5の表示領域511の撮像画像にサブエリアLSBを割り当てた状態を模式的に示す図である。図7中の上段は、液晶表示装置5の表示領域511の撮像画像にサブエリアLSBを割り当てた状態を模式的に示す図である。図7中の下段は、サブエリアLSBを構成するサブブロックSBを拡大して示す図である。
【0049】
プロファイルPFは、メモリ15(図1および図2参照)に記憶されている。発光輝度決定部113cは、輝度分布を推定する際にメモリ15からプロファイルPFを読み出すように構成されている。プロファイルPFは、画像処理システム10が実働する前に予め作成されてメモリ15に記憶される。
【0050】
図6(a)に示すように、複数のLED31のうちの1つのLED31を最大輝度で点灯させた状態の液晶表示装置5を表示領域511の全体が写るように撮影する。撮像装置を所定の設定(例えば12ビットRGBカラー、画素数4000×3000、歪み補正済み)にして液晶表示装置5を撮影する。撮像装置の撮影ダイナミックレンジでは、LED31の輝度のダイナミックレンジを捉えきれない可能性がある。このため、複数の露出設定の撮像装置で液晶表示装置5を撮影して、ダイナミックレンジを合成する。複数の露出設定として、単体のLED31の輝度の画像がいわゆる白飛び現象(画像の明るい部分の階調が失われ真っ白になる現象)が生じない設定を最小露出設定とし、この最小露出設定の露出時間に対して露光時間を倍化させた露出設定とする。例えば、露出時間を8、9および10と倍化する。露出時間が8の場合、最大値(4095×(最長露光時間/最短露光時間))が1048320となり、おおよそのビット数が20ビットとなる。また、露出時間が9の場合、最大値が2096640となり、おおよそのビット数が21ビットとなる。さらに、露出時間が10の場合、最大値が4193280となり、おおよそのビット数が22ビットとなる。
【0051】
図6(b)に示すように、液晶表示装置5の画像から表示領域511の部分を切り出す。これにより、画像は、例えば、12ビットRGBカラー、画素数3840×2160となる。
【0052】
図7中の上段に示すように、表示領域511の部分を、サブブロック単位で切り出した画像をサンプリングする。図7中の下段に示すように、液晶表示パネル51の解像度とLED31分割数で決定されるサブブロックSBごとに代表値を作成する。各サブエリアLSBを構成する、サブブロックSBの交点の輝度を代表値とする。本実施形態では、8×6個のサブエリアLSBはそれぞれ、8×6個のサブブロックSBに分割されている。このため、サブブロックSBの個数は、例えば64×36個となる。さらに、輝度分布の推定処理の後段でサブブロック内を線形補間(4点のバイナリ補間)して埋める必要があるので、サブブロックSBの四隅の輝度の値が必要となる。このため、サブブロックSBの個数が64×36個の場合、65×37点の代表値(すなわち代表点の輝度)が必要となる。
【0053】
代表値は、例えば以下のようにして算出することができる。サブブロックSB毎に、代表値を求めるために参照領域RAに含まれるR画素の輝度の総和、G画素の輝度の総和及びB画素の輝度の総和を算出する。参照領域RAは、代表点を囲む4つのサブブロックSBのそれぞれの中心の画素を頂点とする矩形の領域である。総和化したR画素の輝度値、G画素の輝度値及びB画素の輝度値から代表点毎に輝度値を算出する。代表点毎の輝度値の算出には、Luminance算出の『R×0.292812+G×0.586611+B×0.114478』を用いても良いが、XYZのYを求める『R×0.212639+G×0.715169+B×0.072192』を用いても良い。この代表値を算出する作業は、複数のLED31をそれぞれ最大輝度で点灯した状態で行われる。このため、サブブロックSBのそれぞれは、各々のLED31を最大輝度で点灯したときの代表値をもつ。
【0054】
各々のLED31のそれぞれについて、全代表点(本実施形態では65×37点)分の輝度値データを撮影画像のビット精度(例えば20ビットから22ビット)で記憶するためには、膨大な記憶容量が必要になる。そこで、本実施形態では、代表点の輝度値を12ビットに正規化して、プロファイルPFを記憶するための記憶容量の削減が図られている。図8は、代表点の輝度値の正規化を説明するための図である。なお、図8では、理解を容易にするため、LED31の個数(本実施形態では8×6個)分の代表点の輝度値データのうちの3個のみが図示されている。
【0055】
図8中の左上に示すように、撮影画像ビット数での代表点(65×37点)の輝度値データは、LED31の個数(本実施形態では48(=8×6)個)分だけ作成されている。図8中の右上に示す(横向き太矢印で指し示す)ように、同じ座標の代表点の輝度値データを累積した代表点の累積輝度値データを作成する。代表点の累積輝度値データは、代表点の輝度値データと同様の個数(例えば65×37点)のデータとなる。また、代表点の累積輝度値データの撮影画像のビット数は、代表点の累積輝度値データの撮影画像のビット数よりも増加する。代表点の累積輝度値データは、全てのLED31が最大輝度で点灯した場合の各代表点における輝度値のデータに相当する。全てのLED31が最大輝度で点灯した場合の代表点の累積輝度値データを用いて正規化することにより、全ての代表点で同じ値、すなわち全てのLED31が最大輝度で点灯した場合の表示領域511の全体の輝度を正規化することができる。
【0056】
そこで、図8中の左下(縦向き太矢印で指し示す)のように、代表点輝度値データを代表点累積輝度値データで正規化し全ての輝度値データを12ビットのデータにする。代表点輝度値データは、同じ座標の代表点の累積輝度値データで正規化される。これにより、65×37個の代表点の正規化輝度値データが複数のLED31と同じ個数分だけ作成される。このため、同じ座標の代表点の正規化輝度データを加算すると、代表点の正規化輝度データは全て、4096になる。65×37個の代表点の正規化輝度データは、プロファイルPFとしてメモリ15に記憶される。
【0057】
最も大きな代表点累積輝度値データによって全体を正規化せずに、代表点毎に正規化する理由は、以下のとおりである。実際の液晶表示パネルは、画素ごとに輝度ムラが存在し、LEDを最大輝度で点灯させても最も明るい画素と比較して暗くなる画素が存在する可能性がある。ゲイン算出部115a(詳細は後述)は、全ての画素がバックライトユニット3の最大輝度を表現できることを前提にゲイン計算を行う。最も大きな代表点累積輝度値データによって全体を正規化すると、画素によってはバックライトユニット3の最大輝度を表現できず、表示領域に表示される画像が破綻してしまう可能性がある。また、発光輝度決定部113cが発光輝度を決定するために実行するループアルゴリズムの際に発光輝度の値が収束しない可能性ある。このため、本実施形態による画像処理システム10では、最も大きな代表点累積輝度値データによって全体を正規化せずに代表点毎に正規化することによって、画像の破綻を防止と発光輝度の収束性の向上が図られている。
【0058】
また、図8中の右下(横向き太矢印で指し示す)のように、各LEDの正規化代表点輝度値データを、各代表点に全LEDの輝度を正規化して分布をとることで、各代表点における、全LEDの影響度に換算できる。具体的には、図9に例示するように、特定の代表点における、LEDの輝度を正規化して分布をとることで、各LEDの影響度として換算できる。ここで、各代表点で、正規化したLEDの影響度を共通の正規化(例えば、影響度の合計が1になる)にすることで、各代表点における全LEDの影響度のテーブルが作成される。この各代表点における各LEDの影響度の正規化テーブルは、正規化代表点の個数、本例では、65×37個の代表点毎にテーブルが作成される。65×37個の代表点の各代表点における各LEDの影響度データは、正規化代表点と同じ個数分だけ、影響度プロファイルEPFとしてメモリ15に記憶される。
【0059】
発光輝度決定部113cは、このようにして得られたメモリ15に記憶されたプロファイルPFを用いて輝度分布を推定するように構成されている。図10は、プロファイルPFを構成する各正規化代表点輝度データ(以下、「正規化代表値」と称する場合がある)に基づいて表示領域の推定輝度分布を推定する方法を模式的に示す図である。図10中の左側には、目標輝度決定部113aで決定された、複数のLED31のそれぞれの発光輝度の輝度値リストの一例が示されている。輝度値リスト中の「LED 00番:1024」は、例えばLED31−11の発光輝度の階調値が1024であることを示し、「LED 01番:2048」は、例えばLED31−12の発光輝度の階調値が2048を示し、「LED 47番:512」は、例えばLED31−68の発光輝度の階調値が512であることを示している。
【0060】
図10中の中央には、複数のLED31のそれぞれのプロファイルを輝度値リストに設定された値で演算した結果が示されている。プロファイルは、図8を用いて説明したプロファイルPFであり、複数のLED31のそれぞれを単体かつ最大の輝度値で点灯させた場合に、バックライトユニット3の光出射面の側(例えば表示領域511)の65×37点の輝度を正規化したデータである。プロファイルは、複数(本例では48個)のLED31ごとに作成されている。図10中の中央に示す「[LED00番]65×37点@Duty Max」を25%化」は、例えばLED31−11のプロファイルに含まれる65×37点の輝度を、輝度値リストに設定された階調値「1024」(=1024/4096=1/4)に基づいて25%に低減することを示している。また、図10中の中央に示す「[LED01番]65×37点@Duty Max」を50%化」は、例えばLED31−12のプロファイルに含まれる65×37点の輝度を、輝度値リストに設定された階調値「2048」(=2048/4096=1/2)に基づいて50%に低減することを示している。また、図10中の中央に示す「[LED47番]65×37点@Duty Max」を12.5%化」は、例えばLED31−86のプロファイルに含まれる65×37点の輝度を、輝度値リストに設定された階調値「512」(=512/4096=1/8)に基づいて12.5%に低減することを示している。プロファイル中の「Duty」は、複数のLED31を駆動する場合にLED駆動回路35を制御するためのデューティ値を示している。LED駆動回路35に入力されるデューティ値(例えば13ビット)に対し、当該デューティ値に基づいて駆動されたLED31の輝度[nit]は、ほぼ線形の関係にある。したがって、「Duty Max」はLED31の最大発光輝度を表している。
【0061】
図10中の右側には、図10中の中央に示されたプロファイルに含まれる65×37点の同一の点同士の輝度を累積加算することが示されている。65×37点の同一の点同士の輝度を累積加算した結果は、「65×37点@Dutyリスト」として表されている。具体的には、プロファイル[LED00番]を25%化したプロファイル、プロファイル[LED01番]を50%化したプロファイル、・・・、プロファイル[LED47番]を12.5%化したプロファイルのそれぞれの1×1点の輝度を累積加算する。同様に、残余の点の輝度も累積加算する。これにより、バックライトユニット3の光出射面の側(例えば表示領域511)の65×37点の代表点の輝度分布が推定される。
【0062】
発光輝度決定部113cは、表示領域511における格子状の2405点(=37行×65列)の輝度分布を推定したら、この2405点の輝度分布を用いて表示領域511を構成する全ての画素Pに輝度情報をアップスケーリングすることができる。図11は、2405点の輝度分布を用いて全ての画素Pに輝度情報をアップスケーリングする方法を説明するための図である。図11中の左側には、表示領域511において輝度分布が推定された格子状の2405点(=37行×65列)が模式的に示されている。図11中の右側には、表示領域511に設けられた複数のサブブロックSBのうちの1つが拡大されて模式的に示されている。サブブロックSBはそれぞれ、例えば行方向及び列方向にそれぞれ60個ずつ並ぶ合計3600個の画素Pで構成されている。
【0063】
図11に示すように、輝度分布が推定された格子状の2405点のそれぞれは、サブブロックSBの四隅に位置している。このため、発光輝度決定部113cは、サブブロックSBの四隅の輝度情報を用いて当該サブブロックSBを構成する複数の画素Pの輝度情報を算出する。発光輝度決定部113cは、画素Pの輝度情報を例えばバイリニア補間によって求める。図11では、簡便化のために、10×10の画素で、同一の輝度情報を用いて、データを削減する例が示されているが、画素単位で算出しても良いし、数十画素単位で算出しても良い。こうして、発光輝度決定部113cは、液晶表示パネル51に設けられた表示領域511の各画素Pの輝度分布を算出することができる。発光輝度決定部113cは、推定した輝度分布を例えば制御部11に設けられたメモリ(不図示)に記憶する。但し、各画素Pの算出は、後述するLED発光輝度決定処理ループが終了した場合にのみ行われる。また、サブブロックSB単位での、推定輝度情報は、同様にサブブロックSBの四隅の代表点の例えば平均値で得られ、後述する、輝度調整で用いられる。
【0064】
図2に戻って、発光輝度決定部113cは、目標輝度決定部113a、デューティ値変換部113b、メモリ15及びポストプロセス部115に接続されている。これにより、発光輝度決定部113cには、目標輝度決定部113aで決定された複数のLED31のそれぞれの発光輝度の情報と、対応するそれぞれのサブブロックSBの目標輝度が入力される。また、発光輝度決定部113cは、メモリ15に記憶されたLED点灯パターンのプロファイルPFと影響度プロファイルEPFを読み出すことができる。
【0065】
ここで、発光輝度決定部113cは、推定輝度分布を生成する場合、図10に示す輝度値リストを目標輝度決定部113aから入力される発光輝度に基づいて作成する。発光輝度決定部113cは、作成した当該輝度値リストと、メモリ15に記憶されている全てのLED31の各々が最大輝度で点灯した場合のプロファイルPFとを用いて、バックライトユニット3の光出射面の側(例えば表示領域511)の65×37個の代表点に基づく推定輝度分布を推定する(図10中の右側に示す「65×37点@Dutyリスト」参照)。発光輝度決定部113cは、代表点に基づく推定輝度分布を推定した後に、代表点の推定輝度分布を用いて表示領域511を構成する全てのサブブロックSBの推定輝度分布を推定し、推定輝度分布を制御部11に設けられたメモリ(不図示)に記憶してもよい。
【0066】
一方、発光輝度決定部113cには、目標輝度決定部113aで決定された全サブブロックSBの目標輝度分布が入力される。上述の推定輝度分布と同様の手法によって目標輝度分布を制御部11に設けられたメモリ(不図示)に記憶してもよい。
【0067】
発光輝度決定部113cは、目標輝度分布及び推定輝度分布を同一のサブブロックSBごとに比較して、サブブロックSBごとに差分を算出する。発光輝度決定部113cは、当該差分に基づいて例えば複数のLED31の発光輝度値を調整する調整処理を実行する。発光輝度決定部113cは、調整後の複数のLED31の輝度値に基づいて輝度値リストを再作成し、再作成した輝度値リストに基づいて、上述の推定輝度分布と同様の手法によって推定した推定輝度分布を制御部11に設けられたメモリ(不図示)に記憶してもよい。
【0068】
発光輝度決定部113cは、目標輝度分布及び推定輝度分布の差分を用いて複数のLED31の発光輝度を調整するという調整処理を複数回(本実施形態では3回以内)繰り返して得られた輝度を複数のLED31のそれぞれの発光輝度に決定し、不図示のメモリに記憶しても良い。また、発光輝度決定部113cは、当該調整処理を複数回繰り返して得られた発光輝度に基づく輝度分布を推定輝度分布に決定し、不図示のメモリに記憶しても良い。このように、発光輝度決定部113cは、目標輝度分布および推移輝度分布との差分をフィードバックして、推定輝度分布が目標輝度分布に近づくように複数のLED31の発光輝度を決定する。また、発光輝度決定部113cは、全てのサブブロックSBにおいて、目標輝度分布及び推定輝度分布の差分の値が所定の閾値未満となった場合は、予め設定された調整処理の繰り返し回数を実行していなくても調整処理を終了し、現時点での輝度を複数のLED31のそれぞれの発光輝度に決定する。
【0069】
ここで、発光輝度決定部113cは、メモリに記憶されている各代表点における影響度プロファイルEPF(詳細は後述)を読みだして調整に使用する。
【0070】
サブブロックSBの目標輝度分布は、入力画素値IP(n)に基づいて得られる輝度分布であり、目標とする輝度分布である。一方、推定輝度分布は、複数のLED31(すなわちバックライトユニット3)を発光輝度に設定した場合に得られる輝度分布であり、液晶表示パネル51の解像度にアップスケールする前のサブブロックSB毎の推定輝度分布である。このため、目標輝度分布と推定輝度分布との差分は、各サブブロックSBにおける現在の推定輝度が、目標輝度と比べてどの程度暗いか(すなわちバックライトユニット3の輝度が不足しているか)、あるいは目標輝度と比べて明るい(すなわちバックライトユニット3の輝度が過足しているか)を表す。例えば、あるサブブロックSBにおいて、目標輝度と推定輝度との差分が「+100」というのは、『バックライトユニット3の輝度があるサブブロックSBにおいては、「100」足りない』ということを意味する。
【0071】
前述したように、複数のLED31の個別のプロファイルPFの各代表点に対応する輝度値データから、当該所定代表点に対する複数のLED31のそれぞれの影響度の分布が、影響度プロファイルEPFとして得られている。例えば、図9に示すように、所定のサブブロックSBは、番号1〜16のLEDのうちの番号8のLEDの発光輝度の影響を最も強く受ける。目標輝度と推定輝度との差分に基づいて、当該所定のサブブロックSBが例えば明るさを増加させる必要がある場合、影響度の高い番号8のLEDの発光輝度を他の番号のLEDと比較して増加させるとよい。
【0072】
そこで、まず、所定サブブロックSBの階調表現に対する各LEDの影響力分布を、各LEDからの影響力の合計が「1.0」になるように正規化した影響度プロファイルEPFをメモリ15から読み込む。次に、この影響力分布の影響度に、目標輝度と推定輝度との差分(すなわち、所望の明るさ(例えば「+100」)を乗算する。乗算して得られる結果は、目標輝度と推定輝度との差分を減少(例えば差分を0)させるための値(すなわち当該所定サブブロックSBを所望の明るさにするために必要な各LEDのどの程度増減するべきかという値)に変換できる。このように、発光輝度決定部113cは、調整処理において、目標輝度の目標輝度分布と推定輝度の推定輝度分布との差分と、各発光素子31が与える影響度を加味して発光輝度を調整し、調整された発光輝度に基づく推定輝度分布と目標輝度分布との差分を求めるように構成されている。目標輝度と推定輝度との差分に基づく調整処理は、全てのサブブロックに対して実行される。この場合、サブブロック単位で当該調整処理を実行するが、全ての画素にアップスケーリングしてもよいし、全ての画素に対して1つずつ調整処理を実行してもよい。
【0073】
全てのサブブロックSBに対して、差分を算出し、差分を減少させるために必要な、各LEDの発光輝度の増減調整量を算出し、合算することで、各LEDに対して、調整後の発光輝度が算出される。合算時には、正規化された差分に、所定の係数を乗算して、発光輝度を算出する。ここで、初期に決定した発光輝度に対して、調整した発光輝度が決定される。
【0074】
複数のLED31のそれぞれを調整した後の発光輝度で再び推定輝度分布を作成して、目標輝度分布との差分を算出する。調整前の発光輝度で複数のLED31が互いに影響し合う状態と、調整後の発光輝度で複数のLED31が互いに影響し合う状態とは異なる。このため、目標輝度分布と推定輝度分布との差分が0に近づくように複数のLED31のそれぞれの発光輝度を調整しているものの、調整後の発光輝度に基づく推定輝度分布と、目標輝度分布との差分は、全ての画素において0になるとは限られない。調整前後の目標輝度分布と推定輝度分布との差分が小さくなる画素もあれば、当該差分が大きくなる画素も存在する可能性がある。このため、発光輝度決定部113cは、再び同様の調整処理を実行し、複数のLED31のそれぞれの発光輝度を再調整し、再調整後の当該発光輝度に基づいて目標輝度分布と推定輝度分布との差分を再算出する。詳細は後述するが、目標輝度分布と推定輝度分布との差分が発散しないように、発光輝度決定部113cは、調整処理を繰り返す際に、発散防止用の更新率を更新するように構成されている。調整処理において、(処理1)全てのサブブロックSBから全部のLED31のそれぞれをどの程度増減させるべきか、という情報を抽出して、(処理2)抽出した情報をまとめ(LED31のそれぞれについて増減情報の総和を取る。また、必要に応じて係数を乗算する)、(処理3)LED31のそれぞれの発光輝度を更新する、という処理1から処理3までが1回のループとなる。このように、画像処理システム10は、目標輝度分布と推定輝度分布との差分を用いて調整するループ手法により、最初の発光輝度を当該差分で更新し、推定輝度分布を再計算して目標輝度分布との差分を減少させて最終的な発光輝度を決定するように構成されている。
【0075】
目標輝度分布と推定輝度分布との差分に基づくLEDの発光輝度の調整処理のループ手法は、現在注目しているサブブロックSBの推定輝度値を目標輝度値に近づけるためには、複数のLEDのそれぞれをどの程度増減させるべきか、という情報が得られる。
【0076】
(デューティ値変換部)
図2に戻って、デューティ値変換部113bは、発光輝度決定部113c、LED駆動回路35(図1参照)及びメモリ15に接続されている。これにより、デューティ値変換部113bには、発光輝度決定部113cで決定された複数のLED31のそれぞれの最終的に決定された発光輝度の情報が入力される。また、デューティ値変換部113bは、メモリ15に記憶されたLEDの輝度にデューティ値が対応付けられたルックアップテーブルLUT1を読み出すこともできるがこの限りではなく、演算結果等を用いてもよい。また、LED駆動回路35には、デューティ値変換部113bで変換されたデューティ値の情報を含む制御信号Sdyが入力される。
【0077】
ここで、デューティ値変換部113bが、LED31の発光輝度をLED駆動回路35が制御される制御信号Sdyに変換する処理について説明する。LED駆動回路35に入力されるデューティ値(例えば13ビット)に対し、当該デューティ値に基づいて駆動されたLEDの輝度[nit]は、ほぼ線形の関係にある。このため、LED駆動回路35に入力されるデューティ値と、当該デューティ値に基づいて駆動されたLEDの輝度[nit]との関係を示す測定結果を基に、ビット幅を調整してデューティ値変換部113bは、LEDの輝度にデューティ値が対応付けられたルックアップテーブルLUT1を作成してもよい。制御部11は、作成したルックアップテーブルLUT1を例えばメモリ15に記憶してもよい。
【0078】
ここで、目標輝度決定部113aにおける目標輝度の決定から当該目標輝度に基づくLED31の発光までの流れを簡単に説明する。目標輝度決定部113aは例えば、目標輝度を決定すると、決定した目標輝度の値及び発光対象のLED31の発光輝度の初回情報を発光輝度決定部113cに出力する。発光輝度決定部113cは、目標輝度の値が入力されると、上述の調整処理を繰り返してLED31のそれぞれの発光輝度を決定する。発光輝度決定部113cは、最終的に決定した発光輝度の値と発光対象のLED31の情報とを対応付けてデューティ値変換部113bに出力する。デューティ値変換部113bは、入力された発光輝度の値をデューティ値に変換し、変換したデューティ値と当該発光輝度に対応付けられた発光対象のLED31の情報を含む制御信号SdyをLED駆動回路35に出力する。LED駆動回路35は、制御信号Sdyに含まれていたデューティ値に基づく強度で発光対象のLED31を駆動する。これにより、発光対象のLED31が発光輝度で発光する。
【0079】
<ポストプロセス部>
次に、ポストプロセス部115の構成について図1及び図2を参照しつつ図5図12から図14を用いて説明する。
【0080】
図2に示すように、画像処理装置1の制御部11の機能ブロックであるポストプロセス部115は、プリプロセス部111の座標検出部111aで入力画素値IP(n)の座標と入力画素値IP(n)の情報を抽出したあと、発光輝度決定部113cで決定された発光輝度に基づく推定輝度分布に基づいて入力画素値IP(n)に乗算されうるゲインを算出するゲイン算出部115aを備えている。ポストプロセス部115は、入力画素値IP(n)に乗算されるゲインを調整するゲインリミット(ゲイン調整係数の一例)を算出するゲイン調整係数算出部(係数算出部の一例)115cを備えている。また、ポストプロセス部115は、ゲイン算出部115aで選択された補正ゲインを入力画素値IP(n)に乗算して得た拡張画素値EP(n)(詳細は後述)を液晶表示装置5に出力するゲイン乗算部115bを備えている。
【0081】
ゲイン算出部115aは、発光輝度決定部113cに接続されている。これにより、ゲイン算出部115aには、発光輝度決定部113cから出力された推定輝度分布の情報が入力される。ゲイン算出部115aに入力される推定輝度分布は、発光輝度決定部113cにおいて最終的に決定された発光輝度に基づく輝度分布である。
【0082】
ゲイン算出部115aは、ゲイン調整係数算出部115c及びゲイン乗算部115bに接続されている。ゲイン算出部115aは、発光輝度決定部113cから入力されるバックライトユニット3の輝度分布に基づいて算出するゲインと、ゲイン調整係数算出部115cから入力されるゲインリミットとを比較し、ゲインリミットの値の方が算出したゲインの値よりも小さい場合にゲインリミットを補正ゲインとして選択するように構成されている。ゲイン算出部115aは、選択した補正ゲインの情報をゲイン乗算部115bに出力する。
【0083】
ゲイン調整係数算出部115cは、プリプロセス部111の座標検出部111a、ゲイン算出部115a及びメモリ15に接続されている。ゲイン調整係数算出部115cは、例えばメモリ15に記憶されたルックアップテーブルLUT2(不図示)を読み出すように構成されている。
【0084】
前述したように、図5に示すように、本実施形態では、最終的な輝度(補正後の輝度)は、元の輝度よりも高くなるように補正される。つまり、最終的な輝度が、本来必要なバックライトユニット3の輝度よりも明るくなるように補正されている。ゲイン調整係数算出部115cは、入力画素値IP(n)の補正後の輝度の逆数をゲインリミットとして算出するように構成されている。このため、ゲインリミットは、入力画素値IP(n)の輝度の逆数よりも小さい値になる。このように、ゲイン乗算部115bにおいて入力画素値IP(n)に乗算されるゲインが小さくなることにより、当該ゲインが乗算されて得られる拡張画素値EP(n)は、発光輝度に基づくゲインから得られる値よりも小さくなる。これにより、当該拡張画素値EP(n)に基づく画像が飽和(すなわち破綻)することを極力避けることができる。
【0085】
図5に示すように、サブエリアLSB11(図3参照)の入力画素値IP(n)輝度が例えば0.75と入力された場合、サブエリアLSB11の補正後の輝度は0.83となる。このため、ゲイン調整係数算出部115cは、サブエリアLSB11の輝度に対応するゲインリミットを逆数の1.2(=1/0.83)と算出する。
【0086】
図5に示すように、補正後の輝度は、元の輝度に対して単調増加の特性を有している。このため、ゲイン調整係数算出部115cが算出するゲインリミットの値を採用して拡張画素値EP(n)を算出した場合、拡張画素値EP(n)に入力画素値IP(n)の階調差を残すことができる。
【0087】
ゲイン乗算部115bは、プリプロセス部111の座標検出部111a及びゲイン算出部115aに接続されている。これにより、ゲイン乗算部115bには、外部装置から出力された入力画素値IP(n)及び当該入力画素値IP(n)の座標情報と、ゲイン算出部115aから算出された補正ゲインの情報とが入力される。ゲイン乗算部115bは、入力画素値IP(n)に補正ゲインを乗算して拡張画素値EP(n)を算出するように構成されている。
【0088】
ゲイン乗算部115bは、LCD駆動回路53(図1参照)に接続されている。これにより、ゲイン乗算部115bで算出された拡張画素値EP(n)の情報をLCD駆動回路53に出力するように構成されている。LCD駆動回路53は、入力される拡張画素値EP(n)に基づく画像を液晶表示パネル51の表示領域511に表示させることができる。但し、画像処理システム10は、LCD駆動回路53によって表示領域511に表示された画像そのものを画像処理システム10の使用者に視認させない。画像処理システム10は、LCD駆動回路53によって表示領域511に表示された画像とバックライトユニット3の光出射面の側(例えば表示領域511)に生じる輝度分布とを合成した画像を画像処理システム10の使用者に視認させる。
【0089】
次に、ポストプロセス部115の各構成要素の詳細について図1及び図2を参照しつつ図12及び図13を用いて説明する。図12及び図13は、ポストプロセス部115における処理を模式的に示す図である。図12は、ゲイン算出部115aが実行する処理までを模式的に示し、図13は、ゲイン乗算部115bの処理を模式的に示している。図12中の上段には左から、入力画素値IP(n)、ゲイン調整係数算出部115cで算出されたゲインリミット及びゲイン算出部115aで算出されたゲインが模式的に図示されている。図12中の下段には左から、入力画素値IP(n−1)、バックライトユニット3に設けられたLED31の各サブエリアLSBの発光輝度及び発光輝度決定部113cで算出した各サブブロックSBのバックライトユニット3の輝度分布が模式的に図示されている。図12及び図13に示す例では、コアプロセス部113の演算が、1フレーム分遅延してゲイン算出部に出力される事例で説明する。コアプロセス部113で、1フレーム分の入力画素値を記憶してもよいし、輝度分布推定結果を1フレーム分記憶してもよい。本実施形態では、フレーム間の画像で、階調値が変化する場合で説明するためのものであって、同じフレームの演算結果を用いてもよい。
【0090】
図13中の上段には左から、入力画素値IP(n)、ゲイン算出部115aで選択された補正ゲイン及びゲイン乗算部115bで算出された拡張画素値EP(n)が模式的に図示されている。図13中の下段には左から、バックライトユニット3の輝度分布及び表示画像の画素値DP(n)が模式的に図示されている。なお、図13では、理解を容易にするため、図12に示す入力画素値IP(n)及びバックライトユニット3の輝度分布が図示されている。
【0091】
図12及び図13では、理解を容易にするため、入力画素値IP(n−1),IP(n)は、2行2列のLEDのサブエリアLSBに分割され、各LEDのサブエリアLSBが、2行2列のサブブロックSBに分割された液晶表示パネル51の表示領域511に対応する形式で図示されている。入力画素値IP(n−1),IP(n)のそれぞれの1つの画素値群IPsbが1つのサブブロックSBに対応する。図12及び図13では、画素値群IPsbを構成する複数の画素Pの画素値は、例えば互いに同一の値とする。また、図12及び図13では、入力画素値、拡張画素値及びバックライトユニット3を構成する複数のLED31及び表示画像の画素値と階調値がそれぞれ、0.0から1.0で正規化して表されている。このため、本例では、正規化された入力画素値と、正規化された目標輝度とは同じ値となる。また、図12及び図13では、画素値や階調値は、画素値群IPsbやLED31を表す四角枠の中に図示されている。図12では、4行4列のそれぞれの画素値群IPsbに対応する4行4列のゲインリミット及びゲインのそれぞれの数値が四角枠の中に図示されている。また、図13では、4行4列のそれぞれの画素値群IPsbに対応する4行4列の補正ゲインのそれぞれの数値が四角枠の中に図示されている。
【0092】
図12中の下段の左から2番目に示すLED31の発光輝度は、画像処理装置1のコアプロセス部113に設けられた発光輝度決定部113c(図2参照)が上述の処理を実行することによって決定する。また、図12中の下段の左から3番目に示すバックライトユニット3の推定輝度分布は、画像処理装置1のコアプロセス部113に設けられた発光輝度決定部113c(図2参照)が上述の調整処理を繰り返し実行することによって推定する。バックライトユニット3の推定輝度分布は、例えばバックライトユニット3の光出射面の側(例えば表示領域511(図1参照))に生じると推定される輝度分布である。
【0093】
図12中の上段の左から3番目に示すゲインは、画像処理装置1のポストプロセス部115に設けられたゲイン算出部115a(図2参照)が算出する。ゲイン算出部115aは、バックライトユニット3の推定輝度分布を数値化した数値の逆数を算出してゲインを生成する。例えば、1行1列目のゲインは、バックライトユニット3の推定輝度分布の1行1列目の輝度値「0.5」の逆数「2.0」である。また例えば、4行4列目のゲインは、バックライトユニット3の推定輝度分布の4行4列目の輝度値「1.0」の逆数「1.0」である。
【0094】
図12中の上段の左から2番目に示すゲインリミットは、画像処理装置1のポストプロセス部115に設けられたゲイン調整係数算出部115c(図2参照)が算出する。ゲイン調整係数算出部115cは、例えばメモリ15(図1参照)から読み出したルックアップテーブルLUT2を参照し、プリプロセス部111から入力された入力画素値IP(n)を補正した輝度の逆数からゲインリミットを算出する。例えば、1行1列目の画素値群IPsbの画素値は「0.7」であるため、ゲイン調整係数算出部115cは、ルックアップテーブルLUT2を参照し、例えば目標輝度の数値「0.7」を補正し、補正後の輝度「0.8」の逆数である「1.25」をゲインリミットとして算出する。また例えば、2行2列目の画素値群IPsbの画素値は「0.6」であるため、ゲイン調整係数算出部115cは、ルックアップテーブルLUT2を参照し、例えば目標輝度の数値「0.6」を補正し、補正後の輝度「0.7」の逆数である「1.428」をゲインリミットとして算出する。
【0095】
ゲイン算出部115aは、i行j列(i=1,2,3,4、j=1,2,3,4)目のゲインリミットと、i行j列(i=1,2,3,4、j=1,2,3,4)目のゲインとを比較し、数値の小さい方をi行j列目の補正ゲインとして選択する。図12に示すように、ゲイン算出部115aは例えば、1行1列目のゲインリミット(数値は1.25)と、1行1列目のゲイン(数値は2.0)とを比較し、図13中の上段の左から2番目に示すように、数値が小さい方のゲインリミットを1行1列目の補正ゲインとして選択する。また例えば、図12に示すように、ゲイン算出部115aは、4行4列目のゲインリミット(数値は1.071)と、4行4列目のゲイン(数値は1.0)とを比較し、図13中の上段の左から2番目に示すように、数値が小さい方のゲインを4行4列目の補正ゲインとして選択する。ゲイン算出部115aは、ゲインリミットの値とゲインの値とが同じ場合は、ゲインリミット及びゲインのいずれか一方の値を補正ゲインとして選択する。
【0096】
図13中の上段の右側に示す拡張画素値EP(n)は、ゲイン乗算部115bが生成する。ゲイン乗算部115bは、入力画素値IP(n)に補正ゲインを乗算して拡張画素値EP(n)を生成する。例えば、1行1列目の画素値群IPsb「0.7」に1行1列目の補正ゲイン「1.25」を乗算することによって、1行1列目の拡張画素値EP(n)「0.875」(=0.7×1.25)が生成される。また例えば、4行4列目の画素値群IPsb「0.9」に4行4列目の補正ゲイン「1.0」を乗算することによって、4行4列目の拡張画素値EP(n)「0.9」(=0.9×1.0)が生成される。
【0097】
図13中の下段の右に示す表示画像の画素値DP(n)は、表示領域511に表示される画素値である。ゲイン乗算部115bは、拡張画素値EP(n)をLCD駆動回路53に出力する。例えば、表示領域511に表示される画像は、1行1列目の拡張画素値EP(n)「0.875」が表示領域に表示され、バックライトユニット3には1行1列目の輝度分布「0.5」が出力されることによって、1行1列目の表示画像の画素値DP(n)「0.438」(=0.875×0.5)が表示される。また例えば、4行4列目の拡張画素値EP(n)「0.9」に4行4列目の推定輝度分布「1.0」が表示領域511において合成されることによって、4行4列目の表示画像の画素値DP(n)「0.9」(=0.9×1.0)が表示される。
【0098】
図13に示すように、入力画素値IP(n)及び表示画像の画素値DP(n)は、完全に一致しない。しかしながら、本実施形態に係る画像処理システムは、ゲインリミットを用いない場合に失われてしまう入力画素値IP(n)の画素値の階調差を表示画像の画素値DP(n)に残すことができる。
【0099】
図14は、入力画素値IP(n−1),IP(n)、LEDの発光輝度及びバックライトユニット3の輝度分布を図12及び図13に示す例と同じ条件とし、かつゲインリミットを用いない場合のポストプロセス部の処理の一例を模式的に示す図である。図14中の上段には左から、入力画素値IP(n)、ゲイン算出部115aで算出されたゲイン及びゲイン乗算部115bで算出された拡張画素値が模式的に図示されている。図14中の下段には左から、バックライトユニット3の推定輝度分布及び表示画像の画素値DP(n)が模式的に図示されている。なお、図14では、入力画素値IP(n)及びバックライトユニット3に設けられたLED31の目標輝度は、図12に示す入力画素値IP(n−1)及びバックライトユニット3に設けられたLED31の目標輝度と同じであるため、図示が省略されている。また、図14では、図12及び図13と同様の方法によって画素値やゲインの値が図示されている。
【0100】
図14中の上段に示すように、入力画素値IP(n)にゲインを乗算して得られる拡張画素値EP(n)は、3行3列目、3行4列目、4行3列目及び4行4列目を除いて、1.0よりも大きい数値となっている。本例では、表示領域511で表示可能な階調値の最大値は1.0であるため、図14中の上段の最も右側に示すように、1.0よりも大きい数値の拡張画素値EP(n)は、1.0に再設定された後に、LCD駆動回路53に出力する。その結果、3行3列目、3行4列目、4行3列目及び4行4列目以外の表示画像の画素値DP(n)は、全て0.5となり、3行3列目、3行4列目、4行3列目及び4行4列目以外の入力画素値IP(n)での階調差が失われてしまう。
【0101】
これに対し、ゲインリミットを用いた場合には、図13に示すように、3行3列目、3行4列目、4行3列目及び4行4列目以外の表示画像の画素値DP(n)には、3行3列目、3行4列目、4行3列目及び4行4列目以外の入力画素値IP(n)の階調差と相対的に同じ階調差が表れている。このように、本実施形態に係る画像処理システム10は、ゲインリミットを用いることにより、入力画素値IP(n)における階調差が反映された出力画像の画素値DP(n)を生成することができる。
【0102】
[画像処理方法]
次に、本実施形態に係る画像処理方法について図1及び図2を参照しつつ図15及び図16を用いて説明する。図15は、本実施形態に係る画像処理方法としての画像調整処理の流れの一例を示すフローチャートである。図16は、画像調整処理におけるLEDの発光輝度を決定する処理(ステップS5)の流れの一例を示すフローチャートである。
【0103】
(ステップS1)
図15に示すように、画像処理装置1の制御部11(図2参照)は、画像調整処理を開始するとまず、液晶表示装置5(図1参照)に設けられた液晶表示パネル51(図1参照)の表示領域511を構成する複数の画素に表示される画像の画素値である入力画素値IP(n)の座標を検出し、ステップS3の処理に移行する。ステップS1において制御部11は、座標検出部111aにおいて入力画素値IP(n)の座標を検出する。
【0104】
(ステップS3)
制御部11は、入力画素値IP(n)に基づいて、前述した方法で、各サブブロックSBの目標輝度を算出し液晶表示装置5の光源として用いられる複数のLED31の発光輝度を決定し、ステップS5の処理に移行する。ステップS3において制御部11は目標輝度決定部113a(図2参照)において、表示領域511を分割したサブブロックSBを構成する複数の画素の入力画素値IP(n)に基づいて、各サブブロックSBの目標輝度と、複数のLED31のそれぞれの発光輝度を決定する。
【0105】
(ステップS5)
制御部11は、目標輝度決定部113aにおいて決定された発光輝度で複数のLED31がそれぞれ発光した場合にバックライトユニット3の光出射面の側に生じると推定される推定輝度分布と、各サブブロックSBの目標輝度分布との差分を用いて、複数のLED31の発光輝度を調整する調整処理を所定回数(本実施形態では3回)繰り返して複数のLED31のそれぞれの発光輝度を決定する。制御部11は、複数のLED31のそれぞれの発光輝度を発光輝度決定部113cにおいて調整後に決定すると、ステップS7に処理を移行する。ステップS5において実行される処理の詳細は後述する。
【0106】
(ステップS7)
制御部11は、発光輝度決定部113cからデューティ値変換部113b(図2参照)に入力される、複数のLED31のそれぞれの発光輝度の情報に基づいて、LED駆動回路35(図1参照)を制御する制御信号Sdyをデューティ値変換部113bにおいて生成し、ステップS9の処理に移行する。
【0107】
(ステップS9)
制御部11は、プリプロセス部111から入力される入力画素値IP(n)と、メモリ15から読み出されたルックアップテーブルLUT2とを用いて、ゲイン調整係数を算出する処理をゲイン調整係数算出部115c(図2参照)において実行し、算出されたゲインリミットをゲイン算出部115aに出力させ、ステップS11に処理を移行する。
【0108】
(ステップS11)
制御部11は、入力画素値IP(n)に乗算されうるゲインを発光輝度決定部113cにおいて決定された推定輝度分布に基づいて、ゲイン算出部115aにおいて算出する。また、制御部11は、算出したゲインとゲイン調整係数算出部115cから入力されるゲインリミットを、ゲイン算出部115aにおいて比較して値の小さい方を補正ゲインとして選択する。さらに、制御部11は、ゲイン算出部115aにおいて選択した補正ゲインをゲイン乗算部115bに出力して、ステップS13に処理を移行する。
【0109】
(ステップS13)
制御部11は、ゲイン算出部115aから入力されたゲイン(すなわち補正ゲイン)を入力画素値IP(n)に乗算して拡張画素値EP(n)を算出し、得られた拡張画素値EP(n)を液晶表示装置5に出力して、画像調整処理を終了する。ステップS13において制御部11は、ゲイン乗算部115b(図2参照)において拡張画素値EP(n)を算出する。
【0110】
図15に示す画像調整処理は、1フレームごとに繰り返し実行される。これにより、表示領域511には、フレームごとにリアルタイムで、拡張画素値EP(n)に基づく画像と、バックライトユニット3による輝度分布とが合成された画像が表示される。
【0111】
次に、画像調整処理におけるステップS5のLEDの発光輝度を調整する処理(以下、「LED発光輝度調整処理」と称する)の流れの一例について説明する。
【0112】
(ステップS5−1)
図16に示すように、制御部11は、LED発光輝度調整処理を開始するとまず、各係数を設定し、ステップS5−3の処理に移行する。ステップS5−1において、制御部11は、更新率ε、目標輝度分布および推定輝度分布との差分に乗算する係数α及び係数βの初期値(一例として、ε=1、α=2.0及びβ=0.5)を設定する。
【0113】
(ステップS5−3)
制御部11は、初回は、目標輝度決定部113aで決定された各LEDの発光輝度を算出し、ステップS5−5の処理に移行する。ステップS5−3において、LED発光輝度調整処理の開始時点では、各サブブロックSBの目標輝度から算出された、各LED31の発光輝度が設定される。また、ステップS5−3において、後述する調整処理によってLED31の発光輝度が調整された場合には、LED31の調整後の発光輝度が設定される。
【0114】
(ステップS5−5)
制御部11は、ステップS5−3において算出された発光輝度で輝度分布を推定し、ステップS5−7の処理に移行する。すなわち、制御部11は、全てのLED31が設定された発光輝度で点灯している場合の各サブブロックSBの輝度分布を推定する。
【0115】
(ステップS5−7)
制御部11は、目標輝度決定部113aで算出した目標輝度分布と、発光輝度決定部113cにおいて作成した推定輝度分布との差分を算出し、ステップS5−9に処理を移行する。制御部11は、ステップS5−7では、例えば全てのサブブロックSBのそれぞれについて目標輝度分布から推定輝度分布を減算して当該差分を算出する。
【0116】
(ステップS5−9)
制御部11は、全てのLED31の発光輝度を調整する調整処理の終了条件(ループ終了条件)が成立しているか否かを判定する。制御部11は、当該終了条件が成立していると判定した場合(YES)、LED発光輝度調整処理を終了する。一方、制御部11は、当該終了条件が成立していないと判定した場合(NO)、ステップS5−11の処理に移行する。LED31の発光輝度の調整処理の終了条件は、例えば当該調整処理が所定回数(本実施形態では3回)繰り返されたこと、又は目標輝度分布と推定輝度分布との差分が全ての代表点において閾値未満になったことである。
【0117】
(ステップS5−11)
制御部11は、更新率εを変更し、ステップS5−13の処理に移行する。更新率εは、目標輝度分布と推定輝度分布との差分が発散することを防止するための係数である。更新率εは、例えばメモリ15に記憶されており、制御部11は、ステップS5−11において、メモリ15から更新率εを読み出し、現在の更新率εを例えば0.9倍して、メモリ15に記憶し直す(ε←ε×0.9)ことで、発光輝度の調整量を減少させる。
【0118】
(ステップS5−13)
制御部11は、輝度分布を構成する全てのサブブロックSBでの処理(すなわち、目標輝度分布と推定輝度分布との差分を算出)が終了したか否かを判定する。例えば不図示のメモリに全てのサブブロックSBでの処理が終了したことを示す情報が設定されている場合には、制御部11は、全てのサブブロックSBでの当該処理が終了したと判定し(YES)、ステップS5−3の処理に戻る。一方、例えば不図示のメモリに全てのサブブロックSBでの処理が終了したことを示す情報が設定されていない場合には、制御部11は、全ての代表点での当該処理が終了していないと判定し(NO)、ステップS5−15の処理に移行する。
【0119】
(ステップS5−15)
制御部11は、N個目のサブブロックSBでの目標輝度分布と推定輝度分布との差分の値(以下、「分布差分値」と称する場合がある)に係数α又は係数βを乗算し、ステップS5−17の処理に移行する。制御部11は、現在処理中のN個目のサブブロックSBに関し、輝度を高くする(明るくする)ことを重視するか、輝度を低くする(暗くする)ことを重視するかを係数α,βによって選択する。制御部11は、現在処理中のN個目のサブブロックSBでの分布差分値が正の値である場合には、分布差分値に係数αを乗算する。一方、制御部11は、現在処理中のN個目の代表点での分布差分値が負の値である場合には、分布差分値に係数βを乗算する。
【0120】
(ステップS5−17)
制御部11は、現在処理中のN個目のサブブロックSBでの分布差分値に更新率εを乗算して、ステップS5−19の処理に移行する。制御部11は、例えばメモリ15に記憶されている更新率εの値を読み出して、読み出した更新率εを現在処理中のN個目のサブブロックSBでの分布差分値に乗算する。
【0121】
(ステップS5−19)
制御部11は、各LED輝度の値の増減処理を実行し、ステップS5−13の処理に戻る。より具体的には、制御部11は、現在処理中のN個目のサブブロックSBに対する影響度プロファイルEPFを用いて(図9参照)、現在処理中のN個目のサブブロックSBでの分布差分値を乗算する。これにより、全てのLED31のそれぞれの発光輝度の値が増減される。また、制御部11は、未処理の代表点が存在する場合には処理対象の代表点を変更した後にステップS5−13の処理に戻る。一方、制御部11は、未処理の代表点が存在しない場合には全ての代表点での処理が終了したことを示す情報を例えば不図示のメモリに設定した後にステップS5−13の処理に戻る。
【0122】
以上説明したように、本実施形態に係る画像処理システム10は、複数のLED31及び複数のLED31を駆動するLED駆動回路35を有するバックライトユニット3と、複数の発光素子LED31を光源とし液晶表示パネル51を有する液晶表示装置5とを備えている。また、画像処理システム10は、液晶表示パネル51の表示領域511を構成する複数の画素Pに表示される画像の画素値の目標値である入力画素値IP(n)に基づいて、各サブブロックSBに目標輝度値を算出し、目標輝度値を元に、複数のLED31のそれぞれの発光輝度を決定する目標輝度決定部113a、目標輝度決定部113aで決定された発光輝度で複数のLED31がそれぞれ発光した場合にバックライトユニット3の光出射面の側に生じると推定される推定輝度分布と、入力画素値IP(n)に基づいて算出した目標輝度値との差分を用いて、複数のLED31の発光輝度を調整する調整処理を所定回数繰り返して複数のLED31のそれぞれの発光輝度を決定する発光輝度決定部113c、発光輝度決定部113cで決定された発光輝度に基づいてLED駆動回路35を制御する制御信号Sdyを生成するデューティ値変換部113b、発光輝度決定部113cで決定された発光輝度に基づく推定輝度分布に基づいて入力画素値IP(n)に乗算されうるゲインを算出するゲイン算出部115a、及び、ゲイン算出部115aで選択され入力された補正ゲインを入力画素値IP(n)に乗算して得た拡張画素値EP(n)を液晶表示装置5に出力するゲイン乗算部115bを有する画像処理装置1を備えている。当該構成を備えた画像処理システム10は、ローカルディミング制御での画像再現性の向上を図ることができる。
【0123】
さらに、本実施形態に係る画像処理システム10に備えられた画像処理装置1は、入力画素値IP(n)から、ゲインを調整するゲインリミットを算出するゲイン調整係数算出部115cを有している。当該構成を備えた画像処理システム10は、入力画素値IP(n)における階調差が反映された表示画像の拡張画素値EP(n)を生成することができる。
【0124】
〔第2実施形態〕
本発明の第2実施形態に係る画像処理システムについて図17を用いて説明する。本実施形態に係る画像処理システムは、制御部の構成が上記第1実施形態に係る画像処理システムと異なる点を除いて、同様の構成を有している。このため、本実施形態に係る画像処理システムについて、上記第1実施形態に係る画像処理システムに設けられた制御部と異なる点を中心に簡単に説明する。
【0125】
上記第1実施形態では、画像処理装置1の制御部11に設けられたゲイン調整係数算出部115cは、入力画素値IP(n)を元に、ルックアップテーブルLUT2を用いて輝度の補正を行って、各サブブロックSBのゲインリミットを決定するように構成されている。これに対し、本実施形態における画像処理装置の制御部11に設けられたゲイン調整係数算出部115dは、図17に示すように、目標輝度決定部113aに接続されている。これにより、ゲイン調整係数算出部115dは、目標輝度決定部113aで、ルックアップテーブルLUT2を用いて輝度の補正を行って、算出された目標輝度分布を元に、各サブブロックSBのゲインリミットを決定するように構成されている。具体的には、ゲイン調整係数算出部115dは、目標輝度決定部113aで算出された目標輝度を用いて各サブブロックSBのゲインリミットを決定するように構成されている。このように、ゲイン調整係数算出部115dは、画像処理装置に設けられ、目標輝度決定部113aで決定された目標輝度から、ゲインを調整するゲインリミット(ゲイン調整係数の一例)を算出する係数算出部の一例に相当する。
【0126】
ゲイン算出部115aは、発光輝度決定部113cから入力されるバックライトユニット3の輝度分布に基づいて算出するゲインと、ゲイン調整係数算出部115dから入力されるゲインリミットとを比較し、ゲインリミットの値の方が算出したゲインの値よりも小さい場合にゲインリミットを補正ゲインとして選択するように構成されている。ゲイン算出部115aは、選択した補正ゲインの情報をゲイン乗算部115bに出力する。ゲイン調整係数算出部115dは、目標輝度決定部113aで算出された目標輝度値の逆数をゲインリミットとして算出するように構成されている。このため、ゲイン乗算部115bにおいて入力画素値IP(n)に乗算されるゲインが小さくなることにより、当該ゲインが乗算されて得られる拡張画素値EP(n)は、発光輝度に基づくゲインから得られる値よりも小さくなる。これにより、当該拡張画素値EP(n)に基づく画像が飽和(すなわち破綻)することを極力避けることができる。
また、ルックアップテーブルLUT2を用いた輝度の補正を、目標輝度決定部113aで行うことは必須ではなく、ゲイン調整係数算出部115dで行っても良い。
【0127】
本発明は、上記実施形態に限らず、種々の変形が可能である。
上記実施形態に係る画像処理システム10は、ループ手法を用いて発光輝度を決定するように構成されているが、例えばサブブロックSBの目標輝度のうちの最大値の目標輝度を当該サブブロックSBの初期の発光輝度に決定してもよい。
【0128】
上記実施形態では、直下型のバックライトユニットを例にとって説明したが、例えばサイドライト型のバックライトユニットであっても、同様の効果が得られる。
【0129】
上記実施形態では、面光源装置としてバックライトユニットを例にとって説明したが、例えばフロントライトユニットであっても、同様の効果が得られる。
【0130】
上記実施形態では、バックライトユニットの光出射面の側は、液晶表示パネルの表示領域511と接しているが、当該光出射面の側は、導光部33の光出射面と接していても、同様の効果が得られる。
【0131】
上記実施形態では、LEDの発光輝度及びバックライトユニットの光出射面の側の輝度分布は、表示領域511に表示される画像の画素値と同じフレームの入力画素値IP(n)に基づいて算出されているが、本発明はこれに限られない。例えば、LEDの発光輝度及びバックライトユニットの光出射面の側の輝度分布は、表示領域511に表示される表示画像の画素値を生成するために用いられる入力画素値よりも1フレーム前の入力画素値IP(n−1)に基づいて算出されてもよい。この場合、制御部11は、フレームメモリを有してもよいし、例えば2フレーム(奇数フレーム及び偶数フレーム)の入力画素値を記憶できる容量を有していてもよい。例えば、奇数フレームの入力画素値がフレームメモリに記憶されている時には、フレームメモリに記憶されている偶数フレームの入力画素値を用いて、LEDの発光輝度及びバックライトユニットの輝度分布の算出並びに表示領域への画像表示及びバックライトユニットの駆動処理を実行してもよい。また例えば、偶数フレームの入力画素値がフレームメモリに記憶されている時には、フレームメモリに記憶されている奇数フレームの入力画素値を用いて、LEDの発光輝度及びバックライトユニットの輝度分布の算出並びに表示領域への画像表示及びバックライトユニットの駆動処理を実行してもよい。
【0132】
また、LEDの発光輝度及びバックライトユニットの光出射面の側の輝度分布を決定するために用いられる入力画素値は、液晶表示パネル51に表示される表示画像の画素値を生成するために用いられる入力画素値よりも1フレーム前の複数のフレーム(例えば2フレーム以前)の画素値であってもよい。
【0133】
上記実施形態では、表示装置として液晶表示装置を例にとって説明したが、例えば面光源装置を光源として用いる非自発光型表示装置であれば、同様の効果が得られる。
【0134】
上記各実施形態は、本発明を説明するための例示であり、本発明をこれらの実施形態にのみ限定する趣旨ではない。本発明は、その要旨を逸脱しない限り、さまざまな形態で実施することができる。
【0135】
例えば、本明細書に開示される方法においては、その結果に矛盾が生じない限り、ステップ、動作又は機能を並行して又は異なる順に実施しても良い。説明されたステップ、動作及び機能は、単なる例として提供されており、ステップ、動作及び機能のうちのいくつかは、発明の要旨を逸脱しない範囲で、省略でき、また、互いに結合させることで一つのものとしてもよく、また、他のステップ、動作又は機能を追加してもよい。
【0136】
また、本明細書では、さまざまな実施形態が開示されているが、一の実施形態における特定のフィーチャ(技術的事項)を、適宜改良しながら、他の実施形態に追加し、又は該他の実施形態における特定のフィーチャと置換することができ、そのような形態も本発明の要旨に含まれる。
【産業上の利用可能性】
【0137】
本発明は、画像処理装置、面光源装置を光源とする表示装置の分野に広く利用することができる。
【符号の説明】
【0138】
1…画像処理装置
3…バックライトユニット
5…液晶表示装置
10・・・画像処理システム
11…制御部
15…メモリ
33…導光部
35…LED駆動回路
51…液晶表示パネル
53…LCD駆動回路
111…プリプロセス部
111a…座標検出部
113…コアプロセス部
113a…目標輝度決定部
113b…デューティ値変換部
113c…発光輝度決定部
115…ポストプロセス部
115a…ゲイン算出部
115b…ゲイン乗算部
115c,115d…ゲイン調整係数算出部
511…表示領域
IP…入力画素値
IPsb…画素値群
EP…拡張画素値
P…画素
SB…サブブロック
LSB…サブエリア
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17