IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ジャパンディスプレイの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-19
(45)【発行日】2024-06-27
(54)【発明の名称】表示システム
(51)【国際特許分類】
   G09G 5/37 20060101AFI20240620BHJP
   G09G 5/02 20060101ALI20240620BHJP
   G09G 5/00 20060101ALI20240620BHJP
   G09G 5/391 20060101ALI20240620BHJP
   G09G 3/36 20060101ALI20240620BHJP
   G09G 3/20 20060101ALI20240620BHJP
   G02B 27/02 20060101ALI20240620BHJP
【FI】
G09G5/37 300
G09G5/02 B
G09G5/00 555D
G09G5/391
G09G5/00 520V
G09G3/36
G09G3/20 632F
G09G3/20 633P
G09G3/20 633K
G09G3/20 650C
G02B27/02 Z
【請求項の数】 11
(21)【出願番号】P 2022578149
(86)(22)【出願日】2021-12-20
(86)【国際出願番号】 JP2021047139
(87)【国際公開番号】W WO2022163213
(87)【国際公開日】2022-08-04
【審査請求日】2023-06-07
(31)【優先権主張番号】P 2021014669
(32)【優先日】2021-02-01
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】502356528
【氏名又は名称】株式会社ジャパンディスプレイ
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】渡邉 好浩
【審査官】西田 光宏
(56)【参考文献】
【文献】米国特許出願公開第2019/0156466(US,A1)
【文献】国際公開第2020/170454(WO,A1)
【文献】特開2011-242744(JP,A)
【文献】特開2007-325043(JP,A)
【文献】特開2016-162033(JP,A)
【文献】米国特許出願公開第2018/0322669(US,A1)
【文献】米国特許出願公開第2017/0039911(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 27/02
G06F 3/01
G06F 3/048-3/04895
G06T 1/00-1/40
G06T 3/00-5/50
G06T 11/60-13/80
G06T 17/05
G06T 19/00-19/20
G09F 9/00-9/46
G09G 3/00-3/36
G09G 5/00-5/42
H04N 9/12-9/31
(57)【特許請求の範囲】
【請求項1】
複数の副画素を含み、第1方向、及び、前記第1方向とは異なる第2方向にマトリクス状に配列された画素を有する液晶表示パネルを備える表示装置と、
前記液晶表示パネルの画素構造に応じて、入力画像の画像変形処理を行う制御回路を備える画像生成装置と、
を備え、
前記画像生成装置と前記表示装置とは、有線又は無線通信により接続されており、
前記制御回路は、
前記画像変形処理において、前記液晶表示パネルの全ての前記副画素の画素値を生成し、
前記表示装置は、
前記液晶表示パネルに表示させた画像を拡大するレンズを含み、
前記制御回路は、
前記画像変形処理において、少なくとも前記レンズの収差による幾何学的な像の歪みを補償して、前記入力画像をユーザに視認させる形状に変形させ、
前記入力画像は、前記第1方向及び前記第2方向に仮想的にマトリクス配置された複数のデータ定義点ごとに、前記副画素の色に対応する色データを有し、
前記画像変形処理において、1つ以上の前記データ定義点における前記色データを標本化して、前記副画素ごとの画素値を生成し、
前記画像変形処理によって移動した後のデータ定義点の配置に応じて、前記副画素ごとの画素値を生成し、
前記画像変形処理において、面積平均法を用いて前記副画素ごとの標本化を行う、
表示システム。
【請求項2】
複数の副画素を含み、第1方向、及び、前記第1方向とは異なる第2方向にマトリクス状に配列された画素を有する液晶表示パネルを備える表示装置と、
前記液晶表示パネルの画素構造に応じて、入力画像の画像変形処理を行う制御回路を備える画像生成装置と、
を備え、
前記画像生成装置と前記表示装置とは、有線又は無線通信により接続されており、
前記制御回路は、
前記画像変形処理において、前記液晶表示パネルの全ての前記副画素の画素値を生成し、
前記表示装置は、
前記液晶表示パネルに表示させた画像を拡大するレンズを含み、
前記制御回路は、
前記画像変形処理において、少なくとも前記レンズの収差による幾何学的な像の歪みを補償して、前記入力画像をユーザに視認させる形状に変形させ、
前記入力画像は、前記第1方向及び前記第2方向に仮想的にマトリクス配置された複数のデータ定義点ごとに、前記副画素の色に対応する色データを有し、
前記画像変形処理において、1つ以上の前記データ定義点における前記色データを標本化して、前記副画素ごとの画素値を生成し、
前記画像変形処理によって移動した後のデータ定義点の配置に応じて、前記副画素ごとの画素値を生成し、
前記画像変形処理において、多点平均法を用いて前記副画素ごとの標本化を行う、
表示システム。
【請求項3】
前記多点平均法を用いて前記副画素ごとの標本化を行う際の平面充填図形は、前記第1方向及び前記第2方向とは異なる2方向のベクトルで示される菱形形状を有している、
請求項に記載の表示システム。
【請求項4】
前記画像生成装置は、記憶部を備え、
前記制御回路は、
前記画像変形処理において、前記記憶部に記憶された座標変換テーブルに基づき、前記画素値を算出する、
請求項1又は2に記載の表示システム。
【請求項5】
前記制御回路は、
ポリゴンメッシュを用いて前記座標変換テーブルを生成し、前記記憶部に記憶する、
請求項に記載の表示システム。
【請求項6】
前記制御回路は、
複数の前記副画素の相対的な位置に応じた複数の前記座標変換テーブルを生成する、
請求項に記載の表示システム。
【請求項7】
前記制御回路は、
前記レンズの前記副画素ごとの像倍率に応じた前記座標変換テーブルを生成する、
請求項に記載の表示システム。
【請求項8】
前記座標変換テーブルは、
前記液晶表示パネルの全ての前記副画素に対応した個別のデータを含む、
請求項からの何れか一項に記載の表示システム。
【請求項9】
前記座標変換テーブルは、
1つあるいは複数の前記画素を1つの画素ブロックとして、複数の前記画素ブロックで同一のデータを適用している、
請求項からの何れか一項に記載の表示システム。
【請求項10】
前記画素に含まれる副画素の色数は、前記入力画像に定義された色数よりも少ない、
請求項1からの何れか一項に記載の表示システム。
【請求項11】
前記液晶表示パネルの解像度と前記入力画像の解像度とが異なっている、
請求項1から10の何れか一項に記載の表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示システムに関する。
【背景技術】
【0002】
VR(Virtual Reality:仮想現実)システムは、視点移動に伴って画像の表示を変更することにより、利用者に仮想現実感を生じさせる。このようなVRシステムを実現するための表示装置として、例えば、頭部装着ディスプレイ(ヘッドマウントディスプレイ:Head Mounted Display、以下「HMD」とも称する)を頭部に装着し、身体の動き等に応じた映像を表示する技術が開示されている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2017-44768号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
VRシステムで用いられるHMDでは、接眼レンズで表示映像を拡大するため、表示パネルに表示された画像が歪んで見える。このため、予めレンズによる像歪みを考慮して、元の画像を歪ませて表示パネルに送り、表示パネル側で表示パネルの解像度や画素配列に応じた解像度変換処理や画素値変換処理等の画像変換処理を行うことが一般的に行われている。しかしながら、送られてくる画像よりも表示パネルの解像度が低解像度である場合や、所謂サブピクセルレンダリング処理を行うことが前提の表示パネルでは、実際に表示されるデータ量に比べて送られてくるデータ量が多く、無駄が生じることとなる。
【0005】
本開示は、上記の課題に鑑みてなされたもので、表示パネルの画素配列に応じたデータ量で送受信が可能な表示システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示の一態様に係る表示システムは、複数の副画素を含み、第1方向、及び、前記第1方向とは異なる第2方向にマトリクス状に配列された画素を有する液晶表示パネルを備える表示装置と、前記液晶表示パネルの画素構造に応じて、入力画像の画像変形処理を行う制御回路を備える画像生成装置と、を備え、前記画像生成装置と前記表示装置とは、有線又は無線通信により接続されており、前記制御回路は、前記画像変形処理において、前記液晶表示パネルの全ての前記副画素の画素値を生成する。
【図面の簡単な説明】
【0007】
図1図1は、実施形態に係る表示システムの一例を示す構成図である。
図2図2は、表示パネルとユーザの目との相対関係の一例を示す模式図である。
図3図3は、図1に示す表示システムにおける画像生成装置及び表示装置の各構成の一例を示すブロック図である。
図4図4は、実施形態に係る表示領域を表す回路図である。
図5図5は、実施形態に係る表示パネルの一例を示す模式図である。
図6図6は、実施形態に係る表示パネルの断面を模式的に示す断面図である。
図7図7は、実施形態に係る表示システムにおいて画像変形処理の対象となる画像の形状の一例を示す図である。
図8図8は、実施形態に係る表示システムにおいて画像変形処理を行った画像の形状の一例を示す図である。
図9図9は、実施形態に係る表示システムに入力される画像データの一例を示す図である。
図10図10は、図9に示す各データ定義点の仮想的な位置を示す図である。
図11図11は、実施形態に係る表示システムの表示領域に対応する画像変形処理後の画像の位置関係を示す図である。
図12A図12Aは、画素の代表的な位置に対する各副画素の位置関係を示す図である。
図12B図12Bは、画素の代表的な位置に対する各副画素の位置関係を示す図である。
図13図13は、レンズの光軸からの距離に対する副画素ごとの像倍率の変化量を示すレンズの色収差特性の一例を示す図である。
図14図14は、レンズの光軸から副画素までの距離の大きさを示す図である。
図15図15は、座標変換テーブルの第1例を示す図である。
図16図16は、座標変換テーブルの第2例を示す図である。
図17図17は、実施形態に係る座標変換テーブルの導出処理の第1例を示すフローチャートである。
図18図18は、実施形態に係る座標変換テーブルの導出処理の第2例を示すフローチャートである。
図19図19は、面積平均法を用いて標本化する場合のテクセルと表示パネル上の1画素サイズの平面充填図形に対応したテクスチャ上の平面充填図形との相対位置の第1例を示す図である。
図20図20は、面積平均法を用いて標本化する場合のテクセルと平面充填図形との相対位置の第2例を示す図である。
図21図21は、多点平均法を用いて標本化する場合の平面充填図形のXY座標上の大きさを示すベクトルと中心位置を示す図である。
図22図22は、図21に示すXY座標系上の平面充填図形に対応するuv座標系上の図形を示す図である。
図23A図23Aは、多点平均法を用いて標本化する場合に平面充填図形を4分割した例を示す図である。
図23B図23Bは、多点平均法を用いて標本化する場合に平面充填図形を4分割した例を示す図である。
図23C図23Cは、多点平均法を用いて標本化する場合に平面充填図形を4分割した例を示す図である。
図23D図23Dは、多点平均法を用いて標本化する場合に平面充填図形を4分割した例を示す図である。
図24図24は、多点平均法を用いて標本化する場合に平面充填図形を6分割した例を示す図である。
図25図25は、実施形態に係る画像変形処理の第1例を示すフローチャートである。
図26図26は、実施形態に係る画像変形処理の第2例を示すフローチャートである。
図27図27は、実施形態に係る表示パネルの画素配列の第1例を示す図である。
図28図28は、図27に示す画素配列における画素構成の第1例を示す図である。
図29図29は、図28に示す画素構成における画素データの定義を説明するための概念図である。
図30図30は、図28に示す画素構成における副画素ごとの4つの係数値を示す図である。
図31図31は、図28に示す画素構成において多点平均法を用いた標本化手法に適用する平面充填図形の一例を示す図である。
図32図32は、図31に示す平面充填図形のXY座標上の大きさ及び向きを示すベクトルを示す図である。
図33図33は、図28に示す画素配列において多点平均法を用いた標本化手法に適用する平面充填図形のベクトルの一例を示す図である。
図34図34は、実施形態に係る表示パネルの画素構成の第2例を示す図である。
図35図35は、図34に示す画素構成における副画素ごとの4つの係数値を示す図である。
図36A図36Aは、画素データの送信フォーマットの図28とは異なる例を示す概念図である。
図36B図36Bは、画素データの送信フォーマットの図28とは異なる例を示す概念図である。
図37A図37Aは、座標変換テーブルの変形例を示す概念図である。
図37B図37Bは、座標変換テーブルの変形例を示す概念図である。
図38図38は、実施形態に係る表示パネルの画素配列の第2例を示す図である。
図39図39は、図38に示すRGBストライプ配列の画素構成における副画素ごとの4つの係数値を示す図である。
【発明を実施するための形態】
【0008】
本開示を実施するための形態(実施形態)につき、図面を参照しつつ詳細に説明する。なお、以下の実施形態に記載した内容により本開示が限定されるものではない。また、以下に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものが含まれる。さらに、以下に記載した構成要素は適宜組み合わせることが可能である。また、開示はあくまで一例にすぎず、当業者において、開示の主旨を保っての適宜変更について容易に想到し得るものについては、当然に本開示の範囲に含有されるものである。また、図面は説明をより明確にするため、実際の態様に比べ、各部の幅、厚さ、形状等について模式的に表される場合があるが、あくまで一例であって、本開示の解釈を限定するものではない。また、本明細書と各図において、既出の図に関して前述したものと同様の要素には、同一の符号を付して、詳細な説明を適宜省略することがある。
【0009】
図1は、実施形態に係る表示システムの一例を示す構成図である。図2は、表示パネルとユーザの目との相対関係の一例を示す模式図である。
【0010】
本実施形態において、表示システム1は、ユーザの動きに伴って表示を変更する表示システムである。例えば、表示システム1は、仮想空間上の3次元のオブジェクト等を示すVR(Virtual Reality)画像を立体表示し、ユーザの頭部の向き(位置)に伴って立体表示を変更することにより、ユーザに仮想現実感を生じさせるVRシステムである。
【0011】
図1に示すように、表示システム1は、例えば、表示装置100と、画像生成装置200と、を有する。表示装置100と画像生成装置200とは、例えばケーブル300により有線接続される。ケーブル300は、例えば、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)等のケーブルを含む。表示装置100と画像生成装置200とは、無線通信により接続される構成としても良い。
【0012】
本開示において、表示装置100は、例えば、装着部材400に固定されてユーザの頭部に装着される頭部装着型の表示装置として用いられる。表示装置100は、画像生成装置2により生成された画像を表示するための表示パネル110を備える。以下、装着部材400に表示装置100が固定された態様を「HMD(Head Mounted Display)」とも称する。
【0013】
本開示において、画像生成装置200は、例えば、パーソナルコンピュータ、ゲーム機器等の電子機器が例示される。画像生成装置200は、ユーザの頭部の位置や姿勢に応じたVR画像を生成して表示装置100に出力する。なお、画像生成装置200により生成される画像はVR画像に限るものではない。
【0014】
表示装置100は、ユーザがHMDを装着した際、ユーザの両目の前に表示パネル110が配置される位置に固定されている。表示装置100は、表示パネル110の他に、ユーザがHMDを装着した際、ユーザの両耳に対応する位置にスピーカー等の音声出力装置を備えた態様であっても良い。また、表示装置100は、後述するように、表示装置100を装着したユーザの頭部の位置や姿勢等を検出するセンサ(例えば、ジャイロセンサ、加速度センサ、方位センサ等)を備えた態様であっても良い。また、表示装置100は、画像生成装置200の機能を内包した態様であっても良い。
【0015】
図2に示すように、装着部材400は、例えば、ユーザに両目Eに対応したレンズ410を有する。レンズ410は、ユーザがHMDを装着した際、表示パネル110に表示される画像を拡大してユーザの目Eの網膜に結像させる。ユーザは、表示パネル110に表示され、レンズ410によって拡大された画像を視認する。なお、図2では、1つのレンズをユーザの目Eと表示パネル110との間に配置した例を示したが、例えば、ユーザの両目にそれぞれ対応した複数のレンズで構成された態様であっても良い。また、表示パネル110がユーザの眼前とは異なる位置に配置された構成であっても良い。
【0016】
本実施形態において、表示パネル110は、液晶表示パネルを想定している。
【0017】
図1に示すようなVRシステムで用いられる表示装置100では、図2に示すように、表示パネル110に表示される画像を拡大してユーザの目Eの網膜に結像させる。このため、より高精細な表示パネルが求められている。また、表示映像を拡大することで画素間の隙間が格子状に見え易くなる。このため、画素開口率の高い液晶表示パネルを用いることで、格子感の少ない映像表示が可能となるという利点がある。
【0018】
図3は、図1に示す表示システムにおける画像生成装置及び表示装置の各構成の一例を示すブロック図である。図3に示すように、表示装置100は、2つの表示パネル110と、センサ120と、画像分離回路150と、インタフェース160と、を備える。
【0019】
表示装置100は、2つの表示パネル110を備える。2つの表示パネル110は、1つを左目用の表示パネル110とし、他方を右目用の表示パネル110として用いる。
【0020】
2つの表示パネル110のそれぞれは、表示領域111と、表示制御回路112と、を有する。なお、表示パネル110は、表示領域111を背後から照射する図示しない光源装置を有する。
【0021】
表示領域111は、画素Pixが、n×m個(行方向(X方向)にn個、列方向(Y方向)にm個)、2次元のマトリクス状(行列状)に配列されている。本実施形態では、表示領域111における画素密度を、例えば806ppiとする。図3では、複数の画素Pixの配列を模式的に表しており、詳細な画素Pixの配列は、後述する。
【0022】
表示パネル110は、X方向に延在する走査線と、X方向と交差するY方向に延在する信号線を有する。表示パネル110において、信号線SLと走査線GLとに囲まれた領域には、画素Pixが配置される。画素Pixは、信号線SL及び走査線GLと接続されるスイッチング素子(TFT:薄膜トランジスタ)、及び、スイッチング素子に接続された画素電極を有する。1つの走査線GLは、走査線GLの延在方向に沿って配置される複数の画素Pixが接続される。また、1つの信号線SLは、信号線SLの延在方向に沿って配置される複数の画素Pixが接続される。
【0023】
2つの表示パネル110のうち、一方の表示パネル110の表示領域111が右目用であり、他方の表示パネル110の表示領域111が左目用である。ここでは、表示パネル110は、左目用と右目用の2つの表示パネル110を有する場合について例示しているが、表示装置100は、2つの表示パネル110を用いる構造に限定されない。例えば、表示パネル110は、1つであって、右半分の領域には右目用の画像を表示し、左半分の領域には左目用の画像を表示するように、1つの表示パネル110の表示領域を2分割する態様であっても良い。
【0024】
表示制御回路112は、ドライバIC(Integrated Circuit:集積回路)115、信
号線接続回路113及び走査線駆動回路114を備えている。信号線接続回路113は、信号線SLと電気的に接続されている。ドライバIC115は、走査線駆動回路114によって、画素Pixの動作(光透過率)を制御するためのスイッチング素子(例えば、TFT)のON/OFFを制御する。走査線駆動回路114は、走査線GLと電気的に接続されている。
【0025】
センサ120は、ユーザの頭部の向きを推定可能な情報を検出する。例えば、センサ120は、表示装置100の動きを示す情報を検出し、表示システム1は、表示装置100の動きを示す情報に基づいて、表示装置100を頭部に装着したユーザの頭部の向きを推定する。
【0026】
センサ120は、例えば、表示装置100の角度、加速度、角速度、方位、距離の少なくとも1つを用いて、視線の向きを推定可能な情報を検出する。センサ120は、例えば、ジャイロセンサ、加速度センサ、方位センサ等を用いることができる。センサ120は、例えば、ジャイロセンサによって表示装置100の角度及び角速度を検出してもよい。センサ120は、例えば、加速度センサによって表示装置100に働く加速度の方向及び大きさを検出してもよい。
【0027】
また、センサ120は、例えば、方位センサによって表示装置100の方位を検出してもよい。センサ120は、例えば、距離センサ、GPS(Global Positioning System
)受信機等によって表示装置100の移動を検出してもよい。センサ120は、ユーザの頭部の向き、視線の変化、移動等を検出するためのセンサであれば、光センサ等の他のセンサでもよく、複数のセンサを組み合わせて用いてもよい。センサ120は、後述するインタフェース160を介して、画像分離回路150と電気的に接続されている。
【0028】
画像分離回路150は、ケーブル300を介して画像生成装置200から送られてきた左目用画像データと右目用画像データを受けとり、左目用画像データを左目用の画像を表示する表示パネル110に送り、右目用画像データを右目用の画像を表示する表示パネル110に送る。
【0029】
インタフェース160には、ケーブル300(図1)が接続されるコネクタを含む。インタフェース160は、接続されたケーブル300を介して、画像生成装置200からの信号が入力される。画像分離回路150は、インタフェース160およびインタフェース240を介して、センサ120から入力された信号を画像生成装置200へ出力する。ここで、センサ120から入力された信号には、上述した視線の向きを推定可能な情報が含まれる。あるいは、センサ120から入力された信号は、インタフェース160を介して直接、画像生成装置200の制御回路230へ出力されてもよい。インタフェース160は、例えば、無線通信装置とし、無線通信を介して画像生成装置200との間で情報の送受信を行ってもよい。
【0030】
画像生成装置200は、操作部210と、記憶部220と、制御回路230と、インタフェース240と、を備える。
【0031】
操作部210は、ユーザの操作を受け付ける。操作部210は、例えば、キーボード、ボタン、タッチスクリーン等の入力デバイスを用いることができる。操作部210は、制御回路230と電気的に接続されている。操作部210は、操作に応じた情報を制御回路230に出力する。
【0032】
記憶部220は、プログラム及びデータを記憶する。記憶部220は、制御回路230の処理結果を一時的に記憶する。記憶部220は、記憶媒体を含む。記憶媒体は、例えば、ROM、RAM、メモリカード、光ディスク、又は光磁気ディスク等を含む。記憶部220は、表示装置100に表示させる画像のデータを記憶してもよい。
【0033】
記憶部220は、例えば、制御プログラム211、VRアプリケーション212等を記憶する。制御プログラム211は、例えば、画像生成装置200を稼働させるための各種制御に関する機能を提供できる。VRアプリケーション212は、VR画像を表示装置100に表示させる機能を提供できる。記憶部220は、例えば、センサ120の検出結果を示すデータ等の表示装置100から入力された各種情報を記憶できる。
【0034】
制御回路230は、例えば、MCU(Micro Control Unit)、CPU(Central Processing Unit)等を含む。制御回路230は、画像生成装置200の動作を統括的に制
御できる。制御回路230の各種機能は、制御回路230の制御に基づいて実現される。
【0035】
制御回路230は、例えば、表示する画像を生成するGPU(Graphics Processing Unit)を含む。GPUは、表示装置100に表示する画像を生成する。制御回路230は、GPUが生成した画像を、インタフェース240を介して表示装置100に出力する。本実施形態では、画像生成装置200の制御回路230は、GPUを含む場合について説明するが、これに限定されない。例えば、GPUは、表示装置100又は表示装置100の画像分離回路150に設けてもよい。この場合、表示装置100は、例えば、画像生成装置200、外部の電子機器等からデータを取得し、当該データに基づいてGPUが画像を生成すればよい。
【0036】
インタフェース240には、ケーブル300(図1参照)が接続されるコネクタを含む。インタフェース240は、ケーブル300を介して、表示装置100からの信号が入力される。インタフェース240は、制御回路230から入力された信号を、ケーブル300を介して表示装置100へ出力する。インタフェース240は、例えば、無線通信装置とし、無線通信を介して表示装置100との間で情報の送受信を行ってもよい。
【0037】
制御回路230は、VRアプリケーション212を実行すると、ユーザ(表示装置100)の動きに応じた画像を表示装置100に表示させる。制御回路230は、画像を表示装置100に表示させた状態で、ユーザ(表示装置100)の変化を検出すると、当該変化した方向の画像へ表示装置100に表示している画像を変化させる。制御回路230は、画像の作成開始時に、仮想空間上の基準視点及び基準視線に基づく画像を作成し、ユーザ(表示装置100)の変化を検出した場合、表示させている画像を作成する際の視点又は視線を、基準視点又は基準視線方向からユーザ(表示装置100)の動きに応じて変更し、変更した視点又は視線に基づく画像を表示装置100に表示させる。
【0038】
例えば、制御回路230は、センサ120の検出結果に基づいて、ユーザの頭部の右方向への移動を検出する。この場合、制御回路230は、現在表示させている画像から右方向へ視線を変化させた場合の画像へ変化させる。ユーザは、表示装置100に表示されている画像の右方向の画像を視認することができる。
【0039】
例えば、制御回路230は、センサ120の検出結果に基づいて、表示装置100の移動を検出すると、検出した移動に応じて画像を変化させる。制御回路230は、表示装置100が前方へ移動したことを検出した場合、現在表示させている画像の前方へ移動した場合の画像へ変化させる。制御回路230は、表示装置100が後方方向へ移動したことを検出した場合、現在表示させている画像の後方へ移動した場合の画像へ変化させる。ユーザは、表示装置100に表示されている画像から、自身の移動方向の画像を視認することができる。
【0040】
図4は、実施形態に係る表示領域を表す回路図である。以下、上述した走査線GLは、複数の走査線G1、G2、G3を総称している。上述した信号線SLは、複数の信号線S1、S2、S3を総称している。図4に示す例では、走査線GLと信号線SLとが直交しているが、これに限定されない。例えば、走査線GLと信号線SLとは直交していなくても良い。
【0041】
図4に示すように、本開示において、画素Pixは、例えば赤(第1色:R)を表示するための副画素SPixR、緑(第2色:G)を表示するための副画素SPixG、青(第3色:B)を表示するための副画素SPixBを含む。表示領域111には、各副画素SPixR、SPixG、SPixBのスイッチング素子TrD1、TrD2、TrD3、信号線SL、走査線GL等が形成されている。信号線S1、S2、S3は、各画素電極PE1、PE2、PE3(図6参照)に画素信号を供給するための配線である。走査線G1、G2、G3は、各スイッチング素子TrD1、TrD2、TrD3を駆動するゲート信号を供給するための配線である。なお、各副画素SPixR、SPixG、SPixBは、副画素SPixと呼ぶこともある。
【0042】
各副画素SPixR、SPixG、SPixBは、それぞれスイッチング素子TrD1、TrD2、TrD3及び液晶層LCの容量を備えている。スイッチング素子TrD1、TrD2、TrD3は、薄膜トランジスタにより構成されるものであり、この例では、nチャネルのMOS(Metal Oxide Semiconductor)型のTFTで構成されている。後述する画素電極PE1、PE2、PE3と共通電極COMとの間に第6絶縁膜16(図6参照)が設けられ、これらによって図4に示す保持容量Csが形成される。
【0043】
図4に示すカラーフィルタCFR、CFG、CFBは、例えば赤(第1色:R)、緑(第2色:G)、青(第3色:B)の3色に着色された色領域が周期的に配列されている。上述した図4に示す各副画素SPixR、SPixG、SPixBに、R、G、Bの3色の色領域が1組として対応付けられる。そして、3色の色領域に対応する副画素SPixR、SPixG、SPixBを1組の画素Pixとされる。なお、カラーフィルタは、4色以上の色領域を含んでいてもよい。
【0044】
図5は、実施形態に係る表示パネルの一例を示す模式図である。図6は、実施形態に係る表示パネルの断面を模式的に示す断面図である。
【0045】
図5に示すように、表示パネル110には、基板端部の辺110e1、辺110e2、辺110e3、辺110e4がある。表示パネルの基板端部の辺110e1、辺110e2、辺110e3、辺110e4と、表示領域111との間は、周辺領域と呼ばれる。
【0046】
走査線駆動回路114は、表示パネル110の基板端部の辺110e1と表示領域111との間の周辺領域に配置されている。信号線接続回路113は、表示パネル110の基板端部の辺110e4と表示領域111との間の周辺領域に配置されている。ドライバIC115は、表示パネル110の基板端部の辺110e4と表示領域111との間の周辺領域に配置されている。本実施形態では、表示パネル110の基板端部の辺110e3、辺110e4は、X方向と平行である。表示パネル110の基板端部の辺110e1、辺110e2は、Y方向と平行である。
【0047】
図5に示す例において、信号線SLはY方向と平行に延在し、走査線GLはX方向と平行に延在する。図5に示すように、本開示において、走査線GLが延在する方向は、信号線SLが延在する方向と直交である。
【0048】
次に、表示パネル110の断面構造について、図6を参照して説明する。図6において、アレイ基板SUB1は、ガラス基板や樹脂基板などの透光性を有する第1絶縁基板10を基体としている。アレイ基板SUB1は、第1絶縁基板10の対向基板SUB2と対向する側に、第1絶縁膜11、第2絶縁膜12、第3絶縁膜13、第4絶縁膜14、第5絶縁膜15、第6絶縁膜16、信号線S1からS3、画素電極PE1からPE3、共通電極COM、第1配向膜AL1などを備えている。以下の説明において、アレイ基板SUB1から対向基板SUB2に向かう方向を上方、あるいは、単に上と称する。
【0049】
第1絶縁膜11は、第1絶縁基板10の上に位置している。第2絶縁膜12は、第1絶縁膜11の上に位置している。第3絶縁膜13は、第2絶縁膜12の上に位置している。信号線S1からS3は、第3絶縁膜13の上に位置している。第4絶縁膜14は、第3絶縁膜13の上に位置し、信号線S1からS3を覆っている。
【0050】
必要があれば、第4絶縁膜14の上には、配線を配置してもよい。この配線は、第5絶縁膜15によって覆われることになる。本実施形態では、配線を省略している。第1絶縁膜11、第2絶縁膜12、第3絶縁膜13、及び、第6絶縁膜16は、例えば、シリコン酸化物やシリコン窒化物などの透光性を有する無機系材料によって形成されている。第4絶縁膜14及び第5絶縁膜15は、透光性を有する樹脂材料によって形成され、無機系材料によって形成された他の絶縁膜と比べて厚い膜厚を有している。ただし、第5絶縁膜15については無機系材料によって形成されたものであってもよい。
【0051】
共通電極COMは、第5絶縁膜15の上に位置している。共通電極COMは、第6絶縁膜16によって覆われている。第6絶縁膜16は、例えば、シリコン酸化物やシリコン窒化物などの透光性を有する無機系材料によって形成されている。
【0052】
画素電極PE1からPE3は、第6絶縁膜16の上に位置し、第6絶縁膜16を介して共通電極COMと対向している。画素電極PE1からPE3、及び、共通電極COMは、例えば、ITO(Indium Tin Oxide)やIZO(Indium Zinc Oxide)などの透光性を有する導電材料によって形成されている。画素電極PE1からPE3は、第1配向膜AL1によって覆われている。第1配向膜AL1は、第6絶縁膜16も覆っている。
【0053】
対向基板SUB2は、ガラス基板や樹脂基板などの透光性を有する第2絶縁基板20を基体としている。対向基板SUB2は、第2絶縁基板20のアレイ基板SUB1と対向する側に、遮光層BM、カラーフィルタCFR、CFG、CFB、オーバーコート層OC、第2配向膜AL2などを備えている。
【0054】
図6に示すように、遮光層BMは、第2絶縁基板20のアレイ基板SUB1と対向する側に位置している。そして、遮光層BMは、画素電極PE1からPE3とそれぞれ対向する開口の大きさを規定している。遮光層BMは、黒色の樹脂材料や、遮光性の金属材料によって形成されている。
【0055】
カラーフィルタCFR、CFG、CFBのそれぞれは、第2絶縁基板20のアレイ基板SUB1と対向する側に位置し、それぞれの端部が遮光層BMに重なっている。カラーフィルタCFRは、画素電極PE1と対向している。カラーフィルタCFGは、画素電極PE2と対向している。カラーフィルタCFBは、画素電極PE3と対向している。一例では、カラーフィルタCFR、CFG、CFBは、それぞれ青色、赤色、緑色に着色された樹脂材料によって形成されている。
【0056】
オーバーコート層OCは、カラーフィルタCFR、CFG、CFBを覆っている。オーバーコート層OCは、透光性を有する樹脂材料によって形成されている。第2配向膜AL2は、オーバーコート層OCを覆っている。第1配向膜AL1及び第2配向膜AL2は、例えば、水平配向性を示す材料によって形成されている。
【0057】
以上説明したように、対向基板SUB2は、遮光層BM、カラーフィルタCFR、CFG、CFBなどを備えている。遮光層BMは、図4に示した走査線G1、G2、G3、信号線S1、S2、S3、コンタクト部PA1、PA2、PA3、スイッチング素子TrD1、TrD2、TrD3などの配線部と対向する領域に配置されている。
【0058】
図6において、対向基板SUB2は、3色のカラーフィルタCFR、CFG、CFBを備えていたが、青色、赤色、及び、緑色とは異なる他の色、例えば白色、透明、イエロー、マゼンタ、シアンなどのカラーフィルタを含む4色以上のカラーフィルタを備えていてもよい。また、これらのカラーフィルタCFR、CFG、CFBは、アレイ基板SUB1に備えられていてもよい。
【0059】
また、図6において、カラーフィルタCFは対向基板SUB2に設けられているが、アレイ基板SUB1にカラーフィルタCFを備える、所謂COA(Color filter on Array)の構造であってもよい。
【0060】
上述したアレイ基板SUB1及び対向基板SUB2は、第1配向膜AL1及び第2配向膜AL2が向かい合うように配置されている。液晶層LCは、第1配向膜AL1と第2配向膜AL2との間に封入されている。液晶層LCは、誘電率異方性が負のネガ型液晶材料、あるいは、誘電率異方性が正のポジ型液晶材料によって構成されている。
【0061】
アレイ基板SUB1がバックライトユニットILと対向し、対向基板SUB2が表示面側に位置する。バックライトユニットILとしては、種々の形態のものが適用可能であるが、その詳細な構造については説明を省略する。
【0062】
第1偏光板PL1を含む第1光学素子OD1は、第1絶縁基板10の外面、あるいは、バックライトユニットILと対向する面に配置される。第2偏光板PL2を含む第2光学素子OD2は、第2絶縁基板20の外面、あるいは、観察位置側の面に配置される。第1偏光板PL1の第1偏光軸及び第2偏光板PL2の第2偏光軸は、例えばX-Y平面においてクロスニコルの位置関係にある。なお、第1光学素子OD1及び第2光学素子OD2は、位相差板などの他の光学機能素子を含んでいてもよい。
【0063】
例えば、液晶層LCがネガ型液晶材料である場合であって、液晶層LCに電圧が印加されていない状態では、液晶分子LMは、X-Y平面内において、その長軸がX方向に沿う方向に初期配向している。一方、液晶層LCに電圧が印加された状態、つまり、画素電極PE1からPE3と共通電極COMとの間に電界が形成されたオン時において、液晶分子LMは、電界の影響を受けてその配向状態が変化する。オン時において、入射した直線偏光は、その偏光状態が液晶層LCを通過する際に液晶分子LMの配向状態に応じて変化する。
【0064】
一般に、HMDでは表示パネル110に表示された画像をレンズ410で拡大して観察する。レンズ410は、表示パネル110に近接しているため、ユーザが観察する画像にレンズ410の収差による幾何学的な像の歪み(以下、単に「レンズ歪」とも称する)が発生する。頭部に装着するHMDは、重量やサイズが制限されるため、レンズ410の収差を抑制することは困難である。このため、表示システム1は、表示システム1に入力される画像(以下、「入力画像」とも称する)に対し、レンズ歪を補償するための画像変形処理を行い、表示パネル110に表示する画像を生成する。
【0065】
図7は、実施形態に係る表示システムにおいて画像変形処理の対象となる画像の形状の一例を示す図である。図8は、実施形態に係る表示システムにおいて画像変形処理を行った画像の形状の一例を示す図である。
【0066】
図7において、ユーザに視認させたい画像Mnは、複数の画素がX方向及びY方向に行列配置されている。図3に示す制御回路230は、図7に示す画像Mnに対して、画像変形処理を加えた画像MIg(図8)を生成する。本開示において、レンズ410は、近接した物体を観察するため、所謂糸巻歪曲収差(Pincushion Distortion)が生じる。この糸巻歪曲収差によるレンズ歪を補償するために、表示システム1に入力される画像Mnに対して、図8に示すような樽型歪み(Barrel Distortion)を生じさせる。図8に示す画像変形処理後の画像MIgの形状は一例であって、図8に示す形状に限定されない。
【0067】
表示システム1における画像変形処理は、画像処理で一般的に用いられるテクスチャマッピングを利用して行われる。以下、テクスチャマッピングに基づく画像変形処理について簡単に説明する。
【0068】
図7に示す例では、複数の三角形状のポリゴン(Polygon)がメッシュ状に配置された
ポリゴンメッシュを、ユーザに視認させたい画像Mnに重ね合わせている。図7において、ポリゴンメッシュは、X方向及びY方向にそれぞれ19個の、それぞれ隣接して境界が共通の座標になっている同じサイズの四角形の集合である。各四角形は2つのポリゴンで形成されている。従って、図7に示すポリゴンメッシュは、19×19×2=722個のポリゴンで形成されている。このポリゴンメッシュを構成するポリゴンの数が多いほど、画像変形処理後の画像MIgの歪形状の正確性を向上させることができる。
【0069】
図9は、実施形態に係る表示システムに入力される画像データの一例を示す図である。図10は、図9に示す各データ定義点の仮想的な位置を示す図である。図10に示す各データ定義点P0,0、P1,0、・・・、Pn-1,m-1は、それぞれ、赤(第1色:R)の画素強度を示す色データRN,M、緑(第2色:G)の画素強度を示す色データGN,M、青(第3色:B)の画素強度を示す色データBN,M(Nは0からn-1までの整数、Mは、0からm-1までの整数)が定義されている。すなわち、入力画像は、X方向及びY方向に仮想的にマトリクス配置された複数のデータ定義点を有し、このデータ定義点ごとに、色彩と明るさの情報が記録されている。図9の例では、明るさと色彩をR,G,Bの3原色の強度の形で記録している。なお、データ定義点ごとのデータは、色データに限らず、輝度と色差のデータであっても良い。
【0070】
ポリゴンメッシュを用いたテクスチャマッピングに基づく画像変形処理により、図7に示す画像Mnを図8に示す画像MIgの形状に歪めると、図10に示す各データ定義点P0,0、P1,0、・・・、Pn-1,m-1が移動する。図11は、実施形態に係る表示システムの表示領域に対応する画像変形処理後の画像の位置関係を示す図である。図11における方眼図形は、表示パネル110の表示領域111を示している。
【0071】
本開示において、テクスチャを構成する画像データの画像上(テクスチャ上)のデータ位置を示す2次元の数値を「テクスチャ座標」と称する。テクスチャ座標における値の範囲は、図10に示すXY座標系のX方向の数n-1及びY方向の数m-1で正規化され、それぞれ0以上1以下の数値に規格化されている。図10に示すPN,M、すなわちテクスチャを構成するデータの単位を「テクセル」と称する。
【0072】
ここで、テクスチャ座標を定義する座標をuv座標系とする。テクセルのu方向の位置をk、v方向の位置をlとし、テクセルのu方向の数をq、v方向の数をpとしたとき、uv座標系上の位置とテクセルの位置の相関は、下記(1)式及び(2)式で表せる。
【0073】
k=qu・・・(1)
【0074】
l=pv・・・(2)
【0075】
本開示では、上述した画像変形処理において、表示パネル110の画素構造に応じた処理を加える。具体的に、画像生成装置200の制御回路230は、表示パネル110の全ての副画素SPixの画素値を生成し、インタフェース240を介して表示装置100に送信する。これにより、表示パネル110では、表示パネル110の画素構造に応じた解像度変換処理や画素値変換処理等の画像変換処理を省略することができる。
【0076】
以下、本開示における画像変形処理について、詳細に説明する。
【0077】
上述したテクスチャマッピングに基づく画像変形処理により、画像変形処理後の画像MIgの画素位置(x,y)に対応する、画像変形処理前の画像Mnのテクスチャ座標(u,v)が得られる。このテクスチャ座標(u,v)には副画素の概念はなく、画素Pixの代表的な位置(x,y)に対応した座標である。すなわち、副画素SPixR、副画素SPixG、副画素SPixBの位置は、画素Pixの代表的な位置とは相対的に異なる。このテクスチャ座標(u,v)に対して、表示パネル110の副画素SPixごとの補正を加えることで、副画素SPixごとのテクスチャ座標を得ることができる。
【0078】
表示パネル110の副画素SPixごとの補正を加えたテクスチャ座標(u(x,y),v(x,y))は、下記(3)式及び(4)式で表せる。下記(3)式及び(4)式において、Q=R,G,Bである。すなわち、座標(u(x,y),v(x,y))は、副画素SPixRのテクスチャ座標を示し、座標(u(x,y),v(x,y))は、副画素SPixGのテクスチャ座標を示し、座標(u(x,y),v(x,y))は、副画素SPixBのテクスチャ座標を示している。
【0079】
(x,y)=ucQ(x,y)+ΔusQ(x,y)・・・(3)
【0080】
(x,y)=vcQ(x,y)+ΔvsQ(x,y)・・・(4)
【0081】
上記(3)式及び(4)式において、テクスチャ座標(ucQ(x,y),vcQ(x,y))は、副画素SPixR、副画素SPixG、副画素SPixBの間でレンズ410による色収差の補正を行わない場合には、各副画素SPixに依らず一定(u(x,y)=ucR(x,y)=ucG(x,y)=ucB(x,y))となる。テクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))は、テクスチャ座標(u,v)に対する副画素SPixR、副画素SPixG、副画素SPixBごとの差分値を示している。
【0082】
図12A及び図12Bは、画素の代表的な位置に対する各副画素の位置関係を示す図である。図12A及び図12Bでは、画素Pixの代表的な位置u(x,y)に対し、副画素SPixの位置のズレを示している。図12Aは、画素Pixの代表的な位置u(x,y)に対し、副画素SPixが負側にずれた例を示している。図12Bは、画素Pixの代表的な位置u(x,y)に対し、副画素SPixが正側にずれた例を示している。
【0083】
図12A及び図12Bに示す4つの係数kxp、kxm、kyp、kymは、画素幅を1としたときのズレ幅を示し、副画素SPixR、副画素SPixG、副画素SPixBごとに異なる値である。
【0084】
上記(3)式及び(4)式と同様に、Q=R,G,Bとすると、テクスチャ座標(u (x,y),vsQ(x,y))は、上記4つの係数kxp、kxm、kyp、kymを用いた2次元の線形補間により、下記(5)式及び(6)式で表せる。下記(5)式及び(6)式において、Q=R,G,Bである。すなわち、例えば副画素SPixRについての係数kxpはkxpRと表す。また、例えば副画素SPixGについての係数kxpはkxpGと表す。また、例えば副画素SPixBについての係数kxpはkxpBと表す。他の各係数についても同様である。
【0085】
【数1】
【0086】
【数2】
【0087】
ここで、副画素SPixR、副画素SPixG、副画素SPixBのうちの1つ、あるいは画素Pixの中心座標を代表値として座標(u(x,y),v(x,y))とすると、テクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))は、下記(7)式及び(8)式で表せる。
【0088】
ΔusQ(x,y)=usQ(x,y)-u(x,y)・・・(7)
【0089】
ΔvsQ(x,y)=vsQ(x,y)-v(x,y)・・・(8)
【0090】
レンズ410による色収差を補正しない場合、副画素SPixGを代表値とすれば、下記(9)式及び下記(10)式が得られる。
【0091】
(x,y)=ucG(x,y)・・・(9)
【0092】
(x,y)=vcG(x,y)・・・(10)
【0093】
レンズ410による色収差を補正する場合、2つの手法が考えられる。まず、第1の手法としては、テクスチャ座標(u,v)を求める際のポリゴンメッシュの形状を、レンズ410の色収差に応じて、副画素SPixR、副画素SPixG、副画素SPixBに反映させて異ならせることで、レンズ410の副画素SPixR、副画素SPixG、副画素SPixBごとの像倍率に応じた色収差を抑制したテクスチャ画像がマッピングされる。すなわち、副画素SPixR、副画素SPixG、副画素SPixBごとの座標(ucQ(x,y),vcQ(x,y))が得られる。
【0094】
レンズ410による色収差を補正する第2の手法としては、副画素SPixR、副画素SPixG、副画素SPixBごとに像倍率の補正係数を適用する。以下、レンズ410による色収差を補正する第2の手法について説明する。
【0095】
レンズ410による色収差を考慮する場合は、まずレンズ410の色収差による像倍率の差を補償する画素位置を求める必要がある。図13は、レンズの光軸からの距離に対する副画素ごとの像倍率の変化量を示すレンズの色収差特性の一例を示す図である。図14は、レンズの光軸から副画素までの距離の大きさを示す図である。
【0096】
レンズの像倍率の色による差は、例えば、図13に示すように、レンズの光軸からの距離rに対する像倍率の変化量Δrで表現する事ができる。図13では、副画素SPixGを基準として(Δr=0)、副画素SPixRの像倍率の変化量Δr、副画素SPixBの像倍率の変化量Δrを示している。
【0097】
一般に、副画素SPixRの像倍率の変化量Δr、副画素SPixGの像倍率の変化量Δr、副画素SPixBの像倍率の変化量Δrは、レンズの屈折率の分散のために発生し、光軸からの距離rが離れるに従い拡大する。図13に示すように、副画素SPixGを基準とした場合(Δr=0)、副画素SPixBの像倍率の変化量Δrは、一般に正の値となり、副画素SPixRの像倍率の変化量Δrは、一般に負の値となる。
【0098】
ここで、所定の画素Pixに着目し、画素Pixの表示パネル110上の位置をxle ns_c,ylens_cとすると、表示パネル110上のレンズ410の光軸の位置xlens0,ylens0から画素の距離rは、下記(11)式、(12)式、(13)式で表せる。
【0099】
Δxlens_c=xlens_c-xlens0・・・(11)
【0100】
Δylens_c=ylens_c-ylens0・・・(12)
【0101】
=√(Δxlens_c +Δylens_c )・・・(13)
【0102】
ここで、下記(14)式に示すように、画素Pixの副画素SPixGを基準とすると(r=r)、表示パネル110上のレンズ410の光軸の位置xlens0,yle ns0から副画素SPixRの像までの距離r、及び、表示パネル110上のレンズ410の光軸の位置xlens0,ylens0から副画素SPixBの像までの距離rは、それぞれ、下記(15)式及び(16)式で表せる。
【0103】
=r・・・(14)
【0104】
=r×(1+Δr(r))・・・(15)
【0105】
=r×(1+Δr(r))・・・(16)
【0106】
上述したように、副画素SPixGを基準とした場合(Δr=0)、副画素SPixBの像倍率の変化量Δrは、一般に正の値となり、副画素SPixRの像倍率の変化量Δrは、一般に負の値となる。従って、副画素SPixR、副画素SPixG、副画素SPixBの表示パネル110上の位置がずれることになる。
【0107】
副画素SPixRに入力すべき副画素のデータが存在する画像上の位置は、レンズの色収差でずれて表示される像の位置の画像データであり、下記(17)式及び(18)式で示されるように、レンズの光軸からの距離を倍率補正した相対位置Δxcomp_R,Δycomp_Rで近似できる。
【0108】
Δxcomp_R=Δxlens_c×(r/r
=Δxlens_c×(1+Δr(r))・・・(17)
【0109】
Δycomp_R=Δylens_c×(r/r
=Δylens_c×(1+Δr(r))・・・(18)
【0110】
表示パネル110上の副画素SPixRに入力すべき副画素のデータが存在する画像上の位置xcomp_R,ycomp_Rは、表示パネル110上のレンズ410の光軸の位置xlens0,ylens0を用いて下記(19)式及び(20)式で示される。
【0111】
comp_R=Δxcomp_R+xlens0・・・(19)
【0112】
comp_R=Δycomp_R+ylens0・・・(20)
【0113】
上述した色収差による位置ずれを考慮した副画素SPixRの位置xtR,ytRは、副画素の構成に起因する位置を示す各係数kxpR、kxmR、kypR、kymRを用いて、下記(21)式から(24)式で表せる。
【0114】
tR=kxpR+Δxcomp_R+xlens0(kxmR=0のとき)・・・(21)
【0115】
tR=-kxmR+Δxcomp_R+xlens0(kxpR=0のとき)・・・(22)
【0116】
tR=kypR+Δycomp_R+ylens0(kymR=0のとき)・・・(23)
【0117】
tR=-kymR+Δycomp_R+ylens0(kypR=0のとき)・・・(24)
【0118】
上記(21)式から(24)式で示される副画素SPixRの位置xtR,ytRの値は、基準とした画素Pixの位置x,yから1よりも遠く離れている場合には適用できない。このため、下記(25)式から(28)式を用いて、副画素SPixRの位置xtB,ytBの値を整数部分と小数点以下の部分とに分解する必要がある。下記(25)式及び(27)式において、「floor」は、小数点以下を切り捨てて整数部分を取り出す関数である。
【0119】
iR=floor(xtR)・・・(25)
【0120】
xR=xtR-xiR・・・(26)
【0121】
iR=floor(ytR)・・・(27)
【0122】
yR=ytR-yiR・・・(28)
【0123】
上述した色収差による位置ずれを考慮した副画素SPixBの位置xtB,ytBは、副画素の構成に起因する位置を示す各係数kxpB、kxmB、kypB、kymBを用いて、下記(29)式から(32)式で表せる。
【0124】
tB=kxpB+Δxcomp_B+xlens0(kxmB=0のとき)・・・(29)
【0125】
tB=-kxmB+Δxcomp_B+xlens0(kxpB=0のとき)・・・(30)
【0126】
tB=kypB+Δycomp_B+ylens0(kymB=0のとき)・・・(31)
【0127】
tB=-kymB+Δycomp_B+ylens0(kypB=0のとき)・・・(32)
【0128】
上記(29)式から(32)式で示される副画素SPixBの位置xtB,ytBの値は、画素Pixの位置x,yから1よりも遠く離れている場合には適用できない。このため、下記(33)式から(36)式を用いて、副画素SPixBの位置xtB,y の値を整数部分と小数点以下の部分とに分解する必要がある。下記(33)式及び(35)式において、「floor」は、小数点以下を切り捨てて整数部分を取り出す関数である。
【0129】
iB=floor(xtB)・・・(33)
【0130】
xB=xtB-xiB・・・(34)
【0131】
iB=floor(ytB)・・・(35)
【0132】
yB=ytB-yiB・・・(36)
【0133】
上記(11)式から(36)式を用いて算出した各係数xiQ、kxQ、yiQ、k (Q=R,G,B)を用いた副画素SPixごとのテクスチャ座標(usQ(x,y),vsQ(x,y))は、上記(7)式及び(8)式に代えて、下記(37)式及び(38)式で表せる。
【0134】
【数3】
【0135】
【数4】
【0136】
そして、上記(37)式及び(38)式に示す副画素SPixごとのテクスチャ座標(u(xtQ,ytQ),v(xtQ,ytQ))から、画素Pixの位置u(x,y),v(x,y)を差し引くことで、下記(39)式及び(40)式に示すテクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))が得られる。
【0137】
ΔusQ(x,y)=u(xtQ,ytQ)-u(x,y)・・・(39)
【0138】
ΔvsQ(x,y)=v(xtQ,ytQ)-v(x,y)・・・(40)
【0139】
上記(5)式及び(6)式、又は、上記(37)式及び(38)式を用いて生成したテクスチャ座標(usQ(x,y),vsQ(x,y))を座標変換テーブルとして画像生成装置200の記憶部220に保持しておき、画像変形処理に適用することで、色収差による位置ずれ補償と表示パネル110の画素配列に応じた処理を同時に行うことができる。
【0140】
あるいは、上記(7)式及び(8)式、又は、上記(39)式及び(40)式を用いて生成したテクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))を座標変換テーブルとして画像生成装置200の記憶部220に保持しておき、画像変形処理において画素Pixの位置u(x,y),v(x,y)を求めた後に、座標変換テーブルを適用することで、色収差による位置ずれ補償と表示パネル110の画素配列に応じた処理を同時に行うことができる。
【0141】
図15は、座標変換テーブルの第1例を示す図である。図15において、Q=R,G,Bである。すなわち、座標変換テーブルtb1Qを用いる場合、画像生成装置200の記憶部220は、副画素SPixR用の座標変換テーブルtb1R、副画素SPixG用の座標変換テーブルtb1G、及び副画素SPixB用の座標変換テーブルtb1Bを保持する。座標変換テーブルtb1Qは、テクスチャ座標の値を保持しているので、表示フレーム毎の表示処理の時は、変換テーブルを参照するだけで標本化点(utsQ、vtsQ)を得ることができる。
【0142】
あるいは、上記(7)式及び(8)式、又は、上記(37)式を適用した上記(7)式及び上記(38)式を適用した上記(8)式を用いて生成したテクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))を座標変換テーブルとして画像生成装置200の記憶部220に保持しておき、画像変形処理に適用することで、表示パネル110の画素配列に応じた処理を同時に行うことができる。
【0143】
図16は、座標変換テーブルの第2例を示す図である。図16において、Q=R,G,Bである。すなわち、座標変換テーブルtb2Qを用いる場合、画像生成装置200の記憶部220は、副画素SPixR用の座標変換テーブルtb2R、副画素SPixG用の座標変換テーブルtb2G、及び副画素SPixB用の座標変換テーブルtb2Bを保持する。座標変換テーブルtb2Qは、テクスチャ座標の差分値を保持しているので、表示フレーム毎の表示処理の時に標本化点(utsQ、vtsQ)を得るためには、画素Pixごとの基準となるテクスチャ座標(u、v)を取得して、変換テーブルの値と加算することが必要となる。描画処理ごとに基準テクスチャ(テクスチャ座標(u、v))の状態が変化する場合にも、対応することが可能となる。
【0144】
ここでは、ポリゴンメッシュを用いた座標変換テーブルtb2Qの導出処理について、図17及び図18を参照して説明する。図17は、実施形態に係る座標変換テーブルの導出処理の第1例を示すフローチャートである。図18は、実施形態に係る座標変換テーブルの導出処理の第2例を示すフローチャートである。
【0145】
図17では、レンズ410による色収差を補正する第1の手法を適用した座標変換テーブルtb2Qの導出処理を例示している。
【0146】
図17に示す第1の手法を適用した第1例では、レンズ410の色収差に応じた副画素SPixR、副画素SPixG、副画素SPixBに対応するポリゴンメッシュを用いる。
【0147】
まず、画像生成装置200の制御回路230は、副画素SPixRに対応するポリゴンメッシュを生成する(ステップS101)。
【0148】
続いて、制御回路230は、副画素SPixRに対応するポリゴンメッシュを生成する。このポリゴンメッシュは、レンズ410のR色のレンズ拡大率及び歪を補償する所定の形状で作成され、テクスチャマッピングにより副画素SPixRに対応するテクスチャ座標(ucR(x,y),vcR(x,y))を求め、副画素SPixRに対応するテクスチャ座標テーブルを生成する(ステップS102)。
【0149】
次に、制御回路230は、副画素SPixGに対応するポリゴンメッシュを生成する(ステップS103)。
【0150】
続いて、制御回路230は、副画素SPixGに対応するポリゴンメッシュを生成する。このポリゴンメッシュは、レンズ410のG色のレンズ拡大率及び歪を補償する所定の形状で作成され、テクスチャマッピングにより副画素SPixGに対応するテクスチャ座標(ucG(x,y),vcG(x,y))を求め、副画素SPixGに対応するテクスチャ座標テーブルを生成する(ステップS104)。
【0151】
次に、制御回路230は、副画素SPixBに対応するポリゴンメッシュを生成する(ステップS105)。
【0152】
続いて、制御回路230は、副画素SPixBに対応するポリゴンメッシュを生成する。このポリゴンメッシュは、レンズ410のB色のレンズ拡大率及び歪を補償する所定の形状で作成され、テクスチャマッピングにより副画素SPixBに対応するテクスチャ座標(ucB(x,y),vcB(x,y))を求め、副画素SPixBに対応するテクスチャ座標テーブルを生成する(ステップS106)。
【0153】
そして、制御回路230は、上記(5)式及び(6)式を用いて、副画素SPixR、副画素SPixG、副画素SPixBごとのテクスチャ座標(usR(x,y),vsR(x,y))、テクスチャ座標(usG(x,y),vsG(x,y))、テクスチャ座標(usB(x,y),vsB(x,y))を算出する。制御回路230は、副画素SPixR、副画素SPixG、副画素SPixBのうちの1つを代表として(例えば、副画素SPixGの位置ucG(x,y),vcG(x,y)を代表値として)、上記(7)式及び(8)式を用いて、副画素SPixR、副画素SPixG、副画素SPixBごとのテクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))を求め、副画素SPixR、副画素SPixG、副画素SPixBごとの座標変換テーブルtb2Qを生成し(ステップS107)、ステップS102、ステップS104、ステップS106において生成した副画素SPixR、副画素SPixG、副画素SPixBごとのテクスチャ座標テーブルを破棄する(ステップS108)。
【0154】
図18では、レンズ410による色収差を補正する第2の手法を適用した座標変換テーブルtb2Qの導出処理を例示している。
【0155】
図18に示す第2の手法を適用した第2例では、副画素SPixGを代表としたポリゴンメッシュを用いる。
【0156】
まず、画像生成装置200の制御回路230は、副画素SPixGに対応するポリゴンメッシュを生成する(ステップS201)。このポリゴンメッシュは、レンズ410のG色のレンズ拡大率及び歪を補償する所定の形状で作成する。
【0157】
続いて、制御回路230は、テクスチャマッピングにより副画素SPixGに対応するテクスチャ座標(ucG(x,y),vcG(x,y))を求め、副画素SPixGに対応するテクスチャ座標テーブルを生成する(ステップS202)。
【0158】
そして、制御回路230は、上記(11)式から(36)式を用いて各係数xiQ、kxQ、yiQ、kyQ(Q=R,G,B)を算出し、上記(37)式及び(38)式を用いて、副画素SPixR、副画素SPixG、副画素SPixBごとのテクスチャ座標(usR(x,y),vsR(x,y))、テクスチャ座標(usG(x,y),vsG(x,y))、テクスチャ座標(usB(x,y),vsB(x,y))を算出する。制御回路230は、上記(39)式及び(40)式を用いて、副画素SPixR、副画素SPixG、副画素SPixBごとのテクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))を求め、副画素SPixR、副画素SPixG、副画素SPixBごとの座標変換テーブルtb2Qを生成し(ステップS203)、ステップS202において生成した副画素SPixGのテクスチャ座標テーブルを破棄する(ステップS204)。
【0159】
なお、上述した副画素SPixごとの座標変換テーブルtb1Q(Q=R,G,B)、あるいは、上述した副画素SPixごとの座標変換テーブルtb2Q(Q=R,G,B)は、HMDのレンズ410に応じたテーブルが予め画像生成装置200の記憶部220に記憶されている態様であっても良いし、HMDのレンズ410に応じて、表示システム1の起動時に画像生成装置200の制御回路230が座標変換テーブルtb1Qあるいは座標変換テーブルtb2Qの導出処理を実行して、記憶部220に保持する態様であっても良い。あるいは、実行するVRアプリケーション212に応じて、適宜、画像生成装置200の制御回路230が座標変換テーブルtb1Qあるいは座標変換テーブルtb2Qの導出処理を実行して、記憶部220に保持する態様であっても良い。
【0160】
次に、テクスチャ座標差分値(ΔusQ(x,y),ΔvsQ(x,y))またはテクスチャ座標(usQ(x,y),vsQ(x,y))を使った表示フレーム毎の表示動作における、表示パネル110の各副画素SPixに適用する画素値の導出手法について説明する。
【0161】
上述したように、HMDでは表示パネル110に表示された画像をレンズ410で拡大して観察するため、表示パネル110に表示する画像に対し、レンズ歪を補償するための画像変形処理を行う。この画像変形処理において、画素Pixの位置x,yの画素Pixの表示データとして元画像のテクスチャ座標(usQ(x,y),vsQ(x,y))からデータを標本化するが、テクスチャ座標(usQ(x,y),vsQ(x,y))に一致する1点だけではなく、1つ以上のデータ定義点における色データを標本化して、副画素SPixR、SPixG、SPixBごとの画素値を算出する。このとき、画像変形処理によって移動した後のデータ定義点の配置に応じて、副画素SPixR、SPixG、SPixBごとの画素値を生成する必要がある。
【0162】
副画素SPixごとに標本化を行う場合、折り返し雑音(エイリアシングノイズ)により色付き(偽色)が生じることが問題となる。テクスチャマッピングに基づく画像変形処理では、標本化の対象とするテクスチャの間隔と標本化の間隔(すなわち、表示パネル110の画素間隔)が必ずしも一致しないため、マルチサンプリングやぼかし処理により対策が行われる。本開示では、副画素SPixごとに標本化を行うため、副画素SPix間の状態差が偽色として目立ち易い。
【0163】
本開示では、副画素SPixごとの標本化手法として面積平均法及び多点平均法を用いる例について説明する。図19は、面積平均法を用いて標本化する場合のテクセルと表示パネル上の1画素サイズの平面充填図形に対応したテクスチャ上の平面充填図形との相対位置の第1例を示す図である。図19において、実線で示した格子はテクセルの境界線を示し、破線は平面充填図形を示している。図19では、平面充填図形のX方向の幅がテクセルの幅の1.5倍、平面充填図形のY方向の幅がテクセルの幅の2/3である例を示している。テクセルと平面充填図形の重なり方のバリエーションは、dx,dyがそれぞれ
0から1までの値を取るので、3×2個のテクセルと重なる可能性がある。また、S00、S10、S20、S01、S11、S21は、各テクセルと平面充填図形とが重なる領域の面積を示している。
【0164】
図19に示す例において、平面充填図形で示される線形空間の画素値Fは、下記(41)式で表せる。
【0165】
【数5】
【0166】
図20は、面積平均法を用いて標本化する場合のテクセルと平面充填図形との相対位置の第2例を示す図である。図20では、平面充填図形のX方向の幅がテクセルの幅の1.5×2倍、平面充填図形のY方向の幅がテクセルの幅の2/3×2倍である例を示している。また、S00、S10、S20、S30、S01、S11、S21、S31、S02、S12、S22、S32は、標本化点とテクセルの相対位置du,dv(それぞれテクセル単位で0から1まで)の幅で平面充填図形が重なる可能性のあるテクセルについて、各テクセルと平面充填図形が重なる領域の面積を示している。
【0167】
図20に示す例において、平面充填図形で示される線形空間の画素値Fは、下記(42)式で表せる。
【0168】
【数6】
【0169】
表示パネル110に送信される画素値fは、上記(41)式や上記(42)式で示される画素値Fに対し、ガンマ補正を適用した下記(43)式で表せる。
【0170】
【数7】
【0171】
図21は、多点平均法を用いて標本化する場合の平面充填図形のXY座標系上の大きさ及び向きを示すベクトルと中心位置とを示す図である。図21において、Vは、画素の中心位置である。また、ベクトルV,Vは、平面充填図形のXY座標系上の大きさ及び向きを示す。図22は、図21に示すXY座標系上の平面充填図形に対応するuv座標系上の図形を示す図である。図22において、Eは、図21に示す画素Pixの中心位置Vに対応する。また、ベクトルEは、図21に示すベクトルVに対応する。また、ベクトルEは、図21に示すベクトルVに対応する。標本化対象の副画素SPixのXY座標系上の位置Vは、uv座標系における中心の値E=(usQ,vsQ)が対応する。
【0172】
テクスチャ座標(usQ,vsQ)に基づき複数の位置から標本化して平均を取る多点平均法では、テクスチャの変形や回転に対応し易い。上述した座標変換テーブルには、副画素SPixのXY座標系上の位置に応じた複数のテクスチャ座標が含まれるため、標本化時に参照した座標変換テーブルの値からテクセル上の平面充填図形の大きさを求めることができる。
【0173】
複数の副画素SPixに対応する複数の座標変換テーブルから取得したテクスチャ座標(usQ,vsQ)、又はテクスチャ座標差分値(ΔusQ,ΔvsQ)の値に平行でない2つ以上の差分値が含まれている場合、その複数の差分値を一次独立したベクトルとして扱うことで、平面充填図形のuv座標系上の大きさ及び向きを示すベクトルE,Eを計算することができる。なお、座標変換テーブルに平行でない2つ以上の差分値が含まれていない場合、所定のXY座標系上のベクトルV,Vに相当するuv座標系上のベクトルE,Eを計算しておき、その値を保持するテーブルを予め作成して参照するようにしても良い。
【0174】
図23A図23B図23C図23Dは、多点平均法を用いて標本化する場合に平面充填図形を4分割した例を示す図である。図23A図23B図23C図23Dに示すように、平面充填図形を4分割する場合、標本化した線形空間における画素値Fは、下記(44)式及び(45)式で表せる。下記(44)式及び(45)式において、spijは標本化点を示している。また、下記(44)式において、Saは、uv座標系上のspijから画素値を得る関数である。
【0175】
【数8】
【0176】
【数9】
【0177】
上記(44)式において、α=1とした場合、各標本化点spijの位置は、図20Aに示す位置となる。また、上記(44)式において、α=0.5とした場合、各標本化点spijの位置は、図23Bに示す位置となる。また、上記(44)式において、α=2とした場合、各標本化点spijの位置は、図23Cに示す位置となる。
【0178】
上記(44)式におけるαの値を1以下とすれば、エイリアシングノイズの抑制効果(以下、「アンチエイリアシング効果」とも称する)は低くなるが、解像度を高めることができる。一方、上記(44)式におけるαの値を大きくすれば、アンチエイリアシング効果を高めることができる。
【0179】
なお、下記(46)式に示す平面充填図形のXY座標系上の中心位置Vを標本化点に加えても良い。
【0180】
【数10】
【0181】
図24は、多点平均法を用いて標本化する場合に平面充填図形を6分割した例を示す図である。図24に示すように、平面充填図形を6分割する場合、標本化点spijは下記(47)式で表せる。
【0182】
【数11】
【0183】
表示パネル110に送信される画素値fは、上記(44)式で示される画素値Fに対し、ガンマ補正を適用した下記(48)式で表せる。但し、表示パネル110の入力値が線形データの場合は、この処理は不要でFをそのまま出力すれば良い。
【0184】
【数12】
【0185】
以下、表示フレームごとに実行する画像変形処理の具体例について、図25及び図26を参照して説明する。
【0186】
図25は、実施形態に係る画像変形処理の第1例を示すフローチャートである。図26は、実施形態に係る画像変形処理の第2例を示すフローチャートである。図25に示す第1例では、図15に示す座標変換テーブルtb1Qを用いた画像変形処理の一例を示している。図26に示す第2例では、図16に示す座標変換テーブルtb2Qを用いた画像変形処理の一例を示している。
【0187】
図25に示す第1例では、画像生成装置200の記憶部220に副画素SPixごとの座標変換テーブルtb1Q(Q=R,G,B)が保持されていることを前提としている。図25に示す座標変換テーブルを用いた画像変形処理において、画像生成装置200の制御回路230は、画素値を生成する表示パネル110上の画素Pixを設定し(ステップS301)、1フレーム分の全画素について画素値の生成が終了したか否かを判定する(ステップS302)。
【0188】
1フレーム分の全画素について画素値の生成が終了していない場合(ステップS302;No)、制御回路230は、座標変換テーブルtb1Rを参照して、ステップS301において設定した画素Pixの副画素SPixRで標本化すべきテクスチャ座標を取得し(ステップS303)、上述した標本化手法を用いて当該副画素SPixRの画素値を算出する(ステップS304)。
【0189】
続いて、制御回路230は、座標変換テーブルtb1Gを参照して、ステップS301において設定した画素Pixの副画素SPixGで標本化すべきテクスチャ座標を取得し(ステップS305)、上述した標本化手法を用いて当該副画素SPixGの画素値を算出する(ステップS306)。
【0190】
続いて、制御回路230は、座標変換テーブルtb1Bを参照して、ステップS301において設定した画素Pixの副画素SPixBで標本化すべきテクスチャ座標を取得し(ステップS307)、上述した標本化手法を用いて当該副画素SPixBの画素値を算出する(ステップS308)。
【0191】
以降、ステップS301に戻り、制御回路230は、ステップS308までの処理を繰り返し行う。ステップS302において1フレーム分の全画素について画素値の生成が終了した場合(ステップS302;Yes)、1フレーム分の画像変形処理が終了する。
【0192】
図26に示す第2例では、画像生成装置200の記憶部220に副画素SPixごとの座標変換テーブルtb2Q(Q=R,G,B)が保持されていることを前提としている。図26に示す座標変換テーブルを用いた画像変形処理において、画像生成装置200の制御回路230は、まず、画素値を生成する表示パネル110上の画素Pixを設定し(ステップS401)、1フレーム分の全画素について画素値の生成が終了したか否かを判定する(ステップS402)。
【0193】
1フレーム分の全画素について画素値の生成が終了していない場合(ステップS402;No)、制御回路230は、基準となるポリゴンメッシュ(例えば、副画素SPixGに対応するポリゴンメッシュ)を用いて、ステップS401において設定した画素Pixの座標変換テーブルtb2Q(Q=R,G,B)の基準となるテクスチャ座標(例えば、副画素SPixGに対応するテクスチャ座標(ucG(x,y),vcG(x,y)))を取得する(ステップS403)。
【0194】
制御回路230は、座標変換テーブルtb2Rを参照して、ステップS401において設定した画素Pixの副画素SPixRで標本化すべき副画素SPixRに対応するテクスチャ座標を取得する(ステップS404)。具体的に、制御回路230は、上記式(7)式から(10)式を変形した下記(49)式及び(50)式を用いて、テクスチャ座標(usR(x,y),vsR(x,y))を算出する。
【0195】
sR(x,y)=ucG(x,y)+ΔusR(x,y)・・・(49)
【0196】
sR(x,y)=vcG(x,y)+ΔusR(x,y)・・・(50)
【0197】
そして、制御回路230は、上述した標本化手法を用いて当該副画素SPixRの画素値を算出する(ステップS405)。
【0198】
続いて、制御回路230は、座標変換テーブルtb2Gを参照して、ステップS401において設定した画素Pixの副画素SPixGで標本化すべき副画素SPixGに対応するテクスチャ座標を取得する(ステップS406)。具体的に、制御回路230は、上記式(7)式から(10)式を変形した下記(51)式及び(52)式を用いて、テクスチャ座標(usG(x,y),vsG(x,y))を算出する。
【0199】
sG(x,y)=ucG(x,y)+ΔusG(x,y)・・・(51)
【0200】
sG(x,y)=vcG(x,y)+ΔusG(x,y)・・・(52)
【0201】
そして、制御回路230は、上述した標本化手法を用いて当該副画素SPixGの画素値を算出する(ステップS407)。
【0202】
続いて、制御回路230は、座標変換テーブルtb2Bを参照して、ステップS401において設定した画素Pixの副画素SPixBで標本化すべき副画素SPixBに対応するテクスチャ座標を取得する(ステップS408)。具体的に、制御回路230は、上記式(7)式から(10)式を変形した下記(53)式及び(54)式を用いて、テクスチャ座標(usB(x,y),vsB(x,y))を算出する。
【0203】
sB(x,y)=ucG(x,y)+ΔusB(x,y)・・・(53)
【0204】
sB(x,y)=vcG(x,y)+ΔusB(x,y)・・・(54)
【0205】
そして、制御回路230は、上述した標本化手法を用いて当該副画素SPixBの画素値を算出する(ステップS409)。
【0206】
以降、ステップS401に戻り、制御回路230は、ステップS409までの処理を繰り返し行う。ステップS402において1フレーム分の全画素について画素値の生成が終了した場合(ステップS402;Yes)、1フレーム分の画像変形処理が終了する。
【0207】
以下、表示パネル110の画素配列の具体例について説明する。
【0208】
図27は、実施形態に係る表示パネルの画素配列の第1例を示す図である。図27に示す実施形態に係る表示パネル110の画素配列の第1例では、1ラインごとに各副画素SPixR、SPixG、SPixBがX方向に1つずつずれた、所謂モザイク配列の画素配列を有している。換言すれば、実施形態に係る表示パネル110の画素配列の第1例において、画素Pixは、赤(第1色:R)を表示するための副画素SPixR(第1画素)と、緑(第2色:G)を表示するための副画素SPixG(第2画素)と、青(第3色:B)を表示するための副画素SPixB(第3画素)と、を含む。X方向において、副画素SPixR(第1画素)が、副画素SPixG(第2画素)と副画素SPixB(第3画素)とに挟まれており、Y方向において、副画素SPixR(第1画素)が、副画素SPixG(第2画素)と副画素SPixB(第3画素)とに挟まれている。また、X方向において、副画素SPixG(第2画素)が、副画素SPixR(第1画素)と副画素SPixB(第3画素)とに挟まれており、Y方向において、副画素SPixG(第2画素)が、副画素SPixR(第1画素)と副画素SPixB(第3画素)とに挟まれている。また、X方向において、副画素SPixB(第3画素)が、副画素SPixG(第2画素)と副画素SPixR(第1画素)とに挟まれており、Y方向において、副画素SPixB(第3画素)が、副画素SPixG(第2画素)と副画素SPixR(第1画素)とに挟まれている。図27に示す例において、各副画素SPixR、SPixG、SPixBは四角形である。図27では、各副画素SPixR、SPixG、SPixBが四角形である例を示したが、各副画素SPixR、SPixG、SPixBの形状はこれに限らない。
【0209】
図28は、図27に示す画素配列における画素構成の第1例を示す図である。図28に示す例において、画素Pix(0,0)は、副画素SPixR(0,0)、副画素SPixG(1,0)、副画素SPixB(0,1)を含む。また、画素Pix(1,0)は、副画素SPixR(3,0)、副画素SPixG(2,1)、副画素SPixB(2,0)を含む。また、画素Pix(2,0)は、副画素SPixR(4,1)、副画素SPixG(4,0)、副画素SPixB(5,0)を含む。
【0210】
また、画素Pix(0,1)は、副画素SPixR(1,1)、副画素SPixG(0,2)、副画素SPixB(1,2)を含む。また、画素Pix(1,1)は、副画素SPixR(2,2)、副画素SPixG(3,2)、副画素SPixB(3,1)を含む。また、画素Pix(2,1)は、副画素SPixR(5,2)、副画素SPixG(5,1)、副画素SPixB(4,2)を含む。
【0211】
図28に示す画素構成では、X方向に3画素、Y方向に2画素の計6画素の構成が、X方向及びY方向に繰り返し生じている。この3×2の6画素を1画素ブロックとする。
【0212】
ここでは、図28に示す画素構成の実施形態に係る表示パネル110に対し、画像生成装置200の制御回路230は、画素Pix(sx,sy)ごとにそれぞれ副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素データを送信する例について説明する。sx、syは、それぞれ下記(55)式及び(56)式で表せる。下記(55)式及び(56)式において、%は、割り算の余りを求める演算を示す。
【0213】
sx=x%3・・・(55)
【0214】
sy=y%2・・・(56)
【0215】
図29は、図28に示す画素構成における画素データの定義を説明するための概念図である。図29では、各画素Pix(sx,sy)に対応する仮想的な中心位置を黒点で示している。各画素Pix(sx,sy)に対応する画素データは、各画素Pix(sx,sy)の仮想的な中心位置における副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む。この各画素Pix(sx,sy)の仮想的な中心位置と各副画素SPixの中心位置とのズレは、図12A及び図12Bにおいて説明した画素の代表的な位置に対する副画素の位置のズレに相当する。
【0216】
上述したように、図28に示す画素構成では、X方向に3画素、Y方向に2画素の計6画素の構成が、X方向及びY方向に繰り返し生じる。このため、図28に示す画素構成において、図12A及び図12Bに示す画素の代表的な位置に対する副画素の位置のズレを定義する4つの係数kxp、kxm、kyp、kymは、各画素Pix(sx,sy)のX方向の大きさ及びY方向の大きさを1に正規化した場合、図30で示される値となる。
【0217】
図30は、図28に示す画素構成における副画素ごとの4つの係数値を示す図である。図30において、4つの係数kxp、kxm、kyp、kymは、それぞれ、kxpQ、kxmQ、kypQ、kymQ(Q=R,G,B)で示される。これらの係数は、表示パネル110の画素構成に応じて決まる定数である。従って、図30に示す係数値をテーブル化して画像生成装置200の記憶部220に保持しておくことで、図15に示す座標変換テーブル、あるいは、図16に示す座標変換テーブルを生成することができる。
【0218】
図28に示す画素構成における各画素値の標本化手法としては、上述した面積平均法や多点平均法を用いることができる。以下、多点平均法を用いて、図28に示す画素構成における画素値の算出例について説明する。
【0219】
図31は、図28に示す画素構成において多点平均法を用いた標本化手法に適用する平面充填図形の一例を示す図である。図31では、副画素SPixGを中心として表示パネル110の表示領域111を斜めに区切った平面充填図形で充填した例を示している。
【0220】
図32は、図31に示す平面充填図形のXY座標上の大きさ及び向きを示すベクトルを示す図である。図32において、ベクトルV及びベクトルVは、表示パネル110の表示領域111上の平面充填図形の領域を示している。換言すれば、図32に示す平面充填図形は、X方向及びY方向とは異なる2方向のベクトルV及びベクトルVで示される菱形形状を有している。ベクトルVは、隣接する同色の副画素SPix間の間隔のベクトルを示し、ベクトルVは、ベクトルVに直交し、斜め方向に並ぶ同色の副画素SPix間の距離(=1.2画素)に等しいベクトルを示している。このベクトルV及びベクトルVは、下記(57)式及び(58)式で示される。
【0221】
=0.96x-(2/3)y・・・(57)
【0222】
=-0.5x-0.72y・・・(58)
【0223】
座標変換テーブルtb2Q(Q=R,B,G)を導出する際、基準となるポリゴンメッシュとして、副画素SPixGに対応するポリゴンメッシュを用いた場合、副画素SPixGの座標変換テーブルtb2Gには、色収差補正の影響は含まれず、画素Pixの仮想的な中心位置と副画素SPixGの中心位置との差分のみが反映されている。従って、ベクトルV及びベクトルVに対応するuv座標系上のベクトルE,Eは、副画素SPixGの座標変換テーブルtb2Gに含まれる値から導出することができる。図33は、図28に示す画素配列において多点平均法を用いた標本化手法に適用する平面充填図形のベクトルの一例を示す図である。
【0224】
図33に示すように、図28に示す画素配列において、画素Pix(1,0)の副画素SPixG(2,1)の中心位置から画素Pix(1,0)の仮想的な中心位置を示すベクトルをVG10、画素Pix(1,1)の副画素SPixG(3,2)の中心位置から画素Pix(1,1)の仮想的な中心位置を示すベクトルをVG11として、ベクトルVG10及びベクトルVG11は、下記(59)式及び(60)式で表せる。
【0225】
VG10=-0.25x+0.5y・・・(59)
【0226】
VG11=0.25x+(1/6)y・・・(60)
【0227】
このベクトルVG10及びベクトルVG11を用いて、図32に示す平面充填図形のXY座標上のベクトルV及びベクトルVは、下記(61)式及び(62)式で示される。
【0228】
=-1.96VG10+1.88VG11・・・(61)
【0229】
=-0.58VG10-2.58VG11・・・(62)
【0230】
上記(59)式、(60)式、(61)式、及び(62)式は、近似的にuv座標系上でも成立するので、実際の画素値を得る処理では、ベクトルVG10及びベクトルVG に相当するテクスチャ座標上のベクトルEG10及びベクトルEG11を作り、ベクトルVに相当するベクトルE、ベクトルVに相当するベクトルEを計算できる。従って、副画素SPixGの座標変換テーブルtb2Gから、標本化する画素に近い位置にある、画素Pix(1,0)に相当する画素の副画素SPixGに対応する差分値と、画素Pix(1,1)に相当する画素の副画素SPixGに対応する差分値とを参照することで、近似的なベクトルEG10及びベクトルEG11が得られる。このベクトルEG 及びベクトルEG11を用いて、上記(61)式及び(62)式によりベクトルE及びベクトルEを算出することができる。このようにして算出したベクトルE及びベクトルEを用いれば、上記(44)式から(48)式による標本化点の導出が可能となる。
【0231】
図34は、実施形態に係る表示パネルの画素構成の第2例を示す図である。図34では、副画素SPixR、副画素SPixG、副画素SPixBのうちの2つを1画素単位とした例を示している。すなわち、1つの画素Pixに含まれる副画素の色数は、入力画像に定義された色数(R(赤)、G(緑)、B(青)の3色)よりも少ない。
【0232】
図34に示す画素構成では、図9に示す表示システム1に入力される元の画像データに対し、表示パネル110の表示画像の画質劣化を抑制するため、所謂サブピクセルレンダリング処理を行う。本開示では、画像生成装置200の制御回路230で画像変形処理を行う際に、表示パネル110の画素構成に応じたサブピクセルレンダリング処理を反映した画素データを生成し、表示装置100に送信することで、表示装置100側でサブピクセルレンダリング処理を行う必要がなくなるため、表示パネル110の表示制御回路112での処理を軽減することができる。このサブピクセルレンダリング処理の手法により本開示が限定されるものではない。
【0233】
図34に示す画素構成では、X方向に3画素、Y方向に3画素の計9画素の構成が、X方向及びY方向に繰り返し生じている。この3×3の9画素を1画素ブロックとする。
【0234】
各画素(sx,sy)において、sx、syは、それぞれ下記(63)式及び(64)式で表せる。下記(63)式及び(64)式において、%は、割り算の余りを求める演算を示す。
【0235】
sx=x%3・・・(63)
【0236】
sy=y%3・・・(64)
【0237】
図34に示す例において、画素Pix(0,0)は、副画素SPixR(0,0)、副画素SPixG(1,0)を含む。また、画素Pix(1,0)は、副画素SPixB(2,0)、副画素SPixG(3,0)を含む。また、画素Pix(2,0)は、副画素SPixG(4,0)、副画素SPixB(5,0)を含む。
【0238】
また、画素Pix(0,1)は、副画素SPixB(0,1)、副画素SPixR(1,1)を含む。また、画素Pix(1,1)は、副画素SPixG(2,1)、副画素SPixB(3,1)を含む。また、画素Pix(2,1)は、副画素SPixR(4,1)、副画素SPixG(5,1)を含む。
【0239】
また、画素Pix(0,2)は、副画素SPixG(0,2)、副画素SPixB(1,2)を含む。また、画素Pix(1,2)は、副画素SPixR(2,2)、副画素SPixG(3,2)を含む。また、画素Pix(2,2)は、副画素SPixB(4,2)、副画素SPixR(5,2)を含む。
【0240】
ここでは、図34に示す画素構成の実施形態に係る表示パネル110に対し、画像生成装置200の制御回路230は、図28に示す画素構成の画素Pix(sx,sy)ごとにそれぞれ副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素データを送信する。この場合、図12A及び図12Bに示す画素の代表的な位置に対する副画素の位置のズレを定義する4つの係数kxp、kxm、kyp、kymは、各画素Pix(sx,sy)のX方向の大きさ及びY方向の大きさを1に正規化した場合、図35で示される値となる。
【0241】
図35は、図34に示す画素構成における副画素ごとの4つの係数値を示す図である。図35において、「-」は、対応するデータが存在しないことを示している。例えば、図34に示す画素構成において、画素Pix(0,0)、画素(2,1)、画素(1,2)は、副画素SPixBを有していない。また、画素Pix(1,0)、画素(0,1)、画素(2,2)は、副画素SPixGを有していない。また、画素Pix(2,0)、画素(1,1)、画素(0,2)は、副画素SPixRを有していない。
【0242】
図34に示す画素構成の画素Pix(sx,sy)ごとにそれぞれ副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素データを送信する場合、それぞれの画素Pix(sx,sy)で有していない副画素SPixの画素データを「Null」値として送信する必要があり、実際に表示されるデータ量に対して無駄が生じる。
【0243】
そこで、送信の無駄をなくすために、例えば、図28に示す画素構成の画素Pix(sx,sy)ごとにそれぞれ副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素の配置にデータを当てはめて、例えば、図9に示した一般的な画像データ形式にまとめたデータを送信することで、実際に表示されるデータ量に対して無駄を生じることなく、効率的なデータ送信が可能となる。なお、図28に示す画素構成では、一つの画素Pixに3つの副画素SPixを含むため、図34に示す画素構成に対して画像のY方向の画素数が2/3となり、画像データ形式上のX方向の画素数とY方向の画素数との比率が変わってしまう。しかし、データ送信時の画像データ圧縮アルゴリズムの多くは、RGBの3つのデータを輝度と色差に分解して圧縮するため、例えば、図9に示した一般的な画像データ形式とし、副画素SPixR、副画素SPixG、及び副画素SPixのデータを1つの画素データとすることで、多くの画像データ圧縮アルゴリズムにも適用できる様になり好都合である。
【0244】
副画素SPixR、副画素SPixG、副画素SPixBのうちの2つを1画素単位として表示を行う場合の画素構成は、図34に示す画素構成に限定されない。また、本開示では、表示パネル110の画素配列としてモザイク配列を例示したが、これに限らず、例えば、デルタ配列やペンタイル配列等であっても良い。
【0245】
また、表示パネル110に対し、画像生成装置200の制御回路230から副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素データを送信する際のフォーマットは、図28に示す画素構成の画素Pix(sx,sy)ごとにそれぞれ副画素SPixR、副画素SPixG、及び副画素SPixBの画素値を含む画素データを送信する態様に限定されない。図36A及び図36Bは、画素データの送信フォーマットの図28とは異なる例を示す概念図である。
【0246】
図36A及び図36Bに示す例では、基本的にはX方法に並ぶ各副画素SPixR、SPixG、SPixBを1つの画素Pixとして画素データを送る態様とし、y=1ライン目の副画素SPixB(0,1)の画素データを最終列の副画素SPixGの後に付加して1つの画素Pixとして画素データを送り、y=2ライン目の副画素SPixG(0,2)及び副画素SPixB(1,2)の画素データを最終列の副画素SPixRの後に付加して1つの画素Pixとして画素データを送る。これにより、X方向の画素データ数を各ラインで同数とすることができる。また、X方向両端に位置する不足分の画素データを「Null」値として送信する必要がなく、効率的なデータ送信が可能となる。
【0247】
また、上述したように、図15に示す座標変換テーブルtb1Q(Q=R,G,B)や、図16に示す座標変換テーブルtb2Q(Q=R,G,B)は、各副画素SPixR、SPixG、SPixBに対応した3つのテーブルが必要となる。また、本開示では、表示システム1に入力される画像を幾何学的に変形させるため、厳密には、表示パネル110に表示する画像を構成する全ての副画素SPixに対応した個別のデータが必要となる。このため、画像生成装置200の記憶部220の記憶容量に対する負荷が大きくなる。
【0248】
図37A及び図37Bは、座標変換テーブルの変形例を示す概念図である。図37Aでは、副画素SPixごとにデータ値を設けた概念図を示している。図37Bでは、上述した1画素ブロックごとのデータ値の変化が小さい領域において、複数の画素ブロックで同一のデータを適用する概念図を示している。図37Bに示す例では、例えば、図37Aに示す3×2の6画素の画素ブロック(0,0)、(1,0)、(2,0)、(0,1)、(1,1)、(2,1)、(0,2)、(1,2)、(2,2)のデータ値を同一のデータ値としている。このように、X方向及びY方向の3×3の9ブロックの画素ブロックのデータ値を同一のデータ値とすることで、全体としての座標変換テーブルtb2Q(Q=R,G,B)のデータ量を1/9に削減することができる。
【0249】
なお、図37Bでは、X方向に3画素、Y方向に2画素の計6画素の構成を1画素ブロックとした例を示したが、画素ブロックの構成はこれに限らない。例えば、図34に示すように、X方向に3画素、Y方向に3画素の計9画素の構成を1画素ブロックとした構成であっても良いし、1画素で1画素ブロックとした構成であっても良い。また、図37A及び図37Bでは座標変換テーブルtb2Q(Q=R,G,B)の変形例を示したが、座標変換テーブルtb1Q(Q=R,G,B)についても同様である。
【0250】
図38は、実施形態に係る表示パネルの画素配列の第2例を示す図である。図38に示す実施形態に係る表示パネル110の画素配列の第2例では、RGBストライプ配列の画素配列を有している。RGBストライプ配列では、X方向に副画素SPixR、SPixG、SPixBが同一順に並ぶ画素PixがX方向及びY方向にマトリクス状に配列されている。図38に示すRGBストライプ配列の画素構成に本開示を適用する場合、図12A及び図12Bに示す画素の代表的な位置に対する副画素の位置のズレを定義する4つの係数kxp、kxm、kyp、kymは、各画素Pix(sx,sy)のX方向の大きさ及びY方向の大きさを1に正規化した場合、図39で示される値となる。
【0251】
図39は、図38に示すRGBストライプ配列の画素構成における副画素ごとの4つの係数値を示す図である。図39に示すように、RGBストライプ配列では、副画素SPixGに対応する係数値が全て0となり、画素Pix(x,y)の中心位置と副画素SPixGの中心位置とが重なる。従って、副画素SPixG用の座標変換テーブルtb1Gや座標変換テーブルtb2Gは不要となる。
【0252】
図38に示すように、表示パネル110の画素配列がRGBストライプ配列である場合でも、表示システム1に入力される元の画像の画像データに対して解像度変換処理等を行う場合、画像生成装置200の制御回路230で画像変形処理を行う際に、表示パネル110の解像度に応じた解像度変換処理を反映した画像データを生成し、表示装置100に送信することで、表示装置100側で解像度変換処理を行う必要がなくなるため、表示パネル110の表示制御回路112での処理を軽減することができる。この解像度変換処理の手法により本開示が限定されるものではない。
【0253】
本実施形態により、表示システム1は、表示パネルの画素配列に応じたデータ量で画像データの送受信を行うことができる。
【0254】
以上、本開示の好適な実施の形態を説明したが、本開示はこのような実施の形態に限定されるものではない。実施の形態で開示された内容はあくまで一例にすぎず、本開示の趣旨を逸脱しない範囲で種々の変更が可能である。例えば、本開示の趣旨を逸脱しない範囲で行われた適宜の変更についても、当然に本発明の技術的範囲に属する。
【符号の説明】
【0255】
1 表示システム
100 表示装置
110 表示パネル
111 表示領域
112 表示制御回路
113 信号線接続回路
114 走査線駆動回路
115 ドライバIC
200 画像生成装置
230 制御回路
300 ケーブル
400 装着部材
410 レンズ
BM 遮光層
CF,CFR,CFG,CFB カラーフィルタ
COM 共通電極
LC 液晶層
GL,G1,G2,G3 走査線
PE,PE1,PE2,PE3 画素電極
Pix 画素
SPix,SPixR,SPixG,SPixB 副画素
SL,S1,S2,S3 信号線
SUB1 アレイ基板
SUB2 対向基板
tb1Q 座標変換テーブル
tb2Q 座標変換テーブル
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12A
図12B
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23A
図23B
図23C
図23D
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36A
図36B
図37A
図37B
図38
図39