(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-03-21
(45)【発行日】2025-03-31
(54)【発明の名称】3次元画像表示システムの設定方法
(51)【国際特許分類】
H04N 13/327 20180101AFI20250324BHJP
H04N 13/125 20180101ALI20250324BHJP
H04N 13/302 20180101ALI20250324BHJP
H04N 13/366 20180101ALI20250324BHJP
B60K 35/235 20240101ALI20250324BHJP
B60K 35/231 20240101ALI20250324BHJP
G02B 30/30 20200101ALI20250324BHJP
G02B 27/01 20060101ALI20250324BHJP
【FI】
H04N13/327
H04N13/125
H04N13/302
H04N13/366
B60K35/235
B60K35/231
G02B30/30
G02B27/01
(21)【出願番号】P 2023525914
(86)(22)【出願日】2022-06-02
(86)【国際出願番号】 JP2022022529
(87)【国際公開番号】W WO2022255459
(87)【国際公開日】2022-12-08
【審査請求日】2023-12-01
(31)【優先権主張番号】P 2021093023
(32)【優先日】2021-06-02
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】100186060
【氏名又は名称】吉澤 大輔
(74)【代理人】
【識別番号】100075557
【氏名又は名称】西教 圭一郎
(72)【発明者】
【氏名】草深 薫
(72)【発明者】
【氏名】佐藤 昭典
(72)【発明者】
【氏名】林下 歩樹
【審査官】薄井 義明
(56)【参考文献】
【文献】特開2019-054513(JP,A)
【文献】特開2018-090170(JP,A)
【文献】特開2014-228852(JP,A)
【文献】特開2020-077913(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/327
H04N 13/125
H04N 13/302
H04N 13/366
B60K 35/235
B60K 35/231
G02B 30/30
G02B 27/01
(57)【特許請求の範囲】
【請求項1】
3次元画像表示システムの設定方法であって、
前記3次元画像表示システムは、
右眼画像および左眼画像を含む視差画像を表示可能に構成される表示パネルと、
右眼画像および左眼画像の光線方向を規定可能に構成される光学パネルと、
光線方向が規定された右眼画像および左眼画像を反射するように構成される反射板と、
当該3次元画像表示システムの利用者の顔が有ると想定される領域の画像を含む第1撮像画像を撮像可能に構成される第1カメラと、
第2撮像画像を撮像可能に構成される第2カメラと、
前記第1撮像画像に基づいて利用者の少なくとも一方の眼の位置を第1位置として検出可能に構成される第1制御部と、
第1パラメータ(但し、前記第1パラメータは、前記表示パネルに表示された左眼視認領域または右眼視認領域におけるサブピクセルの位置ずれを示す位相で表される)の第1分布および前記第1位置に基づいて右眼画像および左眼画像を含む視差画像を生成可能に構成される第2制御部と、
前記サブピクセルの経時的な位置ずれによって、前記第1パラメータが変化している場合、前記第1パラメータの第2分布を算出可能に構成される第3制御部と、を備え、
前記反射板で反射した視差画像を撮像可能な位置に前記第2カメラを移動させる工程と、
前記表示パネルに、複数のテスト画像を順次表示させるとともに、前記反射板で反射した前記複数のテスト画像を前記第2カメラで順次撮像して、複数の第2撮像画像を取得する工程と、
前記複数の第2撮像画像に基づいて、前記第2分布を算出する工程と、
算出された第2分布を前記第1分布に変更する工程と、を含む、3次元画像表示システムの設定方法。
【請求項2】
請求項1記載の3次元画像表示システムの設定方法であって、
前記第2カメラは、ゲインおよび露光時間を固定して前記複数のテスト画像を撮像するように構成される、3次元画像表示システムの設定方法。
【請求項3】
請求項1または2記載の3次元画像表示システムの設定方法であって、
前記第3制御部が前記第2分布を算出する工程において、
前記第3制御部は、
前記複数のテスト画像からそれぞれの輝度分布を抽出し、
当該それぞれの輝度分布から前記第2分布を算出する、3次元画像表示システムの設定方法。
【請求項4】
請求項1
または2に記載の3次元画像表示システムの設定方法であって、
前記第2制御部は、
前記第1位置と基準位置との距離に応じて、前記第1パラメータを第1分布の値から増減させ、
増減後の第1パラメータに対応させて、右眼画像および左眼画像を含む視差画像を生成するように構成される、3次元画像表示システムの設定方法。
【請求項5】
請求項1
または2に記載の3次元画像表示システムの設定方法であって、
前記第1撮像画像に基づいて、前記複数のテスト画像を順次撮像するときの前記第2カメラの位置を第2位置として検出する工程、をさらに含み、
前記第1パラメータの第2分布を算出する工程において、
前記第3制御部は、前記複数のテスト画像および少なくとも1つの前記第2位置に基づいて前記第2分布を算出する、3次元画像表示システムの設定方法。
【請求項6】
請求項5記載の3次元画像表示システムの設定方法であって、
前記第2カメラは、前記第1制御部で位置を検出可能なオブジェクトに対して取り付けられており、
前記第1制御部は、前記オブジェクトの位置から間接的に前記第2位置を検出するように構成される、3次元画像表示システムの設定方法。
【請求項7】
請求項6記載の3次元画像表示システムの設定方法であって、
前記第1制御部は、前記第2カメラが取り付けられた前記オブジェクトの位置に基づいて前記第1カメラの校正を実行するように構成される、3次元画像表示システムの設定方法。
【請求項8】
請求項7記載の3次元画像表示システムの設定方法であって、
前記第1カメラの校正は、前記第2カメラを移動させる工程より前に実行される、3次元画像表示システムの設定方法。
【請求項9】
請求項1
または2に記載の3次元画像表示システムの設定方法であって、
前記第1制御部、前記第2制御部および前記第3制御部のうちの少なくとも2つは、1つのコントローラによって構成される、3次元画像表示システムの設定方法。
【請求項10】
請求項1
または2に記載の3次元画像表示システムの設定方法であって、
前記3次元画像表示システムは、
光線方向が規定された右眼画像および左眼画像に光学的な処理を行うように構成され、右眼画像および左眼画像を前記反射板に導くように構成される光学素子を、さらに備える、3次元画像表示システムの設定方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、3次元画像表示システムの設定方法に関する。
【発明の概要】
【0002】
本開示の一実施形態に係る3次元画像表示システムの設定方法は、
前記3次元画像表示システムは、
右眼画像および左眼画像を含む視差画像を表示可能に構成される表示パネルと、
右眼画像および左眼画像の光線方向を規定可能に構成される光学パネルと、
光線方向が規定された右眼画像および左眼画像を反射するように構成される反射板と、
当該3次元画像表示システムの利用者の顔が有ると想定される領域の画像を含む第1撮像画像を撮像可能に構成される第1カメラと、
第2撮像画像を撮像可能に構成される第2カメラと、
前記第1撮像画像に基づいて利用者の少なくとも一方の眼の位置を第1位置として検出可能に構成される第1制御部と、
第1パラメータの第1分布および前記第1位置に基づいて右眼画像および左眼画像を含む視差画像を生成可能に構成される第2制御部と、
前記第1パラメータの第2分布を算出可能に構成される第3制御部と、を備え、
前記反射板で反射した視差画像を撮像可能な位置に前記第2カメラを移動させる工程と、
前記表示パネルに、複数のテスト画像を順次表示させるとともに、前記反射板で反射した前記複数のテスト画像を前記第2カメラで順次撮像して、複数の第2撮像画像を取得する工程と、
前記複数の第2撮像画像に基づいて、前記第2分布を算出する工程と、
算出された第2分布を前記第1分布に変更する工程と、を含む。
【発明の効果】
【0003】
本開示の一実施形態に係る3次元画像表示システムの設定方法によれば、利用者が3次元画像を適切に視認することができる。
【図面の簡単な説明】
【0004】
【
図1】3次元画像表示システムが搭載された移動体の概略構成の一例を示す図である。
【
図2】3次元画像表示システムの概略構成の一例を示す図である。
【
図3】運転者の眼と表示パネルとバリア部との関係を示す模式図である。
【
図4A】表示パネルを模式的に示した正面図である。
【
図5B】左眼視認領域における視認可能なサブピクセルがずれた状態を示す図である。
【
図7A】左眼視認領域におけるサブピクセルの位置を示す図である。
【
図8A】左眼視認領域における他の例のサブピクセルの位置を示す図である。
【
図10】3次元画像表示システムの設定処理を説明するためのフロー図である。
【
図11】3次元画像表示システムが搭載された移動体の概略構成の他の例を示す図である。
【発明を実施するための形態】
【0005】
本開示の目的、特色、および利点は、下記の詳細な説明と図面とからより明確になるであろう。
【0006】
表示パネルから出射される画像光の一部を利用者の右眼に到達させ、表示パネルから出射される画像光の他の一部を利用者の左眼に到達させることで、利用者の両眼に視差を与えて3次元画像を視認させる3次元画像表示システムが知られている。
【0007】
表示パネルから出射される画像光は、光学パネルなどによって光線方向が規定されることで、その一部が右眼または左眼に到達する。また、表示パネルから出射される画像光は、反射板などを介して間接的に利用者の両眼に到達させることもできる。
【0008】
3次元画像表示システムの組み立てまたは設置時に、光学パネルの位置ずれが生じたり、反射板の位置ずれが生じる場合がある。組み立てまたは設置時に位置ずれが生じていないとしても、または3次元画像の視認に問題が無い程度の位置ずれであったとしても、3次元画像表示システムを使用しているうちに、光学パネルまたは反射板の位置が経時的に変化したり、光学パネルまたは反射板自体が変形する場合もある。これらの位置ずれまたは変形によって、利用者が適切に3次元画像を視認できないおそれがある。
【0009】
本開示は、利用者が3次元画像を適切に視認することが可能な3次元画像表示システムの設定方法を提供することを目的とする。
【0010】
以下、本開示の実施形態について、図面を参照しながら詳細に説明する。なお、以下の説明で用いられる図は模式的なものである。図面上の寸法比率等は現実のものとは必ずしも一致していない。
【0011】
本開示の一実施形態に係る設定方法は、3次元画像表示システム100によって実行される。
図1は、3次元画像表示システムが搭載された移動体の概略構成の一例を示す図である。
図1に示されるように、3次元画像表示システム100は、移動体10に搭載されてよい。3次元画像表示システム100は、例えば、検出装置50と、3次元投影装置12と、を備えてよい。
【0012】
本開示における「移動体」は、例えば車両、船舶、及び航空機等を含んでよい。車両は、例えば自動車、産業車両、鉄道車両、生活車両、及び滑走路を走行する固定翼機等を含んでよい。自動車は、例えば乗用車、トラック、バス、二輪車、及びトロリーバス等を含んでよい。産業車両は、例えば農業及び建設向けの産業車両等を含んでよい。産業車両は、例えばフォークリフト及びゴルフカート等を含んでよい。農業向けの産業車両は、例えばトラクター、耕耘機、移植機、バインダー、コンバイン、及び芝刈り機等を含んでよい。建設向けの産業車両は、例えばブルドーザー、スクレーパー、ショベルカー、クレーン車、ダンプカー、及びロードローラ等を含んでよい。車両は、人力で走行するものを含んでよい。車両の分類は、上述した例に限られない。例えば、自動車は、道路を走行可能な産業車両を含んでよい。複数の分類に同じ車両が含まれてよい。船舶は、例えばマリンジェット、ボート、及びタンカー等を含んでよい。航空機は、例えば固定翼機及び回転翼機等を含んでよい。以下では、移動体10が、乗用車である場合を例として説明する。移動体10は、乗用車に限らず、上記例のいずれかであってよい。
【0013】
検出装置50は、第1カメラ11Aおよび第1制御部15を含む。第1カメラ11Aは、3次元画像表示システム100の利用者13の顔が有ると想定される領域の画像を含む第1撮像画像を撮像可能に構成される。本実施形態において、利用者13は、例えば、乗用車である移動体10の運転者であってよい。運転者の顔が有ると想定される領域は、例えば、運転者用シートの上部付近であってよい。第1カメラ11Aは、移動体10に取り付けられてよい。第1カメラ11Aの取り付け位置は、移動体10の内部及び外部において任意である。
【0014】
第1カメラ11Aは、可視光カメラまたは赤外線カメラであってよい。第1カメラ11Aは、可視光カメラと赤外線カメラの両方の機能を有していてよい。第1カメラ11Aは、例えばCCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含んでよい。
【0015】
第1カメラ11Aで撮像された第1撮像画像は、第1制御部15に出力される。第1制御部15は、第1撮像画像に基づいて利用者13の眼5の少なくとも一方の位置を第1位置として検出可能に構成される。検出装置50による検出結果は、利用者13の眼5の瞳孔位置を示す座標情報であってよい。
【0016】
検出装置50は、例えば、センサを含んでよい。センサは、超音波センサ又は光センサ等であってよい。第1カメラ11Aは、センサによって利用者13の頭部の位置を検出するように構成され、頭部の位置に基づいて、利用者13の眼5の位置を検出するように構成されうる。第1カメラ11Aは、2つ以上のセンサによって、利用者13の眼5の位置を三次元空間の座標として検出するように構成されうる。
【0017】
検出装置50は、検出した眼5の瞳孔位置に関する座標情報を3次元投影装置12に出力するように構成される。この座標情報に基づいて、3次元投影装置12は、投影する画像を制御するように構成してよい。検出装置50は、有線通信又は無線通信を介して眼5の瞳孔位置を示す情報を3次元投影装置12へ出力するように構成してよい。有線通信は、例えばCAN(Controller Area Network)等を含みうる。
【0018】
検出装置50は、第1制御部15が外部装置であってよい。第1カメラ11Aは、撮像画像を外部の第1制御部15に出力するように構成してよい。この外部の第1制御部15では、第1カメラ11Aから出力された画像から、利用者13の眼5の瞳孔位置を検出するように構成されてよい。この外部の第1制御部15は、検出した眼5の瞳孔位置に関する座標情報を3次元投影装置12に出力するように構成してよい。この座標情報に基づいて、3次元投影装置12は、投影する画像を制御するように構成してよい。第1カメラ11Aは、有線通信又は無線通信を介して撮像した第1撮像画像を外部の第1制御部15へ出力するように構成してよい。外部の第1制御部15は、有線通信又は無線通信を介して座標情報を3次元投影装置12へ出力するように構成してよい。有線通信は、例えばCAN等を含みうる。
【0019】
3次元投影装置12の位置は、移動体10の内部及び外部において任意である。例えば、3次元投影装置12は、移動体10のダッシュボード内に位置してよい。3次元投影装置12は、ウインドシールド25に向けて画像光を射出するように構成される。
【0020】
ウインドシールド25は、3次元投影装置12から射出された画像光を反射するように構成される反射板である。ウインドシールド25で反射された画像光は、アイボックス16に到達する。アイボックス16は、例えば利用者13の体格、姿勢、及び姿勢の変化等を考慮して、利用者13の眼5が存在しうると想定される実空間上の領域である。アイボックス16の形状は任意である。アイボックス16は、平面的又は立体的な領域を含んでよい。
図1に示されている実線の矢印は、3次元投影装置12から射出される画像光の少なくとも一部がアイボックス16まで到達する経路を示す。画像光が進む経路は、光路とも称される。3次元投影装置12から射出される画像光は、右眼画像および左眼画像を含む視差画像を示す。利用者13の眼5がアイボックス16内に位置する場合、利用者13は、アイボックス16に到達する視差画像の画像光によって、虚像14を視認可能である。虚像14は、ウインドシールド25から眼5に到達する経路を移動体10の前方に延長した経路(図では、二点鎖線で示されている直線)の上に位置する。3次元投影装置12は、利用者13に虚像14を視認させることによって、ヘッドアップディスプレイとして機能しうる。
図1において、利用者13の眼5が並ぶ方向は、x軸方向に対応する。鉛直方向は、y軸方向に対応する。第1カメラ11Aの撮像範囲は、アイボックス16を含む。
【0021】
図2に示されるように、3次元投影装置12は、3次元表示装置17と、光学素子18とを備える。3次元表示装置17は、バックライト19と、表示面20aを有する表示パネル20と、バリア部21と、第2制御部24とを備えうる。3次元表示装置17は、記憶部23をさらに備えてよい。第2制御部24は、表示パネル20に表示させる視差画像を生成可能に構成される。
【0022】
光学素子18は、例えば、第1ミラー18aと、第2ミラー18bとを含んでよい。第1ミラー18a及び第2ミラー18bの少なくとも一方は、光学的なパワーを有してよい。本実施形態において、第1ミラー18aは、光学的なパワーを有する凹面鏡であるとする。第2ミラー18bは、平面鏡であるとする。光学素子18は、3次元表示装置17に表示された視差画像を拡大する拡大光学系として機能してよい。
図2に示される二点鎖線の矢印は、3次元表示装置17から射出される画像光の少なくとも一部が、第1ミラー18a及び第2ミラー18bによって反射され、3次元投影装置12の外部に射出される際の経路を示す。3次元投影装置12の外部に射出された画像光は、ウインドシールド25に到達し、ウインドシールド25で反射されて利用者13の眼5に到達する。その結果、利用者13は、3次元表示装置17に表示された視差画像を視認できる。
【0023】
光学素子18とウインドシールド25とは、3次元表示装置17から射出させる画像光を利用者13の眼5に到達させうるように構成される。光学系は、利用者13に視認させる画像が拡大したり縮小したりするように、画像光の進行方向を制御するように構成してよい。光学系は、利用者13に視認させる画像の形状を所定の行列に基づいて変形させるように、画像光の進行方向を制御するように構成してよい。
【0024】
光学素子18は、例示される構成に限られない。ミラーは、凹面鏡であってよいし、凸面鏡であってよいし、平面鏡であってよい。ミラーが凹面鏡又は凸面鏡である場合、その形状は、少なくとも一部に球面形状を含んでよいし、少なくとも一部に非球面形状を含んでよい。光学素子18を構成する要素の数は、2つに限られず、1つであってよいし、3つ以上であってよい。光学素子18は、ミラーに限られずレンズを含んでよい。レンズは、凹面レンズであってよいし、凸面レンズであってよい。レンズの形状は、少なくとも一部に球面形状を含んでよいし、少なくとも一部に非球面形状を含んでよい。
【0025】
バックライト19は、画像光の光路上において、利用者13から見て、表示パネル20及びバリア部21よりも遠い側に位置する。バックライト19は、バリア部21と表示パネル20とに向けて光を射出する。バックライト19が射出した光の少なくとも一部は、二点鎖線で示されている光路に沿って進行し、利用者13の眼5に到達する。バックライト19は、LED(Light Emission Diode)又は有機EL若しくは無機EL等の発光素子を含んでよい。バックライト19は、発光強度、及び、その分布を制御可能に構成されてよい。
【0026】
表示パネル20は、例えば、LCD(Liquid Crystal Display)等の液晶デバイスであってよい。本実施形態において、表示パネル20は、透過型の液晶表示パネルを含むとする。表示パネル20は、この例に限られず、種々の表示パネルを含んでよい。
【0027】
表示パネル20は、複数の画素を有し、各画素においてバックライト19から入射する光の透過率を変更し、利用者13の眼5に到達する画像光として射出するように構成される。利用者13は、表示パネル20の各画素から射出される画像光によって構成される画像を視認する。
【0028】
バリア部21は、入射してくる光の進行方向を規定するように構成される光学パネルである。
図2の例に示すように、バリア部21が表示パネル20よりもバックライト19に近い側に位置する場合、バックライト19から射出される光は、バリア部21に入射し、さらに表示パネル20に入射する。この場合、バリア部21は、バックライト19から射出される光の一部を遮ったり減衰させたりし、他の一部を表示パネル20に向けて透過させるように構成される。表示パネル20は、バリア部21によって規定された方向に進行する入射光を、同じ方向に進行する画像光としてそのまま射出する。表示パネル20がバリア部21よりもバックライト19に近い側に位置する場合、バックライト19から射出される光は、表示パネル20に入射し、さらにバリア部21に入射する。この場合、バリア部21は、表示パネル20から射出される画像光の一部を遮ったり減衰させたりし、他の一部を利用者13の眼5に向けて透過させるように構成される。
【0029】
表示パネル20とバリア部21とのどちらが利用者13の近くに位置するかにかかわらず、バリア部21は、画像光の進行方向を制御できるように構成される。バリア部21は、表示パネル20から射出される画像光の一部を利用者13の左眼5L及び右眼5R(
図4参照)のいずれかに到達させ、画像光の他の一部を利用者13の左眼5L及び右眼5Rの他方に到達させるように構成される。つまり、バリア部21は、画像光の少なくとも一部の進行方向を利用者13の左眼5Lと右眼5Rとに分けるように構成される。左眼5L及び右眼5Rはそれぞれ、第1眼及び第2眼ともいう。本実施形態において、バリア部21は、バックライト19と表示パネル20との間に位置する。つまり、バックライト19から射出される光は、先にバリア部21に入射し、次に表示パネル20に入射する。
【0030】
バリア部21によって画像光の進行方向が規定されることによって、利用者13の左眼5L及び右眼5Rそれぞれに異なる画像光が到達しうる。その結果、利用者13は、左眼5L及び右眼5Rそれぞれで異なる画像を視認しうる。利用者13の眼5はウインドシールド25よりもz軸の負の方向の側に位置する第1虚像14aを視認できる。第1虚像14aは、表示面20aが表示している画像に対応する。バリア部21は、ウインドシールド25の前方であって第1虚像14aのウインドシールド25側に第2虚像14bをつくる。
図2に示すように、利用者13は、見かけ上、第1虚像14aの位置に表示パネル20が存在し、第2虚像14bの位置にバリア部21が存在するかのように、画像を視認しうる。
【0031】
図3に示されるように、表示パネル20は、表示面20a上に、利用者13の左眼5Lで視認される左眼視認領域201Lと、利用者13の右眼5Rで視認される右眼視認領域201Rとを含む。表示パネル20は、利用者13の左眼5Lに視認させる左眼画像と、利用者13の右眼5Rに視認させる右眼画像とを含む視差画像を表示可能に構成される。視差画像は、利用者13の左眼5L及び右眼5Rそれぞれに投影される画像であって、利用者13の両眼に視差を与える画像であるとする。表示パネル20は、左眼視認領域201Lに左眼画像を表示し、右眼視認領域201Rに右眼画像を表示するように構成される。つまり、表示パネル20は、左眼視認領域201Lと右眼視認領域201Rとに視差画像を表示するように構成される。左眼視認領域201Lと右眼視認領域201Rとは、視差方向を表すu軸方向に並んでいるとする。左眼視認領域201L及び右眼視認領域201Rは、視差方向に直交するv軸方向に沿って延在してよいし、v軸方向に対して所定角度で傾斜する方向に延在してよい。つまり、左眼視認領域201L及び右眼視認領域201Rは、視差方向の成分を含む所定方向に沿って交互に並んでいてよい。左眼視認領域201Lと右眼視認領域201Rとが交互に並ぶピッチは、視差画像ピッチともいう。左眼視認領域201Lと右眼視認領域201Rとは、間隔をあけて位置していてよいし、互いに隣接していてよい。表示パネル20は、表示面20a上に、平面画像を表示する表示領域をさらに有していてよい。平面画像は、利用者13の眼5に視差を与えず、立体視されない画像であるとする。
【0032】
図4Aは、表示パネルを模式的に示した正面図である。
図4Aに示すように、表示パネル20は、水平方向および鉛直方向に沿って格子状に配列された複数のサブピクセルを備える。各サブピクセルは、R(Red),G(Green),B(Blue)のいずれかの色に対応し、R,G,Bの3つのサブピクセルを一組として1ピクセルを構成することができる。水平方向は、例えば、1ピクセルを構成する複数のサブピクセルが並ぶ方向である。鉛直方向は、例えば、同じ色のサブピクセルが並ぶ方向である。複数のサブピクセルはサブピクセル群を構成する。サブピクセル群は、水平方向に繰り返して配列される。サブピクセル群は、鉛直方向においては、水平方向に1サブピクセル分ずれた位置に隣接して繰り返して配列される。本実施形態では、サブピクセル群は、8個のサブピクセルを含む。各ピクセルには、識別可能なように、例えば0~7の番号が付される。
【0033】
図4Bは、左眼視認領域201Lを示し、
図4Cは、右眼視認領域201Rを示す。左眼視認領域201Lでは、4番のサブピクセルが領域の中央に位置し、3番および5番のサブピクセルの半分が領域内に位置し、左眼視認領域201Lは、サブピクセル2個分が視認可能である。右眼視認領域201Rでは、0番のサブピクセルが領域の中央に位置し、7番および1番のサブピクセルの半分が領域内に位置し、右眼視認領域201Rは、サブピクセル2個分が視認可能である。左眼視認領域201Lと右眼視認領域201Rにおいて、このようなサブピクセルの位置であれば、利用者13は、適切に3次元画像を視認することができる。
【0034】
図5Aは、左眼視認領域の例を示す模式図である。例えば、表示パネル20とバリア部21との相対位置、さらに表示パネル20と光学素子18およびウインドシールド25との相対位置などにずれが無く、また、それぞれに歪みなどが生じていなければ、
図5Aに示すように、左眼視認領域201Lでは、4番のサブピクセルが領域の中央に位置し、3番および5番のサブピクセルの半分が領域内に位置する。しかしながら、製造工程における位置ずれ、経時的な位置ずれまたは歪み(以下では、「製造ずれなど」という)は不可避であり、これらに起因して、左眼視認領域201Lにおける視認可能なサブピクセルが、
図5Bに示すようにずれてしまう。このようなずれが生じた場合、利用者13が、適切に3次元画像を視認できないおそれがあるので、例えば、表示パネル20に表示させる視差画像を、ずれに応じて補正することが考えられる。そのためには、製造ずれなどを測定する必要があるが、高精度の測定装置を必要とする。なお、左眼視認領域201Lの例について示したが、右眼視認領域201Rについても左眼視認領域201Lと同様である。
【0035】
本実施形態では、検出装置50が、第2カメラ11Bおよび第3制御部22をさらに含む。第2カメラ11Bは、第2撮像画像を撮像可能に構成される。第2カメラ11Bは、利用者13が視認するであろう画像を撮像して確認するためのカメラである。第2カメラ11Bは、ウインドシールド25で反射した視差画像を撮像可能な位置に配置して第2撮像画像を撮像すればよい。例えば、第2カメラ11Bをアイボックス16内に配置すればよい。第2カメラ11Bの位置は、ウインドシールド25で反射した画像を撮像可能な位置であれば、アイボックス16内でなくてよい。第2カメラ11Bは、第1カメラ11Aと同様に、可視光カメラまたは赤外線カメラであってよい。第2カメラ11Bは、可視光カメラと赤外線カメラの両方の機能を有していてよい。第2カメラ11Bは、例えばCCD又はCMOSイメージセンサを含んでよい。
【0036】
ウインドシールド25で反射した画像は、製造ずれなどが生じている場合に、それらが反映された画像となる。この反映された画像を、第2カメラ11Bで撮像し、評価することで、製造ずれなどを直接測定することなく、表示パネル20に表示させる画像を補正することができる。表示パネル20の表示画像は、例えば、位相の分布に応じて補正すればよい。
【0037】
位相およびその分布について説明する。位相(第1パラメータ)は、例えば、次のような手順で得られる。表示パネル20に、複数のテスト画像を順次表示させ、ウインドシールド25で反射したテスト画像を、第2カメラ11Bで順次撮像する。
図6A~
図6Hは、テスト画像の例を示す図である。例えば、テスト画像は、パターン0~パターン7までの8種類である。パターン0は、表示パネル20の0番のサブピクセルを点灯し、1~7番のサブピクセルを消灯することで表示されるテスト画像である。パターン1は、表示パネル20の1番のサブピクセルを点灯し、0,2~7番のサブピクセルを消灯することで表示されるテスト画像である。同様にして、パターン2~7のテスト画像を表示することができる。これらのテスト画像を第2カメラ11Bで順次撮像することで、8種類の第2撮像画像が取得できる。パターン0~7のテスト画像を撮像した各第2撮像画像において輝度を抽出し、各パターンのテスト画像と輝度とを関連付ける。
【0038】
図7Aは、左眼視認領域におけるサブピクセルの位置を示す図である。
図7Bは、輝度プロットの例を示す図である。左眼視認領域201Lにおけるサブピクセルが、
図7Aに示すような位置にあるとき、パターンごとのテスト画像と第2撮像画像の輝度との関連性は、例えば、
図7Bのようなプロットとして得られる。4番のサブピクセルが左眼視認領域201Lの中央に位置するので、パターン4のテスト画像を撮像した第2撮像画像において、最大の輝度が抽出される。3番のサブピクセルおよび5番のサブピクセルは、左眼視認領域201Lに、それぞれ半分が位置するので、パターン3,5のテスト画像を撮像した第2撮像画像において、パターン4の半分の輝度が抽出される。他のサブピクセルは、いずれも左眼視認領域201L外にあり、バリア部21によって遮られるので、パターン0~2,6,7のテスト画像を撮像した第2撮像画像において、輝度は0となる。
【0039】
図8Aは、左眼視認領域における他の例のサブピクセルの位置を示す図である。
図8Bは、輝度プロットの他の例を示す図である。左眼視認領域201Lにおけるサブピクセルが、製造ずれなどによって、
図8Aに示すような位置にあるとき、パターンごとのテスト画像と第2撮像画像の輝度との関連性は、例えば、
図8Bのようなプロットとして得られる。4番のサブピクセルが左眼視認領域201Lの中央からずれた位置にあり、5番のサブピクセルの7割程度が左眼視認領域201Lに位置し、3番のサブピクセルの3割程度が左眼視認領域201Lに位置する。パターン4のテスト画像を撮像した第2撮像画像において、最大の輝度が抽出されることは、
図7の例と同じであるが、パターン3のテスト画像を撮像した第2撮像画像において、パターン4の3割程度の輝度が抽出され、パターン5のテスト画像を撮像した第2撮像画像において、パターン4の7割程度の輝度が抽出される。
図8Bの輝度プロットは、
図7Bの輝度プロットとは、異なる。このような輝度プロットを得るために、第2カメラ11Bは、ゲインおよび露光時間を固定して複数のテスト画像を撮像するように構成される。
【0040】
本実施形態において、位相は、左眼視認領域201L(右眼視認領域201R)におけるサブピクセルの位置ずれを示すパラメータである。
図7Aに示すような位置にある場合は、例えば位相=4であり、ずれが無い。位相=4における輝度プロットは、
図7Bのようなプロットとなる。製造ずれなどが生じている場合には、左眼視認領域201L(右眼視認領域201R)におけるサブピクセルの位置がずれる。
図8Aに示すような位置にある場合は、例えば位相=4.7である。位相=4.7における輝度プロットは、
図8Bのようなプロットとなる。位相と輝度プロットは、予め実験などにより、関連性を決定することができるので、第3制御部22が、前述の手順で輝度プロットを作成すれば、輝度プロットから位相を算出することができる。
【0041】
第3制御部22が、位相を表示パネル20の全てのサブピクセルに対して算出し、位相分布として取得することができる。取得した位相分布に基づいて、表示パネル20に表示する視差画像を補正すればよい。また、
図9に示す位相分布の例のように、第3制御部22は、表示面20aを複数の領域に分割し、領域ごとの代表値(位相)を算出し、代表値の分布を取得してよい。図に示した例では、縦方向に5つ、横方向に7つの35の領域に分割し、領域ごとに代表値となる位相を算出すればよい。代表値は、例えば、各領域の中心位置の位相であってよく、中心以外の特定の位置における位相であってよい。第2カメラ11Bでテスト画像を撮像する前に、代表値の座標を決定してよい。例えば、第2カメラ11Bでテスト画像を撮像する前に、代表値を算出するための輝度を抽出すべき位置のサブピクセルを点灯させ、点灯位置の座標を代表値の座標とする。第2カメラ11Bでテスト画像を撮像したのち、第3制御部22は、代表値の座標における輝度を抽出して輝度プロットを作成し、代表値となる位相を算出する。
【0042】
第3制御部22は、例えば、算出した位相分布を記憶部23に記憶させてよい。第2制御部24は、記憶部23に記憶された位相分布を参照し、表示パネル20に表示させる視差画像を補正することができる。代表値の分布を取得した場合、第2制御部24は、代表値を、領域内の全てのサブピクセルに拡張することで、表示パネル20の全てのサブピクセルに対する位相分布を得ることができる。前述のように、製造ずれなどは、移動体10を使用していると経時的に生じる場合がある。したがって、記憶部23に記憶した位相分布を、定期的に更新してよい。例えば、整備工場などにおいて、車両の定期点検時に位相分布を更新することができる。
【0043】
図10は、3次元画像表示システムの設定処理を説明するためのフロー図である。本フローを開始するにあたり、予め第2カメラ11Bを、ウインドシールド25で反射した視差画像を撮像可能な位置に移動させる。撮像可能な位置は、例えば、アイボックス16内であってよい。第2カメラ11Bを撮像位置に移動させたのち、設定処理を開始すると、まずステップS1で、第2制御部24が、表示パネル20にテスト画像を表示させる。テスト画像は、例えば、パターン0のテスト画像である。ステップS2で、第2カメラ11Bでパターン0のテスト画像を撮像して第2撮像画像を取得する。ステップS3で、全てのテスト画像を撮像したかどうかを判断する。全て撮像していれば、ステップS4に進み、撮像していないテスト画像が残っていれば、ステップS1に戻る。パターン0のテスト画像を撮像した時点では、撮像していないテスト画像が残っているので、ステップS1で、次のパターン1のテスト画像を表示させる。このようにして、テスト画像を順次表示させ、第2カメラ11Bでこれらを順次撮像する。パターン7までの撮像が終わればステップS4に進み、撮像画像(第2撮像画像)から輝度を抽出する。ステップS5では、抽出した輝度に基づいて、輝度プロットを作成する。ステップS6では、第3制御部22が、作成された輝度プロットに基づいて、位相を算出する。輝度プロットと位相との関連性は、例えば、予め記憶部23に記憶しておけばよい。第3制御部22は、作成された輝度プロットと、記憶部23に記憶された輝度プロットとを対比し、例えば、パターンマッチングなどの処理を行い、位相を算出してよい。ステップS7では、第3制御部22が、算出した位相と、表示パネル20における座標とを、位相分布(第2分布)として、記憶部23に記憶する。このとき、記憶部23には、すでに位相分布(第1分布)が記憶されており、第3制御部22は、記憶部23に記憶された位相分布を、新たな位相分布に置き換えて更新する。更新前に記憶部23に記憶されていた位相分布(第1分布)は、前回の設定処理において、更新された位相分布である。前回の設定処理が実行されていない場合、更新前に記憶部23に記憶されていた位相分布(第1分布)は、初期値として記憶された位相分布である。
【0044】
前述のように、第2制御部24は、記憶部23に記憶された位相分布を参照し、表示パネル20に表示させる視差画像を補正する。位相分布は、利用者13の眼5の位置が基準位置(適視距離における位置)にある場合の分布であり、利用者13の眼5の位置が基準位置から異なると、位相分布も変化する。第2制御部24は、記憶部23に記憶された位相分布を参照し、検出装置50が検出した利用者13の眼5の位置(第1位置)と基準位置との距離に応じて、参照した位相分布の位相を増減させる。第2制御部24は、増減後の位相に対応させて、表示パネル20に表示させる視差画像を補正すればよい。
【0045】
図11は、3次元画像表示システムが搭載された移動体の概略構成の他の例を示す図である。第2カメラ11Bで撮像する第2撮像画像は、利用者13の眼5で視認される画像に相当する画像であるので、第2カメラ11Bの位置は、利用者13の眼5の位置に対応する。テスト画像を撮像した第2撮像画像に基づいて算出された位相およびその分布は、利用者13の眼5が第2カメラ11Bの位置に有った場合の位相および分布である。3次元画像表示システムでは、利用者13の眼5の位置が変化すると、変化に応じて、表示パネル20に表示させる視差画像を変化させる。このとき、利用者13の眼5の位置が変化しても位相分布がそのままであれば、位相分布による視差画像の補正は、利用者13の眼5の位置によっては、不十分となり、利用者13が3次元画像を適切に視認できないおそれがある。テスト画像を撮像したときの第2カメラ11Bの位置が検出できれば、第2カメラ11Bの位置に応じて位相分布を取得することができる。第2カメラ11Bの位置は、利用者13の眼5の位置に対応するので、第1カメラ11Aは、第2カメラ11Bを撮像可能である。表示パネル20にテスト画像が表示され、第2カメラ11Bがテスト画像を撮像するとき、第1カメラ11Aが撮像した第1撮像画像に基づいて、第1制御部15が、第2カメラ11Bの位置を第2位置として検出する。第3制御部22は、検出された第2位置に基づいて、位相を算出し、位相分布を取得すればよい。
【0046】
第2カメラ11Bの位置を検出するためには、第1カメラ11Aを動作させる必要がある。本例の構成では、第2カメラ11Bを取り付けるオブジェクトを使用する。第2カメラ11Bを、オブジェクトに対して取り付けることで、第2カメラ11Bの位置のばらつきを減少させ、第2カメラ11Bの位置の位置が、オブジェクトの位置によって決まる。
図11に示すように、例えば、利用者13の頭が存在すると想定される位置に、オブジェクトとして、利用者13の頭部を模した頭部模型30を配置し、頭部模型30の眼に相当する位置に第2カメラ11Bを取り付ける。頭部模型30の眼に相当する位置は、頭部模型30を配置したときに決定される。第1制御部15が、第1カメラ11Aを動作させることなく、頭部模型30の位置を検出可能に構成されていれば、第1制御部15は、頭部模型30の位置から間接的に第2カメラ11Bの位置を検出することができる。第1制御部15は、頭部模型30の位置を第2カメラ11Bの位置としてよい。頭部模型30の位置は、例えば、記憶部23に予め記憶させておいてよい。
【0047】
本例のように頭部模型30を使用する場合、第1制御部15は、第2カメラ11Bが取り付けられた頭部模型30の位置に基づいて第1カメラ11Aの校正を実行するように構成されてよい。第1カメラ11Aの校正は、テスト画像を撮像するために、第2カメラ11Bを移動させる(頭部模型30に取り付ける)より前に実行してよい。
【0048】
本開示に係る構成は、以上説明してきた実施形態にのみ限定されるものではなく、幾多の変形又は変更が可能である。例えば、各構成部等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の構成部等を1つに組み合わせたり、或いは分割したりすることが可能である。例えば、第1制御部15、第2制御部24および第3制御部22は、それぞれ個別のコントローラによって構成されてよい。また、第1制御部15、第2制御部24および第3制御部22のうちの少なくとも2つは、1つのコントローラによって構成されてよい。すなわち、1つのコントローラで2つ以上の制御部を兼ねるように構成されてよい。例えば、第1カメラ11Aおよび第2カメラ11Bを備える検出装置50において、第1制御部15と第3制御部22とが1つのコントローラで構成されてよい。
【0049】
本開示に係る構成を説明する図は、模式的なものである。図面上の寸法比率等は、現実のものと必ずしも一致しない。
【0050】
本開示は次の実施の形態が可能である。
【0051】
(1)本開示の一実施形態に係る3次元画像表示システムの設定方法であって、
上記3次元画像表示システムは、
右眼画像および左眼画像を含む視差画像を表示可能に構成される表示パネルと、
右眼画像および左眼画像の光線方向を規定可能に構成される光学パネルと、
光線方向が規定された右眼画像および左眼画像を反射するように構成される反射板と、
当該3次元画像表示システムの利用者の顔が有ると想定される領域の画像を含む第1撮像画像を撮像可能に構成される第1カメラと、
第2撮像画像を撮像可能に構成される第2カメラと、
前記第1撮像画像に基づいて利用者の少なくとも一方の眼の位置を第1位置として検出可能に構成される第1制御部と、
第1パラメータの第1分布および前記第1位置に基づいて右眼画像および左眼画像を含む視差画像を生成可能に構成される第2制御部と、
前記第1パラメータの第2分布を算出可能に構成される第3制御部と、を備え、
前記反射板で反射した視差画像を撮像可能な位置に前記第2カメラを移動させる工程と、
前記表示パネルに、複数のテスト画像を順次表示させるとともに、前記反射板で反射した前記複数のテスト画像を前記第2カメラで順次撮像して、複数の第2撮像画像を取得する工程と、
前記複数の第2撮像画像に基づいて、前記第2分布を算出する工程と、
算出された第2分布を前記第1分布に変更する工程と、を含む。
【0052】
(2)上記(1)の3次元画像表示システムの設定方法であって、
前記第2カメラは、ゲインおよび露光時間を固定して前記複数のテスト画像を撮像するように構成される、3次元画像表示システムの設定方法である。
【0053】
(3)上記(1)または(2)の3次元画像表示システムの設定方法であって、
前記第3制御部が前記第2分布を算出する工程において、
前記第3制御部は、
前記複数のテスト画像からそれぞれの輝度分布を抽出し、
当該それぞれの輝度分布から前記第2分布を算出する、3次元画像表示システムの設定方法である。
【0054】
(4)上記(1)から(3)のいずれか1つの3次元画像表示システムの設定方法であって、
前記第2制御部は、
前記第1位置と基準位置との距離に応じて、前記第1パラメータを第1分布の値から増減させ、
増減後の第1パラメータに対応させて、右眼画像および左眼画像を含む視差画像を生成するように構成される、3次元画像表示システムの設定方法である。
【0055】
(5)上記(1)から(4)のいずれか1つの3次元画像表示システムの設定方法であって、
前記第1撮像画像に基づいて、前記複数のテスト画像を順次撮像するときの前記第2カメラの位置を第2位置として検出する工程、をさらに含み、
前記第1パラメータの第2分布を算出する工程において、
前記第3制御部は、前記複数のテスト画像および少なくとも1つの前記第2位置に基づいて前記第2分布を算出する、3次元画像表示システムの設定方法である。
【0056】
(6)上記(5)の3次元画像表示システムの設定方法であって、
前記第2カメラは、前記第1制御部で位置を検出可能なオブジェクトに対して取り付けられており、
前記第1制御部は、前記オブジェクトの位置から間接的に前記第2位置を検出するように構成される、3次元画像表示システムの設定方法である。
【0057】
(7)上記(6)の3次元画像表示システムの設定方法であって、
前記第1制御部は、前記第2カメラが取り付けられた前記オブジェクトの位置に基づいて前記第1カメラの校正を実行するように構成される、3次元画像表示システムの設定方法である。
【0058】
(8)上記(7)の3次元画像表示システムの設定方法であって、
前記第1カメラの校正は、前記第2カメラを移動させる工程より前に実行される、3次元画像表示システムの設定方法である。
【0059】
(9)上記(1)から(8)のいずれか1つの3次元画像表示システムの設定方法であって、
前記第1制御部、前記第2制御部および前記第3制御部のうちの少なくとも2つは、1つのコントローラによって構成される、3次元画像表示システムの設定方法である。
【0060】
(10)上記(1)から(9)のいずれか1つの3次元画像表示システムの設定方法であって、
前記3次元画像表示システムは、
光線方向が規定された右眼画像および左眼画像に光学的な処理を行うように構成され、右眼画像および左眼画像を前記反射板に導くように構成される光学素子を、さらに備える、3次元画像表示システムの設定方法である。
【0061】
本開示の一実施形態に係る3次元画像表示システムの設定方法によれば、利用者が3次元画像を適切に視認することができる。
【0062】
本開示において「第1」及び「第2」等の記載は、当該構成を区別するための識別子である。本開示における「第1」及び「第2」等の記載で区別された構成は、当該構成における番号を交換することができる。例えば、第1眼は、識別子である「第1」を、第2眼の識別子「第2」と交換することができる。識別子の交換は同時に行われる。識別子の交換後も当該構成は区別される。識別子は削除してよい。識別子を削除した構成は、符号で区別される。本開示における「第1」及び「第2」等の識別子の記載は、それのみに基づいて、当該構成の順序の解釈、小さい番号の識別子が存在することの根拠に利用されるものではない。
【0063】
本開示において、x軸、y軸、及びz軸は、説明の便宜上設けられたものであり、互いに入れ替えられてよい。本開示に係る構成は、x軸、y軸、及びz軸によって構成される直交座標系を用いて説明されてきた。本開示に係る各構成の位置関係は、直交関係にあると限定されるものではない。
【符号の説明】
【0064】
5 眼(5L:左眼、5R:右眼)
10 移動体
11A 第1カメラ
11B 第2カメラ
12 3次元投影装置
13 利用者
14 虚像(14a:第1虚像、14b:第2虚像)
15 第1制御部
16 アイボックス
17 3次元表示装置
18 光学素子(18a:第1ミラー、18b:第2ミラー)
19 バックライト
20 表示パネル(20a:表示面)
201L 左眼視認領域
201R 右眼視認領域
21 バリア部
22 第3制御部
23 記憶部
24 第2制御部
25 ウインドシールド
30 頭部模型
50 検出装置
100 3次元画像表示システム