(58)【調査した分野】(Int.Cl.,DB名)
光源と、前記光源から出射される光を画像データに基づいて空間変調する光変調素子と、前記光変調素子により空間変調された画像光を乗り物のウインドシールドに投写する投写部とを含む投写表示部と、
前記乗り物の乗員の視線を検出する視線検出部と、
前記ウインドシールドにおける前記画像光が投写可能な投写可能範囲のうち、前記視線検出部により検出された視線と交わる点を含む予め決められた領域の形状の測定データを取得する測定データ取得部と、
前記測定データ取得部により取得された測定データと、前記視線検出部により検出された視線の方向と、に基づいて、前記測定データが取得された領域に投写される画像光に基づく像を前記方向から見た状態における像の歪みを補正するための補正データを生成する補正データ生成部と、
前記補正データ生成部により生成された補正データを用いて前記画像データを補正する画像データ補正部と、を備える投写型表示装置。
光源から出射される光を画像データに基づいて変調して得た画像光を乗り物のウインドシールドに投写する投写表示方法をコンピュータに実行させるための投写表示プログラムであって、
前記投写表示方法は、
前記乗り物の乗員の視線を検出する視線検出ステップと、
前記ウインドシールドにおける前記画像光が投写可能な投写可能範囲のうち、前記視線検出ステップにより検出された視線と交わる点を含む予め決められた領域の前記ウインドシールドの形状の測定データを取得する測定データ取得ステップと、
前記測定データ取得ステップにより取得された測定データと、前記視線検出ステップにより検出された視線の方向と、に基づいて、前記測定データが取得された領域に投写される画像光に基づく像を前記方向から見た状態における像の歪みを補正するための補正データを生成する補正データ生成ステップと、
前記補正データ生成ステップにより生成された補正データを用いて前記画像データを補正する画像データ補正ステップと、を備える投写表示プログラム。
【発明を実施するための形態】
【0017】
以下、本発明の一実施形態について図面を参照して説明する。
【0018】
図1は、本発明の一実施形態の投写型表示装置を含む投写表示システムを搭載した自動車の車室内上方から運転席前方を視た状態の模式図である。
図1の投写表示システムは、自動車に限らず、電車、重機、建設機械、航空機、船舶、及び農作機械等のウインドシールドを有する乗り物全般に適用することができる。
【0019】
図1に示す投写表示システムは、自動車のウインドシールド1と、ウインドシールド1に画像光を投写する投写型表示装置としてのHUD10と、HUD10と無線又は有線により通信可能に構成されたウインドシールド形状測定装置8と、HUD10と無線又は有線により通信可能に構成された撮像部9と、を備えている。
【0020】
図1の例では、HUD10は自動車のダッシュボード3に内蔵されており、ダッシュボード3に設けられた開口部を通して画像光をウインドシールド1に向けて投写する。
【0021】
HUD10は、ウインドシールド1に対する画像光の投写範囲2をウインドシールド1の面に沿って二次元状に走査することによって、広範囲の投写可能範囲1Aに画像光を投写可能に構成されている。
【0022】
撮像部9は、自動車の乗員である自動車の運転者の視線を検出するために、運転者の眼を含む顔部分を撮像するために設けられている。この撮像部9は、投写表示システム専用のものを用意してもよいし、自動車において別の用途で設けられているものを利用してもよい。
【0023】
ウインドシールド形状測定装置8は、自動車に設置された物体の三次元形状を測定する測定装置であり、ウインドシールド1の三次元形状を測定するものである。ウインドシールド形状測定装置8は、例えば深度センサが用いられる。
【0024】
深度センサとしては、赤外線発光部と赤外線受光部を用いてタイムオブフライト方式等により物体までの距離を算出する方式、2つのカメラで物体を撮像して得られる2つの撮像画像データに基づいて物体までの距離を算出する方式、1つのカメラを移動させながら複数位置で物体を撮像して得られる複数の撮像画像データに基づいて物体までの距離を算出する方式等、周知の方式のものを採用することができる。
【0025】
ウインドシールド形状測定装置8は、投写表示システム専用のものを用意してもよいし、自動車に別の目的で搭載されている深度センサを利用してもよい。
【0026】
図2は、
図1に示すHUD10の内部構成を示す模式図である。
【0027】
HUD10は、ROM(Read Only Memory)及びRAM(Random Accsess Memory)等の記憶媒体を含む記憶部30と、光源ユニット40と、投写ユニット50と、光源ユニット40及び投写ユニット50を収容する筐体を駆動するための駆動機構20と、光源ユニット40に含まれる光変調素子44を駆動する駆動部45と、全体を統括制御するシステム制御部60と、視線検出部70と、ウインドシールド形状測定装置8及び撮像部9と通信するための通信インターフェース(不図示)と、を備える。
【0028】
光源ユニット40は、光源制御部40Aと、赤色光を出射する赤色光源であるR光源41rと、緑色光を出射する緑色光源であるG光源41gと、青色光を出射する青色光源であるB光源41bと、ダイクロイックプリズム43と、R光源41rとダイクロイックプリズム43の間に設けられたコリメータレンズ42rと、G光源41gとダイクロイックプリズム43の間に設けられたコリメータレンズ42gと、B光源41bとダイクロイックプリズム43の間に設けられたコリメータレンズ42bと、光変調素子44と、を備えている。R光源41rとG光源41gとB光源41bはHUD10の光源を構成する。
【0029】
R光源41r、G光源41g、及びB光源41bは、それぞれ、レーザ、LED(Light Emitting Diode)等の発光素子が用いられる。本実施形態では、R光源41rとG光源41gとB光源41bの3つの光源を含むHUDとしているが、この光源の数は1つ、2つ、または4つ以上であってもよい。
【0030】
光源制御部40Aは、R光源41r、G光源41g、及びB光源41bの各々の発光量を予め決められた発光量パターンに設定し、この発光量パターンに従ってR光源41r、G光源41g、及びB光源41bから光を順次出射させる制御を行う。光源の発光制御はこれに限らず周知のものを採用することができる。
【0031】
ダイクロイックプリズム43は、R光源41r、G光源41g、及びB光源41bの各々から出射される光を同一光路に導くための光学部材である。ダイクロイックプリズム43は、コリメータレンズ42rによって平行光化された赤色光を透過させて光変調素子44に出射する。
【0032】
また、ダイクロイックプリズム43は、コリメータレンズ42gによって平行光化された緑色光を反射させて光変調素子44に出射する。さらに、ダイクロイックプリズム43は、コリメータレンズ42bによって平行光化された青色光を反射させて光変調素子44に出射する。
【0033】
このような光を同一光路に導く機能を持つ光学部材としては、ダイクロイックプリズムに限らない。例えば、クロスダイクロイックミラーを用いてもよい。
【0034】
光変調素子44は、ダイクロイックプリズム43から出射された光を、システム制御部60から入力される画像データに基づいて空間変調し、画像データに応じた画像光(赤色画像光、青色画像光、及び緑色画像光)を投写ユニット50に出射する。
【0035】
この画像データは、例えば自動車の走行速度を示す情報、運転者への通知を行うための情報、ナビゲーション情報等を表示するためのデータである。
【0036】
光変調素子44としては、例えば、LCOS(Liquid crystal on silicon)、DMD(Digital Micromirror Device)、MEMS(Micro Electro Mechanical Systems)素子、及び液晶表示素子等を用いることができる。
【0037】
駆動部45は、システム制御部60から入力される画像データにしたがって光変調素子44を駆動し、画像データに基づく画像光を投写ユニット50に出射させる。
【0038】
投写ユニット50は、投写光学系46と、拡散板5と、反射ミラー6と、拡大鏡7と、を備えている。
【0039】
投写光学系46は、光変調素子44によって空間変調された画像光を、拡散板5に投写するための光学系である。この光学系は、レンズに限らず、スキャナを用いることもできる。
【0040】
投写ユニット50は、ウインドシールド1に投写された画像光に基づく画像がウインドシールド1前方の位置において虚像として運転者に視認可能となるように光学設計がなされている。
【0041】
投写ユニット50は、光変調素子44により空間変調された画像光をウインドシールド1に投写する投写部を構成する。R光源41r、G光源41g、及びB光源41bを含む光源と、光変調素子44と、投写ユニット50とにより、HUD10の投写表示部が構成される。
【0042】
視線検出部70は、撮像部9で撮像して得られた撮像画像データを取得し、取得した撮像画像データに周知の視線検出処理を施すことによって、HUD10が搭載された自動車の乗員である運転者の視線を検出する。視線検出部70は、視線検出結果(視線の方向の情報)をシステム制御部60に通知する。
【0043】
投写ユニット50及び光源ユニット40が収容された筐体は、駆動機構20によってパン及びチルトが可能となっている。駆動機構20により、投写ユニット50から投写される画像光の投写範囲2をウインドシールド1上において走査することができる。駆動機構20はシステム制御部60によって制御される。
【0044】
なお、HUD10は、投写ユニット50から投写される画像光の投写範囲2をウインドシールド1上で動かすことができればよく、例えば投写ユニット50に含まれる光学部材を可動にすることによって投写範囲2を移動できるようにしてもよい。
【0045】
システム制御部60は、光源制御部40A及び駆動部45を制御して、光源ユニット40から、画像データに基づく画像光を投写ユニット50に出射させる。システム制御部60は、視線検出部70により検出された視線に基づいて駆動機構20を制御して投写可能範囲1Aにおける投写範囲2の位置を制御する。
【0046】
図3は、
図2のシステム制御部60の内部構成を示すブロック図である。
【0047】
システム制御部60は、プロセッサを主体にして構成されており、このプロセッサが記憶部30のROMに格納されたプログラムを実行することで、測定データ取得部61、補正データ生成部62、画像データ生成部63、画像データ補正部64、及び、投写範囲制御部65として機能する。
【0048】
投写範囲制御部65は、投写可能範囲1Aにおける投写範囲2の位置を、視線検出部70により検出された運転者の視線に基づいて制御する。投写範囲制御部65は、駆動機構20を制御して画像光の投写方向を変えることによって、投写範囲2の位置制御を行う。
【0049】
HUD10の記憶部30には、運転者の視線の方向に対応付けて、投写可能範囲1Aにおける位置に投写範囲2を設定することにより定めた投写範囲制御データが記憶されている。
【0050】
投写範囲制御部65は、投写範囲制御データと視線検出部70により検出された運転者の視線とに基づき、運転者の視線の方向に対応する投写範囲2の位置を決定する。投写範囲制御データは、投写可能範囲1Aにおいて運転者の視線と交わる点を含む領域が投写範囲2として決定されるデータである。
【0051】
画像データ生成部63は、駆動部45に入力する画像データを、自動車の状況等に基づいて生成する。画像データは運転支援のために必要な情報を含む。また、自動車の状況は自動車の運行状況、または、ガソリン残量など情報であってもよい。
【0052】
測定データ取得部61は、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70により検出された視線と交わる点を含む予め決められた領域の形状の測定データをウインドシールド形状測定装置8から取得する。
【0053】
記憶部30のROMには、ウインドシールド1を車内から平面視したときの投写可能範囲1A内の各位置を示す座標で構成される平面座標データと、平面座標データの座標毎に、この座標に視線が交わるときの運転者の視線の方向を対応付けたテーブルデータが記憶されている。このテーブルデータは投写表示システムの設計段階で決められるデータである。
【0054】
測定データ取得部61は、視線検出部70から運転者の視線の方向が通知されると、記憶部30のテーブルデータに基づいて、投写可能範囲1Aにおいて運転者の視線と交わる点の座標(視線交点座標)を求める。
【0055】
そして、測定データ取得部61は、視線交点座標を中心とする予め決められた範囲(例えば、縦何センチ、横何センチを指定した平面範囲)を示すエリア座標情報をウインドシールド形状測定装置8に通知する。
【0056】
ウインドシールド形状測定装置8は、通知されたエリア座標情報に基づいて、ウインドシールド1の平面視における計測範囲を設定し、設定した計測範囲と重なるウインドシールド1の部分の三次元形状を測定し、測定データを測定データ取得部61に送信する。
【0057】
このようにして、測定データ取得部61は、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70により検出された運転者の視線と交わる点の座標(視線交点座標)を含む予め決められた領域(上記のエリア座標情報で特定される平面範囲と重なる領域)の三次元形状の測定データを取得する。測定データの取得対象となった領域を以下では測定データ取得領域という。
【0058】
なお、
図1の投写表示システムにおいては、測定データ取得領域と、投写範囲制御部65によって決定された画像光の投写範囲とが同じになるように設計されている。
【0059】
補正データ生成部62は、測定データ取得部61により取得された測定データと、視線検出部70により検出された視線の方向と、に基づいて、測定データ取得領域に投写される画像光に基づく像を、視線検出部70により検出された視線の方向から見た状態での像の歪みを補正するための補正データを生成する。補正データ生成部62は、生成した補正データを画像データ補正部64に送信する。
【0060】
上述したように、測定データ取得領域と投写範囲2とは同じに設定されるため、測定データ取得領域には画像データに基づく画像光が投写されることになる。
【0061】
測定データ取得領域に投写される画像光に基づく像は、測定データ取得領域の三次元形状と、この像の観察方向との組み合わせによって見え方が変化する。このため、測定データ取得領域の三次元形状と、測定データ取得領域に対する観察方向(視線の方向)との組み合わせにおいて最も歪がない状態で像が観察されるように、測定データ取得領域に投写する画像光の元となる画像データを補正する必要が生じる。
【0062】
補正データ生成部62は、測定データ取得領域の三次元形状と、この測定データ取得領域に投写される画像光に基づく像の観察方向(視線検出部70により検出された視線の方向)との組み合わせに対して、その測定データ取得領域に投写される画像光に基づく像に歪みが生じないように、画像データ生成部63で生成された画像データを補正するための補正データを生成する。
【0063】
画像データ補正部64は、補正データ生成部62から受信した補正データを用いて、画像データ生成部63で生成された画像データを補正する。
【0064】
画像データ補正部64は、補正後の画像データを駆動部45に入力して、補正後の画像データに基づく画像光を、投写範囲制御部65によって制御された投写可能範囲1A上の一部の範囲(測定データ取得領域)に投写させる。
【0065】
以上のように構成されたHUD10の動作を説明する。
【0066】
投写表示システムが起動し、視線検出部70により運転者の視線が検出されると、検出された運転者の視線に基づいてシステム制御部60が駆動機構20を制御し、投写ユニット50から投写される画像光の投写範囲2の位置を制御する。
【0067】
次に、システム制御部60は、投写可能範囲1Aにおいて視線検出部70により検出された運転者の視線と交わる点を含む測定データ取得領域の三次元形状の測定データをウインドシールド形状測定装置8から取得する。
【0068】
次に、システム制御部60は、ウインドシールド形状測定装置8から取得した測定データと、視線検出部70により検出された運転者の視線の方向とに基づいて補正データを生成する。
【0069】
次に、システム制御部60は、投写範囲2に投写すべき画像光の元となる画像データを生成し、この画像データを上記の補正データを用いて補正する。
【0070】
そして、システム制御部60は、補正後の画像データを駆動部45に入力して、補正後の画像データに基づく画像光を、投写可能範囲1A上の一部の範囲に投写させる。その後、視線検出部70により検出される運転者の視線にある程度以上の変化があると、システム制御部60は上述した処理を再び行う。
【0071】
以上のように、HUD10を用いれば、運転者が投写可能範囲1A内で視線を動かしていくと、この視線の動きに追従して、投写範囲2が移動し、投写範囲2には画像光が投写される。そして、この画像光に基づく虚像は、運転者からみて歪みがない状態に補正される。このため、投写可能範囲1Aの全体にわたって歪みのない自然な虚像を運転者に提示することができる。
【0072】
また、HUD10は、ウインドシールド形状測定装置8により測定されたウインドシールド1の三次元形状の測定データを利用して補正データを生成している。このため、自動車の車種やウインドシールド1の形状の個体バラツキの影響をうけることがなく、自動車毎に最適な歪み補正を実施することが可能になる。
【0073】
この結果、投写ユニット50に含まれる光学系の調整作業を簡略化したり、補正データの生成作業を省略したりすることができ、製造コストを削減することができる。
【0074】
以下、
図1に示すHUD10の変形例を説明する。
【0075】
(第一の変形例)
図4は、
図2に示すシステム制御部60の変形例であるシステム制御部60Aの内部構成を示すブロック図である。
図4のシステム制御部60Aは、測定データ取得部61と補正データ生成部62の機能が一部異なる以外は
図3のシステム制御部60と同じ構成である。このため、
図3と異なる部分についてのみ説明する。
【0076】
システム制御部60Aの補正データ生成部62は、上述してきた方法によって補正データを生成すると、この補正データを、この補正データの生成に用いた視線の方向と対応付けて記憶部30のROMに記憶する。
【0077】
システム制御部60Aの補正データ生成部62は、視線検出部70により検出される視線に変化があると、視線検出部70により検出された視線の方向を取得し、この視線の方向に対応する補正データが記憶部30に記憶されているか否かを判定する。
【0078】
システム制御部60Aの補正データ生成部62は、対応する補正データが記憶部30に記憶されている場合には、この視線の方向に対応する補正データを記憶部30から読み出して画像データ補正部64に送信し、この視線の方向を用いた補正データの生成処理は省略する。
【0079】
システム制御部60Aの測定データ取得部61は、視線検出部70により検出される視線に変化があると、視線検出部70により検出された視線の方向に対応する補正データが記憶部30に記憶されているか否かを判定し、対応する補正データが記憶部30に記憶されている場合には、この視線の方向を用いた測定データの取得処理を省略する。
【0080】
以上のように、第一の変形例によれば、運転者の視線が任意の方向にある状態で補正データが生成された後は、運転者が視線をこの任意の方向から大きくずらして再びこの任意の方向に視線を戻した場合に、測定データの取得処理及び補正データの生成処理が行われることはなく、記憶部30に記憶されている補正データを利用した画像データの補正が行われる。
【0081】
このため、システム制御部60Aの処理負荷を軽減することができ、HUD10の消費電力を低減することができる。
【0082】
(第二の変形例)
図5は、
図2に示すシステム制御部60の変形例であるシステム制御部60Bの内部構成を示すブロック図である。
図5のシステム制御部60Bは、測定データ取得部61の機能が一部異なる以外は
図3のシステム制御部60と同じ構成である。このため、
図3と異なる部分についてのみ説明する。
【0083】
システム制御部60Bの測定データ取得部61は、投写表示システムの起動時に、ウインドシールド形状測定装置8から、ウインドシールド1の投写可能範囲1A全体の三次元形状の測定データを取得し、記憶部30のROMに記憶する。第二の変形例における記憶部30は、測定データ記憶部を構成する。
【0084】
そして、システム制御部60Bの測定データ取得部61は、記憶部30に記憶されている投写可能範囲1A全体の三次元形状の測定データから、視線検出部70により検出された視線と交わる点を含む予め決められた領域の形状の測定データを抽出することで、測定データを取得する。
【0085】
以上のように、第二の変形例によれば、投写表示システムの起動時に投写可能範囲1Aの三次元形状が測定される。その後は、この測定データの中から測定データ取得部61が必要な測定データを取得する。このため、測定データの取得を高速に行うことができ、自然な形で歪みのない像を提示することができる。
【0086】
また、第二の変形例によれば、ウインドシールド形状測定装置8は投写表示システムの起動時にのみ起動し、その後は電源をオフすることができる。
【0087】
このため、システム全体の消費電力を削減することができる。また、システム制御部60Bの負荷軽減、ウインドシールド形状測定装置8の負荷軽減により、システム全体の耐久性を向上させることができる。
【0088】
なお、ウインドシールド形状測定装置8による三次元形状の測定結果には測定毎にバラツキがあることが想定される。
【0089】
図1に示すHUD10によれば、視線の方向が変化する都度、ウインドシールド形状測定装置8により三次元形状の測定が行われ、ウインドシールド形状測定装置8から測定データが取得される。このため、このバラツキによる画像データの補正精度のバラツキを平準化することができる。
【0090】
第二の変形例は第一の変形例と組み合わせることも可能である。
【0091】
(第三の変形例)
図1のHUD10では、駆動機構20によって画像光の投写範囲を移動可能とすることによって、広範囲にわたって虚像を表示できるものとしている。
【0092】
この変形例として、投写可能範囲1A全体に画像光を投写することのできる光学設計がなされた投写ユニット50を用いてもよい。この変形例では、測定データ取得領域として例えば運転者の中心視野と同じ程度の大きさの領域が設定される。
【0093】
つまり、システム制御部60は、画像光が投写されている投写可能範囲1Aのうちの一部(運転者の中心視野に相当する範囲)の三次元形状の測定データと、運転者の視線の方向とに基づいて補正データを生成し、この補正データを用いて、投写可能範囲1Aに投写される画像光の元となる画像データのうちの、測定データ取得領域に対応する部分を補正する。これにより、運転者の中心視野においては像の歪みがない状態を得ることができる。
【0094】
第三の変形例は、第一の変形例又は第二の変形例と組み合わせることができる。
【0095】
(第四の変形例)
図6は、
図1に示す投写表示システムの変形例を示す図である。
図6に示す投写表示システムは、HUD10をユニット10a、ユニット10b、及び、ユニット10cにより構成される投写型表示装置としてのHUD10Aに変更した点を除いては、
図1に示す投写表示システムと同じ構成である。
【0096】
図7は、
図6に示す投写表示システムにおけるユニット10aの内部構成を示す模式図である。
【0097】
ユニット10aは、
図1のHUD10に対し、駆動機構20を削除し、システム制御部60をシステム制御部60Cに変更し、視線検出部70を視線検出部70Aに変更し、ユニット10b及びユニット10cと通信するためのインターフェースである通信部80を追加したものとなっている。
【0098】
ユニット10aの視線検出部70Aは、撮像部9で撮像して得られた撮像画像データを取得し、取得した撮像画像データに周知の視線検出処理を施すことで、HUD10Aが搭載された自動車の複数の乗員の視線を個別に検出する。
【0099】
ここでは、視線検出部70Aが、自動車の運転者の視線と、自動車の助手席に座る同乗者の視線とを個別に検出するものとして説明する。
【0100】
視線検出部70Aは、運転者の視線検出結果(視線の方向の情報)と、同乗者の視線検出結果(視線の方向の情報)とをシステム制御部60Cに通知する。なお、運転者の視線と同乗者の視線の区別は、撮像部9で撮像して得られる撮像画像データ上の眼の位置によって行うことができる。または、乗員毎に虹彩情報や顔画像を登録しておき、虹彩検出処理や顔認識処理によって乗員を区別することも可能である。
【0101】
図8は、
図6に示す投写表示システムにおけるユニット10bの内部構成を示す模式図である。
【0102】
ユニット10bは、
図1のHUD10における投写ユニット50、光源ユニット40、及び、駆動部45を備える。
【0103】
また、ユニット10bは、ユニット10aと通信するためのインターフェースである通信部81を有する。ユニット10bは、この通信部81により、ユニット10aのシステム制御部60Cによってユニット10bの駆動部45及び光源制御部40Aを制御可能に構成されている。
【0104】
なお、
図6に示す投写表示システムにおけるユニット10cの内部構成は、ユニット10bと同じであるため説明を省略する。
【0105】
図6に示すように、ユニット10aの投写ユニット50から投写される画像光の投写範囲2aと、ユニット10bの投写ユニット50から投写される画像光の投写範囲2bと、ユニット10cの投写ユニット50から投写される画像光の投写範囲2cは、一方向に並ぶよう設定されている。また、各投写範囲が隙間なく並んでもよい。
【0106】
投写範囲2aと投写範囲2bと投写範囲2cとを合わせた範囲が
図1の投写可能範囲1Aと同じになってもよい。
【0107】
図6に示すHUD10Aでは、各ユニット10a〜10cに含まれるR光源41r、G光源41g、及びB光源41bを含む光源と、光変調素子44と、投写ユニット50とにより、投写表示部が構成される。つまりHUD10Aは、投写表示部を複数(
図6の例では3つ)有する構成である。
【0108】
図9は、
図7に示すシステム制御部60Cの内部構成を示すブロック図である。
【0109】
システム制御部60Cは、プロセッサを主体にして構成されており、このプロセッサが記憶部30のROMに格納されたプログラムを実行することで、測定データ取得部61A、補正データ生成部62A、画像データ生成部63A、画像データ補正部64A、及び、投写範囲制御部65Aとして機能する。
【0110】
投写範囲制御部65Aは、HUD10Aが画像光を投写する投写範囲を、視線検出部70Aにより検出された運転者と同乗者の視線に基づいて制御する。
【0111】
HUD10Aのユニット10aの記憶部30には、視線の方向がどの方向であるときに、投写範囲2a〜2cのどこに画像光を投写するかを定めた投写範囲制御データが記憶されている。
【0112】
投写範囲制御部65Aは、この投写範囲制御データと視線検出部70Aにより検出された視線とに基づき、視線の方向に対応する投写範囲に画像光を投写する投写表示部を起動する。
【0113】
投写範囲制御データは、投写可能範囲1Aを構成する投写範囲2a〜2cのうち、運転者の視線と交わる点を含むものと、同乗者の視線と交わる点を含むものとが投写範囲として決定されるようなデータとなっている。
【0114】
例えば、
図10に示すように、運転者の視線e1とウインドシールド1の交わる点が投写範囲2bにあり、同乗者の視線e2とウインドシールド1の交わる点が投写範囲2cにあるケースを想定する。
【0115】
このケースでは、投写範囲制御部65Aは、ユニット10bの投写表示部とユニット10cの投写表示部を起動して、投写範囲2bと投写範囲2cを併せた範囲をHUD10Aによる画像光の投写範囲として制御する。
【0116】
また、
図11に示すように、運転者の視線e1とウインドシールド1の交わる点が投写範囲2aにあり、同乗者の視線e2とウインドシールド1の交わる点が投写範囲2aにあるケースを想定する。
【0117】
このケースでは、投写範囲制御部65Aは、ユニット10aの投写表示部を起動して、投写範囲2aをHUD10Aによる画像光の投写範囲として制御する。
【0118】
画像データ生成部63Aは、投写範囲制御部65Aにより起動された投写表示部を駆動する駆動部45に入力する画像データを、自動車の状況等に基づいて生成する。画像データは運転支援のために必要な情報を含む。また、自動車の状況は自動車の運行状況、または、ガソリン残量など情報であってもよい。
【0119】
測定データ取得部61Aは、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70Aにより検出された運転者の視線と交わる点を含む予め決められた領域の形状の測定データと、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70Aにより検出された同乗者の視線と交わる点を含む予め決められた領域の形状の測定データと、をウインドシールド形状測定装置8から取得する。
【0120】
記憶部30には、ウインドシールド1を車内から平面視したときの投写可能範囲1A内の各位置を示す座標で構成される平面座標データが記憶されている。
【0121】
また、記憶部30には、平面座標データの座標毎に、この座標に視線が交わるときの運転者の視線の方向を対応付けて記憶した運転者用テーブルデータが記憶されている。
【0122】
また、記憶部30には、平面座標データの座標毎に、この座標に視線が交わるときの同乗者の視線の方向を対応付けて記憶した同乗者用テーブルデータと、が記憶されている。
【0123】
平面座標データと運転者用テーブルデータと同乗者用テーブルデータは投写表示システムの設計段階で決められるデータである。
【0124】
平面座標データにおいて、投写範囲2aと対応する座標には投写範囲2aを示す情報が関連付けられ、投写範囲2bと対応する座標には投写範囲2bを示す情報が関連付けられ、投写範囲2cと対応する座標には投写範囲2cを示す情報が関連付けられている。
【0125】
測定データ取得部61Aは、視線検出部70Aから運転者の視線の方向が通知されると、記憶部30の運転者用テーブルデータに基づいて、運転者の視線と交わる投写可能範囲1Aの座標(運転者視線交点座標)を求める。
【0126】
測定データ取得部61Aは、運転者視線交点座標に関連付けられている投写範囲の情報と同じ情報が関連付けられている全ての座標で示される運転者用エリア座標情報をウインドシールド形状測定装置8に通知する。
【0127】
ウインドシールド形状測定装置8は、ウインドシールド1の平面視における計測範囲を、通知された運転者用エリア座標情報で指定される範囲に設定し、設定した計測範囲と重なるウインドシールド1の部分の三次元形状を測定し、測定データを測定データ取得部61Aに送信する。
【0128】
このようにして、測定データ取得部61Aは、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70Aにより検出された運転者の視線と交わる点(運転者視線交点座標)を含む予め決められた第一の領域(上記の運転者用エリア座標情報で指定される平面範囲と重なる領域)の三次元形状の測定データを取得する。
【0129】
運転者の視線に基づいて測定データが取得される第一の領域を以下では運転者用測定データ取得領域という。運転者用測定データ取得領域は、
図6のシステムにおいては投写範囲2a〜2cのいずれかと一致する。
【0130】
測定データ取得部61Aは、視線検出部70Aから同乗者の視線の方向が通知されると、記憶部30の同乗者用テーブルデータに基づいて、同乗者の視線と交わる投写可能範囲1Aの座標(同乗者視線交点座標)を求める。
【0131】
そして、測定データ取得部61Aは、同乗者視線交点座標に関連付けられている投写範囲の情報と同じ情報が関連付けられている全ての座標により示される同乗者用エリア座標情報をウインドシールド形状測定装置8に通知する。
【0132】
ウインドシールド形状測定装置8は、ウインドシールド1の平面視における計測範囲を、通知された同乗者用エリア座標情報で指定される範囲に設定し、設定した計測範囲と重なるウインドシールド1の部分の三次元形状を測定し、測定データを測定データ取得部61Aに送信する。
【0133】
このようにして、測定データ取得部61Aは、ウインドシールド1における投写可能範囲1Aのうち、視線検出部70Aにより検出された同乗者の視線と交わる点(同乗者視線交点座標)を含む予め決められた第二の領域(上記の同乗者用エリア座標情報で指定される平面範囲と重なる領域)の三次元形状の測定データを取得する。
【0134】
同乗者の視線に基づいて測定データが取得された第二の領域を以下では同乗者用測定データ取得領域という。同乗者用測定データ取得領域は、
図6のシステムにおいては投写範囲2a〜2cのいずれかと一致する。
【0135】
補正データ生成部62Aは、測定データ取得部61Aにより取得された測定データと、視線検出部70Aにより検出された視線の方向と、に基づいて、測定データが取得された領域に投写される画像光に基づく像を、視線検出部70Aにより検出された視線の方向から見た状態での像の歪みを補正するための補正データを生成し、生成した補正データを画像データ補正部64Aに送信する。
【0136】
具体的には、補正データ生成部62Aは、運転者用測定データ取得領域と同乗者用測定データ取得領域とが重複する場合には、測定データ取得部61Aにより取得された運転者用測定データ取得領域の測定データと、視線検出部70Aにより検出された運転者の視線の方向と、に基づいて、運転者測定データ取得領域に投写される画像光に基づく像を、視線検出部70Aにより検出された運転者の視線の方向から見た状態での像の歪みを補正するための運転者用補正データを生成する。
【0137】
また、補正データ生成部62Aは、運転者用測定データ取得領域と同乗者用測定データ取得領域とが非重複である場合には、上記の運転者用補正データを生成し、更に、測定データ取得部61Aにより取得された同乗者用測定データ取得領域の測定データと、視線検出部70Aにより検出された同乗者の視線の方向と、に基づいて、同乗者測定データ取得領域に投写される画像光に基づく像を、視線検出部70Aにより検出された同乗者の視線の方向から見た状態での像の歪みを補正するための同乗者用補正データを生成する。
【0138】
画像データ補正部64Aは、補正データ生成部62Aから受信した補正データを用いて、画像データ生成部63Aで生成された画像データを補正する。
【0139】
画像データ補正部64Aは、運転者用測定データ取得領域と同乗者用測定データ取得領域とが重複する場合には、補正データ生成部62Aから入力された運転者用補正データを用いて、運転者用測定データ取得領域に投写する画像光の元となる画像データを補正し、補正後の画像データを、運転者用測定データ取得領域(
図11の例では投写範囲2a)に画像光を投写するユニットの駆動部45に入力して、補正後の画像データに基づく画像光を投写させる。
【0140】
画像データ補正部64Aは、運転者用測定データ取得領域と同乗者用測定データ取得領域とが非重複である場合には、補正データ生成部62Aから入力された運転者用補正データを用いて、運転者用測定データ取得領域に投写する画像光の元となる画像データを補正し、補正後の画像データを、運転者用測定データ取得領域(
図10の例では投写範囲2b)に画像光を投写するユニットの駆動部45に入力して、補正後の画像データに基づく画像光を投写させる。
【0141】
更に、画像データ補正部64Aは、運転者用測定データ取得領域と同乗者用測定データ取得領域とが非重複である場合には、補正データ生成部62Aから入力された同乗者用補正データを用いて、同乗者用測定データ取得領域に投写する画像光の元となる画像データを補正し、補正後の画像データを、同乗者用測定データ取得領域(
図10の例では投写範囲2c)に画像光を投写するユニットの駆動部45に入力して、補正後の画像データに基づく画像光を投写させる。
【0142】
以上のように、HUD10Aを用いれば、運転者の視線と同乗者の視線が同じ投写範囲にある場合には、運転者から見て像に歪みがなくなるように、この投写範囲に投写される画像光の元となる画像データが補正される。このため、運転者は虚像を正確に認識することができ運転支援を良好に行うことができる。
【0143】
また、HUD10Aによれば、運転者の視線と同乗者の視線が異なる投写範囲にある場合には、運転者の視線がある投写範囲に投写される画像光の元となる画像データが運転者から見て像の歪みがないように補正され、同乗者の視線がある投写範囲に投写される画像光の元となる画像データが同乗者から見て像の歪みがないように補正される。
【0144】
このように、乗員毎に画像データの補正を行うことで、各乗員が歪みのない虚像を観察することが可能となる。
【0145】
HUD10Aでは、上記の第一の変形例を適用することができる。
【0146】
つまり、補正データ生成部62Aは、運転者用補正データを生成したときには、この運転者用補正データの生成に用いた運転者の視線の方向と、この運転者用補正データとを対応付けて記憶部30のROMに記憶する。
【0147】
また、補正データ生成部62Aは、同乗者用補正データを生成したときには、この同乗者用補正データの生成に用いた同乗者の視線の方向と、この同乗者用補正データとを対応付けて記憶部30のROMに記憶する。
【0148】
そして、補正データが記憶済みの視線の方向が視線検出部70Aにより検出されたときには、記憶済みの補正データを読み出して画像データ補正部64Aに入力すればよい。
【0149】
また、HUD10Aでは、上記の第二の変形例を適用することができる。
【0150】
つまり、測定データ取得部61Aは、システムの起動時にウインドシールド1の投写可能範囲1Aの三次元形状の測定データをウインドシールド形状測定装置8から取得して記憶部30のROMに記憶する。
【0151】
そして、測定データ取得部61Aは、記憶部30に記憶した測定データから必要なデータを抽出して取得する。
【0152】
ここまで説明してきたシステム構成による効果は、投写可能範囲1Aが大きいサイズになればなるほど顕著となる。これは、投写可能範囲1Aが大きくなることで、像の歪みが生じやすくなり、画像データの補正の重要性が増すためである。
【0153】
具体的には、HUD10及びHUD10Aにおける投写可能範囲1Aが、ウインドシールド1における自動車の運転者の眼の高さから求められる運転者の見下ろし角度が30度となる範囲と重なった部分より広い範囲である場合に高い効果が得られる。
【0154】
図12は、運転者の見下ろし角度とウインドシールドとの関係を示す図である。
図12に示す符号Eは、自動車の運転者の眼の高さの範囲として想定されるアイボックスの中心位置を示す。
【0155】
アイボックスの中心位置Eを含む重力方向に垂直な平面と、この平面を地面側に向かって30度傾けた平面とで囲まれる範囲が、運転者の見下ろし角度が30度となる範囲である。
【0156】
図1及び
図6のシステムにおいては、ウインドシールド1において、この見下ろし角度が30度となる範囲と重なった範囲Hより広い範囲を投写可能範囲1Aとした場合に、顕著な効果を得ることができる。
【0157】
また、HUD10の第三の変形例とHUD10Aでは、投写可能範囲1Aのサイズによらずとも、投写可能範囲1A前方に虚像として提示される像の最大サイズが大きくなるほど、虚像の歪みが出やすくなる。
【0158】
このため、HUD10の第三の変形例では、表示サイズが最小で10インチ以上の虚像を視認可能に投写表示部が画像光の投写を行う構成とした場合に、特に効果が大きい。
【0159】
また、HUD10Aでは、ユニット10a〜10cが全て画像光の投写を行った状態での虚像の表示サイズ(虚像の最小サイズ)が10インチ以上である場合に、特に効果が大きい。
【0160】
以上説明してきたように、本明細書には以下の事項が開示されている。
【0161】
開示された投写型表示装置は、光源と、上記光源から出射される光を画像データに基づいて空間変調する光変調素子と、上記光変調素子により空間変調された画像光を乗り物のウインドシールドに投写する投写部とを含む投写表示部と、上記乗り物の乗員の視線を検出する視線検出部と、上記ウインドシールドにおける上記画像光が投写可能な投写可能範囲のうち、上記視線検出部により検出された視線と交わる点を含む予め決められた領域の形状の測定データを取得する測定データ取得部と、上記測定データ取得部により取得された測定データと、上記視線検出部により検出された視線の方向と、に基づいて、上記測定データが取得された領域に投写される画像光に基づく像を上記方向から見た状態における像の歪みを補正するための補正データを生成する補正データ生成部と、上記補正データ生成部により生成された補正データを用いて上記画像データを補正する画像データ補正部と、を備えるものである。
【0162】
開示された投写型表示装置は、上記測定データ取得部は、上記乗り物に設置された物体の三次元形状を測定する測定装置から上記測定データを取得するものである。
【0163】
開示された投写型表示装置は、上記乗り物に設置された物体の三次元形状を測定する測定装置によって測定された上記投写可能範囲の形状の測定データを記憶する測定データ記憶部を更に備え、上記測定データ取得部は、上記測定データ記憶部から測定データを取得するものである。
【0164】
開示された投写型表示装置は、上記補正データ生成部は、上記補正データの生成に用いられた視線の方向を上記補正データと対応付けて記憶部に記憶し、上記視線検出部により検出された視線の方向に対応する補正データが上記記憶部に記憶されている場合には、上記補正データの生成を省略し、上記画像データ補正部は、上記視線検出部により検出された視線の方向に対応する補正データが上記記憶部に記憶されている場合には、上記記憶部に記憶された補正データを用いて上記画像データを補正するものである。
【0165】
開示された投写型表示装置は、上記投写可能範囲における上記画像光の投写範囲を、上記視線検出部により検出された視線に基づいて制御する投写範囲制御部を更に備えるものである。
【0166】
開示された投写型表示装置は、上記投写範囲制御部は、上記投写可能範囲のうち上記視線検出部により検出された視線が交わる点を含む領域を投写範囲に制御するものである。
【0167】
開示された投写型表示装置は、上記視線検出部は、複数の乗員の視線を個別に検出し、上記補正データ生成部は、上記投写可能範囲のうち、上記視線検出部により検出された複数の乗員の視線のうちの運転者の視線と交わる点を含む予め決められた第一の領域と、上記複数の乗員の視線のうちの運転者以外の乗員の視線と交わる点を含む予め決められた第二の領域とが重複する場合には、上記測定データ取得部により取得された上記第一の領域の形状の測定データと、上記視線検出部により検出された上記運転者の視線の方向と、に基づいて、上記第一の領域に投写される画像光に基づく像の歪みを補正するための補正データを生成し、上記第一の領域と上記第二の領域が非重複である場合には、上記測定データ取得部により取得された上記第一の領域及び上記第二の領域毎の形状の測定データと、上記視線検出部により検出された乗員毎の視線の方向と、に基づいて、上記第一の領域に投写される画像光に基づく像の歪みと、上記第二の領域に投写される画像光に基づく像の歪みと、を補正するための補正データを生成するものである。
【0168】
開示された投写型表示装置は、上記投写可能範囲は、上記ウインドシールドにおける、上記乗り物の運転者の眼の高さから求められる上記運転者の見下ろし角度が30度となる範囲と重なった部分より広い範囲であるものである。
【0169】
開示された投写型表示装置は、上記投写表示部は、表示サイズが最小で10インチ以上の虚像を視認可能に上記画像光の投写を行うものである。
【0170】
開示された投写表示方法は、光源から出射される光を画像データに基づいて変調して得た画像光を乗り物のウインドシールドに投写する投写表示方法であって、上記乗り物の乗員の視線を検出する視線検出ステップと、上記ウインドシールドにおける上記画像光が投写可能な投写可能範囲のうち、上記視線検出ステップにより検出された視線と交わる点を含む予め決められた領域の上記ウインドシールドの形状の測定データを取得する測定データ取得ステップと、上記測定データ取得ステップにより取得された測定データと、上記視線検出ステップにより検出された視線の方向と、に基づいて、上記測定データが取得された領域に投写される画像光に基づく像を上記方向から見た状態における像の歪みを補正するための補正データを生成する補正データ生成ステップと、上記補正データ生成ステップにより生成された補正データを用いて上記画像データを補正する画像データ補正ステップと、を備えるものである。
【0171】
開示された投写表示方法は、上記測定データ取得ステップでは、上記乗り物に設置された物体の三次元形状を測定する測定装置から上記測定データを取得するものである。
【0172】
開示された投写表示方法は、上記測定データ取得ステップでは、上記乗り物に設置された物体の三次元形状を測定する測定装置によって測定された上記投写可能範囲の形状の測定データを記憶する測定データ記憶部から測定データを取得するものである。
【0173】
開示された投写表示方法は、上記補正データ生成ステップでは、上記補正データの生成に用いられた視線の方向と上記補正データとを対応付けて記憶部に記憶し、上記視線検出ステップにより検出された視線の方向に対応する補正データが上記記憶部に記憶されている場合には、上記補正データの生成を省略し、上記画像データ補正ステップでは、上記視線検出ステップにより検出された視線の方向に対応する補正データが上記記憶部に記憶されている場合には、上記記憶部に記憶された補正データを用いて上記画像データを補正するものである。
【0174】
開示された投写表示方法は、上記投写可能範囲における画像光の投写範囲を、上記視線検出ステップにより検出された視線に基づいて制御する投写範囲制御ステップを更に備えるものである。
【0175】
開示された投写表示方法は、上記投写範囲制御ステップでは、上記投写可能範囲のうち上記視線検出ステップにより検出された視線が交わる点を含む領域を投写範囲に制御するものである。
【0176】
開示された投写表示方法は、上記視線検出ステップでは、複数の乗員の視線を個別に検出し、上記補正データ生成ステップでは、上記投写可能範囲のうち、上記視線検出ステップにより検出された複数の乗員の視線のうちの運転者の視線と交わる点を含む予め決められた第一の領域と、上記複数の乗員の視線のうちの運転者以外の乗員の視線と交わる点を含む予め決められた第二の領域とが重複する場合には、上記測定データ取得ステップにより取得された上記第一の領域の形状の測定データと、上記視線検出ステップにより検出された上記運転者の視線の方向と、に基づいて、上記第一の領域に投写される画像光に基づく像の歪みを補正するための補正データを生成し、上記第一の領域と上記第二の領域が非重複である場合には、上記測定データ取得ステップにより取得された上記第一の領域及び上記第二の領域毎の形状の測定データと、上記視線検出ステップにより検出された乗員毎の視線の方向と、に基づいて、上記第一の領域に投写される画像光に基づく像の歪みと、上記第二の領域に投写される画像光に基づく像の歪みと、を補正するための補正データを生成するものである。
【0177】
開示された投写表示方法は、上記ウインドシールドにおける上記乗り物の運転者の眼の高さから求められる上記運転者の見下ろし角度が30度となる範囲と重なった部分より広い範囲を上記投写可能範囲とするものである。
【0178】
開示された投写表示方法は、表示サイズが最小で10インチ以上の虚像を視認可能に上記画像光の投写を行うものである。
【0179】
開示された投写表示プログラムは、光源から出射される光を画像データに基づいて変調して得た画像光を乗り物のウインドシールドに投写する投写表示方法をコンピュータに実行させるための投写表示プログラムであって、上記投写表示方法は、上記乗り物の乗員の視線を検出する視線検出ステップと、上記ウインドシールドにおける上記画像光が投写可能な投写可能範囲のうち、上記視線検出ステップにより検出された視線と交わる点を含む予め決められた領域の上記ウインドシールドの形状の測定データを取得する測定データ取得ステップと、上記測定データ取得ステップにより取得された測定データと、上記視線検出ステップにより検出された視線の方向と、に基づいて、上記測定データが取得された領域に投写される画像光に基づく像を上記方向から見た状態における像の歪みを補正するための補正データを生成する補正データ生成ステップと、上記補正データ生成ステップにより生成された補正データを用いて上記画像データを補正する画像データ補正ステップと、を備えるものである。
【0180】
本明細書で開示されたプログラムは、このプログラムをコンピュータが読取可能な一時的でない(non−transitory)記録媒体に記録されて提供可能である。
【0181】
このような「コンピュータ読取可能な記録媒体」は、たとえば、CD−ROM(Compact Disc−ROM)等の光学媒体や、メモリカード等の磁気記録媒体等を含む。また、このようなプログラムを、ネットワークを介したダウンロードによって提供することもできる。
【0182】
今回開示された実施形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。