(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一部には原則として同一の符号を付し、その繰り返しの説明は省略する。一方で、ある図において符号を付して説明した部位について、他の図の説明の際に再度の図示はしないが同一の符号を付して言及する場合がある。
【0021】
なお、以下の説明において、車両の運動方向ついては、車両が前進で直進する方向の軸をローリング軸とし、ローリング軸を中心に車両が回転する方向をロール方向と記載する場合がある。また、ローリング軸と同一の水平面に属し、ローリング軸と直交する軸をピッチング軸とし、ピッチング軸を中心に車両が回転する方向をピッチ方向と記載する場合がある。また、ローリング軸と同一の鉛直面に属し、ローリング軸と直交する軸をヨーイング軸とし、ヨーイング軸を中心に車両が回転する方向をヨー方向と記載する場合がある。
【0022】
(実施の形態1)
<装置構成>
図2は、本発明の実施の形態1であるヘッドアップディスプレイ装置の動作概念の例について概要を示した図である。本実施の形態のAR−HUD1では、プロジェクタやLCD(Liquid Crystal Display)などからなる映像表示装置30に表示された映像を、ミラー51やミラー52(例えば、自由曲面ミラーや光軸非対称の形状を有するミラー等)により反射させて、車両2のウィンドシールド3に投射する。
【0023】
運転者5は、ウィンドシールド3に投射された映像を見ることで、透明のウィンドシールド3を通してその前方に虚像として上記映像を視認する。本実施の形態では、後述するように、ミラー52の角度を調整することで、映像をウィンドシールド3に投射する位置を調整することにより、運転者5が見る虚像の表示位置を上下方向に調整することが可能である。すなわち、ミラー52は、水平方向の回転軸を中心に回転させて角度を調整することができる。
【0024】
また、本実施の形態では、後述する各種の手法を用いることで、虚像を近方(例えば2〜3m先)に表示したり、遠方(例えば30〜40m先)に表示したり等、表示距離を調整することも可能である。そして、虚像を車外の実景(道路や建物、人等)に重畳させるようにその表示位置や表示距離を調整することで、AR機能を実現する。
【0025】
図1は、本発明の実施の形態1であるヘッドアップディスプレイ装置の全体の構成例について概要を示した機能ブロック図である。車両2に搭載されたAR−HUD1は、例えば、車両情報取得部10、制御部20、映像表示装置30、表示距離調整機構40、ミラー駆動部50、ミラー52、およびスピーカ60からなる。なお、
図1の例では、車両2の形状を乗用車のように表示しているが、特にこれに限られず、車両一般に適宜適用することができる。
【0026】
車両情報取得部10は、車両2の各部に設置された後述するような各種のセンサ等の情報取得デバイスからなり、車両2で生じた各種イベントを検知したり、所定の間隔で走行状況に係る各種パラメータの値を検知・取得したりすることで車両情報4を取得して出力する。車両情報4には、図示するように、例えば、車両2の速度情報やギア情報、ハンドル操舵角情報、ランプ点灯情報、外光情報、距離情報、赤外線情報、エンジンON/OFF情報、カメラ映像情報(車内/車外)、加速度姿勢情報、GPS(Global Positioning System)情報、ナビゲーション情報、車車間通信情報、および路車間通信情報などが含まれ得る。
【0027】
制御部20は、AR−HUD1の動作を制御する機能を有し、例えば、CPU(Central Processing Unit)とこれにより実行されるソフトウェアにより実装される。マイコンやFPGA(Field Programmable Gate Array)などのハードウェアにより実装されていてもよい。制御部20は、
図2にも示したように、車両情報取得部10から取得した車両情報4等に基づいて、虚像として表示する映像を映像表示装置30を駆動して形成し、これをミラー52等によって適宜反射させることでウィンドシールド3に投射する。そして、後述するような手法により、虚像の表示領域の表示位置を調整したり、虚像の表示距離を調整したり等の制御を行う。
【0028】
映像表示装置30は、上述したように、例えば、プロジェクタやLCDにより構成されるデバイスであり、制御部20からの指示に基づいて虚像を表示するための映像を形成してこれを投射したり表示したりする。表示距離調整機構40は、制御部20からの指示に基づいて、表示される虚像の運転者5からの距離を調整するための機構であり、例えば、後述するような各種の表示距離調整手法のいずれか1つ以上を実装したものである。
【0029】
ミラー駆動部50は、制御部20からの指示に基づいてミラー52の角度を調整し、虚像の表示領域の位置を上下方向に調整する。虚像の表示領域の位置の調整については後述する。スピーカ60は、AR−HUD1に係る音声出力を行う。例えば、ナビゲーションシステムの音声案内や、AR機能によって運転者5に警告等を通知する際の音声出力等を行うことができる。
【0030】
図3は、本実施の形態のヘッドアップディスプレイ装置における車両情報4の取得に係るハードウェア構成の例について概要を示した図である。ここでは主に車両情報取得部10および制御部20の一部のハードウェア構成について示す。車両情報4の取得は、例えば、ECU(Electronic Control Unit)21の制御の下、ECU21に接続された各種のセンサ等の情報取得デバイスにより行われる。
【0031】
これらの情報取得デバイスとして、例えば、車速センサ101、シフトポジションセンサ102、ハンドル操舵角センサ103、ヘッドライトセンサ104、照度センサ105、色度センサ106、測距センサ107、赤外線センサ108、エンジン始動センサ109、加速度センサ110、姿勢センサ111、温度センサ112、路車間通信用無線受信機113、車車間通信用無線受信機114、カメラ(車内)115、カメラ(車外)116、GPS受信機117、およびVICS(Vehicle Information and Communication System:道路交通情報通信システム、登録商標(以下同様))受信機118などの各デバイスを有する。必ずしもこれら全てのデバイスを備えている必要はなく、また、他の種類のデバイスを備えていてもよい。備えているデバイスによって取得できる車両情報4を適宜用いることができる。
【0032】
車速センサ101は、車両2の速度情報を取得する。シフトポジションセンサ102は、車両2の現在のギア情報を取得する。ハンドル操舵角センサ103は、ハンドル操舵角情報を取得する。ヘッドライトセンサ104は、ヘッドライトのON/OFFに係るランプ点灯情報を取得する。照度センサ105および色度センサ106は、外光情報を取得する。測距センサ107は、車両2と外部の物体との間の距離情報を取得する。赤外線センサ108は、車両2の近距離における物体の有無や距離等に係る赤外線情報を取得する。エンジン始動センサ109は、エンジンON/OFF情報を検知する。
【0033】
加速度センサ110および姿勢センサ111は、車両2の姿勢や挙動の情報として、加速度や角速度からなる加速度姿勢情報を取得する。温度センサ112は車内外の温度情報を取得する。路車間通信用無線受信機113および車車間通信用無線受信機114は、それぞれ、車両2と道路や標識、信号等との間の路車間通信により受信した路車間通信情報、および車両2と周辺の他の車両との間の車車間通信により受信した車車間通信情報を取得する。
【0034】
カメラ(車内)115およびカメラ(車外)116は、それぞれ、車内および車外の状況の動画像を撮影してカメラ映像情報(車内/車外)を取得する。カメラ(車内)115では、例えば、運転者5の姿勢や、眼の位置、動き等を撮影する。得られた動画像を解析することにより、例えば、運転者5の疲労状況や視線の位置などを把握することが可能である。また、カメラ(車外)116では、車両2の前方や後方等の周囲の状況を撮影する。得られた動画像を解析することにより、例えば、周辺の他の車両や人等の移動物の有無、建物や地形、路面状況(雨や積雪、凍結、凹凸等)などを把握することが可能である。
【0035】
GPS受信機117およびVICS受信機118は、それぞれ、GPS信号を受信して得られるGPS情報およびVICS信号を受信して得られるVICS情報を取得する。これらの情報を取得して利用するカーナビゲーションシステムの一部として実装されていてもよい。
【0036】
図4は、本実施の形態のヘッドアップディスプレイ装置の構成例について詳細を示した機能ブロック図である。
図4の例では、映像表示装置30がプロジェクタである場合を示しており、映像表示装置30は、例えば、光源31、照明光学系32、および表示素子33などの各部を有する。光源31は、投射用の照明光を発生する部材であり、例えば、高圧水銀ランプやキセノンランプ、LED(Light Emitting Diode)光源、レーザー光源等を用いることができる。照明光学系32は、光源31で発生した照明光を集光し、より均一化して表示素子33に照射する光学系である。表示素子33は、投射する映像を生成する素子であり、例えば、透過型液晶パネル、反射型液晶パネル、DMD(Digital Micromirror Device)(登録商標)パネル等を用いることができる。
【0037】
制御部20は、より詳細には、ECU21、音声出力部22、不揮発性メモリ23、メモリ24、光源調整部25、歪み補正部26、表示素子駆動部27、表示距離調整部28、およびミラー調整部29などの各部を有する。ECU21は、
図3に示したように、車両情報取得部10を介して車両情報4を取得するとともに、取得した情報を必要に応じて不揮発性メモリ23やメモリ24に記録、格納したり読み出したりする。不揮発性メモリ23には、各種制御のための設定値やパラメータなどの設定情報が格納されていてもよい。また、ECU21は、専用のプログラムを実行させる等により、AR−HUD1として表示する虚像に係る映像データを生成する。
【0038】
音声出力部22は、必要に応じてスピーカ60を介して音声情報を出力する。光源調整部25は、映像表示装置30の光源31の発光量を調整する。光源31が複数ある場合にはそれぞれ個別に制御するようにしてもよい。歪み補正部26は、ECU21が生成した映像について、映像表示装置30によって車両2のウィンドシールド3に投射した場合に、ウィンドシールド3の曲率によって生じる映像の歪みを画像処理により補正する。表示素子駆動部27は、歪み補正部26による補正後の映像データに応じた駆動信号を表示素子33に対して送り、投射する映像を生成させる。
【0039】
表示距離調整部28は、虚像の表示距離を調整する必要がある場合に、表示距離調整機構40を駆動して、映像表示装置30から投射される映像の表示距離を調整する。虚像の表示距離を調整する各種手法については後述する。ミラー調整部29は、虚像の表示領域自体の位置を調整する必要がある場合に、ミラー駆動部50を介してミラー52の角度を変更し、虚像の表示領域を上下に移動させる。虚像の表示領域の位置調整についても後述する。
【0040】
図5は、本実施の形態のヘッドアップディスプレイ装置における表示距離調整に係る構成の例について詳細を示した図である。制御部20の表示距離調整部28は、さらに、ECU21により個別に制御される各部として、例えば、機能性液晶フィルムON/OFF制御部281、レンズ可動部282、調光ミラーON/OFF制御部283、拡散板可動部284、および光学フィルタ可動部285などを有する。また、これら各部により制御・駆動されるハードウェアやデバイス等として、表示距離調整機構40は、さらに、機能性液晶フィルム401、レンズ可動機構402、調光ミラー403、拡散板可動機構404、および光学フィルタ可動機構405などを有する。これら各部による虚像の表示距離の調整手法については後述する。
【0041】
なお、AR−HUD1としてはこれら各部やデバイス等を全て備えている必要はなく、後述する虚像の表示距離の調整手法の中から適用するものを実装するために必要な各部を適宜備えていればよい。
【0042】
<処理内容>
図6は、本実施の形態のヘッドアップディスプレイ装置の初期動作の例について概要を示したフローチャートである。停止中の車両2においてイグニッションスイッチがONされることでAR−HUD1の電源がONされると(S01)、AR−HUD1は、制御部20からの指示に基づいて、まず、車両情報取得部10により車両情報を取得する(S02)。そして、制御部20は、車両情報4のうち、照度センサ105や色度センサ106等により取得した外光情報に基づいて好適な明るさレベルを算出し(S03)、光源調整部25により光源31の発光量を制御して、算出した明るさレベルとなるように設定する(S04)。例えば、外光が明るい場合には明るさレベルを高くし、暗い場合には明るさレベルを低く設定する。
【0043】
その後、ECU21により、虚像として表示する映像(例えば、初期画像)を決定、生成し(S05)、生成した映像に対して歪み補正部26により歪みを補正する処理を実施した後(S06)、表示素子駆動部27により表示素子33を駆動・制御して、投射する映像を形成させる(S07)。これにより、映像がウィンドシールド3に投射され、運転者5は虚像を視認することができるようになる。その後、ECU21もしくは表示距離調整部28により虚像の表示距離を算出・決定し(S08)、表示距離調整部28により表示距離調整機構40を駆動して、映像表示装置30から投射される映像の表示距離を制御する(S09)。
【0044】
AR−HUD1全体で、上述した一連の初期動作も含む各部の起動・始動が完了すると、HUD−ON信号が出力されるが、制御部20ではこの信号を受けたか否かを判定する(S11)。受けていなければ、さらにHUD−ON信号を一定時間待ち受け(S12)、ステップS11でHUD−ON信号を受けたと判定されるまで、HUD−ON信号の待ち受け処理(S12)を繰り返す。ステップS11でHUD−ON信号を受けたと判定された場合は、後述するAR−HUD1の通常動作を開始し(S13)、一連の初期動作を終了する。
【0045】
図7は、本実施の形態のヘッドアップディスプレイ装置の通常動作の例について概要を示したフローチャートである。通常動作においても、基本的な処理の流れは上述の
図6に示した初期動作と概ね同様である。まず、AR−HUD1は、制御部20からの指示に基づいて、車両情報取得部10により車両情報を取得する(S21)。そして、制御部20は、車両情報4のうち、照度センサ105や色度センサ106等により取得した外光情報に基づいて明るさレベル調整処理を行う(S22)。
【0046】
図8は、本実施の形態のヘッドアップディスプレイ装置の明るさレベル調整処理の例について概要を示したフローチャートである。明るさレベル調整処理を開始すると、まず、取得した外光情報に基づいて好適な明るさレベルを算出する(S221)。そして、現状設定されている明るさレベルと比較することにより、明るさレベルの変更の要否を判定する(S222)。変更が不要である場合にはそのまま明るさレベル調整処理を終了する。一方、変更が必要である場合には、光源調整部25により光源31の発光量を制御して、変更後の明るさレベルとなるように設定し(S223)、明るさレベル調整処理を終了する。なお、ステップS222において、ステップS221で算出した好適な明るさレベルと、現状設定されている明るさレベルとの間に差分がある場合でも、差分が所定の閾値以上である場合にのみ明るさレベルの変更が必要であると判定するようにしてもよい。
【0047】
図7に戻り、その後、ECU21により、ステップS21で取得した最新の車両情報4に基づいて、虚像として表示する映像を現状のものから必要に応じて変更し、変更後の映像を決定、生成する(S23)。なお、車両情報4に基づいて表示内容を変更するパターンは、取得した車両情報4の内容やそれらの組み合わせ等に応じて多数のものがあり得る。例えば、速度情報が変化したことにより、常時表示されている速度表示の数値を変更する場合や、ナビゲーション情報に基づいて案内の矢印図形を表示/消去したり、矢印の形状や表示位置等を変更したりする場合など、様々なパターンがあり得る。
【0048】
その後、本実施の形態では、車両2の走行状況に応じて視認性や表示内容の適切性等を維持するための調整・補正処理を行う。まず、虚像の表示領域自体の位置を調整する必要がある場合に、ミラー駆動部50を介してミラー52の角度を変更し、虚像の表示領域を上下に移動させるミラー調整処理を行う(S24)。その後さらに、車両2の振動に対して表示領域内における映像の表示位置を補正する振動補正処理を行う(S25)。ステップS24およびS25の調整・補正処理の詳細な内容については後述する。
【0049】
その後、調整・補正した映像に対して歪み補正部26により歪みを補正する処理を実施した後(S26)、表示素子駆動部27により表示素子33を駆動・制御して投射する映像を形成させる(S27)。そして、ECU21もしくは表示距離調整部28により虚像の表示距離を算出・決定し(S28)、表示距離調整部28により表示距離調整機構40を駆動して、映像表示装置30から投射される映像の表示距離を制御する(S29)。
【0050】
上述した一連の通常動作を実行している際に、車両2の停止等に伴って電源OFF等がなされると、AR−HUD1に対してHUD−OFF信号が出力されるが、制御部20ではこの信号を受けたか否かを判定する(S30)。HUD−OFF信号を受けていなければ、ステップS21に戻って、HUD−OFF信号を受けるまで一連の通常動作を繰り返す。HUD−OFF信号を受けたと判定された場合は、一連の通常動作を終了する。
【0051】
<ミラー調整処理>
図9は、本実施の形態のヘッドアップディスプレイ装置における虚像の表示領域の位置を上下に調整する例について概要を示した図である。例えば、左、中央、右の各図において、上段には車両2が走行中の道路の勾配の状況と、運転者5の視野の状況を側面から見た状態を模式的に示している。また、下段には、それぞれの状態において、運転者5が見る車外の前方の実景と、これに重畳して表示される虚像の表示領域6(破線枠の矩形)の位置の状況を模式的に示している。
【0052】
左側の図では、上段の図に示すように、車両2の現在地の道路の勾配(上り方向)と前方の道路の勾配(上り方向)とが略同一である場合、すなわち概ね平坦な道路を走行している場合を示している。この場合は、下段の図に示すように、車外の前方の実景(
図9の例では道路上を走行する前方の車両)にAR機能により虚像(
図9の例では感嘆符のマークもしくは画像)を重畳させて表示するには、虚像の表示領域6の上下方向の位置は通常のままでよい。すなわち、左側の下段の図に示す表示領域6の位置が、表示領域6の上下方向での基本の表示位置となる。
【0053】
一方、中央の図では、車両2の現在地の道路の勾配(上り方向)が、前方の道路の勾配(上り方向)より大きい場合、すなわち前方が下り坂の道路を走行している場合を示している。この場合は、上段の図に示すように、車両2の位置における勾配に基づく運転者5の視野の高さ(図中の実線枠)に対して、前方の道路上を視野に入れるには視野を下方向に移動させる(図中の点線枠)必要がある。そして、この場合、下段の図に示すように、虚像の表示領域6の表示位置が基本の表示位置(点線枠の矩形)のままでは、車外の前方の実景にAR機能により虚像を重畳させることができないため、重畳させて表示するには表示領域6自体を下方向に移動させる必要がある。
【0054】
同様に、右側の図では、車両2の現在地の道路の勾配(上り方向)が、前方の道路の勾配(上り方向)より小さい場合、すなわち前方が上り坂の道路を走行している場合を示している。この場合は、上段の図に示すように、車両2の位置における勾配に基づく運転者5の視野の高さ(図中の実線枠)に対して、前方の道路上を視野に入れるには視野を上方向に移動させる(図中の点線枠)必要がある。そして、この場合も、下段の図に示すように、虚像の表示領域6の表示位置が基本の表示位置(点線枠の矩形)のままでは、車外の前方の実景にAR機能により虚像を重畳させることができないため、重畳させて表示するには表示領域6自体を上方向に移動させる必要がある。
【0055】
このように、走行状況に応じて虚像の表示領域6の上下方向の位置を移動させることが必要となる状況は、
図9の例に示したような現在位置の勾配と前方の道路の勾配との間に一定量以上の差分があるような場合に限られない。例えば、高速道路等において車両2の速度が大きくなった場合、運転者5の視線は通常時に比べて一般に遠くを見るようになり、視野の高さが上方向に移動することになる。したがって、例えば、通常時に比べてさらに前方に存在する他の車両等を含む車外の実景に対して虚像を重畳させるには、表示領域6を上方向に移動させる必要が生じ得る。車両2の走行中に運転者5の姿勢や体勢が変化する等により、運転者5の眼の高さ位置自体が変化し、これにより視野の高さが上下方向に移動する場合なども同様である。
【0056】
本実施の形態では、上述した
図7のステップS24のミラー調整処理において、車両2の走行状況に応じてミラー駆動部50によりミラー52の角度を制御して、虚像の表示領域の上下方向の位置を
図9の例に示したように調整する。
【0057】
図10は、
図7のステップS24のミラー調整処理の例について概要を示したフローチャートである。ミラー調整処理を開始すると、まず、現在のミラー52の角度を取得し(S241)、さらに、車両情報4に基づいて、ミラー52の角度の調整(すなわち虚像の表示領域の表示位置の調整)に関連するパラメータの現在値を取得する(S242)。
【0058】
必要となるパラメータの種類は、どのような条件で表示領域の表示位置を調整するかにより異なり得る。例えば、
図9に示した例では、関連するパラメータ値として、車両2の現在位置の勾配と、前方の道路の勾配との差分(相対的な勾配)を示す値を取得する。例えば、加速度姿勢情報により得られる車両2の傾きの情報から現在位置の勾配を把握することができる。また、車外のカメラ映像情報を解析することで前方の道路の勾配を把握することも可能である。また、ナビゲーション情報から得られる3次元の道路・地形情報等に基づいて現在位置および前方の道路の勾配を得ることも可能である。
【0059】
次に、ステップS242で取得したパラメータ値に基づいて、予め定められた基準・条件等に基づいてミラー52の目標角度を算出する(S243)。どのパラメータに基づいてどのようなロジックで目標角度を算出するかは、どのような条件で表示領域の表示位置を調整するかにより異なり得る。例えば、
図9に示した例では、現在地と前方の道路との相対的な勾配の絶対値が所定の閾値以上である場合に、相対的な勾配の符号に応じてミラー52の目標角度を決定する。上記の所定の閾値としては、例えば、虚像の表示領域の上下方向のFOV(Field Of View:視野角)の1/x(xは所定の値)などとすることができる。
【0060】
なお、本実施の形態では、ステップS242で取得した現在のパラメータ値に基づいてミラー52の目標角度を算出するものとしているが、現在のパラメータ値や過去の値の履歴の情報に基づいて近い将来の状況を予測し、予測結果に基づいて目標角度を算出するようにしてもよい。例えば、パラメータ値の過去の履歴に基づいて値の遷移の傾向を分析し、当該傾向に基づいて近い将来のパラメータ値を予測するようにしてもよい。また、車外の前方のカメラ映像情報を解析することで近い将来における車両2の周辺状況を予測したり、ナビゲーション情報に基づいて車両2の前方の道路状況を把握したりすることも可能である。
【0061】
次に、ステップS241で取得した現在のミラー52の角度と、ステップS243で取得した目標のミラー52の角度との差分の有無を判定する(S244)。判定に際しては、例えば、差分が所定の閾値以上である場合に差分ありと判定し、閾値以下の場合には差分なしと判定するようにしてもよい。また、差分ありの状態が一定時間以上継続した場合に限り差分ありと判定するようにしてもよい。これにより、例えば、車両2が縁石等の段差に乗り上げた場合など一時的・瞬間的に車両2の傾きが変化したような事象について、ミラー52の調整対象から除外することができる。
【0062】
ステップS244で角度の差分がないと判定された場合は、そのままミラー調整処理を終了する。すなわち、ミラー52の角度の調整は行わず、現状の角度のままとする。一方、角度の差分があると判定された場合は、目標角度となるように指定方向にミラー52を回転させる(S245)。具体的には、ミラー駆動部50に対してミラー52を回転させる旨のミラー調整信号を出力する。そして、ミラー52が目標角度に達したか否かを判定し(S246)、達していない場合にはステップS245に戻ってミラー52の回転を継続する。すなわち、ミラー駆動部50に対するミラー調整信号の出力を継続する。一方、ミラー52が目標角度に達した場合は、ミラー52の回転を停止する(S247)。すなわち、ミラー駆動部50に対するミラー調整信号の出力を停止する。そして、一連のミラー調整処理を終了する。
【0063】
<振動補正処理>
図11は、
図7のステップS25の振動補正処理の例について概要を示したフローチャートである。振動補正処理を開始すると、まず、車両情報4に基づいて車両2の振動量の情報を取得する(S251)。例えば、加速度姿勢情報や車外のカメラ映像情報等に基づいて振動量(車両2における短周期の上下動の量)を把握することができる。なお、本実施の形態では、現在の車両情報4に基づいて振動情報を取得するものとしているが、例えば、車外の前方のカメラ映像情報を解析することで近い将来における車両2の周辺の路面状況を予測し、これに基づいて近い将来における車両2の振動量を予測するようにしてもよい。
【0064】
その後、ステップS251で取得した振動量が所定の閾値以上であるか否かを判定する(S252)。閾値未満である場合は、振動が微小であるとしてそのまま振動補正処理を終了する。すなわち、振動に伴う表示映像の補正は行わない。一方、振動量が閾値以上である場合は、表示領域における映像の表示ズレ量を算出する(S253)。例えば、車両2の実際の高さと虚像の表示領域の高さとの比に基づいて、車両2の振動量から表示領域における映像の表示ズレ量を算出する。そして、算出した表示ズレ量に基づいて、表示領域内での映像の表示位置を上下にオフセットし(S254)、一連の振動補正処理を終了する。
【0065】
<虚像の表示距離調整>
制御部20の表示距離調整部28は、虚像の表示距離を調整する必要がある場合に、表示距離調整機構40を駆動して、映像表示装置30から投射される映像の表示距離を調整する。以下では、
図5に示した表示距離調整部28および表示距離調整機構40の各部による、虚像の表示距離の調整手法について説明する。
【0066】
[機能性液晶フィルム]
図12は、本実施の形態のヘッドアップディスプレイ装置における機能性液晶フィルム401を用いた表示距離調整の例について概要を示した図である。
図12の例では、複数枚の機能性液晶フィルム401を拡散板(ディフューザ)41aとして使用する。そして、
図12(a)および(b)に示すように、各機能性液晶フィルム401のエリア毎に白色状態にする箇所を変化させることで、エリア毎に焦点距離を変えて、虚像の表示距離(運転者5の眼の位置と虚像の表示位置との距離)を変化させる。
【0067】
図13は、機能性液晶フィルム401による拡散板41aの構成例について概要を示した図である。機能性液晶フィルム401は、電気により透過状態と白色状態とを制御することができるフィルムである。機能性液晶フィルム401の白色状態の部分が拡散板としての機能を果たし、プロジェクタ30aにより投射された映像は、この白色状態の部分で結像する。本実施の形態では、複数枚の機能性液晶フィルム401について、それぞれ複数のエリア毎に個別に白色状態とするよう制御するものとする。
【0068】
図12に戻り、図示するような構成において、プロジェクタ30aから投射された映像に基づく虚像の表示位置は、各機能性液晶フィルム401の白色状態の部分と、レンズ42aとの距離に応じて決定される。よって、レンズ42aとの距離がそれぞれ異なるように機能性液晶フィルム401を複数枚配置し、プロジェクタ30aから投射される映像について、
図5に示した機能性液晶フィルムON/OFF制御部281によりエリア毎に機能性液晶フィルム401のいずれか1つを白色状態とすることで、エリア毎に虚像の表示距離を変化させることができる。
【0069】
具体的には、例えば、
図12(a)に示すように、対象のエリア(例えば最上部)について、レンズ42aに最も近い位置に配置された機能性液晶フィルム401のみを白色状態とし、他を透過状態とすることで、対応する虚像の表示距離を最も近くすることができる。逆に、
図12(b)に示すように、対象のエリア(例えば最上部)について、レンズ42aから最も遠い位置に配置された機能性液晶フィルム401のみを白色状態とし、他を透過状態とすることで、対応する虚像の表示距離を最も遠くすることができる。
【0070】
なお、
図12、
図13の例では、表示する映像について、上下方向に3つのエリアを設ける場合を例としているが、以下に説明する例も含めて、エリアの数はこれに限定されず、また、上下方向に限らず左右方向にエリアを分けることも当然可能である。また、機能性液晶フィルム401の枚数も図示するような3枚に限定されず、エリアの数に応じて適宜構成することができる。
【0071】
[ミラーの複数枚配置]
図14は、本実施の形態のヘッドアップディスプレイ装置における複数枚のミラーを用いた表示距離調整の例について概要を示した図である。
図14の例では、LCD30bとレンズ42aとの間にミラー51aを図示するように複数配置し、LCD30bからの映像をエリア毎に異なるミラー51aにより反射してレンズ42aに入射させている。これにより、LCD30bからレンズ42aまでの距離をエリア毎に異なるものとし、これに応じて虚像の表示距離を変えることができる。
【0072】
具体的には、例えば、
図14に示すように、LCD30bから最も遠い位置に配置されたミラー51a(レンズ42aからも最も遠い)により反射されるエリアにおいてLCD30bに映像を表示することで、対応する虚像の表示距離を最も遠くすることができる。逆に、LCD30bから最も近い位置に配置されたミラー51a(レンズ42aからも最も近い)により反射されるエリアにおいてLCD30bに映像を表示することで、対応する虚像の表示距離を最も近くすることができる。
【0073】
なお、
図14の例においても、ミラー51aの数は図示するような3枚に限定されず、エリアの数に応じて適宜構成することができる。
【0074】
[可動式レンズ]
図15は、本実施の形態のヘッドアップディスプレイ装置における可動式レンズを用いた表示距離調整の例について概要を示した図である。
図15の例では、プロジェクタ30aから投射された映像は、拡散板(ディフューザ)41bで結像した後、複数のエリアに分けて設けられた可動式レンズ42bを介してミラー52に入射される。
【0075】
ここで、各可動式レンズ42bは、
図5に示したレンズ可動部282およびレンズ可動機構402によって、それぞれ個別に光軸方向に沿って移動させることができる。プロジェクタ30aから投射された映像に基づく虚像の表示位置は、拡散板41bと各可動式レンズ42bとの距離に応じて決定される。よって、可動式レンズ42bを移動させることで、エリア毎に焦点距離を変えて、虚像の表示距離を変化させることができる。
【0076】
具体的には、例えば、
図15に示すように、最上部のエリアのように可動式レンズ42bを拡散板41bに近い位置に移動させることで、対応する虚像の表示距離を近くすることができる。逆に、最下部のエリアのように可動式レンズ42bを拡散板41bから遠い位置に移動させることで、対応する虚像の表示距離を遠くすることができる。
【0077】
なお、
図15の例においても、可動式レンズ42bの数は図示するような3つに限定されず、エリアの数に応じて適宜構成することができる。
【0078】
[調光ミラー]
図16は、本実施の形態のヘッドアップディスプレイ装置における調光ミラー51bを用いた表示距離調整の例について概要を示した図である。
図16の例では、LCD30bとレンズ42aとの間に複数の調光ミラー403を図示するように断面方向から見て行列状となるように配置することで調光ミラー51bを構成する。そして、
図16(a)および(b)に示すように、鏡状態とする調光ミラー403の箇所を変化させることで、LCD30bからレンズ42aまでの距離をエリア毎に異なるものとし、これに応じて虚像の表示距離を変えることができる。
【0079】
図17は、調光ミラー403の構成例について概要を示した図である。調光ミラー403は、電気により透過状態と鏡状態とを制御することができるフィルムやシート、ガラス等の部材である。透過状態となっている調光ミラー403は、LCD30bからの映像を透過し、鏡状態となっている調光ミラー403のみが、映像をレンズ42aの方向に反射させる。本実施の形態では、断面方向から見て行列状に配置された複数の調光ミラー403について、各行、各列(各エリア)につき1つの調光ミラー403のみが鏡状態となるよう、調光ミラーON/OFF制御部283により制御するものとする。
【0080】
具体的には、例えば、
図16(a)に示すように、レンズ42aから最も近い調光ミラー403の列に対応するエリアについて、最下段の行の調光ミラー403のみを鏡状態とし、他を透過状態とすることで、LCD30bからレンズ42aまでの光路長を最も短くすることができ、対応する虚像の表示距離を最も近くすることができる。逆に、レンズ42aから最も遠い調光ミラー403の列に対応するエリアについて、最上段の行の調光ミラー403のみを鏡状態とし、他を透過状態とすることで、LCD30bからレンズ42aまでの光路長を最も長くすることができ、対応する虚像の表示距離を最も遠くすることができる。
【0081】
また、例えば、
図16(b)に示すように、レンズ42aから最も近い調光ミラー403の列に対応するエリアについて、最上段の行の調光ミラー403のみを鏡状態とし、また、レンズ42aから次に近い調光ミラー403の列に対応するエリアについて、最下段の行の調光ミラー403のみを鏡状態とし、他を透過状態とする。これにより、これらのエリアのLCD30bからレンズ42aまでの光路長を比較的短くすることができ、対応する虚像の表示距離を近くすることができる。逆に、レンズ42aから最も遠い調光ミラー403の列に対応するエリアについて、中段の行の調光ミラー403のみを鏡状態とし、他を透過状態とすることで、LCD30bからレンズ42aまでの光路長を他のエリアより比較的長くすることができ、対応する虚像の表示距離を遠くすることができる。
【0082】
なお、
図16、
図17の例においても、調光ミラー403の数は図示するような3行3列に限定されず、エリアの数に応じて適宜構成することができる。
【0083】
[可動式拡散板]
図18は、本実施の形態のヘッドアップディスプレイ装置における可動式拡散板を用いた表示距離調整の例について概要を示した図である。
図18の例では、プロジェクタ30aから投射された映像は、可動式拡散板(可動式ディフューザ)41cで結像した後、レンズ42aを介してミラー52に入射される。
【0084】
ここで、可動式拡散板41cは、
図5に示した拡散板可動部284および拡散板可動機構404によって、光軸方向に沿って移動および/または回転させることができる。プロジェクタ30aから投射された映像に基づく虚像の表示位置は、可動式拡散板41cとレンズ42aとの距離および/または傾きに応じて決定される。よって、可動式拡散板41cを移動および/または回転させることで、焦点距離を変えて虚像の表示距離を変化させることができる。
【0085】
具体的には、可動式拡散板41cをレンズ42aに近い位置に移動および/または回転させることで、虚像の表示距離を近くすることができる。逆に、可動式拡散板41cをレンズ42aから遠い位置に移動および/または回転させることで、虚像の表示距離を遠くすることができる。
【0086】
[可動式光学フィルタ]
図19は、本実施の形態のヘッドアップディスプレイ装置における可動式光学フィルタを用いた表示距離調整の例について概要を示した図である。
図19の例では、レンズ42aと拡散板(ディフューザ)41bとの間に可動式光学フィルタ43aを設置し、
図19(a)および(b)に示すように、可動式光学フィルタ43aを光路に対して挿抜することで、エリア毎に焦点距離を変えて、虚像の表示距離を変化させる。
【0087】
光学フィルタは、レンズなどの光学部品単体もしくは組み合わせにより焦点距離を変える特性を有する部材である。本実施の形態では、それぞれ異なる屈折率を有する複数の光学フィルタを組み合わせて、領域毎に異なる屈折率を有する1つの光学フィルタを形成するとともに、光路に対して挿抜できるような可動式光学フィルタ43aとして構成する。領域毎に光学フィルタの焦点距離が異なることから、
図5に示した光学フィルタ可動部285および光学フィルタ可動機構405によって、可動式光学フィルタ43aを光路に対して挿抜することで、エリア毎に虚像の表示距離を変化させることができる。
【0088】
具体的には、例えば、
図19(a)に示すように、可動式光学フィルタ43a全体を光路に対して挿入することで、最下段のエリアに対応する光学フィルタの焦点距離を最も短くし、虚像の表示距離を遠くするとともに、最上段のエリアに対応する光学フィルタの焦点距離を最も長くし、虚像の表示距離を近くすることができる。また、例えば、
図19(b)に示すように、可動式光学フィルタ43aを一部抜出して最下段のエリアが光学フィルタを通らないようにすることで、このエリアについては拡散板41bとレンズ42aとの距離で虚像の表示距離が決まるようにし、光学フィルタを通る他のエリアよりも虚像の表示距離を遠くすることができる。
【0089】
なお、
図19の例においても、可動式光学フィルタ43aにおける焦点距離が異なる領域の数は図示するような3つに限定されず、エリアの数に応じて適宜構成することができる。
【0090】
[くし状光学フィルタ]
図20は、本実施の形態のヘッドアップディスプレイ装置におけるくし状光学フィルタを用いた表示距離調整の例について概要を示した図である。
図20の例では、プロジェクタ30aから投射された映像は、拡散板(ディフューザ)41bで結像した後、くし状光学フィルタ43bおよびレンズ42aを介してミラー52に入射される。
【0091】
くし状光学フィルタ43bは、レンズと同様の機能を有して焦点距離に応じて虚像の表示距離を変えることができる光学フィルタ部分がくし状に設けられた部材である。
図20に示すように、例えば、プロジェクタ30aから投射された映像のライン単位(1ライン毎に限らず、任意のライン毎とすることができる)で光学フィルタ部分と光学フィルタがない部分とを対応させることで、ライン単位で虚像の表示距離を変えることができる。
【0092】
具体的には、光学フィルタ部分に対応するラインの映像に基づく虚像の表示距離を近くし、光学フィルタがない部分に対応するラインの映像に基づく虚像の表示距離を遠くすることができる。
【0093】
以上に説明したように、本発明の実施の形態1であるヘッドアップディスプレイ装置によれば、車両2の走行状況によって、車両2の前方の実景に虚像を重畳させることができなくなるような場合でも、虚像の表示領域自体の表示位置を上下方向に動的に調整することで、虚像を前方の実景に適切に重畳させてAR機能を実現することが可能となる。さらに、走行状況等に応じて虚像の表示距離を適切に調整することも可能となる。
【0094】
(実施の形態2)
<課題>
上述の実施の形態1のヘッドアップディスプレイ装置では、
図9の例に示したように、現在の走行位置の勾配と、前方の道路の勾配との間の差分があるような場合に、車両2の走行状況に応じてミラー駆動部50によりミラー52の角度を制御するミラー調整処理により、虚像の表示領域の上下方向の位置をハードウェア的に調整する。また、車両2の振動量が所定の閾値を超える場合に、表示領域内での映像の表示位置をソフトウェア的に上下にオフセットする振動補正処理を行う。これらの処理により、車両2の傾きや振動に対しても、前方の実景に虚像を適切に重畳させることを可能とするものである。
【0095】
一方で、車両2の傾きや振動(以下では「揺れ」と総称する場合がある)の態様には様々なものがあり、これらが複合して生じる場合も多い。したがって、車両2の揺れの各種態様に対して柔軟に対応して虚像の表示を調整することができる必要がある。
図21■
図23は、車両2の揺れの例と、それぞれにおける通常の虚像の表示状態の例について概要を示した図である。
【0096】
図21では、
図9の例と同様に、左右の各図において、上段には車両2が走行中の道路の状況と、運転者5の視野の状況を側面から見た状態を模式的に示している。また、下段には、それぞれの状態において、運転者5が見る車外の前方の実景と、これに重畳して表示される虚像の表示領域6(破線枠の矩形)の位置の状況を模式的に示している。
【0097】
図21の右側の図では、上段の図に示すように、車両2は概ね平坦な道路を走行している場合を示している。この場合は、下段の図に示すように、車外の前方の実景(
図21の例では道路上を走行する前方の車両)にAR機能により虚像(
図21の例では感嘆符のマークもしくは画像)を重畳させて表示するには、虚像の表示領域6の上下方向の位置は通常のままでよい。すなわち、右側の下段の図に示す表示領域6の位置が、表示領域6の上下方向での基本の表示位置となる。
【0098】
一方、左側の図では、車両2の現在地の道路面に凹凸がある場合を示している。この場合は、特に何らの調整等も行わない場合、下段の図に示すように、車両2の上下方向(ピッチ方向)の揺れに応じて、虚像およびその表示領域6の位置も、車外の前方の実景に対して相対的に上下方向に揺れることになる。これにより、車外の前方の実景に重畳しない位置に虚像が表示され、運転者5に与える違和感が強くなってしまう。また、虚像が揺れることから、これを見る運転者5が車酔いする場合も生じ得る。
【0099】
また、
図22では、左、中央、右の各図において、上段には車両2が走行中の道路の左右の傾斜の状況を車両2の後方から見た状態を模式的に示している。また、下段には、それぞれの状態において、運転者5が見る車外の前方の実景と、これに重畳して表示される虚像の表示領域6の位置の状況を模式的に示している。
図22の中央の図では、上段の図に示すように、車両2は概ね平坦な道路を走行している場合を示している。この場合は、下段の図に示すように、虚像の表示領域6は基本の表示位置において傾きなく表示される。
【0100】
一方、左右の図では、上段の図に示すように、車両2の現在地の道路面が左右に傾斜している場合を示している。この場合は、特に何らの調整等も行わない場合、下段の図に示すように、車両2の左右方向(ロール方向)の傾きに応じて、虚像およびその表示領域6も左右に傾くことになる。これにより、
図21の例と同様に、車外の前方の実景に重畳しない位置に虚像が表示され、運転者5に与える違和感が強くなってしまう。また、虚像の揺れによって運転者5が車酔いする場合も生じ得る。
【0101】
さらに、
図23では、車両2において上下方向(ピッチ方向)の揺れと左右方向(ロール方向)の傾きが同時に複合して生じる場合を示している。この場合、下段の図に示すように、虚像およびその表示領域6が左右に傾くと同時に、表示位置も上下方向に揺れることになる。
【0102】
<制御の概要>
これらの状況に柔軟に対応して、前方の実景に虚像を適切に重畳させるようにするため、本発明の実施の形態2であるヘッドアップディスプレイ装置は、実施の形態1のヘッドアップディスプレイ装置におけるミラー調整処理および振動補正処理(
図7のステップS24、S25)を、車両2の揺れの各種態様に対してより柔軟に対応することができるよう改良したものである。
【0103】
具体的には、本実施の形態では、上述の
図3に示した、車両情報4を取得するためのハードウェア構成において、姿勢センサ111を2つ備えるものとし、上下方向(ピッチ方向)の揺れと左右方向(ロール方向)の傾きを個別に検知する。すなわち、図示しない第1の姿勢センサ111により上下方向(ピッチ方向)の揺れ(車両2の前後方向の傾きにより把握する)を検知し、第2の姿勢センサ111により車両2の左右方向(ロール方向)の傾きを検知する。そして、第1の姿勢センサ111で検知した角度に応じて、虚像の表示位置を上下方向に調整する。また、第2の姿勢センサ111で検知した角度に応じて、虚像の表示の左右方向の傾きを調整する。さらに、これらの調整を組み合わせて、上下方向の調整と左右方向の傾きの調整を同時に行うことも可能である。
【0104】
第1および第2の姿勢センサ111の車両2における設置位置は特に限定されないが、例えば、いずれもAR−HUD1の筐体内に設置することができる。もしくは、筐体外の所定の場所に設置して、検知した情報を車両情報取得部10によりAR−HUD1内に取り込むようにしてもよい。この場合、運転者5に生じる揺れや傾きに近似した値を得ることができるよう、運転席等に設置することができる。AR−HUD1の筐体内と運転席等の筐体外の双方に第1および第2の姿勢センサ111を設置して、これらから得られる情報に基づいて車両2の揺れや傾き、姿勢等をECU21により解析し、これに基づいて調整を行うようにしてもよい。また、3つ以上の姿勢センサを設置してより詳細に車両2の揺れを検知するようにしてもよい。
【0105】
なお、車両2の上下方向(ピッチ方向)の揺れや左右方向(ロール方向)の傾きを検知するため、車両情報4を取得するハードウェア構成として、第1および第2の2つの姿勢センサ111を用いるのに代えて、もしくはこれに加えて、カメラ(車外)116を用いることも可能である。すなわち、カメラ(車外)116により撮影された前方の実景の画像データにおける所定の時間間隔でのズレ量を算出することで、車両2の揺れを検知することも可能である。本実施の形態のヘッドアップディスプレイ装置のその他の構成や処理内容は、上述の実施の形態1に示したものと基本的には同様であるため、再度の説明は省略する。
【0106】
図24は、本実施の形態のヘッドアップディスプレイ装置における虚像の表示位置を上下に調整する例について概要を示した図である。
図24(a)では、上述の
図21の例と同様の例において、例えば、車両2が左側の図の凹凸路を走行中に上方向(車両前部が相対的に車両後部より上に上がるピッチ方向)に揺れた場合の例を示している。本実施の形態では、この場合、一次的には虚像の表示領域6自体の表示位置の調整は行わない。したがって、表示領域6自体は、
図21の例と同様に、車両2の上方向(車両前部が相対的に車両後部より上に上がるピッチ方向)の揺れに伴って、車外の前方の実景に対して相対的に上方向に移動する。
【0107】
このとき、
図21の例に示したような、特に調整を行わない場合では、表示領域6に表示されている虚像(
図21の例では感嘆符のマークもしくは画像)も表示領域6と連動して相対的に上方向に移動する。これに対し、
図24(a)の例に示した本実施の形態では、下段の図に示すように、虚像の表示領域6が上方向に移動するのに対して、その中に表示される虚像の絶対的な表示位置が元の表示位置から可能な限り変わらないように制御する。すなわち、ECU21において虚像に係る映像データを生成する際に、上方向に移動した表示領域6内での当該虚像の相対的な表示位置を下方に移動させるようソフトウェア的に制御する。
【0108】
図24(b)では、
図24(a)と同様の例において、車両2の上方向(車両前部が相対的に車両後部より上に上がるピッチ方向)への揺れが大きく、虚像の表示位置を前方の実景に重畳させることができる適切な位置まで下方向に移動させようとすると、表示領域6の下端からはみ出してしまう場合を示している。本実施の形態では、この場合、ECU21において虚像に係る映像データを生成する際に、
図24(b)の左側の図に示すように、虚像が表示領域6の下端からはみ出さないように(少なくとも虚像の半分以上が表示領域6に表示されるのが望ましい)、当該虚像の下方向への移動を表示領域6の下端で止めるよう制御する。これにより、虚像が半分見えなくなったり、全く見えなくなったりという事態を回避し、運転者5が常に虚像を視認することができるようにして、運転者5に生じる不安や違和感を低減させる。
【0109】
なお、
図24では車両2が上方向(車両前部が相対的に車両後部より上に上がるピッチ方向)に揺れる場合を例としているが、下方向(車両前部が相対的に車両後部より下に下がるピッチ方向)に揺れる場合は上記の逆の制御となる。また、車両2の左右方向(ロール方向)の傾きに対しても、同様の考え方で虚像の表示を左右方向に回転させて調整することができる。
【0110】
図24に示した例では、車両2の揺れに対して虚像の表示領域6自体の表示位置や傾き(以下ではこれらを「表示状態」と総称する場合がある)の調整は行わず、その中に表示される虚像の表示状態のみをECU21によりソフトウェア的に調整している。これにより、車両2において振動や傾きが複雑に複合した場合でも、虚像の表示状態を柔軟に調整することができる。一方で、実施の形態1に示したように、ミラー駆動部50によりミラー52を回転させることで、虚像の表示領域6自体を上下方向に移動させることも可能である。これにより、車両2に揺れが生じた場合でも、表示領域6の表示位置が揺れないようにハードウェア的に制御することが可能である。
【0111】
図25は、本実施の形態のヘッドアップディスプレイ装置における虚像の表示位置を上下に調整する例について概要を示した図である。
図25(a)では、上述の
図21の例と同様の例において、車両2が左側の図の凹凸路を走行中に上下方向(ピッチ方向)に揺れた場合であっても、本実施の形態では、虚像の表示領域6自体の上下方向の位置が揺れないように調整することを示している。
【0112】
図25(b)では、
図25(a)に示したような調整を行うために、ミラー52を水平方向の回転軸を中心に回転させることで、映像表示装置30から投射された映像を反射させる方向を変え、ウィンドシールド3に投射される位置を上下方向に移動させる例を示している。虚像の表示領域6自体の上下方向の位置を調整する手法は、ミラー52を回転させるだけに限らない。
図25(c)に示すように、ミラー52の位置を光軸方向に前後に移動させることでも、映像表示装置30から投射された映像がウィンドシールド3に投射される位置を上下方向に移動させることができる。
図25(b)に示したミラー52の回転と、
図25(c)に示したミラー52の前後方向への移動とを組み合わせてもよい。
【0113】
図26は、本実施の形態のヘッドアップディスプレイ装置におけるミラー52およびミラー駆動部50の構成例について概要を示した図である。
図26(a)は、ミラー52およびミラー駆動部50の具体的な構成例を示した斜視図である。ミラー駆動部50は、例えば、支持部材54aおよびミラー保持部材54bからなり、これらとミラー52とが、図示するようにミラー駆動軸A(53a)〜C(53c)を介して組み合わせられている。そして、ミラー駆動軸A(53a)〜C(53c)をそれぞれ回転させることで、ミラー52の位置および角度を調整することができる。
【0114】
図26(b)は、ミラー52およびミラー駆動部50がAR−HUD1の筐体内に固定されている状態を側面から見て模式的に示した図である。説明の便宜上、xyz軸についても併せて表示している。中央の図の状態に対して、例えば、ミラー駆動軸A(53a)およびC(53c)をy軸を軸として反時計回りに回転させ、ミラー駆動軸B(53b)を時計回りに回転させることで、左側の図に示すように、ミラー52の角度を維持しつつ、ミラー52の位置を−z方向に移動させることができる。
【0115】
逆に、ミラー駆動軸A(53a)およびC(53c)をy軸を軸として時計回りに回転させ、ミラー駆動部B(53b)を反時計回りに回転させることで、右側の図に示すように、ミラー52の角度を維持しつつ、ミラー52の位置を+z方向に移動させることができる。また、これらの移動とは別に、もしくはこれらの移動と併せて、ミラー駆動軸C(53c)等の回転を調整することで、ミラー52の角度を調整することができる。
【0116】
また、図示しない回転駆動機構によりミラー駆動部50全体、もしくはAR−HUD1全体をz軸を軸として回転させることで、ミラー52により反射されてウィンドシールド3に投射される虚像の表示領域6自体を左右に回転させることができる。
図27は、本実施の形態のヘッドアップディスプレイ装置における虚像の表示領域の左右の傾きを調整する例について概要を示した図である。
図27(a)では、車両2が傾斜路を走行中に左右方向(ロール方向)に傾いた場合であっても、本実施の形態では、虚像の表示領域6自体の左右方向の傾きが揺れないように調整することを示している。このとき、
図27(b)に示すように、例えば、AR−HUD1全体を車両2の傾きに応じてz軸を軸として反対方向に回転させて傾ける。これにより、虚像の表示領域6自体の左右方向の回転を調整して、前方の実景に対する表示領域6の傾きにズレが生じないようにハードウェア的に制御することが可能である。AR−HUD1全体を前後方向(z軸方向)に移動させることも可能である。 なお、上述した例において、AR−HUD1全体ではなく、その内部に設置されたミラー駆動部50を回転させたり移動させたりする場合、回転駆動機構や移動機構もAR−HUD1の内部に設ける必要がある。したがって、AR−HUD1の本体サイズが大きくなるというデメリットが生じ得る。車両2のダッシュボードには限られたスペースしかないため、AR−HUD1の本体サイズが大きくなるとダッシュボードに格納することが困難となる場合が生じ得る。
【0117】
一方、AR−HUD1自体を回転させる場合、AR−HUD1本体の外部に回転機構を設ける必要がある。しかし、この場合はAR−HUD1自体のサイズが大きくなることはない。また、外部に設けた回転機構を含めても、AR−HUD1の内部でミラー駆動部50を回転させたり移動させたりする場合と比べて省スペースで表示領域6の傾きを調整する機構を実装することが可能である。
【0118】
ECU21により虚像の表示状態をソフトウェア的に調整する手法と、ミラー52を回転や移動させる等により虚像の表示領域6自体の表示状態をハードウェア的に調整する手法とを組み合わせて用いることも可能である。
図28は、本実施の形態のヘッドアップディスプレイ装置における虚像および表示領域6の表示位置を上下に調整する例について概要を示した図である。ここでは、上述の
図24(b)の例と同様に、車両2の揺れが大きく、ソフトウェア的な虚像の表示位置の調整では虚像が表示領域6からはみ出すような場合であっても、ミラー52を回転や移動させて表示領域6自体の表示位置を上下に調整する。このように表示位置が調整された表示領域6内で、さらにソフトウェア的に虚像の表示位置を調整することで、表示領域6内に収まる形で前方の実景に対して適切に虚像を重畳させて表示することができる。
【0119】
なお、
図28の例では、車両2の上下方向(ピッチ方向)の揺れに対して、前方の車両の実景に重畳させて表示している虚像(
図28の例では感嘆符のマーク)について、その表示位置を調整して、前方の車両の実景への重畳が継続するようにしているが、虚像の特性に応じて表示位置の調整に係る制御内容を変えてもよい。例えば、前方の実景に重畳させる必要がない計器類等の虚像(例えば、
図28の例における「35km」の速度表示)については、車両2の揺れに伴う表示領域6内での表示位置の調整の対象外とする(車両2の揺れに伴って虚像の表示も揺れる)ようにしてもよい。
【0120】
また、虚像の特性に応じて、前方の実景に重畳させる必要がある虚像と同様の制御を行って、表示領域6内での表示を調整してもよい。例えば、車両の後方や側方の死角をモニタリングするため、いわゆる電子ミラーとして、その部分の映像をカメラ(車外)115により取得し、これを虚像として表示領域6に表示する場合がある。この場合、モニタリング映像の虚像は、表示領域6の全面に表示するのではなく、例えば、四隅の一部の領域に子画面のような形態で表示するのが一般的である。したがって、表示自体が比較的小さい上に、車両2の揺れに伴って虚像の表示も揺れると、運転者5はさらに表示内容を視認しづらくなる。
【0121】
このような電子ミラーのモニタリング映像に係る虚像は、前方の実景に重畳させる必要がないものの、重畳させる必要がある虚像と同様の制御を行って、虚像や表示領域6の表示を上下方向に移動したり左右に回転させたりして調整してもよい。なお、この場合、調整の優先度は、前方の実景に重畳させる必要がある虚像に対して低くするようにしてもよい。
【0122】
また、本実施の形態では、まず表示領域6内でソフトウェア的に虚像の表示状態を調整し、揺れの量が大きく虚像を表示領域6内に適切に表示できないような場合に、ミラー52を回転や移動させることでハードウェア的に虚像の表示領域6自体の表示状態を調整するよう制御するものとしているが、逆の制御とすることもできる。すなわち、まずミラー52を回転や移動させることでハードウェア的に虚像の表示領域6自体に揺れが生じないように調整する。そして、ミラー52およびミラー駆動部50の構造上の制約から生じる可動範囲の制限により、ミラー52を最大限まで調整してもなお十分でない場合に、さらにソフトウェア的に虚像の表示状態を調整して補完するようにしてもよい。
【0123】
また、本実施の形態の上記の例では、車両2の揺れを検知した場合に、前方の実景に対する虚像の表示位置の揺れを調整するものとしているが、多少の揺れは許容し、所定の閾値以上揺れた場合にのみ表示状態の調整を行う(閾値以上揺れないように留める)ように制御してもよい。運転者5によっては、車両2の多少の揺れに対しては、虚像も合わせて揺れた方が体感している揺れと一致して自然に感じられる場合もあり得るからである。
【0124】
<リアルタイム性の向上>
上述したような構成により、虚像や、虚像の表示領域6の表示状態を調整することで、虚像の表示に揺れが生じないように制御することができる。ここで、道路面の凹凸等による車両2の揺れは短周期となる場合がある。この場合、例えば、上記のような手法により虚像の表示状態を調整し終えたときに、既に対象の揺れが収まっていたり、違う方向への揺れに変わっていたりした場合には、調整が意味をなさなくなる。したがって、検知した揺れに対して可能な限り即時に対応することができる高いリアルタイム性が必要となる。
【0125】
そこで、本実施の形態では、第1および第2の姿勢センサ111により検知された角度の値(車両2の揺れを示す値)に基づいて虚像の表示の移動量や回転量(傾き)を都度計算するのではなく、検知された角度に応じた移動量や回転量をテーブルを参照して直接決定するものとして処理を簡略化する。本実施の形態では、取り得る範囲の様々な角度に対する虚像の表示の移動量や回転量の対応関係を、予め虚像調整量テーブルとして設定しておき、不揮発性メモリ23等に保持しておく。
【0126】
図29は、本実施の形態のヘッドアップディスプレイ装置における虚像調整量テーブルの例について概要を示した図である。ここでは、第1および第2の姿勢センサ111それぞれについて、検知した角度に対する虚像の表示の移動量および回転量を設定した状態を示している。このテーブルを参照することにより、第1および第2の姿勢センサ111でそれぞれ検知された角度に対応する虚像の表示の移動量もしくは回転量を直接取得することができる。
【0127】
なお、AR−HUD1の表示領域6の仕様や特性は、AR−HUD1毎に異なり、一意には定まらないため、各AR−HUD1の仕様等に応じてテーブルの内容は異なり得る。例えば、
図29の左側の第1の姿勢センサ111に対するテーブルの例では、角度が±10を超えるときの移動量が±6に丸められている。これは、当該AR−HUD1では、±6以上虚像を移動させると表示領域6からはみ出してしまうため、移動量をそれ以下に制限していることを示している。また、角度が±5より小さいときの移動量がゼロに設定されていることから、±5より小さい角度は微小であるため揺れとして検知しない(すなわち、揺れを検知する閾値が±5である)ことを示している。
【0128】
虚像調整量テーブルの内容は、AR−HUD1毎の仕様等に加えて、AR−HUD1を搭載する車両2の特性によっても異なり得る。例えば、車体の長さや幅、サスペンションの仕様等によって、最適な移動量や回転量は異なり得る。したがって、虚像調整量テーブルの設定内容は、AR−HUD1自体の仕様や、これを搭載する車両2の仕様等に基づいて定められた最適な値であることが望ましい。例えば、各AR−HUD1について、車両2の典型的な仕様毎に好適なデフォルト値が予め設定された虚像調整量テーブルを複数パターン保持しておき、実際に搭載された車両2の仕様に応じて自動もしくは手動により使用する虚像調整量テーブルを選択・決定するようにしてもよい。
【0129】
なお、前方の実景に重畳して表示される虚像の表示状態のズレや、表示の揺れの程度等に対して感じる違和感は、運転者5の好み等によって異なり得る。また、同じ仕様のAR−HUD1が同じ車両2に搭載された場合であっても、通勤等で日常的によく走行する道路面の特性(平坦路が多いのか、凹凸路が多いのか等)によって、虚像の表示の揺れや傾きに対して運転者5が調整を希望する程度は異なり得る。また、例えば、運転者5が車両2のサスペンションやタイヤを変更した等の事情によっても表示の揺れやズレの程度が変化し得る。
【0130】
そこで、本実施の形態では、運転者5が虚像の表示状態の調整の程度や感度を好みに応じて設定できる手段を設けるものとする。
図30は、本実施の形態のヘッドアップディスプレイ装置における虚像の表示状態の調整の程度や感度を設定可能とする例について概要を示した図である。
図30(a)は、運転者5による設定を受け付けるためにAR−HUD1が表示領域6に表示するメニュー画面の例を示している。
【0131】
ここでは、例えば、「表示位置調整量」として、虚像の表示を移動させる際の移動量を増減させるための設定と、「表示位置調整感度」として、虚像の表示状態の調整を行うための揺れの量の閾値を増減させるための設定を受け付けることができる。「表示位置調整量」において、例えば、図示するように「調整を強める」よう設定することで、運転者5が、車両2の揺れに伴う前方の実景に対する虚像の表示の揺れに対して、AR−HUD1による表示状態の調整量が不足していると感じる場合に、虚像をさらに大きく移動や回転させるよう設定することができる。
【0132】
このとき、例えば、ECU21により、
図30(b)に示すように、虚像調整量テーブルの設定内容において、第1の姿勢センサ111で検知した角度に対する虚像の表示の移動量の絶対値を、元の内容から所定の値だけ自動的に大きくする。第2の姿勢センサ111で検知した角度に対する虚像の回転量の設定値についても同様である。なお、設定内容を変更したテーブルは、不揮発性メモリ23に保持するが、その際、変更前の元の設定内容についても不揮発性メモリ23に保持しておくようにする。これにより、
図30(a)の画面例に示すように、設定内容を「元に戻す」ことが可能となる。
【0133】
同様に、
図30(a)のメニュー画面の「表示位置調整感度」において、例えば、図示するように「感度を弱める」よう設定することで、運転者5が、車両2の多少の揺れの際には虚像の表示状態を調整せずに自然に揺らしてほしいと感じる場合に、揺れとして判定する閾値を大きく設定して、車両2の多少の揺れでは虚像の表示状態を調整しないように設定することができる。具体的には、虚像調整量テーブルにおいて、虚像の表示の移動量や回転量がゼロではなくなる角度を大きく設定する(すなわち、移動量や回転量をゼロとする角度の範囲を大きく設定する)。
【0134】
なお、運転者5が調整の程度や感度の設定を行う手法としては、
図30(a)のメニュー画面の例に示すように、「強める」「弱める」という指定による簡易的な設定に限らず、例えば、虚像調整量テーブルに設定する角度毎の移動量や回転量の値を運転者5が直接設定・編集できるような詳細設定モードを設けてもよい。また、第1および第2の姿勢センサ111等によって実際に検知された車両2の揺れや傾きの実績を蓄積し、これをECU21において解析して最適な設定値を自動的に設定もしくは推奨するようにしてもよい。
【0135】
<処理内容>
図31は、本実施の形態のヘッドアップディスプレイ装置の通常動作の例について概要を示したフローチャートである。上述したように、本実施の形態では、実施の形態1の
図7に示した通常動作の処理フローにおけるミラー調整処理(S24)および振動補正処理(S25)を改良し、表示状態調整処理(S34)としている。ここでは、車両2が現在走行中の道路面の凹凸等に伴う車両2の揺れや傾きに対して、虚像や表示領域6の表示状態を移動・回転させて、揺れや傾きを抑えて車両2の前方の実景に虚像が適切に重畳するよう調整する。
【0136】
一方で、実施の形態1の
図7の処理フローにおけるミラー調整処理(S24)は、車両2が現在走行中の道路面の勾配に対して、前方の道路の勾配を考慮して表示領域6の表示位置を調整するものであり、本実施の形態での虚像の表示状態を調整する手法と両立し得るものである。したがって、
図7の処理フローにおけるミラー調整処理(S24)は維持しつつ、振動補正処理(S25)について改良して、表示状態調整処理(S34)とするようにしてもよい。なお、
図31の処理フローの他のステップは、実施の形態1の
図7に示した処理フローにおける対応するステップと同様であるため、再度の説明は省略する。
【0137】
図32は、本実施の形態のヘッドアップディスプレイ装置における表示状態調整処理の例について概要を示したフローチャートである。表示状態調整処理を開始すると、まず、ECU21により、車両情報4に基づいて、第1および第2の姿勢センサ111により検知された角度の情報をそれぞれ取得する(S341)。そして、それぞれの角度の値が、車両2の揺れ(短周期での振動や傾き)によるものであるのか否かを判定する(S342)。例えば、前回の処理時(もしくは一定時間前)に検知された角度と今回検知された角度との差分が所定の閾値以上である場合に、揺れによるものであると判定する。すなわち、車両2自体は前後方向(ピッチ方向)や左右方向(ロール方向)に一定量傾いているものの、その状態が継続しているような場合には、車両2の状態に変動はなく、揺れていないものと判定する。
【0138】
第1および第2の姿勢センサ111により検知されたいずれの角度も、車両2の揺れによるものでない場合(S342:No)は、そのまま表示状態調整処理を終了する。一方、少なくとも一方が車両2の揺れによるものである場合(S342:Yes)は、次に、車両2の揺れによる角度を検知した第1および第2の姿勢センサ111のそれぞれについて処理を行うループ処理を開始する(S343)。ループ処理では、まず、不揮発性メモリ23に保持されている虚像調整量テーブルを参照し、対象の姿勢センサにより検知された角度に対応する虚像の表示状態の調整量(上下の移動量もしくは左右の回転量)の値を取得する(S344)。
【0139】
そして、虚像の表示状態の調整量が所定の閾値を超えているか否かを判定する(S345)。本実施の形態では、上述したように、まず表示領域6内でソフトウェア的に虚像の表示状態を調整し、揺れの量が大きく虚像を表示領域6内に適切に表示できないような場合に、ミラー52を回転や移動させることでハードウェア的に虚像の表示領域6自体の表示状態を調整するよう制御するものとする。したがって、ここでは、虚像の調整量が、表示領域6内に適切に表示できなくなるほど大きいか否かを判定する。虚像の表示状態の調整量が所定の閾値より大きい場合(S345:Yes)は、ミラー52を回転や移動させて調整するミラー状態調整処理を行う(S346)。
【0140】
図33は、本実施の形態のヘッドアップディスプレイ装置におけるミラー状態調整処理の例について概要を示したフローチャートである。ここでの処理内容は、実施の形態1の
図7の処理フローにおけるミラー調整処理(S24)の処理内容(
図10の処理フロー)と基本的には同様であるため、再度の詳細な説明は省略する。
【0141】
実施の形態1のミラー調整処理(S24)は、虚像の表示領域6を上下方向に移動させるため、ミラー52を目標の角度まで回転させるものである。これに対し、本実施の形態のミラー状態調整処理(S346)は、
図26に示したように、さらにミラー52を移動させたり、z軸を中心に回転させたりすることも可能であり、これらを組み合わせてミラー52の状態を目標の状態に調整するものである。これにより、虚像の表示領域6自体の表示状態を、適切な位置まで上下方向に移動させたり、左右方向に回転させたりすることができる。
【0142】
図32に戻り、上記のステップS344〜S346の一連の処理を、車両2の揺れによる角度を検知した第1および第2の姿勢センサ111のそれぞれについて繰り返すと、ループ処理を終了する(S347)。
【0143】
その後、現状でのミラー52の状態に伴う虚像の表示領域6の表示状態に基づいて、その中に表示する虚像の表示ズレ量(車両2の前方の実景に対する移動量および/または回転量)を算出する(S348)。そして、算出した表示ズレ量に基づいて、ECU21でのソフトウェア的な処理により、表示領域6内での虚像の表示状態を上下方向に移動させたり、左右方向に回転させたり等の調整を行い(S349)、一連の表示状態調整処理を終了する。
【0144】
以上に説明したように、本発明の実施の形態2であるヘッドアップディスプレイ装置によれば、車両2に生じる揺れの複雑な各種態様に対しても、前方の実景に対する虚像の揺れを柔軟に抑制し、適切な位置に重畳させるよう表示することが可能である。また、虚像の表示状態の調整量を、都度計算するのではなく、第1および第2の姿勢センサ111により検知された角度に基づいて虚像調整量テーブルから直接取得する構成とすることで、虚像の表示状態の調整におけるリアルタイム性を維持し、運転者5に与える違和感を低減することができる。
【0145】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は上記の実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。例えば、上記の実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施の形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施の形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。