(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024029820
(43)【公開日】2024-03-07
(54)【発明の名称】ヘッドアップディスプレイ装置および映像データの処理方法
(51)【国際特許分類】
G09G 5/00 20060101AFI20240229BHJP
H04N 13/346 20180101ALI20240229BHJP
H04N 13/363 20180101ALI20240229BHJP
B60K 35/23 20240101ALI20240229BHJP
【FI】
G09G5/00 510A
G09G5/00 510B
G09G5/00 550B
G09G5/00 550C
H04N13/346
H04N13/363
B60K35/00 A
【審査請求】未請求
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2022132215
(22)【出願日】2022-08-23
(71)【出願人】
【識別番号】000005810
【氏名又は名称】マクセル株式会社
(74)【代理人】
【識別番号】110002066
【氏名又は名称】弁理士法人筒井国際特許事務所
(72)【発明者】
【氏名】下田 望
【テーマコード(参考)】
3D344
5C061
5C182
【Fターム(参考)】
3D344AA26
3D344AA30
3D344AC25
5C061AA29
5C061AB12
5C182AA03
5C182AA04
5C182AA05
5C182AB15
5C182AB25
5C182AB31
5C182AC02
5C182BA14
5C182BA29
5C182BA45
5C182BA47
5C182BA56
5C182CB14
5C182CB47
5C182CB54
5C182CC26
5C182DA05
5C182DA14
5C182DA65
(57)【要約】
【課題】様々な表示仕様に柔軟に対応することが可能なヘッドアップディスプレイ装置および映像データの処理方法を提供する。また、持続可能な開発目標の「3.すべての人に健康と福祉を」に貢献する。
【解決手段】映像を表示し、表示した映像の映像光を出射する映像表示部11と、出射された映像光を表示領域に投射することで、投射された映像光を虚像として視認させる映像光投射部と、取得された乗り物に関する情報に基づいて映像データを準備し、準備した映像データに基づく映像を映像表示部11に表示させる制御部20と、を備える。制御部20は、所定の処理周期内に映像データの準備を完了するように、映像データの準備に必要な処理負荷を軽減する制御を行う。
【選択図】
図3A
【特許請求の範囲】
【請求項1】
乗り物に搭載されるヘッドアップディスプレイ装置であって、
前記乗り物に関する情報を取得する情報取得部と、
映像を表示し、表示した映像の映像光を出射する映像表示部と、
前記映像表示部から出射された前記映像光を表示領域に投射することで、投射された前記映像光を虚像として視認させる映像光投射部と、
前記情報取得部によって取得された前記乗り物に関する情報に基づいて映像データを準備し、準備した前記映像データに基づく映像を前記映像表示部に表示させる制御部と、
を備え、
前記制御部は、所定の処理周期内に前記映像データの準備を完了するように、前記映像データの準備に必要な処理負荷を軽減する制御を行う、
ヘッドアップディスプレイ装置。
【請求項2】
請求項1記載のヘッドアップディスプレイ装置において、
前記制御部は、前記映像データの準備に要する準備時間を監視し、前記準備時間が予め定めた条件を満たした場合に、前記処理負荷を軽減する制御を開始する、
ヘッドアップディスプレイ装置。
【請求項3】
請求項2記載のヘッドアップディスプレイ装置において、
前記制御部は、前記準備時間が前記処理周期よりも長かった場合に、前記処理負荷を軽減する制御を開始する、
ヘッドアップディスプレイ装置。
【請求項4】
請求項2記載のヘッドアップディスプレイ装置において、
前記制御部は、前記処理周期よりも短い第1の閾値時間を用いて、前記準備時間が複数回連続して前記第1の閾値時間よりも長かった場合に、前記処理負荷を軽減する制御を開始する、
ヘッドアップディスプレイ装置。
【請求項5】
請求項2記載のヘッドアップディスプレイ装置において、
前記制御部は、前記処理負荷を軽減する制御を開始したのち、抑制移行期間内で、前記処理負荷の軽減量を前記処理周期毎に段階的に増やしていく、
ヘッドアップディスプレイ装置。
【請求項6】
請求項5記載のヘッドアップディスプレイ装置において、
前記制御部は、前記抑制移行期間を経たのち、復帰移行期間内で、前記処理負荷の軽減量を前記処理周期毎に段階的に減らしていく、
ヘッドアップディスプレイ装置。
【請求項7】
請求項6記載のヘッドアップディスプレイ装置において、
前記制御部は、前記抑制移行期間を経たのち、軽減後の前記処理負荷で前記映像データを準備する抑制期間を経て、前記復帰移行期間内での制御を行う、
ヘッドアップディスプレイ装置。
【請求項8】
請求項7記載のヘッドアップディスプレイ装置において、
前記制御部は、前記抑制期間では、前記処理周期よりも短い第2の閾値時間と、前記処理周期の複数倍以上の期間である閾値継続期間とを用いて、前記準備時間が前記第2の閾値時間よりも短かった状態が前記閾値継続期間以上継続した場合に、前記復帰移行期間での制御を開始する、
ヘッドアップディスプレイ装置。
【請求項9】
請求項5記載のヘッドアップディスプレイ装置において、
前記制御部は、前記抑制移行期間では、前記抑制移行期間であることを利用者に通知するための前記映像データを生成する、
ヘッドアップディスプレイ装置。
【請求項10】
請求項1記載のヘッドアップディスプレイ装置において、
前記制御部は、準備する前記映像データのデータ量を削減することで前記処理負荷を軽減する、
ヘッドアップディスプレイ装置。
【請求項11】
乗り物に搭載されるヘッドアップディスプレイ装置であって、
前記乗り物に関する情報を取得する情報取得部と、
映像を表示し、表示した映像の映像光を出射する映像表示部と、
前記映像表示部から出射された前記映像光を表示領域に投射することで、投射された前記映像光を虚像として視認させる映像光投射部と、
を備え、
前記情報取得部によって取得された前記乗り物に関する情報に基づいて映像データを準備し、前記映像データの準備条件が所定の処理周期に所定条件を満たさない場合、準備する前記映像データの一部内容を変更する、
ヘッドアップディスプレイ装置。
【請求項12】
乗り物に搭載されるヘッドアップディスプレイ装置への映像データの処理方法であって、
前記乗り物に関する情報を取得し、
取得された前記乗り物に関する情報に基づいて映像データを準備し、準備した前記映像データに基づく映像を前記ヘッドアップディスプレイ装置の映像表示部に表示させ、
前記映像データを準備する際に、所定の処理周期内に前記映像データの準備を完了するように、前記映像データの準備に必要な処理負荷を軽減する制御を行う、
映像データの処理方法。
【請求項13】
請求項12記載の映像データの処理方法において、
前記映像データの準備に要する準備時間を監視し、前記準備時間が予め定めた条件を満たした場合に、前記処理負荷を軽減する制御を開始する、
映像データの処理方法。
【請求項14】
請求項13記載の映像データの処理方法において、
前記準備時間が前記処理周期よりも長かった場合に、前記処理負荷を軽減する制御を開始する、
映像データの処理方法。
【請求項15】
請求項13記載の映像データの処理方法において、
前記処理周期よりも短い第1の閾値時間を用いて、前記準備時間が複数回連続して前記第1の閾値時間よりも長かった場合に、前記処理負荷を軽減する制御を開始する、
映像データの処理方法。
【請求項16】
請求項13記載の映像データの処理方法において、
前記処理負荷を軽減する制御を開始したのち、抑制移行期間内で、前記処理負荷の軽減量を前記処理周期毎に段階的に増やしていく、
映像データの処理方法。
【請求項17】
請求項16記載の映像データの処理方法において、
前記抑制移行期間を経たのち、復帰移行期間内で、前記処理負荷の軽減量を前記処理周期毎に段階的に減らしていく、
映像データの処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ヘッドアップディスプレイ装置および映像データの処理方法に関し、例えば、AR(Augmented Reality)を利用したヘッドアップディスプレイ装置の技術に関する。
【背景技術】
【0002】
特許文献1には、撮像データに基づきAR表示対象となる対象物を抽出し、対象物のAR画像データを生成し、当該AR画像データのフレームレートを対象物の重要度に基づき設定する表示システムが示される。例えば、全体のフレームレートを60fpsとして、3個のAR画像データを時分割で表示する場合、3個のAR画像データのフレームレートは、重要度に応じて、順に30fps、20fps、10fpsに設定される。これにより、重要度が高いAR画像データほど、ちらつきを抑制することができる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ヘッドアップディスプレイ装置は、ADAS(Advanced Driver Assistance Systems)等から取得した情報に基づいて様々な映像データを準備し、当該映像データに基づく映像光を表示領域に投射することで虚像として視認させる。この際に、映像データの準備に要する準備時間は、映像の種類、個数や、虚像距離の遠近に応じた映像のサイズや、2D/3Dといった表示形式や、グラフィックス効果の有無等の違いにより変化する。なお、明細書では、ヘッドアップディスプレイ装置を、HUD装置とも呼ぶ。
【0005】
ここで、HUD装置では、通常、最大フレームレート等の処理性能は、主にハードウェアの仕様に基づいて固定的に定められる。一方、例えば、HUD装置のハードウェア自体を変更することなく、ソフトウェアの更新によって、HUD装置の表示仕様を変更したいといった要望が生じることがある。この際に、求められるHUD装置の表示仕様は、処理負荷の増大を伴うものになることが多い。その結果、ハードウェアの処理性能が不足し、例えば、AR表示の際にコマ落ちが生じる等、求められる表示仕様を満たせなくなるおそれがあった。
【0006】
本発明は、このようなことに鑑みてなされたものであり、その目的の一つは、ハードウェアの処理性能の範囲内において、求められる表示仕様をできるだけ満足するとともに、表示仕様に柔軟に対応することが可能なヘッドアップディスプレイ装置および映像データの処理方法を提供することにある。
【0007】
本発明の前記ならびにその他の目的と新規な特徴については、本明細書の記述および添付図面から明らかになるであろう。
【課題を解決するための手段】
【0008】
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、以下のとおりである。
【0009】
代表的なヘッドアップディスプレイ装置は、映像を表示し、表示した映像の映像光を出射する映像表示部と、出射された映像光を表示領域に投射することで、投射された映像光を虚像として視認させる映像光投射部と、取得された乗り物に関する情報に基づいて映像データを準備し、準備した映像データに基づく映像を映像表示部に表示させる制御部と、を備える。制御部は、所定の処理周期内に映像データの準備を完了するように、映像データの準備に必要な処理負荷を軽減する制御を行う。
【発明の効果】
【0010】
本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば、ヘッドアップディスプレイ装置において、表示仕様に柔軟に対応することが可能になる。
【図面の簡単な説明】
【0011】
【
図1】一実施の形態によるヘッドアップディスプレイ装置を搭載した車両の構成例を示す概略図である。
【
図2A】
図1におけるHUD装置の主要部の構成例を示す概略図である。
【
図2B】
図1におけるHUD装置の、
図2Aとは異なる主要部の構成例を示す概略図である。
【
図3A】
図2Aおよび
図2Bに示されるHUD装置において、制御を担う制御系の主要部の構成例を示すブロック図である。
【
図3B】
図2Aおよび
図2Bに示されるHUD装置において、制御を担う制御系の
図3Aとは異なる主要部の構成例を示すブロック図である。
【
図4】
図3Aおよび
図3Bにおいて、制御ユニットに関わる箇所の構成例を示すブロック図である。
【
図5】
図1に示されるHUD装置の表示内容の一例を示す概略図である。
【
図6】
図3Aに示されるHUD装置において、映像を表示する際の処理手順の一例を示すフロー図である。
【
図7】
図6に示されるフローを用いて映像を表示する際の問題点の一例を模式的に示すタイミングチャートである。
【
図8A】コマ落ちが生じていない場合での表示内容の変化の様子を示す模式図である。
【
図8B】コマ落ちが生じた場合での表示内容の変化の様子を示す模式図である。
【
図9】
図3Aに示される制御部が有する内部状態の一例を示す図である。
【
図10】
図3Aに示される制御部による、準備時間の監視結果の一例を示す図である。
【
図11A】
図9に示される通常状態における、HUD装置の表示内容の一例を示す概略図である。
【
図11B】
図9に示される抑制移行状態における、HUD装置の表示内容の一例を示す概略図である。
【
図11C】
図9に示される抑制状態における、HUD装置の表示内容の一例を示す概略図である。
【
図12】
図3Aに示される制御部の処理内容の一例を示すフロー図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。
【0013】
<HUD装置の概要>
図1は、一実施の形態によるヘッドアップディスプレイ装置を搭載した車両の構成例を示す概略図である。
図1に示されるヘッドアップディスプレイ(HUD)装置1は、乗り物の一つである車両2に搭載される。車両2は、代表的には、自動車であるが、必ずしもこれに限定されず、鉄道車両等であってもよい。また、乗り物は、車両に限らず、航空機等であってもよい。また、車両2には、例えば、ECU(Electronic Control Unit)と呼ばれる制御ユニット21が搭載される。
【0014】
制御ユニット21は、例えば、車両2の各部に設置された各種センサや、加えて、ナビゲーション装置等から車両情報4を取得する。各種センサは、例えば、車両2で生じた各種イベントを検知し、また、走行状況に関する各種パラメータ値を検知する。HUD装置1は、制御ユニット21によって取得された車両情報4を、例えばCAN(Controller Area Network)通信等を用いて取得する。
【0015】
車両情報4には、例えば、車両2の速度情報やギア情報、ハンドル操舵角情報、ランプ点灯情報、外光情報、距離情報、赤外線情報、エンジンON/OFF情報、車内外のカメラ映像情報、加速度ジャイロ情報、GPS(Global Positioning System)情報、ナビゲーション情報、車車間通信情報、および路車間通信情報等が含まれる。GPS情報の中には、現在時刻等の情報も含まれる。また、車両情報4には、各種警告情報も含まれる。HUD装置1は、このような車両情報4に基づいて、ウィンドシールド3などの表示領域に映像光を投射する。これにより、HUD装置1は、運転者等の利用者に、表示領域に投射された映像光を虚像として、詳細には車両2の前方の風景に重畳された虚像として視認させる。
【0016】
図2Aは、
図1におけるHUD装置の主要部の構成例を示す概略図である。
図2Aに示されるHUD装置1は、例えば、筐体12内に収容された映像表示部11、ミラーM1,M2、およびミラー駆動部14等を備える。映像表示部11は、例えば、LCD(Liquid Crystal Display)等の表示パネルや、プロジェクタ等であり、入力された映像データに基づいて映像を表示し、表示した映像の映像光を出射する。
【0017】
ミラーM2は、映像表示部11からの映像光を、ミラーM1に向けて反射する。ミラーM2は、省スペースで光路長を長く確保するために効果を発揮するものである。HUD筐体内のスペースと、必要な光路長の値によっては、ミラーM2を配置しなくてもよいし、複数配置してもよい。ミラーM1は、映像光投射部として機能する。映像光投射部であるミラーM1は、映像表示部11から出射され、ミラーM2によって反射された映像光を、ダッシュボード10に設けた開口部7を介してウィンドシールド3の表示領域5に投射する。これにより、映像光投射部は、投射された映像光を、虚像として利用者6に視認させる。
【0018】
詳細には、ミラーM1は、例えば、凹面鏡(拡大鏡)であり、ミラーM2で反射された映像光を反射および拡大し、開口部7を介して表示領域5に投射する。表示領域5に投射された映像光は、表示領域5で反射され、利用者6の眼に入射する。その結果、利用者6は、表示領域5に投射された映像光を、透明のウィンドシールド3の先に存在する虚像9として、車外の風景(道路や建物、人など)に重畳される形で視認する。虚像9が表す情報の中には、例えば、道路標識や、自車の現速度や、風景上の物体に付加される各種情報、すなわちAR情報等、様々なものが含まれる。
【0019】
また、ミラーM1,M2は、例えば、自由曲面ミラーや光軸非対称の形状を有するミラー等であってよい。ここで、ミラーM2は、設置角度が固定される。一方、ミラーM1には、ミラー駆動部14が設置される。ミラー駆動部14は、ミラーM1の設置角度を可変調整する。詳細には、ミラー駆動部14は、例えば、モータを含み、モータの回転動作によってミラーM1を回転させる。
【0020】
ミラーM1の設置角度を可変調整することで、ウィンドシールド3上の表示領域5の位置、すなわち、利用者6が視認する虚像の上下方向の位置を調整できる。さらに、ミラーM1の設置角度を可変調整することで、映像表示部11を太陽光から保護することが可能になる。具体的には、太陽光は、映像光の光路を逆方向に進んで映像表示部11に入射し得る。当該太陽光の入射によって、映像表示部11の破損が生じる可能性が高くなった場合には、太陽光が映像表示部11に到達しないように、ミラーM1の設置角度を変更すればよい。
【0021】
図2Bは、
図1におけるHUD装置の、
図2Aとは異なる主要部の構成例を示す概略図である。
図2Bに示されるHUD装置1は、
図2Aに示した構成と異なり、筐体12内に、ミラーM2の代わりにレンズLSが設けられる。映像表示部11からの映像光は、レンズLSを介してミラーM1に入射する。ミラーM1は、
図2Aの場合と同様に、入射した映像光を、開口部7を介して表示領域5に投射する。ミラーM1には、
図2Aの場合と同様に、ミラー駆動部が設置されてもよい。
図2Bに示される構成は、例えば、ワンボックスカーやトラック等のように、ウィンドシールド3が垂直に近い角度で設置される場合に適用され得る。
【0022】
図3Aは、
図2Aおよび
図2Bに示されるHUD装置において、制御を担う制御系の主要部の構成例を示すブロック図である。
図3Aに示されるHUD装置1は、互いにバス13で接続されるミラー駆動部14、表示駆動部15、通信部16、メモリ17、フレームバッファ18および制御部20を備える。
【0023】
通信部16は、車両情報を受信および送信するものであり、例えば、通信インタフェース回路等によって実現され、情報取得部として機能する。通信部16は、制御ユニット21から、CAN通信等を用いて乗り物に関する情報を取得または受信し、受信した乗り物に関する情報を制御部20に送信する。制御部20は、通信部16からの情報によりミラー駆動部14と表示駆動部15とを制御する。ミラー駆動部14は、例えば、制御部20からの命令に応じて、
図2Aで述べたように、ミラーM1の設置角度を調整する。ミラー駆動部14は、
図2Aで述べたようなモータに加えて、当該モータを駆動するモータドライバ回路等によって実現され得る。
【0024】
フレームバッファ18は、例えば、揮発性メモリによって構成され、映像データを記憶する。表示駆動部15は、フレームバッファ18が記憶している映像データを、バス13を介して読み出し、当該映像データに基づいて映像表示部11を駆動する。映像表示部11は、例えば、光源と、表示パネルとを備えた液晶ディスプレイ等である。表示パネルは、光源から照射されたバックライトを、画素毎に映像データに基づいて変調することで映像を表示する。この場合、表示駆動部15は、LCDドライバ回路等によって実現され得る。
【0025】
メモリ17は、例えば、揮発性メモリおよび不揮発性メモリの組み合わせで構成され、制御部20で用いられるプログラムやデータ等を記憶する。制御部20は、例えば、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサによって実現され、メモリ17が記憶しているプログラムを実行することで、HUD装置1全体を制御する。その一つとして、制御部20は、通信部16、すなわち情報取得部によって取得された乗り物に関する情報に基づいて、映像データの作成を含めて映像データを準備し、準備した映像データに基づく映像を映像表示部11に表示させる。
【0026】
なお、
図3Aに示される通信部16、メモリ17、フレームバッファ18および制御部20は、マイクロコントローラ等に搭載され得る。ただし、このような実装形態に限らず、例えば、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等を適宜組み合わせた実装形態であってもよい。
【0027】
図3Bは、
図2Aおよび
図2Bに示されるHUD装置において、制御を担う制御系の
図3Aとは異なる主要部の構成例を示すブロック図である。
図3Bに示されるHUD装置1は、
図3Aに示した構成例と異なり、メモリ17および制御部20が設けられない構成となっている。この場合、制御ユニット21は、
図3Aに示した制御部20に代わって映像データを作成し、作成した映像データを、通信処理部16aを介してフレームバッファ18に書き込む。
【0028】
なお、
図3Bに示した構成例の場合、
図3Aで述べた制御部20は、通信処理部16aとして機能することになってもよい。または、制御ユニット21と通信処理部16aにそれぞれ一部機能を分担することになってもよい。
図3Bの構成例では、ミラー駆動部14、表示駆動部15、通信処理部16aが設けられる。通信処理部16aは、
図3Aの通信部16と異なり、制御ユニット21から、CAN通信等を用いて乗り物に関する情報を受信し、受信した情報を処理し、処理した結果により、ミラー駆動部14と表示駆動部15の動作を調整する。
【0029】
図4は、
図3Aおよび
図3Bにおいて、制御ユニットに関わる箇所の構成例を示すブロック図である。制御ユニット21は、
図1で述べたように車両情報4を取得する。車両情報4は、
図4に示されるように、制御ユニット21に接続される各種センサ等の情報取得デバイスによって生成される。
図4には、当該情報取得デバイスの一例が示される。
【0030】
図4において、例えば、車速センサ101は、
図1の車両2の速度を検知し、検知結果となる速度情報を生成する。シフトポジションセンサ102は、現在のギアを検知し、検知結果となるギア情報を生成する。ハンドル操舵角センサ103は、現在のハンドル操舵角を検知し、検知結果となるハンドル操舵角情報を生成する。ヘッドライトセンサ104は、ヘッドライトのON/OFFを検知し、検知結果となるランプ点灯情報を生成する。照度センサ105および色度センサ106は、外光を検知し、検知結果となる外光情報を生成する。
【0031】
測距センサ107は、車両2と外部の物体との間の距離を検知し、検知結果となる距離情報を生成する。赤外線センサ108は、車両2の近距離における物体の有無や距離等を検知し、検知結果となる赤外線情報を生成する。エンジン始動センサ109は、エンジンのON/OFFを検知し、検知結果となるON/OFF情報を生成する。加速度センサ110およびジャイロセンサ111は、車両2の加速度および角速度をそれぞれ検知し、検知結果として、車両2の姿勢や挙動を表す加速度ジャイロ情報を生成する。温度センサ112は、車内外の温度を検知し、検知結果となる温度情報を生成する。
【0032】
路車間通信用無線受信機113は、車両2と、道路、標識、信号機等との間の路車間通信によって路車間通信情報を生成する。車車間通信用無線受信機114は、車両2と周辺の他の車両との間の車車間通信によって車車間通信情報を生成する。車内用カメラ115および車外用カメラ116は、それぞれ、車内および車外を撮影することで車内のカメラ映像情報および車外のカメラ映像情報を生成する。車内用カメラ115は、例えば、
図2A等に示した利用者6の姿勢や、眼の位置、動き等を撮影するDMS(Driver Monitoring System)用のカメラ等である。この場合、撮像された映像を解析することで、利用者6の疲労状況や視線の位置等が把握できる。
【0033】
一方、車外用カメラ116は、例えば、車両2の前方や後方といった周囲の状況を撮影する。この場合、撮像された映像を解析することで、周辺に存在する他の車両や人などの障害物の有無、建物や地形、雨や積雪、凍結、凹凸等といった路面状況、および道路標識等を把握することが可能になる。また、車外用カメラ116には、例えば、走行中の状況を映像で記録するドライブレコーダ等も含まれ得る。
【0034】
GPS受信機117は、GPS信号を受信することで得られるGPS情報を生成する。例えば、GPS受信機117によって、現在時刻を取得することが可能である。VICS(Vehicle Information and Communication System、登録商標)受信機118は、VICS信号を受信することで得られるVICS情報を生成する。GPS受信機117やVICS受信機118は、ナビゲーション装置の一部として設けられてもよい。なお、
図4に示される各種情報取得デバイスに関しては、適宜、削除することや、他の種類のデバイスを追加することや、他の種類のデバイスに置き換えることが可能である。
【0035】
<HUD装置の表示について>
図5は、
図1に示されるHUD装置の表示内容の一例を示す概略図である。当該表示内容は、AR表示の一例を示すものであり、
図2A等に示した虚像9の一例を示すものである。
図5に示される例では、5個の映像VDa~VDeが表示されている。明細書では、複数の映像VDa~VDeを総称して映像VDと呼ぶ。
【0036】
映像VDaは、風景の一つであり、ARの対象物である物体OB、ここでは人に重畳するように表示される。映像VDaは、
図4に示した各種情報取得デバイスによって物体OBを検知済みであることを意味する。すなわち、HUD装置1は、制御ユニット21から物体OBの検知結果を表す情報を取得する。また、映像VDaは、物体OBへの注意喚起を利用者6、例えば運転者に促すための警告情報を表す。
【0037】
映像VDbは、風景の一つである道路上に表示され、車両2の進行方向を表す。映像VDcは、ナビゲーション情報を表す。映像VDdは、例えば、路車間通信情報の一つである道路標識を表す。映像VDeは、車両2の速度情報を表す。なお、映像VDa,VDbは、3Dグラフィックスであり、映像VDc~VDeは、2Dグラフィックスである。
【0038】
図6は、
図3Aに示されるHUD装置において、映像を表示する際の処理手順の一例を示すフロー図である。
図6において、まず、通信部16、すなわち情報取得部は、制御ユニット21から乗り物に関する情報を取得する(ステップS11)。続いて、制御部20は、ステップS121~S124を含む映像データの準備処理を行う(ステップS12)。例えば、プロセッサは、メモリ17内の映像処理プログラムを実行することで、ステップS121~S123の処理を実行する。
【0039】
ステップS121において、制御部20は、ステップS11で取得した乗り物に関する情報、例えば、
図1に示した車両情報4に基づいて、表示内容を決定する。具体的には、制御部20は、表示に対応している車両情報4を選定すると共に、当該選定した車両情報4を表す映像VDを、どの位置にどのようなサイズおよびレイアウトで表示するか等を決定する。
図5に示される例では、制御部20は、表示内容として、5個の映像VDa~VDeを表示することを決定する。ステップS122において、制御部20は、ステップS121で決定した表示内容に基づいて、映像VD毎の映像データを作成する。
【0040】
ステップS123において、制御部20は、ステップS122で作成した複数の映像データを、それぞれ、表示すべき位置に対応するフレームバッファ18内の記憶領域に書き込む。ステップS124において、制御部20は、フレームバッファ18内の映像データ全体に対して、例えば、ウィンドシールド3の曲率等に応じた歪補正を行う。なお、歪補正に関しては、例えば、プロセッサが、メモリ17内の歪補正プログラムを実行することで実現されるか、または、専用のハードウェアによって実現されてもよい。
【0041】
このような映像データの準備処理(ステップS12)を終えたのち、映像の表示処理が行われる(ステップS13)。ステップS13において、表示駆動部15は、フレームバッファ18が記憶している映像データを読み出し、当該映像データに基づいて映像表示部11を駆動することで、映像表示部11に映像VDを表示させる。なお、
図6に示した処理手順は、フレームレートに基づいて定められる処理周期に同期して実行される。例えば、フレームレートが60fpsの場合、処理周期は、16.6msである。また、映像VDを表示する際の処理手順は、特に、
図6に示したものに限らず、一般的に知られている様々な手順に置き換え可能である。
【0042】
図7は、
図6に示されるフローを用いて映像を表示する際の問題点の一例を模式的に示すタイミングチャートである。
図7には、1番目~5番目の処理周期または制御周期Tc[1]~Tc[5]で実行される動作が示される。明細書では、処理周期または制御周期Tc[1]~Tc[5]を総称して処理周期または制御周期Tcと呼ぶ。制御周期Tcは、例えば、16.6msである。また、
図7には、
図6におけるステップS11,S12の処理と、ステップS13の処理とをパイプラインで実行する場合の動作が示される。
【0043】
図7において、1番目の制御周期Tc[1]では、乗り物に関する情報が取得され(ステップS11)、当該情報に基づいて映像データが準備される(ステップS12)。当該ステップS11,S12の処理に要する映像データの準備時間Tp[1]は、制御周期Tc[1]よりも短くなっている。これは、例えばARの対象物、ひいては表示する映像VDの数が少なく、準備時間Tp[1]が制御周期Tc[1]内に収まるケースである。同様に、2番目の制御周期Tc[2]でも、乗り物に関する情報が取得され(ステップS11)、当該情報に基づいて映像データが準備される(ステップS12)。また、これと並行して、2番目の制御周期Tc[2]では、1番目の制御周期Tc[1]で準備された映像データに基づいて、映像VDの表示処理が行われる(ステップS13)。
【0044】
ここで、2番目の制御周期Tc[2]において、ステップS11,S12の処理に要する映像データの準備時間Tp[2]は、制御周期Tc[2]よりも長くなっている。準備時間Tp[2]は、例えば、ARの対象物、ひいては表示する映像VDが増加すること等により、長期化し得る。このため、当該映像データは、3番目の制御周期Tc[3]での表示処理に反映されずに、4番目の制御周期Tc[4]での表示処理に反映されることになる。その結果、3番目の制御周期Tc[3]において、コマ落ちが生じることになる。
【0045】
また、4番目の制御周期Tc[4]において、ステップS11,S12の処理に要する映像データの準備時間Tp[3]は、制御周期Tc[4]よりも短くなっている。このため、当該映像データは、5番目の制御周期Tc[5]での表示処理に反映される。ただし、方式によっては、コマ落ちが生じたことにより、準備時間Tp[3]で準備される映像データは、本来、3番目の制御周期Tc[3]で準備されるべき映像データとなる場合がある。なお、明細書では、複数の準備時間Tp[1]~Tp[3]を総称して準備時間Tpと呼ぶ。
【0046】
図8Aは、コマ落ちが生じていない場合での表示内容の変化の様子を示す模式図である。
図8Bは、コマ落ちが生じた場合での表示内容の変化の様子を示す模式図である。例えば、
図8Aおよび
図8Bに示されるように、物体OB、ここでは人が、時刻t1から時刻t2にかけて移動した場合を想定する。コマ落ちが生じていない場合、
図8Aに示されるように、時刻t1での物体OB(t1)には、その位置に映像VDa(t1)が重畳して表示され、時刻t2での物体OB(t2)には、その位置に映像VDa(t2)が重畳して表示される。
【0047】
このように、コマ落ちが生じない場合には、ARの対象物に追従するリアルタイム性が高い映像VDを表示することができる。一方、コマ落ちが生じた場合、特に、連続する制御周期Tcで連続してコマ落ちが生じた場合、
図8Bに示されるように、時刻t2での物体OB(t2)には、その位置から物体OB(t1)側にズレた位置に映像VDa(t2)が表示される。この場合、映像VDa(t2)は、物体OB(t2)に完全には重畳されない。このように、コマ落ちが生じた場合には、ARの対象物に追従しないリアルタイム性が低い映像VDを表示されることになり得る。
【0048】
<制御部の概略動作>
そこで、制御部20は、リアルタイム性が高い映像VDを表示できるようにするため、概略的には、所定の処理周期または制御周期Tc内に映像データの準備を完了するように、映像データの準備に必要な処理負荷を軽減する制御を行う。つまり、制御部20は、通信部16によって受信された乗り物に関する情報に基づいて映像データを準備し、映像データの準備条件が所定の処理周期に所定条件を満たさない場合、準備する映像データの一部内容を変更して準備する。より詳細には、制御部20は、映像データの準備に要する準備時間Tpを監視し、準備時間Tpが予め定めた条件を満たした場合に、処理負荷を軽減する制御を開始する。また、所定の処理周期または制御周期Tcは、フレームレートに基づいて定められるものである。
【0049】
準備時間Tpは、
図7で述べたような動作方式を前提とすると、
図6に示したステップS11,S12の処理に要する時間である。一方、例えば、ステップS11の処理と、ステップS12の処理とをパイプラインで実行するような動作方式を前提とすると、準備時間Tpは、ステップS12の処理に要する時間であってよい。ただし、リアルタイム性を高めるためには、
図7で述べたような動作方式を用いる方が望ましい。
【0050】
制御部20は、準備時間Tpを逐次監視する。例えば、車両の時間と連動し、または、タイマ等を用いて準備時間を監視することができる。
図7で述べたような動作方式を前提とすると、
図3Aに示すように、制御部20は、通信部16を用いて乗り物に関する情報の取得を開始してから、作成した映像データをフレームバッファ18に書き終えるまでに要する準備時間Tpを、タイマ等を用いて監視する。
図3Bに示した構成を用いる場合、
図3Aの場合と異なり、通信処理部16aは、制御ユニット21からの情報を取得して、取得した情報を処理し、処理した結果をフレームバッファ18に書き終えるまでに要する準備時間Tpを、タイマ等を用いて監視する。
【0051】
図9は、
図3Aに示される制御部が有する内部状態の一例を示す図である。
図10は、
図3Aに示される制御部による、準備時間の監視結果の一例を示す図である。制御部20は、
図9に示されるように、内部状態として、通常状態ST0と、復帰移行状態ST1と、抑制移行状態ST2と、抑制状態ST3とを有する。言い換えれば、制御部20は、動作モードとして、通常モードST0と、復帰移行モードST1と、抑制移行モードST2と、抑制モードST3とを有する。4つの状態を有するのは一例であり、別の例では、制御部20は、通常状態ST0と、抑制状態ST3の2つの状態を有してもよい。
【0052】
制御部20は、通常状態ST0では、通信部16を用いて取得した情報に基づいて、通常通りに映像データを準備し、それに基づく映像VDを映像表示部11に表示させる。また、制御部20は、通常状態ST0において、(A)監視結果となる準備時間Tpが制御周期Tcよりも長かった場合、または、(B)準備時間Tpが複数回連続して第1の閾値時間Tth1よりも長かった場合に、抑制移行状態ST2に遷移する。連続回数は、例えば、2回以上10回以下の値に定められる。
【0053】
具体例として、
図10では、監視時刻tm4で得られた準備時間Tp4は、制御周期Tcよりも長くなっている。また、連続する監視時刻tm2,tm3で得られた準備時間Tp2,Tp3は、共に、制御周期Tcよりも短いが、第1の閾値時間Tth1よりも長くなっている。第1の閾値時間Tth1は、制御周期Tcである16.6msよりも短い時間であり、例えば、15.0ms等である。
【0054】
制御部20は、通常状態ST0において、(A)準備時間Tp4のような監視結果が得られた場合、または、(B)準備時間Tp2,Tp3のような監視結果が複数回連続して、例えば2連続で得られた場合に、抑制移行状態ST2に遷移する。条件(A)は、コマ落ちを迅速に解消するためのものである。一方、条件(B)は、近い将来に、準備時間Tpが制御周期Tcよりも長くなる状況、ひいてはコマ落ちが生じる状況を、事前に予防するためのものである。
【0055】
制御部20は、抑制移行状態ST2において、処理負荷を軽減する制御を開始したのち、予め定めた抑制移行期間内で、処理負荷の軽減量を制御周期Tc毎に段階的に増やしていく。抑制移行期間は、例えば、5秒等に定められる。詳細は後述するが、制御部20は、例えば、一部の映像データを作成しない、または、一部の映像データを簡略化すること等で、準備する映像データのデータ量を削減し、処理負荷を軽減する。この場合、仮に、映像データのデータ量が急減に削減されると、表示内容も急減に変化するため、利用者6の視点で好ましくない。そこで、制御部20は、削減するデータ量を段階的に増やしていく。そして、制御部20は、抑制移行期間、例えば5秒を経たのち、抑制状態ST3に遷移する。
【0056】
制御部20は、抑制状態ST3において、軽減後の処理負荷で映像データを準備する。また、制御部20は、抑制状態ST3において、準備時間Tpが第2の閾値時間Tth2よりも短かった状態が予め定めた閾値継続期間TthD以上継続した場合に、復帰移行状態ST1に遷移する。第2の閾値時間Tth2は、制御周期Tcよりも短い時間であり、例えば、第1の閾値時間Tth1と同じ時間、または、第1の閾値時間Tth1よりも短い時間に定められる。閾値継続期間TthDは、制御周期Tcの複数倍以上の期間であり、例えば、5秒等に定められる。
【0057】
具体例として、
図10では、第2の閾値時間Tth2は、第1の閾値時間Tth1よりも短い時間に定められる。監視時刻tm5,tm6で得られた準備時間Tp5,Tp6は、共に、第2の閾値時間Tth2よりも短くなっている。制御部20は、準備時間Tp5,Tp6のような監視結果が閾値継続期間TthD以上継続して得られた場合に、復帰移行状態ST1に遷移する。
【0058】
このように、“準備時間Tp<第2の閾値時間Tth2”の状態が安定的に生じている場合、通常状態ST0に復帰しても、前述した条件(A)および条件(B)に該当しなくなることが見込まれる。なお、制御部20は、場合によっては、所定の期間を経ることで処理負荷が自ずと軽減されることを見込んで、このような条件判定を行うことがなく、単に、5秒等の時間を経て、復帰移行状態ST1に遷移してもよい。
【0059】
制御部20は、復帰移行状態ST1において、予め定めた復帰移行期間内で、処理負荷の軽減量を制御周期Tc毎に段階的に減らしていく。復帰移行期間は、例えば、5秒等に定められる。そして、制御部20は、当該復帰移行期間、例えば5秒を経たのち、通常状態ST0に遷移する。復帰移行状態ST1を設けることで、抑制移行状態ST2の場合と同様に、利用者6の視点で好ましくない状況を回避することができる。
【0060】
<処理負荷の軽減方法>
図11Aは、
図9に示される通常状態における、HUD装置の表示内容の一例を示す概略図である。通常状態ST0では、例えば、
図11Aに示されるように、7個の映像VDa1~VDa3,VDb~VDeが表示される。映像VDa1,VDa2は、それぞれ、物体OB1,OB2、ここでは人に重畳するように表示される。映像VDa3は、物体OB3、ここでは車両に重畳するように表示される。映像VDb~VDeは、
図5の場合と同様に、それぞれ、ナビゲーション情報、進行方向、道路標識、速度情報を表す。
【0061】
図11Bは、
図9に示される抑制移行状態における、HUD装置の表示内容の一例を示す概略図である。抑制移行状態ST2では、
図11Aに示した表示内容を基準として、
図11Bでの符号201,203で示されるように、
図11Aでの2個の映像VDa2,VDdが削除されている。すなわち、物体OB1よりも遠い物体OB2に重畳される映像VDa2と、道路標識を表す映像VDdとが削除されている。また、
図11Bでの符号202で示されるように、
図11Aでの映像VDa3を無着色にすること等で、映像VDa3が簡略化されている。
【0062】
さらに、
図11Bでは、抑制移行状態ST2、言い換えれば抑制移行期間であることを利用者6に通知するための映像VDm1、例えばマークが表示されている。制御部20は、抑制移行状態ST2では、当該映像VDm1の映像データを、テンプレートとして、フレームバッファ18内の固定の記憶領域に書き込む。このようなマークを表示することで、利用者6は、故障による表示内容の変化ではなく、表示抑制機能が作動したことによる表示内容の変化であることを認識することができる。
【0063】
図11Bに示した表示を行う場合、制御部20は、
図6に示したステップS121において、映像VDa2,VDdを非表示に定め、映像VDa3に簡略化表示を適用することで、ステップS12で準備する映像データのデータ量を削減する。これによって、制御部20は、映像データの準備に必要な処理負荷を軽減する。すなわち、制御部20は、ステップS122での処理に要する時間や、ステップS123での処理に要する時間を短縮する。また、制御部20は、このようなデータ量の削減を段階的に進めていく。
【0064】
図11Cは、
図9に示される抑制状態における、HUD装置の表示内容の一例を示す概略図である。抑制状態ST3では、
図11Bに示した表示内容を基準として、
図11Cでの符号301,302で示されるように、さらに、
図11Bでの2個の映像VDa1,VDbが簡略化されている。すなわち、2個の映像VDa1,VDbにおいて、無着色やサイズの縮小といった簡略化が行われている。さらに、
図11Cでは、抑制状態ST3、言い換えれば抑制期間であることを利用者6に通知するための映像VDm2、例えばマークが表示されている。
【0065】
具体的な処理の一例として、制御部20は、車両情報4の種別と優先度との対応関係等を定めた抑制テーブルを、メモリ17に予め記憶しておく。制御部20は、例えば、抑制移行状態ST2において、当該抑制テーブルに基づいて、優先度が低い順に車両情報4を選択すると共に、当該選択数を段階的に増やしていく。そして、制御部20は、選択した車両情報4を表す映像VDを非表示に定める、または、予め定められた方法で簡略化する。
【0066】
ここで、抑制テーブルにおける優先度は、例えば、次のような基準で定められる。まず、安全運転への寄与度が高い車両情報4ほど、優先度を高くする。また、車両情報4が警告を表す場合で、警告の対象物が人と車両の場合には、人の方の優先度を高くする。ただし、この際には、自車と対象物との距離に応じて優先度に重み付けを持たせてもよい。例えば、人との距離が遠く、車両との距離が極端に近い場合は車両を優先してもよい。また、自車から遠ざかって行く人よりも近づいてくる人の優先度を高くしてもよい。
【0067】
また、
図11Bおよび
図11Cに示した進行方向を表す映像VDbに関し、例えば、ナビゲーション情報に基づいて、直線が続く場合には優先度は低くし、右左折のタイミングが近い場合には優先度を高くしてもよい。また、映像VDbに関し、過去の走行履歴に基づいて、利用頻度が高い道を走行している場合には優先度を低くし、過去に利用したことがない道を走行している場合には優先度を高くしてもよい。さらに、
図11Aおよび
図11Bに示した道路標識、すなわち制限速度を表す映像VDdに関し、自車の走行速度との差分に基づいて、優先度を変えてもよい。
【0068】
なお、制御部20は、映像VDを完全に削除せずに、例えば、映像VDを複数の制御周期Tc毎に1回表示すること等で、処理負荷を軽減してもよい。さらに、制御部20は、このような映像データのデータ量を削減する方法に限らず、例えば、
図6におけるステップS124での歪補正の処理を簡略化する、ひいては精度を落とすことで、処理負荷を軽減してもよい。
【0069】
<制御部の詳細動作>
図12は、
図3Aに示される制御部の処理内容の一例を示すフロー図である。制御部20は、例えば、
図2Aに示したミラーM1の設置角度の調整等が完了し、映像を投射できる環境が整った時点で
図12に示されるフローを実行する。
図12において、制御部20は、タイマ等を用いて準備時間Tpの監視を開始する(ステップS20)。続いて、制御部20は、開始トリガが生じるのを待つ(ステップS21)。開始トリガは、制御周期Tc毎に生成される。
【0070】
ステップS21で開始トリガが生じると、制御部20は、通信部16、すなわち情報取得部を用いて、乗り物に関する情報を取得する(ステップS22)。次いで、制御部20は、
図9で述べた現在の内部状態を確認する(ステップS23)。そして、制御部20は、
図6でのステップS12で述べたような、映像データの準備処理を行う(ステップS24)。この際に、制御部20は、通常状態ST0を除く内部状態である場合には、
図9、
図11Bおよび
図11Cで述べたように、映像データの準備に必要な処理負荷を軽減する制御を行う。
【0071】
制御部20は、ステップS24における映像データの準備処理を完了すると、準備完了信号を生成する(ステップS25)。制御部20は、例えば、準備完了信号を生成した後の開始トリガに応じて、表示駆動部15に表示開始命令を出力する。表示駆動部15は、表示開始命令に応じて、
図6におけるステップS13および
図7で述べたような、映像VDの表示処理を行う。また、制御部20は、映像データの準備処理を完了した段階で、ステップS21に伴う監視結果である準備時間Tpを評価する(ステップS26)。
【0072】
そして、制御部20は、監視結果である準備時間Tpに基づいて、
図9で述べた状態遷移が必要か否かを判定する(ステップS27)。状態遷移が必要な場合(ステップS27:Yes)、制御部20は、遷移先を決定し(ステップS29)、定めた遷移先へ状態遷移し、併せて内部状態を更新する(ステップS30)。一方、状態遷移が不要な場合(ステップS27:No)、制御部20は、HUD表示の終了要求が生じるまで、ステップS21に戻って次の開始トリガを待ち、同様の処理を繰り返す(ステップS28)。
【0073】
<実施の形態の主要な効果>
以上、実施の形態の方式では、制御周期Tc内に映像データの準備を完了するように、映像データの準備に必要な処理負荷を軽減する制御を行うで、コマ落ち等の発生を抑制し、最低限の表示品質を確保することが可能になる。詳細には、コマ落ち等が生じないようにHUD装置1を設計した場合であっても、表示仕様の変更を伴うソフトウェアのアップデート等によって、処理負荷が増大し、コマ落ち等が生じる可能性がある。実施の形態の方式を用いると、このような場合であっても、コマ落ち等の発生を抑制することができる。その結果、ハードウェアの処理性能の範囲内において、求められる表示仕様をできるだけ満足するとともに、表示仕様に柔軟に対応することが可能になる。
【0074】
また、実施の形態の方式を用いると、利用者6は、行き先や速度などのナビゲーション情報の他に、対向車や歩行者を検知した際のアラート情報など、走行に必要な各種情報をウィンドシールド3越しの映像として視認でき、表示仕様が変わっても、最低限の表示品質が確保された映像を視認できる。これにより、利用者6の視点移動を軽減して安全運転の支援に寄与するHUD装置1を提供できる。その結果、交通事故を防止することが可能となる。さらに、国連の提唱する持続可能な開発目標(SDGs:Sustainable Development Goals)の「3.すべての人に健康と福祉を」に貢献することが可能になる。
【0075】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。例えば、前述した実施の形態は、本発明を分かり易く説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施の形態の構成に他の実施の形態の構成を加えることも可能である。また、各実施の形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【符号の説明】
【0076】
1…ヘッドアップディスプレイ(HUD)装置、2…車両、4…車両情報、5…表示領域、6…利用者、11…映像表示部、16…通信部(情報取得部)、20…制御部、M1…ミラー(映像光投射部)、ST0…通常状態、ST1…復帰移行状態、ST2…抑制移行状態、ST3…抑制状態、Tc…制御周期、Tp…準備時間、Tth1…第1の閾値時間、Tth2…第2の閾値時間、TthD…閾値継続期間、VD…映像