(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024030734
(43)【公開日】2024-03-07
(54)【発明の名称】表示制御装置、表示システム、及び表示制御方法
(51)【国際特許分類】
B60K 35/23 20240101AFI20240229BHJP
B60K 35/00 20240101ALI20240229BHJP
【FI】
B60K35/00 A
B60K35/00 Z
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022133818
(22)【出願日】2022-08-25
(71)【出願人】
【識別番号】000231512
【氏名又は名称】日本精機株式会社
(74)【代理人】
【識別番号】100067356
【弁理士】
【氏名又は名称】下田 容一郎
(74)【代理人】
【識別番号】100160004
【弁理士】
【氏名又は名称】下田 憲雅
(74)【代理人】
【識別番号】100120558
【弁理士】
【氏名又は名称】住吉 勝彦
(74)【代理人】
【識別番号】100148909
【弁理士】
【氏名又は名称】瀧澤 匡則
(74)【代理人】
【識別番号】100192533
【弁理士】
【氏名又は名称】奈良 如紘
(72)【発明者】
【氏名】▲高▼野 凌
【テーマコード(参考)】
3D344
【Fターム(参考)】
3D344AA19
3D344AB01
3D344AC25
3D344AD01
(57)【要約】
【課題】 乗員の状態(心理状態を含む)を察知して表示画像を適切に更新することで、乗員の負担を軽減できる表示制御装置、表示システム(表示装置を含む)、及び表示制御方法を提供することである。
【解決手段】 表示制御装置142は、車両1に搭載される少なくとも1つの表示部108、150の画像表示を制御する制御部140を有し、制御部140は、表示中の画像に関して車両の乗員の心理状態を推定し、推定結果に基づいて、表示中の画像の更新の要否を判定する表示更新要否判定部194を有し、表示更新要否判定部194は、表示更新要の場合には、表示中の画像を他の画像に切り替える表示切替制御、又は、表示中の画像の他に、他の画像を追加する表示追加制御を実行する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
車両に搭載される少なくとも1つの表示部の画像表示を制御する制御部を有し、
前記制御部は、表示中の画像に関して前記車両の乗員の心理状態を推定し、推定結果に基づいて前記表示中の画像の更新の要否を判定する表示更新要否判定部を有し、
前記制御部は、表示更新要の場合には、
前記表示中の画像を他の画像に切り替える表示切替制御、
又は、
前記表示中の画像の他に、他の画像を追加する表示追加制御を実行する、
表示制御装置。
【請求項2】
前記表示中の画像は、前記車両を案内する第1のナビゲーション画像であり、
前記表示切替制御における前記他の画像、又は、前記表示追加制御における前記他の画像は、
前記車両の周辺の道路を、上空の所定の視点から見た俯瞰図により表した俯瞰画像としての第2のナビゲーション画像である、
請求項1に記載の表示制御装置。
【請求項3】
前記第1のナビゲーション画像は、局所的に表示される第1の案内画像であり、
前記第2のナビゲーション画像における前記俯瞰画像は、前記第1の案内画像よりも広域にわたって表示され、かつ道路に沿って延在するように表示される走行ルート案内画像としての第2の案内画像を含む、
請求項2に記載の表示制御装置。
【請求項4】
前記少なくとも1つの表示部は、
画像を被投影部材に投影する投影型の表示装置としての第1の表示部を有する、
又は、
画像を被投影部材に投影する投影型の表示装置としての第1の表示部と、表示面に画像を表示する表示器を備える表示器装置としての第2の表示部と、を有する
請求項1に記載の表示制御装置。
【請求項5】
前記表示更新要否判定部は、
可視光を用いた可視カメラによる前記乗員の撮像信号、
赤外光を用いた赤外カメラによる前記乗員の撮像信号、
ミリ波レーダーセンサによる前記乗員を対象とする検出信号、
静電容量式センサによる前記乗員の体圧分布の検出信号、
前記乗員の並進運動及び回転運動の少なくとも一方を検出する慣性計測装置(IMU)の検出信号、
の少なくとも1つに基づく判定によって、前記乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じていると判定され、
かつ、
その乗員の身体の変動と、前記現在表示されている画像に相関性が有ると推定される場合に、
表示更新要と判定する、
請求項1に記載の表示制御装置。
【請求項6】
前記乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じているか否かは、
前記乗員の、
視線移動の頻度、
視線移動の大きさ、
表情の変動、
顔を振る大きさ、
顔を振る頻度、
上半身の並進運動、
上半身の回転運動、
重心の偏り、
姿勢の変動、
のうちの、異なる事象についての少なくとも2つの総合的評価に基づいて判定される、
請求項5に記載の表示制御装置。
【請求項7】
前記俯瞰画像を含む第2のナビゲーション用画像は、
地図データと、前記車両と路側機との路車間通信によって前記路側機から得られる俯瞰画像データと、に基づいて作成される、
請求項2に記載の表示制御装置。
【請求項8】
前記制御部は、
前記表示切替制御、又は、前記表示追加制御が実行されると、これに合わせて運転イベントの一区間を設定し、
前記運転イベントの一区間が終了すると、前記表示切替制御、又は、前記表示追加制御を中止し、元の画像の表示に復帰させる、
請求項1に記載の表示制御装置。
【請求項9】
前記制御部は、
前記運転イベントの一区間を設定する道路状況判定部を有する、
請求項8に記載の表示制御装置。
【請求項10】
前記制御部は、
前記運転イベントの一区間が終了する前に、前記乗員から、元の画像への復帰要求があった場合は、元の画像の表示に復帰させる、
請求項8に記載の表示制御装置。
【請求項11】
車両に搭載される少なくとも1つの表示部と、
請求項1乃至10の何れか1項に記載の制御部と、
を有する、
表示システム。
【請求項12】
車両に搭載される少なくとも1つの表示部における画像表示を制御する表示制御方法であって、
前記車両における乗員の状態の検出信号に基づいて、表示中の画像の更新の要否を判定するステップと、
表示更新要の場合において、前記表示中の画像を他の画像に切り替える表示切替制御、又は、前記表示中の画像はそのままにして他の画像を追加する表示追加制御を実行するステップと、
を含む表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば自動車等の車両に搭載される表示制御装置、表示システム、及び表示制御方法等に関する。
【背景技術】
【0002】
従来の運転支援システムは、例えば、特許文献1に示されている。この運転支援システムは、車両が交差点を右折する時に、遮蔽物(他車両)によって死角が発生している場合には、路側機から俯瞰画像を取得し、その俯瞰画像を車両の表示装置に表示する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1では、車両が交差点に進入する場合の死角の解消に限定されているが、運転者にとって前方等が見づらい状況は、交差点以外でも発生する。よって、より広範な運転状況にも対応可能とすることが好ましい。
【0005】
また、例えば、地理不案内の道路を走行している際に、走行方向を示す矢印の画像等が局所的に表示されたとしても、車両の乗員(運転者を含む)にとっては、その矢印の画像と周囲の道路分布とが整合せず、目的地に無事たどり着けるか不安になる、といったこともある。
【0006】
具体的には、例えば、走行ルートに関係する道路に、分岐路が複数、存在しており、どの道を行けばよいのかわからず、不安になるという場合が想定され得る。
【0007】
このような場合は、乗員自らが、顔や身体を動かし、目を凝らすなどして、より多くの情報を取得する必要があり、乗員の負担が増加する。
【0008】
このような場合に、乗員の要求を待つことなく、表示する画像を適切に更新できれば、乗員の負担が軽減されるが、現状の技術では対応できない。
【0009】
このような課題が本発明者によって明らかとされた。この課題については、特許文献1には何ら記載されていない。
【0010】
本発明の目的の一つは、乗員の状態(心理状態を含む)を察知して表示画像を適切に更新することで、乗員の負担を軽減できる表示制御装置、表示システム(表示装置を含む)、及び表示制御方法を提供することである。
【0011】
本発明の他の目的は、以下に例示する態様及び最良の実施形態、並びに添付の図面を参照することによって、当業者に明らかになるであろう。
【課題を解決するための手段】
【0012】
以下に、本発明の概要を容易に理解するために、本発明に従う態様を例示する。
【0013】
本発明の第1の態様において、表示制御装置は、
車両に搭載される少なくとも1つの表示部の画像表示を制御する制御部を有し、
前記制御部は、表示中の画像に関して前記車両の乗員の心理状態を推定し、推定結果に基づいて前記表示中の画像の更新の要否を判定する表示更新要否判定部を有し、
前記制御部は、表示更新要の場合には、
前記表示中の画像を他の画像に切り替える表示切替制御、
又は、
前記表示中の画像の他に、他の画像を追加する表示追加制御を実行する。
【0014】
第1の態様では、表示制御装置が表示更新要否判定部を備える。よって、乗員からの要求がなくても、表示中の画像に関する乗員の心理状態を推定して、必要に応じて画像を更新することが可能となる。
【0015】
これによって、乗員の負担が軽減され、また、表示システム(表示装置を含む)の利便性が向上する。
【0016】
また、乗員(運転者)の注意散漫、前方不注意等が抑制され、安全運転を実現する効果も得られる。
【0017】
第1の態様に従属する第2の態様において、
前記表示中の画像は、前記車両を案内する第1のナビゲーション画像であり、
前記表示切替制御における前記他の画像、又は、前記表示追加制御における前記他の画像は、
前記車両の周辺の道路を、上空の所定の視点から見た俯瞰図により表した俯瞰画像としての第2のナビゲーション画像であってもよい。
【0018】
第2の態様では、表示中の画像の更新に際し、例えば矢印等の案内画像(第1のナビゲーション画像)を、俯瞰画像(第2のナビゲーション画像)に切り替えたり、あるいは、矢印等の案内画像は残しつつ俯瞰画像を追加したりする。
【0019】
俯瞰画像は、不慣れな道路を走行している乗員に、道路分布、道路環境、道路事情等の広範囲にわたる情報を提供でき、乗員の不安感を軽減するのに役立つ。
【0020】
例えば、俯瞰画像(道路俯瞰画像)上において、適宜、矢印等を用いて走行ルートを明示することで、乗員は走行ルートを容易に把握でき、乗員は安心感を得られると共に、乗員の認知負荷(周囲の道路環境等を認識しようとする場合の負担)が軽減される。
【0021】
第2の態様に従属する第3の態様において、
前記第1のナビゲーション画像は、局所的に表示される第1の案内画像であり、
前記第2のナビゲーション画像における前記俯瞰画像は、前記第1の案内画像よりも広域にわたって表示され、かつ道路に沿って延在するように表示される走行ルート案内画像としての第2の案内画像を含んでもよい。
【0022】
第3の態様においても、第2の態様と同じく、表示中の画像の更新に際し、例えば矢印等の案内画像(第1のナビゲーション画像)を、俯瞰画像(第2のナビゲーション画像)に切り替えたり、あるいは、矢印等の案内画像は残しつつ俯瞰画像を追加したりする。
【0023】
但し、本態様では、第1のナビゲーション画像としての第1の案内画像は、局所的に表示されるものである。第1の案内画像としては、例えば、右折や左折を指示する、短い矢印の表示が想定され得る。
【0024】
これに対して、第2のナビゲーション画像としての俯瞰画像では、例えば、第1の案内画像よりも広域にわたって表示され、かつ道路に沿って延在するように表示される走行ルート案内画像としての第2の案内画像が含まれる。
【0025】
第2の案内画像としては、例えば、現在の車両位置から進路変更後の位置までを連続的に示す帯状の表示が想定され得る。この帯状の表示は、適宜、着色されてもよく、また、矢印を伴うものであってもよい。このような第2の案内画像を、俯瞰画像上で目視することで、乗員は、走行ルートを容易に、かつ的確に把握することが可能となる。
【0026】
第1乃至3の何れかの態様に従属する第4の態様において、
前記少なくとも1つの表示部は、
画像を被投影部材に投影する投影型の表示装置としての第1の表示部を有してもよく、
又は、
画像を被投影部材に投影する投影型の表示装置としての第1の表示部と、表示面に画像を表示する表示器を備える表示器装置としての第2の表示部と、を有してもよい。
【0027】
第4の態様では、表示制御装置は、HUD装置のような投影型の表示装置の表示を制御してもよい。また、表示制御装置は、HUD装置のような投影型の表示装置、及び表示面を備える表示器装置の各々の表示を制御してもよい。
【0028】
表示更新が実施された場合において、更新後の画像を投影型の表示装置に表示すれば、乗員は、視線移動が少ない状態で更新後の画像を視認できるため、乗員の認知負荷を軽減することができる。
【0029】
また、投影型の表示装置と表示器装置とを併用する場合は、更新後の画像を何れに表示してもよい。表示器装置(例えばCID等)を活用すれば、例えば、比較的大型の俯瞰地図の画像も表示可能であり、乗員は少しの視線移動で画像を目視できる。また、複数の種類の画像の表示も可能であるという利点もある。
【0030】
第1乃至4の何れかの態様に従属する第5の態様において、
前記表示更新要否判定部は、
可視光を用いた可視カメラによる前記乗員の撮像信号、
赤外光を用いた赤外カメラによる前記乗員の撮像信号、
ミリ波レーダーセンサによる前記乗員を対象とする検出信号、
静電容量式センサによる前記乗員の体圧分布の検出信号、
前記乗員の並進運動及び回転運動の少なくとも一方を検出する慣性計測装置(IMU)の検出信号、
の少なくとも1つに基づく判定によって、前記乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じていると判定され、
かつ、
その乗員の身体の変動と、前記現在表示されている画像に相関性が有ると推定される場合に、
表示更新要と判定してもよい。
【0031】
第5の態様では、表示更新の要否を決めるに際して、2種類の判定(下記の第1、第2の判定)が実施され、各判定において肯定的結果が得られた場合に、表示更新要と判定される。
【0032】
各種のセンサやカメラの信号に基づいた乗員の身体の変動(動き)に関して、偶発的な変動の程度を超える変動が生じているか否かの判定(第1の判定)を実施することで、偶発的な身体の動きが、表示更新の要否判定に影響を与えることを排除できる。
【0033】
また、その変動が、表示中の画像と相関性があるか否かの判定(第2の判定)を実施することで、現在表示中の画像とは無関係な変動が、表示更新の要否判定に影響を与えることを排除できる。
【0034】
例えば、左折を促す矢印の画像が表示されているとき、乗員(運転者等)が、矢印が指す方向の実景を頻繁に見たり、上半身を左側に回転させるような姿勢をとりつつ、前のめりになって矢印が示す方向の実景を見たり、あるいは、顔の表情が変化して不安が見て取れる場合等には、乗員自らが、顔や身体を動かし、目を凝らすなどして、より多くの情報を取得しようと努力していると推定でき、相関性があると判定できる。
【0035】
これらの判定によって、乗員の、表示中の画像に関する心理状態(例えば情報が不足して不安を抱いている心理状態)を、所望レベルの信頼性をもって推定することが可能である。
【0036】
第5の態様に従属する第6の態様において、
前記乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じているか否かは、
前記乗員の、
視線移動の頻度、
視線移動の大きさ、
表情の変動、
顔を振る大きさ、
顔を振る頻度、
上半身の並進運動、
上半身の回転運動、
重心の偏り、
姿勢の変動、
のうちの、異なる事象についての少なくとも2つの総合的評価に基づいて判定されてもよい。
【0037】
第6の態様では、乗員の身体の変動(動き)に関する判定の、好ましい一例を示している。判定の対象となる事象としては、例えば、乗員の視線移動(第1の事象)、表情の変動(第2の事象)、顔を振る動き(第3の事象)、上半身の動き(並進や回転:第4の事象)、重心の偏り(重心の移動:第5の事象)、姿勢の変動(第6の事象)を挙げることができる。
【0038】
例えば、各事象について、その事象の程度(例えば、顔を振る動きに関しては、その振りの大きさの程度等)を予め設定されている閾値で判定し、事象毎に、複数段階(例えば5段階)の評価で評価値を算出する。
【0039】
そして、異なる事象(例えば、顔を振る動きと、上半身の動き)の各々についての評価値を例えば加算する。言い換えれば、種類が異なる事象についての、少なくとも2つの評価値を加算して総合評価値を算出する。
その総合評価値の数値が、例えば総合評価用の閾値を超えている場合には、乗員の顔を含む身体(好ましくは局所的ではなく全体的な身体)に、偶発的な変動の程度を超える変動が生じていると判定し得る。但し、これは一例であり、この例に限定されるものではない。
【0040】
本態様によれば、異なる種類の、複数の事象についての評価を統合して総合的に評価するため、誤判定を抑制できる。
【0041】
第2の態様に従属する第7の態様において、
前記俯瞰画像を含む第2のナビゲーション用画像は、
地図データと、前記車両と路側機との路車間通信によって前記路側機から得られる俯瞰画像データと、に基づいて作成されてもよい。
【0042】
第7の態様によれば、路車間通信により得られる俯瞰画像データを利用することで、俯瞰画像を効率的に作成することができる。このことは、路車間通信の利用促進にも寄与する。
【0043】
第1乃至7の何れかの態様に従属する第8の態様において、
前記制御部は、
前記表示切替制御、又は、前記表示追加制御が実行されると、これに合わせて運転イベントの一区間を設定し、
前記運転イベントの一区間が終了すると、前記表示切替制御、又は、前記表示追加制御を中止し、元の画像の表示に復帰させてもよい。
【0044】
第8の態様では、運転場面の変化等によって表示切替や表示の追加が不要となった場合には、元の表示(元の表示コンテンツ)に戻す。不要となった表示を残していると、乗員が違和感を覚える原因となるため、運転イベントの一区間が終了すると、表示を元に戻すこととしたものである。
【0045】
第8の態様に従属する第9の態様において、
前記制御部は、
前記運転イベントの一区間を設定する道路状況判定部を有してもよい。
【0046】
第9の態様では、道路状況判定部が設けられ、この道路状況判定部が、運転イベントの一区間を適宜、設定し、また、その区間の終了を適宜、判定する。
【0047】
例えば、「運転イベントの一区間」とは、例えば、交差点の右折を開始してから、交差点を曲がり切り、自車両が直進に転じるまでの区間である。道路状況判定部は、自車両が直進に転じる地点に達したときに、右折という運転イベントの一区間が終了したと判定することができる。
【0048】
第8の態様に従属する第10の態様において、
前記制御部は、
前記運転イベントの一区間が終了する前に、前記乗員から、元の画像への復帰要求があった場合は、元の画像の表示に復帰させてもよい。
【0049】
第10の態様によれば、乗員(運転者等)の意思によって、元の表示に復帰させることができ、乗員の使い勝手が向上する。
【0050】
第11の態様において、表示システムは、
車両に搭載される少なくとも1つの表示部と、
第1乃至第10の何れか1つの態様の制御部と、
を有する。
【0051】
第11の態様によれば、乗員の状態(心理状態を含む)を察知して表示画像を適切に更新することで、乗員の負担を軽減できる表示システム(表示装置を含む)を実現することができる。
【0052】
第12の態様において、
車両に搭載される少なくとも1つの表示部における画像表示を制御する表示制御方法であって、
前記車両における乗員の状態の検出信号に基づいて、表示中の画像の更新の要否を判定するステップと、
表示更新要の場合において、前記表示中の画像を他の画像に切り替える表示切替制御、又は、前記表示中の画像はそのままにして他の画像を追加する表示追加制御を実行するステップと、
を含む。
【0053】
これによって、乗員の負担が軽減され、また、表示システム(表示装置を含む)の利便性が向上する。また、乗員(運転者)の注意散漫、前方不注意等が抑制され、安全運転を実現する効果も得られる。
【0054】
当業者は、例示した本発明に従う態様が、本発明の精神を逸脱することなく、さらに変更され得ることを容易に理解できるであろう。
【図面の簡単な説明】
【0055】
【
図1】
図1は、投影型の表示装置(第1の表示部:ここではHUD装置)と、表示器装置(第2の表示部:中央情報ディスプレイ(CID)等)と、を備える表示システムの構造の一例を示す断面図である。
【
図2】
図2は、
図1の表示システムのシステム構成の一例を示す図である。
【
図3】
図3は、電容量式センサを備える体圧分布センサシートの座席への装着例、慣性計測装置(IMU)の乗員への装着例、及びカメラの配置例を示す図である。
【
図5】
図5は、表示更新処理における、表示切替制御の一例を示す図である。
【
図6】
図6は、表示更新処理における、表示切替制御の他の例を示す図である。
【
図7】
図7は、表示更新処理における、表示追加制御の一例を示す図である。
【
図8】
図8は、表示更新処理における、表示追加制御の他の例を示す図である。
【
図9】
図9は、表示制御の手順例を示すフローチャートである。
【発明を実施するための形態】
【0056】
以下に説明する最良の実施形態は、本発明を容易に理解するために用いられている。従って、当業者は、本発明が、以下に説明される実施形態によって不当に限定されないことを留意すべきである。
【0057】
また、以下の説明では、「乗員」という用語を使用するが、「乗員」には、「車両の運転者」、あるいは「運転者以外の乗員」の双方を含めることができる。
【0058】
例えば、ヘッドアップディスプレイ(HUD)装置は、車両を運転中の「運転者としての乗員」に、適宜、ナビゲーション画像(虚像)を表示することができる。
【0059】
また、完全な自動運転モードが実現された場合を想定すると、HUD装置は、「車両の自動運転の状況を監視する役割をする乗員(運転席に着座している乗員でもよく、助手席に着座している乗員でもよい)」に、適宜、ナビゲーション画像を表示するようにしてもよい。以下の説明では、主として、運転者としての乗員を想定して説明する。
【0060】
図1を参照する。
図1は、投影型の表示装置(第1の表示部:ここではHUD装置)と、表示器装置(第2の表示部:中央情報ディスプレイ(CID)等)と、を備える表示システムの構造の一例を示す断面図である。
【0061】
表示システム(車載表示システム)100は、ヘッドアップディスプレイ(HUD)装置102と、表示器装置103と、を有する。
【0062】
HUD装置102は、ダッシュボード41内に収容されている。HUD装置102は、筐体5と、画像の表示光を出射する光源部(この部分が「HUD装置の表示部」に相当する)7と、光学系を構成する凹面鏡(曲面鏡)9を有する。凹面鏡9は、被投影部材としてのウインドシールド2に、画像(画像の表示光)を投影する。なお、被投影部材はスクリーン等であってもよい。
【0063】
表示光の一部はウインドシールド2で反射されて、例えば、ステアリングホイール4を操作している運転者としての乗員の目(視点)Eに入射される。この結果として、虚像V1が表示される。
図2の例では、虚像V1は、虚像表示面PS上に表示される。
【0064】
表示器装置103の構成要素である表示パネル108は、例えば液晶パネルで構成される。液晶パネルの表示面上に実像J1が表示される。
【0065】
次に、
図2を参照する。
図2は、
図1の表示システムのシステム構成の一例を示す図である。
図2において、
図1と共通する部分には同じ符号を付している(この点は、他の図面においても同様である)。
【0066】
表示システム(車載表示システム)100は、I/Oインタフェース30と、制御部(表示制御部)140を有する少なくとも1つのプロセッサ(表示制御装置)142と、画像処理部210と、画像表示部230と、記憶部(メモリ)350と、車外通信接続機器420と、を有する。
【0067】
車外通信接続機器420は、GPS通信、車々間通信、及び路車間通信に対応した通信機能を有する。また、車外通信接続機器420は、I/Oインタフェース30と接続されている。
【0068】
画像表示部230は、HUD装置102の構成要素であるHUD制御部163、及びHUD装置の表示部150、表示器装置103の構成要素である表示器制御部107、及び表示器108を有する。
【0069】
I/Oインタフェース30には、道路情報データベース401(地図データ403を含む)と、自車位置検出部405と、車外センサ407と、車外カメラ409と、LiDAR(光検出部及び測距部)411と、車内センサ413と、車内カメラ415と、各種の車内装置417と、車両ECU(中央制御ユニット)419と、学習データベース421と、が接続される。
【0070】
なお、車両ECU419には、ピッチ角センサや舵角センサ等の各種センサ(不図示)から、適宜、必要な情報が提供される。
【0071】
また、記憶部(メモリ)350には、例えば、実オブジェクト及びその位置検出モジュール510と、周囲環境検出モジュール512と、車両状況検出モジュール514と、画像種類決定モジュール516と、画像配置決定モジュール518と、グラフィック表示モジュール520と、表示更新モジュール522と、が含まれる。
【0072】
表示更新モジュール522には、情報解析モジュール524と、乗員の心理状態推定モジュール526とが含まれる。表示制御装置(プロセッサ)142が、上記のモジュール(プログラム)に従って動作することで、例えば、機能ブロックとしての制御部140や各種の処理部等が構築される。
【0073】
次に、
図3を参照する。
図3は、静電容量式センサを備える体圧分布センサシートの座席への装着例、慣性計測装置(IMU)の乗員への装着例、及びカメラの配置例を示す図である。
【0074】
図3のA-1において、静電容量式センサユニットSE1、SE2を備える第1の体圧分布センサシート51は、車両1の座席45の肩部(乗員の肩を支持する部分)に装着される。
【0075】
また、静電容量式センサユニットSE3、SE4を備える第2の体圧分布センサシート52は、車両1の座席45の背部(乗員の背中を支持する部分)に装着される。
【0076】
なお、静電容量式センサユニットSE1~SE4は、体圧分布計としての静電容量式センサ185の構成要素である。各静電容量式センサユニットSE1~SE4からは、乗員の体圧分布(圧力分布)を示す検出信号が出力される。
【0077】
図3のA-2に示すように、乗員(ここでは運転者とする)60は、車両1の座席45に着座し、ステアリングホイール4を操作して車両1を運転している。乗員60の左手首には第1の慣性計測装置(IMU)SG1が装着され、また、左腕には、第2の慣性計測装置(IMU)SG2が装着されている。
【0078】
ここで、慣性計測装置(IMU:Inertial Measurement Unit)は、3次元の慣性運動(直交3軸の各方向における並進運動および回転運動)を検出する装置であり、例えば、加速度センサにより並進運動を検出し、角速度(ジャイロ)センサにより回転運動を検出する。
【0079】
乗員60の手首に装着された第1の慣性計測装置(IMU)SG1の検出信号により、例えば腕の回転方向や回転頻度の情報が得られる。この情報を分析することで、例えば、乗員60のステアリングホイール4の操作状況を判定することができる。
【0080】
また、乗員の腕に装着された第2の慣性計測装置(IMU)SG2により、腕の曲げ伸ばしが発生する頻度や、その動きが急峻であるか緩慢であるか等の情報を得ることができる。これらの情報は、乗員60の心理状況を読み解く基礎情報となり得る。
【0081】
また、車内カメラ415が、乗員60の顔、及び上半身を撮像可能な位置に取り付けられている。車内カメラ415は、例えば、赤外カメラ412、可視光カメラ414を含むことができる。これらのカメラは、瞳撮像カメラ(視線方向検出カメラ)として利用可能であり、また、目E、鼻Ns、口Msを構成要素とする顔部分62における各構成要素の相対的位置関係の変化から表情の変化を読み取る表情検出センサとしても利用可能であり、また、顔の回転等の動きを検出する顔の動き検出センサとしても利用可能である。
【0082】
次に、
図4を参照する。
図4は、制御部の構成例を示す図である。先に
図2で説明したように、表示制御装置(プロセッサ)142は、車両1に搭載される少なくとも1つの表示部の画像表示を制御する制御部140を有している。
【0083】
この制御部140は、表示中の画像に関して車両の乗員の心理状態を推定し、推定結果に基づいて表示中の画像の更新の要否を判定する機能を有し、表示更新要の場合には、表示中の画像を他の画像に変更する「表示切替制御(表示切替処理)」、又は、表示中の画像の他に、他の画像を追加する「表示追加制御(表示追加処理)」を実行することができる。
【0084】
図4の例では、
図4の左上側に示されるように、虚像表示面PSに表示されている右折を促す「矢印の画像V1」を含む第1のナビゲーション画像を、「道路俯瞰図の画像V2」を含む第2のナビゲーション画像に切り替える「表示切替制御(表示切替処理)」が実施される。
【0085】
この「表示切替制御」等は、HUD制御部163が、HUD装置の表示部150に対して表示制御を実施することで実現される。HUD制御部163は、表示更新部164と、イベント管理部166と、道路状況判定部167と、を有する。なお、「表示切替制御」及び「表示追加制御」の具体例については後述する(
図5~
図8参照)。
【0086】
図4において、制御部140は、HUD制御部163と、乗員の表情に関係する情報を取得する表情検出部171と、乗員の体動を検出する体動検出部180と、乗員の状態(HUD装置等による表示を見た乗員の心理的な状態を含む)を判定(推定)する乗員の状態判定部190と、運行状況検出部201と、情報取得部203と、を有する。
【0087】
表情検出部171は、情報解析部172と、目情報検出部177と、を有する。情報解析部172は、画像解析部173と、顔判定部174と、顔の動き判定部175と、表情変化判定部176とを有する。表情検出部171の各部は、車内カメラ415(赤外カメラ412、可視光カメラ414を含む)の撮像信号(検出信号)に基づいて、各種の信号処理(パターンマッチングによる情報解析等)を実行することができる。
【0088】
体動検出部180は、モーションキャプチャ部181を有する。モーションキャプチャ部181は、車内センサ413(ここでは、慣性計測装置(IMU)183、静電容量式センサ185、及びミリ波レーダーセンサ187の少なくとも1つを有するものとする)からの検出信号に基づいて、乗員の体動(特に、視線と連動した上半身の動き等)を検出する。
【0089】
目情報検出部177は、目位置検出部178と、視線(目線)の方向を検出する視線検出部179と、を有する。
【0090】
乗員の状態判定部190は、情報取得部191と、情報毎の閾値判定部192と、総合評価値判定部193と、表示更新要否判定部194(乗員の心理状態推定部195を含む)と、を有する。
【0091】
HUD制御部163は、道路情報データベース401(地図データ403を含む)、及び、学習データベース421(過去走行履歴データベース423と、ホームタウン情報425とを含む)を適宜、参照することができる。学習データベースの利用方法については、後述する。
【0092】
また、HUD制御部163は、自車位置検出部405、車外センサ407、車外カメラ409、LiDAR(光検出部及び測距部)411等による検出信号を受信して、その検出信号に基づく運行状況や道路状況に関する判定(各種の判断)を行うことができる。
【0093】
図4の構成によれば、表示制御装置(
図2の符号142)における制御部140が、表示更新要否判定部194を備える。よって、乗員からの要求がなくても、表示中の画像に関する乗員の心理状態を推定して、必要に応じて画像を更新することが可能となる。これによって、乗員の負担が軽減され、また、表示システム(表示装置を含む)の利便性が向上する。また、乗員(運転者)の注意散漫、前方不注意等が抑制され、安全運転を実現する効果も得られる。
【0094】
また、表示更新処理によって、「表示中の画像」を「他の画像」に変更する場合、あるいは、「表示中の画像」に「他の画像」を追加する場合において、「表示中の画像」は、例えば車両を案内する第1のナビゲーション画像であり、「他の画像」は、例えば、車両の周辺の道路を、上空の所定の視点から見た俯瞰図により表した俯瞰画像としての第2のナビゲーション画像であってもよい。
【0095】
なお、「俯瞰図(俯瞰画像、俯瞰画像等)」については広義に解釈するものとし、「地図情報、地理的情報」と表現することも可能である。また、俯瞰図は、車両の周囲の、広がりのある範囲における地理的な情報を提示するものであり、これに類する表示は、広義の俯瞰図に含まれるものとして扱うことができる。また、例えば、テキストによる説明の表示、あるいは音声によって、車両の周囲の地理的情報を案内する場合において、その説明は、俯瞰図と等価なものとして取り扱うことも可能である。
【0096】
図4の左上側に示したように、本実施形態では、表示中の画像の更新に際し、例えば矢印の案内画像V1(第1のナビゲーション画像)を、俯瞰画像V2(第2のナビゲーション画像)に切り替えたり、あるいは、矢印V1の案内画像は残しつつ、俯瞰画像V2を追加したりすることができる。
【0097】
ここで、俯瞰画像は、不慣れな道路を走行している乗員に、道路分布、道路環境、道路事情等の広範囲にわたる情報を提供でき、乗員の不安感を軽減するのに役立つ。
【0098】
例えば、道路俯瞰図において、適宜、矢印等を用いて走行ルートを明示することで、乗員は走行ルートを容易に把握でき、乗員は安心感を得られると共に、乗員の認知負荷(周囲の道路環境等を認識しようとする場合の負担)が軽減される。
【0099】
また、表示更新前の第1のナビゲーション画像を、局所的に表示される走行方向を示す第1の案内画像と称する場合、表示更新後の第2のナビゲーション画像における俯瞰画像は、第1の案内画像よりも広域にわたって表示され、かつ道路に沿って延在するように表示される走行ルート案内画像としての第2の案内画像を含むことができる。
【0100】
言い換えれば、表示更新前の画像は、局所的な表示(例えば、右折や左折を指示する短い矢印の表示)であり、これに対して、表示更新後の画像は、より広い範囲にわたる俯瞰画像(周辺の地理や地図情報を提供するもの)であり、提示される情報量が格段に増加している。この情報量の増加によって、乗員(運転者等)の不安感が払拭され得る。
【0101】
また、好ましい一例としては、俯瞰画像を表示する際に、例えば、現在の車両位置から進路変更後の位置までを連続的に示す帯状の表示が示し、この帯状の表示に、適宜、着色を施したり、進行方向を示す矢印を付加したりするのがよい(
図5~
図8参照)。このような案内表示を、俯瞰画像上で目視することで、乗員は、走行ルートを容易に、かつ的確に把握することが可能となる。
【0102】
また、画像を表示する表示部としては、画像を被投影部材に投影する投影型の表示装置としての第1の表示部(HUD装置)を採用することができる。乗員は、視線をほとんど動かすことなく画像を視認でき、目を動かすことによる疲労が軽減されるという利点が得られる。
【0103】
なお、HUD装置には、光学系を有さず、表示器の画像を直接的にウインドシールド等の被投影部材に投影するタイプの直接投影型のもの(これをウインドシールドディスプレイ(WSD)と称する場合がある)も含まれる。
【0104】
このように、表示更新が実施された場合において、更新後の画像を投影型の表示装置に表示すれば、乗員は、視線移動が少ない状態で更新後の画像を視認できるため、乗員の認知負荷を軽減することができる。
【0105】
また、投影型の表示装置と表示器装置とを併用する場合は、更新後の画像を何れに表示してもよい。表示器装置(例えばCID等)を活用すれば、例えば、比較的大型の俯瞰地図の画像も表示可能であり、乗員は少しの視線移動で画像を目視できる。また、複数の種類の画像の表示も可能であるという利点もある。
【0106】
また、
図4の制御部140に含まれる表示更新要否判定部194は、可視光を用いた可視カメラによる前記乗員の撮像信号、赤外光を用いた赤外カメラによる前記乗員の撮像信号、ミリ波レーダーセンサによる前記乗員を対象とする検出信号、静電容量式センサによる前記乗員の体圧分布の検出信号、乗員の並進運動及び回転運動の少なくとも一方を検出する慣性計測装置(IMU)の検出信号、の少なくとも1つに基づく判定によって、乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じていると判定され、かつ、その乗員の身体の変動と、現在表示されている画像に相関性が有ると推定される場合に、表示更新要と判定してもよい。
【0107】
言い換えれば、表示更新の要否を決めるに際して、2種類の判定(下記の第1、第2の判定)を実施し、各判定において肯定的結果が得られた場合に、表示更新要と判定することができる。
【0108】
この判定処理は、乗員の状態判定部190に含まれる、情報取得部191、情報毎の閾値判定部192、総合評価値判定部193、乗員の心理状態推定部195等の働きによって実現することができる。
【0109】
各種のセンサやカメラの信号に基づいた乗員の身体の変動(動き)に関して、偶発的な変動の程度を超える変動が生じているか否かの判定(第1の判定)を実施することで、偶発的な身体の動きが、表示更新の要否判定に影響を与えることを排除できる。
【0110】
また、その変動が、表示中の画像と相関性があるか否かの判定(第2の判定)を実施することで、現在表示中の画像とは無関係な変動が、表示更新の要否判定に影響を与えることを排除できる。
【0111】
例えば、左折を促す矢印の画像が表示されているとき、乗員(運転者等)が、矢印が指す方向の実景を頻繁に見たり、上半身を左側に回転させるような姿勢をとりつつ、前のめりになって矢印が示す方向の実景を見たり、あるいは、顔の表情が変化して不安が見て取れる場合等には、乗員自らが、顔や身体を動かし、目を凝らすなどして、より多くの情報を取得しようと努力していると推定でき、相関性があると判定できる。
【0112】
これらの判定によって、乗員の、表示中の画像に関する心理状態(例えば情報が不足して不安を抱いている心理状態)を、所望レベルの信頼性をもって推定することが可能である。
【0113】
また、乗員の顔を含む身体に、偶発的な変動の程度を超える変動が生じているか否かは、乗員の、視線移動の頻度、視線移動の大きさ、表情の変動、顔を振る大きさ、顔を振る頻度、上半身の並進運動、上半身の回転運動、重心の偏り、姿勢の変動、のうちの、異なる事象についての少なくとも2つの総合的評価に基づいて判定されてもよい。
【0114】
乗員の身体の変動(動き)に関する判定の対象となる事象としては、例えば、乗員の視線移動(第1の事象)、表情の変動(第2の事象)、顔を振る動き(第3の事象)、上半身の動き(並進や回転:第4の事象)、重心の偏り(重心の移動:第5の事象)、姿勢の変動(第6の事象)を挙げることができる。
【0115】
例えば、各事象について、その事象の程度(例えば、顔を振る動きに関しては、その振りの大きさの程度等)を予め設定されている閾値で判定し、事象毎(情報毎)に、例えば複数段階(例えば5段階)の評価の評価値を算出する。この処理は、情報毎の閾値判定部192が実施する。例えば、評価値として「1」~「5」を用意しておき、動きの大きさが大きいほど、あるいは、動きの頻度が多いほど、「5」に近い評価値を付与し、動きの大きさが小さいほど、あるいは、動きの頻度が小さいほど、「1」に近い評価値を付与する。
【0116】
そして、総合評価値判定部193が、異なる事象(例えば、顔を振る動きと、上半身の動き)の各々についての評価値を例えば加算する。「異なる事象」とするのは、同種の事象についての検出信号のみでは、乗員の上半身の動き等を総合的に勘案するのが難しいからである。異なる2以上の事象についての評価値を総合的に勘案することで、乗員の上半身の総合的な動きを精度よく評価することができる。
【0117】
例えば、総合評価値判定部193は、種類が異なる事象についての、少なくとも2つの評価値を加算して総合評価値を算出する。例えば、視線移動の評価値が「3」、顔を振る動きの評価値が「3」、上半身の動きの評価値が「4」である場合、総合評価値は、「10(=3+3+4)」となる。
【0118】
その総合評価値の数値(上記の例では「10」)が、総合評価用の閾値(ここでは、「7」とする)を超えている場合には、乗員の顔を含む身体(好ましくは「局所的ではなく全体的な身体」)に、偶発的な変動の程度を超える変動が生じていると判定し得る。上記の例では、総合評価値は「10(>7)」であるため、偶発的な変動の程度を超える変動が生じていると判定し得る。但し、上記の処理は一例であり、この例に限定されるものではない。例えば、各事象の重要度に応じて、評価値に重み付けを施す等の処理を実施してもよい。
【0119】
このように、異なる種類の、複数の事象についての評価を統合して総合的に評価するため、誤判定を抑制できる。
【0120】
また、俯瞰画像(俯瞰図)を含む第2のナビゲーション用画像は、地図データと、車両と路側機との路車間通信によって前記路側機から得られる俯瞰画像データと、に基づいて作成されてもよい。路車間通信により得られる俯瞰画像データを利用することで、俯瞰画像を効率的に作成することができる。
【0121】
また、制御部140に含まれるHUD制御部163におけるイベント管理部166は、表示切替制御、又は、表示追加制御が実行されると、これに合わせて運転イベントの一区間を設定し、運転イベントの一区間が終了すると、表示切替制御、又は、表示追加制御を中止し、元の画像の表示に復帰させてもよい。
【0122】
言い換えれば、運転場面の変化等によって表示切替や表示の追加が不要となった場合には、元の表示(元の表示コンテンツ)に戻す。不要となった表示を残していると、乗員が違和感を覚える原因となるため、運転イベントの一区間が終了すると、表示を元に戻すこととしたものである。
【0123】
また、制御部140に含まれるHUD制御部163における道路状況判定部167は、運転イベントの一区間を適宜、設定し、また、その区間の終了を適宜、判定する。例えば、「運転イベントの一区間」とは、例えば、交差点の右折を開始してから、交差点を曲がり切り、自車両が直進に転じるまでの区間である。道路状況判定部167は、自車両が直進に転じる地点に達したときに、右折という運転イベントの一区間が終了したと判定することができる。
【0124】
また、制御部140に含まれるHUD制御部163の表示更新部164は、運転イベントの一区間が終了する前に、乗員から、元の画像への復帰要求があった場合は、元の画像の表示に復帰させてもよい。この場合、乗員(運転者等)の意思によって、元の表示に復帰させることができ、乗員の使い勝手が向上する。
【0125】
本発明に係る制御部と、この制御部によって表示が制御される、少なくとも1つの表示部を有する表示システム(車載表示システム)は、乗員の状態(心理状態を含む)を察知して表示画像を適切に更新するという新しい機能を有する。これによって、乗員の負担を軽減でき、また、表示システム(表示装置)の利便性が向上する。
【0126】
次に、
図5を参照する。
図5は、表示更新処理における、表示切替制御の一例を示す図である。
【0127】
図5のA-1において、車両1は、直線状の道路6を走行中である。また、車両1の前方に先行車両FC1があり、この先行車両FC1が乗員の前方視界を遮っている。また、HUD装置によって、前方に少し見えている道路R1における左折を促すナビゲーション用の矢印G1が表示されている。
【0128】
図5のA-1のような運転場面では、乗員(ここでは運転者)は、左折を促す矢印の画像G1が表示されていることから、前方にみえている道路R1を左折すればよいのであろう推測はできる。但し、先行車両FC1によって、視界が遮られているため、道路R1の全体を見ることができない。
【0129】
ここで、乗員(運転者)が、現在走行中の道路の分布、道路環境、道路状況等を熟知しているのであれば、上記の運転場面でも、特に問題はないかもしれないが、一方、地理不案内であるときは、乗員(運転者)には、左折位置がはっきりとはわからないことから、不安な心理が生じ得る。
【0130】
このような場合においては、乗員(運転者)は、矢印の画像G1が指す方向の実景(現在走行中の道路と左折路R1との分岐点を基準として左側の実景)を頻繁に見たり、上半身を左側に回転させるような姿勢をとりつつ、前のめりになって矢印が示す方向の実景を見たり、あるいは、顔の表情が変化して不安な表情となる場合が想定され得る。
【0131】
なお、不安な表情や不安な仕草としては、例えば、上瞼を上げる、顎を下げて口を開ける、視線が動かずに固まる、眉毛を上げ、左右の眉毛を中央に寄せる、顔をかしげる、手が曲がった状態が継続する、顔や身体が前方等に傾斜して姿勢が崩れる、唇を固く結ぶ、目を細める、口角が上がる、といった事象を挙げることができる。
【0132】
表示システムは、上述の第1、第2の判定を実施し、上記のような乗員の変化(乗員に関する各種の事象の変化)を読み取り、表示更新要否判定部194(具体的には、乗員の心理状態推定部195)は、例えば、「乗員自らが、顔や身体を動かし、目を凝らすなどして、より多くの情報を取得しようと努力している状態(言い換えれば、情報不足によって不安が表面化している状態)である」と推定する。
【0133】
そして、表示更新要否判定部194は、表示更新要と判定する。この判定結果は、HUD制御部163に供給される。
【0134】
HUD制御部163における表示更新部164は、例えば
図5のA-2に示されるように、俯瞰画像M1を用いた表示に切り替える。
【0135】
図5のA-2では、俯瞰画像によって、周辺の道路の分布状況がわかり易く示されており、これによって、乗員(運転者)が不慣れな道路を走行中であっても、不安感が軽減される。
【0136】
なお、表示更新要否の判定に際しては、上記のとおり、乗員が、道路分布等をよく知っているか否かも考慮するのが好ましい。先に、
図4に示したとおり、HUD制御部163の表示更新部164は、学習データベース421内の過去走行履歴データベース423や、乗員が予め登録しているホームタウン情報(具体的には、乗員が道路状況等をよく知っている地域として予め登録している、町や村などの地域名の情報等)を、適宜、参照することができる。
【0137】
これにより、表示更新部164は、現在走行中の道路が、乗員(運転者)が慣れている道路なのか、地理不案内の道路なのかを知ることができる。一例としては、地理不案内の道路であるときのみ、上記の乗員の心理状態の推定結果を利用して、表示更新の要否を判定するようにしてもよい。これによって、表示更新部164の表示更新処理における負担を軽減することができる。
【0138】
また、
図5のA-2の俯瞰画像においては、道路に沿って延在するように表示される走行ルート案内画像、具体的には、現在の車両位置から進路変更後の位置までを連続的に示す帯状の表示U1が示されている。この帯状の表示U1は、見易いように着色されており、かつ、進路を示す矢印U2が付与されている。
【0139】
図5のA-1における矢印の図形G1は、短い矢印の表示であり、局所的な(ワンポイント的な)表示でもある。また、左折路R1から、かなり離れて表示されている。
【0140】
これに対して、
図5のA-2における俯瞰画像M1は、矢印の図形G1よりも、広域にわたって表示され、かつ道路に沿って延在するように表示される走行ルートの案内画像である。この案内画像は、上述のとおり、現在の車両位置から進路変更後の位置までを連続的に示す帯状の表示であり、見易いように着色されており、また、進路を示す矢印U2も付加されており、この点でも、進路を理解し易い表示となっている。言い換えれば、乗員が、その案内画像を、俯瞰画像上で目視することで、乗員は、走行ルートを容易に、かつ的確に把握することが可能となり、これによって不安感が払拭され得る。
【0141】
次に、
図6を参照する。
図6は、表示更新処理における、表示切替制御の他の例を示す図である。
【0142】
図6のA-1において、車両1は、先に示した
図5のA-1と同じ道路6を走行しており、また、
図5のA-1と同様の矢印の案内画像G1が表示されている。但し、
図6のA-1では、先行車両は存在しない。
【0143】
一方、
図6のA-1では、左折路R1に関して、分岐路R2、R3が存在し、単に、矢印の図形G1による案内だけでは、正確な進路がわかりにくい状況である。
【0144】
そこで、表示更新部164は、
図5で説明したのと同様に、乗員の、現在表示中の画像に関する感情を推定する。この結果、例えば、情報が不足して不安になっている、と推定される場合には、表示の切り替えが実施される。
図6のA-2では、矢印の画像G1が、俯瞰画像M2に切り替えられる。
【0145】
俯瞰画像M2において、着色された帯状の案内画像U1が、進行方向を示す矢印U2と共に示されている。乗員は、この案内画像U1を見ることで、左折路R1を左折した後、直進すればよい、ということを容易に、直感的に知ることができる。よって、上記の不安感は払拭される。
【0146】
このようにして、乗員は、表示システムに対して、追加情報がほしい旨の新たな要求をしなくても、表示が自動的に切り替えられる。言い換えれば、乗員は、情報量が豊富な俯瞰画像等を目視することで、必要な情報を容易に得ることができる。よって、乗員の認知負担が軽減され、また、表示システムの利便性が向上する。
【0147】
また、俯瞰図等は、車々間通信によって路側機から得ることができる場合が多い。本発明の好ましい一例によれば、路側機側から得られる俯瞰画像等を、多様な運転場面で活用できるようになる。言い換えれば、車々間通信を種々の運転場面で利用できるようになり、車々間通信の利用価値が向上する。
【0148】
次に、
図7を参照する。
図7は、表示更新処理における、表示追加制御の一例を示す図である。
【0149】
図7のA-1における運転場面は、先に示した
図5のA-1と同じである。但し、
図7のA-2では、左折を案内する矢印の画像G1は消えずに残されており、ダッシュボード41に設けられている表示器108(表示パネル:例えば、中央情報ディスプレイ(CID)等)に、俯瞰画像M3(内容自体は
図5のA-2に示されるものと同じである)が表示されている。
【0150】
言い換えれば、
図7のA-2では、矢印の画像G1の表示は維持されると共に、俯瞰画像M3が追加されている。
図7のA-2の状態では、乗員(運転者等)は、矢印の画像G1、及び俯瞰画像M3の双方を見ることができる。よって、乗員は、左折位置、ならびに、左折後の進路についての情報等を容易に取得できる。
【0151】
次に、
図8を参照する。
図8は、表示更新処理における、表示追加制御の他の例を示す図である。
【0152】
図8のA-1における運転場面は、先に示した
図7のA-1と同じである。但し、
図8のA-2では、左折を案内する矢印の画像G1は、ダッシュボード41に設けられている表示器108(表示パネル:例えば、中央情報ディスプレイ(CID)等)に設けられている。
【0153】
一方、俯瞰画像M3(内容自体は
図7のA-2に示されるものと同じである)は、HUD装置による虚像として表示されている。
【0154】
言い換えれば、
図8のA-2では、矢印の画像G1と俯瞰画像M3の各位置が、
図7のA-2とは逆である。
図8のA-2の例では、矢印の画像G1を見ていた乗員は、視線をほとんど動かすことなく、俯瞰画像M3を目視することができ、認知負担が軽減される。
【0155】
次に、
図9を参照する。
図9は、表示制御の手順例を示すフローチャートである。
【0156】
ステップS1では、運転環境等に応じた案内画像を生成する。ステップS2では、案内画像を表示する。
【0157】
ステップS3では、乗員の表情情報や体動情報等が取得される。ステップS4では、乗員の心理状態(好ましくは、表示中の画像に関する心理状態)が推定される。
【0158】
ステップS5では、現在の表示では不十分か否かが判定される。言い換えれば、表示更新の要否が判定される。
【0159】
ステップS6では、路車間通信等により取得したデータに基づいて、俯瞰画像(俯瞰画像、地図画像)が作成される。
【0160】
ステップS7では、表示更新処理が実施される。例えば、現在の表示画像から俯瞰画像等への切り替え、又は、現在の表示画像に俯瞰画像等を追加する処理が実施される。
【0161】
ステップS8では、ステップS7の表示更新に同期して、運転イベント区間の管理処理が実施される。
【0162】
ステップS9では、乗員から、表示を元に戻すような要求(表示切替要求)があるか否かが判定される。ステップS9でYのときは、ステップS11に移行する。
【0163】
ステップS9でNのときは、ステップS10にて、運転イベント区間が終了したか否かが判定される。ステップS10にてNのときは、ステップS9に戻り、Yのときは、ステップS11に移行する。
【0164】
ステップS11では、元の表示に復帰させる表示処理が実施される。
【0165】
このような表示制御方法によれば、乗員の負担が軽減され、また、表示システム(表示装置を含む)の利便性が向上する。また、乗員(運転者)の注意散漫、前方不注意等が抑制され、安全運転を実現する効果も得られる。
【0166】
以上説明したように、本発明によれば、乗員の状態(心理状態を含む)を察知して表示画像を適切に更新することで、乗員の負担を軽減できる表示制御装置、表示システム(表示装置を含む)、及び表示制御方法を提供することができる。
【0167】
従来の表示システムでは、案内画像が指し示す範囲が狭く、広く周囲の状況を知りたいという乗員の心理に沿った情報の提示ができない場合があった。
【0168】
特に、案内画像に対応する実景の全体が視認できない状況(例えば
図5の運転状況)の場合や、車両が地理不案内の道を走行しており、乗員が道路分布等を十分に把握できていない場合(
図6の場合等)においては、局所的な案内画像の表示だけでは、情報提供が不十分となりがちである。
【0169】
この結果、乗員は、実景との調和性が不足した画像に違和感を覚えることがあり、また、案内画像の本来の空間認識性が低下する場合もある。言い換えれば、周囲の情報を迅速に把握して的確な車両運行を確保したい乗員(視認者、観察者)は、追加の情報を得るための要求を表示システムに発出する必要があり、乗員の負担が増えるといった課題があった。
【0170】
本発明によれば、新たな要求を発出しなくても、表示更新処理が実施されて、必要な情報を提示可能な俯瞰画像等が自動的に表示されるため、上記の課題は解消され、乗員の負担(認知負担)が軽減され得る。
【0171】
また、表示システムの利便性の向上も実現される。また、路車間通信により得られる俯瞰図等のデータを、種々の運転場面で利用できるようになり、路車間通信の活用が促進され得る。
【0172】
本明細書において、車両という用語は、広義に、乗り物としても解釈し得るものである。また、ナビゲーションに関する用語(例えば標識等)についても、例えば、車両の運行に役立つ広義のナビゲーション情報という観点等も考慮し、広義に解釈するものとする。また、HUD装置や表示器装置(及び広義の表示装置)には、シミュレータ(例えば、航空機のシミュレータ、ゲーム装置としてのシミュレータ等)として使用されるものも含まれるものとする。
【0173】
また、上述の実施例では、投影型の表示装置として、主としてHUD装置を例に説明したが、これに限定されず、例えば、車内プロジェクタ等も使用可能である。
【0174】
また、表示器装置としては、車両の中央部に設けられる中央情報ディスプレイ(CID)の他、例えば、乗員(視認者)の正面に位置する計器クラスタディスプレイ(ICD)等を使用することもできる。言い換えれば、表示器装置の名称に拘泥することなく、実質的にCIDやICDと同様の機能を有するディスプレイは、すべて本発明において使用可能である。
【0175】
また、「乗員」は広く解釈するのが好ましい。例えば、「乗員」には、手動運転時にステアリングホイールを操作している運転者、あるいは、助手席にて走行ルートの案内の役割を果たしている乗員、又は、自動運転時において、車両が正確に運行されているかを監視している乗員等が含まれ得る。
【0176】
本発明は、上述の例示的な実施形態に限定されず、また、当業者は、上述の例示的な実施形態を特許請求の範囲に含まれる範囲まで、容易に変更することができるであろう。
【符号の説明】
【0177】
1・・・車両(自車両)、2・・・被投影部材(ウインドシールド等)、4・・・ステアリングホイール、5・・・筐体、6・・・道路、7・・・光源部、9・・・凹面鏡(曲面鏡)、30・・・I/Oインタフェース、41・・・ダッシュボード、45・・・座席、51、52・・・第1、第2の体圧分布センサシート、100・・・表示システム(車載表示システム)、102・・・HUD装置、103・・・表示器装置、107・・・表示器制御部、108・・・表示器(表示パネル、CID等)、140・・・制御部、142・・・表示制御装置(プロセッサ)、150・・・HUD装置の表示部、163・・・HUD制御部、164・・・表示更新部、166・・・イベント管理部、167・・・道路状況判定部、171・・・表情検出部、172・・・情報解析部、173・・・画像解析部、174・・・顔判定部、175・・・顔の動き判定部、176・・・表情変化判定部、177・・・目情報検出部、178・・・目位置検出部、179・・・視線検出部(視線方向検出部)、180・・・体動検出部、181・・・モーションキャプチャ部、183・・・慣性計測装置(IMU)、185・・・静電容量式センサ、187・・・ミリ波レーダーセンサ、190・・・乗員の状態判定部、191・・・情報取得部、192・・・情報毎の閾値判定部、193・・・総合評価値判定部、194・・・表示更新要否判定部、195・・・乗員の心理状態推定部、201・・・運行状況検出部、203・・・情報取得部、210・・・画像処理部、401・・・道路情報データベース、403・・・地図データ、405・・・自車位置検出部、407・・・車外センサ、409・・・車外カメラ、411・・・LiDAR(光検出部及び測距部)、412・・・赤外カメラ、413・・・車内センサ、414・・・可視光カメラ、415・・・車内カメラ、417・・・各種の車内装置、419・・・車両ECU(中央制御ユニット)、420・・・車外通信接続機器、421・・・学習データベース、423・・・過去走行履歴データ、425・・・ホームタウン情報、522・・・表示更新モジュール、524・・・情報解析モジュール、526・・・乗員の心理状態推定モジュール、SE1~SE4・・・静電容量式センサユニット。