(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024000632
(43)【公開日】2024-01-09
(54)【発明の名称】表示制御装置、表示システム、及び表示制御方法
(51)【国際特許分類】
G01C 21/36 20060101AFI20231226BHJP
B60K 35/23 20240101ALI20231226BHJP
B60K 35/00 20240101ALI20231226BHJP
G06F 3/16 20060101ALI20231226BHJP
G06F 3/01 20060101ALI20231226BHJP
【FI】
G01C21/36
B60K35/00 A
B60K35/00 Z
G06F3/16 650
G06F3/16 630
G06F3/16 620
G06F3/01 510
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022099426
(22)【出願日】2022-06-21
(71)【出願人】
【識別番号】000231512
【氏名又は名称】日本精機株式会社
(74)【代理人】
【識別番号】100067356
【弁理士】
【氏名又は名称】下田 容一郎
(74)【代理人】
【識別番号】100160004
【弁理士】
【氏名又は名称】下田 憲雅
(74)【代理人】
【識別番号】100120558
【弁理士】
【氏名又は名称】住吉 勝彦
(74)【代理人】
【識別番号】100148909
【弁理士】
【氏名又は名称】瀧澤 匡則
(74)【代理人】
【識別番号】100192533
【弁理士】
【氏名又は名称】奈良 如紘
(72)【発明者】
【氏名】菊地 裕太
(72)【発明者】
【氏名】新保 貴也
【テーマコード(参考)】
2F129
3D344
5E555
【Fターム(参考)】
2F129AA03
2F129HH12
2F129HH14
3D344AA19
3D344AB01
3D344AC25
3D344AD01
3D344AD13
5E555AA46
5E555BA23
5E555BB23
5E555BC01
5E555CB64
5E555CB65
5E555DA04
5E555DA09
5E555DA23
5E555DB53
5E555DD08
5E555FA00
(57)【要約】
【課題】 運転者又は乗員が音声による要求又は指示を発することで、必要な情報を、適切な表示部に表示される画像によって得ることが可能な、表示制御装置、表示システム、及び表示制御方法を提供することである。
【解決手段】 表示制御装置102は、第1、第2の各表示部125、122の少なくとも一方に、応答結果の画像を表示する場合の画像表示を制御する制御部を有し、第1の表示部は、正面を向いている運転者から見て、表示画像を見る場合の目線を外す程度が第2の表示部よりも小さく、かつ第2の表示部は、乗員も表示画像を目視できる位置にあり、制御部は、要求又は指示の主体が、運転者であるか、乗員であるか、及び、応答結果の画像が、車両の運転操作に関連する情報を含むか否か、に応じて、応答結果の画像を表示する表示部を切り替え、また、画像に代えて音声で報知するかを切り替える。
【選択図】
図3
【特許請求の範囲】
【請求項1】
車両の運転者又は乗員の発話による要求又は指示に応答して、前記車両に搭載される第1の表示部、及び第2の表示部の少なくとも一方に、応答結果の画像を表示する場合の画像表示を制御する制御部を有し、
前記第1の表示部は、運転席に着座して正面を向いている前記運転者が、表示画像を見る場合の目線を外す程度が、前記第2の表示部よりも小さく、
かつ、前記第2の表示部は、前記乗員も表示画像を目視できる位置にあり、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者であるか、前記乗員であるか、
及び、
前記応答結果の画像が、前記車両の運転操作に関連する情報を含むか否か、
に応じて、前記応答結果の画像を、
前記第1の表示部に表示するか、前記第2の表示部に表示するか、前記第1、第2の表示部に表示するか、又は、前記第1、第2の表示部の何れにも表示せず、音声で報知するか、を切り替える、
表示制御装置。
【請求項2】
前記第1の表示部は、前記車両のウインドシールド、又は前記ウインドシールドの少なくとも一部を覆うように設けられるスクリーンに、画像の表示光を投影する投影方式の表示装置であり、
前記第2の表示部は、表示画面に画像を表示する表示器装置である、
請求項1に記載の表示制御装置。
【請求項3】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含むときは、
前記応答結果の画像を、前記第1の表示部に表示させる、又は、前記第1の表示部のみならず、前記第2の表示部にも表示させる、
請求項1に記載の表示制御装置。
【請求項4】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含まないときは、
前記応答結果の画像を、前記第2の表示部に表示させる、又は、前記第1、第2の表示部の何れにも表示させず、その代わりに音声出力部を制御して音声で報知させる、
請求項1に記載の表示制御装置。
【請求項5】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記運転者が、前記要求又は指示の際に、応答結果の画像を表示する表示部を指示した場合、又は、音声による報知を指示した場合は、その指示に従った応答結果の提示を実行する、
請求項1に記載の表示制御装置。
【請求項6】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含むときは、
前記応答結果の画像を、前記第1の表示部に表示させる、又は、前記第1の表示部のみならず、前記第2の表示部にも表示させる、
請求項1に記載の表示制御装置。
【請求項7】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含まないときは、
前記応答結果の画像を、前記第2の表示部に表示させる、又は、前記第1、第2の表示部の何れにも表示させず、その代わりに音声出力部を制御して音声で報知させる、
請求項1に記載の表示制御装置。
【請求項8】
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記乗員が、前記要求又は指示の際に、応答結果の画像を表示する表示部を指示した場合、又は、音声による報知を指示した場合は、その指示に従った応答結果の提示を実行する、
請求項1に記載の表示制御装置。
【請求項9】
前記制御部は、
前記車両の走行環境、前記車両の運転状態、及び、前記運転者の状態の少なくとも1つに基づいて、前記第1の表示部における前記応答結果の画像の表示の適否を判定し、不適切と判定された場合には、前記第1の表示部における表示を不可とする、
請求項1に記載の表示制御装置。
【請求項10】
前記応答結果の画像が前記第2の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、さらなる要求又は指示があった場合において、
前記制御部は、
前記さらなる要求又は指示の主体が、前記運転者である場合には、
前記さらなる要求又は指示に対する応答結果の画像を、前記第1、第2の各表示部に表示させ、
前記さらなる要求又は指示の主体が、前記乗員である場合には、
前記さらなる要求又は指示に対する応答結果の画像を、前記第2の表示部に表示させる、請求項1に記載の表示制御装置。
【請求項11】
前記応答結果の画像が前記第2の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、第1のさらなる要求又は指示があった場合において、
前記制御部は、
前記第1のさらなる要求又は指示の主体が、前記運転者である場合には、
前記第1のさらなる要求又は指示に対する応答結果の画像を、前記第1、第2の各表示部に表示させ、
前記第1のさらなる要求又は指示の主体が、前記乗員である場合には、
前記第1のさらなる要求又は指示に対する応答結果の画像を、前記第2の表示部に表示させると共に、
前記応答結果の画像が前記第1の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、第2のさらなる要求又は指示があった場合において、
前記制御部は、
前記第2のさらなる要求又は指示の主体が、前記運転者である場合には、
前記第2のさらなる要求又は指示に対する応答結果の画像を、前記第1の表示部に表示させ、
前記第2のさらなる要求又は指示の主体が、前記乗員である場合には、
前記第2のさらなる要求又は指示に対する応答結果の画像を、前記第1、及び第2の各表示部に表示させる、
請求項1に記載の表示制御装置。
【請求項12】
前記制御部は、
前記第1、第2の各表示部に前記応答結果の画像を表示させる場合に、
前記第1の表示部には、前記応答結果の画像として、提示する情報量が少ない第1の提示画像を表示させ、前記第2の表示部には、前記応答結果の画像として、前記第1の提示画像よりも提示する情報量が多い第2の提示画像を表示させる、
又は、
前記第1の表示部に表示される画像の誘目性が、前記第2の表示部に表示される画像の誘目性よりも低くなるように制御する、
請求項1に記載の表示制御装置。
【請求項13】
車両に搭載される第1、第2の表示部と、
前記車両に搭載される、音声出力部と、
請求項1乃至12の何れか1項に記載の制御部と、
を有する、
表示システム。
【請求項14】
車両の運転者又は乗員の発話による要求又は指示に応答して、前記車両に搭載される第1の表示部、及び第2の表示部の少なくとも一方に、応答結果の画像を表示する場合の画像表示を制御する表示制御方法であって、
前記第1の表示部は、運転席に着座して正面を向いている前記運転者が、表示画像を見る場合の目線を外す程度が、前記第2の表示部よりも小さく、かつ、前記第2の表示部は、前記乗員も表示画像を目視できる位置にある場合に、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者であるか、前記乗員であるかを判定する主体判定ステップと、
前記応答結果の画像が、前記車両の運転操作に関連する情報を含むか否かを判定する内容判定ステップと、
前記主体判定ステップの判定結果、及び前記内容判定ステップの判定結果に応じて、前記応答結果の画像を、前記第1の表示部に表示するか、前記第2の表示部に表示するか、前記第1、第2の表示部に表示するか、又は、前記第1、第2の表示部の何れにも表示せず、音声で報知するか、を切り替える情報提示切り替えステップと、
を含む、表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば自動車等の車両に搭載される表示制御装置、表示システム、及び表示制御方法等に関する。
【背景技術】
【0002】
特許文献1には、ユーザから発話された音声を認識し、その音声による指示に応じて空調装置や音響装置等を作動させる車両用の音声認識システムが示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-39260号公報(
図1等)
【発明の概要】
【発明が解決しようとする課題】
【0004】
音声認識機能を有する運転支援システムは、音声による機器の操作だけでなく、必要な情報の提示にも利用可能である。
【0005】
例えば、運転者又は乗員が発話よって要求又は指示を発出し、音声認識機能を有する運転支援システムが、その要求や指示に応答して応答結果を出力し、その応答結果を表示部に表示させる、という利用形態が想定され得る。
【0006】
車両には複数の表示部、例えば、ヘッドアップディスプレイ(HUD)装置やセンターインフォメーションディスプレイ(CID)等が搭載されている。よって、応答結果を示す画像は、適切な位置の表示部に表示される必要がある。
【0007】
不適切な位置の表示部に情報が表示されると、運転者や乗員が、表示画像を視認する際に、視線を外す程度が大きくなり、煩わしさが生じる場合がある。
【0008】
また、手動運転の場合、運転者が情報の確認のために視線を大きく外すことがあると、車両運行の安全性が低下する場合がある。
【0009】
また、車両の運行に関係のない情報が、運転者に最も近い表示部に表示されると、そのことが、車両運行の妨げになる場合もあり得る。また、運転者の安心感が阻害され、心理的な負担が増える場合もあり得る。
【0010】
このような課題が、本発明者の検討によって明らかとされた。このような課題については、上記の特許文献1には記載がなく、その対策についても言及されていない。
【0011】
本発明の目的の一つは、運転者又は乗員が音声による要求又は指示を発することで、必要な情報を、適切な表示部に表示される画像によって得ることが可能な、表示制御装置、表示システム、及び表示制御方法を提供することである。
【0012】
本発明の他の目的は、以下に例示する態様及び最良の実施形態、並びに添付の図面を参照することによって、当業者に明らかになるであろう。
【課題を解決するための手段】
【0013】
以下に、本発明の概要を容易に理解するために、本発明に従う態様を例示する。
【0014】
本発明の第1の態様において、表示制御装置は、
車両の運転者又は乗員の発話による要求又は指示に応答して、前記車両に搭載される第1の表示部、及び第2の表示部の少なくとも一方に、応答結果の画像を表示する場合の画像表示を制御する制御部を有し、
前記第1の表示部は、運転席に着座して正面を向いている前記運転者が、表示画像を見る場合の目線を外す程度が、前記第2の表示部よりも小さく、
かつ、前記第2の表示部は、前記乗員も表示画像を目視できる位置にあり、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者であるか、前記乗員であるか、
及び、
前記応答結果の画像が、前記車両の運転操作に関連する情報を含むか否か、
に応じて、前記応答結果の画像を、
前記第1の表示部に表示するか、前記第2の表示部に表示するか、前記第1、第2の表示部に表示するか、又は、前記第1、第2の表示部の何れにも表示せず、音声で報知するか、を切り替える。
【0015】
第1の態様では、第1、第2の表示部が車両に搭載されていることを想定する。第1の表示部は、運転者が画像を見るときに、視線を外す程度が第2の表示部よりも小さく、また、第2の表示部は、例えば車両前列にて運転者の近くに(例えば運転者に隣接して)着座している乗員(運転者以外の者)が目視可能な位置にある。
【0016】
運転者又は乗員の発話による要求又は指示が発出された場合、その応答は、発話者(要求又は指示を発出した運転者又は乗員)に提示するのが原則である。
【0017】
その一方、例えば車両の運転操作に関連しない情報を第1の表示部に表示すると、運転に関係ない情報が運転視界に入って運転操作の妨げになり、運転者の安心感が損なわれる場合もあり得る。
【0018】
そこで、発話者は誰か、及び、応答結果の画像が運転操作に関連する情報を含むか否かという2つの要因に基づいて、画像を表示する表示部を迅速に切り替えることとした。
【0019】
これによって、発話者が、音声によって、必要な情報を迅速に、かつ確実に確認することができ、利便性が向上する。
【0020】
また、応答結果の内容に対応して、適切な位置の表示部に応答結果を示す画像が表示されることから、煩わしさが抑制され、運転の安心感が損なわれることも抑制される。
【0021】
また、応答結果の内容によっては、例えば、発話者が誰かに関わらず、運転者と乗員の双方に、応答結果を受け取る期待感が生じる場合もあるため、このような場合は、第1、第2の表示部の双方に、応答結果を示す画像を表示する。これにより、運転者、乗員の双方が、違和感なく必要な情報を確認可能である。
【0022】
第1の態様に従属する第2の態様では、
前記第1の表示部は、前記車両のウインドシールド、又は前記ウインドシールドの少なくとも一部を覆うように設けられるスクリーンに、画像の表示光を投影する投影方式の表示装置であり、
前記第2の表示部は、表示画面に画像を表示する表示器装置であってもよい。
【0023】
第2の態様では、第1の表示部として、ウインドシールドや、ウインドシールドの一部を覆うようなスクリーンに画像を投影するヘッドアップディスプレイ(HUD)等の投影式の表示装置を用いることができる。これにより、運転者は、運転中に正面を向いたまま、視線を大きく外すことなく、応答結果の画像を視認することができる。
【0024】
一方、第2の表示部としては、表示画面に画像を表示する表示器装置、例えば、ダッシュボードの中央に設けられるセンターインフォメーションディスプレイ(CID)等の表示器装置を用いることができる。
【0025】
例えばCIDは、多様な情報を表示するのに適しており、また、運転者及び乗員の双方が表示画像を視認できるため、応答結果の画像の表示にも適する。
【0026】
表示器装置を活用することで、乗員も、音声によって必要な情報を容易に取得することができるようになり、乗員の利便性も向上する。
【0027】
第1の態様に従属する第3の態様では、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含むときは、
前記応答結果の画像を、前記第1の表示部に表示させる、又は、前記第1の表示部のみならず、前記第2の表示部にも表示させてもよい。
【0028】
第3の態様では、発話者が運転者であり、かつ応答結果の画像が運転操作に関連する情報を含むときは、運転者が迅速に、視線を外さずに情報を取得できるように、第1の表示部に画像を表示する。
【0029】
但し、例えば乗員が運転者のナビゲータとして、車両の運転に間接的に参加している場合もあり得る。このような場合は、運転者が発した運転関連の要求や指示であっても、その応答結果は、乗員も知りたいと思うのが通常である。よって、このような場合には、第2の表示部にも応答結果の画像を表示するのが好ましい。
【0030】
第1の態様に従属する第4の態様において、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含まないときは、
前記応答結果の画像を、前記第2の表示部に表示させる、又は、前記第1、第2の表示部の何れにも表示させず、その代わりに音声出力部を制御して音声で報知させてもよい。
【0031】
第4の態様では、発話者が運転者であり、かつ応答結果の画像が運転操作に関連する情報を含まないときは、応答結果の画像は、第1の表示部には表示せず、第2の表示部に表示する、あるいは、音声にて応答する。
【0032】
これにより、運転に関係ない情報が、車両を運転している運転者の視界に入って、車両の安全運行の妨げになることが抑制される。また、運転者の安心感が損なわれることも抑制される。
【0033】
第1乃至第4の何れか1つの態様に従属する第5の態様において、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者である場合において、
前記運転者が、前記要求又は指示の際に、応答結果の画像を表示する表示部を指示した場合、又は、音声による報知を指示した場合は、その指示に従った応答結果の提示を実行してもよい。
【0034】
第5の態様によれば、運転者自身が応答結果(回答)をどこに表示してほしいかを発話時に指示した場合は、応答結果を示す画像は、その指示に従って表示する。これによって、運転者の想定や希望と異なる場所に応答結果(回答)が表示されることがなく、したがって、運転者の期待が損なわれない。
【0035】
また、運転者が音声による報知を指示した場合は、応答結果は、その指示に従って音声によって出力(提示)される。したがって、運転者の期待が損なわれない。
【0036】
第1の態様に従属する第6の態様において、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含むときは、
前記応答結果の画像を、前記第1の表示部に表示させる、又は、前記第1の表示部のみならず、前記第2の表示部にも表示させてもよい。
【0037】
第6の態様では、発話者が乗員であり、かつ応答結果の画像が運転操作に関連する情報を含む場合における応答結果は、運転中の運転者に提示されることで車両の運行に反映されるため、発話者が乗員であっても、第1の表示部に表示する。これにより、運転者は、CID等を操作してHUD装置による画像表示に切り替えるといった手間を省くことができ、表示された情報を運転操作に迅速に反映させることもできる。
【0038】
但し、例えば乗員が運転者のナビゲータとして、車両の運転に間接的に参加している場合もあり得る。このような場合は、その応答結果は、乗員も知りたいと思うのが通常である。よって、このような場合には、第2の表示部にも応答結果の画像を表示するのが好ましい。
【0039】
第1の態様に従属する第7の態様において、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記応答結果の画像が前記車両の運転操作に関連する情報を含まないときは、
前記応答結果の画像を、前記第2の表示部に表示させる、又は、前記第1、第2の表示部の何れにも表示させず、その代わりに音声出力部を制御して音声で報知させてもよい。
【0040】
第7の態様では、発話者が乗員であり、かつ応答結果の画像が運転操作に関連する情報を含まない場合の応答結果は、運転中の運転者の視界に入らないように第2の表示部に表示するか、音声にて回答する。これにより、運転に関係ない情報が、車両を運転している運転者の視界に入って、車両の安全運行の妨げになることが抑制される。また、運転者の安心感が損なわれることも抑制される。
【0041】
第1の態様に従属する第8の態様において、
前記制御部は、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記乗員である場合において、
前記乗員が、前記要求又は指示の際に、応答結果の画像を表示する表示部を指示した場合、又は、音声による報知を指示した場合は、その指示に従った応答結果の提示を実行してもよい。
【0042】
第8の態様によれば、乗員自身が応答結果(回答)をどこに表示してほしいかを発話時に指示した場合は、応答結果を示す画像は、その指示に従って表示する。これによって、乗員の想定や希望と異なる場所に応答結果(回答)が表示されることがなく、したがって、乗員の期待が損なわれない。
【0043】
第1乃至第8の何れか1つに従属する第9の態様において、
前記制御部は、
前記車両の走行環境、前記車両の運転状態、及び、前記運転者の状態の少なくとも1つに基づいて、前記第1の表示部における前記応答結果の画像の表示の適否を判定し、不適切と判定された場合には、前記第1の表示部における表示を不可としてもよい。
【0044】
第9の態様では、第1の表示部は、応答結果の表示のみならず、車両の運行に関係する種々の情報の表示に利用される点を考慮し、車両の走行環境、運転状態、及び運転者の状態の少なくとも1つに起因して第1の表示部に応答結果を表示することが不適当と判定される場合は、第1の表示部への応答結果の表示を不可とする。
【0045】
例えば、車両が交通量の多い交差点にさしかかっている場合や、急ブレーキや急ハンドルが必要となる緊急事態が生じている場合、あるいは、運転者が長時間の運転で疲労が蓄積している場合等においては、第1の表示部に応答結果の画像を表示することは、運転者に情報の読み取りを強制することにもなりかねず、かえって運転者の負担が増し、安全性の低下等につながる場合も想定され得る。よって、このような場合は、第2の表示部に表示するか、あるいは、音声による回答に切り替える。これにより、運転者は、車両の運転に集中することができる。
【0046】
また、車両の運転モードも、完全自動運転、完全自動運転ではない自動運転、運転支援を受ける手動運転、完全手動運転、というように種々のモードがあるため、各運転モードにおける運転者の負荷、心理的な負担等を考慮する必要がある。例えば、運転者の負担が重い運転モードのときは、第1の表示部における情報の提示は最小限に抑え、第2の表示部を利用し、あるいは、音声による応答を利用するのが好ましい。
【0047】
第1乃至第9の何れか1つの態様に従属する第10の態様において、
前記応答結果の画像が前記第2の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、さらなる要求又は指示があった場合において、
前記制御部は、
前記さらなる要求又は指示の主体が、前記運転者である場合には、
前記さらなる要求又は指示に対する応答結果の画像を、前記第1、第2の各表示部に表示させ、
前記さらなる要求又は指示の主体が、前記乗員である場合には、
前記さらなる要求又は指示に対する応答結果の画像を、前記第2の表示部に表示させてもよい。
【0048】
第10の態様では、第2の表示部のみに応答結果が表示された後、さらに音声による要求又は指示がなされた場合を想定する。この場合には、運転中の運転者の負担にならないように、運転者の意思に反して、応答結果の画像が第1の表示部に表示されることを防止する。
【0049】
言い換えれば、発話が運転者であった場合は、運転者の期待に応えて第1の表示部に応答結果の画像を表示する。
また、今回の発話の元になった画像は第2の表示部に表示されたものであり、乗員も見ている可能性が高いため、乗員も、今回の応答結果についても知りたいと望む場合が多いと考えられる。よって、第2の表示部にも、今回の応答結果の画像を表示する。
【0050】
一方、発話者が乗員であった場合は、今回の応答結果の画像は第1の表示部には表示せず、第2の表示部に表示する。これによって、今回の応答結果の画像が、運転者の意思に反して第1の表示部に表示されることが防止される。
【0051】
第1乃至第9の何れか1つの態様に従属する第11の態様において、
前記応答結果の画像が前記第2の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、第1のさらなる要求又は指示があった場合において、
前記制御部は、
前記第1のさらなる要求又は指示の主体が、前記運転者である場合には、
前記第1のさらなる要求又は指示に対する応答結果の画像を、前記第1、第2の各表示部に表示させ、
前記第1のさらなる要求又は指示の主体が、前記乗員である場合には、
前記第1のさらなる要求又は指示に対する応答結果の画像を、前記第2の表示部に表示させると共に、
前記応答結果の画像が前記第1の表示部のみに表示された後、前記応答結果の画像が提示する情報に関して、音声による、第2のさらなる要求又は指示があった場合において、
前記制御部は、
前記第2のさらなる要求又は指示の主体が、前記運転者である場合には、
前記第2のさらなる要求又は指示に対する応答結果の画像を、前記第1の表示部に表示させ、
前記第2のさらなる要求又は指示の主体が、前記乗員である場合には、
前記第2のさらなる要求又は指示に対する応答結果の画像を、前記第1、及び第2の各表示部に表示させてもよい。
【0052】
第11の態様では、第2の表示部のみに応答結果が表示された後、さらに音声による要求又は指示がなされた場合(この点は、第10の態様と同じである)、及び、第1の表示部のみに応答結果が表示された後、さらに音声による要求又は指示がなされた場合を想定する。
【0053】
前者の場合(第2の表示部に表示された画像について、第1のさらなる要求や指示があった場合)は、先に説明した第10の態様と同様の表示がなされる。
【0054】
後者の場合(第1の表示部に表示された画像について、第2のさらなる要求や指示があった場合)において、発話者が運転者の場合は、今回の応答結果を示す画像を第1の表示部に表示する。運転者は、自身が欲する情報を運転者に近い位置の表示部にて確認できる。また、運転者の情報の取得が容易化され、また、運転者への迅速な情報の提示も可能となる。
【0055】
一方、発話者が乗員であるときは、乗員の近くに位置する第2の表示部に表示し、必要な情報を、乗員に、見易く、かつ迅速に提示する。
【0056】
また、今回の発話の元になった画像は第1の表示部に表示されたものであり、運転者も見ていた画像であるため、運転者も、今回の応答結果についても知りたいと望む場合が多いと考えられる。よって、第1の表示部にも、今回の応答結果の画像を表示する。これにより、運転者の、今回の応答結果を知りたいという期待に応えることができる。
【0057】
第1乃至第11の何れか1つの態様に従属する第12の態様において、
前記制御部は、
前記第1、第2の各表示部に前記応答結果の画像を表示させる場合に、
前記第1の表示部には、前記応答結果の画像として、提示する情報量が少ない第1の提示画像を表示させ、前記第2の表示部には、前記応答結果の画像として、前記第1の提示画像よりも提示する情報量が多い第2の提示画像を表示させる、
又は、
前記第1の表示部に表示される画像の誘目性が、前記第2の表示部に表示される画像の誘目性よりも低くなるように制御してもよい。
【0058】
第12の態様では、応答結果の画像を、第1、第2の表示部の各々に表示する場合において、情報量に差を設けたり、誘目性に差を設けたりする。言い換えれば、第2の表示部により提示される情報量を第1の表示部における情報量よりも増やしたり、あるいは、第2の表示部の画像の誘目性を、第1の表示部の画像の誘目性よりも高くしたりする。
【0059】
第1の表示部(HUD装置等)は、車両の運行に必要な重要な情報の提示に使用されるため、応答結果の画像が表示領域を占有したり、あるいは、運転者の目線を誘目して運転時の注意を逸らしたりすることは避ける必要がある。
【0060】
一方、第2の表示部(CID等)は、情報を統括的に管理するのに適しており、近年は、大型化、高精細化、マルチディスプレイ化等が進展している。これらの点を考慮すると、応答結果の画像の情報量が多い場合、あるいは、応答結果の画像の誘目性が高い場合でも、特に問題はないと考えられる。
【0061】
よって、例えば、第1の表示部にはナビゲーション用の矢印のみを表示し、第2の表示部には、地図を表示して情報量に差を設けたり、第1の表示部の画像については、輝度を低くする、あるいはサイズを縮小する等によって誘目性を低下させて表示したりしてもよい。
【0062】
本発明の第13の態様において、表示システムは、
車両に搭載される第1、第2の表示部と、
前記車両に搭載される、音声出力部と、
第1乃至12の何れか1つの態様の制御部と、
を有する。
【0063】
これにより、運転者又は乗員の発話による要求又は指示に応じて、必要な情報を、画像又は音声で容易に、かつ車両運行の安全性を低下させずに確認できる表示システム、言い換えれば、車載表示システムを実現することができる。
【0064】
本発明の第14の態様において、表示制御方法は、
車両の運転者又は乗員の発話による要求又は指示に応答して、前記車両に搭載される第1の表示部、及び第2の表示部の少なくとも一方に、応答結果の画像を表示する場合の画像表示を制御する表示制御方法であって、
前記第1の表示部は、運転席に着座して正面を向いている前記運転者が、表示画像を見る場合の目線を外す程度が、前記第2の表示部よりも小さく、かつ、前記第2の表示部は、前記乗員も表示画像を目視できる位置にある場合に、
前記応答結果の画像を表示する契機となった前記要求又は指示の主体が、前記運転者であるか、前記乗員であるかを判定する主体判定ステップと、
前記応答結果の画像が、前記車両の運転操作に関連する情報を含むか否かを判定する内容判定ステップと、
前記主体判定ステップの判定結果、及び前記内容判定ステップの判定結果に応じて、前記応答結果の画像を、前記第1の表示部に表示するか、前記第2の表示部に表示するか、前記第1、第2の表示部に表示するか、又は、前記第1、第2の表示部の何れにも表示せず、音声で報知するか、を切り替える情報提示切り替えステップと、
を含む。
【0065】
これにより、運転者又は乗員の発話による要求又は指示に応じて、必要な情報を、画像又は音声で容易に、かつ車両運行の安全性を低下させずに確認できるようになる。
【0066】
当業者は、例示した本発明に従う態様が、本発明の精神を逸脱することなく、さらに変更され得ることを容易に理解できるであろう。
【図面の簡単な説明】
【0067】
【
図1】
図1は、運転支援システム(自動運転システム)、車両用表示システム、及び表示制御装置の構成例を示す図である。
【
図2】
図2は、本発明で利用可能な表示部(表示装置)の一例を示す図である。
【
図3】
図3は、運転者が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
【
図4】
図4は、運転者が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
【
図5】
図5は、運転者が、運転操作に関連しない質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
【
図6】
図6は、乗員が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
【
図7】
図7は、乗員が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
【
図8】
図8は、乗員が、運転操作に関連しない質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
【
図9】
図9は、運転者又は乗員の指示に従って応答結果が提示される場合を示す図である。
【
図10】
図10は、HUD装置(第1の表示部)における表示の可否判定機能を有する制御部の構成例を示す図である。
【
図11】
図11は、HUD装置(第1の表示部)における表示の可否判定の結果、表示不可と判定された場合の、応答結果の画像の表示例を示す図である。
【
図12】
図12は、CID(第2の表示部)に表示された応答結果の画像に関連して、さらに音声による質問(要求又は指示)が発出された場合の、応答結果の画像の表示例を示す図である。
【
図13】
図13は、HUD装置(第1の表示部)に表示された応答結果の画像に関連して、さらに音声による質問(要求又は指示)が発出された場合の、応答結果の画像の表示例を示す図である。
【
図14】
図14は、音声による要求、指示に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
【
図15】
図15は、
図12に対応する、表示済みの情報に関する要求、応答に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
【
図16】
図16は、
図13に対応する、表示済みの情報に関する要求、応答に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0068】
以下に説明する最良の実施形態は、本発明を容易に理解するために用いられている。従って、当業者は、本発明が、以下に説明される実施形態によって不当に限定されないことを留意すべきである。
【0069】
なお、以下の説明では、各種の表示装置の各々を「表示部」と称する場合がある。また、液晶パネルのように、表示画面上に実像を表示できる表示装置を「表示器、あるいは表示器装置」と称する場合がある。
【0070】
また、本発明は、車両の運転モードに関係なく適用可能であるが、以下の説明では、主として手動運転状態の場合について説明する。
【0071】
また、画像(あるいは画像の表示光)をウインドシールド等の被投影部材に投影する投影型の表示装置としては、典型的にはヘッドアップディスプレイ(HUD)装置が知られている。
【0072】
但し、HUD装置は、凹面鏡等の反射光学系を介して画像を投影するが、この反射光学系を除去して、例えば表示画面に表示される画像を、そのまま被投影部材に投影する方式の表示装置もある。本明細書では、これを便宜上、直接投影ディスプレイあるいはWSD(ウインドシールドディスプレイ)と称して、HUD装置とは区別して取り扱う。但し、広義には、このWSDも、HUD装置の一種である。
【0073】
また、投影方式の表示装置(表示部)としては、画像の表示光をステアリングホイール等に投影するプロジェクタも使用可能である。本明細書では、車内に搭載され、室内装飾の他に情報の提示も可能なプロジェクタを「車内プロジェクタ」と称する。
【0074】
図1を参照する。
図1は、運転支援システム(自動運転システムを含む)、車両用表示システム、及び表示制御装置の構成例を示す図である。なお、
図1において、車両の幅方向(運転者から見た左右方向)をX方向とし、車両の高さ方向をY方向とし、運転者から見た前方方向をZ方向とする。
【0075】
運転支援システム(自動運転システムであってもよい)10は、ECU等から各種情報を収集する情報収集部12と、AIモジュール(運転支援制御部)14と、音声認識機能を有する音声認識エンジン(音声認識部)15と、各種データベース16と、無線アンテナANを用いて、車内又は車外のシステム等と無線通信可能な無線通信部18と、を有する。
運転支援システム10は、例えば、無線通信部18とアンテナANを介して、インターネット上のサーバーにアクセスし、例えばウエッブ検索によって、運転者や乗員が発した質問に関係する事項を検索し、検索した事項に基づいて、回答(応答)を作成することができる。
【0076】
表示システム180は、表示制御装置(プロセッサ)102と、画像解析部110と、運転者の情報取得部111と、車内プロジェクタ112と、車両1の乗員(運転者等)を撮像する撮像カメラ114と、ヘッドアップディスプレイ(HUD)装置125、センターインフォメーションディスプレイ(CID)127と、指向性マイク142、144及びスピーカ146を有すると共に、ダッシュボード120に設置されている音声アシスタント140と、を有する。
【0077】
乗員の状態判定部111は、視線位置検出部13と、運転状態監視部17とを有する。
【0078】
HUD装置125は、ウインドシールド2(あるいは、ウインドシールド2を覆うように設けられる透明、あるいは半透明のスクリーン等)に画像を投影することで、前方の、例えば乗員の視点位置から所定距離だけ離れた空間に設定される仮想的な虚像表示面PS1に虚像(画像)を表示することができる。WSDも同様である。
【0079】
HUD装置125は、例えば、第1の表示領域Z1に虚像(画像)V1を表示することができ、また、第2の表示領域Z2に虚像(画像)V2を表示することができる。
【0080】
また、HUD装置125、及びセンターインフォメーションディスプレイ(CID)127、ダッシュボード120に設けられている。以下の説明では、HUD装置125を第1の表示部、CID127を第2の表示部と称する場合がある。
【0081】
また、車内プロジェクタ112は、例えば、ステアリングホイール4に画像R1を投影することで、必要な情報の提示を行うことができる。但し、これは一例であり、車内プロジェクタ112は、ダッシュボード120やウインドシールド2、あるいはウインドシールド2に被せるようにして設けられるスクリーン(不図示)等に画像を投影してもよい。
【0082】
表示制御装置(プロセッサ)102は、各種の表示部の表示態様を制御する制御部113と、音声出力部(音声合成機能を有してもよい)105と、を有する。
【0083】
制御部113は、統括制御部104と、表示器制御部107と、HUD及びWSD制御部108と、車内プロジェクタ制御部109と、を有する。
【0084】
また、統括制御部104は、表示部決定部115を有する。この表示部決定部115は、音声アシスタント140を用いて運転者5、又は乗員(
図3の符号6)が音声によって要求又は指示を発出した場合に、応答結果の画像を、どの表示部に表示するかを決定する機能を有する。
【0085】
また、音声アシスタント140に内蔵されるマイク142、144は指向性を有し、マイク142は、主として乗員(例えば車両の前列に着座している乗員:
図3の符号6)の音声を集音し、マイク144は、主として運転者5の音声を集音する。
【0086】
音声アシスタント140は、音声信号の入力があった場合に、その音声を発した者(発話者)を特定すると共に、その音声信号を、例えばA/D変換してデジタルデータに変換し、音声認識エンジン15に供給する。
【0087】
音声アシスタント140は、例えば、マイク142、又は144を介して信号入力が有った場合、その信号の強度が所定の閾値以上ならば、ノイズではなく音声信号であるとみなし、その音声信号をデジタル信号に変換する。
【0088】
なお、音声アシスタント140は、マイク142、144の双方に信号入力があり、各信号の強度が所定の閾値以上である場合は、各信号の強度を比較し、強度が大きい方の信号を入力された音声信号とみなし、その音声信号をデジタル信号に変換する。
【0089】
また、音声信号が、マイク142を介して得られた場合は、発話者は乗員6であると特定され、マイク144を介して得られた場合は、発話者は運転者5であると特定され得る。音声アシスタント140は、特定された発話者の情報ASを、統括制御部104の表示部決定部115に送る。表示部決定部115は、送られてきた発話者の情報ASを一時的に記憶する。発話者の情報ASは、応答結果を示す画像をどの表示部に表示するかを決定する際の判断要素となる。
【0090】
また、デジタル化された音声信号は、音声アシスタント140から音声認識エンジン(音声認識部)15に供給される。音声認識エンジン(音声認識部)15は、音声データを解析し、発話者の要求又は指示の内容を理解する。
【0091】
このとき、音声認識エンジン(音声認識部)15は、例えばキーワード検索を行い、音声データ中に含まれる用語(単語)を解析して、その要求や指示が、運転操作(言い換えれば、車両の走行)に関連するものであるか否かを迅速に判定する。音声による要求又は指示が運転操作(車両運行)に関連するか否かの判定結果の情報AQは、表示部決定部115に送られる。
【0092】
表示部決定部115は、発話者の情報ASと、要求又は指示が転操作(車両運行)に関連するか否かの判定結果の情報AQと、に基づいて、応答結果の画像をどの表示部に表示するかを決定する(詳細は後述する)。
【0093】
また、音声認識エンジン(音声認識部)15は、音声認識の結果をAIモジュール(運転支援制御部)14に送る。AIモジュール(運転支援制御部)14は、情報収集部12から各種情報を取得し、また、各種データベース16を検索し、あるいは、無線通信部18を介してネットワーク上のサーバーにアクセスするなどして必要な情報を収集し、要求又は指示に対する応答(回答)を作成する。
【0094】
作成された応答(回答)は、統括制御部104に送られる。統括制御部104は、表示器制御部107、HUD&WSD制御部、及び車内プロジェクタ制御部109の少なくとも1つを制御し、表示部決定部115が決定した表示部(例えば、HUD装置、CID等)に応答結果を示す画像を表示させる。応答結果を示す画像の表示方法の詳細については後述する。
【0095】
次に、
図2を参照する。
図2は、本発明で利用可能な表示部(表示装置)の一例を示す図である。
図2において、
図1と同じ箇所には同じ符号を付している。
【0096】
本発明で利用可能な表示部(表示装置)としては、例えば、ヘッドアップディスプレイ(HUD)装置125、ディスプレイに表示された画像を、光学系を介さずにウインドシールド又はスクリーンに投影する直接投影ディスプレイとしてのWSD123、センターインフォメーションディスプレイ(CID)127、パッセンジャーディスプレイ128をあげることができる。図示はしないが、センターコンソールモニタも利用可能な表示装置となり得る。但し、上記の例に限定されるものではない。車両1に備わる多様な表示部、言い換えれば表示装置を活用することで、特別な表示装置を付加することなく、応答結果の画像を表示することができる。
【0097】
なお、1つのディスプレイが2以上の表示画面を有する場合は、表示画面毎に表示部があるものとみなしてもよい。
【0098】
次に、
図3を参照する。
図3は、運転者が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
図3では、前掲の図と同じ箇所には同じ符号を付している。
【0099】
図3の例では、第1の表示部(表示装置)としてHUD装置125が使用され、第2の表示部(表示装置)としてセンターインフォメーションディスプレイ(CID)127が使用されるものとする。
【0100】
ここで、第1の表示部は、運転者が画像を見るときに、視線を外す程度が第2の表示部よりも小さく、また、第2の表示部は、例えば車両前列にて運転者の近くに(例えば運転者に隣接して)着座している乗員(運転者以外の者)が目視可能な位置にある。
【0101】
第1の表示部としては、ウインドシールドや、ウインドシールドの一部を覆うようなスクリーンに画像を投影するヘッドアップディスプレイ(HUD)等の投影式の表示装置を用いることができる。運転者5は、運転中に正面を向いたまま、視線を大きく外すことなく、応答結果の画像を視認することができる。
【0102】
一方、第2の表示部としては、表示画面に画像を表示する表示器装置、例えば、ダッシュボードの中央に設けられるセンターインフォメーションディスプレイ(CID)等の表示器装置を用いることができる。
【0103】
例えばCIDは、多様な情報を表示するのに適しており、また、運転者及び乗員の双方が表示画像を視認できるため、応答結果の画像の表示にも適する。表示器装置を活用することで、乗員も、音声によって必要な情報を容易に取得することができるようになり、乗員の利便性も向上する。
【0104】
図3のA-1に示されるように、車両1は右ハンドル車であり、運転席FRには運転者5が着座している。また、車両1の前列、かつ運転者5に隣接する助手席FLに乗員(パッセンジャー)6が着座している。
【0105】
また、車両1の運転モードは、自動運転モードであってもよいが、ここでは、手動運転モードであるとする。
図3のA-1では、運転者5は、運転中に、「自宅までの道案内をお願い」という要求(あるいは指示)を音声にて発出する。
【0106】
図1にて説明したように、音声アシスタント140は、指向性をもつマイク144で、その音声を集音する。これにより、発話者が運転者5であることが判明する。音声アシスタント140は、特定された発話者の情報ASを、統括制御部104の表示部決定部115に送る。
【0107】
また、音声認識エンジン(音声認識部)15は、音声データを解析し、音声中に「自宅」、「道案内」という用語が存在することを検出する。この発話に対する回答(応答)によって、車両1の走行ルートが変更されることもあり得る。よって、この発話に対する回答(応答)は、車両1の運転操作に関連する要求又は指示に対する回答と判定される。
【0108】
音声認識エンジン(音声認識部)15は、音声による要求又は指示が運転操作(車両運行)に関連するか否かの判定結果の情報AQを、表示部決定部115に送る。
【0109】
表示部決定部115は、発話者の情報ASと、要求又は指示が転操作(車両運行)に関連するか否かの判定結果の情報AQと、に基づいて、応答結果の画像をどの表示部に表示するかを決定する。
【0110】
運転者5又は乗員6の発話による要求又は指示が発出された場合、その応答は、発話者(要求又は指示を発出した運転者又は乗員)に提示するのが原則である。その一方、例えば車両1の運転操作に関連しない情報を第1の表示部であるHUD装置125で表示すると、運転に関係ない情報が運転視界に入って運転操作の妨げになり、運転者5の安心感が損なわれる場合もあり得る。
【0111】
そこで、発話者は誰か、及び、応答結果の画像が運転操作に関連する情報を含むか否かという2つの要因に基づいて、画像を表示する表示部を迅速に切り替える。これによって、発話者が、音声によって、必要な情報を迅速に、かつ確実に確認することができ、利便性が向上する。
【0112】
また、応答結果の内容に対応して、適切な位置の表示部に応答結果を示す画像が表示されることから、煩わしさが抑制され、運転の安心感が損なわれることも抑制される。
【0113】
また、応答結果の内容によっては、例えば、発話者が誰かに関わらず、運転者と乗員の双方に、応答結果を受け取る期待感が生じる場合もあるため、このような場合は、第1、第2の表示部の双方に、応答結果を示す画像を表示する(この点については、
図4にて説明する)。
【0114】
図3のA-1の例では、発話者が運転者5である。また、発話による要求又は指示が、運転支援システム10に自宅までの道案内を依頼するものであるため、応答結果を示す画像が表示されると、その画像は、運転者5の運転操作に影響を与える。よって、応答結果の画像は、運転操作に関連する情報を含むと判定される。
【0115】
この場合は、
図3のA-1、A-2に示すように、運転者5が迅速に、視線を外さずに運行に必要な情報を取得できるように、第1の表示部であるHUD装置125を用いて画像が表示される。
【0116】
図3のA-2では、HUD装置125によって、虚像表示領域PS1に、運行ルートを示す地
図MPが表示される。また、
図3のA-3では、右折を促す矢印の図形NA1が表示されている。何れの表示でもよい。但し、地
図MPの占有面積が大きすぎて運転中の表示には適さない場合は、
図3のA-3のように、運行ルートを逐次、ガイドし、運転状況に応じたガイド用の画像を表示するのが好ましい。
【0117】
次に、
図4を参照する。
図4は、運転者が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
図4のA-1は、先に示した
図3のA-1と同じである。
【0118】
図4のA-2~A-4の例では、応答結果の画像を、第1の表示部であるHUD装置125のみならず、第2の表示部であるCID127にも表示している。例えば乗員6が運転者5のナビゲータとして、車両1の運転に間接的に参加している場合もあり得る。このような場合は、運転者5が発した運転関連の要求や指示であっても、その応答結果は、乗員も知りたいと思うのが通常である。このような場合等も考慮して、
図4のA-2~A-4では、第2の表示部であるCID127にも、画像の表示を行う。
【0119】
図4のA-3では、第1の表示部であるHUD装置125によって地
図MPが表示され、第2の表示部であるCID127には、応答結果の画像が表示済みであることを乗員6に伝える「表示済み」の表示がなされている。これにより、乗員6は、必要な情報が運転者5に提示されたことを確認でき、安心感を得ることができる。上記の「表示済み」という表示も、広義には、応答結果を示す画像に含めてもよい。
【0120】
また、
図4のA-3では、第1の表示部であるHUD装置125によって、右折を促す矢印の図形NA1が表示されており、第2の表示部であるCID127にも、同じ図形NA1が表示されている。
【0121】
また、
図4のA-4では、第1の表示部であるHUD装置125によって、右折を促す矢印の図形NA1が表示されており、第2の表示部であるCID127には、より情報量が多い地図の画像MPが表示されている。また、矢印の図形NA1については、輝度を低下させたり、サイズをより縮小したりして、誘目性を低下させてもよい。
【0122】
図4のA-4の例では、応答結果の画像を、第1、第2の各表示部125、127に表示する場合において、情報量に差を設けたり、誘目性に差を設けたりしている。
【0123】
言い換えれば、第2の表示部であるCID127により提示される情報量を、第1の表示部における情報量よりも増やしたり、あるいは、第2の表示部の画像の誘目性を、第1の表示部の画像の誘目性よりも高くしたりして、表示に差を設ける。
【0124】
第1の表示部としてのHUD装置125は、車両1の運行に必要な重要な情報の提示に使用されるため、応答結果の画像が表示領域を占有したり、あるいは、運転者の目線を誘目して運転時の注意を逸らしたりすることは避ける必要がある。
【0125】
一方、第2の表示部であるCID127は、情報を統括的に管理するのに適しており、近年は、大型化、高精細化、マルチディスプレイ化等が進展している。これらの点を考慮すると、応答結果の画像の情報量が多い場合、あるいは、応答結果の画像の誘目性が高い場合でも、特に問題はないと考えられる。
【0126】
よって、例えば、
図4のA-4のように、第1の表示部125にはナビゲーション用の矢印NA1を表示し、第2の表示部であるCID127には、地
図MPを表示して情報量に差を設けたり、第1の表示部125の画像については、輝度を低くする、あるいはサイズを縮小する等によって誘目性を低下させて表示したりしてもよい。これにより、運転者5、及び乗員6の双方に見易い画像を提示でき、各々が煩わしさを感じること等が抑制され、よって、利便性が向上する。
【0127】
次に、
図5を参照する。
図5は、運転者が、運転操作に関連しない質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
【0128】
図5のA-1では、運転者5が、「明日の天気を教えて」という質問(要求又は指示)を発出している。この質問内容は、車両1の運転操作には関係しない。
【0129】
この場合、制御部113は、応答結果の画像を、第2の表示部であるCID127に表示させる、又は、第1、第2の表示部の何れにも表示させず、その代わりに音声出力部105を制御して音声で報知させる。
【0130】
図5のA-2では、CID127に、「終日晴れ」という応答結果を示す画像NS1が表示される。また、
図5のA-3では、音声にて「終日晴れ」という回答が出力される。
【0131】
これにより、運転に関係ない情報が、車両1を運転している運転者5の視界に入って、車両1の安全運行の妨げになることが抑制される。また、運転に関係のない情報がHUD装置125に表示される心配がなくなり、よって、運転者5の安心感が損なわれることも抑制される。
【0132】
次に、
図6を参照する。
図6は、乗員が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の一例を示す図である。
【0133】
図6のA-1では、乗員6が、「自宅までの道案内をお願い」という要求を発出している。この要求に対する応答結果は運転操作に関連する情報を含み、運転者5の運転操作に影響を与える。
【0134】
この点を考慮して、発話者が乗員6であっても、第1の表示部であるHUD装置125によって応答結果の画像を表示する。応答結果の画像が運転中の運転者5に提示されることで、運転者5は適切な運転操作を迅速に行うことができる。言い換えれば、応答結果を示す画像の情報が、車両1の運行に迅速に反映され、応答結果を有効に利用することができる。
【0135】
図6のA-2では、HUD装置125に、地図情報MPが表示されている。
図6のA-3では、HUD装置125に、右折を促す矢印の図形NA1が表示されている。
【0136】
但し、例えば乗員6が運転者5のナビゲータとして、車両1の運転に間接的に参加している場合もあり得る。このような場合は、その応答結果は、乗員6も知りたいと思うのが通常である。よって、このような場合には、第2の表示部にも応答結果の画像を表示するのが好ましい。この点については、次の
図7にて説明する。
【0137】
図7を参照する。
図7は、乗員が、運転操作に関連する質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
図7のA-1は、
図6のA-1と同じである。
【0138】
図7のA-2~A-3は、結果的に、先に説明した
図4のA-2~A-3と同じとなる。言い換えれば、
図7のA-2~A-4の例では、応答結果の画像を、第1の表示部であるHUD装置125のみならず、第2の表示部であるCID127にも表示している。例えば乗員6が運転者5のナビゲータとして、車両1の運転に間接的に参加している場合もあり得る。このような場合は、運転者5が発した運転関連の要求や指示であっても、その応答結果は、乗員も知りたいと思うのが通常である。このような場合等も考慮して、
図7のA-2~A-4では、第2の表示部であるCID127にも、画像の表示を行う。
【0139】
図7のA-3では、第1の表示部であるHUD装置125によって地
図MPが表示され、第2の表示部であるCID127には、応答結果の画像が表示済みであることを乗員6に伝える「表示済み」の表示がなされている。これにより、乗員6は、必要な情報が運転者5に提示されたことを確認でき、安心感を得ることができる。上記の「表示済み」という表示も、広義には、応答結果を示す画像に含めてもよい。
【0140】
また、
図7のA-3では、第1の表示部であるHUD装置125によって、右折を促す矢印の図形NA1が表示されており、第2の表示部であるCID127にも、同じ図形NA1が表示されている。
【0141】
また、
図7のA-4では、第1の表示部であるHUD装置125によって、右折を促す矢印の図形NA1が表示されており、第2の表示部であるCID127には、より情報量が多い地図の画像MPが表示されている。また、矢印の図形NA1については、輝度を低下させたり、サイズをより縮小したりして、誘目性を低下させてもよい。この点は、
図4の場合と同様である。
【0142】
次に、
図8を参照する。
図8は、乗員が、運転操作に関連しない質問(要求又は指示)を発出した場合の、応答結果の表示の他の例を示す図である。
【0143】
図8のA-1では、乗員6が、「今日は何の日か教えて」という質問(要求又は指示)を発出している。この質問内容は、車両1の運転操作には関係しない。
【0144】
この場合、制御部113は、応答結果の画像を、第2の表示部であるCID127に表示させる、又は、第1、第2の表示部の何れにも表示させず、その代わりに音声出力部105を制御して音声で報知させる。
【0145】
図8のA-2では、CID127に、「父の日」という応答結果を示す画像NS2が表示される。また、
図8のA-3では、音声にて「父の日」という回答が出力される。
【0146】
これにより、運転に関係ない情報が、車両1を運転している運転者5の視界に入って、車両1の安全運行の妨げになることが抑制される。また、運転に関係のない情報がHUD装置125に表示される心配がなくなり、よって、運転者5の安心感が損なわれることも抑制される。
【0147】
次に、
図9を参照する。
図9は、運転者又は乗員の指示に従って応答結果が提示される場合を示す図である。
【0148】
運転者5、又は乗員6が、応答結果(回答)をどこに表示してほしいかを発話時に指示した場合は、応答結果を示す画像は、その指示に従って表示する。これによって、運転者5、又は乗員6の想定や希望と異なる場所に応答結果(回答)が表示されることがなく、したがって、運転者の期待が損なわれない。
【0149】
また、
図9のA-1のように、運転者5、又は乗員6が、音声による報知を指示した場合は、応答結果は、その指示に従って音声によって出力(提示)される。したがって、運転者の期待が損なわれない。
【0150】
図9のA-1では、運転者5、又は乗員6が、「週末の東京の天気を音声で教えて」という要求(指示)を発出している。これに応答して、
図9のA-2では、「週末の東京の天気は晴れ、気温は20℃です」という回答が音声によって出力される。
【0151】
次に、
図10、
図11を参照する。
図10は、HUD装置(第1の表示部)における表示の可否判定機能を有する制御部の構成例を示す図である。なお、
図10において、
図1と共通する箇所には同じ符号を付している。
図11は、HUD装置(第1の表示部)における表示の可否判定の結果、表示不可と判定された場合の、応答結果の画像の表示例を示す図である。
【0152】
図10、
図11の例では、制御部113は、車両1の走行環境、車両1の運転状態、及び、運転者5の状態の少なくとも1つに基づいて、第1の表示部であるHUD装置125における応答結果の画像の表示の適否を判定し、不適切と判定された場合には、第1の表示部であるHUD装置125における表示を不可とする。
【0153】
第1の表示部としてのHUD装置125は、応答結果の表示のみならず、車両1の運行に関係する種々の情報の表示に利用される点を考慮し、車両1の走行環境、運転状態、及び運転者5の状態の少なくとも1つに起因して第1の表示部(HUD装置125)に応答結果を表示することが不適当と判定される場合は、第1の表示部(HUD装置125)への応答結果の表示を不可とする。
【0154】
例えば、車両1が交通量の多い交差点にさしかかっている場合や、急ブレーキや急ハンドルが必要となる緊急事態が生じている場合、あるいは、運転者5が長時間の運転で疲労が蓄積している場合等においては、第1の表示部(HUD装置125)に応答結果の画像を表示することは、運転者5に情報の読み取りを強制することにもなりかねず、かえって運転者5の負担が増し、安全性の低下等につながる場合も想定され得る。
【0155】
そこで、このような場合は、応答結果の画像は、第2の表示部(CID127)に表示するか、あるいは、音声による回答に切り替える。これにより、運転者5は、車両1の運転に集中することができる。
【0156】
また、車両1の運転モードも、完全自動運転、完全自動運転ではない自動運転、運転支援を受ける手動運転、完全手動運転、というように種々のモードがあるため、各運転モードにおける運転者5の負荷、心理的な負担等を考慮する必要がある。例えば、運転者の負担が重い運転モードのときは、第1の表示部(HUD装置125)における情報の提示は最小限に抑え、第2の表示部(CID127)を利用し、あるいは、音声による応答を利用するのが好ましい。
【0157】
図10において、制御部113は、車両の走行環境検出部116と、車両の運転状態検出部117と、運転者の状態検出部118と、HUD装置(第1の表示部)における表示の可否判定部119と、を有する。
【0158】
なお、運転者の状態検出部118は、運転者の情報取得部111から供給される運転者5の顔や目の動き、あるいは顔の動き等に着目して、運転者の状態(例えば、負荷が重い状態、疲労が蓄積している状態等)を判定する。
【0159】
HUD装置(第1の表示部)における表示の可否判定部119は、各検出部116、117、118の少なくとも1つの検出結果に基づいて、HUD装置(第1の表示部)127による、虚像表示領域PS1での表示の可否を判定する。不可の場合は、HUD装置127における表示を禁止し、その代わりに、応答結果の画像を第2の表示部としてのCID125に表示したり、あるいは、音声により応答結果を出力したりする。
【0160】
【0161】
先に説明した
図3のA-1では、地
図MPが、第1の表示部であるHUD装置125により表示され、また、
図3のA-2では、右折を促す矢印の図形NA1が、第1の表示部であるHUD装置125に表示される。
【0162】
一方、
図11の例では、HUD装置125による表示が禁止されたことから、
図11のA-2では、地
図MPは、第2の表示部であるCID127に表示され、また、右折を促す矢印の図形NA1も、第2の表示部であるCID127に表示される。
【0163】
次に、
図12を参照する。
図12は、CID(第2の表示部)に表示された応答結果の画像に関連して、さらに音声による質問(要求又は指示)が発出された場合の、応答結果の画像の表示例を示す図である。
【0164】
図12の例では、第2の表示部であるCID127のみに応答結果が表示された後、さらに音声による要求又は指示がなされた場合を想定する。この場合には、運転中の運転者5の負担にならないように、運転者の意思に反して、応答結果の画像が第1の表示部であるHUD装置125に表示されることを防止するのが好ましい。
【0165】
図12のA-1では、運転者5が、「週末の天気を教えて」という問い(要求又は指示)を発出する。この問いは、車両の運行には関係しないため、先に
図5のA-2で説明したように、応答結果の画像は、第2の表示部であるCID127に表示される。
図12のA-2では、CID127に、「曇り後雨」という文字による回答が表示される。
【0166】
図12のA-3では、第2の表示部であるCID127に表示された「曇り後雨」という回答に関連して、さらに、運転者5が、「雨が降り出すのは何時?」という問いを発出している。
【0167】
この場合は、
図12のA-3に示すように、運転者5の期待に応えて第1の表示部であるHUD装置125に応答結果の画像(「午後3時」という文字画像)を表示する。また、今回の発話の元になった画像(「曇り後雨」の文字画像)は第2の表示部であるCID127に表示されたものであり、この画像は乗員6も見ている可能性が高いため、乗員6も、今回の応答結果についても知りたいと望む場合が多いと考えられる。よって、その期待に応えるべく、第2の表示部であるCID127にも、今回の応答結果の画像(「午後3時」の文字画像)を表示する。
【0168】
図12のA-4では、乗員6が、「雨が降り出すのは何時?」という問いを発出している。この場合は、今回の応答結果の画像(「午後3時」という文字画像)は、第1の表示部であるHUD装置125による表示は禁止され、第2の表示部であるCID127に表示される。これによって、今回の応答結果の画像が、運転者5の意思に反して第1の表示部であるHUD装置125によって表示されることが防止される。
【0169】
次に、
図13を参照する。
図13は、HUD装置(第1の表示部)に表示された応答結果の画像に関連して、さらに音声による質問(要求又は指示)が発出された場合の、応答結果の画像の表示例を示す図である。なお、
図13に示す処理は、
図13単独の処理として取り扱ってもよく、また、先に説明した
図12の処理と併せて1つの一連の処理として取り扱ってもよい。
【0170】
図13の例では、第1の表示部であるHUD装置125によって表示された画像について、さらなる要求や指示があった場合を想定する。
【0171】
図13のA-1では、乗員6が、音声にて「自宅までの道案内をお願い」という要求(又は指示)を発出し、
図13のA-2では、第1の表示部であるHUD装置125によって、右折を促す矢印の図形の画像NA1が表示されている。
【0172】
図13のA-3では、その画像NA1を見た運転者5が、「別のルートをお願い」という要求(又は指示)を発出している。この結果、今回の要求に対する応答結果を示す画像(ここでは、例えば、複数のルートを色分けした地
図MPの画像)が、第1の表示部であるHUD装置125によって表示される。運転者5は、自身が欲する情報を運転者5に近い位置の表示部にて確認できる。また、運転者5の情報の取得が容易化され、また、運転者への迅速な情報の提示も可能となる。
【0173】
図13のA-4では、その画像NA1を見た乗員6が、「別のルートをお願い」という要求(又は指示)を発出している。
【0174】
図13のA-4では、第2の表示部であるCID127によって、今回の要求に対する応答結果を示す画像(ここでは、例えば、複数のルートを色分けした地
図MPの画像)が表示される。言い換えれば、乗員6の近くに位置する第2の表示部であるCID127に画像を表示することで、必要な情報を、乗員6に、見易く、かつ迅速に提示することができる。
【0175】
一方、今回の発話の元になった画像(
図13のA-2における画像NA1)は第1の表示部であるHUD装置125によって表示されたものであり、運転者5も見ていた画像であるため、運転者5も、今回の応答結果についても知りたいと望む場合が多いと考えられる。よって、
図13のA-4では、第1の表示部であるHUD装置125によっても、今回の応答結果の画像MPが表示される。これにより、運転者5の、今回の応答結果を知りたいという期待に応えることができる。よって、本発明の表示システムの利便性が向上する。
【0176】
次に、
図14を参照する。
図14は、音声による要求、指示に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
図14は、先に説明した
図3~
図11の各表示処理に対応する。
【0177】
ステップS1では、運転者の状態を検出し、ステップS2では、車両の走行環境、運転状態等が検出される。
【0178】
ステップS3では、ステップS1、S2の各判定結果に基づいて、第1の表示部(HUD装置等)による表示の可否を判定する。ステップS3でY(言い換えれば、表示可)であるときは、ステップS4に移行し、Nのときは、ステップS8に移行して、第2の表示部(CID等)に応答結果の画像を表示する。
【0179】
ステップS4では、音声出力の指定、又は表示部の指定が無いかを判定する。Y(言い換えれば、指定無し)のときは、ステップS9に移行する。N(言い換えれば、指定有り)の場合は、ステップS5に移行する。
【0180】
ステップS5では、発話者による指定の内容が判定される。音声による回答(音声出力)が指定された場合は、その指定に従ってステップS6にて、音声による応答結果の報知が実行される。また、第1の表示部(HUD装置やWSD等)による表示が指定された場合は、その指示に従ってステップS7にて、第1の表示部に応答結果を示す画像が表示される。また、第2の表示部(CID、センターコンソールモニタ、パッセンジャーディスプレイ等)による表示が指定された場合は、その指示に従ってステップS8にて、第2の表示部に応答結果を示す画像が表示される。
【0181】
ステップS9では、発話者は運転者であるか、乗員であるかが判定される。運転者である場合は、ステップS10に移行し、乗員である場合はステップS12に移行する。
【0182】
ステップS10では、発話による要求又は指示の内容(言い換えれば、応答結果の画像)に、運転操作に関連する情報が含まれるか否かが判定される。Yのときは、ステップS11にて、第1の表示部に応答結果の画像を表示するか、あるいは、第1、第2の各表示部に応答結果の画像を表示する。Nのときは、ステップS14にて、第2の表示部に応答結果の画像を表示する。
【0183】
ステップS12では、発話による要求又は指示の内容(言い換えれば、応答結果の画像)に、運転操作に関連する情報が含まれるか否かが判定される。Yのときは、ステップS13にて、第1の表示部に応答結果の画像を表示するか、あるいは、第1、第2の各表示部に応答結果の画像を表示する。Nのときは、ステップS14にて、第2の表示部に応答結果の画像を表示する。
【0184】
次に、
図15を参照する。
図15は、
図12に対応する、表示済みの情報に関する要求、応答に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
図15は、先に説明した
図12の表示処理に対応する。
【0185】
ステップS20では、第2の表示部による表示に関係する要求や指示であるかが判定される。Yのときは、ステップS21に移行し、Nのときは終了する。
【0186】
ステップS21では、発話者は運転者であるか、乗員であるかが判定される。運転者である場合は、ステップS22に移行し、乗員である場合はステップS23に移行する。
【0187】
ステップS22では、第1の表示部に応答結果の画像を表示するか、あるいは、第1、第2の各表示部に応答結果の画像を表示する。ステップS23では、第2の表示部に応答結果の画像を表示する。
【0188】
次に、
図16を参照する。
図16は、
図13に対応する、表示済みの情報に関する要求、応答に対する回答(応答結果の画像)の表示処理の一例を示すフローチャートである。
図16は、先に説明した
図13の表示処理に対応する。
【0189】
ステップS30では、第1の表示部による表示に関係する要求や指示であるかが判定される。Yのときは、ステップS31に移行し、Nのときは終了する。
【0190】
ステップS31では、発話者は運転者であるか、乗員であるかが判定される。運転者である場合は、ステップS32に移行し、乗員である場合はステップS33に移行する。
【0191】
ステップS32では、第1の表示部に応答結果の画像を表示する。ステップS33では、第2の表示部に応答結果の画像を表示するか、あるいは、第1、第2の各表示部に応答結果の画像を表示する。
【0192】
以上説明したように、本発明の実施形態によれば、運転者又は乗員が音声による要求又は指示を発することで、必要な情報を、画像又は音声で容易に、かつ車両運行の安全性を低下させずに確認できるようになる。
【0193】
運転者や乗員の音声による要求や指示に対して、車両側が音声で応答する場合は、その応答結果の音声は、運転者及び乗員の双方が聞くことができ、双方が情報を得る機会が与えられる。
【0194】
これに対して、運転者や乗員の音声による要求や指示に対して、車両側が表示で応答する場合、例えば運転者用のHUD装置やWSDによる表示は、運転者は見ることができるが、助手席に着座している乗員は見ることができない、といった特殊な事情が存在する。
【0195】
また、HUD装置等は、車両運行に関係する種々の情報を常時、表示できるようにしておく必要があり、また、表示領域もあまり広くとることができない可能性もあり、制約が大きい。
【0196】
一方、CID等は、近年、大型化、高精細化、マルチディスプレイ化が進展しており、今後もこの傾向が続くと考えられるため、情報量が多少多くても、それらの情報を一括して表示できる可能性が高い。
【0197】
但し、CID等に表示される画像は、乗員には見易いが、運転者は、目線を外さないと見えない場合もある。運転者が車両の運行中に目線を外すことは、前方不注意となる可能性もあり、よって、車両の操作に必要な情報等の表示には適さない可能性もある。
【0198】
また、例えば、運転者又は乗員(発話者)が音声によって質問を発出した場合、その音声は、発話者以外の者にも聞こえるため、発話者以外の者にも、その質問に対する回答を知りたいという期待が生じる場合がある。その期待が裏切られた場合は、発話者以外の者は、気分を害したり、システムに対して不満を抱いたりする場合もあり得る。
【0199】
一方、運転者や乗員による要求や指示が極めて個人的なものであったり、あるいは、車両の運行に関係のないものであったりする場合は、発話者以外の者は、特に車両側からの回答を知る必要がないと判断する場合もある。
【0200】
このような場合にも、回答を発話者以外の者にも見えるように表示すると、発話者以外の者が煩わしく感じて、気分を害する場合もあり、また、車両の運行の安全性が阻害される場合もある。
【0201】
また、音声による要求や指示は、車両の運転状況や周囲の状況等に関係なく、いつでも発出可能である。応答結果の表示は車両の運行に影響を及ぼすため、単に車両側が質問に回答すればよい、というものではなく、常に、その内容や車両の状況等を考慮して、適切な箇所の表示部を選択し、場合によっては、音声での回答に切り替えるといった慎重さも求められる。
【0202】
このように、音声の要求や指示に対して、車両側が、表示(又は音声)によって回答するシステムを採用する場合、上記のような種々の事情を考慮して、適切に応答結果を表示しないと、実用価値の高いシステムは実現されない。
【0203】
言い換えれば、上記のような種々の事情を考慮した適切な対応がなされない場合は、運転者及び乗員の回答を知りたいという期待が裏切られたり、あるいは、知る必要のない回答の情報が自身の近くにある表示部に表示されて煩わしく感じたり、気分を害されたり、車両運行の安全性が低下したりする場合もあり、システムの実用的価値が乏しくなる。
【0204】
但し、車両側の回答(応答)は、要求や指示がなされてから、できるだけ早いタイミングで表示される必要があり、例えば、発話内容を詳細に分析して、情報を表示する表示部を、時間をかけて選択するといったことは、現実には困難である。
【0205】
このように、車両の状況、あるいは運転者や乗員の状況に応じて、適切な表示部が選択され、また迅速に回答が表示される、ということが要求される。従来のシステムでは、このような高度な要求には応えることができなかった。
【0206】
上記の本発明の実施形態によれば、要求又は指示の主体が、運転者であるか、乗員であるか、という情報と、応答結果の画像が、車両の運転操作に関連する情報を含むか否か、という点を考慮して、簡単な処理にて迅速に、応答結果の画像を表示すべき表示部を決定することができる。また、必要に応じて、表示ではなく音声を用いて回答したり、あるいは、表示する画像の情報量や誘目性(視認性)を、各表示部の特性等を考慮して、適宜、調整したりするといった応用も可能である。
【0207】
これによって、音声による要求や指示に応答可能な、実用価値の高い表示システムを実現することができる。
例えば、本発明の実施形態によれば、運転者がCID等の操作をすることなく、運転に集中した状態を維持したまま、音声の指示によって必要な情報を、HUD装置の表示画像により得ることができる。
また、例えば、ナビゲーション情報等の運転操作に関連する情報を、直接HUD装置等に表示することで、余計な手間を取らずに迅速に、得られた情報を運転操作に反映することができる。
また、運転操作に関連しない情報は、HUD装置には表示しないことで、運転に関係ない情報が運転視界に入って妨げになり、運転時の安心感が損なわれることが抑制される。
また、運転者や乗員(発話者)が、回答をどこに表示してほしいのか、あるいは、音声による出力を希望するのかを事前に指示し、運転支援システム(音声アシスタントを含めてもよい)がそれに従うことで、発話者の想定や希望と異なる場所に回答が表示されることの煩わしさを抑制することができる。
また、運転者以外の乗員による指示の場合でも、運転操作に関連する情報はHUD装置によって表示することで、運転者は、CID等の他の表示器を操作してHUD装置に画像を表示させるといった手間を省くことができる。よって、得られた情報を、迅速に運転操作に反映することができる。
また、運転者以外の乗員による指示の場合、運転操作に関連しない情報はHUD装置には表示せず、他のCID等の表示デバイスに表示することで、運転者が欲しない情報がHUD装置に表示され、運転視界の妨げになることが抑制される。
一方、乗員にとって見やすい、近い表示デバイス(CID等)に回答が表示されることで、乗員は容易に情報を得ることができ、システムを快適に利用することができる。
このように、種々の効果をもつ、実用性のある音声応答機能をもつ表示システムを構築することができる。また、本発明の表示制御装置によれば、簡単な処理にて、上記のような種々の効果を得られるため、コストを押さえつつ、質問に対して迅速に、的確な応答を得ることが可能な利便性の高い表示システムを実現できる。
【0208】
本発明は種々変形、応用が可能である。例えば、運転者と乗員の過去の質問状況等を考慮して、乗員が、運転者のナビゲータとして運転に参加しているか否かをシステムが判定し、表示部の決定の際に、その情報を活用してもよい。
【0209】
また、要求や指示を、より多様な観点から、例えば多様なキーワード検索等によって、より詳細に分析し、その分析結果を、表示部の決定に利用してもよい。
【0210】
また、使用できる表示部は、上記のものに限定されるものではなく、表示部としては、種々の表示装置を利用可能である。例えば、車両の左右方向に長く延在するワイドモニターに、複数の画面を設けて、画面毎に画像を表示できるようにしてもよい。この場合は、画面毎に、1つの表示部があるものとみなすことができる。
【0211】
また、本明細書において、車両という用語は、広義に、乗り物としても解釈し得るものである。また、ナビゲーションに関する用語についても、広義に解釈するものとする。また、HUD装置、表示器装置、表示部、表示システム等には、シミュレータ(例えば、航空機のシミュレータ、ゲーム装置としてのシミュレータ等)として使用されるものも含まれるものとする。
【0212】
本発明は、上述の例示的な実施形態に限定されず、また、当業者は、上述の例示的な実施形態を特許請求の範囲に含まれる範囲まで、容易に変更することができるであろう。
【符号の説明】
【0213】
1・・・車両(自車両)、2・・・ウインドシールド(被投影部材)、4・・・ステアリングホイール、5・・・運転者(操縦者)、6・・・乗員(搭乗者)、10・・・運転支援システム(自動運転システムであってもよい)、12・・・情報収集部、13・・・視線位置検出部、14・・・AIモジュール(運転支援制御部)、15・・・音声認識エンジン、16・・・各種データベース、17・・・運転状態監視部、18・・・無線通信部、102・・・表示制御装置(プロセッサ)、104・・・統括制御部、105・・・音声出力部、107・・・表示器制御部、108・・・HUD及びWSD制御部、109・・・車内プロジェクタ制御部、110・・・画像解析部、111・・・運転者(及び乗員)の状態判定部、112・・・車内プロジェクタ、114・・・撮像カメラ、115・・・車両の走行環境検出部、117・・・車両の運転状態検出部、118・・・運転者の状態検出部、119・・・HUD装置(第1の表示部)における表示の可否判定部、120・・・ダッシュボード、123・・・光学系を介さずにウインドシールド又はスクリーンに投影する直接投影ディスプレイ(WSD)125・・・HUD装置(第1の表示部)、127・・・センターインフォメーションディスプレイ(CID:第2の表示部)、128・・・パッセンジャーディスプレイ、140・・・音声アシスタント(車両アシスタント)、142、144・・・指向性マイク、146・・・スピーカ、PS・・・虚像表示面、Z1、Z2・・・虚像表示領域、V1、V2・・・虚像。