IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アルプス電気株式会社の特許一覧

<>
  • 特許-表示制御装置および表示制御方法 図1
  • 特許-表示制御装置および表示制御方法 図2
  • 特許-表示制御装置および表示制御方法 図3
  • 特許-表示制御装置および表示制御方法 図4
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-02
(45)【発行日】2024-08-13
(54)【発明の名称】表示制御装置および表示制御方法
(51)【国際特許分類】
   G06F 3/01 20060101AFI20240805BHJP
   G06F 3/0481 20220101ALI20240805BHJP
   G06F 3/14 20060101ALI20240805BHJP
   G09G 5/00 20060101ALI20240805BHJP
   B60R 11/02 20060101ALI20240805BHJP
   B60R 11/04 20060101ALI20240805BHJP
【FI】
G06F3/01 510
G06F3/0481
G06F3/14 340A
G06F3/14 350A
G06F3/14 360A
G09G5/00 510H
G09G5/00 550C
G09G5/00 550B
G09G5/00 510V
G09G5/00 530T
G09G5/00 510B
B60R11/02 C
B60R11/04
【請求項の数】 13
(21)【出願番号】P 2020133947
(22)【出願日】2020-08-06
(65)【公開番号】P2022030157
(43)【公開日】2022-02-18
【審査請求日】2023-06-28
【前置審査】
(73)【特許権者】
【識別番号】000010098
【氏名又は名称】アルプスアルパイン株式会社
(74)【代理人】
【識別番号】100105784
【弁理士】
【氏名又は名称】橘 和之
(72)【発明者】
【氏名】古川 孝二
【審査官】塚田 肇
(56)【参考文献】
【文献】特開2018-066940(JP,A)
【文献】特開2015-049721(JP,A)
【文献】特開2017-084220(JP,A)
【文献】特開2016-184238(JP,A)
【文献】特開2016-084021(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01、3/048-3/04895
G06F 3/14-3/153
G09G 5/00
B60R 11/02
B60R 11/04
(57)【特許請求の範囲】
【請求項1】
ディスプレイに表示された複数の操作対象のうち何れかに対するユーザの注視を検出する注視検出部と、
上記ディスプレイに対して上記複数の操作対象を表示させ、上記注視検出部により所定時間の注視が検出された操作対象を上記ユーザが視認しやすい表示態様に変更する表示制御部と、
上記操作対象に対する上記ユーザの操作の可能性を検出する操作検出部と、
上記操作検出部による上記操作の可能性の検出結果に応じて、上記所定時間を変更する所定時間変更部とを備え、
上記所定時間変更部は、上記操作検出部により上記操作の可能性が検出されていない場合は上記所定時間を第1の所定時間に設定する一方、上記操作検出部により上記操作の可能性が検出された場合は上記所定時間を上記第1の所定時間よりも短い第2の所定時間に設定する
ことを特徴とする表示制御装置。
【請求項2】
上記表示制御部は、上記注視検出部により所定時間の注視が検出された操作対象を、上記所定時間の注視が検出されていない場合に表示される当初の表示位置に代えてまたは加えて、上記注視検出部により所定時間の注視が検出されたユーザの存在場所に近い方の表示位置に表示させる
ことを特徴とする請求項1に記載の表示制御装置。
【請求項3】
上記表示制御部は、上記注視検出部により所定時間の注視が検出された操作対象の上記ディスプレイ内での表示サイズを、上記所定時間の注視が検出されていない場合に表示される当初の表示サイズからそれよりも大きい表示サイズに変更することを特徴とする請求項1または2に記載の表示制御装置。
【請求項4】
上記表示制御部は、上記注視検出部により所定時間の注視が検出された操作対象について、上記所定時間の注視が検出されていない場合に表示される当初の表示より強調された表示となるように表示態様を変更することを特徴とする請求項1または2に記載の表示制御装置。
【請求項5】
上記操作検出部は、複数のユーザについて上記操作の可能性を検出し、
上記注視検出部は、上記複数のユーザのうち上記操作検出部により上記操作の可能性が検出されたユーザについて、上記複数の操作対象のうち何れかに対する注視を検出することを特徴とする請求項1~の何れか1項に記載の表示制御装置。
【請求項6】
上記表示制御部は、複数のユーザ用に設けられた複数の異なるディスプレイに対して上記複数の操作対象を分散して表示させ、上記注視検出部により所定時間の注視が検出された操作対象を、上記所定時間の注視が検出されていない場合に表示される当初のディスプレイとは異なるディスプレイに表示させることを含むことを特徴とする請求項に記載の表示制御装置。
【請求項7】
上記複数の操作対象のうち特定の操作対象に対する上記ユーザの操作が検出されている状態において、上記特定の操作対象とは異なる操作対象に対するユーザの注視が上記注視検出部により検出された場合、上記所定時間変更部は、上記所定時間を上記第1の所定時間に設定することを特徴とする請求項1に記載の表示制御装置。
【請求項8】
上記操作検出部は、上記ユーザが上記操作対象に対して操作を行うために使用する操作デバイスに対する上記ユーザの手の接触または近接を検出することをもって、上記操作対象に対する上記ユーザの操作の可能性を検出することを特徴とする請求項1~の何れか1項に記載の表示制御装置。
【請求項9】
上記操作検出部は、上記操作対象に対する操作のために定義された所定の動作を上記ユーザが行ったか否かを検出することをもって、上記操作対象に対する上記ユーザの操作の可能性を検出することを特徴とする請求項1~の何れか1項に記載の表示制御装置。
【請求項10】
上記ディスプレイは、ダッシュボード、インストルメントパネルまたはセンターコンソールに設けられたディスプレイ、あるいは、車両のフロントガラスまたはコンバイナへ画像を投影するヘッドアップディスプレイであることを特徴とする請求項1~の何れか1項に記載の表示制御装置。
【請求項11】
ディスプレイに表示された複数の操作対象のうち何れかに対するユーザの注視を検出する注視検出部と、
上記ディスプレイに対して上記複数の操作対象を表示させ、上記注視検出部により所定時間の注視が検出された操作対象を上記ユーザが視認しやすい表示態様に変更する表示制御部と、
上記操作対象に対する上記ユーザの操作の可能性を検出する操作検出部と、
上記操作検出部による上記操作の可能性の検出結果に応じて、上記所定時間を変更する所定時間変更部とを備え、
上記操作検出部は、上記ユーザが上記操作対象に対して操作を行うために使用する操作デバイスに対する上記ユーザの手の接触または近接を検出することをもって、上記操作対象に対する上記ユーザの操作の可能性を検出する
ことを特徴とする表示制御装置。
【請求項12】
ディスプレイに表示された複数の操作対象のうちユーザが注視した操作対象の表示態様を変更する表示制御方法であって、
表示制御装置の表示制御部が、上記ディスプレイに対して上記複数の操作対象を表示させる第1のステップと、
上記表示制御装置の注視検出部が、上記ディスプレイに表示された複数の操作対象のうち何れかに対するユーザの注視を検出する第2のステップと、
上記表示制御装置の操作検出部が、上記操作対象に対する上記ユーザの操作の可能性を検出する第3のステップと、
上記表示制御装置の所定時間変更部が、上記操作検出部による上記操作の可能性の検出結果に応じて、上記操作対象の表示態様を変更するまでの閾値として用いる所定時間を変更する第4のステップと、
上記表示制御部が、上記注視検出部により上記所定時間の注視が検出された操作対象を上記ユーザが視認しやすい表示態様に変更する第5のステップとを有し、
上記所定時間変更部は、上記操作検出部により上記操作の可能性が検出されていない場合は上記所定時間を第1の所定時間に設定する一方、上記操作検出部により上記操作の可能性が検出された場合は上記所定時間を上記第1の所定時間よりも短い第2の所定時間に設定する
ことを特徴とする表示制御方法。
【請求項13】
ディスプレイに表示された複数の操作対象のうちユーザが注視した操作対象の表示態様を変更する表示制御方法であって、
表示制御装置の表示制御部が、上記ディスプレイに対して上記複数の操作対象を表示させる第1のステップと、
上記表示制御装置の注視検出部が、上記ディスプレイに表示された複数の操作対象のうち何れかに対するユーザの注視を検出する第2のステップと、
上記表示制御装置の操作検出部が、上記操作対象に対する上記ユーザの操作の可能性を検出する第3のステップと、
上記表示制御装置の所定時間変更部が、上記操作検出部による上記操作の可能性の検出結果に応じて、上記操作対象の表示態様を変更するまでの閾値として用いる所定時間を変更する第4のステップと、
上記表示制御部が、上記注視検出部により上記所定時間の注視が検出された操作対象を上記ユーザが視認しやすい表示態様に変更する第5のステップとを有し、
上記操作検出部は、上記ユーザが上記操作対象に対して操作を行うために使用する操作デバイスに対する上記ユーザの手の接触または近接を検出することをもって、上記操作対象に対する上記ユーザの操作の可能性を検出する
ことを特徴とする表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示制御装置および表示制御方法に関し、特に、ディスプレイに表示された複数の操作対象のうちユーザが注視した操作対象の表示態様を変更するように成された表示制御装置および表示制御方法に用いて好適なものである。
【背景技術】
【0002】
近年、車載機器に接続されるディスプレイの数またはサイズが増大する傾向にあり、例えばダッシュボードやセンターコンソール、インストルメントパネルなどの複数箇所にディスプレイが備えられることがある。また、運転席から助手席までカバーする広い範囲にインストルメントパネルのディスプレイが備えられることもある。これらのディスプレイには、ユーザが車載機器を操作する際に使用する画像や、車載機器での処理結果を示す画像(以下、これらを総称してHMI画像という)が表示される。
【0003】
多くの場合、車載機器を操作するための操作装置は、各ディスプレイに紐づいて配置されるか、ディスプレイ上のタッチパネルとして構成されている。この場合、操作装置が車内のどこに設置されるかによって、それを操作可能なユーザが限定される。一方、ジョグダイアル等の操作子をセンターコンソールに配置し、運転席および助手席の両方で共用することを可能にした技術も知られている(例えば、特許文献1~3参照)。
【0004】
特許文献1~3に記載されたような共用の操作子を用いれば、運転席側のディスプレイに表示されたHMI画像を通じて車載機器の機能を助手席から操作したり、助手席側のディプレイに表示されたHMI画像を通じて車載機器の機能を運転席から操作したりすることも可能である。しかしながら、この場合、運転席または助手席から遠くのディスプレイに表示されたHMI画像を確認する必要があるため、表示内容の確認が難しい場合があるという問題が生じる。
【0005】
ところで、表示画面に複数のコンテンツが表示されている場合に、注視したいコンテンツをより見やすくするためにコンテンツの表示配置を変更するようにした技術が知られている(例えば、特許文献4参照)。この特許文献4に記載の車載用表示装置では、運転者の視点から所定時間を越えて注視されているコンテンツが存在するか否かを判定し、存在する場合は、当該注視コンテンツが表示画面の運転者が視認しやすい位置に表示されるように、表示画面に表示される複数のコンテンツの配置を変更して表示するよう制御する。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2005-96655号公報
【文献】特開2007-302154号公報
【文献】特開2016-184238号公報
【文献】特開2016-84021号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献4に記載の技術を用いれば、例えば助手席側のディプレイに表示されたHMI画像を通じて車載機器の機能を運転席から操作したい場合において、操作したい機能のHMI画像を運転者が所定時間を越えて注視すると、そのHMI画像が、運転者が視認しやすい位置に移動して表示されることになる。しかしながら、特許文献4に記載の技術では、操作したい機能のHMI画像の配置を変更するためには、常に決まった時間だけ続けてHMI画像を注視する必要があるため、即座に操作することができず、応答性の点に課題が存在する。
【0008】
本発明は、このような問題を解決するために成されたものであり、ユーザが操作したいと考える機能のHMI画像を視認しやすい表示態様に変更することの応答性を向上させることができるようにすることを目的とする。
【課題を解決するための手段】
【0009】
上記した課題を解決するために、本発明では、ディスプレイに表示された複数の操作対象のうち何れかに対するユーザの注視を検出し、所定時間の注視が検出された操作対象をユーザが視認しやすい表示態様に変更するように制御する。特に本発明では、操作対象に対するユーザの操作の可能性を検出し、その検出結果に応じて、上記所定時間を変更するようにしている。
【発明の効果】
【0010】
上記のように構成した本発明によれば、ユーザが操作対象を所定時間注視すると、その注視した操作対象をユーザが操作したいと考えているとの推定のもと、操作対象がユーザの視認しやすい表示態様に変更される。このとき、操作対象に対するユーザの操作の可能性が検出された状況であると、注視している操作対象をユーザが操作したいと考えている可能性がより高いとの推定のもと、操作対象の表示態様を変更するまでの所定時間の値が変更される。これにより、例えば複数のHMI画像を操作対象としてディスプレイに表示させている場合に、HMI画像の表示態様を変更するまでの所定時間の値を小さくすることにより、ユーザが操作したいと考える機能のHMI画像を視認しやすい表示態様に変更するまでの時間を短くすることができ、応答性を向上させることができる。
【図面の簡単な説明】
【0011】
図1】本実施形態による表示制御装置を備えた車載システムの構成例を示す図である。
図2】本実施形態による表示制御装置の機能構成例を示すブロック図である。
図3】本実施形態によるHMI画像の表示態様の変更例を模式的に示す図である。
図4】本実施形態による表示制御装置の動作例を示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による表示制御装置を備えた車載システムの構成例を示す図である。図1に示すように、本実施形態の車載システムは、表示制御装置100、運転席用ディスプレイ101、助手席用ディスプレイ102、共用ディスプレイ103、視線センサ104,105、共用操作子106、近接センサ107および運転席用操作子108を備えている。
【0013】
本実施形態の表示制御装置100は、共用操作子106および運転席用操作子108に対するユーザ(運転者および助手席の搭乗者)の操作の内容に応じて、運転席用ディスプレイ101、助手席用ディスプレイ102および共用ディスプレイ103に対するHMI画像などの表示を制御する。HMI画像は、ユーザが車載機器を操作する際に使用する画像や、車載機器での処理結果を示す画像であり、特許請求の範囲の「操作対象」に相当する。表示制御装置100の機能構成の詳細は後述する。
【0014】
運転席用ディスプレイ101、助手席用ディスプレイ102および共用ディスプレイ103(以下、これらをまとめてディスプレイ101~103と記すことがある)は、例えば、ダッシュボードまたはインストルメントパネルに設けられた液晶ディスプレイまたは有機ELディスプレイである。運転席用ディスプレイ101、助手席用ディスプレイ102および共用ディスプレイ103の全てがダッシュボードまたはインストルメントパネルの何れかに設けられた構成であってもよいし、一部がダッシュボードで他の一部がインストルメントパネルに設けられた構成であってもよい。共用ディスプレイ103は、センターコンソールに設けられる構成であってもよい。また、ディスプレイ101~103の一部または全部は、車両のフロントガラスまたはコンバイナ等へ画像を投影するようにしたヘッドアップディスプレイ(HUD)であってもよい。
【0015】
運転席用ディスプレイ101は、運転席から見やすい位置、つまり車幅方向の運転席寄りの位置に配置されており、主に運転者が使用するHMI画像が表示される。運転席用ディスプレイ101に表示されるHMI画像には、車載機器を操作する際に使用するHMI画像のほか、運転者が車を運転する際に使用する各種メータ類や警告灯類のHMI画像も含まれる。ここで、「主に運転者が使用する」というのは、基本的には運転者が使用することが多いが、一部のHMI画像については助手席の搭乗者も使用しようと思えば使用可能という意味である。
【0016】
助手席用ディスプレイ102は、助手席から見やすい位置、つまり車幅方向の助手席寄りの位置に配置されており、主に助手席の搭乗者(以下、単に搭乗者という)が使用するHMI画像が表示される。助手席用ディスプレイ102に表示されるHMI画像には、主にAV系の車載機器を操作する際に使用するHMI画像が含まれる。ここで、「主に搭乗者が使用する」というのは、基本的には搭乗者が使用することが多いが、停車中に運転者も使用しようと思えば使用可能という意味である。
【0017】
共用ディスプレイ103は、運転席および助手席の双方から比較的見やすい位置、つまり車幅方向の中央寄りの位置に配置されており、運転者および搭乗者が使用するHMI画像が表示される。共用ディスプレイ103に表示されるHMI画像には、車載機器を操作する際に使用するHMI画像のほか、ナビゲーション画像などが含まれる。
【0018】
視線センサ104,105は、運転者および搭乗者の視線の方向を検出するものであり、運転席側および助手席側のそれぞれに設置されている。運転席側の視線センサ104は、運転者の視線の方向を検出する。助手席側の視線センサ105は、搭乗者の視線の方向を検出する。なお、ここでは視線センサ104,105を用いているが、運転者および搭乗者の視線の方向を検出可能なものであれば、他の手段を用いてもよい。例えば、運転席および助手席を含む範囲を撮影するカメラを設置し、撮影画像を画像処理することによって運転者および搭乗者の視線の方向を検出するようにしてもよい。
【0019】
共用操作子106は、運転者および搭乗者が共用する操作子であり、例えばセンターコンソールに設置されたジョグダイアル、ジョイスティック、十字キーまたはタッチパネルなどにより構成される。運転者は、共用操作子106を操作することにより、ディスプレイ101~103に表示されたHMI画像を通じて車載機器の機能を操作することが可能である。同様に、搭乗者は、共用操作子106を操作することにより、ディスプレイ101~103に表示されたHMI画像を通じて車載機器の機能を操作することが可能である。共用操作子106は、特許請求の範囲の「操作デバイス」に相当する。
【0020】
共用操作子106にはタッチセンサが設けられており、ユーザによる共用操作子106への接触が検出されるようになっている。近接センサ107は、物体が自身から所定の距離範囲内に接近したこと、およびその物体が接近してきた方向を検出する。近接センサ107は共用操作子106の近傍に設置されており、これにより、共用操作子106に対して接近するユーザの手を検出し、運転席側または助手席側のどちらの方から手が接近したのかを検出することが可能となっている。
【0021】
運転席用操作子108は、運転者が使用する操作子であり、例えばステアリングに設置されたスイッチ、十字キーまたはタッチパネルなどにより構成される。運転者は、運転席用操作子108を操作することにより、ディスプレイ101~103に表示されたHMI画像を通じて車載機器の機能を操作することが可能である。
【0022】
図2は、本実施形態による表示制御装置100の機能構成例を示すブロック図である。図2に示すように、本実施形態の表示制御装置100は、機能構成として、注視検出部11、操作検出部12、表示制御部13および所定時間変更部14を備えている。これらの各機能ブロック11~14は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック11~14は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
【0023】
注視検出部11は、視線センサ104,105により検出されるユーザの視線の方向に基づいて、ディスプレイ101~103に表示された複数のHMI画像のうち何れかに対するユーザの注視を検出する。注視とは、ユーザが何れかのHMI画像を注意してよく見ることであり、ユーザの視線が短い時間だけHMI画像の方向を向いている場合を含まない。注視検出部11は、運転席側の視線センサ104からの出力に基づいて、運転者によるHMI画像への注視を検出するとともに、助手席側の視線センサ105からの出力に基づいて、搭乗者によるHMI画像への注視を検出する。
【0024】
操作検出部12は、HMI画像に対するユーザの操作の可能性を検出する。ここで、操作検出部12は、複数のユーザ(運転者および搭乗者)について、HMI画像に対する操作の可能性を検出する。例えば、操作検出部12は、共用操作子106が備えるタッチセンサの出力に基づいて、共用操作子106に対するユーザの手の接触を検出することをもって、HMI画像(後述する注視HMI画像に限らない)に対するユーザの操作の可能性(ユーザが共用操作子106を操作する可能性ともいえる)を検出する。また、操作検出部12は、近接センサ107の出力に基づいて、運転者または搭乗者のどちらによる操作の可能性であるかも検出する。
【0025】
なお、操作検出部12は、近接センサ107の出力に基づいて、共用操作子106に対するユーザの手の近接を検出することをもって、HMI画像に対するユーザの操作の可能性を検出するようにしてもよい。このとき操作検出部12は、近接センサ107の出力に基づいて、運転者または搭乗者のどちらによる操作の可能性であるかも検出する。ユーザの手の近接をもってHMI画像に対するユーザの操作の可能性を検出する場合は、共用操作子106のタッチセンサは不要である。
【0026】
上述した注視検出部11は、複数のユーザのうち操作検出部12により操作の可能性が検出されたユーザについて、複数のHMI画像のうち何れかに対する注視を検出するのが好ましい。すなわち、注視検出部11は、操作検出部12により運転者についてHMI画像に対する操作の可能性が検出された場合は、運転者についてのみHMI画像への注視を検出する。一方、操作検出部12により搭乗者についてHMI画像に対する操作の可能性が検出された場合、注視検出部11は、搭乗者についてのみHMI画像への注視を検出する。また、運転者および搭乗者の何れも共用操作子106に手を接触または接近させていない場合、注視検出部11は、運転者および搭乗者の両方についてHMI画像への注視を検出する。
【0027】
このようにすることより、運転者または搭乗者のうち、どちらかが共用操作子106に手を接触または接近させ場合には、共用操作子106に手を接触または接近させていない方のユーザについては注視検出部11の処理の実行を省略することができ、処理負荷の軽減を図ることができる。また、共用操作子106に手を接触または接近させているユーザとは異なる別のユーザがHMI画像を注視している場合であっても、当該別のユーザによる注視によって、以下に説明する表示制御部13によるHMI画像の表示態様の変更が行われないようにすることができる。
【0028】
表示制御部13は、ディスプレイ101~103に対して複数のHMI画像を表示させる。本実施形態において、表示制御部13は、運転者用、搭乗者用および共用に設けられた複数の異なるディスプレイ101~103に対して複数のHMI画像を分散して表示させる。後述するように、本実施形態では複数のHMI画像の表示態様を変更するが、変更前の初期状態において、表示制御部13は、主に運転者が使用するHMI画像を運転席用ディスプレイ101に表示させ、主に搭乗者が使用するHMI画像を助手席用ディスプレイ102に表示させ、運転者および搭乗者が使用するHMI画像を共用ディスプレイ103に表示させる。
【0029】
また、表示制御部13は、注視検出部11により所定時間の注視が検出されたHMI画像(以下、これを注視HMI画像ということがある)をユーザが視認しやすい表示態様に変更する。例えば、表示制御部13は、注視検出部11により所定時間の注視が検出されたHMI画像を、所定時間の注視が検出されていない場合に表示される当初の表示位置に代えてまたは加えて、複数のユーザのうち注視検出部11により所定時間の注視が検出されたユーザの存在場所に近い方の表示位置に表示させるように制御する。
【0030】
複数のユーザのうち操作検出部12により操作の可能性が検出されたユーザについてのみHMI画像に対する注視を検出するようにしている場合、表示制御部13は、運転者による所定時間の注視が検出されたHMI画像を、所定時間の注視が検出されていない場合に表示される当初の表示位置に代えてまたは加えて、運転者の存在場所に近い方の表示位置に表示させるように制御する。また、表示制御部13は、搭乗者による所定時間の注視が検出されたHMI画像を、所定時間の注視が検出されていない場合に表示される当初の表示位置に代えてまたは加えて、搭乗者の存在場所に近い方の表示位置に表示させるように制御する。
【0031】
例えば、運転者が助手席用ディスプレイ102または共用ディスプレイ103に表示されているHMI画像を注視した場合(かつ、搭乗者が共用操作子106に手を接触または接近させていない場合)、表示制御部13は、その注視HMI画像を運転席用ディスプレイ101に表示させる。このとき、初期状態において運転席用ディスプレイ101に表示されていたHMI画像(以下、初期HMI画像ということがある)に加えて注視HMI画像を表示させるようにしてもよいし、一部または全部の初期HMI画像に代えて注視HMI画像を表示させるようにしてもよい。初期HMI画像に加えて注視HMI画像を表示させる場合、一部または全部の初期HMI画像を初期状態より小さくするか、移動させるか、その両方を行うかすることによって注視HMI画像の表示スペースを確保し、注視HMI画像を視認しやすい態様で表示させる。また、初期状態において助手席用ディスプレイ102または共用ディスプレイ103に表示されていた注視HMI画像については、これを助手席用ディスプレイ102または共用ディスプレイ103に表示させたままとしてもよいし、表示を消去してもよい(注視HMI画像の表示位置を助手席用ディスプレイ102または共用ディスプレイ103から運転席用ディスプレイ101に移動させるイメージ)。
【0032】
一方、運転者が運転席用ディスプレイ101に表示されているHMI画像を注視した場合、その注視HMI画像の表示態様を変更しないようにしてもよいし、運転席用ディスプレイ101の中で、より運転者の存在場所に近い位置に移動して表示させるようにしてもよい。
【0033】
同様に、搭乗者が運転席用ディスプレイ101または共用ディスプレイ103に表示されているHMI画像を注視した場合(かつ、運転者が共用操作子106に手を接触または接近させていない場合)、表示制御部13は、その注視HMI画像を助手席用ディスプレイ102に表示させる。このとき、初期状態において助手席用ディスプレイ102に表示されていた初期HMI画像に加えて注視HMI画像を表示させるようにしてもよいし、一部または全部の初期HMI画像に代えて注視HMI画像を表示させるようにしてもよい。また、初期状態において運転席用ディスプレイ101または共用ディスプレイ103に表示されていた注視HMI画像については、これを運転席用ディスプレイ101または共用ディスプレイ103に表示させたままとしてもよいし、表示を消去してもよい。搭乗者が助手席用ディスプレイ102に表示されているHMI画像を注視した場合、その注視HMI画像の表示態様を変更しないようにしてもよいし、助手席用ディスプレイ102の中で、より搭乗者の存在場所に近い位置に移動して表示させるようにしてもよい。
【0034】
このように、本実施形態の表示制御部13が行うHMI画像の表示態様の変更処理は、注視検出部11により所定時間の注視が検出された注視HMI画像を、所定時間の注視が検出されていない場合に表示される当初のディスプレイとは異なるディスプレイに表示させる処理を含んでいる。また、表示制御部13が行うHMI画像の表示態様の変更処理は、注視検出部11により所定時間の注視が検出された注視HMI画像の表示位置を、所定時間の注視が検出されていない場合に表示される表示位置から同じディスプレイの中の異なる位置に移動して表示させる処理を含むようにしてもよい。
【0035】
所定時間変更部14は、操作検出部12によるHMI画像に対するユーザの操作の可能性の検出結果に応じて、表示制御部13がHMI画像の表示態様を変更する際の閾値として用いる所定時間を変更する。すなわち、所定時間変更部14は、操作検出部12により操作の可能性が検出されていない場合は所定時間を第1の所定時間(例えば、2秒)に設定する一方、操作検出部12により操作の可能性が検出された場合は所定時間を第1の所定時間よりも短い第2の所定時間(例えば、1秒)に設定する。
【0036】
図3は、本実施形態によるHMI画像の表示態様の変更例を模式的に示す図である。図3(a)は、複数のHMI画像の表示態様を変更する前の初期状態を示している。図3(a)に示すように、運転席用ディスプレイ101、助手席用ディスプレイ102および共用ディスプレイ103のそれぞれに対して複数のHMI画像201~205が分散して表示されている。図3(a)の例では、運転席用ディスプレイ101に2つのHMI画像201,202が表示され、助手席用ディスプレイ102に2つのHMI画像203,204が表示され、共用ディスプレイ103に1つのHMI画像205が表示されている。
【0037】
図3(b)および(c)は、助手席の搭乗者が運転席用ディスプレイ101に表示されているHMI画像201を所定時間注視した状態を示している。このうち、図3(b)は、助手席の搭乗者がHMI画像201を注視しているときに、運転者も搭乗者も共用操作子106に手を接触または接近させていない状態を示している。図3(c)は、助手席の搭乗者がHMI画像201を注視しているときに、助手席の搭乗者が共用操作子106に手を接触させた状態を示している。
【0038】
図3(d)は、搭乗者が運転席用ディスプレイ101のHMI画像201を所定時間注視した結果、表示制御部13によって当該注視HMI画像201の表示態様が変更された後の状態を示している。図3(d)の例では、運転席用ディスプレイ101の表示態様は変えずに(注視HMI画像201の表示を消去せずに)、注視HMI画像201を助手席用ディスプレイ102に表示させた状態を示している。このとき、初期状態において助手席用ディスプレイ102に表示されていた初期HMI画像203,204の表示は消去され、注視HMI画像201のみが助手席用ディスプレイ102に表示されている。
【0039】
図3(d)に示すような注視HMI画像201および初期HMI画像203,204の表示態様の変更は、図3(b)の場合にも図3(c)の場合にも実行される。ただし、図3(b)のように、搭乗者がHMI画像201を注視しているときに、搭乗者が共用操作子106に手を接触も接近もさせていない場合は、所定時間は第1の所定時間(例えば、2秒)に設定された初期状態のままであり、2秒間の注視が継続した後に表示態様の変更が実行される。
【0040】
一方、図3(c)のように、搭乗者がHMI画像201を注視しているときに、搭乗者が共用操作子106に手を接触させている場合は、所定時間が第1の所定時間から第2の所定時間(例えば、1秒)に変更されるため、1秒間の注視が継続した段階で表示態様の変更が実行される。このように、搭乗者が運転席用ディスプレイ101のHMI画像201を注視し、かつ、共用操作子106に手を接触または接近させている場合には、搭乗者がその注視HMI画像201に対する操作を行う意志を有している可能性が高い状況であると考えられ、通常よりも早いタイミングで注視HMI画像201が助手席用ディスプレイ102に表示されて搭乗者が視認しやすい状態とされる。
【0041】
図4は、以上のように構成した本実施形態による表示制御装置100の動作例を示すフローチャートである。図4に示すフローチャートは、例えば、表示制御装置100の電源をオンとしたときに開始する。
【0042】
まず、表示制御部13は、複数のディスプレイ101~103に複数のHMI画像を初期状態で表示させる(ステップS1)。また、表示制御部13は、HMI画像の表示態様を変更する際の閾値として用いる所定時間として第1の所定時間を設定する(ステップS2)。その後、注視検出部11は、視線センサ104,105により検出されるユーザ(運転者および搭乗者)の視線の方向に基づいて、ディスプレイ101~103に表示された複数のHMI画像のうち何れかに対するユーザの注視を検出する(ステップS3)。
【0043】
また、操作検出部12は、HMI画像に対するユーザの操作の可能性を検出する。例えば、操作検出部12は、共用操作子106が備えるタッチセンサの出力に基づいて、共用操作子106に対するユーザの手の接触を検出したか否かを判定する(ステップS4)。ここで、共用操作子106に対するユーザの手の接触が検出されていない場合、表示制御部13は、注視検出部11により検出されるユーザのHMI画像に対する注視が第1の所定時間継続したか否かを判定する(ステップS5)。
【0044】
ユーザの注視が第1の所定時間継続したHMI画像が存在しない場合、処理はステップS3に戻る。一方、ユーザの注視が第1の所定時間継続したHMI画像が存在する場合、表示制御部13は、その注視HMI画像を、注視していたユーザが視認しやすい表示態様に変更する(ステップS6)。すなわち、表示制御部13は、注視検出部11により所定時間の注視が検出された注視HMI画像を、当該注視HMI画像を注視したユーザの存在場所に近い方の表示位置に表示させるように表示態様を変更する。
【0045】
その後、注視検出部11は、ステップS5で第1の所定時間の注視が検出されたユーザ(運転者または搭乗者の何れか一方)について、注視HMI画像に対するユーザの注視を引き続き検出する(ステップS7)。そして、表示制御部13は、注視HMI画像に対するユーザの注視が注視検出部11により検出されなくなってから第3の所定時間が経過したか否かを判定する(ステップS8)。注視HMI画像に対する操作が実際に行われている場合、ユーザはその注視HMI画像を継続して注視している可能性が高い。
【0046】
ここで、注視HMI画像に対するユーザの注視が検出されなくなってから第3の所定時間がまだ経過していない場合、処理はステップS7に戻る。この場合は、ユーザが注視HMI画像に対する操作を実際に行っている状況と考えられる。一方、注視HMI画像に対するユーザの注視が検出されなくなってから第3の所定時間が経過した場合、処理はステップS1に戻り、複数のディスプレイ101~103に対する複数のHMI画像の表示が初期状態に戻される。
【0047】
上記ステップS4において、共用操作子106に対するユーザの手の接触が操作検出部12により検出された場合、表示制御部13は、HMI画像の表示態様を変更する際の閾値として用いる所定時間を第1の所定時間から第2の所定時間に変更する(ステップS9)。また、注視検出部11は、共用操作子106に手を接触したユーザに絞って、ディスプレイ101~103に表示された複数のHMI画像のうち何れかに対する注視を検出する(ステップS10)。このとき、ステップS3において開始した注視の継続時間は引き継がれる。
【0048】
この状態で、表示制御部13は、注視検出部11により検出されるユーザのHMI画像に対する注視が第2の所定時間継続したか否かを判定する(ステップS11)。ここで、ユーザの注視が第2の所定時間継続したHMI画像が存在しない場合、処理はステップS10に戻る。一方、ユーザの注視が第2の所定時間継続したHMI画像が存在する場合、表示制御部13は、その注視HMI画像を、注視していたユーザが視認しやすい表示態様に変更する(ステップS12)。
【0049】
その後、注視検出部11は、ステップS11で第2の所定時間の注視が検出されたユーザ(運転者または搭乗者の何れか一方)について、注視HMI画像に対するユーザの注視を引き続き検出する(ステップS13)。そして、表示制御部13は、注視HMI画像に対するユーザの注視が注視検出部11により検出されなくなってから第3の所定時間が経過したか否かを判定する(ステップS14)。注視HMI画像に対する操作が実際に行われている場合、ユーザはその注視HMI画像を継続して注視している可能性が高い。
【0050】
ここで、注視HMI画像に対するユーザの注視が検出されなくなってから第3の所定時間がまだ経過していない場合、処理はステップS13に戻る。この場合は、ユーザが注視HMI画像に対する操作を実際に行っている状況と考えられる。一方、注視HMI画像に対するユーザの注視が検出されなくなってから第3の所定時間が経過した場合、処理はステップS1に戻り、複数のディスプレイ101~103に対する複数のHMI画像の表示が初期状態に戻される。以降、表示制御装置100の電源がオフとされるまで、以上の処理が繰り返し実行される。
【0051】
以上詳しく説明したように、本実施形態では、複数のディスプレイ101~103に表示された複数のHMI画像のうち何れかに対するユーザの注視を検出し、所定時間の注視が検出されたHMI画像を、当該注視を行ったユーザが視認しやすい表示態様に変更するように制御する。また、本実施形態では、HMI画像に対するユーザの操作の可能性(共用操作子106に対するユーザの手の接触または接近)を検出し、その検出結果に応じて、所定時間を第1の所定時間からそれより短い第2の所定時間に変更するようにしている。
【0052】
このように構成した本実施形態によれば、ユーザがHMI画像を所定時間注視すると、その注視HMI画像をユーザが操作したいと考えているとの推定のもと、注視HMI画像がユーザの視認しやすい表示態様に変更される。このとき、HMI画像に対するユーザの操作の可能性が検出された状況であると、注視HMI画像をユーザが操作したいと考えている可能性がより高いとの推定のもと、注視HMI画像の表示態様を変更するまでの所定時間が第2の所定時間に変更される。これにより、ユーザが操作したいと考える機能の注視HMI画像を視認しやすい表示態様に変更するまでの時間を短くすることができ、応答性を向上させることができる。
【0053】
なお、上記実施形態では、複数のユーザ用に設けられた複数のディスプレイ101~103に対して複数のHMI画像を分散して表示させ、注視HMI画像の表示位置を異なるディスプレイ間を跨いで変更する例について説明したが、本発明はこれに限定されない。例えば、運転席から助手席までをカバーする広範囲の1つのディスプレイの中で、注視HMI画像の表示位置を変更する場合にも本実施形態を適用することが可能である。
【0054】
また、上記実施形態では、注視HMI画像の表示位置を変える(元の表示位置の注視HMI画像をそのまま残す場合および消去する場合を含む)例について説明したが、本発明はこれに限定されない。例えば、表示制御部13は、注視HMI画像の表示位置を変えることに代えてまたは加えて、注視HMI画像のディスプレイ内での表示サイズを、所定時間の注視が検出されていない場合に表示される当初の表示サイズからそれよりも大きい表示サイズに変更するようにしてもよい。
【0055】
一例として、運転者が運転席用ディスプレイ101に表示されているHMI画像を注視した場合、または助手席の搭乗者が助手席用ディスプレイ102に表示されているHMI画像を注視した場合に、同じ運転席用ディスプレイ101または助手席用ディスプレイ102の中で、注視HMI画像の表示サイズを大きくするようにしてもよい。そして、このとき運転者または搭乗者が共用操作子106に手を接触または接近させているか否かによって、表示サイズを大きくするまでの所定時間を第1の所定時間または第2の所定時間の何れかに設定する。運転者が助手席用ディスプレイ102に表示されているHMI画像を注視した場合、または搭乗者が運転席用ディスプレイ101に表示されているHMI画像を注視した場合も同様とすることが可能である。
【0056】
また、例えば、表示制御部13は、注視HMI画像の表示位置を変えることに代えてまたは加えて、注視HMI画像について、所定時間の注視が検出されていない場合に表示される当初の表示より強調された表示となるように表示態様を変更するようにしてもよい。注視HMI画像が強調される表示の例として、注視HMI画像を枠で囲うようにしてもよい。または、注視HMI画像のみ表示色または背景色を変更するようにしてもよい。また、注視HMI画像以外の領域をグレーアウトさせるようにしてもよい。
【0057】
また、上記実施形態では、ユーザが共用操作子106に手を接触または接近させている場合には一律に所定時間を第2の所定時間に設定する例について説明したが、本発明はこれに限定されない。例えば、複数のHMI画像のうち特定のHMI画像に対するユーザの操作が検出されている状態において、当該特定のHMI画像とは異なるHMI画像に対するユーザの注視が注視検出部11により検出された場合、所定時間変更部14は、所定時間を第1の所定時間に設定するようにしてもよい。
【0058】
ここで、特定のHMI画像に対してユーザの操作が行われている状態は、以下のようにして検出することが可能である。すなわち、操作検出部12は、共用操作子106に対する手の接触または接近を検出した後、実際に共用操作子106が操作されているか否かを判定する。また、注視検出部11は、共用操作子106の操作が操作検出部12により検出されている期間中、HMI画像に対するユーザの注視を検出し続ける。ユーザが共用操作子106を実際に操作している間、ユーザは特定のHMI画像への注視を継続している可能性が高い。所定時間変更部14は、このように共用操作子106の操作中に注視が継続しているHMI画像を特定のHMI画像として検出し、この状態を「特定のHMI画像に対するユーザの操作が検出されている状態」として検出することが可能である。なお、この特定のHMI画像は、第1の所定時間または第2の所定時間の注視によって、ユーザが視認しやすいように表示態様が変更された注視HMI画像である可能性が高い。
【0059】
このように構成した場合、特定のHMI画像に対するユーザの操作が継続している際に、ユーザが別のHMI画像に視線を向けたとしても(このとき、共用操作子106に対する接触が行われている可能性が高い)、その別のHMI画像の表示態様を変更するまでの所定時間は第1の所定時間に設定され、第1の所定時間より短い第2の所定時間に設定されることがない。これにより、別のHMI画像の表示態様がユーザの意図に反して変更されてしまうことを防ぐことができる。
【0060】
また、上記実施形態では、操作検出部12は、共用操作子106に対する手の接触または近接を検出することをもって、HMI画像に対するユーザの操作の可能性を検出する例について説明したが、本発明はこれに限定されない。例えば、運転席および助手席を含む範囲を撮影するカメラを設置する。そして、操作検出部12は、撮影画像を画像処理することにより、HMI画像に対する操作のために定義された所定の動作(例えば、ボタンを押下またはスライドする模擬動作など)を撮影範囲の空間上でユーザが行ったか否かを検出することをもって、HMI画像に対するユーザの操作の可能性を検出するようにしてもよい。
【0061】
また、上記実施形態では、共用操作子106に対するユーザの手の接触または近接を検出して所定時間を変更する例について説明したが、運転席用操作子108についても同様の動作を適用するようにしてもよい。すなわち、運転席用操作子108に対する運転者の手の接触または近接を検出して所定時間を変更するようにしてもよい。
【0062】
また、上記実施形態では、共用操作子106に対するユーザの手の接触を検出するために、共用操作子106にタッチセンサを備える構成について説明したが、本発明はこれに限定されない。例えば、共用操作子106はタッチセンサを備えず、共用操作子106が全く操作されていない状態から僅かに操作された状態への変化を検出し、これをもって共用操作子106に対するユーザの接触があったとみなすようにしてもよい。
【0063】
また、上記実施形態では、運転者および搭乗者の両方の動作について本実施形態を適用する例について説明したが、何れか一方の動作についてのみ本実施形態を適用するようにしてもよい。例えば、助手席の搭乗者が何れかのHMI画像に所定時間注視した場合にのみ、注視HMI画像の表示態様を変更するようにしてもよい。この場合、運転席側の視線センサ104は不要である。また、近接センサ107において、運転者または搭乗者のどちらの手の接近であるかを検出することも不要である。
【0064】
また、運転者がHMI画像を注視した場合と、搭乗者がHMI画像を注視した場合とで動作を異ならせるようにしてよい。例えば、運転者がHMI画像を所定時間注視した場合は注視HMI画像を初期HMI画像に加えて表示させる一方、搭乗者がHMI画像を所定時間注視した場合は注視HMI画像を初期HMI画像に代えて表示させるようにしてもよい。
【0065】
また、上記実施形態では、本実施形態の表示制御装置100を車載システムに適用する例について説明したが、車載システム以外のシステムにも適用することが可能である。
【0066】
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
【符号の説明】
【0067】
11 注視検出部
12 操作検出部
13 表示制御部
14 所定時間変更部
100 表示制御装置
101~103 ディスプレイ
104,105 視線センサ
106 共用操作子
図1
図2
図3
図4