(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-29
(45)【発行日】2024-12-09
(54)【発明の名称】表示装置、表示システム、及び、表示制御方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20241202BHJP
G09G 5/00 20060101ALI20241202BHJP
G09G 5/38 20060101ALI20241202BHJP
G09G 5/36 20060101ALI20241202BHJP
【FI】
G06F3/01 510
G09G5/00 550C
G09G5/00 510A
G09G5/38 100
G09G5/00 530T
G09G5/36 200
(21)【出願番号】P 2021049536
(22)【出願日】2021-03-24
【審査請求日】2023-11-28
(73)【特許権者】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】束村 陽
(72)【発明者】
【氏名】松永 純平
(72)【発明者】
【氏名】日下 聖
【審査官】冨永 昌彦
(56)【参考文献】
【文献】国際公開第2019/135313(WO,A1)
【文献】特開2013-218671(JP,A)
【文献】米国特許出願公開第2015/0010207(US,A1)
【文献】特開平07-266925(JP,A)
【文献】特開2018-092522(JP,A)
【文献】特開平10-100739(JP,A)
【文献】特開2018-073147(JP,A)
【文献】国際公開第2016/121883(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/048 - 3/04895
G09G 5/00 - 5/42
G06F 3/03 - 3/039
(57)【特許請求の範囲】
【請求項1】
表示領域に表示を行う表示部と、
前記表示部によって前記表示領域に表示を行わせる表示制御部と、を備え、
前記表示制御部は、
ユーザの視線の移動を推定する視線推定部から推定結果
として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、
前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に
表示させることが適切か否かを判定し、
前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて
、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしている
と推定し、
前記ユーザがいずれかの前記シンボルを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示装置。
【請求項2】
前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、
前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、
前記ユーザが前記表示領域よりも前方を注視していないと判定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、請求項
1記載の表示装置。
【請求項3】
前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、
前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、
前記ユーザが前記表示領域よりも前方を注視していると判定した場合に、前記表示領域に表示されている前記シンボルの表示位置を、前記ユーザの視線から離れる方向に移動させる、請求項1
記載の表示装置。
【請求項4】
前記シンボルは、前記車両の状態を示す情報の表示を指示するアイコンであり、
前記表示制御部は、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を、前記シンボルに対応付けられた情報の表示に切り替える、請求項
2または
3記載の表示装置。
【請求項5】
前記車両の状態に関する車両情報が入力されるインターフェイスを備え、
前記表示制御部は、前記車両情報と前記推定結果とに基づいて、前記ユーザがいずれかの前記シンボルを注視しようとしているか否かを推定する、請求項
2から
4のいずれかに記載の表示装置。
【請求項6】
前記表示制御部は、
前記表示領域に前記シンボルを表示させない第1表示状態と、前記シンボルを表示させる第2表示状態と、前記シンボルの表示態様を変化させた第3表示状態と、を切り替え可能であり、
前記第1表示状態において、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定した場合であって、前記ユーザの視線が前記表示領域に重なる状態となった場合に、前記第2表示状態への切り替えを行い、
前記第2表示状態において、前記表示領域において前記ユーザの視線に重なる位置が、前記ユーザが注視しようとしている前記シンボルに対して所定範囲内となった場合に、前記第3表示状態への切り替えを行う、請求項1から
5のいずれかに記載の表示装置。
【請求項7】
表示領域に表示を行う表示部と、
前記表示部によって前記表示領域に表示を行わせる表示制御部と、
ユーザの視線の移動を推定する視線推定部と、を備え、
前記表示制御部は、
前記視線推定部から推定結果
として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、
前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に
表示させることが適切か否かを判定し、
前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて
、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしている
と推定し、
前記ユーザがいずれかの前記シンボルを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示システム。
【請求項8】
表示領域に表示を行う表示制御方法であって、
ユーザの視線の移動を推定する視線推定部から推定結果
として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、
前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に
表示させることが適切か否かを判定し、
前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて
、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしている
と推定し、
前記ユーザがいずれかの前記シンボルを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、表示システム、及び、表示装置の制御方法に関する。
【背景技術】
【0002】
従来、表示画面を注視するユーザの視線に合わせて、表示を変化させる技術が知られている。例えば、特許文献1には、タッチスクリーンディスプレイを有するコンピューティングデバイスが、ユーザの視線を追跡することによってユーザが見ている場所を判断し、ユーザが見ている場所の近傍に表示される画像を大きくする構成を開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の構成では、ユーザが表示の変更を望んでいるか否かに関わらず、ユーザの視線がディスプレイを向いたときに表示が変更されてしまうという課題があった。
本発明はかかる背景に鑑みてなされたものであり、表示装置を見るユーザの希望に対応して、表示装置による表示をユーザの視線に応じて制御することを目的とする。
【課題を解決するための手段】
【0005】
上記目的を達成するための第1態様として、表示領域に表示を行う表示部と、前記表示部によって前記表示領域に表示を行わせる表示制御部と、を備え、前記表示制御部は、ユーザの視線の移動を推定する視線推定部から推定結果として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に表示させることが適切か否かを判定し、前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示装置が挙げられる。
【0007】
上記表示装置において、前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、前記ユーザが前記表示領域よりも前方を注視していないと判定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する構成としてもよい。
【0008】
上記表示装置において、前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、前記ユーザが前記表示領域よりも前方を注視していると判定した場合に、前記表示領域に表示されている前記シンボルの表示位置を、前記ユーザの視線を避ける方向に移動させる構成としてもよい。
【0009】
上記表示装置において、前記シンボルは、前記車両の状態を示す情報の表示を指示するアイコンであり、前記表示制御部は、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を、前記シンボルに対応付けられた情報の表示に切り替える構成としてもよい。
【0010】
上記表示装置において、前記車両の状態に関する車両情報が入力されるインターフェイスを備え、前記表示制御部は、前記車両情報と前記推定結果とに基づいて、前記ユーザが前記シンボルのいずれかを注視しようとしているか否かを推定する構成としてもよい。
【0011】
上記表示装置において、前記表示制御部は、前記表示領域に前記シンボルを表示させない第1表示状態と、前記シンボルを表示させる第2表示状態と、前記シンボルの表示態様を変化させた第3表示状態と、を切り替え可能であり、前記第1表示状態において、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合であって、前記ユーザの視線が前記表示領域に重なる状態となった場合に、前記第2表示状態への切り替えを行い、前記第2表示状態において、前記表示領域において前記ユーザの視線に重なる位置が、前記ユーザが注視しようとしている前記シンボルに対して所定範囲内となった場合に、前記第3表示状態への切り替えを行う構成としてもよい。
【0012】
上記目的を達成するための第2態様として、表示領域に表示を行う表示部と、前記表示部によって、前記表示領域に情報させる表示制御部と、ユーザの視線の移動を推定する視線推定部と、を備え、前記表示制御部は、前記視線推定部から推定結果として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に表示させることが適切か否かを判定し、前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示システムが挙げられる。
【0013】
上記目的を達成するための第3態様として、表示領域に表示を行う表示制御方法であって、ユーザの視線の移動を推定する視線推定部から推定結果として、前記ユーザの視線が移動すると推定される経路を示す予測経路、および、前記ユーザの視線の移動の目標位置を示す視点予測位置、の少なくともいずれかを取得し、前記ユーザが運転する車両の状態、及び前記車両の外部要因に関するデータに基づいて、表示する情報の内容を指示するためのシンボルを前記表示領域に表示させることが適切か否かを判定し、前記シンボルを前記表示領域に表示させることが適切であると判定した場合に、前記シンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて、前記視点予測位置が前記表示領域に重なる位置にあるとき、及び、前記予測経路が前記表示領域に重なるとき、の少なくとも一方を満たす場合に、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示制御方法が挙げられる。
【発明の効果】
【0014】
上記構成によれば、表示装置による表示を、ユーザの求めに応じて、ユーザの視線に対応して変化させることができる。
【図面の簡単な説明】
【0015】
【
図2】車両における表示システムの配置を示す概略図。
【発明を実施するための形態】
【0016】
[1.表示システムの構成]
図1は、本発明の一実施形態に係る表示システム1の概略構成図である。
表示システム1は、表示領域2に画像等を表示する表示装置10と、視線推定部20とを備える。
【0017】
視線推定部20は、表示システム1のユーザの視線を検出し、視線の移動を推定する装置である。視線推定部20には、ユーザの視線を検出する視線検出デバイスが接続される。
図1及び以下の説明では、視線検出デバイスとしてカメラ25を視線推定部20に接続する例を示す。視線検出デバイスはカメラ25に限定されず、例えば、公知の視線センサを用いることができる。視線センサとしては、ユーザの眼に赤外光を照射し、眼で反射した赤外光を検出することによって眼の方向や動きを検出する装置等が挙げられる。視線検出デバイスは、ユーザの視線を検出した検出データを視線推定部20に出力する。本実施形態のカメラ25は、固定または可変のフレームレートで撮影を実行し、撮影画像データを視線推定部20に出力する。カメラ25が出力する撮影画像データは、ユーザの視線を検出した検出データの一例である。視線推定部20は、例えば、不図示のコネクタ及びケーブルを介してカメラ25に接続される。カメラ25が視線推定部20に無線接続される構成であってもよい。
【0018】
視線推定部20は、情報取得部21、及び、解析部22を備える。
情報取得部21は、カメラ25から入力される撮影画像データを取得する。情報取得部21は、カメラ25から取得した撮影画像データを解析することによって、ユーザの視線方向を求めることにより、撮影画像データの各フレームにおける表示領域2上のユーザの視線位置(例えば、
図3に示す視線位置P1~P4)を特定する。例えば、情報取得部21は、カメラ25から入力される撮影画像データから、ユーザの顔の画像、および/またはユーザの眼の画像を抽出し、抽出した画像をもとにユーザの視線方向を検出する。
解析部22は、情報取得部21が各フレームから検出した視線方向のデータを取得し、ユーザの視線方向の将来の移動先や移動方向、移動速度等の推定結果Rを生成する。解析部22は、推定に必要な過去の視線位置、すなわち過去に撮影されたフレームから検出された視線位置(例えば、
図3に示す視線位置P1~P4)の履歴を保持する機能を有する。推定結果Rは、過去の1または複数のフレームから検出された視線位置と、将来のフレームから検出されると推定される視線位置との関係を示す。解析部22が生成する推定結果Rは、例えば、表示装置10が表示するGUIの1フレームと、1対1で対応する情報を過不足なく含んでいる。解析部22は、推定結果Rを表示装置10に出力する。
【0019】
視線推定部20は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、マイクロコントローラ等のプロセッサを備え、プロセッサによってプログラムを実行することにより、情報取得部21及び解析部22の機能を実現するものであってもよい。この場合、視線推定部20は、プログラムを記憶する記憶デバイスを備える構成であってもよい。視線推定部20は、上記機能を実行するようプログラムされたハードウェアであってもよい。情報取得部21は、例えば、オープンソースのライブラリを用いて構成されたソフトウェアや、ディープラーニングを用いた推定モデルを用いて構成することができる。また、表示システム1がカメラ25に代えて公知の視線センサを備える場合、情報取得部21を、例えば視線センサのデバイスドライバープログラムを用いて構成することができる。
【0020】
表示装置10は、インターフェイス(I/F)11、表示制御部12、及び、投影部15を備える。
インターフェイス11は、視線推定部20を含む外部の装置を表示装置10に接続する接続部である。インターフェイス11は、例えば、ケーブルが接続されるコネクタ、及び、通信回路を有するデータ通信装置である。
【0021】
表示装置10は、文字や画像を表示する表示部として、投影部15を備える。投影部15は、LED(Light Emitting Diode)等の光源、光源が発する光を画像光に変換する変換部、及び、画像光を表示領域2に投影する光学系を備える。投影部15は、光学系によって表示領域2に像を結ばせて、ユーザに視認させる。
【0022】
表示装置10が備える表示部は、画像光を投影する投影部15に限定されない。表示装置10は、例えば、透過型の液晶ディスプレイパネル、反射型液晶ディスプレイパネル、有機EL(Electro Luminescence)パネル等の表示パネルに表示を行う構成であってもよい。
【0023】
表示制御部12は、視線推定部20からインターフェイス11に入力される推定結果Rに基づいて、投影部15によって表示する内容を生成する。
【0024】
表示制御部12は、GUI(Graphical User Interface)生成部13及び描画処理部14を備える。GUI生成部13は、表示装置10を操作するための操作用のシンボルであるアイコンを表示させるためのデータを生成する。GUI生成部13が生成するデータは、例えば、投影部15によって表示するアイコンの種類、アイコンの表示サイズ、及び、アイコンの表示位置を指定するデータを含む。描画処理部14は、GUI生成部13が生成したデータに基づいて、投影部15によって表示する画面を描画する。描画処理部14は、投影部15により表示する画面の表示データを投影部15に出力する。投影部15は、描画処理部14から入力される表示データをもとに表示を実行する。
【0025】
表示制御部12は、例えばプロセッサを備え、プロセッサによってプログラムを実行することにより、GUI生成部13及び描画処理部14の機能を実現するものであってもよい。この場合、表示制御部12は、プログラムを記憶する記憶デバイスを備える構成であってもよい。また、表示制御部12は、上記機能を実行するようプログラムされたハードウェアであってもよい。
【0026】
本実施形態では、表示システム1が、車両に搭載された構成を例示する。
図2は、車両における表示システム1の配置を示す概略図であり、車両に人が乗車する車室空間の概観を示す。
【0027】
図2に示す構成では、シート51の前方に表示領域2が配置される。シート51は、ステアリングホイール52が設置された座席、すなわち、車両の運転者が着座する座席である。この構成において、表示領域2を視認するユーザは、車両の運転者である。
【0028】
表示領域2は、例えば、車両のダッシュボード4に立設された合成樹脂製のパネルであり、透光性を有する。また、車両のフロントガラス3の一部が表示領域2として利用されてもよい。ユーザは、表示領域2を透過して車両の外景を視認できる。
投影部15は、ダッシュボード4に、表示領域2を向くように設置される。
【0029】
以下の説明では、フロントガラス3の一部を表示領域2として利用する構成を例に挙げて説明する。
【0030】
カメラ25は、例えば、ダッシュボード4に、シート51を向いて設置される。カメラ25は、シート51に着座するユーザの視線を検出する。
図2中の符号53は、車両に搭載されるカーナビゲーションシステムやディスプレイオーディオの表示画面である。符号54は、車両のルームミラーである。
図2に示す例では、カメラ25は表示画面53の上方に配置される。このため、ユーザが表示領域2を見るとき、表示画面53を見るとき、及び、ルームミラー54を見るときのユーザの視線を検出できる。
【0031】
図3は、視線推定部20が視線の移動を推測する動作の説明図である。
情報取得部21は、カメラ25の撮影画像データをもとに、ユーザの視線の方向を特定し、視線位置Pを求める。視線位置Pは、表示領域2を含む面とユーザの視線とが交差する点である。
【0032】
情報取得部21は、撮影画像データから視線位置Pを求める。情報取得部21は、撮影時刻が異なる複数フレームの撮影画像データのそれぞれをもとに視線位置Pを求める。すなわち、情報取得部21は、撮影画像データの1フレームから視線位置P1を求め、次に撮影されたフレームから視線位置P2を求める。同様に、情報取得部21は、視線位置P3、P4を求める。情報取得部21は、撮影時刻が異なる複数のフレームから求められた複数の視線位置Pをもとに、視線の軌跡Trを求めてもよい。この場合、情報取得部21が解析部22に出力するデータは視線位置P及び軌跡Trを含んでもよい。
【0033】
解析部22は、情報取得部21が求めた視線位置P1~P4に基づき、予測経路Tfを推定する。解析部22は、視線位置P、および/または、視線の軌跡Trを利用して、予測経路Tfを推定する。予測経路Tfは、軌跡Trに続いてユーザの視線が移動すると推定される経路であり、ユーザの視線の移動方向の推定結果ということができる。
【0034】
解析部22は、予測経路Tfとともに、或いは、予測経路Tfの代わりに、視点予測位置Qを求める。視点予測位置Qは、ユーザの視線の移動の目標位置あるいは到達位置を推定した結果であり、ユーザの視線の移動先ということができる。
【0035】
解析部22は、ユーザの視線の移動速度を推定し、移動速度を推定した結果を含む推定結果Rを出力してもよい。例えば、解析部22は、カメラ25の撮影周期と、視線位置P1、P2…の位置とをもとに、過去の視線位置Pの移動速度を算出する。ここで、解析部22は、視線位置P1と視線位置P4との距離に基づいて、視線位置P1~P4の平均の移動速度を算出してもよい。また、解析部22は、視線位置P1と視線位置P2との距離に基づき視線位置P1~P2における移動速度を算出し、同様に、視線位置P2~P3における移動速度、視線位置P3~P4における移動速度をそれぞれ算出してもよい。この場合、解析部22は、算出した移動速度の平均、或いは、移動速度の変化を加味した移動速度を算出してもよい。解析部22は、これらの手法によって算出した視線位置Pの移動速度を、ユーザの視線の移動速度の推定値として、推定結果Rに含めることができる。
【0036】
情報取得部21は、カメラ25から撮影画像データのフレームが入力される毎に、入力されたフレームから視線位置Pを求める処理を実行してもよい。この例において、解析部22は、情報取得部21が視線位置Pを求める毎に、新たに求められた視線位置Pと、過去のフレームから求められた視線位置Pとをもとに、予測経路Tfおよび/または視点予測位置Qを推定してもよい。視線推定部20は、予測経路Tfおよび/または視点予測位置Qを推定する毎に、推定結果Rを表示装置10に出力する。推定結果Rは、予測経路Tfおよび視点予測位置Qの少なくともいずれかを含む。
【0037】
表示制御部12は、推定結果Rに基づいて、表示領域2に表示するアイコンのサイズ、及び、配置を決定する。
表示領域2には、アイコンが表示される初期位置として、アイコン領域A1、A2、A3、A4が設定されている。表示制御部12は、例えば、4つのアイコン領域A1、A2、A3、A4のそれぞれに1つずつ、アイコンを表示させる。
【0038】
表示制御部12は、推定結果Rに基づいて、ユーザが表示領域2を注視すると推定される場合に、表示領域2にアイコンを表示させる。さらに、表示制御部12は、アイコン領域A1~A4のうち、ユーザが注視すると推定される領域のアイコンの表示サイズを変更する。例えば、
図3に示す例では、視点予測位置Qがアイコン領域A1にある。この場合、表示制御部12は、ユーザがアイコン領域A1を注視すると推定し、アイコン領域A1に表示するアイコンの表示サイズを変更する。
【0039】
図1に戻り、表示装置10が備えるインターフェイス11には、データDが入力される。データDは、視線推定部20を除く、表示装置10の外部の装置が出力するデータである。
【0040】
例えば、インターフェイス11に、表示システム1を搭載した車両が有するECU(Electronic Control Unit)を接続し、車両の動作に関するデータDがECUから表示装置10に入力される構成とすることができる。この場合、データDは、車両に関連する車両情報ということができる。具体的には、データDは、車両の速度、車両の操舵角、ウィンカー(ターンシグナルランプ)の点灯状態、パーキングブレーキの動作状態、シフトポジション、アクセル開度、フットブレーキの動作状態、ステアリングホイール52の操作角、ステアリングホイール52の操作トルク、燃料の残量等のいずれか1以上を含む。
【0041】
データDは、ステアリングホイール52にユーザが手を触れているハンズオン状態と、ステアリングホイール52にユーザが手を触れていないハンズオフ状態と、を示すデータを含んでもよい。データDは、車両に搭載されたADAS(Advanced Driver Assistance System)が実行する、運転のアシスト機能または自動運転機能の動作状態を示すデータを含んでもよい。
【0042】
また、車両が搭載するカーナビゲーションシステムをインターフェイス11に接続することが可能である。この場合、データDは、例えば、車両の目的地、経路、道路の規制情報、渋滞情報等を含むデータを含んでもよい。また、データDは、カーナビゲーションシステムが取得する各種のデータを含んでもよく、例えば、車両の現在地の気象情報を含んでもよい。
【0043】
[2.表示システムの動作]
図4は、表示システム1の動作を示すフローチャートであり、詳細には、GUI生成部13の動作を示す。
図5、
図6、
図7及び
図8は、表示装置10による表示例を示す図である。これらの図を参照して、表示システム1の動作を説明する。
【0044】
図4に示す処理は、視線推定部20が1フレームの撮影画像データから生成した推定結果RをGUI生成部13が取得し、GUI生成部13が1フレームのGUIのデータを生成する処理である。換言すれば、GUI生成部13は、視線推定部20から推定結果Rを取得する毎に、
図4の動作を実行する。
【0045】
GUI生成部13は、視線推定部20から推定結果Rを取得し(ステップS11)、取得した推定結果Rに基づいて、ユーザが表示領域2を注視する見込みがあるか否かを判定する(ステップS12)。
【0046】
ステップS12で、GUI生成部13は、例えば、推定結果Rに含まれる視点予測位置Qの位置、或いは、予測経路Tfをもとに判定を行う。すなわち、GUI生成部13は、視点予測位置Qが表示領域2に重なる位置にあるとき、及び、予測経路Tfが表示領域2に重なるときに、ユーザが表示領域2を注視する見込みがあると判定する。
【0047】
ステップS12で、GUI生成部13は、推定結果Rに含まれる視線の移動速度をもとに判定を行ってもよい。具体的には、予測経路Tfが表示領域2に重なる場合であって、ユーザの視線の移動速度をもとに所定時間内にユーザの視線が表示領域2に重なると推定される場合に、GUI生成部13は、ユーザが表示領域2を注視する見込みがあると判定する。
【0048】
ステップS12で、GUI生成部13は、例えば、ユーザが表示領域2よりも前方を注視しているか否かに基づき、ユーザが表示領域2を注視する見込みがあるか否かを判定してもよい。表示領域2よりも前方を注視することとは、具体的には、車両を運転中のユーザが、フロントガラス3の前方の外景を注視していることをいう。
GUI生成部13は、ユーザの視線が過去に所定時間以上、表示領域2の外に位置していた場合、或いは、ユーザの視線が表示領域2の外における特定の位置に偏っていた場合に、ユーザが表示領域2ではなく、表示領域2よりも前方を注視していると判定する。この場合、GUI生成部13は、ユーザが表示領域2を注視する見込みがないと判定する。
【0049】
ユーザが表示領域2を注視する見込みがないと判定した場合(ステップS12;NO)、GUI生成部13は、表示領域2にスタンバイ画面を表示するためのデータを生成する(ステップS13)。スタンバイ画面は、表示領域2に何も表示しない状態の画面であってもよいし、スタンバイ状態にあることを示す文字や画像を含む画面であってもよい。GUI生成部13は、生成したデータを描画処理部14に出力し(ステップS23)、本処理を終了する。GUI生成部13が生成するデータに基づき、描画処理部14はスタンバイ画面を描画する。これにより、投影部15によって表示領域2にスタンバイ画面が表示される。表示領域2にスタンバイ画面が表示された状態は、第1表示状態の一例に対応する。
【0050】
ユーザが表示領域2を注視する見込みがあると判定した場合(ステップS12;YES)、GUI生成部13は、表示領域2に表示されるGUIの生成を開始する(ステップS14)。これにより、投影部15が表示領域2に、GUIを表示する。ステップS14で表示領域2に表示されるGUIの例を、
図5に示す。
【0051】
図5は、表示領域2にGUIを表示した状態を示している。この表示例では、表示領域2に4つのアイコンSA、SB、SC、SDが表示される。アイコンSAの表示位置はアイコン領域A1(
図3)である。アイコンSB、SC、SDの表示位置は、アイコン領域A2、A3、A4である。ステップS14で表示されたGUIにおいて、アイコンSA、SB、SC、SDの表示サイズは同じサイズである。
図5には、一例として、車両の速度の表示を指示するためのアイコンSA、気象情報の表示を指示するためのアイコンSB、車両の状態に関する情報の表示を指示するためのアイコンSC、及び、道路の規制に関する情報の表示を指示するためのアイコンSDを示す。車両の状態に関する情報とは、例えば、車両の燃料の残量やバッテリーの残容量である。GUIに含まれるアイコンの数、種類、及び、アイコンに対応付けられる情報や機能は任意に変更可能である。
表示装置10がGUIを表示する状態は、第2表示状態の一例に対応する。
【0052】
ステップS12で、GUI生成部13は、推定結果Rによる判定と、データDに基づく判定とを組み合わせてもよい。例えば、GUI生成部13は、ステップS12で、データDに基づき、GUIを表示すべきでない状態、すなわち非表示推奨状態か否かを判定する。そして、GUI生成部13は、推定結果Rに基づきユーザが表示領域2を注視する見込みがあると判定した場合であって、非表示推奨でないと判定した場合に、ステップS14に移行する。また、GUI生成部13は、ステップS12で、推定結果Rに基づきユーザが表示領域2を注視する見込みがあると判定した場合であっても、非表示推奨状態であると判定した場合は、ステップS13に移行する。
【0053】
データDに基づく判定の例を挙げる。
例えば、GUI生成部13は、車両の速度、パーキングブレーキの動作状態、及び、シフトポジションのいずれかから車両が停止中であると推定される場合、非表示推奨状態でないと判定する。また、GUI生成部13は、車両の速度が予め設定された閾値以上の速度である場合、ユーザが操舵中であると推定される場合、ユーザが車両を加速する操作中であると推定される場合、及び、ユーザが減速操作中であると推定される場合のいずれも、非表示推奨状態であると判定する。また、GUI生成部13は、ユーザが交差点において車両を右折または左折させる動作中であると推定される場合、及び、車両がハンズオフの状態である場合、非表示推奨状態であると判定する。
【0054】
また、GUI生成部13は、燃料の残量が予め設定された閾値以下である場合、車両の現在地の気象情報が注意を要する気象条件に該当する場合、及び、カーナビゲーションシステム等の音声操作が開始された場合に、非表示推奨状態でないと判定してもよい。これらの場合、ユーザが表示領域2による情報表示を強く望んでいると考えられるため、表示領域2にGUIを表示する必要性が高いといえる。
【0055】
このように、GUI生成部13は、車両の状態や車両の外部要因に関するデータDに基づいて、GUI表示を行う前にGUI表示を行うことが適切か否かを判定してもよい。この場合、表示装置10は、車両の運転を阻害しないように、必要に応じて表示領域2にGUIを表示できる。
【0056】
ステップS14で表示領域2にGUIの表示を開始した後、GUI生成部13は、推定結果Rに基づいて、表示領域2に表示中のアイコンのうち、ユーザの視線の移動先に位置するアイコンを特定する(ステップS15)。ステップS15で、GUI生成部13は、例えば、アイコン領域A1~A4のうち、推定結果Rに含まれる視点予測位置Qに重なるアイコン領域を特定することによって、ユーザの視線の移動先に位置するアイコンを特定する。また、GUI生成部13は、視点予測位置Q或いは予測経路Tfが、アイコン領域A1~A4のいずれにも重ならない場合であっても、ユーザの視線の移動先に位置するアイコンを特定できる。例えば、GUI生成部13は、視線位置Pがアイコン領域A1~A4のいずれかに近づくように移動している場合、視線位置Pが近づいているアイコン領域A1~A4を特定することによって、ユーザの視線の移動先にあるアイコンを特定する。
【0057】
GUI生成部13は、GUIの生成を開始してから、ユーザが表示領域2を注視している状態が所定時間、継続しているか否かを判定する(ステップS16)。言い換えれば、ユーザの視線が、所定時間以上、表示領域2の内側にあるか否かを判定する。ここで、所定時間とは、予め、GUI生成部13に接続されたECUやGUI生成部13に設定された時間の閾値である。AMA(Automobile Manufacturers Association)やJAMA(日本自動車工業会)が定めたガイドラインでは、運転者が表示画面等を注視する総視認時間について、運転操作のディストラクションを回避する観点で規定がある。ステップS16の判定の基準となる所定時間は、例えば、上記のガイドラインに従って決定される。
【0058】
ユーザが表示領域2を注視している状態が所定時間、継続したと判定した場合(ステップS16;YES)、GUI生成部13は、GUIの代わりに、ユーザに対する警告画面を表示すると判定し(ステップS17)、警告画面のデータを描画処理部14に出力し(ステップS23)、本処理を終了する。ステップS17によって表示される警告は、例えば、ユーザに対して運転操作に注意を向けることを促す文字や画像である。
【0059】
ユーザが表示領域2を注視している状態が所定時間、継続していないと判定した場合(ステップS16;NO)、GUI生成部13は、表示領域2に表示中のアイコンの表示サイズを変更すると判定する(ステップS18)。ステップS18では、ステップS15で特定したアイコン、すなわちユーザの視線の移動先に位置するアイコンの表示サイズを拡大する。
【0060】
図6に、アイコンの表示サイズを拡大した表示例を示す。
図6の表示例では、アイコンSAの表示サイズが、
図5の表示例よりも大きい。表示装置10は、例えば、ステップS15において、視点予測位置Qがアイコン領域A1に属する場合に、ユーザの視線の移動先にあるアイコンがアイコンSAであると特定する。この場合、表示装置10は、アイコンSAの表示サイズを拡大して、投影部15による表示を更新する。
【0061】
表示装置10は、ステップS18で、時間の経過あるいはユーザの視線の移動に伴い、段階的にアイコンの表示サイズを変更してもよい。例えば、表示装置10は、ユーザの視線位置Pが、或いは視点予測位置Qが、ステップS15で特定したアイコン領域(A1、A2、A3、A4のいずれか)に近づくほど、アイコンの表示サイズを段階的に大きくする動作を行う。
図7に、アイコンの表示サイズをさらに拡大した表示例を示す。
図7の表示例では、アイコンSAの表示サイズが、
図6の表示例よりも大きい。
【0062】
図4に戻り、GUI生成部13は、ユーザが、表示領域2に表示されたアイコンを注視する見込みがあるか否かを判定する(ステップS19)。すなわち、GUI生成部13は、ユーザが表示領域2のアイコンのいずれかを注視しようとしているか否かを判定する。ステップS19で、例えば、GUI生成部13は、ステップS15で特定したアイコンをユーザが注視する可能性が、予め設定された基準よりも高い可能性となった場合に、ユーザがアイコンを注視する見込みがあると判定する。
【0063】
ユーザがアイコンを注視する見込みがあると推定した場合(ステップS19;YES)、表示装置10は、ステップS15で特定したアイコンの表示を、情報表示に切り替える(ステップS20)。すなわち、GUI生成部13は、情報表示を行うためのデータを生成するGUI生成部13は、生成したデータを出力し(ステップS23)、本処理を終了する。
【0064】
図8に、アイコンを情報表示に切り替えた表示例を示す。
図8の表示例では、
図7のアイコンSAの位置に、情報表示InAが配置される。情報表示InAは、アイコンSAに対応付けられた情報である、車両の速度を表示する。表示装置10がアイコンを情報表示に切り替えた状態は、第3表示状態の一例に対応する。
【0065】
ステップS19で、GUI生成部13は、ステップS12で行う動作と同様に、データDに基づく判定を行ってもよい。
また、ステップS19で、表示装置10は、ステップS12と同様に、ユーザが表示領域2よりも前方を注視しているか否かに基づき、ユーザがアイコンを注視する見込みがあるか否かを推定してもよい。
【0066】
ユーザがアイコンを注視する見込みがないと推定した場合(ステップS19;NO)、GUI生成部13は、表示領域2が情報表示を表示中であって、表示領域2の情報表示からユーザの視線が外れたか否かを判定する(ステップS21)。情報表示からユーザの視線が外れていない場合(ステップS21;NO)、GUI生成部13は、情報表示を行うためのデータを生成し(ステップS20)、生成したデータを出力し(ステップS23)、本処理を終了する。
【0067】
情報表示からユーザの視線が外れたと判定した場合(ステップS21;YES)、表示装置10は、表示領域2における情報表示を終了してGUIの表示に切り替えるため、GUIのデータを生成する(ステップS22)。GUI生成部13は生成したデータを出力し(ステップS23)、本処理を終了する。
【0068】
GUI生成部13は、アイコンの表示位置を変更する動作を行ってもよい。例えば、GUI生成部13は、ユーザが表示領域2よりも前方を注視している場合に、ユーザが注視している方向を避けるように、アイコンの表示位置を変更する。
【0069】
図9は、表示装置10による表示の例を示す図であり、アイコンの表示位置を変更する例を示す。
図9には、ユーザが、フロントガラス3の前方に位置する実空間の車両Vを注視している場合の表示例を示す。
ユーザが車両Vを所定時間以上、注視していた場合、ユーザの視線の位置は、表示領域2から外れた位置であって車両Vに重なる位置、及び、表示領域2に重なる位置であって車両Vに重なる位置に集中する。GUI生成部13は、ユーザの視線が集中していた領域である注視領域AAを特定する。注視領域AAは、例えば、所定時間以上、或いは、所定以上の頻度で、ユーザの視線が集まっていた場所を含む領域であって、特に、表示領域2に重なる領域である。GUI生成部13は、ユーザの視線が注視領域AAにある間、及び、ユーザの視線が注視領域AAの外に移動した後であって予め設定された時間内は、GUIに含まれるアイコンを注視領域AAの外に配置する。
図9の例では、注視領域AAがアイコン領域A4に重なるため、アイコンSDが注視領域AAを避ける位置に表示される。つまり、アイコンSDの表示位置が、ユーザの視線から離れる方向に移動される。また、
図9の例では、注視領域AAに重ならないアイコンSCの表示位置が、初期位置であるアイコン領域A3から移動されている。すなわち、GUI生成部13は、注視領域AAに重ならないアイコンのうち、注視領域AAに近いアイコンの表示位置を、ユーザの視線から離れる方向に移動させてもよい。
【0070】
[3.他の実施形態]
上記実施形態は本発明を適用した一具体例を示すものであり、発明が適用される形態を限定するものではない。
【0071】
上記実施形態では、表示システム1が車両に搭載された例を説明したが、表示システム1の適用対象は車両に限定されない。また、表示システム1を搭載する車両は、乗用車に限らず、貨物車や作業用車両であってもよい。また、上記車両は四輪車に限定されず、二輪車であってもよい。
【0072】
上記実施形態では、視線推定部20に接続される視線検出デバイスによってユーザの視線を検出する構成を説明したが、視線推定部20が、例えばユーザが身体に装着するデバイスや、他のシステムと通信を実行して、視線方向を検出した結果を取得する構成であってもよい。また、視線推定部20を、表示装置10と一体に構成してもよい。
【0073】
また、表示システム1は、独立した表示装置10を備えるシステムに限定されない。例えば、車両に搭載されるカーナビゲーションシステム、ADAS、自動運転(AD)システム等が、表示システム1の機能を実装する構成としてもよい。例えば、表示画面53等の表示装置を有する上記システムが表示システム1の機能を備える構成であってもよい。その他、表示システム1の具体的な実装態様は任意に変更可能である。
【0074】
[4.上記実施形態によりサポートされる構成]
上記実施形態は、以下の構成の具体例である。
【0075】
(構成1)表示領域に表示を行う表示部と、前記表示部によって前記表示領域に表示を行わせる表示制御部と、を備え、前記表示制御部は、ユーザの視線の移動を推定する視線推定部から推定結果を取得し、する情報の内容表示を指示するためのシンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて前記ユーザが前記シンボルのいずれかを注視しようとしているか否かを推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示装置。
構成1の表示装置によれば、ユーザの視線の移動に関する推定結果に基づいて、ユーザがシンボルを注視しようとしている場合に、シンボルの表示態様を変更する。これにより、表示装置が表示するシンボルの表示態様を、ユーザの求めに応じて、ユーザの視線に対応して変化させることができる。
【0076】
(構成2)前記表示制御部は、前記ユーザの視線方向、前記ユーザの視線の移動速度、前記ユーザの視線の移動方向、及び、前記ユーザの視線の移動先の少なくともいずれかを含む前記推定結果を取得し、前記ユーザの視線が前記シンボルに近づく方向に移動する場合、前記ユーザがいずれかの前記シンボルを注視しようとしていると推定して、前記シンボルの表示態様を変更する、構成1記載の表示装置。
構成2の表示装置によれば、ユーザの視線を推定した結果に基づいて、ユーザがシンボルを注視しようとしているか否かを、正確に推定できる。
【0077】
(構成3)前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、前記ユーザが前記表示領域よりも前方を注視していないと判定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、構成1または構成2記載の表示装置。
構成3の表示装置によれば、ユーザが車両を運転している間、表示態様を変更するとユーザの集中を妨げる可能性がある場合は表示態様を変更しない。このため、ユーザが運転に集中できる環境を整え、ユーザが必要とする場合に表示態様を変更することによって、ユーザの利便性の向上を図ることができる。
【0078】
(構成4)前記表示領域は、前記ユーザが運転する車両において、前記車両の運転席の前方に配置され、前記表示制御部は、前記推定結果に基づいて、前記ユーザが前記表示領域よりも前方を注視しているか否かを判定し、前記ユーザが前記表示領域よりも前方を注視していると判定した場合に、前記表示領域に表示されている前記シンボルの表示位置を、前記ユーザの視線から離れる方向に移動させる、構成1または構成2記載の表示装置。
構成4の表示装置によれば、ユーザが車両を運転している間、シンボルの表示位置を移動させることによってユーザが運転に集中しやすい環境を整えることができる。
【0079】
(構成5)前記シンボルは、前記車両の状態を示す情報の表示を指示するアイコンであり、前記表示制御部は、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を、前記シンボルに対応付けられた情報の表示に切り替える、構成3または構成4記載の表示装置。
構成5の表示装置によれば、ユーザの求めに応じて情報を表示できる。
【0080】
(構成6)前記車両の状態に関する車両情報が入力されるインターフェイスを備え、前記表示制御部は、前記車両情報と前記推定結果とに基づいて、前記ユーザが前記シンボルのいずれかを注視しようとしているか否かを推定する、構成3から構成5のいずれかに記載の表示装置。
構成6の表示装置によれば、車両の状態に関する情報を利用して、ユーザがシンボルを注視しようとしているか否かを、より正確に推定できる。
【0081】
(構成7)前記表示制御部は、前記表示領域に前記シンボルを表示させない第1表示状態と、前記シンボルを表示させる第2表示状態と、前記シンボルの表示態様を変化させた第3表示状態と、を切り替え可能であり、前記第1表示状態において、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合であって、前記ユーザの視線が前記表示領域に重なる状態となった場合に、前記第2表示状態への切り替えを行い、前記第2表示状態において、前記表示領域において前記ユーザの視線に重なる位置が、前記ユーザが注視しようとしている前記シンボルに対して所定範囲内となった場合に、前記第3表示状態への切り替えを行う、構成1から構成6のいずれかに記載の表示装置。
構成7の表示装置によれば、ユーザの視線の移動に伴って表示領域の表示を段階的に切り替える。これにより、ユーザが求める場合に情報をユーザに提供し、不要な情報の表示を回避できる。
【0082】
(構成8)表示領域に表示を行う表示部と、前記表示部によって前記表示領域に表示を行わせる表示制御部と、ユーザの視線の移動を推定する視線推定部と、を備え、前記表示制御部は、前記視線推定部から推定結果を取得し、表示する情報の内容を指示するためのシンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて前記ユーザが前記シンボルのいずれかを注視しようとしているか否かを推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示システム。
構成8の表示システムによれば、ユーザの視線の移動に関する推定結果に基づいて、ユーザがシンボルを注視しようとしている場合に、シンボルの表示態様を変更する。これにより、表示装置が表示するシンボルの表示態様を、ユーザの求めに応じて、ユーザの視線に対応して変化させることができる。
【0083】
(構成9)表示領域に表示を行う表示制御方法であって、ユーザの視線の移動を推定する視線推定部から推定結果を取得し、表示する情報の内容を指示するためのシンボルを前記表示領域に表示させた状態で、前記推定結果に基づいて前記ユーザが前記シンボルのいずれかを注視しようとしているか否かを推定し、前記ユーザが前記シンボルのいずれかを注視しようとしていると推定した場合、前記ユーザが注視すると推定される前記シンボルの表示態様を変更する、表示制御方法。
構成9の表示制御方法によれば、ユーザの視線の移動に関する推定結果に基づいて、ユーザがシンボルを注視しようとしている場合に、シンボルの表示態様を変更する。これにより、表示装置が表示するシンボルの表示態様を、ユーザの求めに応じて、ユーザの視線に対応して変化させることができる。
【符号の説明】
【0084】
1…表示システム、2…表示領域、10…表示装置、11…インターフェイス、13…GUI生成部、14…描画処理部、15…投影部、20…視線推定部、21…情報取得部、22…解析部、25…カメラ、D…データ、R…推定結果。