IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックオートモーティブシステムズ株式会社の特許一覧

<>
  • 特許-視線入力装置 図1
  • 特許-視線入力装置 図2
  • 特許-視線入力装置 図3
  • 特許-視線入力装置 図4A
  • 特許-視線入力装置 図4B
  • 特許-視線入力装置 図5
  • 特許-視線入力装置 図6
  • 特許-視線入力装置 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-20
(45)【発行日】2024-06-28
(54)【発明の名称】視線入力装置
(51)【国際特許分類】
   G06F 3/01 20060101AFI20240621BHJP
   G06F 3/0481 20220101ALI20240621BHJP
   B60R 16/02 20060101ALI20240621BHJP
【FI】
G06F3/01 510
G06F3/01 570
G06F3/0481
B60R16/02 630Z
【請求項の数】 12
(21)【出願番号】P 2020181907
(22)【出願日】2020-10-29
(65)【公開番号】P2022072453
(43)【公開日】2022-05-17
【審査請求日】2023-07-21
(73)【特許権者】
【識別番号】322003857
【氏名又は名称】パナソニックオートモーティブシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】江頭 飛鳥
(72)【発明者】
【氏名】高田 征吾
(72)【発明者】
【氏名】高疇 大樹
(72)【発明者】
【氏名】松下 賢也
(72)【発明者】
【氏名】竹川 視野
【審査官】木内 康裕
(56)【参考文献】
【文献】特開2014-218199(JP,A)
【文献】特開2019-006183(JP,A)
【文献】再公表特許第2017/038248(JP,A1)
【文献】特表2018-519601(JP,A)
【文献】特開2009-213779(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/048 - 3/04895
B60R 16/02
(57)【特許請求の範囲】
【請求項1】
車両のウインドシールド前方且つ運転席の正面に設定された表示領域に表示された1又は複数の入力要素の画像である第一の画像に対する、ユーザの視線による第一の入力を判定する視線判定部と、
前記第一の入力が検出された入力要素に対応する外部機器に対して指令を出力する入出力処理部と、
前記ユーザの状態に基づいて、前記ユーザが漫然状態であるか否かを判定する漫然状態判定部とを備え、
前記入出力処理部は、
前記視線判定部により1又は複数の前記第一の画像のうちいずれかに対する前記第一の入力があると判定され、且つ、前記漫然状態判定部により前記ユーザが漫然状態でないと判定された場合、前記第一の入力が検出された入力要素に対する前記第一の入力を確定し、
前記漫然状態判定部により前記ユーザが漫然状態であると判定された場合、前記入力要素に対する前記第一の入力を確定せず、
前記漫然状態判定部により漫然状態であると判定された前記ユーザから第三の入力を受け付けた場合には、前記入力要素に対する入力を確定する
視線入力装置。
【請求項2】
前記ユーザによる第二の入力を判定する入力判定部を更に備え、
前記入出力処理部は、前記視線判定部により1又は複数の前記第一の画像のうちいずれかに対する前記第一の入力があると判定され、且つ、前記入力判定部により前記ユーザの前記第二の入力があると判定され、且つ、前記漫然状態判定部により前記ユーザが漫然状態でないと判定された場合、前記第一の入力が検出された入力要素に対する前記第一の入力を確定する
請求項1に記載の視線入力装置。
【請求項3】
前記表示領域に前記第一の画像を表示するヘッドアップディスプレイ装置を更に備え、
前記ヘッドアップディスプレイ装置は、前記表示領域において複数の前記第一の画像を列にして表示するとともに、前記表示領域の端部に表示される前記第一の画像のうち外寄りの部分を非表示とし、
前記入出力処理部は、前記視線判定部により前記列の中央の前記第一の画像上に前記第一の入力があると判定され、且つ、前記入力判定部により前記ユーザの前記第二の入力があると判定され、且つ、前記漫然状態判定部により前記ユーザが漫然状態でないと判定された場合、前記中央の入力要素に対する前記第一の入力を確定する
請求項2に記載の視線入力装置。
【請求項4】
前記視線判定部と、前記入出力処理部と、前記漫然状態判定部と、前記入力判定部とを備える入出力装置と、
前記運転席に座った前記ユーザの視線による前記第一の入力を検出する視線検出装置と、
前記ユーザによる前記第二の入力を検出する入力検出装置と、
前記ユーザの状態を検出する状態検出装置と、を更に備え、
前記視線判定部は、前記視線検出装置から取得した検出結果に基づいて、前記第一の入力が1又は複数の前記第一の画像のうちのいずれの第一の画像に対する入力であるかを判定し、
前記入力判定部は、前記入力検出装置から取得した検出結果に基づいて、前記ユーザによる前記第二の入力があるか否かを判定し、
前記漫然状態判定部は、前記状態検出装置から取得した前記ユーザの状態に基づいて、前記ユーザが漫然状態であるか否かを判定する
請求項2又は3に記載の視線入力装置。
【請求項5】
前記入出力処理部は、前記漫然状態判定部により前記ユーザが漫然状態であると判定された場合、前記視線検出装置からの前記第一の入力の受付けを停止する
請求項4に記載の視線入力装置。
【請求項6】
前記入出力処理部は、前記漫然状態判定部により前記ユーザが漫然状態であると判定された場合、前記外部機器への指令の出力を停止する
請求項1~5のいずれか1項に記載の視線入力装置。
【請求項7】
前記漫然状態判定部により前記ユーザが漫然状態であると判定された場合に前記ユーザに対し通知を行う通知部を更に備える
請求項1~6のいずれか1項に記載の視線入力装置。
【請求項8】
前記通知部は、第二の画像を表示することにより前記ユーザに対し通知を行う
請求項7に記載の視線入力装置。
【請求項9】
前記通知部は、音を発することにより前記ユーザに対し通知を行う
請求項7に記載の視線入力装置。
【請求項10】
前記第二の入力は、視線、音声、又はジェスチャのうち少なくとも1つである
請求項2~5のいずれか1項に記載の視線入力装置。
【請求項11】
前記第三の入力は、視線、音声、又はジェスチャのうち少なくとも1つである
請求項1~10のいずれか1項に記載の視線入力装置。
【請求項12】
記第二の入力及び前記第三の入力は、ジェスチャであり、
前記第三の入力としてのジェスチャは、前記第二の入力としてのジェスチャとは異なる
請求項2~5のいずれか1項に記載の視線入力装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、視線入力装置に関する。
【背景技術】
【0002】
特許文献1は、視線により入力要素を選択する視線入力装置を開示する。この視線入力装置では、車両の運転席の正面に設定された表示領域に入力要素の画像をヘッドアップディスプレイ装置により表示し、表示領域に表示された画像を見るユーザの注視点を運転席の正面に設置された視線検出装置により検出して、ヘッドアップディスプレイ装置に対して視線入力を行っている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2014-218199号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に記載された視線入力装置によれば、ユーザが漫然状態となっている場合にもユーザの視線入力が有効に取り扱われることとなるが、このような視線入力はユーザの意図に沿うものではなく、それにより誤った出力がされる恐れがある。
本開示は、上記の課題を解決するためになされたものであり、ユーザが漫然状態である場合の意図しない視線入力を抑制する視線入力装置を提供する。
【課題を解決するための手段】
【0005】
本開示における視線入力装置は、視線判定部と、入出力処理部と、漫然状態判定部とを備える。視線判定部は、車両のウインドシールド前方且つ運転席の正面に設定された表示領域に表示された1又は複数の入力要素の画像である第一の画像に対する、ユーザの視線による第一の入力を判定する。入出力処理部は、第一の入力が検出された入力要素に対応する外部機器に対して指令を出力する。漫然状態判定部は、ユーザの状態に基づいて、ユーザが漫然状態であるか否かを判定する。入出力処理部は、視線判定部により1又は複数の第一画像のうちいずれかに対する第一の入力があると判定され、且つ、漫然状態判定部によりユーザが漫然状態でないと判定された場合、第一の入力が検出された入力要素に対する第一の入力を確定し、漫然状態判定部によりユーザが漫然状態であると判定された場合、入力要素に対する第一の入力を確定しない。入出力処理部は、漫然状態判定部により漫然状態であると判定されたユーザから第三の入力を受け付けた場合には、入力要素に対する入力を確定する。
【発明の効果】
【0006】
本開示における視線入力装置は、ユーザが漫然状態である場合の意図しない視線入力を抑制し得る。
【図面の簡単な説明】
【0007】
図1図1は、実施の形態1における視線入力装置の構成の一例を示すブロック図である。
図2図2は、実施の形態1におけるHUD装置の使用例を示す図である。
図3図3は、実施の形態1における視線入力装置の適用例を示す図である。
図4A図4Aは、実施の形態1におけるHUD装置により表示領域に表示される入力要素の一例を示す図である。
図4B図4Bは、実施の形態1におけるHUD装置により表示領域に表示される入力要素の別の例を示す図である。
図5図5は、実施の形態1における視線入力装置の視線入力処理の一例を示すフローチャートである。
図6図6は、実施の形態2における視線入力装置の構成の一例を示すブロック図である。
図7図7は、実施の形態2における視線入力装置の視線入力処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
【0009】
なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0010】
(実施の形態1)
以下、図1~5を用いて、実施の形態1を説明する。
【0011】
(構成)
まず、本実施の形態に係る視線入力装置の構成について図1~3を用いて説明する。
【0012】
本実施の形態に係る視線入力装置1は、図1に示すように、HUD(ヘッドアップディスプレイ)装置10、視線検出装置20、ジェスチャ検出装置30、状態検出装置40、及び入出力装置50を備える。視線入力装置1は、HUD装置10の表示領域R(図4A、4Bに図示)に表示された入力要素をユーザ200が注視していることを検出するとともに、ユーザ200による所定のジェスチャを検出したことを条件として、選択された入力要素の入力を確定する。
【0013】
HUD装置10は、図2に示すように、車両100のダッシュボード120に内蔵されている。HUD装置10は、入出力装置50から出力された、入力要素の画像を含む映像光を車両100のウインドシールド110に投射する。その結果、この映像光は、ウインドシールド110に反射し、例えば、車両100の運転手であるユーザ200に向かう。これにより、ユーザ200は、ウインドシールド110越しに映像光が示す画像を、車両100の前方に設定された仮想の表示領域Rに存在する虚像として視認する。つまり、HUD装置10は、映像光が示す画像を虚像としてユーザ200に視認させる。なお、表示領域Rに表示する入力要素の画像については後で詳述する。また、ウインドシールド110は表示媒体の一例である。本実施の形態では、表示媒体はウインドシールド110であるが、車両100にコンバイナが備えられている場合には、HUD装置10は、表示媒体としてそのコンバイナに映像光を投射してもよい。入力要素である画像は、本実施の形態における「第一の画像」の一例である。
【0014】
視線検出装置20は、運転席の正面に設置され、運転席に座ったユーザ200の注視点を検出する装置である。ここで、ユーザ200の注視点は、特許請求の範囲でいう「第一の入力」に対応している。詳しくは、視線検出装置20は、ユーザ200から見て車両100のステアリングホイール130の奥に設置され、目に見えない近赤外光が照射されたユーザ200の目を撮影するカメラである。ユーザ200の注視点を検出するためには、視線検出装置20は、ユーザ200の注視点の上下左右30°以内に設置されていることが望ましい。本実施の形態では、表示領域R上のユーザ200の注視点を検出するために、視線検出装置20は、ユーザ200から見て表示領域Rの中心から下側に10°の位置のダッシュボード120に設置されている。
【0015】
ジェスチャ検出装置30は、図3に示すように、例えばカーナビゲーション装置140の画面の上側に配置される。図3では、ジェスチャ検出装置30のジェスチャ検出領域31を破線円で示している。ジェスチャ検出装置30は、ジェスチャ検出領域31内においてユーザ200が行う非接触のジェスチャを検出する。ここで、ジェスチャは、ユーザ200による「第二の入力」の一例である。ジェスチャ検出装置30は、例えば静電容量方式のジェスチャセンサである。静電容量方式のジェスチャセンサは、複数の電極を有し、各電極の静電容量の時間的な変化を測定する。静電容量方式のジェスチャセンサは、静電容量の時間的な変化がジェスチャとして予め定義している変化と同様であると判断した場合に、ジェスチャが行われたと推測する。
【0016】
なお、ジェスチャ検出装置30は、視線検出装置20よりも下側のインストルメントパネル等に設置されてもよい。また、ジェスチャ検出装置30は、赤外線式、音波式のジェスチャセンサや、撮像装置を利用したジェスチャセンサ等であってもよい。
【0017】
状態検出装置40は、車両100内に備えられる各種のセンサであり、ユーザ200の状態を検出する。状態検出装置40は、一例として、ユーザ200の顔を撮影するカメラであり、この場合にはユーザ200の状態とはユーザ200の視線の動きや表情等を指す。このカメラは、ユーザ200から見て車両100のステアリングホイール130の奥に設置される。なお、このカメラは、上述した視線検出装置20としてのカメラと共有のものであってもよいし、視線検出装置20としてのカメラとは別に設けられてもよい。また、状態検出装置40は、ユーザ200の心拍を検出する心拍検出装置であってもよく、この場合にはユーザ200の状態とはユーザ200の心拍数や心拍の強さ等を指す。この心拍検出装置は、車両100のステアリングホイール130や座席に設けられ又はユーザ200の身体に取り付ける接触型のセンサであってもよいし、脈波に対応したユーザ200の顔色の変化を検出するカメラ等の非接触型のセンサであってもよい。
【0018】
入出力装置50は、映像信号出力部51、入出力処理部52、視線判定部53、ジェスチャ判定部54、及び漫然状態判定部55を備える。
【0019】
映像信号出力部51は、表示領域Rに表示させる映像信号を、入出力処理部52へ出力する。
【0020】
視線判定部53は、HUD装置10によって表示された1又は複数の入力要素の画像に対する、ユーザ200の視線による第一の入力を判定する。より詳細には、視線判定部53は、視線検出装置20から取得した検出結果に基づいて、第一の入力がいずれの入力要素の画像に対する入力であるかを判定する。例えば、視線判定部53は、視線検出装置20により撮影されたユーザ200の目の画像から、視線方向によって位置が変わる瞳孔、及び視線方向には影響を受けない角膜反射を検出し、瞳孔と角膜反射との位置関係から注視点(第一の入力)を検出する。そして、視線判定部53は、検出した注視点の座標を入出力処理部52へ出力する。
【0021】
ジェスチャ判定部54は、ジェスチャ検出装置30によりユーザ200の特定のジェスチャ、例えば手を振るジェスチャ(第二の入力)が検出されたことを条件として、入力確定信号を入出力処理部52へ出力する。
【0022】
ここで、本実施の形態では、第二の入力としてジェスチャを検出する構成となっているが、第二の入力はジェスチャに限られない。例えば、第二の入力として、ユーザ200の視線、瞬き、声、又は接触等を検出する構成としてもよい。つまり、ジェスチャ検出装置30は、第二の入力を検出する「入力検出装置」の一例であり、入力検出装置としてはユーザ200による何らかの入力を検出し得るものであれば、カメラ、マイク、タッチパネル、又はボタン等、その他の装置であっても用いることができる。また、ジェスチャ判定部54は、第二の入力を判定する「入力判定部」の一例であり、入力判定部としては、入力検出装置による入力に応じて、所定の視線、瞬き、声、又は接触等を判定し得るものが用いられる。
【0023】
漫然状態判定部55は、ユーザ200の状態に基づいて、ユーザ200が漫然状態であるか否かを判定する。より詳細には、漫然状態判定部55は、状態検出装置40により検出されたユーザ200の状態を状態検出装置40から取得し、取得したユーザ200の状態から、ユーザ200が漫然状態であるか否かを判定する。ここで、漫然状態とは、例えば、集中力や注意力が低下した状態を指す。
【0024】
漫然状態判定部55は、例えば、ユーザ200の視線方向に位置する対象物とユーザ200の焦点位置とのずれに基づいて、ユーザ200が漫然状態であるか否かを判定する。詳細には、漫然状態判定部55は、ユーザ200の顔画像に基づいてユーザ200の右目及び左目のそれぞれの視線方向を算出し、それらからユーザ200の焦点位置を算出する。次に、漫然状態判定部55は、前方画像に含まれ、且つ、ユーザ200の視線方向に位置する対象物の位置を算出する。そして、漫然状態判定部55は、算出した対象物の位置と焦点位置との距離が所定閾値以上である場合、ユーザ200が漫然状態であると判定する。
【0025】
また、漫然状態判定部55は、ユーザ200の顔の向きの変動量に基づいて、ユーザ200が漫然状態であるか否かの判定をし得る。詳細には、漫然状態判定部55は、ある時間当たりの車両100の速度の変動及び舵角の変動がいずれも所定閾値以下であるか否かを判断し、所定閾値以下であるときには車両100は単調走行であると判定する。そして、漫然状態判定部55は、車両100が単調走行であるときには、ある時間当たりのユーザ200の顔の向きの変動が所定閾値以下であるか否かを判断し、所定閾値以下であるときにはユーザ200が漫然状態であると判定する。
【0026】
なお、漫然状態判定部55による漫然状態の判定方法は上記した内容に限定されず、ユーザ200の表情や心拍に基づいて判定する等、種々の方法が採用され得る。
【0027】
入出力処理部52は、映像信号出力部51から送信された映像信号をHUD装置10へ出力する。また、入出力処理部52は、映像信号出力部51から送信された映像信号と、視線判定部53から送信された注視点の座標とから、ユーザ200が選択している入力要素を判定する。また、入出力処理部52は、入力要素に対応する外部機器に対して指令を出力する。より詳細には、入出力処理部52は、ジェスチャ判定部54から入力確定信号を受信すると、ユーザ200が選択している入力要素の入力を確定し、入力要素に対応する外部機器2に対して指令を出力する。
【0028】
また、入出力処理部52は、視線判定部53により入力要素のうちいずれかの画像上に第一の入力があると判定され、且つ、漫然状態判定部55によりユーザ200が漫然状態ではないと判定された場合、第一の入力に基づいて入力要素の入力を確定する。そして、入出力処理部52は、当該入力要素に対応する外部機器2に対して指令を出力する。
【0029】
また、入出力処理部52は、漫然状態判定部55によってユーザ200が漫然状態であると判定された場合、ユーザ200による第一の入力に基づく入力要素の入力を確定しない。本実施の形態においては、この場合、入出力処理部52は、漫然状態判定部55によってユーザ200が漫然状態であると判定された場合は、その後にジェスチャ判定部54から入力確定信号を受信したか否かに関わらず、入力要素に対応する外部機器2に対して指令を出力しない。
【0030】
ここで、入出力装置50は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、I/O(Input/Output port)等を有するECU(Electronic Control Unit)を備える。そして、入出力装置50のCPUは、ROM等に記憶されたプログラムを実行することにより、上述した映像信号出力部51、入出力処理部52、視線判定部53、及びジェスチャ判定部54として機能する。なお、映像信号出力部51、入出力処理部52、視線判定部53、及びジェスチャ判定部54のそれぞれが上記のようなCPUを備え、入出力装置50を構成してもよい。
【0031】
(動作)
次に、本実施の形態に係る視線入力装置の動作について図4A~5を用いて説明する。
【0032】
まず、図4A、4Bを参照して、HUD装置10が表示領域Rに表示させる入力要素について説明する。図4A、4Bにおいて、目の記号Eは、ユーザ200の注視点をイメージしており、実際には表示領域Rには表示されない。図4Aに示すように、HUD装置10は、表示領域Rにおいて、複数の入力要素の画像I1、I2、I3を列にして表示する。なお、以降では、入力要素の画像I1、I2、・・・を総称して入力要素の画像Iともいう。本実施の形態では、表示する入力要素の画像Iの数は3つである。さらに、HUD装置10は、表示領域Rの左右両端部に表示される入力要素の画像Iのうち外寄りの部分を非表示とする。すなわち、左端部に表示される入力要素の画像I1の左側の部分と、右端部に表示される入力要素の画像I3の右側の部分とを非表示にする。このようにすることにより、入力要素の画像Iは、表示領域Rに表示されている3つだけではなく、表示領域Rの左右両側に続いていることが示される。また、HUD装置10は、表示領域Rの中央下側には、車両100の変速機の変速位置を表示する。本実施の形態では、走行の安全のため、車両100の停車時に限り、ユーザ200による入力要素の入力を可能としている。HUD装置10によって車両100の変速機の変速位置が表示されることにより、ユーザ200は、表示領域Rに表示された変速位置がパーキングである場合に視線入力が可能であると分かる。
【0033】
図4Aでは、ユーザ200は左端の入力要素の画像I1を注視して、選択している。ここでは、ユーザ200の注視点が列の中央の入力要素の画像I2とは異なる画像上にあるので、この状態でユーザ200がジェスチャをしても、注視点がある入力要素の画像I1の入力は確定しない。ユーザ200の注視点が列の中央の入力要素の画像I2とは異なる画像上にある場合は、HUD装置10は、図4Bに示すように、ユーザ200の注視点がある入力要素の画像I1を、列の中央に移動させて表示領域Rに表示する。すなわち、HUD装置10は、図4Aの状態から、入力要素の画像Iを1つずつ右にずらして表示領域Rに表示する。これにより、図4Aで右側に表示されていた入力要素の画像I3が図4Bでは表示されなくなり、図4Aでは表示されていなかった入力要素の画像I4が図4Bでは左端に表示される。この状態で、中央の入力要素の画像I1を見つめながら手210を振る等の所定のジェスチャをユーザ200が行うと、ユーザ200の注視点がある入力要素の入力が入出力処理部52により確定される。
【0034】
続いて、図5を参照して、視線入力装置1の処理動作について説明する。
【0035】
まず、ステップS11において、HUD装置10が、ウインドシールド110に入力要素の画像を表示する。HUD装置10は、例えば、車両100のイグニッションがオンになったときに起動し、ウインドシールド110に対する画像の投射を開始する。なお、HUD装置10だけでなく、視線検出装置20、ジェスチャ検出装置30、及び状態検出装置40についても、車両100のイグニッションがオンになったときに起動する構成としてもよい。また、HUD装置10が表示する画像の内容は、図5の視線入力処理のフローチャートとは無関係に、適宜更新されてもよい。
【0036】
次に、ステップS12において、視線判定部53は、ユーザ200が入力要素の画像を注視しているか否かを判定する。詳細には、まず、視線検出装置20がユーザ200の目を撮影し、その画像を視線判定部53へ出力する。そして、視線判定部53は、視線検出装置20により撮影されたユーザ200の目の画像から、ユーザ200の注視点を検出し、検出した注視点に基づいて、ユーザ200の視線が入力要素の画像に向けられているか否かを判定する。視線判定部53は、ユーザ200が入力要素の画像を注視していると判定した場合(ステップS12でYES)、検出した注視点に対応する入力要素に関する情報を入出力処理部52に通知する。その後、処理はステップS13に進む。
【0037】
ステップS13において、ジェスチャ判定部54は、ユーザ200が所定のジェスチャを行っているか否かを判定する。詳細には、まず、ジェスチャ検出装置30が、ジェスチャ検出装置30に手をかざす等のユーザ200の手210の動きのジェスチャを検出し、検出したジェスチャをジェスチャ判定部54へ出力する。次に、ジェスチャ判定部54は、ジェスチャ検出装置30から出力されたジェスチャが所定のジェスチャであるか否かを判定する。所定のジェスチャとは、例えば、手を振るジェスチャである。すなわち、ジェスチャ判定部54は、ジェスチャ検出装置30から出力されたジェスチャが手を振る等の所定のジェスチャである場合、ユーザ200が所定のジェスチャを行っていると判定する。ジェスチャ判定部54は、ユーザ200が所定のジェスチャを行っていると判定した場合(ステップS13でYES)、ユーザ200が所定のジェスチャを行っていることを入出力処理部52に通知する。その後、処理はステップS14に進む。
【0038】
ステップS14において、漫然状態判定部55は、ユーザ200が漫然状態であるか否かを判定する。詳細には、まず、状態検出装置40が、状態検出装置40として機能するカメラ等によりユーザ200の状態を検出し、検出したユーザ200の状態を漫然状態判定部55へ出力する。次に、漫然状態判定部55は、状態検出装置40から出力されたユーザ200の状態に基づいて、ユーザ200が漫然状態であるか否かを判定する。漫然状態判定部55は、ユーザ200が漫然状態であると判定した場合(ステップS14でYES)、ユーザ200が漫然状態であることを入出力処理部52に通知する。その後、処理はステップS15に進む。
【0039】
なお、図5に示すフローチャートでは、ステップS12で視線判定部53によってユーザ200が入力要素の画像を注視していると判定された場合、すなわち、ユーザ200の視線による入力要素への第一の入力があると判定された場合において、ステップS13でYESの場合のみステップS14の処理に進むが、処理の流れはこれに限定されない。例えば、ステップS12でYESである場合において、ステップS13は実行されず、ステップS14に処理が進むものとしても良い。
【0040】
ステップS15において、漫然状態判定部55は、ユーザ200が漫然状態であることを入出力処理部52に通知し、入出力処理部52は、外部機器2への指令の出力を停止する。そして、入出力処理部52は、ステップS12において視線判定部53から通知された、ユーザ200の注視点に対応する入力要素に関する情報を破棄する(ステップS16)。なお、入出力処理部52は、ユーザ200の注視点に対応する入力要素に関する情報を破棄することに代えて又は加えて、視線検出装置20から入出力処理部52への注視点の入力の受付けを停止してもよい。その後、処理はステップS12に戻り、ステップS12以降の処理が実行される。
【0041】
一方、漫然状態判定部55は、ユーザ200が漫然状態でないと判定した場合(ステップS14でNO)、ユーザ200が漫然状態でないことを入出力処理部52に通知し、処理はステップS17に進む。入出力処理部52は、ユーザ200が選択している入力要素に対応する外部機器2に対して指令を出力する(ステップS17)。その後、処理はステップS12に戻り、ステップS12以降の処理が実行される。
【0042】
また、視線判定部53は、ユーザ200が入力要素の画像を注視していないと判定した場合(ステップS12でNO)、ユーザ200が入力要素の画像を注視していないことを入出力処理部52に通知する。その後、再びステップS12以降の処理が実行される。
【0043】
さらに、ジェスチャ判定部54は、ユーザ200が所定のジェスチャを行っていないと判定した場合(ステップS13でNO)、ユーザ200が所定のジェスチャを行っていないことを入出力処理部52に通知する。その後、処理はステップS12に戻り、ステップS12以降の処理が実行される。
【0044】
(効果等)
以上のように、本実施の形態の視線入力装置1は、HUD装置10により表示領域Rに表示された入力要素をユーザ200が注視していることを検出し、ユーザ200が漫然状態でないことを条件に、ユーザ200が視線により選択している入力要素に対応する外部機器2に対して指令を出力する。
【0045】
これにより、ユーザ200が漫然状態であると判定されたときには、ユーザ200の視線による選択を有効なものとして取り扱わないこととなり、ユーザ200の意図しない視線入力を抑制し得る。ユーザ200が漫然状態にある場合には、ユーザ200は意図せずある一点を注視している状況が起こり得、そのような視線入力を有効なものとするとユーザ200の意図に沿わない入力がされることとなる。本実施の形態の視線入力装置1によれば、このような課題が解決され、ユーザ200の意図に沿った視線入力が実現され得る。
【0046】
また、本実施の形態によれば、視線入力装置1は、HUD装置10により表示領域Rに表示された入力要素をユーザ200が注視していることを検出し、さらに、所定のジェスチャを検出した場合において、ユーザ200が漫然状態でないことを条件に、ユーザ200が視線により選択している入力要素に対応する外部機器2に対して指令を出力する。このため、本実施の形態の視線入力装置1によれば、ユーザ200の視線による意図しない入力が確定されることを低減することができる。
【0047】
また、本実施の形態によれば、HUD装置10により車両100の運転席の正面に設定された仮想の表示領域Rに入力要素の画像が表示され、運転席の正面に設置された視線検出装置20により表示領域Rに表示された画像を見るユーザ200の注視点が検出される。HUD装置10を用いることにより、車両100内の限られた空間において、ユーザ200の正面に視線検出装置20及び表示領域Rを設けることができる。また、HUD装置10により表示された画像は、左右の視野角が比較的狭いため、ユーザ200は正面から表示領域Rを見ることになり、ユーザ200の頭が正面にほぼ固定される。そのため、視線検出装置20は、ほぼ常にユーザ200の正面からユーザ200の注視点を検出することができる。したがって、HUD装置10と視線検出装置20とを組み合わせることにより、視線検出装置20及び表示領域Rを適切に配置して、ユーザ200の注視点を高精度に検出し得る。
【0048】
さらに、視線検出装置20を表示領域Rよりも下側の所定範囲に設定することにより、表示領域Rを見るユーザ200の注視点が視線検出装置20の検知範囲に入る。したがって、表示領域Rを見るユーザ200の注視点を確実に検出し得る。
【0049】
また、入力要素の画像を列にして表示領域Rに表示し、列の端部に表示する入力要素の画像のうち外寄りの部分を非表示とすることにより、表示領域Rの外に入力要素の画像が続いているように見せることができる。すなわち、表示領域Rに表示されていない入力要素の画像が存在することをユーザ200に認識させることができる。
【0050】
さらに、ユーザ200は、視線により入力要素を選択した状態でジェスチャをすることにより、選択した入力要素の入力を確定することができる。このため、仮想の表示領域Rに入力要素の画像が表示されるとともに、ユーザ200がタッチパネルやボタン等に触れることなく、入力要素の入力を確定することができる。
【0051】
そして、ユーザ200が視線により選択した入力要素の画像が中央にない場合は、選択した入力要素の画像が中央に移動される。ユーザ200は、入力要素の画像が移動された後、入力要素の画像を注視したままジェスチャをすれば、入力要素の入力を確定することができる。
【0052】
さらに、ユーザ200による視線入力を車両100の停車時に限ることにより、走行中の誤入力による誤作動が抑制され得る。また、表示領域Rに車両100の変速位置を表示することにより、ユーザ200は視線入力が可能か否かを認識することができる。
【0053】
(実施の形態2)
次に、実施の形態2について、図6、7を参照して、実施の形態1と異なる部分を中心に説明する。実施の形態2における視線入力装置1Aは、図6に示すように、実施の形態1における視線入力装置1の構成に加えて、更に通知部60を備える。そして、視線入力装置1Aにより実行される視線入力処理が、実施の形態1における視線入力装置1の視線入力処理と異なる。
【0054】
以下、図7を用いて、本実施の形態に係る視線入力装置1Aの視線入力処理について説明する。なお、図7において、図5の処理と同じ処理ステップには同じ符号を付している。ステップS11~S15までは実施の形態1と同じであるため、説明を省略する。
【0055】
ステップS26において、視線入力装置1Aは、入出力処理部52から外部機器2への指令の出力を停止したことをユーザ200に通知する。詳細には、ステップS15において入出力処理部52が外部機器2への指令の出力を停止した場合、入出力処理部52は、ユーザ200への通知を行うよう通知部60に通知する。そして、入出力処理部52からの通知を受けた通知部60は、入出力処理部52から外部機器2への指令の出力を停止した旨をユーザ200に通知する。通知部60は、例えば、車両100に備えられるスピーカであって、スピーカから音を発することによりユーザ200への通知を行う。なお、通知部60はステアリングホイール130や座席であってこれらの振動によりユーザ200への通知を行ってもよいし、通知部60はHUD装置10やカーナビゲーション装置140であってこれらに所定の画像を表示させることによりユーザ200への通知を行ってもよい。通知部60によって表示される所定の画像は、本実施形態における「第二の画像」の一例である。その後、処理はステップS27に進む。
【0056】
ステップS27において、ジェスチャ判定部54は、ユーザ200が所定のジェスチャを行っているか否かを判定する。ジェスチャ判定部54による判定の方法についてはステップS13と同様である。なお、ここでの所定のジェスチャとしては、ステップS13における所定のジェスチャとは異なるジェスチャが予め設定されている。ステップS27における所定のジェスチャは、漫然状態時には検出し得ないようなジェスチャであることが好ましく、少なくともステップS13における所定のジェスチャよりも動きの大きなジェスチャや複雑なジェスチャ等が設定され得る。複雑なジェスチャとは、例えば、ステップS13における所定のジェスチャよりも多くの種類の動きの組合せを含むジェスチャである。
【0057】
このステップS27においてジェスチャ検出装置30が検出するジェスチャは、ユーザ200による「第三の入力」の一例である。本実施の形態では、第三の入力としてジェスチャを検出する構成となっているが、第三の入力はジェスチャに限られない。例えば、第三の入力として、ユーザ200の視線や声、接触等を検出する構成としてもよい。つまり、第三の入力を検出する装置はジェスチャ検出装置30に限られず、ユーザ200による何らかの入力を検出し得るものであれば、カメラ、マイク、タッチパネル、又はボタン等、その他の装置であっても用いることができる。
【0058】
ジェスチャ判定部54は、ユーザ200が所定のジェスチャ(第三の入力)を行っていると判定した場合(ステップS27でYES)、ユーザ200が所定のジェスチャ(第三の入力)を行っていることを入出力処理部52に通知し、処理はステップS28に進む。入出力処理部52は、ユーザ200が選択している入力要素に対応する外部機器2に対して指令を出力する(ステップS28)。その後、処理はステップS12に戻り、ステップS12以降の処理が実行される。
【0059】
一方、ジェスチャ判定部54は、ユーザ200が所定のジェスチャ(第三の入力)を行っていないと判定した場合(ステップS27でNO)、ユーザ200が所定のジェスチャ(第三の入力)を行っていないことを入出力処理部52に通知する。その後、処理はステップS29に進む。ステップS29では、入出力処理部52は、視線判定部53から通知された、ユーザ200の注視点に対応する入力要素に関する情報を破棄する。なお、入出力処理部52は、ユーザ200の注視点に対応する入力要素に関する情報を破棄することに代えて又は加えて、視線検出装置20から入出力処理部52への注視点の入力を停止してもよい。そして、処理はステップS12に戻り、ステップS12以降の処理が実行される。
【0060】
また、漫然状態判定部55は、ユーザ200が漫然状態でないと判定した場合(ステップS14でNO)、ユーザ200が漫然状態でないことを入出力処理部52に通知し、処理は上記のステップS28に進む。
【0061】
以上のように、本実施の形態において、視線入力装置1Aは、HUD装置10、視線検出装置20、ジェスチャ検出装置30、状態検出装置40、及び入出力装置50に加え、更に通知部60を備える。視線入力装置1Aは、ユーザ200が漫然状態であると判定された場合に、ユーザ200への通知を行う。ユーザ200が漫然状態でない場合、ユーザ200がこの通知への応答として所定のジェスチャ等をすることにより、視線入力装置1Aはユーザ200による視線入力を有効なものとして取り扱う。
【0062】
これにより、ユーザ200が漫然状態であると判定されたときでも、ユーザ200が所定の意思表示を示すことによりユーザ200の視線入力を有効なものとすることができ、更にユーザ200の意図に沿った視線入力装置を実現し得る。
【0063】
(他の実施の形態)
上記の実施の形態1及び2では、図4A、4Bのように3つの入力要素の画像を列にして表示していたが、4つ以上の入力要素の画像を列にして表示してもよく、全ての入力要素の画像を列にして表示してもよい。さらに、入力要素の画像を、列以外の形式で、例えば行と列とを有する表のような形式等で表示してもよい。また、表示する入力要素の画像は1つ又は2つでもよい。
【0064】
また、図5及び7のフローチャートにおける各ステップの順序はこの順序に限定するものではない。例えば、図5及び7においてジェスチャ検出の有無の判定(ステップS13)後に漫然状態であるか否かの判定(ステップS14)を行っていたが、この判定を注視点の判定(ステップS12)後に行ってもよい。このとき、ジェスチャ(第二の入力)検出の有無の判定を行わない構成としてもよい。この場合には、視線入力装置1(1A)は、ユーザ200の視線による入力を受け付けると、漫然状態判定部55によりユーザ200が漫然状態でないと判定されれば、外部機器2への指令を出力することとなる。これにより、ジェスチャ検出装置30を有しない視線入力装置においても、本開示に係る構成を採用することができる。
【0065】
図7において、通知部60によるユーザ200への通知(ステップS26)の後にユーザ200によるジェスチャ(第三の入力)が検出された場合(ステップS27でYES)には入出力処理部52が外部機器2へ指令する(ステップS28)構成となっていたが、通知部60によるユーザ200への通知の有無にかかわらず、入出力処理部52が外部機器2への指令を行い得る構成としてもよい。すなわち、漫然状態判定部55によりユーザ200が漫然状態であると判定された場合であっても、通知部60によるユーザ200への通知の有無にかかわらず、ジェスチャ判定部54によりユーザ200が所定のジェスチャ(第三の入力)を行っていると判定された場合には、入出力処理部52は外部機器2に対して指令を出力する。これにより、漫然状態判定部55によりユーザ200が漫然状態であると誤って判定された場合にも、ユーザ200による視線入力を有効なものとして取り扱うことができる。
【0066】
上記の実施の形態1及び2では、停車時にのみ視線入力を可能にするとしていたが、ある条件の下で、又は特に条件を定めることなく、停車時以外でも視線入力を可能にしてもよい。例えば、自動運転が可能な車両において自動運転が行われている場合には、停車時以外でも視線入力を可能にし得る。
【0067】
なお、視線入力装置1の構成は、図1、6に示す例に限定されるものではない。例えば、視線入力装置1は、HUD装置10、視線検出装置20、ジェスチャ検出装置30、又は状態検出装置40のいずれか、又は全てを含まなくともよい。例えば、視線入力装置1は、外部装置である状態検出装置40から、ユーザ200の状態を取得してもよい。また、図1、6において、入出力装置50の機能として図示した映像信号出力部51、入出力処理部52、視線判定部53、ジェスチャ判定部54、及び漫然状態判定部55は、入出力装置50以外の装置の機能として実行されてもよい。例えば、状態検出装置40が、漫然状態判定部55の機能を備えてもよい。
【0068】
さらに、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
【0069】
(まとめ)
上記実施の形態から明らかなように、本開示は、下記の態様を含む。以下では、実施の形態との対応関係を明示するためだけに、符号を括弧付きで付している。
【0070】
第1の態様の視線入力装置(1、1A)は、視線判定部(53)と、入出力処理部(52)と、漫然状態判定部(55)とを備える。視線判定部(53)は、車両(100)のウインドシールド(110)前方且つ運転席の正面に設定された表示領域に表示された1又は複数の入力要素の画像である第一の画像に対する、ユーザ(200)の視線による第一の入力を判定する。入出力処理部(52)は、第一の入力が検出された入力要素に対応する外部機器(2)に対して指令を出力する。漫然状態判定部(55)は、ユーザ(200)の状態に基づいて、ユーザ(200)が漫然状態であるか否かを判定する。入出力処理部(52)は、視線判定部(53)により1又は複数の第一の画像のうちいずれかに対する第一の入力があると判定され、且つ、漫然状態判定部(55)によりユーザ(200)が漫然状態でないと判定された場合、第一の入力が検出された入力要素に対する第一の入力を確定し、漫然状態判定部(55)によりユーザ(200)が漫然状態であると判定された場合、入力要素に対する第一の入力を確定しない。第1の態様によれば、ユーザ(200)が漫然状態である場合の意図しない視線入力を抑制し得る。したがって、ユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0071】
第2の態様の視線入力装置(1、1A)は、第1の態様との組み合わせにより実現され得る。第2の態様では、視線入力装置(1、1A)は、ユーザ(200)による第二の入力を判定する入力判定部(54)を更に備える。入出力処理部(52)は、視線判定部(53)により1又は複数の第一の画像のうちいずれかに対する第一の入力があると判定され、且つ、入力判定部(54)によりユーザ(200)の第二の入力があると判定され、且つ、漫然状態判定部(55)によりユーザ(200)が漫然状態でないと判定された場合、第一の入力が検出された入力要素に対する第一の入力を確定する。第2の態様によれば、ユーザ(200)が漫然状態である場合の意図しない視線入力を抑制し得る。したがって、ユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0072】
第3の態様の視線入力装置(1、1A)は、第2の態様との組み合わせにより実現され得る。第3の態様では、視線入力装置(1、1A)は、表示領域に第一の画像を表示するヘッドアップディスプレイ装置(10)を更に備える。ヘッドアップディスプレイ装置(10)は、表示領域において複数の第一の画像を列にして表示するとともに、表示領域の端部に表示される第一の画像のうち外寄りの部分を非表示とする。入出力処理部(52)は、視線判定部(53)により列の中央の第一の画像上に第一の入力があると判定され、且つ、入力判定部(54)によりユーザ(200)の第二の入力があると判定され、且つ、漫然状態判定部(55)によりユーザ(200)が漫然状態でないと判定された場合、中央の入力要素に対する第一の入力を確定する。第3の態様によれば、表示領域の外に入力要素の画像が続いているようにユーザ(200)に見せることができ、表示領域に表示されていない入力要素の画像が存在することをユーザ(200)に認識させることができる。
【0073】
第4の態様の視線入力装置(1、1A)は、第2又は第3の態様との組み合わせにより実現され得る。第4の態様では、視線入力装置(1、1A)は、入出力装置(50)と、視線検出装置(20)と、入力検出装置(30)と、状態検出装置(40)とを更に備える。入出力装置(50)は、視線判定部(53)と、入出力処理部(52)と、漫然状態判定部(55)と、入力判定部(53)とを備える。視線検出装置(20)は、運転席に座ったユーザ(200)の視線による第一の入力を検出する。入力検出装置(30)は、ユーザ(200)による第二の入力を検出する。状態検出装置(40)は、ユーザ(200)の状態を検出する。視線判定部(53)は、視線検出装置(20)から取得した検出結果に基づいて、第一の入力が1又は複数の第一の画像のうちのいずれの第一の画像に対する入力であるかを判定する。入力判定部(54)は、入力検出装置(30)から取得した検出結果に基づいて、ユーザ(200)による第二の入力があるか否かを判定する。漫然状態判定部(55)は、状態検出装置(40)から取得したユーザ(200)の状態に基づいて、ユーザ(200)が漫然状態であるか否かを判定する。第4の態様によれば、ユーザ(200)は第二の入力をすることで、視線により選択した入力要素の入力を確定することができ、更にユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0074】
第5の態様の視線入力装置(1、1A)は、第4の態様との組み合わせにより実現され得る。第5の態様では、入出力処理部(52)は、漫然状態判定部(55)によりユーザ(200)が漫然状態であると判定された場合、視線検出装置(20)からの第一の入力の受付けを停止する。第5の態様によれば、ユーザ(200)が漫然状態である場合の意図しない視線入力を受け付けないようにでき、これによりユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0075】
第6の態様の視線入力装置(1、1A)は、第1~第5の態様のいずれか1つとの組み合わせにより実現され得る。第6の態様では、入出力処理部(52)は、漫然状態判定部(55)によりユーザ(200)が漫然状態であると判定された場合、外部機器(2)への出力を停止する。第6の態様によれば、ユーザ(200)が漫然状態である場合の意図しない視線入力に対応する指令を外部機器(2)へ出力しないようにでき、これによりユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0076】
第7の態様の視線入力装置(1A)は、第1~第6の態様のいずれか1つとの組み合わせにより実現され得る。第7の態様では、視線検出装置(1A)は、漫然状態判定部(55)によりユーザ(200)が漫然状態であると判定された場合にユーザ(200)に対して通知を行う通知部(60)を更に備える。第7の態様によれば、ユーザ(200)に対し、視線入力が有効なものとして取り扱われないことを通知でき、視線入力が有効なものとして取り扱われないことをユーザ(200)が認識し得る。
【0077】
第8の態様の視線入力装置(1A)は、第7の態様との組み合わせにより実現され得る。第8の態様では、通知部(60)は、第二の画像を表示することによりユーザ(200)に対し通知を行う。第8の態様によれば、表示によってユーザ(200)に通知するため、ユーザ(200)にとって認識しやすい。
【0078】
第9の態様の視線入力装置(1A)は、第7の態様との組み合わせにより実現され得る。第9の態様では、通知部(60)は、音を発することによりユーザ(200)に対し通知を行う。第9の態様によれば、音によってユーザ(200)に通知するため、ユーザ(200)にとって認識しやすい。
【0079】
第10の態様の視線入力装置(1、1A)は、第1~第9の態様のいずれか1つとの組み合わせにより実現され得る。第10の態様では、漫然状態判定部(55)により漫然状態であると判定されたユーザ(200)から第三の入力を受け付けた場合には、入出力処理部(52)は入力要素に対する入力を確定する。第10の態様によれば、漫然状態と判定されたときの視線入力がユーザ(200)の意図に沿ったものである場合にその視線入力を有効なものとして取り扱わせることができる。したがって、更にユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0080】
第11の態様の視線入力装置(1、1A)は、第2~第5の態様のいずれか1つとの組み合わせにより実現され得る。第11の態様では、第二の入力は、視線、音声、又はジェスチャのうち少なくとも1つである。第11の態様によれば、視線、音声、又はジェスチャのうち少なくとも1つである所定の入力により視線入力を確定することができ、ユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0081】
第12の態様の視線入力装置(1、1A)は、第10の態様との組み合わせにより実現され得る。第12の態様では、第三の入力は、視線、音声、又はジェスチャのうち少なくとも1つである。第12の態様によれば、視線、音声、又はジェスチャのうち少なくとも1つである所定の入力により視線入力を有効なものとして取り扱わせることができ、更にユーザ(200)の意図に沿った視線入力装置を提供し得る。
【0082】
第13の態様の視線入力装置(1、1A)は、第2~第5の態様のいずれか1つとの組み合わせにより実現され得る。第13の態様では、漫然状態判定部(55)により漫然状態であると判定されたユーザ(200)から第三の入力を受け付けた場合には、入出力処理部(52)は入力要素に対する入力を確定する。第二の入力及び第三の入力は、ジェスチャである。第三の入力としてのジェスチャは、第二の入力としてのジェスチャとは異なる。第13の態様によれば、第二の入力としてのジェスチャとは異なる第三の入力としてのジェスチャにより、視線入力を有効なものとして取り扱わせることができ、更にユーザ(200)の意図に沿った視線入力装置を提供し得る。
【産業上の利用可能性】
【0083】
本開示は、ユーザが漫然状態である場合の意図しない視線入力を抑制する視線入力装置に適用可能である。
【符号の説明】
【0084】
1、1A 視線入力装置
2 外部機器
10 HUD装置
20 視線検出装置
30 ジェスチャ検出装置
31 ジェスチャ検出領域
40 状態検出装置
50 入出力装置
51 映像信号出力部
52 入出力処理部
53 視線判定部
54 ジェスチャ判定部
55 漫然状態判定部
60 通知部
100 車両
110 ウインドシールド
120 ダッシュボード
130 ステアリングホイール
140 カーナビゲーション装置
200 ユーザ
210 手
E 目の記号
I、I1、I2、I3、I4 入力要素の画像
R 表示領域
図1
図2
図3
図4A
図4B
図5
図6
図7