(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-15
(45)【発行日】2024-10-23
(54)【発明の名称】視線推定システム、視線推定方法、及びコンピュータプログラム
(51)【国際特許分類】
G09G 5/08 20060101AFI20241016BHJP
H04N 23/611 20230101ALI20241016BHJP
G09G 5/00 20060101ALI20241016BHJP
G09G 5/37 20060101ALI20241016BHJP
G09G 5/36 20060101ALI20241016BHJP
G09G 5/373 20060101ALI20241016BHJP
A61B 3/113 20060101ALI20241016BHJP
A61B 5/1171 20160101ALI20241016BHJP
【FI】
G09G5/08 D
H04N23/611
G09G5/00 510A
G09G5/00 530H
G09G5/37 300
G09G5/36 400
G09G5/373
A61B3/113
A61B5/1171 300
G09G5/00 550C
(21)【出願番号】P 2023136501
(22)【出願日】2023-08-24
(62)【分割の表示】P 2021577730の分割
【原出願日】2020-02-10
【審査請求日】2023-08-24
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100104765
【氏名又は名称】江上 達夫
(74)【代理人】
【識別番号】100107331
【氏名又は名称】中村 聡延
(74)【代理人】
【識別番号】100131015
【氏名又は名称】三輪 浩誉
(72)【発明者】
【氏名】高本 亮
【審査官】薄井 義明
(56)【参考文献】
【文献】国際公開第2019/151368(WO,A1)
【文献】特開2012-216123(JP,A)
【文献】特開2018-108167(JP,A)
【文献】特開2020-018470(JP,A)
【文献】特開2017-151556(JP,A)
【文献】特開2006-136450(JP,A)
【文献】特開2016-151849(JP,A)
【文献】特開2013-255781(JP,A)
【文献】特開2014-068933(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G09G 5/08
H04N 23/611
G09G 5/00
G09G 5/37
G09G 5/36
G09G 5/373
A61B 3/113
A61B 5/1171
(57)【特許請求の範囲】
【請求項1】
対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させる表示制御手段と、
前記対象者の画像から前記対象者の目の動きを検出する検出手段と、
前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定する追従判定手段と、
前記追従判定手段の判定結果に基づいて、前記対象者のなりすましを検出するなりすまし検出手段と
、
検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、
前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、
前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、
前記乖離量に基づいて、前記対象者の視点位置を補正する補正値を決定し、
前記補正値に基づいて前記視点位置を補正する補正手段と
を備えることを特徴とする視線推定システム。
【請求項2】
前記表示制御手段は、前記注視点が所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させる第1態様に加え、前記注視点を一定間隔で強調表示する第2態様、前記注視点を一定間隔で表示・非表示を交互に繰り返すように表示する第3態様、並びに移動中に前記注視点の大きさを変更する第4態様のうち少なくとも一つの表示態様で注視点を表示させることを特徴とする請求項1に記載の視線推定システム。
【請求項3】
前記表示制御手段は、前記注視点の移動する移動軌跡のうち、前記注視点が通過した軌跡と通過していない軌跡とを異なる表示態様で表示させる、又は前記注視点の移動する移動軌跡のうち、前記注視点が通過した軌跡と通過していない軌跡とのうち少なくとも一方を表示させることを特徴とする請求項1又は2に記載の視線推定システム。
【請求項4】
前記補正手段は、
前記注視点が移動する領域の複数箇所で前記乖離量を算出し、
前記複数箇所で算出された前記乖離量に基づいて決定される複数の前記補正値を統合して、前記視点位置を補正する
ことを特徴とする請求項
3に記載の視線推定システム。
【請求項5】
前記なりすまし検出手段は、前記対象者の目が前記注視点を追従していない場合に、前記対象者のなりすましを検出することを特徴とする請求項1から
4のいずれか一項に記載の視線推定システム。
【請求項6】
前記なりすまし検出手段は、
検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、
前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、
前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、
前記乖離量に基づいて、前記対象者のなりすましを検出する
ことを特徴とする請求項
5に記載の視線推定システム。
【請求項7】
対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させ、
前記対象者の画像から前記対象者の目の動きを検出し、
前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定し、
前記対象者の目が前記注視点を追従しているか否かの判定結果に基づいて、前記対象者のなりすましを検出
し、
検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、
前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、
前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、
前記乖離量に基づいて、前記対象者の視点位置を補正する補正値を決定し、
前記補正値に基づいて前記視点位置を補正する
ことを特徴とする視線推定方法。
【請求項8】
対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させ、
前記対象者の画像から前記対象者の目の動きを検出し、
前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定し、
前記対象者の目が前記注視点を追従しているか否かの判定結果に基づいて、前記対象者のなりすましを検出
し、
検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、
前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、
前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、
前記乖離量に基づいて、前記対象者の視点位置を補正する補正値を決定し、
前記補正値に基づいて前記視点位置を補正する
ようにコンピュータを動作させることを特徴とするコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この開示は、対象者の視線を推定する視線推定システム、視線推定方法、及びコンピュータプログラムの技術分野に関する。
【背景技術】
【0002】
この種のシステムとして、対象者の視線を検出するものが知られている。例えば特許文献1では、ディスプレイにあらかじめ定められた視覚刺激情報を表示させ、視覚刺激情報と被験者の目の動きとから視線位置を推定する技術が開示されている。特許文献2では、所定のフレームレートで撮影された画像の各々を用いて、角膜反射法等の視線を検出する検出処理を実行する技術が開示されている。特許文献3では、撮像装置から受信したユーザの画像を用いて視線検出処理を実行する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2019-024608号公報
【文献】特開2017-107546号公報
【文献】特開2018-015218号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
対象者に停止した注視点を注視してもらう手法は、対象者のかかる負担が大きいだけでなく、無意識の視線のふらつきを誘発することもある。上述した各特許文献では、視線のふらつきの対策が十分でなく改善の余地がある。
【0005】
この開示は、上記した課題を解決するための視線推定システム、視線推定方法、及びコンピュータプログラムを提供することを課題とする。
【課題を解決するための手段】
【0006】
この開示の視線推定システムの一の態様は、対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させる表示制御手段と、前記対象者の画像から前記対象者の目の動きを検出する検出手段と、前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定する追従判定手段と、前記追従判定手段の判定結果に基づいて、前記対象者のなりすましを検出するなりすまし検出手段とを備える。
【0007】
この開示の視線推定方法の一の態様は、対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させ、前記対象者の画像から前記対象者の目の動きを検出し、前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定し、前記対象者の目が前記注視点を追従しているか否かの判定結果に基づいて、前記対象者のなりすましを検出する。
【0008】
この開示のコンピュータプログラムの一の態様は、対象者が注視する注視点を、所定の速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が繰り返して移動するように表示させ、前記対象者の画像から前記対象者の目の動きを検出し、前記目の動きに基づいて、前記対象者の目が前記注視点を追従しているか否か判定し、前記対象者の目が前記注視点を追従しているか否かの判定結果に基づいて、前記対象者のなりすましを検出するようにコンピュータを動作させる。
【図面の簡単な説明】
【0009】
【
図1】第1実施形態に係る視線推定システムの全体構成を示すブロック図である。
【
図2】第1実施形態に係る視線推定システムのハードウェア構成を示すブロック図である。
【
図3】第1実施形態に係る視線推定システムの動作の流れを示すフローチャートである。
【
図4】第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その1)である。
【
図5】第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その2)である。
【
図6】第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その3)である。
【
図7】第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その4)である。
【
図8】第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その1で)ある。
【
図9】第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その2)である。
【
図10】第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その3)である。
【
図11】第3実施形態に係る視線推定システムの全体構成を示すブロック図である。
【
図12】第3実施形態に係る視線推定システムの動作の流れを示すフローチャートである。
【
図13】第4実施形態に係る視線推定システムの全体構成を示すブロック図である。
【
図14】第4実施形態に係る視線推定システムの動作の流れを示すフローチャートである。
【発明を実施するための形態】
【0010】
以下、図面を参照しながら、視線推定システム、視線推定方法、及びコンピュータプログラムの実施形態について説明する。
【0011】
<第1実施形態>
第1実施形態に係る視線推定システムについて、
図1から
図3を参照して説明する。
【0012】
(システム構成)
まず、
図1を参照しながら、第1実施形態に係る視線推定システムの全体構成について説明する。
図1は、第1実施形態に係る視線推定システムの全体構成を示すブロック図である。
【0013】
図1に示すように、第1実施形態に係る視線推定システム10は、その機能を実現するための機能ブロックとして、表示制御部101と、動き検出部102と、追従判定部110とを備えている。
【0014】
表示制御部101は、例えばディスプレイ等を有する表示装置において、注視点を表示可能に構成されている。表示制御部101は、注視点が所定の移動経路に沿って移動するように表示を制御する。より具体的には、表示制御部101は、注視点の移動経路、移動速度、大きさ、色等、注視点の挙動や表示態様に関する各パラメータを制御する。注視点の具体的な表示例については後に詳しく説明する。
【0015】
動き検出部102は、対象者(即ち、注視点を注視している人物)の画像から、対象者の目の動きを推定する。動き検出部102は、例えば注視部が表示される表示装置の周辺に設置されたカメラ等から、対象者の画像を取得すればよい。動き検出部102は、例えば対象者の画像から対象者の顔領域を検出して、顔領域の画像から目の動きを検出してもよい。また、動き検出部102は、対象者の画像における目の動きから対象者の視線(例えば、対象者が表示部20のどの位置を注視しているか)を推定してもよい。なお、目の動きのより具体的な検出方法については、既存の技術を適宜採用することができるため、ここでの詳細な説明は省略する。
【0016】
追従判定部110は、表示制御部101によって制御されている注視点の動きと、動き検出部102で検出された目の動きとの関係性に基づいて、対象者の目が注視点を追従しているか否か判定可能に構成されている。追従判定部110は、例えば注視点の動きを追うように対象者の目が動いている場合に、対象者の目が注視点を追従していると判定すればよい。ただし、注視点の動きと、対象者の動きとの間にはある程度の時間遅延(反応の遅れに起因するズレ)が生ずる。よって、追従判定部110は、このような時間遅延を考慮して追従を判定するようにしてもよい。また、注視点の動きと対象者の目の動きにまったくズレがない場合、対象者の目が注視点を追従していないと判定する(例えば、何らかの不正が行われていると判定する)ようにしてもよい。
【0017】
(ハードウェア構成)
次に、
図2を参照しながら、第1実施形態に係る視点位置推定装置10のハードウェア構成について説明する。
図2は、第1実施形態に係る視点位置推定装置のハードウェア構成を示すブロック図である。
【0018】
図2に示すように、第1実施形態に係る視線推定システム10は、CPU(Central Processing Unit)11と、RAM(Random Access Memory)12と、ROM(Read Only Memory)13と、記憶装置14とを備えている。視線推定システム10は更に、入力装置15と、出力装置16とを備えていてもよい。CPU11と、RAM12と、ROM13と、記憶装置14と、入力装置15と、出力装置16とは、データバス17を介して接続されている。なお、視線推定システム10は、CPU11と、RAM12と、ROM13と、記憶装置14と、入力装置15と、出力装置16とを、それぞれ複数備えていてもよい。
【0019】
CPU11は、コンピュータプログラムを読み込む。例えば、CPU11は、RAM12、ROM13及び記憶装置14のうちの少なくとも一つが記憶しているコンピュータプログラムを読み込むように構成されている。或いは、CPU11は、コンピュータで読み取り可能な記録媒体が記憶しているコンピュータプログラムを、図示しない記録媒体読み取り装置を用いて読み込んでもよい。CPU11は、ネットワークインタフェースを介して、視線推定システム10の外部に配置される不図示の装置からコンピュータプログラムを取得してもよい(つまり、読み込んでもよい)。CPU11は、読み込んだコンピュータプログラムを実行することで、RAM12、記憶装置14、入力装置15及び出力装置16を制御する。本実施形態では特に、CPU11が読み込んだコンピュータプログラムを実行すると、CPU11内には、注視点の表示を制御し、対象者の目の動きを推定し、追従を判定するための機能ブロックが実現される(
図1参照)。
【0020】
RAM12は、CPU11が実行するコンピュータプログラムを一時的に記憶する。RAM12は、CPU11がコンピュータプログラムを実行している際にCPU11が一時的に使用するデータを一時的に記憶する。RAM12は、例えば、D-RAM(Dynamic RAM)であってもよい。
【0021】
ROM13は、CPU11が実行するコンピュータプログラムを記憶する。ROM13は、その他に固定的なデータを記憶していてもよい。ROM13は、例えば、P-ROM(Programmable ROM)であってもよい。
【0022】
記憶装置14は、視線推定システム10が長期的に保存するデータを記憶する。記憶装置14は、CPU11の一時記憶装置として動作してもよい。記憶装置14は、例えば、ハードディスク装置、光磁気ディスク装置、SSD(Solid State Drive)及びディスクアレイ装置のうちの少なくとも一つを含んでいてもよい。
【0023】
入力装置15は、視線推定システム10のユーザからの入力指示を受け取る装置である。入力装置15は、例えば、キーボード、マウス及びタッチパネルのうちの少なくとも一つを含んでいてもよい。
【0024】
出力装置16は、視線推定システム10に関する情報を外部に対して出力する装置である。例えば、出力装置16は、視線推定システム10に関する情報を表示可能な表示装置(例えば、ディスプレイ)であってもよい。
【0025】
(動作の流れ)
次に、
図3を参照しながら、第1実施形態に係る視点位置推定装置10の動作の流れについて説明する。
図3は、第1実施形態に係る視点位置推定装置の動作の流れを示すフローチャートである。
【0026】
図3に示すように、第1実施形態に係る視点位置推定装置10の動作時には、まず表示制御部101が、注視点の表示制御を開始する(ステップS11)。なお、注視点の表示制御は、例えば対象者の端末操作等によって開始されてもよいし、注視点が表示される表示装置等の周辺に対象者が存在することを検知して自動的に開始されてもよい。
【0027】
注視点の表示制御が開始されると、動き検出部102が、対象者の画像を取得する(ステップS12)。そして、動き検出部102は、取得した対象者の画像から、対象者の目の動きを検出する(ステップS13)。
【0028】
続いて、追従判定部110が、表示制御部101によって制御されている注視点の動きと、動き検出部102で検出された目の動きとの関係性に基づいて、対象者の目が注視点を追従しているか否か判定する(ステップS14)。
【0029】
(技術的効果)
次に、第1実施形態に係る視点位置推定装置10によって得られる技術的効果の一例について説明する。
【0030】
図1から
図3で説明したように、第1実施形態に係る視点位置推定装置10によれば、対象者に注視点を注視させることで、対象者の目の動きを検出することができる。ここで特に、注視点は移動するように制御されるため、例えば停止した注視点を注視させる場合と比べると、対象者の視線のふらつきを抑制することができる。
【0031】
また本実施形態では、検出された目の動きから、対象者が注視点を追従しているか否かが判定される。よって、移動する注視点を対象者が正常に注視しているか否かを判定できる。この判定結果は、目の動きを適切に検出できる状態であるか否かを判定するだけでなく、例えば後述する第2及び第3実施形態のように、対象者の視点位置を補正する処理、或いはなりすましを検知する処理等に利用することができる。
【0032】
<第2実施形態>
第2実施形態に係る視線推定システムについて、
図4から
図10を参照して説明する。なお、第2実施形態は、上述した第1実施形態と比べて一部の動作(主に、中止点の表示に関する動作)が異なるのみであり、その他については概ね同様である。よって、以下では第1実施形態と異なる部分について詳細に説明し、他の重複する部分については適宜説明を省略するものとする。
【0033】
(システム構成)
第2実施形態に係る視線推定システムの構成は、第1実施形態に係る視線推定システム(
図1参照)と同一であってもよいため、その説明については省略する。また、第2実施形態に係る視線推定システムのハードウェア構成についても、第1実施形態に係る視線位置推定システム10のハードウェア構成(
図2参照)と同一であってもよいため、その説明については省略する。
【0034】
(動作の流れ)
第2実施形態に係る視線推定システム10の動作の流れは、第1実施形態に係る視線推定システム10の動作の流れ(
図3参照)と同一であってもよいため、その説明については省略する。ただし、第2実施形態に係る視線推定システム10では、表示制御部101が、注視点の表示態様又は注視点の軌跡の表示態様を下記のように制御する。
【0035】
(注視点の表示態様)
第2実施形態に係る視線推定システム10における注視点の表示態様について、
図4から
図7を参照して説明する。
図4は、第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その1)である。
図5は、第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その2)である。
図6は、第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その3)である。
図7は、第2実施形態に係る視線推定システムによる注視点の表示態様を示す概念図(その4)である。
【0036】
図4に示すように、注視点Xは、表示部20における表示面上を、所定の軌跡に沿って移動と停止を交互に繰り返すように移動する。より具体的には、注視点Xは、所定の直線上を動いた後、その直線の終点で所定期間(例えば、数秒間)停止し、そこから再び他の直線上を動いた後、その直線の終点で所定期間停止するという動作を繰り返す。このようにすれば、対象者に容易に注視点Xを注視させることができる。注視点Xは、表示部20における表示面上の各点をすべて通過するように移動することが好ましい。ここで、注視点Xの形状は例えば楕円であり、注視点Xの位置は例えば注視点Xの中心位置である。なお、注視点Xの形状や位置はこれに限られない。
【0037】
対象者には、このような注視点Xの動きを目で追ってもらう。対象者に注視点Xを追ってもらうためには、注視点Xの表示制御を開始する前に、対象者に対して具体的な指示を出力してもよい。例えば、表示部20上に注視点Xを追うように文章等で指示が表示されればよい。或いは、対象者が自然に注視点Xを目で追うような表示制御を行うようにしてもよい。例えば、注視点Xが対象者の興味を惹くようなキャラクターやオブジェクト等として表示されればよい。
【0038】
なお、注視点Xの移動速度や大きさは予め設定されている。ただし、対象者の反応に応じて、注視点Xの移動速度を適宜変更するようにしてもよい。例えば、注視点の動きに対する視線の動きの遅延が相対的に大きい対象者については、注視点Xの動きを遅くするようにしてもよい。或いは、対象者の反応に応じて、注視点Xの大きさを適宜変更するようにしてもよい。例えば、視点位置のばらつきが相対的に大きい対象者については、注視点Xの大きさを大きくするようにしてもよい。また、対象者の反応に応じて、注視点Xの移動速度及び大きさの両方を適宜変更するようにしてもよい。注視点Xの移動速度を変更する制御、又は注視点Xの大きさを変更する制御は、注視点Xの表示制御が開始された直後の結果(例えば、最初の直線上を移動する際に測定された結果)を用いて実行されればよい。
【0039】
図5に示すように、注視点Xは、移動中に所定間隔でフラッシュする(言い換えれば、強調表示される)ように制御されてもよい。このようにすれば、対象者に容易に注視点Xを注視させることができる。また、注視点Xが一定間隔でフラッシュすることで、対象者は注視点Xの動きを予測しやすくなる。よって、視差の時間遅延分(即ち、注視点の動きに対する視線の動きの遅延分)を一定の値まで小さくすることが容易となる。なお、
図5に示す表示態様においても、
図4で説明したように、注視点Xが動く状態と停止する状態を交互に繰り返すようにしてもよい。
【0040】
図6に示すように、注視点Xは、移動中に見える状態(図中のX1)と、見えない状態(図中のX2)を交互に繰り返すように制御されてもよい。このようにした場合でも、対象者に容易に注視点Xを注視させることができる。また、注視点Xが周期的に見える状態と見えない状態を繰り返すことで、対象者は注視点Xの動きを予測しやすくなる。よって、視差の時間遅延分を一定の値まで小さくすることが容易となる。なお、
図6に示す表示態様においても、
図4で説明したように、注視点Xが動く状態と停止する状態を交互に繰り返すようにしてもよい。
【0041】
図7に示すように、注視点Xは、移動中に大きく表示される状態(図中のX3)と、見小さく表示される状態(図中のX4)を交互に繰り返すように制御されてもよい。このようにした場合でも、対象者に容易に注視点Xを注視させることができる。また、注視点Xの大きさが周期的に変化することで、対象者は注視点Xの動きを予測しやすくなる。よって、視差の時間遅延分を一定の値まで小さくすることが容易となる。なお、
図7に示す表示態様においても、
図4で説明したように、注視点Xが動く状態と停止する状態を交互に繰り返すようにしてもよい。
【0042】
また、注視点Xに加えて、カウント用の数字を表示するようにしてもよい。この数字は、例えば予め設定された初期値から上限値までカウントアップしてもよいし、予め設定された初期値から下限値までカウントダウンしてもよい。数字のカウントは、時間経過で(例えば、1秒ごとに)行われてもよい。また、注視点Xが動き出してから止まるまでの期間においてカウントしてもよいし、フラッシュする度にカウントしてもよいし、注視点Xの位置と目の位置とが所定距離以内に連続的に収まっている場合にカウントしてもよい。
【0043】
(注視点の表示態様の技術的効果)
次に、第2実施形態の注視点の表示態様に係る視点位置推定装置10によって得られる技術的効果の一例について説明する。
【0044】
第2実施形態に係る視点位置推定装置10によれば、注視点の表示態様が
図4から
図7のように制御される。よって、対象者に注視点Xを注視させることがより容易となる。なお、
図4から
図7で示した各表示態様は適宜組み合わせてもよい。例えば、
図4のように所定の軌跡に沿って移動と停止を交互に繰り返すように移動する注視点Xが、
図5のように移動中に所定間隔でフラッシュするように制御されてもよい。
【0045】
(注視点の軌跡の表示態様)
次に、注視点Xの軌跡の表示態様について
図8から
図10を参照して説明する。
図8は、第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その1)である。
図9は、第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その2)である。
図10は、第2実施形態に係る視線推定システムによる注視点の軌跡の表示態様を示す概念図(その3)である。
【0046】
図8に示すように、注視点Xの移動軌跡を表示するようにしてもよい。このようにすれば、対象者は、注視点Xがこれまでどのように移動してきたか、或いは注視点Xがこれからどのように移動するのかを知ることができる。その結果、対象者が注視点Xの動きを予測しやすくなる。
【0047】
図9及び
図10に示すように、注視点Xの移動軌跡は、すでに移動した移動軌跡と、こらから移動する移動軌跡とで、表示態様が異なるものとされてもよい。具体的には、
図9に示すように、すでに移動した移動軌跡が実線で表示される一方で、これから移動する移動軌跡が点線で表示されるようにしてもよい。或いは、
図10に示すように、すでに移動した移動軌跡が通常通り表示される一方で、これから移動する移動軌跡が表示されないようにしてもよい(即ち、すでに移動した移動軌跡のみを表示するようにしてもよい)。
【0048】
(注視点の軌跡の表示態様の技術的効果)
次に、第2実施形態の注視点の軌跡の表示態様に係る視点位置推定装置10によって得られる技術的効果の一例について説明する。
【0049】
第2実施形態に係る視点位置推定装置10によれば、注視点の軌跡の表示態様が
図8から
図10のように制御される。よって、対象者が注視点Xの動きを予測しやすくなることで、視差の時間遅延分を一定の値まで小さくすることが容易となる。視差の時間遅延分を一定の値まで小さくすることによる技術的効果の一例については、後述する第3実施形態において詳しく説明する。
【0050】
<第3実施形態>
第3実施形態に係る視線推定システムについて、
図11及び
図12を参照して説明する。第3実施形態では、視線推定システムが、視点位置を補正(キャリブレーション)するためのシステムとして機能する例を挙げて説明する。なお、第3実施形態は、上述した第1及び第2実施形態と比べて一部の構成や動作が異なるのみであり、その他については概ね同様である。よって、以下では第1及び第2実施形態と異なる部分について詳細に説明し、他の重複する部分については適宜説明を省略するものとする。
【0051】
(システム構成)
まず、
図11を参照しながら、第3実施形態に係る視線推定システムの全体構成について説明する。
図11は、第3実施形態に係る視線推定システムの全体構成を示すブロック図である。なお、第3実施形態に係る視線推定システムのハードウェア構成は、第1実施形態に係る視線位置推定システム10のハードウェア構成(
図2参照)と同一であってもよいため、その説明については省略する。
【0052】
図11に示すように、第3実施形態に係る視線推定システム10は、表示部20及び撮像部30と接続されている。表示部20は、視点位置の推定対象である対象者が視認可能な位置に配置されたディスプレイであり、視点位置を推定するための注視点を表示する。表示部20における注視点の表示制御は、視線推定システム10によって行われる。撮像部30は、表示部20の周辺に設置されたカメラであり、対象者の画像(特に、顔周辺の画像)を撮像可能な位置に配置されている。撮像部30で撮像された対象者の画像は、視線推定システム10に出力される構成となっている。
【0053】
第3実施形態に係る視線推定システム10は、第1実施形態の構成要素(
図1参照)に加えて、視差算出部103と、統計処理部104と、時間遅延算出部105と、乖離量算出部106と、補正値統合部107と、視点補正出力部108とを備えている。
【0054】
視差算出部103は、表示制御部101によって制御されている注視点の位置と、動き検出部102で推定した対象者の視点位置との差分である視差を算出する。なお、視差算出部103で算出される視差は、ランダムな統計誤差や時間遅延分を含んだ値として算出される。視差算出部103は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0055】
統計処理部104は、視差算出部103で算出された視差に含まれる統計誤差を除去するための統計処理を実行可能に構成されている。具体的には、統計処理部104は、視差算出部103で算出された視差を一定時間で時間平均することで、統計誤差を除去する。なお、上述した統計処理はあくまで一例であり、他の統計処理を用いて統計誤差を除去してもよい。統計処理部104は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0056】
時間遅延算出部105は、視差算出部103で算出された視差に含まれる時間遅延分を算出可能に構成されている。時間遅延算出部105は、少なくとも注視点が移動している際の視差に基づいて、視差の時間遅延分を算出する。時間遅延算出部105は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0057】
乖離量算出部106は、統計処理部104で統計誤差が除去された視差、及び時間遅延算出部105で算出された時間遅延分に基づいて、動き検出部102で推定された視点位置と、視点位置の真の値(即ち、実際に対象者が見ている位置)との乖離量を算出する。乖離料算出部106は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0058】
補正値統合部107は、乖離量算出部106で算出された乖離量に基づいて、動き検出部102で推定された視点位置に対する補正値(言い換えれば、視点位置のずれを小さくするための補正量)を算出する。また、補正値統合部107は、表示部20における複数箇所で算出された補正値に対して統合処理を実行し、視点位置を補正するための補正式を生成する。この補正式を用いれば、実際には補正値が算出されていない点についても、視点位置を補正することが可能となる。補正値統合部107は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0059】
視点補正出力部108は、補正値統合部107で生成された補正式を、視点位置のキャリブレーションを実施するための情報として出力する。なお、視点補正出力部108は、生成された補正式を記憶しておき、視点位置を補正して出力する機能(即ち、補正された視点位置を出力する機能)を有していてもよい。視点補正出力部108は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0060】
(動作の流れ)
次に、
図12を参照しながら、第3実施形態に係る視線推定システム10の動作の流れについて説明する。
図12は、第3実施形態に係る視線推定システムの動作の流れを示すフローチャートである。
【0061】
図12に示すように、第3実施形態に係る視線推定システム10の動作時には、まず表示制御部101が、表示部20における注視点の表示制御を開始する(ステップS101)。なお、注視点の表示制御は、例えば対象者の端末操作等によって開始されてもよいし、表示部20周辺に対象者が存在することを検知して自動的に開始されてもよい。
【0062】
注視点の表示制御が開始されると、動き検出部102が、撮像部30から対象者の画像を取得する(ステップS102)。そして、動き検出部102は、取得した対象者の画像から、対象者の視点位置を推定する(ステップS103)。
【0063】
続いて、視差算出部103が、注視点の位置と推定された視点位置との差分である視差を算出する(ステップS104)。視差が算出されると、統計処理部104が統計処理を実行し、視差に含まれる統計誤差を除去する(ステップS105)。
【0064】
その後、時間遅延算出部105が、視差に発生している時間遅延分を算出する(ステップS106)。そして、乖離量算出部106が、統計誤差が除去された視差及び視差の時間遅延分に基づいて、推定された視点位置と実際の視点位置との乖離量を算出する(ステップS107)。
【0065】
乖離量が算出されると、表示制御部101による注視点の表示制御が終了したか否かを判定する(ステップS108)。即ち、注視点が所定経路に沿って移動と停止を繰り返し、終着点まで移動が完了したか否かを判定する。表示制御が終了していないと判定された場合(ステップS108:NO)、再びステップS102から処理が繰り返される。これにより、注視点の移動経路に沿った複数箇所で乖離量が算出されることになる。
【0066】
表示制御が終了したと判定された場合(ステップS108:YES)、追従判定部110が、対象者の目が注視点を追従していたか否かを判定する(ステップS109)。なお、追従判定部110は、表示制御が終了する前に(即ち、注視点が表示されている状態で)対象者の目が注視点を追従しているか否かを判定するようにしてもよい。例えば、追従判定部110は、注視点Xが停止する度に、対象者の目が注視点を追従しているか否かを判定するようにしてもよい。なお、対象者の目が注視点を追従していないと判定された場合(ステップS109:NO)、以降の処理は省略され一連の動作は終了する。対象者の目が注視点を追従していなければ、適切な視点位置の補正が実行できないからである。
【0067】
一方、対象者の目が注視点を追従していたと判定された場合(ステップS109:YES)、補正値統合部107が、複数箇所で算出された乖離量の各々から複数の補正値を算出し、複数の補正値に対する統合処理を実行する(ステップS109)。即ち、複数の補正値に基づいて、視点位置の補正式を算出する。そして、視点補正出力部108は、補正値統合部107で生成された補正式を、視点位置のキャリブレーションを実行するための情報として出力する(ステップS110)。
【0068】
(視点位置の補正)
次に、第2実施形態に係る視線推定システム10による視点位置の補正について具体的に説明する。なお、以下では、注視点Xが第2実施形態において説明した
図6のような表示態様で表示されるものとする。
【0069】
本実施形態に係る視線推定システム10の動き検出部102で推定される視点位置を“Xgaze,est”、補正値を“ΔXcalib”、統計誤差を“ε”とすると、対象者の視点位置の真の値“Xgaze,true”は、下記式(1)で表すことができる。
【0070】
【0071】
なお、視差が統計誤差を含まない場合、上記式(1)は、下記式(2)のように表すこともできる。
この場合、以下の説明における“ε”を無視して計算することが可能である。
【0072】
また、注視点Xの位置を“Xc”、時間遅延分を“δXdelay”とすると、下記式(3)のように表すこともできる。
【0073】
【0074】
更に、上記式(1)及び(3)から、視差算出部103で算出される視差“Xgaze,est-Xc”は、下記式(4)で表すことができる。
【0075】
【0076】
ここで、統計誤差εは、統計処理部104が実行する統計処理によって除去することができる。この結果、視差算出部103で算出されるXgaze,est-Xcと、時間遅延算出部105によって算出される時間遅延分δXdelayを用いて、補正値ΔXcalibを算出することが可能となる。
【0077】
なお、補正値ΔXcalibは、少なくとも注視点Xが動いている状態での視差を利用して算出される。注視点Xが動いている状態では、注視点Xが動き出してから十分な時間が経過した場合に、時間遅延分δXdelayが小さくなる。具体的には、注視点が一定速度で動くことにより対象者が注視点の動きを予測することができるようになるため、時間遅延分が小さくなり、限りなく一定の値に近づく。このときの時間遅延分は、例えば注視点Xが停止した際の視点位置や、停止した位置に視点が定まるまでの経過時間等から推定することができる。よって、注視点Xが動いている状態の視差を利用すれば、より容易且つ正確に補正値ΔXcalibを算出できる。なお、注視点が動いている状態での視差は、例えば注視点Xが動く直線上の中点において算出されればよい。
【0078】
補正値ΔXcalibは、表示部20の複数箇所において算出される。そして、補正値統合部107は、複数箇所で統合された補正値ΔXcalibを統合して視点位置の補正式を生成する。補正式は、例えば所定の係数A及びbを含む下記式(5)のような式として生成される。
【0079】
【0080】
なお、補正値ΔXcalibは、注視点Xが動いている状態で算出される補正値だけでなく、注視点Xが停止している状態で算出される補正値を統合して算出されてもよい。
【0081】
また、注視点Xの位置Xcとして、視点位置Xgaze,estに最も近い、注視点Xの円周上の位置(すなわち、視点位置Xgaze,estと注視点Xの中心位置とを結ぶ線分と、注視点Xの円周と、の交点)を採用してもよい。
【0082】
なお、上述した例では、視差算出、視差統計処理、視差時間遅延算出、乖離量算出(即ち、
図5のステップS104からS107の処理)が順次実行されるケースを挙げて説明したが、これらの処理は必ずしもすべて実行されずともよい。
【0083】
例えば、視差算出を行うことで視点位置が補正されるようにしてもよい。このようにすることで、視差の影響を低減する補正が可能である。
【0084】
或いは、視差統計処理を行うことで視点位置が補正されるようにしてもよい。このようにすることで、視差の統計誤差による影響を低減する補正が可能である。
【0085】
或いは、視差時間遅延算出を行うことで視点位置が補正されるようにしてもよい。このようにすることで、視差の時間遅延分による影響を低減する補正が可能である。
【0086】
或いは、乖離量算出を行うことで視点位置が補正されるようにしてもよい。このようにすることで、視点位置の乖離量による影響を低減する補正が可能である。
【0087】
更に、視差算出、視差統計処理、視差時間遅延算出、乖離量算出の各処理は、少なくとも2つが組み合わされて実行されてもよい。
【0088】
(技術的効果)
次に、第3実施形態に係る視線推定システム10によって得られる技術的効果の一例について説明する。
【0089】
図11及び
図12で説明したように、第3実施形態に係る視線推定システム10によれば、対象者に注視点Xを注視させることで、推定された視点位置を補正するための補正値(言い換えれば、キャリブレーションするための値)を算出することができる。また本実施形態では特に、注視点Xが動いている状態での視差を利用して補正値を算出するため、時間遅延分δXdelayの影響を小さくし、注視点Xが静止している場合と比べて広い範囲でも補正値を取得できる。この結果、対象者が実際にどこを見ているのかを精度よく推定することが可能となる。
【0090】
<第4実施形態>
次に、第4実施形態に係る視線推定システム10について、
図13及び
図14を参照して説明する。第4実施形態では、視線推定システム10が、対象者のなりすましを判定するシステムとして機能する例を挙げて説明する。なお、第3実施形態は、既に説明した第1から第3実施形態と一部の構成及び動作が異なるのみであり、その他の部分は概ね同様である。このため、以下では第1から第3実施形態と異なる部分について詳細に説明し、他の重複する部分については説明を適宜省略するものとする。
【0091】
(システム構成)
まず、
図13を参照しながら、第4実施形態に係る視線推定システム10の全体構成について説明する。
図13は、第4実施形態に係る視線推定システムの全体構成を示すブロック図である。なお、第4実施形態に係る視線推定システムのハードウェア構成は、第1実施形態に係る視線位置推定システム10のハードウェア構成(
図2参照)と同一であってもよいため、その説明については省略する。
【0092】
図13に示すように、第4実施形態に係る視線推定システム10は、第3実施形態に係る視線推定システム10の構成要素(
図1参照)に加えて、なりすまし検出部201と、判定結果出力部202とを備えている。より正確には、第4実施形態に係る視線推定システム10は、第3実施形態に係る補正値統合部107及び視点補正出力部108に代えて、なりすまし検出部201及び判定結果出力部202を備えている。
【0093】
なりすまし検出部201は、追従判定部110の判定結果に基づいて、なりすまし(即ち、動画等を用いた不正な動作)が行われていることを検出可能に構成されている。例えば、対象者が実際に撮像部30の前に存在している場合、時間遅延分に起因して、乖離量は相応の大きさを有する値として算出される。一方で、対象者が実際に撮像部30の前に存在しておらず、対象者の撮像された動画等を撮像部30に向けている場合、人間特有の時間遅延分が発生せず、乖離量は極めて小さい値として算出される。よって、追従判定部110は、算出された乖離量と所定の閾値を比較することで、対象者による正常な注視点Xの追従が行われているか否かを判定することができる。従って、なりすまし検出部は、追従判定部110の判定結果に基づいて、なりすましが行われていることを検出することができる。具体的には、追従判定部110は、算出された乖離量が所定の閾値より大きい場合には、対象者による正常な注視点Xの追従が行われていると判定する。この場合、なりすまし検出部201は、なりすましが行われていることを検出する。一方、追従判定部110は、算出された乖離量が所定の閾値より小さい場合には、対象者による正常な注視点Xの追従が行われていないと判定する。この場合、なりすまし検出部201は、なりすましが行われていることを検出しない。なりすまし検出部201は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0094】
判定結果出力部202は、なりすまし検出部201による判定結果を出力可能に構成されている。判定結果出力部202は、なりすましが行われているか否かの結果のみを出力するようにしてもよいし、なりすましが行われていることが検出された場合に、所定の動作(例えば、アラート動作)を実行するようにしてもよい。判定結果出力部202は、例えばCPU11(
図1参照)において、上述した機能を有する機能ブロックとして実現されればよい。
【0095】
(動作の流れ)
次に、
図14を参照しながら、第4実施形態に係る視線推定システム10の動作の流れについて説明する。
図14は、第4実施形態に係る視線推定システムの動作の流れを示すフローチャートである。
【0096】
図14に示すように、第4実施形態に係る視線推定システム10の動作時には、第1実施形態と同様に、まずステップS101からS108の処理が実行される。即ち、対象者に注視点Xを目で追ってもらい、その際に撮像された画像から、推定された視点位置と真の値との乖離量が算出される。
【0097】
第4実施形態では特に、注視点の表示制御が終了したと判定されると(ステップS108:YES)、追従判定部110が、対象者の目が注視点を追従していたか否かを判定する(ステップS109)。そして、対象者の目が注視点を追従していないと判定された場合(ステップS109:NO)、なりすまし検出部201が、なりすましが行われていることを検出する(ステップS201)。一方で、対象者の目が注視点を追従していたと判定された場合(ステップS109:YES)、なりすまし検出部201が、なりすましが行われていることを検出しない(ステップS202)。そして、判定結果出力部202は、なりすまし判定部201による判定結果を出力する(ステップS202)。
【0098】
なお、第4実施形態では、注視点Xの表示制御が終了する前に、なりすまし検出部201によってなりすましが検出されてもよい(言い換えれば、注視点Xの表示制御が終了する前に、追従判定部110による判定が実行されてもよい)。例えば、追従判定部110は、算出された一の乖離量の値がなりすましに対応する値であると判定できた時点で、注視点Xの移動完了を待たずに、追従が行われていないと判定し、そのタイミングで、なりすまし検出部201が、なりすましが行われていることを検出するようにしてもよい。
【0099】
(技術的効果)
次に、第4実施形態に係る視線推定システム10によって得られる技術的効果の一例について説明する。
【0100】
図13及び
図14で説明したように、第4実施形態に係る視線推定システム10によれば、乖離量算出部106で算出された乖離量に基づいて、なりすましが行われているか否かを判定して検出することができる。即ち、実際の人間の視点位置の動きと、機械的な視点位置の動きとの違いを利用して、適切になりすましを判定して検出することができる。第4実施形態に係る視線推定システム10は、例えば視点位置を利用した認証処理を実行する場合に有益な効果を発揮する。
【0101】
なお、第4実施形態に係る視線推定システム10では、注視点の軌跡を表示しないようにすることが好ましい。或いは、
図10に示したように、すでに移動した移動軌跡を表示する一方で、これから移動する移動軌跡は表示しないようにすることが好ましい。
【0102】
<付記>
以上説明した実施形態に関して、更に以下の付記のようにも記載されうるが、以下には限られない。
【0103】
(付記1)
付記1に記載の視点位置推定システムは、対象者が注視する注視点を所定の移動態様で移動させるように表示させる表示制御手段と、前記対象者の画像から前記対象者の目の動きを検出する検出手段と、前記注視点の動きと前記目の動きとの関係性に基づき、前記対象者の目が前記注視点を追従しているか否か判定する追従判定手段と、を備えることを特徴とする視線推定システムである。
【0104】
(付記2)
付記2に記載の視線推定システムは、前記表示制御手段は、前記注視点が所定の加速度で動く第1期間、及び前記注視点を所定期間停止する第2期間が交互に繰り返されるように前記注視点を移動させる第1態様、前記注視点を一定間隔で強調表示する第2態様、前記注視点を一定間隔で表示・非表示を交互に繰り返する第3態様、並びに移動中に前記注視点の大きさを変更する第4態様のうち少なくとも一つの表示態様で注視点を表示させることを特徴とする付記1に記載の視線推定システムである。
【0105】
(付記3)
付記3に記載の視線推定システムは、前記表示制御手段は、前記注視点の移動する移動軌跡のうち、前記注視点が通過した軌跡と通過していない軌跡とを異なる表示態様で表示させる、又は前記注視点の移動する移動軌跡のうち、前記注視点が通過した軌跡と通過していない軌跡とのうち少なくとも一方を表示させることを特徴とする付記1又は2に記載の視線推定システムである。
【0106】
(付記4)
付記4に記載の視線推定システムは、前記対象者の目が前記注視点を追従しているか否かに応じて、検出された前記対象者の目の動きに関するパラメータを補正する補正手段を備えることを特徴とする付記1から3のいずれか一項に記載の視線推定システムである。
【0107】
(付記5)
付記5に記載の視線推定システムは、前記補正手段は、検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、前記乖離量に基づいて、前記対象者の視点位置を補正する補正値を決定することを特徴とする付記4に記載の視線推定システムである。
【0108】
(付記6)
付記6に記載の視線推定システムは、前記補正手段は、前記注視点が移動する領域の複数箇所で前記乖離量を算出し、前記複数箇所で算出された前記乖離量に基づいて決定される複数の前記補正値を統合して、前記視点位置を補正する
ことを特徴とする付記5に記載の視線推定システムである。
【0109】
(付記7)
付記7に記載の視線推定システムは、前記対象者の目が前記注視点を追従していない場合に、前記対象者のなりすましを検出するなりすまし検出手段を更に備えることを特徴とする請求項1から6のいずれか一項に記載の視線推定システムである。
【0110】
(付記8)
付記8に記載の視線推定システムは、前記なりすまし検出手段は、検出された前記対象者の目の動きから、前記注視点の位置と前記対象者の視点位置との差である視差を算出し、前記注視点が動いている状態で算出された前記視差から、前記視差の時間遅延分を算出し、前記視差及び前記視差の時間遅延分に基づいて、推定された前記視点位置の真の値に対する乖離量を算出し、前記乖離量に基づいて、前記対象者のなりすましを検出することを特徴とする付記7に記載の視線推定システムである。
【0111】
(付記9)
付記8に記載の視線推定装置は、前記表示制御手段は、前記なりすまし検出手段によってなりすましを検出する場合に、前記注視点の移動軌跡を表示させないことを特徴とする付記7又は8に記載の視線推定システムである。
【0112】
(付記10)
付記10に記載の視線推定方法は、対象者が注視する注視点を所定の移動態様で移動させるように表示させ、前記対象者の画像から前記対象者の目の動きを検出し、前記注視点の動きと前記目の動きとの関係性に基づき、前記対象者の目が前記注視点を追従しているか否か判定することを特徴とする視線推定方法である。
【0113】
(付記11)
付記11に記載のコンピュータプログラムは、対象者が注視する注視点を所定の移動態様で移動させるように表示させ、前記対象者の画像から前記対象者の目の動きを検出し、前記注視点の動きと前記目の動きとの関係性に基づき、前記対象者の目が前記注視点を追従しているか否か判定するようにコンピュータを動作させることを特徴とするコンピュータプログラムである。
【0114】
この開示は、請求の範囲及び明細書全体から読み取ることのできる発明の要旨又は思想に反しない範囲で適宜変更可能であり、そのような変更を伴う視線推定システム、視線推定方法、及びコンピュータプログラムもまたこの開示の技術思想に含まれる。
【符号の説明】
【0115】
10 視線推定システム
20 表示部
30 撮像部
101 表示制御部
102 動き検出部
103 視差算出部
104 統計処理部
105 時間遅延算出部
106 乖離量算出部
107 補正値統合部
108 視点補正出力部
110 追従判定部
201 なりすまし検出部
202 判定結果出力部