(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-27
(45)【発行日】2024-03-06
(54)【発明の名称】眼球運動測定装置、キャリブレーションシステム、眼球運動測定方法及び眼球運動測定プログラム
(51)【国際特許分類】
A61B 3/113 20060101AFI20240228BHJP
【FI】
A61B3/113
(21)【出願番号】P 2020025640
(22)【出願日】2020-02-18
【審査請求日】2022-11-22
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成31年度、関東総合通信局、研究開発委託「眼球運動からのバイオシグナル収集技術」委託研究、産業技術力強化法第17条の適用を受ける特許出願
(73)【特許権者】
【識別番号】801000027
【氏名又は名称】学校法人明治大学
(74)【代理人】
【識別番号】100165179
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100188558
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100175824
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100152272
【氏名又は名称】川越 雄一郎
(74)【代理人】
【識別番号】100181722
【氏名又は名称】春田 洋孝
(72)【発明者】
【氏名】星野 聖
(72)【発明者】
【氏名】野口 勇気
【審査官】▲高▼木 尚哉
(56)【参考文献】
【文献】国際公開第2019/187808(WO,A1)
【文献】特開2012-065719(JP,A)
【文献】国際公開第2016/098406(WO,A1)
【文献】中国特許出願公開第110648369(CN,A)
【文献】特開平11-212715(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00-3/18
(57)【特許請求の範囲】
【請求項1】
注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得する取得部と、
前記取得部が取得する前記眼球画像に含まれる瞳孔画像を抽出する瞳孔抽出部と、
前記瞳孔抽出部によって前記眼球画像から前記瞳孔画像を抽出できたか否かを判定する判定部と、
前記判定部の判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御する注視点表示制御部と、
前記判定部が前記瞳孔画像を抽出できたと判定した場合に
、キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記判定部が前記瞳孔画像を抽出できたと判定しなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させる記憶制御部と、
を備える眼球運動測定装置。
【請求項2】
前記瞳孔抽出部が抽出する前記瞳孔画像の前記眼球画像内における座標位置と、前記記憶部に記憶されている前記注視点座標位置と、所定の変換式とに基づいて、前記眼球の回転角度を算出する回転角度算出部
を備える請求項1に記載の眼球運動測定装置。
【請求項3】
前記注視点表示制御部は、前記眼球画像から前記瞳孔画像を抽出できなかった場合に、
前記注視点表示装置に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる
請求項1または請求項2に記載の眼球運動測定装置。
【請求項4】
請求項1から請求項3のいずれか一項に記載の眼球運動測定装置と、
前記注視点表示装置と、
を備えるキャリブレーションシステム。
【請求項5】
注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得し、
取得された前記眼球画像に含まれる瞳孔画像を抽出し、
前記眼球画像から前記瞳孔画像を抽出できたか否かを判定し、
前記瞳孔画像を抽出できたか否かの判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御し、
前記瞳孔画像を抽出できたと判定された場合に、
キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記瞳孔画像を抽出できたと判定されなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させる
眼球運動測定方法。
【請求項6】
コンピュータに、
注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得し、
取得された前記眼球画像に含まれる瞳孔画像を抽出し、
前記眼球画像から前記瞳孔画像を抽出できたか否かを判定し、
前記瞳孔画像を抽出できたか否かの判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御し、
前記瞳孔画像を抽出できたと判定された場合に、
キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記瞳孔画像を抽出できたと判定されなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させる
ための眼球運動測定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、眼球運動測定装置、キャリブレーションシステム、眼球運動測定方法及び眼球運動測定プログラムに関する。
【背景技術】
【0002】
従来、眼球を撮像することによって眼球運動を計測することにより、被験者の視線方向を算出する技術が開示されている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に示すような技術によると、眼球を撮像するカメラと被験者との相対位置関係が変化した場合、撮像された眼球の画像の状況によっては、眼球運動(特に、眼球回旋運動)の計測精度が低下してしまうことがあった。このため、従来では、カメラを眼鏡フレームに搭載して、眼球とカメラとの相対位置関係が変化しにくいようにすることもあった。このように構成した従来技術によると、カメラを眼鏡フレームに搭載した場合、眼球とカメラとの相対位置関係の個人差が比較的大きく、被験者ごとにキャリブレーションする必要があった。しかしながら、被験者ごとにキャリブレーションする場合、比較的多くの方向(例えば、9方向)に視線を変化させて測定する必要があるなど、キャリブレーションに手間がかかるという課題があった。
【課題を解決するための手段】
【0005】
本発明の一実施形態は、注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得する取得部と、前記取得部が取得する前記眼球画像に含まれる瞳孔画像を抽出する瞳孔抽出部と、前記瞳孔抽出部によって前記眼球画像から前記瞳孔画像を抽出できたか否かを判定する判定部と、前記判定部の判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御する注視点表示制御部と、前記判定部が前記瞳孔画像を抽出できたと判定した場合に、キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記判定部が前記瞳孔画像を抽出できたと判定しなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させる記憶制御部と、を備える眼球運動測定装置である。
【0006】
本発明の一実施形態の眼球運動測定装置は、前記瞳孔抽出部が抽出する前記瞳孔画像の前記眼球画像内における座標位置と、前記記憶部に記憶されている前記注視点座標位置と、所定の変換式とに基づいて、前記眼球の回転角度を算出する回転角度算出部を備える。
【0007】
本発明の一実施形態の眼球運動測定装置において、前記注視点表示制御部は、前記眼球画像から前記瞳孔画像を抽出できなかった場合に、前記注視点表示装置に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0009】
本発明の一実施形態は、上述の眼球運動測定装置と、上述の注視点表示装置とを備えるキャリブレーションシステムである。
【0010】
本発明の一実施形態は、注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得し、取得された前記眼球画像に含まれる瞳孔画像を抽出し、前記眼球画像から前記瞳孔画像を抽出できたか否かを判定し、前記瞳孔画像を抽出できたか否かの判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御し、前記瞳孔画像を抽出できたと判定された場合に、キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記瞳孔画像を抽出できたと判定されなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させる眼球運動測定方法である。
【0011】
本発明の一実施形態は、コンピュータに、注視点表示装置に表示される注視点を注視する被験者の眼球が撮像された眼球画像を取得し、取得された前記眼球画像に含まれる瞳孔画像を抽出し、前記眼球画像から前記瞳孔画像を抽出できたか否かを判定し、前記瞳孔画像を抽出できたか否かの判定結果に基づいて、前記注視点表示装置に表示される注視点の座標位置を制御し、前記瞳孔画像を抽出できたと判定された場合に、キャリブレーション後の注視点座標位置として記憶部に記憶させ、前記瞳孔画像を抽出できたと判定されなかった場合に、前記注視点表示装置に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部に記憶させるための眼球運動測定プログラムである。
【発明の効果】
【0012】
本発明によれば、キャリブレーションにかかる手間を低減できる眼球運動測定装置、キャリブレーションシステム、眼球運動測定方法及び眼球運動測定プログラムを提供することができる。
【図面の簡単な説明】
【0013】
【
図1】本実施形態の眼球運動測定システムの機能構成の一例を示す図である。
【
図2】本実施形態の眼球運動測定装置の外観構成の一例を示す図である。
【
図3】本実施形態の被験者と注視点表示装置との相対位置関係の一例を示す図である。
【
図4】本実施形態の撮像部の画角の一例を示す図である。
【
図5】本実施形態の注視点座標系と画像座標系との対応関係の一例を示す図である。
【
図6】本実施形態のキャリブレーション装置の動作の流れの一例を示す図である。
【
図7】本実施形態の第1位置のキャリブレーション手順の一例を示す図である。
【
図8】本実施形態の第2位置のキャリブレーション手順の一例を示す図である。
【
図9】本実施形態の第3位置のキャリブレーション手順の一例を示す図である。
【
図10】本実施形態の第4位置のキャリブレーション手順の一例を示す図である。
【
図11】本実施形態の第5位置のキャリブレーション手順の一例を示す図である。
【
図12】本実施形態の第6位置のキャリブレーション手順の一例を示す図である。
【
図13】本実施形態のキャリブレーション結果の一例を示す図である。
【
図14】本実施形態の記憶部に記憶される座標情報の一例を示す図である。
【
図15】本実施形態のキャリブレーション結果の他の一例を示す図である。
【
図16】本実施形態の記憶部に記憶される座標情報の他の一例を示す図である。
【
図17】本実施形態の眼球運動測定装置のテンプレート領域を決定する動作の一例を示す図である。
【
図18】本実施形態の眼球画像の一例を示す図である。
【
図19】本実施形態のヒストグラム平坦化処理後の白目領域の画像の一例を示す図である。
【
図20】本実施形態の特徴点の抽出結果の一例を示す図である。
【
図21】本実施形態の血管二値化細線化画像の一例を示す図である。
【
図22】本実施形態の血管対応特徴点の一例を示す図である。
【発明を実施するための形態】
【0014】
[実施形態]
以下、図面を参照して本実施形態の眼球運動測定システム1について説明する。
図1は、本実施形態の眼球運動測定システム1の機能構成の一例を示す図である。眼球運動測定システム1は、眼球運動測定装置2と、注視点表示装置30とを備える。なお、眼球運動測定システム1のことを、(すなわち、眼球運動測定装置2と、注視点表示装置30とを合わせて)キャリブレーションシステムともいう。
【0015】
[眼球運動測定装置2の構成]
眼球運動測定装置2は、キャリブレーション装置10と、撮像部20と、眼球回転角度算出部40とを備える。
なお、この一例においては、眼球運動測定装置2と撮像部20とが一体型の装置として構成される場合について説明するが、これに限られない。眼球運動測定装置2と撮像部20とは個別の装置として構成されてもよい。
まず、撮像部20の構成について説明する。
【0016】
[撮像部20の構成]
図2は、本実施形態の眼球運動測定装置2の外観構成の一例を示す図である。この一例では、眼球運動測定装置2、被験者の頭部に装着されるメガネ型のゴーグルとして構成される。撮像部20には、右眼撮像部20R及び左眼撮像部20Lがある。右眼撮像部20Rは、被験者の右眼を撮像する。左眼撮像部20Lは、被験者の左眼を撮像する。本実施形態においては、右眼撮像部20Rと、左眼撮像部20Lとは、撮像対象の眼が左右異なるだけであり機能的には同一である。本実施形態では右眼撮像部20Rについて説明し、左眼撮像部20Lについての説明を省略する。以下の説明において、右眼撮像部20Rのことを、単に撮像部20とも記載する。
【0017】
撮像部20は、例えば動画像を撮像可能なカメラを備えている。撮像部20は、被験者の眼球EYを撮像することにより眼球画像IMGを生成する。
【0018】
[注視点表示装置30の構成]
図1に戻り、注視点表示装置30の構成について説明する。注視点表示装置30は、表示部310を備える。表示部310は、例えば、発光体が格子状に配列されたパネルや、液晶ディスプレイなどである。本実施形態の表示部310は、水平方向に9列、鉛直方向に7行、合計63点の各格子点に発光体を備えたパネルとして構成されている。
【0019】
図3は、本実施形態の被験者と注視点表示装置30との相対位置関係の一例を示す図である。本実施形態の注視点表示装置30は、被験者から1~2メートル程度離され、被験者の前方に設置される。被験者の頭部の方向と、注視点表示装置30の位置との相対関係が固定された状態で、被験者は表示部310を注視する。注視点表示装置30は、上述の63点の各格子点に配置された各発光体のうち、いずれかの発光体を発光させ、他の発光体を消灯させる。被験者は、表示部310が備える複数の発光体のうち、発光している発光体を注視する。以下の説明において、発光している発光体の表示部310上の位置を「注視点」ともいう。表示部310において発光体が発光している位置(すなわち、注視点)が変化すると、被験者の視線GZの方向が変化する。表示部310に対する被験者の頭部の方向が固定されているため、被験者は、頭部の方向を動かさずに、眼球EYを動かすことによって視線GZの方向を変化させる。つまり、被験者の視線GZの方向の変化は、眼球EYの瞳孔の位置の動きとして現れる。
注視点の位置が変化して、被験者の視線GZの方向が変化することにより、撮像部20の撮像方向から見た被験者の瞳孔の位置が変化する。
【0020】
図4は、本実施形態の撮像部20の画角の一例を示す図である。本実施形態の撮像部20(右眼撮像部20R)は、被験者の右眼を仰視する(つまり、見上げる)位置から、被験者の右眼を撮像する。
上述したように、撮像部20は、眼球EYを撮像することにより眼球画像IMGを生成する。注視点表示装置30の注視点の位置が変化すると、被験者の視線GZの方向が変化する。したがって、注視点表示装置30の注視点の位置が変化すると、撮像部20が撮像する眼球画像IMG内の瞳孔の位置が変化する。
なお、以下の説明において、眼球画像IMGのうち、瞳孔を示す領域画像のことを瞳孔画像PLともいう。また、眼球画像IMG内の瞳孔の位置とは、眼球画像IMG内の瞳孔画像PLの位置のことである。
【0021】
ここで、撮像部20が撮像する眼球画像IMG内の瞳孔の位置を示す座標系と、注視点表示装置30の注視点の位置を示す座標系との対応関係が既知であれば、眼球画像IMG内の瞳孔の位置に対して所定の座標変換を施すことにより、注視点表示装置30の注視点の位置(つまり、被験者の視線GZの方向)を算出することができる。
【0022】
なお、撮像部20が眼球EYを撮像する撮像方向と、被験者の視線GZの方向との幾何学的な位置関係によっては、眼球EYの瞳孔を撮像部20が撮像できる位置関係の場合と、できない位置関係の場合と(すなわち、眼球画像IMGに瞳孔画像PLが含まれる場合と、含まれない場合と)がある。もし、眼球画像IMGに瞳孔画像PLが含まれている場合には、被験者の視線GZの方向を算出することができる。一方、眼球画像IMGに瞳孔画像PLが含まれていない場合には、被験者の視線GZの方向を算出することができない。
【0023】
図5は、本実施形態の注視点座標系と画像座標系との対応関係の一例を示す図である。以下の説明において、注視点表示装置30の注視点の位置を示す座標系を「注視点座標系」ともいう。注視点座標系は、互いに直交するx軸及びy軸の2軸によって位置を示す。x軸は、注視点表示装置30の水平方向を示す。y軸は、注視点表示装置30の垂直方向(鉛直方向)を示す。
また、眼球画像IMG内の瞳孔の位置を示す座標系を「画像座標系」ともいう。画像座標系は、互いに直交するIx軸及びIy軸の2軸によって位置を示す。Ix軸は、眼球画像IMGの水平方向を示す。Iy軸は、眼球画像IMGの垂直方向を示す。
なお、被験者の視線GZの方向と、撮像部20の撮像軸の方向とが互いに対向している。
図4に示す眼球画像IMG(すなわち、撮像部20が撮像した状態をそのまま示した眼球画像IMG)と、
図5(B)に示す眼球画像IMG(すなわち、注視点座標系に対応付けた眼球画像IMG)とは、互いにIx軸方向に反転している。したがって、
図5に示すように注視点座標系と画像座標系とを対応付けて表現する場合には、注視点座標系のx軸の正方向と、画像座標系のIx軸の正方向とは、互いに対向している。
【0024】
上述したように、本実施形態の注視点表示装置30は、水平方向(x軸方向)に9列、鉛直方向(y軸方向)に7行、合計63点の格子点を備えている。
注視点座標系における注視点の位置を「注視点位置P」ともいう。被験者が注視点位置Pを注視している場合の、画像座標系における瞳孔の位置を「瞳孔位置IP」ともいう。
ある被験者での一例として、注視点座標系の原点位置(注視点原点位置Po)を注視している場合の、画像座標系における瞳孔位置IPを「瞳孔原点位置IPo」ともいう。すなわち、この一例では、注視点原点位置Poと、瞳孔原点位置IPoとが対応する。
同様に、第1表示位置Paと第1瞳孔位置IPaとが対応し、第2表示位置Pbと第2瞳孔位置IPbとが対応し、第3表示位置Pcと第3瞳孔位置IPcとが対応し、第4表示位置Pdと第4瞳孔位置IPdとが対応し、第5表示位置Peと第5瞳孔位置IPeとが対応する。
【0025】
図1に戻り、眼球回転角度算出部40は、上述した画像座標系と注視点座標系との対応関係に基づいて、眼球画像IMG内の瞳孔の位置から、被験者の眼球EYの回転角度(つまり、視線GZの方向)を算出する。すなわち、眼球回転角度算出部40は、瞳孔抽出部120が抽出する瞳孔画像の眼球画像IMG内における座標位置と、記憶部160に記憶されている注視点座標位置と、所定の変換式とに基づいて、眼球EYの回転角度を算出する。
【0026】
ここで、注視点座標系と画像座標系との対応関係は、被験者ごとに異なる、すなわち個人差がある場合がある。したがって、被験者ごとに注視点座標系と画像座標系との対応関係を予め求めておくことにより、それぞれの被験者について、画像座標系から注視点座標系への座標変換を行うことが可能となる。
注視点座標系と画像座標系との対応関係を予め求めておくことを、キャリブレーションともいう。このキャリブレーションを行うキャリブレーション装置10の機能構成について説明する。
【0027】
[キャリブレーション装置10の機能構成]
キャリブレーション装置10は、画像取得部110と、瞳孔抽出部120と、判定部130と、注視点表示制御部140と、記憶制御部150と、記憶部160とを備える。
【0028】
画像取得部110は、眼球画像IMGを取得する。ここで、眼球画像IMGとは、注視点表示装置30に表示される注視点を注視する被験者の眼球EYが撮像された画像である。すなわち、画像取得部110は、注視点表示装置30に表示される注視点を注視する被験者の眼球EYが撮像された眼球画像IMGを取得する。画像取得部110は、取得した眼球画像IMGを瞳孔抽出部120に出力する。
【0029】
瞳孔抽出部120は、画像取得部110が出力する眼球画像IMGを取得する。この眼球画像IMGには、被験者の瞳孔の画像(瞳孔画像)が含まれている可能性がある。瞳孔抽出部120は、既知の画像処理手法に基づいて、眼球画像IMGの中から被験者の瞳孔画像の抽出を試みる。すなわち、瞳孔抽出部120は、画像取得部110が取得する眼球画像IMGに含まれる瞳孔画像を抽出する。
【0030】
判定部130は、瞳孔抽出部120によって眼球画像IMGから瞳孔画像を抽出できたか否かを判定する。
注視点表示制御部140は、判定部130の判定結果に基づいて、注視点表示装置30に表示される注視点の座標位置を制御する。
【0031】
記憶制御部150は、判定部130が瞳孔画像を抽出できたと判定した場合に、注視点表示制御部140が制御する注視点の座標位置を、キャリブレーション後の注視点座標位置として記憶部160に記憶させる。
【0032】
[キャリブレーション装置10の動作]
図6は、キャリブレーション装置10の動作の流れの一例を示す図である。キャリブレーション装置10は、上述した注視点原点位置Po及び第1表示位置Pa~第5表示位置Peの6点と、瞳孔原点位置IPo及び第1瞳孔位置IPa~第5瞳孔位置IPeの6点との、それぞれの対応関係についてキャリブレーションを行う。
この一例では、キャリブレーション装置10は、第1表示位置Paと第1瞳孔位置IPa、第2表示位置Pbと第2瞳孔位置IPb、第3表示位置Pcと第3瞳孔位置IPc、第4表示位置Pdと第4瞳孔位置IPd、第5表示位置Peと第5瞳孔位置IPe及び注視点原点位置Poと瞳孔原点位置IPo、のそれぞれの対応関係について記載順にキャリブレーションを行う。
キャリブレーション装置10は、まず、第1表示位置Paと第1瞳孔位置IPaとの対応関係についてキャリブレーションする。
【0033】
[第1位置のキャリブレーション]
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、初期座標に注視点を表示させる。
【0034】
図7は、本実施形態の第1位置のキャリブレーション手順の一例を示す図である。ここで、第1位置とは、表示座標系における第1表示位置Pa及び画像座標系における第1瞳孔位置IPaの総称である。
注視点表示制御部140は、第1位置の初期座標である第11頂点座標P11に注視点を表示させる。この結果、被験者は、第11頂点座標P11を注視する。
【0035】
(ステップS20)
図6に戻り、撮像部20は、眼球EYを撮像し眼球画像IMGを生成する。撮像部20は生成した眼球画像IMGを画像取得部110に出力する。画像取得部110は、眼球画像IMGを取得する。
(ステップS30)瞳孔抽出部120は、ステップS20において画像取得部110が取得した眼球画像IMGから瞳孔画像PLを抽出する。
【0036】
(ステップS40)判定部130は、ステップS30において、瞳孔画像PLが抽出されたか否か(すなわち、撮像部20によって被験者の瞳孔が撮像されたか否か)を判定する。
ここで、被験者が第1位置を注視した場合、視線GZの右下方向への変化による眼球EYの回転に伴って、被験者の上瞼及び上瞼の睫毛が、被験者の顔の下方向に下がる傾向がある。この場合、上瞼や睫毛が撮像部20の視界を遮り、瞳孔が撮像されにくい状態になる。撮像部20が瞳孔を撮像できた場合(つまり、眼球画像IMGに瞳孔画像PLが含まれている場合)には、眼球運動測定システム1は、被験者の視線GZの方向を算出することができる。一方、撮像部20が瞳孔を撮像できない場合(つまり、眼球画像IMGに瞳孔画像PLが含まれない場合)には、眼球運動測定システム1は、被験者の視線GZの方向を算出することができない。
判定部130は、ステップS30において、瞳孔画像PLが抽出されたと判定した場合(ステップS40;YES)には、処理をステップS60に進める。
また、判定部130は、ステップS30において、瞳孔画像PLが抽出されていないと判定した場合(ステップS40;NO)には、処理をステップS50に進める。
【0037】
(ステップS50)注視点表示制御部140は、第1位置の注視点の表示位置をy軸の正方向(+y方向)に1段階ぶん変更する。本実施形態の一例の場合、1段階ぶんとは、x軸y軸ともに10度である。すなわち、注視点表示制御部140は、x軸y軸ともに10度刻みで位置を段階的に変化させる。
より具体的には、
図7に示すように、注視点表示制御部140は、第1位置の注視点の表示位置を第11頂点座標P11から第12頂点座標P12に変更する。
【0038】
キャリブレーション装置10は、ステップS40において瞳孔画像PLが抽出されたと判定されるまで、上述のステップS20~ステップS50を繰り返し実行する。つまり、キャリブレーション装置10は、瞳孔画像PLが抽出されたと判定されるまで、第1位置の注視点の表示位置を段階的に変更する。
【0039】
換言すれば、注視点表示制御部140は、眼球画像IMGから瞳孔画像を抽出できなかった場合に、注視点表示装置30に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0040】
(ステップS60)
図6に戻り、ステップS40において瞳孔画像PLが抽出されたと判定された場合には、記憶制御部150は、表示されている注視点の座標を記憶部160に記憶させる。
一例として、第1位置の注視点が第11頂点座標P11である場合には、瞳孔画像PLが抽出されず、注視点が第12頂点座標P12である場合には、瞳孔画像PLが抽出されたとする。この場合には、記憶制御部150は、第12頂点座標P12の座標(x=+40度、y=-20度)を、第1位置の座標として記憶部160に記憶させる。
【0041】
図14は、本実施形態の記憶部160に記憶される座標情報の一例を示す図である。記憶部160には、第1位置の座標(注視点番号P1)について、第12頂点座標P12の座標(x=+40度、y=-20度)が記憶されている。
【0042】
(ステップS70)キャリブレーション装置10は、6点すべてのキャリブレーションが終了したか否かを判定する。キャリブレーション装置10は、6点のキャリブレーションが終了していないと判定した場合(ステップS70;NO)には、処理をステップS10に戻す。キャリブレーション装置10は、6点のキャリブレーションが終了したと判定した場合(ステップS70;YES)には、一連のキャリブレーション動作を終了する。
この一例では、キャリブレーション装置10は、第1位置のキャリブレーションを終え、第2位置のキャリブレーションを開始する。
【0043】
[第2位置のキャリブレーション]
図8は、本実施形態の第2位置のキャリブレーション手順の一例を示す図である。ここで、第2位置とは、表示座標系における第2表示位置Pb及び画像座標系における第2瞳孔位置IPbの総称である。
【0044】
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、第2位置の初期座標である第21頂点座標P21に注視点を表示させる。この結果、被験者は、第21頂点座標P21を注視する。
【0045】
キャリブレーション装置10は、第1位置の場合と同様にして、上述したステップS20~ステップS70を実行する。以下、第1位置の場合と同様の動作については記載を省略し、第1位置の場合と異なる動作について説明する。
【0046】
被験者が第2位置を注視した場合、視線GZの右上方向への変化による眼球EYの回転に伴って、被験者の右眼が大きく見開かれた状態となる。ここで、撮像部20による撮像のために、例えば近赤外線などの撮像補助光が投光されている場合がある。この場合、被験者の右眼が大きく見開かれた状態であると、投光角度によっては撮像補助光の影の影響によって瞳孔中心が正しく撮像されない場合がある。
判定部130は、ステップS30において、瞳孔画像PLが抽出されたと判定した場合(ステップS40;YES)には、処理をステップS60に進める。
また、判定部130は、ステップS30において、瞳孔画像PLが抽出されていないと判定した場合(ステップS40;NO)には、処理をステップS50に進める。
【0047】
(ステップS50)注視点表示制御部140は、第2位置の注視点の表示位置をy軸の負方向(-y方向)に1段階ぶん変更する。本実施形態の一例の場合、
図8に示すように、注視点表示制御部140は、第2位置の注視点の表示位置を第21頂点座標P21から第22頂点座標P22に変更する。
【0048】
キャリブレーション装置10は、ステップS40において瞳孔画像PLが抽出されたと判定されるまで、上述のステップS20~ステップS50を繰り返し実行する。つまり、キャリブレーション装置10は、瞳孔画像PLが抽出されたと判定されるまで、第2位置の注視点の表示位置を段階的に変更する。
【0049】
すなわち、キャリブレーション装置10は、第22頂点座標P22においても瞳孔画像PLが抽出されていないと判定した場合には、第2位置の注視点の表示位置をx軸の負方向(-x方向)に1段階ぶん変更する。本実施形態の一例の場合、
図8に示すように、注視点表示制御部140は、第2位置の注視点の表示位置を第22頂点座標P22から第23頂点座標P23に変更する。
【0050】
換言すれば、注視点表示制御部140は、眼球画像IMGから瞳孔画像を抽出できなかった場合に、注視点表示装置30に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0051】
(ステップS60)
図6に戻り、ステップS40において瞳孔画像PLが抽出されたと判定された場合には、記憶制御部150は、表示されている注視点の座標を記憶部160に記憶させる。
一例として、第2位置の注視点が第21頂点座標P21である場合に、瞳孔画像PLが抽出されたとする。この場合には、記憶制御部150は、第21頂点座標P21の座標(x=40度、y=30度)を、第2位置の座標として記憶部160に記憶させる。
【0052】
図14に示すように、記憶部160には、第2位置の座標(注視点番号P2)について、第22頂点座標P22の座標(x=+40度、y=+30度)が記憶されている。
【0053】
[第3位置のキャリブレーション]
図9は、本実施形態の第3位置のキャリブレーション手順の一例を示す図である。ここで、第3位置とは、表示座標系における第3表示位置Pc及び画像座標系における第3瞳孔位置IPcの総称である。
【0054】
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、第3位置の初期座標である第31頂点座標P31に注視点を表示させる。この結果、被験者は、第31頂点座標P31を注視する。
ここで、第3位置の初期座標のy座標は、上述した第1位置(例えば、第12頂点座標P12)と、第2位置(例えば、第21頂点座標P21)との間の、y軸方向の中点に定められる。具体的には、第1位置(例えば、第12頂点座標P12)のy座標が-20度であり、第2位置(例えば、第21頂点座標P21)のy座標が+30度である。この場合、第3位置のy座標は、-20度と+30度とのy軸方向の中点である+5として算出される。
【0055】
なお、本実施形態において、第3位置の座標はx軸y軸ともに10度刻みで変化する。この場合、第3位置のy座標として算出された+5度を10度刻みに切り上げて+10度とする。すなわち、第3位置の初期座標(つまり、第31頂点座標P31の座標)は、x=-40度、y=+10度と算出される。
なお、注視点表示制御部140は、中点を算出する際に、1段階(例えば、10度)未満の端数を切り上げるものとして説明したが、1段階(例えば、10度)未満の端数を切り捨ててもよい。
【0056】
キャリブレーション装置10は、第1位置の場合と同様にして、上述したステップS20~ステップS70を実行する。以下、第1位置の場合と同様の動作については記載を省略し、第1位置の場合と異なる動作について説明する。
【0057】
(ステップS50)ステップS30において瞳孔画像PLが抽出されていないと判定された場合、注視点表示制御部140は、第3位置の注視点の表示位置をx軸の正方向(+x方向)に1段階ぶん変更する。本実施形態の一例の場合、
図9に示すように、注視点表示制御部140は、第3位置の注視点の表示位置を第31頂点座標P31から第32頂点座標P32に変更する。
【0058】
キャリブレーション装置10は、ステップS40において瞳孔画像PLが抽出されたと判定されるまで、上述のステップS20~ステップS50を繰り返し実行する。つまり、キャリブレーション装置10は、瞳孔画像PLが抽出されたと判定されるまで、第3位置の注視点の表示位置を段階的に変更する。
【0059】
すなわち、キャリブレーション装置10は、第32頂点座標P32においても瞳孔画像PLが抽出されていないと判定した場合には、第3位置の注視点の表示位置をx軸の正方向(+x方向)にさらに1段階ぶん変更する。本実施形態の一例の場合、
図9に示すように、注視点表示制御部140は、第3位置の注視点の表示位置を第32頂点座標P32から第33頂点座標P33に変更する。
【0060】
換言すれば、注視点表示制御部140は、眼球画像IMGから瞳孔画像を抽出できなかった場合に、注視点表示装置30に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0061】
(ステップS60)
図6に戻り、ステップS40において瞳孔画像PLが抽出されたと判定された場合には、記憶制御部150は、表示されている注視点の座標を記憶部160に記憶させる。
一例として、第3位置の注視点が第31頂点座標P31である場合に、瞳孔画像PLが抽出されず、第32頂点座標P32である場合に瞳孔画像PLが抽出されたとする。この場合には、記憶制御部150は、第32頂点座標P32の座標(x=-10度、y=+10度)を、第3位置の座標として記憶部160に記憶させる。
【0062】
図14に示すように、記憶部160には、第3位置の座標(注視点番号P3)について、第32頂点座標P32の座標(x=-10度、y=+10度)が記憶されている。
【0063】
[第4位置のキャリブレーション]
図10は、本実施形態の第4位置のキャリブレーション手順の一例を示す図である。ここで、第4位置とは、表示座標系における第4表示位置Pd及び画像座標系における第4瞳孔位置IPdの総称である。
【0064】
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、第4位置の初期座標である第41頂点座標P41に注視点を表示させる。この結果、被験者は、第41頂点座標P41を注視する。
ここで、第4位置の初期座標のx座標は、上述した第1位置(例えば、第12頂点座標P12)と、第3位置(例えば、第32頂点座標P32)との間の、x軸方向の中点に定められる。具体的には、第1位置(例えば、第12頂点座標P12)のx座標が+40度であり、第3位置(例えば、第32頂点座標P32)のx座標が-10度である。この場合、第4位置のx座標は、+40度と-10度とのx軸方向の中点である+10度として算出される。
また、第4位置の初期座標のy座標は、上述した第1位置(例えば、第12頂点座標P12)のy座標よりも1段階低い(つまり、y軸の負方向に10度ずれた)位置に定められる。具体的には、第1位置(例えば、第12頂点座標P12)のy座標が-20度である。この場合、第4位置のy座標は、-20度からy軸の負方向に10度ずれた-30度として算出される。
【0065】
なお、注視点表示制御部140は、中点を算出する際に、1段階(例えば、10度)未満の端数を切り上げ、または切り捨ててもよい。
【0066】
キャリブレーション装置10は、第1位置の場合と同様にして、上述したステップS20~ステップS70を実行する。以下、第1位置の場合と同様の動作については記載を省略し、第1位置の場合と異なる動作について説明する。
【0067】
(ステップS50)ステップS30において瞳孔画像PLが抽出されていないと判定された場合、注視点表示制御部140は、第4位置の注視点の表示位置をy軸の正方向(+y方向)に1段階ぶん変更する。
【0068】
ここで、被験者が第4位置を注視した場合、視線GZの左下方向への変化による眼球EYの回転に伴って、被験者の上瞼及び上瞼の睫毛が、被験者の顔の下方向に下がる傾向がある。この場合、上瞼や睫毛が撮像部20の視界を遮り、瞳孔が撮像されにくい状態になる。撮像部20が瞳孔を撮像できた場合(つまり、眼球画像IMGに瞳孔画像PLが含まれている場合)には、眼球運動測定システム1は、被験者の視線GZの方向を算出することができる。一方、撮像部20が瞳孔を撮像できない場合(つまり、眼球画像IMGに瞳孔画像PLが含まれない場合)には、眼球運動測定システム1は、被験者の視線GZの方向を算出することができない。
上瞼や睫毛が撮像部20の視界を遮り、瞳孔が撮像されない場合には、視線GZをやや上げることにより被験者の上瞼及び上瞼の睫毛の下がりを低減することで、瞳孔が撮像されやすくなる。
本実施形態の一例の場合、
図10に示すように、注視点表示制御部140は、第4位置の注視点の表示位置を第41頂点座標P41から第42頂点座標P42に変更する。
【0069】
キャリブレーション装置10は、ステップS40において瞳孔画像PLが抽出されたと判定されるまで、上述のステップS20~ステップS50を繰り返し実行する。つまり、キャリブレーション装置10は、瞳孔画像PLが抽出されたと判定されるまで、第4位置の注視点の表示位置を段階的に変更する。
【0070】
換言すれば、注視点表示制御部140は、眼球画像IMGから瞳孔画像を抽出できなかった場合に、注視点表示装置30に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0071】
(ステップS60)
図6に戻り、ステップS40において瞳孔画像PLが抽出されたと判定された場合には、記憶制御部150は、表示されている注視点の座標を記憶部160に記憶させる。
一例として、第4位置の注視点が第41頂点座標P41である場合に瞳孔画像PLが抽出されたとする。この場合には、記憶制御部150は、第41頂点座標P41の座標(x=+10度、y=-30度)を、第4位置の座標として記憶部160に記憶させる。
【0072】
図14に示すように、記憶部160には、第4位置の座標(注視点番号P4)について、第41頂点座標P41の座標(x=+10度、y=-30度)が記憶されている。
【0073】
[第5位置のキャリブレーション]
図11は、本実施形態の第5位置のキャリブレーション手順の一例を示す図である。ここで、第5位置とは、第5表示位置Pe及び第5瞳孔位置IPeの総称である。
【0074】
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、第5位置の初期座標である第51頂点座標P51に注視点を表示させる。この結果、被験者は、第51頂点座標P51を注視する。
ここで、第5位置の初期座標のy座標は、30に定められる。
また、第5位置の初期座標のx座標は、上述した第2位置(例えば、第21頂点座標P21)と、第3位置(例えば、第32頂点座標P32)との間の、x軸方向の中点に定められる。具体的には、第2位置(例えば、第21頂点座標P21)のx座標が+40度であり、第3位置(例えば、第32頂点座標P32)のx座標が-10度である。この場合、第5位置のx座標は、+40度と-10度とのx軸方向の中点である+10度として算出される。
【0075】
なお、注視点表示制御部140は、中点を算出する際に、1段階(例えば、10度)未満の端数を切り上げ、または切り捨ててもよい。
【0076】
キャリブレーション装置10は、第1位置の場合と同様にして、上述したステップS20~ステップS70を実行する。以下、第1位置の場合と同様の動作については記載を省略し、第1位置の場合と異なる動作について説明する。
【0077】
(ステップS50)ステップS30において瞳孔画像PLが抽出されていないと判定された場合、注視点表示制御部140は、第5位置の注視点の表示位置をy軸の負方向(-y方向)に1段階ぶん変更する。
【0078】
被験者が第5位置を注視した場合、視線GZが左上方向になるため、瞳孔の位置が、右眼を撮像する撮像部20から、より離れた位置になる。この場合、撮像部20が、瞳孔中心を正しく撮像することができない場合がある。被験者が第5位置を注視した場合に、瞳孔中心を正しく撮像することができない場合には、注視点をより下側に移動させることにより、瞳孔中心を正しく撮像することができるようになる。
本実施形態の一例の場合、
図11に示すように、注視点表示制御部140は、第5位置の注視点の表示位置を第51頂点座標P51から第52頂点座標P52に変更する。
【0079】
換言すれば、注視点表示制御部140は、眼球画像IMGから瞳孔画像を抽出できなかった場合に、注視点表示装置30に表示される注視点の座標位置を、複数の座標軸のうちの少なくとも一つの座標軸の方向に、段階的に変化させる。
【0080】
(ステップS60)
図6に戻り、ステップS40において瞳孔画像PLが抽出されたと判定された場合には、記憶制御部150は、表示されている注視点の座標を記憶部160に記憶させる。
一例として、第5位置の注視点が第52頂点座標P52である場合に瞳孔画像PLが抽出されたとする。この場合には、記憶制御部150は、第52頂点座標P52の座標(x=+10度、y=+20度)を、第5位置の座標として記憶部160に記憶させる。
【0081】
図14に示すように、記憶部160には、第5位置の座標(注視点番号P5)について、第52頂点座標P52の座標(x=+10度、y=+20度)が記憶されている。
【0082】
[第6位置(原点位置)のキャリブレーション]
図12は、本実施形態の第6位置のキャリブレーション手順の一例を示す図である。ここで、第6位置とは、原点位置ともいい、中心座標P61及び瞳孔原点位置IPoの総称である。
【0083】
(ステップS10)キャリブレーション装置10の注視点表示制御部140は、第6位置の座標である中心座標P61に注視点を表示させる。この結果、被験者は、中心座標P61を注視する。
中心座標P61のx座標及びy座標は、上述した第1位置~第5位置を頂点とする5角形の重心の位置として算出される。この一例の場合、中心座標P61のx座標は+20度、y座標は0度と算出される。
【0084】
なお、注視点表示制御部140は、重心の位置を算出する際に、1段階(例えば、10度)未満の端数を切り上げ、または切り捨ててもよい。
【0085】
(ステップS60)
図6に戻り、記憶制御部150は、表示されている注視点の座標、すなわち中心座標P61のx座標+20度、y座標0度を、記憶部160に記憶させる。
図14に示すように、記憶部160には、第6位置の座標(注視点番号P6)について、中心座標P61の座標(x=+20度、y=0度)が記憶されている。
【0086】
[表示座標系と画像座標系との対応付け]
図13は、本実施形態のキャリブレーション結果の一例を示す図である。キャリブレーション装置10は、表示座標系と画像座標系とを対応付ける。この一例では、キャリブレーション装置10は、第12頂点座標P12と第1瞳孔位置IPa、第21頂点座標P21と第2瞳孔位置IPb、第32頂点座標P32と第3瞳孔位置IPc、第41頂点座標P41と第4瞳孔位置IPd、第52頂点座標P52と第5瞳孔位置IPe、及び、中心座標P61と瞳孔原点位置IPoをそれぞれ対応付ける。
キャリブレーション装置10の記憶制御部150は、表示座標系と画像座標系との対応付け結果を記憶部160に記憶させる。
【0087】
図1に戻り、眼球回転角度算出部40は、眼球画像IMGに含まれる瞳孔画像PLの位置(つまり、画像座標系における瞳孔の位置)と、表示座標系と画像座標系との対応付けの結果(つまり、記憶部160に記憶されているキャリブレーション結果)とに基づき、被験者の眼球回転角度(つまり、視線GZの方向)を算出する。
例えば、式(1)及び式(2)に示す算出すべき6種類のパラメータは、記憶部160に記憶されているキャリブレーション結果によって求められる。
【0088】
【0089】
ここで、式(1)及び式(2)は、6種類の未知数(パラメータ)、すなわち、a0~a5及びb0~b5を有する共二次式である。これら6種類の未知数を決定するためには、表示座標系と画像座標系との対応関係を最低6組与える必要がある。眼球運動測定システム1は、上述した第1位置~第6位置の測定結果から、表示座標系と画像座標系との対応関係を6組与えることにより、上述の6種類の未知数を決定する。眼球回転角度算出部40は、式(1)及び式(2)に対して、瞳孔抽出部120が抽出する瞳孔画像PLが示す瞳孔中心座標を代入することにより、眼球の回転角度を算出する。
【0090】
なお、記憶制御部150は、注視点表示装置30に表示される注視点の座標位置の変化の上限に達した場合には、所定の座標位置を、キャリブレーション後の注視点座標位置として記憶部160に記憶させてもよい。
【0091】
上述した一例においては、第1位置について、第11頂点座標P11、第12頂点座標P12及び第13頂点座標P13の3段階に座標位置が変化する。この場合、注視点の座標位置の変化の上限とは、第13頂点座標P13である。すなわち、記憶制御部150は、第13頂点座標P13に注視点が表示されている場合に、瞳孔画像PLが取得できない場合であっても、上限である第13頂点座標P13を第1位置として記憶させる。
【0092】
同様に、第2位置について、第21頂点座標P21、第22頂点座標P22及び第23頂点座標P23の3段階に座標位置が変化する。この場合、注視点の座標位置の変化の上限とは、第23頂点座標P23である。すなわち、記憶制御部150は、第23頂点座標P23に注視点が表示されている場合に、瞳孔画像PLが取得できない場合であっても、上限である第23頂点座標P23を第2位置として記憶させる。
【0093】
同様に、第3位置について、第31頂点座標P31、第32頂点座標P32及び第33頂点座標P33の3段階に座標位置が変化する。この場合、注視点の座標位置の変化の上限とは、第33頂点座標P33である。すなわち、記憶制御部150は、第33頂点座標P33に注視点が表示されている場合に、瞳孔画像PLが取得できない場合であっても、上限である第33頂点座標P33を第3位置として記憶させる。
【0094】
同様に、第4位置について、第41頂点座標P41及び第42頂点座標P42の2段階に座標位置が変化する。この場合、注視点の座標位置の変化の上限とは、第42頂点座標P42である。すなわち、記憶制御部150は、第42頂点座標P42に注視点が表示されている場合に、瞳孔画像PLが取得できない場合であっても、上限である第42頂点座標P42を第4位置として記憶させる。
【0095】
同様に、第5位置について、第51頂点座標P51及び第52頂点座標P52の2段階に座標位置が変化する。この場合、注視点の座標位置の変化の上限とは、第52頂点座標P52である。すなわち、記憶制御部150は、第52頂点座標P52に注視点が表示されている場合に、瞳孔画像PLが取得できない場合であっても、上限である第52頂点座標P52を第5位置として記憶させる。
【0096】
[実施形態のまとめ]
以上説明したように、本実施形態の眼球運動測定システム1は、上述した第1位置~第6位置の測定結果から、表示座標系と画像座標系との対応関係を6組与えることにより、上述の6種類の未知数を決定する。このように構成された、眼球運動測定システム1によれば、比較的少ない測定点によって比較的高精度なキャリブレーションを行うことができる。
【0097】
[表示座標系と画像座標系との対応付け(変形例)]
なお、本実施形態の眼球運動測定システム1によってキャリブレーションを行う場合、各注視点の初期座標において瞳孔画像PLが取得される場合がある。この変形例では、第1位置~第5位置について、いずれも初期座標において瞳孔画像PLが取得される場合について説明する。
【0098】
図15は、本実施形態のキャリブレーション結果の他の一例を示す図である。キャリブレーション装置10は、表示座標系と画像座標系とを対応付ける。この一例では、キャリブレーション装置10は、第11頂点座標P11と第1瞳孔位置IPa、第21頂点座標P21と第2瞳孔位置IPb、第31頂点座標P31と第3瞳孔位置IPc、第41頂点座標P41と第4瞳孔位置IPd、第51頂点座標P51と第5瞳孔位置IPe、及び、中心座標P61と瞳孔原点位置IPoをそれぞれ対応付ける。
キャリブレーション装置10の記憶制御部150は、表示座標系と画像座標系との対応付け結果を記憶部160に記憶させる。
【0099】
図16は、本実施形態の記憶部160に記憶される座標情報の他の一例を示す図である。記憶部160には、第1位置の座標(注視点番号P1)について、第11頂点座標P11(x=+40度、y=-30度)が記憶されている。同様に、記憶部160には、第2位置の座標(注視点番号P2)について第21頂点座標P21(x=+40度、y=+30度)が、第3位置の座標(注視点番号P3)について第31頂点座標P31(x=-20度、y=0度)が、第4位置の座標(注視点番号P4)について第41頂点座標P41(x=+10度、y=-30度)が、第5位置の座標(注視点番号P5)について第51頂点座標P51(x=+10度、y=+30度)が、第6位置の座標(注視点番号P6)について中心座標P61(x=+20度、y=0度)が、それぞれ記憶されている。
【0100】
すなわち、本実施形態の眼球運動測定システム1は、各注視点の初期座標において瞳孔画像PLが取得されるようにして、初期座標が定められている。このように構成された眼球運動測定システム1によれば、各注視点の表示位置を初期座標から変更をしない(又は
変更を比較的少なくする)ため、キャリブレーションの所要時間を比較的短くすることができる。すなわち、眼球運動測定システム1によれば、キャリブレーションにかかる手間を低減できる。
【0101】
[眼球運動測定装置2の変形例]
瞳孔抽出部120は、画像取得部110が取得する眼球画像IMGに含まれる白目領域EW内の特徴点FPを抽出することにより、瞳孔画像PLを抽出してもよい。この場合において、瞳孔抽出部120は、テンプレート候補領域TCに基づいて、眼球画像IMGから特徴点FPを抽出することにより、瞳孔画像PLを抽出してもよい。
瞳孔抽出部120は、複数のテンプレート候補領域TCのうち、特徴点FPがより多く含まれているテンプレート候補領域TCを、テンプレート領域TPとして選択する。
眼球回転角度算出部40は、瞳孔抽出部120が選択するテンプレート領域TPを用いて、画像取得部110が取得する眼球画像IMGの動きを追跡することにより、被験者の眼球EYの三次元運動を測定する。
これら各部の動作の具体例について、
図17を参照して説明する。
【0102】
[テンプレート画像の決定]
図17は、本実施形態の眼球運動測定装置2のテンプレート領域TPを決定する動作の一例を示す図である。
(ステップS110)画像取得部110は、撮像部20が撮像した眼球画像IMGを取得する。この眼球画像IMGの一例について、
図18に示す。
【0103】
図18は、本実施形態の眼球画像IMGの一例を示す図である。この一例においては、撮像部20は、被験者の左目の眼球EYを撮像して眼球画像IMGを生成する。この眼球画像IMGには、白目領域EWが含まれている。
【0104】
(ステップS120)瞳孔抽出部120は、画像取得部110が取得した眼球画像IMGから白目領域EWの画像(白目画像ともいう。)を抽出する。
【0105】
(ステップS130)瞳孔抽出部120は、ステップS120において抽出した白目画像に対して、ヒストグラム平坦化を行う。このヒストグラム平均化によって、瞳孔抽出部120は、白目領域EWと血管像との濃淡コントラストを大きくすることにより、白目領域EWに含まれる血管の画像を強調する。
すなわち、瞳孔抽出部120は、白目領域EW内の各画素の画素値について少なくともヒストグラム平坦化を含む統計処理を行う。瞳孔抽出部120がヒストグラム平坦化を行った後の白目領域EWの画像の一例を
図19に示す。
図19は、本実施形態のヒストグラム平坦化処理後の白目領域EWの画像の一例を示す図である。
【0106】
(ステップS140)
図17に戻り、瞳孔抽出部120は、ヒストグラム平坦化を行った白目画像に対して、従来手法(例えば、ORB;Oriented FAST and Rotated BRIEF)によって特徴点FPの抽出を行う。瞳孔抽出部120が特徴点FPの抽出を行った結果の一例を
図20に示す。
【0107】
図20は、本実施形態の特徴点FPの抽出結果の一例を示す図である。瞳孔抽出部120は、白目領域EW内の各画素の画素値について統計処理を行うことにより、白目領域EW内の特徴点FPを抽出する。この一例では、瞳孔抽出部120は、各画素に対する統計処理として、ヒストグラム平坦化を行う。
【0108】
(ステップS150)
図17に戻り、瞳孔抽出部120は、ステップS120において抽出した白目画像を二値化し、さらに、二値化した画像を細線化した画像(血管二値化細線化画像BTN)を生成する。具体的には、瞳孔抽出部120は、近傍領域のサイズ17×17[pixel]の輝度値においてガウシアンによる重み付けの総和からオフセット値(例えば、4)を差し引いた数値を閾値とする適応的二値化処理を行った後、細線化処理を行う。この結果、白目領域EWの画像に含まれる血管の位置PVが抽出される。瞳孔抽出部120が生成する血管二値化細線化画像BTNの一例を
図21に示す。
図21は、本実施形態の血管二値化細線化画像BTNの一例を示す図である。
【0109】
(ステップS160)
図17に戻り、瞳孔抽出部120は、ステップS140において抽出した特徴点FPと、ステップS150において抽出した血管の位置PVとを重ね合わせることにより、ステップS140において抽出された特徴点FPのうち血管の周囲の特徴点(血管対応特徴点VFP)を抽出する。この瞳孔抽出部120が抽出した血管対応特徴点VFPの一例を
図22に示す。
【0110】
図22は、本実施形態の血管対応特徴点VFPの一例を示す図である。すなわち、瞳孔抽出部120は、特徴点FPのうち、白目領域EW内の血管の位置PVに対応する特徴点FPとしての血管対応特徴点VFPを選択する。
【0111】
(ステップS170)
図17に戻り、瞳孔抽出部120は、ステップS140において抽出された特徴点FPのうちの、ある特徴点FPを中心とする領域(例えば、50[pixel]×50[pixel]の領域)内に、特徴点がいくつ含まれるかを、ステップS140において抽出された特徴点毎に計数する。以下の説明において、この特徴点FPを中心とする領域のことを、テンプレート候補領域TCともいう。
【0112】
すなわち、瞳孔抽出部120は、抽出する特徴点FPのうち、白目領域EW内の血管の位置PVに対応する特徴点FPとして選択された特徴点(血管対応特徴点VFP)毎に、テンプレート候補領域TCを生成する。
図20を参照して、より具体的に説明する。
【0113】
図20は、本実施形態のテンプレート候補領域TCの一例を示す図である。同図(a)に示す白目領域EWには、複数の特徴点FPが抽出されている。ステップS170において、瞳孔抽出部120は、テンプレート候補領域TCを、特徴点FP毎に生成する。同図(a)においては、瞳孔抽出部120が、複数の特徴点FPのうち、特徴点FP1についてテンプレート候補領域TC1を、特徴点FP2についてテンプレート候補領域TC2を、それぞれ生成した場合を示している。なお、同図(a)においては、他の特徴点FPについてのテンプレート候補領域TCの図示を省略している。
なお、この一例では、上述した瞳孔抽出部120がテンプレート候補領域TCの生成のために参照する特徴点FPとは、すべての特徴点FPのうち血管の位置PVの位置に対応する特徴点FP(すなわち、血管対応特徴点VFP)のことである。
【0114】
次に瞳孔抽出部120は、生成したテンプレート候補領域TCに含まれる血管対応特徴点VFPの数CNTを計数する。同図(b)に示す一例では、瞳孔抽出部120は、テンプレート候補領域TC1に含まれる血管対応特徴点VFPの数CNTを「7」と計数する。同様に、瞳孔抽出部120は、テンプレート候補領域TC2について血管対応特徴点VFPの数CNT「11」、テンプレート候補領域TC3について血管対応特徴点VFPの数CNT「23」、テンプレート候補領域TC4について血管対応特徴点VFPの数CNT「17」、テンプレート候補領域TC5について血管対応特徴点VFPの数CNT「19」…と、テンプレート候補領域TCごとに計数する。
【0115】
より具体的には、瞳孔抽出部120は、
図19に示した白目領域EWの画像のうち、
図22に示した血管対応特徴点VFPの画素の周囲50×50[pixel]の領域に対応する位置の領域を切り取り、切り取った領域の画像をテンプレート候補領域TCとして生成する。瞳孔抽出部120は、このテンプレート候補領域TCの生成を、血管対応特徴点VFP毎に繰り返す。
【0116】
(ステップS180)
図17に戻り、瞳孔抽出部120は、ステップS170において計数した特徴点FPの数に基づいて、テンプレート候補領域TCの順位付けを行う。
【0117】
(ステップS190)瞳孔抽出部120は、瞳孔抽出部120が生成する複数のテンプレート候補領域TCのうち、特徴点FP(または、血管対応特徴点VFP)がより多く含まれているテンプレート候補領域TCを、テンプレート領域TPとして選択する。つまり、瞳孔抽出部120は、瞳孔抽出部120が順位付けしたテンプレート候補領域TCのうち、上位のテンプレート候補領域TCをテンプレート領域TPとして選択する。
【0118】
ここで、白目領域EWに環境光が反射している(照り返しがある)場合、反射光によって生じた輝度勾配によっても特徴点FPとして抽出されることがある。つまり、白目領域EWに環境光が反射している場合には、白目領域EWの形態に由来する特徴ではなく、外乱に由来する特徴によって特徴点FPが抽出されてしまうことがある。瞳孔抽出部120は、テンプレート候補領域TCに反射光の画像が含まれている場合には、この反射光の画像が含まれているテンプレート候補領域TCをテンプレート領域TPとして選択しないように除去する。
【0119】
より具体的には、瞳孔抽出部120は、白目領域EWの輝度値ヒストグラムを作成し、作成したヒストグラムの累積度数について、上位から所定範囲(例えば、10%まで)の輝度値を調べる。瞳孔抽出部120は、テンプレート候補領域TC内に、上述した所定範囲内の輝度値の領域が25[pixel]以上含まれている場合には、テンプレート候補領域TCに環境光による照り返しが存在していると判定する。
【0120】
(ステップS200)瞳孔抽出部120は、誤マッチングを起こしやすいテンプレート候補領域TCを除去する。具体的には、瞳孔抽出部120は、複数のテンプレート候補領域TCのうち、眼球画像IMG内の互いに異なる複数の領域に対してマッチングする頻度がより少ないテンプレート候補領域TCを、テンプレート領域TPとして選択する。
【0121】
例えば、白目領域EW内において、直線に近い形状の血管の画像が存在する場合には、その血管の画像を含み、かつその血管の端点の画像を含まない領域が、テンプレート候補領域TCとして生成される場合がある。このようなテンプレート候補領域TCの場合、白目領域EW内の他の領域においても画像の類似度が大きくなることがある。この場合、テンプレート候補領域TCが、本来マッチングする領域以外の領域においてもマッチングしてしまう、すなわち誤マッチングしてしまうことがある。
そこで、瞳孔抽出部120は、白目領域EWにおいてテンプレート候補領域TCによるテンプレートマッチングを行なった結果、類似度が70%を超えた回数を算出する。なお、この類似度の計算には後述する正規化相互相関係数を用いてもよい。
【0122】
瞳孔抽出部120による探索領域内(例えば、白目領域EW内)には、テンプレート候補領域TCである領域も存在する。このため、瞳孔抽出部120による類似度が70%を超えた回数の算出において、少なくとも1回は類似度が70%を超え、また上下左右に1[pixel]ずらした場合においても、多くの場合には類似度が70%を超える。すなわち、瞳孔抽出部120による回数の算出において、類似度が70%を超える回数が5回までは通常発生しうる。しかし、それ以上の回数で類似度が70%を超える場合は、誤マッチングを引き起こしているものと推定される。このため、瞳孔抽出部120は、類似度が70%を超える回数が所定回数(例えば、5回)を超える場合には、当該テンプレート候補領域TCを、誤マッチングを起こしやすいテンプレート候補領域TCであると判定して、テンプレート領域TPの選択から除外する。
【0123】
(ステップS210)瞳孔抽出部120は、ステップS190及びステップS200において除外されたテンプレート候補領域TCを除いたテンプレート候補領域TCから、テンプレート領域TPを選択する。すなわち、瞳孔抽出部120は、テンプレート領域TPを決定する。
【0124】
[変形例のまとめ]
以上説明したように、本実施形態の眼球運動測定システム1は、テンプレート領域TPを用いて、眼球画像IMGの動きを追跡することにより眼球三次元運動を測定する。この眼球運動測定システム1は、複数のテンプレート候補領域TCのうち、特徴点FPがより多く含まれているテンプレート候補領域TCを、テンプレート領域TPとして選択する。ここで、特徴点FPがより多く含まれているテンプレート候補領域TCは、特徴点FPがより少ないテンプレート候補領域TCに比べてテンプレートマッチング性能が高い。
このように構成することにより、眼球運動測定システム1は、眼球画像IMGの動きの追跡性能を向上させることができる。すなわち、本実施形態の眼球運動測定システム1によれば、眼球運動の計測精度を向上させることができる。
【0125】
また、本実施形態の眼球運動測定システム1は、抽出される特徴点FPのうち、白目領域EW内の血管の位置PVに対応する特徴点FPとして選択された特徴点(すなわち、血管対応特徴点VFP)毎に、テンプレート候補領域TCを生成する。ここで、白目領域EWから抽出される特徴点FPには、眼球EYの血管の画像に由来するものと、血管以外の要素(例えば、瞼、まつ毛、埃など)の画像に由来しているものとがある。眼球EYの血管は、眼球EYに対してその位置が変化しないため、眼球EYの動きをよく表す。一方、血管以外の要素は、眼球EYに対してその位置が変動することがあるため、眼球EYの動きを必ずしも表さない。したがって、眼球EYの動きの追跡性能を向上させるためには、血管以外の要素の画像を含む領域をテンプレート領域TPとすることよりも、血管の画像を含む領域をテンプレート領域TPとするほうが好ましい。つまり、血管以外の要素の画像を含む領域は、テンプレート領域TPとして用いた場合、眼球EYの動きの追跡性能が相対的に低い。
眼球運動測定システム1は、血管の位置PVに対応する領域をテンプレート候補領域TCの生成対象とすることにより、眼球EYの動きの追跡性能を向上させることができる。また、眼球運動測定システム1は、血管の位置PVに対応しない領域(すなわち眼球EYの動きの追跡性能が相対的に低い領域)をテンプレート候補領域TCの生成対象から除外することにより、テンプレート候補領域TCの候補数を低減することができる。つまり、眼球運動測定システム1によれば、テンプレート領域TPの選択のための演算量を低減することができる。
すなわち、上述のように構成された眼球運動測定システム1によれば、眼球EYの動きの追跡性能の向上と、演算量の低減とを両立させることができる。
【0126】
また、本実施形態の眼球運動測定システム1は、白目領域EW内の各画素の画素値について少なくともヒストグラム平坦化を含む統計処理を行うことにより、白目領域EW内の特徴点FPを抽出する。ここで、眼球EYの白目の画像において、地色(白色)の面積が相対的に大きく、特徴点FPの抽出対象である血管の色(赤色~暗赤色~黒色)の面積が相対的に小さい。また、眼球EYの白目の画像において、血管の色は彩度が低く画像全体としてのコントラストが低い(弱い)場合がある。
したがって、仮に白目領域EWの画像を単純に二値化した場合には、血管の画像が抽出されにくい場合がある。このため、従来は、眼球EYに青色光などを照射することによって画像のコントラストを高める手法が用いられる場合があった。
一方、本実施形態の眼球運動測定システム1によれば、白目領域EW内の各画素の画素値についてヒストグラム平坦化を行うため、白目領域EWについて、地色と血管の色とを峻別しやすくすることができる。つまり、眼球運動測定システム1によれば、血管の位置PVの抽出性能を向上させることができるため、眼球EYの動きの追跡性能を向上させることができる。
【0127】
また、本実施形態の眼球運動測定システム1は、複数のテンプレート候補領域TCのうち、眼球画像IMG内の互いに異なる複数の領域に対してマッチングする頻度がより少ないテンプレート候補領域TCを、テンプレート領域TPとして選択する。
ここで、テンプレート候補領域TCには、眼球EYの動きの追跡性能が相対的に高いものと低いものとがある。例えば、あるテンプレート候補領域TCについて、テンプレート候補領域TCが白目領域EW内の複数の領域に対してマッチングする場合がある。このようなテンプレート候補領域TCの場合、眼球EYの動きを追従する際に複数の領域のうちいずれの領域にマッチングするのかが確定しないため、眼球EYの動きの追従性能が低い。また、テンプレート候補領域TCが、白目領域EW内の単一の領域に対してマッチングし、白目領域EW内の他の領域に対してマッチングしない場合には、眼球EYの動きの追従性能が高い。つまり、テンプレート候補領域TCがマッチングする領域の数が少ないほうが、眼球EYの動きの追従性能が高い。
一方で、テンプレート候補領域TCが、白目領域EW内のある領域に対してマッチングする場合には、当該領域の周囲の領域にもマッチングする場合がある。したがって、仮にテンプレート領域TPの選択条件を、単一の領域のみに対してマッチングするテンプレート候補領域TCに限ってしまうと、テンプレート候補領域TCの選択肢が少なくなり追跡性能が低下するおそれがある。
本実施形態の眼球運動測定システム1は、複数の領域に対してマッチングする頻度に基づいてテンプレート領域TPを選択する。例えば、眼球運動測定システム1は、マッチングする頻度が2以上であり所定値以下(例えば、5以下)であるテンプレート候補領域TCを、テンプレート領域TPとして選択する。このように構成することにより、眼球運動測定システム1は、テンプレート候補領域TCの選択肢の数が少なくなることを抑止して、眼球EYの動きの追従性能を向上させることができる。
【0128】
また、本実施形態の眼球運動測定システム1は、撮像部20を備える。眼球運動測定システム1は、撮像部20を備える撮像部20と眼球運動測定装置2とを一体化することにより、撮像部20と眼球運動測定装置2とを接続するための有線又は無線による通信機能を簡素化することができる。
【0129】
以上、本発明の実施形態を、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更を加えることができる。
【0130】
なお、上述の各装置は内部にコンピュータを有している。そして、上述した各装置の各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD-ROM、DVD-ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしてもよい。
【0131】
また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【符号の説明】
【0132】
1…眼球運動測定システム、2…眼球運動測定装置、10…キャリブレーション装置、110…画像取得部、120…瞳孔抽出部、130…判定部、140…注視点表示制御部、150…記憶制御部、160…記憶部、20…撮像部、30…注視点表示装置、310…表示部、40…眼球回転角度算出部