IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

特開2023-159741電子機器、電子機器の制御方法、プログラム、および記憶媒体
<>
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図1
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図2
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図3
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図4
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図5
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図6
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図7
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図8
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図9
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図10
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図11
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図12
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図13
  • 特開-電子機器、電子機器の制御方法、プログラム、および記憶媒体 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023159741
(43)【公開日】2023-11-01
(54)【発明の名称】電子機器、電子機器の制御方法、プログラム、および記憶媒体
(51)【国際特許分類】
   A61B 3/113 20060101AFI20231025BHJP
   G03B 17/02 20210101ALI20231025BHJP
【FI】
A61B3/113
G03B17/02
【審査請求】未請求
【請求項の数】27
【出願形態】OL
(21)【出願番号】P 2022069647
(22)【出願日】2022-04-20
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】峰 陽介
【テーマコード(参考)】
2H100
4C316
【Fターム(参考)】
2H100AA11
2H100CC07
4C316AA21
4C316AB16
4C316FB21
4C316FY08
4C316FZ01
(57)【要約】
【課題】撮像された眼球の画像の輝度ムラを抑制する。
【解決手段】本発明の電子機器は、複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得手段と、前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段と、前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正手段とを有することを特徴とする。
【選択図】図11
【特許請求の範囲】
【請求項1】
複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得手段と、
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段と、
前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正手段と
を有することを特徴とする電子機器。
【請求項2】
前記複数の光源と前記撮像手段とをさらに有する
ことを特徴とする請求項1に記載の電子機器。
【請求項3】
前記補正手段は、前記距離情報により示された距離が第1の距離である場合に、当該距離が前記第1の距離よりも長い第2の距離である場合に比べて補正量を大きくする
ことを特徴とする請求項1に記載の電子機器。
【請求項4】
前記補正手段は、前記距離情報により示された距離が第1の距離である場合に、当該距離が前記第1の距離よりも長い第2の距離である場合に比べて、前記複数の光源のうち、前記撮像手段からの距離が所定の距離よりも長い光源が照射する領域の補正量を大きくする
ことを特徴とする請求項1に記載の電子機器。
【請求項5】
前記眼球から前記撮像手段までの距離と、補正値との対応関係が予め定められており、
前記補正手段は、前記距離情報が示す距離に対応する補正値を用いて前記輝度ムラを補正する
ことを特徴とする請求項1に記載の電子機器。
【請求項6】
前記対応関係として、前記眼球から前記撮像手段までの距離と、補正値との複数の組み合わせが予め定められており、
前記補正手段は、前記距離情報が示す距離と、補正値との組み合わせが予め定められていない場合に、前記複数の組み合わせを用いた補間処理により、前記距離情報が示す距離に対応する前記補正値を取得する
ことを特徴とする請求項5に記載の電子機器。
【請求項7】
前記補正手段は、初回撮像時または前記画像に所定量以上の輝度変化が生じた際には、前記輝度ムラを補正しないようにする
ことを特徴とする請求項1に記載の電子機器。
【請求項8】
前記画像から視線位置を検出する検出手段をさらに有し、
前記補正手段は、
前記検出手段のキャリブレーション動作中である場合に、前記距離情報または当該距離情報に応じた補正値のいずれかを記憶媒体に記憶しておき、
前記キャリブレーション動作中でない場合には、前記キャリブレーション動作中の前記距離情報に応じた前記補正値を用いて前記輝度ムラを補正する
ことを特徴とする請求項1に記載の電子機器。
【請求項9】
前記補正手段は、前記画像のうち他の領域よりも暗い領域が明るくなるように、前記画像の輝度ムラを補正する
ことを特徴とする請求項1に記載の電子機器。
【請求項10】
眼球を照明する複数の光源と、
前記複数の光源により照明された前記眼球を撮像する撮像手段と、
前記複数の光源を制御する制御手段と、
を有し、
前記制御手段は、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御する
ことを特徴とする電子機器。
【請求項11】
前記複数の光源は、第1の光源と、前記撮像手段からの距離が前記撮像手段から前記第1の光源までの距離よりも長い第2の光源とを含み、
前記制御手段は、前記第2の光源の発光量を前記第1の光源の発光量よりも大きくすることを特徴とする請求項10に記載の電子機器。
【請求項12】
前記制御手段は、前記複数の光源のそれぞれについて、前記光源を駆動する駆動信号の振幅とデューティー比の少なくとも一方を制御する
ことを特徴とする請求項10に記載の電子機器。
【請求項13】
前記複数の光源は、第1の光源群と、前記撮像手段からの距離が前記撮像手段から前記第1の光源群までの距離よりも長い第2の光源群とを含む、個別に発光量を制御可能な複数の光源群に分類されており、
前記制御手段は、前記第2の光源群の発光量を前記第1の光源群の発光量よりも大きくする
ことを特徴とする請求項10に記載の電子機器。
【請求項14】
前記複数の光源群は、前記撮像手段からの距離が前記撮像手段から前記第2の光源群までの距離以上である第3の光源群をさらに含み、
前記第2の光源群に含まれる光源の数は、前記第3の光源群に含まれる光源の数よりも少なく、
前記制御手段は、前記第3の光源群の発光量を前記第2の光源群の発光量よりも大きくしない
ことを特徴とする請求項13に記載の電子機器。
【請求項15】
前記制御手段は、前記複数の光源群のそれぞれについて、前記光源群を駆動する駆動信号の振幅、前記駆動信号のデューティー比、前記光源群のなかで点灯する光源の数の少なくともいずれかを制御する
ことを特徴とする請求項13に記載の電子機器。
【請求項16】
前記制御手段は、前記第1の光源群において点灯させる光源の数よりも多くの数の光源を、前記第2の光源群において点灯させる
ことを特徴とする請求項13に記載の電子機器。
【請求項17】
前記第2の光源群に含まれる光源の数は、前記第1の光源群に含まれる光源の数よりも多い
ことを特徴とする請求項13に記載の電子機器。
【請求項18】
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段をさらに有し、
前記眼球から前記撮像手段までの距離と、前記複数の光源の発光量との対応関係が予め定められており、
前記制御手段は、前記距離情報が示す距離に対応する前記複数の光源の発光量で発光するように前記複数の光源を制御する
ことを特徴とする請求項10に記載の電子機器。
【請求項19】
前記対応関係として、前記眼球から前記撮像手段までの距離と、前記複数の光源の発光量との複数の組み合わせが予め定められており、
前記制御手段は、前記距離情報が示す距離と、前記複数の光源の発光量との組み合わせが予め定められていない場合に、前記複数の組み合わせを用いた補間処理により、前記距離情報が示す距離に対応する前記複数の光源の発光量を取得する
ことを特徴とする請求項18に記載の電子機器。
【請求項20】
前記撮像手段により撮像された前記眼球の画像を取得する第1取得手段をさらに有し、
前記制御手段は、初回撮像時または前記画像に所定量以上の輝度変化が生じた際には、前記眼球から前記撮像手段までの、使用頻度が所定の閾値よりも高い距離に対応する前記複数の光源の発光量で発光するように前記複数の光源を制御する
ことを特徴とする請求項18に記載の電子機器。
【請求項21】
前記撮像手段により撮像された前記眼球の画像を取得する第1取得手段と、
前記画像から視線位置を検出する検出手段と、
をさらに有し、
前記制御手段は、
前記検出手段のキャリブレーション動作中である場合に、前記距離情報または当該距離情報に応じた前記複数の光源の発光量のいずれかを記憶媒体に記憶しておき、
前記キャリブレーション動作中でない場合には、前記キャリブレーション動作中の前記距離情報に応じた前記複数の光源の発光量で発光するように、前記複数の光源を制御する
ことを特徴とする請求項18に記載の電子機器。
【請求項22】
前記制御手段は、前記複数の光源のそれぞれの発光効率を考慮して、前記複数の光源を制御する
ことを特徴とする請求項10に記載の電子機器。
【請求項23】
眼球から前記眼球を撮像する撮像手段までの距離が第1の距離である場合と、前記距離が前記第1の距離よりも長い第2の距離である場合とで、輝度ムラが略同一である前記眼球の画像が取得されるように制御する制御手段
を有することを特徴とする電子機器。
【請求項24】
複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得ステップと、
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得ステップと、
前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正ステップと
を有することを特徴とする電子機器の制御方法。
【請求項25】
複数の光源により照明された眼球を撮像手段により撮像する撮像ステップと、
前記複数の光源を制御する制御ステップと、
を有し、
前記制御ステップでは、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御する
ことを特徴とする電子機器の制御方法。
【請求項26】
コンピュータを、請求項1~23のいずれか1項に記載の電子機器の各手段として機能させるためのプログラム。
【請求項27】
コンピュータを、請求項1~23のいずれか1項に記載の電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子機器、電子機器の制御方法、プログラム、および記憶媒体に関する。
【背景技術】
【0002】
ユーザー(観察者)が観察面上のどの位置を観察しているかを検出する方法が提案されている。例えば、特許文献1に開示の技術では、複数の光源からの平行光束をユーザーの眼球の角膜(前眼部)へ投射し、角膜からの反射光が結像した角膜反射像と瞳孔中心との位置関係を利用して、視線が検出される。また、特許文献2の開示の技術では、角膜反射像の水平/垂直方向の座標に基づいて瞳孔円を推定し、瞳孔円の中心座標を視線検出に用いる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開昭61-172552号公報
【特許文献2】特開平4-347132号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1または特許文献2に開示の技術では、複数の光源からユーザーの眼球までの距離が近い場合には遠い場合よりも顕著に眼画像(撮像された眼球の画像)の輝度ムラが発生してしまう。特に、接眼レンズの外に受光レンズとエリアセンサを配置する構成においてより顕著に輝度ムラが発生してしまう。
【0005】
そこで、本発明は、撮像された眼球の画像の輝度ムラを抑制することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の態様は、複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得手段と、前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段と、前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正手段とを有することを特徴とする電子機器である。
【0007】
本発明の第2の態様は、眼球を照明する複数の光源と、前記複数の光源により照明された前記眼球を撮像する撮像手段と、前記複数の光源を制御する制御手段と、を有し、前記制御手段は、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御することを特徴とする電子機器である。
【0008】
本発明の第3の態様は、眼球から前記眼球を撮像する撮像手段までの距離が第1の距離である場合と、前記距離が前記第1の距離よりも長い第2の距離である場合とで、輝度ムラが略同一である前記眼球の画像が取得されるように制御する制御手段を有することを特徴とする電子機器である。
【0009】
本発明の第4の態様は、複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得ステップと、前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得ステップと、前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正ステップとを有することを特徴とする電子機器の制御方法である。
【0010】
本発明の第5の態様は、複数の光源により照明された眼球を撮像手段により撮像する撮
像ステップと、前記複数の光源を制御する制御ステップと、を有し、前記制御ステップでは、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御することを特徴とする電子機器の制御方法である。
【0011】
本発明の第6の態様は、コンピュータを上述した電子機器の各手段として機能させるためのプログラムである。
【0012】
本発明の第7の態様は、コンピュータを上述した電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体である。
【発明の効果】
【0013】
本発明によれば、撮像された眼球の画像の輝度ムラを抑制することができる。
【図面の簡単な説明】
【0014】
図1】実施形態1に係るカメラの断面図である。
図2】実施形態1に係るカメラのブロック図である。
図3】実施形態1に係る視線検出方法の原理を説明するための図である。
図4】実施形態1に係る眼画像を示す図である。
図5】実施形態1に係る眼画像の輝度ムラの発生原理を示す図である。
図6】実施形態1に係る輝度ムラを説明するための図である。
図7】実施形態1に係る輝度ムラを抑制した眼画像を示す図である。
図8】実施形態1に係る複数の光源の配置を示す図である。
図9】実施形態1に係るキャリブレーション動作のフローチャートである。
図10】実施形態1に係る撮影動作のフローチャートである。
図11】実施形態1に係る視線検出動作のフローチャートである。
図12】実施形態2に係る視線検出動作のフローチャートである。
図13】実施形態3に係る視線検出動作のフローチャートである。
図14】実施形態4に係る表示装置の外観図である。
【発明を実施するための形態】
【0015】
以下、図面を参照して本発明の実施形態を説明する。
【0016】
(実施形態1)
<構成>
図1は、カメラ1(撮像装置;電子機器)の断面図であり、カメラ1の大まかな内部構成を示す。撮影レンズユニット1A内には、2枚のレンズ101,102、絞り111、絞り駆動部112、レンズ駆動モーター113、レンズ駆動部材114、フォトカプラー115、パルス板116、マウント接点117、焦点調節回路118等が含まれている。レンズ駆動部材114は駆動ギヤ等からなり、フォトカプラー115は、レンズ駆動部材114に連動するパルス板116の回転を検知して、焦点調節回路118に伝える。焦点調節回路118は、フォトカプラー115からの情報と、カメラ筐体1Bからの情報(レンズ駆動量の情報)とに基づいてレンズ駆動モーター113を駆動し、レンズ101を移動させて合焦位置を変更する。マウント接点117は、撮影レンズユニット1Aとカメラ筐体1Bとのインターフェイスである。なお、簡単のために2枚のレンズ101,102を示したが、実際は2枚より多くのレンズが撮影レンズユニット1A内に含まれている。
【0017】
カメラ筐体1B内には、撮像素子2、CPU3、メモリ部4、表示デバイス10、表示デバイス駆動回路11等が含まれている。撮像素子2は、撮影レンズユニット1Aの予定結像面に配置されている。CPU3は、マイクロコンピュータの中央処理部であり、カメラ1全体を制御する。メモリ部4は、撮像素子2により撮像された画像等を記憶する。表
示デバイス10は、液晶等で構成されており、撮像された画像(被写体像)等を表示デバイス10の画面(表示面)に表示する。表示デバイス駆動回路11は、表示デバイス10を駆動する。ユーザーは、接眼レンズ12を通して、表示デバイス10の画面を見ることができる。
【0018】
カメラ筐体1B内には、光源13a,13b、受光レンズ15、眼用撮像素子16等も含まれている。光源13a,13bは、光の角膜反射による反射像(角膜反射像)と瞳孔の関係から視線方向を検出するために従来から一眼レフカメラ等で用いられている光源であり、ユーザーの眼球14を照明するための光源である。具体的には、光源13a,13bは、ユーザーに対して不感の赤外光を発する赤外発光ダイオード等であり、接眼レンズ12の周りに配置されている。照明された眼球14の光学像(眼球像;光源13a,13bから発せられて眼球14で反射した反射光による像)は、接眼レンズ12を透過し、受光レンズ15によって、CCD等の光電素子列を2次元的に配した眼用撮像素子16上に結像される。受光レンズ15は、眼球14の瞳孔と眼用撮像素子16を共役な結像関係に位置付けている。後述する所定のアルゴリズムにより、眼用撮像素子16上に結像された眼球像における角膜反射像の位置から、眼球14の視線方向(視線位置;表示デバイス10の画面における視点)が検出される。カメラ筐体1Bの背面には、ユーザーからの各種操作を受け付ける操作部材41~43も配置されている。
【0019】
図2は、カメラ1内の電気的構成を示すブロック図である。CPU3には、視線検出回路201、測光回路202、自動焦点検出回路203、信号入力回路204、表示デバイス駆動回路11、光源駆動回路205等が接続されている。また、CPU3は、撮影レンズユニット1A内に配置された焦点調節回路118と、撮影レンズユニット1A内の絞り駆動部112に含まれた絞り制御回路206とに、マウント接点117を介して信号を伝達する。CPU3に付随したメモリ部4は、撮像素子2および眼用撮像素子16からの撮像信号の記憶機能を有する。
【0020】
視線検出回路201は、眼用撮像素子16(CCD-EYE)上に眼球像が結像した状態での眼用撮像素子16の出力(眼を撮像した眼画像)をA/D変換し、その結果をCPU3に送信する。CPU3は、後述する所定のアルゴリズムに従って眼画像から視線検出に必要な特徴点を抽出し、特徴点の位置からユーザーの視線(表示デバイス10の画面における視点)を算出する。
【0021】
測光回路202は、測光センサの役割を兼ねた撮像素子2から得られる信号、具体的には被写界の明るさに対応した輝度信号の増幅、対数圧縮、A/D変換等を行い、その結果を被写界輝度情報としてCPU3に送る。
【0022】
自動焦点検出回路203は、撮像素子2におけるCCDの中に含まれる、位相差検出のために使用される複数の検出素子(複数の画素)からの信号電圧をA/D変換し、CPU3に送る。CPU3は、複数の検出素子の信号から、各焦点検出ポイントに対応する被写体までの距離を演算する。これは撮像面位相差AFとして知られる公知の技術である。実施例1では、一例として、図4のファインダ内視野像(表示デバイス10の画面)に示した180か所に対応する撮像面上の180か所のそれぞれに、焦点検出ポイントがあるとする。
【0023】
信号入力回路204には、レリーズボタンの第1ストロークでONし、カメラ1の測光、測距、視線検出動作等を開始するためのスイッチSW1と、レリーズボタンの第2ストロークでONし、撮影動作を開始するためのスイッチSW2が接続されている。スイッチSW1,SW2からのON信号が信号入力回路204に入力され、CPU3に送信される。
【0024】
光源駆動回路205は、光源13a,13bを駆動する。
【0025】
画像処理回路207は、画像データに対して予め定められた画像処理を適用し、信号や画像データを生成したり、各種の情報を取得および/または生成したりする。画像処理回路207は例えば、特定の機能を実現するように設計されたASICのような専用のハードウェア回路であってもよいし、DSPのようなプロセッサがソフトウェアを実行することで特定の機能を実現するように構成されてもよい。
【0026】
ここで、画像処理回路207が適用する画像処理には、前処理、色補間処理、補正処理、検出処理、データ加工処理などが含まれる。前処理には、信号増幅、基準レベル調整、欠陥画素補正などが含まれる。色補間処理は、画像データに含まれていない色成分の値を補間する処理であり、デモザイク処理とも呼ばれる。補正処理には、ホワイトバランス調整、画像の輝度を補正する処理、撮影レンズユニット1Aの光学収差を補正する処理、色を補正する処理などが含まれる。検出処理には、特徴領域(たとえば顔領域、人体領域、物体領域)の検出および追尾処理、人物の認識処理などが含まれる。データ加工処理には、スケーリング処理、符号化および復号処理、ヘッダ情報生成処理などが含まれる。なお、これらは画像処理回路207が実施可能な画像処理の例示であり、画像処理回路207が実施する画像処理を限定するものではない。
【0027】
<視線検出動作の原理>
次に図3,4(a),4(b)を参照して、視線検出動作の原理に関して説明する。図3は、視線検出方法の原理を説明するための図であり、視線検出を行うための光学系の概略図である。図3に示すように、光源13a,13bは受光レンズ15の光軸に対して略対称に配置され、ユーザーの眼球14を照らす。光源13a,13bから発せられて眼球14で反射した光の一部は、受光レンズ15によって、眼用撮像素子16に集光する。
【0028】
図4(a)は眼用撮像素子16で撮像された眼画像(眼用撮像素子16に投影された眼球像)の概略図である。眼画像から光源13a,13bの角膜反射像Pd,Pe及び瞳孔中心cが検出され、眼球14の回転角θxが算出される。次に回転角θxとキャリブレーションデータとにより、表示デバイス10上におけるユーザー(観察者)の視線位置が算出される。
【0029】
まず、角膜反射像Pd,Peの検出方法を説明する。図4(a)は、眼画像の水平方向をX軸、垂直方向をY軸とする。このとき、光源13a,13bの角膜反射像Pd,Peは、受光レンズ15により集光され、眼用撮像素子16上に結像して、眼画像における角膜反射像Pd’,Pe’となる。角膜反射像Pd’の座標を(Xd,Yd)、角膜反射像Pe’の座標を(Xe,Ye)とする。同様に、瞳孔141の端部a,bからの光束は、眼用撮像素子16上に結像して、眼画像における瞳孔端像a’,b’となる。瞳孔端像a’の座標を(Xa,Ya)、瞳孔端像b’の座標を(Xb,Yb)とする。また、瞳孔中心cからの光束は、眼用撮像素子16上に結像して、瞳孔中心像c’となる。
【0030】
図4(b)は、図4(a)の眼画像における任意の1行分(以下、検索行という)の輝度情報(輝度分布)を示す。図4(b)に示すように角膜反射像Pd’,Pe’では、輝度閾値TH1以上の極端に強いレベルの輝度が得られる。検索行を変えて輝度のレベル判定を順次行うことで、眼画像全体に対して、輝度が輝度閾値TH1以上となった座標が検出される。ひいては、輝度が輝度閾値TH1以上となった2つの領域が検出される。それら2つの領域それぞれの重心を演算することで、角膜反射像Pd’の座標(Xd,Yd)、角膜反射像Pe’の座標(Xe,Ye)を得ることができる。
【0031】
次に、瞳孔141の中心(輪郭中心)cの検出方法を説明する。図4(b)において、瞳孔輪郭部(瞳孔端部)の座標を(Xa,Ya),(Xb,Yb)とする。瞳孔141の領域に相当する部分では座標(Xd,Yd),(Xe,Ye)の位置を除き、輝度閾値TH2以下の低いレベルの輝度が得られる。これに対し、瞳孔141の外側の光彩143の領域に相当する部分では、輝度閾値TH1と輝度閾値TH2の間である比較的明るいレベルの輝度が得られる。つまり、輝度閾値TH1と輝度閾値TH2の間の明るいレベルから、輝度閾値TH2以下のレベルとなる座標(Xa,Ya),(Xb,Yb)が瞳孔輪郭部と判定される。検索行を変えて、輝度のレベル判定を順次行うことで、眼画像全体に対して瞳孔141の輪郭座標を検出することができる。なお、瞳孔141の複数の輪郭座標を、瞳孔141の輪郭座標群とも称する。また、瞳孔141の輪郭座標の検出を、輪郭検出とも称する。
【0032】
瞳孔141の輪郭座標を用いた真円近似法により、瞳孔141の中心cの座標および瞳孔141の半径rを演算する。ここでは、輪郭座標が20個あるとし、輪郭座標を(Xi,Yi)(ここで、i=1~20)で表した場合、瞳孔141の中心cの座標(X0,Y0)と半径rとは以下の式1で算出できる。
【数1】
【0033】
次に、眼球像の結像倍率βの算出方法を説明する。結像倍率βは受光レンズ15に対する眼球14の位置により決まる倍率で、角膜反射像Pd’,Pe’の間隔(Xd-Xe)の関数を用いて求めることができる。
【0034】
角膜反射像Pd’と角膜反射像Pe’の中点の座標と角膜142の曲率中心Oの座標とはほぼ一致する。このため、角膜142の曲率中心Oから瞳孔141の中心cまでの標準的な距離をOcとすると、眼球14の光軸のZ-X平面(Y軸に垂直な平面)内の眼球14の回転角θxは以下の式2で算出できる。Z-Y平面(X軸に垂直な平面)内での眼球14の回転角θyも、回転角θxの算出方法と同様の方法で算出できる。

β×Oc×SINθx≒{(Xd+Xe)/2}-X0 ・・・(式2)
【0035】
算出された回転角θx,θyを用いて、表示デバイス10の画面におけるユーザーの視点(視線が注がれた位置;ユーザーが見ている位置)を求める(推定する)。視線位置(視点の座標)(Hx,Hy)が瞳孔141の中心cに対応する座標であるとすると、視線位置(Hx,Hy)は以下の式3,4で算出できる。

Hx=m×(θx-θx_cal) ・・・(式3)
Hy=m×(θy-θy_cal) ・・・(式4)
【0036】
式3,4のパラメータmは、カメラ1のファインダ光学系(受光レンズ15等)の構成で定まる定数であり、回転角θx,θyを表示デバイス10の画面において瞳孔141の中心cに対応する座標に変換する変換係数である。パラメータmは、あらかじめ決定されてメモリ部4に格納されるとする。また、パラメータ(補正値)θx_cal,θy_calは、視線の個人差を補正する視線補正パラメータであり、後述するキャリブレーション作業を行うことで取得される。パラメータθx_cal,θy_calは、視線検出動作が開始する前にメモリ部4に格納されるとする。
【0037】
キャリブレーション作業とは、眼球形状の個人差等の要因により、ユーザー(使用者、撮影者)が実際に注視している位置と演算された視線位置との位置ずれを抑制するためのオフセット量を得る作業である。キャリブレーション動作時には、表示デバイス10にキャリブレーション用の画像が表示される。キャリブレーション用の画像の中心部には、ユーザーが注視するためのターゲット枠が表示される。キャリブレーション動作時の回転角θx_cal,θy_calが取得され、オフセット量(補正値)としてメモリ部4に格納される。なお、キャリブレーション動作では、ターゲット枠を複数位置に表示し、複数位置それぞれの回転角で複数位置間を補間することで、視線位置の検出精度を向上することが可能である。以上が、視線検出動作の原理に関する説明である。
【0038】
<眼画像の輝度ムラの発生原理と抑制方法>
次に、図5(a),5(b),6(a),6(b),7(a),7(b),8を参照して、眼画像の輝度ムラの発生原理と抑制方法とについて説明する。
【0039】
図5(a),5(b)は輝度ムラの発生原理を示す図である。図5(a),5(b)では図3と同様に、光源13a,13bは眼球14を照明する。ユーザーは表示デバイス10に表示された画像を見ている。ユーザーの眼球14で反射した光の一部は眼用撮像素子16に集光する。図5(b)のアイポイント(接眼レンズ12から眼球14までの距離)500は、図5(a)のアイポイント500よりも長い。光線510a,510bは、光源13a,13bが主に照射している領域(エリア)から反射した光が眼用撮像素子16に到達するまでの光路を示す。
【0040】
図6(a)は、図5(a)に示すアイポイント500のときに眼用撮像素子16で撮像された眼画像の輝度ムラを説明するための図である。図6(b)は、図5(b)に示すアイポイント500のときに眼用撮像素子16で撮像された眼画像の輝度ムラを説明するための図である。図6(a)の眼画像は、画面下部が明るく、画面上部が暗い輝度ムラが発生している。図6(a)に示すような輝度ムラは、光源13a,13bが主に照射している領域の光量が、それぞれ光線510a,510bの距離の二乗に反比例することに起因する。図6(b)の眼画像の輝度ムラが図6(a)の眼画像の輝度ムラよりも小さいのは、図5(b)における光線510aと光線510bとの差が、図5(a)における光線510aと光線510bとの差よりも小さいためである。
【0041】
輝度ムラが発生した画像を用いて図4(b)に示した視線検出動作を行う場合、瞳孔輪郭部の座標(Xa,Ya),(Xb,Yb)を検出することが困難となる。検出される瞳孔の輪郭座標が少なくなると、真円近似法による瞳孔の中心cの座標(X0、Y0)および半径rの演算結果も悪化する。演算結果が悪化すると、視線検出のエラー(視線検出の失敗;視点の検出誤差の増大)が生じ、適切な焦点検出及び調整ができない状態に陥いる可能性がある。アイポイントに応じて、画像内で輝度閾値TH2を変更する方法もあるが、演算量が大きくなってしまう。
【0042】
そこで、輝度ムラを抑制する第一の方法では、カメラ1のCPU3は、輝度ムラが生じた眼画像に対して、アイポイントに応じた補正値(補正量)でシェーディング補正を行う。図7(a),7(b)は、図6(a),6(b)の眼画像に対して各アイポイントに応じたシェーディング補正を適用した眼画像である。図7(a),7(b)の眼画像は、図6(a),6(b)の眼画像に比べて輝度ムラが抑制されており、図7(a)と図7(b)の輝度ムラが略同一であることが確認できる。
【0043】
輝度ムラを抑制する第二の方法では、CPU3は、アイポイントに応じて光源13a,13bの発光量(照明光量)をそれぞれ変更する。例えば、図5(a)のようにアイポイント500が所定の距離よりも短い場合には、CPU3は、光源13aの発光量を光源13bの発光量よりも相対的に大きくする。図5(b)のようにアイポイントが所定の距離よりも長い場合には、CPU3は、光源13aと光源13bとの発光量差を、図5(a)の発光量差よりも小さくする。第二の方法でも、第一の方法と同様の効果が得られる。なお、光源13a,13bが発光ダイオードの場合には、CPU3は、例えば光源を駆動する駆動信号の振幅とデューティー比の少なくとも一方を変更して、光源間の発光量差を調整する。
【0044】
図8(a)~8(c)は、複数の光源の配置例を示す図である。図8(a)~8(c)に示すように接眼レンズの周りに複数の光源が存在する場合には、CPU3は、複数の光源を複数の光源群(図8(a)~8(c)では4つの光源群13c~13f)に分けて、光源群ごとに発光量を調整してもよい。各光源群は、1つの光源、または距離が近い2つ以上の光源を含む。また、CPU3は、光源群の中で発光(点灯)する光源の数を変更することで、光源群間の発光量差を調整してもよい。
【0045】
また、CPU3は、第一の手法と第二の手法とを組み合わせて輝度ムラを抑制してもよい。以上が、眼画像の輝度ムラの発生原理と抑制方法とに関する説明である。
【0046】
以下、図9~11を参照して、実施形態1におけるキャリブレーション動作、撮影動作、視線検出動作を説明する。
【0047】
<キャリブレーション動作>
図9は、視線検出のキャリブレーション動作を説明するためのフローチャートである。
【0048】
ステップS901では、CPU3は、表示デバイス10にキャリブレーション用画像を表示する。キャリブレーション用画像は、例えば、表示デバイス10の表示面上でユーザーの見るべき位置を示す画像であればよい。
【0049】
ステップS902では、CPU3は、光源13a,13bの赤外光をユーザーの眼球14に向けて放射する。赤外光によって照明された眼球像は、受光レンズ15を通して眼用撮像素子16上に結像され、眼用撮像素子16により光電変換される。これにより、処理可能な眼画像の電気信号が得られる。
【0050】
ステップS903では、CPU3は、眼用撮像素子16から眼画像(眼球画像信号;眼画像の電気信号)を受信する。
【0051】
ステップS904では、CPU3は、ステップS903で受信した眼画像から、光源13a,13bの角膜反射像Pd,Peに対応する座標と、瞳孔141の輪郭に対応する座標とを求める。
【0052】
ステップS905では、CPU3は、接眼レンズ12からユーザーの眼球14までの距離(アイポイント)を示す距離情報を取得する。例えば、CPU3は、ステップS903で受信した眼画像の角膜反射像Pd,Peの間隔からアイポイントを算出する。アイポイントは公知の技術を用いて算出できる。
【0053】
ステップS906では、CPU3は、ステップS904で求めた瞳孔141の輪郭座標を用いて、真円近似法により瞳孔141の中心cの座標および半径rを算出する。
【0054】
ステップS907では、CPU3は、眼球像の結像倍率βを算出する。ステップS908では、CPU3は、受光レンズ15の光軸に対する眼球14の光軸の回転角θx,θyを算出する。
【0055】
ステップS909では、CPU3は、ステップS908で算出した回転角θx,θyを補正値θx_cal,θy_calとしてメモリ部4に格納する。また、CPU3は、ステップS905で算出したアイポイントをメモリ部4に格納する。なお、ステップS909では、CPU3は、アイポイントに応じたシェーディング補正値(シェーディング補正の補正値、周辺光量落ち補正値)または複数の光源(例えば光源13a,13b)の発光量をメモリ部4に格納してもよい。ステップS909の処理を終了すると、CPU3は、視線検出のキャリブレーション動作を終了する。
【0056】
<撮影動作>
図9で説明した視線検出のキャリブレーション動作後には、撮影動作が行われる。図10は、視線検出機能を有するカメラ1の撮影動作を説明するためのフローチャートである。CPU3は、カメラ1の電源がONされることにより図10のフローを開始する。
【0057】
ステップS1001では、CPU3は、撮像素子2を駆動し、画像を取得(撮像)する。CPU3は、取得した画像を表示デバイス10に表示(ライブビュー表示;LV表示)する。
【0058】
ステップS1002では、CPU3は、撮影動作を終了するか否かを判定する。例えば、CPU3は、カメラ1の電源をOFFにする指示があった場合に、撮影動作を終了すると判定する。CPU3は、撮影動作を終了すると判定した場合に本フローを終了し、そうでない場合にステップS1003に進む。
【0059】
ステップS1003では、CPU3は、視線検出動作を行う。視線検出動作の詳細は図11のフローチャートを用いて後述する。
【0060】
ステップS1004では、CPU3は、ステップS1003で検出した眼球の回転角θx,θyを補正する。CPU3は、ステップS1003で検出した回転角θx,θyと、ステップS909で記憶した補正値θx_cal,θy_calとから、視線位置(Hx,Hy)を算出する。
【0061】
ステップS1005では、CPU3は、表示デバイス10のうちステップS1004で算出された視線位置に、AF(オートフォーカス)枠を表示する。
【0062】
ステップS1006では、CPU3は、スイッチSW1がONであるか否か(レリーズボタンが半押しされているか否か)を判定する。CPU3は、スイッチSW1がONである場合にはステップS1007に進み、そうでない場合にはステップS1001に戻り、画像の表示と視線検出動作とを繰り返す。
【0063】
ステップS1007では、CPU3は、AF動作を行う。撮像素子2は位相差検出のために使用される複数の画素から構成されている。CPU3は、複数の画素の信号から、公知の技術である撮像面位相差AFにより、ステップS1006で決定したAF枠に対応する被写体の焦点状態を演算し、レンズ位置を制御する。
【0064】
ステップS1008では、CPU3は、レリーズボタンがさらに押しこまれ、スイッチSW2がONになったか否か(レリーズボタンの全押しが行われたか否か)を判定する。CPU3は、スイッチSW2がONになった場合にはステップS1009に進み、そうでない場合にはS1006に戻り、同じ位置でAF動作を繰り返す。
【0065】
ステップS1009では、CPU3は、撮像素子2を駆動して画像を取得し、取得した画像を不図示の記憶媒体に格納する。その後、CPU3は、ステップS1001へ戻り処理を繰り返す。
【0066】
図11は、図10のステップS1003で実行される視線検出動作(撮影時の視線検出動作)の一例を示すフローチャートである。
【0067】
ステップS1101では、CPU3は、初回撮像時(視線検出動作が初回)であるか、前回撮像時に所定の環境変化が生じたか、またはそれら以外であるかを判定する。CPU3は、初回撮像時である場合または前回撮像時に所定の環境変化が生じた場合にはステップS1102に進み、そうでない場合にはステップS1108に進む。CPU3は、例えば、前回撮像時に撮像された眼画像の輝度が、角膜反射像Pd,Peおよび輪郭座標の検出に適した輝度(所定の輝度範囲内の輝度)でなかった場合に、所定の環境変化が生じたと判定してもよい。例えば、アイポイントが前々回以前の撮像時よりも急に短くなった場合や、外光が漏れ込んだ場合などは、所定量以上の輝度変化が生じ、角膜反射像Pd,Peおよび輪郭座標の検出が困難となる。したがって、適切な露光量、照明光量、シェーディング補正値を決定するため、CPU3は、ステップS1102~S1107の処理を再度実行する。
【0068】
ステップS1102~S1107では、CPU3は、アイポイントを検知(算出)して、次回撮像時の露光量、発光量、シェーディング補正値を決定する。ステップS1102~S1105の処理は、図9のステップS902~905の処理と同じである。
【0069】
なお、ステップS1102では、CPU3は、光源13aの発光量を光源13bの発光量と同等にしてもよい。もしくは、CPU3は、露光量の決定処理とアイポイントの検知処理とに適した発光量差をつけて、光源13aおよび光源13bの発光量を定めてもよい。例えば、CPU3は、使用頻度が所定の閾値よりも高いアイポイントで眼画像の輝度ムラが抑制されるように、光源13aおよび光源13bの発光量を定めてもよい。もしくは、CPU3は、光源13aおよび光源13bの発光量を、キャリブレーション動作中(ステップS909)にメモリ部4に記憶したアイポイントに応じた発光量としてもよい。
【0070】
ステップS1106では、CPU3は、次回撮像時(次回の眼用撮像素子16の電荷蓄積時)の露光量を決定する。例えば、ステップS1106では、CPU3は、瞳孔の輪郭および角膜反射像が所望の明るさで写った眼画像が得られるように、眼用撮像素子16の蓄積時間またはゲイン値を決定する。
【0071】
ステップS1107では、CPU3は、ステップS1105で算出したアイポイントに応じて、次回撮像時の発光量とシェーディング補正値とを決定する。ここで、アイポイントと複数の光源の発光量との対応関係、および、アイポイントとシェーディング補正値との対応関係は予め定められている。予め定められている発光量またはシェーディング補正
値を用いることで、複数の光源が設けられている場合にも、アイポイントに応じて視線検出に適した眼画像を迅速に取得することができる。
【0072】
各アイポイントにおける複数の光源の発光量について図5(a),5(b),8(a)を参照して説明する。CPU3は、各アイポイントにおいて、複数の光源と眼用撮像素子16との位置関係に基づく発光量で発光するように、複数の光源を制御する。例えば、複数の光源は、光源群13d(第1の光源;光源群)と光源群13c(第2の光源;光源群)とを含む、個別に発光量を制御可能な複数の光源群に分類されているとする。光源群13cは、眼用撮像素子16からの距離が眼用撮像素子16から光源群13dまでの距離よりも長い。このような場合、CPU3は、光源群13cの発光量を光源群13dの発光量よりも大きくしてもよい。例えば、CPU3は、光源群13dにおいて点灯させる光源の数よりも多くの数の光源を、光源群13cにおいて点灯させてもよい。なお、光源群13cに含まれる光源の数が、光源群13dに含まれる光源の数よりも多くなるように、光源が配置されてもよい。これにより、光源群13dが照射している領域よりも光源群13cが照射している領域が暗くなることを抑制できる。また、CPU3は、アイポイントが第1の距離である場合(図5(a))に、第1の距離よりも長い第2の距離である場合(図5(b))に比べて、光源間の発光量差を大きくしてもよい。これにより、アイポイントが所定の距離より短く輝度ムラが発生しやすいような場合にも、より効果的に輝度ムラを抑制することができる。このようなアイポイントと複数の光源の発光量との複数の組み合わせが予め定められているとよい。
【0073】
なお、眼用撮像素子16からの距離が眼用撮像素子16から第2の光源群(光源)までの距離以上である第3の光源群(光源)を、カメラ1がさらに備える場合には、CPU3は、第3の光源群の発光量を第2の光源群の発光量よりも大きくしてもよい。例えば、図8(a)~8(c)では、眼用撮像素子16から各光源群までの距離の大小関係は、光源群13cまでの距離>光源群13e(13f)までの距離>光源群13dまでの距離となっている。図8(a)の例では、CPU3は、各光源群の発光量の大小関係が、光源群13cの発光量>光源群13e(13f)の発光量>光源群13dの発光量となるように制御する。また、CPU3は、各光源群に含まれる光源の発光量の大小関係が、光源群13cに含まれる光源の発光量>光源群13e(13f)に含まれる光源の発光量>光源群13dに含まれる光源の発光量となるように制御してもよい。なお、光源の発光量の大小関係は、光源群13cに含まれる光源の発光量>光源群13e(13f)に含まれる光源の発光量>光源群13dに含まれる光源の発光量でなくてもよい。同様に、光源群の発光量の大小関係は、光源群13cの発光量>光源群13e(13f)の発光量>光源群13dの発光量でなくてもよい。
【0074】
例えば、CPU3は、第3の光源群の発光量を第2の光源群の発光量より大きくしなくてもよい。CPU3は、各光源群に含まれる光源の数も考慮して、各光源の発光量を制御してもよい。図8(b)の例では、光源群13e(13f)に含まれる光源の数は、光源群13cに含まれる光源の数よりも少ない。図8(b)のような場合に、CPU3は、各光源群の発光量の大小関係が、光源群13e(13f)の発光量>光源群13cの発光量>光源群13dの発光量となるように制御してもよい。また、CPU3は、各光源群に含まれる光源の発光量の大小関係が、光源群13e(13f)に含まれる光源の発光量>光源群13cに含まれる光源の発光量>光源群13dに含まれる光源の発光量となるように制御してもよい。これにより、光源群13eが照射している領域が他の光源群が照射している領域よりも暗くなることを抑制することができる。
【0075】
なお、光源群に含まれる光源の数によっては、眼用撮像素子16からの距離が最も短い光源群の発光量を、最も小さくしない場合もある。図8(c)の例では、眼用撮像素子16からの距離が最も短い光源群である光源群13dの光源の数は、光源群13c,13e
の光源の数よりも少ない。図8(c)のような場合に、CPU3は、各光源群の発光量の大小関係が、光源群13dの発光量>光源群13e(13f)の発光量>光源群13cの発光量となるように制御してもよい。また、CPU3は、各光源群に含まれる光源の発光量の大小関係が、光源群13dに含まれる光源の発光量>光源群13e(13f)に含まれる光源の発光量>光源群13cに含まれる光源の発光量となるように制御してもよい。これにより、光源群13dが照射している領域が他の光源群が照射している領域よりも暗くなることを抑制することができる。このように、CPU3は、眼用撮像素子16からの各光源までの距離または各光源群に含まれる光源の数を考慮して、各光源の発光量を制御することで、輝度ムラを抑制することができる。なお、図8(a)~8(c)の例では、光源群13c~13fについて説明したが、少なくともいずれか1つが光源群ではなく光源であってもよい。
【0076】
各アイポイントにおけるシェーディング補正値について図5(a),5(b),8を参照して説明する。CPU3は、アイポイントが第1の距離である場合(図5(a))に、第1の距離よりも長い第2の距離である場合(図5(b))に比べて補正量を大きくするとよい。例えば、アイポイントが第1の距離である場合に、第2の距離である場合に比べて、光源群13cが照射する領域(眼球の一部)に対応する画像領域(眼画像の一部)の補正量を、光源群13dが照射する領域に対応する画像領域の補正量よりも大きくするとよい。このようなアイポイントとシェーディング補正値との複数の組み合わせが予め定められているとよい。
【0077】
例えば、アイポイント毎に、光源13aおよび光源13bの発光量とシェーディング補正値とがメモリ部4に保持されている。CPU3は、ステップS1105で算出したアイポイントに対応する発光量とシェーディング補正値とをメモリ部4から読み出して、次回演算時(撮像時)に用いる。ステップS1105で算出したアイポイントがメモリ部4に保持されたアイポイントの間の距離である場合には、CPU3は、補間処理を行ってもよい。つまり、ステップS1105で算出したアイポイントについて、アイポイントと、発光量またはシェーディング補正値との組み合わせが予め定められていない場合には、CPU3は、補間処理を行う。例えば、CPU3は、メモリ部4に保持されたアイポイントのうち、算出したアイポイントに近いアイポイントと発光量との複数の組み合わせを用いた補間処理により、算出したアイポイントに対応する発光量を取得する。シェーディング補正値の補間処理も同様である。もしくは、CPU3は、キャリブレーション動作中(ステップS909)に、アイポイントに応じた発光量とシェーディング補正値とをメモリ部4に格納しておく。ステップS1107では、CPU3は、キャリブレーション時のアイポイントに応じた発光量とシェーディング補正値とをメモリ部4から読み出してもよい。なお、CPU3は、メモリ部4ではなく外部の記憶媒体に記憶された情報を参照して、発光量またはシェーディング補正値を決定してもよい。
【0078】
このように、初回撮像時または前回撮像時に所定の環境変化が生じた際には、眼画像の輝度ムラを補正せず次回の撮像に進むことで、露光条件をいち早く決定してアイポイントや瞳孔などを検知することができる。
【0079】
ステップS1108では、CPU3は、ステップS1107もしくはステップS1117で決定した発光量で、光源13a,13bの赤外光をユーザーの眼球14に向けて放射する。
【0080】
ステップS1110では、CPU3は、ステップS1109で得られた眼画像に対して、ステップS1107もしくはステップS1117で決定した補正値でシェーディング補正を行う。
【0081】
ステップS1109,S1111~S1115の処理は、図9のステップS903~S908の処理と同じである。また、ステップS1116の処理は、ステップS1106の処理と同じである。
【0082】
ステップS1117では、CPU3は、ステップS1112で算出したアイポイントに応じて、ステップS1107の処理と同様に次回撮像時の発光量とシェーディング補正値とを決定する。ステップS1117の処理を終了すると、CPU3は、撮影時の視線検出動作を終了する。
【0083】
なお、複数の光源が発光ダイオードから構成され、発光ダイオードの発光量が個体毎にばらつく場合には、CPU3は、複数の光源それぞれの発光効率を考慮して、複数の光源の発光量を制御(調整)するとよい。CPU3は、発光効率を考慮することで、メモリ部4に保持された発光量での発光を高精度に実現できる。したがって、輝度ムラを高精度に抑制できる。もしくは視線検出装置の個体毎に各アイポイントで輝度ムラを測定し、輝度ムラを抑制する発光量とシェーディング補正値とをメモリ部4に保持してもよい。
【0084】
なお、図11の例では、初回撮像時または前回撮像時に所定の環境変化があった場合には、CPU3は、瞳孔の中心座標等の算出処理(ステップS1113~S1115の処理)は行わないが、瞳孔の中心座標等の算出処理を行ってもよい。例えば、CPU3は、使用頻度が所定の閾値よりも高いアイポイントで眼画像の輝度ムラが抑制されるように光源13aおよび光源13bの発光量を定め、当該発光量で撮像された眼画像から、瞳孔の中心座標等の算出処理を行うようにしてもよい。
【0085】
以上述べたように、実施形態1では、CPU3は、アイポイントに応じて光源の発光量を変更し、シェーディング補正を行う。これにより、撮像された眼画像の輝度ムラを抑制することができる。
【0086】
(実施形態2)
実施形態1では、CPU3は、アイポイントに応じて、光源の発光量の変更およびシェーディング補正の双方を実施する。なお、CPU3は、アイポイントに応じて、光源の発光量の制御またはシェーディング補正のいずれか一方のみ実施してもよい。実施形態2では、CPU3は、アイポイントに応じてシェーディング補正を実施する例について説明する。実施形態2は、アイポイントに応じて光源の発光量を変更しない点が実施形態1と異なる。
【0087】
図12は、図10のステップS1003で実行される視線検出動作の一例を示すフローチャートである。ステップS1201~S1206,S1209~S1216の処理は、図11のステップS1101~S1106,S1109~S1116の処理と同じである。
【0088】
ステップS1207では、CPU3は、ステップS1205で算出したアイポイントに応じて、次回撮像時のシェーディング補正値を決定する。
【0089】
ステップS1208では、CPU3は、光源13a,13bの赤外光をユーザーの眼球14に向けて放射する。ステップS1208の処理は、例えばステップS1102(S1202)の処理と同じとしてもよい。例えば、CPU3は、使用頻度が所定の閾値よりも高いアイポイントで眼画像の輝度ムラが抑制されるような発光量で、光源13a,13bの赤外光をユーザーの眼球14に向けて放射してもよい。このように、実施形態2では、CPU3は、アイポイントに応じて光源の発光量は変更せず、固定の値を用いる。
【0090】
ステップS1217では、CPU3は、ステップS1212で算出したアイポイントに応じて、次回撮像時のシェーディング補正値を決定する。
【0091】
以上述べたように、実施形態2では、CPU3は、光源の発光量には固定の値を用い、アイポイントに応じてシェーディング補正値を決定する。これにより、実施形態1よりも簡易的な処理で眼画像の輝度ムラを抑制することができる。
【0092】
(実施形態3)
実施形態3では、CPU3は、アイポイントに応じて光源の発光量を変更する例について説明する。実施形態3は、シェーディング補正を行わない点が実施形態1と異なる。
【0093】
図13は、図10のステップS1003で実行される視線検出動作の一例を示すフローチャートである。ステップS1301~S1306,S1308~S1315の処理は、図11のステップS1101~S1106,S1108,S1109,S1111~S1116の処理と同じである。
【0094】
ステップS1307では、CPU3は、ステップS1305で算出したアイポイントに応じて、次回撮像時の発光量を決定する。
【0095】
ステップS1316では、CPU3は、ステップS1311で算出したアイポイントに応じて、次回撮像時の発光量を決定する。
【0096】
以上述べたように、実施形態3では、CPU3は、シェーディング補正は行わず、アイポイントに応じて光源の発光量を変更する。これにより、実施形態1よりも簡易的な処理で眼画像の輝度ムラを抑制することができる。
【0097】
(実施形態4)
実施形態1~3では、本発明をカメラ1に適用する例について説明したが、本発明は例えばヘッドマウントディスプレイ(HMD)にも適用可能である。以下、本発明をHMDに適用する例について説明する。
【0098】
図14(a),14(b)は、実施形態4に係る表示装置5の外観を示す。図14(a)は正面斜視図であり、図14(b)は背面斜視図である。表示装置5は、光学シースルー方式の表示装置であり、頭部に対して着脱可能なHMDの一種であり、MR(Mixed Reality)やAR(Augmented Reality)を利用した眼鏡型デバイスである。表示装置5は、表示装置5を頭部に装着したユーザーの右眼の視線と左眼の視線とを個別に検出することができる。
【0099】
レンズ50は、ユーザーの眼に対向する光学部材である。ユーザーは、レンズ50を通して外界を視認することができる。表示デバイス51は、表示装置5全体を制御するCPU3からの制御(表示制御)により、ユーザーの両眼(右眼と左眼の両方)に対して、仮想物体(仮想物体の虚像)を表示する。ユーザーは、表示された仮想物体を、外界に存在するように見ることができる。光源駆動回路205は、光源13a,13bを駆動する。光源13a,13bそれぞれは、ユーザーの眼を照明する光源であり、例えばユーザーに対して不感の赤外光を発する赤外発光ダイオードなどである。光源13a,13bから発せられてユーザーの眼で反射した光の一部は、受光レンズ15によって、眼用撮像素子16に集光する。これらの部材は、左眼と右眼のそれぞれについて設けられている。例えば、眼用撮像素子16として、右眼を撮像する右撮像素子と、左眼を撮像する左撮像素子とが設けられている。なお、図14(b)では、左眼と右眼のそれぞれについて、レンズ50の上下に光源13a,13bが1つずつ設けられている例を示すが、1つより多くの光
源が設けられていてもよいし、レンズ50の左右に光源が設けられていてもよい。調光デバイス19(調光パネル)は外界からの光を調節する。調光制御回路18は、調光デバイス19の透過率を変化させる回路であり、例えば調光デバイス19に印加する電圧を制御する回路である。調光デバイス19は、調光制御回路18によって制御された透過率で外界からの光を透過する。
【0100】
ユーザーは表示装置5を鼻に乗せて使用するため、アイポイントはユーザーに依らず略一定の値となる。したがって、CPU3は、特定のアイポイント(例えばユーザーが表示装置5を鼻に乗せて使用する際の平均的なアイポイント)における眼画像の輝度ムラが抑制されるように、発光量の制御またはシェーディング補正を行う。例えば、CPU3は、複数の光源と眼用撮像素子16との位置関係に基づく発光量で発光するように、複数の光源を制御する。また、CPU3は、特定のアイポイントの輝度ムラを抑制するような補正値でシェーディング補正を行う。
【0101】
以上述べたように、実施形態4では、CPU3は、HMDを使用するユーザーの眼画像の輝度ムラを抑制することができる。
【0102】
(その他の実施形態)
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0103】
なお、上記実施形態はあくまで一例であり、本発明の要旨の範囲内で上記実施形態の構成を適宜変形したり変更したりすることにより得られる構成も、本発明に含まれる。上記実施形態の構成を適宜組み合わせて得られる構成も、本発明に含まれる。
【0104】
本実施形態の開示は、以下の構成および方法を含む。
(構成1)
複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得手段と、
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段と、
前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正手段と
を有することを特徴とする電子機器。
(構成2)
前記複数の光源と前記撮像手段とをさらに有する
ことを特徴とする構成1に記載の電子機器。
(構成3)
前記補正手段は、前記距離情報により示された距離が第1の距離である場合に、当該距離が前記第1の距離よりも長い第2の距離である場合に比べて補正量を大きくする
ことを特徴とする構成1または2に記載の電子機器。
(構成4)
前記補正手段は、前記距離情報により示された距離が第1の距離である場合に、当該距離が前記第1の距離よりも長い第2の距離である場合に比べて、前記複数の光源のうち、前記撮像手段からの距離が所定の距離よりも長い光源が照射する領域の補正量を大きくする
ことを特徴とする構成1から3のいずれか1項に記載の電子機器。
(構成5)
前記眼球から前記撮像手段までの距離と、補正値との対応関係が予め定められており、
前記補正手段は、前記距離情報が示す距離に対応する補正値を用いて前記輝度ムラを補
正する
ことを特徴とする構成1から4のいずれか1項に記載の電子機器。
(構成6)
前記対応関係として、前記眼球から前記撮像手段までの距離と、補正値との複数の組み合わせが予め定められており、
前記補正手段は、前記距離情報が示す距離と、補正値との組み合わせが予め定められていない場合に、前記複数の組み合わせを用いた補間処理により、前記距離情報が示す距離に対応する前記補正値を取得する
ことを特徴とする構成5に記載の電子機器。
(構成7)
前記補正手段は、初回撮像時または前記画像に所定量以上の輝度変化が生じた際には、前記輝度ムラを補正しないようにする
ことを特徴とする構成1から6のいずれか1項に記載の電子機器。
(構成8)
前記画像から視線位置を検出する検出手段をさらに有し、
前記補正手段は、
前記検出手段のキャリブレーション動作中である場合に、前記距離情報または当該距離情報に応じた補正値のいずれかを記憶媒体に記憶しておき、
前記キャリブレーション動作中でない場合には、前記キャリブレーション動作中の前記距離情報に応じた前記補正値を用いて前記輝度ムラを補正する
ことを特徴とする構成1から7のいずれか1項に記載の電子機器。
(構成9)
前記補正手段は、前記画像のうち他の領域よりも暗い領域が明るくなるように、前記画像の輝度ムラを補正する
ことを特徴とする構成1から8のいずれか1項に記載の電子機器。
(構成10)
眼球を照明する複数の光源と、
前記複数の光源により照明された前記眼球を撮像する撮像手段と、
前記複数の光源を制御する制御手段と、
を有し、
前記制御手段は、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御する
ことを特徴とする電子機器。
(構成11)
前記複数の光源は、第1の光源と、前記撮像手段からの距離が前記撮像手段から前記第1の光源までの距離よりも長い第2の光源とを含み、
前記制御手段は、前記第2の光源の発光量を前記第1の光源の発光量よりも大きくすることを特徴とする構成10に記載の電子機器。
(構成12)
前記制御手段は、前記複数の光源のそれぞれについて、前記光源を駆動する駆動信号の振幅とデューティー比の少なくとも一方を制御する
ことを特徴とする構成10または11に記載の電子機器。
(構成13)
前記複数の光源は、第1の光源群と、前記撮像手段からの距離が前記撮像手段から前記第1の光源群までの距離よりも長い第2の光源群とを含む、個別に発光量を制御可能な複数の光源群に分類されており、
前記制御手段は、前記第2の光源群の発光量を前記第1の光源群の発光量よりも大きくする
ことを特徴とする構成10から12のいずれか1項に記載の電子機器。
(構成14)
前記複数の光源群は、前記撮像手段からの距離が前記撮像手段から前記第2の光源群までの距離以上である第3の光源群をさらに含み、
前記第2の光源群に含まれる光源の数は、前記第3の光源群に含まれる光源の数よりも少なく、
前記制御手段は、前記第3の光源群の発光量を前記第2の光源群の発光量よりも大きくしない
ことを特徴とする構成13に記載の電子機器。
(構成15)
前記制御手段は、前記複数の光源群のそれぞれについて、前記光源群を駆動する駆動信号の振幅、前記駆動信号のデューティー比、前記光源群のなかで点灯する光源の数の少なくともいずれかを制御する
ことを特徴とする構成13または14に記載の電子機器。
(構成16)
前記制御手段は、前記第1の光源群において点灯させる光源の数よりも多くの数の光源を、前記第2の光源群において点灯させる
ことを特徴とする構成13に記載の電子機器。
(構成17)
前記第2の光源群に含まれる光源の数は、前記第1の光源群に含まれる光源の数よりも多い
ことを特徴とする構成13に記載の電子機器。
(構成18)
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得手段をさらに有し、
前記眼球から前記撮像手段までの距離と、前記複数の光源の発光量との対応関係が予め定められており、
前記制御手段は、前記距離情報が示す距離に対応する前記複数の光源の発光量で発光するように前記複数の光源を制御する
ことを特徴とする構成10から15のいずれか1項に記載の電子機器。
(構成19)
前記対応関係として、前記眼球から前記撮像手段までの距離と、前記複数の光源の発光量との複数の組み合わせが予め定められており、
前記制御手段は、前記距離情報が示す距離と、前記複数の光源の発光量との組み合わせが予め定められていない場合に、前記複数の組み合わせを用いた補間処理により、前記距離情報が示す距離に対応する前記複数の光源の発光量を取得する
ことを特徴とする構成18に記載の電子機器。
(構成20)
前記撮像手段により撮像された前記眼球の画像を取得する第1取得手段をさらに有し、
前記制御手段は、初回撮像時または前記画像に所定量以上の輝度変化が生じた際には、前記眼球から前記撮像手段までの、使用頻度が所定の閾値よりも高い距離に対応する前記複数の光源の発光量で発光するように前記複数の光源を制御する
ことを特徴とする構成18または19に記載の電子機器。
(構成21)
前記撮像手段により撮像された前記眼球の画像を取得する第1取得手段と、
前記画像から視線位置を検出する検出手段と、
をさらに有し、
前記制御手段は、
前記検出手段のキャリブレーション動作中である場合に、前記距離情報または当該距離情報に応じた前記複数の光源の発光量のいずれかを記憶媒体に記憶しておき、
前記キャリブレーション動作中でない場合には、前記キャリブレーション動作中の前記距離情報に応じた前記複数の光源の発光量で発光するように、前記複数の光源を制御す

ことを特徴とする構成18から20のいずれか1項に記載の電子機器。
(構成22)
前記制御手段は、前記複数の光源のそれぞれの発光効率を考慮して、前記複数の光源を制御する
ことを特徴とする構成10から21のいずれか1項に記載の電子機器。
(構成23)
眼球から前記眼球を撮像する撮像手段までの距離が第1の距離である場合と、前記距離が前記第1の距離よりも長い第2の距離である場合とで、輝度ムラが略同一である前記眼球の画像が取得されるように制御する制御手段
を有することを特徴とする電子機器。
(方法1)
複数の光源により照明され、撮像手段により撮像された眼球の画像を取得する第1取得ステップと、
前記眼球から前記撮像手段までの距離を示す距離情報を取得する第2取得ステップと、
前記距離情報に応じた補正量で、前記画像の輝度ムラを補正する補正ステップと
を有することを特徴とする電子機器の制御方法。
(方法2)
複数の光源により照明された眼球を撮像手段により撮像する撮像ステップと、
前記複数の光源を制御する制御ステップと、
を有し、
前記制御ステップでは、前記複数の光源と前記撮像手段との位置関係に基づく発光量で発光するように、前記複数の光源を制御する
ことを特徴とする電子機器の制御方法。
(プログラム)
コンピュータを、構成1~23のいずれか1項に記載の電子機器の各手段として機能させるためのプログラム。
(媒体)
コンピュータを、構成1~23のいずれか1項に記載の電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
【符号の説明】
【0105】
1:カメラ 3:CPU 13a,13b:光源 14:眼球 16:眼用撮像素子
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14