(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-09
(45)【発行日】2024-02-20
(54)【発明の名称】電子機器、電子機器の制御方法、プログラム及び記憶媒体
(51)【国際特許分類】
G06F 3/04842 20220101AFI20240213BHJP
G06F 3/038 20130101ALI20240213BHJP
G06F 3/0346 20130101ALI20240213BHJP
G06F 3/01 20060101ALI20240213BHJP
G09G 5/00 20060101ALI20240213BHJP
G09G 5/38 20060101ALI20240213BHJP
G03B 17/02 20210101ALI20240213BHJP
G03B 17/18 20210101ALI20240213BHJP
H04N 23/63 20230101ALI20240213BHJP
【FI】
G06F3/04842
G06F3/038 310A
G06F3/0346 423
G06F3/01 510
G09G5/00 550C
G09G5/00 550B
G09G5/38
G09G5/00 530D
G09G5/00 530T
G03B17/02
G03B17/18
H04N23/63 100
H04N23/63
(21)【出願番号】P 2019151530
(22)【出願日】2019-08-21
【審査請求日】2022-08-10
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100090273
【氏名又は名称】國分 孝悦
(72)【発明者】
【氏名】戸口 和臣
【審査官】塩屋 雅弘
(56)【参考文献】
【文献】特開2011-243108(JP,A)
【文献】特開2016-071539(JP,A)
【文献】米国特許出願公開第2014/0247208(US,A1)
【文献】特開2019-215663(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/04842
G06F 3/038
G06F 3/0346
G06F 3/01
G09G 5/00
G09G 5/38
G03B 17/02
G03B 17/18
H04N 23/63
(57)【特許請求の範囲】
【請求項1】
表示部に対する視線を検出する視線検出手段と、
前記視線検出手段により前記表示部に表示される画像の端領域に対する視線が検出されたことに応じて、前記表示部に所定の表示アイテムを表示させる表示制御手段と、
前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されている状態で、第1の所定条件が満たされた場合、前記所定の表示アイテムに対応する処理を実行するように制御する制御手段と、を有し、
前記表示制御手段は、前記端領域に対する視線が検出されたことに応じて、前記視線検出手段により検出した視線位置には、視線により操作可能な表示アイテムを表示せずに、前記視線位置とは異なる位置に、前記所定の表示アイテムを表示させ、前記所定の表示アイテムを表示させた後で、前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されていない状態で、第2の所定条件が満たされた場合、前記所定の表示アイテムを非表示にし、前記所定の表示アイテムを非表示にした後で、第3の所定条件が満たされるまで、前記所定の表示アイテムを再表示させない
ことを特徴とする電子機器。
【請求項2】
前記第1の所定条件は、前記所定の表示アイテムに対する注視があったかを判定するための条件であり、前記制御手段は、前記所定の表示アイテムの表示位置に対する視線が、第1の所定時間以上継続して検出された場合に、前記第1の所定条件が満たされたと判定することを特徴とする請求項1に記載の電子機器。
【請求項3】
前記表示制御手段は、前記端領域に対する視線が検出されたことに応じて、前記視線位置とは異なる位置であって、前記画像の端領域に、前記所定の表示アイテムを表示させることを特徴とする請求項1又は2に記載の電子機器。
【請求項4】
前記表示制御手段は、前記所定の表示アイテムの表示位置に対する視線が、第2の所定時間以上継続して検出されなかった場合、前記第2の所定条件が満たされたと判定することを特徴とする請求項1乃至3何れか1項に記載の電子機器。
【請求項5】
前記表示制御手段は、前記視線検出手段により前記端領域に対する視線が検出されなかった場合、前記第3の所定条件が満たされたと判定することを特徴とする請求項1乃至4何れか1項に記載の電子機器。
【請求項6】
前記制御手段は、前記所定の表示アイテムに対応する処理を実行した後に、前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されている状態で、第4の所定条件が満たされた場合、前記所定の表示アイテムに対応する処理を再度実行することを特徴とする請求項1乃至5何れか1項に記載の電子機器。
【請求項7】
前記第1の所定条件は、前記所定の表示アイテムに対する注視があったかを判定するための条件であり、前記制御手段は、前記所定の表示アイテムの表示位置に対する視線が、第1の所定時間以上継続して検出された場合に、前記第1の所定条件が満たされたと判定し、
前記制御手段は、前記所定の表示アイテムに対応する処理を実行した後に、前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されている状態で、第4の所定条件が満たされた場合、前記所定の表示アイテムに対応する処理を再度実行し、
前記第4の所定条件は、前記所定の表示アイテムに対する注視があったかを判定するための条件であり、前記制御手段は、前記所定の表示アイテムに対応する処理を実行した後に、前記所定の表示アイテムの表示位置に対する視線が、第3の所定時間以上継続して検出された場合に、前記第4の所定条件が満たされたと判定することを特徴とする請求項
1に記載の電子機器。
【請求項8】
前記第3の所定時間は、前記第1の所定時間よりも短いことを特徴とする請求項7に記載の電子機器。
【請求項9】
前記所定の表示アイテムは、現在表示されている前記画像の次の前記画像を表示させるための画像送りアイコンであることを特徴とする請求項1乃至8何れか1項に記載の電子機器。
【請求項10】
前記所定の表示アイテムに対応する処理は、現在表示されている前記画像の次の前記画像を表示させる画像送り処理であることを特徴とする請求項1乃至9何れか1項に記載の電子機器。
【請求項11】
電子機器の制御方法であって、
表示部に対する視線位置を検出する視線検出ステップと、
前記視線検出ステップにより前記表示部に表示される画像の端領域に対する視線が検出されたことに応じて、前記表示部に所定の表示アイテムを表示させる表示制御ステップと、
前記所定の表示アイテムの表示位置に対して前記視線検出ステップにより視線が検出されている状態で、第1の所定条件が満たされた場合、前記所定の表示アイテムに対応する処理を実行するように制御する制御ステップと、を含み、
前記表示制御ステップは、前記端領域に対する視線が検出されたことに応じて、前記視線検出ステップにより検出した視線位置には、視線により操作可能な表示アイテムを表示せずに、前記視線位置とは異なる位置に、前記所定の表示アイテムを表示させ、前記所定の表示アイテムを表示させた後で、前記所定の表示アイテムの表示位置に対して前記視線検出
ステップにより視線が検出されていない状態で、第2の所定条件が満たされた場合、前記所定の表示アイテムを非表示にし、前記所定の表示アイテムを非表示にした後で、第3の所定条件が満たされるまで、前記所定の表示アイテムを再表示させない
ことを特徴とする電子機器の制御方法。
【請求項12】
コンピュータを、請求項1乃至10何れか1項に記載された電子機器の各手段として機能させるためのプログラム。
【請求項13】
コンピュータを、請求項1乃至10何れか1項に記載された電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、視線検出可能な電子機器、電子機器の制御方法、プログラム及び記憶媒体に関するものである。
【背景技術】
【0002】
ユーザの視線の位置を検出し、検出結果を利用した技術が知られている。
特許文献1では、HMD(ヘッドマウントディスプレイ)において、ユーザの視線方向及び首振り角に基づいて、ユーザが表示開始領域をみていれば表示エリアに画像表示を開始することが開示されている。特許文献2には、ユーザの視線を検出し、注視点に応じたアイコンを選択することが開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2013-83731号公報
【文献】特開2015-223913号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ユーザの視線の位置に基づいてアイテムを選択する場合、特許文献1のように、ユーザが特定の領域をみていることを検知したことに応じて表示を開始してしまうと、ユーザは新たに表示されたアイテムを注視してしまう可能性が高い。また、特許文献2のように、予めアイテムを表示してしまうと、他のアイテムや画像を見ようと思っていたユーザにとっては、視認性が低下する可能性が高い。
【0005】
本発明はこのような問題点に鑑みなされたものであって、視認性を低下させることなく、視線による入力操作の操作性を向上させることを目的とする。
【課題を解決するための手段】
【0006】
本発明の電子機器は、表示部に対する視線を検出する視線検出手段と、前記視線検出手段により前記表示部に表示される画像の端領域に対する視線が検出されたことに応じて、前記表示部に所定の表示アイテムを表示させる表示制御手段と、前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されている状態で、第1の所定条件が満たされた場合、前記所定の表示アイテムに対応する処理を実行するように制御する制御手段と、を有し、前記表示制御手段は、前記端領域に対する視線が検出されたことに応じて、前記視線検出手段により検出した視線位置には、視線により操作可能な表示アイテムを表示せずに、前記視線位置とは異なる位置に、前記所定の表示アイテムを表示させ、前記所定の表示アイテムを表示させた後で、前記所定の表示アイテムの表示位置に対して前記視線検出手段により視線が検出されていない状態で、第2の所定条件が満たされた場合、前記所定の表示アイテムを非表示にし、前記所定の表示アイテムを非表示にした後で、第3の所定条件が満たされるまで、前記所定の表示アイテムを再表示させないことを特徴とする。
【発明の効果】
【0007】
視認性を低下させることなく、視線による入力操作の操作性を向上させることができる。
【図面の簡単な説明】
【0008】
【
図3】デジタルカメラの構成を示すブロック図である。
【
図5】表示画面の端領域に対して視線入力された画面例を示す図である。
【
図6】表示アイテムに対して注視された画面例を示す図である。
【
図7】画像送り処理が実行された後の画面例を示す図である。
【
図8】表示アイテムの表示が取り消された後の画面例を示す図である。
【
図9】デジタルカメラの実行する処理を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本発明の好適な実施形態について説明する。
【0010】
図1は、本実施形態に係るデジタルカメラ100の正面からの外観図である。デジタルカメラ100は、電子機器の一例であり、静止画像及び動画像を撮影することができる。
【0011】
図2は、本実施形態に係るデジタルカメラ100の背面からの外観図である。デジタルカメラ100は、操作部70として、モード切替スイッチ60、シャッターボタン61、メイン電子ダイヤル71、電源スイッチ72、サブ電子ダイヤル73、十字キー74、SETボタン75、動画ボタン76、AEロックボタン77、拡大ボタン78、再生ボタン79及びメニューボタン81等を備えている。操作部70からの入力データは、システム制御部50へ出力される。
【0012】
モード切替スイッチ60は、各種モードの切り替えを行う。シャッターボタン61は、撮影準備指示や撮影指示を行う。メイン電子ダイヤル71は、回転操作部材であり、シャッター速度や絞り等の設定値の変更等を行う。電源スイッチ72は、デジタルカメラ100の電源のON、OFFの切り替えを行う。サブ電子ダイヤル73は、回転操作部材であり、選択枠の移動や画像送り等を行う。十字キー74は、上、下、左、右部分をそれぞれ押し込み可能な十字キー(4方向キー)である。これにより、押下された部分に応じた操作が可能である。SETボタン75は、押しボタンであり、主として選択項目の決定に用いられる。
【0013】
動画ボタン76は、動画撮影(記録)の開始、停止の指示を行う。AEロックボタン77は、露出状態を固定するために用いられる。拡大ボタン78は、撮影モードのライブビュー表示において拡大モードのON、OFFの切り替えを行う。再生ボタン79は、撮影モードと再生モードとの切り替えを行う。撮影モード中に押下されて再生モードに移行し、記録媒体200に記録された画像のうち最新の画像が表示部に表示される。メニューボタン81は、各種の設定可能なメニュー画面の表示に用いられる。
【0014】
また、デジタルカメラ100は、表示部として、背面表示部28、ファインダー外表示部43、後述するファインダー内表示部29(以下、EVF(EVF:Electronic View Finder)29と表記する)等を備えている。
背面表示部28は、操作部70としての機能を兼ね備えたタッチパネル70aを有している。背面表示部28は、デジタルカメラ100の背面に設けられており、システム制御部50の制御下で、画像や各種データが表示される。ファインダー外表示部43は、デジタルカメラ100の上面に設けられており、シャッター速度や絞り等の種々の設定値が表示される。EVF29は、有機ELやLCD等で構成されており、デジタルカメラ100内部に設けられている。背面表示部28と同様に、システム制御部50の制御下で、画像や各種データが表示される。
【0015】
デジタルカメラ100は、接眼部16、接眼検知部57を備えている。
接眼部16は、接眼ファインダー(覗き込み型のファインダー)である。ユーザは、接眼部16を介してEVF29に表示された画像を視認することが可能である。接眼検知部57は、接眼部16にユーザが接眼しているか否かを検知する接眼検知センサである。
【0016】
また、デジタルカメラ100の右側には、グリップ部90、蓋202等が設けられ、左側には、端子カバー40等が設けられている。
グリップ部90は、ユーザがデジタルカメラ100を構えた際に右手で握りやすい形状とした保持部である。蓋202は、記録媒体200を格納したスロットを閉塞する蓋である。端子カバー40は、外部機器との接続ケーブルとデジタルカメラ100とを接続するコネクタ(不図示)を保護するカバーである。また、デジタルカメラ100は、着脱可能なレンズユニット150と通信するための通信端子10を備えている。
【0017】
図3は、本実施形態によるデジタルカメラ100の構成を示すブロック図である。なお、
図1及び
図2と同一の構成は、同一符号を付してその説明を適宜省略する。
デジタルカメラ100は、レンズユニット150が装着される。レンズユニット150は、レンズ103と、絞り1と、絞り駆動回路2と、AF駆動回路3と、レンズシステム制御回路4と、通信端子6とを備えている。
レンズ103は、通常、複数枚のレンズから構成されるが、ここでは簡略して一枚のレンズのみで示している。レンズシステム制御回路4は、通信端子6と前述の通信端子10とを介してデジタルカメラ100と通信する。そして、絞り駆動回路2を介して、絞り1の制御を行う。また、AF駆動回路3を介して、レンズ103を変位させて焦点を合せる。
【0018】
デジタルカメラ100は、シャッター101、撮像部22、A/D変換器23、画像処理部24、メモリ制御部15、メモリ32を備えている。
シャッター101は、撮像部22の露光時間を自由に制御できるフォーカルプレーンシャッターである。撮像部22は、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換する。画像処理部24は、A/D変換器23やメモリ制御部15からの画像データに対して、所定の画素補間、縮小といったリサイズ処理や色変換処理を行う。
【0019】
メモリ制御部15は、A/D変換器23、画像処理部24、メモリ32間のデータ送受を制御する。A/D変換器23からの画像データは、画像処理部24及びメモリ制御部15を介して、またはメモリ制御部15を介して、メモリ32に直接書き込まれる。メモリ32は、A/D変換器23からの画像データ等を格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像及び音声を格納するのに十分な記憶容量を備えている。また、メモリ32は、画像表示用のメモリ(ビデオメモリ)を兼ねている。
【0020】
デジタルカメラ100は、ファインダー外表示部43、ファインダー外表示部駆動回路44、システム制御部50、不揮発性メモリ56、システムメモリ52、音声入力部58、システムタイマー53を備えている。
ファインダー外表示部43は、ファインダー外表示部駆動回路44を介して、デジタルカメラ100の様々な設定値が表示される。
システム制御部50は、少なくとも1つのプロセッサー、または回路からなる演算処理装置であり、デジタルカメラ100の全体を制御する。システム制御部50が、後述する不揮発性メモリ56に格納されたプログラムを実行することで、デジタルカメラ100の各構成手段を制御して、
図9のフローチャートにおける各処理が実現される。
【0021】
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、Flash-ROM等によって構成される。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム、背面表示部28やEVF29に表示される各種のアイテム等が記憶される。システムメモリ52は、例えばRAMが用いられる。システムメモリ52には、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。音声入力部58は、音声による入力操作を受け付ける。システムタイマー53は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
【0022】
また、デジタルカメラ100は、操作部70として、シャッターボタン61、モード切替スイッチ60、前述した電源スイッチ72、タッチパネル70aを備えている。
シャッターボタン61は、第1シャッタースイッチ62と第2シャッタースイッチ64とを有している。
第1シャッタースイッチ62は、シャッターボタン61の半押し(撮影準備指示)でONとなり第1シャッタースイッチ信号SW1を発生する。システム制御部50は、第1シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから撮像された画像データを画像ファイルとして記録媒体200に書き込むまでの一連の撮影処理の動作を開始する。
【0023】
モード切替スイッチ60は、システム制御部50の動作モードを静止画撮影モード、動画撮影モード等に切り替える。モード切替スイッチ60により、ユーザは動作モードを何れかのモードに直接切り替えることができる。なお、動作モードを切り替える方法は、モード切替スイッチ60により撮影モードの一覧画面に一旦切り換えた後に、一覧画面に表示されたモードの何れかを選択し、他の操作部70を用いて切り替える方法でもよい。
【0024】
タッチパネル70aは、背面表示部28と一体的に構成されている。
例えば、タッチパネル70aは、光の透過率が背面表示部28の表示を妨げないように、背面表示部28の表示面の上層に取り付けられる。タッチパネル70aにおける位置座標と、背面表示部28の表示画面上の表示座標とが対応付けられる。これにより、あたかもユーザが背面表示部28上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザインターフェース)が構成される。
【0025】
システム制御部50は、タッチパネル70aへの以下の操作、または状態を検出できる。
(1)タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと。すなわち、タッチの開始(タッチダウン(Touch-Down))。
(2)タッチパネル70aを指やペンでタッチしている状態であること(タッチオン(Touch-On))。
(3)タッチパネル70aを指やペンでタッチしたまま移動していること(タッチムーブ(Touch-Move))。
(4)タッチパネル70aへタッチしていた指やペンを離したこと。すなわち、タッチの終了(タッチアップ(Touch-Up))。
(5)タッチパネル70aに何もタッチしていない状態(タッチオフ(Touch-Off))。
なお、タッチダウンが検出されると、同時にタッチオンであることも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出されるのもタッチオンが検出されている状態である。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
【0026】
上述した操作・状態や、タッチパネル70a上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部50に通知される。システム制御部50は通知された情報に基づいてタッチパネル70a上にどのような操作(タッチ操作)が行われたかを判定する。タッチムーブについては、システム制御部50は、タッチパネル70a上で移動する指やペンの移動方向を、位置座標の変化に基づいて、タッチパネル70a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行われたと判定する。タッチパネル70a上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル70a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行われたと判定する(スライド操作に続いてフリックがあったものと判定する)。更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトという。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)という。
【0027】
タッチパネル70aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のタッチパネルのうち何れかの方式を用いることができる。また、方式によって、タッチパネル70aに対する接触があったことでタッチがあったと検出する方式や、タッチパネル70aに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、何れの方式でもよい。
【0028】
デジタルカメラ100は、電源制御部80、電源部30、記録媒体I/F18、記録媒体200、通信部54、姿勢検知部55、接眼検知部57を備えている。
電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
【0029】
記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部54は、無線または有線ケーブルによって外部機器に接続し、映像信号や音声信号の送受信を行う。なお、通信部54は、無線LANやインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)やBLE(Bluetooth Low Energy)を用いて外部機器と通信可能である。撮像部22で撮像した画像(いわゆるライブビュー画像を含む)や、記録媒体200に記録された画像を送信したり、外部機器から画像やその他の各種情報を受信したりすることが可能である。
【0030】
姿勢検知部55は、加速度センサやジャイロセンサ等であり、重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判定可能である。なお、システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22で撮像された画像データに付加したり、画像を回転して記録したりすることが可能である。
【0031】
接眼検知部57は、接眼部16に対する目(物体)161の接近(接眼)及び離脱(離眼)を検知する(接近検知)接眼検知センサである。システム制御部50は、接眼状態に応じて、背面表示部28とEVF29の表示(表示状態)/非表示(非表示状態)を切り替える。
より具体的には、少なくとも撮影待機状態で、かつ、表示先の切替が自動切替である場合において、非接眼中は表示先を背面表示部28として表示をオンとし、EVF29は非表示とする。また、接眼中は表示先をEVF29として表示をオンとし、背面表示部28は非表示とする。
【0032】
接眼検知部57は、赤外線近接センサ等で構成されており、接眼部16への何らかの物体の接近を検知することができる。物体が接近した場合は、接眼検知部57の投光部(不図示)から投光した赤外線が反射して赤外線近接センサの受光部(不図示)に受光される。受光された赤外線の量によって、物体が接眼部16からどの距離まで近づいているか(接眼距離)も判定することが可能である。
【0033】
接眼検知部57は、非接眼状態(非接近状態)から、接眼部16に対して所定距離以内に近づく物体を検知した場合、接眼されたことを検知する。また、接眼状態(接近状態)から、接近を検知していた物体が所定距離以上離れたことを検知した場合、離眼されたことを検知する。接眼を検知する閾値及び離眼を検知する閾値は、例えばヒステリシスを設けるなどして異なっていてもよい。そして、検知結果が、システム制御部50へ出力される。接眼を検知してから離眼を検知するまでの間が、接眼状態である。離眼を検知してから接眼を検知するまでの間が、非接眼状態である。なお、赤外線近接センサは一例であって、接眼検知部57には、接眼とみなせる目や物体の接近を検知できるものであれば他のセンサを採用してもよい。
【0034】
また、デジタルカメラ100は、接眼部16とEVF29との間に、視線検出部160を備えている。
視線検出部160は、ダイクロイックミラー162、結像レンズ163、視線検知センサ164、視線検出回路165及び赤外発光ダイオード166によって構成されている。赤外発光ダイオード166は、EVF29画面上のユーザの視線を検出するための発光素子であり、接眼部16を覗き込むユーザの眼球(目)161に赤外光を照射する。赤外発光ダイオード166から発した赤外光は、眼球(目)161で反射し、その赤外反射光はダイクロイックミラー162に到達する。ダイクロイックミラー162は、赤外光だけを反射して可視光を透過させる。光路を変更された赤外反射光は、結像レンズ163を介して視線検知センサ164の撮像面に結像する。結像レンズ163は、視線検知光学系を構成する光学部材である。視線検知センサ164は、CCD型イメージセンサ等の撮像デバイスである。
【0035】
視線検知センサ164は、入射された赤外反射光を電気信号に光電変換して視線検出回路165へ出力する。視線検出回路165は、視線検知センサ164の出力信号に基づき、ユーザの眼球(目)161の動きからユーザの視線を検出し、検出結果をシステム制御部50へ出力する。検出結果に含まれる位置情報と、EVF29の表示画面上の表示座標とが対応付けられる。これにより、あたかもユーザがEVF29上に表示された画面を接眼部16へ入力された視線によって操作可能であるかのようなUI(ユーザインターフェース)が構成される。すなわち、接眼部16は、操作部70としての機能を有する。なお、ダイクロイックミラー162、結像レンズ163、視線検知センサ164、視線検出回路165及び赤外発光ダイオード166は、視線検出部160の構成例である。視線検出部160は、EVF29の表示画面上のユーザの視線位置を検出可能な構成であれば、他の構成であってもよい。
【0036】
また、視線検出回路165からの検出結果を有効または無効とする条件が設定されている。例えば、メニュー設定にてユーザが設定可能である。また、システム制御部50が、当該検出結果を用いた処理の有効または無効を設定してもよい。更に、EVF29への表示が可能な場合、視線検出回路165からの検出結果を有効にしてもよい。
【0037】
システム制御部50は、接眼部16への以下の操作、または状態を検出できる。
(1)接眼部16へ入力されていなかった視線が、新たに接眼部16へ入力されたこと。すなわち、視線入力の開始。
(2)接眼部16へ視線入力している状態であること。
(3)接眼部16へ注視している状態であること。
(4)接眼部16へ入力していた視線を外したこと。すなわち、視線入力の終了。
(5)接眼部16へ何も視線入力していない状態であること。
視線検出回路165からの検出結果は、内部バスを通じてシステム制御部50に通知される。システム制御部50は、当該検出結果に基づいて、接眼部16からどのような操作(視線操作)が行われたかを判定する。
【0038】
また、システム制御部50は、上述の(1)(2)(3)を判定した場合、視線検出回路165からの検出結果に含まれる位置情報と、EVF29の表示座標との対応関係に基づいて、EVF29の表示画面上の視線位置を検出する。このように、システム制御部50は、表示画面上の視線位置を検出する機能を有しており、視線検出手段に対応する。
【0039】
更に、システム制御部50は、検出した視線位置がある表示領域内にある場合、システムタイマー53を制御して、その表示領域内に固定されている時間を計測する。また、システム制御部50は、所定の閾値を設定している。そして、ユーザの視線位置がある表示領域内に固定されている時間が、当該所定の閾値以上である場合に、ユーザがその表示領域に対して注視している状態であることを判定する。なお、所定の閾値は、任意に変更可能である。注視とは、ユーザの視線の位置が予め定まったアイテムの表示領域内など、所定領域内にあることが連続的に検出されている状態である。例えば視線位置の検出サイクルが100msであれば、10回連続で視線位置が所定領域内で検出された場合に1秒間注視していると判定される。
【0040】
システム制御部50は、ユーザの視線による入力操作に応じて、EVF29の表示画面上に所定の表示アイテムを表示させ、当該表示アイテムに対応する処理を実行する。システム制御部50は、表示制御手段及び制御手段に対応する。以下、
図4~
図8を参照して、システム制御部50が実行する処理について詳しく説明する。
【0041】
図4は、ユーザがEVF29の表示画面の中央付近を見ている図である。400は、デジタルカメラ100の接眼部16を覗きこむユーザの眼球(目)である。401は、ユーザの視線である。402は、システム制御部50がユーザの視線401に応じて表示を行うポインタであり、EVF29に表示される。ポインタ402は、ユーザの視線位置に対応する。403は、EVF29に表示される再生画像Aである。再生画像A403は、EVF29の表示画面の全体に表示される。
【0042】
図5は、ユーザがEVF29の表示画面の端領域を見ている図である。500は、EVF29に表示される再生画像A403の端領域である。501は、所定の表示アイテムである。システム制御部50は、端領域500に対する視線位置が検出された場合、EVF29に表示アイテム501を表示させる。
【0043】
表示アイテム501は、検出された視線位置(402)とは異なる位置であって、当該視線位置(402)の近傍に表示される。これにより、再生画像A403を確認しているユーザの視線401に表示アイテムが表示されないので、画像の視認性を低下させない。また、継続的に同じ位置をユーザが見ていた場合に、素早く視線の位置をはずすことができなくても、表示アイテム501に対応する処理が意図せずに実行されてしまう可能性を低下させることができる。
なお、表示アイテム501は、右方向の矢印のアイコンであり、現在表示されている再生画像の次の再生画像を表示させるための画像送りアイコンとする。表示アイテム501は、画像送りアイコンに限定しなくてよい。例えば、画像逆送りアイコンとしてもよい。
【0044】
図6は、
図5のように表示アイテム501が表示された状態で、ユーザがEVF29に表示された表示アイテム501に対して注視している図である。600は、注視ポインタである。システム制御部50は、視線位置が表示アイテム501の表示領域内に固定されている時間が、第1の所定時間以上である場合、注視している状態であるとして、ポインタ402から注視ポインタ600に表示を切り替える。そして、表示アイテム501に対応する処理を実行する。
【0045】
以上のように、システム制御部50は、表示アイテム501に対する視線位置が検出されている状態で、第1の所定条件が満たされた場合、表示アイテム501に対応する処理を実行する。
本実施形態では、表示アイテム501に対して注視されている時間が、第1の所定時間以上であることが、第1の所定条件である。第1の所定時間は、例えば0.3秒、0.5秒、1秒である。第1の所定条件は、上記の条件に限定されるものではない。例えば、視線検出が途切れたこと、としてもよい。また、タッチ操作がされた場合に、第1の所定条件を満たすとしてもよい。なお、表示アイテム501に対応する処理は、画像送り処理とするが、表示アイテム501に対応する処理は、画像送り処理に限定しなくてよい。
【0046】
図7は、
図6において表示アイテム501に対応する処理を実行した後の図である。700は、EVF29に表示される再生画像B700である。再生画像B700は、再生画像A403の次に保存されている再生画像である。なお、再生画像は記録媒体200に保存されているが、再生画像の保存先は、記録媒体200に限定しなくてよい。
【0047】
図8は、
図5のように表示アイテム501が表示された状態で、ユーザが表示アイテム501とは別の位置を見ている図である。システム制御部50は、表示アイテム501の表示領域内に視線位置が存在していない時間が、第2の所定時間以上である場合、表示アイテム501の表示を取り消す。
800は、表示アイテム501を消した跡を明示しているが、実際にはEVF29に表示アイテム501を消した跡800は表示されない。なお、表示アイテム501を消した跡800はEVF29に表示されないこととするが、表示アイテム501を消した跡800はEVF29に表示されないことに限定しなくてよい。
【0048】
以上のように、システム制御部50は、表示アイテム501に対する視線位置が検出されていない状態で、第2の所定条件が満たされた場合、表示アイテム501の表示を取り消す。
本実施形態では、表示アイテム501に対する視線位置が検出されていない時間が第2の所定時間以上であることが、第2の所定条件である。第2の所定時間は、例えば0.8秒、1.0秒、1.5秒である。第2の所定条件は、上記の条件に限定されるものではない。例えば、タッチパネル70a等からの入力操作があったこと、としてもよい。
【0049】
次に、本実施形態のデジタルカメラ100の実行する処理の一例について、
図9のフローチャートを参照して説明する。
図9のフローチャートにおける各処理は、システム制御部50が、不揮発性メモリ56に格納されたプログラムをシステムメモリ52に展開して実行し、各機能ブロックを制御することにより実現される。
本実施形態では、ユーザの視線による入力操作により、所定の表示アイテム501としての画像送りアイコンを表示させて、表示アイテム501に対応する処理としての画像送り処理を実行する例について説明する。本処理は、デジタルカメラ100に電源が入り、EVF29への表示が可能になると開始する。
【0050】
S901において、システム制御部50は、デジタルカメラ100が起動されて、EVF29への表示が可能になると、EVF29の表示制御を開始し、EVF29の表示画面の全体に再生画像を表示させる。
S902において、システム制御部50は、EVF29の表示画面の端領域に対する視線位置が検出された(視線入力がある)か否かを判定する。システム制御部50がEVF29の表示画面の端領域に対する視線位置が検出されたと判定した場合、処理はS903へ進む。EVF29の表示画面の端領域に対する視線位置が検出されていない(視線入力がない)と判定した場合、処理はS925へ進む。
【0051】
S903において、システム制御部50は、EVF29に所定の表示アイテム501(画像送りアイコン)を表示させる。処理はS904へ進む。なお、検出された視線の位置が表示画面の右辺に沿った端領域であれば、右方向の矢印である表示アイテム501を表示画面の右端の領域に表示するが、この限りではない。例えば、検出された視線の位置が表示画面の左辺に沿った領域であれば、左方向の矢印である表示アイテムを表示画面の左端の領域に表示するようにしてもよい。このとき、表示アイテム501を注視したら、画像を次の順番の画像へと切り替え、左方向の矢印であるアイテムを注視したら、画像を前の順番の画像へと切り替えるようにする。このようにユーザの視線の方向に応じて異なる機能を実行することもできる。
【0052】
S904において、システム制御部50は、表示アイテム501の消しタイマの計時を開始する。処理はS905へ進む。表示アイテム501の消しタイマとは、表示アイテム501を表示させた後で、表示アイテム501に対する視線位置が検出されていない時間を計時するタイマである。
S905において、システム制御部50は、表示アイテム501に対する視線位置が検出されたか否かを判定する。システム制御部50が表示アイテム501に対する視線位置が検出されたと判定した場合、処理はS906へ進む。システム制御部50が表示アイテム501に対する視線位置が検出されていないと判定した場合、処理はS915へ進む。
【0053】
S906において、システム制御部50は、表示アイテム501の消しタイマの計時を停止する。処理はS907へ進む。
S907において、システム制御部50は、表示アイテム501の注視タイマの計時を開始する。処理はS908へ進む。表示アイテム501の注視タイマとは、表示アイテム501を表示させた後で、表示アイテム501に対する視線位置が検出されている時間を計時するタイマである。
【0054】
S908において、システム制御部50は、表示アイテム501の注視タイマの経過時間(注視時間)が第1の所定時間を経過したか否かを判定する。システム制御部50が第1の所定時間を経過したと判定した場合、処理はS909へ進む。システム制御部50が第1の所定時間を経過していないと判定した場合、処理はS912へ進む。第1の所定時間は、表示アイテムに対応する機能に応じて変更してもよい。例えば、画像の削除の機能が表示アイテムに割当たっている場合には、第1の所定時間を画像送りの機能が割当たっている場合よりも長くしてもよい。
【0055】
S909において、システム制御部50は、表示アイテム501の注視タイマの経過時間をリセットする。処理はS910へ進む。
S910において、システム制御部50は、表示アイテム501の消しタイマの経過時間をリセットする。処理はS911へ進む。
S911において、システム制御部50は、表示アイテム501に対応する処理(画像送り処理)を実行する。処理はS920へ進む。
【0056】
S912において、システム制御部50は、表示アイテム501に対する視線位置が検出されたか否かを判定する。システム制御部50が表示アイテム501に対する視線位置が検出されたと判定した場合、処理はS908へ進む。システム制御部50が表示アイテム501に対する視線位置が検出されなかったと判定した場合、処理はS913へ進む。
S913において、システム制御部50は、表示アイテム501の注視タイマの経過時間をリセットする。処理はS914へ進む。
S914において、システム制御部50は、表示アイテム501の消しタイマの計時を再開する。処理はS905へ進む。
【0057】
S915において、システム制御部50は、表示アイテム501の消しタイマの経過時間が第2の所定時間を経過したか否かを判定する。システム制御部50が第2の所定時間を経過したと判定した場合、処理はS916へ進む。システム制御部50が第2の所定時間を経過していないと判定した場合、処理はS905へ進む。
S916において、システム制御部50は、表示アイテム501の消しタイマの経過時間をリセットする。処理はS917へ進む。
S917において、システム制御部50は、EVF29に表示中の表示アイテム501の表示を取り消す。ユーザが表示アイテム501(画像送りアイコン)を所定時間見ていない場合、表示アイテム501に対応する処理(画像送り)の実行を望んでいない可能性が高い。すなわち、表示アイテム501は、操作に必要ないばかりか、画像の視認性を低下させる可能性がある。そこで、一定の条件下で表示アイテム501の表示を取り消すことで、画像の視認性を低下させることがない。
【0058】
S918において、システム制御部50は、EVF29の表示画面の端領域に対する視線位置が検出されているか否かを判定する。システム制御部50がEVF29の表示画面の端領域に対する視線位置が検出されなくなったと判定した場合、処理はS902へ進む。これにより、表示アイテム501を再表示させる準備が整う。
システム制御部50がEVF29の表示画面の端領域に対する視線位置が検出されていると判定した場合、S918が繰り返される。ユーザの視線がEVF29の表示画面の端領域に留まっている場合、ユーザが表示中の画像を確認している可能性が高い。そこで、ユーザの視線が端領域から外れるまで表示アイテム501を再表示させない。これにより、画像の視認性の低下を抑制することが可能になる。
【0059】
以上のように、システム制御部50は、第3の所定条件が満たされるまで、表示アイテム501を再表示させない。本実施形態では、EVF29に表示される画像の端領域に対する視線位置が検出されなかったことが、第3の所定条件である。第3の所定条件は、上記の条件に限定されるものではない。例えば、表示アイテム501が非表示になった時から、0.5秒経過した後、としてもよい。
【0060】
S920からS924までは、システム制御部50が表示アイテム501に対応する処理を実行した後の動作について説明する。
S920において、システム制御部50は、表示アイテム501の継続注視タイマの計時を開始する。処理はS921へ進む。表示アイテム501の継続注視タイマとは、表示アイテム501に対応する処理を実行した後に、表示アイテム501に対する視線位置が継続して検出されている時間を計時するタイマである。すなわち、S911において機能を実行した後、表示アイテム501は非表示にせず表示したままにする。
S921において、システム制御部50は、表示アイテム501の継続注視タイマの経過時間が第3の所定時間を経過したか否かを判定する。システム制御部50が第3の所定時間を経過したと判定した場合、処理はS924へ進む。システム制御部50が第3の所定時間を経過していないと判定した場合、処理はS922へ進む。
S924において、システム制御部50は、表示アイテム501の継続注視タイマの経過時間をリセットする。処理はS911へ進む。
【0061】
以上のように、システム制御部50は、表示アイテム501に対する視線位置が検出された状態で、第4の所定条件が満たされた場合、表示アイテム501に対応する処理(画像送り処理)を再度実行する。
本実施形態では、表示アイテム501に対して注視されている時間が、第3の所定時間以上であることが、第4の所定条件である。第3の所定時間は、例えば0.2秒、0.3秒、0.4秒である。ただし、第4の所定条件は、上記の条件に限定されるものではない。例えば、視線検出が途切れたことに応じて第4の所定条件を満たさないとしてもよい。また、タッチ操作がされた場合に、第4の所定条件を満たすとしてもよい。また、第3の所定時間は、第1の所定時間よりも短い。これにより、表示アイテム501に対応する処理(画像送り処理)を連続的かつ速やかに実行することができる。
【0062】
S922において、システム制御部50は、表示アイテム501に対する視線位置が検出されたか否かを判定する。システム制御部50が表示アイテム501に対する視線位置が検出されたと判定した場合、処理はS921へ進む。システム制御部50が表示アイテム501に対する視線位置が検出されなかったと判定した場合、処理はS923へ進む。
S923において、システム制御部50は、表示アイテム501の継続注視タイマの経過時間をリセットする。なお、このとき表示アイテム501を非表示にする。処理はS904へ進む。
S925において、システム制御部50は、EVF29への表示が可能であるか否かを判定する。システム制御部50がEVF29への表示が可能であると判定した場合、処理はS902へ進む。システム制御部50がEVF29への表示が不可能であると判定した場合、一連の処理が終了する。
【0063】
以上の本実施形態によれば、画像の端領域に視線入力がある場合、表示アイテム501を表示させ、画像の端領域に視線入力がない場合、表示アイテム501を表示させない。また、第1の所定条件を設定することで、表示された表示アイテム501を注視している場合に、表示アイテム501に対応する処理を実行する。これにより、画像の視認性を低下させることなく、視線による入力操作の操作性を向上させることができる。また、第2の所定条件を設けることで、表示アイテム501を表示させた後で、表示アイテム501に視線入力がない場合、表示アイテムの表示を取り消す。更に、第3の所定条件を設けることで、表示アイテム501の表示を取り消した後、画像の端領域から視線入力がなくなるまで、表示アイテム501を再表示させない。これにより、画像の視認性の低下を更に抑制することができる。また、第4の所定条件を設定することで、表示アイテム501に対応する処理を連続的かつ速やかに実行することができる。これにより、更に快適な操作性を実現することができる。
【0064】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。更に、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
【0065】
例えば、表示部としてEVF29を使用する構成としたが、視線検出を利用する構成であれば、どのような表示装置を使用しても構わない。また、本発明をその好適な実施形態としてデジタルカメラに基づいて詳述してきたが、視線検出部160を有する電子機器であれば、あらゆるものに適用可能である。例えば、画像ビューアのような表示装置に適用しても構わない。また、音楽プレーヤのような、音声装置に適用しても構わない。また、パーソナルコンピュータやPDA、携帯電話端末や、ディスプレイを備えるプリンタ装置、デジタルフォトフレーム、ゲーム機、電子ブックリーダー、ヘッドマウントディスプレイ等のウェアラブル機器等に適用可能である。
【0066】
なお、システム制御部50が行うものとして説明した上述の各種制御は、1つのハードウェアが行ってもよいし、複数のハードウェアが処理を分担することで、装置全体の制御を行ってもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【符号の説明】
【0067】
16:接眼部
29:ファインダー内表示部(EVF)
50:システム制御部
56:不揮発性メモリ
57:接眼検知部
100:デジタルカメラ
160:視線検出部
165:視線検出回路
501:表示アイテム