(58)【調査した分野】(Int.Cl.,DB名)
ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器であって、
前記操作画面上に前記表示オブジェクトに対応した触覚を前記触覚提示部を介してユーザに提示する触覚提示制御手段と、
前記タッチ座標検出部によって前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する操作内容取得手段と、
当該状態が前記1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音を予め備えられた音出力部を介して外部出力する音出力制御手段とを有し、
前記操作内容取得手段は、前記タッチ位置の時間的な変化の検出にかかわらず、前記表示オブジェクトに対応する位置で前記操作画面上を叩く動作を検出した場合に、当該表示オブジェクトに対応づけられた所定の機能を実行するように制御されること、を特徴とする電子機器。
前記表示オブジェクトの表示位置に基づいて、当該位置に対して、当該ユーザがタッチ操作を行うよりも前の時点で、当該ユーザが知覚可能な触覚を提示させるよう、前記触覚提示部を駆動する触覚提示制御手段を備えること、を特徴とする請求項2に記載の電子機器。
前記操作内容取得手段が前記表示オブジェクト上に前記タッチ位置を検出した場合に、前記操作対象範囲全体を直接的に振動させるよう、前記触覚提示部に替えて予め備えられた振動提示部の動作を制御する振動提示制御手段を備えること、を特徴とする請求項1に記載の電子機器。
ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器にあって、
前記電子機器が備えるプロセッサに、
処理を実行して得られる内容である前記操作画面を作成して前記視覚表示部に表示させる手順、
この操作画面上の前記操作対象範囲内に当該ユーザが知覚可能な前記操作画面に対応した触覚を前記触覚提示部を介して提示する手順、
前記操作対象範囲内に表示されている前記表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出する手順、
前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が1秒間以上続いたか否かを検出する手順、
および当該状態が前記1秒間以上続いた場合に、当該表示オブジェクトの意味を理解することのできる音を音出力制御手段が予め備えられた音出力部を介して外部出力する手順を実行させ、
前記タッチ位置の時間的な変化の検出にかかわらず、前記表示オブジェクトに対応する位置で前記操作画面上を叩く動作があったか否かを検出し、
この叩く動作が検出された場合に、当該表示オブジェクトに対応する前記操作内容を実行する手順をさらに実行させること、を特徴とする操作制御プログラム。
【発明を実施するための形態】
【0023】
(第1の実施形態)
以下、本発明の第1の実施形態の構成について
図1に基づいて説明する。
本発明の第1の実施形態に係る電子機器100は、ユーザによる操作対象範囲61を含む操作画面を表示する視覚表示部20と、操作対象範囲内に表示されている表示オブジェクト62a、62b、…に対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部30と、操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部40とを備えた電子機器である。ここで、電子機器100は、操作画面上に表示オブジェクトに対応した触覚を触覚提示部を介してユーザに提示する触覚提示制御手段13と、タッチ座標検出部によって表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が予め設定した時間以上続いたか否かを検出する操作内容取得手段14と、当該表示オブジェクトに対応する感覚刺激情報を予め備えられた感覚刺激情報出力部(音出力部50)を介して外部出力する感覚刺激情報出力制御手段(音出力制御手段15)とを有する。この感覚刺激情報は、音として構成することができる。
【0024】
ここで、触覚提示部40は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されている。また、統括制御部10は、作成された操作画面上の表示オブジェクトに対応する位置に対して、当該ユーザがタッチ操作を行うよりも前の時点で、当該ユーザが知覚可能な触覚を提示させるよう、触覚提示部40を駆動する触覚提示制御手段13を備える。
【0025】
そして、操作内容取得手段14は、表示オブジェクトに対応する位置で操作画面上を叩く動作が検出された場合に、当該表示オブジェクト62a、62b、…に対応づけられた所定の機能を実行するように制御される。
【0026】
以上の構成を備えることにより、この電子機器100は、視覚に障害のある人でも、提示された触覚(テクスチャ感)を利用して容易に利用できるものとなる。
以下、これをより詳細に説明する。
【0027】
図1は、本発明の第1の実施形態に係る電子機器100の構成について示す説明図である。電子機器100は、視覚表示部20と、タッチ座標検出部30と、触覚提示部40と、これら全体の動作を統括制御する統括制御部10とを備える。視覚表示部20は、典型的には液晶ディスプレイ装置であり、統括制御部10によって行われた処理の結果としての操作画面をユーザに対して表示する。
【0028】
タッチ座標検出部30は、典型的には液晶ディスプレイ装置である視覚表示部20の額縁部分に配設した光学式のタッチセンサであり、視覚表示部20に表示された操作画面に対してユーザが行うタッチなどの操作を受け付け、当該操作画面上でその操作が行われた点を座標入力情報として統括制御部10に入力する。
【0029】
触覚提示部40は、視覚表示部20の表面に貼られた触覚提示パネルである。視覚表示部20、タッチ座標検出部30、および触覚提示部40は、共通した操作対象範囲61を持つ。操作対象範囲61は、視覚表示部20が操作画面を表示する範囲であり、かつタッチ座標検出部30がユーザが行う操作を受け付ける範囲でもある。なお、
図1では下から視覚表示部20、触覚提示部40、タッチ座標検出部30の順で積層されている形で図示しているが、操作対象範囲61が共通して機能してさえいれば、その順序は特に問わない。
【0030】
より具体的な構成については後述するが、触覚提示部40は、操作対象範囲61の中の(操作ボタンなど)特定の表示オブジェクト62a、62b、…の個々に対応した位置に触覚(テクスチャ感)を提示し、ユーザが当該表示オブジェクトの位置を触覚のみで判別可能とする。
【0031】
統括制御部10は、典型的にはコンピュータプログラムを実行する主体としてのプロセッサであり、操作制御プログラムが実行されることによって次段で説明する各動作手段として機能する。また、統括制御部10には音出力部50も併設されている。音出力部50は、典型的にはスピーカーやイヤホンなどであり、統括制御部10によって行われた処理の結果としての音をユーザに対して出力する。なお、統括制御部10が、視覚表示部20とタッチ座標検出部30および触覚提示部40と同一の筐体内にある必要はない。
【0032】
図2は、
図1に示した電子機器100で、統括制御部10のより詳しい構成について概念的に示す説明図である。統括制御部10は、操作制御プログラムが実行されることにより、アプリケーション実行手段11、操作画面表示制御手段12、触覚提示制御手段13、操作内容取得手段14、および音出力制御手段15の各々として機能する。また、統括制御部10は、操作制御プログラムの動作に必要な各種データ(後述する時刻パラメータ、タッチ位置ベクトルなど)を一時的に記憶する一時記憶手段16も併設されている。
【0033】
アプリケーション実行手段11は、視覚表示部20およびタッチ座標検出部30によって行われるユーザの入力操作に対応する一般的な動作を行い、その結果としての操作画面を視覚表示部20に表示させる。また、視覚表示部20に表示された操作画面の内容に応じて、触覚提示部40にも動作指令を与える。また、音出力制御手段15に対して再生すべき音を指定し、当該音を再生するように指令を与える。
【0034】
ここでいう一般的な動作とは、電子機器100が券売機や自販機などである場合には、ユーザが選択した物の販売などである。また、電子機器100が銀行ATMである場合には、ユーザの操作に応じた入出金、振込、振替などの処理である。もちろん、電子機器100にはそれらの動作を行うための特有の機構なども備えられているが、それらはここで詳しく説明する必要の無いものであるので、特に図示していない。
【0035】
操作画面表示制御手段12は、アプリケーション実行手段11の行っている動作に対応した操作画面を視覚表示部20に表示させる。触覚提示制御手段13は、その操作画面の中で特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示するよう、触覚提示部40を制御する。
【0036】
操作内容取得手段14は、表示された操作画面に対してユーザがタッチ座標検出部30に入力した操作の内容である座標入力情報から、ユーザが意図する操作内容を検出し、検出された操作内容をアプリケーション実行手段11に渡す。音出力制御手段15は、アプリケーション実行手段11からの出力を受け、アプリケーション実行手段11によって指定された音を音出力部50を介して出力する。
【0037】
(第1の実施形態:触覚提示部について)
図3は、
図1に示した電子機器100で、触覚提示部40のより詳しい構成について概念的に示す説明図である。触覚提示部40は、平面状の支持基板41上のx方向に延在する複数のX電極42と、支持基板41上でX電極42と直交するy方向に延在する複数のY電極43と、X電極42の各々に接続されたX電極駆動回路44と、Y電極43の各々に接続されたY電極駆動回路45と、X電極駆動回路44およびY電極駆動回路45の各々に接続された制御部46とによって構成されている。
【0038】
X電極42とY電極43とはその交差部で絶縁膜を介して交差し、両者の電気的な絶縁が保たれている。また、X電極42とY電極43の上には絶縁膜が形成され、ユーザが電子機器100表面を上から指で触った場合に、X電極42と指、およびY電極43と指との間を電気的に絶縁している。
【0039】
制御部46は、触覚提示制御手段13から入力されたテクスチャ感を提示しようとする対象領域についての情報に基づいてX電極駆動回路44およびY電極駆動回路45を制御する。X電極駆動回路44およびY電極駆動回路45は、制御部46から入力された制御情報に応じて、X電極42もしくはY電極43のうちの必要な範囲の電極に、必要な周波数の電圧信号を印加する。
【0040】
図4は、
図3に示した触覚提示部40の駆動方法について示す説明図である。ここで、各々のX電極42およびY電極43には、各電極ごとに異なる記号によって区別するものとする。即ち、
図4に示す例では、支持基板41上に28本のX電極42と46本のY電極43とが形成されているが、それら各々のX電極42を下から上方向にX
00〜X
27といい、各々のY電極43を右から左方向にY
03〜Y
48という。
【0041】
また、テクスチャ感を提示しようとする領域を対象領域47とする。対象領域47は、X電極42ではX
11〜X
14の範囲、Y電極43ではY
24〜Y
27の範囲である。制御部46は、外部から与えられた対象領域47の情報に基づいて、X電極駆動回路44およびY電極駆動回路45に制御信号を与える。
【0042】
この制御信号を受けて、X電極駆動回路44はX
11〜X
14に周波数f
1=1000Hzの電圧信号を印加し、Y電極駆動回路45はY
24〜Y
27に周波数f
2=1240Hzの電圧信号を印加する。ここで、X電極駆動回路44およびY電極駆動回路45は、それらに該当しないX電極42およびY電極43について、電極同士の容量結合によって電圧が誘起されることを防ぐため、
図4に示した例では接地している。または、接地するかわりに直流電圧、もしくは2240Hz以上の周波数の電圧信号を印加してもよい(この点について理由は後述する)。
【0043】
X電極42およびY電極43に上記の信号を印加し、触覚提示部40の表面を指でなぞるとX
11〜X
14とY
24〜Y
27が交差する対象領域47のみでテクスチャ感が知覚される。この電圧信号を印加する電極を任意に選択することで、任意の所定の領域にテクスチャ感を提示することができる。また、全てのX電極および全てのY電極を選択することで、X電極とY電極の交差部全てを内包する領域全体にテクスチャ感を提示することもできる。
【0044】
発明者らは、実験によって、X
11〜X
14の電極上の領域から対象領域47を除いた領域ではテクスチャ感が提示されず、またY
24〜Y
27電極上の領域から対象領域47を除いた領域でもテクスチャ感が提示されないことを確認した。即ち、人間の指は電極に印加する電圧信号の周波数が1000Hzや1240Hzの場合にはテクスチャ感を知覚しない性質であることを、発明者らは確認した。
【0045】
一方、対象領域47では、f
1=1000Hzの電圧信号が印加されたX電極とf
2=1240Hzの電圧信号が印加されたY電極とが互いに隣接しているので、波動の分野で知られるうなりが生じている。以下、うなりによってテクスチャ感が提示される機構について説明する。
【0046】
図5は、
図3および
図4で示した触覚提示部40の断面モデルについて示す説明図である。前述の通り、複数のX電極42と複数のY電極43とは、平面状の支持基板41(
図5上には示されない)上で隣り合うように配置されている。ここで、X電極42およびY電極43のうち、対象領域47内に配置された2つのX電極42と2つのY電極43とに対向する位置に、指をモデル化した電極48が一つ配置されている。人体には接地効果があるので、この電極48は抵抗値Rを有する抵抗49を介して接地されているものとしてモデル化することができる。
【0047】
今、対象領域47内のX電極42に、V
1=Acos(2πf
1t)で表される電圧信号V
1を印加する。電圧信号V
1の振幅はA、周波数はf
1であり、tは時刻を表す。また、対象領域47内のY電極43に、V
2=Acos(2πf
2t)で表される電圧信号V
2を印加する。電圧信号V
2の振幅は電圧信号V
1の振幅と等しいA、周波数はf
2である。
【0048】
電極48と対象領域47内のX電極42の各々との間は静電容量Cを有する平行平板コンデンサとしてモデル化することができ、電極48と対象領域47内のY電極43の各々との間は静電容量Cを有する平行平板コンデンサとしてモデル化することができる。
【0049】
このとき、電極48に現れる電圧V
Pは、抵抗値Rが十分高いとき、V
P=(V
1+V
2)/2となる。
【0050】
ひとつのX電極42と指をモデル化した電極48との間に働く静電気力を
図3に示すようにF
e1とあらわす。F
e1は、平行平板コンデンサの電極間に働く力として知られている公式を適用すると、次のように求められる。ここでεはX電極上の絶縁膜の誘電率、Sは平行平板コンデンサの電極面積である。
【0052】
同様に、ひとつのY電極43と指をモデル化した電極48との間に働く静電気力を
図3に示すようにF
e2とあらわすとF
e2は次のように求められる。
【0054】
静電気力F
e1と静電気力F
e2とを人の指先で区別できない程度に電極の間隔が細かいのであれば、F
e1およびF
e2の個々の力を合計した力がマクロ的に指に働くものとみなすことができる。指をモデル化した電極48に働くすべての力の合計Fは、
図3よりF=2(F
e1+F
e2)であるから、前記のV
1、V
2、数1および数2の値を用いることで、次のように得ることができる。
【0056】
〔数3〕より、モデル化した電極48に働くすべての力の合計Fは、値域が[0、A
2C
2/(εS)]で周波数が(f
1+f
2)である周期関数に、値域が[0、2]で、周波数が(f
1−f
2)の絶対値である周期関数を乗算して得られるものであることがわかる。その包絡線の周波数は(f
1−f
2)の絶対値となる。
【0057】
この基本形態では、周波数f
1=1000Hz、周波数f
2=1240Hzとしているため、その差の絶対値は240Hzとなる。このため指に働く引力Fは、〔数3〕に示すように240Hzで変化する。従って、人間が触覚提示部40の表面を指でなぞると、240Hzの周波数で摩擦力の変化が生じる。240Hzは人間の皮膚の機械受容器が感度を有する周波数であるので、テクスチャ感の知覚をもたらすことができる。
【0058】
さらに発明者らは、電圧信号の周波数に対するテクスチャ感の知覚の有無を実験によって確認した。支持基板41上の全てのX電極42およびY電極43に同一の電圧信号を印加し、テクスチャ感の有無を確認した結果、電圧信号の周波数が5Hzより大きく500Hz未満の範囲内にある場合にテクスチャ感が知覚され、電圧信号の周波数がこの範囲内にない場合にはテクスチャ感が知覚されないことが確認された。
【0059】
また、支持基板41上の全てのX電極42に周波数f
1の電圧信号を印加し、全てのY電極43に周波数f
2の電圧信号を印加し、f
1とf
2との差の絶対値に対するテクスチャ感の知覚の有無を実験的に確認した。その結果、f
1とf
2との差の絶対値が10Hzより大きく1000Hz未満の場合テクスチャ感が知覚され、f
1とf
2との差の絶対値が10Hz以下または1000Hz以上の場合テクスチャ感が知覚されないことが確認された。
【0060】
これらの結果から、X電極に印加する電圧信号の周波数をf
1とし、Y電極に印加する電圧信号の周波数をf
2とした場合、f
1およびf
2を共に500Hz以上とし、f
1とf
2との差の絶対値が10Hzより大きく1000Hz未満となるようにf
1とf
2を設定すれば、周波数f
1の電圧信号を与えたX電極と周波数f
2の電圧信号を与えたY電極とが交差する領域にテクスチャ感を提示し、他の領域にはテクスチャ感を提示しない触覚提示部40が実現可能となる。
【0061】
さらに、〔数3〕とその考察に記載した事項から、指に働く引力の周波数がテクスチャ感の知覚に作用していると考えられたので、発明者らは指に働く引力の周波数と触覚の知覚との関係を確認する実験を行った。
図6は、
図3〜4に示した触覚提示部40で、指に働く引力の周波数に対する触覚の変化をユーザが知覚するために必要な電圧信号の振幅の閾値の関係を測定したグラフである。
【0062】
図6のグラフは、支持基板41上の全てのX電極42と全てのY電極43に、同一の電圧信号を周波数を変えながら印加し、触覚の変化を知覚するのに必要な振幅の閾値を測定した結果である。下軸は全てのX電極42と全てのY電極43に印加した電圧信号の周波数、左軸は触覚の変化を知覚するのに必要な電圧信号の振幅の閾値を示している。
【0063】
この実験では、操作者の指に働く引力の周波数は印加した電圧信号の周波数f
1の2倍となる。この関係を導出するためには、
図5に示した抵抗R49の抵抗値を無限大を除いた有限な値、極端にはゼロと置き、X電極42およびY電極43に印加する電圧信号の周波数を共にf
1と置いて静電気力Fを求めればよい。
図6では、指に働く引力の周波数を上軸に示している。即ち、指に働く引力の周波数と知覚に必要な振幅の閾値との関係は
図6の上軸と左軸とによって表される。
【0064】
図6のグラフより、指に働く引力の周波数が200Hz付近のとき、閾値が最小値となることがわかる。即ち、人間の皮膚の受容器は、指に働く引力の周波数が200Hz付近で、最も高い感度でテクスチャ感を知覚するといえる。また、この
図6のグラフより、閾値と周波数の関係のグラフの谷底は指に働く引力の周波数が200Hz付近であることだけでなく、グラフの谷の始まりと終わりは各々10Hz付近と1000Hz付近であることもわかる。
【0065】
即ち、引力の周波数が10〜1000Hzの範囲内でテクスチャ感が知覚される。この範囲外の周波数ではテクスチャ感が知覚されず、摩擦感が知覚される。
【0066】
以上の実験での作用は、次の通り説明できる。支持基板41上の所定のX電極42に周波数f
1の電圧信号を印加し、所定のY電極43に周波数f
1と異なる周波数f
2の電圧信号を印加すると、当該X電極と当該Y電極の交差部を含む対象領域47では周波数(f
1−f
2)の絶対値の引力が指に働く。
【0067】
このため、周波数(f
1−f
2)の絶対値を10Hzより大きく1000Hz未満とすれば、所定のX電極42と所定のY電極43の交差部を含んでなる対象領域47にテクスチャ感を提示することができる。
【0068】
当該交差部を含んでなる対象領域47を除いた前記X電極上の領域では、平行平板コンデンサの電極間に働く力の公式から、周波数f
1の2倍の周波数の引力が指にはたらき、当該交差部を含んでなる対象領域47を除いた前記Y電極上の領域では周波数f
2の2倍の周波数の引力が指に働く。
【0069】
このためf
1およびf
2を共に500Hz以上とすることで所定のX電極と所定のY電極の交差部を含んでなる対象領域47を除く所定のX電極上の領域又は所定のY電極上の領域では共に1000Hz以上の引力が指に働き、テクスチャ感が提示されない。従って、対象領域47を第1の領域と称し、他の領域を第2の領域と称すと、当該触覚提示部を第1の領域と第2の領域とで、同時に異なる触覚を提示可能なように構成することもできる。
【0070】
既存の触覚提示装置(前述の特許文献1)では、テクスチャ感を提示するための各電極に対して独立した複数の配線を引き回すためのスペースが必要であり、その結果テクスチャ感を提示するための電極同士の間隔が広くなり、触覚提示装置の空間解像度が低い、という問題点を有している。その点、この触覚提示部40では、テクスチャ感を提示するための電極が配線を兼ねているので、空間解像度を高めることができる。
【0071】
さらにこの形態によれば、電極の形状が視認されにくくなるため、視覚表示部20と重ね合わせて利用する場合にも、表示装置本来の表示品位の低下を抑制することができる。そして、既存の触覚提示装置では、配線が引き回された領域に本来不要なテクスチャ感が提示されるという問題を有しているが、この形態によればこの問題も解消される。
【0072】
以上で説明した例では対象領域47が1つのみであるが、この例は対象領域が複数箇所である場合にも容易に拡張できる。即ち、X電極とY電極の各々に印加される周波数の差の絶対値が、各々の対象領域においては10〜1000Hzの範囲内(望ましくは200Hz付近)、対象領域以外においてはその範囲外となるよう、電圧信号を印加する電極番号とその周波数とを決定すればよい。
【0073】
このように、この触覚提示部40は、X電極42およびY電極43の上の触覚提示面上の任意の領域に、他の領域と異なる触覚を提示することが可能である。その領域の位置あるいは触覚提示の有無は、X電極42およびY電極43に印加する電圧信号によって自在に制御可能である。また、その電圧信号の波形および振幅を変更することによって、多様な触覚を提示することが可能である。
【0074】
第1の実施形態で用いた触覚提示部は次の特徴を有する触覚提示装置で構成される。即ち、支持基板41と、支持基板上の第1の方向に延在している互いに平行な複数のX電極42と、支持基板上の第2の方向に延在しかつX電極と互いに絶縁されている互いに平行な複数のY電極43とを備え、各X電極のうち外部から入力された対象領域47に該当するX電極に対して第1の周波数の電圧信号を印加し、各Y電極のうち対象領域に該当するY電極に対して第2の周波数の電圧信号を印加する駆動回路を備えると共に、第1および第2の周波数がいずれも500[Hz]以上であり、第1および第2の周波数の差の絶対値が10[Hz]より大きく1000[Hz]未満である期間を有する触覚提示装置である。
【0075】
(第1の実施形態:操作内容取得手段について)
図7は、
図1〜2に示した電子機器100で、統括制御部10(特に操作内容取得手段14)が行う動作について示すフローチャートである。ここで説明する動作において、操作内容取得手段14が検出する入力操作と、その操作の検出条件についてまず説明する。
【0076】
まず、電子機器100で、視覚表示部20が操作画面を表示する範囲であり、かつタッチ座標検出部30がユーザが行う操作を受け付ける範囲でもあり、さらに触覚提示部40が操作画面の中の(操作ボタンなど)特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示する対象でもある範囲のことを、操作対象範囲61と呼ぶことにする。
【0077】
そして、ユーザの指が操作対象範囲61に触れることを「タッチダウン」という。タッチダウンの最中、タッチ座標検出部30によって座標入力情報が検出される。またユーザの指が操作対象範囲61から離れることを「タッチアップ」という。
【0078】
ユーザの指が操作対象範囲61を軽く叩く動作を「タップ」という。タップの発生条件は、「タッチダウンの発生後1秒以内に、タッチアップが、タッチ位置の変化を伴わずに行われた」ということである。ここで、人間が自分の指で行う操作の誤差などに起因するタッチ位置の変動の影響を抑制するため、タッチダウンとタッチアップの各々の発生時点におけるタッチ位置の変化が、タップ検出閾値Sより小さければ「タッチ位置が変化していない」と判断する。
【0079】
ユーザの指が操作対象範囲61を触りながら移動し続ける、即ちステップS102の処理によって触覚(テクスチャ感)が提示されている表示オブジェクト62a、62b、…を手探りで探す動作を「サーチ」という。サーチの継続条件は、「1秒以上の静止を伴わずに、タッチ位置を変化させ続けている」ということである。ここでも、操作の誤差などに起因するタッチ位置の変動の影響を抑制するため、位置検出の処理が行われる1サイクル(典型的には1/120秒間)のタッチ位置の移動が静止検出閾値v
mより小さければ「静止している」と判断する。
【0080】
タップ検出閾値Sが「1秒間のタッチ位置の変化」を判断するための閾値であるのに対して、静止検出閾値v
mは「1サイクル(1/120秒間)のタッチ位置の変化」を判断するための閾値であるという点で違いがある。もちろんこの「1秒間」「1/120秒間」などの時間的条件は、必要に応じて変更可能な設計事項である。
【0081】
ユーザの指が操作対象範囲61上の特定の位置で1秒以上静止させる動作を「長押し」という。長押しの発生条件は「同じ位置にタッチした状態が1秒以上継続された」ということである。ここでも、「サーチ」の判定と同様の条件で、タッチ位置が静止しているか否かを判断する。
【0082】
アプリケーション実行手段11がユーザによる入力操作を受け付ける状態になると、操作画面表示制御手段12がその入力操作を受け付ける状態の操作画面を視覚表示部20(操作対象範囲61)に表示させ(ステップS101)、また触覚提示制御手段13がそれに対応してその操作対象範囲61中の特定の表示オブジェクト62a、62b、…に対応した位置に触覚(テクスチャ感)を提示するよう触覚提示部40を制御する(ステップS102)。
【0083】
そして操作内容取得手段14は、時刻パラメータk=0、タッチ位置ベクトルr
0=(0,0)と初期設定して一時記憶手段16に記憶し(ステップS103)、操作対象範囲61内でのタッチダウンの発生を待ち受ける状態となる(ステップS104)。もちろんこのr
0の初期値は設定例の一つに過ぎない。
【0084】
タッチダウンが発生しなければ(ステップS104がノー)、その待ち受け状態を継続する。タッチダウンが発生すれば(ステップS104がイエス)、操作内容取得手段14は、時刻パラメータn=0と初期設定して(ステップS105)、nの値をインクリメント(1つ増加)して一時記憶手段16に記憶し(ステップS106)、現在の時刻パラメータnの値においてのタッチ位置であるタッチ位置ベクトルr
nを取得し、同時にこれを一時記憶手段16に記憶する(ステップS107)。
【0085】
そして操作内容取得手段14は、現在の時刻パラメータ(n)におけるタッチ位置ベクトルr
nと、一時記憶手段16に記憶されている現在より一つ前の時刻パラメータ(n−1)におけるタッチ位置ベクトルr
n−1との間の距離が、静止検出閾値v
mより小さいか否か、即ち|r
n−r
n−1|<v
mか否かを判定する(ステップS108)。
【0086】
典型的にはこの位置検出の処理は1秒間に120回の頻度で行われるので、r
n−1は換言すればr
nよりも1/120秒前の時刻におけるタッチ位置であり、|r
n−r
n−1|は1/120秒間におけるタッチ位置の移動速度であると考えることができる。これが静止検出閾値v
mより小さいか否かを判断するということは、人間が自分の指で行う操作の誤差などに起因するタッチ位置の変動を考慮に含めつつ、タッチ位置が変化せずに静止した状態であるか否かを判断するということを意味する。
【0087】
静止していないと判断されたら(ステップS108がノー)、操作内容取得手段14は、時刻パラメータk=0にリセットして一時記憶手段16に記憶し(ステップS109)、タッチアップの発生を待ち受ける状態となる(ステップS110)。タッチアップが発生しなければ(ステップS110がノー)、ステップS106からの処理を繰り返す。
【0088】
タッチアップが発生すれば(ステップS110がイエス)、操作内容取得手段14は、タッチアップが発生した時点のタッチ位置ベクトルであるr
nと、一時記憶手段16に記憶されているタッチダウンが発生した時点のタッチ位置ベクトルであるr
1との間の距離が、タップ検出閾値Sより小さいか否か、即ち|r
n−r
1|<Sか否かを判定する(ステップS111)。これがイエスであれば、操作内容取得手段14は引き続いて時刻パラメータk<120であるか否かを判定する(ステップS112)。ステップS111およびS112のいずれかがノーであればステップS103に処理が戻り、初期設定から操作内容取得手段14による処理をやり直すこととなる。
【0089】
この、タッチダウンとタッチアップの各々の発生時点におけるタッチ位置の変化が、タップ検出閾値Sより小さいか否かを判断するということは、前述のような操作の誤差などに起因するタッチ位置の変動を考慮に含めつつ、タッチダウンからタッチアップまでの間でタッチ位置が変化していない状態であるか否かを判断するということを意味する。そして時刻パラメータk<120であるか否かを判断するということは、位置検出の処理は1秒間に120回の頻度で行われるので、タッチダウンからタッチアップまでの時刻が1秒以内であるか否かを判断するということを意味する。
【0090】
ステップS111およびS112の両方がイエスであれば、「タッチダウンの発生後1秒以内に、タッチアップが、タッチ位置の変化を伴わずに行われた」ことという「タップの発生条件」を満たしたこととなるので、操作内容取得手段14はアプリケーション実行手段11に、その座標位置においてタップ操作が発生したことを通知して(ステップS113)ステップS103に処理を戻す。
【0091】
ステップS108がイエス、即ち静止している状態でタッチが継続されている状態と判断されたら、操作内容取得手段14は時刻パラメータkの値をインクリメントして一時記憶手段16に記憶し(ステップS114)、k>120であるか否か、即ちタッチが1秒以上継続されたか否かを判定する(ステップS115)。これがノーであれば、ステップS110に進んでタッチアップの発生を待ち受ける。
【0092】
ステップS115がノーとなるという状態は、即ちユーザが操作対象範囲61に触れながら、ステップS102の処理によって触覚(テクスチャ感)が提示されている箇所を手探りで探している状態、即ち「1秒以上の静止を伴わずに、タッチ位置を変化させ続けている」という「サーチの継続条件」を満たしている。従って、この状態では、時刻パラメータkのリセットは伴わない。
【0093】
ステップS115がイエスであれば、「同じタッチ位置にタッチした状態が1秒以上継続された」という「長押しの発生条件」を満たすので、操作内容取得手段14は、アプリケーション実行手段に対して、長押しの発生条件が満たされたことおよびそのタッチ座標を送信する。アプリケーション実行手段11はそのタッチ座標に基づいて表示オブジェクトに対応した音を出力するよう音出力制御手段15に指示してから(ステップS116)、時刻パラメータkを0にリセットして(ステップS117)、ステップS106からの処理を繰り返す。指示を受けた音出力制御手段15は、その音を音出力部50を介して出力する。以後、この動作は電子機器100が動作を終了するまで繰り返される。
【0094】
(第1の実施形態:具体的な操作方法)
以上で説明した動作によって実現される電子機器100の操作方法について説明する。
図8は、
図1〜2に示した電子機器100の操作方法について示す説明図である。
図8(a)は操作画面表示制御手段12が操作画面を視覚表示部20(操作対象範囲61)に表示させた状態、
図8(b)は操作対象範囲61上にユーザが指を置いてサーチを行っている状態、
図8(c)はユーザが操作対象範囲61上の特定の位置を長押ししている状態、
図8(d)はユーザが操作対象範囲61上の特定の位置をタップしている状態を各々示す。
【0095】
操作画面表示制御手段12が視覚表示部20(操作対象範囲61)に表示させた操作画面には、複数の表示オブジェクト62a、62b、…が表示されている。表示オブジェクトは単数でも複数でもよく、また表示させる項目およびそれらの配置や位置関係なども任意に決定することができる。たとえば0〜9の数字を入力するテンキーとしてもよいし、アルファベットやカナ文字などを入力するものとしてもよいし、「OK」もしくは「キャンセル」を入力するものとしてもよい。
【0096】
ただし、各々の表示オブジェクト62a、62b、…が表示された位置は、同時にタッチ座標検出部30が表示項目に対応する入力操作を受け付ける位置となり、さらに触覚提示部40が触覚(テクスチャ感)を提示する位置ともなる。
図8(a)に示した例では、表示オブジェクト62a、62b、…としてテンキーが表示されている。
【0097】
図8(b)に示した例は、ユーザが、操作対象範囲61を指63で触りながら移動しつつ、触覚(テクスチャ感)が提示されている表示オブジェクト62a、62b、…を手探りでサーチしているという状態である。この時のユーザは、触覚によって表示オブジェクト62a、62b、…の所在を探り当てることはできるが、どの表示オブジェクトがどの入力内容(文字など)に対応するかまではわからない。
【0098】
そこでユーザは、
図8(c)に示すように、表示オブジェクト62a、62b、…の一つが探り当てられた位置で指63の移動を止め、同じタッチ位置で1秒以上静止させる。すると
図7のステップS115〜117で示した「長押し」が検出され、音出力制御手段15がその表示オブジェクトに対応する内容の音を出力する。たとえばこれがテンキーのうちの「1」を入力するキーに相当するものであれば、「イチ」の音が音出力部50から出力されることとなる。
【0099】
そして出力された音がユーザの意図したものであれば、
図8(d)に示すように、ユーザはその位置を軽く叩く、即ち「タップ」の操作を行う。するとその内容、この例では「1」を入力するという操作内容が、アプリケーション実行手段11によって動作しているソフトウェアに渡されることとなる。「1」がユーザの意図した内容でなければ、ユーザはそのまま
図8(b)に示す指の移動、即ちサーチを継続する。
【0100】
上で示したように、第1の実施形態の電子機器は、操作内容取得手段14が、表示オブジェクトに対応する位置で操作画面上を叩く動作を検出した場合に、アプリケーション実行手段11を介して、当該表示オブジェクトに対応づけられた所定の機能(この例では動作しているソフトウェアに「1」を入力するという操作)を実行するように制御される。
【0101】
上の例では、数字「1」が書かれたボタンの表示オブジェクトを長押しすると「イチ」の音が出力される例を説明したが、出力される音は人間が発声器官を通じて発する音を模した音に限定されるものではない。例えば、モールス符号の「・−−−−」というような、音の発生と停止とで構成されるパターンを出力してもよい。あるいは、表示オブジェクトのボタンの機能が特定の楽曲を再生することに割り当てられている場合は、その楽曲の一部あるいは全部を音として出力してもよい。
【0102】
また、上の例では、数字「1」が書かれたボタンの表示オブジェクトを長押しすると「イチ」の音が出力される例を説明したが、出力される情報は音に限定されるものではなく、あらゆる感覚器を刺激する情報(感覚刺激情報)、すなわち、聴覚、触覚、味覚、視覚、嗅覚を刺激する情報を用いることができる。例えば、ユーザの視覚障害の程度が、文字は読めないが明暗は認識できる程度である、という場合は、モールス符号に準じて画面の明暗を制御することで、ユーザは表示オブジェクトの意味を理解することができる。
【0103】
あるいは、画面をモールス符号に準じて振動させても、ユーザは表示オブジェクトの意味を理解することができる。あるいは味覚提示手段を備え、表示オブジェクトに対応した味覚を提示することで、ユーザは表示オブジェクトの意味を理解することができる。あるいは嗅覚提示手段を備え、表示オブジェクトに対応した匂いを提示することで、ユーザは表示オブジェクトの意味を理解することができるものとしてもよい。
【0104】
してみれば、本発明の電子機器は、以下のように表現される。
即ち、ユーザによる操作対象範囲を含む操作画面を表示する視覚表示部と、前記操作対象範囲内に表示されている表示オブジェクトに対して当該ユーザが行ったタッチ操作の内容を検出するタッチ座標検出部と、前記操作画面上で当該ユーザが知覚可能な触覚を提示する触覚提示部とを備えた電子機器であって、
前記操作画面上に前記表示オブジェクトに対応した触覚を前記触覚提示部を介してユーザに提示させる触覚提示制御手段と、
前記タッチ座標検出部によって前記表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め与えられた閾値以下で且つその状態が所定時間以上続いたか否かを検出する操作内容取得手段と、
当該状態が前記所定時間以上続いた場合に当該表示オブジェクトに対応する、感覚刺激情報を、予め備えられた感覚刺激情報出力部を介して外部出力する感覚刺激情報出力制御手段とを有すること、を特徴とするものである。
【0105】
(第1の実施形態の全体的な動作と効果)
次に、第1の実施形態の全体的な動作について説明する。
本実施形態に係る電子機器の操作制御方法は、ユーザによる操作対象範囲61を含む操作画面を表示する視覚表示部20を備えた電子機器100を操作制御する方法であって、アプリケーション実行手段11が処理を実行して得られる内容である操作画面を操作画面表示制御手段12が作成して視覚表示部20に表示させ(
図7:ステップS101)、この操作画面上の操作対象範囲61内に当該ユーザが知覚可能な操作画面に対応した触覚を触覚提示制御手段13が触覚提示部40を介して提示し(
図7:ステップS102)、操作対象範囲61内に表示されている表示オブジェクト62a、62b、…に対して当該ユーザが行ったタッチ操作の内容をタッチ座標検出部30が検出し(
図7:ステップS107)、表示オブジェクト上で検出されるタッチ位置の時間的な変化が予め設定した閾値以下で且つその状態が予め設定した時間以上続いたか否かを操作内容取得手段14が検出し(
図7:ステップS108,115)、当該状態が予め設定した時間以上続いた場合に当該表示オブジェクトに対応する感覚刺激情報を感覚刺激情報出力制御手段(音出力制御手段15)が予め備えられた感覚刺激情報出力部(音出力部50)を介して外部出力する(
図7:ステップS116)。この感覚刺激情報は、音として構成することができる。
【0106】
ここで、前述の触覚提示部40が触覚を提示する工程は、操作画面上の表示オブジェクト62a、62b、…に対応する位置に触覚提示部40が当該ユーザが知覚可能な触覚を提示するものである(
図7:ステップS102)。また、操作内容取得手段14が表示オブジェクト62a、62b、…に対応する位置で操作画面上を叩く動作があったか否かを検出し(
図7:ステップS110〜112)、これが検出された場合に、操作内容取得手段14が、当該表示オブジェクトに対応する操作内容をアプリケーション実行手段11に実行させる(
図7:ステップS113)。
【0107】
ここで、上記各動作ステップについては、これをコンピュータで実行可能にプログラム化し、これらを前記各ステップを直接実行する統括制御部10が備えるプロセッサに実行させるようにしてもよい。本プログラムは、非一時的な記録媒体、例えば、DVD、CD、フラッシュメモリ等に記録されてもよい。その場合、本プログラムは、記録媒体からコンピュータによって読み出され、実行される。
この動作により、本実施形態は以下のような効果を奏する。
【0108】
前述の通り、先行技術に示した触覚提示装置を電子機器に応用すれば、ユーザは視覚に頼らなくても、タップ入力の対象である表示オブジェクトの所在を探り当てることはできる。しかしながら、実際に当該機器を視覚に頼らずに操作するには、各表示オブジェクトの配置と、それら各々に対応する操作内容とを、あらかじめ記憶している必要がある。特に視覚障害者が当該電子機器を利用しやすくするための対策として、これではまだ不十分である。
【0109】
本実施形態では、ユーザが、操作キーに対応する位置にタッチの情報を使わずに予め触覚が提示されている表示オブジェクトの所在を探り当てたら、その表示オブジェクトに対応する操作内容が、音によって読み上げられる。これによって、各表示オブジェクトの配置と操作内容とを記憶していないユーザでも、その電子機器を視覚に頼ることなく容易に操作できるようになる。また、ユーザが複数の指で同時に操作対象範囲に触れた場合でも、この例と同じように操作できるので、この点でも操作性を向上させることができる。
【0110】
(第1の実施形態と、後述の第2の実施形態とに共通する効果)
また、本発明は、タッチ位置の時間に伴う変化が閾値以下である状態が続いた場合に表示オブジェクトに対応する音を出力するように構成したので、視覚に障害が無いユーザが表示オブジェクトに対してタップ等の操作をした場合には、音が出力されない。このため視覚に障害が無いユーザにとっては、本来不要な音が出力されない状態で入力操作ができるので快適に利用できる。
このように、本発明は視覚に障害のあるユーザが使用する場合と、そうでないユーザが使用する場合との間で機器設定の変更などを必要とせず、どちらのユーザにとっても容易にあるいは快適に利用しうる電子機器、電子機器の操作制御方法およびプログラムを提供することができる。
【0111】
(第1の実施形態に特有の効果)
また、本実施形態では、表示オブジェクトの位置の情報に基づいて、表示オブジェクトの位置にテクスチャ感を局在化して提示する構成としたため、先行技術の課題の一つであるタイムラグに起因した位置ズレの問題が解消される。例えば、前述の特許文献4には「入力操作の内容に応じて」音声出力とパネルの振動を行うという技術が記載されているが、これはタッチパネルを介して行われた入力操作を判定し、その結果に応じてパネルを振動させるものである。即ち、その判定に起因するタイムラグによって、操作キーの位置と触覚が発生する位置との間にズレが生じる問題が存在していた。
【0112】
これに対して本実施形態では、触覚を提示するためにタッチパネルを介して行われた入力操作の情報を必要としない。第1の実施形態の触覚提示部は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されているため、ユーザが表示オブジェクトに対してタッチ操作をするよりも前の時点で、当該ユーザが知覚可能な触覚を表示オブジェクトの位置に提示させるよう、触覚提示部を駆動する触覚提示制御手段を備えることで、表示オブジェクトの位置にあらかじめ他と異なる触覚を提示することが可能となる。このため位置ズレの問題が発生しない。従って、ユーザが素早くサーチした場合であっても、表示オブジェクトの位置とテクスチャ感の位置は常に一致しており、操作性が顕著に向上する。
【0113】
(第1の実施形態の効果の追加)
表示オブジェクトの位置と触覚が発生する位置との間にズレが生じる問題は、本願発明者の思考や実験を通して見出された課題である。以下に詳細に述べる。
【0114】
図9は、特許文献3の記載に基づいて本発明者が作成したフローチャートである。このフローチャートは、特許文献3に記載された、「表示部に取引選択画面を表示し、タッチパネルに触れた顧客の指の位置が表示部に表示されたキーのエリアに入ったとき、振動発生部によりタッチパネルを振動させ」の工程をあらわす。当該工程は次のステップを順に経る。
【0115】
・視覚表示部(表示部)に操作キー(キー)に対応する表示オブジェクトを含む取引選択画面を表示する(S301)。
・ユーザ(顧客)が画面(タッチパネル面)を指でタッチする(S302)。
・タッチ座標検出部がタッチを検出しタッチ座標を検出する(S303)。
・タッチ座標と表示オブジェクトの位置(エリア)とを比較する(S304)。
・タッチ座標が表示オブジェクトのエリア範囲内であればアクチュエータ(振動発生部)を駆動する信号を発生する。(S305)
・アクチュエータがタッチパネル面を振動させる(S306)。
【0116】
上記ステップを順に経るため、ユーザが操作キーをサーチによって探す場合、ユーザの指が表示オブジェクトの範囲に入ってからタッチ面が振動するまでに所定の時間が経過する。この時間のことをディレイとかタイムラグと呼ぶ。このタイムラグ(すなわち、ステップS302の処理が終わってから、ステップS303〜S305の処理を経て、ステップS306において実際にタッチ面が振動し始めるまでの時間)は、現行のスマートフォンの応答時間を参考にすると、55ミリ秒以上であると推定される。
【0117】
一方、ユーザが操作キーの位置をサーチする場合、ユーザの指の速度は700mm/秒を超えることが、本発明者等の実験でわかった。タイムラグと指の速度との積は38.5mmであり、この値が表示オブジェクトの位置と触覚が発生する時に指が存在する位置とのズレを表す。
【0118】
ユーザの指の速度の測定について
図10および
図11を用いて説明する。
図10は、第1の実施形態の電子機器であって、対角10.4インチの視覚表示部および触覚提示部を有するものを示す。この電子機器に、表示オブジェクトとして9個の正方形のボタンを3行3列の形態で表示した。それらの表示オブジェクトの位置に、触覚提示部を用いて触覚を提示した。この状態を、
図10(a)に、ユーザがサーチしていない時として示す。
【0119】
この電子機器を用いて、ユーザにボタンの位置を触覚で探す(サーチする)というタスクを与え、その時の指の動きを動画で撮影し、指先の速度を求めた。このタスクの最中に撮影した写真を
図10(b)に、ユーザがサーチしている時として示す。
【0120】
図11は、測定された指先の速度の時刻変化を示す図である。測定された指先の最高速度は700mm/秒を超える。ユーザは、指を画面の左右方向に走査しサーチしながら、その左右方向への走査の位置を徐々に画面の上下方向に移動させた。ユーザの指先が画面の左右端に達した時に指先の速度は極小値をとり、ユーザの指が画面中央付近の時に指先の速度は極大値をとった。
【0121】
これらの結果に基づき、表示オブジェクトの位置と触覚が発生する時に指が存在する位置とのズレを
図12のように可視化した。
図12(a)は、関連技術に基づき本発明者が書き起こした、ステップS301〜S306を順に経る電子機器において、指を右方向(移動方向631)に動かしサーチした場合の表示オブジェクト621の位置と触覚が発生する時に指が存在する位置とを相対的に示したものである。視覚によって知覚される表示オブジェクト621の位置を「視覚」のラベルで示した。画面の一例として、表示オブジェクト621を黒の四角形で表示し、背景の色を白色で表示した場合、視覚のラベルで示されたパルス波形は、その横軸が位置に対応し縦軸が表示オブジェクト621の輝度に対応する。また触覚で知覚される位置を「触覚」のラベルで示した。触覚のラベルで示されたパルス波形は、その横軸が位置に対応し縦軸が知覚された振動の強さに対応する。尚、本例の表示オブジェクト621は、タップ入力で使用するボタンとしている。
【0122】
図12(a)から理解できる通り、触覚が発生する時に指が存在する位置は表示オブジェクト621が存在する位置である視覚に対して38.5mm右側にずれる。タップ入力の対象である表示オブジェクト621の左右方向のサイズが38.5mmより小さい場合、触覚で知覚されたタップ入力のボタンの位置と表示オブジェクト621の位置との関係において、両者の間に図形演算でいうところの積が存在しないため、触覚で知覚されたボタンの位置をタップしてもそのボタンの機能は実行されないという問題が生じる。
【0123】
図12(b)は、指を右方向(移動方向631)および左方向(移動方向632)に動かしてサーチする場合の表示オブジェクト622の位置と、触覚が発生する時に指が存在する位置とを相対的に示したものである。右方向にサーチした場合に指によって触覚が知覚される位置を「触覚(1)」のラベルで示している。図で触覚が知覚される場合は縦軸の振動の強さが大きくなり、触覚が知覚されない場合は振動の強さが小さくなるため、指を右方向に動かしてサーチする場合は位置に対してパルス状の変化を示す。同様に、左方向にサーチした場合に触覚が知覚される位置を「触覚(2)」のラベルで示した。
【0124】
図12(b)から理解できる通り、指を右方向に動かしてサーチした場合、触覚が発生する時に指が存在する位置は視覚に対して38.5mm右側にずれる。一方、指を左方向に動かしてサーチした場合、触覚が発生する時に指が存在する位置は視覚に対して38.5mm左側にずれる。タップ入力の対象である表示オブジェクト622の左右方向のサイズが77.0mmより小さい場合、右方向にサーチして知覚されたタップ入力のボタンの位置と、左方向にサーチして知覚されたタップ入力のボタンの位置との関係において、両者の間に図形演算でいうところの積が存在しない。つまり右方向にサーチして知覚されたボタンの位置と左方向にサーチして知覚されたボタンの位置とが大きく異なることとなり、ユーザは戸惑い、タップ入力に支障が生じる。
【0125】
このように、特許文献3のような関連技術を用いて、表示オブジェクトの表示と触覚の提示とを行う場合、表示と触覚の提示の間にタイムラグ(ディレイ)が存在する。このため、上述のように、触覚提示位置をサーチする際に、表示位置と実際に振動が発生し触覚を感じる位置との間に大きな位置ズレが発生する。この位置ズレは、ユーザビリティを著しく低下させていた。
【0126】
一方、本実施形態に係る電子機器におけるフローチャートを
図13に示す。本実施形態の電子機器は、
図1乃至
図8を用いた構造および動作を有し、次のステップを順に経る工程を有する。
【0127】
・視覚表示部20に操作キーに対応する表示オブジェクトを表示する(S311)。
・表示オブジェクトに対応する位置に局在化された触覚(テクスチャ感)を提示するように触覚提示パネル(触覚提示部40)を駆動する(S312)。
・ユーザが操作対象範囲61をタッチする(S313)。
【0128】
本実施形態の電子機器100は、面上に異なる触感を同時に提示可能な触覚提示部40を有する。このため、上記フローチャートに示すように、ユーザが操作対象範囲61に触るよりも前の時点から触覚提示部40を駆動することが可能となる。この結果、関連技術の課題の一つであるタイムラグに起因した位置ズレの問題を解消することができる。
【0129】
図14は、前述のステップS311〜S313を順に経る、本実施形態の電子機器100における、表示オブジェクトの位置と触覚の位置とのズレを説明する図である。
図14(a)は指を右方向(移動方向631)に動かした場合の表示オブジェクト621の位置と触覚が発生する位置とを示した図であり、
図14(b)は指を右方向(移動方向631)および左方向(移動方向632)に動かした場合の表示オブジェクト621の位置と触覚が発生する位置とを示した図である。
図12と同様に
図14でも、視覚によって知覚される表示オブジェクト621の位置を「視覚」のラベルで示し、その横軸は位置に対応し縦軸は表示オブジェクト621の輝度に対応する。また触覚で知覚される位置を「触覚」のラベルで示し、その横軸は位置に対応し縦軸は知覚されたテクスチャ感の強さに対応する。本実施形態では、表示オブジェクトの位置に局在化されたテクスチャ感を提示しているため、位置に対してパルス状の変化を示す。
【0130】
前述の通り、本実施形態の触覚提示部40は、操作画面上の第1の領域と第2の領域とで、同時に異なる触覚を提示可能に構成されている。この触覚提示部40と、ユーザが表示オブジェクトに対してタッチ操作をするよりも前の時点で、当該ユーザが知覚可能な触覚を表示オブジェクトの位置に提示させるよう、触覚提示部40を駆動する触覚提示制御手段13とを備えることで、表示オブジェクトの位置にあらかじめ他と異なる触覚を提示することが可能となる。このため位置ズレの問題が発生しない。
【0131】
これらの図から理解できるように、本実施形態の電子機器100では、表示オブジェクトの位置と触覚が発生する位置とのズレがゼロである。その理由は、ユーザが操作対象範囲61に触るよりも前の時点から、触覚提示部40の表示オブジェクトの領域が駆動されているからである。あるいはタッチ位置と表示オブジェクトの位置との比較動作が不要であるからである。従って、ユーザが素早くサーチした場合であっても、表示オブジェクトの位置と触覚が発生する位置とは一致し、操作性が顕著に向上する。
【0132】
以上で説明した本実施形態による動作では、ユーザが当該機器に対して行っている操作の内容が、全て音出力部を介して出力されることになる。例えば銀行などのATMで暗証番号を入力する時などのように、操作の内容を他者に聞かれたら困る場合も考えられるが、そのような場合にはイヤホンなどを利用して、音出力を他者に聞かれないようにすることもできる。
【0133】
本発明の電子機器は、別の側面から次の特徴を有する電子機器ともいえる。すなわち、本発明の電子機器は、
・面の一部の領域の触感を変更可能な触覚提示部、言い換えると、面上に異なる触感を同時に提示可能な触覚提示部と、
・触覚提示部に対するユーザの接触を検出するタッチ検出部と、
・前記触覚提示部の所定の領域の触感を変更することで提示された触覚オブジェクトと、
を備え、
・ユーザが当該触覚オブジェクトに接触するよりも前の時点で、当該触覚オブジェクトを提示させるよう、前記触覚提示部を駆動する触覚提示制御手段を備え、
・前記触覚オブジェクトに対して所定のタッチ動作が検出された場合、前記触覚オブジェクトに対応づけられた動作が実行される
という特徴を有する。
このように、本発明において視覚提示部を省略することも可能である。その場合、「表示オブジェクト」を「触覚オブジェクト」に代える。
【0134】
(第2の実施形態)
本発明の第2の実施形態に係る電子機器200は、前述した第1の実施形態の構成に替えて、統括制御部210が、操作内容取得手段214が表示オブジェクト62a、62b、…上にタッチ位置を検出した場合に、操作対象範囲61全体を直接的に振動させるよう、触覚提示部に替えて予め備えられた振動提示部240の動作を制御する振動提示制御手段213を備えるものとした。
【0135】
この構成によれば、第1の実施形態と同一の効果をより低コストに得ることができ、また既存の機器に対してもソフトウェアの追加および置換のみでその効果を得ることが可能となる。
以下、これをより詳細に説明する。
【0136】
図15は、本発明の第2の実施形態に係る電子機器200の構成について示す説明図である。電子機器200は、前述した第1の実施形態に係る電子機器100と共通する構成および内容を多く含むので、共通する点については第1の実施形態と同一の呼称および参照番号で示す。この電子機器200は、第1の実施形態と共通する視覚表示部20を備えると共に、第1の実施形態とは異なる振動提示部240と、第1の実施形態とは異なるタッチ座標検出部230と、第1の実施形態とは異なる統括制御部210とを備える。
【0137】
タッチ座標検出部230は、典型的には液晶ディスプレイ装置である視覚表示部20の表面に配設したタッチパネルである。このタッチパネルの周辺に機械的振動子をとりつけることで、タッチパネルに振動提示の機能を付与した。このため本電子機器200は、タッチパネルが触覚提示部を兼ねる構成である。
【0138】
第1の実施形態における触覚提示部40は、操作対象範囲61の中の特定の表示オブジェクト62a、62b、…の個々に対応した位置に触覚(テクスチャ感)を提示するものである。これに対して振動提示部240は、操作対象範囲61全体、即ちユーザが操作のためにタッチする面全体を直接的に振動させ、ユーザに対して触覚を提示するものである。具体的には、ピエゾ振動子、あるいは携帯電話端末用のバイブレータで使用されている小型モーターなどを利用して実現することができる。
【0139】
図16は、
図15に示した電子機器200で、統括制御部210のより詳しい構成について概念的に示す説明図である。統括制御部210は、操作制御プログラムが実行されることにより、アプリケーション実行手段11、操作画面表示制御手段12、振動提示制御手段213、操作内容取得手段214、および音出力制御手段15の各々として機能する。振動提示制御手段213および操作内容取得手段214以外は、第1の実施形態と共通である。また、統括制御部210は、第1の実施形態と共通する音出力部50および一時記憶手段16も併設されている。
【0140】
振動提示制御手段213は、アプリケーション実行手段11からの動作指示により、振動提示部240を制御して操作対象範囲61全体を振動させ、ユーザに対して振動を提示する。
【0141】
図17は、
図15〜16に示した電子機器200で、統括制御部210(特に操作内容取得手段214)が行う動作について示すフローチャートである。この
図17も、
図7で示した第1の実施形態と共通する動作を多く含むので、共通する動作については同一の参照番号で示す。操作内容取得手段214が検出する「タッチダウン」「タッチアップ」「長押し」「サーチ」「タップ」の各々の動作の定義とそれら各々の検出条件もまた、第1の実施形態と同一である。
【0142】
アプリケーション実行手段11がユーザによる入力操作を受け付ける状態になると、操作内容取得手段214は
図7のステップS101〜ステップS104と同一の動作を、ステップS102を省略して行う。
【0143】
そしてタッチダウンが発生すれば(ステップS104がイエス)、操作内容取得手段214は、
図7のステップS105〜ステップS107と同一の動作を行う。操作内容取得手段214は、タッチダウンが発生したという情報とステップS107で取得したタッチ位置ベクトルr
nとをアプリケーション実行手段に送信する。アプリケーション実行手段は、ステップS107で取得したタッチ位置ベクトルr
nの座標が表示オブジェクト62a、62b、…に該当する位置であるか否かについて判断する(ステップS201)。
【0144】
r
nの座標が表示オブジェクトに該当すれば(ステップS201がイエス)、アプリケーション実行手段11は振動提示制御手段213に対して振動を発生させるよう指示してから(ステップS202)ステップS108以降の処理に進む。指示を受けた振動提示制御手段213は、振動提示部240を介して操作対象範囲61全体を振動させる。
【0145】
r
nの座標が表示オブジェクトに該当しなければ(ステップS201がノー)そのままステップS108以降の処理に進む。ステップS108以降の処理は、
図7で説明した第1の実施形態の動作と同一である。
【0146】
以上で説明した本実施形態に係る電子機器200によれば、前述した第1の実施形態に係る電子機器100と同一の効果を、表示オブジェクト個々の位置に対応した位置に触覚(テクスチャ感)を提示する触覚提示部を備えていない機器においても得ることができる。即ち、ピエゾ振動子や携帯電話端末用バイブレータなどを備えていればよいので、より低コストに本願発明の効果を得ることができる。また、既存の機器に対しても、ソフトウェアの追加および置換のみで本実施形態を実施してその効果を得ることが可能となる。
【0147】
(第3の実施形態)
本発明の第3の実施形態に係る電子機器は、前述した第1の実施形態に対して視覚表示部と触覚提示部とが空間的に分離している点が主な相違点である。視覚表示部と触覚提示部が空間的に分離しているため、操作の対象をあらわす視覚オブジェクトの寸法と触覚オブジェクトの寸法とを一致させる必要は無く、視覚表示部に表示される表示オブジェクトの相対的な位置と触覚提示部に提示される触覚オブジェクトの相対的な位置とが略一致するように制御されればよい。本実施形態は、視覚に障害が無いユーザによる利用を想定し、自動車内の運転手向けのインタフェース機器に本発明を適用した例である。
【0148】
以下、
図18および
図19を参照して、当該インタフェース機器について、空調装置の温度設定操作を例に用いて詳細に説明する。
【0149】
図18は第3の実施形態に係る電子機器300の構成について示す説明図であり、
図19は電子機器300を搭載した移動体である。電子機器300は、前述した第1の実施形態に係る電子機器100と共通する構成および内容を多く含むので、それらの共通する点については第1の実施形態と同一の呼称および参照番号で示す。
【0150】
この電子機器300は、第1の実施形態と共通する触覚提示部40とタッチ座標検出部30とを操作対象範囲61に備える。一方、視覚表示部320は、触覚提示部40やタッチ座標検出部30とは一体化されず、任意の場所に配置可能に構成される。視覚表示部320は、可視光に対して透明なスクリーンと投影光学系とで構成されるプロジェクタ型の表示装置である。視覚表示部320を操作対象範囲61と独立に配置することができるため、視覚表示部320と操作対象範囲61とのそれぞれを、ユーザが最も使いやすい位置に配置可能である。その結果、ユーザビリティが向上する効果が得られる。
【0151】
図19に示すように、視覚表示部320は運転席前方のダッシュボード上に配設され、ユーザに対するヘッドアップディスプレイとして機能する。一方、触覚提示部40とタッチ座標検出部30とを含んで構成される操作対象範囲61はユーザが右腕を肘掛けに載せたときに右手の指が位置する場所付近に配置される。
【0152】
触覚提示部40には、視覚表示部320に表示された表示オブジェクト362a、362bに対応する触覚オブジェクト70a、70bが提示される。表示オブジェクト362aは、視覚表示部320の画面の下半分かつ左半分の領域に表示される。これに対応する触覚オブジェクト70aは、操作対象範囲61の下半分かつ左半分の領域に表示される。表示オブジェクト362bは、視覚表示部320の画面の下半分かつ右半分の領域に表示される。これに対応する触覚オブジェクト70bは、操作対象範囲61の下半分かつ右半分の領域に表示される。
【0153】
本実施形態は第1の実施形態と異なり、視覚表示部320は触覚提示部40と一体化されていないため、表示オブジェクト362aの縁と触覚オブジェクト70aの縁とを一致させるという概念は存在しない。そのため、本実施形態では、視覚表示部320に表示された表示オブジェクト362a、362bそれぞれの相対的な位置関係と触覚提示部40に提示された触覚オブジェクト70a、70bそれぞれの相対的な位置関係とが大まかに一致するように、統括制御部310によって制御、駆動される。あるいは、視覚表示部320および表示オブジェクト362a、362bを平面視して得られる図形と、操作対象範囲61および触覚オブジェクト70a、70bを平面視して得られる図形とがほぼ相似の関係となるように、統括制御部310が制御、駆動する。
【0154】
統括制御部310には実施形態1同様に操作内容取得手段が含まれるが、その働きは実施形態1と異なる。すなわち、本実施形態の操作内容取得手段は、触覚オブジェクト70a、70bに対応する位置で操作対象範囲61を叩く動作(タップ操作)が検出された場合に、触覚オブジェクト70a、70bに対応付けられた所定の機能を実行するように制御される。
【0155】
触覚オブジェクト70a、70bの領域には、第1の実施形態と同様に、ユーザによる入力操作を受け付ける状態になると、テクスチャ感が局在的に提示される。すなわち、触覚提示部40はユーザが触覚オブジェクト70a、70bの領域に接触するよりも前の時点で、触覚オブジェクト70a、70bの領域にテクスチャ感を提示するように駆動される。
【0156】
統括制御部310には空調装置370が接続される。視覚表示部320には温度表示領域362cが設けられている。
【0157】
次に、
図18に示す「Down」と書かれた表示オブジェクト362aを、ユーザが選択し入力する場合について説明する。本実施形態ではユーザは視覚表示部320を視認し表示オブジェクト362a、362bの位置および機能を認識し、操作対象範囲61を操作する。操作対象範囲61には表示オブジェクト362a、362bに対応する位置に触覚オブジェクト70a、70bが提示されているため、操作対象範囲61を視認することなくタップ操作をすべき位置を知ることができる。
【0158】
設定温度を下げたい意思を持ったユーザは、視覚表示部320を視認することで、設定温度を下げる表示オブジェクト362aが左下にあり、設定温度を上げる表示オブジェクト362bが右下にあることを認識する。その後、ユーザは操作対象範囲61をサーチすることで、左右に並ぶ触覚オブジェクト70a、70bを知覚し、触覚オブジェクト70aの位置でタップ操作をする。この操作により設定温度が例えば1目盛分下がる。
【0159】
本実施形態では空調装置370の設定温度の制御について説明したが、本発明はこれに限定されず、多様な付帯機器を動作、制御するために適用できる。
【0160】
(第3の実施形態の効果)
第3の実施形態の電子機器300およびこれを搭載した移動体における効果を説明する。ひとつの効果は、視覚表示部320と操作対象範囲61とのそれぞれを、ユーザが最も使いやすい位置に配置することでユーザビリティが向上する効果が得られることである。
【0161】
ユーザは運転中、前方に注意する義務を負う。
図19に示した移動体の例では、ユーザが注意をはらうために目配りする視線の極めて近くに視覚表示部320が設けられており、かつ操作対象範囲を視認することなく設定温度を下げたり上げたりできる。そのため、ユーザは前方注意義務の履行に専念しつつ空調装置370の操作を行うことが可能となり、安全運転を継続することが可能となる。
【0162】
他の効果は、ユーザが触覚オブジェクト70a、70bをサーチで探りあてる際、ユーザによって知覚される触覚オブジェクト70a、70bの位置が、指の速度に関わらず一定であり、ユーザがタップ操作をすべき位置を正しく知ることができることである。
【0163】
この理由は、第1の実施形態と同様、触覚提示部40はユーザが触覚オブジェクト70a、70bの領域に接触するよりも前の時点で、触覚オブジェクト70a、70bの領域にテクスチャ感を提示するように駆動されるからである。このため、触覚オブジェクト70a、70bの位置とユーザによって知覚される触覚オブジェクト70a、70bの位置とのずれが生じない。
【0164】
一方、関連技術を適用した場合、ユーザの指のタッチ座標を検出し、検出された座標があらかじめ決められた所定の領域(タップ操作を受け付ける領域)内であるかどうかを比較し、タッチ座標が当該領域内であればアクチュエータを駆動する信号を発生し、タッチ面を振動させるという工程を経るため、ユーザの指が当該領域に入ってからタッチ面が振動するまでにタイムラグが生じる。このため、当該領域と、触覚が発生するときに指が存在する位置とが、指の速度に応じてずれる問題が生じる。つまりユーザが触覚で知覚したタップ操作を受け付ける領域の位置と実際にタップ操作を受け付ける領域の位置とが異なる問題が生じる。
【0165】
尚、触覚を局在化して提示する触覚提示部40は、実施形態1で説明した構成、すなわちXY電極をマトリクス状に配設した構成に限定されない。たとえば、特許文献1に記載された、複数のセグメント電極を基板上に配設した構成を用いることができる。あるいは特許文献5に記載された、複数の形状記憶合金を基板上に配設した構成を用いることができる。あるいは特許文献6に記載された、触知ピンをマトリクス状に配列した構成を用いることができる。あるいは、当該文献から類推できる構成、例えばピエゾ振動子を複数個面上マトリクス状に配列した構成を用いることができる。
【0166】
(実施形態の拡張)
以上で説明した第1乃至第3の実施形態は、その趣旨を改変しない範囲で、種々の拡張が可能である。以下、この拡張について説明する。
【0167】
以上で説明した各実施形態は、ユーザが「タップ」の操作を行った場合に、その操作内容がアプリケーション実行手段11によって動作しているソフトウェアに渡されるというものであった。第1および第2の実施形態のいずれにおいても、「タップ」のかわりに「押し込み」、即ち「長押し」の操作で同じタッチ位置で静止していた指をそのままの静止状態でさらに押す力を強めるという操作に置き換えることもできる。
【0168】
この場合は、操作対象範囲(視覚表示部20、タッチ座標検出部30、および触覚提示部40)にさらに荷重センサを追加して、押す力が強まったことを検出したら「押し込み」が発生したと判定するようにしてもよい。また、操作対象範囲に接触している指の面積を操作内容取得手段14(または214)が検知することができる構成として、その面積が拡大したことを検出したら「押し込み」が発生したと判定するようにしてもよい。この例の電子機器は、操作内容取得手段14が、表示オブジェクトに対応する位置で操作画面を押し込む動作を検出した場合に、アプリケーション実行手段11を介して、当該表示オブジェクトに対応づけられた所定の機能を実行するように制御される。
【0169】
これまで本発明について図面に示した特定の実施形態をもって説明してきたが、本発明は図面に示した実施形態に限定されるものではなく、本発明の効果を奏する限り、本発明の構成要素として、これまで知られたいかなる構成であっても採用することができる。