(58)【調査した分野】(Int.Cl.,DB名)
第1のオブジェクト及び第2のオブジェクトが前記基準点側から見て少なくとも一部重畳していて、該第1のオブジェクトがより手前に位置する場合であって、該第1のオブジェクトと該第2のオブジェクトとの重畳領域内にある当該接触対応位置が、該第1のオブジェクトに貼付された第1の触覚対象画像の表示位置範囲と重畳せず、且つ該第2のオブジェクトに貼付された第2の触覚対象画像の表示位置範囲と重畳する際、
前記奥行き・高低取得手段は、
前記第2のオブジェクトの接触対応位置に割り当てられた奥行き量と、該接触対応位置に相当する前記第2の触覚対象画像上の位置に割り当てられた高低量とを取得する
ことを特徴とする請求項1に記載のユーザインタフェース装置。
前記触覚振動制御手段は、触覚振動の強度を、取得された当該奥行き量について単調減少関数となり、取得された当該高低量の変化分について単調増加関数となるように決定することを特徴とする請求項1又は2に記載のユーザインタフェース装置。
【発明の概要】
【発明が解決しようとする課題】
【0009】
現在、携帯型情報機器では、インターネットを介して、種々のゲーム、オンライン・ショッピング、仮想美術館・博物館等の、立体物イメージを取り扱うサービスが提供可能である。これらのサービスでは、現実の立体物に関する3D(3次元)イメージが画面に表示される場合が少なくない。また、アイコン等の操作対象画像を並べた待ち受け画面や、写真及び映像ファイル等のサムネイルを並べた一覧画面が、3Dイメージとして表示される場合も存在する。
【0010】
このような3Dイメージに対して、指の接触による操作を行うことを考える。この際、特許文献1〜3に記載されたような従来のフィードバック技術だけでは、ユーザが、操作を行う指を通して、3Dイメージの奥行き感といった3次元情報を得ることは困難である。例えば、指の接触している3Dイメージの部分が画面奥行き方向でどの程度の位置にあるのか、さらには、その部分に凹凸又は段差が存在するのか否かといった情報を、操作を行う指を通して得ることは、非常に困難である。
【0011】
従って、折角、入力・表示対象に3D技術を採用しても、入力・表示対象に含まれる3次元情報を、視覚を通してしか取得できない。
【0012】
そこで、本発明は、操作を行う指に対して、画面に表示された画像に含まれる3次元情報を付与可能なユーザインタフェース装置、触覚振動付与方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明によれば、表示対象を画面に表示する
画像表示部と
、指の接触位置を逐次検出するタッチパネルとを備えたユーザインタフェース装置であって、
タッチパネルに接触した指に対して、触覚をもたらす触覚振動を付与する触覚振動機構部と、
画面内に設定される仮想空間に設置された表示対象であるオブジェクトであって、触覚の対象となる触覚対象画像が貼付されたオブジェクト上の各位置に、仮想空間における基準点から当該各位置までの距離である奥行き量を割り当てる奥行き量割当手段と、
触覚対象画像上の各位置に、この触覚対象画像に対応する高低量を割り当てる高低量割当手段と、
指の接触位置に対応するオブジェクト上の位置である接触対応位置が、触覚対象画像の表示位置範囲と重畳する際、この接触対応位置に割り当てられた奥行き量と、この接触対応位置に相当する触覚対象画像上の位置に割り当てられた高低量とを取得する奥行き・高低取得手段と、
取得された奥行き量と、指の接触位置の移動に伴う、取得された高低量の変化分とに応じた触覚振動を、指に対してタッチパネルを介して付与すべく触覚振動機構部に指示する触覚振動制御手段と
を有するユーザインタフェース装置が提供される。
【0014】
この本発明によるユーザインタフェース装置の一実施形態として、
第1のオブジェクト及び第2のオブジェクトが基準点側から見て少なくとも一部重畳していて、第1のオブジェクトがより手前に位置する場合であって、第1のオブジェクトと第2のオブジェクトとの重畳領域内にある接触対応位置が、第1のオブジェクトに貼付された第1の触覚対象画像の表示位置範囲と重畳せず、且つ第2のオブジェクトに貼付された第2の触覚対象画像の表示位置範囲と重畳する際、
奥行き・高低取得手段は、
第2のオブジェクトの接触対応位置に割り当てられた奥行き量と、この接触対応位置に相当する第2の触覚対象画像上の位置に割り当てられた高低量とを取得する
ことも好ましい。
【0015】
また、本発明によるユーザインタフェース装置によれば、触覚振動制御手段は、触覚振動の強度を、取得された奥行き量について単調減少関数となり、取得された高低量の変化分について単調増加関数となるように決定することも好ましい。
【0016】
さらに、本発明によるユーザインタフェース装置の他の実施形態として、
指によりタッチパネルに与えられた押圧力を検出する押圧力検出部を更に備えており、
触覚振動制御手段は、取得された奥行き量、高低量の変化分、及び押圧力値に応じた触覚振動を当該指に対して付与させる
ことも好ましい。この場合、さらに、触覚振動制御手段は、触覚振動の強度を、押圧力値について単調増加関数となるように決定することも好ましい。
【0017】
また、本発明によるユーザインタフェース装置によれば、ユーザの操作から見て、指が、接触したまま移動して、
画像表示部の画面に表示されたオブジェクト上に貼付された触覚対象画像を横切るようになぞった際、この指は、触覚対象画像が仮想空間内においてより奥側に位置しているほど、より小さい強度の触覚振動を付与される
ことも好ましい。
【0018】
本発明によれば、さらに、表示対象を画面に表示する
画像表示部と
、指の接触位置を逐次検出するタッチパネルとを備えたユーザインタフェース装置に搭載されたプログラムであって、このユーザインタフェース装置が、
タッチパネルに接触した指に対して、触覚をもたらす触覚振動を付与する触覚振動機構部を備えており、上記プログラムが、
画面内に設定される仮想空間に設置された表示対象であるオブジェクトであって、触覚の対象となる触覚対象画像が貼付されたオブジェクト上の各位置に、仮想空間における基準点から当該各位置までの距離である奥行き量を割り当てる奥行き量割当手段と、
触覚対象画像上の各位置に、この触覚対象画像に対応する高低量を割り当てる高低量割当手段と、
指の接触位置に対応するオブジェクト上の位置である接触対応位置が、触覚対象画像の表示位置範囲と重畳する際、この接触対応位置に割り当てられた奥行き量と、この接触対応位置に相当する触覚対象画像上の位置に割り当てられた高低量とを取得する奥行き・高低取得手段と、
取得された奥行き量と、指の接触位置の移動に伴う、取得された高低量の変化分とに応じた触覚振動を、指に対してタッチパネルを介して付与すべく触覚振動機構部に指示する触覚振動制御手段と
してコンピュータを機能させるユーザインタフェース装置用のプログラムが提供される。
【0019】
本発明によれば、さらにまた、表示対象を画面に表示する
画像表示部と
、指の接触位置を逐次検出するタッチパネルとを備えたユーザインタフェース装置における触覚振動付与方法であって、ユーザインタフェース装置が、
タッチパネルに接触した指に対して、触覚をもたらす触覚振動を付与する触覚振動機構部を備えており、上記触覚振動付与方法が、
画面内に設定される仮想空間に設置された表示対象であるオブジェクトであって、触覚の対象となる触覚対象画像が貼付されたオブジェクト上の各位置に、仮想空間における基準点から当該各位置までの距離である奥行き量を割り当てる第1のステップと、
触覚対象画像上の各位置に、この触覚対象画像に対応する高低量を割り当てる第2のステップと、
指の接触位置に対応するオブジェクト上の位置である接触対応位置が、触覚対象画像の表示位置範囲と重畳する際、この接触対応位置に割り当てられた奥行き量と、この接触対応位置に相当する触覚対象画像上の位置に割り当てられた高低量とを取得する第3のステップと、
取得された奥行き量と、指の接触位置の移動に伴う、取得された高低量の変化分とに応じた触覚振動を、指に対してタッチパネルを介して付与すべく触覚振動機構部に指示する第4のステップと
を有する触覚振動付与方法が提供される。
【発明の効果】
【0020】
本発明のユーザインタフェース装置、触覚振動付与方法及びプログラムによれば、操作を行う指に対して、画面に表示された画像に含まれる3次元情報を付与することができる。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態について、図面を用いて詳細に説明する。
【0023】
本発明によるユーザインタフェース装置では、
(a)画面に表示されたオブジェクト上の各位置に奥行き量を割り当て、
(b)このオブジェクトに貼付された触覚対象画像上の各位置に高低量を割り当て、
(c)指の接触位置に対応する奥行き量及び高低量を取得し、
(d)奥行き量と、指の接触位置の移動に伴う高低量の変化分とに応じた振動強度を有する触覚振動を、指に付与させる
点に特徴を有する。ここで、触覚振動とは、指に触覚をもたらす振動又は振動パターンである。
【0024】
この本発明によるユーザインタフェース装置の多くは、通常携帯して使用され、指で操作可能な、スマートフォンやタブレット型コンピュータといった携帯型情報機器である。従って、以下、本発明の実施形態として、携帯型情報機器を説明する。
【0025】
図1は、本発明による携帯型情報機器の一実施形態を示す前面図、表示されたオブジェクトの奥行き量を説明する概略図、及びオブジェクト上に貼付された触覚対象画像の高低量を説明するグラフである。
【0026】
図1(A)によれば、携帯型情報機器1は、オブジェクトを画面に表示するディスプレイ101と、ディスプレイ101の画面上に配置され、指の接触位置106を時間経過に応じて逐次検出するタッチパネル100と、タッチパネル100(ディスプレイ101の画面)に接触したユーザの指に対して触覚振動vを与える触覚振動機構部102とを備えている。
【0027】
この携帯型情報機器1には、オブジェクトとして、メニュープレート104が表示されている。メニュープレート104は、ディスプレイ101の画面内に設定された仮想空間において、画面に対して斜めに配置されており、メニュープレート104の右端が画面から見てより奥側に後退している。
【0028】
このメニュープレート104上には、触覚対象画像としてのアイコン105a、105b及び105cが貼付されている。ここで、アイコン105a、105b及び105cは、画面から見て、順次より奥側に位置している。尚、これらのアイコンは、例えば所定の指による操作(例えば所定時間以上指を接触させた後にドラッグする手順)によって位置を変えることができる。
【0029】
アイコン105a〜105cは、例えば、指によるタップ操作、押し込み操作又は長押し操作等によって、予め付与されたアプリケーション等の機能が発動する仮想スイッチであってよい。または、単に、メニュープレート104上に触覚的なアクセントを付与する領域とすることもできる。
【0030】
ユーザは、指をタッチパネル100(ディスプレイ101の画面)に接触させ、メニュープレート104をなぞるように指をスライドさせる。ここで、指がアイコン105a〜105cのいずれかをなぞった際、即ち指の接触位置106がアイコン105a〜105cの表示位置範囲のいずれかと重畳した際、このアイコンが選択されたとして、触覚振動機構部102が指に触覚振動vを付与する。
【0031】
この触覚振動vは、メニュープレート104及びアイコン105a〜105cに含まれる3次元情報である奥行き量及び高低量に応じた振動強度Iを有する。これにより、ユーザは、操作を行う自身の指を介して、これら3次元情報を取得することができる。
【0032】
以下、メニュープレート104及びアイコン105a〜105cへの、奥行き量及び高低量の割り当てを説明する。
【0033】
図1(B)によれば、表示されたメニュープレート104上の各位置に、奥行き量Sが割り当てられている。ここで、画面内に設定された仮想空間において、想定カメラ位置O
cと、このメニュープレート104上の位置とを通る直線を想定する。この際、奥行き量Sは、この直線とタッチパネル面100aとの交点(基準点)から、このメニュープレート104上の位置までの長さ(距離)として定義される。
【0034】
また、指の接触位置106に対応するメニュープレート104上の位置である接触対応位置107は、想定カメラ位置O
c及び接触位置106を通る直線と、メニュープレート104との交点と定義される。従って、接触対応位置107に割り当てられた奥行き量Sは、接触位置106と接触対応位置107とを結ぶ線分の長さとなる。
【0035】
尚、奥行き量Sは、
図1(B)に示したものに限定されない。例えば、想定カメラ位置O
cを無限遠とし、メニュープレート104上の1つの位置からタッチパネル面100aに下ろした垂線の足を基準点として、この垂線の長さを、この1つの位置に割り当てられる奥行き量とすることも可能である。
【0036】
さらに、奥行き量として、想定カメラ位置O
cを基準点として、想定カメラ位置O
cとメニュープレート104上の1つの位置との間の距離(
図1(B)のS’)を採用することも可能である。
【0037】
次いで、
図1(C)によれば、各アイコン105a〜105c上の各位置に、高低量Mが割り当てられている。高低量Mは、例えば、各アイコン105a〜105cが有すると想定される厚み(高さ、段差、凹凸)に対応した値とすることができる。本実施形態では、アイコン105cは、アイコン105a及び105bよりも厚みがあり、これに対応して、アイコン105cの各位置には、より大きな高低量Mが割り当てられている。
【0038】
また、アイコン105a〜105cは、メニュープレート104に貼付されている。その結果、高低量Mは、メニュープレート104上におけるアイコン105a〜105cが存在する位置に割り当てられることになる。ここで、
図1(C)のグラフは、メニュープレート104内のX
ob軸上の位置における高低量Mを示している。
【0039】
図2は、指の接触位置106に対応する奥行き量S及び高低量Mを取得し、指に付与する触覚振動の振動強度Iを決定する手順を説明する概略図及びグラフである。
【0040】
最初に、
図2(A)に、指の接触位置106に対応する奥行き量S及び高低量Mを示す。ユーザは指をタッチパネル100に接触させながら移動(スライド)させる。これに伴い、接触位置106に対応する接触対応位置107は、メニュープレート104内のX
ob軸上を移動する。ここで、接触対応位置107は、アイコン105a〜105cの表示位置範囲を順次通過する。
【0041】
次いで、
図2(B)に、サンプリング時間間隔Δt毎に取得される奥行き量S
i及び高低量M
iと、これらの値により算出される高低量変化分ΔM
i及び振動強度I
iとを示す。
【0042】
奥行き量S
iは、時刻t=Δt×i(i=0,1,2,・・・)での接触位置106と接触対応位置107との距離である。奥行き量S
iは、ユーザの操作から見てメニュープレート104のより奥側を指でなぞるにつれて、増加する。
【0043】
また、高低量M
iは、時刻t=Δt×i(i=0,1,2,・・・)での接触対応位置107に割り当てられた高低量である。対応する接触対応位置107がアイコン105a〜105cにおけるいずれの表示位置範囲にも重畳していない場合、M
i=0と設定される。この結果、
図2(B)の高低量M
iは、各アイコン105a〜105cに対応する領域でのみ有限値をとっている。
【0044】
さらに、時刻t=Δt×iにおける高低量変化分ΔM
iは、次式を用いて算出される。
ΔM
i=M
i−M
i−1 (i=0,1,2,・・・)
従って、本実施形態(
図2(B))では、高低量変化分ΔM
iは、接触対応位置107が触覚対象画像(アイコン105a〜105c)の表示位置範囲に差し掛かった際に正値をとる。また、接触対応位置107が触覚対象画像(アイコン105a〜105c)の表示位置範囲から離脱する際に負値をとる。
【0045】
ここで、高低量変化分ΔM
iの絶対値|ΔM
i|が次式
|ΔM
i|≧M
th
を満たす場合にのみ、以降説明する振動強度I
iを決定して、指に触覚振動を付与するとすることも好ましい。ここで、M
thは所定の高低変化閾値である。これにより、ある程度はっきりした高低(厚み、段差、凹凸)であって初めて、触覚として捉えられるという実感覚に合った操作感が得られる。
【0046】
以上述べたように取得・算出された奥行き量S
i及び高低量変化分ΔM
iから、時刻t=Δt×iにおける触覚振動の振動強度I
iが、次式を用いて決定される。
(1) I
i=C・|ΔM
i|/S
i
ここで、Cは比例定数である。尚、実際の振動付与においては、時刻tから時間Δt
I経過までの間、振動強度I
iの触覚振動が指に付与されることも好ましい。
【0047】
上式(1)で決定される振動強度I
iは、|ΔM
i|に比例した値をとる。その結果、指の接触位置が触覚対象画像(アイコン105a〜105c)に出入りする際、この触覚対象画像がより高い(厚い)ほど、より大きな振動強度I
iが指に付与される。これにより、ユーザは、触覚対象画像の高低(3次元情報)に応じた触覚を得ることができる。
【0048】
さらに、上式(1)によれば、振動強度I
iは、奥行き量S
iが大きくなるほど、より小さな値をとる。その結果、指で横切るようになぞられた触覚対象画像(アイコン105a〜105c)が画面内でより奥側にあるほど、より小さい強度の触覚振動が指に付与される。これにより、ユーザは、触覚対象画像の画面奥行き方向の位置に応じた奥行き感(3次元情報)を得ることができる。尚、画面奥行き方向とは、画面に概ね垂直な方向、又は画面に垂直な成分を含む方向となる。
【0049】
ここで、振動強度I
iの触覚振動における振動数fを、以下の通りに決定することも好ましい。
ΔM
i>0の場合、f=f
1
ΔM
i<0の場合、f=f
2(<f
1)
この場合、接触対応位置107が触覚対象画像(アイコン105a〜105c)の表示位置範囲に差し掛かった際に、振動数f
1の触覚振動が付与される。一方、接触対応位置107が触覚対象画像(アイコン105a〜105c)の表示位置範囲から離脱する際に、振動数f
1とは異なる(振動数f
1よりも低い)振動数f
2の触覚振動が付与される。
【0050】
これにより、ユーザは、触覚対象画像をなぞった指に付与される振動によって、触覚対象画像に入る際と出る際とを区別することができ、よりリアルな高低(厚み、段差、凹凸)の感覚を得ることができる。
【0051】
また、高低量Sは、触覚対象画像(アイコン105a〜105c)に直接割り当てられている。その結果、この触覚対象画像が移動した際にも、さらには、想定カメラ位置O
c(
図1(B))が変更された際にも、ユーザは、指を接触させた時点で常に、触覚対象画像に割り当てられた高低量Sを取得する。これにより、触覚対象画像の移動や想定カメラ位置O
cの変更に左右されずに、触覚対象画像に想定された高低(厚み、段差、凹凸)の触覚を得ることが可能となる。
【0052】
尚、振動強度I
iは、上式(1)に限定されるものではない。例えば、振動強度I
iを、奥行き量S
iについて単調減少関数となり、高低量変化分ΔM
i(の絶対値)について単調増加関数となるように決定することが可能である。
【0053】
以上、携帯型情報機器1は、操作を行う指に対して、触覚対象画像に含まれる奥行きや高低(厚み、段差、凹凸)といった3次元情報を、触覚振動として付与可能であることが理解される。
【0054】
図3は、振動強度Iの決定についての他の実施形態を説明する概略図及びグラフである。
【0055】
図3に示した実施形態では、メニュープレート104及び触覚対象画像(アイコン105a〜105c)の設定、並びに指の接触位置106に対応する奥行き量S及び高低量Mの取得は、
図2の実施形態と同様である。しかしながら、本実施形態では、指によるタッチパネル100に対する押圧力p
cを考慮し、指を押し込んで触覚対象画像をなぞった際の感触を実現している。以下、
図2の実施形態とは異なる点を中心に、本実施形態の説明を行う。
【0056】
図3(A)に示すように、ユーザは、指を、接触したままスライドさせつつアイコン105aとアイコン105bとの間でタッチパネル100に押し込む。この指による押圧力p
cは、
図3(B)の押圧力p
cのグラフに示すように、押し込んだ位置で増大している。尚、この指による押圧力p
cの大きさは、後述する押圧力検出部103で検出・測定される。
【0057】
ここで、本実施形態では、振動強度I
iを決定する際、
図2の実施形態で用いられた|ΔM
i|/S
i値と共に、測定された押圧力p
c値が用いられる。即ち、振動強度I
iが、
図3(B)に示した|ΔM
i|/S
iと時刻t(=Δt×i)での押圧力p
c値とによって、次式のように決定される。
(2) I
i=C’・p
c・|ΔM
i|/S
i
ここで、C’は比例定数である。尚、実際の振動付与においては、
図2の実施形態と同じく、時刻tから時間Δt
I経過までの間、振動強度I
iの触覚振動が指に付与されることも好ましい。
【0058】
上式(2)で決定される振動強度I
iは、押圧力p
c値が大きくなるほど、より大きな値をとる。例えば、
図3(B)の振動強度I
iのグラフにおいて、アイコン105bは、アイコン105aよりも奥側に位置しているので、指がアイコン105bに接触した際の振動強度I
iは、アイコン105aの場合よりも小さくなるはずである。ところが、指は、アイコン105bを、より強く押し込みながらスライドしているので、本実施形態では、アイコン105bに接触した際の振動強度I
iは、むしろ、アイコン105aの場合よりも大きい。
【0059】
このように、本実施形態によれば、奥側に位置する触覚対象画像であっても指をより強く押し込んでなぞれば、指により強い触覚振動が付与される。従って、実際の空間で立体物をなぞる際に指の押し込む程度によって触覚が変化するリアル感を実現することができる。また、押し込んだ際の触覚の変化から、触覚対象画像の奥行き感(3次元情報)を取得することができる。
【0060】
尚、本実施形態においても、振動強度I
iは上式(2)に限定されるものではない。例えば、振動強度I
iを、押圧力p
cについて単調増加関数となるように決定することが可能である。
【0061】
図4は、複数のオブジェクトが画面に表示される実施形態を示す前面図、並びに複数のオブジェクトが表示された場合の奥行き量及び高低量を説明する概略図である。
【0062】
図4(A)に示された携帯型情報機器1は、
図1(A)に示したものと同様の構成を有するが、ディスプレイ101の画面に、オブジェクトとして、第1のメニュープレート104a及び第2のメニュープレート104bを表示している。
【0063】
これら第1のメニュープレート104a及び第2のメニュープレート104bは、画面側(タッチパネル100側)から見て少なくとも一部重畳している。また、第1のメニュープレート104aは、第2のメニュープレート104bよりも手前に位置している。さらに、第1のメニュープレート104a及び第2のメニュープレート104bは、半透明画像となっている。その結果、第2のメニュープレート104bのアイコン105gは、画面側から見て、第1のメニュープレート104aによって覆われているにもかかわらず、第1のメニュープレート104aに透けて視認される。
【0064】
ここで、ユーザが、接触した指をスライドさせ、指の接触位置106を、透けて見えるアイコン105gに重畳させて、アイコン105gを選択した場合を説明する。
【0065】
図4(B)に示すように、指の接触位置106に対応する第1のメニュープレート104a上の接触対応位置107aは、第1のメニュープレート104aに貼付された触覚対象画像(アイコン105d〜105f)の表示位置範囲とは重畳していない。一方で、指の接触位置106に対応する第2のメニュープレート104b上の接触対応位置107bは、第2のメニュープレート104bに貼付された触覚対象画像、即ちアイコン105gの表示位置範囲と重畳している。
【0066】
この場合、ユーザが指で選択したアイコン105g相当の奥行き量S
2及び高低量M
2が取得され、これらの値が、振動強度I
iの算出に使用される。取得される奥行き量S
2及び高低量M
2は、
図4(C)に示すように、以下の通りとなる。
(a)奥行き量S
2:タッチパネル面100a上の接触位置106と、第2のメニュープレート104b上の接触対応位置107bとの距離。即ち、第2のメニュープレート104bの接触対応位置107bに割り当てられた奥行き量。
(b)高低量M
2:接触対応位置107b上の、アイコン105gに割り当てられた高低量。
【0067】
この結果、ユーザは、第1のメニュープレート104aの奥側に位置するアイコン105gに接触し、同アイコンを選択することも可能となる。これにより、複数のオブジェクト(メニュープレート等)を用意して、多数の触覚対象画像(アイコン等)をそれぞれのオブジェクトに立体的に配置した上で、ユーザがそのうちの所望のアイコンを選択することも可能となる。その際、アイコンの画面奥行き方向の位置に応じた触覚振動が指に付与されるので、ユーザは、立体的に配置されたアイコンのうち所望のアイコンを確実に選択したかどうかを確認することができ、操作性が向上する。
【0068】
図5は、画面に表示されたオブジェクトの他の実施形態を示す前面図である。
【0069】
図5によれば、携帯型情報機器1のディスプレイ101の画面には、階段状の立体物イメージである階段オブジェクト2が表示されている。この階段オブジェクト2は、多数のポリゴンで構成され、ポリゴン200、201、210及び211にはテクスチャとして触覚対象画像が貼付(マッピング)されている。
【0070】
これらのポリゴンに貼付された触覚対象画像には、奥行き量S及び高低量Mが割り当てられている。具体的には、例えば、以下の通りである。
触覚対象画像(ポリゴン200):奥行き量S1、高低量M1
触覚対象画像(ポリゴン201):奥行き量S1、高低量M2
触覚対象画像(ポリゴン210):奥行き量S2、高低量M1
触覚対象画像(ポリゴン211):奥行き量S2、高低量M2
【0071】
ここで、奥行き量S1>奥行き量S2である。これは、ポリゴン200及び201が、ポリゴン210及び211よりもより上方の(画面から見てより手前側の)階段ステップに貼付されていることに対応する。また、高低量M2>高低量M1である。これにより、ポリゴン200及び201(ポリゴン210及び211)が位置する階段ステップ上に、出っ張りが表現される。
【0072】
このように設定された階段オブジェクト2を指でなぞると、指の接触位置106がポリゴン200、201、210及び211の表示位置範囲に重畳し更にこれら表示位置範囲から離脱する毎に、指に触覚振動が付与される。この際の振動強度Iは、ポリゴン200、201、210及び211に割り当てられた奥行き量S1又はS2と、高低量S1又はS2の変化分とから決定される。
【0073】
その結果、接触した指に対して、「階段オブジェクト2の各階段ステップに設けられた中央の突出した菱形の出っ張り」といった、画面に表示された対象に含まれる3次元情報を付与することが可能となる。
【0074】
尚、オブジェクトは、当然に、階段オブジェクトに限定されない。例えば、種々のアプリケーション、検索・待ち受け画面等で表示される立体イメージや、配信ゲーム、オンライン・ショッピング、仮想美術館・博物館等のサービスにおいて取り扱われる立体物イメージを、オブジェクトとして採用することができる。
【0075】
図6は、本発明による携帯型情報機器1の構成を概略的に示す斜視図及び機能構成図である。
【0076】
図6によれば、携帯型情報機器1は、タッチパネル100と、ディスプレイ101と、触覚振動機構部102と、機能構成部としてのプロセッサ・メモリを備えている。ここで、機能構成部(プロセッサ・メモリ)は、携帯型情報機器1に搭載されたコンピュータを機能させるプログラムを実行することによって、その機能を実現する。また、
図6に示すように、携帯型情報機器1は、押圧力検出部103を更に備えていることも好ましい。
【0077】
ディスプレイ101は、画面に表示対象である(メニュープレート等の)オブジェクトを表示する。また、タッチパネル100は、ディスプレイ101の画面上に配置されており、ユーザの指の接触位置を時間経過に応じて逐次検出し、接触位置情報を、後述する接触位置判定部122に出力する。このタッチパネル100として、例えば、投影型静電容量方式タッチパネル、表面型静電容量方式タッチパネル、抵抗膜方式タッチパネル、超音波表面弾性波方式タッチパネル、又は赤外線走査方式タッチパネル等を採用することができる。
【0078】
触覚振動機構部102は、タッチパネル100に接触した指に対して、タッチパネル100を振動させることにより触覚振動を与える。触覚振動機構部102は、例えば、PZT(チタン酸ジルコン酸鉛)等の圧電材料を用いて形成された圧電アクチュエータとすることができる。
【0079】
押圧力検出部103は、指によってタッチパネル100に与えられる押圧力p
cを検出する。押圧力検出部103は、例えば、タッチパネル100の四隅下に設置されており、指を押し付けられて撓んだタッチパネル100が自身に及ぼす押圧の合計を、押圧力p
cとして検出する。この押圧力検出部103が出力する押圧力信号は、後述する押圧力測定部123に入力される。押圧力検出部103は、例えば、PZT等の圧電材料を用いて形成された圧電センサとすることができる。また、圧電アクチュエータで構成された触覚振動機構部102を設ける代わりに又は設けると共に、この押圧力検出部103を触覚振動機構部として利用することも可能である。
【0080】
同じく
図6によれば、機能構成部(プロセッサ・メモリ)は、奥行き量割当部120と、高低量割当部121と、接触位置判定部122と、奥行き・段差取得部124と、触覚振動制御部125と、表示制御部110と、アプリケーション処理部111とを有する。また、
図6に示すように、機能構成部(プロセッサ・メモリ)は、押圧力測定部123を更に有することも好ましい。
【0081】
奥行き量割当部120は、(アイコン等の)触覚対象画像が貼付された(メニュープレート等の)オブジェクト上の各位置に、画面内に設定される仮想空間における基準点から当該各位置までの画面奥行き方向での距離である奥行き量Sを割り当てる。また、この割り当て情報を、奥行き・段差取得部124に逐次出力する。
【0082】
高低量割当部121は、(アイコン等の)触覚対象画像上の各位置に、当該触覚対象画像に対応する高低量を割り当てる。また、この割り当て情報を、奥行き・段差取得部124に逐次出力する。
【0083】
接触位置判定部122は、タッチパネル100からの接触位置信号を入力する。また、アプリケーション処理部111から触覚対象画像及びオブジェクトの情報を入力する。次いで、接触位置判定部122は、これら信号及び情報に基づいて、指の接触位置106から接触対応位置107を算出する。さらに、この接触対応位置107が触覚対象画像の表示位置範囲と重畳しているか否かを判定する。次いで、この判定結果及び指の接触位置106(接触対応位置107)の情報を、奥行き・段差取得部124に逐次出力する。
【0084】
押圧力測定部123は、押圧力検出部103からの押圧力信号を入力する。次いで、この信号から指による押圧力p
cの大きさを算出し、押圧力p
c値情報を奥行き・段差取得部124に逐次出力する。
【0085】
奥行き・段差取得部124は、奥行き量割当部120、高低量割当部121、接触位置判定部122、及び押圧力測定部123からの情報信号を入力する。次いで、これら情報に基づいて、接触対応位置107が触覚対象画像の表示位置範囲と重畳する際の、この接触対応位置107に割り当てられた奥行き量Sと、この接触対応位置107に相当する当該触覚対象画像上の位置に割り当てられた高低量Mとを取得する。次いで、これら取得された奥行き量S及び高低量Mを逐次、触覚振動制御部125に出力する。
【0086】
ここで、
図4(A)〜(C)に示すような第1のオブジェクト(第1のメニュープレート104a)及び第2のオブジェクト(第2のメニュープレート104b)が表示され、接触対応位置が、第1のオブジェクトの触覚対象画像の表示位置範囲と重畳せず、且つ第2のオブジェクトの触覚対象画像(アイコン105g)の表示位置範囲と重畳する場合を考察する。この際、奥行き・段差取得部124は、第2のオブジェクトの接触対応位置107bに割り当てられた奥行き量S
2と、接触対応位置107bに相当する触覚対象画像(アイコン105g)上の位置に割り当てられた高低量M
2とを取得する。
【0087】
触覚振動制御部125は、高低量変化分算出部125a及び振動強度決定部125bを有する。高低量変化分算出部125aは、取得された高低量Mにおける指の接触位置106の移動に伴う変化分ΔMを逐次算出する。また、振動強度決定部125bは、取得された奥行き量Sと、算出された高低量変化分ΔMとに応じた振動強度Iを決定する。
【0088】
触覚振動制御部125は、次いで、決定された振動強度Iを有する触覚振動を、指に対してタッチパネル100を介して付与すべく触覚振動機構部102に指示する。また、他の実施形態として、触覚振動制御部125は、取得された奥行き量S及び高低量変化分ΔMに加えて、取得された押圧力p
c値に応じた触覚振動を指に対して付与させることも好ましい。
【0089】
表示制御部110は、アプリケーション処理部111からのアプリケーション処理情報を入力して、アプリケーションの実行に応じた画像をディスプレイ101に表示させる。アプリケーション処理部111は、さらに、表示制御部110に、(アイコン等の)触覚対象画像が貼付された(メニュープレート等の)オブジェクトを表示させる。
【0090】
図7は、本発明による触覚振動付与方法の一実施形態を示すフローチャートである。
【0091】
(S700)(アイコン等の)触覚対象画像を含む(メニュープレート等の)オブジェクトが表示される。
(S701)(触覚対象画像上を含む)オブジェクト上の各位置に奥行き量Sを割り当てる。
(S702)触覚対象画像の各位置に高低量Mを割り当てる。
【0092】
(S710)触覚振動付与ループ(ステップS710〜S722)が開始される。ここで、開始時刻tをゼロとし、指の接触位置106のサンプリング時間間隔をΔtとし、サンプリング回数(時間経過)のパラメータiの初期値をゼロとする。また、時刻t=0での高低量M
0はゼロに設定される。さらに、高低変化閾値M
thが所定値に設定される。
【0093】
(S711)パラメータiを1だけ増分する。
(S712)時刻tがΔt×iとなるまでウエイトする。
(S713)指の接触位置106を測定する。
(S714)測定された接触位置106に対応する接触対応位置107を算出する。
【0094】
(S715)接触対応位置107が(アイコン等の)触覚対象画像と重畳しているか否かを判定する。ここで、偽の判定を行った際、現時点で指は触覚対象画像に接触しておらず、触覚振動を発動しないとして、ステップS722に移行する。
(S716、S717)一方、ステップS715で真の判定を行った際、指が触覚対象画像に接触しているとして、接触対応位置107に割り当てられた奥行き量S
i及び高低量M
iを取得する。
【0095】
(S718)取得した高低量M
i及びM
i−1から、高低量変化分ΔM
i(=M
i−M
i−1)を算出する。
(S719)算出された高低量変化分ΔM
iが所定の高低変化閾値M
th以上であるか否か(ΔM
i≧M
th)を判定する。ここで、偽の判定を行った際、触覚として捉えられる程度の高低(厚み、段差、凹凸)ではなく、触覚振動を発動しないとして、ステップS722に移行する。
【0096】
(S720)一方、ステップS719で真の判定を行った際、取得・算出された奥行き量S
i及び高低量変化分ΔM
iから振動強度I
iを算出する。この算出の際、上述した式(1)I
i=C・|ΔM
i|/S
iを用いることも好ましい。
(S721)算出された振動強度I
iを有する触覚振動を指に付与する。
【0097】
(S722)触覚振動付与ループの1ループ分を終了し、ステップS710に移行して、指がタッチパネル100に接触していれば、触覚振動付与ループ(ステップS710〜S722)を繰り返す。一方、指がタッチパネル100から離隔していれば、指による操作が終了したとして、本触覚振動付与方法を完了する。
【0098】
図8は、本発明による触覚振動付与方法の他の実施形態を示すフローチャートである。
【0099】
図8に示した実施形態は、
図7に示したフローチャートのうち、ステップS719とステップS720との間に、押圧力p
c測定ステップS720a’を挿入し、さらに、ステップS720を、押圧力p
cも考慮したステップS720b’に変更したものである。
【0100】
(S720a’)指による押圧力p
cを測定する。
(S720b’)ステップS719で真の判定を行った際、取得・算出された奥行き量S
i及び高低量変化分ΔM
i、並びに測定された押圧力p
c値から振動強度I
iを算出する。この算出の際、上述した式(2)I
i=C’・p
c・|ΔM
i|/S
iを用いることも好ましい。
【0101】
このように、指による押圧力p
cを考慮した振動強度を有する触覚振動を付与することによって、実際の空間で立体物をなぞる際に指の押し込む程度によって触覚が変化するリアル感を実現することができる。
【0102】
以上、詳細に説明したように、本発明のユーザインタフェース装置、触覚振動付与方法及びプログラムによれば、画面に表示されたオブジェクト及び触覚対象画像に割り当てられた奥行き量S及び高低量Mに応じた振動強度Iを決定する。その結果、操作を行う指に対して、オブジェクト及び触覚対象画像に含まれる、奥行き及び高低といった3次元情報を付与することができる。
【0103】
尚、以上に述べた実施形態は全て、本発明を例示的に示すものであって限定的に示すものではなく、本発明は、他の種々の変形態様及び変更態様で実施することができる。従って、本発明の範囲は、特許請求の範囲及びその均等範囲によってのみ規定されるものである。