IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電信電話株式会社の特許一覧 ▶ 国立大学法人電気通信大学の特許一覧

特開2023-68248擬似触覚提示装置、擬似触覚提示方法、およびプログラム
<>
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図1
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図2
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図3
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図4
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図5
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図6
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図7
  • 特開-擬似触覚提示装置、擬似触覚提示方法、およびプログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023068248
(43)【公開日】2023-05-17
(54)【発明の名称】擬似触覚提示装置、擬似触覚提示方法、およびプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20230510BHJP
   H04R 3/00 20060101ALI20230510BHJP
【FI】
G06F3/01 560
H04R3/00 310
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021179154
(22)【出願日】2021-11-02
(71)【出願人】
【識別番号】000004226
【氏名又は名称】日本電信電話株式会社
(71)【出願人】
【識別番号】504133110
【氏名又は名称】国立大学法人電気通信大学
(74)【代理人】
【識別番号】100121706
【弁理士】
【氏名又は名称】中尾 直樹
(74)【代理人】
【識別番号】100128705
【弁理士】
【氏名又は名称】中村 幸雄
(74)【代理人】
【識別番号】100147773
【弁理士】
【氏名又は名称】義村 宗洋
(72)【発明者】
【氏名】横坂 拓巳
(72)【発明者】
【氏名】河邉 隆寛
(72)【発明者】
【氏名】金子 征太郎
(72)【発明者】
【氏名】梶本 裕之
【テーマコード(参考)】
5D220
5E555
【Fターム(参考)】
5D220AB08
5E555AA08
5E555BA01
5E555BB01
5E555BC01
5E555CA12
5E555CA18
5E555CB12
5E555CB20
5E555CB56
5E555CB58
5E555CC01
5E555DA23
5E555DA24
5E555EA14
5E555FA00
(57)【要約】
【課題】聴覚情報の周波数にかかわらず、当該聴覚情報によって擬似触覚を制御する。
【解決手段】動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する。聴覚調整情報は、操作情報が入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、操作情報が入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。ただし、聴覚調整パラメータは所望の擬似触覚に対応する。
【選択図】図1
【特許請求の範囲】
【請求項1】
動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する提示信号生成部を有し、
前記聴覚調整情報は、
前記操作情報が入力されてから前記聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、
前記操作情報が入力されてから前記聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、
前記聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、
前記聴覚情報の音量、
のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報であり、
前記聴覚調整パラメータは所望の擬似触覚に対応する、
擬似触覚提示装置。
【請求項2】
動作装置を動作させるための動作情報が出力されるときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する提示信号生成部を有し、
前記聴覚調整情報は、
前記動作情報が出力されてから前記聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、
前記動作情報が出力されてから前記聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、
前記聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、
前記聴覚情報の音量、
のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報であり、
前記聴覚調整パラメータは所望の擬似触覚に対応する、
擬似触覚提示装置。
【請求項3】
請求項1または2の擬似触覚提示装置であって、
前記聴覚調整パラメータは、前記発生遅延量または前記停止遅延量または前記継続量のうちの少なくともいずれか1つ、および、前記音量を含む、擬似触覚提示装置。
【請求項4】
請求項1から3の何れかの擬似触覚提示装置であって、
前記聴覚調整情報は、操作内容に基づく情報であり、
前記操作内容が第1操作内容のときの前記聴覚調整パラメータの値は、前記操作内容が前記第1操作内容と異なる第2操作内容のときの前記聴覚調整パラメータの値と異なる、および/または、前記操作内容が前記第1操作内容のときの前記聴覚調整パラメータの種別は、前記操作内容が前記第2操作内容のときの前記聴覚調整パラメータの種別と異なる、擬似触覚提示装置。
【請求項5】
請求項1から4の何れかの擬似触覚提示装置であって、
前記聴覚調整情報は、操作状態に基づく情報であり、
前記操作状態が第1操作状態のときの前記聴覚調整パラメータの値は、前記操作状態が前記第1操作状態と異なる第2操作状態のときの前記聴覚調整パラメータの値と異なる、および/または、前記操作状態が前記第1操作状態のときの前記聴覚調整パラメータの種別は、前記操作状態が前記第2操作状態のときの前記聴覚調整パラメータの種別と異なる、擬似触覚提示装置。
【請求項6】
請求項1から5の何れかの擬似触覚提示装置であって、
前記聴覚調整情報は、装置状態に基づく情報であり、
前記装置状態が第1状態のときの前記聴覚調整パラメータの値は、前記装置状態が前記第1状態と異なる第2状態のときの前記聴覚調整パラメータの値と異なる、および/または、前記装置状態が前記第1状態のときの前記聴覚調整パラメータの種別は、前記装置状態が前記第2状態のときの前記聴覚調整パラメータの種別と異なる、擬似触覚提示装置。
【請求項7】
請求項1から6の何れかの擬似触覚提示装置の提示信号生成部によって実行される処理ステップを有する擬似触覚提示方法。
【請求項8】
請求項1から6の何れかの擬似触覚提示装置としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、擬似的な触覚を提示する技術に関する。
【背景技術】
【0002】
カーオーディオのボタン操作を行った際に提示される操作音の周波数が異なると、操作者が感じるボタン操作の重さ感(重量感)も異なることが知られている(例えば、非特許文献1参照)。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】阪本浩二,石光俊介,荒井貴行,好美敏和,藤本裕一,川崎健一,カーオーディオ・メインユニットのボタン押し音評価に関する検討,日本感性工学会論文誌,2010,10巻,3号,p.375-385,2011.
【発明の概要】
【発明が解決しようとする課題】
【0004】
この従来手法では、異なる重さ感を知覚させるために、異なる周波数の操作音を提示しなければならなかった。しかし、提示される重さ感が操作音の周波数のみに依存する方法では、この周波数の違いを他の目的(例えば、操作ボタンの判別など)に用いることができない。このような問題は、ボタン操作時の操作音によってボタン操作の重さ感を知覚させる場合のみならず、聴覚情報によって擬似触覚を知覚させる場合に共通するものである。
【0005】
本発明はこのような点に鑑みてなされたものであり、聴覚情報の周波数にかかわらず、当該聴覚情報によって擬似触覚を制御できる技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
第1態様の擬似触覚提示装置は、動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する。ここで聴覚調整情報は、操作情報が入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、操作情報が入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。ただし、聴覚調整パラメータは所望の擬似触覚に対応する。
【0007】
第2態様の擬似触覚提示装置は、動作装置を動作させるための動作情報が出力されるときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する。ここで聴覚調整情報は、動作情報が出力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、動作情報が出力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。
【発明の効果】
【0008】
これにより、聴覚情報の周波数にかかわらず、当該聴覚情報によって擬似触覚を制御することができる。
【図面の簡単な説明】
【0009】
図1図1は、実施形態の擬似触覚提示装置の機能構成を説明するためのブロック図である。
図2図2は、実施形態の前提となる実験結果を例示するための図である。
図3図3は、実施形態の前提となる実験結果を例示するための図である。
図4図4は、実施形態の前提となる実験結果を例示するための図である。
図5図5は、実施形態の処理を説明するためのフロー図である。
図6図6は、実施形態の処理を説明するためのフロー図である。
図7図7は、実施形態の擬似触覚提示装置の機能構成を説明するためのブロック図である。
図8図8は、本実施形態の擬似触覚提示装置のハードウェア構成を例示するためのブロック図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施の形態を説明する。
[原理]
発明者は以下のような実験を行い、前提となる自然法則(生理学上の法則)を発見した。
【0011】
<実験1>
実験手順:
画面上にクリック可能なテストボタン(正方形)が表示される。被験者がテストボタンをクリックすると、このクリックから遅延時間(0,100,200,300,500msのいずれかの時間)が経過した時点で、周波数200Hzまたは400Hzの純音(テスト音)が0.5秒間提示(音響出力)される。また画面上には、テストボタンとは別の基準ボタン(正方形)も表示されている。被験者が基準ボタンをクリックすると、このクリックから200msの遅延時間が経過した時点で周波数300Hzの純音(基準音)が提示される。被験者は、テストボタンをクリックしたときに感じた重さ感を、基準ボタンをクリックしたときに感じた重さ感と比較し、以下の1-5の5段階で回答する。
1:基準ボタンの方がとても重い
2:基準ボタンの方が重い
3:基準ボタンとテストボタンの重さは同じくらい
4:テストボタンの方が重い
5:テストボタンの方がとても重い
【0012】
実験結果:
図2に実験1の実験結果を例示する。図2の横軸は遅延時間(delay)を表し、縦軸は回答結果の平均値(ansAve)を表す。実線のグラフは周波数200Hzのテスト音が提示された際の結果を表し、破線のグラフは周波数400Hzのテスト音が提示された際の結果を表す。図2に例示するように、いずれの周波数のテスト音が提示された場合でも、遅延時間が長いほど、被験者が知覚する重さ感が有意に増加することが分かる。また、周波数200Hzのテスト音が提示された場合の方が、周波数400Hzのテスト音が提示された場合よりも重さ感が増加したことが分かる。この結果より、クリック操作が行われてからテスト音の提示を開始するまでの遅延時間が長いほど、テスト音の周波数が低いほど、被験者が知覚する重さ感が大きくなることが分かる。
【0013】
<実験2>
実験手順:実験1では、被験者がテストボタンをクリックすると、このクリックから遅延時間が経過した時点で、テスト音が提示された。これに対し、実験2では、最初から周波数200Hzまたは400Hzの純音(テスト音)が提示されており、被験者がテストボタンをクリックすると、このクリックから遅延時間(0,100,200,300,500msのいずれかの時間)が経過した時点で、テスト音の提示を停止(終了)する。その他は実験1と同じである。
【0014】
実験結果:
図3に実験2の実験結果を例示する。図3の横軸は遅延時間(delay)を表し、縦軸は回答結果の平均値(ansAve)を表す。実線のグラフは周波数200Hzのテスト音が提示された際の結果を表し、破線のグラフは周波数400Hzのテスト音が提示された際の結果を表す。図3に例示するように、いずれの周波数のテスト音が提示された場合でも、遅延時間が長いほど、被験者が知覚する重さ感が有意に増加することが分かる。また、周波数200Hzのテスト音が提示された場合の方が、周波数400Hzのテスト音が提示された場合よりも重さ感が増加したことが分かる。この結果より、クリック操作が行われてからテスト音が停止するまでの遅延時間が長いほど、テスト音の周波数が低いほど、被験者が知覚する重さ感が大きくなることが分かる。
【0015】
<実験3>
実験1では、200Hzまたは400Hzのテスト音を提示し、周波数300Hzの基準音を提示した。これに対し、実験3では、周波数200Hzのテスト音に代えて大きな音圧(大きな音量)の純音(テスト音)を提示し、周波数400Hzのテスト音に代えて小さな音圧(小さな音量)の純音(テスト音)を提示し、周波数300Hzの基準音に代えて中程度の音圧(中程度の音量)の純音(基準音)を提示する。なお、中程度の音圧の大きさは、小さな音圧よりも大きく、大きな音圧よりも小さい。その他は実験1と同じである。
【0016】
実験結果:
図4に実験3の実験結果を例示する。図4の横軸は遅延時間(delay)を表し、縦軸は回答結果の平均値(ansAve)を表す。実線のグラフは大きな音圧のテスト音が提示された際の結果を表し、破線のグラフは小さな音圧のテスト音が提示された際の結果を表す。図4に例示するように、いずれの大きさのテスト音が提示された場合でも、遅延時間が長いほど、被験者が知覚する重さ感が有意に増加することが分かる。また、大きな音圧のテスト音が提示された場合の方が、小さな音圧のテスト音が提示された場合よりも重さ感が増加したことが分かる。この結果より、クリック操作が行われてからテスト音が停止するまでの遅延時間が長いほど、テスト音の音圧が大きいほど、被験者が知覚する重さ感が大きくなることが分かる。
【0017】
<考察>
以上のように、テスト音の周波数にかかわらず、クリック操作が行われてからテスト音の提示を開始するまでの遅延時間が長いほど、被験者が知覚する重さ感が大きくなる。また、テスト音の周波数にかかわらず、クリック操作が行われてからテスト音が停止するまでの遅延時間が長いほど、被験者が知覚する重さ感が大きくなる。さらに、テスト音の周波数にかかわらず、テスト音の音圧が大きいほど、被験者が知覚する重さ感が大きくなる。このような自然法則(生理学上の法則)はこれまで知られていなかったものである。なお、この実験では、正方形のテストボタンがクリックされてから遅延時間経過後にテスト音の提示を開始したり、テスト音の提示を停止したりした。しかしながら、この自然法則は、何等かの被験者の動作に基づく操作が行われてから遅延時間経過後にテスト音の提示を開始したり、テスト音の提示を停止したりする場合に、一般的に成り立つ。被験者の動作に基づく操作は、被験者の身体部位の動作に基づく操作であればよく、被験者の身体部位が物体に接触した状態で行う操作であってもよいし、物体に接触しない状態で行う操作であってもよい。ただし、被験者の身体部位が物体に接触した状態で行う操作の場合、より明確な効果が期待できる。また、この自然法則は、被験者の動作に基づく操作が行われてから第1遅延時間が経過した時点でテスト音の提示を開始し、被験者の動作に基づく操作が行われてから第2遅延時間(ただし、第2遅延時間は第1遅延時間よりも長い)が経過した時点でテスト音の提示を停止する場合にも成り立ち、第1遅延時間および第2遅延時間が長いほど、被験者が知覚する重さ感が大きくなる。さらには、テスト音の提示を開始してから終了するまでの時間によって被験者が知覚する重さ感を制御することも可能であり、テスト音の提示を開始してから終了するまでの時間が長いほど、被験者が知覚する重さ感が大きくなると期待できる。また、このような自然法則は、テスト音が純音以外の聴覚情報(音響情報)、例えば、自然音、音楽、音声、アラーム音、ノイズ音、機械音などの純音以外の音の場合にも、一般的に成り立つ。また、被験者が知覚する重さ感は、抵抗感と知覚されるかもしれないし、硬さ感と知覚されるかもしれない。より一般的に、上述のように被験者に知覚される感覚は擬似触覚と表現できる。すなわち、操作情報が入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、操作情報が入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、の少なくともいずれかを制御することで、被験者に所望の擬似触覚を知覚させることができる。つまり、発生遅延量または停止遅延量または継続量または音量が大きいほど、被験者が知覚する重さ感などの擬似触覚が大きくなる。
【0018】
また、このような自然法則は、被験者以外の人間や動物の身体部位の動作に基づく操作が行われた際に、その様子を被験者が見ており、当該被験者にテスト音を提示する場合にも成り立つ。すなわち、発生遅延量または停止遅延量または継続量または音量の少なくともいずれかを制御することで、被験者に所望の擬似触覚を知覚させることができる。つまり、発生遅延量または停止遅延量または継続量または音量が大きいほど、被験者が知覚する重さ感などの擬似触覚が大きくなることが期待できる。
【0019】
さらには、このような自然法則は、被験者以外のロボット等の動作装置の動作に基づく操作が行われた際に、その様子を被験者が見ており、当該被験者にテスト音を提示する場合にも成り立つ。更にこの場合には、動作装置の動作に基づく操作が行われたことを契機にすることに代え、当該動作装置を動作させるための動作情報が出力されたことを契機にした場合にも、このような自然法則が成り立つ。ただし、この場合の発生遅延量は、動作情報が出力されてから聴覚情報の提示を開始するまでの時間に対応し、停止遅延量は、動作情報が出力されてから聴覚情報の提示を開始するまでの時間に対応する。
【0020】
またさらに、このような自然法則は、発生遅延量、停止遅延量、継続量、および音量のうち、何れか複数の組み合わせを制御する場合にも成り立つ。すなわち、発生遅延量、停止遅延量、継続量、および音量のうち、何れか複数の組み合わせを制御することで、被験者が知覚する擬似触覚の大きさを制御できる。さらに前述のように、このような自然法則は、発生遅延量、停止遅延量、継続量、および音量の少なくとも何れかに加え、提示されるテスト音の周波数を制御する場合にも成り立つ。すなわち、発生遅延量、停止遅延量、継続量、および音量の少なくとも何れかとテスト音の周波数との組み合わせを制御することでも、被験者が知覚する擬似触覚の大きさを制御できる。
【0021】
<自然法則の利用>
各実施形態では、擬似触覚提示装置が、動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する。ただし、聴覚調整情報は、操作情報が入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量(以下、単に「発生遅延量」という場合がある)、または、操作情報が入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量(以下、単に「停止遅延量」という場合がある)、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量(以下、単に「継続量」という場合がある)、または、聴覚情報の音量(以下、単に「音量」という場合がある)、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。或いは、擬似触覚提示装置が、動作装置を動作させるための動作情報が出力されるときに、聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成する。ただし、聴覚調整情報は、動作情報が出力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量(以下、単に「発生遅延量」という場合がある)、または、動作情報が出力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量(以下、単に「停止遅延量」という場合がある)、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。ただし、聴覚調整パラメータは所望の擬似触覚に対応する。これは新たに発見された上述の自然法則に基づくものであり、このような発見がなければ擬似触覚に提示のために利用されない情報である。このような提示信号に基づく聴覚情報が利用者に提示されることにより、聴覚情報の周波数にかかわらず、当該音響信号によって知覚される擬似触覚を制御することができる。以下、各実施形態を詳細に説明する。
【0022】
[第1実施形態]
本発明の第1実施形態を説明する。
<構成>
図1に例示するように、本実施形態の擬似触覚提示装置1は、聴覚調整情報生成部11、提示信号生成部12、出力部13、入力部14、操作検出部15、聴覚調整情報生成部17、制御部18、および記憶部19を有し、制御部18の制御に基づいて各処理を実行する。擬似触覚提示装置1への入力情報および各部で得られた情報は記憶部19に格納され、必要に応じて読み出されて使用される。擬似触覚提示装置1のハードウェア構成については後述する。
【0023】
擬似触覚提示装置1の入力部14には、有線または無線で操作装置101が接続されている。操作装置101は、利用者100の身体部位の動作に基づく操作を検知する装置である。例えば、利用者100の身体部位が物体に接触した状態で行われる操作を検知する装置を操作装置101として用いることができる。本実施形態では、説明の簡略化のため、操作装置101が利用者100の指で押し込み操作される物理キー(例えば、キーボードのキー)である場合を例にとって説明する。しかし、これは一例であって、利用者100の身体部位(例えば、手、指、足、頭部、顔、眼など)の動作に基づく操作を検知するものであれば、どのような装置を操作装置101として用いてもよい。
【0024】
また、擬似触覚提示装置1の出力部13には、有線または無線で聴覚情報提示装置102が接続されている。聴覚情報提示装置102は、聴覚情報を提示する装置である。「聴覚情報」はヒトの聴覚で捉えられる音響情報であればどのようなものであってもよい。本実施形態では、説明の簡略化のため、聴覚情報が純音であり、聴覚情報提示装置102が当該純音を放出(提示)するスピーカーである場合を例示する。しかし、これは一例であって、聴覚情報を提示する装置であれば、どのような装置を聴覚情報提示装置102として用いてもよい。
【0025】
<処理>
次に、図1及び図5を用いて第1実施形態の処理を説明する。
擬似触覚提示装置1の聴覚調整情報生成部11は、初期の聴覚情報(初期聴覚情報)を表す情報V0を生成する。初期聴覚情報はどのようなものであってもよい。例えば、可聴領域に属する予め定められた周波数および音量の純音が初期聴覚情報とされる。初期聴覚情報を表す情報V0は提示信号生成部12に送られる(ステップS11)。
【0026】
利用者100は、任意のタイミングで操作装置101に対する操作(身体部位の動作に基づく操作)を行う。前述のように、本実施形態で例示する操作装置101は物理キーであり、利用者100は指で操作装置101への操作(本実施形態の例では押し込み操作)を行うことができる。操作装置101に対する操作が行われると、操作装置101は当該操作があったことを表す操作情報(身体部位の動作に基づく操作情報)Oinを出力する。操作装置101から出力された操作情報Oinは、擬似触覚提示装置1の入力部14に入力され、操作検出部15に送られる。操作検出部15は、操作情報Oinの入力の有無を監視している。操作情報Oinが入力されていないと判断された場合、操作検出部15は操作情報Oinの入力の有無の監視を継続する。一方、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを聴覚調整情報生成部17に送る(ステップS15)。
【0027】
トリガー信号Tが入力された聴覚調整情報生成部17は、聴覚調整情報Aを生成する。聴覚調整情報Aは、これまで知られていなかった自然法則に基づくものであり、(1)操作情報Oinが入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、または、(2)操作情報Oinが入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、(3)聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、(4)聴覚情報の音量(音圧)、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。ただし、聴覚調整パラメータは所望の擬似触覚に対応する。
【0028】
(1)発生遅延量の具体例は以下の通りである。
・操作情報Oinが入力部14、操作検出部15、聴覚調整情報生成部17の何れかに入力されてから、聴覚情報の提示が開始されるまでの時間Ds1
・時間Ds1を特定可能な情報
発生遅延量の大きさに制限はないが、例えば、0-2000[ms]の間の何れかの時間Ds1、または当該時間Ds1を特定可能な情報を発生遅延量とすればよい。Ds1=αであり、Ds1=βであり、α>βの場合、Ds1=αのときに知覚される擬似触覚(例えば、重量感)の大きさは、Ds1=βのときに知覚される擬似触覚の大きさよりも大きい。例えば、時間Ds1が長いほど大きな擬似触覚を提示できる。
【0029】
(2)停止遅延量の具体例は以下の通りである。
・操作情報Oinが入力部14、操作検出部15、聴覚調整情報生成部17の何れかに入力されてから、聴覚情報の提示を終了するまでの時間De1
・時間De1を特定可能な情報
停止遅延量の大きさに制限はないが、例えば、0-2000[ms]の間の何れかの時間De1、または当該時間De1を特定可能な情報を停止遅延量とすればよい。ただし、Ds1<De1の関係を満たす。De1=αであり、De1=βであり、α>βの場合、De1=αのときに知覚される擬似触覚の大きさは、De1=βのときに知覚される擬似触覚の大きさよりも大きい。例えば、時間De1が長いほど大きな擬似触覚を提示できる。
【0030】
(3)継続量の具体例は以下の通りである。
・聴覚情報の提示を開始してから終了するまでの時間Du1
・時間Du1を特定可能な情報
継続量の大きさに制限はないが、例えば、10-2000[ms]の間の何れかの時間Du1、または当該時間Du1を特定可能な情報を継続量とすればよい。Du1=αであり、Du1=βであり、α>βの場合、Du1=αのときに知覚される擬似触覚(例えば、重量感)の大きさは、Du1=βのときに知覚される擬似触覚の大きさよりも大きい。例えば、時間Du1が長いほど大きな擬似触覚を提示できる。
【0031】
(4)聴覚情報の音量の具体例は以下の通りである。
・一定の音量Am1
・聴覚情報の提示を開始してから終了するまで間に時間経過とともに段階的に大きくなる音量Am2
・聴覚情報の提示を開始してから終了するまで間に時間経過とともに段階的に小さくなる音量Am3
・聴覚情報の提示を開始してから終了するまで間に時間経過とともに段階的に大きくなってから小さくなる音量Am4
・聴覚情報の提示を開始してから終了するまで間に時間経過とともに段階的に小さくなってから大きくなる音量Am5
・聴覚情報の提示を開始してから終了するまで間に所定の速度で大きさが変化する(例えば、所定の速度で大きくなるか、所定の速度で小さくなるか、所定の速度で大きくなってから小さくなるか、所定の速度で小さくなってから大きくなる)音量Am6
・聴覚情報の提示を開始してから終了するまで間に選択された速度で大きさが変化する(例えば、選択された速度で大きくなるか、選択された速度で小さくなるか、選択された速度で大きくなってから小さくなるか、選択された速度で小さくなってから大きくなる)音量Am7
・聴覚情報の提示を開始してから終了するまで間に大きさが不連続に変化する(例えば、不連続に大きくなるか、不連続に小さくなるか、不連続に大きくなってから小さくなるか、不連続に小さくなってから大きくなる)音量Am8
・聴覚情報の提示を開始してから終了するまで間に時間経過とともに特定の周波数成分の大きさのみが変化する音量(特定の周波数成分の大きさの変化の仕方は、例えば上述の具体例の何れかである)Am9
α>βの場合、音量がαのときに知覚される擬似触覚の大きさは、音量がβのときに知覚される擬似触覚の大きさよりも大きい。例えば、音量が長いほど大きな擬似触覚を提示できる。
【0032】
聴覚調整情報Aは、提示信号生成部12が(1)発生遅延量または(2)停止遅延量または(3)継続量または(4)聴覚情報の音量のうちの少なくともいずれか1つである聴覚調整パラメータを一意に特定できる情報である。このような情報である限り、どのような情報を聴覚調整情報Aとしてもよい。例えば、提示信号生成部12が(1)発生遅延量として予め定めた一定値を用いないのであれば、聴覚調整情報Aは少なくとも(1)発生遅延量を含めばよい。その他、いずれの場合おいても、聴覚調整情報Aが、聴覚情報の音量が時間経過とともにどのように変化するかを表す情報を含んでもよいし、聴覚情報のどの周波数成分の音量が時間経過とともに変化するかを表す情報を含んでもよい。聴覚調整情報生成部17は、聴覚調整情報Aを提示信号生成部12に送る(ステップS172)。
【0033】
聴覚調整情報Aが入力された提示信号生成部12は、入力された聴覚調整情報Aおよび初期聴覚情報を表す情報V0を用い、聴覚調整情報Aによって特定される聴覚情報(聴覚調整情報に基づく聴覚情報)を提示(出力)するための提示信号Vtを生成する。例えば、提示信号生成部12は、聴覚調整情報Aに基づき、情報V0が表す初期聴覚情報の提示開始時間、停止時間、継続時間、または音量の少なくとも何れかを調整した聴覚情報を提示するための提示信号Vtを生成する。聴覚情報の提示開始時間、停止時間、継続時間、および音量は、聴覚調整情報Aに基づいて一意に定まる。聴覚情報の提示開始時間、停止時間、継続時間、または音量のうち聴覚調整情報Aに基づいて定まらないものは、予め定められていてもよいし、入力に基づいて定められてもよいし、ランダムに定められてもよい。生成された提示信号Vtは、出力部13から聴覚情報提示装置102に送られ、聴覚情報提示装置102は、この提示信号Vtに従って各時刻tでの聴覚情報を利用者100に提示する(聴覚情報を利用者100に聞かせる)(ステップS122)。
【0034】
<第1実施形態の特徴>
本実施形態の擬似触覚提示装置1は、動作に基づく操作情報Oinが入力されたときに、聴覚調整情報Aに基づく聴覚情報を提示するための提示信号Vtを生成して出力する。ここで、聴覚調整情報Aは、操作情報Oinが入力されてから聴覚情報の提示を開始するまでの時間に対応する発生遅延量、操作情報Oinが入力されてから聴覚情報の提示を終了するまでの時間に対応する停止遅延量、または、聴覚情報の提示を開始してから終了するまでの時間に対応する継続量、または、聴覚情報の音量、のうちの少なくともいずれか1つである聴覚調整パラメータを制御するための情報である。ただし、聴覚調整パラメータは所望の擬似触覚に対応する。このような提示信号Vtに従って各時刻tでの聴覚情報を利用者100に提示することにより、利用者100(ヒト)の身体部位(例えば、指などの操作を行った身体部位)に重さ感などの所望の擬似触覚を知覚させることができる。これらの原理は前述の自然法則の発見に基づく。前述のように、このような擬似触覚の大きさは、発生遅延量、停止遅延量、継続量、および聴覚情報の音量によって異なる。そのため、聴覚調整パラメータを制御することで、擬似触覚の大きさ(例えば、重さ感の大きさや硬さ感の大きさなど)を変化させることができる。このように、聴覚情報の周波数にかかわらず、当該聴覚情報によって擬似触覚を制御することができる。
【0035】
聴覚調整パラメータが、発生遅延量または停止遅延量または継続量のうちの少なくともいずれか1つおよび聴覚情報の音量を含み、発生遅延量または停止遅延量または継続量のうちの少なくともいずれか1つと聴覚情報の音量との両方を制御することにより、知覚される擬似触覚の明確性を向上させたり、提示する擬似力覚の制御自由度を向上させたりできる。
【0036】
なお、身体部位が物体に接触した状態で行う操作の場合、より明確に擬似触覚を知覚させることができる。そのため、操作装置101は、身体部位が物体に接触した状態で行う操作を受け付け、それに基づく操作情報を出力する装置であることが望ましい。
【0037】
[第1実施形態の変形例1]
第1実施形態では、操作装置101への操作が行われた後に聴覚情報が提示された(ステップS122)。しかし、操作装置101への操作が行われる前に初期聴覚情報が提示され、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい。以降、これまで説明した事項との相違点を中心に説明し、説明済みの事項については同じ参照番号を流用して説明を簡略化する。
【0038】
<構成>
第1実施形態と同じである。
【0039】
<処理>
図5を用いて本変形例の処理を説明する。
前述したステップS11の処理の後、提示信号生成部12は、初期聴覚情報を表す情報V0を用い、初期聴覚情報を表す情報V0によって特定される初期聴覚情報を提示(出力)するための初期提示信号V0を生成する。初期提示信号V0は聴覚情報提示装置102に送られ、聴覚情報提示装置102は、この初期提示信号V0に従って初期聴覚情報を利用者100に提示する(初期聴覚情報を利用者100に聞かせる)。なお、ステップS122で提示信号Vtに基づく聴覚情報(聴覚調整情報Aに基づく聴覚情報)の提示が開始されるまで、聴覚情報提示装置102による初期聴覚情報の提示が継続される(ステップS121)。
【0040】
その後、ステップS15の処理が行われ、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを聴覚調整情報生成部17に送る(ステップS15)。
【0041】
トリガー信号Tが入力された聴覚調整情報生成部17は、聴覚調整情報Aを生成する。聴覚調整情報Aは提示信号生成部12に送られる(ステップS172)。
【0042】
聴覚調整情報Aが入力された提示信号生成部12は、入力された聴覚調整情報Aおよび初期聴覚情報を表す情報V0を用い、聴覚調整情報Aによって特定される聴覚情報(聴覚調整情報に基づく聴覚情報)を提示(出力)するための提示信号Vtを生成する。提示信号Vtは聴覚情報提示装置102に送られ、聴覚情報提示装置102は、この提示信号Vtに従って各時刻tでの聴覚情報を利用者100に提示する(ステップS122)。
【0043】
<第1実施形態の変形例1の特徴>
このようにしても第1実施形態と同様な効果を得ることができる。
【0044】
[第1実施形態の変形例2]
第1実施形態では、擬似触覚提示装置に操作情報が入力された後に、聴覚調整情報を生成し(ステップS172)、当該聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成して出力した(ステップS122)。しかしながら、これは本発明を限定するものではなく、その他の処理順序で本発明が実施されてもよい。例えば、擬似触覚提示装置に操作情報が入力される前に、聴覚調整情報を生成し、当該聴覚調整情報に基づく聴覚情報を提示するための提示信号を生成しておいてもよい。
【0045】
<構成>
第1実施形態と同じである。
【0046】
<処理>
図6を用いて、本変形例の処理を説明する。擬似触覚提示装置1の聴覚調整情報生成部11は、初期聴覚情報を表す情報V0を生成する。初期聴覚情報を表す情報V0は提示信号生成部12に送られる(ステップS11)。
【0047】
聴覚調整情報生成部17は、聴覚調整情報Aを生成する。聴覚調整情報生成部17は、聴覚調整情報Aを提示信号生成部12に送る(ステップS172’)。
【0048】
提示信号生成部12は、入力された初期聴覚情報を表す情報V0および聴覚調整情報Aを用い、聴覚調整情報Aによって特定される聴覚情報(聴覚調整情報に基づく聴覚情報)を提示(出力)するための提示信号Vtを生成する(ステップS12)。
【0049】
利用者100は、任意のタイミングで操作装置101に対する操作(身体部位の動作に基づく操作)を行う。操作装置101に対する操作が行われると、操作装置101は当該操作があったことを表す操作情報(身体部位の動作に基づく操作情報)Oinを出力する。操作検出部15は、操作情報Oinの入力の有無を監視している。操作情報Oinが入力されていないと判断された場合、操作検出部15は操作情報Oinの入力の有無の監視を継続する。一方、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを提示信号生成部12に送る(ステップS15’)。
【0050】
トリガー信号Tが入力された提示信号生成部12は、聴覚情報を提示するための提示信号Vtを出力部13に送り、出力部13はこれを聴覚情報提示装置102に送る。聴覚情報提示装置102は、この提示信号Vtに従って各時刻tでの聴覚情報を提示する(ステップS122’)。
【0051】
<第1実施形態の変形例2の特徴>
このようにしても第1実施形態と同様な効果を得ることができる。
【0052】
[第1実施形態の変形例3]
第1実施形態の変形例2では、操作装置101への操作が行われた後に聴覚情報が提示された(ステップS122’)。しかし、操作装置101への操作が行われる前に、聴覚調整情報Aが生成され、初期聴覚情報が提示され、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい。
<構成>
第1実施形態と同じである。
【0053】
<処理>
図6を用いて、本変形例の処理を説明する。第1実施形態の変形例2で説明したステップS11,S172’,S12の処理の後、第1実施形態の変形例1で説明したステップS121の処理が実行される。その後、ステップS15’の処理が行われ、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを提示信号生成部12に送る(ステップS15’)。トリガー信号Tが入力された提示信号生成部12は、聴覚情報を提示するための提示信号Vtを出力部13に送り、出力部13はこれを聴覚情報提示装置102に送る。聴覚情報提示装置102は、この提示信号Vtに従って各時刻tでの聴覚情報を提示する(ステップS122’)。
【0054】
<第1実施形態の変形例3の特徴>
このようにしても第1実施形態と同様な効果を得ることができる。
【0055】
[第2実施形態]
本実施形態は第1実施形態の変形例であり、操作内容に基づく聴覚調整情報を用いて聴覚情報を生成する点が第1実施形態と相違する。
【0056】
<構成>
図1に例示するように、本実施形態の擬似触覚提示装置2は、聴覚調整情報生成部11、提示信号生成部12、出力部13、入力部14、操作検出部15、聴覚調整情報生成部27、制御部18、および記憶部19を有し、制御部18の制御に基づいて各処理を実行する。擬似触覚提示装置2のハードウェア構成については後述する。擬似触覚提示装置2の入力部14には、有線または無線で操作装置101が接続されている。擬似触覚提示装置2の出力部13には、有線または無線で聴覚情報提示装置102が接続されている。前述のように、操作装置101および聴覚情報提示装置102はどのようなものであってもよい。
【0057】
<処理>
本実施形態では、前処理として、複数の操作内容と、当該操作内容のそれぞれに対応する聴覚調整情報と、を対応付けた対応付け情報(例えば、テーブル)を記憶部19に格納しておく。対応付け情報に格納される操作内容は、操作装置101に対して行われる身体部位の動作に基づく操作内容であってもよいし、図示していない操作装置101以外の操作装置(第2操作装置)に対して行われる身体部位の動作に基づく操作内容であってもよい。本実施形態では、説明の簡略化のため、操作装置101に対して行われる身体部位の動作に基づく操作内容を記憶部19に格納しておく例を説明する。しかし、これは本発明を限定するものではない。
【0058】
記憶部19に格納しておく複数の操作内容はどのようなものであってもよい。例えば、操作装置101に対する操作時間の長さおよび/または操作回数が異なる複数の操作内容を記憶部19に格納しておいてもよい。例えば、操作装置101が物理キーである場合、「1回だけ短時間行われる押し下げ操作」「2回続けて行われる短時間の押し下げ操作」「長時間行われる押し下げ操作」などの操作内容を記憶しておく。ただし、これは本発明を限定するものではない。
【0059】
複数の操作内容のそれぞれに対応付けられる聴覚調整情報は、どのようなものであってもよい。ただし、複数の操作内容それぞれに対応付けられる聴覚調整情報はすべてが同一ではなく、少なくとも何れかの聴覚調整情報は互いに相違している。
【0060】
例えば、異なる操作内容のそれぞれに同じ聴覚調整パラメータ(例えば、発生遅延量)の異なる値が対応付けられてもよい。例えば、同じ聴覚調整パラメータ(例えば、発生遅延量)について、ある操作内容(第1操作内容)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値が、その他の操作内容(第1操作内容と異なる第2操作内容)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値と異なっていてもよい。
【0061】
また、例えば、異なる操作内容のそれぞれに異なる種別の聴覚調整パラメータ(例えば、発生遅延量と停止遅延量)が対応付けられてもよい。例えば、ある操作内容(第1操作内容)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、発生遅延量)が、その他の操作内容(第1操作内容と異なる第2操作内容)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、停止遅延量)と異なっていてもよい。
【0062】
また、操作内容と、当該操作内容に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに、相関があってもよい。例えば、操作装置101に対する操作時間が長い操作内容ほど、大きな擬似触覚(大きな、重さ感)に対応する聴覚調整情報が対応付けられてもよい。例えば、操作装置101に対する操作時間が長い操作内容ほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよい。その他、操作回数が異なる複数の操作内容を記憶部19に格納しておく場合、操作装置101に対する操作回数が多いほど、大きな擬似触覚に対応する聴覚調整情報が対応付けられてもよい。例えば、操作装置101に対する操作回数が多いほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよい。
【0063】
また、操作装置101に対して身体部位の動作に基づく操作が行われると、その操作内容を表す操作情報Oが操作装置101から出力される。そのような操作情報Oのうち特定の操作内容(例えば、長時間行われる押し下げ操作)を表す操作情報のみを前述の操作情報Oin(身体部位の動作に基づく操作情報)として扱う。この特定の操作内容は、記憶部19の対応付け情報に格納しておく複数の操作内容の何れかであってもよいし、それ以外であってもよい。
【0064】
以上の前提のもと、図1および図6を用いて第2実施形態の処理を説明する。
利用者100が身体部位を用いて操作装置101に対する操作を行うと、その操作内容を表す操作情報Oが入力部14に送られ、さらに操作検出部15に送られる。操作検出部15は、入力された操作情報Oを聴覚調整情報生成部27に送る(ステップS261)。
【0065】
その後、聴覚調整情報生成部11が第1実施形態で説明したステップS11の処理を実行する。
【0066】
聴覚調整情報生成部27には操作情報Oが入力される。聴覚調整情報生成部27は、記憶部19の対応付け情報を参照し、操作情報Oが表す操作内容(例えば、1回だけ短時間行われる押し下げ操作)に対応付けられた聴覚調整情報を抽出し、これを聴覚調整情報Aとして提示信号生成部12に送る(ステップS272’)。
【0067】
それ以降のステップS12,S15’,S122’の処理は第1実施形態の変形例2で説明した通りである。
【0068】
<第2実施形態の特徴>
このようにしても第1実施形態と同じ効果を得ることができる。さらに、操作内容に基づく聴覚調整情報を用いて聴覚情報を生成することで、操作内容に応じた疑似触覚を提示することができる。
【0069】
例えば、記憶部19の対応付け情報において、異なる操作内容のそれぞれに同じ聴覚調整パラメータの異なる値が対応付けておいた場合、操作内容が第1操作内容のときの聴覚調整パラメータの値を、操作内容が第1操作内容と異なる第2操作内容のときの聴覚調整パラメータの値と相違させることができる。これにより、操作内容が第1操作内容であるか第2操作内容によって、異なる疑似触覚を提示することができる。
【0070】
例えば、記憶部19の対応付け情報において、異なる操作内容のそれぞれに異なる種別の聴覚調整パラメータを対応付けておいた場合、操作内容が第1操作内容のときの聴覚調整パラメータの種別を、操作内容が第1操作内容と異なる第2操作内容のときの聴覚調整パラメータの種別と異ならせることができる。これにより、操作内容が第1操作内容であるか第2操作内容によって、異なる疑似触覚を提示することができる。
【0071】
また、記憶部19の対応付け情報における、操作内容と、当該操作内容に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに相関がある場合、操作内容に相関のある擬似触覚を提示することができる。
【0072】
[第2実施形態の変形例1]
記憶部19の対応付け情報に格納される操作内容が、図示していない操作装置101以外の第2操作装置に対して行われる身体部位の動作に基づく操作内容の場合、第2操作装置に対して身体部位の動作に基づく操作が行われると、その操作内容を表す操作情報Oが第2操作装置から出力される。また、操作装置101に対して身体部位の動作に基づく操作が行われると、その操作内容を表す操作情報Oinが操作装置101から出力される。操作情報Oおよび操作情報Oinはそれぞれ入力部14に送られ、さらに操作検出部15に送られる。それ以外の処理は第2実施形態と同じである。
【0073】
[第2実施形態の変形例2]
第2実施形態または第2実施形態の変形例1において、図6に示すように、操作装置101への操作が行われる前に、聴覚調整情報Aが生成され(ステップS272’)、初期聴覚情報が提示され(ステップS121)、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122’)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0074】
[第3実施形態]
本実施形態は第1実施形態の変形例であり、操作状態に基づく聴覚調整情報を用いて聴覚情報を生成する点が第1実施形態と相違する。
【0075】
<構成>
図1に例示するように、本実施形態の擬似触覚提示装置3は、聴覚調整情報生成部11、提示信号生成部12、出力部13、入力部14、操作検出部15、状態検出部36、聴覚調整情報生成部37、制御部18、および記憶部19を有し、制御部18の制御に基づいて各処理を実行する。擬似触覚提示装置3のハードウェア構成については後述する。擬似触覚提示装置3の入力部14には、有線または無線で操作装置101が接続されている。擬似触覚提示装置3の出力部13には、有線または無線で聴覚情報提示装置102が接続されている。前述のように、操作装置101および聴覚情報提示装置102はどのようなものであってもよいが、本実施形態では、操作装置101がタッチパネルである場合を例示する。
【0076】
<処理>
本実施形態では、前処理として、複数の操作状態と、当該操作状態のそれぞれに対応する聴覚調整情報と、を対応付けた対応付け情報(例えば、テーブル)を記憶部19に格納しておく。対応付け情報に格納される操作状態は、操作装置101に対して行われる身体部位の動作に基づく操作状態であってもよいし、図示していない操作装置101以外の操作装置(第2操作装置)に対して行われる身体部位の動作に基づく操作状態であってもよい。本実施形態では、説明の簡略化のため、操作装置101に対して行われる身体部位の動作に基づく操作状態を記憶部19に格納しておく例を説明する。しかし、これは本発明を限定するものではない。
【0077】
記憶部19に格納しておく複数の操作状態はどのようなものであってもよい。例えば、操作装置101に対する操作の速さおよび/または強さが異なる複数の操作状態を記憶部19に格納しておいてもよい。例えば、操作装置101がタッチパネルである場合、「ゆっくりとした操作状態」「素早い操作状態」「強い力の操作状態」「弱い力の操作状態」などの操作状態を記憶しておく。ただし、これは本発明を限定するものではない。
【0078】
複数の操作内容のそれぞれに対応付けられる聴覚調整情報は、どのようなものであってもよい。ただし、複数の操作内容それぞれに対応付けられる聴覚調整情報はすべてが同一ではなく、少なくとも何れかの聴覚調整情報は互いに相違している。
【0079】
例えば、異なる操作状態のそれぞれに同じ聴覚調整パラメータ(例えば、発生遅延量)の異なる値が対応付けられてもよい。例えば、同じ聴覚調整パラメータ(例えば、発生遅延量)について、ある操作状態(第1操作状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値が、その他の操作状態(第1操作状態と異なる第2操作状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値と異なっていてもよい。
【0080】
また、例えば、異なる操作状態のそれぞれに異なる聴覚調整パラメータ(例えば、発生遅延量と停止遅延量)が対応付けられてもよい。例えば、ある操作状態(第1操作状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、発生遅延量)が、その他の操作状態(第1操作状態と異なる第2操作状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、停止遅延量)と異なっていてもよい。
【0081】
また、操作状態と、当該操作状態に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに、相関があってもよい。例えば、ゆっくりとした操作状態であるほど、大きな擬似触覚(大きな、重さ感)に対応する聴覚調整情報が対応付けられてもよい。例えば、ゆっくりとした操作状態であるほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよい。その他、強い力の操作状態であるほど、大きな擬似触覚に対応する聴覚調整情報が対応付けられてもよい。例えば、強い力の操作状態であるほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよい。
【0082】
また、操作装置101に対して身体部位の動作に基づく操作が行われると、その操作内容および操作状態を表す操作情報Oが操作装置101から出力される。そのような操作情報Oのうち特定の操作内容(例えば、長押し)を表す操作情報のみを前述の操作情報Oin(身体部位の動作に基づく操作情報)として扱う。
【0083】
以上の前提のもと、図1および図5を用いて第3実施形態の処理を説明する。
まず、第1実施形態で説明したステップS11の処理の後、ステップS15の処理が行われる。ただし、本実施形態で例示する操作装置101は物理キーであり、利用者100は指で操作装置101への操作(本実施形態の例ではタッチ操作)を行うことができる。操作装置101に対して身体部位の動作に基づく操作が行われると、その操作内容および操作状態を表す操作情報Oが操作装置101から出力される。操作装置101から出力された操作情報Oは、擬似触覚提示装置1の入力部14に入力され、操作検出部15に送られる。操作情報Oin(特定の操作内容を表す操作情報O)の入力の有無を監視している。ステップS15において、操作情報Oinが入力されていないと判断された場合、操作検出部15は操作情報Oinの入力の有無の監視を継続する。一方、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを聴覚調整情報生成部37に送り、操作情報Oを状態検出部36に送る。
【0084】
操作情報Oが入力された状態検出部36は、操作情報Oが表す操作状態を抽出し、当該操作状態を表す情報Cを聴覚調整情報生成部37に送る(ステップS361)。
【0085】
聴覚調整情報生成部37は、記憶部19の対応付け情報を参照し、入力された情報Cが表す操作状態(例えば、ゆっくりとした操作状態)に対応付けられた聴覚調整情報を抽出し、これを聴覚調整情報Aとして提示信号生成部12に送る(ステップS372)。
【0086】
それ以降のステップS122の処理は第1実施形態で説明した通りである。
【0087】
<第3実施形態の特徴>
このようにしても第1実施形態と同じ効果を得ることができる。さらに、操作状態に基づく聴覚調整情報を用いて聴覚情報を生成することで、操作状態に応じた疑似触覚を提示することができる。
【0088】
例えば、記憶部19の対応付け情報において、異なる操作状態のそれぞれに同じ聴覚調整パラメータの異なる値が対応付けておいた場合、操作状態が第1操作状態のときの聴覚調整パラメータの値を、操作状態が第1操作状態と異なる第2操作状態のときの聴覚調整パラメータの値と相違させることができる。これにより、操作状態が第1操作状態であるか第2操作状態によって、異なる疑似触覚を提示することができる。
【0089】
例えば、記憶部19の対応付け情報において、異なる操作状態のそれぞれに異なる種別の聴覚調整パラメータを対応付けておいた場合、操作状態が第1操作状態のときの聴覚調整パラメータの種別を、操作状態が第1操作状態と異なる第2操作状態のときの聴覚調整パラメータの種別と異ならせることができる。これにより、操作状態が第1操作状態であるか第2操作状態によって、異なる疑似触覚を提示することができる。
【0090】
また、記憶部19の対応付け情報における、操作状態と、当該操作状態に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに相関がある場合、操作状態に相関のある擬似触覚を提示することができる。
【0091】
[第3実施形態の変形例1]
記憶部19の対応付け情報に格納される操作状態が、図示していない操作装置101以外の第2操作装置に対して行われる身体部位の動作に基づく操作状態の場合、第2操作装置に対して身体部位の動作に基づく操作が行われると、その操作状態を表す操作情報Oが第2操作装置から出力される。また、操作装置101に対して身体部位の動作に基づく操作が行われると、その操作状態を表す操作情報Oinが操作装置101から出力される。操作情報Oおよび操作情報Oinはそれぞれ入力部14に送られ、さらに操作検出部15に送られる。それ以外の処理は第3実施形態と同じである。
【0092】
[第3実施形態の変形例2]
第3実施形態または第3実施形態の変形例1において、図5に示すように、操作装置101への操作が行われる前に初期聴覚情報が提示され(ステップS121)、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0093】
[第4実施形態]
本実施形態は第1実施形態の変形例であり、対象装置の状態(装置状態)に基づく聴覚調整情報を用いて聴覚情報を生成する点が第1実施形態と相違する。
【0094】
<構成>
図1に例示するように、本実施形態の擬似触覚提示装置4は、聴覚調整情報生成部11、提示信号生成部12、出力部13、入力部14、操作検出部15、状態検出部46、聴覚調整情報生成部47、制御部18、および記憶部19を有し、制御部18の制御に基づいて各処理を実行する。擬似触覚提示装置4のハードウェア構成については後述する。擬似触覚提示装置4の入力部14には、有線または無線で操作装置101が接続されている。擬似触覚提示装置4の出力部13には、有線または無線で聴覚情報提示装置102が接続されている。前述のように、操作装置101および聴覚情報提示装置102はどのようなものであってもよいが、本実施形態では、操作装置101が利用者100の指で押し込み操作される物理キー(例えば、リモートコントローラのボタン)である場合を例にとって説明する。
【0095】
<処理>
本実施形態では、前処理として、複数の装置状態(対象装置の状態)と、当該装置状態のそれぞれに対応する聴覚調整情報と、を対応付けた対応付け情報(例えば、テーブル)を記憶部19に格納しておく。対象装置は、擬似触覚提示装置4であってもよいし、擬似触覚提示装置4を含む装置(例えば、操作装置101である物理キーを持つリモートコントローラ)であってもよいし、擬似触覚提示装置4の外部の装置であってもよい。また、対象装置は、擬似触覚提示装置4の機能と相関関係のある機能を持つ装置であってもよいし、擬似触覚提示装置4の機能と相関関係のない機能を持つ装置であってもよい。
【0096】
記憶部19に格納しておく複数の装置状態はどのようなものであってもよい。例えば、機能状態および/または環境が異なる複数の装置状態を記憶部19に格納しておいてもよい。例えば、当該装置がボタンを押すたびに音量を上げる機能を持つリモートコントローラである場合、「音量の大きさ」や「気温」などの装置状態を記憶しておく。ただし、これは本発明を限定するものではない。
【0097】
複数の装置状態のそれぞれに対応付けられる聴覚調整情報は、どのようなものであってもよい。ただし、複数の装置状態それぞれに対応付けられる聴覚調整情報はすべてが同一ではなく、少なくとも何れかの聴覚調整情報は互いに相違している。
【0098】
例えば、異なる装置状態のそれぞれに同じ聴覚調整パラメータ(例えば、発生遅延量)の異なる値が対応付けられてもよい。例えば、同じ聴覚調整パラメータ(例えば、発生遅延量)について、ある装置状態(第1状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値が、その他の装置状態(第1状態と異なる第2状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの値と異なっていてもよい。
【0099】
また、例えば、異なる装置状態のそれぞれに異なる聴覚調整パラメータ(例えば、発生遅延量と停止遅延量)が対応付けられてもよい。例えば、ある装置状態(第1状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、発生遅延量)が、その他の装置状態(第1状態と異なる第2状態)に対応付けられる聴覚調整情報によって特定される聴覚調整パラメータの種別(例えば、停止遅延量)と異なっていてもよい。
【0100】
また、装置状態と、当該装置状態に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに、相関があってもよい。例えば、より遷移した機能状態(例えば、リモートコントローラのボタンが何度も押されて音量が大きくなっている機能状態)にある装置状態であるほど、大きな擬似触覚(大きな、重さ感)に対応する聴覚調整情報が対応付けられてもよい。例えば、より遷移した機能状態にある装置状態であるほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよいし、変化速度が小さな聴覚調整情報が対応付けられてもよい。その他、高い温度にある装置状態であるほど、大きな擬似触覚に対応する聴覚調整情報が対応付けられてもよい。例えば、高い温度にある装置状態であるほど、発生遅延量および/または停止遅延量および/または継続量および/または聴覚情報の音量が大きな聴覚調整情報が対応付けられてもよい。
【0101】
以上の前提のもと、図1および図5を用いて第4実施形態の処理を説明する。
まず、第1実施形態で説明したステップS11の処理の後、ステップS15の処理が行われる。ただし、ステップS15では、操作情報Oinが入力されていないと判断された場合、操作検出部15は操作情報Oinの入力の有無の監視を継続する。一方、操作情報Oinが入力されたと判断された場合、操作検出部15は、操作情報Oinが入力された旨を示すトリガー信号Tを聴覚調整情報生成部17および状態検出部46に送る。
【0102】
トリガー信号Tが入力された状態検出部46は、対象装置の装置状態を検出し、当該装置状態を表す情報Cを聴覚調整情報生成部47に送る(ステップS461)。
【0103】
聴覚調整情報生成部47は、記憶部19の対応付け情報を参照し、入力された情報Cが表す装置状態(例えば、音量の大きさ)に対応付けられた聴覚調整情報を抽出し、これを聴覚調整情報Aとして提示信号生成部12に送る(ステップS472)。
【0104】
それ以降のステップS122の処理は第1実施形態で説明した通りである。
【0105】
<第4実施形態の特徴>
このようにしても第1実施形態と同じ効果を得ることができる。さらに、装置状態に基づく聴覚調整情報を用いて聴覚情報を生成することで、装置状態に応じた疑似触覚を提示することができる。
【0106】
例えば、記憶部19の対応付け情報において、異なる装置状態のそれぞれに同じ聴覚調整パラメータの異なる値が対応付けておいた場合、装置状態が第1状態のときの聴覚調整パラメータの値を、装置状態が第1状態と異なる第2状態のときの聴覚調整パラメータの値と相違させることができる。これにより、装置状態が第1状態であるか第2状態によって、異なる疑似触覚を提示することができる。
【0107】
例えば、記憶部19の対応付け情報において、異なる装置状態のそれぞれに異なる種別の聴覚調整パラメータを対応付けておいた場合、装置状態が第1状態のときの聴覚調整パラメータの種別を、装置状態が第1状態と異なる第2状態のときの聴覚調整パラメータの種別と異ならせることができる。これにより、装置状態が第1状態であるか第2状態によって、異なる疑似触覚を提示することができる。
【0108】
また、記憶部19の対応付け情報における、装置状態と、当該装置状態に対応付けられる聴覚調整情報に基づく聴覚情報によって提示される擬似触覚とに相関がある場合、装置状態に相関のある擬似触覚を提示することができる。
【0109】
[第4実施形態の変形例1]
第4実施形態において、図5に示すように、操作装置101への操作が行われる前に初期聴覚情報が提示され(ステップS121)、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0110】
[第4実施形態の変形例2]
擬似触覚提示装置に操作情報が入力される前に、装置状態を検出して聴覚調整情報Aが生成され、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい。
【0111】
<構成>
第4実施形態と同じである。
【0112】
<処理>
図6を用いて、本変形例の処理を説明する。
状態検出部46は、対象装置の装置状態を検出し、当該装置状態を表す情報Cを聴覚調整情報生成部47に送る(ステップS461)。
【0113】
次に、第1実施形態で説明したステップ11の処理が実行された後、聴覚調整情報生成部47は、記憶部19の対応付け情報を参照し、入力された情報Cが表す装置状態に対応付けられた聴覚調整情報を抽出し、これを聴覚調整情報Aとして提示信号生成部12に送る(ステップS472’)。
【0114】
それ以降のステップS12,S15’,S122’の処理は第1実施形態の変形例2で説明した通りである。
【0115】
[第4実施形態の変形例3]
第4実施形態の変形例2において、図6に示すように、操作装置101への操作が行われる前に初期聴覚情報が提示され(ステップS121)、操作装置101への操作が行われた後に聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122’)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0116】
[第5実施形態]
第1から4実施形態およびそれらの変形例では、利用者100の身体部位の動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を、利用者100に提示した。しかしながら、利用者100以外の人間、動物、動作装置(例えば、ロボット等)の動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を当該利用者100に提示させてもよい。この場合であっても、利用者100がその操作の様子を見ていれば、利用者100は提示された聴覚情報から間接的な擬似触覚(例えば、「重そう」といった感覚)を知覚する。また、発生遅延量または停止遅延量または継続量または聴覚情報の音量の少なくともいずれかを制御することで、このような擬似触覚を変化させることもできる。
【0117】
第5実施形態の第1から4実施形態およびそれらの変形例との相違点は、利用者100の身体部位の動作に基づく操作情報が擬似触覚提示装置に入力されることに代え、利用者100以外の人間または動物の身体部位の動作、または動作装置の部位の動作に基づく操作情報が擬似触覚提示装置に入力される点、利用者100がその様子を見ている点のみである。その他は、第1から4実施形態およびそれらの変形例と同じである。
【0118】
<第5実施形態の特徴>
このようにしても、第1から4実施形態およびそれらの変形例と同様の効果を得ることができる。ただし、利用者100が知覚する擬似触覚は「重そう」といった間接的な擬似触覚となる。
【0119】
[第6実施形態]
第5実施形態では、動作装置の動作に基づく操作情報が入力されたときに、聴覚調整情報に基づく聴覚情報を当該利用者100に提示する例を示した。さらにこの変形例として、動作装置(例えば、クレーンゲームのクレーン)を動作させるための動作情報が出力されるときに、聴覚調整情報に基づく聴覚情報を当該利用者100に提示してもよい。このような場合にも、利用者100は、「重そう」といった間接的な擬似触覚を知覚する。また、発生遅延量または停止遅延量または継続量または聴覚情報の音量のうちの少なくともいずれかを制御することで、このような擬似触覚を変化させることができる。例えば、動作装置がクレーンゲームのクレーンである場合、当該クレーンが物を掴む際に利用者100に提示される聴覚情報の発生遅延量または停止遅延量または継続量または聴覚情報の音量のうちの少なくともいずれかを制御することで、掴んだ物の重さや硬さが異なっているように知覚させることができる。ただし、この場合の発生遅延量は、動作情報が出力されてから聴覚情報の提示を開始するまでの時間に対応し、停止遅延量は、動作情報が出力されてから聴覚情報の提示を終了するまでの時間に対応する。
【0120】
<構成>
図7に例示するように、本実施形態の擬似触覚提示装置6は、入力部14および操作検出部15に代え、出力部64および動作制御部65を備える。これ以外の擬似触覚提示装置6の構成は、第1から4実施形態の擬似触覚提示装置1から4の何れかと同一である。
【0121】
擬似触覚提示装置6の出力部64には、有線または無線で動作装置601が接続されている。動作装置601は動作を行う装置であればどのようなものであってもよい。例えば、動作装置601は、物体に力学的な作用を施す動きを行う装置である。動作装置601が当該物体に接触した状態で力学的な作用を施してもよいし、動作装置601が当該物体に非接触の状態で力学的な作用を施してもよい。物体に施す力学的な作用の例は、物体を掴む、挟む、持ち上げる、押す、引く、圧縮する、伸ばす、移動させる、分離する、結合するなどである。動作装置601の具体例は、ロボット、クレーンゲームのクレーンなどであるが、これらは本発明を限定するものではない。
【0122】
<処理>
以下、第1から4実施形態およびそれらの変形例の処理との相違点を中心に本実施形態の処理を説明する
≪第1実施形態の処理との相違点≫
図5を用いて、第1実施形態の処理に基づく第6実施形態の処理を説明する。第1実施形態の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0123】
まず第1実施形態で説明したステップS11の処理が実行される。
【0124】
次にステップS15に代えて、以下のステップS65が実行される。動作制御部65は動作装置601の動作を制御している。動作制御部65が動作装置601を動作させるための動作情報Ooutを出力していないときには、制御部65は制御を継続する。一方、動作制御部65は、任意のタイミング、予め定められたタイミング、または指定されたタイミングで、動作装置601を動作させるための動作情報Ooutを生成して出力することができる。出力された動作情報Ooutは、出力部64に送られ、さらに動作装置601に送られる。動作装置601は、入力された動作情報Ooutに基づく動作を行う。この際、利用者100は、動作装置601の動作を見ているものとする。動作制御部65は、動作情報Ooutが出力された旨を示すトリガー信号Tを聴覚調整情報生成部17に送る(ステップS65)。
【0125】
トリガー信号Tが聴覚調整情報生成部17に送られると、聴覚調整情報生成部17は、聴覚情報を制御するための聴覚調整情報Aを生成する(ステップS172)。第1実施形態との相違点は、(1)発生遅延量が、動作情報Ooutが出力されてから聴覚情報の提示を開始するまでの時間に対応し、(2)停止遅延量が、操作情報Oinが入力されてから聴覚情報の提示を終了するまでの時間に対応する点である(以下、本実施形態において同じ)。
【0126】
本実施形態の(1)発生遅延量の具体例は以下の通りである。
・動作情報Ooutが出力部64または動作制御部65の何れかから出力されてから、聴覚情報の提示が開始されるまでの時間Ds1'
・時間Ds1'を特定可能な情報
発生遅延量の大きさに制限はないが、例えば、0-2000[ms]の間の何れかの時間Ds1'、または当該時間Ds1'を特定可能な情報を発生遅延量とすればよい。Ds1'=αであり、Ds1'=βであり、α>βの場合、Ds1'=αのときに知覚される擬似触覚(例えば、重量感)の大きさは、Ds1'=βのときに知覚される擬似触覚の大きさよりも大きい。例えば、時間Ds1'が長いほど大きな擬似触覚を提示できる。
【0127】
本実施形態の(2)停止遅延量の具体例は以下の通りである。
・動作情報Ooutが出力部64または動作制御部65の何れかから出力されてから、聴覚情報の提示を終了するまでの時間De1'
・時間De1'を特定可能な情報
停止遅延量の大きさに制限はないが、例えば、0-2000[ms]の間の何れかの時間De1'、または当該時間De1'を特定可能な情報を停止遅延量とすればよい。ただし、Ds1'<De1'の関係を満たす。De1'=αであり、De1'=βであり、α>βの場合、De1'=αのときに知覚される擬似触覚の大きさは、De1'=βのときに知覚される擬似触覚の大きさよりも大きい。例えば、時間De1'が長いほど大きな擬似触覚を提示できる。
【0128】
なお、本実施形態の(3)継続量および(4)聴覚情報の音量は第1実施形態と同じである。
【0129】
その後のステップS122の処理は第1実施形態で説明した通りである。
【0130】
≪第1実施形態の変形例1の処理との相違点≫
図5を用いて、第1実施形態の変形例1の処理に基づく第6実施形態の処理を説明する。第1実施形態の変形例1の処理に基づく場合、第6実施形態の処理は以下のようになる。前述したステップS11の処理の後、ステップS121の処理が実行される。その後、ステップS65,S172,S122の処理が実行される。
【0131】
≪第1実施形態の変形例2の処理との相違点≫
図6を用いて、第1実施形態の変形例2の処理に基づく第6実施形態の処理を説明する。第1実施形態の変形例2の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0132】
まず、第1実施形態の変形例2で説明したステップS11、ステップS172’、およびステップS12の処理が実行される。
【0133】
次に第1実施形態の変形例2で説明したステップS15’に代えて、以下のステップS65’が実行される。
動作制御部65は動作装置601の動作を制御している。動作制御部65が動作装置601を動作させるための動作情報Ooutを出力していないときには、制御部18は制御を継続する。一方、動作制御部65は、任意のタイミング、予め定められたタイミング、または指定されたタイミングで、動作装置601を動作させるための動作情報Ooutを生成して出力することができる。出力された動作情報Ooutは、出力部64に送られ、さらに動作装置601に送られる。動作装置601は、入力された動作情報Ooutに基づく動作を行う。この際、利用者100は、動作装置601の動作を見ているものとする。動作制御部65は、動作情報Ooutが出力された旨を示すトリガー信号Tを提示信号生成部12に送る(ステップS65’)。
【0134】
トリガー信号Tが提示信号生成部12に送られた場合、第1実施形態の変形例2で説明したステップS122’の処理が実行される。
【0135】
≪第1実施形態の変形例3の処理との相違点≫
図6を用いて、第1実施形態の変形例3の処理に基づく第6実施形態の処理を説明する。第1実施形態の変形例3の処理に基づく場合、第6実施形態の処理は以下のようになる。前述したステップS11,S172’,S12の処理の後、第1実施形態の変形例1で説明したステップS121の処理が実行される。その後、ステップS65’,S122’の処理が実行される。
【0136】
≪第2実施形態の変形例1の処理との相違点≫
図6を用いて、第2実施形態の変形例1の処理に基づく第6実施形態の処理を説明する。第2実施形態の変形例1の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0137】
まず第2実施形態で説明した前処理が実行される。これを前提とし、第2操作装置(図示せず)に対して身体部位に基づく動作に基づく操作が行われると、その操作内容を表す操作情報Oが第2操作装置から出力される。操作情報Oは聴覚調整情報生成部27に送られる。なお、第2操作装置には、利用者100の身体部位に基づく操作が行われてもよいし、利用者100以外の人間や動物の身体部位に基づく動作に基づく操作が行われてもよい。第2操作装置の例は、動作装置601を制御するための操作装置(例えば、クレーンゲームのクレーンを操作するための操作装置)などである。この場合、操作情報Oは動作制御部65にも送られ、動作制御部65が操作情報Oに基づいて動作情報Ooutを生成して出力してもよい(ステップS261)。
【0138】
その後、第1実施形態で説明したステップS11の処理、第2実施形態で説明したステップS272’の処理、第1実施形態の変形例2で説明したステップS12の処理が実行される。その後、ステップS65’の処理が実行される。トリガー信号Tが提示信号生成部12に送られた場合、第1実施形態の変形例2で説明したステップS122’の処理が実行される。
【0139】
≪第2実施形態の変形例2の処理との相違点≫
図6を用いて、第2実施形態の変形例2の処理に基づく第6実施形態の処理を説明する。第2実施形態の変形例2の処理に基づく場合、第6実施形態の処理は以下のようになる。図6に示すように、ステップS261,S11の処理が実行され、動作装置601を動作させるための動作情報Ooutが出力される前に聴覚調整情報Aが生成され(ステップS272’)、初期聴覚情報が提示され(ステップS121)、動作装置601を動作させるための動作情報Ooutが出力された後に(ステップS65’)、聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122’)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0140】
≪第3実施形態の変形例1の処理との相違点≫
図5を用いて、第3実施形態の変形例1の処理に基づく第6実施形態の処理を説明する。第3実施形態の変形例1の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0141】
第3実施形態で説明した前処理が実行される。これを前提とし、第1実施形態で説明したステップS11の処理の後、ステップS65の処理が行われる。ただし、動作制御部65から出力されたトリガー信号Tは聴覚調整情報生成部37に送られる。
【0142】
前述のように、第2操作装置(図示せず)に対して身体部位の動作に基づく操作が行われると、その操作内容および操作状態を表す操作情報Oが第2操作装置から出力される。なお、第2操作装置には、利用者100の身体部位に基づく操作が行われてもよいし、利用者100以外の人間や動物の身体部位に基づく動作に基づく操作が行われてもよい。第2操作装置の例は、動作装置601を制御するための操作装置(例えば、クレーンゲームのクレーンを操作するための操作装置)などである。この場合、操作情報Oは動作制御部65にも送られ、動作制御部65が操作情報Oに基づいて動作情報Ooutを生成して出力してもよい
【0143】
第2操作装置から出力された操作情報Oは状態検出部36に入力され、第3実施形態で説明したステップS361,S372の処理、および第1実施形態で説明したステップS122の処理が実行される。
【0144】
≪第3実施形態の変形例2の処理との相違点≫
図5を用いて、第1実施形態の変形例1の処理に基づく第6実施形態の処理を説明する。第1実施形態の変形例1の処理に基づく場合、第6実施形態の処理は以下のようになる。前述したステップS11の処理の後、ステップS121の処理が実行される。その後、ステップS65,S172,S122の処理が実行される。
【0145】
≪第4実施形態の処理との相違点≫
図5を用いて、第4実施形態の処理に基づく第6実施形態の処理を説明する。第4実施形態の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0146】
第4実施形態で説明した前処理が実行される。これを前提とし、第1実施形態で説明したステップS11の処理の後、ステップS65の処理が行われる。ただし、動作制御部65から出力されたトリガー信号Tは聴覚調整情報生成部47および状態検出部46に送られる。
【0147】
トリガー信号Tが入力された状態検出部46は、対象装置の装置状態を検出し、当該装置状態を表す情報Cを聴覚調整情報生成部47に送る。前述のように、対象装置はどのようなものであってもよいが、対象装置の一例は動作装置601である(ステップS461)。
【0148】
その後、第4実施形態で説明したステップS472の処理、および第1実施形態で説明したステップS122の処理が実行される。
【0149】
≪第4実施形態の変形例1の処理との相違点≫
図5に示すように、動作装置601を動作させるための動作情報Ooutが出力される前に初期聴覚情報が提示され(ステップS121)、動作装置601を動作させるための動作情報Ooutが出力された後に(ステップS65’)、聴覚調整情報Aに基づく聴覚情報が提示されてもよい(ステップS122)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0150】
≪第4実施形態の変形例2の処理との相違点≫
図6を用いて、第4実施形態の変形例2の処理に基づく第6実施形態の処理を説明する。第4実施形態の変形例2の処理に基づく場合、第6実施形態の処理は以下のようになる。
【0151】
第4実施形態で説明した前処理が実行される。これを前提とし、状態検出部46が、対象装置の装置状態を検出し、当該装置状態を表す情報Cを聴覚調整情報生成部47に送る。前述のように、対象装置はどのようなものであってもよいが、対象装置の一例は動作装置601である(ステップS461)。
【0152】
次に、第1実施形態で説明したステップ11の処理、第4実施形態の変形例1で説明したステップS472’の処理、第1実施形態の変形例2で説明したステップS12の処理が実行される。その後、上述のステップS65’の処理が実行され、トリガー信号Tが提示信号生成部12に送られた場合、第1実施形態の変形例2で説明したステップS122’の処理が実行される。
【0153】
≪第4実施形態の変形例3の処理との相違点≫
図6を用いて、第4実施形態の変形例3の処理に基づく第6実施形態の処理を説明する。第4実施形態の変形例3の処理に基づく場合、第6実施形態の処理は以下のようになる。図6に示すように、ステップS461,S11の処理が実行され、動作装置601を動作させるための動作情報Ooutが出力される前に聴覚調整情報Aが生成され(ステップS472’)、提示指示信号が生成され(ステップS12)、初期聴覚情報が提示され(ステップS121)、動作装置601を動作させるための動作情報Ooutが出力された後に(ステップS65’)、聴覚調整情報Aに基づく聴覚情報が提示される(ステップS122’)。なお、聴覚調整情報Aに基づく聴覚情報が提示されるまで、初期聴覚情報の提示が継続される。
【0154】
<第6実施形態の特徴>
このようにしても、第1から4実施形態およびそれらの変形例と同様の効果を得ることができる。ただし、利用者100が知覚する擬似触覚は「重そう」といった間接的な擬似触覚となる。
【0155】
[ハードウェア構成]
各実施形態における擬似触覚提示装置1-4,6は、例えば、CPU(central processing unit)等のプロセッサ(ハードウェア・プロセッサ)やRAM(random-access memory)・ROM(read-only memory)等のメモリ等を備える汎用または専用のコンピュータが所定のプログラムを実行することで構成される装置である。すなわち、各実施形態における擬似触覚提示装置1-4,6は、例えば、それぞれが有する各部を実装するように構成された処理回路(processing circuitry)を有する。このコンピュータは1個のプロセッサやメモリを備えていてもよいし、複数個のプロセッサやメモリを備えていてもよい。このプログラムはコンピュータにインストールされてもよいし、予めROM等に記録されていてもよい。また、CPUのようにプログラムが読み込まれることで機能構成を実現する電子回路(circuitry)ではなく、単独で処理機能を実現する電子回路を用いて一部またはすべての処理部が構成されてもよい。また、1個の装置を構成する電子回路が複数のCPUを含んでいてもよい。
【0156】
図8は、各実施形態における擬似触覚提示装置1-4,6のハードウェア構成を例示したブロック図である。図8に例示するように、この例の擬似触覚提示装置1-4,6は、CPU(Central Processing Unit)10a、入力部10b、出力部10c、RAM(Random Access Memory)10d、ROM(Read Only Memory)10e、補助記憶装置10f及びバス10gを有している。この例のCPU10aは、制御部10aa、演算部10ab及びレジスタ10acを有し、レジスタ10acに読み込まれた各種プログラムに従って様々な演算処理を実行する。また、入力部10bは、データが入力される入力端子、キーボード、マウス、タッチパネル等である。また、出力部10cは、データが出力される出力端子、ディスプレイ、所定のプログラムを読み込んだCPU10aによって制御されるLANカード等である。また、RAM10dは、SRAM (Static Random Access Memory)、DRAM (Dynamic Random Access Memory)等であり、所定のプログラムが格納されるプログラム領域10da及び各種データが格納されるデータ領域10dbを有している。また、補助記憶装置10fは、例えば、ハードディスク、MO(Magneto-Optical disc)、半導体メモリ等であり、所定のプログラムが格納されるプログラム領域10fa及び各種データが格納されるデータ領域10fbを有している。また、バス10gは、CPU10a、入力部10b、出力部10c、RAM10d、ROM10e及び補助記憶装置10fを、情報のやり取りが可能なように接続する。CPU10aは、読み込まれたOS(Operating System)プログラムに従い、補助記憶装置10fのプログラム領域10faに格納されているプログラムをRAM10dのプログラム領域10daに書き込む。同様にCPU10aは、補助記憶装置10fのデータ領域10fbに格納されている各種データを、RAM10dのデータ領域10dbに書き込む。そして、このプログラムやデータが書き込まれたRAM10d上のアドレスがCPU10aのレジスタ10acに格納される。CPU10aの制御部10aaは、レジスタ10acに格納されたこれらのアドレスを順次読み出し、読み出したアドレスが示すRAM10d上の領域からプログラムやデータを読み出し、そのプログラムが示す演算を演算部10abに順次実行させ、その演算結果をレジスタ10acに格納していく。このような構成により、擬似触覚提示装置1-4,6の機能構成が実現される。
【0157】
上述のプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体の例は非一時的な(non-transitory)記録媒体である。このような記録媒体の例は、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等である。
【0158】
このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD-ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。上述のように、このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記憶装置に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。
【0159】
各実施形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。
【0160】
[その他の変形例等]
なお、本発明は上述の実施形態に限定されるものではない。例えば、上述の実施形態では、擬似触覚提示装置1-4の外部に操作装置101および聴覚情報提示装置102が設けられていた。しかしながら、擬似触覚提示装置1-4に操作装置101が設けられていてもよいし、擬似触覚提示装置1-4に聴覚情報提示装置102が設けられていてもよい。同様に、擬似触覚提示装置6に動作装置601が設けられていてもよいし、擬似触覚提示装置6に聴覚情報提示装置102が設けられていてもよい。
【0161】
また、上述の実施形態では、操作装置101が物理キーやタッチパネルである場合を例にとって説明した。しかしながら、これは一例であって、利用者100や利用者以外の人間や動物の身体部位(例えば、手、指、足、頭部、顔、眼など)または動作装置の動作に基づく操作を検知し、当該操作があったことを表す操作情報(動作に基づく操作情報)を出力するものであれば、どのような装置を操作装置101として用いてもよい。例えば、キーボードなどの物理キーやタッチパネルの他、プルタブ、つまみ、フェーダー、マウス、ペダルなどを操作装置101として用いてもよい。これらによる動作に基づく操作としては、押し下げ、引き込み、回転、スライド、ドラッグ、クリック、スワイプ、ピンチ、足踏みなどを例示できる。その他、カメラや静電センサなどを用いたタッチ検出技術によってテーブルや床などの物理的な面への接触を検知することで、仮想的な押し下げ、引き込み、ドラッグ、クリック、スワイプ、ピンチ、足踏みなどを検知する装置を操作装置101として用いてもよい。また、上述の実施形態では、利用者100の身体部位が物体に接触した状態で行われる操作を検知する操作装置101を用いる場合を例示したが、これは本発明を限定するものではない。すなわち、身体部位または動作装置の部位が物体に接触することなく、当該身体部位または動作装置の部位の動作に基づく操作を検知し、当該操作があったことを表す操作情報(動作に基づく操作情報)を出力する操作装置101が用いられてもよい。例えば、手を振る、うなずく、眼球を動かす、瞬きをするなどの身体部位の動作による操作や、掴む、移動する、回転するなどの動作装置の部位の動作による操作を検知する装置を操作装置101として用いてもよい。このような操作装置101の例は、加速度センサやジャイロセンサなどのモーションセンサで身体部位の動きをトラッキングする装置、角膜反射法、暗瞳孔法、ステレオ画像法などの公知のアイトラッキング技術によって眼の動きを検知するアイトラッカーなどである。例えば、利用者100の身体部位の動作に基づく操作情報は、利用者100の意図(例えば、何かしらのON/OFFの意図)が表れている身体部位の動作に基づく操作を検知し、当該操作があったことを表す操作情報(身体部位の動作に基づく操作情報)を出力するものであれば、どのような装置を操作装置101として用いてもよい。
【0162】
また、上述の実施形態では、聴覚情報が純音である場合を例にとって説明した。しかしながら、これは一例であって、本発明を限定するものではない。すなわち、聴覚情報はヒトの聴覚で捉えられる音響情報であればどのようなものであってもよい。例えば、純音の他、純音以外の音(自然音、音楽、音声、アラーム音、ノイズ音、機械音など)が聴覚情報であってもよい。また、聴覚情報は単一周波数の音であってもよいし、複数周波数の音を含む音でいてもよい。
【0163】
また、上述の実施形態では、聴覚情報提示装置102がスピーカーである場合を例にとって説明した。しかしながら、これは一例であって、本発明を限定するものではない。すなわち、聴覚情報を提示(出力)する装置であれば、どのような装置を聴覚情報提示装置102として用いてもよい。例えば、スピーカーの他、骨伝導スピーカー、アラーム装置、提示信号に基づく自動演奏が可能な楽器、提示信号に基づいて自動で鳴らすことが可能なベル、提示信号に基づいて機械音と発する装置など聴覚情報提示装置102として用いてもよい。
【0164】
聴覚情報提示装置102と操作装置101との空間的位置関係に制約はない。例えば、聴覚情報提示装置102は、物理キー、つまみ、フェーダーなどといった操作装置101に備え付けられたスピーカーなどであってもよいし、タッチパネルのような操作装置101と一体構成されたものであってもよいし、操作装置101と物理的に独立したスピーカーなどであってもよいし、テーブルなどの面を振動させて音を発する装置であってもよい。
【0165】
聴覚情報提示装置102は、操作装置101の操作位置に対応する位置に聴覚情報を提示してもよいし、当該操作位置とは無相関の位置に聴覚情報を提示してもよい。例えば、操作装置101および聴覚情報提示装置102がタッチパネルである場合、指によるタッチパネルの接触位置またはその位置や操作と対応関係のあるタッチパネルの位置で聴覚情報を提示してもよいし、接触位置とは無相関な位置で聴覚情報を提示してもよい。その他、例えば、操作装置101が物理キーである場合、聴覚情報提示装置102は当該物理キーに設けられたスピーカーなどであってもよいし、当該物理キーと独立したスピーカーなどであってもよい。
【0166】
また、上述した擬似触覚を知覚させる以外の機能について、操作装置101と聴覚情報提示装置102とが連動していてもよいし、連動していなくてもよい。例えば、操作装置101がリモートコントローラの操作ボタン(物理キー)である場合に、聴覚情報提示装置102が当該リモートコントローラによる操作内容に伴う音を発するスピーカーなどであってもよいし、聴覚情報提示装置102が当該リモートコントローラと無関係なスピーカーなどであってもよい。
【0167】
また、発生遅延量または停止遅延量または継続量または聴覚情報の音量の少なくも何れかに基づいて提示する聴覚情報を制御するとともに、この聴覚情報の周波数を制御することで擬似触覚を提示してもよい。前述のように、他の条件が同じである場合、擬似触覚の周波数が低いほど重さ感などの擬似触覚が大きくなり、擬似触覚の周波数が高いほど重さ感などの擬似触覚が小さくなる。
【0168】
また、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能であることはいうまでもない。
【符号の説明】
【0169】
1-4,6 擬似触覚提示装置
12 提示信号生成部
36,46 状態検出部
17,27,37,47 聴覚調整情報生成部
101 操作装置
601 動作装置
102 聴覚情報提示装置
図1
図2
図3
図4
図5
図6
図7
図8