IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社栗本鐵工所の特許一覧

特開2024-137189情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム
<>
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図1
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図2
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図3
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図4
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図5
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図6
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図7
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図8
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図9
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図10
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図11
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図12
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図13
  • 特開-情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024137189
(43)【公開日】2024-10-07
(54)【発明の名称】情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20240927BHJP
   G06F 3/04817 20220101ALI20240927BHJP
【FI】
G06F3/01 560
G06F3/01 510
G06F3/04817
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023048609
(22)【出願日】2023-03-24
(71)【出願人】
【識別番号】000142595
【氏名又は名称】株式会社栗本鐵工所
(74)【代理人】
【識別番号】100114557
【弁理士】
【氏名又は名称】河野 英仁
(74)【代理人】
【識別番号】100078868
【弁理士】
【氏名又は名称】河野 登夫
(72)【発明者】
【氏名】橋田 真一朗
(72)【発明者】
【氏名】赤岩 修一
(72)【発明者】
【氏名】上嶋 優矢
(72)【発明者】
【氏名】増田 勇貴
(72)【発明者】
【氏名】辻 仁志
(72)【発明者】
【氏名】木野井 慶介
(72)【発明者】
【氏名】梶本 泰生
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA08
5E555AA76
5E555BA04
5E555BA20
5E555BA38
5E555BB04
5E555BB20
5E555BB38
5E555BC04
5E555CB33
5E555CB34
5E555DA23
5E555DA24
5E555DB18
5E555DB19
5E555FA00
(57)【要約】
【課題】情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラムを提供する。
【解決手段】情報処理システムは、操作者の操作を受け付ける操作部に、前記操作に応じた力覚又は振動を生じさせて触覚を提示する触覚提示装置と、画像を表示する表示装置と、前記触覚提示装置における触覚、及び前記表示装置における画像を処理する情報処理装置とを含み、前記情報処理装置は、前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶し、前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、選択した制御データによって前記触覚提示装置から触覚を提示させる。
【選択図】図1
【特許請求の範囲】
【請求項1】
操作者の操作を受け付ける操作部に、前記操作に応じた力覚を生じさせて触覚を提示する触覚提示装置と、
画像を表示する表示装置と、
前記触覚提示装置における触覚、及び前記表示装置における画像を処理する情報処理装置と
を含み、
前記情報処理装置は、前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶し、
前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、
選択した制御データによって前記触覚提示装置から触覚を提示させる
情報処理システム。
【請求項2】
前記情報処理装置は、
前記GUIに対する前記操作部による操作位置が、前記GUIにおける前記複数のインタフェースそれぞれに対応する操作範囲内であることを検知したことによって、前記複数のインタフェースそれぞれに対応する制御データを選択し、
前記操作位置の変化に応じて、制御データの選択を変更して触覚を提示させる
請求項1に記載の情報処理システム。
【請求項3】
前記情報処理装置は、
前記複数のインタフェースそれぞれに対応する確定操作が前記操作部に対して行なわれるまで、前記操作位置に応じて選択される制御データに基づく触覚提示を継続する
請求項2に記載の情報処理システム。
【請求項4】
前記情報処理装置は、
前記操作部への操作状態を逐次取得し、
取得した前記操作部への操作状態に応じて、前記表示装置に表示中の前記インタフェースの画像を変化させる
請求項1から請求項3までのいずれか1項に記載の情報処理システム。
【請求項5】
音声を出力する音声出力装置を更に備え、
取得した前記操作部への操作状態に応じて、前記表示装置に表示中の前記インタフェースに対応する音声を出力する
請求項4に記載の情報処理システム。
【請求項6】
前記情報処理装置は、
前記表示装置に表示するGUIを含む画面を提供するサーバ装置から、前記画面のデータを取得し、
取得した画面のデータから、前記画面に含まれる前記異なる機能に対応する複数のインタフェースの数を特定し、
特定した数に応じて、前記複数のパターンの制御データそれぞれを識別する識別データを、前記複数のインタフェースに対して付与し、
操作の対象であるインタフェースに付与されているパターンの制御データを前記触覚提示装置へ送信する
請求項1から請求項3までのいずれか1項に記載の情報処理システム。
【請求項7】
前記触覚提示装置は、操作者の操作に対して変位可能に設けられた変位部を前記操作部として有し、前記変位部の変位量に応じて、前記変位部への操作に対する力覚を生じさせ、表示される対象物の触覚を提示する
請求項1から請求項3までのいずれか1項に記載の情報処理システム。
【請求項8】
操作者の操作を受け付ける操作部に、前記操作に応じた力覚を生じさせて触覚を提示する触覚提示装置と、前記触覚提示装置での触覚提示と対応する画像を表示する表示装置と接続される情報処理装置であって、
前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶部に記憶し、
前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、
選択した制御データによって前記触覚提示装置から触覚を提示させる
情報処理装置。
【請求項9】
操作者の操作を受け付ける操作部に、前記操作に応じた力覚を生じさせて触覚を提示する触覚提示装置と、前記触覚提示装置での触覚提示と対応する画像を表示する表示装置と接続される情報処理装置が、
前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶部に記憶し、
前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、
選択した制御データによって前記触覚提示装置から触覚を提示させる
情報処理方法。
【請求項10】
操作者の操作を受け付ける操作部に、前記操作に応じた力覚を生じさせて触覚を提示する触覚提示装置と、前記前記触覚提示装置での触覚提示と対応する画像を表示する表示装置と接続される通信するコンピュータに、
前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶部に記憶し、
前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、
選択した制御データによって前記触覚提示装置から触覚を提示させる
処理を実行させるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、触覚提示装置による触覚提示と、他の感覚提示との連動により、新たなユーザインタフェースを実現する情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラムに関する。
【背景技術】
【0002】
触覚を提示する技術(ハプティクス)が種々提案されている。発明者らは、磁気粘性流体に対する知見に基づいて、操作者が操作可能であって、対象物によって異なる感触を再現する触覚提示装置を提案した(特許文献1等)。特許文献2には、触覚提示装置による触覚提示と、視覚提示(画像出力)とを合わせて出力するシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6906275号
【特許文献2】特開2020-130632号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
触覚提示装置は、特許文献2に示されているように、視覚や聴覚の出力と併せることで、知覚をよりリアルに認識させることが期待できる。これまで、スマートフォンやタブレット端末等のタッチパネル内蔵ディスプレイで出力される視覚情報や、スピーカから出力される聴覚情報は多様化されても、タッチパネル上で出力される触感は「ボタンを押下した」と認識できる範囲にとどまっていた。
【0005】
本発明は、触覚提示装置による触覚提示で新たなユーザインタフェースを実現する情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示の一実施形態の情報処理システムは、操作者の操作を受け付ける操作部に、前記操作に応じた力覚を生じさせて触覚を提示する触覚提示装置と、画像を表示する表示装置と、前記触覚提示装置における触覚、及び前記表示装置における画像を処理する情報処理装置とを含み、前記情報処理装置は、前記操作部に触覚を生じさせるための制御データを複数のパターンで記憶し、前記表示装置に表示するGUIに含まれる異なる機能に対応する複数のインタフェースのうち、いずれのインタフェースへの操作であるかに応じて、前記複数のパターンの制御データから制御データを選択し、選択した制御データによって前記触覚提示装置から触覚を提示させる。
【0007】
情報処理システム、情報処理装置、情報処理方法及びコンピュータプログラムでは、表示されるGUIに含まれるGUI部品のいずれに対する操作であるかによって、触覚提示装置に提示される触覚を複数パターンで変更できる。
【発明の効果】
【0008】
本開示によれば、表示されるGUIに含まれるGUI部品によって、異なる触覚が提示される。異なるGUI部品を触覚で区別可能とする新たなユーザインタフェースを実現できる。
【図面の簡単な説明】
【0009】
図1】触覚提示システムの概要図である。
図2】情報処理装置の構成を示すブロック図である。
図3】触覚DBの内容例を示す説明図である。
図4】GUI部品のセットの内容例を示す説明図である。
図5】触覚提示装置の構成を示すブロック図である。
図6】サーバ装置の内部構成を示すブロック図である。
図7】触覚提示システムにおける提示処理の一例を示すフローチャートである。
図8】触覚提示装置における処理手順の一例を示すフローチャートである。
図9】触覚提示システムにおける触覚提示の例を示す概要図である。
図10】触覚提示システムにおける触覚提示の例を示す概要図である。
図11】触覚提示システムにおける提示処理の他の一例を示すフローチャートである。
図12】変形例の触覚提示システムにおける提示処理の他の一例を示すフローチャートである。
図13】変形例の触覚提示システムにおける提示処理の他の一例を示すフローチャートである。
図14】触覚提示システムにおける触覚提示の他の例を示す概要図である。
【発明を実施するための形態】
【0010】
本開示をその実施の形態を示す図面を参照して具体的に説明する。以下の実施の形態では、触覚提示システムにおける触覚提示方法の実施について説明する。
【0011】
図1は、触覚提示システム100の概要図である。触覚提示システム100は、情報処理装置1と、触覚提示装置2と、サーバ装置3とを含む。情報処理装置1と、触覚提示装置2とは近距離無線通信で通信接続され、相互にデータを授受する。情報処理装置1と、サーバ装置3とは、所謂インターネットを含むネットワークNを介して相互にデータを送受信する。ネットワークNは、インターネットN1、キャリアネットワークN2、基地局BS、及びアクセスポイントAPを含む。
【0012】
情報処理装置1は、図1に示すようにスマートフォンを用いる。情報処理装置1は、スマートフォンに限られず、タブレット端末であってもよい。情報処理装置1は、ラップトップ型のPC(Personal Computer)であってもよい。情報処理装置1がPCである場合、触覚提示装置2はマウスの一部(クリック部)であってもよい。情報処理装置1は、ゲーム専用機器であってもよい。情報処理装置1は、触覚提示装置2と一体化されたゲーム専用機器、すなわち、コントローラ部分に触覚提示装置2を含むゲーム機であってもよい。
【0013】
触覚提示装置2は、操作者が指を変位部202に沿えて持ちながら指を動かして操作できる装置である。触覚提示装置2は、操作者が指を動かすことで変位する変位部202の位置を読み取り、内蔵するMRF(Magneto-Rheological Fluid )デバイス24をその位置に応じて制御して操作者の変位部202への操作に対する反力(回転抵抗)により力覚を生じさせ、触覚を提示する装置である。触覚提示装置2の変位部202の態様は、図1に示すようなものに限られず、スティック状であってもよいし、カバーに覆われたクッション状のものであってもよい。触覚提示装置2は、MRFデバイス24に代えて、モータやピエゾ素子などを採用し、操作者の操作に対し回転力や振動により力覚を生じさせるものでもよく、変位部202の他、振動や温感、冷感を提示するものと組み合わされてもよい。指輪状など、操作者の指に装着され、他の指で操作する構造でもよい。更に言えば、触覚提示装置2は、情報処理装置1に内蔵されるタッチパネルにてモータやピエゾ素子などによって振動を発生させるものや、超音波振動又は静電気力によって摩擦を変調させる技術を使用したものであってもよい。
【0014】
触覚提示システム100では、触覚提示装置2は、情報処理装置1と連携し、情報処理装置1又は他の表示装置やスピーカ等を用いて画像及び音声を出力させつつ、制御により多様な触覚を触覚提示装置2で出力させる。例えば、情報処理装置1は、図1に示すような複数のボタン401,402を含む画面をサーバ装置3で記憶している配信データ311から取得して表示部14に表示した場合、ボタン401,402それぞれに対応する異なる触覚を触覚提示装置2から出力させる。
【0015】
図2は、情報処理装置1の構成を示すブロック図である。情報処理装置1は、処理部10、記憶部11、第1通信部12、第2通信部13、表示部14、音声出力部15及び操作部16を備える。処理部10は、CPU(Central Processing Unit )及び/又はGPU(Graphics Processing Unit)を用いたプロセッサである。処理部10は、記憶部11に記憶されている情報処理プログラムP1に基づき、触覚提示装置2からの触覚提示処理と、視覚情報の表示及び聴覚情報の出力を実行する。
【0016】
記憶部11は、フラッシュメモリ、SSD等の不揮発性メモリを用いる。記憶部11は、情報処理プログラムP1と、他のアプリケーションプログラムP22と、後述の触覚データベース(DB:Data Base )110と、その他、処理部10が参照するデータとを記憶する。情報処理プログラムP1は、記憶媒体8に記憶されている情報処理プログラムP8を処理部10が読み出して記憶部11に複製したものであってもよい。情報処理プログラムP1は、第1通信部12を介してサーバ装置3又は他のプログラムサーバ装置からダウンロードして実行可能に記憶したものであってもよい。アプリケーションプログラムP22は、情報処理装置1上で動作可能な多様なアプリケーションである。
【0017】
記憶部11は、複数のアイコンに対応する複数の触覚パターンについて触覚DB110を記憶する。触覚DB110は、触覚パターンを識別するパターンIDに対応付けて、触覚提示装置2における変位部202の変位データ(角度)毎に、その変位において出力すべき触覚データを格納している。触覚DB110に含まれる触覚データは、逐次、サーバ装置3から画面データを取得する都度、サーバ装置3から共に取得するものであってもよいし、予め記憶されているものであってもよい。
【0018】
記憶部11は、表示部14に表示させる視覚データ(画像、動画、テキストデータ)を記憶する。視覚データには、単に表示させる画像や文字のみならず、ウィンドウ、アイコン、ボタン等、操作部16での操作の対象であるGUI(Graphic User Interface)を構成する画像データやテキストデータが含まれる。それらのGUIのGUI部品として表示され得る視覚データには、画像IDが割り当てられている。
【0019】
記憶部11は、音声出力部15から出力させる聴覚データ(音声、効果音)を記憶する。聴覚データは、上述のGUI部品同様に、アイコンやボタン等の選択に応じて出力される効果音が含まれる。それらのGUIの一部となる聴覚データには、視覚データと同様に、音声IDが割り当てられている。
【0020】
記憶部11は、上述した触覚データ、視覚データ及び聴覚データを、1つのGUI部品(例えばボタン)を構成する要素としてセットで記憶してもよい。例えば、特定のアイコンについて、視覚データの画像ID、触覚データのパターンID、及び聴覚データの音声IDが、セットを識別する識別データに対応付けられて記憶される。処理部10は、表示する画面に特定のアイコンが含まれる場合、その特定のアイコンを識別する識別データに対応付けられた画像IDのアイコン画像を表示する。更に処理部10は、触覚提示装置2で変位部202に対する操作が行なわれたことに応じて同一のセットの触覚データによって触覚を提示させ、変位部202の変位(角度)に応じて同一のセットの効果音を音声出力部15から出力させる。
【0021】
第1通信部12は、インターネット又はキャリアネットワークを含むネットワークNを介したサーバ装置3との通信を実現する。第1通信部12は具体的には、キャリアネットワークと接続する無線通信デバイスであってもよいし、WiFi用の無線通信デバイスであってもよい。処理部10は、第1通信部12によってサーバ装置3との間でデータを送受信できる。
【0022】
第2通信部13は、近距離無線通信、例えばBluetooth(登録商標)の通信モジュールである。処理部10は、第2通信部13によって触覚提示装置2との間でデータを送受信できる。
【0023】
表示部14は、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ等のディスプレイである。表示部14は例えば、タッチパネル内蔵型ディスプレイである。処理部10は表示部14に、各種アプリケーションプログラムP22の操作画面やコンテンツを表示する。
【0024】
音声出力部15は、スピーカ等を含む。処理部10は、各種アプリケーションプログラムP22のコンテンツとしての音楽や、操作画面のBGMや効果音を出力する。
【0025】
操作部16は、処理部10との間で入出力が可能な物理的なUIである。操作部16は例えば、表示部14内蔵のタッチパネルである。操作部16は、無線により接続されるマウスであってもよい。操作部16は、ゲームコントローラであってもよい。操作部16は、物理ボタンを含んでもよい。操作部16は、情報処理装置1の傾き、触覚提示装置2に設けられる加速度センサやジャイロセンサを含んでもよい。操作部16は、音声入力部を用いてもよい。
【0026】
図3は、触覚DB110の内容例を示す説明図である。触覚DB110は、パターンIDに対応付けて、変位部202の変位量(角度)毎の触覚提示装置2のMRFデバイス24への電流の電流値を触覚データとして格納している。電流値に限らず、電圧値等であってもよい。図3には、触覚データ(パターンID:T001)と、触覚データ(パターンID:T002)とが例示されている。触覚データは、触覚データで表現される触覚がどのような文字表現に相当するものなのかを、括弧書きに示すように検索用に含んでもよい。図3の例では、パターンID:T001の触覚データは、「ぷにぷに」、「ぷるぷる」、「ゼリー」という文字表現に相当するものであることが読み取り可能である。同様にしてパターンID:T002の触覚データは、「とげとげ」、「チクチク」、「とがり」という文字表現に相当する。
【0027】
触覚DB110は、図3に示すように、変位量全てに対して電流値がゼロ又は微小である触覚データ(ゼロテーブルともいう)を含む(パターンID:T999)。ゼロテーブルは、後述の処理で情報処理装置1が使用する際に逐次作成されてもよい。ゼロテーブルは、触覚提示装置2において触覚の提示を中止する(感触なし)ために用いられる。
【0028】
触覚DB110に格納される触覚データは、上述したように、触覚提示装置2のMRFデバイス24に代替して、モータやピエゾ素子等による振動を採用した場合、GUI部品のどこに触れているかという操作内容に対応付けた電圧値又は電流値等の制御データであってもよい。この場合、GUI部品を操作対象としている時間の長さを操作量とし、操作量に応じた制御データが、触覚データとして格納されてもよい。タッチパネル内にモータ、ピエゾ素子を用いて振動や、超音波振動又は静電気力の変調によって触覚を提示する場合も同様に、GUI部品のどこに触れているか、また触れている期間の長さを操作内容や操作量として、操作内容や操作量に対応する電圧値、電流値、変調信号の位相などが触覚データとして格納されてもよい。
【0029】
図4は、GUI部品のセットの内容例を示す説明図である。記憶部11は、図4に示すようなセットテーブル111を記憶してもよい。図4に示すセットテーブルの例では、「ぷにぷにデザイン」のボタン(p-button)は、図3に示したパターンID:T001の触覚データと、「ぷにぷにデザイン」のボタン画像データ(puni-button )の画像IDとが対応付けられていることが示されている。ボタン画像データは、例えばアニメーション画像(動画)である。静止画像であってもよいし、複数のフレーム画像に分けられており、変位量毎に設定されたフレーム画像の集合であってもよい。画像IDではなく、ボタン画像データが直接的にセットテーブル111に含まれてもよい。図4の例では更に、「ぷにぷにデザイン」のボタン(p-button)は、「ぷにぷにデザイン」に対応する「ぷに」と感じさせる効果音データ(例えば、「ポヨン」「プルン」と聴こえるような効果音)の音声ID(puru-audio)が対応付けられていることが示されている。
【0030】
図4では、同様に、「とげとげデザイン」のボタン(t-button)は、図3に示したパターンID:T002の「チクチク」の触覚データと、「とげとげデザイン」の画像データの画像ID(toge-button )とが対応付けられていることが示されている。また、図4の例では、「とげとげデザイン」のボタン(t-button)は、「とげとげデザイン」に対応する「チクチク」と感じさせる効果音データ(例えば、金属等の固体の衝突音や、短いパルス音)の聴覚ID(toge-audio)が対応付けられていることが示されている。
【0031】
図5は、触覚提示装置2の構成を示すブロック図である。触覚提示装置2は、図1に示したように、扁平な有底円筒状の把持体200に周方向に一部沿うような湾曲部を有する帯状平板の変位部202を設けて構成される。変位部202は、それ自体が撓むことが可能な素材であるが、剛性の高い素材を採用し、把持体200と支軸を介して回動可能に支持されていてもよい。変位部202の先端の外側の面には、布テープ状の結束具203が設けられている。変位部202の先端の内側面は、把持体200内部に収容されているMRFデバイス24のロータの回転軸と連結するリンク機構204が設けられている。変位部202には、その表面にシリコンラバーや毛並みを持つもの等、多様な感触を加えた素材等が取り付けられていてもよい。
【0032】
操作者は図1に示したように、把持体200を例えば親指と中指とで把持しつつ、人差し指等の指を変位部202に沿わせて結束具203に人差し指を差し込んで使用する。操作者は人差し指を押し込むように変位部202を動かすことができ、また、人差し指を伸ばして把持体200から変位部202を遠ざけるように動かすことができる。
【0033】
触覚提示装置2は、図1に示すような把持体200と、制御部20、記憶部21、通信部22、電源部23、MRFデバイス24、センサ25を備える。把持体200は、MRFデバイス24を内蔵する。制御部20、記憶部21、通信部22、及び電源部23は把持体200と一体に設けられてもよいし、把持体200と無線又は有線により接続される別体に設けられてもよい。
【0034】
制御部20は、CPU、MPU(Micro-Processing Unit )等のプロセッサ、ROM(Read Only Memory)、RAM(Random Access Memory)等のメモリを含む。制御部20は、例えばマイクロコントローラである。制御部20は、内蔵ROMに記憶されている制御プログラムP2に基づいて各構成部を制御し、触覚提示を実現する。
【0035】
記憶部21は、制御部20に対する補助記憶メモリであり、MRFデバイス24の制御データ(触覚データ)を書き換え可能に記憶する。
【0036】
通信部22は、近距離無線通信、例えばBluetooth(登録商標)の通信モジュールである。制御部20は、通信部22によって情報処理装置1との間でデータを送受信できる。
【0037】
制御部20は、電源部23、MRFデバイス24及びセンサ25とI/Oを介して接続されており、相互に信号を授受する。
【0038】
電源部23は、充電可能なバッテリを含む。電源部23は、ON状態になると各構成部及びMRFデバイス24へ電力を供給する。
【0039】
MRFデバイス24は、円板状のロータを、隙間を開けて挟むようにして設けられたヨークを有し、ヨークに設けられたコイルに制御電流を流して磁界を発生させ、隙間に封入されている磁気粘性流体の粘度(ずり応力)を制御してロータの回転抵抗を与える。制御部20が、MRFデバイス24への制御電流の大きさを制御すると即座に回転抵抗が変更される。
【0040】
センサ25は、変位部202の位置(角度)を測定して制御部20へ出力する。センサ25は変位部202の変位を、角度として測定して出力する。センサ25は、ジャイロセンサ、加速度センサ等の複数のセンサから構成されてもよい。
【0041】
図5に示すように構成される触覚提示装置2では、変位部202が操作者によって操作されると、変位部202の変位がリンク機構204を介してMRFデバイス24のロータの回転軸への回転方向に伝達される。回転軸は、MRFデバイス24が動作していない場合、即ち制御電流がゼロである間は、自由に回転するため、変位部202は抵抗なく変動する。一方で、MRFデバイス24が動作し、制御電流がゼロでない場合には、MRFデバイス24へ流れる電流の大きさに応じてMRFデバイス24内部の磁気粘性流体の粘度(ずり応力)が変更される。制御部20が、MRFデバイス24への電流の大きさを連続的に変更したり、電流値を所定の周波数で振動させたりすることで、変位部202に対する抵抗の力やその出現方法を変更できる。
【0042】
このようにして触覚提示装置2は、変位部202の押し込む量に応じて抵抗(電流値)を変動させてプルンとした触覚を提示したり、押し込む量が大きくなるにつれて抵抗を大きくしてギュッとした固さの触覚を提示したり、抵抗の大小の繰り返しや矩形波的なON・OFFの繰り返しによってチクチクとした触覚を提示したりすることができる。
【0043】
図6は、サーバ装置3の内部構成を示すブロック図である。サーバ装置3は、情報処理装置1との間でデータの送受信が可能なWebサーバである。以下の説明において、サーバ装置3は1台のWebサーバとして説明するが、複数台のサーバコンピュータをネットワークで通信接続して分散処理させる態様であってもよい。
【0044】
サーバ装置3は、処理部30、記憶部31、及び通信部32を備える。処理部30は、CPU及び/又はGPUを用いたプロセッサである。処理部30は、記憶部31に記憶されているサーバプログラムP3に基づき、Webサーバとしての処理を実行する。
【0045】
記憶部31は、例えばハードディスク、フラッシュメモリ、SSD(Solid State Drive )等の不揮発性メモリを用いる。記憶部31は、処理部30が参照するデータを記憶する。記憶部31は、サーバプログラムP3を記憶する。サーバプログラムP3は、記憶媒体9に記憶されているサーバプログラムP9を処理部30が読み出して記憶部31に複製したものであってもよい。サーバプログラムP3は、通信部32を介して他のプログラムサーバ装置から処理部30がダウンロードして記憶したものであってもよい。
【0046】
記憶部31は、複数の情報処理装置1へ配信する配信データ311を記憶する。配信データ311は、例えばWebページ、Webアプリケーションを含む。Webページ又はWebアプリケーションの画面は、GUIを含む。配信データ311はそれらのGUIの設定、GUIの部品の画像、音声を含む。配信データ311は、Webページ又はWebアプリケーションの画面内のオブジェクトに対応する触覚データそのものを含む。配信データ311は、触覚データを識別するパターンIDのみを含んでもよい。
【0047】
通信部32は、ネットワークNを介した情報処理装置1との通信を実現する。通信部32は具体的には、ネットワークカードである。通信部32は、キャリアネットワークN2と接続する無線通信モジュールであってもよいし、WiFi用の無線通信モジュールであってもよい。処理部30は、通信部32によって情報処理装置1との間でデータを送受信できる。
【0048】
このように構成される触覚提示システム100における処理について、以下に説明する。図7は、触覚提示システム100における提示処理の一例を示すフローチャートである。操作者が情報処理プログラムP1を起動させ、触覚提示装置2の電源をONとすると、情報処理装置1の処理部10が、第2通信部13により触覚提示装置2と通信接続を確立し、以下の処理を開始する。
【0049】
処理部10は、操作者の操作に応じて、サーバ装置3から提示される画面のデータをサーバ装置3へ要求する(ステップS101)。ステップS101において処理部10は、サーバ装置3を運営する事業者から提供されている特定のアプリケーションの起動を受け付け、その特定のアプリケーション(アプリX)のホーム画面(ポータル画面)を表示させる。アプリXは、ゲームでもよいし、メッセージアプリケーションでもよいし、検索アプリケーションでもよいし、地図アプリケーションでもよい。アプリXのホーム画面(ポータル画面)は、アプリXのアプリケーションプログラムP22と共に記憶されている部品に加え、サーバ装置3から逐次、Webベースで取得するコンテンツ(お知らせ、通知、等)を含むので、処理部10は、そのデータをサーバ装置3へ要求する。処理部10は、ホーム画面に限らず、アプリXの操作に応じて画面を遷移させる都度、ステップS101の処理を実行する。
【0050】
サーバ装置3は、情報処理装置1からの要求を受信し(ステップS301)、情報処理装置1で表示される画面に含まれるGUI部品のデータを配信データ311から読み出す(ステップS302)。ステップS302においてサーバ装置3の処理部30は、要求されている画面が「ぷにぷに」のボタンと「とげとげ」のボタンとをいずれも含む場合、セットの識別データ「p-button」に対応付けられているデータ及び「t-button」に対応付けられているデータの両方を読み出す。具体的には処理部30は、「p-button」の触覚データ(パターンID:T001)、視覚データ(画像ID:puni-button)、及び聴覚データ(音声ID:puru-audio)と、「t-button」の触覚データ(パターンID:T002)、視覚データ(画像ID:toge-button)、及び聴覚データ(音声ID:toge-audio)と、を配信データ311から読み出す。
【0051】
サーバ装置3の処理部30は、読み出したGUI部品のデータを含む画面のデータを、要求元の情報処理装置1へ通信部32から送信する(ステップS303)。
【0052】
情報処理装置1は、第2通信部13から画面のデータを受信し(ステップS102)、受信した画面のデータを記憶する(ステップS103)。ステップS103において処理部10は、受信したデータのうち、画面に含まれるGUI部品の触覚データを触覚DB110に追記する。受信したデータに、2種類のGUI部品(ボタン)が含まれている場合、処理部10は、2種類の触覚データを触覚DB110に記憶する。受信した触覚データが元々触覚DB110に記憶されていた触覚データである場合、処理部10は、この処理をスキップしてもよい。
【0053】
処理部10は、画面を表示部14に表示する(ステップS104)。表示される画面は操作可能なGUIであって、ボタン、アイコン等の選択可能なGUI部品を含む。処理部10は、操作部16により、画面に含まれるGUI部品のうちのいずれかに対する操作であるかを決定する(ステップS105)。ステップS105において処理部10は、複数のオブジェクトのいずれに対する操作であるかについて、本実施形態では、画面上に表示される所謂ポインタ又はカーソル等と呼ばれるオブジェクトの操作位置が、いずれのGUI部品の操作範囲内にあるかによって決定する。情報処理装置1の処理部10は、ステップS105においてタッチパネル上で操作者になぞられることでオブジェクトを移動させ、オブジェクトの操作位置と各GUI部品に対応する操作範囲との関係からGUI部品を決定する。処理部10は、タップで選択を受け付けてもよい。
【0054】
処理部10は、決定されたGUI部品の識別データに対応する触覚データ、視覚データ及び聴覚データを記憶したデータから取得する(ステップS106)。処理部10は、取得したデータのうち、触覚データを触覚提示装置2へ送信する(ステップS107)。触覚提示装置2では、送信された触覚データに基づき、後述の図8に示す処理手順を実行する。
【0055】
触覚提示装置2にて変位部202に対する操作が行なわれると、処理部10は、触覚提示装置2から送信される変位量を操作状態として受信する(ステップS108)。処理部10は、受信した変位量に対応する画像及び音声を、ステップS106で取得した視覚データ及び聴覚データに基づき、表示部14に画像を表示し、音声出力部15から音声を出力させる(ステップS109)。ステップS109において処理部10は、後述の操作完了と判断される変位量に至る前の変位量にて、puni-buttonあるいはtoge-buttonに対応するアニメーション画像の再生を開始し、音声を出力してもよい。変位部202又はGUI部品への操作期間の長さを操作状態として受信してもよい。
【0056】
処理部10は、受信した変位量に基づきGUI部品に対する操作が確定したか否かを判断する(ステップS110)。ステップS110において処理部10は、所定の変位量に到達したか否かを判断してもよいし、所定の変位量に到達し、且つ、変位量の変動スピードが所定速度以上であるか否かで判断してもよい。MRFデバイス24を用いた触覚提示装置2であれば、変位量が90°に達成した場合には操作が確定したと判断できる。処理部10は、所定の変位量へ2回到達したか否か(ダブルクリックに相当)を判断してもよい。
【0057】
受信した変位量に基づきGUI部品に対する操作が確定していないと判断された場合(S110:NO)、処理部10は、処理をステップS108へ戻す。触覚提示装置2から変位量が送信される都度、情報処理装置1は、それに対応する画像及び音声を出力する。処理部10は、操作が確定していない間に、操作位置が移動して、即ちポインタ又はカーソル等の操作位置が移動して、操作対象のGUI部品が変わる場合、キャンセル操作であるとして処理をステップS105へ戻してもよい。
【0058】
受信した変位量に基づきGUI部品に対する操作が確定したと判断された場合(S110:YES)、処理部10は当該GUI部品に対応付けられた所定の処理(機能)を実行する(ステップS111)。ステップS111では例えば、処理部10は、puni-buttonが選択された場合、ぷるぷるのキャラクタを選択した場合の処理を実行し、toge-buttonが選択された場合、トゲトゲのキャラクタを選択した場合の処理を実行する。所定の処理を実行する前に処理部10は操作が確定した特定のpuni-buttonあるいはtoge-buttonに対応するアニメーション画像の再生を開始し、音声を出力してもよい。処理部10は、ゼロテーブルの触覚データを送信し(ステップS112)、処理を終了する。GUI部品への操作の確定により、次の画面(Webページ)への遷移が実行されると、処理部10は図7に示した処理手順をステップS101から再度開始する。
【0059】
図8は、触覚提示装置2における処理手順の一例を示すフローチャートである。触覚提示装置2の制御部20は、起動して情報処理装置1と通信接続が確立されると、以下の処理を実行する。
【0060】
触覚提示装置2は、通信接続中の情報処理装置1から触覚データを受信すると(ステップS201)、記憶部21に記憶する(ステップS202)。ステップS201で受信する触覚データは、上述した変位量毎の電流値の一覧テーブルであり、ゼロテーブルであってもよい。
【0061】
触覚提示装置2の制御部20は、センサ25から出力される変位部202の変位量(角度)に対応する信号をサンプリングする(ステップS203)。制御部20は、サンプリングにより得られる変位量を、情報処理装置1へ送信する(ステップS204)。変位量(角度)は、上端からの相対的な変位量でもよいし、センサ25によって検出された絶対位置でもよい。
【0062】
制御部20は、サンプリングにより得られる変位量に対応する電流値を、記憶部21に記憶した触覚データから参照し(ステップS205)、参照した電流をMRFデバイス24へ出力する(ステップS206)。
【0063】
制御部20は、新たに他の触覚データ(ゼロテーブルを含む)を受信したか否かを判断し(ステップS207)、受信していないと判断された場合(S207:NO)、処理をステップS203へ戻す。
【0064】
制御部20は、新たに他の触覚データを受信したと判断した場合(S207:YES)、処理をステップS202へ戻して他の触覚データを記憶部21に記憶し(S202)、ステップS203-S206の処理を繰り返し実行する。
【0065】
上述した図7の情報処理装置1の処理手順と、図8の触覚提示装置2における処理手順とにより、画面に含まれるボタン、アイコン等のGUI部品に対し、異なる触覚を提示し、新たなUIとして機能する。
【0066】
図9及び図10は、触覚提示システム100における触覚提示の例を示す概要図である。図9は、表示部14に表示される画面例を示す。図9及び図10に示す画面141は、触覚提示装置2との連携によって実現されるゲームの選択画面である。画面141は、ぷるぷるのゼリーやスライムのような身体を持つキャラクタを選択するためのボタン401と、トゲトゲの体表を持つキャラクタを選択するためのボタン402とを含む。画面141には、操作者の操作位置を示すカーソルアイコン403が表示されている。図9は、ボタン401を選択した場合のボタン401の画像の変化及び音声の出力タイミングを示し、図10は、ボタン402を選択した場合のボタン402の画像の変化及び音声の出力タイミングを示す。
【0067】
図9に示す例では、カーソルアイコン403の操作によって選択されたボタン401について、触覚提示装置2の変位部202における変位量に対応してアイコン画像が変化し、音声が出力される工程を示す。図9に示すように、変位部202の押し込み量に応じて、アイコン画像が拡縮するように、揺れるように変化する。変位量(角度)が75[°]で、操作完了と判断される変位量に至っているときには、大きく潰れたように変化している。触覚提示装置2では、変位部202の押し込み量に応じて、ふんわりとしたゼリーのような触覚を提示する。押し込むほど弾力が強くなってもよい。
【0068】
図10に示す例では、カーソルアイコン403の操作によって選択されたボタン402について、触覚提示装置2の変位部202における変位量に対応してアイコン画像が変化し、音声が出力される工程を示す。図10に示すように、変位部202の押し込み量に応じて、アイコン画像に含まれるトゲの大きさが変化する。変位量(角度)が25[°]であるときには一部のトゲは大きくなり、他の一部のトゲは小さくなっている。変位量(角度)が50[°]であるときには全てのトゲが大きくなっている。変位量(角度)が75[°]で、操作完了と判断される変位量に至っているときにはトゲが消えている。触覚提示装置2では、変位部202の押し込み量に応じて、チクチクとしたカクカクとした凹凸の激しい物体に対する触覚を提示する。
【0069】
図9及び図10では、触覚データのみならず、これに応じてGUI部品のボタン401及びボタン402のいずれも、アイコン画像が変化する構成とした。なお本開示の触覚提示システム100では、GUI部品によって触覚提示装置2にて提示される触覚が変わるところを必須とするが、アイコン画像及び音声の変化・出力は必須ではない。また、図9及び図10に示したボタン401及びボタン402のいずれも、同一の角丸の矩形状のボタン画像であって、GUI部品(機能)によって触覚のみが異なってもよい。ボタン401が「はい」の選択肢、ボタン402が「いいえ」の選択肢であって、「はい」を操作対象としている間、触覚提示装置2から「ぷにぷに」とした柔らかい触覚(肯定的だと感じる触覚)が提示され、「いいえ」を操作対象としている間、触覚提示装置2から「とげとげ」としたチクチクした触覚(否定的だと感じる触覚)が提示されてもよい。柔らかい触覚は、MRFデバイス24であれば電流がなだらかに変化すると再現され、チクチクした触覚は、電流が急激に上下動(高周波)すると再現される。
【0070】
また、上述したように、情報処理装置1は、サーバ装置3から触覚データを逐次受信せず、予め触覚DB110に記憶されている触覚データの指定を受けて触覚提示装置2へ送信する処理を実行してもよい。図11は、触覚提示システム100における提示処理の他の一例を示すフローチャートである。図11に示す処理手順のうち、図7に示した処理手順と共通する手順には同一のステップ番号を付して詳細な説明を省略する。
【0071】
図11に示す処理手順では、サーバ装置3は、受信した要求に応じて、情報処理装置1で表示される画面に含まれるGUI部品のデータのうち、触覚データについてはパターンIDを配信データ311から読み出す(ステップS322)。処理部30は、視覚データ及び聴覚データについても画像ID及び音声IDを読み出してもよい。
【0072】
サーバ装置3の処理部30は、触覚データのパターンIDを含む画面のデータを、情報処理装置1へ通信部32から送信する(ステップS323)。
【0073】
情報処理装置1では、第2通信部13からパターンIDを含む画面のデータを受信し(ステップS122)、受信したパターンIDを含む画面のデータを記憶する(ステップS123)。
【0074】
GUI部品の選択を受け付けると(S105)、処理部10は、ステップS106では、選択されたGUI部品の触覚データのパターンIDを用いて、記憶部11に記憶されている触覚DB110から触覚データを取得する(ステップS126)。ステップS126において処理部10は、ステップS123で記憶した視覚データ及び聴覚データを取得する。記憶部11に予め、視覚データ及び聴覚データも記憶している場合には、処理部10は、画像ID及び音声IDに基づき、記憶部11の視覚データ及び聴覚データを読み出して取得してもよい。
【0075】
図7及び図11に示した処理手順では、処理部10は、アプリXの画面が変わる都度、画面に含まれるWebベースのコンテンツをサーバ装置3へ要求した。しかしながら、画面を表示部14に表示するためのGUIのデータについても全て、記憶部11に記憶されており、サーバ装置3からその都度配信データを取得しない構成としてもよい。
【0076】
触覚提示装置2に、三軸の加速度センサを付加して、触覚データを更に複雑化させてもよい。例えば、触覚データを、変位量毎の電流値を、触覚提示装置2の水平方向の動き別に記憶しておき、操作者が、変位部202の押し込みと同時に、触覚提示装置2を略水平方向に動かすと触覚がそれに応じて変化するように制御されてもよい。
【0077】
(変形例)
変形例では、情報処理装置1が、触覚データが予め対応付けられていないGUIの一般的アプリケーションプログラムP22に基づく画面を表示する場合の処理について説明する。
【0078】
図12及び図13は、変形例の触覚提示システム100における提示処理の他の一例を示すフローチャートである。図12及び図13に示す処理手順のうち、図7に示した処理手順と共通する手順には同一のステップ番号を付して詳細な説明を省略する。
【0079】
処理部10は、操作者の操作に応じて、サーバ装置3から提示される画面のデータをサーバ装置3へ要求する(S101)。変形例では、ステップS101において処理部10は、不特定のWebページをサーバ装置3へ要求する。
【0080】
サーバ装置3は、情報処理装置1からの要求を受信し(S301)、処理部30は、触覚データを含まないがGUI部品の視覚データを少なくとも含む画面のデータを配信データ311から読み出す(ステップS332)。処理部30は、読み出したGUI部品のデータ(視覚データ)を含む画面のデータを、要求元の情報処理装置1へ通信部32から送信する(ステップS333)。
【0081】
情報処理装置1は、第2通信部13から画面のデータを受信し(ステップS102)、受信した画面のデータを一時的に記憶する(ステップS133)。処理部10は、記憶した画面のデータから、GUI部品の有無、数を特定し(ステップS134)、画面に含まれるGUI部品に、触覚データのパターンIDを付与する(ステップS135)。
【0082】
処理部10は、受信したデータに基づいて画面を表示し(S104)、操作部16により、画面に含まれるGUI部品のうちのいずれかの選択を受け付ける(S105)。処理部10は、選択されたGUI部品に対して付与したパターンIDの触覚データ、選択されたGUI部品の視覚データを取得する(ステップS136)。処理部10は、選択されたGUI部品に対応する触覚データを触覚提示装置2へ送信する(S107)。以後の処理は、図7に示した処理手順と同様である。
【0083】
このように、特定のアプリXに基づき表示部14に表示されるGUIのみならず、上述のサーバ装置3以外から提供されるアプリケーションプログラムP22であっても、情報処理プログラムP1に基づいて触覚データを割り当ててインタフェースを区別させることも可能である。
【0084】
スマートフォンやタブレット端末のタッチパネルにユーザが触れた場合、その触れた箇所に存在するボタンやアイコン等タップ可能なインタフェースの名称(機能名)を自動的に読み上げるプログラムが従前から存在している。これにより視力の弱い人物はスマートフォンやタブレット端末を使用可能である。変形例で示した触覚提示システム100により更に、汎用的なアプリケーションプログラムP22で表示される画面内の選択可能なインタフェースについても触覚を変え、視力の弱い人物がインタフェースを適切に選択するように使用することも可能となる。
【0085】
触覚提示装置2は、上述したように、表示部14に内蔵されるタッチパネルである操作部16に対して触覚を提示するものを利用してもよい。例えば触覚提示装置2は、処理部10から与えられる触覚データに基づき、操作部16(タッチパネル)を振動させるか、摩擦抵抗を変えて凹凸の触覚を提示させる。図14は、触覚提示システム100における触覚提示の他の例を示す概要図である。図14は、図9同様に、表示部14に表示される画面141の例を示し、画面141は、ボタン401及びボタン402と、操作者の操作位置を示すカーソルアイコン403とを含む。
【0086】
図14に示す例では、カーソルアイコン403の位置がボタン401とボタン402とのいずれの操作範囲に重複するかによって、いずれのボタンに対する操作なのかを処理部10が決定し、触覚データを取得し、操作部16を振動させる触覚提示装置2へ出力する。図14では、図14Aから図14Dに向けて、カーソルアイコン403の移動を示す。図14Bでは、カーソルアイコン403はボタン401の操作範囲内に位置している。カーソルアイコン403がボタン401の操作範囲内にある場合、処理部10は、ボタン401用の振動(例えば振幅が緩やかに変動する)を生じさせる。操作者の指が、ボタン401の操作範囲内の位置でタッチパネルに触れている間のみ振動が生じてもよいし、触れ始めてから所定時間経過すると振動が停止するように制御されてもよい。図14A及び図14Cでは、カーソルアイコン403はボタン401の操作範囲外に位置しているので、例えばゼロテーブルが触覚提示装置2へ出力されており、振動は生じない。図14Dでは、カーソルアイコン403はボタン402の操作範囲内に位置している。カーソルアイコン403がボタン402の操作範囲内にある場合、処理部10は、ボタン402用の振動(例えばパルス的な振動)を生じさせる。
【0087】
このような触覚提示装置2内蔵の情報処理装置1の制御により、操作者は、ボタン401及びボタン402を含むGUIを表示している表示部14の上をなぞると、視認せずとも、いずれのボタンを操作しているかを触覚によって認識できる。操作が確定したと判断されるような操作、例えばダブルタップ、又はMRFデバイス24を持つ本開示の触覚提示装置2のような別装置でのクリック操作がなされるまでは、ボタン401及びボタン402に触れるような操作をしてもよい。タッチパネルに圧力を検出する機能が備わっている場合、所定値以上の圧力の加わるような操作があったときに、処理部10が操作が確定したと判断できる。この例では、操作が確定したと判断するまでは圧力に応じて触覚を提示する。
【0088】
なお、上記の実施形態では、それぞれ異なる機能を有するボタン401及びボタン402が同一画面内に同時に表示されているが、それぞれ別の画面に表示されている場合であっても、情報処理装置1が異なる触覚を提示させる制御を行なってもよい。
【0089】
上述のように開示された実施の形態は全ての点で例示であって、制限的なものではない。本発明の範囲は、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれる。
【符号の説明】
【0090】
100 触覚提示システム
1 情報処理装置
10 処理部
11 記憶部
14 表示部
141 画面
401,402 ボタン(GUI部品)
15 音声出力部
P1 情報処理プログラム(コンピュータプログラム)
2 触覚提示装置
20 制御部
202 変位部
21 記憶部
22 通信部
24 MRFデバイス
25 センサ
3 サーバ装置
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14