IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ レノボ・シンガポール・プライベート・リミテッドの特許一覧

特許7627801情報処理システム、情報処理方法、およびプログラム
<>
  • 特許-情報処理システム、情報処理方法、およびプログラム 図1
  • 特許-情報処理システム、情報処理方法、およびプログラム 図2
  • 特許-情報処理システム、情報処理方法、およびプログラム 図3
  • 特許-情報処理システム、情報処理方法、およびプログラム 図4
  • 特許-情報処理システム、情報処理方法、およびプログラム 図5
  • 特許-情報処理システム、情報処理方法、およびプログラム 図6
  • 特許-情報処理システム、情報処理方法、およびプログラム 図7
  • 特許-情報処理システム、情報処理方法、およびプログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2025-01-29
(45)【発行日】2025-02-06
(54)【発明の名称】情報処理システム、情報処理方法、およびプログラム
(51)【国際特許分類】
   G06F 3/041 20060101AFI20250130BHJP
   G06F 3/03 20060101ALI20250130BHJP
   G06F 3/01 20060101ALI20250130BHJP
【FI】
G06F3/041 480
G06F3/03 400Z
G06F3/01 560
【請求項の数】 10
(21)【出願番号】P 2024068325
(22)【出願日】2024-04-19
【審査請求日】2024-04-19
(73)【特許権者】
【識別番号】505205731
【氏名又は名称】レノボ・シンガポール・プライベート・リミテッド
(74)【代理人】
【識別番号】100161207
【弁理士】
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100206081
【弁理士】
【氏名又は名称】片岡 央
(72)【発明者】
【氏名】吉冨 圭一
【審査官】槙 俊秋
(56)【参考文献】
【文献】米国特許出願公開第2016/0170504(US,A1)
【文献】米国特許出願公開第2017/0153763(US,A1)
【文献】米国特許出願公開第2011/0267318(US,A1)
【文献】特許第4966322(JP,B2)
【文献】特開2019-144964(JP,A)
【文献】特開2018-5491(JP,A)
【文献】特開2014-222492(JP,A)
【文献】国際公開第2015/045482(WO,A1)
【文献】国際公開第2023/163114(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01-3/18
(57)【特許請求の範囲】
【請求項1】
操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出部と、
前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御部と
を備える情報処理システム。
【請求項2】
前記触覚再現部は、フィードバック信号の入力に応じて振動を発生させる振動部を含む
請求項1に記載の情報処理システム。
【請求項3】
前記触覚再現部は、フィードバック信号の入力に応じて音を出力させる音出力部を含む
請求項1に記載の情報処理システム。
【請求項4】
前記第2フィードバック制御は、インパルス信号としての第2フィードバック制御対応のフィードバック信号を前記触覚再現部に入力させる制御を含む
請求項1から3のいずれか一項に記載の情報処理システム。
【請求項5】
前記第2フィードバック制御は、前記ペン型入力デバイスのペン先が移動を開始したタイミングに応じた所定時間において所定のピークレベルを有するようにされた第2フィードバック制御対応のフィードバック信号を前記触覚再現部に入力させる制御を含む
請求項1から3のいずれか一項に記載の情報処理システム。
【請求項6】
前記接触パラメータは、前記操作対象面を前記ペン先が移動する速度と、前記操作対象面に対する前記ペン先の圧力と、前記操作対象面を前記ペン先が移動する方向と、前記操作対象面に対するペン型入力デバイスの傾き角度とのうちのすべてまたは一部である
請求項1から3のいずれか一項に記載の情報処理システム。
【請求項7】
前記フィードバック制御部は、少なくとも前記接触パラメータのうちの前記圧力に基づいて、第2フィードバック制御対応のフィードバック信号のレベルを設定する
請求項6に記載の情報処理システム。
【請求項8】
前記フィードバック制御部は、少なくとも前記接触パラメータのうちの前記速度に基づいて、第1フィードバック制御対応のフィードバック信号のレベルを変更する
請求項6に記載の情報処理システム。
【請求項9】
情報処理システムにおける情報処理方法であって、
接触パラメータ検出部が、操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出ステップと、
フィードバック制御部が、前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御ステップと
を含む情報処理方法。
【請求項10】
情報処理システムにおけるコンピュータを、
操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出部、
前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御部
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
対話型ディスプレイシステムに対する入力にあたり、触覚アクチュエータを駆動した振動を発生させることで触覚フィードバックが可能とされたペン状のスタイラス(ペン型入力デバイス)を入力装置として用いることが知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】特表2017-537395号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ペン型入力デバイスにて振動が発せられることで、例えば紙等の筆記媒体にペン先を滑らせているときの触感が疑似的に得られることから、ペン型入力デバイスを用いて入力しているユーザは、筆記媒体に筆記しているときに近い感覚を得ることができる。
【0005】
ペン型入力デバイスを用いた入力にあたっては、できるだけ実物の筆記媒体に筆記しているときの感覚に近いことが好ましいという側面がある。
そこで、本発明は、上記した課題を考慮して、ペン型入力デバイスを用いた入力にあたり、現実に筆記媒体に筆記しているときの感覚に近づくようにすることを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決する本発明の一態様は、操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出部と、前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御部とを備える情報処理システムである。
【0007】
本発明の一態様は、情報処理システムにおける情報処理方法であって、接触パラメータ検出部が、操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出ステップと、フィードバック制御部が、前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御ステップとを含む情報処理方法である。
【0008】
本発明の一態様は、情報処理システムにおけるコンピュータを、操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出する接触パラメータ検出部、前記接触パラメータに基づいて、前記操作対象面に対する前記ペン型入力デバイスのペン先の接触状態を判定するようにされ、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しながら移動している移動状態であると判定しているときに、前記移動状態に対応する触覚を再現するように前記ペン型入力デバイスにおける触覚再現部を駆動させる第1フィードバック制御と、前記接触状態が前記ペン型入力デバイスのペン先が前記操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、前記移動開始状態に対応する触覚を再現するように前記触覚再現部を駆動させる第2フィードバック制御とを実行するフィードバック制御部として機能させるためのプログラムである。
【発明の効果】
【0009】
本発明によれば、ペン型入力デバイスを用いた入力にあたり、現実に筆記媒体に筆記しているときの感覚に近づけることができるとの効果が得られる。
【図面の簡単な説明】
【0010】
図1】本実施形態における情報処理システムの外観構成例を示す図である。
図2】本実施形態において筆記操作を開始する際の時間経過に応じたペン先の摩擦力の変化を示す図である。
図3】本実施形態におけるフィードバック制御の概要を説明する図である。
図4】本実施形態におけるパネル面上でのペン型入力デバイスのペン先の移動軌跡の一例を示す図である。
図5】本実施形態における情報処理装置とペン型入力デバイスのハードウェア構成例を示す図である。
図6】本実施形態における情報処理装置とペン型入力デバイスの機能構成例を示す図である。
図7】本実施形態におけるフィードバック信号による振動部と音出力部の駆動に対応する機能構成例を示す図である。
図8】本実施形態における情報処理装置とペン型入力デバイスとが触覚フィードバックに関連して実行する処理手順例を示すフローチャートである。
【発明を実施するための形態】
【0011】
図1は、本実施形態の情報処理システムの外観構成例を示している。同図に示されるように、本実施形態の情報処理システムは、情報処理装置100とペン型入力デバイス200とを有する。
【0012】
情報処理装置100は、ペン型入力デバイス200による入力操作に応じて情報処理を実行可能とされる。同図の情報処理装置100は、タブレット端末あるいはノート型パーソナルコンピュータ等とされた例を示している。
【0013】
情報処理装置100は、タッチパネル表示部30タッチパネル表示部30を備える。タッチパネル表示部30は、タッチパネルと表示部とが組み合わされた部位である。タッチパネル表示部30は、パネル面(表示面:操作対象面の一例)に画像を表示するとともに、パネル面に対してペン型入力デバイスや指等の操作体を接触させることによる操作が可能とされる。
【0014】
ペン型入力デバイス200は、ユーザが情報処理装置100のタッチパネル表示部30におけるタッチパネルに対して操作を行うのに用いるペン型の入力デバイスである。
ユーザは、ペン型入力デバイス200を把持し、ペン先をタッチパネル表示部30のパネル面に接触させるようにして移動させることで、文字、絵、図形等の手書き入力の操作を行うようにされる。
【0015】
なお、ペン型入力デバイス200を用いた操作として、タッチパネル表示部30に表示されているユーザインターフェース画像に対するポインティング操作なども可能とされてよい。
【0016】
なお、本実施形態のタッチパネル表示部30におけるタッチパネルによるペン型入力デバイス200の検出方式については特に限定されるものではないが、例えば静電容量方式や電磁誘導方式等を挙げることができる。以下の説明においては、静電容量方式が用いられる場合を例に挙げる。
【0017】
情報処理装置100には、ペン型入力デバイス200による入力操作に対応するアプリケーション(ペン操作対応アプリケーション)がインストールされている。
ペン操作対応アプリケーションは、例えばペン型入力デバイス200のペン先をタッチパネル表示部30に対して接触させて行う文字入力、絵描き等の手書き入力操作に応じて描画した文字や絵をタッチパネル表示部30に表示したり、操作により描画された文字や絵をデータ化する処理などを実行可能とされてよい。
【0018】
また、本実施形態の情報処理システムにおいて、ペン型入力デバイス200は、筆記に応じた操作(筆記操作)が行われているときに対応して振動および音(筆記音)を発する。ペン型入力デバイス200にて発せられる振動と筆記音により、ユーザは、例えば紙等の筆記媒体に筆記しているときに近い触覚が感じられることとなり、実物の筆記具により筆記媒体に筆記しているときに近い感覚を得ることが可能となる。
【0019】
以降の説明において、ペン型入力デバイス200により筆記操作が行われているときの振動と音の発生については、「触覚フィードバック」とも呼ぶ。
【0020】
次に、本実施形態における触覚フィードバックの概要について説明する。
図2は、ユーザが現実に筆記操作を開始する際の時間経過に応じた筆記具先端の摩擦力の変化を示している。時刻t0においては、ユーザが例えば用紙などの筆記媒体に筆記具(例えば鉛筆など)先端を接触させているが、まだ筆記具先端を移動させず静止させている状態にある。そして、ユーザは、時刻t0から或る時間を経過した時刻t1から、筆記の開始に応じて筆記媒体上で筆記具先端を移動させる操作を開始した。
ここで、筆記具先端を移動させる操作を開始するときには、筆記具先端が筆記媒体面に対して或る程度の力で押し当てられているように接触されていたことから静止摩擦力が生じる。このため、時刻t1から或る時間を経過する時刻t2までの期間においては、ユーザが筆記具先端を移動させるように力を加えていても、筆記具先端は筆記媒体上を移動せずに静止した状態を保ちつつ、静止摩擦力が時間経過とともに増加していく。
そして、時刻t2に至って筆記具先端が移動を開始すると、これまで増加していた静止摩擦力は急峻に減少し、筆記具先端の移動に応じた或る動摩擦力が生じる状態となる。このような摩擦力の変化は、現実の筆記において強めの振動や音(筆記音)として得られる。
【0021】
ペン型入力デバイス200のペン先の移動に際しては、一定のレベルで振動や音による触覚フィードバックを与えてもよいが、ペン先の移動状況に応じて触覚フィードバックのレベルを変更可能とされてよい。一例として、ペン先の移動速度が大きくなることに応じて触覚フィードバックのレベルも大きくなるように変更されてよい。
しかしながら、ペン先の移動速度に応じた触覚フィードバックのレベル変更では、ペン先の移動開始のタイミングでの移動速度は低いため、ペン先の移動開始のタイミングでの触覚フィードバックも小さい。つまり、ペン先の移動速度に応じた触覚フィードバックのレベル変更は、図2のように筆記具先端が移動を開始するタイミングにて瞬時的に生じる大きな静摩擦力から移動速度に応じた動摩擦力の変化を触覚フィードバックとして再現できていない。
【0022】
そこで、本実施形態においては、以下に図3に示すようにしてペン型入力デバイス200のペン先の移動に応じて触覚フィードバックの制御を行うようにされる。
図3において、線L1-1、L1-2は、本実施形態の触覚フィードバックに対応して出力される2つのフィードバック信号のレベルの変化を時間経過とともに示している。また、線L2は、ペン先について検出された移動速度の時間経過に応じた変化を示す。
時刻t10は、これまで静止した状態にあったペン型入力デバイス200のペン先がユーザの筆記操作に応じて移動を開始したタイミングである。時刻t10においてペン先の移動が開始されることに応じて、線L1-1として示すようにペン先の移動速度に応じて変化するレベルの第1フィードバック信号の出力が開始される。第1フィードバック信号は、ペン先の移動が停止する時刻t11に至ってゼロレベルとなって出力が停止される。
また、時刻t10においてペン先の移動が開始されることに応じて、線L1-2として示すように瞬時的にピークを有する第2フィードバック信号も出力される。
【0023】
このように、本実施形態では、ペン先が移動を開始してから停止するまでにおいて、第1フィードバック信号と第2フィードバック信号との2つのフィードバック信号による複合的な触覚フィードバックが行われる。
このような触覚フィードバックにより、ペン先の移動速度に応じた振動・筆記音の再現に加えて、ペン型入力デバイス200のペン先の移動が開始するタイミングにて、瞬時的に大きくなる静止摩擦力に応じた振動・筆記音も再現される。この結果、ペン型入力デバイス200を用いた入力にあたり、現実に筆記媒体に筆記しているときの感覚に近づけることが可能となる。
【0024】
図4は、ユーザの筆記操作によるパネル面PN上でのペン型入力デバイス200のペン先の移動軌跡MTの一例を示している。同図の移動軌跡MTは、開始点p1から開始され、方向変化点p2、p3、p4、p5の順で移動方向が変化し、終点p6にて終了される。
このような移動軌跡MTのもとでは、方向変化点p2、p3、p4、p5ごとにペン先の移動が一旦停止したうえで、移動を再開するようにされる。この場合、ペン先の移動開始から停止までにおける移動速度に応じたレベルによる第1フィードバック信号による触覚フィードバックは、区間p1-p2、p2-p3、p3-p4、p5-p6ごとに行われる。また、第2フィードバック信号による静止摩擦力に応じた触覚フィードバックは、開始点p1と方向変化点p2、p3、p4、p5ごとに行われる。
【0025】
本実施形態において、第2フィードバック信号のピークレベルは予め定めた固定値であてもよい。あるいは、第2フィードバック信号のピークレベルは、パネル面に対するペン先の所定の接触状態について検出して得られた検出値(接触パラメータ)のうちの所定の接触パラメータに基づいて設定されてよい。
具体的に、本実施形態の情報処理装置100は、接触パラメータとして、ペン先がパネル面を移動する速度(移動速度)、ペン先がパネル面に接触しているときの圧力(筆圧)、パネル面上でのペン先の移動方向、およびペン先がパネル面に接触しているときのペン型入力デバイス200のパネル面に対する傾き角度を挙げることができる。
筆記操作によりペン先の移動を開始させるときの静止摩擦力は、移動を開始しようとするときの筆圧に応じて大きくなる。そこで、情報処理装置100は、筆圧としての接触パラメータに応じて第2フィードバック信号のピークレベルを設定してよい。
また、筆記操作によりペン先の移動を開始させるときの静止摩擦力は、例えばペン型入力デバイス200のパネル面に対する傾き角度に応じて変化する。そこで、情報処理装置100は、傾き角度としての接触パラメータに応じて第2フィードバック信号のピークレベルを設定してよい。
また、筆記操作によりペン先の移動を開始させるときの静止摩擦力は、例えば筆記操作に応じたペン先のパネル面上での移動方向に応じても変化し得る。そこで、情報処理装置100は、移動方向としての接触パラメータに応じて第2フィードバック信号のピークレベルを設定してよい。
また、情報処理装置100は、筆圧、傾き角度、および移動方向の接触パラメータのうちの2以上の接触パラメータを複合的に用いて第2フィードバック信号のピークレベルを設定してよい。
【0026】
図5を参照して、情報処理装置100とペン型入力デバイス200のハードウェア構成例について説明する。
まず、情報処理装置100のハードウェア構成例について説明する。同図の情報処理装置100は、プロセッサ11、メインメモリ12、フラッシュメモリ13、周辺デバイス14、近距離通信部15、ベースバンドチップ21、通信部22、オーディオシステム23、マイクロフォン24、スピーカ25、およびタッチパネル表示部30を備える。
【0027】
プロセッサ11は、例えば、CPU(Central Processing Unit)を含むアプリケーションプロセッサである。プロセッサ11は、情報処理装置100の全体を制御する。
【0028】
メインメモリ12は、プロセッサ11の実行プログラムの読み込み領域として、または、実行プログラムの処理データを書き込む作業領域として利用される書き込み可能メモリである。メインメモリ12は、例えば、複数個のDRAM(Dynamic Random Access Memory)チップで構成される。この実行プログラムには、OS(Operating System:オペレーティングシステム)、周辺機器類をハードウェア操作するための各種デバイスドライバ、各種サービス/ユーティリティ、アプリケーションプログラム(アプリケーションソフトウェア)、等が含まれる。
【0029】
フラッシュメモリ13は、例えば、フラッシュEEPROM(Electrically Erasable Programmable Read Only Memory)であり、OS、各種ドライバ、各種サービス/ユーティリティ、アプリケーションプログラム(以下、アプリケーションということがある)、及び各種データを記憶する。
【0030】
タッチパネル表示部30は、画像を表示するとともに、画像が表示されるパネル面に対してペン型入力デバイス200により操作を行うことが可能な部位である。タッチパネル表示部30は、例えば指などのペン型入力デバイス200以外の操作体による操作も可能であってよいが、ここでは、操作体がペン型入力デバイス200である場合を例に説明する。
タッチパネル表示部30は、表示部31とパネルセンサ32とを備える。
表示部31は、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイであり、プロセッサ11から出力された描画データ(表示データ)に基づく画像を表示する。
パネルセンサ32は、表示部31のパネル面に対するペン型入力デバイス200のペン先の接触状態を検出する。具体的に、パネルセンサ32は、パネル面上でペン型入力デバイス200のペン先が接触している位置や、パネル面に接触しているペン先による圧力、ペン型入力デバイス200のパネル面からの距離などを検出可能とされてよい。このようなパネルセンサ32の検出方式としては特に限定されないが、静電容量式もしくは電磁誘導方式などを挙げることができる。また、パネルセンサ32は、このような複数の検出方式が複合的に用いられた構成とされてよい。
【0031】
周辺デバイス14は、例えば、WLAN(Wireless Local Area Network)モジュール、GPS(Global Positioning System)モジュール、及び加速度センサなどのセンサ類、等である。
【0032】
オーディオシステム23は、例えば、オーディオIC(Integrated Circuit)であり、音データの入力、記録、再生、出力を行う。オーディオシステム23には、例えば、マイクロフォン24と、スピーカ25とが接続されている。オーディオシステム23は、例えば、マイクロフォン24が収音した音データを、プロセッサ11又はベースバンドチップ21に出力する。
また、オーディオシステム23は、例えば、プロセッサ11又はベースバンドチップ21から取得した音データを音信号に変換して、スピーカ25に出力する。
【0033】
マイクロフォン24は、情報処理装置100の周辺の音を収音する。マイクロフォン24は、例えば、他の端末と音声融和する際に、利用者の音声等の音を収音する。
スピーカ25は、情報処理装置100の外部に、各種音を出力する。スピーカ25は、例えば、他の端末と音声融和する際に、他の端末から受信した音を出力(放音)する。
【0034】
ベースバンドチップ21は、例えば、4G(第4世代移動通信システム)や5G(第4世代移動通信システム)などの無線通信を制御する専用ICである。
ベースバンドチップ21は、例えば、通信部22にて受信された音データを、オーディオシステム23によりスピーカ25から音として出力させる。
また、ベースバンドチップ21は、例えば、マイクロフォン24により収音した音データを、オーディオシステム23を介して取得し、通信部22により移動通信システム経由で出力させる。また、ベースバンドチップ21は、移動通信システムによるデータ通信の入出力データを、プロセッサ11との間で授受するようにされてよい。
【0035】
通信部22は、移動通信システムによる無線通信を行うための、アンテナを含む無線通信デバイスである。
【0036】
近距離通信部15は、例えば、Bluetooth(登録商標)モジュールであり、ペン型入力デバイス200との間で近距離無線通信を行う。
【0037】
次に、同じ図5を参照して、ペン型入力デバイス200のハードウェア構成例について説明する。
ペン型入力デバイス200は、MCU41、近距離通信部42、振動部43(触覚再現部の一例)、音出力部44(触覚再現部の一例)、およびフラッシュメモリ45を備える。
【0038】
近距離通信部42は、例えば、Bluetooth(登録商標)モジュールであり、情報処理装置100との間で近距離無線通信を行う。
【0039】
MCU(Micro Controller Unit)41は、CPU、ROMやRAMなどのメモリ、I/O関連などを備え、ペン型入力デバイス200における制御を実行する。MCU41は、近距離通信部42にて送受信する情報の授受を行う。また、MCU41は、情報処理装置100から送信されるフィードバック信号(第1フィードバック信号と第2フィードバック信号とを含む)に応じた触覚フィードバックが行われるように、振動部43における振動の発生と音出力部44による音の出力とを制御する。
【0040】
振動部43は、例えばアクチュエータを備え、MCU41からのフィードバック信号の入力に応じて振動する部位である。
音出力部44は、例えばスピーカを備え、MCU41からのフィードバック信号の入力に応じ音を出力する部位である。
【0041】
フラッシュメモリ45は、例えばプログラムやフィードバック信号のデータなど、ペン型入力デバイス200に対応する各種のデータを記憶する。
【0042】
図6を参照して、情報処理装置100とペン型入力デバイス200の機能構成例について説明する。同図において、図5のハードウェア構成における部位と同等とみなせる機能部については、図5と同一符号を付して適宜説明を省略する。
同図に示される情報処理装置100としての機能は、プロセッサ11(図5)がプログラムを実行することにより実現されてよい。
【0043】
まず、情報処理装置100の機能構成例について説明する。情報処理装置100は、機能部として、通信部22、タッチパネル表示部30、接触パラメータ検出部101、制御部102、および記憶部103を備える。
【0044】
接触パラメータ検出部101は、タッチパネル表示部30のパネル面に対するペン型入力デバイス200のペン先の接触状態を検出する。
接触パラメータ検出部101は、パネルセンサ32が出力する検出信号に基づいて、接触状態に対応して検出されたパラメータ(接触パラメータ)を出力する。以下の説明において、接触パラメータは、例えば前述の移動速度、筆圧、移動方向、および傾き角度である場合を例に挙げる。
【0045】
制御部102は、情報処理装置100における各種の制御を実行する。制御部102は、アプリケーション対応処理部121とフィードバック制御部122とを備える。
【0046】
アプリケーション対応処理部121は、ペン操作対応アプリケーションに対応する処理を実行する。
ペン操作対応アプリケーションに対する操作として、ペン型入力デバイス200による筆記操作が行われているとき、パネルセンサ32からアプリケーション対応処理部121にペン操作情報が入力される。アプリケーション対応処理部121は、入力されたペン操作情報が入力されたことに応じて、例えば描画などの処理を行う。
【0047】
フィードバック制御部122は、フィードバック制御を実行する。本実施形態におけるフィードバック制御は、ペン型入力デバイス200にて触覚フィードバックとしての振動が発生されるようにする制御である。
本実施形態のフィードバック制御部122は、パネル面に接触して静止していたペン型入力デバイス200のペン先が移動を開始する際の摩擦力の変化に応じて発生する振動や音を再現するためのフィードバック制御(第2フィードバック制御)と、ペン型入力デバイス200のペン先が移動しているときに発生する振動や音を再現するためのフィードバック制御(第1フィードバック制御)とを実行する。
フィードバック制御部122は、接触パラメータ検出部101から出力される接触パラメータに基づいて、フィードバック制御情報を生成する。フィードバック制御情報は、振動と音による触覚フィードバックを生じさせるようにペン型入力デバイス200の駆動制御部221を制御する情報である。フィードバック制御部122は、生成したフィードバック制御情報を通信部22経由でペン型入力デバイス200に出力(送信)する。
【0048】
記憶部103は、情報処理装置100に対応する各種の情報を記憶する。
【0049】
次に、ペン型入力デバイス200の機能構成例について説明する。同図に示されるペン型入力デバイス200としての機能は、MCU41(図5)がプログラムを実行することにより実現されてよい。
ペン型入力デバイス200は、機能部として、近距離通信部42、振動部43、音出力部44、制御部201、および記憶部203を備える。
【0050】
制御部201は、ペン型入力デバイス200における各種の制御を実行する。制御部201は、駆動制御部221を備える。
駆動制御部221は、触覚フィードバックとしての振動が発生するように振動部43を制御する。また、駆動制御部221は、触覚フィードバックとしての音が発生するように音出力部44を制御する。
駆動制御部221は、振動部43と音出力部44とを制御するにあたり、フィードバック信号記憶部231に記憶されたフィードバック信号(第1フィードバック信号と第2フィードバック信号とを含む)を、振動部43と音出力部44とに入力する。
【0051】
記憶部203は、ペン型入力デバイス200に対応する各種のデータを記憶する。記憶部203は、フィードバック信号記憶部231を記憶する。
フィードバック信号記憶部231は、フィードバック信号となる波形を記憶する。フィードバック信号記憶部231は、第1フィードバック信号の波形と第2フィードバック信号の波形とを記憶する。また、フィードバック信号記憶部231にて記憶される第1フィードバック信号と第2フィードバック信号は、それぞれ、振動部43を振動させるのに用いる振動対応のフィードバック信号の波形と、音出力部44から音として出力させる音対応のフィードバック信号の波形とを含んでよい。
【0052】
また、第2フィードバック信号の波形は、例えばインパルス波形であってよい。つまり、第2フィードバック信号は、インパルス信号であってよい。あるいは、第2フィードバック信号の波形は、ペン先の移動開始の際の静止摩擦力により振動や音が発生する時間において急峻なピークを有するようにされた波形であってもよい。
【0053】
図7を参照して、フィードバック信号による振動部43、音出力部44の駆動に対応する機能構成例について説明する。
情報処理装置100において、接触パラメータ検出部101は、移動速度検出部111、筆圧検出部112、移動方向検出部113、および傾き角度検出部114を含む。
【0054】
移動速度検出部111は、パネル面を接触しながら移動するペン先の移動速度を検出する。移動速度検出部111は、パネルセンサ32にて検出されるペン先の接触位置の単位時間ごとの移動量に基づいて移動速度を検出してよい。移動速度検出部111は、検出した移動速度パラメータDt1をフィードバック制御部122に出力する。
【0055】
筆圧検出部112は、パネル面に対して接触しているペン先の圧力(筆圧)を検出する。筆圧検出部112は、パネルセンサ32にて検出されるペン先の接触位置での静電容量の値に基づいて筆圧を検出してよい。筆圧検出部112は、検出した筆圧を示す筆圧パラメータDt2をフィードバック制御部122に出力する。
【0056】
移動方向検出部113は、パネル面に接触しながら移動するペン先の移動方向を検出する。移動速度検出部111は、パネルセンサ32にて検出されるペン先の接触位置の移動する方向に基づいて移動方向を検出してよい。移動方向検出部113は、検出した移動方向を示す移動方向パラメータDt3をフィードバック制御部122に出力する。
【0057】
傾き角度検出部114は、パネル面にペン先が接触している状態のペン型入力デバイス200本体のパネル面に対する傾き角度を検出する。傾き角度検出部114は、パネルセンサ32によりペン先の接触位置の周辺にて検出されるペン型入力デバイス200本体に応じた静電容量の分布に基づいて傾き角度を検出してよい。傾き角度検出部114は、検出した傾き角度パラメータDt4をフィードバック制御部122に出力する。
【0058】
情報処理装置100においてフィードバック制御部122は、入力された接触パラメータ(移動速度パラメータDt1、筆圧パラメータDt2、移動方向パラメータDt3、傾き角度パラメータDt4)に基づいて、フィードバック制御情報FBを生成する。
本実施形態において、フィードバック制御部122は、振動部43に対応するフィードバック制御情報FBと音出力部44に対応するフィードバック制御情報FBとのそれぞれを個別に生成する。
なお、フィードバック制御部122は、振動部43と音出力部44とで共通となるフィードバック制御情報を制御してもよい。
【0059】
フィードバック制御情報FBは、振動対応の第1フィードバック信号のレベル(振動対応第1レベル)と、音対応の第1フィードバック信号のレベル(音対応第1レベル)とを含む。フィードバック制御部122は、移動速度パラメータDt1に基づいて、振動対応第1レベルと音対応第1レベルとを設定してよい。
また、フィードバック制御情報FBは、パネル面上でのペン先の移動開始のタイミングに応じて出力されるものについては、振動対応の第2フィードバック信号のレベル(振動対応第2レベル)と、音対応の第2フィードバック信号のレベル(音対応第2レベル)とを含む。
以降の説明において、振動対応第1レベルと音対応第1レベルとについて特に区別しない場合には、第1レベルと記載する。また、振動対応第2レベルと音対応第2レベルとについて特に区別しない場合には、第2レベルと記載する。
【0060】
フィードバック制御部122は、生成したフィードバック制御情報FBを、ペン型入力デバイス200に出力(送信)する。
【0061】
駆動制御部221は、入力されたフィードバック制御情報FBに基づいて、振動部43と音出力部44とを駆動する。
【0062】
同図においては振動部43と音出力部44との構成例が示されている。
振動部43は、例えばアンプ432、アンプ433、ミキサ434、およびアクチュエータ435を備える。
アンプ432は、振動対応の第1フィードバック信号が信号源S1-1として入力される。信号源S1-1は、フィードバック信号記憶部231が記憶する振動対応の第1フィードバック信号の波形に基づいて生成される。アンプ432は、入力された振動対応の第1フィードバック信号を駆動制御部221により指示されたレベルに変化させて出力する。
アンプ433は、振動対応の第2フィードバック信号が信号源S2-1として入力される。信号源S2-1は、フィードバック信号記憶部231が記憶する振動対応の第2フィードバック信号の波形に基づいて生成される。アンプ433は、入力された振動対応の第2フィードバック信号を駆動制御部221により指示されたレベルに変化させて出力する。
ミキサ434は、アンプ432から出力された第1フィードバック信号とアンプ433から出力された第2フィードバック信号とを合成する。
アクチュエータ435は、ミキサ434から出力されたフィードバック信号により振動する。
【0063】
このような振動部43の構成に対応して、駆動制御部221は、フィードバック制御情報FBに含まれる振動対応第1レベルに基づいて、振動対応の第1フィードバック信号による信号源S1-1をアンプ432に入力させる制御と、振動対応の第1フィードバック信号のレベルをアンプ432に指示する制御とを行う。
また、フィードバック制御情報FBに振動対応第2レベルが含まれている場合には、当該振動対応第2レベルに基づいて、振動対応の第2フィードバック信号による信号源S2-1をアンプ433に入力させる制御と、振動対応の第2フィードバック信号のレベルをアンプ433に指示する制御とを行う。
【0064】
音出力部44は、例えばアンプ442、アンプ443、ミキサ444、およびスピーカ445を備える。
アンプ442は、音対応の第1フィードバック信号が信号源S1-2として入力される。信号源S1-2は、フィードバック信号記憶部231が記憶する音対応の第1フィードバック信号の波形に基づいて生成される。アンプ442は、入力された音対応の第1フィードバック信号を駆動制御部221により指示されたレベルに変化させて出力する。
アンプ443は、音対応の第2フィードバック信号が信号源S2-2として入力される。信号源S2-1は、フィードバック信号記憶部231が記憶する音対応の第2フィードバック信号の波形に基づいて生成される。アンプ443は、入力された音対応の第2フィードバック信号を駆動制御部221により指示されたレベルに変化させて出力する。
ミキサ444は、アンプ442から出力された第1フィードバック信号とアンプ443から出力された第2フィードバック信号とを合成する。
スピーカ445は、ミキサ444から出力されたフィードバック信号に応じた音を発する。
【0065】
このような音出力部44の構成に対応して、駆動制御部221は、フィードバック制御情報FBに含まれる音対応第1レベルに基づいて、音対応の第1フィードバック信号による信号源S1-2をアンプ442に入力させる制御と、音対応の第1フィードバック信号のレベルをアンプ442に指示する制御とを行う。
また、フィードバック制御情報FBに音対応第2レベルが含まれている場合には、当該音対応第2レベルに基づいて、音対応の第2フィードバック信号による信号源S2-2をアンプ443に入力させる制御と、音対応の第2フィードバック信号のレベルをアンプ443に指示する制御とを行う。
【0066】
図8のフローチャートを参照して、情報処理装置100とペン型入力デバイス200とが触覚フィードバックに関連して実行する処理手順例について説明する。
まず、情報処理装置100の処理手順例について説明する。同図の処理が実行されているとき、フィードバック制御部122は、例えば所定の取込周期(取込期間)ごとに、接触パラメータ検出部101が検出している接触パラメータ(移動速度パラメータDt1、筆圧パラメータDt2、移動方向パラメータDt3、傾き角度パラメータDt4)を取り込むようにされている。この際、フィードバック制御部122は、取込周期(期間)ごとにおいて、1サンプルの接触パラメータを取り込んでもよいし、複数のサンプル周期ごとに応じた接触パラメータを取り込んでもよい。
【0067】
ステップS100:情報処理装置100においてフィードバック制御部122は、今回のサンプルタイミングにて取り込んだ接触パラメータに基づいて、ペン型入力デバイス200のペン先がパネル面に接触して停止している状態から移動を開始する状態(移動開始状態)となるのを待機する。
この場合、フィードバック制御部122は、例えば接触パラメータにおける移動速度パラメータDt1がゼロからゼロより大きい値に変化したことによりペン先が移動を開始したと判定してよい。あるいは、フィードバック制御部122は、ペン先が移動していない(停止している)ことで、移動方向パラメータDt3が移動方向を示していない値から、或る移動方向を示す値に変化したことに応じて、ペン先が移動を開始したと判定してよい。また、フィードバック制御部122は、上記の移動速度パラメータDt1と移動方向パラメータDt3とを複合的に用いてペン先の移動が開始したか否かを判定してよい。
【0068】
ステップS102:フィードバック制御部122は、ステップS100にてペン先が移動を開始したと判定すると、振動対応と音対応とのそれぞれの第2フィードバック信号のレベル(第2レベル:振動対応第2レベル、音対応第2レベル)を設定する。
フィードバック制御部122は、筆圧パラメータDt2に基づいて第2レベルを設定してよい。現実の筆記において筆記具の先端部が移動を開始するときの振動や音は、筆記具の先端部が移動を開始するときの用紙などの筆記対象媒体に対する筆圧が高くなるのにつれて大きくなる。
さらに、フィードバック制御部122は、第2レベルの設定にあたり、例えば今回の取込期間にて得られた複数の移動速度パラメータDt1に基づいて算出した加速度も利用してよい。
さらに、フィードバック制御部122は、第2レベルの設定にあたり、例えばペン操作対応アプリケーションにて設定された筆記具の種別や筆記対象の媒体の種別なども利用してよい。
【0069】
ステップS104:次に、フィードバック制御部122は、振動対応と音対応とのそれぞれの第1フィードバック信号のレベル(第1レベル:振動対応第1レベルおよび音対応第1レベル)を設定する。
この際、フィードバック制御部122は、今回のサンプル周期のタイミングにて取り込んだ移動速度パラメータDt1に応じて、振動対応第1レベルと音対応第1レベルとのそれぞれを設定してよい。
さらに、フィードバック制御部122は、振動対応第1レベルと音対応第1レベルの設定にあたり、筆圧パラメータDt2、移動方向パラメータDt3、傾き角度パラメータDt4のうちの少なくとも一部を利用してもよい。例えば、現実の筆記においてペン先の移動に応じて発生する振動や音の大きさは、筆圧にも依存して変化し得る。
さらに、フィードバック制御部122は、第1レベルの設定にあたり、例えばペン操作対応アプリケーションにて設定された筆記具の種別や筆記対象の媒体の種別なども利用してよい。
【0070】
ステップS106:フィードバック制御部122は、ステップS102にて設定した第2レベルとステップS104にて設定した第1レベルとを含むフィードバック制御情報FBを生成する。
【0071】
ステップS108:フィードバック制御部122は、ステップS106にて生成したフィードバック制御情報をペン型入力デバイス200に送信する。
【0072】
ステップS110:フィードバック制御部122は、ステップS100に対応して開始されたペン先の移動が停止したか否かを判定する。フィードバック制御部122は、これまで0より大きい値であった移動速度パラメータDt1がゼロとなったことに応じてペン先の移動が停止したと判定してよい。
ペン先が移動中の状態(移動状態)にある、すなわち移動が停止していないと判定された場合には、ステップS104に処理が戻される。つまり、フィードバック制御部122は、以降において、ペン先の移動が停止されるまで、ペン先が移動中の状態に応じたフィードバック制御情報FBを生成し、ペン型入力デバイス200に送信するループ処理を実行する。このようなループ処理にて生成されるフィードバック制御情報FBには第2レベルは含まれない。
一方、ペン先の移動が停止したと判定した場合には、ステップS100に処理が戻される。このようにステップS100に処理が戻されることで、再度ペン先の移動が開始されるまでフィードバック制御情報FBのペン型入力デバイス200への送信が停止される。
【0073】
次に、ペン型入力デバイス200が実行する処理手順例について説明する。
ステップS200:ペン型入力デバイス200において駆動制御部221は、ステップS108により情報処理装置100から送信されるフィードバック制御情報FBが受信されるのを待機している。
【0074】
ステップS202:フィードバック制御情報FBが受信されると、駆動制御部221は、今回受信したフィードバック制御情報FBに第2レベルが含まれているか否かを判定する。
【0075】
ステップS204:ステップS202にてフィードバック制御情報FBに第2レベルが含まれていると判定した場合、駆動制御部221は、第2フィードバック信号としての信号源S2-1、S2-2を、それぞれアンプ433、443に入力する。
【0076】
ステップS206:また、駆動制御部221は、アンプ433に振動対応第2レベルを指示し、アンプ443に音対応第2レベルを指示する。
【0077】
上記のようにステップS204とステップS206の処理が実行されることにより、ペン先の移動開始に際して生じる静止摩擦力に応じた振動・筆記音が再現される。また、この際には、例えばペン先が移動を開始するときの筆圧に応じて静止摩擦力に応じた振動の強さと筆記音の大きさとが得られるようにされる。
【0078】
ステップS208:ステップS206の処理の後、あるいはステップS202にてフィードバック制御情報FBに第2レベルが含まれていないと判定した場合、駆動制御部221は、第1フィードバック信号としての信号源S1-1、S1-2を、それぞれアンプ432、442に入力する。
【0079】
ステップS210:また、駆動制御部221は、アンプ432に振動対応第1レベルを指示し、アンプ442に音対応第1レベルを指示する。
【0080】
上記のようにステップS208とステップS210の処理が実行されることにより、移動中にあるペン先の移動速度に応じて振動の強さと筆記音の大きさが変化するようにして触覚が再現される。
【0081】
以下、本実施形態の変形例について説明する。
触覚フィードバックは、振動と音とのいずれか一方により行われてよい。この場合において、情報処理装置100とペン型入力デバイス200は、振動と音とのうちの一方の触覚フィードバックに対応する構成を有し、他方の触覚フィードバックに対応する構成を有さないようにされてよい。あるいは、例えばユーザによる選択操作や、ペン操作対応アプリケーションにおいて設定された筆記具の種別や筆記対象の媒体の種別に応じて、振動と音とのうちのいずれを触覚フィードバックに用いるのかが設定されてよい。
【0082】
上記実施形態における情報処理装置100が有する所定の機能部がペン型入力デバイス200に設けられるようにしてよい。あるいは、上記実施形態におけるペン型入力デバイス200が有する所定の機能部が情報処理装置100に設けられるようにしてよい。
具体的に、例えばペン型入力デバイス200にフィードバック制御部122が設けられてよい。この場合、情報処理装置100は、接触パラメータ検出部101が検出した接触パラメータをペン型入力デバイス200に送信するようにされてよい。
また、例えば情報処理装置100に駆動制御部221が設けられてよい。この場合、駆動制御部221は、ペン型入力デバイス200に対して、アンプ(432、433、442、443)へのフィードバック信号の入力を指示する信号と、アンプ(432、433、442、443)のそれぞれにて設定するレベルを指示する信号とを送信するようにされてよい。
【0083】
なお、上述の情報処理装置100やペン型入力デバイス200などとしての機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の情報処理装置100やペン型入力デバイス200などとしての処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD-ROM等の非一過性の記録媒体であってもよい。また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部または外部に設けられた記録媒体も含まれる。配信サーバの記録媒体に記憶されるプログラムのコードは、端末装置で実行可能な形式のプログラムのコードと異なるものでもよい。すなわち、配信サーバからダウンロードされて端末装置で実行可能な形でインストールができるものであれば、配信サーバで記憶される形式は問わない。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に端末装置で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【符号の説明】
【0084】
30 タッチパネル表示部、31 表示部、32 パネルセンサ、43 振動部、44 音出力部、100 情報処理装置、101 接触パラメータ検出部、102 制御部、103 記憶部、111 移動速度検出部、112 筆圧検出部、113 移動方向検出部、114 角度検出部、121 アプリケーション対応処理部、122 フィードバック制御部、200 ペン型入力デバイス、201 制御部、203 記憶部、221 駆動制御部、231 フィードバック信号記憶部
【要約】
【課題】現実に筆記媒体に筆記しているときの感覚に近づけることができるようにする。
【解決手段】操作対象面に対するペン型入力デバイスの接触状態に対応する1以上の接触パラメータを検出し、接触パラメータに基づいて、操作対象面に対するペン型入力デバイスのペン先の接触状態を判定するようにされ、接触状態がペン型入力デバイスのペン先が移動状態であると判定しているときに、移動状態に対応する触覚を再現するようにペン型入力デバイスにおける触覚再現部を駆動させ、接触状態がペン型入力デバイスのペン先が操作対象面に接触しつつ静止している状態から移動を開始した移動開始状態であることを判定したタイミングで、移動開始状態に対応する触覚を再現するように触覚再現部を駆動させるフィードバック制御部とを備えて情報処理システムを構成する。
【選択図】図3
図1
図2
図3
図4
図5
図6
図7
図8