(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6227669
(24)【登録日】2017年10月20日
(45)【発行日】2017年11月8日
(54)【発明の名称】表面上でのジェスチャ認識のためのEMGの使用
(51)【国際特許分類】
G06F 3/01 20060101AFI20171030BHJP
G06F 3/041 20060101ALI20171030BHJP
【FI】
G06F3/01 515
G06F3/01 570
G06F3/041 595
G06F3/041 580
【請求項の数】15
【全頁数】16
(21)【出願番号】特願2015-552831(P2015-552831)
(86)(22)【出願日】2014年1月10日
(65)【公表番号】特表2016-507098(P2016-507098A)
(43)【公表日】2016年3月7日
(86)【国際出願番号】US2014011136
(87)【国際公開番号】WO2014110439
(87)【国際公開日】20140717
【審査請求日】2016年12月12日
(31)【優先権主張番号】13/740,315
(32)【優先日】2013年1月14日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】595020643
【氏名又は名称】クゥアルコム・インコーポレイテッド
【氏名又は名称原語表記】QUALCOMM INCORPORATED
(74)【代理人】
【識別番号】100108855
【弁理士】
【氏名又は名称】蔵田 昌俊
(74)【代理人】
【識別番号】100109830
【弁理士】
【氏名又は名称】福原 淑弘
(74)【代理人】
【識別番号】100158805
【弁理士】
【氏名又は名称】井関 守三
(74)【代理人】
【識別番号】100194814
【弁理士】
【氏名又は名称】奥村 元宏
(72)【発明者】
【氏名】フォルタンプーア、ババク
(72)【発明者】
【氏名】バラサブラマンヤム、シバクマー
(72)【発明者】
【氏名】カルバルホ、ビター・アール.
(72)【発明者】
【氏名】キング、ベネット・エム.
(72)【発明者】
【氏名】イワサキ、ジル・エス.
【審査官】
星野 裕
(56)【参考文献】
【文献】
国際公開第2011/156789(WO,A1)
【文献】
特表2005−536260(JP,A)
【文献】
特開2008−304632(JP,A)
【文献】
米国特許出願公開第2013/0005303(US,A1)
【文献】
特表2013−528871(JP,A)
【文献】
特開2004−348382(JP,A)
【文献】
特表2012−523191(JP,A)
【文献】
特開2006−323690(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/041
(57)【特許請求の範囲】
【請求項1】
表面に対するボディ部のジェスチャを検出する方法であって、前記方法は、
近接センサによって提供される信号に基づいて、前記ボディ部が前記表面に近接しているかどうかを決定することと、ここにおいて、前記ボディ部に関連付けられた近接センサからの信号が、監視される、
前記ボディ部が前記表面に近接している場合、EMGセンサによって前記ボディ部から感知された電気的活動が、前記ボディ部と前記表面の接触を示すかどうかを決定することと、ここで、前記近接センサからの1つまたは複数の信号に応答して、前記EMGセンサの状態は、より低い電力状態からより高い電力状態に変化し、前記EMGセンサからの出力は、前記ボディ部と前記表面の接触を決定するように監視される、
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定することと、
を備える方法。
【請求項2】
感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定することは、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
を備える、請求項1に記載の方法。
【請求項3】
感知された動き活動が前記ジェスチャを示すかどうかを決定することは、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
を備え、好ましくは、
ジェスチャ基準のライブラリを提供することをさらに備え、各基準は異なるジェスチャに対応する、請求項1に記載の方法。
【請求項4】
前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定すること、
をさらに備える、請求項1に記載の方法。
【請求項5】
前記ボディ部が動いているかどうかを決定することは、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
を備える、請求項4に記載の方法。
【請求項6】
前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信することをさらに備え、前記信号は、前記ユーザデバイスの動作に作用するためのものである、請求項1に記載の方法。
【請求項7】
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定することは、
前記EMGセンサからの1つまたは複数の信号に応答して、より低い電力状態からより高い電力状態に動きセンサの状態を変化させることと、
ジェスチャを示す前記ボディ部の動きを決定するために、前記ボディ部に関連付けられた動きセンサからの動き活動を監視することと
を備える、請求項1に記載の方法。
【請求項8】
表面に対するボディ部のジェスチャを検出するための装置であって、前記装置は、
近接センサによって提供される信号に基づいて、前記ボディ部が前記表面に近接しているかどうかを決定するための手段と、ここで、前記ボディ部が前記表面に近接しているかどうかを決定するための前記手段は、前記ボディ部に関連付けられた近接センサからの信号を監視するように構成される、
前記ボディ部が前記表面に近接している場合、EMGセンサによって前記ボディ部から感知された電気的活動が、前記ボディ部と前記表面の接触を示すかどうかを決定するための手段と、ここで、決定するための前記手段は、前記近接センサからの1つまたは複数の信号に応答して、より低い電力状態からより高い電力状態に前記EMGセンサの状態を変化させるための手段と、前記ボディ部と前記表面の接触を決定するように前記EMGセンサからの出力を監視するための手段とを備える、
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定するための手段と、
を備える、装置。
【請求項9】
感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定するための前記手段は、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
を行うように構成される、請求項8に記載の装置。
【請求項10】
感知された動き活動が前記ジェスチャを示すかどうかを決定するための前記手段は、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
を行うように構成され、好ましくは、
ジェスチャ基準のライブラリをさらに備え、各基準は異なるジェスチャに対応する、請求項8に記載の装置。
【請求項11】
前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定するための手段をさらに備える、請求項8に記載の装置。
【請求項12】
前記ボディ部が動いているかどうかを決定するための前記手段が、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
を行うように構成される、請求項11に記載の装置。
【請求項13】
前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信するための手段をさらに備え、前記信号は、前記ユーザデバイスの動作に作用するためのものである、請求項8に記載の装置。
【請求項14】
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定するための手段は、
前記EMGセンサからの1つまたは複数の信号に応答して、より低い電力状態からより高い電力状態に動きセンサの状態を変化させるための手段と、
ジェスチャを示す前記ボディ部の動きを決定するために、前記ボディ部に関連付けられた動きセンサからの動き活動を監視するための手段と
をさらに備える、請求項8に記載の装置。
【請求項15】
表面に対するボディ部のジェスチャを検出するためのコンピュータプログラム製品であって、前記製品は、
請求項1乃至7のいずれか一項の方法を実行するためのコードを備える、コンピュータ可読媒体
を備える、コンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【0001】
[0001]本開示は概して、ジェスチャ認識に関しており、より具体的には、表面上での(on surfaces)微細なジェスチャ認識のための筋電図描画法(EMG:electromyography)の使用に関している。
【背景技術】
【0002】
[0002]拡張現実(AR)を実装するためのシステムおよびアプリケーションが非常に一般的で、広く受け入れられるようになってきた。ARシステムは通常、電子メールおよびメディアプレイヤのようなアプリケーションと対話する間にユーザが同時に、彼の周囲を見る、および彼らの周囲と対話することを可能にする頭部装着型ディスプレイ(HMD)を含む。多くのARアプリケーションがスマートフォンおよびタブレット上で起動されうるけれども、ARシステムを実装するための最も自然なフォームファクタは、眼鏡のような光学デバイスである。
【0003】
[0003]AR眼鏡を通じてアプリケーションと対話するための従来の方法は、手のジェスチャを含み、ここでは着用者の手のAR眼鏡の視界内での種々の広範囲の動きが眼鏡の種々の動作を開始する。しかしながらそのような方法は、重大な欠点を被る。例えば、着用者は、公けでそのような広範囲のジェスチャを実行することによって彼女自身に注意を向けさせることを望まないことがある。したがって、プライベートの、セミプライベートの、および公けの状況に対して異なるセットのジェスチャを有することが望ましい。
【発明の概要】
【0004】
[0004]表面に対するボディ部のジェスチャを検出するための装置、方法、およびコンピュータプログラム製品が提供されている。装置は、ボディ部が表面に近接しているかどうかを決定する。ボディ部が表面に近接している場合、装置は、ボディ部から感知された電気的活動(electrical activity)が、ボディ部と表面の接触を示すかどうかを決定する。ボディ部が表面に接触している場合、装置は、ボディ部から感知された動き活動がジェスチャを示すかどうかを決定する。
【図面の簡単な説明】
【0005】
【
図1】ユーザデバイスおよびジェスチャ認識デバイスを含む例示的なジェスチャシステムを例示している図である。
【
図2】ジェスチャを認識し、そのジェスチャに基づいてユーザデバイスの動作に作用する方法のフローチャートである。
【
図3】表面と接触している、および表面と接触していない、の両方のボディ部に対応するEMGセンサの出力の変化を例示しているグラフである。
【
図4】ボディ部のジェスチャに対応する加速度計出力の変化を例示しているグラフである。
【
図5】例示的なジェスチャ認識装置における種々のモジュール/手段/コンポーネントの動作を例示している概略的なフロー図である。
【
図6】処理システムを用いるジェスチャ認識装置のためのハードウェア実装の例を例示している図である。
【発明を実施するための形態】
【0006】
[0011]添付の図面に関係して以下で述べられる詳細な説明は、様々な構成の説明として意図されるものであり、本明細書で説明される概念が実施されうる唯一の構成を表すようには意図されていない。詳細な説明は、様々な概念の完全な理解を提供する目的で、指定の詳細を含む。しかしながら、これらの概念がこれらの指定の詳細なしに実施されうることは、当業者には明らかであろう。いくつかの事例では、周知の構造およびコンポーネントが、そのような概念を曖昧にすることを回避するためにブロック図の形態で図示されている。
【0007】
[0012]ジェスチャ認識システムのいくつかの態様が、今から、様々な装置および方法を参照して提示されることになる。これらの装置および方法は、以下の詳細な説明において説明され、添付の図面において、様々なブロック、モジュール、コンポーネント、回路、ステップ、プロセス、アルゴリズム等(集合的には「要素」と称される)によって例示されることになる。これらの要素は、電子ハードウェア、コンピュータソフトウェア、またはそれらのあらゆる組み合わせを使用して実装されうる。そのような要素がハードウェアとして実装されるか、ソフトウェアとして実装されるかは、システム全体に課された設計の制約および特定のアプリケーションに依存する。
【0008】
[0013]例として、要素、または要素のいずれか一部、あるいは要素のあらゆる組み合わせは、1つまたは複数のプロセッサを含む「処理システム」で実装されうる。プロセッサの例は、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックデバイス(PLD)、ステートマシン、ゲートロジック、ディスクリートハードウェア回路、および本開示全体を通して説明されている様々な機能を実行するように構成された他の適したハードウェアを含む。処理システムにおける1つまたは複数のプロセッサは、ソフトウェアを実行することができる。ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語、あるいはそれ以外で称されようとも、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行ファイル、実行スレッド、プロシージャ、関数、等を意味するように広く解釈されるものとする。
【0009】
[0014]したがって、1つまたは複数の例示的な実施形態では、説明される機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらのあらゆる組み合わせで実行されうる。ソフトウェアで実行される場合、機能は、コンピュータ可読媒体上に、1つまたは複数の命令またはコードとして格納されるか、あるいは符号化されうる。コンピュータ可読媒体は、コンピュータ格納媒体を含む。格納媒体は、コンピュータによってアクセスされることができる、あらゆる利用可能な媒体でありうる。限定ではなく例として、そのようなコンピュータ可読媒体は、RAM、ROM、EEPROM(登録商標)、CD−ROMまたは他の光学ディスクストレージ、磁気ディスクストレージまたは他の磁気格納デバイス、あるいは、データ構造または命令の形態で所望のプログラムコードを搬送または格納するように使用されうる、かつコンピュータによってアクセスされうるあらゆる他の媒体を備えることができる。ディスク(disk)およびディスク(disc)は、本明細書で使用される場合、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光学ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピー(登録商標)ディスク(disk)、およびブルーレイ(登録商標)ディスク(disc)を含み、ここにおいてディスク(disk)が通常、磁気的にデータを再生する一方で、ディスク(disc)は、レーザーを用いて光学的にデータを再生する。上記の組み合わせもまた、コンピュータ可読媒体の範囲内に含まれるべきである。
【0010】
[0015]
図1は、ユーザデバイス102およびジェスチャ認識デバイス104を含むジェスチャ認識システム100を例示している図である。例示されているユーザデバイス102は、当該技術分野で知られている方法を使用して、レンズを通じてコンテンツを投影するように構成された1つのAR眼鏡(a pair of AR glasses)である。例えば、AR眼鏡102は、アプリケーションコンテンツ、例えば電子メール、ドキュメント、ウェブページ、あるいはビデオゲーム、動画、または電子書籍のようなメディアコンテンツ、をそのレンズを通じて投影するように構成されうる。他のタイプのユーザデバイス102は、スマートフォン、タブレット、ラップトップ等を含むことができる。
【0011】
[0016]AR眼鏡102は、ジェスチャ認識デバイス104と通信するための通信デバイス
106を含む。通信デバイス106は、例えば、Bluetooth(登録商標)デバイスでありうる。AR眼鏡102は、ジェスチャ認識デバイス104から受信された信号を処理するためのプロセッサ108をさらに含む。
【0012】
[0017]ジェスチャ認識デバイス104は、ボディ部に関連付けられるように構成され、そのような関連付けを提供することの助けとなるいずれの形態でもありうる。例えば、ボディ部が手または指である場合、ジェスチャ認識デバイスは、
図1で例示されているような、リストバンド104として構成されうる。1つの構成では、ジェスチャ認識デバイス104は、近接センサ110、EMG感知機能を提供する一対の電極112、114、動きセンサ116、およびユーザデバイス102と通信するための通信デバイス118を含む。ジェスチャ認識デバイス104はまた、様々なセンサによって提供された信号を処理するためのプロセッサ120も含む。プロセッサと組み合わせてセンサ110、112、114、116は、以下でさらに説明されるように、検出機能を提供する。
【0013】
[0018]リストバンドの形態のジェスチャ認識デバイス104のケースでは、近接センサ110は、望ましくは、ユーザがリストバンドを着用しているとき、近接センサが手首の下部、すなわち底面(underside)に位置するようにリストバンド上に位置付けられる。近接センサ110は、近接センサと構造の接近を示す信号を提供するために、プロセッサ120によって周期的に、例えば毎秒1回、ポールされる(poled)低電力デバイスである。近接センサ110は、周知の赤外線検出、または超音波検出技術に基づいた範囲発見デバイス(range finding device)でありうる。代わりとして、または加えて、近接センサ110は、周知の容量技術に基づく接触感知デバイスでありうる。
【0014】
[0019]電極112、114は、望ましくは、ユーザがリストバンド104を着用しているとき、手首の筋肉運動から結果として生じる電気的活動を感知するためにそれらの電極が位置するようにリストバンド上に位置付けられる。プロセッサ120のEMG感知要素と組み合わせて電極112、114は、ボディ部と表面の潜在的な接触を示す信号を提供するEMGセンサとして機能する。EMG感知機能は、周知の技術に基づく。
【0015】
[0020]動きセンサ116は、リストバンド上のどこにでも位置付けられることができ、ボディ部の運動を示す信号を提供する。提供される指示は、ボディ部の一般的な全体の運動、またはジェスチャに対応するボディ部のより細かな運動、のうちの1つでありうる。動きセンサは、例えば、加速度計、ジャイロスコープ、または磁気計でありうる。
【0016】
[0021]
図2は、ボディ部のジェスチャを検出する方法のフローチャートである。プロセスは、空中のボディ運動に起因したジェスチャ検出を回避しながら、概して平坦な表面上でのジェスチャを検出することを対象としている。その目的で、ステップ202で、ジェスチャ認識デバイスは、ボディ部が概して平坦な表面に近接しているかどうかを検出する。ボディ部は、例えば、指でありうる。概して平坦な表面は、例えば、テーブルトップ、またはユーザの足のトップ(top)でありうる。
【0017】
[0022]近接検出は、さらなる処理ステップのためのトリガイベントとしての役割をし、空中のボディ部運動に起因した誤ったジェスチャ検出を排除する。近接検出は、上記で説明された近接センサのタイプを使用して行われうる。1つの構成では、ジェスチャ認識デバイス104のプロセッサ120は、信号を取得するために近接センサ110を周期的に、例えば毎秒1回、ポールする。プロセッサ120は、近接センサ110が表面のしきい値距離内にあるかどうかを決定するために、取得された信号を処理する。例えば、プロセッサ120は、近接しきい値、例えば5センチ、でプログラミングされうる。近接センサ110によって提供される信号がしきい値の距離、またはしきい値未満の距離に対応する場合、プロセッサ120は、ボディ部が表面に近接していると結論付ける。言い換えると、ジェスチャ認識デバイス104は、ボディ部と表面の近接を検出する。上記で述べられたように、この近接検出は、空中の手の運動から結果として生じうる誤ったジェスチャ検出を排除する。
【0018】
[0023]ステップ204で、ボディ部が平坦な表面に近接していないと決定される場合、プロセスはステップ202に戻る。しかしながら、ボディ部が平坦な表面に近接していると決定される場合、プロセスはステップ206に進み、ここにおいてジェスチャ認識デバイス104は、ボディ部と表面の接触を示す筋肉電気的活動(muscular electrical activity)を検出する。このことは、上記で説明されたEMGセンサを使用して行われうる。1つの構成では、システム電力を節約するために、EMGセンサ(例えば、電極112、114、およびプロセッサ120のEMG感知要素)は、ボディ部が表面に近接していると決定されるまで、スリープモードに維持される。一度ボディ‐表面近接が検出され、EMGセンサが起こされると、プロセッサ120の他の要素は、EMGセンサから信号を受信し、表面上へのボディ部の配置に対応する電気的活動の基準とその信号を比較する。その基準が満たされる場合、プロセッサ120は、ボディ部が表面上に配置されていると結論付ける。言い換えると、ジェスチャ認識デバイス104は、ボディ‐表面接触を検出する。
【0019】
[0024]
図3は、時間に応じた(as a function of time)EMG信号の振幅を例示しているグラフ300である。低レベル部分302、304は、ボディ部と表面の接触の欠如に対応する筋肉活動を表す。より高レベル(higher-level)部分306は、ボディ部と表面の接触に対応するより高いレベルの筋肉活動を表す。経験から得たEMG信号データに基づいて、ボディ部と表面の接触を示す基準は確立されうる。例えば、接触中に測定される経験から得たEMG信号の動的範囲、またはピークツーピーク電圧(peak-to-peak voltage)は、後に取得されるEMG信号の測定値が比較されうる基準としての役割をしうる。プロセッサ120は、取得された信号の測定値を、経験から得たデータによって定義されたしきい値と比較する。しきい値が満たされる場合、プロセッサ120は、ボディ部と表面の接触が存在すると結論付ける。言い換えると、ジェスチャ認識デバイス104は、ボディ‐表面接触を検出する。そうでない場合、プロセッサ120は、接触が存在しないと結論付ける。オプションで、時間基準もまた実装されることができ、ここにおいて取得される信号の測定値は、ボディ‐表面接触が検出されたと考えられる前に、ある特定の量の時間に対するしきい値を満たさなければならない。
【0020】
[0025]ステップ208で、ボディ部は、平坦な表面と接触していないと決定される場合、プロセスはステップ202に戻る。代わりとして、プロセスはステップ206に戻りうる。しかしながら、ボディ部が平坦な表面と接触していると決定される場合、プロセスはステップ210に進み、ここにおいてジェスチャ認識デバイスは、ジェスチャを示すボディ部の動き活動を検出する。このことは、上記で説明されたような動きセンサ116を使用して行われうる。1つの構成では、システム電力を節約するために、動きセンサ116は、ボディ部が表面に接触していると決定されるまで、スリープモードに維持される。一度ボディ‐表面接触が検出され、動きセンサ116が起こされると、プロセッサ120は、動きセンサから信号を受信し、ジェスチャに対応する動き活動の基準とその信号を比較する。その基準が満たされる場合、プロセッサ120は、ボディ部がジェスチャを行ったと結論付ける。言い換えると、ジェスチャ認識デバイス104は、ジェスチャを検出する。
【0021】
[0026]
図4は、時間に応じた(as a function of time)動きセンサ、例えば加速度計、信号を例示しているグラフ500であり、ここにおいて信号は、ユーザが2回、平坦な表面上で文字「O」のジェスチャを行うことに対応する。その運動は、xおよびy平面で行われる一方で、もしあっても少ない運動しかz平面では生じないことに留意されたい。これは単に、経験上取得されうる多くの動き信号の形態または動きジェスチャテンプレートのうちの1つである。プロセッサ120は、これらのジェスチャテンプレートのライブラリを含む。プロセッサ120は、動きジェスチャテンプレートのライブラリに対して取得された動きセンサ信号を比較する。取得された動き信号の形態が動きジェスチャテンプレートのうちの1つに接近して一致する場合、プロセッサ120は、ボディ部が、一致された動きジェスチャテンプレートに関連付けられたジェスチャを行うと結論付ける。言い換えると、ジェスチャ認識デバイス104は、ジェスチャを検出する。取得された動き信号と動きジェスチャテンプレートの接近のレベルは、上記で説明された基準を定義する。例えば、ポイント毎の電圧比較、または取得された動き信号と動き−ジェスチャテンプレートの波形エリア比較は、波形間の割合の一致を生み出すことができる。このケースでは、基準は、割合、例えば90%、であることができ、基準の、または基準より上の生み出された割合は、結果としてジェスチャ検出をもたらすと考えられうる。
【0022】
[0027]ステップ212で、ジェスチャが検出されない場合、プロセスはステップ202に戻る。代わりとしてプロセスは、ステップ206またはステップ210のどちらかに戻ることができる。しかしながらジェスチャが検出された場合、ステップ214で信号はユーザデバイス102に通信される。信号は、検出されたジェスチャに対応するデバイス102の動作に作用するためのものである。1つの構成では、ジェスチャ認識デバイス104のプロセッサ120は、ジェスチャのルックアップテーブル、および、その動作に作用するためにユーザデバイス102に送信すべき対応する出力信号を含む。例えば、検出されたジェスチャが文字「O」である場合、認識デバイス104は、ユーザデバイスにアプリケーションを開かせる信号を、ユーザデバイスに出力することができる。別の例として、表面上での指の時計回りの運動は結果として、ユーザデバイスに開かれたドキュメントをスクロールダウンさせる信号を認識デバイス104が出力することをもたらす。別の構成では、ルックアップテーブルがユーザデバイスと共に存在することができ、このケースにおいて、認識デバイス104は単に、ジェスチャ自体に対応する信号を通信し、ユーザデバイス102は、そのルックアップテーブルを通じて作用されるべき動作を決定する。上記で述べられたように、ジェスチャ認識デバイス104とユーザデバイス102のジェスチャ認識はワイヤレスでありうる。
【0023】
[0028]追加のオプションのステップ(図示せず)として、感知された電気的活動がボディ部と表面の接触を示すかどうかを決定する(ステップ206)前に、ジェスチャ認識デバイス104は第1に、ボディ部がいずれかのタイプの動きを示しているかどうかを決定することができる。このことは、上記で述べられたような動きセンサ116を使用して行われうる。プロセッサ120は、動きセンサ116から信号を受信し、一般的な動き活動の基準とその信号を比較する。その基準が満たされる場合、プロセッサ120は、ボディ部が動いていると結論づけ、プロセスはステップ206に進む。言い換えると、ジェスチャ認識デバイス104は、ボディ部のよる一般的な動きを検出する。この点での基準は単に、動きジェスチャテンプレートに一致する必要のない任意の方向への運動の特定のレベルに関連しうる。
【0024】
[0029]最初の一般的な動き感知は、それが、計算集約的EMGセンサ処理、および動き‐ジェスチャテンプレート一致処理を、それらが保証されていないケースにおいて、排除することができる点で有益である。例えば、ユーザの手が、いずれの運動もなく、表面上で休んでいる場合、ジェスチャ認識デバイス104は、ボディ‐表面近接を検出するだろう。次のステップのジェスチャ認識デバイス104によるEMG感知は、ボディ‐表面接触を検出するだろう。しかしながら、後に続くステップの動き‐テンプレート一致は、手が休んでいるので、結果としてどの動き‐テンプレート一致をもたらさないだろう。ボディ‐表面接触および動き‐テンプレート一致を検出する前に、ボディ部の一般的な動きを検出することは、これらの処理ステップの必要性を除外するだろう。
【0025】
[0030]
図5は、例示的なジェスチャ検出装置502における種々のモジュール/手段/コンポーネントの動作を例示している概略的なフロー
図500である。装置502は、ボディ‐表面近接検出モジュール504、オプションのボディ動き検出モジュール
506、ボディ‐表面接触検出モジュール
508、ジェスチャ検出モジュール
510、および通信モジュール
512を含む。ボディ‐表面近接検出モジュール504は、ボディ部が表面に近接しているかどうかを決定する。ボディ動き検出モジュール506は、ボディ部が動いているかどうかを決定する。ボディ‐表面接触検出モジュール508は、ボディ部から感知された電気的活動が、ボディ部と表面の接触を示すかどうかを決定する。ジェスチャ検出モジュール510は、ボディ部から感知された動き活動が、ジェスチャを示すかどうかを決定する。通信モジュール510は、ユーザデバイスの動作に作用する信号をユーザデバイスに通信する。
【0026】
[0031]装置は、上述の
図2のフローチャートにおけるアルゴリズムのステップの各々を実行する追加のモジュールを含むことができる。このように、上述の
図2のフローチャートにおける各ステップはモジュールによって実行されることができ、装置はそれらのモジュールのうちの1つまたは複数を含むことができる。モジュールは、述べられたプロセス/アルゴリズムを行うように特に構成され、述べられたプロセス/アルゴリズムを実行するように構成されたプロセッサによって実装され、プロセッサによる実装のためにコンピュータ可読媒体内に格納された、あるいはそれらの何らかの組み合わせの、1つまたは複数のハードウェアコンポーネントでありうる。
【0027】
[0032]
図6は、処理システム614を用いる装置502’のためのハードウェア実装の例を例示している図
600である。処理システム614は、バス624によって概して表されているバスアーキテクチャで実装されうる。バス624は、処理システム614の特定のアプリケーションおよび全体の設計の制約に依存して、任意の数の相互接続するバスおよびブリッジを含むことができる。バス624は、プロセッサ604、モジュール504、506、508、510、512、およびコンピュータ可読媒体606によって表されている1つまたは複数のプロセッサおよび/またはハードウェアモジュールを含む様々な回路を互いにリンクさせる。バス624はまた、タイミングソース、周辺機器、電圧レギュレータ、および電力管理回路のような様々な他の回路をリンクさせることもでき、これらは当該技術分野で周知であり、そのためこれ以上説明されないだろう。
【0028】
[0033]処理システム614は、コンピュータ可読媒体606に結合されたプロセッサ604を含む。プロセッサ604は、コンピュータ可読媒体606上に格納されたソフトウェアの実行を含む、一般的な処理を担う。このソフトウェアは、プロセッサ604によって実行されるとき、処理システム614に、あらゆる特定の装置に関して上記で説明された様々な機能を実行させる。コンピュータ可読媒体606はまた、ソフトウェアを実行するときにプロセッサ604によって操作されるデータを格納するために使用されることもできる。処理システムは、モジュール504、506、508、510、512のうちの少なくとも1つをさらに含む。そのモジュールは、プロセッサ604において起動し、コンピュータ可読媒体606に存在し/格納されたソフトウェアモジュール、プロセッサ604に結合された1つまたは複数のハードウェアモジュール、またはそれらの何らかの組み合わせでありうる。
【0029】
[0034]1つの構成では、装置502/502’は、ボディ部が表面に近接しているかどうかを決定するための手段と、ボディ部が表面に近接している場合、ボディ部から感知された電気的活動がボディ部と表面の接触を示すかどうかを決定するための手段と、ボディ部が表面と接触している場合、ボディ部から感知された動き活動がジェスチャを示すかどうかを決定するための手段と、を含む。装置502/502’は、感知された電気的アクティビティがボディ部と表面の接触を示すかどうかを決定する前に、ボディ部が動いているかどうかを決定するための手段と、ジェスチャを検出したことに応答して、ユーザデバイスに信号を通信するための手段と、ここにおいてその信号は、ユーザデバイスの動作に作用する、をさらに含むことができる。上述の手段は、上述の手段によって記載された機能を実行するように構成された装置502’の処理システム614および/または装置502の上述のモジュールのうちの1つまたは複数でありうる。
【0030】
[0035]開示されているプロセスにおけるステップの指定の順序または階層は、例示的な手法の例示のであることが理解される。設計の選好に基づいて、プロセスにおけるステップの指定の順序または階層は並べ替えられうることが理解される。さらに、いくつかのステップは、組み合わされうるか、または省略されうる。添付の方法の請求項はサンプルの順序で様々なステップの要素を提示し、提示されている指定の順序または階層に限定されるようには意図されていない。
【0031】
[0036]先の説明は、あらゆる当業者が本明細書で説明されている様々な態様を実施することを可能にするように提供されている。これらの態様への様々な変更は当業者には容易に明らかになり、本明細書で定義されている包括的な本質は他の態様に適用されうる。したがって、特許請求の範囲は、本明細書で示されている態様を限定されるように意図されておらず、特許請求の範囲の用語と一貫した最大範囲であると認められるものとし、ここにおいて、単数の要素に対する参照は、「1つおよび1つだけ」を、そのように特別に述べられない限りは意味するように意図されておらず、むしろ「1つまたは複数」を意味するように意図されている。他の方法で特別に述べられていない限り、「いくつか」、「何らか」、「任意の」という用語は、1つまたは複数を指す。当業者に既知、または後に既知となる本開示全体を通して説明されている様々な態様の要素に対するすべての構造的および機能的な均等物は参照によって本明細書に明示的に組み込まれ、特許請求の範囲によって包含されるように意図されている。さらに本明細書で開示されているものが、そのような開示が特許請求の範囲に明確に記載されているかどうかに関わらず、公けに捧げられるようには意図されていない。どの請求項の要素も、その要素が「〜のための手段」という表現を使用して明示的に記載されない限り、ミーンズプラスファンクションとして解釈されるものではない。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
表面に対するボディ部のジェスチャを検出する方法であって、
前記ボディ部が前記表面に近接しているかどうかを決定することと、
前記ボディ部が前記表面に近接する場合、前記ボディ部から感知された[筋肉]電気的活動が、前記ボディ部と前記表面の接触を示すかどうかを決定することと、
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定することと、
を備える方法。
[C2]
前記ボディ部が前記表面に近接しているかどうかを決定することは、前記ボディ部に関連付けられた近接センサからの信号を監視することを備える、C1に記載の方法。
[C3]
感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定することは、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
を備える、C1に記載の方法。
[C4]
感知された動き活動が前記ジェスチャを示すかどうかを決定することは、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
を備える、C1に記載の方法。
[C5]
ジェスチャ基準のライブラリを提供することをさらに備え、各基準は異なるジェスチャに対応する、C4に記載の方法。
[C6]
前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定すること、
をさらに備える、C1に記載の方法。
[C7]
前記ボディ部が動いているかどうかを決定することは、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
を備える、C6に記載の方法。
[C8]
前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信することをさらに備え、前記信号は、前記ユーザデバイスの動作に作用するためのものである、C1に記載の方法。
[C9]
表面に対するボディ部のジェスチャを検出するための装置であって、
前記ボディ部が前記表面に近接しているかどうかを決定するための手段と、
前記ボディ部が前記表面に近接している場合、前記ボディ部から感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定するための手段と、
前記ボディ部が前記表面と接触している場合、前記ボディ部から感知された動き活動が前記ジェスチャを示すかどうかを決定するための手段と、
を備える、装置。
[C10]
前記ボディ部が前記表面に近接しているかどうかを決定するための前記手段は、前記ボディ部に関連付けられた近接センサからの信号を監視するように構成される、C9に記載の装置。
[C11]
感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定するための前記手段は、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
を行うように構成される、C9に記載の装置。
[C12]
感知された動き活動が前記ジェスチャを示すかどうかを決定するための前記手段は、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
を行うように構成される、C9に記載の装置。
[C13]
ジェスチャ基準のライブラリをさらに備え、各基準は異なるジェスチャに対応する、C12に記載の装置。
[C14]
前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定するための手段をさらに備える、C9に記載の装置。
[C15]
前記ボディ部が動いているかどうかを決定するための前記手段が、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
を行うように構成される、C14に記載の装置。
[C16]
前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信するための手段をさらに備え、前記信号は、前記ユーザデバイスの動作に作用する、C9に記載の装置。
[C17]
表面に対するボディ部のジェスチャを検出するための装置であって、
前記ボディ部が前記表面に近接しているかどうかを決定することと、
前記ボディ部が前記表面に近接している場合、前記ボディ部から感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定することと、
前記ボディ部が前記表面と接触している場合、前記ボディ部から感知された動き活動が前記ジェスチャを示すかどうかを決定することと、
を行うように構成された、処理システム、
を備える、装置。
[C18]
前記処理システムは、前記ボディ部に関連付けられた近接センサからの信号を監視することによって、前記ボディ部が前記表面に近接しているかどうかを決定する、C17に記載の装置。
[C19]
前記処理システムは、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
によって、感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定する、C17に記載の装置。
[C20]
前記処理システムは、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
によって、感知された動き活動が前記ジェスチャを示すかどうかを決定する、C17に記載の装置。
[C21]
ジェスチャ基準のライブラリをさらに備え、各基準は異なるジェスチャに対応する、C20に記載の装置。
[C22]
前記処理システムは、前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定するように構成される、C17に記載の装置。
[C23]
前記処理システムは、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
によって、前記ボディ部が動いているかどうかを決定する、C22に記載の装置。
[C24]
前記処理システムは、前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信するように構成され、前記信号は、デバイスの動作に作用する、C17に記載の装置。
[C25]
表面に対するボディ部のジェスチャを検出するためのコンピュータプログラム製品であって、
前記ボディ部が前記表面に近接しているかどうかを決定することと、
前記ボディ部が前記表面に近接している場合、前記ボディ部から感知された電気的活動が、前記ボディ部と前記表面の接触を示すかどうかを決定することと、
前記ボディ部が前記表面に接触している場合、前記ボディ部から感知された動き活動が、前記ジェスチャを示すかどうかを決定することと、
のためのコードを備えるコンピュータ可読媒体、
を備える、コンピュータプログラム製品。
[C26]
前記ボディ部が前記表面に近接しているかどうかを決定するためのコードは、前記ボディ部に関連付けられた近接センサからの信号を監視するためのコードを備える、C25に記載の製品。
[C27]
感知された電気的活動が前記ボディ部と前記表面の接触を示すかどうかを決定するためのコードは、
表面上の前記ボディ部の配置に対応する電気的活動の基準と、前記ボディ部から感知された前記電気的活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記表面に接触していると結論付けることと、
のためのコードを備える、C25に記載の製品。
[C28]
感知された動き活動が前記ジェスチャを示すかどうかを決定するためのコードは、
前記ジェスチャに対応する動き活動の基準と、前記ボディ部から感知された前記動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が前記ジェスチャを行ったと結論付けることと、
のためのコードを備える、C25に記載の製品。
[C29]
ジェスチャ基準のライブラリを定義するコードをさらに備え、各基準は異なるジェスチャに対応する、C28に記載の製品。
[C30]
前記感知された電気的活動が前記ボディ部と表面の接触を示すかどうかを決定する前に、前記ボディ部が動いているかどうかを決定するためのコードをさらに備える、C25に記載の製品。
[C31]
前記ボディ部が動いているかどうかを決定するためのコードは、
動きに対応する動き活動の基準と、前記ボディ部から感知された動き活動を比較することと、
前記基準が満たされるとき、前記ボディ部が動いていると結論付けることと、
のためのコードを備える、C22に記載の装置。
[C32]
前記ジェスチャを検出することに応答して、ユーザデバイスに信号を通信するためのコードをさらに備え、前記信号は、前記ユーザデバイスの動作に作用するためのものである、C25に記載の製品。