(58)【調査した分野】(Int.Cl.,DB名)
前記プロセッサは、更に、そのように決定された放射器・検出器対の放射器が物体位置計算の一連の時間にわたり同じ放射器であり続けるときに前記一次レンズの1つの光学軸に平行な方向に物体が移動し、そしてその対の検出器により検出される光の量が、付加的な位置の1つに関連した共アクチベートされた対の検出器により検出される光の量に対して、前記計算の一連の時間にわたり同じ比を有すると推測する、請求項1に記載の接近センサ。
検出平面内の反射物体による投射光の反射を検出するために前記ハウジングにマウントされた複数の二次光検出器を更に備え、放射器と二次検出器との各放射器・検出器対について、その対の放射器により放射された光は、前記一次レンズの1つを通過し、そして物体が二次元位置にあるとき、検出平面内の二次セットの位置の中から、物体により、前記一次レンズの1つを通してその対の検出器へ反射して戻され、前記二次セットの位置は、一次セットの位置とは異なる、請求項1に記載の接近センサ。
前記検出平面は、反射面上を通過し、そして前記一次レンズは、前記放射器により投射された光ビームを前記反射面に対して上方の角度に向けて、その面による投射光の反射を最小にする、請求項1に記載の接近センサ。
前記放射器及び一次検出器は、個々のプラスチックケースレンズをもたずに且つ個々の基板をもたずに前記ハウジングにマウントされるダイオードを含む、請求項1に記載の接近センサ。
【発明を実施するための形態】
【0018】
以下のテーブルは、番号付けされた要素を列挙しそして番号付けされた各要素が現れる図面をリストしたものである。同様に、番号付けされた要素は、同じタイプの要素を表わすが、同じ要素である必要はない。
【0019】
本発明の態様は、光ベースのタッチスクリーン及び光ベースのタッチ表面に関する。この明細書全体にわたり、「タッチスクリーン」という語は、電子ディスプレイを含まないタッチ表面、特に、多数のラップトップコンピュータに含まれるマウスタッチパッド及びハンドヘルド装置のバックカバーを含む。又、これは、本発明により提供されるセンサに隣接する非包囲エアスペースも含む。
【0020】
本発明の実施形態によれば、光ベースのタッチセンサは、複数の赤外線又は近赤外線の発光ダイオード(LED)と、検出平面の1辺に沿って配置された複数のホトダイオード(PD)とを備えている。ある実施形態では、検出平面は、上述したように、タッチスクリーンの表面又は界面エリアである。LEDは、検出平面に沿ってコリメートされた光を投射し、そしてその光が指又はスタイラスのような挿入物体により反射されたとき、その反射光がPDにより検出される。アクチベートされるLEDと、反射光を検出するPDとの位置の幾何学形状は、検出エリア内のポインタの二次元座標を三角法で決定するのに充分である。LED及びPDは、プロセッサにより選択的にアクチベートされる。一般的に、各LED及びPDは、I/Oコネクタを有し、そしてどのLED及びどのPDをアクチベートするか指定するために信号が送信される。
【0021】
本発明の実施形態により二次元検出エリアにおいて物体の二次元座標を検出するための接近センサの簡単な図である
図2を参照する。
図2は、下縁に沿った交互の放射器及び検出器の行と、上縁に沿ったレンズ312のアレイと、左縁のプロセッサ702とを特徴とする接近センサ512を示している。放射器及び検出器は、全て、図示簡単化のため番号が付けられていることに注意されたい。従って、
図2には、放射器101−103及び検出器202−208と番号付けされている。放射器及び検出器の交互の配置は、放射器101−103及び検出器206−208で示されている。
【0022】
各放射器は、アレイ312における各コリメートレンズの光学軸に位置される。
図2においては、放射器101−103が各光ビーム403−405を投射するように示されている。
【0023】
又、
図2は、各検出器のための反射光ビームも示している。それらの5つが、406−409及び413と番号付けされている。アレイ312の各レンズは、そのレンズの放射器に隣接する2つの検出器へ反射光を伝送する。例えば、放射器102に対向するレンズは、反射ビーム413を検出器207に指向すると共に、反射ビーム409を検出器208に指向する。以下に述べるように、検出器は、特定の角度でレンズに入るビームから最大の強度を受けるようにレンズの対物平面に沿って位置される。これは、各放射器・検出器対に対応する二次元エリア内の位置を決定できるようにする。
図2において、それらの位置は、放射器ビームと反射ビームとの間の交点である。
図2において、5つのそのような位置が902−906と番号付けされている。
【0024】
本発明の実施形態によれば、各放射器は、プロセッサ702により各検出器と同期して共アクチベートされる。共アクチベート中に反射光が検出された場合には、
図2に示すように、アクチベートされた放射器のビームと、共アクチベートされた検出器に対する対応反射ビームとの間の対応交点位置の付近に物体が位置することを示す。プロセッサ702は、共アクチベートされた放射器・検出器対の中で、検出器が最大量の光を検出する放射器・検出器対を決定し、そしてそれに関連した位置を識別することにより、物体の座標を計算する。例えば、最大の検出は、放射器・検出器対102−202に対して識別され、即ち放射器のビーム404がビーム408に沿って反射されたときに識別される。この検出に対応する位置は、検出平面内の位置902である。プロセッサ702は、共アクチベートされた放射器・検出器対に関連し且つ最大検出の識別位置に隣接する付加的な位置、例えば、対応位置が903である放射器・検出器対102−203、及び対応位置が905である放射器・検出器対101−202を決定する。又、付加的な検出及びそれに対応する位置、例えば、位置904及び906に対応する検出も使用される。プロセッサ702は、最大検出の識別された位置、及びそのように決定された付加的な位置の重み付けされた平均値を計算し、その平均値における各位置の重みは、その位置に関連した放射器・検出器対に対する反射光ビームの検出の度合いに対応する。
【0025】
プロセッサ702は、1つの放射器を2つ以上の検出器と同期して同時に共アクチベートするように動作する。ある実施形態では、プロセッサ702は、以下に述べるハフ変換を使用して物体の位置を計算する。
【0026】
LEDのような放射器及びホトダイオード(PD)のような検出器は、典型的に、個々の基板上にマウントされ、そして個々のレンズカバーで包囲される。接近センサ512のコストを減少するために、ある実施形態では、放射器及び検出器は、個々のレンズをもたず且つ個々の基板をもたずに、接近センサ512のPCB又は他の基板上に裸のダイオードとしてマウントされる。レンズアレイ312は、これらダイオードのための唯一のレンズとして働く。この場合、接近センサ512は、大きなマルチダイオードコンポーネントと考えることができる。このコンポーネントは、事前に製造され、そしてODM又はエンドユーザにより装置に挿入されて、タッチ検出を行うことができる。
【0027】
例えば、このコンポーネントは、ユーザが車窓においてタップ及びジェスチャー入力を行えるように車窓の上又は下に配置することができる。プロセッサ702は、カーステレオ又はユーザの電話とワイヤレス通信するためにコミュニケータプロセッサ、例えば、BLUETOOTH(登録商標)を備えている。同様に、このコンポーネントは、ユーザが家の窓又は家の壁においてタップ及びジェスチャー入力を行えるように家の窓の上又は下或いは家の壁に配置することができる。数字及びアイコンを伴う透明のシートを窓ガラス上又はその中或いは壁に配置して、各位置におけるユーザのタッチでどんな入力動作がアクチベートされたか指示することができる。
【0028】
この説明において、接近センサ512は、タッチセンサバー501及びタッチセンサバー510とも称される。
【0029】
本発明の実施形態により接近センサ512を使用するタッチスクリーンシステムの簡単な図である
図3を参照する。
図3は、遠隔物体901により反射された光をタッチセンサバー501が検出するところを示す。タッチセンサバー501は、5つのPD201−205を含む。PDの各対間にLEDが挿入される。従って、タッチセンサバー501には4つのLEDがある。しかしながら、
図3には、1つのLED、即ちLED101しか示されていない。
【0030】
タッチセンサバー501は、LED及びPDの前に光ガイド301を備え、これは2つの機能を果たす。即ち、第1に、発光ダイオードからの光をコリメートし、そして光ビーム401で示すように、スクリーンの表面を横切ってそれを投射し;第2に、固定の角度で光ガイド301に入る反射光をホトダイオードに収束させる。従って、光ガイド301は、接続された一連のコリメートレンズを含み、そのうちのレンズ302及び303が
図2Bに示されている。レンズ302は、放射器101のビームをコリメートするように示され、そしてレンズ303は、特定の固定角度で光ガイド301に入る反射光402をホトダイオード205に収束させるように示されている。
【0031】
本発明の実施形態によるタッチ検出装置の分解図である
図4及び5を参照する。
図4は、上から見たタッチセンサバー510の分解図である。上部及び下部のケーシング部分601と602との間に、PCB603及び光ガイド310が示されている。PCB603は、交互のLED101及びPD201の行を有し、その行の両端の最も外側のダイオードは、PD201である。従って、11個のPDがPCB603において10個のLEDとインターリーブされている。
図3は、10個のコリメートレンズ311で形成された光ガイド310も示しており、1つのレンズが各LEDに直接対向している。上述したように、各コリメートレンズ311は、2つの機能、即ち出て行くビームをコリメートすること、及び到来する反射ビームをPDに収束すること、を遂行する。LEDは、それに対向するレンズの焦点に位置される。この焦点から各PDの横方向のずれは、レンズが到来ビームをPDへの狭い角度範囲内のみに向けるように保証する。レンズ311への入射角がその狭い角度範囲より大きいか又は小さい到来ビームは、ターゲットPDから離れて収束される。
【0032】
漂遊LED光が隣接PDを飽和させるのを防止するために、一連の光バリア320−321が各LEDをその隣接PDから分離する。
図5は、下から見たタッチセンサバー510の別の分解図である。光バリア320及び321は、上部ケーシング601の下面から突出して示されている。
【0033】
本発明の実施形態によるタッチ検出装置の上から見た図である
図6を参照する。
図6は、上からタッチセンサバー510を見た図である。
図6は、バリア320及び321によって各々分離されるLED101及びPD201の交互の行;各LED101に対向するレンズ311、並びにLED101及びPD201を順次にアクチベートし且つPD検出信号を受信するためのコントローラ701を示している。PD検出信号に基づいて行われるタッチ計算は、コントローラ701により実行されるか、又は個別の処理ユニット、例えば、ホストへオフロードされる。
【0034】
本発明の実施形態によるタッチスクリーンシステムに使用される放射及び反射光ビームの簡単な図である
図7−12を参照する。
図7は、PD210及び211により各々検出される2組の反射ビーム411及び412に基づいて離れた物体910を検出することを示している。
図7は、1つの放射器111からのビームが2つのPD210及び211によってどのように検出されるかを示している。反射ビーム411及び412は、各々、ある角度で各レンズ311に入り、レンズは、ビームを各PDに収束させる。
【0035】
図8は、レンズ311の設計事項、並びに放射器101及びPD201の配置を示している。レンズ311は、非球面であり、そしてLED101及びPD201両方への同時収束を維持するためにフラットな画像平面912を達成するように最適化される。LED101は、レンズ311を中心として光学軸上に位置する。点913は、画像平面912におけるLED101の画像である。PD201は、視野の縁に位置する。点914は、画像平面912におけるPD201の画像である。レンズを通して対物平面916に捕獲される画像に関して、LED101は、中心ピクセルであり、そしてPD201は、捕獲画像の縁のピクセルである。PD201の視野は、レンズ311の巾を通して見たPDチップサイズにより決定される。PD201の視野以外の角度からレンズ311に入る光線は、同じ平面916に画像を形成するが、LED101とPD201との間のどこかである。従って、これらの光線は、PD201によって捕獲されない。
【0036】
放射器101のビーム420とPD201の反射ビーム421との間の角度915は、アクティブなタッチ検出エリアの意図された形状に適合するように選択される。アクティブなタッチ検出エリアが方形であるときには、角度915は、方形の半分の対角線、即ちtan
-1(1/2)≒26.6°である。視野の深さがタッチセンサバーの巾より長いときには、角度は、より小さい。
【0037】
図9は、LED101が光ビーム410をスクリーン911の表面上に及び表面を横切って投射するところを示す側面図である。レンズ311によりコリメートされるのに加えて、ビーム410は、スクリーンの表面から離れるように若干上に向けられる。これは、スクリーン911の表面により反射される光の量を減少し、タッチ検出に利用される光を最大にする。
【0038】
図10は、1つのコリメートレンズ311、放射器101及びPD201の、上から見た図である。ビーム410と411との間の入射角度でレンズ311に接近する反射光ビームは、放射器101とPD201との間の位置に収束される。ビーム411より鋭角の入射角でレンズ311に接近する反射光ビームは、PD201より上の位置に収束される。従って、レンズ及びPDの構成は、システムが特定の角度でレンズ311に入る反射光を感知することを保証する。
【0039】
図11は、
図10のレンズ及びコンポーネントの斜視図である。
【0040】
図12は、タッチ検出バー510から距離3において物体910により反射されたビーム411及び412を示す。上述したように、PD及びレンズが構成される検出角度に基づいて、PD210及び211に最大の検出信号が発生される。従って、タッチ位置は、距離3において、アクチベートされた放射器111に対向していると決定される。これらの座標は、X、Yスクリーン座標に容易に変換される。例えば、タッチ位置がビーム410に沿っているが、タッチ検出バー510から距離2にある場合には、最大検出信号は、PD212及び213に到着する。同様に、タッチ位置がビーム410に沿っているが、タッチ検出バー510から距離1にある場合には、最大検出信号は、PD214及び215に到着する。より一般的には、放射器のビームに沿った各距離単位は、放射器からのPDオフセットに対応する。従って、PD214及び215は、放射器111からオフセット0であり、PD212及び213は、オフセット1であり、そしてPD210及び211は、オフセット2である。右及び左の検出角度がビーム411及び412で示されている。
【0041】
本発明の実施形態によるタッチ検出マップを示した
図13及び14を参照する。
図13は、放射器0−9からの光ビームに対してスクリーン上の対応タッチ位置へマップされたPDオフセットを示す。
図13において、PDオフセットは、センサオフセットとして示され、そして放射器インデックスは、ソースインデックスとして示される。各放射器ビームは、ソースインデックスの1つで始まる垂直線で表される。マップされたタッチ感知エリアのダイヤモンドパターンの各頂点は、スクリーン上のタッチ位置に対応し、そして破線の対角線は、特定の右及び左の検出角度における反射ビームを表す。各頂点の高さは、放射器からのPDオフセットに対応する。従って、PDは、1つの行において、放射器とインターリーブされるが、PDオフセットは、明瞭化のために
図13の第2の軸に沿って配置される。
【0042】
上述した例では、各検出器は、2つのレンズからビームを受け取り、そして第1レンズの対物平面内の第1位置において、第2レンズの対物平面と対向する位置に配置される。その結果、レンズの光学軸に対して角度θで第1レンズに入る反射ビームと、光学軸に対して角度−θで第2レンズに入る反射ビームとを検出するように位置される。その結果、第1の放射器・検出器対に関連した多数の位置は、第2の放射器・検出器対にも関連している。放射器・検出器対に関連したより独特の位置を与えるために、検出器は、2つのレンズに関して非対称的な位置に配置される。これは、
図15に示されている。
【0043】
本発明の実施形態による交互に放射器及び検出器を伴うレンズアレイ312の簡単な図である
図15を参照する。
図15は、検出器がレンズアレイ312の2つのレンズに対して2つの非対称的な対向位置にあることを示す。従って、放射器ビーム403は、2つの異なる位置907及び908において反射ビーム407及び406と交差する。ある実施形態では、各検出器は、そのレンズの対物平面内で若干異なる位置対に配置される。これは、放射器・検出器対に関連した位置の非均一な分布を与える。
【0044】
タッチ座標アルゴリズム
ここでは、追跡される物体の位置を決定するために行われる動作を詳細に説明する。上述したように、アクチベートされる放射器ごとに、いずれのPDも、放射器と反射物体との間の距離に基づいて、収束された反射ビームを受け取る。それ故、スクリーン全体をスキャンすることで、PD検出値のテーブルが出力され、その列はLEDに対応し、そしてその行はPDに対応する。従って、10個のLED及び11個のPDを有する検出では、出力テーブルは、11の行と10の列を有し、列1の11の入力は、放射器1がアクチベートされたときに各PDの検出値を含み、列2の11の入力は、放射器2がアクチベートされたときに各PDの検出値を含み、等々である。テーブルIは、生の検出値を含む規範的なテーブルである。
テーブルI:生の検出値
【0045】
テーブルIにおける2つの最大値、即ち生の検出値141及び144は、LED5がアクチベートされたときにPD4及びPD7から各々得られる。PD4及びPD7は、LED5からオフセットが1である。というのは、PD5及び6がLED5の直接的な左右の隣接物であり、オフセットが0だからである。
【0046】
アクチベートされたLEDからオフセット0又は1のPDに近傍の物体により反射される光の量は、アクチベートされたLEDからオフセット7又は8のPDに遠い物体により反射される光の量より多い。実際に、他の全てのパラメータが一定であると仮定すれば、PDオフセットが大きいほど、PDに到達する光は少ない。PD値は、12ビット又は16ビットのような所与の解像度を有するA/Dコンバータによってデジタル化される。この範囲の値を充分に活用するために、ある実施形態では、ターゲットPDのオフセットに基づいて、各放射器が、異なる量の電流でアクチベートされるか、又は異なる期間中アクチベートされる。最大の検出値に到達し及びおそらくその値をオーバーフローする危険を生じずに全範囲の値を活用するためには、オフセットが大きいほど、電流及び/又はアクチベーション時間が大きくされる。レンズ311の高さ及び指向物体の反射率を含む他のファクタも、考えられ又は予想されるPD検出値の範囲に貢献する。特に、スクリーン表面上のレンズの高さが高いほど、ターゲットPDに多くの光が入り込む。ある実施形態では、異なるPDオフセットに対する予想PD検出値の量は、実験に基づいて発見的に決定される。
【0047】
ある実施形態では、A/Dコンバータは、タッチ位置を計算するためにプロセッサにより使用される以上のビットを出力する。例えば、ある実施形態では、A/Dコンバータは、12ビット値を出力し、そしてプロセッサは、8ビット値を使用する。これらのケースでは、最大予想12ビット値を決定することが重要である。この最大値に基づき、システムは、最上位ビット(msb)を除去するが、それは、除去されるmsbに非ゼロ値が含まれるおそれがないときだけである。オーバーフローのおそれがあってシステムがmsbを破棄するのを妨げる場合には、システムは、最下位ビット(lsb)を除去して、8ビット値に到達する。これらの最大値も、発見的手段により決定され、且つPDオフセットに依存する。
【0048】
発見的手段は、LED・PD対ごとに参照検出値を準備するのにも使用される。従って、前記検出テーブルにおける検出PD値の各々は、各参照値で除算されて、テーブル内の全ての値が0−1の範囲に正規化される。
図14は、オフセット±5のLED2及びPDに対応するタッチに対する正規化された検出値の検出マップを示す。LED2からオフセット−5の対応PDはないので、オフセット+5のPDだけがこの最大検出信号を発生する。
図14の検出マップは、実線及び破線の同心形状917を含み、各内側形状は、その外側の隣接部より大きく、最大の検出信号が中心に生じるようにする。
図15をカラーで又は変化するグレースケールレベルでレンダリングした場合には、最も内側の形状が最も暗く、そしてそれら形状が膨張するにつれて、徐々に明るくなる。しかしながら、純粋な白黒でレンダリングするためにカラー及び陰影は
図14から除去されている。
【0049】
タッチ位置を決定するのに有用なものは、検出信号の絶対値だけではなく、隣接信号間の関係も重要なファクタである。
【0050】
本発明の実施形態によりタッチスクリーンシステムにおけるタッチ位置を計算するために使用されるアルゴリズムを示す簡単なタッチ検出マップである
図16−21を参照する。
図16は、
図13の検出マップの一部分を示す。上述したように、垂直の実線は、放射器ビームを表す。より詳細には、各垂直線は、所与の放射器からのビームの中心を表す。放射器ビームは、ビームの中心の周りの通常のベル形状の分布を有すると考えられる。同様に、
図16における対角方向の実線は、所与のオフセットのPDに最大の検出値を発生する最適な反射ビームを表す。これら対角方向のビームに平行なビーム及びそれらビームの間にあるビームの検出値は、所与のオフセットのPDにおいて通常のベル形状の検出分布を有すると考えられる。これら分布特性は、垂直方向の実線と対角方向の実線との間の位置、又は最大検出点を指示する
図13の検出マップの頂点間の位置を、隣接検出信号を比較することで決定する能力を与える。従って、接触点は、以下に述べる6つのテーマに基づく。
【0051】
テーマ1:反射物体がPDの対角方向検出線に平行に並進移動する場合には、同じLEDを検出する隣接PDの検出信号間の関係が一定に保たれる。
【0052】
テーマ1は、
図16に示されている。
図16は、
図13の検出マップの一部分を示すもので、3本の垂直方向の実線は、3本の放射器ビームの部分を表し、そして4本の対角方向の実線は、4本の検出器ビームを表す。上述したように、最大検出レベル点は、放射器ビームが検出器ビームと交差する頂点にある。
図16には、3つのそのような頂点、即ちp0、r1及びd1が表示され、各表示は、その対応頂点の右側になされている。タッチ物体がp0とd1との間の中間点にあるケースでは、点p0を表わす検出信号と点d1を表わす検出信号との比がほぼ等しい。更に、タッチ物体がp0とd1との間の対角方向の破線に沿って並進移動される限り、この比が一定に保たれる。従って、同じLEDを検出する隣接PDの2つの最も高い検出信号間の比に基づいて、
図16において、対角方向の破線に平行に線を描くことができ、そしてその描かれた線のどこかにタッチ位置があるはずである。描かれた線は、その比の大きさに基づいて頂点p0又はd1に接近する。
【0053】
テーマ2:反射物体がLEDの垂直方向放射器線に平行に並進移動する場合には、2つの隣接LEDを検出する検出する1つのPDの検出信号間の関係が一定に保たれる。
【0054】
テーマ2も、
図16に示されている。頂点p0は、アクチベートされたLEDからオフセットnのPDにおいて反射が検出されるLEDビームを表す。頂点r1は、アクチベートされたLEDからオフセットn+1のPDにおいて反射が検出される隣接LEDビームを表す。しかしながら、r1についてアクチベートされたLEDは、p0についてアクチベートされたLEDの隣接部であるから、p0について使用される同じPD(そのオフセットはnである)が、r1について使用される。というのは、r1のLEDからのこのPDのオフセットがn+1だからである。タッチオブジェクトがp0とr1との間の中間点にあるケースでは、点p0を表わす検出信号と、点r1を表わす検出信号との比は、ほぼ等しい。更に、タッチ物体がp0とr1との間の垂直方向破線に沿って並進移動する限り、この比は、一定に保たれる。従って、2つの隣接LEDを検出する1つのPDの2つの最も高い検出信号間の比に基づいて、
図16において垂直方向の破線に平行に線を描くことができ、その描かれた線のどこかにタッチ位置があるはずである。描かれた線は、その比の大きさに基づいて頂点p0又はr1に接近する。
【0055】
テーマ3:テーマ1と2を結合すると、タッチが位置する菱形のエリアが与えられる。この菱形エリアの頂点の3つは、頂点r1、p0及びd1である。更に、厳密なタッチ位置は、テーマ1の描かれた線とテーマ2の描かれた線との間の交点である。
【0056】
テーマ1−3は、単一の点からの光を反射する小さなタッチ物体に適用される。大きなタッチ物体は、LEDビームに垂直な物体の側部に沿って反射する。従って、大きなタッチ物体の場合には、各LEDから等距離にある一連の反射点を表わす最大の検出値のより広い、より均一な分布が存在する。テーマ4−6は、大きなタッチ物体に関連している。
【0057】
テーマ4:反射物体がLEDの垂直方向の放射器線に垂直に並進移動される場合には、同じLEDを検出する隣接PDの検出信号間の関係が一定に保たれる。
【0058】
テーマ4−6は、
図17に示されている。
図17は、
図13の検出マップの一部分を示すもので、3本の垂直方向の実線は、3本の放射器ビームの一部分を表し、そして4本の対角方向の実線は、4本の検出器ビームを表す。上述したように、最大検出レベル点は、放出器ビームが検出器ビームと交差する頂点である。そのような3つの頂点、即ちp0、r1及びd1が
図17に表示されており、各表示は、その対応する頂点の右にある。p0とd1との間に大きな反射物体が入った場合には、点p0を表わす検出信号と、点d1を表わす検出信号との比がほぼ等しくなる。更に、タッチ物体がp0とd1との間の水平の破線に沿って並進移動する限り、この比は、一定に保たれる。従って、同じLEDを検出する隣接PDの2つの最も高い検出信号間の比に基づき、
図17において対角方向の破線に平行に線を描くことができ、その描かれた線のどこかにタッチ位置があるはずである。描かれた線は、その比の大きさに基づいて頂点p0又はd1に接近する。
【0059】
テーマ5:LEDの垂直方向放射器線に平行に反射物体が並進移動する場合、各LEDから同様のオフセットを有する検出信号間の関係が一定に保たれる。
【0060】
テーマ5は、LEDの行から等距離にある多数の位置で光を反射する巾の広い反射物体に関連しているので、各LEDから同様のオフセットをもつ隣接PDから2つの最も高い検出値が到来する。従って、テーマ5も
図17に示されている。頂点p0は、アクチベートされたLEDからオフセットnのPDにおいて反射が検出されるLEDビームを表す。頂点r1は、アクチベートされたLEDからオフセットnのPDにおいて反射が検出される隣接LEDビームを表す。タッチ物体がp0とr1との間の点にあるケースでは、点p0を表わす検出信号と、点r1を表わす検出信号との比がほぼ等しい。更に、タッチ物体がp0とr1との間の垂直方向破線に沿って並進移動する限り、この比は、一定に保たれる。従って、2つの隣接LEDを検出する2つの隣接PDの2つの最も高い検出信号間の比に基づいて、
図17において垂直方向破線に平行に線を描くことができ、そしてその描かれた線のどこかにタッチ位置があるはずである。描かれた線は、その比の大きさに基づいて頂点p0又はr1に接近する。
【0061】
テーマ6:テーマ4と5を結合すると、タッチが位置する長方形エリアが与えられる。この長方形エリアの頂点の3つは、
図17において頂点r1、p0及びd1である。更に、タッチ位置は、テーマ4の描かれた線とテーマ5の描かれた線との間の交点である。
【0062】
本発明のある実施形態によれば、タッチ位置は、テーマ1−6の結合に基づいて導出される。この方法は、3つのステップで進められる。ステップ1は、2つの隣接LEDビームに沿った2つの補間点を計算する。ステップ2は、2つの補間点を結ぶ線を描く。ステップ3は、ステップ1で計算された2つの終点の振幅を補間することにより、ステップ2で描かれた線に沿った点を計算する。この方法は、
図18を参照して説明する。
【0063】
図18は、
図13の検出マップの一部分を示し、3本の垂直方向の実線は、3本の放射器ビームの一部分を表し、そして4本の対角方向の実線は、4本の検出器ビームを表す。上述したように、最大検出レベル点は、放射器ビームが検出器ビームに交差する頂点である。
図18には6つのそのような頂点が表示され、即ちp0、d0及びd1は、対応頂点の右側に各々表示され、そしてr1a、r1b及びr1cは、対応頂点の左側に各々表示されている。この方法を遂行するとき、点p0は、このタッチ物体に対する最大検出信号である。点p0に対するPDは、2つの隣接PDで、その1つは、左であり(検出点d1のための)そしてもう1つは、右であり(検出点d0のための)、これは、p0に使用される同じLEDを検出する。より高い検出信号を有するPDが使用される。
図16Aにおいて、p0と同じLEDを検出する隣接PDのこの第2の検出信号は、d1である。p0及びd1における正規化された検出信号は、頂点p0とd1との間のLEDビームに新たな位置c0を発生するように補間される。この位置c0に加えて、補間は、c0における信号の振幅も計算する。
【0064】
次いで、この方法は、隣接LEDビームに沿った第2の新たな位置を計算する。従って、左右の隣接ビームからの当該反射を比較して、より大きな信号を返送するビームが使用される。
図18において、p0ビームの左側のビームが選択される。頂点r1bは、p0に対して使用されるものと同じPDを使用するが、左に隣接するLEDを検出する。次いで、r1a及びr1cの正規化された信号が比較され、そしてより大きな信号が選択される。r1b検出信号及び選択されたr1a/r1c信号は、頂点r1bとr1a又はr1cとの間のLEDビームに新たな位置c1を発生するように補間される。位置c1に加えて、補間は、c1における信号の振幅も計算する。
【0065】
2つの点c0及びc1は、タッチ位置を見つけるべき線を画成する。これは、
図17における破線である。c0及びc1における計算された信号振幅は、この線に沿ってタッチ位置を決定するように補間される。
【0066】
上述したように、2つの信号間の関係は、それらの間の商(q)として表される。ソースビームの光強度は、ビーム中心線の両側における正規分布として振舞うことが仮定される。反射強度は、光の強度に比例する。又、反射の検出信号値も、検出中心線の両側における正規分布として分布されることが仮定される。これら分布の標準偏差は、反射物体の距離に基づいて変化するが、小さな距離範囲内で一定であると仮定する。
【0067】
信号s−f
sr及びf
sdの反射(r)及び検出(d)強度は、各々、正規分布であるから、ガウスの関数として表される。
(式1)
但し、iは、r又はdであり、xは、反射位置であり、x
siは、ソースビーム又はセンサ検出線の位置であり、p
i(x)は、現在反射距離における典型的なピーク強度であり、そしてAは、振幅である。2つの強度間の商は、次のようになる。
(式2)
【0068】
x∈[0、1]と仮定し、そして次のように近似すれば、
式2は、次のように簡単化される。
(式3)
これは、補間座標x
(式4)
及び振幅A
(式5)
を与える。
【0069】
ある実施形態において、接近センサにより検出されるべき物体のサイズ及び形状が既知であるときには、ハフ変換が使用される。例えば、指を使用して入力を行うときは、検出平面内のその予想形状が既知のサイズの楕円である。この場合は、プロセッサ702に、検出平面内での複数の候補楕円が与えられる。プロセッサ702は、検出器が検出信号を発生するのはどの共アクチベート放射器・検出器対か決定し、そしてそれに関連した位置を識別する。次いで、プロセッサ702は、2つの関連位置が隣接する2つの共アクチベート放射器・検出器対について検出信号を補間して、それら2つの関連位置間の中間位置を決定する。次いで、プロセッサ702は、各中間位置に配向を指定し、該配向は、2つの隣接する関連位置を結ぶ線に垂直である。このプロセスは、
図19に示されている。
【0070】
図19は、放射器・検出器対に各々関連した位置902−906を示す。位置902は、位置903と補間されて、水平の配向を有する中間位置952を発生する。位置902に対応する検出信号は、ここに示す例では、位置903に対応する検出信号より大きい。従って、中間位置952の位置は、903より902に接近している。同様に、中間位置953は、位置904及び905を使用して補間され、位置904に対応する検出信号は、位置905に対応する検出信号より大きく、そして中間位置954は、位置905及び906を使用して補間され、これらの位置に対応する検出信号は、ほぼ等しく、従って、954の位置は、位置905と906との間の中点である。
【0071】
候補楕円ごとに、プロセッサ702は、候補楕円に一致値を指定し、一致値とは、候補楕円の縁と中間位置の位置及び配向との間の一致の程度を表す。
図20は、4つの楕円955−958を示す。補間された位置953には、楕円955及び956に対する高い一致値と、楕円957及び958に対する低い(又はゼロの)一致値とが指定される。というのは、補間された位置953の配向が、これら楕円におけるその対応位置の配向に一致しないからである。
【0072】
プロセッサ702は、候補楕円ごとにそのように指定された一致値の和を計算し、そしてその候補楕円に、そのように計算された最大の和を検出平面における物体の位置として指定する。
【0073】
実施
信号は、最大のものについてフィルタリングされる。最大のものとは、8つの中間隣接部、即ち上、下、左、右、及び4つの対角方向隣接部より大きな信号である。反射物体が、2つの検出信号、即ちアクティブなLEDからオフセット+nにある検出信号及びオフセット−nにある検出信号を発生するタッチ感知エリアの部分について、反射物体により2つの最大信号が発生される。この場合、ある実施形態では、これら2つの最大信号のうち大きい方だけが使用される。
図21は、最大信号930を示している。
【0074】
上述したように、最大信号は、反射物体が位置するエリアの1つの角である。このエリアは、近隣の隣接部を結ぶ長方形又は菱形である。このエリアは、最も強い信号を含むように選択される。推測される反射位置は、このエリア内のどこかである。
【0075】
次いで、最大信号に隣接する2つの信号が比較され、即ち最大信号PDの各側の2つのPDが最大信号と同じLEDを検出する。これらは、同じ放射器ビームに沿った
図21の最大信号930の上下の頂点に対応する。これら2つの信号の大きい方が選択され、従って、長方形又は菱形の物体位置エリアの1辺が、最大信号頂点から、選択された隣接頂点へと延びる。
図21では、最大信号930の上の頂点が選択されている。
【0076】
次いで、隣接LEDからその左右に対して信号を比較して、反射物体が位置するエリアを左へ延ばすか右へ延ばすか判断する。左側の場合には、第1エリア側の位置のすぐ左の2つの位置と、それらの真下のもう1つの位置が使用される。右側の場合は、右側の2つの点と、それらの上のもう1つの点である。最も高い信号を含む側は、エリアが延長される側である。左側において、最も上の信号が最も下より強い場合には、反射物体が位置するエリアが長方形であると決定される。さもなければ、最も下の位置を含むように延長される菱形である。右側においても、同じ比較がなされる。最も下の信号が最も上より強い場合には、反射物体が位置するエリアが長方形であると決定される。さもなければ、最も上の位置を含むように延長される菱形である。
図21において、反射物体が位置するエリアは、左下へ延長される菱形、即ち右下角に頂点930を伴う菱形931である。
【0077】
上述したように、1つのLEDからの2つの反射検出を表す選択された頂点の各対は、反射物体が位置する線932を画成する2つの点(
図18のc0、c1)を見出すように補間される。これらの点の位置及び振幅の両方は、上述したように、計算される。
【0078】
この線に沿った反射位置及びその振幅を見出すために同じ補間方法が再び使用される。振幅は、反射率として解釈され、これは、次いで、反射物体の直径に比例する。
【0079】
時々、複数の非接続の最大値が識別される。そのようなケースでは、各最大値の補間された位置及び反射率が計算される。規定のスレッシュホールドより上の反射率及び振幅値を有すると分かっている座標が反射物体の位置として記憶される。従って、スキャンされた全タッチエリアを表すフレームは、対応する位置を各々有する同時タッチ物体のリストを含む。
【0080】
そのようなフレームのシーケンスにおいて、時間t+1におけるフレーム内の反射物体は、時間tにおける以前のフレームの反射物体と比較される。2つのフレームの物体は、対にされる物体間の最小距離に基づいて、グリーディ(greedy)ペアリングアルゴリズムを使用して対にされる。対にされた物体は、同じ物体として追跡される。対にされない新たな障害物は、新たな追跡ターゲットとして追加され、そして新たなものと対にされない古い追跡ターゲットは、除去される。
【0081】
追跡される障害物の位置及び反射率パラメータは、一定速度に基づく予想で更新される古いパラメータ(時間tにおける)、及び新たなパラメータ(時間t+1における)に向かう部分補間として計算される。検出位置I
dは、以前の追跡位置I
0を追跡速度ベクトルv
0と共に更新して、更新位置及び速度I
1及びv
1を決定するのに使用される。
(式6)
(式7)
但し、αは、補間において検出(t+1)位置に適用される相対的な重みであり、そしてβは、速度がどれほど一定であると仮定されるかを表す。
【0082】
本発明による種々のタッチスクリーンシステム実施形態のための簡単なタッチ検出マップである
図22及び23(a)−(f)を参照する。上述したように、光学的接近センサPDは、
図22及び23(a)−(f)に対角線で示された角度θに対して反射光の検出を最適化するレンズと対にされる。
図22及び23(a)−(f)の垂直線は、センサLEDによって放射される光を表す。検出ホットスポットは、垂直の放射器ビームと、対角方向に最適化された検出路との間の交点である。これらのホットスポットは、各交点において小さな丸で示される。
【0083】
図22は、センサにより物体が検出されない三角形区分919を示す。
図23(a)−(f)は、光学的接近センサが物体を検出できるエリアのサイズが、センサのPDが最適化される角度にどのように依存するか示している。
図23(a)では、θ=20°;
図23(b)では、θ=30°;
図23(c)では、θ=40°;
図23(d)では、θ=50°;
図23(e)では、θ=60°;そして
図23(f)では、θ=70°である。
図23(a)−(f)の例では、センサバーからの最大距離が120mmであり、バーは、91mmの長さであり、そしてバーに沿った隣接光素子間のピッチは、7mmである。
図23(a)において、スクリーンの高さ(120mm)は、検出ホットスポットでカバーされる。
【0084】
これらホットスポットの密度は、センサバー内の隣接光素子間のピッチである光学的x解像度、及び角度θに依存する光学的y解像度に分割することができる。
図23(a)−(f)に示す例は、y次元の解像度増加がより浅い検出ゾーンにどのように対応するかを示す。
【0085】
従って、本発明は、センサバーに隣接する狭いエリアが高解像度のタッチ検出を与え、そしてセンサバーから離れた第2エリアが低解像度のタッチ検出を与えるように二重解像度スクリーンを教示する。本発明の実施形態による二重解像度センサの簡単な図である
図24及び25を参照する。
図24は、タッチセンサバー511、狭い高解像度検出ゾーン921、及び低解像度検出ゾーン922を示す。この二重解像度センサの1つの用途は、キーパッド及び他のタップアクチベートのコントローラが高解像度ゾーンに配置され、そしてスイープジェスチャー及びピンチジェスチャーのような粗いジェスチャーが低解像度ゾーンでサポートされるGUIを提供することである。
【0086】
2つの解決策は、複数解像度ゾーンを与える。第1の解決策は、2つごとの放射器間に2つの検出器を配置する。従って、各レンズピッチは、2つの検出器及び1つの放射器を有し、そして各レンズは、4つの異なる反射ビームを4つの異なる検出器に向ける。これは、放射器101−103及び検出器201−204を示す
図25に示されている。
【0087】
第2の解決策は、あるPDレンズが第1の検出角、例えば、θ
1=50°に対して最適化され、そして他のPDレンズが異なる検出角、例えば、θ
2=20°に対して最適化されるタッチセンサバーを教示する。第1の検出角は、バーに隣接する高解像度の検出ゾーンを与え、そして第2の検出角は、センサバーから更に離れた低解像度の検出を与える。
【0088】
本発明の実施形態による二重解像度センサに使用される2つの検出マップの簡単な図である
図26(a)及び(b)を参照する。
図26(a)は、センサから120mm延びるが、20mmの低い光学的y解像度を有するゾーンを示し、そして
図26(b)は、6mmの高い光学的y解像度を有するセンサ付近の検出ゾーンを示す。
【0089】
ここに提案する二重解像度センサバーのある実施形態では、
図4及び5を参照して上述した交互のLED101及びPD201のレイアウトが維持され、そしてPD101は、第1の検出角θ
1から最大量の光を受け取るように位置される。更に、第2検出角θ
2から最大量の光を受け取るためにPDの第2の平行な行が設けられる。従って、二重解像度センサでは、
図4及び5のセンサの2倍のPDが使用され、そして二重解像度センサの反射光ビームは、2つのPD間で分割される。
【0090】
本発明の実施形態による二重解像度センサのためのPCB上のLED及びPDを上から見た簡単な図である
図27を参照する。
図27は、二重解像度センサの実施形態におけるPCB603上の光素子のレイアウトを上から見た図である。
図27は、交互のLED101及びPD201の第1の行と、PD202の平行な行を示す。第2の行におけるPD202間のピッチは、第1の行におけるPD201間のピッチと同じである。
【0091】
本発明の実施形態による二重解像度センサの簡単な断面図である
図28を参照する。
図28は、二重解像度センサにおけるレンズ及びPDの配置を示す。PD202は、センサバー付近に狭い高解像度検出ゾーン921を形成し、そしてPD201は、センサバーから遠く離れて延びる長い低解像度検出ゾーン922を形成する。
図28には、スクリーン100、PCB603が示され、PCB603にはPD201及び202が光ガイド304と一緒にマウントされる。光ガイド304は、3つの反射小面305、306及び307を含む。物体タッチスクリーン100により反射された光は、光ガイド304に入り、そして反射小面305により下方に向け直される。この下向きのビームは、次いで、2つの反射器307及び306により分割され、ビームの異なる部分がPD201及び202に各々向けられる。
【0092】
用途
本発明は、小型サイズ、中間サイズ及び大型サイズのスクリーンを含むタッチ感知スクリーンを伴う電子装置に広く応用される。そのような装置は、特に、コンピュータ、ラップトップ及びコンピュータ用のトラックパッド、ホームエンターテイメントシステム、カーエンターテイメントシステム、セキュリティシステム、PDA、セルラー電話、電子ゲーム及び玩具、デジタルホトフレーム、デジタル楽器、e−ブックリーダー、TV、及びGPSナビゲータを含む。
【0093】
二次キーボードディスプレイ
本発明の実施形態による二重ディスプレイラップトップの簡単な図である
図29を参照する。このラップトップは、ヒンジにより接続された2つのパネルを特徴とする。上部パネルは、一次ラップトップディスプレイ131を含む。下部パネルは、ラップトップへの入力装置として使用されるタッチ感知の二次ディスプレイ132を含む。従って、キーパッドは、二次ディスプレイ132上にレンダリングされ、そしてテキストは、表示されたキーに対するユーザのタップにより入力される。タップジェスチャーは、二次ディスプレイとの短時間接触、即ちタッチ・アンド・リリースにより特徴付けられる。従って、タップジェスチャーは、ディスプレイと長く接触し、その間に、接触点がディスプレイに沿って並進移動されることを特徴とする滑走ジェスチャーとは区別できる。従って、テキスト入力に加えて、二次ディスプレイは、ユーザが自分の指を二次ディスプレイ上で滑走させるときに一次ディスプレイ上のマウスカーソルを制御する。
【0094】
本発明の実施形態によれば、二次ディスプレイ132に関連して使用されるタッチセンサは、二次ディスプレイの1辺に沿って位置される上述した光学的接近センサ512である。本発明の実施形態による二重ディスプレイラップトップの一部分の簡単な図である
図30を参照する。
図30は、光学的接近センサを収容するための二次ディスプレイの上縁に沿ってベゼル331を示している。
【0095】
本発明の実施形態によるPCの簡単な図である
図31を参照する。
図31は、本発明の実施形態によるディスプレイ131、キーボード133及び2つのトラックパッド134を有するPCを示している。
【0096】
本発明の実施形態による
図31のPCのキーボード133の簡単な図である
図32を参照する。このキーボードは、4つの埋設された光学的接近センサ513−516を有する。光学的接近センサ513、515及び516は、キーボードを取り巻くエアスペースにおいて手及び指のジェスチャーを検出するためにキーボードから離れる方向を向いてキーボード133の左、右及び下縁に沿って配置される。これらのジェスチャーは、コンピュータへの入力として働いて、例えば、マウスポインタを制御するか、又はディスプレイの画像を拡大又は回転する。光学的接近センサ514は、キーボード133の上縁に沿ってキーボードに向いている。これは、コンピュータへの入力としてキーの表面に沿った滑走ジェスチャーを検出し、例えば、マウスポインタを制御するか、又はディスプレイの画像を拡大又は回転する。従来のトラックパッドに対してキーボードが大型サイズであることで、キーボードの表面を2つのトラックパッド区分へ分割することができる。キーボード133の左半分は、絶対位置トラックパッドとして働く。これは、キーボードのこの半分における各位置がスクリーン上の対応位置へマップされることを意味する。滑走ジェスチャーが行われる前に、マウスカーソルは、スクリーン上のある初期位置にある。キーボードの左半分において滑走ジェスチャーが行われると、カーソルは、ディスプレイ上の対応位置へ急激に移動される。例えば、マウスカーソルがディスプレイの右上角にあり且つユーザがキーボードの左下角において滑走ジェスチャーを開始すると、マウスカーソルは、スクリーンの左下からその対応移動を開始する。これは、スクリーンを横切ってカーソルを移動させるために長いマウスジェスチャーを行わねばならない努力をユーザにかけさせない。キーボード133の右半分は、相対的位置トラックパッドとして働き、これは、キーボードのこの半分において滑走ジェスチャーが検出されたときに、マウスカーソルが、滑走ジェスチャーの相対的移動に基づいてその初期スクリーン位置から並進移動されることを意味する。従って、ユーザは、キーボードの左半分において初期スライドジェスチャーを行って、スクリーンの望ましいエリアにマウスカーソルを配置し、そしてキーボードの右半分に滑走ジェスチャーを適用して、カーソルを移動させることができる。
【0097】
本発明の実施形態によるPCトラックパッド134を簡単に示す
図33を参照する。このトラックパッド134は、ユーザに向かって若干傾斜したアクリル系の透明スラブである。トラックパッドの上縁に沿った光学的接近センサ517は、スラブにおけるユーザのジェスチャーを追跡する。光学的センサの外側でトラックパッドには電子回路が必要とされないので、トラックパッド134は、全体的にクリアな透明のアクリル又はガラスで作られる。
【0098】
本発明の実施形態による透明なPCキーボード135を簡単に示す
図34を参照する。又、本発明の実施形態による
図34の透明キーボード135の側面斜視図である
図35も参照する。
図33のトラックパッド134と同様に、キーボード135は、その上縁に沿った光学的接近センサ及びアクリルの透明スラブによってイネーブルされる。透明のアクリルスラブには、キーボードキャラクタがエッチングされており、アクリルスラブに可視光が投射されると、エッチング部により光が反射されて文字が見えるようになる。この光がオフにされると、エッチング部は見えず、キーボードは、空の透明スラブのような見掛けになる。従って、キーボードモードでは、可視光がオンにされ、そしてマウス又はスイープジェスチャー入力モードでは、可視光がオフにされる。可視光源は、アクリル系スラブの上縁に沿って光学的接近センサと一緒にマウントされる。
【0099】
本発明の実施形態によりキーボード及びGUI機能を与える二次ディスプレイを簡単に示す
図36を参照する。
図36は、タッチ感知ディスプレイを有するキーボードを示す。キーボードキャラクタは、ディスプレイによりレンダリングされる。しかしながら、あるアプリケーションでは、他のUIコントローラをレンダリングして、どんなジェスチャーでキーボード表示を行うか指示することもできる。
図36では、利用できる回転ジェスチャー及びスライドジェスチャーをユーザに示す2つのスライダホイール136及び2つのスライダバー137がレンダリングされる。
【0100】
本発明の実施形態によるラップトップキーボードを簡単に示す
図37を参照する。又、本発明の実施形態による
図37のラップトップキーボードの簡単な断面図である
図38も参照する。
図37は、
図29及び30のラップトップを示すが、
図37では、二次ディスプレイ132が、該ディスプレイ132の対向縁に沿って配置された放射器101と受光器201との間でディスプレイ上を横切る光ビーム432を使用する。光ガイド332は、ディスプレイ112上に延びて、ディスプレイ上に及びディスプレイを横切って光ビーム432を投射するベゼルを形成する。
図37及び33の実施形態では、周囲ベゼルにより形成されたディスプレイ上の空洞には、透明液体139が充填される。放射器101から受光器201への光ビームは、透明液体139を通過する。液体層139の上に、薄い透明な弾力性プラスチック膜141が配置される。その下に横たわる二次ディスプレイ132は、液体139及びプラスチック膜141を通して見ることができる。ユーザが、例えば、二次ディスプレイ132上に表示されるキーボードキャラクタを選択するため弾力性プラスチック膜141を押すと、ユーザの指が液体139に押圧を生じさせ、指の位置の下の光ビーム432を中断させる。又、ユーザが二次ディスプレイ132上のこの従順な層を押したときに、液体及び弾力材は、ユーザに触感も与える。プラスチック膜141又は液体139に接続された任意の触覚発生器が付加的な触覚フィードバックを与える。ユーザの指の押圧が充分な量のビームを阻止して、タッチが検出光に実質的な減少を生じさせるために、光は、ベゼルの上部付近で薄い上部液体層139を通して送光されるだけである。これは、光ビーム432がディスプレイ132の表面付近で液体139に入るのを防止する光ブロッカー140によって達成される。他の実施形態では、空洞に液体を充填するのではなく、透明なゲル又は弾力のあるゼラチン固体材料が空洞に充填される。
【0101】
垂直ツールバー接近ジェスチャー
マイクロソフトコーポレーションからのウインドウズ8オペレーティングシステムは、タッチスクリーンの右縁からスイープするか、又はスクリーンの右隅のホットスポットにカーソルを向けることによりアクセスされるチャーム(charms)として知られている垂直ツールバーを特徴とする。WINDOWS(登録商標)は、マイクロソフトコープレーションの登録商標である。チャームツールバーは、システムへのアクセス、及びapp関連機能、例えば、サーチ、シェア、装置管理、設定及びスタートボタンを与える。タッチスクリーンの一次ディスプレイの左縁からスイープするか、又は一次ディスプレイの左上角をクリックすると、appとデスクトップとの間を切り換えることができる。ユーザにとって便利なこれらのスイープジェスチャーを行うために、多くのコンピュータは、アクティブなディスプレイエリアの外側の境界で開始されるスイープジェスチャーをサポートする。本発明の実施形態によれば、一次ディスプレイの縁からのスイープと同じ機能を果たすために別のジェスチャーが与えられる。このジェスチャーは、一次ディスプレイの縁を越えてエアスペースに手を置きそしてその縁に向けて手を動かすことにより行われる。一次ディスプレイのハウジングに手が触れるまでジェスチャーを続ける場合には、ディスプレイの厚みに手が触れる。即ち、ディスプレイの前部をディスプレイの後部に接続するハウジングの縁に手が触れる。しかしながら、手がディスプレイに届く必要はなく、側部からディスプレイに接近する物体の検出は、ジェスチャーとして確認される。
【0102】
本発明の実施形態によりディスプレイの側縁に接近するウェーブジェスチャーを検出するための接近センサを伴うPCを簡単に示す
図39を参照する。
図39は、ディスプレイの縁を越えてエアスペースにおいてこの接近ジェスチャーを検出するためにディスプレイのハウジングの左外縁に沿って配置された光学的接近センサ512を有するPCディスプレイ131を示す。ユーザに便利なこれらのスイープジェスチャーを行うために、多くの従来のコンピュータは、アクティブなディスプレイエリアの外側の境界で開始されるスイープジェスチャーをサポートする。本発明による接近ジェスチャーは、このジェスチャーのためにディスプレイの周りに境界エリアを必要としないので、アクティブなディスプレイエリアを最大にすることができる。又、本発明によるジェスチャーは、アクティブなディスプレイエリアへのタッチも必要とせず、従って、アクティブなディスプレイエリアへ指を引っ張る従来のスイープジェスチャーから生じるディスプレイ上の汚れを回避する。
【0103】
キー押圧及びマウスジェスチャーのための二次ディスプレイの使用
上述したように、本発明の実施形態は、タッチ感知であり且つキーボード入力及びマウス入力の両方に使用される二次ディスプレイを提供する。本発明は、キーボードキー押圧とマウスジェスチャーとの間を区別するための幾つかの方法を提供する。
【0104】
第1の実施形態では、タップジェスチャーがキーボードのキー押圧に関連され、そして滑走ジェスチャーが、マウスカーソルを移動するマウスジェスチャーに関連される。更に、キーボードのキー押圧とは異なる3つのマウスクリックジェスチャー、即ち単一クリック、二重クリック及び右クリック、が与えられる。
【0105】
本発明による右クリックジェスチャーは、素早いタッチ・アンド・リリースであるタップジェスチャーとは対照的に、1つの位置に留まる長いタッチである。
【0106】
二重クリックジェスチャーは、マウスカーソルの位置に配置されたアイテムをアクチベートする。本発明によれば、二重クリックジェスチャーは、当然、別のマウスジェスチャーに続くもので、即ちマウスジェスチャー後の第1タップであるという点で、キー押圧とは区別される。従って、マウス並進移動ジェスチャーが行われた後に、次のタップジェスチャーは、二重クリックジェスチャーの第1の半分であるか、又はキー押圧ジェスチャーである。システムは、タップに何が続くかに基づきこのタップを明瞭化する。このタップの直後に、第1タップとほぼ同じ位置に第2タップが続く場合には、両タップが二重タップジェスチャーとして処理され;第1タップの直後に、第1タップとほぼ同じ位置に第2タップが続かない場合には、第1タップは、キーボードのキー押圧に関連付けられる。従って、マウス滑走動作に続くこの第1タップに関して、システムは、それに対応するキー押圧ジェスチャーに関連したキャラクタを直ちに入力しない。むしろ、システムは、タップが実際に意図されたキー押圧でありそして二重クリックジェスチャーの開始でないことを決定するまで待機する。しかしながら、その後の全てのタップは、別のマウス滑走ジェスチャーが行われるまでキーボードキー押圧であると明確に決定される。更に、二重クリックは、二重クリックジェスチャーに直ちに続くものではなく、従って、二重クリックが実行されたときでも、第3のタップは、明確にキー押圧ジェスチャーである。それ故、スクリーンにキャラクタを提示する遅れは、滑走又は右クリックのようなマウス動作に続く第1タップジェスチャーに関してのみ生じるだけであり、他のキー押圧については生じない。
【0107】
単一クリックは、マウスドラグ動作を行うのに使用される。本発明の一実施形態によれば、マウスドラグ動作は、第1のマウス滑走ジェスチャーに直ちに続く第2のマウス滑走ジェスチャーに関して行われるだけである。従って、第1の滑走ジェスチャーは、スクリーン上のマウスカーソルを移動するだけである。ユーザが自分の指を持ち上げそして短い時間内にスクリーンに自分の指を戻して、第2の滑走ジェスチャーを行う場合には、その滑走ジェスチャーがドラグジェスチャーであると解釈される。観察されるユーザの振舞いに基づき短い時間が構成されるが、あるケースでは、1又は2秒である。ドラグ動作なしにマウスカーソルを移動する第2動作を遂行するために、第1の滑走ジェスチャーと第2の滑走ジェスチャーとの間に、構成された短い時間より長い休止がなければならない。
【0108】
別の実施形態では、キー押圧とマウスジェスチャーとの間の区別ファクタは、ジェスチャーを遂行する指の本数である。従って、1本指ジェスチャーは、キーボードキー押圧であり、そして2本指ジェスチャーは、マウスジェスチャーである。3本以上の指で行われるジェスチャーも、マウスジェスチャーである。
【0109】
陰影のある光パルスに基づいてタッチを検出する本発明の教示によるシステムは、陰影エリアのサイズに基づいてジェスチャーを行う指の本数を決定する。広いエリアは、複数本の指が使用されることを示す。同様に、反射光パルスに基づきタッチを検出する本発明の教示によるシステムは、反射を検出する異なる放射器・受光器チャンネルの数に基づきジェスチャーを遂行する指の本数を決定する。より多くの位置に対応する多くのチャンネル数は、スクリーンの広い表面積に膨らんでタッチがなされ、即ち複数本の指が使用されることを指示する。
【0110】
ある実施形態では、アップ/ダウン並進移動ボタンのアレイは、キーボードを通してデータを入力するとき慣習的なプッシュボタンユーザ経験を与えるために二次ディスプレイの上部に配置される。本発明の実施形態によりタッチパネルのバーチャルキーパッド部分の上に配置された規範的な4ボタンキーパッドシャーシの3つの図を簡単に示す
図40を参照する。
図40は、除去可能なシャーシ12におけるキー10を示す。タッチパネル14は、シャーシ12の下に配置される。放射器及び受光器16は、タッチパネルの一部分として示されている。放射器及び受光器16は、表面14の下に配置されるが、
図40では、タッチ検出光ビーム20を明確に示すためにスクリーンの上に示されている。
【0111】
本発明の実施形態によりタッチパネルのバーチャルキーパッド部分の上に配置された規範的な4ボタンキーパッドシャーシの断面A−Aを簡単に示す
図41を参照する。
図41は、除去可能なシャーシ12におけるキー10を示す。放射器及び受光器レンズ22は、タッチパネル14の表面上のタッチ検出光ビーム20と共に示されている。
【0112】
本発明の実施形態により解除及び押圧されるスプリング弾力性キーを簡単に示す
図42(a)−(c)を参照する。
図37(a)は、除去可能なシャーシ12の一部分におけるキー10を示す。シャーシ12の下にはタッチパネル14が配置されている。放射器及び受光器レンズ22は、タッチパネル14の表面上のタッチ検出光ビーム20と共に示されている。
【0113】
図42(b)は、ボタン10の破断図で、ボタン10をシャーシ12の上方に且つ光ビーム20の上に維持するためのスプリングメカニズム24を示す。
図42(c)は、ボタン10の破断図で、ユーザがボタン10を押圧することにより作用される下向きの圧力でスプリングメカニズム24が圧縮されるところを示す。このケースでは、光ビーム20をブロックするためにボタン10の下部が下げられる。ユーザがこの下向きの圧力を解除したとき、スプリング24がボタン10を
図37(b)の位置へ戻す。
【0114】
本発明の実施形態によるゴムのような伸縮性弾力性材料より成るボタンの簡単な断面図である
図43(a)及び(b)を参照する。
図43(a)は、シャーシ12の上方にあり且つ光ビーム20の上にある弾力性ボタン10の破断図で、光ビーム20は、放射器及び受光器レンズ22を通してタッチパネル14上を且つタッチパネル14を横切って投射される。
【0115】
図43(b)は、ボタン10を押圧するユーザにより作用される下向きの圧力でボタン10が押圧されることを示す破断図である。この場合に、ボタン10の下部は、光ビーム20をブロックするように下げられている。ユーザが下向き圧力を解放すると、ボタン10は、その弾力性及び伸縮性特性のために、
図43(a)の位置へ復帰する。
【0116】
本発明の実施形態による別のボタン構成を簡単に示す
図44(a)−(c)を参照する。
図44のボタン10は、その幹部を通して2つの公差空洞30を有し、光ビーム20の通過を許す。ボタン10が押圧されると、空洞が下げられ、幹部の内実部分が光ビームをブロックする。
【0117】
図44(a)は、ボタンの3D図である。
図44(b)は、ボタンの上面図であり、そして
図44(c)は、ボタンの側面図である。
図44(d)は、ボタンの線M−Mに沿った断面図である。
図44のボタン10は、
図42のスプリング負荷実施形態、又は
図43の弾力性材料実施形態のいずれかを使用してその上方位置に維持される。
【0118】
本発明によれば、これらのボタンは、光ファイバフェースプレートで作られる。光ファイバフェースプレート(FOFP)とは、その入力面からその出力面へ画像を正確に伝達するコヒレントな光ファイバプレートである。従って、各キーの下に表示される画像は、FOFPによりキーの上面へ伝達され、そしてユーザには、画像がキーの上面にあるかのように見える。
【0119】
しかしながら、本発明は、キーが押されたときにキーを下げられるように各FOFPキーとディスプレイとの間にエアギャップを与える。更に、上述されると共に、参考としてここに援用される2012年9月3日に出願された“LIGHT ACTUATOR FOR MOVABLE BUTTONS ON A KEYPAD”と題する同時係争中の米国特許出願第13/602,217号に述べられたように、下げられたキーがビームをブロックして、どのキーが押圧されたか示すように、キーの下に光ビームが投射される。このエアギャップは、表示される画像をFOFP入力表面の焦点から外れるようにさせる。ある実施形態では、エアギャップの高さは、1.5mmである。
【0120】
この問題を修正するために、本発明は、物体、このケースでは、表示スクリーン、を数ミリメータの距離にわたって再現する複数のマイクロレンズアレイを提供する。本発明の実施形態によるキーボードディスプレイと光ファイバフェースプレートキーとの間のマイクロレンズアレイの構成を簡単に示す
図45を参照する。
図45は、二次ディスプレイ56とFOFPボタンのFOFP入力表面57との間に軸方向に対称的に整列された4つのマイクロレンズアレイ51−54を示している。各光学的チャンネルにおいて、第1及び第2のマイクロレンズアレイ51及び52は、中間画像平面にディスプレイスクリーンの各部分の縮小反転画像を発生する。同じマイクロレンズの反転グループ53及び54は、中間画像をFOFP入力表面57へ中継する。各部分画像は、倍率1であるから、全ての部分画像の合計画像は、最終画像を完全に再構成する。隣接部分画像のサイズ及びおそらくは重畳は、軸方向対称性の中心にあるアパーチャーマスク55により制御される。
【0121】
規範的な実施形態において、レンズアレイは、ポリカーボネート、0.1mm厚みであり、各レンズレットは、0.2mm平方であり、アパーチャーマスクは、0.076mm平方のホールを有し、そして物体から画像の距離は、4.7mmである。
【0122】
本発明の実施形態によるキー又はボタン59を簡単に示す
図46を参照する。マイクロレンズアレイ51−54は、FOFP58に接続され、そして一緒に上下に移動する。ボタンが休止不作動位置にあるときは、マイクロレンズアレイとディスプレイ表面との間の距離d1は、マイクロレンズアレイとFOFPとの間の距離d2に等しい。これは、ディスプレイの画像がFOFPに鮮明に再現されることを保証する。ユーザがボタンを押圧することによりボタンが下がったときには、距離d1が減少されて、FOFPの画像を焦点からずらす。しかしながら、これは、ユーザにとって問題ではない。というのは、ユーザの指がFOFP58の出力表面をカバーし、焦点ずれした画像が見えないからである。ユーザがキーから指を離すと、キーは、その休止位置へ戻り、FOFP58は、再び、焦点が合う。
【0123】
接近センサのためのバーコード
本発明の実施形態は、線型UIコントローラに沿った方向性滑走ジェスチャーを検出するための低コスト接近センサを提供する。例えば、装置の縁に沿った狭い窓としてボリュームコントローラが実現される。窓に沿って一方向にスライドすると、ボリュームが上がり、そして窓に沿って逆方向にスライドすると、ボリュームが下がる。
【0124】
本発明の実施形態によるスライダコントローラを簡単に示す
図47を参照する。
図47は、方向性滑走を検出するように動作するスライダ窓の側部破断図である。窓は、2つの隣接する光ガイドを含み、上方の光ガイド333は、放射器101に結合され、そして下方の光ガイド334は、検出器201に結合される。2つの光ガイドの間には、食い違いの一連の不透明又は反射性光ブロック素子335があり、これは、2つの光ガイド間での光通過を許さない。これら不透明又は反射性素子間のスペースは、異なるサイズである。放射器101からの光433は、全内部反射(TIR)のために含まれている光ガイド333に入る。指が光ガイド333にタッチすると、光を散乱させると共にTIRを阻止し、FTIR光の大部分434は、下部光ガイド334へ及び検出器201に向かって直接散乱される。しかしながら、光は、不透明又は反射性素子335間のスペースを通して光ガイド334へ通過するだけである。それ故、不透明又は反射性素子335間のスペースが広いエリアに対向して指が位置するときには、多くの光が光ガイド334へ通過しそしてPD201に到着する。一方、不透明又は反射性素子335間のスペースが狭いエリアに対向して指が位置するときには、僅かな光が光ガイド334へ通過しそしてPD201に到着する。光ガイド333に沿って指が滑走するとき、素子335間に異なるサイズのギャップを有する区分を横切って指が通過する。その結果、指の移動は、時間と共にPD201における光検出のパターンから推測される。
【0125】
本発明の実施形態による
図47のスライダコントローラを使用するジェスチャーの種々の検出パターンを簡単に示す
図48を参照する。
図48は、4つの異なる検出パターンを示す。各グラフは、時間に伴うPDの光検出のサンプルを示す。x軸は、時間を表し、y軸は、検出された光の量を表す。従って、光ガイドに沿った移動方向は、検出のパターンにより示され、この例では、増加するパターンは、右へスライドすることに対応し、一方、減少するパターンは、逆方向への移動を示す。移動速度は、検出の変化率によって示され、速い変化率は、速い移動に対応する。
【0126】
本発明の実施形態による別のスライダコントローラを簡単に示す
図49を参照する。
図49は、光ガイド333の上面にタッチする指922に放射器101が光ビーム336を直接投射し、光ガイド333には不透明又は反射性素子335のパターンがあって、反射光が光ガイド333に入るのを防止する実施形態を示している。それ故、指924で反射される異なる量の光336が、指付近の光ブロック素子のパターンに基づいて、光ガイド333に入り、検出器201により検出される。
【0127】
光学的接近センサの娯楽用途
本発明の1つの用途は、GOOGLE(登録商標)GLASS(登録商標)のような双方向メガネである。GOOGLE及びGOOGLE GLASSは、カリフォルニア州、マウンティンビューのグーグル・インクの登録商標である。この双方向メガネは、メガネレンズの一方又は両方にヘッドアップディスプレイを含む。この双方向メガネは、典型的に、鼻のブリッジにあるパッド、及び耳に掛けるこめかみアーム(つる)により支持される。ある双方向メガネでは、こめかみアームは、こめかみアームにおけるタップジェスチャー又はスライドジェスチャーによりユーザコマンドを通信できるようにするタッチセンサを含む。
【0128】
従って、本発明のある実施形態では、本発明の光学的接近センサが双方向メガネのこめかみアームに埋め込まれ、ある範囲の距離だけこめかみアームから離れたところでユーザの入力ジェスチャーを行えるようにした。これは、空気中でのユーザ入力ジェスチャーのためにこめかみアームに対向する2Dエアスペースを可能にする。こめかみアームに沿って積み重ねた複数行の光学的接近センサは、3Dセンサを構成する。他の実施形態では、第1の光学的接近センサがユーザのこめかみから離れる方を向き、そして第2の光学的接近センサが空の方に向き、ユーザの手の側部及び上へのジェスチャーを検出する。
【0129】
別の用途は、腕時計として着用されるセンサである。本発明の種々の手首着用実施形態では、光学的接近センサは、ダイオードの一次元行;ダイオードの二次元行;ダイオードの二次元スノーフレークパターン;着用品目の2つ以上の縁に沿った2つ以上の一次元ダイオード行である。1つの規範的な実施形態では、光学的接近センサは、腕時計に埋め込まれ、そして時計面又はその周囲ベゼルを通して光ビームを上方に突出させる。ユーザは、時計の上で手を波のように振るホバージェスチャーを行うことにより時計にコマンドを発生する。或いは又、ユーザは、時計を着用した手首を回転して、光学的接近センサで検出される反射光の量を変化させ、これがコマンドに変換される。例えば、光学的接近センサは、BLUETOOTH(登録商標)を経てユーザのセルラー電話と通信し、手首の回転は、到来するコールに返答するコマンドである。BLUETOOTH(登録商標)は、ブルーツースSIGインクの商標である。低速回転のジェスチャーは、セルラー電話のハンドセットのボリュームを上げ下げするコマンドである。
【0130】
又、光学的接近センサは、局所的な反射を戻す指ジェスチャーと、光学的接近センサの大きな部分を横切って反射を戻すフラットな掌でなされるジェスチャーとの間も区別する。これは、1つのタイプのジェスチャー(指又は掌)だけに応答できるようにする。
【0131】
更に、本発明の光学的接近センサは、センサの上のフラットな掌と、センサの上の傾斜した掌との間を区別する。光学的接近センサの上で掌が傾斜されるときには、傾斜した掌とセンサの部分間の種々の距離に基づいて反射は均一ではない。対照的に、センサの放射ビームに垂直なフラットな掌は、全てのセンサビームを同様に反射する。
【0132】
別の用途は、丸めた指を検出するためにユーザの掌の下に向けられた検出平面をもつブレスレットである。手の4本の指は、4つのビット位置を表し、そしてユーザは、自分の指を丸めることにより4ビットワードを形成し、ここで、丸めた指は、‘1’のビット値であり、そして伸ばした指は、‘0’のビット値である。これらの4ビット値は、光学的接近センサにより検出されそしてコマンドに変換される。
【0133】
付加的な用途は、2つのそのようなブレスレットを、各手首に1つ、使用する。ユーザは、各手の4本の指を組み合わせて丸めることによって8ビットワードを形成する。これは、256の独特の組み合わせを与え、それら組み合わせのサブセットがアルファベットの各文字に指定される。ユーザは、自分の指を丸めて種々の8ビット文字の組み合わせを形成することによりテキストをタイプする。これは、キーパッドなしにテキストを入力する別の方法を与える。
【0134】
別の用途は、移動電話の保護ケーシングである。この用途は、参考としてここにそのまま援用される“REMOVABLE PROTECTIVE COVER WITH EMBEDDED PROXIMITY SENSOR”と題する米国特許出願第13/775,269号に詳細に説明されている。この保護ケーシングに基づくゲーム付属品のアプリケーションを、
図50−53を参照して説明する。
【0135】
この付属品は、多数のゲームに使用できるスリングショット、特に、ANGRY BIRDS登録商標の所有者であるフィンランド、エスポのロビオ・エンターテイメント・リミテッドにより出版されたANGRY BIRDS(登録商標)である。このビデオゲームでは、プレーヤがスリングショット又はカタパルトを使用して放射物として鳥を発射させる。プレーヤは、カタパルトを望ましい程度まで引き戻し、スクリーンに沿って自分の指をスライドさせることにより放射物である鳥のパワーを与える。スクリーンから指を持ち上げると、カタパルトが解除され、ターゲットに向けて空気中を経て鳥を投げつける。カタパルトが引き戻される角度は、鳥が投げつけられる方向を決定する。カタパルトが引き戻される程度は、放射物の力を決定する。
【0136】
この付属品は、プレーヤが電話のケーシングの縁に取り付けられた実際の弾力性スリングショットを引き戻せるようにする。接近センサが埋め込まれた電話カバーの一例を示す米国特許出願第13/775,269号の
図36を参照されたい。米国特許出願第13/775,269号の
図34は、
図36のカバー内の電話を示している。米国特許出願第13/775,269号の
図39は、
図36の電話カバー内のPCB上のコンポーネントのレイアウトを示している。
【0137】
本発明の実施形態は、上述した光学的接近センサ512を保護電話カバーに合体する。異なる実施形態では、カバーの1−4縁に沿って光学的接近センサが設けられる。
【0138】
本発明の実施形態によるゲーム付属品を簡単に示す
図50−53を参照する。従って、PCB976は、ケーシングの下縁に沿って交互の放射器101及び検出器201のアレイを有して示されている。ケーシングの下縁の2つの角に取り付けられているのは、スリングショットパッド934に結合された弾力性バンド933である。放射器及び検出器のこのアレイは、プレーヤがスリングショットパッド934をどのように引き戻すか示す。
【0139】
図51−53は、スリングショット934の3つの異なる延長935を示す。各図において、下縁に沿って一次元アレイにより検出されるx及びyオフセットは、破線の矢印で示されている。
【0140】
例えば、
図51−53の延長矢印935で示されたように、スリングショットが引き戻される程度及び角度を決定するのに多数の異なる方法が使用される。第1実施形態では、弾力性バンド933は、スリングショットパッド934より実質的に薄い。それ故、弾力性バンド933によって反射される光の量は、スリングショットパッド934による反射より実質的に少なく、システムは、スリングショットパッド934の位置を追跡することができる。同様に、スリングショットパッド934が存在しなくても、ユーザが弾力性バンドを挟んで引き戻す2本の指は、弾力性バンドより非常に広く、それ故、ユーザの2本の指を追跡することができる。更に別の実施形態では、弾力性バンド933は、接近検出器により投射される光ビームとは異なる高さに位置される。従って、弾力性バンド933は、検出器によって検出されない。しかしながら、弾力性バンドを引き戻す大きなスリングショットパッド及び/又はユーザの指は、検出器により投射される光ビームの平面を通して延び、それ故、検出される。更に別の実施形態では、検出器は、放射器、検出器及びレンズの2つの積み重ねアレイにより形成される。2つのアレイの合成高さは、弾力性バンド933の巾より大きい。それ故、弾力性バンド933は、両方のアレイにおいて同じ検出信号を発生することがない。しかしながら、2つのアレイの合成高さは、スリングショットパッド934及びユーザの2本の指の巾より小さく、それ故、これらアイテムは、両アレイに同様の検出信号を発生する。更に別の実施形態では、弾力性バンド933は、著しく検出可能な信号を発生する。このケースでは、引き戻される弾力性バンド及び検出アレイの各区分間の異なる距離に対応して検出器アレイ全体にわたり信号パターンが発生される。最も遠い距離は、スリングショットパッド又はユーザの指の位置である。従って、検出信号をマップすることで、引き戻しスリングショットの形状に対応して三角形状がマップされる。
【0141】
別の実施形態では、光学的接近センサ512がヒンジを経てディスプレイの縁に取り付けられる。ある実施形態では、複数の光学的接近センサ512がディスプレイの複数の縁に取り付けられる。本発明の実施形態により回転ヒンジでディスプレイに接続された4つの接近センサバーにより取り巻かれたディスプレイを簡単に示す
図54を参照する。
図54は、4辺において光学的接近センサ512で取り巻かれたディスプレイ911を示す。各タッチセンサバーは、ヒンジ950を経てディスプレイハウジングに取り付けられる。上述したように、各光学的接近センサ512は、2D検出平面を投射する。従って、ヒンジ950は、各タッチセンサバー510に対する2D検出平面をディスプレイ911に対してある角度に向けられるようにする。2D検出平面をディスプレイ911上のある角度に向けるために回転したとき、タッチセンサバー510は、ホバー検出を行う。2D検出平面をスクリーン面に対して平行に向けるために回転したとき、光学的接近センサ512は、タッチ検出を行う。更に、1つ以上の光学的接近センサ512が2D検出平面をスクリーン面に平行に向けるために回転され、そして第2の1つ以上のアレイが2D検出平面をスクリーン上のある角度に向けるために回転されるとき、タッチ検出及びホバー検出の両方が行われる。
図54において、4つ全部の光学的接近センサ512がそれらの各検出平面をディスプレイ911にわたり且つディスプレイ911上の各角度に向けるために回転される。このケースでは、4つの公差する検出平面がスクリーン911上の3D検出ボリュームを与える。
【0142】
別の娯楽用途は、クラウドゲームアプリケーションをマルチパネルディスプレイとして複数のハンドセットに表示できるようにする。ユーザは、ハンドセットをタイルとして配置して、大きな長方形のマルチパネルディスプレイを形成する。ゲームサーバーは、マルチパネルディスプレイ内のどこに各ハンドセットディスプレイが配置されるか識別する。ゲームサーバーは、ゲームGUIの各部分を各ハンドセットへストリーミングして、全スクリーンゲームGUIがハンドセットにわたって分布されるようにする。ある実施形態では、マルチパネルディスプレイの各ハンドセットは、上述した光学的接近センサ512を有する。
【0143】
本発明の実施形態によりインターネットゲームサーバー991と通信するためのコミュニケータ703を有するハンドヘルド電子ゲーム装置994を簡単に示す
図55を参照する。装置994のディスプレイ100は、ゲームサーバー991からコミュニケータ703により受け取られたゲームユーザインターフェイス(UI)の一部分をレンダリングする。センサ518は、近傍に配置された第2のゲーム装置を検出し、そしてコミュニケータ703に接続されて、検出情報をゲームサーバーに送信する。本発明の実施形態によれば、センサ518は、上述した光学的接近センサ512と同様である。
【0144】
本発明の実施形態によりハンドセットにおいてレンダリングされるインターネットゲームを簡単に示す
図56を参照する。
図56は、ハンドセット994と通信するインターネットゲームサーバー991を示している。ゲームロジックは、ハンドセット994にゲームGUIを送信するサーバー991により処理される。ゲームのGUIは、単一のスクリーン上にレンダリングされる。ハンドセット994の4辺全部を取り巻くエリアは、上述したようにゲームをコントロールするためのユーザジェスチャーに使用される。これらのジェスチャーは、ハンドセットの縁に沿うか又はハンドセットと一緒に使用される保護カバーの縁に沿った接近センサ512によって検出され、それらの縁は、上下の検出ゾーン998及び左右の検出ゾーン999を形成するものである。
【0145】
本発明の実施形態によりインターネットゲームをレンダリングするために一緒に使用される2つのハンドセットを簡単に示す
図57を参照する。
図57は、各通信プロセッサ983及び984を経て2つのハンドセット994及び995と通信するインターネットゲームサーバー991を示す。2つのハンドセットは、共通の縁に沿って整列され、即ちハンドセット994の長い下縁は、ハンドセット995の長い上縁と整列される。従って、2つのハンドセット間のこれらの縁は、ハンドセットの外側でのジェスチャーを検出するのには使用できない。しかしながら、これらの縁は、互いに検出する。例えば、ハンドセット995の上縁に沿った検出ゾーン998は、ハンドセット994を検出する。従って、ハンドセット995は、ハンドセット995の長い上縁全体が接近物体により占有されることをサーバー991に通信する。同様に、ハンドセット994は、ハンドセット994の長い下縁全体が接近物体により占有されることをサーバー991に通信する。この情報に基づき、サーバー991は、各ハンドセットにより検出される接近物体が隣接ハンドセットであることを決定する。従って、サーバー991は、ゲームGUIの上半分をハンドセット994へそしてゲームGUIの下半分をハンドセット995へ送信する。更に、スクリーンの配向、例えば、検出ハンドセットのディスプレイ上のピクセル(0、0)に対する検出縁の位置に基づき、サーバー991は、GUI画像をそのターゲットハンドセット上に適切にレンダリングするために半GUI画像の一方を回転すべきか両方を回転すべきか決定する。これは、2つのハンドセットが一緒に隣接GUIを表示するように、あるハンドセットディスプレイから次のハンドセットディスプレイへの継続性を保証する。
【0146】
本発明の実施形態により2つのハンドセットで形成されるインターネットゲーム用の2パネルディスプレイを簡単に示す
図58を参照する。
図58は、2つのハンドセット994及び995にレンダリングされるインターネットゲームを示し、即ちゲームGUIは、2つのスクリーンにレンダリングされ;GUIの上半分はハンドセット994にレンダリングされ、そしてGUIの下半分はハンドセット995にレンダリングされる。現在ゲームの場合にインターネットゲームサーバーと通信する装置の数は2であるから、ゲームサーバーは、GUIを2つの部分に分割する。ゲームサーバーがGUIを分割する部分の数は、特定のゲームにおいてインターネットゲームサーバーと通信する装置の数に基づく。
【0147】
図57を参照して上述したように、2つのハンドセット間の縁は、ハンドセットの外側でのジェスチャーを検出するのに使用できない。しかしながら、各ハンドセットの残りの3つの露出縁は、ハンドセットの外側のオープンスペースでのユーザ入力ジェスチャーを検出するのに使用できる。ハンドセットの露出縁は、マルチパネルディスプレイの周囲を形成し、そしてマルチパネルディスプレイの外側のオープンスペースでのユーザジェスチャーを検出するのに使用される。2つのハンドセットが互いにどのような配向されそしてGUIのどんな部分が各ハンドセットにおいてレンダリングされるかをサーバー991が決定するときの前記ハンドセット整列情報は、ゲームサーバーが2つのハンドセットのオープンスペースに及ぶジェスチャーを単一のジェスチャーとしてマップできるようにもする。例えば、ユーザが、矢印939で示すように、マルチパネルディスプレイの右縁に対向して上方に自分の指を滑走することにより滑走ジェスチャーを行う場合には、そのジェスチャーが、先ず、ハンドセット995のゾーン999で検出され、次いで、ハンドセット994のゾーン998で検出される。各ハンドセットは、その接近ゾーン検出情報をサーバー991へ送信する。サーバー991は、パネルの配列に関する情報を記憶する。ハンドセット整列情報に基づき、サーバー991は、それら2つの滑走検出を合成して、マルチパネルディスプレイの右縁に対向して1つの長い上方滑走ジェスチャーを形成する。
【0148】
本発明の実施形態により4つのハンドセットで形成されるインターネットゲーム用の4パネルディスプレイを簡単に示す
図59を参照する。
図59は、4つのハンドセット994−997におけるインターネットゲームを示す。ゲームGUIは、4つのスクリーンにおいてレンダリングされ、各スクリーンは、GUIの各四半分を表示する。上述したように、隣接ハンドセット間の各縁は、隣接ハンドセットを検出する。従って、4ハンドセット構成では、各ハンドセットが2つの隣接物を検出する。この情報をサーバーへ送信することにより、サーバーは、4つのハンドセットをどのように配置するかマップし、そして4つのハンドセットが一緒に隣接GUIを表示するようにGUIの適当な四半分を各ハンドセットに送信する。上述したように、サーバーは、異なるハンドセットへ送られる画像の幾つかを回転することが必要である。
【0149】
ある実施形態では、装置の各縁に沿った検出器は、交互の一連の光放射器及び光検出器であり、従って、検出器は、隣接装置のような物体により反射される光を検出する。しかしながら、ある実施形態では、装置の縁に沿った光放射器のアクチベーションパターンがその隣接装置の検出器の対向アレイによって検出される。これは、隣接するアクティブな装置を検出するための別の方法である。又、これは、2つの装置の相対的な配向を決定することもできる。例えば、ディスプレイの上部付近の放射器が、ディスプレイの下部付近でアクチベートされる放射器とは異なるアクチベーションパターンでアクチベートされる場合に、隣接装置は、隣接装置の上部がどこに位置しているかその光検出器における異なる検出に基づいて決定する。
【0150】
上述したように、残りの露出したハンドセット縁は、マルチパネルディスプレイの周囲を形成し、そしてマルチパネルディスプレイの外側のオープンスペースにおけるユーザジェスチャーを検出するのに使用される。ハンドセット間に位置するハンドセット縁に基づく前記整列情報は、
図59のゾーン998及び999として示された2つのハンドセットに対向するオープンスペースに及ぶジェスチャーをゲームサーバーが単一のジェスチャーとしてマップできるようにする。
【0151】
ある実施形態では、各装置は、2つの装置間の通信チャンネルを動的に設定する自動ネゴシエーションプロセスを使用する専用の放射器及びセンサを備えている。インフォメーションテクノロジー、テレコミュニケーション及び関連分野において、このプロセスは、ハンドシェーキングとして知られている。従って、例えば、第1装置の放射器は、ハンドシェーク信号を発生し、これは、隣接装置のセンサで検出される。隣接装置の放射器は、相互ハンドシェーク信号を発生し、これは、第1装置のセンサで検出される。光放射器と光センサは、ハンドシェークを行うことができる。しかしながら、他の形式の放射器/センサ、特に、RFIDも、本発明の範囲内である。従って、使用する技術に関わりなく、(a)隣接装置が互いに検出を行い、(b)各装置がこの検出をインターネットゲームサーバーに通信し、及び(c)この情報に基づき、インターネットゲームサーバーがゲームGUIの各部分を各装置に送信する。
【0152】
本発明の実施形態により、センサ518で検出されてゲームサーバー991へ通信される各ディスプレイの相対的な位置及び配向に基づいてゲームGUIが4つのディスプレイ142−145間に分散されるような
図59に示す4つのゲーム装置の構成を簡単に示す
図60を参照する。従って、
図60は、インターネットゲームサーバー991及び多数のゲーム装置を特徴とするインターネットゲームシステムを示し、各ゲーム装置は、各装置に埋め込まれた個々のコミュニケータ703を経てゲームサーバーと通信するハンドヘルド電子ゲーム装置である。各装置は、ゲームサーバー991からコミュニケータ703によって受け取られたゲームユーザインターフェイス(UI)の各部分をレンダリングするために各ディスプレイ142−145を有する。又、各装置は、隣接ゲーム装置の存在を検出するためにコミュニケータ703に接続された各センサ518も有する。ゲームサーバー991は、ゲーム装置の数に基づいてゲームUIの各部分のサイズを決定する。
【0153】
以上、本発明は、特定の規範的実施形態について説明された。しかしながら、この特定の規範的実施形態に対して本発明の広い精神及び範囲から逸脱せずに、種々の変更や修正がなされることが明らかである。従って、明細書及び添付図面は、例示に過ぎず、これに限定されるものではない。