【解決手段】複数の身体領域に配置されたセンサおよびハプティックデバイスを用いた、ハプティックサラウンド機能を提供する。このシステムでは、仮想環境における仮想イベントの位置を判断する(702)。ユーザの第一身体領域の位置に基づいて仮想環境における仮想ユーザの第一仮想身体領域の位置を判断し(704)、仮想イベント、仮想環境における仮想イベントの位置、および仮想環境における仮想ユーザの第一仮想身体領域の位置に基づいて、第一ハプティック効果を判断する(706)。システムは、第一ハプティック出力デバイスによりユーザの第一身体領域に第一ハプティック効果を出力する(708)。
命令が格納された非一時的コンピュータ可読媒体であって、前記命令は、プロセッサにより実行されると、前記プロセッサにハプティックサラウンド機能を提供させ、前記提供することは、
仮想環境における仮想イベントの位置を判断するステップと、
ユーザの第一身体領域の位置に基づいて前記仮想環境における仮想ユーザの第一仮想身体領域の位置を判断するステップであって、前記第一身体領域は前記第一仮想身体領域に対応する、ステップと、
前記仮想イベント、前記仮想環境における前記仮想イベントの前記位置、および前記仮想環境における前記仮想ユーザの前記第一仮想身体領域の前記位置に基づいて第一ハプティック効果を判断するステップと、
第一ハプティック出力デバイスにより前記ユーザの前記第一身体領域に前記第一ハプティック効果を出力するステップと
を含む、非一時的コンピュータ可読媒体。
前記第一ハプティック出力デバイスは、アプリケーションプログラミングインタフェース(API;application programming interface)により前記ユーザの前記第一身体領域に割り当てられ、第二ハプティック出力デバイスは、前記APIにより前記ユーザの第二身体領域に割り当てられる、請求項1に記載のコンピュータ可読媒体。
前記第一ハプティック効果を前記判断するステップは、前記第一ハプティック出力デバイスの能力にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記第二ハプティック出力デバイスの能力にさらに基づく、請求項3に記載のコンピュータ可読媒体。
前記第一ハプティック効果を前記判断するステップは、前記ユーザの前記第一身体領域に対応する第一ユーザ選好にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記ユーザの前記第二身体領域に対応する第二ユーザ選好にさらに基づく、請求項3に記載のコンピュータ可読媒体。
前記第一ハプティック出力デバイスは、前記第一ハプティック出力デバイスが前記ユーザの前記第一身体領域から前記ユーザの第三身体領域に動かされたときに、前記APIにより前記ユーザの前記第三身体領域に再割り当てされる、請求項2に記載のコンピュータ可読媒体。
前記第一ハプティック出力デバイスは、アプリケーションプログラミングインタフェース(API)により前記ユーザの前記第一身体領域に割り当てられ、第二ハプティック出力デバイスは、前記APIにより前記ユーザの第二身体領域に割り当てられる、請求項8に記載の方法。
前記第一ハプティック効果を前記判断するステップは、前記第一ハプティック出力デバイスの能力にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記第二ハプティック出力デバイスの能力にさらに基づく、請求項10に記載の方法。
前記第一ハプティック効果を前記判断するステップは、前記ユーザの前記第一身体領域に対応する第一ユーザ選好にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記ユーザの前記第二身体領域に対応する第二ユーザ選好にさらに基づく、請求項10に記載の方法。
前記第一ハプティック出力デバイスは、前記第一ハプティック出力デバイスが前記ユーザの前記第一身体領域から前記ユーザの第三身体領域に動かされたときに、前記APIにより前記ユーザの前記第三身体領域に再割り当てされる、請求項9に記載の方法。
前記第一ハプティック出力デバイスは、アプリケーションプログラミングインタフェース(API)により前記ユーザの前記第一身体領域に割り当てられ、第二ハプティック出力デバイスは、前記APIにより前記ユーザの第二身体領域に割り当てられる、請求項15に記載のシステム。
前記判断モジュールは、前記仮想環境における前記仮想ユーザの第二仮想身体領域の位置をさらに判断し、前記第二仮想身体領域は前記ユーザの前記第二身体領域に対応し、
前記判断モジュールは、前記仮想イベント、前記仮想環境における前記仮想イベントの前記位置および前記仮想環境における前記仮想ユーザの前記第二仮想身体領域の前記位置に基づいて第二ハプティック効果をさらに判断し、前記第二ハプティック効果は前記第一ハプティック効果と異なり、
前記第二ハプティック出力デバイスは、前記ユーザの前記第二身体領域に前記第二ハプティック効果を出力する、
請求項16に記載のシステム。
前記第一ハプティック効果を前記判断するステップは、前記第一ハプティック出力デバイスの能力にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記第二ハプティック出力デバイスの能力にさらに基づく、請求項17に記載のシステム。
前記第一ハプティック効果を前記判断するステップは、前記ユーザの前記第一身体領域に対応する第一ユーザ選好にさらに基づき、前記第二ハプティック効果を前記判断するステップは、前記ユーザの前記第二身体領域に対応する第二ユーザ選好にさらに基づく、請求項17に記載のシステム。
【発明を実施するための形態】
【0005】
一実施形態は、仮想現実(「VR;virtual reality」)、拡張現実(「AR;augmented reality」)または複合現実(「MR;mixed reality」)環境においてサラウンドハプティックプレイバックを提供する。一実施形態では、ハプティック体験をユーザの選好に基づき、VR/AR/MRシステムの一部として提供される入力コントローラ(例えばVR/AR/MRソフトウェア環境内のユーザインタラクションを制御するために使用される電子周辺機器)のハプティック能力だけに専ら依存することなくカスタマイズするために、VR/AR/MRシステムと連動して複数のアクチュエータが実装される。一実施形態では、VR/AR/MRシステムのユーザは、所望の時と場所で、ハプティックフィードバックを事前構成済みコントローラに制限する典型的なVR/AR/MRコントローラ制約を伴わずに、自らのユーザ体験にハプティックフィードバックを自由に追加することができる。実施形態はこのような事前構成済みコントローラから成るが、ユーザがよりサラウンドされた位置依存の触覚VR/AR/MR環境を体験するための「フィールポイント」の可能性をさらに拡大する。
【0006】
図1は、本発明の一実施形態に係るシステム10のブロック図である。一部の実施形態では、システム10は、以下に開示するように、ハプティック作動モジュール(「HAM;haptic actuation module」)または作動ポイントとして機能しうる。これらの実施形態では、システム10は、
図1に示したセンサ30、スピーカ28またはディスプレイ24等のモジュールの一つ以上を含まないこともある。一部の実施形態では、システム10は、以下に開示するように、VR/AR/MRシステムとして機能しうる。
【0007】
一実施形態では、システム10はモバイルデバイス(例えばスマートフォン)または非モバイルデバイス(例えばゲームコントローラ)の一部であり、システム10は、モバイルデバイスにハプティック機能を提供する。別の実施形態では、システム10は何らかの形でユーザと接触するオブジェクト(例えば家具)に組み込まれたデバイスの一部であり、システム10は、そのようなデバイスにハプティック機能を提供する。例えば、一実施形態では、システム10はウェアラブルデバイスの一部であり、システム10は、ウェアラブルデバイスにハプティック機能を提供する。ウェアラブルデバイスの例には、リストバンド、ヘッドバンド、眼鏡、リング、レッグバンド、衣類と一体化されたアレイ、またはユーザが身に付けまたはユーザによって保持されうる他の任意のタイプのデバイスが含まれる。一部のウェアラブルデバイスは、「ハプティック可能(イネーブルド)」でありうる、すなわちハプティック効果を生成する機構を含みうる。別の実施形態では、システム10は、デバイス(例えばモバイルデバイスまたはウェアラブルデバイス)と分かれており、デバイスにハプティック機能を遠隔提供する。
【0008】
単一のシステムとして図示されているが、システム10の機能は、分散型システムとして実装されてもよい。システム10は、バス12または情報通信のための他の通信機構と、バス12に結合された情報処理のためのプロセッサ22とを含む。プロセッサ22は、任意のタイプの汎用または特定用途向けプロセッサであってよい。システム10は、プロセッサ22により実行される情報および命令を格納するメモリ14をさらに含む。メモリ14は、ランダムアクセスメモリ(「RAM;random access memory」)、リードオンリメモリ(「ROM;read only memory」)、磁気もしくは光ディスク等の静的記憶装置、または他の任意のタイプの一時的もしくは非一時的コンピュータ可読媒体の任意の組み合わせで構成することができる。
【0009】
コンピュータ可読媒体は、プロセッサ22によりアクセス可能な任意の利用可能な媒体であればよく、揮発性および不揮発性媒体の両方、取外し可能および取外し不能媒体、通信媒体、および記憶媒体を含むことができる。通信媒体は、コンピュータ可読命令、データ構造、プログラムモジュールまたは他のデータを搬送波または他のトランスポート機構等の変調データ信号に含むことができ、公知技術のその他の任意の形の情報配信媒体を含みうる。記憶媒体には、RAM、フラッシュメモリ、ROM、消去可能プログラム可能リードオンリメモリ(「EPROM;erasable programmable read‐only memory」)、電気的消去可能プログラム可能リードオンリメモリ(「EEPROM;electrically erasable programmable read‐only memory」)、レジスタ、ハードディスク、取外し可能ディスク、コンパクトディスクリードオンリメモリ(「CD‐ROM;compact disk read‐only memory」)、または公知技術の他の任意の形の記憶媒体を含みうる。
【0010】
一実施形態では、メモリ14は、プロセッサ22により実行されたときに機能を提供するソフトウェアモジュールを格納する。モジュールは、一実施形態ではシステム10とモバイルデバイスの残りの部分とにオペレーティングシステム機能を提供する、オペレーティングシステム15を含む。モジュールは、本明細書により詳細に開示するように、ハプティック機能を提供するハプティックモジュール16をさらに含む。ある実施形態では、ハプティックモジュール16は複数のモジュールを含むことができ、各モジュールが、ハプティック効果を提供するための特定の個別の機能を提供する。システム10は通常、Immersion Corp.によるTouchSense(登録商標)ソフトウェア等、追加の機能を含むための一つ以上の追加のアプリケーションモジュール18を含む。
【0011】
システム10は、リモートソースからデータを伝送および/または受信する実施形態では、赤外線、無線、Wi‐Fi、セルラネットワーク通信等の移動無線ネットワーク通信を提供するために、ネットワークインタフェースカード等の通信デバイス20をさらに含む。他の実施形態では、通信デバイス20は、イーサネット(登録商標)接続またはモデム等の有線ネットワーク接続を提供する。
【0012】
プロセッサ22は、グラフィック表現またはユーザインタフェース(「UI;user interface」)をユーザに表示するための液晶ディスプレイ(「LCD;Liquid Crystal Display」)等のディスプレイ24に、バス12を介してさらに結合される。ディスプレイ24は、プロセッサ22から信号を送受信するように構成されたタッチスクリーン等の接触感知式入力デバイスでもよく、マルチタッチ式タッチスクリーンでもよい。
【0013】
システム10は、一実施形態では、ハプティック出力デバイス26をさらに含む。プロセッサ22は、ハプティック効果に関連するハプティック信号をハプティック出力デバイス26に伝送することができ、さらにハプティック出力デバイス26が、振動触覚ハプティック効果、静電摩擦ハプティック効果、変形ハプティック効果等のハプティック効果を出力する。ハプティック出力デバイス26はアクチュエータであってもよく、アクチュエータ駆動回路を含みうる。ハプティック出力デバイス26は、例えば、電動モータ、電磁アクチュエータ、ボイスコイル、形状記憶合金、電気活性ポリマ、ソレノイド、偏心回転質量モータ(「ERM;eccentric rotating mass motor」)、リニア共振アクチュエータ(「LRA;linear resonant actuator」)、圧電アクチュエータ、高帯域幅アクチュエータ、電気活性ポリマ(「EAP;electroactive polymer」)アクチュエータ等でもよい。代替的実施形態では、システム10は、ハプティック出力デバイス26に加えて、一つ以上の追加のハプティック出力デバイスを含みうる。代わりにまたは加えて、ハプティック出力デバイス26は、感熱ディスプレイ(例えば温/冷)、電気触覚刺激(すなわち電流による触覚受容器の刺激)、運動感覚フィードバック等、任意の他のハプティック技術にしたがって動作してもよい。さらにもう一つの代替的または追加的実施形態は、システムがユーザに行わせているおよび/または行っているように感じさせている一つまたは複数の動作をユーザが判断する必要があるタスク等の電気筋肉刺激を実施しうる。
【0014】
ハプティック出力デバイス26は、駆動信号に応答して振動触覚ハプティック効果、静電摩擦ハプティック効果、変形ハプティック効果等の任意の形のハプティック効果を出力するように構成されたデバイスである。したがって、ハプティック出力デバイス26はアクチュエータであってもよいし、または代替的実施形態では、静電摩擦(「ESF;electrostatic friction」)または超音波表面摩擦(「USF;ultrasonic surface friction」)を用いたデバイス、超音波ハプティックトランスデューサを有する音響放射圧を誘導するデバイス、ハプティック基板と可撓性もしくは変形可能表面または形状変更デバイスとを用い、ユーザの身体に取り付けられうるデバイス、空気ジェットを用いた空気の吹き出し、レーザベースの発射物、音ベースの発射物等の投影型ハプティック出力を提供するデバイス等の、非機械式または非振動デバイスであってもよい。
【0015】
例えば、一実施形態は、プラズマ(正および負粒子の濃縮混合物)を提供するためにレーザエネルギーが空中の濃縮領域の空気分子をイオン化するレーザベースの発射物を提供する。一実施形態において、レーザは、非常に高速かつ非常に強いペースでパルスを出射するフェムト秒レーザでもよく、レーザが高速であるほど人が触れるのにより安全である。発射物は、ハプティックおよびインタラクティブなホログラムとして現れうる。プラズマがユーザの皮膚と接触すると、ユーザは、濃縮領域における励起された空気分子の振動を感知しうる。ユーザが空中のプラズマと相互に作用したときに生成される波動によってユーザの皮膚上の感覚が引き起こされる。したがって、ユーザをこのような濃縮領域にさらすことによって、ハプティック効果がユーザに提供されうる。代わりにまたは加えて、ユーザを指向性音響エネルギーにより生成される振動にさらすことによって、ハプティック効果がユーザに提供されてもよい。
【0016】
さらに、他の代替的実施形態では、システム10はハプティック出力デバイス26を含まなくてもよく、システム10とは別個のデバイスが、ハプティック効果を生成するハプティック出力デバイスを含み、システム10は、生成されたハプティック信号を、通信デバイス20を通じてそのデバイスに送信する。
【0017】
一実施形態では、ハプティック出力デバイス26は、単一の周波数で振動ハプティック効果を生成する「標準精度」(「SD;standard definition」)アクチュエータでもよい。SDアクチュエータの例には、ERMおよびLRAが含まれる。SDアクチュエータとは対照的に、圧電アクチュエータまたはEAPアクチュエータ等の高精度(「HD;high definition」)アクチュエータまたは高忠実度アクチュエータは、複数の周波数で高帯域幅/精度ハプティック効果を生成することができる。HDアクチュエータは、可変振幅と過渡駆動信号に対する迅速な応答により広帯域幅の触覚効果を生み出す能力を特徴とする。しかし、HDアクチュエータは一般にSDアクチュエータより高価である。したがって一部のデバイスは、HDアクチュエータではなく一つ以上のSDアクチュエータだけを含む。したがって、一部の実施形態は、HDハプティック効果をシミュレートし、HDアクチュエータを必要とせずにHDのようなハプティック体験を提供するために、SDアクチュエータと組み合わせてデバイス内の一つ以上のスピーカ28を活用しうる。
【0018】
システム10は、一実施形態では、スピーカ28をさらに含む。プロセッサ22は、スピーカ28に音声信号を伝送してもよく、スピーカ28がさらに音声効果を出力する。スピーカ28は、例えば、ダイナミックラウドスピーカ、動電ラウドスピーカ、圧電ラウドスピーカ、磁気歪みラウドスピーカ、静電ラウドスピーカ、リボン型平面磁気ラウドスピーカ、屈曲波ラウドスピーカ、フラットパネルラウドスピーカ、ハイルエアモーショントランスデューサ、プラズマアークスピーカ、デジタルラウドスピーカ等でありうる。代替的実施形態では、システム10は、スピーカ28に加えて、一つ以上の追加のスピーカを含みうる(
図1には示されない)。さらに、他の代替的実施形態では、システム10は、スピーカ28を含まなくてもよく、システム10とは別個のデバイスが、音声効果を出力するスピーカを含み、システム10は、音声信号を、通信デバイス20を通じてそのデバイスに送信する。
【0019】
システム10は、一実施形態では、センサ30をさらに含む。センサ30は、音、動作、加速度、生体信号、距離、流量、力/圧力/歪み/屈曲、湿度、線形位置、方位/傾斜、無線周波数、回転位置、回転速度、スイッチの操作、温度、振動、可視光強度等であるがこれらに限定されない、エネルギーの一形態または他の物理的性質を検出するように構成されうる。センサ30は、検出エネルギーまたは他の物理的性質を、電気信号または仮想センサ情報を表す任意の信号に変換するようにさらに構成されうる。センサ30は、加速度計、電気皮膚反応センサ、容量センサ、ホール効果センサ、赤外センサ、超音波センサ、圧力センサ、光ファイバセンサ、曲りセンサ(または屈曲センサ)、力感知レジスタ、ロードセル、LuSenseCPS2 155、ミニチュア圧力トランスデューサ、圧電センサ、ストレインゲージ、湿度計、線形位置タッチセンサ、線形ポテンショメータ(またはスライダ)、線形可変差動変圧器、コンパス、傾斜計、磁性タグ(または無線周波数識別(「RFID;radio frequency identification」)タグ)、回転エンコーダ、回転ポテンショメータ、ジャイロスコープ、オンオフスイッチ、温度センサ(温度計、熱電対、抵抗温度検知器、サーミスタ、温度変換集積回路等)、マイクロホン、光度計、高度計、生体モニタ、カメラ、光依存レジスタ等であるがこれらに限定されない任意のデバイス、または心電図、脳波図、筋電図(electromyograph)、眼電図、電気的パラトグラム(electropalatograph)もしくは任意の他の電気生理的出力を出力する任意のデバイスであってもよい。
【0020】
代替的実施形態では、システム10は、センサ30に加えて、一つ以上の追加のセンサを含みうる(
図1には示されない)。これらの実施形態の一部では、センサ30および一つ以上の追加のセンサは、センサアレイまたは他の何らかのタイプのセンサの集まり/配列の一部であってもよい。さらに、他の代替的実施形態では、システム10は、センサ30を含まなくてもよく、システム10とは別個のデバイスが、エネルギーの一形態または他の物理的性質を検出するセンサを含み、検出されたエネルギーまたは他の物理的性質を、電気信号または仮想センサ情報を表す他のタイプの信号に変換する。それからデバイスが、変換された信号を、通信デバイス20を通じてシステム10に送信しうる。
【0021】
一般に、一部の既知のシステムは、VR、ARまたはMR環境においてハプティック効果を提供しうる。VRは、ソフトウェアを使用して、本物の環境を複製するリアルな画像、音およびその他の感覚を生成し(または想像上の設定を作り出し)、ユーザが専用のディスプレイスクリーン、プロジェクタまたはその他のデバイスを使用してこの空間および空間内に描写された任意のオブジェクトと相互に作用できるようにすることによってこの環境におけるユーザの物理的「存在」をシミュレートすることをいう。VRは、Facebook(登録商標)のOculus Rift、Sony(登録商標)のPlayStation(登録商標) VRおよびSamsungのGear VR等のシステムにより提供されうる。ARは、音、ビデオ、グラフィクス、GPSデータ等のコンピュータ生成された知覚入力により要素が拡張(または補足)された物理的現実世界環境の直接または間接的なライブビューをいう。ARは、GoogleのGoogle Glass、DaqriのDaqri Smart HelmetまたはEpsonのMoverio等のスマートグラスによって提供されうる。MR(複合現実とも呼称される)は、現実世界と仮想世界とを併合して、物理的オブジェクトとデジタル仮想オブジェクトとが共存し、リアルタイムで相互に作用する新たな環境および視覚化を生み出すことをいう。ARと異なり、MRの仮想オブジェクトは現実のオブジェクトと相互に作用し、現実のオブジェクトの上に仮想オーバレイとして加えられるだけにとどまらない。MRは、MicrosoftのHoloLens等のシステムにより提供されうる。
【0022】
一部の既知のシステムは、VR/AR/MRシステムの事前構成済みコントローラを介してVR/AR/MRシステムのユーザにハプティックフィードバックを提供する。例えば、ValveはLRAベースの「Rumblepad」を提供し、Oculusは「Touch」コントローラを提供し、HTCは「Vive」コントローラを提供し、NeuroDigitalは「GloveOne」LRAベースハプティックグローブを提供し、Nodはリングベースのコントローラを提供し、Virtuixは「Omni」プラットフォーム歩行器を提供し、Striker VRは「Infinity」ライフルコントローラを提供する。しかし、これらの既知のシステムのそれぞれにより提供されるハプティックフィードバックは、各システムに付いてくる事前構成済みコントローラに制限され、これに制約される。さらに、「Vive」および「Touch」等の一部のコントローラは同じタイプのアクチュエータを使用するが、これらはそれぞれハプティックフィードバック効果を出力するためにアクチュエータを呼び出す(例えばモータを呼び出し、モータに電圧を送信する)ための異なる専用アプリケーションプログラミングインタフェース(「API;application programming interface」)メソッドを実装する。その結果、一つのデバイス上のハプティックフィードバックにより提供される感覚は、他のデバイス上のハプティックフィードバックにより提供される感覚と異なりうる。
【0023】
既知のシステムとは対照的に、実施形態は、このような事前構成済みコントローラから成り、これらを収容するとともに、VR/AR/MRユーザが所望の時と場所で自らのユーザ体験にハプティックフィードバックを追加することを可能にする。実施形態は、ユーザがよりサラウンドされた位置依存の触覚VR/AR/MR環境を体験できるように、ユーザの「フィールポイント」の可能性を拡大する。実施形態によりユーザは、三次元(「3D;three dimensional」)VR/AR/MR空間における身体位置および仮想物理的要素に基づいて複数のハプティックチャンネルを介して受け取るフィードバックを通じて物理的に存在していると感じるように複数のハプティック出力デバイスを構成することができる。さらに、実施形態は、異なるプラットフォームの異なるハプティックデバイスを制御でき、仮想3D空間におけるイベントの仮想位置に基づいて異なるハプティックデバイスのアクチュエータをトリガできるハプティックサラウンドAPIを提供する。
【0024】
一実施形態は、典型的にVR/AR/MRシステムとともに出荷される既存のハプティックシステムを拡張または置換する、身体上の複数のハプティック作動ポイントを実装する。この実施形態は、ハプティックイベントを様々な身体位置に割り当て、それらのハプティックイベントのパラメータをハプティックサラウンドAPIを通じて変化させる。
【0025】
一実施形態は、ユーザが自分の身体上の所望の位置でのハプティック作動を構成し、それらの位置で特定のVR/AR/MR状況/イベントに関してハプティックフィードバックを受け取ることを可能にする。一実施形態は、ハプティック設計者が二次元(「2D;two dimensional」)空間でサラウンドサウンドにより提供される機能と類似のハプティック「サラウンド」プレイバック制御(例えば前、後、左、右、上および下)を3D空間で提供することを可能にする。サラウンドサウンドは、聴取者の前方円弧だけを源とする「スクリーンチャネル」(中央、[前]左および[前]右)と対照的に、聴取者を取り囲むスピーカからの追加の音声チャンネル(サラウンドチャンネル)を用いて音源の音再生品質を豊かにし、水平面(2D)の360°半径から音を提供するための技術である。同様に、一実施形態は、ユーザを取り囲むハプティックデバイスを通じてハプティックフィードバックを提供する複数のハプティックチャンネルを実装することにより、3D空間におけるサラウンドハプティックフィードバックを提供する。
【0026】
一実施形態では、例えば、VR/AR/MR環境のユーザは、ウェアラブルアクチュエータ等のモジュラハプティック要素をユーザが胸、背中、右手、左手、右足、左足、額等の様々な身体部分/領域上に配置することができるマルチアクチュエータプレイバックシステムを使用しうる。一実施形態では、アクチュエータの位置は、VR/AR/MR環境内でも互いとの関係でも判断/追跡される。したがって、この実施形態は、仮想身体部分(例えば仮想手/足/頭)がVR/AR/MR環境のどこに位置するかに基づいてハプティック効果をトリガすることができる。この実施形態は、これらのモジュラハプティック要素がVR/AR/MR環境内の状況/イベントに応答してハプティックフィードバックを提供する方法を制御する。一実施形態では、ハプティック設計者によりハプティックトラックが提供される際には、ハプティック設計者の当初の意図が判断され(ハプティック設計者が運動感覚フィードバックまたはフルフォースフィードバック(「FFB;full force feedback」)、ランブル、熱ハプティックフィードバック、曲り等を設計したのか否か、およびハプティック効果が特定の身体位置を対象としたものか否か)、当初の意図に基づき、各アクチュエータにつき対応するハプティックフィードバックが判断される。一実施形態では、ハプティック効果をルックアップテーブルの対応するハプティック効果コンテキストに逆マッピングし、ハプティック効果が設計されたイベントを判断することにより、ハプティック設計者の当初の意図が判断されてもよい。
【0027】
一実施形態では、例えばゲームのVR環境において、プレーヤが、Oculus Riftヘッドセットと位置/運動感知システムに基づいてランブルフィードバックを提供する標準「Touch」コントローラとを使用した探査ゲームの中にいてもよい。しかし、二つのハンドヘルド入力およびフィードバックコントローラに加えて、プレーヤは、胸、背中、頭、足等の上に配置されたウェアラブルアクチュエータも有してもよい。アクチュエータはVRシステムにネットワーク接続されて、アクチュエータもVRゲーム空間において位置が感知され、運動が追跡される。これらの身体部分がゲームプレイと相互に作用すると、アクチュエータがトリガされて、ユーザが作動身体位置に基づいてゲーム内イベントを感じることができる。例えば戦闘中に、ユーザは、ハンドヘルドゲームコントローラがランブルする(輪転音を立てる)のを感じるだけではなく、自分の頭、胸、背中または脚に衝撃を受けたのを感じうる。別の例としては、洞穴を探査している際に、ユーザは、自分の頭が仮想天井にぶつかるかまたは肘が仮想壁にぶつかるたびにアクチュエータがトリガすることにより、その空間がいかに窮屈であるかを感知しうる。いずれの状況でも、ユーザは、自分のいる環境をより上手く進み、ゲームの状況に反応することを可能にする有用な身体部分特異的触覚情報を受け取りながら、触覚サラウンド体験を通じてより没頭していく。
【0028】
一実施形態では、例えばゲームVR環境において、プレーヤは、非ハプティックゲームパッドとともにSamsung Gear VR等のモバイルVRヘッドセットを使用していてもよい。プレーヤが自らのVR体験にハプティックフィードバックを追加し、自分の手および頭にハプティックフィードバックを受け取りたい場合、プレーヤは、一つのハプティックサラウンドシステムアクチュエータを両手および頭に取り付けることができる。プレーヤがプレイしているゲームは、プレーヤが頭のアクチュエータならびに左手および右手ハプティック作動システムを備えていることを識別できるハプティックサラウンド体験を提供するように設計および構成されうる。ゲームがプレイされるときには、ユーザは、自分の手に与えられるハプティックフィードバックを通じて自分のゲームアクションの中の左のインタラクションと右のインタラクションとを区別することができる。ユーザは、頭に付けたアクチュエータを介して周囲環境効果も感じうる。例えば、ゲーム設計者は、頭に付けたアクチュエータを介して環境/周囲に関係するハプティックフィードバックを提供するようにハプティック効果を設計しうる。例えば、頭に付けたアクチュエータは、地震、シミュレートされた風、雨、または雷効果をシミュレートするためのスクリーンの揺れ、健康低下または不安/恐怖等の感情の高まりをシミュレートするための鼓動を提供してもよく、その一方で左手および右手アクチュエータは、ボタンを押す、トリガを引く、オブジェクトを投げる等の手のインタラクションに対応する非アンビエントハプティック出力を提供してもよい。
【0029】
一実施形態では、例えば、VR/AR/MRゲーム開発者は、ハプティックサラウンドAPIを使用して、「プレーヤがダメージを受ける」ハプティック効果を、武器で撃たれる等のプレーヤの健康に影響を与えるゲームの特定の要素に割り当てることができる。ハプティックサラウンドAPIは、ゲームの位置および関係オブジェクト論理とともに機能して、VR/AR/MR空間においてゲームプレイアクションとの関係でプレーヤの位置がどこかを特定する。例えばこの実施形態は、仮想空間におけるプレーヤのアバターの身体位置を知り、プレーヤが撃たれたことを判断しうる。この実施形態は、発砲が衝撃を与えるプレーヤの身体上の位置をさらに特定しうる。それからこの実施形態は、衝撃の位置に最も近いハプティックアクチュエータをトリガして、胸、背中、頭、右脚、左腕等の対応する身体部分上で「プレーヤがダメージを受ける」ハプティック効果をプレイバックしうる。
【0030】
一実施形態は、VR/AR/MRシステムのユーザが一つ以上のHAMまたは作動ポイント(例えばウェアラブルハプティックスーツのアクチュエータ)および対応するハプティックサラウンドAPIシステムを実装することにより、自らのハプティック体験を一つのハプティックゲーム入力デバイスを超えてカスタマイズすることを可能にする。一実施形態では、HAMは、VR/AR/MRシステムの一部として提供される任意の既存のハプティック出力デバイス以外の追加のハプティック出力デバイスであってもよい。一実施形態では、作動ポイントは、VR/AR/MRシステムの一部として提供されるHAMまたは任意のハプティック出力デバイスでもよい。各HAMまたは作動ポイントは、ハプティック応答を提供し、VR/AR/MRシステムとのネットワーク通信を実装し、VR/AR/MRシステムの位置感知APIとともに働くことができる。各HAMまたは作動ポイントは、ウェアラブルである、コントローラ入力のために使用される、無線である、再充電可能電源を有する、オンボードプロセッサを含む、およびユーザが構成可能である等のさらなる能力を有してもよい。
【0031】
一実施形態では、例えば、各HAMまたは作動ポイントはコントローラ入力を提供しうる。通常、ゲーム等のVR/AR/MRシステムは、ユーザが自分の入力デバイスを構成することを可能にする。例えばユーザは、特定の武器またはゲーム内アクションを入力デバイス上の特定のボタンに割り当てる(例えば、「Aボタンを押す」をユーザキャラクタが「ジャンプする」に応答するように割り当て、「Bボタンを押す」をユーザキャラクタが「かがむ」に応答するように割り当てる)ことができる。同様に、一実施形態では、HAMまたは作動ポイントは、VR/AR/MR環境の入力デバイスとして構成されてもよい。例えば、左腕上に配置されたHAMをタップすることは、仮想武器をリロードすることに応答しうる。一実施形態では、HAMまたは作動ポイントにより提供される入力の結果、ハプティック出力が生じても生じなくてもよい。一実施形態では、HAMまたは作動ポイントにより提供される入力の結果、入力を提供した同じHAMまたは作動ポイントにより出力されてもされなくてもよいハプティック出力が生じてもよい。例えば、ユーザは、VR/AR/MR環境においてロボットとしてシミュレートされてもよく、胸上に配置されたHAMをタップすることが、ハプティックサラウンドシステムにおいてユーザの様々な身体領域上に配置されたいくつかのHAMからのハプティック出力を引き起こす「自己破壊」コマンドと関連付けられてもよい。
【0032】
一実施形態では、例えば、各HAMまたは作動ポイントは、HAMまたは作動ポイントを身体位置に割り当てるためにスイッチを介してユーザが構成可能であってもよい。一実施形態では、例えば、各HAMまたは作動ポイントは、マグニチュード、持続時間、周波数、パルス形状等のHAMまたは作動ポイントのハプティックプレイバックパラメータを変化させるために構成可能であってもよい。
【0033】
例えば、一実施形態では、ユーザがVR/AR/MRインタラクションに基づいてハプティック応答を受け取ることを望む任意の身体位置上にウェアラブルなものが配置/着用されてもよい。代替的または追加的実施形態では、例えば、ユーザがVR/AR/MRインタラクションに基づいてハプティック応答を受け取ることを望む任意の身体位置上でハプティック効果が投影されてもよい。
【0034】
一実施形態は、HAM/作動ポイントの位置を感知し、HAM/作動ポイントを胸/背中、右腕/左腕、右手/左手、右足/左足、前頭部/後頭部/側頭部等の身体位置と関連付けることを可能にするハプティックサラウンドAPIを実装する。ハプティックサラウンドAPIは、ハプティック効果を武器を発射する、武器によりダメージを受ける等の特定のアプリ内/ゲーム内イベントに割り当てることをさらに可能にする。ハプティックサラウンドAPIは、ハプティック効果を一つ以上特定の身体位置に割り当てることをさらに可能にしうる。例えば、地震をシミュレートするためにはハプティックフィードバックが全ての身体位置に割り当てられてもよいが、ダメージを受けることをシミュレートするためにはダメージタイプにより定義されるプレーヤの特に影響を受けた身体位置だけにハプティックフィードバックが割り当てられてもよい。
【0035】
ハプティックサラウンドAPIは、ハプティック効果がトリガされる3D空間における各HAM/作動ポイントのそれぞれの位置に基づいて、トリガされたハプティック効果のパラメータが複数のHAM/作動ポイントで異なることをさらに可能にしてもよい。例えば、手榴弾がプレーヤの後ろで爆発するときには、爆発はプレーヤのHAM/作動ポイントの各々で感知されてもよいが、3D空間において爆発の位置の最も近くに位置するHAM/作動ポイントで最も強く感じられてもよい。
【0036】
ハプティックサラウンドAPIは、ユーザがハプティック応答を他の身体位置に割り当てることを望む場合に、ユーザ構成オーバライドをさらに可能にしてもよい。例えば、ユーザは、足上に物理的に位置するHAM/作動ポイントを除去し、それらを膝上に配置することを望みうるが、Leap Motion(または他の運動/位置検出機器)が以前に足上に配置されていたHAM/作動ポイントの仮想位置をユーザの膝上の新たな物理的位置と関連付けることは望まないかもしれない。一実施形態では、これは、元々足のために定義/構成されたハプティック出力を膝上で感じたいというユーザ選好によるものでありうる。代替的または追加的実施形態では、これは、足上のHAM/作動ポイントが、ユーザがそのハプティックサラウンドシステムにおいて利用可能なベストなアクチュエータ能力であるという、ハプティック出力デバイス能力によるものであることも考えられ、ユーザがそれらのアクチュエータを用いて膝上に感じるハプティック効果を高めることを選好することも考えられる。
【0037】
一実施形態では、ハプティックサラウンドAPIは、VR/MR/ARシステムがそのプラットフォームおよびそのAPIに第三者のアクセスを提供するときに、VR/MR/ARシステムのプラットフォームにより提供される標準コントローラのAPI方法を呼び出してもよい。したがってハプティックサラウンドAPIは、VR/MR/ARシステムのコントローラにより提供されるハプティックフィードバックを制御することができるとともに、ユーザによりVR/MR/ARシステムに追加された任意のハプティックデバイスにより提供されるハプティックフィードバックも制御することができる。
【0038】
一実施形態では、ハプティックサラウンドシステムは、いくつかのAPIレイヤを含むハプティックAPI制御レイヤを実装する。第一APIレイヤは、追加のハプティックデバイスがVR/AR/MRシステムに割り当て/追加されることを可能にする。第二APIレイヤは、ハプティック効果が異なるハプティックプレイバック能力を有する新たなデバイスまたは異なるデバイスに移植されて再生されうるように、ゲーム/アプリにおける当初のハプティック効果の変換を可能にする。第三APIレイヤは、ハプティック効果が特定の身体位置またはハプティック出力デバイスに割り当てられることを可能にする。第四APIレイヤは、ユーザが、例えばハプティックデバイス能力、物理的位置、コンテンツタイプまたはEntertainment Software Rating Board(「ESRB」)評価等の評価に基づいてハプティックプレイバック選好を割り当てることを可能にする。様々な実施形態において、これらのレイヤの一つ以上は、VR/AR/MRシステムの中央モジュールにより実装されてもよいし(ホスト制御)、またはそれぞれのハプティックデバイスでローカルに実装されてもよい(ローカル制御)。
【0039】
一実施形態では、ハプティックAPI制御レイヤは、ハプティック効果が異なるタイプのアクチュエータによって出力されたときに「一貫している」と感じるように、各ハプティック出力デバイスの能力に基づいてハプティック効果を変更/調節しうる。例えば、一実施形態では、あるHAMはERMランブルモータを実装し、異なる製造業者の別のHAMはLRAアクチュエータを実装しうる。爆発ハプティック効果が両方のHAMでプレイバックされるときに、ERMベースのHAMおよびLRAベースのHAMに同じ電圧が印加された場合には、両HAMはユーザに非常に一貫性のない/異なる感覚を引き起こしうる。しかし一実施形態では、ハプティックAPI制御レイヤが、両HAMによりユーザに爆発の一貫した感覚が提供されるように、特定のアクチュエータのそれぞれの電圧要求に基づいてプレイバックのための電圧パラメータを調節する。
【0040】
一実施形態では、ハプティックAPI制御レイヤはプラットフォームを選ばない、つまり異なるプラットフォームのコントローラ/デバイスとインタフェースすることができる。このようにハプティックAPI制御レイヤは、設計者がプラットフォーム特異的コントローラ/デバイスだけでなく異なる能力を有する第三者ハプティック出力デバイスにより出力されうるハプティック効果を設計することを可能にする。プラットフォームを選ばないために、ハプティックAPI制御レイヤは、プラットフォーム特異的API呼び出しに対する「抽象化」機能を実装する。例えば、Oculus「Touch」により特定のハプティック機能を出力するためのAPI呼び出しは「Magnitude 100」での「Vibrate On」である一方で、HTC「Vive」により同じハプティック機能を出力するためのAPI呼び出しは「haptic interface+」でありうる。しかし、設計者は、ハプティックAPI制御レイヤのためにそのハプティック機能を出力するための抽象化された呼び出しを設計することもできる。それから、使用されるハプティック出力デバイス(例えばOculus「Touch」もしくはHTC「Vive」等のプラットフォーム特異的出力デバイスまたは第三者出力デバイス)に応じて、ハプティックAPI制御レイヤが、抽象化されたAPI呼び出しを当該ハプティック出力デバイスが理解できる適切なAPI呼び出しに変換する。
【0041】
一実施形態では、例えば、Oculusの「Touch」VRコントローラはハプティックフィードバックをプログラム的に制御するために「OVRHaptics」呼び出しを使用してもよく、その一方で、Steam VRコントローラは同じプログラム的制御のために「StartHapticVibration」呼び出しを使用しうる。この場合、ハプティックAPI制御レイヤは、抽象化されたAPIハプティック効果プレイバック呼び出しをターゲットハプティック出力デバイスが期待/理解する適切なAPI呼び出しに変換する。
【0042】
図2は、ハプティックサラウンド機能を提供するためのシステム200の例を示す。システム200では、いくつかのHAM/作動ポイント202が、ユーザ204の様々な身体位置に配置される。各HAM/作動ポイント202は、アクチュエータ等のハプティック出力デバイスに加え、VR/AR/MRシステム218と(例えば無線または有線で)通信する機能を含む。各HAM/作動ポイント202は、そのハプティック出力デバイスを駆動するために電子機器およびソフトウェアも含む。ハプティック出力デバイスは、本明細書に記載の任意の実施形態によりハプティック機能を提供しうる。例えば、ハプティック出力デバイスは、振動、変形、熱、ESFまたは他の任意の公知技術のハプティック作動を含むハプティックフィードバックを提供することもできる。さらに、一つ以上の他のハプティック出力デバイスが、ユーザ204に追加のハプティックフィードバックを提供するためにシステム200内に実装されうる。例えば、ユーザ204の足に振動を伝達できるように、振動アクチュエータが床タイルに埋め込まれてもよい。別の例としては、ユーザ204にハプティック効果を投影できるように、超音波エミッタを壁に埋め込むことができる。別の例としては、AR/MR環境において物理的オブジェクト(例えばドアハンドル)にペルチェセルが埋め込まれて、ユーザ204が触れたときに温度が変化できるようにしてもよい。代替的または追加的に、ユーザ204に追加的なハプティック効果を提供するために、ゲームパッドコントローラ206、スマートフォン208、ウェアラブルデバイス214、216、タッチパッドデバイス210またはハプティックアクチュエータを含む他の任意のデバイスが使用されうる。
【0043】
各HAM/作動ポイント202は、WiFiまたは他の無線ネットワークを通じて直接、またはブルートゥース(登録商標)もしくは他のネットワーク技術を用いてゲートウェイを通じて間接的に、VR/AR/MRシステム218に接続しうる。各HAM/作動ポイント202は、ブルートゥースまたは他の短距離無線技術を用いてVR/AR/MRシステム218に直接接続してもよい。一部の実施形態では、最初に近距離無線通信(「NFC;near field communication」)、WiFiまたは他の無線技術を通じて通信が確立され、それからブルートゥース等のより効率的な短距離技術に切り替えられてもよい。
【0044】
一実施形態では、HAM/作動ポイント202が有線または無線通信を通じてVR/AR/MRシステム218に接続されると、ハプティック効果を提供するためのコマンドを受け取ることができる。HAM/作動ポイント202は、様々な情報、例えばその能力、そのセンサ表示に関する測定値等を提供するためにVR/AR/MRシステム218と通信することもできる。
【0045】
一実施形態では、異なるHAM/作動ポイント202は、振動アクチュエータ、運動感覚アクチュエータ、組み合わせアクチュエータ(一つのデバイスが一つ以上のアクチュエータタイプを含むもの)、ウェアラブル、投影型ハプティクス等の異なるハプティックアクチュエータタイプを含んでもよい。
【0046】
一実施形態では、VR/AR/MRシステム218は、位置感知機能を実装し、HAM/作動ポイント202の互いに対する位置、ならびに3D仮想空間における位置およびユーザ204上の位置を追跡する。磁気追跡(様々な方向の磁場強度を測定する)、音響追跡(既知の音響信号が既知のレシーバに到達するのにかかる時間を測定する)、慣性追跡(加速度計およびジャイロスコープを使用する)、光学追跡(様々なカメラを使用して位置情報を取得する)等、または他の任意の近接性感知機能(物理的接触を一切伴わずに付近のオブジェクトの存在を検出する)等、HAM/作動ポイント202を追跡するために任意の既知の位置感知機能がVR/AR/MRシステム218に実装されうる。一実施形態では、例えばVR/AR/MRシステム218は、位置および運動追跡機能を実装し、ユーザ204の存在を検出する、および/またはユーザ204の様々な身体部分を検出するカメラまたは深さセンサ等の一つ以上のリモートセンサを含む。
【0047】
一実施形態では、HAM/作動ポイント202は、VR/AR/MR環境における自らの位置ならびに互いに対する位置およびユーザ204上の位置を判断するために、「自己認識」位置判断機能を含んでもよい。自己認識位置判断機能は、Wi‐Fi位置判断(他のアクセスポイント(「AP;Access Point」)から受け取る信号に基づいてデバイスの位置を三角測量する)等の任意の既知のポジショニングシステムにより実装されうる。これらの実施形態では、HAM/作動ポイント202は、それらの位置を周期的に判断し、判断した位置をVR/AR/MRシステム218と通信しうる。一実施形態では、このような位置情報は、VR/AR/MR環境において、VR/AR/MR環境内の位置および運動感知/追跡機能を拡張または置換する「身体マッピング」機能を提供するために使用されてもよい。
【0048】
一実施形態では、HAM/作動ポイント202への入力は、アクセサリコントローラを介して、またはHAM/作動ポイント202自体のコントローラ入力を介して提供されてもよい。
【0049】
一実施形態では、HAM/作動ポイント202は、VR/AR/MRシステム218のハプティックサラウンドAPIに加えて、VR/AR/MR環境の任意の既存のコントローラAPI方法と連携するように構成される。一実施形態では、例えば、HAM/作動ポイント202は、スマートフォン208またはタッチパッドデバイス210からのモバイル入力と連携するように構成されうる。
【0050】
一実施形態では、例えば、HAM/作動ポイント202は、ハプティック効果を提供するためにトリガされうる任意の入力デバイス(例えばERM、FFBアクチュエータなど)であってよい。一実施形態では、例えば、HAM/作動ポイント202は、Logitechの「Rumblepad」、NeuroDigitalの「GloveOne」LRAベースハプティックグローブ、Oculusの「Touch」コントローラ等のコントローラを介して実装されうる。
【0051】
一実施形態では、各HAM/作動ポイント202は、システム200内で(例えばスイッチを介して)ユーザが構成可能である。例えば、各HAM/作動ポイント202につき、ユーザは、適切なスイッチを選択して、HAM/作動ポイント202の割り当てられた位置を左/右、手/足、頭、身体等として構成しうる。様々な実施形態において、スイッチは、各HAM/作動ポイント202上に置かれてもよいし、またはHAM/作動ポイント202とは別個のデバイス上に置かれてもよい。さらに、各HAM/作動ポイント202につき、ユーザは、各HAM/作動ポイント202のマグニチュード、持続時間、周波数、パルス形状等のハプティックパラメータを構成しうる。
【0052】
一実施形態では、HAM/作動ポイント202は、無線でもよく、充電ステーション212を介して再充電可能でもよい。充電ステーション212は複数のスロットを含むことができ、使用されていない一つ以上のHAM/作動ポイント203がスロット内に配置されて充電されうる。一実施形態では、充電ステーション212は、VR/AR/MRシステム218におけるネットワーキングおよび位置感知機能も提供してもよい。
【0053】
一実施形態では、HAM/作動ポイント205は、ユーザ204の身体部分に固定できるようにストラップ214(例えばVelcro(登録商標))に取り付けられてもよい。一実施形態では、複数のHAM/作動ポイント207が、ユーザ204の身体に着用できるように布216のポケット内に埋め込まれてもよい。
【0054】
図2および以下の図のいずれかに示される各HAM/作動ポイント(例えばHAM/作動ポイント202)は、一実施形態では
図1のシステム10により実装され、
図1に示される要素の全てまたはサブセットを含みうる。さらに、
図2に示されるVR/AR/MRシステム218および以下の図のいずれかに示されるVR/AR/MRシステムは、一実施形態では
図1のシステム10により実装され、
図1に示される要素の全てまたはサブセットを含みうる。
【0055】
図3は、複数のHAM/作動ポイント304がグローブ302上の様々な位置に実装され、VR/AR/MRシステム306と通信する、システム300の別の例である。したがって、グローブ302を着用するユーザは、自分の手/指上の様々な位置でハプティックフィードバックを受け取るためにHAM/作動ポイント304を構成しうる。HAM/作動ポイント304は、例えばVelcroまたは小型ストラップによりグローブ302に取り付けられてもよいし、またはグローブ302上のポケット内に配置されてもよい。一実施形態では、グローブ302は、ばらばらの指サックとして実装されてもよい。一実施形態では、システム300のHAM/作動ポイント304は、ユーザが構成可能であってもよく、
図2のシステム200のHAM/作動ポイント202に関して本明細書に記載された他の任意の機能を提供してもよい。システム300は、
図2のシステム200の充電ステーション212と同様の充電ステーションをさらに含んでもよい。一実施形態では、ユーザは、VR/AR/MRシステム306のAPIがサポートできる限り多数のHAM/作動ポイント304を購入し、実装しうる。
【0056】
図4は、ユーザ404の一つ以上のネットワーク接続されたデバイス402に基づいて実装される例示的システム400である。各ネットワーク接続されたデバイス402は、VR/AR/MRシステム406と通信し、VRゲーム等のVR/AR/MR環境において個別の入力デバイスとして使用されて、多モードインタラクションを提供しうる。このようなネットワーク接続されたデバイス402の例は、スマートフォン、ネットワーク接続されたウェアラブル(例えばスマートウォッチ、ヘルメット、クロスまたは靴)等である。各ネットワーク接続されたデバイス402は、アクチュエータをさらに含み、したがってハプティック機能を提供することも可能としうる。したがって、各ネットワーク接続されたデバイス402は、システム400においてHAM/作動ポイントとしても使用されることができる。一実施形態では、システム400におけるネットワーク接続されたデバイス402のHAM/作動ポイントは、ユーザが構成可能であってもよく、
図2のシステム200のHAM/作動ポイント202に関して本明細書に記載された他の任意の機能を提供してもよい。
【0057】
一実施形態では、ハプティックサラウンド機能を提供しない既存のシステム(例えば位置および運動感知機能性を備え、本来の入力デバイスを備えた既存のVR/AR/MRシステム)が、ハプティックサラウンドAPIを実装することによって、ハプティックサラウンドシステム要素により拡張されうる。ハプティックサラウンドAPIは、追加のデバイス(例えば追加の入力デバイス、追加のHAM/作動ポイント等)を制御するためのAPIレイヤ、各HAM/作動ポイントへのハプティック効果の割り当てのためのAPIレイヤ、各HAM/作動ポイントのための身体位置構成のためのAPIレイヤ、および各HAM/作動ポイントのハプティック選好を設定するためのAPIレイヤを含みうる。
【0058】
図5は、一実施形態におけるハプティックサラウンドシステムプロセスおよび応答機能を図示した例示的ブロックダイヤグラム500である。ブロックダイヤグラム500において、ハプティックサラウンド機能は、いくつかのハプティック出力デバイスに関するハプティック効果設計および割り当て502、ハプティック出力デバイスの追跡504、ハプティック出力デバイスを介したハプティック応答506の出力により実装される。
【0059】
一実施形態では、ハプティック効果設計および割り当て502は、各VR/AR/MRイベント508につき、各ハプティック出力デバイス510に関して、各ハプティック出力デバイスに対応するハプティック効果パラメータ512を設定することにより行われる。VR/AR/MRイベント508の例は、ダメージを受ける等のゲームイベント、地震等のアンビエントイベント等である。例えば、プレーヤがダメージを受ける等の特定のイベントに関して、適切なハプティック出力デバイスが判断され、それぞれのハプティック効果パラメータが各ハプティック出力デバイスに割り当てられる。
【0060】
一実施形態では、ハプティック出力デバイス追跡504は、ハプティック出力デバイス514の数(例えば、VR/AR/MR環境においていくつかのハプティック出力デバイスがハプティック出力デバイスとして現在使用されているか)を判断し、各デバイス516のハプティック能力(例えばデバイスが出力できるハプティック効果のタイプおよび質)を判断し、ユーザの身体518上の各デバイスの位置(例えば右/左、手/足、胸、頭など)を判断し、任意のデバイスの運動または位置変化520を判断することにより行われる。一実施形態では、運動または位置変化は、仮想環境におけるユーザの運動または位置変更に対応しうる。一実施形態では、運動または位置変化は、ユーザの一つの身体位置からユーザの別の身体位置へハプティック出力デバイスを動かすことに対応しうる。一実施形態ではハプティックデバイス追跡504は、各ハプティック出力デバイスが存在するように構成された場所に存在するか否か(例えば左手に割り当てられたデバイスが左手上にあるか否か)を識別する。
【0061】
一実施形態では、ハプティック出力デバイスを介したハプティック応答506の出力は、デバイスのために設計されたハプティック効果522を(例えばデータベース/メモリを調べることにより、または、仮想空間で起こっているイベントに基づいて合成することにより)判断し、デバイス524のハプティック能力(例えばデバイスがどのようなハプティック効果を生み出せるか)、ユーザ選好526(例えばユーザがあるマグニチュード/周波数/持続時間のハプティック効果の要望を示しているか否か)および仮想環境528におけるユーザの身体の位置(例えば仮想空間のどのイベントが仮想空間の当該位置のユーザに影響するか)を判断することによって行われる。
【0062】
図6は、仮想空間606(例えば3Dゲーム空間)においてユーザ602のアバター608の近くで仮想爆発604が起こったときにユーザ602にハプティックフィードバックを提供する例示的システム600である。システム600は、ユーザ602の身体上の現実作動ポイント610とアバター608上の対応する仮想作動ポイント612との間のマッピングを提供し、仮想爆発604に対する仮想作動ポイント612の相対的位置に基づいてハプティックパラメータ制御を行う、VR/AR/MRシステム614を含む。例えば、一実施形態では、VR/AR/MRシステム614は、仮想空間606において爆発ポイント604に最も近い仮想作動ポイント612を識別し、対応する現実の作動ポイント610がユーザ602に最も強いハプティックフィードバック(例えば最大のマグニチュード、周波数および/または持続時間)を引き起こすようにハプティック効果を割り当てうる。同様に、VR/AR/MRシステム614は、仮想空間606において爆発ポイント604から最も遠い仮想作動ポイント612を識別し、対応する現実の作動ポイント610がユーザ602に最も弱いハプティックフィードバック(例えば最小のマグニチュード、周波数および/または持続時間)を引き起こすようにハプティック効果を割り当ててうる。
【0063】
実施形態は、例えばImmersionの「Tactile Presence」ソリューションによって提供される物理的存在を通信するためにも応用可能である。Tactile Presenceは、触覚効果としても知られる低電力ハプティクスを呼び出すモバイル通信アプリケーションのためのAPIを提供する。Tactile Presenceは、触覚情報を作成し、二つのモバイルデバイスの間で伝送することによりインタラクティブなモバイル体験に物理的存在感を加え、感情的情報を取得および通信して表現力豊かなテレプレゼンスを生み出す動的触覚効果を与えることを通じて、ユーザが別のユーザの遠隔アクションを感じることができる。
【0064】
図7は、本発明の実施形態に係るハプティックサラウンド機能を生み出す際の
図1のハプティクスモジュール16のフローダイヤグラムである。一実施形態では、
図7のフローダイヤグラムの機能は、メモリまたは他のコンピュータ可読もしくは有形の媒体に格納されたソフトウェアにより実装され、プロセッサにより実行される。他の実施形態では、機能は、ハードウェア(例えば、特定用途向け集積回路(「ASIC;application specific integrated circuit」)、プログラム可能ゲートアレイ(「PGA;programmable gate array」)、フィールドプログラム可能ゲートアレイ(「FPGA;field programmable gate array」)等を使用して)、またはハードウェアとソフトウェアの任意の組み合わせにより行われうる。
【0065】
702で、仮想環境における仮想イベントの位置が判断される。
【0066】
704で、ユーザの第一身体領域の位置に基づいて仮想環境における仮想ユーザの第一仮想身体領域の位置が判断され、ここで第一身体領域は第一仮想身体領域に対応する。
【0067】
706で、仮想イベント、仮想環境における仮想イベントの位置、および仮想環境における仮想ユーザの第一仮想身体領域の位置に基づいて第一ハプティック効果が判断される。
【0068】
708で、第一ハプティック出力デバイスによりユーザの第一身体領域に第一ハプティック効果が出力される。一実施形態では、第一ハプティック出力デバイスは、APIによりユーザの第一身体領域に割り当てられる。
【0069】
一実施形態では、第二ハプティック出力デバイスが、APIによりユーザの第二身体領域に割り当てられる。一実施形態では、仮想環境における仮想ユーザの第二仮想身体領域の位置が判断され、ここで第二仮想身体領域はユーザの第二身体領域に対応する。一実施形態では、仮想イベント、仮想環境における仮想イベントの位置および仮想環境における仮想ユーザの第二仮想身体領域の位置に基づいて第二ハプティック効果が判断される。一実施形態では、第二ハプティック効果は第一ハプティック効果とは異なる。一実施形態では、第二ハプティック効果は、第二ハプティック出力デバイスによりユーザの第二身体領域に出力される。
【0070】
一実施形態では、第一ハプティック効果の判断は、第一ハプティック出力デバイスの能力にさらに基づき、第二ハプティック効果の判断は、第二ハプティック出力デバイスの能力にさらに基づく。
【0071】
一実施形態では、第一ハプティック効果の判断は、ユーザの第一身体領域に対応する第一ユーザ選好にさらに基づき、第二ハプティック効果の判断は、ユーザの第二身体領域に対応する第二ユーザ選好にさらに基づく。一実施形態では、第一ユーザ選好および第二ユーザ選好は、APIにより構成される。
【0072】
一実施形態では、第一ハプティック出力デバイスがユーザの第一身体領域からユーザの第三身体領域に動かされたときには、第一ハプティック出力デバイスはAPIによりユーザの第三身体領域に再割り当てされる。
【0073】
開示のように、実施形態は、VR/AR/MR環境に複数のアクチュエータを実装および構成し、これらのハプティック出力デバイスにより様々なハプティックフィードバックを提供してハプティックサラウンドシステムを提供することを可能にする。一実施形態では、ユーザは、VR/AR/MR環境においてハプティック出力デバイスを自由に追加/除去し、これらを身体上の位置に基づいておよび/または特定の身体位置でのハプティックフィードバックに対するユーザ選好に基づいて構成することができる。したがって、実施形態は、VR/AR/MR環境におけるよりサラウンドされた位置依存のハプティックフィードバックを可能にする。
【0074】
本明細書には、いくつかの実施形態が特に例示および/または記載されている。しかし、当然のことながら、開示された実施形態の修正変更は、本発明の趣旨および意図された範囲から逸脱することなく上記の教示に包含され、添付の特許請求の範囲に含まれる。