(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-09
(45)【発行日】2024-05-17
(54)【発明の名称】スケーラブル対話型ビデオシステム及び方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20240510BHJP
A63F 13/30 20140101ALI20240510BHJP
A63F 13/42 20140101ALI20240510BHJP
A63F 13/52 20140101ALI20240510BHJP
G06T 19/00 20110101ALI20240510BHJP
【FI】
G06F3/01 510
A63F13/30
A63F13/42
A63F13/52
G06T19/00 300A
(21)【出願番号】P 2021535914
(86)(22)【出願日】2019-12-19
(86)【国際出願番号】 US2019067632
(87)【国際公開番号】W WO2020132340
(87)【国際公開日】2020-06-25
【審査請求日】2022-12-13
(32)【優先日】2018-12-21
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-02-05
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】511077292
【氏名又は名称】ユニバーサル シティ スタジオズ リミテッド ライアビリティ カンパニー
(74)【代理人】
【識別番号】100094569
【氏名又は名称】田中 伸一郎
(74)【代理人】
【識別番号】100103610
【氏名又は名称】▲吉▼田 和彦
(74)【代理人】
【識別番号】100109070
【氏名又は名称】須田 洋之
(74)【代理人】
【識別番号】100067013
【氏名又は名称】大塚 文昭
(74)【代理人】
【識別番号】100086771
【氏名又は名称】西島 孝喜
(74)【代理人】
【氏名又は名称】上杉 浩
(74)【代理人】
【識別番号】100120525
【氏名又は名称】近藤 直樹
(74)【代理人】
【識別番号】100139712
【氏名又は名称】那須 威夫
(72)【発明者】
【氏名】イエ ウェイ チェン
(72)【発明者】
【氏名】コサイル トラヴィス ジョン
【審査官】槙 俊秋
(56)【参考文献】
【文献】米国特許出願公開第2018/0288133(US,A1)
【文献】米国特許第9597587(US,B2)
【文献】米国特許第7837543(US,B2)
【文献】米国特許出願公開第2008/0045342(US,A1)
【文献】米国特許第9135635(US,B2)
【文献】米国特許第9136878(US,B2)
【文献】米国特許第9178535(US,B2)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
A63F 13/30
A63F 13/42
A63F 13/52
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
対話型ビデオシステムの分散制御システムであって、
複数のノードを相互接続するスイッチ型ファブリックネットワークを備え、
前記スイッチ型ファブリックネットワークが、
前記対話型ビデオシステムの参加者の走査データを収集するように構成されたセンシングユニットを含む、前記複数のノードの入力ノードと、
前記複数のノードの処理ノードの第1セットであって、前記処理ノードの第1セットは、前記参加者の走査データに少なくとも一部基づいて、前記参加者の仮想表現を生成するよう構成され、前記入力ノードは、前記スイッチ型ファブリックネットワークの第1スイッチを介して前記処理ノードの第1セットに通信可能に結合される、前記複数のノードの処理ノードの第1セットと、
前記複数のノードの出力ノードであって、前記出力ノードは、仮想環境における前記参加者の仮想表現を提示するように構成された出力デバイスを含み、前記出力ノードは、前記スイッチ型ファブリックネットワークの第2スイッチを介して前記入力ノードに通信可能に結合される、前記複数のノードの出力ノードと、
を含む、対話型ビデオシステムの分散制御システム。
【請求項2】
前記スイッチ型ファブリックネットワークは、周辺構成要素相互接続エクスプレス(PCIe)接続性を用いて実装される、
請求項1に記載の分散制御システム。
【請求項3】
前記スイッチ型ファブリックネットワークは、前記複数のノードの処理ノードの第2セットを含み、前記処理ノードの第2セットは、前記参加者の走査データに少なくとも一部基づいて、前記参加者の1又は2以上のインゲーム効果を決定するよう構成される、
請求項1に記載の分散制御システム。
【請求項4】
前記出力ノードは、前記処理ノードの第2セットによって決定された前記1又は2以上のインゲーム効果に少なくとも一部基づいて、前記仮想環境を更新するよう構成される、
請求項3に記載の分散制御システム。
【請求項5】
前記処理ノードの第1セットは第1シャーシ内に配置され、前記処理ノードの第2セットは、前記第1シャーシとは別個の第2シャーシ内に配置される、
請求項3に記載の分散制御システム。
【請求項6】
前記処理ノードの第1セットは、中央処理ユニット(CPU)、テンソル処理ユニット(TPU)、グラフィクス処理ユニット(GPU)、ベクトル処理ユニット(VPU)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、又はこれらの組み合わせを含む、
請求項1に記載の分散制御システム。
【請求項7】
前記処理ノードの第1セットは、リモート直接メモリアクセス(RDMA)を介して前記入力ノードにアクセスするよう構成される、
請求項1に記載の分散制御システム。
【請求項8】
前記走査データは、参加者モデル、インゲーム参加者動作データ、参加者識別、又はこれらの組み合わせを含む、
請求項1に記載の分散制御システム。
【請求項9】
前記センシングユニットは、深度カメラ、光検出及び測距(LIDAR)デバイス、又はこれらの組み合わせを含み、前記出力デバイスは、前記仮想環境を前記参加者に表示するように構成されたディスプレイデバイスを含む、
請求項1に記載の分散制御システム。
【請求項10】
前記センシングユニットは、前記参加者の外側表面を測定することによって前記参加者の走査データを収集するように構成され、前記出力デバイスは、前記仮想環境における仮想表現を表示することにより前記参加者の仮想表現を提示するように構成される、請求項1に記載の分散制御システム。
【請求項11】
対話型ビデオシステムを作動する方法であって、
前記対話型ビデオシステムの分散制御システムのスイッチ型ファブリックネットワークにおける複数のノードの入力ノードにて、前記対話型ビデオシステムの参加者の走査データを収集するステップと、
前記スイッチ型ファブリックネットワークの第1スイッチを介して前記入力ノードに通信可能に結合される前記複数のノードの処理ノードの第1セットにて、前記参加者の走査データに少なくとも一部基づいて、前記参加者の仮想表現を生成するステップと、
前記スイッチ型ファブリックネットワークの第2スイッチを介して前記入力ノードに通信可能に結合される前記複数のノードの出力ノードを用いて、仮想環境における前記参加者の仮想表現を提示するステップと、
前記複数のノードの処理ノードの第2セットにて、前記参加者の走査データに少なくとも一部基づいて、インゲーム効果のセットを決定するステップと、
前記出力ノードを用いて、前記インゲーム効果のセットに少なくとも一部基づいて、前記仮想環境を更新するステップと、
を含む、方法。
【請求項12】
前記参加者の走査データに少なくとも一部基づいて、前記インゲーム効果のセットを決定するステップが、
前記処理ノードの第2セットの第1処理ノードにて、前記参加者の走査データに少なくとも一部基づいて、前記参加者のインゲーム動作を識別するステップと、
前記処理ノードの第2セットの第2処理ノードにて、前記インゲーム動作に対応するインゲーム効果を決定するステップと、
前記処理ノードの第2セットの第3処理ノードにて、前記インゲーム効果に対応するオーディオ効果を決定するステップと、
前記処理ノードの第2セットの第4処理ノードにて、前記インゲーム効果に対応する視覚効果を決定するステップと、
前記処理ノードの第2セットの第5処理ノードにて、前記インゲーム効果に対応する物理的効果を決定するステップと、
を含む、請求項11に記載の方法。
【請求項13】
前記入力ノードにて、前記参加者の追加の走査データを収集するステップと、
前記複数のノードの処理ノードの第3セットにて、前記追加の走査データを前記走査データに集約して、前記参加者の集約された走査データを生成するステップと、
前記出力ノードで、前記参加者の集約された走査データに少なくとも一部基づいて、前記参加者の仮想表現を生成するステップと、
を含む、請求項11に記載の方法。
【請求項14】
前記処理ノードの第1セットにて、前記複数のノードのデータベースノードから前記参加者の追加の走査データを受信するステップと、
前記処理ノードの第1セットにて、前記参加者の走査データ及び前記追加の走査データに少なくとも一部基づいて、前記参加者の仮想表現を生成するステップと、
を含む、請求項11に記載の方法。
【請求項15】
複数のノードを相互接続するスイッチ型ファブリックネットワークを含む分散制御システムを備えた対話型ビデオシステムであって、
前記複数のノードが、
前記対話型ビデオシステムの参加者の走査データを収集するように構成されたセンシングユニットを含む入力ノードと、
前記スイッチ型ファブリックネットワークを介して前記入力ノードに通信可能に結合された処理ノードのセットと、
を含み、
前記処理ノードのセットは、
前記参加者の走査データに少なくとも一部基づいて、前記参加者の仮想表現を生成し、
前記参加者の1又は2以上のインゲーム動作を含む前記参加者の走査データに基づいて、インゲーム効果のセットを決定する、
ように構成され、
前記複数のノードが更に、
前記スイッチ型ファブリックネットワークを介して前記入力ノード及び前記処理ノードのセットに通信可能に結合された出力ノードを含み、
前記出力ノードは、
仮想環境における前記参加者の仮想表現を提示し、
前記インゲーム効果のセットに少なくとも一部基づいて、前記仮想環境を更新する、
ように構成された出力デバイスのセットを含む、
対話型ビデオシステム。
【請求項16】
前記インゲーム効果のセットは、前記仮想環境における、視覚効果、物理的効果、オーディオ効果、又はこれらの組み合わせを含む、
請求項15に記載の対話型ビデオシステム。
【請求項17】
前記入力ノードは、インタフェースパネルを含み、前記インタフェースパネルは、前記参加者からの1又は2以上のインゲーム動作に対応する入力を受信するように構成された複数の入力デバイスを含む、
請求項15に記載の対話型ビデオシステム。
【請求項18】
前記入力ノードは、無線周波数(RF)センサを含み、前記走査データは、前記
無線周波数センサにて収集された、前記参加者のアイデンティティ、位置、又はこれらの組み合わせを指示するデータを含む、
請求項15に記載の対話型ビデオシステム。
【請求項19】
前記処理ノードのセットは、前記スイッチ型ファブリックネットワークの第1スイッチを介して前記入力ノードに通信可能に結合され、前記出力ノードは、第2スイッチを介して前記入力ノードに通信可能に結合され且つ前記スイッチ型ファブリックネットワークの第3スイッチを介して前記処理ノードのセットに通信可能に結合される、
請求項15に記載の対話型ビデオシステム。
【請求項20】
前記複数のノードは、前記対話型ビデオシステムの複数の参加者の各々のそれぞれの走査データを収集するように構成された追加のセンシングユニットを含む追加の入力ノードを含む、
請求項15に記載の対話型ビデオシステム。
【請求項21】
対話型ビデオシステムであって、
複数のノードを相互接続する複数のスイッチを含むスイッチ型ファブリックネットワークを備え、
前記複数のノードが、
前記対話型ビデオシステムの参加エリアにおける参加者の走査データを収集するように構成されたセンシングユニットを含む少なくとも1つの入力ノードと、
前記参加者の前記走査データに少なくとも一部基づいて前記参加者のインゲーム動作を識別し、前記インゲーム動作に対応するインゲーム効果を決定するように構成された少なくとも1つの人工知能(AI)処理ノードと、
前記インゲーム効果に対応するオーディオ効果を決定するように構成された少なくとも1つのオーディオ処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記オーディオ効果を提示するように構成されたオーディオ出力デバイスを含む少なくとも1つのオーディオ出力ノードと、
を含み、前記複数のノードの各ノードは、前記スイッチ型ファブリックネットワークの前記複数のスイッチのうちの少なくとも2つのスイッチに結合される、対話型ビデオシステム。
【請求項22】
前記複数のノードは、
前記参加者の前記走査データに少なくとも一部基づいて前記参加者の仮想表現を生成するように構成された少なくとも1つの視覚処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記仮想表現を提示するように構成された視覚出力デバイスを含む少なくとも1つの視覚出力ノードと、
を含む、請求項21に記載の対話型ビデオシステム。
【請求項23】
前記少なくとも1つの視覚処理ノードは、前記インゲーム効果に対応する視覚効果を決定するように構成され、前記少なくとも1つの視覚出力ノードは、前記視覚効果に基づいて前記視覚出力デバイス上での前記参加者の前記仮想表現の前記提示をアップデートするように構成される、
請求項22に記載の対話型ビデオシステム。
【請求項24】
前記複数のノードは、
前記インゲーム効果に対応する物理的効果を決定するように構成された少なくとも1つの物理的効果処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記物理的効果を提示するように構成された物理的効果出力デバイスを含む少なくとも1つの物理的効果出力ノードと、
を含む、請求項21に記載の対話型ビデオシステム。
【請求項25】
前記少なくとも1つの物理的効果処理ノードは、フィールドプログラマブルゲートアレイ(FPGA)を含む、
請求項24に記載の対話型ビデオシステム。
【請求項26】
前記複数のノードは、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者の前記走査データのそれぞれの部分を収集するように構成されたそれぞれのセンシングユニットを各々が含む複数の入力ノードと、
前記複数の入力ノードの各それぞれのセンシングユニットによって収集された前記走査データの前記それぞれの部分を集約するように構成された入力フュージョン処理ノードと、
を含み、前記入力フュージョン処理ノードは、特定用途向け集積回路(ASIC)を含む、請求項21に記載の対話型ビデオシステム。
【請求項27】
前記複数のノードは、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記オーディオ効果のそれぞれの部分を提示するように構成されたそれぞれのオーディオ出力デバイスを各々が含む複数のオーディオ出力ノードと、
前記複数のオーディオ出力ノードの各々の前記それぞれのオーディオ出力デバイスによって提示される前記オーディオ効果の前記それぞれの部分を決定するように構成された出力フュージョン処理ノードと、
を含む、請求項21に記載の対話型ビデオシステム。
【請求項28】
前記少なくとも1つのAI処理ノードは第1シャーシ内に配置され、前記少なくとも1つのオーディオ処理ノードは、前記第1シャーシとは別個の第2シャーシ内に配置される、
請求項21に記載の対話型ビデオシステム。
【請求項29】
前記少なくとも1つのAI処理ノードは、テンソル処理ユニット(TPU)、第1ベクトル処理ユニット(VPU)、又はこれらの組み合わせを含み、前記少なくとも1つのオーディオ処理ノードは、前記第1
ベクトル処理ユニットとは別個の第2
ベクトル処理ユニットを含む、
請求項21に記載の対話型ビデオシステム。
【請求項30】
前記少なくとも1つのAI処理ノードは、リモート直接メモリアクセス(RDMA)を介して前記少なくとも1つの入力ノードにアクセスするよう構成される、
請求項21に記載の対話型ビデオシステム。
【請求項31】
前記スイッチ型ファブリックネットワークは、周辺構成要素相互接続エクスプレス(PCIe)接続性を用いて実装される、
請求項21に記載の対話型ビデオシステム。
【請求項32】
複数のノードを含むスイッチ型ファブリックネットワークを有する対話型ビデオシステムを作動する方法であって、
前記複数のノードのうちの少なくとも1つの入力ノードを介して、前記対話型ビデオシステムの参加エリアにおける参加者の走査データを収集するステップと、
前記複数のノードのうちの少なくとも1つの人工知能(AI)処理ノードを介して、前記参加者の前記走査データに少なくとも一部基づいて前記参加者のインゲーム動作を識別するステップと、
前記少なくとも1つのAI処理ノードを介して、前記インゲーム動作に対応するインゲーム効果を決定するステップと、
前記複数のノードのうちの少なくとも1つのオーディオ処理ノードを介して、前記インゲーム効果に対応するオーディオ効果を決定するステップと、
前記複数のノードのうちの少なくとも1つのオーディオ出力ノードのオーディオ出力デバイスを介して、前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記オーディオ効果を提示するステップと、
前記複数のノードのうちの少なくとも1つの物理的効果処理ノードを介して、前記インゲーム効果に対応する物理的効果を決定するステップと、
前記複数のノードのうちの少なくとも1つの物理的効果出力ノードの物理的効果出力デバイスを介して、前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記物理的効果を提示するステップと、
を含む、方法。
【請求項33】
前記複数のノードの各ノードは、前記スイッチ型ファブリックネットワークの複数のスイッチのうちの少なくとも2つのスイッチに結合される、
請求項32に記載の方法。
【請求項34】
前記複数のノードのうちの少なくとも1つの視覚処理ノードを介して、前記参加者の前記走査データに少なくとも一部基づいて前記参加者の仮想表現を生成するステップと、
前記複数のノードのうちの少なくとも1つの視覚出力ノードの視覚出力デバイスを介して、前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記仮想表現を提示するステップと、
を含む、請求項32に記載の方法。
【請求項35】
前記少なくとも1つの視覚出力ノードを介して、前記インゲーム効果に対応する視覚効果を決定するステップと、
前記視覚出力ノードの前記視覚出力デバイスを介して、前記視覚効果に基づいて前記参加者の前記仮想表現をアップデートするステップと、
を含む、請求項34に記載の方法。
【請求項36】
対話型ビデオシステムであって、
複数のノードを有するスイッチ型ファブリックネットワークを備え、
前記複数のノードが、
前記対話型ビデオシステムの参加エリアにおける参加者の走査データを収集するように構成されたセンシングユニットを含む少なくとも1つの入力ノードと、
前記参加者の前記走査データに少なくとも一部基づいて前記参加者のインゲーム動作を識別し、前記インゲーム動作に対応するインゲーム効果を決定するように構成された少なくとも1つの人工知能(AI)処理ノードと、
前記参加者の前記走査データに少なくとも一部基づいて前記参加者の仮想表現を生成し、前記インゲーム効果に対応する視覚効果を決定するように構成された少なくとも1つの視覚処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記仮想表現を提示し、前記視覚効果に基づいて前記仮想表現の前記提示をアップデートするように構成された視覚出力デバイスを含む少なくとも1つの視覚出力ノードと、
前記インゲーム効果に対応するオーディオ効果を決定するように構成された少なくとも1つのオーディオ処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記オーディオ効果を提示するように構成されたオーディオ出力デバイスを含む少なくとも1つのオーディオ出力ノードと、
を含む、対話型ビデオシステム。
【請求項37】
前記複数のノードの各ノードは、前記スイッチ型ファブリックネットワーク
の複数のスイッチのうちの少なくとも2つのスイッチに結合される、請求項36に記載の対話型ビデオシステム。
【請求項38】
前記複数のノードは、
前記インゲーム効果に対応する物理的効果を決定するように構成された少なくとも1つの物理的効果処理ノードと、
前記対話型ビデオシステムの前記参加エリアにおける前記参加者に前記物理的効果を提示するように構成された物理的効果出力デバイスを含む少なくとも1つの物理的効果出力ノードと、
を含む、請求項36に記載の対話型ビデオシステム。
【請求項39】
前記少なくとも1つの入力ノードは、無線周波数(RF)センサを含み、前記走査データは、前記
無線周波数センサにて収集された、前記参加者のアイデンティティ、位置、又はこれらの組み合わせを指示するデータを含む、
請求項36に記載の対話型ビデオシステム。
【請求項40】
前記少なくとも1つの入力ノードは、前記対話型ビデオシステムの前記参加エリア内の複数の参加者の各々のそれぞれの走査データを収集するように構成された複数のセンシングユニットを有する複数の入力ノードを含む、
請求項36に記載の対話型ビデオシステム。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本出願は、全体が全ての目的のために引用により本明細書に組み入られる、「スケーラブル対話型ビデオシステム及び方法」という名称の2018年12月21日に出願された米国仮出願第62/783,544号明細書に対する優先権及びその利益を主張するものである。
【背景技術】
【0002】
本開示は、一般的にはビデオシステムに関し、より具体的には、同時マルチプレーヤゲームプレイを可能にする対話型ビデオゲームシステムに関する。
【0003】
ビデオゲームシステムは、一般的には、事前に定義された目標又は目的を達成するために参加者(例えば、プレーヤ)が仮想環境におけるキャラクタを制御するのを可能にする。従来のビデオゲームシステムは、一般的には、参加者がゲームの仮想環境内でキャラクタを制御するのを可能にするために、ジョイスティック、ゲームコントローラ、キーボードなどのマニュアル入力デバイスに頼る。加えて、特定の最新のビデオゲームシステムは、参加者の動きを追跡でき、この動きに基づいて参加者がビデオゲームキャラクタを制御するのを可能にするカメラを含むことができる。しかしながら、これらのシステムは一般的には、レイテンシー及び/又はデータスループットによる問題を抱えている。例えば、これらのシステムは、制限されたデータ収集及び/又は処理を促進することがあり、ビデオゲームによって提供される経験(例えば、グラフィクス及び/又は効果)を制限する可能性がある。加えて、ビデオゲームを制御することに伴う処理時間は、参加者から受信される入力と結果の出力の間の遅延をもたらすことがある。更に、複数参加者ビデオゲームシステムでは、レイテンシーの潜在性が、参加者の数と共に劇的に増加する。従って、滑らかで参加者対話に反応するリアルタイムの対話型経験を提供するためにこれらのシステムを用いることは煩わしいことがある。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【課題を解決するための手段】
【0005】
最初に請求項に記載された本発明の対象の範囲内にある特定の実施形態について以下で要約する。これらの実施形態は、本開示の範囲を限定することを意図するものではなく、むしろ、特定の開示される実施形態の簡潔な要約を提供することを意図するものとする。実際に、本開示は、以下に記載される実施形態と類似した又は異なるとすることができる様々な形態を包含することができる。
【0006】
本実施形態は、対話型ビデオシステムの分散制御システムに関する。分散制御システムは、複数のノードを相互接続するスイッチ型ファブリックネットワークを含む。スイッチ型ファブリックネットワークは、センシングユニットを含む入力ノードを含む。センシングユニットは、対話型ビデオシステムの参加者の走査データを収集するために実装される。加えて、スイッチ型ファブリックネットワークは、処理ノードのセットを含む。処理ノードのセットは、参加者の走査データに少なくとも一部基づいて、参加者の仮想表現を生成するよう実装された。処理ノードのセットは、スイッチ型ファブリックネットワークの第1スイッチを介して入力ノードに通信可能に結合される。更に、スイッチ型ファブリックネットワークは出力ノードを含む。出力ノードは、仮想環境における参加者に仮想表現を提示するよう実装された出力デバイスを含む。出力ノードは、スイッチ型ファブリックネットワークの第2スイッチを介して入力ノードに通信可能に結合される。
【0007】
本実施形態はまた、対話型ビデオシステムを作動する方法に関する。本方法は、対話型ビデオシステムの分散制御システムのスイッチ型ファブリックネットワークにおける複数のノードの入力ノードにて、対話型ビデオシステムの参加者の走査データを収集するステップを含む。本方法はまた、複数のノードの処理ノードの第1セットにて、参加者の走査データに少なくとも一部基づいて、参加者の仮想表現を生成するステップを含む。処理ノードの第1セットは、スイッチ型ファブリックネットワークの第1スイッチを介して入力ノードに通信可能に結合される。更に、本方法は、複数のノードの出力ノードを用いて、仮想環境における参加者の仮想表現を提示するステップを含む。出力ノードは、スイッチ型ファブリックネットワークの第2スイッチを介して入力ノードに通信可能に結合される。本方法は更に、処理ノードの第2セットにて、参加者の走査データに少なくとも一部基づいて、インゲーム効果のセットを決定するステップを含む。加えて、本方法は、出力ノードを用いて、インゲーム効果に少なくとも一部基づいて、仮想環境をアップデートするステップを含む。
【0008】
本実施形態はまた、複数のノードを相互接続するスイッチ型ファブリックネットワークを含む、分散制御システムを含む対話型ビデオシステムに関する。複数のノードは、センシングユニットを含む入力ノードを含む。センシングユニットは、参加者の走査データを収集するよう実装された。複数のノードは更に、処理ノードのセットを含む。処理ノードのセットは、スイッチ型ファブリックネットワークを介して入力ノードに通信可能に結合される。処理ノードのセットは、参加者の走査データに少なくとも一部基づいて、参加者の仮想表現を生成するよう実装された。処理ノードのセットは更に、参加者の走査データに基づいてインゲーム効果のセットを決定するよう実装された。走査データは、参加者の1又は2以上のインゲーム動作を含むことができる。複数のノードは付加的に出力ノードを含む。出力ノードは、スイッチ型ファブリックネットワークを介して入力ノードに通信可能に結合される。更に、出力ノードは、スイッチ型ファブリックネットワークを介して処理ノードのセットに通信可能に結合され、出力ノードは出力デバイスのセットを含む。出力デバイスのセットは、仮想環境における参加者の仮想表現を提示するよう実装された。出力デバイスのセットはまた、インゲーム効果に少なくとも一部基づいて、仮想環境の提示をアップデートするよう実装された。
【0009】
本開示のこれらの及び他の特徴、態様、及び利点は、同じ参照符号が図面全体を通して同じ要素を表す添付図面を参照しながら、以下の詳細な説明を読むと更に理解されるであろう。
【図面の簡単な説明】
【0010】
【
図1】本手法による、参加エリアにおいて動作を実行することによって複数の参加者がそれぞれの仮想表現を制御するのを可能にする対話型ビデオシステムの実施形態を示す概略図である。
【
図2】本手法による、スイッチ型ファブリックネットワークを示すブロック図である。
【
図3】本手法による、対話型ビデオシステムを作動する処理の実施形態を示す流れ図である。
【
図4】本手法による、
図3の流れ図に指示された特定の動作が実行される処理の実施形態を示す流れ図である。
【発明を実施するための形態】
【0011】
本明細書で用いる「走査データ」は、参加エリアにおける参加者の眼に見える外側表面を感知(例えば、測定、画像化、測距)することによって収集された2次元(2D)又は3次元(3D)データを指す。詳細には、本明細書で用いる「体積走査データ」は、ポイントクラウドデータなどの3D走査データを指し、画像データなどの「2D走査データ」と対比させることができる。
【0012】
本明細書で用いる「参加者モデル」は、参加者の外側表面を一般的に描写する参加者の走査データから生成される2D又は2Dモデルでありテクスチャデータを含むことができる。詳細には、本明細書で用いる「体積参加者モデル」又は「体積モデル」は、参加者の体積走査データから生成される3D参加者モデルを指し、参加者の2D走査データから生成される「2D参加者モデル」と対比させることができる。
【0013】
本明細書で用いる「シャドーモデル」は、直接的に又は参加者モデルを用いて、参加者の走査データから生成される参加者のテクスチャのない体積モデルを指す。従って、ディスプレイデバイスなどの2D表面に提示された場合、参加者のシャドーモデルは、背後から照明された時の参加者の影又はシルエットと実質的に同様の形状を有する。
【0014】
本明細書で用いる「骨格モデル」は、参加エリア内の参加者の位置及び姿勢を描写するために、参加者の特定の身体部分及び/又は重心の予測される部位及び位置を定める、参加者の走査データから生成される3Dモデルを指す。従って、骨格モデルは、仮想環境における及び/又は参加エリアにおける事象をトリガするための参加エリアにおける参加者の動き及び動作を決定するために用いられる。
【0015】
本実施形態は、表示された仮想環境(例えば、提示エリア)における参加者の仮想表現を制御するために物理的環境(例えば、参加エリア)で複数の(例えば、1から12人の)参加者(例えば、プレーヤ)が動作を実行するのを可能にする対話型ビデオシステム(例えば、ビデオゲームシステム)に関する。開示される対話型ビデオシステムは、参加者の各々を走査できる及び/又は参加者の各々の手順内(例えばインゲーム)動作を取り込むことができる体積センサ(例えば、深度カメラ及び/又は光検知及び測距(LIDAR)デバイス)などの1又は2以上のセンシングユニットを含む。この対話型ビデオシステムはまた、ディスプレイデバイス、オーディオデバイス、物理的効果デバイスなどの幾つかの出力デバイス、及び/又は仮想環境を提示できる及び/又は1又は2以上の手順内効果を生成することができる同様のものを含むことができる。更に、この対話型ビデオシステムは、幾つかのノード(例えば、入力ノード、処理ノード、データベースノード、出力ノード)を有する分散制御システムを含む。この分散制御システムは、対話型ビデオシステムにおける様々なセンサ及び入力デバイスから受信された入力データに一部基づいて出力デバイスを制御するよう実施することができる。従って、この対話型ビデオシステムは、参加者の動作及びこれに対応する手順内効果に基づいて参加者の仮想表現及び仮想環境を継続的にアップデートする。本明細書で開示する本実施形態の例は、ビデオゲームの文脈で記述している。しかしながら、本実施形態がゲームアクティビティ以外のアクティビティに適用でき且つ組み入れることができることを理解されたい。更に、ビデオゲームという語はビデオ技術を利用する多数の娯楽アクティビティを広義に含む点に留意されたい。
【0016】
更にまた、滑らかで且つ参加者対話に反応するリアルタイムの対話型経験を作成するために、この対話型ビデオシステムはスイッチ型ファブリックネットワークを含むことができる。このスイッチ型ファブリックネットワークは、低レイテンシーの高帯域幅通信を促進できるスイッチと相互接続のセットによって互いに通信可能に結合された幾つかのノードを含むことができる。加えて、このスイッチ型ファブリックネットワークはリモート直接メモリアクセス(RDMA)を支援することができる。スイッチ型ファブリックネットワークのノードは、センサ及び入力デバイス、出力デバイス、処理ノード、及び/又はデータベースノードを含むことができる。例えば、対話型ビデオシステムにおけるセンサ及び/又は追加の入力デバイスは、スイッチ型ファブリックネットワークの1又は2以上の入力ノードとして実施することができ、出力デバイスは、スイッチ型ファブリックネットワークの1又は2以上の出力ノードとして実施することができる。特定の処理ノードは、特定の機能を実行するために最適化することができるベクトル処理ユニット(VPU)及び/又はテンソル処理ユニット(TPU)などの専用プロセッサを含むことができる。従って、特定の処理ノードは、そのそれぞれの能力に基づいて、視覚(例えば、グラフィクス)処理、オーディオ処理、人工知能(AI)計算、物理計算などの対話型ビデオシステムに伴う特定の処理タスクの実行に専用とすることができる。更に、このスイッチ型ファブリックネットワークは、幾つかの適切な処理ノードの間でこれらの処理タスクを分割することができる。更にまた、スイッチ型ファブリックネットワークは、リモート直接メモリアクセス(RDMA)を促進することができる。従って、RDMAを用いて、内部コンピュータバスのレイテンシーを有する処理タスクを実行するために物理的に別の処理ノード間でデータを転送して、ノードがシームレスに他のノードから情報を読み取り他のノードに情報を書き込むことができるようにし、事実上、これはスイッチ型ファブリックネットワークにおける全てのノードの大きな組み合わせメモリスペースであると考えることができる。従って、スイッチ型ファブリックネットワークは、対話型ビデオシステムで用いられるデータを効率的に処理及び更新することができる。更に、この対話型ビデオネットワークは、追加の処理ノード、入力ノードとして効率的にスケールすることができる、及び/又は多大なレイテンシーのペナルティを招くことなくスイッチ型ファブリックネットワークに出力を追加することができる。
【0017】
前述を念頭に置いて、
図1は、複数の参加者12(例えば、参加者12A及び12B)が参加エリア16で動作を実行することによってそれぞれの仮想表現14(例えば、仮想表現14A及び14B)を制御するのを可能にする対話型ビデオシステム10(例えば、ビデオゲームシステム)の実施形態の概略図である。簡潔にするために、この説明は、対話型ビデオシステム10を用いる2人の参加者12に向けられ、他の実施形態では、対話型ビデオシステム10が2より多い(例えば、6、8、10、12、又はこれ以上の)参加者12を支援できる点に注目できる。
【0018】
対話型ビデオシステム10の参加エリア16は、幅(x軸18に対応する)、高さ(y軸20に対応する)、及び深度(z軸22に対応する)を有することができ、システム10は、一般的には、x軸18、y軸20、及び/又はz軸22に沿った参加者12の各々の動きをモニタする。対話型ビデオシステム10は、参加エリア16内で動く(例えば、x軸18に沿って走る、y軸20に沿ってジャンプする、z軸22に沿って走る)参加者12に応答して仮想環境32におけるx軸26、y軸28、及び/又はz軸35に沿った提示エリア25のディスプレイデバイス24上に提示される仮想表現14の位置をアップデートする。
【0019】
図1に示す対話型ビデオシステム10の実施形態は、参加エリア16内及び/又は周りに配置される幾つかのセンシングユニット38を含む。詳細には、このセンシングユニット38は、参加エリア16の周囲の周りに対称的に分散させて示すことができる。特定の実施形態では、参加エリア16を画像化するためにセンシングユニット38の少なくとも一部分を参加エリア16の上に位置付けることができ(例えば、天井から又は上昇したプラットフォーム又はスタンド上に吊るすことができる)下向きの角度に向けることができる。他の実施形態では、参加エリア16を画像化するためにセンシングユニット38の少なくとも一部分を参加エリア16の床近くに位置付け且つ上向きの角度に向けることができる。特定の実施形態では、対話型ビデオシステム10は、参加エリア16における各参加者(例えば、参加者12A及び12B)につき少なくとも2つのセンシングユニット38を含むことができる。従って、センシングユニット38は、潜在的な参加者のオクルージョンを低減又は無くすために参加エリア16の周りの見晴らしの利くポイントのかなりの部分を画像化するよう適切に位置付けられる。
【0020】
図示した実施形態では、各センシングユニット38が、それぞれの体積センサ40を含み、これは、赤外線(IR)深度カメラ、LIDARデバイス、又は別の適切な測距及び/又は画像化デバイスとすることができる。例えば、特定の実施形態では、センシングユニット38の体積センサ40の全てが、IR深度カメラ又はLIDARデバイスの何れかであり、他の実施形態では、IR深度カメラ及びLIDARカメラ双方の混合が存在する。参加者12の各々を体積的に走査するためにIR深度カメラとLIDARカメラの両方を使用できることが現在認知されており、収集された走査データ(例えば、体積走査データ)を用いて、以下に論じるように参加者の様々なモデルを生成することができる。例えば、特定の実施形態では、IR深度カメラを用いて骨格モデルを生成するためのデータを収集することができ、LIDARデバイスによって収集されたデータを用いて、参加者12の体積及び/又はシャドーモデルを生成することができる。ポイントクラウドデータを収集するLIDARデバイスが、一般的には最良の精度及び解像度によって、深度カメラより大きなエリアを走査及びマッピングできることも認知されている。従って、特定の実施形態では、少なくとも1つのセンシングユニット38が、LIDARデバイスである対応する体積センサ40を含み、対話型ビデオシステム10の精度又は解像度を拡張する及び/又は対話型ビデオシステム10のセンシングユニット38の総数を低減する。
【0021】
加えて、特定の実施形態では、他のセンサデバイスを参加エリア16内に及び周りに含めることができる。例えば、無線周波数(RF)センサ45を、参加エリア16の近くに(例えば、上、下、隣に)配置することができる。図示したRFセンサ45は、参加者12の各々によって装着される無線周波数識別(RFID)タグを有するブレスレット又はヘッドバンドなどのウェアラブルデバイス47からの固有識別RF信号を受信する。これに応答して、RFセンサ45は、以下に詳しく説明するように、参加エリア16における参加者12のアイデンティティ及び相対的位置に関する信号を提供する。
【0022】
加えて、
図1に示した対話型ビデオシステム10は、仮想環境32の一部として参加エリア16における参加者12によって観察及び経験される提示エリア25の刺激の出力(例えば、オーディオ信号、ビデオ信号、光、物理的効果)を制御する。従って、提示エリア25は、幾つかのオーディオデバイス50及び/又はディスプレイデバイス24を含むことができる。ディスプレイデバイス24は、プロジェクタ及び画面、フラット画面ディスプレイデバイス、又は参加エリア16における参加者12に仮想環境32の適切なビューを提供するよう配列及び設計されたフラット画面ディスプレイデバイスのアレイなどの何れかの適切なディスプレイデバイスとすることができる。特定の実施形態では、オーディオデバイス50を参加エリア16の周りのアレイに配列して、ゲームプレイ中の参加者の没入感を増加させることができる。
【0023】
更に、1つの実施形態では、対話型ビデオシステム10は、拡張参加者対話を可能にできるインタフェースパネル74を含むことができる。
図1に示すように、インタフェースパネル74は、ゲームプレイ中に参加者12からの入力を受信するよう設計された幾つかの入力デバイス76(例えば、クランク、ホイール、ボタン、スライダ、ブロック)を含む。図示したインタフェースパネル74はまた、ゲームプレイ中に参加者12にオーディオ、視覚、及び/又は物理的刺激を提供するよう設計される幾つかの出力デバイス78(例えば、オーディオ出力デバイス、視覚出力デバイス、物理的刺激デバイス)を含む。例えば、出力デバイス78は、スピーカ、警笛、サイレンなどのオーディオデバイスを含むことができる。出力デバイス78はまた、インタフェースパネル74のライト又はディスプレイデバイスなどの視覚デバイスを含むことができる。特定の実施形態では、インタフェースパネル74の出力デバイス78は、暖気又は冷気又はミストのバーストを提供する圧縮エアラインに結合された電気的制御の開放弁などの物理的効果デバイスを含む。
【0024】
更に図示するように、対話型ビデオシステム10は分散制御システム82を含む。分散制御システム82は、一般的には様々な前述の入力デバイスからの入力情報を受信し受信した入力情報に一部基づいて適切な出力を決定する。例えば、分散制御システム82は、体積センサ40の各々によって収集された走査データ、入力デバイス76からの参加者入力、参加エリア16の参加者12のアイデンティティ及び相対的位置に関するRFセンサ45によって提供される信号などを受信することができる。分散制御システム82は、「参加者データ」として本明細書でまとめて記述されるこのデータを組み合わせて、ゲームプレイ中の参加エリア16における参加者12のアイデンティティ、位置、及び/又は動作を決定することができる。更にまた、分散制御システム82は、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78などを制御する命令(例えば、制御信号)を決定し、提示エリア25を介して観察及び経験する参加者12のための様々な刺激を生成することができる。一部の実施形態では、分散制御システム82は、収集された参加者データに一部基づいて、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78などを制御する命令を決定することができる。
【0025】
収集された参加者データを処理するステップ及び/又は提示エリア25で様々な刺激を生成する命令を決定するステップは、プロセッサに集中させることができることが現在認知されている。更にまた、対話型ビデオシステム10のレイテンシーは、滑らかであり且つ参加者の対話に反応するリアルタイム対話型経験を提供するための対話型ビデオシステム10の能力を制限する可能性がある。従って、特定の実施形態では、ネットワークによって通信可能に結合された幾つかのプロセッサを利用することによってワークロードを分割し、収集された参加者データを処理することが有利であるとすることができる。従って、図示した実施形態では、分散制御システム82は、INFINIBAND(登録商標)ネットワークなどのスイッチ型ファブリックネットワーク90を介して通信可能に互いに結合された幾つかの処理ノード84及びデータベースノード86(例えば、データリポジトリ)を含む。以下に詳しく説明するように、処理ノード84はメモリ102及び/又はプロセッサ104を含むことができる。更に図示するように、対話型ビデオシステム10の入力デバイスの各々(例えば、体積センサ40、RFセンサ45、入力デバイス76)及び出力デバイス(例えば、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78)は、スイッチ型ファブリックネットワーク90に通信可能に結合される。従って、以下に詳しく説明するように、分散制御システム82は、スイッチ型ファブリックネットワーク90を介して対話型ビデオシステム10の1又は2以上のデバイスにデータを送信し且つデータを受信することができる。
【0026】
例証を助けるために、幾つかの離散的ノード96を含むスイッチ型ファブリックネットワーク90の実施形態を
図2に示す。スイッチ型ファブリックネットワーク90を用いて、重大な遅延又はレイテンシーをもたらすことなく、互いから物理的に別個とすることができる離散的ノード96の何れの適切な数の間でも対話型ビデオシステム10のデータ処理を分散させることができる。すなわち、例えば対話型ビデオシステム10は、刺激を出力する及び/又は仮想環境32における仮想表現14の滑らかな且つ反応する動きを参加者12にリアルタイムで又はほぼリアルタイムで提供することができる。図示のように、分散制御システム82の処理ノード84及び対話型ビデオシステム10のデバイス(例えば、センシングユニット38、RFセンサ45、入力デバイス76、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78など)の各々は、スイッチ型ファブリックネットワーク90の異なるノード96を表すことができる。入力デバイス(例えば、体積センサ40、RFセンサ45、入力デバイス76)は入力ノード97によって表され、出力デバイス(例えば、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78)は出力ノード98によって表される。しかしながら、他の実施形態では異なる方式で各入力及び/又は出力デバイスをスイッチ型ファブリックネットワーク90に結合できることが理解できる。換言すると、本明細書で説明する実施形態は、例証のためであり制限ではないものとする。
【0027】
ノード96を互いに通信可能に結合するために、スイッチ型ファブリックネットワーク90は、幾つかのスイッチ92(例えば、スイッチングデバイス)を含む。図示したスイッチ型ファブリックネットワーク90はまた、有線及び/又はワイヤレス接続を表すことができる幾つかの相互接続94を含む。1つの実施形態では、相互接続は、銅ケーブル、光ケーブル、バックプレーンコネクタなどを含むことができる。スイッチ92は、スイッチ型ファブリックネットワーク90内で分散制御システム82及び対話型ビデオシステム10のデバイス(例えば、センシングユニット38、RFセンサ45、入力デバイス76、オーディオデバイス50、ディスプレイデバイス24、出力デバイス78など)を互いに結合するために、相互接続94と組み合わせて実施することができる。例えば、1つの実施形態では、スイッチ92を、体積センサ40などの第1デバイスから、処理ノード84などの第2デバイスにパケット(例えば、データパケット及び/又はメッセージ)をルーティングするよう実装されたハードウェアデバイスとすることができる。更にまた、相互接続94及びスイッチ92を用いて、スイッチ型ファブリックネットワーク90のレイテンシーを1マイクロ秒(μs)より短いか又は等しいとすることができる。スイッチ型ファブリックネットワーク90はまた、高帯域幅接続性を促進することができる。従って、データの高容量(例えば、スループット)は、低レイテンシーを有するデバイス間でリレーすることができ、対話型ビデオシステム10に伴うリアルタイムのデータ収集及び処理を促進することができる。
【0028】
スイッチ型ファブリックネットワーク90はまた、ノード96間及び/又はノード96内の読取り及び書込み作動の両方のためにリモート直接メモリアクセス(RDMA)を促進することができる。従って、スイッチ型ファブリックネットワーク90の何れかの適切なノード96からデバイスのメモリ102にデータを直接書き込むことができる。例えば、第1ノード96(例えば、処理ノード84)は、第2ノード96(例えば、出力ノード98の1つ)のメモリ102に直接アクセスして、高レベル要求(例えば、アプリケーション層又は提示層)又はこれに関連付けられる追加のオーバヘッドを伴うことなく、低レベル要求(例えば、ネットワーク層又はトランスポート層)を用いてデータを読み取るか又はアップデートすることができる。更に、事例によっては、第1ノード96でコンピュータ計算することができる結果を、第2ノード96などの従属ノード96のメモリに直接書き込むことができる。この結果、スイッチ型ファブリックネットワーク90及び対話型ビデオシステム10のレイテンシーを(例えば、5マイクロ秒(μs)未満、3μs未満、1μs未満、0.5μs未満まで)最小化することができる。更にまた、スイッチ型ファブリックネットワーク90のノード96を、追加のレイテンシーを招くことなく互いから物理的に別個(例えば、別に)することができる。従って、一部の実施形態では、処理ノード84の各々を別のシャーシ108に収容することができる。例えば、第1シャーシ108AがAI処理ノード84Aを含むことができ、第2シャーシ108Bが視覚処理ノード84Bを含むことができ、第3シャーシ108Cがデータベースノード86を含むことができる。更に、シャーシ108(例えば、108A、108B、108C)を互いからリモートにすることができる。例えば、第1シャーシ108Aを参加エリア16及び/又は提示エリア25に近接して配置することができ、第2シャーシ108Bを参加エリア16及び/又は提示エリア25からリモートにあるオフサイト位置に配置することができる。加えて又は代替えとして、幾つかの処理ノード84、入力ノード97、及び/又は出力ノード98を単一のシャーシ108に、又は共通位置(例えば、対話型ビデオシステム10の制御エリア)に配置される別個のシャーシに収容することができる。
【0029】
処理ノード84及び/又は処理ノード84のクラスタ(例えば、グループ)は、特定の処理タスクに対処するよう実施することができる。従って、上述のように、特定の図示した処理ノード84はメモリ102及び/又はプロセッサ104を含むことができる。詳細には、一部の実施形態において、プロセッサを、中央処理ユニット(CPU)104A、及び/又は、処理タスクを実行するよう最適化された、テンソル処理ユニット(TPU)104B、グラフィクス処理ユニット(GPU)104C、ベクトル処理ユニット(VPU)104D、特定用途向け集積回路(ASIC)104E、フィールドプログラマブルゲートアレイ(FPGA)104Fなどの専用プロセッサとして実施することができる。
【0030】
従って、入力ノード97で収集された参加者データなどの情報を、この情報を用いて特定のタスクを実行するよう実装された処理ノード84のセットに選択的にルーティングすることができる。例えば、TPU104B及び/又はVPU104Dを含むことができる人工知能(AI)処理ノード84Aは、RDMAを介して入力ノード97の1つの情報にアクセス(例えば、読み取る)ことによって入力ノード97で収集された参加者データを決定することができる。一部の実施形態では、例えば、AI処理ノード84Aは、収集された参加者データ及び推論コンピューテーションのセットに一部基づいて、参加者モデルを構成する、参加者12によって実行される将来の動作を予測する、参加者12に提示する対戦相手を決定することなどができる。更にまた、以下に説明するように、AI処理ノード84Aは収集された参加者データに基づいて参加者のインゲーム動作を識別することができ且つインゲーム動作に対応する1又は2以上のインゲーム効果を決定することができる。更に、GPU104Cを含むことができる視覚処理ノード84Bは、収集された参加者データ及び/又はインゲーム効果に一部基づいてディスプレイデバイス24に仮想環境32における参加者の各々の仮想表現14を提示及び/又はアップデートさせる出力信号を決定することができる。更にまた、オーディオ処理ノード84Cは、収集された参加者データ及び/又はインゲーム効果に一部基づいてオーディオデバイス50に特定のオーディオ刺激を生成させる出力信号を決定することができる。加えて、物理的効果処理ノード84Dは、収集された参加者データ及び/又はインゲーム効果に一部基づいて、空気のバーストを提供するような1又は2以上の物理的効果を出力デバイス78に生成させる出力信号を決定することができる。
【0031】
更に、一部の実施形態では、スイッチ型ファブリックネットワーク90は、多種多様なソースからデータを集約するよう実装された処理ノード84を表すことができるフュージョン処理ノード84Eを含むことができる。例えば、一部の実施形態では、フュージョン処理ノード84Eは、参加者の位置を決定するためにセンシングユニット38及びRFセンサ45からの収集された参加者データを集約することができる。更にまた、一部の実施形態では、フュージョン処理ノード84Eは、複数のオーディオ及び/又は視覚信号などの出力データが1又は2以上の出力デバイスによって生成される出力ノード98にルーティングされる前に、複数のオーディオ及び/又は視覚信号などの出力データを集約することができる。従って、一部の実施形態では、他の処理ノード84はフュージョン処理ノード84Eから参加者データを受信することができる及び/又はフュージョン処理ノード84Eを介して出力ノード98にデータを出力することができる。
【0032】
ノード96を互いから物理的にリモートにすることができ、且つ開示されるスイッチ型ファブリックネットワーク90がレイテンシーを軽減し高データスループットを支援するので、対話型ビデオシステム10を容易にスケーリングすることができる。例えば、一部の実施形態では、追加の参加者12によって生じる可能性のある追加の参加者データに対応するために、処理を追加の処理ノード84にオフロードすることができる。詳細には、追加の処理ノード84をスイッチ型ファブリックネットワーク90に追加して追加の参加者データに対応することができる。更にまた、上述のように、処理ノード84の何れかを参加エリア16及び/又は提示エリア25からリモートに位置付けることができる。従って、別の位置が追加の処理ノードを収容できる場合、追加の処理ノードの追加は、参加エリア16及び/又は提示エリア25の資源(例えば、エリア及び/又は体積)によって制限されることはない。
【0033】
更に図示のように、スイッチ型ファブリックネットワーク90は冗長相互接続94を含むことができる。例えば、特定のノード96を複数のスイッチ92(例えば、スイッチ92A、92B、及び/又は92C)に通信可能に結合することができる。加えて又は代替えとして、スイッチ92Aを複数の他のスイッチ92(例えば、スイッチ92A、92B、又は92C)に通信可能に結合することができる。従って、スイッチ間及び/又はノード96間でデータをルーティングするための複数の異なる経路を形成することができる。これを受けて、第1のルーティング経路が利用できない時に代替えのルーティング経路を利用できる場合、スイッチ型ファブリックネットワーク90は不達メッセージ(例えば、データパケット)を低減及び/又は無くすことができる。
【0034】
更にまた、スイッチ型ファブリックネットワーク90の例示的トポロジー(例えばレイアウト)を本明細書に図示及び記述しているが、スイッチ型ファブリックネットワーク90を何れの適切なトポロジーによっても実施できることが理解できる。従って、一部の実施形態では、追加の又は少ないノード96をスイッチ型ファブリックネットワーク90に含めることができる。例えば、上述のように、特定のデータロードを促進するために、スイッチ型ファブリックネットワーク90を何れかの適切な数の処理ノード84などの追加のノード96のセットを用いてスケールすることができる。従って、一部の実施形態では、スイッチ型ファブリックネットワーク90は高容量の視覚及び/又はグラフィックデータを処理するために何れの適切な数の視覚処理ノード84Bも含むことができる。スイッチ型ファブリックネットワーク90は、高容量のオーディオ情報を処理するために何れの適切な数のオーディオ処理ノード84Cも含むことができ、スイッチ型ファブリックネットワーク90は、何れの適切な量の物理的効果データなども処理するために何れの適切な数の物理的効果処理ノード84Dも含むことができる。加えて又は代替えとして、スイッチ型ファブリックネットワーク90の相互接続性を修正することができる。例えば、追加の又は少ない相互接続94及び/又はスイッチ92をスイッチ型ファブリックネットワーク90に含めてノード96間でデータをルーティングすることができる。更に、スイッチ型ファブリックネットワーク90は本明細書ではINFINIBAND(登録商標)ネットワークとして記述されているが、スイッチ型ファブリックネットワーク90を何れの適切なスイッチ型ファブリックネットワークプロトコルに従っても実施することができる。例えば、一部の実施形態では、スイッチ型ファブリックネットワーク90は、周辺構成要素相互接続エクスプレス(PCIe)又は別の適切な高速内部通信規格を用いて実施することができる。従って、本明細書で説明する実施形態は例証であり制限ではないことを意図する。
【0035】
対話型ビデオシステム10を作動する処理110の例を、本技術に従って
図3に示し
図1及び/又は2の要素に関して以下に論じる。他の実施形態では、本開示に従って、図示した処理110の特定のステップを異なる順序で実行する、複数回繰り返す、又は互いにスキップできることを理解できる。更に、
図3に示した処理110は、スイッチ型ファブリックネットワーク90のノード96によって実行することができる。詳細には、処理110を、スイッチ型ファブリックネットワーク90の入力ノード97、出力ノード98、及び/又は処理ノード84の適切な組み合わせによって実行することができる。
【0036】
処理110の図示した実施形態は入力ノード97で参加者データを収集するステップ(ブロック112)から始まる。特定の実施形態では、参加者12を、参加エリア16の周りに位置付けられたセンシングユニット38によって走査又は画像化することができる。加えて又は代替えとして、参加者データを収集するステップは、RFセンサ45のRF信号を決定するステップを伴うことができる。例えば、一部の実施形態では、RFセンサが、参加者12の各々によって身に着けられた無線周波数識別(RFID)タグを有するブレスレット又はヘッドバンドなどのウェアラブルデバイス47からの固有に識別するRF信号を決定することができる。これに応答して、RFセンサ45は、参加者データに取り込むことができる参加エリア16の参加者12のアイデンティティ及び相対的位置に関する信号を提供することができる。
【0037】
例示的処理110を続けて、次に、1又は2以上の処理ノード84が、入力ノードにて収集された参加者データに少なくとも一部基づいて、、各参加者の対応する仮想表現を生成する(ブロック114)。例えば、特定の実施形態では、分散制御システム82が、入力ノード97のセンシングユニット38から収集された走査データをスイッチ型ファブリックネットワーク90を介して処理ノード84にルーティングすることができる。処理ノード84は基礎として受信された走査データを用いて参加者の仮想表現を生成することができる。特定の実施形態では、仮想表現14は、収集された参加者データに一部基づいて入力ノード(例えば、体積センサ40)によって及び/又は処理ノード84で生成できる対応する参加者のシャドーモデルにほぼ類似の形状又は外形を有することができることが理解される。形状に加えて、仮想表現14は、表現された参加者のプロパティに対応するよう修正できる他のプロパティを有することができる。例えば、参加者に、他のゲームシステムにおける参加者のパフォーマンス、ギフトショップでの参加者の購入、ロイヤリティプログラムの参加者のメンバーシップなどを反映する様々なプロパティ(例えば、アイテム、ステータス、スコア、統計値)を関連付けることができる。従って、仮想表現のプロパティ(例えば、サイズ、カラー、テクスチャ、アニメーション、仮想アイテムの存在)を、対応する参加者に関連付けられる様々なプロパティに応じて設定することができ、更にゲームプレイ中の参加者のプロパティへの変更に基づいて修正することができる。例えば、一部の実施形態では、処理ノード84は、RFセンサ45によって提供される信号などの収集された参加者データに一部基づいて特定の参加者に関するデータベースノード86からの上述のプロパティなどの追加の参加者データを要求する及び/又は受信することができる。処理ノード84は次に、データベースノード86によって提供される追加の参加者データに一部基づいて参加者の仮想表現を生成することができる。
【0038】
特定の実施形態では、分散制御システム82は、処理ノード84の何れかの適切な組み合わせを用いて参加者の仮想表現を生成することができる。例えば、上述のように、フュージョン処理ノード84Eが、RFセンサ45及びセンシングユニット38などの1又は2以上の入力デバイスから収集された参加者データを集約することができる。集約された収集参加者データに一部基づいて、視覚処理ノード84Bが適切な信号を決定して出力ノード98(例えば、ディスプレイデバイス24)の1又は2以上を介して仮想表現を表示することができる。更にまた、データベースノード86、AI処理ノード84A、及び/又は何れかの追加の処理ノード84を用いて、仮想表現を生成する及び/又は仮想表現を生成するために視覚処理ノード84Bによって用いられる追加の情報を提供することができる。これを受けて、上述のように、対話型ビデオシステム10を実施することに伴う処理タスクを、特定の処理タスクを実行するよう特化する及び/又は最適化することができる1又は2以上の処理ノード84の間で分散することができる。
【0039】
図示した処理110は、対話型ビデオシステム10が出力ノード98を用いて参加者の各々の対応する仮想表現14を出力するステップ(例えば、提示するステップ)(ブロック116)に続く。例えば、一部の実施形態では、分散制御システム82が1又は2以上の処理ノード84からの仮想表現14をスイッチ型ファブリックネットワーク90を介して1又は2以上の出力ノード98にルーティングすることができ、出力ノード98がディスプレイデバイス24上に仮想環境32における受信した仮想表現を表示することができる。仮想表現の提示に加えて、特定の実施形態では、ブロック118の動作はまた、1又は2以上の出力ノード98を用いて、ウェルカムメッセージ又はオリエンテーション/インストラクション情報などの他の導入提示をゲームプレイが始まる前の提示エリア25で参加者12に提示するステップを含むことができる。
【0040】
ゲームプレイが開始した状態で、ブロック114で生成されブロック116で提示された仮想表現14は、互いに及び/又は仮想環境32における仮想オブジェクトと対話することができる。ゲームプレイ中に、1又は2以上の処理ノード84は、一般的には収集された参加者データに基づいて参加エリア16における参加者12の各々のインゲーム動作を決定する(ブロック118)。例えば、インゲーム動作は、仮想環境32内の仮想表現14のジャンプ、走り、スライド、又はそうでなければ移動を含むことができる。インゲーム動作はまた、仮想環境32における仮想オブジェクトなどのアイテムとの対話(例えば、アイテムの移動、アイテムの取得、アイテムの紛失、アイテムの消費)を含むことができる。加えて又は代替えとして、参加者12は、インゲーム動作を生成するために、参加エリア16に含める及び/又はギフトショップで購入することができる物理的なプロップ(例えば、ボール、おもちゃ、クライミング構造など)を動かす、投げる、及び/又は昇ることができる。インゲーム動作はまた、目標を完成するステップ、別の参加者を倒すステップ、ラウンドに勝利するステップ、又は他の類似のインゲーム動作を含むことができる。従って、収集された参加者データは、参加エリア16内に配置される参加者12の動作に関するデータを含むことができる。すなわち、例えば、参加者データを収集するステップ(ブロック112)は、参加者12のインゲーム動作を取り込むために他のデバイス(例えば、RFセンサ45、入力デバイス76)からデータを収集するステップを付加的に伴うことができる。従って、一部の実施形態では、入力ノード97は、ゲームプレイ中の参加者データの取り込みを継続することができる。
【0041】
加えて、1又は2以上の処理ノード84は、これらのインゲーム動作に対応するインゲーム効果を決定することができる。例えば、AI処理ノード84Aは、参加者12のインゲーム動作によってトリガされる及び/又は関連付けられる特定のゲーム規則に対応するインゲーム効果を決定することができる。更にまた、一部の実施形態では、インゲーム効果を決定する場合に伴われる特定の計算を、追加のAI処理ノード84Aなどの追加の処理ノード84にオフロードすることができる。更にまた、特定の実施形態では、分散制御システム82が、参加者のインゲーム動作に一部基づいて提示エリア25内の仮想環境32のパラメータを設定又は修正するために適切な信号を決定することができる。例えば、以下に詳しく説明するように、この修正は、家のライトの輝度及び/又はカラーを調節するステップ、ゲーム音楽又はゲームサウンド効果を再生するステップ、参加エリアの温度を調節するステップ、参加エリアでの物理的効果を起動するステップなどを含むことができる。
【0042】
分散制御システム82は一般的には、出力ノード98を用いて、参加エリア16の参加者12のインゲーム動作及びブロック118で決定された対応するインゲーム効果に基づいて参加者12の対応する仮想表現14及び/又は仮想環境32をアップデートする(ブロック120)。例えば、分散制御システム82は、RDMAを用いて、第2ノード(例えば、視覚処理ノード84B、オーディオ処理ノード84C、物理的効果処理ノード84D、AI処理ノード84Aなど)のメモリに格納されたデータに基づいて第1ノード(例えば、1又は2以上の出力ノード98)のメモリに格納されたデータを直接アップデートすることができる。出力ノード98は次に、適切な制御信号を関連付けられる出力デバイス(例えば、オーディオデバイス50、ディスプレイデバイス24,出力デバイス78)に供給して、受信した信号に基づいて仮想環境32をアップデートする(例えば、提示エリア25の提示をアップデートする)ことができる。矢印122によって示されるように、処理110に含まれる1又は2以上のステップ(例えば、ブロック118及び/又はブロック120)を、ゲームプレイが完了するまで、例えば、ゲームプレイのラウンドに勝利した参加者12の1人により又は割り当てられたゲームプレイ時間の満了により繰り返すことができる。
【0043】
図4は、本手法による、
図3のブロック118に対応する参加者12の各々のインゲーム動作に対応するインゲーム効果を決定する処理140の例示的実施形態である。処理140を
図1及び2の要素に関して以下に説明する。更に、他の実施形態では、図示した処理140の特定のステップを、本開示に従って、異なる順序で実行でき、複数回繰り返すことができるか、又は互いにスキップできることが理解できる。一般的には、処理140は、参加者のインゲーム動作を識別するステップ、これらの識別したインゲーム動作に基づいてインゲーム効果を決定するステップ、及び決定されたインゲーム効果に基づいて参加エリアにおける仮想環境の表現をアップデートするステップを含む。更にまた、
図4に示した処理140を本明細書では分散制御システム82の特定のノード(例えば、1又は2以上の処理ノード84)によって実行されるものとして記述しているが、処理140は、分散制御システム82のノード96の何れの適切な組み合わせによっても実行することができる。
【0044】
図示した処理140は、収集された参加者データに少なくとも一部基づいて、各参加者12の対応する仮想表現14の1又は2以上のインゲーム動作を識別する(ブロック142)分散制御システム82の処理ノード84の1又は2以上(例えば、AI処理ノード84A)によって開始する。例えば、インゲーム動作は、仮想環境32内の仮想表現14のジャンプ、ラン、スライド、又はそうでなければ移動を含むことができる。従って、処理ノード84の1又は2以上は、参加者12のインゲーム動作を取り込むよう実装される入力ノード97から(例えば、センシングユニット38、RFセンサ45、入力デバイス76などから)受信されたデータに一部基づいてインゲーム動作を識別することができる。
【0045】
次に、図示した処理140は、処理ノード84の1又は2以上(例えば、AI処理ノード84A)が参加者12の各々の識別されたインゲーム動作に応答してトリガされる1又は2以上のインゲーム効果を決定するステップ(ブロック144)に続く。例えば、決定されたインゲーム動作が参加者の動きである時、次にインゲーム効果は、仮想環境内の対応する仮想表現の位置の対応する変化とすることができる。決定されたインゲーム動作がジャンプである時、インゲーム効果は、
図1に示すようにy軸20に沿った仮想表現の移動を含むことができる。決定されたインゲーム動作が特定のパワーアップアイテムを起動することである時、次にインゲーム効果は、参加者12に関連付けられるステータス(例えば、健康ステータス、パワーステータス)を修正するステップを含むことができる。参加者12Aに関連付けられる決定されたインゲーム動作が、参加エリア16内の泡の剣などの物理的プロップの使用である時、インゲーム効果は、仮想の剣などの物理的プロップに対応する仮想表現を含むよう仮想環境32内の参加者12Aの仮想表現をアップデートするステップを含むことができる。加えて、特定のケースでは、仮想表現14の動きは、参加者12の実際の動きに対して強調又は増補することができる。例えば、仮想表現の外観を修正することに関して上述したように、参加者の仮想表現の動きは、ゲームプレイ中に獲得されたアイテム、他のゲームプレイセッション中に獲得されたアイテム、ギフトショップで購入されたアイテムなどを含む、参加者に関連付けられるプロパティに基づいて参加者の実際の動きに対して一時的に又は永続的に強調することができる(例えば、高く飛ぶ、遠くに飛ぶことができる)。加えて、インゲーム効果は、1又は2以上のサウンド及び/又は物理的効果を含むことができる。
【0046】
図4に示した実施形態を続けると、分散制御システム82は、ブロック144で決定されたインゲーム効果に少なくとも一部基づいて、、提示エリア25における1又は2以上のサウンド(ブロック146)、視覚効果(ブロック148)、及び/又は1又は2以上の物理的効果(ブロック150)に対応する適切な信号を決定することができる。例えば、インゲーム効果が仮想スイミングプールに突っ込む参加者の特定の仮想表現であると決定される時、オーディオ処理ノード84Cは、出力ノード98の1又は2以上に関連付けられるオーディオデバイス(例えば、オーディオデバイス50)に適切なスプラッシュサウンドを生成させるのに適した信号を決定することができる。更に、視覚処理ノード84Bは、参加者のアップデートされた視覚表現などの視覚効果を決定して、出力ノード98の1又は2以上に(例えば、ディスプレイデバイス24に)提示することができる。一部の実施形態では、視覚処理ノード84Bは、隣接するか又は互いから物理的にリモートとすることができる幾つかのGPU104Cを利用して、視覚効果を決定することができる。更にまた、物理的効果処理ノード84Dは、出力ノード98及び関連付けられる出力デバイス78に一吹きのミストを生成させる適切な信号を決定することができる。加えて、サウンド及び/又は物理的効果は、例えば、パワーアップの取得、パワーアップの紛失、ポイントの獲得、又は環境の特定のタイプの移動を含む何れの数のインゲーム効果にも応じて生成することができる。
【0047】
本方法の技術的な効果は、複数の参加者(例えば、2又は3以上、4又は5以上)が参加エリア近くの提示エリアのディスプレイデバイスに提示される仮想環境における対応する仮想表現を制御するために物理的参加エリアにおける動作を実行するのを可能にする対話型ビデオシステムを含む。詳細には、本発明のシステムは、滑らかで且つ参加者の対話に反応するリアルタイム対話型経験を作成することができ、且つ本発明のシステムは、多数の参加者、データ処理の高スループットなどを促進するよう効率的にスケールすることができる。これを行うために、開示するシステムは、スイッチ型ファブリックネットワークで実装される分散制御システムを含む。このスイッチ型ファブリックネットワークは、入力ノード(例えば、入力デバイス)、出力ノード(例えば、出力デバイス)、及び処理ノード(例えば、コンピュータデバイス)などの幾つかのノードを相互接続する。更に、スイッチ型ファブリックネットワークは、低レイテンシー、高帯域幅通信、並びにノード間のリモート直接メモリアクセス(RDMA)を促進することができる。低レイテンシー通信の結果として、且つ処理ノードが特定のコンピュータタスクを実行するよう最適化された専用プロセッサを含むことができるので、本発明のシステムを制御することに伴う作動を、幾つかの処理ノード及び/又は高速処理のための専用プロセッサ全体に渡って分散することができる。更にまた、スイッチ型ファブリックネットワークが物理的に別個の位置(例えば、別のシャーシ)の処理ノードに対応することができるので、追加の処理ノードをシステムからオン又はオフサイトのネットワークに効率的に追加することができ、本発明のシステムのスケーラビリティを増大する。
【0048】
本開示の特定の特徴のみを本明細書に図示し説明したが、多くの修正及び変更が当業者に見出されるであろう。従って、添付の特許請求の範囲は、本開示の真の趣旨に属するような修正及び変更の全てを包含するように意図されると理解すべきである。本明細書で提示され特許請求された技術は、本発明の技術分野を明らかに改善する有形物及び実際的な性質の具体例に参照及び適用され、このため、抽象的、無形又は純粋に理論上のものではない。更に、本明細書に添付されたあらゆる請求項が、「ある機能を実行する手段」又は「ある機能を実行するステップ」として指定された1又は2以上の要素を包含する場合には、このような要素は、米国特許法第112条(f)に基づいて解釈されることを意図している。しかしながら、他の何れかの様態で指定された要素を含む何れかの請求項については、このような要素は、米国特許法第112条(f)に基づいて解釈されないものとする。
【符号の説明】
【0049】
10 対話型ビデオシステム
12A 参加者
12B 参加者
14A 仮想表現
14B 仮想表現
16 参加エリア
18 x軸
20 y軸
22 z軸
24 ディスプレイデバイス
25 提示エリア
26 x軸
28 y軸
32 仮想環境
35 z軸
38 センシングユニット
40 体積センサ
45 RFセンサ
47 ウェアラブルデバイス
50 オーディオデバイス
74 インタフェースパネル
76 入力デバイス
78 出力デバイス
82 分散制御システム
84 処理ノード
86 データベースノード
90 スイッチ型ファブリックネットワーク
102 メモリ
104 プロセッサ