(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-01-31
(54)【発明の名称】協働プラットフォーム上の待ち時間を低減させるための方法およびシステム
(51)【国際特許分類】
H04N 21/431 20110101AFI20230124BHJP
H04N 21/436 20110101ALI20230124BHJP
G06F 3/0488 20220101ALI20230124BHJP
【FI】
H04N21/431
H04N21/436
G06F3/0488
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022531417
(86)(22)【出願日】2020-11-25
(85)【翻訳文提出日】2022-07-22
(86)【国際出願番号】 US2020062427
(87)【国際公開番号】W WO2021108716
(87)【国際公開日】2021-06-03
(32)【優先日】2019-11-27
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】522209217
【氏名又は名称】スクリーンビーム インコーポレイテッド
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】ブ, チュオン
(72)【発明者】
【氏名】エーレンバーガー, マイク
(72)【発明者】
【氏名】リー, ウェイ
(72)【発明者】
【氏名】チャン, ディーン
(72)【発明者】
【氏名】リー, チュアン
【テーマコード(参考)】
5C164
5E555
【Fターム(参考)】
5C164TA02S
5C164TA07S
5C164UB71P
5C164UB88P
5C164UC01S
5E555AA61
5E555AA67
5E555BA02
5E555BB02
5E555BC09
5E555CB10
5E555CB74
5E555CC11
5E555DB56
5E555DC09
5E555FA00
(57)【要約】
協働プラットフォーム上における待ち時間を低減させるためのシステムおよび方法が、提供される。協働プラットフォームは、ディスプレイと、モデレータデバイスと、1つまたはそれを上回るメンバーデバイスと、ディスプレイ、モデレータデバイス、および1つまたはそれを上回るメンバーデバイスと通信する、受信機とを伴う。協働プラットフォームの待ち時間を低減させるために、受信機は、ディスプレイから受信されたユーザ入力ならびにユーザ入力のユーザタイプに基づいて、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、表示のために、オーバーレイされた画像を伝送する一方、協働アプリケーションは、表示のために、ユーザ入力に基づいて、新しい実画像を生成する。
【特許請求の範囲】
【請求項1】
協働プラットフォーム上における待ち時間を低減させるための方法であって、前記方法は、
第1のデバイスによって、第1の画像を第3のデバイスから受信することと、
前記第1のデバイスによって、ユーザ入力を示すユーザ入力データを第2のデバイス上で受信することと、
前記第1のデバイスによって、前記ユーザ入力データを前記第3のデバイスに伝送することと、
前記第1のデバイスによって、前記ユーザ入力データに基づいて、オーバーレイ画像を決定することと、
前記第1のデバイスによって、前記オーバーレイ画像および前記第1の画像に基づいて、オーバーレイされた画像を決定することと、
前記第1のデバイスによって、前記オーバーレイされた画像を前記第2のデバイスに伝送し、前記オーバーレイされた画像を前記第2のデバイス上に表示させることと
を含む、方法。
【請求項2】
前記第1のデバイスによって、前記オーバーレイ画像を決定することは、前記第1のデバイスによって、前記ユーザ入力データに基づいて、前記第2のデバイス上の前記ユーザ入力を示す前記オーバーレイ画像の第1の部分を決定することを含む、請求項1に記載の方法。
【請求項3】
前記第1のデバイスによって、前記オーバーレイ画像を決定することは、前記第1のデバイスによって、前記ユーザ入力データに基づいて、前記オーバーレイ画像の延在部分を予測することを含む、請求項2に記載の方法。
【請求項4】
前記第1のデバイスによって、前記ユーザ入力データに基づいて、前記オーバーレイ画像の延在部分を予測することは、前記第1のデバイスによって、前記ユーザ入力データの空間座標または時間座標のうちの少なくとも1つに基づいて、前記オーバーレイ画像の延在部分を予測することを含む、請求項3に記載の方法。
【請求項5】
前記第1のデバイスによって、前記ユーザ入力データに基づいて、前記オーバーレイ画像の延在部分を予測することは、前記ユーザ入力データの速度に基づいて、前記第1のデバイスによって、前記オーバーレイ画像の延在部分を予測することを含む、請求項3に記載の方法。
【請求項6】
前記オーバーレイ画像の延在部分は、複数の有限線分を備える湾曲部分を備え、前記第1のデバイスによって、前記オーバーレイ画像の延在部分を予測することは、前記複数の有限線分の各有限線分の角度に基づいて、前記湾曲部分を予測することを含む、請求項3に記載の方法。
【請求項7】
前記第1のデバイスによって、前記ユーザ入力データに基づいて、前記オーバーレイ画像の延在部分を予測することは、外挿、機械学習、人工知能、またはニューラルネットワークのうちの少なくとも1つに基づいて、前記第1のデバイスによって、前記オーバーレイ画像の延在部分を予測することを含む、請求項3に記載の方法。
【請求項8】
前記第1のデバイスによって、前記オーバーレイ画像を決定することは、前記第1のデバイスによって、前記オーバーレイ画像の前記第1の部分と、延在部分とを備える前記オーバーレイ画像を決定することを含む、請求項3に記載の方法。
【請求項9】
前記オーバーレイ画像の一部は、所定の期間にわたって、前記第2のデバイス上に表示される、請求項1に記載の方法。
【請求項10】
前記所定の期間は、少なくとも、前記協働プラットフォーム上の待ち時間と同じ長さである、請求項9に記載の方法。
【請求項11】
前記オーバーレイ画像は、前端の空間座標の数が前記第2のデバイス上で増加するにつれて、後端の空間座標の一部が、前記協働プラットフォーム上における待ち時間の長さに応じて、前記第2のデバイスから除去されるように、前端と、後端とを備える、請求項1に記載の方法。
【請求項12】
前記オーバーレイ画像は、最大量の空間座標を超える付加的空間座標が表示されると、初期表示空間座標が、前記オーバーレイ画像から除去されるように、最大量の空間座標を備える、請求項1に記載の方法。
【請求項13】
前記オーバーレイ画像は、前端が延在するにつれて、後端が、前記第2のデバイス上に表示される前記オーバーレイされた画像の前記オーバーレイ画像の最大空間長を維持するように除去されるように、前端と、後端と、最大空間長とを備える、請求項1に記載の方法。
【請求項14】
前記オーバーレイ画像は、前端が前記第2のデバイス上であるレートで延在するにつれて、後端が、前記レートで前記第2のデバイスから除去されるように、前端と、後端とを備える、請求項1に記載の方法。
【請求項15】
前記オーバーレイ画像は、前端の空間座標の数が前記第2のデバイス上で増加するにつれて、後端の空間座標の一部が、増加する空間座標の速さに応じて、前記第2のデバイスから除去されるように、前端と、後端とを備える、請求項1に記載の方法。
【請求項16】
前記第1のデバイスによって、前記第2のデバイス上の前記ユーザ入力に対応する入力タイプを決定することをさらに含み、前記入力タイプは、太さ、色、またはマーカまたは消しゴムタイプのうちの少なくとも1つを備える、請求項1に記載の方法。
【請求項17】
前記第1のデバイスによって、前記入力タイプを決定することは、前記第1のデバイスによって、前記ユーザ入力データおよび機械学習に基づいて、前記入力タイプを決定することを含む、請求項16に記載の方法。
【請求項18】
前記第1のデバイスによって、前記ユーザ入力に対応する入力タイプを示すデータを前記第3のデバイスから受信することをさらに含む、請求項1に記載の方法。
【請求項19】
前記第1のデバイスによって、前記入力タイプを示すデータを受信することは、前記第1のデバイスによって、定義されたTCPポートを介して、前記入力タイプを示すデータを前記第3のデバイス上で起動するアプリケーションから受信することを含む、請求項18に記載の方法。
【請求項20】
前記第1のデバイスによって、前記入力タイプを示すデータを受信することは、前記第1のデバイスによって、ユーザ入力バックチャネル(UIBC)エクステンションを介して、前記入力タイプを示すデータを前記第3のデバイス上で起動するオペレーティングシステムから受信することを含む、請求項18に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本願は、その全内容が、参照することによって本明細書に組み込まれる、2019年11月27日に出願された、米国仮特許出願第62/941,677号の優先権を主張する。
【0002】
本開示は、一般に、少なくとも一時的表示のために、ユーザ入力に基づいて、オーバーレイ画像を生成し、協働プラットフォーム上における待ち時間を低減させるための方法およびシステムに関する。
【背景技術】
【0003】
有線接続によって、およびネットワークを経由して無線での両方において、コンテンツを投影するための方法および製品が、当技術分野において周知である。一実施例は、Wi-Fiアライアンスによって認定されている、Miracast(R)無線ディスプレイ規格であって、これは、Wi-Fi CERTIFIED Wi-Fi Direct(R)を使用して、マルチメディアをデバイス間で表示するためのプロトコルを定義する。Wi-Fi Directを実装することで、Miracast(R)は、ビデオ能力をネゴシエートする、コンテンツ保護を設定する、コンテンツをストリーミングする、およびビデオセッションを維持するための動作を提供する。Bluetooth(登録商標)技術と異なり、Wi-Fi CERTIFIED Miracast(R)は、最大1,080pHDまたはさらにより高い分解能ビデオを送信することを可能にし、したがって、ビデオストリーミングおよび画面間コンテンツ投影のために好適である。例えば、Miracast(R)は、ビデオコンテンツをラップトップコンピュータからテレビディスプレイに無線でストリーミングすることを可能にする。
【0004】
コンテンツ投影システムの望ましくない待ち時間が、協働の間、例えば、オリジナルデータファイルが記憶されていない、ディスプレイ、例えば、コンピューティングデバイス上に投影されているコンテンツに対して編集を行うときに生じる。例えば、教室設定では、教師のデスクトップは、その上に記憶されるオリジナルデータファイルを有し得、これは、当技術分野において公知のコンテンツ投影システムを使用して、教室の生徒に可視の教室の正面のディスプレイ上に投影され得る。受信機が、典型的には、教師のデスクトップまたは生徒のタブレットとディスプレイとの間でデータを伝送するために使用される。例えば、受信機は、ユーザ入力データを転送するために、USBケーブルを介して、ディスプレイに結合され、画像を転送するために、HDMI(登録商標)ケーブルを介して、ディスプレイにさらに結合され得る。さらに、受信機は、ネットワーク(例えば、ローカルネットワーク、企業ネットワーク、またはインターネット)を経由して無線で、教師のデスクトップおよび生徒のタブレットと通信し得る。
【0005】
オリジナルファイル、例えば、教師のデスクトップ上に記憶される、数学問題が、ディスプレイ、例えば、タッチスクリーン上に投影されると、生徒は、直接、ディスプレイ上に描出することによって、数学問題に解答しようと試み得る。生徒が、例えば、数字「3」をディスプレイ上に描出し始めるにつれて、数字「3」の形成がディスプレイ上に現れ始めるために、ユーザ入力を表す、入力データが、ディスプレイから、USBケーブルを介して、受信機に転送される。受信機は、次いで、ユーザ入力データを、WiFiを介して、オリジナルファイルが記憶されている、教師のデスクトップに伝送する。教師のデスクトップ上のプロセッサは、次いで、ユーザ入力データに基づいて、オリジナルファイルを修正する、例えば、生徒がそれを描出するにつれて、数字「3」を数学問題に追加し、それによって、新しい実画像を生成し、これは、WiFiを介して、受信機に伝送される。受信機は、次いで、生徒がそれを描出するにつれて、値「3」の形成がディスプレイ上に表示されるように、新しい実画像を、HDMI(登録商標)ケーブルを介して、ディスプレイに伝送する。ディスプレイから、受信機に、教師のデスクトップに、そして、受信機に戻り、次いで、最後に、ディスプレイに戻る、データフローは、生徒がディスプレイ上に描出するにつれて、持続的に生じ、協働コンテンツ投影システムの待ち時間をもたらす。
【0006】
したがって、協働コンテンツ投影システムの待ち時間を低減させるためのシステムおよび方法を提供することが望ましい。
【発明の概要】
【課題を解決するための手段】
【0007】
本発明は、少なくとも一時的表示のために、ユーザ入力に基づいて、オーバーレイ画像を生成し、協働プラットフォーム上における待ち時間を低減させるためのシステムおよび方法を対象とする。例えば、本発明の一側面によると、協働プラットフォーム上における待ち時間を低減させるための方法が、提供される。本方法は、第1のデバイス、例えば、受信機によって、第1の実画像を、第3のデバイス、例えば、モデレータデバイスから受信するステップと、第1のデバイスによって、USBケーブルを介して、ユーザ入力を示すユーザ入力データを、第2のデバイス、例えば、ディスプレイ上で受信するステップと、第1のデバイスによって、ユーザ入力データを第3のデバイスに伝送するステップと、第1のデバイスによって、ユーザ入力データに基づいて、オーバーレイ画像を決定するステップと、第1のデバイスによって、オーバーレイ画像および第1の実画像に基づいて、オーバーレイされた画像を決定するステップと、第1のデバイスによって、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像を第2のデバイスに伝送し、例えば、タッチスクリーンディスプレイを介して、オーバーレイされた画像を第2のデバイス上に表示させるステップとを含む。
【0008】
さらに、オーバーレイされた画像のオーバーレイ画像の一部は、所定の期間にわたって、第2のデバイス上に表示されてもよい。例えば、所定の期間は、少なくとも、協働プラットフォーム上の待ち時間と同じ長さであってもよい。例えば、オーバーレイ画像は、前端が第2のデバイス上にあるレートで延在するにつれて、後端が、そのレートで第2のデバイスから除去されるように、前端と、後端とを含んでもよい。代替として、前端の空間座標の数が第2のデバイス上で増加するにつれて、後端の空間座標の一部は、ユーザ入力データの待ち時間および/または速さに応じて、第2のデバイスから除去されてもよい。
【0009】
本発明のいくつかの側面によると、第1のデバイスによって決定されたオーバーレイ画像は、ユーザ入力データに基づく、第2のデバイスにおけるユーザ入力を示す、オーバーレイ画像の第1の部分と、ユーザ入力データに基づく、オーバーレイ画像の延在され、予測される部分とを含んでもよい。例えば、第1のデバイスは、例えば、外挿、機械学習、人工知能、またはニューラルネットワークのうちの少なくとも1つを介して、ユーザ入力データの空間または時間座標のうちの少なくとも1つに基づいて、オーバーレイ画像の延在部分を予測してもよい。例えば、第1のデバイスは、ユーザ入力データの速度に基づいて、オーバーレイ画像の延在部分を予測してもよい。オーバーレイ画像の延在部分は、第1のデバイスによって、オーバーレイ画像の延在部分を予測するステップが、複数の有限線分の各有限線分の角度に基づいて、湾曲部分を予測するステップを含むように、複数の有限線分から形成される、湾曲部分を含んでもよい。
【0010】
加えて、ユーザ入力データは、太さ、色、またはマーカ、もしくは消しゴムタイプのうちの少なくとも1つを示す、入力タイプデータを含んでもよい。本発明の一側面によると、本方法はさらに、第1のデバイスによって、ユーザ入力データおよび機械学習に基づいて、入力タイプを決定するステップを含む。例えば、入力タイプは、第2のデバイスからのユーザ入力データの空間入力のパターンを分析することによって、決定されてもよい。故に、決定されたオーバーレイ画像は、決定された入力タイプに基づいて決定されてもよい。
【0011】
本発明の別の側面によると、本方法はさらに、第1のデバイスによって、入力タイプを示すデータを第3のデバイスから受信するステップを含んでもよい。例えば、第1のデバイスは、定義されたTCPポートを介して、入力タイプを示すデータを第3のデバイス上で起動するアプリケーションから受信してもよい。代替として、第1のデバイスは、ユーザ入力バックチャネル(UIBC)エクステンションを介して、入力タイプを示すデータを第3のデバイス上で起動するオペレーティングシステムから受信してもよい。第3のデバイスおよび第1のデバイスは、無線接続を経由して通信してもよい。
【図面の簡単な説明】
【0012】
【
図1A】
図1Aは、本発明の例証的実施形態による、協働プラットフォームのブロック図である。
【0013】
【
図1B】
図1Bは、本発明の原理による、種々の通信機構を図示する、
図1Aの協働プラットフォームのブロック図である。
【0014】
【
図2】
図2は、本発明の一側面による、例示的設定における協働プラットフォームの略図である。
【0015】
【
図3A】
図3A-3Dは、それぞれ、例示的ディスプレイ、受信機、モデレータデバイス、およびメンバーデバイスの例示的ハードウェアおよびソフトウェアコンポーネントの概略図である。
【
図3B】
図3A-3Dは、それぞれ、例示的ディスプレイ、受信機、モデレータデバイス、およびメンバーデバイスの例示的ハードウェアおよびソフトウェアコンポーネントの概略図である。
【
図3C】
図3A-3Dは、それぞれ、例示的ディスプレイ、受信機、モデレータデバイス、およびメンバーデバイスの例示的ハードウェアおよびソフトウェアコンポーネントの概略図である。
【
図3D】
図3A-3Dは、それぞれ、例示的ディスプレイ、受信機、モデレータデバイス、およびメンバーデバイスの例示的ハードウェアおよびソフトウェアコンポーネントの概略図である。
【0016】
【
図4A】
図4Aは、本発明の一側面による、協働プラットフォームのブロック図である。
【0017】
【
図4B】
図4Bは、
図4Aに描写される例証的実施形態による、協働プラットフォームを使用するためのシーケンス略図である。
【0018】
【
図5A】
図5Aは、本発明の原理による、協働プラットフォーム上における待ち時間を低減させる例示的ステップを図示する、フローチャートである。
【0019】
【
図5B】
図5Bは、
図5Aのオーバーレイされた画像生成のステップを図示する、フローチャートである。
【0020】
【
図5C】
図5Cは、本発明の原理による、オーバーレイされた画像生成を図示する。
【0021】
【
図6】
図6A-6Eは、本発明の原理による、協働プラットフォーム上における待ち時間を低減させるステップを図示する。
【0022】
【
図7-1】
図7A-7Dは、本発明の原理による、オーバーレイ画像予測生成を図示する。
【
図7-2】
図7A-7Dは、本発明の原理による、オーバーレイ画像予測生成を図示する。
【0023】
【
図8】
図8Aおよび8Bは、本発明の一側面による、ユーザタイプデータ収集を図示する。
【0024】
【
図9A】
図9Aは、本発明の別の側面による、協働プラットフォームの代替実施形態のブロック図である。
【0025】
【
図9B】
図9Bは、
図9Aに描写される例証的実施形態による、協働プラットフォームを使用するためのシーケンス略図である。
【0026】
【
図10A】
図10Aは、本発明のさらに別の側面による、協働プラットフォームの別の代替実施形態のブロック図である。
【0027】
【
図10B】
図10Bは、
図10Aに描写される例証的実施形態による、協働プラットフォームを使用するためのシーケンス略図である。
【0028】
【
図11】
図11は、本発明の原理による、協働プラットフォーム上における待ち時間を低減させる代替の例示的ステップを図示する、フローチャートである。
【0029】
【
図12A】
図12Aは、本発明のさらに別の側面による、協働プラットフォームのさらに別の代替実施形態のブロック図である。
【0030】
【
図12B】
図12Bは、
図12Aに描写される例証的実施形態による、協働プラットフォームを使用するためのシーケンス略図である。
【0031】
本発明の前述および他の特徴は、付随する図面と併せて解釈される、以下の説明および添付の請求項から明白となるであろう。これらの図面が、本開示によるいくつかの実施形態のみを描写し、したがって、その範囲の限定と見なされるものではないことを理解して、本開示は、付随する図面の使用を通して、付加的特異性および詳細を伴って説明されるであろう。
【発明を実施するための形態】
【0032】
本発明の詳細な説明
コンピュータユーザが、そのコンピュータ画面のディスプレイを他者と共有することを所望し得る、多くのインスタンスが存在する。例えば、教室での授業が教室設定において与えられることに関連して、教師は、問題を教室の生徒に表示し、生徒の取組が教室全体に可視となるように、生徒に問題をディスプレイ上で解法させることを所望し得る。例えば、問題は、教師のコンピュータ上のコンピュータファイル内に記憶され、教室の生徒に可視のメインディスプレイ上に表示されてもよい。選択された生徒は、次いで、その作業が教室の生徒に可視となるように、直接、作業をメインディスプレイ上で実施し得る。そのようなインスタンスでは、迅速かつ容易に、生徒の作業をメインディスプレイ上のオリジナル問題にわたって挿入する、オーバーレイ画像を表示することが有利であり得る。当業者によって理解されるであろうように、本明細書に説明される本発明の原理は、教室以外の設定で、例えば、ミーティングまたはプレゼン等の他の協働取組を行うために、WiFiまたはインターネットを介して、キャンパスまたは他の地理的場所を横断して遠隔で、使用されてもよい。
【0033】
本発明は、例えば、教室設定または製品プレゼンミーティングにおいて、資料をリアルタイムで提示しながら、協働プラットフォーム内の待ち時間を低減させることを促進するために使用される、協働プラットフォームを対象とする。例えば、本発明は、ユーザ入力が提供された後ほぼ直ちに、実画像が、協働プラットフォームによって生成されることが可能になる前に、ユーザ入力が、メインディスプレイ上のオリジナル画像上に挿入的にオーバーレイされるように、ユーザが、マーキング等のユーザ入力を表示されているオリジナル画像上に提供することを可能にする。協働プラットフォームは、メインディスプレイと、モデレータデバイスと、1つまたはそれを上回るメンバーデバイスと、ディスプレイ、モデレータデバイス、および1つまたはそれを上回るメンバーデバイスと通信する、受信機とを伴う。モデレータデバイスは、教師/管理者によって使用されてもよく、オリジナルデータファイルを記憶してもよく、オリジナル画像は、生徒が、メインディスプレイを介して、ユーザ入力を提供することによって、オリジナルデータファイルを編集し得るように、オリジナルデータファイルに基づいて、メインディスプレイ上に表示されてもよい。受信機は、オーバーレイ画像生成アプリケーションを起動するように構成され、これは、ディスプレイを介して生徒によって提供される、ユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイされた画像をオリジナル画像にわたって、表示する一方、協働プラットフォームは、メインディスプレイ上での表示のために、ユーザ入力データに基づいて、オリジナルデータファイルを更新する。実データを使用して生成された更新された画像を表示する前に、オーバーレイされた画像を表示することによって、受信機は、協働プラットフォーム内の待ち時間を低減させる。
【0034】
図1Aは、本発明の原理に従って構成される、例証的協働プラットフォームのブロック図である。協働プラットフォーム100は、ディスプレイ105と、受信機120とその中が受信機120がハブとしての役割を果たす、ネットワーク101と、モデレータクライアント、例えば、教師によって使用されるためのモデレータデバイス130と、随意に、1つまたはそれを上回るメンバークライアント、例えば、生徒によって使用されるための1つまたはそれを上回るメンバーデバイス140とを含む。受信機120は、Actiontec Electronics, Inc.(Sunnyvale, Calif)から利用可能なScreen Beam(R)無線ディスプレイキットであってもよい。1つの好ましい実施形態では、受信機120は、Miracast(R)対応かつそれと互換性がある。
図1Aでは、3つのメンバーデバイス140が、描写されるが、当業者が理解するであろうように、3つより少ないまたはより多いメンバーデバイスが、協働プラットフォーム100内で使用されてもよい。
【0035】
図1Aに示されるように、モデレータデバイス130およびメンバーデバイス140は、ネットワーク101を通して無線で、受信機120と相互作用する。
図1Bに示されるように、ネットワーク101は、モデレータデバイス130およびメンバーデバイス140が、WiFiまたはインターネットを経由して、受信機120と相互作用するように、無線通信に基づいてもよい。ネットワーク101は、ローカルピアツーピアネットワーク、例えば、Wi-Fiピアツーピアインターフェースであってもよい。ディスプレイ105は、任意の好適なコンピューティングデバイス、例えば、タッチスクリーンデバイスであって、受信機120から受信された情報を外部システム、ユーザ、またはメモリに提示するための、ならびに、直接、ディスプレイ105のインターフェースを介して、例えば、インターフェース上に内蔵されるタッチセンサを介して、ユーザ入力を収集するための、インターフェースを提供してもよい。代替実施形態では、ディスプレイ105は、複数の個々のディスプレイを備えてもよく、さらに、メンバーデバイス140および/またはモデレータデバイス130のそれぞれと関連付けられる、ディスプレイを構成してもよい。同様に、ユーザが、編集を行うために、直接、そのメンバーデバイス140の画面上で相互作用するとき、メンバーデバイス130は、上記に説明されるように、任意の好適なコンピューティングデバイス、例えば、タッチスクリーンデバイスであってもよい。
【0036】
受信機120は、1つまたはそれを上回る有線接続によって、ディスプレイ105に結合されてもよい。例えば、
図1Bに示されるように、受信機120およびディスプレイ105は、ユーザ入力データを通信するために、ユニバーサルシリアルバス(USB)ケーブルを使用して、接続してもよく、受信機120およびディスプレイ105は、画像を通信するために、高精細マルチメディアインターフェース(HDMI(登録商標))ケーブルを使用して、接続してもよい。代替として、受信機120およびディスプレイ105は、Bluetooth(登録商標)等の無線接続を使用して、接続してもよい。故に、受信機120は、WiFiを介して、オリジナル画像、例えば、静止画像をモデレータデバイス130から受信し、HDMI(登録商標)ケーブルを介して、モデレータデバイス130によって提供されるオリジナル画像をディスプレイ105に伝え、これは、ディスプレイ105上に挿入的に示される。したがって、モデレータデバイス130のローカルディスプレイおよびディスプレイ105は、同一情報(例えば、同一グラフィック、ビデオ、画像、チャート、プレゼン、ドキュメント、プログラム、アプリケーション、ウィンドウ、ビュー等)を表示し得る。加えて、受信機120は、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、ユーザ入力を示すユーザ入力データをディスプレイ105から受信し、処理のために、WiFiディスプレイ105を介して、によって提供されるユーザ入力データをモデレータデバイス130に伝える。
【0037】
モデレータデバイス130は、ディスプレイ105によって提供されるユーザ入力データを処理し、受信されたユーザ入力データに基づいて、そのメモリ内に記憶されるオリジナル画像を修正し、WiFiを介して、受信機120に、最終的には、受信機120を介して、ディスプレイ105への再配布のための画像を生成する。当業者によって理解されるであろうように、データフローの経路、すなわち、USBおよび/またはBluetooth(登録商標)を介したディスプレイ105から受信機120へのユーザ入力データ、WiFiを介した受信機120からモデレータデバイス130へのユーザ入力データ、モデレータデバイス130によるユーザ入力データに基づいた実画像の生成、WiFiを介したモデレータデバイス130から受信機120への実画像、およびHDMI(登録商標)を介した受信機120からディスプレイ105への実画像は、コンテンツ投影システムの待ち時間に起因して、時間遅延に悩まされるであろう。
【0038】
本発明の一側面によると、モデレータデバイス130は、米国特許出願第14/986,468号(その全内容が、参照することによって本明細書に組み込まれる)に説明されるように、メンバーデバイス140をモデレータとして指定してもよい。故に、モデレータデバイス130は、ディスプレイ105上にユーザによって提供されるユーザ入力が、メンバーデバイス140に伝送され、メンバーデバイス140のメモリ内に記憶されるオリジナルファイルを修正するであろうように、メンバーデバイス140の画面をディスプレイ105上で共有することを選んでもよい。
【0039】
本発明の別の側面によると、受信機120は、モデレータデバイス130の中に組み込まれてもよい。例えば、受信機120は、モデレータデバイス130としての役割を果たす、ラップトップの中に組み込まれてもよい。本発明の別の側面によると、受信機120およびディスプレイ105の任意の好適な配列が、採用されてもよい。例えば、受信機120およびディスプレイ105は、別個のコンポーネントである、または単一デバイスに組み合わせられてもよい。
【0040】
図2は、本発明の原理に従って構成される、教室設定において使用するための協働プラットフォーム100の実施形態を描写する。
図2に示されるように、メインディスプレイ105は、教室の生徒に可視であって、生徒が、直接、ユーザ入力を受信機120と通信するディスプレイ105に提供し得るように、入/出力デバイス110、例えば、タッチスクリーンを含む、ように。本発明の別の側面によると、生徒は、直接、受信機120と通信する入/出力デバイス145を介して、ユーザ入力をメンバーデバイス140に提供することができ、これは、次いで、ディスプレイ105上に表示されるであろう。
図2に示されるように、教師のデスクトップコンピュータは、入/出力デバイス135、例えば、タッチスクリーンを有する、モデレータデバイス130として指定される一方、各生徒の机に位置する、無線タブレットは、入/出力デバイス145、例えば、タッチスクリーンを有する、メンバーデバイス140としての役割を果たす。上記に説明されるように、モデレータデバイス130およびメンバーデバイス140は、受信機120と無線で通信する。
【0041】
本発明の別の側面によると、協働プラットフォーム100は、複数の教室および/または他の協働作業環境設定を横断して使用されてもよい。例えば、モデレータデバイス130は、第1のディスプレイと、第1の複数のメンバーデバイスとを有する、第1の教室内にあってもよく、モデレータデバイス130は、例えば、WiFiを介して、第2の教室内の第2のディスプレイおよび第2の複数のメンバーデバイスと通信してもよい。故に、第2の教室内の生徒は、画像への修正が、第1および第2の教室内の第1および第2のディスプレイ上で可視であるように、第2のディスプレイ上に表示される画像を修正し、それによって、第1の教室内のモデレータデバイス130上に記憶されるオリジナルファイルを修正してもよい。
【0042】
ここで
図3A-3Dを参照すると、それぞれ、ディスプレイ105、受信機120、モデレータデバイス130、およびメンバーデバイス140のハードウェアおよびソフトウェアコンポーネントを表す、例示的機能的ブロックが、提供される。ここで
図3Aを参照すると、ディスプレイ105のハードウェアおよびソフトウェアコンポーネントは、処理ユニット106と、メモリ107と、記憶装置111と、通信ユニット108と、電源109と、入/出力(I/O)デバイス110とを含んでもよい。
【0043】
処理ユニット106は、オペレーティングシステム112を起動し、本明細書に記載されるディスプレイ105のタスクおよび動作を実施するように構成される、1つまたはそれを上回るプロセッサであってもよい。メモリ107は、限定ではないが、揮発性(例えば、ランダムアクセスメモリ(RAM))、不揮発性(例えば、読取専用メモリ(ROM))、フラッシュメモリ、またはそれらの任意の組み合わせを含んでもよい。通信ユニット108は、任意の周知の有線または無線接続を経由して通信を促進する、任意の周知の通信インフラストラクチャであってもよい。例えば、通信ユニット108は、情報、例えば、ユーザ入力データを、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、協働プラットフォーム100の受信機120に伝送してもよく、情報、例えば、画像を、HDMI(登録商標)ケーブルを介して、受信機120から受信してもよい。電源109は、バッテリであってもよい、またはディスプレイ105を壁コンセントもしくは任意の他の外部電源に接続してもよい。記憶装置111は、限定ではないが、例えば、磁気ディスク、光ディスク、またはテープ等のリムーバブルおよび/または非リムーバブル記憶装置を含んでもよい。
【0044】
I/Oデバイス110の入力デバイスは、データをディスプレイ105に入力するために、ディスプレイ105に結合される、またはそのの中に組み込まれる、1つまたはそれを上回るデバイスであってもよい。例えば、I/Oデバイス110の入力デバイスは、ユーザ入力をユーザから受信し、ユーザ入力を示す、ユーザ入力データを生成するように構成される、タッチ入力デバイス(例えば、タッチパッドまたはタッチスクリーン)または位置特定センサのアレイであってもよい。加えて、I/Oデバイス110の入力デバイスは、位置特定センサのアレイと相互作用する、スマートスタイレットと連動してもよい。I/Oデバイス110の出力デバイスは、画像を出力する、または別様に表示するために、ディスプレイ105に結合される、またはその中に組み込まれる、任意のデバイスであってもよい。故に、I/Oデバイス110は、画像を受信および表示するためのタッチスクリーンであってもよい。
【0045】
オペレーティングシステム112は、記憶装置111内に記憶され、処理ユニット106上で実行されてもよい。オペレーティングシステム112は、本明細書に説明されるディスプレイ105の機能性を達成するために、ディスプレイ105の一般的動作を制御するために好適であってもよい。ディスプレイ105はまた、随意に、グラフィックライブラリ、他のオペレーティングシステム、および/または任意の他のアプリケーションプログラムを起動してもよい。当然ながら、ディスプレイ105は、
図3Aに図示されるものより付加的またはより少ないコンポーネントを含んでもよく、1つを上回る各タイプのコンポーネントを含んでもよいことを理解されたい。
【0046】
ここで
図3Bを参照すると、受信機120のハードウェアおよびソフトウェアコンポーネントは、処理ユニット121と、メモリ122と、記憶装置126と、通信ユニット123と、電源124と、入/出力(I/O)デバイス125とを含んでもよい。
【0047】
処理ユニット121は、オペレーティングシステム127、協働アプリケーション128、およびオーバーレイ画像生成器アプリケーション129を起動し、本明細書に記載される受信機120のタスクおよび動作を実施するように構成される、1つまたはそれを上回るプロセッサであってもよい。メモリ122は、限定ではないが、揮発性(例えば、ランダムアクセスメモリ(RAM))、不揮発性(例えば、読取専用メモリ(ROM))、フラッシュメモリ、またはそれらの任意の組み合わせを含んでもよい。通信ユニット123は、任意の周知の有線または無線接続を経由して通信を促進する、任意の周知の通信インフラストラクチャであってもよい。例えば、通信ユニット123は、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、情報、例えば、ユーザ入力データをディスプレイ105から、およびWiFiを介して、実画像をモデレータデバイス130から受信してもよく、HDMI(登録商標)ケーブルを介して、情報、例えば、画像をディスプレイ105に伝送してもよい。さらに、通信ユニット123は、ネットワーク101、例えば、WiFiを介して、ユーザ入力データおよび画像の両方をモデレータデバイス130および/またはメンバーデバイス140に通信してもよい。本発明の一側面によると、通信ユニット123は、例えば、定義されたTCPポートまたはUIBCエクステンションを介して、情報、例えば、ユーザ入力の1つまたはそれを上回るユーザタイプを示すデータをモデレータデバイス130から受信してもよい。
【0048】
電源124は、バッテリであってもよい、または受信機120を壁コンセントもしくは任意の他の外部電源に接続してもよい。記憶装置126は、限定ではないが、例えば、磁気ディスク、光ディスク、またはテープ等のリムーバブルおよび/または非リムーバブル記憶装置を含んでもよい。I/Oデバイス125の入力デバイスは、データを受信機120に入力するために、受信機120に結合される、またはその中に組み込まれる、1つまたはそれを上回るデバイスであってもよい。I/Oデバイス110の出力デバイスは、画像を出力または別様に表示するために、受信機120に結合される、またはその中に組み込まれる、任意のデバイスであってもよい。
【0049】
協働アプリケーション128は、記憶装置126内に記憶され、処理ユニット121上で実行されてもよい。協働アプリケーション128は、モデレータデバイス130との情報の交換を促進することを含む、本明細書に記載される受信機120の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。例えば、協働アプリケーション128は、受信機120に、通信ユニット123を介して、例えば、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、ユーザ入力データをディスプレイ105から受信させ、通信ユニット123を介して、例えば、WiFiを介して、ユーザ入力データをモデレータデバイス130に伝えさせてもよい。加えて、協働アプリケーション128はさらに、受信機デバイス130に、通信ユニット123を介して、例えば、WiFiを介して、実画像をモデレータデバイス130から受信させ、例えば、HDMI(登録商標)ケーブルを介して、実画像に基づいてオーバーレイされた画像をディスプレイ105に伝えさせてもよい。本発明の別の側面によると、協働アプリケーション128は、下記にさらに詳細に説明されるように、通信ユニット123、例えば、定義されたTCPポートまたは修正されたユーザ入力バックチャネル(UIBC)を介して、受信機120に、1つまたはそれを上回るユーザタイプを示すデータをモデレータデバイス130から受信させてもよい。
【0050】
オーバーレイ画像生成器アプリケーション129は、記憶装置126内に記憶され、処理ユニット121上で実行されてもよい。オーバーレイ画像生成器アプリケーション129は、ディスプレイ105、モデレータデバイス130、およびメンバーデバイス140との情報の交換を促進することを含む、本明細書に記載される受信機120の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。例えば、オーバーレイ画像生成器アプリケーション129は、受信機120の処理ユニット121に、協働アプリケーション128を介してディスプレイ105から受信されたユーザ入力データを処理および分析させ、ユーザ入力データに基づいて、オーバーレイ画像を生成させ、オーバーレイ画像に基づいて、オーバーレイされた画像を生成させ、表示のために、通信ユニット123を介して、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像をディスプレイ105に伝送させてもよい。加えて、オーバーレイ画像生成器アプリケーション129は、下記にさらに詳細に説明されるように、受信機120に、オーバーレイ画像もまた、ユーザタイプに基づいて生成されるように、協働アプリケーション128を介してディスプレイ105から受信されたユーザ入力データに基づいて、1つまたはそれを上回るユーザタイプを導出させてもよい。
【0051】
代替として、オーバーレイ画像生成器アプリケーション129が、下記にさらに詳細に説明されるように、受信機120に、ディスプレイ105から受信されたユーザ入力データに基づいて、1つまたはそれを上回るユーザタイプを導出する代わりに、通信ユニット123、例えば、定義されたTCPポートを介して、モデレータデバイス130から受信された1つまたはそれを上回るユーザタイプを示すデータに基づいて、オーバーレイ画像を生成させてもよい。本発明の別の実施形態によると、オーバーレイ画像生成器アプリケーション129は、下記にさらに詳細に説明されるように、受信機120に、ディスプレイ105から受信されたユーザ入力データに基づいて、1つまたはそれを上回るユーザタイプを導出する代わりに、通信ユニット123、例えば、修正されたユーザ入力バックチャネル(UIBC)を介して、モデレータデバイス130から受信された1つまたはそれを上回るユーザタイプを示すデータに基づいて、オーバーレイ画像を生成させてもよい。
【0052】
オペレーティングシステム127は、記憶装置126内に記憶され、処理ユニット121上で実行されてもよい。オペレーティングシステム127は、受信機120の一般的動作を制御するために好適であってもよく、本明細書に説明される受信機120の機能性を達成するために、オーバーレイ画像生成器アプリケーション129と連動してもよい。受信機120はまた、随意に、グラフィックライブラリ、他のオペレーティングシステム、および/または任意の他のアプリケーションプログラムを起動してもよい。当然ながら、受信機120は、
図3Bに図示されるものより付加的またはより少ないコンポーネントを含んでもよく、1つを上回る各タイプのコンポーネントを含んでもよいことを理解されたい。
【0053】
ここで
図3Cを参照すると、モデレータデバイス130のハードウェアおよびソフトウェアコンポーネントは、処理ユニット131と、メモリ132と、記憶装置136と、通信ユニット133、電源134と、入/出力(I/O)デバイス135とを含んでもよい。
【0054】
処理ユニット131は、オペレーティングシステム137、協働アプリケーション138、および随意のオーバーレイ画像アプリケーション139を起動し、本明細書に記載されるモデレータデバイス130のタスクおよび動作を実施するように構成される、1つまたはそれを上回るプロセッサであってもよい。メモリ132は、限定ではないが、揮発性(例えば、ランダムアクセスメモリ(RAM))、不揮発性(例えば、読取専用メモリ(ROM))、フラッシュメモリ、またはそれらの任意の組み合わせを含んでもよい。通信ユニット133は、任意の周知の有線または無線接続を経由して通信を促進する、任意の周知の通信インフラストラクチャであってもよい。例えば、通信ユニット133は、WiFiを介して、情報、例えば、ユーザ入力データを受信機120から受信してもよく、WiFiを介して、情報、例えば、画像を受信機120に伝送してもよい。電源134は、バッテリであってもよい、またはモデレータデバイス130を壁コンセントもしくは任意の他の外部電源に接続してもよい。記憶装置136は、限定ではないが、例えば、磁気ディスク、光ディスク、またはテープ等のリムーバブルおよび/または非リムーバブル記憶装置を含んでもよい。
【0055】
I/Oデバイス135の入力デバイスは、データをモデレータデバイス130に入力するために、モデレータデバイス130に結合される、またはその中に組み込まれる、1つまたはそれを上回るデバイスであってもよい。例えば、I/Oデバイス135の入力デバイスは、ユーザ入力をユーザから受信し、ユーザ入力を示す、ユーザ入力データを生成するように構成される、タッチ入力デバイス(例えば、タッチパッドまたはタッチスクリーン)または位置特定センサのアレイであってもよい。加えて、I/Oデバイス135の入力デバイスは、位置特定センサのアレイと相互作用する、スマートスタイレットと連動してもよい。I/Oデバイス135の出力デバイスは、画像を出力または別様に表示するために、モデレータデバイス130に結合される、またはその中に組み込まれる、任意のデバイスであってもよい。故に、I/Oデバイス135は、画像を受信および表示するためのタッチスクリーンであってもよい。
【0056】
協働アプリケーション138は、記憶装置136内に記憶され、処理ユニット131上で実行されてもよい。協働アプリケーション138は、受信機120との情報の交換を促進することを含む、本明細書に記載されるモデレータデバイス130の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。例えば、協働アプリケーション138は、モデレータデバイス130に、ディスプレイ105を介した表示のために、通信ユニット133を介して、例えば、WiFiを介して、記憶装置136上に記憶されるオリジナル画像ファイルからの第1の実画像を受信機120に伝送させてもよい。さらに、協働アプリケーション138は、モデレータデバイス130に、通信ユニット133を介して、例えば、WiFiを介して、ユーザ入力データを受信機120から受信させてもよい。協働アプリケーション138はさらに、処理ユニット131に、受信機120から受信されたユーザ入力データを処理および分析させ、ユーザ入力データに基づいて、実画像を生成することによって、記憶装置136上に記憶されるオリジナル画像ファイルを修正させ、実画像を記憶装置136上に記憶させてもよい。加えて、協働アプリケーション138は、モデレータデバイス130に、ディスプレイ105を介した表示のために、通信ユニット133を介して、例えば、WiFiを介して、実画像、例えば、記憶装置136上に記憶される実画像を受信機120に伝送させてもよい。
【0057】
随意のオーバーレイ画像アプリケーション139は、記憶装置136内に記憶され、処理ユニット131上で実行されてもよい。オーバーレイ画像アプリケーション139は、受信機120との情報の交換を促進することを含む、本明細書に記載されるモデレータデバイス130の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。例えば、オーバーレイ画像アプリケーション139は、モデレータデバイス130の処理ユニット131に、1つまたはそれを上回るユーザタイプを示すユーザタイプデータを協働アプリケーション138を通してモデレータデバイス130によって受信されたユーザ入力データから導出させ、通信ユニット133を介して、例えば、定義されたTCPポートを介して、ユーザタイプデータを受信機120に伝送させてもよい。
【0058】
オペレーティングシステム137は、記憶装置136内に記憶され、処理ユニット131上で実行されてもよい。オペレーティングシステム137は、モデレータデバイス130の一般的動作を制御するために好適であってもよく、本明細書に説明されるモデレータデバイス130の機能性を達成するために、協働アプリケーション138および随意のオーバーレイ画像アプリケーション139と連動してもよい。モデレータデバイス130はまた、随意に、グラフィックライブラリ、他のオペレーティングシステム、および/または任意の他のアプリケーションプログラムを起動してもよい。当然ながら、モデレータデバイス130は、
図3Cに図示されるものより付加的またはより少ないコンポーネントを含んでもよく、1つを上回る各タイプのコンポーネントを含んでもよいことを理解されたい。本発明の一実施形態によると、オペレーティングシステム137は、モデレータデバイス130の処理ユニット131に、通信ユニット133を介して、例えば、修正されたユーザ入力バックチャネル(UIBC)を介して、1つまたはそれを上回るユーザタイプを示すユーザタイプデータを協働アプリケーション138を通してモデレータデバイス130によって受信されたユーザ入力から導出させ、ユーザタイプデータを受信機120に伝送させてもよい。
【0059】
ここで
図3Dを参照すると、1つまたはそれを上回るメンバーデバイス140のハードウェアおよびソフトウェアコンポーネントは、処理ユニット141と、メモリ142と、記憶装置146と、通信ユニット143と、電源144と、入/出力(I/O)デバイス145とを含んでもよい。
【0060】
処理ユニット141は、オペレーティングシステム147、協働アプリケーション148、および随意のオーバーレイ画像アプリケーション149を起動し、本明細書に記載されるメンバーデバイス140のタスクおよび動作を実施するように構成される、1つまたはそれを上回るプロセッサであってもよい。メモリ142は、限定ではないが、揮発性(例えば、ランダムアクセスメモリ(RAM))、不揮発性(例えば、読取専用メモリ(ROM))、フラッシュメモリ、またはそれらの任意の組み合わせを含んでもよい。通信ユニット143は、任意の周知の有線または無線接続を経由して通信を促進する、任意の周知の通信インフラストラクチャであってもよい。例えば、通信ユニット143は、WiFiを介して、情報、例えば、ユーザ入力データを協働プラットフォーム100の受信機120に伝送してもよく、WiFiを介して、情報、例えば、画像を受信機120から受信してもよい。電源144は、バッテリであってもよい、またはメンバーデバイス140を壁コンセントもしくは任意の他の外部電源に接続してもよい。記憶装置146は、限定ではないが、例えば、磁気ディスク、光ディスク、またはテープ等のリムーバブルおよび/または非リムーバブル記憶装置を含んでもよい。
【0061】
I/Oデバイス145の入力デバイスは、データをメンバーデバイス140に入力するために、メンバーデバイス140に結合される、またはその中に組み込まれる、1つまたはそれを上回るデバイスであってもよい。例えば、I/Oデバイス145の入力デバイスは、ユーザ入力をユーザから受信し、ユーザ入力を示す、ユーザ入力データを生成するように構成される、タッチ入力デバイス(例えば、タッチパッドまたはタッチスクリーン)または位置特定センサのアレイであってもよい。加えて、I/Oデバイス145の入力デバイスは、位置特定センサのアレイと相互作用する、スマートスタイレットと連動してもよい。I/Oデバイス145の出力デバイスは、画像を出力または別様に表示するために、メンバーデバイス140に結合される、またはその中に組み込まれる、任意のデバイスであってもよい。故に、I/Oデバイス145は、画像を受信および表示するためのタッチスクリーンであってもよい。
【0062】
協働アプリケーション148は、記憶装置146内に記憶され、処理ユニット141上で実行されてもよい。協働アプリケーション148は、受信機120との情報の交換を促進することを含む、本明細書に記載されるメンバーデバイス140の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。例えば、協働アプリケーション148は、メンバーデバイス140に、モデレータデバイス130へのさらなる伝送のために、通信ユニット143を介して、例えば、WiFiを介して、I/Oデバイス145の入力デバイスを介して受信されたユーザ入力データを受信機120に伝送させてもよい。さらに、協働アプリケーション148は、メンバーデバイス140に、I/Oデバイス145の出力デバイスを介した表示のために、通信ユニット133を介して、例えば、WiFiを介して、画像を受信機120から受信させてもよい。
【0063】
随意のオーバーレイ画像アプリケーション149は、記憶装置146内に記憶され、処理ユニット141上で実行されてもよい。オーバーレイ画像アプリケーション149は、受信機120との情報の交換を促進することを含む、本明細書に記載されるメンバーデバイス140の動作を実施するために好適な1つまたはそれを上回る命令のセットを有する、ソフトウェアアプリケーションおよび/またはソフトウェアモジュールであってもよい。メンバーデバイス140が、上記に説明されるように、モデレータデバイス130によって、モデレータと標識されると、オーバーレイ画像アプリケーション149は、オーバーレイ画像アプリケーション139と同様に動作してもよい。
【0064】
オペレーティングシステム147は、記憶装置146内に記憶され、処理ユニット141上で実行されてもよい。オペレーティングシステム147は、メンバーデバイス140の一般的動作を制御するために好適であってもよく、本明細書に説明されるメンバーデバイス140の機能性を達成するために、協働アプリケーション148および随意のオーバーレイ画像アプリケーション149と連動してもよい。メンバーデバイス140はまた、随意に、グラフィックライブラリ、他のオペレーティングシステム、および/または任意の他のアプリケーションプログラムを起動してもよい。当然ながら、メンバーデバイス140は、
図3Dに図示されるものより付加的またはより少ないコンポーネントを含んでもよく、1つを上回る各タイプのコンポーネントを含んでもよいことを理解されたい。
【0065】
ここで
図4Aを参照すると、協働プラットフォーム100本発明の原理による、の例示的実施形態のブロック図が、提供される。
図4Aに示されるように、ユーザ入力データは、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105から受信機120に伝送されてもよい。加えて、ユーザ入力データおよび実画像は、無線接続、例えば、WiFiを横断して、受信機120とモデレータデバイス130との間で通信されてもよい。さらに、実画像およびオーバーレイ画像に基づいてオーバーレイされた画像は、有線接続、例えば、HDMI(登録商標)ケーブルを介して、受信機120からディスプレイ105に伝送されてもよい。
【0066】
ここで
図4Bを参照すると、
図4Aに描写される協働プラットフォーム100を使用するためのシーケンス略図が、提供される。上記に説明されるように、協働プラットフォーム100は、モデレータデバイス130上に記憶されるオリジナル画像ファイルに基づいて、第1の実画像を表示し、ユーザ入力を受信し、ユーザ入力に基づいて、モデレータデバイス130上に記憶されるオリジナル画像ファイルを修正し、修正されたオリジナル画像に基づいて、第2の実画像を表示するために、協働アプリケーション、例えば、Microsoft(Redmond, WA)から利用可能なMicrosoft WhiteboardまたはGoogle LLC(Mountain View, Calif.)から利用可能なGoogle Drive等の第三者アプリケーションを起動してもよい。具体的には、
図4Bに示されるように、ユーザは、ユーザ入力を、直接、ディスプレイ105、例えば、タッチスクリーンに提供してもよい。第1の実画像は、ディスプレイ105上にすでに表示されている、例えば、モデレータデバイス130上に記憶されるオリジナル画像ファイルからの数学問題であってもよい、またはディスプレイ105は、最初に、モデレータデバイス130上に記憶されるオリジナル画像ファイルがブランクである場合、ブランクであってもよい。ユーザ入力は、例えば、数字「3」を赤色で形成する、ディスプレイ105のタッチスクリーンとの相互作用のパターン(例えば、クリックおよびドラッグ)であってもよい。数字「3」を形成する形状は、ユーザ入力の実施例であって、赤色は、ユーザ入力のユーザタイプの実施例である。他の可能性として考えられるユーザタイプは、例えば、異なる色(例えば、灰色、黒色、赤色、青色等)、太さレベル(例えば、細線、中線、太線)、またはマーカもしくは消しゴムタイプ等を含んでもよい。
【0067】
ディスプレイ105によって受信されたユーザ入力に基づくユーザ入力データは、次いで、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、受信機120に伝送され、これは、次いで、無線接続、例えば、WiFiを介して、ユーザ入力データをモデレータデバイス130に伝える。協働アプリケーションを起動すると、モデレータデバイス130は、ユーザ入力データに基づいて、その中のメモリ内に記憶されるオリジナル画像ファイルを修正し、実画像に対応する、実画像ファイルを生成する、例えば、赤色「3」は、数学問題上に重畳される。典型的には、実画像は、次いで、無線接続、例えば、WiFiを介して、受信機120に伝送され、これは、次いで、表示されるために、有線接続、例えば、HDMI(登録商標)ケーブルを介して、実画像をディスプレイ105に伝える。故に、ユーザがユーザ入力をディスプレイ105に提供する時間と、実画像がディスプレイ105に到達するとき、すなわち、赤色「3」が、ディスプレイ105上に現れ始めるときとの間には、望ましくない遅延が存在する。当業者によって理解されるであろうように、協働プラットフォームは、例えば、実画像を生成する前に、数字「3」全体が描出されるまで待機せず、代わりに、本プロセスは、ユーザが数字「3」を描出するにつれて、持続的に生じる。
【0068】
本発明の原理によると、協働プラットフォーム100は、受信機120によって、ユーザによって提供されるユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイ画像およびモデレータデバイス130によって受信された実画像に基づいて、オーバーレイされた画像を生成し、オーバーレイされた画像をディスプレイ105上のオリジナル画像上に表示し、協働プラットフォーム100の待ち時間を低減させるために、オーバーレイ画像生成器アプリケーションを起動してもよい。
【0069】
具体的には、
図4Aおよび4Bに示されるように、受信機120は、ユーザ入力データに基づいて、オーバーレイ画像を生成し、オーバーレイ画像およびモデレータデバイス130から受信された実画像に基づいて、オーバーレイされた画像を生成し、ディスプレイ105上に表示されるオリジナル画像にわたって表示されるために、有線接続、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像をディスプレイ105に伝送し、それによって、協働プラットフォーム100の待ち時間を低減させてもよい。加えて、受信機120は、
図7Aおよび7Bに関して下記にさらに詳細に説明されるように、例えば、機械学習、人工知能、またはニューラルネットワークを使用して、ユーザタイプを示すデータをディスプレイ105から受信されたユーザ入力データから導出することによって、ユーザ入力のユーザタイプを決定してもよい。故に、受信機120は、ユーザタイプを決定するにつれて、ユーザ入力データおよびユーザタイプの両方に基づいて、オーバーレイ画像を生成してもよい。
【0070】
ここで
図5Aを参照すると、協働プラットフォーム100の受信機120のオーバーレイされた画像生成機能性を実装する際に行われるデータフローおよび決定を詳述する、フローチャートが、図示される。上記に述べられたように、協働プラットフォーム100の受信機120は、ユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイされた画像が表示されるように、オーバーレイ画像およびモデレータデバイス130から受信された実画像に基づいて、オーバーレイされた画像を生成し、それによって、協働プラットフォーム100の待ち時間を低減させるために使用されてもよい。
【0071】
図5Aに記載されるプロセスを開始するために、ステップ500では、オリジナル画像が、受信機120によって受信される。例えば、オリジナル画像は、モデレータデバイス130から受信されてもよく、例えば、ブランク画面、数学問題、写真等を含んでもよい。ステップ501では、受信機120は、モデレータデバイス130から受信されたオリジナル画像を現在の画像として設定する。これは、オリジナル画像をデコーディングし、および/またはオリジナル画像をバッファ内に設置するステップを伴ってもよい。ステップ502では、ユーザ入力を示すユーザ入力データが、受信機120によって、例えば、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105から受信されてもよい。好ましくは、ユーザ入力のユーザタイプは、随意に、ステップ504-506に関して説明されるように、ユーザによって変更されるまで、事前にプログラムされたデフォルト設定、例えば、デフォルト色(灰色)、デフォルト太さ(中線)、およびデフォルトマーカユーザタイプに設定されてもよい。受信機120が、ステップ502において、ユーザ入力データをディスプレイ105から受信する場合、プロセスは、ステップ503に進み得る。受信機120が、ステップ502において、ユーザ入力データをディスプレイ105から受信しない場合、プロセスは、直接、下記にさらに詳細に説明される、ステップ508に進み得る。
【0072】
ステップ503では、受信機120は、協働アプリケーションを起動して、さらなる処理および分析のために、ユーザ入力データを、オリジナル画像の源、例えば、モデレータデバイス130に伝送する。上記に説明されるように、モデレータデバイス130は、受信機120から受信されたユーザ入力データに基づいて、実画像を生成する。加えて、受信機120は、オーバーレイ画像生成アプリケーションを起動して、即座の表示のために、ユーザ入力データに基づいて、オーバーレイ画像を生成する。
【0073】
随意に、ステップ504では、受信機120は、ステップ502においてディスプレイ105から受信されたユーザ入力データを分析し、少なくとも1つのユーザタイプが変化したかどうかを決定する。例えば、受信機120は、ディスプレイ105上のユーザ入力の空間場所ならびに種々の時点におけるディスプレイ105との物理的接触を比較し、例えば、機械学習、人工知能、またはニューラルネットワークを使用して、ユーザが異なるユーザタイプを選択したかどうかを決定してもよい。受信機120が、異なるユーザタイプが選択されていない、例えば、ユーザが、異なるユーザタイプアイコンをクリックしていないことを決定する場合、ステップ505では、受信機120は、前のユーザタイプ、例えば、灰色を使用し続けるであろう。受信機120が、ユーザ入力の空間場所と、ユーザが、ディスプレイ105との接触を中断し、ディスプレイ105上のその具体的空間場所において、ディスプレイ105に再接触したという事実とに基づいて、異なるユーザタイプが選択された、例えば、ユーザが赤色を選択したことを決定する場合、ステップ506では、受信機120は、新しいユーザタイプ、例えば、赤色を選択する。
【0074】
ステップ507では、受信機120は、
図5Bに関してさらに詳細に説明されるように、ステップ502において受信されたユーザ入力データ、ならびにユーザタイプがステップ505または506において選択された場合、ステップ505または506において選択されたユーザタイプに基づいて、オーバーレイ画像の前端を生成する。好ましくは、オーバーレイ画像は、ユーザ入力データと、デフォルトユーザタイプ、例えば、デフォルト色および/またはデフォルト線太さとに基づいて、生成されてもよく、したがって、ステップ507は、ステップ504-506を伴わずに、ステップ503後に開始されてもよい。生成されたオーバーレイ画像は、ユーザによって提供されるユーザの実際の入力を表し、さらに、ユーザの実際の入力に基づいて予測されるユーザ入力を含んでもよい。
【0075】
例えば、
図5Bに示されるように、ユーザ入力データ、随意に、ユーザタイプに基づいて、オーバーレイ画像を生成するために、ステップ511では、受信機120は、全体的オーバーレイ画像の第1の部分を生成し、これは、例えば、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、受信機120によってディスプレイ105から受信されたユーザの実際の入力を表す。故に、オーバーレイ画像の第1の部分は、オーバーレイされた画像としてディスプレイ105上に表示されると、ユーザが実際にディスプレイ105上に入力したものを挿入するであろう。ステップ512では、受信機120は、全体的オーバーレイ画像の第2の延在部分を生成し、これは、例えば、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、受信機120によってディスプレイ105から受信されたユーザ入力データに基づく、ユーザの意図される入力の予測であってもよい。例えば、例えば、外挿、機械学習、人工知能、および/またはニューラルネットワークを使用して、受信機120は、下記にさらに詳細に説明されるように、ユーザ入力データからのユーザの入力の空間座標および/または時間座標を分析し、ユーザの意図される入力、例えば、ユーザの次の入力となるであろうものを予測してもよい。ステップ513では、受信機120は、オーバーレイ画像が、ユーザが実際にディスプレイ105上に入力したものと、ユーザがディスプレイ105上に入力すると予測されるものとを含むであろうように、オーバーレイ画像の第1の部分および第2の延在部分に基づいて、オーバーレイ画像を生成する。
【0076】
再び
図5Aを参照すると、ステップ508では、受信機120は、受信機120がオーバーレイ画像の前端を生成するにつれて、オーバーレイ画像の後端の一部を除去してもよい。例えば、ディスプレイ105上に表示されるオーバーレイされた画像のオーバーレイ画像の一部は、所与の時間にディスプレイ105上に表示されるオーバーレイされた画像のオーバーレイ画像の時間の関数として、または空間量の関数として、除去されてもよい。例えば、ディスプレイ105上に表示されるオーバーレイされた画像のオーバーレイ画像の各空間座標は、所定の時間量にわたって、例えば、100~300ミリ秒またはそれを上回って、表示されたままであり得る。故に、ディスプレイ105上のオーバーレイされた画像のオーバーレイ画像を構成する、各空間座標は、同一時間量にわたって、ディスプレイ105上に留まってもよく、その時間が経過後、除去されてもよい。オーバーレイ画像の各空間座標は、最初に、オーバーレイされた画像のオーバーレイ画像の前端において、ディスプレイ105上に表示され、時間が経過し、付加的空間座標が表示されるにつれて、初期前縁空間座標は、それが除去される前に、例えば、所定の時間量が経過した後、オーバーレイされた画像のオーバーレイ画像の後端で終端する。例えば、各空間座標が表示され得る、所定の時間量は、少なくとも、実画像が、ディスプレイ105によって受信され、その上に現れるための待ち期間と同じ長さであり得る。故に、所定の期間にわたってディスプレイ105上に表示される空間座標の所与の量にわたって、例えば、同一量の空間座標が、同一所定の期間内に、ディスプレイ105から除去されるであろう。
【0077】
本発明の別の側面によると、ディスプレイ105上に表示されるオーバーレイされた画像のオーバーレイ画像の一部は、所与の時間量にわたって、最大空間分布、例えば、オーバーレイされた画像のオーバーレイ画像の前端と後端との間の長さおよび/または空間座標の量を有してもよい。したがって、オーバーレイされた画像のオーバーレイ画像の空間座標が、最初に、ディスプレイ105上に表示された後に、所定の量の付加的空間座標が、初期空間座標が、ここで、オーバーレイされた画像のオーバーレイ画像の後端にあるように、表示された後、オーバーレイされた画像のオーバーレイ画像の初期空間座標は、ディスプレイ105上に表示される付加的空間座標の量が、ディスプレイ105上で可能にされる所定の最大量の空間座標を超えるとき、ディスプレイ105から除去されるであろう。
【0078】
故に、受信機120が、ステップ502において、ユーザ入力データをディスプレイ105から受信しない場合、ステップ508では、付加的前端は、例えば、ユーザが、そのスタイレット/指をディスプレイ105から除去すると、例えば、ディスプレイ105上に表示されるオーバーレイされた画像のオーバーレイ画像が、現在の画像によって完全に置換される、またはステップ502において、付加的ユーザ入力が、受信機120によってディスプレイ105から受信されるまで、付加的ユーザ入力が、ディスプレイ105に提供されない一方、オーバーレイ画像の後端の一部が、徐々に、オーバーレイ画像の後端から除去され、モデレータデバイス130から受信された現在の実画像と置換されるように、オーバーレイ画像に追加されないであろう。
【0079】
ステップ509では、受信機120は、ステップ507において生成されたオーバーレイ画像およびステップ501における現在の画像セットに基づいて、オーバーレイされた画像を生成する。したがって、生成されたオーバーレイされた画像は、ユーザによって提供されるユーザの実際の入力を表し、さらに、現在の画像上に重畳される、ユーザの実際の入力に基づいて予測されるユーザ入力を含んでもよい。例えば、オーバーレイ画像は、下記の
図5Cに関して説明されるように、実画像上に重畳され、オーバーレイされた画像を形成してもよく、これは、次いで、受信機120によってディスプレイ105に送信されてもよい。故に、協働プラットフォーム100の待ち時間は、オーバーレイされた画像の予測される部分が、見掛け上、ユーザの入力と同様に表示されるため、ディスプレイ105上で知覚されない。さらに、現在の画像は、受信機120が付加的画像(例えば、実画像)をモデレータデバイス130から受信するにつれて、周期的に、更新されてもよい。例えば、受信された付加的画像は、デコーディングされ、および/またはバッファに追加されてもよく、現在の画像になってもよい。このように、受信機120によって生成されたオーバーレイされた画像は、更新された現在の画像上に重畳されてもよい。
【0080】
図5Cに示されるように、オーバーレイ画像は、実画像上に重畳され、オーバーレイされた画像を形成してもよい。例えば、実画像は、受信機120によってディスプレイ105から受信されたユーザ入力に対応する、ユーザ入力データに基づいてモデレータデバイス130によって生成された、線515を含んでもよい。線515は、ユーザが実際にディスプレイ105上に描出したものを表すが、その大部分がユーザ入力データに基づいてモデレータデバイス130によって生成されたもののみを含む。例えば、リアルタイムにおけるユーザの実際の入力は、スタイレット700によって示されるように、ディスプレイ105上の別の点にあり得る。上記に説明されるように、受信機120によって生成されたオーバーレイ画像は、受信機120によって受信されたユーザの実際の入力を表す、第1の部分516と、受信機120によって受信されたユーザ入力データに基づくユーザの意図される入力の予測であり得る、第2の延在部分517とを含む。さらに、オーバーレイ画像、例えば、線516および517は、実画像、例えば、線515上に重畳され、オーバーレイされた画像、例えば、線515、516、および517を形成してもよい。下記にさらに詳細に説明されるように、オーバーレイ画像の一部は、例えば、時間の関数として、除去されてもよく、したがって、実画像が、延在する、例えば、「3」が描出されるにつれて、線515は、より長くなる一方、オーバーレイ画像の線516および517は、
図5Cに示されるように、オーバーレイされた画像の線515の延在する前端に向かってのみ表示されてもよい。さらに、オーバーレイ画像がさらに、生成され得るにつれて、ユーザの入力の速さに基づいて、オーバーレイ画像、例えば、線516および517は、ユーザ入力がディスプレイ105によってより高速で受信されるとき、より長い線として、ユーザ入力がディスプレイ105によってより低速で受信されるとき、より短い線として、表示されてもよい。
【0081】
再び
図5Aを参照すると、ステップ510では、受信機120は、オーバーレイされた画像、例えば、現在の画像上に重畳される、オーバーレイされた画像の第1部分および第2の延在部分を、ディスプレイ105に伝送し、それによって、協働プラットフォーム100の待ち時間を低減および/または排除する。さらに、ディスプレイ105からの付加的ユーザ入力データに対応する付加的実画像が、受信機120によってモデレータデバイス130から受信され、付加的現在の画像として設定されてもよく、付加的オーバーレイされた画像は、受信機120によって、これらの付加的ユーザ入力データによって作成されたオーバーレイ画像に基づいて生成され、付加的現在の画像上に重畳されてもよい。
【0082】
ここで
図6A-6Eを参照すると、ユーザによって提供されるユーザ入力が、実画像の待ち時間を例証するために、受信機120によって生成されたオーバーレイされた画像の表示と併せて図示される。
図6Aに示されるように、ディスプレイ105、例えば、タッチスクリーン上に表示される、オリジナル画像は、ブランクであってもよく、ユーザは、スタイレット700を使用して、点605において、スタイレット700をディスプレイ105に対して押下することによって、ディスプレイ105と相互作用してもよい。
図6Bに示されるように、ユーザは、スタイレット700を、点605から点606まで、ディスプレイ105上でドラッグする。ユーザによるスタイレット700のドラッグ運動、すなわち、ユーザ入力は、ディスプレイ105によって、ユーザ入力データに変換され、受信機120に伝送されることができ、これは、次いで、上記に説明されるように、ユーザ入力データをモデレータデバイス130に伝送し、オリジナル画像を修正し、ユーザ入力データに基づいて、実画像を生成する。オーバーレイされた画像が、次いで、受信機120によって、ユーザ入力データ(随意に、ユーザタイプ)およびモデレータデバイス130から受信された実画像に基づいて生成され、ディスプレイ105に伝送され、表示される。上記に説明されるように、オーバーレイされた画像は、実画像上に重畳されるオーバーレイ画像によって形成されてもよい一方、オーバーレイ画像は、ディスプレイ105によって受信されたユーザの実際の入力を表す、第1の部分と、ディスプレイ105によって受信されたユーザ入力データに基づくユーザの意図される入力の予測であり得る、第2の延在部分とを含む。
図6Bに示されるように、実画像は、依然として、ブランクオリジナル画像であって、したがって、オーバーレイされた画像は、オーバーレイされた画像のオーバーレイ画像701のみを含むように現れる。故に、待ち時間は、オーバーレイされた画像が、ユーザが、スタイレット700を、点605から606にドラッグした後ほぼ直ちに表示され、したがって、ディスプレイ105を見ているユーザまたは他の観察者によって気づかれることが殆どないため、協働プラットフォーム100上で低減される。
【0083】
協働プラットフォーム100の協働アプリケーションの待ち時間は、
図6Cに図示される。
図6Cに示されるように、ユーザは、スタイレット700を点606から点607までドラッグし続ける。一方、ユーザ入力は、ディスプレイ105によって、ユーザ入力データに持続的に変換され、受信機120に伝送されることができ、これは、次いで、処理のために、無線接続、例えば、WiFiを介して、モデレータデバイス130に持続的に伝送される。上記に説明されるように、モデレータデバイス130は、そのユーザ入力データに基づいて、メモリ内に記憶されるオリジナル画像を修正し、ユーザ入力、例えば、ユーザによるディスプレイ105上のスタイレット700のドラッグ運動を表す、実画像を生成する。
図6Cに示されるように、スタイレット700が、点607にあるとき、モデレータデバイス130は、点605から点606へのスタイレット700のユーザのドラッグ運動を表す、処理されたユーザ入力データのみを有し、故に、ユーザの入力を表す、実画像、例えば、実画像702を生成する。モデレータデバイス130によって生成された実画像は、次いで、受信機120に伝送される。上記に説明されるように、受信機120は、オーバーレイされた画像を生成し、これは、例えば、ディスプレイ105によって受信されたユーザの実際の入力を表す、第1の部分と、実画像702上に重畳されるユーザの意図される入力を表す、予測される第2の延在部分とを含む、オーバーレイ画像701である。オーバーレイされた画像は、次いで、表示されるために、有線接続、例えば、HDMI(登録商標)ケーブルを介して、ディスプレイ105に伝送される。
【0084】
協働アプリケーションのデータフローは、ユーザ入力データが、有線接続を介して、ディスプレイ105から受信機120に、無線接続を介して、受信機120からモデレータデバイス130に伝送され、実画像が、無線接続を介して、モデレータデバイス130から受信機120に、最終的には、有線接続を介して、受信機120からディスプレイ105に伝送されることを要求するため、望ましくない協働プラットフォーム100の待ち時間が、観察される。これは、オーバーレイ画像701からの遅延とともに表示されている、実画像702として、
図6Cに図示される。
図6Cにおける例証的実施例として、スタイレット700が、点607にあるとき、オーバーレイ画像701は、点605から真隣607までのマークとして現れる一方、実画像702は、点606までのみ到着している。
【0085】
さらに、
図6Dに示されるように、スタイレット700が、点608にある時、オーバーレイ画像701は、点605から真隣608までのマークとして現れる一方、実画像702は、点607までのみ到着している。
図6Eは、オーバーレイ画像701および実画像702が点605から点608まで延在するように、協働プラットフォーム100の待ち時間後のある時間後のディスプレイ105を図示する。
【0086】
加えて、受信機120は、生成されたオーバーレイ画像がまた、1つまたはそれを上回るユーザタイプに基づくように、1つまたはそれを上回るユーザタイプを示す、情報を導出および/または受信してもよい。例えば、ユーザは、1つまたはそれを上回るユーザタイプ、例えば、太さ、色、またはマーカもしくは消しゴムタイプを選択し、選択されたユーザタイプに従って、ユーザ入力を提供してもよい。故に、ユーザが、例えば、数字「3」を赤色でディスプレイ105上に描出し始めるにつれて、オーバーレイ画像は、赤色における数字「3」のオーバーレイされた画像が、低減された待ち時間を伴って、ディスプレイ105上に表示され始めるであろうように、受信機120によって生成され、オーバーレイされた画像として、ディスプレイ105に伝送されるであろう。
【0087】
ここで
図7A-7Dを参照すると、ユーザによって提供されるユーザ入力が、オーバーレイされた画像が、実画像上に重畳される、受信機120によって生成された予測されるユーザ入力に加え、ユーザの実際の入力を含むように、受信機120によって生成されたオーバーレイされた画像のディスプレイと併せて図示される。
図7Aに示されるように、ユーザは、スタイレット700を使用して、点705(5,6)において、スタイレット700をディスプレイ105に対して押下し、スタイレット700を、点705(5,6)から、点706(5,7)、点707(5,8)、点708(5,9)、点709(5,10)まで、ディスプレイ105上でドラッグすることによって、ディスプレイ105と相互作用してもよい。故に、ユーザの実際の入力は、
図7Aに示されるように、線703として描写される。スユーザによるタイレット700のドラッグ運動、すなわち、ユーザ入力は、上記に説明されるように、ディスプレイ105によって、ユーザ入力データに変換され、受信機120に伝送されることができる。したがって、ユーザ入力データは、ユーザの実際の入力、例えば、空間座標(5,6)、(5,7)、(5,8)、(5,9)、および(5,10)を含む。オーバーレイ画像は、次いで、受信機120によって、ユーザ入力データ(随意に、ユーザタイプ)に基づいて生成され、オーバーレイされた画像として表示されるために、ディスプレイ105に伝送される。上記に説明されるように、オーバーレイ画像は、
図7Bに示されるように、ユーザの実際の入力、例えば、線703、ならびに予測されるユーザ入力、例えば、受信機120によって生成された線704を含む。例えば、線704は、受信機120によって、ユーザ入力データの空間座標(5,6)、(5,7)、(5,8)、(5,9)、および(5,10)に基づいて、外挿、例えば、線形外挿、多項式外挿、円錐外挿、フレンチ曲線外挿、および/または任意の他の周知の外挿技法、機械学習、人工知能、またはニューラルネットワークを使用して、予測されてもよい。空間座標(5,6)、(5,7)、(5,8)、(5,9)、および(5,10)に基づいて、受信機120は、ユーザの次の入力が、スタイレット700を、点709(5,10)から、点710(5,11)、点711(5,12)、点712(5,13)、点713(5,14)までドラッグし続けることであろうと予測する。
【0088】
加えて、線704は、受信機120によって、ユーザ入力データの時間座標に基づいて、外挿、機械学習、人工知能、またはニューラルネットワークを使用して、予測されてもよい。例えば、受信機120によって受信されたユーザ入力データは、点705が、スタイレット700によって、T1において、点706が、T2において、点707が、T3によって、点708が、T4によって、および点709が、T5によってタッチされたことを示す、データを含んでもよく、受信機120は、T1-T5に基づいて、スタイレット700の速度を決定してもよい。したがって、受信機120は、T6-T9間の速度がT1-T5の速度と対応するように、点710が、スタイレット700によって、T6において、点711が、T7において、点712が、T8において、および点713が、T9において、タッチされるであろうことを予測するであろう。故に、線704の点710-713が、線704の点710、711、712、および713が、ユーザが、リアルタイムで、スタイレット700を、点710、711、712、および713にドラッグするのと同時に、ディスプレイ105上に現れるであろうように、T1-T5に基づく速度に対応する速度を伴って、ディスプレイ105上に表示され、それによって、協働プラットフォーム100上の任意の待ち時間を排除するであろう。加えて、受信機120は、T6-T9間の加速がT1-T5の加速と対応するように、T1-T5に基づいて、スタイレット700の加速を決定してもよい。故に、線704の点710-713は、ユーザが、スタイレット700を、リアルタイムで、点710、711、712、および713にドラッグするのと同時に、線704の点710、711、712、および713が、ディスプレイ105上に現れるであろうように、T1-T5に基づく加速に対応する修正された速度を伴って、ディスプレイ105上に表示され、それによって、協働プラットフォーム100上の任意の待ち時間を排除するであろう。
【0089】
外挿、機械学習、人工知能、またはニューラルネットワークを使用して、受信機120は、曲線を形成する有限線分を予測し、かつ各有限線分の角度および隣接する線分間の角度の変化を予測することによって、複雑な湾曲線を予測してもよい。例えば、受信機120は、ユーザの実際の入力の第1の線分の第1の角度を検出し、ユーザの実際の入力の第2の線分の第2の角度を検出し、第1の角度と第2の角度との間の角度の変化を決定してもよい。第1の角度、第2の角度、およびユーザの実際の入力の角度の変化に基づいて、受信機120は、ユ有限線分のーザの次の入力の曲線を予測してもよい。例えば、受信機120が、ユーザの実際の入力が、各隣接する線分間の角度の既知の変化を伴う、曲線を形成する、有限線分のシーケンスであることを検出する場合、受信機120は、同一曲率を伴う、予測される延在部分を有する、オーバーレイ画像を生成するであろう。さらに、受信機120は、ユーザの実際の入力の隣接する有限線分間の角度の変化の変化率を検出し、隣接する有限線分間の角度の変化の検出された変化率に基づいて、ユーザの次の入力を予測してもよい。
【0090】
図7Cに示されるように、ユーザは、スタイレット700を使用して、点716(2,5)において、スタイレット700をディスプレイ105に対して押下し、スタイレット700を、点716(2,5)から、点717(5,6)、点718(8,8)まで、ディスプレイ105上でドラッグすることによって、ディスプレイ105と相互作用してもよい。故に、ユーザの実際の入力は、
図7Cに示されるように、線714として描写される。ユーザによるスタイレット700のドラッグ運動、すなわち、ユーザ入力は、上記に説明されるように、ディスプレイ105によって、ユーザ入力データに変換され、受信機120に伝送されることができる。したがって、ユーザ入力データは、ユーザの実際の入力、例えば、第1の角度を有する、空間座標(2,5)から空間座標(5,6)までの第1の線分と、空間座標(5,6)から空間座標(8,8)までの第2の線分とを含む。オーバーレイ画像が、次いで、受信機120によって、ユーザ入力データ(随意に、ユーザタイプ)に基づいて、生成され、ディスプレイ105に伝送され、オーバーレイされた画像として表示される。上記に説明されるように、オーバーレイ画像は、
図7Dに示されるように、ユーザの実際の入力、例えば、線714、ならびに受信機120によって生成された予測されるユーザ入力、例えば、線715を含む。例えば、線715は、受信機120によって、ユーザ入力データの空間座標(2,5)、(5,6)、および(8,8)に基づいて、外挿、機械学習、人工知能、またはニューラルネットワークを使用して、予測されてもよい。空間座標(2,5)から空間座標(5,6)までの第1の線分の第1の角度と、空間座標(5,6)から空間座標(8,8)までの第2の線分の第2の角度とに基づいて、受信機120は、ユーザの次の入力が、スタイレット700を、点718(8,8)から、点719(11,11)、点720(14,15)までドラッグし続けるであろうと予測する。点718から点719および点719から点720までの線分の角度は、点716から点717までの線分の第1の角度と点717から点718までの線分の第2の角度との間の変化率と対応するであろう。
【0091】
上記に説明されるように、線715はまた、受信機120によって、ユーザ入力データの時間座標に基づいて、外挿、機械学習、人工知能、またはニューラルネットワークを使用して、予測されてもよい。例えば、受信機120によって受信されたユーザ入力データは、点716が、スタイレット700によって、T1において、点717が、T2において、および点718が、T3においてタッチされたことを示す、データを含んでもよく、受信機120は、T1-T3に基づいて、スタイレット700の速度を決定してもよい。したがって、受信機120は、T3-T5間の速度がT1-T3の速度と対応するように、点719が、スタイレット700によって、T4において、および点720が、T5においてタッチされるであることを予測するであろう。故に、線715の点719および720は、ユーザが、リアルタイムで、スタイレット700を、点719から、720にドラッグするのと同時に、線715の点719および720が、ディスプレイ105上に現れるであろうように、T1-T3に基づく速度に対応する速度を伴って、ディスプレイ105上に表示され、それによって、協働プラットフォーム100上の任意の待ち時間を排除するであろう。加えて、受信機120は、T3-T5間の加速がT1-T3の加速と対応するように、T1-T3に基づいて、スタイレット700の加速を決定してもよい。故に、線715の点719および720は、ユーザが、リアルタイムで、スタイレット700を、点719から720にドラッグするのと同時に、線715の点719および720が、ディスプレイ105上に現れるであろうように、T1-T3に基づく加速に対応する、修正された速度を伴って、ディスプレイ105上に表示され、それによって、協働プラットフォーム100上の任意の待ち時間を排除するであろう。
【0092】
ここで
図8Aおよび8Bを参照すると、本発明の一側面による、ユーザタイプデータを収集する例示的方法が、提供される。
図8Aは、第1の時間におけるディスプレイ105のスクリーンショットであって、
図8Bは、第2の時間におけるディスプレイ105のスクリーンショットである。
図8Aおよび8Bに示されるように、ディスプレイ105上に表示されるインターフェースは、限定ではないが、マーカアイコン601、太さアイコン602、消しゴムアイコン603、および色アイコン604を含む、選択可能ユーザタイプを表す、画面の上部のリボン内にユーザフレンドリーアイコンを含んでもよい。例えば、太さアイコン602をクリックすることに応じて、ドロップダウンメニューが、「細線」、「中線」、および「太線」等の太さレベル間で選択するための付加的サブアイコンとともに現れてもよい。さらに、例えば、色アイコン604をクリックすることに応じて、ドロップダウンメニューが、「灰色」、「黒色」、「青色」、「黄色」等の異なる色間で選択するための付加的サブアイコンとともに現れてもよい。好ましくは、ユーザ入力のユーザタイプは、続いて、ユーザによって変更されるまで、事前にプログラムされたデフォルト設定、例えば、デフォルト色(灰色)、デフォルト太さ(中線)、およびデフォルトマーカユーザタイプに設定されてもよい。
【0093】
上記に説明されるように、受信機120は、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ユーザ入力データをディスプレイ105から受信し、ユーザ入力データから、ユーザ入力の1つまたはそれを上回るユーザタイプを決定してもよい。例えば、例えば、機械学習、人工知能、および/またはニューラルネットワークを使用して、受信機120は、ユーザ入力データを分析および/または処理し、ユーザタイプを決定してもよい。機械学習、人工知能、および/またはニューラルネットワークを使用して、受信機120は、ディスプレイ105に関するユーザの移動のパターン、および/またはユーザのアクション、例えば、続いて描出されるマークのタイプを観察することに基づいて、ユーザタイプを決定してもよい。
【0094】
図8Aを参照すると、ユーザは、例えば、ディスプレイ105に接触し、ディスプレイ105との接触を断続せずに、点605から、点606、点607まで移動させることによって、点605から、点606、点607まで延在する線を描出した。
図8Aに示されるように、マーカアイコン601が、例えば、マーカアイコン601に対応する、ディスプレイ105上の点の周界内の任意の点に接触することによって、以前に選択されている。機械学習、人工知能、またはニューラルネットワークに基づいて、受信機120は、ディスプレイ105のインターフェースを識別し、ユーザによる具体的アクション(例えば、マーカアイコン601が常駐する、ディスプレイ105の点をクリックする)と具体的ユーザタイプを相関させることができる。例えば、マーカアイコン601が、クリックされることが観察され、直後に、ユーザ入力データが、マーカアイコン601のクリックに続いて、点605から、点606、点607までのユーザによるスタイレットのドラッグ運動が、点605から、点606、点607まで延在する、マークをもたらすことを示すと、受信機120は、マーカアイコン601が常駐する、ディスプレイ105の点をクリックすることによって、マーカユーザタイプが選択され、これが、ユーザが、線を描出することを可能にすることを学習するであろう。したがって、受信機120は、マーカアイコン601の空間領域と図面実線を描出する機能を関連付けるであろう。機械学習を使用して、種々の時間点に行われる複数のユーザ入力を比較することで、受信機120は、任意のインターフェースの種々のアイコンと、その個別の機能とを推察することができる。故に、受信機120は、それによってディスプレイ105に対するユーザのアクションを比較し、具体的インターフェースを前提として、選択されたユーザタイプを決定する、データベースを含んでもよい。
【0095】
図8Bに示されるように、第2の時間において、受信機120は、ユーザがディスプレイ105との接触を中断し、次いで、機械学習を通して、消去の機能と関連付けられている、消しゴムアイコン603と関連付けられる、ディスプレイ105上の点において、ディスプレイ105に接触したことを示す、ユーザ入力データを受信する。故に、消しゴムアイコン603をクリックすることに応じて、受信機120は、
図8Bに示されるように、消しゴムユーザタイプが選択されたことを決定し、ユーザが点607においてディスプレイ105に接触し、スタイレットを点607から点606までドラッグすることに応答して、点607から点606までの消しゴムマークのオーバーレイ画像を生成する。当業者によって理解されるであろうように、ディスプレイ105から受信されたユーザ入力データを分析し、選択されたユーザタイプを決定することによって、受信機120は、ユーザ入力だけではなく、ユーザ入力のユーザタイプに基づいて、オーバーレイ画像を生成し、ユーザの選択されたユーザタイプおよびユーザ入力に対応する、オーバーレイされた画像を正確に表示する。
【0096】
ここで
図9Aを参照すると、本発明の原理による、協働プラットフォーム100’の別の例示的実施形態のブロック図が、提供される。
図9Aに示されるように、ユーザ入力データは、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105’から受信機120’に伝送されてもよい。加えて、ユーザ入力データおよび実画像が、無線接続、例えば、WiFiを横断して、受信機120’とモデレータデバイス130’との間で通信されてもよい。さらに、オーバーレイされた画像が、有線接続、例えば、HDMI(登録商標)ケーブルを介して、受信機120’からディスプレイ105’に伝送されてもよい。
図9Aに示されるように、入力のユーザタイプを示す、データユーザが、無線接続、例えば、定義されたTCPポートを介して、モデレータデバイス130’から受信機120’に伝送されてもよい。
【0097】
ここで
図9Bを参照すると、
図9Aに描写される協働プラットフォーム100’を使用するためのシーケンス略図が、提供される。
図4Bを参照して上記に説明されるように、
図9Aの協働プラットフォーム100’はまた、モデレータデバイス130’上に記憶されるオリジナル画像ファイルに基づいて、第1の画像を表示し、ユーザ入力を受信し、ユーザ入力に基づいて、モデレータデバイス130’上に記憶されるオリジナル画像ファイルを修正し、修正されたオリジナル画像に基づいて、第2の画像を表示するために、協働アプリケーションを起動する。
【0098】
図4Aの協働プラットフォーム100のように、協働プラットフォーム100’は、受信機120’によって、ユーザによって提供されるユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、オーバーレイされた画像をディスプレイ105’上のオリジナル画像上に表示し、協働プラットフォーム100’の待ち時間を低減させるために、オーバーレイ画像生成器アプリケーションを起動してもよい。協働プラットフォーム100’は、受信機120’が、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105’から受信されたユーザ入力データに加え、直接、無線接続、例えば、定義されたTCPポートを介して、ユーザタイプを示すデータをモデレータデバイス130’から受信し得るという点で、協働プラットフォーム100と異なる。本実施形態では、受信機120’は、ユーザ入力の選択されたユーザタイプに関する情報をディスプレイ105から受信されたユーザ入力データから導出する必要がない。例えば、
図3Cに関して上記に説明されるように、モデレータデバイス130’は、受信機120’を通してディスプレイ105’から受信されたユーザ入力データを処理および分析し、選択されたユーザタイプをユーザ入力データから決定し、定義されたTCPポートを介して、選択されたユーザタイプを示すデータを受信機120’に伝送するために、オーバーレイ画像アプリケーション139を含んでもよい。故に、受信機120’は、ユーザ入力データおよびユーザタイプデータの両方に基づいて、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、有線接続、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像をディスプレイ105’に伝送し、それによって、協働プラットフォーム100’の待ち時間を低減させる。
【0099】
ここで
図10Aを参照すると、本発明の原理による、協働プラットフォーム100’’の別の例示的実施形態のブロック図が、提供される。
図10Aに示されるように、ユーザ入力データは、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105’’から受信機120’’に伝送されてもよい。加えて、ユーザ入力データおよび実画像が、無線接続、例えば、WiFiを横断して、受信機120’’とモデレータデバイス130’’との間で通信されてもよい。さらに、オーバーレイされた画像が、有線接続、例えば、HDMI(登録商標)ケーブルを介して、受信機120’’からディスプレイ105’’に伝送されてもよい。
図10Aに示されるように、ユーザ入力のユーザタイプを示す、データが、修正されたユーザ入力バックチャネル(UIBC)エクステンションを介して、モデレータデバイス130’’のオペレーティングシステムから受信機120’’に伝送されてもよい。UIBCエクステンションは、概して、ユーザ入力データを受信機からモデレータデバイスに伝送するために使用されるであろう。しかしながら、ここでは、UIBCエクステンションは、モデレータデバイス130’’から受信機120’’へのデータの伝送を可能にするように修正される。
【0100】
ここで
図10Bを参照すると、
図10Aに描写される協働プラットフォーム100’’を使用するためのシーケンス略図が、提供される。
図4Bおよび9Bを参照して上記に説明されるように、
図10Aの協働プラットフォーム100’’もまた、モデレータデバイス130’’上に記憶されるオリジナル画像ファイルに基づいて、第1の画像を表示し、ユーザ入力を受信し、ユーザ入力に基づいて、モデレータデバイス130’’上に記憶されるオリジナル画像ファイルを修正し、修正されたオリジナル画像に基づいて、第2の画像を表示するために、協働アプリケーションを起動する。
【0101】
図4Aの協働プラットフォーム100のように、協働プラットフォーム100’’は、受信機120’’によって、ユーザによって提供されるユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、オーバーレイされた画像をディスプレイ105’’上のオリジナル画像上に表示し、協働プラットフォーム100’’の待ち時間を低減させるために、オーバーレイ画像生成器アプリケーションを起動してもよい。協働プラットフォーム100’’は、受信機120’’が、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105’から受信されたユーザ入力データに加え、直接、上記に説明されるUIBCエクステンションを介して、ユーザタイプを示すデータをモデレータデバイス130’’のオペレーティングシステムから受信し得るという点で、協働プラットフォーム100と異なる。
【0102】
本実施形態では、受信機120’’は、ユーザ入力の選択されたユーザタイプに関する情報をディスプレイ105から受信されたユーザ入力データから導出する必要がない。例えば、
図3Cに関して上記に説明されるように、モデレータデバイス130’’のオペレーティングシステム137は、受信機120’’を通してディスプレイ105’’から受信されたユーザ入力データを処理および分析し、選択されたユーザタイプをユーザ入力データから決定し、UIBCエクステンションを介して、選択されたユーザタイプを示すデータを受信機120’’に伝送してもよい。故に、受信機120’’は、ユーザ入力データおよびユーザタイプデータの両方に基づいて、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、ディスプレイ105’’上に表示されるオリジナル画像にわたって表示されるために、有線接続、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像をディスプレイ105’’に伝送し、それによって、協働プラットフォーム100’’の待ち時間を低減させる。
【0103】
ここで
図11を参照すると、協働プラットフォーム100’の受信機120’または協働プラットフォーム100’’の受信機120’’のオーバーレイされた画像生成機能性を実装する際に行われるデータフローおよび決定を詳述する、フローチャートが、図示される。上記に述べられたように、協働プラットフォーム100’の受信機120’および協働プラットフォーム100’’の受信機120’’は、ユーザ入力に基づいて、オーバーレイ画像を生成し、オーバーレイされた画像が表示されるように、オーバーレイ画像に基づいて、オーバーレイされた画像を生成するために使用される一方、実画像は、モデレータデバイス130’、130’’によって生成され、それによって、協働プラットフォーム100’、100’’の待ち時間を低減させてもよい。
【0104】
図11に記載されるプロセスを開始するために、ステップ1101では、ユーザ入力に対応する、ユーザ入力データが、例えば、USBケーブルおよび/またはBluetooth(登録商標)等の無線接続を介して、受信機120’、120’’によって、ディスプレイ105’、105’’から受信される。ステップ1102では、受信機120’、120’’は、協働アプリケーションを起動すると、さらなる処理および分析のために、ユーザ入力データをオリジナル画像の源、例えば、モデレータデバイス130’、130’’に伝送する。例えば、モデレータデバイス130’、130’’は、ユーザ入力の少なくとも1つのユーザタイプを示す、データを導出してもよい。故に、ステップ1103では、ユーザタイプデータが、受信機120’によって、例えば、定義されたTCPポートを介して、モデレータデバイス130’のアプリケーションから、または受信機120’’によって、例えば、UIBCエクステンションを介して、モデレータデバイス130’’から受信される。
【0105】
ステップ1104では、受信機120’、120’’は、ステップ1101において受信されたユーザ入力データならびにステップ1103において受信されたユーザタイプデータに基づいて、オーバーレイ画像を生成する。オーバーレイ画像は、新しいユーザタイプが、ステップ1103において受信されるまで、ユーザ入力データおよびデフォルトユーザタイプに基づいて、生成されてもよい。好ましくは、ユーザ入力のユーザタイプは、続いて、ユーザによって変更されるまで、事前にプログラムされたデフォルト設定、例えば、デフォルト色(灰色)、デフォルト太さ(中線)、およびデフォルトマーカユーザタイプに設定されてもよい。ステップ1106では、受信機120’、120’’は、ディスプレイ105’、105’’から受信されたユーザ入力データに基づいてモデレータデバイス130’、130’’によって生成された、実画像を受信する。ステップ1106では、受信機120’、120’’は、オーバーレイ画像および実画像に基づいて、オーバーレイされた画像を生成する。上記に説明されるように、オーバーレイされた画像は、実画像上に重畳されるオーバーレイ画像によって形成されてもよい一方、オーバーレイ画像は、受信機120’、120’’によって受信されたユーザの実際の入力を表す、第1の部分と、受信機120’、120’’によって受信されたユーザ入力データに基づくユーザの意図される入力の予測であり得る、第2の延在部分とを含む。ステップ1107では、受信機120’、120’’は、オリジナル画像上に表示されるために、オーバーレイされた画像を、例えば、ディスプレイ105’、105’’に伝送し、それによって、協働プラットフォーム100’、100’’の待ち時間を低減させる。
【0106】
ここで
図12Aを参照すると、本発明の原理による、協働プラットフォーム100’’’の別の例示的実施形態のブロック図が、提供される。
図12Aに示されるように、ユーザ入力データは、有線接続、例えば、USBケーブル、および/またはBluetooth(登録商標)等の無線接続を介して、ディスプレイ105’’’から受信機120’’’に伝送されてもよい。受信機120’’’は、本明細書に説明されるモデレータデバイスの機能性を実施することが可能であってもよい。例えば、受信機120’’’は、ディスプレイ105’’’から受信されたユーザ入力データに基づいて、実画像を生成し、さらに、ユーザ入力データに基づいて予測される部分、ならびにオーバーレイ画像および実画像に基づいてオーバーレイされた画像を含む、オーバーレイ画像を生成してもよい。オーバーレイされた画像は、有線接続、例えば、HDMI(登録商標)ケーブルを介して、受信機120’’’からディスプレイ105’’’に伝送されてもよい。
【0107】
ここで
図12Bを参照すると、
図12Aに描写される協働プラットフォーム100’’’を使用するためのシーケンス略図が、提供される。
図12Aの協働プラットフォーム100’’’は、受信機120’’’上に記憶されるオリジナル画像ファイルに基づいて、第1の画像を表示し、ユーザ入力を受信し、ユーザ入力に基づいて、受信機120’’’上に記憶されるオリジナル画像ファイルを修正し、修正されたオリジナル画像に基づいて、第2の画像を表示するために、協働アプリケーションを起動してもよい。
【0108】
図4Aの協働プラットフォーム100のように、協働プラットフォーム100’’’は、受信機120’’’によって、ユーザによって提供されるユーザ入力に基づいて、ユーザ入力データに基づいて予測される部分を含む、オーバーレイ画像を生成し、オーバーレイ画像に基づいて、オーバーレイされた画像を生成し、オーバーレイされた画像をディスプレイ105’’’上のオリジナル画像上に表示し、協働プラットフォーム100’’’の待ち時間を低減させるために、オーバーレイ画像生成器アプリケーションを起動してもよい。協働プラットフォーム100’’’は、受信機120’’’が、本明細書に説明されるモデレータデバイスとして機能し、ユーザ入力データを外部モデレータデバイスに伝送する必要なく、ディスプレイ150’’’から受信されたユーザ入力データに基づいて、修正された実画像を生成し得るという点で、協働プラットフォーム100と異なる。
【0109】
故に、受信機120’’’は、ユーザ入力、ユーザ入力データ、随意に、ユーザタイプデータに基づいて、修正された実画像を生成し、ユーザ入力データ、随意に、ユーザタイプデータに基づいて、オーバーレイ画像を生成し、オーバーレイ画像および実画像に基づいて、オーバーレイされた画像を生成し、ディスプレイ105’’’上に表示されるオリジナル画像にわたって表示されるために、有線接続、例えば、HDMI(登録商標)ケーブルを介して、オーバーレイされた画像をディスプレイ105’’’に伝送し、それによって、協働プラットフォーム100’’’の待ち時間を低減させる。
【0110】
表示のために、オーバーレイされた画像を生成するための本明細書に説明される協働プラットフォームは、無線ネットワークを横断して、例えば、受信機とモデレータとメンバーデバイスとの間でデータを伝送する必要性に起因する、待ち時間を低減させるであろう。当業者によって理解されるであろうように、遅延の付加的源は、プロセッサおよびアプリケーション遅延を含む。例えば、ユーザ入力を受信するためのコンピューティングデバイス、例えば、タッチスクリーンディスプレイは、受信機への伝送のためのユーザ入力データを生成するためのユーザ入力のその処理時間において限定されるであろう。本発明の原理によると、外挿、人工知能、機械学習、および/またはニューラルネットワークが、受信機のオーバーレイ画像生成器アプリケーションが、タッチスクリーンおよび/またはモデレータデバイス(ユーザ入力データを処理する際にアプリケーション遅延に悩まされ得る)からのユーザ入力データを待機するのではなく、予測されるユーザ入力に基づいて、オーバーレイされた画像を生成し得るように、ユーザがタッチスクリーンと相互作用するにつれて、ユーザ入力を予測し、それによって、さらに、協働プラットフォームの待ち時間を低減させるために実装されてもよい。
【0111】
上記で本明細書に説明されるコンピュータ動作のいずれかは、少なくとも部分的に、コンピュータ可読メモリ上に記憶されるコンピュータ可読命令として実装されてもよいことを理解されたい。当然ながら、本明細書に説明される実施形態は、例証的であり、コンポーネントは、多種多様な異なる構成で配列され、代用され、組み合わせられ、設計され得、その全てが、検討され、本開示の範囲内に該当することを理解されたい。
【0112】
例証的実施形態の前述の説明は、例証および説明の目的のために提示された。これは、開示される精密な形態に関して包括的または限定的であることを意図しておらず、修正および変形例が、上記の教示を踏まえて可能性として考えられる、または開示される実施形態の実戦から入手され得る。本発明の範囲は、本明細書に添付の請求項およびその均等物によって定義されることが意図される。
【国際調査報告】