(58)【調査した分野】(Int.Cl.,DB名)
前記グラフィカル・ユーザ・インターフェースは、入力を、モード中立のユーザ制御、モード中立のボタン、モード中立のジェスチャの少なくとも1つを介して、受領することを特徴とする請求項1記載の方法。
前記プロセッサを制御する第5モジュールを更に有し、前記第5モジュールは、前記グラフィカル・サブ要素を、変更されたユーザ通信の詳細に基づいて更新することを特徴とする請求項7記載のシステム。
【発明を実施するための形態】
【0009】
図1において、システム(汎用コンピュータ)100は、プロセッサ(CPU,プロセッサ)120と、システム・バス110とを有する。プロセッサ120は、様々なシステム構成要素である。システム・バス110は、メモリ130とROM140とRAM150等のシステム構成要素を、プロセッサ120に接続する。システム100はキャッシュ122を有する。キャッシュ122は、高速メモリで、プロセッサ120に直接接続されるか、近くに配置されるか、或いはその一部として一体に形成される。システム100は、メモリ130又は記憶装置160からのデータを、キャッシュ122に一時的にコピーして、プロセッサ120が迅速にアクセスできるようにしている。かくして、キャッシュ122は、プロセッサがデータを取り出すのを待つことにより、プロセッサ120の処理が遅延するのを回避し、性能を向上させる。これ等のモジュールは、プロセッサ120を制御して様々なアクションを実行する。他のメモリ130も同様に使用可能である。メモリ130は、様々な性能特徴を有する複数の種類のメモリを含む。このシステムは、複数のプロセッサ120を有するシステム100上で動作するか、それ等をネットワークで繋いだグループで動作するか、或いはクラスタ上で動作して、より大きな処理能力を与えるようにしている。プロセッサ120は、汎用プロセッサと、ハードウエアのモジュール或いはソフトウエアのモジュールを含む。例えば、第1モジュール162、第2モジュール164、第3モジュール166で構成され、これ等は記憶装置160内に配置され、プロセッサ120と特定目的のプロセッサとを制御する。この特定目的プロセッサでは、ソフトウエアのインストラクションが、実際のプロセッサのデザイン(ハードウエア)に組み込まれている。プロセッサ120は、自己保有型のコンピュータシステムであり、複数のコア又はプロセッサと、バスと、メモリコントローラと、キャッシュ等を含む。マルチコアプロセッサは、対称或いは非対称性の何れでもよい。
【0010】
システム・バス110は、あらゆるタイプのバス構造体を含み、例えば、メモリバス、メモリコントローラ、周辺バス、ローカルバスであり、あらゆるバス構造を利用したものを含む。ROM140内に記憶されるベーシックな入力/出力(basic input/outout:BIOS)は、ベーシックなルーチンを与える。このベーシックなルーチンは、システム100内の構成要素の間の情報の伝送を助ける、例えばスタートアップ時の情報の伝送を助ける。システム100は記憶装置160を含む。この記憶装置160は、例えばハードディスクドライブ、磁気ディスクドライブ、光学ディスクドライブ、テープドライブ等である。記憶装置160は、ソフトウエアモジュール162,164,166を有し、プロセッサ120を制御する。また他のハードウエアモジュール又はソフトウエアモジュールを組み込み可能である。記憶装置160は、システム・バス110にドライブインターフェースで接続される。このドライブインターフェースとそれに関連するコンピュータに読み込み可能な記憶媒体は、コンピュータで読み込み可能なインストラクション(データ構造)、プログラムモジュール、或いはシステム100用の他のデータの非揮発性の記憶媒体を提供する。一態様によれば、特定の機能を実行するハードウエアモジュールは、ソフトウエアコンポーネントを含む。このソフトウエアコンポーネントは、機能を実行するために必要なハードウエア(プロセッサ120,システム・バス110,出力装置170)と接続された書き換え不可能なコンピュータ読み込み媒体内に記憶される。これ等のベーシックな構成要素は当業者には公知である。システム100は、小型コンピュータ、携帯用コンピュータ、デスクトップコンピュータ、コンピュータサーバー等でもよい。
【0011】
本発明の一実施例では、記憶装置160はハードディスクであるが、他のあらゆる種類の記憶媒体も当業者は容易に想到できる。例えば磁気カッセト、フラッシュメモリカード、DVD、カートリッジ、RAM150、ROM140、或いはビットストリームを含むケーブル或いは無線信号も、本発明で用いることができる。書き換え不可能なコンピュータで読み込み媒体は、エネルギー、キャリア信号、電磁波、信号そのもののような媒体を含まない。
【0012】
システム100とユーザの間の双方向動作を可能とするために、入力装置190は、あらゆる数の種類の入力機構、例えば、マイクロフォン、タッチセンサ、グラフィカル入力、キーボード、マウス、モーション入力、音声認識装置等である。出力装置170は、当業者に公知の複数の出力機構の内の1つである。出力装置170が、グラフィカルディスプレイを有し、タッチ入力を受領することができる場合には、入力装置190と出力装置170は、同一の要素或いはディスプレイである。一実施例においては、マルチモードのシステムにより、ユーザは、システム100と通信するために複数の入力を提供できる。通信インターフェース180は、ユーザ入力とシステム出力を管理する。本発明は、特定のハードウエア要素上で動作することに限定されず、基本的な機能は、改良されたハードウエア或いはファームウエアで置換できる。
【0013】
図示したシステムの実施例は、個別の機能ブロックとして示されている。例えば、プロセッサ120として示されている。これ等のブロックの有する機能は、共有ハードウエア、専用ハードウエア、ソフトウエアを実行できるハードウエア、汎用コンピュータ上で実行されるソフトウエアと等価で機能する専用のハードウエア(例、プロセッサ120)で実行できる。例えば、
図1のプロセッサの機能は、1つの共有プロセッサ或いは複数のプロセッサで提供できる。本明細書において、プロセッサとは、ソフトウエアを実行できるハードウエアに限定されるものではない。ここに示した実施例は、マイクロプロセッサ、デジタル信号プロセッサ、DSP、ハードウエア、ROM140、上記した操作を実行するソフトウエアを記憶するROM140と、結果を記憶するRAM150とを有する。これらは、VLSIハードウエアと汎用のDSPと組み合わせたカスタムVLSI回路でもよい。
【0014】
本発明の様々な実施例の論理動作は、
(1)汎用コンピュータ内のプログラム可能な回路内で実行される、ステップ操作、手順のシーケンスとして、
(2)専用使用のプログラム可能な回路内で実行される、ステップ操作、手順のシーケンスとして、
(3)プログラム可能回路内に組み込まれたマシンモジュール或いはプログラムエンジンとして
実行される。
図1のシステム100は、本発明の方法の全て或いは一部は、本発明の記憶媒体内のインストラクションに応じて実行する。このような論理動作は、プロセッサ120を制御するため、モジュールのプログラムに合わせて特定の機能を実行するモジュールとして実現される。例えば
図1では、3個のモジュール即ち第1モジュール162と第2モジュール164と第3モジュール166が、プロセッサ120を制御するよう構築されたモジュールとして示されている。これ等のモジュールは、記憶装置160内に記憶されRAM150、ルーチンではメモリ130にロードされ、或いはコンピュータで読み込み可能なメモリ内に記憶される。
【0015】
図2で、通信セッションを管理するグラフィカル・インターフェースについて説明する。
図1に示すようなシステム100は、グラフィカル・ユーザ・インターフェース200を表示するよう構成される。それを
図2に示す。システム100は、入力を受領し、通信セッションを操作し管理する。一態様において、システム100は、通信機器、例えば、電話機、インスタント・メッセンジャ、パソコンあるいは携帯型コンピュータ、電子メール装置と相互作用して通信セッションを管理する。例えば、ユーザは、コンピュータと通信する卓上型の電話機を有してもよい。このコンピュータは、電話機とインターフェースし、
図2に示すようなディスプレイを提示して、電話機を用いて通信セッションを管理する。ユーザは、接触すべき人を特定し、同一モードを用いてあらゆるタイプの通信を開始し、又他のタイプの通信も開始する。このシステムは、この点に関し特別な要件はない。ドラッグとドロップ、ジェスチャ、タッピング、あるいはあらゆる入力モードを用いて、電話の呼び、電話会議、IM又は電子メール・セッション等を、開始し確立することができる。あらゆる通信形態は、セッションの制御に関して同一のものとして折り扱う。例えば、通信セッションの開始、終了、分離、併合、あるいは参加者の追加と削除は、全て同一あるいは類似の通信形態で、管理できる。様々な入力の一例は、ユーティリティ・アイコン208、210、212、214、216、220に関し記載し、あらゆる入力モードを適用して、ユーティリティを使用することがでる。
【0016】
このアプローチの利点は、システムは、更なる通信モードを、
図2のユーティリティ・アイコンにより表示される既存のモードに追加することができる点にあり、更に新たな通信を如何に管理するかの方法が、既に使用されている同一の通信形態を介して適用できる点にある。ユーティリティ・アイコン上でのドラッグとドロップの操作、又はジェスチャ操作が、ユーティリティ・アイコンを特定のコンタクト先に接続し、ユーザとコンタクト先との間の通信セッションを開始すると仮定する。システムは、新たな通信メカニズム、例えば、グーグル・ウェブ・サービス(新たなウェブ・アイコン)を組み込み、そのサービスを他のサービスと同一の管理形態(グーグル・ウェブ・アイコン(Google Wave icon)上のドラッグとドロップ又はジェスチャ)で実行できる。
【0017】
図2は、通信セッションの第1のグラフィカル・ビューを示す。
図1に示すシステム100は、グラフィカル・ユーザ・インターフェースを表示し、入力を受領して、通信セッションを操作する。一態様において、システム100は、通信機器(例、電話機、インスタント・メッセンジャ、パソコンあるいは携帯型コンピュータ、電子メールの装置)と通信する。他の態様において、システム100は、通信セッションの機能を組み込むことができる。システム100は、入力を、キーボードあるいはスクリーン上のキーボード、マウス、スタイラス、タッチスクリーン、音声コマンド、非接触ジェスチャ、1回又は複数回タッチのジェスチャを介して、受領する。システム100は、複数のモード入力を受領することもできる。通信セッションを確立する前に、システム100は、ブランクのホーム・スクリーンを示す。そこに通信ユーティリティ208、210、212、214、216、218、220を表すグラフィカル要素を示す。ブランク・スクリーンは、壁紙イメージあるいは他のパターンを含む。一変形例において、システム100は、サマリあるいはウェルカム・ページを示し、ニュースのサマリ、メッセージ、コンタクト先、カレンダ事象の更新、あるいは構成オプション等を表示する。他の変形例において、システム100は、デフォルトの入力機構を示し、例えば、電話番号をダイアルするようなテンキー・パッドを示す。
【0018】
ディスプレイであるグラフィカル・ユーザ・インターフェース200は、3つの接続されたグラフィカル要素202、204、206の通信セッションを示す。表示された通信セッション201は、リアルタイムの通信を表す。この場合、リアルタイムの通信は、グラフィカル要素であるフランク・グリムス(Frank Grimes)202、マックス・パワー(max Power)204、カール(Karl)206間の3方向電話会議である。これはグラフィカル要素202、204、206間をラインで繋ぐことにより、示されている。
図2は、フランク・グリムスの観点から見た電話会議のグラフィカル・ディスプレイである。それ以降の図は、他の参加者から見た同一の電話会議を表す。
【0019】
通信セッションの視覚化とユーザ制御は、様々な通信形態に対し、中立であり、それらはユーザが呼びに加わったり、他の通信セッションに加わったりする時にでも、同一に取り扱う。唯一の異なる点は、特定の通信形態、例えば、通信形態アイコン208、210、212、214、216に対し使用されるインディケータである。例えば、
図2において、ビデオの代わりにIMを介して接続するカールは、ビデオ206bからIMへモード・アイコンの変化をするだけである。
【0020】
ユーザは、更なる参加者を、通信セッションに同様な方法で追加できる。ユーザは、参加者を通信セッションから外すことができるが、これは、そのユーザをゴミ箱アイコン220にドラッグすることにより、フリッキング動作を提供することにより、その参加者に関連して「X」をクリックすることにより、参加者をハイライトして装置を振動させることにより行うことができる。最後のケースは、装置が加速度計(accelerometer)を具備している場合であるが、更に物理的あるいはグラフィカルな切断ボタンをクリックすることにより行うこともできる。通信セッションが電話を介して行う態様においては、システム100は、参加者を通信セッションから外すが、これはユーザが電話機の受話器を置いた場合である。参加者が通信セッションから離れると、システム100は、彼らのアイコンを、通信セッションのグラフィカル表示から外す。
【0021】
ここに示すグラフィカル要素は、アイコンであるが、イメージ、テキスト、画像、アニメーション、カリカチュア、アバタを含んでもよい。ユーザは、ユーザ自身のグラフィカル要素を自分用にするか、あるいはカメラ又はビデオカメラからのイメージのライブ・ストリームを供給することもできる。更にグラフィカル要素は、テキストの関連ストリング202a、204a、206aを有する。テキストのストリングは、名前、肩書き、役職、電話番号、電子メール・アドレス、現在の状態、プレゼンス情報、ロケーションあるいは他の利用可能な情報を含む。テキストのシーケンスは、グラフィカル要素とは切り離されているがそれに関連している。別の構成として、システム100は、テキストのストリングをグラフィカル要素の上に重ねたり、あるいはテキストをグラフィカル要素の一部として一体化することもできる。テキストあるいはグラフィカル要素の全て又は一部は、テキストあるいはグラフィカル要素に関連するユーザに関連する更なる情報(ブログ、マイクロ・ブログ、電子メール・アドレス、プレゼンス情報等)にハイパーリンクすることができる。識別子202a、204a、206aは、それらコンタクト先の通信の利用可能なモード(例、IMのみ)、プレゼンス情報(社内にいるが電話中である)、スケジュール情報(その人は、暇あるいは暇ではないが1時間のみ空いている)のグラフィック又はアイコンを含む。グラフィカル形式の情報は、現地時間(local time)、通信セッションのホストがいる時間帯(time zone)、あるいは体内時間(biological time)を含む。この情報によりユーザは、そのコンタクト先との通信を求めるべきか否かを知ることができる。このような情報は、通信セッションのエンティティを表すアイコンあるいはグラフィックと共に、表示される。
【0022】
システム100は、各アイコンに対し、グラフィカル・サブ要素202b、204b、206bを有する。これらは各参加者の通信モードを表す。例えば、マックス・パワー204は、インスタント・メッセージ(IM)のクライアント204bを介して参加し、フランク・グリムス202は、電話機202bを介して参加し、カールはテレビ会議・クライアント206bを介して参加している。システム100は、モード的に中立である。これは、システム100は、各通信モード、例えば、電話、携帯電話、ボイス・オーバー・インターネット・プロトコル(VoIP)、インスタント・メッセージ、電子メール、テキスト・メッセージ、スクリーン共有を、同一に扱うことを意味する。ユーザがあるモードから別のモードに変わると、グラフィカル・サブ要素もそれに応じて変わる。例えば、フランク・グリムス202が、普通の電話から携帯電話に変わると、電話アイコン202bは携帯電話アイコンに変わる。
【0023】
グラフィカル要素は、電話会議に関する情報を伝達するが、これは、種類、サイズ、色、ボーダ、輝度、位置等を変えることにより、行う。例えば、ラインは、参加者間の関係を示す。ユーザは、手動で自分自身のアイコンあるいは他人のアイコンの変化をトリガするか、あるいはシステム100は、変化の事象を検出し、それに応じてグラフィカル要素を変更する。変化の事象は、接触された参加者、コンテキスト、ペルソナ、接続状態、プレゼンス等に基づく。例えば、ある人が、テキスト・メッセージを話しているあるいはタイプしていると、システム100はその人のアイコンを拡大する。別の例としては、システム100は、電話会議の各人が、どのくらい話しているのかを追跡し、電話会議の全会話時間に基づいて、グラフィカル要素を上下させる。
【0024】
別の変形例として、システム100は、グラフィカル要素202、204、206の接続するリンクを修正するが、これはその太さ、長さ、色、スタイル等を変更することにより、あるいはリンクをアニメートすることにより、行う。これらの変更は、現在アクティブな参加者、共有資源、アクティブな通信セッション、保持している通信セッション、ミュート状態にある通信セッション、ペンディング状態にある通信セッション、連結している通信セッション、マルチ・パーティー・ライン、サイドバー会話、監視状態のトランスファー、無監視状態のトランスファー、選択的転送、通信セッションを複数の通信セッションに選択的に分割すること等を含む。
【0025】
一態様において、ユーザは、入力、例えば、ジェスチャ(例えば、ドラッグ&ドロップ、タッチスクリーンでのタップ&ドラッグ、他の指示的ユーザ入力の実行)を提供して、電話会議を操作し管理する。例えば、ユーザは、コール・アイコン208、ビデオ会議アイコン210、IMアイコン212、電子メール・アイコン214、又はソーシャル・メディア・アイコン216をクリックして、他のユーザを通信セッションに参加するよう促すことができる。ユーザは、これらのアイコンをドラッグし、それを現在の通信セッションのコンタクト先あるいは参加者上にドロップすることができる。例えば、来入する通信セッションが、ある通信形態(例えば、IM)の場合に、ユーザは、コール・アイコンを来入通信セッションにドラッグして、来入する通信セッションを受け入れるが、それをIMから呼びに再度ネゴシエートする。ユーザは、通信セッションを開始することができるが、それは適宜のアイコンをコンタクト先にドラッグしドロップすることにより、行うことができる。ソーシャル・メディアは、ウェブサイト、例えば、フェイスブック(Facebook)、ツイッター(Twitter)、リンクトイン(LinkedIn)、マイスペース(MySpace)等を含む。別の構成として、ユーザは、コンタクトリスト218をブラウザし、所望のコンタクト先をドラッグしドロップして、その所望のコンタクト先を電話会議に加えることもできる。システム100は、自動的にその人に彼らの所望のモードでコンタクトすることができる。例えば、送信者の好ましいモード、プレゼンス情報に基づいた現在利用可能なモード、参加者間で共通に利用可能なモードで、接触して、その人を電話会議に加えることができる。システム100は、他の情報、例えば、カレンダ、ノート、メモ、個人的なプレゼンス情報、時間等を表示することができる。システム100のディスプレイは、ユーザが構築可能である。通信セッション201内の各参加者、あるいはコンタクトリスト内のコンタクト先は、複数の関連するアドレス、電話番号、コンタクト先、例えば、職場の電話番号、自宅の電話番号、携帯の電話番号、職場の電子メール、自宅の電子メール、AIMアドレス、フェースブック・チャット・アドレス等を有することができる。そして各参加者は、アイコンあるいは識別子を有する。例えば、参加者のみならず、コンタクト・モードも示すようなシンボルである。
【0026】
来入する通信セッションのアイコンは、ブリンク(blink)したり、バウンス(bounce)したり、パルス(pulse)を発したり、大きくなったり(grow)、縮んだり(shrink)、振動したり(vibrate)、変色したり(change color)、可聴警報音を送ったり(send an audible alert)、ある種の通知を、来入する通信セッションのユーザに提供する。ユーザは、来入するリクエストを、他の現在の通信セッションと同様な方法で相互作用し操作することができる。システム100は、アクティブ通信セッションと、来入するリクエストを表す通信セッションとを区別しない。例えば、ユーザは、来入する呼びを通信セッションのトップにドラッグしドロップすることにより、来入する呼びを直接通信セッションに加えることができる。他の例において、ユーザは、来入する通信セッションをゴミ箱のアイコンにドラッグしドロップして無視するか、来入する通信セッションをダブルクリックして、来入する発呼者をボイスメールに送るか、あるいは発呼者を保持するために、タップしホールドすることができる。
【0027】
一態様において、ユーザのプレフェレンス(優先)は、グラフィカル要素と関連するテキストにより搬送される情報の量と種類をガイドする。ユーザの優先は、見る人の優先あるいはソース・パーソン(発信元)の優先から得られる。例えば、見る人は、優先を設定して、他人の電子メール・アドレスを示そうとするが、ソース・パーソンは、電子メール・アドレスを、共有しないものとして設定する。ソース・パーソンの優先(即ち情報の「所有者」の優先)は、第三者の優先を上書き(無効に)する。
【0028】
一つの可能なユーザ入力は、
図2に示す通信セッションを分割することである。ユーザは、マウス・ドラッグでラインを引いたり、タッチスクリーン上に指を指して通信セッションを2つのグループに分割することにより、行う。システム100は、通信セッションを、同時進行する2つの通信セッションに分割する。一態様において、通信セッションのマネージャは、ある限られた時間通信セッションを分割するが、その後、通信セッションは自動的に再び一緒になる。例えば、マネージャは、「チームAは、ストラテジAの賛否を議論する。チームBは、ストラテジBの賛否を議論する。5分後に再び議論に戻り報告する。」と言う。その後、マネージャはラインを引くか、あるいはブレークアウト・セッション用にグループを選択し、持続時間を設定する。ダイアログとアイコンは、通信セッションが分離した時に表れて、利用可能なオプションを提示して分離を管理する。システム100は、通信セッションを分割し、所定時間後にそれらを再結合することができる。マネージャは、追加された設定、例えば、ブレークアウト・セッションの間、グループ間のサイドバー会話を禁止するような設定を、示すことができる。マネージャは、ブレークアウト・セッションから独立し、各ブレークアウト・セッションを、音声、サマリ、あるいはリアルタイムのテキストで、モニターすることができる。
【0029】
図2は、インターフェース200を示す。このインターフェース200は、新たな通信モードを受領し、それを提示し、ユーザに対し他のモードと同一の通信形態を介して管理できるようにしている。呼び208、ビデオ210、IM212、電子メール214、ソーシャル・ネットワーク216用のユーティリティ・アイコンに加えて、システムは、新たな通信モードを一体化できるものとする。モード的に中立的な通信形態の1つの利点は、システムは、新たな通信モードを実行できるが、ユーザが、通信セッション内で、この新たなモードを制御し管理することができる点である。これは他の通信モードと同一の入力形態を適用することにより行う。グラフィカル・ユーザ・インターフェースの制御は、セッションの開始と終了に関し、上記と同様である。システム100は、自動的に新たなモードの機能を一体化して、セッション制御機能を可能にする。例えば、セッションを開始する、終了する、分離するが、これはユーザに馴染みのある通信形態を用いて管理される。
【0030】
その後、システムは、新たなモードを表すユーティリティ・アイコン(
図2に図示せず)を、ユーザに提示する。この時点でユーザは、新たな管理形態を知る必要はないが、セッション制御に関し同一の動作(semantics)を続けられる。同じ呼びの接続メタファ、制御ボタン、ジェスチャ、音声コマンド、フリッカー・ムーブメント、装置の振動あるいはユーザ入力の他のタイプの操作は、モード的に中立状態を保持する。これらの入力形態の全ては再使用され、インターフェースに適用されて、通信の更なるモードあるいは通信機器の更なるモードを得る。
【0031】
次に
図3に示す通信セッションのネットワーク・ビュー300について議論する。通信ネットワーク302は、様々な通信機器304、306、308、310、312を接続し、装置から装置へ情報を転送する。通信ネットワーク302は、ポッツ(POTS:従来のアナログ電話回線サービス)ネットワーク、非同期転送モード(ATM:53バイトの固定長のデータであるセルを基本的な通信の単位とする、Virtual Circuit cell relay(仮想回線セルリレー)による通信プロトコル)ネットワーク、サービス総合デジタル網(ISDN:各家庭に配線されている銅線電話回線を利用したデジタル通信サービス)、フレーム・リレー・ネットワーク(frame relay network)、イーサネット・ネットワーク(Ethernet network:コンピュータネットワークの規格のひとつ)、トークン・リング・ネットワーク(token-ring network:トークンを使って指定の数のロケーションで一方向でデータを送信するLANトポロジー)、あるいは他の適宜の有線あるいは無線のネットワークの内の1つあるいはその組み合わせである。このネットワークは、接続されたノード314、316、318、320を有し、これらが接続と伝送の機能の全てあるいは一部を実行する。これらの機能は、グラフィカル・ユーザ・インターフェース上の通信セッションのグラフィカル表示の基礎をなすものである。このようなネットワーク・ノード314、316、318、320は、ネットワーク302内の全ての機能を実行するか、あるいはエンド・ユーザの通信機器304、306、308、312と共に動作して、通信セッションを操作する。
【0032】
一態様にいて、集中化したエンティティは、通信セッションを制御する。集中化いたエンティティは、ネットワーク内に存在するか、あるいはネットワークを介して通信する。中央のエンティティは、集中化した企業インテリジェンス・サーバ(centralized enterprise intelligence server)として動作する。別の態様において、通信セッションの制御と機能は、ネットワークあるいはクラウド(cloud)内の複数のサーバ・リソース314、316、318、320内に分散していてもい。集中化インテリジェンスとクラウド内に分散したインテリジェンスに加えて、ネットワーク302は、この機能をピアツーピア(peer-to-peer:サーバとクライアントといった区別なしに、接続されたコンピュータ同士が同格で通信し合うネットワーク形態)のアプローチを用いて、エンドポイント上のインテリジェンスで提供することもできる。ある変形例では、標準化された機能は、標準化に適合したサーバに提供し、標準化されていない機能は、エンドポイント間に分布させる構成も可能である。
【0033】
各通信機器のディスプレイは、同一の通信セッションの様々なアスペクトあるいはビューを示す。例えば、通信機器304のディスプレイは、
図2に示す同一の参加者202、204、206と同一のディスプレイを示す。通信機器306のディスプレイは、通信機器306の視点から見た通信セッションの別のビューにおける同一の参加者202、204、206を示す。同様に、通信機器308、312は、別のビューで同一の参加者202、204、206を示す。一態様において、携帯機器308は、無線送信機310と接続してネットワークに接続される。携帯機器308は、自分自身の通信セッションのビューを生成するか、あるいは別の装置のディスプレイを生成する。
【0034】
図3は、通信セッション内の誰かにコンタクトしようとする人あるいはエンティティのビューを示す。例えば、メアリーが通信機器304を有し、フランク202に電話しようとする場合を想定する。彼女が電話をし許可が下りると、メアリーには、参加者202、204、206を示すフランクの通信セッションのビューが提示される。これは、通信のタイプに関する変動する詳細レベルの情報(誰が電話しているか、その電話の趣旨は何か等の情報)を提供する。かくしてメアリーにはオプションが提示される。何故なら彼女はこの知識があるからである。メアリーが電話の代わりにIM又は電子メールを望んでいるとすると、彼女は電話会議に参加することを要求する。彼女は、フランクが電話中であり1時間後に電話で彼女に返事をすることを知っている旨のメッセージをフランク202に送ろうとする。メアリーに、彼女が電話しようとしている相手の通信セッションのプレゼンスのグラフィカル・イメージが提示されることにより、彼女にとって、フランク202との通信について、いかに次のステップを最適にとるかを効率的に決定できる。
【0035】
図4は、ディスプレイ400上に示された通信セッションのユーザ用のグラフィカル・サブ要素を示す。通信セッションは、マックス・パワー(Max Power)204と、フランク・グリムス(Frank Grimes)202、カール(Karl)206とを有する。グラフィカル・サブ要素の1つのタイプは、現在の通信形態を示す。ユーザは、自分自身の通信モードを変更することができる。これは例えば、別の接続形態アイコンをタッピングすることにより、行うことができる。これによりユーザは、ある通信形態から別のミッド・セッションに、手動であるいはシームレスに、切り替えることができる。携帯電話を介して通信セッションに参加しており、現在ウェブカムの近傍にいるユーザは、テレビ会議・アイコンを、通信セッション上にドラッグして、携帯電話からビデオ会議に切り替えることができる。
【0036】
例えば、マックス・パワー204は、現在インスタント・メッセージを介して通信している。フランク・グリムス202は電話で通信している。カール206はテレビ会議で通信している。
図4は、これらのグラフィカル・サブ要素を、個人のアバタの左上コーナ上にある小さなアイコンで示しているが、このようなグラフィカル・サブ要素を様々な方法で表示できる。例えば、システム100は、1つのインスタント・メッセージ・アイコン近傍にあるインスタント・メッセージを介して通信するユーザのアバタをグループ分けすることができる。システム100は、リンクの太さ、色、長さ、テクスチャ、アニメーション、デコレーション等を、他のグラフィカル・サブ要素との組み合わせの代わり、変えることができる。
【0037】
現在の通信形態アイコンに加えて、通信セッション内の各参加者のアイコンは、利用可能な又は好ましい通信形態を表示する関連サブアイコンあるいはグラフィカル・サブ要素を有する。例えば、マックス・パワー204は、電話のサブアイコン408、IMのサブアイコン410、電子メールのサブアイコン412を有する。フランク・グリムス414は、電話のサブアイコン414、テレビ会議のサブアイコン416、ソーシャル・メディアのサブアイコン418を有する。カール206は、テレビ会議のサブアイコン420、IMのサブアイコン422、電子メールのサブアイコン424を有する。ユーザは、他の通信セッション参加者と、これらのサブアイコン又はグラフィカル・サブ要素を介して、相互作用する。例えば、カール206とのサイドバー通信セッションを設定するために、マックス・パワー204は、カール206に関連するIMサブアイコン422をクリックする。ユーザは、通信セッション内の自分のサブアイコンを修正することができる。例えば、フランク・グリムス202は、ソーシャル・メディアのサブアイコン418をドラッグして、それをサブアイコンのグループから外すことができる。別の構成として、フランク・グリムス202は、テレビ会議のサブアイコン416をクリックし、電話の接続をテレビ会議の接続に変更するが、通信セッションへの接続は維持したまま、行われる。
【0038】
あるケースでは、サブアイコンは、機能性の複数の関連するファセット(facets)を表すことができる。
図5は、グラフィカル・サブ要素用の更なるコンテクストにセンシティブなメニューのディスプレイ500を示す。ユーザは、このコンテクストにセンシティブなメニューに、アクセスすることができるが、これは、サブアイコンをタッピングしホールドすること、ダブルクリックすること、サブアイコン上をスウィップすること、サブアイコンを右クリックすること、カーソルをサブアイコン上を滑らすことにより、行うことができる。システム100は、コンテクストにセンシティブなメニューを生成することができるが、これは、入力の種類、通信セッションの現在の状態、又は他の関連情報に基づいて、生成される。例えば、マックス・パワー204が、電子メール・サブアイコン504をクリックすると、システム100は、コンテクストにセンシティブなメニュー506を表示して、通信セッションの記述を、電子メールを介して送信し、IMから電子メールに切り替え、新たな電子メール・ベースの通信セッションを提示するか、あるいは他のオプションを提示する。フランク・グリムスが、マックス・パワーに関連する同じ電子メールのサブアイコン504をクリックすると、システム100は、コンテクストにセンシティブなメニューの別組のオプションを生成する。システム100は、電話の可聴音をテキストに変換して、自動音声認識(ASR)を介してセッションをテキスト・メッセージ化する、あるいは他の方法でテキストから音声(TTS:text-to-speech)へ変換する。かくして、マックス204は、IMを介して、フランク202とは通信し、カール206とは、同一セッションであるが、別のモードで通信できる。これらの差は、セッション・ディスプレイで、視覚的に表示される。
【0039】
ディスプレイ500は、いずれの参加者にも関連しない追加的サブアイコンを有し、参加者の優先とは無関係に、全て利用可能な通信形態を得ることができる。ユーザは、サブアイコンを追加的サブアイコンからユーザにドラッグして、現在利用できないあるいは好ましくない通信形態を介して、相互作用を要求することができる。例えば、マックス・パワー204のアイコンは、テレビ会議用の関連するサブアイコンを有さない。フランク・グリムスは、テレビ会議用のサブアイコンを、追加的サブアイコンからマックス・パワ204上にドラッグして、テレビ会議を要求することができる。
【0040】
図6は、通信セッションのグラフィカル・ビューを有する第1のユーザ・インターフェース600を示す。ユーザ・インターフェース600は、通信セッション・ビュー602と様々な制御機能を有し、通信セッション604、例えば、通信形態ボタン614、通信接続制御ボタン616、コンタクト先のディレクトリ618、共通アクション・ボタン620を、操作する。「ミュージックをホールドすること」、「音声記録」、「音声から音声への変換」は、共通のアクション・ボタン620の一例である。この構成は、例示的なものである。他の構成も様々な方法で配列された要素を含むことができる。
【0041】
通信セッション・ビュー602は、3人の参加者、ジョン(John)606と、モー(Moe)608と、カーリー(Carly)610が参加している通信セッション604を示す。この実施例において、通信セッション・ビュー602は、中央ハブ即ちセッション・マネージャ612を有し、これが参加者をリンクする。各参加者のアイコンは、関連するアイコンの組を有し、これにより利用可能なあるいは現在使用されている通信形態を表す。例えば、ジョン606は、携帯電話アイコン606aと、ウェブカム・アイコン606bを有する。モー608は、ウェブカム・アイコン608aと、電話アイコン608bと、コンピュータ・アイコン608cを有する。カーリー610は、電話アイコン610aと、コンピュータ・アイコン610bと、ウェブカム・アイコン610cを有する。ユーザは、ユーザ・インターフェース600の様々な部分から、グラフィカル要素をドラッグしドロップして、様々なアクションを実行する。例えば、参加者を通信セッション604に加えること、新たな通信セッションを形成すること、通信セッションを終了すること、通信セッションを分割すること、情報を共有すること等である。
【0042】
図7は、通信セッションのグラフィカル・ビューを有する第2のユーザ・インターフェース700を示す。
図7は、
図6とは異なるが、同一の情報を示すス。ユーザ・インターフェース700は、通信セッション・ビュー702と様々な制御機能を有し、通信セッション704、例えば、通信形態ボタン714、基本的入出力ボタン716、コンタクト先のディレクトリ718、共通アクション・ボタン720を、操作する。この構成は、例示的なものである。他の構成も様々な方法で配列された要素を含むことができる。
通信セッション・ビュー702は、3人の参加者、ジョン(John)706と、モー(Moe)708と、カーリー(Carly)710が参加している通信セッション704を示す。この実施例において、通信セッション・ビュー702は、リンクしたアイコンではなく、共有領域を占有する四角形を示す。この実施例においては、通信セッション・ビュー702は、中央ハブ即ちセッション・マネージャ712のグラフィカル表示を含まない。各参加者の四角形は、関連するアイコンの組を有し、これにより利用可能なあるいは現在使用されている通信形態を表す。例えば、ジョン706は、携帯電話アイコン706aと、ウェブカム・アイコン706bを有する。モー708は、ウェブカム・アイコン708aと、電話アイコン708bと、コンピュータ・アイコン708cを有する。カーリー710は、電話アイコン710aと、コンピュータ・アイコン710bと、ウェブカム・アイコン710cを有する。ユーザは、ユーザ・インターフェース700の様々な部分から、グラフィカル要素をドラッグしドロップして、様々なアクションを実行する。例えば、参加者を通信セッション704に加えること、新たな通信セッションを形成すること、通信セッションを終了すること、通信セッションを分割すること、情報を共有すること等である。
【0043】
ユーザは、自分自身のあるいは他人の通信形態を、通信形態ボタン714を介して操作することができる。例えば、ユーザは、通信形態ボタン714を参加者のアイコン、例えば、ジョン706のアイコン上にクリックしドラッグする、即ち動かすことができる。このアクションによりシステム100は、指定された通信形態にシフトする。あるいはジョン706が指定された通信形態に変更しようとしているか否かを、ジョン706に問い合わせることができる。
【0044】
基本的入力/出力ボタン716は、ユーザに基本的な機能を与えて、これにより通信セッションを操作したり、新たな通信セッションを形成したり、システムの問い合わせに応答したりする。例えば、ユーザが新たな参加者を通信セッションに参加させようとした時には、ユーザは「新たな」ボタンをクリックする。システム100は、ダイアログをユーザに提示して、どのコンタクト先を通信セッションに追加すべきかを決定し、「確かですか?(Are you sure?)」のような確認ダイアログを提示する。その後、ユーザは、「OK」ボタンをタップして確認し、その後にシステム100は、選択されたコンタクト先を新たな参加者として追加する。
【0045】
図8は、グラフィカル・ユーザ・インターフェース(GUI)のグラフィカル・サブ要素のアプリケーションの一例を示す。この実施例は、2人の参加者802、804が参加している通信セッション800を示す。通信セッション800を示すグラフィカル・ユーザ・インターフェース(GUI)は、通信セッション・ハブ、即ちセッション・マネージャ806のグラフィカル表示を含む。各参加者のアイコンは、通信セッション・ハブ806に、現在使用されている、好ましい、通信形態を表す複数のラインを介して、接続されている。例えば、参加者802は、通信セッション・ハブ806に、3本のラインで接続されている。第1のラインは電話808で、第2のラインはテレビ会議810で、第3のラインはインスタント・メッセージ812である。参加者804は、通信セッション・ハブ806に2本のラインで接続されている。第1のラインは電話814で、第2のランはテキスト・メッセージ816である。
【0046】
ユーザは、個々のラインを他のコンタクト先にクリックしドラッグして、更なる通信セッションを確立することができる。例えば、参加者参加者802、804が、多くの参加者を有する通信セッションの一部であるとすると、参加者802は、参加者804とサイドバーを確立するが、これはIMライン812をドラッグし、それを参加者804上に直接ドロップすることで行う。その後、サイドバーを終了するために参加者804は、IMライン812を通信セッション・ハブ806に戻すようドラッグする。
【0047】
別の態様において、通信セッションは、各参加者に対し複数の通信形態を有する。例えば、通信セッションは、テレビ会議であり、このテレビ会議において、全ての参加者は、ビデオ・ストリーム(ビデオカメラを利用している場合)を有し、ある参加者は、オーディオ・ストリーム(マイクロフォンを利用している場合)を有し、通信セッションは、ビデオ・ストリームの元でテキストベースのチャットを有する。この実施例において、グラフィカル表示の各参加者は、通信セッションに、1本、2本、3本のグラフィカル・リンクを介して接続される。このグラフィカル・リンクが、実際の通信形態を表す。ユーザは、個別に通信セッションへの各通信形態のリンクを制御(終了、追加、無音、中止等)できる。例えば、参加者802は、テレビ会議・リンク(ビデオ・ストリームを他の参加者804にハブ806を介して供給するリンク)810を中止しているが、他の2つの通信形態、電話808とIM812は維持している。この場合、参加者802は、後でテレビ会議・リンク810を再開することができる。
【0048】
次に
図9を参照して本発明の方法を説明する。本発明の方法は、
図1のシステムを例に議論する。
図2、
図4−8は、
図9の方法のグラフィカル・インターフェースの一例を示す。
【0049】
図9は、グラフィカル・ユーザ・インターフェースのウィジェットを用いて、中立的に通信モードを管理する方法を示す。システム100は、グラフィカル・ユーザ・インターフェースを介して、接続されたグラフィカル要素の組を表す。この接続されたグラフィカル要素が、複数の通信ユーザを含む通信セッションの構造を表す。ユーザを表す各グラフィカル要素は、ユーザ通信の詳細を示すグラフィカル・サブ要素を更に含む。グラフィカル・サブ要素あるいは通信ウィジェットは、関連するユーザが通信セッションに接続される通信モードを示す。グラフィカル・サブ要素は、関連するユーザに対し利用可能な通信モードを示す。あるグラフィカル・サブ要素は、電話アイコン、携帯電話アイコン、インスタント・メッセージ・アイコン、カメラ・アイコン、ビデオカメラ・アイコン、マイクロフォン・アイコン、テキスト・メッセージ・アイコン、ドキュメント・アイコン、ヘッドセット・アイコン、電子メール・アイコンを含む。ライン、形状、近接性、共通形状、共通の色、共通の外観のいずれかが、グラフィカル・ユーザ・インターフェースの中の連結されたグラフィカル要素を接続する。一態様において、システム100は、通信詳細を変更することに基づいて、グラフィカル・サブ要素をダイナミックに更新する。例えば、ユーザが、インスタント・メッセージからテレビ会議にシフトした場合には、システム100は、それぞれのサブアイコンを更新して、そのシフトを反映する。
【0050】
システム100は、接続されたグラフィカル要素の組に関連するユーザ入力を受領する。このユーザ入力は、通信セッションに関連するアクションを有する(904)。ユーザ入力は、マウスのクリック、タッチスクリーン上での指の接触あるいは他の適宜の入力である。ユーザは、アイコンをクリックし、ドラッグし、ドロップし、即ち動かして、ユーザの入力とすることができる。
【0051】
モード的に中立な方法でユーザ制御に適用する例を次に説明する。例えば、
図7に示すディスプレイは、「OK」ボタン、「CANCEL」ボタン、「UNDO」ボタン(左向き矢印)と「REDO」(右向き矢印)を、ベーシックな入力/出力ボタン716の一部として有する。これによりユーザは、連続するステップで呼びの接続グラフを編集し、その後ユーザが「OK」ボタンで確認した後に、全てのアクションを実行する。「CANCEL」と「UNDO/REDO」ボタンにより、ユーザは、アクションを実行する前に修正することができる。例えば、ユーザは、最初にラインハルト(Reinhard)を現在のオーディオ・セッションに追加し、その後にデビッド(David)、更にJCを追加することができる。OKボタンを押した後、システム100は、同時にこの3人の新たな参加者にダイアルをする。ユーザは、類似のステップのシーケンスを適用して、3人の新たな参加者を、既存のIMセッションに追加できる。モード的に中立なGUIの例の違いは、オーディオ・セッションを拡張するための、新たな参加者に対するドロップ・ターゲットは、参加者ウィンドウ内のオーディオ・アイコンであり、一方、IMセッションを拡張するためのドロップ・ターゲットは、IMアイコンである。他の変形例において、ユーザは、全ての所望の個人のアイコンを、汎用の通信セッションアイコンにドラッグするだけでよい。システム100は、全ての所望の人に対する共通の通信形態を決定し、この共通の通信形態で各人に接触する。
【0052】
システム100は、受領したユーザ入力に基づいて、アクションを実行する(906)。システム100は、特定のグラフィカル・サブ要素を示す第1ユーザ入力を受領し、この特定のグラフィカル・サブ要素に基づいたオプション・メニューとそれぞれの関連するユーザを表示し、前記オプションのメニュー内のオプションを選択する第2のユーザ入力を受領し、この第2のユーザ入力に基づいて、通信セッションを操作する。一実施例において、システム100は、通信セッションを操作するが、これは、個別の通信セッションを生成することにより行なう。
【0053】
インターフェースは、全ての通信形態をセッション制御と同一に取り扱う。例えば、あらゆるモード又はタイプの通信セッションは、同一のユーザ入力通信形態を用いて、制御管理される。かくして通信セッションが、開始し、終了し、分離され、参加者が追加されたり外されたりするは、同一の通信形態(ドラッグ&ドロップ、音声、ジェスチャ入力、タッピング等)が、別の通信モードでも、同一の機能を実行できる。4人の参加者がいるIMチャット・セッションは、2人のIMチャット参加者のセッションに二分割できるが、これは、4人の参加者がいる電話会議を、2人参加者がいる電話会議に二分割するのと同一の形態で、行なわれる。通信セッションは、ウェブ上のテレビ会議あるいはセッションを共有するスクリーンである。セッション制御に関しユーザが実行する操作は、同じでる。
【0054】
かくして
図2、
図4−8に示すインターフェースは、新たな通信モードをサポートし、これにより、ユーザが他の通信モードと同一の通信形態で新たな通信モードを管理できるようになる。例えば、システムが、Google wave のような通信モードを、呼び、ビデオ、IM、電子メールあるいはソーシャルに加えて、統合すると、グラフィカル・ユーザ・インターフェース制御は、同一となる。システム100は、新たなモードを受領し、一体化されたプロセスを実行して、通信セッションをこの新たなモードの元で制御(例えば、開始、終了、分離等)を行なう。その後、システムは、新たなモードを表すユーティリティ・アイコンをユーザに示す。この時点で、ユーザは、新たな通信形態についての知識は必要ないが、セッション制御に関し同一の動作手順(semantics)を維持する。同一の呼び接続メタファ(metaphors:ユーザの効果的な理解を促すための手法)、制御ボタン、ジェスチャ、音声コマンド、フリッカー・ムーブメント、装置の振動、あるいはユーザ入力の他のタイプの操作は、モード中立を維持する。これらの入力形態の全てを再使用し、通信機器の更なるモードに対するインターフェースに適用される。
【0055】
用語「コンピュータで読み取り可能な媒体」とは、コンピュータが実行するプロセスを記憶する媒体或いは伝送媒体を意味する。媒体とは、非揮発性媒体、揮発性媒体、伝送媒体を意味する。非揮発性の媒体とは、NVRAM、磁気ディスク又は光学ディスクである。揮発性媒体とは、DRAM、メインメモリを意味する。このコンピュータで読み取り可能な媒体の一般的なものとしては、フロッピーディスク、フレキシブルディスク、ハードディスク、磁気ディスク、他の磁気媒体、磁気光学媒体、CD−ROM、パンチカード、ペーパーテープ等、更にRAM、PROM、EPROM、FLASH−EPROM、メモリカード、メモリチップ、或いはカートリッジ等がある。e−mail或いは他の自己保存型の情報アーカイブに付属したデジタルファイルは、記憶媒体に等価な分配型の記憶媒体であり、本発明でいう記憶媒体と見なすことができる。コンピュータで読み取り可能な媒体がデータベースとして構築された場合には、このデータベースは、あらゆる種類のデータベース、例えば関連型、階層型、オブジェクト志向型のいずれをも含む。
他の実施例においては、開示された方法は、コンピュータで読み取り可能な記憶媒体に記憶されたソフトウエアで実行され、コントローラとメモリとを有するプログラムされた汎用コンピュータ、特殊目的コンピュータ、マイクロプロセッサ等で実施される。これ等の実施例においては、本発明のシステムと方法は、パソコンに組み込まれたプログラムで実行できる。例えばアプレット、JAVA、Cグラフィカル・インターフェーススクプリト、サーバ或いはコンピュータ、ワークステーションに記録された資源或いは専用の測定システムに組み込まれたルーチン等で実施できる。
本発明のシステムは、本発明のシステムと方法をソフトウエア又はハードウエアのシステムに物理的に組み込むことにより実施することもできる。 本発明は、特定の標準及びプロトコルを例に説明したが、本発明はこのような標準とプロトコルに制限されるものではない。他の類似の標準とプロトコルも本発明で用いることができる。これ等の標準とプロトコルは、今後開発されるより効率的な標準とプロトコルで置換されるかも知れないが、このような置換も本発明の一態様(一実施例)と考えられる。
【0056】
以上の説明は、本発明の一実施例に関するもので、この技術分野の当業者であれば、本発明の種々の変形例を考え得るが、それらはいずれも本発明の技術的範囲に包含される。特許請求の範囲の構成要素の後に記載した括弧内の番号は、図面の部品番号に対応し、発明の容易なる理解の為に付したものであり、発明を限定的に解釈するために用いてはならない。また、同一番号でも明細書と特許請求の範囲の部品名は必ずしも同一ではない。これは上記した理由による。用語「又は」に関して、例えば「A又はB」は、「Aのみ」、「Bのみ」ならず、「AとBの両方」を選択することも含む。特に記載のない限り、装置又は手段の数は、単数か複数かを問わない。