(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6596919
(24)【登録日】2019年10月11日
(45)【発行日】2019年10月30日
(54)【発明の名称】計算実行方法、計算処理システム及びプログラム
(51)【国際特許分類】
G06F 13/00 20060101AFI20191021BHJP
H04N 7/18 20060101ALI20191021BHJP
H04N 7/15 20060101ALI20191021BHJP
【FI】
G06F13/00 650A
H04N7/18 U
H04N7/18 E
H04N7/15
【請求項の数】21
【全頁数】18
(21)【出願番号】特願2015-103359(P2015-103359)
(22)【出願日】2015年5月21日
(65)【公開番号】特開2016-115328(P2016-115328A)
(43)【公開日】2016年6月23日
【審査請求日】2018年2月28日
(31)【優先権主張番号】14/574,379
(32)【優先日】2014年12月17日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】000005496
【氏名又は名称】富士ゼロックス株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】特許業務法人太陽国際特許事務所
(72)【発明者】
【氏名】アブラハミ ダニエル
(72)【発明者】
【氏名】ジェイコブ ビール
(72)【発明者】
【氏名】アンソニー ダニガン
【審査官】
今川 悟
(56)【参考文献】
【文献】
特開平10−200807(JP,A)
【文献】
特開2011−166613(JP,A)
【文献】
特開2013−009111(JP,A)
【文献】
特開2005−195995(JP,A)
【文献】
特開平09−186923(JP,A)
【文献】
特開2009−225471(JP,A)
【文献】
特開平06−141317(JP,A)
【文献】
特表2006−523352(JP,A)
【文献】
米国特許出願公開第2013/0162749(US,A1)
【文献】
米国特許出願公開第2010/0149310(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 13/00
H04N 7/15
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムで実行される計算実行方法であって、
前記処理ユニットは、
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取り、
b 受取った前記ビデオ画像を前記ディスプレイで参加者に表示し、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、
d 前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を動かさせ、
e 前記遠隔装置を動かす量に応じた前記ディスプレイの移動量を決定し、前記ディスプレイを前記移動量に基づいて移動する、
計算実行方法。
【請求項2】
dで、前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を回転させる、請求項1記載の計算実行方法。
【請求項3】
前記ディスプレイの移動は前記ディスプレイの回転を含む、請求項1又は請求項2記載の計算実行方法。
【請求項4】
前記ディスプレイの動きの規模は、前記遠隔装置の動きの規模よりも小さい、請求項1〜請求項3の何れか1項記載の計算実行方法。
【請求項5】
前記ディスプレイの動きの規模は、前記遠隔装置の動きの規模と非線形関係を有する、請求項1〜請求項4の何れか1項記載の計算実行方法。
【請求項6】
前記ディスプレイを再度元の位置である中心位置に戻す、ことを更に含む、請求項1〜請求項5の何れか1項記載の計算実行方法。
【請求項7】
前記遠隔装置は第二のディスプレイを更に含み、
前記計算実行方法は、
第二のカメラを用いて参加者の第二のビデオ画像をキャプチャし、該キャプチャした第二のビデオ画像を前記第二のディスプレイで表示するよう前記遠隔装置に伝送すること、
を更に含む、請求項1〜請求項6の何れか1項記載の計算実行方法。
【請求項8】
装置状態を示す触覚フィードバックを、参加者に与えることを更に含む、請求項1〜請求項7の何れか1項記載の計算実行方法。
【請求項9】
処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムで実行される計算実行方法であって、
前記処理ユニットは、
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取り、
b 受取った前記ビデオ画像を前記ディスプレイの参加者に表示し、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、
d 前記参加者の選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を動かさせ、
e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、前記ディスプレイに表示された受け取った前記ビデオ画像をスキューする、
計算実行方法。
【請求項10】
dで、前記参加者の選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を回転させる、請求項9記載の計算実行方法。
【請求項11】
前記ディスプレイのシミュレートした前記動きは、前記ディスプレイのシミュレートした回転を含む、請求項9又は請求項10記載の計算実行方法。
【請求項12】
前記ディスプレイのシミュレートした前記動きの規模は、前記遠隔装置の動きの規模よりも小さい請求項9〜請求項11の何れか1項記載の計算実行方法。
【請求項13】
前記ディスプレイのシミュレートした前記動きの規模は、前記遠隔装置の動きの規模と非線形の関係を有する、請求項9〜12の何れか1項記載の計算実行方法。
【請求項14】
前記ディスプレイに表示された受け取った前記ビデオ画像を元の状態までスキューする、請求項9〜請求項13の何れか1項記載の計算実行方法。
【請求項15】
前記遠隔装置は第二のディスプレイを更に含み、
前記計算実行方法は、
第二のカメラを用いて参加者の第二のビデオ画像をキャプチャし、該キャプチャした第二のビデオ画像を前記第二のディスプレイで表示するよう前記遠隔装置に伝送すること、
を更に含む、請求項9〜請求項14の何れか1項記載の計算実行方法。
【請求項16】
装置状態を示す触覚フィードバックを、参加者に与えること、を更に含む、請求項9〜請求項15の何れか1項記載の計算実行方法。
【請求項17】
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、
b 受け取った前記ビデオ画像をディスプレイで参加者に表示し、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、
d 前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように前記遠隔装置を動かさせ、
e 前記遠隔装置を動かす量に応じた前記ディスプレイの移動量を決定し、前記ディスプレイを前記移動量に基づいて移動する、
処理を、コンピュータに実行させるためのプログラム。
【請求項18】
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、
b 受け取ったビデオ画像をディスプレイで参加者に表示し、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、
d 前記参加者の選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように前記遠隔装置を動かさせ、
e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、ディスプレイに表示された受け取った前記ビデオ画像をスキューする、
処理を、コンピュータに実行させるためのプログラム。
【請求項19】
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、
b 参加者の動きを表す参加者のアバターを生成し、
c 受け取ったビデオ画像に生成した前記参加者のアバターを重ね合わせ、
d 前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を動かさせ、
e 前記参加者のアバターを前記参加者に重ね合わせた受け取った前記ビデオ画像をディスプレイに表示する、
処理を、コンピュータに実行させるためのプログラム。
【請求項20】
処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムであって、
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取る手段と、
b 受け取った前記ビデオ画像を前記ディスプレイで参加者に表示する手段と、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知する手段と、
d 前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように、前記遠隔装置を動かさせる手段と、
e 前記遠隔装置を動かす量に応じた前記ディスプレイの移動量を決定し、前記ディスプレイを前記移動量に基づいて移動する手段と、
を備えた計算処理システム。
【請求項21】
処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムであって、
a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取る手段と、
b 受取った前記ビデオ画像を前記ディスプレイの参加者に表示する手段と、
c 表示された前記ビデオ画像内の参加者が選択した位置を検知する手段と、
d 前記参加者が選択した位置が前記遠隔装置に備えられたカメラのビューの中心になるように前記遠隔装置を動かさせる手段と、
e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、前記ディスプレイに表示された受け取った前記ビデオ画像をスキューする手段と、
を備えた計算処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、計算実行方法、計算処理システム及びプログラムに関する。
【背景技術】
【0002】
遠隔コラボレーションを支援することや遠隔スペースで参加者に臨調感を与えることは、研究及び商業システムの中心である。提供されている一つのソリューションは、(デスクトップまたはフルサイズのロボットとしてどちらか一方の)可動可能な装置を通して遠隔参加者が参加することによりビデオ会議を拡張する。これらソリューションは遠隔で参加している参加者が部屋全体を見渡すことを可能とし、そのような参加者の会話についていく能力に向上をもたらす。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許第8520052号公報
【特許文献2】米国特許第7154526号公報
【特許文献3】米国特許第8717447号公報
【非特許文献】
【0004】
【非特許文献1】C ハリソンら(Harisson,C et al)、「一般的なウェブカメラを用いた疑似3次元ビデオ会議(Pseudo−3D Video Conferencing with a Generic Webcom)」、アメリカ電気電子技術者協会、第10回マルチメディア国際シンポジウム会報(In Proc. Of 10th IEEE Int. Symp. on Multimediaバークレイ カリフォルニア)、アメリカ電気電子技術者協会、国際マルチメディアシンポジウム(ISM IEEE、2008年、ワシントンD.C.)、2008年12月15日−17日、P.236−241
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら“移動”や見渡す能力によらず、遠隔で会議に参加する参加者は、遠隔スペースで存在を感じないことが示されている。これは彼らが遠隔スペースでの物理的な表示において変化を経験することができないからであろう。
【0006】
本発明は、遠隔参加者に遠隔表示の物理状態についてヴァーチャル及び/もしくは物理的に手がかりを与える、新たなそして改善されたシステム、方法及びプログラムを提供する。
【課題を解決するための手段】
【0007】
本開示の第1の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムで実行される計算実行方法であって、前記処理ユニットは、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 受取った前記ビデオ画像を前記ディスプレイで参加者に表示し、c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、d 前記参加者が選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を動かさせ、e 前記遠隔装置の動きを表すよう前記ディスプレイを移動する。
【0008】
本開示の第2の態様は、第1の態様の計算実行方法であって、dで、前記参加者が選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を回転させる。
【0009】
本開示の第3の態様は、第1又は第2の態様の計算実行方法であって、前記ディスプレイの移動は前記ディスプレイの回転を含む。
【0010】
本開示の第4の態様は、第1〜第3の何れかの態様の計算実行方法であって、前記ディスプレイの動きの規模は、前記遠隔装置の動きの規模よりも小さい。
【0011】
本開示の第5の態様は、第1〜第4の何れかの態様の計算実行方法であって、前記ディスプレイの動きの規模は、前記遠隔装置の動きの規模と非線形関係を有する。
【0012】
本開示の第6の態様は、第1〜第5の何れかの態様の計算実行方法であって、前記ディスプレイを再度元の位置である中心位置に戻す、ことを更に含む。
【0013】
本開示の第7の態様は、第1〜第6の何れかの態様の計算実行方法であって、前記遠隔装置は第二のディスプレイを更に含み、前記計算実行方法は、第二のカメラを用いて参加者の第二のビデオ画像をキャプチャし、該キャプチャした第二のビデオ画像を前記第二のディスプレイで表示するよう前記遠隔装置に伝送すること、を更に含む。
【0014】
本開示の第8の態様は、第1〜第7の何れかの態様の計算実行方法であって、装置状態を示す触覚フィードバックを、参加者に与えることを更に含む。
【0015】
本開示の第9の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムで実行される計算実行方法であって、前記処理ユニットは、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 受取った前記ビデオ画像を前記ディスプレイの参加者に表示し、c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、d 前記参加者の選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を動かさせ、e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、前記ディスプレイに表示された受け取った前記ビデオ画像をスキューする。
【0016】
本開示の第10の態様は、第9の態様の計算実行方法であって、dで、前記参加者の選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を回転させる。
【0017】
本開示の第11の態様は、第9又は第10の態様の計算実行方法であって、前記ディスプレイのシミュレートした前記動きは、前記ディスプレイのシミュレートした回転を含む。
【0018】
本開示の第12の態様は、第9〜第11の何れかの態様の計算実行方法であって、前記ディスプレイのシミュレートした前記動きの規模は、前記遠隔装置の動きの規模よりも小さい。
【0019】
本開示の第13の態様は、第9〜第12の何れかの態様の計算実行方法であって、前記ディスプレイのシミュレートした前記動きの規模は、前記遠隔装置の動きの規模と非線形の関係を有する。
【0020】
本開示の第14の態様は、第9〜第13の何れかの態様の計算実行方法であって、前記ディスプレイに表示された受け取った前記ビデオ画像を元の状態までスキューする。
【0021】
本開示の第15の態様は、第9〜第14の何れかの態様の計算実行方法であって、前記遠隔装置は第二のディスプレイを更に含み、前記計算実行方法は、第二のカメラを用いて参加者の第二のビデオ画像をキャプチャし、該キャプチャした第二のビデオ画像を前記第二のディスプレイで表示するよう前記遠隔装置に伝送すること、を更に含む。
【0022】
本開示の第16の態様は、第9〜第15の何れかの態様の計算実行方法であって、装置状態を示す触覚フィードバックを、参加者に与えること、を更に含む。
【0023】
本開示の第17の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムで実行される計算実行方法であって、前記処理ユニットは、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 参加者の動きを表す参加者のアバターを生成し、c 受け取った前記ビデオ画像に生成した参加者の前記アバターを重ね合わせ、d 前記参加者が選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を動かし、e 前記ディスプレイに前記参加者のアバターを前記参加者に重ね合わせた、受け取った前記ビデオ画像を表示する。
【0024】
本開示の第18の態様は、第17の態様の計算実行方法であって、前記参加者のアバターは出力される第二のビデオ画像を用いて生成される。
【0025】
本開示の第19の態様は、第18の態様の計算実行方法であって、前記参加者の輪郭を取得するために、前記第二のビデオ画像から背景を取除き、前記参加者のアバターは取得した前記参加者の輪郭を用いて生成する、ことを更に含む。
【0026】
本開示の第20の態様は、第17〜第19の何れかの態様の計算実行方法であって、生成した前記参加者のアバターを、意味のあるコンテンツの隠れを最小化するように、受け取ったビデオ画像に重ね合わせる。
【0027】
本開示の第21の態様は、プログラムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 受け取った前記ビデオ画像をディスプレイで参加者に表示し、c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、d 前記参加者が選択した位置の中心に前記カメラが置かれるように前記遠隔装置を動かさせ、e 前記遠隔装置の動きを表すよう前記ディスプレイを移動する、処理を、コンピュータに実行させる。
【0028】
本開示の第22の態様は、プログラムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 受け取ったビデオ画像をディスプレイで参加者に表示し、c 表示された前記ビデオ画像内の参加者が選択した位置を検知し、d 前記参加者の選択した位置の中心に前記カメラが置かれるように前記遠隔装置を動かさせ、e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、ディスプレイに表示された受け取った前記ビデオ画像をスキューする、処理を、コンピュータに実行させる。
【0029】
本開示の第23の態様は、プログラムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、ネットワーク・インターフェイスを介してビデオ画像を受け取り、b 参加者の動きを表す参加者のアバターを生成し、c 受け取ったビデオ画像に生成した前記参加者のアバターを重ね合わせ、d 前記参加者が選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を動かさせ、e 前記参加者のアバターを前記参加者に重ね合わせた受け取った前記ビデオ画像をディスプレイに表示する、処理を、コンピュータに実行させる。
【0030】
本開示の第24の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取る手段と、b 受け取った前記ビデオ画像を前記ディスプレイで参加者に表示する手段と、c 表示された前記ビデオ画像内の参加者が選択した位置を検知する手段と、d 前記参加者が選択した位置の中心に前記カメラが置かれるように、前記遠隔装置を動かさせる手段と、e 前記遠隔装置の動きを表すよう前記ディスプレイを移動する手段と、を備える。
【0031】
本開示の第25の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取る手段と、b 受取った前記ビデオ画像を前記ディスプレイの参加者に表示する手段と、c 表示された前記ビデオ画像内の参加者が選択した位置を検知する手段と、d 前記参加者が選択した位置の中心に前記カメラが置かれるように前記遠隔装置を動かさせる手段と、e 前記ディスプレイの動きをシミュレートし前記遠隔装置の動きを表すよう、前記ディスプレイに表示された受け取った前記ビデオ画像をスキューする手段と、を備える。
【0032】
本開示の第26の態様は、処理ユニット、ディスプレイ、ネットワーク・インターフェイス及びメモリを備える計算処理システムであって、a 遠隔地に備えられ、少なくともカメラを備える遠隔装置から、前記ネットワーク・インターフェイスを介してビデオ画像を受け取る手段と、b 参加者の動きを表す参加者のアバターを生成する手段と、c 受け取った前記ビデオ画像に生成した前記参加者のアバターを重ね合わせる手段と、d 前記参加者が選択した位置の中心に前記カメラが置かれるように前記遠隔装置を動かさせる手段と、e 前記ディスプレイに前記参加者のアバターを前記参加者に重ね合わせた受け取った前記ビデオ画像を表示する手段と、を備える。
【0033】
本発明に関する更なる態様は、以下の記載で部分的に説明され、また記載から部分的に明白であり、発明の実施により習得することができる。本発明の態様は、以下の詳細な記載及び特許請求の範囲において特に指摘された要素、及び種々の要素と態様との組み合わせによって実施及び達成することができる。
【0034】
上述また以下の記載は単なる例示や説明であり、特許請求の範囲に記載の発明もしくはその適用をいかなる形であれ制限することを意図したものではないことを理解されたい。
【発明の効果】
【0035】
遠隔参加者に遠隔表示の物理状態についてヴァーチャル及び/もしくは物理的に手がかりを与えることが可能となる。
【図面の簡単な説明】
【0036】
【
図1】ここに記述されるコンセプトの実行に用いられるシステムアーキテクチャ100の実施例を示す。
【
図2】本記述の一実施例に関連したローカル及び遠隔スペースにおける(回転)変化を上から見下ろしたビューを示す。
【
図3】第一の場所に位置する参加者の知覚と同一の効果を示す。
【
図4】小規模の物理動作を通して物理状態を伝達するシステムの操作シーケンスの実施例を示す。
【
図5】ディスプレイの3次元回転をシミュレートするビデオ画像の境界領域の形状変化を示す。
【
図6】ビデオウィンドウの小規模操作を通して物理状態を伝達するシステムの操作シーケンスの実施例を示す。
【
図7】参加者のアバターが重ね合されたディスプレイ105で参加者が表示された遠隔地からのビデオ画像の参加者ビューの例を示す。
【
図8】参加者のアバターを遠隔シーンに重ね合わせるシステムの操作シーケンスの実施例を示す。
【
図9】遠隔装置の物理状態を伝達する計算処理システムの実施例を示す。
【発明を実施するための形態】
【0037】
本明細書に組み込まれ本明細書の一部を構成する添付図面は、本発明の実施形態を例示し、説明と相俟って本発明の技術の原理の説明及び例示に供される。
【0038】
以下の詳細な記述において、添付の図面を参照する。添付の図面において、同様の機能を有する構成要素は同様の参照符号を付されている。添付の図面は例示のためのものであり、限定を意図するものではない。特定の実施例及び実装は本発明の原理と矛盾しない。これらの実装は当業者が実施できる程度に十分詳細に記述され、またその他の実装が使用されてもよく、様々な構成要素の構造の変更及び/もしくは置き換えが本発明の範囲及び思想から逸脱することなく可能であることは理解されるだろう。したがって、以下の詳細な記述は、限定的に解釈されるべきではない。さらに、記述される本発明の異なる実施例は、汎用計算機上で稼働するソフトウェアの形態によっても、専用ハードウェアの形態によっても、ソフトウェア及びハードウェアの組み合わせによっても、実装可能である。
【0039】
従来のデスクトップテレプレゼンス装置は、遠隔参加者の行動に基づき自由に角度を変えてディスプレイ及びカメラを動かすことができる。これまでのテレプレゼンスシステムは、例えば参加者がビデオをクリックしたときに、クリックしたポイントがビデオの中心になるように遠隔スペースにおいてデバイスを物理的に動かす。しかしながら、ビデオの視点が変化するかもしれず、デバイスが物理的に動いたことが参加者には明確でなく、参加者の参加を体験する能力を低減する可能性がある。
【0040】
上述または従来のビデオ会議技術に関連する他の課題に対応するために、ここに記述される一つもしくは複数の実施例は、遠隔スペースにおいて上述の遠隔装置の物理状態を理解するために、参加者によって制御される遠隔装置のような、画像を用いて遠隔スペースを表す、参加者の支援となるシステム、方法を提供する。これは、上述の遠隔装置の物理状態を反映するローカルスペースのヴァーチャルもしくは物理的な変化を通して実現される。上述のシステムや方法の実施例は、遠隔参加者のサイトで遠隔装置の物理状態を反映するために用いることができる。ここに記述される一実施例は遠隔スペースの動きを表す(が同一ではない)ローカルスペースでの物理的な動きを含む。本開示で用いられる移動と動作の用語は、物体のピッチ(pitch)、ロール(roll)、ヨー(yaw)の変化を含む方向変化と空間位置変化の両方を広く含むと解釈されるべきである。
【0041】
他の実施例は、遠隔スペースのピッチとヨーの変化を示すためにビデオウィンドウを重ねる。また他の実施例は、参加者の可視表現(アバター)を生成し、そして遠隔スペースのビュー上に重ね合わせる。後述する実施例に関連して、記述されるシステムの主な利用形態はテーブル上に置かれたシステムの前に座った参加者によるものと想定される。
【0042】
「代表的な全体システム構成」
図1は、システムアーキテクチャ100の実施例を示し、ここに記述されるコンセプトの実行に用いられる。一つもしくは複数の実施例において、システムアーキテクチャ100は2つの物理的な場所で展開される様々なシステム構成を含む。すなわち、ビデオ会議参加者の自宅のような第一の場所114(‘ローカル’としてもここで参照される)、会議室のような第二の場所115(‘遠隔’としてもここで参照される)である。データ及びコマンドは、通信制御(ネットワーク・インターフェイス)手段101、102を用いてインターネット103を介して上述の2つの場所の間で送信される。一つもしくは複数の実施例において、第一の場所114にはビデオ会議参加者のビデオをキャプチャするカメラ104、第二の場所115でカメラ110からキャプチャしたビデオを表示するディスプレイ105、参加者が入力するコマンドを受け入れるキーボードやマウスのような入力手段106、コンピュータ107、ディスプレイ105の方向を変更するモータまたは他のアクチュエータ108、参加者に触覚フィードバックを与える触覚インターフェイス109を含む。一つもしくは複数の実施例において、カメラ104、ディスプレイ105、(任意で、)残りの構成101、及び構成106〜109は単独の遠隔通信装置に共に結合されてもよい。
【0043】
一つもしくは複数の実施例において、第二の場所115(‘遠隔’会議室)の装置には、第二の場所のビデオ会議参加者のビデオをキャプチャするカメラ110、第一の場所でカメラ104からキャプチャしたビデオを表示するディスプレイ111、コンピュータ112、モータまたは他のアクチュエータ113を含んでもよい。一つもしくは複数の実施例において、カメラ110、ディスプレイ111、(任意で、)残りの構成112、及び113は単独の遠隔通信装置に共に結合されてもよく、当該単独の遠隔通信装置は、遠隔スペース115においてローカルの参加者を表すために用いられてもよい。システムアーキテクチャ100の特定構成の操作は、特定の実施例に関連して後述される。
【0044】
「小規模の物理動作を通した物理状態の伝達」
第一の実施例において、第一の場所114のディスプレイ105(任意でカメラ104)とディスプレイ111を含む遠隔装置と第二の場所115のカメラ110は、モータ/アクチュエータ108及びモータ/アクチュエータ113の手段によって物理的に移動できるように各々構成される。しかしながら、後述する通り、ディスプレイ105の動作幅は、遠隔装置の動作幅よりも著しく小さい。なぜならディスプレイ105の動作は参加者の気づきに主に用いられる。換言すると、第一の実施例において、遠隔ディスプレイ111及びカメラ110を含む遠隔装置が移動したとき、ローカルのディスプレイ105もまた移動するであろうが小規模の動作である。一つもしくは複数の実施例において、遠隔ディスプレイ111、カメラ110、及びローカルのディスプレイ105についての動作の関係は非線形であってもよい。
【0045】
図2(a)、
図2(b)、
図2(c)、
図2(d)はここに記述される一実施例に関連して、ローカルと遠隔スペースの(回転)変化を上から見下ろしたビューを示す。
図2(a)及び
図2(c)は第一の場所114でディスプレイ105を含むテーブルトップの遠隔通信装置の回転に対応する。
図2(b)及び
図2(d)は第二の場所115でディスプレイ111を含む遠隔装置の回転に対応する。一実施例において、遠隔ディスプレイ111がZ(垂直)軸を中心に45度回転すると、ローカルのディスプレイ105は同じZ(垂直)軸に4.5度回転する。換言すると、大規模に回転する遠隔ディスプレイ111を含む遠隔装置の物理的変化を示すために、ローカルディスプレイは同じ方向に回転するが、小規模に回転する。
【0046】
図3(a)及び
図3(b)は、第一の場所114に位置する参加者の知覚と同様の効果を示す。
図3(a)及び
図3(b)から見ることができる通り、ローカルのディスプレイ105は、遠隔ディスプレイ111を含む遠隔装置で生じる変化を示すためにわずかに回転する。これは、上述の参加者に不自由なく参加者の机でビデオ会議システムを用いることを可能にする一方、第一の場所114での参加者に遠隔地(第二の場所)で起こった動作を理解させることを可能にする。一つもしくは複数の実施例において、ビデオ会議室システムは回転後にローカルのディスプレイ105を自動で再度中心位置に戻すように構成される。再度中心位置に戻すことは、
図3(a)に示す通り初期位置に戻すようローカルのディスプレイ105を回転することである。
【0047】
図4は小規模の物理動作を通して物理状態を伝達するシステムの操作シーケンスの実施例を示す。ステップ401で、システムはローカルのディスプレイ105で遠隔地115からのビデオ画像を参加者に見せる。ステップ402で、システムは遠隔会議室115内の場所に対応するビデオウィンドウ内の場所で参加者がマウスをクリックするなどの、参加者のイベントを検知する。ステップ403で、システムは参加者によって選択された位置がカメラのビューの中心になるようディスプレイ111とカメラ110を含む遠隔装置を回転する。ステップ404で、ローカルのディスプレイ105は遠隔ディスプレイ111及びカメラ110を含む遠隔装置の動作を表すよう回転されるが、その回転は小規模である(例えば、遠隔ディスプレイ111及びカメラ110の回転の規模の10分の1)。ステップ405で、自動的に再度中心位置に戻す機能が実行可能であると判定されると、ステップ406で、ディスプレイ105は初期の位置までゆっくり回転する。ステップ406の後、操作シーケンスは、最初のステップ401に戻る。ステップ405の判定が否定されると、ディスプレイ105を再度中心位置に戻さず、操作シーケンスはステップ401に戻る。
【0048】
「ビデオウィンドウの小規模操作を通した物理状態の伝達」
第二の実施例において、遠隔ディスプレイ111及びカメラ110を含む遠隔装置の物理状態の変化は、第一の実施例でディスプレイ105が実際に動くのとは対照的に、ローカルの場所114において参加者に向けてディスプレイ105に表示されたビデオ画像の境界領域の形状変化に反映される。これは、ディスプレイ105を物理的に動かすシステムを要求することなしに、ディスプレイ105の3次元回転をシミュレートするために実現される。
【0049】
図5(a)、
図5(b)、
図5(c)は、ディスプレイ105の3次元回転をシミュレートするビデオ画像の境界領域の形状変化を示す。
図5(a)はオリジナルのビデオ画像501を示す。一方、
図5(b)は水平面(Z(垂直)軸の周囲)でディスプレイ105のシミュレートした回転を伴ったビデオ画像502に対応する。最後に、
図5(c)は、垂直面(水平軸の周囲)でディスプレイ105のシミュレートした回転を伴ったビデオ画像503に対応する。換言すれば、ディスプレイ111及びカメラ110を含む遠隔装置の回転は、対応するビデオ画像の全体的な歪みに反映される。
【0050】
図6は、ビデオウィンドウの小規模操作を通して物理状態を伝達するシステム600の操作シーケンスの実施例を示す。ステップ601で、システムはローカルのディスプレイ105で遠隔の場所115からのビデオ画像を参加者に見せる。ステップ602で、システムは遠隔会議室115内の場所に対応するビデオウィンドウ内の場所で参加者がマウスをクリックするなどの、参加者のイベントを検知する。ステップ603で、システムは参加者により選択された位置の中心にカメラのビューが置かれるようディスプレイ111及びカメラ110を含む遠隔装置を回転する。ステップ604で、ディスプレイ111及びカメラ110を含む遠隔装置の動作を表すために、ローカルのディスプレイ105に示されるビデオ画像をローカルディスプレイ105の回転をシミュレートするようスキューさせるが、シミュレートする回転は小規模である(例えば、遠隔ディスプレイ111及びカメラ110を含む遠隔装置の回転規模の10分の1)。ステップ605で、自動的に再度中心位置に戻す機能が実行可能であると判定されると、ステップ606で、ディスプレイ105は初期の位置までゆっくりスキューを低減する。ステップ606の後、操作シーケンスは最初のステップ601に戻る。一方、ステップ605の判定が否定されると、操作シーケンスはステップ601に戻る。
【0051】
一つもしくは複数の実施例において、上述のステップ606では、ビデオ画像のヴァーチャルな操作または動作に続き、ローカルのディスプレイシステム105はとても緩やかに殆ど感知できない方法で(例えば、10秒に亘って)‘休止’状態に戻る(例えば、参加者に平行なディスプレイに戻る)。これは、遠隔スペース115でのディスプレイ111及びカメラ110を含む遠隔装置の動きと関係なく実行される。また、ビデオ会議システムは、
図1に示される触覚デバイス109を用いて参加者に触覚フィードバックを与えてもよい。
【0052】
「参加者のアバターを遠隔シーンのビューに重ね合わせ」
第三の実施例において、上述のビデオ会議システムは、遠隔シーン115の参加者ビューを表すビデオ画像に参加者のアニメ化されたアバターを重ね合せることにより、遠隔の物理スペースでどのように参加者が見えるかについて参加者に直接フィードバックを与える。このビデオ画像はディスプレイ105で参加者に表示される。一つもしくは複数の実施例において、上述の参加者のアバターは、カメラ104によりキャプチャされた出力ビデオストリームを操作することにより生成される。一つもしくは複数の実施例において、アバターはリアルタイムで参加者の動きと同調する(例えば、参加者が手を挙げるとアバターも手を挙げる)。
【0053】
一実施例において、参加者のシルエット(輪郭)は上述の参加者のアバターの生成に用いられる。参加者のシルエットは、カメラ104によってキャプチャされた参加者の出力ビデオストリームから背景を取除くことにより得られる。一実施例において、これは、当業者に良く知られたアクティブステレオカメラまたはパッシブステレオカメラなどの分離されたセンサを活用することにより実行される。或いはまたは更に、参加者の姿勢についての情報は同じデータから推測することができ、完全に合成されたアバターを生成することができる。いずれにしても、アニメ化された像の結果が(遠隔スペース115の)会議の参加者ビューに重ね合され、ディスプレイ105上で参加者に示される。この構成によりシーンにおいて重要な要素を隠すことなく参加者の存在の伝達を最適化する。
【0054】
図7(a)、
図7(b)は、参加者のアバターが重ね合されたディスプレイ105によって参加者が表示された遠隔の場所115からのビデオ画像の参加者ビューの例を示す。これらの図は、ディスプレイ105及びカメラ104を含むテーブルトップの遠隔通信装置を介して参加者701との遠隔ミーティングに接続するローカルの参加者704を示す。カメラ104はディスプレイ111を用いて遠隔参加者701に示すローカルの参加者の出力ビデオストリーム704をキャプチャするために用いられる。本実施例では、この出力ビデオストリームは、ディスプレイ105を用いて参加者に表示するビデオ画像702に重ね合された参加者のアバター703を生成するために用いられる。参加者のアバター703は示されたコンテンツの隠れを最小化するためにビデオ画像702の右下方向に置かれる。参加者のアバター703は遠隔参加者704に遠隔シーン115の参加者の存在を伝達する。
【0055】
図8は参加者のアバターを遠隔シーンに重ね合わせるシステムの操作シーケンス800の実施例を示す。ステップ801で、システムは遠隔ディスプレイ105で遠隔場所からの(入力)ビデオ画像を参加者に見せる。ステップ802で、システムは遠隔カメラ104を用いて出力ビデオ画像をキャプチャする。ステップ803で、システムは参加者のアバターを生成するためにキャプチャされた出力ビデオ画像を用いる。様々な実施例において、これは完全に合成したアバターを生成することまたはキャプチャされた出力ビデオ画像から背景を取り除くことによって行うことができる。ステップ804で、生成されたアバターは、ステップ801で参加者に示される遠隔の場所115からの(入力)ビデオ画像に重ね合わせられる。
【0056】
「代表的なコンピュータプラットフォーム」
図9は、遠隔装置の物理状態を伝達する計算処理システムの実施例を示す。一つもしくは複数の実施例において、計算処理システム900は、当業者によく知られているデスクトップコンピュータまたはデストップ通信デバイスのフォームファクタ内で実装されてもよい。変形例において、計算処理システム900は、ラップトップコンピュータ、ノートブックコンピュータ、タブレットコンピュータ、スマートフォンをベースに実装されてもよい。
【0057】
計算処理システム900はデータ・バス904あるいは計算処理システム900の様々なハードウェアの間で情報を伝達するためのその他の相互接続機構もしくは通信機構を含んでもよい。中央処理ユニット(CPUあるいは単にプロセッサ)901はデータ・バス904に接続され、情報を処理し、その他の計算処理タスク及び制御タスクを実行する。計算処理システム900は、ランダム・アクセス・メモリ(RAM)もしくはその他の動的記憶装置などのメモリ912を含む。メモリ912は、データ・バス904に接続され、様々な情報及びプロセッサ901によって実行される命令を記憶する。メモリ912は、磁気ディスク、光ディスク、半導体フラッシュ・メモリ・デバイス、もしくは、その他の不揮発性記憶デバイスなどの永久記憶装置を含んでいてもよい。
【0058】
一つもしくは複数の実施例において、プロセッサ901によって命令を実行する間、一時的な変数もしくはその他の中間的な情報を記憶するために、メモリ912が使用されてもよい。計算処理システム900は、さらに、リード・オンリー・メモリ(ROMもしくはEPROM)902もしくはその他の半導体記憶装置を含んでもよいが、含むか否かは任意である。リード・オンリー・メモリ(ROMもしくはEPROM)902もしくはその他の半導体記憶装置は、データ・バス904に接続され、計算処理システム900の操作に必要なファームウェア、BIOS(basic input-output system)、計算処理システム900の様々な構成パラメータなどの静的情報及びプロセッサ901のための命令を記憶する。
【0059】
一つもしくは複数の実施例において、計算処理システム900は、ディスプレイ909を備えていてもよく、ディスプレイ909は、データ・バス904に接続され、計算処理システム900のユーザに、上述したビデオ画像のような様々な情報を表示する。変形例において、ディスプレイ909は、(図示しない)グラフィック・コントローラ及び/もしくはグラフィック・プロセッサと関連付けられていてもよい。ディスプレイ909は、例えば、当業者にはよく知られているTFT(thin-film transistor)技術または有機LED(organic light emitting diode)技術を用いたLCD(liquid crystal display)として実装されていてもよい。異なる実施例において、ディスプレイ909は、計算処理システム900のその他の構成要素と同じ一般的な筐体に含まれていてもよい。変形例において、ディスプレイ909は、テーブルまたはデスクの上といった、筐体の外側に配置されていてもよい。参加者に触覚フィードバックを与えるために構成された触覚装置908と共に、上述で動きを実行するよう構成されたモータ/アクチュエータ903もまた提供されてもよい。モータ/アクチュエータ903と触覚装置908はまたデータ・バス904に接続される。
【0060】
一つもしくは複数の実施例において、計算処理システム900は、ディスプレイ909上のカーソルを制御するために、またコマンドの選択指示をプロセッサ901に送り方向情報を通信するための、マウスやトラックボール、タッチパッドもしくはカーソル方向キーなどの、マウス/ポインティングデバイスなどのカーソル制御装置910を含む一つもしくは複数の入力デバイスを備えてもよい。この入力デバイスは、典型的には、平面上の位置を特定するために、第1の軸(例えばx)及び第2の軸(例えばy)という2つの軸における2つの自由度を有してよい。
【0061】
計算処理システム900は、さらに、上述したビデオ動画を含む、様々な対象の動画や写真を取得するために、キーボード906と共にカメラ911を備えてもよく、それらは、参加者がプロセッサ901に命令する(ジェスチャを含む)ことと共に、写真や動画に限らない情報を通信するためにデータ・バス904に接続されていてもよい。
【0062】
一つもしくは複数の実施例において、計算処理システム900は、データ・バス904に接続されているネットワーク・アダプタ905などの通信インターフェイスをさらに備えていてもよい。ネットワーク・アダプタ905は、ローカルエリアネットワーク(LAN)及び/もしくはISDNアダプタ907の少なくとも一つを用いて、計算処理システム900とインターネット920との間での通信を確立することができる。ネットワーク・アダプタ905は、計算処理システム900とインターネット920との間で、双方向データ通信を提供してもよい。計算処理システム900のローカルエリアネットワークアダプタ907は、統合デジタルサービス網(ISDN)カードあるいはモデムであってよく、これにより、インターネットサービスプロバイダのハードウェア(不図示)を用いてインターネット920に接続する、電話回線とのデータ通信を確立する。他の例として、ネットワーク・アダプタ905は、ローカルエリアネットワークのインターフェイス/カード(LAN NIC)であってよく、これにより、インターネット920と互換性を有する通信を提供してよい。ある実施例において、ローカルエリアネットワーク(LAN)アダプタ907は、様々なタイプのデジタルデータストリームを伝送するための電子的もしくは電磁的な信号を送受信する。
【0063】
一つもしくは複数の実施例において、一般的に、インターネット920は、一つもしくは複数のサブ−ネットワークを介して、計算処理システム900に類似するシステムを用いて実行されてもよい遠隔ビデオ会議システムのようなその他のネットワーク資源へのデータ通信を提供する。したがって、計算処理システム900は、遠隔メディア・サーバ、ウェブ・サーバ、その他のコンテンツ・サービス、その他のネットワーク・データ・ストレージ資源などの、インターネット920のいずれかの位置に置かれている様々なネットワーク資源にアクセスすることができる。一つもしくは複数の実施例において、計算処理システム900はメッセージ、メディア、及び、アプリケーション・プログラム・コードを含むその他のデータを、ネットワーク・アダプタ905によって、インターネット920を含む様々なネットワークを介して、送受信する。例示的なインターネットにおいて、計算処理システム900がネットワーク・クライアントとして動作する場合、計算処理システム900上で稼働しているアプリケーション・プログラムのコードもしくはデータを計算処理システム900は要求することができる。同様に、計算処理システム900は、その他のネットワーク資源へ様々なデータもしくは計算処理コードを送信することができる。
【0064】
一つもしくは複数の実施例において、ここに記述される機能は、メモリ912に含まれる一つもしくは複数の命令の一つもしくは複数のシーケンスを実行するプロセッサ901に応じて、計算処理システム900によって実装される。命令は、他のコンピュータ読取可能媒体からメモリ912に読み込まれてもよい。メモリ912に含まれている命令のシーケンスを実行することによって、ここに記述されている様々な処理のステップがプロセッサ901によって実行される。変形例において、本発明の実施例を実装するために、ソフトウェアの命令に代えて、もしくは、ソフトウェアの命令と組み合わせて、ハードウェアによって実現されている回路が使用されてもよい。すなわち、本発明の実施例は、ハードウェア回路及びソフトウェアの任意の特定の組み合わせに限定されるものではない。
【0065】
ここで使用される用語「コンピュータ読取可能媒体」は、プロセッサ901へ実行するための命令を提供する際に関与する任意の媒体であってよい。コンピュータ読取可能媒体は、機械読取可能媒体の単なる一例であり、ここに記述される方法及び/もしくは技術の何れかを実装するための命令を搬送することができる。このような媒体は、不揮発性媒体、揮発性媒体などを含むが、これらに限定されない、多くの形態を採ることができる。
【0066】
非一時コンピュータ読取可能媒体の一般的な形態は、例えば、フロッピー(登録商標)・ディスク、フレキシブル・ディスク、ハード・ディスク、磁気テープ、もしくは、任意のその他の磁気媒体、CD−ROM、任意のその他の光媒体、パンチカード、紙テープ、孔パターンを有する任意のその他の物理的な媒体、RAM、PROM、EPROM、フラッシュEPROM、フラッシュ・ドライブ、メモリ・カード、任意のその他のメモリ・チップ、もしくはカートリッジ、もしくは、コンピュータがそこから読み取ることができる任意のその他の媒体を含む。コンピュータ読取可能媒体の様々な形態は、プロセッサ901への、一つもしくは複数の実行する命令の一つもしくは複数のシーケンスの搬送に関連してもよい。例えば、命令は、遠隔コンピュータから磁気ディスクにまず搬送されてもよい。代替的に、遠隔コンピュータは、遠隔コンピュータのダイナミック・メモリに命令をロードし、インターネット920によって指示を送信してもよい。詳細には、コンピュータの命令は、当業者にはよく知られている様々なネットワーク・データ通信プロトコルを用いて、インターネット920を介して、遠隔コンピュータから計算処理システム900のメモリ912へ、ダウンロードされてもよい。
【0067】
一つもしくは複数の実施例において、計算処理システム900のメモリ912は、以下のソフトウェア・プログラム、アプリケーション、もしくは、モジュールのいずれかを記憶してもよい。
1.オペレーティング・システム(OS)913。オペレーティング・システム(OS)913は、基本システム・サービスを実装し、計算処理システム900の様々なハードウェア構成要素を管理する携帯型装置用オペレーティング・システムであってもよい。
【0068】
2.アプリケーション915は、例えば、計算処理システム900のプロセッサ901によって実行される一連のソフトウェアを含んでよく、これによって、計算処理システム900は、予め定められたある処理、例えば、ここに記述される技術を用いて参加者に遠隔装置の物理状態を伝達するもしくはディスプレイ909にビデオ画像を表示するユーザインターフェイスをディスプレイ909に表示し、カメラ911を用いて動画を表示してもよい。一つもしくは複数の実施例において、アプリケーション915は、ここに記述される機能を組み入れた独創的なビデオ会議アプリケーション916を含んでもよい。
【0069】
一つもしくは複数の実施例において、独創的なビデオ会議アプリケーション916は、記述された実施例に関連し、カメラ911を用いてビデオ会議画像をキャプチャするビデオ画像キャプチャモジュール917、ディスプレイ909に(遠隔の場所から)受取ったビデオ画像を表示するビデオ画像表示モジュール918、遠隔装置の物理状態を参加者に伝達する物理状態伝達アプリケーション919を含む。
【0070】
最後に、ここに記述される処理及び技術は特定の装置の何れかに固有に関連するものではなく、適切に組み合わせられた構成要素の何れかによって実装されてもよいことが理解されるべきである。さらに、様々な種類の汎用目的装置が本明細書に記載される技術に従って使用されてもよい。本明細書に記載される方法ステップを実行するために専用装置を構築することは有利であるかもしれない。本発明は、特定の例示に関連して記述されているが、この記述は、限定ではなく、例示を意図している。多くの異なるハードウェア、ソフトウェア及びファームウェアの組み合わせが本発明を実行するために適切であることは、当業者には明らかである。例えば、ソフトウェアは、アセンブラ、C/C++、Objective−C、perl、shell、PHP、Java(登録商標)、現在知られているもしくは今後開発されるプログラミング言語もしくはスクリプト言語の何れかなどの様々なプログラミング言語もしくは記述言語によって実装されてもよい。
【0071】
さらに、本明細書に記載された詳細及び実行を考慮すれば、本発明のその他の実装が当業者には明らかであろう。記述された実装の様々な態様及び/もしくは構成要素は、遠隔装置の物理状態を伝達するシステム及び方法を個別に、もしくは、任意に組み合わせて使用することができる。詳細及び例は例示としてのみ考慮されることを意図し、本発明の真の範囲及び思想は特許請求の範囲の記載によって示される。
【符号の説明】
【0072】
100 システムアーキテクチャ
101 通信制御(ネットワーク・インターフェイス)
102 通信制御(ネットワーク・インターフェイス)
103 インターネット