IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特許7077696端末装置、情報処理装置、通信システム、通知方法
<>
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図1
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図2
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図3
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図4
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図5
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図6
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図7
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図8
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図9
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図10
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図11
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図12
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図13
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図14
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図15
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図16
  • 特許-端末装置、情報処理装置、通信システム、通知方法 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-23
(45)【発行日】2022-05-31
(54)【発明の名称】端末装置、情報処理装置、通信システム、通知方法
(51)【国際特許分類】
   H04L 67/00 20220101AFI20220524BHJP
   G06F 3/0484 20220101ALI20220524BHJP
   H04N 7/14 20060101ALI20220524BHJP
   H04N 21/431 20110101ALI20220524BHJP
【FI】
H04L67/00
G06F3/0484
H04N7/14 110
H04N21/431
【請求項の数】 12
(21)【出願番号】P 2018051773
(22)【出願日】2018-03-19
(65)【公開番号】P2019164560
(43)【公開日】2019-09-26
【審査請求日】2020-12-11
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】永瀬 達也
(72)【発明者】
【氏名】宮本 篤
(72)【発明者】
【氏名】秋本 佑哉
(72)【発明者】
【氏名】長谷川 尭志
(72)【発明者】
【氏名】三神 惇平
【審査官】中川 幸洋
(56)【参考文献】
【文献】特開2016-177614(JP,A)
【文献】特開2007-004611(JP,A)
【文献】米国特許出願公開第2015/0058748(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04L 67/00
G06F 3/0484
H04N 7/14
H04N 21/431
(57)【特許請求の範囲】
【請求項1】
ネットワークを介してコンシェルジュが操作する他の端末装置と通信し、共有データを表示する、ゲストが操作する端末装置であって、
コンシェルジュが説明中の資料のページが前記他の端末装置の画面に表示された第二の共有データと、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記端末装置の画面に表示される第一の共有データとを取得するデータ共有手段と、
前記第一の共有データ及び前記第二の共有データを画面に表示する表示制御手段と、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが異なっていると判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記他の端末装置に送信する通知手段と、を有し、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記他の端末装置に送信し、
前記他の端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去する、端末装置。
【請求項2】
前記端末装置は前記ネットワークに接続された情報処理装置を介して前記他の端末装置と通信し、
前記情報処理装置は、前記他の端末装置の画面に表示される前記第二の共有データに関する情報と、前記端末装置の画面に表示される前記第一の共有データに関する情報と、を記憶する共有データ情報記憶部を有し、
前記端末装置は、前記情報処理装置から取得した前記第二の共有データに関する情報と前記第一の共有データに関する情報とを比較する比較手段と、
前記比較手段の比較結果に応じて前記端末装置の画面に表示される前記第二の共有データと前記第一の共有データとが異なっているか否かを判定する判定手段と、を有する請求項1に記載の端末装置。
【請求項3】
前記比較手段が、前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっているという比較結果が、一定時間、継続した場合、前記判定手段は前記端末装置の画面に表示される前記第一の共有データと前記第二の共有データとが異なっていると判定する請求項2に記載の端末装置。
【請求項4】
前記比較手段は、前記第二の共有データに関する情報と前記第一の共有データに関する情報との比較を繰り返し、
過去の所定数の比較結果において、前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていると判定される比率が閾値より大きい場合、前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていると判定する請求項2に記載の端末装置。
【請求項5】
前記端末装置のユーザであるゲストの視線方向を検知する視線方向検知手段を有し、
前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっているという比較結果が得られても、
前記視線方向検知手段が検知した視線方向が、前記表示制御手段が画面に表示した前記第二の共有データの方向を向いている場合、前記判定手段は前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていないと判定する請求項2~4のいずれか1項に記載の端末装置。
【請求項6】
前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっているという比較結果が得られており、
更に、前記視線方向検知手段が検知した視線方向が、前記表示制御手段が画面に表示した前記第一の共有データの方向を向いている場合、前記判定手段は前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていると判定する請求項5に記載の端末装置。
【請求項7】
前記他の端末装置から、前記端末装置が画面に表示する前記第一の共有データ変更する制御信号を取得した場合、前記表示制御手段は、前記制御信号に応じて前記第一の共有データを変更する請求項1~6のいずれか1項に記載の端末装置。
【請求項8】
請求項1~7のいずれか1項に記載された端末装置と通信する前記他の端末装置であって、
前記端末装置から前記端末装置が表示する前記第一の共有データと前記第二の共有データとが異なっている旨を受信する受信手段と、
前記受信手段が受信した、前記端末装置の画面に表示される前記第一の共有データと前記第二の共有データとが異なっている旨を前記他の端末装置のユーザであるコンシェルジュに報知する報知手段と、
を有することを特徴とする他の端末装置。
【請求項9】
ネットワークを介してゲストが操作する他の端末装置と通信し、共有データを表示する、コンシェルジュが操作する端末装置であって、
コンシェルジュが説明中の資料のページが前記端末装置の画面に表示された第二の共有データと、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記他の端末装置の画面に表示される第一の共有データとを取得するデータ共有手段と、
前記第一の共有データ及び前記第二の共有データを画面に表示する表示制御手段と、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが異なっていると判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記端末装置のユーザに報知する報知手段と、を有し、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記端末装置のユーザに報知し、
前記端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去することを特徴とする端末装置。
【請求項10】
ネットワークを介してゲストが操作する第一の端末装置及びコンシェルジュが操作する他の端末装置と通信する情報処理装置であって、
第一の端末装置及び他の端末装置で共有される共有データを保持しておき、コンシェルジュが説明中の資料のページが前記他の端末装置の画面に表示された第二の共有データを前記第一の端末装置に送信し、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記第一の端末装置の画面に表示される第一の共有データを前記他の端末装置に送信する共有制御手段と、
前記他の端末装置の画面に表示される前記第二の共有データに関する情報と、前記第一の端末装置の画面に表示される前記第一の共有データに関する情報と、を記憶する共有データ情報記憶部と、
前記共有データ情報記憶部に記憶されている前記第二の共有データに関する情報と前記第一の共有データに関する情報とを比較する比較手段と、有し、
前記比較手段の比較結果に応じて前記第一の端末装置の画面に表示される前記第一の共有データと前記第二の共有データとが異なっていると判定される場合、前記第一の端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記他の端末装置に送信し、
前記第一の端末装置及び他の端末装置が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記第一の端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記他の端末装置に送信し、
前記他の端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去することを特徴とする情報処理装置。
【請求項11】
ネットワークを介してゲストが操作する第一の端末装置とコンシェルジュが操作する他の端末装置とが通信し、共有データを表示する通信システムあって、
コンシェルジュが説明中の資料のページが前記他の端末装置の画面に表示された第二の共有データと、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記第一の端末装置の画面に表示される第一の共有データとを取得するデータ共有手段と、
前記第一の共有データ及び前記第二の共有データを画面に表示する表示制御手段と、
前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていると判定される場合、前記第一の端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記他の端末装置に送信する通知手段と、
前記第一の端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記他の端末装置のユーザに報知する報知手段と、を有し、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記第一の端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記他の端末装置に送信し、
前記他の端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去する、通信システム。
【請求項12】
ネットワークを介してコンシェルジュが操作する他の端末装置と通信し、共有データを表示する、ゲストが操作する端末装置が行う通知方法であって、
データ共有手段が、コンシェルジュが説明中の資料のページが前記他の端末装置の画面に表示された第二の共有データと、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記端末装置の画面に表示される第一の共有データとを取得するステップと、
表示制御手段が、前記第一の共有データ及び前記第二の共有データを画面に表示するステップと、
通知手段が、前記表示制御手段が画面に表示した前記第一の共有データと前記第二の共有データとが異なっていると判定される場合、前記端末装置が表示する前記第一の共有データと前記第二の共有データとが異なっている旨を前記他の端末装置に送信するステップと、を有し、
前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記他の端末装置に送信し、
前記他の端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去する、通知方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、端末装置、情報処理装置、通信システム、及び、通知方法に関する。
【背景技術】
【0002】
遠隔地にある端末装置が画像と音声を相互に送受信して、画像を表示装置に表示し音声をスピーカから出力することで、遠隔地のユーザが会議などの遠隔コミュニケーションを可能とする通信システムが知られている。このような通信システムを利用すれば、例えばコールセンタにいるコンシェルジュが店舗に来店した又は自宅等のゲストの顔を見て接客でき、ゲストもコンシェルジュの顔を見て説明を受けることができる。
【0003】
更に、通信システムでは、一方の端末装置に接続されたPC(Personal Computer)の画面を取得して、他方の端末装置にも表示させる画面共有機能が用意される場合がある(例えば、特許文献1参照。)。特許文献1には、一方の端末装置が表示する資料を他方の端末装置と共有し、他方の端末装置が表示する資料を一方の端末装置と共有しながらユーザが会話するシステムについて開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、コンシェルジュが表示している資料にゲストが興味を持っているか否かをコンシェルジュが把握しにくいという問題がある。同じ空間でコンシェルジュがゲストと向き合って資料を説明する接客スタイルでは、使用される資料も1つであり、ゲストがどの資料のどのページを見ていて、コンシェルジュが説明している資料にゲストが興味を持っているか否かをコンシェルジュが把握することは容易である。仮に2つ以上の資料が存在しても、ゲストの反応などから、コンシェルジュが表示している資料にゲストが興味を持っているか否かを比較的容易に把握することができる。
【0005】
これに対し、通信システムでは、ゲストとコンシェルジュがそれぞれ独自に資料を表示できるため、ゲストは任意の資料の任意のページを表示することができる。コンシェルジュが表示する資料データのページはゲストの端末装置に表示され、この逆に、ゲストが表示する資料データのページはコンシェルジュの端末装置に表示される。しかしながら、コンシェルジュは説明に集中しているため、コンシェルジュが説明中のページとは異なるページをゲストが閲覧していても気づかない場合がある。
【0006】
本発明は、上記課題に鑑み、コンシェルジュが説明中のページとは異なるページをユーザが閲覧していることを知ることができ、その結果、ユーザはコンシェルジュが説明しているページに対し興味を持っているか否かを把握できる端末装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題に鑑み、本発明は、ネットワークを介してコンシェルジュが操作する他の端末装置と通信し、共有データを表示する、ゲストが操作する端末装置であって、コンシェルジュが説明中の資料のページが前記他の端末装置の画面に表示された第二の共有データと、ゲストが閲覧している、前記コンシェルジュが説明中の前記資料のページが前記端末装置の画面に表示される第一の共有データとを取得するデータ共有手段と、前記第一の共有データ及び前記第二の共有データを画面に表示する表示制御手段と、前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが異なっていると判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが異なっている旨を前記他の端末装置に送信する通知手段と、を有し、前記表示制御手段が画面に表示した前記第二の共有データと前記第一の共有データとが同じと判定される場合、前記端末装置が表示する前記第二の共有データと前記第一の共有データとが同じ旨を前記他の端末装置に送信し、前記他の端末装置は、前記異なっている旨に応じて表示した情報を、前記同じ旨に応じて消去する
【発明の効果】
【0008】
コンシェルジュが説明中のページとは異なるページをユーザが閲覧していることを知ることができ、その結果、ユーザはコンシェルジュが説明しているページに対し興味を持っているか否かを把握できる端末装置を提供することができる。
【図面の簡単な説明】
【0009】
図1】通信システムの動作の概略を説明する図の一例である。
図2】コンシェルジュが領域に表示中のページにゲストが興味を持っていないと判定された場合の動作を説明する図の一例である。
図3】通信システムの概略構成図の一例である。
図4】遠隔コミュニケーションを行う際の通信方法を説明する図の一例である。
図5】専用端末装置のハードウェア構成図の一例である。
図6】サーバ装置のハードウェア構成例を示す図である。
図7】通信システムが有する端末装置、及びサーバ装置の機能ブロック図の一例である。
図8】ゲストの端末装置とコンシェルジュの端末装置が資料データを共有する手順を示すシーケンス図の一例である。
図9】ゲストの端末装置が、コンシェルジュが表示している資料のページにゲストが興味をもっていないことをコンシェルジュの端末装置に通知するフローチャート図の一例である。
図10】コンシェルジュの端末装置が、ゲストの端末装置から取得した判定結果をコンシェルジュに知らせるフローチャート図の一例である。
図11】コンシェルジュ側の領域に表示されている資料データのページにゲストが興味をもっているか否かをゲストの端末装置が判定する手順を示すフローチャート図の一例である。
図12】視線方向の検知方法を説明する図の一例である。
図13】視線方向に基づいて、コンシェルジュが表示している資料のページにゲストが興味をもっているか否かをゲストの端末装置が判定する手順を示すフローチャート図の一例である。
図14】通信システムが有する端末装置、及びサーバ装置の機能ブロック図の他の例である。
図15】通信システムが有する端末装置、及びサーバ装置の機能ブロック図の他の例である。
図16】コンシェルジュが表示中のページにゲストが興味を持っていないと判定された場合の動作を説明する図の一例である。
図17】コンシェルジュが表示中のページにゲストが興味を持っていないと判定された場合の動作を説明する図の一例である。
【発明を実施するための形態】
【0010】
以下、本発明を実施するための形態の一例として、通信システムとこの通信システムが行う通知方法について図面を参照しながら説明する。
【0011】
<本実施形態の通信システムの概略>
図1を用いて、本実施形態の通信システムの概略的な動作について説明する。図1は、本実施形態の通信システムの動作の概略を説明する図である。ゲストGの端末装置10GとコンシェルジュCの端末装置10Cが通信ネットワーク2を介して通信している。
【0012】
コンシェルジュC及びゲストGはそれぞれ資料を共有できる。コンシェルジュCがページを変更できる領域7にはコンシェルジュが表示させた資料データのページ7a(第二の共有データ)が表示され、ゲストGがページを変更できる領域8にはゲストが表示させた資料データのページ8a(第一の共有データ)が表示され、領域9にはコンシェルジュCの顔や周囲が撮像された画像データ9aが表示される。
【0013】
同様に、コンシェルジュCの端末装置10Cの画面の領域7,8,9には、それぞれコンシェルジュCが表示させた資料データのページ7a、ゲストGが表示させた資料データのページ8a、及び、ゲストGの顔や周囲が撮像された画像データ6aが表示される。なお、それぞれの自画像がそれぞれの端末装置に表示されてよい。コンシェルジュCは、ゲストGが表示させた資料データのページ8aを変更できるが、ゲストGはコンシェルジュCが表示させた資料データのページ7aを変更することができない。
【0014】
図1では、コンシェルジュCとゲストGが表示させた資料データのページ7aとページ8aが異なっている。本実施形態では、サーバなどで領域7と8で表示されている資料データのページ7a,8aのファイル名とページ番号を管理し、比較することで、両者が異なっている場合には、コンシェルジュCが表示中の資料データのページ7aにゲストGが興味をもっていないと判定することができる。
【0015】
一方、ゲストGが無意識に領域8に表示された資料データのページ8aを変更しただけで、実際にはコンシェルジュCが領域7に表示した資料データのページ7aを閲覧している場合や、ゲストGが一時的に資料データのページ8aを変更しただけなどの場合もある。
【0016】
そこで、更に、以下のような方法で、コンシェルジュCが領域7に表示中の資料データのページ7aに、ゲストGが興味を持っているか否かを例えばゲストGの端末装置10Gが判定する。一例として、以下のような判定方法が挙げられる。
(i) コンシェルジュCが領域7に表示している資料データのページ7aとは異なる資料データ又はページを一定時間以上、ゲストGが領域8に表示している。
(ii) コンシェルジュCが領域7に表示している資料データのページ7aとは異なるページをゲストGが領域8に表示しており、かつ、ゲストGが表示させた資料データのページ8aを見ている。
【0017】
図2は、コンシェルジュCが領域7に表示中のページにゲストGが興味を持っていないと判定された場合の動作を説明する図の一例である。コンシェルジュCが表示している(説明している)ページについて、ゲストGが興味を持っていないとゲストGの端末装置10Gにより判定された場合、コンシェルジュCの端末装置10CはゲストGの端末装置10Gから通知を受けて、コンシェルジュCの端末装置10Cの画面にゲストGが興味を持っていない旨を知らせる表示を行う。例えば、図2に示すように、ゲストGが資料データのページ8aを表示する領域8を枠40で強調するなどして知らせる。
【0018】
このように、コンシェルジュCが説明している資料データのページ7aにゲストGが興味を持っていない場合、コンシェルジュCにその旨が通知されるので、コンシェルジュCは話題を変えたり、ゲストGに注意を促したりするなど適切な対応を取ることができる。
【0019】
<用語について>
共有データとは、ネットワークに接続された複数の端末装置の間で共有されるデータを言う。共有とは各ユーザがリアルタイムにデータを閲覧できることをいう。また、各ユーザが使用する端末装置に表示して閲覧ができるデータと称してもよい。本実施形態では資料データという用語で説明する。資料とは議論や判断の基礎なる材料をいい、資料データは資料のファイル等であるが、両者は厳密に区別しなくてよい。
【0020】
共有データを保持する装置とは、端末装置10がアクセス可能なネットワーク上の情報処理装置であればよい。本実施形態では、サーバ装置50が一例であるが、任意の端末装置10が共有データを保持していてもよい。コンシェルジュが使用している端末装置も含まれる。
【0021】
共有データが異なっているとは、共有されるファイルそのものが異なる場合、及び、共有されるファイルは同じだが表示中のページが異なる場合のいずれも含む。
【0022】
興味を持っていないことの判定は、コンシェルジュCが説明している資料データのページにゲストは興味がないと推定されるゲストの動作を検出することにより行われる。例えば、領域7と8で表示される資料データのページ7a,8aが異なること、ゲストの視線方向が領域7の資料データのページ7aを向いていないことなどにより判定される。
【0023】
<システム構成例>
図3は、本実施形態の通信システム1の概略構成図である。本実施形態の通信システム1は、図3に示すように、各拠点に設置された複数の専用端末装置10-1(a~c)、汎用端末装置10-2(a,b)、1つ以上の中継装置30、及び、1つ以上のサーバ装置50を備える。専用端末装置10-1として、専用端末装置10-1a、10-1b、10-1cが図示され、汎用端末装置10-2として、汎用端末装置10-2a、10-2bが図示されている。本実施形態では、専用端末装置10-1a、10-1b、10-1cのうち任意の専用端末装置を指し示す場合、単に専用端末装置10-1と称し、汎用端末装置10-2a、10-2bのうち任意の汎用端末装置を指し示す場合、単に汎用端末装置10-2と称する。更に、専用端末装置10-1と汎用端末装置10-2を区別しない場合は単に端末装置10と称する。また、ゲストが使用する端末装置10を端末装置10G,コンシェルジュが使用する端末装置10を端末装置10Cという。
【0024】
なお、専用端末装置10-1には有線又は無線によりディスプレイ120が接続されているが、専用端末装置10-1がディスプレイ120と一体でもよい。また、汎用端末装置10-2にはディスプレイが一体化されているが、汎用端末装置10-2に外付けのディスプレイ120が接続されていてもよい。
【0025】
本実施形態の通信システム1は、テレビ会議などの遠隔コミュニケーションに適用されるものとして説明される。しかし、通信システム1は、コミュニケーションシステム、又はデータ通信システムにも適用される。また、通信システム1には、サーバを介して一方の端末装置10から複数の端末装置10に一方向で画像データ又は音声データを送信するデータ提供システムが含まれる。また、テレビ会議をビデオ会議という場合がある。
【0026】
端末装置10、サーバ装置50、及び、中継装置30は通信ネットワーク2に接続されている。無線通信の場合、端末装置10は基地局2aをアクセスポイントにして通信ネットワーク2に接続する。通信ネットワーク2は、例えば、LAN(Local Area Network)、ルータ、インターネットなど、一般的なネットワークであればよい。例えば、広域イーサネット(登録商標)、VPN(Virtual Private Network)などの専用線を含んでもよい。なお、この通信ネットワーク2には、有線だけでなく、WiFi(Wireless Fidelity)、3G、4G、LTE(Long Term Evolution)、及び、Bluetooth(登録商標)などの無線による通信が行われる箇所が含まれていてもよい。
【0027】
専用端末装置10-1は、通信システム1に専用の端末装置であり、一形態として電源ONだけでサーバ装置50にログインして画像と音声を送受信する情報処理装置である。あるいは、電子黒板のような機能を備えていると更に好ましい。汎用端末装置10-2は汎用の情報処理装置がアプリケーションソフト(ブラウザソフトを含む)を実行することで画像データと音声データを送受信する情報処理装置である。汎用端末装置10-2はアプリケーションソフトが動作すれば一般的な情報処理装置でよいが、例えば、PC(Personal Computer)、スマートフォン、タブレット端末、PDA(Personal Digital Assistant)等がある。また、例えばブラウザソフトが動作するものには、テレビ受像器、ゲーム機、カーナビ、などがあり、汎用端末装置10-2として装置の名称は問われない。
【0028】
遠隔コミュニケーションの機能として、端末装置10はカメラで撮像した画像データ、マイクで集音した音声データ、及び、説明などに使用する資料データを、中継装置30を介して遠隔コミュニケーションに参加している他の拠点の端末装置10に送信する機能がある。端末装置10が電子黒板の場合、更に手書き情報を他の拠点の端末装置10に送信する。また、他の拠点の端末装置10から受信した画像データ、及び、資料データをディスプレイに表示し、受信した音声データをスピーカから出力する機能がある。
【0029】
遠隔コミュニケーションに参加している端末装置10が設置されている設置場所を「拠点」と称する。拠点はこのように概念的には場所を示すが、拠点は端末装置10そのものを示す場合がある。また、拠点が設置場所だけでなく拠点のユーザ、及び、企業や部署を示す場合がある。従って、拠点は遠隔コミュニケーションを行っている相手を特定する意味も持つ。本実施形態では、ゲストG側の拠点は例えば自宅や店舗であり、コンシェルジュC側の拠点は例えばコールセンタである。この他、拠点の具体例として、会議室、地名、企業名、企業内の部署名、出張所、支店、ユーザ名等が挙げられる。
【0030】
遠隔コミュニケーションが開始されると、端末装置10は中継装置30に対して画像データ、音声データ、及び、資料データ(手書き情報がある場合は手書き情報も)を送信し、中継装置30は、遠隔コミュニケーションに参加している他の端末装置に対して画像データ、音声データ、及び、資料データ(手書き情報がある場合は手書き情報も)を送信する。また、端末装置10は、中継装置30を介して他方の端末装置10から画像データ、音声データ、及び資料データ(手書き情報がある場合は手書き情報)を受信する。
【0031】
サーバ装置50は端末装置10のステータスを管理し、着信があった場合に2つ以上の端末装置間でセッションを開始するなどの呼制御を行う呼制御サーバとして機能する。サーバ装置50はサーバであるので情報処理装置の機能を有する。呼制御とは、通信を開始するための発信、その着信、着信への応答、通信の切断など、電話をかけたり切ったりするための一連の処理をいう。この他、端末装置10の認証、検索、死活の監視なども行う場合が多い。更に、サーバ装置50は、端末装置10の宛先リスト等、通信システム1の制御に必要なデータベースの管理も行う。宛先リストとは、各端末装置10が遠隔コミュニケーションの開始要求を送信できる(電話をかけられる)宛先の端末装置(又はユーザ)が登録されたデータである。
【0032】
なお、ステータスとは、端末装置10の通信システム1における状態である。ステータスは主に着信できるかできないかに区分される。着信できる状態は、すでに遠隔コミュニケーションに参加して画像データ、音声データ、及び資料データ(手書き情報がある場合は手書き情報も)を受信している状態(オンライン(伝送中)と呼ばれる)、単にログインした状態で着信を待ち受けている状態(オンライン(待機中)と呼ばれる)とがある。着信できない状態は、主に、オフラインの状態である(電源が入っていなかったり、電源が入っているがサーバ装置50にログインしていなかったりする状態)。
【0033】
中継装置30は画像データ、音声データ及び資料データを一方の拠点の端末装置10から他の拠点の端末装置10に中継するサーバ(情報処理装置)である。サーバ装置50は通信ネットワーク2の帯域や中継装置30の通信負荷を監視して適切な中継装置30を端末装置10に割り当てる。
【0034】
図4を用いて、通信システム1が遠隔コミュニケーションを行う際の通信方法について説明する。図4は、遠隔コミュニケーションを行う際の通信方法を説明する図の一例である。遠隔コミュニケーションで、送受信される画像データ、音声データ、及び資料データをコンテンツデータという。コンテンツデータを受信した端末装置は、ディスプレイに画像データと資料データを表示させ、スピーカから音声データを出力する。このような処理が絶え間なく行われることにより、遠隔地に離れて存在するユーザが遠隔コミュニケーションを行うことができる。
【0035】
遠隔コミュニケーションに使用される端末装置10Gと端末装置10Cとの間には、中継装置30を介して、高解像度の画像データ、中解像度の画像データ、低解像度の画像データ、及び音声データの4つの各データを送受信するための4つのセッションが確立される。図4では、これら4つのセッションをまとめて、画像・音声データ用セッションとして示している。
【0036】
また、図4では遠隔コミュニケーションで共有される資料データを送受信するための資料データ用セッションが、中継装置30を介して確立されている。これにより、音声データと画像データとは別のセッション(帯域)で各端末装置10が資料データを送受信することが可能になる。なお、手書き情報のセッションは資料データと同じセッションで送信されてもよいし更に別のセッションで送信されてもよい。
【0037】
なお、コンテンツデータが中継装置30を経由するのは一例であって、サーバ装置50を経由してコンテンツデータが送受信されてもよい。しかし、サーバ装置50とは別に中継装置30が設置されることで負荷を分散することができる。また、中継装置30を介さずに、2つ以上の端末装置10がコンテンツデータを送受信する仕組みも存在し、この場合、各拠点の端末装置10はインターネットを介して直接、通信することができる。
【0038】
また、図4に示されているように、通信システム1において拠点間の端末装置10の間では、サーバ装置50を介して、各種の管理情報を送受信するための管理情報用セッションが確立される。管理情報用セッションで上記のステータスが監視される。
【0039】
端末装置10がサーバ装置50にログインすると、サーバ装置50は遠隔コミュニケーションを行うことができる宛先端末(宛先の端末装置)のリストを端末装置10に送信する。宛先の端末装置10についても同様の処理を行う。一方の端末装置10が他方の端末装置10を発呼し相手の端末装置10が応答すると、サーバ装置50は中継装置30を決定してこの中継装置30に遠隔コミュニケーションを行う2つ以上の端末装置10を設定する。また、サーバ装置50は遠隔コミュニケーションに参加する各端末装置10に中継装置30のIPアドレスなどを通知する。これにより、遠隔コミュニケーションのための画像・音声データ用セッションが確立し、中継装置30はコンテンツデータを遠隔コミュニケーションに参加する各端末装置10に中継できる。
【0040】
なお、このようなリストを使った接続方法は一例に過ぎず、ゲストGの端末装置10Gがサーバ装置50と通信すると、データセンタにある複数の端末装置のうち空いている(オンライン(待機中))端末装置10Cにサーバ装置50が自動的に接続させてもよい。
【0041】
<ハードウェア構成例>
次に、本実施形態の通信システム1における端末装置10、及び、サーバ装置50のハードウェア構成について説明する。
【0042】
<<端末装置>>
図5は、専用端末装置10―1のハードウェア構成の一例を示す。専用端末装置10-1は、全体の動作を制御するCPU(Central Processing Unit)101、IPL(Initial Program Loader)等のCPU101の駆動に用いられるプログラムを記憶したROM(Read Only Memory)102を備える。また、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、端末用プログラム、画像データ、及び音声データ等の各種データを記憶するフラッシュメモリ104を備える。
【0043】
また、CPU101の制御に従ってフラッシュメモリ104に対する各種データの読み出しや書き込みを制御するSSD(Solid State Drive)105、フラッシュメモリ等の記録メディア106に対するデータの読み出しや書き込み(記憶)を制御するメディアドライブ107を備える。また、通信相手となる他の端末装置10を選択する場合などに操作される操作ボタン108、専用端末装置10-1の電源のオン/オフを切り換えるための電源スイッチ109、通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F(Interface)111を備えている。
【0044】
また、専用端末装置10-1は、CPU101の制御に従って被写体を撮像して画像データを得る内蔵型のカメラ112、このカメラ112の駆動を制御する撮像素子I/F113、音声を入力する内蔵型のマイク114、音声を出力する内蔵型のスピーカ115を備える。また、CPU101の制御に従ってマイク114及びスピーカ115との間で音声信号の入出力を処理する音声入出力I/F116を備える。また、CPU101の制御に従ってディスプレイ120に表示されているデータを伝送するディスプレイI/F117、各種の外部機器を接続するための外部機器接続I/F118、専用端末装置10-1の各種機能の異常を知らせるアラームランプ119、及び上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。
【0045】
なお、カメラ112、マイク114、スピーカ115は、必ずしも専用端末装置10-1に内蔵されている必要はなく、外付けされる構成であってもよい。また、ディスプレイ120は、専用端末装置10-1に内蔵された構成であってもよい。また、ディスプレイ120は、液晶パネル等の表示装置を想定するが、これに限らず、プロジェクタ等の投影装置であってもよい。図5に示す専用端末装置10-1のハードウェア構成はあくまで一例であり、上記以外の他のハードウェアが追加されていてもよい。
【0046】
上記した端末用プログラムは、例えばフラッシュメモリ104に格納され、CPU101の制御によりRAM103上に読み出されて実行される。また、端末用プログラムは、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録メディア106等の記録媒体に記録されて提供されるようにしてもよい。また、端末用プログラムは、ROM102等に予め格納された組み込みプログラムとして提供されるようにしてもよい。なお、端末用プログラムは、「セッションごとにダウンロード」されてもよいし、「端末装置に常駐させて、セッション確率時に起動」されてもよい。
【0047】
汎用端末装置10-2のハードウェア構成は専用端末装置10-1と同様であるか、又は、異なるとしても本実施形態の説明上は支障がないものとする。
【0048】
<<サーバ装置>>
図6は、サーバ装置50のハードウェア構成例を示す図である。サーバ装置50は、図6に示すように、サーバ装置50全体の動作を制御するCPU201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、サーバ装置用プログラム等の各種データを記憶するHD(Hard Disk)204を備える。
【0049】
また、CPU201の制御に従ってHD204に対する各種データの読み出し又は書き込みを制御するHDD(HD Drive)205、フラッシュメモリ等の記録メディア206に対するデータの読み出しや書き込み(記憶)を制御するメディアドライブ207を備える。また、各種情報を表示するディスプレイ208、通信ネットワーク2を利用してデータ伝送をするためのネットワークI/F209、キーボード211、マウス212、を備える。また、着脱可能な記録媒体の一例としての光記憶媒体213に対する各種データの読み出し又は書き込みを制御する光記憶媒体ドライブ214、及び上記各構成要素を電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
【0050】
サーバ装置用プログラムは、例えばHD204に格納され、CPU201の制御によりRAM203上に読み出されて実行される。また、サーバ装置用プログラムは、インストール可能な形式又は実行可能な形式のファイルによって、記録メディア206や光記憶媒体等のコンピュータで読み取り可能な記録媒体に記録されて提供されるようにしてもよい。また、サーバ装置用プログラムは、ROM202等に予め格納された組み込みプログラムとして提供されるようにしてもよい。
【0051】
図示したサーバ装置50のハードウェア構成は、1つの筐体に収納されていたりひとまとまりの装置として備えられていたりする必要はなく、サーバ装置50が備えていることが好ましいハード的な要素を示す。また、クラウドコンピューティングに対応していてもよく、図示する本実施例のサーバ装置50の物理的な構成は固定的でなくてもよく、負荷に応じてハード的なリソースが動的に接続・切断されることで構成されてよい。
【0052】
なお、中継装置30のハードウェア構成はサーバ装置50と同様であるか、又は、異なるとしても本実施形態の説明上は支障がないものとする。
【0053】
<機能について>
図7は、本実施形態の通信システム1が有する端末装置10、及びサーバ装置50の機能をブロック上に示す機能ブロック図の一例である。なお、中継装置30は画像データを中継するに過ぎないため図7ではその機能が省略されている。また、実機においてゲストGの端末装置10GとコンシェルジュCの端末装置10Cは同じ機能を有してよいが、図7では説明を分かりやすくするためゲストGの端末装置10GとコンシェルジュCの端末装置10Cを分けて記載した。ゲストG及びコンシェルジュCは専用端末装置10-1と汎用端末装置10-2のどちらを使用してもよい。
【0054】
<<サーバ装置の機能構成>>
サーバ装置50は、遠隔コミュニケーション通信部51、資料共有部52、送受信部53、及び、記憶・読出部54を有する。サーバ装置50が有するこれら各部は、図6に示されている各構成要素のいずれかが、HD204からRAM203上に展開されたサーバ装置50用のプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
【0055】
また、サーバ装置50は、図6に示されているHD204、RAM203及びROM202の少なくとも1つに形成される記憶部59を有している。記憶部59には、遠隔コミュニケーション管理DB55(Data Base)と通信ID管理DB56が構築されている。これらについては表1と表2でそれぞれ説明する。
【0056】
送受信部53は、ネットワークを介して端末装置10又は中継装置30と各種データ(又は情報)の送受信を行う。本実施形態では、例えば資料データの送受信を行う。
【0057】
遠隔コミュニケーション通信部51は、遠隔コミュニケーションの通信に関わる処理を行なう。すなわち、認証、呼制御、セッションの確立などを行う。また、中継装置30がない場合は、遠隔コミュニケーション通信部51が音声データと画像データの各端末装置10への送受信に関する制御を行う。
【0058】
資料共有部52は、遠隔コミュニケーションで共有される資料の共有に関わる処理を行う。すなわち、ゲストGの端末装置10Gが領域8に表示する資料の画像データをコンシェルジュCの端末装置10Cに送信し、コンシェルジュCの端末装置10Cが領域7に表示している資料の画像データをゲストGの端末装置10Gに送信する。ここで、「共有する」とは、送受信部53とネットワークを介して接続されているそれぞれの端末装置10がほぼリアルタイムに同じ資料の同じページを表示することをいう。なお、資料共有部52はページ単位に資料データの画像データを生成する。
【0059】
共有の前提として、コンシェルジュCの端末装置10Cが有する資料そのものがサーバ装置50に送信される(保持される)。コンシェルジュCは端末装置10Cが有する資料を直接、領域7に表示してページ番号をサーバ装置50に送信する。これにより、資料共有部52はコンシェルジュCの端末装置10Cが領域7に表示している資料データのページ7aの画像データを生成し、ゲストGの端末装置10Gに送信する。ゲストGが領域8に資料データを表示する場合は、領域8に表示したいページ番号(ページ送り操作でもよいしページ番号を指定してもよい)をサーバ装置50に送信する。これにより、資料共有部52は通知された資料データのページ8aの画像データを生成し、ゲストGの端末装置10GとコンシェルジュCの端末装置10Cに送信する。
【0060】
記憶・読出部54は記憶部59に対するデータの記憶と記憶部59からデータの読み出しを行う。すなわち、遠隔コミュニケーション管理DB55への読み書き、及び、通信ID管理DB56への読み書きを行う。
【0061】
続いて、通信ID管理DB56と遠隔コミュニケーション管理DB55について説明する。
【0062】
【表1】
表1は、通信ID管理DB56に記憶されている情報を模式的に示す。通信ID管理DB56には通信IDに対応付けて端末装置のタイプが登録されている。通信IDは通信元を識別する識別情報である。例えば、遠隔コミュニケーションに参加している端末装置の識別情報と言ってもよいし、この端末装置を操作するユーザ又は参加者の識別情報(ユーザID、参加者ID)と言ってもよい。なお、IDはIdentificationの略であり識別子や識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。
【0063】
また、タイプは、この通信IDを使用するユーザがコンシェルジュCかゲストGのどちらであるかを示す。このように、予め通信IDとタイプが対応付けられていることで、遠隔コミュニケーションに参加したユーザのタイプをサーバ装置50が特定できる。また、ゲストGが表示させた資料データのページ8aをコンシェルジュCが変更することは許可し、コンシェルジュCが表示させた資料データのページ7aをゲストGが変更することは制限する制御が可能になる。
【0064】
なお、表1では通信IDとタイプが管理されているが、通信IDにはこれ以外の情報が対応付けられていてもよい。
【0065】
【表2】
表2は遠隔コミュニケーション管理DB55に記憶されている情報を模式的に示す。遠隔コミュニケーション管理DB55には、遠隔コミュニケーションを行っている端末装置に関する情報を管理する。例えば、遠隔コミュニケーションIDに対応付けられた、参加者通信ID、参加者タイプ、共有資料、及び、表示ページの各項目を有する。
【0066】
遠隔コミュニケーションIDは、遠隔コミュニケーションごとに設定されている遠隔コミュニケーションの識別情報であり、遠隔コミュニケーションが開始されたときに採番される。参加者タイプは、ゲストG又はコンシェルジュCがサーバ装置50に通信IDとパスワードでログインする際に、通信ID管理DB56に基づいて特定される。
【0067】
共有資料は、コンシェルジュCが端末装置10Cに表示してゲストGと共有している資料のファイル名(又はIDでもよい)である(表2の1行目)。また、ゲストGが端末装置10Gに表示してコンシェルジュCと共有している資料のファイル名(又はIDでもよい)である(表2の2行目)。表2では、コンシェルジュCとゲストGの共有資料が同じであるが異なっていてもよい。
【0068】
ゲストG又はコンシェルジュCが資料共有を開始した時、又は別の資料に切り替えた時など、共有資料に変更があった際に共有資料の項目も変更される。表示ページは、共有資料のうち、現在、端末装置10が表示しているページ番号となる。表示している共有資料のページが切り替わったときに表示ページの項目も変更される。
【0069】
本実施形態では、コンシェルジュCが説明する資料をゲストGが閲覧するという実施形態を例にして説明されるため、ゲストGとコンシェルジュCの共有資料は同じであるとする。しかし、ゲストG側も資料データをサーバ装置50にアップロードして、コンシェルジュCと共有することができる。
【0070】
なお、遠隔コミュニケーション管理DB55に、資料データを送信した端末装置のID、送信した時刻、資料データのID、送信したページをログとして一定期間、保持しておく。これにより、情報漏洩した場合に情報を漏洩させた端末装置10を特定しやすくなる。
【0071】
<<端末装置(ゲストG)>>
ゲストGの端末装置10Gは、送受信部11、表示制御部12、遠隔コミュニケーション通信部13、判定結果通知部14、視線検知部15、操作受付部16、比較部17、判定部18、及び、記憶・読出部19を有する。端末装置10が有するこれらの機能は、図5に示されている各構成要素のいずれかが、フラッシュメモリ104からRAM103上に展開された端末用プログラムに従ったCPU101からの命令によって動作することで実現される機能又は手段である。
【0072】
また、端末装置10Gは、図5に示されているRAM103、及びフラッシュメモリ104の少なくとも1つによって形成される記憶部21を有している。記憶部21には、比較結果管理DB22が構築されている。比較結果管理DB22については表3で説明する。
【0073】
送受信部11は、サーバ装置50又は中継装置30との間で各種の情報の送受信を行う。本実施形態では、コンテンツデータ(画像データ、音声データ、及び、資料データ)が送受信され、また、判定結果をサーバ装置50に送信する(判定結果は最終的にコンシェルジュCの端末装置10Cに送信される)。
【0074】
表示制御部12は、端末装置10で動作する通信システム用のアプリの画面をディスプレイ120に表示する。この画面に相手の拠点の画像データ、ゲストGの端末装置10Gが領域8に表示する資料データ、及び、コンシェルジュCの端末装置10Cが領域7に表示する資料データを表示する。
【0075】
遠隔コミュニケーション通信部13は、遠隔コミュニケーションの通信に関わる処理を行う。すなわち、カメラ112が撮像した画像データとマイク114が集音した音声データを、送受信部11を介して中継装置30に送信し、他の端末装置10が送信した画像データと音声データを、送受信部11を介して受信する。また、サーバ装置50が送信するコンシェルジュCの端末装置10Cが領域7に表示する資料データのページ(画像データ)を、送受信部11を介して受信する。また、ゲストGの端末装置10Gが領域8に表示する資料データのページ番号をサーバ装置50に通知し、領域8に表示する資料データのページ(画像データ)をサーバ装置50から送受信部11を介して取得する。
【0076】
操作受付部16は、端末装置10又はアプリに対するユーザからの各種の入力操作を受け付ける。視線検知部15は、ユーザがアプリの画面のどこを見ているかを検知する。なお、視線の検知方法については図12にて説明する。
【0077】
比較部17は、ゲストGの端末装置10GとコンシェルジュCの端末装置10Cで表示している資料が同じ資料でかつ同じページか否かを比較する。判定部18は、比較部17からの通知をもとに、コンシェルジュCの表示している資料のページにゲストGが興味を持っているか否かの判定を行う。具体的な判定方法は後述される。なお、判定部18は視線検知部15が検知する視線を判定に使用する場合がある。
【0078】
判定結果通知部14は、判定部18の判定結果をサーバ装置50に送信する。サーバ装置50の送受信部53はゲストGと同じ遠隔コミュニケーションに参加中のコンシェルジュCの端末装置10Cを遠隔コミュニケーション管理DB55から特定し、コンシェルジュCの端末装置10Cに判定結果を送信する。
【0079】
記憶・読出部19は、記憶部21に対するデータの記憶と記憶部21からデータの読み出しを行う。すなわち、比較結果管理DB22への読み書きを行う。
【0080】
【表3】
表3は比較結果管理DB22に記憶されている情報を模式的に示す。比較結果管理DB22には、遠隔コミュニケーションID、参加者通信ID、及び、比較結果の各項目が登録される。遠隔コミュニケーションIDは表2と同様のIDである。参加者通信IDはどの端末装置10が表示している資料と比較したのかを示す。本実施形態ではコンシェルジュCの端末装置10Cである。比較結果は、「同じ」又は「異なる」が設定される。
【0081】
このように比較結果管理DB22には、コンシェルジュCの端末装置10CとゲストGの端末装置10Gが表示している「資料」と「ページ番号」の比較結果が記憶される。表3では、過去1回分の比較結果しか記憶していないが、過去の複数回の比較結果が記憶されてよい。
【0082】
<<端末装置(コンシェルジュC)>>
コンシェルジュCの端末装置10Cは、送受信部11、資料アップロード部23、遠隔コミュニケーション通信部13、操作受付部16、表示制御部12、興味報知部24、及び、記憶・読出部19を有する。なお、コンシェルジュCの端末装置10Cの説明ではゲストGの端末装置10Gとの相違を説明する。
【0083】
資料アップロード部23は、資料データのサーバ装置50へのアップロードを行う。資料そのもの(ファイル全体)がアップロードされたので、ゲストGの端末装置10Gには資料データの各ページが画像データとしてダウンロードされる。なお、コンシェルジュCは端末装置10Cの資料データを直接、表示させればよい。ただし、コンシェルジュCもゲストGと同様に資料データの各ページの画像データをダウンロードしてもよい。あるいは、コンシェルジュCの端末装置10Cが資料データを保持したままにして、ゲストGが要求するたびに資料データの各ページの画像データをゲストGの端末装置10Gに送信してもよい。ゲスト側の資料データについても同様である。
【0084】
興味報知部24は、ゲストGの端末装置10Gから興味なしという判定結果が送信された場合、ゲストG側の資料データを強調することで、コンシェルジュCが領域7に表示している資料データのページ7aにゲストGが興味をもっていないことをコンシェルジュCに報知する。
【0085】
【表4】
表4は、資料データDB25に記憶されている資料データを示す。資料データは例えば1つ以上のファイル(アプリケーションソフトのファイルデータ(WORD PDF等))であるので、端末装置10Cのフォルダ又はディレクトリに保存されている。一般には端末装置10CのOS(Operating System)やファイルシステムにより管理されている。資料データはクラウドストレージや可搬性の記憶媒体に記憶されていてもよい。コンシェルジュCはクラウドストレージや可搬性の記憶媒体から資料データを読み出して、共有を開始することができる。
【0086】
なお、資料データは、紙に記載されている情報(文字、写真、図形、絵画、フリーハンドのメモなど紙媒体に記載されるもの)が電子化(スキャン)されたものであれば種類を問わない。また、紙に準じた媒体に記載された情報を含む。資料データは3次元データであってもよい。ただし、端末装置10で表示可能であることが必要である。3次元データであってもページ単位に作成することは必要である。ただしその作成方法位については限定されない。端末装置10で表示可能なものであれば資料データとなる。
【0087】
<動作手順>
以下では、資料データを共有する際の動作、及び、コンシェルジュCが表示している資料のページにゲストGが興味をもっているか否かの判定に関する動作について説明する。
【0088】
<<資料データの共有>>
図8は、ゲストGの端末装置10GとコンシェルジュCの端末装置10Cが資料データを共有する手順を示すシーケンス図の一例である。なお、すでにゲストGの端末装置10GとコンシェルジュCの端末装置10Cはセッションを確立しているものとする。また、図8では資料データのファイルがサーバ装置50にアップロードされる場合を説明する。資料データのファイルそのものはゲストGの端末装置10Gには送信されない。これにより、資料データの漏洩を抑制しやすくなる。
【0089】
S0:資料データを共有するため、コンシェルジュCの端末装置10Cの資料アップロード部23は資料データ(ファイル)をサーバ装置50に送信する。サーバ装置50の送受信部53が資料データ(ファイル)を受信し、資料共有部52が遠隔コミュニケーション管理DB55(ゲストとコンシェルジュの両方)に登録する。図8のでは説明を容易にするため資料データは1つしかないものとし、この資料データのページが共有されるものとして説明する。
【0090】
S1:コンシェルジュCが自分の端末装置10CのコンシェルジュC側の領域7に、コンシェルジュCが表示させた資料データのページ7aを表示する。また、コンシェルジュCは共有開始の操作を行い、操作受付部16がこの操作を受け付ける。ページの指定方法は、例えば、アプリケーションソフトで資料ファイルの目次を表示させてから必要なページをコンシェルジュが指定してもよいし、1ページごとに進んだり、後退したりする表示画面上のボタン等で行ってもよい。
【0091】
S2:コンシェルジュCの端末装置10Cの遠隔コミュニケーション通信部13は資料データのページ番号をサーバ装置50に送信する。図8のでは説明を容易にするため1つしかない資料データのページ番号のみを送信することとするが、資料データが複数ある場合は資料データのファイル名や資料IDも送信する。資料データのアップロードやページ番号の通知は、通信プロトコルの最上位である「アプリケーション層」で行われる。
【0092】
S3:サーバ装置50の送受信部53はコンシェルジュCが領域7に表示させた資料データのページ番号を受信し、資料共有部52がページ通知で指定されたページ番号の画像データを生成する。また、資料共有部52は遠隔コミュニケーション管理DB55のコンシェルジュ側にページ番号を登録する。
【0093】
S4:サーバ装置50の資料共有部52はコンシェルジュC側の資料データ(1ページ目の画像データ)をゲストGの端末装置10Gに送信する。これにより、ゲストGの端末装置10Gの送受信部11が資料データを受信し、表示制御部12がコンシェルジュC側の領域7に資料データのページ7aを表示する。
【0094】
S4-1:ここで、ゲストGが自分でも任意のページを表示したいと考えるとその操作を行う。操作受付部16は領域8に表示する資料データのページ番号を受け付ける。なお、資料の表示の開始時は例えば1ページ目など決まったページ番号でもよいし、ゲストが任意のページ番号を指定してもよい。
【0095】
S5:送受信部11はゲストG側の資料データのページ通知をサーバ装置50に送信する。
【0096】
S6:サーバ装置50の送受信部53はページ通知を受信し、資料共有部52がページ通知で指定されたページ番号の画像データを生成する。
【0097】
S7:サーバ装置50の送受信部53はゲストG側の資料データ(画像データ)をゲストGの端末装置10Gに送信する。なお、資料共有部52は遠隔コミュニケーション管理DB55のゲスト側にページ番号を登録する。ゲストGの端末装置10Gの遠隔コミュニケーション通信部13はゲストG側の資料データ(画像データ)を受信する。これにより、表示制御部12がゲストG側の領域8に、ゲストが表示させた資料データのページ8aを表示する。図8では、コンシェルジュC側の領域7とゲストG側の領域8に同じ資料データが表示されている。
【0098】
S8:また、サーバ装置50の送受信部53はゲストG側の資料データ(画像データ)をコンシェルジュCの端末装置10Cに送信する。コンシェルジュCの端末装置10Cの遠隔コミュニケーション通信部13はゲストG側の資料データ(画像データ)を受信する。これにより、表示制御部12がゲストG側の領域8に資料データに表示する。ステップS7と同様に、ゲストG側の領域8とコンシェルジュC側の領域7には同じページが表示される。
【0099】
S9:次に、コンシェルジュCがコンシェルジュC側の領域7の資料データのページ7aを変更したとする。操作受付部16が操作を受け付け、表示制御部12がコンシェルジュC側の領域7に変更後の資料データのページ7aを表示する。
【0100】
S10:コンシェルジュCの端末装置10Cの遠隔コミュニケーション通信部13はコンシェルジュC側の資料データのページ通知をサーバ装置50に送信する。
【0101】
S11:サーバ装置50の送受信部53はページ通知を受信し、資料共有部52がページ通知で指定されたページ番号の画像データを生成する。なお、資料共有部52は遠隔コミュニケーション管理DB55のコンシェルジュにページ番号を登録する。
【0102】
S12:サーバ装置50の送受信部53はコンシェルジュC側の資料データ(画像データ)をゲストGの端末装置10Gに送信する。これにより、ゲストGの端末装置10Gの遠隔コミュニケーション通信部13が資料データを受信し、表示制御部12がコンシェルジュC側の領域7に資料データのページ7aを表示する。
【0103】
S13:次に、ゲストGがゲストG側の領域8のページを変更する操作を行った。
【0104】
S14:ゲストGの端末装置10Gの操作受付部16はこの操作を受け付け、遠隔コミュニケーション通信部13はゲストG側の資料データのページ通知をサーバ装置50に送信する。
【0105】
S15:サーバ装置50の送受信部53はページ通知を受信し、資料共有部52がページ通知で指定されたページ番号の画像データを生成する。なお、資料共有部52は遠隔コミュニケーション管理DB55のゲスト側にページ番号を登録する。
【0106】
S16:サーバ装置50の送受信部53はゲストG側の資料データ(画像データ)をゲストGの端末装置10Gに送信する。これにより、ゲストGの端末装置10Gの遠隔コミュニケーション通信部13が資料データを受信し、表示制御部12がゲストG側の領域8に資料データのページ8aを表示する。
【0107】
S17:また、ゲストG側の領域8に表示される資料データのページ8aを共有するため、サーバ装置50の資料共有部52はゲストG側の資料データ(画像データ)をコンシェルジュCの端末装置10Cに送信する。これにより、コンシェルジュCの端末装置10Cの遠隔コミュニケーション通信部13が資料データを受信し、表示制御部12がゲストG側の領域8に資料データのページ8aを表示する。
【0108】
このようにして、ゲストGとコンシェルジュCの端末装置10Cは互いに資料データを共有できる。なお、図8の共有の手順は一例に過ぎず、以下のような方法で共有してもよい。
【0109】
A.例えば、コンシェルジュCの端末装置10Cが領域7に表示する資料データについてもサーバからページ単位に資料データを取得してもよい。この場合、コンシェルジュCの端末装置10Cはコンシェルジュが指定したページ番号を通知すればよい。
【0110】
B.資料データのファイルをサーバ装置50がゲストGの端末装置10Gに送信しておいてもよい(コンシェルジュCの端末装置10Cも資料データのファイルを保持している)。コンシェルジュが領域7に表示するページが変更になった場合、ページ番号(好ましくは資料データのIDを含む)をサーバ装置50に通知する。サーバ装置50はゲストGの端末装置10Gにページ番号(資料データのID)を送信する。ゲストGの端末装置10Gは資料データIDとページ番号で指定されページの画像データを領域7に表示する。ゲストGが領域8のページを変更した場合も同様に処理できる。
【0111】
このように、ゲストGの端末装置10GとコンシェルジュCの端末装置10Cは、それぞれゲストG側の領域8とコンシェルジュC側の領域7を有しこれらの領域で表示しているページ番号を、サーバ装置50を介して互いに通知すれば資料データの共有が可能である。
【0112】
<<興味がないと判定された場合の処理>>
次に、図9を用いて、ゲストGの端末装置10Gにおける処理を説明する。図9は、ゲストGの端末装置10Gが、コンシェルジュCが領域7に表示している資料データのページ7aにゲストGが興味をもっていないことをコンシェルジュCの端末装置10Cに通知するフローチャート図の一例である。
【0113】
ゲストGの端末装置10Gの比較部17は一定時間ごとに図9の処理を行う。このため、まず、一定時間が経過したか否かを判定する(S001)。ステップS001の判定がNoの場合、処理はステップS005に進む。なお、必ずしも一定時間ごとでなくてよい。
【0114】
ステップS001の判定がYesの場合、ゲストGの端末装置10Gの比較部17はコンシェルジュC側の領域7に表示されている資料データのページ7aにゲストGが興味を持っているか否かを判定する(S002)。具体的な判定方法については図11にて説明する。
【0115】
ステップS003の判定がYesの場合、判定結果通知部14は、コンシェルジュC側の領域7に表示されている資料データのページ7aにゲストGが興味を持っている旨の判定結果をサーバ装置50に通知する(S004)。
【0116】
ステップS003の判定がNoの場合、判定結果通知部14は、コンシェルジュC側の領域7に表示されている資料データのページ7aにゲストGが興味を持っていない旨の判定結果をサーバ装置50に通知する(S006)。サーバ装置50は判定結果をコンシェルジュCの端末装置10Cに送信する。
【0117】
ゲストGの端末装置10Gの比較部17は遠隔コミュニケーションが継続している間、図9の処理を周期的に繰り返す(S005)。サーバ装置50は判定結果をコンシェルジュCの端末装置10Cに送信する。
【0118】
次に、図10を用いて、コンシェルジュCの端末装置10Cにおける処理を説明する。図10は、コンシェルジュCの端末装置10Cが、ゲストGの端末装置10Gから取得した判定結果をコンシェルジュCに報知する(知らせる)フローチャート図の一例である。
【0119】
まず、コンシェルジュCの端末装置10Cの送受信部11はゲストGの端末装置10Gから判定結果を受信する(S201)。
【0120】
判定結果が興味ありの場合(S202のYes)、コンシェルジュCの端末装置10Cの表示制御部12は、すでに、ゲストGが興味ない旨をアプリの画面に表示しているか否かを判定する(S203)。
【0121】
ステップS203の判定がYesの場合、コンシェルジュCの端末装置10Cの興味報知部24は、ゲストGが興味ない旨をアプリの画面から消去する(S204)。ステップS203の判定がNoの場合、処理はステップS205に進む。
【0122】
判定結果が興味なしの場合(S202のNo)、コンシェルジュCの端末装置10Cの興味報知部24は、ゲストGが興味ない旨をアプリの画面に表示する(S206)。
【0123】
コンシェルジュCの端末装置10Cの表示制御部12は遠隔コミュニケーションが継続している間、図10の処理を周期的に繰り返す(S205)。
【0124】
<<興味の有無の判定>>
次に、図11を用いて、コンシェルジュC側の領域7に表示されている資料データのページ7aにゲストGが興味をもっているか否かの判定方法について説明する。図11は、コンシェルジュC側の領域7に表示されている資料データのページ7aにゲストGが興味をもっているか否かをゲストGの端末装置10Gが判定する手順を示すフローチャート図の一例である。
【0125】
まず、ゲストGの端末装置10Gの比較部17は、例えば通信IDをキーにして、ゲストGとコンシェルジュCが表示している「資料」と「ページ番号」をサーバ装置50から取得する(S101)。
【0126】
比較部17は、ゲストGの端末装置10Gが表示している「資料」及び「ページ番号」と、コンシェルジュCの端末装置10Cが表示している「資料」及び「ページ番号」とがそれぞれ同じか否かを判定する(S102)。
【0127】
ステップS102の判定がYesの場合、比較部17は「興味ある」という判定結果を生成する(S106)。
【0128】
ステップS102の判定がNoの場合、比較部17は比較結果管理DB22から前回の比較結果を取得する(S103)。
【0129】
そして、比較部17は前回の比較結果が、「資料」及び「ページ番号」が同じであったか否かを判定する(S104)。
【0130】
ステップS104の判定がYesの場合、判定部18は「興味ある」という判定結果を生成する(S106)。こうすることで、ユーザが意図していない操作(ページ送りを行き過ぎた、など)をすることによってゲストGとコンシェルジュCとでページ数が異なった場合にも即座に「興味なし」と判定することを防止できる。
【0131】
ステップS104の判定がNoの場合、判定部18は「興味ない」という判定結果を生成する(S105)。このように、ゲストGとコンシェルジュCの表示している「資料」と「ページ番号」の比較結果が2回連続で「異なる」となった場合に、「興味なし」という判定結果を生成する。
【0132】
比較部17は、「資料」及び「ページ番号」の今回の比較結果を比較結果管理DB22に登録する(S107)。
【0133】
なお、図11の処理で、ゲストGとコンシェルジュCの表示している「資料」と「ページ数」が異なっていればすぐに「興味なし」と判定してもよい。
【0134】
また、「2回連続」としたのは一例に過ぎず、3回以上でもよい。また、今回と直近の過去の所定数の比較結果の内、比較結果が一定の比率以上「異なる」になっていた場合に「興味なし」と判定してもよい。例えば、過去の比較結果5回の内、「異なる」が過半数だった場合に「興味なし」という判定結果を生成する。周期的に繰り返された比較結果が、
5.異なる -> 4.同じ -> 3.異なる -> 2.異なる -> 1.異なる
の場合、5回中4回の比率で「異なる」ので、例えば閾値を50%(過半数)とすれば比率が閾値以上となり、「興味なし」という「判定結果」になる。
【0135】
<視線方向を考慮した興味の有無の判定>
続いて、コンシェルジュCが表示している資料のページにゲストGが興味をもっているか否かを、視線方向を考慮して判定する方法について説明する。
【0136】
図12は、視線方向の検知方法を説明する図の一例である。ゲストGの端末装置10Gはカメラ301と光源302を有している。まず、光源302は遠赤外などの可視光以外の波長を有するLEDなどの光源である。光源302はゲストGの目に点光源となる光を照射する。また、カメラ301は少なくとも眼を含む顔画像を撮像する。
【0137】
視線検知部15は顔画像の画像データを解析して視線方向を検出する。具体的には、基準点と動点の相対位置に基づいて視線方向が検出される。一例として、基準点に目頭、動点に虹彩を選ぶ方法と、基準点に角膜反射、動点に瞳孔を選ぶ方法とがある。図12の方法は角膜反射が使用される例である。視線検知部15は、画像データから顔部分を特定し、顔部分から眉、鼻孔、目、唇などの特徴的な部品を特定し、これらの配置関係から目の位置を特定する。目の位置が特定されると輝度を画像処理して角膜反射及び瞳孔を検出できる。
【0138】
角膜反射及び瞳孔の相対位置に視線方向が対応付けられたテーブルが予め容易されており、視線検出装置はこのテーブルを参照して視線方向を検出する。
【0139】
図13は、視線方向に基づいて、コンシェルジュCが表示している資料のページにゲストGが興味をもっているか否かをゲストGの端末装置10Gが判定する手順を示すフローチャート図の一例である。
【0140】
ステップS401、S402、S406の処理は図11のステップS101、S102、S106と同様でよい。ステップS402の判定がYesの場合、ゲストGの端末装置10Gの判定部18は視線検知部15が検知した視線方向を取得する(S403)。
【0141】
そして、判定部18は、コンシェルジュCが領域7に表示している資料データのページ7aを見ているか否かを判定する(S404)。
【0142】
ステップS404の判定がYesの場合、判定部18は「興味ある」という判定結果を生成する(S406)。
【0143】
ゲストGが、ゲストG側の資料のページを進めたまま放置し、コンシェルジュCの資料を見ながら説明を聞いている場合(今はコンシェルジュCの資料に興味がある)、ページ数の差異だけでは、興味をもっているか否かの判定結果が意図しない結果となる場合がある。従って、図13では、視線検知を組み合わせることにより、判定をより正確に行なうことができる。
【0144】
ステップS404の判定がNoの場合、判定部18は「興味ない」という判定結果を生成する(S405)。
【0145】
なお、ステップS404では、「ゲストGが領域7を見ているか」という判定を行なっているが、判定基準はこれに限定しない。例えば、「ゲストGが、領域8を見ている」(見ていたら「興味なし」と判定)、「ゲストGが、コンシェルジュCの顔が映っている領域9、又は、コンシェルジュCが資料データを表示する領域7を見ているか」(見ていたら「興味ある」と判定)してもよい。
【0146】
<まとめ>
以上説明したように、本実施形態の端末装置10は、コンシェルジュCが説明している資料データのページ7aにゲストGが興味を持っていない場合、コンシェルジュCにその旨が通知されるので、コンシェルジュCは話題を変えたり、ゲストGに注意を促したりするなど適切な対応を取ることができる。
【0147】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0148】
例えば、コンシェルジュCが表示中の資料データのページ7aにゲストGが興味をもっていないと判定するのは、サーバ装置50でもよい。図14は、通信システム1が有する端末装置10、及びサーバ装置50の機能ブロック図の他の例である。図14では、サーバ装置50が比較部17、判定結果通知部14、及び、比較結果管理DB22を有している。ゲストGの端末装置10Gはこれらを有していない。こうすることで、コンシェルジュCが領域7に表示中の資料データのページ7aにゲストGが興味をもっているか否かをサーバ装置50が判定できる。
【0149】
また、コンシェルジュCが表示中の資料データのページ7aにゲストGが興味をもっていないと判定するのは、サーバ装置50でもよい。図15は、通信システム1が有する端末装置10、及びサーバ装置50の機能ブロック図の他の例である。図15では、コンシェルジュCの端末装置10Cが比較部17、判定結果通知部14、及び、比較結果管理DB22を有している。ゲストGの端末装置10Gはこれらを有していない。こうすることで、コンシェルジュCが領域7に表示中の資料データのページ7aにゲストGが興味をもっているか否かをコンシェルジュCの端末装置10Cが判定できる。なお、図15の判定結果通知部14は判定結果を外部に通知する必要はなく、判定結果に応じて興味報知部24がコンシェルジュCに報知すればよい。
【0150】
また、コンシェルジュCが領域7に表示中の資料データのページ7aにゲストGが興味をもっていないことをコンシェルジュCに知らせる方法は、図2に示した方法に限られない。図16は、コンシェルジュCが領域7に表示中の資料データのページ7aにゲストGが興味を持っていないと判定された場合の報知方法を説明する図の一例である。
【0151】
図16(a)では、コンシェルジュC側の領域7が枠40で強調されている。コンシェルジュCは通常、コンシェルジュC側の領域7を見ているはずなので,コンシェルジュC側の領域7が強調されても気づくことができる。
【0152】
また、図16(b)に示すように、コンシェルジュCの端末装置10Cの興味報知部24はメッセージを画面に表示してもよい。図16(b)では、「ゲストGが別のページを見ているようです。」というメッセージが表示されている。これにより、コンシェルジュCが領域7に表示中の資料データのページ7aにゲストGが興味を持っていないことをコンシェルジュCが気づくことができる。この他、メロディや音声により報知してもよい。
【0153】
また、上記の実施形態では、興味ありと興味なしという2段階の判定結果を説明したが、判定結果は多段階でもよい。この場合、判定部18は、ゲストGがコンシェルジュCの資料データを見ていない時間が長くなるほど興味なしの度合いが強い判定結果を生成し、興味報知部24は、興味なしの度合いが強い判定結果ほどコンシェルジュC側の枠40の強調の程度を強くする。例えば、枠40を太くしたり、点滅速度を大きくしたりする。
【0154】
また、コンシェルジュCが表示中のページにゲストGが興味を持っていないことをコンシェルジュCが気づいた場合、コンシェルジュCの端末装置10CからゲストGの端末装置10Gに制御信号を送信することができてよい。
【0155】
図17は、コンシェルジュCが領域7に表示中のページにゲストGが興味を持っていないと判定された場合の動作を説明する図の一例である。図17ではコンシェルジュCの端末装置10Cの画面がページ切替ボタン303を有している。ページ切替ボタン303は、ゲストGの端末装置10Gが領域8に表示するゲストG側の資料データのページ8aを、コンシェルジュC側の領域7の資料データのページ7aと一致させるためのボタンである。ページ切替ボタン303が押下されると、コンシェルジュCの端末装置10Cがページ切替要求をサーバ装置50に送信し、コンシェルジュCが領域7に表示中の資料データのページ7aの画像データを、サーバ装置50の資料共有部52がゲストGの端末装置10Gに送信する。これにより、強制的に、ゲストGの端末装置10Gが領域8に表示するゲストG側の資料データのページ8aを、コンシェルジュC側が領域7に表示する資料データのページ7aと一致させることができる。例えば、ゲストGが領域8の資料データのページ8aを切り替える必要をなくすることができる。
【0156】
また、図7などの構成例は、端末装置10、及びサーバ装置50の処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。また、端末装置10、及びサーバ装置50の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0157】
なお、遠隔コミュニケーション通信部13はデータ共有手段の一例であり、表示制御部12は表示制御手段の一例であり、判定結果通知部14は通知手段の一例であり、遠隔コミュニケーション管理DB55は共有データ情報記憶部の一例であり、比較部17は比較手段の一例であり、判定部18は判定手段の一例であり、視線検知部15は視線方向検知手段の一例であり、資料共有部52は共有制御手段の一例であり、コンシェルジュCの端末装置10の送受信部11は受信手段の一例であり、興味報知部24は報知手段の一例である。
【0158】
コンシェルジュCの端末装置10Cは請求項1~8、12の他の端末装置の一例である。ゲストGの端末装置10Gは請求項9の他の端末装置の一例である。コンシェルジュCの端末装置10Cは請求項10,11の他の端末装置の一例であり、ゲストGの端末装置10Gは請求項10,11の第一の端末装置の一例である。
【符号の説明】
【0159】
1 通信システム
7~9 領域
10 端末装置
50 サーバ装置
【先行技術文献】
【特許文献】
【0160】
【文献】特表2017-502422号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17