(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-27
(45)【発行日】2022-06-06
(54)【発明の名称】システム
(51)【国際特許分類】
G06F 3/04817 20220101AFI20220530BHJP
G06F 3/04886 20220101ALI20220530BHJP
G06F 3/14 20060101ALI20220530BHJP
G09G 5/00 20060101ALI20220530BHJP
G09G 5/34 20060101ALI20220530BHJP
G09G 5/36 20060101ALI20220530BHJP
H04N 7/18 20060101ALI20220530BHJP
【FI】
G06F3/04817
G06F3/04886
G06F3/14 350B
G06F3/14 360B
G09G5/00 510H
G09G5/00 550C
G09G5/34 A
G09G5/36 520B
G09G5/36 520E
H04N7/18 U
(21)【出願番号】P 2017253062
(22)【出願日】2017-12-28
【審査請求日】2020-12-09
【新規性喪失の例外の表示】特許法第30条第2項適用 ▲1▼平成29年8月23日 ウェブサイトのアドレス 「https://dynabook.com/press-release/20170823.html?_ga=2.243603973.1850269875.1514250721-891387179.1512008696」(プレスリリース) [参考資料1] 「https://dynabook.com/business/mecd/index.html」 を通じて発表 [参考資料2] ▲2▼平成29年8月23日 ウェブサイトのアドレス 「http://us.toshiba.com/computers-tablets/laptops/dynaEdge/」 を通じて発表 [参考資料3] ▲3▼平成29年7月21日 働き方改革ソリューションセミナーのウェブサイトのアドレス 「https://dynabook.com/business/seminar/170825/index.html」 [参考資料4] 「https://dynabook.com/content/dam/pcs/jp/ja/dynabook-b2b/business/seminar/170825/pdf/mecd_tcs.pdf」を通じて発表 [参考資料5] ▲4▼平成29年8月25日 働き方改革ソリューションセミナー ▲5▼平成29年11月9日及び10日 東芝オープンイノベーションフェア2017 [参考資料6]
(73)【特許権者】
【識別番号】398058588
【氏名又は名称】Dynabook株式会社
(74)【代理人】
【識別番号】110001737
【氏名又は名称】特許業務法人スズエ国際特許事務所
(72)【発明者】
【氏名】藤井 哲也
(72)【発明者】
【氏名】波多野 亮
【審査官】田川 泰宏
(56)【参考文献】
【文献】特開2014-164449(JP,A)
【文献】特開2014-071812(JP,A)
【文献】特開2008-243128(JP,A)
【文献】特開2016-009461(JP,A)
【文献】特開2009-116683(JP,A)
【文献】特開2012-137822(JP,A)
【文献】特開2013-047919(JP,A)
【文献】特開2001-222507(JP,A)
【文献】特開2005-242830(JP,A)
【文献】特開2000-299851(JP,A)
【文献】特開2002-297278(JP,A)
【文献】特開2016-057842(JP,A)
【文献】特開2011-164835(JP,A)
【文献】米国特許出願公開第2011/0138285(US,A1)
【文献】米国特許出願公開第2008/0244450(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/04817
G09G 5/34
G09G 5/36
G09G 5/00
G06F 3/04886
G06F 3/14
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
上下左右を指示可能な第1入力部と、表示部と、を具備するウェアラブル機器と、
上下左右を指示可能な第2入力部と、前記表示部にホーム画面を表示させる電子機器と、を具備するシステムであって、
前記ホーム画面は可変サイズの第1エリア、第2エリア及び第3エリアに分割され、
第1種類の複数の第1アイコンが前記第1エリアに表示され、
第2種類の複数の第2アイコンが前記第2エリアに表示され、
第3種類の複数の第3アイコンが前記第3エリアに表示され、
前記第1エリア、前記第2エリア又は前記第3エリアは前記第1入力部又は前記第2入力部の操作により選択可能であり、
選択されたエリアのサイズは非選択のエリアのサイズより大きく、
前記複数の第1アイコン、前記複数の第2アイコン又は前記複数の第3アイコンは前記第1入力部又は前記第2入力部の操作によりスクロール可能であり、
前記選択されたエリアの中央のアイコンのサイズは前記選択されたエリアの他のアイコンのサイズより大きく、
前記選択されたエリアの中央のアイコンの表示態様は前記他のアイコンの表示態様と異なるものであるシステム。
【請求項2】
前記電子機器は、フロントエンドアプリケーション内のホームアプリケーションを起動することにより、前記ホーム画面を生成して前記ウェアラブル機器の前記表示部に表示させる請求項1記載のシステム。
【請求項3】
前記選択されたエリアの上下方向の幅は、前記非選択のエリアの上下方向の幅より広く、
前記選択されたエリア内の複数のアイコンは、前記非選択のエリア内の複数のアイコンより大きく表示される請求項1記載のシステム。
【請求項4】
前記選択されたエリアに対し、前記第1入力部又は第2入力部の操作により、フォーカスを左右に移動させると共に、フォーカスのあるアイコンを前記選択されたエリアの中央に表示させる請求項3記載のシステム。
【請求項5】
前記選択されたエリア内の前記フォーカスのあるアイコンに対し、前記第1入力部又は第2入力部の操作により、該アイコンの関連情報を前記ホーム画面に表示させる請求項4記載のシステム。
【請求項6】
前記ホーム画面に表示された前記関連情報に対し、前記第1入力部又は第2入力部の操作により、前記関連情報を消去して、前記選択されたエリア内の前記フォーカスのあるアイコンを含む元のホーム画面を再表示する請求項5記載のシステム。
【請求項7】
前記ウェアラブル機器及び前記電子機器の状態を示すアイコンが前記第1エリアの右又は左の端部に表示される請求項1記載のシステム。
【請求項8】
前記ウェアラブル機器及び前記電子機器の状態は、バッテリ残量、ネットワーク接続状態、及び通話状態を含む請求項7記載のシステム。
【請求項9】
前記第1入力部又は前記第2入力部の操作により前記選択されたエリアが上又は下に移動し、
前記選択されたエリアの移動に応じて前記第1エリア、前記第2エリア及び前記第3エリアの縦方向のサイズが変化するものである請求項1記載のシステム。
【請求項10】
前記第1エリアと前記第2エリアとの境界線及び前記第2エリアと前記第3エリアとの境界線は曲線であり、
前記選択されたエリアと該選択されたエリアの上のエリアとの境界線は前記選択されたエリア側に突出する曲線であり、前記選択されたエリアと該選択されたエリアの下のエリアとの境界線は前記選択されたエリア側に突出する曲線である請求項9記載のシステム。
【請求項11】
前記ウェアラブル機器はカメラをさらに具備し、
前記電子機器は通話可能に外部機器に接続され、前記カメラで撮影した画像又は前記外部機器から送信された画像を格納するメモリをさらに具備し、
前記複数の第1アイコンは前記外部機器との通話に関する複数のアイコンを具備し、
前記複数の第2アイコンは前記メモリに格納されたデータファイルの閲覧に関する複数のアイコンを具備し、
前記複数の第3アイコンは前記カメラの撮影モードに関する複数のアイコンを具備するものである請求項1記載のシステム。
【請求項12】
前記複数の第1アイコンは、前記外部機器との遠隔支援アプリケーションを起動させるためのアイコンを含み、
前記複数の第2アイコンは、コンテンツビューワーアプリケーションを起動させるためのアイコンを含み、
前記複数の第3アイコンは、ウェアラブルビューワーの設定のためのアイコンを含む請求項11記載のシステム。
【請求項13】
前記複数の第1アイコンは前記外部機器との通話中に前記カメラで撮影したライブ映像を前記外部機器へ送信するためのアイコンを含む請求項11記載のシステム。
【請求項14】
前記複数の第1アイコンは前記カメラで撮影した画像又は前記メモリに格納された画像を前記外部機器へ送信し、前記外部機器から送信された画像を受信し、前記ウェアラブル機器へ送信するためのアイコンを含む請求項11記載のシステム。
【請求項15】
前記複数の第1アイコンは前記外部機器から送信されたアノテーション付き画像を受信し、前記ウェアラブル機器へ送信するためのアイコンを含む請求項11記載のシステム。
【請求項16】
前記複数の第2アイコンは前記メモリに格納された文書ファイル、画像ファイル、映像ファイルの閲覧に関するものである請求項11記載のシステム。
【請求項17】
前記カメラは第1画質の静止画像を撮影する第1モードと前記第1画質よりも高画質の第2画質の静止画像を撮影する第2モードとのいずれかで動作可能であり、
前記複数の第3アイコンは前記カメラを前記第1モードと前記第2モードのいずれかで動作させるためのアイコンを含む請求項11記載のシステム。
【請求項18】
前記複数の第3アイコンは、写真撮影を実行するための機能を起動させるアイコン、及びビデオ撮影を実行するための機能を起動させるアイコンを含む請求項11記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態はウェアラブル機器及び電子機器を具備するシステムに関する。
【背景技術】
【0002】
最近、多くのモノがインターネットでつながるIoT時代となり、オフィス、工場、その他様々な場面において、ネットワークコミュニケーションや情報共有のツールとしてエッジコンピューティングと呼ばれる技術が求められている。このエッジコンピューティングを実現するためにはデータセンター(或いはクラウド)とは別に作業者(ユーザ)がその場で使用可能な、高度の汎用性と処理能力を持つ実用的なモバイルエッジコンピューティングデバイスの開発が必要とされている。これにより、作業現場等での業務効率化や生産性向上、或いは、データの負荷分散やネットワーク環境の改善等を図ることが期待される。
【0003】
モバイルエッジコンピューティングデバイスはディスプレイやハードウェアキーボードが備わっていると、作業者は作業に専念しづらい。これを解決するために、ディスプレイやハードウェアキーボードを備えないモバイルエッジコンピューティングデバイスが検討されている。このようなモバイルエッジコンピューティングデバイスにメガネ型ウェアラブル機器を接続すれば、メガネ型ウェアラブル機器の表示部をモバイルエッジコンピューティングデバイスのディスプレイとして利用でき、作業者は作業しながら、表示を確認することができる。
【0004】
このような機器の応用例の1つに遠隔支援システムが考えられている。このシステムは現地で作業する作業者が操作するモバイルPCと、事務所等に居る支援者が操作するオペレータ端末から構成されることが考えられている。モバイルPCとオペレータ端末はインターネット等により接続される。モバイルPCからオペレータ端末へは現地の映像や画像を送信でき、オペレータ端末からモバイルPCへは作業支援のための画像や文書等を送信できることが好ましい。そして、作業者と支援者は通話もできることが好ましい。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2006-238110号公報
【文献】特開2005-242830号公報
【文献】特開2000-299851号公報
【文献】特開2007-072733号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
現在、このような遠隔支援に適すると共に、作業者にとって視認性の高いウェアラブル機器及び電子機器を具備するシステムが存在していない。
【0007】
本発明の目的は、このような遠隔支援に適すると共に、作業者にとって視認性の高いウェアラブル機器及び電子機器を具備するシステムを提供することである。
【課題を解決するための手段】
【0008】
実施形態によれば、ウェアラブル機器と電子機器を具備するシステムにおいて、ウェアラブル機器は上下左右を指示可能な第1入力部と表示部を備える。電子機器は上下左右を指示可能な第2入力部を備え、前記表示部にホーム画面を表示させる。前記ホーム画面は可変サイズの第1エリア、第2エリア及び第3エリアに分割される。第1種類の複数の第1アイコンが前記第1エリアに表示され、第2種類の複数の第2アイコンが前記第2エリアに表示され、第3種類の複数の第3アイコンが前記第3エリアに表示される。前記第1エリア、前記第2エリア又は前記第3エリアは前記第1入力部又は前記第2入力部の操作により選択可能であり、選択されたエリアのサイズは非選択のエリアのサイズより大きい。前記複数の第1アイコン、前記複数の第2アイコン又は前記複数の第3アイコンは前記第1入力部又は前記第2入力部の操作によりスクロール可能である。前記選択されたエリアの中央のアイコンのサイズは前記選択されたエリアの他のアイコンのサイズより大きく、前記選択されたエリアの中央のアイコンの表示態様は前記他のアイコンの表示態様と異なる。
【図面の簡単な説明】
【0009】
【
図1】実施形態の電子機器を含む遠隔支援システムの一例を示すブロック図である。
【
図2】
図1中のオペレータ端末12の一例を示すブロック図である。
【
図3】
図1中のモバイルPC16に接続されるウェアラブルデバイス23の外観の一例を示す。
【
図4】ウェアラブルデバイス23の本体24の外観の一例を示す。
【
図5】モバイルPC16とウェアラブルデバイス本体24との接続の一例を示す。
【
図6】ウェアラブルデバイス本体24の一例を示すブロック図である。
【
図8】モバイルPC16の一例を示すブロック図である。
【
図9】モバイルPC16のアプリケーションプログラムの一例を示す。
【
図10】ウェアラブルデバイス23で表示されるホーム画面の一例を示す。
【
図11】ホーム画面における、作業者の操作による画面の遷移の一例を示す。
【
図12】ホーム画面内のコミュニケーションエリアに位置するアイコンを選択した場合の画面の遷移の一例を示す。
【
図13】ホーム画面内のコンテンツエリアに位置するアイコンが選択された場合の画面の遷移の一例を示す。
【
図14】ホーム画面内のツールエリアに位置するアイコンを選択した場合の画面の遷移の一例を示す。
【
図16】モバイルPC16(及びウェアラブルデバイス23)とオペレータ端末12間が通話中である場合に、ウェアラブルデバイス23で表示される画面の一例を示す。
【
図17】ウェアラブルデバイス23で撮影されたリアルタイム映像をオペレータ端末12に配信する場合に、ウェアラブルデバイス23で表示される画面の遷移の一例を示す。
【
図18】モバイルPC16とオペレータ端末12間が通話中に標準モードで静止画像を撮影する場合に、ウェアラブルデバイス23で表示される画面の遷移の一例を示す。
【
図19】モバイルPC16とオペレータ端末12間が通話中に高画質モードで静止画像を撮影する場合に、ウェアラブルデバイス23で表示される画面の遷移の一例を示す。
【
図20】モバイルPC16とオペレータ端末12間が通話中にモバイルPC16がテキストメッセージを受信した場合に、ウェアラブルデバイス23で表示される画面の遷移の一例を示す。
【
図21】モバイルPC16がウェアラブルデバイス23の動作環境を設定する場合に、ウェアラブルデバイス23で表示される画面の遷移の一例を示す。
【
図22】オペレータ端末12のアプリケーションプログラムの一例を示す。
【
図23】オペレータ端末12が静止画像にアノテーションを付加し、そのアノテーションを付加した静止画像をモバイルPC16に送る動作の流れの一例を示す。
【
図24】モバイルPC16から受信した静止画像のサムネイルとモバイルPC16に送信した静止画像のサムネイルとを表示するオペレータ端末12の画面の一例を示す。
【
図25】モバイルPC16からのコールをオペレータ端末12が受話してライブ映像配信が行われる場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図26】オペレータ端末12からのコールをモバイルPC16が受話してライブ映像配信が行われる場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図27】静止画像を標準モードで撮影し、撮影された静止画像をモバイルPC16からオペレータ端末12に送信する場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図28】静止画像を高画質モードで撮影し、撮影された静止画像をモバイルPC16からオペレータ端末12に送信する場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図29】オペレータ端末12のデスクトップ画面又は起動中のアプリケーションの画面を通信中のモバイルPC16と共有する場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図30】オペレータ端末12からモバイルPC16にテキストメッセージを送信する場合における、ウェアラブルビューワー側とオペレータ端末12側それぞれのユーザインターフェースを示す。
【
図31】モバイルPC16からのコールをオペレータ端末12が受話する場合における、ライブ映像をオペレータ端末12に配信する動作の一例を示すシーケンス図である。
【
図32】オペレータ端末12からのコールをモバイルPC16が受話する場合における、ライブ映像をオペレータ端末12に配信する動作の一例を示すシーケンス図である。
【
図33】静止画像を高画質モードで撮影し、撮影された高画質の静止画像をモバイルPC16からオペレータ端末12に送信する動作の一例を示すシーケンス図である。
【
図34】アノテーションが付加された静止画像をオペレータ端末12からモバイルPC16に送信する動作の一例を示すシーケンス図である。
【発明を実施するための形態】
【0010】
以下、実施の形態について図面を参照して説明する。なお、開示はあくまで一例にすぎず、以下の実施形態に記載した内容により発明が限定されるものではない。当業者が容易に想到し得る変形は、当然に開示の範囲に含まれる。説明をより明確にするため、図面において、各部分のサイズ、形状等を実際の実施態様に対して変更して模式的に表す場合もある。複数の図面において、対応する要素には同じ参照数字を付して、詳細な説明を省略する場合もある。
【0011】
[遠隔支援システム]
図1は、エッジコンピューティングを実現するための遠隔支援システムの一例を示すブロック図である。遠隔支援システムは、例えば現地の作業者(ユーザとも称する)を後方のオペレータが遠隔地から支援するためのシステムである。現地の作業の例は、複雑なメンテナンス業務、物流倉庫のピッキング作業、現場監視、災害救助・医療サポート等がある。現地の作業者側をフロントエンド、後方のオペレータ側をバックエンドとも称する。遠隔支援システムは、作業者が携帯するモバイルパーソナルコンピュータ(モバイルPC、モバイルエッジコンピューティングデバイスと呼ぶこともある)16及びメガネ型のウェアラブルデバイス23と、作業者から離れた位置にある遠隔支援センター(データセンター)18とを備え、モバイルPC16と遠隔支援センター18はネットワーク22を介して相互に接続され、通信可能となっている。モバイルPC16と遠隔支援センター18は有線のLANケーブルによりネットワーク22に接続されてもよいし、無線LAN、ブルートゥース(登録商標)等によりネットワーク22に接続されてもよい。
【0012】
ウェアラブルデバイス23はモバイルPC16と接続される。
図1では、ウェアラブルデバイス23はケーブルによりモバイルPC16に接続される例を示すが、ウェアラブルデバイス23は無線LAN、ブルートゥース等によりモバイルPC16と接続されてもよい。ウェアラブルデバイス23はカメラ、ディスプレイを備え、カメラで撮影した画像をモバイルPC16に送信し、モバイルPC16から送信される画像をディスプレイで表示する。
【0013】
図1に示すように複数の作業者がネットワークを介して相互に通信することも可能である。この場合、遠隔支援センター18を経由してもよいし、遠隔支援センター18のオペレータを介さずに作業者同士のみで通信するようにすることも可能である。
【0014】
遠隔支援センター18は作業者を支援するオペレータが操作する端末(以下、オペレータ端末と称する)12とサーバ14を備える。
【0015】
遠隔支援センター18はモバイルPC16(及びウェアラブルデバイス23)とオペレータ端末12間で通話を行う又は情報をやり取りする。モバイルPC16に接続されるウェアラブルデバイス23のリアルタイム映像をオペレータ端末12に配信することや、モバイルPC16とオペレータ端末12間で画像を相互に送受信できる。また、オペレータ端末12からモバイルPC16にテキストメッセージを送信することもできる。例えば、物流倉庫ピッキング作業では、メガネ型のウェアラブルデバイス23にピッキング品の場所を表示させ、ハンズフリーでのピッキングを実現できる。
【0016】
遠隔支援としては、典型的には、例えば以下の機能を含む。
【0017】
(1)モバイルPC16とオペレータ端末12との双方向の通話を行う通話機能。
【0018】
(2)通話中にウェアラブルデバイス23のリアルタイム映像をオペレータ端末12に配信するライブ映像配信機能。
【0019】
(3)通話中にモバイルPC16とオペレータ端末12間で静止画を送受信する静止画像の送受信機能(モバイルPC16は撮影した静止画や映像配信中のキャプチャ画像をオペレータ端末12に送信し、オペレータ端末12は受信した画像に文字や絵などを書き込み、編集した画像をモバイルPC16に送信する機能。モバイルPC16で受信した静止画像は、モバイルPC16内のフォルダに保存され、閲覧可能である)。
【0020】
(4)通話中にオペレータ端末12のデスクトップ画面全体又は任意のアプリケーションプログラムのウィンドウをウェアラブルデバイス23に表示する画面共有機能。
【0021】
(5)オペレータ端末12からモバイルPC16に対してテキストメッセージを送信するテキストメッセージの送信機能。
【0022】
サーバ14は遠隔支援のための処理をオペレータ端末12に代わって又は協働して行うものであり、プロセッサ(CPU)28、ROM30、RAM32、ハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)からなるストレージデバイス34、インターフェース36を備える。なお、サーバ14の機能を全てオペレータ端末12に持たせ、サーバ14を省略してもよい。
【0023】
[オペレータ端末12]
図2はオペレータ端末12の一例を示すブロック図である。オペレータ端末12はオペレータが執務する事務所内のデスク上のデスクトップ型PC又はノートブック型PC等からなる。
【0024】
オペレータは、オペレータ端末12を用いて現地の状況をリアルタイム映像で確認しながら、会話や画像によってモバイルPC16の作業者に指示を行う。オペレータは、オペレータ端末12を用いてモバイルPC16から受信した画像ファイルに絵や文字などの書き込みを行い、編集した画像ファイルをモバイルPC16に送信することや、オペレータ端末12に保存することができる。
【0025】
オペレータ端末12は、プロセッサを含むシステムコントローラ42を備え、システムコントローラ42には、主メモリ44、BIOS-ROM50、HDD又はSSDからなるストレージデバイス52、オーディオコーデック54、グラフィックスコントローラ62、タッチパネル70、USB(登録商標)コネクタ72、無線LANデバイス74、ブルートゥースデバイス76、有線LANデバイス78、PCIExpress(登録商標)カードコントローラ80、メモリカードコントローラ82、エンベデッドコントローラ/キーボードコントローラ(EC/KBC)84等が接続される。
【0026】
システムコントローラ42はストレージデバイス52から主メモリ44にロードされる様々なプログラムを実行する。これらプログラムは、オペレーティングシステム(OS)46、遠隔支援のためのバックエンドアプリケーションプログラム48を含む。システムコントローラ42は不揮発性メモリであるBIOS-ROM50に格納された基本入出力システム(BIOS)も実行する。BIOSはハードウェア制御のためのシステムプログラムである。
【0027】
オーディオコーデック54は、再生対象のデジタルのオーディオ信号をアナログのオーディオ信号に変換して、ヘッドフォン58又はスピーカ60に供給する。また、オーディオコーデック54は、マイク56から入力されるアナログのオーディオ信号をデジタル信号に変換する。マイク56とヘッドフォン58は単独で設けてもよいが、インカムとして一体的に設けてもよい。
【0028】
グラフィックスコントローラ62は、オペレータ端末12のディスプレイモニタとして使用される液晶表示器(LCD)64を制御する。LCD64の画面上にタッチパネル70が重ねられ、LCD64の画面にタッチペン等により手書き入力操作が行えるように構成されている。グラフィックスコントローラ62にはHDMI(登録商標)コントローラ66も接続される。HDMIコントローラ66は外部の表示デバイスとの接続のためのHDMIコネクタ68に接続される。
【0029】
無線LANデバイス74は、ネットワーク22との接続のためにIEEE802.11規格の無線LAN通信を実行する。ブルートゥースデバイス76は、外部機器との接続のためにブルートゥース規格の無線通信を実行する。有線LANデバイス78は、ネットワーク22との接続のためにIEEE802.3規格の有線LAN通信を実行する。このように、オペレータ端末12とネットワーク22との接続は無線通信によってもよいし、有線通信によってもよい。
【0030】
PCIExpressカードコントローラ80はオペレータ端末12と外部機器との間でPCIExpress規格の通信を行なう。メモリカードコントローラ82は、例えばSDカード(登録商標)等のメモリカードにデータを書き込み、メモリカードからデータを読み出す。
【0031】
EC/KBC84は電力管理コントローラであり、例えば、キーボード88を制御するキーボードコントローラを内蔵したワンチップマイクロコンピュータとして実現されている。EC/KBC84は、電源スイッチ86の操作に応じてオペレータ端末12をパワーオン又はパワーオフする機能を有する。パワーオン及びパワーオフの制御は、EC/KBC84と電源回路90との協働動作によって実行される。EC/KBC84はオペレータ端末12がパワーオフされている期間中も、バッテリ92又はACアダプタ94からの電力によって動作する。電源回路90は、バッテリ92からの電力又は外部電源として接続されるACアダプタ94からの電力を用いて、各コンポーネントへ供給すべき電力を生成する。
【0032】
[ウェアラブルデバイス23]
図3はモバイルPC16に接続されるウェアラブルデバイス23の外観の一例を示す。ウェアラブルデバイス23はメガネフレーム142とウェアラブルデバイス本体24とを備える。メガネフレーム142は一般的なメガネからレンズを取り除いた形状でもよく、作業者の顔に装着される。メガネフレーム142はメガネが取り付けられる構造としてもよい。作業者がメガネを常用する場合、常用しているメガネと同様な度数のレンズがメガネフレーム142に取り付けられてもよい。
【0033】
メガネフレーム142はウェアラブルデバイス本体24が着脱される取付具144を左右のテンプルに備える。
図3では作業者の右側のテンプルの取付具144はウェアラブルデバイス本体24に隠されているので、図示されない。上述したようにウェアラブルデバイス本体24はディスプレイ124(
図4に示す)(請求項では表示部と称する)を備え、ディスプレイ124は片目で目視されるようになっているので、ウェアラブルデバイス本体24が利き目側に取り付けられるように取付具144は左右のテンプルに備えられている。なお、ウェアラブルデバイス本体24を取付具144によりメガネフレーム142に着脱自在に取り付ける必要はなく、ウェアラブルデバイス本体24がメガネフレーム142に固定された右眼用、左眼用のウェアラブルデバイス23を用意してもよい。さらに、ウェアラブルデバイス本体24をメガネフレーム142ではなく、ヘルメット、ゴーグル等を用いて作業者の頭部に装着してもよい。
【0034】
ウェアラブルデバイス本体24は、その係合片128(
図4に示す)が取付具144の上下の枠内に押し込まれることにより、メガネフレーム142に取り付けられる。ウェアラブルデバイス本体24をメガネフレーム142から取り外す場合は、ウェアラブルデバイス本体24が取付具144から引き抜かれる。
【0035】
ウェアラブルデバイス本体24は取付具144に取り付けられた状態で、係合片128は取付具144内で前後に多少は移動可能である。このため、作業者の焦点がディスプレイ124に合うようにウェアラブルデバイス本体24は前後位置が調整可能である。さらに、取付具144はテンプルに直交する軸144Aを中心に回転可能であり、ウェアラブルデバイス本体24がメガネフレーム142に取り付けられた後、ディスプレイ124が作業者の視線上に位置するように上下位置が調整可能である。さらに、取付具144の回転角度は90度程度であり、取付具144を上方向に大きく回転することにより、ウェアラブルデバイス本体24をメガネフレーム142からはね上げることができる。これにより、ウェアラブルデバイス本体24により視野が邪魔され実物を見ることが困難な場合や、狭い場所でウェアラブルデバイス本体24が周囲の物体に干渉する場合でも、ウェアラブルデバイス23全体を顔から外す/再装着することなく、ウェアラブルデバイス本体24を作業者の視野から一時的に外す/戻すことができる。
【0036】
[ウェアラブルデバイス本体24]
ウェアラブルデバイス本体24はメガネフレーム142のテンプルに沿った側面部と作業者の一方の眼球の視線上に位置する前面部とからなる。側面部に対する前面部の角度は調節可能である。
【0037】
図3に示すように、前面部の外側表面にはカメラ116、ライト118、カメラLED120が設けられる。ライト118は暗部の撮影時に発光する補助照明である。カメラLED120は写真や動画の撮影時に点灯し、撮影対象者に撮影していることを認識させるためのものである。
【0038】
右側のテンプルに取り付けられたウェアラブルデバイス本体24の側面部の上側面に第1、第2、第3ボタン102、104、106が設けられる。なお、作業者の利き目が左眼の場合、ウェアラブルデバイス本体24は左側のテンプルに取り付けられる。右側に取り付けられるか左側に取り付けられるかで、ウェアラブルデバイス本体24の上下が反転するので、側面部の上側面と下側面の両面に第1、第2、第3ボタン102、104、106を設けてもよい。
【0039】
側面部の外側表面にはタッチパッド110、第4ボタン108、マイク112、照度センサ114が設けられる。タッチパッド110と第4ボタン108は人差し指で操作可能である。ボタン102、104、106は、ウェアラブルデバイス本体24が右側に取り付けられた際、それぞれ人差し指、中指、薬指で操作可能な位置に配置される。タッチパッド110(請求項では第1入力部と称する)は、その表面上で矢印に示すように作業者が指を上下前後に移動させたことを検出できるようにしている。この移動の検出は、指を接触したまま移動するドラッグの動きに加え指をさっと擦るフリックの動きも含む。タッチパッド110は、作業者の指の上下前後移動を検出すると、コマンドを入力する。本明細書では、コマンドとはウェアラブルデバイス本体24に対する特定の処理の実行指令のことである。第1~第4ボタン102、104、106、108、タッチパッド110の操作方法はアプリケーションプログラムによって決められている。
【0040】
例えば、
第3ボタン106が1回押されると、項目の選択/項目の実行がなされ、
第3ボタン106が長押しされると、起動中のアプリケーションプログラムの一覧が表示され、
第2ボタン104が1回押されると、ホーム画面に戻り、
第2ボタン104が長押しされると、クイックセッティングのメニューが表示され、
第1ボタン102が1回押されると、操作の取り消し(キーボードのEscキーと同様の動作)が実行される。
【0041】
タッチパッド110の操作に関しては、例えば、
上下にドラッグされると、カーソルが上下に移動され、
前にフリックされると、左のアイコンが選択され(連続してスクロール)、
後ろにフリックされると、右のアイコンが選択され(連続してスクロール)、
前にドラッグされると、左のアイコンが選択され(1項目ずつスクロール)、
後ろにドラッグされると、右のアイコンが選択され(1項目ずつスクロール)る。
【0042】
第1ボタン102は人差し指、第2ボタン104は中指、第3ボタン106は薬指、第4ボタン108は小指で操作できるような位置に配置される。なお、第4ボタン108が側面部の上部ではなく、側面部の外側表面に設けられるのは、スペースの関係上であり、第4ボタン108も第1~第3ボタン102、104、106と同様に側面部の上部で設けられてよい。照度センサ114はディスプレイの明るさを自動調整するために周囲の照度を検出する。
【0043】
図4はウェアラブルデバイス本体24の裏面の外観の一例を示す。前面部の内側にはLCDからなるディスプレイ124が設けられる。側面部の内側にはマイク126、スピーカ130、係合片128が設けられる。マイク126は側面部の前方に、スピーカ130は側面部の後方に、係合片128は側面部の後方に設けられる。スピーカ130の代わりにヘッドフォンを用いてもよい。その場合、オペレータ端末12と同様にマイクとヘッドフォンをインカムとして一体的に設けてもよい。
【0044】
図5はモバイルPC16とウェアラブルデバイス本体24との接続の一例を示す。側面部の後方にはUSBtype-C(登録商標)規格のケーブル146の一端のプラグ146Aが挿入されるレセプタクル132が設けられる。USBtype-C規格のケーブル146の他端のプラグ146BはモバイルPC16の上部端面のUSBtype-C規格のコネクタ207に挿入される。このようにウェアラブルデバイス本体24はUSBtype-C規格のケーブル146を介してモバイルPC16に接続され、画像信号等がウェアラブルデバイス本体24とモバイルPC16の間で伝送される。ウェアラブルデバイス本体24は無線LAN、ブルートゥース等の無線通信によりモバイルPC16に接続されてもよい。
【0045】
実施形態ではウェアラブルデバイス本体24は駆動電源としてのバッテリ又はDC端子を備えず、駆動電源はモバイルPC16からUSBtype-Cケーブル146を介してウェアラブルデバイス本体24に供給される。しかし、ウェアラブルデバイス本体24が駆動電源を備えてもよい。
【0046】
図6はウェアラブルデバイス本体24の一例を示すブロック図である。USBtype-Cコネクタ132がミキサ166に接続される。ディスプレイ124とUSBハブ164がミキサ166の第1端子、第2端子にそれぞれ接続される。カメラコントローラ168、オーディオコーデック172、センサコントローラ162がUSBハブ164に接続される。カメラ116とライト118とカメラLED120がカメラコントローラ168に接続される。マイク112、126からのオーディオ信号がオーディオコーデック172に入力され、オーディオコーデック172からのオーディオ信号がアンプ174を介してスピーカ130に入力される。
【0047】
センサコントローラ162に、モーションセンサ(例えば、加速度/地磁気/重力/ジャイロセンサ等)176、照度センサ114、近接センサ178、タッチパッド110、第1~第4ボタン102、104、106、108、GPSセンサ180が接続される。
図4には示していないが、モーションセンサ176、近接センサ178はウェアラブルデバイス本体24の内部に配置される。モーションセンサ176はウェアラブルデバイス本体24の動き、向き、姿勢等を検出する。近接センサ178は作業者の顔、指等の接近によりウェアラブルデバイス23の装着を検出する。
【0048】
[モバイルPC16]
図7はモバイルPC(モバイルエッジコンピューティングデバイス)16の外観の一例を示す。モバイルPC16の外観は、幅が約10cm以下、高さが約18cm以下、厚さが2cm程度の薄い直方体形状であり、重量は約300g程度と、小型で軽量である。このため、モバイルPC16は作業着のポケット、ベルトに装着されるホルスターあるいはショルダーケースに収納でき、ウェアラブルである。モバイルPC16はCPUや半導体メモリ等の半導体チップやSSD(Solid State Disk)等のストレージデバイスを収納するが、ディスプレイと文字入力のためのハードウェアキーボードは備えない。モバイルPC16の正面中央には指紋センサ204が設けられる。キーボードが備わっておらずパスワードを入力することができないので、指紋センサ204はモバイルPC16のログイン時のユーザ認証のために用いられる。指紋センサ204とモバイルPC16の長手方向の一端との間に5ボタン(十字ボタンとも称する)202が設けられる。5ボタン202は中央に配置されたセンターボタン(決定ボタン、エンターボタンとも称する)202eと、その上下左右に配置された4つのボタン(アップボタン202a、ライトボタン202b、ダウンボタン202c、レフトボタン202d)からなる(請求項では第2入力部と称する)。5ボタン202はコマンド等を入力できる。なお、5ボタン202の各ボタン202a~202dに数字を割り当て、数字からなるパスワードを入力することにより、ログイン時のユーザ認証を行ってもよく、指紋センサ204は省略可能である。
【0049】
5ボタン202はウェアラブルデバイス本体24のボタン102、104、106、108とタッチパッド110の操作と同じ操作が可能である。ウェアラブルデバイス本体24のボタン102、104、106、108とタッチパッド110は操作している様子を作業者は見ることができないので、作業者によっては意図した操作をするには慣れが必要な場合もある。また、ボタン102、104、106、108とタッチパッド110は小型であるので、操作しづらい場合もある。実施形態によれば、モバイルPC16の5ボタン202でも同じ操作ができるので、上記の懸念は解消される。5ボタン202の操作方法はアプリケーションプログラムによって決められている。
【0050】
例えば、
センターボタン202eが1回押されると、項目の選択/項目の実行がなされ(ウェアラブルデバイス本体24では、第3ボタン106の1回押しに対応)、
センターボタン202eが長押しされると、終了又は操作の取り消しがなされ(ウェアラブルデバイス本体24では、第1ボタン102の1回押しが操作の取り消しに対応)、
アップボタン202aが1回押されると、カーソルが上に移動され(ウェアラブルデバイス本体24では、タッチパッド110で上にドラッグに対応)、
アップボタン202aが長押しされると、起動中のアプリケーションプログラムの一覧が表示され(ウェアラブルデバイス本体24では、第3ボタン106の長押しに対応)、
ダウンボタン202cが1回押されると、カーソルが下に移動され(ウェアラブルデバイス本体24では、タッチパッド110で下にドラッグに対応)、
ダウンボタン202cが長押しされると、クイックセッティングメニュー(後述)が表示され(ウェアラブルデバイス本体24では、第2ボタン104の長押しに対応)、
レフトボタン202dが1回押されると、右のアイコンが選択され(ウェアラブルデバイス本体24では、タッチパッド110で後ろにドラッグ/フリックに対応)、
ライトボタン202bが1回押されると、左のアイコンが選択される(ウェアラブルデバイス本体24では、タッチパッド110で前にドラッグ/フリックに対応)。
【0051】
モバイルPC16の上部側面には、USB3.0規格のコネクタ206とUSBtype-C規格のコネクタ207とオーディオジャック208が設けられる。
【0052】
モバイルPC16の一方の側面(正面から見て左側の側面)には、メモリカード用のカードスロット218が設けられる。メモリカードは、例えばSDカード、マイクロSDカード(登録商標)等を含む。
【0053】
モバイルPC16の他方の側面(正面から見て右側の側面)には、ケンジントンロック(登録商標)のためのスロット210、電源スイッチ212、パワーLED213、DC IN/バッテリLED214、DC端子216、冷却用の通風口222が設けられる。パワーLED213は電源スイッチ212の周囲にリング状に配置され、電源オン等の状態を色、点灯状態により示す。DC IN/バッテリLED214はバッテリが充電中であるか否か等のモバイルPC16の状態とバッテリの残量等を色、点灯状態により示す。モバイルPC16はバッテリで駆動可能であるが、DC端子216にACアダプタを接続した状態でも駆動可能である。図示しないが、裏面にはバッテリが容易に交換可能できるようにワンタッチで着脱できる蓋がバッテリ収納部に設けられている。
【0054】
作業者は、作業中はウェアラブルデバイス本体24のディスプレイ124を見ていることが多いので、5ボタン202を手探りで操作することがある。上述したように、モバイルPC16の正面中央に指紋センサ204が設けられ、指紋センサ204とモバイルPC16の上端との間に5ボタン202が設けられているので、作業者は指紋センサ204との位置関係に基づいて5ボタン202のどのボタンがアップボタン202aであるかを手探りでも認識できる。さらに、モバイルPC16の上部側面にUSBtype-Cコネクタ207が設けられているので、USBtype-Cケーブル146の接続位置からも5ボタン202のどのボタンがアップボタン202aであるかを手探りでも認識できる。なお、アップボタン202aに他のボタンと異なる触感を持たせてもよい。
【0055】
図8はモバイルPC16の一例を示すブロック図である。モバイルPC16はウェアラブルデバイス本体24で撮影した映像をオペレータ端末12へ配信することや、オペレータ端末12から受信した画像を閲覧することができる。モバイルPC16は、例えば、カメラ機能とビューワー機能を備える。カメラ機能はウェアラブルデバイス本体24のカメラ116で写真やビデオを撮影する機能である。撮影した写真やビデオはカメラフォルダに保存され、ビューワー機能で閲覧できる。ビューワー機能はカメラフォルダに保存されているファイルを閲覧する機能である。ファイルの種類は、画像、動画、PDFファイル、カメラ機能で撮影した写真やビデオ、オペレータ端末12から受信した画像、オペレータ端末12へ送信した画像、ユーザフォルダに保存されたファイルがある。
【0056】
モバイルPC16はプロセッサ及びコントローラ・ハブを含むシステムコントローラ302を備え、システムコントローラ302には、主メモリ308、パワーLED213、DC IN/バッテリLED214、USBコントローラ322、フラッシュメモリ326、メモリカードコントローラ328、HDD又はSSDからなるストレージデバイス330、USB切替器324、オーディオコーデック334、3G/LTE/GPSデバイス336、指紋センサ204、USB3.0コネクタ206、ブルートゥース/無線LANデバイス340、EC/KBC344等が接続される。主メモリ308は画面表示のためのバッファメモリであるフレームメモリ310を含む。
【0057】
システムコントローラ302はストレージデバイス330から主メモリ308にロードされる様々なプログラムを実行する。これらプログラムは、OS316、遠隔支援のためのフロントエンドアプリケーションプログラム314を含む。
【0058】
オーディオコーデック334は、再生対象のデジタルのオーディオ信号をアナログのオーディオ信号に変換して、オーディオジャック208に供給する。また、オーディオコーデック334は、オーディオジャック208から入力されるアナログのオーディオ信号をデジタル信号に変換する。
【0059】
メモリカードコントローラ328はメモリカードスロット218に挿入されるメモリカード、例えばSDカードにアクセスして、SDカードに対するデータの読み書きを制御する。
【0060】
USBコントローラ322はUSBtype-Cコネクタ207に接続されるUSBtype-Cケーブル又はUSB3.0コネクタ206に接続されるUSB3.0ケーブル(図示せず)に対するデータの送受信を制御する。
【0061】
図示しないが、USBtype-Cコネクタ207にはポート拡張アダプタも接続可能であり、HDMI等のインターフェースが使用可能である。
【0062】
ブルートゥース/無線LANデバイス340は、ネットワーク22との接続のためにブルートゥース規格の無線通信又はIEEE802.11規格の無線LAN通信を実行する。なお、ネットワーク22との接続は無線通信によらず、IEEE802.3規格の有線LAN通信によってもよい。
【0063】
指紋センサ204はモバイルPC16の起動時の指紋認証のために使用される。
【0064】
EC/KBC344には、サブプロセッサ346、電源スイッチ212及び5ボタン202が接続される。EC/KBC344は、電源スイッチ212の操作に応じてモバイルPC16をパワーオン又はパワーオフする機能を有する。パワーオン及びパワーオフの制御は、EC/KBC344と電源回路350との協働動作によって実行される。EC/KBC344はモバイルPC16がパワーオフされている期間中も、バッテリ352又はACアダプタ358からの電力によって動作する。電源回路350は、バッテリ352からの電力又は外部電源として接続されるACアダプタ358からの電力を用いて、各コンポーネントへ供給すべき電力を生成する。電源回路350は電圧レギュレータモジュール356を含み、電圧レギュレータモジュール356はプロセッサ304に接続される。
【0065】
なお、モバイルPC16はウェアラブルデバイス本体24とは別体として構成したが、モバイルPC16をウェアラブルデバイス本体24内に組み込んで、両者を一体として構成してもよい。
【0066】
[フロントエンド]
図9は、モバイルPC16のアプリケーションプログラム314の一例を示す。以下、アプリケーションプログラムを単にアプリケーションと称することもある。
【0067】
上述したように、遠隔支援システムは、作業者側、即ちフロントエンドで動作するフロントエンドアプリケーションと、オペレータ側即ちバックエンドで動作するバックエンドアプリケーションを実行することにより実現される。バックエンドアプリケーションの構成は後述することとし、ここではフロントエンドアプリケーションの構成について説明する。
【0068】
モバイルPC16のアプリケーション314は、インターネット通信アプリケーション509、及びフロントエンドアプリケーション501からなる。インターネット通信アプリケーション509は、オペレータ端末12と通信を行うために使用される。インターネット通信アプリケーション509の例としては、Skype for Business 2016(登録商標)等がある。
【0069】
フロントエンドアプリケーション501は、ホームアプリケーション502、遠隔支援アプリケーション503、カメラアプリケーション504、ビューワーアプリケーション505といった各アプリケーションから構成されている。
【0070】
ホームアプリケーション502は、フロントエンドアプリケーション501が起動されると起動し、フロントエンドアプリケーション501におけるホーム画面を表示するアプリケーションである。ホーム画面には、カメラアプリケーション504、ビューワーアプリケーション505等の各アプリケーションを起動させるためのアイコンが並べて表示される。つまり、ホームアプリケーション502は、各アプリケーションを起動させるためのアイコンを並べて表示するためのアプリケーションとも言える。作業者は、ホームアプリケーション502によって表示されるホーム画面からフロントエンドアプリケーション501に含まれる各アプリケーションを起動することができる。
【0071】
遠隔支援アプリケーション503は、インターネット通信アプリケーション509を利用してオペレータ端末12との通話やライブ映像配信等、遠隔支援機能をサポートするためのアプリケーションである。遠隔支援アプリケーション503は、ホームアプリケーション502が起動された時に自動的に起動される。このように、遠隔支援アプリケーション503は常駐アプリケーションとして動作することになるため、作業者はいつでもインターネット通信アプリケーション509を用いてオペレータ端末12と通信を行うことができる。
【0072】
なお、インターネット通信アプリケーション509としてSkype for Business 2016のクライアントアプリケーションを利用する場合、遠隔支援アプリケーション503は、動的リンクとしてのLync SDK 2013(登録商標)を用いてSkype for Businessのクライアントアプリケーションの機能を利用することになる。
【0073】
カメラアプリケーション504は、ウェアラブルデバイス本体24のカメラ116による写真撮影やビデオ撮影の機能をサポートするアプリケーションである。撮影された写真やビデオは、モバイルPC16に保存される。
【0074】
ここで、ビューワーアプリケーション505はコンテンツを閲覧するためのものであり、JPEGビューワーアプリケーション505a、MP4プレーヤアプリケーション505b、PDFリーダアプリケーション505cを含む。JPEGビューワーアプリケーション505aは、モバイルPC16に保存されている写真を閲覧するためのアプリケーションである。MP4プレーヤアプリケーション505bは、モバイルPC16に保存されているビデオを再生するためのアプリケーションである。PDFリーダアプリケーション505cは、モバイルPC16に保存されているPDFファイルを閲覧するためのアプリケーションである。
【0075】
JPEGビューワーアプリケーション505a、MP4プレーヤアプリケーション505b、PDFリーダアプリケーション505cは、windows(登録商標)のデスクトップアプリケーションとして実装される。
【0076】
作業者は、フロントエンド側、即ち、ウェアラブルデバイス23、ウェアラブルデバイス本体24、モバイルPC16の設定を行うことができる。以下において、ウェアラブルデバイス23、ウェアラブルデバイス本体24、モバイルPC16からなるフロントエンド側のシステムをウェアラブルビューワーと称することもある。
【0077】
設定画面アプリケーション507は、ウェアラブルビューワーの設定や情報の表示等を行うためのアプリケーションであり、後述するSettingsアイコンを選択することにより、設定画面が表示される。
【0078】
クイックセッティングアプリケーション508も、ウェアラブルビューワーの設定を行うためのアプリケーションであり、ダウンボタン202cを長押しすることにより起動される。
【0079】
図9に示すフロントエンドアプリケーション501の実行により実現される遠隔支援システムを利用する作業者は、以下の作業を行うことができる。
【0080】
(1)遠隔支援を受けること
遠隔支援アプリケーション503が実行されると、作業者は遠隔支援を受けることができる。作業者が受ける遠隔支援には、
オペレータ端末12にコールすること、
オペレータ端末12からのコールを受けること、
カメラ116で撮影した映像をリアルタイムにオペレータ端末12に配信すること、
写真を撮影し、オペレータ端末12に配信すること、
オペレータ端末12から受信した画像を見ること、
オペレータ端末12の画面(デスクトップ画面、アプリケーションケーションの画面等)を共有すること、
オペレータ端末12からのテキストメッセージを受け取ることが含まれる。
【0081】
(2)カメラ撮影
カメラアプリケーション504が実行されると、作業者はウェアラブルデバイス本体24で写真、動画を撮影することができる。撮影された写真、動画はモバイルPC16に保存される。
【0082】
(3)JPEG ビューワー
JPEGビューワーアプリケーション505aが実行されると、作業者はモバイルPC16に保存されている写真を含む静止画像を閲覧することができる。
【0083】
(4)MP4プレーヤ
MP4プレーヤアプリケーション505bが実行されると、作業者はモバイルPC16に保存されている動画を再生することができる。
【0084】
(5)PDFリーダ
PDFリーダアプリケーション505cが実行されると、作業者は、モバイルPC16に保存されているPDFファイルを閲覧することができる。
【0085】
(6)設定
設定画面アプリケーション507、クイックセッティングアプリケーション508が実行されると、作業者は、ウェアラブルデバイス本体24のスピーカ130の音量の調整、ウェアラブルデバイス本体24の輝度の調整、ウェアラブルデバイス本体24のカメラLED120のON/OFF等のウェアラブルビューワーの動作環境を設定できる。
【0086】
次に、フロントエンドアプリケーション501の起動及び終了について説明する。
【0087】
電源スイッチ212が押下されてモバイルPC16が起動されると、自動的にフロントエンドアプリケーション501が起動し、後述するフロントエンドアプリケーション501のホーム画面が、ウェアラブルデバイス本体24のディスプレイ124に全画面で表示される。
【0088】
また、電源ONの状態で電源スイッチ212が押下されると、フロントエンドアプリケーション501は終了し、フロントエンド側において遠隔支援システムがシャットダウンする。また、フロントエンドアプリケーションプログラム501は、シャットダウンだけでなく、フロントエンド側における遠隔支援システムをスリープ状態にすることもできる。さらに、ハイバネーションにも対応しており、フロントエンド側における遠隔支援システムを休止状態にすることもできる。
【0089】
[ホーム画面]
図10は、ウェアラブルデバイス本体24のディスプレイ124に表示されるホーム画面の一例を示す図である。
【0090】
フロントエンドアプリケーション501が起動されると、ホームアプリケーション502が起動してアプリケーションを起動するためのアイコン、機能のアイコンが表示される。これらのアイコンが並べられて表示された画面をホーム画面と呼ぶ。
【0091】
図10はホーム画面の全体を示す。横長(例えば長方形)のホーム画面は、3つの横長のエリア(例えば、長辺が湾曲可能な長方形)に分かれ、上エリアはコミュニケーションエリア520、中央エリアはコンテンツエリア530、下エリアはツールエリア540と称する。各エリアのサイズ、形状はフォーカスの移動により可変であり、フォーカスのあるエリアが最も幅(上下方向の幅)が広い。このため、フォーカスエリアにあるアイコンは他のエリアのアイコンよりも大きく表示される。
図10の例では、コンテンツエリア530にフォーカスがあるので、中央エリアが幅広エリアであるが、フォーカスが上/下に移動すると、上/下エリアが幅広エリアとなる。
【0092】
各エリアの上下の境界線は直線ではなく、フォーカスエリアの上側境界線は僅かに下側(フォーカスエリア側)に湾曲し、下型境界線は僅かに上側(フォーカスエリア側)に湾曲している。すなわち、フォーカスエリアの幅は中央部が最も狭く、両端になるにつれて広くなる。このため、フォーカスエリアの中央に位置するアイコンを目立たせることができる。
【0093】
コミュニケーションエリア520には、外部とコミュニケーションする際に必要なアプリケーションを起動させるためのアイコン、即ち、オペレータ端末12から遠隔支援を受けるための機能を起動させるためのアイコンが並べられている。コンテンツエリア530には、ビューワーアプリケーション505に関連する複数のアイコンが並べられている。その中には、画像データが保存されたフォルダに対応するアイコン、動画データが保存されたフォルダに対応するアイコン、PDFデータが保存されたフォルダに対応するアイコンが含まれる。ツールエリア540には、写真撮影を実行するための機能を起動させるアイコンやビデオ撮影を実行するための機能を起動させるアイコン、ウェアラブルビューワーの設定のためのアイコンが並べられている。ホーム画面でフォーカスのあるアイコンは他のアイコンよりも大きく、かつ反転表示されている。
【0094】
ホーム画面上の上領域の左及び右端部には、ステータスエリア560,570が表示される。ステータスエリア560,570は、遠隔支援アプリケーション503についての画面等のホーム画面以外の画面においても同じ位置に配置される。即ち、ステータスエリア560,570は画面の左上及び右上に常時配置されている。ステータスエリア560,570は、バッテリ残量、ネットワーク接続状態、通話状態等のモバイルPC16及びウェアラブルデバイス本体24の状態(ステータス)を表示するための領域である。
【0095】
図10に示すように、ステータスエリア560には、撮影中アイコン560a、マイクミュートアイコン560b、LEDライトアイコン560cが表示される。
【0096】
撮影中アイコン560aは、ライブ映像の配信中、動画の録画中にステータスエリア560の最も左側に表示される。ここで、ライブ映像の配信中、動画の録画中のいずれでもない状態では、ステータスエリア560の最も左側には何も表示されない。
【0097】
マイクミュートアイコン560bは、ウェアラブルデバイス本体24のマイク112,126がミュート状態であるときにステータスエリア560の中央部に表示される。マイク112,126がミュート状態ではないときは、ステータスエリア560の中央部には何も表示されない。
【0098】
LEDライトアイコン560cは、ウェアラブルデバイス本体24のライト118の点灯中にステータスエリア560の最も右側に表示される。ライト118が点灯していないときにはステータスエリア560の最も右側には何も表示されない。
【0099】
ステータスエリア570は、画面右上に表示されている。
図10に示すように、ステータスエリア570には、通話状態アイコン570a、Wi-Fi(登録商標)状態アイコン570b、バッテリ状態アイコン570cが表示される。
【0100】
通話状態アイコン570aは、ウェアラブルビューワーの使用者である作業者がオペレータ端末12を使用するオペレータと通話が可能になっている状態のときに表示される。具体的には、インターネット通信アプリケーション509のサーバにサインインして待ち受け中になっているときにステータスエリア570の最も左側に表示される。また、作業者とオペレータとが通話中である時には、後述する通話中アイコン606(
図16に示す)が通話状態アイコン570aの代わりに表示される。作業者がオペレータと通話が可能ではない状態、作業者がオペレータと通話中ではない場合には、ステータスエリア570の最も左側には何も表示されない。
【0101】
Wi-Fi状態アイコン570bは、Wi-Fiの電波レベルを示すためのアイコンである。電波レベルは曲線(円弧)の数によって表現されており、曲線の数が多いほどWi-Fiによる通信がしやすい状態にあり、曲線の数が少ないほどWi-Fiによる通信がしにくい状態にあることを示す。
【0102】
バッテリ状態アイコン570cは、モバイルPC16のバッテリ残量を示すためのアイコンであり、ステータスエリア570の最も右側に表示される。バッテリが充電中である場合には、バッテリ状態アイコン570cに代えてバッテリが充電中であることを示すアイコン(図示しない)が表示される。
【0103】
ホーム画面はアイコンの配置や、それらのアイコンが選択された状態で決定ボタンが押下された場合の機能の定義等からなる。実施形態では、ホーム画面はXMLによって記述されている。XMLファイルがユーザに提供され、ユーザがXMLファイルを編集すると、ユーザはホーム画面のレイアウトを自由に変更すること又は他のアプリケーションをホームアプリケーション502から起動させることができ、フロントエンドアプリケーション501の拡張性を高めることができる。
【0104】
図11は、作業者の操作によるホーム画面の遷移の一例を示す。
【0105】
ホーム画面は、上述したようにコミュニケーションエリア520、コンテンツエリア530、ツールエリア540からなる。
図10に示すように初期状態ではコンテンツエリア530が幅広のフォーカスエリアとなっている。アップボタン202a及びダウンボタン202cの押下操作により、フォーカスエリアを変えることができる。
【0106】
コンテンツエリア530にフォーカスがある状態のホーム画面(
図10、
図11(b))が表示されている時、アップボタン202aが押下された場合、フォーカスが上に移動され、画面はコミュニケーションエリア520が幅広のフォーカスエリアとなるホーム画面(
図11(a))に変わる。
図11(a)のホーム画面が表示されている時、ダウンボタン202cが押下された場、画面はコンテンツエリア530が幅広のフォーカスエリアとなるホーム画面(
図11(b))に変わる。
【0107】
図11(b)のホーム画面が表示されている時にダウンボタン202cが押下された場合、画面はツールエリア540が幅広のフォーカスエリアとなるホーム画面(
図11(c))に変わる。
図11(c)のホーム画面が表示されている時、アップボタン202aが押下された場合、画面はコンテンツエリア530が幅広のフォーカスエリアとなるホーム画面(
図11(b))に変わる。
【0108】
図11(a)に示すようにコミュニケーションエリア520には、遠隔支援関連の機能を起動するためのアイコンが配置されている。作業者はコミュニケーションエリア520に配置されているアイコンを選択し、決定ボタン(センターボタン)202eを押下することにより、選択されたアイコンに対応するアプリケーションを起動させることができる。例えば、
図11(a)のコミュニケーションエリア520のConversationアイコンが選択されると、ホーム画面は連絡先(コンタクト先)一覧を表示するコンタクトリスト画面(
図11(d))に変わる。
【0109】
コンテンツエリア530には、ドキュメント類を保存するフォルダに対応するアイコンが配置されており、作業者はアイコンを選択し、決定ボタン202eを押下することにより、選択されたアイコンに対応するフォルダに保存されているJPEGファイル、MP4ファイル、PDFファイル等を閲覧することができる。例えば、
図11(b)のコンテンツエリア530のPDFアイコンが選択されると、ホーム画面はモバイルPC16に保存されているPDFファイルの一覧を表示する画面(
図11(e))に変わる。
【0110】
ツールエリア540には、写真撮影を実行するための機能を起動させるアイコンやビデオ撮影を実行するための機能を起動させるアイコン、ウェアラブルビューワーの設定のためのアイコンが配置されている。例えば、作業者はツールエリア540に配置されているアイコンを選択し、決定ボタン202eを押下することにより、選択されたアイコンに対応するアプリケーションを起動させることができる。例えば、
図11(c)のツールエリア540のCameraアイコンが選択されると、ホーム画面は写真(静止画像)撮影用の画面(
図11(f))に変わる。
【0111】
図12は、コミュニケーションエリア520に位置するアイコンが選択された場合の画面の遷移の例を示す。
【0112】
図12の例では、コミュニケーションエリア520には列方向に配置される4つのアイコン:End Callアイコン、Conversationアイコン、Messageアイコン、Sign-Inアイコンが表示可能であるが、一部のアイコンしか表示されない。コミュニケーションエリア520の中央に配置されているアイコンにフォーカスがあるとする。なお、コミュニケーションエリア520に配置されるアイコンの種類は上記の種類に限られない。
【0113】
まず、左右のスクロールについて説明する。
【0114】
End Callアイコンが中央に位置しEnd Callアイコンにフォーカスがあるホーム画面(
図12(a))が表示されている時、ライトボタン202bが押下されると、アイコン全体が左に移動され、画面はConversationアイコンが中央に位置しConversationアイコンにフォーカスがある画面(
図12(e))に変わる。この結果、フォーカスが実質的に右に移動したことになる。この状態でレフトボタン202dが押下されると、アイコン全体が右にスクロールされ、画面はEnd Callアイコンが中央に位置するホーム画面(
図12(a))に戻る。
【0115】
同様に、Conversationアイコンが中央に位置するホーム画面(
図11(e))が表示されている時、ライトボタン202bが押下されると、アイコン全体が左にスクロールされ、画面はMessageアイコンが中央に位置しMessageアイコンにフォーカスがある画面(
図11(g))に変わる。この状態でレフトボタン202dが押下されると、アイコン全体が右にスクロールされ、画面はConversationアイコンが中央に位置するホーム画面(
図11(e))に戻る。
【0116】
同様に、Messageアイコンが中央に位置するホーム画面(
図11(g))が表示されている時、ライトボタン202bが押下されると、アイコン全体が左にスクロールされ、画面はSign-Inアイコンが中央に位置しSign-Inアイコンにフォーカスがある画面(
図11(c))に変わる。この状態でレフトボタン202dが押下されると、アイコン全体が右にスクロールされ、画面はMessageアイコンが中央に位置するホーム画面(
図11(g))に戻る。
【0117】
このようにコミュニケーションエリア520が表示されている状態でライトボタン202b又はレフトボタン202dを押下することによりフォーカスを左右に移動させるとともに、フォーカスのあるアイコンをエリアの中央に表示させることができる。
【0118】
なお、コミュニケーションエリア520のアイコンの中の左端のEnd Callアイコンが画面の中央に位置するホーム画面が表示されている時にレフトボタン202dが押下された場合、コミュニケーションエリア520のアイコンの中の右端のSign-Inアイコンが中央に位置する画面に遷移させてもよいし、End Callアイコンが中央に位置する画面のままとしてもよい。
【0119】
同様に、コミュニケーションエリア520のアイコンの中の右端のSign-Inアイコンが画面の中央に位置するホーム画面が表示されている時にライトボタン202bが押下された場合、コミュニケーションエリア520のアイコンの中の左端のEnd Callアイコンが中央に位置する画面に遷移させてもよいし、Sign-Inアイコンが中央に位置する画面のままとしてもよい。
【0120】
次に、各アイコンを選択した時の画面の遷移について説明する。
【0121】
ウェアラブルビューワーを利用する作業者とオペレータ端末12を操作するオペレータとが通話状態にあって、End Callアイコンが中央に位置する画面(
図12(a))が表示されている状態でEnd Callアイコンが選択され、決定ボタン202eが押下された場合、作業者とオペレータとの通話状態は終了する(終話とも称する)。このとき、
図12(a)の画面からEnd Callアイコンの色彩が変更された画面(終話状態画面)(
図12(b))に変わる。なお、終話状態画面(
図12(b))が表示されている状態で決定ボタン202eが長押しされた場合、画面は色彩が変更される前の画面(
図12(a))に戻る。
【0122】
Conversationアイコンが中央に位置する画面(
図12(e))が表示されている状態でConversationアイコンが選択され、決定ボタン202eが押下されると、画面は連絡先(コンタクト先)一覧を表示するコンタクトリスト画面(
図12(f))に変わる。作業者はコンタクト先を選択してコールできる。
図12(f)の画面が表示されている状態で決定ボタン202eが長押しされた場合、画面は
図12(e)の画面に戻る。
【0123】
Messageアイコンが中央に位置する画面(
図12(g))が表示されている状態でMessageアイコンが選択され、決定ボタン202eが押下された場合、画面はメッセージ一覧を表示するメッセージ画面(
図12(h))に変わる。メッセージ画面は、オペレータ端末12から送られてきてモバイルPC16に保存されたテキストメッセージを示す。メッセージ画面(
図12(h))が表示されている状態で決定ボタン202eが長押しされた場合、画面は
図12(g)の画面に戻る。
【0124】
Sign-Inアイコンが中央に位置する画面(
図12(c))が表示されている状態でSign-Inアイコンが選択され、決定ボタン202eが押下された場合、画面はサインイン画面(
図12(d))に変わる。このとき、サインイン画面には、インターネット通信アプリケーション509の作業者のアカウント情報580が表示される。また、作業者はボタン操作によってサインイン画面上でサインインを行うことができる。サインイン画面が表示されている状態で決定ボタン202eが長押しされた場合、
図12(c)の画面に戻る。
【0125】
図13は、コンテンツエリア530に位置するアイコンが選択された場合の画面の遷移の一例を示す。
【0126】
コンテンツエリア530には、Picture、Photo、PDF、Folder_10等のアイコンが配置される。なお、コンテンツエリア530に配置されるアイコンの種類はこれらの種類に限られない。
【0127】
まず、左右のスクロールについて説明する。
【0128】
図12における説明と同様に、ライトボタン202b/レフトボタン202dが押下されると、アイコン全体が左/右に移動され、フォーカスが右/左に移動され、画面はフォーカスのあるアイコンが中央に位置する画面に切り替わる。
【0129】
なお、コンテンツエリア530のアイコンの中の左端のPictureアイコンが画面の中央に位置するホーム画面が表示されている時にレフトボタン202dが押下された場合、コンテンツエリア530のアイコンの中の右端のFolder_10アイコンが中央に位置する画面に遷移させてもよいし、Pictureアイコンが中央に位置する画面のままとしてもよい。
【0130】
同様に、コンテンツエリア530のアイコンの中の右端のFolder_10アイコンが画面の中央に位置するホーム画面が表示されている時にライトボタン202bが押下された場合、コンテンツエリア530のアイコンの中の左端のPictureアイコンが中央に位置する画面に遷移させてもよいし、Folder_10アイコンが中央に位置する画面のままとしてもよい。
【0131】
次に、各アイコンの選択による画面の遷移について説明する。ここでは、例としてPictureアイコン、Photoアイコン、Folder_10アイコンが選択された場合の画面の遷移について説明する。
【0132】
Pictureアイコンが中央に位置する画面(
図13(a))が表示されている状態でPictureアイコンが選択され、決定ボタン202eが押下された場合、画面はPictureフォルダに保存されているファイルの一覧を示す画面(
図13(b))に変わる。ファイル一覧画面はフォーカスのあるファイルの内容を示すサムネイル581を含む。Pictureフォルダには、オペレータ端末12から受信したJPEGファイル等が保存されている。作業者は、ファイル一覧から所望のファイルを選択し、選択したJPEGファイル等を閲覧することができる。また、ファイル一覧画面が表示されている状態で決定ボタン202eが長押しされた場合、画面はPictureアイコンが中央に位置する画面(
図13(a))に戻る。
【0133】
Photoアイコンが中央に位置する画面(
図13(c))が表示されている状態でPhotoアイコンが選択され決定ボタン202eが押下された場合、画面はPhotoフォルダに保存されているファイルの一覧を示す画面(
図13(d))に変わる。ファイル一覧画面はフォーカスのあるファイルの内容を示すサムネイル582を含む。Photoフォルダはカメラ116で撮影された写真等を保存している。作業者は、ファイル一覧から所望のファイル(写真等)を選択し、選択されたファイル(写真等)を閲覧することができる。また、ファイル一覧画面が表示されている状態で決定ボタン202eが長押しされた場合、画面はPhotoアイコンが中央に位置する画面(
図13(c))に戻る。
【0134】
Folder_10アイコンが中央に位置する画面(
図13(e))が表示されている状態でFolder_10アイコンが選択され決定ボタン202eが押下された場合、画面はFolder_10という名称が付されたユーザフォルダに保存されているファイルの一覧を示す画面(
図13(f))に変わる。ファイルは写真、静止画像、動画等様々なファイルを含む。ファイル一覧画面はフォーカスのあるファイルの内容を示すサムネイル583を含む。Folder_10(ユーザフォルダ)は、作業者によって選択されたファイルを保存する。作業者は、ファイル一覧から所望のファイルを選択し、選択されたファイルを閲覧できる。また、ファイル一覧画面(
図13(f))が表示されている状態で決定ボタン202eが長押しされた場合、画面はFolder_10アイコンが中央に位置する画面(
図13(e))に戻る。
【0135】
図14は、ツールエリア540に位置するアイコンが選択された場合の画面の遷移の一例を示す。
【0136】
図14に示す例では、ツールエリア540には、Video、Camera、Settingsの3つのアイコンが配置されている。なお、ツールエリア540に配置されるアイコンの種類はこれらに限られない。
【0137】
まず、左右のスクロールについて説明する。
【0138】
図12、
図13における説明と同様に、ライトボタン202b/レフトボタン202dが押下されると、アイコン全体が左/右に移動され、フォーカスが右/左に移動され、画面はフォーカスのあるアイコンが中央に位置する画面に切り替わる。
【0139】
なお、ツールエリア540のアイコンの中の左端のVideoアイコンが中央に位置するホーム画面が表示されている時にレフトボタン202dが押下された場合、ツールエリア540のアイコンの中の右端のSettingsアイコンが中央に位置する画面に遷移させてもよいし、Videoアイコンが中央に位置する画面のままとしてもよい。
【0140】
同様に、ツールエリア540のアイコンの中の右端のSettingsアイコンが中央に位置する画面が表示されている時にライトボタン202bが押下された場合、ツールエリア540のアイコンの中の左端のVideoアイコンが中央に位置する画面に遷移させてもよいし、Settingsアイコンが中央に位置する画面のままとしてもよい。
【0141】
次に、各アイコンの選択による画面の遷移について説明する。ここでは、例としてVideoアイコン、Cameraアイコン、Settingsアイコンが選択された場合の画面の遷移について説明する。
【0142】
Videoアイコンが中央に位置する画面(
図14(a))が表示されている状態で、Videoアイコンが選択され、決定ボタン202eが押下された場合、画面は動画撮影用の画面(
図14(b))に変わる。また、動画撮影用の画面が表示された状態で決定ボタン202eが長押しされた場合、画面はVideoアイコンが中央に位置する画面(
図14(a))に戻る。
【0143】
Cameraアイコンが中央に位置する画面(
図14(c))が表示されている状態で、Cameraアイコンが選択され、決定ボタン202eが押下された場合、画面は写真撮影用の画面(
図14(d))に変わる。また、写真撮影用の画面が表示された状態で決定ボタン202eが長押しされた場合、画面はCameraアイコンが中央に位置する画面(
図14(c))に戻る。
【0144】
Settingsアイコンが中央に位置する画面(
図14(e))が表示されている状態で、Settingsアイコンが選択され、決定ボタン202eが押下された場合、画面は設定画面(
図14(f))に変わる。また、設定画面アプリケーションが表示された状態で決定ボタン202eが長押しされた場合、Settingsアイコンが中央に位置する画面(
図14(e))に戻る。
【0145】
[遠隔支援機能]
次に、遠隔支援アプリケーション503によって実行される遠隔支援機能の概要について
図15を用いて説明する。
【0146】
(1)通話機能
この機能は、
図15(a)に示すように、モバイルPC16とオペレータ端末12との双方向の通話を行うことである。モバイルPC16からインターネット通信アプリケーション509に含まれるコンタクト先を指定してオペレータ端末12にコールすることができる。また、オペレータ端末12からのコールに対してモバイルPC16が応答することもできる。
【0147】
(2)ライブ映像配信機能
この機能は、
図15(b)に示すように、モバイルPC16とオペレータ端末12との通話中に、モバイルPC16はカメラ116で撮影しているウェアラブルデバイス23のリアルタイム映像をオペレータ端末12にビデオ配信することである。ライブ映像の配信は、モバイルPC16からオペレータ端末12に対してのみ(一方向のみ)可能である。
【0148】
(3)静止画像の送受信機能
この機能は、
図15(c)に示すように、モバイルPC16とオペレータ端末12との通話中に、ライブ映像の静止画キャプチャやカメラ116で撮影した写真をモバイルPC16からオペレータ端末12に送ることである。また、
図15(d)に示すように、オペレータ端末12はモバイルPC16から送られてきた静止画像又は自身が保存している静止画像に文字や絵等を書き込む等して編集した画像(アノテーション付画像)を作成することもできる。モバイルPC16とオペレータ端末12との通話中にモバイルPC16はオペレータ端末12からの編集画像(アノテーション付画像)を受信してディスプレイ124に表示させることができる。
【0149】
(4)画面共有機能
この機能は、
図15(e)に示すように、モバイルPC16とオペレータ端末12との通話中に、オペレータ端末12のデスクトップ画面全体又はあるアプリケーション画面を共有するための操作が行われた場合、オペレータ端末12のLCD64に表示されているデスクトップ画面全体又は任意のアプリケーションのウィンドウがディスプレイ124に表示されることである。これにより、オペレータ端末12のLCD64とウェアラブルデバイス本体24のディスプレイ124とで画面が共有される。
【0150】
(5)テキストメッセージの送信機能。
【0151】
この機能は、
図15(f)に示すように、オペレータ端末12からモバイルPC16に対してテキストメッセージを送信することである。このテキストメッセージの送信は通話中に限らず、通話中でなくとも可能である。このテキストメッセージは、モバイルPC16によって受信され、ディスプレイ124に表示される。
【0152】
[遠隔支援の呼び出し]
作業者は遠隔支援の各機能をコミュニケーションエリア520から呼び出すことができる。コミュニケーションエリア520に配置されているアイコンEnd Call、Conversation、Message、Sign-Inの中から1つのアイコンが選択され、決定ボタン202eが押されると、選択されたアイコンに対応する機能が呼び出され、実行される。
【0153】
以下で、遠隔支援機能について詳しく説明する。
【0154】
[遠隔支援アプリケーションの画面構成]
遠隔支援機能について説明する前に、ウェアラブルビューワーを利用する作業者とオペレータ端末12を利用するオペレータとが通話中に、ディスプレイ124に表示される画面(通話中画面)について
図16を用いて説明する。
【0155】
通話中画面は、相手情報エリア601、機能アイコンエリア602、プレビューエリア603、メッセージエリア604、ステータスエリア560,570から構成される。
【0156】
相手情報エリア601には、通話相手の情報が表示される。具体的には、相手情報エリア601には、モバイルPC16と音声接続しているオペレータ端末12を利用するオペレータの氏名、インターネット通信アプリケーション509のサーバに登録されているオペレータ(通話相手)の写真が表示される。もし、インターネット通信アプリケーション509のサーバに通話相手の写真が登録されていなければ、ダミーの画像が表示されてもよい。
【0157】
機能アイコンエリア602には、終話アイコン602a、ライブ映像配信開始/停止アイコン602b、画像撮影モード切替アイコン602cが配置される。ライトボタン202b又はレフトボタン202dでアイコンを選択し、決定ボタン202eを押下すると、選択されたアイコンに対応する機能が実行される。
【0158】
終話アイコン602aが選択され、決定ボタン202eが押下されると、モバイルPC16とオペレータ端末12との間の通話が終了する。終話アイコン602aは、コミュニケーションエリア520に配置されているEnd Callアイコンと同じ機能を実行する。
【0159】
ライブ映像配信開始/停止アイコン602bが選択され、決定ボタン202eが押下されると、ライブ映像の配信が開始/停止される。
【0160】
画像撮影モード切替アイコン602cが選択され、決定ボタン202eが押下されると、カメラ116の画像撮影モードが変わる。静止画像を撮影するモードには、静止画像を標準画質(例えば、640×360)で撮影可能な標準モードと、静止画像を高画質(例えば、2048x1536)で撮影可能な高画質モードとがあり、画像撮影モード切替アイコン602cの押下操作により、標準モード/高画質モードが切替わる。
【0161】
プレビューエリア603には、ライブ映像が配信されている間、ウェアラブルデバイス本体24のカメラ116で撮影しているライブ映像が表示される。このとき、ライブ映像は第1の色の枠(
図16の太線)で囲まれて表示される。言い替えると、ライブ映像配信中はプレビューエリア603の周囲が第1の色の枠で縁取られる。第1の色は後述する第2の色と異なる色であればどのような色彩を用いてもよい。以下では、第1の色は緑色であるとする。
【0162】
ライブ映像の配信を停止している場合、プレビューエリア603には映像は表示されない。また、高画質モードにより静止画像が撮影されているときは、プレビューエリア603にはカメラ116のプレビュー画面が表示される。高画質モードによる撮影についての詳細は後述する。
【0163】
メッセージエリア604には、オペレータ端末12から受信したテキストメッセージが表示される。オペレータ端末12によるテキストメッセージの送信は、例えば、インターネット通信アプリケーション509のインスタントメッセージ機能により達成される。また、メッセージエリア604には、作業者へのガイダンスが表示されることもある。例えば、映像の配信が適切に実行されなかった場合等にはエラーを示すメッセージが表示される。
【0164】
図10にも示したようにライブ映像の配信中に動画の録画中であるとき、ステータスエリア560の最も左側には撮影中アイコン560aが表示される。モバイルPC16とオペレータ端末12との間が通話中である場合、ステータスエリア570の最も左側には通話中アイコン660が表示される。
【0165】
[通話機能]
先ず、通話機能について説明する。
(1)通話の開始
モバイルPC16とオペレータ端末12との間の通話は、モバイルPC16からの要求により開始される場合と、オペレータ端末12からの要求により開始される場合とがある。
【0166】
先ず、モバイルPC16からの要求により通話が開始される場合について説明する。
【0167】
作業者は、
図12(f)に示すコンタクトリスト画面から所望の連絡先を選択して決定ボタン202eを押下することにより、選択された連絡先にコールする(通話要求)ことができる。コンタクトリスト画面は、コミュニケーションエリア520に配置されているConversationアイコン(
図12(e))を選択して決定ボタン202eを押下することにより表示される。
【0168】
連絡先の決定操作により、モバイルPC16から連絡先に対応するオペレータ端末12に通話要求が行われ、オペレータ端末12で受信操作が行われると、モバイルPC16とオペレータ端末12との通信路が確立される。これにより、モバイルPC16とオペレータ端末12との間で通話が開始される。通話が開始されると、ディスプレイ124の画面が、コンタクトリスト画面(
図12(f))から
図16に示す通話中画面に切り替わる。また、常時設置されているステータスエリア570の最も左側のアイコンは、待受中であることを示す通話状態アイコン570aから通話中であることを示す通話中アイコン606に変わる。
【0169】
カメラ116で映像を撮影しているときに、モバイルPC16からの要求によりオペレータ端末12と通話が開始されると、カメラ116で撮影されたライブ映像はオペレータ端末12に自動的に送信開始される。
【0170】
次に、オペレータ端末12からの要求により通話が開始される場合について説明する。
【0171】
オペレータ端末12からモバイルPC16に通話要求が行われると、ディスプレイ124に後述する呼出画面(
図25)が表示される。この呼出画面が表示されている状態で決定ボタン202eが押下されると、モバイルPC16とオペレータ端末12との通信路が確立される。これにより、モバイルPC16とオペレータ端末12との間で通話が開始される。通話の開始前にウェアラブルデバイス本体24のディスプレイ124に表示されている画面が通話中画面に切り替わる。この通話中画面は、
図16の画面においてプレビューエリア603にライブ映像が表示されていない画面に相当する。また、ステータスエリア570の最も左側のアイコンが通話状態アイコン570aから通話中アイコン606に変わる。なお、遠隔支援アプリケーション503は常駐しているため、モバイルPC16はいつでもオペレータ端末12からのコール(通話要求)を受けることができる。
【0172】
カメラ116で映像を撮影しているときにオペレータ端末12からの要求によりモバイルPC16と通話が開始されると、ライブ映像配信開始/停止アイコン602bが押下された場合、カメラ116で撮影されたライブ映像がオペレータ端末12に送信開始される。
【0173】
上述したようにモバイルPC16からの要求により通話が開始された場合と、オペレータ端末12からの要求により通話が開始された場合とで、ライブ映像の配信開始のタイミングが異なる。この理由は、モバイルPC16からの要求により通話が開始された場合、作業者がオペレータにコールして現地の現状をいち早くオペレータに伝えたいという意思があると考えられるため、通話路が確立されたら自動的にライブ映像配信が開始される構成にしている。他方、オペレータ端末12からの要求により通話が開始される場合は、作業者が現地の現状をオペレータに積極的に伝えたいという意思があるとは必ずしも言い得ないことから、通話路が確立された後に作業者による指示が入力された場合にライブ映像配信が開始される構成になっている。
(2)通話の終了
ホーム画面のコミュニケーションエリア520に配置されているEnd Callアイコンが選択され、決定ボタン202eが押下される又は
図16に示す通話中画面の終話アイコン602aが選択され、決定ボタン202eが押下されると、通話が終了(終話)される。終話されると、通話中画面がホーム画面に戻り、ステータスエリア570の左側のアイコンが通話中アイコン606から通話状態アイコン570aに変わる。
【0174】
また、オペレータ端末12から終話操作が行われた場合も上述の操作で終話される。
【0175】
遠隔支援アプリケーション503以外のアプリケーションが使用されている間にオペレータから終話操作された場合、使用中のアプリケーションの実行により表示されている画面が引き続き表示され、ホーム画面には切り替えられない。しかし、ステータスエリア570の左側のアイコンは、通話中アイコン606から通話状態アイコン570aに変わる。
【0176】
[ライブ映像配信機能]
次に、ライブ映像配信機能について
図17を用いて説明する。
【0177】
図17(a)は、終話アイコン602aが選択されている通話中画面を示す。この画面は、オペレータ端末12から通話要求が行われてモバイルPC16との通話が開始されたことにより表示される。ここで、ライトボタン202bが押下されると、通話中画面は
図17(b)に示すようにライブ映像配信開始/停止アイコン602bが選択された画面に切り替わる。ここで、決定ボタン202eが押下(指示入力)されると、
図17(c)に示すようにライブ映像の配信が開始される。このように、オペレータ端末12から通話要求が行われてモバイルPC16との通話が開始された場合、作業者による指示の入力を条件としてライブ映像の配信が開始される。
【0178】
上述したように、モバイルPC16から通話要求が行われてオペレータ端末12との通話が開始された場合、ライブ映像配信は自動で開始される。
【0179】
ライブ映像配信が開始されると、カメラ116が撮影しているライブ映像がオペレータ端末12に配信される。なお、ライブ映像の配信の方向はモバイルPC16からオペレータ端末12への一方向のみであり、オペレータ端末12からモバイルPC16へライブ映像が配信されることはない。配信中のライブ映像はプレビューエリア603に表示される。このとき、
図17(c)に示すようにライブ映像配信中であることを示すためにライブ映像が緑色の枠で囲まれる。
【0180】
ライブ映像の配信中にライブ映像配信開始/停止アイコン602bが選択され、決定ボタン202eが押下された場合、ライブ映像配信が停止される。停止されると、
図17(c)に示す画面が
図17(b)に示す画面に戻る。
【0181】
[静止画像の送受信機能]
次に、静止画像の送受信機能について、(1)静止画像の送信と(2)静止画像の受信に分けて説明する。
【0182】
(1)静止画像の送信
通話中、カメラ116により撮影された静止画像はオペレータ端末12に送信され得る。静止画像を撮影する際のカメラ116のモードは標準モードと高画質モードがある。
【0183】
先ず、標準モードで静止画像を撮影する場合について説明する。標準モードの場合、ライブ映像配信中に静止画像を撮影し、オペレータ端末12に送信することができる。
【0184】
図18(a)に示すように、ライブ映像配信中に機能アイコンエリア602に配置されている一つのアイコンが選択されている状態でライトボタン202bが押下された場合、プレビューエリア603が選択可能な状態となる(
図18(b))。プレビューエリア603が選択されると、カメラ116が撮影しているライブ映像は第2の色で囲まれて表示される。即ち、プレビューエリア603の枠が緑色から第2の色(例えば、白色)になる。なお、プレビューエリア603には、カメラ116が撮影中であることを示すアイコン607も表示される。なお、第2の色は第1の色と異なる色であればどのような色彩を用いてもよい。以下では、第2の色は白色であるとする。
【0185】
この状態で、決定ボタン202eが押下されると、ライブ映像の画面がキャプチャされる(
図18(c))。キャプチャされた静止画像は通話相手(通話接続中のオペレータ端末12)に自動的に送信される。静止画像が撮影された後、撮影された静止画像の解像度を640×360ピクセルにするため、自動的に全画面表示される(
図18(d))。
【0186】
撮影された静止画像のオペレータ端末12への送信が完了した後、画面はライブ映像配信中の通話中画面(
図18(b))に戻る。また、
図18(b)の画面が表示された状態で決定ボタン202eが複数回押下された場合、押下毎に画面がキャプチャ(静止画像が撮影)されオペレータ端末12に送信される。
【0187】
次に、高画質モードで静止画像を撮影する場合について
図19を用いて説明する。
【0188】
カメラ116は、標準モードと高画質モードとが切り替え可能であるが、高画質モードによる静止画像の撮影は、ライブ映像の配信中は行うことができない。このため、ライブ映像をオペレータ端末12に送信している間にカメラ116が高画質モードで静止画像を撮影開始すると、ライブ映像の送信が自動的に停止される。
【0189】
図19(a)はライブ映像の配信が行われていないときの通話中画面を示す。この状態で、ライトボタン202b又はレフトボタン202dが操作され機能アイコンエリア602の画像撮影モード切替アイコン602cにフォーカスが当てられた状態で決定ボタン202eが押下されると、カメラ116の画像撮影モードが標準モードから高画質モードに切り替わる。
図19(a)の画面は
図19(c)に示す画面に切り替わる。撮影モードが高画質モードへ切り替えられた旨の注意文がメッセージエリア604に表示されてもよい。
【0190】
図19(b)はライブ映像の配信が行われているときの通話中画面を示す。この状態で、ライトボタン202b又はレフトボタン202dが操作され機能アイコンエリア602の画像撮影モード切替アイコン602cにフォーカスが当てられた状態で決定ボタン202eが押下されると、ライブ映像の配信が自動的に停止され、カメラ116の画像撮影モードが高画質モードに切り替わる。
図19(b)の画面は
図19(c)の画面に切り替わる。撮影モードが高画質モードへ切り替えられ、ライブ映像配信が停止された旨の注意文がメッセージエリア604に表示されてもよい。
【0191】
高画質モードに変わると、プレビューエリア603にカメラ116のプレビューが表示される。プレビューエリア603には、カメラ116による撮影が行われようとしていることを示すアイコン607が表示される。
【0192】
図19(c)の画面が表示されている状態でライトボタン202bが押下されると、プレビューエリア603が選択可能となり、
図19(d)に示すように、プレビューエリア603にカメラ116のプレビューが白枠で囲まれて表示される。即ち、プレビューエリア603の枠が緑色から白色になる。この状態で決定ボタン202eが押下されると、高画質モードで写真(静止画像)が撮影されてオペレータ端末12に送信される。なお、決定ボタン202eが複数回押下された場合、押下毎に高画質モードで写真(静止画像)が撮影され、撮影された写真(静止画像)がオペレータ端末12に送信される。なお、写真(静止画像)撮影時にはシャッター音が鳴動するように構成してもよい。
【0193】
写真(静止画像)撮影が行われた後、ディスプレイ124に撮影された写真(静止画像)は3秒又は送信完了するまで表示される(
図19(e))。撮影された写真(静止画像)のオペレータ端末12への送信が完了した後、画面はカメラ116のプレビューが白色の枠で囲まれて表示される画面(
図19(d))に戻る。
【0194】
なお、写真(静止画像)撮影が行われた後、カメラ116の画像撮影モードが自動的に高画質モードから標準モードに切り替わる構成にしてもよい。即ち、ライブ映像配信中に高画質モードに切り替えられた場合には、撮影終了後自動的に
図19(e)に示す画面が
図19(b)に示す画面に切り替えられ、ライブ映像配信していないときに高画質モードに切り替えられた場合には、撮影終了後自動的に
図19(e)に示す画面が
図19(a)に示す画面に切り替えられてもよい。
【0195】
(2)静止画像の受信
モバイルPC16は、オペレータ端末12と通話中、オペレータ端末12から送られてきた静止画像を受信すると、受信した静止画像をウェアラブルデバイス本体24に送信し、ディスプレイ124に表示(全画面表示)させる。通話中にホーム画面等の他の画面が表示されているときでもモバイルPC16は静止画像を受信でき、ディスプレイ124に表示されている画面上に受信された静止画像を自動的に表示(全画面表示)させる。ここで、決定ボタン202eが押下された場合には、ディスプレイ124に表示された画面から受信した静止画像が消去される。また、ディスプレイ124にはオペレータ端末12から静止画像が受信される毎に最新の画像が表示される。
【0196】
モバイルPC16で受信された静止画像はストレージデバイス330に保存される。このため、作業者はコンテンツエリア530に配置されている受信ファイルを保存するフォルダに対応するアイコンを選択し、決定ボタン202eを押下することにより、受信された静止画像を閲覧することができる。
【0197】
[画面共有機能]
次に、画面共有機能について説明する。
【0198】
モバイルPC16がオペレータ端末12との通話中にオペレータ端末12からの画面共有のための操作が行われると、ディスプレイ124に画面共有の対象の画面(共有画面)が自動的に表示される。共有画面は全画面表示されるため、元のウィンドウのアスペクト(態様)は維持されない。必要に応じてオペレータ端末12でサイズ調整が行われる。
【0199】
共有画面は、ライトボタン202bの押下により一時的に非表示にすることができる。このとき、ディスプレイ124には、相手情報エリア601と機能アイコンエリア602との間の領域に共有画面のサムネイルが表示される通話中画面が表示される。
【0200】
共有画面は、レフトボタン202dの複数回の押下により再表示(全画面表示)することができる。
【0201】
[テキストメッセージの受信]
次に、モバイルPC16がオペレータ端末12からテキストメッセージを受信する機能について
図20を用いて説明する。
【0202】
モバイルPC16は、インターネット通信アプリケーション509のインスタントメッセージ機能によりオペレータ端末12から送信されたテキストメッセージを受信することができる。また、モバイルPC16は、通話中でないオペレータ端末12からのテキストメッセージも受信可能である。
【0203】
モバイルPC16とオペレータ端末12との通話中にモバイルPC16が通話中の相手(通話接続中のオペレータ端末12)からテキストメッセージを受信した場合、
図20(a)に示すように受信したメッセージはメッセージエリア604に表示される。
【0204】
通話中の相手以外からのテキストメッセージが受信されることもある。例えば、オペレータ端末A(図示しない)とモバイルPC16とが通話接続している間に、モバイルPC16が通話接続していないオペレータ端末B(図示しない)からのテキストメッセージを受信する場合がある。また、
図20(b)に示すように作業者が他のアプリケーションを実行している間、即ち実行中のアプリケーションの画面がディスプレイ124に表示されている間に、通話接続していないオペレータ端末12からのテキストメッセージを受信する場合がある。
【0205】
モバイルPC16と通話中以外の相手(通話接続していないオペレータ端末12)からモバイルPC16に届いたテキストメッセージは、ディスプレイ124に表示されている画面にポップアップで表示される。具体的には、受信されたテキストメッセージが表示されたポップアップエリア608が表示される。このとき、受信されたテキストメッセージとともに送信者の名前が表示される。
【0206】
なお、メッセージエリア604にポップアップ表示できるテキストメッセージは1行のみであり、文字数は先頭から60文字(半角)程度となる。
【0207】
図20(b)に示す場合において、ポップアップで表示されたテキストメッセージは、決定ボタン202eが押下されると、非表示とされる。
【0208】
他方、
図20(a)に示す場合において、通話中画面のメッセージエリア604に表示されているテキストメッセージは終話するまで表示され続ける。
【0209】
なお、テキストメッセージがメッセージエリア604に表示されている又はポップアップ表示されているときに、新しいテキストメッセージがオペレータ端末12からモバイルPC16に届いた場合、既に表示されているテキストメッセージ(古いメッセージ)は画面上から消え、新しく受信されたテキストメッセージのみが表示される。
【0210】
また、受信されたテキストメッセージは、モバイルPC16に保存され、作業者はインスタントメッセージ履歴機能を利用することにより、保存されたテキストメッセージを閲覧することができる(
図12(h)参照)。
【0211】
[ファイルビューワー]
次に、モバイルPC16が備えるビューワー機能(ビューワーアプリケーション)について説明する。
【0212】
ビューワー機能とは、ホーム画面上のコンテンツエリア530に配置されているアイコンを選択することによりモバイルPC16に保存されている写真(静止画像)、ビデオ(動画)、PDFファイル等を閲覧することを可能にする機能である。
【0213】
(1)フォルダ内のファイルの表示
コンテンツエリア530には、上述したようにフォルダに相当するアイコンが配置されている。コンテンツエリア530に配置されたアイコンの中の任意のアイコンが選択され、決定ボタン202eが押されると、アイコンに対応するフォルダ内に保存されているファイルが一覧表示される(
図13(b)、(d)、(f)参照)。この状態でライトボタン202b/レフトボタン202dによりファイル一覧(ファイルリスト)から所望のファイルが選択され、決定ボタン202eが押下されると、選択されたファイルの拡張子に対応したビューワーアプリケーション(JPEG ビューワーアプリケーション、MP4プレーヤアプリケーション、PDFリーダアプリケーション)によりファイルのコンテンツが表示される。ファイルリストにおけるファイルの並び順がファイルの作成日時に基づく降順とされている場合、作成日時が新しいファイルが上側に配置される。
【0214】
コンテンツエリア530には、標準フォルダに対応するフォルダのアイコンとしてPicture(画像)、Video(動画)、PDF、カメラ、Received Picture(受信ファイル)、Sent Picture(送信ファイル)等及びユーザフォルダに対応するフォルダのアイコンが配置されている。
図13(c)に示すようにPhotoアイコンが配置されてもよい。なお、フォルダに対応するアイコンの配置は設定ファイルで別途定義されており、セッティング等で変更することができる。
【0215】
以下の説明では、画像ファイル、動画ファイル、PDFファイルが同一のフォルダ、例えば、C:\Users\public\Documents\TosRC\で示されるフォルダ(以下、TosRCフォルダと称する)に保存されているとする。
【0216】
Picture(画像)アイコンは、モバイルPC16にあらかじめ保存されているJPEGファイルにアクセスするためのアイコンである。Pictureアイコンが選択され、決定ボタン202eが押下されると、TosRCフォルダに保存されているファイルの中のJPEGファイルのみが一覧表示される。一覧表示されたファイルの1つが選択され、決定ボタン202eが押下されると、選択されたファイルがJPEG ビューワーアプリケーション505aによりディスプレイ124に表示される。
【0217】
Video(動画)アイコンは、モバイルPC16にあらかじめ保存されているMP4ファイルにアクセスするためのアイコンである。Videoアイコンが選択され、決定ボタン202eが押下されると、TosRCフォルダに保存されているファイルの中のMP4ファイルのみが一覧表示される。一覧表示されたファイルの1つが選択され、決定ボタン202eが押下されると、選択されたファイルがMP4プレーヤアプリケーション505bによりディスプレイ124に表示される。
【0218】
PDFアイコンは、モバイルPC16にあらかじめ保存されているPDFファイルにアクセスするためのアイコンである。PDFアイコンが選択され、決定ボタン202eが押下されると、TosRCフォルダに保存されているファイルの中のPDFファイルのみが一覧表示される。一覧表示されたファイルの1つが選択され、決定ボタン202eが押下されると、選択されたファイルがPDFリーダアプリケーション505cによりディスプレイ124に表示される。
【0219】
カメラアイコンが選択され、決定ボタン202eが押下されると、カメラアプリケーション504で撮影した写真(静止画像)やビデオ(動画)の一覧が表示される。なお、カメラ116で撮影された写真(静止画像)やビデオ(動画)はユーザアカウント毎のフォルダに保存されている。例えば、撮影された写真(静止画像)やビデオ(動画)は、C:\Users\[User Name]\Documents\TosRC\Camera\で示されるフォルダに保存されている。
【0220】
一覧表示されたファイルの中の写真(静止画像)のファイルの1つが選択され、決定ボタン202eが押下されると、選択されたファイルがJPEG ビューワーアプリケーション505aによりディスプレイ124に表示される。一覧表示されたファイルの中のビデオ(動画)のファイルの1つが選択され、決定ボタン202eが押下されると、選択されたファイルがMP4プレーヤアプリケーション505bによりディスプレイ124に表示される。
【0221】
Received Pictureアイコンが選択され、決定ボタン202eが押下されると、遠隔支援アプリケーション503の機能によりオペレータ端末12から受信したJPEGファイルの一覧が表示される。なお、オペレータ端末12から受信したJPEGファイルはユーザアカウント毎のフォルダに保存されている。例えば、オペレータ端末12から受信したJPEGファイルは、C:\Users\[User Name]\Documents\TosRC\Received\で示されるフォルダに保存されている。
【0222】
一覧表示されたJPEGファイルの中の1つが選択され、決定ボタン202eが押下されると、選択されたJPEGファイルがJPEG ビューワーアプリケーション505aによりディスプレイ124に表示される。
【0223】
Sent Pictureアイコンが選択され、決定ボタン202eが押下されると、遠隔支援アプリケーション503の機能によりオペレータ端末12から送信したJPEGファイルの一覧が表示される。なお、オペレータ端末12から送信したJPEGファイルはユーザアカウント毎のフォルダに保存されている。例えば、オペレータ端末12に送信したJPEGファイルは、C:\Users\[User Name]\Documents\TosRC\Sent\で示されるフォルダに保存されている。
【0224】
一覧表示されたJPEGファイルの中の1つが選択され、決定ボタン202eが押下されると、選択されたJPEGファイルがJPEG ビューワーアプリケーション505aによりディスプレイ124に表示される。
【0225】
続いて、ユーザフォルダについて説明する。
【0226】
ビューワーアプリケーション505は用途を自由に決めることができるフォルダをサポートしているため、作業者はユーザフォルダを設けることができる。ユーザフォルダ内には、JPEGファイル、MP4ファイル、PDFファイルが保存され得る。ユーザフォルダは最大5個まで設けられる。作業者は、設定ファイルによりパス(フォルダの場所)やコンテンツエリア530に表示するフォルダ名を指定することができる。表示名(フォルダ名)の文字数は最大32文字(半角)とする。
図13の例では、ユーザフォルダにはFolder_10という名称が付されている。
【0227】
次に、ビューワーアプリケーション505に含まれるJPEG ビューワーアプリケーション505a、MP4プレーヤアプリケーション505b、PDFリーダアプリケーション505cについて説明する。
【0228】
ファイル一覧から作業者によって選択されたファイルがJPEGファイルの場合、JPEG ビューワーアプリケーション505aが起動され、選択されたJPEGファイル(静止画像ファイル)がディスプレイ124に表示される。
【0229】
ディスプレイ124に表示された静止画像は、決定ボタン202eが押下されることにより段階的に拡大される。例えば、決定ボタン202eが押下される毎に100%→200%→300%→100%と倍率が変化する。ズーム表示中(拡大表示中)、アップボタン202a、ライトボタン202b、ダウンボタン202c、レフトボタン202dが操作されると、表示位置が移動される。
【0230】
なお、作業者は、ウェアラブルデバイス本体24のタッチパッド110を使用してピンチ操作を行うことにより、静止画像を画面上で拡大することができる。また、同様の方法で静止画像を画面上で縮小することもできる。
【0231】
ファイル一覧から作業者によって選択されたファイルがMP4ファイル(動画ファイル)の場合、MP4プレーヤアプリケーション505bが起動され、選択されたMP4ファイル(動画ファイル)がウェアラブルデバイス24のディスプレイに表示され、再生される。
【0232】
MP4ファイル(動画ファイル)の再生中に決定ボタン202eが押下されると、MP4ファイル(動画ファイル)の再生が一時停止する。そして、決定ボタン202eが再度押下されると、MP4ファイル(動画ファイル)の再生が再開される。
【0233】
ファイル一覧から作業者によって選択されたファイルがPDFファイルの場合、PDFリーダアプリケーション505cが起動され、選択されたPDFがディスプレイ124に表示される。
【0234】
なお、アップボタン202a、ダウンボタン202cが操作されると、表示されているPDFファイルのページがスクロール(ページ送り)される。
【0235】
また、ディスプレイ124に表示されたPDFファイルは、決定ボタン202eが押下されると段階的に拡大される。例えば、決定ボタン202eが押下される毎に100%→200%→300%→400%→100%と倍率が変化する。ズーム表示中(拡大表示中)、アップボタン202a、ライトボタン202b、ダウンボタン202c、レフトボタン202dが操作されると、表示位置が移動される。
【0236】
なお、作業者は、ウェアラブルデバイス本体24のタッチパッド110を使用してピンチ操作を行うことにより、PDFファイルをPDFファイルが表示されている画面上で拡大することができる。また、同様の方法で表示されているPDFファイルを画面上で縮小することもできる。
【0237】
[カメラ機能]
次に、モバイルPC16が備えるカメラ機能について説明する。
【0238】
カメラアプリケーション504を利用することにより、ウェアラブルデバイス本体24のカメラ116で写真やビデオを撮影でき、撮影された写真やビデオをモバイルPC16のストレージデバイス330に保存することができる。ホーム画面のツールエリア540には、Cameraアイコン(写真撮影アイコン)、Videoアイコン(ビデオ撮影アイコン)が配置されており、Cameraアイコン(写真撮影アイコン)が選択されるとカメラアプリケーション504が写真撮影モードで起動され、Videoアイコン(ビデオ撮影アイコン)が選択されるとカメラアプリケーション504がビデオ撮影モードで起動される。
【0239】
このように、カメラアプリケーション504は、写真撮影モードとビデオ撮影モードの2つのモードをサポートしている。よって、作業者はライトボタン202b/レフトボタン202dを操作することにより、カメラ116の撮影モードを切り替えることができる。
【0240】
(1)写真撮影
カメラ116が写真撮影モードの場合、決定ボタン202eが押下される毎にカメラ116で写真撮影が実行される。写真撮影時にはシャッター音が鳴動し、ディスプレイ124に撮影された写真が3秒間表示される。その後、プレビュー表示に戻る。
【0241】
ここで、写真のサイズは、例えば、2048x1536(4:3)ピクセルである。撮影された写真は、モバイルPC16の規定の写真フォルダに保存される。上述した例で言うと、C:\Users\[User Name]\Documents\TosRC\Camera\で示されるフォルダに保存される。作業者は、撮影した写真をホーム画面のコンテンツエリア530上の操作によりディスプレイ124に表示させることができる。具体的には、ホーム画面のコンテンツエリア530に配置されているカメラアイコンが選択され、決定ボタン202eが押下されると、撮影した写真が表示される。
【0242】
(2)ビデオ撮影
カメラ116がビデオ撮影モードの場合、決定ボタン202eが押下されると、ビデオ撮影が開始される。ビデオ撮影中に決定ボタン202eが再度押下されると、ビデオ撮影が停止される。ビデオ撮影中はディスプレイ124に撮影中の画像(プレビュー)が表示される。また、録画中を示すアイコン(
図14(b)のアイコン591)が画面に表示される。
【0243】
ここで、映像のサイズは、例えば1080p video @ 30fpsであり、録画可能な時間は、例えば最長15分である。ビデオ撮影が開始されて最長時間に到達すると、自動的にビデオ撮影が停止される。
【0244】
撮影されたビデオファイルはモバイルPC16の規定のビデオフォルダに保存される。上述した例で言うと、C:\Users\[User Name]\Documents\TosRC\Camera\で示されるフォルダに保存される。
【0245】
作業者は、撮影したビデオを、ホーム画面のコンテンツエリア530上の操作によりディスプレイ124上で再生させることができる。具体的には、ホーム画面のコンテンツエリア530に配置されているカメラアイコンが選択され、決定ボタン202eが押下されると、撮影したビデオが再生される。
【0246】
[設定]
続いて、モバイルPC16及びウェアラブルデバイス23の動作環境を設定する操作について説明する。設定操作には、設定画面アプリケーション507を使用する方法と、クイックセッティングアプリケーション508を使用する方法とがある。
【0247】
先ず、設定画面アプリケーション507を使用する方法について説明する。
【0248】
図21(a)に示すように、ホーム画面のツールエリア540に配置されているSettingsアイコンが選択され、決定ボタン202eが押下されると、設定画面が表示される。設定画面には、設定項目一覧が表示されている。
【0249】
作業者は、設定画面で以下の事項について設定することができる。
【0250】
(1)ボリューム設定
スピーカ130から聞こえる音声のボリュームが変更可能である。設定画面のVolumeが選択され、決定ボタン202eが押下されると、設定画面が図示せぬボリューム設定画面に切り替わる。
【0251】
(2)音声ミュート
マイク112,126から入力される音声がミュート可能である。設定画面のMicが選択され、決定ボタン202eが押下されると、設定画面が図示せぬ音声ミュート設定画面に切り替わる。また、同様の方法で音声のミュートも解除可能である。
【0252】
(3)画面輝度調整
ディスプレイ124の輝度が調整可能である。
図21(a)に示すように、アップボタン202a、ライトボタン202b、ダウンボタン202c、レフトボタン202dが操作され、設定画面上のBrightnessが選択され、決定ボタン202eが押下されると、設定画面が輝度設定画面に切り替わる。輝度調整後、決定ボタン202eが長押しされると、輝度設定画面が設定画面に戻る。
【0253】
(4)LEDライトON/OFF
ライト118の点灯/消灯が切り替え可能である。設定画面でLED Lightが選択され、決定ボタン202eが押下されると、設定画面が図示せぬLEDライト設定画面に切り替わる。
【0254】
(5)Wi-Fi SSID切り替え
設定済SSIDリストから接続アクセスポイントのSSIDが選択できる。このとき、未登録のSSIDは表示されない。
【0255】
(6)Wi-Fi ON/OFF
ブルートゥース/無線LANデバイス340の有効又は無効を切替えることができる。設定画面でWi-Fiが選択され、決定ボタン202eが押下されると、設定画面が図示せぬWi-Fi設定画面に切り替わる。
【0256】
(7)バージョン表示
モバイルPC16にインストールされているアプリケーションのバージョン番号が表示可能である。設定画面アプリケーション上でバージョン表示するためのコンタクト先が選択され、決定ボタン202eが押下されると、モバイルPC16にインストールされている各アプリケーションそれぞれのバージョン番号が表示される。
【0257】
(8)ライセンス条項の表示
フロントエンドアプリケーション501の使用許諾契約(EULA)の内容が表示可能である。設定画面アプリケーション上で使用許諾契約(EULA)の内容を表示するためのコンタクト先が選択され、決定ボタン202eが押下されると、使用許諾契約(EULA)の内容が表示される。
【0258】
(9)システムの終了
設定画面上で所定のコンタクト先が選択され、決定ボタン202eが押下されると、モバイルPC16のシャットダウン、スリープ、ハイバネーション、再起動が可能である。
【0259】
次に、クイックセッティングアプリケーション508を使用する方法について説明する。
【0260】
図21(b)に示すように、ディスプレイ124に任意の画面が表示されている状態で、ダウンボタン202cが長押しされると、クイックセッティングアプリケーション508が起動され、上記任意の画面上にクイックセッティングアプリケーションのメニュー650が表示される。クイックセッティングアプリケーション508は動作中のアプリケーションが何であるかにかかわらず、いつでも起動可能である。
【0261】
クイックセッティングアプリケーション508を使用する場合、設定画面アプリケーション507を利用した場合に設定できる事項の中で、(1)ボリューム設定、(2)音声ミュート、(3)画面輝度調整、(4)LEDライトON/OFFについての設定を変更することができる。
【0262】
図21(b)に示すクイックセッティングアプリケーションのメニュー650に示されたアイコンの中から所望のアイコンにフォーカスが当てられ、アップボタン202a、ダウンボタン202cが操作されると、(1)~(4)について設定が変更可能である。
図21(b)には、ボリューム設定のためのアイコンにフォーカスが当てられ、音量設定が行われている例が示されている。
【0263】
なお、決定ボタン202eが長押しされると、クイックセッティングアプリケーション508は終了する。
【0264】
[インストーラ]
フロントエンドアプリケーション501はインストーラによりモバイルPC16へインストールされる。インストーラはLync SDK 2013等フロントエンドアプリケーション501の動作に必要なモジュールを一括でインストールできる。ただし、インターネット通信アプリケーション509、例えばSkype for Businessのクライアントアプリケーション等は別途インストールする必要がある。フロントエンドアプリケーション501にはモバイルPC16にインストールされた後、一定期間経過すると動作しなくなるようなライセンス管理機能が組み込まれている。
【0265】
[Windowsデスクトップ環境のセットアップ]
フロントエンドアプリケーション501のモバイルPC16へのインストール等、ウェアラブルビューワーのセットアップの手順の一例を以下に示す。
【0266】
なお、下記の設定はモバイルPC16に図示しないディスプレイ、キーボード、マウスを接続して作業を行うものとする。
【0267】
(1)Windowsアカウントの作成
ウェアラブルビューワーを使う作業者に対して標準権限のユーザアカウントが作成され、フロントエンドアプリケーション501はそのユーザアカウントで動作される。
【0268】
(2)インターネット通信アプリケーション509のインストール
(3)インターネット通信アプリケーション509のサーバへの接続
(1)で作成したユーザアカウントでWindowsへのログインが行われる。
【0269】
(4)指紋の登録
モバイルPC16が指紋認証をサポートしている場合、必要に応じてWindowsの設定(サインインオプション)でウェアラブルビューワーを使う作業者(ユーザ)の指紋が登録される。
【0270】
(5)フロントエンドアプリケーションのインストール
(6)フロントエンドアプリケーションの自動起動設定
レジストリエディタが起動され、所定の値が登録される。
【0271】
[バックエンドの動作]
図22は、オペレータ端末12のバックエンドアプリケーション48の一例を示す。
【0272】
遠隔支援においてバックエンド(オペレータ端末12)側では、インターネット通信アプリケーション702を用いてモバイルPC16と通信することができる。バックエンドアプリケーション701は、オペレータ端末12上で動作するアプリケーションであり、インターネット通信アプリケーション702による遠隔支援を補助するためのアプリケーションである。バックエンドアプリケーション701は、インターネット通信アプリケーション702を介してモバイルPC16と画像ファイルの送受信を行う機能、画像ファイルにアノテーションを付加するための編集機能を備えている。なお、オペレータ端末12にインストールされているバックエンドアプリケーション701もWindowsのデスクトップアプリケーションとして実装される。インターネット通信アプリケーション702はモバイルPC16のインターネット通信アプリケーション509と同様であってもよい。
【0273】
バックエンドアプリケーション701の実行によりオペレータ端末12を含む遠隔支援システムを利用するオペレータは、以下の作業を行うことができる。
【0274】
(1)インターネット通信アプリケーション509を利用する作業
オペレータは、
モバイルPC16にコールすること、
モバイルPC16からコールを受けること、
モバイルPC16から配信されたライブ映像をオペレータ端末12のLCD64に表示させること、
デスクトップ画面又は起動中のアプリケーションケーションの画面を通信中のモバイルPC16と共有すること(画面共有)、
テキストメッセージをモバイルPC16に送信することができる。
【0275】
(2)バックエンドアプリケーション701による作業
オペレータは、
通信中のモバイルPC16から送信された画像ファイルを受信すること、
画像ファイルに手書きのアノテーションを書き込むこと、
通信中のモバイルPC16にアノテーションを付加した画像ファイルを送信することができる。
【0276】
次に、バックエンドアプリケーション701の起動及び終了について説明する。
【0277】
オペレータ端末12では、インターネット通信アプリケーション702とバックエンドアプリケーション701の両方が動作する。バックエンドアプリケーション701は、オペレータ端末12のオペレータがバックエンドアプリケーション701を指定することにより起動される。オペレータがオペレータ端末12を起動させ、Windowsサイインを行った時にバックエンドアプリケーション701が自動的に起動される構成にしてもよい。
【0278】
ここで、インターネット通信アプリケーション702は、オペレータ端末12用アプリケーションよりも先に起動する必要がある。また、インターネット通信アプリケーション702が起動すると、プレゼンス状態がオンラインとなるが、バックエンドアプリケーション701が起動していない状態ではモバイルPC16から静止画像の送信ができなくなる等の制約がある。
【0279】
オペレータは、バックエンドアプリケーション701を終了する場合、バックエンドアプリケーション701の終了メニューから行うことができる。
【0280】
[モバイルPC16との通信]
オペレータ端末12から見たモバイルPC16との通信について説明する。
【0281】
(1)通話の開始
オペレータ端末12から通話要求(コール)する場合、オペレータは、インターネット通信アプリケーション702のコンタクトリストから相手(モバイルPC16)を指定してコールを行う。モバイルPC16側で受話操作が行われると、オペレータはモバイルPC16を使用する作業者と通話ができるようになる。
【0282】
モバイルPC16から通話要求(コール)する場合、オペレータ端末12には、インターネット通信アプリケーション702の機能により呼び出し画面がポップアップで表示され、コールしてきた相手(モバイルPC16を使用する作業者)の氏名や顔画像が表示される。呼び出し画面上で承諾ボタンが押下されると、モバイルPC16との通信路が確立され、オペレータは作業者と通話できるようになる。
【0283】
(2)ライブ映像の表示
モバイルPC16から配信されるライブ映像はオペレータ端末12で表示される。モバイルPC16からコールされてモバイルPC16との通話が開始されると、ライブ映像配信が自動的に開始され、通話中画面にライブ映像が表示される。この通話中画面はオペレータ端末12のLCD64に表示される。オペレータ端末12からコールされてモバイルPC16と通話が開始されたときは、ライブ映像配信は自動的に開始されない。モバイルPC16を使用する作業者によって指示操作が行われた場合に、通話中画面にライブ映像が表示される。
【0284】
(3)音声のミュート/ミュート解除
オペレータ端末12とモバイルPC16との通話中画面で、音声のミュート/ミュート解除ができる。音声をミュートした場合、オペレータ端末12側の音声はモバイルPC16に送信されない。
【0285】
(4)通話の終了
通話中画面の終話ボタンを押すことにより、オペレータ端末12から通話を終了することができる。モバイルPC16で終話操作が行われた場合も通信は切断される。
【0286】
[静止画像の受信]
オペレータ端末12は、通信中のモバイルPC16からの画像ファイルを受信することができる。受信された画像ファイルは、
図23に示すようにファイル送受信画面710にサムネイル表示される。画像のサムネイルがダブルクリックされると、画像編集画面715が起動され、選択された画像ファイルが表示される。なお、受信された画像をサムネイル表示するためには、ファイル送受信画面710がオペレータ端末12のLCD64に予め表示されている必要がある。
【0287】
[アノテーション機能]
ファイル送受信画面710にサムネイル表示されている受信ファイルの1つが選ばれダブルクリックされると、画像編集画面715が起動され、選択された画像ファイルが画像編集画面715上の画像エリア720に表示される。画像編集画面715において、721,722,723はボタンであり、その中には、送信ボタン722が含まれる。
【0288】
オペレータは、画像編集画面715を利用して文字や絵などの書き込み等を行うことができる。
図23は、モバイルPC16から送られてきた画像に対して書き込み操作が行われ、書き込み操作によって描かれたアノテーションが受信画像に付加されることを示す。
【0289】
[画像送信]
画像編集画面715の送信ボタン722が押下されると、アノテーションが付加された画像(画像エリア720に表示されている画像)がモバイルPC16に送信される。送信された画像(アノテーションが付加された画像)は、画像ファイルとしてオペレータ端末12内に保存される。また、送信された画像(アノテーションが付加された画像)ファイルの履歴は、ファイル送受信画面710にサムネイルで表示される。送信された画像のファイルのサムネイルは、画像が送信されたときにファイル送受信画面710に表示される。
【0290】
オペレータ端末12から送られてきた画像(アノテーションが付加された画像)がモバイルPC16で受信されると、その受信した画像がディスプレイ124で全画面表示される。これにより、作業者は、アノテーションが付加された画像を見ることができる。その後、決定ボタン202eが押下されると、画面は通話中画面に戻る。
【0291】
図24は、モバイルPC16から受信した静止画像のサムネイルとモバイルPC16に送信した静止画像のサムネイルとを表示するLCD64の画面(ファイル送受信画面710)の一例を示す。
【0292】
ファイル送受信画面710はファイル送受信エリア760を含み、ファイル送受信エリア760はファイル受信エリア740、ファイル送信エリア750から構成されている。ファイル送受信エリア760の左半分の領域がファイル受信エリア740であり、ファイル送受信エリア760の右半分の領域がファイル送信エリア750である。
【0293】
ファイル受信エリア740は、オペレータ端末12がモバイルPC16から受信した画像のサムネイルが表示される領域である。
図24に示すようにモバイルPC16から送られてきて受信した画像が複数ある場合、それらの画像のサムネイル771,773はオペレータ端末12による受信順にファイル受信エリア740の上側から時系列的に並べられて表示される。
【0294】
ファイル送信エリア750は、オペレータ端末12がモバイルPC16に送信した画像のサムネイルが表示される領域である。
図24は、モバイルPC16から受信したアノテーション付加画像のサムネイル772がファイル送信エリア750に表示されている例を示す。画像のサムネイル772が表示されることは、画像772はオペレータ端末12からモバイルPC16に送信されたことを意味する。もし、モバイルPC16に送信した画像が複数ある場合、それらの画像のサムネイルは、オペレータ端末12による送信順にファイル送信エリア750の上側から時系列的に並べられて表示される。
【0295】
図24は、サムネイル771に対応する画像を画像A、サムネイル772に対応する画像を画像B、サムネイル773に対応する画像を画像Cとしたとき、オペレータ端末12の動作が画像Aの受信、画像Bの送信、画像Cの受信の順に実行されたことを意味している。サムネイル771よりも下側にサムネイル772が表示され、サムネイル772よりも下側にサムネイル773が表示されていることが画像Aの受信、画像Bの送信、画像Cの受信を示している。このように、受信画像のサムネイル及び送信画像のサムネイルは、受信画像と送信画像とを含めて時系列的に並べられて表示される。
【0296】
なお、オペレータ端末12から静止画像を複数のモバイルPC16に送信する場合、送信先のモバイルPC16を使用する作業者を特定し、特定した作業者情報とともに送信した画像のサムネイルを履歴としてファイル送信エリア750に表示してもよい。
【0297】
[画面共有]
オペレータ端末12のデスクトップ画面やオペレータ端末12で起動中のアプリケーションの画面を通話中のモバイルPC16と共有することできる。これにより、オペレータ端末12からPDF等のドキュメントをディスプレイ124にリモート表示させることができる。
【0298】
[インストール/アンインストール]
バックエンドアプリケーション701のインストールはインストーラにより実行される。インストーラは、例えばLync SDK 2013等、バックエンドアプリケーション701の動作に必要なモジュールを一括でインストールできる。ただし、インターネット通信アプリケーション702、例えばSkype for Businessのクライアントアプリケーション等は、別途インストールする必要がある。
【0299】
[フロントエンドとバックエンドのユーザインターフェース]
叙述した主な機能についてウェアラブルビューワー側とオペレータ端末12側のユーザインターフェースを説明する。
【0300】
図25は、モバイルPC16からのコールをオペレータ端末12が受話してライブ映像配信が行われる場合のユーザインターフェースを示す。
図25は
図12を参照した上述の[通話機能]の説明中の(1)通話の開始の説明の前半部分に関連する。
【0301】
ウェアラブルビューワー側において、作業者がホーム画面のコミュニケーションエリア520に配置されているConversationアイコンを選択して決定ボタン202eを押下すると、コンタクトリスト画面が表示される。作業者は、コンタクトリスト画面上で4つのボタン(アップボタン202a、ライトボタン202b、ダウンボタン202c、レフトボタン202d)を操作することにより、コンタクト先を決定する。このとき、作業者がアップボタン202a、又はレフトボタン202dを押下すると、フォーカスが上にスクロールする。他方、このとき、作業者がダウンボタン202c又はライトボタン202bを押下すると、フォーカスが下にスクロールする。
【0302】
作業者が、コンタクト先を決定して決定ボタン202eを押下すると、コンタクト先のオペレータ端末12がコールされる。このとき、ウェアラブルビューワー側では呼出中画面が表示される。
【0303】
オペレータ端末12側では、モバイルPC16からのコールを受けると、呼出画面が表示される。オペレータがオペレータ端末12の承認ボタンを押下すると、モバイルPC16からのコールに対して受話され、モバイルPC16とオペレータ端末12との通話路が確立され、通話が開始される。
【0304】
通話が開始されると、自動的にライブ映像の送信が開始される。このとき、カメラ116で撮影している映像がオペレータ端末12に配信される。また、ウェアラブルビューワー側で表示される画面が、呼出中画面からライブ映像送信時の通話中画面(第1通話中画面)に切り替わる。この第1通話中画面では配信中のライブ映像が緑色の枠で囲まれて表示される。
【0305】
このとき、オペレータ端末12側では、ライブ映像受信時の通話中画面(第2通話中画面)が表示される。この第2通話中画面にはモバイルPC16から配信されているライブ映像が表示されている。
【0306】
ウェアラブルビューワー側において第1通話中画面が表示されている状態で、作業者が、レフトボタン202d、ライトボタン202bを操作してライブ映像配信開始/停止アイコン602bを選択して決定ボタン202eを押下すると、ライブ映像の配信が停止される。ライブ映像の配信が停止すると、画面が第1通話中画面からライブ映像停止時の通話中画面(第3通話中画面)に切り替わる。
【0307】
オペレータ端末12側では、ライブ映像の配信が停止されると、画面が第2通話中画面からライブ配信停止時の通話中画面(第4通話中画面)に切り替わる。
【0308】
図26は、オペレータ端末12からのコールをモバイルPC16が受話してライブ映像配信が行われる場合(
図17)のユーザインターフェースを示す。
図26は上述の[通話機能]の説明中の(1)通話の開始の説明の後半部分に関連する。
【0309】
オペレータがある作業者と通話したいと思った場合、オペレータは、所定の画面において通話したい作業者に対応するコンタクト先を選択する。オペレータがコンタクト先を選択して決定操作を行うと、選択されたコンタクト先のモバイルPC16がコールされる。このとき、オペレータ端末12には、呼出画面が表示される。
【0310】
ウェアラブルビューワー側では、オペレータ端末12からのコールを受けると、呼出中画面が表示される。例えば、
図26に示すように、ホーム画面が表示されていた場合、ホーム画面内に呼出中画面が表示される。作業者が、決定ボタン202eを押下すると、オペレータ端末12からのコールに対して受話される。これにより、モバイルPC16とオペレータ端末12との通話路が確立され、通話が開始される。
【0311】
ウェアラブルビューワー側において、オペレータ端末12からのコールに対して受話されると、ライブ映像停止時の通話中画面(第3通話中画面)が表示される。即ち、オペレータ端末12からのコールに対しては通話開始時にはライブ映像の配信が開始されない。
【0312】
オペレータ端末12側では、モバイルPC16によってコールが受話されると、表示画面が呼出画面からライブ映像停止時の通話中画面(第4通話中画面)に切り替わる。
【0313】
ウェアラブルビューワー側で、作業者がライトボタン202bを操作してライブ映像配信開始/停止アイコン602bを選択し、決定ボタン202eを押下すると、ライブ映像の送信が開始される。このとき、表示画面は、第3通話中画面からライブ映像送信時の通話中画面(第1通話中画面)に切り替わる。
【0314】
オペレータ端末12側では、モバイルPC16によってライブ映像の送信が開始されると、表示画面が、第4通話中画面からライブ映像受信時の通話中画面(第2通話中画面)に切り替わる。第4通話中画面には、モバイルPC16から配信されているライブ映像が表示される。
【0315】
図27は、静止画像を標準モードで撮影し、撮影された静止画像をモバイルPC16からオペレータ端末12に送信する場合(
図18)におけるユーザインターフェースを示す。
【0316】
モバイルPC16がライブ映像をオペレータ端末12に配信している間に、ウェアラブルビューワー側において標準モードにおいて静止画像の撮影を行う場合、作業者はライブ映像送信時の通話中画面(第1通話中画面)上のプレビューエリアにフォーカスを当てる必要がある。即ち、ライトボタン202bを操作してディスプレイ124に表示されているライブ映像の周りが白色の枠で囲まれる状態にする必要がある。
【0317】
第1通話中画面においてライブ映像が白色の枠で囲まれた状態で、作業者が決定ボタン202eを押下すると静止画像が撮影される。静止画像が撮影されると、撮影された静止画像が全画面表示される。また、撮影された静止画像は、オペレータ端末12(通話相手)に送信される。静止画像の送信が完了すると、表示画面は、静止画像が全画面表示されている状態から第1通話中画面状態に戻る。
【0318】
他方、オペレータ端末12側では、モバイルPC16から静止画像を受信するに際して、ファイル送受信画面710が表示されている必要がある。
【0319】
ファイル送受信画面710が表示された状態でモバイルPC16から送信された静止画像をオペレータ端末12が受信した場合、受信された静止画像(受信画像)のサムネイルがファイル送受信画面710上のファイル送受信エリア760のファイル受信エリア740に表示される。オペレータが受信画像のサムネイルを選択すると(ダブルクリックすると)、画像編集画面715が起動され、選択された静止画像が画像編集画面715に表示される。これにより、オペレータは、選択された静止画像についてアノテーションを付す等、画像の編集を行うことができる。
【0320】
図28は、静止画像を高画質モードで撮影し、撮影された静止画像をモバイルPC16からオペレータ端末12に送信する場合(
図19)におけるユーザインターフェースを示す。
【0321】
ウェアラブルビューワー側において、モバイルPC16がライブ映像をオペレータ端末12に配信している間に、高画質モードにおいて静止画像の撮影を行う場合、標準モードから高画質モードにカメラ116の画像撮影モードを切り替える必要がある。
【0322】
作業者は、ライブ映像配信中の通話中画面(第1通話中画面)が表示された状態で、画像撮影モード切替アイコン602cを選択して決定ボタン202eを押下することにより、画像撮影モードが高画質モードに切り替わる。このとき、通話中画面上にカメラ116のプレビューが表示される。
【0323】
なお、カメラ116のモードを切り替えるに際して、作業者が第1通話中画面からダウンボタン202cを押下することにより、カメラモードの変更のためのサブメニューが表示される。また、カメラ116のモードが高画質モードに切り替わる前に、モバイルPC16はライブ映像のオペレータ端末12への配信を停止する。
【0324】
オペレータ端末12側では、モバイルPC16からのライブ映像の送信が停止されると、表示画面は、第2通話中画面から第4通話中画面に切り替わる。上述したように、第2通話中画面はライブ映像受信時の通話中画面であり、第4通話中画面はライブ映像停止時のオペレータ端末12側の通話中画面である。
【0325】
ウェアラブルビューワー側において、通話中画面上にカメラ116のプレビューが表示された状態で、作業者が決定ボタン202eを押下すると、高画質モードにより静止画像が撮影(写真撮影)される。その後、モバイルPC16は、撮影された静止画像(写真)をオペレータ端末12に送信する。また、撮影された静止画像(写真)は、通話中画面上に表示される。一定時間経過後、ディスプレイ124の表示画面は、カメラ116のプレビューが表示された通話中画面に戻る。
【0326】
その後、画像撮影モード切替アイコン602cが選択され、押下されると、画像撮影モードが高画質モードから標準モードに切り替わる。このとき、ディスプレイ124に表示される画面は、ライブ映像停止時の通話中画面(第3通話中画面)に切り替わる。
【0327】
オペレータ端末12側では、オペレータ端末12がモバイルPC16から送信された静止画像(写真)を受信すると、ファイル送受信画面710上のファイル受信エリア740に受信された静止画像のサムネイルが表示される。上述したように、ファイル受信エリア740はファイル送受信エリア760の左半分の領域である。
【0328】
図29は、オペレータ端末12のデスクトップ画面又は起動中のアプリケーションの画面を通信中のモバイルPC16と共有する場合におけるユーザインターフェースを示す。
図29は上述した[画面共有機能]の説明に関連する。なお、
図29には、ライブ映像配信中に画面共有が行われる場合について示されている。
【0329】
オペレータ端末12とモバイルPC16とが通話中である状態において、オペレータがあるアプリケーションの画面を通話相手と共有したい場合、
図29に示すように、オペレータが共有したいアプリケーションの画面を選択し、さらに第2通話中画面上の発表ボタンを選択して決定ボタン202eを押下すると、選択されたアプリケーションの画像がモバイルPC16に送信される。
【0330】
ウェアラブルビューワー側では、オペレータ端末12から送られてきたアプリケーションの画像(画像ファイル)を受信すると、受信した画像が自動的にディスプレイ124に表示される。即ち、第1通話中画面が、受信した画像(送られてきたアプリケーションの画像)が表示されている共有表示画面に切り替わる。これにより、オペレータによって選択された画面をウェアラブルビューワー側とオペレータ端末12側とで共有することができる。
【0331】
図29では、ライブ映像配信中に画面共有が行われる場合について示されているが、ライブ映像配信中でなくても画面共有が行われることもある。その場合、オペレータ端末12側では、オペレータが共有したいアプリケーションの画像を選択した後、第4通話中画面上の発表ボタンを選択し決定ボタン202eを押下することにより、選択されたアプリケーションの画像がモバイルPC16に送信される。また、ウェアラブルビューワー側では、第3通話中画面がディスプレイに表示されている状態で、モバイルPC16がアプリケーションの画像を受信した場合には、第3通話中画面から共有表示画面に遷移されることになる。
【0332】
図30は、オペレータ端末12からモバイルPC16にテキストメッセージを送信する場合におけるユーザインターフェースを示す。なお、
図30は、モバイルPC16からライブ映像が配信されている場合について示す(
図20(a))。
【0333】
オペレータが通話中の相手にテキストメッセージを送る場合、オペレータは第2通話中画面上にテキストを入力して送信操作を行うと、入力されたテキストがオペレータ端末12からモバイルPC16に送信される。
【0334】
ウェアラブルビューワー側では、オペレータ端末12からのテキスト(テキストメッセージ)を受信すると、ディスプレイ124に表示されていた第1通話中画面上に、受信されたテキストが表示される。詳しく説明すると、受信されたテキストは、第1通話中画面上のメッセージエリアに表示される。
【0335】
図30の例では、オペレータ端末12側で”Hello”が入力されたため、ウェアラブルビューワー側で”Hello”が第1通話中画面上のメッセージエリアに表示されている。
【0336】
なお、オペレータ端末12によるテキストメッセージの送信は、モバイルPC16によるライブ映像が配信している間でなくとも行うことができる。モバイルPC16とオペレータ端末12とが通話中であり、ライブ映像が配信されていない場合、オペレータは、第4通話中画面上にテキストを入力することになる。また、ウェアラブルビューワー側では、受信されたテキストが第3通話画面上に表示される。
【0337】
なお、モバイルPC16とオペレータ端末12とが通話中でない場合にも、モバイルPC16はテキストメッセージを受信できる。その場合のウェアラブルビューワー側については、
図20(b)に示す通りである。
【0338】
[シーケンス図]
図31は、モバイルPC16からのコールをオペレータ端末12が受話する場合における、ライブ映像をオペレータ端末12に配信する動作を示すシーケンス図である。
【0339】
作業者は、オペレータと通話しようと思った場合、
図12(e)、(f)に示すように、ホーム画面上のコミュニケーションエリア520に配置されているConversationアイコンからコンタクトリスト画面を表示させる。そして、作業者によってコンタクトリスト画面に表示されているコンタクト先一覧からコンタクト先が選択される(ステップA1)。さらに、決定ボタン202eが押下されると、モバイルPC16は、コンタクト先(オペレータ端末12)にコール(通話要求)する(ステップA2)。
【0340】
モバイルPC16からオペレータ端末12にコール(通話要求)されると、ディスプレイ124には、呼出中画面(
図25の左側で上から3番目の画面)が表示される(ステップA3)。
【0341】
オペレータ端末12側では、オペレータ端末12は、モバイルPC16からのコール(通話要求)を受けると、LCD64に呼出画面(
図25の右側で上から1番目の画面)を表示させる(ステップB1)。オペレータがオペレータ端末12の承認ボタンを押下すると、モバイルPC16からのコール(通話要求)承諾される(ステップB2)。これにより、モバイルPC16とオペレータ端末12との通話路が確立され、通話が開始される。
【0342】
通話が開始されると、カメラ116で撮影しているライブ映像のオペレータ端末12への配信が自動的に開始される(ステップA4)。そして、ディスプレイ124には、第1通話中画面(
図25の左側上から4番目の画面)が表示される(ステップA5)。第1通話中画面には、送信されているライブ映像が表示される。
【0343】
オペレータ端末12側では、オペレータ端末12は、モバイルPC16から送信されてきたライブ映像を受信し(ステップB3)、LCD64に第2通話中画面(
図25の右側上から2番目の画面)を表示させる(ステップB4)。第2通話中画面には、受信されているライブ映像が表示される。
【0344】
しばらくの間ライブ映像が配信された後、作業者によって、第1通話画面上でライブ映像配信開始/停止アイコン602bが選択され、決定ボタン202eが押下された場合、モバイルPC16からのライブ映像の配信が停止される(ステップA6)。そして、ディスプレイ124には、第3通話中画面(
図25の左側下から1番目の画面)が表示される(ステップA7)。
【0345】
オペレータ端末12側では、モバイルPC16からのライブ映像配信が停止されると、オペレータ端末12は、LCD64へのライブ映像の表示を停止する(ステップB5)。そして、LCD64には第4通話中画面(
図25の右側下から1番目の画面)が表示される(ステップB6)。
【0346】
図32は、オペレータ端末12からのコールをモバイルPC16が受話する場合における、ライブ映像をオペレータ端末12に配信する動作を示すシーケンス図である。
【0347】
オペレータがある作業者と通話したいと思った場合、オペレータは、LCD64に表示される所定の画面(
図26の右側上から1番目の画面)において通話したい作業者に対応するコンタクト先を選択する。オペレータによってコンタクト先が選択され(ステップB11)、決定操作が行われると、オペレータ端末12は、選択されたコンタクト先のモバイルPC16にコール(通話要求)する(ステップB12)。このとき、オペレータ端末12のLCD64には、呼出画面(
図26の右側上から2番目の画面)が表示される(ステップB13)。
【0348】
モバイルPC16は、オペレータ端末12からのコール(通話要求)を受けると、呼出中画面(
図26の左側上から2番目を参照)をディスプレイ124に表示させる(ステップA11)。作業者によって決定ボタン202eが押下されると、オペレータ端末12からのコール(通話要求)が承諾される(ステップA12)。これにより、モバイルPC16とオペレータ端末12との通話路が確立され、通話が開始される。そして、モバイルPC16は、ウェアラブルデバイス本体24の第3通話中画面(
図26の左側上から3番目の画面)を表示させる(ステップA13)。
【0349】
オペレータ端末12側では、コール(通話要求)が承諾された場合、オペレータ端末12は、LCD64に第4通話中画面(
図26の右側上から3番目の画面)を表示させる(ステップB14)。
【0350】
作業者によって、ライブ映像配信のための操作が行われた場合(ステップA14)、モバイルPC16は、カメラ116で撮影しているライブ映像のオペレータ端末12への配信を開始する(ステップA15)。ライブ映像配信のための操作とは、具体的には、第3通話中画面上のライブ映像配信開始/停止アイコン602bを選択して決定ボタン202eを押下することである。そして、モバイルPC16は、第1通話中画面(
図26の左側下から1番目の画面)をディスプレイ124に表示させる(ステップA16)。第1通話中画面には、配信中のライブ映像が表示される。
【0351】
オペレータ端末12側では、モバイルPC16によるライブ映像の配信が開始されると、オペレータ端末12は、そのライブ映像を受信する(ステップB15)。そして、オペレータ端末12は、第2通話中画面(
図26の右側下から1番目の画面)をLCD64に表示させる(ステップB16)。第2通話中画面には、受信中のライブ映像が表示される。
【0352】
ライブ映像配信の停止については、
図31のステップA6~A7、ステップB5~B6と同様である。即ち、
図32のステップA17、A18はそれぞれ
図31のステップA6、A7に対応し、
図32のステップB17、B18はそれぞれ
図31のステップB5、B6に対応する。
【0353】
図33は、静止画像を高画質モードで撮影し、撮影された高画質の静止画像をモバイルPC16からオペレータ端末12に送信する動作を示すシーケンス図である。
【0354】
モバイルPC16がライブ映像をオペレータ端末12に配信している場合、モバイルPC16は、第1通話中画面(
図28の左側1番上の画面)をディスプレイ124に表示させている(ステップA21)。
【0355】
また、オペレータ端末12は、モバイルPC16からのライブ映像を受信している場合、第2通話中画面(
図28の右側上の画面)を表示させている(ステップB21)。
【0356】
作業者によって、第1通話中画面上の画像撮影モード切替アイコン602cが選択され、決定ボタン202eが押下された場合、モバイルPC16はライブ映像のオペレータ端末12への配信を停止する(ステップA22)。その後、カメラ116の画像撮影モードが高画質モードに切り替わる(ステップA23)。
【0357】
オペレータ端末12側では、モバイルPC16からのライブ映像の配信が停止されると、オペレータ端末12は、LCD64へのライブ映像の表示を停止する(ステップB22)。そして、オペレータ端末12は、LCD64に第4通話中画面(
図28の右側の上から2番目の画面)を表示させる(ステップB23)。
【0358】
作業者が、決定ボタン202eを押下した場合、カメラ116により高画質モードで静止画像が撮影される(ステップA24)。その後、モバイルPC16は、撮影された静止画像(画像ファイル)をオペレータ端末12に送信する(ステップA25)。
【0359】
オペレータ端末12側では、オペレータ端末12がモバイルPC16から送信された静止画像(画像ファイル)を受信すると(ステップB24)、受信された静止画像のサムネイルがLCD64に表示される(ステップB25)。詳しく言うと、LCD64に表示されているファイル送受信画面710上のファイル受信エリア740に表示される(
図28の右側の下から2番目の画面)。上述したように、ファイル送受信画面710はモバイルPC16から画像を受信する前に起動されていなければならない。
【0360】
その後、作業者によって画像撮影モード切替アイコン602cが選択され、押下されると、カメラ116の画像撮影モードが高画質モードから標準モードに切り替わる(ステップA26)。このとき、モバイルPC16は、ディスプレイ124に第3通話中画面(
図28の左側の1番下の画面)を表示させる(ステップA27)。
【0361】
図34は、アノテーションが付加された静止画像をオペレータ端末12からモバイルPC16に送信する動作を示すシーケンス図である。なお、
図34に示す動作は、モバイルPC16からオペレータ端末16にライブ映像が配信されている間の動作である。
【0362】
モバイルPC16がライブ映像をオペレータ端末12に配信している場合、モバイルPC16は、第1通話中画面(
図28の左側1番上の画面)をディスプレイ124に表示させている(ステップA31)。
【0363】
また、オペレータ端末12は、モバイルPC16からのライブ映像を受信している場合、第2通話中画面(
図28の右側上の画面)を表示させている(ステップB31)。
【0364】
作業者によって、標準モードにおいて静止画像撮影のための操作が行われると、カメラ116によって静止画像が撮影される(ステップA32)。静止画像撮影のための操作とは、操作ボタン(ここでは、ライトボタン202b)を操作して、第1通話中画面のプレビューエリアにフォーカスを当ててライブ映像の周りが白色の枠で囲まれる状態にし、決定ボタン202eを押下することである。その後、モバイルPC16は、撮影された静止画像ファイルをオペレータ端末12に送信する(ステップA33)。
【0365】
オペレータ端末12側では、予めファイル送受信画面710(
図27の右側の1番上の画面)がLCD64に表示されている。そして、オペレータ端末12は、モバイルPC16からの静止画像ファイルを受信し(ステップB32)、受信画像ファイルの画像のサムネイルをLCD64に表示する(ステップB33)。実際には、受信画像ファイルの画像のサムネイルは、ファイル送受信画面710上のファイル受信エリア740に表示される(
図27の右側の上から2番目の画面)。
【0366】
ここで、オペレータがファイル送受信画面710上の任意の画像のサムネイルを選択する操作を行う(ステップB34)と、画像編集画面715が起動し(ステップB35)、選択された画像ファイルが画像編集画面715に表示される(
図27の右側の1番下の画面)。
【0367】
そして、オペレータによって選択された画像に書き込み操作が行われると、オペレータ端末12は、選択された画像と、書き込み操作によって書き込まれた内容に基づいてアノテーション付画像を作成する(ステップB36)。その後、オペレータによって画像編集画面715の送信ボタン722が押下されると、モバイルPC16にアノテーション付画像(アノテーションが付加された画像)のファイルが送信され、送信した画像のファイルがオペレータ端末12内に保存される(ステップB37)。また、オペレータ端末12は、送信されたアノテーション付画像のサムネイルをLCD64に表示する(ステップB38)。実際には、ファイル送受信画面710上のファイル送信エリア740に表示される(
図23の右側の下から1番目の画面)。
【0368】
モバイルPC16は、オペレータ端末12からのアノテーション付画像(アノテーションが付加された画像)を受信すると、その受信した画像を保存し(ステップA35)、ディスプレイ124に表示する(ステップA36)。このとき、全画面表示される(
図23の左側の上から2番目の画面)。
【0369】
そして、オペレータによっての決定ボタン202eが押下された場合には(ステップA37)、モバイルPC16は、ディスプレイ124に表示された画面上から受信した画像(アノテーション付画像)を消去する(ステップA38)。
【0370】
上述したように、本実施形態によれば、遠隔支援アプリケーション503はホームアプリケーション502が起動された時に自動的に起動されるため、別途遠隔支援アプリケーション503を起動させる操作をしなくても作業者はいつでも遠隔支援機能を利用し、遠隔支援を受けることができる。
【0371】
また、本実施形態によれば、ホーム画面は3つの横長のエリアに分かれ、各エリアのサイズ、形状はフォーカスの移動により可変であり、フォーカスのあるエリアが最も幅(上下方向の幅)が広い。このため、フォーカスエリアにあるアイコンは他のエリアのアイコンよりも大きく表示でき、視認性が高い。フォーカスの移動に伴い、幅広エリアも移動する。各エリアの上下の境界線は直線ではなく、フォーカスエリアの上側境界線は僅かに下側(フォーカスエリア側)に湾曲し、下型境界線は僅かに上側(フォーカスエリア側)に湾曲しているため、フォーカスエリアの幅は中央部が最も狭く、両端になるにつれて広くなる。このため、フォーカスエリアの中央に位置するアイコンの視認性をさらに高くすることができる。
【0372】
さらに、本実施形態によれば、モバイルPC16からの要求により通話が開始される場合には、通話が開始されると自動的にライブ映像の配信を開始し、オペレータ端末12からの要求により通話が開始される場合には、作業者による配信指示操作を受けて、ライブ映像の配信を開始する構成にしている。そのため、作業者の意思を反映したライブ映像の配信を実現することができる。
【0373】
また、本実施形態によれば、ライブ映像の配信中の場合には、表示画面内でライブ映像が第1の色の枠で囲んで表示される。また、静止画像を撮影する場合には、表示画面内で静止画像が第1の色とは別の第2の色で囲んで表示される。これにより、作業者はライブ映像配信中又は静止画の撮影可能状態であることを認識しやすい。
【0374】
さらに、本実施形態によれば、モバイルPC16とオペレータ端末12とが通話中にモバイルPC16とオペレータ端末12との間で画像の送受信をすることができる。このため、オペレータが作業者に提供する遠隔支援の質が向上し、作業者はより的確な遠隔支援を受けることができる。また、高画質モードでの画像を撮影する場合には、ライブ映像のオペレータ端末12への配信を停止するため、不必要な時にまでライブ映像の配信が行われずに済む。このため、モバイルPC16、ウェアラブルデバイス23のバッテリ駆動時間を長くすることができる。
【0375】
また、本実施形態によれば、ホーム画面に配置されるアイコンの配置、アイコンの選択操作によって起動するファイルはXMLにより記述されている。このXMLファイルをエンドユーザに開放すると、作業者はXMLの記述を書き替えることにより、ホーム画面上のアイコンの配置を変更したり、追加のアプリケーションケーションに対応するアイコンをホーム画面上に追加したり、アプリケーションケーションのアイコンをホーム画面上から削除することができる。このため、フロントエンドアプリケーション502の拡張性が向上する。
【0376】
さらに、本実施形態によれば、オペレータ端末12側において、ファイル送受信画面710に、オペレータ端末12が送信した画像のサムネイルと、オペレータ端末12が受信した画像のサムネイルとが領域を分けられ、且つ時系列順に表示される。このため、オペレータ端末12で送信画像と受信画像とを管理しやすくなる。また、オペレータ端末12を使用するオペレータにとって、送信画像のサムネイルと受信画像のサムネイルとを画像の送信時及び画像の受信時の前後関係も含めてわかりやすく視認することができる。
【0377】
実施形態によれば、次のシステム、電子機器が提供される。
(1) 上下左右を指示可能な第1入力部と、表示部と、を具備するウェアラブル機器と、
上下左右を指示可能な第2入力部と、前記表示部にホーム画面を表示させる電子機器と、を具備するシステムであって、
前記ホーム画面は可変サイズの第1エリア、第2エリア及び第3エリアに分割され、
第1種類の複数の第1アイコンが前記第1エリアに表示され、
第2種類の複数の第2アイコンが前記第2エリアに表示され、
第3種類の複数の第3アイコンが前記第3エリアに表示され、
前記第1エリア、前記第2エリア又は前記第3エリアは前記第1入力部又は前記第2入力部の操作により選択可能であり、
選択されたエリアのサイズは非選択のエリアのサイズより大きく、
前記複数の第1アイコン、前記複数の第2アイコン又は前記複数の第3アイコンは前記第1入力部又は前記第2入力部の操作によりスクロール可能であり、
前記選択されたエリアの中央のアイコンのサイズは前記選択されたエリアの他のアイコンのサイズより大きく、
前記選択されたエリアの中央のアイコンの表示態様は前記他のアイコンの表示態様と異なるものであるシステム。
(2) (1)記載のシステムであって、
前記電子機器は、フロントエンドアプリケーション内のホームアプリケーションを起動することにより、前記ホーム画面を生成して前記ウェアラブル機器の前記表示部に表示させるシステム。
(3) (1)記載のシステムであって、
前記選択されたエリアの上下方向の幅は、前記非選択のエリアの上下方向の幅より広く、
前記選択されたエリア内の複数のアイコンは、前記非選択のエリア内の複数のアイコンより大きく表示されるシステム。
(4) (3)記載のシステムであって、
前記選択されたエリアに対し、前記第1入力部又は第2入力部の操作により、フォーカスを左右に移動させると共に、フォーカスのあるアイコンを前記選択されたエリアの中央に表示させるシステム。
(5) (4)記載のシステムであって、
前記選択されたエリア内の前記フォーカスのあるアイコンに対し、前記第1入力部又は第2入力部の操作により、該アイコンの関連情報を前記ホーム画面に表示させるシステム。
(6) (5)記載のシステムであって、
前記ホーム画面に表示された前記関連情報に対し、前記第1入力部又は第2入力部の操作により、前記関連情報を消去して、前記選択されたエリア内の前記フォーカスのあるアイコンを含む元のホーム画面を再表示するシステム。
(7) (1)記載のシステムであって、
前記ウェアラブル機器及び前記電子機器の状態を示すアイコンが前記第1エリアの右又は左の端部に表示されるシステム。
(8) (7)記載のシステムであって、
前記ウェアラブル機器及び前記電子機器の状態は、バッテリ残量、ネットワーク接続状態、及び通話状態を含むシステム。
(9) (1)記載のシステムであって、
前記第1入力部又は前記第2入力部の操作により前記選択されたエリアが上又は下に移動し、
前記選択されたエリアの移動に応じて前記第1エリア、前記第2エリア及び前記第3エリアの縦方向のサイズが変化するものであるシステム。
(10) (9)記載のシステムであって、
前記前記第1エリアと前記第2エリアとの境界線及び前記第2エリアと前記第3エリアとの境界線は曲線であり、
前記選択されたエリアと該選択されたエリアの上のエリアとの境界線は前記選択されたエリア側に突出する曲線であり、前記選択されたエリアと該選択されたエリアの下のエリアとの境界線は前記選択されたエリア側に突出する曲線であるシステム。
(11) (1)記載のシステムであって、
前記ウェアラブル機器はカメラをさらに具備し、
前記電子機器は通話可能に外部機器に接続され、前記カメラで撮影した画像又は前記外部機器から送信された画像を格納するメモリをさらに具備し、
前記複数の第1アイコンは前記外部機器との通話に関する複数のアイコンを具備し、
前記複数の第2アイコンは前記メモリに格納されたデータファイルの閲覧に関する複数のアイコンを具備し、
前記複数の第3アイコンは前記カメラの撮影モードに関する複数のアイコンを具備するものである請求項1記載のシステム。
(12) (11)記載のシステムであって、
前記複数の第1アイコンは、前記外部機器との遠隔支援アプリケーションを起動させるためのアイコンを含み、
前記複数の第2アイコンは、コンテンツビューワーアプリケーションを起動させるためのアイコンを含み、
前記複数の第3アイコンは、ウェアラブルビューワーの設定のためのアイコンを含むシステム。
(13) (11)記載のシステムであって、
前記複数の第1アイコンは前記外部機器との通話中に前記カメラで撮影したライブ映像を前記外部機器へ送信するためのアイコンを含むシステム。
(14) (11)記載のシステムであって、
前記複数の第1アイコンは前記カメラで撮影した画像又は前記メモリに格納された画像を前記外部機器へ送信し、前記外部機器から送信された画像を受信し、前記ウェアラブル機器へ送信するためのアイコンを含むシステム。
(15) (11)記載のシステムであって、
前記複数の第1アイコンは前記外部機器から送信されたアノテーション付き画像を受信し、前記ウェアラブル機器へ送信するためのアイコンを含むシステム。
(16) (11)記載のシステムであって、
前記複数の第2アイコンは前記メモリに格納された文書ファイル、画像ファイル、映像ファイルの閲覧に関するものであるシステム。
(17) (11)記載のシステムであって、
前記カメラは第1画質の静止画像を撮影する第1モードと前記第1画質よりも高画質の第2画質の静止画像を撮影する第2モードとのいずれかで動作可能であり、
前記複数の第3アイコンは前記カメラを前記第1モードと前記第2モードのいずれかで動作させるためのアイコンを含むシステム。
(18) (11)記載のシステムであって、
前記複数の第3アイコンは、写真撮影を実行するための機能を起動させるアイコン、及びビデオ撮影を実行するための機能を起動させるアイコンを含むシステム。
(19) カメラを具備するウェアラブル機器と、
外部機器及び前記ウェアラブル機器に接続可能である電子機器と、
を具備するシステムであって、
前記電子機器は、
前記電子機器からの要求により前記外部機器との通話が開始された場合、前記カメラにより撮影されたライブ映像を前記外部機器へ送信し、前記外部機器からの要求により前記外部機器との通話が開始された場合、前記外部機器との通話中の前記電子機器からの送信指示に応じて前記ライブ映像を前記外部機器へ送信する送信手段を具備するものであるシステム。
(20) (19)記載のシステムであって、
前記ウェアラブル機器は表示部をさらに具備し、
前記電子機器は、
前記表示部へ表示のための信号を送信する第2送信手段と、
前記外部機器へ送信される前記ライブ映像を前記表示部に第1色の第1枠で囲んで表示させ、前記カメラにより撮影された静止画像を前記表示部に前記第1色とは異なる第2色の第2枠で囲んで表示させる表示制御手段と、
をさらに具備するシステム。
(21) (19)記載のシステムであって、
前記カメラは第1画質の静止画像を撮影する第1モードと前記第1画質よりも高画質の第2画質の静止画像を撮影する第2モードとのいずれかで動作可能であり、
前記送信手段は前記ライブ映像を前記電子機器に送信している間に前記カメラが前記第2モードで前記第2画質の静止画像を撮影する場合、前記電子機器への前記ライブ映像の送信を停止するシステム。
(22) カメラと表示部を具備するウェアラブル機器と、
ケーブルを介して前記ウェアラブル機器に接続可能である第1電子機器と、
前記第1電子機器と無線により接続可能である第2電子機器と、
を具備するシステムであって、
前記ウェアラブル機器は前記第1電子機器へ画像情報を送信し、前記第1電子機器からの画像情報を受信する第1送受信手段を具備し、
前記第1電子機器は、
前記第2電子機器との間で音声情報を通信する第1通話手段と、
前記第2電子機器との間の音声情報通信中に前記ウェアラブル機器へ画像情報を送信又は前記ウェアラブル機器からの画像情報を受信する第2送受信手段と、
前記第2電子機器との間の音声情報通信中に前記第2電子機器へ画像情報を送信又は前記第2電子機器からの画像情報を受信する第3送受信手段と、を具備し、
前記第2電子機器は、
前記第1電子機器との間で音声情報を通信する第2通話手段と、
前記第1電子機器との間の音声情報通信中に前記第1電子機器へ情報を送信又は前記第1電子機器からの情報を受信する第4送受信手段と、を具備し、
前記第1電子機器は、前記ウェアラブル機器が接続されると、前記表示部にホーム画面を表示させ、
前記ホーム画面は、前記第2送受信手段、前記第3送受信手段又は前記第1通話手段を作動させるためのアイコンを含むものであるシステム。
(23) (22)記載のシステムであって、
前記ホーム画面はXML言語で記述されている請求項22記載のシステム。
(24) カメラと表示部を具備するウェアラブル機器と無線により接続可能である電子機器であって、
前記ウェアラブル機器へ複数の第1画像情報を送信し、前記ウェアラブル機器からの複数の第2画像情報を受信する送受信手段と、
前記ウェアラブル機器へ送信した前記複数の第1画像情報と前記ウェアラブル機器から受信した前記複数の第2画像情報とを表示する表示部と、を具備し、
前記複数の第1画像情報は前記表示部の第1領域に送信時刻順に表示され、
前記複数の第2画像情報は前記表示部の第2領域に受信時刻順に表示されているものである電子機器。
【0378】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
【符号の説明】
【0379】
12…オペレータ端末、14…サーバ、16…モバイルPC、18…遠隔支援センター、22…ネットワーク、23…ウェアラブルデバイス、24…ウェアラブルデバイス本体。