IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特許7420016表示装置、表示方法、プログラム、表示システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-15
(45)【発行日】2024-01-23
(54)【発明の名称】表示装置、表示方法、プログラム、表示システム
(51)【国際特許分類】
   G06F 3/04883 20220101AFI20240116BHJP
   G06F 3/0482 20130101ALI20240116BHJP
   G06F 3/0483 20130101ALI20240116BHJP
   G06F 3/14 20060101ALI20240116BHJP
【FI】
G06F3/04883
G06F3/0482
G06F3/0483
G06F3/14 350A
【請求項の数】 15
(21)【出願番号】P 2020143917
(22)【出願日】2020-08-27
(65)【公開番号】P2022039088
(43)【公開日】2022-03-10
【審査請求日】2023-02-24
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】大嶋 仁敬
【審査官】岩橋 龍太郎
(56)【参考文献】
【文献】特開2018-017758(JP,A)
【文献】特開2014-123159(JP,A)
【文献】特開2016-103174(JP,A)
【文献】特開2016-206978(JP,A)
【文献】特開2017-016314(JP,A)
【文献】特開2003-271118(JP,A)
【文献】特開2006-308950(JP,A)
【文献】特開2020-064625(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01-3/04895
G06F 3/14-3/153
G09G 5/00-5/42
(57)【特許請求の範囲】
【請求項1】
手書きデータを表示する表示装置であって、
前記表示装置に対する手書きデータの入力を受け付ける受付手段と、
少なくとも一つ以上のの表示装置を検出する検出手段と、
前記受付手段が受け付けた前記表示装置に対する前記手書きデータの入力と前記検出手段による前記の表示装置の検出有無とに応じて、前記表示装置と前記の表示装置を利用して前記手書きデータに関連するデータを表示する機能に係る操作コマンド及び前記手書きデータに関連する文字列候補、又は、前記文字列候補前記表示装置のディスプレーに表示する表示制御手段と、
前記操作コマンドに対してユーザーの操作を受け付けた場合に、前記機能に関する所定の処理を実行する制御手段と、
を有することを特徴とする表示装置。
【請求項2】
前記手書きデータに関連するデータを表示する機能を有し、
前記操作コマンドは、前記機能に応じて予め定められた特定の処理を実行するための画像を示すことを特徴とする請求項1に記載の表示装置。
【請求項3】
前記検出手段によって前記他の表示装置が検出された場合、
前記表示装置のディスプレーに表示された前記操作コマンドの選択を受け付ける操作受付手段、又は、前記の表示装置がディスプレーに表示し選択を受け付けた前記操作コマンドを前記の表示装置から受け付ける通信手段、を有し、
前記制御手段は、前記操作受付手段が前記操作コマンドの選択を受け付けた場合、前記の表示装置が表示するデータを前記操作コマンドに応じて制御する旨を前記の表示装置に送信する、ことを特徴とする請求項2に記載の表示装置。
【請求項4】
前記表示制御手段は、ページ単位でデータを表示し、
前記制御手段は、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドに応じたページ番号を、前記の表示装置に送信することを特徴とする請求項3に記載の表示装置。
【請求項5】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、前記表示装置と前記の表示装置のそれぞれが同じページを表示する旨を示す操作コマンドである場合、
前記制御手段は、前記表示装置が表示しているページと同じページで、かつ、同じ表示範囲を表示する旨を前記の表示装置に送信することを特徴とする請求項3又は4に記載の表示装置。
【請求項6】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、前記表示装置と前記の表示装置のそれぞれが異なるページを表示する旨を示す操作コマンドである場合、
前記制御手段は、前記表示装置が表示しているページを1ページずつ大きくしたページ番号を前記の表示装置の配置に応じて前記の表示装置のそれぞれで決定し、前記の表示装置が表示するページ番号を前記の表示装置に送信することを特徴とする請求項3又は4に記載の表示装置。
【請求項7】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、前記表示装置と前記の表示装置で1ページを表示する旨を示す操作コマンドである場合、
前記制御手段は、前記表示装置が表示しているページを前記の表示装置と共に表示した場合の前記の表示装置の表示範囲を、前記の表示装置の配置に応じて前記の表示装置のそれぞれで決定し、決定した前記表示範囲を前記の表示装置に送信することを特徴とする請求項3又は4に記載の表示装置。
【請求項8】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、前記表示装置と前記の表示装置がそれぞれ表示するページの順番を指示する操作コマンドである場合、
前記制御手段は、前記の表示装置の配置と前記操作コマンドに応じて、前記の表示装置が表示するページ番号を前記の表示装置のそれぞれで決定し、決定した前記の表示装置がそれぞれ表示するページ番号を、前記の表示装置に送信することを特徴とする請求項6に記載の表示装置。
【請求項9】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、前記表示装置と前記の表示装置がそれぞれ表示するページのページ送りを指示する操作コマンドである場合、
前記制御手段は、前記の表示装置の配置と前記操作コマンドに応じて、前記の表示装置がそれぞれ表示するページ番号を前記表示装置よりも大きくし、前記の表示装置が表示する前記ページ番号を前記の表示装置に送信することを特徴とする請求項6に記載の表示装置。
【請求項10】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、画像を拡大する操作コマンドである場合、
前記の表示装置がそれぞれ1ページを表示している場合は、前記の表示装置がそれぞれ表示しているページを拡大した場合の表示範囲を、前記の表示装置に送信し、
前記表示装置と前記の表示装置で1ページを表示している場合は、前記1ページを拡大した場合に前記の表示装置が表示する表示範囲を前記の表示装置の配置に応じて決定し、決定した前記表示範囲を前記の表示装置に送信することを特徴とする請求項7に記載の表示装置。
【請求項11】
前記検出手段によって前記他の表示装置が検出された場合であって、前記操作受付手段又は前記通信手段が受け付けた前記操作コマンドが、用紙サイズを指定すると共に、前記表示装置と前記の表示装置で少なくとも1ページを表示する旨の操作コマンドである場合、
前記制御手段は、前記用紙サイズで表示できるページ数を決定し、
各ページを前記用紙サイズで前記表示装置と前記の表示装置が表示した場合に、前記表示装置と前記の表示装置のそれぞれが表示する表示範囲を前記の表示装置の配置と前記操作コマンドに応じて決定し、
決定した前記表示範囲を前記の表示装置に送信することを特徴とする請求項7に記載の表示装置。
【請求項12】
前記検出手段によって前記他の表示装置が検出された場合、
前記検出手段は、更に、前記の表示装置を介して、前記の表示装置が検出した第二のの表示装置を検出し、
前記の表示装置と前記第二の他の表示装置を含む複数の表示装置の配置を検出し、
前記制御手段は前記複数の表示装置の配置と前記操作コマンドに応じたページ又は表示範囲の少なくとも一方を、前記複数の表示装置に送信することを特徴とする請求項4に記載の表示装置。
【請求項13】
手書きデータを表示する表示装置が行う表示方法であって、
受付手段が、前記表示装置に対する手書きデータの入力を受け付けるステップと、
検出手段が、少なくとも一つ以上のの表示装置を検出するステップと、
表示制御手段が、前記受付手段が受け付けた前記表示装置に対する前記手書きデータの入力と前記検出手段による前記の表示装置の検出有無とに応じて、前記表示装置と前記の表示装置を利用して前記手書きデータに関連するデータを表示する機能に係る操作コマンド及び前記手書きデータに関連する文字列候補、又は、前記文字列候補前記表示装置のディスプレーに表示するステップと、
前記操作コマンドに対して、ユーザーの操作を受け付けた場合に、制御手段が、前記機能に関する所定の処理を実行するステップと、
を有することを特徴とする表示方法。
【請求項14】
手書きデータを表示する表示装置を、
前記表示装置に対する手書きデータの入力を受け付ける受付手段と、
少なくとも一つ以上のの表示装置を検出する検出手段と、
前記受付手段が受け付けた前記表示装置に対する前記手書きデータの入力と前記検出手段による前記の表示装置の検出有無とに応じて、前記表示装置と前記の表示装置を利用して前記手書きデータに関連するデータを表示する機能に係る操作コマンド及び前記手書きデータに関連する文字列候補、又は、前記文字列候補前記表示装置のディスプレーに表示する表示制御手段と、
前記操作コマンドに対してユーザーの操作を受け付けた場合に、前記機能に関する所定の処理を実行する制御手段、
として機能させるためのプログラム。
【請求項15】
手書きデータを表示する複数の表示装置が通信する表示システムであって、
各表示装置は、
前記表示装置に対する手書きデータの入力を受け付ける受付手段と、
少なくとも一つ以上のの表示装置を検出する検出手段と、
前記受付手段が受け付けた前記表示装置に対する前記手書きデータの入力と前記検出手段による前記の表示装置の検出有無とに応じて、前記表示装置と前記の表示装置を利用して前記手書きデータに関連するデータを表示する機能に係る操作コマンド及び前記手書きデータに関連する文字列候補、又は、前記文字列候補前記表示装置のディスプレーに表示する表示制御手段と、
前記操作コマンドに対してユーザーの操作を受け付けた場合に、前記機能に関する所定の処理を実行する制御手段と、を有し、
前記表示装置は、
前記操作コマンドの選択を受け付けた場合、前記他の表示装置が表示するデータについて前記機能に関する操作コマンドを実行する旨を前記他の表示装置に送信し、
前記他の表示装置は、
前記他の表示装置が表示するデータについて前記機能に関する操作コマンドを実行する旨に応じて、前記他の表示装置のディスプレーにデータを表示することを特徴とする表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、表示方法、プログラム、及び、表示システムに関する。
【背景技術】
【0002】
ユーザーが指先やペンで手書きした文字や図形などの手書きデータを座標点として取り込み、リアルタイムに表示する表示装置が知られている。このような表示装置には、接続されたPC(Personal Computer)の画面やPCが保持する資料などを表示することができるものもある。また、遠隔地の表示装置と通信して、複数の表示装置が画面を共有することもできる。表示装置に表示された画面はページとして保存されるので、後に、表示装置が再生することもPC等に配信することもできる。
【0003】
このような表示装置に手書きデータをユーザーが修正したり削除したりする編集機能が搭載される場合がある(例えば、特許文献1参照。)。特許文献1には、文字、記号、又は、画像を編集するために、ユーザーがジェスチャーでコマンドを入力する表示装置が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、複数の表示装置を利用してデータを表示する機能を手書きデータで操作できないという問題があった。複数の表示装置を利用してデータを表示するとは、いわゆるマルチディスプレー機能を使ったデータの表示を言う。マルチディスプレー機能では、複数のディスプレーに対しユーザーが設定した動作モードでデータを表示することが可能になる。動作モードには、クローン(全てのディスプレーが同じページを表示する)、マルチページ(各ディスプレーが任意のページを表示する)、又は、タイリング(複数のディスプレーで1ページを表示する)等がある。ユーザーがいずれかの動作モードでデータを表示したい場合や動作モードを切り替えたい場合、従来の表示装置は手書きデータの入力とは別の操作を行う必要があった。
【0005】
本発明は、上記課題に鑑み、複数の表示装置を利用してデータを表示する際、操作メニューを有効に活用でき、選択の対象とならない操作コマンドが表示されることを抑制する表示装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、手書きデータを表示する表示装置であって、前記表示装置に対する手書きデータの入力を受け付ける受付手段と、少なくとも一つ以上のの表示装置を検出する検出手段と、前記受付手段が受け付けた前記表示装置に対する前記手書きデータの入力と前記検出手段による前記の表示装置の検出有無とに応じて、前記表示装置と前記の表示装置を利用して前記手書きデータに関連するデータを表示する機能に係る操作コマンド及び前記手書きデータに関連する文字列候補、又は、前記文字列候補前記表示装置のディスプレーに表示する表示制御手段と、前記操作コマンドに対してユーザーの操作を受け付けた場合に、前記機能に関する所定の処理を実行する制御手段と、を有することを特徴とする。
【発明の効果】
【0007】
複数の表示装置を利用してデータを表示する際、操作メニューを有効に活用でき、選択の対象とならない操作コマンドが表示されることを抑制する表示装置を提供することができる。
【図面の簡単な説明】
【0008】
図1】マルチディスプレー機能の各動作モードでどのようにデータが表示されるかを説明する図である。
図2】ユーザーが手書きした手書きデータに基づいて表示される操作ガイドの一例を示す図である。
図3】ペンの斜視図の一例である。
図4】表示装置の一例の構成図を示す図である。
図5】表示装置のハードウェア構成図の一例である。
図6】表示装置が有する機能をブロック状に分けて説明する機能ブロック図の一例である。
図7】定義情報記憶部が記憶する定義情報を説明する図である。
図8】ページと表示範囲の対応を説明する図である。
図9】タイリングの場合の表示範囲を説明する図である。
図10】複数の表示装置が配置された状態の一例を示す図である。
図11】赤外線I/Fの構成例を示す図である。
図12】構成検出部が複数の表示装置の配置情報を検出する手順を示すシーケンス図の一例である。
図13】各表示装置に表示されたダイアログの一例を示す図である。
図14】構成検出部が作成した配置情報の一例を示す図である。
図15】操作ガイドと操作ガイドが表示する選択可能候補の一例を示す図である。
図16】操作コマンド処理部が保持する操作コマンド定義データの一例を示す図である。
図17】各表示装置が手書きデータを共有する手順を示すシーケンス図の一例である。
図18】マルチディスプレーに関する操作コマンドを表示制御部が表示するための操作コマンド定義データの一例を示す図である。
図19】ユーザーが「マルチ」と手書きした場合に表示される操作ガイドの一例を示す図である。
図20】ユーザーが「タイル」と手書きした場合に表示される操作ガイドの一例を示す図である。
図21】ユーザーが「おなじ」と手書きした場合に表示される操作ガイドの一例を示す図である。
図22】ユーザーが「ならべる」と手書きした場合に表示される操作ガイドの一例を示す図である。
図23】ユーザーが「れんけつ」と手書きした場合に表示される操作ガイドの一例を示す図である。
図24】「Z字順で表示」と「逆N字順で表示」という操作コマンドの定義情報を説明する図である。
図25】マルチディスプレーに関する操作コマンドを表示制御部が表示するための操作コマンド定義データの一例を示す図である。
図26】ユーザーが「じゅんばん」と手書きした場合に表示される操作ガイドの一例を示す図である。
図27】「1ページ送り」と「見開き送り」という操作コマンドについて説明する図である。
図28】マルチディスプレーに関する操作コマンドを表示制御部が表示するための操作コマンド定義データの一例を示す図である。
図29】ユーザーが「おくり」と手書きした場合に表示される操作ガイドの一例を示す図である。
図30】マルチディスプレーに関する操作コマンドを表示制御部が表示するための操作コマンド定義データの一例を示す図である。
図31】ユーザーが「大きく」と手書きした場合に表示される操作ガイドの一例を示す図である。
図32】「拡大する(200%)」の操作コマンドが選択された場合のページの表示例を示す図である。
図33】マルチディスプレーに関する操作コマンドを表示制御部が表示するための操作コマンド定義データの一例である。
図34】ユーザーが「A1」と手書きした場合に表示される操作ガイドの一例を示す図である。
図35】「A1で表示」の操作コマンドが実行された場合の処理を説明する図である。
図36】「A1ページを作成」の操作コマンドが実行された場合の処理を説明する図である。
図37】「A3ページを作成」の操作コマンドが実行された場合の処理を説明する図である。
図38】各ページの座標の算出方法を示す図である。
図39】表示装置がマルチディスプレー機能を有効にしたり、動作モードを切り替えたりする手順を示すシーケンス図の一例である。
図40】ユーザーが各表示装置に配置を設定する方法を説明する図である。
図41】表示装置の他の構成例を示す図である。
図42】表示装置の他の構成例を示す図である。
図43】表示装置の他の構成例を示す図である。
図44】表示装置の他の構成例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として、表示装置及び表示装置が行う表示方法について図面を参照しながら説明する。
【実施例1】
【0010】
<比較技術について>
まず、図1を参照して、マルチディスプレー機能の各動作モードについて説明する。図1は、マルチディスプレー機能の各動作モードでどのようにデータが表示されるかを説明する図である。なお、図1では汎用的なOSにおいてマルチディスプレー機能を有効にする方法を説明する。ここではWindows10(登録商標)を例として、ディスプレーが四つある場合を説明する。なお、表示装置2はディスプレーを有しており、ディスプレーの数と表示装置2の数は同じとする。また、説明を簡単にするため、一つのディスプレーが1画面に表示するデータを1ページと呼び、ページ単位でデータが管理される。
【0011】
図1(a)は、クローンという動作モードを説明する図である。クローンでは、各ディスプレーに同じページが表示される。
【0012】
図1(b)は、マルチページという動作モードを説明する図である。マルチページでは、各ディスプレーに異なるページが表示される。
【0013】
図1(c)は、タイリングという動作モードを説明する図である。タイリングでは、複数のディスプレーの全体で1ページが表示される。
【0014】
本実施形態と比較される比較技術において、マルチディスプレー機能をユーザーが有効化したり動作モードを切り替えたりする方法を説明する。
【0015】
ユーザーが、マルチディスプレー機能を有効にする場合、又は、マルチディスプレー機能が有効な状態で、動作モードを変更する場合、比較技術では以下の操作が必要であった。
右クリック → ディスプレー設定をクリック → 複数ディスプレーのプルダウンメニューから拡張又は複製を選択する → 適用をクリック
【0016】
このように、比較技術では、マルチディスプレー機能の有効化や動作モードの変更に要する作業やステップ数が多いし、操作画面が複雑であった。また、ユーザーがいずれかの動作モードでデータを表示したい場合や動作モードを切り替えたい場合、従来の表示装置は手書きデータの入力とは別の操作を行う必要があった。
【0017】
<本実施形態のマルチディスプレー機能の有効化>
続いて、図2を参照して、本実施形態のマルチディスプレー機能の有効化又は動作モードの切り替えについて説明する。図2(a)は、ユーザーが手書きした手書きデータに基づいて表示される操作ガイド500の一例である。本実施形態の表示装置2は、
(i) 自機の近くの他の表示装置2が検出されている場合であって、
(ii) 手書き認識技術で認識した文字列がマルチディスプレーの有効化又は動作モードの変更に関する定義済みキーワードに適合する場合
マルチディスプレーの有効化又は動作モードを変更するための操作コマンドを操作ガイド500に表示する。
【0018】
図2(a)では、ユーザーが「マルチ」と手書きした。「マルチ」はマルチディスプレーの有効化又は動作モードの変更に関する定義済みキーワードに適合するので、操作ガイド500には「クローン」541、「マルチページ」542、「タイリング」543という、マルチディスプレーの有効化又は動作モードを変更するための操作コマンドが表示されている。ユーザーはこれらを選択することでマルチディスプレー機能を有効化したり動作モードを変更したりすることができる。
【0019】
なお、表示装置2が他の表示装置2を検出した場合に、自動的にマルチディスプレー機能を有効にすることもできる。この場合、表示装置2はデフォルトの動作モードでデータを表示する。
【0020】
このように、ユーザーはマルチディスプレーに関する定義済みキーワードを手書きすることで、簡単にマルチディスプレー機能の有効化や動作モードを変更できる。表示装置2の提供者又はユーザーは、直感的に理解しやすい定義済みキーワードを予め設定しておくことができる。例えば、動作モード名やどの様に表示したいかなどが定義済みキーワードとなる。図2(b)に示すように、他の表示装置2が検出されない場合は、「マルチ」と手書きされても操作ガイド500にマルチディスプレーに関する操作コマンドが表示されない。図2(b)では文字列候補539のみが表示されている。これにより、操作ガイド500を有効に活用でき、選択の対象とならない操作コマンドが表示されることを抑制できる。
【0021】
したがって、マルチディスプレー機能の有効化や動作モードの変更に要する作業やステップ数を低減し、操作メニューの自由度が向上するため、デザイン性、操作性が向上する。ユーザーが手書きした定義済みキーワードに適合する操作コマンドのみが表示されるので、ユーザーが希望していない操作コマンドが表示されることを排除することができる。これにより、アイコンや階層の深い操作メニューなどが不要になるため、操作メニューのデザインの自由度が上がる。
【0022】
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。ユーザーがディスプレーに入力手段を押しつけてから連続的に移動させた後、ディスプレーから離すという一連の操作をストロークという。ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレーに表示される情報である。ストロークデータは適宜、補間されてよい。ストロークにより手書きされたデータをストロークデータという。手書きデータは一つ以上のストロークデータを有するデータである。ストロークデータに基づいてディスプレーに表示される表示物をオブジェクトという。
【0023】
表示装置の外縁とは、表示装置の外側に沿った部分をいう。表示装置の形状が多角形の場合に、この多角形を形作る辺である。ただし、表示装置の外縁の形状は円や楕円でもよい。
【0024】
表示装置の周囲とは、表示装置の外周である。上記の外縁に沿った領域ということもできる。
【0025】
複数の表示装置を利用してデータを表示するとは、何らかの関係(同じページ、1ファイル内の異なるページ)があるデータを複数の表示装置が表示することをいう。なお、表示装置はディスプレーと一体、着脱可能、又は、ケーブルを介して接続可能である。このため、複数の表示装置を利用してデータを表示するとは、複数のディスプレーを利用してデータを表示する、と称してよい。本実施形態では複数の表示装置を利用してデータを表示する機能をマルチディスプレーという用語で説明する。
【0026】
機能に関する所定の処理を実行するとは、操作コマンドに対応する態様で、複数の表示装置を利用してデータを表示することである(マルチディスプレー機能の実行)。
【0027】
「第二の表示装置が表示するデータを前記操作コマンドに応じて制御する旨」とは、マルチディスプレーの動作モードに応じた表示をサブディスプレーが表示することを要求する旨である。本実施形態では、操作コマンドに応じたページと表示範囲が相当する。
【0028】
操作コマンドは、直接又は間接的にユーザーの操作を受け付けることで、予め定めた特定の処理(所定の処理)を実行するための画像を示す。換言すると、操作コマンドは、画面を構成する表示用の要素の一つである表示部品であり、直接又は間接的にユーザーの操作を受け付けることで所定の処理を実行するものである。操作コマンドは操作を提示する文字、チェックボックス、テキストエントリ、ボタン又はアイコンで代用されてもよい。また、操作コマンドは、ユーザーが入力手段を使う場合に押下の対象なってもよく、押下によって所定の処理が実行されるように実装されていてもよい。
【0029】
<ペンの外観の一例>
図3は、手書きの際に使用されるペン2500の斜視図の一例を示す。図3は多機能なペン2500の一例を示す。電源を内蔵して表示装置2に命令を送信できるペン2500をアクティブペンという(電源を内蔵しないペンをパッシブペンという)。図3のペン2500は、物理的なスイッチがペン先に一つ、ペン尻に一つ、ペン側面に二つあり、ペン先が筆記用、ペン尻が消去用、ペン側面はユーザー機能割り当て用である。本実施形態のペン2500は不揮発性のメモリーを有しており、他のペンと重複しないペンIDを記憶している。
【0030】
なお、スイッチ付きのペンであれば、ユーザーの表示装置2の操作手順を減らすことも可能である。スイッチ付きのペンとは主にアクティブペンを言うが、電磁誘導方式では電源を内蔵しないパッシブペンでもLC回路だけで電力を発生できるため、アクティブペンだけでなく電磁誘導方式のパッシブペンを含む。電磁誘導方式以外の光学方式、赤外線方式、及び、静電容量方式のスイッチのあるペンはアクティブペンである。
【0031】
なお、ペン2500のハードウェア構成は、通信機能とマイコンを備えた一般的な制御方式と同様であるとする。ペン2500の座標の入力方式には、電磁誘導方式、アクティブ静電結合方式などがある。また、ペン2500は、筆圧検知、傾き検知、ホバー機能(ペンが触れる前にカーソルを表示)、などの機能を有していてよい。
【0032】
<表示装置の配置例>
図4(a)は、本実施形態の表示装置2の斜視図である。表示装置2の特長の一つとして、厚さが薄いという点が挙げられる。本実施形態の表示装置2は、形状を薄く、また軽く設計することによって、インチ数の大きなディスプレー220を用いても可搬性に優れたディスプレー製品を生み出すことが可能である。また、本実施形態の表示装置2のもう一つの特長として背面が完全なフラットになっている点が挙げられる。このため、例えば、表示装置2を机の上に平置きすることが可能となり、複数人で表示装置2を囲んでディスカッションを行うことができる。また、表示装置2は複数人で同時に筆記できるように、複数本のペン2500での入力に対応できる。更に、表示装置2は屋外で利用できるように、表示装置2の本体及びペン2500のいずれも防塵、防水対応がなされている。
【0033】
表示装置2は、隣接する表示装置2と情報の送受信を行うために、複数の赤外線I/F223を備える。表示装置2の右側側面、上側側面、左側側面、下側測定には、赤外線I/F223が赤外線の信号の送信と受信を行うための赤外線センサー窓131、132、133、134がそれぞれ設けられている。
【0034】
図4(b)は、4台の表示装置2(2A、2B、2C、2D)を、それぞれ縦長の状態で、2列×2行で連結した状態を示す。横長の状態で2列×2行で連結することも可能である。それぞれの側面の中心付近に赤外線センサー窓131、132、133、134が形成されており、赤外線の送受信が可能である。
【0035】
なお、図4(b)のように並べた状態の4台の表示装置2をまとめて表示システム100と呼ぶ場合がある。
【0036】
<装置のハードウェア構成>
続いて、図5を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。図5は、表示装置2のハードウェア構成図の一例である。図5に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、及び、SSD(Solid State Drive)204を備えている。
【0037】
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。SSD204は、OSや表示装置2用のプログラム等の各種データを記憶する。なお、このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションプログラムでもよい。
【0038】
また、表示装置2は、ディスプレーコントローラー213、タッチセンサーコントローラー215、タッチセンサー216、ディスプレー220、電源スイッチ227、チルトセンサー217、シリアルインタフェース218、スピーカー219、マイク221、無線通信装置222、赤外線I/F223、電源制御回路224、ACアダプター225、及びバッテリー226を備えている。
【0039】
ディスプレーコントローラー213は、出力画像をディスプレー220等へ出力するために画面表示の制御及び管理を行う。タッチセンサー216は、ディスプレー220上にペン2500やユーザーの手等(ペンやユーザーの手は入力手段となる)が接触したことを検知する。また、タッチセンサー216はペンIDを受信する。
【0040】
タッチセンサーコントローラー215は、タッチセンサー216の処理を制御する。タッチセンサー216は、座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、例えば、光学式の場合、ディスプレー220の上側両端部に設置された二つの受発光装置が、ディスプレー220に平行して複数の赤外線を放射し、ディスプレー220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。タッチセンサー216は、物体によって遮断された二つの受発光装置が放射した赤外線の位置情報をタッチセンサーコントローラー215に出力し、タッチセンサーコントローラー215が、物体の接触位置である座標位置を特定する。また、タッチセンサーコントローラー215は通信ユニット215aを有しており、ペン2500と無線で通信することができる。例えば、Bluetooth(登録商標)などの規格で通信している場合は、市販されているペンを使用することができる。通信ユニット215aに予め一つ以上のペン2500を登録しておくと、ユーザーはペン2500を表示装置2と通信させる接続設定を行わなくても通信できる。
【0041】
電源スイッチ227は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。チルトセンサー217は、表示装置2の傾き角度を検出するセンサーである。主に、表示装置2が立て掛け(横長、縦長)、又は、平置きのいずれかの態様で使用されているかを検出するために使用され、態様に応じて文字等の太さを自動で変更することができる。
【0042】
シリアルインタフェース218はUSBなどの外部との通信インタフェースである。外部からの情報の入力などに使用される。スピーカー219は音声の出力に使用され、マイク221は音声の入力に使用される。無線通信装置222は、ユーザーが携帯する端末と通信し、例えばインターネットへの接続を中継する。無線通信装置222はWi-FiやBluetooth(登録商標)などで通信するが、通信規格は問われない。無線通信装置222はアクセスポイントを形成しており、ユーザーが入手したSSID(Service Set Identifier)とパスワードをユーザーが携帯する端末に設定すると、アクセスポイントに接続できる。
【0043】
なお、無線通信装置222には二つのアクセスポイントが用意されているとよい。
(a) アクセスポイント→インターネット
(b) アクセスポイント→社内ネットワーク→インターネット
(a)のアクセスポイントは社外のユーザー用で、ユーザーは社内ネットワークにはアクセスできないが、インターネットを利用できる。(b)のアクセスポイントは社内のユーザー用で、ユーザーは社内ネットワーク及びインターネットを利用できる。
【0044】
赤外線I/F223は隣に配置された表示装置2を検出する。赤外線の直進性を利用して、隣に配置された表示装置2のみを検出できる。赤外線I/F223は各辺に一つずつ設けられることが好ましく、表示装置2のどの方向に他の表示装置2が配置されたのかを検出できる。これにより画面が広がり、隣の表示装置2に過去に手書きされた手書き情報(一つのディスプレー220の広さを1ページとして別のページの手書き情報)等を表示できる。
【0045】
電源制御回路224は表示装置2の電源であるACアダプター225とバッテリー226を制御する。ACアダプター225は商用電源が共有する交流を直流に変換する。
【0046】
ディスプレー220がいわゆる電子ペーパーの場合、画像の表示を維持するためにほとんど又は一切電力を消費しないので、バッテリー226による駆動も可能である。これにより、屋外など電源を接続しにくい場所でもデジタルサイネージなどの用途で表示装置2を使用することが可能になる。
【0047】
更に、表示装置2は、バスライン210を備えている。バスライン210は、図5に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0048】
なお、タッチセンサー216は、光学式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する二つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなど種々の検出手段を用いてもよい。タッチセンサー216は、ペン先のタッチの有無を検知するのに電子ペンが必要ない方式であってよい。この場合はタッチ操作をするのに指先やペン型の棒を使用できる。なお、ペン2500は、細長いペン型である必要はない。
【0049】
<装置の機能について>
次に、図6を用いて表示装置2の機能について説明する。図6は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、接触位置検出部21、描画データ生成部22、文字認識部23、校正記号認識部24、校正処理部25、表示制御部26、データ記録部27、ネットワーク通信部28、操作受付部29、操作コマンド処理部31、構成検出部32、マルチディスプレー制御部33、及び、データ共有制御部34を有している。表示装置2が有する各機能は、図5に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
【0050】
接触位置検出部21はタッチセンサー216に対しペン2500が接触した位置の座標を検出する。描画データ生成部22はペン2500のペン先が接触した座標を接触位置検出部21から取得する。この座標点列を補間することで接続してストロークデータを生成する。接触位置検出部21はタッチセンサーコントローラー215とタッチセンサー216により実現される。
【0051】
文字認識部23はユーザーが手書きした一つ以上のストロークデータ(手書きデータ)に対し文字認識処理を行い、文字コードに変換する。文字認識部23は、ユーザーのペン操作と並行して文字(日本語だけでなく英語などの多国語)、数字、記号(%、$、&など)、図形(線、丸、三角など)等を認識していく。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。文字認識部23はCPU201がプログラムを実行することで実現される。
【0052】
校正記号認識部24はユーザーの手書きデータから校正記号を検出する。コンピュータから見ると校正記号も文字等と同じストロークの形状なので、例えば、機械学習の教師データとして校正記号の座標などを開発者が与えれば、文字等と同様に校正記号も検出できる。校正記号認識部24はCPU201がプログラムを実行することで実現される。
【0053】
校正処理部25は、検出された校正記号に基づいて、文字の差し替え、入れ替え又は挿入等の校正内容を判断し、校正記号で指定された文字列の位置に一つ以上の文字(手書き後に認識されたものでも、文字列内にあるものでもよい)を配置する。校正処理部25はCPU201がプログラムを実行することで実現される。
【0054】
表示制御部26は手書きデータ、手書きデータから変換された文字列、操作コマンド、及び、ユーザーが操作するための操作メニューなどをディスプレーに表示する。表示制御部26はディスプレーコントローラー213とディスプレー220により実現される。
【0055】
データ記録部27は、表示装置2に手書きされた手書きデータ、PCから送信された画面、及び、ファイル等を記憶部30に記憶する。データ記録部27はCPU201がプログラムを実行することで実現される。
【0056】
ネットワーク通信部28はLAN等のネットワークに接続して、他の機器(他の表示装置を含む)とネットワークを介したデータの送受信を行う。ネットワーク通信部28は無線通信装置222により実現される。
【0057】
操作コマンド処理部31は、文字認識された文字に適合する定義済みキーワードを後述する操作コマンド定義データから検索する。操作コマンド処理部31は、他の表示装置2が検出された場合にのみマルチディスプレー機能に関する操作コマンドを含めて操作コマンド定義データから検索する。マルチディスプレー機能に関する操作コマンドは、複数の表示装置2を利用してデータを表示する操作コマンドである。後述する動作モードを有効化又は変更する操作コマンドが対応する。操作コマンドは表示制御部26により文字認識の結果である文字列候補と共に表示される。操作コマンド処理部31はCPU201がプログラムを実行することで実現される。
【0058】
構成検出部32は自機に接続された他の表示装置2を検出する。自機には、最大四つの表示装置2が接続されうる。接続とは、赤外線I/F223などの近距離無線通信で通信が可能になることをいい、物理的な接続や固定はなくてもよい(物理的に接続されてもよい)。構成検出部32は自機の接続状態を他の表示装置2に送信する。構成検出部32は、接続状態に基づいて自機がマスターディスプレーとサブディスプレーかを判断する。マスターディスプレーとはマルチディスプレー機能を制御する表示装置2である。サブディスプレーはマスターディスプレー以外の表示装置2である。マスターディスプレーは赤外線I/F223による他の表示装置2の配置によって動的に決まる(例えば、原点にある表示装置2)。この他、マスターディスプレーである旨が設定されている表示装置2がマスターディスプレーとなってもよい。また、予め有する固有のIDを赤外線I/F223で交換して、最も値が大きい又は小さい表示装置2がマスターディスプレーとなってもよい。
【0059】
マスターディスプレーは主に、
・配置情報の作成
・他の表示装置2にこれらが表示するページと表示範囲を送信すること
・通信不良から復帰した表示装置2、及び、新規に接続された表示装置2が手書きデータを共有できるように全ての手書きデータを送信すること
などを行う。
【0060】
マスターディスプレーの場合、構成検出部32は、他の表示装置2からの接続状態に基づいて複数の表示装置2の配置を検出する。構成検出部32は例えば赤外線I/F223により実現される。
【0061】
マルチディスプレー制御部33は、マスターディスプレーの表示装置2で有効になる機能である。マルチディスプレー制御部33は、マルチディスプレーに関する操作コマンドが選択された旨を操作受付部29から受け取った場合(マスターディスプレーが操作された場合)、又は、他の表示装置2からマルチディスプレーに関する操作コマンドが選択された旨を受信した場合、マルチディスプレーに関する制御を行う。
【0062】
この制御のため、定義情報記憶部35では、動作モードごとに各表示装置2で表示すべきページ番号、及び、表示範囲を定義している。マルチディスプレー制御部33はこれら定義情報を定義情報記憶部35から取得して定義情報を元に複数の表示装置2が表示するページと表示範囲を決定し、他の表示装置2にページ番号と表示範囲を送信する。マルチディスプレー制御部33は例えばCPU201がプログラムを実行することで実現される。
【0063】
データ共有制御部34は、各表示装置2が表示するデータ(手書きデータ、PCの画面、ファイル等)を他の全ての表示装置2と共有する。マスターディスプレーかサブディスプレーかに関係なく共有のために送信する。データ共有制御部34は例えば無線通信装置222により実現される。
【0064】
記憶部30は、図5に示されているSSD204やRAM203などに構築され、データ記録部27が記録する上記の情報を記憶する。
【0065】
【表1】
記憶部30は、表1に示されているようなデータを記憶する。表1(a)は、ページデータを概念的に示す。ページデータは、ディスプレーに表示される1ページ分の手書きデータである。
【0066】
ページデータは、表1(a)に示されているように、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、このページの内容の書き換えが行われなくなった時刻を示す終了時刻、ペン2500やユーザーの手又は指によるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及び画像データなどのメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。
【0067】
このようなページデータにより、例えば、ユーザーがペン2500によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが一つで一文字のアルファベット[S]が示される。ユーザーがペン2500によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが二つで一文字のアルファベット「T」が示されることになる。
【0068】
また、ストローク配列データは、表1(b)に示されているように詳細な情報を示している。表1(b)は、ストローク配列データを示す。一つのストローク配列データは、複数のストロークデータによって表される。そして、一つのストロークデータは、このストロークデータを識別するためのストロークデータID、ストロークデータごとに書き始め(ペンダウン)の時刻を示す開始時刻、一つのストロークデータの書き終わり(ペンアップ)の時刻を示す終了時刻、ストロークデータの色、ストロークデータの幅、及び、ストロークデータの通過点の配列を識別するための座標配列データID、を示している。
【0069】
表1(c)は、座標配列データを示す。表1(c)に示されているように、座標配列データは、ディスプレー上の1点(X座標値、Y座標値)、この1点を通過したときのストロークデータの開始時刻からの差分の時刻(ms)、及び、この1点におけるペン2500の筆圧の各情報を示している。即ち、表1(c)に示されている1点の集まりが、表1(b)に示されている一つの座標配列データで示されている。例えば、ユーザーがペン2500によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
【0070】
なお、表1は文字認識されていないストロークデータのデータ例を示すが、文字認識された場合は、手書き認識の単位で、一つ以上の文字列ごとに、文字コード、フォント、色、位置情報(外接矩形の左上コーナー、外接矩形の右下コーナー)、開始時刻、終了時刻が登録される。
【0071】
<定義情報記憶部が記憶する定義情報>
図7は、定義情報記憶部35が記憶する定義情報の一例を示す。図7では四つの表示装置2A~2D(又はディスプレー)が接続されている場合を説明する。
【0072】
図7(a)は動作モードが「クローン」の場合の定義情報601の一例である。クローンは、同じページを表示する旨を示す旨の操作コマンドである。図7(b)はクローンの場合における各表示装置2の表示例を示す。クローンの場合、全表示装置2の「ページ番号」が同じである。また、各表示装置2の「表示範囲」も同一である。表示範囲とは図8に示すように、ディスプレーにおけるページの位置である。図8はページと表示範囲の対応を説明する図である。図8ではページよりも表示範囲の方が小さくなっている。図8に示すように表示範囲は、
・左上の座標、右下の座標
・左上の座標、幅、高さ
・左上の座標、元のページに対する拡大率
のいずれかにより特定される。
【0073】
動作モードがクローンの場合、ユーザーがマスターディスプレー(図では表示装置2A)に設定した表示範囲と同じ表示範囲が他の表示装置2B~2Dに反映される。ユーザーが表示装置2B~2Dに設定した表示範囲もマスターディスプレーに反映される。
【0074】
図7(c)は動作モードが「マルチページ」の場合の定義情報602の一例である。マルチページは、各ディスプレーが任意のページを表示する旨を示す旨の操作コマンドである。図7(d)はマルチページの場合における各表示装置2の表示例を示す。マルチページの定義情報602には、表示装置2ごとに順番に大きくなる「ページ番号」が設定される。マスターディスプレーがP1(1ページ目)を表示する場合、サブディスプレーにはP1を基準にP2、P3、P4のように1ページずつ大きくなるページ番号が設定される。また、各表示装置2A~2Dが異なるページを表示するので、表示範囲もページごとに任意である(ユーザーが個別に設定できる。)。
【0075】
図7(e)は動作モードが「タイリング」の場合の定義情報603である。タイリングは、複数のディスプレーで1ページを表示する旨を示す旨の操作コマンドである。図7(f)はタイリングの場合における各表示装置2の表示例を示す。タイリングの場合、全表示装置2の「ページ番号」が同一である。このページ番号は、ユーザーが表示させたページである。また、「表示範囲」は、1ページが全表示装置2に表示された場合に、各表示装置2が表示する1ページの領域を示す情報となる。この場合も
・左上の座標、右下の座標
・左上の座標、幅、高さ
・左上の座標、元のページに対する拡大率
により表示範囲が特定される。簡単には元のページを1/4にカットした場合の四つの領域である。定義情報603の左上、右上、左下、及び右下は1ページの領域を意味している。詳細を図9にて説明する。
【0076】
図7(g)は、ユーザーがページを拡大した場合の表示例である。拡大したため、四つの表示装置2よりも1ページの方が大きくなっている。この場合の各表示装置2の表示範囲は、ユーザーが1ページのどの部分を表示させるかによって決まる。
【0077】
マルチディスプレー制御部33は定義情報記憶部35が記憶する定義情報を元に、他の表示装置2に表示するページ、及び、表示範囲を送信する。これにより、動作モードが異なっても同じ定義情報で動作モードを定義でき、マルチディスプレー制御部33が各動作モードを容易に切り替えることができる。
【0078】
図9を参照して、タイリングの場合における表示範囲について補足する。図9はタイリングの場合の表示範囲の座標を説明する図である。タイリングの場合、複数の表示装置2が一つのページを表示するので、各表示装置2は1ページの一部分を表示する。本実施形態ではマスターディスプレーの左上を原点として、各表示装置2が表示する1ページの表示範囲をマルチディスプレー制御部33が算出する。
【0079】
まず、一つの表示装置2の幅をX,高さをYとする。単位は画素数(ピクセル)とする。また、説明を簡単にするため、四つの表示装置2の全体で画像データが表示されているとする。各表示装置2の頂点の座標と頂点に対応する画像データの座標は図9に示すように決定される。したがって、マルチディスプレー制御部33は自機の表示範囲を決定すると共に、表示装置2B~2Dに表示範囲を通知できる。
・表示装置2A:0~X、0~Y
・表示装置2B:X~2X、0~Y
・表示装置2C:0~X 、Y~2Y
・表示装置2C:X~2X、Y~2Y
【0080】
なお、図7(g)に示したように、表示装置2は拡大縮小が可能であり、拡大率又は縮小率によって表示範囲に入る領域が変わるので、四つの表示装置2は拡大率又は縮小率を共有する。拡大又は縮小された場合、表示装置2Aの表示範囲は拡大率や縮小率又はユーザー操作に応じて定まる。マルチディスプレー制御部33は表示装置2Aの表示範囲を基準として、自機の表示範囲を右側にずらした表示範囲を表示装置2Bの表示範囲とする。また、マルチディスプレー制御部33は、下側にずらした表示範囲を表示装置2Cの表示範囲とする。また、マルチディスプレー制御部33は右下にずらした表示範囲を表示装置2Dの表示範囲とする。表示装置2B~2Dは共有している拡大率又は縮小率で通知された表示範囲を表示する。
【0081】
<接続状態の検出>
図10は、複数の表示装置2が配置された状態の一例である。各表示装置2は少なくとも一辺以上に赤外線I/F223を有しており、少なくとも一辺以上で他の表示装置2を検出する。図10の例では、表示装置2Aの右側に表示装置2Bが、下側に表示装置2Cが、斜め下側に表示装置2Dが隣接して配置されている。このように、複数の表示装置2が辺を平行にしてタイル状に配置された場合に、辺に設けられた互いの赤外線I/F223が対向する。
【0082】
図11は、赤外線I/F223の構成例を示す図である。図11(a)において、表示装置2の右側の辺及び左側の辺には、赤外線受信素子と赤外線送信素子が一体となった赤外線I/F223が、略同じ高さとなるように設けられている。赤外線受信素子2701、2704は、例えば、フォトダイオード、フォトトランジスタ、又はフォトIC(Integrated Circuit)等の光検出素子を含む。また、赤外線送信素子2702、2703は、例えば、発光ダイオード等の発光素子を含む。
【0083】
赤外線受信素子及び赤外線送信素子は、例えば、IrDA(Infrared Data Association)規格のハードウェア、通信モジュール等を好適に利用することができる。また、赤外線は一例であって、例えば、可視光線や紫外線等を含む光を用いるもの等であっても良い。
【0084】
図11(b)は、センサー部223Aを、図11(a)の矢印2705の方向から見たである。センサー部223Aでは、上側に赤外線受信素子2701が、下側に赤外線送信素子2702が配置されている。赤外線送信素子2702からは、例えば、表示装置2の端末ID等の識別情報が送信される。
【0085】
図11(c)は、センサー部223Bを、図11(a)の矢印2706の方向から見た図である。センサー部223Bでは、上側に赤外線送信素子2703が、下側に赤外線受信素子2704が配置されている。赤外線送信素子2703からは、例えば、表示装置2の端末ID等の識別情報が送信される。
【0086】
このように、センサー部223Aとセンサー部223Bは、赤外線送信素子と赤外線受信素子が対称な配置となっている。これにより、例えば、表示装置2の右側、又は左側に他の表示装置2を上下方向の位置を合わせて隣接配置させた場合、表示装置2の赤外線受信素子と、隣接配置させた他の表示装置2の赤外線送信素子とが対向するように構成されている。
【0087】
同様にして、図11(a)に示すように、表示装置2の上側の辺及び下側の辺には、それぞれ、センサー部223C及びセンサー部223Dが、それぞれ左右方向で同じ位置になうように設置されている。更に、センサー部223Cとセンサー部223Dは、赤外線送信素子と赤外線受信素子が対称な配置となっている。これにより、例えば、表示装置2の上側、又は下側に他の表示装置2を、左右方向の位置を合わせて隣接配置させた場合、表示装置2の赤外線受信素子と隣接配置させた他の表示装置2の赤外線送信素子とが対向するように構成されている。
【0088】
上記構成によれば、表示装置2と、隣接配置された他の表示装置2との距離が、赤外線を受信素子で受信可能な距離の場合に、赤外線通信が確立され、互いの端末IDが交換される。なお、表示装置2が他の表示装置2と通信できる距離は適宜設計される。受信可能な距離は小さい方が、表示装置間の間隔が狭まり、データの視認性が向上するが、受信可能な距離は大きい方が、隣接配置された他の表示装置2の検出が容易になり(通信が切断されにくくなり)、ユーザビリティが向上する。
【0089】
これにより、表示装置2は、所定の位置に隣接配置された他の表示装置2と有無、位置(上下左右)、及び識別情報(端末ID)等を取得することができる。
【0090】
なお、赤外線受信素子と赤外線送信素子が一体となったセンサー部は一例であって、赤外線受信素子と赤外線送信素子は、別々に設けられていても良い。
【0091】
図12は、構成検出部32が複数の表示装置2の配置を検出する手順を示すシーケンス図の一例である。図12の処理は、例えば定期的に実行される。説明のため、表示装置2Aの端末IDをA、表示装置2Bの端末IDをB、表示装置2Cの端末IDをC、表示装置2Dの端末IDをD、とする。
【0092】
S1、S2:表示装置2の対向する辺に設けられた赤外線I/F223の距離が閾値未満(又は閾値以下)であり通信が可能な場合、各表示装置2は自機の端末IDを赤外線I/Fを介して送信する。これにより、表示装置2A(第一の表示装置の一例)の構成検出部32は右側の赤外線I/F223から表示装置2B(第二の表示装置の一例)の端末ID=Bを受信し、下側の赤外線I/F223から表示装置2C(第二の表示装置の一例)の端末ID=Cを受信する。
【0093】
なお、各表示装置2は、基準以上の赤外線(受信した赤外線を電圧値に変換した値)を受信素子で受信した場合に、他の表示装置2を検出する。したがって、表示装置2は距離と閾値を比較するわけではない。しかし、表示装置2が基準以上の赤外線を受信素子で受信する場合は、距離が閾値未満(又は閾値以下)である場合もあるため、以下では、説明の便宜上、「距離が閾値未満(又は閾値以下)」という表現で説明する。
【0094】
S3:構成検出部32は、左側及び上側の赤外線I/F223で他の表示装置2と通信しないことに基づいて、自機がマスターディスプレーであると判断する。このように、本実施形態では最も左上の表示装置2がマスターディスプレーとなる。これは、座標の原点を左上としたためであり、右上、右下、左下の表示装置2がマスターディスプレーでもよい。
【0095】
また、図13に示すように、各辺の赤外線I/F223の通信状況で各表示装置2がマスターディスプレーか否かを判断するのでなく、他の表示装置2を検出した表示装置2がマスターディスプレーか否かを受け付けるダイアログボックスを表示してもよい。図13は、各表示装置2に表示されたダイアログ550の一例を示す。各表示装置2は他の表示装置2を検出するとダイアログ550を表示する。ダイアログ550は例えば、「この表示装置2をマスターに指定しますか? はい いいえ」を表示する。「はい」を受け付けた表示装置2は自機の端末IDと共に自機がマスターディスプレーである旨を各赤外線I/F223から送信する。
【0096】
S4:図12に戻って説明する。また、最も左上の表示装置2の構成検出部32は、右側の赤外線I/F223から端末ID=Bを受信したので、右側に表示装置2Bが配置されていることを検出する。構成検出部32は、下側の赤外線I/F223から端末ID=Cを受信したので、下側に表示装置2Cが配置されていることを検出する。
【0097】
S5、S6:一方、表示装置2Dの構成検出部32も表示装置2B、2Cと通信する。表示装置2Bの構成検出部32は下側の赤外線I/F223から端末ID=Dを受信する。表示装置2Cの構成検出部32は右側の赤外線I/F223から端末ID=Dを受信する。
【0098】
S7:表示装置2Aの構成検出部32は右側の赤外線I/F223から端末ID=Bと、端末ID=Dの表示装置2Dが表示装置2Bの下側に接続されている旨を受信する。
【0099】
S8:表示装置2Aの構成検出部32は下側の赤外線I/F223から端末ID=Cと、端末ID=Dの表示装置2Dが表示装置2Cの右側に接続されている旨を受信する。
【0100】
S9:表示装置2Aの構成検出部32は表示装置2Bの下、かつ、表示装置2Cの右に表示装置2Dが配置されていることを検出する。
【0101】
このように、マスターディスプレーは、表示装置2B,2C、並びに、表示装置2B,2Cから受信する表示装置2B,2Cが検出した表示装置2D(表示装置2Dに更に別の表示装置2が接続されている場合は該表示装置に接続されている表示装置)に関する情報に基づいて、複数の表示装置2配置を検出する。換言すると、マスターディスプレーの構成検出部32は、表示装置2B、2Cを介して互いの辺の距離が閾値未満又は閾値以下の他の表示装置2を検出する。各表示装置2が自分の接続状態を他の表示装置2に送信することで、マスターディスプレーが複数の各表示装置2の配置を検出できる。
【0102】
図14はこのようにして構成検出部32が作成した配置情報の一例を示す。配置情報は、端末IDに対応付けて、配置位置とIPアドレスの各項目を有している。配置位置は、左上のマスターディスプレーを原点とする行列の要素で示される。また、IPアドレスは接続状態と共に各表示装置2からマスターディスプレーに送信される。IPアドレスはネットワークを介して表示装置2が通信する場合に使用される。なお、配置情報は全ての表示装置2で共有されることが好ましい。サブディスプレーの表示装置2がマスターディスプレーを宛先に手書きデータなどを送信する場合があるためである。
【0103】
任意の表示装置2が任意の表示装置2と赤外線I/F223で通信する場合、重複しないメッセージIDを採番し、自機の端末IDと宛先の端末IDと共に、構成検出部32が他の表示装置2を検出している全ての辺から送信する。これを受信した表示装置2は同じメッセージIDは1度だけ、受信した辺を除いて他の表示装置2に送信する。これを繰り返すことで、宛先の端末IDを有する表示装置2が情報を受信できる。宛先の表示装置2は受信した旨を送信元の表示装置2に送信するとよい。
【0104】
任意の表示装置2が配置情報を受信した後は、任意の表示装置2が宛先の表示装置2までの経路情報を作成して送信対象のデータを送信してもよい。任意の表示装置2は宛先の表示装置2の端末IDに対応付けられた配置位置を配置情報から決定する。そして、自機の配置位置から宛先の表示装置2が配置されている配置位置まで、例えば、(2,2)→(1,2)→(1,1)などのように作成する。送信対象のデータと経路情報を受信した表示装置2は経路情報において自分の配置位置の次の配置位置の表示装置2が接続されている赤外線I/F223に送信対象のデータと経路情報を送信する。
【0105】
<操作コマンドの表示例>
続いて、図15を参照して、手書きデータの変換時に表示される操作ガイド500について説明する。図15は操作ガイド500と操作ガイドが表示する選択可能候補530の一例である。ユーザーが手書きデータ504を手書きすることで、操作ガイド500が表示される。操作ガイド500は、操作ヘッダー520、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508、及び、手書きデータ矩形領域表示503を有している。選択可能候補530は、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508である。また、操作コマンドの候補510を除く選択可能候補530を文字列候補539という。
【0106】
操作ヘッダー520はボタン501、509、502、505を有する。ボタン501は予測変換とカナ変換の切り替え操作を受け付ける。図15の例ではユーザーが「予測」と表示されているボタン509を押下すると操作受付部29がそれを受け付けて、表示制御部26が「かな」というボタン509に表示を変更する。変更後は、文字列候補539が「カナ変換」の確率降順で並ぶ。
【0107】
ボタン502は候補表示のページ操作をする。図15の例では候補表示ページは3ページあり、現在は1ページ目を表示している。ボタン505は操作ガイド500の消去を受け付ける。ユーザーがボタン505を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータ以外の表示を消去する。ボタン509は一括表示消去を受け付ける。ユーザーがボタン509を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータを含め、図15に示されているすべての表示を消去して、ユーザーが最初から手書きをしなおすことを可能にする。
【0108】
手書きデータ504はユーザーが手書きした「ぎ」という文字である。手書きデータ504を囲む手書きデータ矩形領域表示503が表示される。図15では一文字の入力で操作ガイド500が表示されているが、操作ガイド500が表示されるタイミングは、ユーザーが手書きを中断したタイミングである。したがって、手書きデータ504の文字数は任意である。
【0109】
手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508にはそれぞれの文字列候補が確率降順で並んでいる。手書き認識文字列候補506の「ぎ」は認識結果の候補である。この例では正しく「ぎ」を認識している。
【0110】
変換文字列候補507は「ぎ」のカナ漢字変換の結果(例えば「技」)から変換された変換文字列候補(例えば技を含む熟語)である。この例の「技量試」とは「技術量産試作」の略名である。文字列/予測変換の候補508は変換文字列候補507から変換された予測文字列候補である。この例では「技量試を決裁」と「議事録の送付先」が表示されている。
【0111】
操作コマンドの候補510は認識された文字に応じて表示される、予め定義されている操作コマンド(図15ではファイル操作、文字の編集などのコマンド)の候補である。行頭文字の「》」511が操作コマンドの候補であることを示している。図15では「ぎ」の文字列候補である「議事録」が、定義済みキーワード(図16参照)と部分一致したため、操作コマンドの候補510として表示されている。
【0112】
ユーザーが「議事録テンプレートを読み込む」を選択すると、定義データで定義された操作コマンドが実行される。このように操作コマンドの候補は、変換された文字列を含む操作コマンド定義データが見つかる場合に表示されるため、常に表示されるとは限らない。
【0113】
図15に示すように、文字列候補と操作コマンドの候補が同時に(共に)表示されるため、ユーザーは自分が入力しようとした文字列候補と操作コマンドのどちらも任意に選択できる。
【0114】
図16は、操作コマンド処理部31が保持する操作コマンド定義データの一例を示す。操作コマンドは操作コマンド名(Name)、文字列候補と部分一致する定義済みキーワード(String)、実行する操作コマンド文字列(Command)、マルチディスプレーに関する操作コマンド定義データか否か(MD)を有する。操作コマンド文字列内の「%~%」は変数であり、予めシステム定義データと対応付けられている。つまり、「%~%」はシステム定義データで置き換えられる。
【0115】
まず、操作コマンド定義データ701は、操作コマンド名が「議事録テンプレートを読み込む」、文字列候補と部分一致する文字列が「議事録」又は「テンプレート」、実行する操作コマンド文字列が「ReadFile https://%username%:%password%@server.com/template/minutes.pdf」であることを示す。この例では、実行する操作コマンド文字列に「%~%」のシステム定義データが含まれており「%username%」「%password%」はそれぞれシステム定義データ(アカウントで特定されるユーザー名とパスワード)で置き換えられることを示す。したがって、最終的に実行する操作コマンド文字列は「ReadFile https://taro.tokkyo:x2PDHTyS@server.com/template/minutes.pdf」という文字列となり、「https://taro.tokkyo:x2PDHTyS@server.com/template/minutes.pdf」というファイルを読み込む(ReadFile)ことを示す。
【0116】
操作コマンド定義データ702は、操作コマンド名が「議事録フォルダーに保存する」、文字列候補と部分一致する文字列が「議事録」又は「保存」、実行する操作コマンド文字列が「WriteFile https://%username%:%password%@server.com/minutes/%machinename%_%yyyy-mm-dd%.pdf」であることを示す。操作コマンド定義データ701と同様に、操作コマンド文字列の「%username%」「%password%」「%machinename%」はそれぞれシステム定義データで置き換えられる。なお、「%yyyy-mm-dd%」は現在日で置き換えることを示す。例えば、現在日が2020年1月1日であれば「2020-01-01」で置き換えることを示す。最終的に実行する操作コマンドは「WriteFile https://taro.tokkyo:x2PDHTyS@server.com/minutes/%My-Machine_2020-01-01.pdf」となり、議事録を「https://taro.tokkyo:x2PDHTyS@server.com/minutes/%My-Machine_2020-01-01.pdf」というファイルに保存する(WriteFile)ことを示す。
【0117】
操作コマンド定義データ703は、操作コマンド名が「印刷する」、文字列候補と部分一致する文字列が「印刷」又は「プリント」、実行する操作コマンド文字列が「PrintFile https://%username%:%password%@server.com/print/%machinename%-"%yyyy-mm-dd%.pdf」であることを示す。操作コマンド定義データ702と同様に操作コマンド文字列を置き換えると、最終的に実行する操作コマンドは「PrintFile https://taro.tokkyo:x2PDHTyS@server.com/print/%My-Machine_2020-01-01.pdf」となり、「https://taro.tokkyo:x2PDHTyS@server.com/print/%My-Machine_2020-01-01.pdf」というファイルを印刷する(PrintFile)ことを示す。つまり、ファイルがサーバーに送信される。ユーザーがプリンターをサーバーと通信させ、ファイルを指定するとプリンターが用紙にファイルの内容を印刷する。
【0118】
このように、文字列候補から操作コマンド定義データ701~703を特定できるため、ユーザーが手書きすることで操作コマンドを表示させることができる。また、ユーザーの認証が成功した場合にはユーザー情報で操作コマンド定義データの「%username%」「%password%」等が置き換えられるので、ユーザーに対応付けてファイルの入出力が可能になる。
【0119】
後述するようにマルチディスプレーに関する操作コマンド定義データが定義されていることで、操作ガイド500にマルチディスプレーの有効化や動作モードの切り替えに使用される操作コマンドが表示される。
【0120】
<手書きデータの共有>
続いて、図17を参照して、マルチディスプレーにおける手書きデータの共有について説明する。図17は、各表示装置2が手書きデータを共有する手順を示すシーケンス図の一例である。なお、手書きデータは動作モードに関係なく共有される。
【0121】
S11:表示装置2Aの接触位置検出部21は手書きデータの入力を受け付ける。描画データ生成部22は座標点を連結してストロークを生成する。表示制御部26はストロークをディスプレーに表示する。
【0122】
S12~S14:表示装置2Aのネットワーク通信部28は配置情報に基づいて他の表示装置2B~2DのIPアドレスを宛先にして手書きデータを送信する。また、ネットワーク通信部28は動作モードに対応する定義情報に基づいて各表示装置2が表示するページ番号と表示範囲を各表示装置2に送信する。各表示装置2は手書きデータを記憶部30に記憶する。なお、ネットワーク通信部28は、手書きデータを受け付けたタイミングだけでなく、定期的にページ番号と表示範囲を各表示装置2に送信することができる。
【0123】
S15:動作モードがクローンの場合、表示装置2B~2Dに指示されるページ番号と表示範囲に、新たな手書きデータが含まれる。このため、描画データ生成部22は座標点を連結して受信した手書きデータを表示する。
【0124】
動作モードがクローンでなく、マルチページ又はタイリングの場合、表示装置2B~2Dに指示されるページ番号と表示範囲に新たな手書きデータが含まれないので、表示装置2B~2Dは手書きデータを表示しない。しかし、ページデータが常に共有されるので、マルチディスプレーの連結が解除された場合に、各表示装置2が全てのページを表示できる。
【0125】
また、図17では、マスターディスプレーに手書きされているが、サブディスプレーに手書きされた場合も同様になる。サブディスプレーは手書きデータを他の表示装置2に送信する。マスターディスプレーは自機が表示すべきページ番号と表示範囲を決定済みであり、サブディスプレーはマスターディスプレーからページ番号と表示範囲が指示されている。したがって、動作モードがクローンの場合、マスターディスプレーを含む他の表示装置2が手書きデータを表示する。動作モードがマルチページとタイリングの場合は、手書きされたサブディスプレーだけが手書きデータを表示する。
【0126】
<マルチディスプレーの表示例>
以下では、手書きデータが文字認識されることで表示される操作コマンドのいくつかの例を説明する。なお、ユーザーは定義済みキーワードを四つのディスプレーのどこに書いてもよいが説明を簡単にするため、マスターディスプレーに手書きされたものとする。なお、手書きデータは全ての表示装置2で共有される。
【0127】
・「マルチ」と手書き
図18は、マルチディスプレーに関する操作コマンドを表示制御部26が表示するための操作コマンド定義データの一例である。まず、マルチディスプレーに関する操作コマンド定義データでは、MD="ON"が設定されている。MD="ON"の操作コマンドは、構成検出部32が他の表示装置2が接続されていることを検出した場合に表示される。構成検出部32は他の表示装置2が接続されていることを検出した旨をフラグで保存して(定期的に確認された検出状態がリアルタイムにフラグに反映される)、その保存したフラグを確認することで、接続されているか否かを確認する。赤外線I/F223がない場合(図40参照)、ユーザーが設定した同様のフラグが確認される。
【0128】
操作コマンド定義データ711~713には、String(定義済みキーワード)に「マルチ」が設定されている。このため、ユーザーが「マルチ」と手書きすると、操作コマンド定義データ711に基づいて、操作ガイド500に「クローン」の操作コマンドが表示される。同様に、操作コマンド定義データ712に基づいて、操作ガイド500に「マルチページ」の操作コマンドが表示される。同様に、操作コマンド定義データ713に基づいて、操作ガイド500に「タイリング」の操作コマンドが表示される。
【0129】
図19は、ユーザーが「マルチ」と手書きした場合に表示される操作ガイド500の一例である。手書きデータ504の「マルチ」は、マルチディスプレーの全ての動作モードを包含する定義済みキーワードなので、操作コマンド処理部31はマルチディスプレーの三つの動作モード(クローン541,マルチページ542,タイリング543)を表示する。また、「マルチ」を含む文字列候補539も表示される。
【0130】
ユーザーが「クローン」541を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「クローン」541の定義情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
表示装置2B…ページ番号:マスターディスプレーと同じページ 表示範囲:マスターディスプレーと同じ
表示装置2C…ページ番号:マスターディスプレーと同じページ 表示範囲:マスターディスプレーと同じ
表示装置2D…ページ番号:マスターディスプレーと同じページ 表示範囲:マスターディスプレーと同じ
【0131】
ユーザーが「マルチページ」542を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「マルチページ」542の定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。なお、定義情報602に示したように、ページ番号は、配置情報「(1、1)(1,2)(2,1)(2,2)」の列方向に増えるものとし、最右まで行くと1行増やすものとする。
表示装置2B…ページ番号:マスターディスプレーのページ番号+1 表示範囲:任意
表示装置2C…ページ番号:マスターディスプレーのページ番号+2 表示範囲:任意
表示装置2D…ページ番号:マスターディスプレーのページ番号+3 表示範囲:任意
【0132】
ユーザーが「タイリング」543を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「タイリング」543の定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
表示装置2A…ページ番号:マスターディスプレーのページ番号 表示範囲:該ページの0~X、0~Y
表示装置2B…ページ番号:マスターディスプレーのページ番号 表示範囲:該ページのX~2X、0~Y
表示装置2C…ページ番号:マスターディスプレーのページ番号 表示範囲:該ページの0~X、Y~2Y
表示装置2D…ページ番号:マスターディスプレーのページ番号 表示範囲:該ページのX~2X、Y~2Y
【0133】
・「タイル」と手書き
図20は、ユーザーが「タイル」と手書きした場合に表示される操作ガイド500の一例である。「タイル」は、タイリングの操作コマンド定義データ713のStringに含まれる定義済みキーワードなので、操作コマンド処理部31はタイリングの操作コマンドを表示する。ユーザーがタイリングを選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33はタイリングの定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0134】
・「おなじ」と手書き
図21は、ユーザーが「おなじ」と手書きした場合に表示される操作ガイド500の一例である。「おなじ」は、クローンの操作コマンド定義データ711のStringに含まれる定義済みキーワードなので、操作コマンド処理部31はクローンの操作コマンドを表示する。ユーザーがクローンを選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33はクローンの定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0135】
・「ならべる」と手書き
図22は、ユーザーが「ならべる」と手書きした場合に表示される操作ガイドの一例である。「ならべる」は、マルチページの操作コマンド定義データ712のStringに含まれる定義済みキーワードなので、操作コマンド処理部31はマルチページの操作コマンドを表示する。ユーザーがマルチページを選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33はマルチページの定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0136】
・「れんけつ」と手書き
図23は、ユーザーが「れんけつ」と手書きした場合に表示される操作ガイド500の一例である。「れんけつ」は、タイリングの操作コマンド定義データ713のStringに含まれる定義済みキーワードなので、操作コマンド処理部31はタイリングの操作コマンドを表示する。ユーザーがタイリングを選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33はタイリングの定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0137】
・「じゅんばん」と手書き
図24は、「Z字順で表示」と「逆N字順で表示」という操作コマンドの定義情報を説明する図である。図24(a)は「Z字順で表示」の操作コマンドで使用される定義情報604を示し、図24(b)は各表示装置2が表示するページの表示例を示す。図24(c)は「逆N字順で表示」の操作コマンドで使用される定義情報605を示し、図24(d)は表示装置2が表示するページの表示例を示す。配置情報により表示装置2の配置が分かっているので、マルチディスプレー制御部33は各表示装置2にページ番号を送信できる。
【0138】
「Z字順で表示」「逆N字順で表示」は図24から明らかなようにマルチページの一態様である。したがって、これらも動作モードである。
【0139】
図25は、マルチディスプレーに関する操作コマンドを表示制御部26が表示するための操作コマンド定義データの一例である。操作コマンド定義データ714、715には、Stringに「じゅんばん」が設定されている。このため、ユーザーが「じゅんばん」と手書きすると、操作コマンド定義データ714、715に基づいて、操作ガイド500に「Z字順で表示」「逆N字順で表示」の操作コマンドが表示される。
【0140】
図26は、ユーザーが「じゅんばん」と手書きした場合に表示される操作ガイド500の一例である。「じゅんばん」は、操作コマンド定義データ714、715のStringに含まれる定義済みキーワードなので、操作コマンド処理部31は「Z字順で表示」544、「逆N字順で表示」545の操作コマンドを表示する。ユーザーが「Z字順で表示」544又は「逆N字順で表示」545を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「Z字順で表示」又は「逆N字順で表示」の定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0141】
・「おくり」と手書き
図27は、「1ページ送り」と「見開き送り」という操作コマンドについて説明する図である。図27(a)は「1ページ送り」又は「見開き送り」の操作コマンドが選択される前に各表示装置2が表示するページ番号を示す。図27(b)は「1ページ送り」の操作コマンドが実行された場合に各表示装置2が表示するページ番号を示す。図27(c)は「見開き送り」の操作コマンドが実行された場合に各表示装置2が表示するページ番号を示す。
【0142】
図27(d)は「1ページ送り」と「見開き送り」という操作コマンドの定義情報606を示す。「1ページ送り」の場合、配置情報に基づいて表示装置2AではP1→P2が設定され、表示装置2BではP2→P3が設定されている。「見開き送り」の場合、配置情報に基づいて表示装置2AではP1→P3が設定され、表示装置2BではP2→P4が設定されている。
【0143】
「1ページ送り」と「見開き送り」は図27から明らかなようにマルチページの一態様である。したがって、これらも動作モードである。
【0144】
図28は、マルチディスプレーに関する操作コマンドを表示制御部26が表示するための操作コマンド定義データの一例である。操作コマンド定義データ716、717には、Stringに「おくり」が設定されている。このため、ユーザーが「おくり」と手書きすると、操作コマンド定義データ716、717に基づいて、操作ガイド500に「1ページ送り」「見開き送り」の操作コマンドが表示される。
【0145】
図29は、ユーザーが「おくり」と手書きした場合に表示される操作ガイド500の一例である。「おくり」は、操作コマンド定義データ716、717のStringに含まれる定義済みキーワードなので、操作コマンド処理部31は「1ページ送り」546、「見開き送り」547の操作コマンドを表示する。ユーザーが「1ページ送り」546又は「見開き送り」547を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「1ページ送り」又は「見開き送り」の定義情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0146】
・「大きく」と手書き
ユーザーが手書きデータでページを拡大又は縮小する場合を説明する。
【0147】
図30は、マルチディスプレーに関する操作コマンドを表示制御部26が表示するための操作コマンド定義データの一例である。操作コマンド定義データ718、719には、Stringに「大きく」が設定されている。このため、ユーザーが「大きく」と手書きすると、操作コマンド定義データ718、719に基づいて、操作ガイド500に「拡大する(200%)」「拡大する(400%)」の操作コマンドが表示される。
【0148】
「拡大する(200%)」「拡大する(400%)」の操作コマンドは動作モードではない。また、マルチディスプレー機能が有効でも無効でも表示される。したがって、各動作モードのまま、表示制御部26がページデータを拡大して表示する。
【0149】
図31は、ユーザーが「大きく」と手書きした場合に表示される操作ガイド500の一例である。「大きく」は、操作コマンド定義データ718、719のStringに含まれる定義済みキーワードなので、操作コマンド処理部31は「拡大する(200%)」548、「拡大する(400%)」549の操作コマンドを表示する。ユーザーが「拡大する(200%)」548又は「拡大する(400%)」549を選択すると、操作受付部29が受け付ける。これにより、表示制御部26は現在の動作モードのまま、手書きデータを拡大する。
【0150】
図32は、「拡大する(200%)」の操作コマンドが選択された場合のページの表示例を示す。図32(a)は動作モードがクローンの場合の拡大例である。動作モードがクローンなので、各表示装置2A~2Dがそれぞれ「A」を表示している。「拡大する(200%)」548の操作コマンドが実行されると、マルチディスプレー制御部33がページを2倍にして、各表示装置2の表示範囲を計算する。各表示装置2B~2Dは表示装置2Aから通知された2倍の拡大率で画像データを拡大し、画像データのうち指示された表示範囲を表示する。なお、動作モードがマルチページの場合は、各表示装置2が表示するページが異なるだけで図32(a)と同様になる。
【0151】
図32(b)は動作モードがタイリングの場合の拡大例である(図9参照)。動作モードがタイリングなので、各表示装置2で一つのページ(「A」)を表示している。「拡大する(200%)」548の操作コマンドが実行されると、マルチディスプレー制御部33がページを2倍にして、各表示装置2の表示範囲を計算する。表示装置2Aは、拡大率とマルチディスプレー制御部33が計算した表示範囲を各表示装置2に送信するので、タイリングの状態で2倍に拡大できる。
【0152】
なお、図30の操作コマンド定義データ720、721には、Stringに「ちょっと」「少し」が設定されている。このため、ユーザーが「ちょっと」又は「少し」と手書きすると、操作コマンド定義データ720、721に基づいて、操作ガイド500に「拡大する(110%)」「拡大する(120%)」の操作コマンドが表示される。このように、拡大率に応じた定義済みキーワードが用意されると、ユーザーが所望の拡大率に調整しやすい。
【0153】
・用紙サイズを指定
ユーザーが用紙サイズを指定して拡大したい場合には用紙サイズを手書きする。
【0154】
図33は、マルチディスプレーに関する操作コマンドを表示制御部26が表示するための操作コマンド定義データの一例である。操作コマンド定義データ722、723には、Stringに「A1」が設定されている。このため、ユーザーが「A1」と手書きすると、操作コマンド定義データ722、723に基づいて、操作ガイド500に「A1で表示」「A1ページを作成」の操作コマンドが表示される。
【0155】
なお、「A1で表示」の操作コマンドは動作モードをタイリングに切り替えることができるため動作モードの一態様である。「A1ページを作成」の操作コマンドは動作モードをタイリングとマルチページの混合状態に切り替えることができるため動作モードの一態様である。
【0156】
図34は、ユーザーが「A1」と手書きした場合に表示される操作ガイド500の一例である。「A1」は、操作コマンド定義データ722、723のStringに含まれる定義済みキーワードなので、操作コマンド処理部31は「A1で表示」550、「A1ページを作成」551の操作コマンドを表示する。ユーザーが「A1で表示」550又は「A1ページを作成」551を選択すると、操作受付部29が受け付ける。これにより、マスターディスプレーのマルチディスプレー制御部33は「A1で表示」又は「A1ページを作成」の定義情報と配置情報に応じたページ番号と表示範囲を他の表示装置2に送信する。
【0157】
図35は、「A1で表示」の操作コマンドが実行された場合の処理を説明する図である。図35(a)はユーザーが「A1で表示」の操作コマンドを選択する前の表示状態を示す。表示装置2の数は二つである。説明のため一つの表示装置2のサイズをA2とし、二つの表示装置2を連結するとA1サイズになるものとする。図35(a)では、動作モードがマルチページであり、二つの表示装置2が別々のページを表示している。例えば、表示装置2Aが表示するページの「A」という画像は、A1サイズの解像度を有しているが、縮小して表示されている。あるいは、A2サイズの解像度を有し、等倍で表示されている。このページの詳細を確認したい場合、ユーザーは「A1で表示」の操作コマンドを実行する。
【0158】
図35(b)は「A1で表示」の操作コマンドが実行された状態を示す。動作モードがタイリングになるので、二つの表示装置2がA1サイズで同一ページの「A」を表示する。
【0159】
マルチディスプレー制御部33は「A1で表示」の操作コマンドを実行する場合、複数の表示装置2の配置状態、一つの表示装置2の縦横の長さ、及び、A1サイズの縦横の長さに応じて、何ページを表示できるかを判断する。予め、複数の表示装置2の配置状態と表示可能なA1サイズのページ数、ページの向きがテーブルで対応づけられている。このテーブルによれば、表示装置2が二つの場合、A1サイズを横向きに1ページ表示できる。
【0160】
マルチディスプレー制御部33は、A2サイズのページをA1サイズに拡大する。図35(c)は拡大を説明する図である。X1、X2、Y1,Y2については図9と同様でよい。原点をマスターディスプレーの左上とし、A2サイズの任意の点の座標を(p2、q2)とする。A1サイズにおける点の座標(p1,q1)は以下のようになる。
=p×X/X
=q×Y/Y
【0161】
また、A1サイズではページが横向きになるので、Xは縦方向に、Yは横方向に対応する。また、この場合も原点はマスターディスプレーの左上である。したがって、図35(d)に示すように、マルチディスプレー制御部33は以下の変換を行う。
→q
→X-p
【0162】
マルチディスプレー制御部33は、このように算出したページの座標のうち配置情報に基づいて、X方向としてはX以降の座標、Y方向は全ての範囲を表示範囲として表示装置2Bに通知する。表示装置2Bは表示装置2Aと同様の座標の計算を行い、表示範囲のデータを表示する。
【0163】
続いて、図36は、「A1ページを作成」の操作コマンドが実行された場合の処理を説明する図である。図36(a)はユーザーが「A1ページを作成」の操作コマンドを選択する前の表示状態を示す。表示装置2の数は四つである。説明のため一つの表示装置2のサイズをA2とし、四つの表示装置2を連結するとA1サイズを二つ同時に表示できるものとする。図36(a)では、動作モードがマルチページであり、四つの表示装置2A~2Dが別々のページを表示している。
【0164】
図36(b)は「A1ページを作成」の操作コマンドが実行された場合の表示例を示す。マルチディスプレー制御部33は「A1ページを作成」の操作コマンドを実行する場合、テーブル(複数の表示装置2の配置状態、表示可能なA1サイズのページ数、及び、ページの向きが対応づけられている)を参照して、表示装置2が四つの場合、A1サイズを横向きに2ページ表示できると判断する。
【0165】
この場合、動作モードはマルチページとタイリングの混合状態になり、四つの表示装置2A~2DがA1サイズで2ページ分(「A」「B」)を表示する。
【0166】
マルチディスプレー制御部33はA2サイズの2ページをそれぞれA1サイズに拡大する。2ページ目の「B」については図35と同様である。1ページ目の「A」について、マルチページではページごとに座標が決定されるので、原点が表示装置2Cの左上となる。したがって、座標の計算方法は2ページ目と同じになる。
【0167】
マルチディスプレー制御部33は、算出した2ページ目(「B」)の座標のうち、X方向としてはX以降の座標、Y方向は全ての範囲を表示範囲として表示装置2Bに通知する。表示装置2Bは表示装置2Aと同様の座標の計算を行い、表示範囲のデータを表示する。マルチディスプレー制御部33は、算出した1ページ目(「A」)の座標のうち、X方向としては0~Xまでの座標、Y方向は全ての範囲を表示範囲として表示装置2Cに通知する。表示装置2Cは表示装置2Aと同様の座標の計算を行い、表示範囲のデータを表示する。同様に、マルチディスプレー制御部33は、X方向としてはX1以降の座標、Y方向は全ての範囲を表示範囲として表示装置2Dに通知する。表示装置2Dは表示装置2Aと同様の座標の計算を行い、表示範囲のデータを表示する。
【0168】
続いて、図37は、「A3ページを作成」の操作コマンドが実行された場合の処理を説明する図である。図37(a)はユーザーが「A3ページを作成」の操作コマンドを選択する前の表示状態を示す。表示装置2の数は二つである。説明のため一つの表示装置2のサイズをA2とし、二つの表示装置2を連結するとA3サイズを四つ同時に表示できるものとする。図37(a)では、動作モードがマルチページであり、二つの表示装置2が別々のページを表示している。
【0169】
図37(b)は「A3ページを作成」の操作コマンドが実行された場合の表示例を示す。マルチディスプレー制御部33は「A3ページを作成」の操作コマンドを実行する場合、テーブル(複数の表示装置2の配置状態、表示可能なA3サイズのページ数、及び、ページの向きが対応づけられている)を参照して、表示装置2が二つの場合、A3サイズを横向きに4ページ表示できると判断する。動作モードはマルチページになり、二つの表示装置2がA3サイズで4ページ分(「A」「B」「C」「D」)を表示する。なお、この場合、集約印刷(1枚に複数ページを印刷)と同じ状態になる。
【0170】
図38は、各ページの座標の算出方法を示す図である。マルチディスプレー制御部33は各ページを縮小し、縮小後の座標を計算する。各ページは横向きになるので、2ページ目(「B」)については図35と同様の座標変換を行う。表示装置2Aの左上を原点とするため、1ページ目(「A」)については、座標変換した後にY座標をY/2だけ大きくする。
【0171】
マルチディスプレー制御部33は3,4ページ目について、表示装置2Bに3,4ページを表示する旨、及び、同じ座標変換を通知する。表示装置2Bは3,4ページ目について同様の座標変換を行い、3,4ページを表示する。
【0172】
<全体的な動作手順>
図39は、表示装置2がマルチディスプレー機能を有効にしたり、動作モードを切り替えたりする手順を示すシーケンス図の一例である。図39の処理はマスターディスプレーが配置を検出した状態からスタートする。
【0173】
S21~S23:マスターディスプレーのマルチディスプレー制御部33は、複数の表示装置2が接続された場合に決まっている初期の動作モードを表示装置2B~2Dに送信する。初期の動作モードがマルチページであれば、表示装置2A~2Dは表示状態を変更しなくてよい。初期の動作モードがクローンやタイリングの場合は、ページと表示範囲を通知する。
【0174】
S24:例えば、表示装置2Dの接触位置検出部21がマルチディスプレーに関する定義済みキーワード(手書きデータ)の入力を受け付けた。定義済みキーワードの入力は連結されたどの表示装置2でも可能である。また、表示装置2A~2Dはどのページを表示していてもよい。
【0175】
S25:表示装置2Dの構成検出部32が他の表示装置2と接続されていることを検出した場合、操作コマンド処理部31はマルチディスプレーに関するMD="ON"の操作コマンドとそれ以外のMD=OFFの操作コマンドを操作コマンド定義データから取得する。これにより、表示制御部26はマルチディスプレーに関する操作コマンドを含む操作ガイド500を表示する。構成検出部32が他の表示装置2と接続されていることを検出しない場合、操作コマンド処理部31は操作コマンド(MD="OFF")の操作コマンドのみを操作コマンド定義データから取得する。ユーザーがマルチディスプレーに関する操作コマンドを選択すると、操作受付部29が選択を受け付ける。他の表示装置2と接続されている場合にだけマルチディスプレーに関する操作コマンドを表示制御部26が表示するので、無駄な操作コマンドが表示されない。
【0176】
S26:構成検出部32が他の表示装置2と接続されていると検出した場合、自機がマスターディスプレーかどうかを配置情報に基づいて判断する。配置位置が(1,1)でなければサブディスプレーである。表示装置2Dのネットワーク通信部28はマスターディスプレーである表示装置2Aに対し受け付けた操作コマンドを送信する。操作コマンドは赤外線I/F223で送信されても、LANで送信されてもよい。
【0177】
S27~S29:表示装置2Aのネットワーク通信部28は操作コマンドを受信する。マルチディスプレー制御部33はマルチディスプレーに関する操作コマンドを実行する。具体的には、操作コマンドに応じたページと表示範囲(表示装置2B~2Dが表示するデータを操作コマンドに応じて制御する旨に相当する)を表示装置2B~2Dに送信する。
【0178】
S30~S33:表示装置2A~2Dの表示制御部26は、操作コマンドに応じたページ、かつ、動作モードに応じた表示範囲をディスプレーに表示する。
【0179】
<表示装置が赤外線I/F223を有さない場合の配置の決定方法>
表示装置2が赤外線I/F223を有さない場合でも、マルチディスプレー機能を実現できる。表示装置2が赤外線I/F223を有さないので、ユーザーが各表示装置2に配置を設定する。
【0180】
図40は、ユーザーが各表示装置2に配置を設定する方法を説明する図である。ユーザーが例えば、手書きで配置を決定するための操作コマンドを表示させる。例えば「配置」と手書きすると、配置入力用の操作コマンドが操作ガイド500に表示される。図40(a)は配置入力用の操作コマンドを有する操作ガイド500の一例である。配置入力用の操作コマンドが配置される表示装置2の個数と共に表示される。ユーザーは同じ操作を各表示装置2A~2Dで行い、同様の操作ガイド500を表示する。
【0181】
該操作コマンド510をユーザーが選択すると、図40(b)に示すように配置決定ボタン560を表示装置2が表示する。表示装置2Aの配置位置は(1,1)なので、ユーザーは配置決定ボタン560の左上のマスを押下する。表示装置2Bの配置位置は(1,2)なので、ユーザーは配置決定ボタン560の右上のマスを押下する。表示装置2Cの配置位置は(2,1)なので、ユーザーは配置決定ボタン560の左下のマスを押下する。表示装置2Dの配置位置は(2,2)なので、ユーザーは配置決定ボタン560の右下のマスを押下する。
【0182】
こうすることで、各表示装置2A~2Dは自分の配置位置を取得できる。また、表示装置2Aは配置位置が(1,1)なのでマスターディスプレーであると判断できる。
【0183】
配置位置を受け付けた各表示装置2A~2Dは、他の表示装置が検出された状態と同様にフラグ=ONとして保持する。そのフラグがONである場合、赤外線I/F223を有さなくても(又は検出していなくても)、表示装置2A~2Dは手書きデータに応じて、複数の表示装置2を利用してデータを表示する機能に関する操作コマンドを表示する。各表示装置2A~2Dは自分のIPアドレスを表示することができる。ユーザーはサブディスプレーのIPアドレスをマスターディスプレーに入力する。
【0184】
<主な効果>
以上説明したように、本実施形態の表示装置2は、ユーザーはマルチディスプレーに関する定義済みキーワードを手書きすることで、簡単にマルチディスプレー機能の有効化や動作モードを変更できる。表示装置2の提供者又はユーザーは、直感的に理解しやすい定義済みキーワードを操作コマンドに設定できる。例えば、動作モード名やどの様に表示したいかなどが定義済みキーワードとなる。他の表示装置2が検出されない場合は、マルチディスプレーに関する操作コマンドが表示されないので、操作ガイド500を有効に活用でき、選択の対象とならない操作コマンドが表示されることを抑制できる。
【0185】
したがって、マルチディスプレー機能の有効化や動作モードの変更に要する作業やステップ数を低減し、操作メニューの自由度が向上するため、デザイン性、操作性が向上する。ユーザーが手書きした定義済みキーワードに適合する操作コマンドのみが表示されるので、ユーザーの希望から遠い操作コマンドが表示されることを排除することができる。アイコンや階層の深いメニューなどが不要になるため、操作メニューのデザインの自由度が上がる。
【実施例2】
【0186】
以下の実施例では表示装置2の別の構成例について説明する。
【0187】
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
【0188】
図41は、表示装置2の他の構成例を示す図である。図41では、通常のホワイトボード413の上辺に四つのプロジェクター411A~411Dが設置されている。このプロジェクター411A~411Dが表示装置2に相当する。通常のホワイトボード413とは、タッチパネルと一体のフラットパネルディスプレーではなく、ユーザーがマーカーで直接、手書きするホワイトボードである。なお、ホワイトボードは黒板でもよく、映像を投影するだけの広さの平面であればよい。
【0189】
四つのプロジェクター411A~411Dは超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をホワイトボード413に投影できる。この映像は、無線又は有線で接続されたPCから送信されてもよいし、プロジェクター411A~411Dが記憶していてもよい。
【0190】
ユーザーは専用の電子ペン2501を使ってホワイトボード413に手書きする。電子ペン2501は、ユーザーが手書きのためにホワイトボード413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411A~411Dはカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411A~411Dは音波の到達時間により距離を算出する。方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
【0191】
プロジェクター411A~411Dのうちマスタープロジェクターは各種のボタンを有するメニューを投影するので、ユーザーが電子ペン2501でボタンを押下すると、マスタープロジェクターが電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。
【0192】
プロジェクター411A~411Dはホワイトボード413の上部にある固定用の治具に取り付けられる。表示装置2と同様に赤外線などで各プロジェクターは他のプロジェクターを検出する。マスタープロジェクターは例えば左端のプロジェクター411Aでよい。プロジェクター411Bと411Cは互いにどちらにあるか不明なので、ユーザーが介在して位置を設定してよい。プロジェクター411A~411Dがホワイトボード413のどの領域に投影するかは決まっている。ユーザーはその上でマルチプロジェクションの調整手法を適用してプロジェクター411A~411Dの投影画像を調整する。マルチプロジェクションの調整手法は公知であるが、プロジェクター411A~411Dが投影したパターン映像をカメラで撮像して、重複範囲の検出と歪み補正を行う方法である。
【0193】
マスタープロジェクターは、予め定められたサーバー412又はUSBメモリー2600等に手書き情報を保存する。手書き情報はページごとに保存されている。画像データではなく座標のまま保存されるので、ユーザーが再編集することができる。
【0194】
図41(a)はクローンという操作コマンドが実行された場合に四つのプロジェクター411A~411Dが表示する画面例を示す。図41(b)はマルチページという操作コマンドが実行された場合に四つのプロジェクター411A~411Dが表示する画面例を示す。図41(c)はタイリングという操作コマンドが実行された場合に四つのプロジェクター411A~411Dが表示する画面例を示す。このように、四つのプロジェクター411A~411Dが画面を表示する場合にも本実施形態を適用できる。
【実施例3】
【0195】
<<表示装置の別の構成例2>>
図42は、表示装置2の他の構成例を示す図である。図42の例では、表示装置2として、端末装置600、画像投影装置700A~700D、及び、ペン動作検出装置810を有する。
【0196】
端末装置600は、画像投影装置700A~700D及びペン動作検出装置810と有線で接続されている。画像投影装置700A~700Dは、端末装置600により入力された画像データをスクリーン800に投影させる。ユーザーは画像投影装置700A~700Dを配置し、おおよその投影範囲を調整する。例えば、画像投影装置700Aが右上、画像投影装置700Bが右下、画像投影装置700Cが左上、画像投影装置700Dが左下のように調整する。ユーザーはその上でマルチプロジェクションの調整手法を適用して画像投影装置700A~700Dの投影画像を調整する。
【0197】
この場合、端末装置600がマスターディスプレーとして操作コマンドの実行及び各画像投影装置700A~700Dに表示範囲を指示する。
【0198】
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、電子ペン820は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は図41と同様でよい)、端末装置600へ送信する。
【0199】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成し、画像投影装置700A~700Dによって手書きデータの画像をスクリーン800に描画させる。
【0200】
また、端末装置600は、画像投影装置700A~700Dに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【0201】
図42(a)はクローンという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。図42(b)はマルチページという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。図42(c)はタイリングという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。このように、四つの画像投影装置700A~700Dが画面を表示する場合にも本実施形態を適用できる。
【実施例4】
【0202】
<<表示装置の別の構成例3>>
図43は、表示装置2の構成例を示す図である。図43の例では、表示装置2として、端末装置600と、ディスプレー800A~800Dと、ペン動作検出装置810とを有する。ディスプレー800A~800Dはモニタースタンドに搭載され、隙間なく配置されている。この場合、端末装置600がマスターディスプレーとして操作コマンドの実行及び各ディスプレー800A~800Dに表示範囲を指示する。各ディスプレー800A~800Dの配置の検出方法は表示装置2の場合と同様でよい。
【0203】
ペン動作検出装置810は、ディスプレー800A~800Dの近傍に配置され、ディスプレー800A~800D上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は図41と同様でよい)、端末装置600へ送信する。なお、図43の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
【0204】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像の画像データを生成し、ディスプレー800A~800Dに表示させる。
【0205】
図43(a)はクローンという操作コマンドが実行された場合に四つのディスプレー800A~800Dが表示する画面例を示す。図43(b)はマルチページという操作コマンドが実行された場合に四つのディスプレー800A~800Dが表示する画面例を示す。図43(c)はタイリングという操作コマンドが実行された場合に四つのディスプレー800A~800Dが表示する画面例を示す。このように、四つのディスプレー800A~800Dが画面を表示する場合にも本実施形態を適用できる。
【実施例5】
【0206】
<<表示装置の別の構成例4>>
図44は、表示装置2の構成例を示す図である。図44の例では、表示装置2として、端末装置600と、四つの画像投影装置700A~700Dとを有する。この場合、端末装置600がマスターディスプレーとして操作コマンドの実行及び各画像投影装置700A~700Dに表示範囲を指示する。画像投影装置700A~700Dの投影方法は図42と同様でよい。
【0207】
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
【0208】
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像の画像データを生成する。端末装置600は、画像投影装置700A~700Dに手書データの画像を投影させる。
【0209】
また、端末装置600は、画像投影装置700A~700Dに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【0210】
図44(a)はクローンという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。図44(b)はマルチページという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。図44(c)はタイリングという操作コマンドが実行された場合に四つの画像投影装置700A~700Dが表示する画面例を示す。このように、四つの画像投影装置700A~700Dが画面を表示する場合にも本実施形態を適用できる。
【0211】
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
【0212】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0213】
例えば、本実施形態では複数の表示装置2が通信したが、1台の情報処理装置に複数のディスプレーが接続され、各ディスプレーが通信してもよい。また、表示装置2がタッチパネルを有さない場合はマウスやトラックボール(マウスなどと同様にコンピュータの操作に用いるポインティングデバイスの一種)などで手書きされてよい。
【0214】
また、本実施形態では手書きデータの入力でマルチディスプレーに関する操作コマンドが表示されたが、キーボードで定義済みキーワードが入力され、表示装置2がマルチディスプレーに関する操作コマンドを表示してもよい。
【0215】
例えば、本実施形態では電子黒板を一例として説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
【0216】
また、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、ペン先の座標を超音波により検出してもよい。また、ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークデータとしてプロジェクターが描画(投影)する。
【0217】
また、図6などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、一つの処理単位が更に多くの処理を含むように分割することもできる。
【0218】
また、表示装置2が行う処理の一部を、表示装置2とネットワークを介して接続されたサーバーが行ってもよい。
【0219】
また、本実施形態において、比較の対象として閾値が例示されていたとしても閾値は例示された値には限定されない。このため、本実施形態では、全ての閾値に関し、閾値未満と閾値以下という記載は同等の意味を持ち、閾値超過と閾値以上という記載は同等の意味を持つ。例えば、閾値を11とした場合の閾値未満という記載は閾値が10である場合の閾値以下と同等の意味を持つ。また、閾値を10とした場合の閾値超過という記載は閾値が11である場合の閾値以上と同等の意味を持つ。
【0220】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0221】
接触位置検出部21は受付手段の一例である。構成検出部32は検出手段の一例である。表示制御部26は表示制御手段の一例である。操作受付部29は操作受付手段の一例である。マルチディスプレー制御部33は制御手段の一例である。ネットワーク通信部28は通信手段の一例である。
【符号の説明】
【0222】
2 表示装置
【先行技術文献】
【特許文献】
【0223】
【文献】特開2010‐134876号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39
図40
図41
図42
図43
図44