IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2024-8833表示装置、操作方法、プログラム、表示システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024008833
(43)【公開日】2024-01-19
(54)【発明の名称】表示装置、操作方法、プログラム、表示システム
(51)【国際特許分類】
   G06F 3/0488 20220101AFI20240112BHJP
   G06F 3/04883 20220101ALI20240112BHJP
   G06F 3/041 20060101ALI20240112BHJP
【FI】
G06F3/0488
G06F3/04883
G06F3/041 580
G06F3/041 595
G06F3/041 560
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2023071657
(22)【出願日】2023-04-25
(31)【優先権主張番号】P 2022109882
(32)【優先日】2022-07-07
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】北澤 和紀
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA09
5E555AA16
5E555BA01
5E555BA28
5E555BB01
5E555BB28
5E555BC07
5E555BC09
5E555CA13
5E555CA14
5E555CB10
5E555CB11
5E555CB12
5E555CB22
5E555CB59
5E555CB74
5E555CC01
5E555CC03
5E555CC11
5E555DB41
5E555DB56
5E555DC13
5E555EA11
5E555EA14
5E555FA00
(57)【要約】
【課題】ストロークデータの入力と外部装置の操作の切り替えが不要な表示装置を提供すること。
【解決手段】本発明は、外部装置6から入力される映像を表示できる表示装置2であって、タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、前記入力手段の座標が前記映像の領域であり、所定の条件を満たす場合、前記外部装置に前記座標を送信する通信部と、前記入力手段の座標が前記映像の領域であり、前記所定の条件を満たさない場合、前記座標に基づくストロークデータを前記映像に重ねて表示する表示制御部と、を有することを特徴とする。
【選択図】図1
【特許請求の範囲】
【請求項1】
外部装置から入力される映像を表示できる表示装置であって、
タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、
所定の条件を満たす場合、前記外部装置に前記入力手段の座標を送信する通信部と、
前記所定の条件を満たさない場合、前記入力手段の座標に基づくストロークデータを前記映像に重ねて表示する表示制御部と、
を有することを特徴とする表示装置。
【請求項2】
前記タッチパネルに接触した前記入力手段の座標を検出する接触検出部を有し、
前記所定の条件を満たす場合、前記通信部は、前記外部装置に前記タッチパネルに接触した前記入力手段の座標を送信し、
前記所定の条件を満たさない場合、前記表示制御部は、前記タッチパネルに接触した前記入力手段の前記座標に基づくストロークデータを前記映像に重ねて表示することを特徴とする請求項1に記載の表示装置。
【請求項3】
前記所定の条件を満たす場合とは、前記入力手段が指であることであり、
前記所定の条件を満たさない場合とは、前記入力手段が前記指より細い棒状部材であることである請求項2に記載の表示装置。
【請求項4】
前記所定の条件を満たす場合とは、前記入力手段が相対的に細い第一の棒状部材であることであり、
前記所定の条件を満たさない場合とは、前記入力手段が相対的に太い第二の棒状部材であることである請求項3に記載の表示装置。
【請求項5】
前記タッチパネルの前記映像の領域に接触した前記入力手段の面積がしきい値以上の場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段の面積がしきい値未満の場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする請求項4に記載の表示装置。
【請求項6】
前記タッチパネルの前記映像の領域に接触した前記入力手段から、接触信号を受信しない場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段から、前記接触信号を受信した場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする請求項3に記載の表示装置。
【請求項7】
前記タッチパネルの前記映像の領域に接触した前記入力手段の押圧力がしきい値以上でない場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段の前記押圧力がしきい値以上である場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする請求項4に記載の表示装置。
【請求項8】
前記接触検出部は、同時と見なせるタイミングで前記タッチパネルの前記映像の領域に接触した2つの前記入力手段の座標を検出した場合、前記入力手段が指であると判断し、
前記接触検出部が、前記タッチパネルの前記映像の領域に接触した1つのみの前記入力手段の座標を検出した場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする請求項3に記載の表示装置。
【請求項9】
前記表示制御部は、画面全体のうちの一部領域に予め前記映像を表示しており、
前記タッチパネルに接触した前記入力手段の座標が前記一部領域である場合のみ、前記所定の条件を判断し、
前記タッチパネルに接触した前記入力手段の座標が前記一部領域でない場合、前記表示制御部は、前記座標に基づくストロークデータを表示することを特徴とする請求項2~8のいずれか1項に記載の表示装置。
【請求項10】
前記一部領域は前記画面全体において移動可能であることを特徴とする請求項9に記載の表示装置。
【請求項11】
前記表示制御部が、前記外部装置からの映像を表示していない場合、
前記所定の条件に関わらず、前記タッチパネルに接触した前記入力手段の座標に基づくストロークデータを表示することを特徴とする請求項1に記載の表示装置。
【請求項12】
前記所定の条件を満たす場合とは、前記タッチパネルにしきい値未満に接近し、かつ、前記検出部が、前記映像の領域に対して接触する前の前記入力手段の非接触座標を検出した場合であり、
前記所定の条件を満たさない場合とは、接触検出部が、前記映像の領域に対して前記入力手段が接触した座標を検出した場合であることである請求項1に記載の表示装置。
【請求項13】
前記所定の条件を満たす場合とは、接触検出部が、前記映像の領域に対して前記入力手段が接触した座標を検出した場合であり、
前記所定の条件を満たさない場合とは、前記タッチパネルにしきい値未満に接近し、かつ、前記検出部が、前記映像の領域に対して接触する前の前記入力手段の非接触座標を検出した場合であることである請求項1に記載の表示装置。
【請求項14】
前記タッチパネルに対ししきい値未満に接近し、かつ、前記タッチパネルに接触する前の前記入力手段の非接触座標を検出する非接触座標検出部を有し、
前記入力手段の前記非接触座標が前記映像の領域である場合、前記通信部は、前記タッチパネルに接触した前記入力手段の座標を前記外部装置に送信し、
前記接触検出部が前記タッチパネルに接触した前記入力手段の座標を検出し、前記座標が前記映像の領域である場合、前記表示制御部は、前記座標に基づくストロークデータを前記映像に重ねて表示することを特徴とする請求項12に記載の表示装置。
【請求項15】
前記入力手段は、指、又は、前記指より細い棒状部材であることを特徴とする請求項12~14のいずれか1項に記載の表示装置。
【請求項16】
前記入力手段の座標を前記外部装置が有するディスプレイ上の座標に変換する座標変換部を有し、
前記通信部は、前記所定の条件を満たす場合、前記座標変換部が変換した座標を前記外部装置に送信することを特徴とする請求項1に記載の表示装置。
【請求項17】
前記所定の条件を満たす場合、前記ストロークデータを含むストローク画像レイヤに対する入力を有効にせず、前記通信部は、前記外部装置に、前記タッチパネルにおいて外部映像レイヤの外部映像領域に接触した前記入力手段の座標を送信し、
前記所定の条件を満たさない場合、前記ストローク画像レイヤに対する入力を有効にすると共に、前記タッチパネルに接触した前記入力手段の前記座標に基づくストロークデータを含むストローク画像レイヤを前記外部映像レイヤに重ねたデータを出力することで、前記ストロークデータを前記映像に重ねて表示する、前記請求項1に記載の表示装置。
【請求項18】
外部装置から入力される映像を表示できる表示装置が行う操作方法であって、
検出部が、タッチパネルにしきい値未満に接近した入力手段の座標を検出するステップと、
所定の条件を満たす場合、通信部が、前記外部装置に前記座標を送信するステップと、
前記所定の条件を満たさない場合、表示制御部が、前記座標に基づくストロークデータを前記映像に重ねて表示するステップと、
を有することを特徴とする操作方法。
【請求項19】
外部装置から入力される映像を表示できる表示装置を、
タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、
所定の条件を満たす場合、前記外部装置に前記座標を送信する通信部と、
前記所定の条件を満たさない場合、前記座標に基づくストロークデータを前記映像に重ねて表示する表示制御部、
として機能させるためのプログラム。
【請求項20】
外部装置から入力される映像を表示できる表示装置と、情報処理装置とがネットワークを介して通信する表示システムであって、
前記表示装置は、
タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、
前記入力手段の座標と前記映像の領域の座標を前記情報処理装置に送信し、所定の条件を満たすか否かの判断結果を受信する第二通信部と、
所定の条件を満たす場合、前記外部装置に前記座標を送信する通信部と、
前記所定の条件を満たさない場合、前記座標に基づくストロークデータを前記映像に重ねて表示する表示制御部と、を有し、
前記情報処理装置は、
前記表示装置から受信した、前記入力手段の座標と前記映像の領域の座標に基づいて、所定の条件を満たすか否かを判断した前記判断結果を前記表示装置に送信することを特徴とする表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、操作方法、プログラム、及び、表示システムに関する。
【背景技術】
【0002】
タッチパネル式のディスプレイにユーザーがスタイラスペンや指などの入力手段でストロークデータを描画し、いくつかのストロークデータで形成される手書きデータを表示する電子黒板などの表示装置が知られている。また、表示装置には、PC(Personal Computer)などの外部装置が送信する映像を画面に表示する機能を有しているものがある。
【0003】
ユーザーが表示装置に対して行う操作により映像を送信している外部装置を操作する技術が知られている(例えば、特許文献1参照。)。特許文献1には、表示装置のディスプレイ上の特定の領域にスタイラスペンが触れた場合、その座標情報を外部装置に送信する技術が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術は、ストロークデータの入力と外部装置の操作をユーザーが切り替える必要があるという問題があった。ストロークデータの入力及び外部装置の操作のいずれもタッチパネルに対する同じような操作であるため、表示装置が自動判別することが困難だった。このため、表示装置が外部装置の映像を表示している場合、ユーザーが映像上にストロークデータを手書きするのか、外部装置を操作するのかを、ユーザーがボタン等の操作で明示的に指定する必要があった。
【0005】
本発明は、上記課題に鑑み、ストロークデータの入力と外部装置の操作の切り替えが不要な表示装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、外部装置から入力される映像を表示できる表示装置であって、タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、所定の条件を満たす場合、前記外部装置に前記座標を送信する通信部と、前記所定の条件を満たさない場合、前記座標に基づくストロークデータを前記映像に重ねて表示する表示制御部と、を有することを特徴とする。
【発明の効果】
【0007】
ストロークデータの入力と外部装置の操作の切り替えが不要な表示装置を提供することができる。
【図面の簡単な説明】
【0008】
図1】手書き入力と外部装置の操作の切り替えについて表示装置が行う処理の概略を説明する図である。
図2】通信システムの全体構成図の一例である。
図3】表示装置のハードウェア構成図の一例である。
図4】表示装置が表示する各画像レイヤの構成図の一例である。
図5】外部映像の表示例を説明する図である。
図6】表示装置が有する機能をブロックに分けて説明する機能ブロック図の一例である。
図7】ディスプレイにおける接触座標から外部装置のディスプレイにおける接触座標への変換方法を説明する図である。
図8】外部装置が、表示装置から送信された接触座標により受け付け可能な操作の一例を示す図である。
図9】入力手段がディスプレイと接触した面積により判断部が入力手段を判断する方法を説明する図である。
図10】スタイラスペンが表示装置と通信できることを利用して判断部が入力手段を判断する方法を説明する図である。
図11】ディスプレイに対する押圧力により判断部が入力手段を判断する方法を説明する図である。
図12】入力手段が2つの場合、指であると判断する判断方法を説明する図である。
図13】入力手段がスタイラスペン又は指のいずれであるかを接触面積で判断する処理を説明するフローチャート図の一例である。
図14】入力手段がスタイラスペン又は指のいずれであるかを接触信号の有無で判断する処理を説明するフローチャート図の一例である。
図15】入力手段がスタイラスペン又は指のいずれであるかを押圧力で判断する処理を説明するフローチャート図の一例である。
図16】入力手段がスタイラスペン又は指のいずれであるかを2つの入力手段が検出されるかどうかで判断する処理を説明するフローチャート図の一例である。
図17】タッチイベントかペンイベントかに応じて、ストロークデータの手書き入力と外部装置への接触座標の送信の切り替えを行う処理を説明するフローチャート図の一例である。
図18】ホバリングによる非接触座標の検出を説明する図である。
図19】入力手段がディスプレイに接触したか否かに応じて、タッチイベントかペンイベントかを判断部が判断する処理を説明するフローチャート図の一例である。
図20】表示システムの構成例を示す図である。
図21】コンピュータの一例のハードウェア構成を示す図である。
図22図20の表示システムにおける、表示装置と情報処理装置の機能ブロック図の一例である。
図23】情報処理装置を有する表示システムの全体的な動作を示すシーケンス図の一例である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として、表示装置と表示装置が行う操作方法について説明する。
【実施例0010】
<手書き入力と外部装置の操作の切り替え>
図1は、手書き入力と外部装置の操作の切り替えについて表示装置2が行う処理の概略を説明する図である。図1(a)に示すように、表示装置2と外部装置6がHDMI(登録商標)等のケーブルで接続されている。外部装置6が表示している画面を表示装置2が大画面で表示することができる。ユーザーとしては、表示装置2が表示する外部映像に対しストロークデータを手書きしたい場合もあるし、表示装置2のタッチパネル機能を使って、外部装置6で動作しているアプリケーションを操作したい場合もある。
【0011】
このような場合、従来は、ユーザーが外部映像に手書きするか、外部装置6を操作するかを、ユーザーがボタン等の操作で明示的に指定する必要があり、操作工数が多くなっていた。そこで、本実施例の表示装置2は、所定の条件を満たすか否かにより、外部映像へのストロークデータか、外部装置6の操作かを判断する。本実施例の所定の条件は、入力手段が指かスタイラスペンかである。
【0012】
図1(b)に示すように、指11による入力(タッチイベント)を検出した場合、表示装置2は、指11の座標を外部装置6のディスプレイ15の座標に変換して外部装置6にUSB(Universal Serial Bus)経由で送信する。図1(c)に示すように、スタイラスペンによる入力(ペンイベント)を検出した場合、表示装置2はスタイラスペンによるストロークデータの手書きを受け付けてストロークデータを表示する。
【0013】
なお、入力手段が指11かスタイラスペン4かの判断方法として、後述するように例えば以下の方法がある。
・入力手段の接触面積
・入力手段の接触幅あるいは径
・接触信号の有無
・入力手段のディスプレイに対する押圧力
・2つの接触座標(入力手段)が検出されるか否か
このように本実施例では、ユーザーが指11又はスタイラスペン4を使い分けて操作することで、表示装置2が自動的にストロークデータの手書き入力と外部装置6の操作を自動的に判別するので、ユーザーはストロークデータの手書き入力と外部装置6の操作の切り替えのための操作が不要となる。
【0014】
<用語について>
イベントとは、表示装置2がユーザーによる処理要求を受け付けることをいう。イベントには、ペンイベント及びタッチイベントがある。イベントはユーザーによる処理要求を受け付けることで開始し、処理要求に応じた処理が終了するとイベントも終了する。ペンイベントとは、接触座標に基づいたストロークデータの入力を受け付けるイベントをいう。タッチイベントとは、接触座標又は非接触座標に基づく外部装置6の操作を受け付けるイベントをいう。実施例1、3では、説明の便宜上、スタイラスペン4の接触をペンイベント、指11の接触をタッチイベントと判断するが、この関係は逆でもよい。実施例2では、入力手段の種類とペンイベント又はタッチイベントとの間に対応はない(赤外線遮断方式と静電容量方式の場合、入力手段は指11とスタイラスペン4のどちらでもよく、電磁誘導方式の場合、入力手段はスタイラスペン4である)。
【0015】
外部装置とは、表示装置2とは別体の装置であり、有線又は無線で表示装置2と通信可能な装置をいう。外部装置は例えばPC等である。
【0016】
タッチパネルとは、入力手段により接触された座標又は入力手段がしきい値未満に接近した際の座標の入力を受け付ける受付装置(受付手段、受付表示手段)である。タッチパネルは、座標だけでなく、接触面積や圧力を検出できてよい。タッチパネルは、タッチ画面、タッチスクリーン等ともいう。
【0017】
座標とは、原点を基準として任意の点の位置を指定するために与えられる数の組をいう。数の組は、2次元では2つの数の組、3次元では3つの数の組である。本実施形態では、ディスプレイ内の座標が主に使用されるので数の組は、2つの数の組である。
【0018】
映像(映像データ)とは、ディスプレイやスクリーンなどに映し出される画像である。映像は、静止画でもよいし動画でもよい。
【0019】
接触とは近づいて触れることをいう。接触は、スタイラスペン又はタッチパネルの少なくとも一方が接触を検出するために最小限必要な圧力や変形を伴ってよい。すなわち、視覚的にスタイラスペンがディスプレイに接していても、接触とは判断されない場合があってよい。
【0020】
非接触とは、触れていないことをいう。接触を検出するために最小限必要な圧力や変形を伴わない状態では、視覚的にスタイラスペンがディスプレイに接していても、非接触と判断される場合があってよい。
【0021】
棒状部材とは、棒のような形状の部材をいうが、本実施形態では、スタイラスペンの代用となり得る部材であればよい。棒状部材は他の用途に使用されるものでもよい。例えば、筆記具は紙に筆記するモノだが、スタイラスペンの代用になり得る。
【0022】
接触信号とは、スタイラスペンが表示装置2のディスプレイへ押圧された時に、スタイラスペンが押圧されたことを示すため表示装置2に送信する電気的な信号である。押圧先は必ずしも表示装置2のディスプレイでなくてもよい。
【0023】
押圧力とは、スタイラスペンをディスプレイに圧して押さえ付ける際の圧力をいう。押圧力は、検出された圧力そのままでもよいし、スタイラスペンがディスプレイに接触した面積で検出された圧力を割った単位面積当たりの値でもよい。
【0024】
画面全体とは、ディスプレイのうち映像を表示可能な有効画素領域の全体をいう。画面全体は、有効画素領域のうち一部領域(例えば表示内容が固定されておりストロークデータの表示ができない)を除いてもよい。一部領域とは、画面全体より小さい一部の領域をいう。一部領域の場所は固定でなくてよい。一部領域の形状は矩形でなく、円形等でもよいし、ユーザーが指定できてもよい。
【0025】
重ねて表示するとは、映像の上に別の映像が重なって表示されることをいう。視線側の映像は視認可能に表示され、視線に対し奥側の映像は視認が困難になる。視線に対し奥側の映像を視認可能にする方法として、視線側の映像の透明度を調整する方法がある。重ねて表示する方法としてレイヤを使用する方法がある。ストローク画像のレイヤを外部映像のレイヤよりも視線側に配置することで、外部映像にストロークデータが重なって表示される。
【0026】
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、スタイラスペン4、人の指11や手、棒状部材などがある。スタイラスペン4は、棒状部材であればよくバッテリーを有して静電容量を変化させたり、表示装置2と通信したりすることまでは要さない。ただし、スタイラスペン4がバッテリーを有する電子ペンであってもよい。
【0027】
ユーザーがディスプレイに入力手段を押しつけてから連続的に移動させた後、ディスプレイから離すという一連の操作をストロークという。ストロークは、ディスプレイに接触することなく、ユーザーの動きを追跡することを含む。この場合、ユーザーが、例えばマウスやポインティングデバイスを使用して、ユーザーのジェスチャ、ユーザーの手又は足によるボタンの押下、又は他の方法で、ストロークを開始させてもよい。更に、ユーザーは、同じ又は異なるジェスチャ、ボタンを離す、又はマウスやポインティングデバイスを使用して、ストロークを終了させてもよい。
【0028】
ストロークデータとは、ユーザーがストロークにより入力したデータであり、入力手段の座標の軌跡に基づいてディスプレイに表示されるデータである。ストロークデータは適宜、補間されてよい。手書きデータとは、1つ以上のストロークデータを有するデータである。手書き入力とは、ユーザーによって、手書きデータが入力されることを示している。手書き入力は、タッチインターフェース、指やスタイラスペンなどの触覚オブジェクト、又はユーザーの体を使って実行されてもよい。また、手書き入力は、ジェスチャーベースの入力、手の動きの追跡入力、又はユーザーによる他のタッチフリー入力など、他のタイプの入力を介して実行されてもよい。
【0029】
外部装置6とは、表示装置2とは別体の装置である。外部装置6は、映像を表示装置2に送信して表示させ、表示装置2から接触座標により操作を受け付ける装置であればよい。
【0030】
所定の条件とは、入力手段が指11か否か判断するための条件、又は、入力手段が非接触状態か否かを判断するための条件である。入力手段として指11を用いて入力されたと判断した場合が、所定の条件を満たす場合の一例である。所定の条件を満たす場合は、以下の何れかであってもよい。
・タッチパネルに対する接触面積、あるいは、接触領域の幅が一定以上であること
・接触信号が有ること
・押圧力(変形量など)が一定以上であること
・接触座標が一定の数以上であること
一方、入力手段として指以外であるスタイラスペンや棒状部材などで入力されたと判断した場合が、所定の条件を満たさない場合の一例である。所定の条件を満たさない場合は、以下の何れかであってもよい。
・タッチパネルに対する接触面積、あるいは、接触領域の幅が一定以下(未満)であること
・接触信号が無いこと
・押圧力(変形量など)が一定以下(未満)であること
・接触座標が一定の数以下(未満)であること
【0031】
<システム構成例>
図2は、本実施例の通信システムの全体構成図である。なお、図2では、説明を簡略化するために、2台の表示装置2a,2b及びこれに付随するスタイラスペン4a,4b等を示しているだけであって、3台以上の表示装置2やスタイラスペン等が利用されてもよい。
【0032】
図2に示されているように、通信システム1は、複数の表示装置2a,2b、複数のスタイラスペン4a,4b、USBメモリ5a,5b、外部装置(Personal Computer)6a,6b、テレビ(ビデオ)会議端末7a,7b、及びPC8を有する。また、表示装置2a,2b、及びPC8は、通信ネットワーク9を介して通信可能に接続されている。更に、複数の表示装置2a,2bには、それぞれディスプレイ3a,3bが設けられている。
【0033】
また、表示装置2aには、スタイラスペン4aによって生じたイベント(ディスプレイ3aにスタイラスペン4aのペン先、又は、スタイラスペン4aのペン尻のタッチ)による描画された画像を、ディスプレイ3aに表示させることができる。なお、スタイラスペン4aだけでなく、ユーザーの手Ha(以下、指11を含む)等によって生じたイベント(拡大、縮小、ページめくり等)に基づいて、ディスプレイ3a上に表示されている画像を変更させることもできる。
【0034】
また、表示装置2aには、USBメモリ5aが接続可能であり、表示装置2aはUSBメモリ5aからPDF等の電子ファイルを読み出したり、表示装置2aはUSBメモリ5aに電子ファイルを記録したりすることができる。また、表示装置2aには、DisplayPort(登録商標)、DVI(Digital Visual Interface)、HDMI(High-Definition Multimedia Interface。登録商標)及びVGA(Video Graphics Array)等の規格による通信が可能なケーブル10a1を介して、外部装置6aが接続されている。更に、表示装置2aは、USBケーブル、USB Type-C等の通信ケーブル10a3を介して、外部装置6aと接続されている。表示装置2aは、ディスプレイ3aに対する入力手段の接触によってイベントを発生させ、このイベントを示すイベント情報を、マウスやキーボード等の入力装置からのイベントと同様に、通信ケーブル10a3を介して外部装置6aに送信する。
【0035】
ケーブル10a1と通信ケーブル10a3が一本にまとめられてもよい。この場合、ケーブルとしては、LANケーブル(1対1通信でもよいし、ネットワーク接続でもよい)やUSB Type-Cケーブル等が使用されてよい。
【0036】
同じく、表示装置2aには、上記規格による通信が可能なケーブル10a2を介して、テレビ(ビデオ)会議端末7aが接続されている。なお、外部装置6a、及びテレビ会議端末7aは、無線LAN、Bluetooth(登録商標)等の各種無線通信プロトコルに準拠した無線通信により、表示装置2aと通信してもよい。
【0037】
一方、表示装置2bが設置されている他の拠点では、上記と同様に、ディスプレイ3bを備えた表示装置2b、スタイラスペン4b、USBメモリ5b、外部装置6b、テレビ会議端末7b、ケーブル10b1、ケーブル10b2が利用される。更に、ユーザーの手Hb等によって生じたイベントに基づいて、ディスプレイ3b上に表示されている画像を変更させることもできる。
【0038】
これにより、一の拠点で表示装置2aのディスプレイ3a上に描画された画像は、他の拠点で表示装置2bのディスプレイ3b上にも表示され、逆に他の拠点で表示装置2bのディスプレイ3b上に描画された画像は、一の拠点で表示装置2aのディスプレイ3a上に表示される。このように、通信システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
【0039】
なお、以下では、複数の表示装置2のうち任意の表示装置2を示す場合には「表示装置2」と示す。複数のディスプレイのうち任意のディスプレイを示す場合には「ディスプレイ3」と示す。複数のスタイラスペンのうち任意のスタイラスペンを示す場合には「スタイラスペン4」と示す。複数のUSBメモリのうち任意のUSBメモリを示す場合には「USBメモリ5」と示す。複数の外部装置のうち任意の外部装置を示す場合には「外部装置6」と示す。複数のテレビ会議端末のうち任意のテレビ会議端末を示す場合には「テレビ会議端末7」と示す。また、複数のユーザーの手のうち任意の手を示す場合には「手H」と示す。複数のケーブルのうち任意のケーブルを示す場合には「ケーブル10」と示す。
【0040】
また、本実施例では、表示装置2の一例として、電子黒板を説明するが、これに限るものではなく、表示装置2の他の例として、表示装置2は、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等であってもよい。また、外部装置6の一例として、ノートPCを説明するが、これに限るものではなく、外部装置6の他の例として、外部装置6は、デスクトップ型PCやタブレット型PC、PDA、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末であってもよい。更に、通信ネットワークには、インターネット、LAN(Local Area Network)、携帯電話通信網等が含まれる。また、本実施例では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、記録媒体は、SDカード等の各種記録メディアであってもよい。
【0041】
<表示装置のハードウェア構成>
続いて、図3を用いて、本実施例の表示装置2のハードウェア構成を説明する。なお、図3は、表示装置2のハードウェア構成図である。図3に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークI/F205、及び、外部機器接続I/F(Interface)206を備えている。
【0042】
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
【0043】
SSD204は、OSや表示装置2用のプログラム等の各種データを記憶する。このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションプログラムでもよい。したがって、表示装置2は、普段は汎用的な情報処理装置として利用されるが、ユーザーがアプリケーションプログラムを実行すると、表示装置2の専用機と同様、ユーザーが手書きすることができる。
【0044】
ネットワークI/F205は、通信ネットワーク9との通信を制御する。外部機器接続I/F206は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリ5、外付け機器(マイク240、スピーカ250、カメラ260)である。
【0045】
また、表示装置2は、キャプチャデバイス211、GPU212、ディスプレイコントローラ213、接触センサ214、センサコントローラ215、電子ペンコントローラ216、近距離通信回路219、及び近距離通信回路219のアンテナ219a、電源スイッチ222及び選択スイッチ類223を備えている。
【0046】
これらのうち、キャプチャデバイス211は、外付けの外部装置6のディスプレイ15に表示されている映像を静止画又は動画として取り込む。GPU(Graphics Processing Unit)212は、グラフィクスを専門に扱う半導体チップである。ディスプレイコントローラ213は、GPU212からの映像をディスプレイ3等へ出力するために画面表示の制御及び管理を行う。接触センサ214は、ディスプレイ3上にスタイラスペン4やユーザーの手H等が接触したことを検出する。センサコントローラ215は、接触センサ214の処理を制御する。
【0047】
接触センサ214は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ214は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ215に出力し、センサコントローラ215が、物体の接触位置である座標位置を特定する。また、接触センサ214は、スタイラスペン4が先端から送信する電磁波を受信することで、スタイラスペン4が接触する前にスタイラスペン4の座標を検出する。
【0048】
電子ペンコントローラ216は、スタイラスペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。近距離通信回路219は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。電源スイッチ222は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。選択スイッチ類223は、例えば、ディスプレイ3の表示の明暗や色合い等を調整するためのスイッチ群である。
【0049】
更に、表示装置2は、バスライン210を備えている。バスライン210は、図3に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0050】
なお、接触センサ214は、赤外線遮断方式に限らず、静電容量の変化を検出することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検出して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、電子ペンコントローラ216が、スタイラスペン4のペン先及びペン尻だけでなく、スタイラスペン4のユーザーが握る部分や、その他のスタイラスペンの部分のタッチの有無を判断するようにしてもよい。
【0051】
<レイヤの構成>
図4は、表示装置2が表示する各画像レイヤの構成図である。図4に示すように、表示装置2は、UI画像(A)、ストローク画像(B)、外部映像(C)、及び、背景画像(D)を重畳して1つの画像を表示する。(A)(B)(C)(D)の各画像レイヤは、UI画像レイヤ、ストローク画像レイヤ、外部映像レイヤ、背景画像レイヤである。各レイヤは以下のデータ(メニューボタン、ストロークデータ、外部装置6が入力した画像データ、背景の画像データ)を含むように表示処理及び入力処理される。
【0052】
UI画像(A)は、UI(ユーザーインターフェイス)画像であり、ユーザーが操作するメニューボタン等を表示する。
【0053】
ストローク画像(B)は、ユーザーが手書きした1つ以上のストロークデータ(手書きデータ)が表示された画像である。
【0054】
外部映像(C)は、外部装置6が入力した画像(静止画、動画)である。外部装置6にはサーバーが含まれてもよい。外部装置6は、外部映像を表示装置2に入力し、表示装置2から接触座標で操作可能な装置であればよい。外部装置6が表示装置2に送信する外部映像は、デスクトップ画面や任意のアプリケーションの画面でよい。すなわち、外部装置6が表示している画面が外部映像である。したがって、外部映像がどのようなものかは、外部装置6がどのようなアプリケーションを実行しているかに依存する。また、外部装置6が表示していないが、表示装置2に送信することができる映像であり、再生や一時停止などの操作を接触座標で受け付けることができれば、本実施例の外部映像に含まれる。
【0055】
背景画像(D)は、予め保持されている無地、グリッド表示等、手書きの際に背景となる画像である。なお、保存された静止画など、予め保持されている画像は背景画像となりうる。
【0056】
表示装置2は、4つのレイヤを選択的に表示することもできる。例えば、UI画像(A)、ストローク画像(B)、外部映像(C)、又は背景画像(D)のうち、1つ以上の任意の画像を表示させることができる。
【0057】
<外部映像の表示例>
図5は、外部映像の表示例を説明する図である。図5(a)では、外部映像110を表示装置2がディスプレイ3の全面に表示している。図5(b)では、外部映像110を表示装置2がディスプレイ3の画面全体のうち一部領域40に表示している。一部領域40とは、外部映像110が表示されている領域である。
【0058】
本実施例によれば、ユーザーが明示的にストロークデータの手書き入力と外部装置6の操作を切り替えなくても、以下のような操作が可能になる。
図5(a)(b)のいずれの場合でも、ユーザーはスタイラスペン4を用いて、外部映像110にストロークデータ51,52を手書きできる。
・また、ユーザーは、図5(b)において、外部映像110が表示されている一部領域40以外の領域に対し、指11又はスタイラスペン4を用いてストロークデータ53を手書きできる。
・ユーザーは、外部映像110が表示されている一部領域40に対し、指11を用いて外部装置6を操作できる。
【0059】
なお、表示装置2はストロークデータ51,52をテキストデータに変換したり、図形や表に変換したりすることもできる。また、いったん、一部領域40に手書きしたストロークデータ51,52を移動したり拡大・縮小したりすることもできる。
【0060】
図5(a)(b)に示すように、ディスプレイ3の右端及び下端にはUI画像(A)に相当するメニュー領域60がある。右端には、ユーザーが操作するボタン類61がまとめられている。ボタン類61は、ストロークデータの色、太さ、線種などの設定、ネットワーク設定、アンドゥ・リドゥ、消しゴム、等のユーザーが使用する頻度が高いボタンである。下端には、ページに関する情報62が表示されている。ページとは、ディスプレイ3の1画面分に表示された内容をいう。ユーザーがディスプレイ3の広さを超えてストロークデータ等を手書きできる場合でも、その全体をページという。ページに関する情報62は、各ページのサムネイル画像、新規ページ追加ボタンなどである。ユーザーは、ボタン類61及びページに関する情報62の位置を移動可能である。
【0061】
なお、ユーザーは、図5(a)ように外部映像110を全面に表示する状態と図5(b)のように一部領域40に表示する状態とを手動で切り替えることができる。また、ユーザーは、図5(b)のように一部領域40が表示される位置を移動可能であり、一部領域40の大きさを拡大又は縮小したりできる。
【0062】
<機能について>
図6は、表示装置2が有する機能をブロックに分けて説明する機能ブロック図の一例である。図6に示すように、表示装置2は、外部映像入力部21、接触検出部22、通信部23、重畳画像生成部24、ストロークデータ描画部25、解析部26、座標変換部27、表示制御部28、判断部29、及び、非接触座標検出部30を有している。表示装置2が有するこれらの機能は、例えば、図3に示したCPU201がSSD204からRAM203に展開されたプログラムを実行することで実現される機能又は手段である。
【0063】
外部映像入力部21は、CPU201によるプログラムの実行とキャプチャデバイス211等により実現され、外部装置6が継続的に送信する外部映像の入力を受け付ける。入力される外部映像は、主に外部装置6が自機のディスプレイに表示している画面の映像であるが、外部装置6が保存しているコンテンツを表示装置2に送信してもよい。外部映像入力部21は外部映像を重畳画像生成部24に入力する。
【0064】
なお、外部映像入力部21は、無線LAN、有線LAN又はMiracast(登録商標)等の通信経由で送信された外部映像の入力を受け付けてもよい。
【0065】
接触検出部22は、CPU201によるプログラムの実行と接触センサ214等により実現され、スタイラスペン4又は指11が接触したディスプレイの座標を検出する。この座標は、スタイラスペン4又は指11の太さに応じた広がりを有している。接触検出部22は、ストロークデータ描画部25、解析部26、及び座標変換部27に、接触座標を入力する。なお、接触検出部22は後述の非接触座標検出部30と共に検出部39を構成する。
【0066】
ストロークデータ描画部25は、接触検出部22から入力された接触座標を基にストロークデータを作成する。ストロークデータ描画部25は、時系列に入力される接触座標を補間し、設定された太さや色のストロークデータを作成する。ストロークデータ描画部25はストロークデータを重畳画像生成部24に入力する。なおストロークデータ描画部25は、ストロークデータをストローク画像レイヤとして作成し重畳画像生成部24に入力してもよい。
【0067】
重畳画像生成部24は、外部映像入力部21から入力された外部映像に、ストロークデータ描画部25から入力されたストロークデータを重畳して(合成して)、ディスプレイ3への出力データを作成し、表示制御部28に入力する。表示制御部28は、出力データをディスプレイ3に表示する。なお重畳画像生成部24は、前述の各画像レイヤを作成・管理してもよい。外部映像入力部21から入力された外部映像を外部映像レイヤとして作成すると共に、ストロークデータを含むストローク画像レイヤを外部映像レイヤに重畳して(合成して)ディスプレイ3への出力データを作成し、表示制御部28に入力してもよい。
【0068】
解析部26は、入力手段が指11かスタイラスペン4であるかを判断するための情報を取得して、判断部29に入力する。判断するための情報は、入力手段の接触面積、接触信号の有無、入力手段のディスプレイに対する押圧力、又は、2つの接触座標(入力手段)が検出されるか否か、等である。
【0069】
例えば、解析部26は、接触検出部22から入力された広がりがある接触座標に基づいて、スタイラスペン4又は指11が接触した接触面積を決定する。面積は、接触座標の外接矩形の面積など、広がりがある接触座標と相関するものであればよい。接触信号は、電子ペンコントローラ216がスタイラスペン4から受信したディスプレイ3への押圧時の信号である。解析部26は電子ペンコントローラ216を介して接触信号を取得する。押圧力は、ディスプレイ3のタッチパネルが検出する圧力である。解析部26は接触検出部22から押圧力を取得する。2つの接触座標については、接触センサ214がマルチタッチ対応であれば、解析部26は、接触検出部22が検出した接触座標の数だけ接触座標を取得できる。
【0070】
判断部29は、接触面積としきい値を比較し、タッチイベント(指が接触)かペンイベント(スタイラスペン4が接触)かを判断する。一般に、指11の方がスタイラスペン4より太いので、接触面積がしきい値以上であれば指11と、接触面積がしきい値未満であればスタイラスペン4と判断する。また、判断部29は、接触信号を受信しない場合はタッチイベント(指11が接触)、受信した場合はペンイベント(スタイラスペン4が接触)と判断する。また、判断部29は、押圧力がしきい値以上でない場合に指11と、押圧力がしきい値以上である場合にスタイラスペン4と判断する。また、判断部29は、ほぼ同時に2つの接触座標を検出した場合に指11と、そうでない場合にスタイラスペン4と判断する。
【0071】
座標変換部27は、ディスプレイ3における接触座標を、外部装置6のディスプレイ15における接触座標に変換する。変換の詳細は図7において説明する。座標変換部27は、通信部23に変換後の接触座標を入力する。
【0072】
通信部23は、通信ケーブル10a3を介して変換後の接触座標を、外部装置6に送信する。外部装置6は変換後の接触座標を受信し、外部装置6のOSや動作しているアプリケーションに対する操作を受け付ける。外部装置6のOSは、ポインティングデバイスを用いた自機に対する直接の操作を受け付けることができる。ポインティングデバイスとは、マウス、トラックボール、又はタッチパネルなど、座標を指定した操作を受け付ける装置又は機能である。したがって、外部装置6は、接触座標を処理する特別なアプリケーションがなくでも、接触座標を自機に対するポインティングデバイスの操作と同様に扱うことができる。外部装置6が接触座標で受け付け可能な操作の一例を図8に示す。
【0073】
非接触座標検出部30は、入力手段がホバーした非接触座標を検出する。換言すると、非接触座標検出部30は入力手段がディスプレイ3に対し、しきい値未満に存在するが接触していない状態(接触する前)の非接触座標を検出する。ホバー操作とは、画面に触れず、指11又はスタイラスペン4が浮いた状態で行う操作である。表示装置2は、ホバー操作を受け付けることができる。詳細は実施例2にて説明する。
【0074】
なお、外部装置6は、ホバー操作可能でもそうでなくてもよい。外部装置6におけるホバー操作は、例えば、対象物にマウスカーソルを重ねたマウスオーバーと同じ操作である。
【0075】
<ディスプレイにおける接触座標から外部装置のディスプレイにおける接触座標への変換>
図7は、ディスプレイ3における接触座標から外部装置6のディスプレイ15における接触座標への変換方法を説明する図である。例えば、ディスプレイ3における座標の原点(0,0)を表示装置2の左上のコーナーとする。外部映像が表示される一部領域40の左上のコーナーの座標を(a,b)とする。また、一部領域40の高さをH、幅をWとする。以上から、一部領域40における任意の座標(x、y)は、外部装置6のディスプレイ15の座標(X,Y)に以下のように変換される。
X=(x-a)/W Y=(y-b)/H
【0076】
座標変換部27はこの式でディスプレイ3における座標を、外部装置6のディスプレイ15における接触座標に変換する。なお、ディスプレイ3の全体に外部映像が表示されている場合、座標変換部27が座標変換を行わなくてもよい。例えば、表示装置2のディスプレイ3と外部装置6のディスプレイ15が同じ画素数の場合、座標変換が不要である。また、外部装置6がディスプレイ3の画素数を既知である場合、外部装置6が座標変換することができる。
【0077】
<接触座標により外部装置において可能な操作の例>
図8は、外部装置6が、表示装置2から送信された接触座標により受け付け可能な操作の一例を示す。なお、必ずしも図8に示す全ての操作が可能である必要はない。また、外部装置6はスタイラスペン4又は指11のどちらでも操作できるものとし、これらを入力手段と称して説明する。
・タップは、画面上の対象に1つの入力手段で軽く触れ、対象から離す操作をいう。マウスでは、この操作をクリックという。
・プレスアンドホールドは、1つの入力手段で画面上の対象に触れ続け、円が表示された後に対象から離す操作をいう。右クリックメニューが表示される。マウスでは、この操作を右クリックという。
・プレスアンドタップは、1つの入力手段で画面上の対象に触れたまま、もう1つの入力手段で画面をタップする操作をいう。右クリックメニューが表示される。マウスでは、この操作を右クリックという。
・ダブルタップは、画面上の対象を入力手段により2回連続でタップする操作をいう。ユーザーがフォルダを開いたり、プログラムを実行したりするときに使用される。マウスでは、この操作をダブルクリックという。
・ドラッグは、入力手段で画面上の対象に触れ、離さずに目的の場所まで動かして入力手段を対象から離す操作をいう。アイコンの移動や範囲選択などで使用される。マウスではドラッグという。
・パンは、入力手段で画面上に軽くタッチした状態で動かす操作をいう。画面に表示しきれない大きなページや画像を動かし、隠れていた部分を表示する操作をいう。マウスでは、この操作をスクロールという。
・フリックは、入力手段で画面に触れ、払うように動かす操作をいう。入力手段を動かした方向に表示内容をスクロールさせ、ページをめくる際に使用される。
・ズームは、拡大又は縮小する操作をいう。拡大は間隔を開く(拡げる)、縮小は間隔を閉ざす(狭める)ことである。拡大の場合は、1つの入力手段で画面に触れたまま、別のもう1つの入力手段で画面に触れ、2つの入力手段の間隔を開くように動かす操作をいう。縮小の場合は、逆に2つの入力手段でつまむように動かす操作である。マウスでは、この操作はCtrl+スクロールホイールの操作が相当する。
・回転は、1つの入力手段で画面に触れたまま、もう1つの入力手段で画面に触れ、最初に触れた入力手段を中心にして円を描くように動かす操作をいう。
【0078】
<入力手段の判断例>
<<接触面積>>
次に,図9図12を参照して入力手段の判断方法を説明する。図9は、入力手段がディスプレイ3と接触した面積により判断部29が入力手段(スタイラスペン4、指11)を判断する方法を説明する図である。
【0079】
図9(a)は入力手段が指11の場合の接触面積65を示し、図9(b)は入力手段がスタイラスペン4の場合の接触面積66を示す。入力手段が指11の場合、指11は先端が丸みを帯びており、また、指11のディスプレイ3からの反作用で先端が変形して広い接触面積65でディスプレイ3と接触する。入力手段がスタイラスペン4の場合、スタイラスペン4は先端が細くなるようデザインされており、また、スタイラスペン4はディスプレイ3からの反作用で変形しにくいので、狭い接触面積65でディスプレイ3と接触する。したがって、判断部29は接触面積65,66としきい値とを比較して入力手段がスタイラスペン4か指11かを判断できる。しきい値としては適宜、決定されればよいが、一例として、10[mm]等でよい。判断部29は接触面積65がしきい値以上の場合、指11と判断し、接触面積65がしきい値未満の場合、スタイラスペン4と判断する。しきい値は、接触領域の幅(接触領域における最大幅や最大径など)であってもよい。
【0080】
なお、接触面積に基づく判断では、指11とスタイラスペン4の区別だけでなく、相対的に細いスタイラスペン4(第一の棒状部材の一例)と相対的に太いスタイラスペン4(第二の棒状部材の一例)との区別が可能である。
【0081】
<<接触信号の有無>>
次に、図10を参照して接触信号の有無による入力手段の判断方法を説明する。図10は、スタイラスペン4が表示装置2と通信できることを利用して判断部29が入力手段(スタイラスペン4、指11)を判断する方法を説明する図である。図10において、スタイラスペン4はバッテリーを内蔵した電子ペン67である。
【0082】
電子ペン67は、先端に可動部を有し、ディスプレイ3に接触すると可動部が長手方向に移動する。可動部は移動により接触検出センサに接触する。なお、可動部と接触検出センサとの間には、バネ等の弾性部材が設けられており、可動部がディスプレイ3から離されると、その弾性力によって元の位置に戻る。
【0083】
接触検出センサは、可動部がディスプレイ3に接触したことを検出するセンサである。接触検出センサは例えば圧力センサでよい。可動部が接触検出センサに接触すると、当該接触検出センサ内の電流の抵抗値が変化する。電子ペン67が有するマイコンが抵抗値の変化を検出すると、抵抗値の変化を電圧に変換し、電圧をデジタル値である接触信号に変換する。電子ペン67はこの接触信号を表示装置2に送信する。接触信号には電子ペン67を識別する識別情報などが含まれていてよい。
【0084】
したがって、図10(a)に示すように電子ペン67がディスプレイ3に接触していない場合、表示装置2は接触信号を受信しない。図10(b)に示すように電子ペン67がディスプレイ3に接触している場合、表示装置2は接触信号を受信する。図10(b)に示すように指11がディスプレイ3に接触している場合、表示装置2は接触信号を受信しない。以上から、判断部29は、以下のように入力手段を判断できる。
・解析部26がディスプレイ3への入力手段の接触を検出しているが、接触信号を受信しない場合、判断部29は指11と判断する。
・解析部26がディスプレイ3への入力手段の接触を検出しており、接触信号を受信した場合、判断部29はスタイラスペン4と判断する。
【0085】
<<押圧力>>
次に、図11を参照して押圧力による入力手段の判断方法を説明する。図11に示すように、ディスプレイ3が感圧式の場合、押圧力により入力手段を判断できる。図11は、ディスプレイ3に対する押圧力により判断部29が入力手段(スタイラスペン4、指11)を判断する方法を説明する図である。
【0086】
図11(a)は入力手段が指11の場合のディスプレイ3の変形量D1を示し、図11(b)は入力手段がスタイラスペン4の場合のディスプレイ3の変形量D2を示す。入力手段が指11の場合、指11は先端が丸みを帯びており、また、指11のディスプレイ3からの反作用で先端が変形して広い面積でディスプレイ3と接触する。このため、ディスプレイ3は指11の大きさに応じた広い範囲で浅く変形する。この場合、押圧力は小さい。入力手段がスタイラスペン4の場合、スタイラスペン4は先端が細くなるようデザインされており、また、スタイラスペン4はディスプレイ3からの反作用で変形しにくいので、狭い面積でディスプレイ3と接触する。このため、ディスプレイ3は狭い範囲で深く変形する。この場合、押圧力は大きい。したがって、判断部29は押圧力としきい値とを比較して入力手段がスタイラスペン4か指11かを判断できる。判断部29は押圧力がしきい値以上でない場合、指11と判断し、押圧力がしきい値以上の場合、スタイラスペン4と判断する。
【0087】
なお、押圧力に基づく判断では、指11とスタイラスペン4の区別だけでなく、主に先端において、細いスタイラスペン4(第一の棒状部材の一例)と太いスタイラスペン4(第二の棒状部材の一例)との区別が可能である。
【0088】
<<接触座標の数>>
次に、図12を参照して接触座標の数による入力手段の判断方法を説明する。図12は、入力手段(接触座標)が2つの場合、指11であると判断する判断方法を説明する図である。ズーム操作など、ユーザーが二本の指11で外部映像110を操作する場合がある。ズーム操作をユーザーが2つのスタイラスペン4で行うことは希なので、判断部29は入力手段が2つの場合、指11であると判断してよい。
【0089】
なお、複数のユーザーがそれぞれスタイラスペン4を保持し、ディスプレイ3にスタイラスペン4を接触させる場合もある。しかし、複数のユーザーがそれぞれほぼ同時にディスプレイ3にスタイラスペン4を接触させることは希である。したがって、判断部29は、入力手段が2つであり、ほぼ同時に接触した場合、指11であると判断してよい。ほぼ同時とは同時と見なせる程度のタイミングの違いしかないことをいう(例えば1秒未満)。あるいは、更に、2つの入力手段による接触座標の距離が一定以内の場合に、判断部29が、入力手段が指11であると判断してもよい。
【0090】
一方、判断部29は、入力手段(接触座標)が1つのみの場合、スタイラスペン4であると判断する。しかし、入力手段(接触座標)が1つのみであるから、スタイラスペン4で操作したとは限らないので、入力手段(接触座標)の数で判断する場合、ユーザーはズーム操作に限らず常に二本の指11で外部映像110を操作するとよい。
【0091】
なお、ユーザーが三本以上の指11をディスプレイ3に接触させた場合も、二本の場合と同様に処理してよい。
【0092】
<入力手段の判断手順>
続いて、図13図16を参照して、判断部29が、入力手段を判断する処理を説明する。
【0093】
<<接触面積による判断>>
図13は、入力手段がスタイラスペン4又は指11のいずれであるかを接触面積で判断する処理を説明するフローチャート図である。図13の処理は、例えば表示装置2の電源がオンの場合に実行される。
【0094】
解析部26は指11又はスタイラスペン4が接触したか否か判断する(S1)。ステップS1の判断がNoの場合、図13の処理は終了する。
【0095】
ステップS1の判断がYesの場合、解析部26は一部領域40に対する接触か否か判断する(S2)。一部領域40は外部映像が表示されている領域なので、その座標は既知である。ステップS2の判断がNoの場合、一部領域40以外への入力なので、指11かスタイラスペン4かに関わらずストロークデータの入力やメニュー操作と判断される(S6)。
【0096】
ステップS2の判断がYesの場合、判断部29は入力手段の接触面積がしきい値以上か否か判断する(S3)。入力手段の接触面積がしきい値以上と判断されることは、所定の条件を満たす場合に相当する。入力手段の接触面積がしきい値以上でないと判断されることは、所定の条件を満たさない場合に相当する。
【0097】
接触面積がしきい値以上の場合、判断部29は入力手段を指11と判断し、タッチイベントを生成する(S4)。なお、手の側面(掌外沿)の接触を消しゴムと扱う表示装置2では、接触面積がしきい値以上でかつ一定未満であることを判断するとよい。
【0098】
接触面積がしきい値以上でない場合、判断部29は入力手段をスタイラスペン4と判断し、ペンイベントを生成する(S5)。
【0099】
図13の処理によれば、スタイラスペン4がバッテリー等で動作する電子ペンでなくても、ユーザーが指11とスタイラスペン4を使い分けることで、表示装置2が入力手段を判断できる。
【0100】
<<接触信号の有無による判断>>
図14は、入力手段がスタイラスペン4又は指11のいずれであるかを接触信号の有無で判断する処理を説明するフローチャート図である。なお、図14の説明においては主に図13との相違を説明する。ステップS11、S12、S16の処理は図13のステップS1、S2、S6と同様でよい。
【0101】
ステップS13において、判断部29は接触信号を受信しないかどうか判断する(S13)。接触信号を受信しないと判断されることは、所定の条件を満たす場合に相当する。接触信号を受信したと判断されることは、所定の条件を満たさない場合に相当する。
【0102】
接触信号を受信しない場合、判断部29は入力手段を指11と判断し、タッチイベントを生成する(S14)。
【0103】
接触信号を受信した場合、判断部29は入力手段がスタイラスペン4と判断し、ペンイベントを生成する(S15)。
【0104】
図14の処理によれば、スタイラスペン4がバッテリー等で動作する電子ペンであれば、面積の算出などを行わなくても、入力手段が指11かスタイラスペン4かを確実に判断できる。
【0105】
なお、スタイラスペン4が電子ペンであり、ペン先とペン尻などの異なる部位で押圧した場合に、異なる信号を表示装置2に送信する場合がある。この場合、判断部29は、ペン先の押圧信号をペンイベントと判断し、ペン尻の押圧信号をタッチイベントと判断することができる。ユーザーが1つのスタイラスペン4のペン先とペン尻を使い分けることで、表示装置2がタッチイベントかペンイベントかを確実に判断できる。
【0106】
接触信号の有無による入力手段の判断方法では、プロジェクター型の表示装置2にも適用できる。プロジェクター型の表示装置2は、通常のホワイトボード(タッチパネルでない)にプロジェクターが映像を投影する表示装置である。スタイラスペン4の座標はホワイトボードに水平な光軸を有するカメラと、書き込み時のみスタイラスペン4が送信する超音波により決定される。カメラによりスタイラスペン4の方向が分かり、超音波の到達時間で距離が分かる。スタイラスペン4の座標が分かるので、プロジェクターがストロークデータを投影できる。入力手段が指の場合、超音波が送信されないので、判断部29は超音波の有無で入力手段を判断できる。
【0107】
<<押圧力による判断>>
図15は、入力手段がスタイラスペン4又は指11のいずれであるかを押圧力で判断する処理を説明するフローチャート図である。なお、図15の説明においては主に図13との相違を説明する。ステップS21、S22、S26の処理は図13のステップS1、S2、S6と同様でよい。
【0108】
ステップS23において、判断部29は押圧力がしきい値未満か否か判断する(S23)。押圧力がしきい値未満と判断されることは、所定の条件を満たす場合に相当する。押圧力がしきい値未満でないと判断されることは、所定の条件を満たさない場合に相当する。
【0109】
押圧力がしきい値未満の場合、判断部29は入力手段を指11と判断し、タッチイベントを生成する(S24)。
【0110】
押圧力がしきい値未満でない場合、判断部29は入力手段をスタイラスペン4と判断し、ペンイベントを生成する(S25)。
【0111】
図15の処理によれば、スタイラスペン4がバッテリー等で動作する電子ペンでなくても、ユーザーが指11とスタイラスペン4を使い分けることで、表示装置2が入力手段を判断できる。
【0112】
<<入力手段の数による判断>>
図16は、入力手段がスタイラスペン4又は指11のいずれであるかを2つの入力手段が検出されるかどうかで判断する処理を説明するフローチャート図である。なお、図16の説明においては主に図13との相違を説明する。ステップS31、S32、S36の処理は図13のステップS1、S2、S6と同様でよい。
【0113】
ステップS33において、判断部29はほぼ同時に2つの接触座標が検出されたか否か判断する(S33)。ほぼ同時に2つの接触座標が検出されたと判断されることは、所定の条件を満たす場合に相当する。ほぼ同時に2つの接触座標が検出されたと判断されないことは、所定の条件を満たさない場合に相当する。
【0114】
ほぼ同時に2つの接触座標が検出された場合、判断部29は入力手段を指11と判断し、タッチイベントを生成する(S34)。
【0115】
ほぼ同時に2つの接触座標が検出されない場合、判断部29は入力手段をスタイラスペン4と判断し、ペンイベントを生成する(S35)。
【0116】
図16の処理によれば、スタイラスペン4がバッテリー等で動作する電子ペンでなくても、ユーザーが二本の指11で操作するか、スタイラスペン4を使い分けることで、表示装置2が入力手段を判断できる。
【0117】
<ストロークデータの手書き入力と外部装置への接触座標の送信の切り替え>
続いて、図17を参照して、ストロークデータの手書き入力と外部装置6への接触座標の送信の切り替え処理を説明する。図17は、タッチイベントかペンイベントかに応じて、ストロークデータの手書き入力と外部装置6への接触座標の送信の切り替えを行う処理を説明するフローチャート図である。図17の処理は、例えば表示装置2の電源がオンの場合に実行される。
【0118】
まず、判断部29は、外部映像入力部21が外部映像の入力を受け付けているか否か判断する(S51)。外部映像入力部21に外部映像が入力された場合、キャプチャデバイス211が映像信号を受信するので、映像信号の有無により判断できる。なお、外部映像入力部21に外部映像が入力されたか否かには、ケーブル10a1が表示装置2に接続されているか否かも含む。この場合、キャプチャデバイス211はケーブル10a1が有する処理の信号線の電圧によりケーブル10a1が接続されているかどうかを判断できる。
【0119】
ステップS51の判断がNoの場合、判断部29は、メニュー領域であればメニューの操作と判断し、メニュー領域以外のディスプレイ3の全体に対しては、入力手段にかかわらずペンイベントであると判断する(S54)。
【0120】
ステップS51の判断がYesの場合、判断部29はタッチイベント又はペンイベントのどちらが検出されたか判断する(S52)。タッチイベントが検出されることは、所定の条件を満たす場合に相当する。ペンイベントが検出されることは、所定の条件を満たさない場合に相当する。
【0121】
ペンイベントが検出された場合(所定の条件を満たさない場合)、判断部29は一部領域40に対しストロークデータの手書き入力があったと判断する(S53)。ストロークデータ描画部25がストロークデータを描画し、重畳画像生成部24に入力する。なお、重畳画像生成部24は、ペンイベントが検出された場合(所定の条件を満たさない場合)、ストローク画像レイヤに対する入力を有効にすると共に、タッチパネルに接触した入力手段の座標に基づくストロークデータを含むストローク画像レイヤを、外部映像レイヤに重ねて表示制御部28へ出力し、表示制御部28は重畳画像生成部24から出力されたデータを表示する。
【0122】
タッチイベントが検出された場合(所定の条件を満たす場合)、判断部29は一部領域40に対し外部装置6の操作が入力されたと判断する(S55)。座標変換部27は、ディスプレイ3における接触座標を外部装置6のディスプレイ15における接触座標に変換する。また重畳画像生成部24は、タッチイベントが検出された場合(所定の条件を満たす場合)、ストローク画像レイヤに対する入力を有効にしないか、ストローク画像レイヤに対する入力を無効にしてもよい。
【0123】
通信部23は外部装置6のディスプレイ15における接触座標に変換された接触座標を外部装置6に送信する(S56)。また通信部23は、外部装置に、タッチパネルにおいて外部映像レイヤの外部映像領域に接触した入力手段の座標を送信してもよい。
【0124】
<主な効果>
このように、表示装置2は、一部領域40に対するタッチイベントかペンイベントかにより、一部領域40に対するストロークデータの入力か、外部装置6の操作かを判断し、ストロークデータの手書き入力と外部装置6への接触座標の送信の切り替えを行うことができる。このため、ユーザーは手書き入力と、外部装置6の操作の切り替えのための操作が不要となる。
【実施例0125】
本実施例では、表示装置2が非接触座標を検出可能であることを利用して、一部領域40に対するストロークデータの入力か、外部装置6の操作かを判断できる表示装置2について説明する。本実施例の所定の条件は、入力手段がタッチパネルに接触したか、していないかである。
【0126】
本実施例においては、上記の実施例にて説明した図3のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
【0127】
図18は、ホバリングによる非接触座標の検出を説明する図である。図18(a)は入力手段が指11の場合を、図18(b)は入力手段がスタイラスペン4の場合をそれぞれ示す。例えば赤外線遮断方式などのタッチパネルでは、指11でもスタイラスペン4でも非接触状態の入力手段の非接触座標を検出できる。静電容量方式や電磁誘導方式の場合も表示装置2は静電容量や電圧の変化により非接触座標を検出できる。入力手段が非接触であると判断された場合が、所定の条件を満たす場合である。入力手段が接触したと判断した場合が、所定の条件を満たさない場合である。
各方式において、指11又はスタイラスペン4がディスプレイ3と非接触であること又は接触したと判断する方法を説明する。
赤外線遮断方式:赤外線が遮断されていない状態から赤外線が遮断された状態に変化したことが検出された場合に、非接触が検出される。赤外線が遮断された状態において、表示装置2が接触信号を受信した場合(この場合は入力手段がスタイラスペン4に限られる)又は接触センサ214が静電容量又は電圧が大きくなる一定以上の変化を検出した場合(この場合、入力手段は指11又はスタイラスペン4のどちらでもよい)に接触が検出される。
静電容量方式:入力手段は指11又はスタイラスペン4のどちらでもよい。指11(又は電磁波を先端から送信しないスタイラスペン4)の場合、接触センサ214が静電容量の僅かな増大を検出した場合、あるいは一定値以下の静電容量を検出している場合に、非接触が検出される。接触センサ214が非接触を検出している状態から、静電容量が大きくなる一定以上の変化(接触により静電容量が急激に大きくなる)を検出した場合又は接触信号を受信した場合、あるいは一定値以上の静電容量を検出した場合に接触が検出される。スタイラスペン4が先端から電磁波を送信する場合、接触センサ214が電磁波を検出していない状態から電磁波を検出した場合に、非接触が検出される。電磁波が検出されている状態において、接触センサ214が、静電容量が大きくなる一定以上の変化(接触により静電容量が急激に大きくなる)を検出した場合又は接触信号を受信した場合に接触が検出される。
電磁誘導方式:入力手段がスタイラスペン4であり、先端から電磁波を送信することが前提である。接触センサ214が電磁波を検出していない状態から電磁波を検出した場合、あるいは一定値以下の電磁波を検出している場合に、非接触が検出される。電磁波が検出されている状態において、接触センサ214が、電圧が大きくなる一定以上の変化(接触により電圧が急激に大きくなる)を検出した場合又は接触信号を受信した場合、あるいは一定値以上の電磁波を検出した場合に接触が検出される。
なお、タッチパネルには、これらの他、抵抗膜方式、超音波弾性波方式等があり、それぞれの方式に適した方法で接触と非接触が検出されてよい。
【0128】
図18に示すように、非接触座標検出部30は、指11又はスタイラスペン4の先端とディスプレイ3との距離がしきい値Th未満となると、指11又はスタイラスペン4の非接触座標を検出する。そして、本実施例の判断部29は、ディスプレイ3に入力手段が触れていない場合はタッチイベントであると判断し、ディスプレイ3に触れている場合はペンイベントであると判断する。
【0129】
赤外線遮断方式で指11又はスタイラスペン4が接近したことを検出する場合、しきい値Thは図18(a)(b)で同じになる。しきい値Thは、赤外線を照射及び受光できる最大の高さである。静電容量方式では、入力手段が指11かスタイラスペン4かによってしきい値Thが異なってよい。静電容量方式のしきい値Thは接触センサ214が静電容量の変化を検出できる距離である。
【0130】
電磁誘導方式では、図18(b)に示すように入力手段がスタイラスペン4であることが前提になる(図18(a)のように指11の接近を表示装置2は検出できない)。電磁誘導方式では、しきい値Thは接触センサ214が電磁波を検出できる距離である。なお、赤外線遮断方式、静電容量方式、及び電磁誘導方式では、しきい値Thが異なっていてよい。
【0131】
したがって、ユーザーは外部装置6を操作したい場合は、一部領域40に接触しないように指11又はスタイラスペン4のいずれでも外部装置6を操作でき、一部領域40に手書きしたい場合は、一部領域40に接触させた指11又はスタイラスペン4のいずれでもストロークデータを手書きできる。ユーザーは指11からスタイラスペン4に又はこの逆に持ち変えることなく、ストロークデータの手書き入力と外部装置6の操作を切り替えできる。
【0132】
図19は、入力手段がディスプレイ3に接触したか否かに応じて、タッチイベントかペンイベントかを判断部29が判断する処理を説明するフローチャート図である。図19の処理は表示装置2が起動中に実行される。
【0133】
まず、非接触座標検出部30は、ディスプレイ3に対ししきい値Th以内に近づいた入力手段を検出したか否か判断する(S61)。非接触座標検出部30が入力手段を検出した時点では、入力手段はディスプレイ3に接触していない。
【0134】
ステップS61の判断がYesの場合、判断部29は非接触状態の入力手段の座標が一部領域40に含まれるか否か判断する(S62)。一部領域40は外部映像が表示されている領域なので、その座標は既知である。ステップS62の判断がNoの場合、一部領域40以外へのホバー操作なので、何も操作されないか、又は、非接触座標に応じた操作が受け付けられる。
【0135】
ステップS62の判断がYesの場合、判断部29は入力手段がディスプレイ3に接触したか否か判断する(S63)。入力手段がしきい値Th以内に近づき、ディスプレイ3に接触しないと判断されることが、所定の条件を満たす場合に相当する。ディスプレイ3に接触したと判断されることが、所定の条件を満たさない場合に相当する。
【0136】
入力手段がディスプレイ3に接触した場合、判断部29はペンイベントを生成する(S64)。
【0137】
入力手段がディスプレイ3に接触していない場合、判断部29はタッチイベントを生成する(S65)。
【0138】
なお、ユーザーがストロークデータを入力する場合も外部装置6を操作する場合も、入力手段が少なくとも一時的に非接触状態になることは同じである。このため、ユーザーがストロークデータを入力しようとした場合も、判断部29が一時的に非接触座標を検出して、通信部23が外部装置6に非接触座標を送信するおそれがある。これを防ぐため、判断部29は、入力手段のディスプレイ3への接近速度や接近加速度を監視し、接近速度や接近加速度がしきい値より大きいかどうかで、タッチイベントかペンイベントかを判断するとよい。ユーザーがストロークデータを入力しようとした場合、接近速度や接近加速度は大きいが、ユーザーが外部装置6を操作しようとした場合、接近速度や接近加速度は小さい。したがって、判断部29は接近速度や接近加速度がしきい値以上ならペンイベントと、しきい値未満ならタッチイベントと判断できる。
【0139】
あるいは、判断部29は、非接触状態が一定時間以上継続した場合に、タッチイベントと判断してもよい。
【0140】
タッチイベント又はペンイベントと判断された場合の処理は実施例1の図17と同様でよい。図17を参照して説明する。
【0141】
判断部29は、外部映像入力部21が外部映像の入力を受け付けているか否か判断する(S51)。判断方法は実施例1と同様でよい。
【0142】
ステップS51の判断がNoの場合、判断部29は、入力手段にかかわらずホバー操作又は接触によるメニュー領域への操作と判断し、メニュー領域以外のディスプレイ3の全体に対しては、入力手段にかかわらずホバー操作又は接触による操作であると判断する(S54)。
【0143】
ステップS51の判断がYesの場合、判断部29はタッチイベント又はペンイベントのどちらが検出されたか判断する(S52)。
【0144】
ペンイベントが検出された場合、判断部29は一部領域40に対しストロークデータの手書き入力があったと判断する(S53)。ストロークデータ描画部25がストロークデータを描画し、重畳画像生成部24に入力する。
【0145】
タッチイベントが検出された場合、判断部29は一部領域40に対し外部装置6の操作が入力されたと判断する(S55)。座標変換部27は、ディスプレイ3における座標を外部装置6のディスプレイ15における接触座標に変換する。
【0146】
通信部23は外部装置6のディスプレイ15における座標に変換された接触座標を外部装置6に送信する(S56)。
【0147】
なお、本実施例では、ペンイベントが検出された場合、ストロークデータ描画部25がストロークデータを描画し、タッチイベントが検出された場合、通信部23が接触座標を外部装置6に送信しているが、この関係は逆でもよい。表示装置2は、ペンイベントが検出された場合に接触座標を外部装置に送信し、タッチイベントが検出された場合に一部領域40に対しストロークデータを手書きしてもよい。また、この場合、ペンイベントとタッチイベントの定義が入れ替わる。ペンイベントとは、接触座標又は非接触座標に基づく外部装置6の操作を受け付けるイベントをいう。タッチイベントとは、接触座標に基づいたストロークデータの入力を受け付けるイベントをいう。
【0148】
<主な効果>
したがって、本実施例によれば、入力手段が非接触状態か否かに応じて、一部領域40への手書き入力か、外部装置6の操作かを自動的に切り替えることができる。
【実施例0149】
本実施例では、ネットワーク上のサーバーと表示装置2が通信する表示システムについて説明する。
【0150】
図20は、表示システム100の構成例を示す。図20の表示システム100では、表示装置2と情報処理装置300とが通信ネットワーク9を介して通信可能に接続されている。情報処理装置300は一台以上のコンピュータであり、クラウドコンピューティングに対応していてもよい。また、情報処理装置300はオンプレミスに存在しても、インターネット上に存在してもよい。図20のような構成によれば、タッチイベント又はペンイベントの判断を情報処理装置300で行うことなどが可能になる。
【0151】
また、図20に示すように、表示装置2と情報処理装置300とが通信ネットワーク9を介して通信する場合、情報処理装置300が手書きデータを管理できる。この場合、複数の表示装置2がそれぞれストロークデータを情報処理装置300に送信し、情報処理装置300はストロークデータを他方の表示装置2に送信する。こうすることで、情報処理装置300に接続している表示装置2が手書きデータを共有できる。
【0152】
本実施例においては、上記の実施例にて説明した図3のハードウェア構成図を援用できる。一方、情報処理装置300のハードウェアブロック図について補足する。
【0153】
図21は、本実施形態に係るコンピュータ500の一例のハードウェア構成を示す図である。図21に示されているように、情報処理装置300はコンピュータ500によって構築されている。コンピュータ500は、CPU501、ROM502、RAM503、HD504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F(Interface)508、ネットワークI/F509、バスライン510、キーボード511、ポインティングデバイス512、光学ドライブ514、メディアI/F516を備えている。
【0154】
これらのうち、CPU501は、コンピュータ500全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。HD504は、プログラム等の各種データを記憶する。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御する。ディスプレイ506は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリやプリンタ等である。ネットワークI/F509は、ネットワークNを利用してデータ通信をするためのインターフェースである。バスライン510は、図3に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0155】
また、キーボード511は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。光学ドライブ514は、着脱可能な記録媒体の一例としての光メディア513に対する各種データの読み出し又は書き込みを制御する。なお、光メディア513は、CD、DVD、Blu-Ray(登録商標)等でよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出し又は書き込み(記憶)を制御する。
【0156】
図22は、図20の表示システム100における、表示装置2と情報処理装置300の機能ブロック図を示す。なお、図22の説明では主に図6との相違を説明する。図22の表示装置2は、第二通信部42を有している。第二通信部42は、接触検出部22による接触座標、接触信号の有無、押圧力、及び非接触座標検出部30による非接触座標等をリアルタイムに情報処理装置300に送信し、情報処理装置300からタッチイベント又はペンイベントの判断結果を受信する。
【0157】
情報処理装置300は第三通信部41、解析部26、及び判断部29を有している。情報処理装置300が有するこれら各機能部は、情報処理装置300にインストールされた1以上のプログラムに含まれる命令を図21に示したCPU501が実行することで実現される機能又は手段である。
【0158】
第三通信部41は、接触座標、接触信号の有無、押圧力、及び、非接触座標などを表示装置2から受信し、表示装置2にタッチイベント又はペンイベントの判断結果を送信する。解析部26、及び判断部29の機能は、図6と同様でよい。
【0159】
第二通信部42は、タッチイベント又はペンイベントの判断結果を接触検出部22に入力する。接触検出部22は、タッチイベントを受信した場合、座標変換部27に接触座標を変換させ、通信部23が変換後の接触座標を外部装置6に送信する。接触検出部22は、ペンイベントを受信した場合、ストロークデータ描画部25に接触座標を入力し、ストロークデータ描画部25が接触座標に基づいてストロークデータを生成する。
【0160】
このような構成によれば、タッチイベント又はペンイベントに関する処理をネットワーク上の情報処理装置300が行うことができる。タッチイベント又はペンイベントの判断を情報処理装置300に集約できるので、保守が容易になる。
【0161】
なお、解析部26は表示装置2が有していてもよいし、座標変換部27を情報処理装置300が有していてもよい。
【0162】
図23は、情報処理装置300を有する表示システム100の全体的な動作を示すシーケンス図の一例である。なお、図23では説明の便宜上、接触面積により入力手段が判断される場合を説明する。
【0163】
S101:表示装置2の第二通信部42は、接触座標と一部領域40の座標を情報処理装置300に送信する。一部領域40の座標は、変化があった場合にのみ送信されてよい。
【0164】
S102:情報処理装置300の第三通信部41は接触座標と一部領域40の座標を受信し、解析部26が一部領域40への接触か否か判断する。
【0165】
S103:一部領域40でない場合、一部領域40以外への入力なので、第三通信部41は、指11かスタイラスペン4かに関わらすストロークデータの入力やメニュー操作など、接触座標に応じた処理を受け付ける旨を表示装置2に送信する。
【0166】
S104:一部領域40である場合、判断部29は入力手段の接触面積がしきい値以上か否か判断する。接触面積がしきい値以上と判断されることが、所定の条件を満たす場合に相当する。接触面積がしきい値未満と判断されることが、所定の条件を満たさない場合に相当する。
【0167】
S105:接触面積がしきい値以上の場合、判断部29は入力手段を指11と判断し、タッチイベントを生成する。第三通信部41は、タッチイベントである旨を表示装置2に送信する。表示装置2の第二通信部42は、タッチイベントである旨を受信し、通信部23が変換後の接触座標を外部装置6に送信する。
【0168】
S106:接触面積がしきい値以上でない場合、判断部29は入力手段をスタイラスペン4と判断し、ペンイベントを生成する。第三通信部41は、ペンイベントである旨を表示装置2に送信する。表示装置2の第二通信部42は、ペンイベントである旨を受信し、表示制御部28がストロークデータを外部映像に重ねて表示する。
【0169】
タッチイベント又はペンイベントを受信した後の表示装置2の処理は、実施例1の図17と同様でよい。また、図23のステップS104では、接触面積がしきい値以上か否か判断されているが、実施例1と同様に接触信号の有無、押圧力、又は入力手段の数が判断されてよい。また、実施例2のように、非接触座標が一部領域40に含まれるか否かにより判断されてもよい。
【0170】
<主な効果>
本実施例によれば、実施例1,2の効果に加え、タッチイベント又はペンイベントの判断を情報処理装置300で行うことが可能になる。
【0171】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0172】
例えば、本実施形態では表示装置の一例として電子黒板を説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、タッチパネルを有するPC、タブレット端末、スマートフォンなどがある。これらは、普段は汎用的な情報処理装置であるが、表示装置として機能するアプリケーションを実行した場合に、ユーザーが表示装置として操作可能となる。
【0173】
この他、タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
【0174】
また、本実施形態の表示装置2は、カメラでディスプレイ3へ入力する入力手段を撮像し、画像解析によりタッチイベントかペンイベントかを判断してもよい。
【0175】
また、本実施形態では、特に言及していないがストロークデータが日本語に清書されたり、他の言語(英語、中国語、ヒンドゥー語、スペイン語、フランス語、アラビア語、ロシア語等)に翻訳されたりしてもよい。
【0176】
また、図6などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0177】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0178】
本発明の実施形態は、コンピュータの能力及び機能性に大きな改善をもたらす。これらの改善により、ユーザーは、情報処理装置において情報を格納し提示する方法であるテーブルとの、より効率的で堅牢な対話を提供するコンピュータを利用することができる。更に、本発明の実施形態は、より効率的で強力かつ堅牢なユーザーインターフェイスの使用を通じて、より良いユーザー体験を提供する。このようなユーザーインターフェイスは、人間と機械との間のより良い相互作用を提供する。
【0179】
<請求項に関する付記>
[付記1]
外部装置から入力される映像を表示できる表示装置であって、
タッチパネルにしきい値未満に接近した入力手段の座標を検出する検出部と、
所定の条件を満たす場合、前記外部装置に前記入力手段の座標を送信する通信部と、
前記所定の条件を満たさない場合、前記入力手段の座標に基づくストロークデータを前記映像に重ねて表示する表示制御部と、
を有することを特徴とする表示装置。
[付記2]
前記タッチパネルに接触した前記入力手段の座標を検出する接触検出部を有し、
前記所定の条件を満たす場合、前記通信部は、前記外部装置に前記タッチパネルに接触した前記入力手段の座標を送信し、
前記所定の条件を満たさない場合、前記表示制御部は、前記タッチパネルに接触した前記入力手段の前記座標に基づくストロークデータを前記映像に重ねて表示することを特徴とする付記1に記載の表示装置。
[付記3]
前記所定の条件を満たす場合とは、前記入力手段が指であることであり、
前記所定の条件を満たさない場合とは、前記入力手段が前記指より細い棒状部材であることである付記2に記載の表示装置。
[付記4]
前記所定の条件を満たす場合とは、前記入力手段が相対的に細い第一の棒状部材であることであり、
前記所定の条件を満たさない場合とは、前記入力手段が相対的に太い第二の棒状部材であることである付記3に記載の表示装置。
[付記5]
前記タッチパネルの前記映像の領域に接触した前記入力手段の面積がしきい値以上の場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段の面積がしきい値未満の場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする付記4に記載の表示装置。
[付記6]
前記タッチパネルの前記映像の領域に接触した前記入力手段から、接触信号を受信しない場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段から、前記接触信号を受信した場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする付記3に記載の表示装置。
[付記7]
前記タッチパネルの前記映像の領域に接触した前記入力手段の押圧力がしきい値以上でない場合、前記入力手段が指であると判断し、
前記タッチパネルの前記映像の領域に接触した前記入力手段の前記押圧力がしきい値以上である場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする付記4に記載の表示装置。
[付記8]
前記接触検出部は、同時と見なせるタイミングで前記タッチパネルの前記映像の領域に接触した2つの前記入力手段の座標を検出した場合、前記入力手段が指であると判断し、
前記接触検出部が、前記タッチパネルの前記映像の領域に接触した1つのみの前記入力手段の座標を検出した場合、前記入力手段が前記棒状部材であると判断する判断部を有することを特徴とする付記3に記載の表示装置。
[付記9]
前記表示制御部は、画面全体のうちの一部領域に予め前記映像を表示しており、
前記タッチパネルに接触した前記入力手段の座標が前記一部領域である場合のみ、前記所定の条件を判断し、
前記タッチパネルに接触した前記入力手段の座標が前記一部領域でない場合、前記表示制御部は、前記座標に基づくストロークデータを表示することを特徴とする付記2~8のいずれか1項に記載の表示装置。
[付記10]
前記一部領域は前記画面全体において移動可能であることを特徴とする付記9に記載の表示装置。
[付記11]
前記表示制御部が、前記外部装置からの映像を表示していない場合、
前記所定の条件に関わらず、前記タッチパネルに接触した前記入力手段の座標に基づくストロークデータを表示することを特徴とする付記1~10のいずれか1項に記載の表示装置。
[付記12]
前記所定の条件を満たす場合とは、前記タッチパネルにしきい値未満に接近し、かつ、前記検出部が、前記映像の領域に対して接触する前の前記入力手段の非接触座標を検出した場合であり、
前記所定の条件を満たさない場合とは、接触検出部が、前記映像の領域に対して前記入力手段が接触した座標を検出した場合であることである付記1に記載の表示装置。
[付記13]
前記所定の条件を満たす場合とは、接触検出部が、前記映像の領域に対して前記入力手段が接触した座標を検出した場合であり、
前記所定の条件を満たさない場合とは、前記タッチパネルにしきい値未満に接近し、かつ、前記検出部が、前記映像の領域に対して接触する前の前記入力手段の非接触座標を検出した場合であることである付記1に記載の表示装置。
[付記14]
前記タッチパネルに対ししきい値未満に接近し、かつ、前記タッチパネルに接触する前の前記入力手段の非接触座標を検出する非接触座標検出部を有し、
前記入力手段の前記非接触座標が前記映像の領域である場合、前記通信部は、前記タッチパネルに接触した前記入力手段の座標を前記外部装置に送信し、
前記接触検出部が前記タッチパネルに接触した前記入力手段の座標を検出し、前記座標が前記映像の領域である場合、前記表示制御部は、前記座標に基づくストロークデータを前記映像に重ねて表示することを特徴とする付記12に記載の表示装置。
[付記15]
前記入力手段は、指、又は、前記指より細い棒状部材であることを特徴とする付記12~14のいずれか1項に記載の表示装置。
[付記16]
前記入力手段の座標を前記外部装置が有するディスプレイ上の座標に変換する座標変換部を有し、
前記通信部は、前記所定の条件を満たす場合、前記座標変換部が変換した座標を前記外部装置に送信することを特徴とする付記1~15のいずれか1項に記載の表示装置。
[付記17]
前記所定の条件を満たす場合、前記ストロークデータを含むストローク画像レイヤに対する入力を有効にせず、前記通信部は、前記外部装置に、前記タッチパネルにおいて外部映像レイヤの外部映像領域に接触した前記入力手段の座標を送信し、
前記所定の条件を満たさない場合、前記ストローク画像レイヤに対する入力を有効にすると共に、前記タッチパネルに接触した前記入力手段の前記座標に基づくストロークデータを含むストローク画像レイヤを前記外部映像レイヤに重ねたデータを出力することで、前記ストロークデータを前記映像に重ねて表示する、前記請求項1に記載の表示装置。
【符号の説明】
【0180】
2 表示装置
6 外部装置
100 表示システム
300 情報処理装置
【先行技術文献】
【特許文献】
【0181】
【特許文献1】特許6471771号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23