(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-30
(45)【発行日】2024-05-10
(54)【発明の名称】表示装置、表示方法、プログラム
(51)【国際特許分類】
G06F 3/04883 20220101AFI20240501BHJP
G09G 5/00 20060101ALI20240501BHJP
G09G 5/02 20060101ALI20240501BHJP
【FI】
G06F3/04883
G09G5/00 510H
G09G5/02 B
G09G5/00 550B
(21)【出願番号】P 2020115965
(22)【出願日】2020-07-03
【審査請求日】2023-05-11
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】甲斐 敏洋
【審査官】相川 俊
(56)【参考文献】
【文献】特開2006-260306(JP,A)
【文献】特表2010-507836(JP,A)
【文献】米国特許出願公開第2016/0162446(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/04883
G09G 5/00
G09G 5/02
G09G 5/36
(57)【特許請求の範囲】
【請求項1】
手書きに基づいた第一のデータを表示する表示装置であって、
入力手段によるディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、を有し、
前記第一のデータを含むディスプレーの領域に前記入力手段が接触し、前記受付手段が第二のデータを受け付けた場合、前記入力手段が前記ディスプレーから離れて次に前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下であれば、前記表示制御手段は前記第一のデータを含む領域でない領域に手書きされたデータの色を前記第二のデータと同じ色で表示することを特徴とする表示装置。
【請求項2】
手書きに基づいた第一のデータを表示する表示装置であって、
入力手段によるディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、を有し、
前記第一のデータを含むディスプレーの領域に前記入力手段が接触し、前記受付手段が前記第二のデータを受け付け前記入力手段がディスプレーから離れた場合、次に前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触するまでの時間間隔が閾値以上又は閾値超過になるごとに、前記受付手段により受け付けした第三のデータを前記表示制御手段は、前記第一のデータ、前記第二のデータ、及びすでに表示されている前記第三のデータと異なる色で表示することを特徴とする表示装置。
【請求項3】
前記第一のデータを含むディスプレーの領域に前記入力手段が接触し、前記受付手段が第二のデータを受け付け前記入力手段が前記ディスプレーから離れた場合、次に前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触することで前記受付手段により受
け付
けした全ての第四のデータを前記表示制御手段は前記第二のデータと同じ色で表示することを特徴とする請求項
1に記載の表示装置。
【請求項4】
前記表示装置に対する操作を受け付け、最後の操作内容を保存する操作受付手段を有し、
前記最後の操作内容が、前記第一のデータが有するストロークデータの削除である場合、前記表示制御手段は、前記第一のデータと同じ色が設定された状態で手書きされる前記第二のデータの色を、前記第一のデータと同じ色で表示し、
前記最後の操作内容が、前記第二のデータの色変更操作である場合、
前記表示制御手段は、前記色変更操作で設定された色で前記第二のデータを表示することを特徴とする請求項1~
3のいずれか1項に記載の表示装置。
【請求項5】
前記表示制御手段は、前記第一のデータの色と前記第二のデータの色の設定を受け付ける色設定受付画面を表示し、
前記第一のデータの色と前記第二のデータの色の設定を受け付ける操作受付手段を有することを特徴とする請求項1~
3のいずれか1項に記載の表示装置。
【請求項6】
前記表示制御手段は、前記第一のデータの色と前記第二のデータの色の設定を受け付ける色設定受付画面を表示し、
前記第一のデータの色と前記第二のデータの色の設定を受け付ける操作受付手段を有し、
前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値以上又は閾値超過のために前記第二のデータを前記第一のデータとは異なる色で表示する場合、色相環を使って前記第二のデータの2色目以降の色を決定する色決定手段を有することを特徴とする請求項
2に記載の表示装置。
【請求項7】
手書きに基づいた第一のデータを表示する表示装置であって、
入力手段によるディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、
前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の全てのストロークデータの外接矩形を前記第一のデータの領域と判断する領域生成手段
と、
を有することを特徴とす
る表示装置。
【請求項8】
手書きに基づいた第一のデータを表示する表示装置であって、
入力手段によるディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、
前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の1つ1つのストロークデータの外接矩形を求め、一部でも重なっている複数の前記外接矩形の範囲を前記第一のデータの領域と判断する領域生成手段
と、
を有することを特徴とす
る表示装置。
【請求項9】
前記表示装置が有する前記ディスプレーの左端領域、右端領域、上端領域、及び、下端領域が定められており、
前記入力手段が、一方の端領域から離れ、反対側の他方の端領域に接触した場合、一方の端領域から離れ、反対側の他方の端領域に接触するまでの時間間隔が閾値未満又は閾値以下であっても、
前記領域生成手段は、前記一方の端領域から離れるまでのストロークデータの外接矩形を前記第一のデータの領域と判断す
ることを特徴とする請求項
7又は8に記載の表示装置。
【請求項10】
手書きに基づいた第一のデータを表示する表示装置が行う表示方法であって、
受付手段が、入力手段による
ディスプレーへの手書きを受け付けるステップと、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、表示制御手段が前記手書きされる前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示するステップと、を有し、
前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触し、前記受付手段が第二のデータを受け付けた場合、前記入力手段が前記ディスプレーから離れて次に前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下であれば、前記表示制御手段は前記第一のデータを含む領域でない領域に手書きされたデータの色を前記第二のデータと同じ色で表示することを特徴とする表示方法。
【請求項11】
手書きに基づいた第一のデータを表示する表示装置が行う表示方法であって、
受付手段が、入力手段による
ディスプレーへの手書きを受け付けるステップと、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、表示制御手段が前記手書きされる前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示するステップと、を有し、
前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触し、前記受付手段が前記第二のデータを受け付け前記入力手段が前記ディスプレーから離れた場合、次に前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触するまでの時間間隔が閾値以上又は閾値超過になるごとに、前記受付手段により受け付けした第三のデータを前記表示制御手段は、前記第一のデータ、前記第二のデータ、及びすでに表示されている前記第三のデータと異なる色で表示することを特徴とする表示方法。
【請求項12】
手書きに基づいた第一のデータを表示する表示装置が行う表示方法であって、
受付手段が、入力手段による
ディスプレーへの手書きを受け付けるステップと、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、表示制御手段が前記手書きされる前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示するステップと、
領域生成手段が、前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の全てのストロークデータの外接矩形を前記第一のデータの領域と判断するステップと、
を有することを特徴とする表示方法。
【請求項13】
手書きに基づいた第一のデータを表示する表示装置が行う表示方法であって、
受付手段が、入力手段による
ディスプレーへの手書きを受け付けるステップと、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、表示制御手段が前記手書きされる前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示するステップと、
領域生成手段が、前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の1つ1つのストロークデータの外接矩形を求め、一部でも重なっている複数の前記外接矩形の範囲を前記第一のデータの領域と判断するステップと、
を有することを特徴とする表示方法。
【請求項14】
手書きに基づいた第一のデータを表示する情報処理装置を、
入力手段による
ディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段、として機能させ、
前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触し、前記受付手段が第二のデータを受け付けた場合、前記入力手段が前記ディスプレーから離れて次に前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下であれば、前記表示制御手段は前記第一のデータを含む領域でない領域に手書きされたデータの色を前記第二のデータと同じ色で表示することを特徴とするプログラム。
【請求項15】
手書きに基づいた第一のデータを表示する情報処理装置を、
入力手段による
ディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段、として機能させ、
前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触し、前記受付手段が前記第二のデータを受け付け前記入力手段が前記ディスプレーから離れた場合、次に前記第一のデータを含む前記ディスプレーの領域に前記入力手段が接触するまでの時間間隔が閾値以上又は閾値超過になるごとに、前記受付手段により受け付けした第三のデータを前記表示制御手段は、前記第一のデータ、前記第二のデータ、及びすでに表示されている前記第三のデータと異なる色で表示することを特徴とするプログラム。
【請求項16】
手書きに基づいた第一のデータを表示する情報処理装置を、
入力手段による
ディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、
前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の全てのストロークデータの外接矩形を前記第一のデータの領域と判断する領域生成手段、
として機能させるためのプログラム。
【請求項17】
手書きに基づいた第一のデータを表示する情報処理装置を、
入力手段による
ディスプレーへの手書きを受け付ける受付手段と、
前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、
前記入力手段が前記ディスプレーから離れてから前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下の1つ1つのストロークデータの外接矩形を求め、一部でも重なっている複数の前記外接矩形の範囲を前記第一のデータの領域と判断する領域生成手段、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、表示方法、及び、プログラムに関する。
【背景技術】
【0002】
タッチパネル式のディスプレーにユーザーが専用の電子ペンや指などで描画した手書きデータを表示する電子黒板などの表示装置が知られている。従来のホワイトボードと異なり手書きデータを電子データで保存したり、PC(Personal Computer)の映像を表示したりすることができる。表示装置によっては、手書き認識技術を利用し、手書きデータを文字に変換して、ディスプレーに表示することも可能である。
【0003】
表示装置に関して手書きされるデータの色を自動で変える技術が考案されている(例えば、特許文献1参照。)。特許文献1には、ユーザーが手書きする場合に背景と近い色が選択されていると見にくくなることを防ぐため、書き込む領域の背景カラーと異なる色相の色を自動で選択する装置が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
ここで、ユーザーとしては、例えば、重要な手書きデータや目立たせたい手書きデータ(第二のデータ)を他の手書きデータ(第一のデータ)とは異なる色で表示したい場合がある。しかし、従来は、目立たせたい手書きデータを手書きする前にユーザーが色変更操作(手書きデータの色を変更させるためにユーザーが行う表示装置に対する操作)を行う必要があった。
【0005】
本発明は、上記課題に鑑み、ユーザーが色変更操作を行うことなく、すでに表示されている手書きされた第一のデータと異なる色で、ユーザーが手書きする第二のデータの色を変更して表示することができる表示装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、手書きに基づいた第一のデータを表示する表示装置であって、 入力手段によるディスプレーへの手書きを受け付ける受付手段と、前記受付手段により、前記第一のデータを含む領域に、第二のデータを受け付けた場合であって、前記第一のデータと前記第二のデータとに同じ色が設定されている場合に、前記手書きされた前記第二のデータの色を、前記第一のデータとは異なる色に変更して表示する表示制御手段と、を有し、 前記第一のデータを含むディスプレーの領域に前記入力手段が接触し、前記受付手段が第二のデータを受け付けた場合、前記入力手段が前記ディスプレーから離れて次に前記ディスプレーに接触するまでの時間間隔が閾値未満又は閾値以下であれば、前記表示制御手段は前記第一のデータを含む領域でない領域に手書きされたデータの色を前記第二のデータと同じ色で表示することを特徴とする。
【発明の効果】
【0007】
ユーザーが色変更操作を行うことなく、すでに表示されている手書きされた第一のデータと異なる色で、ユーザーが手書きする第二のデータの色を変更して表示することができる表示装置を提供することができる。
【図面の簡単な説明】
【0008】
【
図1】本実施形態の表示装置による手書きデータの色の変更方法を説明する図である。
【
図3】本実施形態に係る表示装置の全体構成を説明する図の一例である。
【
図4】表示装置のハードウェア構成図の一例である。
【
図5】表示装置が有する機能をブロック状に分けて説明する機能ブロック図の一例である。
【
図6】手書き認識による変換候補を表示する操作ガイドの一例を示す図である。
【
図7】ストロークデータのブロック化の方法を模式的に説明する図である。
【
図8】ユーザーが手書きしたストロークデータの時間的な遷移の一例を示す図である。
【
図9】ブロックへ追記された手書きデータの一例を示す図である。
【
図10】1色目と2色目の色の設定を受け付ける色設定受付画面の一例を示す図である。
【
図11】色相環を用いた3色目以降の色の決定方法を説明する図の一例である。
【
図12】表示装置がブロック内の手書きデータの色を変更して表示する処理又は動作の説明するフローチャート図の一例である。
【
図13】実施例1の方法でブロック化されたブロックの領域を示す図である。
【
図14】ブロック化の方法を説明する図である(実施例2)。
【
図15】ブロック化の方法によるブロック化の一例を示す図である。
【
図16】ブロック化の方法を説明する図である(実施例3)。
【
図17】表示装置の動作手順を示すフローチャート図の一例である。
【
図18】ブロック化の方法によるブロック化の一例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として表示装置と、表示装置が行う表示方法について図面を参照しながら説明する。
【実施例1】
【0010】
<手書きデータの色変更の概略>
図1は、本実施形態の表示装置による手書きデータの色の変更方法を説明する図である。
図1(a)は手書きによりすでに表示されている手書きデータの一例を示す。
図1(a)では3行の文字列101が黒で手書きされている。文字列101に対し、ユーザーが「□月◎日」という文字を追記したいと考えた。「□月◎日」が重要なので目立たせるために赤色で表示したい場合、従来は、カラーパレットから赤をユーザーが選択する必要があった。
【0011】
本実施形態の表示装置は、既に書き込みが行われた領域を内部的にブロックとして扱い、表示装置にはブロック内の手書きデータの色で追記する手書きデータを表示することが設定されている状態で、ブロック内に追記された手書きデータの色を、ブロック内に既にある手書きデータの色とは自動で変更して表示する。つまり、入力手段の色が黒と設定されている状態で手書きされても、表示装置は黒ではない色で手書きデータを表示する。
【0012】
図1(b)では3行の文字列101の外接矩形が1つのブロック104と判断されている。したがって、ブロック104に追記された「□月◎日」という文字列102が赤で表示されている(作図の制限のため図面では黒色になっている)。文字列102が文字認識された場合も赤で表示される。
【0013】
ブロック化の方法の詳細は後述されるが、例えば、最後のペンアップから次のペンダウンまでの時間が閾値以上又は閾値超過かどうかを表示装置が判断し、閾値以上又は閾値超過の時間間隔がある場合、最後のペンアップまでのストロークデータが1つのブロックであると判断される。ブロック104は原則的に非表示であるが、ユーザー操作に応じて表示することができる。
【0014】
表示装置は、2色目の手書きデータも3行の文字列101で生成されたブロック104に所属すると判断する。
図1(c)に示すように2色目の手書きデータが元のブロック104をはみ出した場合、ブロック104は拡張される。
図1(c)では「厳守」という文字列103によりブロック104が拡張された。
【0015】
2色目の手書きデータを含むブロック104に対し閾値以上又は閾値超過の時間間隔をあけて、更に別のデータが手書きされた場合、表示装置は、再度、同じ2色目で手書きデータを表示してもよいし、対象のブロック104にない3色目、4色目の色で手書きデータを表示してもよい。
【0016】
ただし、直前にユーザーがカラーパレット等で明示的に色を変更した場合、表示装置はユーザーによる色の選択を優先する。また、直前の操作が手書きデータの削除の場合、次に手書きされるデータは削除された手書きデータの修正後のデータと考えられるため、色変更は行わない(削除された手書きデータと同じ色で表示される)。
【0017】
このように、本実施形態の表示装置は、手書きに基づいた第一のデータを含む領域に、更に、手書きされる第二のデータの色を、第一のデータとは異なる色に変更して表示することで、追加された第二のデータをユーザーが容易に判断できるようにすることができる。
【0018】
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。ユーザーがディスプレーに入力手段を押しつけてから連続的に移動させた後、ディスプレーから離すという一連の操作をストロークという。ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレーに表示される情報である。ストロークデータは適宜、補間されてよい。ストロークにより手書きされたデータをストロークデータという。手書きデータは1つ以上のストロークデータを有する。ストロークデータに基づいてディスプレーに表示される表示物をオブジェクトという。
【0019】
ブロックとは1つ以上のストロークデータの集まりである。また、ストロークデータを包含する領域をブロックの領域という。例えば、1つ以上のストロークデータの外接矩形がブロックの領域である。
【0020】
手書きに基づく第一のデータとは、手書きされたストロークデータの他、文字認識された文字列を含む。文字列(日本語だけでなく英語などの多国語)だけでなく、数字、記号(%、$、&など)、図形(線、丸、三角など)等を含む。第二のデータも同様である。
【0021】
第一のデータと同じ色が設定された状態とは、第一のデータの入力の後、第二のデータの色に第一のデータと同じ色が設定されている状態をいう。換言すると、第一のデータの入力の後、第二のデータの色が第一のデータとは別の色に変更されていない状態になっている。
【0022】
<ペンの外観の一例>
図2は、ペン2500の斜視図の一例を示す。
図2は多機能なペン2500の一例を示す。電源を内蔵して表示装置2に命令を送信できるペン2500をアクティブペンという(電源を内蔵しないペンをパッシブペンという)。
図2のペン2500は、物理的なスイッチがペン先に一つ、ペン尻に一つ、ペン側面に二つあり、ペン先が筆記用、ペン尻が消去用、ペン側面はユーザー機能割り当て用である。本実施形態のペン2500は不揮発性のメモリーを有しており、他のペンと重複しないペンIDを記憶している。
【0023】
なお、スイッチ付きのペンであれば、ユーザーの表示装置2の操作手順を減らすことも可能である。スイッチ付きのペンとは主にアクティブペンを言うが、電磁誘導方式では電源を内蔵しないパッシブペンでもLC回路だけで電力を発生できるため、アクティブペンだけでなく電磁誘導方式のパッシブペンを含む。電磁誘導方式以外の光学方式、赤外線方式、及び、静電容量方式のスイッチのあるペンはアクティブペンである。
【0024】
なお、ペン2500のハードウェア構成は、通信機能とマイコンを備えた一般的な制御方式と同様であるとする。ペン2500の座標の入力方式には、電磁誘導方式、アクティブ静電結合方式などがある。また、ペン2500は、筆圧検知、傾き検知、ホバー機能(ペンが触れる前にカーソルを表示)、などの機能を有していてよい。
【0025】
<装置の全体構成>
図3を用いて、本実施形態に係る表示装置2の全体構成を説明する。
図3は、表示装置2の全体構成図を示した図である。
図3(a)では、表示装置2の一例として、壁につり下げられた横長の電子黒板として使用される表示装置2を示している。
【0026】
図3(a)に示されているように、表示装置2の上部には表示装置の一例としてのディスプレー220が設置されている。ユーザーUは、ペン2500を用いて、ディスプレー220に文字等を手書きする(入力、描画ともいう)ことができる。
【0027】
図3(b)は壁につり下げられた縦長の電子黒板として使用される表示装置2を示している。表示装置2は加速度センサーを有しており、重力方向から設置方向を検出できる。これにより、設置方向に関係なく文字認識が可能になる。
【0028】
図3(c)は机230に平置きされた表示装置2を示す。表示装置2は厚みが1cm程度なので、一般の机に平置きしても机の高さを調整する必要がない。また、容易に移動できる。
【0029】
<装置のハードウェア構成>
続いて、
図4を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。
図4は、表示装置2のハードウェア構成図の一例である。
図4に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、及び、SSD(Solid State Drive)204を備えている。
【0030】
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。SSD204は、表示装置2用のプログラム等の各種データを記憶する。なお、プログラムは、プログラム配信サーバーから表示装置2がダウンロードしてもよいし、記憶媒体からインストールされてもよい。このプログラムはアプリケーションソフトと呼ばれる場合がある。
【0031】
また、表示装置2は、ディスプレーコントローラー213、タッチセンサーコントローラー215、タッチセンサー216、ディスプレー220、電源スイッチ227、チルトセンサー217、シリアルインタフェース218、スピーカー219、マイク221、無線通信装置222、赤外線I/F223、電源制御回路224、ACアダプター225、及びバッテリー226を備えている。
【0032】
ディスプレーコントローラー213は、出力画像をディスプレー220等へ出力するために画面表示の制御及び管理を行う。タッチセンサー216は、ディスプレー220上にペン2500やユーザーの手等(ペンやユーザーの手は入力手段となる)が接触したことを検知する。また、タッチセンサー216はペンIDを受信する。
【0033】
タッチセンサーコントローラー215は、タッチセンサー216の処理を制御する。タッチセンサー216は、座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、例えば、光学式の場合、ディスプレー220の上側両端部に設置された2つ受発光装置が、ディスプレー220に平行して複数の赤外線を放射し、ディスプレー220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。タッチセンサー216は、物体によって遮断された2つの受発光装置が放射した赤外線の位置情報をタッチセンサーコントローラー215に出力し、タッチセンサーコントローラー215が、物体の接触位置である座標位置を特定する。また、タッチセンサーコントローラー215は通信ユニット215aを有しており、ペン2500と無線で通信することができる。例えば、Bluetooth(登録商標)などの規格で通信している場合は、市販されているペンを使用することができる。通信ユニット215aに予め1つ以上のペン2500を登録しておくと、ユーザーはペン2500を表示装置2と通信させる接続設定を行わなくても通信できる。
【0034】
電源スイッチ227は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。チルトセンサー217は、表示装置2の傾き角度を検出するセンサーである。主に、表示装置2が
図3(a)、
図3(b)、又は、
図3(c)のいずれかの設置状態で使用されているかを検出するために使用され、設置状態に応じて文字等の太さを自動で変更することができる。
【0035】
シリアルインタフェース218はUSBなどの外部との通信インタフェースである。外部からの情報の入力などに使用される。スピーカー219は音声の出力に使用され、マイク221は音声の入力に使用される。無線通信装置222は、ユーザーが携帯する端末と通信し、例えばインターネットへの接続を中継する。無線通信装置222はWi-FiやBluetooth(登録商標)などで通信するが、通信規格は問われない。無線通信装置222はアクセスポイントを形成しており、ユーザーが入手したSSID(Service Set Identifier)とパスワードをユーザーが携帯する端末に設定すると、アクセスポイントに接続できる。
【0036】
なお、無線通信装置222には2つのアクセスポイントが用意されているとよい。
a. アクセスポイント→インターネット
b. アクセスポイント→社内ネットワーク→インターネット
aのアクセスポイントは社外のユーザー用で、ユーザーは社内ネットワークにはアクセスできないが、インターネットを利用できる。bのアクセスポイントは社内のユーザー用で、ユーザーは社内ネットワーク及びインターネットを利用できる。
【0037】
赤外線I/F223は隣に配置された表示装置2を検出する。赤外線の直進性を利用して、隣に配置された表示装置2のみを検出できる。赤外線I/F223は各辺に1つずつ設けられることが好ましく、表示装置2のどの方向に他の表示装置2が配置されたのかを検出できる。これにより画面が広がり、隣の表示装置2に過去に手書きされた手書き情報(1つのディスプレー220の広さを1ページとして別のページの手書き情報)等を表示できる。
【0038】
電源制御回路224は表示装置2の電源であるACアダプター225とバッテリー226を制御する。ACアダプター225は商用電源が共有する交流を直流に変換する。
【0039】
ディスプレー220がいわゆる電子ペーパーの場合、画像の表示を維持するためにほとんど又は一切電力を消費しないので、バッテリー226による駆動も可能である。これにより、屋外など電源を接続しにくい場所でもデジタルサイネージなどの用途で表示装置2を使用することが可能になる。
【0040】
更に、表示装置2は、バスライン210を備えている。バスライン210は、
図4に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0041】
なお、タッチセンサー216は、光学式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなど種々の検出手段を用いてもよい。タッチセンサー216は、ペン先のタッチの有無を検知するのに電子ペンが必要ない方式であってよい。この場合はタッチ操作をするのに指先やペン型の棒を使用できる。なお、ペン2500は、細長いペン型である必要はない。
【0042】
<機能について>
次に、
図5を用いて表示装置2の機能について説明する。
図5は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、接触位置検出部21、描画データ生成部22、文字認識部23、ブロック生成部24、色決定部25、表示制御部26、データ記録部27、ネットワーク通信部28、及び、操作受付部29を有している。表示装置2が有する各機能は、
図4に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
【0043】
接触位置検出部21はタッチセンサー216に対しペン2500が接触した位置の座標を検出する。描画データ生成部22はペン2500のペン先が接触した座標を接触位置検出部21から取得する。この座標点列を補間することで接続してストロークデータを生成する。接触位置検出部21はタッチセンサーコントローラー215とタッチセンサー216により実現される。
【0044】
文字認識部23はユーザーが手書きした1つ以上のストロークデータ(手書きデータ)に対し文字認識処理を行い、文字コードに変換する。文字認識部23は、ユーザーのペン操作と並行して文字(日本語だけでなく英語などの多国語)、数字、記号(%、$、&など)、図形(線、丸、三角など)等を認識していく。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。文字認識部23はCPU201がプログラムを実行することで実現される。なお、文字認識部23の機能はユーザーがオン/オフできる。
【0045】
ブロック生成部24は、ストロークデータのペンアップからペンダウンまでの時間間隔に基づいてブロックを生成する。ブロック生成部24はCPU201がプログラムを実行することで実現される。
【0046】
色決定部25は、ブロックに追記される手書きデータの色を決定する。詳細は後述されるが、ブロックに追記される手書きデータの色は2色目まで予めユーザーが設定しておく。3色目以降は自動的に選択される。色決定部25はCPU201がプログラムを実行することで実現される。
【0047】
表示制御部26は手書きデータ、手書きデータから変換された文字列、及び、ユーザーが操作するための操作メニューなどをディスプレーに表示する。表示制御部26はディスプレーコントローラー213とディスプレー220により実現される。
【0048】
データ記録部27は、表示装置2に手書きされた手書きデータ、又は、変換された文字列等をページデータ記憶部30に記憶する。また、ブロックに関する情報をブロックデータ記憶部31に登録する。データ記録部27はCPU201がプログラムを実行することで実現される。なお、データ記録部27には、表示装置2が取り込んだPCの画面、表示したファイル等が記録されてよい。
【0049】
ネットワーク通信部28はLAN等のネットワークに接続して、他の機器とネットワークを介したデータの送受信を行う。ネットワーク通信部28は無線通信装置222により実現される。
【0050】
操作受付部29は表示装置2に対する操作を受け付ける。初期状態ではストロークデータの入力が操作内容である。ユーザーはペン尻でストロークデータを削除できる。また、ユーザーはメニューから線の太さ、線種、色の設定などを行うことができる。操作受付部29は、色決定部25が色を変更するかどうかを判断できるように、最後の操作内容を保存しておく。
【0051】
なお、ページデータ記憶部30及びブロックデータ記憶部31は、
図4に示されているSSD204やRAM203などに構築され、データ記録部27が記録する上記の情報を記憶する。
【0052】
【表1】
ページデータ記憶部30は、表1に示されているようなデータを記憶する。表1(a)は、ページデータを概念的に示す。ページデータは、ディスプレーに表示される1ページ分の手書きデータである。
【0053】
ページデータは、表1(a)に示されているように、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、このページの内容の書き換えが行われなくなった時刻を示す終了時刻、ペン2500やユーザーの手又は指によるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及び画像データなどのメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。
【0054】
このようなページデータにより、例えば、ユーザーがペン2500によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ユーザーがペン2500によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
【0055】
また、ストローク配列データは、表1(b)に示されているように詳細な情報を示している。表1(b)は、ストローク配列データを示す。1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークデータの書き始め(ペンダウン)の時刻を示す開始時刻、1つのストロークデータの書き終わり(ペンアップ)の時刻を示す終了時刻、ストロークデータの色、ストロークデータの幅、ストロークデータの通過点の配列を識別するための座標配列データID、及び、ストロークデータが所属するブロックを識別するためのブロックIDを示している。
【0056】
ペンダウンとは、ディスプレー220上に入力手段(ペン、ユーザの手、指等)が接触することをいう。ただし、完全に接触しなくても、入力手段の先端とディスプレー220との間の距離が閾値以下又は閾値未満に接近した場合を含む。ペンアップとはディスプレー220に接触していた入力手段がディスプレー220から離れることをいう。上記の距離が閾値超過又は閾値以上になることを含む。また、ペンムーブとは、ディスプレー220に入力手段が接触した状態でユーザーが入力手段を動かし、ディスプレー220との接触位置を移動させることをいう。
【0057】
表1(c)は、座標配列データを示す。表1(c)に示されているように、座標配列データは、ディスプレー上の1点(X座標値、Y座標値)、この1点を通過したときのストロークデータの開始時刻からの差分の時刻(ms)、及び、この1点におけるペン2500の筆圧の各情報を示している。即ち、表1(c)に示されている1点の集まりが、表1(b)に示されている1つの座標配列データで示されている。例えば、ユーザーがペン2500によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
【0058】
表1(b)に示すように、表示装置はストロークデータごとに色情報を有している。また、各ストロークデータはブロックに所属する。表1(b)では、s001、s002、s003のストロークデータは色が黒で、BLC001というブロックに所属する。例えば
図1では3行の文字列101がこれらのストロークデータで構成されている。また、s123のストロークデータは色が赤で、BLC001というブロックに所属する。例えば
図1では追記された「□月◎日」という文字列102がこのストロークデータで構成されている。
【0059】
なお、表1は文字認識されていないストロークデータのデータ例を示すが、文字認識された場合は、手書き認識の単位で、1つ以上の文字列ごとに、文字コード、フォント、色、位置情報(外接矩形の左上コーナー、外接矩形の右下コーナー)、開始時刻、終了時刻が登録される。開始時刻と終了時刻に基づいてブロック化される点はストロークデータと同様である。
【0060】
【表2】
ブロックデータ記憶部31は、表2に示されているようなデータを記憶する。表2はブロックデータの一例を示す。ブロックデータは、各ブロックのブロックIDに対応づけて、位置データ、及び、2色目以降の色を有している。位置データは、ブロックの左上コーナーと右下コーナーの座標である。1つのブロックへの追記のたびに色を変更する設定の場合は、3色目以降が登録される。1つのブロックへの追記の回数に関係なく同じ色で手書きデータを表示する設定の場合は、3色目以降が登録されない。
【0061】
<文字認識について>
図6を参照して、手書きデータの文字認識について説明する。
図6は手書き認識による変換候補を表示する操作ガイド500の一例である。文字認識部23の機能がオンの場合、ユーザーが例えば「ぎ」などの手書きデータ504を手書きすると一定時間の経過の上で、操作ガイド500が表示される。操作ガイド500は、操作ヘッダー520、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508、及び、手書きデータ矩形領域表示503を有している。選択可能候補530は、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508である。また、操作コマンドの候補510を除く選択可能候補530を文字列候補539という。
【0062】
操作ヘッダー520はボタン501、509、502、505を有する。ボタン501は予測変換とカナ変換の切り替え操作を受け付ける。
図6の例ではユーザーが「予測」と表示されているボタン501を押下すると操作受付部29がそれを受け付けて、表示制御部26が「かな」というボタン501に表示を変更する。変更後は、文字列候補539が「カナ変換」の確率降順で並ぶ。
【0063】
ボタン502は候補表示のページ操作をする。
図6の例では候補表示ページは3ページあり、現在は1ページ目を表示している。ボタン505は操作ガイド500の消去を受け付ける。ユーザーがボタン505を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータ以外の表示を消去する。ボタン509は一括表示消去を受け付ける。ユーザーがボタン509を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータを含め、
図6に示されているすべての表示を消去して、ユーザーが最初から手書きをしなおすことを可能にする。
【0064】
手書きデータ504はユーザーが手書きした「ぎ」という文字である。手書きデータ504を囲む手書きデータ矩形領域表示503が表示される。
図6では一文字の入力で操作ガイド500が表示されているが、操作ガイド500が表示されるタイミングは、ユーザーが手書きを中断したタイミングである。したがって、手書きデータ504の文字数は任意である。
【0065】
手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508にはそれぞれの文字列候補が確率降順で並んでいる。手書き認識文字列候補506の「ぎ」は認識結果の候補である。この例では正しく「ぎ」を認識している。
【0066】
変換文字列候補507は「ぎ」のカナ漢字変換の結果(例えば「技」)から変換された変換文字列候補(例えば技を含む熟語)である。この例の「技量試」とは「技術量産試作」の略名である。文字列/予測変換の候補508は変換文字列候補507から変換された予測文字列候補である。この例では「技量試を決裁」と「議事録の送付先」が表示されている。
【0067】
操作コマンドの候補510は認識された文字に応じて表示される、予め定義されている操作コマンド(ファイル操作、文字の編集などのコマンド)の候補である。
図6の例では行頭文字の「》」511が操作コマンドの候補であることを示している。
図6では「ぎ」の文字列候補である「議事録」が、定義データと部分一致したため、操作コマンドの候補510として表示されている。
【0068】
ユーザーが「議事録テンプレートを読み込む」を選択すると、定義データで定義された操作コマンドが実行される。このように操作コマンドの候補は、変換された文字列を含む操作コマンド定義データが見つかる場合に表示されるため、常に表示されるとは限らない。
【0069】
図6に示すように、文字列候補と操作コマンドの候補が同時に(共に)表示されるため、ユーザーは自分が入力しようとした文字列候補と操作コマンドのどちらも任意に選択できる。
【0070】
<ブロックの生成方法>
図7、
図8を参照して、ブロックの生成方法を説明する。
図7は、ストロークデータのブロック化の方法を模式的に説明する図である。本実施例のブロック生成部24はユーザーがペンアップしてからペンダウンするまでの時間間隔のみでストロークデータのブロック化を行う。
図7では、1つ以上のストロークデータのペンダウンからペンアップまでを1つの矩形110で表している。矩形110と矩形110の間にある時間間隔111はストロークデータがペンアップしてからペンダウンするまでの時間間隔である。時間間隔111はいずれも閾値未満又は閾値以下である。なお、閾値は例えば数秒であるが、ユーザーが好みの閾値を設定できるとよい。
【0071】
ブロック生成部24は矩形110と矩形110の間の時間間隔が閾値以上又は閾値超過の場合に、ブロックを生成する。
図7では、時間間隔Aの検出によりブロックAを生成し、時間間隔Bの検出によりブロックBを生成する。ブロック生成部24は表1(b)のストロークデータに対応づけてブロックIDを登録する。
【0072】
図8はユーザーが手書きしたストロークデータの時間的な遷移を示す。
・まず、
図8(a)ではディスプレー220の左上に四角形121が手書きされた。
・次に、
図8(b)に示すように閾値未満又は閾値以下の時間間隔で右下に四角形122が手書きされた。
・次に、
図8(c)に示すように閾値未満又は閾値以下の時間間隔で下中央に四角形123が手書きされた。
・次に、
図8(d)に示すように閾値未満又は閾値以下の時間間隔で左下に四角形124が手書きされた。
・次に、
図8(e)に示すように閾値未満又は閾値以下の時間間隔で4つの四角形121~124を結ぶ矢印125が手書きされた。
【0073】
矢印125の手書き後、閾値以上又は閾値超過の時間間隔が生じた。このため、ブロック生成部24は4つの四角形121~124と矢印125が有する全てのストロークデータを1つのブロック126と判断する(
図8(f))。ブロック生成部24は4つの四角形121~124と矢印125が有する全てのストロークデータの外接矩形をブロック126の領域に決定する。すなわち、全てのストロークデータのうち左端の座標、全てのストロークデータのうち右端の座標、全てのストロークデータのうち上端の座標、全てのストロークデータのうち下端の座標、を通過する四角形をブロック126の領域とする。
【0074】
また、ブロック生成部24は、閾値未満又は閾値以下の時間間隔で手書きされた四角形122のように、四角形121の領域でない領域に手書きされた手書きデータを同じブロックであると判断できる。
【0075】
本実施例の表示装置2は、ペンアップからペンダウンまでの時間間隔のみでブロック化するので、空間的に離れた手書きデータを手書きしても、時間間隔が閾値未満又は閾値以下であれば、ブロック化することができる。
【0076】
図9は、ブロックへ追記された手書きデータの一例を示す。右下の四角形122と矢印を囲む自由曲線127と「必要なときのみ」という文字列128が手書きされている。これらはブロック126内への追記なので、色決定部25は設定されている2色目の色(例えば赤)で表示制御部26が表示する。自由曲線127と文字列128はブロック126に所属する。
【0077】
なお、ブロック内への追記は、最初のペンダウンがブロックの領域内であれば、閾値未満又は閾値以下の時間間隔で続けて追記されるストロークがブロックの領域外でも、同じブロック内への追記とみなされる。したがって、自由曲線127のうちの一部129は、ブロック126外であるが、最初のペンダウンによるストロークデータと同じ色で表示される。また、追記されるストロークデータがブロックの領域外になるとブロック126が拡張される(点線のブロック135)。これにより、更に追記されるストロークデータも同じブロックへの追記と判断されやすくなる。
【0078】
<色の決定方法>
次に、
図10,
図11を参照して2色目以降の色の決定方法を説明する。
図10は、1色目と2色目の色の設定を受け付ける色設定受付画面(色の設定を受け付けるための設定画面)130の一例を示す。
図10の色設定受付画面130は1色目の設定欄132と2色目の設定欄133を有している。3色目以降の色の設定欄があってもよい。なお、1色目の色とはブロックの領域でない場所に手書きされるストロークデータの表示色であり、初期設定の表示色に相当する。2色目の色とは、ブロック生成後にブロックの領域に手書きされるストロークデータの表示色である。1色目の設定欄132と2色目の設定欄133はそれぞれプルダウンメニューであり、ユーザーの操作に応じてカラーパレットを表示する。ユーザーはカラーパレットから、1色目と2色目を好みの色に予め設定しておくことができる。
【0079】
図11は、色相環を用いた3色目以降の色の決定方法を説明する図である。1つのブロックへの追記のたびに色を変更する設定の場合であっても、
図10のように予め色を設定しておく方法を採用することができる。しかし、3色目以降の色の全てをユーザーが設定しておくのは手間がかかる。そこで、3色目以降の色を自動で色決定部25が決定することが好ましい。
【0080】
図11(a)では、
図10で選択された2色目の色が「2」で示されている。色としては紫である。色決定部25は、色相環上で2色目の色と一定以上の角度の差を乱数で決定し3色目を決定する。一定以上の角度は例えば30度など、2色目の色と似ていない色となるように設定されている。
図11(a)では色相環上で2色目の色と90度の差を有する3色目が決定されている。色としては赤である。このように、2色目と異なる3色目の色を決定できる。
【0081】
図11(b)は4色目の色の決定方法を示す。4色目以降は、色決定部25が、直前の2色(4色目の色の場合は2色目と3色目)の色相環上の角度の差(大きいほう)を等分する点を選ぶ。
図11(b)では緑が選択されている。こうすることで、直前の2色とは異なり判別しやすい色を決定できる。
【0082】
<動作手順>
図12は、表示装置2がブロック内の手書きデータの色を変更して表示する処理又は動作の説明するフローチャート図の一例である。
図12の処理は、表示装置2がペンダウンを検出するとスタートする。なお、
図12の説明は、1つのブロックへの追記のたびに色を変更する設定の場合、又は、1つのブロックへの追記の回数に関係なく同じ色で手書きデータを表示する設定の場合のいずれにも対応している。
【0083】
色決定部25は、ペン2500が接触した座標がブロックの領域内か否かを判断する(S1)。ブロックデータ記憶部31の各ブロックの位置データとペン2500が接触した座標を比較すればよい。
【0084】
ステップS1の判断がYesの場合、色決定部25は一つ前の操作が削除又は色変更操作かどうかを判断する(S2)。色決定部25は、操作受付部29に最後の操作内容を問い合わせることで判断する。
【0085】
ステップS2の判断がNoの場合、ブロック内への追記なので、初期設定の色が設定された状態でも、色決定部25は追記される手書きデータの色を変更する(S3)。1つのブロックへの追記の回数に関係なく同じ色で手書きデータ(第四のデータの一例)を表示する設定の場合、ユーザーがカラーパレットで設定している2色目の色が採用される。1つのブロックへの追記のたびに手書きデータ(第三のデータの一例)の色を変更する設定の場合、2色目の場合は、ユーザーがカラーパレットで設定している2色目の色が採用される。3色目の場合は、
図11で説明したように、色決定部25は色相関で2色目の色から離れた3色目を決定する。4色目以降の場合は、色決定部25は表2を参照して最後の2色から追記される手書きデータの色を決定する。
【0086】
ステップS2の判断がYesの場合、ブロック内の手書きデータへの修正又はユーザーが色を設定したので、表示制御部26は色を変更しないか、又は、ユーザーが設定した色でストロークデータを表示する(S4)。この場合の色は、一つ前の操作が削除の場合は、削除されたストロークデータと同じ色である。一つ前の操作が色変更操作であった場合は、ユーザーが変更した色である。なお、表示とは、座標点をつなげて描画されるストロークデータを表示することである。
【0087】
次に、ブロック生成部24は、ペンアップからの時間間隔が閾値未満(又は閾値以下)の間に次のペンダウンが検出されたか否かを判断する(S5)。
【0088】
ステップS5の判断がYesの場合、ユーザーがブロック内に次々に手書きしているので、表示制御部26は色決定部25が決定した色でストロークデータの表示を継続する。
【0089】
ステップS5の判断がNoの場合、ユーザーがブロックへの追記を終了したので、ブロック生成部24はステップS1でペンダウンが検出された以降のストロークデータをブロックに加える(S6)。つまり、ステップS1でペンダウンが検出された以降のストロークデータにステップS1で判断されたブロックのブロックIDを付与する(ページデータ記憶部30にブロックIDが登録される)。追加されるストロークデータはブロックの領域外に手書きされたものでもよく、この場合、ブロック生成部24は追加されるストロークデータの座標に基づいて、ブロックデータ記憶部31の位置データを拡張する。
【0090】
ステップS1の判断がNoの場合、表示制御部26はストロークデータを表示する(S7)。この場合の色はユーザーが設定した1色目の色である。
【0091】
次に、ブロック生成部24は、ペンアップからの時間間隔が閾値未満(又は閾値以下)の間に次のペンダウンが検出されたか否かを判断する(S8)。
【0092】
ステップS8の判断がYesの場合、ユーザーが次々に手書きしているので、描画データ生成部は1色目の色でストロークデータの表示を継続する。
【0093】
ステップS8の判断がNoの場合、ユーザーが手書きを終了したので、ブロック生成部24はステップS1でペンダウンが検出された以降のストロークデータが1つのブロックであると判断する(S9)。ブロック生成部24は、ステップS1でペンダウンが検出された以降のストロークデータに同じブロックIDを付与する。ブロックIDをページデータ記憶部30に登録する。また、ブロック生成部24は、同じブロックIDを付与したストロークデータの外接矩形に基づいてブロックデータをブロックデータ記憶部31に登録する。
【0094】
<主な効果>
以上説明したように、本実施形態の表示装置2は、手書きに基づいた第一のデータを含む領域に、更に、手書きされる第二のデータの色を、ユーザーが手書きする第二のデータの色を変更する操作を行うことを必要とせずに、第一のデータとは異なる色に変更して表示することで、追加された第二のデータを容易に判断できるようにすることができる。
【実施例2】
【0095】
本実施例では、実施例1とは異なる方法でブロック生成部24がブロックを生成する方法を説明する。
【0096】
図13は、実施例1の方法でブロック化されたブロック126の領域を示す。
図13ではブロック126の右上にユーザーがストロークデータ141を追記した場合、周囲に書き込みがないにもかかわらずブロック126内への書き込みと判断される。しかし、このような場合、ユーザーはすでにあるブロック126とは関係なく手書きしたと考える方が自然である。
【0097】
そこで、本実施例では、1つのストロークデータを包含する最小の外接矩形を生成し、外接矩形が重なっている場合、全ての外接矩形を合成して1つのブロックとみなす。
【0098】
図14は、本実施例のブロック化の方法を説明する図である。
図14では4つの四角形のそれぞれについての矩形151~154、及び、3つの矢印のそれぞれについて矩形155~157が形成されている。ブロック生成部24はこの7つの矩形151~157の全体(論理和)を1つのブロック160の領域に決定する。すなわち、ブロック生成部24はペンアップからペンダウンまでの時間間隔が閾値未満又は閾値以下の1つ1つのストロークデータの外接矩形を求め、一部でも重なっている複数の外接矩形の範囲をブロック160に決定する。
【0099】
図14のブロック化方法では、ブロック160の右上にユーザーがストロークデータ141を追記した場合でも、ブロック160内への書き込みと判断されない。すなわち、表示装置2は、より手書きデータの形状にフィットしたブロックを生成することができる。
【0100】
<機能について>
なお、本実施例においては、上記の実施例1にて説明した
図4のハードウェア構成図、及び、
図5に示した機能ブロック図を援用できるものとし、主に相違について説明する。
【0101】
【表3】
表3は、本実施例のブロックデータ記憶部31に記憶されるブロックデータを示す。本実施例ではブロック生成部24がストロークデータごとに矩形を形成するため、ブロックデータ記憶部31の位置データの構造が表2とは異なっている。すなわち、位置データの項目にはブロック160が有するストロークデータごとに外接矩形の位置データが登録される。追記されるストロークデータが1つでも外接矩形に含まれれば、該ストロークデータはブロック内への追記と判断される。
【0102】
<動作手順>
本実施例の表示装置2の動作手順は
図12のフローチャート図と同様でよい。ただし、ステップ内の処理が異なるため、主に相違点を説明する。
【0103】
S1…色決定部25は、ペン2500が接触した座標がブロックの領域内か否かを判断する(S1)。色決定部25は、ブロックデータ記憶部31の1つのブロックの全ての外接矩形の位置データとペン2500が接触した座標を比較する。
【0104】
S6…ユーザーがブロックへの手書きを終了したので、ブロック生成部24はステップS1でペンダウンが検出された以降の全てのストロークデータの外接矩形を求め、外接矩形が一部でも重なっているストロークデータをステップS1で判断したブロックに加える。すなわち、このストロークデータにステップS1で判断されたブロックIDを付与してページデータ記憶部30に登録する。また、ブロック生成部24は、各ストロークデータの外接矩形の位置データを、ステップS1で判断されたブロックの位置データに追加する。
【0105】
S9…ユーザーが手書きを終了したので、ブロック生成部24はステップS1でペンダウンが検出された以降のストロークデータの外接矩形を求め、外接矩形が一部でも重なっているストロークデータが1つのブロックであると判断する。ブロック生成部24は、このストロークデータに同じブロックIDを付与する(ページデータ記憶部30に登録する)。また、ブロック生成部24は、同じブロックIDを付与した各ストロークデータの外接矩形の位置データをブロックデータ記憶部31に登録する。
【0106】
<ブロック化の例>
このように、本実施例では、ペンアップからペンダウンまでの時間間隔が閾値未満又は閾値以下、かつ、ストロークデータの外接矩形が重なっている場合に、それらのストロークデータが同じブロックであると判断する。したがって、時間間隔が閾値未満又は閾値以下でも、別のブロックと判断される場合がある。
【0107】
図15は、本実施例のブロック化の方法によるブロック化の一例を示す。
図15は、当日のスケジュール161と、発表者テーブル162を示す。司会は左側にスケジュール161を手書きしながら、右側の発表者テーブル162に発表者を手書きしていく。したがって、ブロック化の判断に時間間隔だけが使用されると、当日のスケジュール161と発表者テーブル162が1つのブロックと判断される場合がある。この場合、当日のスケジュール161と発表者テーブル162の間に追記される手書きデータは全て同じブロックに所属すると判断されてしまう。しかし、司会が例えば右上に手書きした連絡先163はあまり重要でないため、色を変える必要性が低い。
【0108】
これに対し、本実施例の表示装置2では、当日のスケジュール161と発表者テーブル162の外接矩形が重なっていないので、別々のブロックとして扱うことができる。
【0109】
<主な効果>
以上説明したように、本実施例の表示装置は、実施例1の効果に加え、ブロックの領域を手書きデータの形状によりフィットさせることができる。また、離れた場所の手書きデータを別々のブロックとして扱うことができる。
【実施例3】
【0110】
本実施例では、実施例1とは異なる方法でブロック生成部24がブロックを生成する方法を説明する。本実施例では、改行に応じてブロックを生成する表示装置2について説明する。
【0111】
図16は、本実施例のブロック化方法を説明する図である。
図16(a)に示すように、本実施例では、ディスプレー220において上端領域171、右端領域172、下端領域173、及び、左端領域174が設定されている。
図16(b)に示すように、ユーザーが右端領域172で書き込みを終えた後、反対側の左端領域174で書き込みを開始した場合、ブロック生成部24は改行前の一連のストロークデータ(時間間隔が閾値未満又は閾値以下)を1つのブロックと判断する。
図16(b)では「あいうえお」が1つのブロック175となる。こうすることで、改行前の最後の1文字「お」が手書きされてから、改行後の最初の1文字「か」が手書きされるまでの時間間隔が閾値未満又は閾値以下でも、ブロック生成部24は別々のブロックを生成できる。
【0112】
<機能について>
なお、本実施例においては、上記の実施例1にて説明した
図4のハードウェア構成図、及び、
図5に示した機能ブロック図を援用できるものとし、主に相違について説明する。また、ブロックデータ記憶部31の構成は実施例1の表2と同様でよい。
【0113】
<動作手順>
図17は、本実施例の表示装置2の動作手順を示すフローチャート図の一例である。
図17の説明では主に
図12との相違点を説明する。
図17ではステップS20,S21が追加されている。
【0114】
S20…ステップS15の判断がYesの場合、ブロック生成部24はストロークデータが一方の端領域から反対側の他方の端領域に移動したか否かを判断する。以下の形態がある。
・右端領域172から左端領域174への移動(又はこの逆)
・下端領域173から上端領域171への移動(又はこの逆)
ステップS20の判断がYesの場合、ユーザーが改行したので、処理はステップS16に進む。ステップS16の処理は
図12のステップ6と同様でよい。ブロック生成部24は一方の端領域の最後のストロークデータまでを1つのブロックと判断する。
【0115】
S21…ステップS18の判断がYesの場合、ブロック生成部24はストロークデータが一方の端領域から反対側の他方の端領域に移動したか否かを判断する。以下の形態がある。
・右端領域172から左端領域174への移動(又はこの逆)
・下端領域173から上端領域171への移動(又はこの逆)
ステップS21の判断がYesの場合、ユーザーが改行したので、処理はステップS19に進む。ステップS19の処理は
図12のステップS9と同様でよい。ブロック生成部24は一方の端領域の最後のストロークデータまでを1つのブロックと判断する。
【0116】
<ブロック化の例>
本実施例では、ペンアップからペンダウンまでの時間間隔が閾値未満又は閾値以下であっても、改行された場合は、別々のブロックであると判断する。したがって、時間間隔が閾値未満又は閾値以下でも、別のブロックと判断される場合がある。
【0117】
図18は、本実施例のブロック化の方法によるブロック化の一例を示す。
図18(a)では「東京スカイフラワー」の後に「浅草神社」「富士山」と手書きされている。ユーザーは「東京スカイフラワー」と「浅草神社」の間に、後に追記したい内容があるが、説明のため、先に「浅草神社」を手書きした。
【0118】
次に、ユーザーは
図18(b)に示すように、「東京スカイフラワー」と「浅草神社」の間に「関東タワー」と手書きした。「東京スカイフラワー」と「浅草神社」が同じブロックであると判断された場合、「関東タワー」だけ色が変わってしまう。しかし、本実施例では、「東京スカイフラワー」と「浅草神社」が別のブロックであると判断されているので、「関東タワー」の色を「東京スカイフラワー」と「浅草神社」と同じにすることができる。
【0119】
なお、右端領域172まで文字列が達しない場合でも、ブロック化したいユーザーは右端領域172に点を打つなどすれば、任意にブロック化できる。上端領域171、下端領域173、及び、左端領域174についても同様である。
【0120】
<主な効果>
以上説明したように、本実施例の表示装置は、実施例1の効果に加え、1行ごとにブロック化することができる。また、離れた場所の手書きデータを別々のブロックとして扱うことができる。
【実施例4】
【0121】
以下の実施例では表示装置2の別の構成例について説明する。
【0122】
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
【0123】
図19は、表示装置2の他の構成例を示す図である。
図19では、通常のホワイトボード413の上辺にプロジェクター411が設置されている。このプロジェクター411が表示装置2に相当する。通常のホワイトボード413とは、タッチパネルと一体のフラットパネルディスプレーではなく、ユーザーがマーカーで直接、手書きするホワイトボードである。なお、ホワイトボードは黒板でもよく、映像を投影するだけの広さの平面であればよい。
【0124】
プロジェクター411は超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をホワイトボード413に投影できる。この映像は、無線又は有線で接続されたPC400-1から送信されてもよいし、プロジェクター411が記憶していてもよい。
【0125】
ユーザーは専用の電子ペン2501を使ってホワイトボード413に手書きする。電子ペン2501は、ユーザーが手書きのためにホワイトボード413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411はカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411は音波の到達時間により距離を算出する。方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
【0126】
プロジェクター411はメニュー430を投影するので、ユーザーが電子ペン2501でボタンを押下すると、プロジェクター411が電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。例えば、保存ボタン431が押下されると、ユーザーが手書きした手書きされたデータ(座標点列)がプロジェクター411で保存される。プロジェクター411は、予め定められたサーバー412又はUSBメモリー2600等に手書き情報を保存する。手書き情報はページごとに保存されている。画像データではなく座標のまま保存されるので、ユーザーが再編集することができる。ただし、本実施形態では操作コマンドを手書きで呼び出せるのでメニュー430は表示されなくてもよい。
【実施例5】
【0127】
<<表示装置の別の構成例2>>
図20は、表示装置2の他の構成例を示す図である。
図20の例では、表示装置2として、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
【0128】
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
【0129】
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、電子ペン820は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は
図19と同様でよい)、端末装置600へ送信する。
【0130】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成し、画像投影装置700Aによって手書きデータの画像をスクリーン800に描画させる。
【0131】
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【実施例6】
【0132】
<<表示装置の別の構成例3>>
図21は、表示装置2の構成例を示す図である。
図21の例では、表示装置2として、端末装置600と、ディスプレー800Aと、ペン動作検出装置810とを有する。
【0133】
ペン動作検出装置810は、ディスプレー800Aの近傍に配置され、ディスプレー800A上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は
図19と同様でよい)、端末装置600へ送信する。なお、
図21の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
【0134】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像の画像データを生成し、ディスプレー800Aに表示させる。
【実施例7】
【0135】
<<表示装置の別の構成例4>>
図22は、表示装置2の構成例を示す図である。
図22の例では、表示装置2として、端末装置600と、画像投影装置700Aとを有する。
【0136】
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
【0137】
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像の画像データを生成し、画像投影装置700Aに手書データの画像を投影させる。
【0138】
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【0139】
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
【0140】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0141】
例えば、本実施形態では電子黒板を一例として説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、手書き入力装置、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
【0142】
また、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、ペン先の座標を超音波により検出してもよい。また、ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークデータとしてプロジェクターが描画(投影)する。
【0143】
また、
図5などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0144】
また、表示装置2が行う処理の一部を、表示装置2とネットワークを介して接続されたサーバーが行ってもよい。
【0145】
また、本実施形態において、比較の対象として閾値が例示されていたとしても閾値は例示された値には限定されない。このため、本実施形態では、全ての閾値に関し、閾値未満と閾値以下という記載は同等の意味を持ち、閾値超過と閾値以上という記載は同等の意味を持つ。例えば、閾値を11とした場合の閾値未満という記載は閾値が10である場合の閾値以下と同等の意味を持つ。また、閾値を10とした場合の閾値超過という記載は閾値が11である場合の閾値以上と同等の意味を持つ。
【0146】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0147】
ブロック生成部24は領域生成手段の一例である。表示制御部26は表示制御手段の一例である。操作受付部29は操作受付手段の一例である。接触位置検出部21は受付手段の一例である。色決定部25は色決定手段の一例である。
【符号の説明】
【0148】
2 表示装置
【先行技術文献】
【特許文献】
【0149】