IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

<>
  • 特開-表示装置、表示方法、プログラム 図1
  • 特開-表示装置、表示方法、プログラム 図2
  • 特開-表示装置、表示方法、プログラム 図3
  • 特開-表示装置、表示方法、プログラム 図4
  • 特開-表示装置、表示方法、プログラム 図5
  • 特開-表示装置、表示方法、プログラム 図6
  • 特開-表示装置、表示方法、プログラム 図7
  • 特開-表示装置、表示方法、プログラム 図8
  • 特開-表示装置、表示方法、プログラム 図9
  • 特開-表示装置、表示方法、プログラム 図10
  • 特開-表示装置、表示方法、プログラム 図11
  • 特開-表示装置、表示方法、プログラム 図12
  • 特開-表示装置、表示方法、プログラム 図13
  • 特開-表示装置、表示方法、プログラム 図14
  • 特開-表示装置、表示方法、プログラム 図15
  • 特開-表示装置、表示方法、プログラム 図16
  • 特開-表示装置、表示方法、プログラム 図17
  • 特開-表示装置、表示方法、プログラム 図18
  • 特開-表示装置、表示方法、プログラム 図19
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023133111
(43)【公開日】2023-09-22
(54)【発明の名称】表示装置、表示方法、プログラム
(51)【国際特許分類】
   G06F 3/04883 20220101AFI20230914BHJP
   G06F 3/04845 20220101ALI20230914BHJP
   G06F 40/109 20200101ALI20230914BHJP
   G06V 30/19 20220101ALI20230914BHJP
   G06V 30/242 20220101ALI20230914BHJP
【FI】
G06F3/04883
G06F3/04845
G06F40/109
G06V30/19 G
G06V30/242
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2022192226
(22)【出願日】2022-11-30
(31)【優先権主張番号】P 2022037463
(32)【優先日】2022-03-10
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】吉田 拓郎
【テーマコード(参考)】
5B064
5B109
5E555
【Fターム(参考)】
5B064AB03
5B064AB04
5B064AB09
5B064BA05
5B064DA29
5B064DA32
5B064FA10
5B109RA15
5B109SA14
5E555AA13
5E555BA02
5E555BA28
5E555BA63
5E555BB02
5E555BB28
5E555BC19
5E555CA14
5E555CB10
5E555CB11
5E555DB11
5E555DB41
5E555DD07
5E555EA07
5E555EA24
5E555FA00
(57)【要約】
【課題】表や図に合わせて、フォントのサイズや色といった、手書きから変換されたテキストや図形の属性の設定に関するユーザーの利便性を向上させること。
【解決手段】表を表示する表示装置であって、前記表に設定されている属性を記憶する記憶部と、手書きの入力を受け付ける入力受付部と、前記手書きをテキスト又は図形に変換する変換部と、前記手書きが前記表の少なくとも一部と重複しているか否かを判断する判断部と、前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させる表示制御部と、を有することを特徴とする。
【選択図】図1
【特許請求の範囲】
【請求項1】
表を表示する表示装置であって、
前記表に設定されている属性を記憶する記憶部と、
手書きの入力を受け付ける入力受付部と、
前記手書きをテキスト又は図形に変換する変換部と、
前記手書きが前記表の少なくとも一部と重複しているか否かを判断する判断部と、
前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させる表示制御部と、
を有することを特徴とする表示装置。
【請求項2】
前記手書きと前記表が重複している場合、前記表示制御部は、前記表に設定されている属性に基づいて表示させる第一のテキスト又は第一の図形と、前記表示装置に初期設定されている属性に基づいて表示させる第二のテキスト又は第二の図形と、を表示させ、
前記第一のテキスト又は第一の図形の選択を受け付けた場合、前記表に設定されている属性に基づいて前記第一のテキスト又は第一の図形を前記表に表示させることを特徴とする請求項1に記載の表示装置。
【請求項3】
前記表に設定されている属性は、前記テキストのフォント、フォントサイズ、フォント色、又は前記表における前記テキストの配置、の1つ以上であることを特徴とする請求項1又は2に記載の表示装置。
【請求項4】
前記表に設定されている属性は、前記変換部が、前記表と重複している前記手書きを前記テキスト又は前記図形に変換する際に使用する辞書であることを特徴とする請求項1に記載の表示装置。
【請求項5】
前記表に設定されている属性は、前記第一のテキスト又は前記第一の図形と前記第二のテキスト又は前記第二の図形を表示せずに、前記変換部が前記手書きから変換した前記テキスト又は前記図形を、前記表に設定されている属性に基づいて前記表に表示させる旨であることを特徴とする請求項2に記載の表示装置。
【請求項6】
前記表はセルを有し、
前記表に設定されている属性は、前記表の所定のセルに入力された値を演算する旨であり、
前記所定のセルに前記第一のテキストが入力された場合、前記所定のセルに入力された前記第一のテキストを処理した結果を前記表に表示させる表処理部を有することを特徴とする請求項2に記載の表示装置。
【請求項7】
前記表に設定されている属性は、他の表に入力された値をコピーする旨であり、
前記他の表に値が入力された場合、前記他の表に入力された値をコピーして前記表に表示させることを特徴とする請求項1に記載の表示装置。
【請求項8】
前記第二のテキストの選択を受け付け、前記第二のテキストが前記所定のセルに入力された場合、前記表処理部は、前記所定のセルに入力された前記第一のテキストのみを処理した結果を前記表に表示させることを特徴とする請求項6に記載の表示装置。
【請求項9】
前記表はセルを有し、
同じ前記表の異なるセルに対し、前記第一のテキスト又は前記第一の図形の選択と、前記第二のテキスト又は前記第二の図形の選択をそれぞれ受け付けた場合、
前記表示制御部は、前記第一のテキスト又は前記第一の図形と前記第二のテキスト又は前記第二の図形を同じ前記表の異なるセルに表示させることを特徴とする請求項2に記載の表示装置。
【請求項10】
前記表示制御部は、前記第一のテキスト又は前記第一の図形の周囲に、前記表に設定されている属性に基づいて前記第一のテキスト又は前記第一の図形が表示させられている旨を表示させることを特徴とする請求項9に記載の表示装置。
【請求項11】
前記手書きの外接矩形をオフセットの長さ拡大した近傍矩形と前記表が一定以上重複する場合、前記手書きと前記表の少なくとも一部が重複していると判断することを特徴とする請求項1に記載の表示装置。
【請求項12】
テキスト又は図形の表を表示する表示装置が行う表示方法であって、
前記表示装置は前記表に設定されている属性を記憶する記憶部を有し、
入力受付部が、手書きの入力を受け付けるステップと、
変換部が、前記手書きをテキスト又は図形に変換するステップと、
判断部が、前記手書きが前記表の少なくとも一部と重複しているか否かを判断するステップと、
前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させるステップと、
を有することを特徴とする表示方法。
【請求項13】
表に設定されている属性を記憶する記憶部を有し、テキスト又は図形の表を表示する表示装置を、
手書きの入力を受け付ける入力受付部と、
前記手書きをテキスト又は図形に変換する変換部と、
前記手書きが前記表の少なくとも一部と重複しているか否かを判断する判断部と、
前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させる表示制御部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、表示方法、及びプログラムに関する。
【背景技術】
【0002】
手書き認識技術を利用し、手書きデータを文字に変換して、ディスプレーに表示する表示装置が知られている。比較的大型のタッチパネルを備えた表示装置は会議室や公共施設などに配置され、複数のユーザーにより電子黒板などとして利用される。
【0003】
手書きの表をデジタル表オブジェクトに変換する技術が知られている(例えば、特許文献1参照。)。特許文献1には、手書きの表をデジタル表オブジェクトに変換すると共に、手書きの数字をテキストデータに変換する図が記載されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、手書き認識技術を利用して、表や図の中に手書きを行う前に、予め表や図に合わせて、フォントのサイズや色といった、手書きから変換されたテキストや図形の属性を設定する必要があった。
【0005】
本発明は、上記課題に鑑み、表や図に合わせて、フォントのサイズや色といった、手書きから変換されたテキストや図形の属性の設定に関するユーザーの利便性を向上させることを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、表を表示する表示装置であって、前記表に設定されている属性を記憶する記憶部と、手書きの入力を受け付ける入力受付部と、前記手書きをテキスト又は図形に変換する変換部と、前記手書きが前記表の少なくとも一部と重複しているか否かを判断する判断部と、前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させる表示制御部と、を有することを特徴とする。
【発明の効果】
【0007】
表や図に合わせて、フォントのサイズや色といった、手書きから変換されたテキストや図形の属性の設定に関するユーザーの利便性を向上させることができる。
【図面の簡単な説明】
【0008】
図1】手書きされたストロークが表入力される処理を模式的に示す図である。
図2】表示装置の配置例を示す図である。
図3】表示装置のハードウェア構成図の一例である。
図4】表示装置が有する機能をブロック状に分けて説明する機能ブロック図の一例である。
図5】オブジェクトデータ記憶部に記憶されるオブジェクトデータを説明する図である。
図6】表情報記憶部に記憶される表情報を説明する図である。
図7】近傍矩形を説明する図である。
図8】条件1,2の判断例を説明する図である。
図9】図形に対する条件1,2の判断例を説明する図である。
図10】同一認識グループのストロークが条件1,2を満たす場合に、表入力対象テキストを表入力する処理を説明するフローチャート図の一例である。
図11】ペンアップから所定時間Tが経過していない場合の同一認識グループを示す図である。
図12】ペンアップから所定時間Tが経過した場合の同一認識グループを示す図である。
図13】ストロークデータが同一認識グループとならない条件を説明する図である。
図14】認識グループ判断部が同一認識グループのストロークデータを決定する手順を説明するフローチャート図の一例である。
図15図14のステップS21、S23、S27で説明した、ストロークデータが同一認識グループとならない条件を満たすか否かを判断するフローチャート図の一例である。
図16】操作ガイドを非表示とする旨が設定されたセルに手書きされたストロークの変換例を示す図である。
図17】合計の自動算出とセルの値のコピーを説明する図である。
図18図17の表の表情報の一例を示す図である。
図19】表示システムの概略構成図の一例である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として表示装置と、表示装置が行う表示方法について図面を参照しながら説明する。
【0010】
<表入力の概略>
本実施形態の表示装置は、手書き文字認識モードから表入力モードへのモードの切り替えをユーザーが行うことなく、ユーザーが表にテキストや図形を入力することができる。表入力モードから手書き文字認識モードへのモードの切り替えもユーザーが行うことなく、文字認識することができる。すなわち、表示装置は、ユーザーが表に手書きしたストロークに基づいて単なる文字認識を行うことも可能であり、文字認識されたテキストを表と対応付けて入力することも可能である。テキストを表と対応付けて入力することを、以下「表入力」という。表入力されたテキストは、表に設定された属性で表示されたり処理されたりする。
【0011】
図1は、手書きされたストロークが表入力される処理を模式的に示す図である。図1(a)に示すように、ユーザーが表301のセル303に1つ以上のストローク(以下、同一認識グループのストローク302という)を手書きすると、表示装置2はストローク302が条件1、2を満たすか否かを判断する(図1(b))。条件1、2について詳細は後述するが、条件1、2では、同一認識グループのストローク302とセル303が重複しているか否か判断される。同一認識グループとは、まとめてテキストや図形などに変換される1つ以上のストロークである。詳細は後述される。
【0012】
同一認識グループのストローク302が条件1、2を満たす場合、図1(c)に示すように、表示装置2は、同一認識グループのストローク302が表入力される可能性があると判断して、文字変換候補539に表入力対象テキスト310(第一のテキストの一例)を表示する。表入力対象テキスト310はセル303に表入力される候補のテキストである。図1(c)では「こうもく」というストロークに対し「項目(表に代入)」「こうもく(表に代入)」「こうもく」という文字変換候補539が表示されている。このうち、「項目(表に代入)」「こうもく(表に代入)」が表入力対象テキスト310である。表入力対象テキスト310は、表に対応付けられるので、表301のセル303に設定された属性で表示可能となる。表入力対象テキスト310でないテキスト311(第二のテキストの一例)は、表とは関係なく、表示装置2に初期設定されている属性で、ストロークが手書きされた位置に表示される。
ユーザーが図形を手書きした場合、文字変換候補539に、表301に入力される図形(第一の図形の一例)と、表301とは関係なく表示装置2に初期設定されている属性で、ストロークが手書きされた位置に表示される別の図形(第二の図形の一例)が表示される。
【0013】
ユーザーが「項目(表に代入)」を選択した場合、図1(d)に示すように、表示装置2はストローク302が手書きされたセル303に設定されている属性で「項目」309を表示する。「項目」309は表入力対象テキスト310である。例えば、フォント、色、セル内の位置をユーザーが指定しなくても、表示装置2は、所定のフォント等で表示することができる。また、ユーザーが表301を移動すると、「項目」309も移動され、表301のセル303に配置された状態を維持する。
【0014】
ユーザーは文字変換候補539から表入力対象テキスト310でないテキスト311を選択することもでき、この場合、表入力したくないようなメモ書きを任意に入力できる。表示装置2が、表入力対象テキスト310のみを抽出してファイルに書き出すような処理を行う場合に、表入力対象テキスト310とそれ以外を自動で切り分けることができる。
【0015】
このように、本実施形態の表示装置2では、ユーザーがモードを切り替えることなく、単なる文字認識も可能であり、かつ、文字認識されたテキストを表入力することも可能である。表入力されたテキストは表の属性にしたがって表示及び処理することができ、表入力されなかったテキストは、表の属性に影響されない。また、本実施形態の表示装置2は、同一認識グループのストロークとセルが重複しているか否かを判断し、表入力対象テキスト310を選択可能に表示するので、セルとテキストを精度よく対応付けることができる。なお、ユーザーが手書きする内容はテキストに限られない。手書きデータからテキストに変換する以外にも、手書きデータから図形やスタンプ等に変換してもよい。変換された図形が条件1、2を満たす場合に、変換候補に表入力対象図形を表示させてユーザーからの選択を受け付けても良い。
【0016】
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、ペン、人の指や手、棒状部材などがある。
ユーザーがディスプレーに入力手段を押しつけてから連続的に移動させた後、ディスプレーから離すという一連の操作をストロークという。ストロークは、ディスプレーに接触することなく、ユーザーの動きを追跡することを含む。この場合、表示装置は、例えばマウスやポインティングデバイスを使用して、ユーザーのジェスチャー、ユーザーの手若しくは足によるボタンの押下、又は他の方法で、ストロークを開始させてもよい。更に、ユーザーは、同じ又は異なるジェスチャー、ボタンを離す、又はマウスやポインティングデバイスを使用して、ストロークを終了させてもよい。
【0017】
ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレーに表示される情報である。ストロークデータは適宜、補間されてよい。手書きデータとは、1つ以上のストロークデータを有するデータである。手書き入力とは、ユーザーによって、手書きデータが入力されることを示している。手書き入力は、タッチインターフェース、ペンやスタイラスなどの触覚オブジェクト、又はユーザーの体を使って実行されてもよい。また、手書き入力は、ジェスチャーベースの入力、手の動きの追跡入力、又はユーザーによる他のタッチフリー入力など、他のタイプの入力を介して実行されてもよい。本発明の実施形態では、手書き入力及び手書き入力データに言及するが、他の形態の手書き入力が利用されてもよい。
【0018】
ストロークデータに基づいてディスプレーに表示される表示物をオブジェクトという。オブジェクトとは対象という意味であるが、本実施形態では表示対象などの意味である。ストロークデータが書き認識して変換されたオブジェクトには、文字列の他、「済」などの決まった文字やマークとして表示されるスタンプ、円や星などの図形、直線等も含まれてよい。
【0019】
表とは、事柄を見やすいように配列して書き表したものである。表には一次元の表と二次元の表があるが、本実施形態では、どちらでもよい。また、表にセルが1つしかなくてもよい。
【0020】
入力エリアは、表のセルや図形などの枠で囲まれた領域である。入力エリアは、Webページなどの単なる入力欄でもよい。本実施形態では、入力エリアに予め属性が設定されている。
【0021】
入力エリアに設定されている属性とは、入力エリアに好ましいテキストの態様である。属性は例えばフォント、テキストの色、入力エリア内のテキストの配置などである。
図形とは、一定の決まりによって定められる様々な形状をいう。図形には、三角形、四角形、円、菱形など多くの種類があるが、電子署名作成用の図形が予め設定されている。ユーザーは図形を図形として表示させることもできるし、図形を表入力の選択にも使用できる。このため、本実施形態では、ユーザーによって手書きされたストロークがテキストや図形として認識されるかどうかが判断される。
【0022】
<装置の構成例>
図2を用いて、本実施形態に係る表示装置2の全体構成を説明する。図2は、表示装置2の配置例を示した図である。図2(a)は、表示装置2の一例として、壁につり下げられた横長の電子黒板として使用される表示装置2を示している。
【0023】
図2(a)に示されているように、表示装置2の上部には表示装置2の一例としてのディスプレー220が設置されている。ユーザーUは、ペン2500を用いて、ディスプレー220に文字等を手書きすることができる。
【0024】
図2(b)は壁につり下げられた縦長の電子黒板として使用される表示装置2を示している。
【0025】
図2(c)は机230に平置きされた表示装置2を示す。表示装置2は厚みが1cm程度なので、一般の机に平置きしても机の高さを調整する必要がない。また、ユーザーは表示装置2を容易に移動できる。
【0026】
なお、ペン2500の座標の入力方式には、電磁誘導方式、アクティブ静電結合方式などがある。また、ペン2500は、筆圧検知、傾き検知、ホバー機能(ペンが触れる前にカーソルを表示)、などの機能を有していてよい。
【0027】
<装置のハードウェア構成>
続いて、図3を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。図3は、表示装置2のハードウェア構成図の一例である。図3に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、及び、SSD(Solid State Drive)204を備えている。
【0028】
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
【0029】
SSD204は、OSや表示装置2用のプログラム等の各種データを記憶する。このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションプログラムでもよい。この場合、普段は汎用的な情報処理装置として利用されるが、ユーザーがアプリケーションプログラムを実行すると、表示装置2の専用機と同様、ユーザーが手書きすることができる。
【0030】
また、表示装置2は、ディスプレーコントローラー213、タッチセンサーコントローラー215、タッチセンサー216、ディスプレー220、電源スイッチ227、チルトセンサー217、シリアルインタフェース218、スピーカー219、マイク221、無線通信装置222、赤外線I/F223、電源制御回路224、ACアダプター225、及びバッテリー226を備えている。
【0031】
ディスプレーコントローラー213は、出力画像をディスプレー220等へ出力するために画面表示の制御及び管理を行う。タッチセンサー216は、ディスプレー220上にペン2500やユーザーの手等(ペンやユーザーの手は入力手段となる)が接触したことを検知する。また、タッチセンサー216はペンIDを受信する。
【0032】
タッチセンサーコントローラー215は、タッチセンサー216の処理を制御する。タッチセンサー216は、座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法について説明する。例えば、光学式の場合、ディスプレー220の上側両端部に設置された2つ受発光装置が、ディスプレー220に平行して複数の赤外線を放射する。2つ受発光装置は、ディスプレー220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する。
【0033】
タッチセンサー216は、物体によって遮断された2つの受発光装置が放射した赤外線の位置情報をタッチセンサーコントローラー215に出力し、タッチセンサーコントローラー215が、物体の接触位置である座標位置を特定する。また、タッチセンサーコントローラー215は通信ユニット215aを有しており、ペン2500と無線で通信することができる。例えば、Bluetooth(登録商標)などの規格で通信している場合は、市販されているペンを使用することができる。通信ユニット215aに予め1つ以上のペン2500を登録しておくと、ユーザーはペン2500を表示装置2と通信させる接続設定を行わなくても通信できる。
【0034】
電源スイッチ227は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。チルトセンサー217は、表示装置2の傾き角度を検出するセンサーである。主に、表示装置2が図2(a)、図2(b)、又は、図2(c)のいずれかの設置状態で使用されているかを検出するために使用され、設置状態に応じて文字等の太さを自動で変更することができる。
【0035】
シリアルインタフェース218はUSBなどの外部との通信インタフェースである。シリアルインタフェース218は、外部からの情報の入力などに使用される。スピーカー219は音声の出力に使用され、マイク221は音声の入力に使用される。無線通信装置222は、ユーザーが携帯する端末と通信し、例えばインターネットへの接続を中継する。無線通信装置222はWi-FiやBluetooth(登録商標)などで通信するが、通信規格は問われない。無線通信装置222はアクセスポイントを形成しており、ユーザーが入手したSSID(Service Set Identifier)とパスワードをユーザーが携帯する端末に設定すると、アクセスポイントに接続できる。
【0036】
なお、無線通信装置222には2つのアクセスポイントが用意されているとよい。
a. アクセスポイント→インターネット
b. アクセスポイント→社内ネットワーク→インターネット
aのアクセスポイントは社外のユーザー用で、ユーザーは社内ネットワークにはアクセスできないが、インターネットを利用できる。bのアクセスポイントは社内のユーザー用で、ユーザーは社内ネットワーク及びインターネットを利用できる。
【0037】
赤外線I/F223は隣に配置された表示装置2を検出する。赤外線I/F223は、赤外線の直進性を利用して、隣に配置された表示装置2のみを検出できる。赤外線I/F223は各辺に1つずつ設けられることが好ましく、表示装置2のどの方向に他の表示装置2が配置されたのかを検出できる。これにより画面が広がり、隣の表示装置2に過去に手書きされた手書き情報(1つのディスプレー220の広さを1ページとして別のページの手書き情報)等を表示できる。
【0038】
電源制御回路224は表示装置2の電源であるACアダプター225とバッテリー226を制御する。ACアダプター225は商用電源が共有する交流を直流に変換する。
【0039】
ディスプレー220がいわゆる電子ペーパーの場合、画像の表示を維持するためにほとんど又は一切電力を消費しないので、バッテリー226による駆動も可能である。これにより、屋外など電源を接続しにくい場所でもデジタルサイネージなどの用途で表示装置2を使用することが可能になる。
【0040】
更に、表示装置2は、バスライン210を備えている。バスライン210は、図3に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0041】
なお、タッチセンサー216は、光学式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネルでもよい。タッチセンサー216は、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネルでもよい。タッチセンサー216は、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルでもよく、種々の検出手段を用いてもよい。タッチセンサー216は、ペン先のタッチの有無を検知するのに電子ペンが必要ない方式であってよい。この場合はタッチ操作をするのに指先やペン型の棒を使用できる。なお、ペン2500は、細長いペン型である必要はない。
【0042】
<機能について>
次に、図4を用いて表示装置2の機能について説明する。図4は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、入力受付部21、描画データ生成部22、変換部23、表示制御部24、データ記録部25、ネットワーク通信部26、操作受付部27、判断部28、認識グループ判断部29、表処理部30、領域変更部31、及び除外部32を有している。表示装置2が有する各機能は、図3に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
【0043】
入力受付部21はタッチセンサー216に対しペン2500等の入力手段が接触した位置の座標を検出することで、座標の軌跡(座標点列、手書きされたデータ)の入力を受け付ける。描画データ生成部22はペン2500のペン先が接触した座標を入力受付部21から取得する。描画データ生成部22は、この座標点列を補間することで接続してストロークデータを生成する。
【0044】
変換部23はユーザーが手書きした同一認識グループのストロークデータ(手書きデータ)に対し文字認識処理を行い、テキスト(文字コード)に変換する。変換部23は、ユーザーのペン操作と並行して文字(日本語だけでなく英語などの多国語)、数字、記号(%、$、&など)、を認識して変換する。また、変換部23はユーザーが手書きした1つ以上のストロークデータ(手書きデータ)に対し図形認識処理を行い、図形(線、丸、三角など)に変換する。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。
【0045】
表示制御部24は手書きデータ、手書きデータから変換されたテキスト、及び、ユーザーが操作するための操作メニューなどをディスプレー220に表示させる。データ記録部25は、表示装置2に手書きされた手書きデータ、変換されたテキスト、及び、PC(Personal Computer)の画面、ファイル等を記憶部40に記憶する。ネットワーク通信部26はLAN等のネットワークに接続して、他の機器とネットワークを介したデータの送受信を行う。
【0046】
操作受付部27は、ペン2500等が接触した座標に基づいて、文字認識された複数の変換候補から任意の文字の選択を受け付けたり、メニューの押下を受け付けたりする。
【0047】
判断部28は、条件1,2に基づいて、ストロークが表に対し入力されたか否かを判断する。すなわち、判断部28は、文字認識されたテキストを表入力対象テキスト310として表示させるか否かを判断する。
【0048】
認識グループ判断部29は、複数のストロークが同一認識グループに含まれるか否かを判断する。認識グループ判断部29は領域変更部31と除外部32を有している。
【0049】
領域変更部31は、ストロークデータが同一認識グループに含まれるか否かが判断される後述の追加認識矩形102を、入力手段がタッチパネルから離れてから所定時間Tが経過するか否かで変更する。
【0050】
除外部32は、入力受付部21が受け付けたストロークデータが所定の条件を満たす場合、追加認識矩形102に手書きされたストロークデータであっても、同一認識グループから除外する。
【0051】
表処理部30は、表に設定されている属性に基づいて、表に関する処理を行う。処理は、例えばセルに表入力された値の演算(合計の算出等)、セルのコピーなどである。
また、表示装置2は、図3に示されているSSD204やRAM203などに構築される記憶部40を有し、記憶部40にはオブジェクトデータ記憶部41と表情報記憶部42が構築されている。
【0052】
図5は、オブジェクトデータ記憶部41に記憶されるオブジェクトデータを説明する図である。
【0053】
・オブジェクトIDの項目は、表示データを識別する識別情報である。
【0054】
・種別の項目は、オブジェクトデータの種類であり、手書き、テキスト、図形、画像、表、等がある。手書きはストロークデータ(座標点列)である。テキストは手書きデータから変換された1つ以上の文字や記号等(文字コード)である。図形は、三角や四角など手書きデータから変換された幾何学的な形状である。画像は、PCやインターネットなどから取り込まれたJpeg、Png、Tiffなどの画像データである。表は、一次元又は二次元のテーブル状のオブジェクトである。
【0055】
・表示装置2の1画面をページと称する。ページの項目はそのページ番号である。
【0056】
・座標の項目は、表示装置2の所定の原点を基準とするオブジェクトデータの位置を示す。オブジェクトデータの位置は例えばオブジェクトデータの外接矩形の左上頂点である。座標は例えば、ディスプレーの画素単位で表される。
【0057】
・サイズの項目は、オブジェクトデータの外接矩形の幅と高さである。
【0058】
・表入力の項目は、表入力されたオブジェクトについて、表との対応を示す。例えば、オブジェクトID=2、6のテキストは、表ID=001の表と対応付けられている。また、オブジェクトID=2、6のテキストは、それぞれ表ID=001の表の(1,1)(2,1)のセルに表入力されている(表に対応付けられている)ことを示す。なお、手書きや図形が表入力されてもよい。
【0059】
図6は、表情報記憶部42に記憶される表情報を説明する図である。表情報は表(又は各セル)の属性を有する。また、表情報は、表の元になるひな形の情報であり、実際の表は1つの表情報を元に複数、作成されてよい。セルに実際に値が入力された表は、ディスプレーにおける表の位置を含めてオブジェクトデータとして保存される。
【0060】
・表IDの項目は、表のひな形の識別情報である。
・表形式の項目は、表が行数と列数を指定する。
【0061】
・セルサイズの項目は、表が有する各セルの縦横の長さである。図6では、セルサイズが表内で均一であるが、行ごと又は列ごとにセルサイズが設定される場合もある。
【0062】
・フォントの項目は、表入力された表入力対象テキスト310のフォントを指定する。フォントは、各セルごとに設定可能でもよい。
【0063】
・フォントサイズの項目は、表入力された表入力対象テキスト310のサイズを指定する。フォントサイズは、各セルごとに設定可能でもよい。フォントサイズが自動の場合、セル内に入るようにフォントサイズが自動で拡縮される。
【0064】
・フォント色の項目は、表入力された表入力対象テキスト310の色を指定する。フォント色は、各セルごとに設定可能でもよい。
【0065】
・フォント配置の項目は、セル内における表入力対象テキスト310の配置を、水平方向(左寄り、中央、右寄り)、及び、上下方向(上寄り、中央、下寄り)で指定する。フォント配置は、各セルごとに設定可能でもよい。
【0066】
・代入可能エリアの余白の項目は、入力されたテキストからセルの枠までの余白を大、中、小で指定する。
【0067】
・指定辞書の項目は、表全体又はセルごとに変換辞書を指定する。図6ではセルに辞書が設定されている。例えば、医療用語の辞書を登録されたセルに「ぎ」と手書きされると、表入力対象テキスト310として「偽膜性大腸炎」などの医療用語が表示される。表示装置2は、セルごとに登録された辞書により認識精度を向上できる。また、セルに対し操作ガイドを非表示する旨が設定されてもよい。詳細は後述される。
【0068】
・オプションの項目は、表処理により使用される属性であり、例えば、第2列を合計した値を(3,2)に設定する等、演算に関する指定である。また、オプションは、ある表のセルの値を、当該表のセルにコピーするなどの指定も可能である。
【0069】
<同一認識グループのストロークと表が重複するか否かの判断>
次に、図7図8を参照して、同一認識グループのストロークと表が重複するか否かの判断に用いられる条件1,2について説明する。まず、図7は、近傍矩形を説明する図である。表示装置2は、同一認識グループのストローク302の外接矩形306に対し「上下左右:α(オフセット)」を加算した矩形を近傍矩形305に設定する。
【0070】
一例の値を用いて説明する。
オフセット固定値 α= 3 [cm]
同一認識グループのストローク302の幅 15 [cm]、高さ 13 [cm] の場合、
近傍矩形は以下となる。
幅 :α + (同一認識グループのストローク302の幅) = 18 [cm]
高さ:α + (同一認識グループのストローク302の高さ) = 16 [cm]
なお、オフセット固定値は、ディスプレーのサイズ、画素数、使用用途によって変わる。例として、40inchディスプレー(画素数2880 x 2160)を数人で共有できる手書きサイズを想定した場合は上記のような値でよいが、この値は一例である。
【0071】
次に、図8は、条件1,2の判断例を説明する図である。まず、条件1は以下のとおりである。
「条件1:同一認識グループのストロークの近傍矩形と表が重複していること」
図8(a)では、表の左上のセル303に「こうもく」が手書きされている。この「こうもく」が同一認識グループであり、同一認識グループのストローク302に対し近傍矩形305が設定される。図8(a)では明らかに、「こうもく」の近傍矩形305が表301(表の外接矩形であるが表の外縁となっている)と重複しているので条件1を満たす。なお、「こうもく」の近傍矩形305は表301の一部と重複していればよい。条件1は、表入力の可能性があるか否かを判断部28が判断するための条件であり、どのセルへの入力かは条件2で判断されるためである。
【0072】
続いて、条件2について説明する。条件2は以下のとおりである。
「条件2:同一認識グループのストロークとセルの面積比が閾値以上であること」
同一認識グループのストロークの外接矩形306の面積をA、セルの面積をBとすると、面積比はB/Aである。閾値は例えば80[%]などでよい。図8(a)では面積比が100[%]なので、判断部28は条件2を満たすと判断する。
【0073】
したがって、表示制御部24は、文字変換候補539に、表入力対象テキスト310を表示させる。表入力対象テキスト310には、表入力対象テキスト310である旨が表示される。表入力対象テキスト310である旨は、図8(a)では「表に代入」であるが、アイコン、色、太字、などで表されてもよい。
【0074】
変換部23は、面積比が閾値以上であると判断されたセルに辞書が登録されている場合は、当該辞書でストロークを表入力対象テキスト310に変換する。ユーザーが表入力対象テキスト310を選択すると、図8(b)に示すように、面積比が閾値以上であると判断されたセル303に選択された表入力対象テキスト310が表示される。表示制御部24は、表情報記憶部42からセル303の属性を取得し、セル303に設定された属性で表入力対象テキスト310を表示させる。
【0075】
また、図8(c)に示すように、同じ表301にユーザーは表入力対象テキスト310でない例えば「後日追加」というテキスト312を入力できる。このテキスト312は、表301に対応付けられていない。ユーザーが表301の全体を移動すれば、表入力対象テキスト310は表301と共に移動するが、表入力対象テキスト310でないテキスト312は移動しない。移動した先の表301では表入力対象テキスト310でないテキスト312のセルが空欄になる。
【0076】
表301をコピーする場合も同様であり、ユーザーが表301をコピーして別の場所で使用すれば、表入力対象テキスト310のみを表示できる。コピー先の表301では表入力対象テキスト310でないテキスト312のセルが空欄になる。
【0077】
したがって、ユーザーは、元になる表301に表入力対象テキスト310を入力しておき、この表301を元にして、テキスト312をメモ書きのように記載したり、後から表入力対象テキスト310を追加したりするような使い方ができる。ユーザーが手書き認識モードと表入力モードを切り替える必要もない。
【0078】
また、セル303内の任意のテキストが表入力対象テキスト310かどうかをユーザーが判断できるように、表入力対象テキスト310の周囲にはマーク313が表示されるとよい。マーク313は常時、表示されてもよいし、マウスオーバーやタッチにより表示されてもよい。
【0079】
<<図形に対する条件1,2の適用例>>
表ではなく、図形320にストロークが手書きされた場合も、条件1,2が同様に判断される。図9は、図形320に対する条件1,2の判断例を説明する図である。「じょうけん」は同一認識グループのストローク308であり、「じょうけん」の近傍矩形305が図形320の一部と重複している。したがって、同一認識グループのストローク308は条件1を満たす。
【0080】
条件2に関して、「じょうけん」の外接矩形306の面積をC、図形320の面積をDとすると、面積比はD/Cである。D/C=90%とすると、面積比は閾値(例えば80%)以上なので、同一認識グループのストローク308は条件2を満たす。したがって、図9(a)に示すように、文字変換候補539には表入力対象テキスト310が表示される。ユーザーが表入力対象テキスト310をペン2500で選択すると、予め設定されている図形320の属性に基づいて、図形320内に表入力対象テキスト310が表示される(図9(b))。
【0081】
<表入力の処理>
次に、図10を参照して、表示装置2がストロークに基づいて表入力する処理について説明する。図10は、同一認識グループのストロークが条件1,2を満たす場合に、表入力対象テキスト310を表入力する処理を説明するフローチャート図である。
【0082】
まず、認識グループ判断部29が、同一認識グループのストロークが入力されたと判断する(S1)。ステップS1の処理について詳細は後述する。
【0083】
次に、判断部28は、同一認識グループのストロークが条件1を満たすか否かを判断する(S2)。ステップS2の判断がNoの場合、処理はステップS7に進む。
【0084】
ステップS2の判断がYesの場合、判断部28は、同一認識グループのストロークが条件2を満たすか否かを判断する(S3)。ステップS3の判断がNoの場合、処理はステップS7に進む。
【0085】
ステップS3の判断がYesの場合、表示制御部24は、文字変換候補539に表入力対象テキスト310及び表入力対象テキスト310でないテキストを表示させる(S4)。
【0086】
操作受付部27は、表入力対象テキスト310が選択されたか否かを判断する(S5)。ステップS5の判断がYesの場合、表示制御部24は、同一認識グループのストロークが手書きされたセルに設定された属性で表入力対象テキスト310を表示させる(S6)。データ記録部25はオブジェクトデータの表入力欄に、表IDや当該セルの座標(行番号、列番号)を入力する。
【0087】
一方、ステップS7では、表入力でないと判断されたので、表示制御部24は、操作ガイド500に表入力対象テキスト310でないテキストのみを表示させる(S7)。
【0088】
操作受付部27は、表入力対象テキスト310でないテキストが選択されたか否かを判断する(S8)。ステップS8の判断がYesの場合、表示制御部24は、表示装置2に初期設定されている属性でテキストを表示させる(S9)。この場合、仮に同一認識グループのストロークが表内に手書きされていても、データ記録部25はオブジェクトデータの表入力欄に何も入力しない。
【0089】
ステップS8の判断がNoの場合、変換部23は文字認識による同一認識グループのストロークのテキスト変換を行わない(S10)。同一認識グループのストロークは手書きのまま表示される。
【0090】
<<同一認識グループの判断>>
以下では、図11図15を参照して、同一認識グループの判断方法を説明する。
【0091】
領域変更部31は、ストロークデータの入力を連続で受け付けているか否かで、ストロークデータが同一認識グループに含まれるか否かが判断される領域を変更する。換言すると、入力手段がタッチパネルから離れてから所定時間が経過するか否かで、ストロークデータが同一認識グループに含まれるか否かが判断される領域を変更する。
【0092】
A.ペンアップから所定時間Tが経過していない場合(連続筆記中)
図11は、ペンアップから所定時間Tが経過していない場合の同一認識グループを示す図である。連続筆記中のストロークデータの外接矩形が認識グループ矩形101である。これに対し、追加認識矩形102の領域は以下のように定義される。
「追加認識矩形102の上端=認識グループ矩形101の上端からβ1」
「追加認識矩形102の左端=認識グループ矩形101の左端からβ2」
「追加認識矩形102の下端=認識グループ矩形101の下端から認識グループ矩形101の幅W+β3」
「追加認識矩形102の右端=認識グループ矩形101の右端から認識グループ矩形101の高さH+β4」
追加認識矩形102に含まれるストロークデータは一部がはみ出していても、ストロークデータのうちはみ出し分が所定の割合以下なら、追加認識矩形102に手書きされたと判断される。また、認識グループ矩形101に手書きされたストロークデータは、追加認識矩形102と見なしてもよいし、そうでなくてもよい。
【0093】
したがって、認識グループ矩形101のストロークデータと追加認識矩形102に含まれるストロークデータは同一認識グループとなる。
【0094】
オフセットが、例えば、β1=β2= 1.5 [cm]、β3=β4= 2 [cm] とする。認識グループ矩形の幅Wが 1.5 [cm]、高さHが 0.5 [cm] の場合、追加認識矩形102の幅と高さは以下のようになる。
【0095】
幅 :β2 + (認識グループ矩形101の幅W) + (認識グループ矩形101の高さH) + β4= 5.5 [cm]
高さ:β1+ (認識グループ矩形101の高さH) + (認識グループ矩形101の幅W) + β3= 5.5 [cm]
なお、オフセットは、ディスプレー220のサイズや画素数、使用用途によって変わる。上記のオフセットは、約40インチで画素数2880 x 2160のディスプレー220に、数人で共有できる手書きデータのサイズを想定した場合の一例である。連続筆記中でない場合も同様である。
【0096】
認識グループ矩形101の「左」、「上」にオフセットβ1,β2によりストロークデータの手書きを受け付ける余裕をもたせるのは、日本語の文字は下又は右方向への筆記が多いが、稀にある左(「ふ」など)又は上方向(i、j等)の筆記を認識するためである。このため、β1、β2だけ左及び上方向に追加認識矩形102が大きくされている。
【0097】
認識グループ矩形101の「右」にストロークデータの手書きを受け付ける余裕をもたせるのは、漢字の成り立ちの特徴による。例えば「イ」(にんべん)の右にユーザーが連続筆記するケースでは、「イ」の高さが文字サイズと想定でき、右方向に文字サイズ分、追加認識矩形102を大きくした。
【0098】
認識グループ矩形101の「下」に付加長さが設定されるのは、漢字の成り立ちの特徴による。例えば「宀」(うかんむり)の下にユーザーが連続筆記するケースでは、「宀」の幅が文字サイズと想定でき、下方向に文字サイズ分、追加認識矩形102を大きくした。
【0099】
B.ペンアップから所定時間Tが経過した場合
図12は、ペンアップから所定時間Tが経過した場合の同一認識グループを示す図である。所定時間Tが経過するまでに手書きされたストロークデータの外接矩形が認識グループ矩形101である。これに対し、追加認識矩形102の領域は以下のように定義される。
【0100】
高さ:認識グループ矩形101の高さH
幅: 認識グループ矩形101の右端から認識グループ矩形101の高さH+α
所定時間Tの経過後は日本語の横書きの文字サイズを想定して、文字サイズ分だけ右方向に追加認識矩形102を設ける。領域変更部31は、認識グループ矩形101に対し空白をあけてユーザーが右に書くことを想定して、オフセットαだけ右方向に大きくする。領域変更部31は、すでに入力されているストロークデータの外接矩形の右側の領域のみを、ストロークデータが同一認識グループに含まれるか否かが判断される領域に決定する。
【0101】
認識グループ矩形101の「お」と追加認識矩形102に含まれるストロークデータは同一認識グループとなる。
【0102】
オフセットが、例えば、α= 3 [cm] とする。認識グループ矩形の幅が 4 [cm]、高さが 6 [cm] の場合、追加認識矩形102の幅と高さとは以下となる。
【0103】
幅 : (認識グループ矩形101の高さH) + α= 9 [cm]
高さ:(認識グループ矩形101の高さH) = 6 [cm]
以上のように、領域変更部31は、入力手段がタッチパネルから離れてから所定時間Tが経過するか否かで、同一認識グループにストロークデータを含めるかどうかを変更できる。
【0104】
次に、図13を参照して、ストロークデータが同一認識グループから除外される場合を説明する。図13は、ストロークデータが同一認識グループとならない条件を説明する図である。除外部32は、ストロークデータが以下の条件(i)(ii)のいずれかを満たした場合に、ストロークデータが追加認識矩形102に含まれても、例外的に該ストロークデータを同一認識グループから除外する。
(i) ストロークデータの高さが閾値aより大きい
(ii) ストロークデータの幅が閾値bより大きい、かつ、高さが閾値cより小さい
なお、閾値a、bは例えば9〔cm〕、閾値cは例えば2.5〔cm〕などでよいが、ディスプレー220の大きさや画素数、テキストを何人で共有するか等により様々である。
【0105】
(i)の条件は、文字の最大高さとして閾値aを設定し、これを超えるストロークデータは図形と判断するための条件である。(ii)の条件は、一般的な文字の最大幅として閾値bを超えるストロークデータは図形、又は、英語の筆記体を1つの同一認識グループに含めるための条件である。
【0106】
図13の閾値a、b、cで区切った領域1~4を用いてストロークデータが同一認識グループと判断されるか否かを説明する。
【0107】
・領域1,2に全体が入るストロークデータは、(i)(ii)を満たさないので日本語文字である。よって、領域1,2に全体が入るストロークデータは、同一認識グループから除外されない。なお、領域1,2に全体が入るストロークデータを英語の筆記体として認識することもできる。
【0108】
・領域1,2、3に全体が入るストロークデータは、(i)(ii)を満たさないので、同一認識グループから除外されない。これにより、英語の筆記体に対応することができる。つまり、「English」などのように筆記体(一筆)で手書きされたストロークデータがあっても、同一認識グループから除外されない(図形とはみなされない)ので、表示装置2が文字として認識できる。
【0109】
・領域2,4に全体が入るストロークデータは、(ii)を満たすので図形(例えば横線)である。よって、領域2,4に全体が入るストロークデータは、同一認識グループから除外される。
【0110】
・領域1~4に全体が入るストロークデータは、(i)(ii)を満たさないので、同一認識グループから除外されない。この場合も英語の筆記体を認識可能になる。
【0111】
このように除外部32は、ストロークデータが(i)(ii)の条件を満たすか否かに応じて、追加認識矩形102に含まれるストロークデータでも、強制的に同一認識グループでないとみなす。これにより、図形と文字が混在して手書きされるような場合でも、文字と図形を切り分けて変換部23が文字を認識できる。
【0112】
なお、(i)(ii)以外に、同一認識グループとならない以下のような条件がある。
・ストロークデータが近傍矩形に含まれない場合
・使用中のペン2500で直前の動作に「文字変換」等、ストローク描画ではない処理が入った場合
・エリア制御など特殊な例で、別エリアへの筆記とみなされた場合
・ペン種が異なる場合
<<同一認識グループの判断に関する処理又は動作>>
図14は、認識グループ判断部29が同一認識グループのストロークデータを決定する手順を説明するフローチャート図である。図14の処理は表示装置2の起動中、繰り返し実行される。
【0113】
入力受付部21が、入力手段が接触した座標を検出し、描画データ生成部22がストロークデータを生成する。表示制御部24は、ストロークデータをディスプレー220に表示させる。除外部32は、ストロークデータが同一認識グループとならない条件(除外される条件)を満たすか否かを判断する。同一認識グループとならない条件を満たさない(つまり同一認識グループと判断された)ストロークデータのみが以降の処理の対象となる(S21)。ステップS21の判断については図15のフローチャート図で説明する。
【0114】
領域変更部31は、ステップS21のストロークデータの手書きが終わってペンアップしてから所定時間Tが経過した否かを判断する(S22)。
【0115】
所定時間Tが経過していない状態で(S22のYes)、入力受付部21が、入力手段が接触した座標を検出し、描画データ生成部22がストロークデータを生成する。表示制御部24は、ストロークデータをディスプレー220に表示させる。除外部32は、ステップS23のストロークデータが同一認識グループとならない条件を満たすか否かを判断する(S23)。同一認識グループとならない条件を満たさない(つまり同一認識グループと判断された)ストロークデータのみが以降の処理の対象となる。
【0116】
次に、領域変更部31は、ステップS21のストロークデータに基づいて連続筆記中の追加認識矩形102を設定し、ステップS23で手書きされたストロークデータが、この追加認識矩形102に含まれるか否かを判断する(S24)。
【0117】
ステップS23のストロークデータが追加認識矩形102に含まれる場合(S24のYes)、領域変更部31は、ステップS21とS23のストロークデータが同一認識グループであると判断する(S25)。
【0118】
ステップS23のストロークデータが追加認識矩形102に含まれない場合(S24のNo)、領域変更部31は、ステップS21とS23のストロークデータが同一認識グループでないと判断する(S26)。
【0119】
ステップS21のストロークデータの手書きが終わってペンアップしてから所定時間Tが経過した状態で(S22のNo)、入力受付部21が、入力手段が接触した座標を検出し、描画データ生成部22がストロークデータを生成する。表示制御部24は、ストロークデータをディスプレー220に表示させる。除外部32は、ストロークデータが同一認識グループとならない条件を満たすか否かを判断する。同一認識グループとならない条件を満たさないストロークデータのみが以降の処理の対象となる(S27)。
【0120】
次に、領域変更部31は、ステップS21のストロークデータに基づいて所定時間Tの経過後の追加認識矩形102を設定し、ステップS27で手書きされたストロークデータが、この追加認識矩形102に含まれるか否かを判断する(S28)。
【0121】
ステップS27のストロークデータが追加認識矩形102に含まれる場合(S28のYes)、領域変更部31は、ステップS21とS27のストロークデータが同一認識グループであると判断する(S25)。
【0122】
ステップS27のストロークデータが追加認識矩形102に含まれない場合(S28のNo)、領域変更部31は、ステップS21とS27のストロークデータが同一認識グループでないと判断する(S26)。
【0123】
図15は、図14のステップS21、S23、S27で説明した、ストロークデータが同一認識グループとならない条件を満たすか否かを判断するフローチャート図である。
【0124】
入力受付部21が、入力手段が接触した座標を検出し、描画データ生成部22がストロークデータを生成する。表示制御部24は、ストロークデータをディスプレー220に表示させる(S31)。
【0125】
除外部32は、ストロークデータの高さが閾値aより大きいか否かを判断する(S32)。
【0126】
ストロークデータの高さが閾値a以下の場合(S32のNo)、除外部32は、ステップS31のストロークデータの幅が閾値bより大きく、かつ、ストロークデータの高さが閾値cより小さいか否かを判断する(S33)。
【0127】
ステップS32又はステップS33のいずれかの判断がYesの場合、除外部32は、ステップS31で手書きされたストロークデータを同一認識グループから除外する(S34)。
【0128】
ステップS33の判断がNoの場合、領域変更部31は、ステップS31で手書きされたストロークデータを同一認識グループの判断対象とする。つまり、ステップS31で手書きされたストロークデータは、図14の処理で追加認識矩形102に含まれるかどうかが判断される。
【0129】
<操作ガイドの非表示>
図6では、表のセルにテキストへの変換用の辞書が設定され得ることを説明したが、例えばセルに数字辞書が設定されている場合、当該セルには数字のみが入力されることが想定されている。そして、数字の認識精度は文字に比べて高いことが知られている。このような場合、セルの属性に操作ガイドを非表示とする旨が設定されてよい。表示制御部24は、操作ガイドを非表示とする旨が設定されたセルにストロークが手書きされた場合、操作ガイド(表入力対象テキスト310を含む全ての文字変換候補539)500を表示させず、指定辞書により、変換部23が、確度が最も高いと判断したテキストをセルに表示させる。例えば、数字が入ることが求められるセルであれば、誤変換を低減できかつユーザーが文字変換候補539から表入力対象テキスト310を選択することも不要となる。
【0130】
図16は、操作ガイド500を非表示とする旨が設定されたセルに手書きされたストローク331の変換例を示す。図16(a)ではセル330に「1」というストローク331が手書きされている。このセル330には数字辞書が指定され、操作ガイド500を非表示とする旨が設定されている。したがって、図16(b)に示すように、操作ガイド500は表示されず、確度が最も高いと判断された「1」というテキスト332がセル330に表示される。
【0131】
<表入力された表入力対象テキストに対する処理>
図17を参照して、表処理部30が行う表入力対象テキスト310に対する処理について説明する。図17は、合計の自動算出とセルの値のコピーを説明する図である。図17(a)(b)は異なる表341,342を示し、表342は表341のまとめが入力される表である。
【0132】
図18は、表341,342の表情報を示す。図18では、表341,342の処理に関するオプションの項目のみを示す。図18(a)に示すように、表341の表IDは「11」であり、オプションとして「(2,2)と(3,2)の合計を(4,2)に設定」することが登録されている。図18(b)に示すように、表341の表IDは「12」であり、オプションとして「表ID=11の(4,2)の値を(2,2)にコピー」することが登録されている。表処理部30は図18の表情報を参照して、以下のように処理する。
【0133】
表情報によれば、図17(a)の表のセル345には同じ列のセル343,344の値を合計する旨の属性が設定されている。図17(a)に示すように、列の各セル343,344に「5」「4」と入力された場合、セル343,344に値が表入力された各タイミングで表処理部30がオプションの有無を判断する。「5」「4」はいずれも表入力されており、表と対応付けられている。
【0134】
オプションが設定されたセル345があり、該セル345の処理に必要なセル343,344に値が入力されると、表処理部30は、オプションが設定されたセル345の処理を行う。例えば表処理部30は、図17(c)に示すように、表341のセル345に、同じ列の各セル343,344の合計である「9」を設定する。
【0135】
また、表処理部30は、図18(b)の表情報に基づいて、表342は、他の表341の値を使用するオプションが設定されていると判断する。この場合、表処理部30は、例えば一定時間ごとに、他の表341の入力状態をチェックする。他の表341に、表342のオプションの処理に必要な値((4,2)の合計)が設定された場合、表処理部30は他の表341の値を使用して表342に設定されているオプションの処理を実行する。図17(d)に示すように、表処理部30は、表341の(4,2)の値を、表342の(2,2)にコピーする。
【0136】
このように、表示装置2は表入力された値を表に設定された属性に基づいて自動で処理することができる。
【0137】
なお、表示装置2は、モードを切り替えることなく表入力とは関係ない手書きデータやテキストを表内に手書きできる。図17(c)の表341では、セル344に手書きデータ347が入力されている。この手書きデータ347は表341と対応付けられていないので、セル345に表示される合計値に影響しない。したがって、本実施形態の表示装置2は、1つの表に表入力対象テキスト310とそうでないテキストや手書きデータを混在させることができ、表入力対象テキスト310のみを属性に基づいて表示したり処理したりできる。このように、1つのセル内に数字と文字を入力し、数字のみを合計するような処理は表計算ソフトでは困難であった。
【0138】
<サーバー・クライアントシステムへの適用>
図19は、表示システム19の概略構成図の一例である。表示装置2の機能は、図19のような、サーバー・クライアントシステムの形態でも実現できる。インターネット等のネットワークを介して表示装置2とサーバー装置12とが接続されている。
【0139】
このような表示システム19の場合、表示装置2は、図4に示した、入力受付部21、描画データ生成部22、表示制御部24、ネットワーク通信部26、及び操作受付部27を有する。
【0140】
一方、サーバー装置12は、変換部23、データ記録部25、判断部28、認識グループ判断部29、表処理部30、領域変更部31、除外部32、及び、ネットワーク通信部26を有する。
【0141】
表示装置2のネットワーク通信部26はサーバー装置12に、ストロークデータを送信する。サーバー装置12は、図10図14図15のフローチャート図と同様の処理を行い、認識結果を表示装置2に送信する。
【0142】
このように、表示システム19によれば、表示装置2とサーバー装置12がインタラクティブにテキストデータを表示できる。また、オブジェクトデータがサーバー装置12に保存されているので、遠隔地にある表示装置2やPCがサーバー装置12に接続してオブジェクトデータをリアルタイムに共有できる。
【0143】
<主な効果>
以上説明したように、本実施形態の表示装置2では、ユーザーがモードを切り替えることなく、単なる文字認識も可能であり、かつ、文字認識されたテキストを表入力することも可能である。表入力されたテキストは表の属性にしたがって表示及び処理することができ、表入力されなかったテキストは、表の属性に影響されない。また、本実施形態の表示装置2は、同一認識グループのストロークとセルが重複しているか否かを判断し、表入力対象テキスト310を選択可能に表示するので、セルとテキストを精度よく対応付けることができる。
【0144】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0145】
例えば、ストロークが複数のセルにまたがっている場合、表示制御部24は、操作ガイド500から選択された表入力対象テキスト310をまたがっている全てのセルに仮に表示させ、ユーザーがペン2500でタッチしたセル以外の表入力対象テキスト310を消去してもよい。
【0146】
また、セルに入力された表入力対象テキスト310を、ユーザーが別のセルに移動できてよい。
また、ユーザーが手書きしたデータがテキストや図形に変換されずに表301のセルの値として表示されてもよい(例えばセルの中央にセンタリングされる)。つまり、手書きデータが表301の一部となり、ユーザーは表301と共に手書きデータを移動可能になる。ユーザーは手書きデータを表301の一部とするか、又は、単に表301に重ねて手書きされた状態とするかを選択できる。
【0147】
また、本実施形態では、ストロークデータが主に日本語に変換されているが、ストロークデータの変換先の言語は他の言語(英語、中国語、ヒンドゥー語、スペイン語、フランス語、アラビア語、ロシア語等)でよい。
【0148】
また、本実施形態では電子黒板を一例として説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、例えば、プロジェクター、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
【0149】
また、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、表示装置2はペン先の座標を超音波により検出してもよい。また、ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。表示装置2は、方向と距離によりペンの位置を特定でき、ペンの軌跡をストロークデータとしてプロジェクターが描画(投影)する。
【0150】
また、図4などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0151】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
本発明の実施形態は、コンピュータの能力及び機能性に大きな改善をもたらす。これらの改善により、ユーザーは、情報処理装置において情報を格納し提示する方法であるテーブルとの、より効率的で堅牢な対話を提供するコンピュータを利用することができる。更に、本発明の実施形態は、より効率的で強力かつ堅牢なユーザーインタフェースの使用を通じて、より良いユーザー体験を提供する。このようなユーザーインタフェースは、人間と機械との間のより良い相互作用を提供する。
<請求項に関する付記>
[請求項1]
表を表示する表示装置であって、
前記表に設定されている属性を記憶する記憶部と、
手書きの入力を受け付ける入力受付部と、
前記手書きをテキスト又は図形に変換する変換部と、
前記手書きが前記表の少なくとも一部と重複しているか否かを判断する判断部と、
前記判断部が前記手書きが前記表の少なくとも一部と重複していると判断する場合に、前記表に設定されている属性に基づいて前記テキスト又は前記図形を前記表に表示させる表示制御部と、
を有することを特徴とする表示装置。
[請求項2]
前記手書きと前記表が重複している場合、前記表示制御部は、前記表に設定されている属性に基づいて表示させる第一のテキスト又は第一の図形と、前記表示装置に初期設定されている属性に基づいて表示させる第二のテキスト又は第二の図形と、を表示させ、
前記第一のテキスト又は第一の図形の選択を受け付けた場合、前記表に設定されている属性に基づいて前記第一のテキスト又は第一の図形を前記表に表示させることを特徴とする請求項1に記載の表示装置。
[請求項3]
前記表に設定されている属性は、前記テキストのフォント、フォントサイズ、フォント色、又は前記表における前記テキストの配置、の1つ以上であることを特徴とする請求項1又は2に記載の表示装置。
[請求項4]
前記表に設定されている属性は、前記変換部が、前記表と重複している前記手書きを前記テキスト又は前記図形に変換する際に使用する辞書であることを特徴とする請求項1~3のいずれか1項に記載の表示装置。
[請求項5]
前記表に設定されている属性は、前記第一のテキスト又は前記第一の図形と前記第二のテキスト又は前記第二の図形を表示せずに、前記変換部が前記手書きから変換した前記テキスト又は前記図形を、前記表に設定されている属性に基づいて前記表に表示させる旨であることを特徴とする請求項2に記載の表示装置。
[請求項6]
前記表はセルを有し、
前記表に設定されている属性は、前記表の所定のセルに入力された値を演算する旨であり、
前記所定のセルに前記第一のテキストが入力された場合、前記所定のセルに入力された前記第一のテキストを処理した結果を前記表に表示させる表処理部を有することを特徴とする請求項2に記載の表示装置。
[請求項7]
前記表に設定されている属性は、他の表に入力された値をコピーする旨であり、
前記他の表に値が入力された場合、前記他の表に入力された値をコピーして前記表に表示させることを特徴とする請求項1~5のいずれか1項に記載の表示装置。
[請求項8]
前記第二のテキストの選択を受け付け、前記第二のテキストが前記所定のセルに入力された場合、前記表処理部は、前記所定のセルに入力された前記第一のテキストのみを処理した結果を前記表に表示させることを特徴とする請求項6に記載の表示装置。
[請求項9]
前記表はセルを有し、
同じ前記表の異なるセルに対し、前記第一のテキスト又は前記第一の図形の選択と、前記第二のテキスト又は前記第二の図形の選択をそれぞれ受け付けた場合、
前記表示制御部は、前記第一のテキスト又は前記第一の図形と前記第二のテキスト又は前記第二の図形を同じ前記表の異なるセルに表示させることを特徴とする請求項2に記載の表示装置。
[請求項10]
前記表示制御部は、前記第一のテキスト又は前記第一の図形の周囲に、前記表に設定されている属性に基づいて前記第一のテキスト又は前記第一の図形が表示させられている旨を表示させることを特徴とする請求項9に記載の表示装置。
[請求項11]
前記手書きの外接矩形をオフセットの長さ拡大した近傍矩形と前記表が一定以上重複する場合、前記手書きと前記表の少なくとも一部が重複していると判断することを特徴とする請求項1~10のいずれか1項に記載の表示装置。
【符号の説明】
【0152】
2 表示装置
28 判断部
29 認識グループ判断部
30 表処理部
31 領域変更部
32 除外部
【先行技術文献】
【特許文献】
【0153】
【特許文献1】特開2016-71621号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19