(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-27
(45)【発行日】2024-06-04
(54)【発明の名称】表示装置、表示方法、プログラム
(51)【国際特許分類】
G06F 40/171 20200101AFI20240528BHJP
G06F 3/04883 20220101ALI20240528BHJP
【FI】
G06F40/171
G06F3/04883
(21)【出願番号】P 2020050043
(22)【出願日】2020-03-19
【審査請求日】2023-01-16
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】長岡 航太
【審査官】成瀬 博之
(56)【参考文献】
【文献】特開2014-149612(JP,A)
【文献】特開平01-161483(JP,A)
【文献】特開平06-289983(JP,A)
【文献】特開平04-015863(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 40/00-40/58
G06F 3/041-3/04895
G06V 30/00-30/424
(57)【特許請求の範囲】
【請求項1】
1つ以上の文字を表示する表示装置であって、
ユーザが手書き入力した手書きデータを文字認識した文字に変換して表示する表示制御部と、
ユーザによって入力される手書きデータから
差し替えの校正記号を認識する校正記号認識手段と、
前記校正記号認識手段による前記差し替えの校正記号の認識に応じて修正モードにし、前記文字認識した文字のうち、前記差し替えの校正記号により特定される位置の差し替え対象文字をスペースに変換する校正処理手段と、
を有し、
前記校正処理手段は、前記修正モードにおいて任意の位置に手書き入力された文字である第一の文字を、前記スペースに配置する
ことを特徴とする表示装置。
【請求項2】
手書きデータを前記1つ以上の第一の文字に変換する文字認識手段を有し
前記校正記号は、前記1つ以上の文字の校正に、前記文字認識手段が変換した前記第一の文字を必要とし、
前記校正記号認識手段が前記校正記号を認識した後、前記文字認識手段が変換した前記第一の文字を、前記1つ以上の文字における前記校正記号で指定される位置に配置することを特徴とする請求項
1に記載の表示装置。
【請求項3】
前記校正記号は、前記1つ以上の文字の一部又は全てを差し替える記号であり、
前記校正処理手段は、前記1つ以上の文字において前記校正記号で指定される第二の文字を削除し、削除した位置に、前記文字認識手段が変換した前記1つ以上の第一の文字を配置することを特徴とする請求項
2に記載の表示装置。
【請求項4】
前記校正記号は、前記1つ以上の文字の一部又は全てを差し替える記号であり、
前記校正処理手段は、前記1つ以上の文字において前記校正記号で指定される前記第二の文字を半輝度で表示し、
前記半輝度で表示された前記第二の文字を、前記文字認識手段が変換した前記第一の文字に変更することを特徴とする請求項
3に記載の表示装置。
【請求項5】
前記校正記号は、前記1つ以上の文字の一部又は全てを差し替える記号であり、
前記校正処理手段は、前記1つ以上の文字において前記校正記号で指定される前記第二の文字をテキストボックスで表示し、前記文字認識手段は前記テキストボックスに入力された手書きデータを前記第一の文字に変換することを特徴とする請求項
4に記載の表示装置。
【請求項6】
前記文字認識手段が手書きデータを前記第一の文字に変換した後、差し替えを取り消す第二の校正記号が検出された場合、
前記校正処理手段は、前記1つ以上の文字において前記校正記号で指定される前記第二の文字を、前記第一の文字に変更しないことを特徴とする請求項
4に記載の表示装置。
【請求項7】
前記校正処理手段が前記1つ以上の文字における前記校正記号で指定される位置に、前記文字認識手段が変換した前記第一の文字を配置した後、
前記第一の文字の周囲にやり直しボタンを表示し、
前記やり直しボタンが押下された場合、前記校正処理手段は前記1つ以上の文字から前記第一の文字を削除することを特徴とする請求項
2~5のいずれか1項に記載の表示装置。
【請求項8】
前記校正記号認識手段が前記校正記号を認識した後、前記文字認識手段は任意の場所に手書きされた手書きデータを前記第一の文字に変換し、前記1つ以上の文字における前記校正記号で指定される位置に前記第一の文字を配置することを特徴とする請求項
2~7のいずれか1項に記載の表示装置。
【請求項9】
前記校正記号が手書きされた前記1つ以上の文字の画像データ、
前記文字認識手段が前記第一の文字に変換する前の手書きデータの画像データ、
及び、前記校正処理手段が、前記1つ以上の文字に前記第一の文字を配置した画像データ、を保存するデータ記録手段を有することを特徴とする請求項
2~8のいずれか1項に記載の表示装置。
【請求項10】
前記校正記号は、前記1つ以上の文字が有する1つ以上の第三の文字と第四の文字を入れ替える記号であり、
前記校正処理手段は、前記校正記号で指定される前記第三の文字及び前記第四の文字を削除し、前記第三の文字を削除した位置に前記第一の文字として前記第四の文字を配置し、前記第四の文字を削除した位置に前記第三の文字を配置することを特徴とする請求項1に記載の表示装置。
【請求項11】
前記校正記号は、差し替え、入れ替え、挿入、又は、ルビ付けのうちのいずれか一つを含むことを特徴とする請求項
1~10のいずれか1項に記載の表示装置。
【請求項12】
1つ以上の文字を表示する表示装置が行う表示方法であって、
ユーザが手書き入力した手書きデータを文字認識した文字に変換して表示するステップと、
ユーザによって入力される手書きデータから
差し替えの校正記号を認識するステップと、
前記認識するステップによる前記差し替えの校正記号の認識に応じて修正モードにするステップと、
前記文字認識した文字のうち、前記差し替えの校正記号により特定される位置の差し替え対象文字をスペースに変換するステップと、
前記修正モードにおいて任意の位置に手書き入力された文字である第一の文字を、前記スペースに配置するステップと、
を有することを特徴とする表示方法。
【請求項13】
1つ以上の文字を表示する表示装置を、
ユーザが手書き入力した手書きデータを文字認識した文字に変換して表示する表示制御部と、
ユーザによって入力される手書きデータから
差し替えの校正記号を認識する校正記号認識手段と、
前記校正記号認識手段による前記差し替えの校正記号の認識に応じて修正モードにし、前記文字認識した文字のうち、前記差し替えの校正記号により特定される位置の差し替え対象文字をスペースに変換する校正処理手段、
として機能させ、
前記校正処理手段は、前記修正モードにおいて任意の位置に手書き入力された文字である第一の文字を、前記スペースに配置する
ためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置、表示方法、及び、プログラムに関する。
【背景技術】
【0002】
手書き認識技術を利用し、手書きデータを文字に変換して、ディスプレーに表示する技術が知られている。また、ユーザーは予め定められた操作方法によりディスプレーに表示された文字を修正することができる。
【0003】
一方、ワープロソフトなどで作成された文字を簡単に修正する技術が考案されている(例えば、特許文献1参照。)。特許文献1には、指定された文字列を対象テキスト内の任意の場所にマウスでドラッグ&ドロップして、文字列を挿入する技術が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術は、ユーザーが文字等の修正に1つ以上の文字の移動が必要であるという問題がある。例えば、ユーザーは差し替えや入れ替え等に使用する1つ以上の文字を移動させないと、元の文字等を修正できない。
【0005】
本発明は、上記課題に鑑み、文字等の修正に1つ以上の文字の移動が不要な表示装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、1つ以上の文字を表示する表示装置であって、ユーザが手書き入力した手書きデータを文字認識した文字に変換して表示する表示制御部と、ユーザによって入力される手書きデータから差し替えの校正記号を認識する校正記号認識手段と、前記校正記号認識手段による前記差し替えの校正記号の認識に応じて修正モードにし、前記文字認識した文字のうち、前記差し替えの校正記号により特定される位置の差し替え対象文字をスペースに変換する校正処理手段と、を有し、前記校正処理手段は、前記修正モードにおいて任意の位置に手書き入力された文字である第一の文字を、前記スペースに配置することを特徴とする。
【発明の効果】
【0007】
ユーザーが文字等の修正に1つ以上の文字の移動が不要な表示装置を提供することができる。
【図面の簡単な説明】
【0008】
【
図1】文字列内の前後を入れ替える修正の修正方法を説明する図の一例である。
【
図2】修正対象文字列の一部を違う文字で差し替える修正の修正方法を説明する図である。
【
図3】文字列内の一部を違う文字で差し替える修正の修正方法を説明する図である。
【
図5】表示装置の全体構成図を示す図の一例である。
【
図6】表示装置のハードウェア構成図の一例である。
【
図7】表示装置が有する機能をブロック状に分けて説明する機能ブロック図の一例である。
【
図8】よく使用される校正記号のリストの一例である。
【
図9】ユーザーの手書き入力が検出された場合に表示装置が行う動作の全体的な流れを示すフローチャート図の一例である。
【
図10】操作ガイドと操作ガイドが表示する選択可能候補の一例を示す図である。
【
図11】文字列内における各文字の位置の特定方法を説明する図の一例である。
【
図12】文字の差し替え方法を模式的に説明する図である。
【
図13】文字の差し替え方法の手順を示すフローチャート図の一例である。
【
図14】文字の差し替え方法を模式的に説明する図である(半輝度表示)。
【
図15】文字の差し替え方法の手順を示すフローチャート図の一例である。
【
図16】文字の差し替え方法を模式的に説明する図である(テキストボックスを表示)。
【
図17】文字の差し替え方法の手順を示すフローチャート図の一例である。
【
図18】文字の差し替えと校正履歴の記録を模式的に説明する図である。
【
図19】文字の差し替えと校正履歴の記録の手順を示すフローチャート図の一例である。
【
図20】指示の取消による文字列の復帰を説明する図の一例である。
【
図21】文字の差し替えの途中で指示が取り消された場合の文字列の復帰を説明するフローチャート図の一例である。
【
図22】文字列の修正のやり直し方法を説明する図の一例である。
【
図23】文字列の修正のやり直しに関する処理を説明するフローチャート図の一例である。
【
図24】入れ替えの校正記号が検出された場合に、表示装置が行う処理を説明するフローチャート図の一例である。
【
図25】入れ替えの校正記号が指定する文字を説明する図の一例である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として表示装置と、表示装置が行う表示方法について図面を参照しながら説明する。
【実施例1】
【0010】
<文字列の修正の概略>
まず、本実施形態を説明するにあたって、参考になる比較例と共に本実施形態を説明する。なお、比較例は従来技術や公知技術とは限らないことに注意されたい。
【0011】
図1は、文字列内の前後を入れ替える修正の修正方法を説明する図である。
図1(a)は比較例を示し、
図1(b)は本実施形態の修正方法を示す。まず、比較例について説明する。
(1)ユーザーが文字列の修正したい範囲(図では「小さい」)に横線を手書きする。
(2)消去した文字列(図では「小さい」)を改めてユーザーが手書きする。
(3)ユーザーが新たに手書きした修正用文字301を選択し、修正用文字301をドラッグする。ユーザーが修正対象文字列302の任意の場所(図では先頭)までドラッグすると、修正用文字301をドロップする。これにより、表示装置は修正用文字301に続けて「赤い花」を表示する。修正用文字301の開始位置はユーザーがドロップした位置である。
【0012】
次に、本実施形態の修正方法を説明する。
(1)修正対象文字列302の入れ替え部分に、ユーザーは入れ替え用の校正記号303を手書きする。表示装置は、校正記号303で指定されている入れ替え対象文字304a(第三の文字の一例)と、校正記号303に応じて定まる入れ替え対象文字304b(第四の文字の一例)の配置を入れ替える。
【0013】
図1(a)(b)のどちらの処理でも修正対象文字列302の文字の前後を入れ替える修正は可能だが、本実施形態では1つ以上の文字をユーザーが移動しなくても(ドラッグ&ドロップが不要)で文字の前後を入れ替える修正が可能である。
【0014】
なお、修正対象文字列302は、手書きにより入力された文字列に限らず、ファイルなどから読み取られた文字列、又は、ネットワークからダウンロードされた文字列等でもよい。
図2で後述する差し替え用文字305についても同様である。
【0015】
図2は、修正対象文字列302の一部を違う文字で差し替える修正の修正方法を説明する図である。
図2(a)は比較例を示し、
図2(b)は本実施形態の修正方法を示す。まず、比較例について説明する。
(1)ユーザーが修正対象文字列302の差し替え対象文字307(第二の文字の一例。図では「小さい」)に横線を手書きする。
(2)差し替え用文字305(図では「大きい」)をユーザーが手書きする。
(3)ユーザーが認識された差し替え用文字305(第一の文字の一例)を選択し、差し替え用文字305をドラッグする。ユーザーが修正対象文字列302の任意の場所(図では「赤い」の後)までドラッグすると、差し替え用文字305をドロップする。
【0016】
次に、本実施形態の修正方法を説明する。
(1)修正対象文字列302の差し替えたい文字に、ユーザーは差し替え用の校正記号306を手書きする。
(2)ユーザーは差し替え用の校正記号306の上部に差し替え用文字305を手書きする。表示装置は、校正記号306で指定されている差し替え対象文字307を、校正記号306に応じて定まる差し替え用文字305(後述する修正モードで手書きされた文字)に変更する。
【0017】
図2(a)(b)のどちらの処理でも文字列の一部の差し替えは可能だが、本実施形態では1つ以上の文字をユーザーが移動しなくても(ドラッグ&ドロップが不要)で文字の前後を入れ替える修正が可能である。
【0018】
図3は、文字列内の一部を違う文字で差し替える修正の修正方法を説明する図である。
図3では
図2と異なる方法を説明する。
図3(a)は比較例を示し、
図3(b)は本実施形態の修正方法を示す。まず、比較例について説明する。比較例は
図2(a)と同様である。
(1)ユーザーが修正対象文字列302の差し替え対象文字307(図では「小さい」)に横線を手書きする。
(2)差し替え用文字305(図では「大きい」)をユーザーが手書きする。
(3)ユーザーが認識された差し替え用文字305を選択し、差し替え用文字305をドラッグする。ユーザーが修正対象文字列302の任意の場所(図では「赤い」の後)までドラッグすると、差し替え用文字305をドロップする。
【0019】
次に、本実施形態の修正方法を説明する。
(1)ユーザーは修正対象文字列302の差し替え対象文字307に、差し替え用の校正記号306を手書きする。差し替え対象文字307が半輝度になりテキストボックス309で囲まれる。
(2)ユーザーは任意の位置に差し替え用文字305を手書きする。表示装置は、校正記号306で指定されている差し替え対象文字307を、校正記号306に応じて定まる差し替え用文字305に変更する。
【0020】
以上のどちらの処理でも文字列の一部の差し替えは可能だが、本実施形態では1つ以上の文字をユーザーが移動しなくても(ドラッグ&ドロップが不要)で文字の前後を入れ替える修正が可能である。
【0021】
このように、本実施形態では、文字列の差し替え又は入れ替え時に、ユーザーが文字列をドラッグ&ドロップで挿入する操作が不要なので、1つ以上の文字の修正に要する工数を少なくすることができる。
【0022】
<用語について>
手書きデータとは、ディスプレー上でユーザーが入力手段を連続的に移動させた座標点列を軌跡として表示したデータである。また、ユーザーがディスプレーに入力手段を押しつけてから連続的に移動させた後、ディスプレーから離すという一連の操作をストロークといい、ストロークにより手書きされたデータをストロークデータという。手書きデータは1つ以上のストロークデータを有する。
【0023】
差し替えとは、1つ以上の文字を別の1つ以上の文字に変更することをいう。入れ替えとは、2つ以上の文字を有する文字列内の文字と文字を入れ替えることをいう。
【0024】
ドラッグとはマウスのボタンを押したまま動かす操作であり、ドロップとは、目的の場所でマウスのボタンを放す操作である。ドラッグにより文字は移動される。ドロップにより文字の位置が決定される。
【0025】
校正とは文字の不備や誤りを正すことをいう。校正記号とは、誤りの修正指示を簡便かつ正確に記述できる記号である。校正記号はJISZ 8208に規定されている。本実施形態では日本の校正記号を説明するが、使用者の国に応じた校正記号が使用されるとよい。どの国の校正記号を使用するかをユーザーが選択できてよい。また、標準化で規格化された校正記号とは別の校正記号が使用されてもよい。
【0026】
文字を配置するとは、一方の場所にあった文字を別の文字があった場所や別の文字の周囲に移動することをいう。例えば、差し替え、入れ替え、挿入、ルビ付けなどがある。ただし、移動中の文字は表示されても表示されなくてもよい。
【0027】
校正記号に応じて定まる文字は、校正記号で位置が特定されるもの、校正記号の検出により後述する修正モードになり、決まった場所又は任意の場所に手書きされた文字がある。校正記号に応じて定まるとは、手書きデータから校正記号を認識するモードから、手書きデータから文字又は文字列を認識するモードに移行したことで文字が特定されることである。
【0028】
<ペンの外観の一例>
図4は、ペン2500の斜視図の一例を示す。
図4は多機能なペン2500の一例を示す。電源を内蔵して表示装置2に命令を送信できるペン2500をアクティブペンという(電源を内蔵しないペンをパッシブペンという)。
図4のペン2500は、物理的なスイッチがペン先に一つ、ペン尻に一つ、ペン側面に二つあり、ペン先が筆記用、ペン尻が消去用、ペン側面はユーザー機能割り当て用である。本実施形態のペン2500は不揮発性のメモリーを有しており、他のペンと重複しないペンIDを記憶している。
【0029】
なお、スイッチ付きのペンであれば、ユーザーの表示装置2の操作手順を減らすことも可能である。スイッチ付きのペンとは主にアクティブペンを言うが、電磁誘導方式では電源を内蔵しないパッシブペンでもLC回路だけで電力を発生できるため、アクティブペンだけでなく電磁誘導方式のパッシブペンを含む。電磁誘導方式以外の光学方式、赤外線方式、及び、静電容量方式のスイッチのあるペンはアクティブペンである。
【0030】
なお、ペン2500のハードウェア構成は、通信機能とマイコンを備えた一般的な制御方式と同様であるとする。ペン2500の座標の入力方式には、電磁誘導方式、アクティブ静電結合方式などがある。また、ペン2500は、筆圧検知、傾き検知、ホバー機能(ペンが触れる前にカーソルを表示)、などの機能を有していてよい。
【0031】
<装置の全体構成>
図5を用いて、本実施形態に係る表示装置2の全体構成を説明する。
図5は、表示装置2の全体構成図を示した図である。
図5(a)では、表示装置2の一例として、壁につり下げられた横長の電子黒板として使用される表示装置2を示している。
【0032】
図5(a)に示されているように、表示装置2の上部には表示装置の一例としてのディスプレー220が設置されている。ユーザーUは、ペン2500を用いて、ディスプレー220に文字等を手書きする(入力、描画ともいう)ことができる。
【0033】
図5(b)は壁につり下げられた縦長の電子黒板として使用される表示装置2を示している。
【0034】
図5(c)は机230に平置きされた表示装置2を示す。表示装置2は厚みが1cm程度なので、一般の机に平置きしても机の高さを調整する必要がない。また、容易に移動できる。
【0035】
<装置のハードウェア構成>
続いて、
図6を用いて、表示装置2のハードウェア構成を説明する。表示装置2は図示するように情報処理装置又はコンピュータの構成を有している。
図6は、表示装置2のハードウェア構成図の一例である。
図6に示されているように、表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、及び、SSD(Solid State Drive)204を備えている。
【0036】
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。SSD204は、表示装置2用のプログラム等の各種データを記憶する。
【0037】
また、表示装置2は、ディスプレーコントローラー213、タッチセンサーコントローラー215、タッチセンサー216、ディスプレー220、電源スイッチ227、チルトセンサー217、シリアルインタフェース218、スピーカー219、マイク221、無線通信装置222、赤外線I/F223、電源制御回路224、ACアダプター225、及びバッテリー226を備えている。
【0038】
ディスプレーコントローラー213は、出力画像をディスプレー220等へ出力するために画面表示の制御及び管理を行う。タッチセンサー216は、ディスプレー220上にペン2500やユーザーの手等(ペンやユーザーの手は入力手段となる)が接触したことを検知する。また、タッチセンサー216はペンIDを受信する。
【0039】
タッチセンサーコントローラー215は、タッチセンサー216の処理を制御する。タッチセンサー216は、座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、例えば、光学式の場合、ディスプレー220の上側両端部に設置された2つ受発光装置が、ディスプレー220に平行して複数の赤外線を放射し、ディスプレー220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。タッチセンサー216は、物体によって遮断された2つの受発光装置が放射した赤外線の位置情報をタッチセンサーコントローラー215に出力し、タッチセンサーコントローラー215が、物体の接触位置である座標位置を特定する。また、タッチセンサーコントローラー215は通信ユニット215aを有しており、ペン2500と無線で通信することができる。例えば、Bluetooth(登録商標)などの規格で通信している場合は、市販されているペンを使用することができる。通信ユニット215aに予め1つ以上のペン2500を登録しておくと、ユーザーはペン2500を表示装置2と通信させる接続設定を行わなくても通信できる。
【0040】
電源スイッチ227は、表示装置2の電源のON/OFFを切り換えるためのスイッチである。チルトセンサー217は、表示装置2の傾き角度を検出するセンサーである。主に、表示装置2が
図5(a)、
図5(b)、又は、
図5(c)のいずれかの設置状態で使用されているかを検出するために使用され、設置状態に応じて文字等の太さを自動で変更することができる。
【0041】
シリアルインタフェース218はUSBなどの外部との通信インタフェースである。外部からの情報の入力などに使用される。スピーカー219は音声の出力に使用され、マイク221は音声の入力に使用される。無線通信装置222は、ユーザーが携帯する端末と通信し、例えばインターネットへの接続を中継する。無線通信装置222はWi-FiやBluetooth(登録商標)などで通信するが、通信規格は問われない。無線通信装置222はアクセスポイントを形成しており、ユーザーが入手したSSID(Service Set Identifier)とパスワードをユーザーが携帯する端末に設定すると、アクセスポイントに接続できる。
【0042】
なお、無線通信装置222には2つのアクセスポイントが用意されているとよい。
a. アクセスポイント→インターネット
b. アクセスポイント→社内ネットワーク→インターネット
aのアクセスポイントは社外のユーザー用で、ユーザーは社内ネットワークにはアクセスできないが、インターネットを利用できる。bのアクセスポイントは社内のユーザー用で、ユーザーは社内ネットワーク及びインターネットを利用できる。
【0043】
赤外線I/F223は隣に配置された表示装置2を検出する。赤外線の直進性を利用して、隣に配置された表示装置2のみを検出できる。赤外線I/F223は各辺に1つずつ設けられることが好ましく、表示装置2のどの方向に他の表示装置2が配置されたのかを検出できる。これにより画面が広がり、隣の表示装置2に過去に手書きされた手書き情報(1つのディスプレー220の広さを1ページとして別のページの手書き情報)等を表示できる。
【0044】
電源制御回路224は表示装置2の電源であるACアダプター225とバッテリー226を制御する。ACアダプター225は商用電源が共有する交流を直流に変換する。
【0045】
ディスプレー220がいわゆる電子ペーパーの場合、画像の表示を維持するためにほとんど又は一切電力を消費しないので、バッテリー226による駆動も可能である。これにより、屋外など電源を接続しにくい場所でもデジタルサイネージなどの用途で表示装置2を使用することが可能になる。
【0046】
更に、表示装置2は、バスライン210を備えている。バスライン210は、
図6に示されているCPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0047】
なお、タッチセンサー216は、光学式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなど種々の検出手段を用いてもよい。タッチセンサー216は、ペン先のタッチの有無を検知するのに電子ペンが必要ない方式であってよい。この場合はタッチ操作をするのに指先やペン型の棒を使用できる。なお、ペン2500は、細長いペン型である必要はない。
【0048】
<機能について>
次に、
図7を用いて表示装置2の機能について説明する。
図7は、表示装置2が有する機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2は、接触位置検出部21、描画データ生成部22、文字認識部23、校正記号認識部24、校正処理部25、表示制御部26、データ記録部27、ネットワーク通信部28、及び、操作受付部29を有している。表示装置2が有する各機能は、
図6に示されている各構成要素のいずれかが、SSD204からRAM203上に展開されたプログラムに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
【0049】
接触位置検出部21はタッチセンサー216に対しペン2500が接触した位置の座標を検出する。描画データ生成部22はペン2500のペン先が接触した座標を接触位置検出部21から取得する。この座標点列を補間することで接続してストロークデータを生成する。接触位置検出部21はタッチセンサーコントローラー215とタッチセンサー216により実現される。
【0050】
文字認識部23はユーザーが手書きした1つ以上のストロークデータ(手書きデータ)に対し文字認識処理を行い、文字コードに変換する。文字認識部23は、ユーザーのペン操作と並行して文字(日本語だけでなく英語などの多国語)、数字、記号(%、$、&など)、図形(線、丸、三角など)等を認識していく。認識方法については様々なアルゴリズムが考案されているが、本実施形態では公知の技術を利用できるとして詳細を割愛する。文字認識部23はCPU201がプログラムを実行することで実現される。
【0051】
校正記号認識部24はユーザーの手書きデータから校正記号を検出する。コンピュータから見ると校正記号も文字等と同じストロークの形状なので、例えば、機械学習の教師データとして校正記号の座標などを開発者が与えれば、文字等と同様に校正記号も検出できる。校正記号認識部24はCPU201がプログラムを実行することで実現される。
【0052】
校正処理部25は、検出された校正記号に基づいて、文字の差し替え、入れ替え又は挿入等の校正内容を判断し、校正記号で指定された文字列の位置に1つ以上の文字(手書き後に認識されたものでも、文字列内にあるものでもよい)を配置する。詳細は後述される。校正処理部25はCPU201がプログラムを実行することで実現される。
【0053】
表示制御部26は手書きデータ、手書きデータから変換された文字列、及び、ユーザーが操作するための操作メニューなどをディスプレーに表示する。表示制御部26はディスプレーコントローラー213とディスプレー220により実現される。
【0054】
データ記録部27は、表示装置2に手書きされた手書きデータ、変換された文字列、校正履歴(後述する画像データ)、及び、PCの画面、ファイル等を記憶部30に記憶する。データ記録部27はCPU201がプログラムを実行することで実現される。
【0055】
ネットワーク通信部28はLAN等のネットワークに接続して、他の機器とネットワークを介したデータの送受信を行う。ネットワーク通信部28は無線通信装置222により実現される。
【0056】
なお、記憶部30は、
図6に示されているSSD204やRAM203などに構築され、データ記録部27が記録する上記の情報を記憶する。
【0057】
【表1】
表1は記憶部30が記憶する文字列情報を模式的に示す。文字列情報は、識別情報、修正対象の文字列、校正記号、差し替え用文字、差し替え対象文字、修正された文字列、画像データ1、画像データ2、及び、画像データ3の各項目を有している。
識別情報…例えば、変換単位(1回の変換で変換された文字列)で各文字列を識別する識別情報である。
修正対象の文字列…修正される文字列である。修正対象の文字列の左上コーナーと右下コーナーの座標も保存されている。
校正記号…ユーザーが手書きした校正記号の内容や識別情報である。
差し替え用文字…差し替えに使用される文字である。少なくとも修正対象の文字列における位置が保存されている。
差し替え対象文字…差し替えられる文字である。少なくとも修正対象の文字列における位置が保存されている。
修正された文字列…差し替え用文字で差し替えられた文字列である。修正された文字列の左上コーナーと右下コーナーの座標も保存されている。
画像データ1、画像データ2、及び、画像データ3…後述するように校正履歴として保存される文字列の画像データである。
【0058】
<校正記号の一例>
図8はよく使用される校正記号のリストである。先頭に振った符号を使って説明する。
1~3…文字の差し替えの校正記号である。ユーザーは校正記号を手書きして、修正用文字を手書きする。
4…校正記号による修正を取り消すための校正記号である。ユーザーは差し替え用文字305に斜めの線を手書きし、差し替え対象文字307の近くに「イキ」と手書きする。
5…文字の削除の校正記号である。ユーザーは削除対象の文字に斜め線を手書きし、削除対象の文字の近くに「トル」と手書きする。
6、7…文字の挿入の校正記号である。ユーザーは挿入場所に「V」形状の校正記号を手書きして、「V」形状の校正記号の近くに挿入用文字を手書きする。
【0059】
なお、上記のように1~7のいずれの校正においてもユーザーは差し替え用文字305のドラッグ&ドロップが不要である。
8,9…文字列内の文字と文字を入れ替えるための校正記号である。ユーザーは図示する校正記号を手書きする。
【0060】
同様に、入れ替えの校正記号においてもユーザーは入れ替え対象文字304a、304bのドラッグ&ドロップが不要である。
10…段落改行するための校正記号である。ユーザーは図示する校正記号を手書きする。
11…改行をやめるための校正記号である。ユーザーは図示する校正記号を手書きする。
12…次の行に移動するための校正記号である。ユーザーは図示する校正記号を手書きする。
13…小文字に修正するための校正記号である。ユーザーは小文字にしたい文字を囲み、小文字にしたい文字の上側に横線を手書きして「小」という文字を手書きする。
14…大文字に修正するための校正記号である。ユーザーは大文字にしたい文字を囲み、大文字にしたい文字の上側に横線を手書きして「大」という文字を手書きする。
15…字下げするための校正記号である。ユーザーは図示する校正記号を手書きする。
16…字上げするための校正記号である。ユーザーは図示する校正記号を手書きする。
17~20…それぞれ、文字間隔を空ける、文字間隔を詰める、行間を広げる、行間を詰めるための校正記号である。ユーザーは図示する校正記号を手書きする。
21…拗音を修正するための校正記号である(拗音を止める)。ユーザーは図示する校正記号を手書きする。
22…撥音を修正するための校正記号である(撥音を止める)。ユーザーは図示する校正記号を手書きする。
23…上付き下付きを修正するための校正記号である。ユーザーは図示する校正記号を手書きする。
24…ルビを付けるための校正記号である。ユーザーはルビを付けたい文字に図示する校正記号を手書きしてルビを手書きする。
25…書体を修正するための校正記号である。ユーザーは書体を変更したい文字に図示する校正記号を手書きして修正後の書体を手書きする。
【0061】
なお、図示する校正記号は一例であり、他にも校正記号が存在しうる。また、構成の内容を指示する校正記号は別の形状でもよい。
【0062】
<表示装置の動作の流れ>
図9を参照して、ユーザーの手書き入力に対する表示装置2の動作の流れを説明する。
図9はユーザーの手書き入力が検出された場合に表示装置2が行う動作の全体的な流れを示すフローチャート図の一例である。このフローチャート図は、校正記号の種類に関係なく共通である。
【0063】
まず、ユーザーがペン2500で手書きデータを入力する。これにより、接触位置検出部21が接触位置を検出し、描画データ生成部22が手書きデータを生成する。表示制御部26は手書きデータをディスプレー220に表示する(S1001)。
【0064】
次に、文字認識部23又は校正記号認識部24が手書きデータに対し文字認識又は校正記号の認識を行う(S1002)。文字だけでなく、数字、記号、又は、アルファベットに変換される場合もある。
【0065】
認識結果が校正記号の場合(S1003)、校正処理部25は文字列が必要かどうかを校正記号の種別に基づいて判断する(S1004)。文字列が必要な校正記号かどうかは、
図8のように校正記号によって決まっている。例えば、差し替え、挿入、及び、ルビ付けは文字列が必要である。それ以外は、不要である。
【0066】
文字列が必要な場合、校正処理部25は文字列の入力待ち状態となる(S1005)。したがって、処理はステップS1001に戻る。
【0067】
文字列が不要な場合、校正処理部25は校正処理を実行する(S1006)。詳細は後述されるが、修正対象文字列302のうち校正記号で特定される文字列の1つ以上の文字に、校正記号で特定された処理を行う。処理には校正記号に応じて定まる修正対象文字列302内の文字が使用される。表示制御部26は校正後の文字列を表示する。
【0068】
認識結果が文字列の場合(S1003)、校正処理部25は文字列待ち状態か否かを判断する(S1007)。すなわち、ステップS1005を通過したか否かを判断する。
【0069】
文字列待ち状態の場合、校正処理部25は校正処理を実行する(S1006)。詳細は後述されるが、修正対象文字列302のうち校正記号で特定される1つ以上の文字を、新たに手書きされた文字列に変更する。あるいは、校正記号で特定される文字列の場所に新たに手書きされた文字を挿入する。あるいは、校正記号で特定される文字列に手書きされた文字をルビとして追加する。表示制御部26は校正後の文字列を表示する。
【0070】
文字列待ち状態でない場合、表示制御部26は手書きデータから変換された文字列を表示する(S1008)。
【0071】
<選択可能候補の表示例>
続いて、
図10を参照して、手書きデータの変換時に表示される操作ガイド500について説明する。
図10は操作ガイド500と操作ガイドが表示する選択可能候補530の一例である。ユーザーが手書きデータ504を手書きすることで、操作ガイド500が表示される。操作ガイド500は、操作ヘッダー520、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508、及び、手書きデータ矩形領域表示503を有している。選択可能候補530は、操作コマンドの候補510、手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508である。また、操作コマンドの候補510を除く選択可能候補530を文字列候補539という。
【0072】
操作ヘッダー520はボタン501、509、502、505を有する。ボタン501は予測変換とカナ変換の切り替え操作を受け付ける。
図10の例ではユーザーが「予測」と表示されているボタン509を押下すると操作受付部29がそれを受け付けて、表示制御部26が「かな」というボタン509に表示を変更する。変更後は、文字列候補539が「カナ変換」の確率降順で並ぶ。
【0073】
ボタン502は候補表示のページ操作をする。
図10の例では候補表示ページは3ページあり、現在は1ページ目を表示している。ボタン505は操作ガイド500の消去を受け付ける。ユーザーがボタン505を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータ以外の表示を消去する。ボタン509は一括表示消去を受け付ける。ユーザーがボタン509を押下すると操作受付部29が受け付けて、表示制御部26が手書きデータを含め、
図10に示されているすべての表示を消去して、ユーザーが最初から手書きをしなおすことを可能にする。
【0074】
手書きデータ504はユーザーが手書きした「ぎ」という文字である。手書きデータ504を囲む手書きデータ矩形領域表示503が表示される。
図10では一文字の入力で操作ガイド500が表示されているが、操作ガイド500が表示されるタイミングは、ユーザーが手書きを中断したタイミングである。したがって、手書きデータ504の文字数は任意である。
図10の例では点線枠で手書きデータ矩形領域表示503が表示されている。
【0075】
手書き認識文字列候補506、変換文字列候補507、文字列/予測変換の候補508にはそれぞれの文字列候補が確率降順で並んでいる。手書き認識文字列候補506の「ぎ」は認識結果の候補である。この例では正しく「ぎ」を認識している。
【0076】
変換文字列候補507は「ぎ」のカナ漢字変換の結果(例えば「技」)から変換された変換文字列候補(例えば技を含む熟語)である。この例の「技量試」とは「技術量産試作」の略名である。文字列/予測変換の候補508は変換文字列候補507から変換された予測文字列候補である。この例では「技量試を決裁」と「議事録の送付先」が表示されている。
【0077】
操作コマンドの候補510は認識された文字に応じて表示される、予め定義されている操作コマンド(ファイル操作、文字の編集などのコマンド)の候補である。
図10の例では行頭文字の「》」511が操作コマンドの候補であることを示している。
図10では「ぎ」の文字列候補である「議事録」が、定義データと部分一致したため、操作コマンドの候補510として表示されている。
【0078】
ユーザーが「議事録テンプレートを読み込む」を選択すると、定義データで定義された操作コマンドが実行される。このように操作コマンドの候補は、変換された文字列を含む操作コマンド定義データが見つかる場合に表示されるため、常に表示されるとは限らない。
【0079】
図10に示すように、文字列候補と操作コマンドの候補が同時に(共に)表示されるため、ユーザーは自分が入力しようとした文字列候補と操作コマンドのどちらも任意に選択できる。
【0080】
図10には含まれていないが、校正記号が選択可能候補530に含まれる場合もある。校正記号の確率が一定以上ならば校正記号認識部は校正記号であると認識して操作ガイド500は表示されない。校正記号の確率が一定未満ならば操作ガイド500に校正記号の候補が表示される。確率に関係なく校正記号を含む操作ガイド500が表示されてもよい。校正記号の確率が一定未満ならば操作ガイド500に校正記号の候補が表示される。例えば、ディープラーニングやCNNなどのニューラルネットワーク型の識別器では、出力層のノードがノードに対応する校正記号の確率を出力する。この確率が高いものほどユーザーが手書きした可能性が高い。
【0081】
<文字列内における各文字の位置の特定方法>
図11を用いて文字列における各文字の位置の特定方法を説明する。
図11は文字列における各文字の位置の特定方法を説明する図の一例である。
図11には「赤い小さい花」310という文字列が表示されている。記憶部30には、文字列の左上コーナーの座標P1と右下コーナーの座標P2が保存されている。また、使用しているフォント及び文字サイズも既知である。また、フォントが分かれば各文字の文字サイズも既知となる。例えば、一般の漢字、ひらがな、数字、などに対応付けて縦横のサイズが登録されているテーブルを記憶部30が記憶している。したがって、校正処理部25はこれらの情報を使って、各文字の座標(例えば1文字文のマスの左上コーナーと右下コーナーの座標)を算出できる。
【0082】
図11では各文字のx座標をA~Eで示している(y座標はy1又はy2)。校正処理部25は座標A~Eを容易に算出できる。したがって、校正処理部25は座標A~Eと校正記号の座標を比較して、校正記号で指定される位置を決定できる。また、入れ替え対象文字304a、304b、又は、差し替え対象文字307等を決定できる。
【0083】
<修正の例>
以下では、校正記号を使用した文字列のいくつかの修正例を説明する。
【0084】
<<文字の差し替え>>
図12は、文字の差し替え方法を模式的に説明する図である。
図13は文字の差し替え方法の手順を示すフローチャート図である。
【0085】
S1:ユーザーがディスプレー220に「赤い小さい花」と手書き入力すると、表示制御部26が上記の操作ガイド500を表示する。ユーザーが文字列候補539から文字列を選択すると、表示制御部26が手書きデータを消去して、変換後の文字列(修正対象文字列302)をディスプレーに表示する。
【0086】
S2:ユーザーは、「小さい」を「大きい」に変更するため、文字の差し替えの校正記号320を(JIS Z 8208の、2字以上の修正の記号を描く)手書きする。校正記号認識部24はこの校正記号を検出する。なお、校正記号が検出された場合(確率が一定以上の場合)、操作ガイド500は表示されない。操作ガイド500が表示された場合は校正記号が選択肢に表示されるのでユーザーが選択すればよい。確率に関係なく常に操作ガイド500が表示されてもよい。校正記号の検出により表示装置2は修正モードになる。
【0087】
S3:校正記号認識部24はこの校正記号320を検出すると、校正記号320で特定される位置の差し替え対象文字307をスペース(スペースの文字コード)に変更する処理を校正処理部25へ送信する。すなわち、校正記号320の左端と右端の座標を検出し、校正処理部25へ送信する。校正処理部25は2つの座標で指定される差し替え対象文字307をスペース(スペースの文字コード)に変更する。したがって
図12の例では「小さい」の各文字が空欄になる。このスペースを置き換え領域と呼ぶ。なお、校正処理部25は修正対象文字列302、及び、差し替え対象文字307を識別情報に対応付けて記憶部30に保存しておく。
【0088】
S4:次に、ユーザーは任意の位置に「大きい」という文字を手書きする。修正モードなのでユーザーは任意の場所に手書きしてよい。表示制御部26が操作ガイド500を表示する。ユーザーが文字列候補539から文字列を選択すると、表示制御部26が手書きデータを消去して、変換後の差し替え用文字305である「大きい」をディスプレー220に表示する。校正処理部25は修正モードで手書きされた差し替え用文字305、修正対象文字列302、及び、差し替え対象文字307と同じ識別情報に対応付けて保存しておく。
【0089】
S5:修正モードであるため、校正処理部25は差し替え用文字305(校正記号に応じて検出された1つ以上の文字)を置き換え領域に配置する。すなわち、1つ以上の文字における校正記号で指定される位置に 、校正記号に応じて定まる1つ以上の文字を配置する。したがって、表示制御部26は「赤い」と「花」の間に「大きい」を表示する。
【0090】
このように、校正記号を用いた差し替え処理により、ドラッグ&ドロップ操作がなくても「赤い小さい花」は「赤い大きい花」という修正された文字列330に修正される。修正により、修正モードが終了する。修正された文字列330は上記の識別情報に対応付けて記憶部30に保存される。
【0091】
なお、差し替え用文字305の文字数が差し替え対象文字307の文字数よりも小さい場合、校正処理部25がスペースを削除して(詰めて)、差し替え用文字305の後にスペースが残らないようにする。差し替え用文字305の文字数が差し替え対象文字307の文字数よりも大きい場合は、校正処理部25が差し替え用文字305の後に続く文字列を上書きされないようにシフトする。なお、このようにスペースの削除やシフトするのでなく、校正処理部25はステップS4で「赤い」と「花」の全てを削除し、「赤い大きい花」の全体を表示してもよい。
【0092】
また、
図12では、ユーザーが校正記号320を手書きしてから差し替え用文字305を手書きしているが、差し替え用文字305を手書きしてから校正記号320を手書きしてもよい。この場合、校正処理部25は
・校正記号320の直前に変換された文字
・校正記号320から所定距離内で最も近い文字
を差し替え用文字305と見なす。
【0093】
<<文字の差し替え 差し替え対象文字を半輝度で表示>>
図14は、文字の差し替え方法を模式的に説明する図である。
図15は文字の差し替え方法の手順を示すフローチャート図である。なお、
図14、
図15の説明では主に
図12、
図13との相違を説明する。ステップS11,ステップS12は
図12のステップS1、S2と同様でよい。
【0094】
S13:校正記号認識部24はこの校正記号320を検出すると、校正記号320に指定される差し替え対象文字307を半輝度で表示する処理を校正処理部25へ送信する。すなわち、校正記号320の左端と右端の座標を検出し、校正処理部25へ送信する。校正処理部25は2つの座標で指定される差し替え対象文字307を同じ文字のまま半輝度で表示する(いったん削除し、半輝度で再表示する)。したがって
図14の例では「小さい」の各文字が半輝度になる。半輝度で表示される文字がある領域を置き換え領域と呼ぶ。半輝度とは輝度を低減した状態を言うが(明度が低くなった状態)、色を変えてもよいし、彩度を変えてもよい。
【0095】
ステップS14,ステップS15は
図12のステップS4、S5と同様でよい。
【0096】
このように、差し替え対象の文字を半輝度で表示することで、ユーザーは差し替え対象文字307が何かを見ながら差し替え用文字305を手書きできる。
【0097】
<<文字の差し替え テキストボックスに文字を手書き>>
図16は、文字の差し替え方法を模式的に説明する図である。
図17は文字の差し替え方法の手順を示すフローチャート図である。なお、
図16、
図17の説明では主に
図12、
図13との相違を説明する。ステップS21,ステップS22は
図12、
図13のステップS1、S2と同様でよい。
【0098】
S23:校正記号認識部24はこの校正記号320を検出すると、校正記号320で指定される差し替え対象文字307をテキストボックスに変更する処理を校正処理部25へ送信する。すなわち、校正記号320の左端と右端の座標を検出し、校正処理部25へ送信する。校正処理部25は2つの座標で指定される差し替え対象文字307をテキストボックス321に変更する。したがって
図16の例では「小さい」の各文字がテキストボックス321になる。テキストボックス321がある領域を置き換え領域と呼ぶ。
【0099】
S24a、S24b:ユーザーはテキストボックス321内に「大きい」又は「大きいきれいな」という差し替え用文字305を手書きする。テキストボックス321内に手書きされた文字は校正記号320に応じて検出された1つ以上の文字である。表示制御部26は操作ガイド500を表示する。ユーザーが文字列候補539から差し替え用文字305を選択する。操作受付部29が操作を受け付ける。
【0100】
S25a:表示制御部26が手書きデータを消去して、変換後の差し替え用文字305である「大きい」をテキストボックス321に表示する。差し替え用文字305の文字数がテキストボックス321の数と合わない場合、
図12と同様に校正処理部25がテキストボックス321の数を調整する。
【0101】
S26:ユーザーがテキストボックス321に入力する文字数がテキストボックス321の数よりも多い場合がある。
【0102】
S27この場合、校正処理部25は最後のテキストボックス321に文字が手書きされた場合に、テキストボックス321を1つずつ追加する。
【0103】
S25b:表示制御部26が手書きデータを消去して、変換後の差し替え用文字305である「大きいきれいな」をテキストボックス321に表示する。差し替え用文字305の文字数がテキストボックス321の数と合わない場合、
図12と同様に校正処理部25がテキストボックス321の数を調整する。
【0104】
このように、差し替え対象にテキストボックス321を表示することで、ユーザーは元の文字に続けて差し替え用文字305を手書きできる。
【0105】
<<校正履歴の記録>>
図18は、文字の差し替えと校正履歴の記録を模式的に説明する図である。
図19は文字の差し替えと校正履歴の記録の手順を示すフローチャート図である。なお、
図18、
図19の説明では主に
図12、
図13との相違を説明する。まず、ステップS31~S35はステップS1~S5と同じでよい。
【0106】
S36:ステップS2で校正記号認識部24が校正記号を検出すると、データ記録部27は「jesture1 2020-0109-1530」という名前で記憶部30にディレクトリ(又はフォルダー)を作成する。「2020-0109-1530」は日時を表している。更に、データ記録部27はディレクトリ「jesture1 2020-0109-1530」に、差し替え対象文字である「赤い小さい花」に校正記号が手書きされている画像データ324を例えばimg1.bmpというファイル名で保存する。なお、ファイルのフォーマットはビットマップでなく、Jpeg、Pngなどでもよい。
【0107】
S37:ステップS34でユーザーが差し替え用文字305を手書きすると、データ記録部27はディレクトリ「jesture1 2020-0109-1530」に、手書き状態の差し替え用文字305の画像データ325をimg2.bmpというファイル名で保存する。
【0108】
S38:また、ステップS35で「赤い大きい花」が表示されると、データ記録部27は「赤い大きい花」をimg3.bmpというファイル名の画像データ326として記憶部30のディレクトリ「jesture1 2020-0109-1530」に保存する。
【0109】
したがって、記憶部30にはimg1.bmp~img3.bmpが同じディレクトリに保存される。このディレクトリは、表1に示した各文字列の識別情報と対応付けられている。ユーザーが修正された文字列330をペン2500で選択すると、表示装置2がimg1.bmp~img3.bmpを表示できる。紙を使用した校正では校正履歴が自然に残るが、本実施形態の表示装置2でも校正履歴を残すことができる。
【0110】
<<修正の取消>>
次に、
図20を参照して修正の取消について説明する。
図20は指示の取消による文字列の復帰を説明する図である。
図21は文字の差し替えの途中で指示が取り消された場合の文字列の復帰を説明するフローチャート図である。なお、
図20、
図21の説明では主に
図12、
図13との相違を説明する。まず、ステップS41~S43、S45はステップS1~S3,S5と同じでよい。
【0111】
S44:次に、ユーザーは任意の位置に「大きい」という差し替え用文字305を手書きする。差し替え用文字305は文字認識される。
【0112】
S44-2:しかし、その直後にユーザーは取消線331を手書きした。修正モードなので、取消線331は校正記号(第二の校正記号の一例)であると認識される。例えば、修正モードで差し替え用文字305に手書きデータが重なり、取消線331と類似している場合、手書きデータは取り消しの校正記号と判断される。したがって、操作ガイド500は表示されない。ユーザーが取消線331を手書きする前に、差し替え用文字305が差し替え対象文字307と差し替えられてもよい。この場合、差し替え用文字305が表示されていた場所から校正記号認識部24が取消線331を認識すると、校正処理部25は元の修正対象文字列302を表示する。
【0113】
一方、修正モードでも操作ガイド500が表示されてもよい。この場合、取消線331の認識結果として取り消しの操作コマンドが選択可能に表示される。操作ガイド500が表示された際、修正された文字列330は「赤い大きい花」に校正されているが、取り消しの操作コマンドの選択により、元の修正対象文字列302に戻る。
【0114】
S46:校正処理部25は差し替えの取消が指示されたので、ステップS43で削除した差し替え対象文字307を記憶部30から取得して、再度、置き換え領域に配置する。したがって、表示制御部26は「赤い」と「花」の間に「小さい」を表示する。
【0115】
このように、校正記号を用いた指示の取消処理により、「赤い小さい花」を「赤い小さい花」に戻すことができる。
【0116】
<<修正後のやり直し>>
次に、
図22を参照して、ユーザーが文字列の修正後に修正をやり直す場合を説明する。
図22は、文字列の修正のやり直し方法を説明する図である。
図23は、文字列の修正のやり直しに関する処理を説明するフローチャート図である。
【0117】
S51:これまで説明したように、「赤い小さい花」が「赤い大きい花」という修正された文字列330に修正された。修正された文字列330の周囲に、表示制御部26は、常時、又は、ホバー等によりやり直しボタン332を表示する。例えば、記憶部30に校正履歴が記憶されているので、校正履歴がある、修正された文字列330について表示制御部26がやり直しボタン332を表示する。
【0118】
S52:ユーザーはやり直しボタン332をペン2500で押下すると、操作受付部29はタッチされたペン先の座標に基づいてやり直しボタン332の押下を検出する。これにより表示装置2は修正モードになる。
【0119】
S53:校正処理部25は、記憶部30に記憶されている差し替え用文字305の座標に基づいて、修正された文字列330から差し替え用文字305を削除する(スペースに変更する)。
【0120】
S54~S55:こうすることで、ステップS4の状態に戻るので、ステップS4~S5と同様に再度、ユーザーが文字を修正できる。
【0121】
<文字の入れ替え>
図1にて説明した文字の入れ替えについて
図24を参照して説明する。
図24は、入れ替えの校正記号303が検出された場合に、表示装置2が行う処理を説明するフローチャート図の一例である。
図25は、入れ替えの校正記号303が指定する文字を説明する図である。
【0122】
S61:ステップS61の処理はステップS1と同様でよい。
【0123】
S62:ユーザーは、「赤い」と「小さい」を入れ替えるため、文字の入れ替えの校正記号303を手書きする。校正記号認識部24はこの校正記号を検出する。なお、校正記号303が検出された場合(確率が一定以上の場合)、操作ガイド500は表示されない。操作ガイド500が表示された場合、ユーザーが入れ替えの操作コマンドを選択する。校正記号303の検出又は選択により表示装置2は修正モードになる。
【0124】
S63:校正記号認識部24がこの校正記号303を検出すると、校正処理部25は校正記号303で特定される入れ替え対象文字304a、304bを交換して配置する。すなわち、1つ以上の文字における校正記号で指定される位置に 、校正記号に応じて定まる1つ以上の文字を配置する。例えば、
図25に示す校正記号303の始点の座標Sから、座標Sと同じ(又は同程度の)y座標に校正記号303が達する中点Mまでが、入れ替え対象文字304aである。後半の入れ替え対象文字304bは、中点M以降かつ終点Eまでの文字である。校正処理部25は入れ替え対象文字304aの先頭の座標を保存しておき、入れ替え後も先頭の位置から入れ替え対象文字304bを配置する。
【0125】
S64:表示制御部26は校正処理部25が入れ替えた文字列をディスプレー220に表示する。
【0126】
このように、修正にユーザーが手書きした文字列が必要ない校正記号でも、表示装置2は校正記号に基づいて文字列を修正できる。
【0127】
<主な効果>
以上説明したように、本実施形態の表示装置2は、文字列の差し替え又は入れ替え時に、ユーザーが文字列をドラッグ&ドロップで挿入する操作が不要なので、1つ以上の文字の修正に要する工数を少なくすることができる。
【実施例2】
【0128】
以下の実施例では表示装置2の別の構成例について説明する。
【0129】
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
【0130】
図26は、表示装置2の他の構成例を示す図である。
図26では、通常のホワイトボード413の上辺にプロジェクター411が設置されている。このプロジェクター411が表示装置2に相当する。通常のホワイトボード413とは、タッチパネルと一体のフラットパネルディスプレーではなく、ユーザーがマーカーで直接、手書きするホワイトボードである。なお、ホワイトボードは黒板でもよく、映像を投影するだけの広さの平面であればよい。
【0131】
プロジェクター411は超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をホワイトボード413に投影できる。この映像は、無線又は有線で接続されたPC400-1から送信されてもよいし、プロジェクター411が記憶していてもよい。
【0132】
ユーザーは専用の電子ペン2501を使ってホワイトボード413に手書きする。電子ペン2501は、ユーザーが手書きのためにホワイトボード413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411はカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411は音波の到達時間により距離を算出する。方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
【0133】
プロジェクター411はメニュー430を投影するので、ユーザーが電子ペン2501でボタンを押下すると、プロジェクター411が電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。例えば、保存ボタン431が押下されると、ユーザーが手書きした手書きされたデータ(座標点列)がプロジェクター411で保存される。プロジェクター411は、予め定められたサーバー412又はUSBメモリー2600等に手書き情報を保存する。手書き情報はページごとに保存されている。画像データではなく座標のまま保存されるので、ユーザーが再編集することができる。ただし、本実施形態では操作コマンドを手書きで呼び出せるのでメニュー430は表示されなくてもよい。
【実施例3】
【0134】
<<表示装置の別の構成例2>>
図27は、表示装置2の他の構成例を示す図である。
図27の例では、表示装置2として、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
【0135】
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
【0136】
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、電子ペン820は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は
図26と同様でよい)、端末装置600へ送信する。
【0137】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成し、画像投影装置700Aによって手書きデータの画像をスクリーン800に描画させる。
【0138】
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【実施例4】
【0139】
<<表示装置の別の構成例3>>
図28は、表示装置2の構成例を示す図である。
図28の例では、表示装置2として、端末装置600と、ディスプレー800Aと、ペン動作検出装置810とを有する。
【0140】
ペン動作検出装置810は、ディスプレー800Aの近傍に配置され、ディスプレー800A上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は
図26と同様でよい)、端末装置600へ送信する。なお、
図28の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
【0141】
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像の画像データを生成し、ディスプレー800Aに表示させる。
【実施例5】
【0142】
<<表示装置の別の構成例4>>
図29は、表示装置2の構成例を示す図である。
図29の例では、表示装置2として、端末装置600と、画像投影装置700Aとを有する。
【0143】
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
【0144】
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像の画像データを生成し、画像投影装置700Aに手書データの画像を投影させる。
【0145】
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
【0146】
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
【0147】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0148】
文字列は文字コードとして、手書きデータは座標点データとして表示装置2に保存される。また、各種の記憶媒体に保存したり、ネットワーク上の記憶装置に保存したりしておいて、後で、表示装置2からダウンロードして再使用することができる。再使用する表示装置2はどの表示装置でもよく、一般的な情報処理装置でもよい。したがって、ユーザーは手書きした内容を異なる表示装置2で再現して会議などを継続することができる。
【0149】
例えば、本実施形態では電子黒板を一例として説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
【0150】
また、本実施形態ではペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、ペン先の座標を超音波により検出してもよい。また、ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークデータとしてプロジェクターが描画(投影)する。
【0151】
また、
図7などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
【0152】
また、表示装置2が行う処理の一部を、表示装置2とネットワークを介して接続されたサーバーが行ってもよい。
【0153】
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0154】
校正記号認識部24は校正記号認識手段の一例である。校正処理部25は校正処理手段の一例である。文字認識部23は文字認識手段の一例である。データ記録部27はデータ記録手段の一例である。
【符号の説明】
【0155】
2 表示装置
【先行技術文献】
【特許文献】
【0156】