(58)【調査した分野】(Int.Cl.,DB名)
前記領域の属性は、少なくとも領域の形状の情報、囲領域を描画するときに右回り或いは左回りでストロークを描画した情報、ストローク描画時の指又はペンの本数の情報、他の操作とともに囲領域が入力されたか否かの情報の何れかの情報から設定されることを特徴とする請求項4に記載の画像表示装置。
前記領域の属性は、少なくとも画像表示装置を操作している利用者の情報、画像表示装置の入力部から入力された情報、画像表示装置が保有している情報の何れかの情報から設定されることを特徴とする請求項4に記載の画像表示装置。
【発明を実施するための形態】
【0016】
以下、本発明の画像表示装置を用いた画像表示システム1について説明する。なお、各実施形態は本発明を説明する都合上記載したものであり、本発明の範囲が以下の実施形態に限定されるものではない。
【0017】
[1.第1実施形態]
[1.1 システム構成]
まず、第1実施形態について説明する。第1実施形態は、画像表示装置として、タブレット等の可搬型の表示装置である端末装置10と、大型のディスプレイ等の据え置き型の表示装置20とを含んで構成されている。
【0018】
端末装置10と、表示装置20とは、接続可能に構成されている。例えば、本実施形態では、LAN(無線LAN、有線LAN)を介して通信可能に接続されている。接続方法としては、他にもBluetooth(登録商標)や、ZigBee(登録商標)といった近距離無線通信等で接続されても良い。すなわち、端末装置10と、表示装置20とが通信可能な接続方式であれば方法を問わないこととする。
【0019】
[1.2 機能構成]
続いて、機能構成について図に基づいて説明する。
【0020】
[1.2.1 端末装置]
まず、端末装置10の機能構成について、
図2に基づいて説明する。端末装置10は、制御部100と、表示部110と、タッチ検出部120と、画像処理部130と、通信部140と、記憶部150とを備えて構成される。
【0021】
制御部100は、端末装置10の全体を制御するための機能部である。制御部100は、記憶部150に記憶されている各種プログラムを読み出して実行することにより各種機能を実現しており、例えばCPU(Central Processing Unit)等により構成されている。
【0022】
表示部110は、各種コンテンツ等を表示する機能部である。例えば、LCD(liquid crystal display:液晶ディスプレイ)や、有機ELディスプレイ等により構成されている。また、表示部110には、表示領域全体に全体画像が表示されており、当該全体画像に図形が表示されている。
【0023】
タッチ検出部120は、利用者からのタッチ操作を検出することにより、操作入力を実現するための機能部である。例えば、表示部110と一体に構成されてタッチパネル等により実現される。タッチ操作を検出方法としては、静電容量方式、電磁誘導方式、赤外線方式といった何れかの方法を用いて検出できれば良い。また、検出箇所としても、1点であっても良いし、複数点検出可能であっても良い。
【0024】
また、タッチ検出部120により、図形が入力されることとなる。例えば、利用者から入力されたタッチされた座標を検出し、検出された座標からストローク情報が記憶される。そして、ストローク情報に基づいて図形を認識して、図形データ152に記憶される。また、当該図形は、そのまま全体画像に表示されることとなる。
【0025】
画像処理部130は、画像処理を実現するための機能部である。画像処理部130としては、例えば、入力された図形(手書き文字)から文字認識を行ってテキスト文字を出力したり、表示されている全体画像の中から囲領域の画像を切り出したりといった、各種画像処理が実現される。また、ストローク情報から図形に変換したり、ベクトルデータをラスタデータに変換したりする処理を行う。
【0026】
この画像処理部130は、必要に応じて処理毎にプログラムとして記憶部150に記憶され、必要に応じて読み出されて実行されることにより、実現されてもよい。
【0027】
通信部140は、端末装置10が通信を行う為の機能部である。例えば、IEEE802.11a/b/g/nといった無線LANを利用したり、Bluetooth等の近距離無線通信を利用したりする。なお、LTE通信等により一般的な通信を行っても良い。
【0028】
記憶部150は、端末装置10の動作に必要な各種プログラムや、各種データが記憶されている機能部である。記憶部150は、例えば、半導体メモリや、HDD(Hard Disk Drive)等により構成されている。
【0029】
また、記憶部150には、各種プログラムの他に、図形データ152と、付箋画像データ154とが記憶されている。
【0030】
図形データ152は、手描き入力される(例えば、ストローク描画される)ことにより記憶されたストローク情報に基づく手書き文字、手書き図形や、他の入力装置(例えば、スキャナ等)から入力された画像、他の装置から受信されて記憶される画像が記憶されている。
【0031】
例えば、利用者により手書き入力されたストローク情報が集まることにより、一つのグループ化された図形として記憶される。また、スキャナ、デジタルカメラや、画像ファイル等からJPEGデータや、BMPデータといった画像ファイルが記憶される。
【0032】
ここで、本明細書における図形とは、文字、記号を含む概念である。ここで文字(記号)は、利用者がタッチペンや手、マウス等で書いた文字である手書き文字と、ASCIIコードやJISコード、Unicode等で示されるテキスト文字とが含まれる。
【0033】
したがって、図形データ152には、キーボード等の入力手段で入力されたテキスト文字(列)や、受信されたテキスト文字(列)等が記憶される。この場合、例えばテキスト文字(列)と、表示領域の位置する座標、テキスト領域としての座標も併せて記憶されても良い。
【0034】
また、図形は、複数の文字である文字列からなる場合もある。すなわち、手書き入力された場合には、第1の時間間隔で入力されたストロークが一つの手書き文字として認識される。また、この手書き文字が連続して入力されることにより、手書き文字列として認識される。これらが、図形として図形データ152に記憶される。
【0035】
また、各図形は、表示部110の表示領域における座標を記憶していてもよい。そして、各図形が座標にしたがって表示されることにより、全体画像として表示部110に表示されることとなる。
【0036】
付箋画像データ154は、利用者により図形から一部切り出して生成されるデータである。切り出された一又は複数の図形を付箋画像データと記憶されていても良いし、全体画像から切り抜いた画像を付箋画像データと記憶しても良い。また、切り出した図形がベクトルデータや、ストローク情報に基づく図形の場合には、一度ラスタデータに変換して切り抜いても良い。
【0037】
[1.2.2 表示装置]
つづいて、表示装置20の機能構成について
図3に基づいて説明する。
図3に示すように、表示装置20は、制御部200と、表示部210と、操作入力部220と、通信部240と、記憶部250とを備えて構成されている。
【0038】
制御部200は、表示装置20の全体を制御するための機能部である。制御部200は、記憶部250に記憶されている各種プログラムを読み出して実行することにより各種機能を実現しており、例えばCPU(Central Processing Unit)等により構成されている。
【0039】
表示部210は、各種コンテンツ等を表示する機能部である。例えば、LCD(liquid crystal display:液晶ディスプレイ)や、有機ELディスプレイ等により構成されている。また表示部210には全体画像が表示されており、その中に図形が表示される。
【0040】
操作入力部220は、利用者からの操作入力を実現するための機能部である。例えば、外付けのキーボードやマウス、表示部210と一体に構成されてタッチパネル等により実現される。タッチ操作を検出方法としては、静電容量方式、電磁誘導方式、赤外線方式といった何れかの方法を用いて検出できれば良い。また、検出箇所としても、1点であっても良いし、複数点検出可能であっても良い。
【0041】
通信部240は、表示装置20が通信を行う為の機能部である。例えば、IEEE802.11a/b/g/nといった無線LANを利用したり、Bluetooth等の近距離無線通信を利用したりする。
【0042】
記憶部250は、表示装置20の動作に必要な各種プログラムや、各種データが記憶されている機能部である。記憶部250は、例えば、半導体メモリや、HDD(Hard Disk Drive)等により構成されている。
【0043】
また、記憶部250には、各種プログラムの他に、図形データ252と、付箋画像データ254と、付箋データ256とが記憶されている。
【0044】
図形データ252は、表示装置20において入力された図形と、端末装置10から受信された図形とが記憶される。記憶された図形データが、表示部210の表示領域に表示されることとなる。図形データ252は、図形データ152と同一の種類のデータで記憶されるため、詳細な説明は省略する。
【0045】
また、端末装置10から受信されるのが付箋画像データ254である。付箋画像データ254に基づいて、付箋データ256が生成されて記憶される。
【0046】
ここで、本実施形態で説明する付箋データとは、図形を一つのまとまりとして管理可能にするデータである。付箋データは、単に表示させるだけでなく、色を変えたり、表示領域内において移動して表示させたりするといったことも可能である。
【0047】
付箋データとして含まれるものは、付箋画像データに含まれる図形であっても良いし、手書き文字から変換されたテキスト文字であっても良い。また、付箋データは、表示/非表示を切り替えられたり、貼り付け、削除といったことが自由に行えることとしてもよい。
【0048】
また付箋データは、表示されている他のコンテンツ(例えば、図形や画像)に重畳的に表示されても良いし、単独で表示されても良い。
【0049】
[1.3 処理の流れ]
続いて本実施形態における処理の流れについて図に基づいて説明する。
【0050】
[1.3.1 処理の概要]
まず、本実施形態における付箋データの生成について説明する。ここでは、端末装置10において実行される場合について説明するが、表示装置20において実行されてもよい。また、後述するように、処理によって端末装置10と、表示装置20とで切り分けて実行されても良い。
【0051】
まず、
図4(a)は、図形として手書き文字列B10「締切り」が表示されている。手書き文字列B10は、表示部110の表示領域上に表示されている。
【0052】
利用者により、この手書き文字列B10を囲むように選択(特定)される。このとき選択されることにより、特定された領域を囲領域R10とする。すなわち、このストロークは、手書き文字列B10を囲むように形成されているため、付箋選択入力であることが認識される。
【0053】
付箋選択入力であることが認識されると、当該手書き文字列B10を含むように囲領域の座標が取得される。この囲領域の座標は、
図4(b)の領域R12の座標である。この領域R12に含まれている手書き文字列B10が付箋画像データT10として認識される(
図4(c))。
【0054】
付箋画像データT10と認識されたデータは、他の装置に送信可能である。また、付箋画像データT10から、付箋データH10に変換されたのが
図4(d)である。本図においては、付箋データH10と変換されたことにより、手書き文字列「締切り」は、テキスト文字列「締切り」に変換されている。テキスト文字列に変換されることにより、テキスト文字の追加、編集といったことが可能となる。また、付箋データには、色情報、形状、所用者、大きさといった付箋の属性(付箋に付随する情報)が記憶されている。
【0055】
また、囲領域で選択される図形は複数であっても良い。この場合、図形毎に付箋データを表示することとしても良いし、まとめて一つの付箋データとして表示することとしても良い。また、異なる種類の図形(例えば、文字と画像)が選択された場合は、図形毎に付箋データを表示したり、付箋選択入力をキャンセルしたりしても良い。
【0056】
[1.3.2 シーケンス図]
続いて第1実施形態について、
図5に基づいて説明する。
図5は、付箋データに基となる付箋画像データを送信する送信側の処理と、受信する受信側の処理を表したシーケンス図である。本実施形態では、送信側として端末装置10を、受信側として表示装置20を例に説明する。
【0057】
まず、端末装置10で手書き入力が検知された場合(ステップS102;Yes)、入力座標を取得する(ステップS104)。そして取得された座標をストローク情報として記憶する(ステップS106)。
【0058】
ここで、囲領域を形成していない場合は(ステップS108;No)、この記憶されたストローク情報は、図形として図形データ152に記憶される。このストローク情報から、例えば手書き文字(列)として記憶されたり、線分等として記憶されたりする方法については、何れかの従来技術を利用すれば良い。
【0059】
ここで、ストロークが囲領域を形成している場合には(ステップS108;Yes)、付箋選択入力と判定し、囲領域の座標を取得する(ステップS110)。
【0060】
ここで、囲領域の座標としては、例えば囲領域を含む座標を抽出すれば良い。また、ここで、囲領域の位置が所定の位置か否かを判定しても良い(ステップS112)。具体的には、例えば入力可能領域のうち、付箋選択入力として認識可能な位置を設定しておき、当該位置で囲領域が形成された場合には付箋選択入力として認識しても良い。
【0061】
また、表示領域全体において処理を実行する場合には、ステップS112の判定は行われなくても良い。すなわち、ステップS110の次にステップS114に処理を進めても良い。
【0062】
続いて、囲領域に基づいて付箋画像データを取得する(ステップS112;Yes→ステップS114)。すなわち、囲領域に含まれる図形を取得し、付箋画像データとして取得する。そして、取得された付箋画像データを受信側である表示装置20に送信する(ステップS116)。
【0063】
受信側である表示装置20は、付箋画像データを受信すると(ステップS150)、付箋画像データに基づいて付箋データに変換する(ステップS152)。具体的には、付箋データに手書き文字(列)が含まれている場合には、テキスト文字(列)に変換する処理を行う。なお、そのまま手書き文字(列)として表示しても良い。
【0064】
続いて、付箋データの表示位置を決定し(ステップS154)、付箋データを表示する(ステップS156)。
【0065】
付箋データの表示位置の決定の仕方としては複数の方法が考えられる。まず、初期設定として付箋データを表示する位置を決めておき、当該初期設定の位置に付箋データを表示する方法が考えられる。他にも、付箋画像データを送信した端末装置10によって、付箋データの表示位置を決めても良い。例えば、画面を4等分し、端末毎に表示するエリアを決めてもよい。
【0066】
[1.4 動作例]
続いて、本実施形態における動作例について
図6を用いて説明する。
図6(a)は、端末装置10の表示領域に、2つの図形が表示されている。手書き文字列B100「アイデア」と、手書き文字列B110「締切り」が表示されている。
【0067】
このとき、利用者によって、矩形R100が入力される。この入力が囲領域であることから、付箋選択入力であると認識される。矩形R100に含まれている手書き文字列B100が、付箋画像データとして取得されることとなる。
【0068】
この付箋画像データが、端末装置10から表示装置20に送信される。表示装置20は、付箋画像データに基づいて付箋データH100を表示する。付箋データH100においては、手書き文字列「アイデア」は、テキスト文字列「アイデア」に変換されて表示されている。
【0069】
この付箋データH100は、利用者により自由に移動することが可能であり、大きさを変えることも可能である。また、本実施形態のように、テキスト文字に変換されることで、文字(列)の編集を行うことも可能である。
【0070】
このように、本実施形態によれば、利用者は必要な図形を囲む操作を行うことで、一の画像表示装置で入力された図形を、他の画像表示装置に付箋データとして送信し、表示することができる。
【0071】
これにより、例えば利用者が自分で使っている端末装置(例えば、タブレット等の画像表示装置)を利用して入力操作を行うことができる。また、複数の利用者がいた場合であっても、各端末装置から図形を入力し、送信することが可能となる。
【0072】
[2.第2実施形態]
第2実施形態について説明する。第2実施形態は、付箋選択入力において、選択入力の方法に基づいて付箋データの属性についても認識する処理である。すなわち、選択入力された領域(囲領域)の属性に応じて、付箋データの属性が認識される。
【0073】
なお、本実施形態におけるシステムの構成は上述した第1実施形態と同じであり、その構成等の説明は省略する。本実施形態では、第1実施形態と異なる箇所を中心に説明する。
【0074】
[2.1 データ構成]
図7は、第1実施形態における記憶部150を、記憶部150bに置き換えるものである。
図7に示すように、記憶部150bには、図形データ152と、付箋画像データ154と、付箋データ属性判定テーブル156とが記憶されている。
【0075】
付箋データ属性判定テーブル156は、付箋選択入力として入力される囲領域の属性、本実施形態では囲領域ストローク(形状)に応じて、付箋データの属性を記憶しているテーブルである。例えば、
図8(a)に示すように、領域の属性であるストローク形状(例えば、「円形」)に対応づけて、付箋データの属性(例えば、色として「赤」)が記憶されている。
【0076】
なお、本実施形態では、付箋データの属性として色を例に説明するが、例えば大きさ(フォントサイズ)や、フォントの種類、付箋データの境界色といった他の表示パターンを記憶しても良い。
【0077】
[2.2 処理の流れ]
本実施形態の処理の流れを
図9のシーケンス図に基づいて説明する。なお、第1実施形態と同一の処理には、同一の符号を付してその説明を省略する。
【0078】
検出されたストロークが囲領域であり、付箋選択入力と判定された場合には(ステップS102〜ステップS112;Yes)、囲ったストロークの形状を判定し(ステップS202)、当該判定されたストロークの形状に基づいて付箋データの属性(付箋データ属性)を判定する(ステップS204)。具体的には、付箋データ属性判定テーブル156に基づいて付箋データ属性を判定する。
【0079】
続いて、囲領域に基づいて、付箋画像データを取得する(ステップS114)。その後、取得した付箋画像データと、付箋データ属性とを表示装置20に送信する(ステップS206)。なお、他の情報(例えば、付箋の大きさ等の種々の情報)と、付箋データ属性とを含めた付箋付加情報として送信しても良い。
【0080】
また、本実施形態における処理の流れは一例であり、データに矛盾が生じない範囲で前後しても良い。例えば、最初に囲領域に基づいて付箋画像データを取得した後に、付箋データ属性を判定しても良い(ステップS206→ステップS204)。
【0081】
表示装置20は、付箋画像データと付箋データ属性とを受信する(ステップS252)。この後、付箋データに変換し、付箋データ表示位置を決定する(ステップS152→S154)。
【0082】
そして、受信された付箋データ属性に基づいて、付箋データの属性を決定する(ステップS254)。そして、決定された付箋データの属性に基づいて、付箋データを表示する(ステップS256)。
【0083】
[2.3 動作例]
第2実施形態の動作例について、
図10に基づいて説明する。
図10(a)は、第1実施形態において、端末装置10から送信された付箋画像データに基づく付箋データH100が、表示装置20に表示されている図である。
【0084】
この状態で、手書き文字列B110である「締切り」が、ストロークで示された囲領域R110で選択されている。この場合、手書き文字列B110を含む付箋画像データが取得され、表示装置20に送信される。また、このとき、併せて付箋データの属性が送信される。
【0085】
表示装置20は、受信された付箋画像データから変換された付箋データH110が表示されているのが
図10(b)である。第1実施形態の付箋データH100のように、囲領域のストロークの形状が矩形である場合と、本実施形態の付箋データH110のように、囲領域のストロークの形状が円形である場合とで付箋データの属性が変化している。すなわち、付箋データH100と、付箋データH110とでは異なる色で表示されている。
【0086】
このように、本実施形態によれば、利用者が図形を選択するときに選択する形状を切り替えることで、付箋データの属性を容易に切り替えることが可能となる。
【0087】
また、付箋データの属性を決定する囲領域のストロークの形状と、付箋データの属性とは、利用者が任意に設定することとしても良い。これにより、好きな形状に、好きな属性(例えば、色)を割り当てることが可能となる。
【0088】
また、付箋データ属性判定テーブル156は、表示装置20に記憶し、付箋データの属性判定を表示装置20で行っても良い。すなわち、端末装置10から、付箋画像データと、囲領域のストローク情報が表示装置20に送信される。そして、表示装置20において、当該送信された情報から、付箋データの属性を判定することとしても良い。
【0089】
[3.第3実施形態]
第3実施形態について説明する。第3実施形態は、付箋データの属性として、色等の表示属性について設定したが、内容的な属性を設定しても良い。
【0090】
第3実施形態は、第2実施形態において、
図8(a)の付箋データ属性判定テーブル156を、
図8(b)の付箋データ属性判定テーブルに置き換えたものである。
【0091】
すなわち、ストローク形状に対応づけて、属性(例えば、重要度として「高」)が記憶されることとする。すなわち、付箋データの属性として、重要度といった内容的な属性を付加することが可能である。これらの属性は、例えば「消去可能」「消去不可」といった属性や、所有者を示す属性(例えば、円形の場合はAさん、矩形の場合はBさん)といったものであってもよい。
【0092】
当該決定された付箋データの属性に応じて、付箋データが表示される(
図9のステップS254→S256)。これにより、付箋データは、付箋データ属性に応じた挙動を行うことになる。例えば、重要度が「高」の付箋データは「消去不可」と設定されている場合、当該付箋データについて利用者は消去することができないといったことになる。
【0093】
また、表示装置20は、これらの属性に応じて表示形式を変更しても良い。例えば、重要度が高いものは「赤」で表示したり、「大きく」表示したりしても良い。
【0094】
このように、本実施形態によれば、単なる表示以外についても、描画パターンに基づいて、付箋データの属性を容易に付すことが可能となる。
【0095】
[4.第4実施形態]
第4実施形態について説明する。第4実施形態は付箋データに属性を付す場合に、ストロークの形状ではない、囲領域の属性に基づいて設定する。
【0096】
第4実施形態は、第3実施形態において、
図8(b)の付箋データ属性判定テーブル156を、
図8(c)の付箋データ属性判定テーブルに置き換えたものである。すなわち、囲領域の属性として、例えば「右回り」「左回り」といった属性に応じて、付箋データの属性(本実施形態では所有者「A」)とが対応づけられている。
【0097】
例えば、囲領域の属性として、他にも例えば「2本指で囲領域のストロークが検出された」や、「他の操作と共に囲領域が入力された」といったことを設定することも可能である。
【0098】
また、付箋データの属性としては、上述したように、大きさや、色、重要度といった他の属性が設定されても良い。
【0099】
例えば、第4実施形態の動作例を
図11に示す。端末装置10には、手書き文字列B200と、手書き文字列B210とが表示されている。そして、手書き文字列B200は、右回りに囲領域R200が選択され、手書き文字列B210は左回りに囲領域R210が選択されている。
【0100】
ここで、囲領域により選択され、変換された付箋データが表示装置20に表示されている。付箋データH200と、付箋データH210とは属性が異なっているため、表示も異なったものとなっている。
【0101】
このように、本実施形態によれば、付箋選択入力が行われるときの、囲領域の選択の仕方に応じて、付箋データの属性を容易に変更することが可能となる。
【0102】
[5.第5実施形態]
第5実施形態は、付箋データの認識を表示装置20側で行う場合の実施形態である。本実施形態については、第1実施形態の
図5で示した処理フローを、
図12で置き換えた実施形態である。
図12に基づいて、本実施形態の処理の流れについて説明する。
【0103】
端末装置10において、図形を含む画像が表示されている。この中から、付箋データとした図形を、囲領域で選択して、表示装置20に画像データを送信する(ステップS302)。
【0104】
表示装置20は、画像データを受信すると(ステップS310)、受信された画像データから、図形認識処理を実行し(ステップS312)、画像から図形を取得する。
【0105】
ここで、画像から図形を取得する方法としては種々の方法が考えられるが、画像データと共にストローク情報が送信されている場合にはストローク情報を参照して図形を認識する。また、画像がベクトルデータであった場合は、ベクトルデータを参照して図形を認識する。また、ラスタデータであった場合には、図形の形状から図形を認識する。
【0106】
ここで、認識された図形の中に所定の図形データが検出された場合、検出された図形の形状を判定する(ステップS314;Yes→ステップS316)。例えば、囲領域の形状を検出したり、囲領域の中に他の図形が含まれている場合の図形の形状を検出したりする。そして、検出された形状は、付箋選択入力であると判定し、検出された領域に含まれる図形を、付箋画像データとして取得する(ステップS318)。
【0107】
そして、付箋画像データから付箋データに変換し、付箋データの表示位置を決定し(ステップS320)、付箋データの属性を決定する(ステップS322)。そして、変換された付箋データ、付箋データの表示位置、属性に基づいて付箋データを表示する(ステップS324)。
【0108】
そして、画像に含まれる付箋データを全て表示していない場合には処理を繰り返し実行し(ステップS326;No→ステップS316)、表示された場合には本処理を終了する(ステップS326;Yes)。
【0109】
このように本実施形態によれば、端末装置10から一括して画像を送信することにより、必要な付箋データを表示装置20で表示することができる。その都度付箋画像データを送信する必要が無くなり、端末装置10、表示装置20間の通信のトラフィックを減らすことが可能となる。また、端末装置10より表示装置20の方が処理能力が高い場合には、一括して処理できるという効果が期待できる。
【0110】
[6.第6実施形態]
続いて、第6実施形態について説明する。第6実施形態は、付箋選択入力として選択される囲領域に基づいて付箋画像データを取得する場合、囲領域から外れていても、同じ図形グループの場合は、付箋画像データとして取得する場合の実施形態である。
【0111】
本実施形態では、第1実施形態の
図5の処理フローのステップS114において、囲領域に基づいて付箋画像データを取得している。すなわち、第1実施形態は囲領域に含まれる図形を付箋画像データとして取得した。
【0112】
本実施形態は、当該図形の一部が囲領域に含まれている場合は、当該図形を付箋画像データとして取得することとする。
【0113】
図13を参照して説明する。
図13の手書き文字列B400は、「アイデア」で一つの図形を構成している。すなわち、ストローク情報に基づいて、「ア」等の手書き文字が構成されている。そして、手書き文字「イ」「デ」「ア」が集まり、手書き文字列「アイデア」が構成されている。
【0114】
ここで、囲領域R400には、「アイデ」の部分が含まれている。しかし、「アイデ」が含まれる図形は手書き文字列B400「アイデア」である。したがって、この場合、「アイデア」の図形が囲領域に含まれる図形として取得される。
【0115】
そして、表示装置20の表示画面には、付箋データH400として「アイデア」が表示されることとなる。すなわち、手書き文字列「アイデア」から、テキスト文字列「アイデア」に変換され、付箋データとして表示されることになっている。
【0116】
このように、本実施形態によれば、利用者が手書き文字列を初めとする図形を選択する場合、当該図形が含まれる領域を選択すれば良い。
【0117】
[7.第7実施形態]
第7実施形態について説明する。第7実施形態は、囲領域により選択された付箋画像データについて、送信前に選択動作を行う場合の実施形態である。
【0118】
第7実施形態は、第1実施形態において
図5で示した端末装置10の処理を、
図14の処理フローに置き換えた実施形態である。なお、
図5と同一の処理については、同一の符号を付してその説明を省略する。
【0119】
囲領域に基づいて付箋画像データを取得した後(ステップS114)、囲領域に対するタッチ操作があったか否かを判定する(ステップS502)。ここで、タッチ操作があった場合は取得した付箋画像データを表示装置20に送信する(ステップS116)。
【0120】
本実施形態における動作例を
図15に示す。
図15(a)は、囲領域R500により、手書き文字列B500が選択されている。この時点で、利用者が囲領域R500の中をタッチする(タップ操作する)と、付箋画像データが表示装置20に送信される。これにより、
図15(b)に示すように付箋データH500が表示される。
【0121】
このように、本実施形態によれば、囲領域により付箋画像データが選択された後に利用者が任意のタイミングで付箋画像データを送信することができる。これにより、例えば、複数の付箋データを表示する場合に、利用者が好きな順序で表示させたりすることが可能となる。
【0122】
なお、ステップS502の処理としては、ステップS114の後に実行しているのは一例であり、例えばステップS114の前に実行しても良い。すなわち、タッチ操作が検出された後に、付箋画像データが取得されることとしても良い。
【0123】
また、ステップS502が検出タイミングとしては所定の時間タイミングを判断しても良い。例えば、5秒以内にタッチ操作がなければ付箋画像データはキャンセル(選択されなかったことなる)としても良い。
【0124】
[8.第8実施形態]
第8実施形態について説明する。第8実施形態は、囲領域により選択された付箋画像データについて、送信前にキャンセル動作を行う場合の実施形態である。
【0125】
第8実施形態は、第1実施形態において
図5で示した端末装置10の処理フローを、
図16の処理フローに置き換えた実施形態である。なお、
図5と同一の処理については、同一の符号を付してその説明を省略する。
【0126】
囲領域に基づいて付箋画像データを取得した後(ステップS114)、囲領域の領域外に対するタッチ操作があったか否かを判定する(ステップS522)。ここで、領域外のタッチ操作があった場合は取得した付箋画像データをキャンセルし、表示装置20に付箋画像データを送信しない(ステップS524)。
【0127】
他方、領域外にタッチ操作が検出されなかった場合には、取得した付箋画像データを送信する(ステップS522;No→ステップS116)。なお、領域外に対するタッチ操作が有ったか否かの判定は、所定時間内にタッチされたか否かで判定する。例えば、3秒以内にタッチされなかった場合には、ステップS522はNoとして、取得した付箋画像データを表示装置20に送信する。
【0128】
本実施形態における動作例を
図17に示す。
図17(a)は、囲領域R520により、手書き文字列B520が選択されている。この時点で、利用者が囲領域R520の領域外のP520をタッチする(タップ操作する)と、囲領域R520により選択された付箋画像データがキャンセルされる。
【0129】
すなわち、
図17(b)に示すように、表示装置20には付箋データがキャンセルされたことにより表示されていない。
【0130】
このように、本実施形態によれば、囲領域により付箋画像データが選択された後に利用者が付箋画像データをキャンセルすることができる。これにより、例えば、不要な図形を選択してしまった場合でも、キャンセルすることにより、表示装置に表示させないことが可能となる。
【0131】
[9.第9実施形態]
第9実施形態について説明する。第9実施形態は、ストローク情報から付箋選択入力ではなく、通常の図形入力に切り替える実施形態である。
【0132】
本実施形態は、上述した実施形態と組み合わせて説明することができるが、例えば、第8実施形態と組み合わせた場合について説明する。
【0133】
すなわち、第8実施形態、
図16のステップS524において付箋画像データをキャンセルする処理を実行しているが、このとき、ストローク情報に基づいて端末装置10上で実際に線図を描画しても良い。
【0134】
この場合の動作例を
図18に示す。
図18(a)は、第8実施形態の
図17(a)と同様であり、手書き文字列B520の周りを囲領域R520で選択している。そして、囲領域R520の領域外のP520が利用者によりタッチされている。
【0135】
この場合、
図18(b)に示すように、囲領域R520は、そのまま線図である図形B522として表示されている。すなわち、付箋選択入力のストローク情報が、そのまま図形描画のストローク情報として利用されることとなる。
【0136】
このように、本実施形態によれば、付箋選択入力と、図形の描画入力とを切り替えて利用者は入力することができる。この切替えは、他の実施形態と組み合わせても良い。例えば、囲領域の形状によって切り替えても良いし、囲領域の属性によって切り替えても良い。また、第7実施形態において、囲領域内がタッチされた場合が図形の描画入力(すなわち付箋画像データが送信されない)とし、何もされない場合に付箋画像データが送信されるという構成としても良い。
【0137】
[10.第10実施形態]
第10実施形態について説明する。第10実施形態は、囲領域で図形を選択した後に、メニュー表示を行って動作を行う実施形態である。
【0138】
本実施形態の動作例について、
図19を参照して説明する。
図19(a)は、手書き文字列B600を、囲領域R600により選択した場合の図である。このとき、端末装置10の表示画面にはメニュー表示M600がされている。
【0139】
ここで利用者により、メニュー表示M600に表示されているメニューからこの後の動作を選択することにより、付箋画像データに対する挙動が決定する。例えば、「付箋転送」を選択した場合には、
図19(b)に示すように、付箋データH600が表示される。
【0140】
このときの付箋データの属性についてはメニューから選択して設定されることとしても良い。また描画処理や、画像転送といった種々の挙動が選択できることとしても良い。
【0141】
このように、本実施形態によればメニュー表示を利用することにより、付箋画像データに対する挙動を利用者が複数選択するといったことが可能となる。
【0142】
[11.第11実施形態]
第11実施形態について説明する。第11実施形態は、囲領域の中に図形が含まれている場合に付箋画像データと認識する場合について説明する。
【0143】
上述実施形態では、囲領域に含まれている図形を取得し、付箋画像データとしていた。例えば、第1実施形態における
図5では、ステップS114において、囲領域に基づいて付箋画像データを取得していた。
【0144】
ここで、囲領域の中に図形データが含まれていない場合には、付箋画像データは取得されないこととしても良い。
【0145】
すなわち、ステップS114において、囲領域に基づいて、囲領域に含まれる図形データを取得する。この場合、囲領域に図形データが含まれていない場合には、付箋選択入力がキャンセルされることにする。すなわち、この場合付箋画像データは取得されず、表示装置20にも送信されないこととなる。
【0146】
また、付箋画像データが取得されない場合、囲領域として入力されたストローク情報に基づいて線分を描画しても良い。
【0147】
このような構成とすることで、図形が含まれている箇所を囲むように選択することで、付箋データが表示装置で表示され、図形が含まれていない場合には線分が描画されることとなる。
【0148】
[12.第12実施形態]
第12実施形態について説明する。第12実施形態は、端末装置10から付箋画像データを送信するときに、端末装置10が保有している情報が送信される実施形態である。
【0149】
例えば、端末装置10には、種々の情報が記憶されている。例えば、端末装置10が保有する情報としては、IPアドレスや、端末装置固有の識別情報といった設定情報や、ログイン名(ユーザ名)や、手書き入力したユーザ名等の利用者情報といった種々の情報が記憶されている。なお、設定情報及び利用者情報を併せて端末装置10の環境情報として以下説明する。
【0150】
これらの、端末装置10に記憶されている環境情報を、第1実施形態のステップS116で表示装置20に送信する。
【0151】
ここで、環境情報は、予め記憶されている情報であっても良いし、利用者が設定・記憶する情報であっても良い。また、端末固有情報(端末の製造識別情報、MACアドレス等)のように、工場出荷時に設定されている情報であってもよい。
【0152】
また、ログイン情報の他にも、手書き入力図形に紐付けられた利用者情報(ユーザ名)であっても良い。この利用者情報は、端末のログイン情報であったり、入力装置(例えばタッチペン等)に紐付けられている情報であっても良い。
【0153】
これらの環境情報が表示装置20に送信されることにより、ステップS152において、環境情報といった端末装置10が保有している情報に基づいて、付箋の色を変えたり、付箋の大きさ、透過率を変えるといった属性を変えることが可能となる。
【0154】
[13.第13実施形態]
第13実施形態について、説明する。第13実施形態は、第12実施形態において、付箋画像データとともに送信された属性情報や、環境情報に基づいて、表示装置20で表示形態を変更する実施形態である。
【0155】
具体的には、表示装置20は、属性に基づいて表示したりすることを選択できたり、環境情報を表示する(例えば、利用者名を付箋データと併せて表示したりする)ことを行う。例えば、付箋データと併せてユーザ名を表示したり、送信された端末のIPアドレスや、マシン名等を表示したりする。
【0156】
これらの、属性の有効/無効の切替えや、環境情報の表示/非表示の切り替えは、表示装置20で行うことが可能である。
【0157】
本実施形態における動作例を、
図20に示す。
図20(a)は、環境情報を「ON」としている場合の表示装置20を示す図である。例えば、領域R700により、利用者表示が「ON」に設定されている。
【0158】
この場合、付箋データH700の近傍に利用者名「A」が表示されている。また、付箋データ710の近傍には利用者名「B」が表示されている。
【0159】
このとき、領域R700の選択を操作することにより、利用者表示を「OFF」にした場合が
図20(b)である。
図20(b)では、付箋データH700、付箋データH710の近傍に利用者名は表示されていない。
【0160】
このように、本実施形態によれば、環境情報の表示/非表示を、表示装置20において行うことが可能となる。なお、環境情報の表示/非表示の切替えは、端末装置10が行ってもよい。また、例えば、全体の設定としての表示/非表示を切り替えても良いし、付箋データ毎に切り替えても良い。また、囲領域の形によって、表示/非表示を切り替えても良い。
【0161】
[14.第14実施形態]
第14実施形態について説明する。第14実施形態では、環境情報や属性を利用して、付箋データの表示/非表示を切り替える実施形態である。
【0162】
例えば、付箋データ毎に属性や、環境情報がそれぞれ記憶されている。そこで、利用者により、表示したい付箋データを一括で選択して表示したり、非表示とするといったことが可能である。
【0163】
本実施形態における動作例を
図21に示す。
図21では、囲領域R800において、表示される付箋データが選択されている。具体的には、利用者Aの付箋データを表示し、利用者Bの付箋データを非表示と選択されている。
【0164】
この場合、例えば、
図20(a)と比較すると、利用者Aが環境情報として記憶されている付箋データH800は表示されているが、利用者Bが環境情報として記憶されている付箋データは表示されていない。
【0165】
なお、上述した実施形態では、環境情報を例に説明したが、例えば、色や形といった付箋データの属性を指定して表示/非表示を切り替えても良い。また、表示/非表示の切替えは、端末装置10から切り替えることとしても良い。
【0166】
更に、環境情報や属性のうち、複数を組み合わせても良い。例えば、Aさんの重要度が高い付箋データや、Bさんの赤の付箋データといった組み合わせで表示/非表示を切り替えても良い。
【0167】
[15.第15実施形態]
第15実施形態について説明する。上述した実施形態の説明では、端末装置10と、表示装置20とが通信を行う場合について説明したが、端末装置10又は表示装置20単体で処理を実行する場合についての実施形態について説明する。
【0168】
図22は、端末装置10又は表示装置20で実行される処理を説明するための処理フローである。第2実施形態の動作を、各装置だけで実現するための処理である。なお、
図22の処理を実行する装置において、
図7で示した記憶部のデータを記憶しているものとする。
【0169】
また、
図9に示した処理フローと同一の処理については同一の符号を付して、その説明を省略する。
図9では、付箋データ(付箋画像データ、付箋データ属性)を取得(認識)するのが端末装置10であって、付箋データを表示するのが表示装置20であったが、
図22の処理は同一の装置で実現される。
【0170】
すなわち、表示されている図形の中から、手書き入力により、囲ったストロークの形状から、付箋データの属性を判定する(ステップS102;Yes→S104→S106→S108;Yes→S110→S112;Yes→S202→S204)。そして、囲領域に基づいて付箋画像データが取得される(ステップS114)。
【0171】
取得された付箋画像データを、付箋データに変換し(ステップS152)、付箋データの表示位置を決定する(ステップS154)。また、付箋データ属性を決定すると(ステップS254)、付箋データを表示する(ステップS256)。
【0172】
ここで、付箋データとして表示されるのは、もとの選択された図形を置き換えて表示しても良いし、更に表示(例えば、別領域)に表示しても良い。例えば、
図23は、端末装置10で実現した場合の画面例の一例である。
【0173】
図23(a)で示したように、手書き文字列B800を、囲領域R800で選択した場合の図である。このとき、
図23(b)のように、手書き文字列B800が、付箋データH800として置き換わって表示されている。
【0174】
図24(a)では、手書き文字入力エリアと、図形表示エリア(付箋データ表示エリア)とが分かれている状態の図である。例えば、手書き文字列B850が、表示画面下部の手書き文字入力エリアに入力・表示されている。
【0175】
ここで、手書き文字列B850が閉領域R850により選択されることで、付箋データH850が表示される。このとき、手書き文字列B850とは別に付箋データH850が表示されることとなる。なお、上述した実施形態で説明したように、例えば
図24(b)の付箋データH850には、入力者(所有者)の名称として、例えば「Aさん」と表示させることも可能である。
【0176】
このように、本実施形態によれば、同一の装置であっても、同様の処理を実行することが可能となる。なお、本実施形態では第2実施形態のフローを置き換えて説明したが、他の実施形態においても、付箋画像データ及び付箋データ属性を判定し、付箋画像データ及び付箋データ属性に基づいて表示することが可能なことは勿論である。
【0177】
また、説明の都合上、付箋データに変換することとして説明しているが、例えば、付箋画像データと、付箋データの属性とに基づいて直接表示しても良いことは勿論である。
【0178】
[16.第16実施形態]
第16実施形態について説明する。第15実施形態に加えて、一度付箋データとして記憶する実施形態について説明する。
【0179】
図25及び
図26は、端末装置10又は表示装置20で実行される処理を説明するための処理フローである。第2実施形態の動作を、各装置だけで実現するための処理である。なお、
図25及び
図26の処理を実行する装置において、
図7で示した記憶部のデータを記憶しているものとする。
【0180】
また、
図9に示した処理フローと同一の処理については同一の符号を付して、その説明を省略する。
図9では、付箋データ(付箋画像データ、付箋データ属性)を取得(認識)するのが端末装置10であって、付箋データを表示するのが表示装置20であったが、
図25と、
図26の処理は同一の装置で実現される。
【0181】
すなわち、
図25の処理が実行されると、利用者の操作により、付箋画像データと、付箋データ属性とが取得され(ステップS102〜S114)、付箋画像データ及び付箋データ属性とが記憶される(ステップS602)。
【0182】
また、
図26の処理が実行されると、ステップS602により記憶されている付箋画像データ及び付箋データ属性とを読み出して(ステップS652)、付箋データに変換されて表示される(ステップS152〜ステップS256)。
【0183】
このように、本実施形態によれば、同一の装置であっても、同様の処理を実行することが可能となる。なお、本実施形態では第2実施形態のフローを置き換えて説明したが、他の実施形態においても、付箋画像データ及び付箋データ属性を端末装置に記憶し、当該記憶された付箋画像データ及び付箋データ属性に基づいて表示することが可能なことは勿論である。
【0184】
また、一度付箋データを記憶させることで、異なるプログラム、プロセス上で付箋データのやり取りをするといったことが可能となる。また、付箋データの記憶先として、外部記憶装置(例えば、USBメモリ等)を指定することで、直接接続されていない他の装置で表示させることが可能となる。
【0185】
[17.第17実施形態]
第17実施形態について説明する。第17実施形態は、上述した実施形態に加えて、付箋データの送信するタイミングについて異なる場合について説明するものである。
【0186】
すなわち、上述した実施形態(例えば、第1実施形態)では、図形を囲む操作をトリガーとして付箋データを送信することとしたが、記入後一定時間無操作状態が継続したことをもって図形が特定され、特定された図形が付箋データとして送信される。
【0187】
この場合、前回に一定時間無操作状態が継続したタイミングからのデータが収まる領域を矩形領域として切り出し、付箋データとして送信する。本実施形態の処理について、
図27を用いて説明する。なお、
図27は、
図5の処理フローを置き換えたものであり、同一の処理には同一の符号を付し、説明を省略する。
【0188】
ストローク情報が記憶されたあと、一定時間が経過したか否かを判定する(ステップS702)。ここで、一定時間が経過した場合には、付箋画像データとなる矩形領域の座標を取得する(ステップS704)。そして、矩形領域の位置が所定の領域内である場合には(ステップS706;Yes)、矩形領域に基づいて付箋画像データを取得する(ステップS708)。
【0189】
例えば、
図6の例によれば「アイデア」と手書きを行った後に一定時間無操作状態を継続させることによって、「アイデア」と記載された部分が収まる形に矩形領域を切り出す。この矩形領域の切り出しにおいては、当該手書きが収まる矩形領域で切り出してもよいし、手書き文字の傾きを考慮して、切り出す矩形領域の角度を調整するなどしても構わない。矩形領域の調整を行うことで矩形R100と同等のデータが生成されることになる。
【0190】
また、ステップS702において付箋判定ONとは、通常の手書き入力と付箋データの入力の区別が必要となるため、通常の手書き入力と、付箋データの入力で、入力モードを変えるなどの操作を行ってもよい。付箋データの入力モードが「ON」になっていたり、付箋データ入力用のペンモードが選択された後に手書き入力されたりした場合に、付箋判定がONとなる。そして、付箋判定がONの場合には、付箋画像データが取得される。
【0191】
具体的には、通常の手書き入力を行うモード(手書き入力モード)と、付箋データに変換可能な手書き入力を行うモード(付箋データ入力モード)とが選択可能である。ここで、付箋データ入力モードが選択され、手書き入力が行われると、本実施形態の処理が実行される。すなわち、手書き入力後、所定時間が経過後に付箋データ(付箋画像データ)に変換される。ここで、通常の入力モードである手書き入力モードで入力された手書き入力は、所定時間が経過しても付箋データ(付箋画像データ)に変換されない。このように、特定の入力モードとして、例えば付箋データ入力モードが選択された場合には、付箋データに変換される。
【0192】
そして、例えば第1実施形態で説明した様に、入力された図形を囲む(ストロークにより囲領域が形成される)と、付箋データ(付箋画像データ)に変換される。なお、本実施形態においても、入力された図形を囲む動作により、所定時間経過前に付箋データに変換するという動作としてもよい。
【0193】
なお、付箋判定ONは、付箋データの入力用モードの切り替えであっても良いし、モードONスイッチ等であってもよい。また、所定の操作(例えば、ペンのボタンを押しながら操作する、片手でタッチしつつ手書き入力を行う、2本指で操作する)の場合には、付箋判定がONと判定されてもよい。
【0194】
また、システムによっては、所定領域に入力された場合は全て付箋画像データと判定しても良いし、手書き入力されたものは全て付箋画像データに変換しても良い。
【0195】
また、上述した実施形態では「矩形領域」として説明しているが、囲領域(閉じられた領域)であれば良く、円形、楕円形、三角形、台形といった種々の形でもよい。また、利用者が領域の形を設定してもよい。
【0196】
[18.変形例]
本発明は上述した各実施の形態に限定されるものではなく、種々の変更が可能である。すなわち、本発明の要旨を逸脱しない範囲内において適宜変更した技術的手段を組み合わせて得られる実施の形態についても本発明の技術的範囲に含まれる。
【0197】
また、上述した実施形態では、端末装置10から付箋画像データを表示装置20に送信することとして説明したが、送信先の端末は表示装置でなくても良い。例えば、画像形成装置に送信することにより、印刷したり、PDFとして保存したりすることとしても良い。
【0198】
また、当該付箋画像データを、メールで送信することとしてもよいし、SNSに送信する(アップロードする)こととしても良いし、クラウドに保存することとしても良い。また、選択された付箋データを、記録媒体に保存することとしても良い。
【0199】
また、実施形態でも説明したが、画像表示装置として端末装置、表示装置として説明したが、同一の装置で構成することも可能である。また、端末装置と、表示装置とをクラウドを介して接続しても良いことは勿論である。
【0200】
クラウドを利用する場合は、端末装置から付箋画像データをクラウドサーバを介して表示装置に送信することとしても良い。また、端末装置、表示装置の一部の処理をクラウドサーバで処理を実行することとしても良い。
【0201】
また、各機能はプログラムで構成されていても良いし、ハードウェアで構成されても良い。そして、プログラムで実現されている場合は、記録媒体に記録されており、当該記録媒体からプログラムを読み出して実行しても良いし、ネットワークに保存され、ダウンロードして実行しても良い。
【0202】
また、上述した実施形態では、タッチ検出部として操作をタッチパネルとし、タッチ操作(タップ操作)を例に説明したが、例えばマウス等の外部入力装置で、クリック操作等により操作が行われてもよい。
【0203】
また、上述した実施形態では、表示装置は、表示部と、操作入力部とを備えている例を説明したが、本実施形態に開示した発明を実施するためには、他の方式であってもよい事は勿論である。例えば、表示部210としてプロジェクタを利用し、操作入力部220として人感センサを利用してもよい。そして、操作入力部220、表示部210に制御用のコンピュータを接続することにより、表示システムとして実現されてもよい。
【0204】
また、上述した実施形態は、説明の都合上、それぞれ別に説明している部分があるが、技術的に可能な範囲で組み合わせて実行してもよいことは勿論である。例えば、第17実施形態の操作を、他の実施形態と組み合わせて実行してもよい。
【0205】
このように、本明細書に記載した各実施形態は、矛盾の無い範囲で組み合わせて実行することができる。
【0206】
また、上述した実施形態において、領域を選択することで領域を特定することとして説明している。ここで、領域を特定する方法としては、選択以外にも入力や、判定といった種々の方法が含まれるものとする。
【0207】
また、実施形態において各装置で動作するプログラムは、上述した実施形態の機能を実現するように、CPU等を制御するプログラム(コンピュータを機能させるプログラム)である。そして、これら装置で取り扱われる情報は、その処理時に一時的に一時記憶装置(例えば、RAM)に蓄積され、その後、各種ROMやHDD、SSDの記憶装置に格納され、必要に応じてCPUによって読み出し、修正・書き込みが行なわれる。
【0208】
また、市場に流通させる場合には、可搬型の記録媒体にプログラムを格納して流通させたり、インターネット等のネットワークを介して接続されたサーバコンピュータに転送したりすることができる。この場合、サーバコンピュータの記憶装置も本発明に含まれるのは勿論である。