(58)【調査した分野】(Int.Cl.,DB名)
前記表示制御部は、前記ディスプレイの表示領域に入力された曲線に沿って、前記入力受付部によって入力が受け付けられた文字列を表示するための表示情報を生成し、前記曲線に沿って配置された前記文字列を、生成した表示情報に従って前記ディスプレイに表示させる
ことを特徴とする請求項1に記載の端末。
前記入力受付部は、音声認識により音声に対応する文字列の入力を受け付ける音声入力部、および、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付けるキーボード入力部である
ことを特徴とする請求項1に記載の端末。
前記表示制御部は、前記通信相手側の端末における情報の入力の完了が通知された場合に、前記通信相手側の端末から通知された入力モードを非表示にするための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された入力モードを、前記ディスプレイで非表示にする
ことを特徴とする請求項1に記載の端末。
前記表示制御部は、前記通信相手側の端末における操作の完了が通知された場合に、前記通信相手側の端末から通知された操作モードを非表示にするための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された操作モードを、前記ディスプレイで非表示にする
ことを特徴とする請求項3に記載の端末。
【発明を実施するための形態】
【0010】
実施の形態1.
図1は、実施の形態1に係る入力表示システム1の構成を示すブロック図である。
図1に示す入力表示システム1は、端末2間で通信によって互いのディスプレイに情報を表示するシステムである。入力表示システム1において、送信側の端末2が、受信側の端末2へ送信する情報(メッセージなど)を入力する場合に、情報の入力モードを示す情報を、受信側の端末2に送信する。端末2は、例えば、スマートフォン、タブレット端末またはPC(Personal Computer)である。受信側の端末2は、送信側の端末2から受信した入力モードをディスプレイに表示する。
図1において、2台の端末2間で通信する場合を示したが、入力表示システム1は、3台以上の端末2で互いの表示情報を共有してもよい。
【0011】
入力表示システム1において、端末2は、各種の入力モードのうち、一つの入力モードが選択されると、選択された入力モードを通信相手側の端末2に通知し、当該入力モードの情報入力を開始する。端末2は、通信相手側の端末2から入力モードが通知されると、通知された入力モードをディスプレイに表示する。スマートフォン、タブレット端末またはPCといった端末2で利用可能な入力モードとしては、例えば、音声入力モードおよびキーボード入力モードがある。音声入力モードは、音声認識によって音声に対応する文字列を入力するモードである。キーボード入力モードは、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付けるモードである。
【0012】
キーボード入力モードは、キーボードを用いて文字ごとに入力が行われる。一方、音声入力モードは、マイクに発声するだけである。すなわち、音声入力モードは、キーボード入力モードと比較して情報入力に必要な時間が短くて済む。スマートフォン、タブレット端末またはPCを使用する習慣があるユーザは、このような入力モードごとの情報入力に必要な時間の違いを、経験上把握している。そこで、端末2は、通信相手側の端末2から通知された入力モードを取得すると、取得した入力モードをディスプレイに表示するための表示情報を生成し、生成した表示情報に従って、通信相手側の端末から通知された入力モードをディスプレイに表示させる。これにより、ユーザは、例えば通信相手側の端末2で情報入力が完了するまでの時間を大まかに推測することができる。
【0013】
図2は、実施の形態1に係る端末2の構成を示すブロック図である。
図1に示した入力表示システム1が備える端末2は、ともに
図2に示す構成要素を有している。端末2は、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、文字列一時保存部9、ディスプレイ10、操作受付部11、文字管理データベース12(以下、文字管理DB12と記載する。)、文字管理部13、および軌跡判別部14を備える。
【0014】
入力モード選択部3は、端末2で実行可能な複数の種類の入力モードから、入力モードの選択を受け付ける。例えば、入力モード選択部3は、選択操作(1)に基づいて、音声入力モードまたはキーボード入力モードのいずれかの選択を受け付ける。例えば、入力モード選択部3は、ポインティングデバイスを用いた選択操作を受け付け、音声入力部4aおよびキーボード入力部4bのうち、選択を受け付けた入力モードに対応する入力受付部を起動する。ポインティングデバイスとしては、例えば、タッチパネルを想定している。ただし、これは一例であり、ポインティングデバイスには、ジョイスティック、ポインティングスティック、タッチパッド、スタイラス、データグローブ、トラックボール、ペンタブレット、マウス、ライトペンまたはジョイパッドを用いることができる。
【0015】
音声入力部4aは、音声認識により音声に対応する文字列の入力を受け付ける入力受付部である。例えば、音声入力部4aは、ユーザの音声を検出し、検出した音声を音声認識する。音声認識には、音声認識辞書データベース(以下、音声認識辞書DBと記載する。)が用いられる。音声認識辞書DBは、例えば、人間の発声の単位である音素の音響特徴が記述された音響モデルと、音声認識する言葉が記述された認識辞書とが登録されている。音声入力部4aは、入力した音声を認識する音声認識エンジンを有する。
【0016】
音声入力部4aは、入力した音声を分析し、音声の音響特徴を算出して、音声認識辞書DBに登録されている認識辞書に記述された言葉の中から、算出した音響特徴に最も近い音響特徴を有する言葉を探索する。音声入力部4aは、探索した言葉を示す文字列を、音声の認識結果を示す文字列として表示制御部8に出力する。
【0017】
なお、音声入力部4aは、音声認識エンジンおよび音声認識辞書DBの代わりに、データ送受信部を備えてもよい。データ送受信部は、インターネットなどの通信回線を介して図示せぬ音声認識サーバとの間でデータを送受信することが可能な通信機器であり、例えば、通信部6であってもよい。データ送受信部は、音声入力部4aによって検出された音声を示すデータを、音声認識サーバに送信する。音声認識サーバは、音声を認識する音声認識エンジンを備えており、データ送受信部から送信された音声を示すデータを受信すると、受信したデータが示す音声を認識し、音声の認識結果を示す文字列を、データ送受信部に送信する。データ送受信部は、音声認識サーバから受信した音声認識結果を示す文字列を、表示制御部8に出力する。
【0018】
キーボード入力部4bは、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付ける入力受付部である。例えば、ソフトウェアキーボードでは、ディスプレイ10に表示されたキーボードに対して、タッチパネルで文字の入力が受け付けられる。以下の説明では、キーボード入力部4bが、ソフトウェアキーボードを用いるものを想定する。
【0019】
通知部5は、入力モード選択部3によって選択が受け付けられた入力モードを通信相手側の端末2に通知するものである。例えば、通知部5は、通信部6を介して通信接続することにより、通信相手側の端末2に対し入力モードを示す情報を通知する。通信部6は、通信相手側の端末2との間で通信を行う装置である。通信部6が行う通信の形態は、無線通信と有線通信のいずれであってもよい。
【0020】
モード取得部7は、通信相手側の端末2から通知された入力モードを取得するものである。例えば、モード取得部7は、通信部6を介して通信接続することにより、通信相手側の端末2から入力モードを示す情報を受信する。モード取得部7によって取得される入力モードは、通信相手側の端末2が備える入力モード選択部3により選択が受け付けられた入力モードである。
【0021】
表示制御部8は、音声入力部4aおよびキーボード入力部4bによって入力が受け付けられた情報(例えば、文字列)をディスプレイ10の表示領域に表示するための表示情報を生成する。文字列一時保存部9は、音声入力部4aまたはキーボード入力部4bにより入力が受け付けられた文字列を示すデータを、一時的に保存する。例えば、文字列を示すデータは、軌跡判別部14から曲線情報が出力されるまで文字列一時保存部9に保存される。ディスプレイ10は、表示制御部8によって生成された表示情報に従って情報を表示する。
【0022】
操作受付部11は、ユーザの操作として線をなぞる操作(2)を受け付けて、受け付けた操作の内容を軌跡判別部14に出力する。例えば、操作受付部11は、ポインティングデバイスを用いた操作(2)を受け付ける。文字管理DB12は、文字種、文字サイズ、文字高および文字幅の対応関係を示す文字属性表情報が登録されたデータベースである。
【0023】
文字管理部13には、ディスプレイ10に表示する文字の文字サイズが事前に設定されている。文字管理部13は、文字管理DB12に登録された文字属性表情報を参照して、事前に設定された文字サイズに対応する文字高を示す文字属性情報を、軌跡判別部14に出力し、事前に設定された文字サイズに対応する文字高および文字幅を示す文字属性情報を、表示制御部8に出力する。
【0024】
軌跡判別部14は、操作受付部11によって受け付けられた操作によってディスプレイ10の表示領域上に入力された線の軌跡を判別する。例えば、軌跡判別部14は、ユーザの操作によって入力された線を構成する点群の時系列データを、ポインティングデバイスから取得する。軌跡判別部14は、ポインティングデバイスから取得した点群の時系列データに基づいて、ユーザの操作によって入力された線の軌跡を表す曲線の長さおよび形状を示す曲線情報を生成し、生成した曲線情報を表示制御部8に出力する。曲線には、直線または折れ曲がった線も含まれる。すなわち、軌跡判別部14によって判別される曲線には、ディスプレイ10の表示領域上の点群の時系列データを用いて算出可能な様々な形状の線が含まれる。
【0025】
図3は、実施の形態1に係る入力表示方法を示すフローチャートである。
入力モード選択部3は、入力モードの選択を受け付ける(ステップST1)。続いて、通知部5は、通信部6を介して通信接続している通信相手側の端末2に対し、入力モード選択部3によって選択が受け付けられた入力モードを通知する(ステップST2)。音声入力モードの選択が受け付けられると、音声入力部4aが、音声入力モードによる情報の入力を受け付ける(ステップST3)。キーボード入力モードの選択が受け付けられた場合には、キーボード入力部4bが、キーボード入力モードによる情報の入力を受け付ける(ステップST3)。
【0026】
音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部は、情報の入力が完了していなければ(ステップST4;NO)、情報の入力を継続する。情報の入力が完了すると(ステップST4;YES)、選択が受け付けられた入力モードに対応する入力受付部は、情報の入力の完了を示す情報を、入力モード選択部3に出力する。入力モード選択部3は、情報の入力の完了を示す情報を通知部5に出力する。通知部5は、通信部6を介して通信接続することにより、情報の入力の完了を示す情報を、通信相手側の端末2に通知する(ステップST5)。
【0027】
続いて、表示制御部8は、音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部によって入力が受け付けられた情報を、ディスプレイ10に表示するための表示情報を生成する(ステップST6)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部によって入力が受け付けられた情報を表示する(ステップST7)。
【0028】
モード取得部7は、通信相手側の端末2から通知された入力モードを取得したか否かを確認する(ステップST8)。例えば、モード取得部7は、通信部6を介して通信接続することにより、入力モードを示す情報を、通信相手側の端末2から受信する。モード取得部7によって取得された入力モードを示す情報は、表示制御部8に出力される。
【0029】
表示制御部8は、取得した入力モードをディスプレイ10に表示させるための表示情報を生成する(ステップST9)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2から通知された入力モードを表示する(ステップST10)。ユーザは、ディスプレイ10に表示された入力モードを視認することで、通信相手側の端末2がどの入力モードで情報を入力しているのかを把握でき、把握した入力モードによる情報の入力時間を大まかに推測できる。
【0030】
モード取得部7は、通信相手側の端末2において情報の入力が完了したか否かを確認する(ステップST11)。例えば、モード取得部7は、通信部6が通信相手側の端末2から情報の入力の完了を示す情報が受信すると(ステップST11;YES)、通信相手側の端末2において情報の入力が完了したことを表示制御部8に通知する。また、通信部6が通信相手側の端末2から情報の入力の完了を示す情報を受信しなければ(ステップST11;NO)、モード取得部7は、上記確認処理を繰り返す。
【0031】
表示制御部8は、通信相手側の端末2において情報の入力が完了した場合、通信相手側の端末2から通知された入力モードを非表示にさせる表示情報を生成して、ディスプレイ10に出力する。ディスプレイ10は、表示制御部8によって生成された上記表示情報に従って、通信相手側の端末2から通知された入力モードの表示を画面から消去(非表示)する(ステップST12)。
【0032】
図4は、音声入力を行う送信側の端末2の画面10Aと受信側の端末2の画面10Bとを示す説明図である。入力モード選択部3は、ディスプレイ10とタッチパネルを用いたユーザインタフェースとして実現される。
図4に示す例では、表示制御部8が、音声入力モードに対応するボタン画像3aとキーボード入力モードに対応するボタン画像3bとを表示させるための表示情報を生成する。ディスプレイ10は、表示制御部8によって生成された表示情報に従ってボタン画像3aおよびボタン画像3bを表示する。
【0033】
ユーザが、タッチパネルを用いてボタン画像3aまたはボタン画像3bを押下する操作を行うと、タッチパネルによって検出された操作情報は、入力モード選択部3に出力される。入力モード選択部3は、当該操作情報に基づいて、入力モードの選択を受け付ける。
図4においてはボタン画像3aが押下されているので、入力モード選択部3は、音声入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられた入力モード(音声入力モード)を受信側の端末2に通知する。受信側の端末2は、送信側の端末2から通知された音声入力モードを示す情報を、画面10Bに表示する。例えば、画面10Bには、「音声入力中です」といったテキスト情報が表示される。
【0034】
送信側の端末2において、音声入力部4aは、ユーザによる「ABCD」という発声を音声認識し、音声認識結果である文字列Mを表示制御部8に出力する。これにより、音声入力が完了したので、通知部5は、通信部6を介して、受信側の端末2に音声入力の完了を通知する。続いて、表示制御部8は、軌跡判別部24から取得した曲線情報と音声入力部4aから取得した文字列Mとを用いて、曲線情報が示す曲線Cに沿って文字列Mを配置した表示情報を生成する。表示制御部8によって生成された表示情報は、ディスプレイ10に出力され、さらに通信部6を介して受信側の端末2に送信される。
【0035】
ディスプレイ10は、
図4に示すように、表示制御部8によって生成された表示情報に従って、画面10Aに文字列Mを表示する。受信側の端末2は、送信側の端末2から音声入力の完了が通知されると、画面10Bから入力モードの表示を消去する。この後、受信側の端末2は、送信側の端末2から受信した表示情報に従って、画面10Bに文字列Mを表示する。
【0036】
図5は、キーボード入力を行う送信側の端末2の画面10Aと受信側の端末2の画面10Bとを示す説明図である。送信側の端末2において、
図4に示すボタン画像3bが押下されると、入力モード選択部3は、キーボード入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられたキーボード入力モードを、受信側の端末2に通知する。受信側の端末2は、送信側の端末2から通知された入力モード(キーボード入力モード)を示す情報を、画面10Bに表示する。例えば、画面10Bには、「キーボード入力中です」といったテキスト情報が表示される。
【0037】
送信側の端末2において、キーボード入力部4bは、ソフトウェアのキーボード15を用いた文字入力を受け付け、入力を受け付けた「ABCD」の文字列Mを表示制御部8に出力する。続いて、通知部5は、通信部6を介して、キーボード入力の完了を受信側の端末2に通知する。表示制御部8は、軌跡判別部24から取得した曲線情報と、キーボード入力部4bから取得した文字列Mとを用いて、曲線情報が示す曲線Cに沿って文字列Mを配置した表示情報を生成する。表示制御部8によって生成された表示情報は、ディスプレイ10に出力され、さらに通信部6を介して受信側の端末2に送信される。
【0038】
ディスプレイ10は、
図5に示すように、表示制御部8によって生成された表示情報に従って、画面10Aに文字列Mを表示する。受信側の端末2は、送信側の端末2からキーボード入力の完了が通知されると、画面10Bから入力モードの表示(「キーボード入力中です」)を消去(非表示)する。この後、受信側の端末2は、送信側の端末2から受信した表示情報に従って、画面10Bに文字列Mを表示する。
【0039】
図6は、キーボード入力を行う端末2の画面10Aと音声入力を行う端末2の画面10Bとを示す説明図である。画面10Aを有する端末2において、入力モード選択部3は、キーボード入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられたキーボード入力モードを示す情報を、画面10Bを有する端末2に通知する。当該端末2は、通知された入力モード(キーボード入力モード)を示す情報を画面10Bに表示する。
【0040】
画面10Bを有する端末2において、入力モード選択部3は、音声入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられた音声入力モードを、画面10Aを有する端末2に通知する。当該端末2は、通知された入力モード(音声入力モード)を示す情報を、画面10Aに表示する。これにより、各端末2のユーザは、通信相手側の入力モードから大まかな入力時間を推測できる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
【0041】
図7は、端末2の機能を実現するハードウェア構成を示すブロック図である。
図7において、処理回路107は、入力インタフェース100を介して入力モード選択部3および操作受付部11へのデータを取得する。処理回路107は、出力インタフェース101を介してディスプレイ102に表示情報を出力する。ディスプレイ102は、
図2に示したディスプレイ10である。処理回路107は、通信装置104が通信相手側の端末2との間で送受信するデータを、通信インタフェース103を介して入出力する。通信装置104は、
図2に示した通信部6である。処理回路107は、入出力インタフェース105を介して記憶装置106との間でデータを入出力する。記憶装置106は、
図2に示した文字管理DB12を記憶する。
【0042】
図8は、端末2の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。
図8において、プロセッサ108は、入力インタフェース100を介して入力モード選択部3および操作受付部11へのデータを取得する。プロセッサ108は、出力インタフェース101を介してディスプレイ102に表示情報を出力する。ディスプレイ102は、
図2に示したディスプレイ10である。プロセッサ108は、通信装置104が通信相手側の端末2との間で送受信するデータを、通信インタフェース103を介して入出力する。通信装置104は、
図2に示した通信部6である。プロセッサ108は、入出力インタフェース105を介して記憶装置106との間でデータを入出力する。記憶装置106は、
図2に示した文字管理DB12を記憶する。
【0043】
入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、処理回路によって実現される。すなわち、端末2は、
図3に示したステップST1からステップST12までの各処理を実行する処理回路を備える。処理回路は、専用のハードウェアであってもよいし、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
【0044】
処理回路が
図7に示す専用のハードウェアの処理回路107である場合、処理回路107は、例えば、単一回路、複合回路、プログラム化されたプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、またはこれらを組み合わせたものが該当する。
端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、別々の処理回路で実現されてもよいし、これらの機能がまとめて1つの処理回路で実現されてもよい。
【0045】
処理回路が
図8に示すプロセッサ108である場合、端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、ソフトウェア、ファームウェアまたはソフトウェアとファームウェアの組み合わせによって実現される。なお、ソフトウェアまたはファームウェアは、プログラムとして記述されてメモリ109に記憶される。
【0046】
プロセッサ108は、メモリ109に記憶されたプログラムを読み出して実行することにより、端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能を実現する。
例えば、端末2は、プロセッサ108によって実行されるとき、
図3に示したフローチャートにおけるステップST1からステップST12の処理が結果的に実行されるプログラムを記憶するためのメモリ109を備える。
これらのプログラムは、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の手順または方法を、コンピュータに実行させる。
また、メモリ109は、コンピュータを、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14として機能させるためのプログラムが記憶されたコンピュータ可読記憶媒体であってもよい。
【0047】
メモリ109は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically−EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDなどが該当する。
【0048】
端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能の一部は、専用ハードウェアによって実現され、残りの一部は、ソフトウェアまたはファームウェアによって実現されてもよい。
例えば、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7および表示制御部8は、専用のハードウェアである処理回路107によって機能が実現され、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14は、プロセッサ108がメモリ109に記憶されたプログラムを読み出し実行することにより機能が実現される。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって上記機能を実現することができる。
【0049】
以上のように、実施の形態1に係る端末2において、表示制御部8が、通信相手側の端末2から通知された入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って、通信相手側の端末2から通知された入力モードをディスプレイ10に表示させる。ユーザは、複数の種類の入力モードのそれぞれについての大まかな入力時間を経験上把握している。このため、端末2が、通信相手側の端末2から通知された入力モードをディスプレイ10に表示することにより、ユーザは、例えば、通信相手側の端末2における情報の入力時間を推測できる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
【0050】
実施の形態1に係る端末2において、表示制御部8は、ディスプレイ10の表示領域に入力された曲線に沿って、入力が受け付けられた文字列を表示するための表示情報を生成する。ディスプレイ10が、上記表示情報に従って、曲線に沿って配置された文字列を、画面上に表示する。これにより、ディスプレイ10の画面上でなぞり画いた曲線に沿って配置された文字列を表示することができる。
【0051】
実施の形態2.
図9は、実施の形態2に係る端末2Aの構成を示すブロック図である。
図9において、
図2と同一の構成要素には、同一の符号を付して説明を省略する。
図1に示した入力表示システム1が備える端末2は、ともに
図9に示す構成要素を有した端末2Aであるものとする。端末2Aは、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、文字列一時保存部9、ディスプレイ10、操作受付部11、文字管理DB12、文字管理部13、軌跡判別部14、操作モード選択部17、図形描画部18a、画像選択部18b、撮影処理部18c、および各種処理部18dを備える。
【0052】
操作モード選択部17は、端末2Aで実行可能な複数の種類の操作モードから操作モードの選択を受け付ける。例えば、操作モード選択部17は、選択操作(3)に基づいて、図形描画モード、画像選択モード、撮影モードおよび各種処理モードのいずれかの選択を受け付ける。例えば、操作モード選択部17は、ポインティングデバイスを用いた選択操作を受け付け、図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dのうち、選択を受け付けた操作モードに対応する機能実行部を起動する。
【0053】
機能実行部は、操作モード選択部17によって選択が受け付けられた操作モードに対応する機能を実行する。端末2Aが備える機能実行部としては、例えば、図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dがある。図形描画部18aは、図形描画モードに対応した機能実行部であり、タッチパネルを用いた線のなぞり描き操作を受け付ける。例えば、図形描画部18aは、端末2Aが備えるプロセッサが、お絵描きアプリケーションプログラムを実行することにより実現される。
【0054】
画像選択部18bは、画像選択モードに対応した機能実行部であり、メモリに記憶された複数の画像情報から、タッチパネルを用いた画像情報の選択を受け付ける。例えば、画像選択部18bは、メモリに記憶された複数の画像情報からディスプレイ10の画面上に選択候補を表示させ、選択候補の中からタッチパネルを用いた画像情報の選択を受け付ける。メモリは、端末2Aが備えてもよいし、端末2Aとの間で通信接続が可能な外部記憶装置であってもよい。
【0055】
撮影処理部18cは、撮影モードに対応した機能実行部であり、端末2Aが備えるカメラで撮影を行う。例えば、撮影処理部18cは、タッチパネルを用いた操作入力を受け付けて、端末2Aが備えるカメラを制御することにより被写体を撮影する。撮影画像は、ディスプレイ10に表示させることができ、通信部6を用いて通信相手側の端末2Aに送信することもできる。撮影処理部18cは、静止画像の撮影と動画像の撮影が可能である。
【0056】
各種処理部18dは、各種処理モードに対応した機能実行部であり、各種処理を行う。各種処理は、図形描画モード、画像選択モードおよび撮影モード以外の処理であり、例えば、音声入力またはキーボード入力された文字列を指定言語に翻訳する処理である。各種処理部18dは、タッチパネルを用いた言語指定操作および翻訳開始操作を受け付けて、文字列の翻訳を実行する。翻訳結果は、ディスプレイ10に表示させることができ、通信部6を用いて通信相手側の端末2Aに送信することもできる。
【0057】
図10は、実施の形態2に係る入力表示方法を示すフローチャートである。
操作モード選択部17は、操作モードの選択を受け付ける(ステップST1a)。続いて、通知部5は、通信部6を介して通信接続している通信相手側の端末2Aに対し、操作モード選択部17によって選択が受け付けられた操作モードを通知する(ステップST2a)。例えば、図形描画モードの選択が受け付けられた場合、図形描画部18aが、図形描画を行う(ステップST3a)。画像選択モードの選択が受け付けられた場合、画像選択部18bが画像選択を行う(ステップST3a)。撮影モードの選択が受け付けられた場合は、撮影処理部18cがカメラ撮影を行う(ステップST3a)。各種処理モードの選択が受け付けられた場合、各種処理部18dが各種処理を行う(ステップST3a)。
【0058】
図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dのうち、操作モードの選択が受け付けられた機能実行部は、機能の実行が完了していなければ(ステップST4a;NO)、機能の実行を継続する。機能の実行が完了した場合(ステップST4a;YES)、操作モードの選択が受け付けられた機能実行部は、機能の実行の完了を示す情報を操作モード選択部17に出力する。操作モード選択部17は、機能の実行の完了を示す情報を通知部5に出力する。通知部5は、通信部6を介して通信接続することにより、機能の実行の完了を示す情報を通信相手側の端末2Aに通知する(ステップST5a)。
【0059】
モード取得部7は、通信相手側の端末2Aで選択された操作モードを取得したか否かを確認する(ステップST6a)。例えば、モード取得部7は、通信部6を介して通信接続することにより、操作モードを示す情報を通信相手側の端末2Aから受信する。モード取得部7によって取得された操作モードを示す情報は、表示制御部8に出力される。
【0060】
表示制御部8は、取得した操作モードをディスプレイ10に表示するための表示情報を生成する(ステップST7a)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2Aから通知された操作モードを示す情報を表示する(ステップST8a)。ユーザは、ディスプレイ10に表示された操作モードを視認することによって、通信相手側の端末2Aにおいてどの操作モードの機能が実行されているのかを認識できる。
【0061】
例えば、図形描画モードで描画された描画情報、画像選択モードで選択された画像情報および撮影モードで撮影された撮影画像情報は、通信相手へのメッセージに含めることにより、通信部6を用いて通信相手側の端末2Aに送信することができる。図形描画モードでは、タッチパネルを用いて線を描くことにより描画情報が生成される。一方、画像選択モードでは、選択候補から選択するだけで画像情報が得られ、撮影モードは、カメラで撮影するだけで撮影画像情報が得られる。すなわち、画像選択モードおよび撮影モードは、図形描画モードと比較して短時間で送信情報が得られる。スマートフォン、タブレット端末またはPCを使用する習慣があるユーザは、前述したような操作モードごとの情報取得に必要な時間の違いを経験上把握している。そこで、端末2Aは、通信相手側の端末2Aから通知された操作モードをディスプレイ10に表示させる。これにより、ユーザは、通信相手側の端末2Aにおける操作の完了時間を大まかに推測できる。
【0062】
モード取得部7は、通信相手側の端末2Aで機能の実行が完了したか否かを確認する(ステップST9a)。例えば、モード取得部7は、通信部6によって通信相手側の端末2Aから機能の実行の完了を示す情報が受信されると(ステップST9a;YES)、通信相手側の端末2Aで機能の実行が完了したことを表示制御部8に通知する。また、通信部6によって通信相手側の端末2Aから機能の実行の完了を示す情報が受信されなければ(ステップST9a;NO)、モード取得部7は、上記確認処理を繰り返す。
【0063】
表示制御部8は、通信相手側の端末2Aで機能の実行が完了した場合、通信相手側の端末2Aから通知された操作モードを非表示にする表示情報を生成し、ディスプレイ10に出力する。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2Aから通知された操作モードの表示を画面から消去(非表示)する(ステップST10a)。
【0064】
なお、端末2Aが備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、操作受付部11、文字管理部13、軌跡判別部14、操作モード選択部17、図形描画部18a、画像選択部18b、撮影処理部18c、および各種処理部18dの機能は、処理回路により実現される。すなわち、端末2Aは、
図10に示したステップST1aからステップST10aまでの処理を実行するための処理回路を備えている。処理回路は、
図7に示した専用のハードウェアの処理回路107であってもよいし、
図8に示したメモリ109に記憶されたプログラムを実行するプロセッサ108であってもよい。
【0065】
図11は、図形の描画を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17は、ディスプレイ10とタッチパネルとを用いたユーザインタフェースとして実現される。例えば、表示制御部8が、操作モードごとに対応するボタン画像を表示させるための表示情報を生成する。ディスプレイ10は、表示制御部8によって生成された表示情報に従ってボタン画像を表示する。タッチパネルが、ボタン画像を押下する操作を検出すると、検出した操作情報を操作モード選択部17に出力する。操作モード選択部17は、当該操作情報に基づいて操作モードの選択を受け付ける。
【0066】
操作モード選択部17が図形描画モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた図形描画モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(図形描画モード)を画面10Bに表示する。例えば、画面10Bには「お絵描き入力中です」といったテキスト情報が表示される。送信側の端末2Aで描画された描画情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することによって、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
【0067】
図12は、画像選択操作を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17が画像選択モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた画像選択モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(画像選択モード)を画面10Bに表示する。例えば、画面10Bには、「画像選択中です」といったテキスト情報が表示される。送信側の端末2Aにおいて選択された画像情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することによって、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
【0068】
図13は、カメラ撮影を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17が撮影モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた撮影モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(撮影モード)を画面10Bに表示する。例えば、画面10Bには、「カメラ撮影中です」といったテキスト情報が表示される。送信側の端末2Aで選択された撮影画像情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することにより、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
【0069】
図14は、ツール選択と選択したツールを用いた図形の描画を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。図形描画操作には、描く線の太さ、線種および表示効果などの選択を受け付けるツール選択操作が含まれる。操作モード選択部17が図形描画モードの選択を受け付け、さらにツール選択操作モードの選択が受け付けられると、通知部5は、通信部6を介して、選択が受け付けられた操作モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(ツール選択操作モード)を画面10Bに表示する。例えば、
図14の上段に示すように、画面10Bには、「ツール選択中です」といったテキスト情報が表示される。
【0070】
ツール選択操作は、例えば、画面10Aに表示されたツールボックス20を、タッチパネルを用いて操作することにより実行される。ツールボックス20は、描く線の太さ、線種および表示効果などが選択候補として表示される。ツール選択操作が完了して図形描画が開始されると、通知部5は、通信部6を介して、図形描画モードを受信側の端末2Aに通知する。受信側の端末2Aは、「ツール選択中です」といったテキスト情報を非表示とし、送信側の端末2Aから通知された図形描画モードを画面10Bに表示する。例えば、
図14の中段に示すように、画面10Bには、「お絵描き入力中です」といったテキスト情報が表示される。
【0071】
図14の下段に示すように、送信側の端末2Aの画面10Aで図形描画が完了すると、通知部5は、通信部6を介して図形描画が完了したことを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aで図形描画が完了したことが通知されると、画面10Bから、「お絵描き入力中です」というテキスト情報を非表示とする。これにより、受信側の端末2Aのユーザは、送信側の端末2Aでのメッセージの編集または作成が完了したことを推測できる。
【0072】
また、表示制御部8は、通信相手側の端末2Aにおける情報の入力の完了が通知される前に、通信相手側の端末2Aから従前と異なる入力モードが通知された場合、または、通信相手側の端末2Aにおける操作の完了が通知される前に、通信相手側の端末2Aから入力モードが通知された場合に、新たに通知された入力モードを、ディスプレイ10の表示領域に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された入力モードをディスプレイ10に表示させる。これにより、端末2Aにおける入力モードの変化が逐次通知されるので、ユーザは、ディスプレイ10における入力モードの表示の変化によってメッセージ入力の待ち時間を推測することができる。
【0073】
さらに、表示制御部8は、通信相手側の端末2Aにおける操作の完了が通知される前に、通信相手側の端末2Aから従前と異なる操作モードが通知された場合、または、通信相手側の端末2Aにおける情報の入力の完了が通知される前に、通信相手側の端末2Aから操作モードが通知された場合に、新たに通知された操作モードをディスプレイ10に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された操作モードをディスプレイ10に表示させる。これにより、端末2Aにおける操作モードの変化が逐次通知されるので、ユーザは、ディスプレイ10における操作モードの表示の変化によって操作完了までの待ち時間を推測することができる。
【0074】
以上のように、実施の形態2に係る端末2Aにおいて、表示制御部8が、通信相手側の端末2Aから通知された操作モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って、ディスプレイ10が通信相手側の端末2Aから通知された操作モードを表示する。ユーザは、複数の種類の操作モードのそれぞれについての大まかな実行時間を経験上把握している。このため、端末2Aが、通信相手側の端末2Aから通知された操作モードをディスプレイ10に表示することにより、ユーザは、通信相手側の端末2Aにおける操作の完了時間を推測することができる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
【0075】
なお、各実施の形態の組み合わせまたは実施の形態のそれぞれの任意の構成要素の変形もしくは実施の形態のそれぞれにおいて任意の構成要素の省略が可能である。
端末(2)は、複数の種類の入力モードから入力モードの選択を受け付ける入力モード選択部(3)と、入力モードを通信相手側の端末(2)に通知する通知部(5)と、入力モード選択部(3)によって選択が受け付けられた入力モードによる情報の入力を受け付ける入力受付部(4a,4b)と、通信相手側の端末(2)から通知された入力モードを取得するモード取得部(7)と、入力受付部(4a,4b)によって入力が受け付けられた情報をディスプレイ(10)の表示領域に表示するための表示情報を生成する表示制御部(8)とを備え、表示制御部(8)は、モード取得部(7)によって通信相手側の端末(2)から通知された入力モードが取得されると、取得した入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って通信相手側の端末(2)から通知された入力モードをディスプレイ(10)に表示させる。