(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-11
(45)【発行日】2024-03-19
(54)【発明の名称】操作方法
(51)【国際特許分類】
G06F 3/041 20060101AFI20240312BHJP
G06F 3/0346 20130101ALI20240312BHJP
G06F 3/044 20060101ALI20240312BHJP
G06F 3/042 20060101ALI20240312BHJP
G06F 3/0488 20220101ALI20240312BHJP
【FI】
G06F3/041 595
G06F3/041 580
G06F3/0346 421
G06F3/041 620
G06F3/044 120
G06F3/042 460
G06F3/0488
(21)【出願番号】P 2023073602
(22)【出願日】2023-04-27
(62)【分割の表示】P 2021085145の分割
【原出願日】2015-10-14
【審査請求日】2023-04-27
(73)【特許権者】
【識別番号】000005810
【氏名又は名称】マクセル株式会社
(74)【代理人】
【識別番号】110001689
【氏名又は名称】青稜弁理士法人
(72)【発明者】
【氏名】鈴木 基之
(72)【発明者】
【氏名】橋本 康宣
(72)【発明者】
【氏名】益岡 信夫
(72)【発明者】
【氏名】清水 宏
(72)【発明者】
【氏名】吉澤 和彦
(72)【発明者】
【氏名】渡辺 光信
【審査官】井上 香緒梨
(56)【参考文献】
【文献】特開2004-341892(JP,A)
【文献】特開2013-073530(JP,A)
【文献】特開2013-045217(JP,A)
【文献】特開2014-106765(JP,A)
【文献】特開2012-033104(JP,A)
【文献】特開2014-182657(JP,A)
【文献】特開2004-303000(JP,A)
【文献】米国特許第08624836(US,B1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F3/01
G06F3/03-3/04895
(57)【特許請求の範囲】
【請求項1】
位置入力対象物を介してユーザの操作を入力可能な端末装置であって、
前記位置入力対象物の3次元位置を非接触で検出する位置検出部と、
操作対象を表示する表示部と、
前記位置検出部で検出した3次元位置に基づいて対応する操作処理を実行させる操作処理制御部を備え、
前記操作処理制御部は、
前記位置入力対象物が所定時間以上継続して前記表示部に表示される前記操作対象に対応する3次元位置にあると前記位置検出部により検出されると、前記操作対象に対して操作処理を行わない第1動作モードから前記操作対象に対して操作処理を行う第2動作モードに切り替えるように制御し、
更に、前記表示部に対する前記位置入力対象物の3次元位置のうち前記表示部に対する垂直方向の位置を複数のレイヤーに分割し、前記位置検出部で検出した前記位置入力対象物の垂直方向の位置が前記複数のレイヤーのどのレイヤーの範囲内にあるかに応じて前記表示部の表示内容を変更するように制御し、
前記複数のレイヤーの境界にさらに遷移領域を設定し、前記位置入力対象物の位置が前記遷移領域内に移動したときは、前記表示部には直前に表示していた操作用の画面を継続して表示しつつ、前記位置入力対象物の位置が前記遷移領域内であることを通知するように制御することを特徴とする端末装置。
【請求項2】
請求項1記載の端末装置であって、
前記
操作処理制御部は、前記第2動作モードにおいて前記位置入力対象物の前記表示部に対する垂直方向の位置が所定の第1範囲内にある場合、前記操作対象の表示を変更するように前記表示部を制御することを特徴とする端末装置。
【請求項3】
請求項1記載の端末装置であって、
前記
操作処理制御部は、前記表示部に対する前記垂直方向の位置を複数のレイヤーに分割し、前記位置検出部で検出した前記位置入力対象物の垂直方向の位置が前記複数のレイヤーのどのレイヤーの範囲内にあるかに応じて前記表示部の表示内容を変更するように制御することを特徴とする端末装置。
【請求項4】
請求項3に記載の端末装置であって、
前記操作処理制御部は、前記複数のレイヤーの境界にさらに遷移領域を設定し、前記位置入力対象物の位置が前記遷移領域内に移動したときは、前記表示部には直前に表示していた操作用の画面を継続して表示するとともに、画面の背景を変えることを特徴とする端末装置。
【請求項5】
請求項1乃至4のいずれかに記載の端末装置であって、
前記位置検出部は、発光素子及び受光素子を含んで構成されたものであることを特徴とする端末装置。
【請求項6】
請求項1乃至4のいずれかに記載の端末装置であって、
前記位置検出部は、超音波を用いたセンサを含んで構成されたものであることを特徴とする端末装置。
【請求項7】
請求項1乃至4のいずれかに記載の端末装置であって、
前記位置検出部は、カメラを含んで構成されたものであることを特徴とする端末装置。
【請求項8】
請求項1記載の端末装置であって、
更に、タッチ操作を検出するタッチパネルを備え、
前記タッチパネルへのタッチ操作に基づいて対応する操作処理を実行させる第1操作入力モードと、前記位置検出部で検出した3次元位置に基づいて対応する操作処理を実行させる第2操作入力モードと、を備えることを特徴とする端末装置。
【請求項9】
請求項8記載の端末装置であって、
更に、前記第1操作入力モードから前記第2操作入力モードへ切替可能な操作入力部を備えることを特徴とする端末装置。
【請求項10】
請求項8記載の端末装置であって、
前記位置入力対象物による所定の操作を検知すると、前記第1操作入力モード又は前記第2操作入力モードに切り替えることを特徴とする端末装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、手首等に装着して使用する小型の入力端末装置および操作入力方法に関する。
【背景技術】
【0002】
近年、通話だけでなく種々の情報の検索やメールの送受信、予定の管理などの処理を行うスマートフォンのような携帯情報端末が急速に普及している。しかし、これらの携帯情報端末は移動の際に鞄やポケットに収納されることが多く、受信したメールの確認等を行うためには、一々鞄やポケットから携帯情報端末を取り出す必要がある。このため、これらの携帯情報端末と無線通信により接続した腕時計のようなより小型の入力用の端末装置が開発されている。
【0003】
スマートフォンのような携帯情報端末ではタッチパネルにより情報の表示および指による入力を行なえるが、小型の入力端末装置では、タッチパネルも小さくなるため、指のタッチにより細かな操作入力を行うのが困難になる。そのため、ユーザの手の甲を入力面として用いる非接触の入力方式が提案されている。
【0004】
例えば、特許文献1に記載のリストバンド型入力デバイスでは、本体部に発光部と受光部を設けて、手の甲や手のひら上の指先の位置を非接触で検知することにより、文字を入力可能にする構成となっている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
従来のタッチパネル等を用いた文字入力方法では、ユーザの指がパネル面に接触しているときは指の動きに従って文字の描画を行い、ユーザの指がパネル面から離れているときは描画を行わないように、入力の有効期間と無効期間を区別して入力できる。これにより、線分や点などの複数の「画」から構成される文字を入力する場合、有効な「画」の部分と、「画」と「画」との間を移動する無効な部分とを区別することで、所望の文字を正しく入力できる。
【0007】
一方、特許文献1等の非接触入力方法では、指先が通過した手の甲上の複数の格子ポイントを検出し、そのドットマトリクス情報から入力した文字を認識している。しかしながら、指先の通過位置に関し、文字を構成する「画」に対する有効な部分と、「画」と「画」との間を移動する無効な部分とを区別していない。すなわち、「画」とは関係ない無効な部分まで文字の一部として検出することで、入力した文字が誤って認識され易いという課題がある。言い換えれば、文字描画の開始点と終了点が不明確であるということである。この無効部分を予め予想して除外するとしても、入力時に書き順が異なっている場合や、濁点を含む文字や画数が多い文字を入力する場合には、無効部分の軌跡が一定しないことから、誤入力は避けられないと思われる。
【0008】
本発明の目的は、指の位置を非接触で検出して入力操作を行う場合、指の動きの無効な動作には反応せず、意図した入力操作に応じて正しく処理を実行する入力端末装置を提供することである。
【課題を解決するための手段】
【0009】
本発明は、位置入力対象物を介してユーザの操作を入力する入力端末装置において、前記ユーザが操作する前記位置入力対象物の位置を非接触で検出する位置検出部と、前記位置検出部で検出した位置に基づいてカーソルを表示する表示部と、前記位置検出部で検出した位置に基づいて対応する操作処理を実行させる操作処理制御部を備え、前記操作処理制御部は、前記操作処理の実行に関する複数の動作モードを有し、該動作モードの1つには、前記位置入力対象物の位置に応じた前記カーソルの移動以外のいずれの操作処理も実行しない状態を含み、前記操作処理制御部は、前記ユーザが前記位置入力対象物を介して特定の操作を行った場合、前記複数の動作モードを切り替える。
【0010】
また本発明は、位置入力対象物を介してユーザの操作を入力する操作入力方法において、前記ユーザが操作する前記位置入力対象物の位置を非接触で検出する位置検出ステップと、前記位置検出ステップで検出した位置に基づいてカーソルを表示部に表示する表示ステップと、前記位置検出ステップで検出した位置に基づいて対応する操作処理を実行する操作処理ステップを備え、前記操作処理ステップは、前記操作処理の実行に関する複数の動作モードを有し、該動作モードの1つには、前記位置入力対象物の位置に応じた前記カーソルの移動以外のいずれの操作処理も実行しない状態を含み、前記操作処理ステップは、前記ユーザが前記位置入力対象物を介して特定の操作を行った場合、前記複数の動作モードを切り替える。
【発明の効果】
【0011】
本発明によれば、指の位置を非接触で検出して入力操作を行う場合、指の動きの無効な動作には反応せず、意図した入力操作に応じて正しく処理を実行する入力端末装置を提供できる。
【図面の簡単な説明】
【0012】
【
図1A】入力端末装置の構成を示すブロック図(実施例1)。
【
図1B】入力端末装置のソフトウェア構成の一例を示す図。
【
図4】手書き文字入力処理における表示部の表示例を示す図。
【
図5】入力端末装置全体の動作切り替えを示すフローチャート。
【
図6】動作モードとそれに対応するカーソル表示の例を示す図。
【
図7】手書き文字入力処理における画面表示の例を示す図。
【
図8】
図7における動作モードと描画位置の時間変化を示す図。
【
図9】指操作モードによる手書き文字入力処理を示すフローチャート。
【
図10】
図9における動作モードの判定処理S605を示すフローチャート。
【
図11】キー文字入力処理のための表示部の構成を示す図(実施例2)。
【
図12】指操作モードによるキー文字入力処理の例を示す図。
【
図13】指操作モードによるキー文字入力処理を示すフローチャート。
【
図14】
図13における動作モードの判定処理S1105を示すフローチャート。
【
図15】マウス操作入力処理で使用する動作モードとカーソル表示の例を示す図(実施例3)。
【
図16】マウス操作入力処理における画面表示の例を示す図。
【
図17】指操作モードによるマウス操作入力処理を示すフローチャート。
【
図18】
図17における動作モードの判定処理S1504を示すフローチャート。
【
図19】3D指操作モードの検出原理を示す図(実施例4)。
【
図20】3D指操作モードにおける画面表示の例を示す図。
【
図21】3D指操作モードによるマウス操作入力処理を示すフローチャート。
【
図22】キー文字入力処理における画面表示の例を示す図。
【
図23】レイヤー間に遷移領域を設けた場合の画面表示の例を示す図(実施例5)。
【
図24】レイヤー間に遷移領域を設けた場合のマウス操作入力処理を示すフローチャート。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態を、図面を用いて説明する。
【実施例1】
【0014】
実施例1では、入力端末装置の構成と、指位置を検出して手書き文字を入力する場合について説明する。
【0015】
図1Aは、実施例1に係る入力端末装置1の構成を示すブロック図であり、その内部構成(ハードウェア構成)を説明する。入力端末装置1はスマートフォン等の携帯情報端末2と接続して使用する。本実施例の入力端末装置1は、操作入力機能として、光反射を用いる指操作モード(非接触検出方式)とタッチ操作モード(接触検出方式)とを備えている。
【0016】
主制御部101は、CPU(Central Processing Unit)等で構成され、ROM(Read Only Memory)102或いはRAM(Random Access Memory)103に記憶された各種の動作プログラム及びデータに従って入力端末装置1の全体を制御する。システムバス100は制御部101と入力端末装置1内の各部との間でデータ送受信を行うためのデータ通信路である。
【0017】
ROM102は、入力端末装置1を制御するための各種プログラムが格納されたメモリであり、例えばEEPROM(Electrically Erasable Programmable ROM)やフラッシュROMのような書き換え可能なROMを用いる。RAM103は、ROM102に記憶されたプログラムの実行時の一時記憶領域、或いは指位置検出センサ106で検出した指の位置情報の一時記憶として使用する。ストレージ部104は、入力端末装置1の動作設定値等の情報を記憶し、例えばフラッシュROMやSSD(Solid State Drive)のような不揮発性で書き換え可能なデバイスを用いる。ROM102及びRAM103は主制御部101と一体構成であってもよい。また、ROM102は独立構成とはせず、ストレージ部104内の一部記憶領域を使用する構成でもよい。
【0018】
加速度センサ105は、入力端末装置1の加速度を検出するセンサである。指位置検出センサ106は、ユーザの指或いはペンなどの位置入力対象物の位置を反射光により非接触で検出するセンサである。近距離無線通信部107は、無線通信により携帯情報端末2と接続し、入力端末装置1に入力された情報を送信する。通信方式としては、例えばBluetooth(登録商標)やWiFi(登録商標)などが用いられる。
【0019】
表示制御部108は、入力された文字や入力端末装置1の種々の設定画像などを表示部109aに表示するのを制御する。タッチパネル109は、表示部109aとタッチ操作入力部109bとを備える。表示部109aは液晶パネルなどの表示デバイスであり、表示制御部108の制御により文字や画像などを表示する。タッチ操作入力部109bは、表示部109aの表示面に配置される。
【0020】
タッチ操作入力部109bは、例えば静電容量式などのタッチパッド方式の入力デバイスであり、指やタッチペンなどによる接触操作を操作入力として検出する。具体的には、例えば、指でタッチパネルにタッチした後にタッチしたまま指を特定の方向に移動させるスワイプと呼ばれるジェスチャー、指でタッチパネルにタッチした後に所定値以上の速度で指を移動させてから指をリリースさせるフリックと呼ばれるジェスチャー、指でタッチパネルにタッチした後に素早くリリースするタップと呼ばれるジェスチャー等を検出する。これによって、入力端末装置1へのタッチ方式での操作入力が可能となる。
【0021】
計時部110は、例えばユーザが設定した日時・時刻からの経過時間をRTC(Real Time Clock)回路を用いて計測を行い、日時・時刻情報を出力する。主制御部101は、計時部110から出力される日時・時刻情報を読み込むことでタイマ等の処理を行う。操作入力部111は、入力端末装置1に対する操作指示の入力を行う指示入力部であり、電源のオン/オフや操作モードの設定を行うためのボタンを有する。
【0022】
このように本実施例の入力端末装置1は、ユーザの指の位置を非接触で検出して文字等を入力する指位置検出センサ106と、指をタッチパネル109に接触することで操作入力するタッチ操作入力部109bと、文字や画像などを表示する表示部109aを備える構成としている。これにより、指操作モードとタッチ操作モードの2つの操作入力機能を可能にしている。
【0023】
図1Bは、入力端末装置1のソフトウェア構成の一例を示す図であり、ROM102、RAM103及びストレージ部104におけるソフトウェアの構成を示す。
【0024】
主制御部101は、ROM102に記憶されたプログラムを実行することにより、基本動作処理制御部1021、指位置情報取得部1022、タッチ位置情報取得部1023を構成する。また、RAM103は、ROM102に記憶されたプログラムを実行する際に必要に応じてデータを一時的に保持する一時記憶領域1031を備える。ストレージ部104には、ROM102に記憶されたプログラムを実行する際の設定情報1041が記憶されている。なお、以下では説明を簡単にするために、主制御部101がROM102に格納されたプログラム実行することにより、各動作ブロックの制御を行うものとして記述する。
【0025】
基本動作処理制御部1021は、入力端末装置1の各種設定や全体の動作を制御する。指位置情報取得部1022は、指位置検出センサ106の出力に基づいてユーザの指やペンなどの位置入力対象物の位置情報を取得する。タッチ位置情報取得部1023は、タッチ操作入力部109bの出力に基づいて指やタッチペンなどがタッチパネル109に接触した位置情報を取得する。
【0026】
指操作処理制御部1024では、指位置情報取得部1022から取得した位置入力対象物の位置の情報に基づいて、どのような操作が入力されたかを判定し、判定結果に対応した処理の制御を行う。タッチ操作処理制御部1024では、タッチ位置情報取得部1023から取得したタッチパネル109をタッチした位置の情報に基づいて、どのような操作が入力されたかを判定し、判定結果に対応した処理の制御を行う。
【0027】
図2は、入力端末装置1の外観を示す図である。腕時計タイプの入力端末装置であり、ユーザの手首に装着して使用する。装置表面側にはタッチパネル109(表示部109a)を配置する。装置側面のユーザの手の甲側には、指位置検出センサ106として2個のセンサ106a,106bを配置する。これらのセンサは、例えば発光/受光素子からなる。また、装置側面のユーザの腕側には、操作入力部111として操作ボタンを配置している。
【0028】
図3は、指操作モードの検出原理を示す図で、指の位置と表示部の表示位置の関係を示す。ユーザの指(位置入力対象物)PSは、例えばユーザの手の甲側の位置A-B-C-D内で移動する。指位置検出センサ106a,106bは、赤外線発光素子と受光素子から構成され、発光素子から出射された赤外光は指PSで反射され、受光素子で反射光を検出する。受光素子での検出信号のレベルは、各センサ106a,106bから指PSまでの距離La,Lbに対応したものとなる。
【0029】
指位置検出センサ106の出力信号は指位置情報取得部1022に送られ、位置A-B-C-Dで表される位置入力検出範囲Paにおける指PSの位置Fを取得する。また、位置入力検出範囲Paの位置A-B-C-Dは、タッチパネル109の表示部109aの表示範囲Daの位置a-b-c-dにそれぞれ対応している。これより、位置入力検出範囲Paにおける指PSの位置Fに対応して、表示範囲Daにおけるカーソル等の表示位置fが決定される。
【0030】
図4は、手書き文字入力処理における表示部109aの表示例を示す図である。領域501は、入力された手書き文字を認識した結果を表示し、領域502は、指により入力された手書き文字を表示する。文字入力処理のためユーザが選択するボタン503として、手書き文字を認識させる処理を選択する認識処理指示ボタン503a、ひらがなやアルファベット等の入力する文字の種類を切り替える文字種切替処理指示ボタン503b、入力した手書き文字の表示を消去する消去処理指示ボタン503c、領域501に表示された認識結果の文字列を漢字等に変換する処理を選択する文字変換処理指示ボタン503d、手書き文字入力処理を終了する終了処理指示ボタン503eなどを配置している。
【0031】
図5は、入力端末装置1全体の動作切り替えを示すフローチャートである。ここでは、操作入力部111でのボタン押下操作により、電源オン/オフと操作入力モード(指操作モード/タッチ操作モード)の切り替えを行う。
【0032】
S301では、操作入力部111の出力の取り込みを行い、S302では操作入力部111が押されている否かを判定する。操作入力部111が押されている場合(Yes)にはS306に分岐する。S306では、操作入力部111が押されている時間を判定し、電源オン/オフの切り替えまたは操作入力モードの切り替え処理に進む。
【0033】
判定処理S306で操作入力部111が所定の時間Tp以上押されている場合(Yes)には、S313に分岐し電源がオン状態か否かによりオン/オフ切り替えの処理を行う。S313で電源がオン状態の場合(Yes)には、S314に分岐し電源をオフしてS301に戻る。電源をオフした場合には、消費電力を低減するため、主制御部101、計時部110、および操作入力部111などを除く部位への電源の供給を停止する。S313で電源がオフ状態の場合(No)には、S315に分岐し電源をオンしてS301に戻る。電源をオンした場合には、入力端末装置1を構成する各部に電源を供給する。
【0034】
判定処理S306で操作入力部111が所定の時間Tp以上押されていない場合(No)には、S307に分岐し電源がオン状態か否かを判定する。電源がオフの場合(No)にはS301に戻る。電源がオンの場合(Yes)にはS308に分岐する。
【0035】
S308では、操作入力モードの切り替え処理を行う。すなわち、現在の操作入力モードが指操作モードに設定されている場合(Yes)には、S309にてタッチ操作モードに切り替え設定し、S310ではタッチパネル109の表示部109aにカーソルの表示を行わないように設定する。現在の操作入力モードが指操作モードに設定されていない場合(No)には(すなわちタッチ操作モードに設定されている場合には)、S311にて指操作モードに切り替え設定し、S312ではタッチパネル109の表示部109aにカーソルの表示を行うように設定する。
【0036】
判定処理S302で操作入力部111が押されていない場合(No)には、S303に進み、設定されている操作入力モードに従い処理を行う。指操作モードの場合(Yes)にはS304に進み、指位置情報取得部1022から取得した指の位置の情報に基づいてどのような操作が入力されたかを判定し、判定結果に対応した処理を実行する。指操作モードではない場合(No)には(すなわちタッチ操作モードの場合には)S305に進み、タッチ位置情報取得部1023から取得したタッチした位置の情報に基づいてどのような操作が入力されたかを判定し、判定結果に対応した処理を実行する。指操作実行処理S304或いはタッチ操作実行処理S305での処理を実行後、S301に戻る。
【0037】
以下、指操作モードにおける手書き文字入力処理について具体的に説明する。本実施例では、指操作に対して複数の動作状態(動作モード)を与えることで、手書きによる文字入力を正しくかつ容易に行えるようにしている。
【0038】
図6は、動作モードとそれに対応するカーソル表示の例を示す図である。動作モードM0は、指を操作してもカーソル移動以外の文字入力のための描画を行わない状態(描画停止)である。動作モードM1は、指を操作するとその位置に応じて文字入力のための描画を実行する状態である。また、現在の動作モードをユーザが容易に識別できるように、動作モードに応じてカーソルの表示(例えば白/黒表示)を切り替える。なお、動作モードの切り替えは、後述するように、操作中の指を操作面内のある位置に所定時間t0以上保持するという特定の操作を行うことで、動作モードをM0からM1へ、あるいは逆にM1からM0へ切り替えることができる。
【0039】
これより、動作モードがM1のときのみ描画が可能となる。よって、線分や点などの複数の「画」から構成される文字を入力する場合、有効な「画」の部分に対して動作モードをM1に設定し、「画」と「画」との間を移動する無効な部分に対して動作モードをM0に設定することで、所望の文字を容易に正しく入力できるようになる。
【0040】
図7は、手書き文字入力処理における画面表示の例を示す図である。ここではひらがなの「あ」を入力する場合を例とする。文字入力の手順を(S1)~(S9)で示し、そのときの動作モード(M0/M1)を付記している。
【0041】
以下の説明で、カーソルをある位置に「保持」すると表現しているが、カーソルの位置が所定の距離r0以内で動き(ブレ)があってもこれを許容し、「保持」状態と見なすものとする。このr0はユーザの意図しない動き(手振れなど)によるもので、例えば数mm程度の値とする。また、「保持」状態と判定するための時間t0は、例えば数sec程度の値とする。これらの閾値は、ユーザや使用環境に応じて設定してもよい。
【0042】
(S1):動作モードがM0(描画停止)の状態において、指PSを位置入力検出範囲Pa内で動かすことにより、カーソルを文字入力表示領域502の位置7aに移動させる。
(S2):カーソルを位置7aの位置に所定の時間t0以上保持する。これにより、動作モードがM1(描画実行)に切り替わり、またカーソルの表示が変わる。
【0043】
(S3):カーソルの表示が変わったところで指を移動させ、カーソルを文字入力表示領域502の位置7bに移動させる。これにより、位置7aから位置7bまでの線が描画される。
(S4):カーソルを位置7bで所定の時間t0以上保持する。これにより、動作モードがM0(描画停止)に切り替わり、またカーソルの表示が変わる。
【0044】
(S5):カーソルの表示が変わったところで指を移動させ、カーソルを文字入力表示領域502の位置7cに移動させる。
(S6):位置7cで所定の時間t0以上保持する。これにより、動作モードがM1に切り替わり、またカーソルの表示が変わる。
【0045】
以下、同様に描画動作を継続する。すなわち、描画を行う場合には動作モードをM1としてカーソルを移動させ、描画を行わない場合には動作モードをM0としてカーソルを移動させる。また、カーソルを移動した位置に所定の時間t0以上保持することで動作モードを切り替えることで手書き文字入力を行う。
【0046】
(S7):ひらがなの「あ」の描画が完了すると、位置7dに所定の時間t0以上保持する。これにより、動作モードがM0に切り替わり、カーソルの表示が変わる。
(S8):認識処理指示ボタン503aにカーソルを移動させる。
(S9):カーソルを認識処理指示ボタン503aに所定の時間t0以上保持することで認識処理が実行され、認識した結果が表示領域501に表示される。
【0047】
図8は、
図7における動作モードと描画位置の時間変化を示す図である。(a)は位置入力対象物(ユーザの指)PSの位置、(b)は動作モード、(c)は表示部描画位置を示す。横軸の(S1)~(S6)と記号(7a)~(7c)は、
図7における記号に対応している。このように、描画が行われるのは、動作モードがM1の期間のみであり、位置入力対象物PSを同じ位置に時間t0以上保持することで動作モードの切り替えが行われる。
【0048】
図9は、指操作モードによる手書き文字入力処理を示すフローチャートである。以下、各処理の内容を順に説明する。
【0049】
S601では、指位置情報取得部1022により指PSの位置Fを取得し、S602では、取得した指PSの位置Fを
図3で説明したように表示範囲Daにおける位置fに変換する。次にS603では、位置fとRAM103の一時記憶領域に記憶されている前回取得した位置fdとの距離rが、所定の距離r0以下か否かを判定する。
【0050】
判定処理S603において、距離rが所定の距離r0以上の場合(No)にはS617に分岐する。S617では、位置fが文字入力表示領域502の表示範囲内か否かを判定する。位置fが文字入力表示領域502の範囲内の場合(Yes)には、S618に分岐する。位置fが文字入力表示領域502の範囲外の場合(No)には、S620に分岐する。S620では動作モードをM0に設定し、S615に進む。
【0051】
S618では設定されている動作モードを判定する。動作モードがM0の場合には、描画処理を行わずS615に進む。動作モードがM1の場合にはS619に分岐し、表示範囲Daにおける位置fdから位置fまでの描画処理を行い、S615に進む。
【0052】
一方、判定処理S603において、距離rが所定の距離r0以下の場合(Yes)にはS604に分岐する。S604では、位置fが表示範囲Daにおいて文字入力を行う所定の領域502の表示範囲内、或いは処理指示ボタン503の表示範囲内か否かを判定する。位置fが文字入力表示領域502或いは処理指示ボタン503の表示範囲内の場合(Yes)には、S605に進む。位置fが文字入力表示領域502或いは処理指示ボタン503の表示範囲外の場合(No)には、S615に進む。
【0053】
S605ではタイマにより動作モードを判定する。すなわち、保持時間を所定時間t0と比較し動作モードの切り替えを行う。なお、S605の判定処理の詳細は
図10で説明する。S606では、判定した動作モードに応じて分岐処理を行う。動作モードがM0の場合にはS615に進み、動作モードがM1の場合にはS607に進む。S607では、位置fが処理指示ボタン503の表示範囲内か否かを判定する。位置fが処理指示ボタン503の表示範囲内の場合(Yes)にはS608に進み、位置fが処理指示ボタン503の表示範囲外の場合(No)にはS615に進む。
【0054】
S608では、位置fが503aから503eのどの処理指示ボタンの表示範囲かより分岐処理を行う。位置fが認識処理指示ボタン503aの表示範囲内の場合には、S609に進み認識処理を実行する。位置fが文字種切替処理指示ボタン503bの表示範囲内の場合には、S610に進み文字種切り替え処理を実行する。位置fが消去処理指示ボタン503cの表示範囲内の場合には、S611に進み消去処理を実行する。位置fが変換処理指示ボタン503dの表示範囲内の場合には、S612に進み変換処理を実行する。
各々の処理を実行後、S613に進みタイマをリセット・停止し、S614では動作モードをM0に設定する。位置fが終了処理指示ボタン503eの表示範囲内の場合には、手書き文字入力処理を終了する。
【0055】
S615では、設定されている動作モードに応じて、例えば
図6に示すようなカーソルを表示範囲Daの位置fに表示する。次にS616では、現在位置fを前回位置fdとして置換し、RAM103の一時記憶領域に記憶し、S601に戻る。
【0056】
図10は、
図9における動作モードの判定処理S605を示すフローチャートである。
【0057】
S701では、タイマが起動されているか否かを判定する。タイマが起動されていない場合(No)には、S702に進みタイマを起動し、処理を終了する。タイマが起動されている場合(Yes)には、S703に進む。
【0058】
S703では、タイマが所定の時間t0を超えたか否かを判定する。所定の時間t0を超えていない場合(No)には処理を終了する。所定の時間t0を超えている場合(Yes)にはS704に進む。
【0059】
S704では、動作モードによる分岐処理を行う。動作モードがM0の場合にはS705に進み、動作モードをM1に切り替え設定する。動作モードがM1の場合にはS706に進み、動作モードをM0に切り替え設定する。その後S707に進み、タイマをリセット・停止して処理を終了する。
【0060】
以上のように、実施例1では、ユーザの指などの位置入力対象物の表示画面上の位置を所定の距離r0以内で所定の時間t0以上保持することで動作モードを切り替え、描画を行う場合には動作モードをM1としてカーソルを移動させ、描画を行わない場合には動作モードをM0としてカーソルを移動させる。これにより、複数の画数の文字を入力する場合にも、画と画の間の移動を非描画区間として区別することができ、書き順が違っていても意図した文字を容易に正しく入力することが可能となる。また、漢字等のより複雑な文字も入力することが可能となる。
【0061】
また、処理指示ボタンが表示された領域にカーソルを移動させ、カーソルを移動した位置から所定の距離r0以内の位置を所定の時間t0以上保持することで処理指示ボタンに対応した処理を行うことができ、処理指示ボタンが表示された位置にマウスなどの入力手段でカーソルを移動させてクリックしたのと同様の操作を行うことができる。
【0062】
なお、本実施例では処理指示ボタンとして認識処理指示ボタン503a、文字種切替処理指示ボタン503b、消去処理指示ボタン503c、文字変換処理指示ボタン503d、終了処理指示ボタン503eで構成された例を示したが、これに限定することなく、他の処理指示ボタンを設けるようにしてもよい。
【0063】
また、本実施例ではタッチパネル109による操作入力モード(タッチ操作モード)と指位置検出センサ106による操作入力モード(指操作モード)の切り替えを操作入力部111により行うようにしたが、他の方法で切り替えるようにしてもよい。例えば手の甲を指でタップした場合、加速度センサ105により振動が検出され、タッチパネル109ではタッチの検出がされないことから、タッチパネル109の検出結果と加速度センサ105の検出結果により手の甲がタップされたことを判断し、手の甲を指でタップした場合には操作入力モードを切り替えるようにしてもよい。
【0064】
また、本実施例では、動作モードを切り替えるための特定の操作として、ユーザの指などの位置入力対象物の表示画面上の位置を所定の距離r0以内で所定の時間t0以上保持する操作を採用したが、これに限らない。他の特定の操作として、例えば、位置入力対象物を移動させることでカーソルを移動させ、移動した位置で手の甲をタップすることで動作モードを切り替えるようにしてもよい。
【実施例2】
【0065】
実施例2では、キーボードのように画面に表示されたキーを選択することで入力を行う場合について説明する。小型の携帯情報端末では、表示部109aに表示されるキーも小さくなり、タッチパネル109を指でタッチすることにより入力するのは困難になる。そこで、指操作モードによりキー文字入力を行う。
【0066】
図11は、キー文字入力処理のための表示部109aの構成を示す図である。領域1001はキー文字入力された文字を表示する部分で、文字入力キー1002は入力する文字を選択するためのキーである。キー1003は各種の処理を指示するためのものであり、ひらがなやアルファベット等の入力する文字の種類を切り替える文字種切替処理指示キー1003a、領域1001に表示されている入力文字を削除する削除処理指示キー1003b、キー文字入力処理を終了する終了処理指示キー1003cなどで構成される。
【0067】
図12は、指操作モードによるキー文字入力処理の例を示す図であり、ここでは、アルファベットの「Y」を入力する場合を例とする。入力の手順を(S1)~(S4)で説明する。
【0068】
(S1):動作モードがM0の状態において、指PSを位置入力検出範囲Pa内で動かすことにより、カーソルを文字入力キー「WXYZ」が表示された位置12aに移動させる。
(S2):カーソルを位置12aに所定の時間t0以上保持する(この場合も、所定の距離r0以内の動きは許容する。以下同様である)。これにより、動作モードがM1に切り替え設定され、文字「W」「X」「Y」「Z」を選択する表示が行われる。
【0069】
(S3):文字選択表示されたところで、指を移動させ、カーソルを文字「Y」が表示されている位置12bに移動させる。
(S4):カーソルを位置12bに所定の時間t0以上保持する。これにより、文字「Y」が入力文字として決定され、入力文字表示領域1001に文字「Y」が表示される。文字入力が完了すると、動作モードはM0に切り替わる。
【0070】
図13は、指操作モードによるキー文字入力処理を示すフローチャートである。
【0071】
S1101では、指位置情報取得部1022により指PSの位置Fを取得し、S1102では、取得した指PSの位置Fを表示範囲Daにおける位置fに変換する。次にS1103では、位置fと前回取得した位置fdとの距離rが、所定の距離r0以下か否かを判定する。
【0072】
判定処理S1103において、距離rが所定の距離r0以上の場合(No)にはS1114に分岐する。距離rが所定の距離r0以下の場合(Yes)にはS1104に分岐する。S1104では、位置fが文字入力キー1002或いは処理指示キー1003の表示領域内か否かを判定する。判定処理S1104において、位置fが文字入力キー1002或いは処理指示キー1003の表示領域内の場合(Yes)にはS1105に分岐し、文字入力キー1002或いは処理指示キー1003の表示領域外の場合(No)にはS1114に分岐する。
【0073】
S1105ではタイマにより動作モードを判定する。すなわち、保持時間を所定時間t0と比較し動作モードの切り替えを行う。なお、S1105の判定処理の詳細は
図14で説明する。S1106では、判定した動作モードに応じて分岐処理を行う。動作モードがM0の場合にはS1114に進み、動作モードがM1の場合にはS1107に進む。S1107では、文字選択表示がオンの状態か否かを判定する。
【0074】
判定処理S1107において、文字選択表示がオンの場合(Yes)にはS1116に進み、文字選択表示がオフの場合(No)にはS1108に進む。S1116では、位置fが文字選択表示領域内か否かを判定する。位置fが文字選択領域内の場合(Yes)にはS1117に進み、位置fが文字選択表示領域外の場合(No)にはS1114に進む。S1117では、位置fに表示された文字を入力文字として決定し、入力文字表示領域1001に表示する。S1118では文字選択表示をオフとし、S1112に進む。
【0075】
S1108では、位置fが文字入力キー1002或いは処理指示キー1003のいずれのキーの表示領域内か否かにより分岐処理を行う。位置fが文字入力キー1002の表示領域内の場合には、S1109に進み文字選択表示をオンとし、位置fに表示されたキーに対応した文字の選択表示を行なう。位置fが文字種切替処理指示キー1003aの表示領域内の場合には、S1110に進み文字種切替処理を実行する。位置fが削除処理指示キー1003bの表示領域内の場合には、S1111に進み削除処理を実行する。各々の処理を実行後、S1112に進みタイマをリセット・停止し、S1113では動作モードをM0に設定する。位置fが終了処理指示キー1003cの表示領域内の場合にはキー文字入力処理を終了する。
【0076】
S1114では、設定されている動作モードに応じて、例えば
図6に示すようなカーソルを表示範囲Daの位置fに表示する。次にS1115では、現在位置fを前回位置fdとして置換し、RAM103の一時記憶領域に記憶してS1101に戻る。
【0077】
図14は、
図13における動作モードの判定処理S1105を示すフローチャートである。
【0078】
S1201では、タイマが起動されているか否かを判定する。タイマが起動されていない場合(No)には、S1202に進みタイマを起動し、処理を終了する。タイマが起動されている場合(Yes)には、S1203に進む。
【0079】
S1203では、タイマが所定の時間t0を超えたか否かを判定する。所定の時間t0を超えていない場合(No)には処理を終了する。所定の時間t0を超えている場合(Yes)にはS1204に進む。
【0080】
S1204では、動作モードをM1に切り替え設定する。この場合、
図13のS1113にて、キー文字入力実行後の動作モードはM0に切り替わるので、M1からM0への切り替えは不要である。その後S1205に進み、タイマをリセット・停止して処理を終了する。
【0081】
以上のように実施例2では、文字入力キー或いは処理指示キーを表示した位置にカーソルを移動させ、移動したカーソルの位置から所定の距離r0以内の位置を所定の時間t0以上保持することで入力する文字の選択或いは実行する処理の指示を容易に行うことが可能となる。これにより、文字入力キー或いは処理指示キーが表示された位置にマウスなどの入力手段でカーソルを移動させてクリックしたのと同様の操作を行うことができる。
【0082】
なお、本実施例では処理指示キーとして文字種切替処理指示キー1003a、削除処理指示キー1003b、終了処理指示キー1003cで構成された例を示したが、これに限定することなく、他の処理指示に対応したキーを設けるようにしてもよい。また、文字入力キーについても、アルファベットやひらがなの一文字が一つのキーに対応したようなキーボードや、数字の入力に対応したキーボードを表示して入力するようにしてもよい。
【実施例3】
【0083】
実施例3では、マウスによるクリックやダブルクリック、ドラッグ・アンド・ドロップのような操作(以下、マウス操作入力処理と呼ぶ)を指操作モードで実現する。これに対応するため、本実施例では動作モードの種類を増設している。
【0084】
図15は、マウス操作入力処理で使用する動作モードとカーソル表示の例を示す図である。ここでは6種類の動作モードM0~M5を使用する。動作モードM0は、指を操作してもカーソル移動以外の入力操作を行わない状態である。動作モードM1~M5は、それぞれ、クリック処理(M1)、ダブルクリック処理(M2)、ドラッグ処理の開始(M3)、ドラッグ処理の終了(M4)、ドロップ処理(M5)のマウス操作を行う状態である。また各動作モードに応じて、カーソルの表示(形状および/または色表示)を切り替える。なお、動作モードの切り替えは、後述するように、操作中の指を操作面内のある位置に保持する時間の長さを3通りの閾値t0,t1,t2と比較して行う。
【0085】
図16は、マウス操作入力処理における画面表示の例を示す図である。表示部109aには、ウィンドウ画面(ホーム画面)としてアプリケーションA~Dに対応したアイコン群1401が表示されている。ユーザは、アイコンをクリックすることで所望のアプリケーションを選択し、ダブルクリックすることでアプリケーションを実行し、ドラッグ・アンド・ドロップすることでアイコンの表示位置の移動を行うことができる。一連の処理の流れを(S1)~(S7)で説明する。
【0086】
(S1):動作モードがM0の状態において、指を位置入力検出範囲内で動かすことにより、カーソルをアイコン[D]が表示された位置14aに移動させる。
(S2):カーソルを位置14aに所定の時間(t0~t1の範囲)保持する。これにより、動作モードがM1(クリック処理)に切り替わり、マウス操作対象としてアイコン「D」が選択される。また、カーソルの表示は、
図15のM1に対応した表示に変わる。その後、所定の時間t1が経過するまでに指を任意に動かすことで(この場合、カーソルを位置14aから所定の距離r0以上離れた位置に移動させる)、選択されたアイコン「D」に対してクリック処理が実行される。
【0087】
(S3):カーソルを位置14aにて所定の時間t1以上保持すると、動作モードがM2(ダブルクリック処理)に切り替わり、カーソルが
図15に示すM2に対応した表示に変わる。その後、所定の時間t2が経過するまでに指を任意に動かすことで(カーソルを位置14aから所定の距離r0以上移動させる)、選択されたアイコン「D」に対してダブルクリック処理が実行される。
【0088】
(S4):カーソルを位置14aに所定の時間t2以上保持すると、動作モードがM3(ドラッグ処理開始)に切り替わり、カーソルが
図15に示すM3に対応した表示に変わる。
(S5):その後、指を動かしカーソルを位置14aから所定の距離r0以上離れた位置14bに移動させることで、動作モードがM4(ドラッグ処理終了)に切り替わる。これにより、カーソルは
図15に示すM4に対応した表示に変わる。また、カーソルを移動させた位置14bにマウス操作対象として選択されたアイコン「D」が移動して表示され、選択したアイコンの位置を移動させるドラッグ処理が実行される。
【0089】
(S6):さらに指を動かして、カーソル及び選択されたアイコン[D]を位置14cに移動させ、カーソルを位置14cに所定の時間t0以上保持する。これにより、動作モードがM5(ドロップ処理)に切り替わり、位置14cにドロップ処理が実行される。
(S7):ドロップ処理により、選択されたアイコン「D」の表示位置が14cに設定される。その後、動作モードがM0に切り替わり、カーソルはM0に対応した表示となる。
【0090】
図17は、指操作モードによるマウス操作入力処理を示すフローチャートである。
【0091】
S1501では、指位置情報取得部1022により指PSの位置Fを取得し、S1502では、取得した指PSの位置Fを表示範囲Daにおける位置fに変換する。次にS1503では、位置fと前回取得した位置fdとの距離rが所定の距離r0以下か否かを判定する。
【0092】
判定処理S1503において、距離rが所定の距離r0以下の場合(Yes)にはS1504に分岐し、S1504では、タイマにより動作モードを判定する。すなわち、保持時間を所定時間t0、t1、t2と比較し動作モードの切り替えを行う。なお、S1504の判定処理の詳細は、
図18で説明する。その後S1505では、S1504で判定した動作モードがM5か否かを判定する。動作モードがM5の場合(Yes)には、S1508に分岐し、動作モードがM5ではない場合(No)には、S1506に分岐する。S1508では、ドラッグ処理により選択されたアイコンの表示位置を位置fに設定するドロップ処理を実行し、S1509に進む。
【0093】
S1506では、位置fがアイコンの表示領域内か否かを判定する。位置fがアイコンの表示領域内の場合(Yes)にはS1507に分岐し、アイコンの表示領域外の場合(No)にはS1509に分岐する。S1507では、位置fが表示領域内にあるアイコンをマウス操作対象として選択し、S1518に進む。S1509では動作モードをM0に設定し、S1510に進む。S1510ではタイマをリセット・停止して、S1518に進む。
【0094】
一方、判定処理S1503において、距離rが所定の距離r0以上の場合(No)にはS1511に分岐する。S1511では動作モードに応じて以下の分岐処理を行う。
動作モードがM0の場合には処理を行わずにS1518に進む。
動作モードがM1の場合にはS1515に進み、S1507でマウス操作対象として選択したアイコンに対してクリック処理を行い、S1516に進む。
動作モードがM2の場合には、S1514に進み、S1507でマウス操作対象として選択したアイコンに対してダブルクリック処理を行い、S1516に進む。
動作モードがM3の場合には、S1513に進み、動作モードをM4の設定し、S1517に進む。
動作モードがM4の場合には、S1512に進み、S1507でマウス操作対象として選択したアイコンを位置fに表示する。これにより、選択したアイコンの位置を移動させるためのドラッグ処理が行われ、次にS1518に進む。
【0095】
S1516では動作モードをM0に設定し、S1517ではタイマをリセット・停止して、S1518に進む。S1518では、現在の動作モードに応じて、
図15に示すようなカーソルを表示範囲Daの位置fに表示する。次にS1519では、現在位置fを前回位置fdとして置換し、RAM103の一時記憶領域に記憶して、S1501に戻る。
【0096】
図18は、
図17における動作モードの判定処理S1504を示すフローチャートである。
【0097】
S1601では、タイマが起動されているか否かを判定する。タイマが起動されていない場合(No)には、S1602に進みタイマを起動し、処理を終了する。タイマが起動されている場合(Yes)には、S1603に進む。
【0098】
S1603では、動作モードがM4か否かを判定する。動作モードがM4の場合(Yes)にはS1604に進む。S1604では、タイマが所定の時間t0を超えたか否かを判定し、所定の時間t0を超えていない場合(No)には処理を終了する。所定の時間t0を超えている場合(Yes)には、S1605に進み動作モードをM5に設定し、処理を終了する。判定処理S1603において、動作モードがM4ではない場合(No)にはS1606に進む。
【0099】
S1606ではタイマの経過時間に応じて以下の分岐処理を行う。なお、以下の時間閾値は、t0<t1<t2の関係とする。
タイマが所定の時間t0を超えていない場合(タイマ≦t0)には、処理を終了する。
タイマが所定の時間t0とt1の間の時間の場合(t0<タイマ≦t1)には、S1609に進み動作モードをM1に設定し、処理を終了する。
タイマが所定の時間t1とt2の間の時間の場合(t1<タイマ≦t2)には、S1608に進み動作モードをM2に設定し、処理を終了する。
タイマが所定の時間t2を超えている場合(タイマ>t2)には、S1607に進み動作モードをM3に設定し、処理を終了する。
【0100】
以上のように実施例3では、カーソルを移動した位置から所定の距離r0以内の位置を保持する時間の長さに応じて動作モードをM0~M5に切り替える。そして、動作モードが切り替わった後に、スマートフォンのタッチ操作におけるフリック動作のようにカーソルを所定の距離r0以上離れた位置に移動させることにより、マウスによるクリックやダブルクリック、ドラッグ・アンド・ドロップのような操作を指操作入力モードで実現することが可能となる。また、動作モードが切り替わったことをカーソルの表示の変化により確認することができ、ユーザが意図したマウス操作を容易に行うことが可能となる。
【実施例4】
【0101】
実施例4では、ユーザの指の位置を3次元的に検出して入力操作を行う場合(以下、3D指操作モードと呼ぶ)について説明する。
【0102】
図19は、3D指操作モードの検出原理を示す図で、指の位置と表示部の表示位置の関係を示す。入力端末装置1の表示部109aに対して平行な方向(XY軸方向)だけでなく垂直な方向(高さZ軸方向)の指PSの位置を検出し、入力操作を行う。図では、検出した指(位置入力対象物)PSの位置Fと表示部109aの表示位置fの関係を示す。
【0103】
3次元的に指位置を検出するため、3個の指位置検出センサ106a,106b,106cを設けている。各センサ106a~106cは、例えば赤外線発光素子と受光素子からなり、各センサ106a~106cからは、指PSまでの距離La,Lb、Lcに対応したレベルの信号が出力される。指位置情報取得部1022では各センサ106a~106cからの出力信号に基づいて、位置A-B-C-D―A’-B’-C’-D’で囲まれる位置入力検出範囲(空間)Paにおける指PSの位置Fを取得する。取得した位置FのXY軸方向の位置に対応して、表示部109aの位置a-b-c-dで囲まれる表示範囲Daにおける位置fが決定され、例えばカーソル等が表示される。一方、取得した位置FのZ軸方向の位置に対応して、後述するように複数の表示画面の切り替えを行う。
【0104】
図20は、3D指操作モードにおける画面表示の例を示す図である。ここでは、操作用の画面として、アイコンを配置したウィンドウ画面(ホーム画面)を表示している。表示部109a対する高さZ方向の位置をZ0~Z3を境界として複数のレイヤーL0,L1,L2に分割する。指PSがどのレイヤーに位置するかに応じて、ウィンドウ画面を切り替えて表示する。各レイヤーにおける表示状態を(S1)~(S3)で示す。
【0105】
(S1):指PSの位置F0が高さ方向Z0~Z1の範囲(レイヤーL0)の場合には、ウィンドウ画面にアプリケーションA~Dに対応したアイコン群1901を表示する。
(S2):指PSの位置F1が高さ方向Z1~Z2の範囲(レイヤーL1)の場合には、ウィンドウ画面にアプリケーションE~Hに対応したアイコン群1902を表示する。
(S3):指PSの位置F2が高さ方向Z2~Z3の範囲(レイヤーL2)の場合には、ウィンドウ画面にアプリケーションI~Lに対応したアイコン群1903を表示する。
【0106】
その後、実施例3で説明したマウス操作入力処理を実行する。すなわち、表示されたアイコンをクリックすることでアプリケーションを選択し、アイコンをダブルクリックすることでアプリケーションを実行し、アイコンをドラッグ・アンド・ドロップすることでアイコンの表示位置の移動が行われる。
【0107】
このように、3D指操作モードによれば、複数のレイヤー毎に走査用の画面表示を切り替えることができるので、多数のアプリケーション(アイコン)に対し容易にマウス操作入力処理を行うことができる。
【0108】
図21は、3D指操作モードによるマウス操作入力処理を示すフローチャートである。実施例3(
図17)と同じ処理については同一符号を付し、繰り返しの説明を省略する。
【0109】
S1501では、指位置情報取得部1022により指PSの3次元位置Fを取得し、S1502では、取得した位置FのXY方向の位置を
図19で説明したように表示範囲Daにおける位置fに変換する。次にS1520では、取得した位置FのZ方向の位置がどのレイヤーの範囲内かを判別する。S1521では、判別したレイヤーLNがRAM103の一時記憶領域に記憶されている前回判別したレイヤーLNdと同じか否かを判定する。
判定の結果、判別したレイヤーLNが前回判別したレイヤーLNdと同じ場合(Yes)にはS1503に進む。S1503以降の処理は
図17と同じであり、説明を省略する。判定の結果、判別したレイヤーLNが前回判別したレイヤーLNdと異なる場合(No)にはS1522に進む。
【0110】
S1522では、動作モードがM3またはM4か否かを判定する。動作モードがM3またはM4の場合(Yes)にはS1523に進み、動作モードがM3またはM4ではない場合(No)、S1525に進む。S1525では動作モードをM0に設定し、S1526に進む。S1526ではタイマをリセット・停止して、S1523に進む。
【0111】
S1523では、判別したレイヤーLNを前回判別レイヤーLNdとして置換し、RAM103の一時記憶領域に記憶してS1524に進む。S1524では、判別したレイヤーLNに対応したウィンドウ画面(ホーム画面)を表示するように表示部109aの画面を更新し、S1511に進む。S1511以降の処理は各動作モードM0~M4に従ったマウス操作入力処理であるが、
図17と同じであり、説明を省略する。
【0112】
以上のように、ユーザの指の3次元位置を検出して操作入力を行うことで、高さZ方向の位置に応じて複数のレイヤーに分割し、各レイヤーに対応した操作用のウィンドウ画面(ホーム画面)を表示することが可能となる。また、各レイヤーのウィンドウに表示されたアイコンに対して、クリックやダブルクリック、ドラッグ・アンド・ドロップのようなマウス操作を行うことも可能となる。
【0113】
上記の例では、複数のレイヤー毎に異なるアプリケーションに対応したアイコンをウィンドウ画面に表示するものであったが、これに限らず、レイヤー毎に異なる操作面の表示を行うことが可能である。
【0114】
例えば、
図22は、キー文字入力処理における画面表示の例を示す図である。キー文字入力処理において、レイヤー毎に異なる文字種のキーボードを表示部に表示する。
【0115】
(S1):指PSの位置F0がレイヤーL0の範囲内の場合には、アルファベットや記号を入力するキーボードを表示する。
(S2):位置F1がレイヤーL1の範囲内の場合には、ひらがなを入力するキーボードを表示する。
(S3):位置F2がレイヤーL2の範囲内の場合には、数字を入力するキーボードを表示する。
これにより、ユーザは指PSの高さZ方向の位置を変えることで、入力する文字種を容易に変更することができる。
【0116】
このように実施例4によれば、3D指操作モードにより複数のレイヤー毎に画面表示や操作内容を切り替えることができるので、多種類の操作を容易に実現することができる。なお、使用する操作の種類によりレイヤーの数をユーザが適宜設定するようにしてもよい。
【実施例5】
【0117】
実施例5では、3D指操作モードにおいて、複数のレイヤー間の切り替えを円滑に行うため、レイヤー間に遷移領域を設けた構成について説明する。
【0118】
図23は、レイヤー間に遷移領域を設けた場合の画面表示の例を示す図である。指PSの高さZ方向の位置を複数のレイヤーL0~L2に分割するとともに、各レイヤーの境界にはレイヤー遷移領域T01,T12を設けている。実施例4と同様に、各レイヤーL0~L2に対応して異なる操作用のウィンドウ画面(ここではアイコン群)を表示するが、レイヤー遷移領域T01,T12においては、隣接するいずれかのレイヤーに対応したウィンドウ画面を表示させる。以下、指PSの高さ方向の動きに沿って画面表示の変化を説明する。
【0119】
まず、指PSの位置をF0からF4(すなわち、レイヤーL0からL2)に向かって移動させた場合について、(S1)~(S5)で説明する。
【0120】
(S1):指PSの位置F0はレイヤーL0の範囲内にあり、ウィンドウ画面にアプリケーションA~Dに対応したアイコン群2101を表示する。
(S2):指PSの位置F1がレイヤーL0とL1の間のレイヤー遷移領域T01に移動した場合は、直前のレイヤーL0で表示したウィンドウ画面(アイコン群2101)を継続して表示する。その際、画面背景は遷移領域を示す表示109Tに変更する。
【0121】
(S3):指PSの位置F2はレイヤーL1の範囲内にあり、ウィンドウ画面にアプリケーションE~Hに対応したアイコン群2102を切り替えて表示する。
(S4):指PSの位置F3がレイヤーL1とL2の間のレイヤー遷移領域T12に移動した場合は、直前のレイヤーL1で表示したウィンドウ画面(アイコン群2102)を継続して表示する。その際、画面背景は遷移領域を示す表示109Tに変更する。
【0122】
(S5):指PSの位置F4はレイヤーL2の範囲内にあり、ウィンドウ画面にアプリケーションI~Lに対応したアイコン群2103を切り替えて表示する。
【0123】
一方、指PSの位置をF4からF0(すなわち、レイヤーL2からL0)に向かって移動させた場合について、(S5’)~(S1’)で説明する。
【0124】
(S5’):指PSの位置F4はレイヤーL2の範囲内にあり、ウィンドウ画面にアプリケーションI~Lに対応したアイコン群2103を表示する。
(S4’):指PSの位置F3がレイヤーL1とL2の間のレイヤー遷移領域T12に移動した場合は、直前のレイヤーL2で表示したウィンドウ画面(アイコン群2103)を継続して表示する。その際、画面背景は遷移領域を示す表示109Tに変更する。
【0125】
(S3’):指PSの位置F2はレイヤーL1の範囲内にあり、ウィンドウ画面にアプリケーションE~Hに対応したアイコン群2102を切り替えて表示する。
(S2’):指PSの位置F1がレイヤーL0とL1の間のレイヤー遷移領域T01に移動した場合は、直前のレイヤーL1で表示したウィンドウ画面(アイコン群2102)を継続して表示する。その際、画面背景は遷移領域を示す表示109Tに変更する。
【0126】
(S1’):指PSの位置F0はレイヤーL0の範囲内にあり、ウィンドウ画面にアプリケーションA~Dに対応したアイコン群2101を切り替えて表示する。
【0127】
以上のように、指PSが各レイヤーの範囲内に位置する場合には各レイヤーに対応したウィンドウ画面を表示し、指PSがレイヤー遷移領域に移動した場合には直前に位置したレイヤーのウィンドウ画面を継続して表示し、その背景を変更して表示する。
【0128】
このように、各レイヤーの間に遷移領域を設け、指PSが遷移領域に移動したときはウィンドウ画面の背景を変えることで、ユーザに遷移領域に移動したことを知らせるようにした。その際、直前に表示したウィンドウ画面をそのまま継続するので、操作に支障を与えることはない。これにより、ユーザは意図せずに他のレイヤーに移動するのを防止することができる。すなわち、ウィンドウ画面の背景が変わった時には元のレイヤーの方向に指PSを移動させればよい。
【0129】
図24は、レイヤー間に遷移領域を設けた場合のマウス操作入力処理を示すフローチャートである。実施例3(
図17)及び実施例4(
図21)と同じ処理については同一符号を付し、繰り返しの説明を省略する。
【0130】
S1501では、指PSの3次元位置Fを取得し、S1502では、位置FのXY方向の位置を表示範囲Daにおける位置fに変換する。次にS1520では、位置FのZ方向の位置がどのレイヤーの範囲内か、或いはレイヤー遷移領域内かを判別する。S1530ではレイヤー判別結果に応じて分岐処理を行う。
【0131】
判定処理S1530において、判別したレイヤーLNがレイヤー遷移領域内の場合(LN=レイヤー間)にはS1531に分岐する。S1531ではウィンドウ表示画面の背景をレイヤー遷移領域に対応した表示109Tとし、S1503に進む。
【0132】
判定処理S1530において、判別したレイヤーLNが前回判別したレイヤーLNdと同じ場合(LN=LNd)にはS1503に進む。S1503以降の処理は
図17と同じであり、説明を省略する。
【0133】
判定処理S1530において、判別したレイヤーLNが前回判別したレイヤーLNdと異なる場合(LN≠LNd)にはS1522に進む。S1522以降の処理は
図21と同じであり、説明を省略する。
【0134】
以上のように実施例5によれば、指PSの3次元位置を検出し、高さ方向Zの位置に対応して複数のレイヤーに対応したウィンドウを表示するだけでなく、各レイヤーの間に遷移領域を設けるようにした。そして、指PSが遷移領域に移動したときはウィンドウ画面の背景を変えることでユーザに知らせ、ユーザが意図せずに他のレイヤーに移動するのを防止することができる。これにより、各レイヤーの間の切り替えを円滑に行うことができる。
【0135】
なお、本実施例では指PSがレイヤー遷移領域に移動したときにウィンドウ画面の背景を変えるようにしたが、これに限らない。例えば、アイコンの表示を変える、カーソルの表示を変える、音或いは振動を発生するなど、ユーザが認識可能な方法であればよい。また、遷移領域に位置したときは、元のレイヤーの方向(上/下)を表示するようにしてもよい。
【0136】
以上の各実施例の説明では、指位置検出センサ106を発光/受光素子で構成する例を示したが、これに限らず、超音波を用いたセンサやカメラ等の撮像素子など、ユーザの指やペンなどの位置入力対象物の位置が検出可能なものであればよい。また、腕時計タイプの入力端末装置を例として説明したが、スマートフォンやタブレット、パーソナルコンピュータ等において、ユーザの指やペンなどの位置入力対象物の位置を検出して手書き文字入力やマウス操作等を行うようにしてもよい。
【0137】
また、以上の各実施例では、動作モードを切り替えるための特定の操作の条件として、ユーザの指などの位置入力対象物の表示画面上の位置が所定の距離以内で所定の時間以上保持されることとしたが、これに限らない。例えば、所定の時間内における位置入力対象物の表示画面上の位置の移動量が所定の距離以内の場合を条件としてもよい。或いは、位置入力対象物の表示画面上の位置の移動速度が所定の速度以下の場合を条件としてもよい。
【0138】
以上、本発明の実施形態を、いくつかの実施例を用いて説明したが、言うまでもなく、本発明の技術を実現する構成は前記実施例に限られるものではなく、様々な変形例が考えられる。例えば、ある実施例の構成の一部を他の実施例の構成と置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。これらは全て本発明の範疇に属するものである。また、文中や図中に現れる数値やメッセージ等もあくまでも一例であり、異なるものを用いても本発明の効果を損なうことはない。また、各処理例で説明したプログラムは、それぞれ独立したプログラムでもよく、複数のプログラムが一つのアプリケーションプログラムを構成していてもよい。また、各処理を行う順番を入れ替えて実行するようにしてもよい。
【0139】
前記した本発明の機能等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、マイクロプロセッサユニット等が、それぞれの機能等を実現する動作プログラムを解釈して実行することにより、ソフトウェアで実現してもよい。ハードウェアとソフトウェアを併用してもよい。
【0140】
また、図面中に示した制御線や情報線は説明上必要と考えられるものを示しており、必ずしも製品上の全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0141】
1:入力端末装置、2:携帯情報端末、101:主制御部、102:ROM、103:RAM、104:ストレージ部、105:加速度センサ、106,106a,106b,106c:指位置検出センサ、108:表示制御部、109:タッチパネル、109a:表示部、109b:タッチ操作入力部、110:計時部、111:操作入力部、1022:指位置情報取得部、1023:タッチ位置情報取得部、1024:指操作処理制御部、1025:タッチ操作処理制御部、PS:ユーザの指(位置入力対象物)。