IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ シャープ株式会社の特許一覧

特許7534206表示装置、表示方法、及び表示プログラム
<>
  • 特許-表示装置、表示方法、及び表示プログラム 図1
  • 特許-表示装置、表示方法、及び表示プログラム 図2
  • 特許-表示装置、表示方法、及び表示プログラム 図3
  • 特許-表示装置、表示方法、及び表示プログラム 図4
  • 特許-表示装置、表示方法、及び表示プログラム 図5A
  • 特許-表示装置、表示方法、及び表示プログラム 図5B
  • 特許-表示装置、表示方法、及び表示プログラム 図6
  • 特許-表示装置、表示方法、及び表示プログラム 図7
  • 特許-表示装置、表示方法、及び表示プログラム 図8
  • 特許-表示装置、表示方法、及び表示プログラム 図9
  • 特許-表示装置、表示方法、及び表示プログラム 図10
  • 特許-表示装置、表示方法、及び表示プログラム 図11
  • 特許-表示装置、表示方法、及び表示プログラム 図12
  • 特許-表示装置、表示方法、及び表示プログラム 図13
  • 特許-表示装置、表示方法、及び表示プログラム 図14
  • 特許-表示装置、表示方法、及び表示プログラム 図15
  • 特許-表示装置、表示方法、及び表示プログラム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-05
(45)【発行日】2024-08-14
(54)【発明の名称】表示装置、表示方法、及び表示プログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20240806BHJP
   G06F 3/0346 20130101ALN20240806BHJP
【FI】
G06F3/01 570
G06F3/0346 422
【請求項の数】 8
(21)【出願番号】P 2020209251
(22)【出願日】2020-12-17
(65)【公開番号】P2022096250
(43)【公開日】2022-06-29
【審査請求日】2023-09-20
(73)【特許権者】
【識別番号】000005049
【氏名又は名称】シャープ株式会社
(74)【代理人】
【識別番号】100167302
【弁理士】
【氏名又は名称】種村 一幸
(74)【代理人】
【識別番号】100181869
【弁理士】
【氏名又は名称】大久保 雄一
(74)【代理人】
【識別番号】100135817
【弁理士】
【氏名又は名称】華山 浩伸
(72)【発明者】
【氏名】宮野 靖弘
(72)【発明者】
【氏名】山本 貴史
(72)【発明者】
【氏名】杉山 晃一
【審査官】塩屋 雅弘
(56)【参考文献】
【文献】国際公開第2018/003862(WO,A1)
【文献】特表2013-519933(JP,A)
【文献】特開2014-182497(JP,A)
【文献】国際公開第2018/142524(WO,A1)
【文献】米国特許出願公開第2015/0363070(US,A1)
【文献】特開2016-062183(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/0346
(57)【特許請求の範囲】
【請求項1】
表示画面に対してユーザーの非接触による入力操作を受け付ける表示装置であって、
前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する移動量取得部と、
前記入力操作が所定の操作であるか否かを判定する入力操作判定部と、
前記入力操作判定部により前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する移動量補正部と、
前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力処理部と、
を備え、
前記入力処理部は、前記補正処理後の前記第1移動量に基づいて、前記表示画面に表示されるカーソル画像を移動させる処理を行い、前記補正処理後の前記第2移動量に基づいて、前記表示画面に表示される選択対象画像のうち前記カーソル画像が重なる選択対象画像を選択する処理を実行し、
前記移動量補正部は、
前記入力操作判定部により前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合において、
前記カーソル画像が前記選択対象画像に重ならない場合に、前記第2移動量を減少又は無視する前記補正処理を実行せず、
前記カーソル画像が前記選択対象画像に重なる場合に、前記第2移動量を減少又は無視する前記補正処理を実行する、表示装置。
【請求項2】
前記入力操作判定部は、前記第1移動量が予め設定された第1設定値を超えた場合に、前記入力操作が前記第1操作であると判定する、
請求項1に記載の表示装置。
【請求項3】
前記入力操作判定部は、前記第1移動量の前記第2移動量に対する比率が予め設定された第2設定値よりも大きい場合に、前記入力操作が前記第1操作であると判定する、
請求項1に記載の表示装置。
【請求項4】
前記移動量補正部は、前記入力操作判定部により前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を水平方向に移動させる第2操作であると判定された場合に、前記第1移動量を減少又は無視する前記補正処理を実行する、
請求項1から請求項3のいずれか1項に記載の表示装置。
【請求項5】
前記入力操作判定部は、前記第2移動量が予め設定された第3設定値を超えた場合に、前記入力操作が前記第2操作であると判定する、
請求項4に記載の表示装置。
【請求項6】
前記入力操作判定部は、前記第2移動量の前記第1移動量に対する比率が予め設定された第4設定値よりも大きい場合に、前記入力操作が前記第2操作であると判定する、
請求項4に記載の表示装置。
【請求項7】
表示画面に対してユーザーの非接触による入力操作を受け付ける表示方法であって、
一又は複数のプロセッサーが、
前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する取得ステップと、
前記入力操作が所定の操作であるか否かを判定する入力操作判定ステップと、
前記入力操作判定ステップにおいて前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する補正ステップと、
前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力ステップと、
を実行し、
前記入力ステップにおいて、前記補正処理後の前記第1移動量に基づいて、前記表示画面に表示されるカーソル画像を移動させる処理を行い、前記補正処理後の前記第2移動量に基づいて、前記表示画面に表示される選択対象画像のうち前記カーソル画像が重なる選択対象画像を選択する処理を実行し、
前記補正ステップにおいて、
前記入力操作判定ステップにおいて前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合において、
前記カーソル画像が前記選択対象画像に重ならない場合に、前記第2移動量を減少又は無視する前記補正処理を実行せず、
前記カーソル画像が前記選択対象画像に重なる場合に、前記第2移動量を減少又は無視する前記補正処理を実行する、表示方法。
【請求項8】
表示画面に対してユーザーの非接触による入力操作を受け付ける表示プログラムであって、
前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する取得ステップと、
前記入力操作が所定の操作であるか否かを判定する入力操作判定ステップと、
前記入力操作判定ステップにおいて前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する補正ステップと、
前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力ステップと、
を一又は複数のプロセッサーに実行させ、
前記入力ステップにおいて、前記補正処理後の前記第1移動量に基づいて、前記表示画面に表示されるカーソル画像を移動させる処理を行い、前記補正処理後の前記第2移動量に基づいて、前記表示画面に表示される選択対象画像のうち前記カーソル画像が重なる選択対象画像を選択する処理を実行し、
前記補正ステップにおいて、
前記入力操作判定ステップにおいて前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合において、
前記カーソル画像が前記選択対象画像に重ならない場合に、前記第2移動量を減少又は無視する前記補正処理を実行せず、
前記カーソル画像が前記選択対象画像に重なる場合に、前記第2移動量を減少又は無視する前記補正処理を実行する、表示プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示画面に対してユーザーの非接触による入力操作を受け付ける表示装置、表示方法、及び表示プログラムに関する。
【背景技術】
【0002】
従来、表示パネルの表示画面に対して非接触で指示操作などの入力操作(画面操作)を行なうことが可能な表示装置が知られている。例えば、操作者を撮像した撮像画像に基づいて操作者の操作を受け付ける仮想操作面を形成し、操作者の動作を撮像画像から読み取って、操作者の一部と仮想操作面との位置関係に基づいて当該動作が操作であるか否かを判定するシステムが知られている(例えば特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2010-15553号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、従来の技術では、ユーザーが、設定された仮想操作面を視覚的に認識し難いため、仮想操作面に対する入力操作において位置ずれが生じる場合がある。例えば、ユーザーが表示画面に表示された選択ボタンを選択するために仮想操作面において指を奥行方向に移動させた場合に、指が奥行方向への移動に加えてユーザーの意図しない左右方向にも移動する場合がある。この場合、ユーザーが狙った位置からずれた位置に対する選択操作が受け付けられ、ユーザーの意図しない処理が実行されてしまう問題が生じる。
【0005】
本発明の目的は、表示画面に対してユーザーの非接触による入力操作を受け付ける表示装置においてユーザーの仮想操作面に対する入力操作の位置ずれを抑制することが可能な表示装置、表示方法、及び表示プログラムを提供することにある。
【課題を解決するための手段】
【0006】
本発明の一の態様に係る表示装置は、表示画面に対してユーザーの非接触による入力操作を受け付ける表示装置であって、前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する移動量取得部と、前記入力操作が所定の操作であるか否かを判定する入力操作判定部と、前記入力操作判定部により前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する移動量補正部と、前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力処理部と、を備え、前記移動量補正部は、前記入力操作判定部により前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合に、前記第2移動量を減少又は無視する前記補正処理を実行する。
【0007】
本発明の他の態様に係る表示方法は、表示画面に対してユーザーの非接触による入力操作を受け付ける表示方法であって、一又は複数のプロセッサーが、前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する取得ステップと、前記入力操作が所定の操作であるか否かを判定する入力操作判定ステップと、前記入力操作判定ステップにおいて前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する補正ステップと、前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力ステップと、を実行し、前記補正ステップにおいて、前記入力操作判定ステップにおいて前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合に、前記第2移動量を減少又は無視する前記補正処理を実行する方法である。
【0008】
本発明の他の態様に係る表示プログラムは、表示画面に対してユーザーの非接触による入力操作を受け付ける表示プログラムであって、前記表示画面に対応する仮想操作面に対する前記ユーザーの前記入力操作において、前記仮想操作面に対する前記ユーザーの操作指示部の垂直方向の移動量である第1移動量及び水平方向の移動量である第2移動量を取得する取得ステップと、前記入力操作が所定の操作であるか否かを判定する入力操作判定ステップと、前記入力操作判定ステップにおいて前記入力操作が前記所定の操作であると判定された場合に、前記第1移動量又は前記第2移動量を補正する補正処理を実行する補正ステップと、前記補正処理後の前記第1移動量及び前記第2移動量に基づいて前記入力操作に応じた入力処理を実行する入力ステップと、を一又は複数のプロセッサーに実行させ、前記補正ステップにおいて、前記入力操作判定ステップにおいて前記入力操作が前記仮想操作面に対して前記ユーザーの操作指示部を垂直方向に移動させる第1操作であると判定された場合に、前記第2移動量を減少又は無視する前記補正処理を実行させるプログラムである。
【発明の効果】
【0009】
本発明によれば、表示画面に対してユーザーの非接触による入力操作を受け付ける表示装置においてユーザーの仮想操作面に対する入力操作の位置ずれを抑制することが可能である。
【図面の簡単な説明】
【0010】
図1図1は、本発明の実施形態に係る表示装置の構成を示すブロック図である。
図2図2は、本発明の実施形態に係る表示装置における仮想操作面の一例を示す模式図である。
図3図3は、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。
図4図4は、従来の表示装置における入力操作の一例を示す図である。
図5A図5Aは、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。
図5B図5Bは、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。
図6図6は、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。
図7図7は、本発明の実施形態に係る表示装置で実行される表示制御処理の手順の一例を説明するためのフローチャートである。
図8図8は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図9図9は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図10図10は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図11図11は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図12図12は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図13図13は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図14図14は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図15図15は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
図16図16は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。
【発明を実施するための形態】
【0011】
以下、添付図面を参照しながら、本発明の実施形態について説明する。なお、以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定する性格を有さない。
【0012】
図1に示すように、本発明の実施形態に係る表示装置1は、制御部11と、記憶部12と、表示パネル13と、操作部14と、モーションセンサ15とを備えている。図2には、表示装置1の模式図を示している。モーションセンサ15は、表示パネル13の上部に設置され、ユーザーの操作を検出する。
【0013】
表示装置1は、表示画面13Aに対してユーザーの非接触による入力操作を受け付ける。例えば、表示装置1は、仮想操作面R2においてユーザーの前記入力操作を検出すると、表示画面13Aに対するユーザーの前記入力操作に応じた入力処理を実行する。例えば、ユーザーが仮想操作面R2の所定の位置をタッチ操作した場合に、表示装置1は、仮想操作面R2におけるタッチ位置に対応する表示画面13A上の位置を検出してタッチ入力を受け付ける。以下、表示装置1の具体的構成について説明する。
【0014】
モーションセンサ15は、例えば2個のカメラと3個の赤外線LEDとを備え、所定の検知範囲においてユーザーの前記入力操作を検知する。モーションセンサ15は、検知情報を制御部11に出力する。前記検知情報には、モーションセンサ15を基準とした検出対象物(例えばユーザーの手、指先、スタイラスペン、支持棒など)の位置座標(X座標、Y座標、Z座標)が含まれる。モーションセンサ15は、例えばユーザーの手(右手RH、左手LH)の甲(掌)、指の関節、指先などを検知することが可能である。モーションセンサ15は、周知の技術を適用することができる。
【0015】
表示パネル13は、画像を表示するディスプレイであり、例えば液晶ディスプレイである。操作部14は、マウス、キーボードなどの操作機器である。なお、操作部14は、タッチパネルで構成されてもよい。
【0016】
記憶部12は、各種の情報を記憶するHDD(Hard Disk Drive)又はSSD(Solid State Drive)などの不揮発性の記憶部である。具体的には、記憶部12には、操作領域情報D1、仮想操作面情報D2などのデータが記憶される。
【0017】
操作領域情報D1は、表示パネル13の表示画面13Aにおける操作領域R1を示す情報である。操作領域R1は、表示画面13Aのうちユーザーが仮想操作面R2を介して入力操作を行うことが可能な領域、すなわちユーザーの入力操作を受け付け可能な領域である。操作領域R1は、表示画面13Aの全領域に設定されてもよいし、表示画面13Aの一部の領域に設定されてもよい。例えば表示画面13Aの全領域が操作領域R1に設定される場合、操作領域情報D1には、操作領域R1を規定する座標情報として、表示画面13Aの四隅の座標C11~C14(図2参照)の情報が含まれる。操作領域情報D1は、操作領域R1が設定又は更新されるごとに記憶部12に登録される。
【0018】
仮想操作面情報D2は、表示画面13Aに対するユーザーの前記入力操作を受け付ける仮想操作面R2の領域を示す情報である。具体的には、仮想操作面R2は、操作領域R1に対応しており、仮想操作面R2を規定する四隅の座標C21~C24(図2参照)と操作領域R1を規定する座標C11~C14とが対応付けられる。仮想操作面情報D2には、仮想操作面R2を規定する四隅の座標C21~C24の情報が含まれる。仮想操作面情報D2は、仮想操作面R2が設定又は更新されるごとに記憶部12に登録される。仮想操作面R2の大きさ及び位置は、予め設定されてもよいし、ユーザーの操作により設定されてもよい。
【0019】
また、記憶部12には、制御部11に後述の表示制御処理(図7参照)を実行させるための表示制御プログラムなどの制御プログラムが記憶されている。例えば、前記表示制御プログラムは、CD又はDVDなどのコンピュータ読取可能な記録媒体に非一時的に記録され、表示装置1が備えるCDドライブ又はDVDドライブなどの読取装置(不図示)で読み取られて記憶部12に記憶される。なお、前記表示制御プログラムは、クラウドサーバーから配信されて記憶部12に記憶されてもよい。
【0020】
制御部11は、CPU、ROM、及びRAMなどの制御機器を有する。前記CPUは、各種の演算処理を実行するプロセッサーである。前記ROMは、前記CPUに各種の演算処理を実行させるためのBIOS及びOSなどの制御プログラムが予め記憶される不揮発性の記憶部である。前記RAMは、各種の情報を記憶する揮発性又は不揮発性の記憶部であり、前記CPUが実行する各種の処理の一時記憶メモリー(作業領域)として使用される。そして、制御部11は、前記ROM又は記憶部12に予め記憶された各種の制御プログラムを前記CPUで実行することにより表示装置1を制御する。
【0021】
具体的に、制御部11は、図1に示すように、操作面設定部111、入力操作検出部112、入力処理部113、移動量取得部114、入力操作判定部115、及び移動量補正部116などの各種の処理部を含む。なお、制御部11は、前記CPUで前記表示制御プログラム及びに従った各種の処理を実行することによって、操作面設定部111、入力操作検出部112、入力処理部113、移動量取得部114、入力操作判定部115、及び移動量補正部116として機能する。また、制御部11に含まれる一部又は全部の処理部が電子回路で構成されていてもよい。なお、前記表示制御プログラムは、複数のプロセッサーを前記各種の処理部として機能させるためのプログラムであってもよい。
【0022】
操作面設定部111は、ユーザーの入力操作を受け付ける仮想操作面R2を設定する。例えば図2に示すように、操作面設定部111は、表示画面13AからZ方向に所定距離だけ離れた位置に仮想操作面R2を設定する。操作面設定部111は、予め設定された大きさの仮想操作面R2を予め設定された位置に設定してもよいし、ユーザーの操作に応じた大きさの仮想操作面R2をユーザーの指定した位置に設定してもよい。例えば、ユーザーは、所定のジェスチャー操作(詳細は後述)を行うことにより所望の大きさの仮想操作面R2を所望の位置に設定することができる。
【0023】
入力操作検出部112は、ユーザーの入力操作を検出する。具体的には、入力操作検出部112は、操作面設定部111により設定された仮想操作面R2においてユーザーの前記入力操作を検出する。例えば、入力操作検出部112は、モーションセンサ15から取得する検知情報に基づいて、仮想操作面R2における検知座標を検出し、当該検知座標から操作領域R1における入力座標を算出する。前記入力操作は、表示画面13Aに表示された画像に対するタッチ入力操作である。
【0024】
ここで、仮想操作面R2と操作領域R1の比率を、「W2:W1=H2:H1=a:b」とした場合(図2参照)、入力操作検出部112は、仮想操作面R2における検知座標[sx,sy]に基づいて、入力座標[dx、dy]をdx=sx×b/a、dy=sy×b/aの式で算出することができる。なお、表示解像度[rx,ry]は、Min[dx、dy]=[0,0]、Max[dx、dy]=[dx、dy]である。
【0025】
入力処理部113は、入力操作検出部112が仮想操作面R2においてユーザーの前記入力操作を検出した場合に、表示画面13Aに対するユーザーの前記入力操作に応じた入力処理を実行する。例えば、入力操作検出部112が仮想操作面R2において表示画面13Aに表示されたオブジェクト画像に対するユーザーのタッチ操作を検出した場合、入力処理部113は、タッチ位置に対応する表示画面13A上の位置を検出してタッチ入力を受け付ける。
【0026】
例えば図3に示す商品注文画面に、前記オブジェクト画像として「注文」、「戻る」、「その他」の各選択ボタン画像が表示されている場合に、ユーザーが仮想操作面R2において右手RHを上下左右方向(X方向及びY方向)に移動させると、入力処理部113は、当該移動操作に応じて表示画面13A上のカーソル画像を移動させる。ユーザーは所望の商品を注文する場合、表示画面13Aに表示された「注文」の選択ボタン画像を押下するために、前記カーソル画像が「注文」の選択ボタン画像に重なった状態で右手RHの指を表示パネル13側(Z方向)に押し込む操作(選択操作)を行なう。入力操作検出部112が前記選択操作を検出すると、入力処理部113は、前記選択操作に対応する選択ボタン画像に割り当てられた処理を実行する。ここでは、入力処理部113は、「注文」の選択ボタン画像に割り当てられた注文処理を実行する。これにより、ユーザーは、表示画面13Aから離れた場所において、操作領域R1に対する入力操作を行うことができる。
【0027】
ところで、従来の技術では、ユーザーが、設定された仮想操作面R2を視覚的に認識し難いため、仮想操作面R2に対する入力操作において位置ずれが生じる場合がある。例えば図4に示すように、ユーザーが表示画面13Aに表示された「注文」の選択ボタン画像を選択するために仮想操作面R2において指を表示パネル13側(Z方向)に移動させた場合に、指がZ方向への移動に加えてユーザーの意図しない左右方向(X方向及びY方向)に移動してしまう場合がある。この場合、ユーザーが狙った位置からずれた位置に対する選択操作、例えば「戻る」の選択ボタン画像の選択操作が受け付けられ、ユーザーの意図しない処理が実行されてしまう問題が生じる。これに対して、本実施形態に係る表示装置1によれば、ユーザーの仮想操作面R2に対する入力操作の位置ずれを抑制することが可能である。以下、前記位置ずれを抑制するための具体的な構成について説明する。
【0028】
移動量取得部114は、表示画面13Aに対応する仮想操作面R2に対するユーザーの前記入力操作において、仮想操作面R2に対するユーザーの操作指示部の垂直方向(Z方向)の移動量である第1移動量Z1及び水平方向(X方向及びY方向)の移動量である第2移動量を取得する。なお、前記操作指示部は、ユーザーの体の一部(手、指など)であってもよいし、ユーザーが把持した入力具(スライラスペン、支持棒など)であってもよい。
【0029】
図5Aには、ユーザーが右手RHの指を表示画面13Aに対して垂直方向(Z方向)に移動(押し込む)する操作(本発明の第1操作の一例)を行った場合のZ方向の第1移動量Z1と、X方向の第2移動量X1とを示している。また図5Bには、ユーザーが右手RHの指を表示画面13Aに対して垂直方向(Z方向)に移動(押し込む)する操作(第1操作)を行った場合のZ方向の第1移動量Z1と、Y方向の第2移動量Y1とを示している。このように、ユーザーが垂直方向に指を押し込む操作を意図して行った場合であっても、ユーザーが意図しないX方向及びY方向にも指が移動してしまうことがある。すなわち、図5A及び図5Bでは、第1移動量Z1はユーザーが意図した移動に対応する移動量であり、第2移動量X1、Y1はユーザーが意図しない移動に対応する移動量である。
【0030】
また図6には、ユーザーが右手RHの指を表示画面13Aに対して水平方向(X方向)に移動する操作(第2操作)を行った場合のX方向の第2移動量X1と、Z方向の第1移動量Z1とを示している。このように、ユーザーが水平方向に指を移動する操作を意図して行った場合であっても、ユーザーが意図しないZ方向にも指が移動してしまうことがある。すなわち、図6では、第2移動量X1はユーザーが意図した移動に対応する移動量であり、第1移動量Z1はユーザーが意図しない移動に対応する移動量である。
【0031】
移動量取得部114は、ユーザーの前記入力操作における第1移動量Z1及び第2移動量X1、Y1を取得する。移動量取得部114は、本発明の移動量取得部の一例である。
【0032】
入力操作判定部115は、ユーザーの入力操作が所定の操作であるか否かを判定する。前記所定の操作は、例えばユーザーの手を表示画面13Aに対して垂直方向(Z方向)に移動させる第1操作(本発明の第1操作の一例)、ユーザーの指を表示画面13Aに対して水平方向(X方向及びY方向)に移動させる第2操作(本発明の第2操作の一例)などである。前記所定の操作の情報は、記憶部12に予め登録される。入力操作判定部115は、本発明の入力操作判定部の一例である。
【0033】
具体的には、入力操作判定部115は、第1移動量Z1が予め設定された第1設定値Sth1を超えた場合(Z1>Sth1の場合)に、前記入力操作が前記第1操作であると判定する。他の実施形態として、入力操作判定部115は、第1移動量Z1の第2移動量X1、Y1に対する比率が予め設定された第2設定値Sth2よりも大きい場合((Z1/X1)>Sth2、又は、(Z1/Y1)>Sth2の場合)に、前記入力操作が前記第1操作であると判定してもよい。
【0034】
また、入力操作判定部115は、第2移動量X1、Y1が予め設定された第3設定値Sth3を超えた場合(X1>Sth3、又は、Y1>Sth3の場合)に、前記入力操作が前記第2操作であると判定する。他の実施形態として、入力操作判定部115は、第2移動量X1、Y1の第1移動量Z1に対するに比率が予め設定された第4設定値Sth4よりも大きい場合((X1/Z1)>Sth4、又は、(Y1/Z1)>Sth4の場合)に、前記入力操作が前記第2操作であると判定してもよい。
【0035】
移動量補正部116は、入力操作判定部115により前記入力操作が前記所定の操作であると判定された場合に、第1移動量Z1又は第2移動量X1、Y1を補正する補正処理を実行する。具体的には、移動量補正部116は、入力操作判定部115により前記入力操作が仮想操作面R2に対してユーザーの指を垂直方向(Z方向)に移動させる第1操作であると判定された場合に、第2移動量X1、Y1を減少又は無視する補正処理を実行する。例えば、図5A及び図5Bに示す例において、移動量補正部116は、前記入力操作が前記第1操作であると判定された場合に、第2移動量X1、Y1を「0」に補正する。
【0036】
また、移動量補正部116は、入力操作判定部115により前記入力操作が仮想操作面R2に対してユーザーの指を水平方向(X方向及びY1方向)に移動させる第2操作であると判定された場合に、第1移動量Z1を減少又は無視する補正処理を実行する。例えば、図6に示す例において、移動量補正部116は、前記入力操作が前記第2操作であると判定された場合に、第1移動量Z1を「0」に補正する。移動量補正部116は、本発明の移動量補正部の一例である。
【0037】
入力処理部113は、第1移動量Z1及び第2移動量X1、Y1に基づいて前記入力操作に応じた入力処理を実行する。また、入力処理部113は、入力操作判定部115により前記入力操作が前記所定の操作であると判定された場合には、前記補正処理後の第1移動量Z1´及び第2移動量X1´、Y1´に基づいて前記入力操作に応じた入力処理を実行する。具体的には、入力処理部113は、第2移動量X1、Y1と前記補正処理後の第1移動量Z1´とに基づいて、表示画面13Aに表示されるカーソル画像(図3参照)を移動させる処理を行う。また、入力処理部113は、第1移動量Z1と前記補正処理後の第2移動量X1´、Y1´とに基づいて、表示画面13Aに表示される選択対象画像のうちカーソル画像(図3参照)が重なる選択対象画像(図3の「注文」の選択ボタン画像)を選択する処理を実行する。入力処理部113は、本発明の入力処理部の一例である。
【0038】
例えば、図3に示すように、ユーザーが指を水平方向(左方向)に移動させる操作(第2操作)を行った場合に、入力処理部113は、第1移動量Z1を無視して(Z1´=0)、第2移動量X1、Y1に応じた位置にカーソル画像を移動させる。また例えば、図3に示すように、ユーザーが指を垂直方向(表示画面13A方向)に移動させる(押し込む)操作(第1操作)を行った場合に、入力処理部113は、第2移動量X1、Y1を無視して(X1´=0、Y1´=0)、第1移動量Z1に応じて「注文」の選択ボタン画像の押下を受け付けて注文処理を実行する。
【0039】
[表示制御処理]
以下、図7を参照しつつ、表示装置1の制御部11によって実行される表示制御処理について説明する。
【0040】
なお、本発明は、前記表示制御処理に含まれる一又は複数のステップを実行する表示制御方法(本発明の表示方法の一例)の発明として捉えることができ、ここで説明する表示制御処理に含まれる一又は複数のステップが適宜省略されてもよい。なお、前記表示制御処理における各ステップは同様の作用効果を生じる範囲で実行順序が異なってもよい。さらに、ここでは制御部11が前記表示制御処理における各ステップを実行する場合を例に挙げて説明するが、複数のプロセッサーが当該表示制御処理における各ステップを分散して実行する表示制御方法も他の実施形態として考えられる。
【0041】
先ずステップS11において、制御部11は、ユーザーの入力操作を検出したか否かを判定する。具体的には、制御部11は、仮想操作面R2においてユーザーの前記入力操作を検出する。例えば、制御部11は、モーションセンサ15から取得する検知情報に基づいて、仮想操作面R2における検知座標を検出し、当該検知座標から表示画面13Aの操作領域R1における入力座標を算出する。制御部11が前記入力操作を検出した場合(S11:Yes)、処理はステップS12に移行する。制御部11が前記入力操作を検出しない場合(S11:No)、処理はステップS16に移行する。
【0042】
ステップS12において、制御部11は、仮想操作面R2に対するユーザーの前記入力操作において、仮想操作面R2に対するユーザーの指の垂直方向(Z方向)の移動量である第1移動量Z1及び水平方向の移動量である第2移動量X1、Y1を取得する。ステップS12は、本発明の移動量取得ステップの一例である。
【0043】
次にステップS13において、制御部11は、ユーザーの前記入力操作が仮想操作面R2に対してユーザーの指を垂直方向(Z方向)に移動させる第1操作であるか否かを判定する。前記入力操作が前記第1操作である場合(S13:Yes)、処理はステップS14に移行する。前記入力操作が前記第1操作でない場合(S13:No)、処理はステップS131に移行する。ステップS13は、本発明の入力操作判定ステップの一例である。
【0044】
ステップS14では、制御部11は、第2移動量X1、Y1を減少又は無視する補正処理を実行する。図5A及び図5Bに示す例において、制御部11は、前記入力操作が前記第1操作であると判定した場合に、第2移動量X1、Y1を「0」に補正する。その後、処理はステップS15に移行する。ステップS14は、本発明の移動量補正ステップの一例である。
【0045】
ステップS131では、制御部11は、ユーザーの前記入力操作が仮想操作面R2に対してユーザーの指を水平方向(X方向及びY方向)に移動させる第2操作であるか否かを判定する。前記入力操作が前記第2操作である場合(S131:Yes)、処理はステップS132に移行する。前記入力操作が前記第2操作でない場合(S131:No)、処理はステップS15に移行する。ステップS131は、本発明の入力操作判定ステップの一例である。
【0046】
ステップS132では、制御部11は、第1移動量Z1を減少又は無視する補正処理を実行する。図6に示す例において、制御部11は、前記入力操作が前記第2操作であると判定した場合に、第1移動量Z1を「0」に補正する。ステップS132は、本発明の移動量補正ステップの一例である。その後、処理はステップS15に移行する。
【0047】
ステップS15において、制御部11は、ユーザーの前記入力操作に応じた入力処理を実行する。
【0048】
具体的には、制御部11は、前記入力操作が前記第1操作であると判定して第2移動量X1、Y1を「0」に補正した場合(S14)、第1移動量Z1と前記補正処理後の第2移動量X1´、Y1´(X1´=0、Y1´=0)とに基づいて、表示画面13Aに表示される選択対象画像のうちカーソル画像(図3参照)が重なる選択対象画像を選択する処理を実行する。
【0049】
また、制御部11は、前記入力操作が前記第2操作であると判定して第1移動量Z1を「0」に補正した場合(S132)、第2移動量X1、Y1と前記補正処理後の第1移動量Z1´(Z1´=0)とに基づいて、表示画面13Aに表示されるカーソル画像(図3参照)を水平方向に移動させる処理を行う。
【0050】
なお、制御部11は、前記入力操作が前記第1操作及び前記第2操作のいずれでもない場合(S131:No)、第1移動量Z1と第2移動量X1、Y1とに基づいて、表示画面13Aに表示されるカーソル画像を移動させる処理又は選択対象画像を選択する処理を行う。ステップS15は、本発明の入力ステップの一例である。
【0051】
ステップS16において、制御部11は、前記入力操作が終了したか否かを判定する。前記入力操作が終了した場合(S16:Yes)、制御部11は前記表示制御処理を終了する。前記入力操作が終了しない場合(S16:No)、制御部11はステップS11に戻り上述の処理を繰り返す。
【0052】
以上説明したように、本実施形態に係る表示装置1は、表示画面13Aに対してユーザーの非接触による入力操作を受け付ける表示装置である。また、表示装置1は、表示画面13Aに対応する仮想操作面R2に対するユーザーの前記入力操作において、仮想操作面R2に対するユーザーの操作指示部(例えば、指)の垂直方向(Z方向)の移動量である第1移動量Z1及び水平方向(X方向及びY方向)の移動量である第2移動量X1、Y1を取得する。また、表示装置1は、前記入力操作が所定の操作であると判定した場合に、第1移動量Z1又は第2移動量X1、Y1を補正する補正処理を実行し、補正処理後の第1移動量Z1´又は第2移動量X1´、Y1´に基づいて前記入力操作に応じた入力処理を実行する。
【0053】
具体的には、表示装置1は、前記入力操作が仮想操作面R2に対してユーザーの手を垂直方向(Z方向)に移動させる第1操作であると判定した場合に、第2移動量X1、Y1を減少又は無視する補正処理を実行する。また、表示装置1は、前記入力操作が仮想操作面R2に対してユーザーの手を水平方向(X方向及びY方向)に移動させる第2操作であると判定した場合に、第1移動量Z1を減少又は無視する補正処理を実行する。
【0054】
この構成によれば、ユーザーの意図しない方向への移動量を抑制することができるため、ユーザーの意図した操作に応じた入力処理を実行することができる。よって、ユーザーの仮想操作面R2に対する入力操作の位置ずれを抑制することが可能になる。
【0055】
本発明は上述の実施形態に限定されない。他の実施形態として、移動量補正部116は、入力操作判定部115により前記入力操作が前記第1操作であると判定された場合において、前記カーソル画像が前記選択対象画像に重ならない場合に、第2移動量X1、Y1を減少又は無視する補正処理を実行せず、前記カーソル画像が前記選択対象画像に重なる場合に、第2移動量X1、Y1を減少又は無視する補正処理を実行する構成であってもよい。
【0056】
例えば図3に示すように、ユーザーが手を左方向に動かして前記カーソル画像が「注文」の選択ボタン画像に重なった場合、ユーザーは「注文」を押下(選択)する操作を意図していると考えられる。そこで、制御部11は、前記カーソル画像が「注文」の選択ボタン画像に重なった場合に、第2移動量X1、Y1を減少又は無視する補正処理を実行する。これにより、ユーザーの意図した操作を確実に受け付けることができる。これに対して、前記カーソル画像が「注文」の選択ボタン画像に重なっていない場合にはユーザーが手をさらに左右方向へ動かすことが考えられるため、制御部11は、第2移動量X1、Y1を減少又は無視する補正処理を実行しない。
【0057】
[仮想操作面設定方法]
操作面設定部111は、ユーザーの所定のジェスチャー操作に基づいて所望の大きさの仮想操作面R2を所望の位置に設定してもよい。
【0058】
具体的には、操作面設定部111は、ユーザーのジェスチャー操作を検出する。具体的には、操作面設定部111は、モーションセンサ15から取得する検知情報に基づいて、前記ジェスチャー操作を検出する。例えば、操作面設定部111は、前記検知情報に含まれる座標情報に基づいてユーザーの手の形状を特定して、記憶部12に予め登録された複数のジェスチャー操作のうち該当するジェスチャー操作を特定する。
【0059】
操作面設定部111は、ユーザーの所定の第1ジェスチャー操作を検出した場合に、当該第1ジェスチャー操作に応じた領域を表示画面13Aに対するユーザーの入力操作を受け付ける仮想操作面R2として設定する。なお、操作面設定部111は、前記第1ジェスチャー操作が所定時間継続して行われた場合に仮想操作面R2を設定してもよい。前記第1ジェスチャー操作は、例えば左手LH及び右手RHのそれぞれの掌を表示画面13Aに向けて翳す操作である。すなわち、前記第1ジェスチャー操作は、ユーザーが仮想操作面R2を設定するための設定操作である。
【0060】
例えば図8に示すように、ユーザーが左手LHの掌を左上の任意の位置で表示画面13Aに翳し、右手RHの掌を右下の任意の位置で表示画面13Aに翳すと、操作面設定部111は、モーションセンサ15から取得する検知情報に基づいて、左手LHの座標P1と、右手RHの座標P2と、左手LH及び右手RHを翳す第1ジェスチャー操作とを検出する。操作面設定部111は、第1ジェスチャー操作を検出すると、左手LHの座標P1と右手RHの座標P2とに基づいて仮想操作面R2を設定する。
【0061】
例えば図8に示すように、操作面設定部111は、左手LHの位置(座標P1)と右手RHの位置(座標P2)とを結ぶ線を対角線とする矩形の仮想操作面R2を設定する。具体的には、操作面設定部111は、左手LHの座標P1及び右手RHの座標P2に基づいて矩形の角部の座標C21~C24(図2参照)を算出して仮想操作面R2を設定する。
【0062】
また、例えば、操作面設定部111は、表示画面13Aから所定距離L1だけ離れた位置に仮想操作面R2を設定する。なお、所定距離L1は、左手LHの座標P1(Z座標)及び右手RHの座標P2(Z座標)に対応する距離である。
【0063】
また、例えば、操作面設定部111は、縦横比が表示画面13Aの縦横比と同一比率の仮想操作面R2を設定してもよい。具体的には、図9に示すように、操作面設定部111は、表示画面13Aの縦横比(H1:W1)と仮想操作面R2の縦横比(H2:W2)とが同一(H1:W1=H2:W2)となる仮想操作面R2を設定する。
【0064】
このように、表示画面13A(操作領域R1)の大きさと仮想操作面R2の大きさは、同一であってもよいし異なってもよい。ここで、仮想操作面R2が操作領域R1よりも小さい場合は、大型の表示パネル13をユーザーの手元で操作する用途に好適である。これに対して、仮想操作面R2が操作領域R1よりも大きい場合は、小型の表示パネル13を離れた位置で操作する用途に好適である。
【0065】
また、図10に示すように、操作面設定部111は、表示画面13Aに対して平行でない所定角度d1を有する仮想操作面R2を設定してもよい。すなわち、仮想操作面R2は、表示画面13Aに対して斜め方向に設定されてもよい。例えば、操作面設定部111は、左手LHの座標P1(Z座標)と、右手RHの座標P2(Z座標)とに基づいて所定角度d1を設定する。これにより、ユーザーは表示画面13Aに対して斜め方向から入力操作を行うことが可能になる。なお、操作面設定部111は、所定角度d1の情報を表示画面13Aに表示させてもよい。これにより、ユーザーは表示画面13Aに対する仮想操作面R2の角度(傾き度合い)を把握することができる。
【0066】
また、操作面設定部111は、表示画面13Aの一部の領域に対応する仮想操作面R2を設定してもよい。例えば図11に示すように、操作面設定部111は、表示画面13Aの一部(左側領域)の操作領域R1に対応する仮想操作面R2を設定する。操作領域R1の位置及び大きさは、ユーザーの設定操作により設定することが可能である。なお、仮想操作面R2を設定するユーザーが操作領域R1を把握し易いように、操作面設定部111は、仮想操作面R2を設定する際に、図12に示すように、操作領域R1を示すオブジェクト画像T1を表示画面13Aに表示させてもよい。
【0067】
なお、操作面設定部111は、周知の座標変換(射影変換、アフィン変換など)を利用して、第1ジェスチャー操作に対応する座標に基づいて表示画面13Aの操作領域R1に関連付けられた仮想操作面R2を設定することができる。
【0068】
また、操作面設定部111は、設定した仮想操作面R2を調整する処理を実行してもよい。具体的には、操作面設定部111は、仮想操作面R2が設定された後にユーザーの所定の第2ジェスチャー操作を検出した場合に、第2ジェスチャー操作に基づいて仮想操作面R2の大きさ及び位置の少なくともいずれかを変更する。前記第2ジェスチャー操作は、例えば右手RHによる指差し操作(図13参照)である。
【0069】
例えば図13に示すように、仮想操作面R2が設定された後にユーザーが右手RHで表示画面13Aを指差し操作した場合に、操作面設定部111は、モーションセンサ15から取得する検知情報に基づいて、右手RHの座標P3と、右手RHによる指差し操作の第2ジェスチャー操作とを検出する。操作面設定部111は、前記第2ジェスチャー操作を検出すると、右手RHの座標P3に基づいて仮想操作面R2を移動可能に設定し、ユーザーによる仮想操作面R2の移動操作を受け付ける。例えばユーザーが右手RHを指差しの状態のまま左方向に動かすと、操作面設定部111は、仮想操作面R2を右手RHの移動量に応じた分だけ左方向に移動させる。すなわち、操作面設定部111は、移動後の右手RHの座標P3に仮想操作面R2を設定する。
【0070】
また、例えば図14に示すように、仮想操作面R2が設定された後にユーザーが左手LHを翳したまま右手RHの拳を握る操作をした場合に、操作面設定部111は、モーションセンサ15から取得する検知情報に基づいて、左手LHの座標P1と、右手RHの座標P2と、左手LHを翳し右手RHを握る第2ジェスチャー操作とを検出する。操作面設定部111は、前記第2ジェスチャー操作を検出すると、右手RHの座標P2に基づいて仮想操作面R2の大きさを変更可能に設定し、ユーザーによる仮想操作面R2の大きさの変更操作を受け付ける。例えばユーザーが右手RHを拳を握ったまま右下方向に動かすと、操作面設定部111は、仮想操作面R2を右手RHの移動量に応じた分だけ大きさ(面積)を拡大する。すなわち、操作面設定部111は、左手LHの座標P1と移動後の右手RHの座標P2により規定される仮想操作面R2を設定する。
【0071】
図15に示す例では、仮想操作面R2が設定された後にユーザーが右手RHを翳したまま左手LHの拳を握る操作をした場合の例を示している。この場合、操作面設定部111は、モーションセンサ15から取得する検知情報に基づいて、左手LHの座標P1と、右手RHの座標P2と、右手RHを翳し左手LHを握る第2ジェスチャー操作とを検出する。操作面設定部111は、前記第2ジェスチャー操作を検出すると、左手LHの座標P1に基づいて仮想操作面R2の大きさを変更可能に設定し、ユーザーによる仮想操作面R2の大きさの変更操作を受け付ける。例えばユーザーが左手LHを拳を握ったまま右下方向に動かすと、操作面設定部111は、仮想操作面R2を左手LHの移動量に応じた分だけ大きさ(面積)を縮小する。すなわち、操作面設定部111は、右手RHの座標P2と移動後の左手LHの座標P1により規定される仮想操作面R2を設定する。
【0072】
なお、操作面設定部111は、仮想操作面R2が設定された後に前記第2ジェスチャー操作を検出した場合に、仮想操作面R2を示すオブジェクト画像T2を前記第2ジェスチャー操作に応じて表示画面13Aに表示させてもよい。図16には、大きさが変更された後の仮想操作面R2を示すオブジェクト画像T2の一例を示している。この構成によれば、ユーザーは、仮想操作面R2の変更後の大きさ、位置などを視覚的に把握することが可能になる。
【0073】
なお、本発明の表示装置は、各請求項に記載された発明の範囲において、以上に示された各実施形態を自由に組み合わせること、或いは各実施形態を適宜、変形又は一部を省略することによって構成されることも可能である。
【符号の説明】
【0074】
1 :表示装置
11 :制御部
12 :記憶部
13 :表示パネル
13A :表示画面
14 :操作部
15 :モーションセンサ
111 :操作面設定部
112 :入力操作検出部
113 :入力処理部
114 :移動量取得部
115 :入力操作判定部
116 :移動量補正部
LH :左手
RH :右手
P1 :座標
P2 :座標
R1 :操作領域
R2 :仮想操作面
図1
図2
図3
図4
図5A
図5B
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16