(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024005440
(43)【公開日】2024-01-17
(54)【発明の名称】入出力装置、入出力方法、及びプログラム
(51)【国際特許分類】
G06F 3/041 20060101AFI20240110BHJP
G06F 3/0487 20130101ALI20240110BHJP
【FI】
G06F3/041 520
G06F3/041 580
G06F3/0487
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022105618
(22)【出願日】2022-06-30
(71)【出願人】
【識別番号】000136136
【氏名又は名称】株式会社PFU
(72)【発明者】
【氏名】宮野 翔吾
(72)【発明者】
【氏名】前川 惇彦
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA42
5E555AA62
5E555BA31
5E555BB31
5E555BC20
5E555CA12
5E555CA42
5E555CB22
5E555EA22
5E555FA00
(57)【要約】 (修正有)
【課題】空中操作面への操作位置とディスプレイの反応位置との位置ズレを補正する入出力装置を提供する。
【解決手段】入出力装置1は、コンテンツを表示する表示面と、表示面とは異なる位置で、表示されたコンテンツに対するユーザの動作を検知する検知部7と、ユーザを撮影する撮影部(カメラ5)と、撮影部(カメラ5)により撮影されたユーザの画像に基づいて、検知部7により検知された検知位置又は表示面に表示されるコンテンツの位置を補正する補正部と、撮影部(カメラ5)により撮影された撮影画像からユーザの目を特定する目特定部と、を有する。補正部は、目特定部が特定した撮影画像におけるユーザの目の位置又はユーザの目までの距離に基づいて、検知部7により検知された検知位置を補正する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
コンテンツを表示する表示面と、
前記表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知部と、
前記ユーザを撮影する撮影部と、
前記撮影部により撮影されたユーザの画像に基づいて、前記検知部により検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正部と
を有する入出力装置。
【請求項2】
前記撮影部により撮影された撮影画像からユーザの目を特定する目特定部
をさらに有し、
前記補正部は、前記目特定部により特定された撮影画像におけるユーザの目の位置、又はユーザの目までの距離に基づいて、前記検知部により検知された検知位置を補正する
請求項1に記載の入出力装置。
【請求項3】
前記補正部は、前記目特定部により特定されたユーザの目の位置、目までの距離、及び、前記検知部による前記表示面における検知位置の領域に基づいて、補正量を決定する
請求項2に記載の入出力装置。
【請求項4】
前記検知部は、前記表示面から1cm以上5cm以下手前でユーザの動作を検知し、
前記補正部は、前記表示面の上部、中央部及び下部で、補正量を決定する
請求項1に記載の入出力装置。
【請求項5】
前記目特定部により特定された目の間隔に基づいて、前記表示面から目までの距離を算出する相対位置算出部
をさらに有し、
前記補正部は、前記相対位置算出部により算出された前記表示面から目までの距離に基づいて、補正量を決定する
請求項3に記載の入出力装置。
【請求項6】
前記撮影部は、操作時にユーザを撮影し、
前記補正部は、前記撮影部により撮影された画像に基づいて操作位置を補正する
請求項1に記載の入出力装置。
【請求項7】
コンテンツを表示する表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知ステップと、
前記ユーザを撮影する撮影ステップと、
前記撮影ステップにより撮影されたユーザの画像に基づいて、前記検知ステップにより検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正ステップと
を有する入出力方法。
【請求項8】
コンテンツを表示する表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知ステップと、
前記ユーザを撮影する撮影ステップと、
前記撮影ステップにより撮影されたユーザの画像に基づいて、前記検知ステップにより検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正ステップと
をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入出力装置、入出力方法、及びプログラムに関する。
【背景技術】
【0002】
例えば、特許文献1には、液晶表示パネルの表示面に透明なタッチセンサパネルを積層した、液晶表示パネルの表示手段及び透明なタッチセンサパネルの入力手段と、ペン等による位置情報の指示手段とを具備し、表示された図形をペン等で指し示して入力する情報処理装置において、上記タッチセンサパネルの近傍に所要の間隔で配設された複数のマイクにより入力される音声入力手段と、各々のマイクから入力された音声波形の位相のずれにより音源の位置を特定する音源位置特定回路と、補正量設定回路とを有し、音源からの音声によってタッチセンサパネルに対する操作者の方向を検出し、視差の補正を行うことを特徴とする情報処理装置における入力機能付き表示装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
空中操作面への操作位置とディスプレイの反応位置との位置ズレを補正する入出力装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明に係る入出力装置1は、コンテンツを表示する表示面と、前記表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知部と、前記ユーザを撮影する撮影部と、前記撮影部により撮影されたユーザの画像に基づいて、前記検知部により検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正部とを有する。
【0006】
好適には、前記撮影部により撮影された撮影画像からユーザの目を特定する目特定部をさらに有し、前記補正部は、前記目特定部により特定された撮影画像におけるユーザの目の位置、又はユーザの目までの距離に基づいて、前記検知部により検知された検知位置を補正する。
【0007】
好適には、前記補正部は、前記目特定部により特定されたユーザの目の位置、目までの距離、及び、前記検知部による前記表示面における検知位置の領域に基づいて、補正量を決定する。
【0008】
好適には、前記検知部は、前記表示面から1cm以上5cm以下手前でユーザの動作を検知し、前記補正部は、前記表示面の上部、中央部及び下部で、補正量を決定する。
【0009】
好適には、前記目特定部により特定された目の間隔に基づいて、前記表示面から目までの距離を算出する相対位置算出部をさらに有し、前記補正部は、前記相対位置算出部により算出された前記表示面から目までの距離に基づいて、補正量を決定する。
【0010】
好適には、前記撮影部は、操作時にユーザを撮影し、前記補正部は、前記撮影部により撮影された画像に基づいて操作位置を補正する。
【0011】
本発明に係る入出力方法は、コンテンツを表示する表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知ステップと、前記ユーザを撮影する撮影ステップと、前記撮影ステップにより撮影されたユーザの画像に基づいて、前記検知ステップにより検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正ステップとを有する。
【0012】
本発明に係るプログラムは、コンテンツを表示する表示面とは異なる位置で、表示された前記コンテンツに対するユーザの動作を検知する検知ステップと、前記ユーザを撮影する撮影ステップと、前記撮影ステップにより撮影されたユーザの画像に基づいて、前記検知ステップにより検知された検知位置、又は、前記表示面に表示されるコンテンツの位置を補正する補正ステップとをコンピュータに実行させる。
【発明の効果】
【0013】
空中操作面への操作位置とディスプレイの反応位置との位置ズレを補正する入出力装置を提供する。
【図面の簡単な説明】
【0014】
【
図1】各身長のユーザにおける、視線と空中操作面13の反応位置とのズレを説明するイメージ図である。
【
図2】(a)は、入力装置1を横から見た場合の構成を例示する図であり、(b)は、入出力装置1をユーザ側から見た構成を例示する図である。
【
図3】入出力装置1のハードウェア構成を例示する図である。
【
図5】空中操作面13とディスプレイ3の4隅との視差のズレ量を例示する図である。
【
図6】入出力装置1による位置ズレ補正処理(S10)を説明する図である。
【発明を実施するための形態】
【0015】
[背景]
本発明がなされた背景を説明する。
KIOSK端末などを非接触化する目的として、空中で指先検知を行うことで画面にタッチすることなくパネル操作を行う機器が増えている。この指先が所定の位置にあるかどうかを検知するために赤外線センサや、静電容量式センサ、カメラによる3次元座標で検知する方式がある。既存のタッチパネル製品に対して空中で非接触操作を行うためのセンサを後付けする場合には、表示面に対して平行に操作面が空中にできる形となる。
コンビニのKIOSK端末などのディスプレイは正面から見て斜めとなって設置されている。通常のタッチパネル操作では画面を真正面から見ない場合でも、空中操作面の反応する位置は視線上同じ位置であるため、問題は生じない。
一方、空中に非接触入力のために操作面を浮かび上がらせた場合、どんな人でも、ディスプレイに対して操作しようとした場合、ディスプレイと反応部において視差が発生する。そのため、選択ボタンをタッチしようとした場合、空中操作の高さとの視線位置ズレによって、狙った場所に対してズレが発生する。
【0016】
そこで、入出力装置1は、
図2に例示するように、ディスプレイ3に設置したカメラ5を用いて、ユーザの目の位置及びディスプレイ3からの距離を推測し、推測した距離に基づいて、ユーザの目線位置から見たディスプレイ3と空中操作面13との位置ズレを補正し、身長の違いなどによる使用し辛さを解消する。
【0017】
本発明の実施形態を、図面を参照して説明する。
図1は、低身長から高身長までの人がKIOSK端末を操作する場合、ディスプレイ3に表示されるコンテンツをタッチしようとした際に、空中操作面13のどの部分を選択してしまうかを例示するイメージ図である。
図1に例示するように、低身長の人は、ディスプレイ3上部のコンテンツに対し、大きく下を選択し、ディスプレイ3中央部のコンテンツに対し、やや下を選択し、ディスプレイ3下部のコンテンツに対し、やや上を選択してしまう。
また、中くらいの身長の人は、ディスプレイ3上部のコンテンツに対し、やや下を選択し、ディスプレイ3中央部のコンテンツに対してはズレることなく選択し、ディスプレイ3下部のコンテンツに対し、やや上を選択してしまう。
さらに、高身長の人は、ディスプレイ3上部のコンテンツに対してはズレることなく選択し、ディスプレイ3中央部のコンテンツに対してはやや上を選択し、ディスプレイ3下部のコンテンツに対し、大きく上を選択してしまう。
したがって、視差のズレ量は、ユーザの目の位置と、ディスプレイ3の上部、中央部、及び下部それぞれの位置とで変わる。すなわち、入出力装置1が、ユーザの目の中間点と、ディスプレイ3との相対位置を算出し、算出した相対位置に基づいて、ユーザの視線と空中操作面13との反応位置の誤差をリアルタイムに補正することで、ユーザは、違和感なく操作が可能となる。
【0018】
図2は、入出力装置1の構成を例示する図である。
図2(a)及び(b)に例示するように、入出力装置1は、KIOSK端末であり、ディスプレイ3と、カメラ5と、検知部7と、筐体9と、筐体9内に収納される制御部11と、空中操作面13とを有する。
ディスプレイ3は、筐体9の上側(表側)の開口部分に蓋をするように、取り付けられて固定され、コンテンツを表示する。ディスプレイ3は、本発明に係る表示面の一例である。
検知部7は、ディスプレイ3とは異なる位置で、ディスプレイ3に表示されたコンテンツに対するユーザの動作を検知する。具体的には、検知部7は、ディスプレイ3から1cm以上5cm以下手前でユーザの動作を検知する、より具体的には、検知部7は、センサであり、ディスプレイ3の1cm以上3cm以下手前で指先操作を検知する。
カメラ5は、ユーザを撮影する撮影装置であり、筐体9内に配置され、入出力装置1のユーザの顔を撮影する。カメラ5は、本発明に係る撮影部の一例である。
筐体9は、制御部11を収納する。
制御部11は、ソフトウェアが内蔵され、カメラ5、ディスプレイ3、及び検知部7と有線又は無線で接続され、カメラ5により撮影されたユーザの目の位置に応じて、ディスプレイ3と、空中操作面13との位置ズレを補正する。
空中操作面13は、検知部7による、ディスプレイ3に表示されたコンテンツに対するユーザの動作を検知可能な範囲である。
【0019】
図3は、入出力装置1のハードウェア構成を例示する図である。
図3に例示するように、入出力装置1は、CPU100、メモリ102、不揮発性のメモリ104、ネットワークインタフェース106(ネットワークIF106)、ディスプレイ3、カメラ5、及び検知部7を有し、これらの構成はバス108を介して互いに接続している。
CPU100は、例えば、中央演算装置である。
メモリ102は、例えば、揮発性メモリであり、主記憶装置として機能する。
不揮発性メモリ104は、例えば、不揮発性の記憶装置としてコンピュータプログラム(例えば、
図4の位置ズレ補正プログラム12)を格納する。
ネットワークIF106は、有線又は無線で通信するためのインタフェースである。
ディスプレイ3は、表示面の一例であり、例えば、液晶タッチパネルである。
カメラ5は、ユーザを撮影する撮影装置である。
検知部7は、例えば、静電容量式タッチパネルである。
【0020】
図4は、制御部11の機能構成を例示する図である。
図4に例示するように、制御部11には、位置ズレ補正プログラム12がインストールされる。位置ズレ補正プログラム12は、顔検出部120、目特定部122、マップ作成部124、相対位置算出部126、マップ切替え部128、及び補正部130を有し、補正部130には、補正量決定部132、及びズレ補正部134が含まれる。
顔検出部120は、カメラ5による撮影範囲内にユーザの顔が納まっているか否かを判定し、収まっている場合に、カメラ5によりユーザの顔を撮影する。
【0021】
目特定部122は、顔検出部120により撮影された顔画像に基づいて、ユーザの目を特定する。具体的には、目特定部122は、ユーザの右目及び左目を特定する。より具体的には、目特定部122は、右目と左目の中間位置を特定する。
マップ作成部124は、あるユーザの目の中間位置である基準位置に対して、ディスプレイ3内の位置(例:100×100ならば1000カ所)のズレ量のマップを作成する。 具体的には、マップ作成部124は、基準位置とディスプレイ3の4隅と空中操作面13の視差のズレ量を計算する。
図5に例示するように、ディスプレイ3の4隅のズレ量は、空中操作面13と交わる点で定まり、ディスプレイ3の4隅がそれぞれの方向で最大のズレとなる。より具体的には、マップ作成部124は、基準位置との距離や位置関係を変えることで、ディスプレイ3内のそれぞれの位置でのズレ量のマップを作成する。
【0022】
相対位置算出部126は、目の間隔に基づいて、ディスプレイ3からユーザの目までの距離を算出する。
マップ切替え部128は、目の基準位置(目の中間位置)とディスプレイ3との相対位置に基づいて、ズレ量のマップを切り替える。
補正部130は、カメラ5により撮影されたユーザの画像に基づいて、検知部7により検知された検知位置、又は、ディスプレイ3に表示されるコンテンツの位置を補正する。具体的には、補正部130は、カメラ5がユーザの操作時に撮影した画像に基づいて、操作位置を補正する。
補正量決定部132は、ユーザの目の位置、ユーザの目までの距離、及びディスプレイ3における検知位置の領域に基づいて、補正量を決定する。具体的には、補正量決定部132は、ユーザ目の位置と、ディスプレイ3の上部、中央部、及び下部との相対位置に基づいて、補正量を決定する。より具体的には、補正量決定部132は、マップ切替え部128により切り替えられたズレ量のマップに基づいて、補正量を決定する。
ズレ補正部134は、補正量決定部132により決定された補正量に基づいて、指の検知位置に対してズレ補正を行う。
なお、位置ズレ補正プログラム12の一部又は全部は、ASICなどのハードウェアにより実現されてもよく、また、OS(Operating System)の機能を一部借用して実現されてもよい。
【0023】
図6は、入出力装置1による位置ズレ補正処理(S10)を説明するフローチャートである。
図6に例示するように、ステップ100(S100)において、マップ作成部124は、あるユーザの目の基準位置に対して、ディスプレイ3内の各位置のズレ量のマップを作成する。
ステップ105(S105)において、顔検出部120は、ユーザの顔がカメラ5の撮影範囲内に収まっているか否かを判定する。撮影範囲内に収まっている場合に、S110へ移行し(S105:Yes)、撮影範囲内に収まっていない場合に、ユーザの顔が撮影範囲内に収まるまで待機する(S105:No)。
ステップ110(S110)において、顔検出部120は、カメラ5によりユーザの顔を撮影し、目特定部122は、撮影画像におけるユーザの右目と左目の中間位置を基準位置として特定する。
【0024】
ステップ115(S115)において、相対位置算出部126は、目特定部122により特定された基準位置とディスプレイ3との相対距離を算出する。
ステップ120(S120)において、マップ切替え部128は、相対位置算出部126により算出された相対距離に応じたズレ量のマップに切り替える。
ステップ125(S125)において、位置ズレ補正処理(S10)は、検知部7により空中操作面13へのユーザの操作を検知した場合に、S130へ移行し(S125:Yes)、検知していない場合に待機する(S125:No)。
ステップ130(S130)において、補正量決定部132は、切替えられたズレ量のマップに基づいて補正量を決定し、ズレ補正部134は、補正量決定部132により決定された補正量で、検知部7により検知された位置を補正する。
ステップ135(S135)において、入力装置1は、補正した位置をディスプレイ3側の表示位置に合わせて、ディスプレイ3のタッチ操作と同様の処理を実施する。
【0025】
以上説明したように、本実施形態の入出力装置1は、ユーザの目の位置とディスプレイ3との距離に基づいて、空中操作面13とディスプレイ3との視差のズレ量を補正することができる。これにより、身長の異なるユーザが使用したとしても、空中操作面13への操作位置とディスプレイ3の反応部との視差を解消し、違和感のない操作が可能である。
また、ズレの補正は、ユーザの操作時に撮影された画像に基づいて、リアルタイムで行われるため、入力装置1を操作しているユーザに応じたズレの補正が可能である。
【符号の説明】
【0026】
1…入出力装置
3…ディスプレイ
5…カメラ
7…検知部
9…筐体
11…制御部
12…位置ズレ補正プログラム
13…空中操作面
120…顔検出部
122…目特定部
124…マップ作成部
126…相対位置算出部
128…マップ切替え部
130…補正部
132…補正量決定部
134…ズレ補正部