IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 岡田 憲司の特許一覧

特開2022-182141携帯情報端末装置及びそのプログラム
<>
  • 特開-携帯情報端末装置及びそのプログラム 図1
  • 特開-携帯情報端末装置及びそのプログラム 図2
  • 特開-携帯情報端末装置及びそのプログラム 図3
  • 特開-携帯情報端末装置及びそのプログラム 図4
  • 特開-携帯情報端末装置及びそのプログラム 図5
  • 特開-携帯情報端末装置及びそのプログラム 図6
  • 特開-携帯情報端末装置及びそのプログラム 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022182141
(43)【公開日】2022-12-08
(54)【発明の名称】携帯情報端末装置及びそのプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20221201BHJP
   G06F 3/0485 20220101ALI20221201BHJP
   G06Q 30/06 20120101ALI20221201BHJP
   H04M 1/724 20210101ALI20221201BHJP
【FI】
G06F3/01 570
G06F3/0485
G06Q30/06 340
H04M1/724
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2021089508
(22)【出願日】2021-05-27
(71)【出願人】
【識別番号】519429059
【氏名又は名称】岡田 憲司
(74)【代理人】
【識別番号】100150430
【弁理士】
【氏名又は名称】河野 元
(74)【代理人】
【識別番号】100217191
【弁理士】
【氏名又は名称】林 信吾
(72)【発明者】
【氏名】岡田 憲司
【テーマコード(参考)】
5E555
5K127
5L049
【Fターム(参考)】
5E555AA10
5E555AA12
5E555BA06
5E555BA45
5E555BB06
5E555BC17
5E555BE12
5E555CA12
5E555CA42
5E555CB66
5E555CC26
5E555DA02
5E555DB03
5E555DC02
5E555DD02
5E555DD07
5E555EA22
5E555EA25
5E555FA00
5K127AA11
5K127BA03
5K127CB02
5K127JA25
5L049BB66
(57)【要約】
【課題】視認性を確保しつつ、操作性を向上し得る携帯情報端末装置及びそのプログラムを提供する。
【解決手段】実施形態のスマホ10では、インストールされた閲覧操作補助アプリにより、バックカメラ16が撮像した所定期間内に含まれる一連の画像情報にスマホ10の使用者の手等の画像が含まれていると制御ユニットが判定し、且つ、一連の画像情報に基づいて所定期間内における手等の動きが予め定められた第1動作であると判定した場合、制御ユニットは、ディスプレイ11に現在表示されているコンテンツを他のコンテンツの表示に切り替える。例えば、使用者がスマホ10を左手90Lで保持している場合には、右手90Rをスマホ10の裏側面10Bにかざして所定動作(例えば左右に振る動作)を行うことで、ディスプレイ11に表示されているコンテンツが右手90Rにより隠れることなく他のコンテンツに切り替えられる。
【選択図】図1
【特許請求の範囲】
【請求項1】
ディスプレイを有する面の裏側面にカメラを備えた携帯情報端末装置であって、
前記カメラが撮像した所定期間内に含まれる一連の画像情報にヒトの手又は指(以下「手等」という)の画像が含まれていると、前記一連の画像情報に基づいて前記所定期間内における前記手等の動きが予め定められた所定動作であるか否かを判定する動作判定手段と、
前記手等の動きが前記所定動作であると前記動作判定手段が判定した場合に前記ディスプレイに現在表示されているコンテンツを他のコンテンツの表示に切り替えるコンテンツ切替手段と、
を備える、ことを特徴とする携帯情報端末装置。
【請求項2】
前記ディスプレイに現在表示されているコンテンツの表示態様に関する制御を行う表示制御手段をさらに備え、
前記動作判定手段は、前記所定動作に加えて、前記所定期間内において前記手等の動きが前記所定動作以外の予め定められた他の所定動作であるか否かを判定し、
前記表示制御手段は、前記手等の動きが前記他の所定動作であると前記動作判定手段が判定した場合に前記コンテンツの表示態様に関する制御を行う、ことを特徴とする請求項1に記載の携帯情報端末装置。
【請求項3】
前記他のコンテンツが複数存在し、且つ、前記手等の動きが前記所定動作であると前記コンテンツ切替手段が複数回連続して判定してその判定ごとに複数の前記他のコンテンツの表示が順番に切り替えられる場合において、
前記コンテンツ切替手段は、複数の前記他のコンテンツのうち、前記ディスプレイに次に表示する予定の次表示コンテンツが前記ディスプレイに既に表示された表示済みコンテンツと同じ内容であるときには、前記次表示コンテンツに代えて、前記次表示コンテンツの次に表示する予定の前記他のコンテンツに切り替えて前記ディスプレイに表示する、ことを特徴とする請求項1又は請求項2に記載の携帯情報端末装置。
【請求項4】
ディスプレイを有する面の裏側面にカメラを備えた携帯情報端末装置を制御するコンピュータを、
前記カメラが撮像した所定期間内に含まれる一連の画像情報にヒトの手又は指(以下「手等」という)の画像が含まれていると、前記一連の画像情報に基づいて前記所定期間内における前記手等の動きが予め定められた所定動作であるか否かを判定する動作判定手段、
前記手等の動きが前記所定動作であると前記動作判定手段が判定した場合に前記ディスプレイに現在表示されているコンテンツを他のコンテンツの表示に切り替えるコンテンツ切替手段、
として機能させる、ことを特徴とするプログラム。
【請求項5】
前記コンピュータをさらに、
前記ディスプレイに現在表示されているコンテンツの表示態様に関する制御を行う表示制御手段として機能させ、
前記動作判定手段は、前記所定動作に加えて、前記所定期間内において前記手等の動きが前記所定動作以外の予め定められた他の所定動作であるか否かを判定し、
前記表示制御手段は、前記手等の動きが前記他の所定動作であると前記動作判定手段が判定した場合に前記コンテンツの表示態様に関する制御を行う、ことを特徴とする請求項4に記載のプログラム。
【請求項6】
前記他のコンテンツが複数存在し、且つ、前記手等の動きが前記所定動作であると前記コンテンツ切替手段が複数回連続して判定してその判定ごとに複数の前記他のコンテンツの表示が順番に切り替えられる場合において、
前記コンテンツ切替手段は、複数の前記他のコンテンツのうち、前記ディスプレイに次に表示する予定の次表示コンテンツが前記ディスプレイに既に表示された表示済みコンテンツと同じ内容であるときには、前記次表示コンテンツに代えて、前記次表示コンテンツの次に表示する予定の前記他のコンテンツに切り替えて前記ディスプレイに表示する、ことを特徴とする請求項4又は請求項5に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ディスプレイを有する面の裏側面にカメラを備えた携帯情報端末装置及びそのプログラムに関するものであり、特にスマートフォン等に適用することができる。
【背景技術】
【0002】
近年の携帯情報端末装置はタッチパネルを備えている。タッチパネルは、ディスプレイ上に配置される透明フィルムタイプのポインティングデバイスであり、タッチスクリーン、タッチ画面や接触画面等と呼ばれる場合もある。このようなタッチパネルを備えた携帯情報端末装置では、例えば、特許文献1に開示されているように、指やスタイラスをディスプレイ(正確にはディスプレイ上のタッチパネル)に接触させた後、そのままその指等を所定方向に向けて滑らせるように動かすことによって、ディスプレイに表示されているコンテンツ等をその方向に移動させたり当該装置に所定の動作を行わせたりし得るように構成されている。このような操作はスワイプやスライドジェスチャーと呼ばれる。
【0003】
ところで、スマートフォンは、昨今の携帯情報端末装置の代表例であり、本来の電話機能に加えて、インターネットを利用したり付属のカメラで風景等を撮影したりすることが可能な機能も有するため、多機能デバイスとして利用価値が高い。特に、インターネットを利用するシーンでは、検索したウェブサイトのコンテンツを閲覧したりウェブサイトがEC(Electronic Commerce;電子商取引)サイトである場合には販売されている商品を購入したりすることも可能である。そのため、スマートフォンのディスプレイには、より多くの情報が表示された方が望ましいものの、携帯性を考慮するとディスプレイのサイズには限度がある。
【0004】
そこで、スマートフォン等においては、下記特許文献1に開示されているような技術等を利用することで、ディスプレイサイズの都合から一度にはディスプレイに表示できない複数のコンテンツの一部をスワイプの操作方向に移動させて表示範囲外に移すことによって他のコンテンツの表示を可能にしている。これにより、例えば、スマートフォンの使用者は、ディスプレイを左右方向や上下方向にスワイプすることによって、サムネイルのようにディスプレイに縮小画像表示された多数のコンテンツや商品の情報を左右や上下にスクロールさせて順番に目視確認することが可能になる。また、詳細を知りたいコンテンツや商品については、その縮小表示をタップすることにより詳細情報をディスプレイに表示することが可能になる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特表2010-515978号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
このようにスマートフォン等の携帯情報端末装置においては、使用者がディスプレイを指等でスワイプしたりタップしたりすることによって、表示サイズよりも携帯性が重視された小型ディスプレイであっても多くの情報の表示を可能にしているが、操作面において次のような問題がある。例えば、多数のコンテンツ等の縮小画像の中から、あるコンテンツの縮小画像を選択して詳細情報を表示させたところ、その詳細情報が期待していた内容と異なっていた場合には、再度、指等でディスプレイをタップして多数の縮小画像を表示させる「戻り操作」を行ったり、また別のコンテンツの縮小画像をタップして詳細情報を表示させる「選択操作」を行ったりする必要が生じる。
【0007】
つまり、従来の携帯情報端末装置においては、目的のコンテンツや商品等の情報が見つかるまでの間、使用者は何度もディスプレイをスワイプしたりタップしたりして選択操作や戻り操作を繰り返し行う必要があり、目的の情報に到達するまでの操作が煩雑で使用者に面倒に感じさせ得るという問題があった。
【0008】
また、タッチパネルはディスプレイ上に配置されることから、ディスプレイを指やスタイラス等でスワイプしたりタップしたりすると、ディスプレイに表示されているコンテンツや情報の一部がスワイプ等をするその手により隠れてしまい使用者から見え辛くなる場合がある。そのため、ディスプレイの視認性が損なわれ得るという問題も生じていた。
【0009】
本発明は、上述した課題を解決するためになされたものであり、視認性を確保しつつ、操作性を向上し得る携帯情報端末装置及びそのプログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
上記目的を達成するため、第1発明の携帯情報端末装置は特許請求の範囲に記載された請求項1の技術的手段を採用する。また第4発明のプログラムは特許請求の範囲に記載された請求項4の技術的手段を採用する。これらの手段によると、第1発明や第4発明においては、携帯情報端末装置やそれを制御するコンピュータのプログラムは、カメラが撮像した所定期間内に含まれる一連の画像情報にヒト(典型的には、当該携帯情報端末装置の使用者)の手又は指(以下[課題を解決するための手段]及び[発明の効果]の欄において「手等」という)の画像が含まれており、且つ、一連の画像情報に基づいて所定期間内における手等の動きが予め定められた所定動作であると動作判定手段が判定した場合、コンテンツ切替手段は、ディスプレイに現在表示されているコンテンツを他のコンテンツの表示に切り替える。
【0011】
これにより、例えば、当該携帯情報端末装置の使用者は、例えば、ディスプレイをスワイプしたりタップしたりする代わりに、所定動作になるようにカメラに撮像されている手等を動かすことによって、現在、ディスプレイ表示されているコンテンツを他のコンテンツの表示に切り替えることが可能になる。例えば、使用者が当該携帯情報端末装置を左手で保持している場合には、右手を当該携帯情報端末装置の裏側面にかざして所定動作を行うことによって、ディスプレイに表示されているコンテンツ等が手等により隠れることなくコンテンツの切替え操作を行うことが可能になる。尚、本明細書でいう「カメラ」は、主に、被写体画像を固体撮像素子に結像させるデジタル式カメラを意味する。
【0012】
また、第2発明の携帯情報端末装置は特許請求の範囲に記載された請求項2の技術的手段を採用する。また第5発明のプログラムは特許請求の範囲に記載された請求項5の技術的手段を採用する。これらの手段によると、さらに表示制御手段を備え、動作判定手段は、所定動作に加えて、所定期間内において手等の動きが所定動作以外の予め定められた他の所定動作であるか否かを判定する。そして、手等の動きが他の所定動作であると動作判定手段が判定した場合、表示制御手段は、コンテンツの表示態様に関する制御を行う。これにより、例えば、当該携帯情報端末装置の使用者は、ディスプレイをスワイプしたりタップしたりする代わりに、カメラに撮像されている手等の動きが他の所定動作になるように動かすことによって、現在、ディスプレイ表示されているコンテンツをディスプレイの上下方向や左右方向にスクロール表示させたり拡大や縮小表示させたりする等の表示態様の制御を行うことが可能になる。
【0013】
さらに、第3発明の携帯情報端末装置は特許請求の範囲に記載された請求項3の技術的手段を採用する。また第6発明のプログラムは特許請求の範囲に記載された請求項6の技術的手段を採用する。これらの手段によると、他のコンテンツが複数存在し、且つ、手等の動きが所定動作であるとコンテンツ切替手段が複数回連続して判定してその判定ごとに複数の他のコンテンツの表示が順番に切り替えられる場合において、コンテンツ切替手段は、複数の他のコンテンツのうち、ディスプレイに次に表示する予定の次表示コンテンツがディスプレイに既に表示された表示済みコンテンツと同じ内容であるときには、次表示コンテンツに代えて、次表示コンテンツの次に表示する予定の他のコンテンツに切り替えてディスプレイに表示する。これにより、既に表示された表示済みコンテンツと同じ内容のコンテンツはディスプレイに表示されないことから、同じ内容のコンテンツが表示されてしまうのを防止することができる。つまり、既に閲覧したコンテンツを再度見せてしまい当該携帯情報端末装置の使用者にガッカリ感や無駄な時間を消費したイメージを与えるような事態を未然に防ぐことが可能になる。
【0014】
また、裏面側のカメラが撮像した所定期間内に含まれる一連の画像情報に、制御条件を満たした画像(画像情報、特定画像)が含まれているか否かを判定する画像判定手段を備えるように構成してもよい。また、カメラが撮像した所定期間内に含まれる一連の画像情報にヒト(典型的には、当該携帯情報端末装置の使用者)の手又は指の画像が含まれていると画像判定手段が判定し、且つ、一連の画像情報に基づいて所定期間内における手等の動きが予め定められた所定動作であると動作判定手段が判定した場合、コンテンツ切替手段は、ディスプレイに現在表示されているコンテンツを他のコンテンツの表示に切り替えるように構成してもよい。
【0015】
ここで、「制御条件を満たした画像(特定画像)」とは、本発明のコンテンツの表示制御を実行するうえで設定した撮像領域内で、携帯情報端末装置の裏側面のカメラが適正な画像であると認識した画像(一連の画像情報)をいう。また、画像判定手段や動作判定手段は、予め定めた撮像領域内で画像を認識すれば、ヒトの手又は指の画像でなくとも(例えば、スタイラスや他の物の画像であっても)、対象画像として認識し、ディスプレイに表示されるコンテンツの表示制御を実行可能とする。しかしながら、少なくとも、ヒトの手又は指の画像を対象画像として認識可能であることが好ましい。またこのような構成に加えて、画像判定手段に一定の条件を加える(例えば、形状条件や温度条件等)ことで、ヒトの手又は指、若しくは、これに近いもの(すなわち、ヒトの手又は指と共通する一定の条件を満たすもの)を認識した場合にのみ、ディスプレイに表示されるコンテンツの表示制御を行うものとしてもよい。
【0016】
また、本発明では、携帯情報端末装置の裏側面のカメラで、ヒトの手又は指の画像を撮像して(検知して)、ディスプレイに表示されるコンテンツの表示制御を行うことを想定している。そのため、撮像した画像を、適正な画像として認識可能な撮像領域を、携帯情報端末装置の裏側面のカメラからの距離(奥行距離)が約0cm~約25cmの間の範囲に設定している。更に好適には、撮像領域を約1cm~約15cmの間に設定してもよい。
【0017】
尚、この撮像領域は、携帯情報端末装置が備える裏面側のカメラの性能等に応じて適切に設定すればよく、本発明は、このような特定範囲(約0cm~約25cm)に限定されるものではない。しかしながら、カメラから近すぎる距離では、手等の動きとして多様な動きを認識(識別)するのが困難となり、カメラから遠すぎる距離では、使用者が意図しない他の画像情報(例えば、使用者でない他人の動き等)を認識してしまうおそれがあるため、例えば、前述したような特定範囲(約0cm~約25cm)に限定するのが好適である。
【発明の効果】
【0018】
本発明の携帯情報端末装置やそれを制御するコンピュータのプログラムによると、使用者は、例えば、ディスプレイをスワイプしたりタップしたりする代わりにカメラに撮像されている手等の動きが所定動作や他の所定動作になるように動かしたりすることによって、現在、ディスプレイ表示されているコンテンツを他のコンテンツの表示に切り替えたり、ディスプレイの上下方向や左右方向にスクロール表示させたり拡大や縮小表示させたりする等の表示態様の制御を行ったりすることが可能になる。例えば、使用者が当該携帯情報端末装置を一方の手(例えば左手)で保持している場合には、他方の手(例えば右手)を当該携帯情報端末装置の裏側面にかざして所定動作や他の所定動作を行うことにより、ディスプレイに表示されているコンテンツ等が手等で隠れることなくコンテンツの切替え操作やコンテンツの表示態様に関する制御を行うことが可能になる。したがって、目的の情報に到達するまでの操作をディスプレイの裏側において手等の動きだけで可能にするので、視認性を確保しつつ、操作性を向上することができる。
【図面の簡単な説明】
【0019】
図1】本発明の携帯情報端末装置やそのプログラムを適用した一実施形態のスマートフォン(以下「スマホ」という)と、それを保持して操作する使用者の手や指を示す説明図である。
図2】本実施形態のスマホの機能的な構成例を示すブロック図である。
図3】本実施形態のスマホにより実行される閲覧操作補助アプリケーションプログラムの処理の流れを示すフローチャートである。
図4図3に示す閲覧操作補助アプリケーションプログラムのサブルーチンの流れを示すフローチャートであり、(A)は第1動作処理を表し、(B)は第2動作処理を表したものである。
図5】本実施形態のスマホのディスプレイに表示されるコンテンツの例を示す説明図である。(A)は「椅子」を検索した結果の表示例を表し、(B)は、(A)の検索結果から、ある椅子のコンテンツを選択した場合の表示例を表し、(C)は、第1動作処理により(B)から関連商品のコンテンツに移行した場合の表示例を表し、(D)は、第2動作処理により(B)の表示を上方向にスクロールした場合の表示例を表したものである。
図6】スマホにスクローラを取り付けた状態を表した図である。(A)はスマホの表側面からスマホ及びスクローラを見た平面図、(B)は(A)に示す6B-6B線においてスマホ及びスクローラを切断した状態を表した断面図、(C)は(A)に表されている矢印6Cの方向から見た側面図、スマホ及びスクローラを見た底面図、(D)は(C)の側面図においてスマホにスクローラを取り付け途中又は取り外し途中の状態を表した底面図である。
図7図6(B)に示す断面図相当において、スクローラを構成するローラ部の作動例を示す説明図である。(A)は使用者が指でローラ部を同図において反時計回り方向に回転させる場合を表し、(B)は(A)の状態からローラ部の角部がタッチパネルに当接した直後を表し、(C)は(B)の状態からローラ部の回転を進めたことにより角部がタッチパネルに押圧されて潰れた状態を表し、(D)は(C)の状態からローラ部の回転を進めたことにより潰れていた角部が元の形に戻った直後を表す。
【発明を実施するための形態】
【0020】
次に、本発明の携帯情報端末装置やそのプログラムを適用した各実施形態について各図を用いて説明する。まず、図1及び図2を参照して本実施形態のスマホ10の構成について説明する。
【0021】
図1に示すように、スマホ10は、一般に市販されているものであり、使用者が片手(同図では左手90L)で保持可能な長方形状の薄板状を有する本体ケース10aと、この本体ケース10aの内側や外側に設けられるディスプレイ11、タッチパネル12や制御ユニット20等により構成されている。
【0022】
スマホ10の表側面10Fには、本体ケース10aに形成された矩形状の枠穴にディスプレイ11が装着されているとともにスピーカ14やフロントカメラ15が設けられている。また裏側面10Bにはバックカメラ16が設けられており、さらに下端側面にはマイク13が設けられている。タッチパネル12は、ディスプレイ11の表面に、ディスプレイ11とほぼ一体に設けられる。そのため、同図においては、ディスプレイ11とタッチパネル12は、同じ矩形状で重なって表現されていることに注意されたい(灰色に着色された部分)。
【0023】
図2に示すように、ディスプレイ11、タッチパネル12やフロントカメラ15等は、本体ケース10aに収容された制御ユニット20に電気的に接続されて制御されている。制御ユニット20は、MPU21やメモリ25等を有するメインボードであり、ディスプレイ11等のほかに無線ユニット17、各種センサ18、バッテリ19や、さらには図示しない、メモリカードやSIMカード等が電気的に接続されている。
【0024】
ディスプレイ11は、例えば、縦横比が16:9の6インチ型サイズの液晶表示装置であり、制御ユニット20から出力される画像情報を表示可能に構成されている。タッチパネル12は、ディスプレイ11とほぼ同サイズでディスプレイ表面のほぼ前面に設けられる透明フィルムタイプのポインティングデバイスであり、使用者が指やスタイラスを接触させたディスプレイ11上の位置情報を制御ユニット20に出力可能に構成されている。タッチパネル12はタッチスクリーンや接触画面等と呼ばれる場合もある。位置検知は、例えば、抵抗膜方式、静電容量方式や超音波表面弾性波方式等が用いられる。
【0025】
マイク13やスピーカ14は、電話機能の通話時に使用されたり、アプリケーションプログラム(アプリケーションソフトウェアともいう。これらをまとめて以下「アプリ」という)による録音やオーディオ出力に使用されたりする。マイク13は、使用者の音声等を収集して制御ユニット20に音響情報を出力可能に構成されており、またスピーカ14は、制御ユニット20から出力される音響情報を外部に出力可能に構成されている。
【0026】
フロントカメラ15及びバックカメラ16は、CCDやCMOS等の固体撮像素子と光学レンズを有する撮像装置であり、撮像した画像情報を制御ユニット20に出力可能に構成されている。フロントカメラ15は、スマホ10の表側面10Fに設けられて、例えば、使用者の顔等を撮影可能に構成されている。またバックカメラ16は、スマホ10の裏側面10Bに設けられて、例えば、風景等を撮影可能に構成されている。フロントカメラ15はインカメラ、バックカメラ16はアウトカメラ、と呼ばれる場合もある。
【0027】
無線ユニット17は、移動体通信事業者(MNO)の無線通信回線網を介して音声通信やデータ通信可能に構成されている無線送受信装置であり、制御ユニット20により通話やデータ通信の制御が行われる。図示しないSIMカードには、無線通信時に使用される当該スマホ10に固有の識別情報等が格納されている。各種センサ18は、GPSセンサ、加速度センサ、照度センサ、温度センサ等であり、いずれも検知データを制御ユニット20に出力可能に構成されている。
【0028】
バッテリ19は、外部から供給される直流電力により充電可能な二次電池(例えば、リチウムイオン電池)であり、制御ユニット20やディスプレイ11等に駆動電力を供給可能に構成されている。バッテリ19の充放電情報も制御ユニット20に出力されており、例えば、制御ユニット20により充電や放電の管理を可能に構成されている。
【0029】
制御ユニット20は、MPU21、GPU(Graphics Processing Unit)23、メモリ25等により構成されている。MPU21は、マイクロコンピュータであり、例えば、メモリ25に格納されたAndroid(登録商標)やiOS(登録商標)等のOS(基本ソフトウェア)が実行されることにより上述したディスプレイ11等のハードウェアを制御したり、次に説明する閲覧アプリや閲覧操作補助アプリを実行したりすることができるように構成されている。GPU23は、後述する画像データ解析処理等に用いられる。このように構成される一般的なスマホ10には、[発明が解決しようとする課題]の欄で述べたように、目的の情報に到達するまでの操作が煩雑で使用者に面倒に感じさせ得るという問題や、ディスプレイ11の視認性が損なわれ得るという問題等がある。
【0030】
そこで、本実施形態のスマホ10では、これらの問題を解決し得る閲覧操作補助アプリがインストールされている。この閲覧操作補助アプリでは、例えば、手等の動きとして、右手90Rを左右に振る動作(第1動作)をバックカメラ16が撮影(撮像)すると、ディスプレイ11に現在表示されている内容を他の表示内容に切り替えたり、また手等の動き、右手90Rを上下に振る動作(第2動作)をバックカメラ16が撮影すると、ディスプレイ11に現在表示されている内容を上方向(又は下方向)にスクロールしたりするようにスマホ10を制御する。ここからは、このような閲覧操作補助アプリに関する図3図5も参照しながら説明する。
【0031】
尚、閲覧操作補助アプリのファイルは、例えば、無線ユニット17の機能により行われる無線通信回線網を介したデータ通信によってダウンロードされて制御ユニット20のメモリ25にインストールされたり、また予め当該メモリ25にインストールされていたりする。閲覧操作補助アプリは、単独で実行される場合もあるが、例えばウェブブラウザやファイルブラウザ(ファイルマネージャ)と連携して機能する場合もある。即ち、閲覧操作補助アプリは、汎用のプラグイン対応の閲覧アプリ(例えば、Google Chrome(登録商標)、Safari(登録商標)、Microsoft Edge(登録商標)、Internet Explorer(登録商標)等)のサブルーチンとして機能する場合もある。この場合、閲覧操作補助アプリは、所定のプラグイン形式に従った実行ファイルであり、これらの閲覧アプリにプラグインされて呼び出されるごとに実行される。
【0032】
また、閲覧操作補助アプリの実行に先立って、前述した第1動作及び第2動作や、それらの動作を行う右手90Rや左手90Lを予め制御ユニット20のメモリ25に登録する必要がある。登録処理の流れについては説明を省略するが、閲覧操作補助アプリが有する機能により行われる。例えば、ディスプレイ11に現在表示されている内容を他の表示内容に切り替えるための第1動作として、使用者が自分の右手90R(又は左手90L)を左右に振る動作とその動作を行う右手90R(又は左手90L)を登録する。また、ディスプレイ11に現在表示されている内容の表示態様に関する制御(例えば上方向のスクロール)を行うための第2動作として、右手90R(又は左手90L)を上下に振る動作とその動作を行う右手90R(又は左手90L)を登録する。
【0033】
右手90R(又は左手90L)を振る方向は、バックカメラ16に予め設定(定義)されている上下左右の各方向に従う。例えば、図1に示すように、バックカメラ16がスマホ10の上方に位置し且つディスプレイ11が使用者側に向く状態で当該使用者がスマホ10を保持している場合においては、スマホ10は、当該スマホ10の長手方向上方を「上」、同長手方向下方を「下」、同短手方向右方を「右」、同短手方向左方を「左」にそれぞれ設定している。そのため、例えば、スマホ10を図1に示す状態から時計回り方向に90度回転させた状態で使用者に保持されている場合においては、当該使用者が自分の上(下)方向に右手90Rを振る動きは左(右)方向に右手90Rを振る動きとして、また左(右)方向に右手90Rを振る動きは下(上)方向に右手90Rを振る動きとして、後述する動作解析処理(S105)により解析される。
【0034】
尚、右手90Rや左手90Lではなく、それらの指(例えば人差し指や親指等)の動きやその指を登録してもよいし、右手90Rや左手90Lに代えて、例えば、右手90Rで持ったスタイラスやタッチペンの動きや、その動きをさせるスタイラス等を登録してもよい。尚、右手90R、左手90L、それらの指、それの手で持ったスタイラスやタッチペン等を総称して、以下[発明を実施するための形態]の欄において「手等」という。
【0035】
図3に示すように、制御ユニット20によって実行される閲覧操作補助アプリは、まずステップS101により所定の初期化処理が行われる。この初期化処理では、例えば、メモリ25のワーク領域やフラグ等のクリアが行われるほか、バックカメラ16による動画撮影が開始される。撮像された画像データは、予め定められた所定期間(例えば1~2秒間)内の動画データである。
【0036】
次のステップS102では画像データ取得処理が行われる。この画像データは、バックカメラ16により所定期間内に撮像された一連の画像情報であり、所定期間内の動画データから、コマ送り若しくはコマ落とし又はコマ飛ばしでキャプチャされた(切り出された)複数の静止画像からなる一連の静止画像情報である。尚、ステップS103の画像データ解析処理において動画解析が可能な場合には、一連の画像情報はビデオキャプチャされた所定期間の動画像情報でもよい。
【0037】
例えば、図1に示すように、使用者が左手90Lで当該スマホ10を保持した状態でディスプレイ11を見ている場合には、右手90Rでタッチパネル12をスワイプしたりタップしたりすることが多い。そこで、閲覧操作補助アプリでは、スマホ10を左手90L(又は右手90R)で保持している場合に空いている右手90R(又は左手90L)の動きをバックカメラ16で撮像する。
【0038】
使用者が手掌をバックカメラ16に向けて、例えば、右手90Rを左右(図1に示す矢印方向)に振った場合には、その右手90R,90R’の動く様子が撮られた一連の静止画像情報がステップS102により取得される。そのため、続くステップS103の画像データ解析処理では、これら一連の静止画像情報に右手90Rの画像情報が含まれているか否かの解析が行われる。この画像データ解析処理(S103)は、主にGPU23により行われる。
【0039】
ステップS103による画像データ解析処理では、例えば、公知の画像解析手法としてパターンマッチングが用いられる。パターンマッチングによる画像解析では、例えば、使用者の右手90Rの画像情報をテンプレート画像情報として予めメモリ25に登録し、比較対象となる一連の静止画像情報のそれぞれとテンプレート画像とのマッチング判定が行われる。この画像データ解析処理では、例えば、一連の静止画像情報のうちテンプレート画像情報と一致していると判定された静止画像情報の割合を得る。
【0040】
ステップS104では一連の静止画像情報に使用者の手(図1の例では右手90R)等が含まれているか否かを判定する処理が行われる。先のステップS103では、テンプレート画像情報と一致していると判定された静止画像情報の割合が得られるため、ここでは、その割合が所定値以上である場合には一連の静止画像情報に手等が含まれていると判定し、所定値未満である場合には手等が含まれていないと判定する。所定値は、ステップS103による画像データ解析処理の解析精度に基づいて予め定められており、例えば70~90%の範囲において任意に設定される。
【0041】
ステップS104の判定処理によって、一連の静止画像情報に手等が含まれていると判定された場合には(S104;YES)、続くステップS105による動作解析処理が行われる。これに対して、一連の静止画像情報に手等が含まれていないと判定された場合には(S104;NO)、バックカメラ16により撮られた画像には、例えば、右手90R以外のものが写っている蓋然性が高いことから、再度、ステップS102に処理を移行して、今回以後の所定期間内に撮像された画像データを取得する。
【0042】
ステップS105では動作解析処理が行われる。この処理では、ステップS102により取得された一連の静止画像情報に含まれる右手90R等の画像がどのような動き(動作)を行っているかについて解析が行われる。この処理も、ステップS103の画像データ解析処理と同様に、例えば、公知の画像解析手法としてパターンマッチングが用いられて主にGPU23により行われる。尚、ステップS103の画像データ解析処理において、ステップS105による動作解析処理と同内容の解析処理が併せて行われる場合には、当該動作解析処理(S105)は省略してもよい。
【0043】
前述したように本実施形態では、第1動作及び第2動作は予め制御ユニット20のメモリ25に登録されている。そのため、例えば、第1動作として、使用者が自分の右手90R等を左右に振る動作が登録されている場合、この動作解析処理では、その右手90R等の動きのコマ送り等でキャプチャされた複数の静止画像をテンプレート画像情報として、比較対象となる一連の静止画像情報のそれぞれとテンプレート画像とのマッチング判定が行われる。また例えば、第2動作として、使用者が自分の右手90R等を上下に振る動作が登録されている場合には、この処理では、その右手90R等の動きのコマ送り等でキャプチャされた複数の静止画像をテンプレート画像情報として、比較対象となる一連の静止画像情報のそれぞれとテンプレート画像とのマッチング判定が行われる。
【0044】
そして、この動作解析処理(S105)においては、マッチング判定結果として、第1動作と第2動作のいずれに一致しているか、又は第1動作と第2動作のいずれにも一致していないか、が得られる。そのため、続くステップS106の動作判定処理により、登録済みの動作(第1動作と第2動作)か否かと、登録済みの動作である場合には第1動作と第2動作のいずれかの判定が行われる。
【0045】
また、このステップS105による動作解析処理では、右手90R等の手等を振る動作において手等を振る方向とその振る速さが解析される。例えば、右手90R等を左右に振る動作が行われていた場合、手等を振る方向として「左右」という方向情報が解析により得られる。また手等が左から右に(右方向に)移動するときの速さと右から左に(左方向に)移動するときの速さとを比較することにより、左右の方向による速度の大小関係の情報も解析により得られる。右手90R等を上下に振る動作が行われていた場合も、同様に、手等を振る方向として「上下」という方向情報が解析により得られ、また手等が上方向に移動するときの速さと下方向に移動するときの速さとを比較することにより上下の方向による速度の大小関係の情報が解析により得られる。これら手等を振る方向とその振る速さの情報は、後述する第2動作処理(S108,図4(B))において使用される。
【0046】
ステップS106の動作判定処理によって、右手90R等の画像に基づく動作が第1動作(例えば右手90Rを左右に振る動作)に一致すると判定された場合には(S106;YES(第1動作))、ステップS107の第1動作処理に移行し、また右手90R等の画像に基づく動作が第2動作(例えば右手90Rを上下に振る動作)に一致すると判定された場合には(S106;YES(第2動作))、ステップS108の第2動作処理に移行する。これらに対して、右手90R等の画像に基づく動作(例えば右手90Rを斜めに振る動作等)が第1動作及び第2動作のいずれにも一致しないと判定された場合には、バックカメラ16により撮像された動作は、予め定められている所定動作等と異なる。つまり、使用者の右手90R等の動作に誤りがある可能性が高い。そのため、ステップS102に戻って今回以後の所定期間内に撮像された画像データを取得する。
【0047】
第1動作処理(S107)及び第2動作処理(S108)のフローチャートは、図4に図示されている。また、これらの処理によりディスプレイ11に表示されるコンテンツの例を示す説明図が図5に図示されている。
【0048】
図4(A)に示すように、第1動作処理(S107)では、まずステップS201によりコンテンツ情報取得処理が行われる。コンテンツは情報の内容や中身のことであり、コンテンツ情報は当該コンテンツに関する情報(例えば、当該コンテンツが存在するURL等のアドレス情報、ファイル名、ファイル種別、ファイルサイズ、作成年月日、紐付け(関連付け)られている他のコンテンツ情報、等)のことである。ここでは、閲覧アプリから、現在、ディスプレイ11に表示されているコンテンツの情報を取得する。
【0049】
例えば、図5(A)に示すように、スマホ10において、インターネットにより閲覧アプリを介して提供されている検索エンジンの検索ボックス70に「椅子」を入力して検索すると、検索結果がディスプレイ11の画面に表示される。この例では、複数のリコメンド商品(推奨商品)の縮小画像情報71a,71b,71cがお勧め順に画面の左側から右側に向かって横並びに表示されている。尚、同図においては、これらの縮小画像情報71a等のうちディスプレイサイズの都合から画面に表示しきれない縮小画像情報71cの一部や表示できない非表示情報79については、ディスプレイ11の右外側に薄い灰色に着色されて表現されている。非表示情報79は、画面表示を左方向にスクロールすることにより表示される。
【0050】
また、画面の縮小画像情報71a~71cの下には「椅子」を販売する通販サイトの概要情報73が文字情報として表示されている。図5(A)では図示されていないが、検索結果として、ディスプレイ11には表示されていない通販サイト等の複数の概要情報73が検索上位順に表示され得るようにインターネットから取得されており、同図に表示されてない概要情報73は、画面表示を上方向にスクロールすることにより表示される。
【0051】
これら縮小画像情報71a~71cや概要情報73等がディスプレイ11に表示された後、使用者が指やスタイラス又はタッチペンでタッチパネル12を介して「オフィス用スタッキングチェア」の縮小画像情報71aを選択した場合には、例えば、図5(B)に示すように、当該スタッキングチェアの詳細情報74aがコンテンツとして表示される。この場合、ステップS201では、コンテンツ情報として、ディスプレイ11に表示されている当該スタッキングチェアの詳細情報74aに関する情報が取得される。そして、この取得されたコンテンツ情報に基づいて、続くステップS202により次コンテンツ、即ち今回はまだ閲覧されてないコンテンツが有るか否かを判定する処理が行われる。
【0052】
図5(B)に示す当該スタッキングチェアのコンテンツの例では、上方向にスクロールすると、図5(D)に示すように、続けてディスプレイ11に現れる詳細情報74a’の「★★★関連商品★★★」の欄に表示される複数の関連商品情報75a,75b,75c(「運搬台車」、「2脚セット」や「5脚セット」)が他のコンテンツ情報として紐付けられている。このように、現在、閲覧しているコンテンツやスクロールすると閲覧できるコンテンツ(以下「閲覧コンテンツ等」という)に他のコンテンツ情報が紐付けられている場合には、次コンテンツが存在する。そのため、ステップS202では、次コンテンツが有ると判定し(S202;YES)、次のステップS203により次コンテンツの情報を閲覧アプリから、又は閲覧アプリを介してインターネットから取得する処理が行われる。
【0053】
そして、続くステップS205により既出のコンテンツと同じであるか否かを判定する処理が行われる。即ち、次コンテンツが今回以前、つまり前回までに閲覧されている場合にその閲覧済みのコンテンツをディスプレイ11に再度表示すると、使用者は、既に閲覧したコンテンツを再び見ることになり、当該使用者にガッカリ感や無駄な時間を消費したイメージを与えてしまう虞がある。また、閲覧中のコンテンツαが次コンテンツβにおいて紐付けられている場合には、コンテンツα→コンテンツβ→コンテンツα→コンテンツβ→…というように閲覧の無限ループを構成してしまう。
【0054】
このため、本実施形態では、ステップS205により、次コンテンツが前回までに閲覧したコンテンツと同じであるか否かを判定する処理を行う。そして、次コンテンツが既出(既閲覧)のコンテンツと同じである場合には(S205;YES)、ステップS202に戻って別の次コンテンツが存在するか否かを判定し、同じでない場合には(S205;NO)、ステップS206に処理を移行する。
【0055】
これらのコンテンツが同じであるか否かの判定は、例えば、コンテンツのアドレス情報、ファイル名、ファイルサイズ、作成年月日等のコンテンツ情報に基づいて行われ、これらのコンテンツ情報が同一であれば、これらは同じコンテンツであると判定する。また、過去に閲覧されたコンテンツが制御ユニット20のキャッシュメモリやクッキーファイル等に保存されている場合には、同一のコンテンツがこれらのキャッシュメモリ等に存在すれば、これらは同じコンテンツであると判定する。
【0056】
これにより、前回までに閲覧したコンテンツが再度、ディスプレイ11に表示されることがないため、上記のような問題の発生を回避することが可能になる。尚、このような問題の発生よりも、既出のコンテンツを再度、閲覧できるように構成することにメリットがある場合には、当該判定処理(S205)は不要になる。そのため、この場合にはステップS205の判定処理を削除する。
【0057】
一方、ステップS202により、次コンテンツが無いと判定した場合(S202;NO)、即ち閲覧コンテンツ等の関連商品情報75a~75cのような他のコンテンツ情報が紐付けられていない場合には、ステップS204に処理を移行する。そして、次コンテンツが存在しないことを表すエンド情報(所定データや所定フラグ)をメモリ25から取得する処理が行われた後、ステップS206に処理を移す。
【0058】
尚、ステップS201により取得されたコンテンツ情報に他のコンテンツ情報が紐付けられていない場合において、例えば、現在、ディスプレイ11に表示されているコンテンツと表示階層(又はデータ階層)上、同例に存在する他のコンテンツを、次コンテンツとして、ステップS202により次コンテンツが有ると判定してもよい。
【0059】
例えば、図5(B)に示す当該スタッキングチェアの詳細情報74aにおいて他のコンテンツ情報が紐付けられていない場合、コンテンツを一つ前の時点(又は表示階層の一つ上)のコンテンツに戻って、図5(A)に表されている当該スタッキングチェアの縮小画像情報71aと同列に表示される他の縮小画像情報71b,71cを次コンテンツとして選択してもよい。例えば、お勧め順(画面の左側から右側)に従って縮小画像情報71aの右隣に表示される縮小画像情報71bの「GAMING CHAIR」のコンテンツを選択した場合には、同画面において「GAMING CHAIR」の縮小画像情報71を選択したときと同様に、図5(B)に示すようなスタッキングチェアの詳細情報74aや図5(C)に示すような運搬台車の詳細情報74bと同じ表示形式で「GAMING CHAIR ゲーミングチェア」の詳細情報が表示される。
【0060】
ステップS206では表示情報出力処理が行われる。この処理は、ステップS203により取得された次コンテンツ情報、又はステップS204により取得されたエンド情報を閲覧アプリに出力するものである。次コンテンツ情報が閲覧アプリに出力されると、閲覧アプリは、次コンテンツ情報に基づいて他のコンテンツのデータをインターネットから(又は先読み込み等により他のコンテンツのデータが既にダウンロードされている場合にはそれをメモリ25から)取得して、現在、ディスプレイ11に表示しているコンテンツを、他のコンテンツの表示に切り替える処理を行う。つまり、閲覧アプリは、閲覧操作補助アプリからの指示を受けて、使用者が行った第1動作に対応してディスプレイ11の表示内容を他のコンテンツに切り替える。
【0061】
例えば、図5(D)に示す当該スタッキングチェアの詳細情報74a’においては、複数の関連商品情報75a~75cとして「運搬台車」、「2脚セット」及び「5脚セット」のコンテンツの縮小画像が紐付けられているため、閲覧アプリは、閲覧操作補助アプリの指示を受け、ディスプレイ11における表示順(画面の左側から右側に向けて)にこれらのコンテンツを他のコンテンツとしてディスプレイ11に表示する。この例では、画面の左端に表示されている関連商品情報75aは「運搬台車」のコンテンツの縮小画像であることから、それにリンクされているコンテンツ(次コンテンツ)として、使用者が行った第1動作に対応してディスプレイ11には「スタッキングチェア用 運搬台車」の詳細情報74bが表示される(図5(C)参照)。
【0062】
これに対して、エンド情報が閲覧アプリに出力された場合には、閲覧コンテンツ等に紐付けられている次コンテンツがなく、閲覧アプリは他のコンテンツ情報を得られないことから、ディスプレイ11の表示を他のコンテンツに切り替えることはできない。そのため、このような場合には、例えば、閲覧アプリは、使用者が第1動作を行っても、現在、ディスプレイ11に表示されているコンテンツをそのまま維持したり、切り替えるコンテンツが存在しない旨の情報をディスプレイ11に表示したりする。
【0063】
ステップS206による処理が終了すると、一連の第1動作処理を終えて図3に示す閲覧操作補助アプリのメインルーチンに戻る。そして、再びステップS102に処理を移行して、今回以後の所定期間内に撮像された画像データを取得する。つまり、使用者が次に行う手等の動きに備える。
【0064】
図4(B)に示すように、第2動作処理(S108)では、まずステップS301により手等情報取得処理が行われる。手等情報は、前述の図3に示す動作解析処理(S105)により得られている手等を振る方向とその振る速さの情報である。一般的にヒトが方向を意識して手等を振る場合、その方向に振るときの速度の方が、振った後に手等を戻すために逆向きに振るときの速度よりも速くなる。そのため、これらの情報から、速度が大きい方向(上>下の場合は上方向、上<下の場合は下方向)に向けて手等が振られていること、つまり手等の動作方向がわかる。
【0065】
したがって、次のステップS302による判定処理により、上方向に向けて手等が振られていると判定された場合には(S302;上方向)、ステップS303に処理を移行して上スクロール設定処理が行われる。また、同判定処理により、下方向に向けて手等が振られていると判定された場合には(S302;下方向)、ステップS304に処理を移行して下スクロール設定処理が行われる。これらの設定処理(S303,S304)では、例えば、スクロール方向(上方向又は下方向)とそのスクロール量とが含まれるスクロールコマンドが出力バッファにセットされる処理が行われる。スクロール量は、予め設定されている所定量であり、例えば、スクロール方向(この場合、上下方向)に対するディスプレイ11の幅(この場合、上下方向幅)とほぼ同じ値又は僅かに小さい値、つまり画面上下方向のほぼ1ページ相当分に設定される。
【0066】
ステップS305ではスクロールコマンド出力処理が行われる。この処理は、ステップS303やステップS304によりセットされたスクロールコマンドを閲覧アプリに出力するものである。スクロールコマンドが閲覧アプリに出力されると、閲覧アプリは、現在、ディスプレイ11に表示しているコンテンツを上方向又は下方向に向けて所定量だけスクロールする。これにより、ディスプレイ11に表示されているコンテンツを上方向又は下方向に画面上下方向ほぼ1ページ分、スクロールすることが可能になる。
【0067】
例えば、図5(B)に示す当該スタッキングチェアのコンテンツの例においては、閲覧アプリは、ディスプレイ11に表示されている詳細情報74aを下方向に画面上下方向ほぼ1ページ分だけスクロールさせる。これにより、図5(D)に示すように、スクロール後にディスプレイ11に表示されている詳細情報74a’においては、スクロール前に画面の最下方に位置していた「★★★関連商品★★★」の表示が、画面の最上方に位置するように表示されるとともに、スクロール前には表示されていなかった複数の関連商品情報75a~75cが「★★★関連商品★★★」の下に表示される。また、「<<< 商品の詳細情報 >>>」として、型番、サイズ、重量、カラー、材質、機能や注意事項、「<<< 商品レビュー >>>」の一部も表示される。
【0068】
ステップS305による処理が終了すると、一連の第2動作処理を終えて図3に示す閲覧操作補助アプリのメインルーチンに戻り、再度、ステップS102に処理を移行して、今回以後の所定期間内に撮像された画像データを取得する。つまり、使用者が次に行う手等の動きに備える。
【0069】
尚、本実施形態の閲覧操作補助アプリでは、汎用の閲覧アプリにプラグインされてそのサブルーチンとして機能する場合を例示して説明したが、これに限られることはなく、例えば、スマホ10に専用の閲覧アプリの一機能として、当該閲覧アプリに、閲覧操作補助アプリの機能(図3,4)を予め組み込んで構成してもよい。
【0070】
以上説明したように本実施形態のスマホ10では、それにインストールされた閲覧操作補助アプリが閲覧アプリを介して又は直接的に制御ユニット20を制御することにより、バックカメラ16が撮像した所定期間内に含まれる一連の画像情報に当該スマホ10の使用者の手等の画像が含まれていると制御ユニット20が判定し(S104;YES)、且つ、一連の画像情報に基づいて所定期間内における手等の動きが予め定められた第1動作(所定動作)であると制御ユニット20が判定した場合(S106;YES(第1動作))、制御ユニット20は、ディスプレイ11に現在表示されている詳細情報74aを関連商品情報75a~75cの表示に切り替える(S206)。
【0071】
これにより、例えば、当該スマホ10の使用者は、ディスプレイ11をスワイプしたりタップしたりする代わりに、バックカメラ16に撮像されている手等の動きが第1動作になるように手等を動かすことによって、現在、ディスプレイ11に表示されている詳細情報74aを関連商品情報75a~75cの表示に切り替えることが可能になる。例えば、使用者がスマホ10を左手90L(又は右手90R)で保持している場合には、右手90R(又は左手90L)を当該スマホ10の裏側面10Bにかざして所定動作を行うことによって、ディスプレイ11に表示されているコンテンツ等が右手90R(又は左手90L)により隠れることなくコンテンツの切替え操作を行うことが可能になる。したがって、目的の情報に到達するまでの操作をディスプレイ11の裏側において右手90R(又は左手90L)の動きだけで可能にするので、視認性を確保しつつ、操作性を向上することができる。
【0072】
また、本実施形態のスマホ10では、制御ユニット20は、手等の動きが第2動作(他の所定動作)であると判定した場合(S106;YES(第2動作))、コンテンツの表示態様に関する制御として、ディスプレイ11の画面表示を上方向又は下方向にスクロールする。コンテンツの表示態様に関する制御は、例えば、現在、ディスプレイ11に表示されているコンテンツを左方向や右方向にスクロールしたり、同コンテンツの表示倍率を変更したり(拡大表示や縮小表示)してもよい。またディスプレイ11に表示されているコンテンツを一つ前の時点(又は表示階層の一つ上)のコンテンツに戻してもよい。
【0073】
これにより、例えば、当該スマホ10の使用者は、ディスプレイ11をスワイプする代わりに、バックカメラ16に撮像されている手等の動きが第2所定動作になるように動かすことによって、現在、ディスプレイ11に表示されているコンテンツをディスプレイ11の上下方向や左右方向にスクロール表示させたり、コンテンツを拡大や縮小表示させたり等、様々な表示態様の制御を行うことが可能になる。
【0074】
さらに、本実施形態のスマホ10では、ディスプレイ11に関連商品情報75(他のコンテンツ)が複数表示され、且つ、手等の動きが第1動作であると制御ユニット20が複数回連続して判定してその判定ごとに複数の関連商品情報75a~75cが順番に切り替えられる場合においては、例えば、制御ユニット20は、複数の関連商品情報75a~75cのうち、ディスプレイ11に次に表示する予定の関連商品情報75bのコンテンツがディスプレイ11に既に表示された表示済みコンテンツと同じ内容であるときには、この関連商品情報75bのコンテンツ(次表示コンテンツ)に代えて、これの次に表示する予定の関連商品情報75cのコンテンツ(次表示コンテンツの次に表示する予定の他のコンテンツ)に切り替えてディスプレイ11に表示する。これにより、表示済みコンテンツと同じ内容の詳細情報がディスプレイ11に表示されてしまうのを防止することができる。つまり、既に閲覧したコンテンツを再度見せてしまい使用者にガッカリ感や無駄な時間を消費したイメージを与えるような事態を未然に防ぐことが可能になる。
【0075】
尚、上述した閲覧操作補助アプリの実施形態では、閲覧コンテンツ等がリコメンド商品(推奨商品)の場合、それに紐付けられている他のコンテンツ情報として関連商品情報75a~75cを例示して説明したが、紐付けられている他のコンテンツ情報は、例えば、当該リコメンド商品を販売している企業情報や、当該企業が販売する他の製品情報等であってもよい。また、閲覧コンテンツ等は、閲覧アプリを使用してインターネットの検索エンジンにより提供されるリコメンド商品に限られることはなく、当該検索エンジンによる検索結果の情報に関連付けられてインターネットから提供されるテキストデータ、画像データ、動画データ等でもよい。また、閲覧アプリを使用してディスプレイ11で閲覧できる電子データであれば、例えば、当該スマホ10のメモリ25に記憶されているテキストデータ、画像データ、動画データ等でもよい。
【0076】
また、上述した閲覧操作補助アプリの実施形態では、第2動作に対応してディスプレイ11の画面表示を上方向や下方向にスクロールする例を説明したが、第2動作に対応したコンテンツの表示態様に関する制御であれば、例えば、現在、ディスプレイ11に表示されているコンテンツを左方向や右方向にスクロールしたり、同コンテンツの表示倍率を変更したり(拡大表示や縮小表示)してもよい。また、第2動作に対応してディスプレイ11に表示されているコンテンツを一つ前の時点(又は表示階層の一つ上)のコンテンツに戻し得るように閲覧操作補助アプリを構成してもよい。尚、上下方向や左右方向のスクロールは、一定速度で連続してスクロールするように構成してもよいし、また第2動作において手等を動かす距離の大きさに対応してスクロールの速度を変更可能に構成してもよい。例えば、手等を動かす上下方向の移動距離が大きくなるほどスクロールが速くなり、小さくなるほどスクロールが遅くなるように構成する。
【0077】
さらに、上述した閲覧操作補助アプリの実施形態では、第1動作に対応してディスプレイ11の表示を他のコンテンツに切り替える例、また第2動作に対応してディスプレイ11の画面表示を上方向や下方向にスクロールする例を説明した。しかしこれらの他に、第3動作、第4動作や第5動作等を登録し、動作判定処理(S106)において、これらの動作に対応して、ディスプレイ11に表示されているコンテンツの表示態様を制御するように構成してもよい。
【0078】
例えば、第3動作は、右手90R(または左手90L)を斜め右上左下がりに振る動作、第4動作は、右手90R(または左手90L)を斜め左上右下がりに振る動作、第5動作は、右手90R(または左手90L)をスマホ10から離したり近づけたりする前後に動かす動作とする。第3動作に対応してディスプレイ11に表示されているコンテンツを左方向や右方向にスクロールしたり、第4動作に対応して同コンテンツの表示倍率を変更したり、第5動作に対応してディスプレイ11の表示を、同コンテンツから、一つ前の時点(又は表示階層の一つ上)のコンテンツに戻したりし得るように閲覧操作補助アプリを構成してもよい。また、ディスプレイ11に表示されているコンテンツが動画データの場合には、例えば、第2動作により動画を再生したり、再生されている動画を第3動作により停止させたり、第4動作により動画を早送りしたり、第5動作により動画を巻き戻ししたりし得るように閲覧操作補助アプリを構成してもよい。
【0079】
[その他の発明]
従来のスマートフォン等の携帯情報端末装置においては、使用者がディスプレイを指やスタイラス又はタッチペン(以下「指等」という)でスワイプしたりタップしたりすることによって、表示サイズよりも携帯性が重視された小型ディスプレイであっても多くの情報の表示を可能にしているが、操作面において次のような問題がある。一般に、携帯情報端末装置のディスプレイの表面は、写真や動画等の画像を綺麗に見せるために光沢処理が施されていたり、反射による眼の疲れを軽減するためにノングレア処理が施されていたりするが、いずれの場合も指等による触覚では平坦な面に感じてしまうことが多い(ノングレアでもザラザラ程度の感触に過ぎない)。
【0080】
このため、例えば、指等でディスプレイをスワイプする際には、マウスのスクロールホイールを回動させた場合に指に伝わるクリック感を与えることはできない。つまり、従来の携帯情報端末装置においては、例えば、ディスプレイをスワイプする場合に使用者に対してスワイプ量を感覚的に付与することはできていなかった。そこで、[その他の発明]においては、ディスプレイをスワイプする場合に使用者に対してスワイプ量を感覚的に付与し得る操作装置(「スクロール操作装置」ともいう)を提供する。
【0081】
[他の発明1]
ディスプレイの表面にタッチパネルを備えた携帯情報端末装置に装着して使用されるスクロール操作装置であって、
弾力性がある凸部を周方向ほぼ等間隔に外周に有するローラ部と、
前記ローラ部の両端を回動自在に支持する枠体部と、
前記ローラ部が回動した場合に前記凸部が前記タッチパネルに当接するように前記枠体部の両端又は一端を前記携帯情報端末装置に装着する支持部と、
を備える、ことを特徴とするスクロール操作装置。
[他の発明2]
前記他の発明1において、前記凸部は、前記ローラ部の軸方向に線条に存在している、ことを特徴とするスクロール操作装置。
[他の発明3]
前記他の発明1又は他の発明2において、前記枠体部は、前記ローラ部の回動に伴って、前記ローラ部に触れる使用者の指の触覚にクリック感を付与する機構、又は前記使用者の聴覚にクリック音を付与する機構を備える、ことを特徴とするスクロール操作装置。
【0082】
上記の他の発明1は、ディスプレイの表面にタッチパネルを備えた携帯情報端末装置に装着して使用されるスクロール操作装置であって、ローラ部、枠体部及び支持部を備えている。そして、弾力性がある凸部を周方向ほぼ等間隔に外周に有するローラ部は、その両端が回動自在に枠体部に支持され、枠体部は、ローラ部が回動した場合にローラ部の凸部がタッチパネルに当接するように枠体部の両端又は一端が支持部によって携帯情報端末装置に装着される。尚、回動は、ローラ部が正転方向に回転する場合と逆転方向に回転する場合の両方向に回転可能であることを意味する。尚、本他の発明のスクロール操作装置は、スクロール操作以外の操作(画面切替操作)も可能であるため、単に「操作装置」ともいう。
【0083】
これにより、携帯情報端末装置の使用者がマウスのスクロールホイールを回動させるように、指でローラ部を回動させることにより「ローラ部が周方向ほぼ等間隔に外周に有する凸部」が携帯情報端末装置のタッチパネルに不連続に当接する。そのため、タッチパネルに対しては指等で所定の短いストロークで小刻みにスワイプしたようにローラ部が当接し、また使用者の指に対してはローラ部の回動に伴い回動量に比例して発生する凸部の当接感が付与される。ローラ部の回動量は、小刻みにスワイプしたスワイプの合計量(小刻みスワイプの総量)であり、スワイプ量に相当し得る。また使用者は、断続的な凸部の当接感から感覚的にローラ部の回動量を把握することが可能である。したがって、ディスプレイをスワイプする場合に使用者に対してスワイプ量を感覚的に付与することができる。
【0084】
上記他の発明2では、ローラ部の凸部は、ローラ部の軸方向に線条に存在していることから、タッチパネルに対して広範囲にスワイプすることが可能になる。これにより、例えば、ローラ部の軸方向に対してローラ部の一部がタッチパネルから過剰に浮いているような不適切な状態で当該スクロール操作装置が携帯情報端末装置に装着されている場合でも、ローラ部の残部に存在する凸部をタッチパネルに当接させることが可能になる。したがって、このような不適切な装着状態においても、ディスプレイをスワイプする場合に使用者に対してスワイプ量を感覚的に付与することができる。
【0085】
上記他の発明3では、枠体部は、ローラ部の回動に伴って、ローラ部に触れる使用者の指の触覚にクリック感を付与する機構、又は使用者の聴覚にクリック音を付与する機構を備える。これにより、使用者は、凸部の当接感に加えて、ローラ部の回動に伴って触覚又は聴覚を介してクリック感又はクリック音が得られることから、使用者に対してより確実にスワイプ量を感覚的に付与することができる。
【0086】
上記の[他の発明1]~[他の発明3]のスクロール操作装置は、その一実施形態として、例えば、図6及び図7に示すようなスクローラ30として具現化することが可能である。スクローラ30は、ディスプレイ51の表面にタッチパネル52を備えたスマホ50に装着して使用されるものであり、主に、ローラ部35とフレーム31とクリック機構部36を備えている。
【0087】
スマホ50のディスプレイ51は、例えば、縦横比が16:9の6インチ型サイズの液晶表示装置である。タッチパネル52は、ディスプレイ51とほぼ同サイズでディスプレイ表面のほぼ前面に設けられる透明フィルムタイプのポインティングデバイスであり、使用者が指やスタイラスを接触させたディスプレイ51上の位置情報をスマホ50の制御ユニットに出力可能に構成されている。タッチパネル52の位置検知は、例えば、抵抗膜方式、静電容量方式や超音波表面弾性波方式等である。
【0088】
ローラ部35は、弾力性があり導電性が良好な材料(例えば導電ゴム)からなり多角柱形状に形成されている。本実施形態では、軸方向長さがディスプレイ51の横幅方向長よりも短く設定された正六角柱形状に形成されている。断面形状が正多角形状であれば、例えば、正八角柱形状や正十角柱形状等でもよい。ローラ部35の外周、つまり周面部35aにはその軸方向に線条に延びる角部35bが周方向ほぼ等間隔に形成されている。本実施形態では、ローラ部35が正六角柱形状であることから、角部35bは周上の六箇所に形成されている。ローラ部35の中心には軸部材が貫通するように設けられ、その両端は軸部35c,35dとして突出する。本実施形態では、角部35bは、ローラ部35の両端間に軸方向に線条に形成されているため、例えば、ローラ部35の一方端がタッチパネル52から過剰に浮いているような不適切な状態でスクローラ30がスマホ50に装着される場合があっても、ローラ部35の他方側に存在する角部35bをタッチパネル52に当接させることが可能になる。
【0089】
フレーム31は、アッパーフレーム32とロアーフレーム33により構成されており、これらによりスマホ50を、当該スマホ50の表裏両面方向及び横幅(左右)方向に挟み込み得るように構成されている。アッパーフレーム32はローラ部35を回動自在に支持可能に構成されている。アッパーフレーム32及びロアーフレーム33は、例えば、高密度ポリエチレン、ポリプロピレンやABS樹脂等からなる。尚、スマホ50を挟み込んだ状態におけるアッパーフレーム32とロアーフレーム33の離隔距離は、図7(A)に示すように、スクローラ30のローラ部35とスマホ50のタッチパネル12とが対向した場合において、ローラ部35の周面部35aは隙間SPが生じる状態、且つ、ローラ部35の角部35bはそれがやや潰れる程度に圧接された状態を維持し得るように保たれる。
【0090】
アッパーフレーム32は、スマホ50の横幅方向長さよりも長い短冊形状を有する薄板状に形成されており、そのほぼ中央にはアッパーフレーム32の長手方向に沿うように寝かせた状態でローラ部35を収容可能な矩形状の長穴(ローラ収容部32a)が形成されている。アッパーフレーム32の一端側にはヒンジ機構を構成するヒンジ片部32bが形成されており、ヒンジ片部32bには回動軸34が貫通している。回動軸34はヒンジ片部32bと一体に構成してもよい。アッパーフレーム32の他端側にはアッパーフレーム32の長手方向に突出する爪部32cが形成されている。アッパーフレーム32の一端側に位置するローラ収容部32aの側壁内には、後述するクリック機構部36が収容されており、ローラ部35の軸部35cがクリック機構部36に連結されている。また、他端側に位置するローラ収容部32aの側壁には、ローラ部35の軸部35dを回動自在に支持可能な軸受穴32dが形成されている。
【0091】
ロアーフレーム33は、両端にアッパーフレーム32の長手方向両端を挟み得るLアングル部33b,33cを有する短冊形状に形成されている。ロアーフレーム33の内側、つまりスマホ収容部33aやLアングル部33c,33dの内面には、クッション材39が装着されている。クッション材39は、例えばシート状のゴムスポンジであり、両面テープ等を介してロアーフレーム33の内側面に貼着されている。ロアーフレーム33の短手方向幅は、アッパーフレーム32とほぼ同様に設定されている。一端側のLアングル部33bは、アッパーフレーム32のヒンジ片部32bとともにヒンジ機構を構成するヒンジ片部として機能する。他端側のLアングル部33cには、アッパーフレーム32の爪部32cを係止可能な溝部33dが形成されている。爪部32cと溝部33dはロック機構を構成する。
【0092】
クリック機構部36は、ローラ部35の回動や回転に伴ってローラ部35に触れる使用者の指の触覚にクリック感を付与したり、使用者の聴覚にクリック音を付与したりする機構であり、例えば、マウスのホイールに採用される公知の構成を有する。図示を省略するが、具体的には、中心から放射線状に複数の線条溝を有するとともにローラ部35の一端側の軸部35cに接続されてそれを回動軸にする円盤部と、この円盤部を回動自在に軸支する軸受穴と、可撓性があり、回動する円盤部の複数の線条溝に係合可能に固定される爪と、により構成されている。ローラ部35と一体に円盤部も回動すると、円盤部の回動や回転に伴って、可撓性を有する爪が円盤部の複数の線条溝を次々に横断するように凹凸を乗り越える。これにより、クリック機構部36は、カチカチと音や振動を発するため、使用者に対してローラ部35の回動に伴うクリック音やクリック感が付与される。
【0093】
このようにスクローラ30を構成することによって、図6(D)に示すように、アッパーフレーム32とロアーフレーム33の一端側に構成されるヒンジ機構により回動軸34を中心にアッパーフレーム32とロアーフレーム33が相対的に回動することが可能になり、またアッパーフレーム32とロアーフレーム33の他端側に構成されるロック機構によりスマホ50を挟んだ状態を維持することが可能になる。これにより、スクローラ30は、ローラ部35がタッチパネル52に接触し得る位置関係でスマホ50に取り付けることが可能になる(図6(A)~(C))。
【0094】
スマホ50に装着されたスクローラ30は、図7に示すように機能する。図7(A)に示すように、スマホ50の使用者がその指91でローラ部35をスマホ50の下方に引くように回転させると、当該ローラ部35は同図中の矢印方向に回転する。すると、図7(A)の状態では、ローラ部35の周面部35aとタッチパネル52との間には隙間SPが形成されており互いに接触していない両者(ローラ部35とタッチパネル52)が、ローラ部35の回転に伴ってローラ部35の角部35xがタッチパネル52に接触する(図7(B))。そして、同方向にローラ部35を回転させることによって、角部35x’がタッチパネル52に押圧されて潰れ(図7(C))、潰れた角部35x’が矢印方向に滑るように移動し、さらに回転を進めることにより潰れていた角部35x’が元の形(角部35x)に戻る(図7(D))。
【0095】
ローラ部35の周面部35aには、周方向に等間隔に複数の角部35bが形成されていることから、これら複数の角部35bは、角部35x→潰れた角部35x’→角部35xというように、タッチパネル52に対して点→面→点の3つの接触過程を経て断続的(不連続)に当接(接触)するとともに、面状に潰れた角部35x’がタッチパネル52上をスマホ50の上方に滑るように移動する。これにより、タッチパネル52に対しては指等で所定の短いストロークで小刻みにスマホ50の上方に向けてスワイプしたようにローラ部35が面接触し、また使用者の指に対してはローラ部35の回動に伴い回動量に比例して発生する角部35bの当接感が付与される。ローラ部35の回動量は、小刻みにスワイプしたスワイプの合計量(小刻みスワイプの総量)であり、スワイプ量に相当し得る。また使用者は、断続的な角部35bの当接感から感覚的にローラ部35の回動量を把握することが可能である。
【0096】
したがって、ディスプレイ51をスワイプする場合に使用者に対してスワイプ量を感覚的に付与することができる。また、クリック機構部36により、使用者は、角部35bの当接感に加えて、ローラ部35の回動に伴って触覚又は聴覚を介してクリック感又はクリック音が得られることから、使用者に対してより確実にスワイプ量を感覚的に付与することができる。また、ローラ部35の角部35bは、ローラ部35の両端間に軸方向に線条に形成されているため、ローラ部35の一方側がタッチパネル12から過剰に浮いてしまうような不適切な状態でスクローラ30がスマホ50に装着されても、ディスプレイ51をスワイプする場合に使用者に対してスワイプ量を感覚的に付与することができる。
【0097】
尚、ローラ部35の角部35bは、ローラ部35の軸方向に連続(線条)でも不連続(点状)でもよい。また、ローラ部35はその周面部が曲面になる円柱でもよく、その場合には軸方向に連続(線条)又は不連続(点状)な凸状部を有する。また、支持部は、ロアーフレーム33のように両端が連結されてなくてもよい。コ形状を開口側で対向(開き角括弧記号「[」と閉じ角括弧記号「]」を向かい合わせ)させたように2つの部材により構成してもよい。また、これら2つの部材をアッパーフレーム32の両端に接続した構成を採ってもよい。
【0098】
また、図7に示した例では、スマホ50の使用者が指91でローラ部35をスマホ50の下方に引く場合について説明したが、ローラ部35をスマホ50の上方に押すように回転させる場合においても、ローラ部35やクリック機構部36等は「下方に引く場合」と同様に機能する。但し、この場合には当該ローラ部35が同図中の矢印と反対方向に回転するので、潰れた角部35x’がタッチパネル52上をスマホ50の下方に滑るように移動する。これにより、タッチパネル52に対しては指等で所定の短いストロークで小刻みにスマホ50の下方に向けてスワイプしたようにローラ部35が面接触する。
【0099】
また、前述した他の発明の態様では、ローラ部の角部をタッチパネルに当接させることで(ローラ部がタッチパネルに接触したことを検知して)、所定の表示制御を行うものとした。このような態様に変えて、ローラ部の回動(回動量、回転角度)をカメラ(フロントカメラ)が検知(撮像)可能な位置にスクローラを設け(例えば、ローラ部の下方にカメラが位置するように設ける)、ローラ部とタッチパネル(ディスプレイ画面)とが非接触であっても、ローラ部の回動量を認識して表示制御できるようにしてもよい。尚、ローラ部を図6に示すものより小径として、ローラ部を回動させた際に、ローラ部がタッチパネル(ディスプレイ画面)に接触しないようにすることで、ローラ部の回動操作によってタッチパネル(ディスプレイ画面)が損傷するのを防止することが可能となる。
【0100】
また、前述した他の発明の態様では、ローラ部を回動操作することで、表示されているコンテンツをディスプレイの上下方向にスクロール表示させたり、表示されているコンテンツを他のコンテンツに切替え表示させたりすることが可能となる。また、スマホにインストールされているアプリ等で所定の入力操作(所定の入力)を行うことで、「ローラ部の回動操作」に対して、コンテンツのスクロール操作(第1の表示制御)、若しくは
、コンテンツの切替え操作(第2の表示制御)の何れか一方を対応付け可能としてもよい。これにより、「ローラ部の回動操作」によって何れの操作を行うかを使用者が切替え可能となる。
【符号の説明】
【0101】
10,50 スマホ(携帯情報端末装置)、10B 裏側面、10F 表側面(ディスプレイを有する面)、11,51 ディスプレイ、12,52 タッチパネル、15 フロントカメラ、16 バックカメラ(裏面側のカメラ)、20 制御ユニット(画像判定手段、動作判定手段、コンテンツ切替手段、表示制御手段、携帯情報端末装置を制御するコンピュータ)、30 スクローラ(スクロール操作装置)、32 アッパーフレーム(枠体部、支持部)、33 ロアーフレーム(支持部)、35 ローラ部、35b,35x,35x’ 角部(凸部)、35c,35d 軸部(ローラ部の両端)、36 クリック機構部(クリック感を付与する機構、クリック音を付与する機構)、71a,71b,72 縮小画像情報、73 概要情報、74a,74b,74a’ 詳細情報(コンテンツ)75a,75b,75c 関連商品情報(他のコンテンツ)、90R 右手90R(ヒトの手)、90L 左手90L(ヒトの手)、91 指91、S103,S104(画像判定手段)、S105,S106(動作判定手段)、S107(コンテンツ切替手段)、S108(表示制御手段)。
図1
図2
図3
図4
図5
図6
図7