(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024032040
(43)【公開日】2024-03-12
(54)【発明の名称】制御装置、表示システム、制御方法及びプログラム
(51)【国際特許分類】
G06F 3/01 20060101AFI20240305BHJP
【FI】
G06F3/01 570
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022135468
(22)【出願日】2022-08-29
(71)【出願人】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110001254
【氏名又は名称】弁理士法人光陽国際特許事務所
(72)【発明者】
【氏名】斎藤 浩
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA46
5E555AA54
5E555BA01
5E555BB01
5E555BC01
5E555CA42
5E555CB66
5E555CB76
5E555CC02
5E555DA01
5E555DB18
5E555FA00
(57)【要約】
【課題】ジェスチャーが正しく認識されたか否かを操作者が確認できるようにする。
【解決手段】表示システムは、制御装置と、撮影装置と、プロジェクタと、を備える。制御装置のCPUは、撮影装置により撮影された画像にジェスチャー認識を行い、ジェスチャー認識により認識された第1のジェスチャーを示すアイコンをプロジェクタにより投影面に所定時間、投影表示させる。また、CPUは、第1のジェスチャーに対応する機能の実行を所定時間待機させ、所定時間内に撮影装置により撮影された画像から第1のジェスチャーとは異なる第2のジェスチャーが認識されなかった場合に、第1のジェスチャーに対応する機能を実行させる。
【選択図】
図3
【特許請求の範囲】
【請求項1】
撮影部により撮影された画像にジェスチャー認識を行い、
前記ジェスチャー認識により認識された第1のジェスチャーを示すアイコンを表示部により第1の時間表示させ、前記第1のジェスチャーに対応する機能の実行を第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、前記第1のジェスチャーに対応する機能を実行させるか否かを制御する、
制御部を備える制御装置。
【請求項2】
前記制御部は、前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されなかった場合に、前記第1のジェスチャーに対応する機能を実行させる、請求項1に記載の制御装置。
【請求項3】
前記制御部は、
前記第2の時間内に前記ジェスチャー認識により前記第2のジェスチャーが認識された場合、前記第1のジェスチャーに対応する機能の実行を取り消す、請求項2に記載の制御装置。
【請求項4】
前記第2のジェスチャーは、前記第1のジェスチャーに対応する機能の実行を取り消すことを指示するキャンセルジェスチャーである請求項3に記載の制御装置。
【請求項5】
前記制御部は、
前記第1のジェスチャーに対応する機能の実行後に前記ジェスチャー認識によって前記撮影部により撮影された画像から前記キャンセルジェスチャーが認識された場合、前記第1のジェスチャーに対応する機能の実行前の状態に戻す処理を実行する、請求項4に記載の制御装置。
【請求項6】
前記第2のジェスチャーは、前記第1のジェスチャーに対応する機能とは異なる機能の実行を指示するジェスチャーであって、
前記制御部は、
前記第2の時間内に前記ジェスチャー認識により前記第2のジェスチャーが認識された場合、前記第1のジェスチャーを示すアイコンの表示を取り消して前記第2のジェスチャーを示すアイコンを前記表示部により前記第1の時間表示させ、前記第1のジェスチャーに対応する機能の実行を取り消して前記第2のジェスチャーに対応する機能の実行を前記第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第2のジェスチャーとは異なるジェスチャーが認識されなかった場合に、前記第2のジェスチャーに対応する機能を実行させる、請求項3に記載の制御装置。
【請求項7】
前記制御部は、前記第2の時間内に前記撮影部により撮影された画像から前記第2のジェスチャーとして前記第1のジェスチャーに対応する機能の実行を指示する確定ジェスチャーが認識された場合に、前記第1のジェスチャーに対応する機能を実行させ、
前記第2の時間内に前記撮影部により撮影された画像から前記確定ジェスチャーが認識されなかった場合に、前記第1のジェスチャーに対応する機能の実行を取り消す、請求項1に記載の制御装置。
【請求項8】
撮影部と、表示部と、制御部と、を備え、
前記制御部は、
前記撮影部により撮影された画像にジェスチャー認識を行い、
前記ジェスチャー認識により認識された第1のジェスチャーを示すアイコンを前記表示部により第1の時間表示させ、前記第1のジェスチャーに対応する機能の実行を第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、前記第1のジェスチャーに対応する機能を実行させるか否かを制御する、表示システム。
【請求項9】
コンピュータが、
撮影部により撮影された画像にジェスチャー認識を行い、
前記ジェスチャー認識により認識された第1のジェスチャーを示すアイコンを表示部により第1の時間表示させるとともに、前記第1のジェスチャーに対応する機能の実行を第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、前記第1のジェスチャーに対応する機能を実行させるか否かを制御する、制御方法。
【請求項10】
コンピュータを、
撮影部により撮影された画像にジェスチャー認識を行い、
前記ジェスチャー認識により認識された第1のジェスチャーを示すアイコンを表示部により第1の時間表示させるとともに、前記第1のジェスチャーに対応する機能の実行を第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、前記第1のジェスチャーに対応する機能を実行させるか否かを制御する制御部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、制御装置、表示システム、制御方法及びプログラムに関する。
【背景技術】
【0002】
従来、操作者のジェスチャーを認識し、認識されたジェスチャーに応じて機器の動作を制御する技術がある。
例えば、特許文献1には、観察者の手の形状が所定の操作パターンを示しているか否かを判定し、手の形状が所定の操作パターンを示していると判定した場合に、表示素子にキーボードやアイコン等の操作オブジェクトを表示させる技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、従来の技術では、自分が行ったジェスチャーが正しく認識されたか否かを操作者が確認することはできなかった。そのため、ジェスチャーが誤認識され、意図しない機能が実行されてしまう場合があった。
【0005】
本発明は、上記の問題点を鑑みてなされたものであり、ジェスチャーが正しく認識されたか否かを操作者が確認できるようにすることである。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明に係る制御装置は、
撮影部により撮影された画像にジェスチャー認識を行い、
前記ジェスチャー認識により認識された第1のジェスチャーを示すアイコンを表示部により第1の時間表示させ、前記第1のジェスチャーに対応する機能の実行を第2の時間待機させ、
前記第2の時間内に前記撮影部により撮影された画像から前記第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、前記第1のジェスチャーに対応する機能を実行させるか否かを制御する、
制御部を備える。
【発明の効果】
【0007】
本発明によれば、ジェスチャーが正しく認識されたか否かをユーザが確認することが可能となる。
【図面の簡単な説明】
【0008】
【
図2】制御装置の機能的構成を示すブロック図である。
【
図3】
図2のCPUにより実行されるジェスチャー表示処理の流れを示すフローチャートである。
【
図4】
図2のCPUにより実行されるタイマー処理の流れを示すフローチャートである。
【
図5】操作者が第1のジェスチャーを行った後、異なる第2のジェスチャーを行うことなく所定時間が経過した場合の、表示システムの動きを示す図である。
【
図6】操作者が第1のジェスチャーを行った後、所定時間が経過するまでの間にキャンセルジェスチャーを行った場合の表示システムの動きを示す図である。
【
図7】操作者が第1のジェスチャーを行った後、所定時間が経過するまでの間に第1のジェスチャーとは異なる、キャンセルジェスチャー以外の第2のジェスチャーを行った場合の表示システムの動きを示す図である。
【発明を実施するための形態】
【0009】
以下に、本発明を実施するための形態について、図面を用いて説明する。但し、以下に述べる実施形態には、本発明を実施するために技術的に好ましい種々の限定が付されている。そのため、本発明の技術的範囲を以下の実施形態及び図示例に限定するものではない。
【0010】
<表示システムの概要>
図1は、本実施形態の表示システム1の構成を示す模式図である。
表示システム1は、制御装置10と、撮影装置20(撮影部)と、プロジェクタ30(表示部)と、を備える。制御装置10は、無線又は有線により撮影装置20及びプロジェクタ30と通信接続されており、制御装置10と撮影装置20及びプロジェクタ30との間で、制御信号や画像データ等のデータの送受信を行うことが可能となっている。この表示システム1は、制御装置10から入力された画像データに基づく投影画像50をプロジェクタ30により投影面40(スクリーン、壁など)に投影表示するものである。
【0011】
表示システム1の制御装置10は、操作者70によるジェスチャーを認識し、認識したジェスチャーに対応する機能の実行を制御する。詳しくは、撮影装置20は、その撮影範囲内に位置する操作者70を所定のフレームレートで撮影し、得られた画像(フレーム画像)の画像データを制御装置10に送信する。制御装置10は、撮影装置20から受信したフレーム画像を解析してジェスチャー認識を行い、認識したジェスチャーに対応する機能のプロジェクタ30による実行を制御する。ジェスチャーに対応する機能は特に限定されないが、例えば、プロジェクタ30により投影する投影画像50をスクロールする機能、投影画像50を切り替える機能、プロジェクタ30の各種設定を変更する機能等が挙げられる。
【0012】
本願において、ジェスチャーとは、空間上での身振りや手振り(動作)又は仕草を指す。ジェスチャーには、体の一部または全身を使った動作、さらには手持ち器具などを使った動作が含まれる。また、例えば、「人差し指を立てて、一定の方向に向ける」といった、体の一部または全身を使って一定の形状を作るものもジェスチャーに含まれる。また、操作者70は、人物に限られず、例えば動物やデバイス(ロボットなど)であってもよく、これらの動作や仕草もジェスチャーに含まれる。
【0013】
なお、本実施形態では、表示システム1の制御装置10と、撮影装置20と、プロジェクタ30と、がそれぞれ独立した装置である場合を例として説明するが、本発明の表示システムは、これらの装置が一体となって1つの装置として構成されていてもよい。または、制御装置10とプロジェクタ30が一体となって1つの装置として構成され、撮影装置20が別体となっていてもよい。例えば、プロジェクタ30の筐体内に制御装置10が設けられていてもよい。または、撮影装置20とプロジェクタ30が一体となって1つの装置として構成され、制御装置10が別体となっていてもよい。または、制御装置10と撮影装置20が一体となって1つの装置として構成され、プロジェクタ30が別体となっていてもよい。
【0014】
<表示システムの構成>
図2は、制御装置10の機能構成を示すブロック図である。
制御装置10は、CPU11(Central Processing Unit)と、RAM12(Random Access Memory)と、記憶部13と、操作部14と、表示部15と、通信部16と、インターバルタイマー17と、ジェスチャータイマー18と、バス19と、を備える。制御装置10の各部は、バス19を介して接続されている。制御装置10は、本実施形態ではノートPCであるが、これに限られず、例えば据置型のPC、スマートフォン、又はタブレット型端末などであってもよい。
【0015】
CPU11は、記憶部13に記憶されているプログラム131を読み出して実行し、各種演算処理を行うことで、制御装置10の動作を制御するプロセッサである。CPU11は、「制御部」に相当する。なお、制御装置10は、複数のプロセッサ(複数のCPU等)を有していてもよく、本実施形態のCPU11が実行する複数の処理を、当該複数のプロセッサが実行してもよい。この場合には、複数のプロセッサが「制御部」に相当する。また、この場合において、複数のプロセッサが共通の処理に関与してもよいし、あるいは、複数のプロセッサが独立に異なる処理を並列に実行してもよい。
【0016】
RAM12は、CPU11に作業用のメモリ空間を提供し、一時データを記憶する。例えば、RAM12は、次に実行させる機能を設定するための機能設定領域121を有する。
【0017】
記憶部13は、コンピュータとしてのCPU11により読み取り可能な非一時的な記録媒体であり、プログラム131及び各種データを記憶する。記憶部13は、例えばHDD(Hard Disk Drive)、SSD(Solid State Drive)等の不揮発性メモリを含む。プログラム131は、後述するジェスチャー表示処理及びタイマー処理を実行するためのプログラムを含み、コンピュータが読み取り可能なプログラムコードの形態で記憶部13に格納されている。記憶部13に記憶されるデータとしては、プロジェクタ30により投影面40に投影画像50を投影するための画像データ、撮影装置20から受信した画像データ(フレーム画像)などがある。また、記憶部13は、ジェスチャーの種類と、その種類のジェスチャーに応じて実行する機能と、を対応付けたジェスチャーテーブル132を記憶している。
【0018】
操作部14は、表示部15の表示画面に重ねられて設けられたタッチパネル、物理ボタン、マウスなどのポインティングデバイス、及びキーボードなどの入力装置のうち少なくとも1つを有し、入力装置に対する入力操作に応じた操作情報をCPU11に出力する。
【0019】
表示部15は、液晶ディスプレイなどを備え、CPU11からの表示制御信号に従って各種表示を行う。
【0020】
通信部16は、ネットワークカード又は通信モジュール等により構成され、撮影装置20やプロジェクタ30との間で所定の通信規格に従ってデータの送受信を行う。
【0021】
インターバルタイマー17は、CPU11によりセットされた時間T1を計測し、時間T1が経過すると、CPU11に割り込み信号を出力する。
【0022】
ジェスチャータイマー18は、CPU11によりセットされた時間T2を計測し、セットされた時間T2が経過すると、CPU11に割り込み信号を出力する。
【0023】
図1に示す撮影装置20は、撮像レンズ、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ等からなる撮像素子、A/D変換回路などを備えている。撮影装置20は、撮像レンズを通過した光学像を撮像素子により2次元の画像信号に変換して画像データを取得する。撮影装置20は、制御装置10からの指示により、撮影範囲内に位置する操作者70を所定のフレームレートで撮影して複数のフレーム画像を取得し、取得したフレーム画像の画像データを図示しない通信部により制御装置10に送信する。
【0024】
撮影装置20の向きは、操作者70が撮影範囲となるように予め設定されている。例えば、操作者70が投影面40の方向に位置して操作を行う場合は、撮影装置20の向きは、投影面40が撮影範囲となる方向に設定される。操作者70が投影面40の方向とは異なる方向に位置して操作を行う場合は、撮影装置20の向きは、投影面40とは異なる方向に設定される。
【0025】
図1に示すプロジェクタ30は、制御装置10から入力された画像データに応じた強度分布の投影光を高指向性で照射することにより、投影面40に投影画像50や後述する認識されたジェスチャーを示すアイコン(例えば、
図5のアイコンIc1等)を投影(表示)する投影部である。詳しくは、プロジェクタ30は、光源と、当該光源から出力された光の強度分布を調整して光像を形成するデジタルマイクロミラー素子(DMD)等の表示素子と、表示素子が形成した光像を集光して投影画像50として投影する投影レンズ群などを備える。プロジェクタ30は、制御装置10から送信される制御信号に従って、投影画像50として投影する画像を変更したり、投影画像50として投影する画像領域を変更したり、投影態様に係る設定(明るさ、色合い等)を変更したりする。
【0026】
<表示システムの動作>
次に、表示システム1の動作について説明する。
【0027】
従来、操作者によるジェスチャーを認識し、認識したジェスチャーに応じた機能を実行するシステムでは、行ったジェスチャーが正しく認識されたか否かを操作者が確認することはできなかった。そのため、ジェスチャーが誤認識され、意図しない機能が実行されてしまう場合があった。
【0028】
そこで、制御装置10のCPU11は、少なくともプロジェクタ30による投影中に、
図3に示すジェスチャー表示処理を実行する。これにより、制御装置10のCPU11は、操作者70が、自分が行ったジェスチャーが正しく認識されたか否かを確認できる機能と、認識したジェスチャーに対応する機能の実行を取り消す機能を提供する。
【0029】
以下、
図3を参照して、ジェスチャー表示処理の流れについて説明する。
例えば、操作部14により投影面40に投影画像50として投影する(表示する)画像データが指定され、投影開始が指示されると、CPU11は、投影画像50として投影する画像の画像データを通信部16によりプロジェクタ30に送信して投影を開始させるとともに、撮影装置20に所定のフレームレートでの撮影を開始させる。そして、
図3に示すジェスチャー表示処理を開始する。ジェスチャー表示処理は、CPU11とプログラム131の協働により実行される。
【0030】
まず、CPU11は、撮影装置20により撮影されたフレーム画像を通信部16を介して取得し(ステップS1)、取得したフレーム画像にジェスチャー認識(ジェスチャー認識処理)を行う(ステップS2)。
ここで、ジェスチャー認識は、例えば、取得されたフレーム画像を解析し、被写体の動作又は仕草が、予め定められた複数種類のジェスチャーのうちいずれかのジェスチャーに該当するかを判断し、該当する場合に、そのジェスチャー(認識されたジェスチャー)の種類を出力する処理である。ジェスチャー認識は、例えば、テンプレートマッチングやディープラーニングなどの公知の画像処理技術を用いて行うことができる。
【0031】
次いで、CPU11は、ジェスチャーが認識されたか否かを判断する(ステップS3)。
ジェスチャーが認識されていないと判断した場合(ステップS3;NO)、CPU11は、ステップS17に移行する。
【0032】
ジェスチャーが認識されたと判断した場合(ステップS3;YES)、CPU11は、認識されたジェスチャーに対応する機能をジェスチャーテーブル132から検索する(ステップS4)。
CPU11は、検索結果に基づいて、認識されたジェスチャーに対応する機能があるか否かを判断し、認識されたジェスチャーに対応する機能がないと判断した場合(ステップS5;YES)、CPU11は、ステップS17に移行する。
【0033】
認識されたジェスチャーに対応する機能があると判断した場合(ステップS5;NO)、CPU11は、認識されたジェスチャーを示すアイコンをプロジェクタ30により投影面40に表示させる(ステップS6)。
認識されたジェスチャーを示すアイコンは、固定画像(静止画像)であってもよいし、動作を伴うジェスチャーに対応するため、アニメーションなどの動作を表現できるものであってもよい。本実施形態では、アイコンがアニメーションなどの動作を表現できるものとして説明する。アイコンは、ジェスチャーによる動作や仕草を模式的に示すもの(例えば、
図5~
図7のIc1、Ic3参照)であってもよいし、ジェスチャーにより指示される内容を模式的に示すものであってもよい(例えば、
図6のIc2参照)。
アイコンは、操作者70から見える位置、大きさに表示することが好ましい。また、投影面40の全面に投影画像50が投影されていない場合、投影画像50が表示されていない余白部分にアイコンを表示することが好ましい。
なお、ステップS2で認識されたジェスチャーとは異なるジェスチャーを示すアイコンがすでに表示されている場合、CPU11は、先に表示されているアイコンの表示を取り消して、新たに認識されたジェスチャーを示すアイコンをプロジェクタ30により投影面40に表示させる。
【0034】
次いで、CPU11は、インターバルタイマー17に予め定められた所定時間(時間T1)をセット(設定)し、インターバルタイマー17に時間T1の計測を開始させる(ステップS7)。
インターバルタイマー17は、アイコンのアニメーション対応のために使用されるタイマーであり、CPU11により設定がクリアされるまで、セットされた時間T1の経過ごとにCPU11に割り込み信号を出力する。CPU11は、インターバルタイマー17から割り込み信号を受信すると、
図4に示すタイマー処理を実行し、ジェスチャーを示すアイコンの表示を更新する。タイマー処理については後述する。
【0035】
次いで、CPU11は、認識されたジェスチャーが前回認識されたジェスチャーと同じであるか否かを判断する(ステップS8)。すなわち、認識されたジェスチャーの種類が前回認識されたジェスチャーの種類と同じであるか否かを判断する。
【0036】
認識されたジェスチャーが前回認識されたジェスチャーと同じであると判断した場合(ステップS8;YES)、CPU11は、ステップS17に移行する。
【0037】
認識されたジェスチャーが前回認識されたジェスチャーと異なると判断した場合(ステップS8;NO)、CPU11は、認識されたジェスチャーがキャンセルジェスチャーであるか否かを判断する(ステップS9)。
ここで、キャンセルジェスチャーとは、前回認識されたジェスチャーに対応する機能の実行を取り消すことを指示するジェスチャーである。本実施形態では、例えば、拳を握った状態にするジェスチャーと、右手と左手を交差して×の状態にするジェスチャーと、の異なる2種類のジェスチャーとがキャンセルジェスチャーとして定められている。
【0038】
認識されたジェスチャーがキャンセルジェスチャーではないと判断した場合(ステップS9;NO)、CPU11は、認識されたジェスチャーに対応する機能をRAM12の機能設定領域121に設定(上書き)する(ステップS10)。これにより、前回認識されたジェスチャーに対応する機能の実行は取り消される。また、CPU11は、ジェスチャータイマー18に予め定められた所定時間(時間T2)をセットして時間T2の計測を開始させ(ステップS11)、ステップS17に移行する。
ここで、ジェスチャータイマー18は、セットされた時間T2が経過すると、CPU11に割り込み信号を出力して停止する。CPU11は、ジェスチャータイマー18から割り込み信号を受信すると、
図4に示すタイマー処理を実行してアイコン表示を消去し、認識されたジェスチャーに対応する機能(機能設定領域121に記憶されている機能)を実行する。タイマー処理については後述する。
すなわち、認識されたジェスチャーを示すアイコンは、時間T2の間表示され、認識されたジェスチャーに対応する機能の実行は、時間T2の間待機状態となる。
なお、CPU11がインターバルタイマー17にセットする時間T1とジェスチャータイマー18にセットする時間T2との関係は、T1<T2である。
【0039】
一方、ステップS9において、認識されたジェスチャーがキャンセルジェスチャーであると判断した場合(ステップS9;YES)、CPU11は、ジェスチャータイマー18が計測中であるか否かを判断する(ステップS12)。
【0040】
ジェスチャータイマー18が計測中であると判断した場合(ステップS12;YES)、CPU11は、機能設定領域121にNOP(何もしない)を設定(上書き)する(ステップS13)。そして、CPU11は、ジェスチャータイマー18をクリアし(ステップS14)、ステップS17に移行する。すなわち、CPU11は、ジェスチャータイマー18の設定を解除して計測を停止させ、ステップS17に移行する。
【0041】
ここで、ジェスチャータイマー18が計測中であるということは、前回認識されたジェスチャーに対応する機能がまだ実行されておらず、待機中状態になっていることを示す。そこで、CPU11は、ジェスチャータイマー18が計測中である場合、機能設定領域121にNOP(何もしない)を設定することで、前回認識されたジェスチャーに対応する機能が実行されないようにする。
【0042】
一方、ジェスチャータイマー18が計測中ではないと判断した場合(ステップS12;NO)、CPU11は、機能設定領域121にUNDOを設定(上書き)する(ステップS15)。UNDOは、実行した機能を取り消して、その機能の実行前の状態に戻す処理である。
そして、CPU11は、ジェスチャータイマー18に予め定められた所定時間(時間T2)をセットして時間T2の計測を開始させ(ステップS16)、ステップS17に移行する。
【0043】
ここで、ジェスチャータイマー18が計測中ではないということは、ジェスチャータイマー18による時間T2の計測が終了し、前回認識されたジェスチャーに対応する機能がすでに実行されたことを示す。そこで、CPU11は、ジェスチャータイマー18が計測中ではない場合、機能設定領域121にUNDOを設定することで、直前に実行した機能を取り消してその機能の実行前の状態に戻すUNDO機能が次に実行されるようにする。CPU11は、ステップS16において、ジェスチャータイマー18をセットすることで、時間T2の待機時間経過後にUNDOが実行されるようにする。すなわち、UNDO機能についても、時間T2の待機時間中に操作者70がキャンセルジェスチャーを実施することで、キャンセルや取り消しが可能である。なお、本実施形態では、時間T2の待機時間中に、認識されたキャンセルジェスチャーとは異なる種類のキャンセルジェスチャーが実施された(認識された)場合に、UNDO機能の取り消しが可能となっている。
【0044】
ステップS17において、CPU11は、プロジェクタ30による投影が終了したか否かを判断する(ステップS17)。プロジェクタ30による投影は、投影終了を指示するジェスチャー又は操作部14の操作により終了させることができる。
投影が終了していないと判断した場合(ステップS17;NO)、CPU11は、ステップS1に戻る。
投影が終了したと判断した場合(ステップS17;YES)、CPU11は、ジェスチャー表示処理を終了する。
【0045】
次に、
図4に示すタイマー処理について説明する。タイマー処理は、インターバルタイマー17又はジェスチャータイマー18から割り込み信号を受信した際に、CPU11とプログラム131との協働により実行される。
【0046】
まず、CPU11は、インターバルタイマー17にセットされた時間T1が経過したか否かを判断する(ステップS21)。
インターバルタイマー17にセットされた時間T1が経過していないと判断した場合(ステップS21;NO)、CPU11は、ステップS23に移行する。
【0047】
インターバルタイマー17にセットされた時間T1が経過したと判断した場合(ステップS21;YES)、CPU11は、表示されているジェスチャーを示すアイコンの表示を更新し(ステップS22)、ステップS23に移行する。
例えば、アイコンがアニメーションであれば、次のフレームを表示させる。
【0048】
ステップS23において、CPU11は、ジェスチャータイマー18にセットされた時間T2が経過したか否かを判断する(ステップS23)。
ジェスチャータイマー18にセットされた時間T2が経過していないと判断した場合(ステップS23;NO)、CPU11は、タイマー処理を終了する。
【0049】
ジェスチャータイマー18にセットされた時間T2が経過したと判断した場合(ステップS23;YES)、CPU11は、インターバルタイマー17の設定をクリアし、計測を停止させる(ステップS24)。また、CPU11は、表示(投影)されているジェスチャーを示すアイコンを消去する(ステップS25)。
そして、CPU11は、時間T2前に認識されたジェスチャーに対応する機能、すなわち、機能設定領域121に設定されている機能を実行し(ステップS26)、タイマー処理を終了する。
【0050】
上述のジェスチャー表示処理とタイマー処理により、CPU11は、ジェスチャー(第1のジェスチャー)を認識すると、時間T2が経過するまで、認識された第1のジェスチャーを示すアイコンを表示するとともに、認識された第1のジェスチャーに対応する機能の実行を待機させる。第1のジェスチャーとは異なるジェスチャー(第2のジェスチャー)が認識されることなく時間T2が経過すると、CPU11は、第1のジェスチャーに対応する機能を実行させる。時間T2の待機中(時間T2内)に第2のジェスチャーが認識された場合、CPU11は、第1のジェスチャーに対応する機能の実行を取り消す。時間T2の経過後に第2のジェスチャーが認識された場合、CPU11は、第1のジェスチャーに対応する機能が実行される前の状態に戻す。
【0051】
図5~
図7は、上述のジェスチャー表示処理とタイマー処理による表示システム1の動作例を示す図である。
【0052】
図5は、操作者70が人差し指を投影画像50(ここでは、地図)の左方向に向けたジェスチャー(第1のジェスチャー)を行った後、異なるジェスチャー(第2のジェスチャー)を行うことなくジェスチャータイマー18の時間T2が経過した場合の、表示システム1の動きを示す図である。
図5に示すように、操作者70が人差し指を投影画像50の左方向に向けるジェスチャーを行うと、ジェスチャーが認識され、認識されたジェスチャーを示すアイコンIc1が投影面40に表示される。時間T2が経過するまで、アイコンIc1が表示された状態で、認識されたジェスチャーに対応する機能の実行が待機される。時間T2が経過すると、アイコンIc1が消去され、認識されたジェスチャーに対応する機能が実行される。
図5では、人差し指を投影画像50の左方向に向けるジェスチャーに対応する機能である、投影画像50を左にスクロールする機能が実行される。
【0053】
このように、操作者70がジェスチャーを行った後、ジェスチャーが認識され、認識されたジェスチャーを示すアイコンIc1が時間T2の間表示された状態となるため、操作者70は、行ったジェスチャーが正しく認識されたか否かを確認することができる。ジェスチャーが正しく認識されたことを確認できた場合は、そのまま待機すれば、時間T2の経過後、ジェスチャーに対応する機能を実行させることができる。
【0054】
図6は、操作者70が人差し指を投影画像50の左方向に向けたジェスチャー(第1のジェスチャー)を行った後、ジェスチャータイマー18の時間T2が経過するまでの間にキャンセルジェスチャー(第2のジェスチャー)を行った場合の表示システム1の動きを示す図である。
図6に示すように、操作者70が人差し指を投影画像50の左方向に向けるジェスチャーを行うと、ジェスチャーが認識され、認識されたジェスチャーを示すアイコンIc1が投影面40に表示される。時間T2の間、アイコンIc1が表示された状態で、認識されたジェスチャーに対応する機能の実行が待機される。時間T2が経過する前に操作者70がキャンセルジェスチャーを行うと、キャンセルジェスチャーが認識され、キャンセルジェスチャーを示すアイコンIc2が表示され、待機されている機能の実行が取り消される。すなわち、人差し指を投影画像50の左方向に向けるジェスチャーに対応する機能は実行されない。
【0055】
このように、アイコンIc1が表示されている時間T2の間に、操作者70が、行ったジェスチャーが正しく認識されたか否かを確認し、正しく認識されていなかった場合、又は、誤ったジェスチャーをしてしまった場合、キャンセルジェスチャーを行うことで、行ったジェスチャーに対応する機能の実行を取り消すことができる。
なお、時間T2が経過し、行ったジェスチャーに対応する機能が実行された後に、実行された機能を取り消したい場合、操作者70がキャンセルジェスチャーを行うことで、直近に実行された機能が取り消され、その機能の実行前の状態に戻る。
【0056】
図7は、操作者70が人差し指を投影画像50の左方向に向けたジェスチャー(第1のジェスチャー)を行った後、ジェスチャータイマー18にセットした時間T2が経過するまでの間に、キャンセルジェスチャー以外の、第1のジェスチャーとは異なる第2のジェスチャーを行った場合の表示システム1の動きを示す図である。
図7に示すように、操作者70が人差し指を投影画像50の左方向に向ける第1のジェスチャーを行うと、ジェスチャーが認識され、認識されたジェスチャーを示すアイコンIc1が投影面40に表示される。時間T2の間、アイコンIc1が表示された状態で、認識されたジェスチャーに対応する機能の実行が待機される。時間T2が経過する前に、操作者70が、キャンセルジェスチャー以外の、第1のジェスチャーとは異なる第2のジェスチャーを行うと、第2のジェスチャーが認識され、第2のジェスチャーを示すアイコンIc3が投影面40に表示される。時間T2の間、アイコンIc3が表示された状態で、認識された第2のジェスチャーに対応する機能の実行が待機される。時間T2が経過すると、認識された第2のジェスチャーに対応する機能が実行される。
図7では、人差し指を投影画像50の右方向に向けるジェスチャーに対応する機能である、投影画像50(地図)を右にスクロールする機能が実行される。
【0057】
このように、アイコンIcが表示されている時間T2の間に、操作者70が、行った第1のジェスチャーが正しく認識されたか否かを確認し、正しく認識されていなかった場合、又は、誤ったジェスチャーをしてしまった場合は、実行させたい機能に対応する第2のジェスチャーを行うことで、第1のジェスチャーに対応する機能の実行を取り消して、第2のジェスチャーに対応する機能を実行させることができる。
【0058】
以上説明したように、本実施形態に係る表示システム1は、制御装置10と、撮影装置20と、プロジェクタ30と、を備える。制御装置10のCPU11は、撮影装置20により撮影された画像にジェスチャー認識を行い、ジェスチャー認識により認識された第1のジェスチャーを示すアイコンをプロジェクタ30により投影面40に時間T2の間、投影表示させるとともに、第1のジェスチャーに対応する機能の実行を時間T2待機させる。そして、時間T2の待機中に撮影装置20により撮影された画像から第1のジェスチャーとは異なる第2のジェスチャーが認識されたか否かに基づいて、第1のジェスチャーに対応する機能を実行させるか否かを制御する。
したがって、ジェスチャーが正しく認識されたか否かを操作者が確認することができる。
【0059】
例えば、CPU11は、時間T2の待機中に撮影装置20により撮影された画像から第1のジェスチャーとは異なる第2のジェスチャーが認識されなかった場合に、第1のジェスチャーに対応する機能を実行させる。
したがって、ジェスチャーが正しく認識されたか否かを操作者が確認した上で、第1のジェスチャーに対応する機能を実行させることが可能となる。
【0060】
また、CPU11は、時間T2の待機中にジェスチャー認識により第2のジェスチャーが認識された場合、第1のジェスチャーに対応する機能の実行を取り消す。
したがって、ジェスチャーが正しく認識されなかった場合、または、誤ったジェスチャーをしてしまった場合は、操作者が他のジェスチャーを行うことで、待機中のジェスチャーに対応する機能の実行を取り消すことができる。
【0061】
例えば、CPU11は、時間T2の待機中にジェスチャー認識により第1のジェスチャーに対応する機能の実行を取り消すことを指示するキャンセルジェスチャーが認識された場合、第1のジェスチャーに対応する機能の実行を取り消す。
したがって、ジェスチャーが正しく認識されなかった場合、または、誤ったジェスチャーをしてしまった場合は、操作者が時間T2内にキャンセルジェスチャーをすることで、待機中のジェスチャーに対応する機能の実行を取り消すことができる。
【0062】
また、例えば、CPU11は、第1のジェスチャーに対応する機能の実行後にジェスチャー認識によって撮影装置20により撮影された画像からキャンセルジェスチャーが認識された場合、第1のジェスチャーに対応する機能の実行前の状態に戻す処理を実行する。
したがって、ジェスチャーに対応する機能が実行された後でも、その機能の実行を取り消すことができる。
【0063】
また、例えば、CPU11は、時間T2の待機中にジェスチャー認識により第1のジェスチャーに対応する機能とは異なる機能の実行を指示する第2のジェスチャーが認識された場合、第1のジェスチャーに対応する機能の実行を取り消す。
したがって、ジェスチャーが正しく認識されなかった場合、または、誤ったジェスチャーをしてしまった場合、時間T2の待機中に操作者が意図する機能に対応するジェスチャーをすることで、待機中のジェスチャーに対応する機能の実行を取り消すことができる。
【0064】
また、例えば、CPU11は、時間T2の待機中にジェスチャー認識により第1のジェスチャーに対応する機能とは異なる機能の実行を指示する第2のジェスチャーが認識された場合、第2のジェスチャーを示すアイコンをプロジェクタ30により時間T2表示させるとともに、第1のジェスチャーに対応する機能の実行を取り消して第2のジェスチャーに対応する機能の実行を時間T2待機させる。そして、CPU11は、時間T2の待機中に撮影装置20により撮影された画像から第2のジェスチャーとは異なるジェスチャーが認識されなかった場合に、第2のジェスチャーに対応する機能を実行させる。
したがって、操作者が意図したジェスチャーが認識されなかった場合、認識されたジェスチャーに対応する機能の実行の時間T2の待機中に操作者が意図する機能に対応するジェスチャーをすることで、認識されたジェスチャーに対応する機能の実行を取り消して、操作者が意図する機能を実行させることができる。
【0065】
なお、上記実施形態における記述は、本発明に係る制御装置、表示システム、制御方法及びプログラムの好適な一例であり、これに限定されるものではない。
例えば、上記実施形態では、ジェスチャーに対応する機能がプロジェクタ30に実行させる機能である場合を例として説明したが、これに限定されず、表示システム1を構成するいずれの装置に実施させる機能であってもよい。
【0066】
また、上記実施形態では、本発明の表示部が、投影面に画像を投影表示する投影部であるプロジェクタ30である場合を例にとり説明したが、LCD等のモニターに画像を表示する表示装置であってもよい。
【0067】
また、上記実施形態では、認識されたジェスチャーを示すアイコンを表示する所定時間及び認識されたジェスチャーに対応する機能の実行を待機させる所定時間をジェスチャータイマー18に設定された時間T2としたが、これに限定されない。例えば、認識されたジェスチャーを示すアイコンがアニメーションである場合、認識されたジェスチャーを示すアイコンを表示する所定時間及び認識されたジェスチャーに対応する機能の実行を待機させる所定時間を、認識されたジェスチャーを示すアイコンのアニメーション開始から終了までの時間としてもよい。
【0068】
また、表示システム1が複数の表示部(モニターやプロジェクタなどの表示装置)を備える場合、ジェスチャーを示すアイコンを表示する表示部を指定できるようにしてもよい。これにより、投影画像50等の他の表示対象に重ならないようにアイコンを表示することが可能となる。
【0069】
また、CPU11は、第1のジェスチャーに対応する機能の実行が待機されている時間T2の間に、撮影装置20により撮影された画像から第2のジェスチャーとして、待機中の第1のジェスチャーに対応する機能の実行を指示する確定ジェスチャーが認識された場合に、第1のジェスチャーに対応する機能を実行させ、時間T2の間に撮影装置20により撮影された画像から確定ジェスチャーが認識されなかった場合に、第1のジェスチャーに対応する機能の実行を取り消すよう制御してもよい。このような構成においても、ジェスチャーが正しく認識されたか否かを操作者が確認した上で、第1のジェスチャーに対応する機能を実行させることが可能となる。
確定ジェスチャーの例としては、人差し指と親指先端を着けて丸を形作るOKマークや、サムズアップと呼ばれる、親指による賛意を示すジェスチャー等が考えられるが、これに限定されるものではない。
【0070】
また、本発明の課題を解決するための他の例として、第1のジェスチャーに対応する機能の実行を待機する時間である時間T2を設けず、確定ジェスチャー、キャンセルジェスチャーのいずれかが行われるまで、第1のジェスチャーに対応する機能を実行も取り消しもしないでアイコン表示しておくこととしてもよい。また、確定ジェスチャーを別途設けずとも、第1のジェスチャーを一定期間継続していれば実行を確定し、第1のジェスチャーを一定期間継続しないとキャンセルするように制御することも可能である。
【0071】
また、上記実施形態では、ジェスチャー認識により認識されたジェスチャーを示すアイコンを表示させる第1の時間と、認識されたジェスチャーに対応する機能の実行を待機させる第2の時間を同じ時間(時間T2)としたが、第1の時間と第2の時間は同じであっても異なっていても構わない。
【0072】
また、以上の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体として記憶部13のHDD、SSDを使用した例を開示したが、この例に限定されない。その他のコンピュータ読み取り可能な媒体として、フラッシュメモリ、CD-ROM等の情報記録媒体を適用することが可能である。また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も本発明に適用される。
【0073】
また、上記実施形態における制御装置10、撮影装置20及びプロジェクタ30の各構成要素の細部構成及び細部動作に関しては、本発明の趣旨を逸脱することのない範囲で適宜変更可能であることは勿論である。
【符号の説明】
【0074】
1 表示システム
10 制御装置
11 CPU
12 RAM
121 機能設定領域
13 記憶部
14 操作部
15 表示部
16 通信部
17 インターバルタイマー
18 ジェスチャータイマー
19 バス
20 撮影装置
30 プロジェクタ
40 投影面
50 投影画像