(58)【調査した分野】(Int.Cl.,DB名)
ユーザの操作所作を検出する操作検出手段と、検出したユーザの操作所作に応じて電子機器の動作を制御する操作信号を出力する制御部とを有するユーザーインターフェース装置であって、ユーザの姿勢変化および表情変化の少なくとも一方をユーザの操作所作として撮像するカメラを前記操作検出手段として有するユーザーインターフェース装置において、
ユーザに装着されるホルダをさらに有し、
前記カメラは、広角レンズを備え、前記ホルダがユーザに装着されたときに該広角レンズの画角中心がユーザの反対側を向くように該ホルダに搭載されており、
前記広角レンズは魚眼レンズであり、
前記カメラは、ユーザの姿勢変化および表情変化の少なくとも一方に加えてユーザの正面の画像をも撮像し、前記制御部は、検出したユーザの操作所作に加え、正面の画像に含まれる識別信号と予め記憶された識別信号との差分に応じて電子機器の動作を制御する操作信号を出力する
ことを特徴とするユーザーインターフェース装置。
前記ホルダは、ブローチ状、ネクタイピン状、ネックレス状、チェストバンド状、腰ベルト状、ウエストバッグ状、眼鏡状、ヘッドバンド状、ヘッドホン状、ヘッドセット状、アームバンド状、リストバンド状、レッグバンド状、またはアンクルバンド状を呈する請求項1記載のユーザーインターフェース装置。
前記ホルダは、操作時にユーザが動かす部位に装着され、前記カメラは、ユーザの周囲の画像変化をユーザの姿勢変化の相対値として撮像し、前記制御部は、当該相対値をユーザの姿勢変化に変換する請求項1から5のいずれか一項に記載のユーザーインターフェース装置。
【発明を実施するための形態】
【0019】
本発明によるユーザーインターフェース装置は、ユーザの操作所作を検出する操作検出手段と、検出したユーザの操作所作に応じて電子機器の動作を制御する操作信号を出力する制御部とを有するユーザーインターフェース装置であって、ユーザの姿勢変化および表情変化の少なくとも一方をユーザの操作所作として撮像するカメラを操作検出手段として有している。
【0020】
特に、本ユーザーインターフェース装置は、ユーザに装着されるホルダをさらに有している。カメラは、広角レンズを備え、ホルダがユーザに装着されたときに広角レンズの画角中心がユーザの反対側を向くようにホルダに搭載されている。
【0021】
上記構成により、本ユーザーインターフェース装置は、操作ボタンを操作検出手段として備えたユーザーインターフェース装置に関する諸問題を解決できることに加え、コンパクトで、使い勝手に優れ、可搬型の電子機器にも適用でき、また、電子機器の内外どちらにも装備可能である。
【0022】
即ち、本ユーザーインターフェース装置が電子機器に内蔵される場合、ユーザは、電子機器を手に持たなくとも、自身による操作を検出することができる。このため、手や腕を動かして行うジェスチャをも検出でき、また、顔の表情変化を検出する際にも自らの顔が撮像範囲内に常時かつ正確に納まるように電子機器を構え続ける必要もない。
【0023】
さらに、カメラが電子機器とは個別に配置される場合も、上半身や顔が撮像範囲に常時かつ正確に納まるように、ユーザとカメラとの相対位置を調整すること、即ち、撮像範囲内に入るようにユーザ自らが移動するか、あるいは、ユーザが撮像範囲内に入るようにカメラの位置を調整する必要がない。カメラが移動通信端末機とは個別に配置される場合はさらに、ジェスチャや顔の表情変化を検出するために、ユーザに対してカメラを焦点距離等を考慮した所定の距離を隔てて対向配置する必要もない。よって、ユーザーインターフェース装置を有する電子機器の構成全体として、広い設置スペースを必要とすることもない。このことは、電子機器が携帯電話機等の可搬型である場合は特に有用である。
【0024】
以下、図面を参照して、本発明によるユーザーインターフェース装置、本ユーザーインターフェース装置のより具体的な実施例を詳細に説明する。
【実施例1】
【0025】
図1を参照すると、本発明の実施例1によるユーザーインターフェース装置は、電子機器100としての携帯型音楽プレーヤに適用されている。本ユーザーインターフェース装置は、ユーザの操作所作を検出する操作検出手段と、検出したユーザの操作所作に応じて電子機器100としての携帯型音楽プレーヤの動作を制御する操作信号を出力する制御部13とを有し、操作検出手段として、ユーザのジェスチャや腕、手、指の動きといった姿勢変化ならびに表情変化のうち、ユーザの手、指の動きをユーザの操作所作として撮像するカメラ11を有している。
【0026】
本ユーザーインターフェース装置は、ユーザに装着されるホルダ16を有している。本実施例において、ホルダ16は、具体的な形状は図示していないが、ユーザの手首に取り外し可能に装着されるリストバンド状(腕時計状)を呈している。
【0027】
カメラ11は、広角レンズ112と、広角レンズ112を通して撮像するイメージセンサ111とを備えている。カメラ11は、
図2に示されるように、ホルダ16がユーザUBに装着されたときに広角レンズ112の画角中心がユーザUBの反対側を向くようにホルダ16に搭載されている。
【0028】
広角レンズ112は、画角180度の魚眼レンズであり、カメラ11は、ユーザの指の所作(動き)を撮像する。ただし、本発明において、広角レンズの画角は、180度よりも大きいか、あるいは、ユーザの操作所作を撮像可能であるならば、180度未満であってもよい。
【0029】
ホルダ16には、カメラ11以外に、ビデオメモリ12と、制御部13と、プログラムメモリ15と、送信部14と、図示しないバッテリとが搭載されている。ビデオメモリ12は、カメラ11の出力信号を一時的に記憶する。制御部13は、ビデオメモリ12に記憶された画像信号を後述するように解析してユーザの操作所作に応じた電子機器100を操作するための操作信号を出力する他、本ユーザーインターフェース装置の動作全般を制御する。プログラムメモリ15は、制御部13の動作プログラムを格納している。送信部14は、制御部13に接続され、操作信号を無線送信する。バッテリは、ホルダ16に搭載されたデバイスに電力を供給する。ホルダ16と、これに搭載されたデバイスとにより、トランスミッタ10が構成される。
【0030】
一方、電子機器100には、レシーバ20が接続されている。レシーバ20は、受信部21と、物理インターフェース(I/F)変換部22とを備えている。受信部21は、トランスミッタ10の送信部14から出力された操作信号を無線受信する。物理インターフェース変換部22は、受信部21が受信した操作信号を電子機器100が受け入れられるインターフェース形式(データ形式、物理層)に変換する。
【0031】
送信部と受信部との間の無線通信の規格としては、Bluetooth(登録商標)等の近距離無線通信規格が用いられる。尚、電子機器100が無線通信機能を持っている場合は、レシーバ20は、電子機器100によって代用可能である。
【0032】
また、制御部13が出力する操作信号を直接電子機器100が受け入れられるインターフェース形式(データ形式、物理層)にした場合には、ユーザーインターフェース装置を電子機器に有線で接続することが可能である。この場合、無線送受信のための構成を省略することが可能である。そのインターフェース形式は、具体的には、例えば、USB、PS/2、シリアルポート等である。
【0033】
次に、本発明の実施例1によるユーザーインターフェース装置の動作を説明する。
【0034】
電子機器100としての携帯型音楽プレーヤと、これに接続されたレシーバ20と、ユーザの手首に装着されたトランスミッタ10とが起動されると、トランスミッタ10におけるカメラ11のイメージセンサ111が広角レンズ112を通してユーザのトランスミッタ10が装着された側の手指の所作を撮像する。
【0035】
イメージセンサ111から出力される画像信号は、ビデオメモリ12に一時的に記憶される。
【0036】
制御部13は、プログラムメモリ15に格納された動作プログラムに従い、ビデオメモリ12に記憶された画像信号を解析してユーザの操作所作に応じた操作信号を出力する。
【0037】
送信部14は、制御部13から出力された操作信号を無線送信する。
【0038】
受信部21は、トランスミッタ10の送信部14から出力された操作信号を無線受信する。
【0039】
物理インターフェース変換部22は、受信部21が受信した操作信号を電子機器100が受け入れられるインターフェース形式に変換する。
【0040】
電子機器100は、レシーバ20から出力された操作信号に従って動作する。
【0041】
次に、制御部13による画像信号の解析動作を、より具体的な例を挙げて説明する。
【0042】
[音楽プレーヤの音量調整操作]
電子機器100としての携帯音楽プレーヤの音量調整という操作を行うとき、本ユーザーインターフェース装置の制御部13は、次のように動作する。即ち、指の所作を音量調整に利用する場合、
図3のフロー図に示されるような画像解析が制御部13によって行われる。
【0043】
ステップS11において、制御部13は、所定の周期でビデオメモリ12から出力されるフレームデータの、1つ前のフレームデータとの差分をとる。
【0044】
ステップS12において、制御部13は、当該差分を所定の閾値と比較する。比較の結果、差分が閾値未満の場合は指の所作がなかったと判断し、ステップS11に戻る。一方、差分が閾値以上である場合、ステップS13に移行する。
【0045】
ステップS13において、制御部13は、画像領域の右半分および左半分それぞれの積分値を計算する。
【0046】
ステップS14において、制御部13は、両積分値のうち、右半分の方が大きい場合は音量を上げる指示の操作信号を出力する(ステップS15)一方、右半分の方が大きい場合と左右が同値の場合は音量を下げる指示の操作信号を出力する(ステップS16)。
【実施例2】
【0047】
本発明の実施例2は、電子機器の種類、ホルダの形状、トランスミッタのユーザへの装着箇所、およびユーザの検出部位が、実施例1と異なる。このため、実施例1と同一または同様の部分については、実施例1の図面を流用すると共に、詳細な説明は省略する。
【0048】
図1および
図2を参照すると、本発明の実施例2によるユーザーインターフェース装置は、電子機器100としての電子楽器に適用されている。本ユーザーインターフェース装置は、ユーザの操作所作を検出する操作検出手段と、検出したユーザの操作所作に応じて電子機器100としての電子楽器の動作を制御する操作信号を出力する制御部13とを有し、操作検出手段として、ユーザのジェスチャや腕、手、指の動きといった姿勢変化ならびに表情変化のうち、ユーザのジェスチャをユーザの操作所作として撮像するカメラ11を有している。
【0049】
本ユーザーインターフェース装置は、ユーザに装着されるホルダ16を有している。本実施例において、ホルダ16は、具体的な形状は図示していないが、ユーザの衣服の胸部に取り外し可能に装着されるブローチ状を呈している。
【0050】
カメラ11は、広角レンズ112と、広角レンズ112を通して撮像するイメージセンサ111とを備えている。カメラ11は、
図2に示されるように、ホルダ16がユーザUBに装着されたときに広角レンズ112の画角中心がユーザUBの反対側を向くようにホルダ16に搭載されている。
【0051】
広角レンズ112は、画角180度の魚眼レンズであり、カメラ11は、ユーザのジェスチャ(腕の所作)を撮像する。
【0052】
ホルダ16には、カメラ11と、ビデオメモリ12と、制御部13と、プログラムメモリ15と、送信部14と、図示しないバッテリとが搭載されている。ホルダ16と、これに搭載されたデバイスとにより、トランスミッタ10が構成される。
【0053】
一方、電子機器100には、レシーバ20が接続されている。レシーバ20は、受信部21と、物理インターフェース(I/F)変換部22とを備えている。
【0054】
次に、本発明の実施例2によるユーザーインターフェース装置の動作を説明する。
【0055】
電子機器100としての電子楽器と、これに接続されたレシーバ20と、ユーザの胸元に装着されたトランスミッタ10とが起動されると、トランスミッタ10におけるカメラ11のイメージセンサ111が広角レンズ112を通してユーザのジェスチャを撮像する。
【0056】
イメージセンサ111から出力される画像信号は、ビデオメモリ12に一時的に記憶される。
【0057】
制御部13は、プログラムメモリ15に格納された動作プログラムに従い、ビデオメモリ12に記憶された画像信号を解析してユーザの操作所作に応じた操作信号を出力する。
【0058】
送信部14は、制御部13から出力された操作信号を無線送信する。
【0059】
受信部21は、トランスミッタ10の送信部14から出力された操作信号を無線受信する。
【0060】
物理インターフェース変換部22は、受信部21が受信した操作信号を電子機器100が受け入れられるインターフェース形式に変換する。
【0061】
電子機器100は、レシーバ20から出力された操作信号に従って動作する。
【0062】
次に、制御部13による画像信号の解析動作を、より具体的な例を挙げて説明する。
【0063】
[電子楽器のピッチおよび音量の調整操作]
電子機器100としての電子楽器のピッチおよび音量の調整という操作を行うとき、本ユーザーインターフェース装置の制御部13は、次のように動作する。即ち、ジェスチャをピッチおよび音量の調整に利用する場合、
図4のフロー図に示されるような画像解析が制御部13によって行われる。
【0064】
ステップS21において、制御部13は、所定の周期でビデオメモリ12から出力されるフレームデータの、1つ前のフレームデータとの差分をとる。
【0065】
ステップS22において、制御部13は、画像領域を右半分および左半分に分割する。尚、右半分の画像領域には右腕が、左半分の画像領域には左腕が撮像されている。
【0066】
ステップS23において、制御部13は、右半分の画像領域についての差分を所定の閾値と比較する。比較の結果、差分が閾値未満の場合は指の所作がなかったと判断し、ステップS21に戻る。一方、差分が閾値以上である場合、ステップS25に移行する。
【0067】
同様に、ステップS24において、制御部13は、左半分の画像領域についての差分を所定の閾値と比較する。比較の結果、差分が閾値未満の場合は指の所作がなかったと判断し、ステップS21に戻る。一方、差分が閾値以上である場合、ステップS26に移行する。
【0068】
ステップS25において、制御部13は、右腕の移動方向が上向きの場合はピッチを上げる指示の操作信号を出力する(ステップS27)一方、右腕の移動方向が下向きの場合と不動の場合はピッチを下げる指示の操作信号を出力する(ステップS28)。
【0069】
同様に、ステップS26において、制御部13は、左腕の移動方向が上向きの場合は音量を上げる指示の操作信号を出力する(ステップS29)一方、左腕の移動方向が下向きの場合と不動の場合は音量を下げる指示の操作信号を出力する(ステップS30)。
【実施例3】
【0070】
本発明の実施例3は、電子機器の種類、ユーザーインターフェース装置の形態、およびユーザの検出部位が、実施例1と異なる。このため、実施例1と同一または同様の部分については、実施例1と同符号を付すと共に、詳細な説明は省略する。
【0071】
図5を参照すると、本発明の実施例3によるユーザーインターフェース装置は、電子機器150としての美術館等における貸し出し式の音声ガイダンス装置と一体的に構成されている。換言すれば、
図5に示された電子機器150としての音声ガイダンス装置は、ユーザーインターフェース装置を内蔵している。音声ガイダンス装置は、美術館における展示物等に関するガイダンス音声をイヤホン156から再生する装置である。
【0072】
本ユーザーインターフェース装置は、ユーザの操作所作を検出する操作検出手段と、検出したユーザの操作所作に応じて電子機器150としての音声ガイダンス装置の動作を制御する操作信号を出力する制御部13とを有し、操作検出手段として、ユーザのジェスチャや腕、手、指の動きといった姿勢変化ならびに表情変化のうち、ユーザのジェスチャをユーザの操作所作として撮像するカメラ11を有している。
【0073】
本ユーザーインターフェース装置は、ユーザに装着されるホルダ16を有している。本実施例において、ホルダ16は、具体的な形状は図示していないが、ユーザの衣服の首下に取り外し可能に装着されるネックレス状を呈している。ホルダ16は、ユーザーインターフェース装置と、電子機器150としての音声ガイダンス装置とで兼用となっている。
【0074】
カメラ11は、広角レンズ112と、広角レンズ112を通して撮像するイメージセンサ111とを備えている。カメラ11は、
図2に示されるように、ホルダ16がユーザUBに装着されたときに広角レンズ112の画角中心がユーザUBの反対側を向くようにホルダ16に搭載されている。
【0075】
広角レンズ112は、画角180度の魚眼レンズであり、カメラ11は、ユーザのジェスチャ(腕の所作)に加え、ユーザの周囲の画像をも撮像する。ここで、本発明におけるカメラは、広角レンズを備えているため、ユーザの周囲としては、ユーザの正面も含まれる。
【0076】
制御部13は、検出したユーザの操作所作と、周囲の画像とに基づいて電子機器150としての音声ガイダンス装置の動作を制御する操作信号を出力する。
【0077】
ホルダ16には、カメラ11と、ビデオメモリ12と、制御部13と、プログラムメモリ15と、電子機器150と兼用の図示しないバッテリとが搭載されている。
【0078】
次に、本発明の実施例3によるユーザーインターフェース装置の動作を説明する。
【0079】
本ユーザーインターフェース装置が電子機器150としての音声ガイダンス装置と共に起動されると、カメラ11のイメージセンサ111が広角レンズ112を通してユーザのジェスチャと、ユーザの正面の画像を同一フレーム内に撮像する。
【0080】
イメージセンサ111から出力される画像信号は、ビデオメモリ12に一時的に記憶される。
【0081】
制御部13は、プログラムメモリ15に格納された動作プログラムに従い、ビデオメモリ12に記憶された画像信号を解析してユーザの操作所作と、ユーザの正面の画像とに基づいて操作信号を出力する。
【0082】
電子機器100は、制御部13から出力された操作信号に従って動作する。
【0083】
次に、制御部13による画像信号の解析動作を、より具体的な例を挙げて説明する。
【0084】
[音声ガイダンス装置の操作]
電子機器100としての音声ガイダンス装置の操作を行うとき、本ユーザーインターフェース装置の制御部13は、次のように動作する。即ち、ユーザのジェスチャと、ユーザの正面の画像とを音声ガイダンス装置の操作に利用する場合、
図4のフロー図に示されるような画像解析が制御部13によって行われる。尚、ユーザのジェスチャの認識については、前述の実施例において説明したため、以下では、ユーザの正面の画像に基づく操作のための画像解析についてのみ、説明する。
【0085】
ここで、音声ガイダンス装置を使用する美術館等の施設には、展示物等それぞれの近辺に各展示物等に固有のID記号(ID1、ID2、ID3・・・IDn)が掲げられている。一方、本ユーザーインターフェース装置は、ID記号に対応付けて各展示物等のガイダンス音声の再生開始を指示する操作信号を記憶している。また、音声ガイダンス装置は、ID記号に対応付けて各展示物等のガイダンス音声を記憶している。
【0086】
ステップS31において、制御部13は、所定の周期でビデオメモリ12から出力されるユーザの正面の画像と、予め記憶したID記号(ID1)との差分をとる。
【0087】
ステップS32において、制御部13は、当該差分を所定の閾値と比較する。比較の結果、差分が閾値以下の場合は、そのID記号(ID1)が対応する展示物等の前にユーザが居ると判断し、ステップS33に移行する。一方、差分が閾値超過である場合、ステップS34に移行する。
【0088】
ステップS32において、制御部13は、ID1に対応付けられた展示物等のガイダンス音声の再生開始を指示する操作信号を出力する。
【0089】
ステップS34において、制御部13は、ID記号をカウントアップし(ID1+1=ID2)、ステップS31に戻る。尚、カウントアップ不可能である場合(IDn)は、終了する。
【0090】
詳細な説明は省略するが、電子機器100としての音声ガイダンス装置がガイダンス音声の再生を開始した後は、ユーザのジェスチャに応じて音量の加減、一時停止、巻き戻し/早送りとの操作が実行される。
【0091】
尚、実施例3の変形例として、ホルダ16が操作時にユーザが動かす部位、例えば手首に装着されるようにすると共に、カメラ11がユーザの周囲の画像変化をユーザの姿勢変化の相対値として撮像するように構成してもよい。この場合、制御部13は、当該相対値をユーザの姿勢変化に変換する。