(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記特許文献で開示された発明では、操作者を撮像した動画像からジェスチャを認識する場合、操作者がジェスチャをした動作と、操作者がジェスチャをした後に元の体制に戻る動作との区別がつきにくい問題がある。例えば、操作者が手で右方向を指し、その後、元の位置に手を戻した場合、その戻した動きが左方向を指す動作として認識されることがある。このように、従来の発明では、操作者がジェスチャを行った際に、操作として意図していない動きが認識されてしまうという課題があった。
【課題を解決するための手段】
【0007】
本発明は、かかる課題をふまえ、操作者の動きのどの部分を装置への入力として受け付けるかを明確にすべく、操作者が有効な動作を行えるような領域の提示を行うと同時にリアルタイムなフィードバックを与えるようにする。
【0008】
具体的には、本発明は、撮影により操作者の動きを検出し、該動きに従って、表示画面上の操作を行わせる操作制御装置であって、撮像画面内における操作制御が可能な領域を設定する検出領域設定部と、前記検出領域設定部で設定された操作制御が可能な領域と、前記操作者の動きを表示画面上に表示させるとともに、該操作制御が可能な領域内で動きを検出した場合に、該動きに対応して、表示画面上の操作表示を行わせる制御部とを備えるようにする。
【0009】
特に、前記制御部は、前記表示画面に複数のコンテンツに関連する情報が示されたメニューを表示させ、該複数のコンテンツに関連する情報のうちの選択可能な1つの表示領域と、前記操作制御が可能な領域を重ならせて表示させる。
【0010】
また、前記制御部は、前記表示画面に複数のコンテンツに関連する情報が示されたメニューを表示させ、該メニューの表示領域と、前記操作制御が可能な領域を重ならせて表示させる。
【0011】
また、前記制御部は、前記操作制御が可能な領域を複数表示させ、該複数の領域ごとに、前記操作者の動きに対応して、異なる操作表示をさせる。
【0012】
また、前記制御部は、該操作制御が可能な領域で検出する動きのうち、動きの方向と量に対応して異なる操作表示を行わせる。
【0013】
さらに、本発明は、操作者の動きに従って、表示画面上の操作表示を行う操作表示方法であって、操作が可能な領域と、前記操作者の動きを表示画面上に表示するステップと、前記操作が可能な領域内での操作者の動きに対応して、表示画面上の操作表示を行うステップとを備えるようにする。
【0014】
特に、前記表示画面上に表示するステップは、前記表示画面に複数のコンテンツに関連する情報が示されたメニューを表示し、該複数のコンテンツに関連する情報のうちの選択可能な1つの表示領域と、前記操作が可能な領域を重ならせて表示する。
【0015】
また、前記表示画面上に表示するステップは、前記表示画面に複数のコンテンツに関連する情報が示されたメニューを表示し、該メニューの表示領域と、前記操作が可能な領域を重ならせて表示する。
【0016】
また、前記表示画面上に表示するステップは、前記操作が可能な領域を複数表示させ、前記表示画面上の操作表示を行うステップは、前記複数の領域ごとに、前記操作者の動きに対応して、異なる操作表示を行う。
【0017】
また、前記表示画面上の操作表示を行うステップは、該操作が可能な領域内での操作者の動きのうち、動きの方向と量に対応して異なる操作表示を行う。
【発明の効果】
【0018】
本発明によれば、操作者が有効な操作領域を認識することにより、簡単な動作での操作制御装置の操作が可能となる。
【図面の簡単な説明】
【0019】
【
図1】実施例1における本発明の操作制御装置の構成を示すブロック図である。
【
図2】実施例1における本発明の操作制御装置の動作例である。
【
図3】実施例1における撮像部の撮像画像例である。
【
図4】実施例1における動体が動体検出領域外にある場合の表示画面例である。
【
図5】実施例1における本発明の操作制御装置の処理フローである。
【
図7】実施例2における実施例1とは別の表示画面例である。
【
図8】実施例3における実施例1及び2とは別の表示画面例である。
【
図9】実施例4における実施例1ないし3とは別の表示画面例である。
【
図10】実施例4における本発明の操作制御装置の処理フローである。
【
図11】実施例5における操作者の手の動きの一例である。
【
図13】実施例5のおける本発明の操作制御装置の処理フローである。
【
図14】実施例6における操作者の手の動きの一例である。
【
図16】実施例6における本発明の操作制御装置の処理フローである。
【
図17】実施例7における二人の操作者の手の動きと撮像部との関係図である。
【
図18】実施例7における撮像部の撮像画像例である。
【
図20】実施例7における本発明の操作制御装置の処理フローである。
【
図21】実施例8における操作者と撮像部との関係図である。
【
図22】実施例8における本発明の操作制御装置の処理フローである。
【発明を実施するための形態】
【0020】
以下に、本発明の実施形態を、図面を用いて説明する。
【実施例1】
【0021】
図1は本発明の操作制御装置の構成を示すブロック図である。100は操作制御装置であり、102はカメラ等の撮像部、200は撮像部で撮像した操作者などの動画像から手などの動体を検出する動き検出部、201は動き検出部で検出した動体の移動方向および移動量を解析する動き解析部、202は撮像部102の撮影画面内において操作制御装置100の制御に使用する領域を設定する検出領域設定部、203は動き解析部201での解析結果と検出領域設定部202での設定領域に基づき操作制御装置100を制御するシステム制御部、204はシステム制御部203の制御結果から画面表示する映像データを生成する映像処理部、101は映像処理部で生成した映像データを表示する表示部である。表示部101は、例えば、液晶ディスプレイやプラズマディスプレイ等の表示装置で構成され、表示パネルとパネル制御回路とパネル制御ドライバとから構成される。
【0022】
本発明の操作制御装置の動作例を
図2に示す。
図1と同じものには同じ番号を付している。106は操作制御装置100の操作者であり、107は操作者106が操作として手を動かした際の手の軌跡を示している。操作者106の動作は撮像部102で撮影されている。
【0023】
また、110は、検出領域設定部202で設定された操作制御が可能な領域であり、111、112は、動き検出部で検出された操作者の手の動きである。
【0024】
また、103は、視聴などのために選択すべきコンテンツメニューの例であり、104は、フォーカスされ、選択可能となっているコンテンツAを示している。コンテンツメニュー103では、コンテンツの代表画像あるいはコンテンツに関連した情報が並んで表示されている。105はコンテンツメニュー103のフォーカスが移動する方向を示しており、手を左右に動かすことで、コンテンツメニュー103内のフォーカスされるコンテンツが移動する。
【0025】
上記の表示画面101内の表示は、システム制御部203で映像処理部204を制御することによって、行われる。
【0026】
撮像部102の撮影画像例を
図3に示す。300は撮像部102で撮影した画面全体、311は検出領域設定部202で設定された動体検出領域、306は操作者、311および312は操作者306の手が検出領域310内にある場合の手の位置と軌跡、313および314は操作者306の手が検出領域310外にある場合の手の位置と軌跡を示している。
【0027】
110は検出領域設定部202で設定されている動体検出領域を表示画面上に表示したものであり、撮像画像内の動体検出領域310に対応している。動体検出領域110を表示することで、操作者106が手を動かすべき位置を認識できるようにしている。
【0028】
111は動体である操作者の手の位置をイメージしたものであり、撮像部102で撮像された手の位置311及びその軌跡312が動き検出部200で検出され、映像処理部204でイメージ化され表示部101に表示されている。なお、動体のイメージ111は、操作者が理解しやすい形状であればどのような形でもかまわない。112は、動き解析部201が解析した操作者106が手を動かした際の手の軌跡を示している。
図4に動体が動体検出領域外にある場合の、表示画面例を示す。
図2と同じものは同じ番号を付しており、説明は省略する。401は操作者の手の位置をイメージしたものであり、
図3の操作者の手313に対応しており、動体検出領域311の外にある。イメージ401が動体検出領域110外にある場合は、画面上に動体のイメージは表示するが、操作の軌跡解析を行わず、操作制御装置100の制御はしない。
【0029】
次に操作制御装置100の処理フローを、
図5及び
図1を用いて説明する。本操作制御装置を開始すると、ステップ501で、動き検出部200により、撮像部102で撮影した画像データから動体検出を行う。ステップ501で、動体が検出されなければ動体検出処理を繰り返し、動体が検出されれば、ステップ502で、システム制御部203及び映像処理部204により、検出した動体の位置を、例えば
図2のイメージ111のように表示する。ステップ503では、システム制御部203により、検出した動体の位置が検出領域設定部202で設定された動体検出領域310の内にあるか外にあるかを判断する。動体の位置が領域外であれば、ステップ501の動体検出に戻る。動体の位置が領域内であれば、ステップ504で、動き解析部201により、動体の軌跡を解析し、動体の移動方向および移動量を検出する。ステップ505では、システム制御部203により、動体の移動量が予め設定されている閾値以上かどうかを判断する。閾値以下であればステップ501の動体検出に戻る。閾値以上であれば、ステップ506で、システム制御部203により、動体の移動量および移動方向に対応した制御コマンドを生成し、制御コマンドに従った画面表示を、映像処理部204を用いて、表示部101に行わせる。例えば、
図2のようなコンテンツメニュー103では、動体が左に動くとコンテンツメニューを左に動かす。
【0030】
図6に表示画面例を示す。
図2と同じものは同じ番号を付しており、説明は省略する。
図6(a)は動体の初期位置の表示画面例であり、601は動体の位置を示すイメージであり、602および603はコンテンツメニュー103に表示されているコンテンツA、コンテンツBである。
図6(a)では、フォーカス位置104にコンテンツA602が位置している。
図6(b)は、動体が左方向に移動した場合の表示画面例であり、604は動体の軌跡、605は移動後の動体の位置を示すイメージである。
図6(c)は、動体が左に動いたのに対応してコンテンツメニューを左に移動させた表示画面例である。コンテンツメニューを左に移動させた結果、フォーカス位置104にはコンテンツB603が配置され、コンテンツA602はフォーカス位置104の左に移動している。さらに、
図6(d)は、動体がさらに左方向に移動して、動体検出領域110外に移動した表示画面例である。606は動体の軌跡、607は移動後の動体の位置を示すイメージである。動体の軌跡606は動体検出領域110外であるので、操作制御をせず、コンテンツメニュー103も
図6(c)のままとなる。
【0031】
以上、コンテンツメニュー103を左に動かす例を示したが、手を右に動かせば、コンテンツメニュー103を右に動かすことになる。
【0032】
本例によれば、限られた領域を動体検出領域とし、操作者が動体検出領域内を横切るような動作をし、戻り動作のような意図しない動きは動作検出領域外で行うようにすることにより、意図しない動きを認識させることなく、操作者が意図する操作がし易くなる。
【実施例2】
【0033】
図7は、本発明の操作制御装置の実施例1とは別の表示画面例である。
図2と同じものには同じ番号を付し、説明は省略する。701はフォーカス位置、705および706はコンテンツメニュー103の移動方向を示す。702は動体検出領域であり、コンテンツのフォーカス位置701に重なった位置に配置されている。703は動体の位置のイメージ、704は動体の軌跡である。システム構成については
図1と、処理フロー及び表示画面内の動きについては
図5及び
図6と同様なため説明は省略する。
【0034】
本例によれば、動作検出領域702がフォーカス位置701と重なっているため、操作者はより、手の動きでコンテンツを動かしている感覚を得ることができ、より直観的な操作が可能になる。
【実施例3】
【0035】
図8は、本発明の操作制御装置の実施例1及び2とは別の表示画面例である。
図2と同じものには同じ番号を付し、説明は省略する。900はコンテンツメニュー、901はフォーカス位置、906および907はコンテンツメニューの移動方向を示す。902は動体検出領域であり、コンテンツメニュー900に重なった位置に配置されている。904は動体の位置のイメージ、905は動体の軌跡である。システム構成については
図1と、処理フロー及び表示画面内の動きについては
図5及び
図6と同様なため説明は省略する。
【0036】
本例によれば、動作検出領域902がコンテンツメニュー900と重なっているため、操作者はより、手の動きでコンテンツを動かしている感覚を得ることができ、より直観的な操作が可能になる。
【実施例4】
【0037】
図9は、本発明の操作制御装置の実施例1ないし3とは別の表示画面例である。
図2および
図7と同じものには同じ番号を付し、説明は省略する。801は702を第1動体検出領域とした場合の第2動体検出領域、802は動体の位置のイメージ、803は動体の軌跡である。
【0038】
次に本例の操作制御装置の処理フローを、
図10を用いて説明する。
図5と同じものは同じ番号を付し、説明は省略する。ステップ502で、動体の位置を表示した後、ステップ510で、システム制御部203により、動体の位置が検出領域設定部202で設定された第1動体検出領域702及び第2動体検出領域801のいずれの範囲内にあるかを判断する。動体の位置がいずれにもない場合はステップ501の動体検出に戻る。動体の位置がどちらかの範囲内にある場合は、ステップ504で、動体の軌跡を解析する。ステップ505で、動体の移動量が閾値以上であれば、ステップ511で、システム制御部203により、動体の位置が第1動体検出領域702内にあるかどうかを判断する。動体の位置が第1動体検出領域702内であれば、ステップ506で、制御コマンドを生成し、例えばコンテンツメニューを動かす画面表示を行う。動体の位置が、動体検出領域702外であれば、第2動体検出領域内であるので、ステップ512で、ステップ506とは異なる別の制御コマンドの生成を行う。本例では、制御コマンドを、音量変更のために割り当てている。
【0039】
本例によれば、複数の動体検出領域を設け、各々に制御対象を割り当てることにより、同じ手の操作で複数の制御が可能になる。なお、本例では2つの動作検出領域としたが、操作の必要に応じてさらに動体検出領域を増やしてもよい。
【実施例5】
【0040】
図11に操作者の手の動きの一例を示す。151は操作者がx軸方向に手を左右に動かす動作の軌跡、150はy軸方向に手を上下に動かす動作の軌跡を示している。操作者は、手を上下、左右に動かすことにより操作制御装置の操作を行う。
【0041】
図12は、
図7に対応する本発明の操作制御装置の表示画面例である。
図2および
図7と同じものには同じ番号を付し、説明は省略する。160は動体の位置のイメージであり、161は動体の軌跡、162は操作できる制御項目を操作方向とともに示した表示である。
【0042】
次に本例の操作制御装置の処理フローを、
図13を用いて説明する。
図5と同じものは同じ番号を付し、説明は省略する。ステップ504で動体の軌跡を解析した後、ステップ520で、システム制御部203により、x方向の移動量が閾値以上であるかどうかを判断する。x軸方向の移動量が閾値以上であれば、ステップ506で、x軸方向の移動に対応する制御コマンドを生成し、例えばコンテンツメニューを動かす画面表示を行う。x軸方向の移動量が閾値以下であれば、ステップ521で、システム制御部203により、y軸方向の移動量が閾値以上であるかどうかを判断する。y軸方向の移動量が閾値以上であれば、ステップ522で、y軸方向の移動に対応する制御コマンドを生成し、例えばフォーカス位置701にあるコンテンツを選択/再生する。
【0043】
本例によれば、動体の動きを、x軸方向およびy軸方向に分け異なる制御に割り当てることにより、より多くの制御が可能になる。また、
図9に示したような複数の動体検出領域を用いた制御との組み合わせにより、さらに多くの制御を可能とする。
【実施例6】
【0044】
図14に操作者の手の動きの一例を示す。350は操作者がx軸方向に手を左右に動かす動作の軌跡、351はy軸方向に手を上下に動かす動作の軌跡、352はz軸方向に手を前後に動かす動作の軌跡を示している。操作者は、手を上下、左右、前後に動かすことにより操作制御装置の操作を行う。
【0045】
図15は、
図7に対応する本発明の操作制御装置の表示画面例である。
図2および
図7と同じものには同じ番号を付し、説明は省略する。本例では、撮像部102として撮像部102と撮像対象物との距離が測定可能な3Dカメラ等を用いている。451は動体の位置のイメージであり、452は操作方法を示した表示例である。例えば操作者が操作方法452に従い、手を前に出すと、操作制御装置100では動体が近づいたと判断し、フォーカス位置701にあるコンテンツの再生等を行う。
【0046】
次に本例の操作制御装置の処理フローを、
図16を用いて説明する。
図5および
図13と同じものは同じ番号を付し、説明は省略する。ステップ520でx軸方向の移動量が閾値以上であれば、ステップ506で、x軸方向の移動に対応する制御コマンドを生成し、例えばコンテンツメニューを動かす画面表示を行う。ステップ520でx軸方向の移動量が閾値以下であれば、ステップ530で、システム制御部203により、z軸方向の移動量が閾値以上であるかどうかを判断する。z軸方向の移動量が閾値以上であれば、ステップ522で、z軸方向の移動に対応する制御コマンドを生成し、例えばフォーカス位置701にあるコンテンツを選択/再生する。
【0047】
本例によれば、動体の動きを、x軸方向、y軸方向、さらに、z軸方向にも分け異なる制御に割り当てることにより、より多くの制御が可能になる。また、
図9に示したような複数の動体検出領域を用いた制御との組み合わせにより、さらに多くの制御を可能とする。
【実施例7】
【0048】
図17に二人の操作者の手の動きと撮像部102との関係図を示す。
図2と同じものには同じ番号を付しており、説明は省略する。撮像部102は撮像部102と撮像対象物との距離が測定可能な3Dカメラ等である。650は第2の操作者であり、操作者106に比べて撮像部102から遠い位置にいる。651は操作者106の手の動作の軌跡であり、652は第2の操作者650の手の動作の軌跡を示している。操作者106と第2の操作者650は同時に手を動かしている。
【0049】
図18は撮像部102の撮影画像例である。
図3と同じものには同じ番号を付しており、説明は省略する。751は操作者106の撮像画像、752は操作者106の手の撮像画像、753は操作者106の手の動作の軌跡を示している。また、754は操作者650の撮像画像、755は操作者650の手の撮像画像、756は操作者650の手の動作の軌跡を示している。
【0050】
ここでは、撮像部102からの距離データを明示してはいないが、各画像データは距離データも持っている。本例では、撮像画像データから撮像部102に最も近い動体を抽出して表示する。
図19にその表示画面例を示す。
図2と同じものには同じ番号を付しており、説明は省略する。851は操作者106の手の位置のイメージであり、852は手の動作の軌跡を示している。撮像部102では動体が2個検出されているが、
図19の表示画面例では、最も近い動体である操作者106の手の位置を示すイメージ851のみ表示されており、操作制御装置100の操作も操作者106の動きのみが有効になっている。
【0051】
次に、本例の操作制御装置100の処理フローを、
図20を用いて説明する。
図5および
図16と同じものは同じ番号を付し、説明は省略する。ステップ501で動体を検出すると、ステップ540で、システム制御部203により、動体までの距離が基準値より近いかどうかを判断する。基準値は、操作制御装置100を操作可能な範囲として予め決めておく。こうすることにより、不必要な動体の検出を避けることができる。ステップ540で、基準値より遠ければ、ステップ501の動体検出に戻る。基準値より近ければ、ステップ541で、システム制御部203により、予め設けた動体の大きさの基準値内であるかどうかを判断する。動体の大きさが基準値外であれば、ステップ501の動体検出に戻る。こうすることにより、操作者の前を人が横切る等の動作をした時に、誤動作させないようにできる。動体の大きさが基準値内であれば、ステップ542で、システム制御部203及び映像処理部204により、最短距離にある動体として、その位置を表示する。
【0052】
本例によれば、複数の操作者がいる場合、複数の移動体がある場合においても、真の操作者の手を特定し、操作可能な動体として認識することができる。
【実施例8】
【0053】
図21に操作者と撮像部との関係図を示す。
図2と同じものには同じ番号を付しており、説明は省略する。撮像部102は撮像部102と撮像対象物との距離が測定可能な3Dカメラ等である。251は操作者106の手であり、252は撮像部102で検出される手251の位置、253は撮像部102で検出される手252までの距離、254は撮像部102で検出される操作者106の位置、255は撮像部102で検出される操作者106までの距離、256は操作者106までの距離255と操作者の手251までの距離253との差分を示している。
【0054】
次に、本例の操作制御装置100の処理フローを、
図22を用いて説明する。
図5および
図16と同じものは同じ番号を付し、説明は省略する。ステップ550で、操作者106を検出する。操作者106の検出は、撮像部102の撮像データで可能であり、例えば、画像を認識する方法や、撮影画像の中である一定距離内にある物体の大きさを検出する方法などを用いればよい。操作者106を検出することで操作者までの距離255がわかる。次に、ステップ501で、動体である手252を検出し、ステップ502で動体の位置表示をした後、ステップ551に移行する。ステップ551では、操作者までの距離255と動体の距離までの距離253の差分を取り、基準値と比較する。ここで、基準値は、操作者106が操作を目的に手を伸ばすおおよその距離を考慮して設定される。差分が、ある一定の基準値以上であれば、操作者106が操作を目的として伸ばした手であるとして、これを正式に動体として特定し、ステップ504に移行する。差分が一定の基準値以下であれば、操作者106が操作を目的とせずに動かした手であるとして、これを正式な動体として特定しないようにする。
【0055】
本例によれば、操作者の操作を目的とした手などの動きを検出し、操作を意図しない手などの動きで誤動作しないようにすることができる。