(58)【調査した分野】(Int.Cl.,DB名)
前記互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップの前に、同一の知覚深度を有するオブジェクトから構成された画面をディスプレイするステップと、
前記画面上で一つのオブジェクトが選択されると、選択されたオブジェクトの一側にメニュー選択ウィンドウを表示するステップと、
前記メニュー選択ウィンドウでコピーメニューが選択されると、前記選択されたオブジェクトの知覚深度を調整するステップとを更に含む
ことを特徴とする請求項1に記載の操作方法。
前記互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップの前に、同一の知覚深度を有するオブジェクトから構成された画面をディスプレイするステップと、
前記画面上で一つのオブジェクトがタッチされ、タッチ状態が予め設定された方向に回転されたり、予め設定されたパターンに応じて移動されると、前記タッチされたオブジェクトの知覚深度を調整するステップとを更に含む
ことを特徴とする請求項1に記載の操作方法。
【発明の概要】
【発明が解決しようとする課題】
【0006】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、互いに異なる知覚深度を有する複数のオブジェクトをディスプレイし、その知覚深度に対応する複数のタッチモードに応じて各オブジェクトを選択及び操作できる3Dディスプレイ端末装置及びその操作方法を提供することにある。
【課題を解決するための手段】
【0007】
本発明の一実施形態に係る3Dディスプレイ端末装置の操作方法は、互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップと、ユーザ操作に応じて、前記複数のオブジェクトの表示状態を変更するステップとを含んでよい。ここで、前記ユーザ操作は、前記知覚深度に対応するように異なる深度(depth)で認識される複数のタッチモードで行われてよい。
【0008】
一方、本操作方法は、前記互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップの前に、同一の知覚深度を有するオブジェクトをディスプレイするステップと、前記オブジェクトのうちの一つのオブジェクトが選択されると、選択されたオブジェクトの知覚深度を調整するステップとを更に含んでよい。
【0009】
または、前記互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップの前に、同一の知覚深度を有するオブジェクトから構成された画面をディスプレイするステップと、前記画面上で一つのオブジェクトが選択されると、選択されたオブジェクトの一側にメニュー選択ウィンドウを表示するステップと、前記メニュー選択ウィンドウでコピーメニューが選択されると、前記選択されたオブジェクトの知覚深度を調整するステップとを更に含んでよい。
【0010】
または、前記互いに異なる知覚深度を有する複数のオブジェクトをディスプレイするステップの前に、同一の知覚深度を有するオブジェクトから構成された画面をディスプレイするステップと、前記画面上で一つのオブジェクトがタッチされ、タッチ状態が予め設定された方向に回転されたり、予め設定されたパターンに応じて移動されると、前記選択されたオブジェクトの知覚深度を調整するステップとを更に含んでよい。
【0011】
以上のような多様な実施形態において、前記知覚深度が調整されたオブジェクトは、前記3Dディスプレイ端末装置の画面から垂直方向に突出するように3D方式でディスプレイされてよい。なお、前記複数のタッチモードは、前記突出したオブジェクトを前記画面から離れている状態で選択するための近接タッチモード、前記画面にディスプレイされるオブジェクトを直接タッチして選択するための直接タッチモードとを含んでよい。
【0012】
一方、前記知覚深度の調整されたオブジェクトが、前記画面から突出している状態で表示されると、元の画面上から前記オブジェクト表示は削除されてよい。
【0013】
そして、前記ユーザ操作に応じて、前記複数のオブジェクトの表示状態を変更するステップは、前記近接タッチモードに応じて前記突出したオブジェクトの知覚深度に対応する距離だけ前記画面から離れている状態で、前記突出したオブジェクトが選択され、選択された地点が移動されると、移動される地点に応じて前記突出したオブジェクトの表示位置を変更するステップを含んでよい。
【0014】
そして、前記ユーザ操作に応じて、前記複数のオブジェクトの表示状態を変更するステップは、前記選択されたオブジェクトが前記突出した形態で3D方式でディスプレイされた状態で、前記画面が直接タッチされると、前記選択されたオブジェクトのディスプレイ状態は保持しつつ、前記タッチ状態に応じて画面表示状態を切り替えるステップと、前記画面表示状態が切り替わった状態で、前記選択されたオブジェクトが前記近接タッチモードによって近接タッチされて選択された後、前記切り替わった画面上の一領域に移動されて直接タッチが行われると、前記選択されたオブジェクトの知覚深度を元の状態に復元しつつ、前記タッチされた一領域に貼り付ける(paste)ステップとを含んでよい。
【0015】
ここで、前記オブジェクトは、コンテンツであってよい。
【0016】
または、前記ユーザ操作に応じて、前記複数のオブジェクトの表示状態を変更するステップは、前記選択されたオブジェクトの知覚深度が調整され、互いに異なる知覚深度を有する複数のオブジェクトがディスプレイされた状態で、レイヤ変更命令が入力されると、突出したオブジェクトと前記画面上のオブジェクトとの知覚深度を互いにスイッチして表示するステップを含んでよい。
【0017】
この場合、操作方法は、前記レイヤ変更命令を入力するためのメニューを前記画面上の一領域に表示するステップを更に含んでよい。
【0018】
一方、前記タッチ状態に応じて前記画面表示状態を切り替えるステップは、前記選択されたオブジェクトが前記突出した形態で3D方式でディスプレイされた状態で、前記画面が直接タッチされた場合、直接タッチされた地点がアプリケーションアイコンである場合、前記アプリケーションアイコンに対応するアプリケーション画面に前記画面表示状態を切り替えてよい。
【0019】
そして、前記ユーザ操作に応じて、前記複数のオブジェクトの表示状態を変更するステップは、前記選択されたオブジェクトの知覚深度を調整して前記選択されたオブジェクトを元の画面から分離して突出した形態で3D方式でディスプレイしつつ、前記元の画面から前記選択されたオブジェクトの表示を削除するステップと、前記画面が直接タッチされ、タッチされた地点が予め設定された閾値速度以上の速度で任意の方向に移動されると、前記突出した形態のオブジェクト表示は保持しつつ、前記任意の方向に応じてページを切り替えて次のページに画面表示状態を切り替えるステップとを含んでよい。
【0020】
ここで、前記オブジェクトは、アイコンであってよい。
【0021】
一方、前記複数のタッチモードは、前記画面から離れている状態で、オブジェクトを選択できる少なくとも一つの近接タッチモード、前記画面を直接タッチしてオブジェクトを選択する直接タッチモード、前記画面を直接タッチした状態で、タッチ圧力を調整してオブジェクトを選択できる少なくとも一つの加圧モード、前記画面を直接タッチする時間に応じてオブジェクトを選択できる少なくとも一つのロングプレス(Long Press)モードとのうち、少なくとも二つ以上のモードを含んでよい。
【0022】
一方、本発明の一実施形態に係る3Dディスプレイ端末装置は、同一の知覚深度を有するオブジェクトをディスプレイするディスプレイ部と、前記オブジェクトのうちの一つのオブジェクトが選択されると、選択されたオブジェクトの知覚深度を調整する変換部と、各オブジェクトの知覚深度に対応する異なる深度のタッチを認識する複数のタッチモードに応じてユーザ操作を認識し、前記オブジェクトの表示状態を変更するように前記ディスプレイ部及び前記変換部を制御する制御部と含む。
【0023】
ここで、前記ディスプレイ部は、一つのオブジェクトが選択されると、選択されたオブジェクトの一側にメニュー選択ウィンドウを表示してよい。そして、前記制御部は、前記メニュー選択ウィンドウでコピーメニューが選択されると、前記選択されたオブジェクトの知覚深度を調整するように前記変換部を制御してよい。
【0024】
または、前記制御部は、一つのオブジェクトがタッチされ、タッチ状態が予め設定された方向に回転されたり、予め設定されたパターンに応じて移動されると、前記選択されたオブジェクトの知覚深度を調整するように前記変換部を制御してよい。
【0025】
一方、前記変換部は、前記選択されたオブジェクトが前記3Dディスプレイ端末装置の画面から垂直方向に3D方式で突出するように前記選択されたオブジェクトの距離感を調整してよい。この場合、前記制御部は、前記画面から突出したオブジェクトの選択は、前記画面から離れている状態で選択する近接タッチモードに応じて認識し、前記画面にディスプレイされるオブジェクトの選択は、前記画面を直接タッチして選択する直接タッチモードに応じて認識してよい。
【0026】
そして、前記制御部は、前記知覚深度の調整されたオブジェクトが、前記画面から突出している状態で表示されると、元の画面上から前記選択されたオブジェクトの表示を削除するように、前記ディスプレイ部及び前記変換部を制御してよい。
【0027】
ここで、前記制御部は、前記近接タッチモードに応じて前記突出したオブジェクトの知覚深度に対応する距離だけ前記画面から離れている状態で、前記突出したオブジェクトが選択され、前記突出したオブジェクトを選択したポインタが移動されると、移動されるポインタに応じて前記突出したオブジェクトの表示位置を変更するように、前記ディスプレイ部及び前記変換部を制御してよい。
【0028】
一方、前記制御部は、前記選択されたオブジェクトが前記突出した形態で3D方式でディスプレイされた状態で、前記画面が直接タッチされると、前記選択されたオブジェクトのディスプレイ状態は保持しつつ、前記タッチ状態に応じて画面表示状態を切り替え、前記画面表示状態が切り替わった状態で、前記選択されたオブジェクトが前記近接タッチモードによって近接タッチされて選択された後、前記切り替わった画面上の一領域に移動されて直接タッチが行われると、前記選択されたオブジェクトの知覚深度を元の状態に復元しつつ、前記タッチされた一領域に貼り付ける(paste)して表示するように、前記ディスプレイ部及び前記変換部を制御してよい。
【0029】
ここで、前記オブジェクトは、コンテンツであってよい。
【0030】
そして、前記制御部は、前記選択されたオブジェクトの知覚深度が調整され、互いに異なる知覚深度を有する複数のオブジェクトがディスプレイされた状態で、レイヤ変更命令が入力されると、突出したオブジェクトと前記画面上のオブジェクトとの知覚深度を互いにスイッチして表示するように、前記ディスプレイ部及び前記変換部を制御してよい。
【0031】
この場合、前記ディスプレイ部は、前記レイヤ変更命令を入力するためのメニューを前記画面上の一領域に表示してよい。
【0032】
そして、前記制御部は、前記選択されたオブジェクトが前記突出した形態で3D方式でディスプレイされた状態で、前記画面が直接タッチされた場合、直接タッチされた地点がアプリケーションアイコンである場合、前記アプリケーションアイコンに対応するアプリケーション画面に前記画面表示状態を切り替えてよい。
【0033】
一方、前記制御部は、前記選択されたオブジェクトの知覚深度を調整して前記選択されたオブジェクトを元の画面から分離して突出した形態で3D方式でディスプレイしつつ、前記元の画面から前記選択されたオブジェクトの表示を削除し、前記画面が直接タッチされ、タッチされた地点が予め設定された閾値速度以上の速度で任意の方向に移動されると、前記突出した形態のオブジェクト表示は保持しつつ、前記任意の方向に応じてページを切り替えて次のページに画面表示状態を切り替えるように、前記ディスプレイ部及び前記変換部を制御してよい。
【0034】
ここで、前記オブジェクトは、アイコンであってよい。
【0035】
一方、前記複数のタッチモードは、前記画面から離れている状態で、オブジェクトを選択できる少なくとも一つの近接タッチモード、前記画面を直接タッチしてオブジェクトを選択する直接タッチモード、前記画面を直接タッチした状態で、タッチ圧力を調整してオブジェクトを選択できる少なくとも一つの加圧モード、前記画面を直接タッチする時間に応じてオブジェクトを選択できる少なくとも一つのロングプレス(Long Press)モードとのうち、少なくとも二つ以上のモードを含んでよい。
【0036】
一方、本発明は、前記ディスプレイ部の画面を直接タッチする直接タッチを検知する第1センサ部と、前記ディスプレイ部の画面に予め設定された範囲内に接近する近接タッチを検知する第2センサとを更に含んでよい。
【発明の効果】
【0037】
以上説明したように、本発明によれば、ユーザは端末機器からコンテンツやアイコン等のようなオブジェクトをより便利に選択して利用することができるようになる。
【発明を実施するための形態】
【0039】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。
【0040】
<3Dディスプレイ端末装置の構成>
図1は、本発明の一実施形態に係る3Dディスプレイ端末装置の構成を示すブロック図である。同図の3Dディスプレイ端末装置は、携帯電話、PDA、ノートパソコン、タブレットパソコン、デジタルフォトフレーム、電子書籍、MP3プレーヤ等のような多様な携帯型端末装置だけでなく、テレビやパソコン等のような端末装置で実現されてよい。
【0041】
同図によると、3Dディスプレイ端末装置は、ディスプレイ部110と、変換部120及び制御部130を含む。
【0042】
ディスプレイ部110は、少なくとも一つ以上のオブジェクトからなる画面を出力する。ここで、オブジェクトとは、テキストやイメージ、写真等のように画面上で一つの独立した意味をもつ表示を意味してよく、メニューアイコンやフォルダアイコン等のような多様なアイコンを含んでよい。
【0043】
ディスプレイ部110は、通常、待ち受け画面に予めインストールされた各種アプリケーションプログラムに対応するアイコンや、装置利用のために設けられたメニューアイコン等を表示することができる。このような状態で、特定アプリケーションまたは特定メニューが選択されると、その選択されたアプリケーションまたはメニューに対応する画面を表示する。表示された画面には、テキストや、イメージ、写真、メニュー等が多様な形態及び大きさで含まれてよい。
【0044】
変換部120は、ディスプレイ部110で画面上に表示されたオブジェクトのうち、一部のオブジェクトが選択されると、選択されたオブジェクトの知覚深度を調整する。知覚深度とは、画面を基準に画面から突出して見える度合、または、画面の下側に窪んで見える度合を意味する。すなわち、3Dディスプレイ方式によると、左側映像及び右側映像の間の視差によって、ユーザは立体感を感じることができる。知覚深度とは、このような立体感を意味してよい。
【0045】
変換部120は、選択されたオブジェクトの知覚深度を調整するために、当該オブジェクトのイメージを3Dデータに変換する。3Dディスプレイ方式は、メガネの要否に応じて、メガネ式または非メガネ式に区分されてよい。
【0046】
すなわち、3Dディスプレイ端末装置のユーザが3D視聴のための専用のメガネを着用するメガネ式3Dディスプレイ装置なら、変換部120は選択されたオブジェクトのイメージを左眼映像及び右眼映像にそれぞれ生成する。左眼映像及び右眼映像とは、同一の被写体を互いに異なる視覚から眺めた映像を意味する。左眼映像及び右眼映像において互いに対応するブロック間の距離が立体感、すなわち、上述の知覚深度であってよい。ディスプレイ部110は、変換部120から生成した左眼映像及び右眼映像を予め設定された回数で交互に出力する。制御部130は、別途に設けられた同期信号伝送ユニット(図示せず)を用いて、左眼映像及び右眼映像の交互での出力タイミングに合った同期信号を3Dメガネ装置に伝送する。それにより、3Dメガネで、左側グラス及び右眼グラスをその同期信号に合わせて交互に作動させ、3D視聴を可能とする。
【0047】
一方、3Dディスプレイ端末装置が専用のメガネを必要としない非メガネ式の3Dディスプレイ装置なら、変換部120は選択されたオブジェクトのイメージを多視点映像に変換してディスプレイ部110に提供する。
【0048】
具体的には、変換部120は映像信号を基準に焦点距離、被写体の深度等を用いて、焦点変化時に被写体との距離変化程度、方向転換程度等を推定する。変換部120は、推定結果に応じて、基準映像の各ピクセルの位置を移動させて新たな映像を生成する。生成された映像は、基準映像とは所定角度だけ離隔されている状態で、被写体を眺めた映像であってよい。変換部120は、このような方式で複数の多視点映像を生成することができる。
【0049】
ディスプレイ部110は、多視点映像を空間的に区分して出力し、メガネをかけずに被写体との距離感を感じ、3D映像として認識するようにすることができる。例えば、合計9つの多視点映像が生成されているとしたら、各多視点映像を画面の一側から順次に出力し、最後の9番目の映像出力が終わる部分では、再び一番目の映像から出力し、画面の前方に向かって多様な角度で出力する。それにより、ユーザは、メガネをかけなくとも立体感を感じることができるようになる。一方、多視点映像の数は、必ずしも9に限定されるものではなく、その数に応じてディスプレイ方向の数も異なってよい。なお、多視点映像出力のために、ディスプレイ部110は、パララックスバリア(Parallax Barrier)技術またはレンチキュラー(Lenticular)技術によるディスプレイパネルを含んでよい。
【0050】
制御部130は、ディスプレイされた各オブジェクトの知覚深度に対応する異なる深度のタッチを認識する複数のタッチモードに応じてユーザ操作を認識する。それにより、その操作内容に合わせてオブジェクトの表示状態を変更するようにディスプレイ部110及び変換部120を制御する。
【0051】
タッチモードは多様に実現されてよい。例えば、タッチモードは、画面から離れている状態で、オブジェクトが選択できる近接タッチモード、画面を直接タッチしてオブジェクトを選択する直接タッチモード、画面を直接タッチした状態でタッチ圧力を調整してオブジェクトを選択できる加圧モード、画面を直接タッチする時間に応じてオブジェクトを選択できるロングプレスモード等のように、多様なタッチモードのうち、少なくとも二つ以上のタッチモードが適用されてよい。
【0052】
制御部130は、3Dディスプレイ方式によって画面から突出した形態で認識されるオブジェクトに対しては、画面に直接タッチせずに、離れている状態でそのオブジェクト部分に指等を近づけたとき、当該オブジェクトが選択されたと認識する近接タッチモードで操作状態を認識することができる。
【0053】
一方、画面にそのまま2D形態で表示されたオブジェクトに対しては、画面を直接タッチして選択する直接タッチモードによってオブジェクト選択有無を認識することができる。
【0054】
その他に、3Dディスプレイ方式によって画面の内側に窪んでいる形態で認識されるオブジェクトに対しては、加圧モードやロングプレスモードでその選択有無を認識することができる。すなわち、単純なタッチである場合には、画面に表示されたオブジェクトを選択したと認識し、タッチされた状態で閾値以上に強く押されたり、タッチした状態で閾値時間の間タッチが保持されると、窪んでいるオブジェクトが選択されたと認識することができる。
【0055】
このようなタッチモードは、多様な実施形態に応じて多様に組み合わせられて利用されてよい。すなわち、近接タッチモード及び直接タッチモードが組み合わせられて適用されてよく、加圧モードまたはロングプレスモードと、直接タッチモードとが組み合わせられて適用されてよい。なお、加圧モードまたはロングプレスモードと、直接タッチモード及び近接タッチモードとが同時に組み合わせられて適用されてよい。この場合には、画面から突出表示されたオブジェクト、画面にそのまま表示されたオブジェクト、画面から窪んでいる形態で表示されたオブジェクトをそれぞれの知覚深度に合うように、近接タッチモード、直接タッチモード、加圧モードまたはロングプレスモードに選択して操作することができる。
【0056】
一方、上述の近接タッチモードは、画面との距離に応じて区分される複数個の近接タッチモードで実現されてよく、加圧モードもタッチ圧力の強度に応じて区分される複数個の加圧モードで実現されてよく、ロングプレスモードもタッチ時間の長さに応じて区分される複数個のロングプレスモードで実現されてよい。
【0057】
図2は、3Dディスプレイ端末装置の細部構成の一例を示すブロック図である。同図によると、3Dディスプレイ端末装置は、ディスプレイ部110と、変換部120と、制御部130と、通信部140と、保存部150及びセンサ部160を含む。
【0058】
ディスプレイ部110と、変換部120及び制御部130の動作については、
図1を参照して既に説明しているため、繰り返し説明は省略する。
【0059】
通信部140は、有無線インターフェースを通じて外部ソースと接続されて多様なプログラム及びデータをダウンロードしたり、アップロードさせる構成要素を意味する。一例として、通信部140は、外部サーバのURL等が入力されたり、特定のアプリケーションが実行されると、対応するサーバに接続してコンテンツを受信することもできる。
【0060】
保存部150には、各種プログラム及びデータが保存される。なお、保存部150は、アプリケーションプログラムの実行過程で新たに入力されたり、設定及び生成されるデータも同時に保存しておくことができる。なお、保存部150は、3Dディスプレイのための左眼映像及び右眼映像または多視点映像等を保存しておくこともできる。
【0061】
センサ部160は、ユーザのモーションやタッチ等をセンシングして制御部130に通知する。センサ部160は、複数のタッチモードに対応する複数の第1ないし第nセンサ部161−1、161−nを備えてよい。
【0062】
一例として、第1センサ部161−1は、ディスプレイ部110の画面を直接タッチする直接タッチを検知するセンサであってよく、第2センサ161−2は、ディスプレイ部110の画面に予め設定された範囲内に接近する近接タッチを検知するセンサであってよい。
【0063】
第2センサ部161−2は、多様な構成で実現されて多様な方式で近接タッチを検知することができる。一例として、
図3のように、発光/受光方式で近接タッチを検知することができる。
【0064】
図3によると、第2センサ部161−2は、発光素子161a及び受光素子161bを含んでよい。発光素子161aは、光スポットが徐々にに拡大される角度で光を発光することができる。受光素子161bは、発光素子161aから発光される光の受光程度に対応する電気信号を制御部130に提供する。この場合、ユーザの指等が
図3に示すように、3Dディスプレイ端末装置100の画面方向に近接して光を遮るようになると、受光素子161bから検知される光の量が低減するようになり、それにより、制御部130に提供される電気信号の大きさが変わるようになる。制御部130は、電気信号の大きさの変化程度に応じて近接タッチがあったか否かを判断することができる。一例として、制御部130は、発光素子161aとの距離に応じて予測される光スポットの大きさと実際検知される光量に対応する光スポットの大きさが一定範囲からずれるくらい相違している場合、ユーザの近接タッチがあったと判断することができる。
【0065】
別の例として、第2センサ161−2は、撮像素子を含んでよい。すなわち、画面前面部に向かって撮像する撮像素子を用いて全方位撮像を行い、制御部130は、撮像結果に基づいて一定距離内に被写体が画面に接近していると判断されると、近接タッチがあったと判断することができる。
【0066】
更に別の例として、第2センサ部161−2は、静電容量センサで実現されてよい。すなわち、ユーザの指が画面側に近接移動することにより変化する静電容量の大きさが閾値以上であれば、制御部130は、近接タッチが行われたと認識することができる。
【0067】
一方、複数のタッチモードが加圧モードやロングプレスモード等を更に含む場合なら、センサ部160は圧力センサやタイマー等を更に含んでよい。
【0068】
すなわち、加圧モードを適用する場合、ディスプレイ部110の画面の内側に圧力センナを配置し、タッチされた地点における圧力変化を検知する。それにより、ユーザが強く押す場合と、画面を単にタッチした場合とを区分し、互いに異なるレイヤのオブジェクトが選択されたと認識することができる。一例として、強く押す場合には、画面の下側に窪んでいる形態で表示される3Dオブジェクトが選択されたと認識することができ、単純タッチの場合には、画面上に表示されたオブジェクトが選択されたと認識することができる。
【0069】
一方、ロングプレスモードを適用する場合、画面タッチが行われた状態で同一の地点におけるタッチが予め設定された閾値時間以上持続的に保持されると判断されると、閾値時間未満のタッチである場合と区分し、互いに異なるレイヤのオブジェクトが選択されたと認識することができる。この場合、タイマー(図示せず)を別途に更に必要としてよく、制御部130は、タッチセンサでタッチが検知された時点からタッチが終了した時点までの時間経過状態をカウントするようにタイマーを制御することができる。
【0070】
<多様な実施形態に係る動作の説明>
図4は、本発明の一実施形態に係る3Dディスプレイ端末装置の画面構成を示す図である。
【0071】
同図に示すように、少なくとも一つ以上のオブジェクト10を含むコンテンツ画面200が3Dディスプレイ端末装置100上にディスプレイされてよい。このような状態で、ユーザが一つのオブジェクト10を選択すると、選択されたオブジェクトの知覚深度が調整される。それにより、3Dディスプレイが行われ、選択されたオブジェクトと残りのオブジェクトとの知覚深度が異なるように表示される。
【0072】
同図においては、元の画面で選択されたオブジェクト10は元の画面上にそのまま表示されつつ、別途に画面200から垂直方向に突出した形態の3Dイメージ20が表示された状態を示す。3Dイメージ20、すなわち、突出したオブジェクト20の大きさは、元のオブジェクト10の大きさと同様に表示されてよく、所定の比率で縮小して表示されてよい。表示位置も、元のオブジェクト10の上側位置であってよく、または、画面上でコンテンツが配置されていない空の領域上側等であってよい。
【0073】
図4のように、突出したオブジェクト20と元の画面200とが互いに異なる知覚深度を有する複数のレイヤで表現された状態で、ユーザは突出したオブジェクト20は近接タッチモードで操作し、元の画面200は直接タッチモードで操作する。ユーザは、画面200を直接タッチして別の画面200’に切り替える。画面の切り替えが行われるとしても、別のレイヤで突出したオブジェクト20の表示はそのまま保持される。
【0074】
このように切り替わった画面200’が表示される状態で、ユーザが近接タッチ方式で突出したオブジェクト20を選択した後、選択地点を移動させると、突出したオブジェクト20の表示位置が移動される。移動中に画面を直接タッチすると、
図4に示すように、突出したオブジェクト20が元の画面200上で直接タッチされた位置に貼り付けられる。この場合、突出していたオブジェクト20の表示は消え、元の画面20上に貼り付けられるオブジェクト20の知覚深度は元の状態に復元される。すなわち、元の画面200と同様のレイヤに表示される。このように、複数のタッチモードによって、コピー及び貼り付け(Copy & Paste)動作を容易に行うことができる。
【0075】
図5は、互いに異なる知覚深度を有するレイヤを説明するための図である。同図によると、3Dディスプレイ端末装置の実際の画面をX−Y平面とすると、元の画面200はZ0深度で表示され、突出したオブジェクトはZ+軸方向に所定の高さを有するレイヤ(Z+)300上に表示される。Z+レイヤ300におけるオブジェクトの選択及び操作は、近接タッチ方式で行われ、Z0レイヤ200におけるオブジェクト選択及び操作は、直接タッチ方式で行われる。
図5においては、一つのZ+レイヤ300のみが示されているが、突出するオブジェクトの知覚深度の大きさに応じて複数のZ+レイヤが設けられてよい。このような複数のZ+レイヤは、映像間の視差を多様な値に設定し、生成することができる。なお、
図5では、画面から突出するように表示されるZ+レイヤのみを示しているが、実施形態によっては、画面から窪んでいる形態で表示されるZ−レイヤも同時に利用することができる。
【0076】
図6は、本発明の別の実施形態に係る3Dディスプレイ端末装置の操作方法を説明するための図である。
【0077】
同図に示すように、任意のアプリケーションである“APPLICATION A”が実行されると、そのアプリケーション画面200が表示され、当該画面200内に任意のオブジェクト10が表示されてよい。
【0078】
このような状態で、ユーザがオブジェクト10を直接タッチすると、メニューを選択できる領域11がオブジェクト10の一側に表示される。このような領域11は、
図6のように、グラフィックイメージで表示されてよく、画面200の一側に生成されるメニュー領域で表示されてよい。当該領域11には、
図6のように、“COPY”のようなメニューが含まれてよく、その他に多様なメニュー等が更に含まれてよい。
【0079】
ユーザは、再び“COPY”メニューを直接タッチする。説明の便宜のために、直接タッチされるスポット(a)は“●”で表示する。“COPY”メニューが直接タッチされると、選択されたオブジェクト10に対応する3Dイメージ20が表示される。この場合、3Dイメージ20は、元の画面200の一部と重複してよい。
図6においては、元の画面200の中で、APPLICATION Aのメイン画面に戻るメニューである“APPLICATION A”メニュー50と重複表示されることを知ることができる。このように、重複表示されるが、3Dイメージ20は画面から垂直方向に突出表示された形態であるため、ユーザはその立体感によって3Dイメージ20と元の画面200とが異なることを容易に認識することができる。
【0080】
このような状態で、ユーザは3Dイメージ20または元の画面200を選択することができる。3Dイメージ20は、近接タッチ方式で選択し、元の画面200は直接タッチ方式で選択することができる。特に、
図6に示すように、3Dイメージ20が表示された領域を直接タッチ(a)するようになると、3Dイメージ20が選択されるのではなく、その下側の“APPLICATION A”メニュー50が選択される。それにより、3Dイメージ20の表示は、そのまま保持されつつ、下側の画面のみが新たな画面に切り替わる。すなわち、“APPLICATION A”メニュー50が直接タッチされた場合であるため、当該アプリケーションのメイン画面200−1に切り替わる。このような状態で、ユーザは元の画面を再びタッチして異なるアプリケーションを実行させることもできる。一例として、
図6のように、ユーザはメールアプリケーション画面200−2に切り替えることができる。このような状態で、近接タッチ(b)で3Dイメージ、すなわち、突出したオブジェクト20を選択した後、近接タッチ状態を保持しつつドラッグしてメッセージウィンドウ内の内容部分を直接タッチ(a)すると、その内容部分にオブジェクト60が貼り付けられて表示され、突出していたオブジェクト20の表示は消える。
【0081】
一方、オブジェクトの選択及びコピーメニューの入力は、
図6のように、メニュー11を利用せずに、ユーザの特定モーションに応じて行われるように実現されてよい。
【0082】
すなわち、
図7に示すように、ユーザはオブジェクト10を直接タッチした後、タッチした指を矢印方向に回すことができる。このように、タッチ状態が予め設定された方向に回転されると、ユーザが当該オブジェクト10をコピーしようとする意図であると認識し、当該オブジェクト10の知覚深度を調整して3Dイメージで表示することができる。
【0083】
または、
図8に示すように、ユーザはオブジェクト10を直接タッチした後、予め設定されたパターンに応じてタッチ地点を移動させることができる。この場合、一定速度未満でタッチ地点が移動される場合には、オブジェクトの位置を移動させる命令と認識し、オブジェクト表示を移動させ、一定速度以上でタッチ地点が移動されると、当該オブジェクト10をコピーしようとする意図であると認識し、当該オブジェクト10の知覚深度を調整し、3Dイメージで表示することができる。一例として、
図8のように、オブジェクト10をタッチした後、上方にくみ上げるようなモーションを取ると、オブジェクト10が3D方式でZ+方向に突出表示されてよい。
【0084】
一方、本発明の更に別の例によると、ユーザはレイヤ変更モードを直接タッチモードとともに用いて互いに異なる知覚深度のいくつかのオブジェクトを適切に操作することもできる。
【0085】
すなわち、
図9によると、画面100上でオブジェクト10が選択され、3Dイメージ20で表示される場合、画面100の一領域には、“Switch”のようなメニュー70が表示されてよい。上述のメニューは、レイヤ変更命令を受信するためのメニューを意味する。
【0086】
同図で選択されたオブジェクト10が3Dイメージ20に突出してZ+レイヤに表示され、元の画面200がZ0レイヤに表示された状態で、“Switch”のメニュー70が直接タッチ(a)されると、元の画面200がZ+レイヤで3Dディスプレイされ、突出していたイメージ20がZ0レイヤに復元するようになる。このような状態で、ユーザが再び“Swith”メニュー70を選択すると、コンテンツの知覚深度は再び入れ替わるようになる。このように、突出したイメージ20及び元の画面200は、レイヤ変更命令の入力によって交互に入れ替わり表示される。一方、本実施形態では、Z+レイヤに表示されたコンテンツに対しても、直接タッチモードに選択することができる。
【0087】
すなわち、ユーザは、最初に同様の知覚深度で表示されたオブジェクトを含む画面上で一つのオブジェクト10を選択してコピーする。この場合、3Dディスプレイ端末装置は、選択されたオブジェクト10と同様のイメージを3Dイメージ20で表示する。このような状態で、ユーザはレイヤ変更メニューを選択して元の画面200を上側レイヤにし、3Dイメージ20を下側レイヤにするように変更する。このような状態で、ユーザは元の画面200を直接タッチしつつ、画面切り替えを行う。画面切り替えは、ページ移動だけでなく、新たなアプリケーション実行による画面表示も含む。このように、ユーザはコピーしたコンテンツが使用される画面200−2を選択する。このような状態で、ユーザは再びレイヤ変更命令を入力し、3Dイメージ20が再び上側レイヤになるように操作した後、直接タッチ地点(a)をドラッグする。ドラッグが完了すると、3Dディスプレイ端末装置は、ドラッグが完了した地点に当該イメージ20を元のサイズに貼り付けてオブジェクト60を表示する。
【0088】
このように、直接タッチモードとともにレイヤ変更モードを適用すると、近接タッチを検知するためのセンサが備えられていない装置でも、3Dディスプレイ方式を用いてオブジェクトを便利に操作することができるようになる。
【0089】
一方、
図9においては、画面100上に“Swicth”メニューが表示されたことを示しているが、必ずしもそれに限定されるものではなく、3Dディスプレイ端末装置の本体に具備されたキーが選択されたとき、レイヤ変更メニューが選択されたと認識するように実現することもできる。または、3Dディスプレイ端末装置内に地磁気センサやジャイロセンサ、加速度センサ等が装着された場合、3Dディスプレイ端末装置を振るか、ピッチ角、ロール角、ヨー角等が変化するように回転させる場合に、レイヤ変更命令が入力されたと認識するように実現することもできる。このように、レイヤ変更命令を入力し、ユーザは突出したオブジェクト20のレイヤ、すなわち、Z+レイヤと、元の画面のレイヤ、すなわち、Z0レイヤそのものを互いに入れ替わってよい。
【0090】
一方、上述のように、オブジェクトは、イメージや写真のようなコンテンツやテキストコンテンツ等であってよいが、それに限定されずに、アイコンであってよい。すなわち、コピー&貼り付け機能以外にメニューアイコン移動機能でも、複数のタッチモードが適用されてよい。
【0091】
図10は、本発明の更に別の実施形態に係る3Dディスプレイ端末装置の画面を示す図である。
【0092】
同図によると、端末装置100の画面上には多様なアイコン80−1、80−2、…、80−12等が表示される。各アイコンは、アプリケーションに対応するアイコンであってよく、端末装置100に保存されたフォルダ等に該当するアイコンであってよい。なお、一つの画面に全て表示できないくらいに多くのアイコンが存在する場合、一定の数の単位でページを構成することができる。同図では、12のアイコンが一つの画面上に表示された場合を示している。
【0093】
同図のように、一つのアイコン、例えば、第2アイコン80−2が直接タッチ(a)によって選択されると、選択された第2アイコン80−2の知覚深度が調整されて突出した3Dイメージ形態で表示される。この場合、元の位置の第2アイコン80−2の表示は削除されてよい。このような状態で、ユーザが画面を直接タッチ(a)しつつ、一方向に閾値速度以上でタッチ地点を移動させると、その移動方向に合うようにページが切り替わり、次のページが画面に表示される。すなわち。第13アイコンないし第18アイコンが表示されるページが画面に表示される。このように、画面が切り替わった状態で、ユーザは突出した形態の第2アイコン80−2を近接タッチ(b)方式でタッチし、第18アイコンの横に移動させた後、画面を直接タッチ(a)すると、第18アイコンの横に第2アイコン80−2が表示される。このように、アイコンの表示位置を直接タッチ及び近接タッチを用いて便利に操作することができるようになる。
【0094】
一方、上述の様々な実施形態では、選択されたオブジェクトをZ+またはZ−軸方向に3Dディスプレイして表示する場合を説明しているが、3Dディスプレイが不可な機器または不可なデータである場合には、それと異なる方式で分離して表示することもできる。
【0095】
すなわち、本発明の更に別の実施形態に係る端末装置では、画面200上でオブジェクト10が選択されると、現在表示されていた画面200の大きさを縮小させつつ、新たな画面300内の一領域に表示し、選択されたオブジェクト10のイメージ20をその一側に新たに表示する。すなわち、画面をX−Y平面であるとする場合、X軸方向またはY軸方向に選択されたオブジェクト10のイメージを表示することもできる。このような状態で、ユーザは縮小された画面200をタッチして新たな画面に切り替えることができる。それにより、オブジェクトを移動する新たな画面が表示されると、ユーザは別途に表示されたイメージ20をタッチした後、画面上に移動させて貼り付けることができる。
【0096】
<操作方法に対する説明>
図12は、本発明の一実施形態に係る3Dディスプレイ端末装置における操作方法を説明するためのフローチャートである。同図に示すように、3Dディスプレイ端末装置は、3Dディスプレイ方式を用いて、互いに異なる知覚深度を有するオブジェクトをディスプレイすることができる(S1210)。
【0097】
このような状態で、ユーザは複数のタッチモードを用いて、オブジェクト操作を行うことができる。ここで、複数のタッチモードとは、各オブジェクトの知覚深度に対応する異なる深度で認識されるタッチモードであってよい。例えば、画面からある程度離れている状態で認識される近接タッチモードや、画面に直接触れて認識される直接タッチモード等であってよい。その他に、画面とタッチした状態で、圧力を加える加圧モードや、タッチした状態を所定時間の間、保持するロングプレスモード等が含まれてよい。
【0098】
このように、多様なタッチモードによってオブジェクト操作が行われると、3Dディスプレイ端末装置は、ユーザ操作に応じて表示状態を変更する(S1220)。結果的に、コピー&貼り付け機能か、アイコン移動等が容易に行われ、その他にも、切り取って貼り付ける機能等のような多様な編集機能が容易に行われてよい。
【0099】
一方、上述の様々な例では、同一の知覚深度を有するオブジェクトがディスプレイされた状態で、一つのオブジェクトが選択されたとき、選択されたオブジェクトが3Dで表示される場合を説明しているが、3Dディスプレイ端末装置は、コンテンツの内容に応じて元から3Dディスプレイ方式で互いに異なる知覚深度のオブジェクトを表示することができる。このような場合には、別途に選択する過程がなくても、各オブジェクトの知覚深度に対応する適切なタッチモードで各オブジェクトを選択することもできる。
【0100】
図13は、本発明の一実施形態に係る操作方法のうち、コピー&貼り付け動作をより詳細に説明するためのフローチャートである。
【0101】
同図に示すように、オブジェクトがディスプレイされている状態で(S1310)、任意のオブジェクトが選択されると(S1315)、選択されたオブジェクトの一側にメニューを表示する(S1320)。
【0102】
それにより、ユーザが表示されたメニューのうち、コピーメニューを選択すると(S1325)、選択されたオブジェクトを3D映像にZ+方向に突出させてディスプレイする(S1330)。
【0103】
一方、このような状態で、既存の画面に存在する別のオブジェクトに対しても、直接タッチが行われ、上述のような過程を経た後に、上記3D映像に追加して新たな3D映像で表示することもできる。すなわち、Z+方向に突出表示されるオブジェクトは複数個であってよい。
【0104】
このような状態で、突出したイメージに対する近接タッチが行われると、当該オブジェクトは近接タッチの状態に応じて操作される(S1335)。
【0105】
すなわち、近接タッチされた部分が画面から離れている状態で移動するようになると、移動方向及び距離に応じて突出したイメージの表示位置を移動させる(S1340)。
【0106】
一方、少なくとも一つのイメージが突出表示された状態で、直接タッチが行われると(S1345)、突出したイメージではない元の画面を直接タッチ状態に応じて操作する。仮に、新たなページに移動したり、新たなアプリケーションを実行する場合等のように、画面を切り替える状況が生じると、突出表示されたイメージはそのまま保持しつつ画面を切り替える(S1350)。
【0107】
このように、ユーザ近接タッチモードまたは直接タッチモードを用いて各オブジェクトの状態を操作することができる。
【0108】
一方、近接タッチを用いてオブジェクトを移動させていて、直接タッチが行われると(S1355)、突出したオブジェクトに知覚深度を元の状態に復元し、現在の画面で直接タッチした地点に当該オブジェクトを貼り付ける(S1360)。それにより、選択したオブジェクトが新たな画面にコピーして表示されるようになる。
【0109】
図14は、本発明の別の実施形態に係る操作方法を説明するためのフローチャートである。同図に示すように、オブジェクトがディスプレイされた状態で(S1410)、オブジェクトが選択されると(S1420)、選択されたオブジェクトの知覚深度を調整して3Dでディスプレイさせる(S1430)。
【0110】
このようなオブジェクトの選択は、上述のように、メニューを利用してよく、タッチ後のユーザのモーション変化によって行われてよく、単純タッチだけで行われてよい。
【0111】
一方、このように、複数のオブジェクトが互いに異なる知覚深度で3Dディスプレイされた状態で、ユーザがレイヤ変更命令を入力すると(S1440)、入力されたレイヤ変更命令に従って現在の画面のレイヤと突出表示されたオブジェクトのレイヤとをスイッチさせる(S1450)。
【0112】
それにより、ユーザは、上位レイヤに存在するオブジェクトをタッチして操作することができる。下位レイヤに存在するオブジェクトを操作しようとするときには、再びレイヤ変更命令を入力することができる。結果的に、ユーザは自分が望む結果が得られるまで、タッチ及びレイヤ変更命令入力を行い、各オブジェクトの表示位置変更及びコピー、貼り付け等を行ってよい。ユーザが貼り付けを行うか、3Dディスプレイ表示を終了しようとする命令を入力すると、3Dディスプレイ処理が終了されてよい(S1460)。3Dディスプレイ表示を終了しようとする命令は、画面上に表示された特定メニューを選択したり、3Dディスプレイされたオブジェクトをロングプレスまたはダブルタッチ等のような多様な方式でタッチし、入力することができる。
【0113】
このように、ユーザは、レイヤ変更モード及び直接タッチモードを同時に用いてオブジェクト操作を行うこともできる。
【0114】
一方、上述の本発明の多様な実施形態に係る方法を実行するためのプログラムは、多様な記録媒体に保存して使用されてよい。具体的には、上述の方法を実行するためのコードは、RAM(Random Access Memory)、フラッシュメモリ、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electronically Erasable and Programmable ROM)、レジスタ、ハードディスク、リムーバブルディスク、メモリカード、USBメモリ、CD−ROM等のように、端末機で読取可能な多様な記録媒体に保存されていてよい。
【0115】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明は以上の実施形態に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的趣旨の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。