【文献】
Chapter2 エンタメ,ベストアプリ365 2013,日本,株式会社インプレスジャパン,2012年12月21日,p. 61
(58)【調査した分野】(Int.Cl.,DB名)
前記第2ディスプレイレイヤは、前記複数のディスプレイアイテムが表示される領域のデプス値と前記複数のディスプレイアイテムが表示されない領域のデプス値との間のデプス値を有することを特徴とする請求項6に記載のイメージ表示方法。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の目的は、上述した問題点を解決するために案出されたものであって、本発明の目的は、互いに異なるデプスを有する複数のディスプレイレイヤを利用して、ユーザ入力に応答する3次元的なイメージ効果を提供できるユーザ端末及びそのイメージ表示方法を提供することにある。
【課題を解決するための手段】
【0006】
上記の目的を達成すべく、本発明の一実施の形態にかかる、ユーザ端末のイメージ表示方法は、互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示するステップと、ユーザ入力が感知されると、前記ユーザ入力に応じて前記複数のディスプレイレイヤのうち、少なくとも一つのディスプレイレイヤのデプスを変更して、前記ユーザ入力に応答するイメージ効果を提供するステップとを含む。
【0007】
そして、前記複数のディスプレイレイヤは、イメージをディスプレイする第1ディスプレイレイヤ及び前記第1ディスプレイレイヤ上に水表面の透明度を有する第2ディスプレイレイヤを含むことができる。
【0008】
また、前記第1ディスプレイレイヤは、固定されたデプスを有することを特徴とし、前記第2ディスプレイレイヤは、前記ユーザ入力に応じてデプスが変更されてよい。
【0009】
そして、前記提供するステップは、前記ユーザ入力が感知されると、前記第2ディスプレイレイヤのうち、前記ユーザ入力が感知された地点のデプスを変更するステップと、前記第1ディスプレイレイヤ及び前記変更されたデプスを有する第2ディスプレイレイヤを利用して、前記ユーザ入力が感知された地点に前記ユーザ入力による物理的作用を表現するステップとを含むことができる。
【0010】
また、前記表現するステップは、前記第1ディスプレイレイヤ及び前記変更されたデプスを有する第2ディスプレイレイヤを利用して、前記ユーザ入力が感知された地点に屈折率及び反射率を計算して、前記計算された屈折率及び反射率に応じて前記ユーザ入力による物理的作用を表現することができる。
そして、前記イメージ効果は、リップル効果(riffle effect)であり得る。
【0011】
また、ディスプレイ画面が複数のディスプレイアイテムを表示する画面である場合、前記第1ディスプレイレイヤのうち、前記複数のディスプレイアイテムが表示される領域は、高いデプス値を有し、前記第1ディスプレイレイヤのうち、前記複数のディスプレイアイテムが表示されない領域は、低いデプス値を有することができる。
【0012】
そして、前記第2ディスプレイレイヤは、前記複数のディスプレイアイテムが表示される領域のデプス値と前記複数のディスプレイアイテムが表示されない領域のデプス値との間のデプス値を有することができる。
【0013】
また、前記提供するステップは、前記複数のディスプレイアイテムのうちの何れか一つにユーザ入力が感知された場合、前記第1ディスプレイレイヤのうち、前記ユーザ入力が感知された地点のデプス値を前記第2ディスプレイレイヤのデプス値より低くして、前記第1ユーザ入力が感知されたディスプレイアイテムが水に浸るイメージ効果を提供することができる。
【0014】
一方、前記目的を達成すべく、本発明の一実施の形態にかかる、ユーザ端末は、互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示するディスプレイ部と、ユーザ入力を感知するユーザ入力部と、前記ユーザ入力部を介してユーザ入力が感知されると、前記ユーザ入力に応じて前記複数のディスプレイレイヤのうち、少なくとも一つのディスプレイレイヤのデプスを変更して、前記ユーザ入力に応答するイメージ効果を提供するように、前記ディスプレイ部を制御する制御部とを備える。
【0015】
そして、前記複数のディスプレイレイヤは、イメージをディスプレイする第1ディスプレイレイヤ及び前記第1ディスプレイレイヤ上に水表面の透明度を有する第2ディスプレイレイヤを含むことができる。
【0016】
また、前記第1ディスプレイレイヤは、固定されたデプスを有することを特徴とし、前記第2ディスプレイレイヤは、前記ユーザ入力に応じてデプスが変更されてよい。
【0017】
そして、前記制御部は、前記ユーザ入力部を介して前記ユーザ入力が感知されると、前記第2ディスプレイレイヤのうち、前記ユーザ入力が感知された地点のデプスを変更し、前記第1ディスプレイレイヤ及び前記変更されたデプスを有する第2ディスプレイレイヤを利用して、前記ユーザ入力が感知された地点に前記ユーザ入力による物理的作用を表現することができる。
【0018】
また、前記制御部は、前記第1ディスプレイレイヤ及び前記変更されたデプスを有する第2ディスプレイレイヤを利用して、前記ユーザ入力が感知された地点に屈折率及び反射率を計算して、前記計算された屈折率及び反射率に応じて前記ユーザ入力による物理的作用を表現することができる。
そして、前記イメージ効果は、リップル効果であり得る。
【0019】
また、ディスプレイ画面が複数のディスプレイアイテムを表示する画面である場合、前記第1ディスプレイレイヤのうち、前記複数のディスプレイアイテムが表示される領域は、高いデプス値を有し、前記第1ディスプレイレイヤのうち、前記複数のディスプレイアイテムが表示されない領域は、低いデプス値を有することができる。
【0020】
そして、前記第2ディスプレイレイヤは、前記複数のディスプレイアイテムが表示される領域のデプス値と前記複数のディスプレイアイテムが表示されない領域のデプス値との間のデプス値を有することができる。
【0021】
また、前記制御部は、前記複数のディスプレイアイテムのうちの何れか一つにユーザ入力が感知された場合、前記第1ディスプレイレイヤのうち、前記ユーザ入力が感知された地点のデプス値を前記第2ディスプレイレイヤのデプス値より低くして、前記第1ユーザ入力が感知されたディスプレイアイテムが水に浸るイメージ効果を提供することができる。
【0022】
そして、前記ユーザ入力部は、前記ユーザ端末の傾けを感知するセンサをさらに含み、前記制御部は、前記センサを介して感知された前記ユーザ端末の傾きの程度に応じて、前記複数のディスプレイレイヤのうちの何れか一つのディスプレイレイヤのデプスを変更して、前記ユーザ入力に応答するイメージ効果を提供することができる。
【0023】
また、前記複数のディスプレイレイヤは、重力効果を表す第3ディスプレイレイヤ及び前記第4ディスプレイレイヤ上に予め設定された透明度を有する第2ディスプレイレイヤを含むことができる。
【0024】
そして、前記制御部は、第3ディスプレイレイヤの領域のうち、前記ユーザ端末が傾けられる方向の反対方向に位置する領域のデプス値が増加するように、前記第3ディスプレイレイヤのデプスを変更することができる。
【0025】
また、前記制御部は、前記第3ディスプレイレイヤのデプス値が前記第4ディスプレイレイヤのデプス値より低い領域にディスプレイされるイメージだけが水に浸るイメージ効果を提供することができる。
【0026】
そして、前記制御部は、前記第4ディスプレイレイヤのうち、予め設定された区間のデプス値を有する領域にコーステック(caustic)効果を提供することができる。
【0027】
また、前記制御部は、コーステックデプスマップを生成し、前記第4ディスプレイレイヤのデプス値を反転して、予め設定された区間のデプス値を有するコーステック領域を判断し、前記コーステックデプスマップと前記コーステック領域のデプス値とを補間して、コーステック効果を提供することができる。
【発明の効果】
【0028】
以上、本発明の多様な実施の形態によれば、互いに異なるデプスを有する複数のディスプレイレイヤを利用して、ユーザ入力に応答する3次元的なイメージ効果を提供できるユーザ端末及びそのイメージ表示方法を提供できる。
【発明を実施するための形態】
【0030】
以下、図面を参照して、本発明についてさらに詳細に説明する。
図1は、本発明が一実施の形態にかかる、ユーザ端末100の構成を簡略に示すブロック図である。
図1に示すように、ユーザ端末100は、ディスプレイ部110、ユーザ入力部120及び制御部130を備える。このとき、ユーザ端末100は、スマートフォンにより具現化されることができるが、これは一実施の形態に過ぎず、タブレットPC、ノート型PC、デスクトップPC、スマートTVなどのような多様な電子装置により具現化されることができる。
【0031】
ディスプレイ部110は、制御部130の制御により映像データを出力する。特に、ディスプレイ部110は、互いに異なるデプスを有する第1ディスプレイレイヤ及び第2ディスプレイレイヤを利用して、映像データを出力できる。
【0032】
このとき、第1ディスプレイレイヤは、イメージを表示するイメージディスプレイレイヤであって、固定されたデプスを有することができる。第2ディスプレイレイヤは、特定透明度(例えば、水表面の透明度)を有する半透明ディスプレイレイヤであって、ユーザ入力に応じてデプスが変更されてよい。したがって、ディスプレイ部110は、第1ディスプレイレイヤに表示されたイメージが水に浸ったような効果を表すことができる。また、ディスプレイ部110は、第2ディスプレイレイヤのデプスの変化に応じて反射率及び屈折率を計算し、計算された反射率及び屈折率に伴う物理的現象(例えば、スネルの法則またはスペキュラーハイライト)を適用して、第1ディスプレイレイヤの映像データを出力できる。
【0033】
ユーザ入力部120は、ユーザ端末100を制御するためのユーザ入力を感知できる。このとき、ユーザ入力部120は、タッチスクリーンにより具現化されることができるが、これは一実施の形態に過ぎず、マウス、ポインティングデバイスなどのような他の入力装置により具現化されることができる。
また、ユーザ入力部120は、ユーザ端末100の傾けを感知するセンサ(例えば、加速度センサ、ジャイロセンサ等)を含むことができる。
制御部130は、ユーザ入力部120を介して入力されたユーザ命令に従って、ユーザ端末100の全般的な動作を制御する。
【0034】
特に、ディスプレイ部110が互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示する間に、ユーザ入力部120を介してユーザ入力が感知されると、制御部130は、ユーザ入力に応じて複数のディスプレイレイヤのうち、少なくとも一つのディスプレイレイヤのデプスを変更して、ユーザ入力に応答するイメージ効果を提供するようにディスプレイ部110を制御できる。
【0035】
具体的に、ユーザ入力部120を介してユーザ入力が感知されると、制御部130は、第2ディスプレイレイヤのうち、ユーザ入力が感知された地点のデプスを変更し、第1ディスプレイレイヤ及び変更されたデプスを有する第2ディスプレイレイヤを利用して、ユーザ入力が感知された地点にユーザ入力による物理的作用を表現できる。
【0036】
例えば、第2ディスプレイレイヤが水表面の透明度を有する半透明ディスプレイレイヤである場合、制御部130は、第1ディスプレイレイヤ及び変更されたデプスを有する第2ディスプレイレイヤを利用して、ユーザ入力が感知された地点の屈折率及び反射率を計算し、計算された屈折率及び反射率に応じてユーザ入力による物理的作用(例えば、スネルの法則、スペキュラーハイライト等)を表現できる。
【0037】
このとき、物理的作用により、制御部130は、ユーザ入力が感知された地点にリップル効果(riffle effect)をディスプレイするようディスプレイ部110を制御できる。
【0038】
一方、ディスプレイ画面が複数のディスプレイアイテムを表示するウォールペーパー画面である場合、第1ディスプレイレイヤのうち、複数のディスプレイアイテムが表示される領域は、高いデプス値を有し、第1ディスプレイレイヤのうち、複数のディスプレイアイテムが表示されない領域は、低いデプス値を有することができる。また、第2ディスプレイレイヤは、複数のディスプレイアイテムが表示される領域のデプス値と複数のディスプレイアイテムが表示されない領域のデプス値との間のデプス値を有することができる。
【0039】
ディスプレイ部110が複数のディスプレイアイテムを表示するスタート画面をディスプレイする間に、複数のディスプレイアイテムのうち、何れか一つにユーザ入力が感知された場合、制御部130は、第1ディスプレイレイヤのうち、ユーザ入力が感知された地点のデプス値を第2ディスプレイレイヤのデプス値より低くして、第1ユーザ入力が感知されたディスプレイアイテムが水に浸るイメージ効果を提供できる。
【0040】
上述したような本発明の一実施の形態により、ユーザ端末100は、ユーザ入力に応答して事実的かつ自然な3次元イメージ効果をユーザに提供できるようになる。
以下、
図2ないし
図9Bを参照して、ユーザ端末100についてさらに詳細に説明する。
【0041】
図2は、本発明の一実施の形態にかかる、ユーザ端末200の構成を詳細に示すブロック図である。
図2に示すように、ユーザ端末200は、通信部210、ディスプレイ部220、格納部230、ユーザ入力部240及び制御部250を備える。
【0042】
一方、
図2は、ユーザ端末200が通信機能、イメージ出力機能、イメージ効果提供機能などのように多様な機能を備えた装置である場合を例に挙げて、各種構成要素を総合的に示している。したがって、実施の形態によっては、
図2に示す構成要素のうちの一部は、省略または変更されても良く、他の構成要素がさらに追加されても良い。
【0043】
通信部210は、多様な類型の通信方式に従って多様な類型の外部機器または外部のサーバと通信を行う構成である。通信部210は、WIFIチップ、ブルートゥースチップ、NFCチップ、無線通信チップなどのような多様な通信チップを有することができる。このとき、WIFIチップ、ブルートゥースチップ、NFCチップは、各々WiFi方式、ブルートゥース方式、NFC方式により通信を行う。このうち、NFCチップは、135kHz、13.56MHz、433MHz、860〜960MHz、2.45GHzなどのような多様なRF−ID周波数帯域のうち、13.56MHz帯域を使用するNFC(Near Field Communication)方式により動作するチップを意味する。WIFIチップまたはブルートゥースチップを利用する場合には、SSID及びセッションキーなどのような各種接続情報をまず送受信して、これを利用して通信接続した後、各種情報を送受信できる。無線通信チップは、IEEE、ジグビー、3G(3rd Generation)、3GPP(3rd Generation Partnership Project)、LTE(Long Term Evoloution)などのような多様な通信規格に従って通信を行うチップを意味する。
特に、通信部210は、外部のサーバや装置からイメージデータを受信することができる。
【0044】
ディスプレイ部220は、制御部250の制御によって映像データを出力する。特に、ディスプレイ部220は、互いに異なるデプスを有する複数のディスプレイレイヤを利用して映像データを出力できる。
【0045】
具体的に、ディスプレイ部220は、イメージを表示するイメージディスプレイレイヤ及び水表面の透明度を有する半透明ディスプレイレイヤを利用して映像データを出力できる。
【0046】
このとき、イメージディスプレイレイヤは、ディスプレイされるイメージに応じてデプスを有することができる。例えば、イメージディスプレイレイヤが
図3Aに示すようなイメージを表示する場合、イメージディスプレイレイヤは、
図3Bに示すようなデプスマップを有するようになる。一方、イメージディスプレイレイヤは、ユーザ入力に応じてデプスを変更させないことができるが、これは一実施の形態に過ぎず、実施の形態によってイメージディスプレイレイヤもやはり、ユーザ入力に応じてデプスが変更されてよい。半透明ディスプレイレイヤは、イメージディスプレイレイヤ上に位置してユーザ入力に応じてデプスを変更させることができる。特に、半透明ディスプレイレイヤは、全般的にイメージディスプレイレイヤより高いデプス値を有することができるが、一部の領域では、イメージディスプレイレイヤより低いデプス値を有することができる。
【0047】
特に、イメージを表示するイメージディスプレイレイヤ及び水表面の透明度を有する半透明ディスプレイレイヤを利用してイメージを出力することによって、ディスプレイ部220は、イメージディスプレイレイヤが表示するイメージが水に浸っているようなイメージ効果をユーザに提供できる。すなわち、ディスプレイ部220は、制御部250により計算された半透明ディスプレイレイヤの表面の模様に応じて反射率及び屈折率に応じてイメージディスプレイレイヤが表示するイメージに多様な物理的効果(例えば、スネルの法則に従う屈折率によるイメージ表示、スペキュラーハイライト等)を提供できる。
【0048】
また、ユーザ入力部240を介してユーザ入力が感知された場合、ディスプレイ部220は、制御部250の制御によりデプス(または模様)が変更された半透明ディスプレイレイヤを利用して、イメージディスプレイレイヤが表示するイメージを表示できる。これにより、ディスプレイ部220は、ユーザ入力が感知された地点にリップル効果をユーザに提供できる。
【0049】
一方、ディスプレイ部220は、LCD(Liquid Crystal Display)により具現化されることができるが、これは一実施の形態に過ぎず、OLED(Organic Light−Emitting Diode)、TFT(thin film transistor)、CRT(Cathode−Ray Tube)などのような多様なディスプレイにより具現化されることができる。
【0050】
格納部230は、ユーザ端末200を駆動するための多様なモジュールを格納する。例えば、格納部230には、ベースモジュール、センシングモジュール、通信モジュール、プレゼンテーションモジュール、ウェブブラウザモジュール、サービスモジュールを含むソフトウェアが格納されることができる。このとき、ベースモジュールは、ユーザ端末200に含まれた各ハードウェアから伝達される信号を処理して、上位レイヤモジュールに伝達する基礎モジュールである。センシングモジュールは、各種センサから情報を収集し、収集された情報を分析及び管理するモジュールであって、顔認識モジュール、音声認識モジュール、モーション認識モジュール、NFC認識モジュールなどを含むことができる。プレゼンテーションモジュールは、ディスプレイ画面を構成するためのモジュールであって、マルチメディアコンテンツを再生して出力するためのマルチメディアモジュール、UI及びグラフィック処理を行うUIレンダリングモジュールを含むことができる。通信モジュールは、外部と通信を行うためのモジュールである。ウェブブラウザモジュールは、ウェブブラウジングを行ってウェブサーバにアクセスするモジュールを意味する。サービスモジュールは、多様なサービスを提供するための各種アプリケーションを含むモジュールである。
【0051】
上述したように、格納部230は、多様なプログラムモジュールを含むことができるが、各種プログラムモジュールは、ユーザ端末200の種類及び特性によって一部が省略、変形または追加されうることはもちろんである。たとえば、上述したユーザ端末200がスマートフォンにより具現化された場合、ベースモジュールには、GPS基盤の位置を判断するための位置判断モジュールをさらに含み、センシングモジュールには、ユーザの動作を感知するセンシングモジュールをさらに含むことができる。
【0052】
ユーザ入力部240は、ユーザ端末200を制御するためのユーザ命令を入力受けることができる。ユーザ入力部240は、ディスプレイ部220にディスプレイされた複数のディスプレイアイテムのうち、一つを選択するためのユーザ入力を感知できる。
【0053】
特に、ユーザ入力部240がタッチスクリーンにより具現化された場合、ユーザ入力部220は、タッチスクリーン全体領域のうち、一部領域に対するユーザタッチを感知できる。
【0054】
一方、ユーザ入力部240がタッチスクリーンにより具現化されることは、一実施の形態に過ぎず、ポインティングデバイス、マウスなどのように、ユーザ端末200を制御できる他の入力装置により具現化されることができる。
制御部250は、格納部230に格納された各種プログラムを利用して、ディスプレイ装置200の全般的な動作を制御する。
【0055】
制御部250は、
図2に示すように、RAM251、ROM252、グラフィック処理部253、メインCPU254、第1ないしnインタフェース255−1〜255−n、バス256を備える。このとき、RAM251、ROM252、グラフィック処理部253、メインCPU254、第1ないしnインタフェース255−1〜255−nなどは、バス256を介して互いに接続されることができる。
【0056】
ROM252には、システムブーティングのための命令語セットなどが格納される。ターンオン命令が入力されて電源が供給されると、メインCPU254は、ROM252に格納された命令語に従って格納部230に格納されたO/SをRAM251に複写し、O/Sを実行させてシステムをブーティングさせる。ブーティングが完了すると、メインCPU254は、格納部230に格納された各種アプリケーションプログラムをRAM251に複写し、RAM251に複写されたアプリケーションプログラムを実行させて各種動作を行う。
【0057】
グラフィック処理部253は、演算部(図示せず)及びレンダリング部(図示せず)を利用して、アイコン、イメージ、テキストなどのような多様なオブジェクトを含む画面を生成する。演算部は、ユーザ入力部240から受信した制御命令を利用して、画面のレイアウトに沿って各オブジェクトが表示される座標値、形態、大きさ、カラーなどのような属性値を演算する。レンダリング部は、演算部で演算した属性値に基づいてオブジェクトを含む多様なレイアウトの画面を生成する。レンダリング部から生成された画面は、出力部240のディスプレイ領域内に表示される。
【0058】
メインCPU254は、格納部230にアクセスして、格納部230に格納されたO/Sを利用してブーティングを行う。そして、メインCPU254は、格納部230に格納された各種プログラム、コンテンツ、データなどを利用して多様な動作を行う。
【0059】
第1ないしnインタフェース255−1ないし255−nは、上述した各種構成要素に接続される。インタフェースのうちの一つは、ネットワークを介して外部装置に接続されるネットワークインタフェースになることができる。
【0060】
特に、ディスプレイ部220が互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示する間に、ユーザ入力部240を介してユーザ入力が感知されると、制御部250は、ユーザ入力に応じて複数のディスプレイレイヤのうち、少なくとも一つのディスプレイレイヤのデプスを変更して、ユーザ入力に応答するイメージ効果を提供するようにディスプレイ部220を制御できる。
【0061】
具体的に、ディスプレイ部220は、
図4Aに示すように、互いに異なるデプスを有するイメージディスプレイレイヤ310と半透明ディスプレイレイヤ320とが重なってイメージをディスプレーできる。このとき、制御部220は、イメージディスプレイレイヤ310のうち、半透明ディスプレイレイヤ320のデプス値より小さなデプス値を有する領域にディスプレイされるイメージが水に浸っているようなイメージ効果を提供するように、ディスプレイ部220を制御できる。
【0062】
さらに詳細に、制御部250は、イメージディスプレイレイヤ310のうち、半透明ディスプレイレイヤ320のデプス値より小さなデプス値を有する領域に対する反射率及び屈折率を計算し、計算された反射率及び屈折率に応じてイメージが水に浸ったようなイメージ効果を提供するようにディスプレイ部220を制御できる。制御部250が反射率及び屈折率に応じてディスプレイレイヤをレンダリングする方法については、
図5を参照して説明する。
まず、制御部250は、光(light)を生成する(S510)。このとき、光は、任意の空間領域に位置できる。
【0063】
そして、制御部250は、半透明ディスプレイレイヤ320のノーマルベクトルを計算する(S520)。このとき、制御部250は、半透明ディスプレイレイヤ320の各ピクセルに対するノーマルベクトルとして、各ピクセルの垂直ベクトルを計算できる。
【0064】
そして、制御部250は、半透明ディスプレイレイヤ320の表面及びカメラの位置に応じて、各ピクセルの反射率及び屈折率を計算する(S530)。具体的に、制御部240は、フレネルの公式(Fresnel’s formulas)を利用して、カメラの位置及びディスプレイレイヤのノーマルベクトル方向に応じて、各ピクセルの反射率及び屈折率を計算できる。
【0065】
そして、制御部250は、反射率に応じてスペキュラーハイライトを生成し、屈折率に応じて第1ディスプレイレイヤをレンダリングする(S540)。具体的に、制御部230は、計算された反射率に応じてスペキュラーハイライトで処理するか、または環境マップを利用して、半透明ディスプレイレイヤに投影できる。例えば、制御部230は、
図6に示すような波(riffle)のHeight fieldを利用して、3次元水面メッシュ(Mesh)を生成し、任意の位置に光(light)を追加し、光、カメラ、水面の位置及び角度に応じて3Dシェーディング(shading)を行って、スペキュラーハイライトを生成できる。また、制御部230は、スネルの法則に従って計算された屈折率を利用して、イメージディスプレイレイヤをレンダリングできる。
【0066】
そして、制御部250は、反射率及び屈折率に応じるレンダリング結果を合成する(S550)。そして、制御部250は、反射率及び屈折率に応じてレンダリングされたイメージを出力するように、ディスプレイ部220を制御できる。
上述したような過程により、イメージディスプレイレイヤに表示されたイメージが水に浸るような効果を提供できる。
【0067】
一方、
図4Aのように、互いに異なるデプスを有するイメージディスプレイレイヤ310と半透明ディスプレイレイヤ320とが重ねてイメージを表示する間、タッチスクリーンの任意の領域にユーザタッチが感知されると、制御部250は、
図4Bに示すように、半透明ディスプレイレイヤ320のうち、ユーザタッチが感知された地点のデプス値を減少させることができる。このとき、減少するデプス値は、ユーザタッチの強度に応じて互いに異なることができる。具体的に、制御部250は、ユーザタッチの強度が強いほど、デプス値をさらに減少させ、ユーザタッチの強度が弱いほど、デプス値を小さく減少させることができる。一方、
図4Bに示す半透明ディスプレイレイヤ320は、ユーザタッチが感知された瞬間を示した図であり、予め設定された時間の間に波が打つように半透明ディスプレイレイヤ320のデプス値が変更されてよい。
【0068】
半透明ディスプレイレイヤ320のデプス値が変更されると、制御部250は、
図5にて説明したような方法を利用して、反射率及び屈折率を再度計算してディスプレイレイヤをレンダリングして出力できる。
【0069】
これによって、制御部250は、ユーザタッチが感知された地点にリップル現象(riffle effect)が発生するように、ディスプレイ部220を制御できる。例えば、
図7Aに示すように、イメージがレンダリングされた状態で特定領域に対するユーザタッチが感知された場合、制御部250は、
図7Bに示すように、リップル効果(riffle effect)を提供するようにディスプレイ部220を制御できるようになる。このとき、制御部250は、イメージディスプレイレイヤのデプスに基づいて、リップル効果を提供できる。すなわち、制御部250は、
図7Bに示すように、デプス値の高い方向よりデプス値の低い方向へリップルがさらにたくさん形成してディスプレイするよう、ディスプレイ部220を制御できる。
上述したような実施の形態により、ユーザ端末は、さらに事実的かつ自然な3次元リップル効果をユーザに提供できるようになる。
以下、
図8Aないし
図9Bを参照して、本発明の他の実施の形態について説明する。
【0070】
具体的に、
図9Aに示すように、複数のディスプレイアイテム910ないし990がディスプレイされる間に、イメージディスプレイレイヤ810は、
図8Aに示すように、ディスプレイアイテム910ないし990が位置する領域には、高いデプス値を有し、ディスプレイアイテム910ないし990が位置しない領域には、低いデプス値を有するようになる。そして、
図8Bに示すように、半透明ディスプレイレイヤ820は、イメージディスプレイレイヤ810のうち、ディスプレイアイテム910ないし990が位置した領域とディスプレイアイテム910ないし990が位置しない領域との間のデプス値を有することができる。
【0071】
このとき、
図8Bに示すように、イメージディスプレイレイヤ810及び半透明ディスプレイレイヤ820とが重ねてイメージを表示する間、複数のディスプレイアイテム910ないし990のうち、一つがタッチされるユーザ命令が入力されると、制御部250は、
図8Cに示すように、タッチされたディスプレイアイテムが位置する領域のデプス値を半透明ディスプレイレイヤ820のデプス値より低くすることができる。これにより、制御部250は、タッチされたディスプレイアイテムが水に浸るような効果をユーザに提供できるようになる。
【0072】
例えば、
図9Aに示すように、複数のディスプレイアイテム910ないし990がディスプレイされる間に、第5ディスプレイアイテム950がタッチされると、制御部250は、イメージディスプレイレイヤのうち、タッチされた第5ディスプレイアイテム950が位置する領域のデプス値を半透明ディスプレイレイヤのデプス値より低くして、
図9Bに示すように、第5ディスプレイアイテム950が水に浸るようなイメージ効果をユーザに提供できる。
上述したような本発明の多様な実施の形態により、ユーザ端末200は、ユーザに事実的かつ自然な3次元イメージ効果を提供できるようになる。
以下、
図10を参照してユーザ端末100のイメージ出力方法について説明する。
【0073】
まず、ユーザ端末100は、互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示する(S1010)。具体的に、ユーザ端末200は、イメージを表示する第1ディスプレイレイヤ及び水表面の透明度を有する第2ディスプレイレイヤを重ねてイメージを表示できる。
そして、ユーザ端末100は、ユーザ入力が感知されたかどうかを判断する(S1020)。
【0074】
ユーザ入力が感知された場合、ユーザ端末100は、ユーザ入力に応じて複数のディスプレイレイヤのうち、少なくとも一つのディスプレイレイヤのデプスを変更して、ユーザ入力に応答するイメージ効果を提供する(S1030)。具体的に、ユーザ端末100は、
図3Aないし
図7Bにて説明したように、リップル効果をユーザに提供でき、
図8Aないし
図9Bにて説明したように、ディスプレイアイテムが水に浸るような効果をユーザに提供できる。
上述したようなイメージ出力方法により、ユーザ端末100は、ユーザ入力に応答して事実的かつ自然な3次元イメージ効果をユーザに提供できるようになる。
【0075】
一方、本発明の他の実施の形態によれば、ユーザ端末100は、ユーザ端末の傾きに基づいて、重力に応じて水が流れるイメージ効果を提供できる。これについては、
図11Aないし
図14を参照して、本発明の他の実施の形態について説明することにする。一方、本発明の一実施の形態にかかる、ユーザ端末200は、曲線形態のディスプレイ部220を含むユーザ端末であり得る。
【0076】
具体的に、ディスプレイ部220は、互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示できる。このとき、ディスプレイレイヤは、イメージをディスプレイするイメージディスプレイレイヤ、重力効果を表す重力ディスプレイレイヤ及び特定透明度(例えば、水表面の透明度)を有する半透明ディスプレイレイヤを含むことができる。このとき、イメージディスプレイレイヤ、重力ディスプレイレイヤ及び半透明ディスプレイレイヤは、それぞれ互いに異なるデプスを有している。また、イメージディスプレイレイヤは、固定されたデプスを有し、重力ディスプレイレイヤ及び半透明ディスプレイレイヤは、ユーザ入力に応じてデプスが変更されてよい。
【0077】
特に、ディスプレイ部220が互いに異なるデプスを有する複数のディスプレイレイヤを重ねて表示する間に、ユーザ入力部240を介してユーザ端末200を傾かせるユーザ入力が感知されると、制御部250は、ユーザ入力に応じて複数のディスプレイレイヤのうち、重力ディスプレイレイヤのデプスを変更してユーザ入力に応答するイメージ効果を提供するように、ディスプレイ部220を制御できる。
【0078】
具体的に、
図11Aの1)に示すように、ユーザ端末200が傾けられない場合、制御部250は、
図11Aの2)のように、互いに異なるデプスを有する重力ディスプレイレイヤ1110と半透明ディスプレイレイヤ1120とを重ねて、イメージをディスプレイできる。このとき、重力ディスプレイレイヤ1110は、半透明ディスプレイレイヤよりデプス値が小さいことがあり得るし、重力ディスプレイレイヤ1110をデプスマップ形態で表現すれば、
図11Aの3)の通りである。一方、
図11Aには示していないが、イメージディスプレイレイヤは、重力ディスプレイレイヤよりデプス値が小さいことがあり得る。
【0079】
そして、
図11Aの1)に示すように、ユーザ端末200が平らな状態を維持する間に、
図11Bの1)に示すように、ユーザ端末200が第1角度(例えば、10度)分だけ傾けられた場合、制御部250は、
図11Bの2)のように、重力ディスプレイレイヤ1110のうち、ユーザ端末200が傾けられた方向と反対方向に位置する領域のデプス値を変更できる。すなわち、ユーザ端末200が右側方向に傾けられた場合、制御部250は、重力ディスプレイレイヤの左側領域のデプス値を変更させることができる。このとき、重力ディスプレイレイヤ1110のうち、A1領域のデプス値は、半透明ディスプレイレイヤのデプス値より大きいことがあり得るし、重力ディスプレイレイヤ1110をデプスマップの形態で表現すれば、
図11Bの3)の通りである。
【0080】
また、制御部250は、ユーザ端末200の傾けられた角度が大きいほど、重力ディスプレイレイヤ1110のうち、半透明ディスプレイレイヤのデプス値より大きな 領域が増加してよい。具体的に、
図11Aの1)に示すように、ユーザ端末200が平らな状態を維持する間に、
図11Cの1)に示すように、ユーザ端末200が第1角度より大きな第2角度(例えば、20度)分だけ傾けられた場合、制御部250は、
図11Cの2)のように、第1角度傾けられる時にデプス値が変更された領域よりさらに広い領域のデプス値を変更できる。すなわち、重力ディスプレイレイヤ1110のうち、A2領域のデプス値は、半透明ディスプレイレイヤのデプス値より大きいことがあり得るし、重力ディスプレイレイヤ1110をデプスマップ形態で表現すれば、
図11Cの3)の通りである。
【0081】
そして、制御部250は、重力ディスプレイレイヤのデプス値が半透明ディスプレイレイヤのデプス値より低い領域にディスプレイされるイメージだけが水に浸るイメージ効果を提供できる。すなわち、制御部250は、重力ディスプレイレイヤのデプス値が半透明ディスプレイレイヤのデプス値より大きな領域にディスプレイされるイメージは、波を表示しなくてイメージだけをディスプレイし、重力ディスプレイレイヤのデプス値が半透明ディスプレイレイヤのデプス値より小さな領域にディスプレイされるイメージは、波を表示して水下に浸ったようなイメージ効果を提供できる。イメージが水下に浸ったようなイメージ効果に対する説明は、上述した通りであるので、重複する説明は省略する。
【0082】
また、制御部250は、イメージが水に浸ったような効果をさらに事実的に表現するために、コーステック効果(caustic effect)を提供できる。このとき、コーステック効果とは、光が透明な物体を通過する時に屈折により光が他の領域に照らされる効果を意味する。特に、制御部250は、半透明ディスプレイレイヤのうち、予め設定された区間のデプス値を有する領域にコーステック(caustic)効果を提供できる。
【0083】
具体的に、制御部250は、
図12のa)に示すようなコーステックデプスマップを生成する。このとき、制御部250は、格納部230に格納されたコーステックデプスマップを利用できる。そして、制御部250は、
図12のb)に示すように、半透明ディスプレイレイヤ1210のデプス値を反転して、予め設定された区間のデプス値を有する領域をコーステック領域と判断できる。そして、制御部250は、コーステックデプスマップとコーステック領域のデプス値とを補間して、コーステック効果を提供できる。すなわち、制御部250は、コーステックデプスマップのうち、コーステック領域に対応する領域だけにコーステックデプス値を設定し、残りの領域のコーステックデプス値は0に設定して、コーステック領域だけにコーステック効果を提供できる。一方、上述した実施の形態では、コーステック領域だけにコーステックデプス値を設定し、残りの領域のコーステックデプス値を0に設定すると言及したが、これは一実施の形態に過ぎず、残りの領域のコーステックデプス値をコーステック領域のコーステックデプス値より小さく設定できる。
【0084】
制御部250は、上述したように、重力ディスプレイレイヤのデプス変更及びコーステック効果を提供して、
図13に示すように、ユーザ端末200の傾きの程度に応じて水が流れるようなイメージ効果を提供できる。具体的に、ユーザ端末200が右に傾けられることによって、制御部250は、水が右に流れてイメージの左側領域が水の外に出るイメージ効果を提供し、またユーザ端末200が左側に傾けられることによって、制御部250は、水が再度左側に流れてイメージの左側領域が再度水で満たされるイメージ効果を提供できるようになる。
以下、
図14を参照して、本発明の一実施の形態にかかる、ユーザ端末200のイメージ表示方法を説明する。
【0085】
まず、ユーザ端末200は、重力ディスプレイレイヤ及び半透明ディスプレイレイヤを重ねてイメージを表示する(S1410)。このとき、重力ディスプレイレイヤは、半透明ディスプレイレイヤのデプス値より小さいことがあり得る。
そして、ユーザ端末200は、ユーザ端末200の傾けを感知する(S1420)。
【0086】
ユーザ端末200の傾けが感知された場合(S1420−Y)、ユーザ端末200は、重力ディスプレイレイヤのデプス値を変更する(S1430)。具体的に、ユーザ端末200は、ユーザ端末200が傾けられる方向の反対方向に位置する領域にデプス値を変更させることができ、ユーザ端末200が傾けられる角度が大きくなるほど、デプス値が変更される領域を増加させることができる。
【0087】
そして、ユーザ端末200は、重力ディスプレイレイヤのデプス値及び半透明ディスプレイレイヤのデプス値を比較して、イメージ効果を提供する(S1440)。具体的に、ユーザ端末200は、重力ディスプレイレイヤのデプス値が半透明ディスプレイレイヤのデプス値より小さな領域のイメージには、水に浸るイメージ効果を提供し、重力ディスプレイレイヤのデプス値が半透明ディスプレイレイヤのデプス値より大きな領域のイメージには波表示をせずに、水の外に位置するようなイメージ効果を提供できる。また、水に浸るようなさらに事実的な表現のために、ユーザ端末200は、半透明ディスプレイレイヤの予め設定された区間のデプス値を有する領域にコーステック効果を提供できる。
【0088】
上述したように、ユーザ端末200の傾きの程度に応じて重力ディスプレイレイヤのデプス値を変更することによって、重力に応じてディスプレイされるイメージに水が流れるようなイメージ効果を提供できるようになる。また、コーステック効果を共に提供することによって、さらに事実的なイメージ効果を提供できるようになる。
【0089】
一方、上述した多様な実施の形態にかかるユーザ端末100のイメージ出力方法は、プログラムにより具現されてディスプレイ装置に提供されることができる。特に、ユーザ端末100のイメージ出力方法を含むプログラムは、非一時的読み取り可能媒体(non−transitory readable medium)に格納されて提供されることができる。
【0090】
非一時的読み取り可能媒体とは、レジスタ、キャッシュ、メモリなどのような短い瞬間の間にデータを格納する媒体ではなく、半永久的にデータを格納し、機器により読み取り(reading)が可能な媒体を意味する。具体的には、上述した多様なアプリケーションまたはプログラムは、CD、DVD、ハードディスク、ブルーレイディスク、USB、メモリーカード、ROMなどのような非一時的読み取り可能媒体に格納されて提供されることができる。
【0091】
また、以上、本発明の好ましい実施の形態に対して図示し説明したが、本発明は、上述した特定の実施の形態に限定されず、請求の範囲で請求する本発明の要旨から逸脱せずに当該発明が属する技術分野における通常の知識を有した者によって多様な変形実施が可能であることはもちろんで、このような変形実施は、本発明の技術的思想や展望から個別的に理解されてはならない。