IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ レノボ・シンガポール・プライベート・リミテッドの特許一覧

特開2024-163621情報処理システム、表示装置および制御方法
<>
  • 特開-情報処理システム、表示装置および制御方法 図1
  • 特開-情報処理システム、表示装置および制御方法 図2
  • 特開-情報処理システム、表示装置および制御方法 図3
  • 特開-情報処理システム、表示装置および制御方法 図4
  • 特開-情報処理システム、表示装置および制御方法 図5
  • 特開-情報処理システム、表示装置および制御方法 図6
  • 特開-情報処理システム、表示装置および制御方法 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024163621
(43)【公開日】2024-11-22
(54)【発明の名称】情報処理システム、表示装置および制御方法
(51)【国際特許分類】
   G09G 5/08 20060101AFI20241115BHJP
   G09G 5/00 20060101ALI20241115BHJP
   G06F 3/04812 20220101ALI20241115BHJP
【FI】
G09G5/08 M
G09G5/08 K
G09G5/08 D
G09G5/00 530M
G06F3/04812
【審査請求】有
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023079395
(22)【出願日】2023-05-12
(11)【特許番号】
(45)【特許公報発行日】2024-04-15
(71)【出願人】
【識別番号】505205731
【氏名又は名称】レノボ・シンガポール・プライベート・リミテッド
(74)【代理人】
【識別番号】100161207
【弁理士】
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100206081
【弁理士】
【氏名又は名称】片岡 央
(72)【発明者】
【氏名】今西 芳充
(72)【発明者】
【氏名】河野 誠一
(72)【発明者】
【氏名】山▲ざき▼ 充弘
(72)【発明者】
【氏名】鈴木 義従
(72)【発明者】
【氏名】山村 一則
【テーマコード(参考)】
5C182
5E555
【Fターム(参考)】
5C182AA03
5C182AB02
5C182AB08
5C182AC38
5C182AC43
5C182BA04
5C182BC03
5C182BC11
5C182CA35
5C182CB42
5C182CB44
5C182CB47
5C182CB54
5C182CB56
5C182DA32
5E555AA06
5E555BA02
5E555BB02
5E555BC08
5E555CA02
5E555CB02
5E555CC22
5E555DA12
5E555DB02
5E555DB06
5E555DC83
5E555EA11
5E555FA00
(57)【要約】
【課題】ユーザに対し操作に係るカーソルを容易に識別させる。
【解決手段】ホストシステムは、背景画像を取得し、入力デバイスを用いて指示される座標をサンプリングしてコントローラに通知し、コントローラは、背景画像を座標のサンプリング周期よりも長い更新周期で更新し、背景画像に対し座標にカーソルを配置した出力画像を表示媒体に出力する。本実施形態は、情報処理システム、表示装置、制御方法などのいずれの態様でも実現することができる。
【選択図】図1
【特許請求の範囲】
【請求項1】
入力デバイスを用いて指示される座標をサンプリングし、
背景画像を取得するホストシステムと、
前記背景画像に基づく出力画像を表示媒体に表示させるコントローラと、
を備える情報処理システムであって、
前記ホストシステムは、
前記コントローラに前記座標を通知し、
前記コントローラは、
前記背景画像を前記座標のサンプリング周期よりも長い更新周期で更新し、
前記背景画像に対し前記座標にカーソルを配置した前記出力画像を前記表示媒体に出力する
情報処理システム。
【請求項2】
前記ホストシステムは、
前記座標とカーソルを示す描画指令を前記コントローラに出力し、
前記コントローラは、
前記描画指令で指示される座標に当該カーソルを配置する
請求項1に記載の情報処理システム。
【請求項3】
前記コントローラは、
最新の座標に基づくカーソルの表示領域が、配置時点からの経過時間が更新周期内となるカーソルの表示領域を含まないとき、前記最新の座標にカーソルを配置する
請求項1に記載の情報処理システム。
【請求項4】
前記コントローラは、
配置時点からの経過時間が更新周期内となるカーソルが存在しないとき、前記出力画像とする背景画像を最新の背景画像に更新する
請求項1に記載の情報処理システム。
【請求項5】
前記コントローラは、
配置時点からの経過時間が更新周期以上となり、最新の座標に基づくカーソルの表示領域を含まない表示領域に配置されたカーソルを消去する
請求項4に記載の情報処理システム。
【請求項6】
前記コントローラは、
最後に更新された背景画像から前記座標において前記カーソルを包含する大きさを有する部分画像を抽出し、当該部分画像に前記カーソルを重畳してカーソルアイコンを構成し、
前記座標に前記カーソルアイコンを配置する
請求項1に記載の情報処理システム。
【請求項7】
前記ホストシステムは、
少なくとも2サンプルの座標に基づいて、現在から所定の経過時間後の予測座標を予測し、
前記コントローラは、
前記背景画像に対し前記予測座標に前記カーソルを配置する
請求項1に記載の情報処理システム。
【請求項8】
前記入力デバイスは、マウスであり、
前記表示媒体は、電気泳動ディスプレイである
請求項1に記載の情報処理システム。
【請求項9】
背景画像に基づく出力画像を表示媒体に表示させるコントローラを備える表示装置であって、
前記コントローラは、
座標のサンプリング周期よりも長い更新周期で前記背景画像を更新し、
前記座標にカーソルを配置した出力画像を前記表示媒体に出力する
表示装置。
【請求項10】
ホストシステムとコントローラを備える情報処理システムにおける制御方法であって、
前記ホストシステムは、
入力デバイスを用いて指示される座標をサンプリングし、
前記コントローラに前記座標を通知し、
背景画像を取得し、
前記コントローラは、
前記座標のサンプリング周期よりも長い更新周期で前記背景画像を更新し、
前記座標にカーソルを配置した出力画像を表示媒体に出力する
制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、情報処理システム、表示装置および制御方法、例えば、入力操作に係るカーソルの表示に関する。
【背景技術】
【0002】
情報処理装置には、電気泳動ディスプレイ(EPD:Electro-Phoretic Display)を備えるものがある。特許文献1には、情報処理装置においてEPDを採用することで、消費電力を抑制できる点について記載されている。しかしながら、EPDでは、画面の更新にかかる時間が長い。通例、EPDのリフレッシュレートは8Hz程度であるのに対し、液晶ディスプレイ(LCD:Liquid Crystal Display)や有機発光ダイオード(OLED:Organic Light Emitting Diode)ディスプレイのリフレッシュレートは60Hz以上である。
【0003】
また、OS(Operating System)により提供されるユーザインタフェースでは、間接・相対ポインティングによる入力操作が用いられる。間接・相対ポインティングは、入力デバイスにより指示される位置を直接特定するのではなく、その位置に対応する画面上の座標にカーソルを表示し、入力操作を受けて表示されたカーソルの座標を特定する機能である。間接・相対ポインティングは、主に入力デバイスとしてマウスなどのポインティングデバイスが用いられる場合に適用される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2015-64421号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
間接・相対ポインティングは、ユーザの行動を含むフィードバックシステムとみなすここともできる。即ち、ユーザは、画面上のカーソルの動きを追いながら入力デバイスを操作し、システムは、操作に応じてカーソルを表示させる位置を変更する。このような状況では、ユーザは、(1)画面に表れるカーソルを発見する、(2)入力デバイスを操作してカーソルを移動させる、(3)カーソルをターゲット(操作目標)に置き、クリックなどの操作を行う。EPDが採用されている情報処理装置では、操作により指示される位置へのカーソルの表示が遅延するため、しばしば操作が困難になる。
【0006】
指示される位置が移動すると、複数のカーソルが離散的に異なる位置に表示される(図6参照)。そのため、ユーザが操作目標とする位置に表示されるべきカーソルを認識できずに見失うことがある。また、カーソルを認識できたとしても操作に支障が生じることがある。その原因として、画素の輝度変化における遅延が比較大きいことが掲げられる。例えば、白黒反転において100ms以上の時間を要する。一旦輝度の反転を指示した画素に対し、輝度を復元する際、直前の輝度変化が完了するまで待機する必要がある。また、逐次に移動するカーソルの描画処理において、ある位置に対するカーソルの描画処理が終了した後で、最新の位置に対する描画処理を開始する過程が繰り返される。
【0007】
そこで、カーソルを含む画面全体に対して描画処理を行うのではなく、カーソル周辺の矩形領域に限定して画像を更新することも考えられる。この手法では、指示される位置の移動により直前に表示させたカーソルを含む矩形領域との重複が生じなくなる段階で新たな矩形領域を確定し、確定した矩形領域内にカーソルを表示させる(図7参照)。更新対象とする矩形領域の重複が回避されるので、個々のカーソルが分別される。また、矩形領域のサイズを小さくすることで、描画頻度を高くして、断続的に表れる複数のカーソル間の距離を小さくすることも考えられる。しかしながら、依然として円滑なカーソルの動作を表現することが困難なことがある。
【課題を解決するための手段】
【0008】
本願は上記の課題を解決するためになされたものであり、本願の一態様に係る情報処理システムは、入力デバイスを用いて指示される座標をサンプリングし、背景画像を取得するホストシステムと、前記背景画像に基づく出力画像を表示媒体に表示させるコントローラと、を備える情報処理システムであって、前記ホストシステムは、前記コントローラに前記座標を通知し、前記コントローラは、前記背景画像を前記座標のサンプリング周期よりも長い更新周期で更新し、前記背景画像に対し前記座標にカーソルを配置した前記出力画像を前記表示媒体に出力する。
【0009】
上記の情報処理システムにおいて、前記ホストシステムは、前記座標とカーソルを示す描画指令を前記コントローラに出力し、前記コントローラは、前記描画指令で指示される座標に当該カーソルを配置してもよい。
【0010】
上記の情報処理システムにおいて、前記コントローラは、最新の座標に基づくカーソルの表示領域が、配置時点からの経過時間が更新周期内となるカーソルの表示領域を含まないとき、前記最新の座標にカーソルを配置してもよい。
【0011】
上記の情報処理システムにおいて、前記コントローラは、配置時点からの経過時間が更新周期内となるカーソルが存在しないとき、前記出力画像とする背景画像を最新の背景画像に更新してもよい。
【0012】
上記の情報処理システムにおいて、前記コントローラは、配置時点からの経過時間が更新周期以上となり、最新の座標に基づくカーソルの表示領域を含まない表示領域に配置されたカーソルを消去してもよい。
【0013】
上記の情報処理システムにおいて、前記コントローラは、最後に更新された背景画像から前記座標において前記カーソルを包含する大きさを有する部分画像を抽出し、当該部分画像に前記カーソルを重畳してカーソルアイコンを構成し、前記座標に前記カーソルアイコンを配置してもよい。
【0014】
上記の情報処理システムにおいて、前記ホストシステムは、少なくとも2サンプルの座標に基づいて、現在から所定の経過時間後の予測座標を予測し、前記コントローラは、前記背景画像に対し前記予測座標に前記カーソルを配置してもよい。
【0015】
本願の第2態様に係る表示装置は、背景画像に基づく出力画像を表示媒体に表示させるコントローラを備える表示装置であって、前記コントローラは、座標のサンプリング周期よりも長い更新周期で前記背景画像を更新し、前記座標にカーソルを配置した出力画像を前記表示媒体に出力してもよい。
【0016】
本願の第3態様に係る制御方法は、ホストシステムとコントローラを備える情報処理システムにおける制御方法であって、前記ホストシステムは、入力デバイスを用いて指示される座標をサンプリングし、前記コントローラに前記座標を通知し、背景画像を取得し、前記コントローラは、前記座標のサンプリング周期よりも長い更新周期で前記背景画像を更新し、前記座標にカーソルを配置した出力画像を表示媒体に出力する。
【発明の効果】
【0017】
本願の実施形態によれば、ユーザに対し操作に係るカーソルを容易に識別させることができる。
【図面の簡単な説明】
【0018】
図1】本実施形態に係る情報処理システムの機能構成例を示す概略ブロック図である。
図2】本実施形態に係る情報処理システムの機能構成例を示す概略ブロック図である。
図3】本実施形態に係るカーソル表示処理の例を示すフローチャートである。
図4】本実施形態に係るカーソル表示処理の実行例を説明するための説明図である。
図5】カーソル表示処理の比較例を説明するための説明図である。
図6】カーソルを含む出力画像と表示画像の例を示す説明図である。
図7】カーソル表示処理の他の比較例を説明するための説明図である。
【発明を実施するための形態】
【0019】
以下、本願の実施形態について、図面を参照して説明する。まず、本願の実施形態に係る情報処理システムS1の構成例について説明する。図1は、本実施形態に係る情報処理システムS1の機能構成例を示す概略ブロック図である。
情報処理システムS1は、ホストシステム10と表示装置30を備える。ホストシステム10と表示装置30は、相互に各種のデータを送受信可能に接続される。マウス40は、入力デバイスの一例であり、ホストシステム10と有線または無線で接続される。
【0020】
ホストシステム10には、マウス40から入力信号が入力される。ホストシステム10は、マウス40からの入力信号で指示される座標を所定のサンプリング周期ごとにサンプリングする。サンプリングされる座標は、表示装置30の表示画面内の所定の基準点(例えば、原点、重心などのいずれか)を基準とする相対的な位置を示す。
ホストシステム10は、各種のプログラムを実行して背景画像を取得する。背景画像は、主に動画像である。背景画像は、一定のフレーム周期ごとに更新される。ホストシステム10は、背景画像が更新される都度、更新された背景画像を示す表示データを表示装置30に出力する。ホストシステム10は、サンプリングした座標を示す座標情報を表示装置30に出力する。
【0021】
表示装置30は、タイミングコントローラ36とEPD38を備える。
タイミングコントローラ36は、ホストシステム10から入力される表示データに示される背景画像に基づく出力画像をEPD38に表示させる。
タイミングコントローラ36は、所定の更新周期ごとに最新の背景画像を含む出力画像をEPD38に表示させるコントローラの一例である。更新周期は、出力画像もしくは出力画像の要素として採用する背景画像を更新する周期を指し、EPD38のリフレッシュレートの逆数に相当する。更新周期は、座標のサンプリング周期よりも長い。タイミングコントローラ36は、EPD38に表示させる背景画像に対し、座標情報で指示される座標にカーソルを配置(上書き)して出力画像を構成し、構成した出力画像をEPD38に表示させる。
【0022】
なお、情報処理システムS1は、単一の情報処理装置として構成されてもよいし、ホストシステム10を有する情報処理装置と表示装置30とが別体であってもよい。これらの情報処理装置は、パーソナルコンピュータ、タブレット端末、携帯電話機、などのいずれの形態で実現されてもよい。
本願では、プロセッサその他のハードウェアが、各種のプログラムに記述された指令で指示される処理を実行することを「プログラムを実行する」、「プログラムの実行」などと呼ぶことがある。
【0023】
本願では、「画像」とは、必ずしも濃淡または色の空間分布に限られず、視認されうる情報、即ち、文字、記号、図形、模様または、それらの任意の組み合わせを指す。「背景画像」とは、カーソルの配置対象とする画像を指し、必ずしも「背景」のみを表す画像に限られない。背景画像には、いわゆるデスクトップ画像、アプリケーションプログラム(本願では、「アプリ」と呼ぶことがある)などを実行して表示される各種の実行画像などが含まれる。
【0024】
入力デバイスは、必ずしもマウス40に限られない。入力デバイスは、表示装置30の表示画面上にカーソルを表示させる位置を定めるための位置情報を検出できるポインティングデバイスであればよい。入力デバイスは、例えば、ジョイスティック、トラックボール、などであってもよい。
以下の説明では、入力デバイスがマウス40であり、情報処理システムS1が1個の情報処理装置として構成されている場合を主とする。
【0025】
次に、情報処理システムS1のハードウェア構成例について説明する。図2は、本実施形態に係る情報処理システムS1のハードウェア構成例を示す概略ブロック図である。
ホストシステム10は、プロセッサ12と、メインメモリ14と、チップセット20と、フラッシュメモリ22と、を備える。
【0026】
プロセッサ12は、ホストシステム10を備える情報処理装置全体の機能を制御する。プロセッサ12は、例えば、1個以上のCPU(Central Processing Unit)である。プロセッサ12は、所定のプログラムを実行し、メインメモリ14と、その他のハードウェアと協働し、ホストシステム10としての機能を奏する。
【0027】
メインメモリ14は、プロセッサ12の作業領域、即ち、実行されるプログラム、各種設定データの読み込み領域、プログラムの実行により取得した処理データの書き込み領域として利用される書き込み可能メモリである。メインメモリ14は、例えば、複数個のDRAM(Dynamic Random Access Memory)チップを含んで構成される。実行プログラムには、OS、周辺機器等を制御するための各種デバイスドライバ、各種サービス/ユーティリティ、アプリ、などが含まれる。
【0028】
プロセッサ12、および、メインメモリ14は、情報処理装置の中核となるコンピュータシステム、つまり、ホストシステム10をなすシステムデバイスとして機能する。ホストシステム10は、ハードウェアとしてシステムデバイスと、OS、スケジュール・タスクなどのソフトウェアと、を含んで構成される。
【0029】
チップセット20は、1個または複数のコントローラを備え、複数のデバイスと各種のデータを入出力できるように接続可能とする入出力インタフェース(I/F:Interface)を備える。チップセット20には、プロセッサ12、フラッシュメモリ22、表示装置30およびマウス40と各種のデータを入出力可能に接続される。マウス40との接続では、例えば、IEEE802.15.1規格が用いられてもよい。
【0030】
チップセット20は、汎用入出力I/F20aとグラフィックI/F20bを備える。
汎用入出力I/F20aは、主にサンプリングされた座標を示す座標情報の表示装置30への出力に用いられる。汎用入出力I/F20aは、例えば、USB(Universal Serial Bus)規格に従って、座標情報を出力する。
グラフィックI/F20bは、主に背景画像を示す表示データの表示装置30への出力に用いられる。グラフィックI/F20bは、例えば、USB規格、MIPI(Mobile Industry Processor Interface)規格などのいずれかに従って表示データを出力する。
【0031】
フラッシュメモリ22には、各種のプログラムとデータを記憶させておく。各種のプログラムには、例えば、ファームウェア、デバイスドライバ、サービス/ユーティリティ、アプリ、などが含まれる。これらのプログラムは、プロセッサ12により実行される。記憶されるデータには、プロセッサ12における処理対象となるデータ、処理により生成されるデータが含まれる。生成されるデータは、最終データの他、ある処理ステップまでに生成され後続する処理ステップで用いられる中間データも含まれうる。
【0032】
表示装置30は、タイミングコントローラ(T-CON: Timing Controller)36とEPD38を備える。
タイミングコントローラ36は、所定のファームウェアを実行して表示装置30の機能を制御する。タイミングコントローラ36には、ホストシステム10から表示データと座標情報が入力される。タイミングコントローラ36は、表示データに示される背景画像に対し座標情報で指示される座標にカーソルを配置して出力画像を構成する。タイミングコントローラ36は、構成した出力画像をEPD38に表示させる。
【0033】
タイミングコントローラ36は、所定のリフレッシュレートで出力画像を構成する画素ごとの信号値を特定し、特定した信号値に対応する濃度で表示させるタイミングを指示するための出力信号を生成する。EPD38に対して、リフレッシュ周期ごとにリフレッシュ処理がなされる。タイミングコントローラ36は、生成した出力信号をEPD38の駆動回路に出力する。駆動回路は、例えば、TTL(Transistor-Transistor Logic)回路を備える。
【0034】
EPD38は、高さと幅よりも厚みが格段に薄い形状を有し、その表面に画面領域が設けられる。画面領域において一定間隔に複数の画素が二次元配置される。個々の画素は、電気泳動素子と画素電極を備える。EPD38は、駆動回路を備える。駆動回路は、タイミングコントローラ36から画素ごとに指示される信号値に対応する駆動電圧を当該画素の画素電極に印加する。電気泳動素子は、駆動電圧に応じた明るさで表示される。画面領域における画素ごとの明るさの分布により表示画像が表現される。
【0035】
背景画像は、モノクロの二値画像であってもよいし、グレースケール画像であってもよい。二値画像は、画素ごとの信号値が2通りの値をとる。2通りの値は、それぞれ明暗(白黒)に対応付けられる。グレースケール画像は、画像ごとの信号値(グレースケール値)が3通り以上の値をとり、明るさの程度を示す。背景画像は、カラー画像であってもよい。カラー画像は、画素ごとに発光可能な色の明るさを示す色信号値、例えば、RGB信号値をもって表される。
【0036】
なお、タイミングコントローラ36にグレースケール画像を表す表示データが入力される場合には、画素ごとのグレースケール値に対してディザリング(Dithering)を行い二値画像に変換し、得られた二値画像を出力画像に採用してもよい。ディザリングは、二値化の一例である。ディザリングは、次の手順を含む。(i)グレースケール値を判定閾値として設定する、(ii)グレースケール値と同様の値域を有し、その値域内で出現確率が均一な乱数(一様乱数)を生成する、(iii)生成した乱数が判定閾値以上となる場合、二値情報の値を1と設定し、生成した乱数が判定閾値未満となる場合、二値情報の値を0と設定する。二値情報の値が1とは、その画素を明部として白で表示させることを示し、二値情報の値が0とは、その画素を暗部として黒で表示させることを示す。
【0037】
タイミングコントローラ36にカラー画像を表す表示データが入力される場合には、画素ごとの色信号値に対して公知のグレースケール変換を行い、グレースケール値に変換してもよいグレースケール変換は、色ごとの色信号値の加重平均値をグレースケール値として算出する処理を含む。グレースケール変換により、カラー画像が画素ごとの強度分布を有するモノクロのグレースケール画像に変換される。変換されたグレースケール画像は、二値化され、二値画像に変換されてもよい。
【0038】
次に、本実施形態に係る情報処理システムS1の機能構成例について説明する。図2は、本実施形態に係る情報処理システムS1の機能構成例を示す概略ブロック図である。
ホストシステム10の機能構成例について説明する。ホストシステム10は、入力処理部112と、OS処理部114と、出力処理部116と、を備える。
【0039】
入力処理部112には、マウス40から入力信号が入力され、入力信号で指示される相対位置を所定のサンプリング周期ごとにサンプリングする。サンプリング周期は、例えば、8~30ms(サンプリング周波数160Hz~30Hzに相当)となる。相対位置ひいては座標のサンプリング周期は、通例、背景画像のフレーム周期と同等となり、更新周期よりも短い。相対位置は、画面空間における基準点からの変位に相当する。基準点として、ホストシステム10からの標準出力として設定されたEPD38の画面領域の一点(例えば、原点)が用いられる。入力処理部112は、サンプリングされたサンプルごとの座標を示す座標情報をOS処理部114に出力する。入力処理部112の機能は、CPU12が、OS上で、専用のデバイスドライバを実行して実現される。
【0040】
OS処理部114は、プロセッサ12がOSの中核をなすカーネルを実行し、OSの基本機能を提供する。OS処理部114は、基本機能として、ホストシステム10によるアプリ、ファームウェア、デバイスドライバ、その他のプログラムの実行状態、ホストシステム10の計算資源(リソース)の割り当て、などの制御が含まれる。
ホストシステム10は、OS処理部114による制御のもとで(本願では、「OS上で」と呼ぶことがある)、各種のプログラムを実行する。プログラムの実行により、背景画像を取得する。背景画像を取得することは、背景画像を生成すること、背景画像を他機器から入力されること、予め自システムの記憶媒体に記憶しておいた背景画像を示す表示データを読み出すこと、などのいずれの機能も該当しうる。該当する機能は、実行されるプログラムに依存しうる。
【0041】
OS処理部114は、取得された背景画像を示す表示データを表示装置30に出力処理部116を経由して出力する。背景画像のフレーム周期は、座標のサンプリング周期と同等(例えば、8~30ms(フレームレート160Hz~30Hzに相当))となってもよい。
OS処理部114は、入力処理部112から入力される座標情報を表示装置30に出力処理部116を経由して出力する。OS処理部114は、プログラムの実行中の処理において、入力される座標情報を用いることがある。OS処理部114によりにおいて座標情報に基づいて背景画像が変動することがある。
なお、OS処理部114は、実行中のプログラムに従って、表示データを出力する際、入力処理部112の機能と出力処理部116の機能の一方または両方を呼び出してもよい。
入力処理部112と出力処理部116の機能は、それぞれAPI(Application Programming Function)として記述されてもよい。
【0042】
出力処理部116は、カーソル処理部116aと表示制御部116bと、を備える。
カーソル処理部116aは、OS処理部114から入力される座標情報を表示装置30に出力する。カーソル処理部116aには、カーソルの画像を予め設定しておき、取得した座標情報とカーソルを示す描画指令(描画コマンド)を生成してもよい。描画指令は、座標情報で指示される座標へのカーソルの表示を表示装置30に指示するための指令である。カーソル処理部116aは、生成した描画指令を表示装置30に出力する。カーソル処理部116aの機能は、プロセッサ12がOS上でカーソル描画アプリを実行し、汎用入出力I/F20aと協働して実現されてもよい。カーソル描画アプリは、上記のAPI関数として構成され、他のプログラムから呼び出されてもよい。
【0043】
表示制御部116bは、OS処理部114から入力される表示データを表示装置30に出力する。表示制御部116bの機能は、プロセッサ12がOS上で表示装置30のデバイスドライバを実行し、グラフィックI/F20bと協働して実現されてもよい。デバイスドライバは、上記のAPI関数として構成されうる。
【0044】
次に、タイミングコントローラ36の機能構成例について説明する。タイミングコントローラ36は、背景画像バッファ362と、更新処理部364と、フレームバッファ366と、を備える。タイミングコントローラ36は、所定のファームウェアを実行して、その機能を実現する。
【0045】
背景画像バッファ362は、ホストシステム10から入力される表示データを記憶する。背景画像バッファ362には、表示データが入力される都度、記憶された表示データを入力された表示データに更新する(上書き、Update)。背景画像バッファ362には、その時点において最新の背景画像を示す表示データが記憶される。
【0046】
更新処理部364は、EPD38に表示させる背景画像とカーソルの更新に関する処理を行う。ホストシステム10から座標情報が入力されないとき、更新処理部364は、更新周期ごとに背景画像バッファ362に記憶された背景画像をフレームバッファ366に書き込む。フレームバッファ366には、EPD38に表示させる出力画像が保存される。よって、カーソルを表示させない場合には、フレームバッファ366は、更新周期ごとに新たな背景画像をEPD38に表示させることができる。なお、背景画像バッファ362は、フレームバッファ366に書き込むことにより更新に用いられた背景画像を、少なくとも次の更新まで保持してもよい。
【0047】
ホストシステム10から更新される座標情報が入力されるとき、更新処理部364は、フレームバッファ366に記憶されている出力画像のうち座標情報で指示される座標にカーソルを配置する。よって、その座標を基準点とする表示領域にカーソルが重畳(上書き、Overlay)される。基準点は、原点、重心など、カーソルの位置を代表する位置であればよい。座標情報が描画指令に含めて入力される場合には、更新処理部364は、予め自部に設定されたカーソルに代え、描画指令で伝達されるカーソルを配置してもよい。
【0048】
座標情報はサンプリング周期ごとに更新されるため、更新処理部364は、更新された座標情報に基づいてカーソルを配置する処理もサンプリング周期ごとに実行する。即ち、EPD38の画面領域に表示させるカーソルの位置がサンプリング周期ごとに更新される。EPD38の更新周期は、EPD38の応答時間よりも長く、サンプリング周期の2倍以上となりうる。そのため、EPD38からの表示画像に複数のカーソルが表示されることがある。座標の移動速度が低い場合には、単純に更新周期ごとにカーソルを表示させると、ある時点におけるカーソルの表示領域と次のサンプリング周期におけるカーソルの表示領域の一部が重なり合う重複領域が生じ、ここのカーソルが区別されずに視認性が害される可能性がある。
【0049】
そこで、更新処理部364は、最新の更新された座標を基準とする表示領域を配置した時点(本願では、「配置時点」と呼ぶことがある)からの経過時間が更新周期以内となるカーソルのいずれの表示領域の一部または全部を含まないとき、その最新の更新された座標にカーソルを配置する。位置が異なるカーソルが互いに重なり合わずに表示されるため、視認性が害されない。
【0050】
図2の構成によれば、座標情報の更新が、背景画像バッファ362に記憶される背景画像の更新と並行する。更新処理部364は、背景画像の更新よりもカーソルの位置の更新を優先する。即ち、更新処理部364は、配置時点からの経過時間が更新周期内となるカーソルが画面領域に存在するとき、その時点において出力画像とする背景画像を最新画像に更新せずに維持する。このとき、更新処理部364は、背景画像バッファ362に記憶された背景画像をフレームバッファ366に書き込みを行わない。
【0051】
更新処理部364は、配置時点からの経過時間が更新周期内となるカーソルが画面領域に存在しないとき、その時点において出力画像とする背景画像を最新画像に更新する。そのような場合には、入力される座標情報で指示される座標が更新周期以上の期間にわたり変化せずに維持される場合、有効な座標を示す座標情報が更新周期以上の期間にわたり継続して入力されない場合などがある。このとき、更新処理部364は、背景画像バッファ362に記憶された背景画像をフレームバッファ366に書き込みを行わない。更新後の座標に基づくカーソルの配置を背景画像の更新よりも優先することで、残像の原因となるカーソルの発生を回避することで、主観的な画質の低下を抑制することができる。
【0052】
更新処理部364は、カーソルアイコンを生成してもよい。カーソルアイコンを生成する際、更新処理部364は、背景画像バッファ362に記憶された最後の更新に用いられた背景画像のうち、座標情報で指示される座標を基準点とする部分領域内の画像(本願では、「部分画像」と呼ぶことがある)を抽出する。そして、更新処理部364は、抽出した部分画像にカーソルを重畳する。部分領域は、所定の形状(例えば、長方形または正方形)を有し、そのカーソルの全体を包含できる限り小さい方が望ましい。部分領域は、例えば、カーソルの外縁または一定幅の周縁に内接する大きさを有していればよい。更新処理部364は、生成したカーソルアイコンもカーソルの一例として、情報処理システムS1における配置、消去、位置の更新などの処理対象とすることができる。
【0053】
更新処理部364は、配置時点からの経過時間が更新周期以上となり、かつ、最新の座標に基づくカーソルの表示領域の一部または全部と重複しない表示領域に配置されたカーソルを消去してもよい。例えば、更新処理部364は、配置時点からの経過時間が更新周期以上となるカーソルを特定する。更新処理部364は、背景画像バッファ362に記憶された最後の更新に用いられた背景画像から、特定したカーソルと同じ表示領域を有する部分画像を抽出する。そして、更新処理部364は、抽出した部分画像を特定したカーソルの表示領域に配置する。これにより表示されていたカーソルが最新の背景画像の一部をなす部分画像に置き換わる。
【0054】
フレームバッファ366は、EPD38に出力する出力画像を保存する。フレームバッファ366は、出力画像を表す画素ごとの信号値を記憶する記憶媒体を有することで、EPD38の画面領域に対応する記憶領域を備える。タイミングコントローラ36は、フレームバッファ366に記憶された画素ごとの信号値をもって更新周期ごとに出力画像を示す出力信号を生成する出力信号生成回路(図示せず)を備える。出力信号生成回路は、生成した出力信号をEPD38の駆動回路に出力する。
本実施形態では、背景画像、カーソルが重畳した背景画像、部分画像がさらに重畳した背景画像が出力画像となりうる。
【0055】
次に、本実施形態に係るカーソル表示処理の例について説明する。図3は、本実施形態に係るカーソル表示処理の例を示すフローチャートである。図3は、ホストシステム10がフレーム周期ごとに背景画像を示す表示データと、サンプリング周期ごとに座標とカーソルを示す描画指令を表示装置30に出力する場合を例としている。そして、タイミングコントローラ36の背景画像バッファ362は、ホストシステム10から表示データが入力される都度、入力される表示データを保存し、もとの表示データに上書きする。
【0056】
(ステップS104)更新処理部364は、ホストシステム10から入力される最新の描画指令で指示される座標が、直前の描画指令で指示される座標から変化したか否かを判定する。変化したと判定される場合(ステップS104 YES)、ステップS106の処理に進む。変化しないと判定される場合(ステップS104 NO)、ステップS112の処理に進む。
【0057】
(ステップS106)更新処理部364は、フレームバッファ366に書き込んだ背景画像を、背景画像バッファ362に保存された最新の背景画像に更新する処理を停止する。
(ステップS108)更新処理部364は、最新の描画指令で指示される座標を基準点とする部分領域内の部分画像を、背景画像バッファ362に記憶された最後に更新された背景画像から抽出する。更新処理部364は、抽出した部分画像に描画指令で伝達されるカーソルを重ね合わせカーソルアイコンを生成する。更新処理部364は、フレームバッファ366の記憶領域のうち、描画指令で指示される座標を基準点とする部分領域に対応する記憶領域に生成したカーソルアイコンを上書き(配置)する。
【0058】
(ステップS110)更新処理部364は、過去に上書きしたカーソルアイコンのうち、配置時点からの経過時間が更新周期以上となり、最新の座標に基づくカーソルアイコンのの表示領域を含まない表示領域に上書きされたカーソルアイコンを更新可能なカーソルアイコンとして判定する。更新処理部364は、更新可能なカーソルアイコンを消去する。更新可能なカーソルアイコンを消去する際、更新処理部364は、当該カーソルアイコンの表示領域を特定し、特定した表示領域内の部分画像を背景画像バッファ362に記憶された最新の背景画像から抽出する。更新処理部364は、特定した表示領域に対応するフレームバッファ366の記憶領域に抽出した部分画像を上書きする。その後、ステップS104の処理に戻る。
【0059】
(ステップS112)更新処理部364は、背景画像を更新可能か否か判定する。更新処理部364は、配置時点からの経過時間が更新周期内となるカーソルが画面領域に存在していないか否かにより、背景画像が更新可能か否かを判定することができる。背景画像が更新可能と判定されるとき(ステップS112 YES)、ステップS114の処理に進む。背景画像が更新可能と判定されないとき(ステップS112 NO)、ステップS104の処理に戻る。
【0060】
図4は、本実施形態に係るカーソル表示処理の実行例を説明するための説明図である。図4は、更新周期を125ms(リフレッシュレートRR=8Hzに相当)、フレーム周期を16ms(フレームレートFR=60Hzに相当)として図3の処理を実行する場合を例示する。また、この例では、フレーム周期と座標のサンプリング周期が等しい。
図4は、第1行においてホストシステム10からの表示データに示されるフレームごとの背景画像DTと描画指令に示される座標OPを示す。この例では、背景画像DTの時間変化がほとんどなく、座標OPが画面領域の上方から下方に向けて移動する。背景画像バッファ362には、その時点で最新の背景画像DTがフレーム周期ごとに記憶される。
【0061】
第2行は、背景画像バッファ362に保存された背景画像のうち出力画像の更新に用いられる背景画像を示す。背景画像は、第1更新周期、第2更新周期において更新されない。ステップS104、S106の処理により、描画指令で指示される座標の移動が検出され、背景画像の更新が停止されたためである。第3更新周期において、背景画像が更新される。ステップS112、S114の処理により、配置時点からの経過時間が更新周期内となるカーソルが画面領域に存在せず、背景画像の全領域が更新可能と判定されたためである。
【0062】
第3行は、フレームバッファ366に書き込まれる出力画像の要素を示す。ここで、カーソルアイコン、部分画像および背景画像が出力画像の要素となる。カーソルアイコンは、サンプリング周期ごとに異なる座標を示す。カーソルアイコンは、ステップS108の処理により生成される。更新処理部364は、描画指令で指示される座標を基準点とする部分領域内の部分画像を最後の更新に用いられた背景画像から抽出する(ステップS108a)。更新処理部364は、描画指令で伝達されるカーソルを抽出した部分画像に重ね合わせる(ステップS108b)。
【0063】
更新処理部364によれば、配置時点から更新周期以上経過したカーソルアイコンは更新可能と判定される。更新可能と判定されたカーソルアイコンは、ステップS110の処理により消去される。即ち、背景画像バッファから最後に更新された背景画像のうち、更新可能と判定されたカーソルアイコンの表示領域内の部分画像が抽出される。抽出された部分画像は当該カーソルアイコンの表示領域に上書きされる。そして、一連の入力操作が終了することで配置時点からの経過時間が更新周期内となるカーソルが画面領域に存在しなくなるとき、更新に係る最新の背景画像がフレームバッファ366に書き込まれる。また、その時点において指示されている座標に係るカーソルアイコンが書き込まれる。
【0064】
第4行は、EPD38が表示する表示画像を示す。表示画像は、フレームバッファ366からの出力画像に基づいて表される。出力画像には、サンプリング周期ごとに位置が異なるカーソルが時間経過に応じて順次表示される。但し、表示開始からの経過時間が更新周期に達するまで、カーソルアイコンの表示が維持される。そのため、表示画像においてサンプリング周期ごとに異なる座標に配置されたカーソルが時間経過に応じて累積する。表示開始からの経過時間が更新周期以上となるカーソルは、部分画像の上書きにより消去される。そのため、カーソルの累積が抑制される。そして、入力操作が終了し、指示される座標の移動が停止する期間が更新周期以上継続することで、背景画像が更新され、その位置におけるカーソルの表示が維持される。
【0065】
次に、カーソル表示処理の比較例について説明する。図5は、カーソル表示処理の比較例を説明するための説明図である。比較例では、フレーム周期、サンプリング周期および更新周期は、図4の例と同様である。但し、比較例では、ホストシステム10は、フレーム周期ごとに背景画像に入力操作により指示される座標にカーソルを重畳してなる出力画像を表示装置30に出力する。表示装置30の背景画像バッファ362は、表示装置30から入力される出力画像を更新周期ごとに保存する。背景画像バッファ362に新たに保存された出力画像は、そのままフレームバッファ366を経由してEPD38に出力される。
【0066】
EPD38は、フレームバッファ366から伝達される出力画像に基づく表示画像を表示する。表示画像が個々の更新周期内で維持されるので、表示画像に表れるカーソルの位置が固定される。そのため、カーソルが表れる位置が更新周期ごとに離散的に変化する。これに対し、本実施形態ではカーソルの位置がサンプリング周期ごとに変化するため、より滑らかなカーソルの移動が表現される。
【0067】
なお、上記の説明では、座標のサンプリング周期と背景画像のフレーム周期が等しい場合を主としたが、これには限られない。本実施形態では、座標のサンプリング周期と背景画像のフレーム周期が異なっていてもよい。また、表示装置30の更新処理部364は、自部に入力された最新の座標情報の一部を間引き、一定の周期ごとにカーソル表示のために採用してもよい。間引きにより、サンプリング周期が実質的に長くなるように調整される。
【0068】
但し、本実施形態では、調整後のサンプリング周期が少なくとも更新周期よりも短くなるように設定される。一般にサンプリング周期が短いほどカーソルの移動が滑らかに表現されるが、更新周期ごとに表示されるカーソルの個数が増加する。そこで、滑らかなカーソルの移動が表現される限り、できるだけ長いサンプリング周期(例えば、40~80ms(12~24Hzに相当))が設定されればよい。
【0069】
ホストシステム10により実行されるプログラムの機能により要求されるカーソルの移動の滑らかさが異なりうる。例えば、描画アプリ、ゲームアプリなど、入力デバイスにより指示される座標の移動が継続する状況で使用されるプログラムに対しては、カーソルの滑らかな移動の必要性が高い。かかるプログラムに対しては、座標のサンプリング周期が短い方が好ましい。他方、テキストを主体とする文書作成アプリ、など、入力デバイスにより指示される座標の移動が稀なプログラムに対しては、カーソルの滑らかな移動の必要性が低い。かかるプログラムに対しては、座標のサンプリング周期が長くしても許容されうる。
【0070】
そこで、ホストシステム10のカーソル処理部116aには、予めプログラムごとにサンプリング周期を設定しておき、OS処理部114により実行されるプログラムに対応するサンプリング周期を表示装置30に通知してもよい。表示装置30の更新処理部364は、通知されたサンプリング周期ごとにホストシステム10から入力される座標情報を採用する。
【0071】
上記の説明では、更新処理部364が、ホストシステム10から通知された座標で指示される位置にカーソルを表示させる場合を例としたが、これには限られない。更新処理部364は、その時点までの2サンプル(例えば、最新のサンプルとその直前のサンプル)以上の座標情報に示される座標に基づいて所定の予測モデルを用いて所定の経過時間後における予測座標を予測してもよい。予測モデルとして、例えば、線形モデルを用いることができる。更新処理部364は、座標情報に示される座標に代え、予測座標で指示される位置にカーソルを表示させる。経過時間として、例えば、座標の検出からカーソルの表示までに要する遅延時間を設定することで、カーソルの表示までの遅延が補償される。
【0072】
上記の説明では、背景画像が動画像である場合を主としたが、これには限られない。背景画像は、静止画像であってもよい。背景画像が静止画像である場合であっても、更新処理部364は、上記の背景画像バッファ362に記憶された背景画像に対する処理を実行すればよい。
また、カーソルは、必ずしも矢印に限られない。カーソルは、任意の形状、模様、色または、これらの組み合わせを有し、他の画像と明瞭に区別できる画像であればよい。カーソルは、例えば、×印、■印、などであってもよい。
【0073】
以上に説明したように、本実施形態に係る情報処理システムS1は、入力デバイスを用いて指示される座標をサンプリングし、背景画像を取得するホストシステム10と、背景画像に基づく出力画像を表示媒体に表示させるコントローラ(例えば、タイミングコントローラ36)と、を備える。ホストシステムは、コントローラにサンプリングした座標を通知する。コントローラは、背景画像を座標のサンプリング周期よりも長い更新周期で更新し、背景画像に対しサンプリングされた座標にカーソルを配置した出力画像を表示媒体に出力する。また、入力デバイスはマウス40であり、表示媒体はEPD38であってもよい。
この構成によれば、コントローラはホストシステム10から取得した背景画像を座標のサンプリング周期よりも長い更新周期で更新し、背景画像に対してサンプリングされた座標にカーソルが配置された出力画像を表示媒体に表示させる。表示媒体は、背景画像の更新周期よりも短いサンプリング周期ごとにカーソルを表示することができる。カーソルの動作が円滑に表現されるため、指示される座標を表すカーソルをユーザに対し、より容易に識別させることができる。
【0074】
ホストシステム10は、サンプリングした座標とカーソルを示す描画指令をコントローラに出力し、コントローラは、描画指令で指示される座標に当該カーソルを配置してもよい。
この構成によれば、ホストシステム10から入力される描画指令で指示される座標に、その描画指令で指示されるカーソルが表示される。そのため、コントローラに予めカーソルを設定しておかなくても、ホストシステム10から指示される所望の形態を有するカーソルが表示される。
【0075】
コントローラは、最新の座標に基づくカーソルの表示領域が、配置時点からの経過時間が更新周期内となるカーソルの表示領域を含まないとき、その最新の座標にカーソルを配置してもよい。
この構成によれば、既に表示させたカーソルと表示領域が重複しない離れた新たな座標にカーソルが表示される。表示領域が重なり合わないように個々のカーソルが逐次に表示されるので、カーソルの視認性が害されない。
【0076】
コントローラは、配置時点からの経過時間が表示媒体の更新周期内となるカーソルが存在しないとき、出力画像の要素とする背景画像を最新の背景画像に更新してもよい。
そのため、背景画像の更新よりも、サンプリングにより更新される座標へのカーソルの表示よりも優先される。カーソルの移動を観察してなされるユーザの入力操作が妨げられないため、入力デバイスの操作性の低下が抑制される。
【0077】
コントローラは、配置時点からの経過時間が更新周期以上となり、最新の座標に基づくカーソルの表示領域を含まない表示領域に配置されたカーソルを消去してもよい。
そのため、消去による残像の発生を抑制しながら、その時点で指示されていないカーソルが消去される。よって、表示画像において無用なカーソルの累積を抑制することができる。
【0078】
コントローラは、最後に更新された背景画像から最新のサンプリングされた座標においてカーソルを包含する大きさを有する部分画像を抽出し、当該部分画像にカーソルを重畳してカーソルアイコンを構成し、その座標にカーソルアイコンを配置してもよい。
そのため、最新の背景画像から抽出された部分画像に重畳されたカーソルアイコンが、その背景画像に配置される。よって、処理対象とする領域をカーソルアイコンの領域としながら、変化が視認される領域をカーソルの領域に限定することができる。カーソルよりも単純な形状を有する部分画像を導入することで、カーソルの書き込みに係る処理を簡素化することができる。
【0079】
ホストシステム10は、少なくとも2サンプルの座標に基づいて、現在から所定の経過時間後の予測座標を予測し、コントローラは、背景画像に対し予測された予測座標に前記カーソルを配置してもよい。
この構成により、経過時間後の予測座標にカーソルが配置されるため、座標の検出からカーソルの表示までの遅延時間が補償される。
【0080】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成は上述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。上述の実施形態において説明した各構成は、任意に組み合わせることができる。
【符号の説明】
【0081】
S1…情報処理システム、10…ホストシステム、12…プロセッサ、14…メインメモリ、20…チップセット、30…表示装置、36…タイミングコントローラ、38…EPD、40…マウス、112…入力処理部、114…OS処理部、116…出力処理部、116a…カーソル処理部、116b…表示制御部、362…背景画像バッファ、364…更新処理部、366…フレームバッファ
図1
図2
図3
図4
図5
図6
図7
【手続補正書】
【提出日】2024-03-08
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
入力デバイスを用いて指示される座標をサンプリングし、
背景画像を取得するホストシステムと、
前記背景画像に基づく出力画像を表示媒体に表示させるコントローラと、
を備える情報処理システムであって、
前記ホストシステムは、
前記コントローラに前記背景画像を更新される都度、出力し、
前記コントローラに前記座標とカーソルを示す描画指令をサンプリング周期ごとに出力し、
前記コントローラは、
前記背景画像を前記座標のサンプリング周期よりも長い更新周期で更新し、
前記描画指令で指示される座標の移動が検出される場合、背景画像の更新を停止し、
前記描画指令で指示される座標を基準点とする部分領域内の部分画像を最後の更新に用いられた背景画像から抽出し
前記描画指令で伝達されるカーソルを前記部分画像に重ね合わせて配置し、
配置された時点から前記更新周期以上経過したカーソルを更新可能と判定し、
最後に更新された背景画像から更新可能と判定したカーソルの表示領域内の部分画像を抽出し、
当該部分画像を当該カーソルの表示領域に上書きし、
配置された時点からの経過時間が前記更新周期内となるカーソルが画面領域に存在しなくなるとき、当該背景画像を前記出力画像として前記表示媒体に出力する
情報処理システム。
【請求項2】
前記コントローラは、
最後に更新された背景画像から前記座標において前記カーソルを包含する大きさを有する部分画像を抽出し、当該部分画像に前記カーソルを重畳してカーソルアイコンを構成し、
前記座標に前記カーソルアイコンを配置する
請求項1に記載の情報処理システム。
【請求項3】
前記ホストシステムは、
少なくとも2サンプルの座標に基づいて、現在から所定の経過時間後の予測座標を予測し、
前記コントローラは、
前記背景画像に対し前記予測座標に前記カーソルを配置する
請求項1に記載の情報処理システム。
【請求項4】
前記入力デバイスは、マウスであり、
前記表示媒体は、電気泳動ディスプレイである
請求項1に記載の情報処理システム。
【請求項5】
背景画像に基づく出力画像を表示媒体に表示させるコントローラを備える表示装置であって、
前記コントローラは、
前記背景画像が更新される都度、入力され、
座標とカーソルを示す描画指令が前記座標のサンプリング周期ごとに入力され、
前記背景画像を前記座標のサンプリング周期よりも長い更新周期で更新し、
前記描画指令で指示される座標の移動が検出される場合、背景画像の更新を停止し、
前記描画指令で指示される座標を基準点とする部分領域内の部分画像を最後の更新に用いられた背景画像から抽出し
前記描画指令で伝達されるカーソルを前記部分画像に重ね合わせて配置し、
配置された時点から前記更新周期以上経過したカーソルを更新可能と判定し、
最後に更新された背景画像から更新可能と判定したカーソルの表示領域内の部分画像を抽出し、当該部分画像を当該カーソルの表示領域に上書きし、
配置された時点からの経過時間が前記更新周期内となるカーソルが画面領域に存在しなくなるとき、当該背景画像を前記出力画像として前記表示媒体に出力する
表示装置。
【請求項6】
ホストシステムとコントローラを備える情報処理システムにおける制御方法であって、 前記ホストシステムは、
入力デバイスを用いて指示される座標をサンプリングし、
前記コントローラに背景画像を更新される都度、出力し、
前記コントローラに前記座標とカーソルを示す描画指令をサンプリング周期ごとに出力し、
前記コントローラは、
前記背景画像を前記座標のサンプリング周期よりも長い更新周期で更新し、
前記描画指令で指示される座標の移動が検出される場合、背景画像の更新を停止し、
前記描画指令で指示される座標を基準点とする部分領域内の部分画像を最後の更新に用いられた背景画像から抽出し
前記描画指令で伝達されるカーソルを前記部分画像に重ね合わせて配置し、
配置された時点から前記更新周期以上経過したカーソルを更新可能と判定し、
最後に更新された背景画像から更新可能と判定したカーソルの表示領域内の部分画像を抽出し、当該部分画像を当該カーソルの表示領域に上書きし、
配置された時点からの経過時間が前記更新周期内となるカーソルが画面領域に存在しなくなるとき、当該背景画像を出力画像として表示媒体に出力する
制御方法。