(58)【調査した分野】(Int.Cl.,DB名)
第一のディスプレイおよび前記第一のディスプレイの表示面に重ねられた第一のタッチパネルが設けられた第一の画像形成装置と、第二のディスプレイおよび前記第二のディスプレイの表示面に重ねられた第二のタッチパネルが設けられた第二の画像形成装置と、を有する画像処理システムであって、
前記第一の画像形成装置に、
前記第一のタッチパネルにおけるタッチされた第一のタッチ位置に対応する、前記第一のディスプレイの表示面における表示面上位置を、前記第一のディスプレイの表示面と前記第一のタッチパネルとの位置関係を示す第一の位置関係データに基づいて算出する、表示面上位置算出手段と、
前記表示面上位置算出手段によって算出された、時刻ごとの前記表示面上位置を示す操作ログデータを生成する、操作ログデータ生成手段と、
が備えられ、
前記第二の画像形成装置に、
前記操作ログデータに示される前記表示面上位置に対応する、前記第二のタッチパネルにおける対応位置を、前記第二のディスプレイの表示面と前記第二のタッチパネルとの位置関係を示す第二の位置関係データに基づいて算出する、対応位置算出手段と、
前記対応位置算出手段によって算出された前記対応位置を前記第二のタッチパネルにおけるタッチイベントに対応する第二のタッチ位置として用いるとともに、当該タッチイベントに対応する表示制御処理を決定する、処理決定手段と、
前記処理決定手段によって決定した前記表示制御処理を実行する表示制御手段と、
が備えられる、
ことを特徴とする画像処理システム。
前記処理決定手段は、前記第二のディスプレイに表示している画面の中のいずれのオブジェクトにも前記対応位置が属しない場合に、前記対応位置に最も近いオブジェクトがタッチされたものとして、前記表示制御処理を決定する、
請求項1または請求項2に記載の画像処理システム。
前記処理決定手段は、前記第二のディスプレイに表示している画面の中のいずれのオブジェクトにも前記対応位置が属しないが前記対応位置から所定の範囲内に1つまたは複数のオブジェクトがある場合に、当該1つまたは複数のオブジェクトのうちの前記対応位置に最も近いオブジェクトがタッチされたものとして、前記表示制御処理を決定する、
請求項1または請求項2に記載の画像処理システム。
【発明を実施するための形態】
【0019】
図1は、ネットワークシステム100の例を示す図である。
図2は、画像形成装置1の外観および内部の例を示す図である。
図3は、画像形成装置1のハードウェア構成の例を示す図である。
図4は、操作パネルユニット10kの構成の例を示す図である。
図5は、液晶ディスプレイ10k2とタッチパネル10k3との重なり具合の例を示す図である。
図6は、コピージョブ画面3Cの例を示す図である。
図7は、バッジ列4Lとコピージョブ画面3Cとの関係を説明するための図である。
図8は、画像形成装置1の機能的構成の例および操作の記録の際のデータの流れの例を示す図である。
【0020】
図1に示すように、ネットワークシステム100は、複数台の画像形成装置1、端末装置2A〜2C、および通信回線NWなどによって構成される。画像形成装置1と端末装置2A〜2Cとは、通信回線NWを介して通信を行うことができる。通信回線NWとして、公衆回線、専用線、インターネット、またはいわゆるLAN(Local Area Network)回線などが用いられる。以下、各画像形成装置1を「画像形成装置1A」、「画像形成装置1B」、…と区別して記載することがある。
【0021】
画像形成装置1は、一般にMFP(Multi Function Peripherals)または複合機と呼ばれる画像処理装置であって、コピー、ネットワークプリント、ファックス、スキャン、およびボックスなどの機能を集約した装置である。
【0022】
ボックス機能は、ユーザごとに「ボックス」または「パーソナルボックス」などと呼ばれる記憶領域を与えておき、各ユーザが自分の記憶領域によって画像ファイルなどのドキュメントデータを保存し管理するための機能である。ボックスは、パーソナルコンピュータにおける「フォルダ」または「ディレクトリ」に相当する。
【0023】
端末装置2A〜2Cとして、パーソナルコンピュータ、スマートフォン、またはタブレットコンピュータなどが用いられる。
【0024】
図2または
図3に示すように、画像形成装置1は、メインCPU(Central Processing Unit)10a、RAM(Random Access Memory)10b、ROM(Read Only Memory)10c、大容量記憶装置10d、スキャンユニット10e、NIC(Network Interface Card)10f、モデム10g、接続インタフェースボード10h、プリントユニット10i、後処理装置10j、および操作パネルユニット10kなどによって構成される。
【0025】
スキャンユニット10eは、用紙に記されている写真、文字、絵、図表などの画像を読み取って画像データを生成する。具体的には、スキャンユニット10eは、イメージセンサ10e1、ADF(Auto Document Feeder)10e2、読取用スリット10e3、およびプラテンガラス10e4などによって構成される。
【0026】
ADF10e2は、セットされた用紙を1枚ずつ読取用スリット10e3へ搬送する。すると、イメージセンサ10e1は、用紙が読取用スリット10e3を通過する際に、用紙から画像を読み取り、画像の電子データを生成する。また、ユーザがプラテンガラス10e4に原稿をセットした場合は、イメージセンサ10e1は、プラテンガラス10e4を走査することによって、用紙から画像を読み取り、画像の電子データを生成する。
【0027】
NIC10fは、TCP/IP(Transmission Control Protocol/Internet Protocol)などのプロトコルによって端末装置2A〜2Cなどの装置と通信を行う。
【0028】
モデム10gは、固定電話網を介してG3などのプロトコルによってファックス端末と通信を行う。
【0029】
接続インタフェースボード10hは、周辺機器を画像形成装置1に接続するための装置である。接続インタフェースボード10hとして、例えば、USB(Universal Serial Bus)ボードまたはIEEE(Institute of Electrical and Electronics Engineers)1394ボードなどが用いられる。
【0030】
プリントユニット10iは、スキャンユニット10eによって読み取られた画像、または、NIC10f、モデム10g、もしくは接続インタフェースボード10hを介して入力された画像を、用紙に印刷する。具体的には、プリントユニット10iは、エンジン部10i1、給紙トレイ10i2、大容量給紙タンク10i3、および用紙搬送機構10i4などによって構成される。
【0031】
給紙トレイ10i2は、1つまたは複数、プリントユニット10iに設けられている。それぞれに、所定のサイズの用紙(白紙)が格納される。大容量給紙タンク10i3にも、所定のサイズの用紙(白紙)が格納されるが、給紙トレイ10i2よりも容量が大きい。よって、通常、最もよく使用されるサイズの用紙が格納される。
【0032】
用紙搬送機構10i4は、給紙トレイ10i2または大容量給紙タンク10i3から用紙を1枚ずつエンジン部10i1へ搬送する。エンジン部10i1は、用紙に画像を印刷する。そして、用紙搬送機構10i4は、画像が印刷された用紙を排紙トレイまたはビンへ搬出する。なお、後処理(ステープルで綴じる処理またはパンチ穴を開ける処理など)が必要な場合は、画像が印刷された用紙を後処理装置10jへ搬送する。
【0033】
後処理装置10jは、画像が印刷された1枚または複数の用紙に対して、適宜、上述の後処理を施す。
【0034】
操作パネルユニット10kは、ユーザインタフェースのユニットであって、
図4に示すように、ハードキーパネル10k1、液晶ディスプレイ(LCD:Liquid Crystal Display)10k2、およびタッチパネル10k3などによって構成される。
【0035】
ハードキーパネル10k1は、テンキー1kt、スタートキー1ks、ストップキー1kp、リセットキー1kr、電源キー1ke、およびファンクションキー1kf1〜1kf7などのキーによって構成される入力装置である。これらのキーは、液晶ディスプレイ10k2に表示されるキー(いわゆるソフトウェアキー)と区別するために、一般に、「ハードキー」または「ハードウェアキー」と呼ばれることがある。また、ファンクションキー1kf1〜1kf7のうち、ファンクションキー1kf2には、後述する操作の記録の開始および終了のコマンドが割り当てられている。ファンクションキー1kf4には、後述するホーム画面3Tの表示のコマンドが割り当てられている。そこで、以下、ファンクションキー1kf2を「開始終了コマンドキー1kf2」と記載し、ファンクションキー1kf4を「ホームキー1kf4」と記載する。
【0036】
液晶ディスプレイ10k2には、ユーザへのメッセージを示す画面、処理の結果を示す画面、またはユーザが画像形成装置1に対して指示もしくは条件を入力するための画面などが表示される。
【0037】
タッチパネル10k3は、液晶ディスプレイ10k2の表示面の全体を覆うように固定的に設けられており、タッチされた(押された)位置を検知し、メインCPU10aにその位置を通知する。タッチパネル10k3として、例えば、静電容量方式のタッチパネル、表面弾性波方式のタッチパネル、または電磁誘導方式のタッチパネルなどが用いられる。なお、以下、液晶ディスプレイ10k2の画素のピッチとタッチパネル10k3の読取分解能とが同一になるよう設定されている場合を例に説明する。また、各画像形成装置1の液晶ディスプレイ10k2の性能は同じであり、各画像形成装置1のタッチパネル10k3の性能は同じである場合を例に説明する。
【0038】
ところで、液晶ディスプレイ10k2とタッチパネル10k3との位置関係は、画像形成装置1ごとに異なる。画像形成装置1Aにおいて、
図5(A)に示すように、液晶ディスプレイ10k2の左上端は、タッチパネル10k3の左上端に対して右方向(X軸方向)に「Ga」だけずれており、下方向(Y軸方向)に「Gb」だけずれている。一方、画像形成装置1Bにおいて、液晶ディスプレイ10k2の左上端は、タッチパネル10k3の左上端に対してX軸方向に「Gc」だけずれており、Y軸方向に「Gd」だけずれている。
【0039】
ずれがない場合は、タッチパネル10k3のタッチされた位置の座標を、ずれに関する補正を行うことなく、液晶ディスプレイ10k2のタッチされた位置の座標として取り扱うことができる。以下、タッチパネル10k3上の座標を「タッチパネル座標P」または「タッチパネル座標P(Xp,Yp)」と記載する。
【0040】
しかし、ずれがある場合は、ずれに関する補正を行う必要がある。画像形成装置1Aにおいては、タッチパネル座標Pを(Xp−Ga,Yp−Gb)と補正する必要がある。画像形成装置1Bにおいては、タッチパネル座標Pを(Xp−Gc,Yp−Gd)と補正する必要がある。
【0041】
このように、液晶ディスプレイ10k2に対するタッチパネル10k3のずれの量は、補正の量として用いられる。そこで、以下、ずれの量を「補正量」と記載する。
【0042】
各画像形成装置1には、自らの補正量を示す補正量データ5Uが予め記憶されている。つまり、画像形成装置1Aには(Ga,Gb)を示すデータが補正量データ5Uとして予め記憶されており、画像形成装置1Bには、(Gc,Gd)を示すデータが補正量データ5Uとして予め記憶されている。
【0043】
液晶ディスプレイ10k2には、様々な画面が表示される。各画面には、様々な種類のオブジェクトが配置されている。例えば、
図6のコピージョブ画面3Cには、クローズボタン4A、右スクロールボタン4B1、左スクロールボタン4B2、複数のオプション機能バッジ4C、複数のマーカ4D、およびスライドゲージ4Eなどのオブジェクトが配置されている。
【0044】
クローズボタン4Aは、コピージョブ画面3Cを閉じて1つ前の画面を再び表示させるためのボタンである。
【0045】
オプション機能バッジ4Cは、オプション機能を表わすアイコンであり、画像形成装置1に備わっているオプション機能ごとに1つずつ用意されている。オプション機能バッジ4Cは、横一列に並んでおり、バッジ列4Lを形成している。しかし、すべてのオプション機能バッジ4Cを、同時に配置することができない。つまり、コピージョブ画面3Cには、
図7に示すように、一部のオプション機能バッジ4Cのみが現われ、残りのオプション機能バッジ4Cが現われない。
【0046】
ユーザは、バッジ列4Lをスクロールさせることによって、残りのオプション機能バッジ4Cを順次表示させることができる。以下、各オプション機能バッジ4Cを左から順に「オプション機能バッジ4Ca」、「オプション機能バッジ4Cb」、…、「オプション機能バッジ4Cz」と区別して記載することがある。
【0047】
右スクロールボタン4B1は、バッジ列4Lを右から左へスクロールさせるためのボタンである。左スクロールボタン4B2は、バッジ列4Lを左から右へスクロールさせるためのボタンである。
【0048】
マーカ4Dも、オプション機能バッジ4Cと同様、横一列に並んでいる。マーカ4の個数は機能バッジ4Cの個数と同じである。そして、左のマーカ4から順に機能バッジ4Ca、機能バッジ4Cb、…、機能バッジ4Czに対応している。ただし、すべてのマーカ4Dが、同時にコピージョブ画面3Cに現われている。以下、オプション機能バッジ4Ca、オプション機能バッジ4Cb、…、オプション機能バッジ4Czに対応するマーカ4Dをそれぞれ「マーカ4Da」、「マーカ4Db」、…、「マーカ4Dz」と区別して記載することがある。
【0049】
スライドゲージ4Eは、スライドバー4E1およびウィンドウ4E2によって構成される。スライドバー4E1は、ドラッグまたはフリックに応じて左または右に移動する。
【0050】
ウィンドウ4E2は、スライドバー4E1の真上に設けられている。さらに、コピージョブ画面3Cに現在配置されているオプション機能バッジ4Cに対応する個数のマーカ4Dを囲っている。
【0051】
ウィンドウ4E2は、スライドバー4E1に固定されている。したがって、ウィンドウ4E2は、スライドバー4E1が移動すると、一緒に移動する。ユーザは、ウィンドウ4E2に囲われるマーカ4Dを、スライドバー4E1を操作することによって変えることができる。ウィンドウ4E2に囲われているマーカ4Dが変わると、それに伴い、バッジ列4Lがスクロールし、コピージョブ画面3Cに配置されるオプション機能バッジ4Cが変わる。
【0052】
また、ユーザは、バッジ列4Lを直接ドラッグしまたはフリックすることによって、スクロールさせることもできる。
【0053】
右スクロールボタン4B1または左スクロールボタン4B2によってバッジ列4Lがスクロールした場合は、コピージョブ画面3Cにおけるオプション機能バッジ4Cの新たな配置に応じて、スライドゲージ4Eが移動する。
【0054】
ところで、液晶ディスプレイ10k2は、全体が1つの領域である画面を表示することもあれば、複数の領域に分割されている画面を表示することもある。以下、画面を構成する領域を「要素領域」と記載する。さらに、要素領域は、シンプル操作領域およびジェスチャ領域のいずれかに分類されている。
【0055】
「シンプル操作領域」は、ユーザのアクション(操作)として、タップのみを受け付ける領域である。一方、「ジェスチャ領域」は、ユーザのアクションとして、タップ、フリック、ドラッグ、およびダブルタップなど様々なジェスチャを受け付ける領域である。
【0056】
各画面の各画素がどの要素領域に属するのかは、および、各要素領域がシンプル操作領域およびジェスチャ領域のいずれに属するのかは、予め決められており、各画面の表示用のデータ(以下、「画面データ5W」と記載する。)に定義されている。
【0057】
図6のコピージョブ画面3Cは、第一の要素領域3C1、第二の要素領域3C2、および第三の要素領域3C3に分割されているが、第一の要素領域3C1はシンプル操作領域に設定され、第二の要素領域3C2および第三の要素領域3C3はジェスチャ領域に設定されている。
【0058】
図2および
図3に戻って、ROM10cまたは大容量記憶装置10dには、上述のコピーおよびネットワークプリントなどの機能を実現するためのプログラムが記憶されている。さらに、
図8に示すタッチイベント受付部101、操作領域判別部102、タッチ応答処理決定部103、ジェスチャ判別部104、ジェスチャ応答処理決定部105、ハードキー操作受付部106、ハードキー応答処理決定部107、画面等制御部108、操作ログデータ生成部121、操作ログデータ記憶部122、操作ログ読出部131、初期画面表示制御部132、および座標補正部133などの機能を実現するためのプログラムが記憶されている。
【0059】
これらのプログラムは、必要に応じてRAM10bにロードされ、メインCPU10aによって実行される。
【0060】
図8に示すタッチイベント受付部101ないし座標補正部133は、ユーザが操作パネルユニット10kに対して行った操作に基づいて、画面を表示したりジョブを実行したりするように各ハードウェアを制御する。さらに、操作のログを記録しておき、後に、このログに基づいて操作を再現することができる。
【0061】
以下、タッチイベント受付部101ないし座標補正部133の処理を、操作に基づく基本的な処理、操作を記録する処理、および記録に基づいて操作を再現する処理に大別して説明する。また、ユーザのリアルタイムの操作に応じて処理を行うモードを「通常モード」と記載し、記録に基づいて操作を再現し処理を行うモードを「再現モード」と記載する。
【0062】
〔操作に基づく基本的な処理〕
図9は、タッチパネル座標Pと表示面座標Qとの関係を説明するための図である。
図10は、基本的なタッチ操作の例を示す図である。
図11は、ファックス送信ジョブ画面3Fの例を示す図である。
【0063】
図8のタッチイベント受付部101ないし画面等制御部108は、通常モードにおいて、ハードキーパネル10k1またはタッチパネル10k3に対してユーザがリアルタイムに行う操作に応じて、次のように処理を行う。
【0064】
タッチパネル10k3は、タッチされたことを検知すると、タッチが終了するまで(つまり、指またはペンなどがタッチパネル10k3から離れるまで)、所定の時間Taごとに、タッチされているタッチパネルのタッチパネル座標Pを出力する。
【0065】
タッチイベント受付部101は、タッチパネル座標Pを受け付けるごとに、このタッチパネル座標Pを補正量データ5Uに基づいて補正することによって、液晶ディスプレイ10k2の表示面上の座標を算出する。以下、表示面上の座標を「表示面座標Q」または「表示面座標Q(Xq,Yq)と記載する。例えば、画像形成装置1Aの場合は、
図9(A)のタッチパネル座標P(Xp,Yp)を、
図9(B)のように(Xp−Ga,Yp−Gb)と補正することによって、表示面座標Qを算出する。
【0066】
さらに、タッチパネル座標Pを受け付けるごとに、および、タッチの検知が途切れた場合に、タッチイベント受付部101は、タッチパネル10k3に対して行われたイベント(以下、「タッチイベント」と記載する。)を次のように検知する。
【0067】
タッチイベント受付部101は、タッチパネル座標Pを今から所定の時間Ta前に受け付けていなかったが、新たにタッチパネル座標Pを受け付けた場合は、タッチイベントとして、
図10(A)のような「プレス」を検知する。
【0068】
プレスの後、所定の時間Taごとにタッチパネル座標Pを受け付けると、タッチイベント受付部101は、タッチイベントとして、
図10(B)のような「キープ」を検知する。なお、一般的に、キープを、タッチの位置が変わる「ムーヴ」、および、位置が変わらない「ステイ」の2つに区別することができる。「ムーヴ」および「ステイ」を区別して検知してもよいが、本実施形態では、両者を区別せず一律に「キープ」を検知する。
【0069】
所定の時間Taよりも長い時間、タッチパネル座標Pを受け付けなくなった場合、つまり、タッチの検知が途切れた場合は、タッチイベント受付部101は、タッチイベントとして、
図10(C)のような「リリース」を検知する。
【0070】
操作領域判別部102は、タッチイベント受付部101によってプレスが検知された場合に、このプレスの際の表示面座標Qが属する領域の種類を画面データ5Wに基づいて判別する。具体的には、カレント画面における表示面座標Qの画素が属する要素領域を判別する。そして、この要素領域に設定されている領域の種類(シンプル操作領域またはジェスチャ領域)を判別する。
【0071】
操作領域判別部102による判別の結果に応じて、タッチ応答処理決定部103、ジェスチャ判別部104、およびジェスチャ応答処理決定部105は、次の処理を行う。
【0072】
表示面座標Qの属する要素領域がシンプル操作領域であると判別された場合は、タッチ応答処理決定部103が、ユーザが行ったタッチイベントに対する応答として実行すべき処理を決定する。以下、この処理を「タッチ応答処理」と記載する。決定の方法は従来と同様であるが、ここで、決定の方法の一例を説明する。
【0073】
上述の通り、タッチパネル座標Pが入力されるごとに、タッチイベント受付部101は、タッチイベントとしてプレス、キープ、およびリリースのいずれかを検知するとともに、表示面座標Qを算出する。タッチ応答処理決定部103は、算出された表示面座標Qおよび検知されたタッチイベントに応じて処理を決定する。
【0074】
例えば、表示面座標Qにあるオブジェクトが
図6のコピージョブ画面3Cのクローズボタン4Aであり、かつ、タッチイベントがプレスである場合は、クローズボタン4Aの形態を変える(例えば、色をグレーに変更し、または窪んだ形状に変える)処理をタッチ応答処理に決定する。その後、クローズボタン4Aの中の任意の位置においてリリースがなされた場合は、クローズボタン4Aに予め対応付けられている処理、つまり、コピージョブ画面3Cを閉じて1つ前の画面を表示する処理をタッチ応答処理に決定する。
【0075】
または、表示面座標Qにあるオブジェクトが右スクロールボタン4B1であり、かつ、タッチイベントがプレスまたはキープである場合は、バッジ列4Lを右から左へスクロールする処理をタッチ応答処理に決定する。
【0076】
一方、表示面座標Qの属する要素領域がジェスチャ領域であると判別された場合は、ジェスチャ判別部104およびジェスチャ応答処理決定部105によって次の処理が行われる。
【0077】
ジェスチャ判別部104は、タッチイベント受付部101によって連続的に検知されたタッチイベントと各タッチイベントの表示面座標Qとに基づいて、これらの一連のタッチイベントが表わすジェスチャを判別する。判別の方法は従来と同様であるが、ここで、判別の方法の一例を説明する。
【0078】
例えば、同じ表示面座標Qにおいてプレス、キープ、およびリリースの組合せの操作が所定の時間Tb(例えば、0.5秒)以内に2回検知された場合は、ジェスチャ判別部104は、ジェスチャがダブルタップであると判別する。同じ表示面座標Qにおいてプレス、キープ、およびリリースの組合せの操作が1回検知されたが、次の所定の時間Tb以内に同じ表示面座標Qにおいてタッチイベントが検知されなかった場合は、ジェスチャ判別部104は、ジェスチャがタップであると判別する。
【0079】
なお、操作が速い場合は、キープが検知されないことがある。そこで、プレス、キープ、およびリリースの組合せの操作の代わりにプレスおよびリリースの組合せの操作が検知された場合も、同様に判別する。キープの連続する回数が所定の回数を超える場合は、タップではなくロングタップであると判別してもよい。また、2つの表示面座標Q同士の距離が所定の範囲内であれば、これらの表示面座標Qを同じものとみなしてもよい。
【0080】
または、プレスが検知された後、一定の方向に表示面座標Qが所定の速さSa以上の速さで移動しながらキープが検知され、リリースが検知された場合は、ジェスチャ判別部104は、ジェスチャをフリックであると判別する。この際に、条件値5Cとして、表示面座標Qの移動の速さおよび方向も、算出する。
【0081】
または、プレスが検知された後、表示面座標Qが所定の速さSa未満の速さで変化しながらキープが検知された場合は、ジェスチャ判別部104は、ジェスチャをドラッグであると判別する。この際に、条件値5Cとして、表示面座標Qの軌跡(時刻ごとの座標)も取得しておく。また、リリースの前にドラッグに関係のない操作が行われた場合は、ドラッグがキャンセルされたものとして取り扱ってもよい。例えば、リリースの前に表示面座標Qの軌跡から外れた位置でタッチがなされた場合に、ドラッグがキャンセルされたものとして取り扱ってもよい。
【0082】
ジェスチャ応答処理決定部105は、ユーザが行ったジェスチャに対する応答として実行すべき処理を決定する。以下、この処理を「ジェスチャ応答処理」と記載する。決定の方法は従来と同様であるが、ここで、決定の方法の一例を説明する。
【0083】
例えば、
図6のコピージョブ画面3Cの任意のオプション機能バッジ4Cに対してフリックが行われた場合は、ジェスチャ応答処理決定部105は、条件値5C(表示面座標Qの移動の速さおよび方向)に応じてバッジ列4Lをスクロールする処理をタッチ応答処理に決定する。
【0084】
または、オプション機能バッジ4Csに対してダブルタップが行われた場合は、ジェスチャ応答処理決定部105は、オプション機能バッジ4Csの形態をオンを表わす形態に変更するとともにウォータマークの適用の有無の設定値をオンに更新する処理をタッチ応答処理に決定する。
【0085】
ハードキーパネル10k1は、キー(ハードキー)が押されるごとに、そのキーを示す押下キー信号5DをメインCPU10aへ出力する。すると、ハードキー操作受付部106およびハードキー応答処理決定部107によって次の処理が行われる。
【0086】
ハードキー操作受付部106は、押下キー信号5Dを受け付ける。ハードキー応答処理決定部107は、カレント画面および押下キー信号5Dに基づいて、ユーザがハードキーパネル10k1に対して行った操作に対する応答として実行すべき処理を決定する。以下、この処理を「ハードキー応答処理」と記載する。決定の方法は従来と同様であるが、ここで、決定の方法の一例を説明する。
【0087】
例えば、任意の画面が表示されているときにファンクションキー1kf1(
図4参照)が押された場合は、
図11(A)のようなファックス送信ジョブ画面3Fを表示する処理をハードキー応答処理に決定する。
【0088】
または、ファックス送信ジョブ画面3Fがカレント画面であるときにテンキー1ktによってファックス番号が入力された場合は、そのファックス番号を送信先として受け付けるとともに
図11(B)のようにファックス送信ジョブ画面3Fに反映させる処理をハードキー応答処理に決定する。
【0089】
画面等制御部108は、タッチ応答処理決定部103がタッチ応答処理を決定し、ジェスチャ応答処理決定部105がジェスチャ応答処理を決定し、またはハードキー応答処理決定部107がハードキー応答処理を決定するごとに、決定されたタッチ応答処理、ジェスチャ応答処理、またはハードキー応答処理が実行されるように、各ハードウェアを制御する。以下、タッチ応答処理、ジェスチャ応答処理、およびハードキー応答処理を「応答処理」と総称する。
【0090】
応答処理は、従来通り、API(Application Program Interface)を介して行うことができる。
【0091】
〔操作を記録する処理〕
図12は、操作ログデータ5Fの例を示す図である。
【0092】
ユーザが記録の開始のコマンド(以下、「開始コマンド」と記載する。)を入力すると、
図8の操作ログデータ生成部121および操作ログデータ記憶部122は、操作パネルユニット10kに対する操作のログを記録する処理を次のように行う。
【0093】
ユーザは、後に再現させたい一連の操作のうち最初の操作を行う際の画面を液晶ディスプレイ10k2に表示させておく。そして、開始コマンドを入力し、一連の操作を開始する。
【0094】
タッチイベント受付部101ないし画面等制御部108は、通常モードの場合と同様、上述の方法によって、一連の操作に応じて処理を行う。特に、タッチイベント受付部101は、タッチパネル10k3によってタッチパネル座標Pが検知されるごとに、表示面座標Qを算出する。さらに、タッチパネル座標Pが検知されるごとに、および、タッチパネル座標Pの検知が途切れた場合に、タッチイベントを判別する。また、ハードキー操作受付部106は、ハードキーパネル10k1から押下キー信号5Dを受け付ける。
【0095】
操作ログデータ生成部121は、
図12のような操作ログデータ5Fを生成し、操作ログデータ記憶部122に記憶させる。
【0096】
操作ログデータ5Fには、開始コマンドが入力されてから記録の終了のコマンド(以下、「終了コマンド」と記載する。)が入力されるまでの間に、タッチイベント受付部101によって検知されたタッチイベントおよび算出された表示面座標Qと、ハードキー操作受付部106によって受け付けられた押下キー信号5Dとが、示される。さらに、各タッチイベントおよび押下キー信号5Dが検知されまたは受け付けられるまでの、直前の(1つ前の)タッチイベントまたは押下キー信号5Dが検知されまたは受け付けられてからの経過時間Trが示される。ただし、1番目のタッチイベントまたは押下キー信号5Dの経過時間Trとして、開始コマンドが入力されてから経過した時間が示される。
【0097】
そして、終了コマンドが入力されると、操作ログデータ生成部121は、操作ログデータ5Fを生成する処理を終了する。操作ログデータ5Fには、開始コマンドが入力された際に液晶ディスプレイ10k2に表示されていた画面の識別子(以下、「開始時画面識別子」と記載する。)が付される。
【0098】
〔操作を再現する処理〕
図13は、画像形成装置1の機能的構成の例および操作の再現の際のデータの流れの例を示す図である。
図14は、タッチパネル座標P、表示面座標Q、およびタッチパネル座標PBの位置関係の例を示す図である。
図15は、ハードキーパネル下方画面3HK1およびハードキーパネル右方画面3HK2の例を示す図である。
【0099】
操作ログ読出部131、初期画面表示制御部132、および座標補正部133は、ユーザが過去に行った一連の操作を再現する処理を操作領域判別部102ないし画面等制御部108と連携して実行する。他の画像形成装置1で行ったものであっても、再現することができる。
【0100】
以下、画像形成装置1Aでユーザが行った一連の操作を画像形成装置1Bで再現する場合を例に、
図13を参照しながら各部の処理を説明する。
【0101】
画像形成装置1Aの操作ログデータ記憶部122に記載された操作ログデータ5Fを予め、通信回線NWまたは可搬型の記録媒体を介して、画像形成装置1Bの操作ログデータ記憶部122にコピーしておく。
【0102】
画像形成装置1Bにおいて、操作ログ読出部131は、ユーザによって操作の再現のコマンド(以下、「再現コマンド」と記載する。)が入力されると、画像形成装置1Bを通常モードから再現モードに切り替え、操作ログデータ記憶部122から操作ログデータ5Fを読み出す。そして、操作ログデータ5Fに付されている開始時画面識別子を初期画面表示制御部132に与える。
【0103】
すると、初期画面表示制御部132は、この開始時画面識別子の画面が表示されるように液晶ディスプレイ10k2を制御する。
【0104】
座標補正部133は、操作ログデータ5Fの各レコードに示される表示面座標Qを、画像形成装置1Bの位置対応データ5Uに基づいて、画像形成装置1Bにおけるタッチパネル10k3に対応する座標(以下、「タッチパネル座標PB」または「タッチパネル座標PB(Xpb,Ypbと記載する。)に変換する。つまり、次の(1)式によってタッチパネル座標PBを算出する。
【0105】
タッチパネル座標PB(Xpb,Ypb)
=表示面座標Q(Xq,Yq)+(Gc,Gd) …… (1)
タッチパネル座標PBを、画像形成装置1Aにおけるタッチパネル座標Pを用いて表わすと、
図14の通り(Xp−Ga+Gc,Yp−Gb+Gd)、となる。
【0106】
そして、座標補正部133は、タッチパネル10k3によって検知されたタッチパネル座標Pの代わりにタッチパネル座標PBを、タッチイベント受付部101に対して与える。タッチパネル座標PBを与えるタイミングは、各レコードの経過時間Trに従う。すなわち、1番目のレコードから算出されたタッチパネル座標PBは、再現コマンドが入力されてから、このレコードに示される経過時間Trが経ったタイミングで、与えられる。N番目(N≧2)のレコードから算出されたタッチパネル座標PBは、(N−1)番目のレコードから算出されたタッチパネル座標PBが与えられてからN番目のレコードに示される経過時間Trが経ったタイミングで、与えられる。
【0107】
タッチパネル座標PBが座標補正部133からタッチイベント受付部101へ与えられると、タッチイベント受付部101、操作領域判別部102、タッチ応答処理決定部103、ジェスチャ判別部104、ジェスチャ応答処理決定部105、および画面等制御部108は、タッチパネル座標PBをタッチパネル座標Pの代わりに用いて、通常モードと同様に処理を行う。
【0108】
また、レコードに押下キー信号5Dが示される場合は、座標補正部133を介すことなく、押下キー信号5Dがハードキー操作受付部106に与えられる。
【0109】
すると、ハードキー操作受付部106およびハードキー応答処理決定部107は、この押下キー信号5Dに基づいて、通常モードと同様に処理を行う。
【0110】
このように操作ログデータ5Fに基づいて操作を再現すると、画面が遷移する。ユーザは、これを見ることによって、どのような操作が行われたのかを推定することができる。
【0111】
ユーザがさらに容易に推定できるようにするために、画面等制御部108は、画面に表示面座標Qを表わすマークを重ねて表示させてもよい。例えば、フリックの際の全部または一部の表示面座標Qを表わすマークを軌跡として表示させてもよい。これにより、ユーザは、フリックの強さを容易に推定することができる。
【0112】
また、ジェスチャ判別部104によって判別されたジェスチャに応じて表示面座標Qを表わすマークの形態を変えてもよい。例えば、フリックの場合は、画面等制御部108は、表示面座標Qを表わすマークとして太線の真円を表示させる。ドラッグの場合は、点線の三角形を表示させる。
【0113】
ハードキーパネル10k1に対する操作を再現しても、どのキーが押されたのかをユーザが推定することができない場合がある。そこで、画面等制御部108は、ハードキーパネル10k1の画像を画面の上に重ねて表示させ、押されたキーの上にマークを表示させてもよい。ハードキーパネル10k1の全部分の画像を表示するのではなく、一部分の画像を表示してもよい。また、常時表示しておくのではなく、ハードキーパネル10k1に対する操作があった際に表示し、その後、閉じてもよい。
【0114】
例えば、ファンクションキー1kf1がタッチされた時点を含む所定の期間において、画面等制御部108は、
図15(A)のように、ハードキーパネル10k1の下方を表わすハードキーパネル下方画面3HK1を表示させる。そして、ファンクションキー1kf1の画像の上に、所定のマーク(例えば、星形のマーク)を表示させる。同様に、ファンクションキー1kf4が操作ログデータ5Fに示される場合は、
図15(B)のようなハードキーパネル右方画面3HK2を表示させる。そして、ファンクションキー1kf4の画像の上に、所定のマークを表示させる。
【0115】
図16は、画像形成装置1の全体的な処理の流れの例を説明するフローチャートである。
図17は、記録処理の流れの例を説明するフローチャートである。
図18および
図19は、再生処理の流れの例を説明するフローチャートである。
【0116】
次に、画像形成装置1における表示に関する全体的な処理の流れを、
図16〜
図19などのフローチャートを参照しながら説明する。
【0117】
画像形成装置1は、電源がオンである間、操作パネルユニット10kに対するユーザの操作に応じて、
図16に示すように処理を実行する。
【0118】
すなわち、画像形成装置1は、開始コマンドが入力されると(#11でYes)、操作のログを記録する処理を、
図17に示す手順で実行する(#12)。
【0119】
図17において、画像形成装置1は、空の操作ログデータ5Fを生成し、カレント画面の開始時画面識別子を対応付ける(#701)。
【0120】
画像形成装置1は、タッチパネル10k3によってタッチパネル座標Pを検知した場合は(#702でYes)、タッチパネル座標Pを補正することによって表示面座標Qを算出するとともにタッチイベントを判別し(#703)、これらの情報を経過時間Trとともに1つのレコードとして操作ログデータ5Fに追記する(#704)。さらに、表示面座標Qが属する領域の種類(シンプル操作領域またはジェスチャ領域)を判別する(#705)。
【0121】
この領域の種類がジェスチャ領域であれば(#706でYes)、画像形成装置1は、ユーザが行ったジェスチャの判別を試みる(#707)。ただし、ジェスチャは複数のタッチの組合せによって表現されるので、未だジェスチャを判別できないことがある。画像形成装置1は、ジェスチャを判別できたら(#708でYes)、このジェスチャに応じて実行すべき処理の決定を試みる(#709)。そして、処理を決定できたら(#710でYes)、この処理を実行する(#711)。
【0122】
一方、この領域の種類がシンプル操作領域であれば(#706でNo)、画像形成装置1は、今回のタッチイベントに応じて実行すべき処理の決定を試みる(#712)。そして、処理を決定できたら(#713でYes)、この処理を実行する(#714)。
【0123】
または、画像形成装置1は、押下キー信号5Dをハードキーパネル10k1によって受け付けた場合は(#702でNo、#715でYes)、この押下キー信号5Dに開始終了コマンドキー1kf2が示されていなければ(#716でNo)、押下キー信号5Dおよび経過時間Trを1つのレコードとして操作ログデータ5Fに追記する(#717)。このキーの押下に応じて実行すべき処理の決定を試みる(#718)。そして、処理を決定できたら(#719でYes)、この処理を実行する(#720)。
【0124】
開始終了コマンドキー1kf2が押されるまで、画像形成装置1は、適宜、ステップ#702〜#720の処理を実行する。
【0125】
そして、画像形成装置1は、開始終了コマンドキー1kf2を示す押下キー信号5Dを受け付けたら(#716でYes)、操作のログを記録する処理を終了する。
【0126】
図16に戻って、画像形成装置1は、再現コマンドが入力されると(#13でYes)、操作ログデータ5Fに基づいて、ユーザの操作を再現する処理を、
図18および
図19に示す手順で実行する(#14)。
【0127】
画像形成装置1は、操作ログデータ5Fを読み出し、操作ログデータ5Fに対応付けられている開始時画面識別子の画面を表示させる(
図18の#731)。なお、操作ログデータ5Fは、画像形成装置1自身が生成したものであってもよいし、他の画像形成装置1から取得したものであってもよい。
【0128】
画像形成装置1は、操作ログデータ5Fの上から1番目のレコードに注目する(#732、#733)。
【0129】
注目したレコードに押下キー信号5Dが示される場合は(#734でYes)、画像形成装置1は、
図15に例示したように、ハードキーパネル10k1の画像をカレント画面に重ねて表示するとともに、この押下キー信号5Dに示されるキーにマークを表示する(#735)。そして、このキーの押下に応じて実行すべき処理の決定を試みる(#736)。処理を決定できたら(#737でYes)、この処理を実行する(#738)。
【0130】
一方、注目したレコードに表示面座標Q、タッチイベント、および経過時間Trが示される場合は(#734でNo)、画像形成装置1は、表示面座標Qを位置対応データ5Uによって補正することによって、自らのタッチパネル10k3におけるタッチパネル座標Pを算出する(#739)。そして、このタッチパネル座標Pに基づいて、通常モードの場合と同様に処理を行う。
【0131】
すなわち、画像形成装置1は、算出したタッチパネル座標Pを表示面座標Qに変換し(#740)、表示面座標Qが属する領域の種類を判別する(#741)。
【0132】
この領域の種類がジェスチャ領域であれば(#742でYes)、画像形成装置1は、ジェスチャの判別を試みる(#743)。ジェスチャを判別できたら(#744でYes)、このジェスチャに応じて実行すべき処理の決定を試みる(#745)。処理を決定できたら(#746でYes)、この処理を、実行する(#747)。
【0133】
この領域の種類がシンプル操作領域であれば(#742でNo)、画像形成装置1は、このタッチイベントに応じて実行すべき処理の決定を試みる(#748)。処理を決定できたら(#749でYes)、この処理を実行する(#750)。
【0134】
未だ注目していないレコードが操作ログデータ5Fに残っている場合は(#751でYes)、画像形成装置1は、ステップ#733に戻って、これらのレコードのうちの一番上のレコードに注目し、ステップ#734〜#750の処理を適宜、実行する。
【0135】
図16に戻って、操作の記録および再現以外に関するコマンドなどが入力された場合は(#13でNo)、画像形成装置1は、従来通り、このコマンドなどに基づいて処理を実行する(#15)。
次に、操作ログデータ5Fを画像形成装置1Aで生成し画像形成装置1Bで使用する場合の操作、処理、および画面の遷移を、複写物の綴じ代を「左綴じ」に設定する場合を例に説明する。
【0136】
〔生成時〕
図20〜
図22は、操作ログデータの生成時における画面の遷移およびユーザの操作の例を示す図である。
【0137】
操作用のマニュアルの作成者は、
図20(A)のホーム画面3Tが表示されているときに、画像形成装置1Aの開始終了コマンドキー1kf2(
図4参照)を押すことによって、開始コマンドを入力する。なお、ホーム画面3Tは、全体がシンプル操作領域である。
【0138】
すると、画像形成装置1Aは、ハードキーパネル10k1またはタッチパネル10k3に対する操作の記録を開始する。なお、記録の手順は、前に
図17で説明した通りである。本例においては、画像形成装置1Aは、まず、空の操作ログデータ5Fを用意し、その後、これに操作の内容を順次書き込む。
【0139】
作成者は、ホーム画面3Tの中からコピーボタン4TJ1をタップする。すると、画像形成装置1Aは、作成者がコピーボタン4TJ1をタップ(タッチ)している間の各時刻におけるレコードを操作ログデータ5Fに追記する。さらに、ホーム画面3Tに代えて
図20(B)のようなコピージョブ画面3Cを表示する。
【0140】
作成者は、バッジ列4Lを左から右へフリックする。画像形成装置1Aは、作成者がフリックしている間の各時刻におけるレコードを操作ログデータ5Fに追記する。さらに、バッジ列4Lをスクロールさせる。これにより、バッジ列4Lが
図20(C)のように遷移する。
【0141】
作成者は、オプション機能バッジ4Caをダブルタップする。すると、画像形成装置1Aは、このダブルタップのレコードとしてレコード5Fcを操作ログデータ5Fに追記する。さらに、
図21(A)のようにコピージョブ画面3Cの上にダイアログボックス3DB1を表示する。
【0142】
ダイアログボックス3DB1を見やすくするために、作成者は、ダイアログボックス3DB1の任意の位置でピンチする。すると、画像形成装置1Aは、作成者がピンチしている間の各時刻におけるレコードを操作ログデータ5Fに追記する。さらに、
図21(B)のように、ダイアログボックス3DB1を拡大する。なお、ダイアログボックス3DB1は、全体がジェスチャ領域である。
【0143】
作成者は、プルダウンボタン4PBをタップする。すると、画像形成装置1は、作成者がタップしている間の各時刻におけるレコードを操作ログデータ5Fに追記する。さらに、
図21(C)のようにダイアログボックス3DB1の上にプルダウンメニュー3PM1を表示する。
【0144】
作成者は、プルダウンメニュー3PM1の中から「左綴じ」に対応する選択肢4ST1をタップする。すると、画像形成装置1は、作成者がタップしている間の各時刻におけるレコードを操作ログデータ5Fに追記する。さらに、
図22(A)のように、選択肢4ST1を、選択されたことを表わす形態(本例では、文字の色と背景の色とを反転させた形態)に変更する。そして、タップが終わった後、所定の時間(例えば、0.5秒)が経過したら、
図22(B)のようにプルダウンメニュー3PM1を閉じるとともに、複写物の綴じ代を「左綴じ」に設定する。
【0145】
作成者は、ハードキーパネル10k1のファンクションキー1kf4を押す。なお、ファンクションキー1kf4は、ホーム画面3Tに戻るためのキーである。すると、画像形成装置1は、このキーの押下のレコードを操作ログデータ5Fに追記する。さらに、コピージョブ画面3Cを閉じ、
図22(C)のように再びホーム画面3Tを表示する。
【0146】
そして、作成者は、開始終了コマンドキー1kf2を押すことによって終了コマンドを入力する。すると、画像形成装置1は、記録の処理を終了する。また、画像形成装置1は、操作ログデータ5Fに、開始コマンドの入力時のカレント画面つまりホーム画面3Tの識別子を開始時画面識別子として対応付けておく。
【0147】
以上説明した操作および処理によって、記録すなわち操作ログデータ5Fの生成が完了する。
【0148】
そして、作成者は、操作ログデータ5Fを可搬型の記録媒体にコピーし、サービスエンジニアに渡す。
【0149】
〔再現時〕
図23〜
図26は、操作の再現時における画面の遷移の例を示す図である。
【0150】
サービスエンジニアは、画像形成装置1Bに可搬型の記録媒体をセットし、操作ログデータ5Fを操作ログデータ記憶部122にコピーする。そして、再現コマンドを入力する。すると、画像形成装置1Bは、操作ログデータ5Fの各レコードに基づいて次の通り処理を行う。
【0151】
画像形成装置1Bは、操作ログデータ5Fに対応付けられている開始時画面識別子に従って、
図23(A)のようなホーム画面3Tを表示する。
図23(B)のようにタップを表わすマーク4MAをコピーボタン4TJ1の上に表示し、
図23(C)のようにホーム画面3Tに代えてコピージョブ画面3Cを表示する。
【0152】
画像形成装置1Bは、
図24(A)のように、フリックされた位置に対応するマーク4MB1〜4MB6を表示しながら、バッジ列4Lをスクロールする。
【0153】
図24(B)のようにスクロールが終わったら、画像形成装置1Bは、
図24(C)のように、ダブルタップに対応するマーク4MCをオプション機能バッジ4Caの上に表示し、コピージョブ画面3Cの上にダイアログボックス3DB1を表示する。
【0154】
画像形成装置1Bは、
図25(A)のようにピンチの開始位置および方向に対応するマーク4MD1を表示し、ダイアログボックス3DB1を拡大し始める。
【0155】
図25(B)のようにダイアログボックス3DB1の拡大が終わったら、画像形成装置1Bは、タップを表わすマーク4MEをプルダウンボタン4PBの上に表示し、
図25(C)のようにプルダウンメニュー3PM1を表示する。
【0156】
画像形成装置1Bは、タップに対応するマーク4MFを選択肢4ST1の上に表示する。そして、選択肢4ST1の形態を
図26(A)のように変更した後、
図26(B)のように、プルダウンメニュー3PM1を閉じる。
【0157】
画像形成装置1Bは、
図26(C)のように、コピージョブ画面3Cの上にハードキーパネル右方画面3HK2を表示し、押下を示すマーク4MGをファンクションキー1kf4の画像の上に表示する。そして、ハードキーパネル右方画面3HK2を閉じ、コピージョブ画面3Cに代えてホーム画面3T(
図23(A)参照)を再び表示する。
本実施形態によると、ディスプレイの表示面とタッチパネルとの重なり具合がタッチパネルディスプレイごとに異なる場合であっても、従来よりも正確にユーザによる操作を再現することができる。
図27は、タッチパネル座標P、表示面座標Q、およびタッチパネル座標PCの位置関係の例を示す図である。
図28は、表示面座標Qとオブジェクトとの位置関係の例を示す図である。
【0158】
本実施形態では、画像形成装置1Aの液晶ディスプレイ10k2の解像度およびタッチパネル10k3の読取分解能は、それぞれ、画像形成装置1Bの液晶ディスプレイ10k2の解像度およびタッチパネル10k3の読取分解能と同一に設定されていたが、異なるように設定されている画像形成装置1もある。
【0159】
例えば、画像形成装置1Aの液晶ディスプレイ10k2の解像度およびタッチパネル10k3の読取分解能が800×480dpiであり、画像形成装置1Cの液晶ディスプレイ10k2の解像度およびタッチパネル10k3の読取分解能が600×360dpiである場合が、ある。このような場合は、画像形成装置1A、1Cは、次のように処理を行えばよい。
【0160】
画像形成装置1Aは、操作ログデータ5Fとともに、画像形成装置1A自身の解像度および読取分解能を示す解像度データを出力する。
【0161】
画像形成装置1Cは、画像形成装置1AからUSBメモリまたは通信回線NWを介して操作ログデータ5Fおよび解像度データを取得すると、ステップ#739において座標補正部133によって、(1)式の代わりに次の(2)式によってタッチパネル座標PCを算出する。
【0162】
タッチパネル座標PC(Xpc,Ypc)
=表示面座標Q(Rx・Xq,Ry・Yq)+(Ge,Gf) …… (2)
ただし、Rx=Kxc/Kxa、Ry=Kyc/Kya、である。KxaおよびKyaは、それぞれ、画像形成装置1Aの横および縦の解像度(または読取分解能)であって、本例では、「800」および「600」である。KxcおよびKycは、それぞれ、画像形成装置1Bの横および縦の解像度(または読取分解能)であって、本例では、「480」および「360」である。
【0163】
これにより、タッチパネル座標PCを、画像形成装置1Aにおけるタッチパネル座標Pを用いて表わすと、
図27の通り(Rx(Xp−Ga)+Gc,Ry(Yp−Gb)+Gd)=(0.6(Xp−Ga)+Ge,0.6(Yp−Gb)+Gf)、となる。そして、画像形成装置1Cは、ステップ#740以降の処理を実行する。
【0164】
座標補正部133による表示面座標Qからタッチパネル座標Pへの変換に誤差が生じることがある。このようなタッチパネル座標Pに基づいて処理を行うと、ユーザ(例えば、マニュアルの作成者)の操作を上手く再現できないおそれがある。特に、通常モードにおいてユーザが画面中のオブジェクトの端部を操作した場合に、このような現象が生じるおそれがある。
【0165】
そこで、画像形成装置1の各部は、再現モードにおいて次のように処理を行ってもよい。
【0166】
図28(A)のようにタッチパネル座標Pに対応する表示面座標Qがいずれのオブジェクト(例えば、ボタン)にも属しないがこの表示面座標Qから所定の範囲内にオブジェクトの少なくとも一部分がある場合は、操作領域判別部102は、このオブジェクトの任意の位置がプレスされたものとして、領域の種類を判別すればよい。
【0167】
そして、シンプル操作領域である場合は、タッチ応答処理決定部103は、このオブジェクトがタップされたものとして、タッチ応答処理を決定すればよい。
【0168】
または、ジェスチャ領域である場合は、ジェスチャ応答処理決定部105は、このオブジェクトに対してジェスチャが行われたものとして、ジェスチャ応答処理を決定すればよい。
【0169】
図28(B)のように所定の範囲内にオブジェクトが複数ある場合は、操作領域判別部102は、表示面座標Qから最も近いオブジェクトがプレスされたものとして、領域の種類を判別すればよい。同様に、タッチ応答処理決定部103は、最も近いオブジェクトがタップされたものとして、タッチ応答処理を決定すればよい。ジェスチャ応答処理決定部105は、最も近いオブジェクトに対してジェスチャが行われたものとして、ジェスチャ応答処理を決定すればよい。
【0170】
図28(C)のように所定の範囲内にオブジェクトが1つもない場合も、操作領域判別部102は、表示面座標Qから最も近いオブジェクトがプレスされたものとして、領域の種類を判別すればよい。タッチ応答処理決定部103およびジェスチャ応答処理決定部105も同様に、タッチ応答処理またはジェスチャ応答処理を決定すればよい。
【0171】
本実施形態では、操作を再現する側の画像形成装置1Bが、自らの位置対応データ5Uに基づいて表示面座標Qを補正しタッチパネル座標Pを算出したが、操作を記録する側の画像形成装置1Aが、画像形成装置1Bの位置対応データ5Uに基づいてタッチパネル座標Pを算出してもよい。または、画像形成装置1Bは、1つのレコードを読み出すごとに表示面座標Qを補正しタッチパネル座標Pを算出したが、再現のコマンドが入力される前に予め纏めて算出しておいてもよい。
【0172】
記録する側または再現する側の画像形成装置1が、端末装置2A〜2Cのいずれかによってリモートコントロールされる場合は、その端末装置2A〜2Cのタッチパネルディスプレイの仕様または設定値に応じて、上述の処理を行えばよい。
【0173】
本実施形態では、タッチパネル10k3として、指またはペンなどが直接触れたことを検知する方式のタッチパネルを用いたが、非接触式のタッチパネルを用いる場合にも、本発明を適用することができる。液晶ディスプレイ10k2の代わりに、プラズマディスプレイなど他の方式のディスプレイを用いることもできる。
【0174】
複数の画像形成装置1が異なる機種であっても操作ログデータ5Fを共用できるように、操作ログデータ5FのフォーマットとしてCSV(Comma Separated Value)などの一般的なフォーマットを用いるのが望ましい。
【0175】
本実施形態で例示した種類以外のジェスチャ(例えば、ローテーション、4本の指によるスワイプなど)が用いられる場合にも、本発明を適用することができる。
【0176】
その他、画像形成装置1の全体または各部の構成、処理内容、処理順序、データの構成、画面の構成などは、本発明の趣旨に沿って適宜変更することができる。