【解決手段】タッチスクリーン200、300には、起動アイコン203、205、303を含む複数の起動アイコンが表示されている。起動アイコン203に左方向のフリック操作をするとタッチスクリーン200にメーラー画像351が表示され、右方向にフリック操作をするとタッチスクリーン300にメーラー画像351が表示される。タッチスクリーン200にメーラー画像が表示されているときにタッチスクリーン300にフリック操作をして起動アイコン205を表示させてから起動アイコンに右方向のフリック操作をするとタッチスクリーン300にブラウザ画像を表示することができる。
前記第2のディスプレイに対して相対的に前記第1のディスプレイの方向のジェスチャ操作を検出したときに前記アプリケーション画像を前記第1のディスプレイに表示するステップと、
前記第1のディスプレイに対して相対的に前記第2のディスプレイの方向のジェスチャ操作を検出したときに前記アプリケーション画像を前記第2のディスプレイに表示するステップと
を有する請求項2または請求項3に記載のコンピュータ・プログラム。
所定の方向のジェスチャ操作を検出したときに前記第1のディスプレイにすでに表示しているアプリケーション画像を前記第2のディスプレイに表示してから前記第1のディスプレイに前記アプリケーション画像を表示するステップを有する請求項2または請求項3に記載のコンピュータ・プログラム。
所定の方向のジェスチャ操作を検出したときに前記第1のディスプレイおよび前記第2のディスプレイを一画面とするアプリケーション画像を前記第1のディスプレイおよび前記第2のディスプレイに表示するステップを有する請求項2または請求項3に記載のコンピュータ・プログラム。
所定の方向のジェスチャ操作を検出したときに前記起動アイコンを関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示するステップを有する請求項2または請求項3に記載のコンピュータ・プログラム。
所定の方向のジェスチャ操作を検出したときに、前記アプリケーション画像を前記電子機器に接続された外部モニターに表示するステップを有する請求項2または請求項3に記載のコンピュータ・プログラム。
所定の方向のジェスチャ操作を検出したときに、前記起動アイコンを関連付けたアプリケーション・プログラムを削除するステップを有する請求項2または請求項3に記載のコンピュータ・プログラム。
前記暗示する情報が、前記アプリケーション画像を表示するディスプレイに関する情報、前記アプリケーション画像を関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示する情報、前記アプリケーション画像を外部モニターに表示する情報、および前記アプリケーション画像を削除する情報からなるグループのいずれかの要素を含む請求項11に記載のコンピュータ・プログラム。
前記暗示する情報が、前記アプリケーション画像を関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示するディスプレイの位置を暗示する情報を含む請求項14に記載のコンピュータ・プログラム。
前記電子機器が、それぞれ前記第1のディスプレイと前記第2のディスプレイを搭載する2つの筐体がヒンジ機構で結合された折り畳み式のスマートフォンまたはタブレット・コンピュータである請求項20に記載の電子機器。
【発明の概要】
【発明が解決しようとする課題】
【0006】
図11は、折り畳み式のスマートフォンの平面図である。スマートフォン800は、筐体801a、801bがヒンジ機構805a、805bで結合され開閉ができるようになっている。筐体801a、801bはそれぞれタッチスクリーン803a、803bを搭載する。タッチスクリーン803a、803bの利用形態の一例においては、タッチスクリーン803aを主画面として位置付け、タッチスクリーン803bを補助画面と位置付ける。
【0007】
タッチスクリーン803aには、主としてユーザがインストールしたアプリケーション・プログラム(アプリケーション)の複数の起動アイコン807を表示している。システムはタッチスクリーン803aの表示領域を越える数の起動アイコンを、タッチスクリーン803aの拡張領域に設定した仮想的な表示領域に表示するように画像データを保持する。表示領域から隠れた起動アイコンはタッチスクリーン803aに対するスワイプ操作で表示領域まで移動させることができる。タッチスクリーン803bには、Webブラウザ、メーラー、写真表示、または音楽再生などのあらかじめ定めたアプリケーションの起動アイコン809だけを表示する。
【0008】
そして起動アイコン807にタッチ操作をしたときのアプリケーション画像はタッチスクリーン803aに表示され、起動アイコン809にタッチ操作をしたときのアプリケーション画像はタッチスクリーン803bに表示される。一旦表示したアプリケーション画像は、一方のタッチスクリーンから他方のタッチスクリーンに移動することができない。
図11には、Webブラウザの起動アイコン809a、とメーラーの起動アイコン809bを例示している。
【0009】
ここで起きる問題は、たとえば、起動アイコン809aにタッチ操作をしてタッチスクリーン803bにWebブラウザの画像を表示しているときにメールを送りたい場合には、一旦ホーム画面に戻ったりWebブラウザを閉じたりしてからメーラーの起動アイコン809bにタッチ操作をしてメーラーの画像をタッチスクリーン803bに表示する必要がある。その後再びWebブラウザに戻るためにはメーラーの画像を閉じてからWebブラウザの起動アイコン809aに対するタッチ操作が必要になり操作が煩雑になる。
【0010】
このとき、タッチスクリーン803aにユーザにとって有用なアプリケーション画像が表示されていない場合でも、Webブラウザの画像をタッチスクリーン803bに残しながら、タッチスクリーン803aにメーラーの画像を表示することができない。同じことはタッチスクリーン803aが表示する2個の起動アイコンの間にも発生する。特許文献1の方法では、特別なペアアイコンを作成することで同時に2つの画面に表示することができるが、ペアアイコンの作成に手間がかかる。また、ペアアイコンの配置とアプリケーションを表示する画面はあらかじめ関連付けられており、ペアアイコンを作成したあとでは、それに反する位置にそのときの作業の状況に応じてユーザが都合のよい画面にアプリケーション画像を表示することができない。
【0011】
そこで本発明の目的は、タッチ操作が可能なディスプレイを含む複数のディスプレイにアプリケーション画像を効果的に表示する方法を提供することにある。さらに本発明の目的は、起動アイコンに対する直感的なタッチ操作を実現する方法を提供することにある。さらに本発明の目的は、起動アイコンに対する操作メニューを拡大する方法を提供することにある。さらに本発明の目的は、タッチ操作の可能なディスプレイを含む電子機器を使ったユーザの作業性を向上する方法を提供することにある。さらに本発明の目的は、そのような方法を実現する電子機器、およびコンピュータ・プログラムを提供することにある。
【課題を解決するための手段】
【0012】
本発明は、複数のディスプレイを備える電子機器に適用する。第1のディスプレイはタッチ操作が可能であるが、第2のディスプレイはタッチ操作が可能でも不可能でもよい。第1の態様では、最初に起動アイコンを第1のディスプレイに表示する。つづいて、起動アイコンに対するタッチ操作の種類を識別する。つづいて、識別したタッチ操作の種類に応じて起動アイコンを関連付けたアプリケーション画像を第1のディスプレイおよび第2のディスプレイまたはいずれか一方のディスプレイに表示する。
【0013】
このような構成によれば、ユーザはタッチ操作を選択することで、アプリケーションを起動して意図するディスプレイにアプリケーション画像を表示することができる。タッチ操作はタップ操作でもよいが、起動アイコンを起点としたジェスチャ操作にするとディスプレイの相対的な配置に関連付けた直感的な操作が可能になる。ジェスチャ操作をフリック操作とすれば、短い操作時間でアプリケーション画像を表示することができる。
【0014】
第2のディスプレイに対して相対的に第1のディスプレイの方向のジェスチャ操作を検出したときにアプリケーション画像を第1のディスプレイに表示し、第1のディスプレイに対して相対的に第2のディスプレイの方向のジェスチャ操作を検出したときにアプリケーション画像を第2のディスプレイに表示すれば、表示させたいディスプレイの位置とジェスチャ操作の方向を一致させることができるため直感的な操作をすることができる。
【0015】
所定の方向のジェスチャ操作を検出したときに、第1のディスプレイにすでに表示されているアプリケーション画像を第2のディスプレイに表示してから第1のディスプレイにアプリケーション画像を表示するようにすれば、それまで第1のディスプレイに表示していたアプリケーション画像を引き続いて第2のディスプレイに表示することができる。
【0016】
所定の方向のジェスチャ操作を検出したときに、第1のディスプレイおよび第2のディスプレイを一画面とするアプリケーション画像を第1のディスプレイおよび第2のディスプレイに表示するようにしてもよい。所定の方向のジェスチャ操作を検出したときに起動アイコンを関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示するようにしてもよい。さらに所定の方向のジェスチャ操作を検出したときに、アプリケーション画像を電子機器に接続された外部モニターに表示するようにしてもよい。さらに所定の方向のジェスチャ操作を検出したときに、起動アイコンを関連付けたアプリケーション・プログラムを削除するようにしてもよい。
【0017】
第2のディスプレイに対するタッチ操作が可能な場合において、起動アイコンにタッチ操作をする前に起動アイコンに重ねて何らかのアプリケーション画像を第1のディスプレイに表示している場合がある。この状態では起動アイコンにタッチ操作ができないが、第1のディスプレイの表示を維持しながら第2のディスプレイに対するジェスチャ操作に応じて起動アイコンを第2のディスプレイに表示し、第2のディスプレイが表示する起動アイコンに対するタッチ操作の種類に応じて第2のディスプレイに起動アイコンを関連付けたアプリケーション画像を表示すれば、第1のディスプレイに表示していたアプリケーション画像を一旦閉じる必要がなくなる。
【0018】
本発明の第2の態様では、最初に起動アイコンをタッチ操作が可能なディスプレイに表示する。つづいて、起動アイコンを起点とするジェスチャ操作に応じて起動アイコンの周囲に、それぞれ次の動作を暗示する情報を表示した複数の補助画像を表示する。つづいてジェスチャ操作を識別する。つづいて起動アイコンを関連付けたアプリケーション画像をいずれかのディスプレイまたは複数のディスプレイに表示する処理を含む識別したジェスチャに対応する処理をする。
【0019】
補助画像を表示することで、起動アイコンに対するジェスチャ操作の種類を増やしても正確に識別をすることが可能になり、かつ、操作に不慣れなユーザでも操作がし易くなる。暗示する情報は、アプリケーション画像を表示するディスプレイに関する情報、アプリケーション画像を関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示する情報、アプリケーション画像を外部モニターに表示する情報、およびアプリケーション画像を削除する情報を含むことができる。
【0020】
いずれかの補助画像に向かうドラッグ操作を識別し、ドラッグ操作の終点に位置する補助画像を認識し、補助画像が暗示する情報に関連付けた処理を行うことができる。補助画像が暗示する情報に関連付けた処理は、起動アイコンを関連付けたアプリケーション・プログラムのプロパティ・ウィンドウの表示またはアプリケーション・プログラムの削除のいずれかとすることができる。
【0021】
補助画像を認識したことに応じて補助画像の周囲にそれぞれ次の動作を暗示する情報を表示した複数のサブ補助画像を表示することができる。サブ補助画像が暗示する情報は、アプリケーション画像を関連付けたアプリケーション・プログラムのプロパティ・ウィンドウを表示するディスプレイの位置を暗示する情報を含み、サブ補助画像に向かうジェスチャ操作を識別したことに応じていずれかのディスプレイにプロパティ・ウィンドウを表示することができる。
【発明の効果】
【0022】
本発明により、タッチ操作が可能なディスプレイを含む複数のディスプレイにアプリケーション画像を効果的に表示する方法を提供することができた。さらに本発明により、起動アイコンに対する直感的なタッチ操作を実現する方法を提供することができた。さらに本発明により、起動アイコンに対する操作メニューを拡大する方法を提供することができた。さらに本発明により、タッチ操作の可能なディスプレイを含む電子機器を使ったユーザの作業性を向上する方法を提供することができた。さらに本発明により、そのような方法を実現する電子機器、およびコンピュータ・プログラムを提供することができた。
【発明を実施するための形態】
【0024】
[定義]
本明細書においては、タッチスクリーンに対する一連のまとまりのある入力操作に関する用語を、システムが検出した座標の変化の有無、座標が変化する場合の変化速度、座標が変化しない場合に同一座標に対して入力している時間の視点から以下の意味で使用する。タッチ操作は、タッチスクリーンの表面に指または電子ペン(以後、本明細書においては両者を含めて単に指という。)が接触するか否かに係わらず入力座標をシステムが認識できる状態にするすべての入力操作を意味する。
【0025】
タッチ操作は、タッチスクリーンが表示する特定のアプリケーションまたは特定のファイルなどに関連付けたアイコン(以下、起動アイコンという。)や所定の場所に関連付けた文字または画像などのオブジェクト(以下、特定オブジェクトという。)に対する入力操作または特定オブジェクト以外の表示領域に対する入力操作のいずれも含む。
【0026】
タッチ操作は、一連の操作においてタッチ操作の位置を変化させないタップ操作と変化させるジェスチャ操作を含む。タップ操作を検出したシステムは、タッチ操作された座標と当該座標に対してタッチ操作が継続している時間、およびタッチ操作の回数などの情報を得ることができる。タップ操作は、所定時間未満のタッチ操作を行うショートタップ操作と所定時間以上のタッチ操作を行うロングタップ操作を含む。タップ操作は、ショートタップ操作を1回行うシングルタップ操作と、ショートタップ操作を2回行うダブルタップ操作を含む。
【0027】
ジェスチャ操作は、フリック操作、スワイプ操作、ドラッグ操作、および回転操作などのシングルタッチ操作と、ピンチイン、ピンチアウトといったマルチタッチ操作を含む。ジェスチャ操作を検出したシステムは、タッチ操作された座標の軌跡および座標が変化する速度などの情報を得ることができる。そしてシステムは、座標の軌跡のパターンおよび変化の方向などからジェスチャの種類を識別することができる。
【0028】
フリック操作は、タッチ操作をしている指を短い距離だけほぼ一定の方向に移動させる操作をいう。スワイプ操作は、タッチ操作をしている指をフリック操作よりも長い距離をほぼ一定の方向に移動させる操作をいいスライド操作ともいう。フリック操作はスワイプ操作よりも指の移動速度が速い操作をいう。ドラッグ操作は、特定オブジェクトに対してタッチ操作をした指を所定の位置まで移動させる操作をいう。このときタッチ操作が行われた特定オブジェクトは指とともに移動しても移動しなくてもよい。また、移動先となる所定の位置は、特定オブジェクトが表示されている領域でもそれ以外のタッチスクリーンの表示領域でもよい。
【0029】
[折り畳み式電子機器]
図1は、2つのタッチスクリーンを搭載する電子機器の一例としてのスマートフォン100の平面図である。本発明の適用においては、一方がタッチスクリーンで他方が表示だけが可能なディスプレイとすることもできる。電子機器が搭載するディスプレイまたはタッチスクリーンの数は、少なくとも1つがタッチスクリーンであれば特に限定しない。
【0030】
本発明の適用が可能な他の電子機器の例としては、ノートブック型PC、携帯電話およびタブレットPCなどを挙げることができる。さらに本発明は、単一のタッチスクリーンを備える電子機器と、外部モニターとの間でのアプリケーション画像の表示方法に適用することもできる。ここでは、折り畳み式のスマートフォン100を例示しているが、本発明はこれに限定する必要はなく、少なくとも1つのタッチ操作が可能なディスプレイを含む複数のディスプレイに表示が可能なシステムまたは電子機器に適用することができる。
【0031】
図1において、スマートフォン100は、筐体101a、101bがヒンジ機構103a、103bで結合され開閉ができるようになっている。筐体101a、101bはそれぞれ表示領域が矩形状のタッチスクリーン200、300を搭載する。スマートフォン100は、
図1の状態でユーザに対して左右に開いて使用する状態であるが、右または左に90度回転させてユーザに対して上下に開いて使用することもできる。そのとき、タッチスクリーン200、300が表示している画像の向きは、筐体の姿勢の変化に応じて回転させてもよい。
【0032】
タッチスクリーン200、300は、FPDとタッチパネルで構成されている。タッチパネルはタッチ操作した指のFPD上の座標を検出することができる。本発明の適用に当たってFPDの構造は特に限定する必要はなく、液晶パネル、プラズマ・ディスプレイ・パネル、または有機ELパネルなどを採用することができる。タッチパネルの検出原理も特に限定する必要はなく、静電容量式、抵抗膜式、電磁誘導式、超音波表面弾性波式、または赤外線操作式などを採用することができる。タッチパネルは、1本の指の座標だけを検出するシングルタッチ方式または同時に複数の指の座標を検出するマルチタッチ方式のいずれも採用することができる。
【0033】
スマートフォン100は、外部ディスプレイ151またはプロジェクタ153などの外部モニターを有線または無線で接続してそれらにアプリケーション画像を表示することができる。スマートフォン100は、電源を操作する電源ボタン107、音量を変える音量ボタン109、ホーム画面に戻るためのホーム・ボタン111、1つ前の状態に戻る後退ボタン113などのハードウェア・ボタンを備えている。なお、電源ボタン107を除いた各ボタンの機能は、タッチスクリーン200、300に対するタッチ操作で実現することもできる。スマートフォン100は、さらにカメラ115および図示しないスピーカ、マイクロフォンなども含む。
【0034】
[起動アイコンの表示方法]
図2は、スマートフォン100が起動アイコンを表示する様子を説明する図である。起動アイコンは、特定のアプリケーションまたは特定のファイルなどに関連付けらており、当該アプリケーションを実行したり、当該ファイルを関連付けたアプリケーションを実行して当該ファイルを表示したりするためのタッチスクリーンに表示するオブジェクトをいう。ファイルの起動アイコンは、タッチ操作をしたときにアプリケーションの起動をともなうため、本明細書ではアプリケーションの起動アイコンに含めて説明する。
【0035】
起動アイコンにタッチ操作をすることによって、アプリケーションが起動したときに表示される画像をアプリケーション画像という。アプリケーション画像は、タッチスクリーン200またはタッチスクリーン300の表示領域の全体を使用する全画面表示形式またはそれより小さい領域を使用するウィンドウ形式のいずれで表示してもよい。
【0036】
起動アイコンはタッチ操作の対象となり、本実施の形態では関連付けたアプリケーションの起動に加えて、アンインストールやプロパティ・ウィンドウの表示なども起動アイコンを通じて行うことができる。起動アイコンは、図形、写真、記号、または文字などで、それを関連付けたアプリケーションまたはファイルの内容を暗示する情報を含む小画像のオブジェクトである。
【0037】
起動アイコンの輪郭はすべて矩形のような同一形状でもよいし、時計やカメラと言った具体的な物の概念を示す形状でもよい。スマートフォン100に、アプリケーションをインストールすると、当該アプリケーションに関連付けられた起動アイコンが生成される。アプリケーションをインストールしたときに作成された起動アイコンを表示する画面は一般にホーム画面といわれている。ホーム画面は、電源ボタン107を長押ししてスマートフォン100の電源を起動したときに最初に表示される画面をいう。ホーム画面は、スマートフォンが動作したあとでホーム・ボタン111を押下したときに表示される画面でもある。
【0038】
起動アイコンは、ホーム画面とは異なるたとえば全アプリケーション画面というような画面に表示する場合もある。たとえば、ホーム画面には、天気予報、カレンダー、または時刻を表示するウィジェットといわれる常時動作型のアプリケーション画像や、頻繁に使用するアプリケーションの起動アイコンだけを表示しておき、全アプリケーション画面にはインストールされているすべてのアプリケーションの起動アイコンを表示する方法もある。
図2は、ホーム画面、または全アプリケーション画面のいずれかを問わず、1つまたは複数の起動アイコンを表示している画面(以後、ページ画面150a〜150cという。)を示している。
【0039】
図2においてスマートフォン100に対して、ユーザからみてタッチスクリーン200を左側としタッチスクリーン300を右側とする方向を定義する。タッチ操作に都合がよいようにタッチスクリーン200、300が一度に表示する起動アイコンの数には制限を設けている。
図2では、一例としてタッチスクリーン200、300がそれぞれ最大で20個の起動アイコンを表示する様子を示している。アプリケーションをインストールすると、ページ画面150a〜150cには起動アイコンが順番に追加されていく。あるいは、インストール時にユーザがインストールするページ画面を選択することもできる。
【0040】
ページ画面150a〜150cの数が3以上になると、タッチスクリーン200、300には一度にすべての起動アイコンを表示することができない。この場合、システムは一部のページ画面150cが含む起動アイコンを仮想的なタッチスクリーンに表示する画像データとして保持する。
図2(A)は、システムが起動アイコン群201をタッチスクリーン200に表示し、起動アイコン群301をタッチスクリーン300に表示し、さらに起動アイコン群351の画像データを仮想的なタッチスクリーンに保持する様子を示している。
【0041】
起動アイコン群351をタッチスクリーン300に表示するためには、タッチスクリーン200またはタッチスクリーン300に対して左側に向かうスワイプ操作またはフリック操作をして、
図2(B)のようにページ画面150cを左方向に移動させる。このとき起動アイコン群201は、タッチスクリーン200、300の表示領域の外にある仮想的なタッチスクリーンに移動する。起動アイコン群351を、タッチスクリーン200に表示するためには、タッチスクリーン200またはタッチスクリーン300に対してさらに左側に向かうスワイプ操作またはフリック操作をして、
図2(C)のようにページ画面150cを左方向に移動させる。
【0042】
このとき起動アイコン群201、301は、タッチスクリーン200、300の表示領域の外に移動し、タッチスクリーン300にはいずれの起動アイコンも表示されない。
図2(A)の状態で、起動アイコン群201をタッチスクリーン300に表示するためには、タッチスクリーン200またはタッチスクリーン300に対して右側に向かうスワイプ操作またはフリック操作をして、
図2(D)のようにページ画面150aを右方向に移動させる。
【0043】
このとき起動アイコン群301、351は、タッチスクリーン200、300の表示領域の外に移動し、タッチスクリーン200にはいずれの起動アイコンも表示されない。タッチスクリーン300が、タッチ操作ができない通常のディスプレイの場合、タッチスクリーン200には1つのページ画面しか表示できないため、その他のページ画面が含む起動アイコンは仮想的なタッチスクリーンに移動する。
【0044】
[アプリケーションの起動方法]
図3は、本実施の形態にかかるアプリケーションの起動方法の一例を説明する図である。この例では、タッチ操作で
図3(A)に示す起動アイコン203を関連付けたアプリケーションを起動して、アプリケーション画像をユーザが意図するタッチスクリーン200またはタッチスクリーン300に表示することができる。ユーザからみたときのタッチスクリーン200とタッチスクリーン300の相対的な位置について、タッチスクリーン200を左側、タッチスクリーン300を右側として定義する。このとき、それに併せて上側と下側を定義することができる。
【0045】
図3(B)に示すようにスマートフォン100がユーザに対して
図3(A)の状態から右方向に90度回転した場合には、タッチスクリーン200とタッチスクリーン300は、ユーザからみたときの相対的な位置に対して、タッチスクリーン200が上側でタッチスクリーン300が下側となる。しかし表示システム500(
図6)にとっては、ユーザにとっての左右方向および上下方向は、タッチスクリーン200、300の相対的位置との関係で意義がある。表示システム500は、
図3(A)の状態の左右方向と、
図3(B)の状態の上下方向をタッチスクリーン200、300の相互の相対的な位置との関係で同一視する。
【0046】
最初に
図3(A)の状態について説明する。タッチスクリーン200、300の相互の相対的な位置に関連付けて、起動アイコン203の方向について、
図3(C)に示すように、上方向211、下方向213、左方向215、または右方向217として4方向を定義する。なお、本発明において起動アイコンに定義する方向の数は2方向以上であれば4方向に限定する必要はなく3方向または5方向以上であってもよい。
【0047】
図3(D)は起動アイコン203に定義した4方向とタッチスクリーン200、300の相対的な位置との関係を示している。タッチスクリーン200、300の中心200a、300aを結ぶ中心線230またはこれに平行な直線と、起動アイコン203の中心203aを起点とする各矢印231〜237はそれぞれ45度で交差する。上方向211、下方向213、左方向215、および右方向217は、それぞれ矢印237〜231、矢印233〜235、矢印231〜233、および矢印235〜237の90度の範囲で画定する方向に対応させることができる。
【0048】
起動アイコン203に4方向を定義すると、ジェスチャ操作の方向だけで少なくとも4種類の操作をすることができる。たとえば、ジェスチャ操作としてフリック操作またはスワイプを採用する場合には、起動アイコン203を起点とする2つの異なる方向への指の移動で、起動アイコン203を関連付けたアプリケーション画像をユーザが指の移動先として意図するタッチスクリーン200、300のいずれかに表示することができる。またジェスチャ操作として回転操作を採用する場合は、左回りの回転操作を左方向のジェスチャ操作として識別し、右回りの回転操作を右方向のジェスチャ操作として識別することもできる。
【0049】
このとき、上方向211をタッチスクリーン200に対応させ、下方向231をタッチスクリーン300に対応させてもよいが、起動アイコンに対するジェスチャ操作の方向とタッチスクリーン200、300の相互の相対的な位置を一致させると直感的にタッチスクリーンを選択することができる。すなわち、起動アイコン203の左方向215はタッチスクリーン200を連想させ、右方向217はタッチスクリーン300を連想させる。したがって、起動アイコン203に対して左方向215のフリック操作をしたときにはアプリケーション画像をタッチスクリーン200に表示し、右方向217のフリック操作をしたときには、アプリケーション画像をタッチスクリーン300に表示すると、ユーザが表示させたいタッチスクリーン200、300の位置とフリック操作の方向を一致させることができる。
【0050】
このとき、上方向211と下方向213には、対応するタッチスクリーン200、300が存在しないため、それらの方向のフリック操作には他の処理を割り当てることができる。たとえば、上方向211のフリック操作にはタッチスクリーン200、300を一画面として利用する拡大したアプリケーション画像を表示し、下方向213のフリック操作には、起動アイコン203を関連付けたアプリケーションのプロパティ・ウィンドウを表示するように割り当てることができる。
【0051】
プロパティ・ウィンドウは、当該アプリケーションに固有の設定をしたり当該アプリケーションの情報を示したりするメニューを表示する。プロパティ・ウィンドウはたとえば、当該アプリケーションがアクセスするネットワークの制限、GPSによる位置情報通知の制限またはカメラへのアクセス制限などの設定や、サーバからのデータ取得のタイミングの設定、動作中にシステムがスリープ状態に移行することの制限などの設定を行うためのメニューを表示する。
【0052】
ジェスチャ操作の方向と、タッチスクリーン200、300の相互の相対的な位置との関係では、
図3(A)の左方向と
図3(B)の上方向は同じ意義を有しており、システムはスマートフォン100のユーザに対する姿勢に応じて、ジェスチャ操作の方向を判断して処理する。表示システム500は加速度センサで中心線203と重力方向(ユーザにとっての上下方向)の関係を認識することで、
図3(B)の状態のときに、
図3(A)の状態と同様に起動アイコン203に対するジェスチャ操作を処理することができる。
【0053】
図3(B)の状態で具体的には、起動アイコン203を起点とする上方向211のフリック操作でアプリケーション画像をタッチスクリーン200に表示し、下方向213のフリック操作でアプリケーション画像をタッチスクリーン300に表示することができる。また、右方向217のフリック操作でタッチスクリーン200、300を一画面として拡大したアプリケーション画像を表示し、左方向215のフリック操作でアプリケーションのプロパティ・ウィンドウを表示する。
【0054】
このように起動アイコンに対する1回のフリック操作でユーザは指を移動させる方向に合致した位置に存在するタッチスクリーン200、300にアプリケーション画像を表示することができる。フリック操作は、短時間で入力操作を終了できる点で優れているが、アプリケーション画像やプロパティ・ウィンドウの表示はフリック操作と同様に指の移動方向から表示するタッチスクリーンの位置を連想させることができるスワイプ操作、ドラッグ操作または回転操作で行うようにしてもよい。
【0055】
ただし、アプリケーション画像の表示は、ジェスチャ操作に限らずタップ操作で行うようにしてもよい。また、ジェスチャ操作とタップ操作を組み合わせてもよい。たとえば、
図3(A)において、起動アイコン203に対する左方向215または右方向217のジェスチャ操作でアプリケーション画像を表示するいずれかのタッチスクリーン200、300を選択し、シングルタップ操作で両方のタッチスクリーン200、300を選択し、ダブルタップ操作ではプロパティ画面の表示をすることもできる。また、仮想的なタッチスクリーンに移動している起動アイコン群351は、スワイプ操作またはフリック操作によりページ画面150cをタッチスクリーン200またはタッチスクリーン300に表示させてから同様の手順で操作することができる。
【0056】
つぎに、本実施の形態にかかるアプリケーションの起動方法の他の例を説明する。
図4は、ガイド画像250、270を利用したアプリケーションの起動方法の一例を説明するための図である。以下においては
図3(A)に示す起動アイコン203に対するタッチ操作を例にして説明する。
図4(A)の例では、起動アイコン203にタッチ操作をすると表示システム500はその周囲に補助画像251〜261で構成されたガイド画像250を表示する。このときのタッチ操作は、続いて行われるジェスチャ操作の開始に相当する。補助画像251〜261は周囲の起動アイコンにオーバーレイ(重畳)または半透明で表示され、まとまりのある一連のタッチ操作が終了すると消滅する。
【0057】
表示システム500は補助画像251〜261を表示する段階では、アプリケーション画像またはプロパティ・ウィンドウの表示は行わないが、タッチ操作に続いて行われるジェスチャ操作を識別して対応するさまざまな処理を行う。補助画像251〜261は、起動アイコン203に対する操作をユーザが認識するための情報または認識を補助する情報を含む。
図4では情報を文字で表示する例を示しているが、補助画像251〜261は、図形、写真、記号、または文字などの画像で構成することができる。
【0058】
起動アイコン203の左側および右側に表示する補助画像255、257は、起動アイコン203からみたタッチスクリーン200、300の相対的な位置に対するジェスチャ操作の方向を暗示する情報を表示する。起動アイコン203の上側に表示する補助画像251は、タッチスクリーン200、300の両方への表示を暗示する情報を表示する。起動アイコン203の下側に表示する補助画像253は、プロパティ・ウィンドウの表示を暗示する情報を表示する。
【0059】
ユーザは必要に応じて補助画像251〜257をみながら、上方向211、下方向213、左方向215、または右方向217に対してフリック操作などのジェスチャ操作をすることで、起動アイコン203を関連付けたアプリケーションを起動してアプリケーション画像をそれぞれの操作に応じた態様でタッチスクリーン200、300に表示したりプロパティ・ウィンドウを表示したりすることができる。
【0060】
表示システム500は、起動アイコン203の下側に補助画像253に加えて補助画像259、261を下方向に並べて表示することができる。このとき表示システム500は、起動アイコン203を起点とする下方向213のジェスチャ操作のなかで、補助画像253、259、261を終点とするドラッグ操作だけを有効に処理することができる。ユーザが起動アイコン203から補助画像253までドラッグ操作をすると、システムは補助画像253の両側にサブ補助画像263、265を表示する。サブ補助画像263、265は、プロパティ・ウィンドウを表示するタッチスクリーン200、300の選択を暗示する情報を含む。
【0061】
ユーザが補助画像253からサブ補助画像263に向かってジェスチャ操作をすると表示システム500は起動アイコン203を関連付けたアプリケーションのプロパティ・ウィンドウをタッチスクリーン200に表示し、サブ補助画像265に向かってジェスチャ操作をするとプロパティ・ウィンドウをタッチスクリーン300に表示する。この場合もフリック操作を採用すると短時間で操作を終了することができる。
【0062】
ユーザが起動アイコン203から補助画像259までドラッグ操作をすると、表示システム500は補助画像259の両側にサブ補助画像267、269を表示する。サブ補助画像267、269は、アプリケーション画像を表示する外部モニターの選択を暗示する情報を含む。続いてユーザが補助画像259からサブ補助画像267に向かってジェスチャ操作をすると表示システム500は起動アイコン203を関連付けたアプリケーションを起動してアプリケーション画像を外部ディスプレイ151に表示し、サブ補助画像269に向かってジェスチャ操作をするとアプリケーション画像をプロジェクタ153に表示する。
【0063】
ユーザが起動アイコン203から補助画像261までドラッグ操作をすると、起動アイコン203を関連付けたアプリケーションをアンインストールする。起動アイコン203の下側に表示する補助画像およびサブ補助画像の数はここでの例示に限定する必要はない。また、サブ補助画像を表示する補助画像は、起動アイコン203の上側に表示するようにしてもよい。
【0064】
図4(B)の例では、起動アイコン203にタッチ操作をすると表示システム500はその周囲に、一例として8個の補助画像271〜285を含むガイド画像270を表示する。表示システム500は、補助画像271〜285のいずれかに向かうジェスチャ操作または補助画像271〜285のいずれかを終点とするドラッグ操作を識別して、補助画像271〜285が暗示する情報に対応する処理をことができる。このときフリック操作を採用すれば短時間で起動アイコン203に対する入力を完了することができる。
【0065】
補助画像271は、プロジェクタ153にそれまで表示していたアプリケーション画像に代えて起動アイコン203を関連付けたアプリケーション画像を表示することを暗示する情報を含み、補助画像273はプロジェクタ153がそれまで表示していたアプリケーション画像を外部ディスプレイ151に表示してから起動アイコン203を関連付けたアプリケーション画像をプロジェクタ153に表示することを暗示する情報を含む。なお、補助画像271または補助画像273は、同一のアプリケーション画像を外部ディスプレイ151およびプロジェクタ153にそれぞれ表示することを暗示する情報を含むようにしてもよい。
【0066】
補助画像275はタッチスクリーン200にそれまで表示していたアプリケーション画像に代えて起動アイコン203を関連付けたアプリケーション画像をタッチスクリーン200に表示することを暗示する情報を含み、補助画像277はタッチスクリーン200がそれまで表示していたアプリケーション画像をタッチスクリーン300に表示してから起動アイコン203を関連付けたアプリケーション画像をタッチスクリーン200に表示することを暗示する情報を含む。
【0067】
補助画像279はタッチスクリーン300にそれまで表示していたアプリケーション画像に代えて起動アイコン203を関連付けたアプリケーション画像を表示することを暗示する情報を含み、補助画像281はタッチスクリーン300がそれまで表示していたアプリケーション画像をタッチスクリーン200に表示してから起動アイコン203を関連付けたアプリケーション画像をタッチスクリーン300に表示することを暗示する情報を含む。
【0068】
補助画像283、285は、ホーム画面と全アプリケーション画面を表示するスマートフォンにおいて表示することができる。ページ画面150a、150bが全アプリケーション画面の場合に、補助画像283はホーム画面に起動アイコン203を追加することを暗示する情報を含み、補助画像283は起動アイコン203を関連付けたアプリケーションをアンインストールすることを暗示する情報を含む。
【0069】
補助画像250、270を利用すると、ジェスチャ操作の方向をユーザが正しく認識でき、さらにサブ補助画像を表示することも含めて起動アイコンに対するより多くの操作ができるようになる。スマートフォンが
図3(B)のように回転した場合は、表示システム500が加速度センサのデータを使って姿勢の変化を検出し、ガイド画像250、270の表示方向と補助画像の方向を回転させることができる。
【0070】
[ハードウェア構成]
図5は、スマートフォン100のハードウェア構成の一例を示す機能ブロック図である。本発明の適用の範囲ではスマートフォン100のハードウェアの構成は周知であるため説明は簡略化する。一例として筐体101aは、システム・ハードウェア400および電源回路415とシステム・ハードウェア400に接続されたディスプレイ403、タッチパネル405、SSD407、WiFi(登録商標)モジュール409、Bluetooth(登録商標)モジュール(BLTHモジュール411)およびWANモジュール413などを搭載する。
【0071】
ディスプレイ403とタッチパネル405はタッチスクリーン200を構成する。筐体101bは、システム・ハードウェア400に接続されたディスプレイ453、タッチパネル455、カメラ・モジュール457、および加速度センサ459などを搭載する。ディスプレイ453とタッチパネル455は、タッチスクリーン300を構成する。筐体101aが搭載するデバイスと筐体101bが搭載するデバイスとは、ヒンジ機構103a、103bを通じて配線する。なお、筐体101a、101bが分担して搭載するデバイスは
図5の例に限定する必要はない。また、スマートフォン100はさらに多くのデバイスを含むが、それらは本発明の理解に必要がないため説明を省略する。
【0072】
SSD407は、オペレーティング・システム(OS)、アプリケーション、およびデバイス・ドライバなどのソフトウェアを格納する。表示システム500の主要な機能は、OSおよびデバイス・ドライバまたはいずれかの機能に組み込むことができる。OSは、iOS(登録商標)、Android(登録商標)、Windows phone(登録商標)、Windows RT(登録商標)、またはWindows8(登録商標)などを採用することができる。BLTHモジュール411は、外部ディスプレイ151およびプロジェクタ153と通信する。
【0073】
[表示システム]
図6は、起動アイコンに対するタッチ操作を処理する表示システム500の構成を説明するための機能ブロック図である。表示システム500は、
図1、
図5に示したハードウェアの他に、システム・ハードウェア400と、OS、デバイス・ドライバなどのソフトウェアとの協働により構成した、座標データ生成部501、タッチ操作識別部503、画像データ生成部505、アプリケーション実行部507、およびアプリケーション制御部509を含む。
【0074】
座標データ生成部501は、タッチ操作が行われたときにタッチパネル405、455が検出した入力座標を生成してアプリケーション実行部507およびタッチ操作識別部503に送る。タッチ操作識別部503は、ページ画面151a〜153aが表示する起動アイコンの座標を認識しており、タッチパネル405、455が検出した入力座標からタッチ操作が行われた起動アイコンとタッチ操作の種類を識別する。
【0075】
タッチ操作識別部503は、ガイド画像250、270の補助画像が示唆する情報に対応する処理内容と、起動アイコンに対する補助画像の方向を認識している。タッチ操作識別部503は加速度センサ459が検出した重力加速度のデータに基づいて、
図3(D)に示す中心線230の傾斜を認識する。タッチ操作識別部503は、タッチスクリーンの中心300aから中心200aに向かう方向を左方向215と認識し、その逆に向かう方向を右方向217と認識する。
【0076】
タッチ操作識別部503は、中心線230に対して垂直な方向に上方向211と下方向213を設定する。タッチ操作識別部503は、スマートフォン100の姿勢が
図3(B)の状態であっても加速度センサ459のデータでジェスチャ操作の方向を
図3(A)の状態に変換して識別することができる。たとえばタッチ操作識別部503は、
図3(B)の起動アイコン203に対するユーザからみた上方向のジェスチャ操作は、中心線230上において中心300aから200aに向かう方向に相当するため、
図3(A)の左方向215のジェスチャ操作と同じ操作であると認識する。
【0077】
タッチ操作識別部503は、特定の起動アイコンを起動するタッチ操作を認識したときは、アプリケーション実行部507の対応するアプリケーションに起動イベントを送る。タッチ操作識別部503は、起動アイコンに対して行われたジェスチャ操作の種類に対応する制御イベントをアプリケーション制御部に送る。制御イベントは、
図4に示したいずれかの補助画像が暗示する処理を実行するための情報を含む。タッチ操作識別部503は、起動アイコンに対するジェスチャ操作が行われたときに、最初にタッチ操作を検出した起動アイコンの周囲に
図4に示したガイド画像250、270を表示する画像データを画像データ生成部505に送る。
【0078】
アプリケーション実行部507は、座標データ生成部501から受け取った入力座標または他のハードウェアからのデータに基づいて各アプリケーションを実行する。アプリケーション実行部507は、タッチ操作識別部503から起動イベントを受け取ったときに、対応するアプリケーションを実行してアプリケーション画像を表示するための画像データを生成し画像データ生成部505に送る。アプリケーション実行部507は、タッチスクリーン200、300を一画面として表示するジェスチャ操作に対応する起動イベントを受け取ったときは、対応するアプリケーション画像を表示するための画像データを生成することができる。
【0079】
アプリケ−ション制御部509は、アプリケーションのインストール、アンインストール、プロパティ・ウィンドウの表示、プロパティ・ウィンドウに対する入力処理などを行う。アプリケーション制御部509は、タッチ操作識別部503から受け取った制御イベントに応じて、アプリケーション画像を表示するタッチスクリーン200、300の選択、および外部ディスプレイ151またはプロジェクタ153の選択をしてアプリケーション画像を表示するための制御イベントを画像データ生成部505に送る。
【0080】
アプリケーション制御部509は、タッチ操作識別部503から受け取った制御イベントに応じて、起動アイコンを関連付けたアプリケーションのアンインストール、プロパティ・ウィンドウの表示およびプロパティ・ウィンドウに対する設定などの処理をする。アプリケーション制御部509は、画像データ生成部505にアプリケーションをインストールしたときに生成された起動アイコンを所定のページ画面150a〜150cに表示する画像データを送るとともに、タッチ操作識別部503にその座標を通知する。
【0081】
画像データ生成部505は、アプリケーション実行部507、タッチ操作識別部503またはアプリケーション制御部509から受け取った画像データを表示形式に変換して、ディスプレイ403、453、外部ディスプレイ151、またはプロジェクタ153に出力する。このとき画像データ生成部505は、アプリケーション制御部509から受け取った制御イベントに基づいて出力先を選択する。
【0082】
[表示システムの動作]
図7、
図8は、表示システム500の動作の一例を説明するためのフローチャートである。
図9、
図10は、
図7、
図8の手順に応じて変化するタッチスクリーン200、300の画面の様子を示す図である。ここでは
図3(A)の状態で
図4(A)に示した補助画像を表示する場合を例示して説明するが、
図3(B)の状態、
図4(B)に示した補助画像を表示する場合および補助画像を表示しない場合の動作もこの説明で理解できる。ブロック601で電源を起動すると、表示システム500は
図9(A)に示すようにタッチスクリーン200、300にページ画面150a、150bを表示する。
【0083】
ページ画面150a、150bは起動アイコン203、205、303を含む複数の起動アイコンを表示している。起動アイコン203にはメーラーを関連付け、起動アイコン205にはWebブラウザを関連付けているものとする。ここでユーザが最初にメーラーを実行してメーラー画像をタッチスクリーン200に表示したいとする。ブロック603でユーザは、起動アイコン203を起点とするジェスチャ操作をする。ユーザは左方向のジェスチャ操作をすることになるが、表示システムはすべての方向のジェスチャ操作を認識して処理する。
【0084】
起動アイコン203の座標に対する入力を検出した表示システム500は、ブロック605で起動アイコン203の周囲に
図4(A)に示した補助画像251〜261を表示する。表示システム500は、ブロック603から始まる一連のジェスチャ操作の方向を識別する。表示システム500は、ブロック606で左方向215のジェスチャ操作を認識したときはブロック607に移行し、それ以外のジェスチャ操作を認識したときはブロック651に移行する。
【0085】
ブロック607で表示システム500は、起動アイコン203を関連付けたメーラーのアプリケーションを起動して、
図9(B)に示すようにタッチスクリーン200にメーラー画像351を表示する。ここでメール文章の入力をしている間にユーザが、Webブラウザを開いてネットワークから情報を取得したくなったと想定する。タッチスクリーン200にはメーラー画像351が表示されているため、起動アイコン205に対してジェスチャ操作をすることができない。
【0086】
これまでは、ホーム・ボタン111を操作したり、タッチスクリーン200、300に所定のタッチ操作をしたりして、起動アイコン205を表示するページ画面150aに移動してからタッチスクリーン200にブラウザ画像353(
図10(D))を表示する必要があったため、メーラー画像351の表示を中断したり、切り換え操作に時間を費やしたり、空いているタッチスクリーン300を有効に活用できなかったりしていた。
【0087】
本実施の形態では、ブロック609でタッチスクリーン300に右方向のフリック操作またはスワイプ操作をして、タッチスクリーン300に起動アイコン205を含むページ画面150aを表示する。この状態を
図9(C)に示す。ブロック611でユーザはタッチスクリーン300に表示した起動アイコン205を視点とするジェスチャ操作を開始する。起動アイコン205の座標に対する入力を検出した表示システム500はブロック613で補助画像251〜261を表示する。
【0088】
表示システム500はブロック611から始まる一連のジェスチャ操作の方向を認識する。表示システム500はブロック615で右方向217のジェスチャ操作を認識したときはブロック617に移行し、それ以外のジェスチャ操作を認識したときはブロック661に移行する。ブロック617で表示システム500は、起動アイコン205を関連付けたWebブラウザを起動して、
図10(D)に示すようにタッチスクリーン300にブラウザ画像353を表示する。
【0089】
表示システム500は、ブロック651で右方向のジェスチャ操作を認識したときはブロック653でタッチスクリーン300にメーラー画像351を表示し、それ以外のジェスチャ操作を認識したときは
図8のブロック701に移行する。表示システム500は、ブロック661で左方向のジェスチャ操作を認識したときはブロック663でタッチスクリーン200にブラウザ画像353を表示し、それ以外のジェスチャ操作を認識したときは
図8のブロック701に移行する。
【0090】
このときブロック607でタッチスクリーン200に表示していたメーラー画像351はオーバーレイされる。ここで、表示システム500がブロック613で
図4(B)に示した補助画像271〜275を表示したときは、補助画像277に向かうジェスチャ操作を認識すると、タッチスクリーン200が表示していたメーラー画像351をタッチスクリーン300に表示して、タッチスクリーン200にブラウザ画像353を表示することができる。
【0091】
下方向のジェスチャ操作のうちドラッグ操作だけを有効にしている場合は、
図8のブロック701で表示システム500は、ブロック606またはブロック615で行われたジェスチャ操作が下方向のドラッグ操作または上方向のジェスチャ操作のいずれかを識別する。ブロック701で表示システム500が上方向のジェスチャ操作を認識したときはブロック751に移行し、それ以外、すなわち下方向のドラッグ操作を認識したときはブロック703に移行する。ブロック751で表示システム500は、タッチスクリーン200、300を一画面として、ブロック651から移行したときはメーラー画像351を表示し、ブロック661から移行したときはブラウザ画像353を表示する。このときメーラー画像355を表示している状態を
図10(E)に示す。
【0092】
ブロック703では表示システム500が、ドラッグ操作の終点の座標を認識する。ブロック703で補助画像253を認識したときはブロック753に移行してサブ補助画像263、265を表示する。ブロック755では表示システム500が、補助画像253を起点するジェスチャ操作の方向を認識して、いずれかのタッチスクリーン200、300にメーラーまたはWebブラウザのプロパティ・ウィンドウを表示する。
【0093】
ブロック705で表示システム500がドラッグ操作の終点として補助画像259を認識したときはブロック757に移行してサブ補助画像267、269を表示する。ブロック757では表示システム500が、補助画像259を始点とジェスチャ操作の方向を認識して、外部ディスプレイ151またはプロジェクタ153にメーラー画像351またはブラウザ画像353を表示する。ブロック707で表示システム500がドラッグ操作の終点として補助画像261を認識したときはブロック761に移行してメーラーまたはWebブラウザを削除する。
【0094】
これまで本発明について図面に示した特定の実施の形態をもって説明してきたが、本発明は図面に示した実施の形態に限定されるものではなく、本発明の効果を奏する限り、これまで知られたいかなる構成であっても採用することができることはいうまでもないことである。