(58)【調査した分野】(Int.Cl.,DB名)
前記間接操作において、前記ウエブ・ブラウザのGUIと同等機能を有する車載GUIが存在する場合、前記車載GUIを用いて前記疑似的GUIを構成し、前記車載GUIの出力を、パラメータとして用いる、
請求項1に記載の携帯電子機器連携システム。
前記間接操作において、前記ウエブ・ブラウザのGUIと同等機能を有する車載GUIが存在する場合、前記車載GUIを用いて疑似的GUIを構成し、前記車載GUIの出力を、パラメータとして用いる、
請求項4に記載の車載表示装置。
車載表示装置と携帯電子機器とを接続し、GUIを介した直接操作とプログラム言語による間接操作とが可能な連携インターフェースに使用される連携用プログラムであって、
前記連携インターフェースを介して、
表示部にウエブ・ブラウザのGUIが表示するステップと、
前記表示の内容に基づいて操作部上に疑似的GUIを構築するステップと、
前記疑似的GUIの操作に基づいて、前記プログラム言語による前記ウエブ・ブラウザの前記間接操作を実行するステップと、
を備える連携用プログラムであって、
更に、前記携帯電子機器が前記直接操作の画面表示態様と前記間接操作の画面表示態様とが異なると判定したときは、前記直接操作の画面表示態様となるように前記表示部を制御するステップを備える、
連携用プログラム。
前記間接操作において、前記ウエブ・ブラウザのGUIと同等機能を有する車載GUIが存在する場合、前記車載GUIを用いて前記疑似的GUIを構成し、前記車載GUIの出力を、パラメータとして用いるステップと、
をさらに備える、請求項7に記載の連携用プログラム。
【発明を実施するための形態】
【0012】
以下、図面を参照して、本発明の実施の形態を説明する。
【0013】
図1は、本発明の実施形態に係る携帯電子機器連携システムの全体構成を示すブロック図である。
携帯電子機器連携システム1は、サーバ10と、携帯電子機器20と、車載表示装置30と、を備える。
【0014】
サーバ10は、ウェブ・サービスを提供可能なウェブ・サーバとして機能する。ウェブ・サービスは、例えばソーシャル・ネットワーキング・サービス(SNS;social networking service)や、地図サービスである。またサーバ10は、車内で使用される各種アプリケーションやプログラムの配信も行う。
サーバ10は、単独であっても、複数であってもよい。複数の場合、サーバ10間の通信は、有線または無線で行われる。
【0015】
携帯電子機器20は、持ち運び可能な電子機器であり、車外から車内に持ち込んで使用される。携帯電子機器20は、たとえば、スマートフォンと呼ばれる多機能携帯電話を用いることができる。
車載表示装置30は、車両内に備えられている。車載表示装置30は、表示部だけでなく、タッチパネルなど、ユーザからの入力手段である操作部も有する。
【0016】
サーバ10と携帯電子機器20とは、無線を使用した各種通信で情報の伝達を行う。
携帯電子機器20と車載表示装置30とは、USB(Universal Serial Bus)などの有線通信、ブルートゥース(Bluetooth(登録商標))などの無線通信で情報の伝達を行う。携帯電子機器20から車載表示装置30へは、表示信号などの情報を伝送する。車載表示装置30から携帯電子機器20へは、操作信号などの情報を伝送する。
サーバ10と携帯電子機器20との、HTML((HyperText Markup Language)などで記述されたコンテンツの送受信は、たとえばHTTP(Hypertext Transfer Protocol)という通信プロトコルを用いて行われる。
【0017】
一般に、ウエブ・ブラウザを介して利用するウエブ・アプリケーションが知られている。また、ウエブ・アプリケーション開発動作環境の充実にともない、リッチクライアント(rich client)と呼ばれる環境が提供されている。さらに車載表示装置30と連携させて、ウエブ・ベースのリッチクライアントを実現する場合、携帯電子機器20側のウエブ・ブラウザを利用することとなり、そのウエブ・ブラウザを車載表示装置30側から十分にコントロールできることが必要となる。
【0018】
しかしながら、携帯電子機器20のオペレーティング・システム(OS)やハードウエアによっては、セキュリティや機能上の制約から、ウエブ・ブラウザを携帯電子機器20以外の装置から遠隔操作することができない又は制限されているものが存在する。
【0019】
そこで本実施形態では、そのような制約のある環境の場合、携帯電子機器20の画面を車載表示装置30の表示部にミラーリングしつつ、携帯電子機器20のウエブ・ブラウザを内部的にプログラミングによって操作し、疑似的に車載表示装置30での操作を携帯電子機器20のウエブ・ブラウザの操作として適用できるようにする。
そのために、携帯電子機器20と車載表示装置30とは、以下に説明するように構成する。
【0020】
まず、携帯電子機器20を説明する。
図2は、携帯電子機器の概略構成を示すブロック図である。
携帯電子機器20は、表示部100と、操作部110と、処理ユニット120と、サーバ通信部130と、車載表示装置通信部140と、記憶ユニット150と、を備える。
【0021】
表示部100は、グラフィックスやテキストメッセージを表示する表示装置を含み、例えば液晶表示装置(LCD、Liquid Crystal Display)や有機EL(electroluminescence)ディスプレイを用いて構成することができる。
操作部110は、ユーザが携帯電子機器20に対して情報や指示を入力するための入力デバイスである。操作部110は、表示部100の表示画面上に設けられたタッチパネルとすることができる。以下、操作部110は、表示部100の表示画面上の全面に装着されたタッチパネルとして説明する。
【0022】
サーバ通信部130は、車外に置かれたサーバ10と、例えば無線ネットワークを介した通信を行う。
車載表示装置通信部140は、車載表示装置30と、USBなどの有線通信、ブルートゥースなどの無線通信で情報の通信を行う。
【0023】
処理ユニット120は、CPU(Central Processing Unit)等のプロセッサ、プログラムが書き込まれたROM(Read Only Memory)、データの一時記憶のためのRAM(Random Access Memory)等のメモリを有するコンピュータであり、連携インターフェース部160を備える。連携インターフェース部160は、コンピュータである処理ユニット120がプログラムを実行することにより実現され、当該コンピュータ・プログラムは、コンピュータ読み取り可能な任意の記憶媒体に記憶させておくことができる。
なお、連携インターフェース部160は、プログラムの実行により実現されるほか、それぞれ一つ以上の電気部品を含む専用のハードウエアとして構成することもできる。
【0024】
記憶ユニット150は、半導体メモリを含む、任意の不揮発性の記憶装置又は不揮発性の記憶装置と揮発性の記憶装置との組み合わせとすることができる。記憶ユニット150は、各種アプリケーション・プログラムや、処理ユニット120がその動作に伴って生成又は参照する作業データも記憶する。
【0025】
次に、連携インターフェース部160で実行される連携プログラムについて説明する。
図3は、携帯電子機器の連携プログラムの概念構成を示すブロック図である。
連携プログラム200は、メインプログラム210と、車載連携モジュール220と、携帯電子機器ウエブ・ブラウザ230と、ウエブ・コンテンツ240とを備える。
【0026】
メインプログラム210は、連携プログラム200の最下層に位置する。メインプログラム210は、車載連携モジュール220と、携帯電子機器ウエブ・ブラウザ230とを動作させるためのベースとなるプログラムである。
車載連携モジュール220は、メインプログラム210の上の階層に位置する。車載連携モジュール220は、車載表示装置30との連携処理を実行する。車載連携モジュール220は、車載表示装置30と通信する操作信号、表示信号を加工し、処理する。また車載連携モジュール220は、車載表示装置30との送信処理、受信処理を実行する。
【0027】
携帯電子機器ウエブ・ブラウザ230は、メインプログラム210の上の階層に位置する。携帯電子機器ウエブ・ブラウザ230は、携帯電子機器20のOSからウエブ・ブラウザ機能を呼び出して利用できる。また携帯電子機器ウエブ・ブラウザ230は、サーバ10と通信し、ウエブ・コンテンツの受信処理やリクエスト送信を実行する。
ウエブ・コンテンツ240は、携帯電子機器ウエブ・ブラウザ230の上の階層に位置する。ウエブ・コンテンツ240は、たとえばHTML、JPEG(Joint Photographic Experts Group)などの形式によるコンテンツである。
【0028】
メインプログラム210と、車載連携モジュール220と、携帯電子機器ウエブ・ブラウザ230とは、携帯電子機器アプリケーション250を構成する。携帯電子機器アプリケーション250は、車載表示装置30で表示と操作が可能なウエブ・ブラウザとして機能する。
【0029】
連携プログラム200は、サーバ10から配布することができる。
サーバ10においては、各車種で装着された車載表示装置のそれぞれに対して車載連携モジュールを格納している。ウエブ・アプリケーションは、車載表示装置の製造者により、サーバ10上で追加、修正、拡張がされる。これにより、ウエブ・アプリケーションは、バージョンアップが早くできるようになり、携帯電子機器20へ配布することにより、携帯電子機器20の進化への追従が容易にできる。
また、ユーザは、サーバ10にアクセスして、表示画面を自分の好みにカスタマイズすることもできる。
【0030】
次に車載表示装置30を説明する。
図4は、車載表示装置の概略構成を示すブロック図である。
車載表示装置30は、表示部300と、操作部310と、処理ユニット320と、携帯電子機器通信部330と、記憶ユニット350と、を備える。
【0031】
表示部300は、グラフィックスやテキストメッセージを表示する表示装置を含み、例えば液晶表示装置や有機ELディスプレイを用いて構成することができる。
操作部310は、ユーザが車載表示装置30に対して情報や指示を入力するための入力デバイスである。操作部310は、表示部300の表示画面上に設けられたタッチパネルとすることができる。以下、操作部310は、表示部300の表示画面上の全面に装着されたタッチパネルを主として説明する。
【0032】
タッチパネルでは、縦横で示される座標により、ユーザに触れられた位置が検出される。
図5は、タッチパネルの座標を示す図である。
ユーザが、タッチパネル400で、
図5のP点に触れると、x座標としてxP、y座標としてyPが検出され、座標(xP,yP)という位置が検出される。この座標は、タッチパネル400の絶対的な位置であってもよく、相対的な位置であってもよい。
【0033】
携帯電子機器通信部330は、携帯電子機器20と、USBなどの有線通信、ブルートゥースなどの無線通信で情報の通信を行う。
【0034】
処理ユニット320は、CPU等のプロセッサ、プログラムが書き込まれたROM、データの一時記憶のためのRAM等のメモリを有するコンピュータであり、連携インターフェース部360を備える。連携インターフェース部360は、コンピュータである処理ユニット320がプログラムを実行することにより実現され、当該コンピュータ・プログラムは、コンピュータ読み取り可能な任意の記憶媒体に記憶させておくことができる。
【0035】
連携インターフェース部360は、携帯電子機器20と連携するためのインターフェース部である。
連携インターフェース部360は、プログラムの実行により実現されるほか、それぞれ一つ以上の電気部品を含む専用のハードウエアとして構成することもできる。
【0036】
記憶ユニット350は、半導体メモリやハードディスク装置(HDD、Hard Disc Drive)を含む、任意の不揮発性の記憶装置又は不揮発性の記憶装置と揮発性の記憶装置との組み合わせとすることができる。
【0037】
次に、携帯電子機器20と車載表示装置30との連携に関して説明する。
携帯電子機器20の連携インターフェース部160は、車載表示装置30で入力される情報の処理と、車載表示装置30で表示する情報の送信処理と、を行う。
【0038】
車載表示装置30で表示する情報の送信処理として、連携インターフェース部160は、携帯電子機器20の表示画面に表示する画面を、車載表示装置30へ送信する。
車載表示装置30の表示部300は、携帯電子機器20の表示部100と異なるが、同じ内容を表示させるようにする。
【0039】
車載表示装置30の連携インターフェース部360は、携帯電子機器20から送られたウエブ・ブラウザの画面を表示部300に表示する。
このように、車載表示装置30の表示部300への表示に関しては、携帯電子機器20の表示部100への表示と連動させて表示をさせる。
【0040】
車載表示装置30で入力される情報の処理として、連携インターフェース部160は、車載表示装置30の操作部310から入力された情報を、携帯電子機器20の操作部110で入力された情報に変換する。
【0041】
アプリケーションによっては、携帯電子機器20の操作部110からの操作しか受け付けないものがある。そのため、車載表示装置30の操作部310から入力された情報を変換することにより、携帯電子機器20が有するGUI(graphical User Interface)を部分的に模して、あたかも携帯電子機器20のGUIを疑似的に操作しているようにする。
【0042】
このようなGUIを疑似的GUIと呼ぶものとする。疑似的GUIとは、携帯電子機器20が本来有するGUIを疑似的にエミュレートしたインターフェースとなる。
本実施形態では、車載表示装置30の操作部310を、携帯電子機器20の操作部110として利用するものである。
【0043】
疑似的GUIを用いてウエブ・アプリケーションを操作する場合は、直接的に携帯電子機器20のGUIを用いて操作する場合とは処理が異なるので、情報の変換が必要となる。
また、携帯電子機器20のGUIを用いて操作する場合を直接操作とすると、車載表示装置30からの操作を間接操作ということができる。
【0044】
連携インターフェース部160は、車載表示装置30の操作部310から入力された情報を用いて、プログラム言語により変換し、車載表示装置30からの間接操作を可能とする。
これにより、車載表示装置30で入力された情報が、あたかも携帯電子機器20の操作部110で入力された情報となる。
【0045】
たとえば、車載表示装置30の操作部310でタッチ操作(タッチパネルにユーザが触れている状態)がされると、車載表示装置30の連携インターフェース部360でタッチ操作の現在のx座標位置、y座標位置、直前のx座標位置、y座標位置、タイムスタンプが取得され、それらが携帯電子機器20へ送信される。
連携インターフェース部160は、各座標位置情報をパラメータとして用い、たとえばJavaScript(登録商標)へ伝達できるタッチ操作情報に変換し、このような疑似GUIを間接操作としてウエブ・アプリケーションに反映する。
【0046】
また、車載表示装置30の操作部310が専用スイッチやマウスなど、タッチパネル以外の入力手段を有する場合、表示部300に表示されない内部操作をすることがある。この場合でもユーザによる操作部310の操作を変換し、プログラム言語による間接操作を可能にする。
【0047】
このような疑似的GUIを用いた間接操作により、アプリケーションによっては携帯電子機器20の操作部110からの操作しか受け付けない場合であっても、車載表示装置30の操作部310への操作入力の絶対的・相対的な位置を、携帯電子機器20の操作入力の位置入力として用いることができる。多くのGUIが、位置に基づいて操作しているため、多くのウエブ・アプリケーションを利用できるようになる。
【0048】
一方、連携インターフェース部160は、携帯電子機器20の操作部110により、GUIを介した直接操作を可能とする。
【0049】
ここで、直接操作と間接操作による画面表示態様が異なる場合、直接操作した場合の画面表示態様となるように表示部300を制御する。
直接操作した場合は、ユーザの選択箇所がハイライトしたり、入力したパスワードがマスクされたり、何らかの意味をもって表示態様が変化する場合がある。一方で間接操作の場合、そのような処理が行われずに直ちに入力結果が示されることもあり、ユーザはその操作が分かりにくい。
【0050】
そこで、直接操作と間接操作の画面表示態様が異なる場合、直接操作した場合の画面表示態様と同じになるように表示部300を制御することで、車載表示装置30からの遠隔操作時の違和感を抑制することができる。
直接操作と間接操作による画面表示態様が異なるか否かの判定は、携帯電子機器20が車載表示装置20に問い合わせて判定する。またこの判定は、携帯電子機器20の内部に予め車載表示装置20毎に格納している情報に基づいて判定してもよい。
【0051】
また、車載表示装置30に携帯電子機器20と同等の機能を発揮しうるGUIが存在する場合、そのGUIを利用した方が車載表示装置30で利用する際に操作性が高くなったり、描画や操作応答の反応が良くなる。
そこで、間接操作において、ウエブ・ブラウザのGUIと同等機能を有する車載GUIが存在する場合、車載GUIを用いて疑似的GUIを構成し、車載GUIの出力を、パラメータとして用いる。また、車載表示装置30と携帯電子機器20のGUIを比較し、最適なGUIを提供することができる。例えば、文字入力時の車載側のソフトウエア・キーボードや、日時選択のリスト呼び出しがそれらの機能に相当する。
車載表示装置30では、車載表示装置30の製造者が設計した、使いやすい安全なHMI(Human Machine Interface)を提供することができる。
【0052】
携帯電子機器20で使用されるウエブ・ブラウザのGUIと同等機能を有する車載GUIが存在するかどうかは、携帯電子機器20が車載表示装置20に問い合わせて判定する。またこの判定は、携帯電子機器20の内部に予め車載表示装置20毎に格納している情報に基づいて判定してもよい。
【0053】
携帯電子機器20では、ウエブ・アプリケーションで統一されたアプリケーションを用いて携帯電子機器ブラウザ上で動作する。そのため、車載表示装置30のソフトウエアの変更なしで、新しいコンテンツにいち早く対応することができる。
【0054】
次に、携帯電子機器連携システムの動作手順について
図6と
図7を参照して説明する。
図6は、本発明の実施形態に係る携帯電子機器連携システムの動作手順を示すフローチャートである。
図7は、車載表示装置で表示されるウエブ・アプリケーション画面を示す図である。
【0055】
まず初期状態であるステップS100で、車載表示装置30の表示部300に車載表示装置20の組み込みソフトウエアによるランチャー(Launcher)メニュー500が表示される。
ランチャーメニュー500とは、あらかじめ登録しておいたファイルやプログラムをアイコンで一覧表示したものである。ランチャーメニュー500には種々のアイコンが表示されている。
ユーザが1つのアイコン510を操作部310で触れられると、ステップS110へ移る。
【0056】
ステップS110で、ウエブ・ブラウザのGUIと同等機能を有する車載GUIが車載表示装置30に存在するかどうかを判定する。存在しなければ、ステップS120へ移行する。存在すればステップS130へ移行する。
ステップS120で、疑似的GUIを構築するように連携インターフェース360を設定する。ステップS140へ移行する。
ステップS130で、車載GUIを用いた疑似的GUIを構築するように連携インターフェース360を設定する。ステップS140へ移行する。
【0057】
ステップS140で、触れられた操作部310の位置からアイコン510に対応したアプリケーションが特定され、起動される。表示部300には、携帯電子機器20から送られた、そのアプリケーションのウエブ・ブラウザの画面520を表示する。画面520には、アイコン521、522、523、524、525、526が表示されている。すなわち、表示部300には、ウエブ・ブラウザのGUIが表示される。
【0058】
ここで、起動されたアプリケーションのウエブ・ブラウザが、携帯電子機器20の操作部110以外からの操作を受け付けないとすると、操作部310からの操作は疑似的GUIの入力となり、表示と操作を併せて疑似的GUIとなる。
ユーザが、アイコン521をクリックすると、アイコン521の位置情報を、パラメータとして用いて、携帯電子機器20へ出力する。ステップS150へ移行する。
【0059】
ステップS150で、直接操作と間接操作による画面表示態様が異なるか否かを判定する。画面表示態様が異なる場合、ステップS160へ移行する。それ以外はステップS170へ移行する。
【0060】
ステップS160で、直接操作した場合の画面表示態様となるように表示部300を制御する。その後終了する。
ステップS170で、画像表示を変更せずに表示する。その後終了する。
【0061】
ステップS140において、たとえば、アイコン521をクリックすると、ステップ160、170において場所に関するウエブ・アプリコンテンツの画面530が表示される。同様にユーザが、アイコン522をクリックすると、ナビゲーションに関するウエブ・アプリコンテンツの画面540が表示され、アイコン523をクリックすると、メッセージに関するウエブ・アプリコンテンツの画面550が表示される。
画面530、540、550の上部には、元の画面520のウエブ・アプリケーションを示すアイコン560が上部に表示され、階層関係がわかるようになっている。
【0062】
このように、パーソナル・コンピュータのウエブ・ブラウザで、天気予報を調べたり、グルメ検索したり、地図を見たりするような機能が、携帯電子機器20のブラウザを介して、あたかも車載表示装置30の機能のように実現できる。
【0063】
以上、連携プログラム200は携帯電子機器20内にある例を説明したが、他の実施形態として、連携プログラム200の全部または一部が車載表示装置30内にあってもよい。
この場合、車載表示装置30の連携インターフェース部360が直接操作と間接操作の処理をし、車載表示装置30から直接携帯電子機器20のウエブ・ブラウザへ遠隔制御プログラムを発信する。
また、連携プログラム200は、サーバ10から携帯電子機器20を経由して、車載表示装置30へ配布されることができる。
【0064】
本実施形態の携帯電子機器連携システムによれば、表示部と操作部を、携帯電子機器と接続する連携インターフェースを備えた車載表示装置と、GUIを介した直接操作とプログラム言語による間接操作とが可能なウエブ・ブラウザ、及び連携用プログラムを備えた携帯電子機器と、ウエブ・ブラウザを利用するウエブ・アプリケーションを提供するウエブ・アプリサーバと、を備える。
携帯電子機器連携システムは、連携インターフェースを介して、表示部にはウエブ・ブラウザのGUIが表示され、表示の内容に基づいて操作部上に疑似的GUIが構築され、疑似的GUIの操作が操作部から携帯電子機器へ出力されることによって、プログラム言語によるウエブ・ブラウザの間接操作を実行する。
【0065】
これにより、サーバ型ウエブ・アプリケーションの汎用性を生かしつつ、異質なデバイスからのウエブ・ブラウザ経由でのGUIの操作が可能となる。ウエブ・ブラウザのセキュリティ上の問題で、遠隔操作を禁止されていたり、タッチセンサの精度の違い等により、異なるデバイス間で遠隔操作が難しい場合でも、表示と操作を切り分けることで、その遠隔操作が可能となる。
【0066】
また、サーバ型ウエブ・アプリケーションなので配信内容によってGUIは都度変化するが、ウエブ・ブラウザを予め用意されている間接操作用プログラム言語のみで操作できるようにしたため、アプリケーション開発の工数も減る。
ここで予め用意されている、というのは、そのウエブ・ブラウザをプログラミングにより操作可能となっている、という意味である。例えば、一般的なウエブ・ブラウザは、間接操作用プログラム言語であるスクリプト言語等を実行可能なようになっており、動作可能なように設計されている。
【0067】
本実施形態によると、携帯電子機器連携システムでウエブ・ベースのリッチクライアントを利用することが好適に実現できる。
【0068】
なお本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。