(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0014】
<実施の形態1>
図1は、本発明に係る情報表示システムの構成図である。当該情報表示システムは、情報表示制御装置10と、それに接続される画像表示装置21、音声出力装置22および操作入力装置23と、情報表示制御装置10と連携(リンク)可能な通信端末30とを含んでいる。
【0015】
情報表示制御装置10は、画像表示装置21に表示させる画像および音声出力装置22に出力させる音声を制御する。操作入力装置23は、ユーザが情報表示制御装置10に対する操作、もしくは情報表示制御装置10を介して通信端末30をリモート操作するためのユーザインターフェイスである。情報表示制御装置10が組み込まれる具体的な製品としては、例えば、カーナビゲーション装置、デジタルテレビ、テレビゲーム機などが考えられる。
【0016】
本実施の形態では、情報表示制御装置10に、情報表示制御装置10の位置を取得する機能を有する現在位置取得装置24がさらに接続される例を示す。現在位置取得装置24は、情報表示制御装置10が例えばナビゲーション用のアプリケーションを実行する際に用いられる。情報表示制御装置10が、位置情報を必要としないアプリケーションを実行する場合、基本的に現在位置取得装置24は当該情報表示制御装置10には不要である。
【0017】
画像表示装置21、音声出力装置22、操作入力装置23および現在位置取得装置24は、情報表示制御装置10に内蔵されていてもよいし、外付けのデバイスであってもよい。画像表示装置21、音声出力装置22、操作入力装置23および現在位置取得装置24が外付けのデバイスの場合、それらと情報表示制御装置10との間の接続(通信)は、それぞれ有線方式でも無線方式でもよい。
【0018】
画像表示装置21としては、液晶表示装置が代表的であるが、画像表示機能を有する任意の装置(例えば、テレビジョン表示装置、スマートフォン、タブレット端末、車両のインストルメントパネルの表示部、画面付きのゲームコントローラなど)を利用してもよい。音声出力装置22は、スピーカやヘッドフォン等が一般的であるが、これも音声出力機能を有する任意の装置を利用してもよい。
【0019】
操作入力装置23は、基本的に情報表示制御装置10の操作に用いられるが、情報表示制御装置10が通信端末30とリンクしている状態では、ユーザは、操作入力装置23を介して通信端末30をリモート操作することもできる。操作入力装置23は、操作ボタン、操作スティック、キーボード、トラックパッド等のハードウェアでもよいし、画面に表示されるアイコンを用いたソフトウェアキーでもよい。操作入力装置23としてのソフトウェアキーを画像表示装置21に表示させる場合、画像表示装置21と操作入力装置23は、両者の機能を兼ね備えた1つのタッチパネルとしてもよい。
【0020】
現在位置取得装置24は、GPS(Global Positioning System)43から発信される信号を受信して絶対的な位置(緯度、経度)を取得するGPS受信機が代表的であるが、相対的な位置(位置の変化)を取得するための速度センサ、方位センサなども含まれる。
【0021】
情報表示制御装置10は、制御部11、通信部12、画像処理部13、音声処理部15、通信端末情報解析部16、通信端末制御部17および記憶部18を備えている。情報表示制御装置10はコンピュータを用いて構成されており、情報表示制御装置10の各要素は、コンピュータが、記憶部18に記憶されている制御プログラム181に従って動作することにより実現される。なお、記憶部18は、ハードディスク、リムーバブルディスク、メモリなどの記録媒体によって構成される。
【0022】
制御部11は、制御プログラム181に従って情報表示制御装置10の全体を制御する機能を有する。また、制御部11は、記憶部18に記憶されている情報表示制御装置10用のアプリケーションプログラム182を実行することもできる。情報表示制御装置10の記憶部18に記憶されているアプリケーションプログラム182には、通信端末30で動作するアプリケーションと同様の機能を発揮する代替アプリケーションが含まれている。
【0023】
通信部12は、情報表示制御装置10が通信端末30とリンクするのに必要な通信を行う機能を有し、通信端末30との間で、画像データ、音声データ、制御命令など各種の情報をやりとりする。通信部12と通信端末30との間の通信方式は、例えばUSB(Universal Serial Bus)ケーブルやLAN(Local Area Network)ケーブルなどを用いる有線通信でもよいし、無線LANやBluetooth(登録商標)などの無線通信でもよい。
【0024】
画像処理部13は、画像表示装置21に画像を表示させるための画像信号を生成する機能を有している。特に、情報表示制御装置10が通信端末30とリンクした状態では、画像処理部13は、通信端末30で動作しているアプリケーションが出力する画像(アプリケーション画像)を、通信部12を介して取得し、画像表示装置21に表示させることができる。
【0025】
但し、画像処理部13が通信端末30で動作しているアプリケーションの画像(アプリケーション画像)を画像表示装置21に表示させているときに、通信端末30で所定のイベントが発生すると、それによって通信端末30からのアプリケーション画像の送信が中断され、情報表示制御装置10はアプリケーション画像を取得できなくなる。その場合、制御部11は、当該アプリケーションと同様の機能を発揮する代替アプリケーションを実行し、画像処理部13は、イベントの発生を示す画像(イベント画像)と代替アプリケーションの画像(代替アプリケーション画像)とを合成した合成画像を画像表示装置21に表示させる。
【0026】
音声処理部15は、音声出力装置22に音声を出力させるための音声信号を生成する機能を有している。特に、情報表示制御装置10が通信端末30とリンクした状態では、音声処理部15は、通信端末30で動作しているアプリケーションが出力する音声を、通信部12を介して取得し、音声出力装置22から出力させることができる。さらに、通信端末30で所定のイベントが発生した場合、音声処理部15は、そのイベントの発生をユーザに通知する音声を音声出力装置22から出力させることもできる。
【0027】
通信端末情報解析部16は、通信部12を介して通信端末30から取得した情報(データ)に基づき、通信端末30の識別や状態判断を行う。通信端末情報解析部16が通信端末30から取得する情報としては、例えば、通信端末30で実行中のアプリケーションの属性情報(アプリケーションの種別など)や、通信端末30の属性情報(機種名、機能、電話番号、所有者名など)、各イベント(電話着信、メール着信、電池切れ、通信不可など)の発生情報等が挙げられる。
【0028】
通信端末制御部17は、通信部12を介して通信端末30へ各種の制御命令やデータを送信することにより、通信端末30を制御する機能を有している。情報表示制御装置10が通信端末30とリンクした状態では、ユーザは、操作入力装置23を用いて、画像表示装置21に表示された通信端末30の操作画面(通信端末30で動作しているアプリケーションの操作画面や、通信端末30で発生したイベントに対する操作画面)の画像に基づく操作を行うことができる。このユーザの操作内容は、通信端末制御部17が通信端末30に伝達し、通信端末30がその操作内容に応じた動作を行う。その結果、操作入力装置23を用いた通信端末30のリモート操作が実現される。
【0029】
通信端末30は、情報表示制御装置10とリンクするための通信機能を有している。スマートフォンや携帯電話などのように、通信網41(通信端末30が在圏するネットワーク)を介した遠端側通信装置42との通信機能を有しても良い。また、通信端末30は、通信端末30用のアプリケーションを実行することによって、電話機能や、電子メール(Eメール)の送受信機能、インターネットの閲覧機能(ブラウザ機能)、GPS43を利用して経路案内を行うナビゲーション機能などの様々な機能を発揮できてもよい。
【0030】
通信端末30の構成は、例えば一般的なスマートフォンと同様でよいため詳細な説明は省略するが、
図1では、本発明と特に関係する表示部31、操作部32、制御部33および通信部34を図示している。
【0031】
表示部31は、通信端末30で実行中のアプリケーションの画像を表示したり、イベント発生時には当該イベントの通知画面や操作画面の画像を表示したりする。操作部32は、通信端末30のユーザインターフェイスであり、ユーザは、操作部32を用いてアプリケーションやイベントに対する操作を行うことができる。制御部33は、通信端末30用の制御プログラムを実行することで、通信端末30の基本的な機能(通信機能や通話機能など)の制御を行うと共に、各種のアプリケーションを実行することにより、上記した様々な機能を通信端末30に発揮させることができる。通信部34は、情報表示制御装置10とリンクするための通信を行うが、通信網41を介した遠端側通信装置42との通信にも用いられてもよい。
【0032】
次に、実施の形態1に係る情報表示システムの動作を説明する。以下の説明では、情報表示制御装置10、画像表示装置21、音声出力装置22、操作入力装置23および現在位置取得装置24はいずれも車載装置であり、通信端末30はスマートフォンであると仮定する。また、画像表示装置21と操作入力装置23は、一つのタッチパネル(後述の「タッチパネル装置212」)として構成されているものとする。同様に、通信端末30の表示部31および操作部32も、一つのタッチパネル(後述の「タッチパネル部312」)として構成されているものとする。
【0033】
また、以下の説明では、通信端末30で動作するアプリケーションとして、経路案内を行うナビゲーション用アプリケーションを例示し、通信端末30に発生するイベントとして、電話着信を例示する。但し、本発明の適用は、そのアプリケーションとイベントの組み合わせに限定されるものではない。例えば、通信端末30で動作するアプリケーションはブラウザなどでもよく、通信端末30に発生するイベントとしては、Eメール着信などでもよい。
【0034】
まず、情報表示制御装置10と通信端末30との連携(リンク)機能の概要を説明する。情報表示制御装置10と通信端末30とが有線または無線により物理接続され、双方の通信によってリンクが確立すると、
図2に示すように、情報表示制御装置10に接続したタッチパネル装置212(画像表示装置21)に、通信端末30のタッチパネル部312(表示部31)と同じ画像が表示される。また、情報表示制御装置10に接続した音声出力装置22には、通信端末30が出力するものと同じ音声が出力される。
【0035】
情報表示制御装置10と通信端末30とがリンクしている間、通信端末30が出力する画像や音声などのデータは情報表示制御装置10へ送信され、情報表示制御装置10は当該データをタッチパネル装置212および音声出力装置22を用いて出力することができる。
【0036】
さらに、ユーザは、情報表示制御装置10と通信端末30とがリンクしている間、タッチパネル装置212(操作入力装置23)を操作することによって、通信端末30のタッチパネル部312(操作部32)を操作するのと同じ感覚で、通信端末30をリモート操作することができる。なお、リンクが確立している間も通信端末30のタッチパネル部312の操作は禁止されず、通信端末30は、タッチパネル部312からもタッチパネル装置212からも操作可能な状態になる。
【0037】
例えば、
図2に示した状態から、ユーザがタッチパネル装置212に表示された「ナビゲーション」のアイコンにタッチすると、通信端末30のタッチパネル部312を操作したときと同じように、通信端末30でナビゲーション用アプリケーションが起動する。すると、
図3のように、通信端末30のタッチパネル部312に当該アプリケーションの画像(ここでは地図)が表示され、それと共に、タッチパネル装置212にも通信端末30のタッチパネル部312と同じ画像が表示される。また、当該アプリケーションが、例えば経路案内のための音声を出力すると、その音声が情報表示制御装置10に接続された音声出力装置22から出力される。
【0038】
このように、情報表示制御装置10と通信端末30とがリンクした状態では、情報表示制御装置10と通信端末30とが互いに連携した動作を行う。
【0039】
以下では、情報表示制御装置10における通信端末30との連携動作の詳細を説明する。
【0040】
まず、リンク中の通信端末30からデータを受信した場合における、情報表示制御装置10の動作を説明する。
図4はその動作を示すフローチャートである。
【0041】
情報表示制御装置10の通信部12は、リンク中の通信端末30から送信されたデータを受信すると(ステップS101)、受信したデータの種類を確認する(ステップS102)。
【0042】
受信したデータが画像のデータであれば(ステップS103でYES)、通信部12は、その画像(データ)を画像処理部13へと送る(ステップS104)。画像処理部13は、当該画像を画像表示装置21に表示させる(ステップS105)。
【0043】
また、受信したデータが音声のデータであれば(ステップS103でNO、且つ、ステップS106でYES)、その音声(データ)を音声処理部15へと送る(ステップS107)。音声処理部15は、当該音声を音声出力装置22から出力させる(ステップS108)。
【0044】
一方、受信したデータが画像でも音声でもなく、通信端末30で実行中のアプリケーションの属性情報、通信端末30の属性情報、通信端末30の各イベントの発生情報などであれば(ステップS103でNO、且つ、ステップS106でNO)、通信部12は、その情報(データ)を通信端末情報解析部16へと送る(ステップS109)。通信端末情報解析部16は、それらの情報を解析し、その結果を制御部11へ送る(ステップS110)。それにより、制御部11は、通信端末30の状況に応じた情報表示制御装置10の制御を行うことができる。
【0045】
次に、通信端末30とのリンク中にユーザが操作入力装置23を操作した場合における、情報表示制御装置10の動作を説明する。
図5は、その動作を示すフローチャートである。
【0046】
ユーザにより操作入力装置23の操作が行われると、操作入力装置23はその操作を情報表示制御装置10の制御部11に通知し(ステップS201)、制御部11が、その操作の内容を確認する(ステップS202)。
【0047】
当該操作が、通信端末30の制御が必要となる操作であれば(ステップS203でYES)、制御部11は、その操作に対応する制御命令を通信端末制御部17へと送る(ステップS204)。通信端末制御部17は、その制御命令を、通信端末30が認識可能なフォーマットに変換して通信部12へ渡す(ステップS205)。通信部12は、フォーマット変換された制御命令を通信端末30へ送信する(ステップS206)。
【0048】
また、当該操作が、通信端末30へのデータ送信が必要となる操作であれば(ステップS203でNO、且つ、ステップS207でYES)、制御部11は、通信端末30へ送信するデータを通信端末制御部17へと送る(ステップS208)。通信端末制御部17は、そのデータを、通信端末30が認識可能なフォーマットに変換して通信部12へ渡す(ステップS209)。通信部12は、フォーマット変換されたデータを通信端末30へ送信する(ステップS210)。
【0049】
一方、当該操作が、その他の操作であれば(ステップS203でNO、且つ、ステップS207でNO)、その操作の対象は通信端末30ではなく情報表示制御装置10であるので、制御部11は、当該操作により入力された情報を、制御プログラム181およびアプリケーションプログラム182の処理に利用する(ステップS211)。それにより、情報表示制御装置10は、ユーザの操作に基づく動作を行うこととなる。
【0050】
次に、通信端末30とのリンク中に、通信端末30で所定のイベントが発生した場合における情報表示制御装置10の動作を説明する。
【0051】
情報表示制御装置10は、リンク中の通信端末30で所定のイベントが発生すると、通信端末30で動作しているアプリケーションと同様の機能を有する代替アプリケーションを実行し、イベントの発生を示す画像(イベント画像)と代替アプリケーションの画像(代替アプリケーション画像)とを画像表示装置21に表示させる。つまり、通信端末30のアプリケーション画像とイベント画像とを合成した合成画像を、画像表示装置21に表示させる。イベント画像は、イベント発生の通知のみを目的とする画像に限らず、イベントの操作画面(ユーザインターフェイス)としても働く画像であってもよい。
【0052】
例えば、情報表示制御装置10と通信端末30とがリンクしており、
図3に示したように画像表示装置21(タッチパネル装置212)と通信端末30の表示部31(タッチパネル部312)の両方に、通信端末30で動作しているナビゲーション用のアプリケーションの画像(地図)が表示されている状態を仮定する。
【0053】
その状態から、通信端末30で電話着信のイベントが発生すると、
図6のように、通信端末30の表示部31には、電話着信を通知する画面(着信画面)の画像が表示される。ここでは、着信画面の画像として、発信者の名前および電話番号を表す文字と「通話開始」および「保留」の操作ボタン(アイコン)とからなる画像を例示している。
【0054】
通信端末30に電話着信があると、通信端末30からのアプリケーション画像の送信は中断される。この場合、情報表示制御装置10は、通信端末30からイベント画像(着信画面の画像)を取得すると共に、通信端末30で動作しているアプリケーションと同様の機能を発揮する代替アプリケーションを起動させる。ここでは、通信端末30でナビゲーション用のアプリケーションが動作しているので、情報表示制御装置10は、代替アプリケーションとして、ナビゲーション用のアプリケーションを起動させる。
【0055】
本実施の形態では、代替アプリケーションとしてのナビゲーション用のアプリケーションは、通信端末30で動作しているナビゲーション用のアプリケーションよりも簡略化された地図を表示する簡易ナビゲーション用のアプリケーションとする。代替アプリケーションとして、簡易ナビゲーション用のアプリケーションを使用することにより、情報表示制御装置10の記憶部18に記憶させる地図データを少なくできるという利点がある。
【0056】
代替アプリケーションが起動すると、情報表示制御装置10は、
図6のように、代替アプリケーション画像(簡易ナビゲーション用の地図)とイベント画像(着信画面の画像)とを合成して、画像表示装置21に表示させる。
図6では、画像表示装置21(タッチパネル装置212)の画面に、代替アプリケーション画像の一部にイベント画像(着信画面の画像)が重ねて表示される例を示している。
【0057】
ユーザは、タッチパネル装置212に表示されているイベント画像にタッチすることにより、通信端末30のリモート操作が可能である。例えば
図6の状態で、ユーザがタッチパネル装置212に表示されたイベント画像の「通話開始」ボタンにタッチすると、通信端末30を用いたハンズフリー通話を開始させることができる。
【0058】
また、代替アプリケーションは情報表示制御装置10で動作しているため、情報表示制御装置10は、通信端末30にイベントが発生している間も、代替アプリケーションの画像を随時更新させながら動的に表示させることができる。よって、電話着信後や通話開始後に車両が進むと、現在位置取得装置24から取得した位置を使うなどにより、代替アプリケーション画像としての地図に表示されている車両の位置も移動させることができる。従って、ユーザは、タッチパネル装置212に表示されている地図から現在位置を直感的に把握でき、利便性は維持される。
【0059】
ところで、通信端末30で発生するイベントの中には、ユーザへの通知が不要なものもある。例えば、アプリケーションのアップデート情報の受信など、緊急性の低いものはユーザに通知する必要性も低い。また電話着信のイベントの中にも、特定の発信者からの電話着信や、発信者番号非通知の電話着信は、ユーザが通知の拒否を希望することが考えられる。
【0060】
そこで、実施の形態1では、ユーザへの通知が不要なものとして予め定められた特定のイベントが発生した場合には、情報表示制御装置10がそのイベントに対応するイベント画像は表示させないように構成する。
【0061】
例えば
図3の状態から、ユーザへの通知が不要と予め定められた発信者番号非通知の電話着信が発生した場合、情報表示制御装置10は、
図7のように、通信端末30の表示部31(タッチパネル部312)に表示されたイベント画像(着信画面の画像)を画像表示装置21(タッチパネル装置212)には表示させず、画像表示装置21には代替アプリケーション画像(地図)を表示させる。
【0062】
なお、どのイベントの通知を必要とするか(又は、どのイベントの通知を必要としないか)は、ユーザが任意に設定できるようにするとよい。
【0063】
図8は、通信端末30とのリンク中に、通信端末30でイベントが発生した場合における情報表示制御装置10の画像表示動作を示すフローチャートである。
【0064】
情報表示制御装置10と通信端末30とがリンクしているときに、通信端末30でイベントが発生すると、そのイベントの発生情報(以下「イベント情報」)が通信端末30から情報表示制御装置10へと送信される。通信端末30が送信するイベント情報には、イベントの発生時に送信される開始通知と、イベントの終了時に送信される終了通知とが含まれる。
【0065】
情報表示制御装置10の通信部12がイベント情報を受信すると(ステップS301)、通信部12はそのイベント情報を通信端末情報解析部16へ送る(ステップS302)。通信端末情報解析部16は、制御部11の内部に保存されているイベントに関するフラグ(条件判定処理の結果を保存するためのデータ)をクリアし(ステップS303)、そのイベント情報を解析する(ステップS304)。
【0066】
解析の結果、イベント情報が、ユーザに通知するイベントの開始通知であった場合(ステップS305でYES)、通信端末情報解析部16は、制御部11内部に保存されているイベントフラグをセットする(ステップS306)。イベント情報が、イベントの終了通知であった場合(ステップS305でNO、且つ、ステップS307でYES)、フラグはセットされない。イベント情報が、ユーザに通知するイベントの開始通知でもイベントの終了通知でもなかった場合(ステップS305でNO、且つ、ステップS307でNO)、通信端末情報解析部16は、制御部11に保存されている読み捨てフラグをセットする(ステップS308)。
【0067】
その後、通信端末30からの画像(データ)を通信部12が受信すると(ステップS309)、通信部12は受信した画像を画像処理部13に送り(ステップS310)、制御部11がイベントフラグおよび読み捨てフラグの状態を確認する(ステップS311)。そして、画像処理部13が、イベントフラグおよび読み捨てフラグの状態に応じて、取得した画像を利用して画像表示装置21(タッチパネル装置212)に表示させる画像を生成する。
【0068】
通信端末30から受信したイベント情報が、ユーザに通知するイベントの開始通知であった場合、すなわち、イベントフラグがセット状態の場合は(ステップS312でYES)、制御部11は、代替アプリケーションを起動させる(ステップS313)。また、代替アプリケーションで必要であれば、制御部11は現在位置取得装置24から位置情報を取得する。そして、通信部12から受信した画像(受信画像)の加工処理(ステップS314)を行い、起動した代替アプリケーションの画像(代替アプリケーション画像)と加工処理後の受信画像とを合成した合成画像を生成する(ステップS315)。このケースは、イベント発生中の状態なので、受信画像はイベント画像である。画像処理部13は、生成した合成画像を、画像表示装置21に表示させる(ステップS316)。合成画像の生成とその表示(ステップS315,S316)は、情報表示制御装置10が次のイベント情報を受信するまで繰り返し実行される(ステップS317)。その結果、画像表示装置21(タッチパネル装置212)には、
図6のように代替アプリケーション画像とイベント画像の両方が表示される。
【0069】
図6のように代替アプリケーション画像の一部に受信画像(イベント画像)を重ねて表示させる場合、受信画像の加工処理(ステップS314)では、イベント画像のサイズ調整(拡大または縮小)が必要に応じて行われる。また、合成画像の生成処理(ステップS315)では、代替アプリケーション画像の一部に加工処理後の受信画像を重ねた合成画像が生成される。
【0070】
通信端末30から受信したイベント情報が、ユーザに通知するイベントの開始通知でもイベントの終了通知でもなかった場合、すなわち、読み捨てフラグがセット状態の場合は(ステップS312でNO、ステップS318でYES)、代替アプリケーションを起動させて(ステップS319)、処理を終了する。この場合、画像表示装置21(タッチパネル装置212)には、
図7のように、代替アプリケーション画像が表示されるようになる(操作入力装置23に対するユーザの操作で代替アプリケーションを起動させたときと同じ状態になる)。
【0071】
通信端末30から受信したイベント情報が、イベントの終了通知であった場合、すなわち、イベントフラグも読み捨てフラグもセットされていない場合は(ステップS312でNO、且つ、ステップS318でNO)、受信画像を画像表示装置21に表示させて(ステップS320)、処理を終了する。このケースは、イベントの終了後の状態なので、受信画像は通信部12を介して取得した通信端末30のアプリケーション画像である。その結果、画像表示装置21(タッチパネル装置212)の表示は、
図3のように、通信端末30の表示部31(タッチパネル部312)と同じアプリケーション画像となる。
【0072】
イベントが終了したとき、代替アプリケーションは終了させてもよい。例えば、代替アプリケーションを起動させる際(ステップS313またはS319)に、その代替アプリケーションが既に起動中か否かを記憶しておき、イベント終了時に、代替アプリケーションを元の状態に戻すようにしてもよい。すなわち、イベント発生時に既に起動中だった代替アプリケーションはイベントが終了しても動作を継続させ、イベント発生に応じて起動した代替アプリケーションは、イベント終了時に終了させるようにしてもよい。
【0073】
代替アプリケーションは、イベント発生時に通信端末30で動作しているアプリケーションと同様の機能を発揮するものであるが、さらに、イベントが発生する前後で画像表示装置21の画面表示の継続性を担保できるものであることが望ましい。
【0074】
例えば、イベントが発生したことによって、画像表示装置21(タッチパネル装置212)の表示が、通信端末30で動作しているナビゲーション用のアプリケーションの地図(
図3)から、代替アプリケーション(簡易ナビゲーション)の地図(
図6または
図7)に切り替わる場合、代替アプリケーションの地図は、通信端末30のアプリケーションの地図と同じ地域を同じ縮尺・向きで表示することが望ましい。それを実現するためには、通信端末30のアプリケーションがどの地域の地図を、どのような縮尺で、どの方角を上にして表示していたか、といった情報を、情報表示制御装置10が取得する必要がある。
【0075】
さらに、通信端末30のアプリケーションの地図に現在位置から目的地までの経路が表示されていた場合には、その経路の情報も取得して代替アプリケーションの地図に表示するとよい。あるいは、情報表示制御装置10が目的地の情報を取得し、現在位置から目的地までの経路を代替アプリケーションで再検索して表示させてもよい。
【0076】
また、代替アプリケーションの起動が遅いと、画像表示装置21の表示を通信端末30のアプリケーション画像から代替アプリケーション画像へ即座に切り替えることができない。例えば、簡易ナビゲーション用のアプリケーションは、起動時に現在位置取得装置24を用いて現在位置を取得する必要があるため、起動にある程度の時間を要する。この問題は、情報表示制御装置10が、イベント発生前から現在位置取得装置24を用いて現在位置を取得しておく、あるいは、イベント発生前から代替アプリケーションを起動させておく、などの措置により解決できる。
【0077】
なお、所定のイベント発生時に画像表示装置21(タッチパネル装置212)に表示させる画像の例として、
図6では代替アプリケーション画像の一部にイベント画像(受信画像)を重ねた合成画像を示したが、合成画像の構成(アプリケーション画像とイベント画像のレイアウト)はこれに限定されるものではなく、例えば代替アプリケーション画像とイベント画像とを上下または左右に並べた合成画像としてもよい。
【0078】
また、
図6では、合成画像に含まれているイベント画像が、通信端末30の表示部31に表示されたイベント画像と同じもの(サイズ調整のみを行ったもの)となっているが、所定の加工処理を施したイベント画像を用いてもよい。加工処理としては、例えば、トリミング、回転、透過、3D化、明るさ変更およびそれらの組み合わせなどが考えられる。イベント画像を加工処理することによって、イベント画像およびアプリケーション画像をそれぞれ見やすくするなどの視覚効果を得ることができる。
【0079】
さらに、合成画像に含ませるイベント画像の構成(例えばスタイルやレイアウト)を変更してもよい。この場合、受信画像の加工処理(ステップS314)では、受信画像の解析を行って、それに含まれる文字やボタン(アイコン)の位置、大きさ、スタイル(文字のフォントを含む)等を抽出し、それらに変更を加える処理が行われる。イベント画像の構成を変更することによって、イベント画像の表示を目立たせることができる他、ユーザインターフェイスとしてのイベント画像の操作性を向上させることもできる。
【0080】
<実施の形態2>
実施の形態2では、リンク中の通信端末30でイベントが発生したときに情報表示制御装置10が起動させる代替アプリケーションとして、インターネットのサイト(ウェブページ)を表示する機能を有するブラウザアプリケーション(以下「ブラウザ」)を用いる。代替アプリケーションがブラウザであることを除いて、情報表示システムの構成および動作は、実施の形態1と同様である。また、本実施の形態では、情報表示制御装置10がインターネットへのアクセス手段を有していることが前提となる。例えば通信部12がインターネットへのアクセス手段としての機能を有していてもよい。
【0081】
代替アプリケーションとしてのブラウザは、所定のサイトにアクセスすることによって、通信端末30で動作しているアプリケーションと同様の機能を発揮できる状態になる。ブラウザは、アクセスするサイトに応じて様々な機能を発揮することができるので、記憶部18に記憶させておく代替アプリケーションを少なくできる。
【0082】
例えば、通信端末30で動作しているアプリケーションが、ナビゲーション用のアプリケーションであれば、情報表示制御装置10は、代替アプリケーションを起動させる工程で(
図8のステップS313またはS319)、ブラウザを起動させると共に、ナビゲーション機能を有する地図表示サイトにアクセスさせる。このとき、地図表示サイトへの入力パラメータとして、現在位置取得装置24から取得した位置情報を送信する。その結果、ブラウザは、情報表示制御装置10で動作しているナビゲーション用のアプリケーションと同様の機能を発揮できる状態になる。なお、現在位置取得装置24が位置を取得するタイミングは、必ずしもイベント発生時でなくてもよく、定期的に位置を取得して、記憶部18に記憶させておいてもよい。
【0083】
この場合、情報表示制御装置10と通信端末30とのリンクが確立した状態(
図3)から、通信端末30で電話着信のイベントが発生すると、画像表示装置21(タッチパネル装置212)には、
図9のように、電話の着信画面の画像(イベント画像)と、地図表示サイトにアクセスしたブラウザの画像(代替アプリケーション画像)との合成画像が表示されることになる。
【0084】
本実施の形態においても、実施の形態1と同様の効果を得ることができる。
【0085】
<実施の形態3>
図10は、本発明に係る情報表示システムの構成図である。
図10に示す情報表示システムは、
図1の構成に対して画像記憶部14を設けた構成となっている。
【0086】
画像記憶部14は、情報表示制御装置10が通信端末30とリンクしている間、通信端末30から取得したアプリケーションの画面(スクリーンショット)を随時記憶する機能を有している。
【0087】
実施の形態3では、情報表示制御装置10とリンクしている通信端末30で所定のイベントが発生し、情報表示制御装置10において、通信端末30で動作しているアプリケーションの画像(アプリケーション画像)の取得が中断される場合、制御部11は、当該アプリケーションが動作を継続したと仮定したときのアプリケーション画像の変化を推定する。さらに、画像処理部13は、画像記憶部14に記憶されているアプリケーション画像に、制御部11が推定した変化を加える加工処理を行って、加工処理後のアプリケーション画像とイベント画像とを合成した合成画像を画像表示装置21に表示させる。
【0088】
以下、実施の形態3に係る情報表示システムの動作を説明する。通信端末30でイベントが発生していない状態における情報表示制御装置10と通信端末30との連携動作は、実施の形態1で
図2〜
図5を用いて説明したものと同様なので説明は省略する。ここでは、リンク中の通信端末30で所定のイベントが発生した場合における情報表示制御装置10の動作を説明する。
【0089】
本実施の形態でも、情報表示制御装置10、画像表示装置21、音声出力装置22、操作入力装置23および現在位置取得装置24は、いずれも車載装置であり、通信端末30はスマートフォンであると仮定する。また、画像表示装置21と操作入力装置23は、一つのタッチパネル(タッチパネル装置212)として構成されているものとする。同様に、通信端末30の表示部31および操作部32も、一つのタッチパネル(タッチパネル部312)として構成されているものとする。
【0090】
また、通信端末30で動作するアプリケーションは、経路案内を行うナビゲーション用アプリケーションとし、通信端末30に発生するイベントは電話着信とする。通信端末30に発生するイベントは、Eメール着信などでもよい。
【0091】
実施の形態3の情報表示制御装置10は、リンク中の通信端末30で所定のイベントが発生すると、通信端末30で動作しているアプリケーションの画像の表示を継続しつつ、イベント画像を画像表示装置21に表示させる。つまり、通信端末30のアプリケーション画像とイベント画像とを合成した合成画像を、画像表示装置21に表示させる。但し、イベントが発生したことで、通信端末30からのアプリケーション画像の受信は中断されるので、合成画像に含ませるアプリケーション画像としては、当該アプリケーションが動作を継続したと仮定して推定したアプリケーション画像を用いる。
【0092】
例えば、
図3に示したように画像表示装置21(タッチパネル装置212)と通信端末30の表示部31(タッチパネル部312)に、通信端末30のナビゲーション用のアプリケーションの画像(地図)が表示されている状態を仮定する。
【0093】
その状態から、通信端末30で電話着信のイベントが発生すると、
図11のように、通信端末30の表示部31には、イベント画像としての着信画面の画像が表示される。通信端末30に電話着信があると、情報表示制御装置10は、通信端末30からイベント画像(着信画面の画像)を取得し、
図11のように、アプリケーション画像とイベント画像とを合成して、画像表示装置21に表示させる。このとき、通信端末30からのアプリケーション画像の送信は電話着信により中断しているため、合成画像に含ませるアプリケーション画像には、電話着信の直前に通信部12で受信した、画像記憶部14に記憶されているアプリケーション画像を用いる。
図11では、画像表示装置21の画面に、アプリケーション画像(地図)の一部にイベント画像(着信画面の画像)が重ねて表示される例を示している。
【0094】
ユーザは、タッチパネル装置212に表示されているイベント画像にタッチすることにより、通信端末30のリモート操作が可能である。例えば
図11の状態で、ユーザがタッチパネル装置212に表示されたイベント画像の「通話開始」ボタンにタッチすると、通信端末30を用いたハンズフリー通話を開始させることができる。
【0095】
図11の状態から、タッチパネル装置212が表示している地図が更新されなければ、情報表示制御装置10を搭載した車両が移動したとき、その地図に表示されている車両の位置から実際の車両がずれることになる。
【0096】
そこで本実施の形態では、制御部11が、現在位置取得装置24から得られる車両の位置の変化を検知することにより、通信端末30のアプリケーションが動作を継続したと仮定したときのアプリケーション画像の変化を推定する。
【0097】
車両が進むと、制御部11が、現在位置取得装置24から車両の位置を取得して、その変化(移動の方向と距離)を算出し、表示されている地図の縮尺や向きに基づいて、当該地図上で車両の位置がどの方向にどの程度移動するのかを推定する。
【0098】
画像処理部13は、制御部11が推定した地図上の車両の位置変化が反映されるように、画像記憶部14に記憶されている地図(アプリケーション画像)の加工処理を行う。そして画像処理部13は、イベント画像と加工処理後の地図との合成画像を生成し、当該合成画像をタッチパネル装置212に表示させる。
【0099】
例えば
図11の状態では、タッチパネル装置212の画面中央のやや下側に車両の位置を示すアイコン(白丸と黒三角とを組み合わせたマーク)が表示されている。その状態から車両が前進した場合、通信端末30のアプリケーションが動作を継続していると仮定すると、地図上の車両のアイコンは上方向に移動すると推定される。画像処理部13は、その推定結果に基づき、
図12のように車両の位置を示すアイコンを上方向に動かす加工処理を行う。この処理を繰り返すことにより、車両の移動に応じて地図上の車両の位置を示すアイコンが移動することになる。
【0100】
このように、通信端末30にイベントが発生している間もタッチパネル装置212に表示されているアプリケーション画像(地図)が動的に表示されることにより、ユーザはアプリケーション画像から現在位置を直感的に把握でき、利便性は維持される。
【0101】
なお、実施の形態3でも、ユーザへの通知が不要なものとして予め定められた特定のイベントが発生した場合には、情報表示制御装置10がそのイベントに対応するイベント画像は表示させない(推定したアプリケーション画像のみを表示する)ものとする。
【0102】
図13は、通信端末30とのリンク中に、通信端末30でイベントが発生した場合における、情報表示制御装置10の画像表示動作を示すフローチャートである。
図13のフローチャートにおいて、ステップS301〜311は、
図8と同様であるので、ここではそれらのステップの説明は省略する。
【0103】
情報表示制御装置10と通信端末30とがリンクしているときに、通信端末30でイベントが発生すると、そのイベントの発生情報(イベント情報)が通信端末30から送信され、情報表示制御装置10の通信部12に受信される。
【0104】
通信端末30から受信したイベント情報が、ユーザに通知するイベントの開始通知であった場合、すなわち、イベントフラグがセット状態の場合は(ステップS320でYES)、画像処理部13は、通信部12から受信した画像(受信画像)に対して拡大、縮小等の加工処理を必要に応じて行う(ステップS321)。このケースは、イベント発生中の状態なので、受信画像はイベント画像である。
【0105】
次に、制御部11は、現在位置取得装置24から現在位置を取得し(ステップS322)、それに基づき、現在位置の変化を算出する(ステップS323)。続いて、画像処理部13は、現在位置の変化が反映されるように、画像記憶部14に記憶されているアプリケーション画像(記憶画像)の加工処理(更新処理)を行う(ステップS324)。そして、加工処理後の記憶画像と受信画像とを合成した合成画像を生成し(ステップS325)、当該合成画像を、画像表示装置21に表示させる(ステップS326)。
【0106】
現在位置の変化の算出、記憶画像の更新、合成画像の生成および表示(ステップS322〜S326)は、情報表示制御装置10の通信部12が次のイベント情報を受信するまで繰り返し実行される(ステップS327)。その結果、画像表示装置21(タッチパネル装置212)には、
図12に示したように、イベント画像と共に動的なアプリケーション画像(地図)が表示される。
【0107】
通信端末30から受信したイベント情報が、ユーザに通知するイベントの開始通知でもイベントの終了通知でもなかった場合、すなわち、読み捨てフラグがセット状態の場合は(ステップS320でNO、ステップS328でYES)、制御部11は、現在位置取得装置24から現在位置を取得し(ステップ329)、それに基づき、現在位置の変化を算出する(ステップS330)。続いて、画像処理部13は、現在位置の変化が反映されるように、画像記憶部14に記憶されたアプリケーション画像(記憶画像)の加工処理(更新処理)を行う(ステップS331)。そして、加工処理後の記憶画像を画像表示装置21に表示させる(ステップS332)。
【0108】
現在位置の変化の算出、記憶画像の更新、記憶画像の表示(ステップS329〜S332)は、情報表示制御装置10が次のイベント情報を受信するまで繰り返し実行される(ステップS333)。その結果、画像表示装置21(タッチパネル装置212)には、イベント画像を含まない動的なアプリケーション画像(地図)が表示される。
【0109】
通信端末30から受信したイベント情報が、イベントの終了通知であった場合、すなわち、イベントフラグも読み捨てフラグもセットされていない場合は(ステップS320でNO、且つ、ステップS328でNO)、受信画像を画像表示装置21に表示させて(ステップS334)、処理を終了する。このケースは、イベントの終了後の状態なので、受信画像は通信部12を介して取得した通信端末30のアプリケーション画像である。その結果、画像表示装置21(タッチパネル装置212)の表示は、
図3のように、通信端末30の表示部31(タッチパネル部312)と同じアプリケーション画像となる。
【0110】
なお、所定のイベント発生時に画像表示装置21(タッチパネル装置212)に表示させる画像の例として、
図11および
図12ではアプリケーション画像の一部にイベント画像(受信画像)を重ねた合成画像を示したが、合成画像の構成(アプリケーション画像とイベント画像のレイアウト)はこれに限定されるものではなく、例えばアプリケーション画像とイベント画像とを上下または左右に並べた合成画像としてもよい。
【0111】
また、合成画像に含ませるイベント画像に対して、所定の加工処理を施してもよい。加工処理としては、例えば、拡大、縮小、トリミング、回転、透過、3D化、明るさ変更およびそれらの組み合わせなどが考えられる。イベント画像を加工処理することによって、イベント画像およびアプリケーション画像をそれぞれ見やすくするなどの視覚効果を得ることができる。
【0112】
さらに、合成画像に含ませるイベント画像の構成(例えばスタイルやレイアウト)を変更してもよい。この場合、受信画像の加工処理(ステップS321)では、受信画像の解析を行って、それに含まれる文字やボタン(アイコン)の位置、大きさ、スタイル(文字のフォントを含む)等を抽出し、それらに変更を加える処理が行われる。イベント画像の構成を変更することによって、イベント画像の表示を目立たせることができる他、ユーザインターフェイスとしてのイベント画像の操作性を向上させることもできる。
【0113】
なお、本発明は、その発明の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略することが可能である。
【0114】
この発明は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、この発明がそれに限定されるものではない。例示されていない無数の変形例が、この発明の範囲から外れることなく想定され得るものと解される。