IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 本田技研工業株式会社の特許一覧

特開2022-156097情報提供方法、プログラム及び情報提供装置
<>
  • 特開-情報提供方法、プログラム及び情報提供装置 図1
  • 特開-情報提供方法、プログラム及び情報提供装置 図2
  • 特開-情報提供方法、プログラム及び情報提供装置 図3
  • 特開-情報提供方法、プログラム及び情報提供装置 図4
  • 特開-情報提供方法、プログラム及び情報提供装置 図5
  • 特開-情報提供方法、プログラム及び情報提供装置 図6
  • 特開-情報提供方法、プログラム及び情報提供装置 図7
  • 特開-情報提供方法、プログラム及び情報提供装置 図8
  • 特開-情報提供方法、プログラム及び情報提供装置 図9
  • 特開-情報提供方法、プログラム及び情報提供装置 図10
  • 特開-情報提供方法、プログラム及び情報提供装置 図11
  • 特開-情報提供方法、プログラム及び情報提供装置 図12
  • 特開-情報提供方法、プログラム及び情報提供装置 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022156097
(43)【公開日】2022-10-14
(54)【発明の名称】情報提供方法、プログラム及び情報提供装置
(51)【国際特許分類】
   G06Q 30/02 20120101AFI20221006BHJP
【FI】
G06Q30/02 470
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2021059622
(22)【出願日】2021-03-31
(71)【出願人】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】100077665
【弁理士】
【氏名又は名称】千葉 剛宏
(74)【代理人】
【識別番号】100116676
【弁理士】
【氏名又は名称】宮寺 利幸
(74)【代理人】
【識別番号】100191134
【弁理士】
【氏名又は名称】千馬 隆之
(74)【代理人】
【識別番号】100136548
【弁理士】
【氏名又は名称】仲宗根 康晴
(74)【代理人】
【識別番号】100136641
【弁理士】
【氏名又は名称】坂井 志郎
(74)【代理人】
【識別番号】100180448
【弁理士】
【氏名又は名称】関口 亨祐
(72)【発明者】
【氏名】根建 圭淳
(72)【発明者】
【氏名】松原 一雄
(72)【発明者】
【氏名】山岡 大祐
(72)【発明者】
【氏名】小林 正英
【テーマコード(参考)】
5L049
【Fターム(参考)】
5L049BB08
(57)【要約】      (修正有)
【課題】情報を良好に提供し得る情報提供方法、プログラム及び情報提供装置を提供する。
【解決手段】端末装置(ユーザ端末、携帯端末、情報提供装置)と、サーバ装置とによって構成される情報提供システムにおいて、情報提供方法は、撮像画像を取得する画像取得ステップS1と、車両に備えられた複数の部品のうちの、端末装置の撮像部の撮像範囲外に位置する部品である撮像範囲外部品の存在を判定する判定ステップS3と、端末装置に備えられた表示画面に撮像画像を表示するとともに、複数の部品のうちの少なくとも1つが撮像画像に含まれている場合に、部品に関する情報も併せて表示する表示ステップS7、S8と、を含む。表示ステップでは、撮像範囲外部品の存在が判定ステップにおいて判定された場合に、撮像範囲外部品の存在を示すインジケーションも併せて表示する。
【選択図】図12
【特許請求の範囲】
【請求項1】
端末装置に備えられた撮像部によって車両の少なくとも一部を撮像することにより得られた撮像画像を取得する画像取得ステップと、
前記車両に備えられた複数の部品のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品の存在を判定する判定ステップと、
前記端末装置に備えられた表示画面に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示ステップと、
を有し、
前記表示ステップでは、前記撮像範囲外部品の存在が前記判定ステップにおいて判定された場合に、前記撮像範囲外部品の存在を示すインジケーションも併せて表示する、情報提供方法。
【請求項2】
請求項1に記載の情報提供方法において、
前記インジケーションは、前記撮像範囲外部品の種類に応じた色で表示される、情報提供方法。
【請求項3】
請求項1又は2に記載の情報提供方法において、
前記インジケーションは、前記撮像範囲外部品の方向を示す、情報提供方法。
【請求項4】
請求項1~3のいずれか1項に記載の情報提供方法において、
前記インジケーションは、前記撮像範囲外部品までの距離に応じた長さで表示される、情報提供方法。
【請求項5】
請求項1~4のいずれか1項に記載の情報提供方法において、
前記インジケーションは、前記撮像範囲外部品の数に応じたサイズで表示される、情報提供方法。
【請求項6】
請求項1~5のいずれか1項に記載の情報提供方法において、
前記インジケーションに、前記撮像範囲外部品の数を示す情報が付される、情報提供方法。
【請求項7】
請求項1~6のいずれか1項に記載の情報提供方法において、
前記インジケーションは、前記表示画面の縁部に表示される、情報提供方法。
【請求項8】
請求項1~7のいずれか1項に記載の情報提供方法において、
前記インジケーションの形状は、矩形又は三角形である、情報提供方法。
【請求項9】
請求項1~8のいずれか1項に記載の情報提供方法において、
前記インジケーションは、半透明に表示される、情報提供方法。
【請求項10】
請求項1~8のいずれか1項に記載の情報提供方法において、
前記インジケーションの輪郭のみが表示される、情報提供方法。
【請求項11】
請求項1~10のいずれか1項に記載の情報提供方法において、
一の前記部品が前記撮像部の撮像範囲内に位置しており、且つ、前記一の部品を操作するための部品である他の前記部品が前記撮像部の撮像範囲外に位置する場合、前記表示ステップでは、前記他の部品の位置を示す前記インジケーションを前記表示画面に表示する、情報提供方法。
【請求項12】
請求項1~11のいずれか1項に記載の情報提供方法において、
前記インジケーションは、動画像から成る、情報提供方法。
【請求項13】
請求項1~12のいずれか1項に記載の情報提供方法をコンピュータに実行させるためのプログラム。
【請求項14】
撮像部と、
表示画面を有する表示部と、
前記撮像部によって車両の少なくとも一部を撮像することによって得られる撮像画像を取得する画像取得部と、
前記車両に備えられた複数の部品のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品の存在を判定する判定部と、
前記表示画面に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示制御部と、
を備え、
前記表示制御部は、前記撮像範囲外部品の存在が前記判定部によって判定された場合に、前記表示画面に前記撮像画像を表示するとともに、前記撮像範囲外部品の存在を示すインジケーションも併せて表示する、情報提供装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報提供方法、プログラム及び情報提供装置に関する。
【背景技術】
【0002】
特許文献1には、車両の情報を提供する車両の情報提供システムが開示されている。特許文献1では、車両の機器及び装備の問合せ対象箇所の写真が携帯端末によって撮影され、撮影された写真が携帯端末から処理サーバに送信される。処理サーバには、携帯端末から送信された写真が示す問合せ対象箇所を認識する認識サーバと、機器及び装備に関する説明を行う複数の説明情報を有するFAQデータベースとが備えられている。処理サーバは、認識サーバによって認識された問合せ対象箇所に対応する説明情報をFAQデータベースから選択して送信する。処理サーバから送信される説明情報は、車両に設けられた表示装置によって表示される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2018-36811号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1は、写真が示す問合せ対象箇所に対応する説明情報を表示装置によって表示することを単に開示しているに過ぎない。
【0005】
本発明の目的は、情報を良好に提供し得る情報提供方法、プログラム及び情報提供装置を提供することにある。
【課題を解決するための手段】
【0006】
本発明の一態様による情報提供方法は、端末装置に備えられた撮像部によって車両の少なくとも一部を撮像することにより得られた撮像画像を取得する画像取得ステップと、前記車両に備えられた複数の部品のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品の存在を判定する判定ステップと、前記端末装置に備えられた表示画面に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示ステップと、を有し、前記表示ステップでは、前記撮像範囲外部品の存在が前記判定ステップにおいて判定された場合に、前記撮像範囲外部品の存在を示すインジケーションも併せて表示する。
【0007】
本発明の他の態様によるプログラムは、上記のような情報提供方法をコンピュータに実行させる。
【0008】
本発明の更に他の態様による情報提供装置は、撮像部と、表示画面を有する表示部と、前記撮像部によって車両の少なくとも一部を撮像することによって得られる撮像画像を取得する画像取得部と、前記車両に備えられた複数の部品のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品の存在を判定する判定部と、前記表示画面に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示制御部と、を備え、前記表示制御部は、前記撮像範囲外部品の存在が前記判定部によって判定された場合に、前記表示画面に前記撮像画像を表示するとともに、前記撮像範囲外部品の存在を示すインジケーションも併せて表示する。
【発明の効果】
【0009】
本発明によれば、情報を良好に提供し得る情報提供方法、プログラム及び情報提供装置を提供することができる。
【図面の簡単な説明】
【0010】
図1】一実施形態による情報提供システムを示すブロック図である。
図2】表示部の表示画面に表示される画像の例を示す図である。
図3】表示部の表示画面に表示される画像の例を示す図である。
図4】表示部の表示画面に表示される画像の例を示す図である。
図5図5A図5Cは、表示部の表示画面に表示される画像の例を示す図である。
図6図6A及び図6Bは、表示部の表示画面に表示される画像の例を示す図である。
図7図7A及び図7Bは、表示部の表示画面に表示される画像の例を示す図である。
図8図8A及び図8Bは、表示部の表示画面に表示される画像の例を示す図である。
図9】表示部の表示画面に表示される画像の例を示す図である。
図10】表示部の表示画面に表示される画像の例を示す図である。
図11】表示部の表示画面に表示される画像の例を示す図である。
図12】一実施形態による情報提供方法の例を示すフローチャートである。
図13】表示部の表示画面に表示される画像の例を示す図である。
【発明を実施するための形態】
【0011】
本発明による情報提供方法、プログラム及び情報提供装置について、好適な実施形態を挙げ、添付の図面を参照して以下に詳細に説明する。
【0012】
[一実施形態]
一実施形態による情報提供方法、プログラム及び情報提供装置について図1図12を用いて説明する。図1は、本実施形態による情報提供システムを示すブロック図である。
【0013】
本実施形態による情報提供システム10は、端末装置(ユーザ端末、携帯端末、情報提供装置)12と、サーバ装置(サーバ)14とによって構成され得るが、これに限定されるものではない。
【0014】
端末装置12には、撮像部16と、センサ群18と、演算部20と、記憶部22と、通信部24と、操作部26と、表示部28とが備えられている。なお、端末装置12には、これらの構成要素以外の構成要素も備えられ得るが、ここでは説明を省略する。サーバ装置14には、演算部48と、記憶部50と、通信部52とが備えられている。なお、サーバ装置14には、これらの構成要素以外の構成要素も備えられ得るが、ここでは説明を省略する。
【0015】
端末装置12には、本実施形態による情報提供方法をコンピュータに実行させるためのアプリケーションプログラムが予めインストールされる。アプリケーションプログラムの起動は、例えばユーザによる操作に基づいて行われ得る。
【0016】
撮像部16、即ち、カメラは、端末装置12の少なくとも背面側に備えられ得る。撮像部16によって撮像することによって得られる画像である撮像画像110(図2参照)は、端末装置12の正面側、即ち、前面側に備えられた表示部28の表示画面28A(図2参照)に表示され得る。撮像部16は、車両11(図2参照)の少なくとも一部を撮像することによって撮像画像110を取得し得る。
【0017】
センサ群18には、例えば、加速度センサ30と、ジャイロセンサ32とが含まれ得る。加速度センサ30は、例えば、3方向の加速度を同時に計測し得る。ジャイロセンサ32、即ち、角速度センサは、例えば、3方向の角速度を同時に計測し得る。加速度センサ30及びジャイロセンサ32によって取得される情報に基づいて、端末装置12の3次元の挙動が把握され得る。
【0018】
演算部20は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサ(processor)、即ち、処理回路(processing circurity)によって構成され得る。演算部20には、制御部34と、画像取得部36と、較正部38と、位置姿勢判定部40と、判定部42と、表示制御部44と、情報取得部46とが備えられ得る。制御部34と、画像取得部36と、較正部38と、位置姿勢判定部40と、判定部42と、表示制御部44と、情報取得部46とは、記憶部22に記憶されているプログラムが演算部20によって実行されることによって実現され得る。
【0019】
なお、制御部34、画像取得部36、較正部38、位置姿勢判定部40、判定部42、表示制御部44、情報取得部46の少なくとも一部が、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等の集積回路によって実現されるようにしてもよい。また、制御部34、画像取得部36、較正部38、位置姿勢判定部40、判定部42、表示制御部44、情報取得部46の少なくとも一部が、ディスクリートデバイスを含む電子回路によって構成されるようにしてもよい。
【0020】
記憶部22には、不図示の揮発性メモリと、不図示の不揮発性メモリとが備えられ得る。揮発性メモリとしては、例えばRAM(Random Access Memory)等が挙げられ得る。不揮発性メモリとしては、例えばROM(Read Only Memory)、フラッシュメモリ等が挙げられ得る。データ等が、例えば揮発性メモリに記憶され得る。プログラム、テーブル、マップ等が、例えば不揮発性メモリに記憶され得る。記憶部22の少なくとも一部が、上述したようなプロセッサ、集積回路等に備えられていてもよい。
【0021】
通信部24には、例えば、携帯電話網に対応し得る不図示の通信モジュールが備えられている。通信部24は、携帯電話網を介して通信を行い得る。通信部24は、サーバ装置14に備えられた通信部52との間で中継局54とネットワーク56とを介して通信を行い得る。
【0022】
操作部26は、ユーザが端末装置12を操作する際に用いられ得る。表示部28には、不図示の表示素子が備えられている。表示素子としては、例えば、液晶表示素子、有機エレクトロルミネッセンス表示素子等が用いられ得る。このような表示素子が備えられた不図示のタッチパネルによって、操作部26と表示部28とが構成され得る。
【0023】
制御部34は、端末装置12の全体の制御を司る。
【0024】
画像取得部36は、撮像部16によって撮像することによって得られる撮像画像110を取得し得る。
【0025】
較正部38は、較正処理を実行し得る。ユーザに対する情報提供を開始するに先立って、較正、即ち、キャリブレーションが行われ得る。かかる較正は、本実施形態によるアプリケーションプログラムが起動された状態で、例えば、車内100(図2参照)に備えられた不図示のホームボタンを、端末装置12の撮像部16を用いて撮像することによって行われ得る。より具体的には、表示部28の表示画面28Aの中心部にホームボタンが所定のサイズで表示されるように、ユーザが端末装置12の撮像部16を当該ホームボタンに正対させる。較正部38は、ホームボタンを含む撮像画像110と、センサ群18から供給される信号とに基づいて、端末装置12の位置及び姿勢を判定し得る。端末装置12の位置及び姿勢が予め決められた範囲内であると判定した場合、較正部38は、較正が成功したと判定し、較正を完了させる。較正が完了すると、表示制御部44は、較正が完了したことを示す情報を表示部28の表示画面28Aに表示する。較正が完了したことを示す情報としては、例えば、不図示のチェックマーク等が挙げられ得る。
【0026】
位置姿勢判定部40は、端末装置12の位置及び姿勢を判定し得る。位置姿勢判定部40は、端末装置12の位置及び姿勢に関する情報、即ち、位置姿勢情報を記憶部22に格納する。位置姿勢判定部40は、較正の際に得られた位置姿勢情報を基準にしつつ、画像取得部36によって取得される撮像画像110と、センサ群18から供給される信号とに基づいて、位置姿勢情報を随時更新する。
【0027】
図2は、表示部の表示画面の表示の例を示す図である。表示制御部44は、撮像部16によって撮像することによって得られる撮像画像110、即ち、画像取得部36によって取得される撮像画像110を、表示部28の表示画面28Aに表示し得る。車両11の室内、即ち、車内(車室内)100が撮像部16によって撮像された場合の撮像画像110の例が、図2には示されているが、これに限定されるものではない。車室の外側が撮像部16によって撮像されるようにしてもよい。
【0028】
図2に示すように、車両11には、複数の機器102A~102Oが備えられ得る。機器一般について説明する際には、符号102を用い、個々の機器について説明する際には、符号102A~102Oを用いる。機器102Aは、例えばインフォテイメントマルチ表示装置である。機器102Bは、例えば走行系モニタである。機器102C、102Dは、例えば走行系リアモニタである。機器102Eは、例えば、ステアリングホイールである。機器102Fは、例えばコンテンツマルチスイッチである。機器102Gは、例えば走行系スイッチである。機器102Hは、例えばインフォテイメントスイッチである。機器102Iは、例えば簡単駐車スイッチである。機器102Jは、例えばハザードスイッチである。機器102Kは、例えばエアコンディショナー、即ち、空調装置である。機器102Lは、例えばコンソール走行系スイッチである。機器102Mは、例えばETC車載器である。機器102Nは、例えばサイドカメラミラーシステム調整スイッチである。機器102Oは、例えばドアノブである。
【0029】
表示制御部44は、表示部28の表示の制御を司る。表示制御部44は、画像取得部36によって取得される撮像画像110を表示部28の表示画面28Aに表示し、複数の機器102のうちの少なくとも1つが当該撮像画像110に含まれている場合に、機器102A~102Oに応じた図形31A~31Oをこれらの機器102A~102Oに重畳表示し得る。即ち、本実施形態では、拡張現実(AR:Augmented Reality)表示が行われ得る。なお、図形一般について説明する際には、符号31を用い、個々の図形について説明する際には、符号31A~31Oを用いる。機器102に応じた図形31は、例えば半透明の図形であるが、これに限定されるものではない。図形31には、機器102が属する種類を示す色が付され得る。種類に応じた色の図形31が機器102に重畳表示されるため、機器102の機能等が色に基づいて把握され得る。
【0030】
図3は、表示部の表示画面に表示される画像の例を示す図である。端末装置12を機器102に近づけた場合に表示される画像の例が、図3には示されている。図3に示すように、車両11に備えられた機器102には、当該機器102の一部を構成する構成部材(構成要素)102a~102cが備えられ得る。かかる構成部材102a~102cとしては、例えば、操作スイッチ、操作ボタン、操作レバー等の操作部材が挙げられ得る。図3に示す例においては、構成部材102aは、セレクタホイールである。図3に示す例においては、構成部材102bは、ホームスイッチである。図3に示す例においては、構成部材102cは、発話スイッチである。なお、構成部材102a~102cは、これらに限定されるものではない。
【0031】
車両11に備えられた機器102A~102Oも、当該機器102A~102Oを構成する構成部材102a~102cも、車両11に備えられた部品であることには変わりがない。従って、車両11に備えられた機器102A~102Oも、当該機器102を構成する構成部材102a~102cも、部品102と称され得る。
【0032】
判定部42は、拡張現実表示の対象が、画像取得部36によって取得された撮像画像110に含まれているか否かを判定し得る。拡張現実表示の対象としては、例えば、車両11に備えられた部品102が挙げられ得る。車両11に備えられた部品102は、車内100に備えられた部品102であってもよいし、車室の外側に備えられた部品102であってもよい。拡張現実表示の対象が撮像画像110に含まれているか否かの判定は、位置姿勢判定部40によって得られた位置姿勢情報と、画像取得部36によって取得された撮像画像110とに基づいて行われ得る。拡張現実表示の対象が撮像画像110に含まれているか否かを、画像取得部36によって取得された撮像画像110のみならず、位置姿勢情報にも基づいて判定するのは、より正確な判定を行うためである。車両11に備えられた部品102を示す情報は、記憶部22に予め記憶されている。より具体的には、車両11に備えられた複数の部品102の各々の位置情報、これらの部品102の各々の画像情報等が記憶部22に予め記憶されている。判定部42は、記憶部22に記憶されたこれらの情報と、画像取得部36によって取得された撮像画像110から得られる情報とを対比する。これにより、判定部42は、車両11に備えられた部品102が当該撮像画像110に含まれているか否かを判定し得る。また、判定部42は、当該撮像画像110に含まれている部品102が、車両11に備えられた複数の部品102のうちのいずれの部品102であるかについても判定し得る。こうして、判定部42は、拡張現実表示の対象が、画像取得部36によって取得された撮像画像110に含まれているか否かを判定し得る。
【0033】
表示制御部44は、表示部28の表示画面28Aに撮像画像110を表示し、車両11に備えられた複数の部品102のうちの少なくとも1つが撮像画像110に含まれている場合、以下のような処理を行い得る。即ち、表示制御部44は、表示部28の表示画面28Aに撮像画像110を表示し、拡張現実表示の対象となる部品102が撮像画像110に含まれている場合、以下のような処理を行い得る。即ち、かかる場合、表示制御部44は、図3に示すように、当該部品102に関する情報64a~64cも併せて表示し得る。即ち、本実施形態では、かかる情報64a~64cが拡張現実表示され得る。なお、情報一般について説明する際には、符号64を用い、個々の情報について説明する際には、符号64a~64cを用いる。
【0034】
拡張現実表示の対象となる部品102が、撮像部16の撮像範囲外に位置することとなる場合もある。撮像部16の撮像範囲外に位置する部品102は、撮像範囲外部品と称され得る。表示制御部44は、後述するように、撮像範囲外部品101(図4参照)の存在を示すインジケーション103A~103C(図4参照)も併せて表示し得る。インジケーション一般について説明する際には、符号103を用い、個々のインジケーションについて説明する際には、符号103A~103Cを用いる。インジケーション103は、例えば半透明に表示され得るが、これに限定されるものではない。
【0035】
判定部42は、撮像部16の撮像範囲外に位置する部品102である撮像範囲外部品101の存在を判定し得る。上述したように、車両11に備えられた複数の部品102の各々の位置情報、これらの部品102の各々の画像情報等が記憶部22に予め記憶されている。また、上述したように、判定部42は、当該撮像画像110に含まれている部品102が、車両11に備えられた複数の部品102のうちのいずれの部品102であるかについても判定し得る。判定部42は、車両11に備えられた複数の部品102の各々の位置情報等と、当該撮像画像110に含まれている部品102を示す情報と、端末装置12の位置及び姿勢を示す位置姿勢情報とに基づいて、撮像範囲外部品101の存在を判定し得る。
【0036】
ところで、撮像部16の撮像範囲の外側に位置する全ての部品102に対してインジケーション103を表示した場合には、インジケーション103の表示が非常に煩雑となる。そこで、撮像部16の撮像範囲から著しく外れている部品102に対しては、インジケーション103を表示しないことが好ましい場合もある。そこで、判定部42は、撮像部16の撮像範囲外に位置する部品102のうちの、撮像部16の撮像範囲から著しく外れていない部品102を、撮像範囲外部品101と判定し得る。即ち、判定部42は、予め決められた範囲内、即ち、所定範囲内に位置する部品102のうちの撮像範囲外の部品102を、撮像範囲外部品101として判定し得る。かかる所定範囲は、撮像部16の撮像範囲に対して所定程度だけ広い範囲である。
【0037】
拡張現実表示の対象となる機器102A~102Oが撮像画像110に含まれていることが判定部42によって判定された場合、情報取得部46は、当該機器102に関する情報を取得し得る。情報取得部46は、車両11に備えられた機器102A~102Oに関する情報のみならず、当該機器102A~102Oを構成する構成部材102a~102cに関する情報も取得し得る。このように、情報取得部46は、拡張現実表示の対象となる部品102が撮像画像110に含まれていることが判定部42によって判定された場合、当該部品102に関する情報を取得し得る。当該部品102に関する情報としては、例えば当該部品102の名称等が挙げられ得るが、これに限定されるものではない。当該部品102に関する情報が、当該部品102の操作方法等に関する情報等であってもよい。部品102に関する情報は、例えばサーバ装置14から供給され得る。情報取得部46は、当該部品102に関する情報の提供を要求するリクエスト信号を、通信部24を介してサーバ装置14に送信する。サーバ装置14は、当該サーバ装置14に備えられた記憶部50から当該部品102に関する情報を読み出し、当該サーバ装置14に備えられた通信部52を介して端末装置12に当該部品102に関する情報を送信する。情報取得部46は、当該部品102に関する情報をサーバ装置14から受信する。なお、当該部品102に関する情報が、端末装置12に備えられた記憶部22に既に格納されている場合には、当該部品102に関する情報をサーバ装置14から取得することを要しない。このような場合には、情報取得部46は、端末装置12に備えられた記憶部22から、当該部品102に関する情報を取得し得る。
【0038】
図4は、表示部の表示画面に表示される画像の例を示す図である。撮像部16の撮像範囲を変化させた場合の表示の例が図4には示されている。図4における撮像部16の撮像範囲は、図3における撮像部16の撮像範囲よりも右側に位置している。図4に示す例においては、構成部材102a~102c、即ち、部品102a~102cが撮像部16の撮像範囲外に位置している。即ち、図4に示す例においては、撮像範囲外部品101が存在している。このような場合、表示制御部44は、図4に示すように、撮像範囲外部品101の存在を示すインジケーション103A~103Cを表示部28の表示画面28Aに表示し得る。インジケーション103Aは、撮像範囲外部品101である部品102aの存在を示している。インジケーション103Bは、撮像範囲外部品101である部品102bの存在を示している。インジケーション103Cは、撮像範囲外部品101である部品102cの存在を示している。インジケーション103は、表示部28の表示画面28Aの例えば縁部等に表示され得る。インジケーション103は、撮像範囲外部品101の方向を示し得る。図4に示す例においては、インジケーション103を構成する三角形の最小角の方向が撮像範囲外部品101の方向に対応している。このようなインジケーション103が表示部28の表示画面28Aに表示されるため、ユーザは、撮像範囲外部品101の存在を当該インジケーション103に基づいて把握し得る。
【0039】
表示制御部44は、表示画面28Aの一部に、複数の操作ボタン60A~60Cを更に表示し得る。操作ボタン60Aは、例えば、お役立ち情報ボタンである。操作ボタン60Bは、例えば、警告灯一覧ボタンである。操作ボタン60Cは、例えば、設定ボタンである。なお、操作ボタン60A~60Cは、これらに限定されるものではない。操作ボタン60A、即ち、お役立ち情報ボタンは、ユーザにとって役に立つことが想定される情報が表示される画面に遷移するためのボタンである。操作ボタン60B、即ち、警告灯一覧ボタンは、警告灯の一覧を表示する画面に遷移するためのボタンである。操作ボタン60C、即ち、設定ボタンは、アプリケーションプログラムに関する様々な設定を行うための画面に遷移するためのボタンである。表示画面28Aには、再較正ボタン60D、音声検索ボタン60E等が更に表示され得るが、これに限定されるものではない。再較正ボタン60Dは、再較正の実行を指示するためのボタンである。音声検索ボタン60Eは、音声検索の実行を指示するためのボタンである。
【0040】
図5A図5Cは、表示部の表示画面に表示される画像の例を示す図である。車両11に備えられた部品102P~102Rが撮像画像110に写っている場合の例が図5Aには示されている。図面の簡略化のため、図5Aにおいては、部品102P~102Rが抽象的に図示されている。図5Aに示すように、表示制御部44は、部品102P~102Rに関する情報64P~64Rを撮像画像110に重畳表示し得る。部品102Pは、第1の種類に属する。このため、当該部品102Pに関する情報64Pは、例えば、第1の色で表示され得る。第1の色は、例えば赤色とされ得るが、これに限定されるものではない。部品102Q、102Rは、例えば、第1の種類とは異なる第2の種類に属する。このため、当該部品102Q、102Rに関する情報64Q、64Rは、例えば、第1の色とは異なる第2の色で表示され得る。第2の色は、例えば緑色とされ得るが、これに限定されるものではない。
【0041】
撮像部16の撮像範囲を変化させた状態が、図5Bには示されている。具体的には、撮像範囲を右側にずらした状態が図5Bには示されている。撮像部16の撮像範囲を更に変化させた状態が図5Cには示されている。図5Cに示す例においては、撮像範囲外部品101の存在を示すインジケーション103P~103Rが表示部28の表示画面28Aに表示されている。インジケーション103Pに対応する撮像範囲外部品101は、部品102Pである。当該部品102Pは例えば、第1の種類に属する。部品102Pが第1の種類に属するため、インジケーション103Pは、例えば、第1の色で表示され得る。インジケーション103Qに対応する撮像範囲外部品101は、部品102Qである。当該部品102Qは、例えば、第1の種類とは異なる第2の種類に属する。部品102Qが第2の種類に属するため、インジケーション103Qは、例えば、第1の色とは異なる第2の色で表示され得る。インジケーション103Rに対応する撮像範囲外部品101は、部品102Rである。当該部品102Rは、例えば、第2の種類に属する。部品102Rが第2の種類に属するため、インジケーション103Rは、例えば第2の色で表示され得る。このように、部品102の種類に応じた色でインジケーション103が表示されるようにしてもよい。
【0042】
図6A及び図6Bは、表示部の表示画面に表示される画像の例を示す図である。撮像範囲外部品101の数が比較的少ない場合の例が図6Aには示されている。撮像範囲外部品101の数が比較的多い場合の例が図6Bには示されている。インジケーション103は、撮像範囲外部品101の数に応じたサイズで表示され得る。図6Aに示す例においては、撮像範囲外部品101の数が比較的少ないため、インジケーション103のサイズが比較的小さく設定され得る。一方、図6Bに示す例においては、撮像範囲外部品101の数が比較的多いため、インジケーション103のサイズが比較的大きく設定され得る。このように、インジケーション103が、撮像範囲外部品101の数に応じたサイズで表示されるようにしてもよい。
【0043】
図7A及び図7Bは、表示部の表示画面に表示される画像の例を示す図である。撮像範囲外部品101までの距離が比較的小さい場合の例が図7Aには示されている。撮像範囲外部品101までの距離が比較的大きい場合の例が図7Bには示されている。インジケーション103は、撮像範囲外部品101までの距離に応じた長さで表示され得る。図7Aに示す例においては、撮像範囲外部品101までの距離が比較的小さいため、インジケーション103の長さが比較的短く設定され得る。一方、図7Bに示す例においては、撮像範囲外部品101までの距離が比較的大きいため、インジケーション103の長さが比較的長く設定され得る。このように、撮像範囲外部品101までの距離に応じた長さでインジケーション103が表示されるようにしてもよい。
【0044】
図8A及び図8Bは、表示部の表示画面に表示される画像の例を示す図である。インジケーション103の形状が矩形である場合の例が図8A及び図8Bには示されている。撮像範囲外部品101の数が比較的少ない場合の例が図8Aには示されている。撮像範囲外部品101の数が比較的多い場合の例が図8Bには示されている。インジケーション103は、撮像範囲外部品101の数に応じたサイズで表示され得る。図8Aに示す例においては、撮像範囲外部品101の数が比較的少ないため、インジケーション103のサイズが比較的小さく設定され得る。一方、図8Bに示す例においては、撮像範囲外部品101の数が比較的多いため、インジケーション103のサイズが比較的大きく設定され得る。このように、インジケーション103の形状が矩形であってもよい。また、撮像範囲外部品101の数に応じたサイズでインジケーション103が表示されるようにしてもよい。
【0045】
図9は、表示部の表示画面に表示される画像の例を示す図である。インジケーション103の形状が矩形である場合の例が図9には示されている。第1の種類に属する部品102S1~102S3と、第1の種類とは異なる第2の種類に属する部品102T1、102T2とが撮像部16の撮像範囲外に位置している。第1の種類に属する撮像範囲外部品101の数が比較的多い場合の例が図9には示されている。第2の種類に属する撮像範囲外部品101の数が比較的少ない場合の例が図9には示されている。インジケーション103Aは、第1の種類に属する撮像範囲外部品101、即ち、部品102S1~102S3に対応している。インジケーション103Bは、第2の種類に属する撮像範囲外部品101、即ち、部品102T1、102T2に対応している。インジケーション103A、103Bは、撮像範囲外部品101の数に応じたサイズで表示され得る。第1の種類に属する撮像範囲外部品101の数は比較的多いため、インジケーション103Aのサイズは比較的大きく設定され得る。一方、第2の種類に属する撮像範囲外部品101の数は比較的少ないため、インジケーション103Bのサイズは比較的小さく設定され得る。インジケーション103Aは、第1の種類に属する撮像範囲外部品101に対応するものであるため、例えば、第1の色で表示され得る。インジケーション103Bは、第2の種類に属する撮像範囲外部品101に対応するものであるため、例えば、第1の色とは異なる第2の色で表示され得る。このように、インジケーション103の形状が矩形であってもよい。また、インジケーション103が、撮像範囲外部品101の数に応じたサイズで表示されるようにしてもよい。また、インジケーション103が、撮像範囲外部品101の種類に応じた色で表示されるようにしてもよい。
【0046】
図10は、表示部の表示画面に表示される画像の例を示す図である。インジケーション103の形状が矩形である場合の例が図10には示されている。当該インジケーション103に対応する撮像範囲外部品101の数を示す情報が図10には示されている。例えば、図10に示す例においては、撮像部16の撮像範囲の左側に位置する撮像範囲外部品101の数は2つである。このため、図10に示す例においては、表示部28の表示画面28Aの左側に表示されているインジケーション103には、撮像範囲の左側に位置している撮像範囲外部品101の数である「2」が付されている。図10に示す例においては、撮像部16の撮像範囲の右側に位置する撮像範囲外部品101の数は5つである。このため、図10に示す例においては、表示部28の表示画面28Aの右側に表示されているインジケーション103には、撮像範囲の右側に位置している撮像範囲外部品101の数である「5」が付されている。インジケーション103は、撮像範囲外部品101の数に応じたサイズで表示され得る。撮像部16の撮像範囲の左側に位置する撮像範囲外部品101の数は比較的少ないため、表示部28の表示画面28Aの左側に表示されているインジケーション103のサイズは比較的小さく設定され得る。撮像部16の撮像範囲の右側に位置する撮像範囲外部品101の数は比較的多いため、表示部28の表示画面28Aの右側に表示されているインジケーション103のサイズは比較的大きく設定され得る。このように、撮像範囲外部品101の数を示す情報がインジケーション103に付されるようにしてもよい。
【0047】
図11は、表示部の表示画面に表示される画像の例を示す図である。矩形のインジケーション103A1、103A2と三角形のインジケーション103Bとが表示部28の表示画面28Aに表示される場合の例が図11には示されている。インジケーション103A1、103A2に対応する撮像範囲外部品101、即ち、部品102U1~102U7は、例えば第1の種類に属する。インジケーション103A1、103A2に対応する撮像範囲外部品101が第1の種類に属するため、当該インジケーション103A1、103A2の色は例えば第1の色に設定され得る。また、インジケーション103A1、103A2に対応する撮像範囲外部品101が第1の種類に属するため、当該インジケーション103A1、103A2の形状は例えば矩形に設定され得る。インジケーション103Bに対応する撮像範囲外部品101、即ち、部品102Vは、例えば、第1の種類とは異なる第2の種類に属する。インジケーション103Bに対応する撮像範囲外部品101が第2の種類に属するため、当該インジケーション103Bの色は、例えば、第1の色とは異なる第2の色に設定され得るとともに、当該インジケーション103Bの形状は例えば三角形に設定され得る。インジケーション103A1、103A2は、撮像範囲外部品101の数に応じたサイズで表示され得る。表示部28の表示画面28Aの左側に表示されているインジケーション103A1に対応する撮像範囲外部品101の数は比較的少ないため、当該インジケーション103A1のサイズは比較的小さく設定され得る。表示部28の表示画面28Aの右側に表示されているインジケーション103A2に対応する撮像範囲外部品101の数は比較的多いため、当該インジケーション103A2のサイズは比較的大きく設定され得る。このように、撮像範囲外部品101の種類に応じてインジケーション103の形状、色等を異ならせるようにしてもよい。
【0048】
次に、本実施形態による情報提供方法の例について図12を用いて説明する。図12は、本実施形態による情報提供方法の例を示すフローチャートである。
【0049】
まず、ステップS1において、車両11の少なくとも一部が撮像部16によって撮像される。これにより、画像取得部36が、撮像部16によって撮像された撮像画像110を取得する。この後、ステップS2に遷移する。
【0050】
ステップS2において、判定部42は、拡張現実表示の対象となる部品102が撮像画像110に含まれているか否かを判定する。拡張現実表示の対象となる部品102が撮像画像110に含まれていない場合(ステップS2においてNO)、ステップS3に遷移する。拡張現実表示の対象となる部品102が撮像画像110に含まれている場合(ステップS2においてYES)、ステップS4に遷移する。
【0051】
ステップS3において、判定部42は、撮像範囲外部品101が存在するか否かを判定する。撮像範囲外部品101が存在しない場合(ステップS3においてNO)、ステップS5に遷移する。撮像範囲外部品101が存在する場合(ステップS3においてYES)、ステップS6に遷移する。
【0052】
ステップS4において、判定部42は、撮像範囲外部品101が存在するか否かを判定する。撮像範囲外部品101が存在しない場合(ステップS4においてNO)、ステップS7に遷移する。撮像範囲外部品101が存在する場合(ステップS4においてYES)、ステップS8に遷移する。
【0053】
ステップS5において、表示制御部44は、撮像画像110を表示部28の表示画面28Aに表示する。
【0054】
ステップS6において、表示制御部44は、撮像画像110を表示部28の表示画面28Aに表示するとともに、インジケーション103を当該表示画面28Aに表示する。
【0055】
ステップS7において、表示制御部44は、撮像画像110を表示部28の表示画面28Aに表示するとともに、部品102に関する情報を当該撮像画像110に重畳表示する。
【0056】
ステップS8において、表示制御部44は、撮像画像110を表示部28の表示画面28Aに表示し、部品102に関する情報を当該撮像画像110に重畳表示するとともに、インジケーション103を当該表示画面28Aに表示する。こうして、図12に示す処理が完了する。
【0057】
このように、本実施形態によれば、撮像範囲外部品101の存在を示すインジケーション103が表示部28の表示画面28Aに表示されるため、撮像範囲外部品101の存在をユーザが良好に把握し得る。
【0058】
(変形例)
本実施形態の変形例による情報提供方法について図13を用いて説明する。図13は、表示部の表示画面に表示される画像の例を示す図である。
【0059】
本変形例では、一の部品102が撮像部16の撮像範囲内に位置しており、且つ、当該一の部品102を操作するための部品102である他の部品102が撮像部16の撮像範囲外に位置する場合、以下のような処理が表示制御部44によって行われ得る。即ち、かかる場合、表示制御部44は、他の部品102の位置を示すインジケーション103を表示部28の表示画面28Aに表示し得る。
【0060】
かかる一の部品102Wとしては、例えば室内灯等が挙げられ得るが、これに限定されるものではない。また、かかる他の部品102としては、例えば、室内灯を操作するためのスイッチ等が挙げられ得るが、これに限定されるものではない。一の部品102Wが撮像部16の撮像範囲内に位置している一方、当該一の部品102Wを操作するための不図示の他の部品102が撮像部16の撮像範囲外に位置する場合の例が図13には示されている。図13に示すように、当該他の部品102の位置を示すインジケーション103が表示部28の表示画面28Aに表示され得る。インジケーション103は、例えば動画像によって構成され得るが、これに限定されるものではない。
【0061】
本発明についての好適な実施形態を上述したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において、種々の改変が可能である。
【0062】
例えば、上記実施形態では、インジケーション103が半透明に表示される場合を例に説明したが、これに限定されるものではない。インジケーション103の輪郭のみが表示されるようにしてもよい。即ち、インジケーション103のうちの輪郭のみが不透明又は半透明に表示され、インジケーション103のうちの輪郭以外の部分が透明であってもよい。即ち、インジケーション103のうちの透明の部分においては、撮像画像110の一部が表示され得る。
【0063】
上記実施形態をまとめると以下のようになる。
【0064】
情報提供方法は、端末装置(12)に備えられた撮像部(16)によって車両(11)の少なくとも一部を撮像することにより得られた撮像画像(110)を取得する画像取得ステップ(S1)と、前記車両に備えられた複数の部品(102)のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品(101)の存在を判定する判定ステップ(S3、S4)と、前記端末装置に備えられた表示画面(28A)に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示ステップ(S7、S8)と、を有し、前記表示ステップ(S8)では、前記撮像範囲外部品の存在が前記判定ステップにおいて判定された場合に、前記撮像範囲外部品の存在を示すインジケーション(103)も併せて表示する。このような構成によれば、撮像範囲外部品の存在を示すインジケーションが表示画面に表示され得るため、撮像範囲外部品の存在をユーザが良好に把握し得る。
【0065】
前記インジケーションは、前記撮像範囲外部品の種類に応じた色で表示されるようにしてもよい。このような構成によれば、撮像範囲外部品の種類をインジケーションに基づいて良好に把握し得る。
【0066】
前記インジケーションは、前記撮像範囲外部品の方向を示すようにしてもよい。このような構成によれば、撮像範囲外部品の位置する方向をインジケーションに基づいて把握し得る。
【0067】
前記インジケーションは、前記撮像範囲外部品までの距離に応じた長さで表示されるようにしてもよい。このような構成によれば、撮像範囲外部品までの距離をインジケーションに基づいて把握し得る。
【0068】
前記インジケーションは、前記撮像範囲外部品の数に応じたサイズで表示されるようにしてもよい。このような構成によれば、撮像範囲外部品の数をインジケーションに基づいて把握し得る。
【0069】
前記インジケーションに、前記撮像範囲外部品の数を示す情報が付されるようにしてもよい。このような構成によれば、撮像範囲外部品の数をインジケーションに基づいてより良好に把握し得る。
【0070】
前記インジケーションは、前記表示画面の縁部に表示されるようにしてもよい。
【0071】
前記インジケーションの形状は、矩形又は三角形であるようにしてもよい。
【0072】
前記インジケーションは、半透明に表示されるようにしてもよい。
【0073】
前記インジケーションの輪郭のみが表示されるようにしてもよい。
【0074】
一の前記部品(102W)が前記撮像部の撮像範囲内に位置しており、且つ、前記一の部品を操作するための部品である他の前記部品が前記撮像部の撮像範囲外に位置する場合、前記表示ステップでは、前記他の部品の位置を示す前記インジケーションを前記表示画面に表示するようにしてもよい。
【0075】
前記インジケーションは、動画像から成るようにしてもよい。
【0076】
プログラムは、上記のような情報提供方法をコンピュータに実行させる。
【0077】
情報提供装置(12)は、撮像部と、表示画面を有する表示部(28)と、前記撮像部によって車両の少なくとも一部を撮像することによって得られる撮像画像を取得する画像取得部(36)と、前記車両に備えられた複数の部品のうちの前記撮像部の撮像範囲外に位置する前記部品である撮像範囲外部品の存在を判定する判定部(42)と、前記表示画面に前記撮像画像を表示するとともに、複数の前記部品のうちの少なくとも1つが前記撮像画像に含まれている場合に、前記部品に関する情報も併せて表示する表示制御部(44)と、を備え、前記表示制御部は、前記撮像範囲外部品の存在が前記判定部によって判定された場合に、前記表示画面に前記撮像画像を表示するとともに、前記撮像範囲外部品の存在を示すインジケーションも併せて表示する。
【符号の説明】
【0078】
10:情報提供システム 11:車両
12:端末装置 14:サーバ装置
16:撮像部 18:センサ群
20、48:演算部 22、50:記憶部
24、52:通信部 26:操作部
28:表示部 28A:表示画面
30:加速度センサ 32:ジャイロセンサ
34:制御部 36:画像取得部
38:較正部 40:位置姿勢判定部
42:判定部 44:表示制御部
46:情報取得部 54:中継局
56:ネットワーク 60A~60C:操作ボタン
60D:再較正ボタン 60E:音声検索ボタン
64a~64c、64P~64R:情報
100:車内 101:撮像範囲外部品
102:機器、部品 102A~102O:機器
102P~102R、102S1、102T1、102T2、102U1、102V、102W:部品
102a~102c:部品、構成部材
103、103A、103A1、103A2、103B、103C、103P、103Q、103R:インジケーション
110:撮像画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13