特許第6980346号(P6980346)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アルパイン株式会社の特許一覧

<>
  • 特許6980346-表示制御装置および表示制御方法 図000002
  • 特許6980346-表示制御装置および表示制御方法 図000003
  • 特許6980346-表示制御装置および表示制御方法 図000004
  • 特許6980346-表示制御装置および表示制御方法 図000005
  • 特許6980346-表示制御装置および表示制御方法 図000006
  • 特許6980346-表示制御装置および表示制御方法 図000007
  • 特許6980346-表示制御装置および表示制御方法 図000008
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6980346
(24)【登録日】2021年11月19日
(45)【発行日】2021年12月15日
(54)【発明の名称】表示制御装置および表示制御方法
(51)【国際特許分類】
   B60R 1/00 20060101AFI20211202BHJP
   H04N 7/18 20060101ALI20211202BHJP
【FI】
   B60R1/24
   H04N7/18 J
   B60R1/26 100
【請求項の数】8
【全頁数】15
(21)【出願番号】特願2017-227141(P2017-227141)
(22)【出願日】2017年11月27日
(65)【公開番号】特開2019-94026(P2019-94026A)
(43)【公開日】2019年6月20日
【審査請求日】2020年8月27日
(73)【特許権者】
【識別番号】000101732
【氏名又は名称】アルパイン株式会社
(74)【代理人】
【識別番号】100105784
【弁理士】
【氏名又は名称】橘 和之
(74)【代理人】
【識別番号】100098497
【弁理士】
【氏名又は名称】片寄 恭三
(74)【代理人】
【識別番号】100099748
【弁理士】
【氏名又は名称】佐藤 克志
(74)【代理人】
【識別番号】100103171
【弁理士】
【氏名又は名称】雨貝 正彦
(72)【発明者】
【氏名】松崎 千絵
(72)【発明者】
【氏名】金森 哲
【審査官】 菅 和幸
(56)【参考文献】
【文献】 特開2010−246088(JP,A)
【文献】 特開2008−269139(JP,A)
【文献】 米国特許出願公開第2013/0063601(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
B60R 1/00
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
車両の後部または前部に、前記車両の幅方向の中心から幅方向にずらして設置されたカメラであって、前記車両の後方または前方を撮影する前記カメラから撮影画像を取得する撮影画像取得部と、
前記撮影画像取得部により取得された前記撮影画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれに基づく補正を行わず、所定の画像処理を施して対応画像を生成し、前記対応画像を含む表示画像を生成する表示画像生成部と、
前記表示画像生成部により生成された前記表示画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれを反映して、前記車両の位置を示す付加画像を付加する画像付加部と、
前記付加画像が付加された前記表示画像を表示装置に表示させる表示制御部とを備え、
前記表示画像生成部は、
前記対応画像として、前記車両の後部において前記車両の幅方向の中心から幅方向にずらして設置されたリアカメラの前記撮影画像に対して前記車両の幅方向の中心と前記リアカメラとの幅方向のずれに基づく補正を行うことなく前記車両の後方を俯瞰視した対応俯瞰画像を生成し、更に、矩形の領域の下部に、当該矩形の領域の左右方向の中心と前記対応俯瞰画像の左右方向の中心とが一致した状態で前記対応俯瞰画像が配置された俯瞰画面を含む前記表示画像を生成し、
前記画像付加部は、
前記俯瞰画面において前記対応俯瞰画像の上方に、前記車両を表すマークからなる前記付加画像を、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれ分ずらした状態で付加する
ことを特徴とする表示制御装置。
【請求項2】
前記画像付加部は、
前記俯瞰画面において、前記車両を表すマークからなる前記付加画像と、当該マークの左右方向の中心を通り上下方向に延びる中心線を対称軸として線対称な2本の線を表す画像であって、前記対応俯瞰画像に延在する画像からなる前記付加画像、または、前記中心線を表す画像であって、前記対応俯瞰画像に延在する画像からなる前記付加画像を付加する
ことを特徴とする請求項1に記載の表示制御装置。
【請求項3】
前記画像付加部は、
前記俯瞰画面において、前記車両を表すマークからなる前記付加画像と、当該マークの左右方向の中心を通り上下方向に延びる中心線を対称軸として線対称な2本の線を表す画像であって、前記対応俯瞰画像に延在する画像からなる前記付加画像を付加し、
前記カメラの検出結果に基づいて、前記車両が駐車する予定の駐車スペースの幅の大きさを検出し、前記駐車スペースの幅の大きさに応じて、2本の線の距離が、駐車スペースの幅の大きさに相当する距離となるように2本の線の幅の大きさを動的に変更する
ことを特徴とする請求項1に記載の表示制御装置。
【請求項4】
車両の後部または前部に、前記車両の幅方向の中心から幅方向にずらして設置されたカメラであって、前記車両の後方または前方を撮影する前記カメラから撮影画像を取得する撮影画像取得部と、
前記撮影画像取得部により取得された前記撮影画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれに基づく補正を行わず、所定の画像処理を施して対応画像を生成し、前記対応画像を含む表示画像を生成する表示画像生成部と、
前記表示画像生成部により生成された前記表示画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれを反映して、前記車両の位置を示す付加画像を付加する画像付加部と、
前記付加画像が付加された前記表示画像を表示装置に表示させる表示制御部とを備え、
前記表示画像生成部は、
前記対応画像として、前記車両の後部において前記車両の幅方向の中心から幅方向にずらして設置されたリアカメラの前記撮影画像に対して前記車両の幅方向の中心と前記リアカメラとの幅方向のずれに基づく補正を行うことなく前記車両の後方を俯瞰視した対応俯瞰画像を生成すると共に、前記リアカメラの前記撮影画像に対して当該ずれに基づく補正を行うことなく、遠近感を維持した状態で前記車両の後方の風景を表す車外画像を生成し、更に、
前記対応俯瞰画像が配置された俯瞰画面と、前記車外画像が配置された車外画面との双方を同時に含む前記表示画像を生成し、
前記画像付加部は、
前記俯瞰画面において、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれを反映して、前記対応俯瞰画像によって表される風景と前記車両との位置関係を明示する前記付加画像を付加し、更に、
前記車外画面において、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれを反映して、前記車外画像によって表される風景と前記車両との位置関係を明示する前記付加画像を付加する
ことを特徴とする表示制御装置。
【請求項5】
前記画像付加部は、
前記俯瞰画面において、前記対応俯瞰画像によって表される風景で、前記車両の幅方向の中心を通り長手方向に延びる中心線を対称軸として線対称な2本の線を表す画像、または、前記中心線を表す画像を含む前記対応画像を付加し、
前記車外画像において、前記車外画像によって表される風景で、前記車両の幅方向の中心を通り長手方向に延びる中心線を対称軸として線対称な2本の線を表す画像、または、前記中心線を表す画像を含む前記対応画像を付加する
ことを特徴とする請求項4に記載の表示制御装置。
【請求項6】
前記画像付加部は、
前記俯瞰画面において、前記対応俯瞰画像によって表される風景で、前記車両の幅方向の中心を通り長手方向に延びる中心線を対称軸として線対称な2本の線を表す前記対応画像を付加すると共に、前記車外画面において、前記車外画像によって表される風景で、前記車両の幅方向の中心を通り長手方向に延びる中心線を対称軸として線対称な2本の線を表す前記対応画像を付加し、
前記カメラの検出結果に基づいて、前記車両が駐車する予定の駐車スペースの幅の大きさを検出し、前記駐車スペースの幅の大きさに応じて、前記俯瞰画面および前記車外画面において2本の線の距離が、駐車スペースの幅の大きさに相当する距離となるように2本の線の幅の大きさを動的に変更する
ことを特徴とする請求項4に記載の表示制御装置。
【請求項7】
表示制御装置の撮影画像取得部が、車両の後部または前部に、前記車両の幅方向の中心から幅方向にずらして設置されたカメラであって、前記車両の後方または前方を撮影する前記カメラから撮影画像を取得する第1ステップと、
前記表示制御装置の表示画像生成部が、前記撮影画像取得部により取得された前記撮影画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれに基づく補正を行わず、所定の画像処理を施して対応画像を生成し、前記対応画像を含む表示画像を生成する第2ステップと、
前記表示制御装置の画像付加部が、前記表示画像生成部により生成された前記表示画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれを反映して、前記車両の位置を示す付加画像を付加する第3ステップと、
前記表示制御装置の表示制御部が、前記付加画像が付加された前記表示画像を表示装置に表示させる第4ステップとを含み、
前記第2ステップにおいて前記表示画像生成部は、前記対応画像として、前記車両の後部において前記車両の幅方向の中心から幅方向にずらして設置されたリアカメラの前記撮影画像に対して前記車両の幅方向の中心と前記リアカメラとの幅方向のずれに基づく補正を行うことなく前記車両の後方を俯瞰視した対応俯瞰画像を生成し、更に、矩形の領域の下部に、当該矩形の領域の左右方向の中心と前記対応俯瞰画像の左右方向の中心とが一致した状態で前記対応俯瞰画像が配置された俯瞰画面を含む前記表示画像を生成し、
前記第3ステップにおいて前記画像付加部は、前記俯瞰画面において前記対応俯瞰画像の上方に、前記車両を表すマークからなる前記付加画像を、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれ分ずらした状態で付加する
ことを特徴とする表示制御方法。
【請求項8】
表示制御装置の撮影画像取得部が、車両の後部または前部に、前記車両の幅方向の中心から幅方向にずらして設置されたカメラであって、前記車両の後方または前方を撮影する前記カメラから撮影画像を取得する第1ステップと、
前記表示制御装置の表示画像生成部が、前記撮影画像取得部により取得された前記撮影画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれに基づく補正を行わず、所定の画像処理を施して対応画像を生成し、前記対応画像を含む表示画像を生成する第2ステップと、
前記表示制御装置の画像付加部が、前記表示画像生成部により生成された前記表示画像に対して、前記車両の幅方向の中心と前記カメラとの幅方向のずれを反映して、前記車両の位置を示す付加画像を付加する第3ステップと、
前記表示制御装置の表示制御部が、前記付加画像が付加された前記表示画像を表示装置に表示させる第4ステップとを含み、
前記第2ステップにおいて前記表示画像生成部は、前記対応画像として、前記車両の後部において前記車両の幅方向の中心から幅方向にずらして設置されたリアカメラの前記撮影画像に対して前記車両の幅方向の中心と前記リアカメラとの幅方向のずれに基づく補正を行うことなく前記車両の後方を俯瞰視した対応俯瞰画像を生成すると共に、前記リアカメラの前記撮影画像に対して当該ずれに基づく補正を行うことなく、遠近感を維持した状態で前記車両の後方の風景を表す車外画像を生成し、更に、前記対応俯瞰画像が配置された俯瞰画面と、前記車外画像が配置された車外画面との双方を同時に含む前記表示画像を生成し、
前記第3ステップにおいて前記画像付加部は、前記俯瞰画面において、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれを反映して、前記対応俯瞰画像によって表される風景と前記車両との位置関係を明示する前記付加画像を付加し、更に、前記車外画面において、前記車両の幅方向の中心と前記リアカメラとの幅方向のずれを反映して、前記車外画像によって表される風景と前記車両との位置関係を明示する前記付加画像を付加する
ことを特徴とする表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示制御装置および表示制御方法に関し、特に、車両の後方または前方を撮影するカメラの撮影結果に基づく画像の表示を制御する表示制御装置および表示制御方法に用いて好適なものである。
【背景技術】
【0002】
近年、車両の後方を撮影するカメラを搭載し、カメラの撮影結果に基づく画像を、車内に設けられた表示装置に表示するシステムが普及してきている。当該システムによれば、例えば、駐車スペースへの駐車等のため運転手が車両をバックさせる際に、運転手の運転を支援することができる。車両の後方を撮影するカメラが、車両の幅方向の中心に設けられている場合、基本的には、表示装置に表示された画像の左右方向の中心に、当該画像によって表現される風景における車両の幅方向の中心が位置した状態で、カメラの撮影結果に基づく画像が表示装置に表示されることになる。このため、当該画像を視認する運転手は、当該画像によって表現される風景と車両との位置関係を直感的に把握できる。
【0003】
一方、車両の後方を撮影するカメラが、車両の幅方向の中心から幅方向にずらして設けられている場合において、撮影画像に対して車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行わなった場合、表示装置に表示された画像の左右方向の中心と、当該画像によって表現される風景における車両の幅方向の中心とが乖離した状態となる。このため、当該画像を視認する運転手が、当該画像によって表現される風景と車両との位置関係を直感的に把握しづらい。
【0004】
このことを踏まえ、特許文献1には、車両の後方を撮影するカメラが、車両の中央から幅方向にずらして設けられている場合に、車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行う技術が記載されている。特許文献1に記載の技術によれば、車両の後方を撮影するカメラが、車両の幅方向の中心から幅方向にずらして設けられている場合であっても、表示装置に表示された画像の左右方向の中心と、当該画像によって表現される風景における車両の幅方向の中心とが一致した状態で、カメラの撮影結果に基づく画像が表示装置に表示されるため、運転手は、表示装置に表示された画像によって表現される風景と車両との位置関係を直感的に把握できる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2002−374523号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1に記載された技術の場合、撮影画像に対して、歪み補正や、解像度調整等に加えて、車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行う必要があるため、処理が複雑化し、処理負荷が大きくなるという課題があった。なお、このような課題は、カメラが、車両の前方を撮影するカメラである場合にも同様に発生する。
【0007】
本発明は、このような問題を解決するために成されたものであり、処理の複雑化を抑制した上で、車両の後方または前方を撮影するカメラの撮影結果に基づく画像を視認する者が、表示装置に表示された画像によって表現される風景と車両との位置関係を直感的に把握できるようにすることを目的とする。
【課題を解決するための手段】
【0008】
上記した課題を解決するために、本発明では、表示制御装置は、車両の後部または前部に、車両の幅方向の中心から幅方向にずらして設置されたカメラであって、車両の後方または前方を撮影するカメラから撮影画像を取得し、取得した撮影画像に対して、車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行わず、所定の画像処理を施して対応画像を生成すると共に、対応画像を含む表示画像を生成し、生成した表示画像に対して、車両の幅方向の中心とカメラとの幅方向のずれを反映して、車両の位置を示す付加画像を付加し、付加画像を付加した表示画像を表示装置に表示させる。その際の一態様として、対応画像として、車両の後部において車両の幅方向の中心から幅方向にずらして設置されたリアカメラの撮影画像に対して車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行うことなく車両の後方を俯瞰視した対応俯瞰画像を生成し、更に、矩形の領域の下部に、当該矩形の領域の左右方向の中心と対応俯瞰画像の左右方向の中心とが一致した状態で対応俯瞰画像が配置された俯瞰画面を含む表示画像を生成し、俯瞰画面において対応俯瞰画像の上方に、車両を表すマークからなる付加画像を、車両の幅方向の中心とカメラとの幅方向のずれ分ずらした状態で付加する。また別の態様として、対応画像として、車両の後部において車両の幅方向の中心から幅方向にずらして設置されたリアカメラの撮影画像に対して車両の幅方向の中心とカメラとの幅方向のずれに基づく補正を行うことなく車両の後方を俯瞰視した対応俯瞰画像を生成すると共に、リアカメラの撮影画像に対して当該ずれに基づく補正を行うことなく、遠近感を維持した状態で車両の後方の風景を表す車外画像を生成し、更に、対応俯瞰画像が配置された俯瞰画面と、車外画像が配置された車外画面との双方を同時に含む表示画像を生成し、俯瞰画面において、車両の幅方向の中心とカメラとの幅方向のずれを反映して、対応俯瞰画像によって表される風景と車両との位置関係を明示する付加画像を付加し、更に、車外画面において、車両の幅方向の中心とカメラとの幅方向のずれを反映して、車外画像によって表される風景と車両との位置関係を明示する付加画像を付加する。
【発明の効果】
【0009】
上記のように構成した本発明によれば、撮影画像に対する画像処理に際し、車両の幅方向の中心とカメラとの幅方向のずれに基づく補正が行われないため、処理の複雑化を抑制できる。その上で、上記のように構成した本発明によれば、車両の幅方向の中心とカメラとの幅方向のずれを反映して、車両の位置を示す付加画像が付加された状態で表示装置にカメラの撮影結果に基づく画像が表示されるため、当該画像を視認する者は、付加画像に基づいて、表示装置に表示された画像によって表現される風景と車両との位置関係を直感的に把握できる。
【図面の簡単な説明】
【0010】
図1】本発明の一実施形態に係る表示制御装置の機能構成例を示すブロック図である。
図2】リアカメラが設置された位置およびリアカメラの撮影領域の説明に用いる図である。
図3】運転支援画面および表示画像の一例を示す図である。
図4】付加画像が付加された表示画像の一例を示す図である。
図5】切り替え後の運転支援画面の一例を示す図である。
図6】本発明の一実施形態に係る表示制御装置の動作例を示すフローチャートである。
図7】運転支援画面の一例を示す図である。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態に係る表示制御装置1の機能構成例を示すブロック図である。図1に示すように、表示制御装置1は、リアカメラ2(特許請求の範囲の「カメラ」に相当)およびタッチパネル3に接続されている。タッチパネル3は、液晶表示パネル等の表示パネルを含んで構成された表示装置4と、表示パネルに重ねて配置され、運転手(運転手以外の者であってもよい)によるタッチ操作を検出するタッチセンサ5とを含んで構成される。タッチパネル3は、車両Sのダッシュボードや、センターコンソール等、運転手が視認可能かつタッチ操作可能な位置に設けられる。リアカメラ2は、車両Sの後部に設けられ、車両Sの後方を撮影する撮影装置である。本実施形態では、リアカメラ2は、魚眼レンズを有する魚眼カメラによって構成されている。リアカメラ2は、ユーザの指示や、車両Sのギアがリーバスになったこと等の所定の事象をトリガとして、所定の周期で撮影を実行し、所定の周期で撮影結果に基づく撮影画像を出力する。
【0012】
図2は、本実施形態において、リアカメラ2が設けられた位置、および、リアカメラ2の撮影領域の説明に用いる図である。図2で示す車両Sについて、図の上下方向が車両Sの長手方向に相当し、図の左右方向が車両Sの幅方向に相当し、図の上方が車両Sの前方に相当し、図の下方が車両Sの後方に相当する。以下、車両Sについて、前方に向かって左の方向を「車両左方向」といい、前方に向かって右の方向「車両右方向」という。また、図2において、符号Hは、リアカメラ2の撮影領域を説明に適した態様で模式的に示している。図2に示すように、本実施形態に係るリアカメラ2は、車両Sの後部において、車両Sの幅方向の中央を通り長手方向に延びる中心線Kに対し、距離Lだけ車両左方向に離間した位置P1に設けられている。
【0013】
図2において、オブジェクトOJは、車両Sの後方の路面に載置された平らな部材である。オブジェクトOJは、正面視で長方形の部材であり、その長手方向の中心に、その短手方向に沿って延びる帯状の帯模様MAが描画されており、模様Mの一方向側には「○」を模した模様MOが描画され、他方向側には「□」を模した模様MXが描画されている。図2において、オブジェクトOJは、車両Sから一定の距離だけ後方に離間した位置であって、その長手方向が車両Sの幅方向に沿って延び、その短手方向が車両Sの長手方向に沿って延びると共に、帯模様MAが車両Sに係る中心線K上に延在する位置に配置される。つまり、オブジェクトOJの長手方向の中央を通り、短手方向に延びる線を中心線MKとすると、オブジェクトOJは、オブジェクOJに係る中心線MKと、車両Sに係る中心線Kとが同一線上になるように、車両Sの後方の路面に載置される。この結果、オブジェクトOJに係る中心線MKと、リアカメラ2の光軸とは、距離Lだけ、車両Sの幅方向に離間した状態となっている。また、図2で表される路面には、所定の形状の白線HKが描画されている。
【0014】
表示制御装置1は、運転手からの指示や、車両Sのギアがリーバスになったこと等の所定の事象をトリガとして、タッチパネル3に運転支援画面UI1(図3(A)参照)を表示し、運転を支援する。図1に示すように、表示制御装置1は、機能構成として、撮影画像取得部10、表示画像生成部11、画像付加部12および表示制御部13を備えている。上記各機能ブロック10〜13は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック10〜13は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
【0015】
撮影画像取得部10は、リアカメラ2が所定の周期で出力する撮影画像を入力し、取得する。撮影画像取得部10は、取得した撮影画像を表示画像生成部11に出力する。
【0016】
表示画像生成部11は、撮影画像取得部10から撮影画像を入力し、入力した撮影画像に基づいて、表示画像を生成する。以下、表示画像生成部11の処理について、運転支援画面UI1の構造と共に説明する。
【0017】
図3(A)は、図2の状態のときにリアカメラ2の撮影結果に基づいて表示される運転支援画面UI1の一例を示している。なお、運転支援画面UI1は、後述するように付加画像が付加された表示画像に基づいて表示される画面であり、運転支援画面UI1と、付加画像が付加された表示画像とは同一性を有する。このことを踏まえ、以下では、適宜、図3(A)の運転支援画面UI1を、付加画像が付加された表示画像として、実施形態を説明する場合がある。図3(A)に示すように、運転支援画面UI1は、タッチパネル3の表示領域の右部に表示された俯瞰画面Q1と、タッチパネルの表示領域の左部に表示され、俯瞰画面Q1よりもサイズが大きい車外画面Q2とを有する。俯瞰画面Q1の下部には、車両Sの後方に向かう方向が、画面の下に向かった状態で、リアカメラ2の撮影結果に基づく俯瞰画像である対応俯瞰画像G1(特許請求の範囲の「対応画像」に相当)が表示される。俯瞰画像とは、撮影画像を俯瞰視に視点変換した画像である。俯瞰画面Q1において、対応俯瞰画像G1の上方には、車両Sを表すマークM1(特許請求の範囲の「付加画像」に相当)が表示される。マークM1は、車両Sを模した図形である。また、俯瞰画面Q1には、所定の態様で、所定の形状の第1補助図形Z1(特許請求の範囲の「付加画像」に相当)が表示される。運転支援画面UI1の俯瞰画面Q1の内容については後に詳述する。
【0018】
車外画面Q2には、リアカメラ2の撮影結果に基づいて、車両Sの後方に向かう方向が画面の上に向かった状態で、車両Sの後方の風景を表す車外画像G2(特許請求の範囲の「対応画像」に相当)が表示される。車外画像G2は、リアカメラ2の撮影結果に基づく広角画像、標準画像または俯瞰画像のいずれかの種類の画像である。運転手は、これら画像の種類のうち、車外画面Q2に表示させる画像の種類を切り替えることができる。広角画像とは、魚眼カメラにより構成されたリアカメラ2が出力する撮影画像について、広角性および遠近感が維持されつつ、魚眼レンズに由来する歪みが所定の態様で補正された画像である。標準画像は、撮影画像について、遠近感が維持されつつ、魚眼レンズに由来する歪みが補正され、中心射影方式の撮影装置による撮影結果のように成された画像である。なお、車外画像G2として表示される広角画像、標準画像および俯瞰画像は、左右反転された状態で表示される。図3(A)では、車外画面Q2に、車外画像G2として、標準画像が表示された様子を示している。車外画面Q2には、所定の態様で、所定の形状の第2補助図形Z2(特許請求の範囲の「付加画像」に相当)が表示される。運転支援画面UI1の車外画面Q2の内容については後に詳述する。
【0019】
図3(B)は、図3(A)で例示した運転支援画面UI1の表示に際して、表示画像生成部11が生成する表示画像の一例を説明に適した態様で模式的に示す図である。表示画像生成部11は、撮影画像取得部10から入力した撮影画像に対して、歪み補正や、視点変換処理、サイズ調整、解像度調整等の必要な画像処理を施して、対応俯瞰画像G1を生成する。その際、表示画像生成部11は、車両Sに係る中心線Kからリアカメラ2が距離Lだけ車両Sの幅方向にずれた位置に配置されていることに基づく補正を行わない。つまり、表示画像生成部11は、対応俯瞰画像G1の左右方向の中心と、対応俯瞰画像G1によって表現される風景における車両Sの幅方向の中心とが一致するように、撮影画像を左右方向にずらす補正を行わない。この結果、図3(B)に示すように、表示画像生成部11により生成される対応俯瞰画像G1は、仮想線K1aで表される帯模様MAに沿って延びる線(車両Sに係る中心線Kと同一線上の線)と、仮想線K1bで表される対応俯瞰画像G1の左右方向の中心の線とが一致しない状態となる。
【0020】
同様に、表示画像生成部11は、撮影画像取得部10から入力した撮影画像に対して、必要な画像処理を施して、ユーザが選択した種類の車外画像G2を生成する。車外画像G2の生成に際し、表示画像生成部11は、対応俯瞰画像G1を生成するときと同様、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映した補正を行わない。この結果、図3(B)の例では、表示画像生成部11により生成される車外画像G2は、仮想線K2aで表される帯模様MAに沿って延びる線(車両Sに係る中心線Kに対応する線)と、仮想線K2bで表される車外画像G2の左右方向の中心の線とが一致しない状態となる。
【0021】
対応俯瞰画像G1および車外画像G2を生成した後、表示画像生成部11は、これら画像が適切な位置に配置された表示画像(図3(B)で示す画像の全体)を生成する。図3(B)に示すように、表示画像には、マークM1、第1補助図形Z1および第2補助図形Z2が付加されていない。表示画像生成部11は、生成した表示画像を画像付加部12に出力する。表示画像生成部11は、リアカメラ2による車両Sの後方の撮影に応じて、所定の周期で、表示画像の生成、および、表示画像の出力を実行する。
【0022】
画像付加部12は、表示画像生成部11から表示画像を入力し、入力した表示画像に対して、車両の幅方向の中心とリアカメラ2との幅方向のずれを反映して、付加画像(本実施形態では、マークM1、第1補助図形Z1および第2補助図形Z2)を付加する。以下、画像付加部12の処理について付加画像の内容と共に詳述する。
【0023】
まず、俯瞰画面Q1にマークM1を付加するときの画像付加部12の処理について説明する。画像付加部12は、対応俯瞰画像G1によって表される風景と、マークM1によって表される車両Sとの位置関係が、実世界における当該風景と車両Sとの位置関係と一致するように、俯瞰画面Q1にマークM1を付加する。図3(A)の例では、マークM1によって表される車両Sと、対応俯瞰画像G1によって表される風景に含まれるオブジェクトOJとの位置関係が、図2で示す実世界における車両SとオブジェクトOJとの位置関係と一致している。俯瞰画面Q1におけるマークM1の位置は、車両Sに係る中心線Kとリアカメラ2との幅方向のずれを反映して、事前のテストやシミュレーションの結果等を踏まえて適切に設定されている。画像付加部12は、設定に従って、表示画像の俯瞰画面Q1に対応する領域における予め定められた位置に、予め定められた態様で、マークM1を付加する。つまり、画像付加部12は、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、表示画像にマークM1を付加する。運転手は、マークM1に基づいて、対応俯瞰画像G1によって表された風景との関係で車両Sがどこに位置しているのかを的確に、かつ、直感的に把握することができる。
【0024】
次に、俯瞰画面Q1に第1補助図形Z1を付加するときの画像付加部12の処理について説明する。図3(A)に示すように、第1補助図形Z1は、マークM1の左側の外縁および右側の外縁の少し外側で、画面の上下方向(車両Sの長手方向に対応する方向)に沿って延びる2本の線S1L、S1Rを有する。線S1Lと線S1Rとは、仮想線K1aを対称軸として線対称な線である。つまり、線S1Lおよび線S1Rは、対応俯瞰画像G1によって表される風景において、車両Sの幅方向の中心を通り長手方向に延びる中心線(仮想線K1a)を対称軸として線対称な2本の線である。図3(A)に示すように、線S1L、S1Rは、マークM1の下端を上方に向かって少し超えた位置から、対応俯瞰画像G1の下端まで、画面の上下方向に沿って延在している。運転手は、線S1L、S1Rに基づいて、車両Sが現在位置から真っ直ぐに後進した場合に、対応俯瞰画像G1によって表された風景の中でどのような経路を通るかを認識し、当該認識に基づいて、より的確に、対応俯瞰画像G1によって表された風景との関係で車両Sがどこに位置しているのかを認識できる。
【0025】
また、第1補助図形Z1は、線S1L上の一端と線S1R上の一端とを結ぶ左右方向に延びる2つの線S1U、S1Dを有する。線S1Uは、車両Sの長手方向の後方の端から、所定距離(例えば、50センチ)だけ後方に向かって離間した位置を示す線である。線S1Dは、線S1Uが示す位置から、所定距離(例えば、100センチ)だけ後方に向かって離間した位置を示す線である。運転手は、線S1U、S1Dに基づいて、より的確に、対応俯瞰画像G1によって表される風景との関係で車両Sがどこに位置しているのかを認識できる。画像付加部12は、車両Sに係る中心線Kとリアカメラ2との幅方向のずれが反映されて定められた事前の設定の下、表示画像の俯瞰画面Q1に対応する領域における予め定められた位置に、予め定められた態様で、第1補助図形Z1を付加する。つまり、画像付加部12は、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、表示画像に第1補助図形Z1を付加する。
【0026】
以上のように、本実施形態では、俯瞰画面Q1において、マークM1および第1補助図形Z1が、車両Sに係る中心線Kとリアカメラ2との幅方向のずれを反映した位置に付加される。これにより、上述したとおり、運転手は、マークM1および第1補助図形Z1に基づいて、対応俯瞰画像G1によって表された風景との関係で車両Sがどこに位置しているのを的確に、かつ、直感的に把握することができる。本実施形態では、このような効果を、表示画像生成部11が、画像処理において、撮影画像を左右方向にずらす補正を行わず、複雑で処理負荷の大きい処理を行うことなく、奏することができる。
【0027】
次に、車外画面Q2に第2補助図形Z2を付加するときの画像付加部12の処理について、車外画面Q2に車外画像G2として標準画像を表示する場合と、俯瞰画像を表示する場合とのそれぞれの場合を例にして説明する。
【0028】
まず、車外画像G2が標準画像の場合について図3(A)を用いて説明する。図3(A)に示すように、第2補助図形Z2は、俯瞰画面Q1に表示される第1補助図形Z1を、車外画像G2によって立体的な空間として表される風景の中に描画した図形である。第2補助図形Z2は、車外画像G2により表される風景の中で、奥行き方向に延びるように描画された2本の線S2L、S2Rを有する。線S2Lは、第1補助図形Z1の線S1Lに対応し、線S2Rは、第1補助図形Z1の線S1Rに対応する。つまり、線S2Lおよび線S2Rは、車外画像G2によって表される風景において、車両Sの幅方向の中心を通り長手方向に延びる中心線(仮想線K2a)を対称軸として線対称な2本の線である。線S2L、S2Rは、車両Sが現在位置から真っ直ぐに後進した場合に、対応俯瞰画像G2によって表された風景の中でどのような経路を通るかを表しており、運転手は、線S2L、S2Rを視認することにより、当該経路を認識できると共に、当該認識に基づいて、対応俯瞰画像G1によって表された風景との関係で車両Sがどこに位置しているのかを的確かつ直感的に認識できる。
【0029】
図3(A)に示すように、第2補助図形Z2は、線S2L上の一端と線S2R上の一端とを結ぶ2つの線S2U、S2Dを有する。線S2Uは、第1補助図形Z1の線S1Uに対応し、線S2Dは、第1補助図形Z1の線S1Dに対応する。線S2U、S2Dは、車外画像G2により表される風景において、車両Sの長手方向の後方の端から、それぞれ異なる所定距離だけ離間した位置を示している。運転手は、線S2U、S2Dに基づいて、より的確に、車外画像G2によって表される風景との関係で車両Sがどこに位置しているのかを認識できる。画像付加部12は、車両Sに係る中心線Kとリアカメラ2との幅方向のずれが反映されて定められた事前の設定の下、表示画像の車外画面Q2に対応する領域における予め定められた位置に、予め定められた態様で、第2補助図形Z2を付加する。つまり、画像付加部12は、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、第2補助図形Z2を付加する。
【0030】
次に、車外画像G2が俯瞰画像の場合について図4を用いて説明する。図4は、車外画像G2が俯瞰画像の場合に、表示画像に付加画像が付加された様子を示す図である。この場合、車外画面Q2には、車外画像G2として、俯瞰画面Q1の対応俯瞰画像G1が上下反転された画像が表示される。この場合、画像付加部12は、第2補助図形Z2として、第1補助図形Z1と同様の形状の図形を、第2補助図形Z2と車外画像G2との関係が、第1補助図形Z1と対応俯瞰画像G1との関係と同一になるような状態で付加する。
【0031】
画像付加部12は、表示画像に付加画像を付加した後、付加画像が付加された表示画像を表示制御部13に出力する。画像付加部12は、リアカメラ2による車両Sの後方の撮影に応じて、所定の周期で、表示画像への付加画像の付加、および、付加画像が付加された表示画像の出力を実行する。
【0032】
表示制御部13は、所定の周期で入力する付加画像が付加された表示画像に基づいて、タッチパネル3の表示装置4を制御して、運転支援画面UI1を表示装置4に表示させる。この結果、リアカメラ2の撮影結果がリアルタイムで反映された動画として対応俯瞰画像G1および車外画像G2が表示されると共に、俯瞰画面Q1の適切な位置にマークMおよび第1補助図形Z1が付加され、車外画面Q2の適切な位置に第2補助図形Z2が付加された状態で運転支援画面UI1が表示される。
【0033】
なお、本実施形態では、運転手は、運転支援画面UI1の俯瞰画面Q1の対応俯瞰画像G1をタッチ操作することによって、運転支援画面UI1の内容を、表示装置4の表示領域の広い領域に対応俯瞰画像G1が表示された画面へと切り替えることができる。図5は、切り替え後の運転支援画面UIを示す図である。図5において、図3の画像と対応する画像には同一の符号を付している。図5において、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映した適切な位置に付加画像(マークM1および第1補助図形Z1)が付加されている。なお、図5では、マークM1は、車両Sの全域ではなく、車両Sの後部の一定の領域を表す図形である。運転手は、図5で示す画像に基づく画面を参照することにより、駐車スペースSと車両Sとの位置関係を的確にかつ直感的に認識することができる。
【0034】
図6は、本実施形態に係る表示制御装置1の動作例を示すフローチャートである。図6のフローチャートは、リアカメラ2が1つの撮影画像を出力したときに、当該1つの撮影画像に基づいて表示制御装置1が実行する処理を示している。
【0035】
図6に示すように、撮影画像取得部10は、リアカメラ2が出力した撮影画像を入力し、取得する(ステップSA1)。表示画像生成部11は、ステップSA1で撮影画像取得部10が取得した撮影画像に基づいて、表示画像を生成する(ステップSA2)。上述したように、ステップSA2において、表示画像生成部11は、車両Sの幅方向の中心とリアカメラ2との幅方向のずれに基づく補正を行わず、所定の画像処理を施して表示画像を生成する。
【0036】
画像付加部12は、表示画像生成部11が生成した表示画像の俯瞰画面Q1に対応する領域に、事前の設定に基づいて、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、マークMを付加する(ステップSA3)。画像付加部12は、表示画像の俯瞰画面Q1に対応する領域に、事前の設定に基づいて、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、第1補助図形Z1を付加する(ステップSA4)。ステップSA4の処理に併せて、画像付加部12は、表示画像の車外画面Q2に対応する領域に、事前の設定に基づいて、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、第2補助図形Z2を付加する(ステップSA4)。
【0037】
表示制御部13は、ステップSA3、SA4、SA5の処理によって付加画像(マークM、第1補助図形Z1および第2補助図形Z2)が付加された表示画像に基づいて運転支援画面UI1をタッチパネル3の表示装置4に表示させる(ステップSA5)。
【0038】
以上詳しく説明したように、本実施形態に係る表示制御装置1は、車両Sの後部に車両Sの幅方向の中心から幅方向にずらして設置されたリアカメラ2であって、車両Sの後方を撮影するリアカメラ2から撮影画像を取得し、取得した撮影画像に対して、車両Sの幅方向の中心とリアカメラ2との幅方向のずれに基づく補正を実行せず、他の画像処理を施して対応画像を生成し、対応画像を含む表示画像を生成し、生成した表示画像に対して、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、車両Sの位置を示す付加画像を付加し、付加画像を付加した表示画像を表示装置4に表示させる。
【0039】
この構成によれば、撮影画像に対する画像処理に際し、車両Sの幅方向の中心とリアカメラ2との幅方向のずれに基づく補正が行われないため、処理の複雑化を抑制できる。その上で、上記構成によれば、車両Sの幅方向の中心とリアカメラ2との幅方向のずれを反映して、車両Sの位置を示す付加画像が付加された状態で表示装置4にリアカメラ2の撮影結果に基づく画像(運転支援画面UI1)が表示されるため、当該画像を視認する者は、表示装置4に表示された画像によって表される風景と車両Sとの位置関係を直感的に把握できる。
【0040】
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0041】
例えば、上述した実施形態では、第1補助図形Z1について、線S1Lと線S1Lとの離間距離は固定されていた。この点に関し、画像付加部12が、線S1Lと線S1Lとの距離を、車両Sが駐車しようとしている駐車スペースの幅の大きさに応じて動的に変更する構成でもよい。この場合、画像付加部12は、例えば、以下の処理を実行する。すなわち、車両Sが所定の駐車スペースに駐車するために、駐車スペースの前方に位置している場合に、画像付加部12は、撮影画像取得部10が取得した撮影画像について、白線検知を含む画像認識を行って、駐車スペースの幅の大きさを検出する。そして、画像付加部12は、仮想線K1aを対称軸として線対称な状態を維持しつつ、線S1Lと、線S1Rとの距離を、駐車スペースの幅の大きさに相当する距離とする。この構成によれば、運転手は、第1補助図形Z1に基づいて、車両Sの位置だけではなく、車両Sが駐車予定の駐車スペースSの幅、および、駐車スペースSと車両Sとの位置関係を的確に認識することができる。なお、このような処理を第2補助図形Z2に施してもよいことは勿論である。
【0042】
また、上述した実施形態では、俯瞰画面Q1に、マークMと、第1補助図形Z1とが表示される構成であったが、いずれか一方が表示される構成でもよい。また、運転支援画面UI1の内容を図を用いて例示したが、運転支援画面UI1の内容は例示した内容に限らない。例えば、運転支援画面UI1が俯瞰画面Q1を有さず、表示領域の全域に車外画面Q2を有する構成でもよい。また、俯瞰画面Q1が、車外画面Q2の左側に表示される構成でもよい。
【0043】
また、第1補助図形Z1の態様は、上述した実施形態で例示した態様に限らない。例えば、第1補助図形Z1が線S1U、S1Dを有さない構成でもよい。また、第1補助図形Z1は、マークM1から下方に向かって直線的に延びる帯状の図形であってもよい。また、第1補助図形Z1の線S1L、S1Rの離間距離は、車両Sの車幅よりも狭くてもよい。また、第1補助図形Z1は、対応俯瞰画像G1によって表される風景において、車両Sの幅方向の中心を通り長手方向に延びる中心線を表す画像を含んでいてもよい。図7は、図3(A)の運転支援画面UI1に対して、車両Sの幅方向の中心を通り長手方向に延びる中心線を表す画像である線S1Mが付加された様子を示している。以上のことは、第2補助図形Z2についても同様である。
【0044】
また、俯瞰画面Q1に、車両Sのステアリングの角度を反映した車両Sの予定経路を示す画像を付加する場合、このような画像と区別できるよう、第1補助図形Z1の態様を、当該予定経路を示す画像と明確に区別できるような態様で表示してもよい。例えば、第1補助図形Z1の色を、当該予定経路を示す画像の色と異なる色としたり、線の形状(太さや、波線、実線等)を異なる形状としたりすることができる。以上のことは、第2補助図形Z2についても同様である。
【0045】
また、本実施形態では、特許請求の範囲の「カメラ」が、車両Sの後部に設けられたリアカメラ2であるものとして実施形態を説明した。この点に関し、特許請求の範囲の「カメラ」は、車両Sの前部に設けられたフロントカメラであって、車両Sに係る中心線Kから幅方向にずれた位置に設けられたフロントカメラであってもよい。
【符号の説明】
【0046】
1 表示制御装置
4 表示装置
10 画像取得部
11 表示画像生成部
12 画像付加部
13 表示制御部
図1
図2
図3
図4
図5
図6
図7