IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社JVCケンウッドの特許一覧

特許7196881俯瞰映像生成装置および俯瞰映像生成方法
<>
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図1
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図2
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図3
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図4
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図5
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図6
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図7
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図8
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図9
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図10
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図11
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図12
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図13
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図14
  • 特許-俯瞰映像生成装置および俯瞰映像生成方法 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-19
(45)【発行日】2022-12-27
(54)【発明の名称】俯瞰映像生成装置および俯瞰映像生成方法
(51)【国際特許分類】
   H04N 7/18 20060101AFI20221220BHJP
   B60R 1/27 20220101ALI20221220BHJP
【FI】
H04N7/18 J
H04N7/18 V
B60R1/27
【請求項の数】 4
(21)【出願番号】P 2020109458
(22)【出願日】2020-06-25
(62)【分割の表示】P 2017073368の分割
【原出願日】2017-04-03
(65)【公開番号】P2020182220
(43)【公開日】2020-11-05
【審査請求日】2020-06-25
(31)【優先権主張番号】P 2016183103
(32)【優先日】2016-09-20
(33)【優先権主張国・地域又は機関】JP
【前置審査】
(73)【特許権者】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(72)【発明者】
【氏名】里見 恒夫
(72)【発明者】
【氏名】浅山 学
(72)【発明者】
【氏名】森 俊夫
【審査官】佐野 潤一
(56)【参考文献】
【文献】特開2012-244600(JP,A)
【文献】特開2006-341641(JP,A)
【文献】特開2016-063390(JP,A)
【文献】特開2011-201365(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 1/00
B60R 11/00
B60R 21/00
(57)【特許請求の範囲】
【請求項1】
車両の周辺を撮影した周辺映像を取得する映像取得部と、
前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得部と、
前記映像取得部が取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成部と、
前記障害物情報取得部が取得した障害物情報に基づいて、検出した障害物までの距離が前記俯瞰映像の表示範囲より遠方であれば、前記障害物を示す情報を、前記俯瞰映像で囲まれた中央部から前記俯瞰映像で囲まれた中央部の外側まで、前記障害物を検出した方向に向けて延伸させて重畳させた俯瞰映像を生成し、検出した障害物までの距離が前記俯瞰映像の表示範囲に含まれれば、前記障害物を示す情報を、前記中央部内に、前記障害物を検出した方向を示すように重畳した俯瞰映像を生成する重畳映像生成部と、
前記重畳映像生成部が生成した俯瞰映像を表示部に表示させる表示制御部と、を有し、
前記障害物を示す情報は、前記障害物を検出した方向を向いた複数の構成要素を有し、前記複数の構成要素の間隔によって前記障害物までの距離を示すものであり、
前記重畳映像生成部は、検出した障害物までの距離に基づいて、前記複数の構成要素の
間隔を変化させる、
ことを特徴とする俯瞰映像生成装置。
【請求項2】
車両の周辺を撮影した周辺映像を取得する映像取得部と、
前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得部と、
前記映像取得部が取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成部と、
前記障害物情報取得部が取得した障害物情報に基づいて、検出した障害物までの距離が前記俯瞰映像の表示範囲より遠方であれば、前記障害物を示す情報を前記俯瞰映像に、前記障害物を検出した方向に向けて重畳させた俯瞰映像を生成し、検出した障害物までの距離が前記俯瞰映像の表示範囲に含まれれば、前記障害物を示す情報を前記俯瞰映像で囲まれた中央部内に、前記障害物を検出した方向を示すように重畳した俯瞰映像を生成する重畳映像生成部と、
前記重畳映像生成部が生成した俯瞰映像を表示部に表示させる表示制御部と
を有し、
前記障害物を示す情報は、前記障害物を検出した方向を向いた複数の構成要素を有し、前記複数の構成要素の間隔によって前記障害物までの距離を示すものであり、
前記重畳映像生成部は、検出した障害物までの距離に基づいて、前記複数の構成要素の間隔を変化させる
ことを特徴とする俯瞰映像生成装置。
【請求項3】
車両の周辺を撮影した周辺映像を取得する映像取得ステップと、
前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得ステップと、
前記映像取得ステップで取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成ステップと、
前記障害物情報取得ステップで取得した障害物情報に基づいて、検出した障害物までの距離が前記俯瞰映像の表示範囲より遠方であれば、前記障害物を示す情報を、前記俯瞰映像で囲まれた中央部から前記俯瞰映像で囲まれた中央部の外側まで、前記障害物を検出した方向に向けて延伸させて重畳させた俯瞰映像を生成し、検出した障害物までの距離が前記俯瞰映像の表示範囲に含まれれば、前記障害物を示す情報を、前記中央部内に、前記障害物を検出した方向を示すように重畳した俯瞰映像を生成する重畳映像生成ステップと、
前記重畳映像生成ステップで生成した俯瞰映像を表示部に表示させる表示制御ステップと
を俯瞰映像生成装置が実行し、
前記障害物を示す情報は、前記障害物を検出した方向を向いた複数の構成要素を有し、前記複数の構成要素の間隔によって前記障害物までの距離を示すものであり、
前記重畳映像生成ステップは、検出した障害物までの距離に基づいて、前記複数の構成要素の間隔を変化させる、
ことを特徴とする俯瞰映像生成方法。
【請求項4】
車両の周辺を撮影した周辺映像を取得する映像取得ステップと、
前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得ステップと、
前記映像取得ステップで取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成ステップと、
前記障害物情報取得ステップで取得した障害物情報に基づいて、検出した障害物までの距離が前記俯瞰映像の表示範囲より遠方であれば、前記障害物を示す情報を前記俯瞰映像に、前記障害物を検出した方向に向けて重畳させた俯瞰映像を生成し、検出した障害物までの距離が前記俯瞰映像の表示範囲に含まれれば、前記障害物を示す情報を前記俯瞰映像で囲まれた中央部内に、前記障害物を検出した方向を示すように重畳した俯瞰映像を生成する重畳映像生成ステップと、
前記重畳映像生成ステップで生成した俯瞰映像を表示部に表示させる表示制御ステップと
を俯瞰映像生成装置が実行し、
前記障害物を示す情報は、前記障害物を検出した方向を向いた複数の構成要素を有し、前記複数の構成要素の間隔によって前記障害物までの距離を示すものであり、
前記重畳映像生成ステップは、検出した障害物までの距離に基づいて、前記複数の構成要素の間隔を変化させる、
ことを特徴とする俯瞰映像生成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、俯瞰映像生成装置よび俯瞰映像生成方法関する。
【背景技術】
【0002】
車両の俯瞰映像を車両画像と共に表示する車両周辺表示装置に関する技術が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2015-076645号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
車両の周辺をより確認しやすくするため、車両の周辺において検出した障害物の障害物情報を俯瞰映像に重畳させて表示する技術がある。ところが、障害物情報を俯瞰映像に重畳させると、俯瞰映像に映った障害物の視認性が阻害されるおそれがある。
【0005】
本発明は、上記に鑑みてなされたものであって、車両周辺の障害物を適切に確認可能にすることを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、車両の周辺を撮影した周辺映像を取得する映像取得部と、前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得部と、前記映像取得部が取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成部と、前記障害物情報取得部が取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値以上であれば、前記障害物を示す情報を、前記俯瞰映像で囲まれた中央部の外側に延伸させて重畳させた俯瞰映像を生成し、検出した障害物までの距離が所定閾値未満であれば、前記障害物を示す情報を、前記中央部に重畳した俯瞰映像を生成する重畳映像生成部と、前記重畳映像生成部が生成した俯瞰映像を表示部に表示させる表示制御部とを有することを特徴とする。
【0007】
本発明に係る他の形態の俯瞰映像生成装置は、車両の周辺を撮影した周辺映像を取得する映像取得部と、前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得部と、前記映像取得部が取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成部と、前記障害物情報取得部が取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値以上であれば、前記障害物を示す情報を前記俯瞰映像に重畳させた俯瞰映像を生成し、検出した障害物までの距離が所定閾値未満であれば、前記障害物を示す情報を前記俯瞰映像で囲まれた中央部に重畳した俯瞰映像を生成する重畳映像生成部と、前記重畳映像生成部が生成した俯瞰映像を表示部に表示させる表示制御部とを有することを特徴とする。
【0008】
本発明に係る俯瞰映像生成方法は、車両の周辺を撮影した周辺映像を取得する映像取得ステップと、前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得ステップと、前記映像取得ステップで取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成ステップと、前記障害物情報取得ステップで取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値以上であれば、前記障害物を示す情報を、前記俯瞰映像で囲まれた中央部の外側に延伸させて重畳させた俯瞰映像を生成し、検出した障害物までの距離が所定閾値未満であれば、前記障害物を示す情報を、前記中央部に重畳した俯瞰映像を生成する重畳映像生成ステップと、前記重畳映像生成ステップで生成した俯瞰映像を表示部に表示させる表示制御ステップとを俯瞰映像生成装置が実行する。
【0009】
本発明に係る他の形態の俯瞰映像生成方法は、車両の周辺を撮影した周辺映像を取得する映像取得ステップと、前記車両の周辺において検出した障害物の、前記車両から前記障害物までの距離を含む障害物情報を取得する障害物情報取得ステップと、前記映像取得ステップで取得した周辺映像から前記車両を上方から見下ろすように視点変換処理を行った俯瞰映像を生成する俯瞰映像生成ステップと、前記障害物情報取得ステップで取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値以上であれば、前記障害物を示す情報を前記俯瞰映像に重畳させた俯瞰映像を生成し、検出した障害物までの距離が所定閾値未満であれば、前記障害物を示す情報を前記俯瞰映像で囲まれた中央部に重畳した俯瞰映像を生成する重畳映像生成ステップと、前記重畳映像生成ステップで生成した俯瞰映像を表示部に表示させる表示制御ステップとを俯瞰映像生成装置が実行する。
【発明の効果】
【0010】
本発明によれば、車両周辺の障害物を適切に確認可能にすることができるという効果を奏する。
【図面の簡単な説明】
【0011】
図1図1は、第一実施形態に係る俯瞰映像生成システムの構成例を示すブロック図である。
図2図2は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像および障害物報知アイコンを示す図である。
図3図3は、第一実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
図4図4は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。
図5図5は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
図6図6は、第二実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
図7図7は、第二実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。
図8図8は、第三実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
図9図9は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。
図10図10は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
図11図11は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
図12図12は、障害物報知アイコンにおける、円弧間の間隔と障害物までの距離との関係の一例を示すグラフである。
図13図13は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。
図14図14は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
図15図15は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
【発明を実施するための形態】
【0012】
以下に添付図面を参照して、本発明に係る俯瞰映像生成装置40、瞰映像生成方法実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。
【0013】
図1を用いて、俯瞰映像生成システム1について説明する。俯瞰映像生成システム1は、前方カメラ(撮影部)11と、後方カメラ(撮影部)12と、左側方カメラ(撮影部)13と、右側方カメラ(撮影部)14と、前方左センサ(障害物検出部)21と、前方中央センサ(障害物検出部)22と、前方右センサ(障害物検出部)23と、後方左センサ(障害物検出部)24と、後方中央センサ(障害物検出部)25と、後方右センサ(障害物検出部)26と、表示パネル31と、俯瞰映像生成装置40とを有する。
【0014】
前方カメラ11は、車両の前方に配置され、車両の前方を中心とした周辺を撮影する。前方カメラ11は、撮影した映像を俯瞰映像生成装置40の映像取得部42へ出力する。
【0015】
後方カメラ12は、車両の後方に配置され、車両の後方を中心とした周辺を撮影する。後方カメラ12は、撮影した映像を俯瞰映像生成装置40の映像取得部42へ出力する。
【0016】
左側方カメラ13は、車両の左側方に配置され、車両の左側方を中心とした周辺を撮影する。左側方カメラ13は、撮影した映像を俯瞰映像生成装置40の映像取得部42へ出力する。
【0017】
右側方カメラ14は、車両の右側方に配置され、車両の右側方を中心とした周辺を撮影する。右側方カメラ14は、撮影した映像を俯瞰映像生成装置40の映像取得部42へ出力する。
【0018】
前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで、車両の全方位を撮影する。
【0019】
前方左センサ21は、車両の前方左側に配置され、車両の前方左側における障害物を検出する。前方左センサ21は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。前方左センサ21は、車両と接触するおそれがある、地上から高さを有するものを検出する。前方左センサ21は、例えば、車両から5m程度までの距離の障害物を検出する。前方左センサ21は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。前方左センサ21の検出範囲は、前方中央センサ22の検出範囲の一部と重複していてもよい。前方左センサ21は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、前方左センサ21の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0020】
前方中央センサ22は、車両の前方中央に配置され、車両の前方中央における障害物を検出する。前方中央センサ22は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。前方中央センサ22は、車両と接触するおそれがある、地上から高さを有するものを検出する。前方中央センサ22は、例えば、車両から5m程度までの距離の障害物を検出する。前方中央センサ22は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。前方中央センサ22の検出範囲は、前方左センサ21および前方右センサ23の検出範囲の一部と重複していてもよい。前方中央センサ22は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、前方中央センサ22の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0021】
前方右センサ23は、車両の前方右側に配置され、車両の前方右側における障害物を検出する。前方右センサ23は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。前方右センサ23は、車両と接触するおそれがある、地上から高さを有するものを検出する。前方右センサ23は、例えば、車両から5m程度までの距離の障害物を検出する。前方右センサ23は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。前方右センサ23の検出範囲は、前方中央センサ22の検出範囲の一部と重複していてもよい。前方右センサ23は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、前方右センサ23の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0022】
前方左センサ21と前方中央センサ22と前方右センサ23とで、車両の前方の障害物を検出する。
【0023】
後方左センサ24は、車両の後方左側に配置され、車両の後方左側における障害物を検出する。後方左センサ24は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。後方左センサ24は、車両と接触するおそれがある、地上から高さを有するものを検出する。後方左センサ24は、例えば、車両から5m程度までの距離の障害物を検出する。後方左センサ24は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。後方左センサ24の検出範囲は、後方中央センサ25の検出範囲の一部と重複していてもよい。後方左センサ24は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、後方左センサ24の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0024】
後方中央センサ25は、車両の後方中央に配置され、車両の後方中央における障害物を検出する。後方中央センサ25は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。後方中央センサ25は、車両と接触するおそれがある、地上から高さを有するものを検出する。後方中央センサ25は、例えば、車両から5m程度までの距離の障害物を検出する。後方中央センサ25は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。後方中央センサ25の検出範囲は、後方左センサ24および後方右センサ26の検出範囲の一部と重複していてもよい。後方中央センサ25は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、後方中央センサ25の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0025】
後方右センサ26は、車両の後方右側に配置され、車両の後方右側における障害物を検出する。後方右センサ26は、例えば、赤外線センサまたは超音波センサ、ミリ波レーダなどであり、これらの組合せで構成されてもよい。後方右センサ26は、車両と接触するおそれがある、地上から高さを有するものを検出する。後方右センサ26は、例えば、車両から5m程度までの距離の障害物を検出する。後方右センサ26は、鉛直方向視において、センサの中央部を中心とした、例えば、40°程度の範囲の障害物を検出する。後方右センサ26の検出範囲は、後方中央センサ25の検出範囲の一部と重複していてもよい。後方右センサ26は、検出した障害物の障害物情報を俯瞰映像生成装置40の障害物情報取得部43へ出力する。障害物情報の例としては、後方右センサ26の検出範囲における障害物の有無、障害物までの距離、水平方向における障害物の存在範囲などである。
【0026】
後方左センサ24と後方中央センサ25と後方右センサ26とで、車両の後方の障害物を検出する。
【0027】
表示パネル31は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro-Luminescence)ディスプレイを含むディスプレイである。表示パネル31は、俯瞰映像生成システム1の俯瞰映像生成装置40から出力された映像信号に基づいて、俯瞰映像100を表示する。表示パネル31は、俯瞰映像生成システム1に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示パネル31は、運転者から視認容易な位置に配置されている。
【0028】
俯瞰映像生成装置40は、制御部41と、記憶部49とを有する。
【0029】
制御部41は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置である。制御部41は、記憶部49に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。制御部41は、映像取得部42と、障害物情報取得部43と、車両情報取得部44と、俯瞰映像生成部45と、重畳映像生成部46と、表示制御部47とを有する。
【0030】
映像取得部42は、車両の周辺を撮影した周辺映像を取得する。より詳しくは、映像取得部42は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とが出力した映像を取得する。映像取得部42は、取得した映像を俯瞰映像生成部45に出力する。
【0031】
障害物情報取得部43は、車両の周辺において検出した障害物の障害物情報を取得する。本実施形態では、障害物情報取得部43は、検出した障害物までの距離を含む障害物情報を取得する。より詳しくは、障害物情報取得部43は、前方左センサ21と前方中央センサ22と前方右センサ23と後方左センサ24と後方中央センサ25と後方右センサ26とが出力した障害物情報を取得する。障害物情報取得部43は、取得した障害物情報を重畳映像生成部46に出力する。
【0032】
車両情報取得部44は、車両のギア操作情報など、俯瞰映像を表示させるためのトリガとなる車両情報を、CAN(Controller Area Network)や車両の状態をセンシングする各種センサなどから取得する。車両情報取得部44は、取得した車両情報を俯瞰映像生成部45に出力する。
【0033】
俯瞰映像生成部45は、映像取得部42で取得した周辺映像から車両を上方から見下ろすように視点変換処理を行った俯瞰映像100を生成する。より詳しくは、俯瞰映像生成部45は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで撮影した映像に基づいて、俯瞰映像100を生成する。俯瞰映像100を生成する方法は、公知のいずれの方法でもよく、限定されない。俯瞰映像生成部45は、生成した俯瞰映像100を表示制御部47に出力する。
【0034】
図2を用いて、俯瞰映像100について説明する。図2は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像および障害物報知アイコンを示す図である。俯瞰映像100は、縦長の矩形状である。俯瞰映像100は、前方映像101と後方映像102と左側方映像103と右側方映像104と、前方映像101と後方映像102と左側方映像103と右側方映像104とで囲まれた中央部に位置する中央映像105とを含む。前方映像101と後方映像102と左側方映像103と右側方映像104と、中央映像105とは、枠状の境界線で区切られていてもよい。
【0035】
中央映像105は、縦長の矩形状に生成される。中央映像105は、前方映像101と後方映像102と左側方映像103と右側方映像104との境界が線で区切られている。中央映像105は、俯瞰映像100における車両の位置を示す。
【0036】
図2においては、前方映像101と後方映像102と左側方映像103と右側方映像104との境界を示す斜めの破線を説明のために図示しているが、実際に表示パネル31に表示される俯瞰映像100には当該破線は表示されない。他の図も同様である。
【0037】
重畳映像生成部46は、障害物情報取得部43が取得した障害物情報に基づいて、障害物を示す情報を、俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。本実施形態では、重畳映像生成部46は、障害物情報取得部43が取得した障害物情報に基づいて、俯瞰映像100の中央映像105に障害物を検出した方向を示す情報を重畳した俯瞰映像100を生成する。本実施形態では、重畳映像生成部46は、障害物を検出した方向を示す情報を障害物報知アイコン(障害物を示す情報)110で示す。障害物報知アイコン110は、障害物を検出する各センサの水平方向における検出方向を模式的に示しており、複数の円弧の配置方向は、センサの取付位置を起点とした検出方向、または車両を中心とした放射状の配置などである。障害物報知アイコン110を構成する円弧の幅は、障害物を検出する各センサの検出範囲を示していてもよく、各センサの検出範囲によらず検出方向に対応した固定幅であってもよい。
【0038】
障害物報知アイコン110は、障害物を報知するアイコンである。障害物報知アイコン110は、障害物までの距離と方向とを示す。障害物報知アイコン110は、前方左アイコン(障害物を示す情報)111と前方中央アイコン(障害物を示す情報)112と前方右アイコン(障害物を示す情報)113と後方左アイコン(障害物を示す情報)114と後方中央アイコン(障害物を示す情報)115と後方右アイコン(障害物を示す情報)116とを含む。
【0039】
前方左アイコン111は、車両の前方左側の障害物を報知するアイコンである。より詳しくは、前方左アイコン111は、前方左センサ21で障害物を検出したことを報知するアイコンである。前方左アイコン111は、図2において、俯瞰映像100の中央映像105の左上に重畳される。
【0040】
本実施形態では、前方左アイコン111は、3重の弧状の曲線で構成される。弧状の曲線は、俯瞰映像100の外側に向かって膨出している。3重の弧状の曲線は、俯瞰映像100の外側から中心側に向かって半径が小さくなっている。3重の弧状の曲線は、俯瞰映像100の外側から中心側に向かって短くなっている。
【0041】
前方左アイコン111は、障害物までの距離に応じて、色を変化させてもよい。例えば、前方左アイコン111は、障害物までの距離が第一所定距離以上の場合、緑色で表示する。前方左アイコン111は、障害物までの距離が第一所定距離未満かつ第一所定距離より小さい第二所定距離以上の場合、黄色で表示する。前方左アイコン111は、障害物までの距離が第二所定距離未満の場合、赤色で表示する。
【0042】
前方左アイコン111は、障害物までの距離に応じて、弧状の曲線の本数を変化させてもよい。例えば、前方左アイコン111は、障害物までの距離が第一所定距離以上の場合、3重の弧状の曲線のうち、最も外側の弧状の曲線を表示する。前方左アイコン111は、障害物までの距離が第一所定距離未満かつ第二所定距離以上の場合、3重の弧状の曲線のうち、最も外側の弧状の曲線と中央の弧状の曲線とを表示する。前方左アイコン111は、障害物までの距離が第二所定距離未満の場合、3重の弧状の曲線をすべて表示する。
【0043】
前方中央アイコン112は、車両の前方中央の障害物を報知するアイコンである。より詳しくは、前方中央アイコン112は、前方中央センサ22で障害物を検出したことを報知するアイコンである。前方中央アイコン112は、図2において、俯瞰映像100の中央映像105の上側中央に重畳される。前方中央アイコン112は、前方左アイコン111と同様に構成されている。
【0044】
前方右アイコン113は、車両の前方右側の障害物を報知するアイコンである。より詳しくは、前方右アイコン113は、前方右センサ23で障害物を検出したことを報知するアイコンである。前方右アイコン113は、図2において、俯瞰映像100の中央映像105の右上に重畳される。前方右アイコン113は、前方左アイコン111と同様に構成されている。
【0045】
後方左アイコン114は、車両の後方左側の障害物を報知するアイコンである。より詳しくは、後方左アイコン114は、後方左センサ24で障害物を検出したことを報知するアイコンである。後方左アイコン114は、図2において、俯瞰映像100の中央映像105の左下に重畳される。後方左アイコン114は、前方左アイコン111と同様に構成されている。
【0046】
後方中央アイコン115は、車両の後方中央の障害物を報知するアイコンである。より詳しくは、後方中央アイコン115は、後方中央センサ25で障害物を検出したことを報知するアイコンである。後方中央アイコン115は、図2において、俯瞰映像100の中央映像105の下側中央に重畳される。後方中央アイコン115は、前方左アイコン111と同様に構成されている。
【0047】
後方右アイコン116は、車両の後方右側の障害物を報知するアイコンである。より詳しくは、後方右アイコン116は、後方右センサ26で障害物を検出したことを報知するアイコンである。後方右アイコン116は、図2において、俯瞰映像100の中央映像105の右下に重畳される。後方右アイコン116は、前方左アイコン111と同様に構成されている。
【0048】
表示制御部47は、重畳映像生成部46が生成した俯瞰映像100を表示パネル31に表示させる。
【0049】
記憶部49は、俯瞰映像生成装置40における各種処理に要するデータおよび各種処理結果を記憶する。記憶部49は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。
【0050】
次に、図3を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図3は、第一実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。
【0051】
制御部41は、俯瞰映像表示を開始するか否かを判定する(ステップS11)。俯瞰映像表示を開始する判定の例として、制御部41は、後退トリガの有無に基づいて、俯瞰映像表示を開示するか否かを判定する。後退トリガとは、例えば、シフトポジションが「リバース」とされたことをいう。または、後退トリガとは、車両の進行方向が車両の前後方向の後方となったことをいう。制御部41は、後退トリガがない場合、俯瞰映像表示を開始しないと判定し(ステップS11でNo)、ステップS11の処理を再度実行する。制御部41は、後退トリガがある場合、俯瞰映像表示を開始すると判定し(ステップS11でYes)、ステップS12に進む。
【0052】
制御部41は、俯瞰映像100を生成し表示する(ステップS12)。より詳しくは、制御部41は、俯瞰映像生成部45で、映像取得部42が取得した周辺映像から車両を上方から見下ろすように視点変換処理を行った俯瞰映像100を生成させる。そして、制御部41は、表示制御部47で、生成した俯瞰映像100を表示パネル31に表示させる。
【0053】
制御部41は、障害物を検出したか否かを判定する(ステップS13)。より詳しくは、制御部41は、障害物情報取得部43で障害物情報が取得されたか否かを判定する。制御部41は、障害物情報取得部43で障害物情報が取得されたと判定した場合(ステップS13でYes)、ステップS14に進む。制御部41は、障害物情報取得部43で障害物情報が取得されていないと判定した場合(ステップS13でNo)、ステップS15に進む。
【0054】
制御部41は、俯瞰映像100の中央部に障害物を示す障害物報知アイコン110を重畳表示する(ステップS14)。より詳しくは、制御部41は、重畳映像生成部46で、障害物情報取得部43が取得した障害物情報に基づいて、俯瞰映像100の中央映像105に、障害物を検出した方向を示すように障害物報知アイコン110を重畳した俯瞰映像100を生成させる。そして、制御部41は、表示制御部47で、生成した俯瞰映像100を表示パネル31に表示させる。
【0055】
制御部41は、前方左センサ21と前方中央センサ22と前方右センサ23と後方左センサ24と後方中央センサ25と後方右センサ26の複数のセンサからの障害物情報を取得した場合、重畳映像生成部46で、俯瞰映像100の中央映像105に、複数の障害物報知アイコン110を重畳した俯瞰映像100を生成させる。
【0056】
制御部41は、俯瞰映像表示を終了するか否かを判定する(ステップS15)。より詳しくは、制御部41は、後退トリガの有無に基づいて、俯瞰映像表示を終了するか否かを判定する。制御部41は、後退トリガがない場合、言い換えると、後退トリガが解除された場合、俯瞰映像表示を終了すると判定し(ステップS15でYes)、処理を終了する。制御部41は、後退トリガがある場合、俯瞰映像表示を終了しないと判定し(ステップS15でNo)、ステップS13に戻って処理を継続する。
【0057】
このようにして、俯瞰映像生成システム1は、障害物が検出されると、俯瞰映像100の中央部に、障害物を検出した方向を示すように障害物報知アイコン110を重畳して、表示パネル31に映像信号を出力する。表示パネル31は、俯瞰映像生成システム1から出力された映像信号に基づいて、例えば、ナビゲーション画面とともに俯瞰映像100を表示する。
【0058】
例えば、車両の後退時、後方左側に障害物を検出した場合の一例を、図4を用いて説明する。図4は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。図4において、俯瞰映像100の後方映像102には、後方左側の障害物の障害物映像200が含まれている。
【0059】
制御部41は、ステップS13において、障害物を検出したと判定する。そして、制御部41は、ステップS14において、重畳映像生成部46で、障害物情報取得部43が取得した障害物情報に基づいて、俯瞰映像100の中央映像105に、障害物を検出した後左方向を示すように障害物報知アイコン110を重畳した俯瞰映像100を生成させる。そして、制御部41は、表示制御部47で、生成した俯瞰映像100を表示パネル31に表示させる。
【0060】
車両の後退時、後方左側に障害物を検出した場合の他の例を、図5を用いて説明する。図5は、第一実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。
【0061】
図5においては、俯瞰映像100の中央映像105に、車両を上方から見た、車両を示す自車アイコンである自車アイコン120が合成されている。制御部41は、ステップS14において、重畳映像生成部46で、自車アイコン120に、障害物を検出した後左方向を示すように障害物報知アイコン110を重畳した俯瞰映像100を生成させる。
【0062】
上述したように、本実施形態は、車両の周辺に障害物が検出されると、俯瞰映像100の中央映像105に、障害物を検出した方向を示すように障害物報知アイコン110を重畳した俯瞰映像100を表示パネル31に表示させる。本実施形態は、障害物報知アイコン110が俯瞰映像100の中央映像105に重畳されるので、障害物報知アイコン110と俯瞰映像100に映った障害物とが重畳しない。言い換えると、本実施形態は、俯瞰映像100に映った障害物の視認性を損なわず、障害物を明瞭に表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
【0063】
本実施形態は、障害物報知アイコン110で、障害物を検出した方向と距離とを報知することができる。
【0064】
本実施形態は、図4に示すように、俯瞰映像100の中央映像105に自車アイコン120を表示しない場合、障害物報知アイコン110の視認性をより向上することができる。このように、本実施形態は、車両周辺の障害物をより適切に確認可能にすることができる。
【0065】
本実施形態は、図5に示すように、俯瞰映像100の中央映像105に自車アイコン120を表示してもよい。これにより、本実施形態は、車両に対する障害物の方向をより認識しやすい俯瞰映像100を表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
[第二実施形態]
図6図7を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図6は、第二実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。図7は、第二実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。俯瞰映像生成システム1は、基本的な構成は第一実施形態の俯瞰映像生成システム1と同様である。以下の説明においては、俯瞰映像生成システム1と同様の構成要素には、同一の符号または対応する符号を付し、その詳細な説明は省略する。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40の障害物情報取得部43と重畳映像生成部46と制御部41における処理とが、第一実施形態の俯瞰映像生成システム1と異なる。
【0066】
障害物報知アイコン110は、第一実施形態の前方左アイコン111と前方中央アイコン112と前方右アイコン113と後方左アイコン114と後方中央アイコン115と後方右アイコン116とに加えて、第二前方左アイコン(障害物を示す情報)と第二前方中央アイコン(障害物を示す情報)と第二前方右アイコン(障害物を示す情報)と第二後方左アイコン(障害物を示す情報)と第二後方中央アイコン(障害物を示す情報)と第二後方右アイコン(障害物を示す情報)とを含む。図7においては、第二前方左アイコンと第二前方中央アイコンと第二前方右アイコンと第二後方中央アイコンと第二後方右アイコンは図示されておらず、第二後方左アイコン(障害物を示す情報)が示されている。
【0067】
前方左アイコン111は、障害物までの距離が閾値未満の、車両の前方左側の障害物を報知するアイコンである。より詳しくは、前方左アイコン111は、前方左センサ21で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0068】
前方中央アイコン112は、障害物までの距離が閾値未満の、車両の前方中央の障害物を報知するアイコンである。より詳しくは、前方中央アイコン112は、前方中央センサ22で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0069】
前方右アイコン113は、障害物までの距離が閾値未満の、車両の前方右側の障害物を報知するアイコンである。より詳しくは、前方右アイコン113は、前方右センサ23で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0070】
後方左アイコン114は、障害物までの距離が閾値未満の、車両の後方左側の障害物を報知するアイコンである。より詳しくは、後方左アイコン114は、後方左センサ24で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0071】
後方中央アイコン115は、障害物までの距離が閾値未満の、車両の後方中央の障害物を報知するアイコンである。より詳しくは、後方中央アイコン115は、後方中央センサ25で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0072】
後方右アイコン116は、障害物までの距離が閾値未満の、車両の後方右側の障害物を報知するアイコンである。より詳しくは、後方右アイコン116は、後方右センサ26で、障害物までの距離が閾値未満の障害物を検出したことを報知するアイコンである。
【0073】
第二前方左アイコンは、障害物までの距離が閾値以上の、車両の前方左側の障害物を報知するアイコンである。より詳しくは、第二前方左アイコンは、前方左センサ21で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二前方左アイコンは、俯瞰映像100の中央映像105より外側の左上に重畳される。第二前方左アイコンは、前方左アイコン111と同様に構成されている。
【0074】
第二前方中央アイコンは、障害物までの距離が閾値以上の、車両の前方中央の障害物を報知するアイコンである。より詳しくは、第二前方中央アイコンは、前方中央センサ22で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二前方中央アイコンは、俯瞰映像100の中央映像105より外側の上側中央に重畳される。第二前方中央アイコンは、前方左アイコン111と同様に構成されている。
【0075】
第二前方右アイコンは、障害物までの距離が閾値以上の、車両の前方右側の障害物を報知するアイコンである。より詳しくは、第二前方右アイコンは、前方右センサ23で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二前方右アイコンは、俯瞰映像100の中央映像105より外側の右上に重畳される。第二前方右アイコンは、前方左アイコン111と同様に構成されている。
【0076】
第二後方左アイコンは、障害物までの距離が閾値以上の、車両の後方左側の障害物を報知するアイコンである。より詳しくは、第二後方左アイコンは、後方左センサ24で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二後方左アイコンは、俯瞰映像100の中央映像105より外側の左下に重畳される。第二後方左アイコンは、前方左アイコン111と同様に構成されている。
【0077】
第二後方中央アイコンは、障害物までの距離が閾値以上の、車両の後方中央の障害物を報知するアイコンである。より詳しくは、第二後方中央アイコンは、後方中央センサ25で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二後方中央アイコンは、俯瞰映像100の中央映像105より外側の下側中央に重畳される。第二後方中央アイコンは、前方左アイコン111と同様に構成されている。
【0078】
第二後方右アイコンは、障害物までの距離が閾値以上の、車両の後方右側の障害物を報知するアイコンである。より詳しくは、第二後方右アイコンは、後方右センサ26で、障害物までの距離が閾値以上の障害物を検出したことを報知するアイコンである。第二後方右アイコンは、俯瞰映像100の中央映像105より外側の右下に重畳される。第二後方右アイコンは、前方左アイコン111と同様に構成されている。
【0079】
障害物情報取得部43は、検出した障害物までの距離を含む情報を取得する。障害物情報取得部43は、取得した障害物までの距離を含む情報を重畳映像生成部46に出力する。
【0080】
重畳映像生成部46は、障害物情報取得部43で取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値以上であれば、俯瞰映像100の中央映像105に自車アイコン120を表示させ、障害物を示す情報である障害物報知アイコン110を俯瞰映像100の中央部の外側に重畳させた俯瞰映像100を生成する。
【0081】
重畳映像生成部46は、障害物情報取得部43で取得した障害物情報に基づいて、検出した障害物までの距離が所定閾値未満であれば、障害物報知アイコン110を、俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。
【0082】
次に、図6を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図6に示すフローチャートのステップS21、ステップS23、ステップS26、ステップS27の処理は、図3に示すフローチャートのステップS11、ステップS13、ステップS14、ステップS15の処理と同様である。
【0083】
制御部41は、自車アイコン120を重畳した俯瞰映像100を生成し表示する(ステップS22)。より詳しくは、制御部41は、俯瞰映像生成部45で、映像取得部42が取得した周辺映像から車両を上方から見下ろすように視点変換処理を行った俯瞰映像100を生成させる。制御部41は、表示制御部47で、生成した俯瞰映像100の中央部に自車アイコン120を合成する。そして、制御部41は、表示制御部47で、生成した俯瞰映像100を表示パネル31に表示させる。
【0084】
制御部41は、障害物までの距離が閾値以上であるか否かを判定する(ステップS24)。より詳しくは、制御部41は、障害物情報取得部43で取得された、検出した障害物までの距離が所定閾値以上である場合(ステップS24でYes)、ステップS25に進む。制御部41は、障害物情報取得部43で取得された、検出した障害物までの距離が所定閾値未満である場合(ステップS24でNo)、ステップS26に進む。
【0085】
所定閾値は、第二前方左アイコンと第二前方中央アイコンと第二前方右アイコンと第二後方左アイコンと第二後方中央アイコンと第二後方右アイコンとが表示される位置が、俯瞰映像100の障害物の映像と重複しない値に設定される。より詳しくは、所定閾値は、第二前方左アイコンと第二前方中央アイコンと第二前方右アイコンと第二後方左アイコンと第二後方中央アイコンと第二後方右アイコンの最も外側の円弧状の曲線の位置に対応する車両からの距離以上の値であればよい。例えば、所定閾値は、2m程度としてもよい。
【0086】
制御部41は、自車アイコン120の外側の俯瞰映像100に、障害物報知アイコン110を重畳表示する(ステップS25)。より詳しくは、制御部41は、重畳映像生成部46で、障害物情報取得部43が取得した障害物情報に基づいて、自車アイコン120の外側の俯瞰映像100に、第二前方左アイコンと第二前方中央アイコンと第二前方右アイコンと第二後方左アイコンと第二後方中央アイコンと第二後方右アイコンとの少なくともいずれかを重畳した俯瞰映像100を生成させる。そして、制御部41は、表示制御部47で、生成した俯瞰映像100を表示パネル31に表示させる。
【0087】
このようにして、俯瞰映像生成システム1は、障害物までの距離が所定閾値以上であると、自車アイコン120の外側の俯瞰映像100に、第二前方左アイコンと第二前方中央アイコンと第二前方右アイコンと第二後方左アイコンと第二後方中央アイコンと第二後方右アイコンとの少なくともいずれかを重畳した俯瞰映像100を生成し、表示パネル31に映像信号を出力する。俯瞰映像生成システム1は、障害物までの距離が所定閾値未満であると、俯瞰映像100の中央映像105に、前方左アイコン111と前方中央アイコン112と前方右アイコン113と後方左アイコン114と後方中央アイコン115と後方右アイコン116との少なくともいずれかを重畳した俯瞰映像100を生成し、表示パネル31に映像信号を出力する。
【0088】
例えば、車両の後退時、後方左側の所定閾値上の距離に障害物を検出した場合の一例を、図7を用いて説明する。
【0089】
制御部41は、ステップS23において、障害物を検出したと判定する。そして、制御部41は、ステップS24において、障害物情報取得部43で取得された、検出した障害物までの距離が所定閾値以上であると判定する(ステップS24でYes)。そして、制御部41は、ステップS25において、自車アイコン120の外側の俯瞰映像100に、障害物を検出した後左方向を示す第二後方左アイコン117を重畳した、図7に示す俯瞰映像100を生成させる。そして、制御部41は、生成した俯瞰映像100を表示パネル31に表示させる。
【0090】
上述したように、本実施形態は、障害物までの距離が所定閾値以上であると、自車アイコン120の外側の俯瞰映像100に、障害物報知アイコン110を重畳した俯瞰映像100を生成し表示パネル31に表示させる。本実施形態は、障害物までの距離が所定閾値以上の場合、障害物報知アイコン110が自車アイコン120の外側の俯瞰映像100に重畳されるので、障害物報知アイコン110と俯瞰映像100に映った障害物とが重畳しない。言い換えると、本実施形態は、俯瞰映像100に映った障害物の視認性を損なわず、障害物を明瞭に表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
【0091】
本実施形態は、障害物までの距離が所定閾値未満であると、俯瞰映像100の中央映像105に、障害物報知アイコン110を重畳した俯瞰映像100を生成し表示パネル31に表示させる。本実施形態は、障害物までの距離が所定閾値未満の場合、障害物報知アイコン110が俯瞰映像100の中央映像105に重畳されるので、障害物報知アイコン110と俯瞰映像100に映った障害物とが重畳しない。言い換えると、本実施形態は、俯瞰映像100に映った障害物の視認性を損なわず、障害物を明瞭に表示することができる。
【0092】
このように、本実施形態は、障害物までの距離に応じて、車両周辺の障害物を適切に確認可能にすることができる。
【0093】
本実施形態は、障害物までの距離に応じて、俯瞰映像100における障害物報知アイコン110の表示位置が変化する。このため、本実施形態は、障害物までの距離をより把握しやすくすることができる。
[第三実施形態]
図8を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図8は、第三実施形態に係る俯瞰映像生成システムの俯瞰映像生成装置における処理の流れを示すフローチャートである。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40の障害物情報取得部43と重畳映像生成部46と制御部41における処理とが、第二実施形態の俯瞰映像生成システム1と異なる。
【0094】
前方左センサ21と前方中央センサ22と前方右センサ23と後方左センサ24と後方中央センサ25と後方右センサ26とは、俯瞰映像100として表示する範囲より遠方の範囲を検出範囲とする。
【0095】
障害物情報取得部43は、俯瞰映像100として表示する範囲より遠方の範囲において検出した障害物の障害物情報を取得する。
【0096】
重畳映像生成部46は、障害物情報取得部43で取得した障害物情報に基づいて、検出した障害物までの距離が俯瞰映像100として表示する範囲より遠方であれば、俯瞰映像100の中央部に自車アイコン120を表示させ、障害物報知アイコン110を自車アイコン120の外側の俯瞰映像100に重畳させた俯瞰映像100を生成する。
【0097】
重畳映像生成部46は、障害物情報取得部43で取得した障害物情報に基づいて、検出した障害物までの距離が俯瞰映像100として表示する範囲に含まれる範囲であれば、障害物報知アイコン110を、俯瞰映像100の中央映像105に障害物を検出した方向を示すように重畳した俯瞰映像100を生成する。
【0098】
次に、図8を用いて、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。図8に示すフローチャートのステップS31~ステップS33、ステップS35~ステップS37の処理は、図6に示すフローチャートのステップS21~ステップS23、ステップS25~ステップS27の処理と同様である。
【0099】
制御部41は、障害物までの距離は俯瞰映像100の表示範囲以上であるか否かを判定する(ステップS34)。制御部41は、障害物情報取得部43で取得された、検出した障害物までの距離が俯瞰映像100の表示範囲より遠方の範囲である場合(ステップS34でYes)、ステップS35に進む。制御部41は、障害物情報取得部43で取得された、検出した障害物までの距離が俯瞰映像100の表示範囲に含まれる場合(ステップS34でNo)、ステップS36に進む。
【0100】
このようにして、俯瞰映像生成システム1は、障害物までの距離が俯瞰映像100の表示範囲より遠方の範囲であると、自車アイコン120の外側の俯瞰映像100に、障害物報知アイコン110を重畳した俯瞰映像100を生成し、表示パネル31に映像信号を出力する。俯瞰映像生成システム1は、障害物までの距離が俯瞰映像100の表示範囲に含まれると、俯瞰映像100の中央映像105に、障害物報知アイコン110を重畳した俯瞰映像100を生成し、表示パネル31に映像信号を出力する。
【0101】
上述したように、本実施形態は、障害物までの距離が俯瞰映像100の表示範囲より遠方の範囲であると、自車アイコン120の外側の俯瞰映像100に、障害物報知アイコン110を重畳した俯瞰映像100を生成し表示パネル31に表示させる。本実施形態は、障害物までの距離が俯瞰映像100の表示範囲より遠方の範囲の場合、障害物報知アイコン110が自車アイコン120の外側に重畳されるので、障害物報知アイコン110と俯瞰映像100に映った障害物とが重畳しない。言い換えると、本実施形態は、俯瞰映像100に映った障害物の視認性を損なわず、障害物を明瞭に表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
【0102】
本実施形態は、障害物までの距離が俯瞰映像100の表示範囲に含まれると、俯瞰映像100の中央映像105に、障害物報知アイコン110を重畳した俯瞰映像100を生成し表示パネル31に表示させる。本実施形態は、障害物までの距離が俯瞰映像100の表示範囲に含まれる場合、障害物報知アイコン110が俯瞰映像100の中央映像105に重畳されるので、障害物報知アイコン110と俯瞰映像100に映った障害物とが重畳しない。言い換えると、本実施形態は、俯瞰映像100に映った障害物の視認性を損なわず、障害物を明瞭に表示することができる。
【0103】
このように、本実施形態は、障害物までの距離に応じて、車両周辺の障害物を適切に確認可能にすることができる。
【0104】
本実施形態は、俯瞰映像100の表示範囲より遠方の範囲に障害物がある場合にも、障害物報知アイコン110を表示させることができる。このため、本実施形態は、俯瞰映像100の表示範囲より遠方の範囲の障害物を報知することができる。
[第四実施形態]
本実施形態に係る俯瞰映像生成システム1について説明する。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40の重畳映像生成部46と制御部41における処理とが、第一実施形態の俯瞰映像生成システム1と異なる。より詳しくは、制御部41における障害物を検出したか否かの判定において、車両の進行方向に位置する障害物を検出する点が第一実施形態の俯瞰映像生成システム1と異なる。
【0105】
重畳映像生成部46は、障害物情報取得部43が取得した障害物情報に基づいて、車両の進行方向に位置する障害物について、障害物報知アイコン110を俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。
【0106】
次に、俯瞰映像生成システム1の俯瞰映像生成装置40における処理の流れについて説明する。
【0107】
制御部41は、ステップS13において、障害物情報取得部43で取得した障害物情報に基づいて、車両の進行方向に障害物が検出されたか否かを判定する。制御部41は、車両の進行方向に障害物を検出したと判定した場合(ステップS13でYes)、ステップS14に進む。制御部41は、車両の進行方向に障害物が検出されていないと判定した場合(ステップS13でNo)、ステップS15に進む。
【0108】
このようにして、制御部41は、車両に近づく障害物に対して、障害物報知アイコン110を表示し、車両から遠ざかる障害物に対して、障害物報知アイコン110を非表示とする。
【0109】
上述したように、本実施形態は、車両周辺の障害物をより適切に確認可能にすることができる。
[第五実施形態]
図9ないし図12を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図9は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。図10は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。図11は、第五実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。図12は、障害物報知アイコンにおける、円弧間の間隔と障害物までの距離との関係の一例を示すグラフである。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40の重畳映像生成部46における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
【0110】
図9ないし図11に示すように、障害物報知アイコン110は、障害物を検出した方向を向いた複数の構成要素を有し、複数の構成要素の間隔によって障害物までの距離を示す。本実施形態では、障害物報知アイコン110は、三重の円弧を構成要素としている。本実施形態では、障害物報知アイコン110は、円弧の間隔で障害物までの距離を示す。本実施形態では、障害物報知アイコン110は、障害物までの距離が大きいほど円弧の間隔を広く、障害物までの距離が小さいほど円弧の間隔を狭く示す。
【0111】
障害物報知アイコン110の円弧の間隔は、図12において実線で示すように、障害物までの距離が大きいほど広くなるように、直線状に設定されていてもよい。
【0112】
障害物報知アイコン110の円弧の間隔は、図12において破線で示すように、障害物までの距離が大きいほど広くなるように、階段状に設定されていてもよい。より詳しくは、障害物までの距離が第一閾値以上の場合、例えば、2m以上の場合、円弧の間隔を第一間隔d1とする。第一閾値は、俯瞰映像100として表示する範囲に含まれる境界の距理としてもよい。障害物までの距離が第一閾値以上の場合、最も外側の円弧状の曲線を俯瞰映像100の中央映像105の外部に表示してもよい。障害物までの距離が第一閾値未満かつ第二閾値以上の場合、例えば、2m未満1m以上の場合、円弧の間隔を第一間隔d1より小さい第二間隔d2とする。障害物までの距離が第二閾値未満の場合、例えば、1m未満の場合、円弧の間隔を第二間隔d2より小さい第三間隔d3とする。さらに障害物までの距離が小さくなった場合、円弧の間隔をゼロとして円弧を重ねてもよい。
【0113】
障害物までの距離とは、障害物を検出する各センサから障害物までの距離である。障害物までの距離は、車両の障害物方向の端部から障害物までの距離とほぼ一致する。
【0114】
重畳映像生成部46は、障害物情報取得部43で取得された、検出した障害物までの距離に基づいて、円弧の間隔を変化させた障害物報知アイコン110を俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。
【0115】
車両の後退時、後方左側に障害物を検出した場合の例を、図9ないし図11を用いて説明する。
【0116】
例えば、車両の後退時、後方左側に障害物を検出し、障害物までの距離が2mである場合の一例を、図9を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、円弧の膨出方向で障害物を検出した後左方向を示し、円弧の間隔で障害物までの距離を示す障害物報知アイコン110を重畳した俯瞰映像100を生成させる。障害物報知アイコン110は、円弧の間隔が第一間隔d1である。障害物報知アイコン110は、最も外側の円弧状の曲線が中央映像105の外部に位置する。制御部41は、重畳映像生成部46で、図9に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の円弧の間隔と、最も外側の円弧状の曲線が中央映像105の外部に位置していることから、障害物が俯瞰映像100として表示する範囲の境界付近に位置していることがわかる。
【0117】
例えば、車両の後退時、後方左側に障害物を検出し、障害物までの距離が1.5mである場合の一例を、図10を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、円弧の膨出方向で障害物を検出した後左方向を示し、円弧の間隔で障害物までの距離を示す障害物報知アイコン110を重畳した俯瞰映像100を生成させる。障害物報知アイコン110は、円弧の間隔が第二間隔d2である。制御部41は、重畳映像生成部46で、図10に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の円弧の間隔から、障害物が俯瞰映像100として表示する範囲内に位置していることがわかる。
【0118】
例えば、車両の後退時、後方左側に障害物を検出し、障害物までの距離が1mである場合の一例を、図11を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、円弧の膨出方向で障害物を検出した後左方向を示し、円弧の間隔で障害物までの距離を示す障害物報知アイコン110を重畳した俯瞰映像100を生成させる。障害物報知アイコン110は、円弧の間隔が第三間隔d3である。制御部41は、重畳映像生成部46で、図11に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の円弧の間隔が狭いことから、障害物が車両の後端部の近傍に位置していることがわかる。
【0119】
このようにして、制御部41は、検出した障害物までの距離に基づいて、円弧の間隔を変化させた障害物報知アイコン110を俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。
【0120】
上述したように、本実施形態は、車両の周辺に障害物が検出されると、俯瞰映像100の中央映像105に、障害物を検出した方向を示し、円弧の間隔で障害物までの距離を示すように障害物報知アイコン110を重畳した俯瞰映像100を表示パネル31に表示させる。本実施形態は、障害物報知アイコン110によって、障害物の方向と、障害物までの距離を表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
[第六実施形態]
図13ないし図15を参照しながら、本実施形態に係る俯瞰映像生成システム1について説明する。図13は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の一例を示す図である。図14は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。図15は、第六実施形態に係る俯瞰映像生成システムで生成した俯瞰映像の他の例を示す図である。本実施形態の俯瞰映像生成システム1は、俯瞰映像生成装置40の重畳映像生成部46における処理が、第一実施形態の俯瞰映像生成システム1と異なる。
【0121】
図13ないし図15に示すように、障害物報知アイコン110は、アイコン自身の水平方向の幅によって、障害物を検出しているセンサの水平方向における検出範囲と、検出した障害物の水平方向の幅を示す。本実施形態では、障害物報知アイコン110は、障害物を検出しているセンサの水平方向における検出範囲が広いほど円弧の長さを大きく、障害物を検出しているセンサの水平方向における検出範囲が狭いほど円弧の長さを小さく示す。本実施形態では、障害物報知アイコン110は、障害物の水平方向の幅が広いほど円弧の長さを大きく、障害物の水平方向の幅が狭いほど円弧の長さを小さく示す。
【0122】
より詳しくは、例えば、障害物報知アイコン110は、俯瞰映像100の中央部から障害物の水平方向の両端部までの投影幅を円弧の長さとしてもよい。
【0123】
重畳映像生成部46は、障害物情報取得部43が取得した障害物情報に基づいて、障害物を示す情報の幅を、検出した障害物の水平方向幅に対応させた幅として俯瞰映像100の中央映像105に重畳した俯瞰映像100を生成する。
【0124】
車両の後退時、後方左側に障害物を検出した場合の例を、図13ないし図15を用いて説明する。
【0125】
例えば、車両の後退時、後方左側に障害物を検出し、障害物までの距離が2mである場合の一例を、図13を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、アイコン自身の水平方向の幅によって、障害物を検出しているセンサの水平方向における検出範囲と、検出した障害物の水平方向の幅を示す障害物報知アイコン110を重畳した俯瞰映像100を生成させる。ここでいう障害物の水平方向の幅とは、センサで検出した見かけの幅、つまり投影幅である。制御部41は、重畳映像生成部46で、図13に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の水平方向の幅によって、障害物を検出しているセンサの水平方向における検出範囲と、検出した障害物の水平方向の幅が狭いことがわかる。
【0126】
例えば、図13に示す状態から、障害物までの距離が1mであった場合の一例を、図14を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、障害物報知アイコン110を重畳した俯瞰映像100を生成させる。俯瞰映像100の中央部から障害物の水平方向の両端部までの投影幅が広くなるので、障害物報知アイコン110は、水平方向の幅が、図13の障害物報知アイコン110の水平方向の幅より広い。制御部41は、重畳映像生成部46で、図14に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の水平方向の幅が図13より広くなっていることによって、障害物を検出しているセンサの水平方向における検出範囲と、検出した障害物の水平方向の幅が広がっている、すなわち、障害物が車両の後端に近づいていることがわかる。
【0127】
このように、重畳映像生成部46は、障害物の近接状況に応じて、障害物報知アイコン110の水平方向の幅を、図13から図14に示すように変化させて表示させる。障害物報知アイコン110の水平方向の幅の変化によって、障害物が車両に近づいているのか遠ざかっているのかがわかる。
【0128】
例えば、車両の後退時、後方左側に、図14に示す障害物より水平方向の幅が狭い障害物を検出した場合の一例を、図15を用いて説明する。ステップS14において、制御部41は、重畳映像生成部46で、俯瞰映像100の中央映像105に、障害物報知アイコン110を重畳した俯瞰映像100を生成させる。障害物報知アイコン110は、水平方向の幅が、図14の障害物報知アイコン110の水平方向の幅より狭い。制御部41は、重畳映像生成部46で、図15に示す、生成した俯瞰映像100を表示パネル31に表示させる。障害物報知アイコン110の水平方向の幅が図14より狭くなっていることによって、障害物を検出しているセンサの水平方向における検出範囲と、検出した障害物の水平方向の幅が狭くなっている、すなわち、障害物の水平方向の幅が狭いことがわかる。
【0129】
上述したように、本実施形態は、車両の周辺に障害物が検出されると、俯瞰映像100の中央映像105に、障害物を検出した方向を示し、円弧の水平方向の幅で障害物の水平方向の幅を示すように障害物報知アイコン110を重畳した俯瞰映像100を表示パネル31に表示させる。本実施形態は、障害物報知アイコン110によって、障害物の方向と、障害物の水平方向の幅を表示することができる。このように、本実施形態は、車両周辺の障害物を適切に確認可能にすることができる。
【0130】
さらに、本実施形態は、障害物までの距離が変化すると、障害物報知アイコン110の水平方向の幅を、例えば、図13から図14に示すように変化させて表示させる。これにより、本実施形態によれば、障害物報知アイコン110の水平方向の幅の変化で、障害物の近接状況を確認可能にすることができる。
【0131】
さて、これまで本発明に係る俯瞰映像生成システム1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。
【0132】
図示した俯瞰映像生成システム1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。
【0133】
俯瞰映像生成システム1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。
【0134】
上記した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。
【0135】
重畳映像生成部46は、例えば、最も近い障害物までの距離が所定閾値未満の場合、俯瞰映像100の中央映像105に、障害物報知アイコン110とともに障害物までの距離を数値で表示してもよい。または、重畳映像生成部46は、例えば、最も近い障害物までの距離が所定閾値未満の場合、俯瞰映像100の中央映像105に、障害物報知アイコン110とともに障害物までの距離に応じて形状や色が変化する図形を表示してもよい。俯瞰映像生成システム1は、障害物までの距離に応じた障害物報知アイコン110の変化に加えて、障害物までの距離を報知することができる。これにより、俯瞰映像生成システム1は、車両周辺の障害物をより適切に確認可能にすることができる。
【0136】
制御部41は、障害物が複数ある場合、優先順位の高い障害物について、障害物報知アイコン110を表示するようにしてもよい。例えば、優先順位は、障害物までの距離が最も小さいものを最も高い優先順位としてもよい。または、例えば、優先順位は、障害物が動体であるものを最も高い優先順位としてもよい。または、例えば、優先順位は、障害物が動体で、かつ、車両に近づいてきているものを最も高い優先順位としてもよい。
【0137】
障害物が動体であることが検出された場合、俯瞰映像100の中央映像105に、動体であることを示すアイコンを表示してもよい。動体であることを示すアイコンは、例えば、歩行者を示すアイコンや車両であることを示すアイコンとしてもよい。これにより、俯瞰映像生成システム1は、車両周辺の障害物をより適切に確認可能にすることができる。
【0138】
障害物報知アイコン110は、3重の弧状の曲線で構成されるものとして説明したが、これに限定されない。障害物報知アイコン110は、例えば、障害物の方向を示す矢印状の図形でもよい。この場合、障害物報知アイコン110は、障害物までの距離に応じて、太さや大きさを変えた矢印状の図形としてもよい。
【0139】
本実施形態では、障害物検出部であるセンサとして、前方左センサ21と前方中央センサ22と前方右センサ23と後方左センサ24と後方中央センサ25と後方右センサ26との6つのセンサを有するものとしたが、センサの数は限定されない。障害物の方向をより細分化して検出したい場合、センサの数を増やしてもよい。
【0140】
本実施形態では、障害物報知アイコン110は、センサの数に対応して、前方左アイコン111と前方中央アイコン112と前方右アイコン113と後方左アイコン114と後方中央アイコン115と後方右アイコン116とを含むものとしたが、これに限定されない。言い換えると、障害物報知アイコン110は、各センサの検出結果と表示させるアイコンとが対応付けられていればよい。
【符号の説明】
【0141】
1 俯瞰映像生成システム
11 前方カメラ(撮影部)
12 後方カメラ(撮影部)
13 左側方カメラ(撮影部)
14 右側方カメラ(撮影部)
21 前方左センサ(障害物検出部)
22 前方中央センサ(障害物検出部)
23 前方右センサ(障害物検出部)
24 後方左センサ(障害物検出部)
25 後方中央センサ(障害物検出部)
26 後方右センサ(障害物検出部)
31 表示パネル
40 俯瞰映像生成装置
41 制御部
42 映像取得部
43 障害物情報取得部
44 車両情報取得部
45 俯瞰映像生成部
46 重畳映像生成部
47 表示制御部
49 記憶部
100 俯瞰映像
110 障害物報知アイコン(障害物を示す情報)
111 前方左アイコン(障害物を示す情報)
112 前方中央アイコン(障害物を示す情報)
113 前方右アイコン(障害物を示す情報)
114 後方左アイコン(障害物を示す情報)
115 後方中央アイコン(障害物を示す情報)
116 後方右アイコン(障害物を示す情報)
120 自車アイコン
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15