(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-25
(45)【発行日】2025-01-09
(54)【発明の名称】駐車支援方法および駐車支援装置
(51)【国際特許分類】
G08G 1/16 20060101AFI20241226BHJP
G06T 7/00 20170101ALI20241226BHJP
B60W 30/06 20060101ALI20241226BHJP
【FI】
G08G1/16 C
G06T7/00 650Z
B60W30/06
(21)【出願番号】P 2021005262
(22)【出願日】2021-01-15
【審査請求日】2023-10-20
(73)【特許権者】
【識別番号】322003857
【氏名又は名称】パナソニックオートモーティブシステムズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】星野 将史
【審査官】貞光 大樹
(56)【参考文献】
【文献】特開2008-207732(JP,A)
【文献】特開2020-24570(JP,A)
【文献】国際公開第2014/155954(WO,A1)
【文献】特開2018-86928(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00 - 1/16
B60W 10/00 - 10/30
B60W 30/00 - 60/00
G06T 7/00 - 7/90
G06V 10/00 - 20/90
B60R 99/00
(57)【特許請求の範囲】
【請求項1】
車両の周辺に存在する地図情報から前記車両の自己位置を推定し、前記自己位置に基づき駐車支援を行う駐車支援システムに用いられる駐車支援方法であって、
第1の駐車と、前記第1の駐車の後に行われる第2の駐車と、において、前記車両の周囲に存在する前記地図情報を取得し、
前記第1の駐車における第1の地図情報と、前記第2の駐車における第2の地図情報とが異なる場合に、前記第1の地図情報と前記第2の地図情報との差分を示す差分情報を表示し、
前記地図情報は、前記車両の周辺を撮像した撮像画像において、格子状に分割された区画ごとに立体障害物の有無が設定される形式で保持される情報であり、
前記差分情報は、前記第1の地図情報と前記第2の地図情報との比較において、差分が存在する区画の集合の合計数が所定値以上である区画集合を示す情報である、
駐車支援方法。
【請求項2】
前記差分情報は、枠線
により表示される情報であり、
前記車両の走行経路または駐車位置との相対位置に基づき、前記第1の地図情報と前記第2の地図情報との差分の位置を示す差分位置を、前記枠線により示す、
請求項
1に記載の駐車支援方法。
【請求項3】
前記差分情報は、文字情報
により表示される情報であり、
前記車両の走行経路または駐車位置との相対位置に基づき、前記第1の地図情報と前記第2の地図情報との差分の位置を示す差分位置を、前記文字情報により示す
、
請求項1
又は2に記載の駐車支援方法。
【請求項4】
前記車両の周辺を撮像した撮像画像から前記差分位置を含む範囲の画像が切り出されて表示される、
請求項
2または
3に記載の駐車支援方法。
【請求項5】
前記差分情報を表示するタイミングは、前記第2の駐車の終了後である、
請求項1から
4のいずれか1項に記載の駐車支援方法。
【請求項6】
前記差分情報を表示するタイミングは、前記第2の駐車の走行中である、
請求項1から
5いずれか1項に記載の駐車支援方法。
【請求項7】
前記第1の駐車は、運転者が前記車両を走行させることにより実行され、
前記第2の駐車は、自動走行により実行される、
請求項1から
6のいずれか1項に記載の駐車支援方法。
【請求項8】
前記第1の駐車および前記第2の駐車は、自動走行により実行される、
請求項1から
6のいずれか1項に記載の駐車支援方法。
【請求項9】
前記第2の駐車の後に行われる第3の駐車において、前記車両の周囲に存在する前記地図情報を取得し、
前記第2の駐車における第2の地図情報と、前記第3の駐車における第3の地図情報とが異なる場合に、前記第2の地図情報と前記第3の地図情報との差分を示す差分情報を表示する、
請求項1から
8のいずれか1項に記載の駐車支援方法。
【請求項10】
前記第1の地図情報と前記第2の地図情報との差分を、前記地図情報に反映するか否かを前記車両のユーザに対して通知し、
前記車両のユーザにより、反映することが選択された場合に、前記第1の地図情報と前記第2の地図情報との差分を、前記地図情報に反映する、
請求項1から
9のいずれか1項に記載の駐車支援方法。
【請求項11】
前記第1の地図情報と前記第2の地図情報との差分を、前記地図情報に反映するか否かを前記車両のユーザに対して通知し、
前記車両のユーザにより、反映することが選択されなかった場合に、前記第1の地図情報と前記第2の地図情報との差分を、前記地図情報に反映しない、
請求項1から
10のいずれか1項に記載の駐車支援方法。
【請求項12】
前記差分情報を表示する表示装置は、携帯型情報端末であって、ネットワークを介して情報処理装置に接続されている、
請求項
10又は
11に記載の駐車支援方法。
【請求項13】
車両の周辺に存在する地図情報から前記車両の自己位置を推定し、前記自己位置に基づき駐車支援を行う駐車支援システムに用いられる駐車支援装置であって、
第1の駐車と、前記第1の駐車の後に行われる第2の駐車と、において、前記車両の周囲に存在する前記地図情報を取得する取得部と、
前記第1の駐車における第1の地図情報と、前記第2の駐車における第2の地図情報とが異なる場合に、前記第1の地図情報と前記第2の地図情報との差分を示す差分情報を表示する表示部と、
を備え、
前記地図情報は、前記車両の周辺を撮像した撮像画像において、格子状に分割された区画ごとに立体障害物の有無が設定される形式で保持される情報であり、
前記差分情報は、前記第1の地図情報と前記第2の地図情報との比較において、差分が存在する区画の集合の合計数が所定値以上である区画集合を示す情報である、
駐車支援装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、駐車支援方法および駐車支援装置に関する。
【背景技術】
【0002】
近年、運転者によるステアリング操作やアクセルブレーキ操作を伴わずに自動で駐車(以下、自動駐車と称する)を行う駐車支援の機能が求められている。
【0003】
例えば、特許文献1には、運転者が車両を運転する際に、車両は、周辺環境を撮像した画像に基づき、車両を自動運転するための自動運転情報を生成する。さらに、自動運転を行う際に、車両は、周辺環境を撮像した画像と自動運転情報とに基づき、車両位置情報を算出して、自動駐車を行う。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、特許文献1に記載の技術には課題が存在する。特許文献1に記載の技術では、運転者が運転をして駐車を行ったときの情報をもとに自動駐車を行う。このとき、運転者が運転をして駐車を行ったときと、その後自動駐車を行うときとで、車両の周辺環境が異なることがあり得る。例えば、運転者が運転をして駐車を行っていた時には存在していなかった物体(例えば、自転車など)がその後の自動での駐車の際には存在しているといったケースは珍しくはない。
【0006】
この場合、自動での駐車時において車両の自己位置推定の精度が低下してしまい、結果として自動での駐車自体の精度も低下してしまう可能性がある。一方で、駐車時における車両周辺の環境の変化は一時的な可能性もある。例えば、上述した物体が自転車であれば、次回の駐車の際にはなくなっていたり、位置が変わっていたりする可能性は十分にある。そのため、自動での駐車時に把握した周辺環境に更新したとしても、車両の自己位置推定のための精度の低下は引き続き生じる可能性がある。
【0007】
本開示は上記の課題に鑑みてなされたものであり、自動駐車を行う際に、周辺環境の変化が生じても高い精度を維持して車両の自己位置推定を行うことが可能な駐車支援システムにおける駐車支援方法および駐車支援装置を提供することをその主たる目的とする。
【課題を解決するための手段】
【0008】
本開示に係る駐車支援方法は、車両の周辺に存在する地図情報から前記車両の自己位置を推定し、前記自己位置に基づき駐車支援を行う駐車支援システムに用いられる駐車支援方法である。第1の駐車と、前記第1の駐車の後に行われる第2の駐車と、において、前記車両の周囲に存在する前記地図情報を取得する。前記第1の駐車における第1の地図情報と、前記第2の駐車における前記第2の地図情報とが異なる場合に、前記第1の地図情報と前記第2の地図情報との差分を示す差分情報を表示する。
【0009】
本開示に係る駐車支援装置は、車両の周辺に存在する地図情報から前記車両の自己位置を推定し、前記自己位置に基づき駐車支援を行う駐車支援システムに用いられる駐車支援装置である。第1の駐車と、前記第1の駐車の後に行われる第2の駐車と、において、前記車両の周囲に存在する前記地図情報を取得する取得部と、前記第1の駐車における第1の地図情報と、前記第2の駐車における前記第2の地図情報とが異なる場合に、前記第1の地図情報と前記第2の地図情報との差分を示す差分情報を表示する表示部と、を備える。
【発明の効果】
【0010】
本開示に係る駐車支援方法および駐車支援装置では、自動駐車を行う際に、周辺環境の変化が生じても高い精度を維持して車両の自己位置推定を行うことができる。
【図面の簡単な説明】
【0011】
【
図1】
図1は、実施形態1の駐車支援システムの構成の一例を示すブロック図である。
【
図2】
図2は、実施形態1の情報処理の手順の一例を示すフローチャートである。
【
図3】
図3(a)~(c)は、実施形態1の情報処理装置において生成される地図情報の一例を模式的に示す図であり、(a)は、記憶部に記録されている地図情報の一例を模式的に示す図であり、(b)は、自動走行モードにおいて生成される地図情報の一例を模式的に示す図であり、(c)は、(a)の地図情報と(b)の地図情報とから自己位置を推定した状態の一例を模式的に示す図である。
【
図4】
図4は、実施形態1の差分情報の表示形態の一例を示す図である。
【
図5】
図5は、実施形態1の差分情報の表示形態の一例を示す図である。
【
図6】
図6は、実施形態1の差分情報の表示形態の一例を示す図である。
【
図7】
図7は、変形例の差分情報の表示形態の一例を示す図である。
【発明を実施するための形態】
【0012】
(実施形態1)
実施形態1に係る駐車支援システムについて、
図1~6を参照しつつ説明する。
【0013】
実施形態1に係る駐車支援システムは、予め記録された経路情報に基づいて車両の駐車を行う自動駐車を実現するための駐車支援を行うシステムである。
具体的には、車両は、ユーザの指示に応じて、教師走行モードおよび自動走行モードのいずれかで走行する。教師走行モードは、自動駐車を行うための前段階として行われる駐車であり、ユーザの操作により車両を駐車させるモードである。
駐車支援装置は、教師走行モードにおいて、ユーザの操作により車両を駐車スペースに駐車する間に、センサ装置または撮像装置50から得られる情報に基づいて、車両の自己位置推定に用いるための車両周辺の地図情報を作成し、駐車終了までの間、作成した地図情報を順次記録する。さらに、駐車支援装置は、地図情報の作成とともに、車両の駐車終了までに走行した経路情報を記録する。
自動走行モードは、ユーザの操作を伴わず自動で車両を駐車させるモードである。自動走行モードでは、教師走行モード時と同様に撮像装置50により撮影された画像から周辺の地図情報を生成する。続いて、教師走行モード時に記録した周辺の地図情報を照合して、記録した地図情報の位置情報から車両の自己位置を推定し、その推定位置を踏まえて記録された経路情報に従って車両を駐車させる。次に、実施形態1に係る駐車支援システムを構成する各部材について説明する。
【0014】
(駐車支援システム10の構成)
まず、実施形態1の駐車支援システム10の構成を、
図1を参照して説明する。
図1は、実施形態1の駐車支援システム10の構成を示すブロック図である。
【0015】
駐車支援システム10は、上述したように車両の自動駐車を実行するためのものであり、情報処理装置20、情報表示装置30、自動運転制御装置40、撮像装置50、および駆動装置60を備える。なお、駐車支援システム10は車両内部に搭載されていてもよいし、別途車両と無線ネットワークで接続されて、その全体あるいは一部を車両の外部に備えていてもよい。情報処理装置20および情報表示装置30の構成について以下に詳述する。
【0016】
(情報処理装置20の構成)
情報処理装置20は、処理部210および記憶部220を備えており、例えば車両の前後左右に設置された撮像装置50により車両の周辺を撮影した撮像画像から、車両の自己位置の推定に用いるための車両周辺の様々な立体構造物や路面のテクスチャなどの画像特徴点情報、あるいは、立体構造物の画像特徴からOGM情報のいずれかで構成される地図情報を生成する。さらに、車両の走行と共に車両周辺の撮像位置が更新される撮像画像から新たに生成される地図情報を、車載センサとなるステアリングの舵角センサと車輪速パルスセンサから推定される車両の移動量(距離と向き)とを関連付けて1つの地図情報として記憶する。また、情報処理装置20では、第1の駐車において生成されて情報処理装置20の記憶部220に記録されている第1の地図情報と、第2の駐車において新たに生成された第2の地図情報との比較において、それらの差分を示す差分情報を生成する。さらに、情報処理装置20では、記憶されている地図情報を必要に応じて更新する。
第1の駐車は運転者が車両を走行させることにより実行され、第2の駐車は自動走行により実行されてもよい。あるいは、自動走行モードによる駐車を繰り返すことで、第1の駐車および第2の駐車は、自動走行により実行されてもよい。
【0017】
(処理部210)
処理部210のより詳細な構成について以下に説明する。処理部210は、上述した差分情報を生成するための情報処理を行う。処理部210は、画像取得部211、地図情報生成部212、差分情報生成部213、出力制御部214および自己位置推定部215を備える。処理部210を構成する各部について以下に説明する。
【0018】
(画像取得部211)
画像取得部211は、車両に搭載された撮像装置50により撮影された車両周辺の撮像画像を取得する。撮像画像は、画素ごとに画素値を規定したデジタル画像データである。通常、車両に搭載された撮像装置50は車両の前後左右に設置された4つの撮像装置50で構成される。なお、画像取得部211は、車両に搭載された撮像装置50に限らず、インフラカメラなどの撮像装置50により撮影された車両周辺の撮像画像を取得してもよい。
【0019】
(地図情報生成部212)
地図情報生成部212は、画像取得部211が取得した撮像画像を使って、地図情報を生成する。地図情報は、車両の自己位置を算出するために用いられる情報である。事前に記憶されている地図情報中の特徴量と、撮像画像に基づいて生成された地図情報中の特徴量とのマッチングを行うことで、車両の自己位置を推定する。実施形態1では地図情報が、ある一定の大きさ(例えば5cmまたは10cmなど)で規定した格子状に分割された区画(グリッドとも呼ぶ)ごとに、立体障害物の有無または、立体障害物の有無が不明であることが設定されるOGM(Occupied Grid Map)形式で保持される情報である場合を例に挙げて説明する。
【0020】
また、地図情報生成部212は、情報表示装置30からの情報に応答して、記憶部220に記録されている地図情報に対して差分情報を反映させることにより、記憶部220に記録されている地図情報を更新する。
【0021】
(差分情報生成部213)
差分情報生成部213は、地図情報生成部212が生成した第2の地図情報と予め記録されている第1の地図情報とを用いて差分情報を生成する。実施形態1において、差分情報は、差分が存在する場合に差分をユーザに通知するための情報である。一例として、差分情報は、予め生成されて情報処理装置20の記憶部220に記録されている第1の地図情報と、自動走行モードにおいて新たに生成された第2の地図情報との比較において、差分が存在する区画の集合の合計数が所定値以上である区画集合を示す情報である。
【0022】
(出力制御部214)
出力制御部214は、差分情報生成部213において生成された差分情報を情報表示装置30に対して出力する。
【0023】
(自己位置推定部215)
自己位置推定部215は、記憶部220に記録されている地図情報を照合し、地図情報の位置情報から車両の自己位置を推定する。
【0024】
(記憶部220)
記憶部220は、地図情報を記憶するための記録媒体である。記憶部220において記録される地図情報は、当初は教師走行モードにおいて生成される地図情報である。その後、ユーザから指示を受けた場合に、自動走行モードにおいて生成された地図情報に基づいて、記憶部220に記憶されている地図情報は更新される。
【0025】
上記記録媒体としては、例えば、磁気テープやカセットテープなどのテープ類、フロッピー(登録商標)ディスク/ハードディスクなどの磁気ディスクやCD-ROM(Compact Disc Read-Only Memory)/MOディスク(Magneto-Optical disc)/MD(Mini Disc)/DVD(Digital Versatile Disc:登録商標)/CD-R(CD Recordable)/ブルーレイディスク(Blu-ray Disc:登録商標)などの光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カードなどのカード類、マスクROM/EPROM(Erasable Programmable Read-Only Memory)/EEPROM(Electrically Erasable and Programmable Read-Only Memory:登録商標)/フラッシュROMなどの半導体メモリ類、あるいはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)などの論理回路類などを用いることができる。
【0026】
なお、記憶部220は必ずしも情報処理装置20の内部に備えられている必要はなく、必要に応じて情報処理装置20の外部に備えられていてもよい。
【0027】
(情報表示装置30の構成)
次に、駐車支援システム10を構成する情報表示装置30について説明する。情報表示装置30は、情報処理装置20で生成された差分情報を、ユーザに視認可能な形態として表示するものである。情報表示装置30は、情報処理装置20と直接接続されてもよいし、ネットワークを介して接続されていてもよい。情報処理装置20と直接接続されるものとしては、例えば、カーナビゲーションシステムや駐車支援システムのHMIとして機能する車載表示装置を挙げることができる。情報処理装置20とネットワークを介して接続されるものとしては、例えば、スマートフォン、タブレットなどの携帯型情報端末を挙げることができる。
【0028】
情報表示装置30は、差分情報取得部310、差分情報処理部320、表示部330、入力部340、および指示部350を備える。
【0029】
(差分情報取得部310)
差分情報取得部310は、情報処理装置20で生成されて出力される差分情報を取得する。
【0030】
(差分情報処理部320)
差分情報処理部320は、差分情報取得部310が取得した差分情報を、ユーザに視認可能な形態で表示部330に表示するための処理を行う。本実施形態において、ユーザに視認可能な形態での表示とは、具体的には画像による表示である。また、差分情報処理部320は、記憶部220に記録されている地図情報を更新する指示を入力部340から受けた場合、差分が存在する区画の集合の合計数が所定値以上である区画集合を記憶部220に記録されている地図情報に反映させるように、指示部350に対して指示する。
【0031】
(表示部330)
表示部330は、ユーザに対して映像を表示することで情報を通知する表示デバイスである。通知する情報は、差分情報取得部310が取得した差分情報および記憶部220に記録されている地図情報を更新するか否かの問い合わせをユーザに対して通知するための情報である。表示部330としては、具体的には液晶ディスプレイまたは有機ELディスプレイなどの表示デバイスを挙げることができる。
【0032】
(入力部340)
入力部340は、ユーザからの指示を受け付けるための入力デバイスである。入力部340としては、例えば、表示部330と一体で構成されるタッチパネル、または音声の入力を受け付けるマイクなどを挙げることができる。
【0033】
(指示部350)
指示部350は、地図情報の差分情報のうち、ユーザから更新指示を受けた区画集合の情報を記憶部220に記録されている地図情報に反映させることにより、記憶部220に記録されている地図情報を更新するように情報処理装置20に対して指示をする。
【0034】
(自動運転制御装置40の構成)
自動運転制御装置40は、自動運転情報登録部410および自動運転制御部420を備える。
【0035】
(自動運転情報登録部410)
自動運転情報登録部410は、教師走行モード時に動作する。自動運転情報登録部410は、教師走行モードにおいて、車両の駐車終了までに走行した経路情報を記録する。
【0036】
(自動運転制御部420)
自動運転制御部420は、自動走行モードである場合に動作する。自動運転制御部420は、自動走行モードにおいて撮像装置50によって撮影された車両周辺の画像と、自己位置推定部215により推定された自己位置とに基づき、自動運転情報登録部410に記録された経路情報に従って、駆動装置60を制御して車両を自動走行させる。
【0037】
(撮像装置50の構成)
撮像装置50は、車両の周囲を撮影可能となるように、設置位置および画角が予め調整されている。実施形態1では、車両は、撮影方向の異なる複数の撮像装置50を備える。
【0038】
(駆動装置60の構成)
駆動装置60は、車両を自動的に運転するために、駆動部を制御する。より具体的には、駆動装置60は、自己位置と教師走行モード時に記録した経路情報に基づいて、指示された速度で経路上を自動走行するよう、車両のアクセル量、ブレーキ量、操舵角などを制御する。
【0039】
(駐車支援システム10の情報処理の手順)
次に、駐車支援システム10において実行される情報処理の手順を、
図2を参照しつつ、以下に説明する。
図2は、駐車支援システム10において実行される情報処理の手順を示すフローチャートである。
【0040】
まず、画像取得部211が、車両走行時に撮像装置50により撮影された車両周辺の撮像画像を取得する(ステップS101)。
【0041】
次に、地図情報生成部212が、ステップS101で取得した撮像画像を使って、地図情報を生成するとともに、車両の自己位置を推定する(ステップS102)。生成される地図情報の具体例について、以下に説明する。
【0042】
図3の(a)~(c)は、地図情報生成部212において生成される地図情報の一例を模式的に示す図である。
図3(a)~(c)に示すように、OGM形式の地図情報において、駐車を実施する車両周辺の空間が、ある一定の大きさの区画に分けられており、区画ごとに立体障害物の有無または、立体障害物の有無が不明であることが設定される。斜線のある区画は立体障害物が存在する区画を表し、白色の区画は立体障害物が無い区画を表す。
図3(a)は、記憶部220に記録されている地図情報の一部の領域として一例を模式的に示す図であり、
図3(b)は、自動走行モードにおいて車両が走行途中のある地点で取得した撮像画像から生成される地図情報の一例を模式的に示す図であり、
図3(c)は、
図3(a)の地図情報と
図3(b)の地図情報とから、
図3(a)における地図情報に対して自己位置110を推定した状態の一例を模式的に示す図である。なお、
図3(a)および
図3(c)において太枠で囲まれた区画が駐車位置100である。なお、
図3における区画の大きさは模式的に大きく表しているが、実際は更に区画の大きさを細分化し、細粒度の区画で地図情報を表す。
【0043】
自動走行モードにおいて、地図情報生成部212は、画像取得部211により取得された撮像画像に基づいて、地図情報を生成し、生成された地図情報において自己位置となる車両が存在する区画の位置を算出する。地図情報生成部212は、自動走行モードにおいて生成される地図情報(
図3(b))と記憶部220に記録されている地図情報(
図3(a))とを読みだしてマッチングを行い、マッチング誤差の合計値が最小となる位置を探索して車両の自己位置を決定する。マッチング処理により算出した自己位置の結果が
図3(c)となる。自己位置推定部215により推定された自己位置110および自動運転情報登録部410に記憶された経路情報に基づいて経路に追従するよう車両を走行させ、自動駐車が実行される。
なお、マッチング処理は、前回算出した自己位置から今回撮像画像を取得する位置までの車両の移動量を、車載センサ(例えば舵角センサと車輪速パルスセンサなど)から算出し、前回の自己位置にその移動量を合算した位置に基づいて、その周辺領域を探索することで、探索にかかる処理量を抑え、自己位置の算出ミスを低減しても良い。
なお、マッチングに用いられる撮像画像は1つに限るものではなく、車両の前後左右を撮影した4つの撮像画像から取得した地図情報をマッチング処理してもよい。これにより、位置精度、車両周辺の照度環境の違い、および立体障害物の配置の変化にロバストに自己位置を取得することができる。
なお、マッチング処理において、自己位置の推定結果を、必ずしも区画位置の整数倍位置とせず小数点位置として算出することにより、位置分解能を上げることが可能である。
【0044】
差分情報生成部213が、地図情報生成部212が生成した第2の地図情報と、予め記憶部220に記録されている第1の地図情報とを対比して差分情報を生成する(ステップS103)。具体的には、ステップS102で用いた予め記録されている第1の地図情報と自動走行モードにおいて生成された第2の地図情報とを比較し、その差分が誤差の範囲ではなく地図情報として差分と考えられる領域として、差分が存在する区画の集合の合計数が所定値以上である区画集合を検出し、差分情報を生成する。つまり、記憶部220に記録されている地図情報が生成された駐車の際と車両走行時との車両周辺の環境の変化を示す情報を生成する。
さらに、差分情報を情報表示装置に表示するために、差分情報生成部213は、差分情報を検出する元となった撮像画像と差分情報とを関連付けて出力制御部214へ送信する。
【0045】
出力制御部214は差分情報生成部213において生成された差分情報と差分情報に関連付けられた撮像画像を情報表示装置30へ出力する(ステップS104)。本ステップまでが、情報処理装置20において実行される処理となる。以下、情報表示装置30における処理について引き続き
図2を参照しつつ以下に説明する。情報処理装置20における処理と情報表示装置30における処理は、一体として連続して処理されてもよいし、時間的な間隔をあけて処理されてもよい。
【0046】
情報表示装置30の差分情報取得部310は、ステップS104において出力された差分情報を取得する(ステップS105)。
【0047】
差分情報処理部320は、差分情報取得部310が取得した差分情報をユーザに視認可能な形態で表示するための画像を生成する(ステップS106)。
【0048】
差分情報処理部320は、差分情報処理部320が生成した画像を表示部330に表示すると共に、記憶部220に記録されている地図情報を更新するか否かを、ユーザに対して通知する(ステップS107)。例えば、差分情報処理部320は、差分情報処理部320が生成した画像とともに、差分が存在する区画の集合の合計数が所定値以上である区画集合を示す情報を記憶部220に記録されている地図情報に反映させることにより、記憶部220に記録されている地図情報を更新するか否かを示す画像を表示部330に出力するように制御する。
【0049】
入力部340は、記憶部220に記録されている地図情報を更新するか否かについて、ユーザからの指示を受け付ける(ステップS109)。これによりユーザの判定に基づいて車両周辺の環境の変化を地図情報に反映するか否かを決定することができる。記憶部220に記録されている地図情報を更新する指示をユーザから受け付けた場合(ステップS109:Yes)、ステップS110へ進む。記憶部220に記録されている地図情報を更新する指示をユーザから受け付けなかった場合(ステップS109:No)、駐車支援システム10の動作を終了する。
【0050】
指示部350は、記憶部220に記録されている地図情報を更新するように情報処理装置20に対して指示し、駐車支援システム10の動作を終了する(ステップS110)。
【0051】
このように、駐車支援システム10によれば、車両周辺の撮像画像の変化が一時的であるか否かをユーザが判定し、ユーザの判定に基づいて車両周辺の環境の変化を地図情報に反映させるか否かを決定することができる。したがって、駐車支援システム10は、駐車が行われる度に車両周辺の環境の変化を正確に反映した地図情報を作成することにより、自動駐車を行う際に周辺環境の変化が生じても高い精度を維持して車両の自己位置推定を行うことができる。
【0052】
なお、記憶部220に記録されている地図情報を更新するか否かをユーザに対して通知するタイミングは、駐車終了後に車両が停車した直後に実施するのが望ましい。
【0053】
また、記憶部220に記憶される地図情報は1つである場合を例に挙げて説明したが、記憶部220に記憶される地図情報は複数であってもよい。
【0054】
さらに、第2の駐車の後に行われる第3の駐車において、車両の周囲に存在する地図情報を取得し、第2の駐車において生成されて情報処理装置20の記憶部220に記録されている第2の地図情報と、第3の駐車において新たに生成された第3の地図情報とが異なる場合に、第2の地図情報と第3の地図情報との差分を示す差分情報を表示してもよい。
【0055】
(表示形態その1)
続いて、表示部330においてユーザに対して差分情報を表示する際の表示形態について以下に
図4~6を参照しつつ、具体的に説明する。上述したように、実施形態1における差分情報は、予め記憶部220に記録されている第1の地図情報と、自動走行モードにおいて新たに生成された第2の地図情報との比較において、差分が存在する区画の集合の合計数が所定値以上である区画集合を示す情報である。
【0056】
図4は、差分が存在する区画の集合の合計数が所定値以上である区画集合(以降、差分となる区画集合と呼ぶ)が、車両の走行経路に対して、どこに位置しているかを示す図である。本表示形態において、差分となる区画集合の位置(差分位置とも称する)は、車両の走行経路または駐車位置100との相対位置により特定され、差分位置は太枠で囲まれて表示される。さらに、差分となる区画集合の位置は、車両の走行経路または駐車位置100との相対位置により特定され、差分位置は文字情報により新たに追加された物体として表示される。車両の走行経路については、駐車開始地点から駐車終了地点まで走行した経路が矢印線を用いて表示される。このような形態でユーザに差分情報を表示することで、車両周辺の環境が変化した位置を具体的に知ることができる。
なお、
図4(a)では、立体障害物を上空から見た航空写真を示す図中に、走行経路と、差分情報位置を表す太枠で囲まれた実線と、駐車開始位置および駐車終了位置を示す点線とが示されている。しかし、通常、車両に搭載された撮像装置50により撮影される撮像画像から航空写真を作成することは困難であるため、情報表示装置に表示される画像は
図4(b)のように、走行経路、太枠で囲まれた実線、および点線のみで構成されてもよい。
【0057】
上述した通知に対して、ユーザは、例えば、表示部330と一体的に設けられたタッチパネルにおける入力機能である入力部340を用いて、更新するか否かを選択してもよい。
【0058】
(表示形態その2)
図5は、差分が存在する区画の集合の合計数が所定値以上である区画集合が、車両の走行経路に対して、どこに位置しているかを示す図である。
図4の表示形態に加え、さらに、差分が存在する区画の集合の合計数が所定値以上である区画そのものが、他の区画と異なる色を用いて表示される。このような形態でユーザに差分情報を表示することで、車両周辺の環境が変化した位置を具体的に知ることができる。
なお、
図5(a)では、立体障害物を上空から見た航空写真を示す図中に、走行経路と、他の区画と異なる色を用いて差分情報位置を表す塗りつぶし箇所と、差分情報位置を表す太枠で囲まれた実線と、駐車開始位置および駐車終了位置を示す点線とが示されている。しかし、通常、車両に搭載された撮像装置50により撮影される撮像画像から航空写真を作成することは困難であるため、情報表示装置に表示される画像は
図5(b)のように、走行経路、他の区画と異なる色を用いて差分情報位置を表す塗りつぶし箇所と、太枠で囲まれた実線、および点線のみで構成されてもよい。
【0059】
(表示形態その3)
図6は、差分が存在する区画の集合の合計数が所定値以上である区画集合を、車両の周辺を撮影した撮像画像に重畳させて示す図である。一例として、撮像画像上において、区画集合が位置する所定の領域を含む範囲が撮像画像から切り出して表示される。差分となる区画集合は、太枠で囲まれて表示される。また、差分となる区画集合は、新たに追加された物体として文字情報により表示される。このような形態でユーザに差分情報を表示することで、車両周辺の環境が変化した位置を具体的に知ることができる。なお、撮像画像は、車両に搭載される複数の撮像装置50により撮影された撮像画像に基づき合成された合成画像であっても良い。なお、ユーザが差分情報をより認識し易くするために、
図6の表示画像に加えて
図4または
図5の表示画像を並べて表示してもよい。
なお、物体が新たに追加された場合を例に挙げて表示形態その1~3を説明したが、物体が消失した場合であっても同様の表示形態を用いて差分情報を表示することができる。
【0060】
(差分情報として表される地図情報が複数である場合の処理)
図4~6では、差分情報として表される地図情報は1つである場合を例に挙げて説明したが、差分情報として表される地図情報は複数であってもよい。すなわち、追加されている物体が複数であってもよいし、消失している物体が複数であってもよい。また追加されている物体と消失している物体が同時に存在していてもよい。これにより車両周辺の環境の変化をより詳細に地図情報に反映させることができる。複数の差分情報が存在する場合、
図2のフローチャートにおいて、ステップS109およびステップS110を繰り返した後、全ての差分情報についてユーザに更新の有無を確認し、処理を終了する。
【0061】
差分情報として表される地図情報が複数である場合、それらを個別にユーザに通知してもよいし、一括でユーザに通知してもよい。個別にユーザに通知する場合、追加された物体または消失した物体のうちのひとつを通知して、ユーザからの指示を受け付ける動作を順に繰り返すことで、それぞれの差分情報に対して処理を行う。この場合、ユーザは差分情報として表される地図情報を1つずつ吟味し、反映するか否かを判定することができる。また、一括してユーザに通知する場合、追加された物体または消失した物体に対するユーザからの指示を一度に受け付けることで、それぞれの差分情報に対して処理を行う。
【0062】
(変形例)
上述した駐車支援システム10では、地図情報は、駐車走行経路周辺をある一定の大きさで規定した格子状に分割された区画ごとに、立体障害物の有無または、立体障害物の有無が不明であることが設定されるOGM形式で保持される情報である場合を例に挙げて説明したが、他の形式で保持される場合を変形例として以下に説明する。
【0063】
変形例として、地図情報は、撮像画像から抽出される特徴点群の座標位置を示す情報である場合を例に挙げて説明する。このとき、差分情報は、予め生成されて情報処理装置20の記憶部220に記録されている第1の地図情報と、自動走行モードにおいて新たに生成された第2の地図情報との比較において、対応する特徴点群が存在しない座標位置を強調して表示するための情報である。特徴点群の各特徴点は、駐車走行周辺の環境に対して、任意の地点に原点を設定し、2次元平面または3次元空間の座標軸を設定した座標空間内において(Xi, Yi)または(Xi, Yi, Zi)で表現される座標位置を有する。さらに、特徴点群の座標情報に加えて、特徴点群抽出時の車両位置の座標を関連づけて地図情報とすることも考えられる。
【0064】
より具体的には、差分情報は、予め生成されて情報処理装置20に記録されている第1の地図情報に存在するが、新たに生成された第2の地図情報には存在しない特徴点群の座標位置を強調して表示するための情報である。あるいは、差分情報は、予め生成されて情報処理装置20に記録されている第1の地図情報に存在しないが、新たに生成された第2の地図情報にのみ存在する特徴点群の座標位置を強調して表示するための情報である。
前者は情報処理装置20に記録されている地図情報が生成された駐車の際に存在しなかった物体が追加された場合であり、後者は情報処理装置20に記録されている地図情報が生成された駐車の際に存在した物体が消失した場合である。前者の場合には、ユーザからの指示に応答して、記憶部220に記録されている地図情報に対して、新たに生成された地図情報にのみ存在する特徴点群の座標位置を追加することで、記憶部220に記録されている地図情報が更新される。また、後者の場合には、ユーザからの指示に応答して、記憶部220に記録されている地図情報に対して、新たに生成された地図情報には存在しない特徴点群の座標位置を削除することで、記憶部220に記録されている地図情報が更新される。
【0065】
(表示形態その4)
続いて、変形例においてユーザに対して差分情報を表示する際の表示形態について、以下に
図7を参照しつつ、具体的に説明する。
図7は、車両の周辺を撮影した撮像画像において、対応する特徴点群が存在しない座標位置を示した図である。対応する特徴点群が存在しない座標位置は、太枠で囲まれて表示される。さらに、記憶部220に記録されている地図情報を更新するか否かを、ユーザに対して通知する。上述した通知に対して、ユーザは、例えば、表示部330と一体的に設けられたタッチパネルにおける入力機能である入力部340を用いて、更新するか否かを選択してもよい。このような形態でユーザに差分情報を表示することで、車両周辺の環境が変化した位置を具体的に知ることができる。
【0066】
なお、上述した実施の形態における、上記情報処理を実行するためのプログラムは、上記複数の機能部の各々を含むモジュール構成となっており、実際のハードウェアとしては、例えば、CPU(プロセッサ回路)がROMまたはHDDから情報処理プログラムを読み出して実行することにより、上述した複数の機能部の各々がRAM(主記憶)上にロードされ、上述した複数の機能部の各々がRAM(主記憶)上に生成されるようになっている。なお、上述した複数の機能部の各々の一部または全部を、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)などの専用のハードウェアを用いて実現することも可能である。
【0067】
なお、上記には、実施の形態を説明したが、上記実施の形態は、例として提示したものであり、本開示の範囲を限定することは意図していない。上記実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。上記実施の形態は、本開示の範囲または要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【産業上の利用可能性】
【0068】
本開示に係る駐車支援システムは、例えば自動駐車支援などに用いることができる。
【符号の説明】
【0069】
10 駐車支援システム
20 情報処理装置
210 処理部
211 画像取得部
212 地図情報生成部
213 差分情報生成部
214 出力制御部
215 自己位置推定部
220 記憶部
30 情報表示装置
310 差分情報取得部
320 差分情報処理部
330 表示部
340 入力部
350 指示部
40 自動運転制御装置
410 自動運転情報登録部
420 自動運転制御部
50 撮像装置
60 駆動装置