(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024135335
(43)【公開日】2024-10-04
(54)【発明の名称】駐車支援装置、駐車支援方法、及び駐車支援プログラム
(51)【国際特許分類】
B60W 30/06 20060101AFI20240927BHJP
G06T 7/00 20170101ALI20240927BHJP
G06T 7/70 20170101ALI20240927BHJP
G08G 1/16 20060101ALI20240927BHJP
B60R 99/00 20090101ALN20240927BHJP
【FI】
B60W30/06
G06T7/00 650Z
G06T7/70 Z
G08G1/16 D
B60R99/00 330
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023045962
(22)【出願日】2023-03-22
(71)【出願人】
【識別番号】000003609
【氏名又は名称】株式会社豊田中央研究所
(71)【出願人】
【識別番号】000000011
【氏名又は名称】株式会社アイシン
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】浅井 彰司
(72)【発明者】
【氏名】早川 和孝
(72)【発明者】
【氏名】上田 康貴
【テーマコード(参考)】
3D241
5H181
5L096
【Fターム(参考)】
3D241BA21
3D241CE05
3D241DA52Z
3D241DB32Z
5H181AA01
5H181BB13
5H181CC04
5H181LL01
5H181LL02
5H181LL17
5L096AA13
5L096BA04
5L096CA05
5L096DA05
5L096FA26
5L096FA67
5L096FA69
5L096HA02
(57)【要約】
【課題】照明条件の悪い環境において、駐車スペースに対する車両の位置及び姿勢を、セマンティック・セグメンテーション等の手法に比して少ない算出量で推定する。
【解決手段】駐車支援装置10は、駐車スペースと第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得部30と、第1位置から撮像された第1画像内における駐車スペースの路面領域を、オドメトリ情報に基づいて特定する路面領域特定部32と、第2位置から撮像された第2画像内における路面領域と、第1画像内における路面領域とを比較することにより、第1位置と第2位置との間の車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、オドメトリ情報及び相対位置姿勢情報に基づいて、車両が第2位置に位置している場合の駐車スペースに対する車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定部34とを備える。
【選択図】
図2
【特許請求の範囲】
【請求項1】
駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得部と、
前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定部と、
前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定部と、
を備える駐車支援装置。
【請求項2】
前記位置姿勢推定部は、前記第1画像内における前記路面領域に含まれる画素の輝度値と、前記第2画像内における前記路面領域に含まれる画素の輝度値とに基づいて、前記第1画像及び前記第2画像間のホモグラフィ行列を算出し、前記ホモグラフィ行列を分解することにより、前記相対位置姿勢情報を算出する、
請求項1に記載の駐車支援装置。
【請求項3】
前記位置姿勢推定情報に基づいて、前記車両を前記第2位置から前記駐車スペースに駐車させる制御を行う駐車制御部を備える
請求項1又は請求項2に記載の駐車支援装置。
【請求項4】
駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得ステップと、
前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定ステップと、
前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定ステップと、
を備える駐車支援方法。
【請求項5】
駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得ステップと、
前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定ステップと、
前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定ステップと、
をコンピュータに実行させるための駐車支援プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、駐車支援装置、駐車支援方法、及び駐車支援プログラムに関する。
【背景技術】
【0002】
車両を駐車させる場合の支援を行う駐車支援装置としては、例えば、次の技術が公知である。すなわち、特許文献1に記載の駐車支援装置は、車両の周囲を撮像するように車両に取り付けられたカメラと、該カメラによって撮像された車両を駐車させる駐車場の画像に基づいて駐車場に関する情報を取得して駐車場情報として登録し、該駐車場情報を用いて車両を駐車場に自動的に駐車させる制御手段とを備える。
【0003】
制御手段は、車両が駐車場の入口付近で停止しているときに駐車場情報を取得して登録し、当該駐車場への車両の駐車が完了したときに駐車場情報を取得して登録するように構成されている。また、制御手段は、カメラによって撮像された駐車場の画像中の特徴点に関する情報を駐車場情報として登録するように構成されている。この駐車支援装置によれば、車両を駐車場に駐車させるために車両を自動的に走行させているときに、車両と駐車場との位置関係を正確に把握することができるとされている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記特許文献1に記載の駐車支援装置では、照明条件の良い環境では、画像から特徴点(例えば、物体又は模様のコーナーなど)を検出し、特徴点周辺の輝度パターンを用いて画像間で特徴点を対応付けることにより、駐車スペースに対する車両の位置姿勢を推定することができる。しかしながら、夜間の屋外駐車場など照明条件の悪い環境では、特徴点の誤対応が多いため、車両の位置姿勢を正確に推定することが困難である。
【0006】
ここで、画像中の平面が映る領域を特定できれば、車両の位置姿勢を推定できる。なお、平面が映る領域の特定方法として、セマンティック・セグメンテーション等の手法があるが、これらの手法では算出量が多い。
【0007】
本開示の技術は、上記の事情に鑑みてなされたものであり、照明条件の悪い環境において、駐車スペースに対する車両の位置及び姿勢を、セマンティック・セグメンテーション等の手法に比して少ない算出量で推定することができる駐車支援装置、駐車支援方法、及び駐車支援プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
本開示の技術に係る第1態様は、駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得部と、前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定部と、前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定部とを備える駐車支援装置である。
【0009】
本開示の技術に係る第2態様は、第1態様に係る駐車支援装置において、前記位置姿勢推定部は、前記第1画像内における前記路面領域に含まれる画素の輝度値と、前記第2画像内における前記路面領域に含まれる画素の輝度値とに基づいて、前記第1画像及び前記第2画像間のホモグラフィ行列を算出し、前記ホモグラフィ行列を分解することにより、前記相対位置姿勢情報を算出する駐車支援装置である。
【0010】
本開示の技術に係る第3態様は、第1態様又は第2態様に係る駐車支援装置において、前記位置姿勢推定情報に基づいて、前記車両を前記第2位置から前記駐車スペースに駐車させる制御を行う駐車制御部を備える駐車支援装置である。
【0011】
本開示の技術に係る第4態様は、駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得ステップと、前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定ステップと、前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定ステップとを備える駐車支援方法である。
【0012】
本開示の技術に係る第5態様は、駐車スペースと、前記駐車スペースの外の第1位置との間の車両の位置変化量及び姿勢変化量を示すオドメトリ情報を取得するオドメトリ情報取得ステップと、前記車両に搭載された車載カメラによって前記第1位置から撮像された第1画像内における前記駐車スペースの路面領域を、前記オドメトリ情報に基づいて特定する路面領域特定ステップと、前記駐車スペースの外の前記第1位置とは異なる第2位置から前記車載カメラによって撮像された第2画像内における前記路面領域と、前記第1画像内における前記路面領域とを比較することにより、前記第1位置と前記第2位置との間の前記車両の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出し、前記オドメトリ情報及び前記相対位置姿勢情報に基づいて、前記車両が前記第2位置に位置している場合の前記駐車スペースに対する前記車両の位置及び姿勢を示す位置姿勢推定情報を出力する位置姿勢推定ステップと、をコンピュータに実行させるための駐車支援プログラムである。
【発明の効果】
【0013】
本開示の技術によれば、照明条件の悪い環境において、駐車スペースに対する車両の位置及び姿勢を、セマンティック・セグメンテーション等の手法に比して少ない算出量で推定することができる。
【図面の簡単な説明】
【0014】
【
図1】実施形態に係る駐車支援システムの構成の一例を示すブロック図である。
【
図2】実施形態に係る駐車支援装置の機能的な構成の一例を示すブロック図である。
【
図3】駐車スペースと駐車スペースの外の第1位置との位置関係の一例を示す平面図である。
【
図4】第1位置から車載カメラによって撮像された第1画像の一例を示す図である。
【
図5】各車載カメラのカメラ座標系と車両座標系との位置関係を示す平面図である。
【
図6】第1画像内における画像座標系と路面領域の各端点との位置関係の一例を示す図である。
【
図7】駐車スペースと第1位置と第2位置との位置関係の一例を示す平面図である。
【
図8】第2位置から車載カメラによって撮像された第2画像の一例を示す図である。
【
図9】実施形態に係る駐車支援処理の流れの一例を示すフローチャートである。
【
図10】実施形態に係るホモグラフィ行列最適値算出処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0015】
以下、図面を参照して、本開示の技術を実施するための形態の一例について詳細に説明する。なお、動作、作用、機能が同じ働きを担う構成要素及び処理には、全図面を通して同じ符号を付与し、重複する説明を適宜省略する場合がある。各図面は、本開示の技術を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本開示の技術は、図示例のみに限定されるものではない。また、本実施形態では、本開示の技術と直接的に関連しない構成又は周知な構成については、説明を省略する場合がある。
【0016】
図1は、本実施形態に係る駐車支援システム100の構成の一例を示すブロック図である。本実施形態に係る駐車支援システム100は、車両40に搭載されている。車両40は、例えば、乗用自動車等のどのような車両でもよい。駐車支援システム100は、車両40を駐車させる場合の支援を行うシステムであり、駐車支援装置10と、車輪速センサ20と、操舵角センサ21と、車載カメラ22とを備えている。
【0017】
車載カメラ22は、車両40に設置されており、車両40の周辺を撮影する。車載カメラ22は、路面を撮影可能な状態で設置されていればよく、車両40における設置場所は特に限定されない。車載カメラ22には、例えば、単眼カメラが適用されるが、これに限定されず、ステレオカメラ等であってもよい。
【0018】
車載カメラ22は、例えば、車載カメラ22の光軸が水平方向より若干下側を向くように配置される。車載カメラ22は、駐車支援装置10と通信可能に接続されており、撮影した画像を駐車支援装置10に送る。なお、車両40には、一つの車載カメラ22が搭載されていてもよく、複数の車載カメラ22が搭載されていてもよい。以下、車両40に複数の車載カメラ22(例えば、車体の前後左右にそれぞれ設置された4つの車載カメラ22)が搭載された例を説明する。
【0019】
車輪速センサ20は、車両40に設けられた車輪の車輪速を計測する。車輪速センサ20は、計測した車輪速のデータを駐車支援装置10に送信する。車輪速センサ20には、車輪に対して設けられたエンコーダが用いられてもよい。また、車両40がハイブリッド車等の駆動用モータを備えた車両である場合には、車輪速センサ20として、駆動用モータに設けられたエンコーダが用いられてもよい。
【0020】
操舵角センサ21は、車両40の操舵角を計測する。操舵角センサ21は、計測した操舵角のデータを駐車支援装置10に送信する。
【0021】
駐車支援装置10は、車両制御用コンピュータであるECU(Electronic Control Unit)の一部によって実現されてもよいし、ECUとは別の車載コンピュータによって実現されてもよい。
【0022】
駐車支援装置10は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、入出力インタフェース(I/O)14と、記憶部15と、外部インタフェース(外部I/F)16とを備えている。
【0023】
CPU11、ROM12、RAM13、及びI/O14は、バスを介して各々接続されている。I/O14には、記憶部15と、外部I/F16とを含む各機能部が接続されている。これらの各機能部は、I/O14を介して、CPU11と相互に通信可能とされる。
【0024】
CPU11、ROM12、RAM13、及びI/O14によって制御部が構成される。制御部は、駐車支援装置10の一部の動作を制御するサブ制御部として構成されてもよいし、駐車支援装置10の全体の動作を制御するメイン制御部の一部として構成されてもよい。
【0025】
制御部の各ブロックの一部又は全部には、例えば、LSI(Large Scale Integration)等の集積回路又はIC(Integrated Circuit)チップセットが用いられてもよい。また、上記各ブロックに個別の回路が用いられてもよいし、一部又は全部を集積した回路が用いられてもよい。また、上記各ブロック同士が一体として設けられてもよいし、一部のブロックが別に設けられてもよい。また、上記各ブロックのそれぞれにおいて、その一部が別に設けられてもよい。制御部の集積化には、LSIに限らず、専用回路又は汎用プロセッサが用いられてもよい。
【0026】
記憶部15としては、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、又はフラッシュメモリ等が用いられる。記憶部15には、本実施形態に係る駐車支援プログラム15Aが記憶される。なお、この駐車支援プログラム15Aは、ROM12に記憶されていてもよい。
【0027】
駐車支援プログラム15Aは、例えば、駐車支援装置10に予めインストールされていてもよい。また、駐車支援プログラム15Aは、不揮発性の記憶媒体に記憶され、又はネットワークを介して配布されて、駐車支援装置10に適宜インストールされることで実現されてもよい。なお、不揮発性の記憶媒体の例としては、CD-ROM(Compact Disc Read Only Memory)、光磁気ディスク、HDD、DVD-ROM(Digital Versatile Disc Read Only Memory)、フラッシュメモリ、及びメモリカード等が挙げられる。
【0028】
外部I/F16は、車輪速センサ20、操舵角センサ21、及び車載カメラ22の各々と通信可能に接続するためのインタフェースである。
【0029】
本実施形態に係る駐車支援装置10のCPU11は、記憶部15に記憶されている駐車支援プログラム15AをRAM13に書き込んで実行することにより、
図2に示す各部として機能する。
【0030】
図2は、本実施形態に係る駐車支援装置10の機能的な構成の一例を示すブロック図である。本実施形態に係る駐車支援装置10のCPU11は、オドメトリ情報取得部30、路面領域特定部32、位置姿勢推定部34、及び駐車制御部36として機能する。
【0031】
図3は、駐車スペースP0と第1位置P1との位置関係の一例を示す平面図である。第1位置P1は、駐車スペースP0の外の位置であり、任意の位置である。一例として、第1位置P1は、駐車スペースP0の出口付近の位置である。第1位置P1は、車両40が駐車スペースP0に入庫する場合の位置でもよく、車両40が駐車スペースP0から出庫した場合の位置でもよい。また、車両40の運転は、運転者による手動運転でもよく、自動運転システムによる自動運転でもよい。
【0032】
オドメトリ情報取得部30は、車両40が駐車スペースP0と第1位置P1との間を移動する場合に車輪速センサ20及び操舵角センサ21によって計測された計測値を取得し、取得した計測値に基づいてオドメトリ情報を算出することで、オドメトリ情報を取得する。
【0033】
車輪速センサ20と操舵角センサ21の計測値は、車両40が駐車スペースP0と第1位置P1との間を移動した場合に得られる車両40の走行履歴情報の一例である。オドメトリ情報は、駐車スペースP0と第1位置P1との間の車両40の位置変化量及び姿勢変化量を示す情報である。
【0034】
オドメトリ情報は、駐車スペースP0に駐車された車両40の後輪軸中心に駐車場座標系(Xp-Yp座標系)の原点が設定された場合に、後輪軸中心の位置(xν0,yν0)とヨー角θν0で表される。ただし、Xp軸は、駐車スペースP0に駐車された車両40の前後方向に延びる座標軸であり、Yp軸は、駐車スペースP0に駐車された車両40の幅方向に延びる座標軸である。以下、オドメトリ情報を、オドメトリ情報(xν0,yν0,θν0)と称する場合がある。
【0035】
オドメトリ情報(xν0,yν0,θν0)の算出式を以下に説明する。なお、以下、駐車場座標系(Xp-Yp座標系)の原点に対する後輪軸中心の位置を車両位置(xν,yν)と称する。
【0036】
ここでは、サンプリング周期をT[s]、k回目のサンプリングにおける各種状態量を・(k)で表す。以下、一例として、出庫するケースで説明する。k=0では、車両40が駐車スペースP0に駐車されているとする。
【0037】
車輪速センサ20で計測された車輪速ω
t(k)[rad/s]から、車輪(タイヤ)の半径R
t[m]を用いて、車速V(k)[m/s]が次式で算出される。
【数1】
【0038】
操舵角センサ21で計測されたハンドル角θ
h(k)[rad]から、ステアリングギア比G
sを用いて、前輪舵角θ
f(k)[rad]が次式で算出される。
【数2】
【0039】
車速V(k)と前輪舵角θ
f(k)から、ホイールベースL
wb[m]を用いて、ヨーレートω
ν(k)[rad/s]が次式で算出される。
【数3】
【0040】
ヨーレートω
ν(k)から、ヨー角θ
ν(k)[rad]が次式で算出される。なお、θ
ν(0)=0である。
【数4】
【0041】
車速V(k)とヨー角θ
ν(k)から、車両位置(x
ν(k),y
ν(k))が次式で算出される。なお、x
ν(0)=0、y
ν(0)=0である。
【数5】
【0042】
車両40が第1位置P1に位置している場合のオドメトリ情報(xν(k),yν(k),θν(k))は、(xν0,yν0,θν0)で表される。
【0043】
図4は、第1位置P1から車載カメラ22によって撮像された第1画像51の一例を示す図である。路面領域特定部32は、車載カメラ22によって第1位置P1から撮像された第1画像51を取得し、取得した第1画像51内における駐車スペースP0の路面領域Aを、オドメトリ情報(x
ν0,y
ν0,θ
ν0)に基づいて特定する。
【0044】
ここで、実空間での駐車スペースP0の路面領域Aは、車両40の全長及び全幅で定まる長方形として扱われる。第1画像51は、車両40に搭載された複数の車載カメラ22(すなわち、車体の前後左右にそれぞれ設置された4つの車載カメラ22)のうちのどの車載カメラ22で撮影された画像でもよい。
【0045】
図5は、各車載カメラ22のカメラ座標系(X
c-Z
c座標系)と車両座標系(X
ν-Y
ν座標系)との位置関係を示す平面図である。車両座標系(X
ν-Y
ν座標系)は、後輪軸中心に設定されている。以下の説明では、各車載カメラ22のカメラ座標系(X
c-Z
c座標系)について、車両座標系(X
ν-Y
ν座標系)に対する相対位置及び相対姿勢が予め得られていることとする。したがって、車両座標系(X
ν-Y
ν座標系)に対するカメラ座標系(X
c-Z
c座標系)の相対位置及び相対姿勢と、オドメトリ情報(x
ν0,y
ν0,θ
ν0)を用いて、第1画像51内における駐車スペースP0の路面領域Aを特定することが可能である。このように、セマンティック・セグメンテーション等の算出量の多い手法を使わずに、オドメトリ情報に基づいて第1画像51内における路面領域Aを特定することで、算出リソースを削減して低コスト化することができる。
【0046】
第1画像51内における路面領域Aの算出式を以下に説明する。ここでは、車両40について、全長をL
ν[m]、全幅をW
ν[m]、後輪軸中心から車体後端までの距離をL
r[m]とする。
図3に示す駐車場座標系(X
p-Y
p座標系)における路面領域Aの4つの端点を、端点P
1、P
2、P
3、P
4とした場合、端点P
1、P
2、P
3、P
4の各位置が次式のベクトルp
1_p、p
2_p、p
3_p、p
4_pで表される。なお、Tは転置を表す。
【数6】
【0047】
車両座標系(X
ν-Y
ν座標系)における端点Pi(i=1、2、3、4)の位置をベクトルp
i_νとすると、ベクトルp
i_νが次式で算出される。
【数7】
【0048】
図6は、第1画像51内における画像座標系(u-ν座標系)と路面領域Aの各端点P
1、P
2、P
3、P
4との位置関係の一例を示す図である。画像座標系(u-ν座標系)の原点は、第1画像51の複数の端点のうちの一の端点(一例として、左上の端点)に設定されている。u座標軸は、第1画像51の横方向に延びる座標軸であり、ν座標軸は、第1画像51の縦方向に延びる座標軸である。第1画像51内における路面領域Aの各端点P
1、P
2、P
3、P
4の位置は、(U
p1,ν
p1)、(U
p2,ν
p2)、(U
p3,ν
p3)、(U
p4,ν
p4)で表される。
【0049】
P
i_ν=[x
i_ν,y
i_ν,0]
Tから、
図6に示す画像座標系(u-ν座標系)における各端点P
i(i=1、2、3、4)の位置(u
pi,ν
pi)は、車載カメラ22の内部パラメータ行列Kと外部パラメータ行列T
extを用いて、次式で算出される。ただし、fは車載カメラ22の焦点距離であり、(c
x,c
y)は第1画像51の中心座標であり、T
11~T
34は外部パラメータ行列であり、いずれも既知である。
【数8】
【0050】
図7は、駐車スペースP0と第1位置P1と第2位置P2との位置関係の一例を示す平面図である。第2位置P2は、例えば、車両40を駐車スペースP0に自動で駐車させる場合の駐車開始位置である。第2位置P2は、駐車スペースP0の外の第1位置P1とは異なる位置であり、任意の位置である。一例として、第2位置P2は、第1位置P1に対する駐車スペースP0とは反対側の位置である。換言すれば、第1位置P1は、第2位置P2と駐車スペースP0との間の途中位置に相当する。
【0051】
図8は、第2位置P2から車載カメラ22によって撮像された第2画像52の一例を示す図である。位置姿勢推定部34は、車両40を第2位置P2から駐車スペースP0に自動で駐車させる場合に、第2位置P2から車載カメラ22によって撮像された第2画像52を取得する。第2画像52は、車両40に搭載された複数の車載カメラ22(すなわち、車体の前後左右にそれぞれ設置された4つの車載カメラ22)のうちのどの車載カメラ22で撮影された画像でもよい。また、第2画像52は、第1画像51を撮影した車載カメラ22とは異なる車載カメラ22によって撮影された画像でもよい。
【0052】
続いて、位置姿勢推定部34は、第2画像52内における路面領域Aと、第1画像51内における路面領域Aとを比較することにより、第1位置P1と第2位置P2との間の車両40の位置変化量及び姿勢変化量を示す相対位置姿勢情報を算出する。相対位置姿勢情報は、車両40が第1位置P1に位置している場合の車両座標系(Xν-Yν座標系)の原点を基準にして(xνd,yνd,θνd)で表される。以下、相対位置姿勢情報を、相対位置姿勢情報(xνd,yνd,θνd)と称する場合がある。
【0053】
位置姿勢推定部34は、具体的には、相対位置姿勢情報(xνd,yνd,θνd)を次の要領で算出する。先ず、位置姿勢推定部34は、第1画像51内における路面領域Aに含まれる画素の輝度値と、第2画像52内における路面領域Aに含まれる画素の輝度値とに基づいて、第1画像51及び第2画像52間のホモグラフィ行列を算出する。例えば、第1画像51内における路面領域Aに含まれる画素の輝度値と、第2画像52内における路面領域Aに含まれる画素の輝度値との偏差が最小となる領域を探索することにより、第1画像51及び第2画像52間のホモグラフィ行列が求まる。なお、ホモグラフィとは、射影変換を用いて、ある平面を別の平面に射影することをいう。
【0054】
続いて、位置姿勢推定部34は、ホモグラフィ行列を分解することにより、相対位置姿勢情報(xνd,yνd,θνd)を算出する。この場合に、位置姿勢推定部34は、ホモグラフィ行列を分解することにより、第1位置P1及び第2位置P2間の車載カメラ22の相対位置及び相対姿勢を求める。次に、位置姿勢推定部34は、車両座標系に対するカメラ座標系の相対位置及び相対姿勢を用いて、第1位置P1及び第2位置P2間の車載カメラ22の相対位置及び相対姿勢を車両40の相対位置及び相対姿勢に換算することにより、相対位置姿勢情報(xνd,yνd,θνd)を求める。
【0055】
そして、位置姿勢推定部34は、オドメトリ情報(xν0,yν0,θν0)及び相対位置姿勢情報(xνd,yνd,θνd)に基づいて、車両40が第2位置P2に位置している場合の駐車スペースP0に対する車両40の位置及び姿勢を示す位置姿勢推定情報(xν1,yν1,θν1)を推定して出力する。このように、相対位置姿勢情報(xνd,yνd,θνd)を求める場合に、第1画像51及び第2画像52内における路面領域Aに含まれる画素の輝度値を使用するため、駐車スペースP0の照明条件が悪い環境でも、駐車スペースP0に対する車両40の位置及び姿勢を推定することができる。
【0056】
位置姿勢推定情報(x
ν1,y
ν1,θ
ν1)の算出式を以下に説明する。先ず、第1画像51及び第2画像52間のホモグラフィ行列の初期値G
0が3行3列の単位行列に設定され、ホモグラフィ行列の最適値G
optが算出される。ホモグラフィ行列の最適値G
optを求める算出手順については、後に
図10を参照しながら説明する。次に、ホモグラフィ行列の最適値G
optが次式のように分解される。
【数9】
【0057】
ここで、Kは前出の車載カメラ22の内部パラメータ行列であり、Restはカメラ座標系(Xc-Zc座標系)に対する車載カメラ22の姿勢変化量を表す回転行列(推定値)であり、testはカメラ座標系に対する車載カメラ22の位置変化量を表す並進ベクトル(推定値)であり、nestはカメラ座標系に対する路面法線ベクトル(推定値)であり、hは路面からの車載カメラ22の設置高さ(事前の計測値)である。
【0058】
なお、ホモグラフィ行列の最適値Goptの分解方法は下記文献に開示されている。
E. Malis, et al., “Deeper understanding of the homography decomposition for vision-based control,” Research Report, RR-6303, INRIA, 2007.
【0059】
次に、
図7に示す第1位置P1の車両座標系(X
ν-Y
ν座標系)に対する、車両40の姿勢変化量を表す回転行列R
νdと車両40の位置変化量を表す並進ベクトルt
νdが、次式で算出される。
【数10】
【0060】
図7に示す第1位置P1の車両座標系(X
ν-Y
ν座標系)で表した第2位置P2の相対位置姿勢情報を(x
νd,y
νd,θ
νd)で表すと、並進ベクトルt
νdの第1行第1列成分がx
νdに該当し、並進ベクトルt
νdの第2行第1列成分がy
νdに該当する。また、θ
νdは次式で算出される。ここで、R
12はR
νdの第1行第2列成分であり、R
22はR
νdの第2行第2列成分である。
【数11】
【0061】
そして、オドメトリ情報(x
ν0,y
ν0,θ
ν0)と相対位置姿勢情報(x
νd,y
νd,θ
νd)から、
図7に示す駐車スペースP0の駐車場座標系(X
p-Y
p座標系)で表した第2位置P2の位置姿勢推定情報(x
ν1,y
ν1,θ
ν1)が次式で算出される。
【数12】
【0062】
駐車制御部36は、位置姿勢推定情報(xν1,yν1,θν1)に基づいて、車両40を第2位置P2から駐車スペースP0に駐車させる制御を行う。この場合、照明条件の悪い環境でも、駐車スペースP0に対する車両40の位置及び姿勢を推定することができるため、第2位置P2から駐車スペースP0へ自動で駐車することができる。
【0063】
次に、本実施形態に係る駐車支援装置10の作用について説明する。
【0064】
図9は、本実施形態に係る駐車支援プログラム15Aによる駐車支援処理の流れの一例を示すフローチャートである。
【0065】
まず、駐車支援装置10が駐車支援処理の開始の指示を受け付けると、CPU11により駐車支援プログラム15Aが起動され、以下の各ステップを実行する。
【0066】
ステップS101では、CPU11が、車両40が駐車スペースP0と第1位置P1との間を移動する場合に車輪速センサ20及び操舵角センサ21によって計測された計測値を取得し、取得した計測値に基づいてオドメトリ情報(xν0,yν0,θν0)を算出することで、オドメトリ情報(xν0,yν0,θν0)を取得する。ステップS101は、本開示の技術に係るオドメトリ情報取得ステップの一例である。
【0067】
ステップS102では、CPU11が、車載カメラ22によって第1位置P1から撮像された第1画像51を取得し、取得した第1画像51内における駐車スペースP0の路面領域Aを、オドメトリ情報(xν0,yν0,θν0)に基づいて特定する。ステップS102は、本開示の技術に係る路面領域特定ステップの一例である。
【0068】
ステップS103では、CPU11が、車両40を第2位置P2から駐車スペースP0に自動で駐車させる場合に、第2位置P2から車載カメラ22によって撮像された第2画像52を取得する。続いて、位置姿勢推定部34は、第2画像52内における路面領域Aと、第1画像51内における路面領域Aとを比較することにより、第1位置P1と第2位置P2との間の車両40の位置変化量及び姿勢変化量を示す相対位置姿勢情報(xνd,yνd,θνd)を算出する。
【0069】
具体的には、先ず、位置姿勢推定部34は、第1画像51内における路面領域Aに含まれる画素の輝度値と、第2画像52内における路面領域Aに含まれる画素の輝度値とに基づいて、第1画像51及び第2画像52間のホモグラフィ行列を算出する。続いて、位置姿勢推定部34は、ホモグラフィ行列を分解することにより、相対位置姿勢情報(xνd,yνd,θνd)を算出する。
【0070】
そして、位置姿勢推定部34は、オドメトリ情報(xν0,yν0,θν0)及び相対位置姿勢情報(xνd,yνd,θνd)に基づいて、車両40が第2位置P2に位置している場合の駐車スペースP0に対する車両40の位置及び姿勢を示す位置姿勢推定情報(xν1,yν1,θν1)を推定して出力する。ステップS103は、本開示の技術に係る位置姿勢推定ステップの一例である。
【0071】
ステップS104では、CPU11が、位置姿勢推定情報(xν1,yν1,θν1)に基づいて、車両40を第2位置P2から駐車スペースP0に駐車させる制御を行う。ステップS104は、本開示の技術に係る駐車制御ステップの一例である。
【0072】
なお、本実施形態に係る駐車支援装置10の作用として説明した上述の方法は、本開示の技術に係る駐車支援方法の一例である。
【0073】
次に、ホモグラフィ行列の最適値Goptを求める算出手順について説明する。
【0074】
図10は、本実施形態に係るホモグラフィ行列最適値算出処理の流れの一例を示すフローチャートである。なお、ここでは、
図6に示す第1画像51内における端点P
1、P
2、P
3、P
4で定まる路面領域A内の全画素(画素数はn個)に番号i(i=1、2~n)が割り振られる。特に図示しないが、第1画像51と同様に、第2画像52内における端点P
1、P
2、P
3、P
4で定まる路面領域A内の全画素に番号i(i=1、2~n)が割り振られる。
【0075】
ステップS40では、CPU11が、画像I*(第1画像51と同義)に対して追跡領域(第1画像51内の路面領域Aと同義)を指定し、輝度勾配行列JI*と、ヤコビ行列JW、JGと、を算出する。
【0076】
具体的には、輝度勾配行列JI*は、画像I*における追跡領域の各画素の輝度(0~255の値)から次式により算出される。
【0077】
【0078】
ただし、J
I*i(i=1、2~n)が次式で表される。J
I*uiはi番目の画素の横方向の輝度勾配を示し、J
I*viはi番目の画素の縦方向の輝度勾配を示す。
【数14】
【0079】
ヤコビ行列JWは、画像I*における追跡領域の各画素の座標から次式により算出される。
【0080】
【0081】
ただし、追跡領域の各画素の座標が次式により表される。
【0082】
【0083】
このとき、J
Wiが次式により表される。
【数17】
【0084】
ヤコビ行列J
Gは、リー代数の基底A
i(i=1~8)から次式により算出される。
【数18】
【0085】
ここで、[A
i]
vは、次式により表される通り、行毎に並べ替えた9行1列のベクトルである。
【数19】
【0086】
ステップS42では、CPU11が、ホモグラフィ行列の推定値G^(^はGの直上、以下同じ。)に初期値G0(単位行列)を代入し、イテレーション回数(繰り返し回数)niteに1を代入する。
【0087】
ステップS44では、CPU11が、画像I(第2画像52と同義)における追跡領域の輝度勾配行列JIを算出する。
【0088】
具体的には、CPU11が、画像Iにおける座標を次式により算出する。
【数20】
【0089】
ただし、画像Iにおける座標piが次式により表される。
【数21】
【0090】
輝度勾配行列J
Iは、画像Iにおける追跡領域の各画素の輝度から次式により算出される。
【数22】
【0091】
ただし、J
Iiが次式により表される。J
Iuiはi番目の画素の横方向の輝度勾配を示し、J
Iviはi番目の画素の縦方向の輝度勾配を示す。
【数23】
【0092】
ステップS46では、CPU11が、ホモグラフィ行列のパラメータx(8行1列のベクトル)を算出する。
【0093】
具体的に、CPU11が、パラメータxを次式により算出する。
【数24】
【0094】
ここで、J
esmは、ヤコビ行列であり、次式により算出される。
【数25】
【0095】
一方、yは、輝度差ベクトルであり、次式で表される。
【数26】
【0096】
ここで、yiは、画像Iのi番目の画素の輝度I
iと、画像I
*のi番目の画素の輝度I
i
*とから次式により算出される。
【数27】
【0097】
ステップS48では、CPU11が、ホモグラフィ行列の推定値G^を次式により更新する。
【0098】
【0099】
そして、CPU11が、上記Gを新たなG^にする。
【0100】
ステップS50では、CPU11が、終了条件を満たすか否か、つまり、イテレーション(繰り返し)が必要か否かを判定する。終了条件を満たす、つまり、イテレーション(繰り返し)が不要と判定された場合(肯定判定の場合)、ステップS52に移行し、終了条件を満たさない、つまり、イテレーション(繰り返し)が必要と判定された場合(否定判定の場合)、ステップS44に戻り処理が繰り返される。
【0101】
具体的に、今回の輝度差の二乗平均平方根をycurrとすると、ycurrが次式により表される。
【0102】
【0103】
ここでは、イテレーションの上限回数をnmax(例えば、100)とし、収束判定の閾値をε(例えば、10-5)とする。
【0104】
nite=1の場合、前回の輝度差の二乗平均平方根yprevに、今回の輝度差の二乗平均平方根ycurrが代入され、イテレーション回数niteに1が加算されて、ステップS44に戻る。
【0105】
1<nite<nmaxの場合、yprev-ycurr>εであれば、収束していないと判定され、前回の輝度差の二乗平均平方根yprevに、今回の輝度差の二乗平均平方根ycurrが代入され、イテレーション回数niteに1が加算されて、ステップS44に戻る。一方、yprev-ycurr≦εであれば、収束したと判定され、ステップS52に移行する。
【0106】
nite=nmaxの場合、ステップS52に移行する。
【0107】
ステップS52では、CPU11が、ホモグラフィ行列の推定値G^を最適値GOPTとして採用し、処理を終了する。
【0108】
以上詳述した通り、本実施形態によれば、CPU11が、駐車スペースP0と第1位置P1との間の車両40の位置変化量及び姿勢変化量を示すオドメトリ情報(xν0,yν0,θν0)を取得し、車載カメラ22によって第1位置P1から撮像された第1画像51内における駐車スペースP0の路面領域Aを、オドメトリ情報(xν0,yν0,θν0)に基づいて特定する。したがって、セマンティック・セグメンテーション等の算出量の多い手法を使わずに、オドメトリ情報(xν0,yν0,θν0)に基づいて第1画像51内における駐車スペースP0の路面領域Aを特定することができるので、算出リソースを削減して低コスト化することができる。
【0109】
また、CPU11が、駐車スペースP0の外の第2位置P2から車載カメラ22によって撮像された第2画像52内における路面領域Aと、第1画像51内における路面領域Aとを比較することにより、第1位置P1と第2位置P2との間の車両40の位置変化量及び姿勢変化量を示す相対位置姿勢情報(xνd,yνd,θνd)を算出する。ここで、CPU11は、一例として、第1画像51内における路面領域Aに含まれる画素の輝度値と、第2画像52内における路面領域Aに含まれる画素の輝度値とに基づいて、第1画像51及び第2画像52間のホモグラフィ行列を算出し、ホモグラフィ行列を分解することにより、相対位置姿勢情報(xνd,yνd,θνd)を算出する。
【0110】
そして、CPU11が、オドメトリ情報(xν0,yν0,θν0)及び相対位置姿勢情報(xνd,yνd,θνd)に基づいて、車両40が第2位置P2に位置している場合の駐車スペースP0に対する車両40の位置及び姿勢を示す位置姿勢推定情報(xν1,yν1,θν1)を推定する。したがって、相対位置姿勢情報(xνd,yνd,θνd)を求める場合に、第1画像51及び第2画像52内における路面領域Aに含まれる画素の輝度値を使用するため、駐車スペースP0の照明条件が悪い環境でも、駐車スペースP0に対する車両40の位置及び姿勢を推定することができる。
【0111】
また、CPU11が、位置姿勢推定情報(xν1,yν1,θν1)に基づいて、車両40を第2位置P2から駐車スペースP0に駐車させる制御を行う。したがって、照明条件の悪い環境でも、駐車スペースP0に対する車両40の位置及び姿勢を推定することができるため、第2位置P2から駐車スペースP0へ自動で駐車することができる。
【0112】
なお、上記実施形態において、CPU11は、一例として、第1画像51内における路面領域Aに含まれる画素の輝度値と、第2画像52内における路面領域Aに含まれる画素の輝度値とに基づいて、第1画像51及び第2画像52間のホモグラフィ行列を算出し、ホモグラフィ行列を分解することにより、相対位置姿勢情報(xνd,yνd,θνd)を算出する。しかしながら、CPU11は、ホモグラフィ行列を用いる算出手法以外の手法により、第2画像52内における路面領域Aと、第1画像51内における路面領域Aとを比較することにより、相対位置姿勢情報(xνd,yνd,θνd)を算出してもよい。
【0113】
また、上記実施形態において、CPU11は、車両40が駐車スペースP0と第1位置P1との間を移動する場合に車輪速センサ20及び操舵角センサ21によって計測された計測値を取得し、取得した計測値に基づいてオドメトリ情報(xν0,yν0,θν0)を算出する。しかしながら、CPU11は、例えば、車両40以外の場所に設置されたセンサによって計測された計測値を取得し、取得した計測値に基づいてオドメトリ情報(xν0,yν0,θν0)を算出してもよい。また、CPU11は、車両の外部から駐車支援装置10に入力されたオドメトリ情報(xν0,yν0,θν0)を取得してもよい。
【0114】
また、上記実施形態において、プロセッサとは、広義的なプロセッサを指し、CPUなどの汎用的なプロセッサでもよいし、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、又はFPGA(Field Programmable Gate Array)などの専用のプロセッサを含むものでもよい。
【0115】
また、上記実施形態におけるプロセッサの動作は、1つのプロセッサによって成すのみでなく、物理的に離れた位置に存在する複数のプロセッサが協働して成すものであってもよい。また、プロセッサの各動作の順序は、上記各実施形態において記載した順序のみに限定されるものではなく、適宜変更されてもよい。
【0116】
以上、実施形態に係る駐車支援装置を例示して説明した。実施形態は、駐車支援装置が備える各部の機能をコンピュータに実行させるためのプログラムの形態とされてもよい。実施形態は、これらのプログラムを記憶したコンピュータが読み取り可能な非一時的記憶媒体の形態とされてもよい。
【0117】
その他、上記実施形態で説明した駐車支援装置の構成は、一例であり、主旨を逸脱しない範囲内において状況に応じて変更されてもよい。
【0118】
また、上記実施形態で説明したプログラムの処理の流れも、一例である。したがって、上記実施形態においては、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。
【0119】
また、上記実施形態では、プログラムを実行することにより、実施形態に係る処理がコンピュータを利用してソフトウェア構成により実現される場合について説明したが、これに限らない。実施形態は、例えば、ハードウェア構成や、ハードウェア構成とソフトウェア構成との組み合わせによって実現されてもよい。
【符号の説明】
【0120】
10 駐車支援装置
11 CPU
12 ROM
13 RAM
14 I/O
15 記憶部
15A 駐車支援プログラム
16 外部I/F
20 車輪速センサ
21 操舵角センサ
22 車載カメラ
30 オドメトリ情報取得部
32 路面領域特定部
34 位置姿勢推定部
36 駐車制御部
40 車両
51 第1画像
52 第2画像
100 駐車支援システム
P0 駐車スペース
P1 第1位置
P2 第2位置
A 路面領域
【手続補正書】
【提出日】2024-03-21
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0066
【補正方法】変更
【補正の内容】
【0066】
ステップS10では、CPU11が、車両40が駐車スペースP0と第1位置P1との間を移動する場合に車輪速センサ20及び操舵角センサ21によって計測された計測値に基づいて算出されたオドメトリ情報(xν0,yν0,θν0)を記憶部15から取得する。ステップS10は、本開示の技術に係るオドメトリ情報取得ステップの一例である。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0067
【補正方法】変更
【補正の内容】
【0067】
ステップS12では、CPU11が、車載カメラ22によって第1位置P1から撮像された第1画像51を記憶部15から取得し、取得した第1画像51内における駐車スペースP0の路面領域Aを、オドメトリ情報(xν0,yν0,θν0)に基づいて特定する。ステップS12は、本開示の技術に係る路面領域特定ステップの一例である。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0068
【補正方法】変更
【補正の内容】
【0068】
ステップS14では、CPU11が、これから駐車しようしている車両40を第2位置P2から駐車スペースP0に自動で駐車させる場合に、第2位置P2から車載カメラ22によって撮像された第2画像52を取得する。続いて、位置姿勢推定部34は、第2画像52内における路面領域Aと、第1画像51内における路面領域Aとを比較することにより、第1位置P1と第2位置P2との間の車両40の位置変化量及び姿勢変化量を示す相対位置姿勢情報(xνd,yνd,θνd)を算出する。
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0070
【補正方法】変更
【補正の内容】
【0070】
そして、位置姿勢推定部34は、オドメトリ情報(xν0,yν0,θν0)及び相対位置姿勢情報(xνd,yνd,θνd)に基づいて、車両40が第2位置P2に位置している場合の駐車スペースP0に対する車両40の位置及び姿勢を示す位置姿勢推定情報(xν1,yν1,θν1)を推定して出力する。ステップS14は、本開示の技術に係る位置姿勢推定ステップの一例である。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0071
【補正方法】変更
【補正の内容】
【0071】
ステップS16では、CPU11が、位置姿勢推定情報(xν1,yν1,θν1)に基づいて、車両40を第2位置P2から駐車スペースP0に駐車させる制御を行う。ステップS16は、本開示の技術に係る駐車制御ステップの一例である。