IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ アイシン精機株式会社の特許一覧

<>
  • 特開-駐車領域検出装置 図1
  • 特開-駐車領域検出装置 図2
  • 特開-駐車領域検出装置 図3
  • 特開-駐車領域検出装置 図4
  • 特開-駐車領域検出装置 図5
  • 特開-駐車領域検出装置 図6
  • 特開-駐車領域検出装置 図7
  • 特開-駐車領域検出装置 図8
  • 特開-駐車領域検出装置 図9
  • 特開-駐車領域検出装置 図10
  • 特開-駐車領域検出装置 図11
  • 特開-駐車領域検出装置 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024110527
(43)【公開日】2024-08-16
(54)【発明の名称】駐車領域検出装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240808BHJP
   G06T 7/12 20170101ALI20240808BHJP
   G08G 1/16 20060101ALI20240808BHJP
   B60W 30/06 20060101ALI20240808BHJP
   B60W 50/14 20200101ALI20240808BHJP
   B60R 99/00 20090101ALI20240808BHJP
【FI】
G06T7/00 650A
G06T7/00 350C
G06T7/12
G08G1/16 D
B60W30/06
B60W50/14
B60R99/00 330
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023015142
(22)【出願日】2023-02-03
(71)【出願人】
【識別番号】000000011
【氏名又は名称】株式会社アイシン
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】小久保 嘉人
(72)【発明者】
【氏名】後藤 帆貴
(72)【発明者】
【氏名】大須賀 晋
【テーマコード(参考)】
3D241
5H181
5L096
【Fターム(参考)】
3D241BA21
3D241BA50
3D241BB03
3D241BC01
3D241BC02
3D241CE08
3D241DC33Z
5H181AA01
5H181AA21
5H181CC04
5H181FF32
5H181LL04
5H181LL09
5H181LL17
5L096AA02
5L096AA06
5L096BA04
5L096CA05
5L096CA14
5L096CA25
5L096DA02
5L096FA03
5L096FA05
5L096FA06
5L096FA12
5L096GA41
5L096GA51
5L096HA11
(57)【要約】
【課題】ルールベース型手法及びAI型手法の両方を効率的に利用して駐車領域を高精度に検出可能な駐車領域検出装置を提供する。
【解決手段】駐車領域検出装置は、移動体の周辺を撮像して得られた撮像画像に基づいて移動体が駐車される駐車領域を検出するための処理を実行する駐車領域検出装置であって、機械学習を利用して構成される学習済みモデルを利用して、撮像画像から駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定する第1の処理部と、各前記関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、前記駐車領域の位置を決定する第2の処理部と、を備える。
【選択図】図3
【特許請求の範囲】
【請求項1】
移動体の周辺を撮像して得られた撮像画像に基づいて前記移動体が駐車される駐車領域を検出するための処理を実行する駐車領域検出装置であって、
学習済みモデルを利用して、前記撮像画像から前記駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定する第1の処理部と、
各前記関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、前記駐車領域の位置を決定する第2の処理部と、
を備える駐車領域検出装置。
【請求項2】
前記第1の処理部は、
前記学習済みモデルに前記撮像画像を入力し、前記移動体の周辺に存在する前記駐車領域の4つの隅の位置を推定する隅位置推定部と、
前記隅位置推定部により推定された前記隅の位置に基づいて、前記関心領域を設定する関心領域設定部と、を備え、
前記第2の処理部は、
前記ルールベース処理を実行することにより、各前記関心領域内に存在する前記第1方向に平行な直線である基準線を検出する基準線検出部と、
前記関心領域内に存在する前記隅の位置を当該関心領域内で検出された前記基準線に近付けるように補正する補正部と、
前記補正部により補正された前記隅の位置に基づいて前記駐車領域の位置を決定する決定部と、
を備える請求項1に記載の駐車領域検出装置。
【請求項3】
前記補正部は、前記隅の位置を前記第1方向に直交する第2方向に沿って移動させることにより補正する、
請求項2に記載の駐車領域検出装置。
【請求項4】
前記第1方向は、前記駐車領域の前後方向であり、
前記第2方向は、前記駐車領域の左右方向である、
請求項3に記載の駐車領域検出装置。
【請求項5】
前記学習済みモデルは、前記第1方向に沿った一対の前記隅の位置が前記移動体の理想的な駐車位置の前後方向と平行となるように4つの前記隅の位置を推定する、
請求項4に記載の駐車領域検出装置。
【請求項6】
前記第1方向は、前記駐車領域の左右方向であり、
前記第2方向は、前記駐車領域の前後方向である、
請求項3に記載の駐車領域検出装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、駐車領域検出装置に関する。
【背景技術】
【0002】
車両を駐車領域に自動的又は半自動的に駐車させる駐車支援システム等において、車両に搭載されたカメラにより車両の周辺を撮像して得られた撮像画像から車両の周辺に存在する駐車領域を検出する技術が利用されている。
【0003】
撮像画像から駐車領域を検出する際に実行される画像解析の手法として、ルールベース型手法とAI(Artificial Intelligence)型手法とがある。ルールベース型手法は、特許文献1のように、人により予め作成された所定のルールに従って撮像画像内における駐車領域の位置を推定するための処理を行う手法である。AI型手法は、特許文献2のように、様々な駐車領域を撮像した複数の撮像画像を教師データとして用いて実行された機械学習(深層学習)により生成された学習済みモデルを利用して、実際の撮像画像内における駐車領域の位置を推定するための処理を行う手法である。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2022-10577号公報
【特許文献2】特開2021-26625号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ルールベース型手法によれば、路面に描画された駐車領域を示す枠線がある程度良好な状態であれば、比較的高精度に駐車領域の位置を推定できる。しかし、ルールベース型手法よる枠線の検出においては、枠線の状態の制限が比較的大きくなる。例えば、枠線がかすれている場合、日光等の光による反射や陰影がある場合、路面と枠線との色差が小さい場合等には、ルールベース型手法による枠線の検出は困難となる可能性が高い。
【0006】
一方、AI型手法によれば、様々な状態の駐車領域(枠線)の撮像画像を教師データとして学習済みモデルを生成することにより、枠線の状態が様々に変化している場合であっても、比較的高精度に駐車領域の位置を推定できる。すなわち、AI型手法によれば、ルールベース型手法に比べ、枠線の状態の制限が低くなる。しかし、枠線の状態がある程度良好である場合には、AI型手法による推定精度はルールベース型手法より低くなる場合が多い。
【0007】
そこで、本発明の実施形態の課題の一つは、ルールベース型手法及びAI型手法の両方を効率的に利用して駐車領域を高精度に検出可能な駐車領域検出装置を提供することである。
【課題を解決するための手段】
【0008】
本発明の一実施形態にかかる駐車領域検出装置は、移動体の周辺を撮像して得られた撮像画像に基づいて移動体が駐車される駐車領域を検出するための処理を実行する駐車領域検出装置であって、学習済みモデルを利用して、撮像画像から駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定する第1の処理部と、各前記関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、前記駐車領域の位置を決定する第2の処理部と、を備える。
【0009】
上記構成によれば、学習済みモデルを利用するAI型手法とルールベース型手法の両方を効率的に利用するため、駐車領域を高精度に検出することができる。
【0010】
上記構成において、第1の処理部は、学習済みモデルに撮像画像を入力し、移動体の周辺に存在する駐車領域の4つの隅の位置を推定する隅位置推定部と、隅位置推定部により推定された隅の位置に基づいて、関心領域を設定する関心領域設定部と、を備え、第2の処理部は、ルールベース処理を実行することにより、各関心領域内に存在する第1方向に平行な直線である基準線を検出する基準線検出部と、関心領域内に存在する隅の位置を当該関心領域内で検出された基準線に近付けるように補正する補正部と、補正部により補正された隅の位置に基づいて駐車領域の位置を決定する決定部と、を備える。
【0011】
上記構成によれば、先ず、学習済みモデルを利用したAI型手法により撮像した撮像画像から駐車領域の四隅の位置が推定される。AI型手法においては、駐車領域を区画する枠線の状態の制限が比較的低いため、枠線の状態があまり良好でない場合であっても四隅の位置を推定できる。その後、四隅の位置の推定結果に基づいて駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域が設定され、各関心領域に対するルールベース処理(ルールベース型手法)により基準線が検出される。基準線の検出をルールベース型手法により行うことにより、AI型手法を用いる場合よりも検出精度を向上させることができる。そして、上記のように検出された基準線に基づいて、AI型手法により推定された四隅の位置を補正することにより、駐車領域の位置を高精度に特定できる。これにより、ルールベース型手法及びAI型手法の両方を効率的に利用して、移動体の周辺を撮像した撮像画像から駐車領域を高精度に検出することが可能となる。
【0012】
また、上記構成において、補正部は、隅の位置を第1方向に直交する第2方向に沿って移動させることにより補正するものであってもよい。
【0013】
上記構成によれば、各隅の位置を効率的に補正できると共に、過剰な補正が行われてしまうことを防止できる。
【0014】
また、上記構成において、第1方向は、駐車領域の前後方向であり、第2方向は、駐車領域の左右方向であってもよい。
【0015】
上記構成によれば、駐車領域の左右方向の長さを高精度に検出できる。
【0016】
また、上記構成において、学習済みモデルは、第1方向に沿った一対の隅の位置が移動体の理想的な駐車位置の前後方向と平行となるように4つの隅の位置を推定するものであってもよい。
【0017】
上記構成によれば、駐車領域の四隅の位置を移動体の理想的な駐車位置を考慮して適切に推定できる。
【0018】
また、上記構成において、第1方向は、駐車領域の左右方向であり、第2方向は、駐車領域の前後方向であってもよい。
【0019】
上記構成によれば、駐車領域の前後方向の長さや車両の停止位置等を高精度に検出できる。
【図面の簡単な説明】
【0020】
図1図1は、第1実施形態の駐車領域検出装置が搭載される車両の構成の一例を示す図である。
図2図2は、第1実施形態の駐車領域検出装置を含む駐車支援システムの構成の一例を示す図である。
図3図3は、第1実施形態のECUの機能構成の一例を示す図である。
図4図4は、第1実施形態の撮像画像の一例を示す図である。
図5図5は、第1実施形態の四隅の位置の推定結果の一例を示す図である。
図6図6は、第1実施形態の関心領域の一例を示す図である。
図7図7は、第1実施形態の基準線の一例を示す図である。
図8図8は、第1実施形態の隅の位置の補正処理の一例を示す図である。
図9図9は、第1実施形態の駐車領域の決定方法の一例を示す図である。
図10図10は、第1実施形態の駐車領域検出装置による処理の一例を示すフローチャートである。
図11図11は、第2実施形態の関心領域の一例を示す図である。
図12図12は、第2実施形態の基準線及び隅の位置の補正方法の一例を示す図である。
【発明を実施するための形態】
【0021】
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、並びに当該構成によってもたらされる作用、結果及び効果は、例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
【0022】
(第1実施形態)
図1は、第1実施形態の駐車領域検出装置が搭載される車両10の構成の一例を示す図である。車両10は、移動体の一例である。車両10は、例えば、内燃機関(不図示のエンジン)を駆動源とする自動車(内燃機関自動車)であってもよいし、電動機(不図示のモータ)を駆動源とする自動車(電気自動車、燃料電池自動車等)であってもよいし、それらの双方を駆動源とする自動車(ハイブリッド自動車)であってもよい。また、車両10は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置(システム、部品等)を搭載することができる。また、車両10における車輪12(前輪12F、後輪12R)の駆動に関わる装置の方式、個数、及び、レイアウト等は、種々に設定することができる。
【0023】
図1に例示されるように、車両10には、複数の撮像部14として、例えば4つの撮像部14a~14dが設けられている。撮像部14は、例えば、CCD(Charge Coupled Device)やCIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部14は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部14は、それぞれ、広角レンズ又は魚眼レンズを有し、水平方向には例えば140°~220°の範囲を撮影することができる。また、撮像部14の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部14は、車両10が移動可能な路面や路面に付された指標(駐車区画を示す区画線、車線分離線や矢印等を含む)や物体(障害物として、例えば、歩行者、車両等)を含む車両10の外部の周辺環境を逐次撮影し、撮像画像データとして出力する。
【0024】
撮像部14は、車両10の外周部に設けられている。撮像部14aは、例えば、車両10の後側、すなわち車両前後方向の後方側で車幅方向のほぼ中央の端部、例えばリヤバンパ10aの上方位置に設けられて、車両10の後端部(例えばリヤバンパ10a)を含む後方領域を撮像可能である。また、撮像部14bは、例えば、車両10の前側、すなわち車両前後方向の前方側で車幅方向のほぼ中央の端部、例えばフロントバンパ10bやフロントグリル等に設けられて、車両10の前端部(例えばフロントバンパ10b)を含む前方画像を撮像可能である。
【0025】
また、撮像部14cは、例えば、車両10の右側の端部、例えば右側のドアミラー10cに設けられて、車両10の右側方を中心とする領域(例えば右前方から右後方の領域)を含む右側方画像を撮像可能である。撮像部14dは、例えば、車両10の左側の端部、例えば左側のドアミラー10dに設けられて、車両10の左側方を中心とする領域(例えば左前方から左後方の領域)を含む左側方画像を撮像可能である。
【0026】
本実施形態の駐車領域検出装置は、撮像部14で得られた撮像画像に対して所定の解析処理や演算処理等を実行することで、車両10の周辺に存在する駐車領域を検出する。
【0027】
図2は、第1実施形態の駐車領域検出装置を含む駐車支援システム100の構成の一例を示す図である。車両10の車室内には、表示装置16や、音声出力装置18が設けられている。表示装置16は、例えば、LCD(Liquid Crystal Display)や、OELD(Organic Electro-Luminescent Display)等である。音声出力装置18は、例えば、スピーカである。また、表示装置16は、例えば、タッチパネル等、透明な操作入力部20で覆われている。乗員(例えば、運転者)は、操作入力部20を介して表示装置16の表示画面に表示される画像を視認することができる。また、乗員は、表示装置16の表示画面に表示される画像に対応した位置で、手指等で操作入力部20を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置16や、音声出力装置18、操作入力部20等は、例えば、車両10のダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置22に設けられている。モニタ装置22は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。モニタ装置22は、例えば、ナビゲーションシステムやオーディオシステムと兼用され得る。
【0028】
また、図2に例示されるように、駐車支援システム100は、撮像部14(14a~14d)やモニタ装置22に加え、ECU24(Electronic Control Unit)を備える。駐車支援システム100では、ECU24やモニタ装置22は、電気通信回線としての車内ネットワーク26を介して電気的に接続されている。車内ネットワーク26は、例えば、CAN(Controller Area Network)として構成されている。ECU24は、車内ネットワーク26を通じて制御信号を送ることで、各種システムの制御を実行できる。例えば、駐車支援システム100では、ECU24や、モニタ装置22等の他、操舵システム28、舵角センサ37、ブレーキシステム39、駆動システム34、アクセルセンサ36、シフトセンサ38、車輪速センサ40等が車内ネットワーク26を介して電気的に接続されている。ECU24は、車内ネットワーク26を通じて制御信号を送ることで、操舵システム28、ブレーキシステム39、駆動システム34等を制御することができる。また、ECU24は、車内ネットワーク26を介して、トルクセンサ28a、ブレーキセンサ39b、舵角センサ37、アクセルセンサ36、シフトセンサ38、車輪速センサ40等の検出結果や、操作入力部20等の操作信号等を、受け取ることができる。
【0029】
ECU24は、例えば、CPU24a(Central Processing Unit)、ROM24b(Read Only Memory)、RAM24c(Random Access Memory)、表示制御部24d、音声制御部24e、SSD24f(Solid State Drive、フラッシュメモリ)等を備えている。CPU24aは、各種の演算処理や制御を実行する。
【0030】
CPU24aは、ROM24b等の不揮発性の記憶装置に記憶されたプログラムを読み出し、当該プログラムに従って演算処理を実行する。ROM24bは、各プログラム及びプログラムの実行に必要なパラメータ等を記憶する。RAM24cは、CPU24aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部24dは、ECU24での演算処理のうち、主として、撮像部14で得られた撮像画像の画像データに対する画像処理や、表示装置16で表示される画像(映像)の画像データの合成等を実行する。また、音声制御部24eは、ECU24での演算処理のうち、主として、音声出力装置18で出力される音声の音声データの処理を実行する。また、SSD24fは、書き換え可能な不揮発性の記憶部であって、ECU24の電源がOFFされた場合にあってもデータを記憶することができる。なお、CPU24aや、ROM24b、RAM24c等は、同一パッケージ内に集積され得る。また、ECU24は、CPU24aに替えて又は加え、DSP(Digital Signal Processor)や、ASIC(Application Specific Integrated circuit)、FPGA(Field Programmable Gate Array)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD24fに替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD24fやHDDは、ECU24とは別に設けられてもよい。
【0031】
図1に例示されるように、車両10は、例えば、四輪自動車であり、左右二つの前輪12Fと、左右二つの後輪12Rとを有する。これら四つの車輪12は、いずれも転舵可能に構成され得る。図2に例示されるように、操舵システム28は、車両10の少なくとも二つの車輪12を操舵する。操舵システム28は、トルクセンサ28aとアクチュエータ28bとを有する。操舵システム28は、ECU24等によって電気的に制御されて、アクチュエータ28bを動作させる。操舵システム28は、例えば、電動パワーステアリングシステムや、SBW(Steer By Wire)システム等である。操舵システム28は、アクチュエータ28bによって操舵部(例えば、ステアリングホイール)にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ28bによって車輪12を転舵したりする。この場合、アクチュエータ28bは、一つの車輪12を転舵してもよいし、複数の車輪12を転舵してもよい。また、トルクセンサ28aは、例えば、運転者が操舵部に与えるトルクを検出する。
【0032】
舵角センサ37は、例えば、操舵部の操舵量を検出するセンサである。舵角センサ37は、例えば、ホール素子等を用いて構成される。ECU24は、運転者による操舵部の操舵量や、自動操舵時の各車輪12の操舵量等を、舵角センサ37から取得して各種制御を実行する。なお、舵角センサ37は、操舵部に含まれる回転部分の回転角度を検出する。
【0033】
ブレーキシステム39は、例えば、ブレーキのロックを抑制するABS(Anti-lock Brake System)や、コーナリング時の車両10の横滑りを抑制する横滑り防止装置(ESC:Electronic Stability Control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(Brake By Wire)等である。ブレーキシステム39は、アクチュエータ39aを介して、車輪12ひいては車両10に制動力を与える。また、ブレーキシステム39は、左右の車輪12の回転差等からブレーキのロックや、車輪12の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ39bは、例えば、制動操作部(例えば、ブレーキペダル)の可動部の位置を検出するセンサである。
【0034】
駆動システム34は、駆動源としての内燃機関(エンジン)システムやモータシステムである。駆動システム34は、アクセルセンサ36により検出された運転者(利用者)の要求操作量(例えばアクセルペダルの踏み込み量)に従いエンジンの燃料噴射量や吸気量の制御やモータの出力値を制御する。また、利用者の操作に拘わらず、車両10の走行状態に応じて、操舵システム28やブレーキシステム39の制御と協働してエンジンやモータの出力値を制御し得る。
【0035】
アクセルセンサ36は、例えば、加速操作部(例えば、アクセルペダル)の可動部の位置を検出するセンサである。アクセルセンサ36は、可動部としてのアクセルペダルの位置を検出することができる。
【0036】
シフトセンサ38は、例えば、変速操作部(例えば、シフトレバー)の可動部の位置を検出するセンサである。シフトセンサ38は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ38は、変位センサを含んでもよいし、スイッチとして構成されてもよい。ECU24は、シフトセンサ38の検出結果に基づいて、車両10が前進走行要求を受けているか、後退走行要求を受けているかの判定を行うことができる。
【0037】
車輪速センサ40は、各車輪12に設けられ各車輪12の回転量や単位時間当たりの回転数を検出するセンサであり、検出した回転数を示す車輪速パルス数を検出値として出力する。車輪速センサ40は、例えば、ホール素子等を用いて構成されうる。ECU24は、車輪速センサ40から取得した検出値に基づき、車両10の車速や移動量等を演算し、各種制御を実行する。ECU24は、各車輪12の車輪速センサ40の検出値に基づいて車両10の車速を算出する場合、四輪のうち最も小さな検出値の車輪12の速度に基づき車両10の車速を決定し、各種制御を実行する。
【0038】
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、例であって、種々に設定(変更)することができる。
【0039】
本実施形態のECU24は、撮像部14から取得した撮像画像に基づいて、車両10の周辺に存在する駐車領域を検出するための駐車領域検出処理を実行する。すなわち、ECU24は、駐車領域検出装置の一例(一形態)である。また、ECU24は、駐車領域検出処理により検出された駐車領域に車両10を自動的又は半自動的に駐車させるように車両10の舵角や速度等を制御する駐車支援処理等を実行する。
【0040】
図3は、第1実施形態のECU24の機能構成の一例を示す図である。ECU24は、図3に示すように、取得部101と、第1の処理部110と、第2の処理部120と、駐車支援処理部107と、を有する。第1の処理部110は、隅位置推定部102と、関心領域設定部103と、を有する。第2の処理部120は、基準線検出部104と、補正部105と、決定部106と、を有する。これらの機能部101~107は、図2に例示されるようなハードウェアとソフトウェア(例えばROM24bやSSD24f等に記憶されたプログラムやファームウェア等)との協働により構成され得る。また、これらの機能部101~107のうち少なくとも一部が専用のハードウェア(回路等)により構成されてもよい。
【0041】
取得部101は、撮像部14から車両10の周辺を撮像した撮像画像(画像データ)を取得する。
【0042】
図4は、第1実施形態の撮像画像30の一例を示す図である。ここで例示する撮像画像30は、車両10のフロントバンパ10bに搭載された撮像部14bにより撮像された画像であり、車両10の周辺(本例では前方)に存在する駐車領域Eの映像を含んでいる。ここで例示する駐車領域Eは、略U字形状の枠線32により区画されている。すなわち、本例の駐車領域Eは、隣り合う2つの枠線32a,32bの間に形成される領域であり、隣り合う2つの枠線32a,32bにより駐車領域Eの横幅が規定されている。図4中、D1は、駐車領域Eの前後方向(第1方向の一例)を示しており、D2は、前後方向D1に直交する、駐車領域Eの左右方向(第2方向の一例)を示している。
【0043】
図3に戻り、第1の処理部110は、機械学習により生成された学習済みモデルを利用して、取得部101で取得した撮像画像30から駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定する。以下、第1の処理部110の詳細について説明する。
【0044】
第1の処理部110の隅位置推定部102は、学習済みモデルを利用して、取得部101により取得された撮像画像30から車両10の周辺に存在する駐車領域Eの四隅の位置を推定する。学習済みモデルは、ニューラルネットワークを利用して構成され、適宜な教師データを用いて事前に行われる機械学習により生成されたモデルである。本実施形態の学習済みモデルは、取得部101により取得された撮像画像30が入力されると、当該撮像画像30内に存在する駐車領域Eの四隅の位置の推定結果を示す隅位置情報を出力する。また、学習済みモデルは、駐車領域Eの前後方向D1に沿った一対の隅の位置が車両10の理想的な駐車位置の前後方向と平行となるように、四隅の位置を推定するものであってもよい。このような学習済みモデルを利用することにより、駐車領域Eの四隅の位置を車両10の理想的な駐車位置を考慮して適切に推定できる。
【0045】
図5は、第1実施形態の四隅Pfa,Pfb,Pra,Prbの位置の推定結果の一例を示す図である。図5において、隅位置推定部102の学習済みモデルにより推定された、撮像画像30に含まれる駐車領域E(ここでは車両10に最も近い駐車領域)の四隅Pfa,Pfb,Pra,Prbの位置が例示されている。このような学習済みモデルによる四隅Pfa,Pfb,Pra,Prbの位置の推定は、枠線32の状態に多少不具合(例えば枠線32のかすれ、光の反射、陰影、路面と枠線32との色差不足等)があっても実行できる。
【0046】
図3に戻り、第1の処理部110の関心領域設定部103は、隅位置推定部102により推定された四隅Pfa,Pfb,Pra,Prbに基づいて、撮像画像30において駐車領域Eの前後方向D1に沿った2辺のそれぞれに対応する関心領域を設定する。
【0047】
図6は、第1実施形態の関心領域Ra,Rbの一例を示す図である。図6において、駐車領域Eを区画する側線としての2つの枠線32a,32bのそれぞれについて関心領域Ra,Rbが設定された状態が例示されている。本例では、一方の枠線32aの前後方向D1に沿って延びる内側の直線35aと、他方の枠線32bの前後方向D1に沿って延びる内側の直線35bと、が上記「2辺」に相当する。一方の関心領域Raは、その長手方向が直線35aに沿うように設定され、四隅Pfa,Pfb,Pra,Prbのうち直線35aに沿って存在する一対の隅Pfa,Praを含んでいる。他方の関心領域Rbは、その長手方向が直線35bに沿うように設定され、四隅Pfa,Pfb,Pra,Prbのうち直線35bに沿って存在する一対の隅Pfb,Prbを含んでいる。
【0048】
図3に戻り、第2の処理部120は、関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、駐車領域の位置を決定する。以下、第2の処理部120の詳細について説明する。
【0049】
第2の処理部120の基準線検出部104は、各関心領域Ra,Rbに対してルールベース処理を実行することにより、各関心領域Ra,Rb内に存在する前後方向D1に平行な直線である基準線を検出する。ルールベース処理は、入力に対して、人により予め定められた所定のルールに基づいて出力を行う処理である。本実施形態では、ルールベース処理として基準線を検出する処理が該当するが、これに限定されるものではない。例えば、白線のエッジ検出等の処理をルールベース処理に含めることができる。ルールベース処理における具体的なルールは、撮像部14の仕様等に応じて適宜決定されるべきものであるが、例えば、撮像画像30の各画素の色差が閾値以上ある部分を検出すること等により枠線32a,32bを検出し、検出した枠線32a,32bのうち前後方向D1に平行な部分を基準線とすることができる。
【0050】
図7は、第1実施形態の基準線Lの一例を示す図である。図7において、基準線検出部104のルールベース処理により検出された、一方の関心領域Ra内の基準線Lが例示されている。本例の基準線Lは、関心領域Ra内に存在する枠線32aの駐車領域E側の直線35a(駐車領域Eの路面と枠線32aとの境界線)と一致している。なお、他方の関心領域Rbについても、上記と同様に基準線が検出される。
【0051】
図3に戻り、第2の処理部120の補正部105は、関心領域(例えば関心領域Ra)内に存在する隅(例えば隅Pfa,Pra)の位置を当該関心領域内で検出された基準線Lに近付けるように補正する。このとき、補正部105は、当該隅(例えば隅Pfa,Pra)の位置を前後方向D1に直交する左右方向D2に沿って移動させることにより、対応する基準線(例えば関心領域Ra内の基準線L)に近付けるように補正することが好ましい。これにより、各隅の位置を効率的に補正できると共に、過剰な補正を防止できる。過剰な補正とは、例えば、一方の隅(例えば隅Pfa)が他方の隅(例えば隅Pra)に過剰に接近してしまうような補正である。上記のような補正処理は、両方の関心領域Ra,Rbについて実行される。
【0052】
図8は、第1実施形態の隅Pfa,Praの位置の補正処理の一例を示す図である。図8において、一方の枠線32aに対応する関心領域Ra内に存在する2つの隅Pfa,Praの位置を補正する場合が例示されている。本例では、補正前の前側の隅Pfaが基準線Lより外側に位置し、補正前の後側の隅Praが基準線Lより内側に位置している。このような場合、前側の隅Pfaは、左右方向D2に沿って基準線Lに達するまで内側(図中左側)に移動され、後ろ側の隅Praは、左右方向D2に沿って基準線Lに達するまで外側(図中右側)に移動される。これにより、補正後の前側の隅Pfa´及び補正後の後側の隅Pra´は、基準線L上に乗ることとなる。このような補正処理は、他方の関心領域Rb内に存在する2つの隅Pfb,Prbについても実行される。
【0053】
図3に戻り、第2の処理部120の決定部106は、補正部105により補正された四隅の位置を示す補正後隅位置情報に基づいて駐車領域Eの位置(大きさ及び形状を含む)を決定する。
【0054】
図9は、第1実施形態の駐車領域Eの決定方法の一例を示す図である。図9に示されるように、本実施形態の決定部106は、補正後の四隅Pfa´,Pfb´,Pra´,Prb´により囲まれた領域を駐車領域Eとして決定する。
【0055】
図3に戻り、駐車支援処理部107は、決定部106により決定された駐車領域Eに関する駐車領域情報に基づいて、車両10を当該駐車領域Eに駐車させるための駐車支援処理を行う。駐車支援処理の具体的内容は特に限定されるべきものではないが、例えば駐車支援処理には舵角制御、速度制御、乗員に対する画像や音声の出力等が含まれ得る。
【0056】
図10は、第1実施形態の駐車領域検出装置(ECU24)による処理の一例を示すフローチャートである。取得部101が撮像部14から車両10の周辺を撮像した撮像画像30を取得すると(S101)、隅位置推定部102は、学習済みモデルにより当該撮像画像30内における駐車領域Eの四隅Pfa,Pfb,Pra,Prbの位置を推定する(S102)。
【0057】
その後、関心領域設定部103は、推定された四隅Pfa,Pfb,Pra,Prbの位置に基づいて、撮像画像30に関心領域Ra,Rbを設定する(S103)。その後、基準線検出部104は、関心領域Ra,Rbに対してルールベース処理を実行し、2つの関心領域Ra,Rbのそれぞれについて、駐車領域Eの前後方向D1に平行な直線(直線35a,35b)に対応する基準線Lを検出する(S104)。
【0058】
その後、補正部105は、各関心領域Ra,Rb内の隅Pfa,Pfb,Pra,Prbの位置を各関心領域Ra,Rb内で検出された基準線Lに近付けるように補正する(S105)。このとき、補正部105は、各隅Pfa,Pfb,Pra,Prbの位置を左右方向D2に沿って移動させてそれぞれ対応する基準線Lに近付けることにより補正する。
【0059】
そして、決定部106は、補正後の四隅Pfa´,Pfb´,Pra´,Prb´の位置に基づいて駐車領域Eの位置を決定する(S106)。
【0060】
上記本実施形態によれば、機械学習により生成された学習済みモデルを利用して、撮像画像から駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定し、各関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、駐車領域の位置を決定する。より具体的には、本実施形態では。先ず、学習済みモデルを利用したAI型手法により、車両10の周辺を撮像した撮像画像30から駐車領域Eの四隅Pfa,Pfb,Pra,Prbの位置が推定される。AI型手法においては、駐車領域Eを区画する枠線32の状態の制限が比較的低いため、枠線32の状態があまり良好でない場合であっても四隅Pfa,Pfb,Pra,Prbの位置を推定できる。その後、四隅Pfa,Pfb,Pra,Prbの位置の推定結果に基づいて駐車領域Eの前後方向D1に沿った2辺のそれぞれに対応する関心領域Ra,Rbが設定され、各関心領域Ra,Rbに対するルールベース処理(ルールベース型手法)により基準線Lが検出される。基準線Lの検出をルールベース型手法により行うことにより、検出精度を向上させることができる。そして、上記のように検出された基準線Lに基づいて、AI型手法により推定された四隅Pfa,Pfb,Pra,Prbの位置を補正することにより、駐車領域Eの位置を高精度に特定できる。以上のように、本実施形態によれば、ルールベース型手法及びAI型手法の両方を効率的に利用して、車両10の周辺を撮像した撮像画像30から駐車領域Eを高精度に検出することが可能となる。
【0061】
また、上記のように、駐車領域Eの前後方向D1を関心領域Ra,Rbの長手方向に対応する第1方向とし、駐車領域Eの左右方向D2を補正処理における四隅Pfa,Pfb,Pra,Prbの位置の移動方向に対応する第2方向とすることにより、駐車領域Eの左右方向D2の長さ(横幅)を高精度に検出することが可能となる。
【0062】
(第2実施形態)
上記第1実施形態においては、駐車領域Eの前後方向D1を第1方向とし、駐車領域Eの左右方向D2を第2方向とする場合について説明したが、左右方向D2を第1方向とし、前後方向D1を第2方向としてもよい。
【0063】
図11は、第2実施形態の関心領域Rf,Rrの一例を示す図である。本実施形態の駐車領域Eの枠線32は、右側の枠線32a、左側の枠線32b、前方の枠線32c及び後方の枠線32dを含む。本実施形態では、前方の枠線32cに対応する関心領域Rfと、後方の枠線32dに対応する関心領域Rrと、が設定される。関心領域Rfは、隅位置推定部102により推定された四隅Pfa,Pfb,Pra,Prbのうち、前方の枠線32cに沿って存在する2つの隅Pfa,Pfbを含む。関心領域Rrは、隅位置推定部102により推定された四隅Pfa,Pfb,Pra,Prbのうち、後方の枠線32dに沿って存在する2つの隅Pra,Prbを含む。
【0064】
図12は、第2実施形態の基準線L及び隅Pfa,Pfbの位置の補正方法の一例を示す図である。図12において、前方の枠線32cに対応する関心領域Rf内における基準線Lが例示されている。当該基準線Lは、関心領域Rf内に存在する枠線32cのうち左右方向D2(本実施形態における第1方向)に平行な部分(例えば枠線32cの駐車領域E側の直線)に対応する線である。
【0065】
本実施形態の補正部105は、当該関心領域Rfに含まれる隅Pfa,Pfbを、当該関心領域Rf内で検出された基準線Lに近付けるように補正する。このとき、補正部105は、これらの隅Pfa,Pfbの位置を駐車領域Eの前後方向D1(本実施形態における第2方向)に沿って基準線Lに達するまで移動させる。これにより、補正後の隅Pfa´,Pfb´は、基準線L上に位置することとなる。
【0066】
なお、上記においては、駐車領域Eの前方側における関心領域Rfの設定及び隅Pfa,Pfbの位置の補正について説明したが、駐車領域Eの後方側における関心領域Rrの設定及び隅Pra,Prbの位置の補正も上記と同様に実施できる。
【0067】
上記のように、左右方向D2を第1方向とし、前後方向D1を第2方向とすることにより、駐車領域Eの前後方向D1の長さや車両10の停止位置等を高精度に検出することが可能となる。
【0068】
上記実施形態では、機械学習により生成された学習済みモデルを利用して、撮像画像から駐車領域の第1方向に沿った2辺のそれぞれに対応する関心領域を設定する第1の処理部110の例として、隅位置推定部102により、撮像画像から学習済みモデルにより駐車領域の4つの隅位置を推定し、関心領域設定部103により、推定された4つの隅位置から関心領域を設定していた。ただし、関心領域の設定手法は、学習済みモデルを用いる処理であればよく、これに限定されるものではなく、他の手法によって実現することができる。
【0069】
上記実施形態では、各関心領域に対して予め定められたルールに基づくルールベース処理を実行し、実行結果に基づいて、駐車領域の位置を決定する第2の処理部120の例として、基準線検出部104により、ルールベース処理を実行することにより、各関心領域内に存在する第1方向に平行な直線である基準線を検出し、補正部105により、関心領域内に存在する隅の位置を当該関心領域内で検出された基準線に近付けるように補正し、決定部106により、補正された隅の位置に基づいて駐車領域の位置を決定していた。ただし、駐車領域の位置の決定手法としては。ルールベース処理を実行するものであれば、これに限定されるものではなく、他の手法によって実現することができる。
【0070】
上記実施形態の駐車領域検出装置の機能を実現するためのプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
【0071】
さらに、当該プログラムをインターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、当該プログラムをインターネット等のネットワーク経由で提供又は配布するように構成してもよい。
【0072】
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0073】
10…車両、14,14a,14b,14c,14d…撮像部、24…ECU、30…撮像画像、32,32a,32b,32c,32d…枠線、100…駐車支援システム、101…取得部、102…隅位置推定部、103…関心領域設定部、104…基準線検出部、105…補正部、106…決定部、107…駐車支援処理部、E…駐車領域、D1…前後方向、D2…左右方向、L…基準線、Pfa,Pfb,Pra,Prb,Pfa´,Pfb´,Pra´,Prb´…隅、Ra,Rb,Rf,Rr…関心領域
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12