(58)【調査した分野】(Int.Cl.,DB名)
前記第2のアノテーションは、前記駐車領域を示す画像における前記車両1台分の駐車位置の周囲に、車両の乗降に対して障害となる乗降障害物が存在する場合に、前記車両1台分の駐車位置と前記乗降障害物との間の距離を前記駐車状態として示し、
前記対象車両の駐車位置の特定では、
前記入力データを前記学習モデルに入力することによって、前記入力データに映し出されている乗降障害物の周囲に前記対象車両の駐車位置を特定する場合に、前記入力データに映し出されている乗降障害物と前記対象車両の駐車位置との間の距離を、前記対象車両の駐車位置における駐車状態として特定する
請求項3に記載の駐車位置特定方法。
前記第2のアノテーションは、前記車両1台分の駐車位置における駐車状態として、前記車両1台分の駐車位置に、駐車に対して障害となる駐車障害物があるか否かを示し、
前記対象車両の駐車位置の特定では、
前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態として、前記対象車両の駐車位置に駐車障害物があるか否かを特定する
請求項3に記載の駐車位置特定方法。
【発明を実施するための形態】
【0011】
(本発明の基礎となった知見)
本発明者は、「背景技術」の欄において記載した特許文献1の駐車支援装置に関し、以下の問題が生じることを見出した。
【0012】
つまり、その駐車支援装置が駐車位置を特定するときには、まず、カメラによる撮影によって得られた画像から白線を検出することができるか否かを判定する。そして、白線を検出することができないと判定すると、駐車支援装置は、その画像から他車両のエッジの検出を行う。駐車支援装置は、このエッジの検出ができた場合に、その他車両の隣接位置に自車両を駐車する駐車位置が存在するか否かを判定する。
【0013】
したがって、この駐車支援装置による駐車位置特定方法では、他車両の隣のスペースを駐車位置として特定する。
【0014】
しかし、この駐車位置特定方法では、他車両が駐車場に駐車していなければ、自車両の駐車位置を特定することができないという問題がある。また、駐車場に他車両が駐車している場合であっても、不適切な位置を駐車位置として特定してしまうことがある。例えば、2台の車両が駐車可能な広さを有する駐車領域があっても、その駐車領域の中央を駐車位置として特定してしまうことがある。このような場合には、その駐車位置に自車両を駐車すると、2台の車両が駐車可能な広さを有する駐車領域であっても、その駐車領域には1台の車両しか駐車することができない。
【0015】
このような問題を解決するために、本発明の一態様に係る駐車位置特定方法は、少なくとも1つのコンピュータが対象車両の駐車位置を特定する駐車位置特定方法であって、前記対象車両に搭載されたカメラによる駐車領域の撮影によって生成される画像である入力データを取得し、前記入力データを、少なくとも1台の車両が駐車可能な広さを有する駐車領域と前記駐車領域における車両1台分の駐車位置との関係を示す学習モデルに入力することによって、撮影された前記駐車領域における前記対象車両の駐車位置を特定する。例えば、前記学習モデルは、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像に対して、前記駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションが付与された訓練データを取得し、前記訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって構築されたものであってもよい。また、前記第1のアノテーションは、前記車両1台分の駐車位置を座標によって示してもよい。
【0016】
これにより、第1のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置の学習が行われることによって構築された学習モデルが用いられる。つまり、駐車領域における適切な駐車位置が学習モデルに教え込まれている。例えば、白線などの目印がない駐車領域であっても、その駐車領域における適切な駐車位置が教え込まれている。したがって、対象車両のカメラが駐車領域を撮影したときには、その学習モデルを用いることによって、撮影された駐車領域における対象車両の駐車位置を適切に特定することができる。つまり、白線などの目印がない駐車領域であっても、その駐車領域における対象車両の適切な駐車位置を特定することができる。
【0017】
また、前記訓練データの取得では、前記駐車領域を示す画像に対して、前記車両1台分の駐車位置における駐車状態を示す情報である第2のアノテーションがさらに付与された前記訓練データを取得し、前記学習モデルは、前記訓練データを用いて、駐車領域における車両の駐車状態をさらに学習することによって構築され、前記駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態をさらに特定してもよい。
【0018】
これにより、第1および第2のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置および駐車状態の学習が行われることによって構築された学習モデルが用いられる。つまり、駐車領域における適切な駐車位置および駐車状態が学習モデルに教え込まれている。例えば、白線などの目印がない駐車領域であっても、その駐車領域における適切な駐車位置および駐車状態が教え込まれている。したがって、対象車両のカメラが駐車領域を撮影したときには、その学習モデルを用いることによって、撮影された駐車領域における対象車両の駐車位置および駐車状態を適切に特定することができる。つまり、白線などの目印がない駐車領域であっても、その駐車領域における対象車両の適切な駐車位置および駐車状態を特定することができる。
【0019】
また、具体的には、前記第2のアノテーションは、前記駐車領域を示す画像における前記車両1台分の駐車位置の周囲に、車両の乗降に対して障害となる乗降障害物が存在する場合に、前記車両1台分の駐車位置と前記乗降障害物との間の距離を前記駐車状態として示し、前記対象車両の駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記入力データに映し出されている乗降障害物の周囲に前記対象車両の駐車位置を特定する場合に、前記入力データに映し出されている乗降障害物と前記対象車両の駐車位置との間の距離を、前記対象車両の駐車位置における駐車状態として特定してもよい。例えば、前記乗降障害物は、前記駐車領域を示す画像において前記車両1台分の駐車位置の隣に駐車されている車両であってもよい。
【0020】
これにより、車両1台分の駐車位置と乗降障害物との間の距離が駐車状態として学習モデルに教え込まれている。したがって、対象車両のカメラが駐車領域を撮影して、乗降障害物の周囲に対象車両の駐車位置を特定した場合には、その乗降障害物と対象車両の駐車位置との間の距離を駐車状態として適切に特定することができる。また、その距離を対象車両の運転者に提示すれば、運転者は、その特定された駐車位置に対象車両を駐車することが可能か否かを、その距離に基づいて判断することができる。つまり、その距離が短い場合、運転者は、その特定された駐車位置に対象車両を駐車すれば、乗降障害物(例えば隣の車両)が障害となって対象車両から降りることができない。したがって、この場合、運転者は、その特定された駐車位置に対象車両を駐車することができないと判断することができる。
【0021】
また、前記第2のアノテーションは、前記車両1台分の駐車位置における駐車状態として縦列駐車または並列駐車を示し、前記対象車両の駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態として縦列駐車または並列駐車を特定してもよい。また、前記第2のアノテーションは、前記車両1台分の駐車位置における駐車状態として前入れまたは後入れを示し、前記対象車両の駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態として前入れまたは後入れを特定してもよい。また、前記第2のアノテーションは、前記車両1台分の駐車位置における駐車状態として駐車禁止か否かを示し、前記対象車両の駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態として駐車禁止か否かを特定してもよい。また、前記第2のアノテーションは、前記車両1台分の駐車位置における駐車状態として、前記車両1台分の駐車位置に、駐車に対して障害となる駐車障害物があるか否かを示し、前記対象車両の駐車位置の特定では、前記入力データを前記学習モデルに入力することによって、前記対象車両の駐車位置における駐車状態として、前記対象車両の駐車位置に駐車障害物があるか否かを特定してもよい。
【0022】
また、前記学習モデルは、ニューラルネットワークモデルであってもよい。
【0023】
これにより、多くの訓練データを取得することによって、適切な駐車位置を特定する精度を高めることができる。
【0024】
また、本発明の一態様に係る駐車位置学習方法では、コンピュータが対象車両の駐車位置を学習する駐車位置学習方法であって、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像に対して、前記駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションが付与された訓練データを取得し、前記訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築してもよい。
【0025】
これにより、第1のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置の学習が行われることによって、学習モデルが構築される。その結果、駐車領域における適切な駐車位置を学習モデルに教え込むことができる。
【0026】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。
【0027】
以下、実施の形態について、図面を参照しながら具体的に説明する。
【0028】
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【0029】
また、各図は、模式図であり、必ずしも厳密に図示されたものではない。また、各図において、同じ構成部材については同じ符号を付している。
【0030】
(実施の形態)
図1は、本実施の形態における駐車位置特定システムの構成を示す図である。
【0031】
本実施の形態における駐車位置特定システム10は、少なくとも1つのコンピュータからなるシステムであって、対象車両である車両11の駐車位置を特定する。具体的には、駐車位置特定システム10は、車両11に備えられている車載機器と、その車載機器にインターネットなどの通信網13を介して接続されるサーバ12とを備える。
【0032】
車両11の車載機器は、カメラを備え、そのカメラによる撮影によって画像を生成する。そして、車載機器は、その画像に駐車領域が映し出されていれば、その駐車領域における車両1台分の駐車位置を特定する。駐車領域は、少なくとも1台の車両が駐車可能な広さを有する駐車場または空き地などである。車載機器は、その駐車位置を特定するために、サーバ12から通信網13を介して学習モデルを取得する。
【0033】
サーバ12は、表示装置14および入力デバイス15に有線または無線によって接続されている。表示装置14は、液晶ディスプレイまたは有機EL(electroluminescence)ディスプレイを有し、サーバ12からの制御に応じた画像を表示する。入力デバイス15は、例えばキーボードおよびマウスなどからなり、ユーザによる入力操作に応じた操作信号をサーバ12に出力する。
【0034】
また、サーバ12は、例えば、複数の端末装置から通信網13を介して送信される画像を取得して保存する。具体的には、端末装置は、例えば車両11以外の車両に備えられたカメラによる撮像によって得られた画像をサーバ12に通信網13を介して送信する。このようにサーバ12に送信されて保存された画像が後述の訓練用画像として用いられる。
【0035】
サーバ12は、保存されている複数の訓練用画像を用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築する。そして、サーバ12は、その構築された学習モデルを通信網13を介して車両11に送信する。
【0036】
図2は、サーバ12の機能構成を示すブロック図である。
【0037】
サーバ12は、訓練データ取得部120と、学習部127と、モデル格納部128と、制御部129とを備える。
【0038】
訓練データ取得部120は、駐車位置の学習に用いられる訓練データを取得する。具体的には、訓練データ取得部120は、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像に対して、第1のアノテーションおよび第2のアノテーションを付与することによって訓練データを取得する。
【0039】
より具体的には、訓練データ取得部120は、画像格納部121と、駐車場情報付与部122と、第1のアノテーション付与部123と、第2のアノテーション付与部124と、訓練データ格納部125とを備える。
【0040】
画像格納部121は、RAMまたはハードディスクなどのデータを記録するための記録媒体であって、この画像格納部121には、それぞれ例えばカメラによる撮像によって生成された複数の画像が複数の訓練用画像として格納される。
【0041】
駐車場情報付与部122は、画像格納部121に格納されている訓練用画像ごとに、その訓練用画像に、少なくとも1台の車両が駐車可能な広さを有する駐車領域が示されているか否かを判定する。そして、駐車場情報付与部122は、画像に駐車領域が示されていると判定すると、駐車場情報をその訓練用画像に付与する。なお、駐車場情報付与部122は、駐車領域が示されているか否かの判定を、自動的に行ってもよく、ユーザからの操作に応じて行ってもよい。つまり、駐車場情報付与部122は、訓練用画像を解析することによって、その訓練用画像に駐車領域が示されているか否かを自動的に判定してもよい。または、駐車場情報付与部122は、入力デバイス15から制御部129を介して操作信号を取得し、その操作信号に応じて、その訓練用画像に駐車領域が示されているか否かを判定してもよい。
【0042】
第1のアノテーション付与部123は、駐車場情報が付与された訓練用画像に対して、第1のアノテーションを付与する。第1のアノテーションは、その訓練用画像に示される駐車領域における車両1台分の駐車位置を示す情報である。具体的には、第1のアノテーション付与部123は、入力デバイス15から制御部129を介して操作信号を取得し、その操作信号に応じて、第1のアノテーションを訓練用画像に付与する。
【0043】
第2のアノテーション付与部124は、駐車場情報および第1のアノテーションが付与された訓練用画像に対して、車両1台分の駐車位置における駐車状態を示す情報である第2のアノテーションをさらに付与する。具体的には、第2のアノテーション付与部124は、入力デバイス15から制御部129を介して操作信号を取得し、その操作信号に応じて、第2のアノテーションを訓練用画像に付与する。
【0044】
さらに、第2のアノテーション付与部124は、駐車場情報、第1のアノテーションおよび第2のアノテーションが付与された訓練用画像を訓練データとして訓練データ格納部125に格納する。これにより、訓練データが取得される。
【0045】
訓練データ格納部125は、RAMまたはハードディスクなどのデータを記録するための記録媒体である。この訓練データ格納部125には、駐車場情報、第1のアノテーションおよび第2のアノテーションが付与された訓練用画像が訓練データとして格納される。
【0046】
学習部127は、その訓練データを用いて駐車位置を学習する。すなわち、学習部127は、訓練データ格納部125に格納されている訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築する。学習部127は、構築された学習モデルをモデル格納部128に格納する。具体的には、学習部127における学習は、Deep Learning(Neural Network)、Random Forest、またはGenetic Programmingなどの機械学習である。また、画像中の物体の認識およびセグメンテーションには、グラフカットなどを用いることができる。あるいは、Random ForestまたはGenetic Programmingによって作成された認識器などを用いてもよい。
【0047】
モデル格納部128は、RAMまたはハードディスクなどのデータを記録するための記録媒体である。このモデル格納部128には、学習部127によって構築された学習モデルが格納される。
【0048】
制御部129は、入力デバイス15からの操作信号を取得し、その操作信号に応じて訓練データ取得部120、学習部127および表示装置14を制御する。
【0049】
図3は、訓練データ取得部120の処理動作の一例を説明するための図である。具体的には、
図3は、表示装置14に表示される画像を示す。
【0050】
制御部129は、画像格納部121に格納されている訓練用画像121aと、その訓練用画像121aに対応する情報欄141とを表示装置14に表示させる。なお、訓練用画像121aは、
図3に示すように、魚眼レンズの車載カメラによる撮影によって得られた画像であるが、魚眼レンズ以外の他のレンズのカメラによる撮影によって得られた画像であってもよい。
【0051】
例えば、サーバ12のユーザは、表示装置14に表示されている訓練用画像121aに駐車領域が映し出されているか否かを判断する。そして、ユーザは、駐車領域が映し出されていると判断すると、入力デバイス15を操作することによって、情報欄141に含まれている駐車領域の「あり」に対応付けられているラジオボタンを選択する。その結果、駐車場情報付与部122は、その訓練用画像121aに対して駐車場情報を付与して、その駐車場情報が付与された訓練用画像121aを第1のアノテーション付与部123に出力する。
【0052】
次に、ユーザは、入力デバイス15を操作することによって、車両1台分の駐車位置を示す枠123aを訓練用画像121a上の駐車領域内に描く。枠123aは、例えば赤い四角形である。また、この枠123aは、具体的には、入力デバイス15からの操作信号に応じた制御部129による描画処理によって描かれる。
【0053】
このような枠123aが描かれると、第1のアノテーション付与部123は、その訓練用画像121aにおける枠123aの座標を訓練用画像121aに付与する。つまり、第1のアノテーション付与部123は、訓練用画像121aに示されている駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションを、その訓練用画像121aに付与する。枠123aの座標、すなわち第1のアノテーションは、例えば枠123aの4つの頂点の座標からなる。制御部129は、その4つの頂点(頂点1〜頂点4)のそれぞれの座標を、駐車位置の座標として表示装置14の情報欄141内に表示させる。
【0054】
次に、ユーザは、その枠123aの駐車位置における駐車状態を示す情報である第2のアノテーションを、入力デバイス15を操作することによってサーバ12に入力する。制御部129は、その第2のアノテーションを付属情報1〜6として表示装置14の情報欄141内に表示させる。また、第2のアノテーション付与部124は、その第2のアノテーションを訓練用画像121aに付与する。
【0055】
具体的には、第2のアノテーションである付属情報1は、その駐車位置における駐車状態として縦列駐車または並列駐車を示す。例えば、その駐車位置での駐車状態が並列駐車であれば、ユーザは、入力デバイス15を操作することによって、情報欄141に含まれている付属情報1の「並列駐車」に対応付けられているラジオボタンを選択する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報1「並列駐車」を付与する。
【0056】
付属情報2は、その駐車位置における駐車状態として前入れまたは後入れ(すなわち「車庫入れ前向き」または「車庫入れ後向き」)を示す。例えば、その駐車位置での駐車状態が前入れであれば、ユーザは、入力デバイス15を操作することによって、情報欄141に含まれている付属情報2の「車庫入れ前向き」に対応付けられているラジオボタンを選択する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報2「車庫入れ前向き」を付与する。
【0057】
付属情報3は、その駐車位置における駐車状態として、その駐車位置に駐車障害物があるか否か(すなわち「障害物あり」または「障害物なし」)を示す。駐車障害物は、例えばロードコーンまたはパイロンなどの駐車に対して障害となる物である。具体的には、その駐車位置に駐車障害物がなければ、ユーザは、入力デバイス15を操作することによって、情報欄141に含まれている付属情報3の「障害物なし」に対応付けられているラジオボタンを選択する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報3「障害物なし」を付与する。
【0058】
付属情報4は、その駐車位置における駐車状態として駐車禁止か否か(すなわち「駐車スペース」または「駐車禁止スペース」)を示す。具体的には、その駐車位置に例えば「駐車禁止」の文字が描かれていなければ、ユーザは、入力デバイス15を操作することによって、情報欄141に含まれている付属情報4の「駐車スペース」に対応付けられているラジオボタンを選択する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報4「駐車スペース」を付与する。
【0059】
付属情報5は、その駐車位置における駐車状態として、その駐車位置と乗降障害物との間の距離を示す。乗降障害物は、例えば、その駐車位置の隣に駐車されている車両などであって、車両の乗降に対して障害となる物である。つまり、この付属情報5は、訓練用画像121aにおける駐車位置周辺にその乗降障害物がある場合に、その駐車位置と乗降障害物との間の距離を示す。具体的には、駐車位置の隣に乗降障害物となる車両が駐車されていれば、ユーザは、入力デバイス15を操作することによって、その距離L(cm)を入力する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報5「距離L(cm)」を付与する。
【0060】
付属情報6は、その駐車位置における駐車状態としてガイドラインがあるか否か(すなわち「ガイドラインあり」または「ガイドラインなし」)を示す。具体的には、その駐車位置に例えば白線などのガイドラインが描かれていなければ、ユーザは、入力デバイス15を操作することによって、情報欄141に含まれている付属情報6の「ガイドラインなし」に対応付けられているラジオボタンを選択する。その結果、第2のアノテーション付与部124は、その訓練用画像121aに対して付属情報6「ガイドラインなし」を付与する。
【0061】
図4は、訓練データ取得部120の処理動作の他の例を説明するための図である。具体的には、
図4は、表示装置14に表示される画像を示す。
【0062】
制御部129は、画像格納部121に格納されている他の訓練用画像121bと、その訓練用画像121bに対応する情報欄141とを表示装置14に表示させる。なお、訓練用画像121bは、
図4に示すように、魚眼レンズの車載カメラによる撮影によって得られた画像であるが、
図3の訓練用画像121aと同様、魚眼レンズ以外の他のレンズのカメラによる撮影によって得られた画像であってもよい。
【0063】
ユーザは、
図4に示すように、訓練用画像121bに示される駐車領域が広ければ、入力デバイス15を操作することによって、それぞれ車両1台分の駐車位置を示す複数の枠を訓練用画像121b上の駐車領域内に描いてもよい。つまり、第1のアノテーション付与部123は、訓練用画像121bに対して複数の第1のアノテーションを付与してもよい。
【0064】
この場合、第2のアノテーション付与部124は、第1のアノテーションによって示される駐車位置ごとに、その駐車位置における駐車状態を示す第2のアノテーションを付与する。
【0065】
また、ユーザは、例えば、その訓練用画像121bに描かれた枠123bの駐車位置における駐車状態を示す情報である第2のアノテーションを、入力デバイス15を操作することによってサーバ12に入力する。ここで、その駐車位置には「駐車禁止」が示されている。したがって、第2のアノテーション付与部124は、第2のアノテーションとして付属情報4「駐車禁止スペース」を、その枠123b(すなわち第1のアノテーション)に対応付けて訓練用画像121bに付与する。
【0066】
図5は、車両11の機能構成を示すブロック図である。
【0067】
車両11は、上述の車載機器110と、車両駆動機構115とを備える。
【0068】
車載機器110は、カメラ111と、認識器112と、提示装置113と、車両制御装置114とを備える。
【0069】
カメラ111は、例えば車両11の前側、左側、右側または後側を撮影するようにその車両11に搭載されている。そして、カメラ111は、駐車領域を撮影したときには、その撮影によって生成される画像である入力データを認識器112に出力する。
【0070】
認識器112は、サーバ12から通信網13を介して学習モデルを取得して保持している。認識器112は、車両11に搭載されたカメラ111による駐車領域の撮影によって生成される画像である入力データを取得する。このとき、認識器112は、その入力データを学習モデルに入力することによって、撮影された駐車領域における車両11の駐車位置および駐車状態を特定する。具体的には、認識器112は、乗降障害物とその駐車位置との間の距離、縦列駐車または並列駐車、前入または後入れ、駐車禁止か否か、および、駐車障害物があるか否かを、それぞれ駐車状態として特定する。
【0071】
さらに、認識器112は、その特定された駐車位置および駐車状態を示す出力データを提示装置113と車両制御装置114とに出力する。出力データは、例えば、その特定された駐車位置を示す枠が重畳された入力データである提示画像と、その特定された駐車状態を示す駐車状態情報とからなる。
【0072】
提示装置113は、例えば液晶ディスプレイまたは有機ELディスプレイとして構成され、認識器112から出力データを取得すると、その出力データを表示する。つまり、提示装置113は、提示画像と駐車状態情報とを表示する。これにより、カメラ111によって撮影された駐車領域において特定された車両11の駐車位置が、提示画像によって車両11の運転者に対して提示される。さらに、その駐車位置において特定された駐車状態が、駐車状態情報によって車両11の運転者に対して提示される。
【0073】
車両制御装置114は、認識器112から出力データを取得すると、その出力データの提示画像に示される駐車領域における枠の位置、つまり特定された駐車位置に車両11が駐車されるように、車両駆動機構115を制御する。車両駆動機構115は、エンジン、車軸およびステアリングなどにより構成され、車両11を任意の方向に走行させるための機構である。このような車両制御装置114による制御によって、車両11は、自動的に走行してその特定された駐車位置に、特定された駐車状態で駐車する。
【0074】
図6は、提示装置113によって表示される出力データの一例を示す図である。
【0075】
認識器112は、入力データを学習モデルに入力することによって、例えば複数の駐車位置と、その複数の駐車位置のそれぞれに対応する駐車状態を特定する。このとき、認識器112は、特定された複数の駐車位置を示す枠112a〜112dが重畳された入力データである提示画像112xと、その複数の駐車位置のそれぞれに対応する駐車状態を示す駐車状態情報とからなる出力データを出力する。
【0076】
提示装置113は、その出力データを取得すると、その出力データに含まれる提示画像112xを表示する。ここで、提示装置113は、車両11の運転者による操作に応じて、複数の枠112a〜112dのうちの何れかの枠(例えば、枠112a)が選択されると、その選択された枠112aと、選択されなかった枠112b〜112dとの表示形態を変更する。例えば、提示装置113は、選択された枠112aを赤色の実線で示し、選択されなかった枠112b〜112dを赤色の点線で示す。そして、提示装置113は、その枠112aに対応する駐車位置における駐車状態情報112aaを表示する。
【0077】
駐車状態情報112aaは、例えば、並列駐車、前入れ(すなわち、車庫入れ前向き)、障害物なし、駐車スペース、隣車両との間の距離L(cm)、および、ガイドラインなしを、それぞれ枠112aの駐車位置における駐車状態として示す。
【0078】
このように、駐車位置が特定されて、その駐車位置が枠112aとして表示されるため、車両11の運転者は、白線などの目印がなくても、その駐車位置に車両11を駐車すればよいと判断することができる。また、その駐車位置における駐車状態として、「並列駐車」、「車庫入れ前向き」、「障害物なし」、「駐車スペース」、「隣車両との距離(L cm)」および「ガイドラインなし」が表示される。したがって、車両11の運転者は、その表示されている駐車状態にしたがって車両11を駐車位置に駐車すればよいと判断することができる。また、「隣車両との距離(L cm)」が表示されるため、その距離が短い場合には、その駐車位置に駐車された車両11から運転者が降りることができないことがある。したがって、その場合には、運転者は、別の駐車位置を選択することができる。
【0079】
図7は、本実施の形態における駐車位置特定システム10による効果の一例を説明するための図である。
【0080】
例えば、
図7の(a)の点線で示すように、駐車領域の広さが、2台の車両が駐車可能な広さであっても、2台の車両を駐車するための目印となる白線がその駐車領域につけられていない場合がある。このような場合、
図7の(b)に示すように、車両は、駐車領域の中央に駐車してしまうことがあり、駐車領域の広さを有効に利用することができない。
【0081】
しかし、本実施の形態における駐車位置特定システム10では、第1のアノテーション付与部123が、駐車領域を示す画像に対して2つの第1のアノテーションを付与する。これらの第1のアノテーションのそれぞれは、その駐車領域における車両1台分の駐車位置を示す情報である。さらに、第2のアノテーション付与部124が、駐車領域を示す画像のそれぞれの駐車位置に対して第2のアノテーションをさらに付与する。第2のアノテーションは、車両1台分の駐車位置における駐車状態を示す情報である。その結果、訓練データが得られる。そして、学習部127は、その訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築する。車両11の認識器112は、車両11に搭載されたカメラ111による駐車領域の撮影によって生成される画像である入力データを取得する。そして、認識器112は、その入力データを学習モデルに入力することによって、撮影された駐車領域における車両11の駐車位置を特定する。
【0082】
その結果、車両11の認識器112は、
図7の(c)に示すように、2台の車両が駐車可能な広さを有する駐車領域から、1つの駐車位置ではなく、2つの駐車位置を特定する。これにより、車両11は、そのいずれか一方の駐車位置に駐車することができる。つまり、その駐車領域に2台の車両を駐車することができ、駐車領域の広さを有効に利用することができる。このように、駐車領域において適切な駐車位置を特定して駐車することができる。
【0083】
図8Aは、本実施の形態におけるサーバ12の処理動作を示すフローチャートである。
【0084】
サーバ12の駐車場情報付与部122は、まず、画像格納部121から訓練用画像を取得する(ステップS121)。そして、駐車場情報付与部122は、操作信号または画像処理によって、その訓練用画像に駐車領域が示されているか否かを判定する(ステップS122)。ここで、駐車領域が示されていると判定すると(ステップS122のY)、駐車場情報付与部122は、その訓練用画像に対して駐車場情報を付与する(ステップS123)。
【0085】
次に、第1のアノテーション付与部123は、駐車場情報が付与された訓練用画像に対してさらに、車両1台分の駐車位置を示す情報である第1のアノテーションを付与する(ステップS124)。なお、第1のアノテーション付与部123は、複数の第1のアノテーションを付与してもよい。さらに、第2のアノテーション付与部124は、駐車場情報および第1のアノテーションが付与された訓練用画像に対してさらに、その駐車位置における駐車状態を示す第2のアノテーションを付与する(ステップS125)。なお、訓練用画像に対して複数の第1のアノテーションが付与されている場合には、第2のアノテーション付与部124は、第1のアノテーションによって示される駐車位置ごとに、その駐車位置における駐車状態を示す第2のアノテーションを付与する。そして、第2のアノテーション付与部124は、駐車場情報、第1のアノテーションおよび第2のアノテーションが付与された訓練用画像を訓練データとして訓練データ格納部125に格納する(ステップS127)。
【0086】
次に、制御部129は、駐車領域があるか否かの判定が行われていない訓練用画像、すなわち未処理の訓練用画像が画像格納部121にあるか否かを判定する(ステップS128)。ここで、未処理の訓練用画像が有ると判定されると(ステップS128のY)、サーバ12は、ステップS121からの処理を繰り返し実行する。一方、未処理の訓練用画像がないと判定されると(ステップS128のN)、学習部127は、訓練データ格納部125に格納されている全ての訓練データを用いて駐車領域における駐車位置を学習する。これにより、学習部127は、駐車位置の学習モデルを構築し、その学習モデルをモデル格納部128に格納する(ステップS129)。
【0087】
図8Bは、本実施の形態における車載機器110の処理動作を示すフローチャートである。
【0088】
まず、車載機器110のカメラ111は、撮影することによって入力データを取得する(ステップS111)。次に、認識器112は、その入力データを学習モデルに入力する(ステップS112)。認識器112は、学習モデルからの出力を得ることにより、入力データに示される駐車領域における車両1台分の駐車位置と駐車状態とを特定する(ステップS113)。
【0089】
提示装置113は、その特定された駐車位置と駐車状態とを提示する(ステップS114)。さらに、車両制御装置114は、車両駆動機構115を制御することにより、つまり自動運転によって、その特定された駐車位置に、その特定された駐車状態で車両11を駐車させる(ステップS115)。
【0090】
[まとめ]
以上、本発明の態様に係る駐車位置特定方法などについて、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を実施の形態に施したものも、本発明の範囲内に含まれてもよい。
【0091】
例えば、上記実施の形態では、駐車場情報および第2のアノテーションを付与したが、これらの情報を付与することなく、第1のアノテーションのみを付与してもよい。
【0092】
図9Aは、本発明の一態様に係る駐車位置学習方法を示すフローチャートである。
【0093】
本発明の一態様に係る駐車位置学習方法は、コンピュータが対象車両の駐車位置を学習する方法であって、ステップS11およびS12を含む。ステップS11では、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像(すなわち実施の形態の訓練用画像)に対して、その駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションが付与された訓練データを取得する。例えば、第1のアノテーションは、その車両1台分の駐車位置を座標によって示す。ステップS12では、訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築する。
【0094】
図9Bは、本発明の一態様に係る駐車位置学習装置の機能構成を示すブロック図である。
【0095】
本発明の一態様に係る駐車位置学習装置20は、対象車両の駐車位置を学習する装置であって、訓練データ取得部21と学習部22とを備える。訓練データ取得部21は、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像(すなわち実施の形態の訓練用画像)に対して、その駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションが付与された訓練データを取得する。学習部22は、訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって、学習モデルを構築する。
【0096】
このような駐車位置学習方法および駐車位置学習装置20では、第1のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置の学習が行われることによって、学習モデルが構築される。その結果、駐車領域における適切な駐車位置を学習モデルに教え込むことができる。なお、
図9Aおよび
図9Bに示す駐車位置学習方法および駐車位置学習装置20はそれぞれ、上記実施の形態の
図8Aのフローチャートによって示される処理動作および
図2に示すサーバ12に相当する。
【0097】
図10Aは、本発明の一態様に係る駐車位置特定方法を示すフローチャートである。
【0098】
本発明の一態様に係る駐車位置特定方法は、少なくとも1つのコンピュータが対象車両の駐車位置を特定する方法であって、ステップS13およびS14を含む。ステップS13では、対象車両に搭載されたカメラによる駐車領域の撮影によって生成される画像である入力データを取得する。ステップS14では、その入力データを学習モデルに入力することによって、撮影された駐車領域における対象車両の駐車位置を特定する。学習データは、少なくとも1台の車両が駐車可能な広さを有する駐車領域と前記駐車領域における車両1台分の駐車位置との関係を示す。より具体的には、学習モデルは、少なくとも1台の車両が駐車可能な広さを有する駐車領域を示す画像に対して、その駐車領域における車両1台分の駐車位置を示す情報である第1のアノテーションが付与された訓練データを取得し、その訓練データを用いて駐車領域における車両1台分の駐車位置を学習することによって構築されたものである。
【0099】
このような駐車位置特定方法では、第1のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置の学習が行われることによって構築された学習モデルが用いられる。つまり、駐車領域における適切な駐車位置が学習モデルに教え込まれている。例えば、白線などの目印がない駐車領域であっても、その駐車領域における適切な駐車位置が教え込まれている。したがって、対象車両のカメラが駐車領域を撮影したときには、その学習モデルを用いることによって、撮影された駐車領域における対象車両の駐車位置を適切に特定することができる。つまり、白線などの目印がない駐車領域であっても、その駐車領域における対象車両の適切な駐車位置を特定することができる。
【0100】
また、訓練データの取得では、駐車領域を示す画像に対して、車両1台分の駐車位置における駐車状態を示す情報である第2のアノテーションがさらに付与された上述の訓練データを取得してもよい。この場合、学習モデルは、その訓練データを用いて、駐車領域における車両の駐車状態をさらに学習することによって構築される。また、ステップS14では、入力データをその学習モデルに入力することによって、対象車両の駐車位置における駐車状態をさらに特定する。
【0101】
これにより、第1および第2のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置および駐車状態の学習が行われることによって構築された学習モデルが用いられる。つまり、駐車領域における適切な駐車位置および駐車状態が学習モデルに教え込まれている。例えば、白線などの目印がない駐車領域であっても、その駐車領域における適切な駐車位置および駐車状態が教え込まれている。したがって、対象車両のカメラが駐車領域を撮影したときには、その学習モデルを用いることによって、撮影された駐車領域における対象車両の駐車位置および駐車状態を適切に特定することができる。つまり、白線などの目印がない駐車領域であっても、その駐車領域における対象車両の適切な駐車位置および駐車状態を特定することができる。
【0102】
また、第2のアノテーションは、駐車領域を示す画像における車両1台分の駐車位置の周囲に、車両の乗降に対して障害となる乗降障害物が存在する場合に、その車両1台分の駐車位置と乗降障害物との間の距離を駐車状態として示してもよい。この場合、ステップS14では、入力データを学習モデルに入力することによって、入力データに映し出されている乗降障害物の周囲に対象車両の駐車位置を特定する場合に、その入力データに映し出されている乗降障害物と対象車両の駐車位置との間の距離を、対象車両の駐車位置における駐車状態として特定する。例えば、乗降障害物は、駐車領域を示す画像において車両1台分の駐車位置の隣に駐車されている車両である。
【0103】
これにより、車両1台分の駐車位置と乗降障害物との間の距離が駐車状態として学習モデルに教え込まれている。したがって、対象車両のカメラが駐車領域を撮影して、乗降障害物の周囲に対象車両の駐車位置を特定した場合には、その乗降障害物と対象車両の駐車位置との間の距離を駐車状態として適切に特定することができる。
【0104】
また、上述の学習モデルは、例えばニューラルネットワークモデルである。これにより、多くの訓練データを取得することによって、適切な駐車位置を特定する精度を高めることができる。
【0105】
図10Bは、本発明の一態様に係る駐車位置特定装置の機能構成を示すブロック図である。
【0106】
本発明の一態様に係る駐車位置特定装置30aは、対象車両の駐車位置を特定する少なくとも1つのコンピュータであって、入力データ取得部23および特定部24を備える。
【0107】
入力データ取得部23は、対象車両に搭載されたカメラによる駐車領域の撮影によって生成される画像である入力データを取得する。特定部24は、その入力データを、少なくとも1台の車両が駐車可能な広さを有する駐車領域とその駐車領域における車両1台分の駐車位置との関係を示す学習モデルに入力することによって、撮影された駐車領域における対象車両の駐車位置を特定する。
【0108】
これにより、駐車位置特定装置30aでは、
図10Aに示す駐車位置特定方法と同様の効果を得ることができる。
【0109】
なお、
図10Aおよび
図10Bに示す駐車位置特定方法および駐車位置特定装置30aはそれぞれ、上記実施の形態の
図8Bのフローチャートによって示される処理動作および
図5に示す認識器112に相当する。
【0110】
図11Aは、本発明の他の態様に係る駐車位置特定方法を示すフローチャートである。
【0111】
本発明の一態様に係る駐車位置特定方法は、少なくとも1つのコンピュータからなるシステムが対象車両の駐車位置を特定する方法であって、ステップS11〜S14を含む。
図11AのステップS11およびS12は、
図9Aに示すステップS11およびS12と同一の処理であり、
図11AのステップS13およびS14は、
図10Aに示すステップS13およびS14と同一の処理である。
【0112】
このような駐車位置特定方法では、第1のアノテーションを含む訓練データを用いた学習、つまり駐車領域における車両1台分の駐車位置の学習が行われることによって、学習モデルが構築される。その結果、駐車領域における適切な駐車位置を学習モデルに教え込むことができる。例えば、白線などの目印がない駐車領域であっても、その駐車領域における適切な駐車位置を教え込むことができる。したがって、対象車両のカメラが駐車領域を撮影したときには、その学習モデルを用いることによって、撮影された駐車領域における対象車両の駐車位置を適切に特定することができる。つまり、白線などの目印がない駐車領域であっても、その駐車領域における対象車両の適切な駐車位置を特定することができる。
【0113】
図11Bは、本発明の一態様に係る駐車位置特定システムの機能構成を示すブロック図である。
【0114】
本発明の一態様に係る駐車位置特定システム30は、対象車両の駐車位置を特定する少なくとも1つのコンピュータからなるシステムであって、訓練データ取得部21、学習部22、入力データ取得部23および特定部24を備える。
【0115】
駐車位置特定システム30の訓練データ取得部21および学習部22は、
図9Bに示す駐車位置学習装置20の訓練データ取得部21および学習部22と同一の構成要素である。駐車位置特定システム30の入力データ取得部23および特定部24は、
図10Bに示す駐車位置特定装置30aの入力データ取得部23および特定部24と同一の構成要素である。
【0116】
これにより、駐車位置特定システム30では、
図11Aに示す駐車位置特定方法と同様の効果を得ることができる。
【0117】
なお、
図11Aおよび
図11Bに示す駐車位置特定方法および駐車位置特定システム30はそれぞれ、上記実施の形態の
図8Aおよび
図8Bのフローチャートによって示される駐車位置特定方法と、
図1に示す駐車位置特定システム10に相当する。
【0118】
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記実施の形態の車載機器110、サーバ12、駐車位置学習装置20、駐車位置特定装置30a、駐車位置特定システム10および30のそれぞれを実現するソフトウェアは、
図8A、
図8B、
図9A、
図10Aまたは
図11Aに示すフローチャートの各ステップをコンピュータに実行させる。
【0119】
なお、以下のような場合も本発明に含まれる。
【0120】
(1)上記の各装置は、具体的には、マイクロプロセッサ、ROM、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。前記RAMまたはハードディスクユニットには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
【0121】
(2)上記の各装置を構成する構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。前記RAMには、コンピュータプログラムが記憶されている。前記マイクロプロセッサが、前記コンピュータプログラムにしたがって動作することにより、システムLSIは、その機能を達成する。
【0122】
(3)上記の各装置を構成する構成要素の一部または全部は、各装置に脱着可能なICカードまたは単体のモジュールから構成されているとしてもよい。前記ICカードまたは前記モジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。前記ICカードまたは前記モジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムにしたがって動作することにより、前記ICカードまたは前記モジュールは、その機能を達成する。このICカードまたはこのモジュールは、耐タンパ性を有するとしてもよい。
【0123】
(4)本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
【0124】
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray(登録商標) Disc)、半導体メモリなどに記録したものとしてもよい。また、これらの記録媒体に記録されている前記デジタル信号であるとしてもよい。
【0125】
また、本発明は、前記コンピュータプログラムまたは前記デジタル信号を、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
【0126】
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、前記メモリは、上記コンピュータプログラムを記憶しており、前記マイクロプロセッサは、前記コンピュータプログラムにしたがって動作するとしてもよい。
【0127】
また、前記プログラムまたは前記デジタル信号を前記記録媒体に記録して移送することにより、または前記プログラムまたは前記デジタル信号を前記ネットワーク等を経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。