(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-10
(45)【発行日】2023-07-19
(54)【発明の名称】位置補正サーバ、位置管理装置、移動体の位置管理システム及び方法、位置情報の補正方法、コンピュータプログラム、車載装置並びに車両
(51)【国際特許分類】
G01C 21/28 20060101AFI20230711BHJP
G08G 1/09 20060101ALI20230711BHJP
G01S 19/45 20100101ALI20230711BHJP
【FI】
G01C21/28
G08G1/09 F
G01S19/45
(21)【出願番号】P 2019101576
(22)【出願日】2019-05-30
【審査請求日】2022-04-21
(73)【特許権者】
【識別番号】000002130
【氏名又は名称】住友電気工業株式会社
(74)【代理人】
【識別番号】100099933
【氏名又は名称】清水 敏
(74)【代理人】
【識別番号】100124028
【氏名又は名称】松本 公雄
(74)【代理人】
【識別番号】100078813
【氏名又は名称】上代 哲司
(74)【代理人】
【識別番号】100094477
【氏名又は名称】神野 直美
(72)【発明者】
【氏名】小川 明紘
【審査官】秋山 誠
(56)【参考文献】
【文献】特開2018-180860(JP,A)
【文献】特開2009-229113(JP,A)
【文献】特開2017-161350(JP,A)
【文献】国際公開第2019/038987(WO,A1)
【文献】特開2018-072011(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 21/28
G08G 1/09
G01S 19/45
(57)【特許請求の範囲】
【請求項1】
移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、
撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、
前記撮像画像の中に存在する任意の移動体の画像と前記移動体情報とに基づいて、前記任意の移動体の画像を含む撮像画像と前記移動体情報受信機に前記移動体情報を送信する移動体とをマッチングするマッチング部と、
前記マッチング部によりマッチングされた移動体から受信した前記移動体情報の前記位置情報と、前記マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、前記移動体が維持する前記位置情報を補正する処理を行う補正処理部とを含む、位置補正サーバ
であって、
さらに、前記移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置を含み、
前記マッチング部は、前記移動体情報が前記移動体追跡装置により追跡されている第1の移動体からの移動体情報であることに応答して、当該第1の移動体の画像を含む撮像画像を前記画像受信機が受信した撮像画像の中から抽出するための画像抽出部を含み、
前記補正処理部は、前記画像抽出部が抽出した前記撮像画像の撮像時刻に前記第1の移動体から送信され、前記移動体情報受信機が受信した位置情報と、前記撮像画像から算出される前記第1の移動体の位置とから、前記第1の移動体の維持している前記位置情報を補正する処理を行う位置補正処理部とを含む、位置補正サーバ。
【請求項2】
前記位置補正処理部は、
実世界の特徴物の位置を記憶する位置記憶装置と、
前記撮像画像の中に存在する特徴物を認識する特徴物認識部と、
前記特徴物認識部により認識された前記特徴物の実世界における位置を、前記位置記憶装置から読出すための読出装置と、
前記第1の移動体の維持している前記位置情報を、前記位置記憶装置から読出された前記位置に基づいて補正するための補正量を算出する算出装置を含む、請求項
1に記載の位置補正サーバ。
【請求項3】
前記算出装置は、
前記撮像画像の中に存在する前記特徴物の画像と、前記移動体の画像との関係と、前記特徴物の地理的位置、及び前記撮像装置の特性とに基づいて、前記移動体と前記特徴物との相対位置を算出する相対位置算出装置と、
前記相対位置に対して前記特徴物の前記地理的位置を加算することにより前記移動体の地理的位置を算出するための地理的位置算出装置と、
前記第1の移動体の維持している前記位置情報と、前記地理的位置算出装置により算出された前記地理的位置との誤差を前記補正量として算出するための補正量算出装置とを含む、請求項
2に記載の位置補正サーバ。
【請求項4】
前記マッチング部は、
前記第1の移動体から所定距離の範囲内に、前記第1の移動体と同種の第2の移動体が存在していることに応答して、前記第1の移動体と、前記第2の移動体とから、各々の前方画像を取得する前方画像取得装置と、
前記前方画像取得装置により取得された前記前方画像の各々について、
前記第1の移動体と同種の移動体の画像が存在しているか否かを検査する画像検査部と、
前記前方画像の中で、前記第1の移動体と同種の移動体の画像が存在していない前方画像が1つだけ存在していれば、当該前方画像を送信した移動体と前記撮像画像とをマッチングさせる装置とを含む、請求項
1に記載の位置補正サーバ。
【請求項5】
移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、
撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、
前記撮像画像の中に存在する任意の移動体の画像と前記移動体情報とに基づいて、前記任意の移動体の画像を含む撮像画像と前記移動体情報受信機に前記移動体情報を送信する移動体とをマッチングするマッチング部と、
前記マッチング部によりマッチングされた移動体から受信した前記移動体情報の前記位置情報と、前記マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、前記移動体が維持する前記位置情報を補正する処理を行う補正処理部とを含む、位置補正サーバであって、
前記移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置をさらに含み、
前記移動体情報は、移動体の外観に関する外観情報を含み、
前記マッチング部は、
前記移動体追跡装置による追跡の対象となっている移動体の各々について、
当該移動体の近傍に存在する、撮像領域が特定可能な撮像装置を特定し、前記画像受信機が受信した撮像画像から、当該特定された撮像装置による撮像画像を抽出する画像抽出部と、
前記外観情報を用いて前記画像抽出部が抽出した前記撮像画像の中の前記移動体の画像を特定し、当該画像と、前記外観情報とに基づいて当該撮像画像の中の前記移動体を同定するための移動体同定装置とを含む
、位置補正サーバ。
【請求項6】
前記補正処理部は、
前記画像抽出部が抽出した前記撮像画像の前記撮像領域内の特徴物の位置と、前記撮像画像中の前記移動体の画像の位置とに基づいて、当該撮像画像の中の前記移動体の地理的位置を特定する移動体位置特定部と、
前記移動体位置特定部が特定した前記移動体の地理的位置と、前記撮像画像が撮像された時刻に前記移動体から送信され、前記移動体情報受信機が受信した前記位置情報とに基づいて前記移動体が維持する前記位置情報を補正する処理を行う装置とを含む、請求項
5に記載の位置補正サーバ。
【請求項7】
前記補正する処理を行う装置は、
前記移動体位置特定部が特定した前記移動体の地理的位置と、前記撮像画像が撮像された時刻に前記移動体から送信され、前記移動体情報受信機が受信した前記位置情報により決まる地理的位置との間の誤差を算出するための誤差算出装置と、
前記誤差算出装置により算出された誤差を前記移動体の維持する位置情報に加算する指示を前記移動体に送信する送信装置とを含む、請求項
6に記載の位置補正サーバ。
【請求項8】
移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、
撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、
前記撮像画像の中に存在する任意の移動体の画像と前記移動体情報とに基づいて、前記任意の移動体の画像を含む撮像画像と前記移動体情報受信機に前記移動体情報を送信する移動体とをマッチングするマッチング部と、
前記マッチング部によりマッチングされた移動体から受信した前記移動体情報の前記位置情報と、前記マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、前記移動体が維持する前記位置情報を補正する処理を行う補正処理部とを含む、位置補正サーバであって、
前記移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置をさらに含み、
前記移動体情報は、移動体の外観に関する外観情報を含み、
前記マッチング部は、
前記画像受信機が前記撮像画像を受信したことに応答して、当該撮像画像の中に存在している、前記移動体追跡装置により追跡されている移動体の画像を認識する移動体画像認識部と、
前記移動体画像認識部により認識された画像と、前記外観情報とを用いて、当該撮像画像の中の前記移動体を前記移動体追跡装置により追跡されている移動体の中で同定する同定装置とを含み、
前記補正処理部は、
前記移動体画像認識部により認識された移動体に対して、前記撮像画像の中の特徴物の画像の位置と、当該移動体の画像の位置と、前記特徴物の地理的位置とに基づいて、前記撮像画像が撮像された時刻における前記移動体の位置を算出するための移動体位置算出装置と、
前記移動体位置算出装置により算出された位置と、前記移動体の画像が認識された前記撮像画像の撮像時に当該移動体から前記移動体情報受信機が受信した位置情報とに基づいて前記移動体が維持する前記位置情報を補正する処理を実行するための補正実行部とを含む
、位置補正サーバ。
【請求項9】
前記移動体情報は、移動体が維持する位置情報の精度に関連する精度関連情報をさらに含み、
前記移動体追跡装置は、前記精度関連情報に基づいて、所定の精度より低い精度で動作している可能性が高い位置情報取得装置を備えた移動体を、位置情報を補正する対象として追跡する追跡装置を含む、請求項
1から請求項
8のいずれか1項に記載の位置補正サーバ。
【請求項10】
前記精度関連情報は、前記移動体が利用する衛星測位システムにおいて通信可能な測位衛星の数を含み、
前記追跡装置は、前記移動体が通信可能な測位衛星の前記数がしきい値以下である移動体を追跡する装置を含む、請求項
9に記載の位置補正サーバ。
【請求項11】
前記衛星測位システムはGPSを含む、請求項1
0に記載の位置補正サーバ。
【請求項12】
さらに、移動体が維持する位置情報の精度に関連する精度関連情報が、前記位置情報の精度が前記所定の精度より高くなったことを示す値に変化したことに応答して、当該移動体を前記補正による位置情報の補正の対象から除外する処理を実行するための除外装置を含む、請求項
9から請求項
11のいずれか1項に記載の位置補正サーバ。
【請求項13】
前記移動体情報はさらに、移動体の外観に関する外観情報を含み、
前記マッチング部は、前記移動体情報に含まれる前記外観情報に基づいて前記撮像画像の中に含まれる前記移動体の画像を認識する画像認識部と、
前記画像認識部により前記移動体の画像が認識された前記撮像画像と、前記移動体情報受信機に前記移動体情報を送信する移動体とを対応付けるための装置とを含む、
請求項1から請求項
4のいずれか1項に記載の位置補正サーバ。
【請求項14】
自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、
所定のタイミングで前記移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、
前記情報維持装置により維持されている前記位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、前記補正情報を使用して前記位置情報を補正する補正処理部とを含む、移動体のための位置管理装置
であって、
前記情報維持装置は、衛星測位システムにより前記位置情報を維持する機能を持ち、
前記移動体情報送信装置は、前記位置補正サーバに前記移動体情報を送信する際に、前記移動体情報に前記衛星測位システムが通信可能な測位衛星の数を含めて送信する、位置管理装置。
【請求項15】
前記補正情報は、前記情報維持装置が維持している前記位置情報と、正しい位置情報との誤差を含み、
前記補正処理部は、前記情報維持装置が維持している前記位置情報に、前記誤差を加算する加算器を含む、請求項1
4に記載の位置管理装置。
【請求項16】
さらに、前記衛星測位システムが通信可能な測位衛星の数が所定の数以上となったことに応答して、前記補正処理部の動作を停止する停止装置を含む、請求項1
4または請求項1
5に記載の位置管理装置。
【請求項17】
請求項1から請求項1
3のいずれか
1項に記載の位置補正サーバと、請求項1
4または請求項1
5に記載の位置管理装置とを含む、移動体の位置管理システム。
【請求項18】
コンピュータが、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信するステップと、
コンピュータが、撮像範囲が特定可能な撮像装置からの撮像画像を受信するステップと、
コンピュータが、前記撮像画像の中に存在する任意の移動体の画像と前記移動体情報とに基づいて、前記任意の移動体の画像を含む撮像画像と前記移動体情報を受信するステップにおいて前記移動体情報を送信する移動体とをマッチングするステップと、
コンピュータが、前記マッチングするステップにおいてマッチングされた移動体から受信した前記移動体情報の前記位置情報と、前記マッチングするステップにおいてマッチングされた撮像画像とその撮像時刻とを用いて、前記移動体が維持する前記位置情報を補正する処理を行うステップとを含む、位置情報の補正方法
であって、
さらに、コンピュータが、前記移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡ステップを含み、
前記マッチングするステップは、コンピュータが、前記移動体情報が前記移動体追跡ステップにより追跡されている第1の移動体からの移動体情報であることに応答して、当該第1の移動体の画像を含む撮像画像を前記画像受信ステップにおいて受信した撮像画像の中から抽出する画像抽出ステップを含み、
前記補正する処理を行うステップは、コンピュータが、前記画像抽出ステップにおいて抽出された前記撮像画像の撮像時刻に前記第1の移動体から送信され、前記移動体情報受信機が受信した位置情報と、前記撮像画像から算出される前記第1の移動体の位置とから、前記第1の移動体の維持している前記位置情報を補正する処理を行うステップとを含む、位置情報の補正方法。
【請求項19】
コンピュータを、
移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、
撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、
前記撮像画像の中に存在する任意の移動体の画像と前記移動体情報とに基づいて、前記任意の移動体の画像を含む撮像画像と前記移動体情報受信機に前記移動体情報を送信する移動体とをマッチングするマッチング部と、
前記マッチング部によりマッチングされた移動体から受信した前記移動体情報の前記位置情報と、前記マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、前記移動体が維持する前記位置情報を補正する処理を行う補正処理部として機能させる、コンピュータプログラム
であって、
さらに、コンピュータを、前記移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置として機能させ、
前記マッチング部は、前記移動体情報が前記移動体追跡装置により追跡されている第1の移動体からの移動体情報であることに応答して、当該第1の移動体の画像を含む撮像画像を前記画像受信機が受信した撮像画像の中から抽出するための画像抽出部を含み、
前記補正処理部は、前記画像抽出部が抽出した前記撮像画像の撮像時刻に前記第1の移動体から送信され、前記移動体情報受信機が受信した位置情報と、前記撮像画像から算出される前記第1の移動体の位置とから、前記第1の移動体の維持している前記位置情報を補正する処理を行う位置補正処理部とを含む、コンピュータプログラム。
【請求項20】
コンピュータが、自己の位置情報及び時刻情報を含む移動体情報を維持するステップと、
コンピュータが、所定のタイミングで前記移動体情報を所定の位置補正サーバに送信するステップと、
コンピュータが、前記移動体情報を維持するステップにより維持されている前記位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、前記補正情報を使用して前記位置情報を補正するステップとを含む、移動体の位置管理方法
であって、
前記移動体情報を維持するステップは、コンピュータが、衛星測位システムにより前記位置情報を維持するステップを含み、
前記送信するステップは、前記所定のタイミングで前記移動体情報に前記衛星測位システムが通信可能な測位衛星の数を含めて前記所定の位置補正サーバに送信するステップを含む、移動体の位置管理方法。
【請求項21】
コンピュータを、
自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、
所定のタイミングで前記移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、
前記情報維持装置により維持されている前記位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、前記補正情報を使用して前記位置情報を補正する補正処理部として機能させる、コンピュータプログラム
であって、
前記情報維持装置は、衛星測位システムにより前記位置情報を維持する機能を持ち、
前記移動体情報送信装置は、前記位置補正サーバに前記移動体情報を送信する際に、前記移動体情報に前記衛星測位システムが通信可能な測位衛星の数を含めて送信する、コンピュータプログラム。
【請求項22】
請求項1
4に記載の移動体の位置管理装置を搭載した車載装置。
【請求項23】
請求項2
2に記載の車載装置を搭載した車両
。
【発明の詳細な説明】
【技術分野】
【0001】
この開示は位置補正サーバ、位置管理装置、移動体の位置管理システム及び方法、位置情報の補正方法、コンピュータプログラム、車載装置並びに車両に関する。
【背景技術】
【0002】
車両等の自動運転技術の発達に伴って、測位技術の重要性が増している。車両等の移動体に関する測位のためには、測位用の人工衛星(測位衛星)を使用した全球測位衛星システム(Global Navigation Satellite System: GNSS)が主として使用される。全球測位衛星システムとしては複数の種類があるが、受信機を用いて複数の衛星との間の距離を通信により測位し、三角測量の原理で車両等の位置を特定する点では共通する。
【0003】
GNSSでは、その原理から、位置を正確に測定するためには少なくとも3個の測位衛星と通信できることが必要である。ところが、地形の影響、又は道路脇に存在するビル等の影響により、受信機が3個の測位衛星と通信できない状況が発生することがある。その場合には、いわゆるデッドレコニングにより移動体の位置を推定する技術が使用される。
【0004】
しかし、もともとGNSSを用いた位置自体に誤差が含まれる上、デッドレコニングによる誤差が蓄積することで受信機が管理する位置情報の誤差が大きくなることがある。一方で、最近では、一定地域内に存在する車両等の位置を地図情報とあわせて交通状況俯瞰マップをサーバで作成し、その結果を交通支援のために各車両等に配信するシステムの開発に向けて研究がされつつある。交通状況俯瞰マップをサーバが正確に管理するためには、各車両等からできるだけ正確な位置情報をサーバに通知する必要がある。そのため、車両が備えるGNSS受信機による測位結果の誤差が大きくなると、交通状況俯瞰マップが不正確となり、交通支援に影響を及ぼす可能性がある。
【0005】
こうした問題を解決するための1つの解決策が後掲の特許文献1に開示されている。
図1を参照して、特許文献1に記載された位置補正システム50は、GNSSの一種であるGPS(Global Positioning System)により車両位置を検出する、車両64に搭載された位置検出装置と、道路の情報のポール62上のような高い位置に設置された光ビーコン60から位置情報を含むビーコンデータ66、68を受信する車載通信機70と、光ビーコンデータを受信すると位置情報の撮像を開始するカメラ72と、車両64が光ビーコン60の真下に位置するときにカメラ72の画像中で光ビーコンヘッド像が占める位置を基準位置として予め設定しておき、カメラ72の画像から抽出された光ビーコンヘッド像が基準位置に位置するか否かを判定する真下判定装置とを含む。
【0006】
この位置補正システム50はさらに、真下判定装置によって、光ビーコンヘッド像が基準位置に存在すると判定されたことに応答して、その光ビーコンヘッド像の撮像時点での車両位置を光ビーコンデータの示す位置と一致させるように、位置検出装置の維持する車両位置を補正する位置補正装置とを含む。
【0007】
特許文献1によれば、この構成により車両位置を正確に測定できるとされている。
【0008】
一方、後掲の特許文献2には、光ビーコン60を用いず、車載カメラの画像解析により路側のランドマークを認識し、位置補正に活用する技術が提案されている。
図2を参照して、特許文献2に記載の技術に係る位置補正システム100は、予め路側の特徴物であるランドマーク114の画像と位置とを記憶するランドマーク位置情報記憶装置112と、ランドマーク位置情報記憶装置112に接続され、車両116からその経路におけるランドマークに関する情報要求を受信したことに応答してその経路において位置補正に使用可能な1又は複数のランドマークに関するランドマーク情報を車両に送信するサーバ110とを含む。ランドマーク情報は、カメラ画像から認識可能なランドマークの位置情報、認識用ランドマーク画像、認識の成功のし易さを示す認識評価値等を含む。ランドマーク114に搭載された車載用制御装置は、受信したランドマーク情報に含まれる認識結果評価値に基づいて認識対象とするランドマークを選択する。車載用制御装置は、認識対象としたランドマークの認識結果を評価し、カメラで認識したランドマークの画像とともに評価結果値をサーバに送信する。サーバは車載用制御装置から受信した情報に基づいて、各ランドマーク情報の認識評価値及び認識用ランドマーク画像を更新する。ランドマークとしては、道路上の標識及び信号等の物体、路面上のペイント、並びに道路近辺の特徴的な建造物が挙げられている(段落0049)。
【0009】
この位置補正システム100によれば、ランドマークの認識処理における負荷の低減を図りながら、車両の位置推定精度の向上ができるとされている。
【先行技術文献】
【特許文献】
【0010】
【文献】特開2010-276583号公報
【文献】特開2015-108604号公報
【発明の概要】
【発明が解決しようとする課題】
【0011】
しかし、特許文献1に開示された発明については以下のような問題点がある。すなわち、特許文献1に記載の技術では路側に光ビーコン60を備えた路側機を備えることが前提であるため、適用範囲が制限されるという問題がある。また光ビーコン60の真下を車両が通過することが前提であるため、車線ごとに光ビーコン60を設ける必要があり、設置の費用がかかるという問題もある。
【0012】
また特許文献2に記載された発明では、車載用制御装置が、車載カメラからの画像内のランドマーク画像を認識することが前提となっている。そのため、車載カメラの性能、及び車載用制御装置の認識能力に位置補正能力が依存する。一方、車載カメラは車両とともに移動するため、その認識対象となる画像は常に変化する。そのため、認識のための学習に用いる教師データが疎となり、認識精度を高くすることが難しいという問題がある。さらに、画像認識には多くの計算資源が必要となる。一般的に車載用制御装置の性能には限界があり、画像認識を短時間でかつ高精度に行うことは難しい。したがって、特許文献2に開示されたシステムでは、その位置補正能力には限界があると言わざるを得ない。したがって、光ビーコン60を備えた路側機、及び車載カメラの画像等を必要とせずに移動体の位置補正ができるようにすることが望ましい。
【0013】
それ故にこの開示の目的は、車両の位置補正を高精度で行える位置補正サーバ、位置管理装置、移動体の位置管理システム及び方法、位置情報の補正方法、コンピュータプログラム、車載装置並びに車両を提供することである。
【課題を解決するための手段】
【0014】
この開示の第1の局面に係る位置補正サーバは、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、撮像画像の中に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報受信機に移動体情報を送信する移動体とをマッチングするマッチング部と、マッチング部によりマッチングされた移動体から受信した移動体情報の位置情報と、マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行う補正処理部とを含む。
【0015】
この開示の第2の局面に係る移動体のための位置管理装置は、自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、所定のタイミングで移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、情報維持装置により維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正する補正処理部とを含む。
【0016】
この開示の第3の局面に係る移動体の位置管理システムは、上記したいずれかの位置補正サーバと、上記したいずれかの位置管理装置とを含む。
【0017】
この開示の第4の局面に係る位置情報の補正方法は、コンピュータが、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信するステップと、コンピュータが、撮像範囲が特定可能な撮像装置からの撮像画像を受信するステップと、コンピュータが、撮像画像の中に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報を受信するステップにおいて移動体情報を送信する移動体とをマッチングするステップと、マッチングするステップにおいてマッチングされた移動体から受信した移動体情報の位置情報と、マッチングするステップにおいてマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行うステップとを含む。
【0018】
この開示の第5の局面に係るコンピュータプログラムは、コンピュータを、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、撮像画像の中に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報受信機に移動体情報を送信する移動体とをマッチングするマッチング部と、マッチング部によりマッチングされた移動体から受信した移動体情報の位置情報と、マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行う補正処理部として機能させる。
【0019】
この開示の第6の局面に係る移動体の位置管理方法は、コンピュータが、自己の位置情報及び時刻情報を含む移動体情報を維持するステップと、コンピュータが、所定のタイミングで移動体情報を所定の位置補正サーバに送信するステップと、コンピュータが、移動体情報を維持するステップにより維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正するステップとを含む。
【0020】
この開示の第7の局面に係るコンピュータプログラムは、コンピュータを、自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、所定のタイミングで移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、情報維持装置により維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正する補正処理部として機能させる。
【0021】
この開示の第8の局面に係る車載装置は、上記した移動体の位置管理装置を搭載した車載装置である。
【0022】
この開示の第9の局面に係る車両は、上記した車載装置を搭載した車両である。
【0023】
なお、この開示は、このような特徴的な処理部を備える装置として実現できるだけでなく、上に記載したような特徴的な処理をステップとする方法として実現したり、それらステップをコンピュータに実行させるためのプログラムとして実現したりできる。また、装置の一部又は全部を実現する半導体集積回路として実現したり、それら装置を含むシステムとして実現したりできる。この開示のそのほかの課題、目的、構成、作用及び効果は、添付の図面とともに以下の開示に関する説明により明らかとなるであろう。
【発明の効果】
【0024】
この開示によれば、車両の位置補正を高精度で行える位置補正サーバ、位置管理装置、移動体の位置管理システム及び方法、位置情報の補正方法、コンピュータプログラム、車載装置並びに車両を提供できる。
【図面の簡単な説明】
【0025】
【
図1】
図1は、特許文献1に記載された従来の位置補正システムの概略構成を示す模式図である。
【
図2】
図2は、特許文献2に記載された従来の位置補正システムの概略構成を示す模式図である。
【
図3】
図3は、この開示に係る位置補正システムの概略構成を示す図である。
【
図4】
図4は、この開示に係る車両の位置補正の原理を説明する模式図である。
【
図5】
図5は、この開示に関係する車両の概略構成を示す模式図である。
【
図6】
図6は、この開示において使用される車載装置の概略ハードウェア構成を示すブロック図である。
【
図7】
図7は、この開示において使用されるHMIコントローラのハードウェア構成を示すブロック図である。
【
図8】
図8は、この開示における車載装置でのデータアップロード処理を実現するコンピュータプログラム(以下、単に「プログラム」という。)の制御構造を示すフローチャートである。
【
図9】
図9は、この開示における車載装置での位置補正処理を実現するプログラムの制御構造を示すフローチャートである。
【
図10】
図10は、この開示に係るエッジサーバの外観を示す図である。
【
図11】
図11は、
図10に示すエッジサーバの概略ハードウェア構成を示すブロック図である。
【
図13】
図13は、
図12に示す各機能を実現するためのプログラムの制御構造を示すフローチャートである。
【
図14】
図14は、同一車種の2台の車両が近接している場合の車両同定に関する問題点を説明するための模式図である。
【
図15】
図15は、同一車種の2台の車両が近接している場合の車両同定に関する問題点を解決するための方法を示す模式図である。
【
図16】
図16は、同一車種の3台の車両が近接している場合の車両同定に関する問題点を説明するための模式図である。
【
図17】
図17は、第1の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。
【
図18】
図18は、第2の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。
【
図19】
図19は、第3の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。
【
図20】
図20は、第4の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。
【発明を実施するための形態】
【0026】
[この開示の実施の形態の説明]
以下の説明及び図面では、同一の部品には同一の参照番号を付してある。したがって、それらについての詳細な説明は繰返さない。なお、以下の開示の少なくとも一部を任意に組合せてもよい。
【0027】
(1)この開示の第1の局面に係る位置補正サーバは、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、撮像画像の中に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報受信機に移動体情報を送信する移動体とをマッチングするマッチング部と、マッチング部によりマッチングされた移動体から受信した移動体情報の位置情報と、マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行う補正処理部とを含む。
【0028】
撮像装置からの画像と、移動体の位置情報とに基づき、特定の撮像時刻の画像とそのときにその画像装置で撮像された移動体とをマッチングする。撮像時刻における移動体からの位置情報と、画像から得られた移動体の位置情報とにより両者の誤差が算出され、移動体の位置座標がその誤差により補正される。車載カメラの画像を使用せず、既存の撮像装置を使用して移動体の位置補正が行える。
【0029】
(2)好ましくは、位置補正サーバは、さらに、移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置を含み、マッチング部は、移動体情報が移動体追跡装置により追跡されている第1の移動体からの移動体情報であることに応答して、当該第1の移動体の画像を含む撮像画像を画像受信機が受信した撮像画像の中から抽出するための画像抽出部を含み、補正処理部は、画像抽出部が抽出した撮像画像の撮像時刻に第1の移動体から送信され、移動体情報受信機が受信した位置情報と、撮像画像から算出される第1の移動体の位置とから、第1の移動体の維持している位置情報を補正する処理を行う位置補正処理部とを含む。
【0030】
位置補正の対象となる移動体のみが位置補正の対象となる。精度の高い位置情報を維持している移動体については位置補正を行わない。その結果、計算資源を節約しながら、効率的に移動体の位置情報の補正が行える。
【0031】
(3)より好ましくは、位置補正処理部は、実世界の特徴物の位置を記憶する位置記憶装置と、撮像画像の中に存在する特徴物を認識する特徴物認識部と、特徴物認識部により認識された特徴物の実世界における位置を、位置記憶装置から読出すための読出装置と、第1の移動体の維持している位置情報を、位置記憶装置から読出された位置に基づいて補正するための補正量を算出する算出装置を含む。
【0032】
特徴物の位置は固定された撮像装置による画像として、画像の背景に常に存在する。その画像と、画像内の移動体画像とに基づき、両者の位置関係から移動体の位置を算出できる。車載カメラの画像を使用せず、位置が固定された撮像装置の画像を使うので、移動体の位置算出が高精度に行え、正確に位置補正が行える。
【0033】
(4)さらに好ましくは、算出装置は、撮像画像の中に存在する特徴物の画像と、移動体の画像との関係と、特徴物の地理的位置、及び撮像装置の特性とに基づいて、移動体と特徴物との相対位置を算出する相対位置算出装置と、相対位置に対して特徴物の地理的位置を加算することにより移動体の地理的位置を算出するための地理的位置算出装置と、第1の移動体の維持している位置情報と、地理的位置算出装置により算出された地理的位置との誤差を補正量として算出するための補正量算出装置とを含む。
【0034】
撮像装置の撮像範囲が固定されている場合、基本的にその画像の背景は常に同一である。したがってその中の特徴物を認識することは高い精度で行える。また特徴物の位置は予めわかっている。したがって、その特徴物に対する移動体の相対位置を画像から算出し、特徴物の位置に加算することで、移動体の位置を容易に特定できる。
【0035】
(5)好ましくは、マッチング部は、第1の移動体から所定距離の範囲内に、第1の移動体と同種の第2の移動体が存在していることに応答して、第1の移動体と、第2の移動体とから、各々の前方画像を取得する前方画像取得装置と、前方画像取得装置により取得された前方画像の各々について、第1の移動体と同種の移動体の画像が存在しているか否かを検査する画像検査部と、前方画像の中で、第1の移動体と同種の移動体の画像が存在していない前方画像が1つだけ存在していれば、当該前方画像を送信してた移動体と撮像画像とをマッチングさせる装置とを含む。
【0036】
同一の種類の複数の移動体が近接して存在している場合、画像だけでは位置情報を送信してきた移動体を同定できない。そうした場合、双方から前方画像を取得し、その画像の中にその移動体と同一種類の移動体の画像が存在するか否かを基準にして、複数の移動体の中で、位置情報を送信してきた移動体が同定できる。
【0037】
(6)より好ましくは、位置補正サーバは、移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置をさらに含み、移動体情報は、移動体の外観に関する外観情報を含み、マッチング部は、移動体追跡装置による追跡の対象となっている移動体の各々について、当該移動体の近傍に存在する、撮像領域が特定可能な撮像装置を特定し、画像受信機が受信した撮像画像から、当該特定された撮像装置による撮像画像を抽出する画像抽出部と、外観情報を用いて画像抽出部が抽出した撮像画像の中の移動体の画像を特定し、当該画像と、外観情報とに基づいて当該撮像画像の中の移動体を同定するための移動体同定装置とを含む。
【0038】
撮像装置の位置が固定されていると、その撮像する画像の背景は常に同一である。移動体の外観に関する情報を用いると、そうした画像の中でその外観を持つ移動体の画像を容易に特定してその位置を高い精度で特定できるため、移動体の位置情報も高い精度で補正できる。
【0039】
(7)さらに好ましくは、補正処理部は、画像抽出部が抽出した撮像画像の撮像領域内の特徴物の位置と、撮像画像中の移動体の画像の位置とに基づいて、当該撮像画像の中の移動体の地理的位置を特定する移動体位置特定部と、移動体位置特定部が特定した移動体の地理的位置と、撮像画像が撮像された時刻に移動体から送信され、移動体情報受信機が受信した位置情報とに基づいて移動体が維持する位置情報を補正する処理を行う装置とを含む。
【0040】
受信した画像内の特徴物を基準として算出される移動体の位置情報は、正確な位置情報であると考えられる。その画像が撮像された時刻に移動体から送信された位置情報は、誤差を含んでいると考えられるが、同じ時刻に算出された正しい位置を用いて、その位置情報の誤差を補正できる。
【0041】
(8)好ましくは、補正する処理を行う装置は、移動体位置特定部が特定した移動体の地理的位置と、撮像画像が撮像された時刻に移動体から送信され、移動体情報受信機が受信した位置情報により決まる地理的位置との間の誤差を算出するための誤差算出装置と、誤差算出装置により算出された誤差を移動体の維持する位置情報に加算する指示を移動体に送信する送信装置とを含む。
【0042】
画像から特定した移動体の位置と、その画像が撮像されたのと同じ時刻に移動体から送信された位置情報との誤差は、移動体が維持している位置情報が持つ誤差と考えることができる。この誤差を移動体が維持している位置情報に加算することで、移動体は自己が維持している位置情報を補正し正しい位置を算出できる。
【0043】
(9)より好ましくは、位置情報サーバは、移動体情報に基づき、位置情報を補正する対象となる移動体を追跡する移動体追跡装置をさらに含み、移動体情報は、移動体の外観に関する外観情報を含み、マッチング部は、画像受信機が撮像画像を受信したことに応答して、当該撮像画像内に存在している、移動体追跡装置により追跡されている移動体の画像を認識する移動体画像認識部と、移動体画像認識部により認識された画像と、外観情報とを用いて、当該撮像画像内の移動体を移動体追跡装置により追跡されている移動体の中で同定する同定装置とを含み、補正処理部は、移動体画像認識部により認識された移動体に対して、撮像画像内の特徴物の画像の位置と、当該移動体の画像の位置と、特徴物の地理的位置とに基づいて、撮像画像が撮像された時刻における移動体の位置を算出するための移動体位置算出装置と、移動体位置算出装置により算出された位置と、移動体の画像が認識された撮像画像の撮像時に当該移動体が移動体情報受信機の受信した位置情報とに基づいて移動体が維持する位置情報を補正する処理を実行するための補正実行部とを含む。
【0044】
位置情報を補正する対象の移動体のみについて位置情報の補正のための追跡を行う。撮像装置から画像を受信したことに応答して、その画像に基づき、その画像内に存在する移動体の画像が特定され、その地理的位置が特定される。その移動体と、移動体追跡装置により追跡されている移動体とを、その移動体の外観情報を用いてマッチングし、画像内の移動体を同定する。その結果を用いて移動体の位置情報が補正される。補正の対象とすべき移動体のみについて位置情報補正のための処理が行えるので、計算資源を節約できる。撮像装置から画像を受信したことを契機として、その画像内の対象移動体の検出とその位置補正の処理が開始されるので、補正処理が効率的に行える。
【0045】
(10)さらに好ましくは、位置補正サーバは、移動体情報は、移動体が維持する位置情報の精度に関連する精度関連情報をさらに含み、移動体追跡装置は、精度関連情報に基づいて、所定の精度より低い精度で動作している可能性が高い位置情報取得装置を備えた移動体を、位置情報を補正する対象として追跡する追跡装置を含む。
【0046】
この構成により、位置補正のための計算資源を節約できる。
【0047】
(11)好ましくは、精度関連情報は、移動体が利用する衛星測位システムにおいて通信可能な測位衛星の数を含み、追跡装置は、移動体が通信可能な測位衛星の数がしきい値以下である移動体を追跡する装置を含む。
【0048】
通信可能な測位衛星の数という明確な基準で追跡対象の移動体を決定できる。
【0049】
(12)より好ましくは、衛星測位システムはGPSを含む。
【0050】
GPSという最も普及した衛星測位システムを搭載した車両を対象とするので、多くの車両がこのシステムによる利益を享受できる。
【0051】
(13)好ましくは、位置補正サーバは、さらに、移動体が維持する位置情報の精度に関連する精度関連情報が、位置情報の精度が所定の精度より高くなったことを示す値に変化したことに応答して、当該移動体を補正による位置情報の補正の対象から除外する処理を実行するための除外装置を含む。
【0052】
移動体の位置情報の精度が高くなった場合、その補正を続行することには意味がない。そうした移動体を補正の対象から除外することで、計算資源を節約でき、他の車両に関する位置情報の補正に節約された計算資源を配分できる。
【0053】
(14)さらに好ましくは、移動体情報はさらに、移動体の外観に関する外観情報を含み、マッチング部は、移動体情報に含まれる外観情報に基づいて撮像画像内に含まれる移動体の画像を認識する画像認識部と、画像認識部により移動体の画像が認識された撮像画像と、移動体情報受信機に移動体情報を送信する移動体とを対応付ける装置とを含む。
【0054】
撮像装置の位置が固定されているため、その背景は常に一定である。したがって、その画像内での移動体の位置を、移動体の外観情報を用いて容易に特定できる。
【0055】
(15)この開示の第2の局面に係る移動体のための位置管理装置は、自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、所定のタイミングで移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、情報維持装置により維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正する補正処理部とを含む。
【0056】
移動体は、サーバから受信した位置情報を用いて、自己が維持している位置情報を補正できる。その結果、移動体は、位置情報を用いるサービスについて、より適切な状態で利用できる。
【0057】
(16)好ましくは、情報維持装置は、衛星測位システムにより位置情報を維持する機能を持ち、移動体情報送信装置は、位置補正サーバに移動体情報を送信する際に、移動体情報に衛星測位システムが通信可能な測位衛星の数を含めて送信する。
【0058】
測位衛星の数をサーバに送信することで、サーバではこの移動体の位置情報の精度が高いか否かを判定できる。測位衛星の数が所定の数より少なく、デッドレコニングで移動体が自己の位置を補正している場合、サーバから位置情報の補正サービスを受けることが可能になる。
【0059】
(17)より好ましくは、補正情報は、情報維持装置が維持している位置情報と、正しい位置情報との誤差を含み、補正処理部は、情報維持装置が維持している位置情報に、誤差を加算する加算器を含む。
【0060】
この構成により容易に移動体の位置情報を補正できる。
【0061】
(18)さらに好ましくは、位置管理装置は、さらに、衛星測位システムが通信可能な測位衛星の数が所定の数以上となったことに応答して、補正処理部の動作を停止する停止装置を含む。
【0062】
通信可能な測位衛星の数が所定の数以上となれば、その衛星測位システムによる位置情報の精度も十分に高くなる。位置情報の補正処理を停止することで、計算資源を節約でき、他の処理に配分できる。
【0063】
(19)この開示の第3の局面に係る移動体の位置管理システムは、上記したいずれかの位置補正サーバと、上記したいずれかの位置管理装置とを含む。
【0064】
撮像範囲が特定可能な撮像装置からの画像を用いて、サーバにより移動体の位置情報の補正を行うことが可能になる。常に変化する車載カメラからの情報を用いる必要はない。その結果、移動体の正確な位置を求めることが容易にでき、移動体の管理する位置情報の精度を効率的に高い精度に維持できる
(20)この開示の第4の局面に係る位置情報の補正方法は、コンピュータが、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信するステップと、コンピュータが、撮像範囲が特定可能な撮像装置からの撮像画像を受信するステップと、コンピュータが、撮像画像内に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報を受信するステップにおいて移動体情報を送信する移動体とをマッチングするステップと、マッチングするステップにおいてマッチングされた移動体から受信した移動体情報の位置情報と、マッチングするステップにおいてマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行うステップとを含む。
【0065】
撮像範囲が特定可能な撮像装置からの画像を用いて、サーバにより移動体の位置情報の補正を行うことが可能になる。常に変化する車載カメラからの情報を用いる必要はない。その結果、移動体の正確な位置を求めることが容易にでき、移動体の管理する位置情報の精度を効率的に高い精度に維持できる。
【0066】
(21)この開示の第5の局面に係るコンピュータプログラムは、コンピュータを、移動体から、当該移動体の位置情報と時刻情報とを含む移動体情報を受信する移動体情報受信機と、撮像範囲が特定可能な撮像装置からの撮像画像を受信する画像受信機と、撮像画像内に存在する任意の移動体の画像と移動体情報とに基づいて、任意の移動体の画像を含む撮像画像と移動体情報受信機に移動体情報を送信する移動体とをマッチングするマッチング部と、マッチング部によりマッチングされた移動体から受信した移動体情報の位置情報と、マッチング部によりマッチングされた撮像画像とその撮像時刻とを用いて、移動体が維持する位置情報を補正する処理を行う補正処理部として機能させる。
【0067】
撮像装置からの画像と、移動体からの位置情報とに基づき、特定の撮像時刻に撮像された画像とそのときにその画像装置で撮像された移動体とをマッチングする。撮像時刻における移動体からの位置情報と、画像から得られた移動体の位置情報とにより両者の誤差が算出され、移動体の位置座標がその誤差により補正される。車載カメラの画像を使用せず、既存の撮像装置を使用して移動体の位置補正を行うことができる。
【0068】
(22)この開示の第6の局面に係る移動体の位置管理方法は、コンピュータが、自己の位置情報及び時刻情報を含む移動体情報を維持するステップと、コンピュータが、所定のタイミングで移動体情報を所定の位置補正サーバに送信するステップと、コンピュータが、移動体情報を維持するステップにより維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正するステップとを含む。
【0069】
移動体の位置情報及び時刻情報を含む移動体情報を位置補正サーバに送信することで、移動体の位置情報を補正する補正情報をサーバから受信し、位置情報をより精度高い値に維持できる。
【0070】
(23)この開示の第7の局面に係るコンピュータプログラムは、コンピュータを、自己の位置情報及び時刻情報を含む移動体情報を維持する情報維持装置と、所定のタイミングで移動体情報を所定の位置補正サーバに送信するための移動体情報送信装置と、情報維持装置により維持されている位置情報を補正すべきことを示す補正情報を外部から受信したことに応答して、補正情報を使用して位置情報を補正する補正処理部として機能させる。
【0071】
移動体の位置情報及び時刻情報を含む移動体情報を位置補正サーバに送信することで、移動体の位置情報を補正する補正情報をサーバから受信し、位置情報をより精度高い値に維持できる。
【0072】
(24)この開示の第8の局面に係る車載装置は、上記した移動体の位置管理装置を搭載した車載装置である。
【0073】
車載装置を搭載した移動体の位置情報及び時刻情報を含む移動体情報を位置補正サーバに送信することで、移動体の位置情報を補正する補正情報をサーバから受信し、この車載装置が維持する位置情報をより精度高い値に維持できる。
【0074】
(25)この開示の第9の局面に係る車両は、上記した車載装置を搭載した車両である。
【0075】
上記した車載装置を搭載した車両の位置情報及び時刻情報を含む移動体情報を位置補正サーバに送信する。それにより車載装置が移動体の位置情報を補正する補正情報をサーバから受信し、この車載装置が維持する位置情報をより精度高い値に維持できる。
【0076】
[実施の形態の詳細な説明]
<第1の開示>
〈構成〉
図3は、第1の開示に係る位置補正システム150の概略構成を示す図である。
図3を参照して、この位置補正システム150では、例えば高層ビル162、164、166、168、170及び172等の中を通り抜ける道路174の路側、又は例えば高層ビル162の壁面等に設置され、その位置及びその撮像範囲が分かっているインフラカメラ160と、車両176及び178等の、この開示に係る車載装置を搭載した車両と、これら車両から無線により受信した、車両の車種、位置、車両で維持している時刻情報等の車両情報と、インフラカメラ160等のインフラセンサ設備から受信した画像データ及びLiDARによる移動物体の位置データ並びに画像の撮像時刻とに基づいて、交通状況俯瞰マップを作成、維持及び管理し、各車両の車載装置に対して交通支援情報を配信するためのエッジサーバ180とを含む。インフラカメラ160等のインフラセンサ設備からは、カメラの画像、又はLiDAR等のセンサが検出した点群データ等のセンサデータが、その撮像時刻を示す情報とともに定期的にエッジサーバ180にアップロードされる。
【0077】
図3に示すような状況では、例えば車両176のように前後左右に比較的開けた場所に車両が存在する場合には、3個の測位衛星と通信可能だが、車両178のように両側に高層ビル162、164、168及び170が存在しているような場所に車両がいる場合には、3個の測位衛星と通信ができず、2個又は1個の測位衛星としかできない場合が起こり得る。そうした場合には、例えば車両176の車載装置は、最後にGNSSで取得した位置情報に、その後のデッドレコニングで累積した移動情報を加算することで位置情報を推定する処理を行う。以下に説明するこの開示に係るエッジサーバ180は、そのような状況にある車両を追跡し、インフラカメラ160からの画像及びその撮像時刻、並びに各車両から受信した車両の位置情報に基づいて車両の位置情報を補正する補正情報を作成し、問題となる車両に送信する機能を持つ。
【0078】
なお、デッドレコニングにより推定された位置情報には、後に述べるように、GNSSにより測定された位置情報の誤差よりも相当に大きな誤差が含まれる。この誤差は、例えば
図3に示す車両176及び178の周囲に描いた円により表される。この誤差が大きいと、
図3に示すように複数の車両がこの円内に存在することがある。この開示のようにインフラカメラ160により撮像された画像に含まれる車両が同一車種の場合には、いずれが対象車両か判定できないことがある。この開示では、そうした場合には対象車両の位置補正は行わないが、後述の変形例のように、特定の条件が満たされる場合には、対象車両に近接した同一車種の車両が複数台ある場合にも、対象車両を特定できることがある。
【0079】
図4は、この開示における車両の位置補正の一手法を説明するための模式図である。
図4を参照して、この開示の一手法では、何らかのランドマーク(例えば道路のペイント202)について、エッジサーバ180が予めその正確な位置(Rx,Ry)を特定し、記憶しておく。車両位置(Cx,Cy)として自己の位置をデッドレコニングにより推定している車両200の画像が、インフラカメラ160等のインフラ設備装置により撮像された画像内に、ペイント202とともに存在していることをエッジサーバ180が認識すると、ペイント202の位置(Rx,Ry)と画像内でのペイント202と車両200との間の距離204に基づいてその差(ΔPx、ΔPy)を算出し、その値から車両200の正確な位置を算出する。さらにエッジサーバ180は、このようにして算出した車両200の正確な位置と、車両200から受信した、車両200が推定しているその位置(Cx,Cy)との誤差を算出し、その誤差を車両200に送信する。車両200は、これ以後、自己がデッドレコニングにより所定時間間隔で推定する車両の位置に、エッジサーバ180から受信した誤差を加算する処理を繰返すことで車両の位置情報を取得する。
【0080】
もちろん、道路のペイントではなく、画像内の特定の建物等でもよい。複数の特徴物との関係で車両の位置を算出することも可能である。
【0081】
他の手法として、インフラカメラの画像を入力として、その画像内の車両の位置を推定するニューラルネットワークモデルを使用してもよい。この場合、画像を撮像するカメラはインフラカメラであって、その撮像画像の背景が基本的に常に同一であるため、その中の車両を検出することが、車載カメラからの画像から特徴物を検出するよりもはるかに高い精度で行えるという利点がある。以下に説明するこの開示では、後者の手法を使用する。
【0082】
図5は、この開示に関係する車両200の概略構成を示す模式図である。
図5を参照して、この開示に関係する車両200は、例えばミリ波レーダ212、車載カメラ214、LiDAR216等のセンサ群と、これらセンサ群が検出データとして出力するセンサデータを定期的にエッジサーバ180にアップロードし、エッジサーバ180から交通支援情報を受信して運転者のための交通支援を行う車載装置210とを含む。
【0083】
図6は、車載装置210の概略ハードウェア構成を示すブロック図である。
図6を参照して、車載装置210は、車内LANに接続されたHMI(Human-Machine Interface)コントローラ232と、HMIコントローラ232と同様、車内LANに接続された車外通信コントローラ230と、車外通信コントローラ230に接続された、第5世代移動通信システム(いわゆる「5G」)、高度道路交通システム(Intelligent Transport Systems、いわゆる「ITS」)、GNSSの一種であるGPS、及びWi―Fiのためのアンテナとして機能する統合アンテナ240と、車内LANによりHMIコントローラ232及び車外通信コントローラ230に接続された自動運転コントローラ234と、車内LANに接続された走行系コントローラ236とを含む。
【0084】
HMIコントローラ232には、モニタ242と、複数のECU(Electronic Control Unit)244、246が接続されている。
【0085】
自動運転コントローラ234には、ミリ波レーダ212、車載カメラ214、LiDAR216に加えて、自動運転ECU248が接続されている。
【0086】
走行系コントローラ236には、車両の走行制御のための複数のECUが接続されている。
【0087】
図7は、この開示において使用される、
図6に示すHMIコントローラ232のハードウェア構成を示すブロック図である。
図7を参照して、HMIコントローラ232は、コンピュータ350と、コンピュータ350に接続されたタッチパネル352と、コンピュータ350に接続され、タッチパネル352とともにユーザI/Fを提供するLCD等からなるモニタ242と、ユーザに対して音声による交通支援情報の提供及び音声によるコンピュータ350のユーザI/Fを提供するためのスピーカ・マイク360とを含む。
【0088】
コンピュータ350は、とCPU(Central Processing Unit)と、CPU370に接続され、CPU370とHMIコントローラ232内の各ユニットとの間のデータ及び制御信号の通信経路を提供するバス372と、コンピュータ350のブートアッププログラム等を記憶するROM374と、随時書込読出可能なRAM376と、ハードディスク、SSD等の補助記憶装置378と、
図6に示す車外通信コントローラ230及び統合アンテナ240を介してエッジサーバ180との無線通信を行うための無線通信部380と、バス372に接続され、USBメモリ362が着脱可能なUSBメモリポート384とを含む。
【0089】
コンピュータ350はさらに、バス372に接続され、各種ECU356及び各種センサ358とコンピュータ350との間のI/Fとなる入出力I/F382と、バス372とスピーカ・マイク360とのインターフェイスを提供するための音声処理インターフェイス390と、バス372と車内LAN394とに接続されたネットワークI/F392とを含む。
【0090】
図8は、この開示における車載装置210でのデータアップロード処理を実現するコンピュータプログラム(以下、単に「プログラム」という。)の制御構造を示すフローチャートである。このプログラムは
図7に示すHMIコントローラ232のCPU370により実行される。
【0091】
図8を参照して、このプログラムは所定間隔で繰返して実行されるプログラムであって、前回のこのプログラムの実行時から今回の実行時までの間に
図7に示す各種センサ358からバス372が受信し、RAM376又は補助記憶装置378に格納したデータをそれら記憶装置から読出すステップ400と、読出した情報をエッジサーバ180にアップロードして処理を終了するステップ402とを含む。
【0092】
ステップ400でエッジサーバ180にアップロードされる情報は、HMIコントローラ232を含む車載装置210を搭載した車両の位置情報、車種、時刻情報、GPS性能、GPSが通信可能な衛星数、車速及び加速度等を含む。
【0093】
図9は、この開示における車載装置での位置補正処理を実現するプログラムの制御構造を示すフローチャートである。
図9を参照して、このプログラムは、データを受信するたびに起動される。このプログラムは、受信したデータがセンサデータか否かを判定してその結果にしたがって制御の流れを分岐するステップ500と、ステップ500の判定が肯定のときに、受信したセンサデータをRAM376又は補助記憶装置378に保存して処理を終了するステップ502と、ステップ500の判定が否定であることに応答して、受信したデータがエッジサーバ180からの位置補正情報か否かを判定し、結果に応じて制御の流れを分岐させるステップ504とを含む。
【0094】
このプログラムはさらに、ステップ504での判定が肯定であることに応答して、受信した位置補正情報をRAM376又は補助記憶装置378に保存してプログラムの実行を終了するステップ508と、ステップ504の判定が否定であることに応答して、そのデータに対してそのデータの種別により定まる処理を実行してこのプログラムの実行を終了するステップ512とを含む。ステップ508の処理で保存された位置補正情報は、この後にはデッドレコニングにより計算された位置情報に加算される。なお、図示はしていないが、通信可能な衛星数が3個以上に戻った場合には、この位置補正情報はクリアされる。
【0095】
図10は、この開示において使用されるエッジサーバ180の外観を示す図である。
図10を参照して、このエッジサーバ180は、USBメモリポート652及びDVD(Digital Versatile Disc)ドライブ650を有するコンピュータ640と、キーボード646と、マウス648と、モニタ642とを含む。
【0096】
図11は、
図10に示すエッジサーバの概略ハードウェア構成を示すブロック図である。
図11を参照して、コンピュータ640は、USBメモリポート652及びDVDドライブ650に加えて、CPU656と、CPU656、USBメモリポート652及びDVDドライブ650に接続されたバス666と、数値計算等を並列的に実行可能なGPU(Graphics Processing Unit)657と、ブートアッププログラム等を記憶する読出専用メモリ(ROM)658と、バス666に接続され、プログラム命令、システムプログラム及び作業データ等を記憶するRAM660と、ハードディスク654を含む。エッジサーバ180はさらに、他端末との通信を可能とするネットワーク668への接続を提供するネットワークインターフェイス644を含む。GPU657は、画像処理及びニューラルネットワーク等で生ずる大量の数値計算を同時並行的に高速に実行可能である。
【0097】
エッジサーバ180をこの発明の各開示に係るエッジサーバ180の各機能部として機能させるためのコンピュータプログラムは、DVDドライブ650又はUSBメモリポート652に装着されるDVD662又はUSBメモリ664に記憶されて流通し、これらからさらにハードディスク654に転送される。又は、プログラムはネットワーク668を通じてコンピュータ640に送信されハードディスク654に記憶されてもよい。プログラムは実行の際にRAM660にロードされる。DVD662から、USBメモリ664から又はネットワーク668を介して、直接にRAM660にプログラムをロードしてもよい。
【0098】
このプログラムは、コンピュータ640を、上記各開示に係るエッジサーバ180及びその各機能部として機能させるための複数個の命令からなる命令列を含む。コンピュータ640にこの動作を行わせるのに必要な基本的機能のいくつかはコンピュータ640上で動作するオペレーティングシステム若しくはサードパーティのプログラム又はコンピュータ640にインストールされる、ダイナミックリンク可能な各種プログラミングツールキット又はプログラムライブラリにより提供される。したがって、このプログラム自体はこの開示のシステム、装置及び方法を実現するのに必要な機能全てを必ずしも含まなくてよい。このプログラムは、命令の中で、所望の結果が得られるように制御されたやり方で適切な機能又はプログラミングツールキット又はプログラムライブラリ内の適切なプログラムを実行時に動的に呼出すことにより、上記したシステム、装置又は方法としての機能を実現する命令のみを含んでいればよい。もちろん、プログラムのみで必要な機能を全て提供してもよい。
【0099】
図12は、
図10に示すエッジサーバの機能的構成を示すブロック図である。
図12を参照して、エッジサーバ180はこうした運用を可能にするために以下のような構成を持つ。エッジサーバ180は、上記したように複数のインフラセンサ設備(カメラ及びLiDARのいずれか又は双方を含む。)からの信号及び車両搭載センサ(カメラ及びLiDARのいずれか又は双方を含む。)からの信号を無線通信又は有線通信経由で受信し、受信したデータをその内容により振り分ける受信処理部700を含む。
【0100】
エッジサーバ180はさらに、受信処理部700が受信したセンサデータを解析することにより、管理対象の範囲内に存在する車両及び歩行者を含む各移動体の位置、速度、属性等の解析結果を出力するための動体追跡部702と、動体追跡部702が出力する解析結果を記憶するための解析結果記憶部704と、受信処理部700が受信した信号に基づいて、車両及び歩行者等の移動体の車種、種別、時刻情報、GPS性能、GPSが通信可能な衛星数等を含む属性を検出する属性検出部706と、属性検出部706が検出した各移動体の属性を記憶する属性記憶部708と、解析結果記憶部704に記憶された解析結果と属性記憶部708に記憶された属性とを統合的に管理し、高精度マップ情報と統合して交通状況俯瞰マップを生成し出力する統合処理部710と、統合処理部710が出力する交通状況俯瞰マップを記憶する解析結果記憶部712とを含む。動体追跡部702が行うセンサデータによる解析手法自体は公知のもののいずれを採用してもよい。
【0101】
エッジサーバ180はさらに、受信処理部700が各車両及び端末から受信した信号に基づいて、管理対象のエリア内に存在する車両等の移動体の位置情報、車速及び加速度等からなる情報を得て、その情報に基づいて移動体を追跡するための車両・端末追跡部714と、車両・端末追跡部714により得られた各車両及び端末等の移動体情報を記憶するための車両・端末情報記憶部716と、解析結果記憶部712に記憶されたGPSが通信可能な衛星数に基づきGPSが通信可能な衛星数が3未満である車両、又はGPS精度(性能)が所定のしきい値以下である車両を特定し位置情報の補正が必要な車両として車両・端末情報記憶部716に記憶されたその車両の車両・端末情報をマークする追跡対象決定部718と、統合処理部710により生成され解析結果記憶部712に記憶された解析結果に基づいて、運転支援情報を生成するための運転支援情報生成部734とを含む。
【0102】
エッジサーバ180はさらに、追跡対象の車両と画像内の車両とのマッチングを行うための機能部として、受信処理部700を介して管理対象のインフラカメラからの画像を受信し、画像データと撮像時刻とに分離するインフラ画像受信部720と、インフラ画像受信部720が受信した画像内の車両の画像及びその撮像時刻を記憶するためのインフラ画像記憶部721と、車両・端末追跡部714及び車両・端末情報記憶部716に接続され、車両・端末追跡部714が位置補正の対象車両から位置情報を受信したことに応答して、その車両から所定範囲内に同一車種の車両が存在するか否かを判定するための同一車種有無判定部722と、管理領域内のインフラカメラの撮像領域地点の中でその車両が最近通過した時点のインフラ画像をインフラ画像記憶部721で特定するための画像特定部726と、画像特定部726により特定されたインフラ画像から、車両・端末追跡部714が位置情報を受信した車両の位置を推定するための車両位置推定部724と、車両・端末情報記憶部716に記憶されている、画像特定部726により特定された画像の撮像時刻でのその車両の位置と、車両位置推定部724により推定されたその車両の位置との誤差を算出するための誤差算出部728とを含む。
【0103】
車両位置推定部724は、2段階のニューラルネットワークを含む。第1段階のニューラルネットワークは、画像内のオブジェクトを、その画像内の位置、色、大きさ及びオブジェクト種別等の属性を含めて認識するためのものである。こうした技術は既に存在しており、1つの画像から複数のオブジェクトをそれらの種別を含めて推定可能である。車両位置推定部724はさらに、この第1段階のニューラルネットワークで認識されたオブジェクトの中で、オブジェクトの種別が車両であるものについて、その位置を画像内で認識する第2のニューラルネットワークを含む。この第2のニューラルネットワークは、画像内の他のオブジェクトについては、そのインフラカメラにより通常撮像される画像に置換し、通常そのインフラカメラにより撮像される背景画像に、対象となる車両の画像のみが配置された画像を入力とし、その車両の地理的位置を推定する。
【0104】
この第2のニューラルネットワークの訓練には、背景画像に車両を配置した画像を入力とし、そのときの車両の地理的位置を教師データとする訓練データを用いる。車両は実際にその位置に配置する必要はなく、背景画像に、車両の画像を、その想定される車両位置に基づいて計算した大きさ、形状、及び姿勢で配置した画像を用いて訓練データの入力とすればよい。車両の色等についても同様で、画像処理により同じ画像で車両の色のみ異なる画像を複数作成し、訓練用の入力データとして用いることができる。なお、インフラカメラが撮像する画像の背景は、常に同一と考えられる。そのため、インフラカメラごとに訓練データを準備すると、訓練データが疎になることがなく、認識精度を高くできる。したがって、車両位置推定部724はインフラカメラごとに訓練したものを個別に準備し、画像特定部726により特定された画像を撮像したインフラカメラ専用のニューラルネットワークを車両位置推定部724として用いる。
【0105】
エッジサーバ180はさらに、運転支援情報生成部734が生成した運転支援情報から車両・端末情報記憶部716に記憶された各車両に配信するための情報を生成したり、誤差算出部728が算出した誤差に基づき、車両・端末情報記憶部716に記憶された車両の中で、車両・端末追跡部714が受信した位置情報に対応する車両に送信するための位置の誤差補正情報を生成したりするための情報生成部730と、情報生成部730により生成された運転支援情報及び誤差補正情報をそれぞれの送信先(車載装置)に送信するための送信処理部732とを含む。送信先に関する情報は車両・端末情報記憶部716に記憶された車両のアドレスに基づいて情報生成部730が生成し各情報に付与する。
【0106】
図13は、
図12に示す各機能を実現するためのプログラムの制御構造を示すフローチャートである。
図13を参照して、このプログラムは、エッジサーバ180が情報を受信するたびに起動される。このプログラムは、受信した情報が車両からの情報か否かを判定してその結果により制御の流れを分岐させるステップ750と、ステップ750における判定が肯定であることに応答して、受信した情報からその車両の識別情報を特定するステップ754と、特定された対象車両の追跡情報、解析情報及び属性情報を、受信した位置情報に基づいて更新するステップ756と、受信した情報が、位置情報補正の対象となっている車両からの位置情報か否かを判定し制御の流れを分岐させるステップ758と、ステップ758の判定が肯定であることに応答して、同一車種がその車両の近傍に存在するか否かを
図12の車両・端末情報記憶部716に記憶されている各車両の位置情報に基づいてチェックするステップ760と、ステップ760の処理の結果、同一車種の車両がこの車両の近傍に存在しているか否かを判定し、その結果に応じて制御の流れを分岐させるステップ762とを含む。ステップ762の判定結果が肯定のときには、この車両の位置情報の補正は行わずこのプログラムの実行を終了する。
【0107】
このプログラムはさらに、ステップ762の判定が否定のとき、すなわちこの車両の近傍に同一車種の車両が存在していないと判定されたことに応答して、その車両がその画像を送信してきた時点で、その車両から受信した位置情報の近傍に存在するインフラカメラからの画像で撮像された画像の中で、その車両の画像を含む画像及びその車両の地理的位置を、画像内の車両像を認識することで特定するステップ764と、ステップ764で特定された画像が撮像された時点でエッジサーバ180が受信していたその車両の位置情報を車両・端末情報記憶部716から読出すステップ766と、ステップ766で読出した、車両から受信した位置情報と、画像から得た位置情報との差により、その車両の位置情報の誤差を算出するステップ768と、ステップ768で算出された誤差を、対象となる車両(このプログラムが起動されたときの情報を送信してきた車両)の車載装置に位置補正情報として送信してこのプログラムの実行を終了するステップ770とを含む。
【0108】
このプログラムはさらに、ステップ750の判定が否定のとき、すなわち受信した情報が車両からの情報ではないと判定されたことに応答して、受信情報をその情報の種類に応じて処理し、このプログラムの実行を終了するステップ752を含む。なお、ステップ758の判定が否定のとき、すなわち位置情報の補正のための追跡対象となっている車両からの情報ではないと判定されたときにもこのプログラムの実行は終了される。
【0109】
ステップ764では、インフラカメラの画像に基づいて車両の位置を推定する処理がニューラルネットワークを用いて行われる。このニューラルネットワークは、インフラカメラごとに予め訓練が行われているものである。その訓練には、そのカメラからした画像を入力データ、その画像内に存在する車両の、実際に測定された地理的位置を教師データとする訓練データが用いられる。車両としては多数の車種、車両の型、色等の種々の画像を用いる。教師データとして使用する車両位置は、一貫した方法で決める必要がある。そして車両位置の推定の際にも、同様の方法を採用する。
【0110】
なお、この開示では、インフラカメラごとに上記したニューラルネットワークのモデルを訓練する。ニューラルネットワークとしては畳込みニューラルネットワークがこの場合には好適である。インフラカメラが撮像する画像は基本的にいつでも同一で変化がない。したがって、同一の背景の中に存在する車両の位置を特定するための教師データが疎となるおそれは小さく、教師データとして不可能なほど多い画像を準備することになるおそれはない。教師データの画像として、実際の車両をインフラカメラの撮像範囲内に配置する必要はない。例えば、インフラカメラが撮像する、車両を含まない画像を1枚だけ(又は天気に応じて複数枚)用意し、そこに別途撮像した車両の画像を配置してもよい。この場合には、どのような向きでどのような位置にどのような大きさの車両画像を配置するかについて、予め換算式を用いて定め、画像を合成すればよい。ただし、車両の位置については、教師データが疎になることを防ぐために、ある程度の粒度で特定することが望ましい。例えば地図を30センチメートル四方の矩形に区分し、車両の中心がそれら矩形のうちのいずれの中に存在するかを示す情報を教師データとすればよい。教師データが豊富に入手できるなら、この粒度を上げて、例えば20センチメートル四方、又は15センチメートル四方等のより小さな矩形に地図を区分し、車両位置をその矩形の位置で特定することもできる。すなわち、車両の位置の測定精度を矩形の辺の長さに制限することで、モデルのための訓練データの量をコントロールできる。
【0111】
原理的には、インフラカメラごとではなく、全てのインフラカメラについて上記したニューラルネットワークを学習してもよい。しかし、インフラカメラによって背景が異なるので、教師データを十分に準備することが難しく、またニューラルネットワークの学習にも長時間を要することになる。
【0112】
〈動作〉
以上、構成を説明した位置補正システム150は以下のように動作する。まず、予め上記した方法により、
図12に示すエッジサーバ180の車両位置推定部724の訓練を、インフラカメラごとに行い、インフラカメラごとに車両位置推定部724のニューラルネットワークモデルを準備しておく。
【0113】
通常、
図7に示す各車両のHMIコントローラ232は、各センサからのセンサデータを受信し、RAM376又は補助記憶装置378に記憶する。HMIコントローラ232は、定期的に
図8に示すプログラムをCPU370で実行することにより、その車両の位置情報、時刻情報、車種、GPS性能、GPSが通信可能な衛星数、車速及び加速度等の情報を
図3に示すエッジサーバ180に無線を通じて送信する。
【0114】
図12を参照して、エッジサーバ180の受信処理部700は、この情報を受信すると、車両情報を用いて、今まで管理していなかった車両か否かを判定し、新たな車両であれば動体追跡部702、属性検出部706、車両・端末追跡部714に新たな車両のエントリを生成し、同じ識別番号を付与する。受信処理部700は位置情報を車両・端末追跡部714に与え、車両・端末追跡部714はそれらを車両・端末情報記憶部716に記憶する。又は、同じ車両に対する新しい車両情報を受信したときには、以前の車両の記録を新しい記録で更新する。
【0115】
受信処理部700が車両等からセンサ情報を受信したときには、動体追跡部702は、それらセンサ情報を動体追跡部702及び属性検出部706に与える。動体追跡部702は、センサ情報から、管理範囲内に存在する車両等の移動体の存在を認識し、各移動体についてその位置、移動方向、移動速度等に関する情報を生成する。これら情報は解析結果記憶部704に記憶される。
【0116】
一方、属性検出部706は、与えられたセンサデータに基づき、動体の色、大きさ、種類(歩行者/大人、歩行者/子供、車両(大型車、小型車、二輪車、自転車)等の属性を検出し、属性記憶部708に動体ごとに記憶させる。統合処理部710はこれら情報と、解析結果記憶部704に維持されている各動体についての属性とを統合して交通状況俯瞰マップを作成し、解析結果記憶部712に記憶させる。
【0117】
また受信処理部700は、車両等から位置情報を受信するとその情報を車両・端末追跡部714に与える。車両・端末追跡部714は、管理範囲内に存在する車両の車両情報を記憶し、定期的にその更新時刻、位置情報、移動速度及び移動方向等によって車両の現在位置を把握し維持管理する。
【0118】
運転支援情報生成部734は、定期的に解析結果記憶部712から交通状況俯瞰マップを読出し、公知の方法で運転支援情報を生成し、運転支援情報生成部734に与える。運転支援情報生成部734は、この運転支援情報を受けると、車両・端末情報記憶部716に記憶されている位置情報に基づいて運転支援情報を送信する車両のアドレスを決定し、送信処理部732を介してそのアドレスに運転支援情報を送信する。
【0119】
インフラ画像を受信したときには、受信処理部700はこの画像を動体追跡部702、属性検出部706、及びインフラ画像受信部720に与える。インフラ画像受信部720はこの画像をインフラ画像記憶部721に格納する。
【0120】
一方、位置情報を受信したときには、同一車種有無判定部722によりその情報を送信してきた車両が位置情報の補正のための追跡対象となっているか否かが判定され(
図13のステップ758)、さらに追跡対象であればその位置から所定範囲内に、同一車種の車両が存在しているか否かが車両・端末情報記憶部716の中の情報に基づいて同一車種有無判定部722によりチェックされる(ステップ760)。もしもそのような車両があれば(ステップ762でYES)、この開示では、位置情報の補正は行わない。そのような車両が他に存在していなければ(ステップ762でNO)、
図13のステップ764、766、768及び770の処理がこの順に実行され、位置補正情報が該当車両に送信される。
【0121】
図9を参照して、この補正情報を受信した車両では、
図9のステップ500→ステップ504という経路を経てステップ508の処理を実行する。すなわち、受信した位置補正情報をRAM376又は補助記憶装置378(
図7参照)に保存する。以下、デッドレコニングにより算出された位置情報にこの位置補正情報が加算される。GPSが通信可能な測位衛星の数が3個以上となったときには位置補正情報はクリアされる。
【0122】
以上のようにこの開示によれば、車両から位置情報が受信されると、その車両が位置補正のための追跡対象となっているか否かが判定される。対象となっている場合には、その近傍に同一車種の車両がないことを確認することで、その車両が特定地点を通過した時点で撮像された、その車両の画像を含むインフラ画像が特定される(ステップ764)。その画像から、車両の正確な位置が推定される。すなわち、画像に含まれる車両と、追跡対象の画像とがマッチングされる。こうして推定された位置と、その画像が撮像された時点にその車両から送信された位置情報との間の誤差が、位置誤差の補正情報として該当車両に送信される。該当車両はこの補正情報を格納し、以後、デッドレコニングで位置情報が出力されるたびに、その位置情報にこの誤差を加算することで、デッドレコニングによる位置情報を補正する。この車両のGPSが通信可能な測位衛星の数が3個以上となった時点でこの補正情報はクリアされ、GPSの出力が位置情報として採用されるようになる。
【0123】
したがって、インフラカメラのように、すでに普及しているインフラ設備を用いて、位置情報の精度が落ちている車両の位置を補正できる。特許文献1の光ビーコンのような設備を多数配置する必要はなく、また特許文献2のように車載カメラの画像を使用する必要もない。車載カメラの画像と比較してインフラカメラの画像の背景は基本的に常に同一であり、車両の検出及び位置の検出も精度高く行える。
【0124】
インフラカメラによる撮像画像の中の車両の画像及びその位置が認識される。車両・端末追跡部714により管理されているその車両に関する車両情報から、その画像が撮像されたときにその車両から送信され、車両・端末追跡部714に記憶されていた位置情報が読出される。この2つの位置が比較され、両者の誤差が計算され、その車両位置誤差情報として送信される。
【0125】
なお、この開示は、主として
図3に示すような高層ビル街を車両が走行する場合の問題を解決するためのものである。しかしこうした問題は高層ビル街だけで生ずるわけではない。例えばトンネル内等でも同様の問題が生じ得る。多くの場合、トンネルの中にもインフラカメラが設置されているので、この開示に係る位置補正システムを利用できる。デッドレコニングでの位置誤差の目安は、オープンスカイでは中央値で数メートル、最大値で10メートル程度、ビル街では中央値が十数メートル、最大値は百数十メートル、トンネル内では中央値が数十メートル、最大値は百数十メートルである。こうした誤差はかなり大きなものである。
【0126】
インフラカメラを用いた上記開示のシステムによる位置の検知の誤差は、実験によれば数メートル以内に収めることができる。解析に要する時間は、位置検出に数十ミリ秒、車種の識別には1秒以内に収めることができる。また、インフラカメラの画像はズームインすることができる。ズームインして撮像範囲を絞ることで、さらに精度を高くできる。なお、車両が特定できれば、その車両がインフラカメラの撮像領域を通り過ぎた後でも位置を補正可能である。
【0127】
―変形例―
上記第1の開示のシステムでは、
図12に示す同一車種有無判定部722により、受信した位置情報により特定される位置から所定範囲内にその車両の車種と全く同じ車種の他の車両が存在しているか否かが判定される。もしもそのような他の車両が存在している場合には、受信した位置情報に基づく位置情報の補正処理は実行されない。全く同じ車種の2つ以上の車両が同一の時刻にごく近くに存在していることは稀なので、このような開示に係る方法でも特に問題は生じないと考えられる。
【0128】
しかし、稀とはいえ、そうした状況が発生しないとはいえない。例えば
図14では、全く同一車種の2台の車両780及び782がお互いの中心の間の距離Lで近接している場合を示す。また車両780の位置情報の誤差範囲が車両780を中心として半径Rの円784、車両782の位置情報の誤差範囲が車両782を中心として円784と重複する円786だとすると、車両780から受信した位置情報が本当に車両780の位置だったとしても、画像からはその車両が車両780なのかは判別できない。このように2台の車両が近接して存在しており、しかも両者とも同一車種である場合、インフラ画像にもこれら2台の車両が存在する場合が多くなる。仮にインフラ画像の中にこれらの中の1台しか認識できなかったとしても、その車両が上記2台の中のいずれであるかは画像からも、上記位置情報からも判定できない。したがってこの場合には、上記第1の開示では位置情報の補正は行わない。
【0129】
しかし、このような場合でも、条件によっては位置情報を送信してきた車両を判別可能な場合がある。
図15は、全く同一車種の2台の車両が近接している場合の車両同定に関する問題点を解決するための方法を示す模式図である。
図15を参照して、仮に車両780及び782の双方とも前方画像を撮像する車載カメラを装備しているものとする。両者は同一車種なのでこうした条件が充足される可能性は高い。この場合、車両782の車載カメラの撮像領域790には車両780が存在するので、その画像には車両780の画像があるはずである。一方、車両780の車載カメラの撮像領域788には、車両780、782と同一車種の車両の画像は写っていないはずである。
【0130】
そこで、上記したように近接した位置に2台の同一車種の車両が存在している場合、それらの車両が前方を撮像する車載カメラを装備している場合には、その画像をエッジサーバ180に送信するようそれら車両に指示する。受信した画像内の車両を画像認識し、位置情報を送ってきた車両と同一車種の車両が写っていれば、位置情報を送ってきた車両は2台の中の後ろの車両782であることが分かる。一方、そうした車両が写っていない場合、その車両は先頭の車両780であると判定できる。そこで、インフラ画像内の先頭車両の画像の地理的位置を第1の開示と同様に認識し、先頭車両の位置情報と比較して補正情報を生成する。
【0131】
図16は、全く同一車種の3台の車両が近接している場合の車両同定に関する問題点を説明するための模式図である。この例では、車両780及び782に加え、全く同一車種の車両792が車両780等の車線に隣接した車線を並走している。このような場合にも、一定の条件のときには位置情報を送信してきた車両を同定できる。
【0132】
例えばこの場合にも、これら3台の車両に、前方画像を撮像する車載カメラが存在していれば、それらを送信するようこれら車両に指示する。これらの車両から受信した車載カメラの画像は、同一車種の車両の像を含むものと含まないものとに分類できる。例えば車両792の車載カメラの撮像領域796には同一車種の車両は存在しない。したがってその画像の中にはこれらと同一車両の画像はないはずである。撮像領域788を持つ車両780の場合も同様である。しかし撮像領域790を持つ車両782の場合には、撮像領域790に車両780が存在しているので、前方の撮像画像の中には車両780の画像が存在含まれるはずである。
【0133】
位置情報を送信してきた車両からの画像が同一車種の車両の像を含み、他の2台の車両からの画像が同一車両の像を含まない場合には、
図16でこの条件を満たすのは、位置情報を送信してきた車両が車両782である場合のみである。したがってこの場合には車両782が位置情報を送信してきた車両として同定できる。
【0134】
一方、位置情報を送信してきた車両からの画像が同一車種の車両の像を含まず、他の2台の車両の中の一方からの画像にも同一車種の車両の像が含まれない場合には、位置情報を送信してきた車両は車両780か車両792かを判定できない。したがってこの場合には位置情報を送信してきた車両は同定できない。
【0135】
これと同様、位置情報を送信してきた車両からの画像が同一車種の車両の像を含み、他の車両の中の1台の車両からの画像も同一車種の車両の像を含む場合には、位置情報を送信してきた車両は同定できない。また、位置情報を送信してきた車両からの画像が同一車種の車両の像を含まず、他の2台の車両からの画像がいずれも同一車種の車両の像を含む場合には、同一車種の車両の像を含まない画像を送信してきた車両が、位置情報を送信してきた車両であると判定できる。
【0136】
この考え方によれば、位置情報を送信してきた車両からの画像に含まれる同一車種の車両の像の数が、他の車両からの画像に含まれる同一車種の車両の像の数のいずれとも異なっている場合には、位置情報を送信してきた車両を同定でき、それ以外の場合には同定できないことになる。
【0137】
この開示では、この考え方にしたがって、位置情報を送信してきた車両の近傍に同一車種の車両が存在している場合でも、特定の条件が成立したときには、位置情報を送信してきた車両を同定し、その車両の位置情報を補正する。
【0138】
図17は、この開示に係るエッジサーバが実行するプログラムの制御構造を示すフローチャートである。
図17を参照して、このプログラムは、
図13に示すものと同じステップ750、752、754、756、758及び760を含む。このプログラムは、
図13と異なり、ステップ760に続き、近傍に同一車種の車両が1台のみか否かを判定し、結果により制御の流れを分岐させるステップ830と、ステップ830の判定が否定のときに、それら同一車種の車両の全てから前方カメラの画像を取得するステップ832と、ステップ832で取得した各画像内の車両を車種も含めて認識するステップ834と、ステップ834に続き、位置情報を送信してきた車両からの前方画像内の同一車種の車両の数が、他の画像内の同一車種の車両の数のいずれとも異なるか否かを判定し、判定にしたがって制御の流れを分岐させるステップ836とを含む。ステップ836の判定結果が否定ならこのプログラムの実行は終了する。すなわち、位置情報を送信してきた車両の位置情報の補正は行わない。
【0139】
一方、ステップ836の判定が肯定のときには、位置情報を送信してきた車両からの画像に含まれる同一車種の車両の数によって、同一車種の集団内におけるその車両の位置を特定するステップ763を実行し、さらに
図13に示すものと同じステップ764、766、768及び770と同じ処理が実行され、このプログラムの実行は終了する。ステップ830の判定が肯定のときには同様にステップ764以下の処理が実行される。すなわち、画像内の車両と追跡対象とがマッチングされる。なお、位置情報を送信してきた車両からの前方画像に含まれる同一車種の車両がユニークなときには、例えばその数によって、同一車種の集団内の特定位置(多くは先頭又は最後尾)であることが分かる。その結果、インフラ画像内でそうした条件に合致する車両の位置を特定し、その情報を用いてその車両の位置情報を補正できる。
【0140】
以上のようにこの変形例では、位置情報を送信してきた車両からの前方画像が特定の条件を満たす(画像内の同一車種の車両数がユニークである)ときにのみ、位置情報を送信してきた車両をインフラ画像内で特定し、その位置情報を補正する。それ以外のときには位置情報の補正は行わない。
【0141】
このように同一車種の車両が複数台、近接しているという稀な場合でも、ある条件が満たされれば補正のための追跡対象となる車両が特定でき、その位置情報を補正できる。
【0142】
<第2の開示>
上記した第1の開示に係る位置補正システム150及びその変形例では、車両から位置情報を受信したことを契機として車両の位置情報の補正が開始される。位置情報の補正では、位置情報を送信してきた車両が特定位置を走行していたときの画像が特定され、その画像からその車両の位置がニューラルネットワークで推定される。推定された位置と、その画像が撮像されたときにその車両から送信された位置との誤差に基づいて補正情報が生成される。画像内での対象車両の特定にはニューラルネットワークによる画像認識が使用され、さらに該当する車両が複数認識された場合には、特定の条件を満たすものを選択するための処理が実行される。しかしこの発明はそのようなものには限定されない。同じ画像認識でも、車両のナンバープレートを画像認識することができれば、画像内に同一車種の車両が複数台あっても、位置情報を送信してきた車両を容易に同定できる。
【0143】
図18は、この第2の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。
図18に示すフローチャートは、
図13のステップ760に代えて、対象車両のナンバープレート情報を車両・端末情報記憶部716から読出すステップ900と、ステップ900に続き、その車両の位置の近傍に存在するインフラカメラからのインフラ画像の中で、その車両のナンバープレートを持つ車両が特定地点を通過した時点のインフラ画像を特定するステップ902とを含む。ステップ902の後は、インフラ画像内の
図13のステップ766、768、770が実行され、このプログラムの実行は終了する。
【0144】
車両のナンバープレートが画像から認識できれば、対象となる車両の同定は容易である。したがって第1の開示の変形例のように、車両の同定のための複雑なマッチングを実行する必要はない。
【0145】
<第3の開示>
図19は、第3の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。第1及び第2の開示のシステムは、対象車両から位置情報を受信したことを契機として位置情報の補正処理を開始している。しかし、補正処理を開始する契機は位置情報の受信には限らない。例えば、対象車両の各々について、定期的に補正処理を実行してもよい。この第3の開示はそのような例である。ハードウェア構成としては、
図10及び
図11に示す第1の開示のものと同様のサーバを利用できる。
【0146】
図19を参照して、この第3の開示を実現するためのプログラムは、
図12に示す車両・端末情報記憶部716に記憶されている、補正のための追跡対象である車両の各々に対して、以下の処理942を実行するステップ940を含む。
【0147】
処理942は、処理中の対象車両について、車両・端末情報記憶部716に記憶されている各車両の位置情報に基づいて、現在のその車両の近くにインフラカメラが存在するかを判定し、近くにインフラカメラが存在しない場合には処理942を終了し次の対象車両に対する処理を開始させるステップ950を含む。
【0148】
このプログラムはさらに、ステップ950の判定が肯定のときに、対象車両の近くに存在するインフラカメラの画像を取得するステップ952と、取得された画像内の車両を認識するステップ954と、認識された車両の中に、処理中の対象車両が存在するか否かを判定し、存在しない場合には処理942の実行を終了させるステップ956と、ステップ956の判定が肯定のときに、インフラカメラの画像に基づく画像認識により、
図12に示す車両位置推定部724と同様のニューラルネットワークを用いて対象車両の位置を特定するステップ958と、ステップ958で処理されたインフラ画像が撮像されたときの当該対象車両の位置を、車両・端末情報記憶部716に記憶されている当該車両の位置の履歴に基づいて算出するステップ960とを含む。
【0149】
このプログラムはさらに、ステップ958で特定された対象車両の位置と、ステップ960で算出された対象車両との位置の誤差を計算するステップ962と、ステップ962計算された誤差を補正情報として処理中の対象車両に送信し処理942の実行を終了するステップ964とを含む。
【0150】
この
図19に示す処理を繰返して実行することにより、第1及び第2の開示と同様、位置情報の精度が低くなっている対象車両の位置を、インフラ画像を用いて補正できる。
【0151】
<第4の開示>
図20は、第4の開示に係るエッジサーバの機能を実現するプログラムの制御構造を示すフローチャートである。この第4の開示に係るシステムは、インフラ画像からの画像を受信したことを契機として、その画像の中の車両の画像に基づいて当該車両の位置情報の補正を行う。
【0152】
図20を参照して、このプログラムは、
図12に示すインフラ画像受信部720がインフラカメラからインフラ画像を受信したことを契機として、以下の処理を実行する。
【0153】
このプログラムは、インフラ画像を受信したことに応答して起動され、そのインフラ画像内の車両画像を認識するステップ980と、ステップ980に引き続き、認識された各車両について、以下の処理984を実行するステップ982と含む。
【0154】
処理948は、処理中の車両が位置補正の対象車両か否かを車両・端末情報記憶部716(
図12)に記憶されている情報に基づいて判定し、判定が否定のときに処理948を終了するステップ990と、ステップ990の判定が肯定のときに実行される、
図19に示すものと同じステップ958、960、962及び964とを含む。
【0155】
ステップ990で行われる車両の認識では、第1の開示とは異なる方法を用いる。インフラ画像に複数の車両の画像が含まれる場合には、ここでの判定の対象となる車両の画像以外を全てこのインフラカメラの背景画像に置換する点は第1の開示と同様である。しかしここでは、判定の対象となる画像と、判定の対象となる車両の位置情報及び属性情報等の全てとを入力とし、その画像が判定の対象となる車両の画像か否かを示す正誤の2ラベルを教師データとして訓練した畳込みニューラルネットワークを判定に用いる。このニューラルネットワークの最終層にSoftMax関数を採用することで、このニューラルネットワークは、画像と、対象となる車両の情報とを含む入力に対して、その画像に含まれる車両の画像が、入力された車両の画像である確率を示すものとなる。車両・端末情報記憶部716に記憶されている全ての対象車両に対して、このニューラルネットワークによる判定を行い、最も確率が高くかつ確率がしきい値(例えば85%)以上の場合にはその画像にある車両の像が入力された対象車両のものであると判定する。
【0156】
この第4の開示ではインフラ画像を受信したことに応答して、その画像に含まれる全ての車両の画像を認識し、各車両の画像について、車両・端末情報記憶部716に記憶されている対象画像のものか否かを判定する。このような判定を行うことにより、インフラ画像の中の車両が対象車両か否かが分かり、そのインフラ画像が撮像されたときに対象車両から送信された位置情報と、画像から推定された車両の位置とを比較してその誤差を算出できる。
【0157】
上記したいずれの開示でも、使用される画像はインフラカメラで撮像された画像である。インフラカメラで撮像された画像の背景は短期的には常に同一とみなしてよい。そのため、車載カメラを用いてランドマークを認識する場合と比較して、例えばニューラルネットワークを用いて画像の中の車両を認識する場合、教師データが疎となることがなく、ニューラルネットワークによる画像認識の精度を高くできる。またインフラカメラという、既に普及しているインフラ設備装置を使用するため光ビーコンのような特別な設備を新たに設ける必要がないという効果もある。また、
図15及び
図16では、車両のマッチングに前方画像を用いる例を示したが、この開示は前方画像を用いるものには限定されない。例えば後方画像を用いるものでもよい。
【0158】
今回の開示は単に例示であって、この開示が上記した開示のみに制限されるわけではない。この開示の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内での全ての変更を含む。
【符号の説明】
【0159】
50、100、150 位置補正システム
60 光ビーコン
62 ポール
64、116、176、178、200、780、782、792 車両
66、68 ビーコンデータ
70 車載通信機
72 カメラ
110 サーバ
112 ランドマーク位置情報記憶装置
114 ランドマーク
160 インフラカメラ
162、164、166、168、170、172 高層ビル
174 道路
180 エッジサーバ
202 ペイント
204 距離
210 車載装置
212 ミリ波レーダ
214 車載カメラ
216 LiDAR
230 車外通信コントローラ
232 HMIコントローラ
234 自動運転コントローラ
236 走行系コントローラ
240 統合アンテナ
242、642 モニタ
244、246、250、252、254、256 ECU
248 自動運転ECU
350、640 コンピュータ
352 タッチパネル
356 各種ECU
358 各種センサ
360 スピーカ・マイク
362、664 USBメモリ
370、656 CPU
372、666 バス
374、658 ROM
376、660 RAM
378 補助記憶装置
380 無線通信部
382 入出力I/F
384、652 USBメモリポート
390 音声処理I/F
392、644 ネットワークI/F
394 車内LAN
400、402、500、502、504、508、512、750、752、754、756、758、760、762、763、764、766、768、770、830、832、834、836、900、902、940、950、952、954、956、958、960、962、964、980、982、990 ステップ
646 キーボード
648 マウス
650 DVDドライブ
654 HDD
657 GPU
662 DVD
668 ネットワーク
700 受信処理部
702 動体追跡部
704、712 解析結果記憶部
706 属性検出部
708 属性記憶部
710 統合処理部
714 車両・端末追跡部
716 車両・端末情報記憶部
718 追跡対象決定部
720 インフラ画像受信部
721 インフラ画像記憶部
722 同一車種有無判定部
724 車両位置推定部
726 画像特定部
728 誤差算出部
730 情報生成部
732 送信処理部
734 運転支援情報生成部
784、786 円
788、790、796 撮像領域
942、984 処理