IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社豊田中央研究所の特許一覧 ▶ トヨタ自動車株式会社の特許一覧

特開2024-140879相対位置姿勢補正装置及びプログラム
<>
  • 特開-相対位置姿勢補正装置及びプログラム 図1
  • 特開-相対位置姿勢補正装置及びプログラム 図2
  • 特開-相対位置姿勢補正装置及びプログラム 図3
  • 特開-相対位置姿勢補正装置及びプログラム 図4
  • 特開-相対位置姿勢補正装置及びプログラム 図5
  • 特開-相対位置姿勢補正装置及びプログラム 図6
  • 特開-相対位置姿勢補正装置及びプログラム 図7
  • 特開-相対位置姿勢補正装置及びプログラム 図8
  • 特開-相対位置姿勢補正装置及びプログラム 図9
  • 特開-相対位置姿勢補正装置及びプログラム 図10
  • 特開-相対位置姿勢補正装置及びプログラム 図11
  • 特開-相対位置姿勢補正装置及びプログラム 図12
  • 特開-相対位置姿勢補正装置及びプログラム 図13
  • 特開-相対位置姿勢補正装置及びプログラム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024140879
(43)【公開日】2024-10-10
(54)【発明の名称】相対位置姿勢補正装置及びプログラム
(51)【国際特許分類】
   G06T 7/70 20170101AFI20241003BHJP
【FI】
G06T7/70 Z
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023052238
(22)【出願日】2023-03-28
(71)【出願人】
【識別番号】000003609
【氏名又は名称】株式会社豊田中央研究所
(71)【出願人】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】渡邉 章弘
(72)【発明者】
【氏名】横山 明久
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096BA04
5L096CA04
5L096CA05
5L096EA26
5L096EA39
5L096FA32
5L096FA67
5L096FA69
5L096FA74
5L096GA32
(57)【要約】
【課題】複数の情報収集装置の相対位置及び姿勢を補正する情報を導出する。
【解決手段】相対位置姿勢補正装置10Aは、物標の位置情報を含む複数の周辺環境情報を取得する取得部(12)と、情報収集装置の位置及び姿勢を各々含むノード、及び周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報を対応付けたノード間を結ぶ辺によるグラフを生成する生成部(16)と、辺の数が3つ以上の閉路に含まれる各辺の相対位置補正情報を合成して閉路の第1信頼度を算出する第1信頼度算出部(18A)と、第1信頼度に基づいて、各辺の相対位置補正情報の第2信頼度を算出する第2信頼度算出部(18B)と、第2信頼度に基づいて、ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部(22)と、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部と、
前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部と、
前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部と、
前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部と、
前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部と、
を備えた相対位置姿勢補正装置。
【請求項2】
前記第1信頼度算出部は、前記閉路として、前記複数地点のうちの始点を示すノードから他のノードを経由して終点を示すノードとして前記始点を示すノードに戻るまでの経路を、前記地点間の座標系を座標変換する座標変換用の閉路として設定し、前記始点のノードにより示される地点の座標系と、前記座標変換用の閉路に従って座標変換された結果の座標系との相対位置及座標系の相対姿勢の誤差が小さくなるに従って高くなるように前記座標変換用の閉路の信頼度を算出し、
前記第2信頼度算出部は、前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記座標変換用の閉路の信頼度が大きくなるに従って高くなるように前記第2信頼度を算出する
請求項1に記載の相対位置姿勢補正装置。
【請求項3】
前記選択部は、前記辺の各々に対応する相対位置補正情報に対して前記第2信頼度が高いほど小さくなるように設定した重みの総和が予め定めた閾値以下の経路による相対位置補正情報を選択する
請求項1に記載の相対位置姿勢補正装置。
【請求項4】
前記情報収集装置は、車両の周辺を撮影する撮影装置を含み、
前記周辺環境情報は、前記撮影装置で撮影された撮影画像である
請求項1に記載の相対位置姿勢補正装置。
【請求項5】
前記複数地点の各々における情報収集装置は、時間経過前後の同じ情報収集装置である
請求項1に記載の相対位置姿勢補正装置。
【請求項6】
前記第2信頼度算出部で算出された前記第2信頼度に基づいて、予め定めた閾値未満の値の第2信頼度に対応する辺の相対位置補正情報及び当該辺に繋がるノードの少なくとも一方を無効化する無効化部、
をさらに備えた請求項1に記載の相対位置姿勢補正装置。
【請求項7】
コンピュータを、
複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部、
前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部、
前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部、
前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部、および、
前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、相対位置姿勢補正装置及びプログラムに関する。
【背景技術】
【0002】
複数台のカメラの各々の撮影画像を用いて、各カメラの姿勢を含む外部パラメータを推定する技術が知られている。特許文献1では、複数のカメラ間で撮影領域がオーバーラップしている領域内に複数のマーカを固定的に設置し、当該複数のマーカを検出してマーカ間の相対的な位置関係に基づいて、各カメラの外部パラメータを推定する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2022-154076号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、複数カメラ画像の各々に共通に含まれるマーカ等の共通の物標を対応付ける場合、対応付けた物標の対応関係に誤対応などが生じることがある。このように、物標の対応付けに誤対応が生じると、複数カメラ画像の各々から複数カメラの間における相対位置を補正する場合、想定外の局所的な値が最適解として推定される場合がある。従って、複数のマーカを検出してマーカ間の相対的な位置関係に基づいて、複数カメラの間における関係を考慮することには、改善の余地がある。
【0005】
本開示は、複数の情報収集装置による複数の周辺環境情報に共通の物標を対応付ける場合に誤対応が生じても、複数の情報収集装置の相対位置及び姿勢を補正する情報を導出することができる相対位置姿勢補正装置及びプログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の第1態様は、複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部と、前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部と、前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部と、前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部と、前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部と、を備えた相対位置姿勢補正装置である。
【0007】
第2態様は、第1態様の相対位置姿勢補正装置において、前記第1信頼度算出部は、前記閉路として、前記複数地点のうちの始点を示すノードから他のノードを経由して終点を示すノードとして前記始点を示すノードに戻るまでの経路を、前記地点間の座標系を座標変換する座標変換用の閉路として設定し、前記始点のノードにより示される地点の座標系と、前記座標変換用の閉路に従って座標変換された結果の座標系との相対位置及座標系の相対姿勢の誤差が小さくなるに従って高くなるように前記座標変換用の閉路の信頼度を算出し、前記第2信頼度算出部は、前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記座標変換用の閉路の信頼度が大きくなるに従って高くなるように前記第2信頼度を算出する。
【0008】
第3態様は、第1態様の相対位置姿勢補正装置において、前記選択部は、前記辺の各々に対応する相対位置補正情報に対して前記第2信頼度が高いほど小さくなるように設定した重みの総和が予め定めた閾値以下の経路による相対位置補正情報を選択する。
【0009】
第4態様は、第1態様の相対位置姿勢補正装置において、前記情報収集装置は、車両の周辺を撮影する撮影装置を含み、前記周辺環境情報は、前記撮影装置で撮影された撮影画像である。
【0010】
第5態様は、第1態様の相対位置姿勢補正装置において、前記複数地点の各々における情報収集装置は、時間経過前後の同じ情報収集装置である。
【0011】
第6態様は、第1態様の相対位置姿勢補正装置において、前記第2信頼度算出部で算出された前記第2信頼度に基づいて、予め定めた閾値未満の値の第2信頼度に対応する辺の相対位置補正情報及び当該辺に繋がるノードの少なくとも一方を無効化する無効化部、をさらに備える。
【0012】
第7態様は、コンピュータを、複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部、前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部、前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部、前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部、および、前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部、として機能させるためのプログラムである。
【発明の効果】
【0013】
本開示によれば、複数の情報収集装置による複数の周辺環境情報に共通の物標を対応付ける場合に誤対応が生じても、複数の情報収集装置の相対位置及び姿勢を補正する情報を導出することができる、という効果が得られる。
【図面の簡単な説明】
【0014】
図1】第1実施形態に係る相対位置姿勢補正装置の構成の一例を示すブロック図である。
図2】第1実施形態に係る相対位置姿勢補正装置として機能するコンピュータの構成の一例を示すブロック図である。
図3】複数の地点で周辺環境情報を収集する際の概念図である。
図4】ローカル座標系と世界座標系の関係性を示す概念図である。
図5】複数地点の関係性を示す概念図である。
図6】1対1の組み合わせによる地点間の関係を示す概念図である。
図7】エッジ及びノードの組み合わせにおける閉路の一例を示す概念図である。
図8】ノード間の補正で経路の選択結果の一例を示す概念図である。
図9】第1実施形態に係る相対位置姿勢推定処理プログラムの処理の流れの一例を示すフローチャートである。
図10】複数の周辺環境の地図を統合することに関する概念図である。
図11】第2実施形態に係る相対位置姿勢補正装置の構成の一例を示すブロック図である。
図12】第2実施形態に係る相対位置姿勢推定処理プログラムの処理の流れの一例を示すフローチャートである。
図13】第3実施形態に係る相対位置姿勢補正装置の構成の一例を示すブロック図である。
図14】第3実施形態に係る相対位置姿勢推定処理プログラムの処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0015】
以下、図面を参照して本開示の技術を実現する実施形態を詳細に説明する。
なお、本実施形態では、作用、機能が同じ働きを担う構成要素及び処理には、全図面を通して同じ符合を付与し、重複する説明を適宜省略する場合がある。各図面は、本開示の技術を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本開示の技術は、図示例のみに限定されるものではない。また、本実施形態では、本発明と直接的に関連しない構成や周知な構成については、説明を省略する場合がある。
【0016】
[第1実施形態]
図1は、第1実施形態に係る相対位置姿勢補正装置10Aの構成の一例を示すブロック図である。
【0017】
図1に示すように、相対位置姿勢補正装置10Aは、取得部12、相対位置補正情報演算部14、グラフ生成部16、信頼度演算部18、及び統合部22を備えている。
【0018】
図2は、相対位置姿勢補正装置10Aとして機能するコンピュータの構成の一例を示すブロック図である。
【0019】
図2に示すように、相対位置姿勢補正装置10Aとして機能するコンピュータは、CPU(Central Processing Unit)31、RAM(Random Access Memory)32、およびROM(Read Only Memory)33を備えた汎用的なコンピュータ本体30を含んで構成されている。ROM33には、相対位置姿勢推定処理プログラム33Pが格納されている。コンピュータ本体30は、入出力インタフェース(I/O)34を備えており、CPU31、RAM32、ROM33、及びI/O34は各々コマンド及びデータを授受可能にバス35を介して接続されている。また、I/O34には、移動体の一例である車両40等に装備されたの外部装置と、有線接続通信及び無線接続通信の少なくとも一方の通信により通信する通信部36が接続されている。
【0020】
相対位置姿勢推定処理プログラム33Pは、例えば、相対位置姿勢補正装置10Aに予めインストールされていてもよい。また、相対位置姿勢推定処理プログラム33Pは、不揮発性の記憶媒体に記憶して、又はネットワークを介して配布し、相対位置姿勢補正装置10Aに適宜インストールすることで実現してもよい。なお、不揮発性の記憶媒体の例としては、CD-ROM(Compact Disc Read Only Memory)、光磁気ディスク、HDD(Hard Disk Drive)、DVD-ROM(Digital Versatile Disc Read Only Memory)、フラッシュメモリ、メモリカード等が想定される。
【0021】
コンピュータ本体30は、相対位置姿勢推定処理プログラム33PがROM33から読み出されてRAM32に展開され、RAM32に展開された相対位置姿勢推定処理プログラム33PがCPU31によって実行されることで、図1に示す相対位置姿勢補正装置10Aとして動作する。なお、相対位置姿勢推定処理プログラム33Pは、図1に示す相対位置姿勢補正装置10Aの各部を実現するためのプロセスを含む。すなわち、CPU30は、図1に示す取得部12、相対位置補正情報演算部14、グラフ生成部16、信頼度演算部18、及び統合部22として機能する。
【0022】
相対位置姿勢補正装置10Aは、車両40から各種の情報を取得する。
本実施形態では、相対位置姿勢補正装置10Aが車両40と通信して情報を授受する場合を一例として説明する。しかし、本開示の技術は、相対位置姿勢補正装置10Aが車両40の外部に設置されることに限定されない。例えば、相対位置姿勢補正装置10Aは車両40に搭載(すなわち車両40の内部に設置)されてもよい。
【0023】
車両40は、カメラ42、メモリ44及び通信部46を備えている。通信部46は、カメラ42及びメモリ44に接続されている。カメラ42は、撮影装置の一例であり、車両40の周辺を撮影する。なお、カメラ42は、1台でもよいし、複数台でもよい。また、カメラ42の撮影範囲は、車両40から何れの方向に向いてもよく、車両40の進行方向(前方)、横向き、後ろ向き及び全方位の少なくとも1つの方位であればよい。また、カメラ42の画角及び解像度は、予め設定されてもよく、入力された任意の設定値に設定されてもよい。なお、カメラ42で撮影されて得られた画像情報は、メモリ44に記憶することが可能である。
【0024】
メモリ44には、自車両に関する車両情報が格納される。車両情報は、自車両を識別するための自車両固有の識別情報を含む。画像情報は、識別情報と関連付けて記憶することが可能である。画像情報は、撮影した時間を示す時間情報を対応付けて記憶することが可能である。時間情報は、現在の日時を示す時計(図示省略)を備えて当該時計から取得してもよいし、通信によって外部から取得してもよい。
【0025】
通信部46は、相対位置姿勢補正装置10Aへ、カメラ42で撮影された画像を示す画像情報を送信する。
【0026】
本実施形態では、複数の車両40の各々が走行又は停止している環境において、相対位置姿勢補正装置10Aが複数の車両40の各々から情報を取得する場合を説明する。相対位置姿勢補正装置10Aは、車両40に代えて、予め定めた位置に設定されている撮影画像を含む周辺環境情報を収集する固定装置(図示省略)から情報を取得してもよい。
【0027】
なお、相対位置姿勢補正装置10Aが、予め定めた所定範囲の車両40に対して通信可能な通信機能を有することで、その所定範囲内に存在する複数の車両40の各々から、情報を取得することが可能となる。これによって、相対位置姿勢補正装置10Aは、所定範囲内に存在する複数の車両40の各々で撮影する撮影画像に対する座標系の相対的な位置及び姿勢を推定することが可能となる。
【0028】
また、本実施形態では、複数の車両40の各々を区別が必要な場合は符号(A、B等)を付して説明するが、区別不要の場合は車両40と称して説明する。
車両40及びカメラ42、そして固定装置(図示省略)は、情報収集装置の一例である。
【0029】
図1に示す相対位置姿勢補正装置10Aの取得部12は、複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報として撮影画像を示す画像情報を取得する機能部である。この取得部12は、複数の地点の各々における周辺環境情報を取得する。周辺環境情報は物標の位置、及び種類等を含み、周辺環境情報を収集する情報収集装置について少なくとも情報収集装置の座標系における位置情報を含む。取得部12は、本開示の取得部の一例である。
【0030】
すなわち、取得部12は、少なくとも車両40のメモリ44に記憶された画像情報を取得する。具体的には、複数の地点の各々に周辺環境を示す周辺環境情報を収集するセンサを備えた情報収集装置が配置され、当該複数の情報収集装置から複数の地点における周辺環境情報を取得する。周辺環境情報は物標の位置、種類などであり、周辺環境情報を収集する情報収集装置について少なくともセンサの座標系における位置情報を含む。本実施形態では、当該センサを備えた情報収集装置として車両40を適用し、センサとしてカメラ42を適用し、周辺環境情報として車両40のカメラ42により撮影された物標を含む車両40の周辺の画像情報を適用する。すなわち、取得部12は、複数の車両40のカメラ42により撮影された物標を含む車両40の周辺の画像情報を取得する。なお、取得部12は、画像情報に対応付けた車両情報と時間情報とを取得可能なものとする。
【0031】
相対位置補正情報演算部14は、複数の地点の各々の間における相対位置及び姿勢を補正する相対位置補正情報を演算する機能部である。相対位置補正情報演算部14は、取得部12で取得された複数の周辺環境情報に基づいて、周辺環境情報を収集した地点間の情報収集装置である車両40間におけるカメラ42の相対位置及び姿勢を補正する相対位置補正情報の各々を演算する。本実施形態では、相対位置補正情報演算部14は、複数の地点間の1対1の組合せの組に対して、相対的な位置及び姿勢を算出する。具体的には周辺環境情報に共通に含まれる物標を対応付けし、相対的な位置姿勢を補正する座標変換行列を算出する。
【0032】
ここで、相対位置補正情報について説明する。
図3は、1又は複数の車両40が、複数の地点で周辺環境情報を収集する際の位置および姿勢に関する概念図である。
図3に示す異なる地点Ap、Bp、Cpのように、周辺環境情報を取得するカメラ42を備えた車両40が複数存在する場合、又は車両40が移動した場合は、複数の地点の各々で、センサの座標系が異なる位置及び異なる向きの姿勢となる。よって、複数の地点間では相対的な位置及び姿勢の関係となる。
【0033】
カメラ42の位置及び姿勢は、車両40にカメラ42を固定した際の座標系により表現できる。例えば、次の(1)式に示すように、地点Apでは、カメラ42の座標系(以下、ローカル座標系という。)は、世界座標系W上で定義した原点に対応する地点Apにおけるローカル座標系の原点Aと、直交基底ベクトル(A,A,A)で表現できる。これらをまとめて4x4の行列で表現すると、行列Aは,回転と並進を含む、同次座標系で表現した座標をローカル座標系から世界座標系へ変換する合同変換行列(剛体変換行列)で表現可能となる。
【数1】
・・・(1)
【0034】
図4は、ローカル座標系と世界座標系とは関係性を示す概念図である。
図4に示すように、カメラ42の地点Apにおけるローカル座標系と世界座標系とは関係性を有し、また、カメラ42で撮影した画像に含まれる物標は、ローカル座標系と世界座標系とで表現可能である。これらのカメラ42の地点Apにおける座標系から世界座標系へ変換する合同変換行列、点Apの座標系における物標位置(同次座標)L、及び世界座標における物標位置(同次座標)Lは、次の(2)式で表すことができる。
【数2】
・・・(2)
【0035】
上述した地点Apのローカル座標系と地点Bpのローカル座標系との間の相対位置関係は、撮影画像に含まれる共通の物標の位置により推定可能である。
【0036】
図5は、世界座標系上における地点ApとBpの各ローカル座標系の関係性を示す概念図である。図5は、周辺環境を2次元で表現した図である。
各地点のローカル座標系による周辺環境情報は異なるので、まず、各ローカル座標系で周辺環境情報を取得し、共通する物標の対応付けを行う。具体的には、図5に示すように、各ローカル座標系に共通する物標の対応付けを行う。図に示す例では、三角図形及び四角図形の各々を対応付けている例である。
【0037】
地点Apのローカル座標系と地点Bpのローカル座標系との間で対応付ける物標(例えばN個)の位置は、各地点のローカル座標系で表現可能である。
具体的には、地点Apのローカル座標系では、次の(3)式で表現できる。
=[,1] (i=1,・・・,N) ・・・(3)
また、地点Bpのローカル座標系では、次の(4)式で表現できる。
=[,1] (i=1,・・・,N) ・・・(4)
【0038】
各ローカル座標系で物標の位置情報に誤差が無く、対応付けに誤りが無ければ、対応付けたN個の物標の相対位置補正結果は一致する。しかし、物標の位置情報は誤差を含み、合同変換行列により2つのローカル座標系は一致しない場合がある。また、対応付けに誤りが含まれる場合もある。
【0039】
そこで、相対位置補正情報演算部14(図1)は、対応付けされたN組の物標の座標を、地点Apのローカル座標系から地点Bpのローカル座標系へ変換した際の残差の和が最小となる合同変換行列を演算する。演算された合同変換行列を地点Apのローカル座標系から地点Bpのローカル座標系への相対位置補正行列とする。例えば、N個の物標の距離の二乗和が最小となるよう算出する合同変換行列(すなわち、相対位置補正行列)は、次の(5)式で表現可能である。
【数3】
・・・(5)
【0040】
図5には地点Bpのローカル座標系に対して、地点Apのローカル座標系を補正する補正結果CRの一例も示している。補正結果CRに示すように、地点ApとBpの各ローカル座標系の座標軸は一致しているが、物標の位置は一致しない場合もあることを示している。
【0041】
なお、本実施形態では、物標の距離の二乗和が最小となるよう算出する場合を説明するが、本開示はこれに限定されるものではない。例えば、物標の距離が最小となるように演算する行列を用いてもよい。
【0042】
次に、グラフ生成部16(図1)について説明する。グラフ生成部16は、各地点間の関係をグラフ表現する機能部である。このグラフ生成部16は、取得部12で取得された複数の周辺環境情報、及び相対位置補正情報演算部14で演算された相対位置補正情報に基づいて、ノードとノード間を繋ぐ辺とからなるグラフを生成する。ノードは、各地点、すなわち各車両40が周辺環境を撮影し収集した地点での情報を示す。このノードは、車両40が周辺環境を撮影し収集した地点の車両40のカメラ42の位置及び姿勢を含む装置情報の各々を含む。辺は、複数の車両40各々が周辺環境を撮影し収集した地点間における情報の関係を示し、地点間のカメラ42の相対位置及び姿勢を補正する相対位置補正情報が対応付けられる。すなわち、辺は、ノード間を結ぶつながりを表現したもので、以下、エッジと称して説明する。
【0043】
図6は、複数の地点の一例として、6つの地点Ap、Bp、Cp、Dp、Ep、Fpにおいて、1対1の組み合わせの組による地点間の関係を示す概念図である。図6では、各地点についての行列A、B、C、D、E、Fをノードとし、地点間のエッジを相対位置補正行列(i=B~F,j=A~E)で表現した図である。
【0044】
図6に示すように、グラフ生成部16で生成するグラフは、ローカル座標系をノード(頂点[A,B,C,D,E,F])で表現し、ローカル座標系間の相対位置関係をエッジ(辺[AB,AC,AD,AE,AF,BC,BD,BE,BF,CD,CE,CF,DE,DF,EF])で表現している。図6に示す例では全てのノード間にエッジが存在するグラフを一例として示している。なお、グラフ生成部16で生成するグラフは、全てのノード間にエッジが存在することに限定されない。例えば、物標の対応付けが困難であって相対位置補正行列を得ることが困難な場合は、エッジを非設定としてもよい。また、地点Ap、Bpの間のエッジに関する詳細は後述する。
【0045】
従って、相対位置姿勢補正装置10Aは、取得部12が取得した複数の周辺環境情報を用い、情報収集装置であるカメラ42が収集した際のカメラ42の位置及び姿勢を各々含む複数の装置情報の各々をノードとして定める。また、複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、各組の周辺環境情報を収集した地点間のカメラ42の相対位置及び姿勢を補正する各組の相対位置補正情報の各々を、ノード間を結ぶエッジ(辺)と定める。これら複数のノードとノード間をつなぐエッジとによってグラフが生成される。
【0046】
なお、図6に示す例では、ローカル座標系をノード(頂点[A,B,C,D,E,F])で表現しているが、頂点A~Fにより示されるノードは、ローカル座標系自体を表現することに限定されない。すなわち、各ノードは、ノード間で物標の対応付けを行うための情報の集合であって、物標の位置情報の集合と考えることも可能である。
【0047】
上述した相対位置補正情報演算部14及びグラフ生成部16は、本開示の生成部の一例である。
【0048】
次に、信頼度演算部18(図1)について説明する。信頼度演算部18は、グラフ生成部16で生成されたグラフを用いて、各エッジに対応する相対位置補正情報の信頼度を算出する機能部である。
【0049】
図1に示すように、信頼度演算部18は、第1信頼度演算部18A、及び第2信頼度演算部18Bを備えている。第1信頼度演算部18Aは、グラフ生成部16で生成されたグラフから抽出されたエッジの数が3つ以上の閉路に対して閉路に含まれるエッジの各々に対応する相対位置補正情報を合成して閉路の相対位置補正情報による補正の第1信頼度を算出する。第2信頼度演算部18Bは、第1信頼度演算部18Aで算出された第1信頼度に基づいて、ノード間を結ぶエッジの各々に対応する相対位置補正情報による補正の第2信頼度を算出する。
【0050】
具体的には、第1信頼度演算部18Aは、グラフ生成部16で生成されたグラフに含まれる閉路を抽出する。次に第1信頼度演算部18Aは、抽出した各閉路上の辺(エッジ)に対応する相対位置補正情報を示す相対位置補正行列(座標変換のための行列)を合成し、合成した行列を用いて閉路の始点の座標と、当該座標を合成した行列を用いて座標変換した結果の座標との残差を算出する。次に第1信頼度演算部18Aは、算出した残差を、閉路上の座標変換の信頼度、すなわち閉路の相対位置補正情報による補正の信頼度とし、当該閉路上の座標変換の信頼度を第1信頼度として算出する。
【0051】
次に、第2信頼度演算部18Bは、各閉路の含まれるエッジに対応する信頼度を集約する統計量(平均値、中央値等)を算出する。第2信頼度演算部18Bは、算出した統計量を各エッジに対応する相対位置補正情報の信頼度とし、当該各エッジに対応する相対位置補正情報の信頼度を第2信頼度として算出する。
【0052】
次に、上述した信頼度の算出についてさらに説明する。
まず、ローカル座標系をノードで表現し、ローカル座標系間の相対位置関係をエッジで表現すると(図6)、複数(例えば、3つ以上)のノードを頂点とし頂点をエッジでつなぐ複数の閉路を抽出することが可能となる。本開示では、3つ以上のエッジを有する閉路を抽出することが可能であるが、本実施形態では説明を簡単にするため、3つのエッジを有する閉路を抽出する場合を説明する。
【0053】
グラフ生成部16で生成されたグラフにおいて、エッジの数が3つの閉路のうち、ノードの始点と終点が同じでノードが重複しない閉路は、次に示すノードの組み合わせとなる。
【0054】
(A,B,C,A),(A,B,D,A),(A,B,E,A),(A,B,F,A),
(A,C,D,A),(A,C,E,A),(A,C,F,A),
(A,D,E,A),(A,D,F,A),
(A,E,F,A),
(B,C,D,B),(B,C,E,B),(B,C,F,B),
(B,D,E,B),(B,D,F,B),
(B,E,F,B),
(C,D,E,C),(C,D,F,C),
(C,E,F,C),
(D,E,F,D),
【0055】
図7は、エッジの数が3つのノードの組み合わせにおける閉路の一例を示す概念図である。図7では、ノードの組み合わせ(A,B,C,A)において、始点から終点のノードによる閉路(A-B-C-A)を表現している。
【0056】
第1信頼度演算部18Aは、閉路(A-B-C-A)における第1信頼度を算出する。図7に示す閉路(A-B-C-A)は、3つのエッジ(A-B,B-C,C-A)を有する。ここで、閉路(A-B-C-A)上のエッジ(A-B,B-C,C-A)に対応する合同変換行列を合成して、始点のノードに対応するローカル座標系上の物標位置を、合成した合同変換行列で変換すると、始点のノードに対応するローカル座標系上の物標位置となる。すなわち、閉路上のエッジに対応する相対位置補正情報に誤差が無ければ、始点のノードに対応するローカル座標系上の物標位置と閉路におけるノードを経由した変換後の物標の座標は一致する。始点のノードに対応するローカル座標系上の物標位置と閉路におけるノードを経由した変換後の物標の座標とは、次の式で表現可能である。
(i=1,・・・,N)
【0057】
一方、相対位置補正情報が誤差を有する場合、始点のノードに対応するローカル座標系上の物標位置と上述した変換後の物標の座標は位置せずに誤差に応じて座標がずれる。すなわち、誤差が大きくなるにしたがって、ずれが大きくなる。このため、座標がずれるズレ量は、閉路上の相対位置補正情報、すなわち合同変換行列の信頼度の指標として用いることができる。この段階では、閉路上のどのエッジの信頼度が低いのか高いのかを判別困難のため、閉路に対して信頼度を設定、例えば、各辺に閉路の信頼度を共通に設定する。
【0058】
始点のノードに対応するローカル座標系上の物標位置と閉路におけるノードを経由した変換後の物標の座標とが不一致であることは、次の(6)式で表現可能である。
(i=1,・・・,N) ・・・(6)
【0059】
また、上述した不一致である場合のズレ量は、座標の残差Eとして次の(7)式で表現可能である。
【数4】
・・・(7)
【0060】
次に、第2信頼度演算部18Bは、第1信頼度演算部18Aで算出した第1信頼度を用いて各エッジに対応する相対位置補正情報の信頼度により示される第2信頼度を算出する。
【0061】
まず、上述した閉路(A-B-C-A)上のエッジ(A-B,B-C,C-A)に対応する合同変換行列を合成し、物標の位置情報を、合成した合同変換行列で変換することで、当該閉路による座標変換後の座標を算出する。ここで、1つの閉路だけでは,閉路上の何れのエッジの信頼度が低いか高いかを判別することは困難である。一方、閉路に含まれるエッジの信頼度の高低は閉路の残差Eに影響する。例えば、図6に示す複数のノード及びエッジで表現するグラフに含まれる各閉路について、座標の残差Eを算出すると、エッジの信頼度の低くなるに従って当該エッジを含む閉路の残差Eが大きくなる。従って、エッジを含む閉路の集合の信頼度の統計量(例えば、平均値、中央値等)を算出することによって、各エッジの信頼度に対応する値を得ることが可能である。なお、残差Eの算出に用いる物標座標は何れの座標値でもよいが、各閉路で共通にする必要がある。例えば、正規直交基底に対応する[1,0,0]、[0,1,0]、[0,0,1]を用いることができる。
【0062】
次に、第2信頼度について、エッジABに対応する合同変換行列による演算、すなわち相対位置補正情報にのみ誤差が含まれる場合を一例として説明する。なお、他のエッジに対しては誤差が含まれないものとする。また、エッジ(A-B)を含む閉路で残差Eを含み(E=err>0)、エッジABを含まない閉路では残差Eを0とする。さらに、移行では、エッジ(A-B)をエッジABと称し、閉路(A-B-C-A)を閉路ABCAと称して説明する。
【0063】
具体的には、閉路ABCA、ABDA、ABEA、ABFAの残差Eはerr(>0)である。一方、他の閉路の残差Eは0となる。
他の閉路は、
ACDA、ACEA、ACFA、
ADEA、ADFA、
AEFA、
BCDB、BCEB、BCFB、
BDEB、BDFB、
BEFB、
CDEC、CDFC、
CEFC、
DEFD
である。
【0064】
これによって、各エッジの残差Eの集合{ }は次に示す値となる。
AB:{err,err,err,err}
AC:{err,0,0,0}
AD:{err,0,0,0}
AE:{err,0,0,0}
AF:{err,0,0,0}
BC:{0,0,0,0}
BD:{0,0,0,0}
BE:{0,0,0,0}
BF:{0,0,0,0}
CD:{0,0,0,0}
CE:{0,0,0,0}
CF:{0,0,0,0}
DE:{0,0,0,0}
DF:{0,0,0,0}
EF:{0,0,0,0}
【0065】
各エッジの残差Eの中央値を算出すると、エッジABの残差Eはerr(E(AB)=err)となり、その他のエッジの残差Eは「0」となる。従って、誤差を含むエッジABの残差Eが相対的に大きくなる。一方、各エッジに対応する合同変換行列による座標変換、すなわち相対位置補正情報の各々は誤差を含むと考えられるが、残差Eの集合である統計量を算出することで、当該統計量を相対的な信頼度、すなわち第2信頼度の指標として得ることが可能となる。
【0066】
上述した信頼度演算部18は本開示の第1信頼度算出部及び第2信頼度算出部の一例であり、第1信頼度演算部18Aは本開示の第1信頼度算出部の一例で、第2信頼度演算部18Bは及び第2信頼度算出部の一例である。
【0067】
次に、統合部22(図1)について説明する。統合部22は、第2信頼度演算部18Bで算出された第2信頼度に基づいて、地点間の情報収集装置であるカメラ42の相対位置及び姿勢を補正する相対位置補正情報について、ノード間を結ぶ経路により定まるエッジの各々による相対位置補正情報を選択する機能部である。統合部22は、本開示の選択部の一例である。
【0068】
具体的には、統合部22は、各エッジの第2信頼度が高いほど小さくなるような値を各エッジの重みとして設定し、例えば信頼度が高い経路、すなわち、第2信頼度で重み付けした経路の重みの総和が例えば最小値の経路を導出する。例えば、ノード間の経路上のエッジの重みの和が最小の経路に対応する座標変換行列を選択する。この経路上のエッジの重みの和は、複数経路に対応する変換結果の重みづけ平均値を用いてもよい。これによって、ノード間の最適な座標変換に対応する経路を導出することが可能となる。
【0069】
図8は、地点Apのノードと地点Bpのノード間の補正について、最適な経路を選択した結果の一例を示す概念図である。図8では、エッジABが誤差を有し、エッジABより誤差が小さい経路のエッジACとエッジCBとの経路が選択された場合を示している。このように、統合部22は、残差EがerrであるエッジABを回避して、エッジACとエッジCBとの経路を選択する。
【0070】
次に、図9を参照して、第1実施形態に係る相対位置姿勢補正装置10Aの作用を説明する。なお、図9は、第1実施形態に係る相対位置姿勢推定処理プログラムの処理の流れの一例を示すフローチャートである。
【0071】
まず、ステップS100では、車両40から送信される周辺環境情報を取得する。すなわち、ステップS100では、上述した取得部12が、少なくとも車両40のメモリ44に記憶された物標を含んで撮影された画像情報を取得する。すなわち、ステップS100では、複数の車両40のカメラ42により撮影された物標を含む車両40の周辺の画像情報を取得する。
【0072】
ステップS102では、ステップS100で取得した周辺環境情報を用いて相対位置補正情報を演算する。このステップS102では、上述した相対位置補正情報演算部14が、取得部12で取得された周辺環境情報を用いて複数の地点の各々の間における相対位置及び姿勢を補正する相対位置補正情報を演算する。すなわち、ステップS102では、複数の地点間の1対1の組合せの組に対して、周辺環境情報に共通に含まれる物標を対応付けし、相対的な位置姿勢を補正する座標変換行列を算出する。
【0073】
ステップS104では、ステップS102で演算された相対位置補正情報を用いてグラフを生成する。このステップS104では、上述したグラフ生成部16が、相対位置補正情報演算部14により演算された相対位置補正情報を用いて、各地点間の関係をグラフ表現したグラフを生成する。生成されるグラフは、取得部12で取得された複数の周辺環境情報、及び相対位置補正情報演算部14で演算された相対位置補正情報に基づいて、ノードとノード間を繋ぐエッジとから構成される。
【0074】
ステップS106では、ステップS104で生成されたグラフを用いて相対位置補正情報の信頼度を演算する。このステップS106では、上述した信頼度演算部18が、グラフ生成部16で生成されたグラフを用いて、各エッジに対応する相対位置補正情報の信頼度を算出する。ステップS106では、第1信頼度演算部18Aが閉路上の座標変換の第1信頼度を算出し、第2信頼度演算部18Bが各閉路の含まれるエッジの第2信頼度を算出する。具体的には、第1信頼度演算部18Aが、グラフに含まれる閉路を抽出し、各閉路上のエッジに対応する相対位置補正情報を示す座標変換のための相対位置補正行列を合成し、閉路の始点の座標と、閉路を経由して座標変換した結果の座標との残差を算出する。次に第1信頼度演算部18Aは、算出した残差を、閉路上の座標変換の信頼度、すなわち閉路の相対位置補正情報による補正の信頼度である第1信頼度を算出する。第2信頼度演算部18Bは、各閉路の含まれるエッジに対応する信頼度を集約する統計量(平均値、中央値等)を算出し、算出した統計量を各エッジに対応する相対位置補正情報の信頼度である第2信頼度を算出する。
【0075】
ステップS110では、ステップS106で演算された信頼度を用いて、相対位置補正情報を統合し、ノード間を結ぶ経路を選択する。このステップS110では、上述した統合部22が、第2信頼度演算部18Bで算出された第2信頼度に基づいて、地点間の情報収集装置であるカメラ42の相対位置及び姿勢を補正する相対位置補正情報について、ノード間を結ぶ経路により定まるエッジの各々による相対位置補正情報を選択する。具体的には、各エッジの第2信頼度が高いほど小さくなるような値を各エッジの重みとして設定し、例えば信頼度が高い経路、すなわち、第2信頼度で重み付けした経路の重みの総和が例えば最小値の経路を導出する。これによって、ノード間の最適な座標変換に対応する経路を導出することが可能となる。
【0076】
このように、相対位置姿勢全体最適化部26は、車両毎に推定した自車両から他車両への相対方位、及び各撮影画像内の他車両に対応付けられた情報が矛盾なく整合するように、例えば、5台の車両40A~40Eの車両間の相対的な位置及び姿勢を推定する。この車両毎に推定した自車両から他車両への相対方位及び各撮影画像内の他車両に対応付けられた情報が矛盾なく整合するとは、5台の車両40A~40Eの各々が、自車両と各画像に撮影された他車両の各々の関係から、推定された方位及び姿勢角で存在する幾何学的な相対位置及び姿勢角の対応関係にあることである。このことは、上記の(1)式からも明らかである。
【0077】
本実施形態によれば、複数の地点において車両40により撮影された物標を含む撮影画像から複数の地点間における各座標系間の相対的な位置及び姿勢を補正する相対位置補正情報を導出可能である。つまり、誤対応などにより誤った相対位置補正結果を含む場合であっても適切な相対位置補正情報の信頼度を得ることが可能となる。すなわち、閉路上の複数の相対位置補正情報による座標変換の結果を連結することで、閉路の誤差である残差Eで閉路の座標変換機能を評価することが可能となる。また、複数の閉路における変換行列を統合して統計量を算出することで、個々の相対位置補正情報の信頼度を算出することができる。この信頼度によって、地点間で座標変換するための相対位置補正情報を選択することができる。
【0078】
なお、上記では座標系の2次元的な位置及び姿勢について説明したが、3次元への拡張も容易に行うことが可能である。
【0079】
(応用例)
次に、上述した相対位置姿勢補正装置10Aを、周辺環境の地図を生成する場合に適用する応用例を説明する。この応用例では、移動する車両40の移動経路で撮影された周辺環境情報(画像情報)を用いて周辺地図を生成し、移動経路毎に生成された複数の周辺地図を統合する。
【0080】
図10は、複数(ここでは2つ)の移動経路による画像情報から生成された複数の周辺環境の地図を統合する場合の一例を示すイメージ図である。
図10では、車両40として、周辺環境60を、異なる移動経路で移動する場合の車両40の移動経路64A、64B及び物標68を示す。
【0081】
図62は、車両40Aが周辺環境60を移動経路64Aで移動しているときに、各地点66Aにおいてカメラ42Aで撮影した物標68を含む周辺環境60の複数の画像情報から生成している。地図62は、車両40Aのカメラ42Aによるローカル座標系で生成される。地図64は、車両40Bが周辺環境60を移動経路64Bで移動しているときに、各地点66Bにおいてカメラ42Bで撮影した物標68を含む周辺環境60の複数の画像情報から生成している。地図64は、車両40Bのカメラ42Bによるローカル座標系で生成される。図10では、地図62、64を世界座標に合せて描画して、物標の位置および座標系の向き(姿勢)が異なる状態となるようにしている。
【0082】
これら生成された地図62、64を上述した技術と同様に、地図内に共通に含まれる物標を用いて統合する(統合地図70)。すなわち、車両40Aのカメラ42Aによるローカル座標系と、車両40Bのカメラ42Bによるローカル座標系とを相対位置及び姿勢を補正する相対位置補正情報を導出する。このように、異なる移動経路で移動する車両40から得られる画像情報から生成される地図であっても、地図内に共通に含まれる物標を用いて統合することで、相対位置及び姿勢を補正する相対位置補正情報を導出することが可能となる。
【0083】
具体的には、移動する車両40により周辺環境情報を取得して地図を生成する場合、移動中に生成した各地図内の物標間の相対精度は高いが絶対位置の誤差が大きい場合がある。このため、地図内に共通に含まれる物標の位置情報を用いて、地図間における相対的な位置を補正する。その際に移動経路全体の物標の位置情報を統合する際に、上述した本開示の技術を適用する。これによって、絶対位置のずれに基づく相対的な位置ずれを補正することが可能となる。
【0084】
従って、応用例では,周辺環境情報収集装置として機能するカメラ42を搭載した車両40の移動経路と、収集した周辺環境情報である画像情報をまとめた情報を、異なる時刻または異なる周辺環境情報収集装置により収集し、相対位置及び姿勢を補正することが可能である。
【0085】
[第2実施形態]
次に、第2実施形態を説明する。第2実施形態は、統合部22で選択・統合するエッジに対応する相対位置補正情報の一部を無効化するか否かを判定する無効判定部を第1実施形態の構成に追加する構成である。
【0086】
図11は、第2実施形態に係る相対位置姿勢補正装置10Bの構成の一例を示すブロック図である。
図11に示すように、相対位置姿勢補正装置10Bは、第1実施形態における信頼度演算部18と統合部22との間に無効判定部20を備えている。この無効判定部20以外の構成については、第1実施形態の構成と同様であるので、同様な部分には同一の符号を付して詳細な説明を省略する。なお、無効判定部20は、本開示の無効化部の一例である。
【0087】
無効判定部20は、信頼度演算部18で演算された相対位置補正情報の信頼度(第2信頼度)に基づいて、演算された相対位置補正情報を無効化するか否かを判定する機能部である。具体的には、信頼度の低い相対位置補正情報、すなわち、上述した第2信頼度が予め定めた閾値未満であるか否かを判断し、第2信頼度が閾値以上の場合は後処理、すなわち統合部22で扱うように相対位置補正情報を有効とする判定を行う。一方、閾値未満の場合は統合部22で扱うことを禁止するように相対位置補正情報を無効とする判定を行う。例えば、上述した統計量の値により、信頼度の低い閾値未満の相対位置補正情報を無効判定し、上述した平均値の算出から除外する。したがって、閾値未満の信頼度である相対位置補正情報は統合部22で扱う情報から除外され、統合部22における処理精度を向上させることが可能となる。
【0088】
次に、図12を参照して、相対位置姿勢補正装置10Bの作用を説明する。なお、図12は、第1実施形態に係る相対位置姿勢推定処理プログラムの処理において、ステップS108の処理を追加した処理の流れの一例を示すフローチャートである。
【0089】
ステップS108では、相対位置補正情報の信頼度(第2信頼度)に基づいて、エッジに対応する相対位置補正情報を無効化するか否かを判定する。すなわち、ステップS108では、無効判定部20が、信頼度演算部18で演算された相対位置補正情報の信頼度(第2信頼度)が低いか否かを判定する処理を行う。すなわち、ステップS108では、第2信頼度が閾値以上の場合は相対位置補正情報を有効と判定し、閾値未満の場合は無効と判定する。
【0090】
本実施形態によれば、演算された相対位置補正情報の信頼度の大きさに応じて有効又は無効の判定を行うことが可能となる。よって、物標を含んで撮影された画像情報から補正に不適な情報を排除可能となり、座標系の相対的な位置及び姿勢の補正精度を向上させることが可能となる。
【0091】
なお、本実施形態において、相対位置補正情報が低い物標の情報を排除するだけでなく、誤差が大きくなった地物認識機能に対して、相対位置補正情報を用いて認識処理のキャリブレーションを行う構成としてもよい。
【0092】
[第3実施形態]
次に、第3実施形態を説明する。第3実施形態は、上述したノードを無効化するか否かを判定する無効判定部を第1実施形態の構成に追加する構成である。
【0093】
図13は、第3実施形態に係る相対位置姿勢補正装置10Cの構成の一例を示すブロック図である。
図13に示すように、相対位置姿勢補正装置10Cは、第1実施形態における信頼度演算部18と統合部22との間に外界情報無効判定部21を備えている。この外界情報無効判定部21以外の構成については、第1実施形態の構成と同様であるので、同様な部分には同一の符号を付して詳細な説明を省略する。なお、外界情報無効判定部21は、本開示の無効化部の一例である。
【0094】
外界情報無効判定部21は、信頼度演算部18で演算された相対位置補正情報の信頼度(第2信頼度)に基づいて、演算された相対位置補正情報が連結されるノードを無効化するか否かを判定する機能部である。具体的には、ノード単位で相対位置補正情報の信頼度(第2信頼度)を評価する。ノード単位での評価とは1又は複数のエッジが繋がるノードに注目して、当該注目したノードに繋がるエッジについて相対位置補正情報の信頼度(第2信頼度)を評価することである。例えば、ノードに繋がるエッジの相対位置補正情報の総和、及び平均値等の演算値が、予め定めた閾値未満である場合に、信頼度の低いノードであると判定する。すなわち、ノードに対するエッジについて上述した第2信頼度の演算値が予め定めた閾値未満であるか否かを判断し、第2信頼度の演算値が閾値以上の場合は後処理、すなわち統合部22で扱うようにノードを有効とする判定を行う。一方、閾値未満の場合は統合部22で扱うことを禁止するようにノードを無効とする判定を行う。したがって、閾値未満の演算値であるノードは統合部22で扱う情報から除外され、統合部22における処理精度を向上させることが可能となる。
【0095】
次に、図14を参照して、相対位置姿勢補正装置10Cの作用を説明する。なお、図14は、第1実施形態に係る相対位置姿勢推定処理プログラムの処理において、ステップS109の処理を追加したものである。
【0096】
ステップS109では、相対位置補正情報の信頼度(第2信頼度)に基づいて、エッジに対するノードを無効化するか否かを判定する。すなわち、ステップS109では、外界情報無効判定部21が、信頼度演算部18で演算された相対位置補正情報の信頼度(第2信頼度)の上述した演算値が低いか否かを判定する処理を行う。すなわち、ステップS109では、グラフで繋がっているエッジに対する第2信頼度の演算値が閾値以上のノードを有効と判定し、閾値未満のノードは無効と判定する。
【0097】
本実施形態によれば、エッジとして繋がるノードについて当該エッジに対する相対位置補正情報の信頼度の大きさに応じてノードが有効か無効かの判定を行うことが可能となる。よって、物標を含んで撮影された画像情報から補正に不適な情報を排除可能となり、座標系の相対的な位置及び姿勢の補正精度を向上させることが可能となる。
【0098】
[その他の実施形態]
以上、実施形態として相対位置姿勢補正装置を例示して説明した。実施形態は、コンピュータを、相対位置姿勢補正装置が備える各部として機能させるためのプログラムの形態としてもよい。実施形態は、このプログラムを記憶したコンピュータが読み取り可能な記憶媒体の形態としてもよい。
【0099】
その他、上記実施形態で説明した相対位置姿勢補正装置の構成は、一例であり、主旨を逸脱しない範囲内において状況に応じて変更してもよい。
【0100】
また、上記実施形態で説明したプログラムの処理の流れも、一例であり、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。
【0101】
また、上記実施形態では、プログラムを実行することにより、実施形態に係る処理がコンピュータを利用してソフトウェア構成により実現される場合について説明したが、これに限らない。実施形態は、例えば、ハードウェア構成や、ハードウェア構成とソフトウェア構成との組み合わせによって実現してもよい。
【0102】
さらに、上記実施形態における処理は、プログラムとして光ディスク等の記憶媒体等に記憶して流通するようにしてもよい。
【0103】
上記実施形態において、CPUとは広義的なプロセッサを指し、汎用的なプロセッサや、専用のプロセッサ(例えばGPU:Graphics Processing Unit、ASIC: Application Specific Integrated Circuit、FPGA: Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。
【0104】
この場合、プロセッサの動作は、1つのプロセッサによって成すのみでなく、物理的に離れた位置に存在する複数のプロセッサが協働して成すものであってもよい。また、プロセッサの各動作の順序は上記各実施形態において記載した順序のみに限定されるものではなく、適宜変更してもよい。
【0105】
本明細書に記載された全ての文献、特許出願、及び技術規格は、個々の文献、特許出願、及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【0106】
(実施態様)
本開示の技術は、以下の付記に示す従属関係の実施態様を構成し得る。
【0107】
[付記1]
複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部と、
前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部と、
前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部と、
前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部と、
前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部と、
を備えた相対位置姿勢補正装置。
【0108】
[付記2]
前記第1信頼度算出部は、前記閉路として、前記複数地点のうちの始点を示すノードから他のノードを経由して終点を示すノードとして前記始点を示すノードに戻るまでの経路を、前記地点間の座標系を座標変換する座標変換用の閉路として設定し、前記始点のノードにより示される地点の座標系と、前記座標変換用の閉路に従って座標変換された結果の座標系との相対位置及座標系の相対姿勢の誤差が小さくなるに従って高くなるように前記座標変換閉路の信頼度を算出し、
前記第2信頼度算出部は、前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記座標変換用の閉路の信頼度が大きくなるに従って高くなるように前記第2信頼度を算出する
付記1に記載の相対位置姿勢補正装置。
【0109】
[付記3]
前記選択部は、前記辺の各々に対応する相対位置補正情報に対して前記第2信頼度が高いほど小さくなるように設定した重みの総和が予め定めた閾値以下の経路による相対位置補正情報を選択する
付記1又は付記2に記載の相対位置姿勢補正装置。
【0110】
[付記4]
前記情報収集装置は、車両の周辺を撮影する撮影装置を含み、
前記周辺環境情報は、前記撮影装置で撮影された撮影画像である
付記1から付記3の何れか1つに記載の相対位置姿勢補正装置。
【0111】
[付記5]
前記複数地点の各々における情報収集装置は、時間経過前後の同じ情報収集装置である
付記1から付記4の何れか1つに記載の相対位置姿勢補正装置。
【0112】
[付記6]
前記第2信頼度算出部で算出された前記第2信頼度に基づいて、予め定めた閾値未満の値の第2信頼度に対応する辺の相対位置補正情報及び当該辺に繋がるノードの少なくとも一方を無効化する無効化部、
をさらに備えた付記1から付記3の何れか1つに記載の相対位置姿勢補正装置。
【0113】
[付記7]
コンピュータを、
複数地点の各々において情報収集装置が収集した周辺環境内に存在する物標の位置情報を含む複数の周辺環境情報を取得する取得部、
前記取得部が取得した複数の周辺環境情報に基づいて、前記情報収集装置が収集した際の前記情報収集装置の位置及び姿勢を各々含む複数の装置情報の各々をノードとし、かつ前記複数の周辺環境情報の中で物標が共通に含まれる周辺環境情報の各組について、各組の周辺環境情報に共通に含まれる物標を対応付けることにより求められ、前記各組の周辺環境情報を収集した地点間の情報収集装置の相対位置及び姿勢を補正する前記各組の相対位置補正情報の各々を、ノード間を結ぶ辺とするグラフを生成する生成部、
前記生成部で生成されたグラフから抽出された辺の数が3つ以上の閉路に対して前記閉路に含まれる辺の各々に対応する相対位置補正情報を合成して前記閉路の相対位置補正情報による補正の第1信頼度を算出する第1信頼度算出部、
前記第1信頼度算出部で算出された前記第1信頼度に基づいて、前記ノード間を結ぶ辺の各々に対応する相対位置補正情報による補正の第2信頼度を算出する第2信頼度算出部、および、
前記第2信頼度算出部で算出された第2信頼度に基づいて、前記地点間の情報収集装置の相対位置及び姿勢を補正する相対位置補正情報について、前記ノード間を結ぶ経路により定まる辺の各々による相対位置補正情報を選択する選択部、
として機能させるためのプログラム。
【符号の説明】
【0114】
10A、10B、10C 相対位置姿勢補正装置
12 取得部
14 相対位置補正情報演算部
16 グラフ生成部
18 信頼度演算部
20 無効判定部
22 外界情報無効判定部
30 コンピュータ本体
33P 相対位置姿勢推定処理プログラム
40 車両
42 カメラ
44 メモリ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14