【課題を解決するための手段】
【0008】
本発明の課題は、
少なくとも一つの車両カメラのカメラ外部パラメータを取得するための方法において、
−一つまたは複数の補正標識を地上表面上に提供すること、
−前記一つまたは複数の補正標識に対応する既定の形状パラメータを、車両のコンピューター読み取り可能な記憶媒体内に記憶すること、
−補正標識画像データを構成する連続動画を構成する画像データを、前記少なくとも一つの車両カメラから受領すること、
−前記画像データ内の標識境界を検知すること、
−当該検知された標識境界を前記既定の形状パラメータと照合すること、
−一つまたは複数の補正標識を認識すること、
−前記少なくとも一つの車両カメラが作動している間に、前記連続動画内の当該認識された一つまたは複数の補正標識を追跡すること、
−前記少なくとも一つの車両カメラの少なくとも一つの外部パラメータを、前記連続動画内の前記一つまたは複数の当該認識された補正標識の位置を用いて取得することを包含する当該方法によって解決される。
さらに、本発明の課題は、
計算ユニットにおいて、
前記計算ユニットは、
−記憶された一組の補正標識の既定の形状パラメータを有する、コンピューター読み取り可能な記録媒体と、
−補正標識画像データを有する連続動画を構成する画像データを、一台または複数の車両カメラから受領する接続部とを備え、
前記計算ユニットは、
−前記画像データ内の標識境界を検知し、
−当該検知された標識境界を前記既定の形状パラメータと照合し、
−一つまたは複数の補正標識を認識し、
−当該少なくとも一つの車両カメラが作動している間に、前記連続動画内の当該認識された一つまたは複数の補正標識を追跡し、
−前記少なくとも一つの車両カメラの少なくとも1つの外部パラメータを、当該認識された一つまたは複数の連続動画内の補正標識の位置を用いて取得するように稼動する当該計算ユニットによって解決される。
現行の仕様では、車両は地面に記された一定のパターンや地面に置いた標識の上を走る。車両に搭載されているカメラは、それらの模様を記録する。単一またはそれ以上の計算ユニットがすべてのカメラの適切な外部の範囲
(外部パラメータ)を計算する。
【0009】
外部の範囲はカメラ調整システムを世界調整システムに関連する。これは、例えば、回転と変換により行われる。
【0010】
「調整標的」とか「調整標識」ともいわれるパターンは、必ずしもお互いに平行でない。車両が標的に向かって動いている時、一つまたは複数の標的が検知され、認識され、撮影された動画の連続により追跡される。外部カメラ範囲
(カメラ外部パラメータ)の計算は、撮影された連続動画の複数のフレームに基づく。
【0011】
主要な実施形態によると、外部カメラ範囲は車両調整システムのx、y、及びz軸の回転及び車両調整システムの搭載高を含むのだが、それらが同時に最適化され、車両カメラは別々に補正される。特に、4台の車両カメラを使用し得る。
【0012】
本明細書による補正方法の内容は、以下のリストによっても要約できる。
−補正パターンは直線である必要がない
−スピード、操舵、GPS位置、その他の車両からのいかなる情報も必要ではない
−内部範囲
(内部パラメータ)は計算されない。実際、方法における入力事項の一つである。
【0013】
1.標識の形は既定されており、方法により記録されている。以下の入力のみが必要である。
−カメラからの入力(連続画像)
−カメラ内部データ(それらは製造された時点でカメラ独自のものである)
−予定されるカメラ搭載位置(車両に設置する場所、特にXとYの位置)
2.走行中の車両のカメラからの連続画像が使用される。
3.パターンは道路のマークには提供されないが、事前に決められた特定のパターンを用いる。
4.パターンを決めるのに好ましい方法は、パターンを書いておく(工場などのように固定された利用法)、あるいは持ち運びができる板(車庫で使用する場合などのように柔軟性をもたせるため)に書いておくことである。
【0014】
計算ユニットはパターンの、既知の本当のサイズを利用し、サイズとはパターンの外側を指す。さらに、パターンは一種の構造、もしくはチェッカーボードの模様のような一種のパターンから成ることも可能である。
【0015】
特に、現在の使用法は少なくとも一車両カメラの外側のカメラ範囲を得る方法を公開する。
【0016】
単一または複数の規定の補正標識が平らな地面に置かれている。既定の、成形標識のセット、それは補正標識と対応しているのだが、それらが車両のコンピューター読み取り可能な記憶媒体に記憶される。広い意味では、標識の、記憶されたベクトルグラフィックも成形標識として考慮される。成形標識は補正標識を性格づける。例えば、半径は円形標識を意味し、斜めの長さ、あるいは単一の長さは、正方形標識を意味し得る。
【0017】
車両は一つまたは複数の既定の補正標識を超えて運転され、補正標識は一つまたは複数の車両カメラにて撮影される。したがって、他の実践形態では、画像がとらえられる一方、車両は静止したままである。画像データは少なくとも一つの車両カメラから受け取られ、カメラの計算ユニット、及び・または車両の計算ユニットで処理される。現在の方法に関連する画像データは補正標識画像からなる。標識の画像は標識に対応する、または標識の一部に対応するセンサー信号をデジタル表現したものである。
【0018】
補正標識画像となる画像データの一部は、「補正標識画像データ」とも呼ばれる。「画像データ」、「補正標識画像」及び「補正標識画像データ」などの表現は、デジタル化されたセンサーの原画あるいは処理されたデータを指す。中でも、画像処理はゆがみの縮小、上からの撮影、ノイズ削減、センサー要素特性の
補正を含むこともある。
【0019】
計算ユニットは、画像データの画像フレームの中の一つまたは複数の補正標識画像 標識画像の境界線を探知し、探知された標識境界線を既定の形状境界線にマッチさせる。計算ユニットは、一つまたは複数の補正標識を認識する。一つの認識では、標識は補正標識の形を認識することによって認識される。標識の形は、補正標識のだいたいの形と記憶された形状の境界線とを比較することによって認識される。
【0020】
連続動画中の認識された補正標識は、少なくとも一つの車両カメラが作動している間に追跡され、少なくとも一つの車両カメラの少なくとも一つの外部範囲は、撮影された動画の順序にある、認識された補正標識の位置を使って判断される。
【0021】
一つの実施形態では、補正標識には光学認証シンボルがついており、それは標識の種類を示す。計算ユニットは、すでに認証シンボルを認識することによって標識の形を認識する。中でも光学認証シンボルは異なった色、数、または形式であるかもしれない。例えば、四角い標識には赤い点がついているかもしれないし、菱面体の標識には青い点もしくは異なった数および・あるいは位置の点がついているかもしれない。あるいは、もしくはそれに加えて、標識の形は標識外側の境界線、標識のパターン、あるいは他の光学的特性によって認識されるかもしれない。
【0022】
ある実施形態では、光学認証シンボルは、標識が整列していることも探知する、例えば標識にXマークあるいは矢印の形をした光学認証シンボルをつけるとか、チェッカーボードの模様、などの内部的な模様である。
【0023】
特に、得られた外部範囲は回転、または初めの水平軸または車両調整システムのx軸付近のピッチ回転とも呼ばれる傾斜を示し、第二水平軸またはロール回転とも呼ばれるy軸、垂直軸付近の回転またはヨー回転とも呼ばれるz軸付近の回転、及び車両調整システムの搭載高を示す。
【0024】
車両調整システムは架空の長方形の調整システムあるいは関連付けを指し、車両に接続している。水平軸は地上平面と平行で、車両の中心軸に沿って直進し、一方垂直軸は水平軸と直行して上を向いている。
【0025】
車両調整システムの一つの方法では、車両調整システムの水平平面は地上平面と提携しており、x軸は前方軸と平行で、調整原点は前方軸の左端にある。別の方法では、調整原点は物体の中心から地上平面への投影、または幾何学的な中心点から地上平面への投影である。
【0026】
ある特定の実施形態では、その方法は、少なくとも二つの平行な直線的な標識の境界の一つまたは複数の既定の補正標識の一つ目のセットを認識し、少なくとも二つの平行な直線的な標識の境界を一つまたは複数の既定の補正標識の一つの画像に二つ目のセットを認識することに構成される方法である。第二セットの標識の境界は同じまたは異なる標識の画像に対応し得る。
【0027】
計算ユニットは少なくとも一つの車両カメラの地上平面への方向を1セット目と2セット目の標識の境界から得る。
【0028】
二組の平行線は水平にある、二か所の消滅点に向かって進み、そこに二つの消滅点をつなぐ消滅線がある。これがそこで地上平面についてはカメラの傾きを作り出す。この傾きによって、車両調整システムの水平x軸及びy軸のまわりの回転が可能になる。
【0029】
別の実施形態によると、垂直へのカメラの傾きは、車両カメラのセンサー表面の標識の画像を遠近的に短縮することで判断される。この実施形態によると、検知された標識境界を既定の形状の範囲
(形状パラメータ)とマッチ
(照合)し、少なくともひとつの標識の遠近的な画像が得られ、少なくとも一つの車両カメラの地上平面への傾きは、遠近的な短縮によって得られる。
【0030】
その例として、円形標識の標識画像は楕円形に見える。楕円率の度合いと楕円主要軸方向によって、傾きの量と方向が決まる。三角形の標識では、三つの角度はコンピューター読み取り可能記憶媒体に形状範囲として保管されている、三角標識の対応する角度と比較される。そこにカメラの傾きが由来する。同じまたは同様の方法を用いて、多角形の標識の遠近短縮が決定される。例として、多角形は三角形に分解され、三角形の角度または標識境界線の外側の角度は、対応する補正標識の保管されている角度と比較される。
【0031】
正確さを増すために、この予測は補正標識の異なる画像に、及びあるいは連続画像の異なる画像フレーム繰り返し適用され、各予測の加重平均として予測が得られる。予測の正確さが不十分と判断されれば、加重平均におけるゼロの重きがおかれる。
【0032】
ある実施形態では、標識境界線は一つまたは複数の既定の補正標識の内部パターンの一つの境界を形成する。別の実施形態では、標識境界線は外側の境界を形成する。
【0033】
特に、平行標識境界線または遠近短縮は、地上平面への得られたカメラの向きからの第一または第二水平軸周りの回転を決めるのに用いられる。
【0034】
さらに実施形態において、その方法は、一つまたは複数の補正標識の少なくとも一つの補正標識画像において例えば明らかな境界線の長さ、明らかな対角線の長さ、表面積、あるいは主要軸の長さ、など形状範囲の大きさも形成する。形状範囲の大きさ、それは標識の明らかなサイズの計測を提供するが、対応する、保存された形状範囲の大きさと比較され、搭載される少なくとも一台のカメラの高さはそれらの大きさの比較により得られる。
【0035】
特に、形状範囲の大きさあるいは補正標識画像の明らかなサイズは、車両カメラからの標識の距離を判断することを可能にする。例えば上記の方法または別の方法でカメラの垂直に対する傾きαが知られているとき、地上平面に関するカメラの搭載高zは、Z=d*cos(α)により得られる。
【0036】
別の実施形態においては、その方法は、第一車両カメラから、画像データ、あるいは画像フレーム、一つまたは複数の補正標識の一つの画像の形状範囲の大きさを得ることを形成する。サイズ範囲は画像センサー上の補正標識画像のサイズを示唆するものである。
【0037】
サイズ範囲と保存サイズ範囲を比較することにより、計算ユニットは第一車両カメラと対応する補正標識との距離を得て、それが補正標識画像に対応する。さらに、計算ユニットは補正標識画像の形状範囲の大きさを得る、それは第二車両カメラの画像データあるいは画像フレームからの同じ補正標識に対応する。サイズ範囲を保存サイズ範囲と比較することにより、第二車両カメラと対応する補正標識との距離が得られる。
【0038】
第一の距離と第二の距離を用いることにより、車両調整システムに関して、地上表面の補正標識の位置が得られる。
【0039】
垂直軸の周りの第一車両カメラの回転は、補正標識の得られた位置から得られる。更に、垂直軸の周りの第二車両カメラの回転は、補正標識の得られた位置から得られる。
【0040】
さらなる方法の変更によって、その方法は対応する補正標識の取得した位置によって第一水平軸あるいは第二水平軸の周りに第一あるじは第二車両カメラを回転させることを構成する。
【0041】
外部範囲の予測の加重平均を計算することにより、正確さが向上する。例としては、画像データは二つまたは多数の補正標識画像に構成されるかもしれない。計算ユニットは二つ以上の補正標識画像それぞれに少なくとも一台のカメラの方向を得て、少なくとも一つの計算済みカメラ方向の加重平均として、カメラ方向の平均を計算する。
【0042】
補正標識は様様な方法で提供される。特に、地面に書く方法や、持ち運び可能な板として提供され得る。
【0043】
更なる点として、現行の仕様は、上記の方法を実行するためのコンピュータ−プログラム製品を明らかにし、それは光学媒体、磁気媒体、強誘電性の媒体、あるいはEPROMのIC/ASICのメモリ、等により提供される。さらに、現行の仕様は、コンピューター読み取り可能な保存媒体から成り、コンピュータープログラム製品から成る。
【0044】
更なる面では、現行の仕様は、例えば車両カメラの一つまたは複数の計算ユニット、サラウンドビューカメラに接続する中心計算ユニット、あるいはそれらのコンピューターユニット、あるいはその合計を明らかにする。特に車両カメラは通り表面の下向きの映像を提供する、サラウンビューシステムの一部でもあり得る。
【0045】
計算ユニットは、マイクロプロセッサー、ICまたはASIC,計算上のコンピューター読み取り可能な記録媒体などのような電子計算手段から構成され、既定の補正標識一式の既定の形状範囲を持ち、一台または複数台の車両カメラから画像データを受領するように接続されている。
【0046】
保存された実行可能な指示及び・あるいはデジタル及び・またはアナログデータ処理用の対応する電子部品を提供することによって、計算ユニットは画像データから一つまたは複数の補正標識画像の標識境界線を検知するよう作動し、検知した補正標識を既定の形状範囲にマッチさせる。
【0047】
計算ユニットは連続画像中の一つまたは複数の認証された補正標識を追跡し、少なくとも一台の車両カメラは作動中で、連続動画に撮影された、一つまたは複数の認証された補正標識の位置を使い、少なくとも一台の車両カメラの外部範囲を得る。
【0048】
中でも、外部カメラ範囲は第一水平軸の周りの回転、第二水平軸の周りの回転、車両軸の周りの回転、あるいは車両調整システムのZ−軸、及び車両調整システムの搭載高から選択できる。
【0049】
さらなる実施形態で、計算ユニットはさらに、補正標識画像に対応する、対応する地上表面の補正標識の方向については、少なくとも一台の車両カメラの相対的方向を得るために作動する。
【0050】
さらに、現行の仕様は、計算ユニットと一台または複数の車両カメラを持つキットと、キットが搭載されている車両を明示する。一台または複数の車両カメラが車両の既定の位置に搭載されており、車両の外部を向いている。計算ユニットは、一台または複数の車両カメラと電気的に接続されている。
【0051】
標識は既定の方向に並べるとか、あるいはお互いに関して、並べ方のパターンを持たなくてよいが、それらは、既定の相対的な方向または並べ方のパターンを持ち、それが特徴の検知とマッチングの際に用いられる。
【0052】
遠近短縮により、標識境界線は他者より画像ピクセルが少ないと予想され、標識境界の方向を得るには適していない。標識が無差別の方向に置かれたとき、標識境界を見つける可能性が高くなるかもしれないが、それは車両カメラについては適切な向きである。更に、パターンは相対的な距離や方向があらかじめ決められていなくてよい場合に、都合よく、手早く並べられる。この特徴は、作業部屋の車庫で行うときに有利で、整備士の時間を節約するのに役立つ。
【0053】
車両が標識を通過すると、それ以降の画像フレームは標識の異なる像を提供する。これは特定の画像フレームの特定の標識の像がカメラ方向あるいは搭載高を判断するのに適切である可能性を高める。
【0054】
異なる形状の標識が画像認識に適切な標識境界線を見つける可能性を高める。例えば、標識は、直線の外側境界線の数、境界線の長さ、及び表面積などについて、多様である。標識のサイズを決めるのにより適している標識もある。標識の形状には、中でも、四角、長方形、菱型、三角、二等辺三角形、直角三角形、及び円がある。通常の多角形及び四つ以上の面がある多角体も標識の形として用いられる。
【0055】
標識の境界は、消滅線を決めるのに使われ、それにより地上平面に関して車両カメラの傾きが得られる。すべての標識が地上平面に並べられるため、標識の境界線を延長すると消滅点に終わり、それらはほぼ同じ消滅線にある。
【0056】
さらなる実施形態では、標識は統一した白色、あるいは他のいずれかの統一色で、パターンが白あるいは黒以外から構成される。21から27個の標識がいかなる平坦な表面あるいは専用の補正表面に置かれる。特に、21から27個の標識は例えば工場での補正の場合直接地面に書き、あるいは例えば作業場の車庫内で行われるときには、持ち運び可能な板にあらかじめパターンを書いたものでもよい。
【0057】
ある実施形態では、画像評価ユニットは、カメラから地上平面への距離、カメラの垂直軸に対して相対的な方向、水平x−y平面の標識に相対して自動車の向き、及び車のスピードなどの情報から、標識の寸法を予測する。
【0058】
標識が特性の標識として提供されたのであれば、標識は地上表面の物理的な標識として提供される。例えば、テンポラリーの、持ち運び可能なパターンや、使い捨てシール、あるいはペンキや、反射物質あるいは成分の入ったペンキで道路表面に書く方法である。
【0059】
現行の仕様のテーマは、以下の図についてここに詳細に説明される。