(58)【調査した分野】(Int.Cl.,DB名)
1つまたは複数のカメラが、損害の種類を検出するためのディテールを有する画像を得るために、検出された兵器衝撃の領域にズームインまたはフォーカスする、請求項1または2に記載の監視システム。
飛行場内で検出された異物、破片、または損害の位置に基づいて航空機の着陸の最小稼働仮設滑走路(MOS)を導き出すための計算モジュールを備える、請求項1〜3のいずれか一項に記載の監視システム。
処理装置が、弾孔、地下爆発または破砕の周りの破片の量をそれぞれ検出することによって弾孔、地下爆発または破砕の大きさを決定する、請求項5に記載の監視システム。
1つまたは複数のカメラが、飛行場の画像を獲得するために飛行場の上空を飛行するよう手配された航空機上に装着されている、請求項1〜7のいずれか一項に記載の監視システム。
1つまたは複数のカメラによって獲得された画像を一緒にまとめて、先に獲得されたステッチ画像と後に獲得されたステッチ画像との間の差分領域を、後に獲得されたステッチ画像中でハイライトする、請求項1〜12のいずれか一項に記載の監視システム。
兵器衝撃の位置または飛行場損害の情報に基づいて修復作業を推定および計画するための修復の推定および計画モジュールを備える、請求項1〜14のいずれか一項に記載の監視システム。
飛行場内の損害を修復するまたは異物を取り除くための遠隔警報および重要情報を受信するための1つまたは複数の携帯用手持ち機器を備える、請求項1〜17のいずれか一項に記載の監視システム。
現在の獲得画像および参照画像中に位置する共通物体の位置に基づいて、カメラによって撮影された現在の獲得画像と参照画像との間のオフセットを補正するための画像オフセット補償器を備える、請求項1〜18のいずれか一項に記載の監視システム。
画像オフセット補償器が、現在の獲得画像と参照画像との間の補正するオフセットを決定するために、現在の獲得画像および参照画像中の複数の共通物体を使用する、請求項19に記載の監視システム。
直線回帰を使用して現在の獲得画像と参照画像との間の補正するオフセットを決定し、現在の獲得画像および参照画像中の共通物体をマッチさせることによって決定されたスコアが事前に決定された閾値よりも大きい場合に、現在の獲得画像および参照画像中の共通物体に基づいて計算されたオフセット値を直線回帰について検討する、請求項20に記載の監視システム。
飛行場内で検出された異物、破片、または損害の位置に基づいて航空機の最小飛行場稼働表面(MAOS)を導き出すための計算モジュールをさらに備える、請求項1〜21のいずれか一項に記載の監視システム。
獲得された画像を強調させる前記方法が、獲得された画像に対する高域フィルター、Sobel Xの左から右フィルターおよびSobel Xの右から左フィルター、またはScharr Xフィルターを備える、請求項26に記載の監視システム。
処理装置が、処理の瞬間が昼間または夜間であるかを決定し、夜間に獲得された画像から航空機の着陸または航空機の離陸または地上車両の移動などが原因の異常光条件を検出する、請求項26または27に記載の監視システム。
異常光条件の検出が、それぞれの画像を1つまたは複数の前の画像と比較するためのグローバルヒストグラムおよび統計分析を備えており、閾値を参照して強度の変化に基づいて異常光条件を同定する、請求項28に記載の監視システム。
処理装置が、様々な環境条件における最適異物、破片または損害のエッジ抽出の1つまたは複数の閾値を適応的に推定し、経時的に記録された背景画像エッジマップに基づく統計方法を使用してピクセル・レベル・エッジ・マップを生成して、ピクセルレベルの閾値マップを生成するために使用するグレースケールのルックアップテーブル(LUT)を決定する、請求項26から30のいずれか一項に記載の監視システム。
処理装置が、時間的フィルタリングをピクセル・レベル・エッジ・マップにさらに適用して、蓄積されて閾値を通過したピクセルのみからなるロバスト・エッジ・マップのみを保持する、請求項31に記載の監視システム。
処理装置が、適応背景エッジマップ、以前に学習および保存された昼または夜の背景エッジマップ、ならびに特定の季節または気象条件について生成された季節的マーキングマップを備える複合背景エッジマップをさらに生成する、請求項33に記載の監視システム。
処理装置が、複合背景エッジマップとロバスト・エッジ・マップとをさらに比較し、背景エッジを除去して異物、破片または損害の疑いのあるエッジマップを抽出する、請求項34に記載の監視システム。
処理装置が、疑いのあるエッジマップからの環境変化に関連する所望しないエッジをフィルタリングするためのエッジフィルタリングをさらに行い、疑いのあるエッジマップから異物、破片または損害のエッジパラメータを計算する、請求項35に記載の監視システム。
ビデオディスプレイ上で異物、破片または損害のグラフィックを飛行場の前記疑いのあるエッジマップ上にオーバーレイして、管制塔または管制室の操作員に異物、破片または損害の検出の警報を出すことが、処理装置によって行われる画像処理に含まれる、請求項35〜37のいずれか一項に記載の監視システム。
1つまたは複数のカメラが故障した場合に、それぞれの隣接カメラが、故障したカメラによってカバーされていた領域をカバーするように操作可能である、請求項1〜40のいずれか一項に記載の監視システム。
1つまたは複数のカメラが、1つもしくは複数の白黒カメラ、1つもしくは複数のカラーカメラ、または両方を備える、請求項1〜41のいずれか一項に記載の監視システム。
飛行場内の滑走路表面が複数のセグメントに分割されており、1つまたは複数の非静止カメラが滑走路をセグメント毎に異物、破片または損害の検出について順次走査する、請求項2〜43のいずれか一項に記載の監視システム。
異物、破片または損害の検出時間を短縮するために、非静止カメラが航空機の着陸または離陸のそれぞれの位置中の滑走路セグメントを最初に走査するように指示されるよう、静止カメラが滑走路上の航空機の離着陸のそれぞれの位置を検出する、請求項2〜44のいずれか一項に記載の監視システム。
処理装置が、雨動作クラッタの雨様の特徴を認識することによっておよび滑走路全体にわたって起こる雨が原因の動作クラッタに基づいて、滑走路のシーン画像中の雨クラッタをフィルター除去するために時間的フィルタリングを適用する、請求項1〜45のいずれか一項に記載の監視システム。
処理装置が、雪動作クラッタの雪様の特徴を認識することによっておよび滑走路全体にわたって起こる雪が原因の動作クラッタに基づいて、飛行場内の滑走路の滑走路シーン画像中の雪クラッタをフィルター除去するために時間的フィルタリングを適用する、請求項1〜46のいずれか一項に記載の監視システム。
処理装置が、滑走路のシーン較正のために飛行場内の滑走路上に縦方向に沿ってかつ滑走路の側方から同じ垂直距離に位置するマーカーまたは滑走路端燈を活用して、滑走路の画像上のピクセルを実世界座標フレーム上の正確な座標にマッピングする、請求項1〜47のいずれか一項に記載の監視システム。
処理装置が、滑走路中央線の両側の2本の平行な水平滑走路の線および滑走路中央線を活用して、滑走路のシーン較正のために2つの垂直ピクセルマッピング比を導き出して飛行場内の滑走路上の画像上のピクセルを実世界座標フレーム上の正確な座標にマッピングする、請求項1〜48のいずれか一項に記載の監視システム。
前記1つまたは複数のカメラはモノスコープカメラを含んでおり、処理装置が、モノスコープビジョンおよびモノスコープカメラによって獲得された較正された滑走路のシーン画像を活用して、飛行場内の滑走路上の異物、破片または損害の位置および範囲を決定する、請求項2〜49のいずれか一項に記載の監視システム。
静止カメラおよび較正された滑走路のシーン画像によって決定された異物、破片または損害の位置および範囲を活用して、非静止カメラが異物、破片または損害にパン、チルト、ズームまたはフォーカスするよう自動制御し、検出された異物、破片もしくは損害の正確性の検証または誤認警報のフィルタリングを可能にする詳細を有する異物、破片または損害の画像を得る、請求項50に記載の監視システム。
異物、破片または損害の範囲および位置を、重複する視野を有する一対の監視カメラによってそれぞれ獲得された画像を比較することによって得られた画像の差分から計算することができるように、一対の監視カメラを含めた立体視を活用して飛行場内の滑走路の同じセグメントをカバーする、請求項1〜51のいずれか一項に記載の監視システム。
【発明を実施するための形態】
【0043】
図1Aは、例示的な実施形態による、滑走路(106)上の異物、破片または損害(FOD)および滑走路損害を検出するための飛行場滑走路監視システム(100)における監視カメラの配置を例示する模式図である。滑走路(106)は中央に位置し、誘導路(103、104)および草地(102)に隣接している。滑走路に向けられた複数の監視カメラ(108)は、それぞれの監視カメラ(108)の軸が滑走路(106)の長さに垂直であるように、誘導路(104)の片方の端に沿って配置されている。それぞれの監視カメラ(108)は視野(110)を走査するように操作可能であり、水平画角(111)を有する。それぞれの視野(110)には誘導路(103、104)、滑走路(106)および草地(102)の一部分が含まれる。また、それぞれの視野(110)には滑走路(106)に沿って隣接カメラ(108)からの交差部分(112)も含まれる。
【0044】
監視カメラ(108)は滑走路から150m〜700m離れて位置しており、隣接カメラ間で約10〜50%の重複を生じる。
【0045】
カメラ(108)のそれぞれからのビデオおよび/または画像は空港の管制塔または管制室(135)内の応用コンピュータシステム(示さず)に送られる。受信されたビデオおよび/または画像は応用コンピュータシステムのビデオ処理装置によって処理される。応用コンピュータシステムは、監視カメラからのビデオおよび/または画像を連続的に処理して、FODおよび滑走路損害を検出し、FODまたは滑走路損害が検出された場合に操作員に警報を出す。また、管制塔または管制室(135)内の操作員は、リアルタイムの滑走路のビデオおよび/または画像をビデオディスプレイ(示さず)上で視覚的に監視することもできる。応用コンピュータシステムがビデオデータを処理中に何らかの異物、破片または損害(FOD)が検出された場合は、操作員はそれについて警告を受ける(視覚警報および/もしくは音声警報ならびに/またはGSM、SMSもしくはMMSなどの移動通信手段を介した遠隔無線警報による)。警報および/または遠隔無線警報を受信した際、操作員は監視カメラ(108)を検出された物体へとズームし、FODまたは滑走路損害を視覚的に検証する。FODまたは飛行場滑走路損害が確認された場合は、警報(音および/または視覚)が管制塔または管制室(135)内で作動される。また、FODまたは飛行場滑走路損害の検出は滑走路(106)の近くに位置する遠隔警報(音および/または視覚)も作動させる。また、滑走路復旧チームまたは飛行場修復チームに通知するために無線警報(GSM、SMSまたはMMSなど)も作動される。したがって、すぐに滑走路復旧チームが復旧車両を派遣して、検出されたFODを片付ける、すなわち異物、破片を取り除く、または損害を修復する。
【0046】
使用される監視カメラは受動的であり、照明器(レーザーまたは赤外線照明器など)を備えていない。監視カメラ(108)のそれぞれは、高分解能昼間視/暗視カメラ、低照度高感度カラーカメラ、光増感CCDを備えたカメラ(ICCDカメラ)、電子増倍管CCDを備えたカメラ(EM−CCDカメラ)、暗視カメラ、静止カメラ、高分解能メガピクセルカメラ、非静止カメラ(パニングカメラ、パン・チルト・ズーム(PTZ)カメラもしくはズームカメラなど)、近赤外線(SWIR)カメラ、中赤外線(MWIR)カメラ、または熱イメージング装置のうちの1つであることができる。したがって、監視システムは、受動的カメラのみを使用して、追加の補助照明(赤外線照明器またはレーザー照明器など)の設置を必要とせずに稼働することができる。
【0047】
システム(100)において使用される監視カメラ(108)は、画像処理用の滑走路のビデオ画像またはデジタル画像を生成することができる。しかし、静止画デジタルカメラを使用して画像処理用の滑走路のデジタル静止画像を生成してもよい。
【0048】
たとえば、ズームカメラまたはパン・チルト・ズーム(PTZ)カメラを使用して滑走路上の任意の領域に自動的にズームインして、FODまたは飛行場滑走路損害の詳細な視界を得ることができる。ズームインビデオ画像は滑走路上の目的領域のさらなる詳細を提供するため、操作員は、検出されたFODまたは滑走路損害によって引き起こされた潜在的な危険を評価し、適切な行動をすぐに開始させるためにより良好な立場にある。例示的な実施形態では、PTZカメラまたはズームカメラは、応用コンピュータシステムがFODまたは滑走路損害を検出した場合にはいつでも応用コンピュータシステムによって遠隔制御し、滑走路上の目的領域にズームインすることができる。あるいは、PTZカメラまたはズームカメラは、操作員によって手動で制御し、飛行場内の特定の領域にズームインしてズームインビデオまたは画像を得ることもできる。
【0049】
図1Bは、滑走路(106)上のFODまたは滑走路損害を検出するための滑走路監視システム(500)における監視カメラの代替配置を例示する模式図である。滑走路に向けられた複数の監視カメラ(508)は誘導路(104)の片方の端に沿って配置されている。滑走路に向けられた別の複数の監視カメラ(509)は、誘導路(103)の他方の遠方の端に沿って配置されている。それぞれの監視カメラ(508、509)の軸は滑走路(106)の長さに垂直である。それぞれの監視カメラ(508)は視野(510)を監視するように操作可能であり、水平画角(511)を有する。それぞれの監視カメラ(509)は視野(515)を監視するように操作可能であり、水平画角(521)を有する。それぞれの視野(510、515)には、誘導路(103、104)、滑走路(106)および草地(102)からの一部分が含まれる。カメラ(508、509)は、隣接カメラの視野(510および515)が互いに交互し、明確な分界線または一部のカバレッジ重複を有するように、交互に配置されている。また、隣接監視カメラの重複カバレッジ(視野)は、1つの監視カメラが故障した場合に隣接監視カメラが故障したカメラの視野もカバーできるように、一部の冗長も提供する。また、監視カメラを、滑走路のすべてのセクターが少なくとも2台の監視カメラによってカバーされて視野カバレッジの冗長を提供するように配置することも可能である。したがって、少なくとも2台の監視カメラが同じ滑走路セクターおよび同じ滑走路損害(弾孔、地下爆発、破砕、UXO)またはFODを見ている可能性がある。これは、飛行場の特定の滑走路セクターまたは領域をカバーするために単一の監視カメラのみを使用する場合に起こる可能性がある、飛行場滑走路損害/FODの閉塞の問題を克服することも助ける。したがって、この配置では、2台の異なるカメラによって見られる、同じ滑走路損害(弾孔、地下爆発、破砕、UXO)またはFODの2つの異なる視界を獲得することが可能である。これは、滑走路損害またはFODの検出、測定および分類の率の改善を助ける。
【0050】
図1Cは、滑走路(105)上の滑走路損害またはFODを検出するための滑走路監視システム(550)における監視カメラのさらに別の代替実施形態を示す模式図である。滑走路に向けられた複数の監視カメラ(551)は誘導路(104)の片方の端に沿って配置されている。滑走路に向けられた別の複数の監視カメラ(552)は、誘導路(103)の他方の遠方の端に沿って配置されている。それぞれの監視カメラ(551、552)の軸は滑走路(105)の長さに垂直である。それぞれの監視カメラ(551)は視野(555)を監視するように操作可能であり、水平画角(553)を有する。それぞれの監視カメラ(552)は視野(556)を監視するように操作可能であり、水平画角(554)を有する。それぞれの視野(555、556)には、誘導路(103、104)、滑走路(105)および草地(インフィールドが含まれる)(102)からの一部分が含まれる。この配置により、滑走路および/または誘導路のそれぞれのセクターが、滑走路の両側から1台ずつの少なくとも2台の監視カメラによってカバーされることが可能となる。これは監視カバレッジの冗長を提供する。それに加えて、これは、飛行場滑走路損害(弾孔、地下爆発、破砕、UXO)またはFODにおける、監視カメラ視界の遮断が原因の閉塞の問題を克服することも助ける。そのような閉塞は、監視カメラのカメラ視界内に存在する他のFOD物体または滑走路損害によって引き起こされる場合があり、飛行場の特定の領域をカバーするために単一のカメラしか使用しない場合に起こる場合がある。
【0051】
滑走路の対向する側の監視カメラの視野は、滑走路および/または誘導路のカバレッジの冗長を提供するために一部の重複を有する。したがって、監視カメラを滑走路の対向する側に設置することは、滑走路および/または誘導路上の弾孔/地下爆発/破砕/UXOおよびFODの正確な検出/測定/分類における閉塞が原因の問題を克服することも助ける。
【0052】
以下の説明の一部は、明示的かつ暗黙的に、アルゴリズムおよびコンピュータメモリ内のデータの操作の関数または記号表示に関して提示されている。これらのアルゴリズム記述および関数または記号表示は、データ処理分野の技術者によって、その仕事の内容を当技術分野の他の技術者に最も有効に伝えるために使用される手段である。アルゴリズムとは、本明細書中および一般的に、所望の結果をもたらす自己矛盾のない一連のステップであると理解される。ステップとは、記憶、転送、結合、比較、および他の様式で操作することができる、電気的、磁気的または光学的シグナルなどの物理量の物理的操作を必要とするものである。
【0053】
別段に具体的に記述した場合以外は、かつ以下から明らかなように、本明細書全体にわたって、「計算する」、「決定する」、「置換する」、「生成する」、「初期化する」、「出力する」などの用語を利用した議論は、コンピュータシステム内で物理量として表されるデータを、コンピュータシステムまたは他の情報記憶、伝送もしくは表示装置内で物理量として同様に表される他のデータへと操作および変換する、コンピュータシステムまたは同様の電子装置の動作および処理をいうことを理解されたい。
【0054】
また、本明細書は、方法の処理を行うための装置も開示する。そのような装置は、所要の目的のために特別に構築されていてよい、またはコンピュータ内に記憶されているコンピュータプログラムによって選択的に起動もしくは再構成される汎用コンピュータもしくは他の装置を備えていてよい。本明細書中に提示するアルゴリズムおよび表示は、任意の特定のコンピュータまたは他の装置に固有に関連していない。本明細書中の教示に従って様々な汎用機器をプログラムと共に使用し得る。あるいは、所要の方法ステップを行うためのより特化した装置の構築が適切であり得る。以下の説明から、慣用の汎用コンピュータの構造が見えるであろう。
【0055】
さらに、本明細書は、本明細書中に記載の方法の個々のステップはコンピュータコードによって実行され得ることが当業者には明らかであろう点で、コンピュータプログラムも暗黙的に開示する。コンピュータプログラムは、任意の特定のプログラミング言語およびその実装に限定されることを意図しない。本明細書中に包含される開示の教示を実装するために様々なプログラミング言語およびそのコードを使用し得ることを理解されよう。さらに、コンピュータプログラムは任意の特定の制御フローに限定されることを意図しない。コンピュータプログラムの数多くの他の変形が存在し、これらは本発明の精神または範囲から逸脱せずに異なる制御フローを使用することができる。
【0056】
さらに、コンピュータプログラムのステップのうちの1つまたは複数を順次ではなく並行して行い得る。そのようなコンピュータプログラムは任意のコンピュータ読取可能媒体に記憶させ得る。コンピュータ読取可能媒体には、磁気または光学ディスク、メモリチップ、または汎用コンピュータとの対話に適した他の記憶装置などの記憶装置が含まれ得る。コンピュータ読取可能媒体には、インターネットシステムに例示されるものなどの有線媒体、またはGSM移動電話システムに例示されるものなどの無線媒体も含まれ得る。コンピュータプログラムは、そのような汎用コンピュータにロードして実行した場合に、好ましい方法のステップを実装する装置を有効にもたらす。
【0057】
また、本発明はハードウェアモジュールとしても実装し得る。より詳細には、ハードウェアの意味では、モジュールとは他の構成要素またはモジュールと共に使用するために設計された機能的ハードウェアユニットである。たとえば、個別の電子部品を使用してモジュールを実装し得るか、これが特定用途集積回路(ASIC)などの電子回路全体の一部分を形成することができる。数々の他の可能性が存在する。当業者は、システムをハードウェアおよびソフトウェアのモジュールの組合せとしても実装できることを理解されよう。
【0058】
管制塔または管制室(135)(
図1A)内の応用コンピュータシステムは以下の機能を有する。
1.カメラの数、それぞれのカメラのカバレッジ領域(視野)、カメラの較正、警報を生成すべき事象、警報の種類などに関する監視システムの構成を行う。
2.操作員が、FODまたは滑走路損害を有効に確認すること、FODが滑走路上の異物、破片または損害(弾孔、地下爆発、破砕、UXO)であるかを決定すること、ならびに異物または飛行場滑走路損害を測定および分類することを可能にするために、それぞれの監視カメラの視野を選択する(カメラの画角を遠隔調節することによる)。ビデオディスプレイは複数の監視カメラからの多重化ビデオを示すことができる。
3.それぞれのPTZまたはズームカメラが飛行場滑走路上の所望の目的領域にパン、チルトおよび/またはズームインするよう自動的に調節することによって、それぞれのパン・チルト・ズーム(PTZ)またはズームカメラの視野(画角)を選択する。関連するPTZまたはズームカメラは、損害を受けたまたは破片もしくは異物を含むことが疑われる飛行場滑走路の部分に自動的にズームするために、応用コンピュータシステムによって遠隔制御されている。また、この機能は応用コンピュータシステムを用いて操作員によって手動および遠隔で行うこともできる。
4.音または視覚警報を構成する。ここで、滑走路上に問題が表れた(すなわちFODまたは滑走路損害が検出された)場合は、警報の優先リストが自動的に生成されるようにシステムを操作可能であり、最大の弾孔あるいは最も危険な破片もしくは異物または滑走路損害(弾孔、地下爆発、破砕、UXO)が最優先されて、操作員が必要な修正行動をとることを可能にする。警報は音声および/もしくは視覚または両方であるように構成することができる。警報には、GSM、SMSもしくはMMSまたは3G移動通信などの移動通信手段を介した遠隔無線警報も含めることができる。
5.システムが滑走路または誘導路上のFODまたは滑走路損害を検出した場合に様々な監視カメラによって獲得されたビデオ画像および/または静止画画像を処理および記録し、滑走路シーンの記録されたビデオ画像および/または静止画画像を再生する。
6.事象、ビデオデータおよび記憶された他のデータの管理。容易な読み出しおよび様々な報告書の生成のために、すべての関連するデータはデータベース内にログ付けされている。
7.他のシステムがデータベースにアクセスすることを可能にするシステムインタフェース。
8.他のシステムがリアルタイムデータおよびすべての現場機器の詳細を含めたシステム全体にわたるステータスを得ることを可能にするための、リアルタイムデータを共有するためのシステムインタフェース。リアルタイムデータを航空機の着陸/離陸の制御システムと統合することは、航空機およびクルーに即時の安全性を提供するために有用である。
【0059】
図2は、一実施形態によるFODまたは飛行場滑走路損害の検出の基本的な流れ図である。
【0060】
ステップ201では、監視カメラが滑走路の一部分のそれぞれの画像を獲得する。獲得された画像の処理に関与するステップは以下の段落で説明されている。
【0061】
ステップ203では、獲得された画像の前処理を行うために画像強調を行う。X方向(滑走路方向に平行)の段階的なグレースケール変化および高コントラストの滑走路の白線は、滑走路に平行な方向に高い勾配変化を有する特長(ほぼすべての実3D異物、損害、または破片(FOD)はこれらの特性を有する)を強調するために排除されている。
【0062】
出力画像中のすべてのピクセルは、一部の顕著な滑走路灯およびFOD以外はほぼゼロとなる(白い滑走路の線および移動する雲または雨が原因でグレースケールの勾配変化を有する領域が含まれる)。このステップは、低い誤認警報率を有する信頼性のあるFODまたは滑走路損害の検出を支援することができる。
【0063】
最適な結果を達成するために、Sobel Xの左から右+右から左またはScharr Xなどの高域フィルターを使用する。
【0064】
ステップ205では、異常光検出を夜間での検出に適用する。滑走路シーン上の突然の明るい光または明るいスポットは監視カメラ(108)をブルームする場合がある。これは、航空機が着陸する際、離陸する際、または地上車両が夜間に移動する際に起こり得る。検出アルゴリズムがそのような状況を決定する。異常光が検出された場合、画像は無視される。アルゴリズムは、グローバルヒストグラムおよび統計分析(たとえば平均グレースケール)を行って、獲得された画像を進行的に更新される画像と比較する。また、アルゴリズムは、明るいスポットのパラメータ(大きさ、領域など)も活用して、異常光条件が存在するかどうかを決定する。
【0065】
ステップ207では、最適検出パラメータが推定され、適応ピクセル・レベル・エッジ・マップが抽出される。様々な気象および昼/夜条件下では、飛行場または滑走路(106)の画像は非常に異なって見え得る。画像は、滑らかもしくは荒い、または反射が多い場合がある。このステップは、最小限のノイズで実際のFODまたは損害のエッジを抽出するために、最適なFODまたは損害のエッジ抽出閾値を適応的に推定することである。アルゴリズムは、元の(動作領域を除く)または進行的に学習された背景画像に基づく統計方法(たとえば平均、偏差)を使用して、ピクセルレベルの閾値マップの生成に使用するグレースケールのルックアップテーブル(LUT)を決定する。
【0066】
ステップ209では、時間的フィルタリングを大量のエッジマップに適用して、ノイズが減少したロバストエッジを保持する。時間的フィルタリングはピクセルレベルで適用する。蓄積されて特定の閾値を通過したピクセルのみがロバスト・エッジ・ピクセルとみなされる(ロバスト・エッジ・マップで使用される)。明滅するピクセルは蓄積されて閾値を通過することができず、したがって削除される(ロバスト・エッジ・マップで使用されない)。
【0067】
ステップ211では、適応背景学習は、背景学習の無限インパルス応答(IIR)の原理を使用して行う。
B
t:時間tでの背景画像であり、
B
t−1:時間t−1での背景画像であり、
I
t:時間tでの現在の画像であり、
この場合、背景画像は
B
t=B
t−1*α+I
t*(1−α)
によって更新される。
【0068】
システムは、背景学習に主にエッジマップを使用する。学習された特長には主に中央燈が含まれ、低いカメラ角度が原因で一部の端燈が滑走路領域内にわずかに入る。適応背景学習の主な目的は、誤認警報を生成せずに、背景に溶け込ませるために滑走路上のゆっくりとした特長変化過程を獲得すること、および翌日に背景エッジマップとして使用するために学習された背景エッジマップをファイルまたはデータベースに毎日保存することである。これにより、システムが滑走路のマーキングの変化にできる限り素早く適応することが可能となる。
【0069】
ステップ213では、複合背景エッジマップが得られる。複合背景エッジマップは飛行場滑走路/誘導路のマーキングを表す。複合背景エッジマップは、適応背景エッジマップ、前日の保存された背景エッジマップ、および任意選択で季節的なマーキング(季節的なマーキングは雪などの特定の季節または気象条件中に生成される)からなる。これらを単純に加算するか、またはさらに処理して、最終背景エッジを形成することができる。
【0070】
ステップ215では、エッジマップと複合背景エッジマップとを比較することによって疑いのあるエッジを抽出する。このステップでは、ステップ213で処理された画像(複合背景エッジマップ)から滑走路/誘導路のマーキングのエッジが除去される。残ったエッジはおそらくFODまたは飛行場損害である。
【0071】
ステップ217では、エッジフィルタリングを行って、FODまたは滑走路誘導路の損害の一部ではないが雪、雨または朝のグレアなどの他の気象条件が原因であり得るエッジの一部をフィルタリングする。気象条件はセンサおよび/または画像処理方法によって検出される。このステップは、これらの気象条件を検出するために1つまたは複数の選択可能なアルゴリズムを使用することを含み、たとえば、雨のために滑走路灯が点灯している場合は滑走路上に反射が生じる場合がある。特定のフィルタリングアルゴリズムが光を位置決定して反射エッジをフィルタリングする。
【0072】
ステップ219で物体の分類を行って、ステップ217からの検出された物体が実際にFODまたは飛行場滑走路/誘導路の損害(弾孔、地下爆発、破砕、UXO)であるかどうかを決定する。物体の分類方法の一部の例は、パターンマッチング、ベイズ分類器、線形班別分類器、ニューラルネットワーク分類器、ファジー分類器およびニューラルファジー分類器、最近傍分類器である。また、飛行場滑走路/誘導路の損害が弾孔または地下爆発または破砕であるかを決定し、弾孔または地下爆発または破砕の周りの破片の量を検出および測定することによってその大きさを測定することも可能である。
【0073】
ステップ217からのフィルタリングしたエッジを使用して、システムは関連する物体属性、たとえば、長さ、高さ、周長、領域、質感、色特性(色相および彩度)、光強度(グレーレベル)を抽出する。これらの物体属性は物体が分類の入力ベクターを形成して、検出された物体が実際にFODまたは飛行場損害であるかどうかを決定する。
【0074】
ステップ221では、FODまたは飛行場滑走路損害が検出された後、管制塔または管制室内の操作員は、視覚警報および/もしくは音声警報ならびに/または無線警報(GSM、SMSもしくはMMSなど)のいずれかによってその警告を受ける。警報および/または無線警報を受信した際、操作員は監視カメラを検出されたFODまたは飛行場滑走路/誘導路の損害にズームする。FODまたは飛行場滑走路/誘導路の損害が確認された場合、別の警報(音および/または視覚)が管制塔または管制室内で作動される。また、FODの確認により、滑走路または誘導路の近くに位置する遠隔警報(音および/または視覚)も作動される。それに加えてまたはその代わりに、無線警報(GSM、SMSまたはMMSなど)を作動させて滑走路復旧チームに通知することもできる。すぐに飛行場復旧チームが復旧車両を派遣して、検出されたFODを片付ける、すなわち異物もしくは破片を取り除く、または飛行場滑走路/誘導路の損害を修復する。
【0075】
図3Aおよび3Bは、本発明の一実施形態の詳細な流れ図である。ステップ301の処理を開始した際、ステップ302でシステムは初期化される。ステップ303では、監視カメラが飛行場の滑走路または誘導路の一部分の初期画像を獲得する。
【0076】
画像を分析してすべての動作を検出する。本例の実施形態では、動作がまったくない画像のみを背景学習に使用し、最終的には参照背景画像としてデータベース内に記憶される。
【0077】
ステップ305では、獲得された画像は、獲得された画像の前処理を行うために画像強調に供する。画像前処理の後、一部の顕著な滑走路灯以外は、画像中のすべてのピクセルはゼロとなる(白い滑走路の線および移動する雲または雨が原因でグレースケールの勾配の変化を有する領域に対応するピクセルを含めて)。
【0078】
ステップ307では、昼から夜、または夜から昼の変化が存在するかどうかを調べるための検査を行う。たとえば、これはセンサまたはカメラの光強度の差異を監視することによって達成することができる。昼から夜または夜から昼の変化の光強度の変化は、通常は気象の変化が原因のものよりはるかに大きい。昼から夜もしくは夜から昼の変化または夜間条件が検出された場合は、ステップ309で異常光検出検査が行われる。ステップ311で異常光が検出された場合は、以前に獲得された画像は無視され、ステップ303から次の画像が獲得される。異常光が検出されなかった場合は、ステップ315で感知される様々な環境条件(たとえば、昼/夜、雨、雪、煙など)について、ステップ313で推定される最適な異物、破片または損害(FOD)の検出パラメータが導き出される。
【0079】
たとえば、様々な環境条件(たとえば、昼/夜、雨、煙など)は1つまたは複数のセンサによって検出することができる。また、変更を行うために1つまたは複数の閾値が組み込まれた、カメラの絞り(iris)に基づくシステムを使用することもできる。たとえば、閾値は昼には50に設定することができ、夜には70まで上げることができる。また、時間フィルターを使用することもでき、昼であるか夜であるかを確認するために特定の値を一定期間維持させる。また、応用コンピュータシステムは、昼または夜の条件を確認するために、そのリアルタイムクロック(RTC)および電子カレンダーからの入力を含めた他の日時の入力を使用することもできる。
【0080】
飛行場の滑走路または誘導路のマーキングは昼間および夜間で異なる。通常は夜間の方がマーキングが多い。夜のマーキングを昼のマーキングに優先する。
【0081】
ステップ317は適応ピクセル・レベル・エッジ・マップの抽出(
図4を参照)を提供し、最小限のノイズで実際のFODまたは損害のエッジを抽出するために、最適なFODまたは飛行場滑走路/誘導路の損害のエッジ抽出閾値がルックアップテーブル(LUT)から導き出される。
【0082】
ステップ319(
図3B)では、動作エッジフィルタリング行って静止エッジマップを生成する。ステップ321では、時間的フィルタリングを行ってロバスト・エッジ・マップを抽出する。蓄積されて特定の閾値を通過したピクセルのみがロバスト・エッジ・ピクセルとみなされる(ロバスト・エッジ・マップで使用される)。明滅するピクセルは蓄積されて閾値を通過することができず、したがって削除される(ロバスト・エッジ・マップで使用されない)。
【0083】
ステップ323では、適応背景が学習されたかどうかを決定するための検査を行う。システムは背景学習にエッジマップを使用する。適応背景323が学習されていない場合は、ステップ325で適応背景エッジマップが初期化/更新される。ステップ327では、適応背景マップが事前に定義された条件に達成するかどうかを決定するための検査を行う。達成していた場合は、ステップ329で表示がフラグされて、適応背景が学習されたことを通知する。達成していない場合は、処理はステップ303(
図3A)に戻り、画像を獲得し続ける。
【0084】
適応背景323が学習されている場合は、ステップ331で複合背景エッジマップが生成される。複合背景マップは、ステップ325で生成/更新された適応背景マップ、以前に保存された昼/夜背景マップ、およびステップ302(
図3A)で処理が初期化された後にステップ333で提供される季節的マーキングマップからなる。季節的なマーキングは、特定の季節または気象条件(たとえば、雪または雨)下での滑走路のマーキングに関連している。画像を処理することまたは外部センサを使用することによって、誤認警報を減らすためにシステムは季節または気象条件を同定することができる。複合背景マップには滑走路のマーキングが含まれる。
【0085】
ステップ335では、複合背景マップとエッジマップとを比較することによって疑いのあるエッジマップを抽出する。ステップ337では、エッジフィルターを適用して、雨が原因の反射などの突然の環境変化に関連する所望しないエッジをすべてフィルタリングする。たとえば、雨条件下では、滑走路灯の画像は、FODまたは飛行場滑走路/誘導路の損害に類似し得る明るいスポットとして検出される場合がある。システムは、以前に記憶された画像と比較することによってそのような潜在的な誤認警報を検出することができる。
【0086】
ステップ337の後、適応背景マップはステップ339で更新され、ステップ341で、昼から夜の変化、または夜から昼の変化が存在するかを調べるための検査を行う。昼から夜の変化、または夜から昼の変化が存在する場合は、ステップ343ですぐに使用するための最後の昼または夜の背景マップが読み込まれ、ステップ345で適応背景マップが翌日に使用するための昼/夜の背景エッジマップとして記憶される。ステップ341で昼から夜の変化、または夜から昼の変化が存在しない場合は、処理はステップ303(
図3A)に戻り、画像を獲得し続ける。
【0087】
ステップ347では、ステップ337からのフィルタリングした疑いのあるエッジマップからエッジパラメータ(大きさ、領域など)が計算される。ステップ349では、エッジパラメータが閾値を超えるかどうかを決定するための検査を行う。超える場合は、ステップ351で、滑走路上の疑いのある領域をビデオディスプレイ上でオーバーレイし、管制塔または管制室内の操作員は音シグナルおよび/または視覚的ならびに/あるいは無線警報(GSM、SMSもしくはMMS、または3Gなど)のいずれかによってその警報を受ける。ステップ353では、警報を受けた際、操作員は、視覚検証のために監視カメラを使用してパンおよび/またはチルトおよび/またはズーム操作を行う。ステップ353では、FODまたは飛行場滑走路損害が確認された場合、357で飛行場滑走路復旧チームが無線手段(GSM、SMS、もしくはMMSまたは3Gなど)によってすぐに通知される。FODまたは飛行場滑走路/誘導路の損害の画像はビデオディスプレイ上に表示され続け、警報シグナルはステップ359で復旧チームがFODを飛行場滑走路から回復または片付ける(すなわち異物もしくは破片を取り除く、または飛行場滑走路/誘導路の損害を修復する)まで持続する。
【0088】
図4は、上述のステップ207(
図2)およびステップ317(
図3A)で適応ピクセル・レベル・エッジ・マップを抽出するために使用するルックアップテーブル(LUT)を示すグラフである。
【0089】
P1、P2〜PnおよびT1、T2〜Tnは、獲得された画像、進行的に学習された画像および外部センサ入力の統計分析に基づいた推定であり、これにより、最小限のノイズでFODまたは損害のエッジマップを抽出するために使用するピクセルレベルの閾値を生成するための最適区分的ルックアップテーブル(LUT)が計算される。
【0090】
獲得された画像または進行的に学習された背景画像中のピクセル値を上記LUTによって閾値画像中の閾値にマッピングする。その後、獲得された画像はこの閾値画像を減算する。0を超えるすべてのピクセル値を255に設定する。この生じた画像は適応ピクセル・レベル・エッジ・マップに対応する(
図2のステップ207および
図3Aのステップ317)。
【0091】
滑走路のシーン較正および飛行場滑走路/誘導路の損害、ならびにFODおよび損害の位置決定、測定ならびに/または分類を本発明の実施形態で行い得る。
【0092】
また、本発明の実施形態はカラー監視カメラも使用し、カラーイメージング処理を提供する。
【0093】
しかし、上述のすべての技法および画像処理方法は、白黒画像処理およびカラー画像処理のどちらにも機能する。したがって、滑走路監視システムは白黒カメラ(可視スペクトルカメラ、赤外線カメラおよび熱イメージング装置が含まれる)またはカラーカメラのどちらを使用することもできる。
【0094】
例示的な実施形態において監視カメラによって獲得された飛行場滑走路/誘導路のシーン画像は、シーン画像上のそれぞれのピクセルに対応する物理的な位置および範囲が、数式、または滑走路のシーン画像中のそれぞれのピクセルを滑走路などの監視領域上に定義された参照データ(WGS84もしくは空港グリッドなど)の2Dもしくは3Dの物理的実世界座標フレーム(x,y,z)中の特定の正確な座標にマッピングする、事前に計算されたルックアップテーブルのどちらかを使用して計算されるように、事前に較正されている。
【0095】
システムは、滑走路のシーン較正のために静止飛行場滑走路/誘導路特長を活用する。たとえば、何らかの固定された実世界参照位置に対するこれらの静止滑走路特長の位置および範囲を、地上測量、物理的測定または滑走路マップから事前に決定することができる。たとえば、1つのそのような有用な特長は、マーカーを配置すること、または滑走路の縦方向に沿った、滑走路の側方から同じ垂直(y軸)距離の滑走路上の滑走路端燈を使用することである。これらのマーカーは滑走路の縦(水平)方向に沿っており、滑走路の側方から同じ垂直距離であるため、これらのマーカーの水平(x軸)距離分離も滑走路のシーン画像中のピクセル計数にマッピングすることができる。したがって、水平(x軸)ピクセルマッピング比(メートル/ピクセル)は、2つのマーカー間の物理的な地上水平距離を水平ピクセル幅(滑走路画像上の2つのマーカー間のピクセル数)で除算することによって導き出すことができる。既知の位置を有する最低2つの静止滑走路特長を使用してそれぞれのシーン画像を較正することができる。
【0096】
たとえば、より正確なシーン較正のため、および不均一な滑走路表面に対応するために、好ましくは数対の滑走路マーカーを滑走路の縦方向に沿って(滑走路の側方から同じ垂直距離で)配置して、滑走路上に一連の仮想水平線を印す。これらの水平仮想線の地上物理的距離(それぞれのマーカー対の間)は、巻尺または測定ホイールまたはGPS受信機を使用して測定することができる。特定のカメラ設定におけるこの水平仮想線上のピクセル数は、滑走路のセクション画像から測定される。
【0097】
たとえば、滑走路上の監視カメラの視野は台形形状を有する。したがって、滑走路画像のピクセルマッピング比(メートル/ピクセル)は滑走路の垂直方向(Y軸)にわたって異なる。したがって、滑走路の遠方側はより狭く、より大きなピクセルマッピング比(メートル/ピクセル)を有する一方で、手前側はより幅広く、より小さなピクセルマッピング比(メートル/ピクセル)を有する。システムは、中央線の両側の2本の平行な水平滑走路の線および中央線を活用して、画像ピクセルを使用したデータ(WGS84、空港グリッドまたはデカルト座標系であることができる)に基づいて、実世界参照座標フレーム上の正確な座標へとマッピングするための正しいピクセルマッピング比(垂直なy軸用)を決定する。したがって、滑走路の水平線と中央線との間の物理的垂直(y軸)距離は地上で測定できるため、垂直ピクセルマッピング比(メートル/ピクセル)は、これらの線の間の物理的垂直距離(地上で測定)を、これらの線の間のピクセル数(滑走路画像上で垂直ピクセル幅から誘導)で除算することによって導き出すことができる。
【0098】
図7は、例示的な実施形態による例示的な滑走路の線を例示する模式図である。滑走路の遠方側に1本の水平滑走路線(802)が存在し、滑走路の手前側に別の水平滑走路線(803)が存在する。802は遠方側の滑走路縁線であることもでき、803は滑走路の手前側の滑走路縁線であることもできる。これらの線(802、803)はどちらも中央線(801)に平行であり、これらの線はすべて滑走路の水平方向(x軸)に沿っている。手前側の水平線(803)と中央線(801)との間の物理的垂直距離は805であり、滑走路画像上のこれら2本の線の間の垂直ピクセル幅(ピクセル数)はy1ピクセルである。したがって、手前側の垂直ピクセルマッピング比は、805をy1で除算することによって得られる(メートル/ピクセル)。同様に、遠方側の水平線(802)と中央線(801)との間の物理的垂直距離は804である一方で、滑走路画像上のこれら2本の線の間の垂直ピクセル幅(ピクセル数)はy2ピクセルである。したがって、滑走路の遠方側の垂直ピクセルマッピング比は804をy2で除算することによって得られる(メートル/ピクセル)。したがって、2つの異なる垂直(y軸)ピクセルマッピング比(805/y1および804/y2)を使用して、中央線を参照として使用してピクセルが滑走路の手前側または遠方側にあるかに応じて、滑走路画像上のピクセルを実世界参照座標フレーム上の正確な座標へとマッピングする。
【0099】
上記技法は、ピクセルマッピングの正確性を改善することができる。較正は、様々な実世界座標データ、たとえば、WGS84、空港グリッドまたはデカルト座標系に基づくことができる。
【0100】
滑走路の縁/中央/水平の線は任意の色であることができる。滑走路の縁/水平/中央の線と滑走路表面との間にコントラストが存在する限りは、較正を行うことができる。さらに、滑走路の縁および中央の線は連続的である必要はない。連続的な線は、隣接線を補間することによって導き出すことができる。
【0101】
本発明の代替実施形態は、任意選択でまたはそれに加えて、一対の監視カメラを使用した立体視を活用して、滑走路の同じセグメントをカバーすることができる。立体視を使用する場合、飛行場滑走路/誘導路の損害またはFODの範囲および位置は、滑走路上の監視領域(視野)上の同じ領域をカバーしている2台のカメラによって獲得された2つの画像を比較することによって得られた差分画像から計算することもできる。
【0102】
立体画像対のそれぞれの画像中で局所的な特長を検出し、その後、画像間でマッチさせる。これにより、疎らであるが高品質な相違ベクトル組がもたらされる(これは、それぞれの画像中でみられる画像特長の相対位置を測定するものである)。これらの相違ベクトルから、特長位置の2Dおよび3Dの推定を計算し、滑走路表面の平坦な(または少なくとも滑らかな)モデルと比較することができる。あるいは、画像をピクセルレベルで登録し、より可変的な品質のために密な相違ベクトル組を提供することができる。
【0103】
立体イメージングの課題のうちの1つは、範囲の計算に使用した2つの画像の対応の決定である。用いられるピクセル対応技法には、相互相関演算子の使用、関係制約を用いた記号マッチング、およびこれらの技法の組合せが含まれる。
【0104】
たとえば、一組の立体カメラによって獲得された2つの画像(画像1、画像2)間でピクセルを相関させる必要がある場合は、相互関連は、画像1中の所定の点P1に対して画像2の固定領域があり、画像2中にはP1に対応する点P2が存在しなければならないという仮定に基づいている。この領域の大きさは、カメラの較正処理から得られたカメラ設定に関するパラメータによって決定される。対応を決定するための記号マッチング手法では、一方の画像中の特長にマッチする他方中の特長を検索する。使用される典型的な特長は、分岐点、線セグメントまたは領域である。分岐点の対応は疎らな深度マップを生じ、深度は小さな点集合でのみ知られている。線セグメントの対応は、その端点間の対応をもたらすことができる。
【0105】
一代替実施形態は、飛行場滑走路および/または誘導路および/またはインフィールドの広域カバレッジを提供するために、広角レンズを備えた1つまたは複数の静止監視カメラを活用する。静止監視カメラは、任意の飛行場の侵入、襲撃または爆撃を検出し、1つまたは複数のパン・チルト・ズーム(PTZ)カメラを飛行場滑走路/誘導路上の検出された損害またはFODの特定の領域(複数可)に向けさせて滑走路損害(弾孔、地下爆発、破砕、UXO)およびFODの迅速な検出/測定/分類を可能にすることができる。
【0106】
また、本発明の代替実施形態は、飛行場滑走路/誘導路の上空を飛行して飛行場滑走路/誘導路の航空デジタル画像またはビデオを獲得する、無人航空機または無人航空車両(UAV)などの航空機も活用することができる。また、滑走路および/または誘導路の上空を飛行して飛行場滑走路/誘導路の航空デジタル画像またはビデオを獲得する垂直離着陸航空機(VTOL)も使用することができる。デジタル画像またはビデオは、UAVまたはVTOL上に装着された、搭載された電気光学センサ(EOセンサ)を活用することによって獲得される。EOセンサは受動的であることができ、人工照明の使用を必要としない。EOセンサによって獲得された、獲得ジタル画像およびビデオはリアルタイムで分析/処理されて滑走路損害(弾孔/地下爆発/破砕およびUXO)ならびにFODの検出/測定/分類を可能にする。夜間などの低照度条件下では、滑走路損害またはFOD検出能力を増強するために赤外線(IR)人工照明を使用することもできる。
【0107】
また、本発明の代替実施形態は、赤外線(IR)照明器または可視スペクトル照明器も活用して、低視度および低周囲照度条件下(夜間など)で人工照明を提供する。IRまたは可視スペクトル照明器は、IRまたは可視スペクトル光の狭いフォーカスビームを、監視カメラ(複数可)によって走査されている飛行場滑走路/誘導路/インフィールドのセクターにもたらす。また、IRまたは可視スペクトル照明器はパン、チルト、ズーム(PTZ)能力も有することができる。IR照明器または可視スペクトル照明器の制御(オン/オフ、光力、PTZ)は、低視度条件下での最適な人工照明のためにビデオ・プロセッサ・ユニット(VPU)または中央コンピュータシステム(CCS)によって制御することができる。
【0108】
本発明の代替実施形態は、監視カメラの冗長カバレッジを提供する。
図5は、滑走路上のFODまたは損害を検出するための監視システム(600)における監視カメラの冗長カバレッジを例示する模式図である。監視カメラ(601、603、605、607、609)は誘導路(104)の片方の端に位置する。すべての監視カメラ(601、603、605、607、609)が正常に機能している場合は、それぞれの監視カメラ(601、603、605、607、609)のカバレッジ角度(画角)(611)は通常は等しく保たれる。カメラ(603)が故障および冗長となった場合、冗長カメラ(603)に隣接する監視カメラ(601および605)のそれぞれの通常のカバレッジ角度(画角)(611)は、冗長カメラ(603)の視野に向かって613まで広がる。このようにして、監視カメラ(601、603、605、607、609)からなる飛行場滑走路/誘導路の監視システムは、1つまたは複数の監視カメラが機能しない場合でも飛行場滑走路の完全なカバレッジが提供されるように機能するよう操作可能である。たとえば、カメラのカバレッジ視野(画角)は、手動で調節するか、または操作員によって、カメラのズームもしくはPTZ機能を遠隔制御する応用コンピュータシステムを使用して遠隔で行うことができる。また、調節は応用コンピュータシステムによって自動的に行うこともできる。たとえば、ズーム機能を有するカメラまたはパン・チルト・ズーム(PTZ)カメラを使用してカバレッジ視野(画角)を変更し得る。
【0109】
図6は、代替実施形態による滑走路表面の走査を例示する模式図である。
【0110】
監視下の滑走路表面領域(700)は滑走路表面(700)上の小さな領域をカバーする数々のセグメント(702)へと分割されている。水平画角(711)を有する視野をカバーすることができる1つまたは複数の非静止カメラ(708)を使用して、滑走路表面(700)領域全体がセグメント毎に走査される。非静止カメラの例はパン・チルト・ズーム(PTZ)カメラまたはズームカメラである。PTZカメラのパン・チルト・ズーム機能またはズームカメラのズーム機能は、応用コンピュータシステムまたはカメラ制御装置によって遠隔制御されている。滑走路表面領域(700)は、1つまたは複数の非静止カメラを使用することによって縦方向(703)に沿って一端(710)から他端(720)まで順次走査される。
【0111】
代替実施形態による飛行場滑走路表面の走査は、応用コンピュータシステムまたはカメラ制御装置によって制御されている。この滑走路走査方法の課題は、特にFODまたは滑走路損害が走査サイクルの終わり近くのセグメントに位置している場合に、FODまたは滑走路損害の検出時間が長いことである。滑走路の走査サイクル時間を加速させるために、代替方法では、1つまたはさらには2つのセグメントを省略すること、すなわち、2つまたはさらには3つのセグメント毎に1つのセグメントを走査する。以前に走査しなかったセグメントは次の走査サイクル中に走査し、一方で以前のサイクル中に走査したものはこのサイクル中では走査しない。滑走路走査方法の代償は、滑走路表面上の走査していないセグメントに存在するFODを検出するために長い検出時間がかかることである。
【0112】
滑走路上のFODは主に航空機の離着陸に起因するため、代替実施形態においてFOD検出時間を短縮するための別の方法は、非静止または静止監視カメラの組合せを活用することである。静止カメラは、好ましくは、滑走路および/または誘導路の重要なセクションをカバーするために十分に広い視野(広い画角)を有する。静止監視カメラによって獲得された画像をリアルタイムで処理することによって、応用コンピュータシステムは滑走路上の航空機の離着陸の発生および位置を検出することができる。その後、非静止監視カメラは、応用コンピュータシステムによって、航空機の着陸または離陸が先ほど起こった滑走路上の特定の位置をカバーするセグメントを最初に走査するように指示されることができる。この方法は、FOD検出時間の短縮を援助することができる。
【0113】
静止監視カメラがFODまたは飛行場滑走路損害を検出した場合は、管制塔または管制室内の応用コンピュータシステムが、静止カメラによって獲得されたシーン画像に基づいて滑走路上の検出されたFODまたは滑走路損害の位置および範囲を決定する。飛行場滑走路/誘導路表面上の検出されたFODまたは飛行場滑走路/誘導路の損害の位置および範囲の決定は、滑走路の較正されたシーン画像を用いたモノスコープビジョンを使用することによって達成する。たとえば、較正された滑走路のシーン画像中で、それぞれのピクセルを実世界座標フレーム上の正確な座標にマッピングする(WGS84または空港グリッドデータに基づくことができる)。あるいは、ステレオスコープビジョンに基づいた物体の位置決定および範囲決定技法を使用することもできる。
【0114】
静止監視カメラ(モノスコープまたはステレオスコープ)によって検出されたFODまたは飛行場滑走路/誘導路の損害の範囲および位置に関する情報は、非静止カメラ(たとえば、パニングカメラまたはパン・チルト・ズーム(PTZ)カメラまたはズームカメラ)を自動制御してFODまたは飛行場滑走路/誘導路の損害または飛行場滑走路/誘導路上の目的領域にパンおよび/またはチルトおよび/またはズームおよび/またはフォーカスさせるため、ならびに検出されたFODもしくは飛行場滑走路/誘導路の損害の存在を確認するまたは誤認警報をフィルタリングするために十分な詳細を有するFODまたは目的領域または飛行場滑走路/誘導路の損害のビデオディスプレイの望遠写真画像を得るために、システムによって利用される。また、これらの望遠写真画像は、検出されたFODまたは飛行場滑走路/誘導路の損害の正確な測定、特徴づけおよび分類にも利用される。物体の長さ、高さ、領域、曲率、周長、質感、色特性を含めた正確な物体特長をこれらの望遠写真画像から抽出することができ、これらは事前に訓練した物体分類器への入力として使用することができる。
【0115】
また、本発明の実施形態は、異物、破片または損害(FOD)、誘導路または滑走路損害を検出/測定/分類するためのシステム(100)(
図9)と、兵器衝撃監視システムとを備える総合的飛行場および滑走路誘導路の損害評価システムとして使用するために拡張することもできる。
【0116】
図9は、例示的な実施形態による、異物、破片または損害(FOD)、飛行場滑走路/誘導路の損害を検出するためのシステム(100)と、兵器衝撃監視システム(950)とを備える総合飛行場損害評価システム(952)を例示する模式図である。
【0117】
図10は、
図9の兵器衝撃監視システムを使用した衝撃検出システムを例示する模式図である。
【0118】
飛行場に対する敵の攻撃の後、まず、すべての損害(たとえば1003)が検出され、兵器衝撃監視システムの静止カメラ(951)からのビデオまたは画像データを入力として使用して情報を飛行場設計図(1000)上にプロットする。その後、航空機の種類、積載量および周囲条件に応じて最小飛行場稼働表面(MAOS)および/または最小稼働仮設滑走路(MOS)(1007)、ならびに飛行運用を再開させるために必要な最小量の初期修復作業を導き出す。MAOSおよびMOS(1007)の確立において、1つまたは複数、好ましくはすべての弾孔(1003)の大きさおよび位置、弾孔(1003)の位置への接近しやすさ、損害を受けた誘導路または進入路(1009)を介した航空機のMOS(907)への接近しやすさ、および不発爆弾(UXO)または弾孔(たとえば1011)の位置が考慮される。
【0119】
本発明の実施形態は、以下を有利に提供することができる知的ビデオ/画像処理を利用する。
・飛行場滑走路/誘導路の損害(弾孔、地下爆発、UXO、破砕)およびFODのリアルタイム自動検出、
・飛行場滑走路/誘導路の損害項目(弾孔、地下爆発、UXO、破砕)およびFODの視覚検証および正確な位置、
・飛行場滑走路/誘導路の損害(弾孔、地下爆発、UXO、破砕)およびFODの大きさ/物理的属性の測定、ならびに
・飛行場マップまたは飛行場滑走路マップへの飛行場損害または飛行場滑走路損害の程度のマッピング。
【0120】
知的ビデオ/画像処理に基づくシステムから導き出された集合情報は、好ましくは有効な決断支援システムを提供する。
【0121】
コンピュータビジョンに基づく兵器衝撃監視システム(950)は、空軍、海軍および陸軍の現実的な武器訓練および防衛訓練を容易にするために、ロケットおよび爆弾の衝撃を自動的に検出してスコア付けする。監視システム(950)は、昼および夜のどちらに運用中の陸上および水上の単一または複数の打撃もスコア付けすることができる。兵器衝撃監視システム(950)は開放型アーキテクチャで設計されているため、空中戦操縦用計装(ACMI)と一体化させて電子戦闘訓練システム(EWTS)のサブシステムのうちの1つとすることができる。
【0122】
先端戦闘損害評価(BDA)システム(950)の実施形態は、好ましくは以下に基づいて実装される。
・知的ビデオ/画像処理の技術経験、
・軍事および/または飛行場環境における現場で実証された、コンピュータビジョンに基づくシステムの適応、
・空軍に組み込むことができる、システム設計、ハードウェアおよびソフトウェアの信頼性およびロバスト性、
・戦時および平時における投資の回収の最適化に関する経済的実行可能性。
【0123】
本発明の実施形態は、兵器衝撃監視システム(950)(
図9)ならびに飛行場滑走路/誘導路の損害およびFODの検出システム(100)(
図9)の統合によって先端自動BDAシステム(950)を提供する。
【0124】
兵器衝撃監視システム(1000)(
図10)は、単一または複数の目に見える兵器衝撃を飛行場領域の広角または普通角または挟角の視界角から自動的かつ正確に検出およびプロットする能力を有する。兵器衝撃シグネチャの種類には、通常は爆発、煙、埃または何らかの形態の閃光(夜間)などの目に見える衝撃を生成する、空対地および地対地のミサイル、ロケット、爆弾および砲撃の一斉射撃などに由来するものが含まれる。兵器衝撃監視システム(1000)は兵器衝撃によって生じる音も活用して兵器衝撃の位置を決定し得ることが可能である。これは、マイクを戦略的な位置に配置し、音源追跡技法を使用することによって達成することができる。
【0125】
他方では、飛行場滑走路/誘導路の損害およびFODの検出システム(100)(
図9)は、飛行場内滑走路/誘導路/エプロン環境内の非常に小さな物体(たとえば4cmの大きさのFOD)、UXO、飛行場滑走路/誘導路の損害(弾孔、地下爆発、破砕)および舗装状態(たとえば亀裂)を走査、検索および検出するように事前にプログラミングされたズームイン視界を備えて有利に設計されている。特殊電気光学(EO)センサを備えたFOD検出システム(100)(
図9)は24時間稼働し、画像処理および強調ソフトウェア技術と一体化して、システムが夜間の稼働中でさえも非常に小さな物体を「見て」検出することを可能にする。飛行場滑走路/誘導路の損害およびFODの検出システム(100)(
図9)は飛行場の指定された舗装路を安全な距離から遠隔で監視および検査し、検出された標的の位置を正確に示す。
【0126】
図11は、
図9の総合飛行場損害評価システム(952)で使用されるソフトウェアモジュールを示すレイアウトを示す。BDAソフトウェアは、変化する環境的飛行場条件に強い複数のソフトウェア技法を使用して変化するシーンを自己学習してそれに適応し、爆撃(弾孔、地下爆発、破砕)もしくはUXOまたはFODのシグネチャを潜在的な誤警報から識別することができる。検出アルゴリズムが長さ、高さ、深度、周長、領域、質感、曲率、色特性(色相および彩度)、光強度(グレーレベル)などの標的の関連属性を抽出して、標的を決定および測定する。例示的な実施形態において用いられている技法の一部には以下が含まれる。
・動的背景モデリングおよびシーン変化検出技法に基づく知的ビデオ分析。滑走路上のタイヤ跡さえも、確実な検出のために背景シーンに常に更新される、
・気象の変化、熱波などの影響が原因のビデオまたは画像のノイズ構成要素を低下(減弱)させるためのノイズフィルタリング処理、
・分析/処理のために微光/視界不良条件下で最良品質の画像を生成するための画像集約技法、
・静止標的を飛行場滑走路/誘導路上の航空機、車両、人、野生生物などの正当な移動物体から区別するための静止標的検出、
ならびに
・連続的な自己学習および昼から夜への環境変化、曇り影や雨、雪などのシーン変化に適応するために適用された人工知能技術。
【0127】
同時に、別個の専用センサから同時画像処理が行われる。
・兵器衝撃監視およびスコア付けに使用されたセンサ(951)(
図9)の入力からの処理:アルゴリズムは、実際の同定可能な兵器衝撃シグネチャを他の背景効果から検出および区別するために、最初に滑走路/誘導路の指定された広域視野を分析する。検出された際、ソフトウェアは視覚および音声警報を作動し、衝撃点の特定の位置で詳細な画像またはビデオを獲得するように、FODセンサ(108)(
図9)のパン−チルト−ズーム機能に指令を出す。FODおよび損害の検出アルゴリズムは損害の程度を検索、検出および測定する、ならびに
・FODセンサの入力からの処理:アルゴリズムは、飛行場の滑走路または誘導路の舗装路の指定されたズームイン視界をセクター毎に走査および分析し、弾孔、地下爆発、破砕またはUXOを検出するように事前にプログラミングされている。検出された際、ソフトウェアは画像またはビデオを獲得し、正確な位置を計算し、ユーザに対する視覚および音声警報を作動した後に、滑走路または誘導路の次のセクターの検査を続ける。
【0128】
ピクセルレベルの画像分解能によって、BDAソフトウェアは、好ましくは±1m(3.28ft)の位置の正確性で弾孔、地下爆発、破砕もしくはUXOまたはFODを位置決定すること、および弾孔/地下爆発/破砕/UXO/FODの大きさ/寸法を測定することができる。
【0129】
それ以降、ソフトウェアは、検出された弾孔、地下爆発、破砕もしくはUXOまたはFOD(1003)(
図10)のスナップショットを獲得し、発生日時、弾孔/地下爆発/破砕/UXO/FOD標的(1003)(
図10)の座標および大きさを示し、検出を二次元(2D)のグラフィカル情報システム(GIS)マップ(1000)(
図10)上にプロットおよび表示することができる。
【0130】
さらに、すべてのセンサ(951および108)(
図9)からのリアルタイムビデオ画像は、戦闘損害の程度、滑走路および誘導路の状態ならびに舗装状態を評価するためにユーザが利用可能である。
【0131】
図11を参照して、BDAシステムモジュール(1103)は兵器衝撃監視システムモジュールおよびFOD検出モジュールを一体化する。これは例示的な実施形態における開放型標準モジュール設計のおかげで可能であり、拡張性、保守性、カスタマイズ、およびトラブルシューティングの容易さを有利にもたらす。
【0132】
例示的な実施形態における主要なモジュールは以下のとおりである。
・飛行場の標的領域のビデオまたは画像を獲得する兵器衝撃監視システムのEOセンサ(EOS)モジュール(1129)。
・FODおよび損害の検出システムのPTZレベルに飛行場上の特定の標的領域を走査(パン/チルト/ズーム)するよう指令を出すための、飛行場監視システムのEOセンサ(EOS)およびパン−チルト−ズーム(PTZ)モジュール(1131)(FODおよび損害の検出用)。
・EOセンサおよびPTZセンサからの画像をVPU(有線/無線)に伝送するための画像伝送モジュール(1133)。
・画像の品質およびフレームレートを検査、補正および細かく時間決定する(fine−time)ための画像収集モジュール(1135)。
・各フレーム内の参照マーカーを検出し、センサの振動に遭遇した際に画像をその元の位置に戻して安定化/回復するための画像安定化モジュール(1137)。
・前景抽象化モジュールにおいて使用する、各フレーム内の参照背景画像を作成および更新するための参照画像計算モジュール(1139)。
・画像ピクセルの顕著な変化を検出するために現在のフレームを参照背景画像から減算するための前景抽象化モジュール(1141)。
・兵器衝撃が検出された際にいくつかの連続的なフレーム内で見つかるパターンに基づいて検出された顕著な変化を同定するための衝撃検出モジュール(1143)。
・物体(FODまたは飛行場損害など)が検出された際に様々な属性に基づいて検出された顕著な変化を同定するためのFOD検出モジュール(1145)。
・検出されたFODまたは損害の位置(弾孔の位置、地下爆発、破砕、UXOの位置が含まれる)を抽出するためのBDA位置抽出モジュール(1147)。
・FODまたは損害(弾孔、地下爆発、破砕、UXOが含まれる)の物理的寸法を測定するためのBDA大きさ測定モジュール(1149)。
・最良の(最適な)MAOSおよびMOSを計算するための最良MAOSおよびMOS計算モジュール(1151)。
・最良MOSおよび/またはMAOSに必要な修復作業の推定および計画を含めて、必要な修復作業を推定および計画するための修復の推定および計画モジュール(1153)。
・調査/分析のためにビデオ映像の記録および再生を可能にするための記録モジュール(1155)。
・ビデオまたは画像および計算された飛行場損害データをグラフィカル・ユーザ・インタフェース上に表示するための表示モジュール(1157)。
【0133】
図12は、戦時中の
図11のソフトウェアモジュールの対話を示すレイアウトを示す。本発明のBDAシステム(952)(
図9)の実施形態は戦時中に以下の利点を提供することができる。
【0134】
BDAシステム(952)(
図9)は飛行場爆撃の24時間検出を提供し、戦時中に弾孔、地下爆発、破砕、UXOおよびFODを位置決定および測定する。軍事活動中に被る飛行場/滑走路上の損害の適時かつ正確な評価は戦時中には重大である。飛行場(滑走路および誘導路が含まれる)に与えられた物理的損害の程度に関する情報を提供することによって、航空機の離着陸の再計画および飛行場滑走路/誘導路の修復の優先順位づけが有利に容易となる。
【0135】
ピクセルレベルの分析によって、BDAシステム(952)(
図9)は自動的に爆撃を検出し、位置を決定し、弾孔、地下爆発、破砕、UXO、FODの大きさを正確に測定する。この情報に基づいて、ユーザ(飛行場の指揮官)は飛行場滑走路/誘導路の損害を最速で修復するために必要なリソース、時間および材料を評価および決定することができる。
【0136】
さらに、BDAシステム(952)(
図9)は飛行場損害の程度のマッピングを提供することができる。
【0137】
弾孔の大きさおよび位置の情報の自動分析によって、システム(952)は飛行場損害の程度を2D飛行場マップ上にマッピングし、ユーザが以下を含めた飛行場滑走路/誘導路全体の運用状況を決定することを知的に支援する。
a.滑走路上の弾孔、地下爆発、破砕、UXO、FODの量、位置および大きさ、
b.航空機の離陸/着陸運用に使用可能な滑走路の位置/「仮設滑走路」、
c.損害を受けており修復作業を必要とする滑走路の位置/「仮設滑走路」、ならびに
d.航空機の種類および隊の位置に基づいて推奨される最小飛行場稼働表面(MAOS)および最小稼働仮設滑走路(MOS)。
【0138】
BDAシステム(952)(
図9)は、地上および空中システムのどちらにもまったく危険/妨害なく、すべての飛行場環境での運用に安全な「受動的」システムである。これは完全に非侵入型であり、能動的放出がなく、能動的光源によって支援されない。人に健康上の危険をもたらさず、地上および航空機内のすべての既存の機器もしくは将来のシステムの実装に運用上の妨害を与えない。「能動的」システムとは異なり、提案された「受動的技術」は、高速対レーダーミサイル(HARM)からの攻撃を回避するため、戦争中に空軍基地において特に重大である。
【0139】
BDAシステムの実施形態は、飛行場、滑走路および誘導路を保護するために、すべての気象条件下で24時間稼働するように設計および構築することができる。BDAシステム(950)(
図9)の実施形態は、昼間および夜間の稼働のどちらでも非常に小さな物体(FOD)および滑走路誘導路の損害(弾孔、地下爆発、破砕、UXO)を「見て」検出することが現場で実証されている。BDAシステムの実施形態は、煙霧(空気汚染指数120、可視距離200メートル)および大雨(28mm/時)の極端な気象条件下で有利に行われる。
【0140】
BDAシステムの実施形態は、戦時中のシステムの生存性を高めるために部分的または包括的な重複カバレッジを有する冗長で設計することができる。
【0141】
冗長を提供するために、FODまたは損害の検出センサ(508および509)(
図1B)は数百メートル間隔で、滑走路の対向する側に設置される。いずれかのセンサが故障した場合、隣接および/または対向のセンサが、故障したセンサによって監視されるはずの「失われた」セクターのカバレッジを提供し続ける。
【0142】
さらに、後置システムには、予定外のダウン時間を最小限に短縮するために冗長サーバー(複数可)が含まれる。故障した構成要素の適時の交換を可能にするために、緊急予備部品が提案される。
【0143】
図13は、平時中の
図11のソフトウェアモジュールの対話を示すレイアウトを示す。本発明のBDAシステムの実施形態は平時中に以下の利点を提供することができる。
【0144】
飛行場滑走路上の走査/弾孔の検索/UXOの測定に加えて、FOD EOセンサ(108)(
図9)は他のFODならびに滑走路/誘導路の損害(地下爆発および破砕など)も検出することができる。これはFODおよび滑走路損害の検出をリアルタイム基準で自動化し、空軍基地の状況認識および作戦即応性の増強を助ける。組込み人工知能技術は、人が原因の誤りまたは自己満足が回避されるように、FODおよび滑走路/誘導路の損害の客観的かつ確実な同定を確かにする。
【0145】
FOD EOセンサの採用は、操作員が超微光飛行場環境で明確に見ることを可能にする。FOD EOセンサが飛行場監視に貢献できる状況の一部には以下のものがある。
【0146】
重要監視状況
・飛行場滑走路/誘導路の侵入/攻撃
・飛行場、滑走路および/または誘導路の損害評価
・飛行場滑走路および/または誘導路の損害(弾孔、地下爆発、破砕、UX)およびFODの検出/測定/分類
・翼端の衝突
・航空機の破損
・緊急着陸/胴体着陸
・一般的監視状況
・一般的エアサイド監視
・滑走路表面状況の監視
・飛行場内(たとえば、航空機牽引、舗装または建設作業など)の安全性順守の強化
【0147】
滑走路/誘導路の表面/舗装状態の監視
すべての他の空港システムと同様、滑走路および誘導路は長年の間に環境因子が原因で老朽化する。不定期の時間がかかる手動検査では、石材が失われた領域が一般的に見つかる。滑走路または誘導路の特定部分、特に航空機の離着陸領域が一般的に損傷しており、アスファルト/コンクリートの塊の顕著な剥離を伴っている。
【0148】
FOD EOセンサは、滑走路および/または誘導路を連続的に検査し、滑走路および/または誘導路の表面の非常に高い分解能のズームイン画像を獲得するため、表面状況を精査して滑走路または誘導路の破片、顕著な亀裂または損害を検出する能力を有利に提供する。
【0149】
たとえば、鳥衝突事故が地上レベルで起こる場合がある。いくつかの種類の鳥が年間を通して通常見られ、渡りの月間中には鳥の活動が典型的には増加する。本発明の実施形態は、滑走路および/または誘導路上の鳥の存在の検出に有効な場合があり、飛行場の操作員が地上での鳥衝突事故を防止することを助けるために有効な、決断支援システムを提供する。
【0150】
また、例示的な実施形態における滑走路安全性は、好ましくは、滑走路をさまよう動物などの問題も考慮する。知的ビジョン技術を使用して、例示的な実施形態は、好ましくは、滑走路および/または誘導路上のヘビ、カメ、オオトカゲおよび他の野生生物を見つけ出す。航空機の安全性のために、滑走路および/または誘導路上の野生生物を検出する能力は、滑走路および/または誘導路を閉鎖し、滑走路から野生生物を捕まえてその危険を取り除くように地上クルーを派遣するよう、飛行場操作員に指示することができる。
【0151】
図14は、例示的な実施形態による総合飛行場損害評価システムのハードウェアシステム(1400)のレイアウトを例示する模式図を示す。
【0152】
統合BDAのハードウェアシステム(1400)(
図14)は、電気光学(EO)システム(1401)と(1403および1409)からなる中央コンピュータシステム(CCS)とを備える。
【0153】
EOシステム(1401)(
図14)は、一連のEOセンサユニット(カメラ)(1405a〜d)およびそのそれぞれの専用ビデオ処理装置(VPU)(1407)からなる。EOセンサ(カメラ)(1405a)はタワーまたは建造物に装着されており、飛行場の標的領域を検査してそのライブビデオまたは画像を獲得する。一実施形態では、自動監視システムは広い視野を有するメガピクセル静止EOセンサを使用して滑走路/誘導路の700m(2,297ft)の長さまでをカバーする。一実施形態では、FODシステム(EOセンサユニット(1405b〜d))は、高透明度のズームレンズを備えたパン/チルト/ズーム(PTZ)超低照度EOセンサを適用して、滑走路/誘導路のセクターをサブセクター毎に調査/精査する。それぞれのサブセクターは約5.5m(18ft)であり、PTZ EOセンサのそれぞれがパンして滑走路/誘導路の350m(1,148ft)の長さまでをカバーする。それぞれのVPU(1407)はEOセンサユニットからのビデオ画像を処理するための専用のものである。このビデオが光学的送受信機を介してVPUにストリーミングされて画像処理される。VPU(1407)の出力は画像またはビデオおよびデータの両方を中央コンピュータシステム(CCS)の管理サーバー(1409)に伝送する。
【0154】
ロバスト性のために、BDAシステム(1400)(
図14)は2レベルの冗長設計機構、すなわち前置および後置の組込み冗長を提供してシステム運用の高い稼働率を確実にする。FODおよび損害の検出EOセンサ(108)(
図9)および兵器衝撃監視EO(951)(
図9)が滑走路の片側に設置されており、これらはすべて滑走路の中心線から少なくとも300m(984ft)離れている。兵器衝撃監視センサ(951)が爆撃によって打撃を受けた場合、FODおよび損害の検出センサ(108)は、FODまたは損害(弾孔/UXOなど)を検索、検出および測定するよう機能し続けることができる。同様に、FODおよび損害の検出センサが打撃を受けた場合、兵器衝撃検出(951)も飛行場滑走路/誘導路の損害を検出および位置決定することができる。
【0155】
システム(1400)はどのようなEOセンサの機能不良も考慮して冗長を提供するため、十分なEOセンサの重複カバレッジが存在し、隣接EOセンサが不良EOセンサのバックアップのカバレッジを提供する。後置冗長は管理サーバーの故障を防止する。言い換えれば、管理サーバーは冗長のために(少なくとも)1つの対で設計および配置されている。高い稼働率を確実にするために、主サーバーが故障した場合には冗長サーバーが自動的に引き継ぐべきである。
【0156】
例示的な一実施形態では、中央コンピュータシステム(CCS)は、管理サーバー(冗長を含む)(1409)、デジタルビデオ記録器(DVR)(1411)、操作員ワークステーション(1413)、管理者/維持者ワークステーション(1415)、および携帯用手持ち機器(1417)からなる。
【0157】
管理サーバー(1409)は、ユーザアクセス制御、システム構成、警報構成、画像および関連情報の管理、データクエリ、ならびに報告書生成を含めたシステム運用の中央データベースである。管理サーバーが故障した場合は冗長サーバーがこの機能を引き継ぐ。DVR(1411)は、すべてのセンサユニットからの画像の連続的なリアルタイム・デジタル・ビデオ記録を提供する。一実施形態では、DVD(1411)は30日間記憶するサイズであり、必要に応じてビデオをDVDにアーカイブすることができる。この施設は分析および調査のためのビデオ再生を可能にする。
【0158】
操作員ワークステーション(1413)は、システム(1400)のログイン、監視および運用のメイン・ユーザ・インタフェースとして役割を果たす。管理者/維持者ワークステーション(1415)は、ネットワークおよび機器の検診およびトラブルシューティングを実施するための技術支援に主に使用される。また、これは操作員ワークステーション(1413)が機能不良となった場合に運用のバックアップとしても機能することができる。
【0159】
携帯用手持ち機器(1417)が地上支援クルーに支給され、それにより、クルーが弾孔を修復するまたは滑走路/誘導路から破片を取り除くために動員される前および/またはその間に、遠隔警報および重要情報(日時、場所、損害の大きさ、画像など)を受信することが可能となる。この情報により、地上クルーは十分なリソースおよび材料で応答し、標的の位置を迅速に発見するように準備する。
【0160】
前置の電気光学システム(1401)はEOセンサ(1405a〜d)およびVPU(1407)からなる。滑走路/誘導路に沿ったすべてのEOセンサ(1405a〜d)は連続稼働用に電力供給されており、光ファイバーリンクを介して後置機器室に接続されている。それぞれのセンサ(1407)はファイバーリンクによってその専用VPU(1407)に接続されており、記録用にDVR(1411)にビデオ分配されている。
【0161】
後置機器は、管理サーバー(1409)、DVR(1411)、スイッチ(1419)および操作員/管理者ワークステーション(1413、1415)からなる。ワークステーション(1413、1415)は、好ましくは地上運用コントロールセンターまたは飛行場指揮所に位置する。また、システム(1400)は、利用可能な場合はTCP/IP通信プロトコルを使用した既存のLANネットワークを活用することもできる。ビデオはVPU(1407)によって処理され、たとえば弾孔が検出された際に、関連データを有する画像を管理(冗長)サーバー(1409)に伝送する。管理サーバーは警報ステータスを記憶し、弾孔を位置決定してその大きさを測定し、データを操作員ワークステーション(1413)上に提示する。ユーザが手動(ライブ)視界を選択した場合、リアルタイムビデオが選択されたセンサからストリーミングされる。調査目的には、ユーザは記憶された記録をDVRからダウンロードして分析のためにビデオを再生することができ、たとえば、滑走路1つあたり1つの手持ち携帯用機器(1417)を地上クルーに支給することができる。
【0162】
ユーザが標的を確認し、飛行場滑走路/誘導路の修復を開始する際、手持ち機器(1417)が、クルーが飛行場滑走路/誘導路の復旧または修復を準備するための画像を含めた重要情報を受信する。
【0163】
BDAシステムの実施形態は、好ましくは以下の弾孔の大きさを検出することができる。
・小さな弾孔:小さなロケット、大砲発射、着発信管兵器からの10cm〜1.5m
・中程度の弾孔:クラスター兵器、大きなロケット、小さなコンクリート貫通爆弾からの1.5m〜6m
・大きな弾孔:>遅発信管兵器、大きなコンクリート貫通爆弾からの6m
【0164】
弾孔以外に、BDAシステムは滑走路および誘導路上の地下爆発、破砕、UXOおよびFODも検出および測定することができる。
【0165】
一実施形態のBDAシステムの作業ワークフローを以下に説明する。
a)専用静止EOセンサユニット(1405a)からのビデオまたは画像がリアルタイムで自動的に獲得および処理されて兵器衝撃の確実な同定を提供し、専用パニングEOセンサユニット(1405b〜d)からのビデオがリアルタイムで自動的に獲得および処理されて検出された損害/UXO/FODの確実な同定を提供する、
b)滑走路/誘導路の完全な評価のためにビデオおよび警報が地上運用コントロールセンターまたは指揮所において単一の視界で表示される、
c)検出されたすべての爆撃、弾孔、地下爆発、破砕、UXOまたはFODが自動的にハイライトされ、操作員ワークステーションで警報が出される。静止EOセンサ(1405a)によって兵器衝撃が検出された際、パニングEOセンサ(1405b〜d)がその位置に向けられてFODまたは飛行場損害のズームイン測定を行う。
d)視覚検証のために、検出された標的のコンピュータ支援ズーム画像ならびに関連する位置および大きさの情報が操作員ワークステーションで表示される。
e)航空機の種類および隊の位置に基づいて、システムが優先的な修復について最小飛行場稼働表面(MAOS)および最小稼働仮設滑走路(MOS)を推奨する。
f)ユーザによって確認された際、GSMまたは3G移動通信ネットワークによる無線手段を介した遠隔警報が、地上支援または修復クルーが保有する手持ち機器に送信される。手持ち機器は、日時、弾孔/地下爆発/破砕/UXO/FODの位置(複数可)、弾孔/地下爆発/破砕/UXO/FODの大きさ(複数可)、修復の分類および優先度などの情報を提供する、
g)ユーザは航空機の離着陸を停止させ、弾孔/地下爆発/破砕を修復するまたはUXO/FODを滑走路/誘導路から取り除くために地上クルーを派遣する、
h)修復/除去が完了し、滑走路が運用を再開した後、報告書生成および事後分析/調査のためにビデオ、画像および警報の記録を読み出すことができる。
【0166】
国際民間航空機関(ICAO)および連邦航空局(FAA)の規制基準の下、重要な航法機器のみが滑走路の中心線から150m(492ft)以内に設置することが許可されており、すべての他の必要な設置物は492ftの印の先で1:7の高さ制限に従わなければならない。本発明のBDAシステムの実施形態は、好ましくはICAO、FAAおよび他の空軍基準に準拠する。
【0167】
また、本明細書中に上述した本発明の実施形態は、雨が原因の背景クラッタのフィルター除去も提供することができる。典型的には、雨クラッタは滑走路または誘導路上の局所領域のみではなく、滑走路全体にわたっても起こる。また、雨は、滑走路のシーン画像中で雨が滑走路表面に当たった際のしぶきなどの特定の特徴を有する動作クラッタも引き起こす場合がある。したがって、雨クラッタをフィルター除去するための一方法は、滑走路全体にわたって起こる雨様の特徴を用いて、滑走路または誘導路シーン中の動作クラッタを検出および認識することである。雨クラッタは静的でなくフレーム間で異なるため、時間的フィルタリングを使用して雨クラッタをフィルタリングすることもできる。このようにして、滑走路または誘導路全体にわって起こる雨様の特徴を有する動作クラッタは雨クラッタとしてフィルター除去される。また、代替実施形態では、上記原理を応用して、雪が原因の背景クラッタもフィルタリングすることができる。したがって、滑走路全体にわたって起こる雪様の特徴を有する動作クラッタは、時間的フィルタリングを使用して雪クラッタとしてフィルター除去される。
【0168】
本発明の例示的な実施形態では、監視カメラから得られた参照背景画像にエッジ検出技法を使用して前処理して、システムを照明の変化、クラッタおよびに対してより回復力のあるものにし、誤認警報を減らす。
【0169】
エッジの強調および検出技法を使用して滑走路または誘導路の特長のエッジを同定する。画像中のエッジとは、ピクセル特性が突然変化する箇所を横断する外郭である。エッジの強調および検出を使用して、背景減算および/または学習に基づいて前景ピクセル同定における照明の変化に対する回復力を改善する。
【0170】
上述の本発明の実施形態は、以下の特長のうちの1つまたは複数を有することができる。
−滑走路に平行な方向に高い勾配変化を有する特長を強調するための、高域フィルター(Sobel Xの左から右+右から左またはScharr Xなど)を使用した滑走路画像の画像強調
−FODまたは損害のエッジ抽出閾値の最適推定。推定は様々な環境条件(たとえば、雨、光反射、夜間など)に適応し、進行的に学習された背景エッジマップに基づく統計方法を活用して、適応ピクセル・レベル・エッジ・マップ抽出のためのピクセルレベルの閾値マップを生成するために使用するグレースケールのルックアップテーブル(LUT)を決定する
−時間的フィルタリングをピクセルレベルで適用し、大量のエッジマップを使用してノイズを低減させることによってロバストエッジを保持する。閾値を超えるピクセルのみがロバスト・エッジ・ピクセルとして分類され、残ったピクセルはエッジマップに使用されない。
−現在のエッジ画像を以前の背景画像と比較して、誤認警報を生成せずにこれらの特長を背景に溶け込ませるために滑走路または誘導路上のゆっくりとした特長変化過程を獲得する適応背景学習。
−適応背景エッジマップおよび以前に学習された背景マップおよび任意選択で季節的なマーキング(雪などの特定の季節または気象条件で生成)からなる複合背景エッジマップ。
−エッジマップと複合背景マップとを比較することによる、疑いのあるエッジマップの生成
−突然の環境変化、たとえば、雨が原因の反射または他の気象条件が原因の可能性があるエッジの一部をフィルタリングするためのエッジフィルタリング。
−グローバルヒストグラムおよび統計分析を使用し、進行的に更新される画像と比較して異常光条件を決定することによる、夜間の異常光検出(航空機の着陸、航空機の離陸、地上車両の移動が原因のものなど)を伴う滑走路上のFODまたは飛行場滑走路/誘導路の損害の検出。
−補助照明(レーザーまたは赤外線照明器など)の設置を必要とせずに滑走路または誘導路上のFODまたは飛行場滑走路/誘導路の損害を検出するための昼/夜の監視。
−飛行場の滑走路または誘導路上ですべての異物および損害が正確に検出、同定および位置決定されることを確実にするための、自動、コンピュータ支援、および/または手動のズームイン視界能力を用いた飛行場の滑走路または誘導路の画像を獲得するためのイメージング手段。
−受動的な性質であり、暗条件または低照度条件下で補助照明(レーザーまたは赤外線照明器などの)設置の必要性を排除する。
−昼間および夜間中のカラー画像。
−FODまたは飛行場滑走路/誘導路の損害を検出、位置決定または同定するための、コンピュータビジョン画像処理技法を使用した監視カメラのネットワークから得られたビデオおよび/または静止画画像の処理。監視カメラは単一または複数であり、可動性および/または静止であり、指定された監視領域内に柔軟に配置可能である。
−例示的な実施形態では、カメラは、適応画像処理を使用した改善された画像処理のおかげで、既存のシステムと比較して滑走路または誘導路からより離れた距離に配置し得る。これにより、使用するカメラの数を減らすおよび/または既存の基礎構造との「干渉」を減少させる、および/または滑走路近辺の閉塞を減らすことができる。
【0171】
BDAシステムは、正常状態(平時)中には異物、破片(FOD)検出システムとして運用するように構成することができる。
【0172】
切迫した空襲警告が受信された場合、BDAシステムは警告状態となり、BDAシステムは飛行場損害の検出、測定および分類をその運用に含めるように切り替わり得る。飛行場損害の検出/測定/分類の結果は、飛行場内の兵器衝撃が原因のいかなる損害も回避する安全な航空機の離着陸に必要なMAOSおよびMOSの計算をもたらす。
【0173】
図14のビデオ処理装置(1407)および
図14の管理サーバー(1409)に関して、それぞれのビデオ処理装置(1407)は、1つのカメラ視界角度(単一のEOSからのビデオ/画像に基づく)から飛行場滑走路損害項目を検出、測定および分類し、統合および最適化のために検出、測定および分類の結果を管理サーバー(1409)に送信することを司っている。管理サーバー(1409)は、複数のカメラ視界によって獲得されたビデオ/画像に基づいて、複数のビデオ処理装置(1407)によるビデオ/画像および/またはFODもしくは損害の検出/測定/分類結果の出力の最適化を行うことができる。そのような最適化には、同じ領域の複数の入力画像を融合して、入力画像のどれよりも有益な領域の合成画像を提供することが含まれる。また、管理サーバー(1409)は飛行場損害領域がハイライトされたステッチ飛行場画像も提供してよく、これは表示モジュール(1157)(
図11)および(1413)(
図14)上に表示するために有用である。
【0174】
また、管理サーバー(1409)は、様々なビデオ処理装置(1407)および管理サーバー(1409)上で実行されている様々な処理を含めた、BDAシステムのBDA処理全体を開始させることを司っている場合がある。サーバー処理(管理サーバー(1409)上で実行されている)はFODおよび/または損害の検出、測定および分類の結果を様々なビデオ処理装置(1407)から受信する。
【0175】
その後、実行されたサーバー処理は、複数の隣接EOS(様々なカメラ視界角度を有する)および複数のビデオ処理装置(1407)による出力によって検出された、同じFODまたは損害項目(弾孔またはUXOなど)に関する検出、測定および分類の結果をさらに処理および最適化する。サーバー処理は、それぞれの検出された飛行場損害項目について最短距離、同様の大きさなどの特定の基準に基づいて処理を行うことができる。続いて、サーバー処理は、発見されたFODまたは飛行場損害項目を再測定および/または再分類し、検出、測定および分類の正確性を改善するために少なくとも2つのカメラ視界角度(2台の隣接するEOSからのビデオ/画像に基づく)を使用して損害項目の寸法を計算することさえできる。サーバー処理は2つのカメラ視界からの同じ領域の複数の入力画像を最適に融合して単一のEOSから受信された入力画像のどれよりも有益な領域合成画像を提供することができるため、2つのカメラ視界角度の画像を使用することは改善である。また、これは、単一のEOSを使用して飛行場の特定の領域をカバーする場合に起こる可能性がある、FODまたは損害の閉塞の問題の克服も助ける。
【0176】
警告状態にある場合、BDAシステムのサーバー処理は兵器衝撃監視システム(WISS)処理を開始する。ビデオ処理装置(1407)の様々な処理は様々なEOSからのビデオ/画像を同時に処理する。サーバー処理がWISS処理を開始した場合、WISS処理は、すべての検出された兵器衝撃が管理サーバー(1409)に対してすぐに警報を作動し、衝撃位置が操作員ワークステーション(1413)上のデジタル飛行場マップ上にプロットされ得るように、兵器衝撃検出処理をすぐに開始し得る。
【0177】
空襲が終わりBDAシステムの状態が「攻撃後」に変わった場合、飛行場指揮官はBDA損害の検出、測定および分類ならびにMAOSおよびMOSの計算を行うことを決定し得る。指揮官が様々なBDA処理を起動して詳細なBDA FODおよび/または飛行場損害の検出、測定および分類を開始することを可能にするために、指揮官に手動のトリガを提供し得る。
【0178】
BDAシステムで使用されているプロセッサが単一カメラ視界のBDAの検出、測定および分類を完了した後、サーバー処理によって結果を統合およびさらに最適化し得る。すべての重複したBDA FODおよび飛行場損害の検出/測定/分類は、サーバー処理によってより高い正確性および確実性で再分類および再測定することができる。
【0179】
MAOS/MOSの計算のために、最終的なBDA FODおよび/または損害の検出、測定および分類の結果をMAOS/MOSの計算アプリケーションに送信し得る。
【0180】
BDAシステムは、飛行場の画像の完全な組(「飛行場基準画像」としても知られる)を獲得するために基準学習処理を実行するよう構成し得る。基準画像とは、基準画像を獲得する時点で飛行場のカメラ視界に未知の異物、破片もしくは損害、または未知の変化が存在しない場合の飛行場の画像をいう。
【0181】
BDAシステムはEOSを使用してすべてのセクター/サブセクターを1サイクル走査して飛行場基準画像を生成し、その後、クイック・スキャン・ステッチおよび検出ループに入る。セクターとは飛行場内の指定された領域をいう。サブセクターとはセクター内のさらなる区画である。クイック・スキャン・ステッチおよび検出ループは飛行場を走査し続け、様々なサブセクター画像を一緒にまとめる。また、これは、基準画像と比較した後に飛行場画像上の主な差分も検出する。飛行場の顕著な差分を有する領域は、たとえば色によってハイライトされ、飛行場指揮官がディスプレイ上のこれらの領域にズームインし、その間または後の迅速な初期損害評価を行うことを可能にする。したがって、EOS(すなわち1つまたは複数のカメラ)によって獲得された画像を一緒にまとめて、先に獲得されたステッチ画像と後に獲得されたステッチ画像との間の差分領域を、飛行場の滑走路または誘導路の後に獲得されたステッチ画像中でハイライトする。
【0182】
図15は、損害を受けた部分(1506)がハイライトされたステッチ滑走路画像(1502)を例示する。ステッチ画像はクイック・スキャン・ステッチおよび検出ループによって生成される。また、損害を受けた部分のズームイン視界(1504)も
図15に示されている。ステッチ飛行場滑走路画像(1502)は、滑走路の一部分(1506)が空襲中にひどく損害を受けたことを示している。ズームイン視界(1504)は、滑走路上の損害を受けた項目の明白な指標であり、飛行場指揮官による早期飛行場損害評価に有用である。
【0183】
クイック・スキャン・ステッチおよび検出ループは無限ループで実行され、たとえば空襲が終わってBDAシステムが「攻撃後」に入るまで更新されたステッチ飛行場滑走路画像を提供し続けるように構成し得る。それが起こった場合、飛行場指揮官はBDAシステムを作動してBDA飛行場損害の検出、測定および分類処理を開始させる。
【0184】
その後、BDAシステムはフルサイクル検出を行って、飛行場内のすべての潜在的な損害項目を抽出し得る。その後、これは個々の損害項目(弾孔またはUXOなど)を分類および測定し始める。最終的な検出、測定および分類の結果(様々なビデオ処理装置(1407)からの出力)はサーバーに送信されて統合および最適化される(すなわち、複数の画像および/または検出/測定/分類の結果を融合してより有益な画像を得る)。
【0185】
飛行場内の異物、破片または損害を検出するために、2つの画像処理に基づく検出器をBDAシステムにおいて同時に使用し得る。検出器の1つは領域に基づく検出器であることができ、これにはある区域の獲得された画像のクレースケール視界を比較して、飛行場内の異物、破片または損害の存在を示唆している可能性のある領域を同定することが含まれる。しかし、変化する気象条件が原因で、領域に基づく検出器は単独では信頼性がない場合がある。これらは、光の変化が領域のグレースケール視界を変化させる場合に過剰な誤検出を生成する傾向にある。一方、画像中の物体のエッジ(すなわち境界または輪郭)を検出するために使用するエッジに基づく検出器は照明の変化に対する感度がより低く、気象条件が変化した場合さえも依然として物体のエッジを検出することができる。
【0186】
使用する主検出器がエッジに基づく検出器であり、二次検出器が領域に基づく検出器である可能性がある。運用中、異物、破片または損害を有する可能性があると同定された獲得画像中の領域は、まず領域に基づく検出器によって決定される。その後、領域に基づく検出器の処理された出力画像を、すべての検出されたエッジの輪郭を描くエッジに基づく検出器の処理された出力画像と比較する。エッジに基づく検出器の出力画像中で強力なエッジ構成要素(すなわち良好な輪郭)を示さない、領域に基づく検出器の処理された出力画像中の同定領域は廃棄され、信頼できないとみなされる。強力なエッジ構成要素を有する同定領域は、たとえば、検出された強力なエッジ構成要素を有する領域の位置情報を抽出するための
図11のBDA位置抽出モジュール(1147)と、画像中の強力なエッジ構成要素を有する領域をピクセルレベルで測定して測定値を物理的寸法に変換するための
図11のBDA大きさ測定モジュール(1149)とによるさらなる処理に送信される。その後、物理的寸法を分類して、たとえば、画像中の同定領域が実際にはどの損害の種類(弾孔、地下爆発、破砕、UXO)またはFODであるかを決定することができる。
【0187】
図16は、領域に基づく検出器およびエッジに基づく検出器の2つの検出器を使用する場合の検出アルゴリズムの流れ図を示す。
【0188】
ステップ1602では、飛行場の画像を獲得するように構成された1つまたは複数のカメラ(すなわちEOS)から画像を読み出す。
【0189】
ステップ1604では、ノイズの低減を行って、ステップ1602で読み出された画像中に存在するノイズを低減させる。
【0190】
ステップ1606では、ステップ1604に供された画像中のすべての物体のエッジの存在を検出するために、エッジに基づく検出器によるエッジ検出を行う。
【0191】
ステップ1608では、ステップ1606で検出されたエッジまたは輪郭に関する情報を抽出する。エッジ構成要素は、抽出される前に強力であるとみなされる必要がある。何が強力であるとみなされるかを決定するために、比較する閾値を事前に決定することができる。
【0192】
同時に、ステップ1604に供された画像に対してステップ1614を領域に基づく検出器によって実施して、異物、破片または損害が存在する可能性がある画像中の領域に関する情報を抽出する。
【0193】
ステップ1610では、ステップ1614で抽出された領域の情報とステップ1608で検出されたエッジの抽出された情報とを比較する。抽出されたエッジと重複する領域のみがステップ1610の出力として保持され、記憶される。
【0194】
ステップ1612では、ステップ1610の出力に対して全物体セグメント化を実施する。これは、ステップ1610の出力画像を分析し、検出された領域を分類して、これらが実際にはどの損害の種類(弾孔、地下爆発、破砕、UXO)またはFODであるかを決定することを含む。
【0195】
空襲中、EOSノードタワー(すなわち1つまたは複数のカメラが装着された飛行場内のタワー)がねじれる、ずれる、または損害する可能性がある。この場合、BDAシステムが飛行場のセクター/サブセクター中の飛行場画像を獲得し、これをタワーがねじれる、ずれる、または損害する前の飛行場の基準(または参照)画像と比較し始めた際に、ねじれた、ずれた、または損害したタワーによって引き起こされた影響を受けたカメラ視界のミスアラインメントが原因で多くの望ましくないアーティファクトが生成され得る。これは誤警報を生成し、検出エラーを引き起こす。
【0196】
そのようなEOSノードタワーのオフセットによって引き起こされる誤警報の数を最小限にするために、BDAシステムには、現在の画像および基準画像(すなわち参照画像)中で獲得される共通EOSノードタワーの位置オフセット効果の補正に使用される自動較正補償方法を行うための画像オフセット補償器が含まれ、これにより、損害を正確に検出、測定および分類するための補正された画像が生成される。
【0197】
EOSノードアラインメント補正に使用する技法は、近くの目印またはそれぞれの飛行場サブセクター内の目印からの目立つマーカー、たとえば、滑走路端燈、看板およびEOSタワー構造の活用である。これらのマーカーは、較正処理中に参照として獲得される。検出中、EOSが検出サイクルを開始した際、まず、事前に設定した閾値レベルを超える信頼スコアで様々なサブセクターのすべてのマーカー位置を検査する。その後、適切なオフセットが計算される。その後、計算されたオフセットをそれぞれのサブセクター画像にしかるべく適用して、飛行場損害を検出し始める。
【0198】
図17は、自動較正補正に使用されるマーカーを例示する。飛行場内の9つのサブセクターを有する領域のうち、4つのサブセクター(1710、1712、1714および1716)内の4つのマーカー(1702、1704、1706および1708)を選択して較正補正を行う。
【0199】
図18は2つの画像(1802および1804)を示す。画像(1802)(基準画像)は、較正処理中のサブセクター3(1712)(
図17)の基準画像を示す。囲み線(1808)によって印したm2マーカー(1806)(この場合は滑走路の端燈)の周りの領域が、マッチング目的のための参照標的領域として選択される。画像(1804)(現在の画像)は、サブセクター3(1712)(
図17)を獲得するために装着されたカメラによって獲得された現在の画像中の、m2マーカー(1806)の現在の位置を示す。囲み線(1810)は現在の画像中に見つかるm2マーカー(1806)の位置を示し、これは基準画像(1802)中の囲み線(1808)によって印されたm2マーカー(1806)の領域から明らかにずれている。
【0200】
図18および19を参照して、BDAシステムは、パターン照合もしくはブロブ検出などの標的発見技法、または両技法の組合せを使用して、現在の画像(1804)中のm2マーカー(1806)の正確な位置を見つける。X座標およびY座標のオフセット(Δ
x1904,Δ
y1906)(
図19)を使用して、異物、破片または損害の検出および位置決定のために基準画像(1802)および現在の画像(1804)の両方において補正された領域(1908)を位置決定することができる。それぞれの画像(1802および1804)において囲み線(1908)によって示された領域が補正された領域(1908)とみなされる。
【0201】
基準画像(たとえば1802)と現在の画像(たとえば1804)との間のマッチングの信頼スコアを考慮し得ることを理解されたい。信頼スコアが特定の閾値より高い場合にのみ補正が開始される。
【0202】
1つのマーカー位置はランダムすぎる場合があり、マッチングが不正確であり得るか、または環境変化もしくは特定の時点の通過物体が原因で誤ったパターンがマッチングされ得るため、複数のマーカー(すなわち現在の画像および基準画像中の共通物体)の使用が較正補正のロバスト性および信頼性を増強する。複数のマーカーのマッチングは、より多くの検証用データ、および基準画像(たとえば1802)と獲得された現在の画像(たとえば1804)との間の実際のオフセットのより良好な提示を提供する。
【0203】
n個のマーカー位置が存在すると仮定した場合、マッチング信頼スコアはC
iであり、式中、i=1,nである。
【0204】
したがって、オフセットは(Δ
xi,Δ
yi)、i=1,nである。
【0205】
最小信頼スコアがT
cであると仮定する。その場合、実際のオフセットは、閾値T
cを通過する有効なマーカーの平均:
であることができるか、または直線回帰を使用することによって得ることができる。
【0206】
図20は、基準(参照)画像と現在の画像との間の実際のオフセットを決定するための直線回帰の使用を例示する。複数のn個のマーカー位置が既に同定されていると仮定する。マーカーマッチングは最初のマーカーから開始され最後のマーカーまでである。マーカーiは、最初から最後までのマーカーのうちの1つをいう。高い信頼スコアを達成するすべてのマーカーについて、X/Y(すなわちX座標およびY座標)オフセットをピクセル値で提示してリストに追加する。T
cは、計算した実際のマッチングスコアがそれを超える場合に補正マッチングを高い信頼性で確実に裏付ける、事前に決定された最低マッチングスコアである。
【0207】
最後のマーカーをマッチングした後、オフセットは画像中で直線的あるはずであるため、リストを直線的に当てはめる。当てはめエラーを評価する。当てはめエラーが小さい場合は、オフセットはこれらの複数のマーカー間で一貫しており、したがって現在の画像と基準画像とのオフセットに使用できることを意味する。当てはめエラーが小さくない場合、オフセットは補償することができない。この例では、T
fがピクセルで測定した最大オフセットエラーである。
【0208】
ステップ2002では、実際のオフセットを決定するためにマーカーiの位置を検査し、マーカーiはn個のマーカー位置中のマーカーのうちの1つである。
【0209】
ステップ2004では、マーカーiが最後のマーカーであるかどうかを見るためにその位置を検査する。
【0210】
マーカーiが最後のマーカーである場合は、ステップ2006で、それぞれのマーカーに対応するすべてのオフセット値を含有するオフセットリストに基づいて直線回帰を行う。それぞれのマーカーは、基準画像と現在の画像とを比較した後に、そのそれぞれの設定されたオフセット値を生成できることに注目されたい。
【0211】
ステップ2008では、回帰エラーがT
f値よりも大きいかどうかを見るための検査を行う。
【0212】
ステップ2008の検査で回帰エラーがT
f値よりも大きいことが示された場合は、ステップ2010で補償を行って現在の画像をオフセットし、補正された領域を獲得する。そうでなければ手順は終了する。
【0213】
ステップ2004でマーカーiが最後のマーカーでない場合は、ステップ2012で基準画像と現在の画像との間でマーカーiのマーカーマッチングが行われる。マーカーiに基づくオフセット値も決定される。
【0214】
ステップ2014では、現在の画像および基準画像中のマーカーiをマッチングすることによって決定されたマッチングスコアが閾値T
c値を超えるかどうかをみるための検査を行う。
【0215】
ステップ2014で閾値T
c値を超えていた場合は、ステップ2016でマーカーiのオフセット値をオフセットリストに追加する。そうでなければ手順はステップ2002に進む。
【0216】
本明細書中に記載の例示的な実施形態の方法およびシステムは、
図8に模式的に示すコンピュータシステム(900)上に実装することができる。これは、コンピュータシステム(900)内で実行され、コンピュータシステム(900)に例示的な実施形態の方法を実施するよう指示するコンピュータプログラムなどのソフトウェアとして実装し得る。
【0217】
コンピュータシステム(900)は、コンピュータモジュール(902)、キーボード(904)およびマウス(906)などの入力モジュール、ならびにディスプレイ(908)およびプリンター(910)などの複数の出力装置を備える。
【0218】
コンピュータモジュール(902)は、たとえばローカル・エリア・ネットワーク(LAN)または広域ネットワーク(WAN)などのネットワークシステムへのアクセスを可能にするために、適切な送受信装置(914)を介してコンピュータネットワーク(912)に接続されている。
【0219】
本例のコンピュータモジュール(902)には、プロセッサ(918)、ランダム・アクセス・メモリ(RAM)(920)および読み出し専用メモリ(ROM)(922)が含まれる。また、コンピュータモジュール(902)には、いくつかの入力/出力(I/O)インタフェース、たとえば、ディスプレイ(908)へのI/Oインタフェース(924)およびキーボード(904)へのI/Oインタフェース(926)も含まれる。
【0220】
コンピュータモジュール(902)の構成要素は、典型的には、相互接続したバス(928)を介して、関連分野の技術者に知られている様式で通信する。
【0221】
応用プログラムは、典型的には、CD−ROMまたはフラッシュ・メモリ・キャリアなどのデータ記憶媒体上にコードしてコンピュータシステム(900)のユーザに供給し、データ記憶装置(930)の対応するデータ記憶媒体ドライブを利用して読み取る。応用プログラムは、プロセッサ(918)によって読み取られ、その実行中に制御される。プログラムデータの中間記憶はRAM(920)を使用して達成し得る。
【0222】
本明細書における飛行場への言及は、滑走路および/または誘導路および/または進入路および/またはインフィールド/草地および/またはエプロンおよび/または舗装路を含めた、飛行場内のすべての領域にわたることを理解されたい。異物、破片または任意の種類の損害の監視、および飛行場の滑走路もしくは誘導路または飛行場滑走路/誘導路内の兵器衝撃の監視へのすべての言及は、進入路および/またはインフィールド/草地および/またはエプロンおよび/または舗装路などの、飛行場の他の領域にも適用できることを理解されたい。
【0223】
本明細書中の損害への参照には、亀裂、弾孔、UXO、破砕、地下爆発が含まれることを理解されたい。
【0224】
本発明は上記実施形態に限定されない。しかし、当業者は、本発明の範囲から逸脱せずに、本明細書中に包含される情報に鑑みて、変更を加えて本発明を実施できることを理解されよう。