(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-14
(45)【発行日】2023-12-22
(54)【発明の名称】地理登録を通じた生センサ画像強化のための方法および装置
(51)【国際特許分類】
G06T 1/00 20060101AFI20231215BHJP
G01S 13/86 20060101ALI20231215BHJP
G01S 13/90 20060101ALI20231215BHJP
G06T 7/00 20170101ALI20231215BHJP
【FI】
G06T1/00 285
G01S13/86
G01S13/90 191
G06T7/00 640
【外国語出願】
(21)【出願番号】P 2017243745
(22)【出願日】2017-12-20
【審査請求日】2020-12-07
【審判番号】
【審判請求日】2022-08-05
(32)【優先日】2016-12-21
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】500520743
【氏名又は名称】ザ・ボーイング・カンパニー
【氏名又は名称原語表記】The Boeing Company
(74)【代理人】
【識別番号】100108453
【氏名又は名称】村山 靖彦
(74)【代理人】
【識別番号】100133400
【氏名又は名称】阿部 達彦
(74)【代理人】
【識別番号】100163522
【氏名又は名称】黒田 晋平
(74)【代理人】
【識別番号】100154922
【氏名又は名称】崔 允辰
(72)【発明者】
【氏名】ダニエル・ティー・フィリップス
【合議体】
【審判長】千葉 輝久
【審判官】樫本 剛
【審判官】木方 庸輔
(56)【参考文献】
【文献】特開2006-195540(JP,A)
【文献】特開2008-304260(JP,A)
【文献】米国特許出願公開第2016/0098838(US,A1)
【文献】特開2008-164545(JP,A)
【文献】鈴木太郎 外10名、「小型自律飛行ロボットを用いた災害時における情報収集システムの構築」、日本ロボット学会誌、2008年9月、Vol.26、No.6、p.85~92
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00
G06T 7/00 - 7/90
G01S 13/86
G01S 13/90
(57)【特許請求の範囲】
【請求項1】
合成開口レーダ(SAR)の生センサ・データから画像を生成する方法であって、
画像プロセッサによって、複数の生センサ・データ・セットを読み取るステップであって、各生センサ・データ・セットは複数のセンサ慣性状態で1つまたは複数のセンサから読み取られ、各生センサ・データ・セットは、前記複数のセンサ慣性状態から得られた全てのレーダ帰還信号を振幅および位相として或る期間にわたり格納することによって無線周波数パルスから取得され、前記センサ慣性状態はセンサ位置を含む、ステップと、
前記画像プロセッサに接続された慣性ナビゲーション・システムによって、前記複数のセンサ慣性状態の各々の推定を生成するステップと、
前記画像プロセッサによって、画像を生成するステップであって、前記画像は、前記複数の推定されたセンサ慣性状態、前記複数の生センサ・データ・セット、他の複数の生センサ・データ・セット、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から少なくとも部分的に生成される、ステップと、
前記慣性ナビゲーション・システムおよび前記画像プロセッサに接続された地理登録システムによって、前記センサ慣性状態の少なくとも1つの更新された推定を生成するステップであって、前記センサ慣性状態の前記少なくとも1つの前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、ステップと、
前記画像プロセッサによって、強化された画像を、前記複数の生センサ・データ・セットおよび前記他の複数の生センサ・データ・セットを含む保持された生センサ・データ・セット、前記センサ慣性状態の前記少なくとも1つの前記更新された推定、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から生成するステップと、
を含むステップを実施する間に前記生センサ・データ・セットの各々を保持するステップと、
を含む、方法。
【請求項2】
前記センサ慣性状態の少なくとも1つの更新された推定を生成するステップであって、前記センサ慣性状態の前記少なくとも1つの前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、ステップは、
前記複数のセンサ慣性状態の各々の更新された推定を生成するステップであって、前記複数のセンサ慣性状態の各々の更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、ステップ
を含む、請求項1に記載の方法。
【請求項3】
複数の生センサ・データ・セットを読み取るステップであって、各生センサ・データ・セットは複数のセンサ慣性状態で1つまたは複数のセンサから読み取られる、ステップは、
複数の生センサ・データ・セットを読み取るステップであって、各生センサ・データ・セットは前記複数のセンサ慣性状態で単一のセンサから読み取られる、ステップ
を含む、請求項2に記載の方法。
【請求項4】
前記複数のセンサ慣性状態の各々の推定は前記複数の生センサ・データ・セットに関連付けられた複数のセンサ位置の各々の推定を含み、
前記複数のセンサ慣性状態の各々の更新された推定を生成するステップであって、前記複数のセンサ慣性状態の各々の更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、ステップは、
前記複数のセンサ位置の各々の更新された推定を生成するステップであって、前記複数のセンサ位置の各々の前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ位置から少なくとも部分的に生成される、ステップ
を含む、請求項3に記載の方法。
【請求項5】
前記複数のセンサ位置の各々の更新された推定を生成するステップであって、前記複数のセンサ位置の各々の前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ位置から少なくとも部分的に生成される、ステップは、
前記生成された画像および参照画像データベースから地理登録された画像を生成するステップと、
少なくとも部分的に前記地理登録された画像から前記複数のセンサ位置の各々の前記更新された推定を生成するステップと、
を含む、請求項4に記載の方法。
【請求項6】
強化された地理登録された画像を、前記強化された画像および前記複数のセンサ位置の各々の前記更新された推定から生成するステップをさらに含む、請求項5に記載の方法。
【請求項7】
合成開口レーダ(SAR)の生センサ・データから画像を生成する装置であって、
生データを生成するためのセンサと、
前記センサに通信可能に接続され、複数の生センサ・データ・セットを前記センサから読み取るための画像プロセッサであって、各生センサ・データ・セットは複数のセンサ慣性状態で前記センサから読み取られ、各生センサ・データ・セットは、前記複数のセンサ慣性状態から得られた全てのレーダ帰還信号を振幅および位相として或る期間にわたり格納することによって無線周波数パルスから取得され、前記センサ慣性状態はセンサ位置を含む、画像プロセッサと、
前記センサに通信可能に接続され、前記複数のセンサ慣性状態の各々の推定を生成するための慣性ナビゲーション・システムと、
前記センサおよび前記慣性ナビゲーション・システムに通信可能に接続され、画像を生成するための画像プロセッサであって、前記画像は、前記複数の推定されたセンサ慣性状態、前記複数の生センサ・データ・セット、他の複数の生センサ・データ・セット、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から少なくとも部分的に生成される、画像プロセッサと、
前記慣性ナビゲーション・システムおよび前記画像プロセッサに通信可能に接続され、前記センサ慣性状態の少なくとも1つの更新された推定を生成するための地理登録システムであって、前記センサ慣性状態の前記少なくとも1つの前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、地理登録システムと、
を備え、
前記画像プロセッサは、強化された画像を、前記複数の生センサ・データ・セットおよび前記他の複数の生センサ・データ・セットを含む保持された生センサ・データ・セット、前記センサ慣性状態の前記少なくとも1つの前記更新された推定、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から生成し、前記画像が前記生センサ・データから生成され前記センサ慣性状態の前記少なくとも1つの前記更新された推定が生成される間に前記センサは前記生センサ・データ・セットの各々を保持する、
装置。
【請求項8】
前記地理登録システムは、前記複数のセンサ慣性状態の各々の更新された推定を、少なくとも部分的に前記生成された画像および前記複数の推定されたセンサ慣性状態から生成する、請求項7に記載の装置。
【請求項9】
前記複数のセンサ慣性状態の各々の推定は、前記複数の生センサ・データ・セットに関連付けられた複数のセンサ位置の推定を含み、
前記地理登録システムは前記複数のセンサ位置の各々の更新された推定を生成し、前記複数のセンサ位置の各々の前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ位置から少なくとも部分的に生成される、
請求項8に記載の装置。
【請求項10】
前記地理登録システムは、
前記生成された画像および参照画像データベースから地理登録された画像を生成することにより、少なくとも部分的に前記生成された画像および前記複数の推定されたセンサ位置から前記複数のセンサ位置の各々の前記更新された推定を生成し、
少なくとも部分的に前記地理登録された画像から、前記複数のセンサ位置の各々の前記更新された推定を生成する、
請求項9に記載の装置。
【請求項11】
前記地理登録システムは、強化された地理登録された画像を、前記強化された画像および前記複数のセンサ位置の各々の前記更新された推定からさらに生成する、請求項10に記載の装置。
【請求項12】
合成開口レーダ(SAR)の生センサ・データから画像を生成するための装置であって、
複数の生センサ・データ・セットを読み取るための手段であって、各生センサ・データ・セットは複数のセンサ慣性状態で1つまたは複数のセンサから読み取られ、各生センサ・データ・セットは、前記複数のセンサ慣性状態から得られた全てのレーダ帰還信号を振幅および位相として或る期間にわたり格納することによって無線周波数パルスから取得され、前記センサ慣性状態はセンサ位置を含む、手段と、
前記複数のセンサ慣性状態の各々の推定を生成するための手段と、
画像を生成するステップであって、前記画像は、前記複数の推定されたセンサ慣性状態、前記複数の生センサ・データ・セット、他の複数の生センサ・データ・セット、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から少なくとも部分的に生成される、ステップと、
前記センサ慣性状態の少なくとも1つの更新された推定を生成するステップであって、前記センサ慣性状態の前記少なくとも1つの前記更新された推定は、前記生成された画像および前記複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、ステップと、
強化された画像を、前記複数の生センサ・データ・セットおよび前記他の複数の生センサ・データ・セットを含む保持された生センサ・データ・セット、前記センサ慣性状態の前記少なくとも1つの前記更新された推定、および前記他の複数の生センサ・データ・セットに対応するセンサ慣性状態の少なくとも1つの更新された推定から生成するステップと、
を含むステップを
前記装置が実施する間に前記生センサ・データ・セットの各々を保持するための手段と、
を備える、装置。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の記載
本願は、Daniel T. Phillipsによる本願と同日に出願された、発明の名称を「地理登録を通じた複数の生センサ画像強化のための方法および装置」とした、同時係属の本発明の譲渡人に譲渡された特許出願に関連し、その出願は参照により本明細書に組み込まれる。
【0002】
本開示は、生センサ・データから画像を生成するためのシステムおよび方法に関し、特に地理登録を通じてかかる画像生成を強化するためのシステムおよび方法に関する。
【背景技術】
【0003】
画像登録は、異なる組の画像データを単一の座標系に変換するプロセスである。当該登録プロセスで使用される画像データは一般に十分に同一のシーンの複数の画像を含み、かかる画像は同時に、または異なる時点または視点で取得されうる。データ登録技術は、コンピュータ・ビジョン、医療画像処理、軍用自動ターゲット認識で使用され、衛星からの画像およびデータを編集し分析する際に使用される。登録は、これらの異なる測定値から取得されたデータを比較または統合できるようにするために必要である。
【0004】
幾つかのケースでは、画像を、当該画像(複数可)で示された同一のシーンの参照ビュー合成モデルと関連して登録してもよい。例えば、特許文献1は、ここで参照により本明細書に組み込まれ、参照画像データベースおよび/またはデジタル高度モデル(DEM)に画像を自動的に登録するための処理アーキテクチャを示す。
【0005】
センサ・データおよび後続の画像処理の集合は、生センサ測定値を取得するセンサの位置の不確実性により歪められる。これは、当該センサが搭載されるプラットフォームのナビゲーション・システムの不確実性、画像登録プロセスにおける誤差に起因し、その制限された組の参照高度データのみが一般に当該画像の処理に利用可能である。
【先行技術文献】
【特許文献】
【0006】
【文献】米国特許出願公開第2005/0220363号明細書
【発明の概要】
【発明が解決しようとする課題】
【0007】
必要なものは、かかる歪みを削減するシステムおよび方法である。かかるシステムおよび方法を以下で開示する。
【課題を解決するための手段】
【0008】
上述の要件を解決するために、本願は生センサ・データから画像を生成するためのシステムおよび方法を開示する。1実施形態では、当該方法は、複数の生センサ・データ・セットを読み取るステップであって、各生センサ・データ・セットは複数のセンサ慣性状態で1つまたは複数のセンサから読み取られる、ステップと、当該複数のセンサ慣性状態の各々の推定を生成するステップと、当該生センサ・データ・セットの各々を保持するステップとを含む。当該生センサ・データ・セットの各々は、当該複数の推定されたセンサ慣性状態および当該複数の生センサ・データ・セットから少なくとも部分的に画像を生成するステップおよび当該センサ慣性状態の少なくとも1つの更新された推定を生成するステップの間に保持され、当該センサ慣性状態の当該少なくとも1つの当該更新された推定は、当該生成された画像および当該複数の推定されたセンサ慣性状態から少なくとも部分的に生成される。最後に、強化された画像が、当該保持された生センサ・データ・セットおよび当該センサ慣性状態の当該少なくとも1つの当該更新された推定から生成される。別の実施形態は上の動作を実施するための手段により明らかになる。
【0009】
さらに別の実施形態は、生データを生成するためのセンサと、当該センサに通信可能に接続され、複数の生センサ・データ・セットを当該センサから読み取るための画像プロセッサであって、各生センサ・データ・セットは複数のセンサ慣性状態で当該センサから読み取られる、画像プロセッサと、当該センサに通信可能に接続され、当該複数のセンサ慣性状態の各々の推定を生成するための慣性ナビゲーション・システムと、当該センサおよび当該慣性ナビゲーション・システムに通信可能に接続され、画像を生成するための画像プロセッサであって、当該画像は、当該複数の推定されたセンサ慣性状態および当該複数の生センサ・データ・セットから少なくとも部分的に生成される、画像プロセッサと、当該慣性ナビゲーション・システムおよび当該画像プロセッサに通信可能に接続され、当該センサ慣性状態の更新された推定の少なくとも1つを生成するための地理登録システムであって、当該センサ慣性状態の当該少なくとも1つの当該更新された推定は、当該生成された画像および当該複数の推定されたセンサ慣性状態から少なくとも部分的に生成される、地理登録システムとを備えた、生センサ・データから画像を生成するための装置により明らかになる。当該実施形態では、当該画像プロセッサは強化された画像を、当該保持された生センサ・データ・セットおよび当該センサ慣性状態の当該少なくとも1つの当該更新された推定から生成し、当該画像が当該生センサ・データから生成され当該センサ慣性状態の当該少なくとも1つの当該更新された推定が生成される間に当該センサは当該生センサ・データ・セットの各々を保持する。さらに別の実施形態は、プロセッサおよび以上の動作を実施するためのプロセッサ命令を格納する通信可能に接続されるメモリを有する装置により明らかになる。
【0010】
説明した特徴、機能、および利点を、独立に実現でき本発明の様々な実施形態ではまたはさらに他の実施形態において結合してもよく、そのさらなる詳細を以下の説明と図面を参照して理解することができる。
【0011】
次に図面を参照する。同じ参照番号は本明細書にわたって対応する部分を表す。
【図面の簡単な説明】
【0012】
【
図1】センサ・プラットフォームの動作を示す図である。
【
図3】地理登録システムのより詳細な実施形態を示す図である。
【
図4A】生センサ・データから画像を生成するために使用できる例示的なプロセスのステップを表す図である。
【
図4B】生センサ・データから画像を生成するために使用できる例示的なプロセスのステップを表す図である。
【
図4C】生センサ・データから画像を生成するために使用できる例示的なプロセスのステップを表す図である。
【
図4D】生センサ・データから画像を生成するために使用できる例示的なプロセスのステップを表す図である。
【
図5】改善された地理登録システムの1実施形態の図である。
【
図6】処理要素を実装するために使用できる例示的なコンピュータまたはシステム600を示す図である。
【発明を実施するための形態】
【0013】
以下の説明では、本明細書の一部を形成する添付図面を参照する。当該添付図面は、例により、幾つかの実施形態を示している。他の実施形態を利用してもよく、構造的変更を、本開示の範囲から逸脱することなく行ってもよいことは理解される。
【0014】
概要
生センサ・データから画像を生成するための既存のシステムおよび方法と異なり、本明細書で説明するシステムおよび方法は生センサ画像データ(例えば、合成開口レーダ(SAR)IQ集合データ)を保持する。高解像度参照画像への地理登録が成功すると、当該生センサ・データが、より高い精度および削減された歪みの強化された出力センサ画像をもたらす計算された強化されたセンサ位置および参照画像データで再処理され、例えば、大幅な面外加速度を伴う高解像度集合にその主要な利益が見出される後方投影のようなアルゴリズムを用いて生センサSARデータが処理される。改善されうる他の歪みはフォーショートニングおよびレイオーバの歪みを含み、これらはSARアプリケーションで問題である。
【0015】
プラットフォーム
図1は、センサ・プラットフォーム104(以降、代替的にプラットフォームとも称される)の動作を示す図である。センサ・プラットフォーム104は地球の大気圏または宇宙で動作してもよく、無人または有人であってもよい。1実施形態では、当該センサ・プラットフォームは無人空中ビークル(UAV)である。プラットフォーム104は一般に、地上または地上付近でターゲット110を監視する視野(FOV)108を有するセンサ106(回転可能櫓105に搭載されてもよい)を含む。
【0016】
プラットフォーム104はまた一般に、本明細書で説明した動作を実施するためのプロセッサ命令を格納するメモリ116に通信可能に接続されたプロセッサ112、ならびにプラットフォーム104の動きの慣性測定値を取得し、これらの測定値をプラットフォーム104の慣性状態の推定に、適切な座標変換を介して変換するための手段、慣性ナビゲーション・システム(INS)114のようなセンサ106を備える。一般に、INS114は、3つの直交方向の加速度測定を提供する3つの加速度計、および3つの直交方向の回転を検知するジャイロのような3速センサを備えた慣性基準ユニット(IRU)を備える。一般に、INS114はまた、全地球測位システム(GPS)のようなシステムから利用可能であるもののような、グローバル・ナビゲーション情報を受信するための別の受信機を備えてもよい。GPSは、INS114が慣性空間内のその位置の決定を支援するために使用する信号を送信する複数の衛星102A乃至102Nを備える。幾つかのアプリケーションでは、INS114はまた、星型追跡器または位置を推定するための他の手段を備えてもよい。
【0017】
1実施形態では、プラットフォーム104はまた、地上局118とコマンドおよび他の情報を送受信するための、プロセッサ112に通信可能に接続された受信機117を備える。地上局118内のコンピュータおよび他の機器を用いて、ユーザ120は、コマンドをプラットフォーム104に提供し、センサ106により取得されたデータを含むデータを受信する。
【0018】
センサ実施形態
1実施形態では、センサ106は、ターゲット110を含むシーン109をスキャンし、ターゲット110および/またはシーン109の画像を、かかるスキャンから生成された生センサ・データで構築するSARを含む。
【0019】
SARは、プラットフォーム104の飛行経路を利用して極端に大きなアンテナまたは開口部を電子的にシミュレートし、高解像度リモート検知画像を生成する、コヒーレントなおおよそ空中輸送されているまたは宇宙で輸送されている側方監視レーダシステムである。時間とともに、個々の送受信サイクルは、各サイクルからのデータが電子的に格納されることで完了する。当該信号処理は、合成開口部の要素から連続的なパルスにわたって、受信された信号の規模およびフェーズを使用する。所与の数のサイクルの後に、当該格納されたデータは、飛行中の地形の高解像度画像を生成するために、(各後続のサイクルにおける幾何形状を対象とする異なる送信器に固有なドップラー効果を考慮して)再結合される。
【0020】
SARはフェーズド・アレイと同様に動作するが、フェーズド・アレイの多数の並列アンテナ要素の代わりに、SARは、(機械的にまたは電子的に操縦できるビームを生成する)1つのアンテナを使用して、測定値を時間多重化して大型の開口部センサをシミュレートする。当該アンテナ要素の異なる幾何的位置は移動するプラットフォーム104の結果である。
【0021】
画像プロセッサは全てのレーダ帰還信号を、振幅および位相として、或る期間にわたり格納し、各信号は慣性空間内の関連位置から取得されたデータを表す。この時点で、長さv・Tのアンテナにより取得されているであろう信号を再構築するのが可能である。vはプラットフォーム速度であり、Tは当該期間である。視線方向がレーダプラットフォームの軌跡に沿って変化すると、合成開口部は、アンテナを長くする効果を有する信号処理により生産される。Tを大きくすることで、当該「合成開口部」が大きくなり、したがってより高い解像度を実現することができる。
【0022】
ターゲット110が最初にレーダ・ビームに入ると、各送信されたパルスからの後方散乱エコーが記録され始める。プラットフォームが前方に動き続けると、パルスごとの当該ターゲットからの全てのエコーが、当該ターゲットが当該ビーム内にある時間全体の間に記録される。当該ターゲットが後の何等かの時点で当該レーダ・ビームのビューから出る時点は、シミュレートまたは合成されたアンテナの長さを決定する。合成された拡張ビーム幅は、地上幅が増大するにつれターゲットがビーム内にある増大された時間と組み合わさって、解像度が全範囲にわたって定数に留まるように互いにバランスする。SARの実現可能な方位解像度は実際の(現実の)アンテナの長さのおおよそ半分に等しく、プラットフォームの高度(距離)に依存しない。画像を生成するプロセスを、入ってくる生センサ・データがシフト・レジスタに提供されるプロセスと考えてもよく、各新たな生センサ・データの到着は、以前に測定された生データを隣接するシフト・レジスタ要素にシフトさせ、当該新たなデータは退去した要素に置かれる。各シフト・レジスタからのデータはついで算術動作または処理関数を用いて結合され、当該画像の解像度は、各新たな生画像データ・セットが処理されると向上する(各新たな測定が、当該画像データの総数に関連付けられた「開口部」を増大させるので、期待される結果である)。一般に、画像が生成されると、シフト・レジスタ内のデータが削除されるかまたは上書きされ、(地理登録を介して当該画像から生成された)当該センサの慣性状態の推定の改善を使用して当該画像の品質を改善できる可能性が排除される。
【0023】
したがって、SARは、SAR画像処理技術を用いて結合された生画像データの連続的なインスタンスを用いて画像を生成し、慣性空間内の異なる点で取得された各データ・インスタンスを結合し、完全な画像を生成する。当該結果の画像の精度は、各連続的な画像が取得されたときのプラットフォーム104位置の任意の決定の精度を含む、幾つかの因子に依存する。かかるシステムの要件は、安定で完全にコヒーレントな送信器、効率的で強力なSAR画像プロセッサ、およびセンサの飛行経路および/または速度の知識である。
【0024】
SARは、フォーショートニング、レイオーバ、および陰影効果を含むスラント・レンジ(slant-range)歪みを受ける。かかるスラント・レンジ歪みは、レーダが地上に沿った真の水平距離ではなくスラント・レンジにおける特徴への距離を測定しているので、生ずる。これが、近くから遠くの範囲に移動する、可変の画像スケールをもたらす。フォーショートニングは、レーダ・ビームが当該レーダに向かって捻じれる高い特徴(例えば、山)の底部に、その頂上に到達する前に到達するときに生ずる。当該レーダは水平範囲でなくスラント・レンジ内の距離を測定するので、スロープは圧縮されたように見え、当該スロープの長さは画像平面で不正確に表される。レイオーバは、当該レーダ・ビームが背の高い特徴の頂上に、その底部に到達する前に到達するときに生ずる。当該特徴の頂上からの帰還信号は、当該底部からの信号の前に受信される。結果として、当該特徴の頂上は地上の真の位置からレーダに向かって変位し、当該特徴の底部を「延期する」。この陰影効果は、ちょうど太陽が沈むと我々の影が伸びるように、大きな入射角θとともに増大する。かかるスラント・レンジ歪みの全てを補償するのは可能であるが、かかる補償は、少なくとも部分的にセンサの慣性状態の正確な知識(例えば、その位置および/または速度)に依存する。SARの基本原理の説明は http://www.radartutorial.eu/20.airborne/ab07.en.htmlで提供されている
【0025】
別の実施形態では、センサ106は、ターゲット110を含むシーン109をスキャンする平面撮像センサを含み、ターゲット110および/またはシーン109の画像をかかるスキャンから生成された生センサ・データで構築する。一般に、当該平面撮像センサは、映画カメラのような画像のシーケンスのキャプチャを可能とするカメラを含み、可視光線、赤外線(IR)または紫外線波長のエネルギを検知してもよい。幾つかのアプリケーションでは、当該平面センサは他の波長のデータを電磁気スペクトルにわたって収集する。一般に、撮像センサ106は、プラットフォーム104をピッチ、ヨーおよびロールで操縦することで方向付けることができ、また、プラットフォーム104のボディと独立に捻じれ方向およびパン方向に方向付けてもよい。かかる捻じれおよびパンニングを、櫓105または同様な構造を用いて電子的にまたは機械的に実現してもよい。
【0026】
地理登録システム
図2は、例示的な地理登録システム200を表す図である。当該地理登録システムは、画像プロセッサ204に通信可能に接続されたセンサ106を備える。画像プロセッサ204は生センサ・データ202を処理して画像206を生成する。一般に、画像プロセッサ204は画像206を生成する目的に特化した特殊目的プロセッサであり、プラットフォーム・プロセッサ112と異なる。しかし、プラットフォーム・プロセッサ112を使用して、画像プロセッサ204の機能を実施してもよい。
【0027】
地理登録システム200はまた、画像プロセッサ204に通信可能に接続されたINS114を備える。上述のように、INS114は、時間とともに、プラットフォーム104の慣性状態の推定、および適切な座標変換により、センサ106の慣性状態を生成する。センサ慣性状態208は、例えば、センサ106の位置、速度、加速度、態勢または態勢レートを含んでもよい。これらの状態を慣性座標空間に関して表現してもよく、当該座標空間が、デカルト、極、または他の座標系(NED、ECEF、システム/センサ・ボディ)であってもよい。単純さのため、1つまたは複数の生センサ・データ集合イベントに対応する、センサの位置、速度、加速度、姿勢、または態勢レートの1つまたは複数の推定はそれぞれセンサ慣性状態および生センサ・データとして定義される。
【0028】
画像プロセッサ204は生センサ・データ202を受信し、このデータを処理して画像を生成する。センサ106がSARである実施形態では、画像プロセッサ204は、生IQセンサ・データ202を複数の物理センサ106位置で取得されたセンサ106から受信し、各かかる生センサ・データが取得されたときセンサ106の物理位置の推定を用いて、画像206を生成する。
【0029】
画像206およびセンサ慣性状態208が地理登録モジュール210に提供される。地理登録モジュール210は、地理登録されたセンサ画像212をセンサ慣性状態208から、画像206、および参照画像および/または他の参照地理空間データ(例えば、高度)を参照画像データベースから生成する。
【0030】
図3は、地理登録システム300のより詳細な実施形態を示す図である。(センサ慣性状態208に変換されうる)プラットフォーム・パラメータ322およびセンサ・パラメータ332(例えば、視野またはFOV)が、画像およびセンサ・フットプリントにより示されるシーンの位置の推定を生成するためにセンサ・フットプリント分析モジュール324に提供される。その情報が関心領域(AOI)抽出モジュール326に提供される。関心領域(AOI)抽出モジュール326は、参照画像データベース214および参照デジタル高度モデル(DEM)データベース340を使用して、参照チップ330およびDEMチップ342を生成する。
【0031】
プラットフォーム・パラメータ322およびセンサ・パラメータ320はまたセンサ視点分析モジュール350に提供される。センサ視点分析モジュール350は、プラットフォームとセンサの間の関係を記述するセンサ変換モデル354に沿って、参照画像をセンサ視点に変換するための変換を生成するために使用される視点パラメータ352を生成する。参照チップ330およびDEMチップ342が参照直交画像(orthoimage)チップ348および参照DEMチップ346を生成するために直交画像構築モジュール344に提供される。参照直交画像チップ348および参照DEMチップ346は、視点参照画像358を生成するためにセンサ視点モジュール356によりセンサ視点に変換される。視点参照画像358は、マッチ・パラメータを生成するために、画像マッチング・モジュール360により生センサ・データから生成されたセンサ画像でマッチされる。これらのマッチ・パラメータは、センサ画像を視点参照画像とマッチするための変換(例えば、平行移動、回転、逆視点等)を反映するマッチング関数362である。以上のシステムの例示的な実施形態はさらに、特許文献1で説明され、これは参照により本明細書に組み込まれる。
【0032】
この地理登録された画像212を使用して、集合およびしたがってプラットフォーム104自体の時刻(複数可)で発生するセンサ106の慣性状態の決定の精度を高めることができる。重要なことに、および以下で論じられるように、生センサ・データ202が保持される場合、センサ106の慣性状態に関するこのより正確なデータをまた、強化された(例えば、良好な品質の)画像206を生成するために使用することができる。これを実現するために、生センサ・データ202は、画像206を生成するために使用される画像処理がより正確なセンサ106の慣性状態データを用いて反復される(例えば、再度実施される)ように、保持されまたはそうでなければ格納されなければならない。したがって、高解像度参照画像に対する地理登録が成功すると、生センサ・データ202は、より高い精度および削減された歪みの強化された出力センサ画像(例えば、面外加速度、フォーショートニングおよびレイオーバ)をもたらす計算される強化されたセンサ位置および参照画像データで再処理される。
【0033】
強化された画像生成
図4A乃至4Dは、生センサ・データ202から画像206を生成するために使用しうる例示的なプロセスのステップを表す図である。まず
図4Aを参照すると、ブロック402で、生センサ・データ202がセンサ106から読み出される。ブロック404で、センサ慣性状態208の推定がINS114により生成される。一般に、生センサ・データ202を読み取るプロセスおよびセンサ106の慣性状態の推定を生成するプロセスは独立なプロセスにより並列に実施され、各プロセスからのデジタル・データは、生センサ・データ202が読み取られたときに生センサ・データ202を当該推定されたセンサ慣性状態208と相関させることができるように時間でタグ付けされる。したがって、当該慣性推定センサ慣性状態208が、センサ106からの生センサ・データの読取りの間にまたはそれと並行して生成されてもよい。
【0034】
ブロック406で示すように、生センサ・データ202は、更新された(または強化された)バージョンの画像206を生成する際に後に使用するために保持または格納される。1実施形態では、これは、センサ106と別々に生センサ・データ202をメモリ(例えば、
図5に示すメモリ502)に格納することにより実現される。他の実施形態では、これは、生センサ・データ202を、センサ106自体のメモリ、即ち、画像プロセッサ204、またはプラットフォーム・プロセッサ112の一部であるかまたはそれらにアクセス可能なメモリに格納することにより実現される。
【0035】
ブロック408で示すように、画像206が少なくとも部分的に生センサ・データ202から生成される。これを、例えば、
図5に示す画像プロセッサ204を用いて実現することができる。1実施形態では、当該生センサ・データは、赤外線または可視光にセンシティブな要素のアレイを有する赤外線または可視光センサのような平面撮像センサから取得されたデータを含む。当該実施形態では、当該センサの位置は、当該生データが読み取られたとき画像を生成するために必要とされないので、当該画像を、推定された慣性センサ状態なしに当該生センサ・データから生成することができる。当該画像を生成するのに必要ではないが、このデータを、
図4Cと同様にプラットフォームの慣性状態の推定への第2のセンサ・データ入力として利用してもよい。
【0036】
別の実施形態では、推定されたセンサ慣性状態208は、画像プロセッサ204が画像を生成するために必要とされる。例えば、画像206が複数のセンサ106位置(例えば、SARのような合成開口部システム)から取得された生センサ・データ202を結合することにより生成されるアプリケーションでは、画像206が、生センサ・データ202だけでなく、生センサ・データ202が取得されたときセンサ106の慣性状態も用いて生成される。
【0037】
ブロック410で示すように、当該センサ慣性状態の更新された推定が、生成された画像206および当該推定されたセンサ慣性状態から少なくとも部分的に生成される。1実施形態では、当該センサ慣性状態の更新された推定は、ブロック408で生成された画像を地理登録し、当該地理登録された画像を用いて当該センサ慣性状態の更新推定を取得することで生成される。これをさらに
図5を参照して以下で説明する。最後に、ブロック412で、強化された画像が、保持された生センサ・データおよびセンサ慣性状態の更新された推定から生成される。
【0038】
1実施形態では、ブロック412で生成された強化された画像がブロック410に提供され、センサ慣性状態の更新された推定をさらに改善するために使用される。生センサ・データは依然として利用可能であるので、これは、ブロック412の動作が繰り返されるときのさらに強化された画像の生成を可能とする。このプロセスを繰り返し反復して、かかる反復が当該センサ慣性状態の推定をもはや十分に改善しないまで、当該生成された画像および当該センサ慣性状態の推定を改善することができる。
【0039】
以上のプロセスを、追加の生センサ・データおよびセンサ慣性状態の追加の推定に対して繰り返してもよい。これを、例えば、(複数の生センサ・データが異なる時点で異なる位置から取得される)SARまたは(複数の生センサ・データが同時にまたはほぼ同一の時間点で異なる位置から取得される)複数のセンサ実施形態のような合成開口部技術を用いる諸実施形態において、適用してもよい。
【0040】
図4Bは、追加の生センサ・データおよびセンサ慣性状態の推定の利用を示す図である。この実施形態は、例えば、選択されたSARアプリケーションにおいて有用である。ブロック422で、第2の生データがセンサから読み出される。当該実施形態では、当該センサは、上述した第1の生データを(異なる位置で異なる時刻に)読み取る同一のセンサである。ブロック424で、第2のセンサ慣性状態の推定が生成される。第2のセンサ慣性状態は、上述したセンサ慣性状態とは異なる位置(および時刻)での同一のセンサの状態である。ブロック426で、第2の生センサ・データが保持される(第1の生センサ・データも使用のために保持されている)
【0041】
ブロック428で画像が生成される。この画像は、センサ慣性状態の更新された推定、第2のセンサ慣性状態の推定、当該生センサ・データおよび第2の生センサ・データから少なくとも部分的に生成される。例えば、SARの実施形態では、当該さらに生成された画像は、第1のセンサ位置で取得された第1の生データおよび第2の位置で取得された第2の生データ、ならびに当該生データが取得された位置でのセンサの状態から生成される。
【0042】
ブロック430で、第2の慣性センサ状態の更新された推定が生成される。第2の慣性センサ状態のこの更新された推定は、ブロック428で生成されたさらに生成された画像および推定された第2のセンサ慣性状態から少なくとも部分的に生成される。
【0043】
最後に、ブロック432で、さらに強化された画像が、当該保持された生センサ・データ、当該保持された第2の生センサ・データ、当該センサ慣性状態の更新された推定および当該更新された第2のセンサ慣性状態の推定を用いて生成される。
【0044】
図4Aに示すプロセスと同様に、以上のプロセスを、追加の生センサ・データおよびセンサ慣性状態の追加の推定に対して繰り返してもよい。これを、例えば、(複数の生センサ・データが異なる時点で異なる位置から取得される)SARのような合成開口部技術を用いた諸実施形態または(複数の生センサ・データが同時にまたはほぼ同一の時間点で当該異なる位置から取得される)複数のセンサの実施形態において、適用してもよい。
【0045】
図4Cは、2つのセンサを用いた1実施形態における追加の生センサ・データおよび慣性状態の推定の利用を示す図である。当該実施形態では、第1の生センサ・データおよび第2の生センサ・データは、2つの異なるセンサから取得され、同一の時点または異なる時点に取得されてもよい。ブロック432は第2の生センサ・データを第2のセンサから読み取り、ブロック434は第2のセンサ慣性状態の推定を生成する。ブロック436は、少なくともブロック438および440の動作が実施される限り第2の生センサ・データを保持する(第1の生センサ・データも使用のために保持されている)。ブロック438で、画像がさらに、少なくとも部分的に(第1のセンサの)センサ慣性状態の更新された推定、(第2のセンサの)第2の推定された慣性状態、および第1のセンサおよび第2のセンサからの生データから生成される。ブロック440で、(第2のセンサの)第2の慣性センサ状態の更新された推定が少なくとも部分的に当該さらに生成された画像および(第2のセンサの)第2のセンサ慣性状態から生成される。最後に、ブロック442で、さらに強化された画像が、第1の保持された生センサ・データ、第2の保持された生センサ・データから生成される。
【0046】
再度、
図4Aおよび4Bと関連して論じた実施形態と同様に、ブロック442で生成された当該強化された画像をブロック440に提供し、第2のセンサ慣性状態の更新された推定をさらに改善するために使用してもよい。第2の生センサ・データは依然として利用可能であるので、これは、ブロック442の動作が繰り返されるときさらに強化された画像の生成を可能とする。
【0047】
図4Dは、画像206を生センサ・データ202から生成するために使用しうる例示的なプロセスのステップの別の実施形態の図である。当該実施形態では、特定の解像度で特定の領域109をカバーするターゲット110の画像が望まれる。当該画像を収集するのにどれくらいかかるか(時間)に関係し、当該画像が収集の間にセンサ106の視野108内に保持するために予測されることを検証する予測が生成される。より多くのデータ点が異なるセンサ位置で収集されたときより大きな解像度が実現され、これは一般に当該データを収集するためのより長い期間を反映する。センサ・プラットフォーム104が移動すると、センサ106は、(SARのケースでは、生データの各集合が無線周波数パルスから取得された)生データを複数のセンサ位置または慣性状態で集める収集を開始する。INS114は、パルスに対応する生データの集合ごとにセンサ位置または慣性状態の推定を生成する。生センサ・データ202の各組はついでセンサ106の慣性位置の推定に関連付けられる。これを、例えば、生センサ・データ202が各パルスから収集された記録時刻とセンサ106の慣性状態の推定の時刻を相関付けることで実現してもよい。
【0048】
ブロック458で、画像206が、少なくとも部分的に、(複数のパルスの各々からのデータ・セットを含む)生センサ・データ202および生センサ・データ202セットの各々に対応するセンサ208の慣性状態の推定から生成される。ブロック460で、当該センサ慣性状態の更新された推定が少なくとも部分的に当該生成された画像および当該推定されたセンサ慣性状態から生成される。1実施形態では、これは、地理登録された画像212を生成された画像206および参照画像データベース214から生成し、ついで地理登録された画像212を用いてセンサ位置の更新された推定(複数可)を生成することにより実現される。ブロック462で、強化された画像が、保持された生センサ・データ・セット456およびセンサ慣性状態の更新された推定から生成される。
【0049】
再度、
図4A乃至4Cと関連して論じた実施形態と同様に、ブロック462で生成された強化された画像をブロック460に提供して、センサ慣性状態の更新された推定をさらに改善するために使用してもよい。生センサ・データは依然として利用可能であるので、これは、ブロック462の動作が繰り返されるときさらに強化された画像の生成を可能とする。
【0050】
さらに、センサ慣性状態の改善された推定を使用して、将来の生センサ・データ202セット集合に対する推定された慣性状態を改善し、したがって生成された画像206をさらに改善することができる。
【0051】
図4A乃至4Dを参照して論じた実施形態では、推定されたセンサ慣性状態は、使用されるセンサ106に依存して異なるデータを含んでもよい。例えば、生センサ・データが同一のセンサ(例えば、SAR)により異なるセンサ位置で取得される実施形態では、当該推定されたセンサ慣性状態は慣性空間内のセンサ位置を含み、また慣性空間内のセンサ速度を含んでもよい。(例えば、IR、uV、または可視光帯域幅におけるエネルギにセンシティブな画素のアレイを有する平面センサを用いる)諸実施形態では、当該センサ慣性状態は、当該生センサ・データが読み取られるときのセンサ位置およびセンサ態勢を含んでもよい。
【0052】
図5は、改善された地理登録システム500の1実施形態の図である。
図4A、4B、4C、および4Dのブロック410、430、440および460はそれぞれ、センサ慣性状態(または第2の慣性センサ状態)の更新された推定が、関連する画像から少なくとも部分的に生成される動作を記述する。これを地理登録モジュール210により実現してもよい。地理登録モジュール210は、地理登録された画像を、上で参照した生成された画像および参照画像データベース214および前述の参照DEMデータベースから生成する。更新されたセンサ慣性状態がついで、地理登録された画像から少なくとも部分的に生成される。これを、当該地理登録された画像を、DEMデータベース340内の既知の特徴および特許文献1で説明されている地理登録された画像と比較して、当該画像を生成するために使用される生センサ・データが読み取られたときセンサの位置に関する追加の情報を提供することにより実現することができる。かかる比較を、INS114のハードウェア、ソフトウェア、またはファームウェア・モジュール506、画像プロセッサ204のハードウェア、ソフトウェア、またはファームウェア・モジュール504および/またはプラットフォーム・プロセッサ112のハードウェア、ソフトウェア、またはファームウェア・モジュールにより実施してもよい。
【0053】
最後に、強化された画像が上述したプロセスから利用可能であるので、強化された地理登録された画像が当該強化された画像および更新されたセンサ位置(複数可)から生成されてもよい。これは、(更新されたセンサ慣性状態208を用いて生成された)強化された画像206および更新されたセンサ慣性状態208自体を地理登録モジュール210に提供することで実現される。地理登録モジュール210はこの時点で強化された画像を有し、更新された(およびより正確な)センサ慣性状態208を有するので、強化された地理登録されたセンサ画像212を生成することができる。もちろん、この強化された地理登録されたセンサ画像212を使用して、さらに、画像206を改善するために使用されうるセンサ慣性状態208の精度を改善することができる。画像206はついで、さらに強化された地理登録されたセンサ画像212の生成を可能とする。したがって、生センサ・データ202を、地理登録プロセスにより可能とされる改善された精度でセンサ慣性状態208を用いてそれを再処理できるように保持することにより、継続的に画像およびセンサ状態の推定の両方を改善する処理の閉ループが定義される。
【0054】
処理環境
図6は、プラットフォーム・プロセッサ112、画像プロセッサ204、地理登録モジュール210、INS114の部分、受信機117および地上局118を含む、上述の開示の処理要素を実装するために使用できる例示的なコンピュータまたはシステム600を示す。コンピュータ602はプロセッサ604および、ランダム・アクセスメモリ(RAM)606のようなメモリを含む。人間のインタフェースを必要とする諸実施形態では、コンピュータ602はディスプレイ622に動作可能に接続される。ディスプレイ622は、グラフィカル・ユーザ・インタフェース618B上のユーザに対する窓のような画像を提供する。コンピュータ602はキーボード614、マウスデバイス616、プリンタ等のような他のデバイスに接続されてもよい。もちろん、当業者は、上述のコンポーネント、または任意数の異なるコンポーネント、周辺装置、および他のデバイスの任意の組合せをコンピュータ602で使用してもよいことを認識する。
【0055】
一般に、コンピュータ602は、メモリ606に格納されたオペレーティング・システム608の制御下で動作し、ユーザとインタフェースして、入力およびコマンドを受け付け、グラフィカル・ユーザ・インタフェース(GUI)モジュール618Aを通じて結果を提供する。GUIモジュール618Bは別々のモジュールとして示されているが、当該GUI機能を実施する命令を、動作システム608、コンピュータ・プログラム610内に常駐させるかまたは分散させることができ、または特殊目的メモリおよびプロセッサで実装することができる。コンピュータ602はまた、Java(登録商標)、C++、C#、または他の言語のようなプログラミング言語で書かれたアプリケーション・プログラム610をプロセッサ604可読コードに変換できるコンパイラ612を実装する。完了後、アプリケーション610は、コンパイラ612を用いて生成された関係およびロジックを用いてコンピュータ602のメモリ606に格納されたデータにアクセスし操作する。類似の結果をフィールド・プログラム可能ゲートアレイ(FPGA)で実現することができる。コンピュータ602はまた、場合によっては、モデム、衛星リンク、イーサネット(登録商標)カード、または他のコンピュータと通信するための他のデバイスのような外部通信デバイスを含む。
【0056】
1実施形態では、動作システム608、コンピュータ・プログラム610、およびコンパイラ612を実装する命令はコンピュータ可読媒体、例えば、データ記憶デバイス620で有形に具体化される。当該コンピュータ可読媒体は、ジップ・ドライブ、フロッピーディスクドライブ624、ハード・ドライブ、CD-ROMドライブ、テープ・ドライブ等のような1つまたは複数の固定のまたは取外し可能データ記憶デバイスを含みうる。さらに、動作システム608およびコンピュータ・プログラム610は、コンピュータ602により読み取られ実行されるとき、コンピュータ602に本明細書で説明した動作をさせる命令から構成される。コンピュータ・プログラム610および/または動作命令はまた、メモリ606および/またはデータ通信デバイス630で有形に具体化され、それによりコンピュータ・プログラム製品または製品を生成してもよい。したがって、「製品」、「プログラム記憶デバイス」および「コンピュータ・プログラム製品」という用語は本明細書で説明する際、任意のコンピュータ可読デバイスまたは媒体からアクセス可能を包含するコンピュータ・プログラムを包含することが意図されている。
【0057】
当該コンピュータシステムの以上の実施形態が、地上局118および同様なアプリケーションに有用でありうるが他の処理要素に不必要に含まれない周辺装置(例えば、ディスプレイ622、GUIモジュール618A、GUI618、マウスデバイス616、キーボード614、プリンタ628またはコンパイラ612)を含むことは理解される。
【0058】
当業者は、本開示の範囲から逸脱することなくこの構成に多くの修正を行ってもよいことを認識する。例えば、当業者は、上述のコンポーネント、または任意数の異なるコンポーネント、周辺装置、および他のデバイスの任意の組合せを使用してもよいことを認識する。
【0059】
結論
これは、本開示の好適な実施形態の説明を結論付ける。当該好適な実施形態の以上の説明は例示および説明の目的のために提供されている。これは、包括的であることを意図したものではなく、本開示を開示された正確な形態に限定しようとするものでもない。上述の教示事項に鑑みて多くの修正および変形が可能である。その権利範囲はこの詳細な説明により制限されず、添付の特許請求の範囲により制限されることが意図されている。
【符号の説明】
【0060】
106 センサ
202 生センサ・データ
204 画像プロセッサ
206 画像
208 センサ慣性状態
210 地理登録モジュール
212 地理登録されたセンサ画像
214 参照画像データベース
312 センサ画像
320 センサ・パラメータ
322 プラットフォーム・パラメータ
324 センサ・フットプリント分析
326 AOI抽出
330 参照チップ
340 参照DEMデータベース
344 正画像構築
346 参照DEMチップ
348 参照正画像チップ
350 センサ視点分析
352 視点パラメータ
354 センサ変換モデル
356 センサ視点への変換
358 視点参照画像
360 画像マッチ
362 マッチ関数(変換、逆遠近等)