特許第6290392号(P6290392)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ノースロップ グラマン システムズ コーポレイションの特許一覧

特許6290392デュアルバンドセンサからの画像の可視カラー画像への変換
<>
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000008
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000009
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000010
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000011
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000012
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000013
  • 特許6290392-デュアルバンドセンサからの画像の可視カラー画像への変換 図000014
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6290392
(24)【登録日】2018年2月16日
(45)【発行日】2018年3月7日
(54)【発明の名称】デュアルバンドセンサからの画像の可視カラー画像への変換
(51)【国際特許分類】
   H04N 9/07 20060101AFI20180226BHJP
   G06T 1/00 20060101ALI20180226BHJP
【FI】
   H04N9/07 A
   G06T1/00 500B
【請求項の数】12
【全頁数】19
(21)【出願番号】特願2016-524128(P2016-524128)
(86)(22)【出願日】2014年10月7日
(65)【公表番号】特表2016-535485(P2016-535485A)
(43)【公表日】2016年11月10日
(86)【国際出願番号】US2014059469
(87)【国際公開番号】WO2015057425
(87)【国際公開日】20150423
【審査請求日】2016年4月28日
(31)【優先権主張番号】14/056,306
(32)【優先日】2013年10月17日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】503178185
【氏名又は名称】ノースロップ グラマン システムズ コーポレイション
【氏名又は名称原語表記】NORTHROP GRUMMAN SYSTEMS CORPORATION
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(74)【代理人】
【識別番号】100142907
【弁理士】
【氏名又は名称】本田 淳
(72)【発明者】
【氏名】シャクター、ブルース ジェイ.
(72)【発明者】
【氏名】バンマースダム、ピーター ジェイ.
(72)【発明者】
【氏名】リドル、ジャック ゴードン
【審査官】 西谷 憲人
(56)【参考文献】
【文献】 特表2009−545804(JP,A)
【文献】 特開2004−247789(JP,A)
【文献】 特開2004−165800(JP,A)
【文献】 特開2011−056249(JP,A)
【文献】 特開2005−176361(JP,A)
【文献】 特開2009−092732(JP,A)
【文献】 特開2006−115147(JP,A)
【文献】 特開2005−223605(JP,A)
【文献】 特開2004−350171(JP,A)
【文献】 特開平03−073668(JP,A)
【文献】 国際公開第2013/090922(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 9/07
G06T 1/00
(57)【特許請求の範囲】
【請求項1】
装置であって、
機械可読命令を記憶する非一時的メモリと、
プロセッサであって、前記機械可読命令の実行を支援し、少なくとも、
デュアルバンド画像センサからの画像を、ウェーブレットベースの画像融合と反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換し、
前記プレースホルダ画像を可視色空間にマッピングすることにより可視カラー画像を生成する、プロセッサと、
を含み、
前記デュアルバンド画像センサからの前記画像が長波データおよび中波データを含み、
前記反対色処理技術が一時的な赤色チャンネル、一時的な緑色チャンネル、および一時的な青色チャンネルを生成し、
前記一時的な赤色チャンネルが前記長波データを含み、
前記一時的な緑色チャンネルが前記中波データを含み、
前記一時的な青色チャンネルが、前記長波データと前記中波データの関数を表わすデータを含む装置。
【請求項2】
前記デュアルバンド画像センサが、デュアルバンド前方視赤外線センサであるか、または、長波赤外線センサ、中波赤外線センサ、短波赤外線センサ、単色可視センサ、近赤外線センサ、もしくは画像強化画像センサのうちの少なくとも2つである、請求項1に記載の装置。
【請求項3】
前記プレースホルダ画像内のデータが、前記長波データおよび前記中波データの組に関して減少した冗長性を示す、請求項1に記載の装置。
【請求項4】
前記プレースホルダ画像がa*データおよびb*データを含み、
前記a*データが、前記一時的な赤色チャンネルからのデータと前記一時的な緑色チャンネルからのデータとの関数を含み、
前記b*データが、前記一時的な青色チャンネルからのデータと、前記一時的な赤色チャンネルからのデータと、前記一時的な緑色チャンネルからのデータとの関数を含む、請求項に記載の装置。
【請求項5】
前記プレースホルダ画像が輝度(L*)データを更に含み、
前記L*データが、前記デュアルバンド画像センサからの前記画像のウェーブレットベースの画像融合に基づく、融合された画像を表すデータを含む、請求項に記載の装置。
【請求項6】
前記プロセッサが前記機械可読命令の実行を更に支援して前記可視カラー画像を異なる色空間に変換し、前記可視カラー画像の特徴を強調する、請求項1に記載の装置。
【請求項7】
前記プロセッサが前記機械可読命令の実行を更に支援して、平均フィルタ、メディアンフィルタ、ハイパスフィルタ、ローパスフィルタ、またはアンシャープマスクフィルタを、前記デュアルバンド画像センサからの前記画像、前記プレースホルダ画像、または前記可視カラー画像のうちの少なくとも1つに適用する、請求項1に記載の装置。
【請求項8】
デュアルバンド画像を可視カラー画像に変換するための方法を実行するために、関連したプロセッサによって実行可能な命令を記憶する非一時的なコンピュータ可読記憶媒体であって、前記方法が、
前記デュアルバンド画像を、ウェーブレットベースの画像融合と、人間の視覚系によって使用される反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換するステップであって、前記変換するステップが、前記デュアルバンド画像の第1のチャンネルと前記デュアルバンド画像の第2のチャンネルとの間の冗長性を低減することを含み、前記第1のチャンネルが長波データを含み、前記第2のチャンネルが中波データを含み、前記プレースホルダ画像が輝度(L*)データ、a*データ、およびb*データを含む、ステップと、
前記可視カラー画像を生成するために前記プレースホルダ画像を、赤色バンドデータ、緑色バンドデータ、および青色バンドデータを含む可視色空間にマッピングするステップと
を含み、
前記デュアルバンド画像を前記プレースホルダ画像に変換する前記ステップが、
前記長波データと前記中波データの前記ウェーブレットベースの画像融合に基づいて、前記L*データを生成するステップと、
前記反対色処理技術に基づいて前記a*データおよび前記b*データを生成するステップであって、前記a*データおよび前記b*データが前記長波データと前記中波データの関数を含む、ステップと
を含む、非一時的なコンピュータ可読記憶媒体。
【請求項9】
前記デュアルバンド画像を前記プレースホルダ画像に変換する前記ステップが、
前記a*データのダイナミックレンジおよび前記b*データのダイナミックレンジを拡張することにより、前記プレースホルダ画像の冗長性を低減するステップを更に含む、請求項に記載の非一時的なコンピュータ可読記憶媒体。
【請求項10】
前記方法が、
前記デュアルバンド画像中のノイズを低減して前記変換するステップを支援するために、フィルタリングアルゴリズムを適用するステップと、
前記変換するステップを支援するために、前記デュアルバンド画像の前記第1のチャンネルおよび前記デュアルバンド画像の前記第2のチャンネルのダイナミックレンジを標準化するステップと
を更に含む、請求項に記載の非一時的なコンピュータ可読記憶媒体。
【請求項11】
デュアルバンド赤外線画像を可視カラー画像に変換する動作を実行するために、関連したプロセッサによって実行可能な実行可能命令を記憶する非一時的なコンピュータ可読デバイスであって、前記動作が、
前記デュアルバンド赤外線画像におけるノイズを低減するステップと、
前記デュアルバンド赤外線画像の第1のバンドのダイナミックレンジと、前記デュアルバンド赤外線画像の第2のバンドのダイナミックレンジを標準化するステップと、
ノイズが低減され前記第1のバンドおよび前記第2のバンドのダイナミックレンジが標準化された前記デュアルバンド赤外線画像を、ウェーブレットベースの画像融合と人間の視覚系によって使用される反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換するステップと、
前記可視カラー画像を生成するために前記プレースホルダ画像を可視色空間に変換するステップと
を含む、非一時的なコンピュータ可読デバイス。
【請求項12】
前記第1のバンドが長波データを含み、
前記第2のバンドが中波データを含み、
前記プレースホルダ色空間が輝度(L*)データ、a*データ、およびb*データを含み、
前記可視色空間が赤色チャンネルデータ、緑色チャンネルデータ、および青色チャンネルデータを含む、請求項11に記載の非一時的なコンピュータ可読デバイス。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は一般的に、ウェーブレットベースの画像融合および人間の視覚系の特性に基づいて、デュアルバンドセンサからの画像を可視カラー画像に変換することに関する。
【背景技術】
【0002】
デュアルバンド前方視赤外線(FLIR:Forward Looking Infrared)カメラは、感知素子の2つの異なる組を用いて、赤外放射線を検出する。この2つの種類のセンサは、長波赤外線(LWまたはLWIR:long−wave infrared、波長8〜12μm)センサ、および中波赤外線(MWまたはMWIR:mid−wave infrared、波長3〜5μm)センサを含む。LWセンサによって生成されるデータから得られるLW画像は放射されたエネルギーに基づいているのに対し、MWセンサによって生成されるデータから得られるMW画像は放射されたエネルギーに加えて反射されたエネルギーに基づいており、日中は反射されたエネルギーが主流である。似通っているがわずかに異なる単色画像(LW画像およびMW画像)を、各センサによって生成されるデータから構築することができる。しかしながら、人間の観察者は、この2つの画像を頭の中で結合して、この2つのバンドの内部に埋め込まれている可能性がある異なる現象の特徴を説明する、2つの単色画像の組み合わせ表現を生成するのに、困難を有することがある。
【0003】
LW画像およびMW画像は、({LW、MW}として表わされる)大きさ2のベクトルを各ピクセルが有する、単一の画像に結合することができる。人間は、2つの別々のグレースケール画像よりも、カラー表示の2つのチャンネルにマッピングされた合成画像において、より良く現象の特徴を知覚することができる。カラー表示の3つのチャンネル(たとえば、赤色チャンネル、緑色チャンネル、青色チャンネル)全てを用いて、合成画像の特徴が完全な視覚的色彩で表示される場合、より一層の現象が知覚可能になる。典型的に、人間の視覚系は、3つの部分的に重複するバンド:赤バンド(R)、緑バンド(G)、青バンド(B)を含む可視スペクトル内の画像を、可視画像の各ピクセルが長さ3のベクトル{R、G、B}であるとして、直接に知覚することができる。
【発明の概要】
【課題を解決するための手段】
【0004】
一実施形態が、機械可読命令の実行を支援するプロセッサに関連した装置を含み、デュアルバンドセンサからの画像を可視カラー画像に変換する。機械可読命令は、デュアルバンド画像センサからの画像の、プレースホルダ色空間内のプレースホルダ画像への変換を支援することができる。プレースホルダ色空間は、ウェーブレットベースの画像融合と、人間の視覚系によって使用される反対色処理技術(oppositional color processing technique)とに基づいて確立される。機械可読命令は、プレースホルダ画像の可視色空間へのマッピングを支援して可視カラー画像を生成することもできる。
【0005】
別の実施形態は、関連したプロセッサによって実行可能な命令を記憶する非一時的なコンピュータ可読記憶媒体を含み、デュアルバンドセンサからの画像を可視カラー画像に変換するための方法を実行する。この方法は、デュアルバンドセンサからの画像をプレースホルダ色空間内のプレースホルダ画像に変換することを含む。プレースホルダ色空間は、ウェーブレットベースの画像融合と、色を知覚するために人間の視覚系によって使用される反対色処理技術とに基づいて確立される。変換の一態様は、第1のチャンネルからのデュアルバンドセンサからの画像の第1の成分と、第2のチャンネルからのデュアルバンドセンサからの画像の第2の成分との間の冗長性を低減することを含む。この方法は、プレースホルダ画像を可視色空間にマッピングして可視カラー画像を生成することも含む。
【0006】
更なる実施形態は、関連したプロセッサによって実行可能な実行可能命令を記憶する非一時的なコンピュータ可読デバイスを含み、デュアルバンド画像を可視カラー画像に変換する動作を実行する。この動作は、デュアルバンド画像におけるノイズを低減することと、第1のチャンネルからのデュアルバンドセンサからの画像の第1の成分のダイナミックレンジと、第2のチャンネルからのデュアルバンドセンサからの画像の第2の成分のダイナミックレンジを標準化することとを含む。この動作は、ノイズが低減されてダイナミックレンジが標準化されたデュアルバンド画像を、ウェーブレットベースの画像融合と人間の視覚系によって使用される反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換することも含む。この動作は、プレースホルダを可視色空間に変換して可視カラー画像を生成することを更に含む。
【図面の簡単な説明】
【0007】
図1】デュアルバンド画像を可視カラー画像に変換するシステムの例を示した図である。
図2】デュアルバンド前方視赤外線(FLIR)センサからの画像を可視カラー画像に変換する例を示した図である。
図3】FLIRセンサからのデュアルバンド赤外画像から生成され得る可視カラー画像の例を示した図である。
図4】デュアルバンド画像を可視カラー画像に変換するために、プロセッサによって用いられ得るシステムの例を示した図である。
図5】デュアルバンド画像のダイナミックレンジの標準化において用いられ得るプロットの例を示した図である。
図6】デュアルバンド画像データのプレースホルダL*空間への変換において用いられ得るウェーブレットベースの画像融合手法の例を示した図である。
図7】デュアルバンド画像を可視カラー画像に変換するための方法の例を示した図である。
【発明を実施するための形態】
【0008】
本発明は一般に、デュアルバンドセンサからのデュアルバンド画像を3バンド可視カラー画像に変換することに関する。本出願で使用される場合、「画像」という用語は一般的に、表示装置によって表示可能な画像データを指す。本出願で使用される場合、「可視カラー画像」という用語は各ピクセルにおいて赤色値、緑色値、および青色値を有する画像を指し、各値は標準ディスプレイのダイナミックレンジ(たとえば、色あたり8ビット/ピクセル)内になる。
【0009】
デュアルバンド画像の可視カラー画像への変換は、ウェーブレットベースの画像融合を、人間の視覚系の動作に着想を得た方法に緊密に結合する工程を介して達成することができる。デュアルバンド画像は、まず、簡略化されたプレースホルダ{L*、a*、b*}色空間におけるプレースホルダ画像に変換される。本出願で使用される場合、「プレースホルダ」という用語は、中間生成物を一般に指し、中間の、一時的な、表記上の、予備的な、および他の類似の用語の同義語である。プレースホルダ{L*、a*、b*}色空間は、対応するプレースホルダ{L*、a*、b*}画像と同様に、一般的に、浮動小数点演算を介して少なくとも部分的に形成される。プレースホルダ{L*、a*、b*}色空間のL*成分は、ウェーブレットベースの手法を用いて、デュアルバンド画像のバンドからの画像を融合することによって生成される。プレースホルダ{L*、a*、b*}色空間のa*成分と、プレースホルダ{L*、a*、b*}色空間のb*成分とは、人間の視覚系に着想を得た方法に従って生成される。プレースホルダ画像は、可視{R、G、B}色空間にマッピングされ、可視カラー画像を生成する。可視カラー画像は、人間による視覚分析のために表示装置によって表示することができ、または、データは、人工知能を用いる自動化された工程によって活用されることができる。
【0010】
ここで図1を参照すると、ウェーブレットベースの画像融合技術を人間の視覚系に着想を得た方法に緊密に結合する工程に従って、デュアルバンド画像を可視カラー画像に変換するシステム1の例が示されている。システム1は、少なくともセンサ12(センサ12は本明細書では、「デュアルバンドセンサ12」または「デュアルバンドカメラ12」とも呼ばれ、「センサ」という用語と「カメラ」という用語は、本明細書では互換的に使用される)およびプロセッサ10を含む。プロセッサ10はデュアルバンドセンサ12からデュアルバンド画像を受け取り、このデュアルバンド画像をL*成分、a*成分、およびb*成分を有するプレースホルダ{L*、a*、b*}色空間内のプレースホルダ画像に変換する。プロセッサ10は、ウェーブレットベースの手法を用いてデュアルバンド画像の2つのバンドの画像を融合することにより、L*成分を形成する。プロセッサ10は、人間の視覚系に着想を得た方法を用いて、a*成分およびb*成分を形成する。プロセッサ10は、プレースホルダ{L*、a*、b*}色空間内のプレースホルダ画像を、可視{R、G、B}色空間にマッピングして可視カラー画像を生成する。
【0011】
デュアルバンドセンサは、少なくとも電磁スペクトルの2つのバンドでデータを収集してデュアルバンド画像を形成することができる1つのセンサ、および/または、画像の異なるバンドを各々が生成する2つの別々のセンサを指すことができる。デュアルバンドセンサ12の片方または両方のバンドを生成するために用いることができるセンサの例としては、長波前方視赤外線(FLIR)センサ、中波FLIRセンサ、完全に一体化したデュアルバンド長波/中波FLIRセンサ、短波赤外線センサ、単色可視センサ、近赤外線センサ、画像強化画像センサ、または、任意の他の種類のデュアルバンドセンサもしくは異なるバンドで撮像する2つのセンサの組み合わせ、が挙げられる。可視カラー画像への変換を容易にすることができるデュアルバンド画像の後処理段階は、センサ12の内部のプロセッサによって、および/またはセンサ12の外部にあるプロセッサ10の内部のプロセッサによって、実行することができる。後処理段階の例としては、不均一性補正、不良ピクセル補正、等が挙げられる。
【0012】
プロセッサ10は、画像データの転送を可能にする通信手段に従って、センサ12と通信可能に結合される。プロセッサ10は、センサ12との通信を容易にする位置に配置することができる。たとえば、プロセッサ10は、センサ12と同一のアセンブリ内に収容することができ、または、センサ12に隣接するプロセッサボックス内に収容することができ、または、センサ12とは別のプロセッサボックス内に収容することができ、または、ディスプレイ制御装置、グラフィカルユーザインターフェース、等に関連付けることができる。プロセッサ10は、たとえば、リアルタイムプロセッサ、信号プロセッサ、シングルボードコンピュータ、または、データによって表わされるデュアルバンド画像を可視カラー画像に変換するための命令の実行を支援することができる任意の他の種類のプロセッサを含むことができる。
【0013】
プロセッサ10は、変換の間、(たとえば、デュアルバンド画像、プレースホルダ画像、または可視カラー画像の1つまたは複数に適用される)異なる種類のハードウェアおよび/またはソフトウェアのフィルタを使用して、可視カラー画像の鮮明度および/またはノイズ特性を制御することができる。フィルタの例としては、平均フィルタ、メディアンフィルタ、ローパスフィルタ、ハイパスフィルタ、アンシャープマスクフィルタ等が挙げられる。更に、プロセッサ10は、(たとえば、可視カラー画像の特徴を強調するために)可視カラー画像を異なる色空間に更にマッピングすることができる。
【0014】
システム1は、メモリ16および/またはディスプレイ14を任意選択により含むことができる。メモリ16は、プロセッサ10と通信可能に結合することができ、プロセッサ10によるセンサ12からのデュアルバンド画像の可視カラー画像への変換を支援することができる実行可能命令を記憶することができる。ディスプレイ14は、プロセッサ10と通信可能に結合して、(たとえば、人間のユーザに対して)可視カラー画像を表示することができる。ディスプレイ14に対して生成されたデータは、人工知能ルーチンに従って、更に処理することができる。ディスプレイ14は、コンピュータモニタ、ビデオディスプレイ、または可視カラー画像もしくは可視カラー画像の動画を表示することができる任意の他の種類のモニタを含むことができる。可視カラー画像は、静止画、動画、または静止画と動画の任意の組み合わせであることができる。
【0015】
デュアルバンドセンサ12がFLIRセンサである場合のプロセッサ10の機能の例が、図2に示されている。プロセッサ10が、FLIRセンサ12からデュアルバンド画像52を受け取る。デュアルバンド画像52は、{LW、MW}で表わされる、長波データ(LW)と中波データ(MW)の2次元のベクトルであるピクセルを含み、LWおよびMWは各々、ピクセル毎に1つの整数値を含むものと想定される。FLIRセンサ12が、実質的に同時に、LWバンドおよびMWバンド内の画像データを取り込む。デュアルバンド画像12は、プロセッサ10による処理に先立ち、ピクセル毎に(たとえば、センサ設計、処理、等によって)空間的に登録されていることが想定されている。プロセッサ10が、デュアルバンド{LW、MW}画像をプレースホルダ画像54に変換する。プレースホルダ画像は、大きさ3のベクトル{L*、a*、b*}として表わすことができる。デュアルバンド画像52のプレースホルダ画像54への変換は、ウェーブレットベースの画像融合を人間の視覚系によって使用される反対色処理技術に結合する技術を用いる浮動小数点演算を介して、達成することができる。
【0016】
プレースホルダ画像54は、L*成分、a*成分、およびb*成分を含むプレースホルダ{L*、a*、b*}色空間の内部にある。プロセッサ10は、デュアルバンド画像のLW成分とデュアルバンド画像のMW成分とを融合するウェーブレットベースの画像融合手法に従って、L*成分を生成する。プロセッサ10は、デュアルバンド画像のLW成分と、デュアルバンド画像のMW成分と、デュアルバンド画像のLW成分およびデュアルバンド画像のMW成分の関数とに従う、人間の視覚系に着想を得た反対色処理方法に従って、a*成分およびb*成分を生成する。
【0017】
プロセッサ10は、プレースホルダ画像54から可視カラー画像56を生成する。例として、プロセッサ10は、プレースホルダ{L*、a*、b*}空間内のプレースホルダ画像54を、大きさ3のベクトル{R、G、B}として表わされる、赤色バンド、緑色バンド、および青色バンド内部の可視カラー画像56にマッピングすることができる。可視カラー画像56は、人間の知覚によって特徴を検出することができるように、表示装置(たとえば、コンピュータのモニタなどの、表示装置14)によって表示することができる。可視カラー画像56に関連したデータ(たとえば、浮動小数点または固定小数点の形式で)は、人工知能ルーチンに従って更に処理することができる。可視カラー画像56は、整数形式で、ピクセルあたりのカラー成分あたり1つの整数値で、提供することができる。入力画像(たとえば、デュアルバンド画像52)および出力画像(たとえば、可視カラー画像56)は、同じ高さ幅比で、同じ数のピクセルを含むことができる。出力(たとえば、可視カラー画像56)は、特定の表示の要件を満たすように、再フォーマットすることもできる。
【0018】
デュアルバンドFLIRセンサからのLW画像102およびMW画像104の、可視カラー画像106への変換の例が、図3に示されている。プロセッサが、ウェーブレットベースの画像融合と、人間の視覚系によって使用される反対色処理技術とに基づいて、LW画像102およびMW画像104を、プレースホルダ{L*、a*、b*}色空間内のプレースホルダ画像に変換する。次いで、プロセッサ10がプレースホルダ画像を可視{R、G、B}色空間にマッピングして可視カラー画像106を生成する。図3において明らかなように、可視カラー画像106は、LW画像102またはMW画像104のいずれかよりも更なる奥行きおよびコントラストを含む。
【0019】
ここで図4を参照すると、プロセッサ10によって実行されて、デュアルバンドセンサ12によって記録されたデュアルバンド画像の、表示装置14によって表示可能な可視カラー画像への変換を支援することができるシステムが、図示されている。システムの動作を支援する命令は、プロセッサに結合されているメモリ16内に記憶することができる。図4に示すように、システムは少なくとも補正部152、生成部154、および変換部156を含む。
【0020】
補正部152は、センサ12からデュアルバンド画像を表す画像データを受け取る。画像データは、デュアルバンドセンサ12の第1のバンドで取り込まれたデータと、第2のバンドで取り込まれたデータとを含む。デュアルバンドセンサ12の第1のバンドで取り込まれたデータおよび/または第2のバンドで取り込まれたデータは、異常、たとえば、異常に明るいピクセルまたは異常に暗いピクセルを含み得る。補正部152は、デュアルバンドセンサ12の第1のバンドで取り込まれたデータおよび/または第2のバンドで取り込まれたデータのダイナミックレンジの標準化を介して、これらの異常を除去することができる。異常を除去するために、補正部152は、デュアルバンドセンサ12の第1のバンドで取り込まれたデータおよび第2のバンドで取り込まれたデータのダイナミックレンジを標準化することができる。
【0021】
標準化の間、補正部152は、デュアルバンドセンサ12の第1のバンドで取り込まれたデータおよび/または第2のバンドで取り込まれたデータを、異常についてチェックする。たとえば、補正部152は、データに関連した輝度レベルのヒストグラムを調査することにより、データをチェックすることができる。高い階調レベルがシーン内の熱い領域に対応していると仮定すると、特定の異常は、当該バンド内部の残りのデータよりもはるかに高い階調レベルをしばしば有し、これは、ヒストグラムの右側の尾部におけるギャップとして表わされる。この種の異常は、幾つかの赤外線画像の高い非ガウス分布性質か、または時には未補正の画像の誤差のいずれかに対応している。補正部152は、ヒストグラムの右側の尾部におけるギャップおよび/または異常を検出し、標準化に対する異常としてデータにフラグをたてる。
【0022】
補正部152が異常を検出する場合、異常を補正することができる1つの方法は、Lin/Log変換を介することである。Lin/Log変換の例は、数学的に式1で表わされる。
【0023】
【数1】
ここで、Xは入力の階調レベルであり、Xは、画像のダイナミックレンジの大部分が画像のほんの小さな一部に対して使用されるのを防ぐように選択された点のX−値であり、Yは出力の階調レベルである。
【0024】
Lin/Log変換におけるX値の選択のために用いることができるプロットの例が図5に示されており、ここでXは入力の階調レベルであり、Yは出力の階調レベルである。変曲点208は、画像のダイナミックレンジの大部分が画像のほんの小さな一部分に対して使用されるのを防ぐように選択することができる。変曲点208のX−値を、X値として使用することができる。変曲点208は、これらに限定はされないが次のもの、すなわち、画像の平均を超える標準偏差の数、変換の対象となるピクセル数の限界、グレースケール値のヒストグラムの右側尾部におけるギャップの開始点、または、異常を示す別の特徴、を含む要因に基づいて選択することができる。
【0025】
加えてまたは代替的に、補正部152は、デュアルバンド画像内部のノイズまたは不均一性を低減することができる。システムは、補正部152がデュアルバンド画像中のノイズを低減することなしに動作することができるが、デュアルバンド画像が低ノイズを示す場合、システムはより良好な可視カラー画像を生成することができる。補正部152によってデュアルバンド画像において低減することができるノイズには、ランダムな空間−時間ノイズ、時間的行ノイズ、時間的列ノイズ、ランダムな空間ノイズ、固定行ノイズ、固定列ノイズ、フレーム間ノイズ、画像輝度のちらつき、熱的けられ、画像内部の周期的ノイズ、等が挙げられる。補正部152は、標準的な統計的信号処理または画像処理技術を用いて、異なる種類のノイズおよび/または不均一性を低減することができる。ノイズの種類のうち幾つかは、デュアルバンドセンサ12の内部でも補正することができる。たとえば、デュアルバンドセンサ12は、熱的基準補正またはシーンベースの不均一性補正を用いて、デュアルバンド画像内部のノイズの少なくとも一部の補正を行うことができる。
【0026】
戻って図4を参照すると、生成部154がプレースホルダ{L*、a*、b*}3次元色空間内部にプレースホルダ画像を生成することができる。生成部154は、ウェーブレットベースの手法に従って、デュアルバンド画像の各次元を融合することにより、プレースホルダ画像のL*成分を生成することができる。生成部154は、人間の視覚系に着想を得た方法に従って、a*成分およびb*成分を生成することができる。生成部154は、更に、a*成分および/またはb*成分のダイナミックレンジを拡大して、デュアルバンド画像の2つのバンドの各々に対応する画像間の冗長性を低減することができる。
【0027】
生成部154は、人間の視覚系に着想を得た方法に従って、a*成分およびb*成分を生成することができる。人間の視覚系の網膜は、一般的にグレースケール画像を知覚する棹状体と、一般的にカラー画像を知覚する錐状体とを含む。錐状体は、電磁スペクトルの可視部分の赤色バンド、緑色バンド、および青色バンドを知覚することができる。赤色バンドと緑色バンドに対する錐状体の反応は非常に重複しており、入力画像の対抗状態空間への変換(反対色処理技術と呼ばれる)のおかげで、人間は依然として赤色と緑色を異なる色として知覚する。デュアルバンド画像の可視カラー画像への変換において使用されるプレースホルダ{L*、a*、b*}空間は、人間の視覚系の反対色処理技術を模倣している。L*、a*、b*は3次元座標系の直交軸であり、ここで、L*は明るさまたは輝度の軸を表し、a*は赤色/緑色軸を表し、b*は青色/黄色軸を表す。
【0028】
生成部154は、デュアルバンドセンサ12によって記録されたデュアルバンド画像を、3つの可視カラーチャンネル(赤色、緑色、青色)に変換し、次いで、RGB画像をプレースホルダ{L*、a*、b*}空間に変換することができる。デュアルバンド画像{LW、MW}がFLIRセンサによって取得される例においては、生成部154は、デュアルバンド{LW、MW}画像を、式2で表わされる以下のように、一時的な{R、G、B}可視色空間に変換する。
【0029】
【数2】
青色チャネルは、LWおよびMW熱画像の両方において同時に明るい(または、少なくとも高いグレースケール値の)領域に対して、強い応答を示す。ある実施形態においては、青色チャンネルは、LW画像とMW画像の積ではなく、各ピクセル位置におけるLWピクセル値およびMWピクセル値の比であり得る。換言すると、青色チャンネルは、LW画像とMW画像の選択された関数である。この変換は、他の種類のデュアルバンドセンサによって記録された他の種類のデュアルバンド画像に対しても同様に行うことができる。
【0030】
次いで、生成部154は、一時的な{R、G、B}可視色空間を、プレースホルダ{L*、a*、b*}空間のa*成分およびb*成分に変換する。生成部154によってプレースホルダ{L*、a*、b*}色空間として利用することができる、プレースホルダ色空間の代替的な定式化が存在することが、当業者には理解されるであろう。本明細書に記載されるようなプレースホルダ{L*、a*、b*}色空間の定式化は、多くの可能な例の1つに過ぎない。
【0031】
プレースホルダ{L*、a*、b*}色空間において、a*成分はRおよびGの関数である。b*成分は、B、R、およびGの関数である。a*成分およびb*成分の計算の例が式3に示されている。
【0032】
【数3】
生成部154は、a*チャンネルおよびb*チャンネルのダイナミックレンジを拡張してLW画像とMW画像の間の冗長性を低減することができる。例として、この拡張は、a*画像値およびb*画像値のヒストグラムを、(経験的に決定された固定量だけ)、それぞれの画像の平均値のまわりに引き伸ばすことにより、実行することができる。
【0033】
生成部154は、ウェーブレットベースの画像融合技術を使用してL*成分を生成することができる。ウェーブレットベースの画像融合技術の例が図6に示されており、ここで、ウェーブレットベースの画像融合技術の出力(たとえば、融合された画像270)が、L*成分である。融合された画像270において、デュアルバンドセンサ12の一方のバンドからの画像データにおける高周波成分は、デュアルバンドセンサ12の他方のバンドからの画像データにおける高周波成分を増加させるために用いることができる。補正部152がノイズを除去する場合には、図6の工程は、ノイズが両方のバンドで除去された後に行われるべきであり、さもなければ、ノイズが一方のバンドから他方へ伝達されるであろう。
【0034】
融合された画像270(および、それによりL*成分)は、デュアルバンド画像の画像特性における急激な変化に対応する、物体および物体構成要素(たとえば、軍事上の目標物)の鮮明な境界を強調することができ、一方、デュアルバンドセンサ12によって記録されたシーンにおける重要な変化をしばしば明らかにすることができる、自然の物体(たとえば、木、低木、草、等)の境界について強調を緩和する。急激な変化としては、深さの不連続性、表面配向の不連続性、材料構成の変化、シーン照度の変化、シャドーイングの違い、等が挙げられる。
【0035】
図6に示すように、補正部152による任意の標準化またはノイズ補正を受けたデュアルバンドセンサ12の2つのバンドからの画像データ251、252は、生成部154によって受け取ることができる。生成部154は、画像データ251、252が変換ドメインにあるように、第1のバンドからの画像データ(画像データ1、たとえば、LWデータ)251と、第2のバンドからの画像データ(画像データ2、たとえば、MWデータ)252の両方上でドメイン変換(変換)を実行することができる。この変換は、2次元離散ウェーブレット変換(DWT:discrete wavelet transform)、またはデュアルツリー複素ウェーブレット変換(DT−CWT:dual−tree complex wavelet transform)などの、マルチスケールの変換技術であり得る。他の変換技術を用いることができる。
【0036】
生成部154によって使用することができる1つの例示的な変換はDWTであり、これは、画像データ251および252の周波数特性および位置特性を取り込む。図6では、2つの別々の変換が実行される。デュアルモード画像の各チャンネルについて、式4および式5に示すように、入力信号は、近似信号についてはハイパスカーネルhを用いて、詳細信号についてはgを用いてフィルタリングすることにより、近似信号xk+1(n)および詳細信号yk+1(n)に分解することができる。
【0037】
【数4】
ここで、xは入力信号であり、xk+1は近似信号であり、yk+1は詳細信号であり、hおよびgはハイパスフィルタカーネルである。DWTでは、任意の信号x(n)は、1レベル分解されて、近似信号xk+1(n)および詳細信号yk+1(n)になることができる。
【0038】
生成部154によって使用することができる別の例示的な変換は、DT−CWTであり、これは、DWTと比べて幾つかの利点がある。この利点は、増加したシフト不変性および指向感度に関する。図6に示すように、2つの別々の変換が実行される。各画像データ251、252について、DT−CWT内部で、変換画像の2つの対(1つの対が実数と複素数の画像を含む)が計算され、ここでピクセル値がウェーブレット係数になっている。第1の対は、画像の偶数の項を用いてスケールで分解され、第2の対は、奇数の項を用いて分解される。
【0039】
変換の後、生成部154は、画像データ251、252に対応する係数の組(係数1および係数2)253、254を生成することができる。生成部154は、係数の組253、254を融合して、融合された係数260の組を形成することができる。融合された係数260は、逆変換を受けた後で融合された画像270を形成するために使用することができる。この逆変換は、画像データ251、252を係数の組253、254に変換するのに用いられた変換の逆である。融合された画像270はグレースケールの画像であり、この画像はデュアルバンドセンサ12によって記録されたデュアルバンド画像の明るさおよび輝度を取り込む。したがって、生成部154は、融合された画像270をL*成分として使用する。
【0040】
プロセッサ10の処理リソースが限られている場合、L*成分を生成するために生成部154が使用することができる代替の手法を用いることができる。この代替の手法では、単一のウェーブレット周波数のみが利用され、周波数はレンジの関数である。デュアルバンドセンサ12がFLIRセンサである場合でのピクセルにおけるL*値が、式6で示される、この代替の手法に従って計算される。
【0041】
【数5】
この代替の手法は、プロセッサ10の処理リソースが低い場合に、プロセッサリソースの極端に多くの量を消費することなく、L*成分を生成する。
【0042】
図4のシステムは変換部156も含み、この変換部はプレースホルダ{L*、a*、b*}色空間内のプレースホルダ画像を可視{R、G、B}色空間に変換して可視カラー画像を生成することができる。この変換は式7に従って達成することができ、この数式では、可視{R、G、B}色空間の各成分は、プレースホルダ画像の成分に基づいている。
【0043】
【数6】
可視{R、G、B}色空間における可視カラー画像は、ディスプレイ14が可視カラー画像を(たとえば、人間のユーザに対して)表示することができるように、ディスプレイ14に送信することができる。ディスプレイ14用に用意されたデータは、人工知能ルーチンに従って、可視カラー画像の処理を支援することもできる。可視カラー画像は、デュアルバンドセンサ12の2つのバンドの両方によって記録された画像よりも、より多くの奥行きおよびコントラストを含む。デュアルバンド画像と比較した可視カラー画像の有意性の例が図3に示されている。図3において、人間の観察者に対して、可視カラー画像106は、LW画像102およびMW画像104と比較して、より多くの奥行およびコントラストを明らかに示す。
【0044】
戻って図4を参照すると、変換部156が追加の画像処理技術を実行して、可視カラー画像内の特定の特徴を強調することができる。たとえば、変換部156は、カラーチャンネルを更に入れ替えておよび/または反転して、(たとえば、カラー画像の様々な特徴を強調するために)カラー画像の外観を変更することができる。同様に、変換部156は、カラー画像の異なる色空間への非線形マッピングを実行して結果として得られる画像の特性を変更し、カラー画像の特徴を強調することができる。たとえば、入れ替え、反転、または異なる色空間へのマッピングは、青い空および緑色の植生を有する画像、軍事目標が画像の残りの部分よりも顕著に現れる画像、または、不明瞭にする塵が画像の残りの部分とは異なる色で現れる画像を、生成することができる。
【0045】
上述した前出の構造的および機能的特徴を考慮して、本発明の様々な態様に従う方法が、図7を参照してより良く理解されるであろう。説明を簡潔にするために、図7の方法は連続的に実行されるものとして示され説明されているが、本発明は、図示される順序に限定されるのではなく、本発明に従って、幾つかの態様が異なる順序で、かつ/または、本明細書に示され説明されるものとは別の態様と同時に、発生することがあり得ることが理解され認識されるべきである。更に、本発明の態様に従う方法を実施するために、全ての図示された特徴が必要とされるのではないことがあり得る。これらの各方法の幾つかまたは全ては、非一時的なコンピュータ可読媒体(たとえば、メモリ16)上に機械可読命令として実装することができることが、理解されるであろう。
【0046】
図7は、デュアルバンド画像(たとえば、デュアルバンドセンサ12からのデュアルバンド画像52)を可視カラー画像(たとえば、可視カラー画像56)に変換するための方法7の例を示している。ステップ350において、デュアルバンド赤外線画像においてノイズが低減される。ステップ352において、デュアルバンド赤外線画像の第1のバンド(たとえば、LWバンド)のダイナミックレンジと、デュアルバンド赤外線画像の第2のバンド(たとえば、MWバンド)のダイナミックレンジが、(たとえば、補正部152を介して)標準化される。ステップ354において、ノイズが低減され、第1のバンドおよび第2のバンドのダイナミックレンジが標準化されたデュアルバンド赤外線画像が、ウェーブレットベースの画像融合技術と、人間の視覚系によって利用される反対色処理技術とに基づいて、プレースホルダ色空間(たとえば、プレースホルダ{L*、a*、b*}色空間)内のプレースホルダ画像(たとえば、プレースホルダ画像54)に変換される。ステップ356において、プレースホルダ画像が可視色空間(たとえば、可視{R、G、B}色空間)に変換されて可視カラー画像(たとえば、可視カラー画像56)を生成する。
【0047】
上記で説明されたことは、本発明の例である。当然ながら、本発明を説明する目的のために、全ての考えられる要素または方法の組み合わせを記載することは不可能であるが、当業者であれば、本発明の多数の更なる組み合わせおよび置換が可能であることを認識するであろう。したがって、本発明は、添付の特許請求の範囲を含む本出願の範囲内に該当する、全てのそのような変更、修正、および変形を包含することが意図されている。
<付記>
[付記1]
装置であって、
機械可読命令を記憶する非一時的メモリと、
プロセッサであって、前記機械可読命令の実行を支援し、少なくとも、
デュアルバンド画像センサからの画像を、ウェーブレットベースの画像融合と反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換し、
前記プレースホルダ画像を可視色空間にマッピングすることにより可視カラー画像を生成する、プロセッサと、
を含む装置。
[付記2]
前記デュアルバンド画像センサが、デュアルバンド前方視赤外線センサであるか、または、長波赤外線センサ、中波赤外線センサ、短波赤外線センサ、単色可視センサ、近赤外線センサ、もしくは画像強化画像センサのうちの少なくとも2つである、付記1に記載の装置。
[付記3]
前記デュアルバンド画像センサからの前記画像が長波データおよび中波データを含み、
前記プレースホルダ画像内のデータが、前記長波データおよび前記中波データの組に関して減少した冗長性を示す、付記1に記載の装置。
[付記4]
前記デュアルバンド画像センサからの前記画像が長波データおよび中波データを含み、
前記反対色処理技術が一時的な赤色チャンネル、一時的な緑色チャンネル、および一時的な青色チャンネルを生成し、
前記一時的な赤色チャンネルが前記長波データを含み、
前記一時的な緑色チャンネルが前記中波データを含み、
前記一時的な青色チャンネルが、前記長波データと前記中波データの関数を表わすデータを含む、付記1に記載の装置。
[付記5]
前記プレースホルダ画像がa*データおよびb*データを含み、
前記a*データが、前記一時的な赤色チャンネルからのデータと前記一時的な緑色チャンネルからのデータとの関数を含み、
前記b*データが、前記一時的な青色チャンネルからのデータと、前記一時的な赤色チャンネルからのデータと、前記一時的な緑色チャンネルからのデータとの関数を含む、付記4に記載の装置。
[付記6]
前記プレースホルダ画像が輝度(L*)データを更に含み、
前記L*データが、前記デュアルバンド画像センサからの前記画像のウェーブレットベースの画像融合に基づく、融合された画像を表すデータを含む、付記4に記載の装置。
[付記7]
前記プロセッサが前記機械可読命令の実行を更に支援して前記可視カラー画像を異なる色空間に変換し、前記可視カラー画像の特徴を強調する、付記1に記載の装置。
[付記8]
前記プロセッサが前記機械可読命令の実行を更に支援して、平均フィルタ、メディアンフィルタ、ハイパスフィルタ、ローパスフィルタ、またはアンシャープマスクフィルタを、前記デュアルバンドセンサからの前記画像、前記プレースホルダ画像、または前記可視カラー画像のうちの少なくとも1つに適用する、付記1に記載の装置。
[付記9]
デュアルバンド画像を可視カラー画像に変換するための方法を実行するために、関連したプロセッサによって実行可能な命令を記憶する非一時的なコンピュータ可読記憶媒体であって、前記方法が、
前記デュアルバンド画像を、ウェーブレットベースの画像融合と、人間の視覚系によって使用される反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換するステップであって、前記変換するステップが、前記デュアルバンド画像の第1のチャンネルと前記デュアルバンド画像の第2のチャンネルとの間の冗長性を低減することを含む、ステップと、
前記可視カラー画像を生成するために前記プレースホルダ画像を可視色空間にマッピングするステップと
を含む、非一時的なコンピュータ可読記憶媒体。
[付記10]
前記デュアルバンド画像の前記第1のチャンネルが長波データを含み、前記デュアルバンド画像の前記第2のチャンネルが中波データを含み、
前記プレースホルダ画像が輝度(L*)データ、a*データ、およびb*データを含み、
前記可視色空間が赤色バンドデータ、緑色バンドデータ、および青色バンドデータを含む、付記9に記載の非一時的なコンピュータ可読記憶媒体。
[付記11]
前記デュアルバンド画像を前記プレースホルダ画像に変換する前記ステップが、
前記長波データと前記中波データの前記ウェーブレットベースの画像融合に基づいて、前記L*データを生成するステップと、
前記反対色処理技術に基づいて前記a*データおよび前記b*データを生成するステップであって、前記a*データおよび前記b*データが前記長波データと前記中波データの関数を含む、ステップと
を含む、付記10に記載の非一時的なコンピュータ可読記憶媒体。
[付記12]
前記デュアルバンド画像を前記プレースホルダ画像に変換する前記ステップが、
前記a*データのダイナミックレンジおよび前記b*データのダイナミックレンジを拡張することにより、前記プレースホルダ画像の冗長性を低減するステップを更に含む、付記11に記載の非一時的なコンピュータ可読記憶媒体。
[付記13]
前記方法が、
前記デュアルバンド画像中のノイズを低減して前記変換するステップを支援するために、フィルタリングアルゴリズムを適用するステップと、
前記変換するステップを支援するために、前記デュアルバンド画像の前記第1のチャンネルおよび前記デュアルバンド画像の前記第2のチャンネルのダイナミックレンジを標準化するステップと
を更に含む、付記9に記載の非一時的なコンピュータ可読記憶媒体。
[付記14]
デュアルバンド赤外線画像を可視カラー画像に変換する動作を実行するために、関連したプロセッサによって実行可能な実行可能命令を記憶する非一時的なコンピュータ可読デバイスであって、前記動作が、
前記デュアルバンド赤外線画像におけるノイズを低減するステップと、
前記デュアルバンド赤外線画像の第1のバンドのダイナミックレンジと、前記デュアルバンド赤外線画像の第2のバンドのダイナミックレンジを標準化するステップと、
ノイズが低減され前記第1のバンドおよび前記第2のバンドのダイナミックレンジが標準化された前記デュアルバンド赤外線画像を、ウェーブレットベースの画像融合と人間の視覚系によって使用される反対色処理技術とに基づいて確立されるプレースホルダ色空間内のプレースホルダ画像に変換するステップと、
前記可視カラー画像を生成するために前記プレースホルダ画像を可視色空間に変換するステップと
を含む、非一時的なコンピュータ可読デバイス。
[付記15]
前記動作が、前記可視カラー画像を表示装置上に表示するステップを更に含む、付記14に記載の非一時的なコンピュータ可読デバイス。
[付記16]
前記第1のバンドが長波データを含み、
前記第2のバンドが中波データを含み、
前記プレースホルダ色空間が輝度(L*)データ、a*データ、およびb*データを含み、
前記可視色空間が赤色チャンネルデータ、緑色チャンネルデータ、および青色チャンネルデータを含む、付記14に記載の非一時的なコンピュータ可読デバイス。
[付記17]
前記反対色処理技術が、
一時的な赤色チャンネル、一時的な緑色チャンネル、および一時的な青色チャンネルを形成するステップであって、
前記一時的な赤色チャンネルが前記長波データを含み、
前記一時的な緑色チャンネルが前記中波データを含み、
前記一時的な青色チャンネルが、前記長波データと前記中波データの関数を含む、ステップと、
前記プレースホルダ画像を前記プレースホルダ色空間に変換するステップであって、
前記a*データが前記赤色チャンネルからのデータおよび前記緑色チャンネルからのデータを含み、
前記b*データが、前記青色チャンネルからのデータと、前記赤色チャンネルからのデータと、前記緑色チャンネルからのデータとを含む、ステップと、
を含む、付記16に記載の非一時的なコンピュータ可読デバイス。
[付記18]
前記ウェーブレットベースの画像融合が、デュアルツリー複素ウェーブレット変換法に従った前記長波データと前記短波データの融合に基づいて、前記L*データを生成するステップを含む、付記17に記載の非一時的なコンピュータ可読デバイス。
[付記19]
前記デュアルツリー複素ウェーブレット変換法が、
前記L*データのシフト不変性を増加させ、かつ、指向感度を増加させるデュアルツリー複素ウェーブレット変換法に従って、前記長波データおよび前記中波データを変換ドメインに変換するステップと、
前記変換された長波バンド画像および前記変換された中波バンド画像から係数を選択することにより、変換画像を形成するステップと
を含む、付記18に記載の非一時的なコンピュータ可読デバイス。
[付記20]
前記デュアルツリー複素ウェーブレット変換法が、前記変換画像の逆変換を取ることによって融合されたグレースケール画像を生成するステップを更に含む、付記19に記載の非一時的なコンピュータ可読デバイス。
図1
図2
図3
図4
図5
図6
図7