(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0006】
背景技術および以下の説明において説明目的で、数多くの特定の詳細を、本明細書で説明する技術の徹底した理解をもたらすために記載する。しかしながらこれらの特定の詳細がなくとも、例示的な実施形態が実践可能であることは当業者には明白であろう。他の事例では、構造およびデバイスを、例示的な実施形態の説明を容易にするために線図の形式で示す。
【0007】
例示的な実施形態を、図面を参照して説明する。これらの図面は、本明細書で説明するモジュール、方法、またはコンピュータプログラム製品を実装する特定の実施形態の決まった詳細を図示する。しかしながら図面を、図面に存在し得る何らかの制限を加えるものであると解釈すべきではない。方法およびコンピュータプログラム製品を、それらの動作を達成するために任意の機械可読媒体に付して提供することができる。実施形態を、既存のコンピュータプロセッサを使用して、またはこのもしくは別の目的で組み込まれる専用コンピュータプロセッサにより、またはハードワイヤードのシステムにより実装することができる。
【0008】
上記で指摘したように、本明細書で説明する実施形態は、機械実行可能命令もしくはそこで記憶されたデータ構造体を搬送するまたは有するための、機械可読媒体を備えるコンピュータプログラム製品を含み得る。そのような機械可読媒体は、プロセッサを伴う汎用または専用のコンピュータまたは他の機械によりアクセスされ得る任意の利用可能な媒体であり得る。例としてそのような機械可読媒体は、RAM、ROM、EPROM、EEPROM、CD−ROMもしくは他の光ディスク記憶装置、磁気ディスク記憶装置もしくは他の磁気記憶デバイス、または、所望のプログラムコードを機械実行可能命令もしくはデータ構造体の形式で搬送もしくは記憶するために使用され得る、および、プロセッサを伴う汎用もしくは専用のコンピュータもしくは他の機械によりアクセスされ得る、任意の他の媒体を備え得る。情報をネットワークまたは別の通信接続(ハードワイヤード、ワイヤレス、またはハードワイヤードもしくはワイヤレスの組み合わせのいずれか)を介して機械に伝送または提供するとき、機械は当然のことながらその接続を機械可読媒体とみなす。したがって任意のそのような接続を、当然のことながら機械可読媒体と呼ぶ。上記の組み合わせもまた、機械可読媒体の範囲内に含まれる。機械実行可能命令は例えば、汎用コンピュータ、専用コンピュータ、または専用処理機械に、決まった1つの機能または機能の群を遂行させる命令およびデータを含む。
【0009】
実施形態を、例えばネットワーク化された環境での機械により実行されるプログラムモジュールの形式でのプログラムコードなどの機械実行可能命令を含むプログラム製品により一実施形態において実装され得る、方法ステップの全体的な脈絡で説明する。一般にプログラムモジュールは、個別のタスクを遂行する技術的効果を有する、または個別の抽象データ型を実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造体等を含む。機械実行可能命令、関連するデータ構造体、およびプログラムモジュールは、本明細書で開示する方法のステップを実行するためのプログラムコードの例を表す。そのような実行可能命令の個別のシーケンスまたは関連するデータ構造体は、そのようなステップで説明する機能を実装するための対応する作用の例を表す。
【0010】
実施形態を、プロセッサを有する1つまたは複数のリモートコンピュータへの論理接続を使用して、ネットワーク化された環境で実践することができる。論理接続は、ここでは例としてであり限定としてではなく提示される、ローカルエリアネットワーク(LAN)および広域ネットワーク(WAN)を含み得る。そのようなネットワーク化環境は、職場内または企業内のコンピュータネットワーク、イントラネットおよびインターネットではありふれたものであり、多種多様の異なる通信プロトコルを使用することができる。そのようなネットワークコンピューティング環境が典型的には、パーソナルコンピュータ、ハンドヘルドデバイス、マルチプロセッサシステム、マイクロプロセッサベースまたはプログラマブルの民生用電子機器、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ等を含む多くのタイプのコンピュータシステム構成を包含することになることを当業者ならば理解するであろう。
【0011】
実施形態を、通信ネットワークを介して(ハードワイヤードリンク、ワイヤレスリンクによって、またはハードワイヤードもしくはワイヤレスのリンクの組み合わせによってのいずれかで)リンクされる、ローカルおよびリモートの処理デバイスによりタスクが遂行される分散コンピューティング環境でさらに実践することができる。分散コンピューティング環境ではプログラムモジュールは、ローカルおよびリモートの両方のメモリ記憶デバイスに位置し得る。
【0012】
例示的な実施形態の全体または一部分を実装するための例示的なシステムは、処理装置、システムメモリ、および、システムメモリを含む様々なシステム構成要素を処理装置に結合するシステムバスを含む、コンピュータの形式での汎用コンピューティングデバイスを含み得る。システムメモリは、リードオンリーメモリ(ROM)およびランダムアクセスメモリ(RAM)を含み得る。コンピュータは、磁気ハードディスクに関する読み出しおよび書き込みを行うための磁気ハードディスクドライブ、リムーバブル磁気ディスクに関する読み出しまたは書き込みを行うための磁気ディスクドライブ、ならびに、CD−ROMまたは他の光学媒体などのリムーバブル光ディスクに関する読み出しまたは書き込みを行うための光ディスクドライブをさらに含み得る。ドライブおよびそれらの関連する機械可読媒体は、機械実行可能命令、データ構造体、プログラムモジュール、およびコンピュータ用の他のデータの不揮発性の記憶をもたらす。
【0013】
実施形態で開示する方法の技術的効果には、特に物体を検出かつ追跡する方法がセンサと連関して使用されるときに、センサの範囲を向上させることと直接の相関関係がある、既存の情報から画像の空間分解能を向上させることがある。さらにこの方法は、システムにより収集されるデータをより効率的に使用することにより、既存のスペクトル複合画像技法を改善する。この技法を、スペクトルキューブ配列から複合イメージを生成する任意のシステムで使用することができる。スペクトルキューブ配列システムでこの技法を実装することによって、スペクトルキューブの大きさに等しく、ある倍数だけセンサの空間分解能が向上することになる。
【0014】
図1は、ハイパースペクトルデータキューブ12からのハイパースペクトル画像14のパンクロマチック表現の既知のサンプリングを明示する代表的な例図である。ハイパースペクトルデータキューブ12から形成されるハイパースペクトル画像14のパンクロマチック表現は、HSIデバイスの画素から収集されるスペクトル帯域のすべてからのデータを単一の配列に組み合わせることにより形成される広帯域画像である。ハイパースペクトルデータキューブ12は、HSIデバイスの画像センサ上の画素からの値の配列からなり、ハイパースペクトルデータキューブ12の22などの各々の画素は、16、18、20などの、この実施形態では総計9個となり、番号1〜9と識別される部分画素の配列からなる。画素22内の16、18、20などの各々の部分画素は、特定の
スペクトル帯域を表し、単一の画素22の内部に包含される。特定の用途に応じて各々の画素に、より多い、またはより少ない部分画素が存在し得ることが理解されよう。部分画素により表されるスペクトル帯域は、ハイパースペクトルデータキューブ12の9個のスペクトル帯域である場合があり、またはSurface Optics Corporation製のSOC710などのHSIデバイスの16個のスペクトル帯域である場合があり、または周知のベイヤーフィルタの赤、青および緑の色に対応する3つの相違するスペクトル帯域である場合があるが、部分画素により表されるスペクトル帯域が画素内の複数の部分画素に対して同じである構成を含む特定の実装形態の要求に応じて、他のスペクトル帯域フィルタ構成が可能である。
本願の好適な実施例において、少なくとも1つのフィルタは、マイクロレンズの配列のレンズレットを備えるハイパースペクトルフィルタである。
【0015】
ハイパースペクトルデータキューブ12は、所与のハイパースペクトル画素22の、この実施形態では番号1〜9のすべての部分画素の値を単一のパンクロマチック画素28の値に組み合わせる変換方法24により、ハイパースペクトル画像14のパンクロマチック表現に変換される。この実施形態では画素22内の9個の部分画素は、1から9で番号付けされた一意的な波長での強度を表す値を各々包含し、変換方法24によって組み合わされる。各々のハイパースペクトル画素22の部分画素値のすべてを組み合わせるために使用される変換方法24は、ハイパースペクトルデータキューブ12内のすべてのハイパースペクトル画素に対して反復され、この実施形態では各々の画素は、波長5に対応する部分画素(16、26、44、46、48、50、52、54)を中心とし、波長5に対応する部分画素および8個の最近傍の部分画素からなる。
【0016】
単一のパンクロマチック画素28の値を形成するために使用される1つの変換方法24は、ハイパースペクトル画素22の部分画素のすべての9個の値を平均化することである。所定の変換方法24を使用してハイパースペクトルデータキューブ12内のデータをサンプリングすることにより、ハイパースペクトル画像14は、ハイパースペクトルデータキューブ12と同じ分解能または画素の数を有することになる。波長5に対応する部分画素(16、26、27、44、46、48、50、52、54)を中心とするハイパースペクトルデータキューブ12の各々の画素は、28および30などの単一のパンクロマチック画素を生成するためにサンプリングされることになる。
【0017】
図2は、本発明の実施形態によるハイパースペクトルデータキューブから導出されるハイパースペクトル画像の分解能を制御するアップサンプリング方法80を明示するフローチャートである。方法80を用いると、ハイパースペクトル画像の各々のパンクロマチック画素を、ハイパースペクトルデータキューブの画素の境界は考慮せずに、ハイパースペクトルデータキューブの部分画素のサンプリングされた部分集合により生成することができる。方法80は、窓を規定するステップ82、所与の窓位置に対して窓内の部分画素値を重み付けするステップ86、重み付き平均を出力ハイパースペクトル画像に割り当てるステップ88、および、第1の窓位置で開始し(84)、すべての窓位置が処理された(92)状態まで、連続する窓位置のはじめから終わりまでインクリメントして(90)、窓位置の集合のはじめから終わりまで繰り返すことにより、窓が設定された部分画素を反復して重み付けかつシフトするステップからなる場合がある。
【0018】
アップサンプリング方法80の第1のステップは、ハイパースペクトルデータキューブのどの部分画素が、ハイパースペクトル画像の結果として得られる画素に対する値を計算するために使用可能であるかを決定するために、画像処理ではマスクまたはテンプレートとしても既知である窓を規定すること82であり得る。窓は、含まれる部分画素の数および位置の観点から画素と同じサイズであり得る。しかしながら、任意のサイズの窓を実装形態に応じて使用することができる。窓は、画素に包含されるより多いまたは少ない部分画素を含む場合があり、窓は、画素を規定する部分画素の集合の形状とまったく異なる形状である場合がある。例えば部分画素の長方形の配置構成からなる窓を、部分画素の正方形の配置構成を用いる画素からなるハイパースペクトルデータキューブに適用する場合がある。
【0019】
窓を第1の窓位置に適用し(84)、続いて窓内の部分画素値を重み付けする(86)ことができる。各々の窓が設定された位置で、重み付けを、窓が設定された部分画素の各々の値に適用することができる。数学的にはこのことは、次式のように表すことができる。
【0020】
【数1】
ただしzは結果として得られるハイパースペクトル画像の画素値であり、yは窓内のハイパースペクトルデータキューブの部分画素の値であり、wは部分画素に適用されるべき重みであり、Pは窓内の部分画素の総数である。その最も単純な形式では、平均化演算に影響を与える等しい重み付けを適用することができる、すなわち、すべてのw
pの重みが1/Pの値に設定される。
【0021】
重み付けを、結果として得られる画素の値に対する各々の部分画素の相対的寄与を修正するために使用することができ、その場合重みの集合は、既定のパラメータに基づく場合がある。既定のパラメータを、結果として得られる画像の対象の特徴を有利に表示するように選択することができる。
本願の好適な実施例において、少なくとも1つの規定のパラメータは、赤、緑および青のスペクトル帯域のうちの少なくとも1つまたは全ての強度値である。
【0022】
他の重みを適用することができ、窓内のすべての重みの集合は典型的には総計が1になり得るが、本発明はその制約には限定されない。太陽放射の周波数応答、および地球の大気内の吸収帯に起因する選択的な波長のさらなる減衰を補償するように、重みの好ましい集合が導出される。重み付けの体系を、結果として得られる画像の対象の特徴を有利に表示するように設計することができる。
【0023】
重み付けされた、窓が設定された部分画素の値を、部分画素の単一の重み付き平均に組み合わせることができる。次いで重み付き平均を、現在の窓位置に対応する位置での、結果として得られるハイパースペクトル画像内の画素に割り当てることができる(88)。
【0024】
窓内の部分画素値を重み付けするステップ86、および、重み付き平均を結果として得られるハイパースペクトル画像内の出力画素に割り当てるステップ88の処理を、すべての位置が処理された(92)状態まで、すべての可能な窓位置に対して反復することができる。順次的にはこの処理は、既定の数の行または列で窓をシフトするステップに相当し得る。本発明の好ましい実施形態では、垂直または水平のいずれかの方向に1つの部分画素だけ窓をシフトすることができるが、結果として得られるハイパースペクトル画像の分解能を制御するために他のシフトを使用することができる。次いで重み付け処理を反復して、新しい窓が設定された近隣の部分画素を使用してハイパースペクトル画像内の次の画素を形成することができる。本発明の別の実施形態では、同時の窓について、それらが垂直または水平のいずれかの方向に1つの部分画素だけシフトされる窓の集合であり、ハイパースペクトル画像のすべての結果として得られる出力画素を同時に生成することが可能であるように、例示する場合がある。
【0025】
例として
図3は、
図2の方法によるハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第1の画素128のアップサンプリング100を明示する代表的な例図である。ハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第1の画素128のアップサンプリング100を明示する変換方法124は、ハイパースペクトルデータキューブ12のどの部分画素が、ハイパースペクトル画像114の結果として得られる画素128に対する値を計算するために使用可能であるかを決定するために、窓22を使用することができる。
【0026】
次いで、既定の数の行または列だけ窓22をシフトすることができる。本発明の一実施形態では、垂直または水平のいずれかの方向に1つの部分画素だけ窓をシフトすることができるが、結果として得られるハイパースペクトル画像114の分解能を制御するために他のシフトを使用することができる。
図4〜6は、単一の部分画素のシフトを用いて窓22の反復されるシフトを使用することによる、ハイパースペクトル画像114の画素226、328、430のアップサンプリングを明示する代表的な例図である。
【0027】
図4は、
図3の実施形態によるハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第2の画素226のアップサンプリング200を明示する代表的な例図である。ハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第2の画素226のアップサンプリング200を明示する変換方法224は、ハイパースペクトルデータキューブ12の部分画素216を中心とするどの部分画素が、ハイパースペクトル画像114の結果として得られる第2の画素226に対する値を計算するために使用可能であるかを決定するために、
図3での窓位置から右に1列シフトされた窓22を使用することができる。
【0028】
図5は、
図3および4の実施形態によるハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第3の画素328のアップサンプリング300を明示する代表的な例図である。ハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第3の画素328のアップサンプリング300を明示する変換方法324は、ハイパースペクトルデータキューブ12のどの部分画素が、ハイパースペクトル画像114の結果として得られる第3の画素328に対する値を計算するために使用可能であるかを決定するために、
図4での窓位置から右に1列シフトされた窓22を使用することができる。
【0029】
図6は、
図3〜5の実施形態によるハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第4の画素430のアップサンプリング400を明示する代表的な例図である。ハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の第4の画素430のアップサンプリング400を明示する変換方法424は、ハイパースペクトルデータキューブ12のどの部分画素が、ハイパースペクトル画像114の結果として得られる第4の画素430に対する値を計算するために変換方法424により使用可能であるかを決定するために、
図3での窓位置から下に1行シフトされた窓22を使用することができる。
【0030】
図7は、
図2の方法によるハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114の完全なアップサンプリング500を明示する代表的な例図である。ハイパースペクトル画像114のパンクロマチック表現を、ハイパースペクトルデータキューブ12の部分画素のすべての可能な配列に対して重み付けするステップおよびシフトするステップを反復することにより形成することができる。ハイパースペクトルデータキューブ12から導出されるハイパースペクトル画像114を創出するためのアップサンプリング500を明示する変換方法524は、
図3〜6に示したように、ハイパースペクトルデータキューブ12のどの部分画素が、ハイパースペクトル画像114の各々の結果として得られる画素に対する値を計算するために使用可能であるかを決定するために、1度に1つの部分画素だけシフトされる窓を反復して使用することができる。
図3〜6に示した重み付けされた、窓が設定された平均からの、結果として得られる画素128、226、328、430は、ハイパースペクトル画像114に対する画素のすべてを構築するために使用される、重み付けされた、窓が設定された平均のすべてに対しての最終的なハイパースペクトル画像114に配置されるように示される。
【0031】
本発明の分解能制御方法の実施形態を使用してハイパースペクトルデータキューブ12から形成されるハイパースペクトル画像114のパンクロマチック表現は、518、520などの境界のハイパースペクトルデータキューブの部分画素を除外することが可能な状態で、ハイパースペクトルデータキューブの部分画素とハイパースペクトル画像の画素との間の1対1の写像を確定することができる。境界のハイパースペクトルデータキューブの部分画素518、520は、結果として得られるハイパースペクトル画像114内に類似物を有さない場合があり、そのことによって、ハイパースペクトル画像に対する最終的な分解能が、MおよびNがそれぞれ1行および1列内のハイパースペクトルデータキューブの部分画素の数である場合にM−2×N−2個の画素として確定し、スペクトルキューブの大きさに等しく、ある倍数だけセンサの空間分解能が実質的に向上する。
【0032】
単一の重み付けの体系を使用することで、グレースケールとして表示される画像をもたらすことができる。複数の異なる重み付けの体系を、結果として得られる画像の相違するチャネルを生成するために同時に用いることができる。例えばハイパースペクトル画像114のパンクロマチック表現の表示は、複数の色チャネルを有し得る。典型的にはRGBとして表現される結果として得られるチャネルは、画像の対象が実際に発現する実際の可視色、または虚偽の色の画像を表すことができ、そのことによって、画像の対象の実際の色特性を表さない場合があるが、それでも観視者に視覚的に訴える可視色特性で、ハイパースペクトル画像の重み付けされたパンクロマチック表現が着色される。
【0033】
本発明の方法とデモザイキングの周知の技法との間の重要な相違は、デモザイキングで一般に使用される技法は、各々の部分画素で本来的に欠損している赤、緑および青の部分画素値を推定するために周囲の画素を補間するということである。今回の発明の方法は、周囲の部分画素の分析により欠損した画素値に対して補間を試みるのではなく、代わりに、表示用に使用されるRGB画素の中心を変化させる。色チャネルの各々にわたって繰り返すことにより、この方法は、欠損した画素値を補間しようとすることなく、ベイヤーフィルタの色フィルタ配列パターン規定を絶えず再規定することによりRGB画素値の補間を遂行することができる。
【0034】
記述した本説明では、最良の形態を含めて本発明を開示するために、さらには、任意のデバイスまたはシステムを作製かつ使用すること、および任意の組み込んだ方法を遂行することを含めて、本発明を実践することを当業者ならば誰でも可能にするために例を使用する。本発明の特許的な範囲は、特許請求の範囲により定義され、当業者が想到する他の例を含み得る。そのような他の例は、それらの例が、特許請求の範囲の文字通りの文言と異ならない構造要素を有するならば、またはそれらの例が、特許請求の範囲の文字通りの文言と実質的な違いのない等価の構造要素を含むならば、特許請求の範囲の範囲内にあることが意図される。