(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-28
(45)【発行日】2024-11-06
(54)【発明の名称】画像補正装置
(51)【国際特許分類】
G06T 7/32 20170101AFI20241029BHJP
G01N 21/27 20060101ALI20241029BHJP
G01J 3/02 20060101ALI20241029BHJP
G01J 3/36 20060101ALI20241029BHJP
H04N 23/15 20230101ALI20241029BHJP
H04N 23/60 20230101ALI20241029BHJP
【FI】
G06T7/32
G01N21/27 A
G01J3/02 C
G01J3/36
H04N23/15
H04N23/60 500
(21)【出願番号】P 2020172104
(22)【出願日】2020-10-12
【審査請求日】2023-09-05
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100124811
【氏名又は名称】馬場 資博
(74)【代理人】
【識別番号】100088959
【氏名又は名称】境 廣巳
(74)【代理人】
【識別番号】100097157
【氏名又は名称】桂木 雄二
(74)【代理人】
【識別番号】100187724
【氏名又は名称】唐鎌 睦
(72)【発明者】
【氏名】門田 啓
【審査官】鈴木 圭一郎
(56)【参考文献】
【文献】特開2016-110320(JP,A)
【文献】特開2018-061262(JP,A)
【文献】国際公開第2019/026408(WO,A1)
【文献】米国特許出願公開第2010/0008598(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/32
H04N 23/60
G01N 21/27
G01J 3/02
G01J 3/36
H04N 23/15
(57)【特許請求の範囲】
【請求項1】
被写体を撮像して得られた複数のバンド画像を取得するバンド画像取得手段と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する高解像度画像取得手段と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する位置差取得手段と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する補正バンド画像作成手段と、
前記補正バンド画像を出力する補正バンド画像出力手段と、
を備え
、
前記補正バンド画像作成手段は、前記対象画素を前記位置差だけシフトすることにより前記基準バンド画像の画素位置を決定し、前記決定した画素位置に含まれる前記部分領域の画素値の総和を、前記決定した画素位置における前記対象バンド画像に係る光の画素値として決定し、且つ、前記対象バンド画像の前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域として、前記対象バンド画像を前記高解像度画像と同じ解像度になるように拡大した拡大対象バンド画像の個々の画素の撮像領域を用いる画像補正装置。
【請求項2】
前記補正バンド画像作成手段は、前記画素値の関係として、画素値の比を用いる、
請求項
1に記載の画像補正装置。
【請求項3】
前記補正バンド画像作成手段は、前記高解像度画像の各画素値を、前記高解像度画像の最小の画素値を用いて調整する、
請求項
2に記載の画像補正装置。
【請求項4】
前記補正バンド画像作成手段は、前記画素値の関係として、画素値の差を用いる、
請求項
1に記載の画像補正装置。
【請求項5】
前記補正バンド画像作成手段は、前記高解像度画像の各画素値を、前記高解像度画像の画素値の標準偏差および前記対象バンド画像の画素値の標準偏差を用いて調整する、
請求項
4に記載の画像補正装置。
【請求項6】
前記位置差取得手段は、前記基準バンド画像と前記対象バンド画像を複数の小領域に分割し、前記小領域毎に、前記対象バンド画像の小領域が前記基準バンド画像の小領域に最も一致するシフト量を、前記対象バンド画像の小領域の中心位置の画素の前記位置差として算出し、前記中心位置の画素の位置差から補間処理によって中心位置の画素以外の画素の前記位置差を算出する、
請求項1乃至5の何れかに記載の画像補正装置。
【請求項7】
被写体を撮像して得られた複数のバンド画像を取得し、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得し、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得し、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成し、
前記補正バンド画像を出力
し、
前記補正バンド画像の作成では、前記対象画素を前記位置差だけシフトすることにより前記基準バンド画像の画素位置を決定し、前記決定した画素位置に含まれる前記部分領域の画素値の総和を、前記決定した画素位置における前記対象バンド画像に係る光の画素値として決定し、且つ、前記対象バンド画像の前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域として、前記対象バンド画像を前記高解像度画像と同じ解像度になるように拡大した拡大対象バンド画像の個々の画素の撮像領域を用いる、
画像補正方法。
【請求項8】
コンピュータに、
被写体を撮像して得られた複数のバンド画像を取得する処理と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する処理と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する処理と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する処理と、
前記補正バンド画像を出力する処理と、
を行わせるためのプログラム
であって、
前記補正バンド画像を作成する処理では、前記対象画素を前記位置差だけシフトすることにより前記基準バンド画像の画素位置を決定し、前記決定した画素位置に含まれる前記部分領域の画素値の総和を、前記決定した画素位置における前記対象バンド画像に係る光の画素値として決定し、且つ、前記対象バンド画像の前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域として、前記対象バンド画像を前記高解像度画像と同じ解像度になるように拡大した拡大対象バンド画像の個々の画素の撮像領域を用いるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像補正装置、画像補正方法、およびプログラムに関する。
【背景技術】
【0002】
航空機や衛星から地表面の画像を取得する装置として、プッシュブルーム方式の画像取得装置が多く採用されている。この種の装置においては、画像センサに1次元アレイセンサを使用することにより、X軸方向に延びるライン状の画像を取得するように構成されている。そして、航空機や衛星の移動により画像取得装置全体をライン状の取得画像に対して垂直方向(Y軸方向)に並進させることにより、2次元の画像を形成するように構成されている。また、この種の画像取得装置を使用して複数の波長帯の画像を取得する場合には、複数の1次元アレイセンサのそれぞれに、透過させる光の波長帯域であるバンドが互いに異なる複数のフィルタを装着して被写体を撮像するように構成されている。個々の波長帯の画像はバンド画像と呼ばれる。
【0003】
また、この種の画像取得装置において生じる色ずれを、位置ずれ量に応じたバンド画像のシフトと線形補間法などの通常の補間処理との組み合わせにより低減する技術が、例えば特許文献1に記載されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、光学系の特性などにより歪曲収差が生じると、バンド間に位相差が生じ、位相差による色ずれが生じる。ここでいう位相差による色ずれとは、例えばRGB(赤・緑・青)等の複数のバンドで同じ被写体を撮像する場合に、被写体の同じ個所が各バンドの画素内のどこにくるかが異なることにより被写体とは異なる色が生じることをいう。このような位相差による色ずれは、色ずれの補正時に位置ずれ量に応じたバンド画像のシフトと線形補間法などの通常の補間処理の組み合わせによっては、低減するのは困難であった。
【0006】
本発明の目的は、上述した課題、すなわち、バンド画像のシフトと線形補間法等の通常の補間処理の組み合わせでは、位相差による色ずれを低減するのは困難である、という課題を解決する画像補正装置を提供することにある。
【課題を解決するための手段】
【0007】
本発明の一形態に係る画像補正装置は、
被写体を撮像して得られた複数のバンド画像を取得するバンド画像取得手段と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する高解像度画像取得手段と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する位置差取得手段と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する補正バンド画像作成手段と、
前記補正バンド画像を出力する補正バンド画像出力手段と、
を備えるように構成されている。
【0008】
また、本発明の他の形態に係る画像補正方法は、
被写体を撮像して得られた複数のバンド画像を取得し、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得し、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得し、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成し、
前記補正バンド画像を出力する、
ように構成されている。
【0009】
また、本発明の他の形態に係るプログラムは、
コンピュータに、
被写体を撮像して得られた複数のバンド画像を取得する処理と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する処理と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する処理と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する処理と、
前記補正バンド画像を出力する処理と、
を行わせるように構成されている。
【発明の効果】
【0010】
本発明は、上述したような構成を有することにより、位相差による色ずれを低減することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の第1の実施形態に係る画像補正装置のブロック図である。
【
図2】プッシュブルーム方式の画像取得装置において被写体の同じ個所が各バンドの画素内の異なる場所に写像される現象を説明するための模式図である。
【
図3】対象バンド画像の画素の位置差を説明する図である。
【
図4】Rバンド画像の位置差情報の構成例を示す図である。
【
図5】本発明の第1の実施形態に係る画像補正装置の動作の一例を示すフローチャートである。
【
図6】本発明の第1の実施形態に係る画像補正装置における位置差取得部の一例を示すブロック図である。
【
図7】本発明の第1の実施形態に係る画像補正装置における位置差情報作成部の処理の一例を示すフローチャートである。
【
図8】本発明の第1の実施形態に係る画像補正装置における位置差情報作成部が基準バンドおよび対象バンドの各画像を小領域に分割する例を示す図である。
【
図9】本発明の第1の実施形態に係る画像補正装置における位置差情報作成部の処理の他の例を示すフローチャートである。
【
図10】本発明の第1の実施形態に係る画像補正装置における位置差情報作成部が基準バンドおよび対象バンドの各画像を小領域間に隙間ができるように分割する例を示す図である。
【
図11】本発明の第1の実施形態に係る画像補正装置における位置差取得部の他の例を示すブロック図である。
【
図12】本発明の第1の実施形態に係る画像補正装置における補正マルチバンド画像作成部が、マルチバンド画像と高解像度画像と位置差情報とから補正マルチバンド画像を作成する原理を説明するための模式図である。
【
図13】本発明の第1の実施形態に係る画像補正装置における補正マルチバンド画像作成部の処理の一例を示すフローチャートである。
【
図14】本発明の第1の実施形態に係る画像補正装置における補正マルチバンド画像作成部がサブピクセル化対象バンド画像を作成する処理の詳細を示すフローチャートである。
【
図15】本発明の第1の実施形態に係る画像補正装置における補正マルチバンド画像作成部がサブピクセル化対象バンド画像と位置差情報とから補正対象バンド画像を作成する処理の詳細を示すフローチャートである。
【
図16】本発明の第1の実施形態に係る画像補正装置における補正マルチバンド画像作成部がサブピクセル化対象バンド画像と位置差情報とから拡大基準バンド画像の画素位置を決定する様子を示す模式図である。
【
図17】本発明の第1の実施形態に係る画像補正装置において使用する数式を示す図である。
【
図18】補正マルチバンド画像作成部の処理の他の一例を示すフローチャートである。
【
図19】本発明の第2の実施形態に係る画像補正装置のブロック図である。
【発明を実施するための形態】
【0012】
次に本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施形態]
図1を参照すると、本発明の第1の実施形態に係る画像補正装置10は、複数の1次元アレイセンサ11と、通信インターフェース(I/F)部12と、操作入力部13と、画面表示部14と、記憶部15と、演算処理部16とから構成されている。
【0013】
複数の1次元アレイセンサ11は、例えば1次元CCD(Charge-Coupled Device)センサや1次元CMOS(Complementary MOS)センサ等からなり、被写体18を撮像するプッシュブルーム方式の画像取得装置を構成している。複数の1次元アレイセンサ11には、透過させる光の波長帯域であるバンドが互いに異なる複数のフィルタ19が取り付けられている。使用する1次元アレイセンサ11とフィルタ19の組み合わせおよび組数によって取得するバンド画像の数、波長帯が決定される。例えば、高分解能光学衛星であるASNARO-1に搭載されたマルチバンドセンサでは以下の6バンドの画像が取得される。
バンド1:波長帯域400-450nm(Ocean Blue)
バンド2:波長帯域450-520nm(Blue)
バンド3:波長帯域520-600nm(Green)
バンド4:波長帯域630-690nm(Red)
バンド5:波長帯域705-745nm(Red Edge)
バンド6:波長帯域760-860nm(NIR)
また、ASNARO-1には、マルチバンド画像より解像度の高い白黒画像であるパンクロマチック画像を取得するパンクロマチックセンサが搭載されている。パンクロマチック画像は、波長帯450~860nmの単一のバンド画像である。
【0014】
通信I/F部12は、例えば、専用のデータ通信回路から構成され、有線または無線を介して接続された各種装置との間でデータ通信を行うように構成されている。操作入力部13は、キーボードやマウスなどの操作入力装置から構成され、操作者の操作を検出して演算処理部16に出力するように構成されている。画面表示部14は、LCD(Liquid Crystal Display)やPDP(Plasma Display Panel)などの画面表示装置から構成され、演算処理部16からの指示に応じて、補正バンド画像などを画面表示するように構成されている。
【0015】
記憶部15は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部16における各種処理に必要な処理情報およびプログラム151を記憶するように構成されている。プログラム151は、演算処理部16に読み込まれて実行されることにより各種処理部を実現するプログラムである。プログラム151は、通信I/F部12などのデータ入出力機能を介して外部装置(図示せず)や記憶媒体(図示せず)から予め読み込まれて記憶部15に保存される。
【0016】
記憶部15に記憶される主な処理情報には、マルチバンド画像152、高解像度画像153、位置差情報154、および、補正マルチバンド画像155がある。
【0017】
マルチバンド画像152は、プッシュブルーム方式の画像取得装置によって取得された複数のバンド画像のセットである。マルチバンド画像152は、プッシュブルーム方式の画像取得装置によって取得された全てのバンド画像のセットであってもよいし、一部のバンド画像のセットであってもよい。本実施形態では、マルチバンド画像152は、Rバンド画像152-1とGバンド画像152-2とBバンド画像152-3の3バンドで構成されているものとする。例えば、上述したASNARO-1の場合、Rバンド画像152-1としてバンド4、Gバンド画像152-2としてバンド3、Bバンド画像152-3としてバンド2を、それぞれ割り当ててよい。
【0018】
高解像度画像153は、プッシュブルーム方式の画像取得装置によって取得された、マルチバンド画像152よりも高い解像度を有する画像である。例えば、上述したASNARO-1の場合、パンクロマチック画像を高解像度画像153として使用してよい。
【0019】
位置差情報154は、マルチバンド画像152を構成する複数のバンド画像のそれぞれを対象バンド画像とし、複数のバンド画像のうちの1つを基準バンド画像とするとき、基準バンド画像と対象バンド画像との間の位置差に関する情報である。本実施形態では、Gバンド画像152-2を基準バンド画像とする。そのため、位置差情報154は、Gバンド画像152-2に対するRバンド画像152-1の位置差を記録する位置差情報154-1と、Gバンド画像152-2に対するGバンド画像152-2の位置差を記録する位置差情報154-2と、Gバンド画像152-2に対するBバンド画像152-3の位置差を記録する位置差情報154-3とから構成されている。
【0020】
プッシュブルーム方式の画像取得装置における光学系の特性などにより歪曲収差が生じると、被写体18を撮像したときに被写体18の同じ個所が各バンドの画素内の異なる場所に写像される現象が発生する。
図2はそのような現象を説明するための模式図である。
図2において、実線の矩形は基準バンド画像の画素(x,y)が撮像する範囲を示し、破線の矩形は対象バンド画像の画素(x,y)が撮像する範囲を示し、黒丸は被写体18の一部を示す。
図2に示す例では、被写体18の一部である黒丸が、基準バンドの画素(x,y)ではほぼ中央に位置するのに対して、対象バンドの画素(x,y)では右下に位置している。この場合、
図3に示すように、対象バンドの画素(x,y)を紙面右方向にs画素(0≦s<1)だけ、紙面下方向にt画素(0≦t<1)だけ、それぞれ移動させると、基準バンド画像の画素(x,y)と対象バンド画像の画素(x,y)が撮像する範囲が一致する。このように複数のバンド画像の撮像範囲が一致することを、複数のバンド画像の画素境界が一致していると言う。また、このときの(s,t)を位置差と呼ぶ。位置差は、対象バンドかつ画素毎に異なる可能性がある。本実施形態では、位置差情報154は、対象バンドかつ画素毎に記録されている。なお、本実施形態では、Gバンド画像は基準バンドかつ対象バンドである。そのため、Gバンド画像の各画素の位置差は0である。
【0021】
図4は、Rバンド画像152-1の位置差情報154-1の構成例を示す図である。この例の位置差情報154-1は、対象バンドIDと画素毎の情報の項目から構成されている。対象バンドIDの項目には、対象バンドIDを一意に特定する識別情報が記録されている。画素毎の情報の項目は、対象バンド画像の画素位置の項目とその画素位置における位置差の項目との組み合わせから構成されている。画素位置の項目には、対象バンド画像上の画素の位置を特定するxy座標値(x,y)が記録される。また、位置差の項目には
図3を参照して説明した(s,t)が記録される。図示していないが、Bバンド画像152-3の位置差情報154-2も、位置差情報154-1と同様の構成を有している。
【0022】
補正マルチバンド画像155は、マルチバンド画像152に対して色ずれが生じないよう補正を施して得られたマルチバンド画像である。補正マルチバンド画像155は、補正Rバンド画像155-1と補正Gバンド画像155-2と補正Bバンド画像155-3とから構成されている。
【0023】
演算処理部16は、MPUなどのマイクロプロセッサとその周辺回路を有し、記憶部15からプログラム151を読み込んで実行することにより、上記ハードウェアとプログラム151とを協働させて各種処理部を実現するように構成されている。演算処理部16で実現される主な処理部には、マルチバンド画像取得部161、高解像度画像取得部162、位置差取得部163、補正マルチバンド画像作成部164、および、補正マルチバンド画像出力部165がある。
【0024】
マルチバンド画像取得部161は、1次元アレイセンサ11から構成されるプッシュブルーム方式の画像取得装置からマルチバンド画像152を取得し、記憶部15に記録するように構成されている。また、高解像度画像取得部162は、上記画像取得装置から高解像度画像153を取得し、記憶部15に記録するように構成されている。但し、マルチバンド画像取得部161および高解像度画像取得部162は、上記画像取得装置からマルチバンド画像152および高解像度画像153を取得する構成に限定されない。例えば、上記画像取得装置から取得されたマルチバンド画像152および高解像度画像153が図示しない画像サーバ装置に蓄積されている場合、マルチバンド画像取得部161および高解像度画像取得部162は、画像サーバ装置からマルチバンド画像152および高解像度画像153を取得するように構成されていてよい。
【0025】
位置差取得部163は、マルチバンド画像取得部161が取得したマルチバンド画像152の位置差情報154を取得し、記憶部15に記録するように構成されている。
【0026】
補正マルチバンド画像作成部164は、記憶部15からマルチバンド画像152と高解像度画像153と位置差情報154とを読み出し、それらから、補正マルチバンド画像155を作成し、記憶部15に記録するように構成されている。
【0027】
補正マルチバンド画像出力部165は、記憶部15から補正マルチバンド画像155を読み出し、その補正マルチバンド画像155を画面表示部14に表示し、または/および、通信I/F部12を通じて外部装置に出力するように構成されている。補正マルチバンド画像出力部165は、補正マルチバンド画像155を構成する個々の補正Rバンド画像155-1、補正Gバンド画像155-2、補正Bバンド画像155-3を、必要に応じてダウンサンプリングして、それ単独で表示ないし出力してもよい。或いは、補正マルチバンド画像出力部165は、補正Rバンド画像155-1と補正Gバンド画像155-2と補正Bバンド画像155-3とを合成して得られるカラー画像を画面表示部14に表示し、または/および、通信I/F部12を通じて外部装置に出力してもよい。或いは、補正マルチバンド画像出力部165、補正マルチバンド画像155と高解像度画像153とを重ね合わせてパンシャープン画像を生成し、そのパンシャープン画像を表示ないし出力してもよい。
【0028】
図5は、本実施形態に係る画像補正装置10の動作の一例を示すフローチャートである。
図5を参照すると、先ず、マルチバンド画像取得部161は、1次元アレイセンサ11から構成される画像取得装置によって撮像されたマルチバンド画像152を取得し、記憶部15に記録する(ステップS1)。次に、高解像度画像取得部162は、上記画像取得装置によって撮像された高解像度画像153を取得し、記憶部15に記録する(ステップS2)。次に、位置差取得部163は、マルチバンド画像取得部161が取得したマルチバンド画像152の位置差情報154を取得し、記憶部15に記録する(ステップS3)。次に、補正マルチバンド画像作成部164は、記憶部15からマルチバンド画像152と高解像度画像153と位置差情報154とを読み出し、それらに基づいて補正マルチバンド画像155を作成し、記憶部15に記録する(ステップS4)。次に、補正マルチバンド画像出力部165は、記憶部15から補正マルチバンド画像155を読み出し、画面表示部14に表示し、または/および、通信I/F部12を通じて外部装置に出力する(ステップS5)。
【0029】
続いて、画像補正装置10の主要な構成要素について詳細に説明する。先ず、位置差取得部163について詳細に説明する。
【0030】
図6は、位置差取得部163の一例を示すブロック図である。この例の位置差取得部163は、位置差情報作成部1631を含んで構成されている。
【0031】
位置差情報作成部1631は、記憶部15からマルチバンド画像152を読み出し、Gバンド画像152-2とRバンド画像152-1とからRバンドの位置差情報154-1を作成し、Gバンド画像152-2とBバンド画像152-3からBバンドの位置差情報154-3を作成するように構成されている。位置差情報作成部1631は、Gバンド画像152-2の位置差情報154-2は、各画素の位置差が(0,0)として作成する。
【0032】
図7は、位置差情報作成部1631の処理の一例を示すフローチャートである。先ず、位置差情報作成部1641は、基準バンドおよび対象バンドの各画像を、例えば
図8に示すように、所定の形状およびサイズを有する複数の小領域に分割する(ステップS11)。
図8では、小領域は矩形であるが、矩形以外の形状であってもよい。小領域のサイズは、1画素より十分に大きくしておくことが望ましい。
【0033】
次に位置差情報作成部1631は、対象バンドの1つ(例えばRバンド)に注目する(ステップS12)。次に位置差情報作成部1631は、注目中の対象バンドの位置差情報を初期化する(ステップS13)。例えば、対象バンドの位置差情報が
図4に示したフォーマットを有する場合、各画素位置(x,y)の位置差(s,t)をそれぞれ例えばNULL値に初期化する。
【0034】
次に位置差情報作成部1631は、注目中の対象バンドの1つの小領域に注目する(ステップS14)。次に位置差情報作成部1631は、注目中の対象バンドの小領域に対応する基準バンドの1つの小領域に注目する(ステップS15)。本実施形態では、対象バンドの位置差は1画素以下となる状況を想定している。そのため、注目中の対象バンドの小領域に対応する基準バンドの1つの小領域は、対象バンドの小領域と同じ位置の小領域である。即ち、注目中の対象バンドの小領域が
図8の左上角の小領域であれば、基準バンドの注目する小領域は同じく
図8の左上角の小領域である。
【0035】
次に位置差情報作成部1631は、注目中の対象バンドの小領域が注目中の基準バンドの小領域に最も一致するシフト量(s,t)を算出する(ステップS16)。例えば、注目中の対象バンドの小領域の画像を、例えばX軸方向に0.2画素、Y軸方向に0.7画素だけシフトすれば、注目中の基準バンドの小領域に最も一致するならば、このX軸方向のシフト量s=0.2画素、Y軸方向のシフト量t=0.7画素が求めるシフト量になる。このようなシフト量は、位相限定相関法やSSDパラボラフィッティング法などの1画素未満の精度でシフト量を計算できるサブピクセルマッチング手法を用いて算出してよい。次に位置差情報作成部1631は、算出したシフト量(s,t)を注目中の対象バンドの小領域に含まれる全ての画素の位置差(s,t)として、注目中の対象バンドの位置差情報を更新する(ステップS17)。なお、位置差は実数であってもよいし、整数であってもよい。
【0036】
次に位置差情報作成部1631は、注目中の対象バンドの他の1つの小領域に注目を移し(ステップS18)、ステップS15の処理に戻って、前述した処理と同様の処理を新たに注目した対象バンドの小領域に対して実行する。そして、位置差情報作成部1631は、注目中の対象バンドの全ての小領域に注目し終えると(ステップS19でYES)、他の対象バンド(例えばBバンド)の1つに注目を移し(ステップS20)、ステップS13の処理に戻って、前述した処理と同様の処理を新たに注目した対象バンドに対して実行する。そして、全ての対象バンド(即ち、R、Bバンド)に注目し終えると(ステップS21でYES)、作成した各対象バンドの位置差情報を記憶部15に保存する(ステップS22)。そして、位置差情報作成部1631は、
図7に示した処理を終了する。
【0037】
図9は、位置差情報作成部1631の処理の他の例を示すフローチャートである。
図9に示す処理は、ステップS17がステップS17Aに置換され、また、ステップS19とステップS20の間に新たなステップS23が設けられている点で、
図7に示す処理と相違し、それ以外は
図7に示す処理と同じである。
図9のステップS17Aにおいて、位置差情報作成部1631は、ステップS16で算出したシフト量(s,t)を注目中の対象バンドの小領域の中心位置の画素の位置差として、注目中の対象バンドの位置差情報を更新する。そのため、
図9のステップS17Aでは、注目中の小領域の中心位置の画素以外の画素の位置差は更新されず、初期値のNULL値のままである。
図9のステップS23では、位置差情報作成部1631は、注目中の対象バンドの各小領域の中心位置以外の画素の位置差を、ステップS17Aで算出した各小領域の中心位置の画素の位置差から補間によって算出し、注目中の対象バンドの位置差情報を更新する。補間方法は、例えば、隣接小領域の中心との距離に応じた重み付け平均による補間としてよい。
【0038】
図7に示したように小領域毎に求めたシフト量を小領域内の全画素の位置差とする場合、小領域の境界で位置差が不連続になる可能性がある。一方、
図9に示した方法では、位置差が画素位置に応じて連続して変化することになり、位置差が不連続になることはなくなる。その結果、
図9に示した方法は、小領域の境界で補正画像の色に段差が生じることがなくなる効果がある。
【0039】
また、
図7および
図9に示した方法では、基準バンドおよび対象バンドの画像全体を隈なく小領域に分割したが、
図10に示すように、位置差情報作成部1631は、小領域間に隙間(図中のハッチング部分)ができるように分割してもよい。そして、位置差情報作成部1631は、隙間に含まれる画素の位置差を、ステップS17またはステップS17Aで算出した中心位置の画素の位置差から補間で求めるようにしてよい。このときの補間は、例えば、隣接小領域の中心との距離に応じた重み付け平均による補間としてよい。このように小領域間に隙間ができるように基準バンドおよび対象バンドを複数の小領域に分割して位置差を作成する方法によれば、隙間ができないように分割する場合に比べて計算時間を減らすことができる。
【0040】
図7および
図9に示した方法では、位置差情報作成部1631は、マルチバンド画像152から対象バンド画像の各画素の位置差を作成した。しかし、位置差情報作成部1631は、マルチバンド画像を取得したプラットフォーム(人工衛星や航空機など)の位置・姿勢情報から対象バンド画像の各画素の位置差を作成するようにしてもよい。一般に人工衛星や航空機から撮像した画像は、画像取得時のプラットフォームの位置や姿勢等を用いて、地図に投影することにより、画像プロダクトに加工される。マルチスペクトル画像の場合、バンド毎に地図に投影されるため、位置差情報も地図投影の過程で求められる。そのため、位置差情報作成部1631は、一般的な地図投影の方法を用いて対象バンド画像の各画素の位置差情報を作成してもよい。
【0041】
図11は、位置差取得部163の他の例を示すブロック図である。この例の位置差取得部163は、位置差情報入力部1632を含んで構成されている。
【0042】
位置差情報入力部1632は、通信I/F部12を通じて図示しない外部装置から位置差情報154を入力し、記憶部15に保存するように構成されている。あるいは、位置差情報入力部1632は、操作入力部13を通じて画像補正装置10の操作者から位置差情報154を入力し、記憶部15に保存するように構成されている。すなわち、位置差情報入力部1632は、画像補正装置10以外の装置で計算された位置差情報154を入力して、記憶部15に保存するように構成されている。
【0043】
以上のように位置差取得部163は、マルチバンド画像152の位置差情報154を自ら作成するか、或いは、外部から入力して、記憶部15に保存するように構成されている。
【0044】
続いて、補正マルチバンド画像作成部164について詳細に説明する。
【0045】
図12は、補正マルチバンド画像作成部164が、マルチバンド画像と高解像度画像と位置差情報とから補正マルチバンド画像を作成する原理を説明するための模式図である。今、
図12に示すように、黒板18aの上にそれより小さな白板18bが重なっている被写体18を考える。
図12の符号152-1は被写体18を撮像して得られたRバンド画像であり、2×2=4つの画素から構成されている。一方、
図12の符号153は被写体18を撮像して得られた高解像度画像であり、8×8=64個の画素から構成されている。即ち、同じ被写体18を撮像したRバンド画像152-1と高解像度画像153とがある。Rバンド画像152-1の4つの画素のそれぞれは、その撮像範囲内に黒板18aの一部と白板18bの一部が写っている。そのため、Rバンド画像の画素の画素値の最大値を256とすると、Rバンド画像152-1の4つの画素の画素値は、撮像範囲内に含まれる黒板と白板の割合に応じた中間の画素値になっている。一方、高解像度画像153では、撮像範囲に黒板18aのみが写っている画素と白板18bのみが写っている画素とがある。そのため、黒板18aのみが写っている高解像度画像153の画素の画素値は0、白板18bのみが写っている高解像度画像153の画素値は256になっている。このように、撮像範囲内に黒板18aと白板18bとが含まれるRバンド画像152-1の画素の撮像範囲内の輝度値や明度の分布は、そのRバンド画像152-1の1つの画素に対応する高解像度画像153の4×4=16個の画素の画素値から推測することができる。
【0046】
すなわち、輝度値あるいは明度は、マルチバンド画像と高解像度画像間、すなわちバンド間で強い相関を持つ。そのため、Rバンド画像の4つの画素のそれぞれが、
図12の152-1’に示すように、高解像度画像と同様に4×4=16個の画素から構成されているとしたならば、それら16個の画素の画素間の画素値の関係は、高解像度画像153の対応する16個の画素の画素間の画素値の関係と同じになると考えられる。本発明は、係る点に着目し、マルチバンド画像の1つの画素の撮像領域を縦横それぞれ複数に分割してできる複数の部分領域の画素値を、当該画素の画素値と当該画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定する。
【0047】
そして、対象バンド画像の画素をその位置差だけシフトすることにより、基準バンド画像の画素位置を決定し、決定した画素位置に含まれる対象バンド画像上の複数の部分領域の画素値の総和を、当該画素位置における対象バンドに係る光の画素値に決定する。
【0048】
本発明で利用可能な、複数の画素の間の画素値の関係として、画素値の比がある。また、画素値の比の代わりに、画素値の差を利用することもできる。対象バンド画像と高解像度画像間で複数の画素間の画素値の比が同じとは、4画素を例にすると、対象バンド画像の4つの画素の画素値がm1~m4、高解像度画像の4つの画素の画素値がr1~r4である場合、m1:m2:m3:m4=r1:r2:r3:r4であることを意味する。また、対象バンド画像と高解像度画像間で複数の画素間の画素値の差が同じとは、例えば高解像度画像の4つの画素の画素値の平均がavである場合、対象バンド画像の4つの画素の画素値が、元画素の値をggとして、gg+r1-av、gg+r2-av、gg+r3-av、gg+r4-avになっていることを意味する。
【0049】
画素値の関係として画素値の比を用いるか、画素値の差を用いるかは任意である。例えば、マルチバンド画像と高解像度画像の対応画素で明るさの比が同じであるとの条件が成立する環境では、画素値の比を用いてよい。即ち、明るさの比を比較できるためには、基準となる画素値0が光の当たっていない状態となっており、そこから各バンドに入る明るさに比例して画素値が定まる環境であれば、画素値の比を用いてよい。しかし、特に人工衛星から地上を撮像した画像では、得たい信号である地表面で反射した光だけでなく、大気で散乱した光もセンサに入射する。そのため、大気で散乱した光の分だけ画素値は大きくなる。大気で散乱する光は波長が短い方が大きいため、バンドによってどれだけ画素値が大きくなってくるかが異なる。そのため、人工衛星から地上を撮像した画像では、画素値の比が明るさの比にならないことがある。従って、そのような環境では、画素値の関係として画素値の差を用いるのが好ましい。その理由は、各バンドの画素値が一定量加算されていても画素値の差は変化しないためである。画素値の差を用いることで、人工衛星から地上を撮像した画像に対して、大気で散乱した光等により出力が加算される影響を取り除くことができる。そのため、画素値の差を用いることにより、画素値の比が明るさの比となっていない場合でも、色ずれのない補正画像を作成することができる。
【0050】
以上は、マルチバンド画像を1/4画素の精度で処理する例であるが、マルチバンド画像および高解像度画像を補間拡大することにより、1/4画素以上(例えば1/8画素)の精度で処理することも可能である。以下、補正マルチバンド画像作成部164の具体例について詳細に説明する。
【0051】
図13は、補正マルチバンド画像作成部164の処理の一例を示すフローチャートである。
図13を参照すると、補正マルチバンド画像作成部164は、先ず、高解像度画像153と同じ解像度になるように、マルチバンド画像152を構成する各バンド画像を拡大する(ステップS31)。例えば、マルチバンド画像152の解像度が高解像度画像153の1/4であれば、補正マルチバンド画像作成部164は、例えば、マルチバンド画像
152を4倍に拡大する。或いは、補正マルチバンド画像作成部164は、マルチバンド画像152を8倍に拡大し、高解像度画像153を2倍に拡大してもよい。このように、マルチバンド画像と高解像度画像の解像度が同じになるのであれば、マルチバンド画像と高解像度画像の双方を拡大してよい。画像の拡大には、例えば、バイリニア補間やバイキュービック補間などの補間を使って行う。本例では、マルチバンド画像152を1/8画素の精度で処理できるように、マルチバンド画像152を8倍、高解像度画像153を2倍に、それぞれ補間により拡大するものとする。以下、拡大後のマルチバンド画像および高解像度画像を、拡大マルチバンド画像および拡大高解像度画像と呼ぶことがある。
【0052】
次に補正マルチバンド画像作成部164は、対象バンドの1つ(例えばRバンド)に注目する(ステップS32)。次に補正マルチバンド画像作成部164は、拡大対象バンド画像と拡大高解像度画像とを用いて、注目中の対象バンド画像の各画素の画素値を、各画素を複数の部分領域に分割したときの個々の部分領域に振り分けた画像(サブピクセル化対象バンド画像と記す)を作成する(ステップS33)。次に補正マルチバンド画像作成部164は、作成したサブピクセル化対象バンド画像と対象バンドの位置差情報とを用いて、補正対象バンド画像を作成する(ステップS34)。次に補正マルチバンド画像作成部164は、他の対象バンドの1つに注目を移し(ステップS35)、ステップS36を経由してステップ
S33戻り、上述した処理と同様の処理を繰り返す。そして、補正マルチバンド画像作成部164は、全ての対象バンドについて補正対象バンド画像を作成し終えると(ステップS36でYES)、作成した各補正対象バンド画像を記憶部15に保存する(ステップS37)。そして、補正マルチバンド画像作成部164は、
図12の処理を終了する。
【0053】
図14は、
図13のステップS33の詳細、すなわちサブピクセル化対象バンド画像を作成する処理の一例を示すフローチャートである。
図14を参照すると、補正マルチバンド画像作成部164は、先ず、拡大高解像度画像を、拡大対象バンド画像と重なるように変換することにより、参照画像を作成する(ステップS41)。例えば、対象バンドがRバンドである場合、拡大Rバンド画像を拡大高解像度画像に重ねるアフィン変換(A,b)(Aは行列、bはベクトル)を推定し、求めたアフィン変換(A,b)の逆変換を拡大高解像度画像に施すことにより、参照画像を作成する。なお、アフィン変換後の画素位置は一般には整数ではないため、補間処理して求める。
【0054】
次に補正マルチバンド画像作成部164は、初期状態のサブピクセル化対象バンド画像を作成する(ステップS42)。初期状態のサブピクセル化対象バンド画像は、注目中の対象バンドの拡大バンド画像の画素に1対1に対応する画素を有し、拡大前の対象バンド画像の1つの画素に対応する拡大後の複数の画素(本例では64個の画素)の全てに、元の1つの画素の画素値を設定した画素である。
【0055】
次に補正マルチバンド画像作成部164は、対象バンド画像の1つの画素(対象画素と記す)に注目する(ステップS43)。次に補正マルチバンド画像作成部164は、注目中の対象画素の画素値と、注目中の対象画素に対応する拡大対象バンド画像の64画素に対応する参照画像の64画素の画素間の画素値の関係とから、注目中の対象画素に対応する拡大対象バンド画像の64画素の画素値の修正後の画素値を決定する(ステップS44)。例えば、対象画素を(i,j)、対象画素(i,j)の画素値をR(i,j)、対象画素(i,j)に対応する拡大対象バンド画像の64画素を(u,v)(u,v=1、2、・・・8)、対象画素(i,j)に対応する拡大対象バンド画像の64画素に対応する参照画像の64画素の画素値をP(i,j,u,v)、修正後の画素値をR’(i,j,u,v)とすると、補正マルチバンド画像作成部164は、修正後の画素値R’(i,j,u,v)を、
図17に示す式1を用いて算出する。但し、式1において、
<P(i,j,u,v)>は対象画素(i,j)に対応する拡大対象バンド画像の64画素に対応する参照画像の64画素の画素値の平均値である。
【0056】
上記式1で算出される修正後の画素値R’(i,j,u,v)の平均値は、対象画素(i,j)の画素値R(i,j)と同じである。また、上記式1で算出される修正後の画素値R’(i,j,u,v)の割振りは、対象画素(i,j)に対応する拡大対象バンド画像の64画素に対応する参照画像の64画素の画素値P(i,j,u,v)と同じになる。上記式1では、画素値の関係として、画素値の差を用いているが、画素値の関係として比を用いても、注目中の対象画素に対応する拡大対象バンド画像の64画素の画素値の修正後の画素値を同様に決定することができる。
【0057】
次に補正マルチバンド画像作成部164は、上記決定した修正後の画素値でサブピクセル化対象バンド画像の画素値を更新する(ステップS45)。次に補正マルチバンド画像作成部164は、対象バンド画像の他の1つの画素(対象画素)に注目を移し(ステップS46)、ステップS47を経由してステップS44に戻り、上述した処理と同様の処理を繰り返す。そして、補正マルチバンド画像作成部164は、対象バンド画像の全ての画素に注目し終えると(ステップS47でYES)、
図14に示した処理を終了する。
【0058】
図15は、
図13のステップS34の詳細、すなわちサブピクセル化対象バンド画像と位置差情報とから補正対象バンド画像を作成する処理の一例を示すフローチャートである。
図15を参照すると、補正マルチバンド画像作成部164は、先ず、注目中の対象バンド画像の1つの画素(対象画素)に注目する(ステップS51)。次に補正マルチバンド画像作成部164は、注目中の対象画素に対応する拡大対象バンド画像の64画素を対象画素の位置差だけシフトすることにより、拡大基準バンド画像の画素位置を決定する(ステップS52)。ここで、本例の場合、シフトは1/8画素を最小単位として行う。そのため、位置差が1/8画素の整数倍でない場合、最も近い1/8画素の整数倍に修正した上でシフトを行う。例えば、補正マルチバンド画像作成部164は、注目中の対象画素に対応する拡大対象バンド画像の64画素が
図16の太い実線内の画素群であり、位置差(s,t)を(2/8画素,3/8画素)とすると、
図16の破線内の画素群を拡大基準バンド画像の画素位置に決定する。
【0059】
次に補正マルチバンド画像作成部164は、上記決定した画素位置における64個の画素の画素値の総和を、上記決定した画素位置における拡大対象バンド画像に係る光の画素値として算出し、補正対象バンド画像に保存する(ステップS53)。次に補正マルチバンド画像作成部164は、対象バンド画像の他の1つの画素(対象画素)に注目を移し(ステップS54)、ステップS55を経由してステップS52に戻り、上述した処理と同様の処理を繰り返す。そして、補正マルチバンド画像作成部164は、対象バンド画像の全ての画素に注目し終えると(ステップS55でYES)、
図15の処理を終了する。
【0060】
以上説明したように本実施形態に係る画像補正装置10によれば、位相差による色ずれを低減することができる。その理由は、画像補正装置10は、被写体を撮像して得られた複数のバンド画像と上記被写体を撮像して得られた上記バンド画像より解像度の高い高解像度画像を取得し、複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、対象バンド画像と基準バンド画像との間の位置差を取得し、対象バンド画像の画素を対象画素とし、対象画素毎に、対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、上記決定した部分領域毎の画素値と上記位置差とから基準バンド画像の画素位置における対象バンド画像に係る光の画素値を保持する補正バンド画像を作成するためである。
【0061】
以上、第1の実施形態に係る画像補正装置10の構成、動作、および効果について説明した。続いて、第1の実施形態の幾つかの変形例について説明する。
【0062】
<変形例1>
変形例1では、
図18のフローチャートに示すように、補正マルチバンド画像作成部164は、画像の画素値を調整するステップS48を更に実行するように構成されている点で、
図14に示した処理と相違している。
【0063】
処理対象のマルチバンド画像と高解像度画像(例えばパンクロマチック画像)から作成した参照画像とで感度やオフセットが異なる場合がある。その場合に、対象バンド画像の対象画素の画素領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定すると、誤差が大きくなる。
【0064】
そのため、補正マルチバンド画像作成部164は、画素値の関係として画素値の差を用いる場合、
図17に示す式2を用いて、ステップS48において、参照画像の画素値を調整する。また、補正マルチバンド画像作成部164は、画素値の関係として画素値の比を用いる場合、
図17に示す式3および式4を用いて、ステップS48において、対象バンド画像および参照画像の画素値を調整する。式2、式3、および式4において、V
M(x,y)は画素(x,y)における対象バンド画像の画素値、V
R(x,y)は高解像度画像から作成した参照画像の画素値、V
RC(x,y)は調整後の参照画像の画素値、V
MC(x,y)は調整後の対象バンド画像の画素値、オーバーラインを付したV
R(x,y)はV
R(x,y)の平均、σ(V
M(x,y))とσ(V
R(x,y))はそれぞれV
M(x,y)とV
R(x,y)の標準偏差、minV
M(i,j)とminV
R(i,j)はそれぞれ対象バンド画像と参照画像の最小値である。
【0065】
<変形例2>
位置差情報154は、
図4に示す例では、対象バンド画像の画素毎の画素位置と位置差の組のリストで記録した。しかし、位置差情報154は上記記録方法に限定されない。例えば、位置差情報154は、対象バンド画像を位置差が同じ複数の画素の集まりからなる複数の部分領域に分割し、部分領域毎の画素位置と位置差の組のリストで記録してよい。部分領域の形状は、例えば矩形であってよい。また部分領域の画素位置は、矩形であれば左上画素と右下画素の画素位置の組であってよい。また、対象バンド画像の全画素の位置差がほぼ同じであれば、位置差を1つだけ記録するように構成されていてよい。
【0066】
更に、位置差情報154は、数値情報として記録する代わりに、数式あるいは数式の係数として記録してもよい。例えば、位置差が光学的歪曲で生じる場合、位置差は、焦点面上の対象バンドの画素と基準バンドの画素の位置関係や光学的な特性により決定される。そのため、画素毎の位置差は、画素位置を引数とする光学特性で定まる式で表現できる。従って、この式あるいはその係数を位置差情報154として記録するようにしてもよい。画素毎の位置差は、上記式から計算で求めることができる。
【0067】
また、位置差取得部163は、対象バンド毎に、算出された各画素位置の位置差から近似平面を算出し、その算出した近似平面を表す式あるいは式の係数を位置差情報154として記録するようにしてもよい。上記近似平面は、例えば、対象バンドの各画素が画素位置xと画素位置yと位置差(s,t)の3次元のデータ(x,y,(s,t))から構成される3次元点群データとする場合、点群との二乗距離の合計を最小にする平面であってよい。例えば、近似平面として
図17の式5で与えられる平面を使用する場合、位置差取得部163は、算出された各画素位置の位置差を用いて、もっともフィットする行列Aとベクトルbを求めることにより、全画素の位置差情報154を表す式を求めることができる。上記では、対象バンドの各画素位置の位置差を用いて式5の係数を求めたが、
図9を参照して説明した各小領域の中心位置の画素の位置差を用いて、もっともフィットする行列Aとベクトルbを求めるようにしてもよい。
【0068】
<変形例3>
上記では、マルチバンド画像152は、RGBの3バンドの画像とした。しかし、マルチバンド画像152は、上記以外であってよい。例えば、マルチバンド画像152は、RGBの3バンドと近赤外バンドとの4バンドの画像であってよい。このようにマルチバンド画像152のバンド数に制約はなく、任意の波長帯の任意のバンド数とすることができる。
【0069】
<変形例4>
上記では、対象バンドの画素(x,y)と基準バンドの同じ画素位置の画素(x,y)の位置差(s,t)は、0以上1未満として説明したが、位置差(s,t)は0未満あるいは1以上であってもよい。任意の位置差(s,t)に対して、sを超えない最大の整数をs0、tを超えない最大の整数をt0とし、s’=s-s0、t’=t-t0とする。すると、基準バンドの画素(x,y)に対し、x’=x-s0、y’=y-t0とすれば、対象バンドの画素(x,y)と基準バンドの画素(x’,y’)の位置差は0以上1未満の(s’,t’)となる。そのため、基準バンドの画素(x,y)を画素(x’,y’)、位置差(s,t)を位置差(s’,t’)に置き換えれば、上記と同じ処理で補正バンド画像の画素値を求めることができる。
【0070】
[第2の実施形態]
図19は、本発明の第2の実施形態に係る画像補正装置20のブロック図である。
図19を参照すると、画像補正装置20は、バンド画像取得手段21と高解像度画像取得手段22と位置差取得手段23と補正バンド画像作成手段24と補正バンド画像出力手段25とを含んで構成されている。
【0071】
バンド画像取得手段21は、被写体を撮像して得られた複数のバンド画像を取得するように構成されている。バンド画像取得手段21は、例えば、
図1のマルチバンド画像取得部161と同様に構成することができるが、それに限定されない。
【0072】
高解像度画像取得手段22は、上記被写体を撮像して得られた、上記バンド画像より解像度の高い高解像度画像を取得するように構成されている。高解像度画像取得手段22は、例えば、
図1の高解像度画像取得部162と同様に構成することができるが、それに限定されない。
【0073】
位置差取得手段23は、上記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、対象バンド画像と基準バンド画像との間の位置差を取得するように構成されている。位置差取得手段23は、例えば、
図1の位置差取得部163と同様に構成することができるが、それに限定されない。
【0074】
補正バンド画像作成手段24は、上記対象バンド画像の画素を対象画素とし、対象画素毎に、当該対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定するように構成されている。また、補正バンド画像作成手段24は、上記決定した部分領域毎の画素値と上記位置差とから基準バンド画像の画素位置における対象バンド画像に係る光の画素値を保持する補正バンド画像を作成するように構成されている。補正バンド画像作成手段24は、例えば、
図1の補正マルチバンド画像作成部164と同様に構成することができるが、それに限定されない。
【0075】
補正バンド画像出力手段25は、上記補正バンド画像を出力するように構成されている。補正バンド画像出力手段25は、例えば、
図1の補正マルチバンド画像出力部165と同様に構成することができるが、それに限定されない。
【0076】
以上のように構成された画像補正装置20は、以下のように動作する。すなわち、先ず、バンド画像取得手段21は、被写体を撮像して得られた複数のバンド画像を取得し、高解像度画像取得手段22は、上記被写体を撮像して得られた、上記バンド画像より解像度の高い高解像度画像を取得する。次に、位置差取得手段23は、上記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、対象バンド画像と基準バンド画像との間の位置差を取得する。次に、補正バンド画像作成手段24は、上記対象バンド画像の画素を対象画素とし、対象画素毎に、当該対象画素の画素領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定する。さらに補正バンド画像作成手段24は、上記決定した部分領域毎の画素値と上記位置差とから基準バンド画像の画素位置における対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する。次に、補正バンド画像出力手段25は、上記補正バンド画像を出力する。
【0077】
以上のように構成され動作する画像補正装置20によれば、位相差による色ずれを低減することができる。その理由は、画像補正装置20は、被写体を撮像して得られた複数のバンド画像と上記被写体を撮像して得られた上記バンド画像より解像度の高い高解像度画像を取得し、複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、対象バンド画像と基準バンド画像との間の位置差を取得し、対象バンド画像の画素を対象画素とし、対象画素毎に、対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、上記決定した部分領域毎の画素値と上記位置差とから基準バンド画像の画素位置における対象バンド画像に係る光の画素値を保持する補正バンド画像を作成するためである。
【0078】
以上、上記各実施形態を参照して本発明を説明したが、本発明は、上述した実施形態に限定されるものではない。本発明の構成や詳細には、本発明の範囲内で当業者が理解しうる様々な変更をすることができる。
【産業上の利用可能性】
【0079】
マルチバンド画像(マルチスペクトル画像)を色ずれの生じない画像に補正する画像補正装置、画像補正方法、画像補正プログラムとして利用できる。また、衛星や航空機から地上を撮像して得られた画像を地図に投影する等の画像幾何投影時における色ずれの補正に利用できる。
【0080】
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
被写体を撮像して得られた複数のバンド画像を取得するバンド画像取得手段と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する高解像度画像取得手段と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する位置差取得手段と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する補正バンド画像作成手段と、
前記補正バンド画像を出力する補正バンド画像出力手段と、
を備える画像補正装置。
[付記2]
前記補正バンド画像作成手段は、前記対象画素を前記位置差だけシフトすることにより前記基準バンド画像の画素位置を決定し、前記決定した画素位置に含まれる前記部分領域の画素値の総和を、前記決定した画素位置における前記対象バンド画像に係る光の画素値として決定する、
付記1に記載の画像補正装置。
[付記3]
前記補正バンド画像作成手段は、前記対象バンド画像の前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域として、前記対象バンド画像を前記高解像度画像と同じ解像度になるように拡大した拡大対象バンド画像の個々の画素の撮像領域を用いる、
付記1または2に記載の画像補正装置。
[付記4]
前記補正バンド画像作成手段は、前記画素値の関係として、画素値の比を用いる、
付記1乃至3の何れかに記載の画像補正装置。
[付記5]
前記補正バンド画像作成手段は、前記高解像度画像の各画素値を、前記高解像度画像の最小の画素値を用いて調整する、
付記5に記載の画像補正装置。
[付記6]
前記補正バンド画像作成手段は、前記画素値の関係として、画素値の差を用いる、
付記1乃至3の何れかに記載の画像補正装置。
[付記7]
前記補正バンド画像作成手段は、前記高解像度画像の各画素値を、前記高解像度画像の画素値の標準偏差および前記対象バンド画像の画素値の標準偏差を用いて調整する、
付記6に記載の画像補正装置。
[付記8]
前記位置差取得手段は、前記基準バンド画像と前記対象バンド画像との間の画像相関により前記位置差を算出する、
付記1乃至7の何れかに記載の画像補正装置。
[付記9]
前記位置差取得手段は、前記基準バンド画像と前記対象バンド画像を複数の小領域に分割し、前記小領域毎に、前記対象バンド画像の小領域が前記基準バンド画像の小領域に最も一致するシフト量を、前記対象バンド画像の小領域の全画素の前記位置差として算出する、
付記1乃至8の何れかに記載の画像補正装置。
[付記10]
前記位置差取得手段は、前記基準バンド画像と前記対象バンド画像を複数の小領域に分割し、前記小領域毎に、前記対象バンド画像の小領域が前記基準バンド画像の小領域に最も一致するシフト量を、前記対象バンド画像の小領域の中心位置の画素の前記位置差として算出し、前記中心位置の画素の位置差から補間処理によって中心位置の画素以外の画素の前記位置差を算出する、
付記1乃至8の何れかに記載の画像補正装置。
[付記11]
被写体を撮像して得られた複数のバンド画像を取得し、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得し、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得し、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成し、
前記補正バンド画像を出力する、
画像補正方法。
[付記12]
コンピュータに、
被写体を撮像して得られた複数のバンド画像を取得する処理と、
前記被写体を撮像して得られた、前記バンド画像より解像度の高い高解像度画像を取得する処理と、
前記複数のバンド画像のうちの1つを基準バンド画像とし、残りの少なくとも1つを対象バンド画像とし、前記対象バンド画像と前記基準バンド画像との間の位置差を取得する処理と、
前記対象バンド画像の画素を対象画素とし、前記対象画素毎に、前記対象画素の撮像領域を複数の領域に分割してできる個々の部分領域の画素値を、当該対象画素の画素値と当該対象画素に対応する前記高解像度画像の複数の画素の間の画素値の関係とに基づいて決定し、前記決定した部分領域毎の画素値と前記位置差とから前記基準バンド画像の画素位置における前記対象バンド画像に係る光の画素値を保持する補正バンド画像を作成する処理と、
前記補正バンド画像を出力する処理と、
を行わせるためのプログラム。
【符号の説明】
【0081】
10 画像補正装置
11 1次元アレイセンサ
12 通信I/F部
13 操作入力部
14 画面表示部
15 記憶部
16 演算処理部
17 光学系
18 被写体
18a 黒板
18b 白板
20 画像補正装置
21 バンド画像取得手段
22 高解像度画像取得手段
23 位置差取得手段
24 補正バンド画像作成手段
25 補正バンド画像出力手段
151 プログラム
152 マルチバンド画像
152-1 Rバンド画像
152-2 Gバンド画像
152-3 Bバンド画像
153 高解像度画像
154 位置差情報
154-1 位置差情報
154-2 位置差情報
154-3 位置差情報
155 補正マルチバンド画像
155-1 補正Rバンド画像
155-2 補正Gバンド画像
155-3 補正Bバンド画像
161 マルチバンド画像取得部
162 高解像度画像取得部
163 位置差取得部
164 補正マルチバンド画像作成部
165 補正マルチバンド画像出力部
1631 位置差情報作成部
1632 位置差情報入力部