【実施例1】
【0032】
汎用性のある3次元計測手順の概略を以下に示す。
【0033】
本実施例の手法は、例えば、SAR画像として最もプリミティブなプロダクトである単偏波スラントレンジ振幅強度画像に適用可能である。本手法を適用するために必要となる画像枚数は2枚以上である。ここでは説明を簡略化するため、2枚の画像を用いる際の手法について記載する事とし、一枚の画像をマスター画像、残りの一枚をスレーブ画像と称する。
<手順1> グランドレンジ変換(画像マッチングの下準備)
手順2における一連の画像処理の下準備として、マスター画像、スレーブ画像の両スラントレンジ画像(
図6(a))について地上投影変換を実施する。この変換は、グランドレンジ変換と呼ばれる一般的な変換である。このグランドレンジ変換により得られる画像は、グランドレンジ画像と呼ばれており、画像全体での分解能が揃っているため、異なるSAR画像同士での画像マッチングが容易となる(
図6(b))。なお、このグランドレンジ変換の際に必要となる各ピクセルの高度Z
Aについてはこの段階では任意で良い。また、グランドレンジ変換画像が既に手元にある場合は、この手順はスキップしても良い。
<手順2> 外部パラメータの推定と画像マッチング
手順1にて変換や生成されたグランドレンジ画像ペアについて、非特許文献8により公知である回転不変POCを適用し、画像間回転角φを推定する。その後、スレーブ画像のグランドレンジ画像について回転角φだけ回転させ、非特許文献7により公知であるPOCを用いて並行移動量(t
x、t
y)を推定する。推定した回転角φと並行移動量(t
x、t
y)を用いて変換したスレーブ画像とマスター画像について非特許文献9により公知であるPOCに基づく対応点検索を実施し、グランドレンジ画像間の対応点を求める(
図6(c))。
<手順3>対応点のスラントレンジ変換
手順2で求められたグランドレンジ画像上の対応点のピクセル座標値について手順1と逆の手順でスラントレンジ画像上のピクセル座標値に変換する。これにより手順2で求めた対応点がスラントレンジ画像上に配される(
図6(d))。
<手順4>内部および外部パラメータを利用した対応点の初期高度計測
手順3までで得られたスラントレンジ画像上の対応点について、SAR画像とともに提供される内部パラメータ(プラットフォーム高度Z
0、スラントレンジ方向のビーム入射角θ、スラントレンジ方向、アジマス方向の分解能の逆数α
u、α
v)、及び手順2で推定した外部パラメータ(回転角φと並行移動量(t
x、t
y))を用いて、数7を計算する事で対応点における高度推定を実施する(
図6(e))。
<手順5> 内部または/および外部パラメータの最適化
手順2で推定した外部パラメータは手順1で画像全体に渡り任意高度Z
Aを持つとしてグランドレンジ変換を実施しているため、真値では無い。また、SAR画像とともに提供されるパラメータについても誤差を含む可能性がある。これらの内部または/および外部パラメータについて非特許文献4の記載に沿ってバンドル調整に基づく再投影誤差の最小化を実施し、その再投影誤差が最小となる内部または/および外部パラメータを求める。
<手順6> 最適化された内部および外部パラメータに基づく高度計測
手順5で求められた内部および外部パラメータを用いて、最終的な高度推定値を得る(
図6(f))。
<3.SARの3次元幾何の定式化>
ここでは、コンピュータビジョンの原理に基づいて3次元計測を行うために、コンピュータビジョンの分野における解法に合わせてSARの3次元幾何を定式化する。
【0034】
まず、3次元空間上の物体が2次元レーダ画像上にどのように投影されるかを記述する投影モデルとSARの内部パラメータを定義する。次に、異なる航路で同一の領域をSARで観測した場合のSARの外部パラメータを定義する。最後に、2枚のレーダ強度画像の対応関係とSARの3次元幾何に基づいて、地表面の3次元形状を求めるための理論式を導出する。
<3.1 レーダ画像投影モデルとSARの内部パラメータ>
レーダ画像投影モデルを定義するために3次元空間と2次元空間のそれぞれの位置を表す座標系(
図5)を導入する。2次元空間の座標系には、原点を画像左上とし、アジマス方向を水平軸u、レンジ方向を垂直軸vとするディジタル画像座標系を用いる。3次元空間の座標系には、コンピュータビジョンの分野で用いられるカメラ座標系にならって、レーダ座標系と呼ぶ新たな座標系を導入する。レーダ座標系では、ディジタル画像座標系の原点に対応する3次元空間位置の標高0mの点を原点とし、アジマス方向をY
R軸、レンジ方向をX
R軸、高さをZ
R軸とする。このとき、2節で述べたSARによる画像生成プロセスを考慮すると、レーダ座標系で表される3次元空間上の点(X
R、Y
R、Z
R)とその投影点(u、v)との間に次式で表される投影モデルが定義できる。
【0035】
【数1】
【0036】
ここで、X
0はプラットフォームから原点までの水平距離、D
SLはプラットフォームから原点までのスラントレンジ距離、Z
0はプラットフォームの高度を表す。また、α
uとα
vは、それぞれアジマス方向とスラントレンジ方向に関する分解能の逆数を表す定数である。X
0とD
SLは、Z
0とレーダ入射角θを用いて以下の式で表すことができる。
【0037】
【数2】
【0038】
以上より、レーダ画像投影モデルの計算に必要なパラメータは、プラットフォーム高度Z
0、スラントレンジ方向のビーム入射角θ、スラントレンジ方向、アジマス方向それぞれの分解能の逆数α
u、α
vである。これらを内部パラメータと呼ぶ。これらの内部パラメータは通常SAR画像とともに提供されるパラメータである。
【0039】
数1はアジマス方向の画像投影位置とレンジ方向の画像投影位置とを表す。上記のSAR画像の生成についての説明で述べたように、SARによるアジマス方向の画像生成は、1次元時間関数として表される受信信号を、送信信号から遅れの時間の関数として並べ替えることによって行われる。つまり、数1の第1式が示すように、ディジタル画像座標uは、単純にレーダ座標Y
Rの定数倍で表現することができる。一方で、レンジ方向の画像投影位置は、プラットフォームから対象物までのスラントレンジ距離によって決定される。数1の第2式の第一項は、プラットフォームから(X
R、Y
R、Z
R)座標上の物体までの、次の数3の距離を、表している。
【0040】
【数3】
【0041】
数1の下段の式で、第1項から第2項D
SLを引くことにより、(X
R、Y
R、Z
R)=0のときに、(u、v)=0となり、レーダ座標系とディジタル画像座標系の原点が一致する。
<3.2座標系間の変換式とSARの外部パラメータ>
異なる2つの航路1と航路2で同一の領域を観測した場合を考える。この時、それぞれの航路で定義されるレーダ座標系における3次元座標(X
R1,Y
R1,Z
R1)と(X
R2,Y
R2,Z
R2)との間で次式が成り立つ。
【0042】
【数4】
【0043】
ここで、Rは回転角φの3×3回転行列、tは並進ベクトルである。ここで、数4が示す座標系間の変換式を記述するために必要なR、tをSARの外部パラメータと定義する。SARの観測が行われている間、プラットフォームの高度は一定であると仮定すると、RはZ
R軸回りの回転、tはX
R、Y
R方向の並進のみを考慮するだけでも良い。この時、R、tは,以下の式で表すことができる。
【0044】
【数5】
【0045】
<3.3 3次元計測の理論式>
導出した投影モデル(数1)が、ある世界座標系の3次元座標(X,Y,Z)の、異なる2つの画像上のディジタル画像座標(u,v)と(u´,v´)とでそれぞれ成り立つことから、異なるレーダ座標系間の変換式(数4)を用いて、これらのディジタル画像座標(u,v)と(u´,v´)との間に,以下の式が成り立つ。
【0046】
【数6】
【0047】
ここで,(u,v),(u´,v´)を対応点ペアとし,(X
R2,Y
R2,Z
R2)を世界座標系(X,Y,Z)とした。
【0048】
数6の4つの方程式をX、Y、Zについて解くことで、3次元座標を算出することができる。解法は、いくつか知られているが、最も簡明な例として、以下の方法を挙げる。つまり、上記4つの方程式から3つの方程式を選択することで、方程式を解析的に解く。この場合、3次元座標X、Y、Zは以下の式で表すことができる。
【0049】
【数7】
【0050】
以上のように導出されたX、Y、Zは、(X
R2,Y
R2,Z
R2)を世界座標系と仮定した場合の3次元計測の理論式である。ただし、この仮定は本発明において必須ではない。つまり、世界座標とレーダ座標が異なっていたとしても、計測されたレーダ座標系における3次元座標を、ある剛体変換で世界座標系の3次元座標に変換することが可能である。
<4.レーダ強度画像からの地表面の3次元計測>
レーダ強度画像間の対応関係とSARの3次元幾何に基づいて3次元計測を行う手法を詳しく説明する。その手法は、(1)地上投影変換、(2)外部パラメータの推定と画像マッチング、(3)内部または/および外部パラメータの最適化、(4)3次元計測の4つの処理で構成される。
図6に、スラントレンジ画像間の対応点を取得するまでのフローを示す。以下では、それぞれの処理について具体的に説明する。
<4.1 地上投影変換>
SAR画像は、上記の2.(SAR画像の生成と特徴)〜2.2(SAR画像の特徴)の欄で述べたように、画像全体で分解能が変化しており、実際の地表面の見え方と異なる。航路によって被写体の映り方の違いが大きくなるため、そのままでは画像マッチングを行うことが困難である。そこで、地上投影変換により画像全体の分解能を揃えて俯瞰画像に変換することで、画像間の大きな変形を解消する。(u、v)を地上投影変換前のスラントレンジ画像上の点とし、(X
R、Y
R)を地上投影変換後のグランドレンジ画像上の点とする。この時、地上投影変換式は、2節で定義したレーダ画像投影モデルである数1で表すことができる。ただし、Z
Rは任意の定数であるとする。本実施例ではZ
R=0とした。
【0051】
この地上投影変換式により、航路1と航路2のスラントレンジ画像をそれぞれのグランドレンジ画像へ変換する。
<4.2 外部パラメータの推定と画像マッチング>
グランドレンジ画像から外部パラメータの推定と画像マッチングを行う。まず、画像間の回転および平行移動を補正する。外部パラメータである回転行列Rと並進ベクトルtは、Z方向の回転と並進が0である。これを利用することで、2次元のグランドレンジ画像間の回転量と平行移動量から外部パラメータを求めることができる。本発明では、画像間の回転量推定に回転不変位相限定相関法(RIPOC:Rotation-invariant Phase-Only Correlation)を、並行移動量の推定にPOCを用いる(非特許文献7)。POCは、並行移動のみの画像変形を仮定している手法であるため、はじめにRIPOCを用いて画像間の回転角度を求める。また、航路2の画像を回転補正してからPOCを用いて画像間の並行移動量を求める。次に、航路1のグランドレンジ画像と、回転補正した航路2のグランドレンジ画像との間で画像マッチングを行う。航路1のグランドレンジ画像上に基準点を配置し、回転補正した航路2のグランドレンジ画像上の対応点をPOCに基づく対応点探索(非特許文献9)を用いて求める。得られた対応点を回転補正前の座標系に戻すことで、航路1と航路2のグランドレンジ画像上での対応点を得ることができる。最後に、グランドレンジ画像間の対応点ペアに、地上投影変換と逆の変換を行うことで、各航路のスラントレンジ画像上の対応点を求める。
<4.3 パラメータの最適化と3次元計測>
グランドレンジ画像間の回転角度と平行移動量から求めた外部パラメータは、厳密に正しい値ではない。地上投影変換でZ
R=0を仮定しているので、画像間の平行移動量に、航路の違いによる平行移動量とジオメトリック画像変調による平行移動量が含まれてしまい、両者の区別がつかないことが原因である。また、内部パラメータには、計測による誤差が含まれていると考えられる。そこで、バンドル調整に基づく再投影誤差の最小化により、内部または/および外部パラメータの最適化を行う。
【0052】
最適化を行う内部または/および外部パラメータをP、各航路におけるスラントレンジ画像上のN個の対応点ペアをm
1、i=(u
1、v
1)
i、m
2、i=(u
2、v
2)
i、(1≦i≦N)とする。このとき、次式で定義されるコスト関数E(P)の最小化を行う。
【0053】
【数8】
【0054】
ここで、m
rep、i(P)は、対応点ペアm
1、i、m
2、iとパラメータPを用いて、3次元計測の理論式に基づいて復元した3次元点をレーダ画像投影モデルにより再度2次元平面に投影した点の座標(u
rep、i、v
rep、i)を表す。また、m
rep1、i(P)は、航路1のスラントレンジ画像上に再投影した点の座標を表し、m
rep2、i(P)は、航路2のスラントレンジ画像上に再投影した点の座標を表す。
【0055】
航路iを世界座標系として定義した場合の3次元計測の理論式を利用して求めたコスト関数をE
i(P)とする。このとき、最小化を行うコスト関数E(P)を以下のように定義する。
【0056】
【数9】
【0057】
数9で定義されるコスト関数は非線形関数である。このコスト関数の最小化を行う方法は、多変数関数の最適化問題として既によく知られており、一例として、ここでは、非線形最小二乗アルゴリズムの1つであるレーベンベルグ−マルカート(Levenberg-Marquardt)法によりコスト関数の最小化を行う。そして、コスト関数E(P)が最小となるときのパラメータPを最適化されたパラメータとして用いる。以上により求めた内部および外部パラメータとスラントレンジ画像間の対応点ペアを用いて、数7に基づいて3次元計測を行う。
【実施例3】
【0072】
<5.精度評価実験>
本発明で提案する2枚のSAR画像から3次元計測を行う手法の計測精度を国土地理院より公開されている数値標高モデルと比較することで評価する。
<5.1データセット>
本実験で用いるSAR画像は、情報通信研究機構が開発した航空機SARであるPi−SAR2により取得されたものである。観測場所は茨城県東茨城郡城里町であり、観測領域はおよそ5km×5kmである。本実験で使用したSAR画像を
図7に示す。SAR画像の大きさは、
図7(a)が20,000×10,713ピクセル、
図7(b)が20,000×10,338ピクセルである。これらのSAR画像を取得したときのPi−SAR2の撮影諸元を表1に示す。
【0073】
【表1】
【0074】
<5.2実験方法>
まず、本発明を用いて2枚のSAR画像から地表面の3次元計測を行う。そして、復元した3次元点群と、真値であるDEMの3次元メッシュモデルをICP(Iterative Closest Point)により位置合わせをし、標高の残差で評価する。国土地理院によって公開されているDEMは、航空レーザー測量によって計測したデータから、建物および橋などの人工構造物や樹木などの植生をフィルタリング処理によって除去し、5m間隔に標高を内挿補間して求めた数値標高モデルデータである。本発明によって求められる3次元点群が1m間隔であるのに対し、DEMは5m間隔の点群である。そのため、3次元点群であるDEMをドロネー三角形分割により3次元メッシュに変換して精度評価を行う。
【0075】
本実施例の地上投影変換では、約20,000×10,000ピクセルの画像を5,000×5,000ピクセルの画像へと変換する。観測領域は5,000×5,000m
2であるため、画像全体の分解能は、1ピクセルあたり1mである。内部パラメータは、既知であるとし、表1の値を用いる。POCに基づく画像マッチングのウィンドウサイズは、128×128ピクセルとする。画像マッチングを行う領域は、2つのSAR画像間で共通する領域でなければならない。そこで、基準点は、5,000×5,000ピクセルの画像の共通領域である3,200×3,200ピクセルの領域に配置する。また、POC関数のピークによる誤対応除去の閾値を0.15に設定する。
【0076】
バンドル調整により最適化を行うパラメータは、航路i(i=1、2)におけるレーダ入射角θ
i、スラントレンジ方向の分解能の逆数α
vi、外部パラメータRの回転角度φ、外部パラメータtのxおよびy成分であるt
xおよびt
yの7つである。
<5.3実験結果>
地上投影変換後のグランドレンジ画像と標高マップを
図8に示す。
図8(a)および(b)は、それぞれ航路1および航路2の地上投影変換後のグランドレンジ画像である。
図8(c)は、画像マッチングの際に基準点を配置した領域をグランドレンジ画像から抽出したものである。
図8(d)は、バンドル調整前のパラメータを用いて計算した標高マップである。
図8(e)は、バンドル調整で最適化されたパラメータを用いて計算した標高マップである。
図8(f)は、国土地理院の基盤地図情報(数値標高モデル)データ5mメッシュ(標高)を使用した標高マップである。また、本発明の手法によって計算された3次元点群とDEMとの残差と3次元復元点数を表2に示す。
【0077】
【表2】
【0078】
【表3】
【0079】
バンドル調整前後のパラメータ値と再投影誤差を表3に示す。以上の結果から、本発明を用いることで10m以下の誤差で3次元計測が可能であることが確認できる。また、
図8(d)、(e)、(f)から、バンドル調整を用いてパラメータの最適化を行うことで、高精度な3次元点群を取得できることがわかる。SAR画像の3次元計測においても、コンピュータビジョンで用いられているバンドル調整が有効であることを示している。
【0080】
本実験で真値として用いたDEMは、人工物や樹木などの影響を除去した地表面の標高モデルである。これに対して、実験で使用したSAR画像は、樹木などを含めたデータであり、このSAR画像から求めた3次元点は、樹木の高さに相当する数メートル分の誤差が含まれている。本実験では真値にDEMを用いているが、建物や樹木などの高さを含んだ地表モデルである数値表層モデル(DSM:Digital Surface Model)を用いることができれば、提案手法の計測誤差は小さくなると考えられる。
【0081】
また、計測誤差が生じる原因に、レーダ画像特有のジオメトリック画像変調やスペックルノイズによる画像マッチングへの影響が考えられる。そのため、これらを考慮したSAR画像のための画像マッチングアルゴリズムを検討する必要がある。たとえば、Dellingerらは、スペックルノイズを考慮したSAR画像のためのSIFTアルゴリズムを提案している(非特許文献10)。
【0082】
ジオメトリック画像変調の中でも、陰影効果が生じている箇所は、受信信号が0でありデータが存在しない領域であるため、マッチングを正しく行うことができない。表2に示したように最大残差が77mであったが、明らかに誤対応点を用いて3次元計測をした結果であり、全体の計測精度を悪化させる原因となっている。このような影響を除去するためには、画像中の陰影領域を抽出し、陰影領域に基準点を配置しないで画像マッチングを行う必要がある。また、3枚以上のSAR画像から陰影領域が生じないように適切に画像選択を行うことで、陰影効果による影響を受けずに3次元計測を行えることが容易に予想される。