(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024170746
(43)【公開日】2024-12-11
(54)【発明の名称】画像処理装置、模擬画像生成装置、学習装置、画像処理方法、模擬画像生成方法、学習方法、画像処理プログラム、模擬画像生成プログラム及び学習プログラム
(51)【国際特許分類】
G01S 13/90 20060101AFI20241204BHJP
G06T 7/00 20170101ALI20241204BHJP
【FI】
G01S13/90 191
G06T7/00 640
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023087437
(22)【出願日】2023-05-29
(71)【出願人】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110002491
【氏名又は名称】弁理士法人クロスボーダー特許事務所
(72)【発明者】
【氏名】芦澤 充
【テーマコード(参考)】
5J070
5L096
【Fターム(参考)】
5J070AE01
5J070AE02
5J070AK37
5J070BE02
5L096FA69
5L096KA04
(57)【要約】
【課題】ドップラーシフトの影響を受けた部分画像の位置を特定することなく、ドップラーシフトの影響を除去する。
【解決手段】推論部302は、学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得する。
データ取得部301は、ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれるSAR画像DIN0を取得する。推論部302は、学習済モデルを用いて、SAR画像DIN0内の影響部分画像の位置を推論する。
【選択図】
図7
【特許請求の範囲】
【請求項1】
学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得部と、
前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得部と、
前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論部とを有する画像処理装置。
【請求項2】
前記画像処理装置は、更に、
前記推論部により前記影響部分画像の位置として推論された位置の部分画像から前記ドップラーシフトの影響を除去する影響除去部を有する請求項1に記載の画像処理装置。
【請求項3】
前記モデル取得部は、
前記ドップラーシフトの影響を受けた状態を模擬した部分画像である模擬影響部分画像が含まれる学習用画像を用いた学習が行われて生成された学習済モデルを取得する請求項1に記載の画像処理装置。
【請求項4】
撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出部と、
前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成部と、
前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成部とを有する模擬画像生成装置。
【請求項5】
前記模擬画像生成装置は、更に、
前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行う学習装置に、前記模擬画像と前記位置情報とを出力する出力部を有する請求項4に記載の模擬画像生成装置。
【請求項6】
ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得部と、
前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成部とを有する学習装置。
【請求項7】
前記模擬画像取得部は、
請求項4に記載の前記模擬画像生成部により生成された前記模擬画像と、請求項4に記載の前記位置情報生成部により生成された前記位置情報とを取得し、
前記モデル生成部は、
請求項4に記載の前記模擬画像生成部により生成された前記模擬画像と、請求項4に記載の前記位置情報生成部により生成された前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行う請求項6に記載の学習装置。
【請求項8】
コンピュータが、学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得処理と、
前記コンピュータが、前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得処理と、
前記コンピュータが、前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論処理とを有する画像処理方法。
【請求項9】
コンピュータが、撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出処理と、
前記コンピュータが、前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成処理と、
前記コンピュータが、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成処理とを有する模擬画像生成方法。
【請求項10】
コンピュータが、ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得処理と、
前記コンピュータが、前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成処理とを有する学習方法。
【請求項11】
学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得処理と、
前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得処理と、
前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論処理とをコンピュータに実行させる画像処理プログラム。
【請求項12】
撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出処理と、
前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成処理と、
前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成処理とをコンピュータに実行させる模擬画像生成プログラム。
【請求項13】
ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得処理と、
前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成処理とをコンピュータに実行させる学習プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ドップラーシフトの影響を受けた撮像画像からドップラーシフトの影響を除去する技術に関する。
本開示では、特に、SAR(Synthetic Aperture Radar、合成開口レーダ)画像のうちドップラーシフトの影響を受けた領域からドップラーシフトの影響を除去する技術を説明する。
【背景技術】
【0002】
SAR画像から船舶、車両等の移動体である移動目標を検出し、移動目標の種類を特定することは、撮像された地域に関する不法行為等の状況把握につながる。このため、SAR画像を解析することは、安全保障及び危機管理の観点で有用である。
【0003】
しかし、SAR画像においては、移動中の移動目標がドップラーシフトによる影響でぼやけて写り、その検出及び識別が困難である。従って、移動目標が写っている領域からドップラーシフトの影響を除去し、ぼやけた移動目標を鮮明化する必要がある。
【0004】
ISAR(Inverse Synthetic Aperture Radar、逆合成開口レーダ)は、ぼやけた移動目標を鮮明化する方法である。ISARの具体的な方式として、速度指定方式ISARがある。速度指定方式ISARでは、ぼやけた移動目標の速度を仮定した計算によって、ぼやけを鮮明化する。
特許文献1では、速度指定方式ISARによってSAR画像内の移動目標の領域を鮮明化する技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
実際のSAR画像には複数の異なる速度の移動目標が含まれていることがあり、また静止物である静止目標も含まれる。このため、特許文献1に代表される速度指定方式ISARを用いる従来の技術では、速度指定方式ISARの適用に先立って、SAR画像の中の移動目標の領域を矩形などで指定して切出す作業が必要であった。つまり、従来の技術では、移動目標が写された部分画像(ドップラーシフトの影響を受けた部分画像)の位置を特定する必要がある。そして、特定された部分画像に対し、速度指定方式ISARを適用すると、移動目標の領域の画像を鮮明化することができる。
このように、従来の技術では、ドップラーシフトの影響を受けた部分画像の位置を特定しなければならないという課題がある。
【0007】
本開示は、上記のような課題を解決することを主な目的とする。より具体的には、本開示は、ドップラーシフトの影響を受けた部分画像の位置を特定することなく、ドップラーシフトの影響を除去することを主な目的とする。
【課題を解決するための手段】
【0008】
本開示に係る画像処理装置は、
学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得部と、
前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得部と、
前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論部とを有する。
【発明の効果】
【0009】
本開示によれば、ドップラーシフトの影響を受けた部分画像の位置を指定することなく、ドップラーシフトの影響を受けた撮像画像からドップラーシフトの影響を除去することができる。
【図面の簡単な説明】
【0010】
【
図1】実施の形態1に係る画像鮮明化システムの機能構成を概略的に示すブロック図である。
【
図2】実施の形態1に係る学習用データ生成装置の機能構成を概略的に示すブロック図である。
【
図3】実施の形態1に係る学習用データ生成装置の学習用データ生成に関するフローチャートである。
【
図4】実施の形態1に係る学習装置の機能構成を概略的に示すブロック図である。
【
図5】実施の形態1に係る学習処置の学習済モデルの構造の一例を示す概略図である。
【
図6】実施の形態1に係る学習用データ生成装置の学習処理に関するフローチャートである。
【
図7】実施の形態1に係る画像鮮明化装置の機能構成を概略的に示すブロック図である。
【
図8】実施の形態1に係る画像鮮明化装置の画像鮮明化に関するフローチャートである。
【
図9】実施の形態1に係る画像鮮明化システムのハードウェア構成を概略的に示すブロック図である。
【発明を実施するための形態】
【0011】
以下、実施の形態を図を用いて説明する。以下の実施の形態の説明及び図面において、同一の符号を付したものは、同一の部分又は相当する部分を示す。
【0012】
実施の形態1.
***概略***
本実施の形態では、SAR画像に含まれる移動目標の領域を自動かつ高精度に推論し、移動目標のぼやけた画像を自動で鮮明化する画像鮮明化システムを説明する。
より具体的には、本実施の形態に係る画像鮮明化システムは、静止目標のぼやけていない領域の画像をあたかも移動によってぼやけているかのようなドップラーシフト模擬画像に変換する。つまり、本実施の形態に係る画像鮮明化システムは、ドップラーシフトの影響を受けていない領域の画像を用いて、ドップラーシフトの影響を受けている状態を模擬したドップラーシフト模擬画像を生成する。
そして、画像鮮明化システムは、ドップラーシフト模擬画像を学習用データとして用いて学習を行う。
更に、画像鮮明化システムは、学習により、移動目標の領域を高精度に推論するための学習済モデルを生成する。
そして、画像鮮明化システムは、このような学習済モデルを用いて、SAR画像の中の移動目標の領域を推論し、移動目標の領域の画像をISARにより鮮明化する。
この結果、画像鮮明化システムは、ぼやけた移動目標を自動的に鮮明化することができる。
【0013】
***画像鮮明化システムの構成の説明***
図1は、実施の形態1に係る画像鮮明化システム1の機能構成を概略的に示すブロック図である。
また、
図9は、実施の形態1に係る画像鮮明化システム1のハードウェア構成を概略的に示すブロック図である。
本実施の形態に係る画像鮮明化システム1は、コンピュータである。
図1に示すように、画像鮮明化システム1は、機能構成として、学習用データ生成装置10、学習装置20及び画像鮮明化装置30を備える。
【0014】
学習用データ生成装置10は、学習用データを生成する。
学習用データ生成装置10は、模擬画像生成装置に相当する。また、学習用データ生成装置10の動作手順は、模擬画像生成方法に相当する。また、学習用データ生成装置10の動作を実現するプログラムは、模擬画像生成プログラムに相当する。
【0015】
学習装置20は、学習用データを用いた学習を行い、学習済モデルを生成する。
学習装置20の動作手順は、学習方法に相当する。また、学習装置20の動作を実現するプログラムは、学習プログラムに相当する。
【0016】
画像鮮明化装置30は、学習済モデルを用いてSAR画像の中の移動目標の領域を推論し、移動目標の領域の画像を鮮明化する。
画像鮮明化装置30は、画像処理装置に相当する。また、画像鮮明化装置30の動作手順は、画像処理方法に相当する。また、画像鮮明化装置30の動作を実現するプログラムは、画像処理プログラムに相当する。
【0017】
画像鮮明化システム1は、
図9に示すように、ハードウェアとして、プロセッサ901、主記憶装置902、補助記憶装置903及び入出力装置904を備える。
後述するように、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の機能は、例えば、プログラムにより実現される。これらプログラムは、補助記憶装置903に記憶されている。そして、これらプログラムは、補助記憶装置903から主記憶装置902にロードされる。更に、プロセッサ901がこれらプログラムを実行する。
図9は、プロセッサ901が学習用データ生成装置10、学習装置20及び画像鮮明化装置30の機能を実現するプログラムを実行している状態を模式的に表している。
入出力装置904は、マウス、キーボード、ディスプレイ等である。
【0018】
***学習用データ生成装置10の構成の説明***
図2は、学習用データ生成装置10の機能構成を概略的に示すブロック図である。
学習用データ生成装置10は、静止目標抽出部101、ISAR部102、埋め込み部103を備える。静止目標抽出部101、ISAR部102、埋め込み部103の機能は、例えばプログラムにより実現される。
【0019】
静止目標抽出部101は、撮像画像であるSAR画像DIN0を取得する。そして、静止目標抽出部101は、SAR画像DIN0から静止目標画像DIN1を生成する。
静止目標画像DIN1は、SAR画像DIN0の中から静止している船舶や車両など静止目標を矩形で切出した部分画像である。
つまり、静止目標抽出部101は、SAR画像DIN0内のドップラーシフトの影響を受けていない部分画像を静止目標画像DIN1として抽出する。静止目標画像DIN1では、静止目標が鮮明に写されている。静止目標画像DIN1は、非影響部分画像に相当する。
静止目標抽出部101は、非影響部分画像抽出部に相当する。また、静止目標抽出部101により行われる処理は非影響部分画像抽出処理に相当する。
【0020】
ISAR部102は、静止目標画像DIN1を取得する。そして、ISAR部102は、静止目標画像DIN1から、ドップラーシフト模擬画像DIN2を生成する。
生成されるドップラーシフト模擬画像DIN2は、ISARにより静止目標画像DIN1の静止目標があたかも移動しているかのようにぼやかした画像である。つまり、ISAR部102は、静止目標画像DIN1がドップラーシフトの影響を受けている状態を模擬した部分画像をドップラーシフト模擬画像DIN2として生成する。ドップラーシフト模擬画像DIN2は模擬影響部分画像に相当する。
ISAR部102は、埋め込み部103とともに、模擬画像生成部に相当する。また、ISAR部102により行われる処理は、埋め込み部103により行われる処理とともに、模擬画像生成処理に相当する。
【0021】
埋め込み部103は、ドップラーシフト模擬画像DIN2とSAR画像DIN0から模擬SAR画像DIN3と移動目標位置ラベルDIN4を生成する。
模擬SAR画像DIN3は、SAR画像DIN0にドップラーシフト模擬画像DIN2を重畳した画像である。つまり、埋め込み部103は、SAR画像DIN0にドップラーシフト模擬画像DIN2を追加する。これにより、埋め込み部103は、ドップラーシフトの影響を受けた状態が模擬されたドップラーシフト模擬画像DIN2が含まれる模擬SAR画像DIN3を生成する。模擬SAR画像DIN3は学習用画像である。
移動目標位置ラベルDIN4は、SAR画像DIN0にドップラーシフト模擬画像DIN2を重畳した位置を指し示すデータである。つまり、移動目標位置ラベルDIN4は、模擬SAR画像DIN3内のドップラーシフト模擬画像DIN2の位置を表す。移動目標位置ラベルDIN4は、例えば重畳した矩形範囲の左上の画素DIN41の座標及び右下の画素DIN42の座標から成る。移動目標位置ラベルDIN4は位置情報に相当する。
埋め込み部103は、学習装置20に模擬SAR画像DIN3と移動目標位置ラベルDIN4を出力する。
前述したように、埋め込み部103は、ISAR部102とともに、模擬画像生成部に相当する。また、埋め込み部103により行われる処理は、ISAR部102により行われる処理とともに、模擬画像生成処理に相当する。更に、埋め込み部103は、位置情報生成部に相当する。また、埋め込み部103により行われる処理は、位置情報生成処理に相当する。また、埋め込み部103は出力部にも相当する。
【0022】
***学習用データ生成装置10の動作の説明***
次に、
図3を用いて、学習用データ生成装置10が学習用データを生成する処理について説明する。
図3は学習用データ生成装置10の学習用データ生成に関するフローチャートである。
【0023】
ステップa1において、静止目標抽出部101は、SAR画像DIN0を取得する。また、静止目標抽出部101は、取得したSAR画像DIN0から静止目標の画像を切出すことで静止目標画像DIN1を生成する。この切出しのための矩形の位置は、ユーザがSAR画像DIN0を目視した上で指定してもよいし、SAR画像DIN0を入力とした物体検出によって静止目標のBounding Boxを得てその座標情報を用いてもよい。
【0024】
ステップa2において、ISAR部102は、ISARにより静止目標画像DIN1の静止目標があたかも移動しているかのようにぼやかしたドップラーシフト模擬画像DIN2を生成する。
このときのISARの具体的な方式としては、例えば速度指定方式ISARを用いることができる。速度指定方式ISARは、SARで静止目標を撮像した際と移動目標を撮像した際とではドップラー効果が異なることを利用する方法である。速度指定方式ISARは、移動目標の速度を仮定したときのドップラー効果を考慮したアジマス圧縮により結像した画像を得る方法である。このため、静止目標のぼやけていない画像に対し速度を仮定した速度指定方式ISARを適用すると、静止目標があたかも移動によるドップラー効果が生じているかのようなぼやけた画像を生成できる。この速度は、ぼやかす程度を決定する虚偽の速度であって、ユーザが手動で指定してもよいし、乱数を用いて自動で指定してもよい。
なお、速度指定方式ISARはレンジ圧縮後かつアジマス圧縮前のSAR画像に対してのみ適用できる手法である。このため、速度指定方式ISARの適用に先立っては、静止目標画像に対し参考文献1に記載のICSAのような手法でSAR画像からレンジ圧縮後かつアジマス圧縮前のデータを生成する。
[参考文献1]Ahmed S. Khwaja,他2名,“SAR Raw Data Generation Using Inverse SAR Image Formation Algorithms”, 2006 IEEE International Symposium on Geoscience and Remote Sensing, p.4174-4177
【0025】
ステップa3において、埋め込み部103は、SAR画像DIN0にドップラーシフト模擬画像DIN2を重畳することで模擬SAR画像DIN3を生成する。また、埋め込み部103は、ドップラーシフト模擬画像DIN2を重畳した位置に基づき移動目標位置ラベルDIN4を生成する。
埋め込み部103は、SAR画像に対するドップラーシフト模擬画像の重畳を、例えば加算合成によって行う。また、SAR画像DIN0にドップラーシフト模擬画像DIN2を重畳する位置は、静止目標抽出部101において静止目標画像DIN1を切出した位置としてもよいし、ユーザが指定してもよい。また、乱数を用いて自動で指定してもよい。
【0026】
ステップa3によって生成される模擬SAR画像DIN3には、目標があたかも移動しているかのようにぼやけたドップラーシフト模擬画像DIN2が重畳されている。
また、移動目標位置ラベルDIN4にはその重畳の位置情報が含まれている。
このため、模擬SAR画像DIN3と移動目標位置ラベルDIN4のペアは、後述する
図7に示すSAR画像DIN0から移動目標を検出する物体検出のための学習の学習用データとして利用することができる。
【0027】
***学習装置20の構成の説明***
図4は学習装置20の機能構成を概略的に示すブロック図である。
学習装置20は、学習フェーズにおいて学習を行う。
学習装置20は、データ取得部201、モデル生成部202、及び学習済モデル記憶部203を備える。データ取得部201、モデル生成部202、及び学習済モデル記憶部203の機能は、例えばプログラムにより実現される。
【0028】
データ取得部201は、模擬SAR画像DIN3と移動目標位置ラベルDIN4を学習用データとして取得する。
データ取得部201は模擬画像取得部に相当する。また、データ取得部201により行われる処理は模擬画像取得処理に相当する。
【0029】
モデル生成部202は、データ取得部201から出力される模擬SAR画像DIN3及び移動目標位置ラベルDIN4の組合せに基づいて作成される学習用データに基づいて、移動目標位置情報を学習する。
より具体的には、モデル生成部202は、模擬SAR画像DIN3及び移動目標位置ラベルDIN4から最適な移動目標位置情報を推論する学習済モデルを生成する。つまり、モデル生成部202は、模擬SAR画像DIN3及び移動目標位置ラベルDIN4を用いて、模擬SAR画像DIN3内のドップラーシフト模擬画像DIN2の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成する。
モデル生成部202により行われる処理はモデル生成処理に相当する。
【0030】
モデル生成部202は、学習アルゴリズムとして、教師あり学習、教師なし学習、強化学習等の公知のアルゴリズムを用いることができる。一例として、ニューラルネットワークを適用した場合について説明する。
モデル生成部202は、例えば、ニューラルネットワークモデルに従って、いわゆる教師あり学習により、移動目標位置情報を学習する。ここで、教師あり学習とは、入力と結果(ラベル)のデータの組を学習装置に与えることで、それらの学習用データにある特徴を学習し、入力から結果を推論する手法をいう。
【0031】
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層(隠れ層)、及び複数のニューロンからなる出力層で構成される。中間層は、1層、又は2層以上でもよい。
【0032】
例えば、
図5に示すような3層のニューラルネットワークを想定する。
図5のニューラルネットワークでは、複数の入力が入力層(X1‐X3)に入力されると、その値に重みW1(w11‐w16)を掛けて中間層(Y1‐Y2)に入力される。そして、その結果にさらに重みW2(w21‐w26)を掛けて出力層(Z1‐Z3)から出力される。この出力結果は、重みW1とW2の値によって変わる。
【0033】
本実施の形態において、ニューラルネットワークは、データ取得部201によって取得される模擬SAR画像DIN3、移動目標位置ラベルDIN4の組合せに基づいて作成される学習用データに従って、いわゆる教師あり学習により、移動目標位置情報を学習する。
【0034】
すなわち、ニューラルネットワークは、入力層に模擬SAR画像DIN3を入力して出力層から出力された結果が、移動目標位置ラベルDIN4に近づくように重みW1とW2を調整することで学習する。
【0035】
モデル生成部202は、以上のような学習を実行することで学習済モデルを生成し、出力する。
【0036】
学習済モデル記憶部203は、モデル生成部202から出力された学習済モデルを記憶する。
【0037】
***学習装置20の動作の説明***
次に、
図6を用いて、学習装置20が学習する処理について説明する。
図6は学習装置20の学習処理に関するフローチャートである。
【0038】
ステップc1において、データ取得部201は模擬SAR画像DIN3、移動目標位置ラベルDIN4を取得する。なお、ここでは、模擬SAR画像DIN3、移動目標位置ラベルDIN4を同時に取得するものとしている。しかし、模擬SAR画像DIN3、移動目標位置ラベルDIN4を関連づけて入力できれば良く、模擬SAR画像DIN3、移動目標位置ラベルDIN4のデータをそれぞれ別のタイミングで取得しても良い。
【0039】
ステップc2において、モデル生成部202は、データ取得部201によって取得された模擬SAR画像DIN3、移動目標位置ラベルDIN4の組合せに基づいて作成される学習用データに従って、いわゆる教師あり学習により、移動目標位置情報を学習し、学習済モデルを生成する。
【0040】
ステップc3において、学習済モデル記憶部203は、モデル生成部202が生成した学習済モデルを記憶する。
【0041】
***画像鮮明化装置30の構成の説明***
図7は画像鮮明化装置30の機能構成を概略的に示すブロック図である。
画像鮮明化装置30は、活用フェーズにおいて撮像画像の鮮明化を行う。
画像鮮明化装置30は、データ取得部301、推論部302、ISAR部303を備える。データ取得部301、推論部302、ISAR部303の機能は、例えばプログラムにより実現される。
【0042】
データ取得部301は撮像画像であるSAR画像DIN0を取得する。なお、
図7に示すSAR画像DIN0は、
図2に示すSAR画像DIN0とは異なる時刻に撮像されたSAR画像である。また、
図7に示すSAR画像DIN0は、
図2に示すSAR画像DIN0と同じ地域を撮像したSAR画像であってもよいし、異なる地域を撮像したSAR画像であってもよい。
図7に示すSAR画像DIN0には、移動目標が写された部分画像、すなわち、ドップラーシフトの影響を受けた部分画像が含まれる。このような、ドップラーシフトの影響を受けた部分画像は影響部分画像に相当する。
データ取得部301は、撮像画像取得部に相当する。また、データ取得部301により行われる処理は撮像画像取得処理に相当する。
【0043】
推論部302は、学習済モデル記憶部203から、学習済モデルを取得する。
また、推論部302は、学習済モデルを利用して、移動目標位置情報を推論する。すなわち、推論部302は、学習済モデルにSAR画像DIN0を入力することで、移動目標の位置の推論結果である移動目標位置情報を出力することができる。このように、推論部302は、学習済モデルを用いて、SAR画像DIN0内の移動目標が写された部分画像(ドップラーシフトの影響を受けた部分画像)の位置を推論することができる。
推論部302は、モデル取得部としても機能する。また、推論部302により行われる処理はモデル取得処理及び推論処理に相当する。
【0044】
ISAR部303は、推論部302から得られる移動目標位置情報に基づき、SAR画像DIN0の該当の位置に対してISARを適用することで、移動目標のぼやけた像を鮮明化した鮮明化SAR画像DOUTを生成する。すなわち、ISAR部303は、移動目標が写された部分画像からドップラーシフトの影響を除去する。そして、ISAR部303は、例えば入出力装置904のディスプレイに鮮明化SAR画像DOUTを表示する。
ISAR部303は、影響除去部に相当する。また、ISAR部303により行われる処理は、影響除去処理に相当する。
【0045】
本実施の形態では、推論部302は、画像鮮明化システム1のモデル生成部202での学習で得られた学習済モデルを用いて移動目標位置情報を生成するものとする。しかし、推論部302は、他の画像鮮明化システム等の外部から学習済モデルを取得し、この学習済モデルに基づいて移動目標位置情報を生成するようにしてもよい。
【0046】
***画像鮮明化装置30の動作の説明***
次に、
図8を用いて、画像鮮明化装置30が鮮明化SAR画像DOUTを得るための処理を説明する。
【0047】
ステップd1において、データ取得部301はSAR画像DIN0を取得する。
【0048】
ステップd2において、推論部302は学習済モデル記憶部203に記憶された学習済モデルにSAR画像DIN0を入力し、移動目標位置情報を得る。
【0049】
ステップd3において、ISAR部303は、得られた移動目標位置情報を用いて、SAR画像DIN0の該当の位置にISARを適用することで鮮明化する。これにより、SAR画像DIN0に含まれる移動目標のぼやけた像を鮮明化することができる。
このときのISARの具体的な方式としては、例えば速度指定方式ISARを用いることができる。速度指定方式ISARは、レンジ圧縮後かつアジマス圧縮前のSAR画像に対してのみ適用できる手法である。このため、速度指定方式ISARの適用に先立っては、SAR画像の該当の位置に対し前述の参考文献1のICSAのような手法でSAR画像からレンジ圧縮後かつアジマス圧縮前のデータを生成する。レンジ圧縮後かつアジマス圧縮前のデータに対し速度指定方式ISARを適用して鮮明化を行ったのち、ISAR部303は、SAR画像DIN0の元の位置に対し、鮮明化した画像を重畳する。
【0050】
なお、本実施の形態では、モデル生成部202が用いる学習アルゴリズムに教師あり学習を適用した場合について説明したが、これに限られるものではない。学習アルゴリズムについては、教師あり学習以外にも、強化学習、教師なし学習、又は半教師あり学習等を適用することも可能である。
【0051】
また、モデル生成部202は、複数の画像鮮明化システムに対して作成される学習用データに従って、移動目標位置情報を学習するようにしてもよい。なお、モデル生成部202は、同一のエリアで使用される複数の画像鮮明化システムから学習用データを取得してもよいし、異なるエリアで独立して動作する複数の画像鮮明化システムから収集される学習用データを利用して移動目標位置情報を学習してもよい。
また、学習用データを収集する画像鮮明化システムを途中で対象に追加したり、対象から除去したりすることも可能である。
更に、ある画像鮮明化システムに関して移動目標位置情報を学習した学習装置20を、これとは別の画像鮮明化システムに適用し、当該別の画像鮮明化システムに関して移動目標位置情報を再学習して更新するようにしてもよい。
【0052】
***実施の形態の効果の説明***
以上より、本実施の形態では、画像鮮明化装置30が、学習済モデルを用いて、ドップラーシフトの影響を受けた部分画像の位置を推論する。このため、本実施の形態によれば、ドップラーシフトの影響を受けた部分画像の位置を特定することなく、ドップラーシフトの影響を除去することができる。
また、本実施の形態家によれば、ドップラーシフトの影響を受けた部分画像の位置を特定する処理を省略することができるので、SAR画像DIN0の取得から鮮明化SAR画像DOUTの表示までの時間を短縮することができる。
【0053】
なお、本実施の形態で説明した手順は一例である。
このため、本実施の形態で説明した手順の一部のみを実施しても構わない。
また、本実施の形態で説明した手順の少なくとも一部と、本実施の形態で説明していない手順とを組み合わせて実施しても構わない。
また、本実施の形態に記載された構成及び手順を必要に応じて変更してもよい。
【0054】
ここで、画像鮮明化システム1のハードウェア構成の補足説明を行う。
図9に示すプロセッサ901は、プロセッシングを行うIC(Integrated Circuit)である。
プロセッサ901は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)等である。
図9に示す主記憶装置902は、RAM(Random Access Memory)である。
図9に示す補助記憶装置903は、ROM(Read Only Memory)、フラッシュメモリ、HDD(Hard Disk Drive)等である。
図9には図示していないが、通信装置が含まれていてもよい。通信装置は、例えば、通信チップ又はNIC(Network Interface Card)である。
【0055】
また、補助記憶装置903には、OS(Operating System)も記憶されている。
そして、OSの少なくとも一部がプロセッサ901により実行される。
プロセッサ901はOSの少なくとも一部を実行しながら、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の機能を実現するプログラムを実行する。
プロセッサ901がOSを実行することで、タスク管理、メモリ管理、ファイル管理、通信制御等が行われる。
また、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の処理の結果を示す情報、データ、信号値及び変数値の少なくともいずれかが、主記憶装置902、補助記憶装置903、プロセッサ901内のレジスタ及びキャッシュメモリの少なくともいずれかに記憶される。
また、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の機能を実現するプログラムは、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ブルーレイ(登録商標)ディスク、DVD等の可搬記録媒体に格納されていてもよい。そして、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の機能を実現するプログラムが格納された可搬記録媒体を流通させてもよい。
【0056】
また、学習用データ生成装置10、学習装置20及び画像鮮明化装置30の構成要素の「部」を、「回路」又は「工程」又は「手順」又は「処理」又は「サーキットリー」に読み替えてもよい。
また、画像鮮明化システム1は、処理回路により実現されてもよい。処理回路は、例えば、ロジックIC(Integrated Circuit)、GA(Gate Array)、ASIC(Application Specific Integrated
Circuit)、FPGA(Field-Programmable Gate Array)である。
この場合は、学習用データ生成装置10、学習装置20及び画像鮮明化装置30は、それぞれ処理回路の一部として実現される。
なお、本明細書では、プロセッサと処理回路との上位概念を、「プロセッシングサーキットリー」という。
つまり、プロセッサと処理回路とは、それぞれ「プロセッシングサーキットリー」の具体例である。
【0057】
最後に、本開示の諸態様を付記としてまとめて記載する。
(付記1)
学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得部と、
前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得部と、
前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論部とを有する画像処理装置。
(付記2)
前記画像処理装置は、更に、
前記推論部により前記影響部分画像の位置として推論された位置の部分画像から前記ドップラーシフトの影響を除去する影響除去部を有する付記1に記載の画像処理装置。
(付記3)
前記モデル取得部は、
前記ドップラーシフトの影響を受けた状態を模擬した部分画像である模擬影響部分画像が含まれる学習用画像を用いた学習が行われて生成された学習済モデルを取得する付記1又は2に記載の画像処理装置。
(付記4)
撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出部と、
前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成部と、
前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成部とを有する模擬画像生成装置。
(付記5)
前記模擬画像生成装置は、更に、
前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行う学習装置に、前記模擬画像と前記位置情報とを出力する出力部を有する付記4に記載の模擬画像生成装置。(付記6)
ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得部と、
前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成部とを有する学習装置。
(付記7)
前記模擬画像取得部は、
付記4に記載の前記模擬画像生成部により生成された前記模擬画像と、付記4に記載の前記位置情報生成部により生成された前記位置情報とを取得し、
前記モデル生成部は、
付記4に記載の前記模擬画像生成部により生成された前記模擬画像と、付記4に記載の前記位置情報生成部により生成された前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行う付記6に記載の学習装置。
(付記8)
コンピュータが、学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得処理と、
前記コンピュータが、前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得処理と、
前記コンピュータが、前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論処理とを有する画像処理方法。
(付記9)
コンピュータが、撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出処理と、
前記コンピュータが、前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成処理と、
前記コンピュータが、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成処理とを有する模擬画像生成方法。
(付記10)
コンピュータが、ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得処理と、
前記コンピュータが、前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成処理とを有する学習方法。
(付記11)
学習用画像に含まれるドップラーシフトの影響を受けた部分画像の位置を推論する学習が行われて生成された学習済モデルを取得するモデル取得処理と、
前記ドップラーシフトの影響を受けた部分画像である影響部分画像が含まれる撮像画像を取得する撮像画像取得処理と、
前記学習済モデルを用いて、前記撮像画像内の前記影響部分画像の位置を推論する推論処理とをコンピュータに実行させる画像処理プログラム。
(付記12)
撮像画像から、前記撮像画像内のドップラーシフトの影響を受けていない部分画像を非影響部分画像として抽出する非影響部分画像抽出処理と、
前記非影響部分画像が前記ドップラーシフトの影響を受けている状態を模擬した部分画像を模擬影響部分画像として生成し、前記模擬影響部分画像を前記撮像画像に追加して模擬画像を生成する模擬画像生成処理と、
前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報を生成する位置情報生成処理とをコンピュータに実行させる模擬画像生成プログラム。
(付記13)
ドップラーシフトの影響を受けている状態が模擬された部分画像が模擬影響部分画像として含まれる模擬画像と、前記模擬画像内の前記模擬影響部分画像の位置を表す位置情報とを取得する模擬画像取得処理と、
前記模擬画像と前記位置情報とを用いて、前記模擬画像内の前記模擬影響部分画像の位置を推論する学習を行い、学習結果が反映された学習済モデルを生成するモデル生成処理とをコンピュータに実行させる学習プログラム。
【符号の説明】
【0058】
1 画像鮮明化システム、10 学習用データ生成装置、20 学習装置、30 画像鮮明化装置、101 静止目標抽出部、102 ISAR部、103 埋め込み部、201 データ取得部、202 モデル生成部、203 学習済モデル記憶部、301 データ取得部、302 推論部、303 ISAR部、901 プロセッサ、902 主記憶装置、903 補助記憶装置、904 入出力装置、DIN0 SAR画像、DIN1 静止目標画像、DIN2 ドップラーシフト模擬画像、DIN3 模擬SAR画像、DIN4 移動目標位置ラベル、DOUT 鮮明化SAR画像。