(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-18
(45)【発行日】2023-12-26
(54)【発明の名称】ソーナー画像伝送装置、システム、ソーナー画像受信装置、ソーナー画像伝送方法、及びプログラム
(51)【国際特許分類】
H04N 1/64 20060101AFI20231219BHJP
G01S 15/89 20060101ALI20231219BHJP
H04B 11/00 20060101ALI20231219BHJP
【FI】
H04N1/64
G01S15/89
H04B11/00 A
H04B11/00 B
(21)【出願番号】P 2019217986
(22)【出願日】2019-12-02
【審査請求日】2022-11-07
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103894
【氏名又は名称】家入 健
(72)【発明者】
【氏名】中村 義行
【審査官】花田 尚樹
(56)【参考文献】
【文献】特開2010-139270(JP,A)
【文献】特表2019-530847(JP,A)
【文献】特開2007-158786(JP,A)
【文献】特開2014-131136(JP,A)
【文献】特開2008-042688(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 1/41 - 1/419
1/64
G01S 1/72 - 1/82
3/80 - 3/86
5/18 - 5/30
7/52 - 7/64
15/00 -15/96
H04B 1/00
1/30
1/59
1/72
11/00 -13/02
(57)【特許請求の範囲】
【請求項1】
多重化された複数のソーナー画像に異なる色を割り当てて統合することで、カラー画像を生成する統合部と、
前記ソーナー画像又は前記カラー画像を圧縮する圧縮部と、
前記カラー画像を送信する送信部と、を備え、
前記統合部が、ターゲットに対して異なる3つのスキント方位から取得された3枚の前記ソーナー画像にRGBのチャネルを割り当てて統合することで、前記カラー画像を生成しているソーナー画像伝送装置。
【請求項2】
前記統合部が、データ圧縮機能を備える汎用画像ファイルフォーマットを用いてカラー画像を生成し、
前記圧縮部が前記汎用画像ファイルフォーマットの前記カラー画像の画素を間引くことで圧縮している請求項1に記載のソーナー画像伝送装置。
【請求項3】
前記カラー画像には、3枚に共通の共通ヘッダと、各スキント固有の画像ヘッダが付加されている請求項2に記載のソーナー画像伝送装置。
【請求項4】
通信環境における通信性能に応じて、前記カラー画像の圧縮率を制御する圧縮率制御部をさらに備えた請求項1~3のいずれか1項に記載のソーナー画像伝送装置。
【請求項5】
請求項1~4のいずれか1項に記載のソーナー画像伝送装置と、
ソーナー画像受信装置と、を備え
前記ソーナー画像受信装置が、
前記カラー画像を受信する受信部と
前記受信部で受信された前記カラー画像から前記ソーナー画像を復元するデコーダと、を備えているソーナー画像伝送システム。
【請求項6】
多重化された複数のソーナー画像が異なる色に割り当てられたカラー画像を受信する受信部と、
前記カラー画像をカラー分離して、前記複数のソーナー画像を復元するデコーダと、を備え
、
ターゲットに対して異なる3つのスキント方位から取得された3枚の前記ソーナー画像にRGBのチャネルを割り当てて統合されることで、前記カラー画像が生成されており、
前記デコーダは、カラー画像をRGBのそれぞれのチャネルに分離して、3枚のスキント画像を復元するソーナー画像受信装置。
【請求項7】
前記カラー画像には、3枚に共通の共通ヘッダと、各スキント固有の画像ヘッダが付加されており、
前記デコーダは、共通ヘッダと、画像ヘッダと、スキント画像とからソーナー画像を得る請求項6に記載のソーナー画像受信装置。
【請求項8】
前記デコーダが、前記カラー画像に対してデータ補間を行い、
前記データ補間が行われたカラー画像に対して、前記カラー分離を行う請求項6に記載のソーナー画像受信装置。
【請求項9】
多重化された複数のソーナー画像に異なる色を割り当てて統合することで、カラー画像を生成し、
前記ソーナー画像又は前記カラー画像を圧縮し、
前記カラー画像を送信し、
ターゲットに対して異なる3つのスキント方位から取得された3枚の前記ソーナー画像にRGBのチャネルを割り当てて統合することで、前記カラー画像が生成されているソーナー画像伝送方法。
【請求項10】
多重化された複数のソーナー画像に異なる色を割り当てて統合することで、カラー画像を生成する処理と、
前記ソーナー画像又は前記カラー画像を圧縮する処理と
前記カラー画像を送信する処理と、
をコンピュータに実行させ、
ターゲットに対して異なる3つのスキント方位から取得された3枚の前記ソーナー画像にRGBのチャネルを割り当てて統合することで、前記カラー画像が生成されている、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ソーナー画像伝送装置、ソーナー画像伝送システム、ソーナー画像受信装置、ソーナー画像伝送方法、及びプログラムに関する。
【背景技術】
【0002】
特許文献1には、水中情報収集システムが開示されている。水中航行体は、サイドスキャンソーナー(Side-Scan Sonar:SSS)を用いて、水中の情報を収集している。水中航行体が、水中の情報を送信可能な音響モデムを有している。音響モデムが、水中の情報を水上移動体に送信している。サイドスキャンソーナーによって、水中の情報が画像情報として取得されている。また、水中情報は、所定の単位で圧縮され、送信されている。具体的には、情報処理部が、静止画をJPEGファイル形式に変換することで、データを圧縮している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ソーナーにより取得されたソーナー画像をより効率的に伝送する技術が望まれている。
【0005】
本開示の目的は、上述した問題を鑑み、効率的にソーナー画像を伝送することができるソーナー画像伝送装置、ソーナー画像伝送システム、ソーナー画像受信装置、ソーナー画像伝送方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0006】
本発明の一態様に係るソーナー画像伝送装置は、多重化された複数のソーナー画像に異なる色を割り当てて統合することで、カラー画像を生成する統合部と、前記ソーナー画像又は前記カラー画像を圧縮する圧縮部と、前記カラー画像を送信する送信部と、を備えている。
【0007】
本発明の一態様に係るソーナー画像受信装置は、多重化された複数のソーナー画像が異なる色に割り当てられたカラー画像を受信する受信部と、前記カラー画像をカラー分離して、前記複数のソーナー画像を復元するデコーダと、を備えている。
【発明の効果】
【0008】
本開示によれば、効率よくソーナー画像を伝送することができるソーナー画像伝送装置、ソーナー画像伝送システム、ソーナー画像受信装置、ソーナー画像伝送方法及びプログラムを提供することが可能となる。
【図面の簡単な説明】
【0009】
【
図2】スキント処理により多重化されたソーナー画像を生成する方法を説明するための図出る。
【
図4】エンコーダにおけるエンコード処理を説明するための図である。
【
図6】デコーダにおけるデコード処理を説明するための図である。
【
図7】変形例におけるデコーダの構成を示すブロック図である。
【
図8】デコーダにおけるデコード処理の変形例を説明するための図である。
【
図9】ソーナー画像伝送装置の構成を示すブロック図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施の形態について説明する。説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。また、様々な処理を行う機能ブロックとして図面に記載される各要素は、ハードウェア的には、CPU、メモリ、その他の回線で構成することができる。また、本開示は、任意の処理を、CPU(Central Processing Unit)にコンピュータプログラムを実行させることにより実現することも可能である。従って、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
【0011】
また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-Transitory computer Readable Medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage Medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(Transitory computer Readable Medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【0012】
本開示は、ソーナー画像伝送装置、ソーナー画像受信装置、ソーナー画像伝送システム、ソーナー画像伝送方法及びプログラムに関する。ここでは、サイドスキャン方式の合成開口ソーナーによりリアルタイムで海底マップを生成するUUV(Unmanned Underwater Vehicle)への適用を例に説明する。
【0013】
サイドスキャン方式で海底マップを生成するために、UUVが直進しながら、ソーナーが両舷に送受信を行う。このようにすることで、縦長のwaterfall画像が連続的に生成される。この1回の送受信により取得する片舷スラントレンジ距離をRとすると、両舷方向の刈り取り幅は2Rとなる。
【0014】
また合成開口ソーナーでは、複数の送受信を行って取得した受信信号を溜め込んだのち、信号処理を行ってソーナー画像を生成する。この溜め込み時間をhとし、UUVの進行速度をVとすると、アジマス方向に長さVhとなる。合成開口ソーナーが1回の信号処理で生成するソーナー画像は、面積2R×Vhの矩形領域となる。
【0015】
ソーナー画像伝送装置は、1回の信号処理で得られるソーナー画像をその都度水上側へ伝送する。この画像伝送は必ずしも信号処理1回ごとに制限されるわけではなく、複数回の信号処理を行って溜め込んだ複数分のソーナー画像を1回で伝送してもよい。あるいは、信号処理1回分のソーナー画像を複数画像に分割して、複数回伝送する方式でもよい。
【0016】
UUVは、UUVを運用する水上側(母船、支援船など)との通信に制約が多く、長距離の通信手段としては水中音響通信が最も適した方式である。しかしながら水中音響通信は、電波や光波のような他の無線通信手段と比べて通信速度が遅く、大容量のデータを連続的、安定的に伝送するには適していない。またUUVはバッテリ等の限られた電力で運用されることが多い。加えて、UUV自体の物理的寸法の制約から、その搭載機器には常に小型・省電力であることが求められる。
【0017】
本実施の形態によれば、UUVからソーナー画像のようなデータサイズの大きいデータを水中音響通信で伝送することが可能となる。さらに、本実施の形態によれば、ソーナー画像の特性に応じた効果的なデータ圧縮を、小型・省電力な形態で実現することが可能となる。
【0018】
実施の形態1.
図1を参照して、ソーナー画像伝送システムについて説明する。ソーナー画像伝送システム100は、水中ビークル(以下、単にビークルとする)200と水上艇400とを有している。ソーナー画像伝送システム100は、ビークル200と、水上艇400との間で、ソーナー画像を伝送するシステムである。水上艇400は、ビークル200を運用する母船や支援船などである。
【0019】
ビークル200は、水中を航走するUUV等である。また、ビークル200は、水上艇400で牽引される曳航体であってもよい。ビークル200には、ソーナー201と、ソーナー画像伝送装置210が搭載されている。
【0020】
ソーナー201は音波の送受信器を備えている。つまり、ソーナー201は、海中に向けて音波を発射し、その反射波を捉える。ソーナー201が発する音波は,超音波であってもよい。ソーナー201は、海底までの距離を測距することで、海底マップを示すソーナー画像を生成する。ソーナー201は、ソーナー画像をソーナー画像伝送装置210に出力する。
【0021】
ソーナー201がスキント(squint)処理を行う例について説明する。ソーナー201が同一の海底面に対して、異なる3つのスキント方位から送受信を行う。ソーナー201がスキント処理を行うことで、3枚の多重化されたソーナー画像が生成される。つまり、異なる3つのスキント方位で、それぞれソーナー画像(スキント画像ともいう)が取得され、これらが多重化される。ここで3枚のスキント画像は、同じ海底面を同一サイズおよび同一分解能で画像化されている。データとしては3枚に共通のファイルヘッダと各スキント固有のヘッダを持つ画像ファイル形式とする。共通のファイルヘッダを共通ヘッダとし、各スキント固有のヘッダを画像ヘッダとする。
【0022】
合成開口ソーナーのスキント処理によって、3枚の多重化されたソーナー画像202を得る方法について、
図2を用いて説明する。通常のサイドスキャンソーナーや合成開口ソーナーでは、squint0のように、真横(0°)に送受信している。本実施の形態では、squint+α、squint0、squint-αの3方位にソーナー201が送受信を行う。ビークル200が航行中に、ソーナー201が斜め前方(+α)、真横(0°)、斜め後方(-α)の順に送受信を行う。それぞれの送受信でのターゲットTは同じ位置となっている。このようにすることで、3-squit重畳領域の画像を得ることができる。3-squit重畳領域は、いずれのスキント方位においても超音波が届いた領域である。
【0023】
図1の説明に戻る。ソーナー画像伝送装置210は、ソーナー201で取得されたソーナー画像202のデータを取得する。ソーナー画像伝送装置210は、水上艇400に伝送するための処理をソーナー画像202に対して施す。なお、ソーナー画像伝送装置210は、ソーナー201と別個の装置として示されているが、ソーナー201と一体の装置となっていてもよい。つまり、ソーナー画像伝送装置210は、ソーナー201に組み込まれていてもよい。
【0024】
ソーナー画像伝送装置210はエンコーダ211と、送信部212と、ループ213とを備えている。エンコーダ211は、ソーナー画像202をエンコードして、伝送ファイル203とする。つまり、エンコーダ211はソーナー画像202のデータを圧縮する。エンコーダ211で圧縮されたソーナー画像は、送信部212に出力される。
【0025】
送信部212は、伝送路300を介して、ソーナー画像の伝送ファイル203を水上艇400に伝送する。ここでは、水中音響通信により、送信部212が圧縮されたソーナー画像を送信する。つまり、伝送路300は水中となっており、水中を伝播する音波によりソーナー画像が送信される。送信部212は、伝送ファイル203の形式でソーナー画像を水上艇400に送信する。
【0026】
ビークル200と水上艇400との間には、音響通信の伝送路300がある。伝送路300は、海中などの自然環境であるため、その時々で通信性能が変動する。よって、エンコーダ211は、適応エンコーダとすることが好ましい。例えば、ソーナー画像伝送装置210は、直近の通信性能をフィードバックするループ213を備えている。送信部212がソーナー画像の伝送ファイル203を送信したときの通信性能が、ループ213を介して、エンコーダ211にフィードバックされる。エンコーダ211は、フィードバックされた通信性能に応じて、次のエンコードにおける圧縮率等を変化させる。エンコーダ211における処理については、後述する。
【0027】
伝送路300を介して、ソーナー画像が水上に伝送される。水上艇400がソーナー画像のデータを受信する。水上艇400は、ソーナー画像受信装置410を備えている。ソーナー画像受信装置410は、受信部411と、デコーダ412とを備えている。受信部411は、ソーナー画像を、伝送ファイル403として、受信する。受信部411は、伝送ファイル403をデコーダ412に出力する。デコーダ412は、伝送ファイル403をデコードする。つまり、デコーダ412は、受信データを再構成して、ソーナー画像404を生成する。
【0028】
デコーダ412で再構成されたソーナー画像404は、水中側と同じ3枚のスキント画像形式として参照可能となる。ただし再構成されたソーナー画像404は、伝送時のエンコーダ211の特性により、必ずしもソーナー画像202と完全に同じ画質に復元されるとは限らない。
【0029】
次に、エンコーダ211における処理について説明する。
図3は、エンコーダ211の一例を示すブロック図である。
図4は、エンコーダ211の各ブロックにおける処理を説明するための図である。エンコーダ211には、画像形式でソーナー画像202が入力される。上記の通り、3枚の多重化されたソーナー画像202がエンコーダ211に入力される。つまり、ソーナー画像202は、3枚のスキント画像202aを有している。
【0030】
それぞれのスキント画像202aの画像サイズをW×H[dots]とする。つまり、1枚のスキント画像202aは、縦方向の画素数がW[dots]、横方向の画素数がH[dots]の矩形画像である。なお、H、Wはそれぞれ1以上の整数である。スキント画像202aは、グレイスケール画像であるため、各画素の輝度情報は所定の階調数で示される。
【0031】
また、スキント画像202aには、共通ヘッダ202b、及び画像ヘッダ202cが付加情報として付されている。3枚のスキント画像202aで、共通ヘッダ202bは共通となっている。また、画像ヘッダ202cは、それぞれのスキント画像202aで異なっている。つまり、3枚のスキント画像202aには固有の画像ヘッダ202cと、共通の共通ヘッダ202bが付されている。
【0032】
分離部221は、ソーナー画像202に含まれているヘッダデータと画像データとを分離する。つまり、分離部221は、ソーナー画像202のデータに含まれている共通ヘッダ202b、及び画像ヘッダ202cのデータを抽出して、スキント画像202aの画像データから分離する。これにより、スキント画像202aが、共通ヘッダ202b、及び画像ヘッダ202cから分離される。共通ヘッダ202b、及び画像ヘッダ202cは、ヘッダデータ圧縮部222に入力される。ここでは、1つの共通ヘッダ202bと、3つの画像ヘッダ202cの合計4つのヘッダデータがヘッダデータ圧縮部222に入力される。
【0033】
ヘッダデータ圧縮部222は、4つのヘッダデータを集合して、圧縮する。これにより、単一の圧縮された圧縮ヘッダデータ205が生成される。例えば、圧縮方式については、zip、7z等の汎用の高圧縮率方式を適用することができる。これにより、大幅にヘッダデータのデータサイズを圧縮することができる。ここでは、ヘッダデータの圧縮については、公知のデータ圧縮手法を用いることができるため、詳細な説明を省略する。ヘッダデータ圧縮部222は、圧縮ヘッダデータ205をアーカイバ240に出力する。
【0034】
一方、3枚のスキント画像202aの画像データは、統合部223に入力される。1枚のスキント画像202aの画像データのサイズは、W×H[dots]であり、それぞれの画素に輝度情報が含まれている。このため、統合部223には、W×H×1ch×3枚のデータが入力される。統合部223は、3枚のスキント画像202aのデータを統合する。
【0035】
統合部223は、3枚のスキント画像202aに異なる色を割り当てて統合することで、カラー画像206を生成する。具体的には、統合部223は、3枚のスキント画像202aの輝度情報にR(赤色)、G(緑色)、B(青色)のチャネルに割り当て、カラー画像206を生成する。例えば、統合部223は、1枚目のスキント画像202aの輝度情報にRのチャネルに割り当てる。統合部223は、2枚目のスキント画像202aの輝度情報にGのチャネルに割り当てる。統合部223は、3枚目のスキント画像202aの輝度情報にBのチャネルに割り当てる。これにより、3枚のスキント画像202aが1枚のカラー画像206に集約される。カラー画像206は、W×H×3ch×1枚のデータとなっている。このようにすることで、効率よくソーナー画像を伝送することができる。
【0036】
カラー画像206のフォーマットとしては、jpeg等の汎用的な圧縮画像フォーマットを採用することが好ましい。つまり、カラー画像206は、データ圧縮機能を備える汎用画像ファイルフォーマットとなっている。統合部223は、データ圧縮機能を備える汎用画像ファイルフォーマットを用いてカラー画像206を生成している。このようにすることで、カラー統合と同時にデータ圧縮を行うことができる。よって、より効率よく、ソーナー画像を伝送することができる。さらに、圧縮率を可変とすることで、画質とデータサイズのトレードオフにも対応することができる。
【0037】
統合部223で生成されたカラー画像206は、圧縮部224に入力される。例えば、圧縮部224は、カラー画像206を間引くことで、データを圧縮する。圧縮部224で圧縮されたカラー画像を圧縮カラー画像207とする。
【0038】
圧縮部224は、カラー画像206の画素を間引くことで、カラー画像206を圧縮している。圧縮部224での間引き率dとすると、データ圧縮率は1/d2となる。つまり、圧縮カラー画像207では、縦方向の画像サイズが、W/dとなり、横方向の画像サイズがH/dとなる。dは、1以上の整数であり、dの値によって間引かれる画素数が変わる。したがって、間引き率dにおいて圧縮率が変わるため、圧縮カラー画像207の画像サイズが変化する。統合部223は、圧縮カラー画像207をアーカイバ240に出力する。
【0039】
圧縮部224は、カラー画像206に含まれる一部の画素を間引いている。圧縮部224は、データの間引きによる圧縮を行う。もちろん、圧縮部224は、間引き処理以外の手法でデータを圧縮してもよい。本実施の形態において、画像又はヘッダデータ等をデータ圧縮は、可逆圧縮でもよく、非可逆圧縮でもよい。
【0040】
ここで、圧縮カラー画像207は、{(W×H)/d2}×3ch×1枚のデータとなっている。さらに、圧縮部224での圧縮率(間引き率d)を可変とすることで、画質とデータサイズのトレードオフにも対応することができる。例えば、d=2とすると、画像サイズは、(W×H)/4[dots]になる。
【0041】
アーカイバ240は、圧縮ヘッダデータ205及び圧縮カラー画像207を1つの伝送ファイル203にまとめる。伝送ファイル203が、水中音響通信の伝送データとして使用される。つまり、
図1に示す送信部212が、伝送ファイル203を送信する。
【0042】
さらに、圧縮率制御部230が統合部223での圧縮率、及び圧縮部224での間引き率dを制御する。例えば、圧縮率制御部230には、伝送路300における通信性能がループ213から入力される。例えば、水中音響通信からは、直近の伝送において得られた通信性能がフィードバックとして、圧縮率制御部230に入力される。圧縮率制御部230は、通信性能に応じて、圧縮率を設定する。
【0043】
統合部223での圧縮率、及び圧縮部224での間引き率dは、画質とデータサイズのトレードオフに対応するパラメータとして利用可能である。つまり、圧縮率、及び間引き率dを小さくすると、元画像に近い高画質となるが、伝送ファイル203のサイズが大きくなる。一方、圧縮率、間引き率dを大きくすると、伝送ファイル203のサイズは小さくなるが、元画像との乖離が大きくなり画質が劣化する。
【0044】
伝送路300での通信環境が良く高いスループットが得られている場合は、圧縮率および間引き率を小さく設定する。これにより、画像サイズは大きいが、高画質の画像を伝送ファイル203とすることができる。一方、通信環境が悪く高いスループットが得られない場合は、圧縮率および間引き率を大きく設定する。画質よりもサイズを優先した伝送ファイルとする。つまり、通信環境が悪い場合であっても、確実に伝送ファイルを伝送することができる。圧縮率制御部230が、通信環境に応じて、伝送ファイル203のデータサイズを変更することで、確実に伝送ファイルを送信することができる。圧縮率制御部230は、圧縮部224での間引き率dのみを制御して、圧縮率を調整してもよい。
【0045】
エンコーダ211によるエンコーディングでは、入力となるソーナー画像202が3枚のスキント画像202aを含んでいる。1枚のスキント画像202aは、W×H[dots]の画像サイズである。ソーナー画像202は、共通ヘッダ202b、画像ヘッダ202cを含んでいる。このうちヘッダ部分は、汎用の高圧縮率方式を適用することでデータサイズを大幅に低減できる。
【0046】
またスキント画像202aは、カラー統合によってW×HドットのRBG画像1枚に集約される。この際、データフォーマットにjpeg等の汎用の圧縮画像フォーマットを採用することで、画像サイズは低減される。このサイズ低減率は、フォーマッティング時の圧縮率指定で制御することができる。汎用画像ファイルフォーマットを採用することで、専用プロセッサやハードウェアを必要とせず、小型・省電力な装置構成で効率的な圧縮が可能となる。
【0047】
間引き率dを設定することで画像サイズを1/d2に低減することが可能となる。間引き率dは1以上の整数である。圧縮率制御部230が、間引き率dを変更することで、圧縮部224での圧縮率が変化する。圧縮率、間引き率はともに画質とデータサイズのトレードオフに対応するパラメータとして利用可能である。通信性能に応じて、圧縮率等を可変することで、ソーナー画像を適切なデータサイズに圧縮することができる。よって、適切にソーナー画像を伝送することができる。
【0048】
次に、デコーダ412での処理について、
図5、及び
図6を用いて説明する。
図5は、デコーダ412の構成を示すブロック図である。
図6は、デコーダ412における各処理を説明するための図である。デコーダ412は、エンコーダ211の処理をほぼ逆にした処理であるため、適宜説明を省略する。
【0049】
受信部411が受信した伝送ファイル403がデコーダ412に入力される。伝送ファイル403は、圧縮ヘッダデータ405と圧縮カラー画像407を含んでいる。圧縮ヘッダデータ405は、伝送ファイル203の圧縮ヘッダデータ205に対応し、圧縮カラー画像407は、伝送ファイル203の圧縮カラー画像207に対応している。
【0050】
抽出部421は、伝送ファイル403に含まれる圧縮ヘッダデータ405と圧縮カラー画像407とを分離する。抽出部421は、圧縮ヘッダデータ405を解凍部422に出力する。解凍部422が圧縮ヘッダデータ405を解凍する。これにより、圧縮ヘッダデータ405が共通ヘッダ402b及び画像ヘッダ402cに復元される。共通ヘッダ402bは、元の共通ヘッダ202bに対応しており、画像ヘッダ402cは元の画像ヘッダ402cに対応している。よって、1つの圧縮ヘッダデータ405から、1つの共通ヘッダ202bと、3つの画像ヘッダ402cが生成される。
【0051】
抽出部421は、圧縮カラー画像407を超解像処理部423に出力する。超解像処理部423は、圧縮カラー画像407の間引きデータを復元することで、復元カラー画像406を生成する。例えば、圧縮カラー画像407の輝度情報を補完することで、エンコーダ211で間引かれた画素の輝度情報が復元される。
【0052】
これにより、{(W×H)/d2}×3ch×1枚の圧縮カラー画像407から、W×H×3ch×1枚の復元カラー画像406が生成される。例えば、汎用画像ビューア等でよく採用されるサンプル補間方式(例えばバイリニア、バイキュービック等)を用いて、復元カラー画像406を生成することができる。超解像処理部423は、データ補間により間引かれたデータを復元する。より高精度な復元が必要な場合は、機械学習等を用いたより高精度な超解像法を採用することも可能である。
【0053】
さらに、超解像処理部423は、復元カラー画像406のRGBチャネルに割り当てられた輝度情報をカラー分離する。つまり、3chの復元カラー画像406を、Rのチャンネルに応じたスキント画像202aと、Gチャネルに応じたスキント画像202aと、Gチャネルに応じたスキント画像202aにカラー分離する。これにより、3枚のスキント画像402aを復元することができる。超解像処理部423は、W×H×1ch×3枚のスキント画像402aを生成する。
【0054】
ヘッダ/画像統合部440は、共通ヘッダ402bと画像ヘッダ402cとスキント画像402aとをフォーマッティングし、ソーナー画像404を得る。ヘッダ/画像統合部440は、スキント画像402aに共通ヘッダ402bと画像ヘッダ402cを付与する。これにより、ソーナー画像404が生成される。このように、デコーダ412は受信部411で受信されたカラー画像からソーナー画像404を復元する。デコーダ412で再構成された受信データは、水中側と同じ3枚のスキント画像形式として参照可能となる。
【0055】
なおデコーダ412側には通信性能のフィードバックは必要なく、水中側で設定された圧縮率および間引き率に応じたデコード処理を行うのみである。また、伝送ファイル203に圧縮率、及び間引き率のデータを含めるようにしてもよい。つまり、圧縮ヘッダデータ205が圧縮率などのデータを含んでいてもよい。
【0056】
[変形例1]
図7、
図8を用いて、変形例について説明する。
図7は、変形例1のデコーダ412の構成を示すブロック図である。
図8は、変形例におけるデータ処理を説明するための図である。上記の実施の形態では、水中側でカラー統合された伝送データをデコーダにおいてカラー分離することで、水中側で取得した多重化ソーナー画像(3枚のスキント画像)を復元している。一方、本変形例では、カラー分離を行わず、カラー統合された1枚のカラー画像としてソーナー画像を提示している。
【0057】
なお、ビークル200側での処理は、実施の形態1と同様であるため説明を省略する。デコーダ412は
図5のカラー分離部424が省略された構成となっている。デコーダ412において、実施の形態1と共通する内容については適宜説明を省略する。
【0058】
実施の形態1と同様に、抽出部421は、伝送ファイル403を圧縮ヘッダデータ405と圧縮カラー画像407に分離する。解凍部422は、圧縮ヘッダデータ405をデータ解凍して、共通ヘッダ402bと画像ヘッダ402cを復元する。共通ヘッダ402bと画像ヘッダ402cは、元の共通ヘッダ202bおよび画像ヘッダ202cに対応している。共通ヘッダ402bおよび画像ヘッダ402cは、ヘッダ/画像統合部440に出力される。
【0059】
超解像処理部423は、圧縮カラー画像407に超解像処理を施す。これにより、圧縮カラー画像407は、間引きデータを復元した復元カラー画像406となる。復元カラー画像406はヘッダ/画像統合部440に出力される。変形例1では、超解像処理後のカラー分離は適用されない。
【0060】
ヘッダ/画像統合部440は、共通ヘッダ402bと、画像ヘッダ402cと、1枚の復元カラー画像406とを統合し、復元画像ファイル408を生成する。ここでは、復元画像ファイル408の1枚のカラー画像408aと、共通画像ヘッダ408bを含んでいる。画像ヘッダ402cにはスキント画像固有のデータが含まれているため、ヘッダ/画像統合部440は、画像ヘッダ402cから1枚のカラー画像408aとして必要な情報だけを抽出する。ヘッダ/画像統合部440は、共通画像ヘッダ408bをカラー画像408aに付与する。カラー画像408aは、復元カラー画像406に対応している。そして、カラー画像408aがソーナー画像として表示される。
【0061】
また、上記の説明では、合成開口ソーナーの画像データを伝送する方式を示したが、合成開口ソーナー以外の各種計測データを伝送する方式として用いてもよい。例えば、サイドスキャンソーナーやマルチビーム・エコーサウンダといった各種ソーナー画像や、ソーナー以外の水中調査用センサの画像データを対象としてもよい。
【0062】
また、スキント処理により送受信方位の異なる3枚の多重化ソーナー画像を入力としたが、他の実施例としては異なる送受信周波数を用いて同時に取得したソーナー画像を入力としてもよい。この場合、3種類の送受信周波数を用いて3枚のソーナー画像が得られれば、上記の実施形態と同じ構成で伝送することができる。
【0063】
ただしエンコード・デコードにあたっては、それぞれの画像のサイズ、分解能は同じとしている。RGBチャネルに対して各ソーナー画像の輝度情報をそれぞれ割り当てる構成となる。また、他の実施例として、水中側のエンコードの処理順序を圧縮(間引き)とカラー統合の順に入れ替える方法が考えられる。例えば、圧縮部224が3枚のスキント画像202aを間引くことで圧縮した後、統合部223が圧縮スキント画像をカラー統合してもよい。この場合、対応するデコード側も同様にカラー分離と超解像の順に入れ替えるのが妥当であるが、両者の順は必ずしも整合させる必要はない。
【0064】
また、他の実施例として、水中側のエンコードに通信性能のフィードバックを適用せず、固定的な圧縮率および間引き率でエンコードを行ってもよい。この場合、水中側は適応エンコードではなく通常のエンコード(非適応エンコード)となるため、よりシンプルな構成で実現できる。その時々の通信環境に応じたベストエフォートな伝送を行うためには、実施の形態1で示したように、適応エンコードを行う。
【0065】
また、他の実施例として、水中側と水上側の通信手段として、水中音響通信以外の方法を用いることが考えられる。具体例として光波や電波を用いた通信が挙げられる。光波や電波を用いた通信方式は水中で使用すると一般的に音響通信に比べて伝搬距離が短くなる。よって、運用上の制約が大きくなることを留意しなければならない。
【0066】
その他の実施の形態.
図9を用いたソーナー画像伝送装置500の構成について説明する。ソーナー画像伝送装置500は、多重化された複数のソーナー画像に異なる色を割り当てて統合することで、カラー画像を生成する統合部501を備えている。ソーナー画像伝送装置500は、前記ソーナー画像又は前記カラー画像を圧縮する圧縮部502と、前記カラー画像を送信する送信部503と、を備えている。この構成によれば、効率よくソーナー画像を伝送することができる。
【0067】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、実施の形態4の5つのスキント画像に対し、実施の形態2又は実施の形態3の処理を適用してもよい。また、5より多いスキント画像に対して、実施の形態1、2、3のいずれの処理を適用してもよい。
【符号の説明】
【0068】
100 ソーナー画像伝送システム
200 ビークル
201 ソーナー
202 ソーナー画像
210 ソーナー画像伝送装置
211 エンコーダ
212 送信部
213 ループ
221 分離部
222 ヘッダデータ圧縮部
223 統合部
224 圧縮部
230 圧縮率制御部
240 アーカイバ
400 水上艇
403 伝送ファイル
411 受信部
412 デコーダ
421 抽出部
422 解凍部
423 超解像処理部
440 ヘッダ/画像統合部