(54)【発明の名称】スペクトルカメラ制御装置、スペクトルカメラ制御プログラム、スペクトルカメラ制御システム、このシステムを搭載した飛行体およびスペクトル画像撮像方法
【文献】
Makynen, J. et al.,Multi- and hyperspectral UAV imaging system for forest and agriculture applications,Proc. of SPIE,2012年,Vol. 8374,pp. 837409-1 - 837409-9
【文献】
中野一也 ほか,UAVを用いた安全運航と撮影に関する検討について,先端測量技術,2015年11月,第107号,第20-21頁
(58)【調査した分野】(Int.Cl.,DB名)
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されており、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させる、スペクトルカメラ制御装置であって、
前記スペクトルカメラにおける露光時間当たりの前記スペクトルカメラの姿勢変化量または位置変化量のうち少なくともいずれかが、前記スペクトルカメラの空間分解能に基づく所定の閾値を超えた場合に、前記スペクトルカメラの露光時間を現露光時間よりも短い時間に設定する、前記スペクトルカメラ制御装置。
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されており、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させる、スペクトルカメラ制御装置であって、
撮像されたスペクトル画像のSN比が所定の閾値未満の場合に、同じ透過波長で複数枚のスペクトル画像を連続して撮像させる、前記スペクトルカメラ制御装置。
請求項1から請求項4のいずれかに記載のスペクトルカメラ制御装置と、このスペクトルカメラ制御装置により制御されるスペクトルカメラとを備えた、スペクトルカメラ制御システム。
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されており、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させるスペクトルカメラ制御装置としてコンピュータを機能させる、スペクトルカメラ制御プログラムであって、
前記スペクトルカメラにおける露光時間当たりの前記スペクトルカメラの姿勢変化量または位置変化量のうち少なくともいずれかが、前記スペクトルカメラの空間分解能に基づく所定の閾値を超えた場合に、前記スペクトルカメラの露光時間を現露光時間よりも短い時間に設定するスペクトルカメラ制御装置としてコンピュータを機能させる、前記スペクトルカメラ制御プログラム。
姿勢センサから前記スペクトルカメラの角速度を取得し、前記露光時間を下記の式(1)により算出するスペクトルカメラ制御装置としてコンピュータを機能させる、請求項7に記載のスペクトルカメラ制御プログラム;
T<X/(H×Ω) ・・・式(1)
ただし、各符号は以下を表す。
T:露光時間(sec)
X:空間分解能(m)
H:飛行体の高度(m)
Ω:スペクトルカメラの角速度(rad/sec)
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されており、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させるスペクトルカメラ制御装置としてコンピュータを機能させる、スペクトルカメラ制御プログラムであって、
撮像されたスペクトル画像のSN比が所定の閾値未満の場合に、同じ透過波長で複数枚のスペクトル画像を連続して撮像させるスペクトルカメラ制御装置としてコンピュータを機能させる、前記スペクトルカメラ制御プログラム。
同じ透過波長で連続して撮像するスペクトル画像の枚数を下記式(2)により算出するスペクトルカメラ制御装置としてコンピュータを機能させる、請求項9に記載のスペクトルカメラ制御プログラム;
N>(SNt/SN1)2 ・・・式(2)
ただし、各符号は以下を表す。
N:撮像するスペクトル画像の枚数
SN1:最初の1枚目のスペクトル画像のSN比
SNt:SN比閾値
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されたスペクトルカメラ制御装置を用いて、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させる、スペクトル画像撮像方法であって、
前記スペクトルカメラにおける露光時間当たりの前記スペクトルカメラの姿勢変化量または位置変化量のうち少なくともいずれかが、前記スペクトルカメラの空間分解能に基づく所定の閾値を超えた場合に、前記スペクトルカメラの露光時間を現露光時間よりも短い時間に設定する、前記スペクトル画像撮像方法。
静止飛行可能な飛行体に液晶波長可変フィルタを備えたスペクトルカメラとともに搭載されたスペクトルカメラ制御装置を用いて、前記飛行体の静止飛行中において前記液晶波長可変フィルタの透過波長を切り換える度に前記スペクトルカメラにスナップショット方式で撮像させる、スペクトル画像撮像方法であって、
撮像されたスペクトル画像のSN比が所定の閾値未満の場合に、同じ透過波長で複数枚のスペクトル画像を連続して撮像させる、前記スペクトル画像撮像方法。
【発明を実施するための形態】
【0021】
以下、本発明に係るスペクトルカメラ制御装置、スペクトルカメラ制御プログラム、スペクトルカメラ制御システム、このシステムを搭載した飛行体およびスペクトル画像撮像方法の一実施形態について図面を用いて説明する。
【0022】
本実施形態の飛行体1は、静止飛行可能に構成されており、
図1に示すように、スペクトルカメラ制御装置6と、このスペクトルカメラ制御装置6により制御されるスペクトルカメラ3とを有するスペクトルカメラ制御システム2を搭載している。以下、各構成について詳細に説明する。
【0023】
飛行体1は、空中で静止飛行する機能、いわゆるホバリング機能を有する飛行体であり、本実施形態では、
図1および
図2に示すように、複数枚の回転翼を有するマルチコプタ型のドローン(無人航空機)によって構成されている。また、本実施形態の飛行体1は、予め指定された飛行経路を自律飛行する機能および通信装置等からの遠隔操作によって飛行する機能を有している。さらに、飛行体1は、図示しないが、飛行中の自機の位置(緯度・経度)および高度を検出するためのGPS(Global Positioning System)受信機と、飛行中の自機の姿勢を検出する姿勢センサとを有している。
【0024】
なお、本実施形態において、飛行体1は、マルチコプタ型のドローンを使用しているが、静止飛行可能な飛行体であればこれに限定されるものではなく、例えば、ヘリコプタ、飛行船、気球等から適宜選択してもよい。
【0025】
つぎに、スペクトルカメラ制御システム2は、
図3に示すように、主として、液晶波長可変フィルタ33(LCTF:Liquid Crystal Tunable Filter)を備えたスペクトルカメラ3と、このスペクトルカメラ3の姿勢および位置の情報を検出する姿勢位置検出器4と、前記スペクトルカメラ3の液晶波長可変フィルタ33を制御する液晶波長可変フィルタ制御回路5と、前記スペクトルカメラ3を制御するスペクトルカメラ制御装置6と、これら各機器に電力を供給するバッテリ7とを有する。
【0026】
スペクトルカメラ3は、スナップショット方式でスペクトル画像を撮像するためのものであり、
図3に示すように、主に、レンズ群31と、偏光を非偏光にするための偏光解消板32と、透過波長を任意に選択できる液晶波長可変フィルタ33と、二次元のスペクトル画像を撮像するイメージセンサ34とを有している。
【0027】
そして、スペクトルカメラ3は、
図1および
図3に示すように、飛行体1が静止飛行中に、地表面が撮像対象となるように鉛直下方に向けて飛行体1に搭載されている。本発明において、スナップショット方式とは、イメージセンサ34に対する一回の露光により、所定の単一波長について、二次元の視野内における位置座標ごとのスペクトル強度を全て同時にイメージとして取得する方式をいうものとする。
【0028】
レンズ群31は、光の屈折を利用して撮像対象からの光を液晶波長可変フィルタ33に透過させるとともに、透過後の光をイメージセンサ34に集光させるものである。本実施形態におけるレンズ群31は、
図3に示すように、撮像対象の光を集光して液晶波長可変フィルタ33に入光させる入光レンズ311と、前記液晶波長可変フィルタ33を透過後の透過波長のみの光をイメージセンサ34に集光する集光レンズ312とによって構成されている。なお、各レンズの種類や枚数は特に限定されるものではなく、スペクトルカメラ3の性能等に応じて適宜選択してよい。
【0029】
偏光解消板32は、偏光を解消して非偏光にするためのものである。本実施形態において、偏光解消板32は、液晶波長可変フィルタ33の入光側に設けられ、液晶波長可変フィルタ33を透過する前の光の偏光を解消し、偏光特性を軽減するようになっている。
【0030】
液晶波長可変フィルタ33は、予め定めた波長範囲内から透過波長を任意に選択できる光学フィルタである。液晶波長可変フィルタ33は、図示しないが、板状の液晶素子と板状の偏光素子とを交互に複数枚重ね合わせた構成を有している。各液晶素子は、液晶波長可変フィルタ制御回路5から供給される印加電圧によって配向状態が独立に制御される。このため、液晶波長可変フィルタ33は、前記液晶素子の配向状態と前記偏光素子との組み合わせにより、任意の波長の光を透過させられるようになっている。
【0031】
なお、本実施形態において、液晶波長可変フィルタ33の透過波長の幅は、約20nm以下であり、透過中心波長を1nmごとに設定でき、波長切り換え時間は10ms〜数100ms程度である。
【0032】
イメージセンサ34は、スナップショット方式でスペクトル画像を撮像するものである。本実施形態において、イメージセンサ34は、CMOSイメージセンサやCCDイメージセンサ等の視野内を同じタイミングで撮像可能な二次元イメージセンサからなる。また、イメージセンサ34は、
図3に示すように、スペクトルカメラ制御装置6から送信される撮像指令信号に基づいて撮像を実行するようになっている。
【0033】
姿勢位置検出器4は、スペクトルカメラ3の姿勢および位置の状態を検出する機器である。本実施形態における姿勢位置検出器4は、スペクトルカメラ3の位置情報および高度情報を検出するGPS受信機41と、前記スペクトルカメラ3の姿勢情報を検出する姿勢センサ42とを有する。
【0034】
GPS受信機41は、複数の人工衛星の位置を補足することで現在の位置情報および高度情報を取得するものである。本実施形態におけるGPS受信機41は、位置情報として経度情報および緯度情報を取得するとともに、高度情報として標高の情報を取得するようになっている。なお、位置情報および高度情報は、GPS受信機41により取得するものに限定されるものではなく、他の方法により取得してもよい。例えば、基準点を定めレーザー光や音響の反射を用いた距離計測器等によって前記基準点からの距離や高度情報として取得してもよい。
【0035】
姿勢センサ42は、スペクトルカメラ3の傾斜角度、角速度および加速度の姿勢情報を検出するものである。本実施形態における姿勢センサ42は、図示しないが、ジャイロ特性を利用したジャイロセンサと加速度センサとから構成され、姿勢情報として傾斜角度、角速度および3軸方向の加速度を取得するようになっている。
【0036】
なお、本実施形態では、スペクトルカメラ制御システム2として備えられている姿勢位置検出器4から位置情報および姿勢情報を取得しているが、この構成に限定されるものではない。例えば、飛行体1が既に備えているGPS受信機および姿勢センサから位置情報および姿勢情報を取得するようにしてもよい。
【0037】
液晶波長可変フィルタ制御回路5は、液晶波長可変フィルタ33を制御するものである。本実施形態において、液晶波長可変フィルタ制御回路5は、
図3に示すように、スペクトルカメラ制御装置6から送信される波長特定信号を受信すると、当該波長特定信号に応じた印加電圧を液晶波長可変フィルタ33の液晶素子に供給するようになっている。また、波長特定信号には、液晶波長可変フィルタ33により透過させる透過波長の情報が含まれており、液晶波長可変フィルタ制御回路5では、前記透過波長の情報に基づいてどの液晶素子に印加電圧を供給するかを判別し、特定された液晶素子に印加電圧を供給するようになっている。
【0038】
なお、本実施形態における液晶波長可変フィルタ制御回路5は、スペクトルカメラ制御装置6等の他の構成から独立して構成されているが、これに限定されるものではなく、例えば、スペクトルカメラ制御装置6またはスペクトルカメラ3が備えていてもよい。
【0039】
つぎに、本実施形態のスペクトルカメラ制御装置6について説明する。
【0040】
スペクトルカメラ制御装置6は、スペクトルカメラ3によるスペクトル画像の撮像を制御するものであり、
図4に示すように、主に、スペクトルカメラ制御プログラム6aや各種のデータ等を記憶する記憶手段61と、この記憶手段61等から各種のデータを取得して演算処理する演算処理手段62とから構成されている。また、本実施形態におけるスペクトルカメラ制御装置6は、外部の通信装置等との無線通信を可能とするための無線通信手段63を備えている。
【0041】
記憶手段61は、ROM、RAM、ハードディスク、フラッシュメモリ等によって構成されており、各種のデータを記憶するとともに、演算処理手段62が演算を実行する際のワーキングエリアとして機能するものである。本実施形態における記憶手段61は、主に、スペクトルカメラ制御プログラム6aを記憶するプログラム記憶部611と、スペクトルカメラ3によってスペクトル画像を撮像する開始条件を記憶する撮像開始条件記憶部612と、スペクトル画像を撮像する露光時間等の撮像条件を記憶する撮像条件記憶部613と、各種の閾値を記憶する閾値記憶部614と、スペクトルカメラ3により撮像されたスペクトル画像とともに撮像時刻等を記憶するスペクトル画像記憶部615とを有する。
【0042】
プログラム記憶部611には、本実施形態のスペクトルカメラ制御プログラム6aがインストールされている。そして、演算処理手段62が、前記スペクトルカメラ制御プログラム6aを実行し、後述する各構成部として機能させることにより、コンピュータをスペクトルカメラ制御装置6として機能させるようになっている。
【0043】
なお、スペクトルカメラ制御プログラム6aの利用形態は、上記構成に限られるものではない。例えば、CD−ROMやUSBメモリ等のように、コンピュータで読み取り可能な非一時的な記録媒体にスペクトルカメラ制御プログラム6aを記憶させておき、この記録媒体から直接読み出して実行してもよい。また、外部サーバ等からクラウドコンピューティング方式やASP(application service provider)方式等で利用してもよい。
【0044】
撮像開始条件記憶部612には、スペクトルカメラ3による撮像開始条件に関する情報が記憶されている。本実施形態において、撮像開始条件としては、
図4に示すように、スペクトルカメラ3がスペクトル画像を撮像する開始の時刻である撮像開始時刻、前記スペクトル画像を撮像する開始の経度情報および緯度情報である位置条件および前記スペクトル画像を撮像する開始の高度情報である高度条件が記憶されている。
【0045】
ここで、高度条件は、所望するスペクトルカメラ3の空間分解能に応じて設定される。具体的には、スナップショット方式で撮像されるスペクトル画像の空間分解能Xは、イメージセンサ34の1画素の大きさをd、スペクトルカメラ3の焦点距離をf、撮像を行う高度をHとすると、X=H×d/fで表される。ここで、d/fはスペクトルカメラ3の仕様で決まる一定値である。よって、スペクトルカメラ3の空間分解能Xは、スペクトルカメラ3の高度Hの関数となる。言い換えると、本実施形態における空間分解能は、スペクトルカメラ3の露光時間とは関係なく、撮像開始条件としての高度条件に基づき任意に設定することが可能である。
【0046】
撮像条件記憶部613は、スペクトル画像を撮像する際の各種の撮像条件を記憶するものである。本実施形態において、撮像条件記憶部613には、
図4に示すように、初期設定された露光時間、後述する処理によって最適化または再設定された露光時間、およびスペクトル画像として撮像するのに必要な特定の透過波長が記憶されるようになっている。前記撮像条件記憶部613において記憶される特定の透過波長は、必要な特定の透過波長のみを選択して記憶されている。ここで記憶される特定の透過波長は、所定の波長範囲を一定の波長間隔で特定した透過波長でもよく、不等間隔で特定した透過波長でもよい。
【0047】
つぎに、閾値記憶部614には、スペクトルカメラ3を制御するための各種の閾値が記憶されている。本実施形態における閾値記憶部614には、
図4に示すように、イメージセンサ34が処理可能な明度の限界値である飽和限界値と、撮像するスペクトル画像にブレが生じるスペクトルカメラ3の角速度の限界値である角速度閾値と、撮像したスペクトル画像から農作物の生育等の各種情報を取得するのに必要となるSN比(シグナル・ノイズ比)の限界値であるSN比閾値とが記憶されている。なお、飽和限界値、ブレが生じる角速度およびSN比に関する詳細情報は後述する。
【0048】
スペクトル画像記憶部615には、スペクトルカメラ3によって撮像されたスペクトル画像等が記憶される。本実施形態におけるスペクトル画像記憶部615には、
図4に示すように、前記スペクトル画像とともに、撮像時刻、撮像時におけるスペクトルカメラ3の位置情報、高度情報および姿勢情報が記憶される。なお、本実施形態におけるスペクトル画像記憶部615は、スペクトルカメラ制御装置6の記憶手段61に設けられているが、これに限定されるものではなく、スペクトルカメラ3あるいは前記スペクトルカメラ制御装置6と無線通信可能な記憶装置側に備えるようにしてもよい。
【0049】
次に、演算処理手段62について説明する。スペクトルカメラ制御装置6における演算処理手段62は、CPU(Central Processing Unit)等から構成されており、記憶手段61にインストールされたスペクトルカメラ制御プログラム6aを実行させることにより、
図4に示すように、スペクトルカメラ制御装置6としてのコンピュータを、撮像開始条件判別部621と、最適露光時間設定部622と、姿勢位置情報取得部623と、姿勢位置変化判別部624と、露光時間再設定部625と、スペクトル画像取得部626と、SN比判別部627と、連続撮像枚数算出部628と、追加スペクトル画像取得部629と、撮像終了判別部630と、波長特定信号送信部631として機能させるようになっている。以下、各構成部についてより詳細に説明する。
【0050】
撮像開始条件判別部621は、スペクトルカメラ3による撮像開始条件を判別するように機能する。具体的には、撮像開始条件判別部621は、現在の時刻、姿勢位置検出器4により検出されたスペクトルカメラ3の位置情報および高度情報が撮像開始条件記憶部612に記憶されている撮像開始時刻、位置条件および高度条件を満たすか否かの判別処理を実行する。そして、撮像開始条件が満たされた場合、撮像開始条件判別部621は、スペクトルカメラ3による撮像処理を開始させるようになっている。
【0051】
最適露光時間設定部622は、スペクトルカメラ3の最適な露光時間を自動的に設定するように機能する。具体的には、最適露光時間設定部622は、まず、撮像条件記憶部613に初期設定されている露光時間でスペクトル画像を1枚撮像させ、当該スペクトル画像中の最大画素値を取得する。つぎに、最適露光時間設定部622は、前記最大画素値が閾値記憶部614に記憶されている飽和限界値未満であるか否かを判別する。
【0052】
そして、判別の結果、前記最大画素値が前記飽和限界値未満の場合、最適露光時間設定部622は、初期設定の露光時間を最適な露光時間として設定する。一方、前記最大画素値が前記飽和限界値以上の場合、最適露光時間設定部622は、露光時間を短くして再度、スペクトル画像を撮像させ、最大画素値が前記飽和限界値未満となるまで上記処理を繰り返す。そして、最大画素値が前記飽和限界値未満となったときの露光時間を最適な露光時間として撮像条件記憶部613に設定する。
【0053】
ここで、最適露光時間設定部622による上記処理の意味について説明する。スペクトルカメラ3のイメージセンサ34では、撮像対象から放射される光をアナログの電気信号として検出し、そのアナログの電気信号をデジタル化して画像情報としている。そのため、撮像対象から放射させる光が暗いと相対的にノイズが大きくなる。よって、露光時間を長くして十分な光を受光する必要がある。しかし、イメージセンサ34が、処理できる限界よりも明るい光を受けた場合には前記アナログの電気信号が飽和して正確な値の信号を取得することができない。よって、最適露光時間設定部622は、アナログの電気信号が飽和しない範囲でできるだけ明るい画像が得られる露光時間を最適な露光時間として設定するようになっている。
【0054】
なお、一般的に、露光時間は、撮像対象の明度、つまり分光放射輝度(W/m
2/sr/nm)に基づき決定される。この分光放射輝度I(λ)は、取得されるスペクトル画像の各画素に対する画素値Dと、I(λ)=C(λ)×D/Tという関係がある。ここで、C(λ)は、波長λにおける校正係数であり、既知の光源を用いた実験によって得られる値である。よって、最適露光時間設定部622は、撮像対象の明度と比例関係にある画素値に基づいて、露光時間を設定するようになっている。
【0055】
このように、本実施形態のスペクトルカメラ制御装置6は、空間分解能と別途独立にスペクトルカメラ3の露光時間を設定することができるように構成されている。
【0056】
つぎに、姿勢位置情報取得部623は、姿勢位置検出器4からスペクトルカメラ3の露光時間当たりにおけるスペクトルカメラ3の姿勢変化量または位置変化量を取得するように機能する。本実施形態における姿勢位置情報取得部623は、姿勢センサ42からスペクトルカメラ3の角速度を取得する。
【0057】
姿勢位置変化判別部624は、飛行体1の姿勢および静止位置が、スペクトル画像にブレを生じさせる程度に変化したか否かを判別するものである。本実施形態において、姿勢位置変化判別部624は、姿勢位置情報取得部623により取得されたスペクトルカメラ3の露光時間当たりにおけるスペクトルカメラ3の姿勢変化量または位置変化量のうち少なくともいずれかが、前記スペクトルカメラ3の空間分解能に基づく所定の閾値以内か否かを判別するように機能する。
【0058】
ここで、スペクトル画像にブレが生じる要因等について説明する。本実施形態において、スペクトル画像の撮像は飛行体1の静止飛行中に行われる。しかし、静止飛行中において、飛行体1が突風等の外的要因を受けると、
図5(a)に示すように飛行体1の姿勢変化や、
図5(b)に示すように静止飛行の位置変化が起こる。そして、前記飛行体1の姿勢変化または位置変化によって露光時間内に撮像対象の直下点の変化量(
図5におけるA点からB点への変化量)がスペクトルカメラ3の空間分解能を超える動きをしたときに、撮像されたスペクトル画像にブレが生じることとなる。
【0059】
また、スペクトルカメラ3は、撮像対象までの距離が長い高所から撮像するものであるため、露光時間内に撮像対象の直下点の変化量は高度に比例して増大する。したがって、露光時間をT、空間分解能をX、スペクトル画像を撮像する時におけるスペクトルカメラ3の高度をHとすると、露光時間T当たりの角度変化がX/Hよりも大きくなると、すなわち飛行体1の角速度がX/(H×T)以上になると、撮像されるスペクトル画像にブレが生じる。
【0060】
以上を踏まえ、本実施形態における姿勢位置変化判別部624は、姿勢位置情報取得部623により取得したスペクトルカメラ3の角速度と、閾値記憶部614に記憶されている所定の角速度閾値とを比較し、前記角速度が前記角速度閾値を超えたか否かを判別するように機能する。
【0061】
なお、本実施形態における姿勢位置変化判別部624では、スペクトルカメラ3の角速度に基づきスペクトル画像にブレが生じるか否かの判別を行ったが、これに限定されるものではなく、
図5(b)に示すように、位置変化によるブレも生じることから、姿勢センサ42の加速度センサから取得した位置変化率またはGPS受信機41から取得した位置の変化量に基づきスペクトル画像のブレが生じるか否かを判別してもよい。
【0062】
つぎに、露光時間再設定部625は、スペクトル画像にブレが生じないようにスペクトルカメラ3の露光時間を再設定するように機能する。具体的には、露光時間再設定部625は、姿勢位置変化判別部624によって角速度が角速度閾値を超えたと判別された場合、現在設定されている現露光時間よりも短い時間を新たな露光時間として撮像条件記憶部613に再設定するようになっている。
【0063】
本実施形態における露光時間再設定部625は、スペクトルカメラ3の姿勢変化量として角速度を検出する姿勢センサ42から前記スペクトルカメラ3の角速度を取得し、下記式(1)により新たな露光時間を算出するとともに、前記スペクトルカメラ3の露光時間として撮像条件記憶部613に記憶させて再設定する。
T<X/(H×Ω) ・・・式(1)
ただし、各符号は以下を表す。
T:露光時間(sec)
X:空間分解能(m)
H:飛行体の高度(m)
Ω:スペクトルカメラの角速度(rad/sec)
なお、飛行体1の高度Hは撮像開始条件記憶部612から取得され、空間分解能Xは、上記のとおり、前記高度Hに基づいて算出される。
【0064】
スペクトル画像取得部626は、イメージセンサ34に撮像させる撮像指令信号を前記スペクトルカメラ3に送信し、スナップショット方式で撮像されたスペクトル画像を取得するように機能する。本実施形態において、スペクトル画像取得部626は、
図6に示すように、液晶波長可変フィルタ制御回路5により液晶波長可変フィルタ33の透過波長が切り換えられる度に、スペクトル画像を一回撮像し、スペクトル画像記憶部615に保存するようになっている。
【0065】
SN比判別部627は、取得されたスペクトル画像が、各種情報の取得に必要な画質を確保しているか否かを確認するため、SN比が所定のSN比閾値未満か否かを判別するように機能する。そして、判別の結果、前記SN比が前記SN比閾値未満の場合のみ、スペクトル画像取得部626に同じ透過波長で複数枚のスペクトル画像を連続して撮像させるようになっている。
【0066】
ここで、SN比とは、信号レベル(シグナル)を雑音レベル(ノイズ)で除算した数値のことである。ただし、雑音レベルは、同じスペクトルカメラ3、同じ液晶波長可変フィルタ33、同じレンズ構成、同じ設定条件および同じ撮像環境においてほぼ一定値を示すため、予め計測しておくことができる。よって、スペクトル画像のSN比は、画素値に基づく信号レベルのみ算出すれば求めることが可能である。
【0067】
したがって、本実施形態において、SN比判別部627は、撮像によって取得したスペクトル画像から信号レベルを算出し、これを予め計測した雑音レベルで除算してSN比を算出する。そして、前記SN比と閾値記憶部614に記憶されているSN比閾値とを比較するようになっている。
【0068】
連続撮像枚数算出部628は、スペクトル画像の画質を向上させるために追加で撮像すべきスペクトル画像の撮像枚数を算出するものである。SN比が低いスペクトル画像であっても、画像処理によって同じ透過波長のスペクトル画像を複数枚重ね合わせることにより得られるスペクトル画像のSN比が向上することが期待される。このため、連続撮像枚数算出部628は、SN比判別部627の判別処理により取得されたスペクトル画像のSN比が、SN比閾値未満であると判別された場合、何枚の画像を重ね合わせればそのスペクトル画像のSN比が前記SN比閾値より大きくなるかを算出するように機能する。
【0069】
具体的には、N枚の画像を重ね合わせた場合の信号レベルはN倍となるのに対し、ノイズレベルは一般的に√N倍となる性質を有する。このため、N枚の画像を重ね合わせた場合のSN比は(N/√N)倍、つまり、最初の1枚目のスペクトル画像のSN比の√N倍となる。よって、連続撮像枚数算出部628は、下記の式(2)を満たす整数値を、連続して取得すべきスペクトル画像の枚数Nとして算出する。
N>(SNt/SN1)
2 ・・・式(2)
ただし、各符号は以下を表す。
N:撮像するスペクトル画像の枚数
SN1:最初の1枚目のスペクトル画像のSN比
SNt:SN比閾値
【0070】
なお、連続して取得するスペクトル画像の枚数は、上記式(2)により算出される方法に限定されるものではなく、予め定められた枚数としてもよい。
【0071】
追加スペクトル画像取得部629は、スペクトル画像の画質を向上させるため、スペクトル画像を追加で取得するものである。本実施形態において、追加スペクトル画像取得部629は、SN比判別部627によって、取得されたスペクトル画像のSN比がSN比閾値未満と判別された場合、連続撮像枚数算出部628により算出された枚数Nから最初の1枚目を差し引いたN−1枚分の撮像指令信号をスペクトルカメラ3に送信し、同じ透過波長のスペクトル画像を連続して取得するようになっている。
【0072】
具体的には、
図7に示すように、追加スペクトル画像取得部629は、液晶波長可変フィルタ制御回路5により液晶波長可変フィルタ33の透過波長が切り換えられる前に、スペクトル画像取得部626による撮像指令信号に続けて、N−1回分の撮像指令信号を前記スペクトルカメラ3に送信し、同じ透過波長のスペクトル画像をスナップショット方式で連続して取得する。
【0073】
撮像終了判別部630は、スペクトル画像の撮像が終了したか否かを判別するように機能する。本実施形態において、撮像終了判別部630は、撮像条件記憶部613に記憶されている透過波長範囲と、撮像済みのスペクトル画像とを比較し、全ての波長についてスペクトル画像が撮像されたとき、撮像終了と判定するようになっている。
【0074】
波長特定信号送信部631は、液晶波長可変フィルタ制御回路5に波長特定信号を送信し、液晶波長可変フィルタ33の透過波長を切り換えるためのものである。本実施形態において、波長特定信号送信部631は、撮像が終了していない限り、液晶波長可変フィルタ制御回路5に波長特定信号を順次送信するように機能する。具体的には、波長特定信号送信部631は、撮像条件記憶部613に記憶されている特定の透過波長のうち、まだ撮像されていない特定の透過波長に対応する波長特定信号を予め設定された順に液晶波長可変フィルタ制御回路5に送信する。前記波長特定信号の送信は、各透過波長により撮像してスペクトル画像が取得される度に繰り返し実行され、すべての特定の透過波長によるスペクトル画像が取得されると撮像が終了するようになっている。
【0075】
無線通信手段63は、通信装置と無線通信を行うためのものである。無線通信手段63は、携帯電話等の通信網や無線LAN、Wi-Fi、Bluetooth(登録商標)等の任意の無線通信方式により無線通信を行うための送受信機である。無線通信手段63は、無線通信を介してスペクトルカメラ制御装置6の遠隔操作や各種設定、およびスペクトル画像等のデータの送受信ができるようになっている。
【0076】
バッテリ7は、各機器に電源を供給するものであり、本実施形態では、
図3に示すように、姿勢位置検出器4、スペクトルカメラ制御装置6、液晶波長可変フィルタ制御回路5およびスペクトルカメラ3のイメージセンサ34のそれぞれに接続されており電源を供給するようになっている。なお、本実施形態におけるイメージセンサ34のバッテリ7は、スペクトルカメラ制御装置6等と共通で使用しているが、これに限られるものではなく、スペクトルカメラ3が独自のバッテリを装備していてもよい。
【0077】
つぎに、本実施形態のスペクトルカメラ制御装置6、スペクトルカメラ制御プログラム6a、スペクトルカメラ制御システム2、このシステムを搭載した飛行体1およびスペクトル画像撮像方法の作用について説明する。
【0078】
まず、本実施形態における飛行体1が、飛行体1の制御プログラムによって予め指定された飛行経路に沿って自律飛行を行い、所定の位置および所定の高度の撮像地点まで飛行し、前記撮像地点において静止飛行を行う。このとき、スペクトル画像の空間分機能は、飛行体1の高さと比例関係にあるため、前記高さによって任意の値に制御することが可能である。
【0079】
つぎに、スペクトルカメラ制御装置6が、
図8に示すように、撮像開始条件判別部621によってスペクトルカメラ3が撮像開始条件を充足するか否かの判別処理を実行する(ステップS1)。具体的には、撮像開始条件記憶部612から撮像開始条件として撮像開始時刻、位置条件および高度条件を取得するとともに、GPS受信機41からスペクトルカメラ3の位置情報および高度情報を取得し、前記撮像開始条件を満たすか否かを判別する。この判別は、スペクトルカメラ3の状態がすべての撮像開始条件を満たすまで繰り返し実行される(ステップS1:NO)。
【0080】
つづいて、撮像開始条件判別部621がすべての撮像開始条件を満たすと判別した場合(ステップS1:YES)、最適露光時間設定部622が、スペクトルカメラ3の最適な露光時間を自動的に設定する(ステップS2)。具体的には、
図9に示すように、まず、最適露光時間設定部622が、スペクトルカメラ3に対して初期設定された露光時間でスペクトル画像を1枚撮像させ(ステップS21)、このスペクトル画像中の最大画素値を取得する(ステップS22)。
【0081】
つぎに、最適露光時間設定部622は、前記最大画素値が閾値記憶部614に記憶された飽和限界値未満か否かを判別する(ステップS23)。判別の結果、前記最大画素値が前記飽和限界値以上であると判別された場合(ステップS23:NO)、最適露光時間設定部622が、露光時間を初期設定された露光時間よりも短時間に設定し、再度、スペクトルカメラ3にスペクトル画像を1枚撮像させる(ステップS24)。そして、ステップS22からの処理を繰り返し、最大画素値が前記飽和限界値未満であると判別された場合(S23:YES)、最適露光時間設定部622が、その時点で設定されている露光時間をスペクトルカメラ3の最適露光時間に設定する。これにより、飛行中に太陽高度や雲量の変化により明るさが変化したような場合であっても、最適な露光時間での撮像が可能となる。
【0082】
つぎに、姿勢位置情報取得部623が、姿勢センサ42から角速度を取得すると(ステップS3)、姿勢位置変化判別部624が、前記角速度と閾値記憶部614に記憶された角速度閾値とを比較し、前記角速度が前記角速度閾値を超えたか否かを判別する(ステップS4)。判別の結果、スペクトルカメラ3の角速度が角速度閾値以下と判別された場合(ステップS4:NO)、飛行体1が安定的に静止飛行しているものとして露光時間の再設定は行わず、最適露光時間設定部622により設定された露光時間を前記スペクトルカメラ3の露光時間とする。
【0083】
一方、姿勢位置変化判別部624が、スペクトルカメラ3の角速度が角速度閾値を超えていると判別した場合(ステップS4:YES)、露光時間再設定部625が、現露光時間よりも短い時間からなる新たな露光時間に前記スペクトルカメラ3の露光時間を再設定する(ステップS5)。これにより、スペクトル画像にブレが生じない程度に露光時間が自動的に調整されるため、空間分解能の低下が抑制される。
【0084】
以上のように、本実施形態のスペクトルカメラ制御装置6では、露光時間と空間分解能とを独立に設定することが可能である。このため、高い空間分解能を確保しながら、スペクトルカメラ3の姿勢変化量や位置変化量に応じて前記露光時間をリアルタイムに調整し、スペクトル画像のブレを抑制する。
【0085】
つぎに、スペクトル画像取得部626が、スペクトルカメラ3に撮像指令信号を送信してスペクトル画像を取得する(ステップS6)。このとき、取得したスペクトル画像は、撮像時刻、位置情報、高度情報および姿勢情報とともにスペクトル画像記憶部615に記憶される。このため、最終的に視野を一致させるための幾何補正などの画像処理が容易になる。
【0086】
つづいて、SN比判別部627が、取得されたスペクトル画像のSN比がSN比閾値未満か否かを判別する(ステップS7)。これにより、最適露光時間設定部622により設定された最適な露光時間が、その後、スペクトルカメラ3の姿勢変化量や位置変化量に応じて再設定された場合でも、SN比の適否が判別される。
【0087】
上記判別の結果、取得されたスペクトル画像のSN比が所定のSN比閾値未満であると判別された場合(ステップS7:YES)、連続撮像枚数算出部628が、上記式(2)に基づいて、重ね合わせるべきスペクトル画像の撮像枚数を算出する(ステップS8)。
【0088】
そして、追加スペクトル画像取得部629が、連続撮像枚数算出部628により算出された撮像枚数に基づいて撮像指令信号を送信し、
図7に示すように、同じ透過波長のスペクトル画像を連続的に取得する(ステップS9)。これにより、単一のスペクトル画像では、所定のSN比を確保できない撮像条件下であっても、重ね合わせることで前記SN比を確保しうる枚数のスペクトル画像が取得される。
【0089】
一方、SN比判別部627が、取得されたスペクトル画像のSN比が前記SN比閾値以上であると判別した場合(ステップS7:NO)、追加でスペクトル画像を取得することなく次の処理に進む(ステップS10)。
【0090】
必要数のスペクトル画像が取得されると、撮像終了判別部630が、スペクトル画像の撮像が終了したか否かを判別する(ステップS10)。そして、判別の結果、スペクトル画像の撮像が終了していないと判別された場合(ステップS10:NO)、波長特定信号送信部631が、未撮像の波長特定信号を液晶波長可変フィルタ制御回路5に送信する(ステップS11)。
【0091】
これにより、液晶波長可変フィルタ制御回路5が、受信した波長特定信号に応じた印加電圧をスペクトルカメラ3の液晶波長可変フィルタ33へと供給する。そして、前記液晶波長可変フィルタ33では、印加電圧に応じて液晶素子の配向状態が制御され、波長特定信号によって特定されている透過波長への切り換えが行われる。
【0092】
そして、波長特定信号が送信されると(ステップS11)、上記ステップS3へと戻り、各透過波長でのスペクトル画像が取得される度に繰り返し実行される。これにより、目的に応じて必要最小限の透過波長のみのスペクトル画像を取得することにより、一連のスペクトル画像の撮像に係る時間を大幅に短縮することが可能になり、飛行体1の移動可能範囲も広げることにもなる。そして、すべての透過波長によるスペクトル画像が取得されると撮像が終了する(ステップS10:YES)。
【0093】
スペクトルカメラ3による撮像終了後、飛行体1は、静止飛行状態から自律飛行に変わり、次の撮像地点まで飛行する。スペクトルカメラ制御装置6は、次の撮像地点において、それまでの撮像地点において撮像した透過波長と同じ透過波長または異なる透過波長のスペクトル画像を撮像する。そして、飛行体1は、全ての撮像地点による撮像終了後、所定の場所に帰還ないし着陸する。
【0094】
以上のような本実施形態によれば、以下の効果を得ることができる。
1.液晶波長可変フィルタ33を備えたスペクトルカメラ3を静止飛行可能な飛行体1に搭載してスナップショット方式で撮像させるため、スペクトル画像の空間分解能を撮像高度に応じて任意に設定することができる。
2.スペクトルカメラ3の露光時間は、スペクトルカメラ3の空間分解能に対して独立して設定でき、スペクトルカメラ3の姿勢変化量または位置変化量に基づきリアルタイムに再設定されるためスペクトル画像の空間的な歪みやブレを抑制することができる。
3.空間分解能の制御機能と、飛行体1に起因するブレの抑制機能とが独立に制御可能であるため、空間解像度の高いスペクトル画像を撮像することができる。
4.スペクトル画像として撮像対象とする全ての波長において、所定のSN比を確保することができる。
5.所定のSN比を確保するために必要な撮像枚数を自動的に算出することができる。
6.スナップショット方式のイメージセンサ34や液晶波長可変フィルタ33は、比較的軽量でかつ安価であり、市販の静止飛行可能な飛行体1に搭載することが可能であるため、製造コストを抑制でき、一般にも広く普及できる。
7.スナップショット方式の液晶波長可変フィルタ33を静止飛行可能な飛行体1に搭載することにより、指定時刻に指定位置においてスペクトル画像を自動的に撮像することができる。
【0095】
つぎに、本発明に係るスペクトルカメラ制御装置6、スペクトルカメラ制御プログラム6a、スペクトルカメラ制御システム2、このシステムを搭載した飛行体1およびスペクトル画像撮像方法の具体的な実施例について説明する。なお、本発明の技術的範囲は、以下の実施例によって示される特徴に限定されるものではない。
【実施例1】
【0096】
実施例1では、液晶波長可変フィルタを備えたスペクトルカメラを、マルチコプタ型のドローンに搭載し、スペクトル画像を撮像した。
【0097】
スペクトルカメラは、
図10に示すように、対角視野角が約90度のレンズを備えている。イメージセンサは、CCDイメージセンサであり、659×494の画素数を有している。飛行体は、高度約120mに静止飛行させた。このとき、地上に投影した視野の大きさは192m×144mである。また、イメージセンサの1画素は1辺が約0.22mに相当する。つまり、本実施例1におけるスペクトルカメラの空間分解能は約0.22mである。
【0098】
本実施例1における撮像は、460nmから780nmまで、10nm間隔で33透過波長に対して行った。撮像に係る諸元は下記表1の通りである。
(表1)
【0099】
つぎに、撮像されたスペクトル画像の応用例として、取得された33個の透過波長のスペクトル画像うち、2つ透過波長のスペクトル画像から正規化植生指数(NDVI)を算出した。
図11は、正規化植生指数の数値を色の濃淡で表したカラーマップである。この
図11において、指数の値が1に近いほど(色の濃淡が白いほど)、植生が濃いことを示している。このように、スペクトル画像により、植生の育成状態を定量的に評価できる。
【0100】
以上より、本実施例1によれば、約100mの高度からスペクトル画像を撮像することにより、約20cmの空間分解能で詳細なスペクトル情報が得られることが示された。
【実施例2】
【0101】
実施例2では、本発明によって、スペクトル画像のブレが抑制されることを確認する実験を行った。具体的には、露光時間を20msと50msに設定してスペクトル画像を撮像するとともに、姿勢センサによりスペクトルカメラの角速度の測定を行った。その他の撮像に係る諸元は実施例1と同じである。
【0102】
図12は、露光時間を20msとした場合に得られたスペクトル画像である。この
図12に示すように、取得されたスペクトル画像では、中央や左側に撮像された建物および生い茂る植物をはっきり視認することができる。
【0103】
一方、
図13は、露光時間を50msとした場合に得られたスペクトル画像であるが、
図12とは異なり、建物および植物がぼやけておりスペクトル画像のブレが生じているのが見て取れる。
【0104】
そこで、各々の露光時間に基づき、ブレを生じさせずに空間分解能を保てる角速度について算出した。具体的には、露光時間をT、空間分解能をX、スペクトル画像を撮像した時におけるスペクトルカメラの高度をHとして、角速度Ω=X/(H×T)を算出した。その結果、露光時間20msにおけるブレが生じない角速度Ωは、
Ω=0.22/(120×0.02)=0.092rad/secであった。
同様に、露光時間50msにおけるブレが生じない角速度Ωは、
Ω=0.22/(120×0.05)=0.037rad/secであった。
【0105】
一方、姿勢センサにより計測されたスペクトルカメラの角速度は、風の影響により約0.087rad/secであった。
【0106】
つまり、スペクトルカメラの角速度約0.087rad/secは、露光時間20msにおけるブレが生じない角速度Ω=0.092rad/secよりも遅かった。よって、露光時間20msで撮像されたスペクトル画像にはブレが生じなかった。
【0107】
それに対し、スペクトルカメラの角速度約0.087rad/secは、露光時間50msにおけるブレが生じない角速度Ω=0.037rad/secよりも速かった。よって、露光時間50msで撮像されたスペクトル画像にはブレが生じたものと考えられる。
【0108】
以上より、本実施例2によれば、スペクトル画像のブレが抑制されること、およびスペクトル画像のブレを抑制するためには、スペクトルカメラの角速度に基づき、ブレが生じないように露光時間を設定してスペクトルカメラを制御することが有効であることが示された。
【実施例3】
【0109】
実施例3では、撮像されたスペクトル画像のSN比が所定のSN比閾値未満の場合に、同じ透過波長で複数枚のスペクトル画像を連続して撮像し、それらのスペクトル画像を重ね合わせることで前記SN比閾値以上のSN比のスペクトル画像が得られることを確認する実験を行った。
【0110】
スペクトル画像は、実施例1で用いたマルチコプタ型のドローンに搭載したスペクトルカメラにより撮像した。このとき、撮像時の露光時間は10msであり、液晶波長可変フィルタによる透過波長は 650nmであった。
【0111】
図14は、上記条件により撮像された1枚目のスペクトル画像の一部を拡大したものである。この1枚目のスペクトル画像におけるSN比はSN1=27.3であった。そこで、SN比閾値をSNt=40とし、上記式(2)を用いて同じ透過波長で連続して撮像するスペクトル画像の枚数を算出した。その結果、式(2)はN>2.2となり、必要なスペクトル画像の枚数は3枚であることが算出された。
【0112】
そこで、1枚目のスペクトル画像を含む連続して撮像された3枚のスペクトル画像の重ね合わせを行った。
図15は、連続する3枚のスペクトル画像を重ね合わせたスペクトル画像である。
【0113】
図14のスペクトル画像は全体的にざらついているように見える。一方、
図15のスペクトル画像は、ざらつきが減ってコントラストがより明瞭に見えており、ノイズが少なくなったことがわかる。また、
図15に示すスペクトル画像のSN比は40.5であり、連続する3枚のスペクトル画像を重ね合わせることでSN比閾値40を超えるSN比のスペクトル画像を得ることができた。
【0114】
以上より、同じ透過波長で複数枚のスペクトル画像を連続して撮像し、それらのスペクトル画像を重ね合わせることでスペクトル画像のSN比を向上させることができた。また、上記式(2)が、最初の1枚目のスペクトル画像のSN比からSN比閾値を超えるSN比のスペクトル画像を得るために必要となる撮像枚数を算出する手段として有効であることが示された。
【0115】
なお、本発明は、前述した実施形態に限定されるものではなく、適宜変更することができる。例えば、露光時間再設定部625において、式(1)により算出する際に用いられる飛行体の高度値は、位置姿勢検出器により実測された値を用いてもよい。また、各種閾値の設定、各信号の送信等は、通信装置から無線通信手段63を介して行ってもよい。