【解決手段】空撮画像位置特定システムは、飛行体から可視光画像と赤外線画像を受信する画像受信部と、可視光画像および赤外線画像における撮影時の位置情報と撮影方向情報を受信する位置情報受信部と、位置情報を、撮影方向情報に基づき補正し、補正位置情報を求める補正部と、可視光画像および赤外線画像に該補正位置情報を付加する付加部と、を備える。
前記補正位置情報に基づき、前記可視光画像および前記赤外線画像の相対位置を特定し、さらに画角と視差を計算し、位置合わせをした上で、当該可視光画像と当該赤外線画像を重畳して重畳画像を作成する重畳部をさらに備えた
ことを特徴とする請求項2または3に記載の空撮画像位置特定システム。
前記赤外線画像における複数の観察対象物群から個々の観察対象物を特定し、当該特定した個々の観察対象物から特定の温度を示す被疑観察対象物を特定し、さらに被疑観察対象物の平均温度と最高温度の差分から閾値を超える不良観察対象物を特定する特定部をさらに備えた
ことを特徴とする請求項1〜5のいずれか1項に記載の空撮画像位置特定システム。
前記可視光画像、前記オルソ画像、前記重畳画像、前記赤外線画像、および前記不良観察対象物の位置を特定した位置特定画像のうち、少なくとも2つを同時に表示する報告書データを作成する作成部をさらに備えた
ことを特徴とする請求項6に記載の空撮画像位置特定システム。
【発明を実施するための形態】
【0013】
図1〜
図19を参照して、第1実施形態〜第5実施形態にかかる空撮画像位置特定システムについて説明する。
【0014】
[第1実施形態]
第1実施形態にかかる空撮画像位置特定システム100の全体構成について
図1〜
図6を参照して説明する。なお、
図1における空撮画像位置特定システムは一例であり、その他の構成を含むことを除外するものではなく、様々な形態で実施することが可能である。
【0015】
(飛行体Dの概要)
図1に示すように、飛行体Dは、撮影部D1、位置取得部D2、ジャイロスコープD3、ジンバルD4を備える。撮影部D1は、可視光カメラと赤外線カメラを備え、可視光画像(
図2)および赤外線画像(
図3)とを同時に、または同期して撮影可能である。位置受信部D2は、GNSS(Global Navigation Satellite System / 全球測位衛星システム)、例えばGPS、GLONASS、Galileo、準天頂衛星(QZSS)等の測位衛星から航法信号を受信し、飛行体Dの3次元位置等を測位し、可視光画像、赤外線画像にそれぞれ付加する(例えばEXIF情報)。また位置受信部D2は、例えば水圧計・気圧計を搭載し、その結果を基に深度・高度に変換してもよい。他の例として、超音波センサー等を搭載し、地表・海底等から飛行体Dまでの距離を測ってもよい。その受信された1次元位置情報を可視光画像および赤外線画像に付加する。このようにして可視光画像および赤外線画像の3次元位置が特定可能である。これらは、付加情報として可視光画像および赤外線画像とともに空撮画像位置特定システム100に送信される。
なお、
図2および
図3の観察対象物は一例であって、各画像に描写される対象は、その他の種類の観察対象物であってもよい。
【0016】
飛行体DのジャイロスコープD3は、飛行体Dの傾きを検出する。飛行体Dは、方位情報により機体が向いている方位とその方位からの姿勢ズレをジャイロスコープD3により求める。飛行体Dの方位情報と傾き情報は空撮画像位置特定システム100に送信される。3軸方向の加速度センサーであってもよい。またジンバルD4は、撮影部D1を飛行体Dに傾動可能に支持しており、撮影部D1の姿勢を制御可能とする。これにより撮影部D1の光軸の制御を可能とする。撮影部D1の傾き等に基づく当該光軸方向の情報は空撮画像位置特定システム100に送信される。また飛行体Dは、地磁気センサーD5により方位情報を受信する。これにより飛行体Dの方位(進路)を把握可能である。飛行体Dから空撮画像位置特定システム100への各種データの送信は送信部Tによって実行される。
【0017】
空撮画像位置特定システム100は、位置情報受信部110、画像受信部120、補正部130、付加部140および制御部Cと記憶部Sを含んで構成される。位置情報受信部110は、飛行体Dから、航法信号に基づく飛行体Dの測位情報(3次元位置等)、高度、深度等の1次元位置、飛行体Dの傾き情報、光軸方向情報を受信する。例えばこれらはEXIF情報として画像に付加された情報として受信されてもよい。
【0018】
画像受信部120は、飛行体Dの撮影部D1から可視光画像および赤外線画像を受ける。補正部130は、可視光画像および赤外線画像の上記各種位置情報を、上記方位情報、傾き情報、光軸方向情報に基づき補正する。付加部140は、可視光画像および赤外線画像にその補正位置情報を付加する。
【0019】
(補正部130)
補正部130について、さらに説明する。補正部130は、全球測位衛星システムからの航法信号、すなわち衛星が送信する信号発信時刻および衛星軌道に係る情報を含む情報を位置受信部D2を介して受ける。この情報に基づき2次元位置(例えば緯度・経度)や高度または深度を特定し、これらに基づく飛行体Dの3次元位置と時刻とを関連付けた位置情報とする。補正部130は、所定の時間間隔で飛行体Dの位置情報を特定してもよい。
【0020】
可視光画像および赤外線画像に描画される撮影対象は、飛行体Dの方位および傾きと撮影部D1における光軸方向とによって、撮影部D1との位置関係が定まる。つまり必ずしも上記特定された飛行体Dの2次元位置の鉛直下方の画像とは限られない。したがって、補正部130は、方位および傾き情報と撮影部D1の向きに基づく光軸方向により、可視光画像および赤外線画像の上記位置情報を補正する。一例として以下、詳細に説明する。なお、
図4は、当該補正処理の概要を示す概念図である。
【0021】
補正部130は、可視光画像および赤外線画像の上記各種位置情報を、上記方位情報、傾き情報、光軸方向情報に基づきVincenty順解法をもって補正する。例えば
図4に示すように補正部130は、飛行体Dの撮影位置の緯度・経度および高度hと、複合Pitch角θとによって求められる水平距離Sを求める。また補正部130は複合Yaw角と方位情報とから方位角αを求める。この水平距離Sと方位角αとに基づいて、補正部130は、補正位置情報を求める。具体例は次の通りである。
【0022】
上記各種位置情報から得られた飛行体Dの高度をh、上記傾き情報と光軸方向から得られる複合Pitch角をθ、太陽電池パネルの架台長をLとすると、太陽電池パネルまでの「水平距離S」は、下記数1により求められる。その他Vincenty順解法に用いる「始点」(経度、緯度)は上記各種位置情報であり、「方位角」は上記傾き情報と光軸方向から得られる複合Yaw角と、地磁気センサーにより得られた方位情報とに基づいて得られる。
【0023】
(補足)
高度h:
GNSS情報に含まれる(地表面、接地面)から飛行体D(またはGNSS情報受信部(不図示))までの高さ。あるいは超音波センサー等により計測した高さ。
架台長L :
接地面(地表等)から、太陽電池パネルの中心位置までの高さ。
始点:
飛行体Dの撮影位置(
図4:緯度φ
1 、経度λ
1/鉛直下方位置(接地面))
水平距離S:
上記撮影位置から補正位置(太陽電池パネルの中心位置CP/緯度φ
2、 経度λ
2)までの距離。
【0025】
制御部Cは、位置情報受信部110、画像受信部120、補正部130および付加部140を統合的に制御する。また、制御部Cは、位置情報受信部110が受信した測位情報(3次元位置情報、時刻情報等)や、画像受信部120が受信した各画像データを記憶部Sに記憶させる。
【0026】
[動作]
図5は、本実施形態における処理の流れを示す図である。以下に、
図4および
図6も参照しつつ、飛行体Dの動作を、ステップ番号(S001〜S004)に沿って説明する。
図6は、本実施形態の利用例の1つである、太陽光発電所の点検システムにおける空撮画像の取得の概要を示す概念図、すなわち太陽光パネルを空撮する飛行体Dと太陽光パネルの集合の概要を示す概念図である。
【0027】
(S001)
空撮画像位置特定システム100における位置情報受信部110は、飛行体Dから位置情報(GNSS情報等と、飛行体Dの方位情報、傾き、光軸方向(ジンバル))とを受ける。また画像受信部120は可視光画像および赤外線画像を受ける。
図6の例においては、飛行体Dが太陽光発電所における太陽光パネルの空撮画像(可視光画像および前記赤外線画像)を撮像している状態を示している。
【0028】
(S002)
補正部130は、GNSS情報から各画像の撮影時の飛行体Dの3次元位置を受ける。例えば、
図4のように高度hと、飛行体Dの撮影位置(
図4:緯度φ
1 、 経度λ
1/鉛直下方位置)を位置情報受信部110から受信する。
【0029】
(S003)
補正部130は、S002で求めた3次元位置と、方位角と飛行体Dの傾き、撮影部D1の向きに基づく光軸方向とに基づき、可視光画像および赤外線画像の位置情報を補正した補正位置情報を求め、時刻情報と関連付ける。
【0030】
(S004)
付加部140は、補正位置情報を可視光画像および赤外線画像に付加する。
【0031】
上記説明における各部の処理は、説明の便宜上、
図1に示す制御部Cの制御の下に実行されるものとして説明した。この制御部Cは、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、或いは、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)等のうち、単一または複数の回路を含んで構成されていてもよい。制御部Cはメモリに保存された例えば画像位置特定プログラムを読み出し実行することで機能を実現する。なお、メモリにプログラムを保存する代わりに、回路内にプログラムを直接組み込むよう構成しても構わない。この場合、制御部Cとしての回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。なお、制御部Cは単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて1つのプロセッサーとして構成し、その機能を実現するようにしてもよい。さらに、実施形態における複数の構成要素(例えば位置情報受信部110、画像受信部120、補正部130および付加部140のうち少なくとも2以上)を1つのプロセッサーへ統合してその機能を実現するようにしてもよい。
【0032】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0033】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0034】
[第2実施形態]
第2実施形態にかかる空撮画像位置特定システム200について
図7および
図8参照して説明する。以下の説明において、第1実施形態と重複する説明は割愛する。
【0035】
(概要)
第1実施形態と同様に、飛行体Dはその撮影部D1において同一の観察対象物が含まれるように可視光画像および赤外線画像を撮像する。一例として、
図2および
図3のようにマトリクス状に配置された太陽電池パネル群を撮像した可視光画像および赤外線画像の双方に、特定の同一のパネルが描画されている。
【0036】
この場合、例えば複数の同一種の観察対象物群を表示する可視光画像および赤外線画像の各画像内に、同一の観察対象物が含まれる。さらに画像内に特定の観察対象(例えば、何らかの異常が認められるパネル)が含まれる場合、可視光画像および赤外線画像のそれぞれでその特定の観察対象がどのパネルであるか容易に特定できれば、観察(例えばパネル点検)の効率は向上する。第2実施形態はそのための構成を備える。
【0037】
飛行体Dは観察対象物に対し、高さ方向に所定間隔を保つように移動する。この移動を説明の便宜上「水平移動」として説明する(なお、この水平移動は、厳密な意味での水平移動に限られない)。飛行体Dは水平移動しながら撮影しており、かつ可視光画像および赤外線画像の撮影タイミングはわずかながらでも時間差(例えば時刻差)が生じる。したがって、可視光画像および赤外線画像とは、同様の範囲を撮影しようとして取得(例えば同期して撮影)されたものであっても、一方が他方に対して、この時間差と飛行体Dの飛行速度により所定の飛行距離分だけ移動した後の画像となる。なお、飛行体Dが水平移動しながら撮影するのは、観察効率(太陽電池パネルの点検等の効率)が向上するためである。
【0038】
また一例においては、可視光画像(例:
図3)と赤外線画像(例:
図2A、2B)とでは、可視光画像の方が画角が広くなる傾向がある。したがって、第1実施形態における補正位置情報の作成に加え、画像の生成、画像の撮影の時間差によって、可視光画像と赤外線画像との間に生じる撮影中心位置のずれも補正することにより、例えば両画像の相対位置の把握の精度の向上を図ることができる。具体的には次の通りである。
【0039】
(空撮画像位置特定システム200)
図7に示すように第2実施形態の空撮画像位置特定システム200は、位置情報受信部210、画像受信部220、補正部230、付加部240および制御部Cと記憶部Sの他、補足情報受信部215を含んで構成される。画像受信部220、付加部240および制御部Cと記憶部Sの各機能は、第1実施形態と概ね同様であり説明が重複するため割愛する。
【0040】
(補足情報受信部215)
補足情報受信部215は、全球測位衛星システムからの航法信号、すなわち衛星が送信する信号のうち、当該信号に基づく信号発信時刻を、可視光画像の付加情報として取得する。また、補足情報受信部215は、飛行体Dの水平移動速度を取得する。例えば飛行体Dに速度センサー(不図示)が設けられている場合、その速度センサーから受信した情報が水平移動速度である。または飛行体Dの移動を制御する制御系から当該移動に関する情報を受け、また飛行体Dの諸元等の情報も含めて水平移動の速度を求めてもよい。
【0041】
(補正部230)
補正部230は、補足情報受信部215が受信した、可視光画像に付帯された時刻と赤外線画像に付帯された時刻とを比較し、時刻の早い方を特定する。なお、取得順があらかじめ決まっている場合はこの比較は行わない。また、当該両時刻の比較の結果、時刻差を求める。なお、時刻差に限らず、単に両画像の撮影の時間差であってもよい。
【0042】
また補正部230は、補足情報受信部215を介して取得した飛行体Dの当該時刻における移動速度と上記時刻差とに基づいて、両画像の位置のずれ量(各撮影位置間の距離)を求める。さらに補正部230は、第1実施形態における補正処理において求めた、可視光画像および赤外線画像それぞれに対応する複合Pitch角θと、上記ずれ量とに基づいて、両画像がどの方位にどれだけ位置ずれしているかを求める。
【0043】
上記のような画角の差、すなわち可視光画像の方が広域である場合、補正部230はこのように特定した差分情報に基づいて、可視光画像内における赤外線画像が示す範囲を特定する処理を行う場合に、その処理の負荷を低減し、あるいはその処理結果の精度の向上を図ることが可能となる。
【0044】
また、可視光画像と赤外線画像の位置の対応関係を求めることが可能となるため、両画像の画角を統一、あるいは両画像の画角の比を任意の比率となるように変更することも可能である。
【0045】
[動作]
図8は、本実施形態における処理の流れを示す図である。以下に、飛行体Dの動作を、ステップ番号(S021〜S027)に添って説明する。
【0046】
(S021)
空撮画像位置特定システム200における位置情報受信部210および補足情報受信部215は、飛行体Dから位置情報(第1実施形態と同様)と、時刻情報を受ける。また画像受信部220は可視光画像および赤外線画像を受ける。
【0047】
(S022)
補正部230は、補足情報受信部215から対応して撮影された可視光画像および赤外線画像の各画像の時刻情報を取得する。また補正部230は、可視光画像および赤外線画像の各画像の時刻情報を比較して、いずれが先に撮影されたものか求める。
【0048】
(S023),(S025)
S022に前後、または並行して補正部230は、GNSS情報から各画像の撮影時の飛行体Dの3次元位置(
図4:高度h、撮影位置(緯度φ
1、 経度λ
1)を位置情報受信部210から取得し、補足情報受信部215から移動速度情報を取得する。
【0049】
(S024)
補正部230は、S022の結果、可視光画像が先に撮影されたものであると判断された場合(S022;Yes)、移動速度と時刻差に基づき赤外線画像とのずれ量を求める。また、複合Pitch角θを取得し、赤外線画像が先に撮影された可視光画像に対して、どの方位にどの距離だけずれているかを示す差分情報を作成する。
【0050】
(S026)
補正部230は、S022の結果、赤外線画像が先に撮影されたものであると判断された場合(S022;No)、移動速度と時刻差に基づき可視光画像とのずれ量を求める。また、方位角を取得し、可視光画像が先に撮影された赤外線画像に対して、どの方位にどの距離だけずれているかを示す差分情報を作成する。
【0051】
(S027)
補正部230は差分情報に基づき両画像の相対位置を特定する。
【0052】
なお、補正部230は、S023またはS025において、第1実施形態と同様に3次元位置と、方位角と飛行体Dの傾き、撮影部D1の向きに基づく光軸方向とに基づき、可視光画像および赤外線画像の位置情報を補正した補正位置情報を求め、それを利用してもよい。また、付加部240が、補正位置情報を可視光画像および赤外線画像に付加する。
【0053】
また制御部Cは、第1実施形態と同様、各種の形態を採用することが可能である。また位置情報受信部210と補足情報受信部215とを区別して説明したが、この区別は説明の便宜上におけるものである。
【0054】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0055】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0056】
[第3実施形態]
第3実施形態にかかる空撮画像位置特定システム300について
図9および
図10を参照して説明する。以下の説明において、第1実施形態、第2実施形態と重複する説明は割愛する。
図10は、可視光画像に赤外線画像を重畳した重畳画像の一例の概要を示す概念図である。
【0057】
(概要)
第3実施形態においては、第1実施形態で補正した位置や、第2実施形態で特定した両画像の相対位置に基づき、可視光画像と赤外線画像を重畳する。
【0058】
(空撮画像位置特定システム300)
図9に示すように、第3実施形態の空撮画像位置特定システム300は、位置情報受信部310、補足情報受信部315、画像受信部320、補正部330、付加部340および制御部Cと記憶部Sの他、重畳部350を含んで構成される。位置情報受信部310、補足情報受信部315、画像受信部320、付加部340および制御部Cと記憶部Sの各機能は、第1実施形態、第2実施形態と概ね同様であり説明が重複するため割愛する。
【0059】
(重畳部350)
第3実施形態において重畳部350は、可視光画像における観察対象物(例:太陽光発電パネル)および、赤外線画像における観察対象物をそれぞれ特定する。例えば、画像における観察対象物のエッジ(輪郭線)を検出する。輪郭線の抽出方法は任意の方法を採ることができ、例えば太陽電池パネルであれば、二値化するとパネルの枠線が抽出でき、抽出した枠線の座標位置を元の画像において特定してその部分をパネルのエッジとすることができる。この処理は、第1実施形態および、第2実施形態の少なくともいずれか一方の位置情報の補正処理の後に実行される。
【0060】
また重畳部350は、可視光画像と赤外線画像の画角と視差を計算し、画角を所定の比率(例えば画角を統一)とする。さらに重畳部350は、可視光画像の観察対象物のサイズと、赤外線画像の観察対象物のサイズが合うように赤外線画像のサイズを変換し、回転、平行移動等を行う(アフィン変換等)。
【0061】
また重畳部350は、第1実施形態によって作成された補正位置情報や、第2実施形態によって、可視光画像と赤外線画像の相対位置の修正をした画像位置(例えば第1実施形態、第2実施形態の補正位置情報)等に基づき、可視光画像と赤外線画像との位置合わせをする。
【0062】
さらに重畳部350は、可視光画像に赤外線画像を重畳する。
図10に示すように、ユーザーの設定により、赤外線画像の透明度が設定されると、重畳部350は赤外線画像を透過して可視光画像が見えるような画像処理をするように構成されていてもよい。
【0063】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0064】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0065】
さらに、第3実施形態によれば可視光画像と赤外線画像の重畳画像をユーザーに提示することができ、直感的に両者の状態(相対位置、パネルの異常等)を視認でき、観察対象物の把握の効率化を図ることが可能である。
【0066】
[第4実施形態]
第4実施形態にかかる空撮画像位置特定システム400について
図11および
図12を参照して説明する。以下の説明において、第1実施形態、第2実施形態と重複する説明は割愛する。
図12は、オルソ画像の一例の概要を示す概念図である。
【0067】
(空撮画像位置特定システム400)
図11に示すように、第3実施形態の空撮画像位置特定システム400は、位置情報受信部410、補足情報受信部415、画像受信部420、補正部430、付加部440、重畳部450および制御部Cと記憶部Sの他、オルソ画像生成部460を含んで構成される。位置情報受信部410、補足情報受信部415、画像受信部420、付加部440および制御部Cと記憶部Sの各機能は、第1〜3実施形態と概ね同様であり、説明が重複するため割愛する。
【0068】
一般に空撮画像は、飛行体Dの撮像部のレンズの中心に光束が集まるように撮影され、中心投影の画像となる。したがって、画像の画角において、中心と端部では、レンズの中心から対象物までの距離が異なる。これにより、端部側では観察対象物が傾いているように描画される。例えば太陽電池パネルの場合、中心側と端部側でパネルの形状が大きく異なるおそれもある。第4実施形態では、これを解消し、例えば第3実施形態のような重畳を適正に実行することを可能とする。
【0069】
(オルソ画像生成部460)
第4実施形態におけるオルソ画像生成部460は、取得された可視光画像について、正射投影する処理を実行し、オルソ画像を生成する。例えば第1〜第3実施形態における可視光画像より画角の広い広域の可視光画像を取得しても、オルソ画像生成部460により正射投影処理することにより、画角の周縁側で画像のゆがみが解消される。
【0070】
(重畳部450)
重畳部450は、第1実施形態によって作成された補正位置情報や、第2実施形態によって、オルソ画像と赤外線画像の相対位置の修正をした画像位置等に基づき、オルソ画像と赤外線画像との位置合わせをする。
【0071】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0072】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0073】
さらに、第4実施形態によれば広域の可視光画像をオルソ画像とすることにより、広域の可視光画像と赤外線画像の重畳画像をユーザーに提示することができ、直感的に両者の状態(相対位置、パネルの異常等)を視認でき、観察対象物の把握の効率化を図ることが可能である。また、オルソ画像が、広域画像であることにより、特定の観察対象物の全体における位置が把握しやすくなる。
【0075】
第5実施形態にかかる空撮画像位置特定システム500について
図13〜
図16を参照して説明する。以下の説明において、第1〜4実施形態と重複する説明は割愛する。
図14は、特定部における太陽電池パネルの特定処理の一例の概要を示す概念図である。
図15、
図16は、重畳画像における補正処理前後の不良観察対象物のマーキング位置のずれ量を示す概念図である。
【0076】
(空撮画像位置特定システム500)
図13に示すように、第5実施形態の空撮画像位置特定システム500は、位置情報受信部510、補足情報受信部515、画像受信部520、補正部530、付加部540、重畳部550および制御部Cと記憶部Sの他、特定部570を含んで構成される。またオルソ画像生成部を有していてもよい。位置情報受信部510、補足情報受信部515、画像受信部520、付加部540および制御部Cと記憶部Sの各機能は、第1〜4実施形態と概ね同様であり、説明が重複するため割愛する。
【0077】
(特定部)
第5実施形態における特定部570は、赤外線画像における観察対象物を特定する。以下、その一例について説明する。特定部570は、受信した赤外線画像に対し、ディープラーニング(深層学習)による物体検知モデル(アルゴリズムでもよい)によって、観察対象物(例えば太陽電池パネル)の1つ1つを特定する。
【0078】
次に特定部570は、赤外線画像の画像処理により、物体検知によって特定された観察対象物それぞれに対し、特定の温度を示す被疑観察対象物を特定する。太陽電池パネルの例であれば、特定の温度とは、正常なパネルと比べ相対的に高温であることであり、その相対的に高温なパネルが被疑観察対象物となる。
【0079】
さらに特定部570は、被疑観察対象物それぞれのうち、当該被疑観察対象物内の、平均温度と最高温度の差分が閾値を超えるものを不良と判断する。太陽電池パネルの例であれば、閾値は例えば「2.0℃」以上となる。
【0080】
さらに特定部570は、不良観察対象物の位置を第1実施形態によって作成された補正位置情報や、第2実施形態によって、可視光画像と赤外線画像の相対位置の修正をした画像位置等に基づき、特定する。
【0081】
次に、重畳部550は、第1実施形態によって作成された補正位置情報や、第2実施形態によって、可視光画像と赤外線画像の相対位置の修正をした画像位置等に基づき、可視光画像と赤外線画像との位置合わせをし、第3実施形態と同様に重畳処理を実行する。このとき、可視光画像でなく、第4実施形態のオルソ画像であってもよい。
【0082】
次に特定部570は、重畳画像における不良観察対象物を強調表示してもよい。強調表示は、他の部分と明確に識別できる色彩の付与、点滅表示、輪郭線の強調、特定の図形(マーキング)等、任意の方法を適宜採用することが可能である。
【0083】
(変形例)
次に第5実施形態にかかる空撮画像位置特定システム500の変形例について
図17を参照して説明する。
図17に示すようにGIS(Geographic Information System;地理情報システム)を使用して可視化した地図データを可視光画像やオルソ画像のかわりに利用することが可能である。この地図データに含まれた緯度・経度・標高等のデータを利用して、重畳部550は赤外線画像を重畳することができ、特定部570は、不良観察対象物の強調表示をすることが可能となる。このため、この変形例においては、地図データを記憶する地図画像記憶部、または地図データのテンプレートをあらかじめ記憶し、外部から緯度、経度、標高等の地形のデータを取得して地図データを作成する地図データ作成部が含まれる。これらの図示は省略する。
【0084】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0085】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0086】
さらに、第5実施形態によれば不良観察対象物を特定し、さらに重畳画像において不良観察対象物の位置を提示するので、不良観察対象物の把握の効率化を図ることが可能である。
【0087】
図15,
図16に示すように、太陽電池パネルの例における第1実施形態および第2実施形態の位置情報の補正処理を行う前と行った後の不良太陽電池パネルの位置は、大きくずれている。これらの図に示すように、第1実施形態および第2実施形態の補正処理により不良観察対象物の位置を精度よく提示することができるため、不良観察対象物の特定が容易となる。
【0088】
[第6実施形態]
第6実施形態にかかる空撮画像位置特定システム600について
図18および
図19を参照して説明する。以下の説明において、第1〜第5実施形態と重複する説明は割愛する。
図19は、報告書データの一例を示す概略図である。
【0089】
(空撮画像位置特定システム600)
図18に示すように、第6実施形態の空撮画像位置特定システム600は、位置情報受信部610、補足情報受信部615、画像受信部620、補正部630、付加部640、重畳部650、特定部670および制御部Cと記憶部Sの他、作成部680を含んで構成される。またオルソ画像生成部を有していてもよい。位置情報受信部610、補足情報受信部615、画像受信部620、付加部640、重畳部650、特定部670および制御部Cと記憶部Sの各機能は、第1〜5実施形態と概ね同様であり、説明が重複するため割愛する。
【0090】
(作成部)
第6実施形態における作成部680は、可視光画像(例:
図3)、オルソ画像(例:
図12)と、地図画像(例:
図17)のいずれか、重畳画像および赤外線画像のうち、少なくとも2つを同時に表示する報告書データを作成する。この同時表示される画像には、不良観察対象物の強調表示(異常箇所のマーキングを含む)が含まれていてもよい。さらに不良観察対象物の異常内容の説明が付記されていてもよい。また
図19に示すように例えば2種以上の画像は並列表示される。
【0091】
[効果]
本実施形態によれば、空撮画像と観察対象物の対応関係の特定が可能である。例えば、観察対象物が広域にわたるとき等、空撮画像に求められる解像度等の要求から画角が限定的となる場合がある。その場合、観察対象の1つまたはその集合体の全体が撮影できず、赤外線画像に描写された観察対象物(またはその一部)の位置の特定または集合における個体の特定ができない可能性がある。本実施形態によれば、その場合でも、赤外線画像と可視光画像との位置関係や、撮影時の飛行体の位置と光軸方向等に基づき、広域の撮影が可能な可視光画像に対する赤外線画像の位置が求めやすくなる。結果、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との位置合わせが可能となる。一例としてメガソーラー(1MWを超える大規模広域太陽光発電所)における1つの太陽光パネルの特定が容易となる。
【0092】
また赤外線画像と可視光画像との位置関係も観察者や観察システムにとって認識しやすくなるため、両者を比較することで、赤外線画像において特異な温度情報を示している個体(多数の同種の個体の集合における、1個体または所定数の個体の群)を、可視光画像によって特定することも容易となる。
【0093】
さらに、第6実施形態によれば、可視光画像・オルソ画像・地図画像のいずれか、重畳画像および赤外線画像のうち、少なくとも2つを同時に表示する報告書データが作成される。報告書データにより、観察対象物の観察処理を実施するユーザーに直感的に、不良観察対象物の位置、状態等を提示することができ、ユーザーの負担軽減、処理効率の向上を図ることが可能となる。
【0094】
以上、説明した第1〜第6実施形態については、説明の便宜上、飛行体Dと空撮画像位置特定システムの間でデータ通信をする例において説明したが、飛行体Dと、飛行体Dからの送信データに基づき上記各処理を実行するハードウェアとプログラムを記憶する記憶媒体、AIを含むいずれの態様を採ることも可能である。
【0095】
一例として、ハードウェア構成としては、飛行体Dと飛行体Dの操作をする操作部に対して、空撮画像位置特定システムとして飛行体Dと通信し飛行体Dからの送信データを受信し、上記各処理の少なくとも一部を実行するPCと、当該PCから所定のデータを受け、上記PCの処理以外の残りの処理を実行するサーバーによって構成されていてもよい。
【0096】
あるいは、飛行体Dから直接送信データを受信し、上記各処理の全てを実行するサーバーによって構成されていてもよい。この場合、処理結果(例えば、重畳画像や報告書データ)は任意にユーザーが利用する端末にてダウンロードすることが可能になっていてもよい。なお以上のサーバーは複数あっても単一でもよい。
【0097】
飛行体Dの操作部、PC、ユーザー端末の少なくともいずれか1つには、表示部が設けられていてもよい。図示しない表示部は、飛行体Dの操作に関するUI、各種画像の表示UI、システム設定(パラメーター等)の設定UI、報告書データの表示UIによる。表示部は、タッチパネルなどの各種表示デバイスを含んでいてもよい。
【0098】
飛行体Dの操作部、PC、ユーザー端末の少なくともいずれか1つには、入力部が設けられていてもよい。入力部は、音声や文字入力信号等の外部入力を受けるデバイスである。例えば音声を検知するデバイス(マイクロフォン等)、または文字入力を行うデバイス(ソフトウェアキーボードまたはハードウェアキーボード)等が挙げられる。また、いずれの構成であっても、入力部に対する操作内容は、電気信号として制御部Cに入力される。また、表示部に表示されたグラフィカルユーザーインターフェイス(GUI)と、入力部とを用いて、操作や情報入力を行うようにしてもよい。
【0099】
表示部は、入力部と、独立に構成されても、一体的に構成されてもよい。例えばタッチパネルのように、表示機能と操作機能とが一体化されたデバイスを用いることも可能である。その場合、入力部および表示部は、タッチパネルとそれを実行するためのコンピュータプログラムとを含んで構成される。
【0100】
飛行体D、PC、ユーザー端末、サーバーの少なくともいずれか1つには、記憶部が設けられていてもよい。記憶部は、位置情報、時刻情報、方位情報、画像データ、地図データ、学習モデル、その他上記各処理を実行するコンピュータプログラム等を記憶する。記憶部としてはハードディスク、フラッシュメモリの他、任意のデバイスを利用可能である。
【0101】
以上から、例えば、タブレットやスマートフォンのようなユーザー端末にて、飛行体Dの操作、赤外線画像、可視光画像、地図、重畳画像、報告書データの表示や各処理のための入力を可能とし、その画像生成、位置補正処理、不良観察対象物の特定、記憶等の処理をサーバーが実行する等の態様も可能である。
【0102】
以上説明した各実施形態によれば、マーカーのような特徴点を周囲に設置しなくても可視光画像と赤外線画像との相対位置の把握が可能となる。マーカーは、観察対象物が水上に存在する場合、崖等の危険な位置にある場合等、そもそも設置自体が困難な場合がある。この場合、マーカーの設置を前提とした空撮画像による観察対象物の観察ができなくなってしまう。また置けたとしても、マーカー自体のメンテナンス等の維持管理コストがかかり、マーカーの設置コストもかかる。さらにマーカーを密に設置しないと不良観察対象物等の特定の観察対象物の位置の把握が困難になってしまう。
【0103】
また、マーカーを前提とした空撮画像位置特定システムでは、赤外線画像と、可視光画像(またはオルソ画像、地図等)との位置合わせの精度が低くなるおそれがある。太陽電池パネルの場合、1m幅に対して、上空40m〜150mの位置で空撮するので、位置ずれがあると、赤外線画像の温度情報で異常検出できたとしてもどの観察対象物かの特定ができなくなってしまうおそれがある。
【0104】
以上説明した各実施形態によれば、マーカーのような特徴点を周囲に設置しなくてもよいので、上記各問題を解決することが可能となる。
【0105】
この発明の実施形態を説明したが、上記の実施形態は例として提示したものであり、発明の範囲を限定することを意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。