(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023177995
(43)【公開日】2023-12-14
(54)【発明の名称】変電所の点検支援システム、サーバ、変電所の点検支援方法
(51)【国際特許分類】
G01N 21/88 20060101AFI20231207BHJP
G06T 7/00 20170101ALI20231207BHJP
【FI】
G01N21/88 Z
G06T7/00 610Z
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2022090999
(22)【出願日】2022-06-03
(71)【出願人】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】北山 匡史
【テーマコード(参考)】
2G051
5L096
【Fターム(参考)】
2G051AA88
2G051AB01
2G051AB20
2G051AC15
2G051CA04
2G051EB05
5L096AA02
5L096AA06
5L096CA04
5L096FA64
5L096FA67
5L096FA69
5L096GA34
5L096HA11
5L096KA04
(57)【要約】
【課題】変電所内の変電設備の点検において、保守員の負担を軽減しつつ必要な点検精度を確保する。
【解決手段】変電所の点検支援システム100は、カメラ26を用いて変電所内を撮影するドローン2と、ドローン2により撮影された画像に対して画像処理を実行するサーバ1(プロセッサ11)とを備える。画像処理は、変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、異常が実際に生じているか否かに拘わらず、ドローン2により撮影された画像から特定部分を抽出する処理を含む。
【選択図】
図13
【特許請求の範囲】
【請求項1】
保守員による変電所内の変電設備の点検業務を支援する、変電所の点検支援システムであって、
カメラを用いて前記変電所内を撮影する無人移動体と、
前記無人移動体により撮影された画像に対して画像処理を実行するプロセッサとを備え、
前記画像処理は、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分を抽出する処理を含み、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像を保守員の端末に提供する、変電所の点検支援システム。
【請求項2】
前記異常は、前記特定部分からの漏油を含む、請求項1に記載の変電所の点検支援システム。
【請求項3】
前記異常は、前記特定部分の発錆を含む、請求項1に記載の変電所の点検支援システム。
【請求項4】
前記異常は、前記特定部分への汚れの付着を含む、請求項1に記載の変電所の点検支援システム。
【請求項5】
前記プロセッサは、
前記画像処理において、前記異常が生じていない状態での前記外観的特徴をマーカとして学習した学習済みモデルを用いることによって前記特定部分を抽出し、前記特定部分が抽出された画像にタグを付与し、
前記無人移動体により撮影された画像のうち、前記タグが付与された画像を前記端末に提供する一方で、前記タグが付与されていない画像は前記端末に提供しない、請求項1~4のいずれか1項に記載の変電所の点検支援システム。
【請求項6】
前記変電設備の属性情報が格納されたメモリをさらに備え、
前記属性情報は、前記無人移動体により前記変電設備を撮影可能な領域を示す情報に関連付けられており、
前記無人移動体は、前記無人移動体により撮影された画像に前記無人移動体の位置情報を付加するように構成され、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像に、前記無人移動体の前記位置情報に基づいて、抽出された前記特定部分を有する前記変電設備の前記属性情報を付与する、請求項1~4のいずれか1項に記載の変電所の点検支援システム。
【請求項7】
前記プロセッサは、前記無人移動体により撮影された画像のうち、前記無人移動体が前記撮影可能な領域内であるときに撮影されたことを前記無人移動体の前記位置情報が示す画像に対して前記画像処理を実行する、請求項6に記載の変電所の点検支援システム。
【請求項8】
保守員による変電所内の変電設備の点検業務を支援するサーバであって、
カメラが搭載された無人移動体により撮影された前記変電所内の画像に対して画像処理を実行するプロセッサを備え、
前記画像処理は、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分を抽出する処理を含み、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像を前記保守員の端末に提供する、サーバ。
【請求項9】
保守員による変電所内の変電設備の点検業務を支援する、変電所の点検支援方法であって、
カメラが搭載された無人移動体により撮影された画像に対してプロセッサが画像処理を実行するステップを含み、
前記画像処理を実行するステップは、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分抽出するステップを含み、
前記点検支援方法は、前記抽出するステップにより前記特定部分が抽出された画像を前記保守員の端末に提供するステップをさらに含む、変電所の点検支援方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、変電所の点検支援システム、サーバ、変電所の点検支援方法に関する。
【背景技術】
【0002】
電力会社の変電所においては、変電設備の異常の早期発見のための点検が定期的に行われる。従来の点検では、変電所に派遣された保守員(作業員)が、変電設備に設置された指示計器を確認したり、変電設備の状態を目視で確認したりしている。
【0003】
近年、電力会社では、ドローン、ラジコンヘリコプターなどの無人移動体にカメラを搭載して変電所内を撮影し、撮影された画像を遠隔地において確認する点検手法が検討されている。これにより、保守員が変電所現地に行かなくとも点検が可能になるため、変電所への保守員の派遣人数または派遣頻度が低減される。よって、点検コストの削減および点検業務の効率化が期待される。
【0004】
特開2006-27448号公報(特許文献1)は、無人飛行体を利用した空撮方法を開示する。特開2019-219874号公報(特許文献2)は、カメラを搭載した自立移動体を制御する自立移動撮影制御システムを開示する。特開2006-31144号公報(特許文献3)に開示された自立走行監視装置は、監視区域内の場所ごとに最適な画像を撮影することによって監視または確認を確実なものにする。特開2021-90348号公報(特許文献4)に開示された点検システムは、被点検物に生じた異常を画像データ中から検出するための画像モデルを生成する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2006-27448号公報
【特許文献2】特開2019-219874号公報
【特許文献3】特開2006-31144号公報
【特許文献4】特開2021-90348号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
無人移動体を利用する場合、画像(動画)の撮影時間が長時間になったり、画像(静止画)の枚数が大量になったりすることが想定される。そのような画像の全てを確認するには保守員の時間的および労力的な負担が大きい。そこで、無人移動体により撮影された画像に対して画像処理技術を適用することが考えられる。画像処理技術により保守員の負担を軽減することが望ましい一方で、画像処理技術を適用する場合でも必要な点検精度を確保することが求められる。
【0007】
本開示は上記課題を解決するためになされたものであり、本開示の目的の1つは、変電所内の変電設備を点検する保守員の負担を軽減しつつ必要な点検精度を確保することである。
【課題を解決するための手段】
【0008】
本開示の一実施形態による変電所の点検支援システムは、保守員による変電所内の変電設備の点検業務を支援する。点検支援システムは、カメラを用いて変電所内を撮影する無人移動体と、無人移動体により撮影された画像に対して画像処理を実行するプロセッサとを備える。画像処理は、変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、異常が実際に生じているか否かに拘わらず、無人移動体により撮影された画像から特定部分を抽出する処理を含む。プロセッサは、画像処理により特定部分が抽出された画像を保守員の端末に提供する。
【発明の効果】
【0009】
上記の実施形態によれば、異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、異常が実際に生じているか否かに拘わらず、当該特定部分が抽出されるので、保守員の負担を軽減しつつ必要な点検精度を確保できる。
【図面の簡単な説明】
【0010】
【
図1】本開示の実施の形態1に係る変電所の点検支援システムの全体構成を示す図である。
【
図5】油入機器のフランジにおける漏油の様子の一例を示す図である。
【
図6】油入機器のフランジにおける漏油の様子の他の一例を示す図である。
【
図7】油入機器のラジエータにおける漏油の様子の一例を示す図である。
【
図8】タンクの端部における発錆の様子の一例を示す図である。
【
図9】異物の発生を伴う異常が生じ得る特定部分の抽出手法の一例を説明するための概念図である。
【
図10】マーカ検出処理に用いられる学習済みモデルの一例を説明するための図である。
【
図11】ドローンにより撮影される画像が動画である場合の画像データベースのデータ構造図である。
【
図12】ドローンにより撮影される画像が静止画である場合の画像データベースBのデータ構造図である。
【
図13】実施の形態1に係る変電所の点検支援方法の処理手順を示すシーケンス図である。
【
図14】実施の形態2におけるドローンの位置情報の使用手法を説明するための概念図である。
【発明を実施するための形態】
【0011】
以下、本開示の実施の形態1について、図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付して、その説明は繰り返さない。
【0012】
<用語の説明>
本開示およびその実施の形態1において、「変電所内の変電設備」とは、変電(その監視および制御を含む)行うための電気工作物の全般を意味する。変電所内の変電設備は、たとえば、変成器(変圧器、変流器など)、遮断器、開閉器、断路器、リアクトル、電力用コンデンサ、計測機器、保安装置(保護継電器、操作用電源装置など)を含む。一方、変電所内の変電設備は、送電線などの送電設備は含まない。
【0013】
変電所の「点検」とは、保守員が変電所現地に行き、変電所内の変電設備に生じ得る異常を発見する行為を含むが、これに限定されない。点検は、変電設備を正常な状態に維持したり、変電設備を異常な状態から正常な状態に復旧したりするための行為全般を含んでもよい。点検は、目視確認、計測記録、検査、調査、診断、整備などを含み得る。
【0014】
本開示およびその実施の形態1において、「画像」は、静止画および動画の両方を含み得る。すなわち、画像は、1枚の静止画であってもよいし、予め定められた期間またはフレーム数の動画(複数の静止画)であってもよい。
【0015】
実施の形態1.
<システム構成>
図1は、本開示の実施の形態1に係る変電所の点検支援システムの全体構成を示す図である。点検支援システム100は、保守員による変電所内の変電設備の点検業務、より詳細には遠隔地からの点検業務を支援する。点検支援システム100は、サーバ1と、複数のドローン2と、複数の点検端末3とを備える。
【0016】
サーバ1と複数のドローン2の各々とはネットワークNWを介して互いに双方向のデータ通信が可能に構成されている。また、サーバ1と複数の点検端末3の各々ともネットワークNWをして互いに双方向のデータ通信が可能に構成されている。なお、点検支援システム100に含まれるドローン2および点検端末3の台数は任意である。
図1では紙面の煩雑化を避けるため、ドローン2および点検端末3が1台ずつ図示されている。また、サーバ1が複数に分割(または冗長化)されていてもよい。
【0017】
サーバ1は、ドローン2により撮影された画像を受信する。そして、サーバ1は、ドローン2から受信した画像をメモリ12(
図2参照)に保存する。また、サーバ1は、ドローン2から受信した画像に対して画像処理(後述)を実行し、その実行結果も併せてメモリ12に格納する。
【0018】
ドローン2は、飛行中の画像を撮影し、撮影された画像をサーバ1に送信する。ドローン2が送信する画像は、撮影された画像の全部であってもよいし一部であってもよい。ドローン2は、点検端末3からの指令に従って飛行してもよいし、自律的に飛行してもよい。
【0019】
なお、ドローン2は、本開示に係る「無人移動体」の一例である。「無人移動体」は、狭義のドローンに限られず、遠隔操作および/または自動操縦が可能な無人飛行体全般を含む。すなわち、「無人移動体」は、ラジコン機(ラジコン飛行機、ラジコンヘリコプター、ラジコン飛行船など)であってもよい。それに加えて、「無人移動体」は、飛行体に限られず、地上を走行する走行体(ラジコンカー、ロボット、自動運転車両など)であってもよい。
【0020】
点検端末3は、サーバ1に格納された画像を保守員が遠隔地において確認するための端末である。点検端末3は、たとえば、パーソナルコンピュータ、タブレット、スマートホンである。
【0021】
図2は、サーバ1の例示的な構成を示す図である。サーバ1は、プロセッサ11と、メモリ12と、通信インターフェース(IF)13とを含む。メモリ12は、たとえば、ROM(Read Only Memory)121と、RAM(Random Access Memory)122と、SSD(Solid State Drive)123と、HDD(Hard Disk Drive)124とを含む。サーバ1の構成部品は、バスにより互いに通信可能に接続されている。
【0022】
プロセッサ11は、ROM121に格納された各種プログラムをRAM122に展開して実行することでサーバ1の全体的な動作を制御する。特に、プロセッサ11は、ドローン2から受信した画像に対して画像処理を実行する。
【0023】
SSD123には、プロセッサ11による画像処理に用いられる学習済みモデル4が格納されている。学習済みモデル4については
図10にて説明する。
【0024】
HDD124は、画像データベース5と、属性情報データベース6とを含む。画像データベース5は、ドローン2から受信した画像(プロセッサ11による画像処理前の画像)を保存する。画像データベース5には、プロセッサ11による画像処理の結果(画像処理により得られたメタデータ)も格納される。画像データベース5については
図11および
図12にて説明する。属性情報データベース6には、変電所内の変電設備の属性情報(機種、メーカ、型式など)が格納されている。
【0025】
通信IF13は、ドローン2および点検端末3とのネットワークNW経由でのデータ通信が可能に構成されている。
【0026】
図3は、ドローン2の例示的な構成を示す図である。ドローン2は、プロセッサ21と、メモリ22と、慣性計測ユニット(IMU:Inertial Measurement Unit)23と、全地球測位システム(GPS:Global Positioning System)24と、気圧センサ25と、カメラ26と、モータ27と、無線モジュール28とを含む。
【0027】
プロセッサ21は、メモリ22に格納された各種プログラムを実行することでドローン2の全体的な動作を制御する。
【0028】
メモリ22は、ROMおよびRAM(いずれも図示せず)を含み、プロセッサ21により実行されるプログラムを記憶する。メモリ22は、ドローン2の飛行および撮影に関する点検端末3からの各種指令を記憶してもよい。メモリ22は、一時的なデータ(カメラ26により撮影された、サーバ1への送信前の画像など)を記憶してもよい。
【0029】
IMU23は、ドローン2の姿勢および挙動を検出する。IMU23は、たとえば、ドローン2の前後方向、左右方向および上下方向の加速度と、ドローン2のロール方向、ピッチ方向およびヨー方向の角速度とを検出する。IMU23は、ドローン2の姿勢および挙動の検出結果をプロセッサ21に出力する。
【0030】
GPS24は、地球の軌道上を周回する複数のGPS衛星から受信された情報を用いてドローン2の位置(緯度および経度)を特定し、その特定結果をプロセッサ21に出力する。
【0031】
気圧センサ25は、ドローン2の周囲の気圧を検出し、その検出結果をプロセッサ21に出力する。プロセッサ21は、気圧センサ25により検出された気圧に基づいて、ドローン2の高度(標高)を推定できる。
【0032】
カメラ26は、たとえばドローン2の側面または下面に配置され、ドローン2の周囲の画像を撮影する。カメラ26は、プロセッサ21からの指令に従って、撮影方向(パンおよびチルト)、撮影倍率(ズーム)等を調整可能に構成されていてもよい。
【0033】
モータ27は、複数のロータ(図示せず)を含む。複数のロータは、プロセッサ21からの指令に従って、バッテリ(図示せず)から供給される電力を用いて互いに独立に回転駆動するように構成されている。これにより、ドローン2を水平方向および/または垂直方向に移動させたり、ドローン2を傾斜させたりすることができる。
【0034】
無線モジュール28は、サーバ1および点検端末3とのネットワークNW経由での無線通信が可能に構成されている。無線モジュール28は、ドローン2の飛行指令(飛行経路の情報、飛行の開始/停止の指令など)を点検端末3から受信する。また、無線モジュール28は、カメラ26により撮影された画像をサーバ1に送信する。
【0035】
図4は、点検端末3の例示的な構成を示す図である。点検端末3は、プロセッサ31と、メモリ32と、入力機器33と、ディスプレイ34と、通信IF35とを含む。点検端末3の構成部品は、バスにより互いに通信可能に接続されている。
【0036】
プロセッサ31は、メモリ32に格納された各種プログラムを実行することで点検端末3の全体的な動作を制御する。入力機器33は、たとえばキーボードおよびマウス(いずれも図示せず)を含み、保守員の操作を受け付ける。ディスプレイ34は、各種情報を保守員に対して表示する。通信IF13は、サーバ1およびドローン2とのネットワークNW経由でのデータ通信が可能に構成されている。通信IF13は、ドローン2の飛行指令をドローン2に送信する。また、通信IF13は、サーバ1により画像処理された画像をサーバ1から受信する。
【0037】
プロセッサ31は、サーバ1から受信した、サーバ1による画像処理後の画像をディスプレイ34に表示させる。保守員は、ディスプレイ34に表示された画像を確認し、たとえば、異常が発生している可能性が高い箇所(精密点検を要する箇所)が撮影された画像を選択する。これにより、変電所内の変電設備の遠隔地からの点検業務を実現できる。
【0038】
<点検対象の異常>
本実施の形態に係る点検支援システム100は、変電設備の特定部分における異物の発生を伴う異常を好適に点検可能に構成されている。以下、本実施の形態において点検の対象とされる異常の種類について説明する。ただし、以下の異常は例示であり、限定的な意味で解釈されるべきではない。
【0039】
図5は、油入機器のフランジにおける漏油の様子の一例を示す図である。
図6は、油入機器のフランジにおける漏油の様子の他の一例を示す図である。
図7は、油入機器のラジエータにおける漏油の様子の一例を示す図である。図示しないが、変圧器と送電線との絶縁を保持する碍子ブッシングなどにおいても
図5~
図7と同様の漏油が起こり得る。
【0040】
図8は、タンクの端部(架台とタンクとを締結する部分)における発錆の様子の一例を示す図である。
図8に示すような端部には塗装が定着しにくいため、錆が発生しやすい。そのような箇所の他の例としてはフランジの縁(図示せず)なども挙げられる。また、架台の基礎周りにも水はけ不良、日当たり不良により錆が発生しやすい。なお、変電設備の発錆は、変電設備の腐食の一種であり、減肉(厚さの減少)などを伴い得る。
【0041】
図示しないが、変電設備に付着する汚れの有無も点検対象であり得る。たとえば、台風の通過に伴って変電設備の表面に汚れが付着する場合がある。あるいは、海の近くでは、塩分を含む汚損物を起点として時間経過とともに局所的に撥水性が低下することで汚れが付着する場合がある。点検支援システム100は、以上で説明した漏油、発錆、汚れの付着などのうちの少なくとも1つの点検に用いられる。
【0042】
<画像処理>
ドローン2により撮影された画像の全てを確認するには保守員の負担が大きいため、撮影された画像に対して画像処理技術を適用することが考えられる。たとえば特許文献1,2では、送電設備の点検に際し、画像処理により送電線が抽出される。送電線の異常(アーク痕、素線切れなど)が送電線のどこで発生するかを前もって知ることはできない。しかしながら、当該異常が送電線に沿って発生することは定かである。したがって、送電線の点検においては、送電線の線形状の外観的特徴を認識し、送電線に沿って無人移動体を飛行させながら連続的に撮影し、撮影された画像から送電線を抽出すればよい。これにより、送電線の異常の有無を漏れなく確実に点検できる。これに対し、本発明者は、変電所内の変電設備の点検においては以下のような課題が生じ得ることに着目した。
【0043】
一般に、変電所内には多種類の変電設備が点在している。そのため、変電所内を撮影する場合、点検対象である変電設備だけでなく、それ以外(建屋、点検対象外の設備など)が撮影される時間も長くなる。そうすると、撮影された画像から単に様々な設備を漏れなく抽出したのでは、保守員の負担が十分に軽減されない可能性がある。また、
図5~
図8にて説明したような油、錆、汚れなどの異物の発生態様(形状、範囲、色)は事例ごとに大きく異なり得る。そのため、異物を画像処理により抽出する技術的なハードルが高い。
【0044】
そこで、本実施の形態1においては、異物の発生を伴う異常が生じ得る特定部分(フランジ、ラジエータなど)の正常時における外観的特徴が抽出される。特定部分に着目することで、画像処理による抽出の対象が十分に限定されるので、画像を確認する保守員の負担を軽減できる。また、特定部分の外観的特徴(形状、色など)は既知である。かつ、当該外観的特徴のバリエーションは、異常の発生態様のばらつきと比べて、顕著に小さい。したがって、異物の発生を伴う異常が生じ得る特定部分を抽出することは、異物を直接的に抽出するのと比べて容易である。よって、画像処理による抽出を高精度に実現でき、必要な点検精度を確保することが可能になる。
【0045】
図9は、異物の発生を伴う異常が生じ得る特定部分の抽出手法の一例を説明するための概念図である。
図9には特定部分がフランジである例が示されている。以下、フランジについて代表的に説明するが、フランジをラジエータ、碍子ブッシング、タンクの端部などの他の特定部分に適宜読み替えることができる。
【0046】
サーバ1は、たとえば、フランジの外観的特徴に基づいて予め準備されたマーカを使用することによって、ドローン2により撮影された画像からフランジを抽出できる。このマーカ検出処理は、たとえば、教師あり機械学習アルゴリズムを用いて構築された学習済みモデルに実現される。ただし、SIFT(Scale-Invariant Feature Transform)特徴量、HOG(Histograms of Oriented Gradients)特徴量などの局所特徴量を用いた公知の特徴量抽出処理をフランジの抽出に採用してもよい。なお、サーバ1は、抽出されたフランジを、当該フランジを取り囲む枠(バウンディングボックス)により強調表示してもよい。
【0047】
図10は、マーカ検出処理に用いられる学習済みモデルの一例を説明するための図である。学習前モデルである推定モデル7は、たとえば、ニューラルネットワーク71と、パラメータ72とを含む。ニューラルネットワーク71は、たとえばディープラーニング(深層学習)による画像認識処理に用いられる公知のニューラルネットワークである。そのようなニューラルネットワークとしては、畳み込みニューラルネットワーク(CNN:Convolution Neural Network)、再帰型ニューラルネットワーク(RNN:Recurrent Neural Network)などが挙げられる。パラメータ72は、ニューラルネットワーク71による演算に用いられる重み付け係数などを含む。
【0048】
多数の教師データが開発者により予め準備される。教師データは、例題データと、正解データとを含む。例題データは、抽出対象であるフランジを含む画像データである。正解データは、例題データに対応する抽出結果を含む。具体的には、正解データは、例題データに含まれるフランジが抽出された画像データである。
【0049】
学習システム8は、例題データおよび正解データを用いて推定モデル7を学習させる。学習システム8は、入力部81と、抽出部82と、学習部83とを含む。
【0050】
入力部81は、開発者により準備された多数の例題データ(画像データ)を受け付けて抽出部82に出力する。
【0051】
抽出部82は、入力部81からの例題データを推定モデル7に入力することによって、例題データに含まれるフランジを例題データ毎に抽出する。抽出部82は、その抽出結果(推定モデル7からの出力)を学習部83に出力する。
【0052】
学習部83は、抽出部82から受けた例題データからのフランジ(マーカ)の抽出結果と、その例題データに対応する正解データとに基づいて、推定モデル7を学習させる。具体的には、学習部83は、抽出部82によって得られたフランジの抽出結果が正解データに近づくように、パラメータ72(たとえば重み付け係数)を調整する。学習部83は、たとえば、マーカを含まない画像からマーカが検出されたとの正解が得られた正解率と、マーカを含まない画像からマーカが検出されなかったとの正解が得られた正解率とを算出する。そして、学習部83は、両方の正答率が基準の比率(たとえば0.8)を超えるまで学習を継続してもよい。
【0053】
以上のように推定モデル7の学習が行われ、学習が完了した推定モデル7がフランジ抽出モデルとしてサーバ1のメモリ12(SSD123)内の学習済みモデル4に格納されている。フランジ抽出モデルは、ドローン2により撮影された画像(この例では動画)が入力されると、フランジが抽出された画像を出力する。ここではフランジの抽出を例に説明したが、他のマーカ(ラジエータ、碍子ブッシングなど)についてもマーカごとに同様の抽出モデルが準備されて学習済みモデル4に格納されている。サーバ1は、このような複数の抽出モデルを使用して抽出された情報を、ドローン2により撮影された画像に紐付けて画像データベース5(5Aまたは5B)に格納する。
【0054】
図11は、ドローン2により撮影される画像が動画である場合の画像データベース5Aのデータ構造図である。画像データベース5Aは、ドローン2により撮影された動画に加えて、当該動画に関するメタデータを保存している。メタデータは、たとえば撮影条件とタグ情報とを含む。
【0055】
撮影条件は、たとえば、動画の撮影場所(変電所の名称など)、撮影日時、撮影長(合計撮影時間)、保守員の識別番号(保守員ID)、ドローン2の識別番号(ドローンID)を含む。撮影条件は、撮影場所の気象条件(天気、風速など)等の他の条件を含んでもよい。また、画像データベース5Aの格納データは、撮影条件に加えて、撮影(点検)の目的、ドローン2の飛行条件などに関して保守員が残す記録(備忘録)を含んでもよい。なお、撮影条件の格納は画像データベース5Aのユーザビリティ向上のためであって必須ではない。
【0056】
タグ情報は、異物の発生を伴う異常が生じている可能性がある箇所、すなわち、保守員が点検すべき箇所の候補を示す情報である。サーバ1は、学習済みモデル4を用いてフランジ等のマーカが抽出されたフレームを、当該フレームの時刻情報と関連付けて画像データベース5Aに格納する。より具体的には、サーバ1は、マーカが抽出されたフレームの前後のフレームにタグを付与する。
【0057】
図11には3つのタグ1~3が例示されている。たとえばタグ1に関し、サーバ1は、動画の撮影開始時刻から1分40秒が経過した時点でフランジを抽出すると、その前後の10秒間のフレーム(1分30秒から1分50秒までの全フレーム)に同じタグを付与する。他のタグ2,3についても同様である。なお、ここではサーバ1が時間に基づいてタグを付与するフレームを決定する例を説明したが、タグを付与する範囲はフレーム数に基づいて決められてもよい。
【0058】
図12は、ドローン2により撮影される画像が静止画である場合の画像データベース5Bのデータ構造図である。画像データベース5Bに格納されるメタデータも同様に、たとえば撮影条件とタグ情報とを含む。ここでの撮影条件は、撮影長を含まない以外は画像が動画である場合の条件と同様である。
【0059】
画像が静止画である場合、タグ情報は、撮影された静止画ごとに付与される。タグ情報は、各静止画にタグが付与されているかどうかを示す。
図12に示す例では、タグが付与された静止画には「Y」と記載され、タグが付与されていない静止画には「N」と記載されている。
【0060】
サーバ1は、画像データベース5A,5Bに格納されたタグ情報を参照することで、保守員が点検すべき特定部分(マーカ)が撮影された画像を、当該特定部分で異物の発生を伴う異常が実際に発生しているか否かに拘わらず絞り込む。これにより、保守員が点検する動画が短くなる(または静止画が少なくなる)ので、保守員の負担が軽減される。また、異常の有無は保守員が人間の目で確認して判断するので、異物の画像処理の技術的なハードルが高いことに起因する点検精度の低下も抑制される。よって、本実施の形態1によれば、保守員の負担を軽減しつつ必要な点検精度を確保できる。
【0061】
<処理手順>
図13は、実施の形態1に係る変電所の点検支援方法の処理手順を示すシーケンス図である。図中、左側にドローン2による処理を示し、中央にサーバ1による処理を示し、右側に点検端末3による処理を示す。サーバ1による各処理は、プロセッサ11によるソフトウェア処理により実現されるが、サーバ1内に配置されたハードウェア(電気回路)により実現されてもよい。ドローン2または点検端末3による処理についても同様である。
【0062】
SQ1において、点検端末3は、ドローン2の撮影条件をサーバ1に登録する。ドローン2の撮影条件については
図11および
図12にて説明したため、説明は繰り返さない。
【0063】
SQ2において、点検端末3は、ドローン2の飛行条件をドローン2に指令する。ドローン2の飛行条件は、飛行経路でもよいし、飛行範囲(経度、緯度、高度の範囲)でもよいし、飛行速度でもよいし、それらの組み合わせでもよい。
【0064】
SQ3において、点検端末3は、飛行および撮影の開始をドローン2に指令する。ドローン2は、点検端末3からの指令に従って、指令された飛行条件を守りながら飛行しながら変電所内を撮影する(SQ4)。ドローン2は、撮影された画像をサーバ1に送信する。この例では、ドローン2は、リアルタイムで画像をサーバ1に送信する。しかし、ドローン2は、全ての撮影が終了した後にまとめて画像を送信してもよい。
【0065】
SQ5において、サーバ1は、ドローン2から受信した画像をメモリ12(画像データベース5)に格納する。さらに、サーバ1は、異物の発生を伴う異常が生じ得る特定部分(マーカ)ごとに準備された抽出モデルを含む学習済みモデル4を用いた画像処理(マーカ検出処理)を実行することによって、特定部分を抽出する。そして、サーバ1は、特定部分が抽出された画像にタグを付し、そのタグ情報を画像データベース5に格納する(SQ6)。この処理については
図9および
図10にて詳細に説明したため、ここでの説明は繰り返さない。
【0066】
SQ7において、ドローン2は、変電所の撮影が終了したことを点検端末3に通知して飛行を終了する。
【0067】
SQ8において、点検端末3は、保守員による点検作業に使用するための画像の送信をサーバ1に要求する。この要求のタイミングは任意であり、ドローン2による撮影日とは別の日であってもよい。サーバ1は、点検端末3からの要求に応答して、タグ付けされた画像を選択的に点検端末3に送信する(SQ9)。すなわち、サーバ1は、ドローン2により撮影された画像のうち、タグが付与された画像を送信する一方で、タグが付与されていない画像は送信しない。
【0068】
以上のように、本実施の形態1においては、サーバ1は、ドローン2により撮影された全ての画像を点検端末3に送信するのに代えて、その中から、異物の発生を伴う異常が生じ得る特定部分が撮影された画像を選択的に送信する。これにより、保守員が確認すべき画像の分量が削減されるので、保守員の負担が軽減される。また、異物の発生を伴う異常が生じ得る特定部分の抽出は異物の抽出と比べて容易であり、かつ、保守員自身が異常の有無を点検する。したがって、たとえ異物の画像処理の精度が低くても点検精度の低下は引き起こされない。よって、本実施の形態1によれば、保守員の負担を軽減しつつ必要な点検精度を確保できる。
【0069】
なお、サーバ1が学習済みモデル4を用いてマーカ検出処理を実行すると説明した。この場合、サーバ1のプロセッサ11が本開示に係る「プロセッサ」に相当する。しかし、マーカ検出処理の実行主体はサーバ1に限定されない。
【0070】
たとえば、ドローン2がマーカ検出処理を実行してもよい。すなわち、ドローン2のプロセッサ21がメモリ22に格納された学習済みモデル4を用いてマーカ検出処理を実行して画像にタグを付与してもよい。また、ドローン2は、撮影した画像のうち、タグが付与された画像のみをサーバ1に送信してもよい。なお、ドローン2によりマーカ検出処理が実行された場合にも、最終的に点検端末3に提供されるのはマーカ検出処理により特定部分が抽出された画像に限定されるので、「前記プロセッサは、前記画像処理により前記特定部分が抽出された画像を保守員の端末に提供する」に該当する。
【0071】
実施の形態2.
実施の形態2では、ドローン2の位置情報を利用する構成について説明する。実施の形態2に係る点検支援システムのシステム構成は、
図1~
図4に示したシステム構成と同等であるため、説明は繰り返さない。
【0072】
図14は、実施の形態2におけるドローン2の位置情報の使用手法を説明するための概念図である。縦軸は、ドローン2が飛行する高度を表す。横軸は、ドローン2が飛行する水平方向の位置を表す。
【0073】
図14に示すように、点検対象である変電設備(この例では変圧器)を撮影可能な領域(好ましくは3次元領域)が事前に設定されている。この領域は、調査員が実際に変電所に出向き、調査用のドローンを飛ばして変電設備を撮影可能な領域を調査することより設定され得る。さらに、調査員は、ドローンから撮影可能な領域内に位置する変電設備の属性情報(機種、メーカ、型式など)も事前に調査することが望ましい。属性情報は、サーバ1のメモリ12(属性情報データベース6)(
図2参照)に格納される。
【0074】
ドローン2は、飛行中に撮影可能領域に入ると、その時刻(この例では動画の撮影開始時刻から4分25秒)を記録する。また、ドローン2は、撮影可能領域から出ると、その時刻(この例では5分45秒)を記録する。そして、ドローン2は、ドローン2が撮影可能領域内に入っていた時間情報(この例では4分25秒から5分45秒までとの情報)をドローン2の位置情報(経度、緯度、高度の情報)とともにサーバ1に送信する。
【0075】
サーバ1は、ドローン2の位置情報に基づいて、マーカ検出処理により抽出された特定部分を有する変電設備に当該変電設備の属性情報を関連付ける。これにより、たとえば、ドローン2により撮影された画像の中から、特に確認したい変電設備を検索する(たとえば機種を絞り込む)ことが容易になる。したがって、点検業務の業務効率を向上させることができる。
【0076】
また、実施の形態1では、ドローン2により撮影された全画像をサーバ1がマーカ検出処理の対象とすると説明した。しかし、撮影可能領域が適切に設定されていれば、ドローン2が撮影可能領域外である場合には点検対象の変電設備は撮影されない。したがって、実施の形態2においては、サーバ1は、ドローン2が撮影可能領域内であるときに撮影されたことをドローン2の位置情報が示す画像に対して選択的にマーカ検出処理を実行する。言い換えると、サーバ1は、マーカ検出処理の対象とする範囲をドローン2が撮影可能領域内を飛行した時間範囲に限定する。これにより、サーバ1の演算負荷を低減できる。
【0077】
なお、実施の形態1の最後で説明したようにドローン2がマーカ検出処理を実行する場合、ドローン2のプロセッサ21は同様に、マーカ検出処理の対象とする範囲をドローン2が撮影可能領域内であった時間範囲に限定できる。ドローン2はサーバ1と比べて演算資源に乏しいため、このような限定が特に有効である。
【0078】
以上のように、実施の形態2においては、ドローン2が事前に設定された撮影可能領域内である場合に、ドローン2の位置情報に基づいて、撮影された変電設備に属性情報が付加される。これにより、点検業務の業務効率を向上させることができる。また、マーカ検出処理の対象をドローン2が撮影可能領域内である場合に限定することによって、サーバ1(ドローン2であってもよい)の演算負荷を低減できる。
【0079】
付記.
最後に本開示の諸態様を付記としてまとめて記載する。
【0080】
(付記1)
保守員による変電所内の変電設備の点検業務を支援する、変電所の点検支援システムであって、
カメラを用いて前記変電所内を撮影する無人移動体と、
前記無人移動体により撮影された画像に対して画像処理を実行するプロセッサとを備え、
前記画像処理は、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分を抽出する処理を含み、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像を保守員の端末に提供する、変電所の点検支援システム。
【0081】
(付記2)
前記異常は、前記特定部分からの漏油を含む、付記1に記載の変電所の点検支援システム。
【0082】
(付記3)
前記異常は、前記特定部分の発錆を含む、付記1または2に記載の変電所の点検支援システム。
【0083】
(付記4)
前記異常は、前記特定部分への汚れの付着を含む、付記1~3のいずれか1項に記載の変電所の点検支援システム。
【0084】
(付記5)
前記プロセッサは、
前記画像処理において、前記異常が生じていない状態での前記外観的特徴をマーカとして学習した学習済みモデルを用いることによって前記特定部分を抽出し、前記特定部分が抽出された画像にタグを付与し、
前記無人移動体により撮影された画像のうち、前記タグが付与された画像を前記端末に提供する一方で、前記タグが付与されていない画像は前記端末に提供しない、付記1~4のいずれか1項に記載の変電所の点検支援システム。
【0085】
(付記6)
前記変電設備の属性情報が格納されたメモリをさらに備え、
前記属性情報は、前記無人移動体により前記変電設備を撮影可能な領域を示す情報に関連付けられており、
前記無人移動体は、前記無人移動体により撮影された画像に前記無人移動体の位置情報を付加するように構成され、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像に、前記無人移動体の前記位置情報に基づいて、抽出された前記特定部分を有する前記変電設備の前記属性情報を付与する、付記1~5のいずれか1項に記載の変電所の点検支援システム。
【0086】
(付記7)
前記プロセッサは、前記無人移動体により撮影された画像のうち、前記無人移動体が前記撮影可能な領域内であるときに撮影されたことを前記無人移動体の前記位置情報が示す画像に対して前記画像処理を実行する、付記6に記載の変電所の点検支援システム。
【0087】
(付記8)
保守員による変電所内の変電設備の点検業務を支援するサーバであって、
カメラが搭載された無人移動体により撮影された前記変電所内の画像に対して画像処理を実行するプロセッサを備え、
前記画像処理は、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分を抽出する処理を含み、
前記プロセッサは、前記画像処理により前記特定部分が抽出された画像を前記保守員の端末に提供する、サーバ。
【0088】
(付記9)
保守員による変電所内の変電設備の点検業務を支援する、変電所の点検支援方法であって、
カメラが搭載された無人移動体により撮影された画像に対してプロセッサが画像処理を実行するステップを含み、
前記画像処理を実行するステップは、前記変電設備のうちの異物の発生を伴う異常が生じ得る特定部分の正常時における外観的特徴に基づいて、前記異常が実際に生じているか否かに拘わらず、前記無人移動体により撮影された画像から前記特定部分抽出するステップを含み、
前記点検支援方法は、前記抽出するステップにより前記特定部分が抽出された画像を前記保守員の端末に提供するステップをさらに含む、変電所の点検支援方法。
【0089】
今回開示された実施の形態は、全ての点で例示であって制限的なものではないと考えられるべきである。本開示の範囲は、上記した実施の形態1の説明ではなく特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
【符号の説明】
【0090】
1 サーバ、11 プロセッサ、12 メモリ、121 ROM、122 RAM、123 SSD、124 HDD、13 通信IF、2 ドローン、21 プロセッサ、22 メモリ、23 IMU、24 GPS、25 気圧センサ、26 カメラ、27 モータ、28 無線モジュール、3 点検端末、31 プロセッサ、32 メモリ、33 入力機器、34 ディスプレイ、35 通信IF、4 学習済みモデル、5,5A,5B 画像データベース、6 属性情報データベース、100 点検支援システム、NW ネットワーク。