(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-12-16
(45)【発行日】2024-12-24
(54)【発明の名称】情報処理方法、情報処理システム及びプログラム
(51)【国際特許分類】
G06T 7/60 20170101AFI20241217BHJP
【FI】
G06T7/60 200H
(21)【出願番号】P 2024060283
(22)【出願日】2024-04-03
【審査請求日】2024-05-09
【早期審査対象出願】
(73)【特許権者】
【識別番号】518156358
【氏名又は名称】株式会社センシンロボティクス
(73)【特許権者】
【識別番号】520320446
【氏名又は名称】中部電力パワーグリッド株式会社
(73)【特許権者】
【識別番号】000213297
【氏名又は名称】中部電力株式会社
(74)【代理人】
【識別番号】110002790
【氏名又は名称】One ip弁理士法人
(72)【発明者】
【氏名】小川 雅弘
(72)【発明者】
【氏名】丸目 裕樹
(72)【発明者】
【氏名】山田 竜司
【審査官】菊池 伸郎
(56)【参考文献】
【文献】特開2009-226141(JP,A)
【文献】特開2020-196355(JP,A)
【文献】中国特許出願公開第111179232(CN,A)
【文献】米国特許出願公開第2018/0260626(US,A1)
【文献】Guang ZHOU et al.,Robust real-time UAV based power line detection and tracking,2016 IEEE International Conference on Image Processing (ICIP),米国,IEEE,2016年09月,pp.744-748,DOI: 10.1109/ICIP.2016.7532456
【文献】Biqin SONG et al.,Power line detection from optical images,Neurocomputing,Elsevier B.V.,2014年04月,Vol. 129,pp.350-361,DOI: 10.1016/j.neucom.2013.09.023
【文献】Feng SHUANG et al.,PLE: Power Line Extraction Algorithm for UAV-Based Power Inspection,IEEE Sensors Journal,米国,IEEE,2022年10月15日,Vol. 22, No.20,pp.19941-19952,DOI: 10.1109/JSEN.2022.3202033
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G06T 7/12-7/13
G06T 7/60
G06V 10/00
(57)【特許請求の範囲】
【請求項1】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法であって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ
、及び、前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータが実行する情報処理方法。
【請求項2】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法であって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタに基づく
空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータが実行する情報処理方法。
【請求項3】
前記第3フィルタは、前記特定幅の線が有する前記2つのエッジのうちの一方にのみ反応するフィルタと、前記2つのエッジのうちの他方にのみ反応するフィルタと、を有し、
前記第1フィルタ、前記2つのエッジのうちの一方にのみ反応する前記第3フィルタ、及び、前記2つのエッジのうちの他方にのみ反応する前記第3フィルタに基づく、前記空間フィルタリング処理により、前記フィルタ処理画像を生成する
請求項2に記載の情報処理方法。
【請求項4】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法であって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタに基づく
空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータが実行する情報処理方法。
【請求項5】
前記空間フィルタリング処理の実行前に、少なくとも1種の他のフィルタと、前記第1フィルタと、を組み合わせた複合フィルタを生成する処理をさらに含み、
前記他のフィルタが、
前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタ、
前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタ、及び、
テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタ、から選択される1種以上のフィルタであり、
前記フィルタ処理画像を生成する前記処理において、前記複合フィルタを用いた畳み込み演算により前記空間フィルタリング処理を実行し、前記特定幅の線が強調された前記フィルタ処理画像を生成する
請求項1~4のいずれかに記載の情報処理方法。
【請求項6】
前記複合フィルタを、前記第1フィルタ、前記第2フィルタ、前記第3フィルタ、及び、前記第4フィルタを組み合わせて生成する
請求項5に記載の情報処理方法。
【請求項7】
前記ハフ変換処理は加重ハフ変換(Weighted Hough Transform)であり、
該加重ハフ変換により取得され、前記フィルタ処理画像内の強度値によって重み付けられた直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する
請求項1~4のいずれかに記載の情報処理方法。
【請求項8】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理システムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ
、及び、前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成するフィルタリング処理部と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する特定直線抽出部と、を備える情報処理システム。
【請求項9】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータに実行させるプログラムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ
、及び、前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータに実行させるためのプログラム。
【請求項10】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理システムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成するフィルタリング処理部と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する特定直線抽出部と、を備える情報処理システム。
【請求項11】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータに実行させるプログラムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータに実行させるためのプログラム。
【請求項12】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理システムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成するフィルタリング処理部と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する特定直線抽出部と、を備える情報処理システム。
【請求項13】
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータに実行させるプログラムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタ、及び、テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理方法、情報処理システム及びプログラムに関する。
【背景技術】
【0002】
近年、ドローン(Drone)、無人航空機(UAV:Unmanned Aerial Vehicle)、無人地上車両(UGV:Unmanned Ground Vehicle)などの移動体(以下、「移動体」と総称する)が産業に利用され始めている。例えば、特許文献1には、飛行体により電力線を撮影して検査するシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ここで、架渉線(電力線)などの長尺状の点検対象物の追跡のために該点検対象物を特定する一つの手法として、無人移動体が取得した撮影画像に対してエッジ検出を行うことで、点検対象物のエッジを抽出し、点検対象物の位置を特定するという手法が考え得る。しかしながら、撮影した画像には様々な建物、及び、道路等の点検対象物以外の直線的な構造物が背景に映りこむことから、撮影画像に対してエッジ検出を行った場合には、ノイズとなるエッジが多数抽出され得る。そのため、対象点検物のエッジを特定することが難しい場合がある。特に、背景にある点検対象外の直線的な物体(特に細長い物体)のエッジを抽出した場合には、無人移動体がそのような点検対象外の物体の方を追跡してしまい、点検対象物を見失い適切な点検を行うことが難しい場合がある。
【0005】
上記のようなエッジ検出を行う手法の他にも、ディープラーニングにより撮影画像中の点検対象物をセグメンテーションして抽出する手法が考え得る。しかしながら、このようなディープラーニングによるセグメンテーションを実行するためには、ハイスペックな演算処理装置が必要となり、該セグメンテーション手法を汎用的に利用することが困難な場合がある。また、点検対象物と同種類の非点検対象物が映り込んでいる場合(例えば、点検対象の電力線以外に非点検対象の電力線が撮影画像の背景に映り込んでいる場合など)には、セグメンテーションの手法では、点検対象物と非点検対象物とを識別することが難しい。
【0006】
本開示は上記のような背景を鑑みてなされたものであり、本開示の例示的な実施形態の目的の一つは、画像内から特定の点検対象物を抽出することが可能な情報処理方法、情報処理システム及びプログラムを提供することである。
【課題を解決するための手段】
【0007】
本開示の一態様に係わる情報処理方法は、無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法であって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータが実行する。
【0008】
情報処理方法が上記の特徴を有することで、撮影画像内に、点検対象物以外に、建物、道路、又は、その他長尺状の物体などの直線状の非点検対象物が映り込んでいる場合であっても、目的の点検対象物に対応する直線を該撮影画像から抽出することができる。
【図面の簡単な説明】
【0009】
【
図1】
図1は、本開示における一実施形態の全体構成を例示する図である。
【
図2】
図2は、本開示の一実施形態に係わる情報処理システムのシステム構成を例示する図である。
【
図3】
図3は、
図2に示す端末1のハードウェア構成を示すブロック図である。
【
図4】
図4は、
図2に示すサーバ2のハードウェア構成を示すブロック図である。
【
図5】
図5は、
図2に示す無人飛行体4のハードウェア構成を示すブロック図である。
【
図6】
図6は、
図2に示す端末1、及び、サーバの2の機能を例示するブロック図である。
【
図7】
図7は、無人飛行体4の撮影部から取得した画像の一例である。
【
図8】
図8は、
図7の画像から生成されたフィルタ処理画像の一例である。
【
図9】
図9は、一般的なエッジ強調フィルタによる畳み込み演算処理を説明するための図である。
【
図10】
図10は、特定幅強調フィルタ(第1フィルタ)の一例を示す模式図である。
【
図11】
図11は、
図10に示す特定幅強調フィルタによる畳み込み演算処理を例示的に説明するための図である。
【
図12】
図12は、特定幅強調フィルタの変形例を示す模式図である。
【
図13】
図13は、異径線抽出フィルタ(第2フィルタ)の一例を示す模式図である。
【
図14】
図14は、片側エッジフィルタ(第3フィルタ)を例示する模式図である。
【
図15】
図15は、テスト画像における点検対象物の輝度分布を説明するための図である。
【
図16】
図16は、反射対策フィルタ(第4フィルタ)の一例を示す模式図である。
【
図21】
図21は、追跡対象位置が可視化された画像の一例を模擬的に示す図である。
【
図22】
図22は、本実施形態に係わる情報処理システムによる処理の一例を示すフローチャートである。
【発明を実施するための形態】
【0010】
本開示の情報処理方法、情報処理システム及びプログラムは、以下のような構成を備える。
[項目1]
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法であって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータが実行する情報処理方法。
[項目2]
前記フィルタ処理画像を生成する前記処理において、前記第1フィルタ、及び、前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタに基づく、前記空間フィルタリング処理を実行し、前記特定幅の線が強調された前記フィルタ処理画像を生成する項目1に記載の情報処理方法。
[項目3]
前記フィルタ処理画像を生成する前記処理において、前記第1フィルタ、及び、前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタに基づく、前記空間フィルタリング処理を実行し、前記特定幅の線が強調された前記フィルタ処理画像を生成する項目1に記載の情報処理方法。
[項目4]
前記第3フィルタは、前記特定幅の線が有する前記2つのエッジのうちの一方にのみ反応するフィルタと、前記2つのエッジのうちの他方にのみ反応するフィルタと、を有し、
前記第1フィルタ、前記2つのエッジのうちの一方にのみ反応する前記第3フィルタ、及び、前記2つのエッジのうちの他方にのみ反応する前記第3フィルタに基づく、前記空間フィルタリング処理により、前記フィルタ処理画像を生成する項目3に記載の情報処理方法。
[項目5]
前記フィルタ処理画像を生成する前記処理において、前記第1フィルタ、及び、テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタに基づく、前記空間フィルタリング処理により、前記特定幅の線が強調された前記フィルタ処理画像を生成する項目1に記載の情報処理方法。
[項目6]
前記空間フィルタリング処理の実行前に、少なくとも1種の他のフィルタと、前記第1フィルタと、を組み合わせた複合フィルタを生成する処理をさらに含み、
前記他のフィルタが、
前記特定幅とは異なる幅を有する異径線に対して選択性を有する第2フィルタ、
前記特定幅の線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応する第3フィルタ、及び、
テスト画像における前記検査対象物の輝度分布に基づいて重みづけられたフィルタ係数を有する第4フィルタ、から選択される1種以上のフィルタであり、
前記フィルタ処理画像を生成する前記処理において、前記複合フィルタを用いた畳み込み演算により前記空間フィルタリング処理を実行し、前記特定幅の線が強調された前記フィルタ処理画像を生成する項目1~5のいずれかに記載の情報処理方法。
[項目7]
前記複合フィルタを、前記第1フィルタ、前記第2フィルタ、前記第3フィルタ、及び、前記第4フィルタを組み合わせて生成する項目6に記載の情報処理方法。
[項目8]
前記ハフ変換処理は加重ハフ変換(Weighted Hough Transform)であり、
該加重ハフ変換により取得され、前記フィルタ処理画像内の強度値によって重み付けられた直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する項目1~5のいずれかに記載の情報処理方法。
[項目9]
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理システムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成するフィルタリング処理部と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する特定直線抽出部と、を備える情報処理システム。
[項目10]
無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータに実行させるプログラムであって、
前記検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタに基づく空間フィルタリング処理により、前記撮影画像から前記特定幅の線が強調されたフィルタ処理画像を生成する処理と、
生成された前記フィルタ処理画像に対するハフ変換処理により取得される直線投票数情報に基づき、前記フィルタ処理画像内の複数の直線から前記検査対象物に対応する直線を抽出する処理と、を前記コンピュータに実行させるためのプログラム。
【0011】
<実施の形態の詳細>
以下、本開示の一実施形態に係わる情報処理システムを、図面を参照しつつ説明する。添付の各図面において、同一または類似の要素には同一または類似の参照符号及び名称が付され、実施形態の説明において同一または類似の要素に関する重複する説明は省略することがある。なお、各図面に示す内容は、あくまでも、本実施形態を説明するための例示であり、本実施形態を説明し易いように概略的に示す例示にすぎない。各図面の内容は、技術的に問題が生じない範囲内で改変したり、変更したりしてもよい。
【0012】
<本実施形態の概要>
本実施形態に係わる情報処理システムは、無人移動体によって撮影された画像(以下、撮影画像と称する)から点検対象物を抽出し、点検対象物を該無人移動体により自動追跡するための処理に関わるシステムである。点検対象物は、長尺状の物体(例えば、線状、管状、柱状、長板状などの長手方向を有する物体)であって、必ずしも限定されず、例えば、架渉線(電力線)、配管、区画線、及び、道路標示(白線、中央線など)などが例示される。本実施形態の情報処理システムは、架渉線、又は、配管の点検に適用することが好ましく、架渉線の点検に適用することがより好ましい。無人移動体としては、ドローン、無人航空機、及び、無人地上車両が例示され、特に限定されない。後で例示する電力線の点検の場合は、ドローン又は無人航空機などの無人飛行体を利用することが好ましい。本実施形態では、無人飛行体で電力線を点検する場合を例示して、情報処理システムついて詳述する。
【0013】
図1に示されるように、以下で例示する情報処理システムは、例えば支持物(例えば、鉄塔など)に設けられた互いに並んで延伸する複数の電力線に沿って撮像した画像から、複数の電力線(特に多導体方式の電力線であって、例えば径間スペーサにより2本、3本、4本、6本などの電力線など)に対応する直線を抽出するものである。複数の電力線の画像の取得は、一例として、ユーザの所有する端末1からの指示に基づき、自律飛行もしくは遠隔操作により飛行する
図1に示すような無人飛行体4に搭載したカメラを遠隔操作して撮像してもよい。
【0014】
より具体的には、情報処理システムでは、飛行体により撮影した撮影画像から空間フィルタリング処理によりフィルタ処理画像を生成する。この際、従来知られているエッジ強調フィルタとは異なる特定幅強調フィルタに基づいて空間フィルタリング処理を実行することで、検査対象の電力線に対応する特定幅を有する線(以下、「特定幅線」と称する場合がある)が強調されたフィルタ処理画像を生成する。
【0015】
フィルタ処理画像の生成後、該フィルタ処理画像に対してハフ変換処理を実行し、ハフ変換処理により取得された直線投票数情報に基づき、フィルタ処理画像内の複数の直線から検査対象の電力線に対応する特定幅線を抽出する。ハフ変換の入力画像であるフィルタ処理画像において、特定幅線が強調されているため、直線投票数情報から容易に検査対象の電力線に対応する直線を抽出できる。このハフ変換処理では、一般的なハフ変換の手法を採用でき、特に、加重ハフ変換(WHT:Weighted Hough Transform)を実行して直線投票数情報を取得することが好ましい。加重ハフ変換では、直線投票数情報がフィルタ処理画像内の強度値(空間フィルタリング処理後の輝度値(画素値)に相当する)に基づき重み付けられる。加重ハフ変換への入力画像であるフィルタ処理画像では、特定幅線が背景等の非点検対象物に対応するその他の線よりも高い強度値で表示されているため、加重ハフ変換により取得される直線投票数情報では、特定幅線に対して他の線よりも高い投票数が割り当てられる。したがって、加重ハフ変換を実行した場合には、フィルタ処理画像内の強度値に基づいて重みづけられている直線投票数情報に基づいて、通常のハフ変換よりもさらに容易に特定幅線を抽出できる。
【0016】
上記のように、特定幅強調フィルタに基づく空間フィルタリング処理と、加重ハフ変換処理と、を実行することで、撮影画像内に、点検対象外の建物、道路、又は、その他長尺状の物体などの直線状の非点検対象物が映り込んでいる場合であっても、目的の点検対象物に対応する直線を該撮影画像から抽出することができる。また、上記の情報処理システムでは、ディープラーニングよりも簡便な演算処理で点検対象物に対応する直線の抽出が可能であり、ディープラーニングを利用したセグメンテーション手法で必要な演算処理装置よりも安価で汎用的な演算処理装置を用いることができる。
【0017】
<システム構成>
図2に示されるように、本実施形態の情報処理システムは、端末1と、サーバ2と、無人飛行体4とを有する。端末1と、サーバ2と、無人飛行体4は、ネットワークNWを介して互いに通信可能に接続されていてもよい。なお、図示された構成は一例であり、これに限らず、例えば無人飛行体4がネットワークNWに接続されていなくてもよい。その場合、無人飛行体4の操作がユーザの操作する送信機(いわゆるプロポ)により行われたり、無人飛行体4のカメラにより取得した画像データが無人飛行体4に接続される補助記憶装置(例えばSDカードなどのメモリカード及び/又はUSBメモリなど)に記憶され、ユーザにより事後的に補助記憶装置から端末1及び/又はサーバ2に読み出されて記憶されたりする構成であってもよく、操作目的または画像データの記憶目的のいずれか一方の目的のためだけに無人飛行体4がネットワークNWに接続されていてもよい。
【0018】
<端末1のハードウェア構成>
図3は、本実施形態における端末1のハードウェア構成を示す図である。なお、図示された構成は一例であり、これ以外の構成を有していてもよい。
【0019】
端末1は、少なくとも、プロセッサ10、メモリ11、ストレージ12、送受信部13、入出力部14等を備え、これらはバス15を通じて相互に電気的に接続される。端末1は、例えばワークステーション又はパーソナルコンピュータのような汎用コンピュータとしてもよい。
【0020】
プロセッサ10は、端末1全体の動作を制御し、各要素間におけるデータの送受信の制御、及びアプリケーションの実行及び認証処理に必要な情報処理等を行う演算装置である。例えばプロセッサ10はCPU(Central Processing Unit)および/またはGPU(Graphics Processing Unit)であり、ストレージ12に格納されメモリ11に展開されたプログラム等を実行して各情報処理を実施する。
【0021】
メモリ11は、DRAM(Dynamic Random Access Memory)等の揮発性記憶装置で構成される主記憶と、フラッシュメモリ及びHDD(Hard Disc Drive)等の不揮発性記憶装置で構成される補助記憶と、を含む。メモリ11は、プロセッサ10のワークエリア等として使用され、また、端末1の起動時に実行されるBIOS(Basic Input / Output System)、及び各種設定情報等を格納する。
【0022】
ストレージ12は、アプリケーション・プログラム等の各種プログラムを格納する。各処理に用いられるデータを格納したデータベースがストレージ12に構築されていてもよい。また、後述の記憶部130が記憶領域の一部に設けられていてもよい。
【0023】
送受信部13は、端末1が通信ネットワークを介して外部装置(不図示)及び無人飛行体4等と通信を行うための通信インターフェースである。送受信部13は、Bluetooth(登録商標)及びBLE(Bluetooth Low Energy)の近距離通信インターフェース及び/又はUSB(Universal Serial Bus)端子等をさらに備えていてもよい。
【0024】
入出力部14は、キーボード・マウス類等の情報入力機器、及びディスプレイ等の出力機器である。
【0025】
バス15は、上記各要素に共通に接続され、例えば、アドレス信号、データ信号及び各種制御信号を伝達する。
【0026】
<サーバ2>
図4に示されるサーバ2もまた、プロセッサ20、メモリ21、ストレージ22、送受信部23、入出力部24等を備え、これらはバス25を通じて相互に電気的に接続される。サーバ2は、例えばワークステーション及びパーソナルコンピュータのような汎用コンピュータとしてもよいし、或いはクラウド・コンピューティングによって論理的に実現されてもよい。サーバ2の各要素の機能は、上述した端末1と同様に構成することが可能であり、サーバ2の各要素の詳細な説明は省略する。
【0027】
<無人飛行体4>
図5は、無人飛行体4のハードウェア構成を示すブロック図である。フライトコントローラ41は、プログラマブルプロセッサ(例えば、中央演算処理装置(CPU))などの1つ以上のプロセッサを有していてもよい。
【0028】
また、フライトコントローラ41は、メモリ411を有していてもよく、当該メモリにアクセス可能である。メモリ411は、1つ以上のステップを行うためにフライトコントローラが実行可能であるロジック、コード、および/またはプログラム命令を記憶している。また、フライトコントローラ41は、慣性センサ(加速度センサ、ジャイロセンサ)、GPSセンサ、近接センサ(例えば、ライダー)等のセンサ類412を含んでいてもよい。
【0029】
メモリ411は、例えば、SDカード及びランダムアクセスメモリ(RAM)などの分離可能な媒体または外部の記憶装置を含んでいてもよい。カメラ/センサ類42から取得したデータは、メモリ411に直接に伝達されかつ記憶されてもよい。例えば、カメラ等で撮影した静止画・動画データが内蔵メモリ又は外部メモリに記録されてもよいが、これに限らず、撮影した静止画・動画データがカメラ/センサ類42または内蔵メモリからネットワークNWを介して、少なくとも端末1又はサーバ2のいずれか1つに記録されてもよい。カメラ42は無人飛行体4にジンバル43を介して設置される。
【0030】
フライトコントローラ41は、無人飛行体4の状態を制御するように構成された図示しない制御モジュールを含んでいる。例えば、制御モジュールは、6自由度(並進運動x、y及びz、並びに回転運動θx、θy及びθz)を有する無人飛行体4の空間的配置、速度、および/または加速度を調整するために、ESC44(Electric Speed Controller)を経由して無人飛行体4の推進機構(モータ45等)を制御する。バッテリー48から給電されるモータ45によりプロペラ46が回転することで無人飛行体4の揚力を生じさせる。制御モジュールは、搭載部、センサ類の状態のうちの1つ以上を制御することができる。
【0031】
フライトコントローラ41は、1つ以上の外部のデバイス(例えば、送受信機(プロポ)49、端末1、表示装置、または他の遠隔の制御器)からのデータを送信および/または受け取るように構成された送受信部47と通信可能である。送受信機49は、有線通信または無線通信などの任意の適当な通信手段を使用してもよい。
【0032】
例えば、送受信部47は、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、赤外線、無線、WiFi、ポイントツーポイント(P2P)ネットワーク、電気通信ネットワーク、クラウド通信などのうちの1つ以上を利用してもよい。
【0033】
送受信部47は、センサ類42で取得したデータ、フライトコントローラ41が生成した処理結果、所定の制御データ、端末または遠隔の制御器からのユーザコマンドなどのうちの1つ以上を送信および/または受け取ることができる。
【0034】
センサ類42は、慣性センサ(加速度センサ、ジャイロセンサ)、GPSセンサ、近接センサ(例えば、ライダー)、またはビジョン/イメージセンサ(例えば、カメラ)を含んでいてもよい。
【0035】
<端末1の機能>
図6は、端末1及びサーバ2に実装される機能を例示したブロック図である。端末1は、通信部110、画像取得部115、処理部120、記憶部130を備えている。処理部120は、フィルタリング処理部121、特定直線抽出部122、フィルタ生成部123、傾き判定部124、追跡対象位置設定部125を含んでいる。また、記憶部130は、情報・画像記憶部131、フィルタ記憶部132を含んでいる。なお、各種機能部は、端末1のプロセッサ10における機能部として例示しているが、各種機能部の一部または全部は、端末1のプロセッサ10またはサーバ2のプロセッサ20、無人飛行体4のフライトコントローラ41の能力等に合わせて、プロセッサ10またはプロセッサ20、フライトコントローラ41のうちのいずれの構成において実現されていてもよい。
【0036】
通信部110は、ネットワークNWを介してサーバ2、及び、無人飛行体4と通信を行う。通信部110は、サーバ2及び無人飛行体4等からの各種要求及びデータ等を受け付ける受付部としても機能する。
【0037】
画像取得部115は、例えば、通信インターフェースを介した無線通信あるいはUSB端子等を介した有線通信によって、無人飛行体4に搭載されたデジタルカメラ又はユーザが用いたデジタルカメラで撮像された撮影画像をそれらのデジタルカメラから取得する。画像取得部115は、USBメモリ及びSDメモリ等の記憶媒体を介して撮影画像を取得するように構成されていてもよいが、特に無人飛行体4からの無線通信で、または、無人飛行体4内において、リアルタイムに撮影画像を取得する構成がより好ましい。
【0038】
なお、画像取得部115が取得する撮影画像は、動画像であってもよく、静止画像であってもよい。撮影画像が動画像の場合には、動画像をフレームごとの静止画像に分割して、該静止画像を後述する処理部120の各機能部で使用してもよい。また、フレームごとに分割された静止画像から所定の間隔で静止画像を抽出し、抽出した静止画像を処理部120の各機能部で使用してもよい。無人飛行体4などにより撮影された撮影画像は、カラー画像であってもよいし、グレースケール画像であってもよいし、白黒画像であってもよい。撮影画像がカラー画像である場合には、画像取得部115又は画像変換専用の機能部が、カラー画像をグレースケール化又は二値化する処理を実行してもよい。
【0039】
処理部120は、画像取得部115が取得した撮影画像(例えば、互いに並んで延伸する単数又は複数の電力線に沿って撮影した撮影画像、該撮影画像をグレースケール化または二値化した画像など)について、当該撮影画像内において検査対象の電力線(以下、検査対象線と称する)に対応する直線を抽出する一連の処理を実行する各機能部を備えている。検査対象線は、単数であってもよく、複数であってもよい。また、撮影画像内には、検査対象線以外の電力線が含まれていてもよい。
【0040】
フィルタリング処理部121は、所定のフィルタ(演算子)を用いた空間フィルタリング処理により、撮影画像から、検査対象線に対応する特定の幅(太さ)を有する線(特定幅線)が強調された画像(フィルタ処理画像と称する)を生成する。ここで、「特定幅線が強調された」とは、特定幅線が、フィルタ処理画像内において、撮影画像に含まれる背景及び非検査対象物(例えば、検査対象線以外の電力線、建物、道路、支持物、腕金、その他構造物など)よりも、高い強度値で表示されることを意味する。ここでいう「強度値」は、フィルタ処理画像を構成する最小単位である各画素(ピクセル)が有する画素値(輝度値)を意味し、例えば、フィルタ処理画像における画素値は、0から255までの256階調で表すことができる。フィルタ処理画像内では、特定幅線を表す画素が、背景及び非検査対象物よりも高い画素値を有する。実際に、
図7に示す撮影画像から生成されたフィルタ処理画像の例が、
図8に示す画像である。
図7の撮影画像において、画面左上から右下に向かって延在する4本の電力線が検査対象線であり、
図8では、この4本の検査対象線が、周囲よりも高い画素値を有する白色の線で表示されている。
【0041】
空間フィルタリングは、従来のエッジ検出処理においても利用されてきた手法である。従来のエッジ検出処理では、微分フィルタ、プレヴィットフィルタ(Prewitt Filter)、ソーベルフィルタ(Sobel Filter)、ロバーツフィルタ、ラプラシアンフィルタなどの正方形の行列(n×nサイズの行列)で表されるエッジ強調フィルタが用いられ、このエッジ強調フィルタを用いた畳み込み演算により、画像内に含まれる輪郭線などのエッジ部分を検出する。
【0042】
例えば、
図9は、従来のエッジ強調フィルタによる畳み込み演算を説明するための図である。
図9に示すように、3×3のサイズを有するプレヴィットフィルタによる空間フィルタリングでは、着目画素(
図9の入力画像において灰色で示す画素)とその周囲を合わせた9つの画素について、該9つの画素が有する画素値と各画素に対応するフィルタの係数(重み、カーネル係数と呼ばれる場合もある)との積和演算により、出力画像(処理画像)における着目画素の出力値を算出する。このように着目している画素の周辺情報をまとめて抽出し新たな画像を生成する演算処理を、畳み込み演算処理と呼ぶ。
図9では、入力画像の各画素に対して畳み込み演算を行うことで、入力画像における50の画素値と230の画素値との境界(すなわちエッジ)が抽出された出力画像が得られる。なお、
図9では、積和演算結果として540が出力されているが、出力画像は、このような積和演算結果をノーマライズ(0~255の256階調に正規化)して生成される。
図9に示すように従来のエッジ検出処理では、物体の輪郭線が抽出されるため、1本の電力線に対して従来のエッジ強調フィルタによる空間フィルタリングを実施した場合には、1本の電力線から2本のエッジが抽出される。
【0043】
本実施形態のフィルタリング処理部121では、上述したような従来のエッジ強調フィルタではなく、検査対象線に対応する特定幅を有する線(特定幅線)に対して選択性を有する特定幅強調フィルタ(第1フィルタ)に基づく空間フィルタリングを実行する。「特定幅線に対して選択性」を有するとは、幅が異なる他の線よりも、特定の幅を有する線に対して強く反応すること(他の線よりも特定幅線における出力値の絶対値が大きい値を示すこと)を意味する。具体的に、撮影画像における検査対象線の想定幅をW(単位:pixel)として、特定幅強調フィルタは、この想定幅Wに対応する演算領域を有するフィルタである。
【0044】
なお、想定幅W(特定幅)は、検査対象線の長手方向に直行する方向の幅を意味する。撮影画像に映し出される検査対象線の幅は、主に、検査対象線と無人飛行体4との距離に応じて定まる。無人飛行体4を、検査対象線との距離を一定に保って飛行させることは可能であるため、無人飛行体4をテスト走行させ、その際に得られた撮影画像(以下テスト画像と称する)から、該テスト画像に写された検査対象線の幅(ピクセル数)を計測することで、想定幅Wを予め算出できる。このようにして算出された想定幅Wに基づいて、以下に示すような特定幅強調フィルタ6aを設計すればよい。以下の説明において、各フィルタにおける長さ方向は、撮影画像における検査対象線の長手方向に沿う方向を意味し、各フィルタにおける幅方向は撮影画像における検査対象線の幅方向に沿う方向を意味するものとする。
【0045】
例えば、
図10に示すフィルタ6aが特定幅強調フィルタの一例である。
図10に示す特定幅強調フィルタ6aは、従来のエッジ強調フィルタとは異なり、撮影画像における検査対象線の想定幅Wに基づいて設計されたサイズを有する。なお、特定幅強調フィルタ6aを構成する最小単位のセルのサイズは、撮影画像の最小単位である画素の1つあたりのサイズと一致する。特定幅強調フィルタ6aは、中央領域61a、及び、2つの外側領域62aを有する。中央領域61aは、
図10のY軸方向(幅方向)において、撮影画像における検査対象線の想定幅Wに対応する幅を有する。一方、2つの外側領域62aは、
図10のY軸方向において中央領域61aの外側に位置し、それぞれ、Y軸方向において想定幅Wの半分の幅(W/2)を有する。つまり、特定幅強調フィルタ6aは、Y軸方向において想定幅Wの2倍に対応する幅を有する。
【0046】
特定幅強調フィルタ6aのX軸方向(長さ方向)の長さLは、1ピクセル以上であればよく、特に限定されない。たとえば、特定幅強調フィルタ6aが正方形となるように長さLを設定してもよい(つまりL=2Wに設定してもよく)。長さLは、偶数に設定してもよく、奇数に設定してもよい。
図10では、検査対象線が撮影画像においてX軸方向に沿って延在する(検査対象線の長手方向がX軸方向に沿う)ことを想定して、特定幅強調フィルタ6aを例示している。ただし、撮影画像内の検査対象線の向きは特に限定されず、検査対象線の長手方向がY軸方向に沿うように撮影画像を取得した場合には、例えば、
図10に示す特定幅強調フィルタ6aの行列を入れ替えてもよく、中央領域の幅Wの方向が撮影画像における検査対象線の幅方向(長手方向と直行する方向)に対応するように畳み込み演算処理が実行されればよい。
【0047】
特定幅強調フィルタ6aの各セルに付すフィルタ係数は、中央領域61aと外側領域62aとが互いに異なる符号を有し、かつ、フィルタ係数の合計が「0」となるように設計する。例えば、撮影画像において検査対象線が周囲の背景よりも明るい画素値で表示される場合には、
図10に示すように、中央領域61aにおけるフィルタ係数を「正」の符号で設定し、外側領域62aにおけるフィルタ係数を「負」の符号で設定すればよい。逆に、撮影画像において検査対象線が周囲の背景よりも暗い画素値で表示される場合には、中央領域61aのフィルタ係数を「負」、外側領域62aのフィルタ係数を「正」とすればよい。
図10では、例示として、フィルタ係数の重みを「+1」又は「-1」に設定しているが、フィルタ係数の合計が「0」であれば、
図10とは異なる重みをフィルタ係数に設定してもよい。2つの外側領域62aは、特定幅線の幅(すなわち検査対象線の想定幅W)に対応する中央領域61aのフィルタ係数を相殺し、フィルタ係数の合計を「0」にするために設けられている領域であるといえる。
【0048】
図11は、特定幅強調フィルタ6aを用いた空間フィルタリングを説明するための図である。特定幅強調フィルタ6aを用いる場合も、入力画像の各画素に対して畳み込み演算を行い、その結果得られる出力値(積和演算結果)をノーマライズすることで出力画像(フィルタ処理画像)を生成する。
図11の入力画像では、白色の画素が検査対象線を表しており、矢印の方向を検査対象線の長手方向とする。このような入力画像に対して特定幅強調フィルタ6aによる畳み込み演算を行うと、
図11の出力画像に示すように、検査対象線(特定幅線)の中央付近で周囲(背景、非検査対象物など)よりも高い強度値を示すフィルタ処理画像が生成される。通常のエッジ検出では、前述のとおり、物体の輪郭線などのエッジ部分が抽出されるのに対して、特定幅強調フィルタ6aによる空間フィルタリングでは、エッジではなく検査対象線(特定幅線)の中央付近が強調された処理画像が得られる。
【0049】
なお、前述の説明において、中央領域61aが想定幅Wに対応する幅(W)を有すると説明したが、「想定幅Wに対応する幅」とは、想定幅Wに完全に一致する幅に限定されず、想定幅Wの値に応じてある程度の誤差があってもよいことを意味する。例えば、撮影画像に表される電力線の幅(想定幅W)は、少なくとも10ピクセルであることが想定され、±1ピクセルの誤差は許容され、電力線の幅がより太ければ許容される誤差も大きくなる。特定幅強調フィルタ6aのサイズ及び各領域の幅は整数であって、中央領域61aの幅を2で割り切れる偶数に設定する観点では、テスト画像で計測された検査対象線の幅W0(実測値)が奇数の場合には、想定幅Wを「W0±1ピクセル」に設定し
図10に示すような特定幅強調フィルタ6aを設計してもよい。
【0050】
また、特定幅強調フィルタ6aは、
図10に示す例に限定されず、例えば、
図12に示すような構成であってもよい。
図12の(a)は、想定幅Wが奇数の場合を想定した特定幅強調フィルタ6aの変形例である。
図12(a)の特定幅強調フィルタ6aでは、中央領域61aの幅を「想定幅W(奇数)」に設定したうえで、外側領域62aの幅を「(W-1)/2」に設定している。この場合、W×(+1)+((W-1)/2)×(-1)は0にならないため、例えば、各外側領域62aのいずれか1行のフィルタ係数を「-1.5」に設定してもよいし、
図12(a)に示すように補助行63を挿入して、フィルタ係数の合計が「0」になるように調整してもよい。
図12(a)における特定幅強調フィルタ6aの総幅は2W+1となる。
図12(a)では「-0.5」のフィルタ係数を有する補助行63を中央領域61aと外側領域62aの境界に挿入しているが、補助行63の挿入箇所は必ずしも限定されない。また、想定幅Wが奇数の場合、外側領域62aの幅を「(W+1)/2」に設定し、正の符号を有する補助行63を挿入してもよい(この場合特定幅強調フィルタ6aの総幅は2W+3となる)。
【0051】
図12の(b)は、想定幅Wが偶数の場合を想定した特定幅強調フィルタ6aの変形例である。
図12(b)特定幅強調フィルタ6aでは、外側領域62aの幅を「想定幅W(偶数)/2」に設定し、中央領域61aの幅を「W+1」に設定している。そして、中央領域61aの幅方向における中央の行にフィルタ係数が「0」の行を追加している。特定幅強調フィルタ6aの総幅が偶数の場合、畳み込み演算時の着目画素がフィルタの中心から1ピクセル分ずれるが、
図12(b)に示すように、中央領域61aの中央にフィルタ係数が0の行を入れることで、着目画素をフィルタの中心に置いて周囲の画素情報を均等に利用した畳み込み演算が可能となる。
【0052】
フィルタリング処理部121は、上記のような特定幅強調フィルタ6aに基づく空間フィルタリング処理により、検査対象線の幅に対応する特定幅線が強調(特に、特定幅線の幅方向の中央が強調)されたフィルタ処理画像を生成する。太さが異なる複数の電力線を検査対象に設定する場合には、各太さに対応する複数の特定幅強調フィルタ6aを準備してもよい。特定幅強調フィルタ6aに「基づく」空間フィルタリング処理とは、特定幅強調フィルタ6aのみによる畳み込み演算処理に限られず、特定幅強調フィルタ6aと共に他のサブフィルタが空間フィルタリング処理に利用されてもよいことを意味する。フィルタリング処理部121で利用するサブフィルタとしては、例えば、異径線抽出フィルタ(第2フィルタ)、片側エッジフィルタ(第3フィルタ)、及び、反射対策フィルタ(第4フィルタ)などが挙げられる。フィルタリング処理部121は、異径線抽出フィルタ、片側エッジフィルタ、及び、反射対策フィルタから選択される1種以上のフィルタと、前述の特定幅強調フィルタ6aとに基づいて空間フィルタリング処理を実行することが好ましく、4種のフィルタ全てを利用して空間フィルタリング処理を実行することがより好ましい。サブフィルタを利用することで、フィルタ処理画像にノイズが発生することを抑制でき、検査対象線の抽出制度をより向上させることができる。以下、各サブフィルタについて、詳述する。
【0053】
異径線抽出フィルタは、検査対象線の想定幅Wとは異なる幅WDを有する異径線に対して選択性を有するフィルタである。特定幅強調フィルタ6aは検査対象線に対応する特定幅線に対して選択性を有し、特定幅強調フィルタ6aによる畳み込み演算によって特定幅線を強調できるものの、特定幅強調フィルタ6aが特定幅線とは異なる太さの線(例えば、非検査対象の背景電力線など)にも反応する場合がある。このような異なる幅の線がフィルタ処理画像内にノイズとして残ると誤検出の原因となる可能性があるため、誤検出されやすい幅を有する異径線によるノイズをフィルタ処理画像から取り除くことが好ましい。そこで、誤検出されやすい異径線に対応する異径線抽出フィルタを空間フィルタリング処理に適用することが好ましい。この異径線抽出フィルタは、テスト走行によって撮影されたテスト画像に対して特定幅強調フィルタ6aによる畳み込み演算を実行し、誤検出されやすい幅の線分を特定することで設計すればよい。検出されやすい線分は、例えば、特定幅強調フィルタ6aによりテスト画像から生成したフィルタ処理画像内の複数のノイズ(検査対象線以外の直線)のうち相対的に数が多い幅の線分、最も連続性を有する線分などが例示される。つまり、想定幅Wとは異なる幅WDは、誤検出されやすい幅を意味し、誤検出されやすい幅が複数存在する場合には各幅に対応する複数の異径線抽出フィルタを準備してもよい。
【0054】
具体的に、異径線抽出フィルタは、特定幅強調フィルタ6aと同じサイズを有するものの(つまり、総幅及び長さLは特定幅強調フィルタ6aと一致するものの)、中央領域が想定幅Wとは異なる幅W
Dを有するフィルタである。例えば、
図13に示すフィルタ6bが異径線抽出フィルタの一例である。
図13の異径線抽出フィルタ6bは、誤検出されやすい幅W
Dを想定幅Wの半分(W/2)に設定した場合の例である。
図13の異径線抽出フィルタ6bは、総幅(2W)及び長さLは特定幅強調フィルタ6aと一致するが、中央領域61bが想定幅Wとは異なる幅W
D(=W/2)に対応する幅に設定されている。異径線抽出フィルタ6bでは、中央領域61bの幅W
Dが特定幅強調フィルタ6aの幅Wよりも狭く設定した一方で、外側領域62aの幅を特定幅強調フィルタ6aよりも広い「(3/4)W」に設定している。異径線抽出フィルタ6bにおいても、フィルタ係数の合計は「0」に設定するため、例えば、各領域におけるセルの数(画素数)に基づいてフィルタ係数を重み付けしてもよい。
図13のように誤検出されやすい幅W
Dを想定幅の半分に設定した場合は、外側領域62aの合計セル数が中央領域61bの3倍になるため、外側領域62aのフィルタ係数を「-1/3」に設定し、中央領域61bのフィルタ係数を外側領域62aの3倍の「+1」に設定している。
【0055】
図13に示す異径線抽出フィルタ6bは、あくまでも例示であり、中央領域61bの幅W
Dを事前テストの結果に応じて適宜設定してよく、フィルタ係数についても、フィルタ係数の合計が「0」となれば、上記以外の方法で重み付けられていてもよい。撮影画像に対して異径線抽出フィルタ6bによる畳み込み演算処理では、特定幅線はほとんど反応しないが、設定した幅W
Dを有する異径線は高い強度値(特定幅線よりも高い画素値)で出力される。そのため、撮影画像に対して実施した異径線抽出フィルタ6bによる畳み込み演算の出力値を、特定幅強調フィルタ6aによる畳み込み演算の出力値から差し引くことで、特定幅強調フィルタ6aによるフィルタ処理画像から幅W
Dを有する異径線を削除することができ、ノイズの発生を抑制できる。
【0056】
例えば、
図17に示すような非検査対象の背景電力線71が映り込んでいる撮影画像に対して、特定幅強調フィルタ6a及び異径線抽出フィルタ6bに基づく空間フィルタリング処理を実行したとする。特定幅強調フィルタ6aによる畳み込み演算処理で取得された出力画像において、
図18に示すように背景電力線71がノイズとして表示された場合であっても、
図17の撮影画像に対して異径線抽出フィルタ6bによる畳み込み演算処理を実施した出力値を、
図18における出力画像から差し引くことで、
図19に示すように、フィルタ処理画像における背景電力線71(異径線)の強度値を弱め、背景電力線71によるノイズを除去することができる。
【0057】
片側エッジフィルタは、特定幅線が有する2つのエッジのうちのいずれか片方のエッジにのみ反応するフィルタである。前述のとおり撮影画像に含まれる電力線は、通常、1本あたり2つのエッジを有している。このように画像内に含まれる所定の面積を有する物体は、少なくとも2つの輪郭線を有するが、特定幅強調フィルタ6aは、特定幅(想定幅W)を有していない非検査対象物が有するいずれか1つのエッジ(輪郭線)に反応する場合があり、このような反応がフィルタ処理画像にノイズとして現れることがある。例えば、
図18及び
図19の処理画像では、
図17の撮影画像に含まれる非検査対象物である建物72のエッジの一部がノイズとして検出されている。また、特定幅強調フィルタ6aによる畳み込み演算では、特定幅線の中央付近で高い強度値が得られるものの、その特定幅線の周囲でも反応が生じる場合(エッジの外側で出力値が発生する場合)があり、フィルタ処理画像における特定幅線の周囲にノイズが生じることがある。フィルタ処理画像において特定幅線をより強調する観点では、このようなノイズを抑制することが好ましい。サブフィルタとして片側エッジフィルタを用いることで、上記のような非検査対象物の一部のエッジに基づくノイズ、及び、特定幅線の周囲に発生するノイズを除去することができる。
【0058】
撮影画像内の電力線は、所定の方向(長手方向と交差する方向)において、背景から電力線に切り替わるエッジ、及び、電力線から背景に切り替わるエッジを有しているが、このような2つのエッジは、所定の方向で輝度分布(画素値の分布)をとると、輝度値が低い値から高い値に切り替わる立上がりエッジ、及び、輝度値が高い値から低い値に切り替わる立下りエッジとして認識できる。片側のエッジにのみ反応する片側エッジフィルタとは、立上りエッジ又は立下りエッジのいずれか一方に対応するフィルタを意味し、片側エッジフィルタには、立上りエッジフィルタと、立下りエッジフィルタとが含まれる。
【0059】
具体的に、片側エッジフィルタは、特定幅強調フィルタ6aと同じサイズを有するものの(つまり、総幅及び長さLは特定幅強調フィルタ6aと一致するものの)、幅方向において「正負」の符号が切り替わる境界を1つだけ有するフィルタである。例えば、
図14に示すフィルタ6c(6c1及び6c2)が片側エッジフィルタの例である。前述した特定幅強調フィルタ6aは、幅方向における中央領域61aの外側に2つの外側領域62aを有しており、幅方向においてフィルタ係数の符号が切り替わる境界を2つ有している。一方、片側エッジフィルタ6cは、
図14に示すように、幅方向におけるいずれか一方の端部側にのみ中央領域61cとは符号が異なる外側領域62cが存在しており、1つの中央領域61cと、1つの外側領域62cとで構成されている。換言すると、特定幅強調フィルタ6aにおいて外側領域62aである領域のいずれか一方が、片側エッジフィルタ6cでは、中央領域61cに入れ替わっている。片側エッジフィルタ6cにおける1つの外側領域62aは、特定幅強調フィルタ6aにおける1つの外側領域62aと同じ幅(W/2)を有するが、片側エッジフィルタ6cにおける中央領域61cは、特定幅強調フィルタ6aにおける中央領域61aの幅と1つの外側領域62aの幅とを足した幅を有する(すなわち、想定幅Wの1.5倍に相当する幅((3/2)W)を有する)。片側エッジフィルタ6c1,6c2においても、他のフィルタと同様に、フィルタ係数の合計が「0」になるように各セルのフィルタ係数を重み付けすればよく、
図14では外側領域62cの3倍のセル数(画素数)を有する中央領域61cにおけるフィルタ係数を「1/3」とし、外側領域62cのフィルタ係数を「-1」と設定した例を示している。
【0060】
また、
図14では中央領域61cが正のフィルタ係数を有し、外側領域62cが負のフィルタ係数を有する場合を例示している(すなわち、検査対象線が背景より明るい画素値を有する場合を想定して例示している)。この場合、
図14の左側に示す片側エッジフィルタ6c1では、中央領域61cと外側領域62cとの境界が特定幅線(検査対象線)の立上りエッジに対応しており、左側の片側エッジフィルタ6c1が立上りエッジフィルタの例に該当する。一方、
図14の右側に示す片側エッジフィルタ6c2では、中央領域61cと外側領域62cとの境界が特定幅線の立下りエッジに対応しており、この右側の片側エッジフィルタ6c2が立下りエッジフィルタの例に該当する。サブフィルタとして片側エッジフィルタ6cを空間フィルタリング処理に利用する場合には、立上りエッジフィルタ6c1と立下りエッジフィルタ6c2のいずれか一方のみを利用してもよく、両方を利用することが好ましい。
【0061】
撮影画像に対して片側エッジフィルタ6cによる畳み込み演算を実施した場合、その演算処理結果では、非検査対象物の一部のエッジ(例えば、
図18,
図19に示すような建物72のエッジなど)に基づくノイズ、及び、特定幅線の外周のノイズなどが発生する可能性のある位置に出力値が得られる。そのため、片側エッジフィルタ6cによる畳み込み演算結果を、
図18及び
図19に示すような特定幅強調フィルタ6aに基づく演算結果(フィルタ処理画像の出力値)から差し引くことで、
図20に示すフィルタ処理画像のように(
図20では建物72のエッジに基づくノイズが除去された様子を例示している)、上述したノイズをフィルタ処理画像から除去できる。つまり、サブフィルタとして片側エッジフィルタ6cを利用することで、フィルタ処理画像において特定幅線をより強調することができる。
【0062】
片側エッジフィルタ6cによる演算処理結果を特定幅強調フィルタ6aに基づく演算処理結果から差し引く際には、片側エッジフィルタ6cによる反応(出力値)をすべて差し引いてもよく、片側エッジフィルタ6cによる反応(出力値)のうちの所定割合分だけ差し引いてもよい。例えば、片側エッジフィルタ6cの出力値の50%分を特定幅強調フィルタ6aに基づく演算処理結果から差し引くなど、差し引く割合は特に限定されず、事前に実施するテスト走行の結果に応じて適宜決定してよい。
【0063】
反射対策フィルタは、テスト画像から取得される検査対象線の輝度分布に基づいて重み付けられたフィルタ係数を有するフィルタである。検査対象線の撮影画像では、検査対象線が太陽光を反射することなどにより、撮影画像に映し出される検査対象線内に輝度分布(画素値の分布)が生じる場合がある。例えば、
図15が撮影画像における検査対象線の輝度分布を説明するための図である。
図15の(a)が撮影画像内の検査対象線を模擬的に例示した図であり、該図に示すように、光の反射等により検査対象線内で、光の反射等に基づく画素値の濃淡が生じる場合がある。
図15の(b)に示すグラフは、
図15の(a)における矢印の方向に沿った輝度分布の一例であり、グラフの横軸が矢印上の位置、縦軸が各位置における輝度値(画素値)を表している。このように撮影画像内の検査対象線が輝度分布を有すると、その分布の程度によって、検査対象線の画像上における幅が想定幅Wとは異なる幅を有しているように検出される場合がある。特定幅強調フィルタ6aに基づく畳み込み演算処理結果に対して、以下で詳述する反射対策フィルタの反応を足し合わせることで、光の反射等の輝度分布による誤検出(ノイズ)を抑制することができる。
【0064】
反射対策フィルタにおいては、全体のサイズ(総幅及び長さL)及び各領域のサイズ(中央領域の幅、及び、外側領域の幅)が特定幅強調フィルタ6aと一致するものの、反射対策フィルタは、特定幅強調フィルタ6aとは異なるフィルタ係数を有する。例えば、
図16に示すフィルタ6dが、反射対策フィルタの一例である。
図16の反射対策フィルタ6dは、特定幅強調フィルタ6aと同じサイズを有し、かつ、特定幅強調フィルタ6aにおける中央領域61a及び外側領域62aと同じサイズの中央領域61d及び外側領域62dを有する。反射対策フィルタ6dでは、幅方向(Y軸方向)におけるフィルタ係数の分布が、
図15の(b)に示すような検査対象線の輝度分布と同様の形状を有するように、フィルタ係数に対して検査対象線の輝度分布に応じた重み付けが設定される。反射対策フィルタ6dのフィルタ係数を設定する際には、例えば、検査対象線の輝度分布に対応する整数を各セルに割り付け、フィルタ係数の平均値が「0」(つまり、フィルタ係数の合計が「0」)で、かつ、フィルタ係数の絶対値の合計が「1」となるように、係数をノーマライズ(正規化)することで、各セルのフィルタ係数を設定してもよい。
図16の反射対策フィルタ6dでは、フィルタ内のセルの合計数N(N=2W×L)をフィルタ係数の分母として、平均値0、絶対値の合計1となるように正規化して設定したフィルタ係数を例示している。
【0065】
なお、検査対象線の画像上における輝度分布は、テスト走行時に取得したテスト画像を解析することで取得すればよい。この際、テスト走行を複数回実施し、日照条件が異なる複数のテスト画像を取得したうえで、相対的に高い頻度で発生する輝度分布を特定し、該輝度分布に基づいて反射対策フィルタ6dを設計してもよい。また、日照条件が異なる複数の輝度分布を特定したうえで、各輝度分布に対応する複数の反射対策フィルタ6dを準備してもよい。この場合は、フィルタリング処理部121が、点検実施時(撮影実施時)の天候、日照条件などの環境情報を取得したうえで、準備された複数の反射対策フィルタ6d(後述するフィルタ記憶部132に格納された反射対策フィルタ6d)のうちから点検実施時の条件に最も近い条件で生成された反射対策フィルタ6dを選定し、選定した反射対策フィルタ6dを空間フィルタリング処理に利用してもよい。もしくは、ユーザの判断によって複数の反射対策フィルタ6dのうちから点検時に利用する反射対策フィルタ6dを選択させてもよいし、点検実施時の空間フィルタリング処理に複数の反射対策フィルタ6dを利用してもよい。
【0066】
反射対策フィルタ6dは検査対象線の反射に適応したフィルタ係数を有するため、撮影画像に対する反射対策フィルタ6dの畳み込み演算処理の結果を、特定幅強調フィルタ6aに基づく畳み込み演算処理結果に足し合わせることで、フィルタ処理画像内において特定幅線をより強調することができる。
【0067】
上記のとおり、フィルタリング処理部121は、メインフィルタである特定幅強調フィルタ6aのみを利用した畳み込み演算によってフィルタ処理画像を生成してもよいし、1種以上のサブフィルタ及び特定幅強調フィルタ6aによる畳み込み演算によってフィルタ処理画像を生成してもよい(1種以上のサブフィルタを利用することが好ましく、3種(異径線抽出フィルタ6b、片側エッジフィルタ6c、及び、反射対策フィルタ6d)のサブフィルタを用いることがより好ましい)。
【0068】
上記の各サブフィルタ(6b~6d)の説明では、撮影画像に対して各フィルタによる畳み込み演算を個別に実施して、各演算処理結果を和差算する(差し引く、又は、足し合わせる)方法を例示した。ただし、入力画像と複数のフィルタとの間には分配の法則が成り立つため、空間フィルタリング処理に適用する複数のフィルタを事前に組み合わせて複合フィルタを生成し、フィルタリング処理部121がその複合フィルタを用いて一度の空間フィルタリング処理(畳み込み演算)によりフィルタ処理画像を生成してもよい。つまり、特定幅強調フィルタ6a、及び、1種以上のサブフィルタに「基づく」空間フィルタリング処理とは、複数のフィルタによる個別の畳み込み演算結果からフィルタ処理画像を生成してもよいし、事前に統合した複合フィルタを用いた空間フィルタリング処理によりフィルタ処理画像を生成してもよいことを意味する。演算処理速度を高める観点では後者の複合フィルタを利用する方法が好ましい。
【0069】
複合フィルタは、メインフィルタである特定幅強調フィルタ6aと、1種以上のサブフィルタとを組み合わせることで生成され、
図6に示すフィルタ生成部123が複合フィルタを生成する処理を実行する。
【0070】
ここで複数のフィルタを「組み合わせる」とは、分配法則に従って、セルごとにフィルタ係数を和差算することを意味する。前述のとおり、特定幅強調フィルタ6a、及び、3種のサブフィルタは、いずれも同一のサイズを有することから、各フィルタで対応するセルごとにフィルタ係数を和差算すればよい。例えば、特定幅強調フィルタ6aにおける所定のセルC1の係数a1、異径線抽出フィルタ6bにおける所定のセルC1の係数b1、片側エッジフィルタ6cにおける所定のセルC1の係数c1、反射対策フィルタ6dにおける所定のセルC1の係数d1として、これら4種のフィルタを組み合わせる場合、フィルタ生成部123は、式「a1-b1-c1+d1」により複合フィルタの所定セルC1のフィルタ係数を決定してもよい。なお、片側エッジフィルタ6cの説明で述べたように、サブフィルタの出力に所定割合を乗じて最終的なフィルタ処理画像を生成させる場合には、フィルタ生成部123は、上記の式におけるサブフィルタの係数に出力値に反映させる所定割合を乗じて、複合フィルタのフィルタ係数を決定すればよい。
【0071】
フィルタ生成部123による複合フィルタの生成処理では、ユーザの選択によって、フィルタの組み合わせが決定され、その決定に応じてフィルタ生成部123が各セルにおけるフィルタ係数を決定し、複合フィルタを生成する。該複合フィルタの生成処理では、サブフィルタの組み合わせ方に応じて複数の複合フィルタを生成してもよい。例えば、特定幅強調フィルタ6aと異径線抽出フィルタ6bとを組み合わせた第1複合フィルタ、特定幅強調フィルタ6aと片側エッジフィルタ6cとを組み合わせた第2複合フィルタ、特定幅強調フィルタ6aと反射対策フィルタ6dとを組み合わせた第3複合フィルタ、4種のフィルタを組み合わせた第4複合フィルタを事前に生成しておいてもよい。
【0072】
フィルタリング処理部121は、準備されている複数のフィルタ(例えば、特定幅強調フィルタ6a、1種以上のサブフィルタ、及び、1種以上の複合フィルタ)のうちから、撮影条件などに応じて、空間フィルタリング処理で使用するフィルタを自動で特定し、フィルタ処理画像を生成してもよい。また、空間フィルタリング処理に利用するフィルタを選択する処理をユーザから受け付け、フィルタリング処理部121が、ユーザによる選択に基づいて指定されたフィルタを利用した空間フィルタリング処理によりフィルタ処理画像を生成してもよい。本実施形態の情報処理システムは、空間フィルタリング処理で利用するフィルタを自動的に特定するモード(オートモード)と、ユーザの選択指示に基づいて特定するモード(マニュアルモード)の両方が、可能な仕様を有していてもよい。そして、ユーザがオートモードとマニュアルモードの切り替えを支持可能な仕様を有していてもよい。
【0073】
特定直線抽出部122は、フィルタリング処理部121により生成されたフィルタ処理画像に対してハフ変換処理を実行し、該ハフ変換処理による取得される直線帳票情報に基づいて、フィルタ処理画像内に含まれる複数の直線から検査対象線に対応する特定幅線を抽出する処理を実行する。
【0074】
ここでハフ変換とは、画像中に含まれる直線を多数決で検出する手法である。従来のエッジ検出後の画像に対してハフ変換を実施する場合、例えば、ある直線に対して原点からの垂線を引いた際の長さをρ、垂線とx軸がなす角度をθとして、画像中のエッジを構成する各点のxy座標情報を式「ρ=xcosθ+ysinθ」に基づいて、Hough空間上(ρθ座標)に投票すると、投票数を示す直線投票数情報が得られる。そして、当該直線投票数情報から直線を示すρθの組み合わせが多数決で推定される。このような従来のエッジ画像を入力するハフ変換では、検査対象線とその他の直線(非検査対象物のエッジによる直線)とが区別されることなく、エッジ画像内に含まれる全ての直線が推定されるため、推定された直線のうちから検査対象線のみを何らかの条件(抽出条件)に基づいてさらに抽出する処理が必要である。しかしながら、従来のエッジ検出で生成されたエッジ画像(ハフ変換への入力画像)では、撮影画像内の1本の線から2つのエッジが抽出され、エッジ画像内に多数の直線が存在するとともに、非検査対象物のエッジが鮮明に表示されている場合があるため、エッジ画像内から検査対象線のエッジのみを抽出することが難しい。仮に、検査対象線に対応するエッジの抽出条件を見いだせたとしても、推定された複数の直線に関する直線投票数情報から検査対象線を抽出するためには、複雑な演算処理を必要とする。一方で、本実施形態におけるフィルタ処理画像では、エッジではなく検査対象線(特定幅線)の中央付近が強調されているため、従来のエッジ画像を入力してハフ変換処理する場合よりも、容易に検査対象線に対応する直線を抽出できる。
【0075】
特定直線抽出部122では、一般的なハフ変換の手法を採用できるが、ハフ変換処理として、加重ハフ変換を実行することが好ましい。加重ハフ変換処理は、フィルタ処理画像内の強度値(空間フィルタリング処理後の各画素が有する輝度値(画素値))に基づいて、重み付けした直線投票数情報を生成する手法である。フィルタリング処理部121により生成されたフィルタ処理画像では、従来のエッジ画像とは異なり、特定幅線が背景及び非点検対象物に対応するその他の線よりも高い強度値で表示されているため、加重ハフ変換処理により取得される重み付きの直線投票数情報では、特定幅線に対して他の線よりも高い投票数が割り当てられる。したがって、このような重み付きの直線投票数情報に基づいて、フィルタ処理画像内の複数の直線から特定幅線をさらに容易に抽出することができる。
【0076】
互いに略平行に延在する複数の電力線(多導体方式の複数の電力線)を検査対象線とする場合には、処理部120が、傾き判定部124を有していてもよい。傾き判定部124は、例えば、検出された複数の直線の傾きのうち、いずれの傾きが一番多い第1傾きであるかを傾き投票数により判定する処理を実行する。傾き投票数による判定手法は、例えばハフ変換処理により取得する直線投票数情報に含まれる角度(θ)に関する情報に基づいて、角度基準での投票数(傾き投票数)が最も多い第1傾きを傾き判定部124により判定してもよい。
【0077】
そして、上記傾き判定部124を備える場合、判定された第1傾きに対して所定範囲内の傾きの直線が少なくとも想定直線本数(フィルタ処理画像では、1本の検査対象線に対して1本の特定幅線が強調して表示されるため、検査対象線の数が想定直線本数に該当する)あることを抽出条件として設定する。この抽出条件を満たすと特定直線抽出部122が判定した場合には、第1傾きに対して所定範囲内の傾きの直線のうち、直線投票数情報が示す直線投票数が多い順に想定直線本数だけ直線を抽出してもよい。例えば、
図18に示すフィルタ処理画像おいては、矢印で示す4本の直線のいずれかの傾きが第1傾きと判定された場合、第1傾きに対して所定範囲の傾きの直線(斜めに延伸する他の直線)が想定直線本数(4本)に対応する本数存在しているため、
図20に示されるように検査対象線に対応する直線が抽出されることとなる。このように傾き判定部124の傾き判定処理により、検査対象線に対応する直線(特定幅線)をより高い精度で抽出できる場合がある。
【0078】
また、処理部120は、特定直線抽出部122によるハフ変換処理の後において、所定の長さに満たない直線を除去する機能部を有していてもよい。
図7及び
図17に示す撮影画像の例からわかるように、撮影画像内の検査対象線は、画像の短辺から他の短辺まで達する長さを有している。そのため、例えば、
図17の撮影画像のX軸方向の長さに対して50%未満の長さの直線をフィルタ処理画像から除去するというような抽出条件を設定して、特定直線抽出部122が直線投票数情報から推定された複数の直線から、該抽出条件を満たさない直線を除去し、所定長さ以上の特定幅線を抽出する処理を実行してもよい。このような処理により、検査対象線に対応する直線(特定幅線)をより高い精度で抽出できる場合がある。
【0079】
追跡対象位置設定部125は、特定直線抽出部122により抽出された直線(すなわち、検査対象線に対応する特定幅線)に基づいて、無人飛行体4のカメラ(撮影部)により追跡する対象位置を設定する。より具体的な例として、追跡対象位置設定部125は、特定直線抽出部122により抽出された複数の直線の平均の位置に平均直線を算出し(必要に応じて画像中に可視化して追加し)、当該平均直線を、追跡する対象位置(対象直線)として設定してもよい。
図21では、平均直線8が一点鎖線により可視化されて追加されている画像を例示している。また、追跡対象位置設定部125は、特定直線抽出部122により抽出された特定幅線のうちの1つを、追跡する対象位置(対象直線)として設定してもよい。
【0080】
上記のように追跡の対象位置を設定した後、追跡対象位置設定部125は、設定した対象位置が撮影部により撮影している画像中に含まれるように撮影部または無人飛行体4自体の少なくともいずれかを制御するための指示情報を生成し、通信部110を介して無人飛行体4へ送信する。より具体的な例としては、まず、検査対象線の所定位置(例えば、中心位置または略中心位置など)が画像中の所定範囲(特に、画像の中心近傍であり、さらに画像の中心位置または略中心位置を基準とした範囲)に含まれているかを判定する。そして、所定範囲に含まれていないと判定された場合には、対象直線の所定位置と所定範囲との差分情報を生成し、当該差分情報に基づき撮影部の状態(例えば、撮影方向情報、画角情報など)または無人飛行体自体の状態(例えば、現在位置情報(緯度経度高度座標)、姿勢情報、回転翼のモータ出力情報など)の少なくともいずれかを制御するための指示情報を生成する。差分情報は、所定範囲からのずれ量及びずれ方向が把握可能な情報であればどのような情報であってもよいが、例えば、画像の中心から対象直線の所定位置までの画像上での方向及び距離(画素数)に関する情報であり得る。指示情報は、例えば、差分情報と、画像上の方向及び距離と撮影部または無人飛行体撮影部における制御方向及び制御距離の対応情報、並びに、無人飛行体の少なくとも何れかの現在状態情報に基づき生成されてもよいが、これに限定されない。なお、検査対象線の所定位置が画像中の所定範囲に含まれていると判定された場合には、指示情報を新たに生成せずに撮影部または無人飛行体の状態を維持させる。
【0081】
図6に示す記憶部130の情報・画像記憶部131は、画像取得部115が取得した画像の他、フィルタリング処理部121が生成したフィルタ処理画像及びそのフィルタ処理画像内の画素値情報、特定直線抽出部122が生成した直線投票数情報及び複数の電力線を構成する直線(特定幅線)に関する情報、傾き判定部124が生成した傾き投票数情報及び第1傾きに関する情報、追跡対象位置設定部125により追跡の対象位置が可視化された画像などを記憶する。また、情報・画像記憶部131は、処理部120の各機能部121~125による処理に生成されたその他の情報・データなどを、一時的に記憶していてもよい。
【0082】
記憶部130のフィルタ記憶部132は、フィルタリング処理部121の空間フィルタリングに利用される、特定幅強調フィルタ6a、異径線抽出フィルタ6b、片側エッジフィルタ6c、反射対策フィルタ6d、及び、フィルタ生成部123により生成された複合フィルタなどの各種フィルタに関する情報を記憶する。フィルタ記憶部132に格納されるフィルタに関する情報は、
図10,
図12-
図14,及び,
図16に示すようなフィルタ自体を特定する情報を含むとともに、各フィルタの識別IDに紐づけられたフィルタの生成条件に関する情報(例えば、フィルタを生成する際に利用したテスト画像、該テスト画像から取得される想定幅W、誤検出されやすい異径線の幅W
D、検査対象線の輝度分布、及び、フィルタ生成時に利用したテスト画像の撮影条件など)を記憶していてもよい。
【0083】
<直線抽出方法の一例>
続いて、
図22等を参照して、本実施形態にかかる情報処理システムによる直線抽出方法について説明する。
図22は、本実施形態にかかる情報処理システムによる直線抽出方法を実施する処理を示すフローチャートである。
【0084】
最初に、端末1の画像取得部115により、無人飛行体4に搭載されたカメラ42により撮影された撮影画像などの画像を取得する(S101)。
【0085】
次に、端末1のフィルタリング処理部121により、画像取得部115が取得した撮影画像に対して前述した特定幅強調フィルタ6aに基づく空間フィルタリング処理を実行し、該撮影画像から検査対象線に対応する特定幅(想定幅W)を有する線が強調されたフィルタ処理画像を生成する(S102)。このステップS102では、異径線抽出フィルタ6b、片側エッジフィルタ6c、及び、反射対策フィルタ6dのうちから選択される1種以上のサブフィルタ、及び、メインフィルタである特定幅強調フィルタ6aに基づく空間フィルタリング処理を実行することが好ましく、上記3種のサブフィルタ及び特定幅強調フィルタ6aに基づく空間フィルタリング処理を実行することがより好ましい。1種以上のサブフィルタを利用する空間フィルタリング処理の場合には、各フィルタを撮影画像に対して個別に演算処理してもよいし、複数の上記フィルタを組み合わせた複合フィルタによる畳み込み演算を実施してもよく、後者の方法がより好ましい。
【0086】
次に、端末1の特定直線抽出部122により、フィルタ処理画像に対してハフ変換処理を実行し、該ハフ変換処理により取得された直線投票数情報に基づき、フィルタ処理画像内の複数の直線から検査対象物に対応する直線(特定幅線)を抽出する(S103)。このステップS103のハフ変換処理では加重ハフ変換を実行することが好ましく、該加重ハフ変換により取得され、フィルタ処理画像内の強度値によって重み付けられた直線投票数情報に基づき、フィルタ処理画像内の複数の直線から特定幅線を注シュルすることが好ましい。
【0087】
このように、本実施形態の端末1によれば、撮影画像内に、点検対象外の建物、道路、又は、その他長尺状の物体などの直線状の非点検対象物が映り込んでいる場合であっても、目的の点検対象物に対応する直線を該撮影画像から抽出することができる。また、上記の情報処理システムでは、従来のエッジ検出技術(1本の電力線に対して2本のエッジを抽出する技術)に基づくハフ変換処理、及び、ディープラーニングよりも簡便な演算処理で点検対象物に対応する直線の抽出が可能であり、ディープラーニングを利用したセグメンテーション手法等で必要な演算処理装置よりも安価で汎用的な演算処理装置を用いることができる。
【0088】
上述した実施形態は、本開示の理解を容易にするための例示に過ぎず、本開示を限定して解釈するためのものではない。本開示は、その趣旨を逸脱することなく、変更、改良することができると共に、本開示にはその均等物が含まれることは言うまでもない。実施形態では、電力線を検査対象物とする場合を例示したが、本開示の情報処理システム等は、工場内の配管を無人移動体で追跡して点検する場合のシステムなどにも適用可能であり、本開示における抽出対象物は電力線に必ずしも限定されない(好ましくは電力線の点検システムに適用すること)。
【符号の説明】
【0089】
1 端末
2 サーバ
4 無人飛行体
【要約】
【課題】画像内から特定の点検対象物を抽出することが可能な情報処理方法、情報処理システム及びプログラムを提供すること。
【解決手段】無人移動体により撮影した撮影画像から長尺状の検査対象物に対応する直線を抽出する情報処理をコンピュータが実行する情報処理方法である。コンピュータが、検査対象物に対応する特定幅を有する線に対して選択性を有する第1フィルタに基づく空間フィルタリング処理により、撮影画像から特定幅の線が強調されたフィルタ処理画像を生成する処理と、生成されたフィルタ処理画像に対するハフ変換処理に基づき、フィルタ処理画像内の複数の直線から検査対象物に対応する直線を抽出する処理と、を実行する。
【選択図】
図1