(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-06
(45)【発行日】2023-10-17
(54)【発明の名称】無人移動体
(51)【国際特許分類】
H04N 23/60 20230101AFI20231010BHJP
B64C 13/18 20060101ALI20231010BHJP
B64C 39/02 20060101ALI20231010BHJP
B64D 47/08 20060101ALI20231010BHJP
H04N 5/222 20060101ALI20231010BHJP
【FI】
H04N23/60
B64C13/18 Z
B64C39/02
B64D47/08
H04N5/222 100
(21)【出願番号】P 2019095202
(22)【出願日】2019-05-21
【審査請求日】2022-03-29
(73)【特許権者】
【識別番号】000101732
【氏名又は名称】アルパイン株式会社
(74)【代理人】
【識別番号】100098497
【氏名又は名称】片寄 恭三
(74)【代理人】
【識別番号】100099748
【氏名又は名称】佐藤 克志
(74)【代理人】
【識別番号】100103171
【氏名又は名称】雨貝 正彦
(74)【代理人】
【識別番号】100105784
【氏名又は名称】橘 和之
(72)【発明者】
【氏名】舘 陽介
【審査官】▲高▼橋 真之
(56)【参考文献】
【文献】国際公開第2018/163571(WO,A1)
【文献】特開2018-152737(JP,A)
【文献】特開2008-12636(JP,A)
【文献】中国特許出願公開第108377328(CN,A)
【文献】特開平10-3109(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60 -23/698
H04N 5/222- 5/257
B64D 47/00
B64C 13/00
B64C 39/00
H04N 5/91
H04N 7/18
G03B 15/00
(57)【特許請求の範囲】
【請求項1】
移動体の位置を検出する位置検出手段と、
対象物を撮影する
撮影カメラを含む撮影手段と、
対象物の相対位置を検出する対象物検出手段と、
前記対象物検出手段の検出に基づき前記撮影カメラの撮影方向の角度を調整する角度調整手段と、
対象物を撮影するために予め用意された移動ルートに従い移動体を移動させる移動手段と、
前記撮影手段による対象物の撮影の失敗を検出する検出手段と、
前記検出手段により撮影の失敗が検出された場合、前記位置検出手段により検出された撮影が失敗した位置で対象物を再撮影するように前記移動手段および前記撮影手段を制御する制御手段と
を有し、
前記検出手段は、前記対象物検出手段により検出された対象物の相対位置および前記角度調整手段により調整された撮影方向の角度に基づき、前記撮影手段による撮影範囲に対象物が含まれているか否かにより撮影の失敗を検出する、無人移動体。
【請求項2】
前記検出手段は、対象物の相対角度、前記角度調整手段により調整された撮影方向の角度、および撮影カメラの画角に基づき、
前記撮影手段による撮影範囲に対象物が含まれているか否かにより撮影の失敗を検出する、請求項1に記載の無人移動体。
【請求項3】
前記検出手段は、前記撮影手段により撮影された映像フレームの外周に設定された一定のマージンの内側に対象物が含まれているか否かにより撮影の失敗を検出する、請求項1に記載の無人移動体。
【請求項4】
前記検出手段は、前記撮影手段により撮影された映像フレーム単位で撮影の失敗を検出し、前記制御手段は、撮影が失敗した位置で対象物を再撮影した後、前記予め用意された移動ルートに戻るように前記移動手段および前記撮影手段を制御する、請求項1に記載の無人移動体。
【請求項5】
前記
制御手段は、前記移動ルートの撮影終了地点に到達した後、撮影が失敗した位置で対象物を再撮影するように前記移動手段および前記撮影手段を制御する、請求項1に記載の無人移動体。
【請求項6】
無人移動体はさらに、基地局とデータ通信する通信手段を含み、
前記通信手段は、前記撮影手段によって撮影された映像データと前記位置検出手段により検出された移動体の位置を基地局に送信し、
基地局は、映像データの解析結果に基づき撮影失敗を検出した場合には、再撮影のための
飛行情報を前記通信手段を介して前記制御手段に送信し、
前記制御手段は、基地局から送信される
前記飛行情報に基づき前記移動手段および前記撮影手段を制御する、請求項1に記載の無人移動体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔操作あるいは自律式の無人移動体に関し、特に、対象物の撮影機能を備えたドローンに関する。
【背景技術】
【0002】
例えば鉄塔に架設された送電線の表面などの点検は、作業者が双眼鏡を使って送電線の表面を直接目視したり、ヘリコプターから目視したり、鉄塔に登った人が電線を伝って確認したり、自走機を利用するなどして行っている。このような高所の構造物の点検に空撮機能を備えたドローンを接近させ、カメラで点検箇所を撮影し、作業者が点検箇所を目視するのと変わらない映像を得ることができれば、点検に要するコストを大幅に削減することが可能となる。また、決められた飛行ルートを決められた速度で飛行して離陸地点まで自動で戻り着陸するように機体を制御する自律制御技術の開発が進められ、実用化されつつある。
【0003】
特許文献1の空撮方法では、
図1に示すように、自立制御により飛行するA/Cヘリ1は、予め設定された飛行ルートに従い、出発地点である地上局2を離陸した後、鉄塔Aの上方の(a)ポイントまで飛行し、次に、鉄塔Bの上方の(b)ポイントまで高架電線Wに沿って平行に飛行し、この間、高架電線Wがカメラの撮影領域の中心に位置するように高架電線Wを追尾しながら高架電線Wの映像を連続的に記録する。また、飛行中に高架電線Wまでの距離を測定し、測定された距離に応じてカメラのズーム倍率を調整することでカメラフレーム内に十分な大きさに拡大された高精細な高架電線Wの映像を記録できるようにしている。また、特許文献2では、無人飛行機に搭載されたマルチスペクトルカメラを用いて植物の生育状況を監視し、画像データが欠落等により異常と判定された場合には、再撮影している。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2006-027448号公報
【文献】特開2018-152737号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
近年では、ドローンのような小型無人飛行機を使った架空地線・電線の点検システムや、ある範囲の地形をくまなく連続撮影することで地形の詳細な形状を得る測量システムの開発、実用化が進められている。ドローンには、点検対象物までの距離および角度を検出する物体検出センサ(例えば、LiDAR)が搭載され、ドローンは、物体検出センサの検出結果に基づき機体と点検対象物との位置関係が一定に保たれるように自律飛行することで、点検対象物を追尾しつつ点検対象物への接触が防止される。また、ドローンには、点検対象物を撮像するカメラがジンバルを介して搭載される。ジンバルは、カメラの向きを3次元方向で微調整することができるアクチュエータであり、ジンバルは、ドローンの姿勢が変化しても常にカメラがドローンの鉛直方向を撮像するように、物体検出センサの検出結果を利用してカメラの角度を制御する。その結果、撮像フレームの中央に点検対象物が撮像されるように撮像が制御される。
【0006】
ドローンによる点検撮影実行時、強風などの要因により機体の姿勢や位置が急に変わることがある。このとき、ジンバルは、機体の姿勢変化を吸収するように動作する。
図2(A)は、機体10と高架電線Wを側方から模式的に表す図であり、高架電線Wの真上を飛行中に横から風Kが吹くと、機体10は風の方に機体を傾け、高架電線Wの真上の飛行位置を維持しようとする。このとき、ジンバルは、高架電線Wが撮像範囲Sに入るようにカメラの角度を制御する。
【0007】
また、
図2(B)は、機体10と高架電線Wを上方から模式的に表した図であり、風Kが吹くなどして、機体10が高架電線Wから離れるように横方向Pに流されてしまう場合がある。この場合にも、機体10が高架電線Wの方向Qに向かうように飛行制御され、ジンバルも、これらの影響を抑えるようにカメラの角度を制御する。しかしながら、最終的にドローンの急激な姿勢変化を吸収しきれない場合には、
図3に示すように、高架電線Wが撮影範囲Sから逸脱したフレームアウトが生じ、撮影を失敗することがある。
【0008】
図4は、測量飛行を模式的に示す図である。機体10は、予め用意された飛行ルートRに従い標定点20を基準に地形の測量を行うが、飛行ルート上に木、鉄塔、高い建物、鳥などが存在すると、一時的にそれらに焦点が合ってしまい、検証点22の撮影に失敗することがある。
【0009】
上記したようなフレームアウトや焦点ズレによる撮影の失敗は、ドローンの帰還後に、カメラで撮影された映像を再生しこれをチェックすることで判断されていた。このため、再撮影の作業は、同じ飛行をもう一度行う必要があり、手間がかかっていた。また、再飛行のためにドローンのバッテリが追加で必要になることがあり、現場でのやりくりに困る状況が発生する可能性があった、
【0010】
本発明は、上記従来の課題を解決し、対象物の撮影を失敗した場合に再撮影を容易に行うことができる無人移動体を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明に係る無人移動体は、移動体の位置を検出する位置検出手段と、対象物を撮影する撮影手段と、対象物を撮影するために予め用意された移動ルートに従い移動体を移動させる移動手段と、前記撮影手段による対象物の撮影の失敗を検出する検出手段と、前記検出手段により撮影の失敗が検出された場合、前記位置検出手段により検出された撮影が失敗した位置で対象物を再撮影するように前記移動手段および前記撮影手段を制御する制御手段とを有する。
【0012】
ある実施態様では、前記検出手段は、前記撮影手段による撮影範囲に対象物が含まれているか否かにより撮影の失敗を検出する。ある実施態様では、前記検出手段は、前記撮影手段により撮影された対象物の焦点が合っているか否かにより撮影の失敗を検出する。ある実施態様では、前記検出手段は、前記撮影手段により撮影された映像フレーム単位で撮影の失敗を検出し、前記制御手段は、撮影が失敗した位置で対象物を再撮影した後、前記予め用意された移動ルートに戻るように前記移動手段および前記撮影手段を制御する。ある実施態様では、前記飛行手段は、前記移動ルートの撮影終了地点に到達した後、撮影が失敗した位置で対象物を再撮影するように前記移動手段および前記撮影手段を制御する。ある実施態様では、無人移動体はさらに、基地局とデータ通信する通信手段を含み、前記検出手段は、前記通信手段を介して基地局から送信された情報に基づき撮影の失敗を検出し、前記制御手段は、基地局から送信される情報に基づき前記移動手段および前記撮影手段を制御する。
【発明の効果】
【0013】
本発明によれば、対象物の撮影失敗を検出した場合には、撮影失敗が検出された位置から再撮影するようにしたので、撮影が失敗したときに再撮影のための同じ飛行を行う必要がなくなり、かつ再撮影のために消費する無人移動体のエネルギーや飛行時間を削減することができる。
【図面の簡単な説明】
【0014】
【
図1】従来の高架電線等を空撮する無人飛行機の例を説明する図である。
【
図2】
図2(A)は、機体と高架電線とを側方から模式的に表した図であり、
図2(B)は、機体と高架電線とを上方から模式的に表した図であり、風等により機体の姿勢が変化する様子を説明している。
【
図3】従来の無人飛行機による空撮において点検対象物がフレームから逸脱した例を説明する図である。
【
図4】従来の無人飛行機による測量のための撮影を模式的に示した図である。
【
図5】本発明の無人飛行機の電気的な構成を示すブロック図である。
【
図6】本発明の実施例に係る撮影制御プログラムの機能的な構成を示すブロック図である。
【
図7】
図7(A)、(B)は、映像フレームと高架電線との関係を示し、
図7(C)、(D)は、撮影失敗の例を説明する図である。
【
図8】本発明の実施例によるフレームアウトの有無の判定方法を説明する図である。
【
図9】本発明の実施例による対象物の第1の撮影制御の動作フローを示す図である。
【
図10】本発明の実施例による撮影失敗時の第1の撮影制御の再撮影を説明する図である。
【
図11】本発明の実施例による対象物の第2の撮影制御の動作フローを示す図である。
【
図12】本発明の実施例による撮影失敗時の第2の撮影制御の再撮影を説明する図である。
【発明を実施するための形態】
【0015】
次に、本発明の実施の形態について説明する。本発明の無人移動体は、例えば、ドローン、ヘリコプター飛行船のような無人飛行機あるいは車輪で移動するドローン(ローバー)である。本発明の無人移動体は、人間が目視により点検することが難しい、鉄塔に架設された送電線や土砂崩れなどの自然災害現場の点検、あるいは地形の測量などに用いられる。
【実施例】
【0016】
以下の実施例では、無人移動体として無人飛行機(ドローン)により点検対象物を撮影したり、地形を測量する例を説明する。本実施例の無人飛行機(ドローン)は、機体本体に、点検対象物(例えば、高架電線)や地形を撮影するための撮影カメラを搭載する。撮影カメラは、ジンバルのような角度調整アクチュエータを介して機体本体に取り付けられる。角度調整アクチュエータは、例えば、X軸、Y軸、Z軸の自由度3で撮影カメラの角度を調整することが可能である。無人飛行機は、例えば、
図1に示すように鉄塔に高架された電線Wをその上方から鉛直方向に撮影したり、
図4に示すように地形を撮影する。撮影された映像データは、高架電線Wの点検や地形の測量に供される。
【0017】
図5は、本実施例に係る無人飛行機の電気的な構成を示すブロック図である。本実施例に係る無人飛行機100は、GPS受信部110、自立航法センサ120、物体検出部130、撮影カメラ140、カメラ角度調整部150、ロータ駆動部160、記憶部170、出力部180、通信部190および制御部200を含んで構成される。但し、上記構成は一例であり、必ずしもこれに限定されるものではない。
【0018】
GPS受信部110は、GPS衛星から発せられるGPS信号を受信し、無人飛行機100の緯度、経度を含む絶対位置を検出する。無人飛行機100は、予め用意された飛行情報に従い自律航行することが可能である。飛行情報は、例えば、
図1に示すように、出発地点である地上局2、鉄塔Aの(a)ポイント、鉄塔Bの(b)ポイント、帰還地点である地上局2を飛行する飛行ルート(緯度、経度の位置情報を含む)、飛行速度、飛行高度などを含む。無人飛行機100は、GPS受信部110で検出された位置情報を利用して飛行ルートを追従するように飛行する。
【0019】
自立航法センサ120は、無人飛行機100が自立航法するために必要なセンサ、例えば、方位センサや高度センサを含む。自立航法センサ120のセンサ出力は、飛行情報に従い自律飛行するときの制御に利用される。
【0020】
物体検出部130は、点検対象物までの相対的距離および角度を検出する。物体検出部130は、例えば、LiDAR(Laser Imaging Detection and Ranging)を用いて構成される。LiDARは、パルス状に発光するレーザーを360度の方位で照射し、そのレーザー照射に対する反射光を測定することで、物体までの距離および角度を検出する。物体検出部130は、例えば、点検対象物である高架電線Wまでの距離および角度を検出したり、測量対象物である検証点22(
図4を参照)までの距離および角度を検出する。なお、物体検出部130は、LiDARに限定されず、これ以外にも複数のステレオカメラを用いて物体までの距離および角度を検出するものであってもよい。無人飛行機100は、物体検出部130の検出結果に基づき、点検対象物である高架電線Wと一定の距離および角度を保つように高架電線Wを追尾し、あるいは測定対象物である検証点と一定の距離および角度を保つように検証点を追尾する。
【0021】
撮影カメラ140は、上記したように、機体本体の下部に角度調整アクチュエータを介して取り付けられる。撮影カメラ140は、点検対象物である高架電線Wや測定対象物である検証点22の動画を撮像し、例えば、1秒間に24個の映像フレーム(静止画)を生成する。さらに撮影カメラ140は、ズーム機能を備え、映像フレーム内に一定の大きさの高架電線Wや検証点22が撮像されるように、その倍率が調整される。
【0022】
カメラ角度調整部150は、制御部200からの角度調整信号に応答して角度調整アクチュエータを駆動し、撮影カメラ140の角度を調整する。制御部200は、自立航法センサ120や物体検出部130の検出結果に基づき撮影カメラ140の撮像方向(撮影カメラのレンズの光軸)が鉛直方向となる角度を算出し、その算出結果に基づき角度調整信号を生成する。
【0023】
ロータ駆動部160は、制御部200からの駆動信号に基づきプロペラ等に接続されたロータを回転させる。制御部200は、GPS受信部110、自立航法センサ120および物体検出部130により検出された情報や飛行情報に基づき無人飛行機100が飛行ルートに沿って自律飛行するための駆動信号を生成する。
【0024】
記憶部170は、無人飛行機100を動作させるために必要な種々の情報を記憶する。記憶部170は、例えば、予め用意された飛行情報を記憶したり、制御部200が実行するためのプログラムやソフトウエアを記憶したり、撮影カメラ140で撮像された点検対象物や測定対象物の映像データを記憶する。さらに本実施例では、記憶部170には、撮影カメラ140による対象物の撮像が失敗したことを示す撮影失敗情報が記憶される。撮影失敗情報は、撮影カメラ140により撮影された映像データを再生することなく、対象物の再撮影が必要であることをユーザーに知らせることができる。
【0025】
出力部180は、記憶部170に記憶された情報を読出し、これを外部に出力する。出力部180の構成は特に限定されないが、例えば、出力部180は、記憶部170の映像データを表示する表示部を備えることができ、あるいは通信部190を介して接続された外部の基地局に、有線または無線により記憶部170から読み出した情報を出力することができる。
【0026】
通信部190は、無人飛行機100を有線または無線により外部の基地局との間でデータ通信をすることを可能にする。外部の基地局(例えば、コンピュータ装置)は、通信部190を介して無人飛行機100を制御することが可能であり、例えば、飛行情報を無人飛行機100の記憶部170に設定したり、無人飛行機100で撮影した映像データを受信したり、あるいは制御部200に対してユーザーからの指示を与えることができる。
【0027】
制御部200は、無人飛行機100の各部を制御する。ある実施態様では、制御部200は、ROM/RAMを含むマイクロコントローラ、マイクロプロセッサ、画像処理プロセッサ等を含み、記憶部170あるいはROM/RAMに格納されたプログラムやソフトウエアを実行することで無人飛行機100の自律飛行や点検対象物の撮影を制御する。
【0028】
自律飛行制御プログラムは、GPS受信部110で検出された絶対位置(緯度、経度、高度)や自立航法センサ120で検出された方位や高度等に基づき、予め用意された飛行ルートを無人飛行機100が飛行するように制御する。この飛行ルートは、点検対象部である高架電線Wや測定対象物である検証点22に沿うルートである。さらに自律飛行制御プログラムは、物体検出部130により検出された高架電線Wや検証点22と間の相対的な距離および角度に基づき高架電線Wや検証点と一定の距離を保ちながら高架電線Wや検証点22を追尾するように無人飛行機100の飛行を制御する。
【0029】
無人飛行機100が対象物に沿って飛行を続ける間、撮影制御プログラムは、高架電線Wや検証点22が撮影されるように撮影カメラ140を制御し、かつ撮影カメラ140により撮影された映像データを記憶部170に格納する。本実施例の撮影制御プログラムの詳細な構成を
図6に示す。同図に示すように、撮影制御プログラム210は、カメラ角度算出部220、カメラ動作制御部230、撮影失敗検出部240、再撮影制御部250および映像データ記憶部260を含んで構成される。
【0030】
カメラ角度算出部220は、撮影カメラ140の映像フレーム内に高架電線Wや検証点22が捉えられるようにするため、物体検出部130からの検出結果に基づき撮影カメラ140の撮影方向の角度を算出する。カメラ角度算出部220は、撮影方向の角度を算出すると、その算出結果を表す角度調整信号をカメラ角度調整部150に提供し、カメラ角度調整部150は、角度調整信号に基づき角度調整アクチュエータを駆動し、撮像カメラ140の撮影方向を調整する。本実施例では、カメラ角度算出部220は、撮像カメラ140の撮影方向(光軸)が鉛直方向になるように角度を算出し、これにより、撮像カメラ140は、高架電線Wや検証点22を真上から空撮する。
【0031】
また、撮影カメラ140のズームは、予め決められ倍率に設定され、自律飛行制御プログラムにより無人飛行機100と高架電線Wや検証点22との間の相対距離が一定になるように飛行が制御される。これらの設定により、撮影カメラ140の映像フレームにより撮影される現実空間の範囲(縦方向および横方向の実空間の距離)が決定され、つまり、映像フレームに映される高架電線Wの大きさが決定される。例えば、
図7(A)に示すように、映像フレームF内に、ユーザーによって点検可能な大きさで高架電線Wが映される。
【0032】
図7(A)において、映像フレームFの長手方向が飛行方向と略平行であるとき、カメラ角度算出部220は、物体検出部130で検出された高架電線Wの相対角度に基づき、映像フレームFの略中央に高架電線Wが捉えられるようにカメラの角度を算出する。また、
図7(B)に示すように、無人飛行機100が風の影響を受けて、
図2(A)に示すように機体の姿勢が変化したり、
図2(B)に示すように高架電線Wから離れたとき、映像フレームFに映される高架電線Wが中央から縁部にシフトするが、この場合、カメラ角度算出部220は、物体検出部130で検出された高架電線Wの相対角度の変化量に基づき、高架電線Wが中央の方向Qに移動するように、カメラの角度を算出する。測定対象物である検証点22を撮影するときも同様である。
【0033】
カメラ動作制御部230は、撮影カメラ140の撮影開始および終了等を制御する。具体的には、飛行ルートに沿って無人飛行機100が飛行を開始し、高架電線Wや検証点22に接近し撮影開始位置に到達すると、カメラ動作制御部230は、撮影カメラ140による撮影を開始させ、無人飛行機100が飛行ルートに従って撮影終了位置に到達すると、撮影カメラ140による撮影を終了させる。カメラ動作制御部230は、上記以外にも撮影カメラの撮像条件、例えば、倍率等を制御することも可能である。
【0034】
撮影失敗検出部240は、撮影カメラ140による高架電線Wや検証点22の撮影が行われている期間中、撮影カメラ140による撮影の失敗を検出する。撮影中に、強風などの影響を受けて無人飛行機100の姿勢が急に変化したり(
図2(A)を参照)、あるいは飛行ルートを一時的に逸脱したとき(
図2(B)を参照)、角度調整アクチュエータによる撮影カメラ140の角度制御が間に合わないと、
図7(C)に示すように、映像フレームFから高架電線Wがフレームアウトすることがある。撮影失敗検出部240は、こうしたフレームアウトを撮影失敗と見做しこれを検出する。フレームアウトの有無は、物体検出部130で検出された高架電線Wや検証点22の相対位置と、角度調整アクチュエータの現在の制御された角度と、撮影カメラに設定されている画角から判定することができる。
【0035】
図8は、フレームアウトの有無の判定方法を説明する図である。無人飛行機100の飛行方向は、高架電線Wの延在する方向と概ね平行であるとする。この状態で、無人飛行機100の鉛直方向の基準線Gに対する高架電線Wの相対角度θwは、物体検出部130により検出される。また、撮影カメラ140の画角θcは、ズームの倍率から決定される既知の値であり、画角θcは、
図7に示す映像フレームFの大きさを規定する。基準線Gに対する角度調整アクチュエータの現在の角度がθaであるとき(角度θaは、撮影カメラ140の撮影レンズの光軸方向に等しい)、画角θcは、角度θaによってオフセットされた角度の方向を撮影する。撮影判定部240は、θaによりオフセットされた画角θcの撮影範囲に、高架電線Wの角度θwが含まれるか否かを判定し、両者の差が一定以上である場合には、高架電線Wが撮影されていない、すなわち映像フレームFから高架電線Wがフレームアウトしたと判定する。
【0036】
また、映像フレームFの外縁に高架電線Wが撮影された場合には、高架電線Wの一部が欠損したり、あるいは光学歪みにより画像が不鮮明になるおそれがある。このため、
図7(D)に示すように、映像フレームFの外周に一定のマージンMを設け、マージンMの内側に高架電線Wが撮影されるか否かを判定するようにしてもよい。この場合には、マージンMを規定する画角θc’(θc’<θc)を設定する。なお、測定対象物である検証点22のフレームアウトの有無の判定も同様に行われる。
【0037】
さらに撮影カメラ140は、1秒間に複数の映像フレームを生成(例えば、1秒間に24の映像フレームを生成)するため、もし、非常に短い時間で高架電線Wのフレームアウトが生じた場合には、前後の映像フレームによりフレームアウトした期間の高架電線Wを補間することが可能である。従って、撮影失敗検出部240は、フレームアウトが一定期間生じた場合に、撮影失敗と判定する。例えば、1秒間に24の映像フレームが生成される場合、12枚の映像フレームにおいてフレームアウトが生じた場合に高架電線Wの撮影が失敗したと判定する。
【0038】
撮影失敗検出部240は、フレームアウトの有無を判定する他に、撮影された対象物の焦点ズレ(ピントズレ)が生じたとき、これを撮影失敗と見做すようにしてもよい。例えば、
図4に示すように、飛行ルートRに木や鉄塔などの高い建物があると、検証点22に焦点が合わずに一時的に木や鉄塔などに焦点が合ってしまう。焦点ズレの有無は、例えば、撮影された映像データのパワースペクトルから判定することができる。対象物の焦点が合っていないとき、対象物の輪郭が不鮮明になり、輪郭を構成する隣接する画素間の画像データの変化量が小さくなり、その周波数が小さくなる。反対に焦点が合っていれば、画素間の画像データの変化量が大きくなり、その周波数が大きくなる。撮影失敗検出部240は、撮像された映像データを解析し、そのパワースペクトルから焦点ズレを監視し、焦点が合っていない期間を検出する。
【0039】
撮影失敗検出部240は、撮影失敗を検出したとき、GPS受信部110で検出された無人飛行機100の位置情報に基づき飛行ルートのどの位置または区間で撮影が失敗したかを示す撮影失敗位置情報を生成し、これを再撮影制御部250へ提供する。
【0040】
再撮影制御部250は、撮影失敗検出部240から撮影失敗位置情報を受け取ると、当該撮影失敗位置情報に基づき自律飛行制御プログラムおよびカメラ動作制御部230を制御し、無人飛行機100を撮影失敗した位置に飛行させ、そこで対象物の再撮影を行う。
【0041】
映像データ記憶部260は、撮影カメラ140が動作されている期間中に撮影された映像データおよび再撮影制御部250により再撮影された映像データを記憶部170に記憶する。
【0042】
次に、本実施例の無人飛行機100による第1の撮影動作について
図9のフローを参照して説明する。ここでは、高架電線Wを撮影するものとする。先ず、通信部190を介してコンピュータ装置が接続され、コンピュータ装置から無人飛行機100に飛行ルートを含む飛行情報が入力され(S100)、これが記憶部170または制御部200のRAMに格納される。制御部200の自律飛行制御プログラムは、入力された飛行情報に従い無人飛行機の自律飛行を開始する(S110)。
【0043】
無人飛行機100は、物体検出部130で検出された高架電線Wまでの相対距離および角度に基づき高架電線Wと一定の距離を保ちながら高架電線Wに沿って自律飛行をし、その間、高架電線Wの撮影が行われる。すなわち、カメラ動作制御部230は、無人飛行機100が高架電線Wの撮影開始位置に到達すると、撮影カメラ140を起動し、高架電線Wの撮影を開始する(S120)。
【0044】
撮影期間中、カメラ角度算出部220は、物体検出部130で検出された高架電線Wまでの距離および角度に基づき撮影カメラ140の撮影方向の角度を算出し、算出結果に基づき角度調整信号を角度調整アクチュエータに出力し、角度調整アクチュエータが撮影カメラ140の角度を調整する。また、撮影期間中、撮影カメラ140によって撮影された高架電線Wの映像データは、映像データ記憶部260によって記憶部170に順次記憶される。また、撮影中、撮影失敗検出部240によって、高架電線Wの撮影失敗の有無が検出され(S130)、撮影失敗が検出された場合には、撮影失敗位置情報が再撮影制御部250に提供され、再撮影制御部250は、提供された撮影失敗位置情報を保持する(S140)。
【0045】
無人飛行機100が飛行ルートに基づき高架電線Wの撮影終了地点に到達すると(S150)、カメラ動作制御部230は高架電線の撮影を停止し(S160)、再撮影制御部250は、撮影失敗位置情報を保持しているか否かを判定し(S170)、撮影失敗位置情報を保持する場合には、無人飛行機100が撮影失敗位置に飛行するように自律飛行制御プログラムを制御し、そこでカメラ動作制御部230により撮影カメラ140を起動させ、高架電線Wの再撮影を行う(S180)。再撮影された高架電線Wの映像データは記憶部170に格納される。複数の撮影失敗位置情報がある場合には、それらの全てについても同様に、無人飛行機100を撮影失敗位置に飛行させ、そこで高架電線Wの再撮影を行う。再撮影が終了すると、カメラ動作制御部230は撮影カメラ140を停止させ、無人飛行機100がスタート地点に帰還される(S190)。他方、再撮影制御部250に撮影失敗位置情報が保持されていない場合には、再撮影を行うことなく、無人飛行機100がスタート地点に帰還される(S190)。
【0046】
図10に、高架電線Wを再撮影するときの無人飛行機の飛行例を示す。無人飛行機100は、
図10(A)に示すように、飛行ルートRに沿って連続する高架電線Wを撮影し、その途中、撮影失敗検出部240によって撮影地点Zにおいて撮影範囲Sの撮影失敗が検出されると、撮影地点Zを含む撮影失敗位置情報が生成され、これが再撮影制御部250に保持される。無人飛行機100は、飛行ルートRに沿って撮影終了地点Eまで高架電線Wの撮影を継続する。無人飛行機100が撮影終了地点Eに到達すると、再撮影制御部250は、撮影失敗位置情報に基づき飛行ルートR1を生成し、この飛行ルートR1に沿って無人飛行機100を撮影失敗地点Zまで飛行させ、そこで高架電線Wの再撮影を行う。
【0047】
このように本実施例によれば、対象物の撮影に失敗した場合には、撮影失敗した地点で対象物を自動で再撮影するようにしたので、対象物の撮影の効率化を図ることができる。
【0048】
次に、本実施例の無人飛行機100による第2の撮影動作について
図11のフローを参照して説明する。ここでは、検証点のように非連続の測定対象物を撮影するものとする。ステップS100~S130までは、
図9と同様であるので説明を省略する。撮影失敗検出部240によって撮影失敗が検出されると(S130)、再撮影制御部250は、撮影失敗位置情報に基づき無人飛行機100を撮影が失敗した地点に戻し(S200)、そこで測定対象物(例えば、検証点22)を再撮影する(S210)。再撮影制御部250によって再撮影が終了すると、再び飛行ルートに沿って測定対象物が撮影される。無人飛行機100が飛行ルートに基づき測定対象物の撮影終了地点に到達すると(S220)、カメラ動作制御部230は測定対象物の撮影を停止し(S230)、無人飛行機100がスタート地点に帰還される(S240)。
【0049】
図12に、
図11に示す再撮影をするときの無人飛行機の飛行例を示す。無人飛行機100は、
図12(A)に示すように、映像フレームFn-1、Fn、Fn+1・・・を連続的に撮影する。もし、撮影失敗検出部240が映像フレームFnの撮影失敗を検出すると、映像フレームFnを撮影したときのGPS受信部110で検出された位置情報を含む撮影失敗位置情報が再撮影制御部250に提供される。再撮影制御部250は、
図12(B)に示すように撮影失敗位置情報に基づき撮影が失敗した位置に無人飛行機100を戻し、そこで映像フレームFnの再撮影を行う。なお、複数の映像フレームにおいて連続して撮影失敗が検出された場合には、複数の連続する映像フレームの再撮影が行われる。
【0050】
このように本実施例によれば、対象物の撮影に失敗した場合には、一旦元の撮影失敗した位置に戻り、そこで再撮影してから通常の撮影をするようにしたので、対象物の撮影の効率化を図ることができる。特に、映像フレーム間で対象物の差分または視差を抽出する処理を行うような場合に、本例の撮影方法が適している。
【0051】
次に、本発明の第2の実施例について説明する。上記実施例では、無人飛行機100の撮影制御プログラムが撮影失敗を検出し、その後の再撮影を制御する例を示したが、第2の実施例では、地上の基地局が撮影失敗を検出し、再撮影を制御する。
【0052】
無人飛行機100は、飛行ルートに沿って対象物を追尾し、撮影カメラ140により対象物(高架電線Wや検証点など)を撮影すると、通信部190は、撮影された映像データを基地局に送信する。送信される映像データには、GPS受信部190で検出された無人飛行機の現在位置情報が付加される。基地局は、受信した映像データを解析し、撮影失敗の有無を検出する。基地局は、撮影失敗を検出した場合には、再撮影のための飛行情報を生成し、これを無人飛行機100に送信する。通信部190は、受信した再撮影のための飛行情報を制御部200に提供し、自律飛行制御プログラムは、再撮影のための飛行情報に基づき無人飛行機100を飛行させ、カメラ動作制御部230は、撮影失敗箇所で対象物を再撮影する。
【0053】
このように本実施例によれば、地上の基地局側で撮影失敗の検出および再撮影の制御を行うことで、無人飛行機100の処理負担を軽減することができる。
【0054】
上記実施例では、説明を容易にするため、
図7等に示すように、映像フレームFの短手方向において撮影カメラ140の撮影方向を調整する例を示したが、実際には、無人飛行機の飛行方向が高架電線Wの方向とズレが生じている場合には、撮像カメラ140の撮影方向は、映像フレームの長手方向においても調整され得る。つまり、角度調整アクチュエータは、映像フレームFの短手方向および長手方向の自由度2でカメラの角度を調整することが可能である。
【0055】
また、上記実施例では、高架電線や地形を撮影する例を示したが、これは一例であり、本発明は、他の高層建造物、自然災害地などの撮影にも適用することができる。さらに本実施例は、撮影カメラが角度調整アクチュエータを介して機体本体に取り付けられる例を示したが、撮影カメラそのものが電子的または光学的な撮影方向の角度調整機能を備えている場合には、角度調整アクチュエータは必ずしも必須ではない。
【0056】
さらに上記実施例では、無人飛行機による対象物の撮影を例示したが、本発明はこれに限らず、車輪で移動するドローン(ローバー)にも適用することができる。
【0057】
以上、本発明の好ましい実施の形態について詳述したが、本発明は、特定の実施形態に限定されるものではなく、特許請求の範囲に記載された発明の要旨の範囲において、種々の変形、変更が可能である。
【符号の説明】
【0058】
100:無人飛行機 110:GPS受信部
120:自立航法センサ 130:物体検出部
140:撮影カメラ 150:カメラ角度調整部
160:ロータ駆動部 170:記憶部
180:出力部 190:通信部190
200:制御部