(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025152007
(43)【公開日】2025-10-09
(54)【発明の名称】自律飛行ロボットの飛行制御システム及び飛行制御方法
(51)【国際特許分類】
G05D 1/686 20240101AFI20251002BHJP
G05D 1/46 20240101ALI20251002BHJP
G05D 1/223 20240101ALI20251002BHJP
G05D 1/243 20240101ALI20251002BHJP
【FI】
G05D1/686
G05D1/46
G05D1/223
G05D1/243
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2024053696
(22)【出願日】2024-03-28
(71)【出願人】
【識別番号】000108085
【氏名又は名称】セコム株式会社
(74)【代理人】
【識別番号】100103850
【弁理士】
【氏名又は名称】田中 秀▲てつ▼
(74)【代理人】
【識別番号】100114177
【弁理士】
【氏名又は名称】小林 龍
(74)【代理人】
【識別番号】100066980
【弁理士】
【氏名又は名称】森 哲也
(72)【発明者】
【氏名】澤井 庸平
(72)【発明者】
【氏名】鈴木 大貴
(72)【発明者】
【氏名】光信 拓也
【テーマコード(参考)】
5H301
【Fターム(参考)】
5H301AA06
5H301CC04
5H301CC07
5H301DD07
5H301GG07
5H301GG09
5H301GG17
5H301KK02
5H301KK03
5H301KK08
5H301LL06
(57)【要約】
【課題】自律飛行ロボットとは別個の撮像装置による撮影画像に基づいて指定された追跡対象を自律飛行ロボットに追跡させる場合に、追跡対象に対する誤追跡を抑制する。
【解決手段】飛行制御システム100は、監視領域に設置された第1撮像装置4が撮影した第1撮影画像又は第1撮像装置4の設置情報に基づいて目標位置を設定する目標位置設定部24eと、目標位置まで自律飛行ロボット1を飛行させる出動制御部24fと、自律飛行ロボット1が備える第2撮像装置11が撮影した第2撮影画像に基づいて追跡候補を認識する画像認識部24gと、目標位置付近において、画像認識部24gが認識した追跡候補の少なくとも一つを追跡対象としてオペレータが選択する選択入力を受け付ける選択受付部24hと、選択された追跡対象を追跡するように自律飛行ロボットに飛行させる第2飛行制御を実行する追跡制御部24iを備える。
【選択図】
図5
【特許請求の範囲】
【請求項1】
自律飛行ロボットの飛行制御システムであって、
監視領域に設置された第1撮像装置が撮影した第1撮影画像または前記第1撮像装置の設置情報に基づいて目標位置を設定する目標位置設定部と、
前記目標位置まで前記自律飛行ロボットを飛行させる第1飛行制御を実行する出動制御部と、
前記自律飛行ロボットが備える第2撮像装置が撮影した第2撮影画像に基づいて追跡候補を認識する画像認識部と、
前記目標位置付近において、前記画像認識部が認識した前記追跡候補の少なくとも一つを追跡対象としてオペレータが選択する選択入力を受け付ける選択受付部と、
選択された前記追跡対象を追跡するように前記自律飛行ロボットに飛行させる第2飛行制御を実行する追跡制御部と、
を備えることを特徴とする飛行制御システム。
【請求項2】
前記選択受付部は、前記選択入力を受け付ける前記追跡候補として、前記自律飛行ロボットが前記目標位置へ到着する前に前記画像認識部が認識した前記追跡候補を含むことを特徴とする請求項1に記載の飛行制御システム。
【請求項3】
前記選択受付部は、前記選択入力を受け付ける前記追跡候補として、前記目標位置から所定範囲内の位置において前記自律飛行ロボットが撮影した前記第2撮影画像について前記画像認識部が認識した前記追跡候補を含むことを特徴とする請求項1に記載の飛行制御システム。
【請求項4】
前記目標位置設定部は、前記第1撮影画像にて認識した対象物の位置に基づいて前記目標位置を設定し、
前記画像認識部は、前記対象物の種別である第1種別と、前記追跡候補の種別である第2種別と、を認識し、
前記選択受付部は、前記第1種別と等しい前記第2種別の前記追跡候補を選択する前記選択入力を受け付ける、
ことを特徴とする請求項1に記載の飛行制御システム。
【請求項5】
前記第2撮影画像上の前記追跡候補に対して選択可能であることを表すマークを付した監視画像を出力する第1画像出力部を更に備え、
前記選択受付部は、前記マークに対応する前記第2撮影画像上の画像位置に対する前記オペレータの操作を前記選択入力として受け付ける、
ことを特徴とする請求項1に記載の飛行制御システム。
【請求項6】
前記画像認識部は、前記第1撮影画像にて認識した対象物の画像特徴と、前記第2撮影画像にて認識した前記追跡候補の画像特徴と、を比較し、
前記第1画像出力部は、前記画像認識部による比較結果に応じて前記マークの表示様態を設定する、
ことを特徴とする請求項5に記載の飛行制御システム。
【請求項7】
前記目標位置設定部が設定した前記目標位置に前記自律飛行ロボットが到着した後に第2の目標位置を設定して、前記自律飛行ロボットを前記第2の目標位置まで飛行させる調整制御部を更に備え、
前記画像認識部は、前記第1撮影画像にて認識した対象物の画像特徴と、前記第2撮影画像にて認識した複数の前記追跡候補の画像特徴と、を各々比較し、
前記調整制御部は、前記画像認識部による画像特徴の比較結果に応じて前記第2の目標位置を設定する、
ことを特徴とする請求項1に記載の飛行制御システム。
【請求項8】
前記調整制御部は、前記画像特徴が最も類似する前記追跡候補が前記第2撮影画像における画像中央に撮影されるように前記第2の目標位置を設定する、
ことを特徴とする請求項7に記載の飛行制御システム。
【請求項9】
前記追跡制御部は、前記第2飛行制御として、前記追跡対象が前記第2撮影画像における画像中央に撮影されるように前記自律飛行ロボットの飛行を制御することを特徴とする請求項1に記載の飛行制御システム。
【請求項10】
前記第2撮影画像から前記追跡候補の画像領域を切り出した拡大画像を出力する第2画像出力部を更に備えることを特徴とする請求項1~7の何れか一項に記載の飛行制御システム。
【請求項11】
自律飛行ロボットの飛行制御方法であって、
監視領域に設置された第1撮像装置が撮影した第1撮影画像または前記第1撮像装置の設置情報に基づいて目標位置を設定する処理と、
前記目標位置まで前記自律飛行ロボットを飛行させる第1飛行制御を実行する処理と、
前記自律飛行ロボットが備える第2撮像装置が撮影した第2撮影画像に基づいて追跡候補を認識する処理と、
前記目標位置付近において、認識された前記追跡候補の少なくとも一つを追跡対象としてオペレータが選択する選択入力を受け付ける処理と、
選択された前記追跡対象を追跡するように前記自律飛行ロボットに飛行させる第2飛行制御を実行する処理と、
を少なくとも1つのコンピュータに実行させることを特徴とする飛行制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自律飛行ロボットの飛行制御システム及び飛行制御方法に関する。
【背景技術】
【0002】
下記特許文献1には、固定カメラが撮像した映像及び当該固定カメラの位置に基づき、操作者により指定された対象物まで自律飛行ロボットを移動させ、自律飛行ロボットが搭載しているカメラにて撮影させる撮像システムが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
自律飛行ロボットとは別個の撮像装置が撮影した画像に基づいて対象物を指定し、この対象物を自律飛行ロボットに撮影させる場合、自律飛行ロボットが撮影した画像上で複数の類似の物体が検出されると、当初指定された対象物とは異なる物体まで誤って移動する虞がある。特に、指定された対象物を自律飛行ロボットが撮影した画像に基づいて追跡する場合、指定された対象物とは異なる物体を誤って追跡する虞がある。
本発明は、上記の問題点を鑑みてなされたものであり、自律飛行ロボットとは別個の撮像装置による撮影画像に基づいて指定された追跡対象を自律飛行ロボットに追跡させる場合に、追跡対象に対する誤追跡を抑制することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一形態によれば、自律飛行ロボットの飛行制御システムが与えられる。飛行制御システムは、監視領域に設置された第1撮像装置が撮影した第1撮影画像または前記第1撮像装置の設置情報に基づいて目標位置を設定する目標位置設定部と、目標位置まで自律飛行ロボットを飛行させる第1飛行制御を実行する出動制御部と、自律飛行ロボットが備える第2撮像装置が撮影した第2撮影画像に基づいて追跡候補を認識する画像認識部と、前記目標位置付近において、画像認識部が認識した追跡候補の少なくとも一つを追跡対象としてオペレータが選択する選択入力を受け付ける選択受付部と、選択された追跡対象を追跡するように自律飛行ロボットに飛行させる第2飛行制御を実行する追跡制御部と、を備える。
【発明の効果】
【0006】
本発明によれば、自律飛行ロボットとは別個の撮像装置による撮影画像に基づいて指定され追跡対象を自律飛行ロボットに追跡させる場合に、追跡対象に対する誤追跡を抑制できる。
【図面の簡単な説明】
【0007】
【
図1】本発明の実施形態の飛行ロボット制御システムの構成の一例を示す概略図である。
【
図2】(a)及び(b)は、実施形態の飛行制御方法の一例の説明図である。
【
図3】自律飛行ロボットの機能構成の一例のブロック図である。
【
図4】管理装置の機能構成の一例のブロック図である。
【
図5】操作端末の機能構成の一例のブロック図である。
【
図6】操作端末の表示部に表示される監視画像の第1例の模式図である。
【
図7】操作端末の表示部に表示される監視画像の第2例の模式図である。
【
図8】(a)~(c)は、操作端末の表示部に表示される追跡候補の拡大画像の第1例~第3例の模式図である。
【
図9】実施形態の飛行制御方法の一例のフローチャートである。
【発明を実施するための形態】
【0008】
以下において、図面を参照して本発明の実施形態を説明する。なお、以下に示す本発明の実施形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、本発明の技術的思想は、構成部品の構造、配置等を下記のものに特定するものではない。本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
【0009】
以下、本発明を適用した飛行ロボット制御システム100の概略構成を示した
図1を参照して、本発明の実施の形態の構成を説明する。
(飛行ロボット制御システム100)
飛行ロボット制御システム100は、1台以上の自律飛行ロボット1と、操作端末2と、管理装置3と、予め設定された監視領域Rに設置された固定カメラ4を有する。例えば、飛行ロボット制御システム100は、予め設定された監視領域における巡回や、監視領域における異常対処や、点検などの幅広い用途に用いられる。固定カメラ4は、特許請求の範囲に記載の「第1撮像装置」の一例である。
【0010】
自律飛行ロボット1による巡回飛行を行う場合には、自律飛行ロボット1に設けられたセンサ(例えばカメラ)で周囲の状況を検出しながら、例えば管理装置3で設定した飛行経路に沿って自律飛行ロボット1を自律飛行させる。遠隔のオペレータは、自律飛行ロボット1のセンサの検出結果(例えばカメラの撮影画像)に基づいて、監視領域内の状況を確認する。
【0011】
自律飛行ロボット1は、オペレータが操作端末2を手動操作することによって操縦することも可能である。例えば、特定の地点における状況をより詳細に確認する必要が生じた場合には、オペレータが操作端末2を介して手動で自律飛行ロボット1を操縦することにより、特定の地点におけるより詳細な状況を確認できる。
【0012】
(実施形態の飛行制御方法の概要)
次に、実施形態の飛行制御方法の一例の概要を説明する。
図2(a)を参照する。例えば、自律飛行ロボット1に追跡させるべき追跡対象200aが監視領域R内に存在し、固定カメラ4が追跡対象200aを撮影した場合を想定する。例えば追跡対象は人物(例えば不審者)であってもよく人物以外の物体(例えば不審車両)や動物であってもよい。以下の説明において、固定カメラ4が撮影した画像を「第1撮影画像」と表記することがある。第1撮影画像は、オペレータ300による監視領域Rの監視に用いられる操作端末2の表示部21に表示される。
【0013】
このように、追跡対象が監視領域R内に発見された場合に、飛行ロボット制御システム100は、自律飛行ロボット1に追跡対象200aを追跡させる。
具体的には、
図2(b)に示すように追跡対象200aを撮影できる位置まで自律飛行ロボット1を飛行させて、自律飛行ロボット1により追跡対象200aを撮影させ、自律飛行ロボット1による撮影画像(以下「第2撮影画像」と表記することがある)に基づいて、自律飛行ロボット1に追跡対象200aを自動的に追跡させる。
【0014】
このとき、第2撮影画像に複数の追跡候補200a~200dが検出されると、自律飛行ロボット1は、当初認識した追跡対象200aとは異なる対象を誤って追跡する虞がある。
実施形態の飛行ロボット制御システム100では、固定カメラ4が撮影した第1撮影画像に基づいて、追跡対象200aを撮影できる位置まで自律飛行ロボット1を飛行させ、自律飛行ロボット1による第2撮影画像に基づいて追跡候補200a~200dを認識する。また、第2撮影画像を操作端末2の表示部21に表示してオペレータ300に提示する。
【0015】
そして、認識された追跡候補200a~200dの少なくとも一つを追跡対象200aとしてオペレータ300が選択する選択入力を受け付ける。
図2(b)の例ではオペレータ300は、第2撮影画像上において追跡対象200aの位置をカーソル400で指示することによって、追跡対象200aを選択する。
飛行ロボット制御システム200は、選択された追跡対象200aを追跡するように自律飛行ロボット1に飛行させる。
このように、自律飛行ロボット1が撮影した第2撮影画像で認識された追跡候補200a~200dのうちどれを追跡対象200aとすべきかを、人間であるオペレータ300が選択することにより、自律飛行ロボット1が誤った対象(例えば追跡候補200b~200d)を追跡することを抑制できる。
【0016】
次に、自律飛行ロボット1、操作端末2、管理装置3の各々について説明する。
(自律飛行ロボット1)
図3は、自律飛行ロボットの機能構成の一例のブロック図である。自律飛行ロボット1は、例えば、ヘキサローダ型やクアッドロータ型の小型無人ヘリコプタであり、いわゆる、マルチコプタ、ドローン、UAV(Unmanned Aerial Vehicle)等である。なお、ヘキサローダ型やクアッドロータ型の小型無人ヘリコプタに限定されるものではなく、シングルロータ型の小型無人ヘリコプタについても同様に適用することができる。
自律飛行ロボット1は、自律飛行ロボット1の飛行経路に係る情報(後述する経路情報)を操作端末2や管理装置3から受信する。
【0017】
自律飛行ロボット1を自律飛行させる場合、自律飛行ロボット1は所定の飛行条件に従って自動飛行する。
所定の飛行条件は、例えば操作端末2や管理装置3から受信した経路情報によって指定された飛行経路であってよい。自律飛行モードにおいて自律飛行ロボット1は、受信した経路情報により指定された飛行経路に沿って飛行する。所定の飛行条件として目標位置を設定してもよい。この場合に自律飛行ロボット1は、障害物を回避しながら目標位置へ向かう飛行経路を検索し、検索した飛行経路に沿って飛行する。
【0018】
自律飛行ロボット1は、位置・姿勢センサ10と、第2撮像装置11と、通信部12と、制御部13と、記憶部14と、モータ15と、ロータ16と備える。
位置・姿勢センサ10は、自律飛行ロボット1の現在位置および姿勢を取得する。位置・姿勢センサ10は、例えば、GNSS(Global Navigation Satellite System)等の航法衛星(人工衛星)から送信される電波(航法信号)を受信する受信機、加速度を計測する加速度センサ、方位を計測する電子コンパス、および角速度を計測するジャイロセンサを備えている。
【0019】
例えば位置・姿勢センサ10の受信機は、複数の航法衛星から送信される航法信号を受信して制御部13に出力するとともに、電子コンパスおよびジャイロセンサは、計測信号を制御部13に出力する。
現在位置を取得するために受信機に代えてレーザスキャナおよび気圧センサを用いるなど、他の既知のセンサを用いて既知の従来技術により現在位置および姿勢を得るための情報を取得するものとしてもよい。
【0020】
第2撮像装置11は、自律飛行ロボット1の位置から見た画像を撮影するための撮像装置(例えばカメラ)である。例えば第2撮像装置11は、画角や自律飛行ロボット1の前後方向に対する光軸方向が固定されたカメラであってもよく、画角や光軸方向が可変なカメラ(例えばPTZカメラであってもよい)
【0021】
通信部12は、操作端末2と自律飛行ロボット1との間で、及び管理装置3と自律飛行ロボット1との間で通信するための通信モジュールである。
記憶部14は、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)等の情報記憶装置である。記憶部14は、各種プログラムや各種データを記憶し、制御部13との間でこれらの情報を入出力する。各種データには、位置・姿勢情報14a、経路情報14b、目標位置情報14c等の制御部13の処理に用いられる情報が含まれる。
【0022】
位置・姿勢情報14aは、位置・姿勢センサ10によって取得された自律飛行ロボット1の現在位置と姿勢とを、予め定められた回数だけ循環記憶した位置と姿勢の履歴である。ここで、履歴内の最新の位置及び姿勢を特に現在位置及び現在姿勢と表記し、それ以外の位置及び姿勢を過去位置及び過去姿勢と表記することがある。
経路情報14bは、自律飛行ロボット1が移動する予定である飛行経路に関する情報である。具体的には、飛行経路上における座標列である。経路情報14bは、操作端末2や管理装置3から受信する。
目標位置情報14cは、自律飛行ロボット1の飛行先である目標位置に関する情報である。例えば目標位置情報14cは操作端末2から受信してよい。
【0023】
制御部13は、CPU(Central Processing Unit)等のプロセッサ、ROM、RAM等の周辺機器を備えたコンピュータである。制御部13のプロセッサは、記憶部14に格納されたコンピュータプログラムを実行することにより、以下に説明する制御部13の機能を実現する。
制御部13は、位置・姿勢算出部13a、飛行制御部13b、経路探索部13c、飛行情報送信部13d、撮影画像送信部13e等として機能する。
【0024】
位置・姿勢算出部13aは、位置・姿勢センサ10の出力から3次元的な移動領域(例えば飛行空間)における自律飛行ロボット1の現在位置および姿勢を算出し、位置・姿勢情報14aとして記憶部14に記憶させる。
例えば位置・姿勢算出部13aは、位置・姿勢センサ10によって出力された航法信号から緯度・経度・高度を求め、予め記憶した変換規則を用いて移動領域の座標系における位置に変換する。
【0025】
また、位置・姿勢算出部13aは、位置・姿勢センサ10によって出力された加速度センサおよびジャイロセンサの計測信号から移動領域の座標系における現在姿勢を求める。
なお、位置・姿勢センサ10によって出力された電子コンパスの計測信号から、移動領域の座標系における方位を求め、他のセンサからの計測信号を更に用いて現在姿勢を算出してもよい。
以上のように、位置・姿勢センサ10と位置・姿勢算出部13a(制御部13)とが共働することにより自律飛行ロボット1の現在位置及び現在姿勢を検出する。
【0026】
飛行制御部13bは、モータ15の回転速度を制御することによって自律飛行ロボット1の飛行動作を制御する。自律飛行ロボット1には、4つ又は6つのロータ16と、これらロータ16にそれぞれ連結された回転軸を有するモータ15が搭載されている。各モータ15は、制御部13に接続されて飛行制御部13bから回転速度を指示される。4つ又は6つのロータ16が独立して回転することにより自律飛行ロボット1に任意方向の加速度を発生させる。
【0027】
自律飛行ロボット1を自律飛行させる場合に、飛行制御部13bは所定の飛行条件に従って自律飛行ロボット1を自動飛行させる。例えば所定の飛行条件として飛行経路が与えられている場合には、飛行制御部13bは、経路情報14b、位置・姿勢情報14aを参照し、自律飛行ロボット1を経路情報14bに記された飛行経路に追従して移動するようモータ15の回転速度を制御する。具体的には、飛行制御部13bは、経路情報14bに記された現在時刻の位置(座標)と、位置・姿勢情報14aに記された現在位置との誤差が小さくなるようにモータ15の回転速度を制御する。
【0028】
例えば所定の飛行条件として目標位置が与えられている場合には、障害物を回避しながら目標位置へ向かう飛行経路に沿って移動するように、モータ15の回転速度を制御する。経路探索部13cは、目標位置情報14c、位置・姿勢情報14aを参照し、障害物を回避しながら現在位置から目標位置へ向かう飛行経路を検索する。
自律飛行ロボット1を手動で操縦する場合には、飛行制御部13bは操作端末2から受信した制御情報に基づいてモータ15の回転速度を制御する。操作端末2は、例えば自律飛行ロボット1に発生させる3軸方向(前後方向、左右方向及び上下方向)の目標加速度の情報を制御情報として送信してよい。
【0029】
飛行情報送信部13dは、自律飛行ロボット1の飛行に関する飛行情報を、通信部12を介して操作端末2と管理装置3に送信する。
例えば飛行情報は、自律飛行ロボット1の現在位置、現在姿勢、高度、速度等の情報を含んでいてよい。
撮影画像送信部13eは、第2撮像装置11によって撮影された第2撮影画像を、通信部12を介して操作端末2へ送信する。
【0030】
(管理装置3)
管理装置3は、所定位置(例えば監視領域Rや自律飛行ロボット1の移動領域、自律飛行ロボット1を運用する事業者の敷地、遠隔地の監視センターなど)に設置される。管理装置3は、自律飛行ロボット1から受信した現在位置から、自律飛行ロボット1の飛行先である目標位置に至る飛行経路を求め、自律飛行ロボット1に送信する。例えば管理装置3は、予め設定されている巡回経路に基づいて自律飛行ロボット1の目標位置を設定してもよく、後述するように操作端末2が設定した目標位置を取得してもよい。
【0031】
図4は、管理装置3の機能構成の一例のブロック図である。管理装置3は、通信部30と、制御部31と、記憶部32とを備える。
通信部30は、自律飛行ロボット1と管理装置3との間で、及び操作端末2と管理装置3との間で通信するための通信モジュールである。
【0032】
記憶部32は、ROM、RAM、HDD等の情報記憶装置である。記憶部32は、各種プログラムや各種データを記憶し、制御部31との間でこれらの情報を入出力する。各種データには、例えば監視領域及びその周辺領域の地図情報32aや、経路情報32bや、自律飛行ロボット1から受信した飛行情報32c等の制御部31の処理に用いられる情報が含まれる。
制御部31は、CPU等のプロセッサ、ROM、RAM等の周辺機器を備えたコンピュータである。制御部31のプロセッサは、記憶部32に格納されたコンピュータプログラムを実行することにより、以下に説明する制御部31の機能を実現する。
【0033】
制御部31は、飛行経路設定部31a、飛行情報取得部31bとして機能する。
飛行経路設定部31aは、自律飛行ロボット1の移動の開始位置(例えば、自律飛行ロボット1の現在位置)から、自律飛行ロボット1の飛行先として設定された目標位置まで、自律飛行ロボット1を移動させる飛行経路を探索して、探索した飛行経路の情報を経路情報32bとして記憶部32に記憶する。
【0034】
飛行経路設定部31aは、探索した飛行経路の情報を、通信部30を介して自律飛行ロボット1に送信する。自律飛行ロボット1は、受信した飛行経路の情報を経路情報14bとして記憶する。
飛行情報取得部31bは、自律飛行ロボット1から送信された自律飛行ロボット1の飛行情報32cを取得する。飛行情報取得部31bは、取得した飛行情報32cを記憶部32に格納する。
【0035】
(操作端末2)
操作端末2は、オペレータ300による自律飛行ロボット1の操縦や固定カメラ4や自律飛行ロボット1から送られてくる撮影画像の監視に用いられる端末装置である。例えば操作端末2は、オペレータ300が携行可能な遠隔操作装置(いわゆる「プロポ」)やタブレット端末であってもよく、監視卓等に固定されたパーソナルコンピュータであってよい。
図5は、操作端末2の機能構成の一例のブロック図である。操作端末2は、通信部20と、表示部21と、操作部22と、制御部24と、記憶部25を備える。
【0036】
通信部20は、自律飛行ロボット1と操作端末2との間で、及び管理装置3と操作端末2との間で通信するための通信モジュールである。また、通信部20は、監視領域Rに設置された固定カメラ4から第1撮影画像を受信するためにも利用される。
表示部21は、操作端末2からオペレータ300に提供される視覚的情報を表示するユーザインタフェース装置である。例えば操作端末2は、
図2(a)や
図2(b)に示すように固定カメラ4から送信された第1撮影画像と自律飛行ロボット1から送信された第2撮影画像を表示部21に表示して、オペレータ300に提示する。
【0037】
操作部22は、操作端末2に対するオペレータ300の操作入力を受け付けるユーザインタフェースである。操作部22は、例えばグラフィカルユーザインタフェース(GUI:Graphical User Interface)が表示される表示部21の表示画面に設けられたタッチパネルであってもよく、ボタン、ダイヤル、スライダなどの物理的な操作部材を有してもよい。
【0038】
記憶部25は、ROM、RAM、HDD等の情報記憶装置である。記憶部25は、各種プログラムや各種データを記憶し、制御部24との間でこれらの情報を入出力する。各種データには、例えば監視領域及びその周辺領域の地図情報25aや、自律飛行ロボット1から受信した飛行情報25b等の制御部24の処理に用いられる情報が含まれる。
【0039】
制御部24は、CPU等のプロセッサ、ROM、RAM等の周辺機器を備えたコンピュータである。制御部24のプロセッサは、記憶部25に格納されたコンピュータプログラムを実行することにより、以下に説明する制御部24の機能を実現する。
制御部24は、制御情報生成部24a、飛行情報取得部24b、撮影画像受信部24c、画像出力部24d、目標位置設定部24e、出動制御部24f、画像認識部24g、選択受付部24h、追跡制御部24i、及び調整制御部24jとして機能する。
【0040】
制御情報生成部24aは、自律飛行ロボット1を手動で操縦する場合に、操作部22に対するオペレータ300の操作入力に基づいて、自律飛行ロボット1の飛行動作を制御するための制御情報を生成する。制御情報生成部24aは、通信部20を介して制御情報を自律飛行ロボット1へ送信する。
飛行情報取得部24bは、自律飛行ロボット1から送信された自律飛行ロボット1の飛行情報25bを取得する。飛行情報取得部24bは、取得した飛行情報25bを記憶部25に格納する。
【0041】
撮影画像受信部24cは、固定カメラ4から送信された第1撮影画像を受信する。また撮影画像受信部24cは、自律飛行ロボット1から送信された第2撮影画像を受信する。
画像出力部24dは、第1撮影画像と第2撮影画像を監視画像として表示部21に出力する。
目標位置設定部24eは、自律飛行ロボット1に追跡させるべき追跡対象200aが監視領域R内に存在し、固定カメラ4が追跡対象200aを撮影した場合に、追跡対象200aに向けて自律飛行ロボット1を飛行させる目標位置を設定する。
【0042】
例えば、監視領域R内の追跡対象200aを固定カメラ4が撮影した場合に、画像出力部24dは、第1撮影画像を表示部21に出力してよい。オペレータ300が第1撮影画像上の追跡対象200aの位置を指示する入力操作(例えばマウスクリックやキーボード操作など)を行うと、目標位置設定部24eは、オペレータ300の入力操作を受け付けて、入力操作によって指示された画像位置を取得してよい。これに代えて目標位置設定部24eは、画像認識処理によって第1撮影画像上の追跡対象200aの画像位置を認識して画像位置を自動設定してもよい。
【0043】
目標位置設定部24eは、固定カメラ4の位置情報と撮影条件(光軸方向及び画角など)に基づいて、取得した画像位置に対応する現実の物理空間上の空間座標を、初期位置として設定してよい。
次に目標位置設定部24eは、設定した初期位置を自律飛行ロボット1の第2撮像装置11で撮影できる自律飛行ロボット1の位置(現実の物理空間上の空間座標)を、目標位置として算出する。
【0044】
例えば目標位置設定部24eは、第2撮像装置11の撮影条件(光軸方向及び画角など)に基づいて目標位置を算出してよい。例えば、第2撮影画像の画像中央に初期位置が写り(すなわち第2撮像装置11の光軸上に初期位置が位置し)、且つ追跡対象200aの位置から所定距離だけ離れた位置を目標位置として設定してよい。
第2撮像装置11の撮影条件が可変制御できる場合には、例えば撮影条件を所定の値(例えば好適な光軸方向や画角など)に設定した場合に初期位置を撮影可能な位置を算出してよい
【0045】
また例えば、目標位置設定部24eは追跡対象200aの移動先の位置や移動範囲を予測してもよい。目標位置設定部24eは、第1撮影画像上で追跡対象200aを検知した位置と予測した移動先の位置の両方を撮影可能な位置を目標位置として算出してもよく、予測した移動範囲全体を撮影可能な位置を目標位置として算出してもよい。
また、目標位置設定部24eは、追跡対象200aを撮影した固定カメラ4の撮影範囲を撮影できる複数の位置(現実の物理空間上の空間座標)のうち、所定の位置(例えば移動障害物が存在しない位置など)を目標位置として設定してもよい。また、目標位置設定部24eは、追跡対象200aを撮影した固定カメラ4の位置から予め設定したプリセット位置(現実の物理空間上の空間座標)を目標位置として設定してもよい。
なお、固定カメラ4の位置、撮影条件、撮影範囲、プリセット位置などの情報は、特許請求の範囲の「設置情報」の一例である。
【0046】
出動制御部24fは、目標位置設定部24eが設定した目標位置まで自律飛行ロボット1を飛行させる出動制御を実行する。出動制御は、自律飛行ロボット1の現在位置から目標位置まで飛行経路を算出し、飛行経路に沿って自律飛行ロボット1を飛行させる制御である。出動制御は、特許請求の範囲の「第1飛行制御」の一例である。
例えば出動制御部24fは、目標位置設定部24eが設定した目標位置を管理装置3の飛行経路設定部31aに送信してよい。飛行経路設定部31aは自律飛行ロボット1の現在位置から目標位置まで飛行経路を算出して自律飛行ロボット1に送信してよい。
【0047】
これに代えて出動制御部24fが自律飛行ロボット1の現在位置から目標位置まで飛行経路を算出して自律飛行ロボット1に送信してもよい。自律飛行ロボット1の飛行制御部13bは、飛行経路設定部31aや出動制御部24fが算出した飛行経路に追従して移動するようモータ15の回転速度を制御する。
なお、自律飛行ロボット1は、通常は格納庫(ドローンポート)の中に格納されていることが多いため、出動制御の開始時点における自律飛行ロボット1の現在位置(出動位置)は、出動位置は格納庫の設置位置となる。しかし、飛行途中に出動制御を開始した場合には、飛行途中の現在位置が出動位置となる。
【0048】
また例えば出動制御部24fは、目標位置設定部24eが設定した目標位置を自律飛行ロボット1の経路探索部13cに送信してもよい。自律飛行ロボット1は、受信した目標位置の情報を目標位置情報14cとして記憶する。経路探索部13cは、自律飛行ロボット1の現在位置から目標位置まで障害物を回避しながら飛行する飛行経路を検索し、飛行制御部13bは、経路探索部13cが探索した飛行経路に沿って飛行するようにモータ15の回転速度を制御する。
【0049】
画像認識部24gは、自律飛行ロボット1の第2撮像装置11が撮影した第2撮影画像に基づいて、自律飛行ロボット1が追跡すべき追跡対象の候補である追跡候補200a~200dを認識する。
選択受付部24hは、画像認識部24gが認識した追跡候補200a~200dの少なくとも一つを追跡対象としてオペレータ300が選択する選択入力を受け付ける。
【0050】
例えば自律飛行ロボット1が出動した場合に、画像出力部24dは、自律飛行ロボット1から受信した第2撮影画像を表示部21に出力してよい。オペレータ300が第2撮影画像上の追跡候補200a~200dのいずれかの画像位置を指示する入力操作(例えばマウスクリックやキーボード操作など)を行うと、選択受付部24hは、指示された画像位置に対応する追跡候補を選択する選択入力として受け付ける。
例えば選択受付部24hは、画像認識部24gが追跡候補200a~200dを認識した画像領域に、追跡候補200a~200dを追跡対象として選択可能であることを表す選択枠などのマークを表示してもよい。画像出力部24dは、マークに対応する第2撮影画像上の画像位置を指示する入力操作を受け付けてよい。
【0051】
なお、選択受付部24hは、自律飛行ロボット1が目標位置に到着したときに撮影された第2撮影画像から認識された追跡候補を、オペレータ300により選択可能とする(例えば選択枠などのマークを表示する)だけでなく、目標位置への到着する前に撮影された第2撮影画像から画像認識部24gが認識した追跡候補を、オペレータ300により選択可能としてもよい。また、目標位置への到着前後に関わらず、目標位置から所定範囲内の位置において第2撮影画像から画像認識部24gが認識した追跡候補を、オペレータ300により選択可能としてもよい。ここで所定範囲は、予め設定された固定値であってもよいし、追跡対象200aの移動速度や移動方向などに基づいて移動範囲を予測し、予測結果に基づいて動的に設定してもよい。これにより、自律飛行ロボット1が目標位置へ移動している間に、追跡対象200aが目標位置から離れても、目標位置付近において自律飛行ロボット1が撮影した第2撮影画像から追跡対象200aを選択することができる。
【0052】
追跡制御部24iは、選択された追跡対象200aを追跡するように自律飛行ロボット1に飛行させる追跡制御を実行する。追跡制御は、追跡対象200aが第2撮影画像における画像中央に所定の大きさで撮影するように、自律飛行ロボット1を飛行させる制御である。追跡制御は、特許請求の範囲の「第2飛行制御」の一例である。
例えば、追跡制御部24iは、第2撮影画像上で追跡対象200aを認識した画像位置と、自律飛行ロボット1の現在位置及び現在姿勢と、第2撮像装置11の撮影条件とに基づいて、追跡対象200aの位置(現実の物理空間上の空間座標)を算出してよい。
【0053】
追跡制御部24iは、算出した追跡対象200aの位置に基づいて、追跡対象200aを第2撮影画像の画像中央に所定の大きさで撮影できる自律飛行ロボット1の位置(現実の物理空間上の空間座標)と姿勢を目標位置及び目標姿勢として算出してよい。追跡制御部24iは、自律飛行ロボット1が目標位置まで飛行して目標姿勢となるように自律飛行ロボット1を制御する。
【0054】
例えば、追跡制御部24iは、算出した目標位置を管理装置3の飛行経路設定部31aに送信してよい。飛行経路設定部31aは自律飛行ロボット1の現在位置から目標位置まで飛行経路を算出して自律飛行ロボット1に送信してよい。自律飛行ロボット1の飛行制御部13bは、飛行経路設定部31aが算出した飛行経路に追従して移動するようモータ15の回転速度を制御する。
【0055】
これに代えて追跡制御部24iは、自律飛行ロボット1の現在位置から目標位置まで飛行経路を算出して自律飛行ロボット1に送信してもよく、算出した目標位置を自律飛行ロボット1の経路探索部13cに送信してもよい。
さらに、追跡制御部24iは、算出した目標姿勢を自律飛行ロボット1に送信してもよい。自律飛行ロボット1の飛行制御部13bは、目標位置における自律飛行ロボット1の姿勢が目標姿勢となるようにモータ15の回転速度を制御する。
【0056】
なお、選択受付部24hは、第2撮影画像上で認識した追跡候補のうち、追跡対象として選択可能な追跡候補と選択できない追跡候補とを区別してよい。選択受付部24hは、追跡対象として選択可能な追跡候補に対する選択入力のみを受け付け、選択できない追跡候補に対する選択入力を禁止してよい。
【0057】
例えば、目標位置設定部24eは、画像認識処理により第1撮影画像にて追跡対象200aを認識して、第1撮影画像上の追跡対象200aの画像位置に対応する現実の物理空間上の空間座標を、初期位置として設定してよい。画像認識部24gは、第1撮影画像上で認識した追跡対象200aの種別(例えば人物、車両、動物など)を画像認識処理により認識してよい。また、画像認識部24gは、第2撮影画像上で認識した追跡候補200a~200dの種別(例えば人物、車両、動物など)を画像認識処理により認識してよい。以下の説明において、第1撮影画像上で認識した追跡対象200aの種別を「第1種別」と表記し、第2撮影画像上で認識した追跡候補200a~200dの種別を「第2種別」と表記することがある。
【0058】
選択受付部24hは、追跡対象200aの第1種別(例えば人物)と等しい第2種別の追跡候補200a~200cを選択可能な追跡候補であると判定し、第1種別と異なる第2種別(例えば車両)の追跡候補200dを選択できない追跡候補であると判定してよい。選択受付部24hは、追跡対象200aの第1種別と等しい第2種別の追跡候補200a~200cのいずれかを選択する選択入力を受け付け、第1種別と異なる第2種別(例えば車両)の追跡候補200dを選択する選択入力を禁止してよい。
【0059】
例えば画像出力部24dは、第2撮影画像上で認識された追跡候補200a~200dのうち、追跡対象として選択可能な追跡候補200a~200cに対して選択可能であることを表す選択枠などのマークを第2撮影画像に付与して、表示部21に監視画像として出力してもよい。画像出力部24dは、特許請求の範囲に記載の「第1画像出力部」の一例である。
【0060】
図6は、表示部21に表示される第2監視画像の第1例の模式図である。画像出力部24dは、追跡候補200a~200dのうち、追跡対象として選択可能であることを表すマークMa~Mcを、第2監視画像上の追跡候補200a~200cの画像位置に対応する位置に付与してよい。例えば画像出力部24dは、追跡対象200aの第1種別(例えば人物)と等しい第2種別の追跡候補200a~200cに対して、選択可能であることを示すマークMa~Mcを付与してよい。
【0061】
例えば、マークMa~Mcは、追跡候補200a~200cを囲む選択枠でもよく、追跡候補200a~200cの画像位置の付近に付与される絵や図形、文字、記号などであってもよい。
選択受付部24hは、マークMa~Mcに対応する第2撮影画像上の画像位置に対するオペレータ300の操作を前記選択入力として受け付ける。
【0062】
例えば選択受付部24hは、マークMa~Mcの画像位置や、マークMa~Mc付近の画像位置を指示する入力操作(例えばマウスクリックやキーボード操作など)を、マークMa~Mcがそれぞれ付された追跡候補200a~200cを選択する選択入力として受け付けてよい。例えばマークMa~Mcが追跡候補200a~200cを囲う選択枠である場合には、選択枠や選択枠内の画像位置を指示する入力操作を、追跡候補200a~200cを選択する選択入力として受け付けてよい。なお、第2監視画像上における追跡候補200a~200cのサイズが小さい場合や、追跡候補200a~200cの移動速度が大きいは、選択枠や選択枠内の画像位置を指示入力しにくい場合がある。そのため、選択枠の外の画像位置を指示する入力操作を、追跡候補200a~200cを選択する選択入力として受け付けてもよい。この場合、指示された画像位置から最も近い選択枠に対応する追跡候補200aが選択されたものとして判定される。
【0063】
また例えば画像出力部24dは、追跡対象として選択できない追跡候補200dに対して、マークMa~Mcと異なる表示様態(例えば色、明度、形状など)のマークを付与した監視画像を表示部21に出力してもよい。例えば画像出力部24dは、追跡対象200aの第1種別と異なる第2種別の追跡候補200dに対して、マークMa~Mcと異なる表示様態のマークを付与してもよい。
選択受付部24hは、追跡対象として選択できない追跡候補200dに対して付与したマークに対する画像位置を指示するオペレータ300の入力操作を禁止してよい。
【0064】
また画像認識部24gは、第1撮影画像上で認識した追跡対象200aの画像特徴と、第2撮影画像上で認識した追跡候補200a~200dの画像特徴を抽出してもよい。
画像認識部24gは、追跡対象200aの画像特徴と追跡候補200a~200dの画像特徴とを比較してもよい。例えば画像認識部24gは、追跡対象200aの画像特徴と追跡候補200a~200dの画像特徴の類似度を求めてもよい。
【0065】
例えば画像認識部24gは、画像特徴の類似度として、追跡対象200a及び追跡候補200a~200dの色、テクスチャ、位置、移動特性(速度や方向)や、追跡対象200a及び追跡候補200a~200dの背景の特徴の類似度を求めてもよい。画像認識部24gは、追跡対象として選択可能な追跡候補200a~200cの画像特徴のみを抽出して追跡対象200aの画像特徴と比較してもよい。
【0066】
画像出力部24dは、画像認識部24gによる画像特徴の比較に応じて、追跡対象として選択可能な追跡候補200a~200cに付与するマークMa~Mcの表示様態を設定してもよい。
図7は、表示部21に表示される第2監視画像の第2例の模式図である。第2撮影画像上の追跡候補200a~200cには選択可能であることを表すマークMa~Mcが付与されている。マークMa~Mcの表示様態は、第1撮影画像上の追跡対象200aの画像特徴と第2撮影画像上の追跡候補200a~200cの画像特徴との間の類似度に応じて異なる表示態様に設定されている。
【0067】
例えば、類似度が高い追跡候補200a~200cに付与するマークMa~Mcほど、より強調して表示してよい。例えば、背景画像に対するマークコントラストを大きくしてもよく、マークの線を太くしてもよく、最も類似度が高い追跡候補に付与するマークや、閾値以上の類似度の追跡候補に付与するマークを点滅させてもよい。
【0068】
さらに、目標位置設定部24eが設定した目標位置に到着した後の自律飛行ロボット1の位置を、画像認識部24gによる画像特徴の比較結果に応じて調整する調整制御を実行してよい。
例えば調整制御は、画像認識部24gによる画像特徴の比較結果に応じて、第1撮影画像上の追跡対象200aの画像特徴と最も類似する画像特徴を有する追跡候補を、第2撮影画像の画像中央に所定の大きさで撮影できるように自律飛行ロボット1を飛行させる制御であってよい。
【0069】
図5の調整制御部24jは、目標位置設定部24eが設定した目標位置に自律飛行ロボット1が到着した後に、第2の目標位置と第2の目標姿勢を設定してよい。
例えば調整制御部24jは、第1撮影画像上の追跡対象200aの画像特徴と最も類似する画像特徴を有する追跡候補を、第2撮影画像の画像中央に所定の大きさで撮影できる自律飛行ロボット1の位置(現実の物理空間上の空間座標)と姿勢を、第2の目標位置及び目標姿勢として算出してよい。
【0070】
調整制御部24jは、自律飛行ロボット1が第2の目標位置まで飛行して目標姿勢となるように自律飛行ロボット1を制御する。
例えば、調整制御部24jは、算出した第2の目標位置を管理装置3の飛行経路設定部31aに送信してよい。飛行経路設定部31aは自律飛行ロボット1の現在位置から第2の目標位置まで飛行経路を算出して自律飛行ロボット1に送信してよい。自律飛行ロボット1の飛行制御部13bは、飛行経路設定部31aが算出した飛行経路に追従して移動するようモータ15の回転速度を制御する。
【0071】
これに代えて調整制御部24jは、自律飛行ロボット1の現在位置から第2の目標位置まで飛行経路を算出して自律飛行ロボット1に送信してもよく、算出した第2の目標位置を自律飛行ロボット1の経路探索部13cに送信してもよい。
さらに、調整制御部24jは、算出した第2の目標姿勢を自律飛行ロボット1に送信してもよい。自律飛行ロボット1の飛行制御部13bは、第2の目標位置における自律飛行ロボット1の姿勢が第2の目標姿勢となるようにモータ15の回転速度を制御する。
【0072】
画像出力部24dは、画像認識部24gが認識した追跡候補の画像領域を第2撮影画像から切り出して、切り出した追跡候補の拡大画像を表示部21に出力してもよい。画像出力部24dは、特許請求の範囲に記載の「第2画像出力部」の一例である。
図8(a)は、操作端末2の表示部21に表示される追跡候補200a~200cの拡大画像の第1例の模式図である。表示部21は複数の表示画面40及び41を備えてもよい。
【0073】
画像出力部24dは、一方の表示画面40に第2撮影画像を表示し、表示画面40とは異なる表示画面41に追跡候補200a~200cの拡大画像42を表示してよい。
図8(b)は、操作端末2の表示部21に表示される追跡候補200a~200cの拡大画像の第2例の模式図である。画像出力部24dは、単一の表示画面40に、第2撮影画像と追跡候補200a~200cの拡大画像42を表示してもよい。
【0074】
図8(a)及び
図8(b)の例において、画像出力部24dは、画像認識部24gが算出した類似度が高い順に、追跡候補200a~200cの拡大画像42の配置順序を決定してもよい。
また、画像出力部24dは、追跡対象として選択可能であることを表すマークを拡大画像42にも付与してもよい。
【0075】
画像出力部24dは、画像認識部24gが算出した類似度に応じて第2撮影画像上の追跡候補200a~200cに付与するマークMa~Mcの表示様態を決定する場合、第2撮影画像に付与するマークMa~Mcと、追跡候補200a~200cの拡大画像42に付与するそれぞれマークとを一致されてもよい。
また選択受付部24hは、追跡候補200a~200cの拡大画像42のいずれかの画像位置を指示するオペレータ300の入力操作(例えばマウスクリックやキーボード操作など)を、追跡候補200a~200cのいずれかを選択する選択入力として受け付けてもよい。
【0076】
図8(c)は、操作端末2の表示部21に表示される追跡候補200a~200cの拡大画像の第3例の模式図である。画像出力部24dは、第1撮影画像と第2撮影画像と追跡候補200a~200cの拡大画像42とを単一の表示画面40に表示してもよい。または、画像出力部24dは
図8(a)に示す表示画面41に、第1撮影画像と追跡候補200a~200cの拡大画像42とを同時に表示してもよい。または、画像出力部24dは、第1撮影画像の追跡対象200aを切り出した拡大画像と第2撮影画像と追跡候補200a~200cの拡大画像42とを単一の表示画面40に表示してもよい。
【0077】
なお、上記説明において操作端末2により実行される自律飛行ロボット1の出動制御、追跡制御、及び調整制御のための処理の一部又は全部を、自律飛行ロボット1や管理装置3が実行してもよい。
例えば、操作端末2の画像出力部24d、目標位置設定部24e、出動制御部24f、画像認識部24g、選択受付部24h、追跡制御部24i、調整制御部24jの機能の一部又は全てを、自律飛行ロボット1の制御部13又は管理装置3の制御部31が実行してもよい。
【0078】
すなわち、自律飛行ロボット1の出動制御、追跡制御、及び調整制御のための処理の一部又は全部を、自律飛行ロボット1と、操作端末2と、管理装置3が分散して実行してもよく、自律飛行ロボット1の通信部12と、操作端末2の通信部20と、管理装置3の通信部30は、処理に必要な情報を互いに送受信してもよい。
【0079】
(動作)
図9は、実施形態の飛行制御方法の一例のフローチャートである。
ステップS1において操作端末2の撮影画像受信部24cは、監視領域Rに設置された固定カメラ4から第1撮影画像を受信する。
ステップS2において画像出力部24dは、第1撮影画像を表示部21に出力する。
【0080】
ステップS3では、第1撮影画像に基づいて自律飛行ロボット1を出動させる目標位置を設定する。例えば目標位置設定部24eは、オペレータ300が第1撮影画像上の追跡対象の位置を指示する入力操作に基づいて目標位置を設定してもよく、画像認識処理によって第1撮影画像上の追跡対象の画像位置を認識して目標位置に設定してもよい。
ステップS4において出動制御部24fは、目標位置設定部24eが設定した目標位置まで自律飛行ロボット1を飛行させる出動制御を実行する。
【0081】
ステップS5において撮影画像受信部24cは、自律飛行ロボット1が撮影した第2撮影画像を受信する。
ステップS6において画像認識部24gは、第2撮影画像に基づいて、自律飛行ロボット1が追跡すべき追跡候補を認識する。
【0082】
ステップS7において選択受付部24hは、画像認識部24gが認識した追跡候補の少なくとも一つを追跡対象としてオペレータ300が選択する選択入力を受け付ける。
ステップS8において追跡制御部24iは、選択された追跡対象を追跡するように自律飛行ロボット1に飛行させる追跡制御を実行する。
その後に処理は終了する。
【0083】
(実施形態の効果)
(1)飛行ロボット制御システム100は、監視領域に設置された固定カメラ4が撮影した第1撮影画像または固定カメラ4の設置情報に基づいて目標位置を設定する目標位置設定部24eと、目標位置まで自律飛行ロボット1を飛行させる第1飛行制御を実行する出動制御部24fと、自律飛行ロボット1が備える第2撮像装置11が撮影した第2撮影画像に基づいて追跡候補を認識する画像認識部24gと、目標位置付近において、画像認識部24gが認識した追跡候補の少なくとも一つを追跡対象としてオペレータが選択する選択入力を受け付ける選択受付部24hと、選択された追跡対象を追跡するように自律飛行ロボット1に飛行させる第2飛行制御を実行する追跡制御部24iと、を備える。
【0084】
このように、自律飛行ロボット1が撮影した第2撮影画像で認識された追跡候補のうちどれを追跡対象200aとすべきかを、人間であるオペレータが選択することにより、自律飛行ロボット1が誤った対象を追跡することを抑制できる。
【0085】
(2)選択受付部24hgが受け付ける選択入力により選択される追跡候補は、自律飛行ロボット1が目標位置へ到着する前に画像認識部24gが認識した追跡候補を含んでもよい。また、選択受付部24hgが受け付ける選択入力により選択される追跡候補は、目標位置から所定範囲内の位置において自律飛行ロボット1が撮影した第2撮影画像について画像認識部24gが認識した追跡候補を含んでもよい。
これにより、自律飛行ロボット1が目標位置へ移動している間に追跡対象が目標位置の近くから離れても、移動途中の自律飛行ロボット1が撮影した第2撮影画像から追跡対象を選択することができる。
【0086】
(3)目標位置設定部24eは、第1撮影画像にて認識した対象物の位置に基づいて目標位置を設定し、画像認識部24gは、対象物の種別である第1種別と、追跡候補の種別である第2種別と、を認識し、選択受付部24hは、第1種別と等しい第2種別の追跡候補を選択する選択入力を受け付けてもよい。
これにより、第1撮影画像にて認識した対象物と異なる追跡候補を追跡対象として選択するのを防止できる。また、第2撮影画像上で追跡候補を選択するオペレータの労力を軽減できる。
【0087】
(4)画像出力部24dは、第2撮影画像上の追跡候補に対して選択可能であることを表すマークを付した監視画像を表示部21に出力してもよい。選択受付部24hは、マークに対応する第2撮影画像上の画像位置に対するオペレータの操作を選択入力として受け付けてもよい。
これにより、第2撮影画像上で追跡候補を選択するオペレータの労力を軽減できる。
【0088】
(5)画像認識部24gは、第1撮影画像にて認識した対象物の画像特徴と、第2撮影画像にて認識した追跡候補の画像特徴と、を比較してもよい。画像出力部24dは、画像認識部24gによる比較結果に応じてマークの表示様態を設定してもよい。
これにより、第1撮影画像にて認識した対象物に類似する追跡候補に対して、より目立つマークを付与できる。
【0089】
(6)調整制御部24jは、目標位置設定部24eが設定した目標位置に自律飛行ロボット1が到着した後に第2の目標位置を設定して、自律飛行ロボット1を第2の目標位置まで飛行させてもよい。画像認識部24gは、第1撮影画像にて認識した対象物の画像特徴と、第2撮影画像にて認識した複数の追跡候補の画像特徴と、を各々比較してもよい。調整制御部24jは、画像認識部24gによる画像特徴の比較結果に応じて第2の目標位置を設定してよい。
これにより、第1撮影画像にて認識した対象物に類似する追跡候補を撮影しやすい位置に自律飛行ロボット1を飛行させることができる。
(7)調整制御部24jは、画像特徴が最も類似する追跡候補が第2撮影画像における画像中央に撮影されるように第2の目標位置を設定してよい。これより、第1撮影画像にて認識した対象物に類似する追跡候補を観察し易い画像を撮影できる位置に自律飛行ロボット1を飛行させることができる。
【0090】
(8)追跡制御部24iは、第2飛行制御として、追跡対象が第2撮影画像における画像中央に撮影されるように自律飛行ロボット1の飛行を制御してもよい。
これにより、第2撮影画像に基づく追跡対象の監視が容易になる。
(9)画像出力部24dは、第2撮影画像から追跡候補の画像領域を切り出した拡大画像を表示部21に出力してもよい。
これによりオペレータは、第2撮影画像から認識した追跡候補を追跡対象として判定し易くなる。
【符号の説明】
【0091】
1…自律飛行ロボット、2…操作端末、3…管理装置、4…固定カメラ、10…位置・姿勢センサ、11…第2撮像装置、12、20、30…通信部、13、24、31…制御部、13a…位置・姿勢算出部、13b…飛行制御部、13c…経路探索部、13d…飛行情報送信部、13e…撮影画像送信部、14、25、32…記憶部、14a…位置・姿勢情報、14b、32b…経路情報、14c…目標位置情報、15…モータ、16…ロータ、21…表示部、22…操作部、24a…制御情報生成部、24b、31b…飛行情報取得部、24c…撮影画像受信部、24d…画像出力部、24e…目標位置設定部、24f…出動制御部、24g…画像認識部、24h…選択受付部、24i…追跡制御部、24j…調整制御部、25a、32a…地図情報、25b、32c…飛行情報、31a…飛行経路設定部