IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 財團法人工業技術研究院の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-20
(45)【発行日】2024-08-28
(54)【発明の名称】自動噴霧装置および自動噴霧方法
(51)【国際特許分類】
   B05D 1/02 20060101AFI20240821BHJP
   B05D 3/00 20060101ALI20240821BHJP
   B64U 10/16 20230101ALI20240821BHJP
   B64U 20/87 20230101ALI20240821BHJP
   G05D 1/46 20240101ALI20240821BHJP
   H04N 23/69 20230101ALI20240821BHJP
   H04N 23/695 20230101ALI20240821BHJP
   B05B 12/00 20180101ALI20240821BHJP
   B05B 12/08 20060101ALI20240821BHJP
   B05B 12/02 20060101ALI20240821BHJP
   B05B 17/00 20060101ALI20240821BHJP
   B64U 101/29 20230101ALN20240821BHJP
   B64U 101/45 20230101ALN20240821BHJP
【FI】
B05D1/02 B
B05D3/00 D
B64U10/16
B64U20/87
G05D1/46
H04N23/69
H04N23/695
B05B12/00 A
B05B12/08
B05B12/02
B05B17/00
B64U101:29
B64U101:45
【請求項の数】 13
【外国語出願】
(21)【出願番号】P 2022204179
(22)【出願日】2022-12-21
(65)【公開番号】P2024089058
(43)【公開日】2024-07-03
【審査請求日】2023-04-17
(73)【特許権者】
【識別番号】390023582
【氏名又は名称】財團法人工業技術研究院
【氏名又は名称原語表記】INDUSTRIAL TECHNOLOGY RESEARCH INSTITUTE
【住所又は居所原語表記】No.195,Sec.4,ChungHsingRd.,Chutung,Hsinchu,Taiwan 31040
(74)【代理人】
【識別番号】110000408
【氏名又は名称】弁理士法人高橋・林アンドパートナーズ
(72)【発明者】
【氏名】イェ シンティエン
(72)【発明者】
【氏名】ジャン イウヂィエ
(72)【発明者】
【氏名】ホセ フェリペ マノサルバス バンション
(72)【発明者】
【氏名】ウェン シェン ファン
(72)【発明者】
【氏名】リン チァンシュアン
(72)【発明者】
【氏名】チェン クゥァンファ
【審査官】清水 晋治
(56)【参考文献】
【文献】国際公開第2020/066889(WO,A1)
【文献】国際公開第2020/075562(WO,A1)
【文献】特開2021-098185(JP,A)
【文献】特開2021-017183(JP,A)
【文献】特表2022-524822(JP,A)
【文献】特開2019-089470(JP,A)
【文献】米国特許出願公開第2018/0043386(US,A1)
【文献】米国特許出願公開第2018/0369847(US,A1)
【文献】米国特許出願公開第2017/0129605(US,A1)
【文献】吉田樹立、外6名,構造物の点検・補修を目指した吹付ドローンのための半自律飛行,日本ロボット学会誌,日本,2021年, Vol.39, No.8,pp.759-762
(58)【調査した分野】(Int.Cl.,DB名)
B05D 1/00-7/26
B05B 12/00-12/08
17/00-17/08
B64D 1/18
B64C 25/32
27/08
39/02
B64F 3/00
H04N 23/69ー23/695
G05D 1/46
B64U 10/16
B64U 20/87
B64U 101/29
B64U 101/45
(57)【特許請求の範囲】
【請求項1】
噴霧装置およびカメラに適用可能であり、処理制御装置によって実行される自動噴霧方法であって、
前記噴霧装置および前記カメラが少なくとも1台の無人航空機に配置され、
前記自動噴霧方法は、
前記カメラを通して画像データを取り込むこと、
前記画像データに対して画像認識を行うこと、
前記画像認識の結果に基づいて対象噴霧軌跡を決定し、前記対象噴霧軌跡は複数の座標データから構成されること、
前記複数の座標データを、前記カメラと前記画像認識の結果に対応する対象物との間の距離に応じた複数の第1の制御データにそれぞれ変換し、前記複数の第1の制御データのそれぞれは、前記噴霧装置の第1の回転軸の回転角度、または/および、第2の回転軸の回転角度に対応するデータを含むこと、
少なくとも、予め記憶された反動力モデルまたは前記少なくとも1台の無人航空機の慣性情報に従って、第2の制御データを生成すること、および、
前記複数の第1の制御データおよび前記第2の制御データに従って、前記対象物に対して噴霧作業を行うように、前記噴霧装置および前記少なくとも1台の無人航空機を制御すること、
を含み、
前記画像認識の結果は前記対象物に対応するバウンディングボックスを含み、
前記画像認識の結果に基づいて前記対象噴霧軌跡を決定することは、
プリセット時間分または前記バウンディングボックスの領域に従って、対象時間分を取得すること、および、
対象噴霧軌道を形成するために前記バウンディングボックス内の複数の座標点を計画すること、
を含み、
前記対象噴霧軌跡は経路長を有し、前記第1の制御データは、前記経路長を前記対象時間分で除算して取得された値以上となる制御経路速度をさらに含む、
自動噴霧方法。
【請求項2】
前記画像認識は、
前記対象物を認識すること、および
所定時間間隔で前記対象物をフレーミングすること、
を含み、
前記自動噴霧方法は、
前記対象物を認識できない、または、前記対象物を前記所定時間間隔でフレーミングできないとき、前記処理制御装置により前記少なくとも1台の無人航空機を制御して、前記カメラの撮影範囲を調整し、前記画像データの取り込みおよび前記画像認識を再実行すること、
を含む、
請求項1に記載の自動噴霧方法。
【請求項3】
前記カメラは、前記少なくとも1台の無人航空機の飛行方向に沿って画像を取り込むように構成され、前記カメラの前記撮影範囲を調整するために前記少なくとも1の無人航空機を制御する処理は、
前記対象物を認識できないとき、前記少なくとも1台の無人航空機の飛行方向を調整すること、および、
前記対象物が前記所定時間間隔でフレーミングできないとき、前記少なくとも1台の無人航空機の現在の地理的位置を調整して、前記対象物のプリセット地理的位置に近づけること、
を含む、
請求項2に記載の自動噴霧方法。
【請求項4】
前記複数の座標データのそれぞれは、第1の軸座標及び第2の軸座標を含み、
前記複数の座標データを前記複数の第1の制御データに変換することは、前記複数の座標データのそれぞれについて、
前記第1の軸座標および前記距離を用いて、第1の逆三角関数値を算出すること、
前記第1の軸座標、前記第2の軸座標および前記距離を用いて、第2の逆三角関数値を算出すること、
前記第1の逆三角関数値に応じて前記第1の回転軸の回転角度を算出すること、および、
前記第2の逆三角関数値に応じて前記第2の回転軸の回転角度を算出すること、
を実行することを含む、
請求項1に記載の自動噴霧方法。
【請求項5】
前記噴霧装置および前記少なくとも1台の無人航空機を制御して噴霧作業を実行した後に、前記カメラによって取り込まれた別の画像データに基づいて前記処理制御装置によって、
前記対象物が所定の清浄度に合致するか否かを判定すること、
前記対象物が前記所定の清浄度に合致しないとき、1つ以上の汚れ座標位置を取得すること、
前記1つ以上の汚れ座標位置をそれぞれ1つ以上の第3の制御データに変換すること、および、
前記1つ以上の第3の制御データに従って、前記対象物に対して別の噴霧作業を行うように前記噴霧装置を制御すること、
を実行することをさらに含む、
請求項1に記載の自動噴霧方法。
【請求項6】
前記少なくとも1台の無人航空機は、流量センサをさらに備え、
前記噴霧装置は、噴霧方向に向かって前記噴霧作業を行うように構成され、
前記自動噴霧方法は、前記処理制御装置によって、
前記噴霧装置が前記噴霧作業を行うとき、前記流量センサを介して流量データを取得すること、
前記流量データおよび前記予め記憶された反動力モデルに従って、前記第2の制御データを生成すること、および、
前記第2の制御データに従って前記少なくとも1台の無人航空機を制御すること、
を実行することをさらに含み、
前記第2の制御データは前記噴霧方向と反対方向を有する加速度を含む、
請求項1に記載の自動噴霧方法。
【請求項7】
前記流量データは、水の出口流量を含み、
前記予め記憶された反動力モデルは、次式で表され、


「F(t)」は反動力を示し、「Fb」は予め設定された流体密度、水の出口流量、水の出口流速の積を示し、「t」は時間変数を示し、「T」は予め設定された時定数を示し、水の出口流速は水の出口流量に基づいて算出される、
請求項6に記載の自動噴霧方法。
【請求項8】
前記噴霧装置および前記少なくとも1台の無人航空機を制御して噴霧作業を実行した後に、前記カメラによって取り込まれた別の画像データに基づいて前記処理制御装置によって、
前記対象物が三次元の隠れた構造を有するか否かを決定すること、
前記三次元の隠れた構造の位置に応じて、前記噴霧装置の噴霧方向および/または前記少なくとも1台の無人航空機の位置を制御し、前記対象物が前記三次元の隠れた構造を有すると決定したとき、別の噴霧作業を実行すること、
を実行することをさらに含む、
請求項1に記載の自動噴霧方法。
【請求項9】
少なくとも1台の無人航空機と、
前記少なくとも1台の無人航空機に配置され、ロッドと、ノズルと、液体ポンプとを備え、前記ノズルは、前記ロッドに回転可能に接続され、前記ノズルと前記ロッドとの接続点を回転支点として第1の回転軸または/および第2の回転軸に沿って回転するように制御され、前記液体ポンプは、前記ノズルに接続され、前記ノズルに液体を供給するように制御されている噴霧装置と、
前記少なくとも1台の無人航空機に配置され、画像データを取り込むように構成されたカメラと、
前記少なくとも1台の無人航空機、前記噴霧装置および前記カメラに接続され、前記画像データに対して画像認識を行い、前記画像認識の結果に基づいて、複数の座標データからなる対象噴霧軌道を決定し、前記カメラと前記画像認識の結果に対応する対象物との間の距離に応じて、前記複数の座標データをそれぞれ複数の第1の制御データに変換し、少なくとも予め記憶された反動力モデルまたは前記少なくとも1台の無人航空機の慣性情報に従って第2の制御データを生成し、前記複数の第1の制御データ及び前記第2の制御データに従って、前記ノズル、前記液体ポンプ及び前記少なくとも1台の無人航空機を制御して前記対象物に対して噴霧作業を実行させる処理制御装置と、
を含み、
前記第1の制御データのそれぞれは、前記第1の回転軸の回転角度または/および前記第2の回転軸の回転角度に対応するデータを含み、
前記画像認識の結果は、前記対象物に対応するバウンディングボックスを含み、
前記処理制御装置は、さらに、プリセット時間分または前記バウンディングボックスの領域に応じて対象時間分を取得し、前記バウンディングボックス内の複数の座標点を計画し、対象噴霧軌道を形成するように構成され、
前記対象噴霧軌道は経路長を有し、前記第1の制御データは制御経路速度をさらに有し、前記制御経路速度は経路長を前記対象時間分で除算して取得された値以上となる、
自動噴霧装置。
【請求項10】
前記処理制御装置は、前記対象物を認識し、前記画像データ上で所定時間間隔にわたって前記対象物をフレーミングするようにさらに構成され、前記処理制御装置が前記対象物を認識できないとき、または、前記所定時間間隔でフレーミングできないとき、前記処理制御装置は、前記少なくとも台の無人航空機を制御し、前記カメラの撮影範囲を調整し、前記画像データの取り込みおよび前記画像認識を再実行するようにさらに構成されている、
請求項9に記載の自動噴霧装置。
【請求項11】
前記処理制御装置によって生成された前記複数の座標データのそれぞれは、第1の軸座標および第2の軸座標を含み、
前記処理制御装置は、前記複数の座標データのそれぞれについて、前記第1の軸座標および前記距離を用いて第1の逆三角関数値を算出すること、前記第1の軸座標、前記第2の軸座標および前記距離を用いて第2の逆三角関数値を算出すること、前記第1の逆三角関数値に応じて前記第1の回転軸の回転角を算出すること、および、前記第2の逆三角関数値に応じて前記第2の回転軸の回転角を算出することを実行するようにさらに構成される、
請求項9に記載の自動噴霧装置。
【請求項12】
前記処理制御装置は、前記噴霧装置を制御して噴霧作業を行わせた後、前記カメラで取り込まれた別の画像データに基づいて、前記対象物が所定の清浄度に合致するか否かを決定し、前記所定の清浄度に合致しないとき、前記処理制御装置は、1つ以上の汚れ座標位置を取得し、前記1つ以上の汚れ座標位置をそれぞれ1つ以上の第3の制御データに変換し、前記1つ以上の第3の制御データに従って前記噴霧装置が前記対象物に別の噴霧作業を行うように制御するようにさらに構成される、
請求項9に記載の自動噴霧装置。
【請求項13】
前記少なくとも1台の無人航空機に配置され、前記処理制御装置に接続された流量センサをさらに備え、前記噴霧装置は、噴霧方向において前記噴霧作業を行うように構成され、前記噴霧装置が前記噴霧作業を行うとき、前記処理制御装置は、前記流量センサを介して流量データを取得し、前記流量データおよび前記予め記憶された反動力モデルに従って前記第2の制御データを生成し、前記第2の制御データに従って前記少なくとも1台の無人航空機を制御するようにさらに構成され、前記第2の制御データは、前記噴霧方向とは反対の方向を有する加速度を含む、
請求項9に記載の自動噴霧装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、自動噴霧装置および自動噴霧方法に関する。
【背景技術】
【0002】
台湾は海に囲まれている。空気中の湿気や塩分、ホコリは、高圧電力塔や風力発電機のブレード、高層ビルのガラスなど、さまざまな機器の表面に付着しやすくなっている。
【0003】
高所に設置された機器では、従来の手動による噴霧作業は危険であり、通常の噴霧装置では正確な位置合わせが難しく、清掃、消火、害虫駆除などの高所での噴霧作業は時間と手間のかかる作業となる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
したがって、本開示は、自動噴霧装置および自動噴霧方法を提供する。
【課題を解決するための手段】
【0005】
本開示の1つ以上の実施形態によれば、自動噴霧装置は、少なくとも1台の無人航空機(UAV)と、噴霧装置と、カメラと、処理制御装置と、を含む。噴霧装置は、少なくとも1台の無人航空機上に配置され、ロッドと、ノズルと、液体ポンプとを含む。ノズルは、ノズルとロッドとの接続点を回転支点として、第1の回転軸または/および第2の回転軸に沿って回転するように制御される。カメラは、少なくとも1台のUAVに配置され、画像データを取得するように構成される。処理制御装置は、少なくとも1台のUAV、噴霧装置及びカメラに接続され、画像データに対して画像認識を行い、画像認識の結果に基づいて複数の座標データを含む対象噴霧軌跡を決定し、カメラと画像認識の結果に対応する対象物との間の距離に従って、複数の座標データを複数の第1の制御データに変換し、少なくとも予め記憶された反動力モデルまたは少なくとも1台のUAVの慣性情報に従って第2の制御データを生成し、第1の制御データおよび第2の制御データに従ってノズル、液体ポンプおよび少なくとも1台のUAVを制御して対象物に噴霧するように構成される。
【0006】
本開示の1つ以上の実施形態によれば、自動噴霧方法は、噴霧装置と、少なくとも1台の無人航空機(UAV)上に配置されたカメラとに適用され、処理制御装置によって、カメラを通じて画像データを取り込むこと、画像データに対して画像認識を行うこと、画像認識の結果に基づいて対象噴霧軌道を決定し、対象噴霧軌道が複数の座標データから構成されること、複数の座標データを、カメラと画像認識の結果に対応する対象物との間の距離に応じて複数の第1制御データにそれぞれ変換すること、複数の第1制御データがそれぞれ噴霧装置の第1の回転軸の回転角または/および第2の回転軸の回転角に対応するデータを含み、少なくとも予め記憶された反動力モデルまたは少なくとも1台のUAVの慣性情報に従って第2の制御データを生成すること、複数の第1の制御データおよび第2の制御データに従って、噴霧装置および少なくとも1台のUAVを制御して対象物に噴霧作業を実行すること、を含む。
【0007】
以上の説明から、本開示の自動噴霧装置及び自動噴霧方法は、画像認識が可能な処理制御装置を通じて対象物を認識して対象噴霧軌跡を計画し、2つの回転軸を有する噴霧装置を通じて対象噴霧軌跡に従って対象物に噴霧してもよい。散布の効果や精度を向上させ、使用する液体の量を減らすことができ、噴霧作業によって発生する反動力や風などの環境要因によるUAVの揺れを緩衝・補正し、噴霧作業中のUAV全体を安定させることができる。また、本願で開示された自動噴霧装置は、高所に位置する対象物に対する噴霧作業を行うことができる。
【0008】
本開示の内容に関する上記の説明および実施形態に関する以下の図面は、本発明の思想および原理を示し、説明し、本発明の請求項にさらなる説明を提供する役割を果たす。
【図面の簡単な説明】
【0009】
図1】本開示の一実施形態に係る自動噴霧モジュールの概略ブロック図である。
図2】本開示の一実施形態に係る自動噴霧モジュールの噴霧装置の構造を模式的に示す図である。
図3】本開示の一実施形態に係る自動噴霧方法のフローチャートである。
図4a】本開示の一実施形態に係る自動噴霧方法の画像認識の実行を模式的に示す図である。
図4b】本開示の一実施形態に係る自動噴霧方法の画像認識の実行を模式的に示す図である。
図5】本開示の一実施形態による座標変換を行う自動噴霧モジュールを模式的に示す図である。
図6】本開示の一実施形態に係る自動噴霧装置のブロック図である。
図7】本開示の一実施形態に係る自動噴霧装置の構成を模式的に示す図である。
図8】本開示の他の実施形態に係る自動噴霧方法のフローチャートである。
図9】本開示のさらに別の実施形態に係る自動噴霧方法のフローチャートである。
図10a】本開示のさらに別の実施形態に係る自動噴霧方法の噴霧状態を模式的に示す図である。
図10b】本開示のさらに別の実施形態に係る自動噴霧方法の反動力モデルのグラフである。
図11】本開示のさらに他の実施形態に係る自動噴霧方法のフローチャートである。
図12】本開示のさらに別の実施形態に係る自動噴霧方法のフローチャートである。
図13a】本開示のさらに別の実施形態による自動噴霧方法の適用状況を模式的に示す図である。
図13b】本開示のさらに別の実施形態による自動噴霧方法の適用状況を模式的に示す図である 。
【発明を実施するための形態】
【0010】
以下の詳細な説明では、説明のために開示された実施形態の完全な理解を提供するために、様々な実施形態の具体的な詳細が記載されている。明細書に開示された説明、請求項および図面によれば、当業者は、本発明の概念および特徴を容易に理解することができる。以下の実施形態は、本発明の様々な側面をさらに説明するが、本発明の範囲を限定することを意味するものではない。
【0011】
本開示の実施形態に係る自動噴霧モジュールのブロック図である図1を参照し、本開示の実施形態に係る自動噴霧モジュールの噴霧装置の構造を概略的に示す図2を参照する。
【0012】
図1及び図2に示すように、自動噴霧モジュール1は、噴霧装置20、カメラ30及び処理制御装置40を含み、処理制御装置40は、ワイヤを介してまたは無線で噴霧装置20及びカメラ30に接続される。噴霧装置20は、ロッド21と、ノズル22と、液体ポンプ23とを含む。ノズル22は、ロッド21に回転可能に接続されており、ノズル22とロッド21との接続点を回転支点として、第1の回転軸Yまたは/および第2の回転軸Zに沿って回転するよう制御される。液体ポンプ23は、ノズル22に接続され、ノズル22に液体を供給するように制御される。カメラ30は、画像データを取り込むように構成されている。処理制御装置40は、画像データに対して画像認識を行い、画像認識の結果に基づいて対象噴霧軌跡を決定し、対象噴霧軌跡の複数の座標データを第1の制御データに変換し、第1制御データに従って噴霧装置20を制御して対象物Tに対して噴霧作業を行うように構成される。複数の第1制御データの各々は、第1の回転軸Yの回転角度または/および第2の回転軸Zの回転角度に対応するデータを含む。
【0013】
本実施形態では、噴霧装置20のロッド21は、ノズル22が前方に延びて対象物Tに接近するような延長部材であってよい。ノズル22は、金属等の強靭で厚い材料で前径が広く後径が狭い高圧ノズルにして、水の出口の圧力を高めて流速や噴射力を上げるようにしてもよい。液体ポンプ23は、例えば、水用のポンプモータや他の種類の液体を圧送するモータであり、水等の液体を加圧してロッド21に沿ってノズル22に送出し、噴霧するように構成される。具体的には、液体ポンプ23は、液体パイプを介して液体を送出する。図1では、液体ポンプ23がロッド21を介してノズル22に接続されていることが例示的に示されているが、他の実施形態では、液体ポンプ23は、ノズル22に直接接続されていてもよい。また、本開示では、ロッド21およびノズル22の形状や材質は限定されず、ノズル22とロッド21との間の接続点が回転支点となるため、ノズル22が第1の回転軸Yまたは/および第2の回転軸Zに沿って回転することができ、回転を発生する。具体的には、ノズル22は、2つの回転軸を介してロッド21に回動可能に連結されていてよく、2つの回転軸は、それぞれ第1の回転軸Yおよび第2の回転軸Zに対応する。より具体的には、ノズル22は、ロッド21の2つの回転軸のそれぞれに対して、90度の回転角度範囲を有する。
【0014】
カメラ30は、画像撮影機能又は動画撮影機能を有するカメラであってもよく、噴霧装置20のノズル22に隣接して配置されてもよい。具体的には、上記ノズル22の回転自由度における噴霧範囲は、回転角度が-45度~45度、噴霧半径が1.5m~2.5mの半径方向の有効領域などであってもよく、カメラ30が取り込む画像データも有効領域をカバーしていてもよい。処理制御装置40は、画像認識の1つ以上のニューラルネットワークを実行するための人工知能アルゴリズムが予め記憶された演算装置であってもよく、例えば、マイコンであってもよい。例えば、処理制御装置40は、Jetson Nanoを通じて実装されてもよい。具体的には、上記ニューラルネットワークは、Unetモデルなどの画像分割のためのニューラルネットワークや、畳み込みニューラルネットワーク(CNN)、残差ニューラルネットワーク(ResNet)などの物体認識のためのニューラルネットワークを含んでもよく、本開示は、特定の種類のニューラルネットワークに限定されない。図2において、カメラ30は、対象物Tの画像を取り込むために、画像データを処理制御装置40に送信し、処理制御装置40は、画像データに応じて、ノズル22の噴霧方向(回転角度)、液体ポンプ23の水圧、弁開閉を制御してもよい。液体は、ノズル22からロッド21を介して対象物22に噴霧されてもよい。処理制御装置40の詳細な制御方法については、以下で説明する。
【0015】
図1と共に図3を参照すると、図3は、本開示の実施形態に係る自動噴霧方法のフローチャートである。図3に示すように、少なくとも1つのキャリアに配置された噴霧装置20及びカメラ30に適用される自動噴霧方法は、処理制御装置40でステップS10~S15を実行することを含む。少なくとも1つのキャリアは、少なくとも1台のUAVを含んでもよい。
【0016】
ステップS10において、処理制御装置40は、カメラ30を介して画像データを取り込む。ステップS11において、処理制御装置40は、画像データに対して画像認識を実行する。ステップS12において、処理制御装置40は、画像認識の結果に基づいて対象噴霧軌跡を決定し、対象噴霧軌跡は、複数の座標データを含む。ステップS13において、処理制御装置40は、カメラ30と画像認識の結果に対応する対象物Tとの間の距離に応じて、複数の座標データを複数の第1の制御データにそれぞれ変換し、複数の第1の制御データは、噴霧装置20の第1の回転軸の回転角度または/および第2の回転軸の回転角度に対応するデータからそれぞれ構成される。ステップS14及びS15において、処理制御装置40は、少なくとも予め記憶された反動力モデル又は少なくとも1台のUAVの慣性情報に従って第2の制御データを生成し、第1の制御データ及び第2の制御データに従って、対象物Tに対して噴霧軌跡を終えるまで噴霧装置20及び少なくとも1台のUAVを制御する。
【0017】
上記のステップをさらに説明するために、図1図3図4aおよび図4bを合わせて参照されたい。図4a及び図4bは、本開示の実施形態に係る自動噴霧方法の画像認識の実行を模式的に示す図である。図4aに示すように、ステップS10において、カメラ30は、間隔をおいて画像データを取り込み、または、処理制御装置40によって制御されて画像を取り込み、画像データを処理制御装置40に送信してもよい。ステップS11において、処理制御装置40は、画像データを受信し、画像認識を実行してもよい。具体的には、処理制御装置40は、Unet等のニューラルネットワークにより画像データを複数のバウンディングボックスに分割し、ResNet等のニューラルネットワークによりバウンディングボックスの中に対象画像TIを含むバウンディングボックスFAがあるかどうかを認識し、すなわち、対象物Tを認識できるかどうかを決定してよい。そして、処理制御装置40は、判定結果がYESの場合、対象画像TIを含むバウンディングボックスFAが所定時間間隔持続可能か否か、つまり、対象物Tを所定時間間隔で、フレーミング可能か否かを決定する。対象物Tを認識でき、かつ、対象物Tを所定時間間隔でフレーミング可能な場合、処理制御装置40は、ステップS12の実行に進み、対象噴霧軌跡を決定する。処理制御装置40は、対象物Tを認識できない場合や所定時間間隔でフレーミング可能でない場合には、噴霧装置20とカメラ30とが設けられたキャリアを制御してカメラ30の撮影範囲を調整し、再度画像データの取り込みと画像認識とを実行すればよい。特に、図3に示すステップを実行する前に、自動噴霧モジュール1と対象物Tの構成は、自動噴霧モジュール1が対象物Tを取り込み、かつ、認識できるように、予め配置されていてもよい。あるいは、自動噴霧モジュール1はキャリアに搭載され、測位システムを介して、対象物Tを撮影できる特定の領域に移動されてもよい。
【0018】
より具体的には、上記認識用ニューラルネットワークは、異なる種類の物体の複数の画像データを用いて予め学習されてもよく、または、対象物Tの複数の画像データを用いて学習されてもよい。各画像データは、異なる割合の色画素(RGB)を含み、すなわち、各画像は、第1行列が赤画素(R)に、第2行列が緑画素(G)に、第3行列が青画素(B)に対応する3つの行列の重畳とみなすことができる。処理制御装置40またはシステム外部の演算装置(コンピュータ、サーバ等)は、上記3つの行列の画素データを畳み込みニューラルネットワークの入力値として使用し、その後、異なる種類の画像または対象物Tであるかどうかを表す出力値を学習対象値として、ニューラルネットワークが学習過程で各ニューロンの重みを変更して予測精度を高め、学習済みのニューラルネットワークを処理制御装置40に格納しても良い。処理制御装置40は、画像認識の結果として、学習済みのニューラルネットワークを開始て、対象画像TIを含む画像のバウンディングボックスFAを効果的に認識することができる。
【0019】
図4bに示すように、図3のステップS12において、処理制御装置40は、画像認識の結果に基づいて、対象噴霧軌跡TSTを決定してもよい。例えば、処理制御装置40は、バウンディングボックスFAを複数の領域に分割し(または分割せず)、その後、バウンディングボックスFAをカバーするポリライン経路(対象噴霧軌道TST)を計画し、ポリライン経路を複数の座標データとして記録してもよい。ここで、座標データは2次元または三次元座標系に限定されない。図4bは、単に例示的に対象噴霧軌跡TSTを示す。他の実施形態において、対象噴霧軌道TSTは、水平ジグザグ経路、曲線経路などであってもよく、本開示はこれに限定されるものではない。さらに、図4a及び4bは、単に対象物が送電塔の障害物であることを例示的に示しており、本開示の対象物の種類を限定することを意図するものではない。
【0020】
さらに、処理制御装置40は、プリセット時間内またはバウンディングボックスFAの面積に従って対象時間分を求め、バウンディングボックス内の複数の座標点を計画し、対象噴霧軌道TSTを形成してもよい。ここで、対象噴霧軌道TSTは経路長を有し、第1の制御データは、経路長を対象時間分で除算した値以上の制御経路速度を更に含む。例えば、4つの送電塔の障害物ごとに、処理制御装置40は、20秒の清掃時間を決定し、4回往復するポリライン軌道を対象噴霧軌道TSTとして計画してもよい。すなわち、処理制御装置40は、ノズル22が(4つのうち)1つのポリライン軌道を完了する時間が5秒以下となるように制御してよい。また、ノズル22が方向を切り替えるのに時間がかかることを考慮して、制御経路速度は、経路長を対象時間分で除算した値以上とすることが求められる。8つの送電塔の障害物については、処理制御装置40が8つの送電塔の障害物を2つのユニットに分割し、ノズル22を制御して、上記対象噴霧軌跡TSTを2回実行してよく、または、40秒の別の清掃時間を決定し、8つの送電塔の障害物を1ユニットとして扱い、その清掃時間に応じた対象噴霧軌跡TSTを計画してもよく、ここで示された例に限定されない。
【0021】
図1および図3とともに図5を参照すると、図5は、本開示の実施形態に従って座標変換を行う自動噴霧モジュールを概略的に示している。図5の実施形態では、自動噴霧モジュール1がキャリアC上に配置されており、キャリアCは無人航空機(UAV)である。一方、他の実施形態では、自動噴霧モジュール1が複数のUAV上に配置されてもよく、または、自動噴霧モジュール1の処理制御装置40はオンプレミス(on-premise)に配置され、カメラ30および噴霧装置40が少なくとも1台のUAV上に配置されてよく、本開示ではここで示された例に限定されない。図3のステップS13において、処理制御装置40は、画像認識結果に応じて、カメラ30と対象物Tとの間の距離を決定することができる。例えば、処理制御装置40は、バウンディングボックスFAのサイズ及び記憶された対象物Tのサイズを通じて、カメラ30と対象物Tとの間の距離Lを決定してよく、または、処理制御装置40は、対象物Tとその周囲のシーン(scenes)との関係に基づいて、三角測量法を用いてカメラ30と対象物Tとの間の距離Lxを決定してもよい。
【0022】
次に、処理制御装置40は、上記対象噴霧軌跡TSTの複数の座標データに対して、ノズル22の回転支点を原点Oとして、画像平面PL上に位置する複数の座標点P(L,y,z)に対して座標変換を行い、複数の第1の制御データを生成する。あるいは、それぞれが第1の軸座標yおよび第2の軸座標zを含む複数の座標データについて、複数の座標データを複数の第1の制御データに変換することは、座標データそれぞれについて、第1の軸座標yおよび距離Lを用いて第1の逆三角関数値を算出すること、第1の軸座標y、第2の軸座標zおよび距離Lを用いて第2の逆三角関数値を算出すること、第1の逆三角関数値に従って第1の回転軸Yの回転角度θを算出すること、並びに、第2の逆三角関数値に従って第2の回転軸Zの回転角度Φを算出すること、を実行することを含む。上記算出方法は、以下の数1及び数2で表すことができる。ここで、Gはサーボ機構の減速比であり、処理制御装置40に予め記憶しておくことができる。
【0023】
【数1】
【0024】
【数2】
【0025】
それぞれの異なる座標点P(L,y,z)は、第1の回転軸Yの回転角度および/または第2の回転軸Zの回転角度のデータセットに対応することができ、すなわち、2つの回転軸におけるノズル22の回転角度を調整することによって、対応する座標点P(L,y,z)を目標とするように水噴霧を制御することができる。作業噴霧軌跡の座標点P(L,y,z)はフレーム範囲をカバーする2次元画像であるが、噴霧作業の一部では単に1つの回転角度を調整するだけでよい場合もある。すなわち、第1の制御データには2つの回転軸の角度情報が含まれていなくてもよい。一方、処理制御装置40は、2つの回転軸の角度情報と回転行列とを通じて、噴霧装置20の角度を制御することもできる。回転行列は、ノズル22の回転運動(ピッチおよびヨー(pitch and yaw))に対応していてもよく、例えば、回転行列は、以下の数3のように表される。
【0026】
【数3】

【0027】
図3に示すステップS14において、処理制御装置40は、少なくとも予め記憶された反動力モデル、または、UAVの慣性情報に従って第2の制御データを生成し、複数の第1の制御データ及び第2の制御データに従って、対象物Tに対する噴霧作業を行うよう噴霧装置20及びUAVを制御する。具体的には、第1の制御データは、2つの回転軸の回転角度、又は、2つの回転軸の回転角度をモータの動作を制御するための機械語又はアセンブリ言語のデータに変換して得られる制御パラメータであってもよい。第2の制御データは、UAVの重心に対する三次元成分を有する加速度データ(または力データ)および角加速度データ(またはトルクデータ)を含んでもよい。一実施態様において、処理制御装置40は、UAVに配置された機械センサ(慣性測定ユニットなど)の測定データを受信し、測定データに応じてUAVの機体の安定性を制御してもよい。具体的には、噴霧モジュールが噴霧しているとき、UAVに反動力が働き、処理制御装置40は、機体を制御して、反動力と反対方向のバランス力を生成することができる。また、UAVが外部の風力(又はトルク)の影響を受けて空中で移動(または回転)する場合、処理制御装置40は、機体を制御して、対応するバランス力(又はバランストルク)を生成し、噴霧水の強度及び角度を補正(増加又は減少)して精度を高めてもよい。処理制御装置40は、さらに、UAV自体の慣性因子、例えば、重量、形状、重量配分、重心位置、貯水量等をプリセットパラメータに組み込んでもよい。また、UAV内部の水タンク内の水面スロッシング(water surface sloshing)についても、予め記憶された減衰振動モデルを用いて、噴霧作業時の環境因子の影響を低減し、UAVの姿勢をより安定させるための計算を行ってもよい。また、噴霧装置20が対象物Tに対して噴霧作業を行う際に、カメラ30が画像の取り込みを継続し、処理制御装置40が対象物Tのフレーミングを継続してもよい。フレーム範囲内で対象物Tに関するわずかな変位があった場合に、処理制御装置40が第1の制御データまたは/および第2の制御データを調整して、噴霧装置20または/およびUAV自体の制御を調整しても良い。
【0028】
図6及び図7を参照すると、図6は、本開示の一実施形態に係る自動噴霧装置のブロック図であり、図7は、本開示の一実施形態に係る自動噴霧装置の構造を模式的に示す図である。図6及び図7に示すように、自動噴霧装置5は、UAV10と、噴霧装置20と、カメラ30と、処理制御装置40とを含む。噴霧装置20は、ロッド21と、ノズル22と、液体ポンプ23と、を含む。ノズル22は、ロッド21に回転可能に接続されており、ノズル22とロッド21との接続点を回転支点として、第1の回転軸Yまたは/および第2の回転軸Zに沿って回転するように制御される。カメラ30は、UAV10に配置され、画像データを取り込むように構成される。処理制御装置40は、UAV10、噴霧装置20及びカメラ30に接続され、図3に示す自動噴霧方法を実行するように構成され得る。
【0029】
本実施形態の自動噴霧装置5は、図1及び図2に示す自動噴霧モジュール1を搭載したUAV10として理解することができ、関連する重複する説明は省略又は簡潔に記載し、以下の説明は、特に処理制御装置40によるUAV10の制御動作が説明される。本開示の別の実施形態に係る自動噴霧方法のフローチャートである図8を参照すると、図3に示す方法と比較して、ステップS20、S21及びS24~S27は、ステップS10~S15と同様であり、ここでの重複する説明は省略される。本開示における画像認識は、所定時間間隔の間で、対象物を認識し、フレーミングすることを含む。処理制御装置40は、対象物を認識できない場合、又は、所定時間間隔でフレーミングできない場合、UAV10(又は他のキャリア)を制御してカメラ30の取り込み範囲を調整し、すなわち、ステップS23において機体姿勢制御を実行し、ステップS20において画像データの取り込みを実行し、ステップS21において画像認識を再実行する。
【0030】
例えば、処理制御装置40は、所定時間間隔にわたって対象物を認識できない、または、フレーミングできないとき、UAV10に組み込まれた測位装置を自戒して、UAV10と対象物との相対的な地理的位置関係を再計算することができる。UAV10に組み込まれたジャイロスコープを通じてUAV10と対象物との相対的な方向関係を再計算し、それに応じてUAV10の姿勢とカメラ30の撮影範囲とを調節してもよい。すなわち、処理制御装置40が対象物を認識できない場合、UAV10の飛行方向を調整し、処理制御装置40が対象物を所定時間間隔でフレームできない場合、UAV10の現在の地理的位置を調整して対象物のプリセット地理的位置に接近してもよい。さらに、他の実施形態では、機体の位置決めを支援するために画像認識を適用することもできる。例えば、処理制御装置40は、対象物を認識することができるが、所定時間間隔の間、対象物をフレーミングすることができない場合、認識された対象物に向かうようにUAV10の飛行方向を制御してもよく、カメラ30は、UAV10の飛行方向に沿って画像を取り込むように構成される。
【0031】
図6と共に図9図10a及び図10bを参照すると、図9は、本開示のさらに他の実施形態に係る自動噴霧方法のフローチャートであり、図10aは、本開示のさらに他の実施形態に係る自動噴霧方法の噴霧状態を概略的に示し、図10bは、本開示のさらに他の実施形態に係る自動噴霧方法の反動力モデルのグラフである。図9に示すように、本実施形態のステップS30、S31及びS34~S37は、図3に示すステップS10~S15と同じであり、ステップS32及びS33は、図8に示すステップS22及びS23と同じであり、ここでの重複する説明を省略する。
【0032】
本実施形態において、自動噴霧モジュール1が配置されるキャリアはUAV10であってもよく、UAV10は流量センサ(図示せず)をさらに備え、噴霧装置20は噴霧方向に向かって噴霧作業を行い(ステップS36)、処理制御装置40によって自動噴霧方法がさらに実行される。噴霧装置が噴霧作業を行うとき、自動噴霧方法は、流量センサを介して流量データを取得すること、流量データおよび予め記憶された反動力モデルに従って反動力を計算して第2の制御データを生成すること(ステップS37)、および、第2の制御データによってUAVの機体姿勢制御を行うこと(ステップS38およびS39)を含む。ここで、第2の制御データは噴霧方向とは反対の方向を有する加速度を含む。
【0033】
ノズル32の断面構造は、図10aのように示すことができ、水の入口Intの断面積は、水の出口Outの断面積よりも大きくなっている。流体連続方程式によれば、水の出口の流速は、水の入口の流速よりも大きい。また、図10bに示す反動力と時間との関係については、このグラフは、噴霧開始から力が安定する状態までの過程を一次慣性系で記述できると仮定したものであり、結果として反動力モデルは、以下の数4で表される。
【0034】
【数4】
【0035】
「F(t)」は反動力を示し、「Fb」は予め設定された流体密度、水の出口流量及び水の出口流速の積を示し、「t」は時間変数を示す。例えば、処理制御装置40は、ノズル22から流体が噴射される際の経過時間を計測するタイマーを含み、「T」は予め設定された時定数を示し、水出口流速は、水出口流量に基づいて算出される。具体的には、上記流量情報は水の出口流量であり、水の出口流速は水の出口流量を水の出口断面積で除算したものであり、水の出口断面積は処理制御装置40のメモリに予め記憶されている。この反動力モデルを通じて、処理制御装置40は、UAV10を制御して、逆動力で噴霧作業の反動力を打ち消し、機体を安定させる効果を得ることができる。反動力モデルは、数4と異なる式を実現するために、異なる仮定に基づいてもよい。加速度に加えて、回転バランスも、機体を安定させるプロセスにおいて考慮されることが要求される。また、処理制御装置40は、流量情報とUAV10に対するノズル22の位置とに応じて、対応する反対のトルクを発生するようにUAV10を制御してもよく、ここではその詳細な説明を省略する。
【0036】
図3と共に図11を参照すると、図11は、本開示のさらに別の実施形態に係る自動噴霧方法のフローチャートである。図11に示すように、ステップS15の後、処理制御装置40は、カメラ30によって取り込まれた別の画像データに基づいて、ステップS40に示された対象物Tが所定の清浄度レベルに合致するかどうかを決定し、対象物Tが所定の清浄度レベルに合致しない場合に1以上の汚れ座標位置を取得し、ステップS41に示された1以上の汚れ座標位置を1以上の第3の制御データにそれぞれ変換し、1以上の第3の制御データに従って対象物Tに対して別の噴霧作業を実施するよう噴霧装置を制御すること、を実行してもよい。具体的には、ステップS40において、処理制御装置40は、清浄対象物画像を予め記憶しておき、別の画像データと清浄対象物画像とを比較し、2つの画像間の差分ブロックの数又は面積が予め設定された値よりも大きい場合に、所定の洗浄レベルに合致していないと決定してもよい。あるいは、処理制御装置40は、CNN(Convolutional Neural Network)を通じて清浄物体画像と汚損物体画像の分類することを学習し、対象物画像内における対象物が清浄であるか否かを決定することもできる。ステップS41において、汚れの座標位置を第3の制御データに変換する方法は、上記の座標データを第1の制御データに変換する方法と同様であってよく、ここでの重複する説明は省略される。また、ステップS40は、上記ステップS27またはステップS37の後に実行されることもある。
【0037】
図3と共に図12図13a及び図13bを参照する。図12は、本開示のさらに別の実施形態に係る自動噴霧方法のフローチャートであり、図13a及び13bは、本開示のさらに別の実施形態に係る自動噴霧方法の二つの適用場面を模式的に示す図である。上述のステップS15の後、処理制御装置40は、カメラ30によって取り込まれた別の画像データに基づいて、対象物Tが三次元の隠れた構造を有するか否かの決定することと、ノズルの噴霧方向が限界に達するか否かの決定することとを実行してもよい。処理制御装置40は、対象物Tが立体的な隠れた構造を有し、ノズルの噴霧方向が限界に達していると決定した場合、立体的な隠れた構造が露出構造となった後、そのときに別の画像データを取り込むようにキャリアCを制御してカメラ30の撮影範囲を調整し、当該別の画像データの露出構造の1以上の座標位置を1以上の第2の制御データに変換し、1以上の第2の制御データに従って露出構造に対して再度噴霧作業を行うよう噴霧装置を制御する。
【0038】
具体的には、ステップS50において、処理制御装置40は、ニューラルネットワークを通じて対象物が第1の方向(垂直方向)に沿って三次元の隠れた構造を有するかどうかを決定し、ノズル22の噴霧方向が限界に達するかどうかを決定できる。より具体的には、処理制御装置40は、対象物が第1の方向に沿って隠れた構造を有していないと決定した場合、噴霧作業を終了し、処理制御装置40は、対象物が第1の方向に沿って三次元の隠れた構造を有していると決定した場合、まず、ノズル22の噴霧方向を制御及び調整することができ、ノズル22の噴霧方向が限界に達し、対象物がまだ三次元の隠れた構造を有している場合、ステップS51を実行する。ノズル22の噴霧方向を調整する過程で対象物に隠れた構造がない場合は、三次元の隠れた構造への噴霧作業を終了させる。上記ニューラルネットワークは、例えば、CNNやResNetのアルゴリズムであってよく、処理制御装置40やシステム外部の演算装置に予め記憶されており、第1の方向に沿った立体構造を有する対象物の画像と第1の方向に沿った立体構造を有しない対象物の画像を入力して学習する。ステップS51において、処理制御装置40は、第1の方向に沿った機体の位置を調整し、再び噴霧を実行してもよい。図13aに示すように、UAV10は、ノズルの角度を噴霧方向SD1から限界噴霧方向SD2に変更し、バウンディングボックスFA内の対象画像TIの三次元の隠れた構造に対応するように下方に位置を調整し、噴霧した三次元の隠れた構造を露出構造として定義してもよい。すなわち、処理制御装置40は、画像内における三次元の隠れた構造の位置に応じて座標変換を行い、ノズル22の噴霧方向を調整するための別の制御データを取得してもよい。ノズル22の噴霧方向が限界に達した場合、処理制御装置40は、さらにUAV10の位置を制御してもよい。
【0039】
次に、ステップS52において、処理制御装置40は、別のニューラルネットワークを用いて、対象物が第2の方向(水平方向)に沿って別の三次元の隠れた構造を有しているか否かを決定し、ノズル22の噴霧方向が限界に達しているか否かを決定してもよい。具体的には、処理制御装置40が、対象物が第2の方向に沿って隠れた構造を有していないと判断した場合、噴霧作業を終了する。処理制御装置40が、対象物が第2の方向に沿って三次元の隠れた構造を有していると決定した場合、まずノズル22の噴霧方向を制御及び調整し、ノズル22の噴霧方向が限界に達し、対象物がまだ三次元の隠れた構造を有している場合には、次にステップS53を実行してもよい。ノズル22の噴霧方向を調整する過程で対象物に隠れた構造がない場合は、三次元の隠れた構造への噴霧作業を終了する。上記ニューラルネットワークは、例えば、CNNやResNetのアルゴリズムであってよく、処理制御装置40やシステム外部の演算装置に予め記憶されており、第2の方向に沿った三次元の構造を有する対象物の画像と第2の方向に沿った三次元の構造を有さない対象物の画像を入力して学習させる。ステップS53において、処理制御装置40は、第2の方向に沿った機体の位置を調整し、再び噴霧を実行してもよい。図13bに示すように、UAV10は、その位置を横方向に調整し、バウンディングボックスFA内の対象画像TIの三次元の隠れた構造を噴霧し、噴霧された三次元の隠れた構造を露出構造として定義し、ステップS50に戻ってもよい。本実施形態の方法を通じて、噴霧装置は、対象物をより徹底的に噴霧することができる。
【0040】
以上の説明から、本開示の自動噴霧装置及び自動噴霧方法は、画像認識可能な処理制御装置を通じて対象物を認識して噴霧軌跡を計画し、2つの回転軸を有する噴霧装置を通じて噴霧軌跡に従って対象物に噴霧してもよい。噴霧の効果や精度を向上させ、使用する液体の量を減らすことができ、噴霧作業によって発生する反動力や風などの環境因子によるUAVの揺れを緩衝および補償し、噴霧作業中のUAV全体を安定させることができる。また、本願で開示される自動噴霧装置は、高所に位置する対象物に対する噴霧作業を行うことができる。さらに、本願のいくつかの実施形態で開示される自動噴霧装置および自動噴霧方法は、対象物を認識してフレーミングし、それに応じてカメラの撮影範囲を選択的に調整することにより、動的から静的への自動追跡を実現できる。本願のいくつかの実施形態で開示される自動噴霧装置及び自動噴霧方法は、さらに局所的な汚れをロックして噴霧及び洗浄を強化することができ、または/及び、三次元の隠れた構造を認識し、さらに機体及び噴霧方向を調整して対象物に対する種々の噴霧操作の要求を満たすことができる。機体の制御については、本願のいくつかの実施形態に開示された自動噴霧装置及び自動噴霧方法は、噴霧作業によって発生する反動力を計算し、機体にフィードバックすることができるため、UAVはリアルタイムで噴霧作業を安定的に行うことができる。
【0041】
本発明は前述の実施形態で開示されているが、本発明を限定することを意図していない。本発明の思想および範囲から逸脱することなくなされた変更および修正は、本発明の特許保護の範囲に属するものである。本発明によって定義される範囲は、添付の特許請求の範囲に記載される。
【符号の説明】
【0042】
1:自動噴霧モジュール
10:UAV
20:噴霧装置
21:ロッド
22:ノズル
23:液体ポンプ
30:カメラ
40:処理制御装置
5:自動噴霧装置
C:キャリア
FA:バウンディングボックス
Int:水の入口
アウト:水の出口
T:対象物
TI:対象画像
TST:対象噴霧軌跡
S10~S15,S20~S27,S30~S39,S40~S41,S50~S51:ステップ
X,Y,Z:軸
O:原点
P:座標点
PL:画像平面
,y,z:座標
SD1、SD2:噴霧方向
図1
図2
図3
図4a
図4b
図5
図6
図7
図8
図9
図10a
図10b
図11
図12
図13a
図13b