(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025016163
(43)【公開日】2025-01-31
(54)【発明の名称】移動体システム、自律移動方法、自律移動プログラム
(51)【国際特許分類】
G05D 1/43 20240101AFI20250124BHJP
G08G 1/16 20060101ALI20250124BHJP
G08G 5/80 20250101ALI20250124BHJP
【FI】
G05D1/02 H
G08G1/16 C
G08G5/04 A
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2023119264
(22)【出願日】2023-07-21
(71)【出願人】
【識別番号】513203071
【氏名又は名称】ブルーイノベーション株式会社
(74)【代理人】
【識別番号】110004163
【氏名又は名称】弁理士法人みなとみらい特許事務所
(72)【発明者】
【氏名】熊田 雅之
(72)【発明者】
【氏名】千葉 剛
(72)【発明者】
【氏名】ロペス ラファエル ジュリアン クレメンテ
(72)【発明者】
【氏名】アゴスチヌチ マシュー ヘンリー
【テーマコード(参考)】
5H181
5H301
【Fターム(参考)】
5H181AA26
5H181AA27
5H181BB04
5H181BB13
5H181CC04
5H181CC12
5H181CC14
5H181FF04
5H181FF13
5H181FF27
5H181FF33
5H181LL08
5H181LL09
5H301AA06
5H301BB02
5H301BB10
5H301BB14
5H301CC04
5H301CC07
5H301DD06
5H301FF11
5H301GG07
5H301GG09
5H301LL01
5H301LL06
(57)【要約】
【課題】 本発明は、SLAM処理による移動体の自律移動の技術に関する。
【解決手段】 SLAM処理によって自律移動を行う為の移動体システム100である。
移動体システム100は、範囲決定部と取得部とマッピング処理部を備える。
範囲決定部は、移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標値からフィルタ範囲を定義する。
取得部は、移動体の移動中における点群データを取得し、マッピング処理部は、フィルタ範囲によるフィルタリング後の点群データを用いて、マッピング処理を行う。
【選択図】
図1
【特許請求の範囲】
【請求項1】
SLAM処理によって自律移動を行う為の移動体システムであって、
移動体システムは、範囲決定部と、取得部と、マッピング処理部と、を備え、
前記範囲決定部は、移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標値からフィルタ範囲を定義し、
前記取得部は、前記移動体の移動中における点群データを取得し、
前記マッピング処理部は、前記フィルタ範囲によるフィルタリング後の前記点群データを用いて、マッピング処理を行う、
移動体システム。
【請求項2】
前記マッピング処理部は、前記点群データを所定の種別に分類処理し、前記分類処理の結果に基づいて前記点群データを除外して前記マッピング処理を行う、
請求項1に記載の移動体システム。
【請求項3】
前記移動体システムは、更に計測部と推定処理部を備え、
前記計測部は、前記移動体の移動中における気圧を含んだ環境情報を経時的に計測し、
前記推定処理部は、前記環境情報を利用して前記移動体の自己位置を推定処理する、
請求項1に記載の移動体システム。
【請求項4】
前記範囲決定部は、前記地点情報に基づいて、前記移動経路上の複数地点を通る曲線を作成し、
前記曲線上の座標から、前記最大の座標値及び前記最小の座標値を決定する、
請求項1に記載の移動体システム。
【請求項5】
前記地点情報は、前記移動経路の開始点、終了点及び中継点の座標を含み、
前記範囲決定部は、前記地点情報に含まれた複数地点の座標を通る曲線を作成し、前記曲線の導関数から平方根を算出し、
前記平方根によって特定される前記曲線上の座標値及び、前記地点情報に含まれた座標値から、前記最大の座標値及び最小の座標値を決定する、
請求項4に記載の移動体システム。
【請求項6】
前記範囲決定部は、前記最大の座標値及び最小の座標値を決定し、これら座標値から定義される領域にマージンを付加して、前記フィルタ範囲を定義する、
請求項1に記載の移動体システム。
【請求項7】
前記範囲決定部は、3軸方向における前記最大の座標値及び最小の座標値から、3次元の前記フィルタ範囲を定義する、
請求項1に記載の移動体システム。
【請求項8】
前記地点情報は、自律移動の開始地点を含み、
前記取得部は、GNSS座標を取得し、
前記マッピング処理部は、前記点群データの座標値を前記GNSS座標に基づいて、前記移動体を基準としたローカル座標系からグローバル座標系に変換処理し、前記変換処理の結果に基づいてマッピング処理を行う、
請求項1に記載の移動体システム。
【請求項9】
前記地点情報は、自律移動の開始地点を含み、
前記取得部は、GNSS座標を取得し、
前記マッピング処理部は、マッピング処理後における前記点群データの座標値を前記GNSS座標に基づいて、前記移動体を基準としたローカル座標系からグローバル座標系に変換処理する、
請求項1に記載の移動体システム。
【請求項10】
SLAM処理によって自律移動を行う移動体の自律移動プログラムであって、
コンピュータを、範囲決定部と、取得部と、マッピング処理部と、として機能させ、
前記範囲決定部は、前記移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義し、
前記取得部は、前記移動体の移動中における点群データを取得し、
前記マッピング処理部は、所定の条件によるフィルタリング後の前記点群データを用いて、前記フィルタ範囲をマッピング処理する、
自律移動プログラム。
【請求項11】
SLAM処理によって自律移動を行う移動体の自律移動方法であって、
前記移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得するステップと、
前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義するステップと、
前記移動体の移動中における点群データを取得するステップと、
所定の条件によるフィルタリング後の前記点群データを用いて、前記フィルタ範囲をマッピング処理するステップと、を有する、
自律移動方法。
【請求項12】
SLAM処理によって自律飛行を行う飛行体の自律飛行方法であって、
開始地点を含む移動経路となる3点以上の地点について、各地点の3次元座標を含んだ地点情報であって、前記開始地点から見た相対高度が正となる地点情報を登録するステップと、
前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義するステップと、
水面よりも高所を離陸地点として、前記飛行体が自律飛行を開始するステップと、
点群データを取得するステップと、
前記点群データを前記フィルタ範囲によってフィルタリングするステップと、
前記フィルタ範囲によるフィルタリング後の前記点群データを用いて、マッピング処理を行うステップと、を有する、
自律飛行方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、SLAM処理による移動体の自律移動の技術に関する。
【背景技術】
【0002】
近年、ロボットやドローンなどの移動体は、災害調査や各種点検などの用途に利用されている。これらの用途に移動体を利用するためには、当該移動体の自己位置を推定する技術が必要不可欠である。
【0003】
例えば特許文献1には、自己位置を高精度に推定できる移動体が開示されている。本移動体は、撮像部、マスク生成部、特徴量抽出部、自己位置推定部、などを備え、周囲の画像において自己位置を特定するのに有用でない範囲である非特徴領域にマスクを生成する技術が開示されている。
【0004】
この移動体によれば、異なる位置であるにも関わらず周囲に類似した特徴量が多く存在することにより、同一の位置と誤検出され易い環境であっても、区別して高精度に自己位置を推定することができる。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、ドローン等の移動体において自己位置推定を行う手法として、点群データを利用したSLAM処理(自己位置推定と環境MAP作成を同時に行う技術)が知られている。
【0007】
一般的に、移動体において高精度なSLAM処理を行うためには、高性能なマイコン(大きくて重いマイコン)等が必要となる。しかし、大きくて重いマイコンを移動体に搭載すると、飛行距離やバッテリー容量に影響がある。
【0008】
また、特許文献1の技術を利用して画像における非特徴領域にマスクを生成することで誤検出を抑制することができる一方、点群データを利用したSLAM処理を簡易化することはできない。
【0009】
本発明は、上記従来技術の課題に鑑みて行われたものであって、その目的は、SLAM処理による移動体システムの新規な技術を提供することにある。
【0010】
上記課題を解決するために、本発明は、SLAM処理によって自律移動を行う為の移動体システムであって、
移動体システムは、範囲決定部と、取得部と、マッピング処理部と、を備え、
前記範囲決定部は、移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標値からフィルタ範囲を定義し、
前記取得部は、前記移動体の移動中における点群データを取得し、
前記マッピング処理部は、前記フィルタ範囲によるフィルタリング後の前記点群データを用いて、マッピング処理を行う。
【0011】
また、本発明は、SLAM処理によって自律移動を行う移動体の自律移動プログラムであって、
コンピュータを、範囲決定部と、取得部と、マッピング処理部と、として機能させ、
前記範囲決定部は、前記移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義し、
前記取得部は、前記移動体の移動中における点群データを取得し、
前記マッピング処理部は、所定の条件によるフィルタリング後の前記点群データを用いて、前記フィルタ範囲をマッピング処理する。
【0012】
また、本発明は、SLAM処理によって自律移動を行う移動体の自律移動方法であって、
前記移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得するステップと、
前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義するステップと、
前記移動体の移動中における点群データを取得するステップと、
所定の条件によるフィルタリング後の前記点群データを用いて、前記フィルタ範囲をマッピング処理するステップと、を有する。
【0013】
このような構成とすることで、SLAM処理による自律移動の新規な移動体システムを実現することができる。
【0014】
本発明の好ましい形態では、SLAM処理によって自律飛行を行う飛行体の自律飛行方法であって、
開始地点を含む移動経路となる3点以上の地点について、各地点の3次元座標を含んだ地点情報であって、前記開始地点から見た相対高度が正となる地点情報を登録するステップと、
前記地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した前記座標点からフィルタ範囲を定義するステップと、
水面よりも高所を離陸地点として、前記飛行体が自律飛行を開始するステップと、
点群データを取得するステップと、
前記点群データを前記フィルタ範囲によってフィルタリングするステップと、
前記フィルタ範囲によるフィルタリング後の前記点群データを用いて、マッピング処理を行うステップと、を有する。
【0015】
このような構成とすることで、飛行体の自律飛行におけるSLAM処理において、適切な範囲をマッピング処理することができる。
【0016】
本発明の好ましい形態では、前記マッピング処理部は、前記点群データを所定の種別に分類処理し、前記分類処理の結果に基づいて前記点群データを除外して前記マッピング処理を行う。
【0017】
このような構成とすることで、ノイズの影響が抑制された精度の良いマッピング処理を行うことができる。
【0018】
本発明の好ましい形態では、前記移動体システムは、更に計測部と推定処理部を備え、
前記計測部は、前記移動体の移動中における気圧を含んだ環境情報を経時的に計測し、
前記推定処理部は、前記環境情報を利用して前記移動体の自己位置を推定処理する。
【0019】
このような構成とすることで、移動体の移動中における点群データにおいて、ノイズを多く含む水面領域などでも適切な自己位置推定を行うことができる。
【0020】
本発明の好ましい形態では、前記範囲決定部は、前記地点情報に基づいて、前記移動経路上の複数地点を通る曲線を作成し、
前記曲線上の座標から、前記最大の座標値及び前記最小の座標値を決定する。
【0021】
このような構成とすることで、フィルタ範囲を適切に定義することができる。
【0022】
本発明の好ましい形態では、前記地点情報は、前記移動経路の開始点、終了点及び中継点の座標を含み、
前記範囲決定部は、前記地点情報に含まれた複数地点の座標を通る曲線を作成し、前記曲線の導関数から平方根を算出し、
前記平方根によって特定される前記曲線上の座標値及び、前記地点情報に含まれた座標値から、前記最大の座標値及び最小の座標値を決定する。
【0023】
このような構成とすることで、フィルタ範囲を精度良く定義することができる。
【0024】
本発明の好ましい形態では、前記範囲決定部は、前記最大の座標値及び最小の座標値を決定し、これら座標値から定義される領域にマージンを付加して、前記フィルタ範囲を定義する。
【0025】
このような構成とすることで、移動体の自律移動中におけるイレギュラーにも対応することができる。
【0026】
本発明の好ましい形態では、前記範囲決定部は、3軸方向における前記最大の座標値及び最小の座標値から、3次元の前記フィルタ範囲を定義する。
【0027】
このような構成とすることで、3次元方向におけるフィルタ範囲を定義することができる。
【0028】
本発明の好ましい形態では、前記地点情報は、自律移動の開始地点を含み、
前記取得部は、GNSS座標を取得し、
前記マッピング処理部は、前記点群データの座標値を前記GNSS座標に基づいて、前記移動体を基準としたローカル座標系からグローバル座標系に変換処理し、前記変換処理の結果に基づいてマッピング処理を行う。
【0029】
このような構成とすることで、移動体の自律移動中においてグローバル座標系に対応したマッピング処理を行うことができる。
【0030】
本発明の好ましい形態では、前記地点情報は、自律移動の開始地点を含み、
前記取得部は、GNSS座標を取得し、
前記マッピング処理部は、マッピング処理後における前記点群データの座標値を前記GNSS座標に基づいて、前記移動体を基準としたローカル座標系からグローバル座標系に変換処理する。
【0031】
このような構成とすることで、移動体の自律移動中においてグローバル座標系に対応したマッピング処理を行うことができる。
【発明の効果】
【0032】
本発明によれば、所定条件によるフィルタ範囲を定義することで、SLAM処理による移動体システムの新規な技術を提供することができる。
【図面の簡単な説明】
【0033】
【
図1】本発明の一実施形態に係る移動体システムの概略構成図を示す。
【
図2】本発明の一実施形態に係る移動体及び端末装置のハードウェア構成の一例を示す。
【
図3】本発明の一実施形態に係る移動体システムにおける機能ブロック図を示す。
【
図4】本発明の一実施形態に係る移動体における橋梁点検の概略イメージ図を示す。
【
図5】本発明の一実施形態に係る移動体における自律移動の処理手順のフローチャートを示す。
【
図6】本発明の一実施形態に係る地点情報(ウェイポイント)の概略イメージ図を示す。
【
図7】本発明の一実施形態に係るフィルタ範囲の概略イメージ図を示す。
【
図8】本発明の一実施形態に係るバウンディングボックスの一例を示す。
【
図9】本発明の一実施形態に係る橋梁点検における点検経路の概略イメージ図を示す。
【
図10】本発明の一実施形態に係る表示画面の一例を示す。
【発明を実施するための形態】
【0034】
以下、添付図面を参照して、更に詳細に説明する。図面には好ましい実施形態が示されている。しかし、多くの異なる形態で実施されることが可能であり、本明細書に記載される実施形態に限定されない。
【0035】
本実施形態では移動体システムの構成、動作等について説明するが、同様の構成の装置、方法、プログラム、記録媒体等も、同様の作用効果を奏することができる。また、プログラムは、記録媒体に格納されてもよい。この記録媒体を用いれば、例えば端末装置にプログラムをインストールすることができる。ここで、プログラムを記憶した記録媒体は、例えば、CD-ROM、USBメモリ等の非一過性の記録媒体であってもよい。
【0036】
<システム構成>
図1は、本実施形態に係る移動体システムの概略構成図である。移動体システム100は、移動体1及び端末装置5を備える。移動体1は、人の搭乗を伴わないドローンなどの移動体本体2と、センサ及び制御モジュールを有する制御装置3と、カメラ(撮像部)及び当該カメラの姿勢を制御するジンバルを有する撮像装置4と、を備える。
【0037】
なお、移動体1は、ロボットやドローンの他、車両や船舶など広義の意味で自律移動を実現し得る物体を指す。本実施形態における移動体1はドローンである。そのため、本実施形態における移動体1のことを飛行体1と表現し、あるいは移動体本体2のことを飛行体本体2と表現することもある。
【0038】
端末装置5は、ユーザが移動体1を操作すると共に、撮像装置4で撮像した動画や点検状況を確認するために利用される。本実施形態における端末装置5は、タブレット端末である。端末装置5として、スマートフォン、ウェアラブルデバイスなど、実施の形態に合わせて適宜利用することができる。例えば移動体本体2に計測手段や点検手段を備えることで、これら計測手段や点検手段から得られる情報を動画とあわせて端末装置5に表示することもできる。
【0039】
端末装置5には、移動体1の操作や自律移動の設定をするためのアプリケーション(単にアプリとも呼ぶ)が予めインストールさせている。移動体1と端末装置5は、例えば2.4GHz帯、あるいは5.0GHz帯などの移動体用の無線通信によって通信接続される。
【0040】
<ハードウェア構成>
図2は、本実施形態に係る移動体1及び端末装置5のハードウェア構成を示す図である。
図2(a)は、移動体1のハードウェア構成の一例を示す図である。本実施形態における移動体1は、無人で飛行可能なドローンである。移動体1は、移動体本体2の移動動作などを制御する主制御部201と、移動体1の翼部を駆動させ、飛行させるためのモータ202と、主制御部201からの信号に基づいてモータ202への電力供給量を調整するモータコントローラ203と、端末装置5と通信を行うための無線通信部204と、移動体1の位置情報を得るためのGPSやQZSS等のGNSSモジュール205と、記憶部206と、を備える。
【0041】
また、移動体1は、点群データなどを取得するためのセンサ301と、センサ301からの情報に基づいてSLAM処理による安定的な自律移動を制御する制御部302と、橋梁などの撮像対象を撮像する撮像部401と、撮像部401の姿勢を制御するジンバル402と、を備える。
【0042】
図2(b)は、端末装置5のハードウェア構成の一例を示す図である。端末装置5は、処理部501と、記憶部502と、通信部503と、入力部504と、出力部505と、を備える。
【0043】
処理部501は、CPU等の1以上のプロセッサを含み、端末装置5の動作処理全体を制御する。記憶部502は、HDD、SSD、ROM、RAM等であって、処理部501がプログラムに基づき処理を実行する際に利用するデータ等を格納する。
【0044】
通信部503は、ネットワークとの通信を制御する。入力部504はタッチパネル等であって、ユーザによる操作要求を処理部501に入力する。出力部505はディスプレイ等であって、処理部501の処理の結果等を表示する。
【0045】
<機能構成>
図3は、本実施形態に係る移動体1における制御装置3の機能ブロック図である。制御装置3は、取得部31、マッピング処理部32、範囲決定部33、推定処理部34、表示処理部35、を備える。
【0046】
取得部31は、移動体1の移動中に点群データを取得する。本実施形態では、ミリ波レーダーなどのセンサ301を利用して所定範囲の点群データを取得する。なお、センサ301はミリ波レーダーに限定されるものではなく、三次元空間の点群データを取得可能であればどのようなものであっても良い。
【0047】
マッピング処理部32は、点群データを利用してマッピング処理を行う。本実施形態では、マッピング処理部32は後述するフィルタ範囲によるフィルタリング後の点群データを用いて、マッピング処理を行う。また、マッピング処理部32は、点群データを所定の種別に分類処理し、分類処理の結果に基づいた点群データを除外してマッピング処理を行う。
【0048】
マッピング処理部32は、取得部31で取得した点群データの座標値をGNSS座標に基づいて、移動体1を基準としたローカル座標系からグローバル座標系に変換処理し、変換処理の結果に基づいてマッピング処理を行うことができる。また、マッピング処理部32は、マッピング処理後における点群データの座標値をGNSS座標に基づいて、移動体1を基準としたローカル座標系からグローバル座標系に変換処理することもできる。
【0049】
範囲決定部33は、SLAM処理を行う領域として、フィルタ範囲を定義する。本実施形態では、範囲決定部33は移動体の移動経路となる複数の地点について、各地点の座標を含んだ地点情報を取得し、地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した座標値からフィルタ範囲を定義する。
【0050】
また、範囲決定部33は、地点情報に基づいて、移動経路上の複数地点を通る曲線を作成し、この曲線上の座標から最大の座標値及び最小の座標値を決定する。さらに範囲決定部33は、地点情報に含まれた複数地点の座標を通る曲線を作成し、この曲線の導関数から平方根を算出し、平方根によって特定される曲線上の座標値及び、地点情報に含まれた座標値から、最大の座標値及び最小の座標値を決定する。
【0051】
加えて、範囲決定部33は、最大の座標値及び最小の座標値を決定し、これら座標値から定義される領域にマージンを付加してフィルタ範囲を定義することができる。範囲決定部33は、3軸方向における最大の座標値及び最小の座標値から、3次元のフィルタ範囲を定義することもできる。
【0052】
推定処理部34は、移動体1の自己位置を推定処理する。推定処理部34は、GNSSモジュール205やIMU(慣性計測装置)などからの入力情報に基づいて自己位置を推定処理する。本実施形態では、推定処理部34は、移動体1の移動中における気圧を含んだ環境情報を利用して、移動体1の自己位置を推定処理する。
【0053】
表示処理部35は、移動体1の飛行経路や撮像装置4で撮像された動画などを表示処理する。本実施形態では、移動体1の移動経路(点検経路)や撮像装置4による動画などを表示処理し、その表示処理の結果を端末装置5へ送信する。
【0054】
以下、
図4~10を参照して、本実施形態に係る移動体の自律飛行(SLAM処理)について説明する。
【0055】
<移動体システムの概要>
本実施形態に係る移動体システム100は、SLAM処理を利用してドローンなどの移動体1を自律移動させることで、橋梁点検や調査などを実施するものである。具体的には、移動体1は橋梁点検における移動ルートを用いて所定のフィルタ範囲を定義してSLAM処理を行うことで、衝突回避などと共に精度の良い自律飛行を実現するものである。
【0056】
なお、本明細書におけるSLAM処理とは、GNSSやIMUなどを利用して移動体の自己位置を推定(または特定)しながら、同時に点群データなどによるマッピング処理を行うこと、すなわち、自己位置推定と環境マップ作成を同時に行う技術、及びこれと同等の処理を意味する。
【0057】
図4は、本実施形態に係る移動体における橋梁点検の概略イメージ図を示す。同図に示すように本実施形態に係る移動体1は、橋梁10の路面10aに対して反対側(下側)に位置する点検対象12(橋梁下側)を自律飛行により点検するものである。
【0058】
ここで言う点検とは、移動体1が橋梁10の点検対象12を所定の経路で自律移動し、点検対象12の動画(または連続する静止画)を撮像し、その動画を点検作業員などのユーザが目視確認等することである。
【0059】
例えば、移動体1は、点検対象12として橋梁10の下面に位置する配管などの動画を撮像する。点検対象12は複数個所あり、移動体1はこの複数個所にわたる点検経路を自律移動しながら動画を撮像する。なお、点検対象12が1箇所(部分的な点検対象)である場合もある。
【0060】
図4に示すように移動体1は、橋梁10の点検対象12に対して所定の距離及び姿勢を保ちながら、予め定められた移動経路(点検経路)に従って自律移動を行い、撮像装置4によって点検対象12を撮像する。
【0061】
また、実際には移動体本体2の制御のみでは風などの影響によりカメラ(撮像部401)の画角内に点検対象12が収まらないこともある一方、ジンバル402の制御も同時に行うことで、移動体本体2の揺れによるフレームアウトを解決することができる。
【0062】
<移動体の自律移動>
図5には、本実施形態に係る移動体における自律移動の処理手順のフローチャートを示す。S10において、移動体1(制御装置3)の取得部31は、移動中における点群データを取得する。取得部31は、点検の開始地点へ移動する際、又は移動後の予備飛行により点群データを取得することができる。
【0063】
例えば、橋梁点検の開始地点へ移動する前に、予め所定領域の点群データを取得しておくこともできる。なお、例えば移動体1の飛行開始地点までの移動は、端末装置5を利用するユーザによるマニュアル操作で行うこともできる。
【0064】
S11において、マッピング処理部32は点群データを利用して、グローバル座標系のマップを生成する。本実施形態では、取得部31がGNSS座標を取得し、マッピング処理部32は点群データの座標値をGNSS座標に基づいて、移動体1を基準としたローカル座標系からグローバル座標系に変換処理し、変換処理の結果に基づいてマッピング処理を行う。
【0065】
このような処理を行うことで、例えば橋梁下の点検において、移動開始地点を含む移動範囲中の一部だけがGNSS環境であり、他の領域は非GNSS環境であるような移動範囲中であっても、グローバル座標系で指定された飛行経路に基づく自律移動が実現できる。本実施形態における橋梁点検では、移動体1が移動する領域が、移動開始地点以外の一部又は全部が非GNSS環境である。ここで言う移動開始地点は、登録する経路のスタート地点であっても良いし、そこへ向かう任意の地点であっても良い。
【0066】
例えば、取得部31がGNSS座標を取得し、マッピング処理部32はマッピング処理後における点群データの座標値をGNSS座標に基づいて、移動体1を基準としたローカル座標系からグローバル座標系に変換処理することもできる。
【0067】
S12において、範囲決定部33は橋梁点検における地点情報(ウェイポイント)を取得する。地点情報には、移動体1の点検経路(移動経路)となる複数の地点における座標が含まれる。また、この地点情報には自律移動の開始地点の情報が含まれる。
【0068】
図6には、本発明の一実施形態に係る地点情報(ウェイポイント)の概略イメージ図を示す。同図に示すように、地点情報が平面マップ上に示される。地点情報は、橋梁10の点検ルートを示しており、例えば
図6のように河川20に架けられた橋梁10には複数の橋脚14が存在する(
図4も合わせて参照)。
【0069】
地点情報は、移動体1の自律移動による点検中においてこの橋脚14への衝突を回避し、且つ点検対象12を全て網羅するような移動ルートで構成される。詳細は後述するが、本実施形態では移動体1が
図6における開始点(空白の丸部分)から26まで(開始点、中継点、終了点)を順番に移動する。
【0070】
S13において、範囲決定部33は地点情報に基づいてフィルタ範囲を定義する。本実施形態では、範囲決定部33は地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した座標値からフィルタ範囲を定義する。
【0071】
<フィルタ範囲>
ここで、SLAM処理におけるフィルタ範囲について説明する。
図6に示すように移動体1は、点群データを用いて橋梁10周辺のマップ(平面マップ及び/または3Dマップ)を作成し、このマップ上の地点情報を飛行することで橋梁10の点検を行う。この時、移動体1はSLAM処理を行いながら、すなわち、自己位置推定及びマップ作成をしながら飛行をすることになるが、実際には地点情報が含まれる領域以外のマップは橋梁点検には利用されない可能性が高い。
【0072】
また、上述のとおり、広範囲の領域をSLAM処理するためには高性能なマイコン(大きくて重いマイコン)などが必要となり、移動体1の飛行距離やバッテリー容量に影響を与え、その結果、移動体1による適切な橋梁点検が困難な場合もある。
【0073】
そこで本実施形態では、橋梁点検に必要な領域を所定条件によってフィルタリングし、その範囲に絞り込んでSLAM処理を行っている。マッピング処理部は、フィルタ範囲によるフィルタリング後の点群データを用いてマッピング処理を行う。
【0074】
図7には、本発明の一実施形態に係るフィルタ範囲の概略イメージ図を示す。
図7(a)に示すように、地点情報の最大の座標値及び最小の座標値を決定し、決定した座標値からいわゆるバウンディングボックスによりフィルタ範囲40aを定義する。
図7(a)では、A地点とB地点の座標値に基づいたバウンディングボックスを形成してフィルタ範囲40aを定義する。本実施形態におけるバウンディングボックスとは、マップ上の地点情報に基づいた領域を囲む矩形の境界線、及びこれと類似する考え方によって作成される境界線を意味する。
【0075】
例えば、上述したように範囲決定部33は、地点情報に基づいて移動経路上の複数地点を通る曲線、いわゆるベジェ曲線を作成し、この曲線上の座標から最大の座標値及び最小の座標値を決定することもできる。
【0076】
さらに、範囲決定部33は、地点情報に含まれた複数地点の座標を通る曲線(ベジェ曲線)を作成し、曲線の導関数から平方根を算出する。そして平方根によって特定される曲線上の座標値及び地点情報に含まれた座標値から、最大の座標値及び最小の座標値を決定することができる。
【0077】
また、
図7(b)に示すように、
図7(a)のフィルタ範囲40aに対して所定領域のマージン42を設けてフィルタ範囲40bを定義することもできる。範囲決定部33は、最大の座標値及び最小の座標値を決定し、これら座標値から定義される領域にマージンを付加して、フィルタ範囲を定義する。
【0078】
このマージン42は、橋梁点検を適切に行う観点から、
図7(a)のフィルタ範囲40aに対してそれぞれの軸方向に20m~200m程度であることが好ましく、より好ましくは40m~100m程度であることが好適である。本実施形態におけるマージンの領域はそれぞれの軸方向に50m程度である。フィルタ範囲40aにマージン42を付加することで、移動体1の自律移動中におけるイレギュラーや飛行経路の変更などに適宜対応することができる。例えば、GNSSやIMU等によって誤差が生じてしまった場合にも、このマージン42を利用して衝突回避等の対策を行うことができる。
【0079】
例えば、
図7(b)において点検対象に含まれる地点Bの動画を撮像し、その動画を端末装置5によりユーザがリアルタイムで目視確認しているとする。この時、万が一地点Bに異常や違和感が見つかった場合に、ユーザが端末装置5を介して移動体1をマニュアル操作に切り替え、マージン42の領域(地点Bよりも少し先の橋梁領域)も撮像することができる。
【0080】
図8には、本発明の一実施形態に係るバウンディングボックスの一例を示す。
図8(a)~(d)におけるA点、B点、C点は、いずれも同一の地点に位置している。
図8(a)に示すように、A点、B点、C点からそれぞれのX方向及びY方向の座標に応じてバウンディングボックス40cを作成することもできるし、あるいは、
図8(b)に示すように、A点、B点、C点を通るベジェ曲線Sを作成し、この曲線上の座標からバウンディングボックス40dを作成することもできる。
【0081】
さらに本実施形態では、X方向及びY方向とは無関係にバウンディングボックスを作成することもできる。例えば
図8(c)に示すように、A点、B点、C点から最小の面積となるバウンディングボックス40eを作成し、あるいはA点、B点、C点を通るベジェ曲線Sを作成し、この曲線上の座標からX方向及びY方向とは無関係に、必要に応じたバウンディングボックス40fを作成することもできる。
【0082】
また範囲決定部33は、3軸方向における最大の座標値及び最小の座標値から、3次元のフィルタ範囲を定義することもできる。この場合、2次元のフィルタ範囲を定義した後、この2次元のフィルタ範囲に高さ方向の情報を付加することで3次元のフィルタ範囲を定義することができる。
【0083】
例えば、取得部31は、開始地点を含む移動経路となる3点以上の地点について、各地点の3次元座標を含んだ地点情報であって、開始地点から見た相対高度が正となる地点情報を取得(登録)し、範囲決定部33は、地点情報に基づいて、それぞれの軸方向において最大の座標値及び最小の座標値を決定し、決定した座標点からフィルタ範囲を定義することができる。この場合、水面よりも高所が離陸地点となり、離陸地点に基づいて高さ方向の位置情報が特定される。
【0084】
移動経路には、開始地点に加えて、開始地点へ移動する前の開始前地点が含まれても良い。この開始前地点は常にGNSS環境下である一方、当該移動経路に含まれる開始地点、中継地点、終了地点などは、点検現場において非GNSS環境である可能性もあり得る。この開始前地点(開始地点がGNSS環境である場合には開始地点)で得られるGNSS座標を利用して、上述のとおりローカル座標系からグローバル座標系に変換処理し、変換処理の結果に基づいてマッピング処理を行うことができる。
【0085】
S14において、移動体1(制御装置3)の取得部31は移動中におけるフィルタ範囲内の点群データを取得する。そしてS15において、マッピング処理部32は、フィルタ範囲40によるフィルタリング後の点群データを用いてマッピング処理を行う。本実施形態では、これと同時に自己位置推定も行っている(SLAM処理)。
【0086】
<点群データの除外>
橋梁点検を行う場合、その点検対象は河川に架けられた橋梁10であることが多い。そして橋梁点検において移動体1は水面の数メートル上を飛行することになり、例えば移動体1がドローンなどである場合には当該ドローンの飛行動作(
図2のモータ202によるプロペラの動作)による影響で水面が不規則に変動している(水面が揺れている)。そうすると移動体1の下側及びその付近に位置する水面の点群データを取得してもノイズを多く含んでしまうため、精度の良いマッピング処理には利用することができない。
【0087】
そこで、本実施形態におけるマッピング処理部32は、点群データを所定の種別に分類処理し、分類処理の結果に基づいて点群データを除外してマッピング処理を行う。具体的にマッピング処理部32は、水面として分類された点群データや、その他ノイズを多く含む領域の点群データを除外してマッピング処理を行う。当然ながらマッピング処理部32は、フィルタ範囲内において水面に分類された点群データについても除外してマッピング処理を行う。
【0088】
本実施形態では、飛行経路に設定される高度は移動体1の開始地点(または開始地点へ移動する前の所定の地点)における高度に対する相対値(開始地点の高度を基準とした相対値)である。例えば、移動体1に気圧などの環境情報を計測するための計測部を搭載し、計測部が、移動体1の移動中における気圧を含んだ環境情報を経時的に計測する。そして推定処理部34は、環境情報を利用して点群データが除外された領域における移動体1の自己位置を推定処理することができる。
【0089】
このような構成とすることで、移動体1の移動中における点群データにおいて、ノイズを多く含む水面領域などでも適切な自己位置推定(高度情報を含んだ自己位置推定)を行うことができる。例えば、非GNSS環境においても適切な自己位置推定を行うことができる。
【0090】
<橋梁点検>
S16において、地点情報に基づいて、橋梁点検を行う。具体的には
図6に示すように、移動体1は開始地点(空白の丸部分)から次の地点4へ移動し、地点6、地点8という飛行経路で順番に移動していく。なお、本実施形態では説明を分かりやすくするためにフィルタ範囲の外側も表現しているが、実際にはフィルタ範囲のみがマッピング処理されている。
【0091】
そして移動体1が地点10、すなわち橋梁10の下に到達すると、パイプなどの点検箇所(点検対象12)を撮像装置4で撮像し、リアルタイムで端末装置5へ送信する。また、移動体1は、点検対象12である地点10から地点12の移動中も連続的に動画を撮像する。
【0092】
そして地点12へ到達すると、橋脚14を回避するために移動体1は地点14を経て地点16へと移動し、次の点検領域である地点18、地点20へと移動する。このように本実施形態では、自律移動による点検作業に対して障害となり得る橋脚14などの物体を回避しながら移動する。また、移動体1はSLAM処理を行っているので、万が一予期していなかった障害物が生じた際にも当該障害物への衝突回避を行うことができる。
【0093】
S17において、移動体1が点検終了地点まで移動するまでS14~S16までの動作が繰り返される(
図6における地点4~地点26まで順番に移動する)。そして移動体1は点検を終えると、地点22、地点24、地点26へと移動し、その後移動体1は終了地点(
図6では開始地点と同じ、空白の丸部分)へ移動し、橋梁10の点検が終了する。
【0094】
図9には、本発明の一実施形態に係る橋梁点検における点検経路の概略イメージ図を示す。
図9に示すように、移動体1は動画を撮像しながら点検対象12であるA地点からB地点へ移動し、その後に橋脚14を回避するためにC地点を経てD地点へ移動し、その後に点検対象12であるE地点へ移動することで、橋梁10の点検を行うことができる。
【0095】
このように本実施形態では、地点情報を利用して所定条件によるフィルタ範囲40を定義し、そのフィルタ範囲40に従ってSLAM処理による移動を行うことで高速且つ高精度な処理を実現することができる。その結果、ドローンなどの移動体1を、高精度な自律飛行と衝突回避を必要とする橋梁点検などに利用することができる。
【0096】
さらに、本実施形態に係る各工程を経ることで、SLAM処理によって自律移動を行う移動体の自律移動方法、SLAM処理によって自律飛行を行う飛行体の自律飛行方法、及びコンピュータ等に各処理を実行させるための自律移動プログラムなどを実現することができる。
【0097】
<表示例>
図10は、本発明の一実施形態に係る表示画面の一例を示す。
図10に示すように端末装置5の表示画面W10には、点検対象の動画や静止画を示す点検画面W12、地点情報を含んだ平面マップ画面W14、移動経路(移動履歴)と共に移動体1の位置情報を示す3Dマップ画面W16、などが表示処理されている。本実施形態における移動体1の表示処理部35は、これら点検画面W12、平面マップ画面W14、3Dマップ画面W16、などを表示処理し、その表示処理の結果を端末装置5へ送信する。
【0098】
なお、実際には平面マップ画面W14(及び/または3Dマップ画面W16)は、フィルタ範囲として定義された領域のみが表示されることになるが、表示イメージを分かりやすく説明するため、
図10では橋梁10の周辺領域を示している。
【0099】
図10に示すように端末装置5には、点検画面W12が表示処理される。この点検画面W12には、橋梁の下側に位置する配管W12aが鮮明に表示されている。点検作業員がこの点検画面W12を確認することで、遠隔地において適切な点検や検査を行うことができる。
【0100】
また、点検画面W12と、平面マップ画面W14と、3Dマップ画面W16と、を同一画面に同時に表示することで、点検作業員などのユーザは現時点における移動体1の点検状況を正確に把握することができる。
【0101】
さらに、表示画面W10には、移動体1のX方向、Y方向、Z方向、及び移動体本体2の向き(及び姿勢)を示す位置姿勢情報W18、移動体本体2の傾きを示す水平確認情報W20、撮像装置4で撮像された動画を録画(及び静止画を保存)するための保存機能W22、及びメニューボタンW24、設定ボタンW26が表示処理される。ユーザがメニューボタンW24を選択すると、移動体1の操作画面や点検中画面などを選択可能な画面に遷移する(
図10は点検中画面)。設定ボタンW26は、各種設定を行うために設けられている。
【0102】
例えば、設定ボタンW26を押して(タッチして)
図10のW12~W22までを選択することで、表示画面W10には必要に応じた画面等を選択的に表示させることができる。
図10のようにW12~W22までの全ての画面や情報等を表示処理することで、ユーザはそれぞれの関連性等を一目で把握することができ、その結果、現時点における移動体1の移動状況や点検状況をより正確に把握することができる。
【0103】
このように本発明によれば、地点情報を利用して所定条件によるフィルタ範囲40を定義し、そのフィルタ範囲40に従ってSLAM処理を行うことで良好な移動体の自律移動を実現することができる。また、本実施形態では主に橋梁点検における移動体の自律飛行について説明したが、移動体1を他の用途に利用する場合にも本発明と同様の効果を得ることができる。
【符号の説明】
【0104】
1 移動体(飛行体)
2 移動体本体(飛行体本体)
3 制御装置
4 撮像装置
5 端末装置
31 取得部
32 マッピング処理部
33 範囲決定部
34 推定処理部
35 表示処理部
10 橋梁
10a 路面
12 点検対象
14 橋脚
20 河川
40 フィルタ範囲
42 マージン
100 移動体システム
201 主制御部
202 モータ
203 モータコントローラ
204 無線通信部
205 GNSSモジュール
206 記憶部
301 センサ
302 制御部
401 撮像部
402 ジンバル
501 処理部
502 記憶部
503 通信部
504 入力部
505 出力部
W10 表示画面
W12 点検画面
W14 平面マップ画面
W16 3Dマップ画面
W18 位置姿勢情報
W20 水平確認情報
W22 保存機能
W24 メニューボタン
W26 設定ボタン