IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

特開2022-12173情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
<>
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図1
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図2
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図3
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図4
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図5
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図6
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図7
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図8
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図9
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図10
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図11
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図12
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図13
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図14
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図15
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図16
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図17
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図18
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図19
  • 特開-情報処理装置、情報処理システム、および情報処理方法、並びにプログラム 図20
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022012173
(43)【公開日】2022-01-17
(54)【発明の名称】情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
(51)【国際特許分類】
   G05D 1/02 20200101AFI20220107BHJP
   G05D 1/00 20060101ALI20220107BHJP
【FI】
G05D1/02 K
G05D1/02 Z
G05D1/00 Z
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2020113814
(22)【出願日】2020-07-01
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100093241
【弁理士】
【氏名又は名称】宮田 正昭
(74)【代理人】
【識別番号】100101801
【弁理士】
【氏名又は名称】山田 英治
(74)【代理人】
【識別番号】100086531
【弁理士】
【氏名又は名称】澤田 俊夫
(74)【代理人】
【識別番号】100095496
【弁理士】
【氏名又は名称】佐々木 榮二
(74)【代理人】
【識別番号】110000763
【氏名又は名称】特許業務法人大同特許事務所
(72)【発明者】
【氏名】李 駿
【テーマコード(参考)】
5H301
【Fターム(参考)】
5H301AA01
5H301AA06
5H301AA10
5H301CC03
5H301CC04
5H301CC06
5H301CC07
5H301CC10
5H301DD01
5H301DD06
5H301DD07
5H301FF11
5H301GG08
5H301GG09
5H301LL01
5H301LL02
5H301LL03
5H301LL06
(57)【要約】
【課題】ドローン等の移動装置の自己位置推定の信頼度を算出して、警告表示や飛行制御を行う構成を実現する。
【解決手段】移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、センサデータ取得部からセンサ検出情報を入力して、移動体の自己位置推定を実行する自己位置推定部と、自己位置推定部において自己位置推定処理が実行された際の周囲の明るさや、カメラ撮影画像の特徴点のスコア等の環境情報を解析する環境情報解析部と、環境情報解析部において解析された環境情報に基づいて、自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有し、算出信頼度に基づいて警告表示や飛行制御を行う。
【選択図】図2
【特許請求の範囲】
【請求項1】
移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有する情報処理装置。
【請求項2】
前記環境情報解析部は、
前記自己位置推定部において自己位置推定処理が実行された際の環境情報として、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報を取得する請求項1に記載の情報処理装置。
【請求項3】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する請求項1に記載の情報処理装置。
【請求項4】
前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の周囲の明るさを解析し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の周囲の明るさが、明るいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する請求項1に記載の情報処理装置。
【請求項5】
前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の特徴点スコアを算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の特徴点スコアが高いほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する請求項1に記載の情報処理装置。
【請求項6】
前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の静的オブジェクトの数、または画像内の静的オブジェクト面積占有率を算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の静的オブジェクトの数、または画像内の静的オブジェクト面積占有率が大きいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する請求項1に記載の情報処理装置。
【請求項7】
前記センサデータ取得部は、
前記センサを構成するGPSの受信信号を入力し、
前記環境情報解析部は、
カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際のGPSの受信したGPS衛星の数を算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際のGPSの受信したGPS衛星の数が大きいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する請求項1に記載の情報処理装置。
【請求項8】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報を入力し、
入力環境情報各々に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出し、
算出した環境情報各々に対応する信頼度の重み付け加算処理を実行して、最終的な推定自己位置信頼度を算出する請求項1に記載の情報処理装置。
【請求項9】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、外部の情報表示部に出力する請求項1に記載の情報処理装置。
【請求項10】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
外部の情報表示部に警告を出力する請求項1に記載の情報処理装置。
【請求項11】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
前記移動体の移動制御を実行する移動体制御部に対して、移動制御を行うように指示を出力する請求項1に記載の情報処理装置。
【請求項12】
前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
前記センサのセンシング方向の制御を行うためのセンシング方向制御情報を前記センサに出力する請求項1に記載の情報処理装置。
【請求項13】
移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムであり、
前記移動装置は、
前記移動装置に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出部を有し、
前記コントローラは、
前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示部と、
前記移動装置の移動ルートを入力可能な操作部と、
前記操作部を介して入力された前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力部を有する情報処理システム。
【請求項14】
情報処理装置において実行する情報処理方法であり、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行する情報処理方法。
【請求項15】
移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムにおいて実行する情報処理方法であり、
前記移動装置において、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出ステップを実行し、
前記コントローラにおいて、
情報表示部が、前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示ステップと、
移動体制御信号出力部が、操作部を介した前記移動装置の移動ルートの入力に応じて、前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力ステップを実行する情報処理方法。
【請求項16】
情報処理装置において情報処理を実行させるプログラムであり、
センサデータ取得部に、移動体に備えられたセンサの検出情報を取得させるセンサデータ取得ステップと、
自己位置推定部に、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行させる自己位置推定ステップと、
環境情報解析部に、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析させる環境情報解析ステップと、
推定自己位置信頼度算出部に、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理システム、および情報処理方法、並びにプログラムに関する。さらに詳細には、例えばドローン等、移動装置の安全な飛行や走行を可能とする情報処理装置、情報処理システム、および情報処理方法、並びにプログラムに関する。
【背景技術】
【0002】
近年、小型の飛行体であるドローンの利用が急激に増加している。例えば、ドローンにカメラを装着し、上空から地上の風景を撮影する処理等に利用されている。また、荷物の配送にドローンを利用することも計画されており、様々な実験が行われている。
【0003】
現在は、多くの国において、人の監視下、すなわち人が目視できる範囲でコントローラを操作してドローンの飛行制御を行うことが求められている。しかし、将来的には、人の目視による監視が不要な自律飛行型ドローン、すなわち、出発地から目的地に向けて自律的に飛行を行うドローンが多く利用されると推定される。
【0004】
このような自律飛行型のドローンは、例えば管制センターとの通信情報やGPS位置情報を利用して、出発地から目的地に向けて飛行する。
【0005】
今後、コントローラで操作するドローンや自律飛行型のドローンが増加するにつれ、ドローンとビルとの衝突や、ドローン同士の衝突、さらにドローンの墜落が発生する可能性も増大することが予想される。
市街地等、多数の車や人が往来する領域で、ドローンが落下すると大きな事故になる可能性もある。
【0006】
ドローンの安全な飛行を行うための構成を開示した従来技術として、例えば、特許文献1(特開2006-064550号公報)がある。
特許文献1は、ドローンと、ドローンを制御するコントローラとの通信が可能な領域を探索して、その領域内での飛行を行う構成を開示している。
【0007】
しかし、この文献に記載の技術は、コントローラによる通信可能な範囲での飛行制御に限られ、自律飛行型のドローンには適用できないという問題がある。
【先行技術文献】
【特許文献】
【0008】
【特許文献1】特開2006-064550号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
本開示は、例えば、上記の問題点に鑑みてなされたものであり、ドローン等の移動装置を、安全に飛行、または走行させることを可能とした情報処理装置、情報処理システム、および情報処理方法、並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本開示の第1の側面は、
移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有する情報処理装置にある。
【0011】
さらに、本開示の第2の側面は、
移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムであり、
前記移動装置は、
前記移動装置に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出部を有し、
前記コントローラは、
前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示部と、
前記移動装置の移動ルートを入力可能な操作部と、
前記操作部を介して入力された前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力部を有する情報処理システムにある。
【0012】
さらに、本開示の第3の側面は、
情報処理装置において実行する情報処理方法であり、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行する情報処理方法にある。
【0013】
さらに、本開示の第4の側面は、
移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムにおいて実行する情報処理方法であり、
前記移動装置において、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出ステップを実行し、
前記コントローラにおいて、
情報表示部が、前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示ステップと、
移動体制御信号出力部が、操作部を介した前記移動装置の移動ルートの入力に応じて、前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力ステップを実行する情報処理方法にある。
【0014】
さらに、本開示の第5の側面は、
情報処理装置において情報処理を実行させるプログラムであり、
センサデータ取得部に、移動体に備えられたセンサの検出情報を取得させるセンサデータ取得ステップと、
自己位置推定部に、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行させる自己位置推定ステップと、
環境情報解析部に、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析させる環境情報解析ステップと、
推定自己位置信頼度算出部に、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行させるプログラムにある。
【0015】
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
【0016】
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【0017】
本開示の一実施例の構成によれば、ドローン等の移動装置の自己位置推定の信頼度を算出して、警告表示や飛行制御を行う構成が実現される。
具体的には、例えば、移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、センサデータ取得部からセンサ検出情報を入力して、移動体の自己位置推定を実行する自己位置推定部と、自己位置推定部において自己位置推定処理が実行された際の周囲の明るさや、カメラ撮影画像の特徴点のスコア等の環境情報を解析する環境情報解析部と、環境情報解析部において解析された環境情報に基づいて、自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有し、算出信頼度に基づいて警告表示や飛行制御を行う。
本構成により、ドローン等の移動装置の自己位置推定の信頼度を算出して、警告表示や飛行制御を行う構成が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
【図面の簡単な説明】
【0018】
図1】ドローンの飛行制御の例について説明する図である。
図2】本開示の情報処理装置の構成例について説明する図である。
図3】カメラ撮影画像からの特徴点の検出処理の一例について説明する図である。
図4】カメラ撮影画像からの人検出処理の一例について説明する図である。
図5】セマンティク・セグメンテーションについて説明する図である。
図6】明るさと自己位置推定誤差の対応関係について説明する図である。
図7】画像平均輝度と推定自己位置信頼度の対応関係について説明する図である。
図8】特徴点スコアと自己位置推定誤差の対応関係について説明する図である。
図9】特徴点スコアと推定自己位置信頼度の対応関係について説明する図である。
図10】静的オブジェクト数と自己位置推定誤差の対応関係について説明する図である。
図11】静的オブジェクト数の対応関係について説明する図である。
図12】信号受信可能なGPS衛星数と自己位置推定誤差の対応関係について説明する図である。
図13】信号受信可能なGPS衛星数と推定自己位置信頼度の対応関係について説明する図である。
図14】情報表示部に対する情報表示例について説明する図である。
図15】情報表示部に対する情報表示例について説明する図である。
図16】情報表示部に対する情報表示例について説明する図である。
図17】情報表示部に対する情報表示例について説明する図である。
図18】情報処理装置が実行する処理シーケンスについて説明するフローチャートを示す図である。
図19】本開示の情報処理システムの構成例について説明する図である。
図20】本開示の情報処理装置のハードウェア構成例について説明する図である。
【発明を実施するための形態】
【0019】
以下、図面を参照しながら本開示の情報処理装置、情報処理システム、および情報処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行なう。
1.ドローンの飛行形態と、本開示の処理の概要について
2.本開示の情報処理装置の構成と実行する処理について
3.本開示の情報処理装置が実行する処理のシーケンスについて
4.外部からドローン制御を行う構成について
5.情報処理装置のハードウェア構成例につい
6.本開示の構成のまとめ
【0020】
[1.ドローンの飛行形態と、本開示の処理の概要について]
まず、図1を参照して、ドローンの飛行形態の例と、本開示の処理の概要について説明する。
【0021】
なお、以下では、自律移動体の一例としてドローンを利用した例について説明するが、本開示の自律移動体は、ドローンに限らず、自動走行ロボット、自動運転車両等、様々な移動体を含むものである。
【0022】
先に説明したように、現在のドローンは、多くの国において人の監視下、すなわち人が目視できる範囲でコントローラを操作して飛行制御を行うことが求められている。しかし、将来的には、人の目視による監視が不要な自律飛行型ドローン、すなわち、出発地から目的地に向けて自律的に飛行を行うドローンが利用されると想定される。このような自律飛行型のドローンは、例えば管制センターとの通信情報やGPS位置情報を利用して、出発地から目的地に向けて飛行する。
例えば、自律飛行型のドローンの具体的な利用形態としてドローンによる荷物配送がある。
【0023】
図1を参照して、一般的なドローンの飛行例について説明する。
図1には、以下の2種類のドローン飛行例を示している。
(1)自律飛行型
(2)コントローラ操縦型
【0024】
図1(1)に示す自律飛行型は、出発地から目的地に向けて自律的に飛行を行うドローン10の例を示している。この自律飛行型のドローン10は、例えば管制センターとの通信情報やGPS位置情報、さらに、搭載したカメラの撮影画像の解析結果等を利用して、出発地から目的地に向けて飛行する。
【0025】
図1(2)に示すコントローラ操縦型は、ユーザ(操縦者)1の所有するコントローラ(リモート制御装置)20から、直接、ドローン10を制御するための信号を送信して、ドローン10の飛行を制御するものである。
【0026】
なお、このコントローラ操縦型でも、ユーザ(操縦者)1が、直接、目視でドローン10を観察してコントロールする形態の他、ユーザ(操縦者)1の所有するコントローラ(リモート制御装置)20の画面にドローン10の現在位置や移動経路(飛行経路)を表示し、ユーザ(操縦者)1が、画面を見ながら、ドローン10の飛行を制御する形態もある。
【0027】
本開示の処理は、図1に示す(1)自律飛行型、コントローラ操縦型のいずれにも利用可能である。
【0028】
本開示の情報処理装置は、例えば図1に示すドローン10内部に装着され、GPSやカメラ等の撮影画像等を利用して自己位置推定を行う。
ドローンをユーザが操縦または、ドローンが自律移動を行うためには、正確な自己位置推定が必須である。
【0029】
自己位置推定はGPSの他、カメラや、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)などのセンサの検出情報を利用して行われる。
【0030】
なお、カメラ撮影画像を利用した自己位置推定処理の代表例として、SLAM(simultaneous localization and mapping)処理がある。
SLAM処理は、カメラ位置同定(ローカリゼーション)と環境地図作成(mapping)を並行して実行する処理である。
【0031】
SLAM処理は、カメラで画像(動画像)を撮影し、複数の撮影画像に含まれる特徴点の軌跡を解析することで、特徴点の3次元位置を推定するとともに、カメラ(自己)の位置姿勢を推定(ローカリゼーション)する処理であり、特徴点の3次元位置情報を用いて周囲の地図(環境地図)を作成(mapping)することができる。このように、カメラ(自己)の位置同定(ローカリゼーション)と周囲の地図(環境地図)の作成(mapping)を並行して実行する処理がSLAMと呼ばれる。
【0032】
しかし、GPSやカメラ撮影画像を利用した自己位置推定処理は、環境によって推定精度が異なるという問題がある。
例えば、GPS衛星からの受信が困難なビルの陰などでは、GPS信号を利用した自己位置推定処理を行うと、推定精度が低下する。
また、暗い環境でカメラ撮影画像を利用した自己位置推定処理を行うと、推定精度が低下する。
自己位置推定が正確に行えない環境下では、自律移動が困難になる。
【0033】
本開示の情報処理装置は、このような問題を解決するため、ドローン10内部の情報処理装置が実行した自己位置推定結果の信頼度を算出する。
具体的には、自己位置推定処理を実行した環境情報、例えば、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
例えば、これらの環境情報を解析し、解析結果に基づいて、自己位置推定結果の信頼度(=「推定自己位置信頼度」)を算出する。
【0034】
本開示の情報処理装置は、さらに、環境情報を解析結果に基づいて算出した「推定自己位置信頼度」に基づいて、行動計画の生成、修正、例えば飛行経路の修正や、飛行中止処理等を行い、生成、修正した行動計画に基づいて、飛行制御を行う。
さらに、ドローン10の飛行を監視する監視センターや、コントローラの表示部に、危険性に関する警告や、修正した飛行経路の情報等を送信して表示する。
【0035】
[2.本開示の情報処理装置の構成と実行する処理について]
次に、本開示の情報処理装置の構成と実行する処理について説明する。
【0036】
図2は、本開示の情報処理装置100の一構成例を示すブロック図である。
なお、図2に示す情報処理装置100は、ドローン10内部に設けられた装置である。
また、図2に示す表示装置120は、例えば監視センターやユーザ(操縦者)の有する表示装置である。
【0037】
図2に示すように、情報処理装置100は、センサ(カメラ)101、センサ(LiDAR)102、センサ(GPS)103、センサデータ取得部104、自己位置推定部105、環境情報解析部106、推定自己位置信頼度算出部107、移動体制御部108を有する。
また、表示装置120は、情報表示部121を有する。
【0038】
情報処理装置100の各構成部の詳細と実行する処理について、順次、説明する。
センサ(カメラ)101は、外部環境の画像を撮影するカメラであり、単眼カメラ、ステレオカメラ、赤外(IR)光カメラ等のいずれか、または複数の組み合わせによって構成される。
【0039】
センサ(LiDAR)102は、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)であり、障害物までの距離等を計測可能なセンサである。
【0040】
センサ(GPS)103は、GPS衛星からの信号を受信し、現在の経度、緯度情報を取得するためのセンサである。
【0041】
なお、図2には、3種類のセンサのみを示しているが、これは一例であり、これらの他のセンサを備えた構成としてもよい。例えば、ToFセンサ、超音波センサ、レーダ、ソナー等を備えた構成でもよい。
【0042】
センサデータ取得部104は、各センサの検出情報を取得する。
センサデータ取得部104は、各センサから取得したセンサ検出情報を、自己位置推定部105と、環境情報解析部106に出力する。
【0043】
自己位置推定部105は、センサデータ取得部104から入力したセンサ検出情報を用いて、ドローン10の現在の自己位置を推定する。
自己位置推定部105の推定した自己位置は、推定自己位置信頼度算出部107と、移動体制御部108に出力される。
移動体制御部108は、自己位置推定部105の推定した自己位置に基づいて、予め定められた移動経路(飛行経路)に従ってドローンを飛行させる。
【0044】
自己位置推定部105は、例えば、GPSセンサの取得情報に基づく自己位置推定処理や、前述したSLAM(simultaneous localization and mapping)処理を適用した自己位置推定などを行う。
【0045】
前述したように、SLAM処理は、カメラで画像(動画像)を撮影し、複数の撮影画像に含まれる特徴点の軌跡を解析することで、特徴点の3次元位置を推定するとともに、カメラ(自己)の位置姿勢を推定(ローカリゼーション)する処理であり、特徴点の3次元位置情報を用いて周囲の地図(環境地図)を作成(mapping)することができる。
【0046】
なお、SLAM手法の1つとして、EKF(拡張カルマンフィルタ:Extended Kalman Filter)を使用したEKFベースのSLAMがある。
EKFベースのSLAMは、例えばカメラを移動させながら画像を連続的に撮影し、各画像に含まれる特徴点の軌跡(トラッキング情報)を求め、移動ステレオ法でカメラの移動量と特徴点の3次元位置を同時に推定する方法である。
【0047】
自己位置推定部105が推定した自己位置推定結果は、推定自己位置信頼度算出部107と、移動体制御部108に出力される。
【0048】
一方、環境情報解析部106も、センサデータ取得部104の取得したセンサ検出情報を入力する。
環境情報解析部106は、センサデータ取得部104の取得したセンサ検出情報を入力し、入力したセンサ検出情報に基づいて、自己位置推定処理を実行した環境情報を解析する。
【0049】
具体的には、前述したように、自己位置推定処理を実行した際の環境、例えば、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
例えば、これらの環境情報を解析する。
【0050】
「(a)周囲の明るさ」は、例えばセンサ(カメラ)101の撮影画像の輝度に基づいて解析する。さらに照度センサを装着した構成では、照度センサの検出情報を用いて解析してもよい。
【0051】
「(b)カメラ撮影画像から検出された特徴点のスコア」は、センサ(カメラ)101の撮影画像から抽出される特徴点の数や、特徴点の信頼度を示すスコアを算出する処理として実行される。
【0052】
図3に、センサ(カメラ)101の撮影画像から抽出される特徴点の例を示す。
図3に示す画像中の白い点が特徴点を示している。
なお、画像からの特徴点検出には、例えばHarrisコーナー検出等の既存の手法が適用可能である。
【0053】
特徴点のスコアは、「どれほど際立っている特徴点か」、「トラッキングしやすい特徴点か」等の予め規定した特徴点評価指標を適用して算出する。
なお、特徴点のスコア算出処理としては、Harrisコーナー検出処理において規定されたスコアや、Shi-tomasiスコア等、既存の特徴点スコア算出処理を適用することが可能である。
【0054】
「(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率」は、例えば、センサ(カメラ)101の撮影画像を解析して、撮影画像内に含まれるオブジェクト(物体)から、静的オブジェクト(物体)と、動的オブジェクト(物体)を判別する処理によって実行される。
この処理は、連続撮影された画像、例えば動画像の解析によって実行される。
【0055】
さらに、センサ(カメラ)101の撮影画像から人や、車等、動物体と推定されるオブジェクトを検出する処理を適用してもよい。
例えば、図4は、画像解析によって人を検出したデータの例である。
この人検出処理は、例えば予め記憶部に記憶された人の形状パターンと類似するパターンを撮影画像から検出処理、いわゆるパターンマッチングによって行うことができる。
【0056】
さらに、静的オブジェクト(物体)と、動的オブジェクト(物体)を判別する処理としては、セマンティック・セグメンテーションを利用することも可能である。
【0057】
セマンティック・セグメンテーションは、画像認識処理の一種であり、ディープラーニングを用いて画像中の物体が画素レベルで何かを認識するタスクを行う手法である。例えば様々な実際のオブジェクトの形状情報やその他の特徴情報を登録したオブジェクト識別用の辞書データ(学習済みデータ)と、例えばカメラ撮影画像内のオブジェクトとの一致度に基づいて、画像の構成画素(ピクセル)各々が、どのオブジェクトカテゴリに属する画素であるかを識別する技術である。
このセマンティック・セグメンテーションにより、カメラ撮影画像に含まれる様々なオブジェクト、例えば人、車、ビル、道路、木、池、芝生等、オブジェクトの種類を識別することができる。
【0058】
図5は、カメラ撮影画像に対するセマンティック・セグメンテーションの適用結果の一例を示す画像である。
セマンティック・セグメンテーションの適用により、撮影画像内の様々なオブジェクトは、オブジェクト種類に応じた予め規定した色に区別されて出力される。
すなわち、出力色に基づいて、その画素部分のオブジェクト種類を判別することができる。
【0059】
このセマンティック・セグメンテーションによって識別されたオブジェクトの種類に基づいて、これらの識別オブジェクトを静的オブジェクト(物体)と、動的オブジェクト(物体)に分類することが可能となる。
【0060】
「(d)GPS信号が受信可能なGPS衛星の数」については、自己位置推定部105による自己位置推定処理の実行中に、センサ(GPS)103が通信可能であったGPS衛星の数を取得して解析することができる。
【0061】
このように、環境情報解析部106は、センサデータ取得部104の取得したセンサ検出情報を入力し、入力したセンサ検出情報に基づいて、自己位置推定部105が自己位置推定処理を実行した環境情報、例えば、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
例えば、これらの環境情報を解析する。
【0062】
なお、環境情報解析部106は、上記(a)~(d)の環境情報の全てを解析することは必須ではなく、上記(a)~(d)の環境情報の少なくとも1つを解析する構成であってもよい。
ただし、好ましくは、上記(a)~(d)の環境情報の全て、または複数を解析する構成とすることが好ましい。
環境情報解析部106の解析した環境情報は、推定自己位置信頼度算出部107に入力される。
【0063】
推定自己位置信頼度算出部107は、自己位置推定部105が推定した自己位置の信頼度を算出する。
推定自己位置信頼度算出部107は、環境情報解析部106の解析した環境情報、すなわち、自己位置推定部105が自己位置推定を実行した際の環境情報に基づいて、推定された自己位置の信頼度を算出する。
【0064】
前述したように、環境情報解析部106は、自己位置推定部105が自己位置推定を実行した際の環境情報として、例えば、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
例えば、これらの環境情報を解析しており、この解析結果が、推定自己位置信頼度算出部107に入力されている。
【0065】
推定自己位置信頼度算出部107は、これらの環境情報に基づいて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0066】
なお、上述したように、環境情報解析部106は、上記(a)~(d)の環境情報の少なくとも1つを解析する構成であってもよく、推定自己位置信頼度算出部107は、上記(a)~(d)の環境情報の少なくとも1つを入力して、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0067】
推定自己位置信頼度算出部107が、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、例えば、
(a)周囲の明るさ
この環境情報を入力した場合の推定自己位置信頼度算出処理について説明する。
【0068】
図6に示すグラフは、横軸に明るさ(lux)、縦軸に自己位置推定誤差を示したグラフである。
このグラフは、予め生成されたグラフである。例えば、機械学習処理によって生成されたグラフである。
【0069】
グラフから理解されるように、明るさが明るいほど、自己位置推定誤差は低下し、高精度な自己位置推定が可能となる。一方、暗くなるほど、自己位置推定誤差は上昇し、自己位置推定の精度が低下する。
【0070】
一般的に、カメラ撮影画像を適用した自己位置推定処理では「画像から取得可能な明確な特徴点」、すなわち「スコアの高い特徴点」の数に依存する。
「スコアの高い特徴点」の数は、「画像の輝度」に依存する。
「画像の輝度」は「露光時間」と「周囲の明るさ」に依存する。
しかし、「露光時間」が長すぎるとブラーが大きくなり自己位置精度に影響が出る。そのため、「自己位置推定の精度」は「周囲の明るさ」に依存する。
その結果、明るさと、自己位置推定誤差の関係は、図6のグラフに示す関係となる。
【0071】
図6に示すように、明るさが明るいほど、自己位置推定誤差は低下し、高精度な自己位置推定が可能となる。一方、暗くなるほど、自己位置推定誤差は上昇し、自己位置推定の精度が低下する。
【0072】
図6に示すグラフに対応するデータ、すなわち、明るさ(lux)と自己位置推定誤差との対応関係データは、情報処理装置100の記憶部に格納されており、推定自己位置信頼度算出部107は、明るさ(lux)と自己位置推定誤差との対応関係データ(=図6に示すグラフ)を利用して、自己位置推定部105によって推定された自己位置の信頼度を算出する。
【0073】
具体的な信頼度算出処理に際しては、例えば、センサ(カメラ)101の撮影画像の平均輝度(画素値)に基づいて算出する。
その他、例えば、照度センサを有する場合は、照度センサから得られる値(明るさ(lux))を用いてもよい。また、センサ(カメラ)101の画像撮影時の露光時間、ゲイン等を用いて算出してもよい。
【0074】
例えば、自己位置推定部105が自己位置推定を実行した際のセンサ(カメラ)101の撮影画像の平均輝度(画素値)と、自己位置推定部105が推定した自己位置の信頼度(0~100)との対応関係は、図7に示すグラフとなる。なお、図7に示す例は、信頼度を最低信頼度から最高信頼度の値を0~100として設定した例である。
【0075】
図7に示すグラフは、図6に示す明るさ(lux)と自己位置推定誤差との対応関係グラフから算出される。
具体的には、図7に示すグラフは、図6に示す明るさ(lux)と自己位置推定誤差との対応関係グラフを上下反転することで生成することができる。
【0076】
推定自己位置信頼度算出部107は、この図7に示す撮影画像の平均輝度(画素値)と推定自己位置信頼度との対応関係データを用いて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0077】
具体的には、例えば、自己位置推定部105が自己位置推定を実行した際に、センサ(カメラ)101によって撮影された撮影画像の平均輝度(画素値)が、図7に示すグラフの輝度(L1)である場合、自己位置推定部105によって推定された自己位置の信頼度は、約75となる。ただし、信頼度は、最低信頼度(0)~最高信頼度(100)の設定である。
【0078】
次に、推定自己位置信頼度算出部107が、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(b)カメラ撮影画像から検出された特徴点のスコア
この環境情報を入力した場合の推定自己位置信頼度算出処理について説明する。
【0079】
図8に示すグラフは、横軸に特徴点スコア、縦軸に自己位置推定誤差を示したグラフである。
このグラフは、予め生成されたグラフである。例えば、自己位置推定精度の実験によって生成されたグラフである。
【0080】
グラフから理解されるように、特徴点スコアが高いほど、自己位置推定誤差は低下し、高精度な自己位置推定が可能となる。一方、特徴点スコアが低いほど、自己位置推定誤差は上昇し、自己位置推定の精度が低下する。
【0081】
なお、ここで特徴点スコアは、カメラ撮影画像から得られた全ての特徴点のスコアの総計値である。
カメラ撮影画像から得られた特徴点の数が多いほど特徴点スコアは高くなる。
また、カメラ撮影画像から得られた特徴が、「際立っている」、「トラッキングしやすい」等の予め規定した特徴点評価指標が高いほど特徴点スコアは高くなる。
【0082】
その結果、カメラ撮影画像から得られた全ての特徴点のスコアの総計値である「特徴点スコア」と、自己位置推定誤差の関係は、図8のグラフに示す関係となる。
【0083】
図8に示すグラフに対応するデータ、すなわち、特徴点スコアと自己位置推定誤差との対応関係データは、情報処理装置100の記憶部に格納されており、推定自己位置信頼度算出部107は、特徴点スコアと自己位置推定誤差との対応関係データ(=図8に示すグラフ)を利用して、自己位置推定部105によって推定された自己位置の信頼度を算出する。
【0084】
具体的な信頼度算出処理に際しては、例えば、センサ(カメラ)101の撮影画像から得れる全ての特徴点のスコアの総計値(特徴点スコア)に基づいて算出する。
【0085】
例えば、自己位置推定部105が自己位置推定を実行した際のセンサ(カメラ)101の撮影画像から得れる全ての特徴点のスコアの総計値(特徴点スコア)と、自己位置推定部105が推定した自己位置の信頼度(0~100)との対応関係は、図9に示すグラフとなる。なお、図9に示す例は、信頼度を最低信頼度から最高信頼度の値を0~100として設定した例である。
【0086】
図9に示すグラフは、図8に示す特徴点スコアと自己位置推定誤差との対応関係グラフから算出される。
具体的には、図9に示すグラフは、図8に示す特徴点スコアと自己位置推定誤差との対応関係グラフを上下反転することで生成することができる。
【0087】
推定自己位置信頼度算出部107は、この図9に示す特徴点スコアと推定自己位置信頼度との対応関係データを用いて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0088】
具体的には、例えば、自己位置推定部105が自己位置推定を実行した際に、センサ(カメラ)101によって撮影された撮影画像から得れる全ての特徴点のスコアの総計値(特徴点スコア)が、図9に示すグラフの輝度(S1)である場合、自己位置推定部105によって推定された自己位置の信頼度は、約75となる。ただし、信頼度は、最低信頼度(0)~最高信頼度(100)の設定である。
【0089】
次に、推定自己位置信頼度算出部107が、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
を入力した場合の処理について説明する。
【0090】
図10に示すグラフは、横軸に静的オブジェクト数、または画像内の静的オブジェクトの面積占有率、縦軸に自己位置推定誤差を示したグラフである。
このグラフは、予め生成されたグラフである。例えば、自己位置推定精度の実験によって生成されたグラフである。
【0091】
グラフから理解されるように、静的オブジェクト数、または画像内の静的オブジェクトの面積占有率が高いほど、自己位置推定誤差は低下し、高精度な自己位置推定が可能となる。一方、静的オブジェクト数、または画像内の静的オブジェクトの面積占有率が低いほど、自己位置推定誤差は上昇し、自己位置推定の精度が低下する。
なお、ここで静的オブジェクト数は、カメラ撮影画像から得られた全ての静的オブジェクトの総数である。
【0092】
図10に示すグラフに対応するデータ、すなわち、静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、自己位置推定誤差との対応関係データは、情報処理装置100の記憶部に格納されており、推定自己位置信頼度算出部107は、静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、自己位置推定誤差との対応関係データ(=図10に示すグラフ)を利用して、自己位置推定部105によって推定された自己位置の信頼度を算出する。
【0093】
具体的な信頼度算出処理に際しては、例えば、センサ(カメラ)101の撮影画像から得れる静的オブジェクトの数または画像内の静的オブジェクトの面積占有率に基づいて算出する。
【0094】
例えば、自己位置推定部105が自己位置推定を実行した際のセンサ(カメラ)101の撮影画像から得れる静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、自己位置推定部105が推定した自己位置の信頼度(0~100)との対応関係は、図11に示すグラフとなる。なお、図11に示す例は、信頼度を最低信頼度から最高信頼度の値を0~100として設定した例である。
【0095】
図11に示すグラフは、図10に示す静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、自己位置推定誤差との対応関係グラフから算出される。
具体的には、図11に示すグラフは、図10に示す静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、自己位置推定誤差との対応関係グラフを上下反転することで生成することができる。
【0096】
推定自己位置信頼度算出部107は、この図11に示す静的オブジェクト数または画像内の静的オブジェクトの面積占有率と、推定自己位置信頼度との対応関係データを用いて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0097】
具体的には、例えば、自己位置推定部105が自己位置推定を実行した際に、センサ(カメラ)101によって撮影された撮影画像から得れる全ての静的オブジェクトの数または画像内の静的オブジェクトの面積占有率が、図11に示すグラフの静的オブジェクト数または画像内の静的オブジェクトの面積占有率(C1)である場合、自己位置推定部105によって推定された自己位置の信頼度は、約65となる。ただし、信頼度は、最低信頼度(0)~最高信頼度(100)の設定である。
【0098】
次に、推定自己位置信頼度算出部107が、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(d)GPS信号が受信可能なGPS衛星の数
を入力した場合の処理について説明する。
【0099】
図12に示すグラフは、横軸に信号受信可能なGPS数、縦軸に自己位置推定誤差を示したグラフである。
このグラフは、予め生成されたグラフである。例えば、機械学習処理によって生成されたグラフである。
【0100】
グラフから理解されるように、信号受信可能なGPS数が高いほど、自己位置推定誤差は低下し、高精度な自己位置推定が可能となる。一方、信号受信可能なGPS数が低いほど、自己位置推定誤差は上昇し、自己位置推定の精度が低下する。
なお、ここで信号受信可能なGPS数は、センサ(GPS)103が信号受信可能なGPS衛星の数である。
【0101】
図12に示すグラフに対応するデータ、すなわち、信号受信可能なGPS数と自己位置推定誤差との対応関係データは、情報処理装置100の記憶部に格納されており、推定自己位置信頼度算出部107は、信号受信可能なGPS数と自己位置推定誤差との対応関係データ(=図12に示すグラフ)を利用して、自己位置推定部105によって推定された自己位置の信頼度を算出する。
【0102】
例えば、自己位置推定部105が自己位置推定を実行した際に、センサ(GPS)103が信号受信したGPS衛星の数と、自己位置推定部105が推定した自己位置の信頼度(0~100)との対応関係は、図13に示すグラフとなる。なお、図13に示す例は、信頼度を最低信頼度から最高信頼度の値を0~100として設定した例である。
【0103】
図13に示すグラフは、図12に示す信号受信可能なGPS数と自己位置推定誤差との対応関係グラフから算出される。
具体的には、図13に示すグラフは、図12に示す信号受信可能なGPS数と自己位置推定誤差との対応関係グラフを上下反転することで生成することができる。
【0104】
推定自己位置信頼度算出部107は、この図13に示す信号受信可能なGPS数と推定自己位置信頼度との対応関係データを用いて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0105】
具体的には、例えば、自己位置推定部105が自己位置推定を実行した際に、センサ(カメラ)101によって撮影された撮影画像から得れる全ての信号受信可能なGPSの数が、図13に示すグラフの信号受信可能なGPS数(G1)である場合、自己位置推定部105によって推定された自己位置の信頼度は、約85となる。ただし、信頼度は、最低信頼度(0)~最高信頼度(100)の設定である。
【0106】
ここまで、推定自己位置信頼度算出部107が、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
これらの環境情報のいずれか1つを入力した場合の信頼度算出処理、すなわち、自己位置推定部105によって推定された自己位置の信頼度の算出処理例について説明した。
【0107】
推定自己位置信頼度算出部107は、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
これら(a)~(d)の環境情報の全て、あるいは複数を入力する場合もある。
【0108】
この場合には、個別の環境情報に基づいて算出した信頼度を重み付け加算して最終的な信頼度を算出する。
例えば、
環境情報=「(a)周囲の明るさ」に基づいて算出した推定自己位置信頼度=V1
環境情報=「(b)カメラ撮影画像から検出された特徴点のスコア」に基づいて算出した推定自己位置信頼度=V2
環境情報=「(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率」に基づいて算出した推定自己位置信頼度=V3
環境情報=「(d)GPS信号が受信可能なGPS衛星の数」に基づいて算出した推定自己位置信頼度=V4
とする。
【0109】
この場合、推定自己位置信頼度算出部107は、上記4種類の環境情報に基づいて算出した個別の信頼度V1,V2,V3,V4を、予め規定した重み係数α1~α4を用いて、以下の式に従って最終的な信頼度、すなわち、自己位置推定部105が推定した自己位置の信頼度を算出する。
信頼度=(α1×V1)+(α2×V2)+(α3×V3)+(α4×V4)
【0110】
推定自己位置信頼度算出部107は、例えば上記式に従って、自己位置推定部105が推定した自己位置の信頼度を算出する。
なお、重み係数α1~α4については、例えば上記式に従って算出される信頼度の範囲(例えば0~100)に応じて決定する。
【0111】
なお、例えは、上記4種類の環境情報に基づいて算出した個別の信頼度として、V1,V2のみしか得られない場合には、予め規定した重み係数β1~β2を用いて、以下の式に従って最終的な信頼度、すなわち、自己位置推定部105が推定した自己位置の信頼度を算出する。
信頼度=(β1×V1)+(β2×V2)
【0112】
このように、推定自己位置信頼度算出部107は、上記4種類の環境情報中、得られた環境情報の数と種類に応じて、最適な重み係数を設定して信頼度の算出処理を行う。
【0113】
上述したように、推定自己位置信頼度算出部107は、環境情報解析部106の解析した環境情報、すなわち、自己位置推定部105が自己位置推定を実行した際の環境情報に基づいて、推定された自己位置の信頼度を算出する。
【0114】
さらに、推定自己位置信頼度算出部107は、算出した推定自己位置の信頼度を、予め規定したしきい値、例えば、図7図9図11図13に示す「許容信頼度しきい値」と比較し、算出した推定自己位置信頼度が、「許容信頼度しきい値」未満であった場合、管制センターや、ユーザ(操縦者)の保持するコントローラの情報表示部121に警告表示を行う。
例えば、図14に示すような、警告表示を実行する。
【0115】
さらに、図15に示すように、推定自己位置信頼度インジケータを表示して、推定自己位置信頼度算出部107が算出した信頼度を示す構成としてもよい。
例えば図16に示すようにドローン10がカメラ撮影画像として空の画像しか撮影できないような状態では、撮影画像からの特徴点抽出が困難となるため自己位置推定が困難になり、結果として自己位置推定精度が低下することになる。
【0116】
さらに、推定自己位置信頼度算出部107は、算出した推定自己位置の信頼度が、規定しきい値、例えば、図7図9図11図13に示す「許容信頼度しきい値」未満である場合、移動体制御部108に移動体の飛行経路を変更するように飛行制御指示を出力する。
【0117】
例えば、推定自己位置の信頼度が低い経路は避けて、推定自己位置の信頼度が高くなるような経路を探索させて経路決定を行う。
具体的には、例えば、GPS衛星からの信号受信のしやすい構想ビルの少ない経路を選択する。なお、地図情報は、情報処理装置の記憶部、または外部サーバから受信することができる。
【0118】
また、推定自己位置信頼度算出部107は、ドローンの飛行経路に従って、遂次算出される信頼度の推移を検証して、信頼度が低くなる方向や、高くなる方向を推定して、高くなる方向を進行経路として選択するような飛行指示を移動体制御部108に出力する。
【0119】
なお、飛行経路を修正した場合には、例えば図17に示すように、情報表示部121に修正した飛行経路を示す表示データを出力する。
【0120】
さらに、推定自己位置信頼度算出部107は、センサ101~103のセンシング方向の制御を行うためのセンシング方向制御情報をセンサに出力する構成としてもよい。
すなわち、自己位置推定の精度をあげるために、特徴点の多い画像を撮影させるようにカメラの撮影方向を変更させるといった制御である。
【0121】
なお、推定自己位置信頼度算出部107は、上述したように、環境情報解析部106から、自己位置推定部105が自己位置推定を実行した際の環境情報として、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
これら(a)~(d)の環境情報を入力し、各環境情報に応じた信頼度を算出する。
【0122】
この場合、例えば、GPS信号に基づいて、十分に高い自己位置推定が可能であるといった判断を行うことも可能であり、このような場合には、その他のセンサ(カメラ、LiDAR)のスイッチをOFFとして節電する処理を行ってもよい。
【0123】
[3.本開示の情報処理装置が実行する処理のシーケンスについて]
次に、本開示の情報処理装置が実行する処理のシーケンスについて説明する。
【0124】
図18に示すフローチャートを参照して本開示の情報処理装置が実行する処理のシーケンスについて説明する。
【0125】
なお、図18のフローチャートに従った処理は、情報処理装置内部のメモリに格納されたプログラムに従って、情報処理装置のプログラム実行機能を持つCPU等から構成される制御部(データ処理部)の制御の下で実行可能な処理である。
以下、図18以下に示すフローの各ステップの処理について、
【0126】
(ステップS101)
まず、ドローン10に搭載された情報処理装置100は、ステップS101においてセンサデータを取得する。
【0127】
この処理は、図2に示す情報処理装置100のセンサデータ取得部104が実行する処理である。
【0128】
図2を参照して説明したように、ドローンには、カメラ、LiDAR、GPS等の様々なセンサが装着されており、センサデータ取得部104は、これらの様々なセンサ検出情報を入力する。
【0129】
(ステップS102)
ステップS102の処理と、ステップS103の処理は並列に実行可能な処理である。
ステップS102において、情報処理装置100は、自己位置推定処理を実行する。
【0130】
この処理は、図2に示す情報処理装置100の自己位置推定部105が実行する処理である。
【0131】
自己位置推定処理は、例えばセンサ取得情報であるGPS位置情報を利用した処理、あるいはセンサを構成するカメラの撮影画像を利用したSLAM(simultaneous localization and mapping)処理などによって実行される。
【0132】
SLAM処理は、カメラで画像(動画像)を撮影し、複数の撮影画像に含まれる特徴点の軌跡を解析することで、特徴点の3次元位置を推定するとともに、カメラ(自己)の位置姿勢を推定(ローカリゼーション)する処理であり、特徴点の3次元位置情報を用いて周囲の地図(環境地図)を作成(mapping)することができる。このように、カメラ(自己)の位置同定(ローカリゼーション)と周囲の地図(環境地図)の作成(mapping)を並行して実行する処理がSLAMと呼ばれる。
【0133】
(ステップS103)
さらに、情報処理装置100は、ステップS103において、センサ取得情報に基づいて、外部環境情報を解析する。
【0134】
この処理は、図2に示す情報処理装置100の環境情報解析部106が実行する処理である。
環境情報解析部106は、センサデータ取得部104の取得したセンサ検出情報を入力し、入力したセンサ検出情報に基づいて、自己位置推定処理を実行した環境情報を解析する。
【0135】
具体的には、前述したように、自己位置推定処理を実行した際の環境、例えば、
(a)周囲の明るさ
(b)カメラ撮影画像から検出された特徴点のスコア
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率
(d)GPS信号が受信可能なGPS衛星の数
例えば、これらの環境情報を解析する。
【0136】
(ステップS104)
次に情報処理装置100は、ステップS104において、推定自己位置信頼度算出処理を実行する。
【0137】
この処理は、図2に示す情報処理装置100の推定自己位置信頼度算出部107が実行する処理である。
【0138】
推定自己位置信頼度算出部107は、環境情報解析部106の解析した環境情報、すなわち、自己位置推定部105が自己位置推定を実行した際の環境情報に基づいて、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0139】
この処理は、先に図6図13のグラフを参照して説明した処理に相当する。
例えば、推定自己位置信頼度算出部107は、上記4種類の環境情報に基づいて算出した個別の信頼度V1,V2,V3,V4を、予め規定した重み係数α1~α4を用いて、以下の式に従って最終的な信頼度、すなわち、自己位置推定部105が推定した自己位置の信頼度を算出する。
信頼度=(α1×V1)+(α2×V2)+(α3×V3)+(α4×V4)
【0140】
推定自己位置信頼度算出部107は、例えば上記式に従って、自己位置推定部105が推定した自己位置の信頼度を算出する。
【0141】
(ステップS105)
ステップS105の処理と、ステップS106の処理は並列に実行可能な処理である。
情報処理装置100は、ステップS105において、移動体(ドローン10)の制御を行う。
【0142】
この処理は、図2に示す情報処理装置100の移動体制御部108が実行する処理である。
推定自己位置信頼度算出部107は、算出した推定自己位置の信頼度が、規定しきい値、例えば、図7図9図11図13に示す「許容信頼度しきい値」未満である場合、移動体制御部108に移動体の飛行経路を変更するように飛行制御指示を出力する。
移動体制御部108は、推定自己位置信頼度算出部107の指示に従って、移動体(ドローン10)の制御を行う。
【0143】
例えば、推定自己位置の信頼度が低い経路は避けて、推定自己位置の信頼度が高くなるような経路を探索させて経路決定を行う。
具体的には、例えば、GPS衛星からの信号受信のしやすい構想ビルの少ない経路を選択する。なお、地図情報は、情報処理装置の記憶部、または外部サーバから受信することができる。
【0144】
(ステップS106)
さらに、情報処理装置100は、ステップS106において、表示情報を生成して表示部に対する情報出力処理を行う。
【0145】
この処理は、図2に示す情報表示部121を利用した情報表示処理である。
推定自己位置信頼度算出部107は、算出した推定自己位置の信頼度を、予め規定したしきい値、例えば、図7図9図11図13に示す「許容信頼度しきい値」と比較し、算出した推定自己位置信頼度が、「許容信頼度しきい値」未満であった場合、管制センターや、ユーザ(操縦者)の保持するコントローラの情報表示部121に警告表示を行う。
例えば、図14に示すような、警告表示を実行する。
【0146】
さらに、図15に示すように、推定自己位置信頼度インジケータを表示して、推定自己位置信頼度算出部107が算出した信頼度を示す構成としてもよい。
【0147】
[4.外部からドローン制御を行う構成について]
次に、変形例として、外部からドローン制御を行う構成について説明する。
【0148】
例えば管制センターやユーザ(操縦者)のコントローラから、直接、ドローン10に操縦信号を送信して、ドローン10移動経路の制御が実行可能な構成では、必要に応じて、管制センターやユーザ(操縦者)のコントローラからドローン10に制御信号を送信して、飛行経路の変更などを行うことが可能である。
【0149】
例えば、先に図14図16を参照して説明した警告表示を見た管制官やユーザ(操縦者)が、最適な飛行経路を選択して、ドローン10に対して制御信号を出力する構成が可能である。
【0150】
この構成例について図19を参照して説明する。
図19は、ドローン10に搭載された情報処理装置100と、情報処理装置100と通信可能なコントローラ130を示している。
【0151】
コントローラ130は、管制センター内、あるいはユーザ(操縦者)の所有するコントローラである。
情報処理装置100の構成は、先に図2を参照して説明した構成と同様の構成である。
【0152】
すなわち、情報処理装置100は、センサ(カメラ)101、センサ(LiDAR)102、センサ(GPS)103、センサデータ取得部104、自己位置推定部105、環境情報解析部106、推定自己位置信頼度算出部107、移動体制御部108を有する。
【0153】
一方、コントローラ130は、情報表示部131の他、操作部132、移動体制御信号出力部133を有する。
情報表示部131には、例えば先に説明した図14図17に示すような表示データが表示される。
【0154】
ドローン10内の情報処理装置100の推定自己位置信頼度算出部107は、算出した推定自己位置の信頼度を、予め規定したしきい値、例えば、図7図9図11図13に示す「許容信頼度しきい値」と比較し、算出した推定自己位置信頼度が、「許容信頼度しきい値」未満であった場合、管制センターや、ユーザ(操縦者)の保持するコントローラ130の情報表示部131に警告表示を行う。
例えば、図14に示すような、警告表示を実行する。
【0155】
さらに、図15や、図16に示すように、推定自己位置信頼度インジケータを表示して、推定自己位置信頼度算出部107が算出した信頼度を出力する。
【0156】
例えば管制センターやユーザ(操縦者)のコントローラ130側で警告表示を見た管制官やユーザ(操縦者)は、例えば、操作部132を介して、最適な飛行経路を入力する。さらに、移動体制御信号出力部133は、操作部132において選択された飛行経路に従った飛行を行うための制御信号をドローン10の情報処理装置100の移動体制御部108に送信する。
【0157】
移動体制御部108は、コントローラ130からの受信信号に基づいて、ドローン10の飛行制御を行う。
【0158】
[5.情報処理装置のハードウェア構成例について]
次に、情報処理装置のハードウェア構成例について説明する。
なお、本開示の情報処理装置には、ドローンに搭載された情報処理装置、すなわち図2図19に示す構成を持つ情報処理装置100の他、例えば図19に示すコントローラ130も含まれる。
【0159】
図20は、これらの情報処理装置として利用可能なハードウェア構成例を示す図である。図20に示すハードウェアの構成要素について説明する。
【0160】
CPU(Central Processing Unit)301は、ROM(Read Only Memory)302、または記憶部308に記憶されているプログラムに従って各種の処理を実行するデータ処理部として機能する。例えば、上述した実施例において説明したシーケンスに従った処理を実行する。RAM(Random Access Memory)303には、CPU301が実行するプログラムやデータなどが記憶される。これらのCPU301、ROM302、およびRAM303は、バス304により相互に接続されている。
【0161】
CPU301はバス304を介して入出力インタフェース305に接続され、入出力インタフェース305には、各種センサ、カメラ、スイッチ、キーボード、マウス、マイクロホンなどよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307が接続されている。
【0162】
入出力インタフェース305に接続されている記憶部308は、例えばUSBメモリ、SDカード、ハードディスク等からなり、CPU301が実行するプログラムや各種のデータを記憶する。通信部309は、インターネットやローカルエリアネットワークなどのネットワークを介したデータ通信の送受信部として機能し、外部の装置と通信する。
【0163】
入出力インタフェース305に接続されているドライブ310は、磁気ディスク、光ディスク、光磁気ディスク、あるいはメモリカード等の半導体メモリなどのリムーバブルメディア311を駆動し、データの記録あるいは読み取りを実行する。
【0164】
[6.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
【0165】
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有する情報処理装置。
【0166】
(2) 前記環境情報解析部は、
前記自己位置推定部において自己位置推定処理が実行された際の環境情報として、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報を取得する(1)に記載の情報処理装置。
【0167】
(3) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する(1)または(2)に記載の情報処理装置。
【0168】
(4) 前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の周囲の明るさを解析し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の周囲の明るさが、明るいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する(1)~(3)いずれかに記載の情報処理装置。
【0169】
(5) 前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の特徴点スコアを算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の特徴点スコアが高いほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する(1に記載の情報処理装置。
【0170】
(6) 前記センサデータ取得部は、
前記センサを構成するカメラの撮影画像を入力し、
前記環境情報解析部は、
前記カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際の静的オブジェクトの数、または画像内の静的オブジェクト面積占有率を算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の静的オブジェクトの数、または画像内の静的オブジェクト面積占有率が大きいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する(1)~(5)いずれかに記載の情報処理装置。
【0171】
(7) 前記センサデータ取得部は、
前記センサを構成するGPSの受信信号を入力し、
前記環境情報解析部は、
カメラの撮影画像から、前記自己位置推定部において自己位置推定処理が実行された際のGPSの受信したGPS衛星の数を算出し、
前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際のGPSの受信したGPS衛星の数が大きいほど、前記自己位置推定部が算出した推定自己位置の信頼度が高いと判定する(1)~(6)いずれかに記載の情報処理装置。
【0172】
(8) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において自己位置推定処理が実行された際の、
(a)周囲の明るさ、
(b)カメラ撮影画像から検出された特徴点のスコア、
(c)カメラ撮影画像から検出された静的オブジェクトの数、または画像内の静的オブジェクトの面積占有率、
(d)GPS信号が受信可能なGPS衛星の数、
上記(a)~(d)の少なくともいずれかの環境情報を入力し、
入力環境情報各々に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出し、
算出した環境情報各々に対応する信頼度の重み付け加算処理を実行して、最終的な推定自己位置信頼度を算出する(1)~(7)いずれかに記載の情報処理装置。
【0173】
(9) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、外部の情報表示部に出力する(1)~(8)いずれかに記載の情報処理装置。
【0174】
(10) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
外部の情報表示部に警告を出力する(1)~(9)いずれかに記載の情報処理装置。
【0175】
(11) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
前記移動体の移動制御を実行する移動体制御部に対して、移動制御を行うように指示を出力する(1)~(10)いずれかに記載の情報処理装置。
【0176】
(12) 前記推定自己位置信頼度算出部は、
前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度が予め規定したしきい値未満であった場合、
前記センサのセンシング方向の制御を行うためのセンシング方向制御情報を前記センサに出力する(1)~(11)いずれかに記載の情報処理装置。
【0177】
(13) 移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムであり、
前記移動装置は、
前記移動装置に備えられたセンサの検出情報を取得するセンサデータ取得部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定部と、
前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析部と、
前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出部を有し、
前記コントローラは、
前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示部と、
前記移動装置の移動ルートを入力可能な操作部と、
前記操作部を介して入力された前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力部を有する情報処理システム。
【0178】
(14) 情報処理装置において実行する情報処理方法であり、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行する情報処理方法。
【0179】
(15) 移動装置と、前記移動装置の制御情報を出力するコントローラによって構成される情報処理システムにおいて実行する情報処理方法であり、
前記移動装置において、
センサデータ取得部が、移動体に備えられたセンサの検出情報を取得するセンサデータ取得ステップと、
自己位置推定部が、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行する自己位置推定ステップと、
環境情報解析部が、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析する環境情報解析ステップと、
推定自己位置信頼度算出部が、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出するとともに、算出した推定自己位置信頼度を、前記コントローラに出力する推定自己位置信頼度算出ステップを実行し、
前記コントローラにおいて、
情報表示部が、前記移動装置の前記推定自己位置信頼度算出部から入力する推定自己位置信頼度を表示する情報表示ステップと、
移動体制御信号出力部が、操作部を介した前記移動装置の移動ルートの入力に応じて、前記移動ルートに従って前記移動装置を移動させるための制御情報を生成して前記移動装置に出力する移動体制御信号出力ステップを実行する情報処理方法。
【0180】
(16) 情報処理装置において情報処理を実行させるプログラムであり、
センサデータ取得部に、移動体に備えられたセンサの検出情報を取得させるセンサデータ取得ステップと、
自己位置推定部に、前記センサデータ取得部からセンサ検出情報を入力して、前記移動体の自己位置推定を実行させる自己位置推定ステップと、
環境情報解析部に、前記センサデータ取得部からセンサ検出情報を入力して、前記自己位置推定部において自己位置推定処理が実行された際の環境情報を解析させる環境情報解析ステップと、
推定自己位置信頼度算出部に、前記環境情報解析部において解析された環境情報に基づいて、前記自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出ステップを実行させるプログラム。
【0181】
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【0182】
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
【産業上の利用可能性】
【0183】
以上、説明したように、本開示の一実施例の構成によれば、ドローン等の移動装置の自己位置推定の信頼度を算出して、警告表示や飛行制御を行う構成が実現される。
具体的には、例えば、移動体に備えられたセンサの検出情報を取得するセンサデータ取得部と、センサデータ取得部からセンサ検出情報を入力して、移動体の自己位置推定を実行する自己位置推定部と、自己位置推定部において自己位置推定処理が実行された際の周囲の明るさや、カメラ撮影画像の特徴点のスコア等の環境情報を解析する環境情報解析部と、環境情報解析部において解析された環境情報に基づいて、自己位置推定部において推定された自己位置の信頼度を算出する推定自己位置信頼度算出部を有し、算出信頼度に基づいて警告表示や飛行制御を行う。
本構成により、ドローン等の移動装置の自己位置推定の信頼度を算出して、警告表示や飛行制御を行う構成が実現される。
【符号の説明】
【0184】
10 ドローン
20 コントローラ
100 情報処理装置
101~103 センサ
104 センサデータ取得部
105 自己位置推定部
106 環境情報解析部
107 推定自己位置信頼度算出部
108 移動体制御部
120 表示装置
121 情報表示部
130 コントローラ
131 情報表示部
132 操作部
133 移動体制御信号出力部
301 CPU
302 ROM
303 RAM
304 バス
305 入出力インタフェース
306 入力部
307 出力部
308 記憶部
309 通信部
310 ドライブ
311 リムーバブルメディア
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20