特許 7283378 自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-05-22

(45)【発行日】2023-05-30

(54)【発明の名称】自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラム

(51)【国際特許分類】

   G05D 1/02 20200101AFI20230523BHJP

【ＦＩ】

G05D1/02 K

【請求項の数】 9

(21)【出願番号】P 2019236687

(22)【出願日】2019-12-26

(65)【公開番号】P2021105831

(43)【公開日】2021-07-26

【審査請求日】2022-03-15

(73)【特許権者】

【識別番号】000003218

【氏名又は名称】株式会社豊田自動織機

(74)【代理人】

【識別番号】100088155

【弁理士】

【氏名又は名称】長谷川 芳樹

(74)【代理人】

【識別番号】100113435

【弁理士】

【氏名又は名称】黒木 義樹

(74)【代理人】

【識別番号】100124062

【弁理士】

【氏名又は名称】三上 敬史

(74)【代理人】

【識別番号】100148013

【弁理士】

【氏名又は名称】中山 浩光

(74)【代理人】

【識別番号】100162640

【弁理士】

【氏名又は名称】柳 康樹

(72)【発明者】

【氏名】古室 達也

(72)【発明者】

【氏名】加藤 紀彦

【審査官】大古 健一

(56)【参考文献】

【文献】国際公開第２０１９／１３１１９８（ＷＯ，Ａ１）

【文献】国際公開第２０１２／１７２８７０（ＷＯ，Ａ１）

【文献】特開２０１９－５３４６２（ＪＰ，Ａ）

【文献】国際公開第２０１９／０２１４１２（ＷＯ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０５Ｄ １／００ － １／１２

(57)【特許請求の範囲】

【請求項1】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、
前記画像を取得する画像取得部と、
前記画像取得部で取得された前記画像から前記特徴を抽出する抽出部と、
前記抽出部で抽出された前記特徴と、前記データベースとをマッチングさせることで前記移動体の自己位置を推定する推定部と、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、
前記判定閾値調整部は、記憶部に保存される前記データベースを更新するための前記判定閾値を調整し、
前記判定閾値調整部は、前記判定閾値が調整された状態の前記データベースを取得し、当該データベースにおいて各位置情報と紐付けられた前記判定閾値に基づいて前記判定閾値の調整を行い、
前記抽出部は、前記判定閾値調整部で調整された前記判定閾値を用いて、前記画像から前記特徴を抽出する、自己位置推定装置。

【請求項2】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、
前記画像を取得する画像取得部と、
前記画像取得部で取得された前記画像から前記特徴を抽出する抽出部と、
前記抽出部で抽出された前記特徴と、前記データベースとをマッチングさせることで前記移動体の自己位置を推定する推定部と、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、
前記判定閾値調整部は、前記判定閾値が調整された状態の前記データベースを取得し、当該データベースにおいて各位置情報と紐付けられた前記判定閾値に基づいて前記判定閾値の調整を行い、
前記抽出部は、前記判定閾値調整部で調整された前記判定閾値を用いて、前記画像から前記特徴を抽出し、
前記判定閾値調整部は、前記判定閾値として、
前記特徴か否かの判定対象となる判定画素に対して周囲画素が明るいか暗いかを判定する明暗閾値、
及び、明るい又は暗いと判定された周囲画素の連続数を判定するコーナー閾値、の少なくとも一方を調整する、自己位置推定装置。

【請求項3】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、
前記画像を取得する画像取得部と、
前記画像取得部で取得された前記画像から前記特徴を抽出する抽出部と、
前記抽出部で抽出された前記特徴と、前記データベースとをマッチングさせることで前記移動体の自己位置を推定する推定部と、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、
前記判定閾値調整部は、前記判定閾値が調整された状態の前記データベースを取得し、当該データベースにおいて各位置情報と紐付けられた前記判定閾値に基づいて前記判定閾値の調整を行い、
前記抽出部は、前記判定閾値調整部で調整された前記判定閾値を用いて、前記画像から前記特徴を抽出し、
前記抽出部は、抽出した前記特徴の分布態様が、前記データベースのものから変化しているか否かを判定する、自己位置推定装置。

【請求項4】

前記データベース内の所定の位置情報に紐付けられた画像は、複数のエリアに分割されており、一のエリアと他のエリアとでは、前記判定閾値が互いに異なっている、請求項１～３の何れか一項に記載の自己位置推定装置。

【請求項5】

前記データベースには、前記判定閾値の調整を行っても前記特徴の数が所定量に満たない位置が、走行注意エリアとして登録されている、請求項１～４の何れか一項に記載の自己位置推定装置。

【請求項6】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、
前記画像を取得する画像取得部と、
前記画像取得部で取得された画像から前記特徴を抽出する抽出部と、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、
前記判定閾値調整部は、記憶部に保存される前記データベースを更新するための前記判定閾値を調整し、
前記判定閾値調整部は、前記画像取得部で取得された前記画像から抽出された前記特徴の分布態様を評価し、当該評価結果に基づいて、前記特徴を抽出するための判定閾値を調整し、
前記抽出部は、前記判定閾値調整部で調整された前記判定閾値を用いて、前記画像から前記特徴を抽出する、自己位置推定装置。

【請求項7】

請求項１～６の何れか一項に記載された自己位置推定装置を備える移動体。

【請求項8】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定方法であって、
前記画像を取得する画像取得ステップと、
前記画像取得ステップで取得された前記画像から前記特徴を抽出する抽出ステップと、
前記抽出ステップで抽出された前記特徴と、前記データベースとをマッチングさせることで前記移動体の自己位置を推定する推定ステップと、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を備え、
前記判定閾値調整ステップでは、記憶部に保存される前記データベースを更新するための前記判定閾値を調整し、
前記判定閾値調整ステップでは、前記判定閾値が調整された状態の前記データベースを取得し、当該データベースにおいて各位置情報と紐付けられた前記判定閾値に基づいて前記判定閾値の調整を行い、
前記抽出ステップでは、前記判定閾値調整ステップで調整された前記判定閾値を用いて、前記画像から前記特徴を抽出する、自己位置推定方法。

【請求項9】

取得された画像から抽出された特徴と、予め位置情報と前記特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定プログラムであって、
前記画像を取得する画像取得ステップと、
前記画像取得ステップで取得された前記画像から前記特徴を抽出する抽出ステップと、
前記抽出ステップで抽出された前記特徴と、前記データベースとをマッチングさせることで前記移動体の自己位置を推定する推定ステップと、
前記特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を制御部に実行させ、
前記判定閾値調整ステップでは、記憶部に保存される前記データベースを更新するための前記判定閾値を調整し、
前記判定閾値調整ステップでは、前記判定閾値が調整された状態の前記データベースを取得し、当該データベースにおいて各位置情報と紐付けられた前記判定閾値に基づいて前記判定閾値の調整を行い、
前記抽出ステップでは、前記判定閾値調整ステップで調整された前記判定閾値を用いて、前記画像から前記特徴を抽出する、自己位置推定プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラムに関する。

【背景技術】

【0002】

従来の自己位置推定装置として、特許文献１に記載されたものが知られている。この自己位置推定装置は、画像入力部から順に入力された時系列画像から物体の特徴点を抽出してトラッキングする。そして、算出された特徴点と地図情報とをマッチングさせることで、移動体の自己位置を推定している。この自己位置推定装置は、トラッキングする特徴点を厳選することで精度を上げている。

【先行技術文献】

【特許文献】

【0003】

【文献】国際特許公開２０１５－０４９７１７号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ここで、画像から特徴を抽出した場合、移動体の走行位置によっては、特徴の数や分布が不均一になる可能性がある。例えば、抽出される特徴が少ない場合や、分布に偏りがある場合、自己位置推定の精度が低下するという問題が生じる。また、抽出される特徴が多すぎると、処理速度が低下してリアルタイムでの自己位置推定が難しくなるという問題が生じる。

【0005】

従って、本発明は、移動体の走行位置によらず、高い精度にてリアルタイムで自己位置の推定を行うことができる自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラムを提供することを目的とする。

【課題を解決するための手段】

【0006】

本発明の一態様に係る自己位置推定装置は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、画像を取得する画像取得部と、画像取得部で取得された画像から特徴を抽出する抽出部と、抽出部で抽出された特徴と、データベースとをマッチングさせることで移動体の自己位置を推定する推定部と、特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、判定閾値調整部は、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行い、抽出部は、判定閾値調整部で調整された判定閾値を用いて、画像から特徴を抽出する。

【0007】

自己位置推定装置は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するためのものである。ここで、抽出部が画像から特徴を抽出するときに一定の判定閾値のみを用いる場合、移動体の走行位置によっては、特徴の数や分布が不均一になる可能性がある。これに対し、本発明に係る自己位置推定装置は、特徴を抽出するための判定閾値の調整を行う判定閾値調整部を有している。この判定閾値調整部は、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行う。従って、判定閾値調整部は、移動体の走行位置に応じ、判定閾値を適切な値に調整することができる。抽出部は、このように適切な値に調整された判定閾値を用いることで、数や分布が不均一になることを抑制した状態で、画像から特徴を抽出することができる。これにより、自己位置推定装置は、抽出される特徴が少ないことや分布に偏りがあることによる、自己位置推定の精度の低下、及び抽出される特徴が多すぎることによる処理速度の低下を抑制することができる。以上により、自己位置推定装置は、移動体の走行位置によらず、高い精度にてリアルタイムで自己位置の推定を行うことができる。

【0008】

判定閾値調整部は、例えば、判定閾値として、特徴か否かの判定対象となる判定画素に対して周囲画素が明るいか暗いかを判定する明暗閾値、及び、明るい又は暗いと判定された周囲画素の連続数を判定するコーナー閾値、の少なくとも一方を調整してよい。

【0009】

データベース内の所定の位置情報に紐付けられた画像は、複数のエリアに分割されており、一のエリアと他のエリアとでは、判定閾値が互いに異なっていてよい。これにより、画像内で特徴の分布が偏りやすい位置であっても、抽出部は、エリアに応じた適切な判定閾値で特徴を抽出することができる。

【0010】

抽出部は、抽出した特徴の分布態様が、データベースのものから変化しているか否かを判定してよい。抽出した特徴の分布態様がデータベースのものから変化している場合、周囲環境の変化など、精度の良い自己位置推定が行えなくなるような異常が発生している可能性がある。従って、抽出部が当該状況を判定することで、対策をとることが可能となる。

【0011】

データベースには、判定閾値の調整を行っても特徴の数が所定量に満たない位置が、走行注意エリアとして登録されていてよい。この場合、移動体が走行注意エリアを走行するときには、速やかに対策をとることが可能となる。

【0012】

本発明の一形態に係る自己位置推定装置は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置であって、画像を取得する画像取得部と、画像取得部で取得された画像から特徴を抽出する抽出部と、特徴を抽出するための判定閾値の調整を行う判定閾値調整部と、を備え、判定閾値調整部は、画像取得部で取得された画像から抽出された特徴の分布態様を評価し、当該評価結果に基づいて、特徴を抽出するための判定閾値を調整し、抽出部は、判定閾値調整部で調整された判定閾値を用いて、画像から特徴を抽出する。

【0013】

本発明の一形態に係る移動体は、上述の自己位置推定装置を備える。

【0014】

本発明の一形態に係る自己位置推定方法は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定方法であって、画像を取得する画像取得ステップと、画像取得ステップで取得された画像から特徴を抽出する抽出ステップと、抽出ステップで抽出された特徴と、データベースとをマッチングさせることで移動体の自己位置を推定する推定ステップと、特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を備え、判定閾値調整ステップでは、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行い、抽出ステップでは、判定閾値調整ステップで調整された判定閾値を用いて、画像から特徴を抽出する。

【0015】

本発明の一形態に係る自己位置推定プログラムは、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定プログラムであって、画像を取得する画像取得ステップと、画像取得ステップで取得された画像から特徴を抽出する抽出ステップと、抽出部で抽出された特徴と、データベースとをマッチングさせることで移動体の自己位置を推定する推定ステップと、特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を制御部に実行させ、判定閾値調整ステップでは、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行い、抽出ステップでは、判定閾値調整ステップで調整された判定閾値を用いて、画像から特徴を抽出する。

【0016】

これらの自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラムによれば、上述の自己位置推定装置と同様な効果を得ることができる。

【発明の効果】

【0017】

本発明によれば、移動体の走行位置によらず、高い精度にてリアルタイムで自己位置の推定を行うことができる自己位置推定装置、移動体、自己位置推定方法、及び自己位置推定プログラムを提供することができる。

【図面の簡単な説明】

【0018】

【図1】本発明の実施形態に係る自己位置推定装置を備える自己位置推定システムを示す概略図である。

【図2】本発明の実施形態に係る自己位置推定装置を備える移動体のブロック構成を示すブロック構成図である。

【図3】データベース作成時の作業場の様子を示す概略図である。

【図4】データベースの作成方法を示すフローチャートである。

【図5】特徴を抽出する方法を説明するための図である。

【図6】カメラで取得された画像、及び抽出された特徴を示す図である。

【図7】特徴の三次元座標を取得する方法を示す概念図である。

【図8】移動体が自動走行を行うときの様子を示す概略図である。

【図9】図９は、移動体の自己位置の推定方法を示すフローチャートである。

【図10】判定閾値調整部による処理内容を示すフローチャートである。

【図11】判定閾値調整部によって判定閾値が調整される前と調整された後の特徴点の様子を示す画像である。

【図12】走行注意エリアとして登録される位置での様子を示す画像である。

【図13】走行時に抽出した特徴の分布態様が、データベースのものから変化している様子を示す画像である。

【発明を実施するための形態】

【0019】

以下、本発明の実施形態について、図面を参照して詳細に説明する。

【0020】

図１は、本実施形態に係る自己位置推定装置１を備える自己位置推定システム１００を示す概略図である。図１に示すように、自己位置推定システム１００は、複数の移動体５０のそれぞれに設けられた自己位置推定装置１と、管理部２と、を備える。

【0021】

本実施形態では、移動体５０として、フォークリフトが例示されている。図１には、移動体５０としてのフォークリフトが、倉庫や工場などの作業場Ｅ（所定の領域）にて、荷物の積み卸しの作業を行っている様子が示されている。作業場Ｅでは、複数の棚６０が配列されている。また、棚６０と棚６０との間に、移動体５０が通過するための通路６１が形成されている。自己位置推定装置１は、このような作業場Ｅ内における移動体５０の自己位置を推定する装置である。自己位置推定装置１は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体５０の自己位置を推定する。移動体５０は、自己位置推定装置１で推定された自己位置を用いることで、作業場Ｅ内で自動走行することができる。なお、自己位置推定装置１の詳細な構成については後述する。管理部２は、作業場Ｅ内の複数の移動体５０を管理するサーバーである。管理部２は、必要に応じて、複数の移動体５０から所定の情報を受信し、複数の移動体５０に対して所定の情報を送信する。

【0022】

図２は、本実施形態に係る自己位置推定装置１を備える移動体５０のブロック構成を示すブロック構成図である。図２に示すように、移動体５０は、走行部１１と、カメラ１２（画像取得部）と、制御部２０と、を備える。走行部１１は、移動体５０を走行させるための駆動力を発生するモータなどの駆動系である。カメラ１２は、移動体５０の周囲の画像を取得する機器である。カメラ１２は、取得した画像を自己位置推定部２６へ送信する。

【0023】

制御部２０は、移動体５０を統括的に管理するＥＣＵ[Electronic Control Unit]を備えている。ＥＣＵは、ＣＰＵ[Central Processing Unit]、ＲＯＭ[Read Only Memory]、ＲＡＭ[Random Access Memory]、ＣＡＮ［Controller Area Network］通信回路等を有する電子制御ユニットである。ＥＣＵでは、例えば、ＲＯＭに記憶されているプログラムをＲＡＭにロードし、ＲＡＭにロードされたプログラムをＣＰＵで実行することにより各種の機能を実現する。制御部２０は、経路計画部２１と、指令速度計算部２２と、通信部２３と、記憶部２４と、自己位置推定部２６と、オドメトリ計算部２７と、自己位置決定部２８と、判定閾値調整部３１と、を備える。このうち、記憶部２４、自己位置推定部２６（抽出部、推定部）、オドメトリ計算部２７、自己位置決定部２８、判定閾値調整部３１、及びカメラ１２によって自己位置推定装置１が構成される。

【0024】

経路計画部２１は、移動体５０が移動する経路を計画する。経路計画部２１は、作業場Ｅの中の出発位置と目的位置とを設定すると共に、目的位置までの経路を計画する。経路計画部２１は、計画した経路の情報を指令速度計算部２２へ送信する。指令速度計算部２２は、走行部１１に対する指令速度、すなわちモータに対する指令回転数を計算する。指令速度計算部２２は、経路計画部２１から送信された経路、及び自己位置決定部２８から送信された自己位置に基づいて、指令回転数を計算する。通信部２３は、走行部１１との間で通信を行う。通信部２３は、走行部１１に対して走行に必要な制御信号を送信する。なお、通信部２３は、図示されないエンコーダからのエンコーダ値を取得すると共に、当該エンコーダ値をオドメトリ計算部２７に送信する。

【0025】

次に、自己位置推定装置１の各構成要素について説明する。記憶部２４は、自己位置推定に必要なデータベースを記憶する。データベースは、予め位置情報と、当該位置で取得された画像から抽出された特徴と、を関連付けた情報群である。記憶部２４は、自己位置推定部２６に対してデータベースを送信する。

【0026】

図２に戻り、自己位置推定部２６は、カメラ１２で取得された画像から特徴を抽出する。また、自己位置推定部２６は、カメラ１２で取得された画像から抽出された特徴と、記憶部２４から送信されたデータベースとをマッチングさせることで、移動体５０の自己位置を推定する。自己位置推定部２６は、推定した自己位置を自己位置決定部２８へ送信する。

【0027】

オドメトリ計算部２７は、通信部２３から取得したエンコーダ値に基づいて、オドメトリによる自己位置を計算する。オドメトリ計算部２７は、カメラ１２の画像によることなく、容易な計算によって自己位置を取得することができる。オドメトリ計算部２７は、オドメトリによる自己位置を自己位置決定部２８へ送信する。自己位置決定部２８は、自己位置推定部２６からの自己位置と、オドメトリ計算部２７からの自己位置を総合的に判断し、移動体５０の自己位置を決定する。自己位置決定部２８は、決定した自己位置を指令速度計算部２２へ送信する。

【0028】

判定閾値調整部３１は、特徴を抽出するための判定閾値の調整を行う。判定閾値調整部３１は、判定閾値として、後述の明暗閾値及びコーナー閾値の少なくとも一方を調整する。なお、判定閾値調整部３１については、データベースの作成方法について説明した後に、詳細に説明する。

【0029】

ここで、図３～図６を参照して、データベースの作成方法について説明する。データベースの作成は、実際に移動体５０が自己位置を推定しながら作業場Ｅで作業を行うよりも前段階において、予め行われる。データベースの作成は、作業場Ｅのうち、走行に重要なポイントにおいて画像を取得し、位置推定に必要な情報を算出してデータベース化して、作業場Ｅの地図に紐付けることによってなされる。重要なポイントは、例えば、図３において「１」～「１２」までの番号が付された位置である。以降の説明においては、「１」の番号の位置を「第１重要ポイント」と称するものとする。他の番号が付された場所も同様に「第ｎ重要ポイント」と称される。なお、ここでは、データベース作成のために、図２に示す移動体５０を用いるものとして説明する。後述のように、自己位置推定部２６が画像から特徴を抽出する機能や画像同士をマッチングする機能を有しているため、自己位置推定部２６がデータベース作成のための各種処理を行うものとする。しかし、データベース作成のために用いられる機器は、特に限定されず、以降の処理を実行できる機器であれば、どのようなものを採用してもよい。

【0030】

図４は、データベースの作成方法を示すフローチャートである。まず、カメラ１２は、データベースにしたい画像を１枚取得すると共に、その周辺の画像を１枚（複数でも可）取得する（ステップＳ１０：画像取得ステップ）。例えば、第１重要ポイントにおける画像をデータベースにする場合、カメラ１２は、第１重要ポイントで画像を１枚取得し、当該第１重要ポイントの近くから別の画像を取得する。次に、自己位置推定部２６は、特徴を抽出できるように、画像の前処理を行う（ステップＳ２０）。例えば、カメラ１２は、広範囲を撮影できるように魚眼レンズを有する場合がある。このときは、画像中の物体が歪んで映っているため、前処理を行って、実際の見え方に近い画像に調整する。

【0031】

次に、自己位置推定部２６は、二枚の画像からそれぞれ特徴を抽出する（ステップＳ３０：抽出ステップ）。ここで、図５を参照して、画像中の特徴の抽出の方法について説明する。図５は、特徴を抽出する方法を説明するための図である。図５（ａ）に示すように、自己位置推定部２６は、判定画素Ｘと周囲画素（ここでは１６画素）の輝度を比較することで、「明」「暗」「同」の三パターンに層別する。例えば、自己位置推定部２６は、「判定画素（Ｘ）－周囲画素（ｉ）＞明暗閾値」という関係が成り立つ周囲画素は「明」と判定し、「判定画素（Ｘ）－周囲画素（ｉ）＜明暗閾値」という関係が成り立つ周囲画素は「暗」と判定し、「（判定画素（Ｘ）－周囲画素（ｉ））の絶対値＜明暗閾値」という関係が成り立つ周囲画素は「同」と判定する。

【0032】

ここで、自己位置推定部２６は、「明」または「暗」の周囲画素の連続数がコーナー閾値以上となった場合、判定画素Ｘを画像中の特徴として抽出する。例えば、コーナー閾値を「１２」とした場合、図５（ｂ）の判定画素Ｘは「明」の周囲画素が１２連続以上であるため、特徴として抽出される。図５（ｃ）の判定画素Ｘは「明」の周囲画素が１１連続しかないため、判定画素Ｘは特徴ではないものとして破棄される。これにより、図６に示すように、画像ＰＣ中の棚、床、天井、壁などの構造物のコーナー部などが特徴（特徴点ＦＰ）として抽出される。その他、荷物、設置物、移動体などが画像に写っている場合、それらの物体のコーナー部も特徴として抽出される。なお、判定閾値調整部３１による調整が行われる前段階では、明暗閾値及びコーナー閾値として、予め設定されたデフォルト値が用いられてよい。

【0033】

本明細書では、特徴として抽出された画素を「特徴点ＦＰ」と称する場合がある。なお、自己位置推定に用いられる画像中の特徴は、点である場合のみならず、線や所定形状などである場合もある。すなわち、特徴は、画像中において特徴的な部分として画像処理によって抽出可能な部分であり、且つ、他の画像で抽出したものとマッチング可能な部分であれば、どのような態様であるかは限定されない。なお、本実施形態では、特徴点抽出方法として図５に示す方法を例示したが、抽出方法は特に限定されるものではない。また、抽出方法として別のものを採用した場合は、上述のような明暗閾値、及びコーナー閾値に代えて、抽出方法に合わせた閾値を用いてよい。

【0034】

図４に戻り、自己位置推定部２６は、二枚の画像同士の特徴をマッチングする（ステップＳ４０）。そして、自己位置推定部２６は、特徴の３次元復元を行い、データベースとして登録する。データベースでは、重要ポイント（画像が取得された位置）の位置情報と、画像中の特徴の画像座標と、特徴の３次元座標とが、関連付けられた形で登録されている。なお、位置情報には、撮影時のカメラ１２の姿勢も含まれる。例えば、図７に示すように、重要ポイントにおける画像ＰＣ１中では、特徴点Ｇ，Ｒ，Ｂが抽出されており、それらの画像座標が特定されている。また、画像ＰＣ１が取得された場所の位置情報も特定されている。重要ポイントの周囲で取得された画像ＰＣ２中でも、特徴点Ｇ，Ｒ，Ｂが抽出されており、それらの画像座標が特定されている。また、画像ＰＣ２が取得された場所の位置情報も特定されている。周囲の撮影位置と、重要ポイントとの位置関係は、オドメトリ値を紐付けたり、画像から推定するなどの方法で把握される。自己位置推定部２６は、画像ＰＣ１と画像ＰＣ２の特徴同士をマッチングする。これにより、自己位置推定部２６は、三角測量の要領で、特徴点Ｇ，Ｒ，Ｂの三次元座標を取得することができる。

【0035】

図４に戻り、ステップＳ５０の処理が終了すると、一枚の画像のデータベース化が終了する。移動体５０は、次の重要ポイントへ移動し、当該重要ポイントにてカメラ１２で画像を取得して、再び図４の処理を行う。このようにして、作業場Ｅの全ての重要ポイントでの画像のデータベース化を行う。作成されたデータベースは、記憶部２４に格納される。

【0036】

次に、図１０及び図１１を参照して、判定閾値調整部３１について説明する。図１０は、判定閾値調整部３１による処理内容を示すフローチャートである。図１１は、判定閾値調整部３１によって判定閾値が調整される前と調整された後の特徴点ＦＰの様子を示す画像である。図１１の上段側が調整前の画像であり、下段側が調整後の画像である。判定閾値調整部３１は、カメラ１２で取得された画像から抽出された特徴の分布態様を評価し、当該評価結果に基づいて、特徴を抽出するための判定閾値を調整する。

【0037】

例えば、図１１（ａ）の上段側の画像が示すように、第３重要ポイントでは、特徴が多くなりすぎる。この場合、演算の負荷が大きくなり、リアルタイムでの自己位置推定が行い難くなる。従って、図１１（ａ）の下段側の画像が示すように、判定閾値調整部３１は、判定閾値を調整して、特徴の数を減少させる。また、図１１（ｂ）の上段側の画像が示すように、第１０重要ポイントでは、特徴が少なすぎる。この場合、自己位置推定が行い難くなる。従って、図１１（ｂ）の下段側の画像が示すように、判定閾値調整部３１は、判定閾値を調整して、特徴の数を増加させる。判定閾値調整部３１は、ある位置における画像について判定閾値の調整を行ったら、当該画像に対応する位置情報に対して、判定閾値を紐付けて、データベースに登録する。すなわち、図１１（ａ）の例では、判定閾値調整部３１は、第３重要ポイントの位置情報に対して、特徴を減少させる判定閾値を紐付けて登録する。図１１（ｂ）の例では、判定閾値調整部３１は、第１０重要ポイントの位置情報に対して、特徴を増加させる判定閾値を紐付けて登録する。

【0038】

また、図１１（ｃ）の上段側の画像が示すように、第６重要ポイントでは、左側のエリアにて適切な数の特徴が均一に分布しているのに対し、右側のエリアでは特徴が少ない。その結果、画像全体で見た時に特徴の分布に偏りが生じている。従って、図１１（ｃ）の下段側の画像が示すように、判定閾値調整部３１は、右側のエリアの判定閾値を調整して、右側のエリアの数を増加させる。その結果、画像全体として見て、特徴の分布が均一となる。このように、判定閾値調整部３１は、ある位置における画像を複数のエリアに分割する。そして、それぞれの分割エリアに対して、個別に判定閾値の調整を行うことができる。判定閾値調整部３１は、判定閾値と共に分割パターンもデータベースに登録する。図１１（ｃ）の例では、判定閾値調整部３１は、第６重要ポイントの位置情報に対して、左半分と右半分とを分割した分割パターンと共に、右半分のエリアにおいて特徴を増加させる判定閾値を紐付けて登録する。これにより、データベース内の所定の位置情報に紐付けられた画像は、複数のエリアに分割されており、一のエリアと他のエリア（図１１（ｃ）の例では、左半分のエリアと右半分のエリア）とでは、判定閾値が互いに異なっている。

【0039】

次に、図１０を参照して判定閾値調整部３１の処理内容について説明する。なお、図１０に示す処理は、図４のステップＳ３０とステップＳ４０との間で実行されてもよいし、図４の処理が全て終了した後で実行されてもよい。図１０に示すように、判定閾値調整部３１は、調整対象となる画像の入力を行う（ステップＳ２１０）。次に、判定閾値調整部３１は、画像を複数のエリアに分割する（ステップＳ２２０）。このとき、どのように画像を分割するかは特に限定されない。例えば、判定閾値調整部３１は、画像を左右に二分割してもよいし、左右上下に四分割してもよいし、さらに細分化してもよい。次に、判定閾値調整部３１は、分割したエリアごとに明暗閾値を調整する（ステップＳ２３０：判定閾値調整ステップ）。なお、第１回目のステップＳ２３０では、明暗閾値としてデフォルト値が用いられてよい。次に、判定閾値調整部３１は、特徴数が一定範囲内に収まっているか否かを判定する（ステップＳ２４０）。判定閾値調整部３１は、分割された各エリアについて、特徴数を判定する。特徴数の範囲は任意に設定可能である。また、エリアの分割数が多くなればなるほど、一エリアあたりの大きさは小さくなる。従って、特徴数の範囲は、分割数に応じて適宜設定される。ステップＳ２４０において、全てのエリアについて特徴数が一定範囲内と判定された場合、判定閾値調整部３１は、対応する位置情報に対して、判定閾値、及び分割パターン、及び特徴数などを紐付けてデータベースに登録する（ステップＳ２５０）。

【0040】

ステップＳ２４０において、全てのエリアについて特徴数が一定範囲内でないと判定された場合、判定閾値調整部３１は、明暗閾値を全て試したか否かを判定する（ステップＳ２６０）。ステップＳ２６０において、まだ試していない明暗閾値が存在すると判定された場合、再びステップＳ２３０から処理を繰り返す。なお、ステップＳ２６０の後のステップＳ２３０では、他の明暗閾値が用いられる。このとき、判定閾値調整部３１は、分布態様を考慮して、あらたな明暗閾値を設定してよい。例えば、画像が暗すぎることによって特徴数が明かに少なすぎる場合、判定閾値調整部３１は、明暗閾値を大きく減少させてよい。また、複数のエリアのうち、一部のエリアについては特徴数が一定範囲内であった場合、当該エリアについては、判定閾値調整部３１は、判定閾値の調整を行わなくてよい。

【0041】

ステップＳ２６０において、全ての明暗閾値を試したと判定された場合、判定閾値調整部３１は、分割したエリアごとにコーナー閾値を調整する（ステップＳ２７０：判定閾値調整ステップ）。次に、判定閾値調整部３１は、特徴数が一定範囲内に収まっているか否かを判定する（ステップＳ２８０）。ステップＳ２８０において、全てのエリアについて特徴数が一定範囲内と判定された場合、判定閾値調整部３１は、対応する位置情報に対して、判定閾値、及び分割パターン、及び特徴数などを紐付けてデータベースに登録する（ステップＳ２５０）。ステップＳ２８０において、全てのエリアについて特徴数が一定範囲内でないと判定された場合、判定閾値調整部３１は、コーナー閾値を全て試したか否かを判定する（ステップＳ２９０）。ステップＳ２９０において、まだ試していない明暗閾値が存在すると判定された場合、再びステップＳ２７０から処理を繰り返す。ステップＳ２９０において、全てのエリアについて全てのコーナー閾値を試したと判定された場合、判定閾値調整部３１は、対応する位置情報に対して、判定閾値、及び分割パターン、及び特徴数などを紐付けてデータベースに登録する（ステップＳ２５０）。

【0042】

なお、データベースには、判定閾値の調整を行っても特徴の数が所定量に満たない位置が、走行注意エリアとして登録されてよい。すなわち、上述のステップＳ２９０において、ステップＳ２９０において、全てのエリアについて全てのコーナー閾値を試したと判定された場合、判定閾値調整部３１は、対応する位置情報について、自己位置推定を良好に行う事ができない走行注意エリアとして登録する。この場合、移動体５０は、自己位置推定結果は用いずに、オドメトリによる自己位置のみに基づいて走行を行ってよい。例えば、図１２に示すように、画像中に写り込んでいる物自体がシンプルであって、特徴が抽出できない場合、走行注意エリアとして登録される。

【0043】

次に、図８及び図９を参照して、移動体５０の自動走行の方法、及び自動走行のための自己位置推定部２６による自己位置推定方法について説明する。例えば、移動体５０は、図８に示す現在位置ＳＴから、目標位置ＧＬである第８重要ポイントまで自動走行するものとする。このとき、自己位置推定部２６は、移動体５０が現在どこに存在しているかを推定する。これにより、自己位置決定部２８は、現在位置ＳＴが「第１０重要ポイントから東へ２ｍ」であると決定できる。そして、経路計画部２１は、「第１１重要ポイントまで東に４８ｍ、第８重要ポイントまで北へ１６ｍ」という経路を計画する。これにより、移動体が自動走行を行う。

【0044】

図９は、移動体５０の自己位置の推定方法を示すフローチャートである。自己位置推定部２６は、移動体５０の自己位置を推定するために図９に示す処理を実行する。図９に示すように、自己位置推定部２６は、カメラ１２から移動体５０の走行中の画像を取得する（ステップＳ１１０：画像取得ステップ）。例えば、カメラ１２は、第１０重要ポイント付近の現在位置ＳＴで画像を取得する（図８参照）。次に、自己位置推定部２６は、特徴を抽出できるように、画像の前処理を行う（ステップＳ１２０）。

【0045】

次に、判定閾値調整部３１は、特徴を抽出するための判定閾値の調整を行う（ステップＳ１２５：判定閾値調整ステップ）。判定閾値調整部３１は、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行う。なお、ステップＳ１２５は厳密な自己位置推定がなされる後述のステップＳ１５０の前段階の処理であるため、当該ステップＳ１２５では、判定閾値調整部３１は、１フレーム前の自己位置情報を基に、使用するデータベースとデータベースに紐付けられた判定閾値を読み出してよい。また、初期位置では（すなわち１フレーム前の自己位置情報が無い場合）、管理者から最初に与えられる画像から自己位置が推定されてよい。あるいは、全てのデータベースに対し自己位置推定を行い、最も推定精度が高いと評価（例えば最もマッチング成功数が高い）された結果を自己位置と把握して、そこを初期位置としてよい。

【0046】

次に、自己位置推定部２６は、走行中の画像から特徴を抽出する（ステップＳ１３０：抽出ステップ）。このとき、自己位置推定部２６は、ステップＳ１２５で調整された判定閾値を用いて特徴の抽出が行われる。なお、ステップＳ１２０，Ｓ１３０では、図４のステップＳ２０，Ｓ３０と同趣旨の処理がなされる。これにより、図６のような画像ＰＣが取得された場合には、特徴点ＦＰが取得される。

【0047】

次に、自己位置推定部２６は、ステップＳ１３０で抽出した特徴と、データベースの画像の特徴とをマッチングさせる（ステップＳ１４０：推定ステップ）。そして、自己位置推定部２６は、移動体５０の自己位置を推定する（ステップＳ１５０：推定ステップ）。

【0048】

例えば、移動体５０の走行中に、図６に示す画像ＰＣに類似する画像が得られた場合、自己位置推定部２６は、図６のものと類似する複数の特徴点ＦＰを抽出することができる。そして、自己位置推定部２６は、当該特徴点と、データベースの画像中の特徴点とを照らし合わせる。データベース作成時に第１０重要ポイントで図６に示す画像ＰＣが得られ、図６に示す複数の特徴点ＦＰが抽出されていた場合、自己位置推定部２６は、ステップＳ１３０で抽出された特徴点と、図６に示す特徴点ＦＰとをマッチングさせることができる。なお、特徴点同士をマッチングさせる方法としては、例えば、特徴点の特徴量記述子を計算し、データベースの特徴点の中から最も距離が小さい特徴点をマッチングさせる方法が挙げられるが、方法は特に限定されず、公知の方法を用いればよい。

【0049】

ここで、走行中に撮影した場所が、第１０重要ポイントからずれており、走行中に撮影したときの姿勢が、データベース作成時の撮影の姿勢からずれている場合、走行中に撮影された画像及び特徴点の画像座標は、図６の画像ＰＣ及び特徴点ＦＰの画像座標から若干のずれが生じている。従って、ステップＳ１５０では、自己位置推定部２６は、データベースから任意の３点の特徴点の座標を、走行中の画像の３点の特徴点に紐付ける。そして、自己位置推定部２６は、公知の３点法の技術を用いて、移動体５０の位置及び姿勢を推定する。なお、ステップＳ１５０に用いられる３点の特徴点は、画像中に多数存在する特徴点の中から、ランダムで選ばれる。

【0050】

次に、本実施形態に係る自己位置推定装置１、移動体５０、自己位置推定方法、及び自己位置推定プログラムの作用・効果について説明する。

【0051】

自己位置推定装置１は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するためのものである。ここで、自己位置推定部２６が画像から特徴を抽出するときに一定の判定閾値のみを用いる場合、移動体５０の走行位置によっては、特徴の数や分布が不均一になる可能性がある（例えば、図１１の上段の画像を参照）。これに対し、本実施形態に係る自己位置推定装置１は、特徴を抽出するための判定閾値の調整を行う判定閾値調整部３１を有している。この判定閾値調整部３１は、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行う。従って、判定閾値調整部３１は、移動体５０の走行位置に応じ、判定閾値を適切な値に調整することができる。自己位置推定部２６は、このように適切な値に調整された判定閾値を用いることで、数や分布が不均一になることを抑制した状態で、画像から特徴を抽出することができる。これにより、自己位置推定装置１は、抽出される特徴が少ないことや分布に偏りがあることによる、自己位置推定の精度の低下、及び抽出される特徴が多すぎることによる処理速度の低下を抑制することができる。以上により、自己位置推定装置１は、移動体５０の走行位置によらず、高い精度にてリアルタイムで自己位置の推定を行うことができる。

【0052】

判定閾値調整部３１は、例えば、判定閾値として、特徴か否かの判定対象となる判定画素に対して周囲画素が明るいか暗いかを判定する明暗閾値、及び、明るい又は暗いと判定された周囲画素の連続数を判定するコーナー閾値、の少なくとも一方を調整してよい。

【0053】

データベース内の所定の位置情報に紐付けられた画像は、複数のエリアに分割されており、一のエリアと他のエリアとでは、判定閾値が互いに異なっていてよい。これにより、画像内で特徴の分布が偏りやすい位置であっても（例えば、図１１（ｃ）の上段の画像を参照）、自己位置推定部２６は、エリアに応じた適切な判定閾値で特徴を抽出することができる。

【0054】

データベースには、判定閾値の調整を行っても特徴の数が所定量に満たない位置が、走行注意エリアとして登録されていてよい。この場合、移動体５０が走行注意エリアを走行するときには、速やかに対策をとることが可能となる。例えば、移動体５０は、走行注意エリアでは、画像を用いた自己位置の推定結果を用いることなく、他の手段（例えばオドメトリのみに基づく走行支援）での走行に切り替えてよい。あるいは、移動体５０は、走行注意エリアでは、通常よりも速度を落として走行してよい。

【0055】

本発明の一形態に係る自己位置推定装置１は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体の自己位置を推定するための自己位置推定装置１であって、画像を取得するカメラ１２と、カメラ１２で取得された画像から特徴を抽出する自己位置推定部２６と、特徴を抽出するための判定閾値の調整を行う判定閾値調整部３１と、を備え、判定閾値調整部３１は、カメラ１２で取得された画像から抽出された特徴の分布態様を評価し、当該評価結果に基づいて、特徴を抽出するための判定閾値を調整し、自己位置推定部２６は、判定閾値調整部３１で調整された判定閾値を用いて、画像から特徴を抽出する。

【0056】

本発明の一形態に係る移動体５０は、上述の自己位置推定装置１を備える。

【0057】

本発明の一形態に係る自己位置推定方法は、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体５０の自己位置を推定するための自己位置推定方法であって、画像を取得する画像取得ステップと、画像取得ステップで取得された画像から特徴を抽出する抽出ステップと、抽出ステップで抽出された特徴と、データベースとをマッチングさせることで移動体５０の自己位置を推定する推定ステップと、特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を備え、判定閾値調整ステップでは、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行い、抽出ステップでは、判定閾値調整ステップで調整された判定閾値を用いて、画像から特徴を抽出する。

【0058】

本発明の一形態に係る自己位置推定プログラムは、取得された画像から抽出された特徴と、予め位置情報と特徴とを関連付けたデータベースとをマッチングさせることで移動体５０の自己位置を推定するための自己位置推定プログラムであって、画像を取得する画像取得ステップと、画像取得ステップで取得された画像から特徴を抽出する抽出ステップと、抽出ステップで抽出された特徴と、データベースとをマッチングさせることで移動体の自己位置を推定する推定ステップと、特徴を抽出するための判定閾値の調整を行う判定閾値調整ステップと、を制御部に実行させ、判定閾値調整ステップでは、判定閾値が調整された状態のデータベースを取得し、当該データベースにおいて各位置情報と紐付けられた判定閾値に基づいて判定閾値の調整を行い、抽出ステップでは、判定閾値調整ステップで調整された判定閾値を用いて、画像から特徴を抽出する。

【0059】

これらの自己位置推定装置１、移動体５０、自己位置推定方法、及び自己位置推定プログラムによれば、上述の自己位置推定装置１と同様な効果を得ることができる。

【0060】

本発明は、上述の実施形態に限定されるものではない。

【0061】

自己位置推定部２６は、上述の実施形態に示された機能に加えて、更に機能が追加されてもよい。例えば、自己位置推定部２６は、抽出した特徴の分布態様が、データベースのものから変化しているか否かを判定してよい。走行時に抽出した特徴の分布態様がデータベースのものから変化している場合、周囲環境の変化など、精度の良い自己位置推定が行えなくなるような異常が発生している可能性がある。従って、自己位置推定部２６が当該状況を判定することで、対策をとることが可能となる。例えば、図１３の左側の画像に示すように、データベース作成時には特徴の分布が各エリアに均一であったものが、図１３の右側の画像に示すように、照度が変化したり、画像にブレが生じることで、特徴の数が少なくなることがある。このような場合、自己位置推定部２６は、抽出した特徴の分布態様（図１３の右側の態様）が、データベースのもの（図１３の左側の態様）から変化していると判定する。当該判定には、特徴点の数などに対して閾値を設定してよい。変化していると判定された場合、移動体５０は、警告を出したり、走行処理を変更するなどの対策をとってよい。例えば、移動体５０は、走行速度を落とし、判定閾値を調整しなおしてデータベースを更新してよい。あるいは、移動体５０は、画像を用いた自己位置の推定結果を用いることなく、他の手段（例えばオドメトリのみに基づく走行支援）での走行に切り替えてよい。なお、一つのデータベースに対して、判定閾値を複数セット、有していてもよい。例えば、データベースは、朝の時間帯の判定閾値のセットと、夕方の時間帯の判定閾値のセットを有してよい。

【0062】

上述の実施形態では、移動体５０に自己位置推定装置の構成要素が全て含まれていた。これに代えて、管理部２が自己位置推定装置の一部の機能を有してもよい。

【符号の説明】

【0063】

１…自己位置推定装置、１２…カメラ（画像取得部）、２６…自己位置推定部（抽出部、推定部）、３１…判定閾値調整部、５０…移動体。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】