IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社東芝の特許一覧 ▶ 東芝デバイス&ストレージ株式会社の特許一覧

特許7182895情報処理装置、プログラム、および情報処理方法
<>
  • 特許-情報処理装置、プログラム、および情報処理方法 図1
  • 特許-情報処理装置、プログラム、および情報処理方法 図2
  • 特許-情報処理装置、プログラム、および情報処理方法 図3
  • 特許-情報処理装置、プログラム、および情報処理方法 図4
  • 特許-情報処理装置、プログラム、および情報処理方法 図5
  • 特許-情報処理装置、プログラム、および情報処理方法 図6
  • 特許-情報処理装置、プログラム、および情報処理方法 図7
  • 特許-情報処理装置、プログラム、および情報処理方法 図8
  • 特許-情報処理装置、プログラム、および情報処理方法 図9
  • 特許-情報処理装置、プログラム、および情報処理方法 図10
  • 特許-情報処理装置、プログラム、および情報処理方法 図11
  • 特許-情報処理装置、プログラム、および情報処理方法 図12
  • 特許-情報処理装置、プログラム、および情報処理方法 図13
  • 特許-情報処理装置、プログラム、および情報処理方法 図14
  • 特許-情報処理装置、プログラム、および情報処理方法 図15
  • 特許-情報処理装置、プログラム、および情報処理方法 図16
  • 特許-情報処理装置、プログラム、および情報処理方法 図17
  • 特許-情報処理装置、プログラム、および情報処理方法 図18
  • 特許-情報処理装置、プログラム、および情報処理方法 図19
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-25
(45)【発行日】2022-12-05
(54)【発明の名称】情報処理装置、プログラム、および情報処理方法
(51)【国際特許分類】
   G05D 1/02 20200101AFI20221128BHJP
   G08G 1/00 20060101ALN20221128BHJP
【FI】
G05D1/02 K
G08G1/00 D
【請求項の数】 14
(21)【出願番号】P 2018077541
(22)【出願日】2018-04-13
(65)【公開番号】P2019185528
(43)【公開日】2019-10-24
【審査請求日】2021-01-14
(73)【特許権者】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(73)【特許権者】
【識別番号】317011920
【氏名又は名称】東芝デバイス&ストレージ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】佐野 雄磨
(72)【発明者】
【氏名】渡辺 友樹
【審査官】今井 貞雄
(56)【参考文献】
【文献】特開2017-215940(JP,A)
【文献】特開2011-013803(JP,A)
【文献】特開2017-215939(JP,A)
【文献】国際公開第2016/021303(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G05D 1/02
(57)【特許請求の範囲】
【請求項1】
画像と、前記画像の取得環境の三次元点の三次元点情報と、を取得する取得部と、
前記画像内の領域ごとに属性を割当てる割当部と、
前記三次元点に、前記画像内の対応する前記領域に割当てられた前記属性を設定する設定部と、
前記三次元点情報と、前記三次元点に設定された前記属性に応じた進行不可能確率と、に基づいて、区画領域ごとに進行可能または進行不可能な度合いを示す障害物地図を生成する生成部と、
を備え
前記生成部は、
立体物を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第1障害物地図を生成する第1生成部と、
進行可能または進行不可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第2障害物地図を生成する第2生成部と、
前記第1障害物地図と前記第2障害物地図とを統合した前記障害物地図を生成する統合部と、
を有する
情報処理装置。
【請求項2】
前記生成部は、
上空から地面を見下ろした視点に対応する前記障害物地図を作成する、
請求項1に記載の情報処理装置。
【請求項3】
前記属性は、
進行可能、進行不可能、または立体物を示す、
請求項1または請求項2に記載の情報処理装置。
【請求項4】
前記第1生成部は、
立体物を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率として、第1進行不可能確率を規定し、
基準位置から該第1進行不可能確率を規定した前記区画領域までの範囲内の他の前記区画領域に、前記進行不可能確率として、前記第1進行不可能確率より低い第2進行不可能確率を規定し、
前記第1進行不可能確率を規定された前記区画領域より前記基準位置から離れた範囲内の他の前記区画領域に、前記進行不可能確率として、前記第1進行不可能確率と前記第2進行不可能確率との間の中間確率を規定した、
前記第1障害物地図を作成する、
請求項に記載の情報処理装置。
【請求項5】
前記第2生成部は、
進行不可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に前記第1進行不可能確率を規定し、
進行可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に前記第2進行不可能確率を規定し、
前記第1進行不可能確率または前記第2進行不可能確率を未規定の前記区画領域に、前記第1進行不可能確率または前記第2進行不可能確率を規定された前記区画領域に基づいた前記進行不可能確率を規定した、
前記第2障害物地図を作成する、
請求項に記載の情報処理装置。
【請求項6】
前記第2生成部は、
進行可能を示す前記属性を設定された前記三次元点、および、進行不可能を示す前記属性を設定された前記三次元点、の双方に対応する前記区画領域に、進行不可能を示す前記属性に応じた前記進行不可能確率を規定する、
請求項に記載の情報処理装置。
【請求項7】
前記統合部は、
前記第1進行不可能確率が最も高く、前記第2進行不可能確率が次に高く、前記中間確率が最も低い、前記進行不可能確率の優先度に基づいて、
前記障害物地図に含まれる前記区画領域の各々に、前記第1障害物地図の対応する前記区画領域に規定された前記進行不可能確率および前記第2障害物地図の対応する前記区画領域に規定された前記進行不可能確率の内、より優先度の高い前記進行不可能確率を規定することによって、
前記第1障害物地図と前記第2障害物地図を統合した前記障害物地図を生成する、
請求項または請求項に記載の情報処理装置。
【請求項8】
前記障害物地図を含む表示画面を表示部に表示する出力制御部を備える、
請求項1~請求項の何れか1項に記載の情報処理装置。
【請求項9】
前記画像を撮影する撮影部と、
前記画像の撮影時の前記取得環境の、前記三次元点の前記三次元点情報を計測する計測部と、
を備え、
前記取得部は、前記撮影部および前記計測部から、前記画像および前記三次元点情報を取得する、
請求項1~請求項の何れか1項に記載の情報処理装置。
【請求項10】
前記計測部は、レーザによって前記三次元点情報を計測する、
請求項に記載の情報処理装置。
【請求項11】
前記計測部は、レーザの照射方向と、前記レーザの前記三次元点による反射光に関する情報と、に基づいて前記三次元点情報を計測する、
請求項1に記載の情報処理装置。
【請求項12】
前記障害物地図を示す情報に応じて、移動体の動力部を制御する動力制御部、
を備える、請求項1~請求項1の何れか1項に記載の情報処理装置。
【請求項13】
コンピュータに実行させるためのプログラムであって、
画像と、前記画像の取得環境の三次元点の三次元点情報と、を取得する取得ステップと、
前記画像内の領域ごとに属性を割当てる割当ステップと、
前記三次元点に、前記画像内の対応する前記領域に割当てられた前記属性を設定する設定ステップと、
前記三次元点情報と、前記三次元点に設定された前記属性に応じた進行不可能確率と、に基づいて、区画領域ごとに進行可能または進行不可能な度合いを示す障害物地図を生成する生成ステップと、
を含み、
前記生成ステップは、
立体物を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第1障害物地図を生成する第1生成ステップと、
進行可能または進行不可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第2障害物地図を生成する第2生成ステップと、
前記第1障害物地図と前記第2障害物地図とを統合した前記障害物地図を生成する統合ステップと、
を含む、
ログラム。
【請求項14】
画像と、前記画像の取得環境の三次元点の三次元点情報と、を取得する取得ステップと、
前記画像内の領域ごとに属性を割当てる割当ステップと、
前記三次元点に、前記画像内の対応する前記領域に割当てられた前記属性を設定する設定ステップと、
前記三次元点情報と、前記三次元点に設定された前記属性に応じた進行不可能確率と、に基づいて、区画領域ごとに進行可能または進行不可能な度合いを示す障害物地図を生成する生成ステップと、
を含み、
前記生成ステップは、
立体物を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第1障害物地図を生成する第1生成ステップと、
進行可能または進行不可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第2障害物地図を生成する第2生成ステップと、
前記第1障害物地図と前記第2障害物地図とを統合した前記障害物地図を生成する統合ステップと、
を含む、
情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施の形態は、情報処理装置、プログラム、および情報処理方法に関する。
【背景技術】
【0002】
移動体の進行の障害となる障害物に関する障害物地図を生成する技術が開示されている。また、実空間における三次元形状的に進行不可能な領域に加えて、三次元形状的には進行可能であっても進行規則的に進行不可能な領域を規定した、障害物地図を生成する技術が開示されている。例えば、ステレオ視差から生成した三次元グリッドマップを構成するボクセルの各々に対して、属性の特定と属性の更新をフレーム毎に実施する技術が開示されている。
【0003】
しかし、従来技術では、三次元グリッドマップのボクセルの各々に対して、属性の特定および属性の更新をフレームごとに実行するため、障害物地図の生成時の処理負荷が大きかった。
【先行技術文献】
【特許文献】
【0004】
【文献】Semantic 3D Occupancy Mapping through Efficient High Order CRFs, IROS2017
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする課題は、処理負荷の軽減を図ることができる、情報処理装置、プログラム、および情報処理方法を提供することである。
【課題を解決するための手段】
【0006】
実施の形態の情報処理装置は、取得部と、割当部と、設定部と、生成部と、を備える。取得部は、画像と、前記画像の取得環境の三次元点の三次元点情報と、を取得する。割当部は、前記画像内の領域ごとに属性を割当てる。設定部は、前記三次元点に、前記画像内の対応する前記領域に割当てられた前記属性を設定する。生成部は、前記三次元点情報と、前記三次元点に設定された前記属性に応じた進行不可能確率と、に基づいて、区画領域ごとに進行可能または進行不可能な度合いを示す障害物地図を生成する。前記生成部は、立体物を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第1障害物地図を生成する第1生成部と、進行可能または進行不可能を示す前記属性を設定された前記三次元点に対応する前記区画領域に、前記進行不可能確率を規定した第2障害物地図を生成する第2生成部と、前記第1障害物地図と前記第2障害物地図とを統合した前記障害物地図を生成する統合部と、を有する。
【図面の簡単な説明】
【0007】
図1】移動体の構成を示す図。
図2】移動体のブロック図。
図3】撮影画像の模式図。
図4】属性画像の模式図。
図5】属性画像の模式図。
図6】直交座標系を示す図。
図7】属性画像の上面図。
図8】進行不可能確率を示す模式図。
図9】進行不可能確率を示す模式図。
図10】進行不可能確率を示す模式図。
図11】進行不可能確率を示す模式図。
図12】進行不可能確率を示す模式図。
図13】直交座標系を示す図。
図14】障害物地図の模式図。
図15】時系列統合の説明図。
図16】表示画面の模式図。
図17】情報処理のフローチャート。
図18】移動体の構成を示す図。
図19】ハードウェア構成図。
【発明を実施するための形態】
【0008】
以下に添付図面を参照して、情報処理装置、プログラム、および情報処理方法を詳細に説明する。
【0009】
図1は、本実施の形態の移動体10の一例を示す図である。
【0010】
移動体10は、情報処理装置20と、出力部10Aと、外界センサ10Bと、内界センサ10Cと、動力制御部10Gと、動力部10Hと、を備える。
【0011】
情報処理装置20は、例えば、専用または汎用コンピュータである。本実施の形態では、情報処理装置20が、移動体10に搭載されている場合を一例として説明する。
【0012】
移動体10とは、移動可能な物である。移動体12は、例えば、車両、台車、飛行可能な物体(有人飛行機、無人飛行機(例えば、UAV(Unmanned Aerial Vehicle)、ドローン))、ロボット、などである。また、移動体10は、例えば、人による運転操作を介して進行する移動体や、人による運転操作を介さずに自動的に進行(自律進行)可能な移動体である。本実施の形態では、移動体12が車両である場合を一例として説明する。車両は、例えば、二輪自動車、三輪自動車、四輪自動車などである。本実施の形態では、車両が、自律進行可能な四輪自動車である場合を一例として説明する。
【0013】
なお、情報処理装置20は、移動体10に搭載された形態に限定されない。情報処理装置20は、静止物に搭載されていてもよい。静止物は、地面に固定された物である。静止物は、移動不可能な物や、地面に対して静止した状態の物である。静止物は、例えば、信号機、駐車車両、道路標識、などである。また、情報処理装置20は、クラウド上で処理を実行するクラウドサーバに搭載されていてもよい。
【0014】
動力部10Hは、移動体10に搭載された駆動デバイスである。動力部10Hは、例えば、エンジン、モータ、車輪、などである。
【0015】
動力制御部10Gは、動力部10Hを制御する。動力制御部10Gの制御によって動力部10Hが駆動する。例えば、動力制御部10Gは、移動体10を自動的に運転するために、外界センサ10Bおよび内界センサ10Cから得られる情報や、後述する処理で生成される障害物地図などに基づいて、動力部10Hを制御する。動力部10Hの制御によって、移動体10のアクセル量、ブレーキ量、操舵角などが制御される。例えば、動力制御部10Gは、障害物などの物体を避けて現在進行中の車線を保ち、かつ前方車両との車間距離を所定距離以上保つように車両の制御を行う。
【0016】
出力部10Aは、各種情報を出力する。本実施の形態では、出力部10Aは、情報処理装置20で生成された障害物地図を示す情報を出力する。障害物地図の詳細は後述する。
【0017】
出力部10Aは、例えば、障害物地図を示す情報を送信する通信機能、障害物地図を表示する表示機能、障害物地図を示す音を出力する音出力機能、などを備える。例えば、出力部10Aは、通信部10D、ディスプレイ10E、および、スピーカ10F、の少なくとも1つを含む。なお、本実施の形態では、出力部10Aは、通信部10D、ディスプレイ10E、およびスピーカ10Fを備えた構成を一例として説明する。
【0018】
通信部10Dは、障害物地図を示す情報を他の装置へ送信する。例えば、通信部10Dは、公知の通信回線を介して障害物地図を示す情報を他の装置へ送信する。ディスプレイ10Eは、障害物地図を示す情報を表示する。ディスプレイ10Eは、例えば、公知の有機EL(Electro Luminescence)ディスプレイやLCD(Liquid Crystal Display)や投影装置やライトなどである。スピーカ10Fは、障害物地図を示す音を出力する。
【0019】
外界センサ10Bは、移動体10の周辺の外界を認識するセンサである。外界センサ10Bは、移動体10に搭載されていてもよいし、該移動体10の外部に搭載されていてもよい。移動体10の外部とは、例えば、他の移動体や外部装置などを示す。
【0020】
移動体10の周辺とは、該移動体10から予め定めた範囲内の領域である。この範囲は、外界センサ10Bの観測可能な範囲である。この範囲は、予め設定すればよい。
【0021】
外界センサ10Bは、外界の観測情報を取得する。観測情報は、外界センサ10Bの設置位置の周辺の、観測結果を示す情報である。本実施の形態では、観測情報は、画像および三次元点情報を導出可能な情報である。また、観測情報は、画像および三次元点情報を示すものであってもよい。
【0022】
本実施の形態では、外界センサ10Bは、撮影部10Jを含む。本実施の形態では、撮影部10Jが、撮影画像を画像として取得する。なお、観測情報に含まれる画像は、撮影画像に限定されない。撮影画像は、三次元画像であってもよいし、二次元画像であってもよい。本実施の形態では、観測情報に含まれる画像が、二次元の撮影画像である場合を一例として説明する。
【0023】
撮影部10Jは、移動体10の周辺を撮影した撮影画像を得る。撮影部10Jは、例えば、公知のデジタルカメラである。なお、撮影とは、レンズなどの光学系により結像された被写体の像を、電気信号に変換することを指す。撮影部10Jは、撮影した撮影画像を、情報処理装置20へ出力する。
【0024】
また、本実施の形態では、外界センサ10Bは、計測部10Kを含む。計測部10Kは、撮影画像の取得環境の三次元点の、三次元点情報を計測する。
【0025】
三次元点は、撮影画像の取得環境、すなわち撮影環境における、計測部10Kによって個別に観測される点の各々を示す。例えば、計測部10Kは、計測部10Kの周囲に光を照射し、反射点で反射した反射光を受光する。この反射点が、三次元点に相当する。なお、複数の反射点を1つの三次元点として用いてもよい。
【0026】
三次元点情報は、実空間(三次元空間)における三次元点の位置を示す情報である。例えば、三次元点情報は、計測部10Kから三次元点までの距離と、計測部10Kを基準とした三次元点の方向と、を示す情報である。これらの距離および方向は、例えば、計測部10Kを基準とする三次元点の相対位置を示す位置座標や、三次元点の絶対位置を示す位置座標や、ベクトルなどで表すことができる。具体的には、三次元点情報は、極座標や、直交座標で表される。
【0027】
計測部10Kは、例えば、ステレオカメラ、単眼カメラ、距離センサ(ミリ波レーダ、レーザセンサ)、音波によって物体を探知するソナーセンサ、超音波センサ、などである。レーザセンサは、例えば、水平面に対して平行に設置された二次元LIDAR(Laser Imaging Detection and Ranging)センサや、三次元LIDARセンサである。
【0028】
計測部10Kがステレオカメラである場合、計測部10Kは、カメラ間の視差情報を用いて、三次元点の三次元点情報を計測すればよい。また、計測部10Kが単眼カメラである場合、計測部10Kは、Structure from Motionなどを用いて特定した、移動体10の動きに伴った撮影画像の変化に基づいて、三次元点の三次元点情報を計測してもよい。
【0029】
計測部10Kがレーザセンサである場合、計測部10Kは、レーザの照射方向と、レーザの三次元点による反射光に関する情報と、を含む観測情報を得る。反射光に関する情報は、レーザの照射から反射光の受光までの経過時間や、受光した反射光の強度または出射したレーザの強度に対する受光した反射光の強度の減衰率、などである。そして、この場合、計測部10Kは、観測情報および公知の算出計測方法を用いて、三次元点の三次元点情報を導出することで、三次元点情報を計測すればよい。
【0030】
そして、計測部10Kは、計測した三次元点の三次元点情報を、情報処理装置20へ出力する。なお、情報処理装置20が、観測情報から三次元点の各々の三次元点情報を導出してもよい。本実施の形態では、計測部10Kが、三次元点の各々の三次元点情報を導出する場合を説明する。
【0031】
なお、本実施の形態では、撮影部10Jは、移動体10の進行方向を撮影方向として設置されている場合を一例として説明する。また、計測部10Kは、移動体10の進行方向を計測方向として設置されている場合を、一例として説明する。
【0032】
このため、本実施の形態では、撮影部10Jおよび計測部10Kは、移動体10の進行方向(すなわち前方)の、撮影画像および三次元点の各々の三次元点情報を取得する場合を、一例として説明する。
【0033】
内界センサ10Cは、移動体10自体の情報を観測するセンサである。内界センサ10Cは、移動体10の位置を示す自己位置情報を取得する。なお、上述したように、本実施の形態では、移動体10には、撮影部10Jおよび計測部10Kが搭載されている。このため、自己位置情報は、移動体10の位置を示すと共に、撮影部10Jおよび計測部10Kの位置を示す情報であるといえる。
【0034】
内界センサ10Cは、例えば、慣性計測装置(IMU:Inertial Measurement Unit)、速度センサ、GPS(Global Positioning System)等である。IMUは、移動体10の三軸加速度および三軸角速度などを得る。なお、自己位置情報は、ワールド座標(世界座標)によって表されるものとする。
【0035】
次に、移動体10の電気的構成について詳細に説明する。図2は、移動体10の構成の一例を示すブロック図である。
【0036】
移動体10は、情報処理装置20と、出力部10Aと、外界センサ10Bと、内界センサ10Cと、動力制御部10Gと、動力部10Hと、を備える。上述したように、出力部10Aは、通信部10Dと、ディスプレイ10Eと、スピーカ10Fと、を含む。
【0037】
情報処理装置20、出力部10A、外界センサ10B、内界センサ10C、および動力制御部10Gは、バス10Iを介して接続されている。動力部10Hは、動力制御部10Gに接続されている。
【0038】
情報処理装置20は、記憶部20Bと、処理部20Aと、を有する。すなわち、出力部10A、外界センサ10B、内界センサ10C、動力制御部10G、処理部20A、および記憶部20Bは、バス10Iを介して接続されている。
【0039】
なお、記憶部20B、出力部10A(通信部10D、ディスプレイ10E、スピーカ10F)、外界センサ10B、内界センサ10C、および動力制御部10G、の少なくとも1つは、有線または無線で処理部20Aに接続すればよい。また、記憶部20B、出力部10A(通信部10D、ディスプレイ10E、スピーカ10F)、外界センサ10B、内界センサ10C、および動力制御部10G、の少なくとも1つと、処理部20Aと、を、ネットワークを介して接続してもよい。
【0040】
記憶部20Bは、各種データを記憶する。記憶部20Bは、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、ハードディスク、光ディスク等である。なお、記憶部20Bは、情報処理装置20の外部に設けられた記憶装置であってもよい。また、記憶部20Bは、記憶媒体であってもよい。具体的には、記憶媒体は、プログラムや各種情報を、LAN(Local Area Network)やインターネットなどを介してダウンロードして記憶または一時記憶したものであってもよい。また、記憶部20Bを、複数の記憶媒体から構成してもよい。
【0041】
処理部20Aは、取得部20Cと、割当部20Dと、設定部20Eと、生成部20Fと、出力制御部20Gと、を備える。生成部20Fは、第1生成部20Hと、第2生成部20Iと、統合部20Jと、を含む。
【0042】
処理部20A、記憶部20B、取得部20C、割当部20D、設定部20E、生成部20F、出力制御部20G、第1生成部20H、第2生成部20I、および統合部20Jは、例えば、1または複数のプロセッサにより実現される。例えば上記各部は、例えば、1または複数のプロセッサにより実現される。例えば上記各部は、CPU(Central Processing Unit)などのプロセッサにプログラムを実行させること、すなわちソフトウェアにより実現してもよい。上記各部は、専用のIC(Integrated Circuit)などのプロセッサ、すなわちハードウェアにより実現してもよい。上記各部は、ソフトウェアおよびハードウェアを併用して実現してもよい。複数のプロセッサを用いる場合、各プロセッサは、各部のうち1つを実現してもよいし、各部のうち2以上を実現してもよい。
【0043】
プロセッサは、記憶部20Bに保存されたプログラムを読み出し実行することで、上記各部を実現する。なお、記憶部20Bにプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成してもよい。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで、上記各部を実現する。
【0044】
取得部20Cは、撮影画像と、撮影画像の取得環境(撮影環境)の三次元点の三次元点情報と、を取得する。
【0045】
本実施の形態では、取得部20Cは、撮影部10Jから撮影画像を取得する。また、取得部20Cは、計測部10Kから複数の三次元点の各々の三次元点情報を取得する。
【0046】
本実施の形態では、取得部20Cは、撮影部10Jによる撮影が行われるたびに、撮影により得られた撮影画像と、撮影時の移動体10の位置を示す自己位置情報と、撮影画像30の撮影環境の複数の三次元点の各々の三次元点情報と、の組を取得する。すなわち、取得部20Cは、複数の該組を、時系列に取得する。
【0047】
図3は、撮影画像30の一例を示す模式図である。図3に示す撮影画像30は、移動体10の前方を撮影して得られた撮影画像である。撮影画像30には、車道、車道の脇の歩道、駐車車両(他の車両)、建物などが写り込んでいる。本実施の形態では、取得部20Cは、移動体10に取り付けられた撮影部10Jによる撮影によって、図3に示すような移動体10の進行に関わる範囲を撮影した撮影画像を、時系列に取得する。
【0048】
図1に戻り説明を続ける。割当部20Dは、撮影画像30内の領域ごとに、属性を割当てる。詳細には、割当部20Dは、撮影画像30を分割して得られる複数の領域ごとに属性を判定する。撮影画像30内の領域とは、例えば、撮影画像30を構成する各画素の画素領域や、隣接する複数の画素群からなる画素領域などである。そして、割当部20Dは、これらの複数の領域の各々に、判定した属性を割当てる。
【0049】
属性とは、移動体10の周囲の環境を予め定めた分類条件に応じて複数のグループに分類した、各グループの特性や性質を示す。本実施の形態では、属性は、進行可能、進行不可能、または立体物を示す。
【0050】
割当部20Dは、公知の方法を用いて、撮影画像30内の領域ごとの属性を判定する。例えば、割当部20Dは、機械学習を用いて属性判定を行う。機械学習を用いた属性判定には、公知の方法を用いればよい。例えば、割当部20Dは、J.Long, et.al,‘‘Fully Convolutional Networks for Semantic Segmentation’’, CVPR2015やV.Badrinarayanan, et. al, ‘‘SegNet: A Deep Convolutional Encoder-Decoder Architecture for Robust Semantic Pixel-Wise Labelling’’, CVPR2015などの方式を用いることで、撮影画像30内の領域毎に属性を判定する。
【0051】
このようにして、割当部20Dは、撮影画像30内の領域ごとに、該領域の属性を判定する。例えば、領域が1画素の画素領域を示す場合、割当部20Dは、画素ごとに属性を判定する。そして、割当部20Dは、画素毎に判定した属性を、各画素の画素値として規定することで、撮影画像30内の領域(画素領域)ごとに属性を割当てる。
【0052】
図4は、撮影画像30内の領域Eごとに属性を割当てた属性画像32の一例を示す模式図である。割当部20Dは、撮影画像30内の領域Eごとに属性を割当てることで、例えば、図4に示す属性画像32を生成する。
【0053】
本実施の形態では、割当部20Dは、撮影画像30について、進行可能な領域E2である車道と、進行不可能な領域E3である歩道と、に互いに異なる属性(進行可能、進行不可能)を割当てる。歩道は、移動体10が進行することの可能な領域であるが、交通規則的に進行が禁止されている領域である。このような領域E3に、割当部20Dは、進行不可能を示す属性を割当てる。また、割当部20Dは、撮影画像30に含まれる他の車両や建物を示す領域E1に、立体物を示す属性を割当てる。
【0054】
そして、割当部20Dは、撮影画像30内の各領域Eに属性を割当てた属性画像32を、設定部20Eへ出力する。
【0055】
図2に戻り説明を続ける。次に、設定部20Eについて説明する。設定部20Eは、三次元点に、撮影画像30内の対応する領域Eに割当てられた属性を設定する。
【0056】
設定部20Eは、三次元点と、撮影画像30の画素と、の対応を特定する。すなわち、設定部20Eは、取得部20Cで取得した三次元点情報によって示される三次元点の各々について、撮影画像30を構成する画素の内、対応する位置の画素を特定する。そして、設定部20Eは、三次元点に、特定した対応する位置の画素を含む領域Eに割当てられた属性を設定する。
【0057】
詳細には、設定部20Eは、三次元点の各々について、三次元点情報に示される三次元位置の座標を、撮影画像30を撮影した撮影部10Jの位置を原点とした座標(カメラ座標)に変換する。すなわち、三次元点情報に示される三次元位置は、計測部10Kを原点とした三次元座標である。このため、設定部20Eは、計測部10Kから取得した三次元点情報によって示される三次元座標を座標変換し、撮影部10Jを原点としたカメラ座標に変換する。
【0058】
具体的には、三次元点情報によって示される三次元位置の座標から、撮影画像30を撮影したときの撮影部10Jを原点とするカメラ座標への回転行列を、Rcとする。また、並進ベクトルをtcとする。すると、三次元点情報によって示される三次元点の座標(Xin、Yin、Zin)に対する、撮影画像30を撮影したときの撮影部10Jの位置を原点としたカメラ座標(X、Y、Z)は、下記式(1)によって表される。
【0059】
【数1】
【0060】
なお、回転行列Rは、3×3の行列、並進ベクトルtは、要素数3のベクトルである。
【0061】
そして、設定部20Eは、三次元点の三次元点情報によって示される三次元位置の座標を、上記式(1)を用いてカメラ座標に変換する。
【0062】
ここで、上述したように、属性画像32は、撮影画像30内の領域E(例えば画素領域)に属性を割当てた画像である(図4参照)。そこで、次に、設定部20Eは、座標変換後の三次元位置の座標(M=(X、Y、Z))によって示される三次元点について、属性画像32中の対応する位置の画素の座標(m=(x,y))を、下記式(2)を用いて算出する。
【0063】
【数2】
【0064】
式(2)中、m’は、座標m=(x,y)の同次座標を示す。また、M’は、座標M=(X、Y、Z)の同次座標を示す。Aは、撮影部10Jの内部パラメータを示す。
【0065】
撮影部10Jの内部パラメータは、撮影部10Jの特性を表す。撮影部10Jの内部パラメータは、例えば、撮影部10Jのレンズの焦点距離、レンズの光軸に対する素子の画像中心の位置または位置座標などを含む。
【0066】
なお、計測部10Kが、ステレオカメラ等の撮影装置であり、撮影によって得られたステレオ画像に基づいて三次元点の三次元点情報を計測する場合がある。この場合、計測部10Kによる三次元点情報の計測の過程で、三次元座標(X、Y、Z)に対する撮影画像30における座標(x、y)は既知である。このため、この場合、式(1)の計算は不要である。
【0067】
なお、撮影部10Jの内部パラメータA、外部パラメータである回転行列R、および並進ベクトルtは、事前のキャリブレーションにより予め取得しているものとする。
【0068】
そして、設定部20Eは、三次元点の各々に、座標変換後の座標(M=(X、Y、Z))から算出した、属性画像32中の対応する座標(m=(x,y))の領域Eに割当てられた属性を、設定する。この処理により、設定部20Eは、三次元点に、撮影画像30内の対応する領域Eに割当てられた属性を設定する。
【0069】
図5は、座標変換後の座標(M=(X、Y、Z))の三次元点Pを、属性画像32における、上記式(2)によって算出された対応する座標(m=(x,y))によって示される画素位置に配置した属性画像34である。
【0070】
図5には、立体物を示す属性を割当てられた領域E1に配置された三次元点Pを、丸マークの三次元点P1として示した。すなわち、三次元点P1には、属性“立体物”が設定される。また、図5には、進行可能を示す属性を割当てられた領域E2に配置された三次元点Pを、星マークの三次元点P2として示した。すなわち、三次元点P2には、属性“進行可能”が設定される。また、図5には、進行不可能を示す属性を割当てられた領域E3に配置された三次元点Pを、菱形マークの三次元点P3として示した。すなわち、三次元点P3には、属性“進行不可能”が設定される。
【0071】
そして、設定部20Eは、三次元点P(例えば、三次元点P1~三次元点P3)の三次元点情報と、三次元点Pの各々に設定された属性と、を生成部20Fへ出力する。
【0072】
図2に戻り説明を続ける。次に、生成部20Fについて説明する。
【0073】
生成部20Fは、三次元点Pの三次元点情報と、三次元点Pに設定された属性と、に基づいて、障害物地図を生成する。
【0074】
本実施の形態では、生成部20Fは、区画領域ごとに、進行可能または進行不可能な度合いを示す障害物地図を生成する。
【0075】
区画領域は、撮影部10J(移動体10)の周囲の空間を、撮影部10J(移動体10)を原点とした極座標系に沿って、格子状に複数の区画領域に分割した各領域を示す。すなわち、本実施の形態では、撮影部10Jや移動体10の位置を、基準位置として用いる。
【0076】
なお、区画領域のサイズは、計測部10Kで計測する三次元点Pのサイズ以上である。すなわち、区画領域のサイズは、三次元点Pと同じ大きさであってもよい。また、区画領域のサイズは、複数の三次元点を含むことのできるサイズであってもよい。すなわち、区画領域のサイズは、計測部10Kで計測可能な三次元点の最大密度であるセンサ解像度に応じたサイズと同じであってもよいし、該センサ解像度に応じたサイズより大きいサイズであってもよい。また、区画領域のとりうる最大のサイズは、適宜調整すればよい。
【0077】
本実施の形態では、区画領域のサイズは、三次元点Pのサイズ以上である場合を説明する。このため、本実施の形態では、1つの区画領域内に、1または複数の三次元点が含まる場合を、一例として説明する。
【0078】
進行可能または進行不可能な度合いは、例えば、確率で表される。なお、進行可能または進行不可能な度合いは、確率で表す形態に限定されない。本実施の形態では、生成部20Fは、進行可能または進行不可能な度合を、確率で表す形態を一例として説明する。
【0079】
また、本実施の形態では、生成部20Fは、進行不可能確率を区画領域ごとに規定した、障害物地図を生成する場合を、一例として説明する。進行不可能確率とは、移動体10が進行することが不可能な確率を示す。進行不可能確率は、値が大きいほど、より進行不可能な確率が高い事を意味する。
【0080】
詳細には、まず、生成部20Fは、撮影画像30の撮影時刻における撮影部10Jの位置情報を特定する。位置情報は、該撮影画像30の撮影時刻に取得した自己位置情報から特定すればよい。上述したように、撮影部10Jの位置情報は、ワールド座標(世界座標)によって表される。
【0081】
次に、生成部20Fは、撮影部10J(移動体10)の周囲の空間を、撮影部10J(移動体10)を原点とした極座標系に沿って、格子状に複数の区画領域に分割する。
【0082】
図6は、撮影部10Jの周囲の空間を、撮影部10Jを原点とした極座標系に沿って分割した区画領域を、直交座標系で示した図である。図6には、撮影部10Jの前方の180°の範囲を、10°毎に区切って18個の角度方向に分割した例を示した。
【0083】
次に、生成部20Fは、属性を設定された三次元点Pに対して、下記式(3)および式(4)を用いて、三次元点Pの座標を直交座標(x,z)から極座標(r,θ)に変換する。
【0084】
【数3】
【0085】
次に、生成部20Fは、図6に示すように、撮影部10Jを原点とする極座標の角度方向ごとに、三次元点Pに設定された属性に応じた進行不可能確率を算出する。
【0086】
本実施の形態では、生成部20Fが、角度方向ごとに、三次元点Pに設定された属性に応じた進行不可能確率を規定する場合を一例として説明する。言い換えると、本実施の形態では、生成部20Fは、角度方向に沿って配列された区画領域の各々の進行不可能確率を、角度方向ごとに規定することで、障害物地図を生成する。
【0087】
属性に応じた進行不可能確率は、予め定めればよい。
【0088】
本実施の形態では、生成部20Fは、立体物を示す属性を設定された三次元点P1に対応する区画領域に、進行不可能確率として、第1進行不可能確率を設定する。本実地の形態では、第1進行不可能確率として、最大の進行不可能確率を示す“1.0”を設定する。これは、立体物を示す属性を設定された三次元点P1に対応する区画領域は、障害物が存在するため進行不可能であることを表すためである。
【0089】
また、生成部20Fは、進行可能を示す属性を設定された三次元点P2に対応する区画領域に、進行不可能確率として、第2進行不可能確率を規定する。第2進行不可能確率は、第1進行不可能確率より低い値である。本実施の形態では、第2進行不可能確率として、最小の値を示す“0.0”を設定する場合を説明する。これは、進行可能を示す属性を設定された三次元点P2に対応する区画領域は、障害物が存在せず進行可能であることを表すためである。
【0090】
また、生成部20Fは、進行不可能を示す属性を設定された三次元点P3に対応する区画領域に、進行不可能確率として、第1進行不可能確率“1.0”を設定する。これは、進行不可能を示す属性を設定された三次元点P3に対応する区画領域は、交通規則などの規則上、進行不可能な可能性が高い事を表すためである。
【0091】
また、生成部20Fは、撮影部10Jの位置を原点とした角度方向において、該撮影部10Jに最も近い位置に配置された、立体物を示す属性を設定された三次元点P1に対応する区画領域より、撮影部10Jから離れる側に配置された区画領域に、進行不可能確率として、中間確率を規定する。中間確率は、第1進行不可能確率(1.0)と第2進行不可能確率(0.0)との中間の値である。本実施の形態では、中間確率として、“0.5”を設定する場合を一例として説明する。これは、該区画領域の状態が不明であることを表すためである。
【0092】
そして、生成部20Fは、上記処理で進行不可能確率を未規定の区画領域について、進行不可能確率(第1進行不可能確率、第2進行不可能確率、中間確率)を規定済の区画領域に基づいて、後述する方法により、進行不可能確率を規定する。これらの処理により、生成部20Fは、障害物地図を生成する。
【0093】
障害物地図の生成処理について、詳細に説明する。図7は、図5に示す属性画像34の撮影環境を、上空から地面を見下ろした視点に対応する上面図として示した図である。図7に示すように、生成部20Fは、角度方向ごとに、三次元点Pに設定された属性に応じた進行不可能確率を算出する。
【0094】
なお、図7には、一例として、撮影部10J(移動体10)を原点とした3つの角度方向(角度方向A~角度方向C)を示した。図7において、角度方向Aでは建物が撮影部10Jから見て最も近い位置に存在し、撮影部10Jからrの距離に位置していると想定する。また、角度方向Bでは、車両が撮影部10Jから見て最も近い位置に存在し、撮影部10Jからrの距離に位置していると想定する。また、角度方向Cには、車両や建物などの立体物が存在しないと仮定する。
【0095】
そして、生成部20Fは、角度方向ごとに、三次元点Pに設定された属性に応じた進行不可能確率を規定する。
【0096】
図2に戻り説明を続ける。本実施の形態では、生成部20Fは、第1生成部20Hと、第2生成部20Iと、統合部20Jと、を含む。
【0097】
まず、第1生成部20Hについて説明する。第1生成部20Hは、立体物を示す属性を設定された三次元点P1に対応する区画領域に、進行不可能確率を規定した第1障害物地図を生成する。詳細には、第1生成部20Hは、立体物を示す属性を設定された三次元点P1に対応する区画領域を含む角度方向について、該角度方向に沿って配列された区画領域の各々に進行不可能確率を規定することで、第1障害物地図40を生成する。
【0098】
まず、第1生成部20Hは、角度方向の内、立体物を示す属性を設定された三次元点P1に対応する区画領域を含む角度方向を特定する。図7に示す例の場合、第1生成部20Hは、角度方向Aおよび角度方向Bを特定する。
【0099】
そして、第1生成部20Hは、上述したように、立体物を示す属性を設定された三次元点P1に対応する区画領域に、進行不可能確率として、第1進行不可能確率(1.0)を規定する。
【0100】
次に、第1生成部20Hは、基準位置である撮影部10J(移動体10)の位置から、該三次元点P1に対応する区画領域までの範囲内の他の区画領域に、進行不可能確率として、第2進行不可能確率(0.0)を規定する。これは、撮影部10J(移動体10)から最も近い位置に存在する立体物より撮影部10Jに近い位置に存在する区画領域は、障害物が存在せず進行可能である確率が高いためである。
【0101】
更に、第1生成部20Hは、立体物を示す属性を設定された三次元点P1に対応する区画領域より、基準位置である撮影部10J(移動体10)の位置から離れた範囲内の他の区画領域に、進行不可能確率として、中間確率(0.5)を規定する。これは、撮影部10J(移動体10)から最も近い位置に存在する立体物より撮影部10Jから遠い位置に存在する区画領域は、立体物による遮蔽によって状態が不明のためである。
【0102】
図8は、第1生成部20Hが規定した進行不可能確率を示す模式図である。図8(A)は、図7中の角度方向Aおよび角度方向Bに沿って配列された複数の区画領域を抽出して示した模式図である。言い換えると、図8(A)は、第1障害物地図40における、特定の角度方向に沿って配列された複数の区画領域40Aの各々に規定された、進行不可能確率を示す模式図である。
【0103】
図8(A)に示すように、第1生成部20Hは、撮影部10Jから距離rの位置の、立体物を示す属性を設定された三次元点P1に対応する区画領域には、第1進行不可能確率“1.0”を規定する。また、第1生成部20Hは、距離rの位置の区画領域と撮影部10J(移動体10)との間の範囲に存在する区画領域には、第2進行不可能確率“0.0”を規定する。また、第1生成部20Hは、距離rの位置の区画領域より撮影部10J(移動体10)から遠い範囲に存在する区画領域には、中間確率“0.5”を規定する。
【0104】
このように、第1生成部20Hは、各角度方向の各々の内、立体物を示す属性を設定された三次元点P1に対応する区画領域を含む角度方向ごとに、該角度方向に沿って配列された区画領域の各々に進行不可能確率を規定することで、第1障害物地図40を生成する。
【0105】
なお、撮影部10Jから見て最も近い位置に存在する立体物(距離rの位置)より撮影部10Jから離れた位置に、更に他の立体物が存在する場合がある。この場合、図8(B)に示すように、第1生成部20Hは、図8(A)と同様にして、進行不可能確率を規定した後に、更に、距離rの位置の区画領域より撮影部10Jから遠い位置に配置された、立体物を示す属性を設定された三次元点P1に対応する区画領域に、第1進行不可能確率“1.0”を更に規定すればよい。
【0106】
なお、立体物を示す属性を設定された三次元点P1を含まない角度方向が存在する場合がある。例えば、図7に示す角度方向Cには、立体物を示す属性を設定された三次元点P1が含まれなない。この場合、第1生成部20Hは、該角度方向Cに沿って配列された区画領域に、中間確率である“0.5”を規定する。
【0107】
図9は、第1生成部20Hが規定した進行不可能確率を示す模式図である。詳細には、図9は、図7中の角度方向Cに沿って配列された複数の区画領域40Cの各々に規定された、進行不可能確率を示す模式図である。図9に示すように、三次元点P1を含まない角度方向C沿って配列された区画領域に対して、第1生成部20Hは、中間確率“0.5”を規定する。
【0108】
このように、第1生成部20Hは、立体物を示す属性を設定された三次元点P1に対応する区画領域を含む角度方向について、上記方法で進行不可能確率を規定した、第1障害物地図40を生成する。
【0109】
次に、第2生成部20Iについて説明する。第2生成部20Iは、進行可能または進行不可能を示す属性を設定された三次元点P(三次元点P2、三次元点P3)に対応する区画領域に、進行不可能確率を規定した第2障害物地図を生成する。
【0110】
詳細には、第2生成部20Iは、進行可能または進行不可能を示す属性を設定された三次元点P(三次元点P2、三次元点P3)に対応する区画領域を含む角度方向について、該角度方向に沿って配列された区画領域の各々に進行不可能確率を規定することで、第2障害物地図を生成する。
【0111】
第2生成部20Iは、各角度方向に沿って配列された区画領域の内、進行不可能を示す属性を設定された三次元点P3に対応する区画領域に、第1進行不可能確率“1.0”を規定する。
【0112】
また、第2生成部20Iは、各角度方向に沿って配列された区画領域の内、進行可能を示す属性を設定された三次元点P2に対応する区画領域に、第2進行不可能確率“0.0”を規定する。
【0113】
そして、第2生成部20Iは、特定した角度方向に沿って配列された区画領域の内、進行可能を示す属性または進行不可能を示す属性を未規定の区画領域に、中間確率“0.5”を設定する。
【0114】
図10は、第2生成部20Iが規定した進行不可能確率を示す模式図である。図10(A)には、第2障害物地図42’における、特定の角度方向に沿って配列された複数の区画領域42’Eの各々に規定された、進行不可能確率を示す模式図である。
【0115】
図10(A)に示すように、第2生成部20Iは、該角度方向に沿った区画領域の内、進行不可能を示す属性を設定された三次元点P3に対応する区画領域には、第1進行不可能確率“1.0”を規定する。また、第2生成部20Iは、該角度方向に沿った区画領域の内、進行可能を示す属性を設定された三次元点P2に対応する区画領域には、第2進行不可能確率“0.0”を規定する。また、また、第2生成部20Iは、該角度方向に沿った区画領域の内、進行可能または進行不可能を示す属性を未規定の区画領域には、中間確率“0.5”を規定する。
【0116】
次に、第2生成部20Iは、該中間確率“0.5”を規定した区画領域に、第1進行不可能確率“1.0”または第2進行不可能確率“0.0”を規定された区画領域に基づいた進行不可能確率を規定する。すなわち、第2生成部20Iは、該中間確率“0.5”を規定した区画領域の進行不可能確率を、第1進行不可能確率または第2進行不可能確率を規定された周囲の区画領域の進行不可能確率を用いて補完する。
【0117】
具体的には、第2生成部20Iは、図10(A)において中間確率“0.5”を規定した区画領域の進行不可能確率を、第2進行不可能確率“0.0”または第1進行不可能確率“1.0”を規定した周囲の区画領域の進行不可能確率を用いて補完する。
【0118】
図10(B)は、図10(A)における中間確率“0.5”の規定された区画領域を、周囲の他の区画領域に規定された進行不可能確率を用いて補完(変更)した状態を示す模式図である。
【0119】
図10(A)に示すように、第2生成部20Iは、中間確率“0.5”の規定された区画領域の進行不可能確率を、角度方向に隣接する一対の他の区画領域に規定された進行不可能確率に変更する。
【0120】
具体的には、中間確率“0.5”を規定された区画領域が、角度方向に沿って、第2進行不可能確率“0.0”を規定された一対の区画領域によって挟まれているとする。この場合、第2生成部20Iは、中間確率“0.5”の規定された該区画領域の進行不可能確率を第2進行不可能確率“0.0”に変更する(図10(B)参照)。
【0121】
また、中間確率“0.5”を規定された区画領域が、角度方向に沿って、第1進行不可能確率“1.0”を規定された一対の区画領域によって挟まれているとする。この場合、第2生成部20Iは、中間確率“0.5”の規定された該区画領域の進行不可能確率を第1進行不可能確率“1.0”に変更する(図10(B)参照)。
【0122】
また、中間確率“0.5”の規定された区画領域が、角度方向に沿って、第1進行不可能確率“1.0”を規定された区画領域と、第2進行不可能確率“0.0”を規定された区画領域と、によって挟まれているとする。この場合、第2生成部20Iは、中間確率“0.5”の規定された該区画領域の進行不可能確率を、第1進行不可能確率と第2進行不可能確率の中間の値である中間確率“0.5”に規定する(図10(B)参照)。
【0123】
このようにして、第2生成部20Iは、進行可能または進行不可能を示す属性を設定された三次元点P(三次元点P2、三次元点P3)に対応する区画領域を含む角度方向について、該角度方向に沿って配列された区画領域の各々に進行不可能確率を規定することで、第2障害物地図42を生成する。
【0124】
このため、第2障害物地図42における、図7に示す角度方向A~角度方向Cの各々に対応する、区画領域の各々に規定された進行不可能確率は、図11に示すものとなる。図11は、第2生成部20Iが規定した進行不可能確率を示す模式図である。図11(A)は、図7に示す角度方向Aに沿って配列された複数の区画領域42Aの各々に規定された、進行不可能確率を示す模式図である。図11(B)は、図7に示す角度方向Bに沿って配列された複数の区画領域42Aの各々に規定された、進行不可能確率を示す模式図である。図11(C)は、図7に示す角度方向Cに沿って配列された複数の区画領域42Aの各々に規定された、進行不可能確率を示す模式図である。
【0125】
なお、第2生成部20Iは、中間確率“0.5”を規定された区画領域を、周囲の他の区画領域に規定された進行不可能確率を用いて補完する際、中間確率“0.5”を規定された区画領域に対応する領域E(図4参照)に割当てられた属性を、考慮してもよい。
【0126】
図10(A)を用いて具体的に説明する。図10(A)において、一番左から2番目に位置する、中間確率“0.5”を規定された区画領域の進行不可能確率を、補完する場合を想定する。この場合、上述したように、第2生成部20Iは、図10(A)において一番左と左から3番目の各々に位置する、進行可能を示す属性を設定された三次元点P2に対応する区画領域の各々に規定された第2進行不可能確率“0.0”を用いて、補完処理を行う。
【0127】
ここで、図10(A)において一番左に位置する区画領域に対応する三次元点P2が、属性画像32(図4参照)内の画素位置(x1,y1)の画素に対応すると想定する。また、図10(A)において、一番左から3番目に位置する区画領域に対応する三次元点P2が、属性画像32(図4参照)内の画素位置(x2,y2)の画素に対応すると想定する。また、属性画像32における、画素位置(x1,y1)と画素位置(x2,y2)を結ぶ範囲を、補完対象の区画領域の範囲と仮定する。
【0128】
そして、属性画像32における、画素位置(x1,y1)と画素位置(x2,y2)とを結ぶ範囲に位置する画素(領域E)に、進行不可能を示す属性が割り当てられていない場合を想定する。この場合、第2生成部20Iは、図10(B)に示すように、補完対象の区画領域に対し、進行可能を示す属性に対応する第2進行不可能確率“0.0”を設定する。
【0129】
一方、属性画像32における、画素位置(x1,y1)と画素位置(x2,y2)とを結ぶ範囲に位置する画素(領域E)に、進行不可能を示す属性が割り当てられている場合を想定する。この場合、第2生成部20Iは、補完対象の区画領域に対し、中間確率“0.5”を設定する。
【0130】
ここで、1つの区画領域に対して、互いに異なる属性を設定された複数の三次元点Pが対応する場合がある。例えば、進行可能を示す属性を設定された三次元点P2と、進行不可能を示す属性を設定された三次元点P3と、の双方に対応する区画領域が存在する場合がある。
【0131】
この場合、第2生成部20Iは、該区画領域に、進行不可能を示す属性に応じた進行不可能確率である第1進行不可能確率“1.0”を規定すればよい。
【0132】
次に、統合部20Jについて説明する。統合部20Jは、第1障害物地図40と、第2障害物地図42と、を統合した障害物地図を生成する。
【0133】
詳細には、統合部20Jは、進行不可能確率の優先度に基づいて、第1障害物地図40と第2障害物地図42を統合する。
【0134】
進行不可能確率の優先度は、予め設定すればよい。本実施の形態では、統合部20Jは、第1進行不可能確率“1.0”が最も高く、第2進行不可能確率“0.0”が次に高く、中間確率“0.5”が最も低い、優先度を予め設定する。
【0135】
そして、統合部20Jは、障害物地図に含まれる区画領域の各々に、第1障害物地図40の対応する区画領域に規定された進行不可能確率、および第2障害物地図42の対応する区画領域に規定された進行不可能確率の内、より優先度の高い進行不可能確率を規定する。この処理により、統合部20Jは、第1障害物地図40と第2障害物地図42を統合した障害物地図を生成する。
【0136】
図12を用いて具体的に説明する。図12は、障害物地図44における、各角度方向(角度方向A~角度方向C)に沿って配列された区画領域(区画領域44A~区画領域44C)の各々に規定された進行不可能確率を示す模式図である。
【0137】
図12(A)は、障害物地図44における、角度方向Aに沿って配列された区画領域44Aに規定された進行不可能確率を示す模式図である。統合部20Jは、第1障害物地図40における、角度方向Aに沿って配列された区画領域40Aに規定された進行不可能確率(図8(A)参照)と、第2障害物地図42における、角度方向Aに沿って配列された区画領域42Aに規定された進行不可能確率(図11(A)参照)と、統合する。この統合により、統合部20Jは、角度方向Aに沿って配列された区画領域44Aについて、図12(A)に示す進行不可能確率を規定する。
【0138】
図12(B)は、障害物地図44における、角度方向Bに沿って配列された区画領域44Bに規定された進行不可能確率を示す模式図である。統合部20Jは、第1障害物地図40における、角度方向Bに沿って配列された区画領域40Aに規定された進行不可能確率(図8(A)参照)と、第2障害物地図42における、角度方向Bに沿って配列された区画領域42Bに規定された進行不可能確率(図11(B)参照)と、統合する。この統合により、統合部20Jは、角度方向Bに沿って配列された区画領域44Bについて、図12(B)に示す進行不可能確率を規定する。
【0139】
図12(C)は、障害物地図44における、角度方向Cに沿って配列された区画領域44Cに規定された進行不可能確率を示す模式図である。統合部20Jは、第1障害物地図40における、角度方向Cに沿って配列された区画領域40Cに規定された進行不可能確率(図9参照)と、第2障害物地図42における、角度方向Cに沿って配列された区画領域42Cに規定された進行不可能確率(図11(C)参照)と、統合する。この統合により、統合部20Jは、角度方向Cに沿って配列された区画領域44Cについて、図12(C)に示す進行不可能確率を規定する。
【0140】
上記処理により、統合部20Jは、第1障害物地図40と、第2障害物地図42と、を統合した障害物地図44を生成する。
【0141】
次に、統合部20Jは、極座標系で生成した障害物地図44を、直交座法系に変換する。図13は、極座標系における区画領域と直交座標系における区画領域との関係を、直交座標系で示した図である。図13中、実線で区切られた区画領域が、直交座標系において矩形状に分割された区画領域である。図13中、破線で区切られた区画領域は、極座標系において矩形状に分割された区画領域を、直交座標系で表示したものである。
【0142】
統合部20Jは、ニアレストネイバー法を用いて、直交座標系で表される区画領域の各々について、極座標系で表される区画領域のうち最も近い位置の区画領域を特定する。そして、統合部20Jは、直交座標系で表される区画領域の各々に、各々の区画領域に対して特定した、極座標系における最も近い区画領域に規定された進行不可能確率を規定する。
【0143】
また、統合部20Jは、直交座標系で表される各区画領域に対して、極座標系で表される複数の区画領域の内、最も近傍に位置する区画領域を特定する。そして、統合部20Jは、特定した区画領域の進行不可能確率を、バイリニア法を用いて補完する。そして、統合部20Jは、直交座標系で表される規定対象の区画領域に、該補完によって得られた進行不可能確率を規定してもよい。
【0144】
なお、これらの方法は、極座標系から直交座標への座標変換の一例であり、これらの方法に限定されるものではない。
【0145】
上記処理により、統合部20J、すなわち、生成部20Fは、上空から地面を見下ろした視点に対応する障害物地図44を生成する。
【0146】
図14は、障害物地図44の一例を示す模式図である。上記処理により、生成部20Fは、障害物地図44を作成する。図14中、白色で示した区画領域は、第2進行不可能確率“0.0”を規定された区画領域である。図14中、黒色で示した区画領域は、第1進行不可能確率“1.0”を規定された区画領域である。図14中、灰色で示した区画領域は、中間確率“0.5”を規定された区画領域である。
【0147】
なお、生成部20Fは、生成した障害物地図44と、過去に生成した障害物地図44と、を時系列的に統合してもよい。
【0148】
図15は、時系列統合の説明図である。図15は、時刻t-1、および、時刻tの各々において、移動体10を中心とする周囲の空間を分割して得られる複数の区画領域を示している。
【0149】
時刻t-1のときの区画領域である領域Nt-1と、時刻tのときの区画領域ある領域Nと、は、それぞれの時刻で移動体10からの相対位置が異なる。しかし、これらの領域Nt-1と領域Nは、ワールド座標空間においては同じ位置を示している。
【0150】
そこで、生成部20Fは、時刻tと、その直前の時刻である時刻t-1との間の移動体10の移動量を、自己位置情報から算出する。そして、生成部20Fは、移動体10の移動量に基づいて、時刻tにおける各区画領域に対応する、時刻t-1における区画領域を求める。図15の例では、時刻tの領域Nに対応する、時刻t-1の区画領域として、領域Nt-1を求める。そして、生成部20Fは、領域Nに対して規定された進行不可能確率と、領域Nt-1に対して過去に規定された進行不可能確率と、を統合する。この統合には、例えば、下記式(5)に示すベイズの定理を用いればよい。
【0151】
【数4】
【0152】
なお、式(5)中、において、p(m|z)は現在の位置情報に基づく進行不可能確率を示し、p(m|z,...,zt-1)は、過去の位置情報に基づく進行不可能確率を示し、p(m|z,...,z)は、現在までの位置情報に基づく進行不可能確率を示す。
【0153】
生成部20Fが、各区画領域に規定された進行不可能確率を時系列に統合した障害物地図44を生成することで、例えば任意のタイミングでセンサがノイズを含む値を観測した場合であっても、進行不可能確率をロバストに算出することが可能である。
【0154】
図2に戻り、説明を続ける。生成部20Fは、生成した障害物地図44を、出力制御部20Gへ出力する。
【0155】
出力制御部20Gは、障害物地図44を示す情報を出力する。本実施の形態では、出力制御部20Gは、障害物地図44を示す情報を、出力部10Aおよび動力制御部10Gの少なくとも一方へ出力する。
【0156】
出力制御部20Gは、障害物地図44を示す情報を、ディスプレイ10Eに表示する。本実施の形態では、出力制御部20Gは、障害物地図44を含む表示画面を、ディスプレイ10Eに表示する。
【0157】
図16は、表示画面60の一例を示す模式図である。表示画面60は、生成部20Fで生成された障害物地図44を含む。このため、ユーザは、表示画面60を確認することで、進行不可能確率を容易に認識することができる。なお、表示画面60は、障害物地図44上に、自車両である移動体10を示す画像60Aや、移動体10の進行予定ルートまたは推奨ルートを示すライン60Bを重畳した画面であってもよい。
【0158】
図2に戻り説明を続ける。また、出力制御部20Gは、障害物地図44を示す音や光を出力するように、ディスプレイ10Eやスピーカ10Fを制御してもよい。また、出力制御部20Gは、障害物地図44を示す情報を、通信部10Dを介して外部装置へ送信してもよい。
【0159】
また、出力制御部20Gは、障害物地図44を示す情報を、動力制御部10Gへ出力してもよい。すなわち、出力制御部20Gは、障害物地図44に含まれる各区画領域に規定された進行不可能確率を示す情報を、動力制御部10Gへ出力してもよい。
【0160】
この場合、動力制御部10Gは、出力制御部20Gから受付けた障害物地図44を示す情報に応じて、動力部10Hを制御する。例えば、動力制御部10Gは、障害物地図44に含まれる各区画領域に規定された進行不可能確率に応じて、動力部10Hを制御するための動力制御信号を生成し、動力部10Hを制御してもよい。動力制御信号は、動力部10Hにおける、移動体10の進行に関する駆動を行う駆動部を制御するための制御信号である。例えば、移動体10が、障害物地図44において、第2進行不可能確率“0.0”を規定された区画領域に対応する、実空間の領域を進行するように、動力制御部10Gは、移動体10の操舵、エンジン、などを制御する。
【0161】
次に、情報処理装置20が実行する情報処理の手順の一例を説明する。図17は、情報処理の手順の一例を示す、フローチャートである。
【0162】
まず、取得部20Cが、撮影画像30と、撮影画像30の撮影環境の三次元点Pの三次元点情報と、を取得する(ステップS100)。
【0163】
次に、割当部20Dが、ステップS100で取得した撮影画像30内の領域Eごとに、属性を割当てる(ステップS102)。
【0164】
次に、設定部20Eは、ステップS100で取得した三次元点情報によって示される三次元点Pに、撮影画像30内の対応する領域Eに割当てられた属性を設定する(ステップS104)。
【0165】
次に、生成部20Fが、ステップS100で取得した三次元点Pの三次元点情報と、ステップS104で三次元点Pに設定された属性と、に基づいて、障害物地図44を生成する(ステップS106)。
【0166】
次に、出力制御部20Gが、ステップS106で生成された障害物地図44を示す情報を、出力部10Aおよび動力制御部10Gへ出力する(ステップS108)。そして、本ルーチンを終了する。
【0167】
以上説明したように、本実施の形態の情報処理装置20は、取得部20Cと、割当部20Dと、設定部20Eと、生成部20Fと、を備える。取得部20Cは、撮影画像30(画像)と、撮影画像30の取得環境の三次元点Pの三次元点情報と、を取得する。割当部20Dは、撮影画像30内の領域Eごとに属性を割当てる。設定部20Eは、三次元点Pに、撮影画像30内の対応する領域Eに割当てられた属性を設定する。生成部20Fは、三次元点情報と、三次元点Pに設定された属性と、に基づいて、障害物地図44を生成する。
【0168】
このように、本実施の形態の情報処理装置20では、三次元点Pの属性を、撮影画像30上の対応する領域Eの属性に基づいて設定し、三次元点Pに設定された属性に基づいて、障害物地図44を生成する。
【0169】
このため、本実施の形態の情報処理装置20では、計算量や使用メモリ量を抑えながら、障害物地図44を生成することができる。
【0170】
従って、本実施の形態の情報処理装置20は、処理負荷の軽減を図ることができる。
【0171】
<変形例>
上記実施の形態では、外界センサ10Bが、情報処理装置20の外部に設けられた形態を、一例として説明した(図2参照)。しかし、情報処理装置20は、外界センサ10Bを備えた構成であってもよい。
【0172】
図18は、本変形例の移動体11の構成の一例を示す模式図である。なお、上記実施の形態で説明した各部と同じ機能を示す部分には、同じ符号を付与し、詳細な説明を省略する。
【0173】
移動体11は、出力部10Aと、内界センサ10Cと、動力制御部10Gと、動力部10Hと、情報処理装置21と、がバス10Iを介して接続されている。なお、移動体11は、情報処理装置20に代えて情報処理装置21を備える点以外は、上記実施の形態の移動体10と同様である。
【0174】
情報処理装置21は、記憶部20Bと、処理部20Aと、外界センサ10Bと、を備える。情報処理装置21は、外界センサ10Bを更に備えた構成である点以外は、上記実施の形態の情報処理装置20と同様である。また、外界センサ10Bは、上記実施の形態と同様である。
【0175】
図18に示すように、情報処理装置21は、処理部20Aおよび記憶部20Bに加えて、外界センサ10B(すなわち、撮影部10J、計測部10K)を更に備えた構成であってもよい。
【0176】
また、情報処理装置21は、処理部20Aおよび記憶部20Bに加えて、通信部10D、ディスプレイ10E、スピーカ10F、内界センサ10C、および動力制御部10G、の少なくとも1つを更に備えた構成であってもよい。
【0177】
<ハードウェア構成>
次に、上記実施の形態の情報処理装置20および変形例の情報処理装置21の、ハードウェア構成の一例を説明する。図19は、情報処理装置20および情報処理装置21のハードウェア構成図の一例である。
【0178】
情報処理装置20および情報処理装置21は、CPU86などの制御装置と、ROM(Read Only Memory)88やRAM(Random Access Memory)90やHDD(ハードディスクドライブ)92などの記憶装置と、各種機器とのインターフェースであるI/F部82と、出力情報などの各種情報を出力する出力部80と、ユーザによる操作を受付ける入力部94と、各部を接続するバス96とを備えており、通常のコンピュータを利用したハードウェア構成となっている。
【0179】
情報処理装置20および情報処理装置21では、CPU86が、ROM88からプログラムをRAM90上に読み出して実行することにより、上記各部がコンピュータ上で実現される。
【0180】
なお、情報処理装置20および情報処理装置21で実行される上記各処理を実行するためのプログラムは、HDD92に記憶されていてもよい。また、情報処理装置20および情報処理装置21で実行される上記各処理を実行するためのプログラムは、ROM88に予め組み込まれて提供されていてもよい。
【0181】
また、情報処理装置20および情報処理装置21で実行される上記処理を実行するためのプログラムは、インストール可能な形式または実行可能な形式のファイルでCD-ROM、CD-R、メモリカード、DVD(Digital Versatile Disk)、フレキシブルディスク(FD)等のコンピュータで読み取り可能な記憶媒体に記憶されてコンピュータプログラムプロダクトとして提供されるようにしてもよい。また、情報処理装置20および情報処理装置21で実行される上記処理を実行するためのプログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するようにしてもよい。また、情報処理装置20および情報処理装置21で実行される上記処理を実行するためのプログラムを、インターネットなどのネットワーク経由で提供または配布するようにしてもよい。
【0182】
なお、上記には、本発明の実施の形態および変形例を説明したが、上記実施の形態および変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施の形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0183】
10、11 移動体
10E ディスプレイ
10J 撮影部
10K 計測部
20、21 情報処理装置
20C 取得部
20D 割当部
20E 設定部
20F 生成部
20G 出力制御部
20H 第1生成部
20I 第2生成部
20J 統合部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19