(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-04
(45)【発行日】2022-11-14
(54)【発明の名称】走行経路を生成するための方法及び装置
(51)【国際特許分類】
G01C 21/34 20060101AFI20221107BHJP
G08G 1/00 20060101ALI20221107BHJP
G08G 1/0968 20060101ALI20221107BHJP
G08G 1/16 20060101ALI20221107BHJP
G06T 7/00 20170101ALI20221107BHJP
G06T 7/579 20170101ALI20221107BHJP
【FI】
G01C21/34
G08G1/00 X
G08G1/0968 B
G08G1/16 A
G06T7/00 650A
G06T7/579
【外国語出願】
(21)【出願番号】P 2019202059
(22)【出願日】2019-11-07
【審査請求日】2020-05-22
(31)【優先権主張番号】201910075062.1
(32)【優先日】2019-01-25
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】514322098
【氏名又は名称】ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】Beijing Baidu Netcom Science Technology Co., Ltd.
【住所又は居所原語表記】2/F Baidu Campus, No.10, Shangdi 10th Street, Haidian District, Beijing 100085, China
(74)【代理人】
【識別番号】100099623
【氏名又は名称】奥山 尚一
(74)【代理人】
【識別番号】100107319
【氏名又は名称】松島 鉄男
(74)【代理人】
【識別番号】100125380
【氏名又は名称】中村 綾子
(74)【代理人】
【識別番号】100142996
【氏名又は名称】森本 聡二
(74)【代理人】
【識別番号】100166268
【氏名又は名称】田中 祐
(74)【代理人】
【識別番号】100170379
【氏名又は名称】徳本 浩一
(74)【代理人】
【識別番号】100180231
【氏名又は名称】水島 亜希子
(74)【代理人】
【識別番号】100096769
【氏名又は名称】有原 幸一
(72)【発明者】
【氏名】チェン,シンジン
(72)【発明者】
【氏名】ヤン,ルイガン
(72)【発明者】
【氏名】ルー,フェイシァン
(72)【発明者】
【氏名】シュ,ハオ
(72)【発明者】
【氏名】ヤン,ヤージュエ
【審査官】武内 俊之
(56)【参考文献】
【文献】再公表特許第2017/149813(JP,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 21/34
G08G 1/00
G08G 1/0968
G08G 1/16
G06T 7/00
G06T 7/579
(57)【特許請求の範囲】
【請求項1】
走行経路を生成するための方法であって、
無人航空機に取り付けられているカメラにより空撮された走行場所の
、第一の精細度
を有する二次元画像と、車両に取り付けられているカメラにより撮影された前方場所の
、前記第一の精細度よりも精細度が高い第二の精細度
を有する二次元画像とを取得することと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成することと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び前記全局的経路の方向に沿う局所的経路を生成することと
を含み、
前記車両は、前記局所的経路に沿って自律走行するように構成されることを特徴とする方法。
【請求項2】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記走行場所の二次元画像に基づいて全局地図を生成することは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得ることと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成することと、
を含むことを特徴とする請求項1に記載の方法。
【請求項3】
前記単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項2に記載の方法。
【請求項4】
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定することと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換することと、
を含むことを特徴とする請求項2に記載の方法。
【請求項5】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記前方場所の二次元画像に基づいて局所地図を生成することは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得ることと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成することと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得ることと、
を含むことを特徴とする請求項1に記載の方法。
【請求項6】
前記局所的経路は、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあり、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあり、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも1つの制約条件を満たすことを特徴とする請求項1~5の何れか1項に記載の方法。
【請求項7】
前記車両は、無人自主掘削機であることを特徴とする請求項1~5の何れか1つに記載の方法。
【請求項8】
無人航空機に取り付けられているカメラにより空撮された走行場所の
、第一の精細度
を有する二次元画像と、車両に取り付けられているカメラにより撮影された前方場所の
、前記第一の精細度よりも精細度が高い第二の精細度
を有する二次元画像とを取得するように配置されている画像取得ユニットと、
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成するように配置されている地図生成ユニットと、
前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、前記局所的経路は、前記全局的経路の方向に沿うように配置されている経路生成ユニットと、
を含み、
前記車両は、前記局所的経路に沿って自律走行するように構成されることを特徴とする、走行経路を生成するための装置。
【請求項9】
前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、
前記地図生成ユニットは、
前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニットと、
前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニットと、
特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成するように配置されている全局地図生成サブユニットと、
を含むことを特徴とする請求項8に記載の装置。
【請求項10】
前記単眼画像に対して三次元再構成を行う方法は、大規模な運動からの構造復元アルゴリズムであることを特徴とする請求項9に記載の装置。
【請求項11】
前記位置特定サブユニットは、
画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定するように配置されている画像識別モジュールと、
前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュールと、
を含むことを特徴とする請求項9に記載の装置。
【請求項12】
前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、
前記地図生成ユニットは、
前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得るように配置されている画像マッチングサブユニットと、
前記視差画像に基づいて前記前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニットと、
前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得るように配置されている局所地図再構成サブユニットとを含むことを特徴とする請求項8に記載の装置。
【請求項13】
前記局所的経路は、制約条件として、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあることと、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあることと、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないこととのうちの少なくとも1つを満たすことを特徴とする請求項8~12の何れか1項に記載の装置。
【請求項14】
前記車両は、無人自主掘削機であることを特徴とする請求項8~12の何れか1項に記載の装置。
【請求項15】
1つ又は複数のプロセッサーと、
1つ又は複数のプログラムを記憶している記憶装置とを備え、
前記1つ又は複数のプログラムが前記1つ又は複数のプロセッサーにより実行されると、前記1つ又は複数のプロセッサーは、請求項1~7の何れか1項に記載の方法を実現することを特徴とする電子デバイス。
【請求項16】
コンピュータプログラムを記憶しているコンピュータ可読メディアであって、
前記コンピュータプログラムがプロセッサーによって実行されると、請求項1~7の何れか1項に記載の方法を実現することを特徴とするコンピュータ可読メディア。
【請求項17】
コンピュータプログラムであって、
前記コンピュータプログラムがプロセッサーによって実行されると、請求項1~7の何れか1項に記載の方法を実現することを特徴とするコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本願の実施形態は、自動運転技術分野に関し、特には、走行経路を生成するための方法及び装置に関する。
【背景技術】
【0002】
無人運転車は、新型なインテリジェント車両であり、主に、制御装置(即ち、車載インテリジェント脳)により車両の各部分に対して正確的な制御及び計算分析を行い、最終的にECU(Electronic Control Unit、電気制御ユニット)により命令を発して無人運転車の異なるデバイスをそれぞれ制御することによって、車両の全自動運転を実現し、車両の無人運転の目的を達成する。
【0003】
車両の無人運転の目的を達成するために、予め走行経路を計画して無人運転車を走行経路に沿って自主運転をするように制御する必要がある。現在、よく使われている走行経路生成方式では、無人運転車にレーザーセンサ及びカメラを設置し、レーザーセンサにより広範囲の低い精細度の感知を実現し、カメラにより小さい範囲の高い精細度の感知を実現し、両者により感知された低い精細度の情報及び高い精細度の情報に基づいて走行経路を生成する。
【発明の概要】
【課題を解決するための手段】
【0004】
本願の実施形態は、走行経路を生成するための方法及び装置を提供する。
【0005】
第一態様において、走行経路を生成するための方法であって、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得することと、前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成することと、前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び前記全局的経路の方向に沿う局所的経路を生成することとを含むことを特徴とする方法を提供する。
【0006】
幾つかの実施例において、前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、前記走行場所の二次元画像に基づいて全局地図を生成することは、前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得ることと、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することと、特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成することと、を含む。
【0007】
幾つかの実施例において、前記単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムである。
【0008】
幾つかの実施例において、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定することは、画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定することと、前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換することと、を含む。
【0009】
幾つかの実施例において、前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、前記前方場所の二次元画像に基づいて局所地図を生成することは、前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得ることと、前記視差画像に基づいて前記前方場所の奥行き画像を生成することと、前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得ることと、を含む。
【0010】
幾つかの実施例において、前記局所的経路は、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあり、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあり、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも1つの制約条件を満たす。
【0011】
幾つかの実施例において、前記車両は、無人自主掘削機である。
【0012】
第二態様において、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている画像取得ユニットと、
【0013】
前記走行場所の二次元画像に基づいて全局地図を生成し、前記前方場所の二次元画像に基づいて局所地図を生成するように配置されている地図生成ユニットと、前記全局地図及び前記局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、前記局所的経路は、前記全局的経路の方向に沿うように配置されている経路生成ユニットと、を含むことを特徴とする走行経路を生成するための装置を提供する。
【0014】
幾つかの実施例において、前記無人航空機に取り付けられているカメラは、単眼カメラであり、前記走行場所の二次元画像は、単眼画像であり、前記地図生成ユニットは、前記単眼画像に対して三次元再構成をすることによって、前記走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニットと、前記車両及び目的地が前記走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニットと、特定された位置に基づいて前記走行場所の三次元モデルに対してラべリングすることによって、前記全局地図を生成するように配置されている全局地図生成サブユニットと、を含む。
【0015】
幾つかの実施例において、前記単眼画像に対して三次元再構成を行う方法は、大規模な運動からの構造復元アルゴリズムである。
【0016】
幾つかの実施例において、前記位置特定サブユニットは、画像識別技術を用いて前記単眼画像に対して識別を行うことによって、前記車両及び前記目的地が前記単眼画像における位置を特定するように配置されている画像識別モジュールと、前記車両及び前記目的地が前記単眼画像における位置を、前記車両及び前記目的地が前記走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュールと、を含む。
【0017】
幾つかの実施例において、前記車両に取り付けられているカメラは、両眼カメラであり、前記前方場所の二次元画像は、両眼画像であり、前記地図生成ユニットは、前記両眼画像に対して画像のマッチングを行うことによって、前記両眼画像の視差画像を得るように配置されている画像マッチングサブユニットと、前記視差画像に基づいて前記前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニットと、前記奥行き画像に対して三次元再構成を行うことによって、前記局所地図を得るように配置されている局所地図再構成サブユニットとを含む。
【0018】
幾つかの実施例において、前記局所的経路は、制約条件として、前記局所的経路における前記車両の向きと前記全局的経路における前記車両の向きとの間の偏差が所定の偏差範囲内にあることと、前記局所的経路が前記全局的経路からずれた距離が所定の距離範囲内にあることと、前記車両が前記局所的経路に沿って走行するプロセスにおいて障害物と衝突しないこととのうちの少なくとも1つを満たす。
【0019】
幾つかの実施例において、前記車両は、無人自主掘削機である。
【0020】
第三態様において、1つ又は複数のプロセッサーと、1つ又は複数のプログラムを記憶している記憶装置とを備え、前記1つ又は複数のプログラムが前記1つ又は複数のプロセッサーにより実行されると、前記1つ又は複数のプロセッサーは、第一態様の何れか1の実施例に記載の方法を実現することを特徴とする電子デバイスを提供する。
【0021】
第四態様において、コンピュータプログラムを記憶しているコンピュータ可読メディアであって、前記コンピュータプログラムがプロセッサーによって実行されると、第一態様の何れか1の実施例に記載の方法を実現することを特徴とするコンピュータ可読メディアを提供する。
【0022】
本願の実施形態による走行経路を生成するための方法及び装置は、まず、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、その後、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、最後に、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成する。無人航空機に取り付けられているカメラを用いてグローバルの低い精細度の感知を実現し、車両に取り付けられているカメラを用いて局所の高い精細度の感知を実現し、両者を結合することにより車両の感知システムを構成するので、価格が高いレーザーセンサに依存せず、走行経路を生成するコストを低減することができる。また、レーザーセンサは、感知する奥行きポイントが疎らであり、奥行き及び強さの情報しかなく、情報の量に限りがある。無人航空機に取り付けられているカメラは、奥行き情報を感知することができるだけではなく、語義等の他の役に立つ情報も感知することができ、情報の量がより豊かであるので、無人航空機に取り付けられているカメラと車両に取り付けられているカメラからなる感知システムの感知能力を高めることができる。
【図面の簡単な説明】
【0023】
以下の図面による非限定的な実施形態についての詳細な説明を読み、参照することにより、本願の他の特徴、目的及び利点がより明らかになる。
【
図1】本願を適用可能な例示システムアーキテクチャである。
【
図2】本願による走行経路を生成するための方法の1つの実施形態のフローチャート図である。
【
図3】本願による走行経路を生成するための方法のもう1つの実施形態のフローチャート図である。
【
図4】
図3に示される走行経路を生成するための方法の1つの応用場面の模式図である。
【
図5】本願による走行経路を生成するための装置の1つの実施形態の構造模式図である。
【
図6】本願の実施形態の電子デバイスを実現するのに適するコンピュータシステムの構造模式図である。
【発明を実施するための形態】
【0024】
以下、図面及び実施形態を参照しながら、本願を更に詳しく説明する。ここで記載された具体的な実施形態は、関連発明を解釈するために用いられ、本発明を限定しないことが理解されたい。なお、説明の便宜上、図面は、発明と関係する部分しか示されていない。
【0025】
なお、衝突しない限り、本願の実施形態及び実施形態の特徴は、組合わせても良い。以下、図面を参照しながら、実施形態を用いて本願を説明する。
【0026】
図1は、本願が用いられることが可能な、走行経路を生成するための方法又は走行経路を生成するための装置の実施形態の例示的システム構成100を示している。
【0027】
図1に示すように、システム構成100は、無人航空機101、車両102、サーバー103及びネットワーク104を含んでも良い。ネットワーク104は、無人航空機101、車両102とサーバー103の間において通信リンクのメディアを提供するための。ネットワーク104は、有線、無線通信リンク又は光ファイバーケーブル等のような様々な接続タイプを含んでも良い。
【0028】
無人航空機101には、カメラを取り付けることができ、車両102の走行場所の二次元画像を空撮するための。通常、無人航空機101に取り付けられたカメラは、単眼カメラであっても良く、走行場所の単眼画像を空撮するための。
【0029】
車両102には、カメラを取り付けることができ、車両102の前方場所の二次元画像を撮影するための。通常、車両102に取り付けられたカメラは、両眼カメラであっても良く、車両102の前方に取り付けられており、前方場所の両眼画像を撮影するための。
【0030】
サーバー103は、様々なサービスを提供するサーバーであっても良く、例えば、車両102のバックエンドサーバーである。車両102のバックエンドサーバーは、無人航空機101に取り付けられたカメラから空撮された走行場所の二次元画像を取得し、車両102に取り付けられたカメラから撮影された前方場所の二次元画像を取得し、その後、取得した走行場所の二次元画像及び前方場所の二次元画像等のデータに対して分析等の処理を行い、処理結果(例えば、全局的(global)経路及び局所的(local)経路)を生成する。
【0031】
なお、サーバー103は、ハードウェアであっても良く、ソフトウェアであっても良い。サーバー103がハードウェアである場合、複数のサーバーからなる分布式サーバーグループとして実現しても良く、単独のサーバーとして実現しても良い。サーバー103がソフトウェアである場合、複数のソフトウェア又はソフトウェアモジュール(例えば、分布式サービスを提供するための)として実現しても良く、単独のソフトウェア又はソフトウェアモジュールとして実現しても良い。ここでは、具体的に限定されない。
【0032】
なお、本願の実施形態による走行経路を生成するための方法は、一般的にサーバー130により実行され、相応するように、走行経路を生成するための装置は、一般的にサーバー103の中に取り付けられている。
【0033】
図1における無人航空機、車両、サーバー及びネットワークの数は、例示するものに過ぎないことが理解されたい。実際の必要に応じて任意の数の無人航空機、車両、サーバー及びネットワークを有しても良い。
【0034】
図2は、本願による走行経路を生成するための方法の1つの実施形態のフロー200を示している。走行経路を生成するための当該方法は、ステップ201、ステップ202及びステップ203を備える。
【0035】
ステップ201においては、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得する。
【0036】
本実施形態においては、走行経路を生成するための方法の実行主体(例えば、
図1に示すサーバー103)は、無人航空機(例えば、
図1に示す無人航空機101)に取り付けられているカメラから車両の走行場所を空撮して得られた二次元画像を取得することができる。また、前記実行主体は、車両(例えば、
図1に示す車両102)に取り付けられているカメラから車両の前方場所を撮影して得られた二次元画像を取得することができる。なお、走行場所は、車両がその中で走行する場所であっても良く、車両の起点位置及び目的地を含む。前方場所は、車両の前方領域が所在する場所であっても良く、走行場所の中の一部の場所に属する。通常、車両の現在の所在地は、前方場所の端にある。
【0037】
実践中、無人航空機にカメラを取り付けることができ、無人航空機が走行場所の上方でフライトする際、その上に取り付けられたカメラをオンして走行場所を空撮することができる。同様に、車両にカメラを取り付けることができる。通常、カメラは、車両の前方に取り付けられており、これにより、車両に取り付けられているカメラは、車両の前方場所をリアルタイム又は周期的に撮影することができる。
【0038】
ステップ202においては、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成する。
【0039】
本実施形態においては、前記実行主体は、走行場所の二次元画像に対して分析を行い、走行場所の二次元画像の分析結果に基づいて走行場所の地図を生成し、全局地図とすることができる。また、前記実行主体は、前方場所の二次元画像に対して分析を行い、前方場所の二次元画像の分析結果に基づいて前方場所の地図を生成し、走行場所の局所地図とすることができる。なお、全局地図は、走行場所の三次元モデルであっても良く、車両の起点位置及び目的地を含んでも良い。局所地図は、前方場所の三次元モデルであっても良い。例えば、無人航空機に取り付けられているカメラは、走行場所の複数の角度の二次元画像を撮影することができる。これにより、前記実行主体は、走行場所の複数の角度の二次元画像を用いて三次元再構成をすることによって、全局地図を得ることができる。また、車両に取り付けられているカメラは、前方場所の複数の角度の二次元画像を撮影することができる。これにより、前記実行主体は、前方場所の複数の角度の二次元画像を用いて三次元再構成をすることによって、局所地図を得ることができる。
【0040】
ステップ203においては、全局地図及び局所地図に基づいて経路計画を行うことによって、全局的経路及び局所的経路を生成する。
【0041】
本実施形態においては、前記実行主体は、全局地図に基づいて全局的経路計画を行うことによって、全局的経路を生成することができる。その後、前記実行主体は、局所地図及び全局的経路に基づいて局所的経路計画を行うことによって、局所的経路を生成することができる。なお、全局的経路は、車両の起点位置を起点とし、車両の目的地を終点とする衝突なしの経路であっても良い。局所的経路は、車両の現在位置を起点として、全局的経路の方向に沿う衝突なしの経路であっても良い。
【0042】
実践中、全局的経路は、無人航空機に取り付けられたカメラにより空撮された低い精細度の情報に基づいて生成したので、低い精細度の経路に属し、正確度が比較的低い。更に、全局地図には、静的物体(木、材料スダック等)が存在するだけではなく、動的物体(他の車両、人等)も存在する。全局地図における動的物体の位置は、無人航空機が走行場所を空撮する時刻の位置である。時間の推移に伴い、動的物体の位置は、絶えずに変化することがある。全局的経路の上述した2つの特徴により、車両が全局的経路に沿って自主走行すれば、車両が障害物と衝突しないということを完全に保証することができない。よって、前記実行主体は、局所地図及び全局的経路に基づいて全局的経路の方向に沿った局所的経路を生成する必要もある。局所的経路は、車両に取り付けられたカメラにより撮影された高い精細度の情報に基づいて生成したので、高い精細度の経路に属し、正確度が比較的高い。また、前方場所は、走行場所内の小さな範囲の領域であるため、車両に取り付けられたカメラが前方場所の二次元画像を撮影する時から、車両が局所的経路に沿って走行し局所的経路の終点に到達するまで、短い時間しか必要としない。当該期間中、動的物体の位置の変化は比較的小さい。局所的経路の上述した2つの特徴により、車両が局所的経路に沿って自主走行すれば、通常、障害物と衝突しない。
【0043】
本実施形態の幾つかの選択可能な実現方法においては、局所的経路は、通常、局所的経路における車両の向きと全局的経路における車両の向きとの間の偏差が所定の偏差範囲内にあり、局所的経路が全局的経路からずれた距離が所定の距離範囲内にあり、車両が局所的経路に沿って走行するプロセスにおいて障害物と衝突しない等という条件のうちの少なくとも1つの制約条件を満たすことができる。
【0044】
本実施形態の幾つかの選択可能な実現方法においては、車両は、無人自主掘削機であっても良い。この時、走行場所は、無人自主掘削機の作業場所であっても良い。無人自主掘削機のスタート位置は、無人自主掘削機の現在の所在地であっても良い。無人自主掘削機の目的地は、無人自主掘削機が掘削しようとする材料スダックの所在地であっても良い。なお、材料スダックは、材料が同じところに積まれてなるものであっても良い。材料は、主に土壌、石炭、泥砂及び予め土かきされた土壌及び岩石等である。
【0045】
なお、前記実行主体は、様々な経路計画アルゴリズム(例えば、SLAM(simultaneous localization and mapping、自己位置推定と環境地図作成を同時に行う)、VSLAM(visual simultaneous localization and mapping、ビジュアルに基づいて自己位置推定と環境地図作成を同時に行う))を用いて全局的経路及び局所的経路を生成しても良く、予めトレーニングされた、走行経路を生成するための様々なディープニューラルネットワーク(例えば、多層畳み込みニューラルネットワーク)を用いて全局的経路及び局所的経路を生成しても良い。上述した様々な経路計画アルゴリズム及び走行経路を生成するための様々なディープニューラルネットワークは、現在、幅広く研究及び応用されている周知の技術であり、ここでは、繰り返して説明しない。
【0046】
本願の実施形態による走行経路を生成するための方法においては、まず、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、その後、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、最後に、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成する。無人航空機に取り付けられているカメラを用いてグローバルの低い精細度の感知を実現し、車両に取り付けられているカメラを用いて局所の高い精細度の感知を実現し、両者を結合することにより車両の感知システムを構成するので、価格が高いレーザーセンサに依存せず、走行経路を生成するコストを低減することができる。また、レーザーセンサは、感知する奥行きポイントが疎らであり、奥行き及び強さの情報しかなく、情報の量に限りがある。無人航空機に取り付けられているカメラは、奥行き情報を感知することができるだけではなく、語義等の他の役に立つ情報も感知することができ、情報の量がより豊かであるので、無人航空機に取り付けられているカメラと車両に取り付けられているカメラからなる感知システムの感知能力を高めることができる。
【0047】
図3は、本願による走行経路を生成するための方法のもう1つの実施形態のフロー300を示している。走行経路を生成するための当該方法は、ステップ301a、ステップ302a、ステップ303a、ステップ304a、ステップ301b、ステップ302b、ステップ303b、ステップ304b及びステップ305を含む。
【0048】
ステップ301aにおいては、無人航空機に取り付けられている単眼カメラにより空撮された走行場所の単眼画像を取得する。
【0049】
本実施形態においては、走行経路を生成するための実行主体(例えば、
図1に示すサーバー103)は、無人航空機(例えば、
図1に示す無人航空機101)に取り付けられている単眼カメラから車両の走行場所を空撮することで得られた単眼画像を取得することができる。なお、無人航空機に取り付けられているカメラは、単眼カメラであっても良く、走行場所の二次元画像は、単眼画像であっても良い。
【0050】
ステップステップ302aにおいては、単眼画像に対して三次元再構成をすることによって、走行場所の三次元モデルを得る。
【0051】
本実施形態においては、前記実行主体は、無人航空機に取り付けられている単眼カメラから取得された車両の走行場所の単眼画像に対して分析を行い、分析結果に基づいて走行場所の三次元モデルを生成することができる。
【0052】
本実施形態の幾つかの選択可能な実現方法においては、単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムであっても良い。なお、運動からの構造復元(Structure-From-Motion、SFM)は、複数枚の画像又はビデオシーケンスからカメラのパラメータ及び場面の三次元構造を自動的に復元することができる技術であり、幅広く応用され、例えば、拡張現実、ロボット及び自動運転等の領域に応用することができる。大規模な運動からの構造復元(large scale structure from motion)は、大規模な場面に対する運動からの構造復元である。
【0053】
ステップステップ303aにおいては、車両及び目的地が走行場所の三次元モデルにおける位置を特定する。
【0054】
本実施形態においては、前記実行主体は、走行場所の三次元モデルにおける車両及び目的地を識別し、車両及び目的地が走行場所の三次元モデルにおける位置を特定することができる。
【0055】
本実施形態の幾つかの選択可能な実現方法においては、前記実行主体は、画像識別技術を用いて走行場所の三次元モデルを識別することによって、車両及び目的地が走行場所の三次元モデルにおける位置を特定することができる。
【0056】
本実施形態の幾つかの選択可能な実現方法においては、前記実行主体は、まず、画像識別技術を用いて単眼画像に対して識別を行うことによって、車両及び目的地が単眼画像における位置を特定し、その後、車両及び目的地が単眼画像における位置を車両及び目的地が走行場所の三次元モデルにおける位置に投影変換することができる。
【0057】
ステップ304aにおいては、特定された位置に基づいて走行場所の三次元モデルに対してラべリングし、全局地図を生成する。
【0058】
本実施形態においては、前記実行主体は、車両及び目的地が走行場所の三次元モデルにおける位置に基づいて走行場所の三次元モデルにおける車両及び目的地を探し出し、探し出した車両及び目的地に対してラべリングし、全局地図を生成することができる。
【0059】
ステップ301bにおいては、車両に取り付けられている両眼カメラにより撮影された前方場所の両眼画像を取得する。
【0060】
本実施形態においては、前記実行主体は、車両(例えば、
図1に示す車両102)に取り付けられている両眼カメラから車両の前方場所を撮影することで得られた両眼画像を取得することができる。なお、車両に取り付けられているカメラは、両眼カメラであっても良く、前方場所の二次元画像は、両眼画像であっても良い。
【0061】
ステップ302bにおいては、両眼画像に対して画像のマッチングを行い、両眼画像の視差画像を得る。
【0062】
本実施形態においては、前記実行主体は、車両に取り付けられている両眼カメラから取得された前方場所の両眼画像に対してマッチングを行うことによって、両眼画像の視差画像を得ることができる。通常、両眼画像は、両眼カメラが動物の両眼の働きのメカニズムをまねして撮影したものであるので、各グループの両眼画像間は、ある程度の水平視差が存在する。
【0063】
ステップ303bにおいては、視差画像に基づいて前方場所の奥行き画像を生成する。
【0064】
本実施形態においては、前記実行主体は、視差画像に対して分析を行うことによって、前方場所の奥行き画像を生成することができる。具体的には、前記実行主体は、水平視差に基づいて前方場所から両眼カメラまでの距離を推定することができ、即ち、前方場所の奥行き画像を得る。
【0065】
ステップ304bにおいては、奥行き画像に対して三次元再構成をし、局所地図を得る。
【0066】
本実施形態においては、前記実行主体は、三次元再構成アルゴリズムを用いて前方場所の奥行き画像に対して三次元再構成をすることによって、局所地図を得ることができる。例えば、前記実行主体は、Kinect Fusionアルゴリズムを用いて奥行き画像に対して三次元再構成をすることによって、局所地図を得ることができる。
【0067】
ステップ305においては、全局地図及び局所地図に基づいて経路計画を行い、全局的経路及び局所的経路を生成する。
【0068】
本実施形態においては、ステップ305の具体的な操作は、
図2に示す実施形態のステップ203において詳しく説明したので、ここでは、繰り返して説明しない。
【0069】
図4は、
図3による走行経路を生成するための方法の1つの応用場面の模式図である。
図4に示す応用場面においては、無人自主掘削機は、作業場所の土の山を掘削する必要がある。まず、無人航空機が作業場所の上方でフライトするように操縦し、その上に取り付けられている単眼カメラをオンして作業場所の単眼画像を空撮し、無人自主掘削機のバックエンドサーバーに送る。これにより、バックエンドサーバーは、大規模な場面の三次元再構成アルゴリズムを用いて単眼画像に対して三次元再構成をすることで、作業場所の三次元モデルを得ることができる。画像識別技術を用いて作業場所の三次元モデルにおける無人自主掘削機の位置及び土の山の位置を識別し、識別された位置に基づいて作業場所の三次元モデルにおける無人自主掘削機及び土の山に対してラべリングすることで、全局地図を生成する。全局地図に基づいて全局的経路を計画することで、全局的経路を生成する。その後、無人自主掘削機の車体の前方に取り付けられた両眼カメラをオンして前方場所の両眼画像を撮影し、無人自主掘削機のバックエンドサーバーに送る。これにより、バックエンドサーバーは、局所地形再構成アルゴリズムを用いて両眼画像に対して三次元再構成をすることで、局所地図を得ることができる。局所地図及び全局的経路に基づいて局所的経路を計画することで、全局的経路の方向に沿った局所的経路を生成する。この時、バックエンドサーバーは、局所的経路に基づいて無人自主掘削機のシャーシーの速度を制御することで、無人自主掘削機を局所的経路に沿って自主走行させることができる。局所的経路の終点に走行した時、両眼カメラを再びオンして現在の前方場所を撮影し、前記局所的経路を生成するステップを実行し続けて新たな局所的経路を生成し、新たな局所的経路に基づいて無人自主掘削機のシャーシーの速度を制御することで、無人自主掘削機を新たな局所的経路に沿って自主走行させる。無人自主掘削機が土の山の付近まで走行するまで、このように、繰り返して実行する。
【0070】
図3から分かるように、
図2に対応する実施形態に比べ、本実施形態の走行経路を生成ための方法のフロー300は、全局地図及び局所地図を生成するステップを強調した。無人航空機に取り付けられている単眼カメラを用いて走行場所の単眼画像を撮影し、単眼画像に対して三次元再構成をすることによって、全局地図を生成する。また、車両に取り付けられている両眼カメラを用いて前方場所の両眼画像を撮影し、両眼画像に対して三次元再構成をすることによって、局所地図を生成する。よって、全局地図及び局所地図を生成する効率及び正確度を高めることができる。
【0071】
図5は、上述したそれぞれの図面に示す方法の実現として、本願による走行経路を生成するための装置の1つの実施形態を提供する。当該装置の実施形態は、
図2に示す方法の実施形態に対応し、当該装置は、具体的には、様々な電子デバイスに適用することができる。
【0072】
図5に示すように、本実施形態の走行経路を生成するための装置500は、画像取得ユニット501、地図生成ユニット502及び経路生成ユニット503を含んでも良い。なお、画像取得ユニット501は、無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するように配置されている。地図生成ユニット502は、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成するように配置されている。経路生成ユニット503は、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、なお、局所的経路は、全局的経路の方向に沿うように配置されている。
【0073】
本実施形態においては、走行経路を生成するための装置500における画像取得ユニット501、地図生成ユニット502及び経路生成ユニット503の具体的な処理及びもたらす技術効果は、それぞれ
図2に対応する実施形態のステップ201、ステップ202及びステップ203の関連説明を参照することができるので、ここでは、繰り返して説明しない。
【0074】
本実施形態の幾つかの選択可能な実現方法においては、無人航空機に取り付けられているカメラは、単眼カメラであり、走行場所の二次元画像は、単眼画像である。地図生成ユニット502は、単眼画像に対して三次元再構成をし、走行場所の三次元モデルを得るように配置されている走行場所再構成サブユニット(図示せず)と、車両及び目的地が走行場所の三次元モデルにおける位置を特定するように配置されている位置特定サブユニット(図示せず)と、特定された位置に基づいて走行場所の三次元モデルに対してラべリングし、全局地図を生成するように配置されている全局地図生成サブユニット(図示せず)とを含む。
【0075】
本実施形態の幾つかの選択可能な実現方法においては、単眼画像に対して三次元再構成をする方法は、大規模な運動からの構造復元アルゴリズムである。
【0076】
本実施形態の幾つかの選択可能な実現方法においては、位置特定サブユニットは、画像識別技術を用いて単眼画像に対して識別を行い、車両及び目的地が単眼画像における位置を特定するように配置されている画像識別モジュール(図示せず)と、車両及び目的地が単眼画像における位置を車両及び目的地が走行場所の三次元モデルにおける位置に投影変換するように配置されている投影変換モジュール(図示せず)とを含む。
【0077】
本実施形態の幾つかの選択可能な実現方法においては、車両に取り付けられているカメラは、両眼カメラであり、前方場所の二次元画像は、両眼画像である。地図生成ユニット502は、両眼画像に対して画像のマッチングを行い、両眼画像の視差画像を得るように配置されている画像マッチングサブユニット(図示せず)と、視差画像に基づいて前方場所の奥行き画像を生成するように配置されている奥行き画像生成サブユニット(図示せず)と、奥行き画像に対して三次元再構成をし、局所地図を得るように配置されている局所地図再構成サブユニット(図示せず)とを含む。
【0078】
本実施形態の幾つかの選択可能な実現方法においては、局所的経路は、局所的経路における車両の向きと全局的経路における車両の向きとの間の偏差が所定の偏差範囲内にあり、局所的経路が全局的経路からずれた距離が所定の距離範囲内にあり、車両が局所的経路に沿って走行するプロセスにおいて障害物と衝突しないという条件のうちの少なくとも1つの制約条件を満たす。
【0079】
本実施形態の幾つかの選択可能な実現方法においては、車両は、無人自主掘削機である。
【0080】
図6は、本願の実施形態による電子デバイス(例えば、
図1に示すサーバー103)を実現するのに適するコンピュータシステム600の構造模式図である。
図6に示す電子デバイスは、1つの例示に過ぎず、本願の実施形態の機能及び使用範囲に如何なる制限をしない。
【0081】
図6に示すように、コンピュータシステム600は、リードオンリーメモリ(ROM)602に記憶されているプログラム又は記憶部608からランダムアクセスメモリ(RAM)603にロードされたプログラムに基づいて様々な適切な動作及び処理を実行することが可能な中央処理ユニット(CPU)601を含む。RAM603の中には、システム600を操作するために必要な様々プログラム及びデータを更に記憶している。CPU601、ROM602及びRAM603は、バス604により互いに接続する。入力/出力(I/O)インターフェイス605もバス604に接続されている。
【0082】
キーボード、マウス等を含む入力部606、陰極線管(CRT)、液晶ディスプレイ(LCD)等及びスピーカー等を含む出力部607、ハードディスク等を含む記憶部608及びLANカード、モデム等のネットワークインターフェイスカードを含む通信部609は、I/Oインターフェイス605に接続されている。通信部609は、インターネットのようなネットワークを通じて通信処理を行う。ドライバ610も、必要に応じてI/Oインターフェイス605に接続する。磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等のようなリムーバブルメディア611は、必要に応じてドライバ610に取り付けることによって、そこから読み出されたコンピュータプログラムは、必要に応じて記憶部608にインストールする。
【0083】
特に、本願の実施形態により、上述した内容においてフローチャート図を参照して記載したプロセスは、コンピュータのソフトウェアのプログラムとして実現することができる。例えば、本願に開示する実施形態は、コンピュータのプログラムの製品を含み、当該コンピュータのプログラムの製品は、コンピュータ可読メディアにインストールされている、フローチャート図に示す方法を実行するためのプログラムコードを含むコンピュータのプログラムを備える。このような実施形態においては、当該コンピュータのプログラムは、通信部609によりネットワークからダウンロード及びインストールし、及び/又は、リムーバブルメディア611からインストールされる。当該コンピュータのプログラムが中央処理ユニット(CPU)601に実行されると、本願の方法に限定される上述した機能を実行する。なお、本願の実施形態に記載のコンピュータ可読メディアは、コンピュータ可読な信号メディア又はコンピュータ可読な記憶メディア又は上述した2つの任意の組み合わせであっても良い。コンピュータ可読な記憶メディアは、電気、磁気、光、電磁気、赤外線、半導体のシステム、装置、デバイス又は前記ものの任意の組み合わせであっても良いが、これらに限定しない。コンピュータ可読な記憶メディアのより具体的な例としては、1つ又は複数のリード線を有する、電気的に接続するボータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、書き込み・消去可能なリードオンリーメモり(EPROM又はフラッシュメモリ)、光ファイバー、コンパクトディスクリードオンリーメモリ(CD-ROM)、光記憶装置、磁気記憶装置又は上述したものの任意の適切な組み合わせが挙げられる。本願においては、コンピュータ可読な記憶メディアは、プログラムを含む又は記憶する任意の有形メディアであっても良く、当該プログラムは、命令実行システム、装置又はデバイスに用いられ、又は、組合わせて用いられても良い。本願においては、コンピュータ可読な信号メディアは、ベースバンドの中にある又は搬送波の一部として伝播するデータ信号には、コンピュータ可読なプログラムコードが積載されている。このような伝播するデータ信号は、様々な形を用いることができ、電磁気信号、光信号又は上述したもの任意の適切な組み合わせを含むが、これらに限定されない。コンピュータ可読な信号メディアは、コンピュータ可読な記憶メディア以外の如何なるコンピュータ可読なメディアであっても良く、当該コンピュータ可読なメディアは、命令実行システム、装置又はデバイスに用いられ、又は、その組み合わせに用いられるためのプログラムを送信、伝播又は伝送することができる。コンピュータ可読なメディアに含まれるプログラムコードは、如何なる適切なメディアを用いて伝送しても良く、無線、電線、光ケーブル、RF等又は上述したものの任意の適切な組み合わせを含むが、これらに限定されない。
【0084】
1つ又は複数のプログラム設計言語又はその組み合わせで本願の実施形態の操作を実行するコンピュータのプログラムコードをプログラミングすることができ、前記プログラム設計言語は、Java、Smalltalk、C++のようなオブジェクト向けのプログラム設計言語を含み、「C」言語又は類似するプログラム設計言語のような通常の過程式プログラム設計言語も含む。プログラムコードは、完全にユーザーのコンピュータにより実行されても良く、部分的にユーザーのコンピュータにより実行されても良く、1つの独立したパッケージソフトとして実行されても良く、一部がユーザーのコンピュータにより実行され、一部が遠隔コンピュータにより実行されても良く、完全に遠隔コンピュータ又はサーバーにより実行されても良い。遠隔コンピュータにより実行される場合、遠隔コンピュータは、局所エリヤネットワーク(LAN)又はワイドエリヤネットワーク(WAN)を含む任意の種類のネットワークによりユーザーのコンピュータ又は外部コンピュータ(例えば、インターネットサービスプロバイダを用いてインターネットにより接続する)に接続されることができる。
【0085】
図面におけるフローチャート図及びブロック図は、本願のそれぞれの実施形態によるシステム、方法及びコンピュータプログラム製品の実現可能な体系構成、機能及び操作を示している。ここでは、フローチャート図及びブロック図における各ブロックは、1つのモジュール、プログラムセグメント又はコードの一部を表すことができ、当該モジュール、プログラムセグメント又はコードの一部は、定められたロジック機能を実現するための1つ又は複数の実行可能な命令を含む。幾つかの代替できる実現としては、ブロックの中に示されている機能は、図面に示されている順番と違う順番で行われても良い。例えば、2つの連続して示されているブロックは、実は、ほぼ平行して行われても良く、逆の順序で行われる場合もあり、これは、係る機能によって決められることに注意すべきである。ブロック図及び/又はフローチャート図におけるそれぞれのブロック、及び、ブロック図及び/又はフローチャート図におけるブロックの組み合わせは、定めされた機能又は操作を実行するための専用のハードウェアを元にするシステムにより実行しても良く、又は、専用のハードウェアとコンピュータ命令の組み合わせにより実行しても良いことにも注意すべきである。
【0086】
記載の本願の実施形態に係るユニットは、ソフトウェアの形で実現しても良く、ハードウェアの形で実現しても良い。記載のユニットは、プロセッサーの中に設置されても良く、例えば、画像取得ユニット、地図生成ユニット及び経路生成ユニットを含むプロセッサーであるというように記載しても良い。なお、これらのユニットの名称は、当該ユニット自身を限定しない場合があり、例えば、画像取得ユニットは、「無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得するユニット」とも記載されても良い。
【0087】
もう1つの側面としては、本願は、コンピュータ可読メディアを更に提供する。当該コンピュータ可読メディアは、上述した実施形態に記載の電子デバイスに含まれても良く、当該電子デバイスに設置されずに単独で存在しても良い。前記コンピュータ可読メディアには、1つ又は複数のプログラムが積載され、当該1つ又は複数のプログラムが当該電子デバイスに実行されるとき、当該電子デバイスに次のことを実行させる:無人航空機に取り付けられているカメラにより空撮された走行場所の二次元画像及び車両に取り付けられているカメラにより撮影された前方場所の二次元画像を取得し、走行場所の二次元画像に基づいて全局地図を生成し、前方場所の二次元画像に基づいて局所地図を生成し、全局地図及び局所地図に基づいて経路計画をし、全局的経路及び局所的経路を生成し、なお、局所的経路は、前全局的経路の方向に沿う。
【0088】
上述した記載は、本願の比較的好ましい実施形態及び応用される技術原理に対する説明に過ぎない。当業者は、本願に係る発明の範囲が上述した技術特徴の特定の組み合わせからなる技術案に限らず、上述した発明の精神から逸脱しないかぎり、上述した技術特徴又は等価特徴から行われる任意の組み合わせによる他の技術案も含まれていることに理解すべきである。例えば、上述した特徴と本願の実施形態に開示されている特徴と類似する機能を有する技術特徴(しかし、限定しない)に対して置換えることで形成した技術案も含まれている。