特許第6892157号(P6892157)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ストラッドビジョンの特許一覧

特許6892157V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置
<>
  • 特許6892157-V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置 図000012
  • 特許6892157-V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置 図000013
  • 特許6892157-V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置 図000014
  • 特許6892157-V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置 図000015
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6892157
(24)【登録日】2021年5月31日
(45)【発行日】2021年6月23日
(54)【発明の名称】V2X情報融合技術によって取得された、各物体に対する深さ予測情報及び各物体に対するクラス情報を利用して3D空間を再構築することによりHDマップをアップデートする学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20210614BHJP
   G09B 29/00 20060101ALI20210614BHJP
【FI】
   G06T7/00 350C
   G09B29/00 Z
【請求項の数】30
【全頁数】28
(21)【出願番号】特願2020-9527(P2020-9527)
(22)【出願日】2020年1月23日
(65)【公開番号】特開2020-123348(P2020-123348A)
(43)【公開日】2020年8月13日
【審査請求日】2020年1月23日
(31)【優先権主張番号】62/798,656
(32)【優先日】2019年1月30日
(33)【優先権主張国】US
(31)【優先権主張番号】16/724,994
(32)【優先日】2019年12月23日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】517038176
【氏名又は名称】株式会社ストラドビジョン
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100091214
【弁理士】
【氏名又は名称】大貫 進介
(72)【発明者】
【氏名】金 桂賢
(72)【発明者】
【氏名】金 鎔重
(72)【発明者】
【氏名】金 鶴京
(72)【発明者】
【氏名】南 雲鉉
(72)【発明者】
【氏名】夫 碩▲ふん▼
(72)【発明者】
【氏名】成 明哲
(72)【発明者】
【氏名】申 東洙
(72)【発明者】
【氏名】呂 東勳
(72)【発明者】
【氏名】柳 宇宙
(72)【発明者】
【氏名】李 明春
(72)【発明者】
【氏名】李 炯樹
(72)【発明者】
【氏名】張 泰雄
(72)【発明者】
【氏名】鄭 景中
(72)【発明者】
【氏名】諸 泓模
(72)【発明者】
【氏名】趙 浩辰
【審査官】 合田 幸裕
(56)【参考文献】
【文献】 米国特許出願公開第2018/0189578(US,A1)
【文献】 米国特許出願公開第2016/0325753(US,A1)
【文献】 米国特許出願公開第2018/0025235(US,A1)
【文献】 米国特許出願公開第2018/0232583(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G09B 29/00
IEEE Xplore
JSTPlus(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
多数の車両によって取得された情報のうち、HDマップ(High Definition Map)をアップデートするために利用される特定情報を選択する学習方法において、
(a)学習装置が、ターゲット領域内で検出された第1クラウドポイントないし第Nクラウドポイントに対応する第1座標ないし第N座標に対する情報を含む少なくとも一つの座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つのローカル特徴マップ及び少なくとも一つのグローバル特徴ベクトルを生成するようにする段階;
(b)前記学習装置が、(i)前記ローカル特徴マップと、(ii)前記グローバル特徴ベクトルと、(iii)前記第1クラウドポイントないし前記第Nクラウドポイントに対応する第1クラス情報ないし第Nクラス情報に対する情報を含む少なくとも一つのクラスマトリックスとを統合して生成された少なくとも一つの統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報が前記HDマップのアップデートに利用される確率それぞれを示す第1予測適合度スコアないし第N予測適合度スコアを生成するようにする段階;及び
(c)前記学習装置が、ロスレイヤをもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと(ii)第1GT(Ground−Truth)適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーション(backpropagation)を遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにする段階;
を含むことを特徴とする方法。
【請求項2】
前記(a)段階で、
前記学習装置が、前記座標ニューラルネットワークの少なくとも一つの座標コンボリューションレイヤに含まれている一つ以上の座標コンボリューションニューロンそれぞれをもって、前記座標ニューラルネットワークのパラメータを用いて少なくとも一つの座標コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の座標コンボリューションニューロンに伝達させることにより、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの座標コンボリューション演算を前記座標マトリックスに適用することにより、前記ローカル特徴マップを生成するようにすることを特徴とする請求項1に記載の方法。
【請求項3】
前記(a)段階で、
前記学習装置が、前記座標ニューラルネットワークのグローバル特徴レイヤをもって、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つのグローバル特徴演算を前記ローカル特徴マップに適用して前記グローバル特徴ベクトルを生成するようにすることを特徴とする請求項2に記載の方法。
【請求項4】
前記(b)段階で、
前記統合特徴マップは、(i)特定の順序で整列された前記第1クラス情報ないし前記第Nクラス情報を成分として含む前記クラスマトリックス、(ii)前記特定の順序で整列された、前記第1クラウドポイントないし前記第Nクラウドポイントそれぞれに対応するそれぞれの特徴値を成分として含む前記ローカル特徴マップ、及び(iii)前記グローバル特徴ベクトルをN回複製して生成されたグローバル特徴マップを、チャネル方向にコンカチネーティング(Channel−wise Concatenating)して生成されることを特徴とする請求項1に記載の方法。
【請求項5】
前記(b)段階で、
前記学習装置が、(i)前記判断ニューラルネットワークの少なくとも一つの判断コンボリューションレイヤに含まれた一つ以上の判断コンボリューションニューロンそれぞれをもって、前記判断ニューラルネットワークのパラメータを用いて、少なくとも一つの判断コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の判断コンボリューションニューロンに伝達させることにより、前記判断ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの判断コンボリューション演算を前記判断マトリックスに適用するようにし、判断特徴マップを生成するようにした後、(ii)前記判断ニューラルネットワークの判断出力レイヤをもって、前記判断特徴マップを参照して前記第1クラウドポイントないし前記第Nクラウドポイントに前記判断ニューラルネットワーク演算の一部である分類(classification)演算を適用して、前記第1予測適合度スコアないし前記第N予測適合度スコアを生成するようにすることを特徴とする請求項1に記載の方法。
【請求項6】
前記(c)段階で、
前記学習装置が、前記ロスレイヤをもって、次の数式に従って前記ロスを生成するようにし、
【数7】
Nは、前記第1クラウドポイントないし第Nクラウドポイントの個数を意味し、yiは、第i予測適合度スコアを意味し、
【数8】
は、第iGT適合度スコアを意味することを特徴とする請求項1に記載の方法。
【請求項7】
前記(c)段階で、
前記学習装置が、前記ロスレイヤをもって、最急下降法(gradient descent)を利用して、前記バックプロパゲーションを遂行することにより、前記バックプロパゲーションによって調整された前記パラメータを利用して生成される後続第1予測適合度スコアないし後続第N予測適合度スコアが前記後続第1予測適合度スコアないし前記後続第N予測適合度スコアそれぞれに対応する後続第1GT適合度スコアないし後続第NのGT適合度スコアと相対的にさらに類似するようにさせることを特徴とする請求項1に記載の方法。
【請求項8】
一つ以上のデータ取得車両と連動するサーバが、(i)それぞれの前記データ取得車両によって取得した地図データを、それぞれの前記地図データが取得された位置に対するそれぞれの位置情報を参照にして分類し、(ii)前記分類された地図データ内の前記ターゲット領域に対するターゲット情報を利用して前記座標マトリックス及び前記クラスマトリックスを生成し、(iii)前記座標マトリックス及び前記クラスマトリックスを前記学習装置に伝達することを特徴とする請求項1に記載の方法。
【請求項9】
前記地図データのうちの、第1特定地図データ及び第2特定地図データが同一の特定領域に対応する場合、前記サーバが、前記第1特定地図データ及び前記第2特定地図データに少なくとも一つの統合演算を適用して前記第1特定地図データ及び前記第2特定地図データを統合することを特徴とする請求項8に記載の方法。
【請求項10】
前記データ取得車両それぞれは、(i)少なくとも一つのカメラ及び少なくとも一つの深さセンサのうちの少なくとも一部と、(ii)前記少なくとも一つのカメラ及び前記少なくとも一つの深さセンサのうちの少なくとも一部に対応する演算モジュールとを利用して、前記データ取得車両それぞれから距離閾値以下に位置する一つ以上の物体に対するクラウドポイント情報及びクラス情報を取得することにより、前記地図データのうち少なくとも一部を取得し、前記地図データのうち少なくとも一部を前記サーバに伝達することを特徴とする請求項8に記載の方法。
【請求項11】
前記サーバは、(i)前記地図データに含まれている、前記ターゲット領域に対応する特定クラウドポイント情報を用いて前記座標マトリックスを生成するプロセス、及び(ii)前記地図データに含まれている、前記ターゲット領域に対応する特定クラス情報を用いて前記クラスマトリックスを生成するプロセスを遂行することを特徴とする請求項10に記載の方法。
【請求項12】
多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択するテスティング方法において、
(a)(1)学習装置が、学習用ターゲット領域内で検出された第1学習用クラウドポイントないし第N学習用クラウドポイントに対応する第1学習用座標ないし第N学習用座標に対する情報を含む少なくとも一つの学習用座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記学習用座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つの学習用ローカル特徴マップ及び少なくとも一つの学習用グローバル特徴ベクトルを生成するようにし、(2)前記学習装置が、(i)前記学習用ローカル特徴マップと、(ii)前記学習用グローバル特徴ベクトルと、(iii)前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対応する第1学習用クラス情報ないし第N学習用クラス情報に対する情報を含む少なくとも一つの学習用クラスマトリックスとを統合して生成された少なくとも一つの学習用統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記学習用統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対する情報が前記学習用HDマップのアップデートに利用される確率それぞれを示す第1学習用予測適合度スコアないし第N学習用予測適合度スコアを生成するようにし、(3)前記学習装置が、ロスレイヤをもって、(i)前記第1学習用予測適合度スコアないし前記第N学習用予測適合度スコアと、(ii)第1GT適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにした状態で、テスティング装置が、テスト用ターゲット領域内で検出された第1テスト用クラウドポイントないし第Nテスト用クラウドポイントに対応する第1テスト用座標ないし第Nテスト用座標に対する情報を含む少なくとも一つのテスト用座標マトリックスが取得されると、前記座標ニューラルネットワークをもって、前記テスト用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つのテスト用ローカル特徴マップ及び少なくとも一つのテスト用グローバル特徴ベクトルを生成するようにする段階;及び
(b)前記テスティング装置が、(i)前記テスト用ローカル特徴マップと、(ii)前記テスト用グローバル特徴ベクトルと、(iii)前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対応する第1テスト用クラス情報ないし第Nテスト用クラス情報に対する情報を含む少なくとも一つのテスト用クラスマトリックスとを統合して生成された少なくとも一つのテスト用統合特徴マップが取得されると、前記判断ニューラルネットワークをもって、前記テスト用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対する情報が前記テスト用HDマップのアップデートに利用される確率それぞれを示す第1テスト用予測適合度スコアないし第Nテスト用予測適合度スコアを生成するようにする段階;
を含むことを特徴とするテスティング方法。
【請求項13】
(c)前記テスティング装置が、アップデートモジュールをもって、前記第1テスト用予測適合度スコアないし前記第Nテスト用予測適合度スコアそれぞれが閾値以上であるか否かを判断するようにし、前記閾値以上の特定予測適合度スコアを有する一つ以上の特定クラウドポイントに対する特定情報を利用して前記テスト用HDマップをアップデートするようにする段階;
をさらに含むことを特徴とする請求項12に記載のテスティング方法。
【請求項14】
一つ以上のテスト用データ取得車両と連動するテスト用サーバが、(i)それぞれの前記テスト用データ取得車両によって取得されたテスト用地図データそれぞれを、前記テスト用地図データが取得されたそれぞれの位置に対するそれぞれのテスト用位置情報を参照にして分類し、(ii)分類された前記テスト用地図データに含まれた、前記テスト用ターゲット領域に対するテスト用ターゲット情報を利用して前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを生成し、(iii)前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを前記テスト用学習装置に伝達することを特徴とする請求項12に記載のテスティング方法。
【請求項15】
前記テスト用サーバは、(i)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラウドポイント情報を用いて前記テスト用座標マトリックスを生成するプロセス、及び(ii)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラス情報を用いて前記テスト用クラスマトリックスを生成するプロセスを遂行することを特徴とする請求項12に記載のテスティング方法。
【請求項16】
多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択する学習装置において、
インストラクションを格納する少なくとも一つのメモリ;及び
(I)ターゲット領域内で検出された第1クラウドポイントないし第Nクラウドポイントに対応する第1座標ないし第N座標に対する情報を含む少なくとも一つの座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つのローカル特徴マップ及び少なくとも一つのグローバル特徴ベクトルを生成するようにするプロセス、(II)(i)前記ローカル特徴マップと、(ii)前記グローバル特徴ベクトルと、(iii)前記第1クラウドポイントないし前記第Nクラウドポイントに対応する第1クラス情報ないし第Nクラス情報に対する情報を含む少なくとも一つのクラスマトリックスとを統合して生成された少なくとも一つの統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報が前記HDマップのアップデートに利用される確率それぞれを示す第1予測適合度スコアないし第N予測適合度スコアを生成するようにするプロセス、及び(III)ロスレイヤをもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと(ii)第1GT(Ground−Truth)適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーション(backpropagation)を遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにするプロセスを遂行するための、前記インストラクションを実行するように構成された少なくとも一つのプロセッサ;
を含むことを特徴とする学習装置。
【請求項17】
前記(I)プロセスで、
前記プロセッサが、前記座標ニューラルネットワークの少なくとも一つの座標コンボリューションレイヤに含まれている一つ以上の座標コンボリューションニューロンそれぞれをもって、前記座標ニューラルネットワークのパラメータを用いて少なくとも一つの座標コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の座標コンボリューションニューロンに伝達させることにより、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの座標コンボリューション演算を前記座標マトリックスに適用することにより、前記ローカル特徴マップを生成するようにすることを特徴とする請求項16に記載の学習装置。
【請求項18】
前記(I)プロセスで、
前記プロセッサが、前記座標ニューラルネットワークのグローバル特徴レイヤをもって、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つのグローバル特徴演算を前記ローカル特徴マップに適用して前記グローバル特徴ベクトルを生成するようにすることを特徴とする請求項17に記載の学習装置。
【請求項19】
前記(II)プロセスで、
前記統合特徴マップは、(i)特定の順序で整列された前記第1クラス情報ないし前記第Nクラス情報を成分として含む前記クラスマトリックス、(ii)前記特定の順序で整列された、前記第1クラウドポイントないし前記第Nクラウドポイントそれぞれに対応するそれぞれの特徴値を成分として含む前記ローカル特徴マップ、及び(iii)前記グローバル特徴ベクトルをN回複製して生成されたグローバル特徴マップを、チャネル方向にコンカチネーティングして生成されることを特徴とする請求項16に記載の学習装置。
【請求項20】
前記(II)プロセスで、
前記プロセッサが、(i)前記判断ニューラルネットワークの少なくとも一つの判断コンボリューションレイヤに含まれた一つ以上の判断コンボリューションニューロンそれぞれをもって、前記判断ニューラルネットワークのパラメータを用いて、少なくとも一つの判断コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の判断コンボリューションニューロンに伝達させることにより、前記判断ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの判断コンボリューション演算を前記判断マトリックスに適用するようにし、判断特徴マップを生成するようにし、(ii)前記判断ニューラルネットワークの判断出力レイヤをもって、前記判断特徴マップを参照して前記第1クラウドポイントないし前記第Nクラウドポイントに前記判断ニューラルネットワーク演算の一部である分類演算を適用して、前記第1予測適合度スコアないし前記第N予測適合度スコアを生成するようにすることを特徴とする請求項16に記載の学習装置。
【請求項21】
前記(III)プロセスで、
前記プロセッサが、前記ロスレイヤをもって、次の数式に従って前記ロスを生成するようにし、
【数9】
Nは、前記第1クラウドポイントないし第Nクラウドポイントの個数を意味し、yiは、第i予測適合度スコアを意味し、
【数10】
は、第iGT適合度スコアを意味することを特徴とする請求項16に記載の学習装置。
【請求項22】
前記(III)プロセスで、
前記プロセッサが、前記ロスレイヤをもって、最急下降法(gradient descent)を利用して、前記バックプロパゲーションを遂行することにより、前記バックプロパゲーションによって調整された前記パラメータを利用して生成される後続第1予測適合度スコアないし後続第N予測適合度スコアが前記後続第1予測適合度スコアないし前記後続第N予測適合度スコアそれぞれに対応する後続第1GT適合度スコアないし後続第NのGT適合度スコアと相対的にさらに類似するようにさせることを特徴とする請求項16に記載の学習装置。
【請求項23】
一つ以上のデータ取得車両と連動するサーバが、(i)それぞれの前記データ取得車両によって取得した地図データを、それぞれの前記地図データが取得された位置に対するそれぞれの位置情報を参照にして分類し、(ii)前記分類された地図データ内の前記ターゲット領域に対するターゲット情報を利用して前記座標マトリックス及び前記クラスマトリックスを生成し、(iii)前記座標マトリックス及び前記クラスマトリックスを前記学習装置に伝達することを特徴とする請求項16に記載の学習装置。
【請求項24】
前記地図データのうちの、第1特定地図データ及び第2特定地図データが同一の特定領域に対応する場合、前記サーバが、前記第1特定地図データ及び前記第2特定地図データに少なくとも一つの統合演算を適用して前記第1特定地図データ及び前記第2特定地図データを統合することを特徴とする請求項23に記載の学習装置。
【請求項25】
前記データ取得車両それぞれは、(i)少なくとも一つのカメラ及び少なくとも一つの深さセンサのうちの少なくとも一部と、(ii)前記少なくとも一つのカメラ及び前記少なくとも一つの深さセンサのうちの少なくとも一部に対応する演算モジュールとを利用して、前記データ取得車両それぞれから距離閾値以下に位置する一つ以上の物体に対するクラウドポイント情報及びクラス情報を取得することにより、前記地図データのうち少なくとも一部を取得し、前記地図データのうち少なくとも一部を前記サーバに伝達することを特徴とする請求項23に記載の学習装置。
【請求項26】
前記サーバは、(i)前記地図データに含まれている、前記ターゲット領域に対応する特定クラウドポイント情報を用いて前記座標マトリックスを生成するプロセス、及び(ii)前記地図データに含まれている、前記ターゲット領域に対応する特定クラス情報を用いて前記クラスマトリックスを生成するプロセスを遂行することを特徴とする請求項25に記載の学習装置。
【請求項27】
多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択するテスティング装置において、
インストラクションを格納する少なくとも一つのメモリ;及び
(I)(1)学習装置が、学習用ターゲット領域内で検出された第1学習用クラウドポイントないし第N学習用クラウドポイントに対応する第1学習用座標ないし第N学習用座標に対する情報を含む少なくとも一つの学習用座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記学習用座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つの学習用ローカル特徴マップ及び少なくとも一つの学習用グローバル特徴ベクトルを生成するようにし、(2)前記学習装置が、(i)前記学習用ローカル特徴マップと、(ii)前記学習用グローバル特徴ベクトルと、(iii)前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対応する第1学習用クラス情報ないし第N学習用クラス情報に対する情報を含む少なくとも一つの学習用クラスマトリックスとを統合して生成された少なくとも一つの学習用統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記学習用統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対する情報が前記学習用HDマップのアップデートに利用される確率それぞれを示す第1学習用予測適合度スコアないし第N学習用予測適合度スコアを生成するようにし、(3)前記学習装置が、ロスレイヤをもって、(i)前記第1学習用予測適合度スコアないし前記第N学習用予測適合度スコアと、(ii)第1GT適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにした状態で、テスト用ターゲット領域内で検出された第1テスト用クラウドポイントないし第Nテスト用クラウドポイントに対応する第1テスト用座標ないし第Nテスト用座標に対する情報を含む少なくとも一つのテスト用座標マトリックスが取得されると、前記座標ニューラルネットワークをもって、前記テスト用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つのテスト用ローカル特徴マップ及び少なくとも一つのテスト用グローバル特徴ベクトルを生成するようにするプロセス、及び(II)(i)前記テスト用ローカル特徴マップと、(ii)前記テスト用グローバル特徴ベクトルと、(iii)前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対応する第1テスト用クラス情報ないし第Nテスト用クラス情報に対する情報を含む少なくとも一つのテスト用クラスマトリックスとを統合して生成された少なくとも一つのテスト用統合特徴マップが取得されると、前記判断ニューラルネットワークをもって、前記テスト用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対する情報が前記テスト用HDマップのアップデートに利用される確率それぞれを示す第1テスト用予測適合度スコアないし第Nテスト用予測適合度スコアを生成するようにするプロセスを遂行するための、前記インストラクションを実行するように構成された少なくとも一つのプロセッサ;
を含むことを特徴とするテスティング装置。
【請求項28】
前記プロセッサが、(III)アップデートモジュールをもって、前記第1テスト用予測適合度スコアないし前記第Nテスト用予測適合度スコアそれぞれが閾値以上であるか否かを判断するようにし、前記閾値以上の特定予測適合度スコアを有する一つ以上の特定クラウドポイントに対する特定情報を利用して前記テスト用HDマップをアップデートするようにするプロセスをさらに遂行することを特徴とする請求項27に記載のテスティング装置。
【請求項29】
一つ以上のテスト用データ取得車両と連動するテスト用サーバが、(i)それぞれの前記テスト用データ取得車両によって取得されたテスト用地図データそれぞれを、前記テスト用地図データが取得されたそれぞれの位置に対するそれぞれのテスト用位置情報を参照にして分類し、(ii)分類された前記テスト用地図データに含まれた、前記テスト用ターゲット領域に対するテスト用ターゲット情報を利用して前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを生成し、(iii)前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを前記テスティング装置に伝達することを特徴とする請求項27に記載のテスティング装置。
【請求項30】
前記テスト用サーバは、(i)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラウドポイント情報を用いて前記テスト用座標マトリックスを生成するプロセス、及び(ii)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラス情報を用いて前記テスト用クラスマトリックスを生成するプロセスを遂行することを特徴とする請求項27に記載のテスティング装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自律走行車両に利用するための学習方法及び学習装置に関し;より詳細には、3D空間を再構築してHDマップ(High Definition Map)をアップデートする前記学習方法及び前記学習装置、そしてこれを利用したテスト方法及びテスト装置に関する。
【背景技術】
【0002】
最近、車の自律走行技術が脚光を浴びている。自律走行技術とは、車両に搭載されたセンサ、カメラなどの外部情報を取得できるモジュールによって外部情報を収集し、これを利用して車両が安全に走行されるようにする技術を意味する。
【0003】
自律走行技術で必須で求められるのがHDマップ(High Definition Map)だが、HDマップは情報が高密度に集約されており、センチメートル単位の正確性を持つ地図であり、自律走行車両の安全な走行のためには、このような良い地図が必要だからである。
【0004】
しかし、このようなHDマップを作成することは非常に難しく、時間と費用が多く投入される作業である。これは、HDマップに入る情報を収集するために、適切な装備を搭載した車両を隅々まで移動させなければならず、抽出された情報に臨時的な情報、例えば道路脇にしばらく停車中の車両等の情報が含まれていないか、その都度確認しなければならないからである。このような高いコストのため、HDマップは多く作成されていないのが実情である。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、前述した問題点を解決することを目的とする。
【0006】
本発明は、(i)V2X(vehicle−to−everything)情報融合技術を利用して多数の車両の深さ予測(Multi−Vehicle Depth Estimation)情報を取得して少なくとも一つのHDマップ(High Definition Map)をアップデートし、(ii)前記多数の車両の深さ予測情報を利用して3D空間再構築を遂行する学習方法を提供することにより、車両がより安全に自律走行を遂行できるよう支援することを他の目的とする。
【0007】
本発明は、データ取得車両から取得された地図データを分類し、評価して、HDマップをアップデートする方法を提供できるようにすることをまた他の目的とする。
【0008】
本発明は、地図データに対するローカル情報とグローバル情報とを参照して、地図データを評価できる方法を提供できるようにすることをまた他の目的とする。
【課題を解決するための手段】
【0009】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための、本発明の特徴的な構成は次の通りである。
【0010】
本発明の一態様によれば、多数の車両によって取得された情報のうち、HDマップ(High Definition Map)をアップデートするために利用される特定情報を選択する学習方法において、(a)学習装置が、ターゲット領域内で検出された第1クラウドポイントないし第Nクラウドポイントに対応する第1座標ないし第N座標に対する情報を含む少なくとも一つの座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つのローカル特徴マップ及び少なくとも一つのグローバル特徴ベクトルを生成するようにする段階;(b)前記学習装置が、(i)前記ローカル特徴マップと、(ii)前記グローバル特徴ベクトルと、(iii)前記第1クラウドポイントないし前記第Nクラウドポイントに対応する第1クラス情報ないし第Nクラス情報に対する情報を含む少なくとも一つのクラスマトリックスとを統合して生成された少なくとも一つの統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報が前記HDマップのアップデートに利用される確率それぞれを示す第1予測適合度スコアないし第N予測適合度スコアを生成するようにする段階;及び(c)前記学習装置が、ロスレイヤをもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと(ii)第1GT(Ground−Truth)適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーション(backpropagation)を遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにする段階;を含むことを特徴とする方法が提供される。
【0011】
一実施例として、前記(a)段階で、前記学習装置が、前記座標ニューラルネットワークの少なくとも一つの座標コンボリューションレイヤに含まれている一つ以上の座標コンボリューションニューロンそれぞれをもって、そのパラメータを用いて少なくとも一つの座標コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の座標コンボリューションニューロンに伝達させることにより、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの座標コンボリューション演算を前記座標マトリックスに適用することにより、前記ローカル特徴マップを生成するようにする。
【0012】
一実施例として、前記(a)段階で、前記学習装置が、 前記座標ニューラルネットワークのグローバル特徴レイヤをもって、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つのグローバル特徴演算を前記ローカル特徴マップに適用して前記グローバル特徴ベクトルを生成する。
【0013】
一実施例として、前記(b)段階で、前記統合特徴マップは、(i)特定の順序で整列された前記第1クラス情報ないし前記第Nクラス情報を成分として含む前記クラスマトリックス、(ii)前記特定の順序で整列された、前記第1クラウドポイントないし前記第Nクラウドポイントそれぞれに対応するそれぞれの特徴値を成分として含む前記ローカル特徴マップ、及び(iii)前記グローバル特徴ベクトルをN回複製して生成されたグローバル特徴マップを、チャネル方向にコンカチネーティング(Channel−wise Concatenating)して生成される。
【0014】
一実施例として、前記(b)段階で、前記学習装置が、(i)前記判断ニューラルネットワークの少なくとも一つの判断コンボリューションレイヤに含まれた一つ以上の判断コンボリューションニューロンそれぞれをもって、そのパラメータを用いて、少なくとも一つの判断コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の判断コンボリューションニューロンに伝達させることにより、前記判断ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの判断コンボリューション演算を前記判断マトリックスに適用するようにし、判断特徴マップを生成するようにした後、(ii)前記判断ニューラルネットワークの判断出力レイヤをもって、前記判断特徴マップを参照して前記第1クラウドポイントないし前記第Nクラウドポイントに前記判断ニューラルネットワーク演算の一部である分類(classification)演算を適用して、前記第1予測適合度スコアないし前記第N予測適合度スコアを生成するようにする。
【0015】
一実施例として、前記(c)段階で、前記学習装置が、前記ロスレイヤをもって、次の数式に従って前記ロスを生成するようにし、
【0016】
【数1】
Nは、前記第1クラウドポイントないし第Nクラウドポイントの個数を意味し、yiは、第i予測適合度スコアを意味し、
【0017】
【数2】
は、第iGT適合度スコアを意味する。
【0018】
一実施例として、前記(c)段階で、前記学習装置が、前記ロスレイヤをもって、最急下降法(gradient descent)を利用して、前記バックプロパゲーションを遂行することにより、これによって調整された前記パラメータを利用して生成される後続第1予測適合度スコアないし後続第N予測適合度スコアがこれに対応する後続第1GT適合度スコアないし後続第NのGT適合度スコアと相対的にさらに類似するようにさせる。
【0019】
一実施例として、一つ以上のデータ取得車両と連動するサーバが、(i)それぞれの前記データ取得車両によって取得した地図データを、それぞれの前記地図データが取得された位置に対するそれぞれの位置情報を参照にして分類し、(ii)前記分類された地図データ内の前記ターゲット領域に対するターゲット情報を利用して前記座標マトリックス及び前記クラスマトリックスを生成し、(iii)前記座標マトリックス及び前記クラスマトリックスを前記学習装置に伝達する。
【0020】
一実施例として、前記地図データのうちの、第1特定地図データ及び第2特定地図データが同一の特定領域に対応する場合、前記サーバが、前記第1特定地図データ及び前記第2特定地図データに少なくとも一つの統合演算を適用して前記第1特定地図データ及び前記第2特定地図データを統合する。
【0021】
一実施例として、前記データ取得車両それぞれは、(i)少なくとも一つのカメラ及び少なくとも一つの深さセンサのうちの少なくとも一部と、(ii)これに対応する演算モジュールとを利用して、前記データ取得車両それぞれから距離閾値以下に位置する一つ以上の物体に対するクラウドポイント情報及びクラス情報を取得することにより、前記地図データのうち少なくとも一部を取得し、それを前記サーバに伝達する。
【0022】
一実施例として、前記サーバは、(i)前記地図データに含まれている、前記ターゲット領域に対応する特定クラウドポイント情報を用いて前記座標マトリックスを生成するプロセス、及び(ii)前記地図データに含まれている、前記ターゲット領域に対応する特定クラス情報を用いて前記クラスマトリックスを生成するプロセスを遂行する。
【0023】
本発明の他の一態様によれば、多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択するテスティング方法において、(a)(1)学習装置が、学習用ターゲット領域内で検出された第1学習用クラウドポイントないし第N学習用クラウドポイントに対応する第1学習用座標ないし第N学習用座標に対する情報を含む少なくとも一つの学習用座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記学習用座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つの学習用ローカル特徴マップ及び少なくとも一つの学習用グローバル特徴ベクトルを生成するようにし、(2)前記学習装置が、(i)前記学習用ローカル特徴マップと、(ii)前記学習用グローバル特徴ベクトルと、(iii)前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対応する第1学習用クラス情報ないし第N学習用クラス情報に対する情報を含む少なくとも一つの学習用クラスマトリックスとを統合して生成された少なくとも一つの学習用統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記学習用統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対する情報が前記学習用HDマップのアップデートに利用される確率それぞれを示す第1学習用予測適合度スコアないし第N学習用予測適合度スコアを生成するようにし、(3)前記学習装置が、ロスレイヤをもって、(i)前記第1学習用予測適合度スコアないし前記第N学習用予測適合度スコアと、(ii)第1GT適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにした状態で、テスティング装置が、テスト用ターゲット領域内で検出された第1テスト用クラウドポイントないし第Nテスト用クラウドポイントに対応する第1テスト用座標ないし第Nテスト用座標に対する情報を含む少なくとも一つのテスト用座標マトリックスが取得されると、前記座標ニューラルネットワークをもって、前記テスト用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つのテスト用ローカル特徴マップ及び少なくとも一つのテスト用グローバル特徴ベクトルを生成するようにする段階;及び(b)前記テスティング装置が、(i)前記テスト用ローカル特徴マップと、(ii)前記テスト用グローバル特徴ベクトルと、(iii)前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対応する第1テスト用クラス情報ないし第Nテスト用クラス情報に対する情報を含む少なくとも一つのテスト用クラスマトリックスとを統合して生成された少なくとも一つのテスト用統合特徴マップが取得されると、前記判断ニューラルネットワークをもって、前記テスト用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対する情報が前記テスト用HDマップのアップデートに利用される確率それぞれを示す第1テスト用予測適合度スコアないし第Nテスト用予測適合度スコアを生成するようにする段階;を含むことを特徴とするテスティング方法が提供される。
【0024】
一実施例として、(c)前記テスティング装置が、アップデートモジュールをもって、前記第1テスト用予測適合度スコアないし前記第Nテスト用予測適合度スコアそれぞれが閾値以上であるか否かを判断するようにし、前記閾値以上の特定予測適合度スコアを有する一つ以上の特定クラウドポイントに対する特定情報を利用して前記テスト用HDマップをアップデートするようにする段階;をさらに含む。
【0025】
一実施例として、一つ以上のテスト用データ取得車両と連動するテスト用サーバが、(i)それぞれの前記テスト用データ取得車両によって取得されたテスト用地図データそれぞれを、前記テスト用地図データが取得されたそれぞれの位置に対するそれぞれのテスト用位置情報を参照にして分類し、(ii)分類された前記テスト用地図データに含まれた、前記テスト用ターゲット領域に対するテスト用ターゲット情報を利用して前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを生成し、(iii)前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを前記テスト用学習装置に伝達する。
【0026】
一実施例として、前記テスト用サーバは、(i)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラウドポイント情報を用いて前記テスト用座標マトリックスを生成するプロセス、及び(ii)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラス情報を用いて前記テスト用クラスマトリックスを生成するプロセスを遂行する。
【0027】
本発明のまた他の一態様によれば、多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択する学習装置において、インストラクションを格納する少なくとも一つのメモリ;及び(I)ターゲット領域内で検出された第1クラウドポイントないし第Nクラウドポイントに対応する第1座標ないし第N座標に対する情報を含む少なくとも一つの座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つのローカル特徴マップ及び少なくとも一つのグローバル特徴ベクトルを生成するようにするプロセス、(II)(i)前記ローカル特徴マップと、(ii)前記グローバル特徴ベクトルと、(iii)前記第1クラウドポイントないし前記第Nクラウドポイントに対応する第1クラス情報ないし第Nクラス情報に対する情報を含む少なくとも一つのクラスマトリックスとを統合して生成された少なくとも一つの統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報が前記HDマップのアップデートに利用される確率それぞれを示す第1予測適合度スコアないし第N予測適合度スコアを生成するようにするプロセス、及び(III)ロスレイヤをもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと(ii)第1GT(Ground−Truth)適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーション(backpropagation)を遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにするプロセスを遂行するための、前記インストラクションを実行するように構成された少なくとも一つのプロセッサ;を含むことを特徴とする学習装置が提供される。
【0028】
一実施例として、前記(I)プロセスで、前記プロセッサが、前記座標ニューラルネットワークの少なくとも一つの座標コンボリューションレイヤに含まれている一つ以上の座標コンボリューションニューロンそれぞれをもって、そのパラメータを用いて少なくとも一つの座標コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の座標コンボリューションニューロンに伝達させることにより、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの座標コンボリューション演算を前記座標マトリックスに適用することにより、前記ローカル特徴マップを生成するようにする。
【0029】
一実施例として、前記(I)プロセスで、前記プロセッサが、前記座標ニューラルネットワークのグローバル特徴レイヤをもって、前記座標ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つのグローバル特徴演算を前記ローカル特徴マップに適用して前記グローバル特徴ベクトルを生成するようにする。
【0030】
一実施例として、前記(II)プロセスで、前記統合特徴マップは、(i)特定の順序で整列された前記第1クラス情報ないし前記第Nクラス情報を成分として含む前記クラスマトリックス、(ii)前記特定の順序で整列された、前記第1クラウドポイントないし前記第Nクラウドポイントそれぞれに対応するそれぞれの特徴値を成分として含む前記ローカル特徴マップ、及び(iii)前記グローバル特徴ベクトルをN回複製して生成されたグローバル特徴マップを、チャネル方向にコンカチネーティングして生成される。
【0031】
一実施例として、前記(II)プロセスで、前記プロセッサが、(i)前記判断ニューラルネットワークの少なくとも一つの判断コンボリューションレイヤに含まれた一つ以上の判断コンボリューションニューロンそれぞれをもって、そのパラメータを用いて、少なくとも一つの判断コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の判断コンボリューションニューロンに伝達させることにより、前記判断ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの判断コンボリューション演算を前記判断マトリックスに適用するようにし、判断特徴マップを生成するようにし、(ii)前記判断ニューラルネットワークの判断出力レイヤをもって、前記判断特徴マップを参照して前記第1クラウドポイントないし前記第Nクラウドポイントに前記判断ニューラルネットワーク演算の一部である分類演算を適用して、前記第1予測適合度スコアないし前記第N予測適合度スコアを生成するようにする。
【0032】
一実施例として、前記(III)プロセスで、前記プロセッサが、前記ロスレイヤをもって、次の数式に従って前記ロスを生成するようにし、
【0033】
【数3】
Nは、前記第1クラウドポイントないし第Nクラウドポイントの個数を意味し、yiは、第i予測適合度スコアを意味し、
【0034】
【数4】
は、第iGT適合度スコアを意味する。
【0035】
一実施例として、前記(III)プロセスで、前記プロセッサが、前記ロスレイヤをもって、最急下降法(gradient descent)を利用して、前記バックプロパゲーションを遂行することにより、これによって調整された前記パラメータを利用して生成される後続第1予測適合度スコアないし後続第N予測適合度スコアがこれに対応する後続第1GT適合度スコアないし後続第NのGT適合度スコアと相対的にさらに類似するようにさせる。
【0036】
一実施例として、一つ以上のデータ取得車両と連動するサーバが、(i)それぞれの前記データ取得車両によって取得した地図データを、それぞれの前記地図データが取得された位置に対するそれぞれの位置情報を参照にして分類し、(ii)前記分類された地図データ内の前記ターゲット領域に対するターゲット情報を利用して前記座標マトリックス及び前記クラスマトリックスを生成し、(iii)前記座標マトリックス及び前記クラスマトリックスを前記学習装置に伝達する。
【0037】
一実施例として、前記地図データのうちの、第1特定地図データ及び第2特定地図データが同一の特定領域に対応する場合、前記サーバが、前記第1特定地図データ及び前記第2特定地図データに少なくとも一つの統合演算を適用して前記第1特定地図データ及び前記第2特定地図データを統合する。
【0038】
一実施例として、前記データ取得車両それぞれは、(i)少なくとも一つのカメラ及び少なくとも一つの深さセンサのうちの少なくとも一部と、(ii)これに対応する演算モジュールとを利用して、前記データ取得車両それぞれから距離閾値以下に位置する一つ以上の物体に対するクラウドポイント情報及びクラス情報を取得することにより、前記地図データのうち少なくとも一部を取得し、それを前記サーバに伝達する。
【0039】
一実施例として、前記サーバは、(i)前記地図データに含まれている、前記ターゲット領域に対応する特定クラウドポイント情報を用いて前記座標マトリックスを生成するプロセス、及び(ii)前記地図データに含まれている、前記ターゲット領域に対応する特定クラス情報を用いて前記クラスマトリックスを生成するプロセスを遂行する。
【0040】
本発明のまた他の一態様によれば、多数の車両によって取得された情報のうち、HDマップをアップデートするために利用される特定情報を選択するテスティング装置において、インストラクションを格納する少なくとも一つのメモリ;及び(I)(1)学習装置が、学習用ターゲット領域内で検出された第1学習用クラウドポイントないし第N学習用クラウドポイントに対応する第1学習用座標ないし第N学習用座標に対する情報を含む少なくとも一つの学習用座標マトリックスが取得されると、座標ニューラルネットワークをもって、前記学習用座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つの学習用ローカル特徴マップ及び少なくとも一つの学習用グローバル特徴ベクトルを生成するようにし、(2)前記学習装置が、(i)前記学習用ローカル特徴マップと、(ii)前記学習用グローバル特徴ベクトルと、(iii)前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対応する第1学習用クラス情報ないし第N学習用クラス情報に対する情報を含む少なくとも一つの学習用クラスマトリックスとを統合して生成された少なくとも一つの学習用統合特徴マップが取得されると、判断ニューラルネットワークをもって、前記学習用統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して、それぞれの前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対する情報が前記学習用HDマップのアップデートに利用される確率それぞれを示す第1学習用予測適合度スコアないし第N学習用予測適合度スコアを生成するようにし、(3)前記学習装置が、ロスレイヤをもって、(i)前記第1学習用予測適合度スコアないし前記第N学習用予測適合度スコアと、(ii)第1GT適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク及び前記座標ニューラルネットワークのパラメータのうちの少なくとも一部を学習するようにした状態で、テスト用ターゲット領域内で検出された第1テスト用クラウドポイントないし第Nテスト用クラウドポイントに対応する第1テスト用座標ないし第Nテスト用座標に対する情報を含む少なくとも一つのテスト用座標マトリックスが取得されると、前記座標ニューラルネットワークをもって、前記テスト用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つのテスト用ローカル特徴マップ及び少なくとも一つのテスト用グローバル特徴ベクトルを生成するようにするプロセス、及び(II)(i)前記テスト用ローカル特徴マップと、(ii)前記テスト用グローバル特徴ベクトルと、(iii)前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対応する第1テスト用クラス情報ないし第Nテスト用クラス情報に対する情報を含む少なくとも一つのテスト用クラスマトリックスとを統合して生成された少なくとも一つのテスト用統合特徴マップが取得されると、前記判断ニューラルネットワークをもって、前記テスト用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対する情報が前記テスト用HDマップのアップデートに利用される確率それぞれを示す第1テスト用予測適合度スコアないし第Nテスト用予測適合度スコアを生成するようにするプロセスを遂行するための、前記インストラクションを実行するように構成された少なくとも一つのプロセッサ;を含むことを特徴とするテスティング装置が提供される。
【0041】
一実施例として、前記プロセッサが、(III)アップデートモジュールをもって、前記第1テスト用予測適合度スコアないし前記第Nテスト用予測適合度スコアそれぞれが閾値以上であるか否かを判断するようにし、前記閾値以上の特定予測適合度スコアを有する一つ以上の特定クラウドポイントに対する特定情報を利用して前記テスト用HDマップをアップデートするようにするプロセスをさらに遂行する。
【0042】
一実施例として、一つ以上のテスト用データ取得車両と連動するテスト用サーバが、(i)それぞれの前記テスト用データ取得車両によって取得されたテスト用地図データそれぞれを、前記テスト用地図データが取得されたそれぞれの位置に対するそれぞれのテスト用位置情報を参照にして分類し、(ii)分類された前記テスト用地図データに含まれた、前記テスト用ターゲット領域に対するテスト用ターゲット情報を利用して前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを生成し、(iii)前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを前記テスティング装置に伝達する。
【0043】
一実施例として、前記テスト用サーバは、(i)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラウドポイント情報を用いて前記テスト用座標マトリックスを生成するプロセス、及び(ii)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラス情報を用いて前記テスト用クラスマトリックスを生成するプロセスを遂行する。
【発明の効果】
【0044】
本発明は、前述した問題点を解決することを目的とする。
【0045】
本発明は、V2X(vehicle−to−everything)情報融合技術を利用して多数の車両の深さ予測(Multi−Vehicle Depth Estimation)情報を取得して少なくとも一つのHDマップ(High Definition Map)をアップデートし、前記多数の車両の深さ予測情報を利用して3D空間再構築を遂行する学習方法を提供することにより、車両がより安全に自律走行を遂行できるようにする効果がある。
【図面の簡単な説明】
【0046】
本発明の前記及び他の目的及び特長は、次の添付図面とともに与えられた好ましい実施例の説明において明らかになるであろう。
【0047】
本発明の実施例の説明に利用されるために添付された以下の各図面は、本発明の実施例のうちの一部に過ぎず、本発明が属する技術分野でおいて、通常の知識を有する者(以下「通常の技術者」)は、発明的作業が行われることなくこの図面に基づいて他の図面が得られ得る。
図1図1は、本発明の一実施例に係る多数の車両によって取得された情報のうち、HDマップ(High Definition Map)をアップデートするために利用される特定情報を選択する学習方法を遂行する学習装置の構成を概略的に示した図面である。
図2図2は、本発明の一実施例に係る前記多数の車両によって取得された前記情報のうち、前記HDマップをアップデートするために利用される前記特定情報を選択する前記学習方法の流れを概略的に示した図面である。
図3図3は、本発明の一実施例に係る前記多数の車両によって取得された前記情報のうち、前記HDマップのアップデートに利用される前記特定情報を選択する前記学習方法を遂行するための、座標ニューラルネットワーク及び判断ニューラルネットワークが学習される方式を概略的に示した図面である。
図4図4は、本発明の一実施例に係る前記多数の車両によって取得された前記情報のうち、前記HDマップのアップデートに利用される前記特定情報を選択するテスティング方法を遂行するための、座標ニューラルネットワーク及び判断ニューラルネットワークがテストされる方式を概略的に示した図面である。
【発明を実施するための形態】
【0048】
後述する本発明に対する詳細な説明は、本発明の各目的、技術的解決方法及び長所を明確にするために、本発明が実施され得る特定実施例を例示として示す添付図面を参照する。これらの実施例は、通常の技術者が本発明を実施することができるように充分詳細に説明される。
【0049】
また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の技術的各特徴、各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者にとって本発明の他の各目的、長所及び各特性が、一部は本説明書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は実例として提供され、本発明を限定することを意図したものではない。
【0050】
さらに、本発明は、本明細書に示された実施例のあらゆる可能な組み合わせを網羅する。本発明の多様な実施例は相互異なるが、相互排他的である必要はないことを理解されたい。例えば、ここに記載されている特定の形状、構造及び特性は一例と関連して、本発明の精神及び範囲を逸脱せず、かつ他の実施例で実装され得る。また、各々の開示された実施例内の個別構成要素の位置または配置は、本発明の精神及び範囲を逸脱せずに変更され得ることを理解されたい。従って、後述する詳細な説明は限定的な意味で捉えようとするものではなく、本発明の範囲は、適切に説明されれば、その請求項が主張することと均等なすべての範囲と、併せて添付された請求項によってのみ限定される。図面で類似する参照符号はいくつかの側面にかけて同一か類似する機能を指称する。
【0051】
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得、この場合、道路環境で登場し得る物体(例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物)を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ(例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ)でもあり得、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体(例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物)を想定し得るが、必ずしもこれに限定されるものではない。
【0052】
以下、本発明が属する技術分野で通常の知識を有する者が本発明を容易に実施することができるようにするために、本発明の好ましい実施例について添付の図面に基づいて詳細に説明する。
【0053】
図1は、本発明の一実施例に係る多数の車両によって取得された情報のうち、HDマップ(High Definition Map)をアップデートするために利用される特定情報を選択する学習方法を遂行する学習装置の構成を概略的に示した図面である。
【0054】
図1を参照すれば、前記学習装置100は、後に詳しく説明する構成要素である少なくとも一つの座標ニューラルネットワーク130と、少なくとも一つの判断ニューラルネットワーク140と、少なくとも一つのロスレイヤ150とを含み得る。前記座標ニューラルネットワーク130と、前記判断ニューラルネットワーク140と、前記ロスレイヤ150との入出力及び演算過程は、それぞれ少なくとも一つの通信部110と少なくとも一つのプロセッサ120とによって行われ得る。ただし、図1では、前記通信部110及び前記プロセッサ120の具体的な連結関係を省略した。この際、メモリ115は、後述されるいくつかのインストラクションを格納した状態であり得、前記プロセッサ120は、前記メモリ115に格納されたインストラクションを遂行するように設定され、前記プロセッサ120は、後に説明されるインストラクションを遂行することで本発明のプロセスを遂行することができる。このように前記学習装置100が描写されたところで、前記学習装置100が本発明を実施するためのミディアム、プロセッサ、メモリ、または他のコンピューティング構成要素が統合された形態である統合プロセッサを含む場合を排除するものではない。
【0055】
以上、本発明の前記学習装置100の構成について説明した。続いて、本発明の前記学習方法について概括的に見てみる。
【0056】
図2は、本発明の一実施例に係る前記多数の車両によって取得された前記情報のうち、前記HDマップをアップデートするために利用される前記特定情報を選択する前記学習方法の流れを概略的に示した図面である。
【0057】
図2を参照すれば、前記学習装置100は、前記座標ニューラルネットワーク130をもって、後に説明する座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、少なくとも一つのローカル特徴マップ及び少なくとも一つのグローバル特徴ベクトルを生成するようにできる(S01)。以降、前記学習装置100は、前記判断ニューラルネットワーク140をもって、後に説明する少なくとも一つの統合特徴マップに少なくとも一つの判断ニューラルネットワーク演算を適用して第1予測適合度スコアないし第N予測適合度スコアを生成するようにできる(S02)。そして、前記学習装置100は、前記ロスレイヤ150をもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと、(ii)第1GT(Ground−Truth)適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーション(backpropagation)を遂行することにより、前記判断ニューラルネットワーク140及び前記座標ニューラルネットワーク130のパラメータのうちの少なくとも一部を学習するようにできる(S03)。
【0058】
本発明の前記学習方法の概括的な構成は、前記の通りである。続いて、これについて図3を参照してさらに具体的に説明する。
【0059】
図3は、本発明の一実施例に係る前記多数の車両によって取得された前記情報のうち、前記HDマップのアップデートに利用される前記特定情報を選択する前記学習方法を遂行するための、前記座標ニューラルネットワーク及び前記判断ニューラルネットワークが学習される方式を概略的に示した図面である。
【0060】
図3を参照すれば、N×3サイズの前記座標マトリックスが入力されることがわかる。この際、前記座標マトリックスは、前記HDマップ内でアップデートされるターゲット領域内で検出される第1クラウドポイント(cloud point)ないし第Nクラウドポイントに対応する第1座標ないし第N座標に対する情報を含むことができる。N個のクラウドポイントが存在し、現実世界の次元は3次元なので、前記N×3サイズになれるのである。また、前記第1座標ないし前記第N座標に対するそれぞれの情報が、それぞれの第1行ないし第N行内に位置するように、それぞれの前記情報が特定の順序で整列され得る。前記第1座標ないし前記第N座標に対する情報がどのように取得され得るかについては、前記学習方法を説明した後に説明する。
【0061】
このような座標マトリックスが入力された後、前記学習装置100は、前記座標ニューラルネットワーク130をもって、前記座標マトリックスに少なくとも一つの座標ニューラルネットワーク演算を適用して、前記ローカル特徴マップ及び前記グローバル特徴ベクトルを生成するようにできる。
【0062】
具体的には、前記学習装置100が、前記座標ニューラルネットワークの少なくとも一つの座標コンボリューションレイヤ131に含まれている一つ以上の座標コンボリューションニューロンそれぞれをもって、そのパラメータを用いて少なくとも一つの座標コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の座標コンボリューションニューロンに伝達させることにより、前記座標コンボリューション演算を前記座標マトリックスに適用することにより、前記ローカル特徴マップを生成するようにすることができる。その際、前記座標コンボリューション演算は、前記座標ニューラルネットワーク演算に含まれているものであり得る。以上の過程は、ディープラーニング分野で特徴マップ生成に利用される、広く知られているフィードフォワード(Feedforward)方式と類似したものであるため、通常の技術者が前記の説明を参照にして容易に理解できるであろう。一実施例によれば、前記ローカル特徴マップは、N×C1サイズの2次元形態であり得、C1は、3以上の整数(Integer)であり得る。
【0063】
前記ローカル特徴マップが作成された後、前記学習装置100は、グローバル特徴レイヤ132をもって、前記ローカル特徴マップに少なくとも一つのグローバル特徴演算を適用して、前記グローバル特徴ベクトルを生成することができる。前記グローバル特徴演算は、前記座標ニューラルネットワーク演算の一部であり得る。一実施例によれば、前記グローバル特徴レイヤ132は、従来技術のプーリングレイヤと類似し得、前記グローバル特徴演算は、従来のプーリング演算と類似し得るであろう。また、他の実施例によれば、前記グローバル特徴レイヤ132は、従来技術のFC(Fully−Connected)レイヤと類似し得、前記グローバル特徴演算は、従来技術のFC演算と類似し得るであろう。すなわち、前記ターゲット領域に対するグローバル情報を含む前記グローバル特徴ベクトルが生成できるものであれば、どのような従来技術を利用しても差し支えない。そして、一実施例によれば、前記グローバル特徴ベクトルは、1×C2サイズの1次元の形態であり得る。
【0064】
前記ローカル特徴マップと前記グローバル特徴ベクトルとの間のサイズの違いを見れば確認できるように、前記ローカル特徴マップと前記グローバル特徴ベクトルとは異なる情報を含むことができる。つまり、前記ローカル特徴マップが「ローカル」になれる理由は、前記第1クラウドポイントないし前記第Nクラウドポイントそれぞれに対するそれぞれのローカル情報が前記ローカル特徴マップの各行に位置することができるからである。一方、前記1×C2サイズの前記グローバル特徴ベクトルは、前記クラウドポイントそれぞれではなく、前記クラウドポイント全体に対するグローバル情報を含むことができる。
【0065】
その後、前記学習装置100は、統合モジュール(図示せず)をもって、前記ローカル特徴マップ及び前記グローバル特徴ベクトルとともに、クラスマトリックスを利用して、統合特徴マップを生成するようにすることができる。この際、前記クラスマトリックスは、前記第1クラウドポイントないし前記第Nクラウドポイントに対応する第1クラス情報ないし第Nクラス情報を含むことができる。一例として、前記クラスマトリックス内に、前記第1クラス情報ないし前記第Nクラス情報が整列されることができ、前記クラスマトリックスの第1行ないし第N行それぞれに前記第1クラス情報ないし前記第Nクラス情報が位置するような前記特定の順序で整列されことができる。
【0066】
このような状態で、前記統合モジュールは、図3に示したように、前記グローバル特徴ベクトルをN回複製して生成されたグローバル特徴マップと、前記クラスマトリックスと、前記ローカル特徴マップとをチャネル方向にコンカチネーティング(Channel−wise Concatenating)することができる。この際、前記グローバル特徴マップと、前記クラスマトリックスと、前記ローカル特徴マップとは、任意の順序、例えば、図3に示したように前記クラスマトリックス、前記ローカル特徴マップ、及び前記グローバル特徴マップの順序、あるいは前記ローカル特徴マップ、前記クラスマトリックス、及び前記グローバル特徴マップの順序でチャネル方向にコンカチネーティングされ得る。
【0067】
その後、前記学習装置100は、前記判断ニューラルネットワーク140をもって、前記統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報が前記HDマップのアップデートに利用される確率それぞれを示す第1予測適合度スコアないし第N予測適合度スコアを生成するようにできる。以下、前記第1予測適合度スコアないし前記第N予測適合度スコアが利用される目的について説明する。
【0068】
後で詳しく説明するが、前記HDマップをアップデートするために利用される前記第1クラウドポイントないし前記第Nクラウドポイントに対する情報は、一つ以上のデータ取得車両それぞれがこれに割り当てられた領域(前記割り当てられた領域は、前記ターゲット領域を含む)を走行してそれぞれ取得されたものであり得る。この場合において、前記クラウドポイントに対する情報は、通りがかりの車両、停車している車両あるいは歩行者のような臨時的な物体についての情報を、望まなくても含め得る。前記予測適合度スコアは、それに対応するクラウドポイントに関する情報が、前記望まない情報であるか否かを判断するのに利用され得る。
【0069】
以下、前記予測適合度スコアを生成する前記プロセスをさらに具体的に説明する。つまり、前記学習装置100は(i)前記判断ニューラルネットワーク140の少なくとも一つの判断コンボリューションレイヤ141に含まれた一つ以上の判断コンボリューションニューロンそれぞれをもって、そのパラメータを用いて、少なくとも一つの判断コンボリューションニューロン演算を入力された値に適用した後、出力された値をそれぞれ次の判断コンボリューションニューロンに伝達させることにより、前記判断ニューラルネットワーク演算のうちの少なくとも一部である少なくとも一つの判断コンボリューション演算を前記判断マトリックスに適用するようにし、判断特徴マップを生成するようにし得る。そして、前記学習装置100は、(ii)前記判断ニューラルネットワーク140の判断出力レイヤをもって、前記判断特徴マップを参照して前記第1クラウドポイントないし前記第Nクラウドポイントに前記判断ニューラルネットワーク演算の一部である分類(classification)演算を適用して、前記第1予測適合度スコアないし前記第N予測適合度スコアを生成するようにすることができる。
【0070】
以上のように前記判断コンボリューションレイヤ141及び前記判断出力レイヤ142を利用する構成が、前記フィードフォワード方式のうちの一種であるMLP(Multi−Layer Perceptron)方式と類似しているので、通常の技術者は前記予測適合度スコアを生成するプロセスを容易に理解できるであろう。他の実施例として、希少データ(sparse data)をディープラーニングで容易に利用できるようにする従来技術を前記判断ニューラルネットワーク140にも適用することができるであろう。つまり、前記判断ニューラルネットワーク140は、FCレイヤを成分として含むように構成され、広く知られた従来技術を利用して構成される変形ネットワークと前記FCレイヤとが並列的に連結される構成であり得る。これについての具体的な説明は省略することにする。
【0071】
その後、前記学習装置100は、前記ロスレイヤ150をもって、(i)前記第1予測適合度スコアないし前記第N予測適合度スコアと、(ii)前記第1GT適合度スコアないし前記第NのGT適合度スコアとを参照して前記ロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク140及び前記座標ニューラルネットワーク130のパラメータのうちの少なくとも一部を学習するようにできる。それぞれの前記第1GT適合度スコアないし前記第NのGT適合度スコアは、それぞれの前記第1予測適合度スコアないし前記第N予測適合度スコアに対応され得、前記学習装置100を学習させるために管理者によって前記学習装置100に入力され得る。
【0072】
この際、前記ロスは次の数式によって生成され得る。
【0073】
【数5】
この際、Nは、前記第1クラウドポイントないし第Nクラウドポイントの個数を意味し、yiは、第i予測適合度スコアを意味し、
【0074】
【数6】
は、第iGT適合度スコアを意味し得る。前記数式は広く知られているクロスエントロピー(Cross−Entropy)方式と類似しているが、ロスを生成する方式であれば、どの方式も本発明で利用できるであろう。
【0075】
その後、前記学習装置100は、前記ロスレイヤ150をもって、最急降下法(gradient descent)を利用して前記バックプロパゲーションを遂行することにより、前記パラメータを学習することができる。前記で説明したような学習プロセスを遂行した後、前記バックプロパゲーションによって調整された前記パラメータを利用して生成される後続第1予測適合度スコアないし後続第N予測適合度スコアは、これに対応する後続第1GT適合度スコアないし後続第NのGTの適合度スコアと相対的にさらに類似し得る。
【0076】
以上、本発明の前記学習方法について詳しく説明した。以下、前記座標マトリックスと、前記クラスマトリックスと、前記GT適合度スコアとがどのように取得できるかについて説明する。
【0077】
まず、前記HDマップをアップデートするために利用される前記一つ以上のデータ取得車両が提供され得る。前記データ取得車両は、(i)3D ToF(Time of Flight)カメラのような少なくとも一つの深さセンサ及び少なくとも一つの映像カメラのうちの少なくとも一部、並びに(ii)前記映像カメラと前記深さセンサのうちの前記少なくとも一部に対応する演算モジュール、例えばコンピューティング装置を含むことができ、サーバと連動できる。
【0078】
その際、前記データ取得車両それぞれは、そのカメラ及び深さセンサのうちの少なくとも一部から取得された情報を前記演算モジュールによって処理することで、それぞれに割り当てられた領域を走行して地図データのうちの少なくとも一部を取得することができる。一例として、前記地図データは、クラウドポイント情報及び物体クラス情報を含むことができる。
【0079】
具体的には、特定データ取得車両は、そのカメラによって取得された情報に、広く知られた従来技術である物体検出演算を適用して特定物体クラス情報を取得し、(i)前記特定データ取得車両周辺の特定物体の特定相対座標情報と、(ii)これを取得した時点において、前記特定データ取得車両が位置した位置に関する特定位置情報とを前記演算モジュールによって統合して特定クラウドポイント情報を生成することができるであろう。その後、前記特定データ取得車両は、前記特定物体クラス情報及び前記特定クラウドポイント情報を含む特定地図データを前記サーバに伝達することができる。
【0080】
前記サーバは、前記クラウドポイント情報を参照して生成された仮想空間上に、前記物体クラス情報をマッピング(mapping)して、前記クラウドポイントそれぞれに対応するそれぞれのクラス情報を取得した後、それぞれの前記地図データが取得されたそれぞれの位置についての位置情報それぞれを参照して、それぞれの前記地図データを分類することができる。そして、分類された地図データは、前記座標マトリックス及び前記クラスマトリックスを生成するために用いられることができる。つまり、前記データ取得車両から取得された前記地図データは、領域別に分けられ、領域別に評価され、前記HDマップをアップデートするために利用され得る。ここで、同一の特定領域に二つの地図データが対応することもできるが、この場合、前記サーバがどのように処理するかについて説明するようにする。
【0081】
つまり、前記地図データのうちの第1特定地図データ及び第2特定地図データが前記同一の特定領域に対応する場合、前記サーバは、前記第1特定地図データ及び前記第2特定地図データに少なくとも一つの統合演算を適用して、これを統合することができる。その際、前記統合演算は、広く知られている従来技術である、ICP(Iterative closest point)アルゴリズムを活用して具現され得る。
【0082】
その後、前記サーバは、(i)前記地図データに含まれている、前記ターゲット領域に対応する特定クラウドポイント情報を用いて前記座標マトリックスを生成するプロセス、及び(ii)前記地図データに含まれている、前記ターゲット領域に対応する特定クラス情報を用いて前記クラスマトリックスを生成するプロセスを遂行することができる。このような座標マトリックス及びクラスマトリックスは、前記座標ニューラルネットワーク130及び前記判断ニューラルネットワーク140に入力され、これらを学習させることができる。
【0083】
また、前記座標マトリックス及び前記クラスマトリックスに含まれた前記第1クラウドポイント及び前記第Nクラウドポイントに対する情報がラベラーによって処理されることにより、前記第1GT適合度スコアないし前記第NのGT適合度スコアが生成され得る。前記ラベラーは、人、またはコンピュータプログラムであり得る。
【0084】
以上、本発明の前記学習方法並びに前記座標マトリックス、前記クラスマトリックス、及び前記第1GT適合度スコアないし前記第NのGT適合度スコアの取得方式について説明した。次に、本発明のテスティング方法について、図4を参照にして説明する。
【0085】
図4を参照すれば、(a)(1)前記学習装置100が、学習用ターゲット領域内で検出された第1学習用クラウドポイントないし第N学習用クラウドポイントに対応する第1学習用座標ないし第N学習用座標に対する情報を含む少なくとも一つの学習用座標マトリックスが取得されると、前記座標ニューラルネットワーク130をもって、前記学習用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つの学習用ローカル特徴マップ及び少なくとも一つの学習用グローバル特徴ベクトルを生成するようにし、(2)前記学習装置100が、(i)前記学習用ローカル特徴マップと、(ii)前記学習用グローバル特徴ベクトルと、(iii)前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対応する第1学習用クラス情報ないし第N学習用クラス情報に対する情報を含む少なくとも一つの学習用クラスマトリックスとを統合して生成された少なくとも一つの学習用統合特徴マップが取得されると、前記判断ニューラルネットワーク140をもって、前記学習用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1学習用クラウドポイントないし前記第N学習用クラウドポイントに対する情報が前記学習用HDマップのアップデートに利用される確率それぞれを示す第1学習用予測適合度スコアないし第N学習用予測適合度スコアを生成するようにし、(3)前記学習装置100が、前記ロスレイヤ150をもって、(i)前記第1学習用予測適合度スコアないし前記学習用第N予測適合度スコアと、(ii)第1GT適合度スコアないし第NのGT適合度スコアとを参照してロスを生成するようにし、前記ロスを利用したバックプロパゲーションを遂行することにより、前記判断ニューラルネットワーク140及び前記座標ニューラルネットワーク130のパラメータのうちの少なくとも一部を学習するようにした状態で、テスティング装置が、テスト用ターゲット領域内で検出された第1テスト用クラウドポイントないし第Nテスト用クラウドポイントに対応する第1テスト用座標ないし第Nテスト用座標に対する情報を含む少なくとも一つのテスト用座標マトリックスが取得されると、前記座標ニューラルネットワーク130をもって、前記テスト用座標マトリックスに前記座標ニューラルネットワーク演算を適用して、少なくとも一つのテスト用ローカル特徴マップ及び少なくとも一つのテスト用グローバル特徴ベクトルを生成するようにできる。
【0086】
その後、前記テスティング装置が、(i)前記テスト用ローカル特徴マップと、(ii)前記テスト用グローバル特徴ベクトルと、(iii)前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対応する第1テスト用クラス情報ないし第Nテスト用クラス情報に対する情報を含む少なくとも一つのテスト用クラスマトリックスとを統合して生成された少なくとも一つのテスト用統合特徴マップが取得されると、前記判断ニューラルネットワーク140をもって、前記テスト用統合特徴マップに前記判断ニューラルネットワーク演算を適用して、それぞれの前記第1テスト用クラウドポイントないし前記第Nテスト用クラウドポイントに対する情報が前記テスト用HDマップのアップデートに利用される確率それぞれを示す第1テスト用予測適合度スコアないし第Nテスト用予測適合度スコアを生成するようにし得る。
【0087】
その後、前記テスティング装置が、アップデートモジュールをもって、前記第1テスト用予測適合度スコアないし前記第Nテスト用予測適合度スコアそれぞれが閾値以上であるか否かを判断するようにし、前記閾値以上の特定予測適合度スコアを有する一つ以上の特定クラウドポイントに対する特定情報を利用して前記テスト用HDマップをアップデートするようにできる。
【0088】
その際、前記テスト用座標マトリックス及び前記テスト用クラスマトリックスは、前記学習方法と類似した方式で取得され得る。つまり、一つ以上のテスト用データ取得車両と連動するテスト用サーバが、(i)それぞれの前記テスト用データ取得車両によって取得されるそれぞれのテスト用地図データを、それぞれの前記テスト用地図データが取得されたそれぞれの位置に対するテスト用位置情報を参照にして分類し、(ii)分類されたテスト用地図データに含まれた、前記テスト用ターゲット領域に対するテスト用特定情報を利用して前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを生成し、(iii)前記テスト用座標マトリックス及び前記テスト用クラスマトリックスを前記テスティング装置に伝達することができる。また、前記テスト用サーバは、(i)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラウドポイント情報を用いて前記テスト用座標マトリックスを生成するプロセス、及び(ii)前記テスト用地図データに含まれている、前記テスト用ターゲット領域に対応するテスト用特定クラス情報を用いて前記テスト用クラスマトリックスを生成するプロセスを遂行できる。
【0089】
以上説明されたテスティング装置のプロセスによって、前記臨時的な物体に対する情報など必要のない情報を除き、必要な情報のみを利用して前記テスト用HDマップをアップデートすることができるようになる。
【0090】
本発明は、それぞれの車両から情報セットを取得する方法を記述し、これらの方法は前記多数の車両の深さ予測手法の一つとして考慮され得る。また、このような情報をHDマップで統合する方法は、V2X(vehicle−to−everything)情報融合技法の一つとして考慮され得る。3D空間再構築は、このような技法を用いてHDマップをアップデートできるように遂行される。その結果、道路を移動してHDマップを生成できる装置が搭載された車両の生産や管理に高いコストがかかる従来技術に代わって、レーザースキャン情報及びイメージを収集し、車線検出及びマッピングによってマップを生成する多数の車両によって取得された情報を利用してHDマップが生成され得る。
【0091】
また、以上で説明された本発明に係る実施例は、多様なコンピュータ構成要素を通じて遂行できるプログラム命令語の形態で具現されてコンピュータ読取り可能な記録媒体に記録され得る。前記コンピュータで読取り可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独でまたは組み合わせて含まれ得る。前記コンピュータ読取り可能な記録媒体に記録されるプログラム命令語は、本発明のために特別に設計されて構成されたものであるか、コンピュータソフトウェア分野の当業者に公知となって利用可能なものでもよい。コンピュータで判読可能な記録媒体の例には、ハードディスク、フロッピーディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスク(flopticaldisk)のような磁気−光媒体(magneto−opticalmedia)、及びROM、RAM、フラッシュメモリなどといったプログラム命令語を格納して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は、本発明に係る処理を遂行するために一つ以上のソフトウェアモジュールとして作動するように構成され得、その逆も同様である。
【0092】
以上、本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば係る記載から多様な修正及び変形が行われ得る。
【0093】
従って、本発明の思想は前記説明された実施例に局限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。
図1
図2
図3
図4