特許第6869561号(P6869561)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ストラッドビジョンの特許一覧

特許6869561ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置
<>
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000002
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000003
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000004
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000005
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000006
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000007
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000008
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000009
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000010
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000011
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000012
  • 特許6869561-ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置 図000013
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6869561
(24)【登録日】2021年4月16日
(45)【発行日】2021年5月12日
(54)【発明の名称】ブラインドスポットモニタリングのためのCNNの学習方法、テスティング方法、学習装置、及びテスティング装置
(51)【国際特許分類】
   G06F 16/50 20190101AFI20210426BHJP
   G06N 3/04 20060101ALI20210426BHJP
   G06N 3/08 20060101ALI20210426BHJP
   G06T 7/00 20170101ALI20210426BHJP
   G08G 1/16 20060101ALI20210426BHJP
【FI】
   G06F16/50
   G06N3/04
   G06N3/08 140
   G06T7/00 350C
   G06T7/00 650B
   G08G1/16 C
【請求項の数】22
【全頁数】29
(21)【出願番号】特願2019-182000(P2019-182000)
(22)【出願日】2019年10月2日
(65)【公開番号】特開2020-61139(P2020-61139A)
(43)【公開日】2020年4月16日
【審査請求日】2019年10月2日
(31)【優先権主張番号】16/153,972
(32)【優先日】2018年10月8日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】517038176
【氏名又は名称】株式会社ストラドビジョン
(74)【代理人】
【識別番号】110000039
【氏名又は名称】特許業務法人アイ・ピー・ウィン
(74)【復代理人】
【識別番号】100120628
【弁理士】
【氏名又は名称】岩田 慎一
(72)【発明者】
【氏名】金桂賢
(72)【発明者】
【氏名】金鎔重
(72)【発明者】
【氏名】金寅洙
(72)【発明者】
【氏名】金鶴京
(72)【発明者】
【氏名】南雲鉉
(72)【発明者】
【氏名】夫碩▲くん▼
(72)【発明者】
【氏名】成明哲
(72)【発明者】
【氏名】呂東勳
(72)【発明者】
【氏名】柳宇宙
(72)【発明者】
【氏名】張泰雄
(72)【発明者】
【氏名】鄭景中
(72)【発明者】
【氏名】諸泓模
(72)【発明者】
【氏名】趙浩辰
【審査官】 ▲はま▼中 信行
(56)【参考文献】
【文献】 米国特許第09947228(US,B1)
【文献】 米国特許出願公開第2004/0085196(US,A1)
【文献】 米国特許第10007865(US,B1)
【文献】 米国特許第09934440(US,B1)
【文献】 米国特許出願公開第2015/0278642(US,A1)
【文献】 特開2011−248445(JP,A)
【文献】 特表2004−526267(JP,A)
【文献】 国際公開第2017/079522(WO,A1)
【文献】 特開2018−081357(JP,A)
【文献】 中国特許出願公開第106251701(CN,A)
【文献】 国際公開第2012/033173(WO,A1)
【文献】 下川北斗,高卒でもわかる機械学習 (7) 畳み込みニューラルネットその1,2018年 2月27日,[令和2年10月23日検索],インターネット,URL,http://hokuts.com/2016/12/13/cnn1/
(58)【調査した分野】(Int.Cl.,DB名)
G06F 16/00−16/958
G06N 3/04
G06N 3/08
G06T 7/00
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
基準自動車の一つ以上のブラインドスポットモニタリングのためのCNN(Convolutional Neural Network)の学習方法において、
(a)前記基準自動車の検出器からの少なくとも一つの出力に対応されるトレーニングデータが入力されると、学習装置が、手がかり情報抽出レイヤをもって前記トレーニングデータに含まれている観察対象自動車に対するクラス情報及び位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力させる段階;
(b)前記学習装置が、ブラインドスポット確認用FC(Fully Connected)レイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車のブラインドスポットの中の一つに位置するか否かに対する判断結果を出力させる段階;及び
(c)前記学習装置が、ロスレイヤをもって前記判断結果とこれに対応される原本正解(Ground Truth)を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習する段階;
を含むことを特徴とする学習方法。
【請求項2】
前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記手がかり情報を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網(neural network)を含むことを特徴とする請求項1に記載の学習方法。
【請求項3】
前記観察対象自動車に対する前記手がかり情報は、(i)前記観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)ROI(Region Of Interest)のサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする請求項1に記載の学習方法。
【請求項4】
前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記距離情報に追加で相対的位置情報をさらに出力することを特徴とする請求項3に記載の学習方法。
【請求項5】
基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNのテスティング方法において、
(a)学習装置によって、(i)手がかり情報抽出レイヤをもって前記基準自動車の検出器から少なくとも一つの出力に対応されるトレーニングデータに含まれている観察対象自動車に対する学習用クラス情報及び学習用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ;(ii)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車のブラインドスポットの中の一つに位置するか否かに対する学習用判断結果を出力させ、(iii)ロスレイヤをもって前記学習用判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習した状態で、前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出する前記検出器から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報が獲得されると、テスティング装置が、前記手がかり情報抽出レイヤをもって前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させる段階;及び
(b)前記テスティング装置が、ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対するテスト用判断結果を出力させる段階;
を含むことを特徴とするテスティング方法。
【請求項6】
前記検出器は、
前記テストイメージからテスト用特徴マップを生成する一つ以上のコンボリューションレイヤ;
前記テスト用特徴マップから前記観察対象自動車に対するテスト用ROIを獲得するRPN(Region Proposal Network);
前記テスト用特徴マップ内で、前記テスト用ROIに対応される領域をプーリングし、テスト用特徴ベクトルを生成するプーリングレイヤ;
前記テスト用特徴ベクトルに一つ以上のFC(fully connected)演算を加え、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ;
前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用クラス情報を出力する分類レイヤ;及び
前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用位置情報を出力するリグレッションレイヤ;
を含むR−CNN(Region−based Convolutional Neural Network)基盤の自動車検出器であることを特徴とする請求項5に記載のテスティング方法。
【請求項7】
前記テスティング装置は、前記CNNをもって前記手がかり情報抽出レイヤによって生成される前記観察対象自動車に対するテスト用手がかり情報と前記検出器の前記プーリングレイヤによって生成された前記テスト用特徴ベクトルを用いてコンカチネート(concatenate)した値を前記ブラインドスポット確認用FCレイヤの入力として受けることを特徴とする請求項6に記載のテスティング方法。
【請求項8】
前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とする請求項5に記載のテスティング方法。
【請求項9】
前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)ROIのサイズに対応する前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする請求項5に記載のテスティング方法。
【請求項10】
前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間のテスト用距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記テスト用距離情報に追加でテスト用相対的位置情報をさらに出力することを特徴とする請求項9に記載のテスティング方法。
【請求項11】
前記テスティング装置の前記基準自動車は、前記学習装置の前記基準自動車と同一でないことを特徴とする請求項5に記載のテスティング方法。
【請求項12】
基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNの学習装置において、
前記基準自動車の検出器から少なくとも一つの出力信号に対応されるトレーニングデータを受信する通信部;及び
(I)手がかり情報抽出レイヤをもって前記トレーニングデータに含まれている観察対象自動車に対するクラス情報及び位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力させるプロセス、(II)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車のブラインドスポットの中の一つに位置するか否かに対する判断結果を出力させるプロセス、及び(III)ロスレイヤをもって前記判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習するプロセスを遂行するプロセッサ;を含むことを特徴とする学習装置。
【請求項13】
前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記手がかり情報を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とする請求項12に記載の学習装置。
【請求項14】
前記観察対象自動車に対する前記手がかり情報は、(i)前記観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)ROI(Region Of Interest)のサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする請求項12に記載の学習装置。
【請求項15】
前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記距離情報に追加で相対的位置情報をさらに出力することを特徴とする請求項14に記載の学習装置。
【請求項16】
基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNのテスティング装置において、
学習装置によって、(i)手がかり情報抽出レイヤをもって前記基準自動車の検出器から少なくとも一つの出力に対応されるトレーニングデータに含まれている観察対象自動車に対する学習用クラス情報及び学習用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ、(ii)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車のブラインドスポットに位置するか否かに対する学習用判断結果を出力させ、(iii)ロスレイヤをもって前記学習用判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習した状態で、前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出する前記検出器から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を受信する通信部;及び
(I)前記手がかり情報抽出レイヤをもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させるプロセス及び(II)前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報をまたはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対するテスト用判断結果を出力させるプロセスを遂行するプロセッサ;
を含むことを特徴とするテスティング装置。
【請求項17】
前記検出器は、
前記テストイメージからテスト用特徴マップを生成する一つ以上のコンボリューションレイヤ;
前記テスト用特徴マップから前記観察対象自動車に対するテスト用ROIを獲得するRPN;
前記テスト用特徴マップ内で、前記テスト用ROIに対応される領域をプーリングし、テスト用特徴ベクトルを生成するプーリングレイヤ;
前記テスト用特徴ベクトルに一つ以上のFC(fully connected)演算を加え、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ;
前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用クラス情報を出力する分類レイヤ;及び
前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用位置情報を出力するリグレッションレイヤ;
を含むR−CNN基盤の自動車検出器であることを特徴とする請求項16に記載のテスティング装置。
【請求項18】
前記プロセッサは、前記CNNをもって前記手がかり情報抽出レイヤによって生成される前記観察対象自動車に対する前記テスト用手がかり情報と前記検出器の前記プーリングレイヤによって生成された前記テスト用特徴ベクトルを用いてコンカチネートした値を前記ブラインドスポット確認用FCレイヤの入力として受けることを特徴とする請求項17に記載のテスティング装置。
【請求項19】
前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とする請求項16に記載のテスティング装置。
【請求項20】
前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)ROIのサイズに対応する前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする請求項16に記載のテスティング装置。
【請求項21】
前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間のテスト用距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記テスト用距離情報に追加でテスト用相対的位置情報をさらに出力することを特徴とする請求項20に記載のテスティング装置。
【請求項22】
前記テスティング装置の前記基準自動車は、前記学習装置の前記基準自動車と同一でないことを特徴とする請求項16に記載のテスティング装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、基準自動車の一つ以上のブラインドスポットモニタリングのためのCNN(Convolutional Neural Network)の学習方法に関し;より詳しくは、前記基準自動車の前記ブラインドスポットモニタリングのための前記CNNの学習方法において、(a)前記基準自動車の検出器からの少なくとも一つの出力に対応されるトレーニングデータが入力されると、手がかり情報抽出レイヤをもって前記トレーニングデータに含まれている観察対象自動車に対するクラス情報及び位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力させる段階;(b)ブラインドスポット確認用FC(Fully Connected)レイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する判断結果を出力させる段階;及び(c)ロスレイヤをもって前記判断結果とこれに対応される原本正解(Ground Truth)を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習する段階;を含む学習方法とこれを利用したテスト方法、学習装置とテスティング装置に関する。
【背景技術】
【0002】
一般的に運転者が自動車運行中に車線変更をする際、側面及び後方を観察して視野を確保できるように自動車の両側にサイドミラーが設置されており、室内前面中央部にルームミラーが設置されている。
【0003】
サイドミラーは、自動車の両面に設置され側面及び後方の視野を確保するよう利用されているが、側面に近接する自動車や他の物体は確認できないブラインドスポットがある。
【0004】
従って、走行中の自動車の側面に接近して走っている他の自動車を運転者が確認できず車線変更をする場合、ブラインドスポットで走行している他の自動車との接触事故が発生しかねない問題点があった。
【0005】
このような問題点を防止するため、運転者がブラインドスポットを観測できるように曲面鏡をサイドミラーの片方に取り付ける場合もある。
【0006】
しかし、サイドミラーに曲面鏡などを設置した場合でも、自動車の車線を変更するために、運転者は肉眼でブラインドスポットを確認しなければならないため、運転者の運転疲労度を増加させ、運転者の位置によっては曲面鏡が取り付けられたサイドミラーでも確認できないブラインドスポットが存在するという問題点が発生する。
【0007】
これを防止するために、最近では自動車の後面に取り付けられたセンサーによってブラインドスポットに接近したり、ブラインドスポットに位置する自動車などを感知した情報を運転者に提供したりすることで、運転者がブラインドスポットにある自動車またはブラインドスポットに接近してくる自動車を認知できず車線を変更することにより発生し得る事故を防止するための従来のブラインドスポットモニターシステムが提案されていた。
【0008】
特に、従来のビジョンセンサを利用したブラインドスポットモニターシステムでは、映像情報を基に映像情報内に位置する自動車を検出し、検出された自動車情報を利用してブラインドスポットに自動車があるか否かを判別している。
【0009】
このために、従来のビジョンセンタを利用したブラインドスポットモニターシステムでは、映像情報内に位置する自動車を検出する自動車検出器の出力信号を利用してブラインドスポットに自動車が位置するかを判別ためのロジックを必要とする。
【0010】
しかし、従来のビジョンセンサを利用したブラインドスポットモニターシステムでは、利用しようとする自動車検出器によってブラインドスポットに自動車が位置するかを判別するためのロジックを別途設計しなければならない問題点がある。
【0011】
また、ビジョンセンサを利用した従来のブラインドスポットモニターシステムでは、利用しようとする自動車検出器の設計後、設計された自動車検出器の出力特性に合わせてブラインドスポットに自動車が位置するかを判別するためのロジックを設計しなければならないので、ブラインドスポットモニターシステムの開発に多くの時間がかかるという問題点がある。
【発明の概要】
【発明が解決しようとする課題】
【0012】
本発明は、前述した問題点を全て解決することをその目的とする。
【0013】
本発明は、車両を検出する検出器の種類に関係なく適用可能なブラインドスポットモニタリングシステムを提供することを他の目的とする。
【0014】
本発明は、検出器の種類に関係なく、検出器からの出力信号を利用し、ブラインドスポットに車両が位置しているかを判別できるようにすることをまた他の目的とする。
【0015】
本発明は、必要に応じて検出器を交換し得るようにするブラインドスポットモニタリングシステムを提供することを他の目的とする。
【0016】
本発明は、ブラインドスポットモニタリングシステムの開発に要する時間を最小化できるようにすることをまた他の目的とする。
【課題を解決するための手段】
【0017】
前記のような本発明の目的を達成し、後述する本発明の特徴的な効果を実現するための、本発明の特徴的な構成は下記の通りである。
【0018】
本発明の一態様によれば、基準自動車の一つ以上のブラインドスポットモニタリングのためのCNN(Convolutional Neural Network)の学習方法において、(a)前記基準自動車の検出器からの少なくとも一つの出力に対応されるトレーニングデータが入力されると、学習装置が、手がかり情報抽出レイヤをもって前記トレーニングデータに含まれている観察対象自動車に対するクラス情報及び位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力させる段階;(b)前記学習装置が、ブラインドスポット確認用FC(Fully Connected)レイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する判断結果を出力させる段階;及び(c)前記学習装置が、ロスレイヤをもって前記判断結果とこれに対応される原本正解(Ground Truth)を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習する段階;を含むことを特徴とする。
【0019】
一例として、前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記手がかり情報を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網(neural network)を含むことを特徴とする。
【0020】
一例として、前記観察対象自動車に対する前記手がかり情報は、(i)前記観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)ROI(Region Of Interest)のサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の前記中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする。
【0021】
一例として、前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記距離情報に追加で相対的位置情報をさらに出力することを特徴とする。
【0022】
本発明の他の態様によれば、基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNのテスティング方法において、(a)学習装置によって、(i)手がかり情報抽出レイヤをもって前記基準自動車の検出器から少なくとも一つの出力に対応されるトレーニングデータに含まれている観察対象自動車に対する学習用クラス情報及び学習用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ、(ii)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する学習用判断結果を出力させ、(iii)ロスレイヤをもって前記学習用判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習した状態で、前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出する前記検出器から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報が獲得されると、テスティング装置が、前記手がかり情報抽出レイヤをもって前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させる段階;及び(b)前記テスティング装置が、ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対するテスト用判断結果を出力させる段階;を含む。
【0023】
一例として、前記検出器は、前記テストイメージからテスト用特徴マップを生成する一つ以上のコンボリューションレイヤ;前記テスト用特徴マップから前記観察対象自動車に対するテスト用ROIを獲得するRPN(Region Proposal Network);前記テスト用特徴マップ内で、前記テスト用ROIに対応される領域をプーリングし、テスト用特徴ベクトルを生成するプーリングレイヤ;前記テスト用特徴ベクトルに一つ以上のFC(fully connected)演算を加え、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ;前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用クラス情報を出力する分類レイヤ;及び前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用位置情報を出力するリグレッションレイヤ;を含むR−CNN(Region−based Convolutional Neural Network)基盤の自動車検出器であることを特徴とする。
【0024】
一例として、前記テスティング装置は、前記CNNをもって前記手がかり情報抽出レイヤによって生成される前記観察対象自動車に対する前記テスト用手がかり情報と前記検出器の前記プーリングレイヤによって生成された前記テスト用の特徴ベクトルを用いてコンカチネートした値を前記ブラインドスポット確認用FCレイヤの入力として受けることを特徴とする。
【0025】
一例として、前記ブラインドスポット確認用FCレイヤは、前記観察対象の自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とする。
【0026】
一例として、前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)ROIのサイズに対応する前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする。
【0027】
一例として、前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記テスト用距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記テスト用距離情報に追加でテスト用相対的位置情報をさらに出力することを特徴とする。
【0028】
一例として、前記テスティング装置の前記基準自動車は、前記学習装置の前記基準自動車と同一でないことを特徴とする。
【0029】
本発明のまた他の態様によれば、基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNの学習装置において、前記基準自動車の検出器から少なくとも一つの出力信号に対応されるトレーニングデータを受信する通信部;及び(I)手がかり情報抽出レイヤをもって前記トレーニングデータに含まれている観察対象自動車に対するクラス情報及び位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力させるプロセス、(II)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する判断結果を出力させるプロセス、及び(III)ロスレイヤをもって前記判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習するプロセスを遂行するプロセッサ;を含む。
【0030】
一例として、前記ブラインドスポット確認用FCレイヤは、前記観察対象自動車に対する前記手がかり情報を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とする学習装置。
【0031】
一例として、前記観察対象自動車に対する前記手がかり情報は、(i)前記観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)ROI(Region Of Interest)のサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の前記中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とする学習装置。
【0032】
一例として、前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記距離情報に追加で相対的位置情報をさらに出力することを特徴とする学習装置。
【0033】
本発明のまた他の態様によれば、基準自動車の一つ以上のブラインドスポットモニタリングのためのCNNのテスティング装置において、学習装置によって、(i)手がかり情報抽出レイヤをもって前記基準自動車の検出器から少なくとも一つの出力に対応されるトレーニングデータに含まれている観察対象自動車に対する学習用クラス情報及び学習用位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ、(ii)ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報を利用して一つ以上の神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットに位置するか否かに対する学習用判断結果を出力させ、(iii)ロスレイヤをもって前記学習用判断結果とこれに対応される原本正解を参考に一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習した状態で、前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出する前記検出器から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を受信する通信部;及び(I)前記手がかり情報抽出レイヤをもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させるプロセス及び(II)前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報をまたはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対するテスト用判断結果を出力させるプロセスを遂行するプロセッサ;を含む。
【0034】
一例として、前記検出器は、前記テストイメージからテスト用特徴マップを生成する一つ以上のコンボリューションレイヤ;前記テスト用特徴マップから前記観察対象自動車に対するテスト用ROIを獲得するRPN;前記テスト用特徴マップ内で、前記テスト用ROIに対応される領域をプーリングし、テスト用特徴ベクトルを生成するプーリングレイヤ;前記テスト用特徴ベクトルに一つ以上のFC(fully connected)演算を加え、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ;前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用クラス情報を出力する分類レイヤ;及び前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用クラス情報を出力する分類レイヤ;及び前記FC出力値を参照し、前記観察対象自動車に対する前記テスト用位置情報を出力するリグレッションレイヤ;を含むR−CNN基盤の自動車検出器であることを特徴とする。
【0035】
一例として、前記プロセッサは、前記CNNをもって前記手がかり情報抽出レイヤによって生成される前記観察対象自動車に対する前記テスト用手がかり情報と前記検出器の前記プーリングレイヤによって生成された前記テスト用の特徴ベクトルを用いてコンカチネートした値を前記ブラインドスポット確認用FCレイヤの入力として受けることを特徴とするテスティング装置。
【0036】
一例として、前記ブラインドスポット確認用FCレイヤは、前記観察対象の自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって前記観察対象自動車が前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網を含むことを特徴とするテスティング装置。
【0037】
一例として、前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)ROIのサイズに対応する前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の前記中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含むことを特徴とするテスティング装置。
【0038】
一例として、前記手がかり情報抽出レイヤは、(i)左側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポットの外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、小さい値を前記観察対象自動車の前記中心点と前記ブラインドスポットの前記外側の面の間の前記テスト用距離情報と判断し、前記観察対象自動車の前記中心点が前記ブラインドスポットの前記外側の面の外側に位置するか、あるいは内側に位置するかを区分するために、前記テスト用距離情報に追加でテスト用相対的位置情報をさらに出力することを特徴とするテスティング装置。
【0039】
一例として、前記テスト装置の前記基準自動車は、前記学習装置の前記基準自動車と同一でないことを特徴とする。
【0040】
この他にも、本発明の方法を実行するためのコンピュータプログラムを記録するためのコンピュータ判読可能な記録媒体がさらに提供される。
【発明の効果】
【0041】
本発明は、車両を検出する検出器の種類に関係なく適用可能なブラインドスポットモニタリングシステムを提供し得る。
【0042】
本発明は、検出器の種類に関係なく、検出器からの出力信号を利用し、ブラインドスポットに車両が位置しているかを判別し得るようになる。
【0043】
本発明は、ブラインドスポットモニタリングシステムにおいて、別途ロジックを設計しなくても必要に応じて検出器を取り替えし得るようになるので、ブラインドスポットモニタリングシステムのメンテナンスに伴う費用を最小化することができる。
【0044】
本発明は、すべての検出器に適用し得るので、各々の検出器に対応して、ブラインドスポットに車両が位置するかを判別するためのロジックを設計する必要がなく、よって、ブラインドスポットモニタリングシステム開発に要する時間を最小化することができる。
【図面の簡単な説明】
【0045】
図1】本発明の一例に係る基準自動車ブラインドスポットモニタリングのための学習装置を概略的に示した図面である。
図2】本発明の一例に係るブラインドスポットモニタリングのための学習方法を概略的に示した図面である。
図3】本発明の一例に係るブラインドスポットモニタリングのための学習方法において、観察対象自動車に対する手がかり情報のうち、観察対象自動車の位置情報を例示した図面である。
図4】本発明の一例に係るブラインドスポットモニタリングのための学習方法において、観察対象自動車に対する手がかり情報のうち、観察対象自動車の中心点とブラインドスポットの外側の面との間の距離情報を例示した図面である。
図5】本発明の一例に係るブラインドスポットモニタリングのための学習方法において、ブラインドスポット確認用FCレイヤの構造を概略的に示した図面である。
図6】本発明の一例に係るブラインドスポットモニタリングのためのテスティング装置を概略的に示した図面である。
図7】本発明の一例に係るブラインドスポットモニタリングのためのテスティング方法を概略的に示した図面である。
図8】本発明の一例に係るブラインドスポットモニタリングのためのテスティング装置に利用される検出器を概略的に示した図面である。
図9】本発明の一例に係るブラインドスポットモニタリングのための学習装置を概略的に示した図面である。
図10】本発明の一例に係るブラインドスポットモニタリングのための学習方法を概略的に示した図面である。
図11】本発明の一例に係るブラインドスポットモニタリングのためのテスト装置を概略的に示した図面である。
図12】本発明の一例に係るブラインドスポットモニタリングのためのテスト方法を概略的に示した図面である。
【発明を実施するための形態】
【0046】
本発明の実施例の説明に利用されるために添付された各図面は、本発明の実施例の中の一部に過ぎず、本発明が属する技術分野でおいて、通常の知識を有する者(以下「通常の技術者」)は、発明的作業がなされることなくこれらの図面に基づいて他の図面が得られ得る。
【0047】
後述する本発明に対する詳細な説明は、本発明の各目的、技術的解決法及び長所を明らかにするために、本発明が実施され得る特定の実施例を例として示す添付図面を参照する。これらの実施例は当業者が本発明を実施することができるように充分詳細に説明される。
【0048】
また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の技術的各特徴、各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者に本発明の他の各目的、長所及び各特性が、一部は本説明書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は、実例として提供され、本発明を限定することを意図したものではない。
【0049】
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得、この場合、道路環境で登場し得る物体(例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物)を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ(例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ)でもあり得、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体(例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物)を想定し得るが、必ずしもこれに限定されるものではない。
【0050】
さらに、本発明は本明細書に表示された実施例のあらゆる可能な組合せを網羅する。本発明の多様な実施例は相互異なるが、相互排他的である必要はないことを理解されたい。例えば、ここに記載されている特定の形状、構造及び特性は一実施例に係る本発明の精神及び範囲を逸脱せずに他の実施例で具現され得る。また、各々の開示された実施例内の個別構成要素の位置または配置は本発明の精神及び範囲を逸脱せずに変更され得ることを理解されたい。従って、後述する詳細な説明は限定的な意味で捉えようとするものではなく、本発明の範囲は、適切に説明されれば、その請求項が主張することと均等なすべての範囲と、併せて添付された請求項によってのみ限定される。図面で類似する参照符号はいくつかの側面にかけて同一か類似する機能を指称する。
【0051】
以下、本発明が属する技術分野で通常の知識を有する者が本発明を容易に実施することができるようにするために、本発明の好ましい実施例について添付の図面に基づいて詳細に説明する。
【0052】
図1は、本発明の一例に係る基準自動車のブラインドスポットモニタリングのための学習装置100を概略的に示したもので、図1を参照すれば、前記学習装置100は、通信部110とプロセッサ120を含み得る。
【0053】
まず、前記通信部110は、前記基準自動車の検出器から少なくとも一つの出力信号に対応されるトレーニングデータを受信し得る。つまり、前記通信部110は、後述する前記検出器からの前記出力信号を入力信号(つまり、前記トレーニングデータ)として受信し得る。
【0054】
この際、前記トレーニングデータは、前記検出器からの入力映像に対応されるイメージ上に位置する観察対象自動車に対する情報として、前記観察対象自動車等のような各物体に対するクラス情報や前記観察対象自動車がイメージ内に位置する領域に対する位置情報を含み得る。また、前記トレーニングデータは、データベース130に格納され得、前記データベース130には、前記トレーニングデータに対応して各々の前記観察対象自動車に対する前記クラス情報及び前記位置情報に対する原本正解(ground truth)が格納されていられ得る。
【0055】
次に、前記プロセッサ120は、前記手がかり情報抽出レイヤをもって前記トレーニングデータに含まれた前記観察対象自動車に対する前記クラス情報及び前記位置情報を利用し、所定の演算を遂行させることで、前記観察対象自動車に対する一つ以上の手がかり情報を出力させる第1プロセスと、ブラインドスポット確認用FC(Fully Connected)レイヤをもって前記観察対象自動車に対する前記手がかり情報を利用して一つ以上の神経網(ニューラルネットワーク)演算を遂行させることで、前記観察対象自動車が前記基準自動車の前記ブラインドスポットの中の一つに位置するのか否かの判断結果を出力させる第2プロセスと、ロスレイヤをもって前記判断結果とこれに対応される原本正解を参考にして一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習する第3プロセスを遂行し得る。
【0056】
この際、本発明の一例に係る前記学習装置100は、コンピューティング装置として、プロセッサを搭載して演算能力を備えた装置ならいくらでも本発明に係る学習装置100として採択され得る。また、図1では、一つの学習装置100のみを示したが、これに限定されず、前記学習装置100は複数に分けて役割を遂行し得る。
【0057】
このように構成された本発明の一例に係る構成された前記学習装置を利用し、前記基準自動車の前記ブラインドスポットをモニタリングするための学習方法を、図2に基づいて説明すると次のとおりである。
【0058】
まず、前記基準自動車の検出器からの前記出力信号に対応される前記トレーニングデータが入力されれば、前記学習装置100が、前記手がかり情報抽出レイヤ121をもって前記トレーニングデータに含まれた前記観察対象自動車に対する前記クラス情報及び前記位置情報を利用して前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する前記手がかり情報を出力するようにさせる。
【0059】
この際、前記検出器は、ビジョンセンサによって獲得されるイメージ内に位置する前記観察対象自動車を検出するもので、前記イメージ内に前記観察対象自動車が位置すると推定される領域であるROI(Region Of Interest)を検出する仮説生成段階(hypothesis generation stage)と、前記検出されたROIが前記観察対象自動車を含むか否かを判別する仮説確認段階(hypothesis verification stage)から構成され得る。そして、前記仮説生成段階は、オプティカルフローを利用するモーション基盤体系(motion−based scheme)や車両の影、角、水平及び垂直の角、対称、色、車両の光、ステレオカメラ、多数の特徴などを利用する形状基盤体系(appearance−based scheme)などとして実装され得、前記仮説確認段階は、テンプレートマッチングを利用する相関関係基盤体系(correlation−based scheme)、特徴及び分類器(classifier)を利用する学習基盤体系(learning−based scheme)等で実装され得る。特に、前記学習基盤体系には、CNNのようなディープランニング(deep learning)基盤アルゴリズムや、決定木(decision tree)、サポートベクターマシン(Support Vector Machine,SVM)、アダブースト(AdaBoost)、KNN(k−nearest neighbors)等のシャローラーニング(shallow learning)基盤アルゴリズムが適用され得る。
【0060】
そして、前記観察対象自動車に対する前記手がかり情報は、(i)観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)前記ROIのサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含み得る。
【0061】
この際、前記観察対象自動車に対する前記クラス情報は、前記観察対象自動車を、自動車・バイクなどに分類するためのクラス情報であり得る。
【0062】
また、図3を参照すれば、前記観察対象自動車の前記位置情報は、前記イメージ内に前記観察対象自動車が位置する領域に対応する位置情報であり得る。一例として、前記観察対象自動車に対応するバウンディングボックスの位置情報として、前記イメージ内での前記バウンディングボックスの左上段の角(TOP_LEFT)の座標と右下段の角(BOTTOM_RIGHT)の座標を含み得る。これに加えて、前記バウンディングボックスの中心(CENTER)の座標を含み得るが、これは前記バウンディングボックスの前記左上段の角(TOP_LEFT)の座標と前記右下段の角(BOTTOM_RIGHT)の座標を利用した演算によっても獲得され得る。
【0063】
また、図4を参照すれば、(i)左側ブラインドスポット(BS−L)の外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポット(BS−R)の外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、より小さい値を、前記観察対象自動車の前記中心点(C)と前記ブラインドスポットの前記外側の面(S)の間の前記距離情報(L)と判断し、前記観察対象自動車の前記中心点が、前記ブラインドスポットの前記外側の面の外側に位置しているか、あるいは内側に位置しているかを区別するため、相対的位置情報、一例として、(+)または(−)を追加的に含み得る。
【0064】
次に、前記学習装置100は、前記ブラインドスポット確認用FCレイヤ122をもって、前記観察対象自動車に対する前記手がかり情報を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する前記判断結果を出力するようにさせる。
【0065】
この際、図5を参照すれば、前記ブラインドスポット確認用FCレイヤ122は、前記観察対象自動車に対する前記手がかり情報を入力とする多重パーセプトロンによって、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網から構成され得る。図5では、入力情報の数を4個(入力1、入力2、入力3、入力4)で示したが、これは説明の便宜上のもので、前記入力情報の数は、前記手がかり情報抽出レイヤ121で生成された前記手がかり情報に対応されるように設定され得る。また、図5で、隠れ層は1つのレイヤで示したが、これに限定されず、多数のレイヤを含み得る。
【0066】
次に、前記学習装置100は、前記ロスレイヤ123をもって前記ブラインドスポット確認用FCレイヤ122から出力される前記判断結果とこれに対応される原本正解を参考に前記ロス値を生成するようにさせ、前記ロス値を利用したバックプロパゲーションによって、前記ブラインドスポット確認用FCレイヤ122を学習し得る。
【0067】
前記手がかり情報抽出レイヤ121、前記ブラインドスポット確認用FCレイヤ122、及び前記ロスレイヤ123は、一つのコンピューティング装置に含まれるか、各々異なるコンピューティング装置に含まれ得、コンピューティング装置内で前記のような動作を遂行させるアルゴリズムで実装され得る。
【0068】
図6は、本発明の一例による基準自動車のブラインドスポットモニタリングのためのテスティング装置200を概略的に示したもので、前記テスト装置の前記基準自動車は、前述した前記学習装置の基準自動車と同一でもあり得、同一でなくもあり得、図6を参照すれば、前記テスティング装置200は、通信部210とプロセッサ220とを含み得る。
【0069】
まず、前記通信部210は、前記基準自動車で撮影されたテストイメージ内に位置する観察対象自動車を検出する検出器20から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を受信し得る。
【0070】
次に、前記プロセッサ220は、前記手がかり情報抽出レイヤをもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させる第1プロセスと、前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対してテスト用判断結果を出力させる第2プロセスを遂行し得る。
【0071】
以下で、単語「学習用」及び「テスト用」は、前述した学習方法とテスト方法を区分するために使われる。
【0072】
この際、ブラインドスポット確認用FCレイヤは、図1ないし図5を参照して説明した前記学習方法で、前記学習装置によって一つ以上のパラメータが学習されたもので、前記学習方法を簡単に説明すれば次のとおりである。前記学習装置によって、(i)前記基準自動車の前記検出器20からの少なくとも一つの出力信号に対応される前記トレーニングデータが入力されれば、前記手がかり情報抽出レイヤをもって前記トレーニングデータに含まる前記観察対象自動車に対する学習用クラス情報及び学習用位置情報を利用して、前記所定の演算を遂行することにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ、(ii)前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報を利用して、前記所定の神経網演算を遂行させることで、前記観察対象自動車が前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する学習用判断結果を出力させ、(iii)前記ロスレイヤをもって前記学習用判断結果とそれに対応される原本正解を参考にして、一つ以上のロス値を生成させることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの前記パラメータを学習し得る。
【0073】
そして、本発明の一例による前記テスティング装置200は、コンピューティング装置として、プロセッサを搭載して演算能力を備えた装置ならいくらでも本発明に係るテスティング装置200として採択され得る。また、図6では、一つのテスティング装置200のみを示したが、これに限定されず、前記テスティング装置200は複数に分けて役割を遂行し得る。
【0074】
このように構成された本発明の一例に係る前記ブラインドスポットモニタリングのための前記テスティング装置を利用して、前記ブラインドスポットモニタリングのためのテスティング方法を、図7に基づいて説明すると次のとおりである。
【0075】
まず、前記テスティング方法を遂行する前に、前記学習装置によって、(i)前記手がかり情報抽出レイヤ221をもって前記検出器20からの前記出力信号に対応される前記トレーニングデータに含まれた前記観察対象自動車に対する前記学習用クラス情報及び前記学習用位置情報を利用して前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する前記学習用手がかり情報を出力するようにして、(ii)前記ブラインドスポット確認用FCレイヤ222をもって前記学習用手がかり情報を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が前記基準自動車の前記ブラインドスポットに位置するか否かに対する前記学習用判断結果を出力するようにさせ、(iii)前記ロスレイヤをもって前記学習用判断結果とこれに対応される原本正解を参考にして前記ロス値を生成するようにすることで、前記ロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤ222の前記パラメータを学習した状態で、前記検出器20が前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出し、前記検出された観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を出力する。
【0076】
この際、前記検出器20は、ビジョンセンサによって獲得されるイメージ内に位置する前記観察対象自動車を検出するもので、前記イメージ内に前記観察対象自動車が位置すると推定される領域であるROI(Region Of Interest)を検出する仮説生成段階(hypothesis generation stage)と、前記検出されたROIが前記観察対象自動車を含むか否かを判別する仮説確認段階(hypothesis verification stage)から構成され得る。そして、前記仮説生成段階は、オプティカルフローを利用するモーション基盤体系(motion−based scheme)や車両の影、角、水平及び垂直の角、対称、色、車両の光、ステレオカメラ、多数の特徴などを利用する形状基盤体系(appearance−based scheme)などとして実装され得、前記仮説確認段階は、テンプレートマッチングを利用する相関関係基盤体系(correlation−based scheme)、特徴及び分類器(classifier)を利用する学習基盤体系(learning−based scheme)等で実装され得る。特に、前記学習基盤体系には、CNNのようなディープランニング(deep learning)基盤アルゴリズムや、決定木(decision tree)、サポートベクターマシン(Support Vector Machine,SVM)、アダブースト(AdaBoost)、KNN(k−nearest neighbors)等のシャローラーニング(shallow learning)基盤アルゴリズムが適用され得る。
【0077】
一例として、図8を参照すれば、前記検出器20は、R−CNN(Region−based Convolutional Neural Network)基盤の自動車検出器で、前記テストイメージからテスト用特徴マップを獲得するコンボリューションレイヤ21、前記テスト用特徴マップから前記観察対象自動車に対するテスト用ROIを生成するRPN22、前記テスト用特徴マップ内で前記テスト用ROIに対応される領域をプーリングしてテスト用特徴ベクトルを生成するプーリングレイヤ23、前記テスト用特徴ベクトルに少なくとも一度FC(fully connected)演算を加えて、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ24、前記FC出力値を参照して前記観察対象自動車の前記テスト用クラス情報を出力する分類(classification)レイヤ25、及び前記FC出力値を参照して前記観察対象自動車の前記テスト用位置情報を出力するリグレッション(regression)レイヤ26を含み得る。この際、前記コンボリューションレイヤ21と、前記自動車検出用FCレイヤ24を各々一つのレイヤとして説明したが、これに限定されず、各々多数のレイヤに形成され得る。また、前記テスト用特徴マップは、前記コンボリューションレイヤ21によるチャネルの深さに対応する一つ以上の特徴マップに出力され得る。
【0078】
すると、前記試験装置200は、前記手がかり情報抽出レイヤ221をもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する前記テスト用手がかり情報を出力させる。
【0079】
この際、前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)テスト用ROIのサイズに対比される前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間のテスト用距離情報のうち、少なくとも一部を含み得る。
【0080】
そして、前記観察対象自動車に対するテスト用クラス情報は、前記観察対象自動車を、自動車・バイクなどに分類するためのクラス情報であり得る。
【0081】
また、図3を参照して説明したように、前記観察対象自動車の前記テスト用位置情報は、前記テストイメージ内に前記観察対象自動車が位置する領域に対応する位置情報であり得る。一例として、前記観察対象自動車に対応するバウンディングボックスの位置情報として、前記テストイメージ内での前記バウンディングボックスの左上段の角(TOP_LEFT)の座標と右下段の角(BOTTOM_RIGHT)の座標が含まれ得る。これに加えて、前記バウンディングボックスの中心(CENTER)の座標を含み得るが、これは前記バウンディングボックスの前記左上段の角(TOP_LEFT)の座標と前記右下段の角(BOTTOM_RIGHT)の座標を利用した演算によっても獲得され得る。
【0082】
また、図4を参照して説明したように、(i)左側ブラインドスポット(BS−L)の外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポット(BS−R)の外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、より小さい値を、前記観察対象自動車の前記中心点(C)と前記ブラインドスポットの前記外側の面(S)の間の前記テスト用距離情報(L)と判断し、前記観察対象自動車の前記中心点が、前記ブラインドスポットの前記外側の面の外側に位置しているか、あるいは内側に位置しているかを区別するため、テスト用相対的位置情報、一例として、(+)または(−)を追加的に含み得る。
【0083】
次に、前記学習装置200は、前記ブラインドスポット確認用FCレイヤ222をもって、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するのか否かに対する前記テスト用判断結果を出力させるようにする。
【0084】
この際、前記テスト用手がかり情報を加工した値は、前記手がかり情報抽出レイヤ221から出力される前記観察対象自動車に対する前記テスト用手がかり情報と、前記検出器20の前記プーリングレイヤ23で出力される前記テスト用特徴ベクトルを利用してコンカチネート(concatenate)した値であり得、前記テスト用手がかり情報と前記テスト用特徴ベクトルをコンカチネートする特徴コンカチネーションレイヤが、前記ブラインドスポット確認用FCレイヤ222の前に位置し得る。
【0085】
また、図5を参照に説明したように、前記ブラインドスポット確認用FCレイヤ222は、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網から構成され得る。
【0086】
前記手がかり情報抽出レイヤ221、前記ブラインドスポット確認用FCレイヤ222は、一つのコンピューティング装置に含まれるか、各々異なるコンピューティング装置に含まれ得、コンピューティング装置内で前記のような動作を遂行させるアルゴリズムで実装され得る。
【0087】
図9は、本発明の他の例に係る基準自動車のブラインドスポットモニタリングのための学習装置300を概略的に例示した図面であり、図9を参照すれば、前記学習装置300は、通信部310とプロセッサ320を含み得る。
【0088】
まず、前記通信部310は、前記基準自動車で撮影された映像イメージに対応されるトレーニングデータを受信し得る。
【0089】
この際、前記トレーニングデータは、データベース330に格納されていられ得、前記データベース330には、前記トレーニングデータに対応して各々の観察対象自動車に対するクラス情報及び位置情報に対する原本正解(ground truth)が格納されていられ得る。
【0090】
次に、前記プロセッサ320は、前記基準自動車の検出器30をもって前記観察対象自動車に対する前記クラス情報及び前記位置情報を出力させる第1プロセスと、手がかり情報抽出レイヤをもって前記観察対象自動車に対する前記クラス情報及び前記位置情報を利用して所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の手がかり情報を出力するようにさせ、ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記手がかり情報またはこれを加工した値を利用して一つ以上の神経網演算を遂行するようにし、前記観察対象自動車が前記ブラインドスポットの中の一つに位置するのか否かに対する判断結果を出力させる第2プロセスと、第1ロスレイヤをもって前記判断結果及びこれに対応される第1原本正解を参考にして一つ以上のブラインドスポットロス値を生成させることで、前記ブラインドスポットロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤの一つ以上のパラメータを学習し、第2ロスレイヤをもって前記観察対象自動車に対する前記クラス情報及び前記位置情報とこれに対応される第2原本正解を参考にして一つ以上の自動車検出ロス値を生成させることで、前記自動車検出ロス値を利用したバックプロパゲーションによって前記検出器の一つ以上のパラメータを学習する第3プロセスを遂行し得る。
【0091】
この際、本発明の他の例に係る前記学習装置300は、コンピューティング装置として、プロセッサを搭載して演算能力を備えた装置ならいくらでも本発明に係る学習装置300として採択され得る。また、図9では、一つの学習装置300のみを示したが、これに限定されず、前記学習装置300は複数に分けて役割を遂行し得る。
【0092】
このように構成された本発明の他の例によって構成された前記学習装置を利用して前記基準自動車の前記ブラインドスポットをモニタリングするための学習方法を、図10を参照に説明すると次のとおりである。
【0093】
まず、前記基準自動車で撮影された前記映像イメージに対応されるトレーニングイメージが入力されれば、前記検出器30が前記トレーニングイメージに含まれた前記観察対象自動車に対する前記クラス情報及び前記位置情報を出力する。
【0094】
この際、自動車検出器30は、ビジョンセンサによって獲得されるイメージ内に位置する前記観察対象自動車を検出するもので、前記イメージ内に前記観察対象自動車が位置すると推定される領域であるROIを検出する仮説生成段階(hypothesis generation stage)と、前記検出されたROIが前記観察対象自動車を含むか否かを判別する仮説確認段階(hypothesis verification stage)から構成され得る。
【0095】
そして、前記仮説生成段階は、オプティカルフローを利用するモーション基盤体系(motion−based scheme)や車両の影、角、水平及び垂直の角、対称、色、車両の光、ステレオカメラ、多数の特徴などを利用する形状基盤体系(appearance−based scheme)などとして実装され得、前記仮説確認の段階は、テンプレートマッチングを利用する相関関係基盤体系(correlation−based scheme)、特徴及び分類器(classifier)を利用する学習基盤体系(learning−based scheme)等で実装され得る。特に、前記学習基盤体系には、CNNのようなディープランニング(deep learning)基盤アルゴリズムや、決定木(decision tree)、サポートベクターマシン(Support Vector Machine,SVM)、アダブースト(AdaBoost)、KNN(k−nearest neighbors)等のシャローラーニング(shallow learning)基盤アルゴリズムが適用され得る。
【0096】
一例として、図8を参照して説明した検出器と類似して、前記検出器30は、R−CNN基盤の自動車検出器で、前記トレーニングイメージから特徴マップを生成するコンボリューションレイヤ31、前記特徴マップから前記観察対象自動車に対するROIを生成するRPN32、前記特徴マップ内で前記ROIに対応される領域をプーリングして特徴ベクトルを生成するプーリングレイヤ33、前記特徴ベクトルに少なくとも一度FC(fully connected)演算を加えて、一つ以上のFC出力値を生成する少なくとも一つの自動車検出用FCレイヤ34、前記FC出力値を参照して前記観察対象自動車の前記クラス情報を出力する分類レイヤ35、及び前記FC出力値を参照して前記観察対象自動車の前記位置情報を出力するリグレッションレイヤ36を含み得る。この際、前記コンボリューションレイヤ31と、前記自動車検出用FCレイヤ34は、少なくとも一つのレイヤに形成され得る。
【0097】
次に、前記試験装置300は、前記手がかり情報抽出レイヤ321をもって前記観察対象自動車に対する前記クラス情報及び前記位置情報を利用し、前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する前記手がかり情報を出力するようにする。
【0098】
この際、前記観察対象自動車に対する前記手がかり情報は、(i)前記観察対象自動車に対する前記クラス情報、(ii)前記観察対象自動車に対する前記位置情報、(iii)前記ROIのサイズに対応する前記観察対象自動車のサイズ情報、(iv)前記観察対象自動車のアスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の中心点と前記ブラインドスポットの外側の面との間の距離情報のうち、少なくとも一部を含み得る。
【0099】
この際、前記観察対象自動車に対する前記クラス情報は、前記観察対象自動車を、自動車・バイクなどに分類するためのクラス情報であり得る。
【0100】
また、図3を参照して説明したものと類似して、前記観察対象自動車の前記位置情報は、前記イメージ内に前記観察対象自動車が位置する領域に対応する位置情報であり得る。一例として、前記観察対象自動車に対応するバウンディングボックスの位置情報として、前記イメージ内での前記バウンディングボックスの左上段の角(TOP_LEFT)の座標と右下段の角(BOTTOM_RIGHT)の座標を含み得る。これに加えて、前記バウンディングボックスの中心(CENTER)の座標を含み得るが、これは前記バウンディングボックスの前記左上段の角(TOP_LEFT)の座標と前記右下段の角(BOTTOM_RIGHT)の座標を利用した演算によっても獲得され得る。
【0101】
また、図4を参照して説明したものと類似して、(i)左側ブラインドスポット(BS−L)の外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポット(BS−R)の外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、より小さい値を、前記観察対象自動車の前記中心点(C)と前記ブラインドスポットの前記外側の面(S)の間の前記距離情報(L)と判断し、前記観察対象自動車の前記中心点が、前記ブラインドスポットの前記外側の面の外側に位置しているか、あるいは内側に位置しているかを区別するため、相対的位置情報、一例として、(+)または(−)を追加的に含み得る。
【0102】
次に、前記学習装置300は、前記ブラインドスポット確認用FCレイヤ322をもって、前記観察対象自動車に対する前記手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するのか否かに対する前記判断結果を出力するようにさせる。
【0103】
この際、前記手がかり情報を加工した値は、前記手がかり情報抽出レイヤ321から出力される前記観察対象自動車に対する前記手がかり情報と、前記検出器30の前記プーリングレイヤ33で出力される前記特徴ベクトルをコンカチネートした値であり得、前記手がかり情報と前記特徴ベクトルをコンカチネートする特徴コンカチネーションレイヤ340が、前記ブラインドスポット確認用FCレイヤ322の前に位置し得る。
【0104】
また、図5を参照して説明してものと類似して、前記ブラインドスポット確認用FCレイヤ322は、前記観察対象自動車に対する前記手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する結果値を出力する神経網から構成され得る。
【0105】
次に、前記学習装置300は、第1ロスレイヤ323をもって(i)前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対する判断結果及び(ii)これに対応される第1原本正解を参考にして前記ブラインドスポットロス値を獲得するようにさせ、前記ブラインドスポットロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤ322の前記パラメータを学習し、前記第2ロスレイヤ324をもって前記観察対象自動車に対する前記クラス情報及び前記位置情報とこれに対応される第2原本正解を参考にして、前記自動車検出ロス値を獲得するようにすることで、前記自動車検出ロス値を利用したバックプロパゲーションによって前記検出器30の前記パラメータを学習し得る。
【0106】
この際、前記自動車検出ロス値は、前記観察対象自動車に対する一つ以上のクラスロス値と、一つ以上の位置ロス値を含み得、前記学習装置300は、前記クラスロス値と前記位置ロス値を利用したバックプロパゲーションによって前記検出器30の前記自動車検出用FCレイヤ34の一つ以上のパラメータ、または前記コンボリューションレイヤ31の一つ以上のパラメータを学習させ得る。また、図示はされていないが、前記学習装置300は、前記検出器30の前記RPN32によって生成された前記ROIと、前記トレーニングイメージに対応されるROI原本正解を参考にして一つ以上のROIロス値とを獲得して、これを利用したバックプロパゲーションによって前記RPN32の一つ以上のパラメータを学習し得る。
【0107】
前記手がかり情報抽出レイヤ321、前記ブラインドスポット確認用FCレイヤ322は、一つのコンピューティング装置に含まれるか、各々異なるコンピューティング装置に含まれ得、コンピューティング装置内で前記のような動作を遂行させるアルゴリズムで実装され得る。また、第1ロスレイヤ323及び第2ロスレイヤ324は、一つのコンピューティング装置に含まれるか、各々異なるコンピューティング装置に含まれ得、コンピューティング装置内で前記のような動作を遂行させるアルゴリズムで実装され得る。
【0108】
図11は、本発明の一例に係る基準自動車のブラインドスポットモニタリングのためのテスティング装置400を概略的に示したもので、前記テスト装置の前記基準自動車は、前述した前記学習装置の基準自動車と同一でもあり得、同一でなくもあり得、図11を参照すれば、前記テスティング装置400は、通信部410とプロセッサ420とを含み得る。
【0109】
まず、前記通信部410は、前記基準自動車で撮影されたテストイメージ内に位置する観察対象自動車を検出する検出器40から前記観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を受信し得る。
【0110】
この際、前記検出器40は、ビジョンセンサによって獲得されるイメージ内に位置する前記観察対象自動車を検出するもので、前記イメージ内に前記観察対象自動車が位置すると推定される領域であるROIを検出する仮説生成段階(hypothesis generation stage)と、前記検出されたROIが前記観察対象自動車を含むか否かを判別する仮説確認段階(hypothesis verification stage)から構成され得る。そして、前記仮説生成段階は、オプティカルフローを利用するモーション基盤体系(motion−based scheme)や車両の影、角、水平及び垂直の角、対称、色、車両の光、ステレオカメラ、多数の特徴などを利用する形状基盤体系(appearance−based scheme)などとして実装され得、前記仮説確認段階は、テンプレートマッチングを利用する相関関係基盤体系(correlation−based scheme)と特徴及び分類器(classifier)を利用する学習基盤体系(learning−based scheme)等で実装され得る。特に、前記学習基盤体系には、CNNのようなディープランニング(deep learning)基盤アルゴリズムや、決定木(decision tree)、サポートベクターマシン(Support Vector Machine,SVM)、アダブースト(AdaBoost)、KNN(k−nearest neighbors)等のシャローラーニング(shallow learning)基盤アルゴリズムが適用され得る。
【0111】
一例として、図8を参照して説明した検出器と類似して、前記検出器40は、R−CNN基盤の自動車検出器で、前記テストイメージからテスト用特徴マップを生成する前記コンボリューションレイヤ、前記特徴マップから前記観察対象自動車に対する前記テスト用ROIを獲得するRPN、前記テスト用特徴マップ内で前記テスト用ROIに対応される領域をプーリングしてテスト用特徴ベクトルを獲得する前記プーリングレイヤ、前記テスト用特徴ベクトルに一つ以上のFC(fully connected)演算を加えて、一つ以上のFC出力値を生成する前記自動車検出用FCレイヤ、前記FC出力値を参照して前記観察対象自動車の前記テスト用クラス情報を出力する前記分類レイヤ、及び前記FC出力値を参照して前記観察対象自動車の前記テスト用位置情報を出力する前記リグレッションレイヤを含み得る。この際、前記コンボリューションレイヤと、前記自動車検出用FCレイヤは、各々一つのレイヤで説明したが、これに限定されず、各々多数のレイヤに形成され得る。また、前記テスト用特徴マップは、前記コンボリューションレイヤ41によるチャネルの深さに対応する一つ以上の特徴マップとして出力され得る。
【0112】
次に、プロセッサ420は、前記手がかり情報抽出レイヤをもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行するようにすることで、前記観察対象自動車に対する一つ以上のテスト用手がかり情報を出力させる第1プロセスと、前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記基準自動車の前記ブラインドスポットの中の一つに位置するか否かに対してテスト用判断結果を出力させる第2プロセスを遂行し得る。
【0113】
以下で、単語「学習用」及び「テスト用」は、前述した学習方法とテスト方法を区分するために使われる。
【0114】
この際、前記検出器40と前記ブラインドスポット確認用FCレイヤは、図9及び図10を参照して説明した学習方法で前記学習装置によってパラメータが学習されたもので、前記学習方法を簡単に説明すると次のとおりである。前記検出器40が、前記基準自動車で撮影された映像イメージに対応されるトレーニングイメージに含まれた前記観察対象自動車に対する学習用クラス情報及び学習用位置情報を出力すれば、前記学習装置が、(i)前記手がかり情報抽出レイヤをもって前記観察対象自動車に対する学習用クラス情報及び前記学習用位置情報を利用して前記所定の演算を遂行させることにより、前記観察対象自動車に対する一つ以上の学習用手がかり情報を出力させ、(ii)前記ブラインドスポット確認用FCレイヤをもって前記観察対象自動車に対する前記学習用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する学習用判断結果を出力させ、(iii)前記第1ロスレイヤをもって前記学習用判断結果とこれに対応される前記第1原本正解を参考にして一つ以上のブラインドスポットロス値を生成させることで、前記ブラインドスポットロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤのパラメータを学習し、前記第2ロスレイヤをもって前記学習用クラス情報及び前記学習用位置情報とこれに対応される前記第2原本正解を比較して一つ以上の自動車検出ロス値を生成させることで、前記自動車検出ロス値を利用したバックプロパゲーションによって前記検出器のパラメータを学習し得る。
【0115】
そして、本発明の他の例に係る前記テスティング装置400は、コンピューティング装置として、プロセッサを搭載して演算能力を備えた装置ならいくらでも本発明に係るテスティング装置400として採択され得る。また、図11では、一つのテスティング装置400のみを示したが、これに限定されず、前記テスティング装置400は複数に分けて役割を遂行し得る。
【0116】
このように構成された本発明の他の例によって構成された前記テスティング装置を利用して前記基準自動車の前記ブラインドスポットをモニタリングするためのテスティング方法を、図12を参照に説明すると次のとおりである。
【0117】
まず、前記検出器40が、前記基準自動車で撮影された映像イメージに対応される前記トレーニングイメージに含まれた前記観察対象自動車に対する学習用クラス情報及び学習用位置情報を出力すれば、前記学習装置によって、(i)前記手がかり情報抽出レイヤ421をもって前記観察対象自動車に対する前記学習用クラス情報及び前記学習用位置情報を利用して前記所定の演算を遂行させることにより、前記観察対象自動車に対する前記学習用手がかり情報を出力させ、(ii)前記ブラインドスポット確認用FCレイヤ422をもって前記学習用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行するようにすることで、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する前記学習用判断結果を出力させ、(iii)前記第1ロスレイヤをもって前記学習用判断結果とこれに対応される第1原本正解を参考にしてブラインドスポットロス値を生成させることで、前記ブラインドスポットロス値を利用したバックプロパゲーションによって前記ブラインドスポット確認用FCレイヤ422の一つ以上のパラメータを学習し、前記第2ロスレイヤをもって前記学習用クラス情報及び前記学習用位置情報とこれに対応される第2原本正解を参考して前記自動車検出ロス値を生成させることで、前記自動車検出ロス値を利用したバックプロパゲーションによって前記検出器40の前記パラメータを学習した状態で、前記検出器40が、前記基準自動車で撮影されたテストイメージ内に位置する前記観察対象自動車を検出し、前記検出された観察対象自動車に対するテスト用クラス情報及びテスト用位置情報を出力し得る。
【0118】
この際、前記検出器40は、ビジョンセンサによって獲得されるイメージ内に位置する自動車を検出するもので、前記イメージ内に前記観察対象自動車が位置すると推定される領域であるROIを検出する仮説生成段階(hypothesis generation stage)と、前記検出されたROIが前記観察対象自動車を含むか否かを判別する仮説確認段階(hypothesis verification stage)から構成され得る。そして、前記仮説生成段階は、オプティカルフローを利用するモーション基盤体系(motion−based scheme)や車両の影、角、水平及び垂直の角、対称、色、車両の光、ステレオカメラ、多数の特徴などを利用する形状基盤体系(appearance−based scheme)などとして実装され得、前記仮説確認の段階は、テンプレートマッチングを利用する相関関係基盤体系(correlation−based scheme)、特徴及び分類器(classifier)を利用する学習基盤体系(learning−based scheme)等で実装され得る。特に、前記学習基盤体系には、CNNのようなディープランニング(deep learning)基盤アルゴリズムや、決定木(decision tree)、サポートベクターマシン(Support Vector Machine,SVM)、アダブースト(AdaBoost)、KNN(k−nearest neighbors)等のシャローラーニング(shallow learning)基盤アルゴリズムが適用され得る。
【0119】
一例として、前記検出器40は、R−CNN基盤の自動車検出器で、前記テストイメージからテスト用特徴マップを獲得する前記コンボリューションレイヤ41、前記テスト用特徴マップから前記観察対象自動車に対する前記テスト用ROIを生成するRPN42、前記テスト用特徴マップ内で前記テスト用ROIに対応される領域をプーリングしてテスト用特徴ベクトルを生成する前記プーリングレイヤ43、前記テスト用特徴ベクトルにFC演算を加えて、一つ以上のFC出力値を生成する前記自動車検出用FCレイヤ44、前記FC出力値を参照して前記観察対象自動車に対する前記テスト用クラス情報を出力する前記分類レイヤ45、及び前記FC出力値を参照して前記観察対象自動車に対する前記テスト用位置情報を出力する前記リグレッションレイヤ46を含み得る。この際、前記コンボリューションレイヤ41と、前記自動車検出用FCレイヤ44は、各々一つのレイヤで説明したが、これに限定されず、各々多数のレイヤに形成され得る。
【0120】
すると、前記テスティング装置400は、前記手がかり情報抽出レイヤ421をもって前記観察対象自動車に対する前記テスト用クラス情報及び前記テスト用位置情報を利用して前記所定の演算を遂行させることにより、前記観察対象自動車に対する前記テスト用手がかり情報を出力させる。
【0121】
この際、前記観察対象自動車に対する前記テスト用手がかり情報は、(i)前記観察対象自動車に対する前記テスト用クラス情報、(ii)前記観察対象自動車に対する前記テスト用位置情報、(iii)テスト用ROIのサイズに対比される前記観察対象自動車のテスト用サイズ情報、(iv)前記観察対象自動車のテスト用アスペクト比(aspect ratio)情報、及び(v)前記観察対象自動車の前記中心点と前記ブラインドスポットの外側の面との間のテスト用距離情報のうち、少なくとも一部を含み得る。
【0122】
そして、前記観察対象自動車に対する前記テスト用クラス情報は、前記観察対象自動車を、自動車・バイクなどに分類するためのクラス情報であり得る。
【0123】
また、図3を参照して説明したものと類似して、前記観察対象自動車の前記テスト用位置情報は、前記テストイメージ内に前記観察対象自動車が位置する領域に対応する位置情報であり得る。一例として、前記観察対象自動車に対応するバウンディングボックスの位置情報として、前記テストイメージ内での前記バウンディングボックスの左上段の角(TOP_LEFT)の座標と右下段の角(BOTTOM_RIGHT)の座標を含み得る。これに加えて、前記バウンディングボックスの中心(CENTER)の座標を含み得るが、これは前記バウンディングボックスの前記左上段の角(TOP_LEFT)の座標と前記右下段の角(BOTTOM_RIGHT)の座標を利用した演算によっても獲得され得る。
【0124】
また、図4を参照して説明したものと類似して、(i)左側ブラインドスポット(BS−L)の外側の境界から前記観察対象自動車の前記中心点の間の距離及び(ii)右側ブラインドスポット(BS−R)の外側の境界から前記観察対象自動車の前記中心点の間の距離のうち、より小さい値を、前記観察対象自動車の前記中心点(C)と前記ブラインドスポットの前記外側の面(S)の間の前記テスト用距離情報(L)と判断し、前記観察対象自動車の前記中心点が、前記ブラインドスポットの前記外側の面の外側に位置しているか、あるいは内側に位置しているかを区別するため、相対的位置情報、一例として、(+)または(−)を追加的に含み得る。
【0125】
次に、前記テスティング装置400は、前記ブラインドスポット確認用FCレイヤ422をもって、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を利用して前記神経網演算を遂行させることで、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する前記テスト用判断結果を出力させるようにする。
【0126】
この際、前記テスト用手がかり情報を加工した値は、前記手がかり情報抽出レイヤ421から出力される前記観察対象自動車に対する前記テスト用手がかり情報と、前記検出器40の前記プーリングレイヤ43で出力される前記テスト用特徴ベクトルを利用してコンカチネート(concatenate)した値であり得、前記テスト用手がかり情報と前記テスト用特徴ベクトルをコンカチネートする特徴コンカチネーションレイヤ440が、前記ブラインドスポット確認用FCレイヤ422の前に位置し得る。
【0127】
また、図5を参照に説明したものと類似して、前記ブラインドスポット確認用FCレイヤ422は、前記観察対象自動車に対する前記テスト用手がかり情報またはこれを加工した値を入力とする多重パーセプトロンによって、前記観察対象自動車が、前記ブラインドスポットの中の一つに位置するか否かに対する一つの結果値を出力する神経網から構成され得る。
【0128】
前記手がかり情報抽出レイヤ421、前記ブラインドスポット確認用FCレイヤ422は、一つのコンピューティング装置に含まれるか、各々異なるコンピューティング装置に含まれ得、コンピューティング装置内で前記のような動作を遂行させるアルゴリズムで実装され得る。
【0129】
また、以上で説明された本発明に係る実施例は、多様なコンピュータ構成要素を通じて遂行できるプログラム命令語の形態で具現されてコンピュータで判読可能な記録媒体に記録され得る。前記コンピュータで判読可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独でまたは組み合わせて含まれ得る。 前記コンピュータ判読可能な記録媒体に記録されるプログラム命令語は、本発明のために特別に設計されて構成されたものか、コンピュータソフトウェア分野の当業者に公知となって使用可能なものでもよい。コンピュータで判読可能な記録媒体の例には、ハードディスク、フロッピィディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスク(flopticaldisk)のような磁気−光媒体(magneto−opticalmedia)、およびROM、RAM、フラッシュメモリなどといったプログラム命令語を格納して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は、本発明に係る処理を遂行するために一つ以上のソフトウェアモジュールとして作動するように構成され得、その逆も同様である。
【0130】
以上、本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば係る記載から多様な修正及び変形が行われ得る。
【0131】
従って、本発明の思想は前記説明された実施例に局限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。
【符号の説明】
【0132】
100 学習装置
121 手がかり情報抽出レイヤ
122 ブラインドスポット確認用FCレイヤ
123 ロスレイヤ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12