特開2020-194492(P2020-194492A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士通テン株式会社の特許一覧

<>
  • 特開2020194492-移動物検出装置 図000003
  • 特開2020194492-移動物検出装置 図000004
  • 特開2020194492-移動物検出装置 図000005
  • 特開2020194492-移動物検出装置 図000006
  • 特開2020194492-移動物検出装置 図000007
  • 特開2020194492-移動物検出装置 図000008
  • 特開2020194492-移動物検出装置 図000009
  • 特開2020194492-移動物検出装置 図000010
  • 特開2020194492-移動物検出装置 図000011
  • 特開2020194492-移動物検出装置 図000012
  • 特開2020194492-移動物検出装置 図000013
  • 特開2020194492-移動物検出装置 図000014
  • 特開2020194492-移動物検出装置 図000015
  • 特開2020194492-移動物検出装置 図000016
  • 特開2020194492-移動物検出装置 図000017
  • 特開2020194492-移動物検出装置 図000018
  • 特開2020194492-移動物検出装置 図000019
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2020-194492(P2020-194492A)
(43)【公開日】2020年12月3日
(54)【発明の名称】移動物検出装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20201106BHJP
   G08G 1/16 20060101ALI20201106BHJP
   H04N 7/18 20060101ALI20201106BHJP
【FI】
   G06T7/00 650B
   G08G1/16 C
   H04N7/18 J
   H04N7/18 K
【審査請求】未請求
【請求項の数】7
【出願形態】OL
【全頁数】29
(21)【出願番号】特願2019-101291(P2019-101291)
(22)【出願日】2019年5月30日
(71)【出願人】
【識別番号】000237592
【氏名又は名称】株式会社デンソーテン
(72)【発明者】
【氏名】松本 武生
(72)【発明者】
【氏名】村角 周樹
(72)【発明者】
【氏名】須佐美 博丈
【テーマコード(参考)】
5C054
5H181
5L096
【Fターム(参考)】
5C054CA04
5C054CC02
5C054CC05
5C054EA01
5C054FC01
5C054FC12
5C054FC13
5C054FC14
5C054FC15
5C054FD03
5C054HA30
5H181AA03
5H181BB13
5H181CC04
5H181CC24
5H181LL08
5H181LL17
5L096AA06
5L096BA04
5L096CA05
5L096DA02
5L096HA03
5L096HA08
(57)【要約】
【課題】移動物の検出精度を向上できる移動物検出装置を提供することを課題とする。
【解決手段】移動物検出装置10において、第1検出部は、第1画像41から第1移動物を検出し、1移動物の検出精度を示す第1信頼度を取得する。第2検出部は、第2画像42から第2移動物を検出し、第2移動物の検出精度を示す第2信頼度を取得する。俯瞰画像生成部15は、第1画像41及び第2画像42を用いて、車両を俯瞰した俯瞰画像43を生成する。第3検出部16は、俯瞰画像43から第3移動物を検出する。結果選択部17は、第1信頼度と第2信頼度とに基づいて、第1移動物を示す第1検出情報41Aと、第2移動物を示す第2検出情報42Aと、第3移動物を示す第3検出情報43Aとのうち少なくとも1つを選択する。
【選択図】図3
【特許請求の範囲】
【請求項1】
車両に搭載され、かつ、各々の撮影領域の一部が重複する第1カメラ及び第2カメラにより生成された画像を用いて、前記車両の周囲を移動する移動物を検出する移動物検出装置であって、
前記第1カメラにより生成された第1画像から第1移動物を検出し、検出された第1移動物の検出精度を示す第1信頼度を前記第1画像における第1移動物の位置に基づいて取得する第1検出部と、
前記第2カメラにより生成された第2画像から第2移動物を検出し、検出された第2移動物の検出精度を示す第2信頼度を前記第2画像における第2移動物の位置に基づいて取得する第2検出部と、
前記第1画像及び第2画像を用いて、所定の仮想視点から前記車両を俯瞰した俯瞰画像を生成する俯瞰画像生成部と、
前記俯瞰画像生成部により生成された俯瞰画像から第3移動物を検出する第3検出部と、
前記第1信頼度と前記第2信頼度とに基づいて、前記検出された第1移動物を示す第1検出情報と、前記検出された第2移動物を示す第2検出情報と、前記第3検出部により検出された第3移動物を示す第3検出情報とのうち少なくとも1つを選択する結果選択部と、
前記結果選択部により選択された検出情報を出力する出力部と、を備える移動物検出装置。
【請求項2】
請求項1に記載の移動物検出装置であって、
前記第1信頼度及び前記第2信頼度のうち一方の信頼度が予め設定された基準値よりも高く、かつ、他方の信頼度が前記基準値以下である場合、前記結果選択部は第3検出情報を選択する、移動物検出装置。
【請求項3】
請求項1又は2に記載の移動物検出装置であって、さらに、
前記第1信頼度及び前記第2信頼度が予め設定された基準値よりも高い場合、前記検出された第1移動物が前記検出された同一物体であるか否かを判断する判断部、を備え、
前記判断部が、前記検出された第1移動物が前記検出された第2移動物と同一物体であると判断した場合、前記結果選択部は、前記第1信頼度及び第2信頼度のうち高い信頼度に対応する移動物の検出情報を選択する、移動物検出装置。
【請求項4】
請求項3に記載の移動物検出装置であって、
前記判断部が、前記検出された第1移動物が前記検出された第2移動物と異なる物体であると判断した場合、前記結果選択部は、前記第1検出情報及び第2検出情報を選択する、移動物検出装置。
【請求項5】
請求項1〜4のいずれか1項に記載の移動物検出装置であって、
前記結果選択部は、前記第1信頼度の変化量に基づいて前記第1信頼度を重み付けし、重み付けされた第1信頼度と前記第2検出部により取得された第2信頼度とに基づいて第1検出情報と前記第2検出情報と前記第3検出情報とのうち少なくとも1つを選択する、移動物検出装置。
【請求項6】
請求項1に記載の移動物検出装置であって、
前記第1検出部は、前記第1画像から前記第1移動物を検出した場合、前記第1画像における前記第1移動物の移動方向を特定し、
前記第2検出部は、前記第2画像から前記第2移動物を検出した場合、前記第2画像における前記第2移動物の移動方向を特定し、
前記第1信頼度及び前記第2信頼度のうち一方の信頼度が予め設定された基準値よりも高く、かつ、他方の信頼度が前記基準値以下である場合、前記結果選択部は、前記一方の信頼度に対応する移動物の移動方向に基づいて、前記第1画像及び前記第2画像のうち前記他方の信頼度に対応する移動物が検出された画像に検出領域を設定し、
前記第1検出部又は前記第2検出部は、前記検出領域が設定された画像を新たに取得した場合、新たに取得した画像のうち検出領域の画像から移動物を検出する、移動物検出装置。
【請求項7】
車両に搭載され、かつ、各々の撮影領域の一部が重複する第1カメラ及び第2カメラにより生成された画像を用いて、前記車両の周囲を移動する移動物を検出する移動物検出方法であって、
前記第1カメラにより生成された第1画像から第1移動物を検出し、検出された第1移動物の検出精度を示す第1信頼度を前記第1画像における第1移動物の位置に基づいて取得する第1検出ステップと、
前記第2カメラにより生成された第2画像から第2移動物を検出し、検出された第2移動物の検出精度を示す第2信頼度を前記第2画像における第2移動物の位置に基づいて取得する第2検出ステップと、
前記生成された第1画像及び第2画像を用いて、所定の仮想視点から前記車両を俯瞰した俯瞰画像を生成する画像生成ステップと、
前記生成された俯瞰画像から第3移動物を検出する第3検出ステップと、
前記第1信頼度と前記第2信頼度とに基づいて、前記検出された第1移動物を示す第1検出情報と、前記検出された第2移動物を示す第2検出情報と、前記検出された第3移動物を示す第3検出情報とのうち少なくとも1つを選択する選択ステップと、
前記選択された検出情報を出力する出力ステップと、を備える移動物検出方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両に搭載されたカメラにより生成された画像から移動物を検出する移動物検出装置に関する。
【背景技術】
【0002】
車両に搭載された複数のカメラにより生成された複数の画像から、俯瞰画像を生成する技術が知られている。俯瞰画像は、車両の上方に設定された仮想視点から、車両と車両の周辺領域とを俯瞰した画像である。
【0003】
また、車両に搭載されたカメラにより生成された画像から移動物を検出する移動物検出装置が知られている。移動物検出装置は、カメラにより生成された画像から移動物を検出した場合、移動物の存在を車両の運転者に報知する。これにより、運転者は、移動物の存在を把握することが可能となる。
【0004】
特許文献1は、車両に搭載された前方カメラ、後方カメラ、右カメラ及び左カメラにより撮影された画像から俯瞰画像を生成する車両周辺監視装置を開示している。この車両周辺監視装置は、俯瞰画像から特徴点を抽出し、俯瞰画像における特徴点の位置の変化を追跡する。特徴点は、例えば、車両の周辺を移動する移動物である。つまり、特許文献1に係る車両周辺監視装置は、俯瞰画像を用いて移動物を検出する。
【0005】
しかし、車両と移動物との位置関係によっては、カメラにより生成された画像から検出された移動物の検出精度が、俯瞰画像から検出された移動物の検出精度よりも高くなる場合がある。つまり、特許文献1に係る車両周辺監視装置には、検出精度の向上の余地がある。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2013−93865号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明の目的は、移動物の検出精度を向上できる移動物検出装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、第1の発明は、車両に搭載され、かつ、各々の撮影領域の一部が重複する第1カメラ及び第2カメラにより生成された画像を用いて、車両の周囲を移動する移動物を検出する移動物検出装置であって、第1検出部と、第2検出部と、俯瞰画像生成部と、第3検出部と、結果選択部と、出力部とを備える。第1検出部は、第1カメラにより生成された第1画像から第1移動物を検出し、検出された第1移動物の検出精度を示す第1信頼度を第1画像における第1移動物の位置に基づいて取得する。第2検出部は、第2カメラにより生成された第2画像から第2移動物を検出し、検出された第2移動物の検出精度を示す第2信頼度を第2画像における第2移動物の位置に基づいて取得する。俯瞰画像生成部は、第1画像及び第2画像を用いて、所定の仮想視点から車両を俯瞰した俯瞰画像を生成する。第3検出部は、俯瞰画像生成部により生成された俯瞰画像から第3移動物を検出する。結果選択部は、第1信頼度と第2信頼度とに基づいて、検出された第1移動物を示す第1検出情報と、検出された第2移動物を示す第2検出情報と、第3検出部により検出された第3移動物を示す第3検出情報とのうち少なくとも1つを選択する。出力部は、結果選択部により選択された検出情報を出力する。
【0009】
第1の発明によれば、結果選択部は、第1移動物の検出精度及び第2移動物の検出精度に基づいて、第1検出情報と第2検出情報と第3検出情報との中から少なくとも1つを選択する。第1移動物の検出精度及び第2移動物の検出精度に応じて出力する検出情報を変更することにより、移動物の検出精度を向上させることができる。
【0010】
第2の発明は、第1の発明であって、第1信頼度及び第2信頼度のうち一方の信頼度が予め設定された基準値よりも高く、かつ、他方の信頼度が基準値以下である場合、結果選択部は第3検出情報を選択する。
【0011】
第2の発明によれば、第1信頼度及び第2信頼度のうち一方の信頼度が基準値よりも高く、かつ、他方の信頼度が基準値以下である場合、俯瞰画像から検出された第3移動物を示す第3検出情報が選択される。これにより、移動物検出装置は、第1移動物が第2移動物と同じ物体であるか否かを判断しなくてもよいため、検出情報の選択を簡略化できるとともに、移動物の誤検出を防ぐことができる。
【0012】
第3の発明は、第1又は第2の発明であって、さらに、判断部を備える。判断部は、第1信頼度及び第2信頼度が予め設定された基準値よりも高い場合、検出された第1移動物が検出された同一物体であるか否かを判断する。判断部が、検出された第1移動物が検出された第2移動物と同一物体であると判断した場合、結果選択部は、第1信頼度及び第2信頼度のうち高い信頼度に対応する移動物の検出情報を選択する。
【0013】
第3の発明によれば、第1移動物が第2移動物と同じ物体である場合、移動物検出装置は、第1信頼度及び第2信頼度のうち高い信頼度に対応する移動物の検出情報を選択する。これにより、移動物検出装置は、精度の高い移動物の検出結果を出力することができる。
【0014】
第4の発明は、第3の発明であって、判断部が、検出された第1移動物が検出された第2移動物と異なる物体であると判断した場合、結果選択部は、第1検出情報及び第2検出情報を選択する。
【0015】
第4の発明によれば、移動物検出装置は、第1移動物と第2移動物との各々の検出結果を出力することができる。
【0016】
第5の発明は、第1〜第4の発明のいずれかであって、結果選択部は、第1信頼度の変化量に基づいて第1信頼度を重み付けし、重み付けされた第1信頼度と第2検出部により取得された第2信頼度とに基づいて第1検出情報と第2検出情報と第3検出情報とのうち少なくとも1つを選択する。
【0017】
第5の発明によれば、移動物検出装置は、選択される検出情報の変更が頻繁に変更することを防ぐことができる。
【0018】
第6の発明は、第1の発明であって、第1検出部は、第1画像から第1移動物を検出した場合、第1画像における第1移動物の移動方向を特定する。第2検出部は、第2画像から第2移動物を検出した場合、第2画像における第2移動物の移動方向を特定する。第1信頼度及び第2信頼度のうち一方の信頼度が予め設定された基準値よりも高く、かつ、他方の信頼度が基準値以下である場合、結果選択部は、一方の信頼度に対応する移動物の移動方向に基づいて、第1画像及び第2画像のうち他方の信頼度に対応する移動物が検出された画像に検出領域を設定する。第1検出部又は第2検出部は、検出領域が設定された画像を新たに取得した場合、新たに取得した画像のうち検出領域の画像から移動物を検出する。
【0019】
第6の発明によれば、基準値よりも低い信頼度に対応する移動物が検出された画像において、移動物を検出すべき領域を限定することができる。これにより、移動物の検出精度を向上させるとともに、移動物の検出負荷を低減することができる。
【0020】
第7の発明は、車両に搭載され、かつ、各々の撮影領域の一部が重複する第1カメラ及び第2カメラにより生成された画像を用いて、車両の周囲を移動する移動物を検出する移動物検出方法であって、第1検出ステップと、第2検出ステップと、画像生成ステップと、第3検出ステップと、結果選択ステップと、出力ステップとを備える。第1検出ステップは、第1カメラにより生成された第1画像から第1移動物を検出し、検出された第1移動物の検出精度を示す第1信頼度を第1画像における第1移動物の位置に基づいて取得する。第2検出ステップは、第2カメラにより生成された第2画像から第2移動物を検出し、検出された第2移動物の検出精度を示す第2信頼度を第2画像における第2移動物の位置に基づいて取得する。画像生成ステップは、第1画像及び第2画像を用いて、所定の仮想視点から車両を俯瞰した俯瞰画像を生成する。第3検出ステップは、生成された俯瞰画像から第3移動物を検出する。結果選択ステップは、第1信頼度と第2信頼度とに基づいて、検出された第1移動物を示す第1検出情報と、検出された第2移動物を示す第2検出情報と、検出された第3移動物を示す第3検出情報とのうち少なくとも1つを選択する。出力ステップは、選択された検出情報を出力する。
【0021】
第7の発明は、第1の発明に用いられる。
【発明の効果】
【0022】
本発明によれば、移動物の検出精度を向上できる移動物検出装置を提供することができる。
【図面の簡単な説明】
【0023】
図1】本発明の実施の形態に係る移動物検出装置を搭載する車両の構成を示す機能ブロック図である。
図2図1に示すカメラの配置の一例を示す図である。
図3図1に示す移動物検出装置の構成を示す機能ブロック図である。
図4図1に示す移動物検出装置の動作概略を示す図である。
図5図1に示す移動物検出装置の動作を示すフローチャーである。
図6図5に示す移動物検出処理のフローチャートである。
図7図4に示す右方画像の拡大図である。
図8図3に示す第2検出部により生成される検出情報の一例を示す図である。
図9図5に示す検出情報選択処理のフローチャートである。
図10図1に示す車両の周囲を移動する移動物の位置の一例を示す図である。
図11図4に示す前方画像において俯瞰画像の生成に用いられる領域の一例を示す図である。
図12図4に示す右方画像において俯瞰画像の生成に用いられる領域の一例を示す図である。
図13図11に示す前方画像及び図12に示す右方画像を用いて生成された俯瞰画像の一例を示す図である。
図14図5に示す結果画像生成処理のフローチャートである。
図15図3に示す検出部により取得される信頼度の時間変化の一例を示す図である。
図16図15に示す信頼度を重み付けした場合における信頼度の時間変化を示す図である。
図17】CPUバス構成を示す図である。
【発明を実施するための形態】
【0024】
以下、図面を参照し、本発明の実施の形態を詳しく説明する。図中同一又は相当部分には同一符号を付してその説明は繰り返さない。
【0025】
[1.車両100の構成]
図1は、本発明の一実施の形態に係る移動物検出装置10を搭載する車両100の構成を示す機能ブロック図である。図1を参照して、車両100は、車体1と、左前輪1FLと、右前輪1FRと、左後輪1RLと、右後輪1RRと、車軸1SF及び1SRとを備える。
【0026】
左前輪1FLは、車体1の左前方に配置される。右前輪1FRは、車体1の右前方に配置される。左前輪1FL及び右前輪1FRは、車体1の前方に配置された車軸1SFを回転軸として回転する。車軸1SFは、車両100のドライブシャフトであり、図示しないエンジンの出力を左前輪1FL及び右前輪1FRに伝える。左前輪1FL及び右前輪1FRは、車両100の操舵輪である。左前輪1FL及び右前輪1FRの舵角は、図示しないステアリングホイールの回転に応じて変化する。
【0027】
左後輪1RLは、車体1の左後方に配置される。右後輪1RRは、車体1の右後方に配置される。左後輪1RL及び右後輪1RRは、車体1の後方に配置された車軸1SRを回転軸として回転する。
【0028】
車両100は、さらに、方向指示スイッチ4と、表示装置5と、移動物検出装置10と、フロントカメラ21と、左サイドカメラ24と、リアカメラ23と、右サイドカメラ22とを備える。以下の説明において、フロントカメラ21と、左サイドカメラ24と、リアカメラ23と、右サイドカメラ22とを総称する場合、単に「カメラ」と記載する。
【0029】
方向指示スイッチ4は、車両100の運転者によって操作される。方向指示スイッチ4は、運転者の操作に応じて、方向指示信号4Sを移動物検出装置10に出力する。方向指示信号4Sは、図示しない左ウィンカー又は右ウィンカーの点滅を指示する信号である。
【0030】
表示装置5は、液晶表示装置等の薄型パネルであり、運転者から見やすい位置に配置される。例えば、表示装置5は、車両100のスピードメータの近傍に配置される。表示装置5は、移動物の検出結果を示す結果画像50を移動物検出装置10から受け、その受けた結果画像50を表示する。結果画像50の詳細については、後述する。
【0031】
フロントカメラ21は、車両100の前方の景色を撮影して前方画像31を生成し、その生成した前方画像31を移動物検出装置10に供給する。左サイドカメラ24は、車両100の左方の景色を撮影して左方画像34を生成し、その生成した左方画像34を移動物検出装置10に供給する。リアカメラ23は、車両100の後方の景色を撮影して後方画像33を生成し、その生成した後方画像33を移動物検出装置10に供給する。右サイドカメラ22は、車両100の右方の景色を撮影して右方画像34を生成し、その生成した右方画像34を移動物検出装置10に供給する。
【0032】
以下の説明において、前方画像31、左方画像34、後方画像33及び右方画像34を総称して「撮影画像」と記載する場合がある。撮影画像は、動画像を構成するフレームである。車両100に搭載されたカメラの各々は、撮影画像を所定の時間間隔で生成して、その生成した撮影画像を移動物検出装置10に出力する。
【0033】
移動物検出装置10は、カメラにより撮影された撮影画像を用いて、車両100の周辺を移動する移動物を検出する。移動物は、例えば、歩行者や自転車である。移動物検出装置10は、移動物を検出した場合、結果画像50を表示装置5に出力して、移動物を検出したことを運転者に通知する。これにより、運転者は、車両100を周囲を移動する移動物の存在を把握できる。
【0034】
[2.カメラの配置]
図2は、図1に示すカメラの配置の一例を示す図である。最初に、ワールド座標系を説明する。ワールド座標系の原点Owは、車両100の重心である。Y軸は、車両100の直進方向に延びる。Y軸の正方向は、車両100の後端面から前端面に向かう方向である。X軸は、車両100の直進方向及び鉛直方向の両者に垂直な方向に延びる。X軸の正方向は、車両100の左側面から右側面に向かう方向である。
【0035】
フロントカメラ21は、車両100の前端に取り付けられたナンバープレートの近傍に設けられ、その光軸21KはY軸の正方向に向けられている。リアカメラ23は、車両100の後端に取り付けられたナンバープレートの近傍に設けられ、その光軸23KはY軸の負方向に向けられている。フロントカメラ21及びリアカメラ23の取付位置は、X軸上であることが望ましいが、X軸から多少ずれた位置であってもよい。
【0036】
左サイドカメラ24は、車両100における左のドアミラー6Lに設けられ、その光軸22KはX軸の負方向に向けられている。右サイドカメラ22は、車両100における右のドアミラー6Rに設けられ、その光軸24KはX軸の正方向に向けられている。
【0037】
カメラのレンズは、180°以上の画角を有する広角レンズである。車両100に搭載される4台のカメラを用いることにより、車両100の全周囲の撮影が可能である。
【0038】
車両100は、左ウィンカー7L及び右ウィンカー7Rをさらに備える。左ウィンカー7L及び右ウィンカー7Rは、方向指示スイッチ4から出力される方向指示信号4Sに応じて点滅する。
【0039】
[3.移動物検出装置10の構成]
図3は、図1に示す移動物検出装置10の構成を示す機能ブロック図である。図3を参照して、移動物検出装置10は、画像選択部11と、第1検出部12と、第2検出部13と、判断部14と、俯瞰画像生成部15と、第3検出部16と、結果選択部17と、結果出力部18と、挙動特定部19とを備える。
【0040】
挙動特定部19は、方向指示信号4Sを方向指示スイッチ4から受け、前方画像31をフロントカメラ21から受ける。挙動特定部19は、その受けた方向指示信号4S及び前方画像31を用いて、車両100の挙動を判断する。挙動特定部19は、車両100が右折又は左折をすると判断した場合、車両100が右折又は左折することを通知するための挙動情報19Aを画像選択部11に出力する。
【0041】
画像選択部11は、撮影画像(前方画像31、右方画像32、後方画像33及び左方画像34)をカメラから取得し、挙動情報19Aを挙動特定部19から取得する。画像選択部11は、取得した挙動情報19Aに基づいて、第1検出部12に出力する第1画像41と第2検出部13に出力する第2画像42とを取得した撮影画像の中から選択する。撮影画像の選択の詳細は後述する。画像選択部11は、選択した第1画像41を第1検出部12に出力し、選択した第2画像42を第2検出部に出力する。
【0042】
第1検出部12は、第1画像41を画像選択部11から受け、その受けた第1画像41から第1移動物を検出する。第1検出部12は、第1移動物の検出結果に基づいて、検出された第1移動物の確からしさを示す第1信頼度を取得する。第1検出部12は、第1信頼度と第1移動物の検出結果とを含む検出情報42Aを、判断部14及び結果選択部17に出力する。第1移動物の検出結果は、第1画像41における第1移動物の位置及び第1移動物の移動方向を含む。
【0043】
第2検出部13は、第2画像42を画像選択部11から受け、その受けた第2画像42から第2移動物を検出する。第2検出部13は、第2移動物の検出結果に基づいて、検出された第2移動物の確からしさを示す第2信頼度を取得する。第2検出部13は、第2信頼度と、第2移動物の検出結果とを含む検出情報42Aを判断部14及び結果選択部17に出力する。第2移動物の検出結果は、第2画像42における第2移動物の位置及び第2移動物の移動方向を含む。
【0044】
判断部14は、検出情報41Aを第1検出部12から受け、検出情報42Aを第2検出部13から受ける。判断部14は、その受けた検出情報41A及び42Aに基づいて、第1移動物が第2移動物と同じ物体であるか否かを判断する。判断部14は、第1移動物が第2移動物と同じ物体であるか否かを示す同一判断情報44を結果選択部17に出力する。
【0045】
俯瞰画像生成部15は、撮影画像をカメラから取得し、取得した撮影画像を用いて俯瞰画像43を生成する。俯瞰画像43は、車両100の上方に設定された仮想視点から、車両100と車両100の周辺領域とを俯瞰した画像である。俯瞰画像生成部15は、生成した俯瞰画像43を第3検出部16及び結果出力部18に出力する。
【0046】
第3検出部16は、俯瞰画像43を俯瞰画像生成部15から受け、その受けた俯瞰画像43から第3移動物を検出する。第3検出部16は、第3移動物の検出結果を示す検出情報43Aを結果選択部17に出力する。第3移動物の検出結果は、俯瞰画像43における第3移動物の位置及び移動方向を含む。
【0047】
結果選択部17は、検出情報41Aを第1検出部12から受け、検出情報42Aを第2検出部13から受け、第3検出部16から検出情報43Aを受ける。結果選択部17は、検出情報41A及び42Aに記録された信頼度に基づいて、検出情報41A〜43Aのうち少なくとも1つを選択する。結果選択部17は、選択された検出情報を通知対象情報45として結果出力部18に出力する。
【0048】
結果選択部17は、同一判断情報44を判断部14から受ける。結果選択部17は、検出情報41A及び42Aを選択可能と判断した場合、受けた同一判断情報44に基づいて、検出情報41A及び42Aの両者を通知対象情報45として出力するか否かを判断する。具体的には、同一判断情報44が、第1移動物が第2移動物と同じ物体であることを示す場合、結果選択部17は、検出情報41A及び42Aのいずれか一方を通知対象情報45として結果出力部18に出力する。同一判断情報44が、第1移動物が第2移動物と異なる物体であることを示す場合、結果選択部17は、検出情報41A及び42Aの両者を通知対象情報45として結果出力部18に出力する。
【0049】
結果出力部18は、前方画像31をフロントカメラ21から受け、俯瞰画像43を俯瞰画像生成部15から受け、通知対象情報45を結果選択部17から受ける。結果出力部18は、受けた前方画像31及び俯瞰画像43のうちいずれか一方を、受けた通知対象情報45に基づいて選択する。結果出力部18は、受けた通知対象情報45に基づいて、移動物が存在する領域を選択した画像において強調する。結果出力部18は、移動物が存在する領域が強調された画像を結果画像50として表示装置5に出力する。
【0050】
[4.移動物検出装置10の動作
[4.1.動作概略]
図4は、図1に示す移動物検出装置10の動作概略を説明する図である。図4を参照しながら、車両100が右折する場合を例にして、移動物検出装置10の動作概略を説明する。図4において、道路R1は南北方向に延び、道路R2は東西方向に延びる。道路R1及び道路R2は、交差点Pにおいて交差する。
【0051】
図4において、車両100は、道路R1を交差点Pに向かって走行し、交差点Pにおいて右折する。具体的には、車両100は、右ウィンカー7Rの点滅を時刻t1から開始し、時刻t1よりも後の時刻t2に交差点Pに進入する。車両100は、時刻t2よりも後の時刻t3において、右ウィンカー7Rの点滅を終了する。自転車25は、移動物検出装置10によって検出される移動物である。自転車25は、道路R1を交差点Pに向かって走行し、横断歩道C2を渡る。
【0052】
移動物検出装置10は、図示しない車両100のイグニッションスイッチがオンされている期間において、前方画像31から横断歩道を検出する処理を繰り返す。
【0053】
時刻t1において、移動物検出装置10は、交差点Pの横断歩道C1を検出し、右ウィンカー7Rの点滅を指示する方向指示信号4Sを方向指示スイッチ4から受ける。この結果、移動物検出装置10は、車両100が右折すると判断する(ステップS1)。
【0054】
移動物検出装置10は、車両100が右折すると判断した場合、前方画像31及び右方画像32の各々から移動物を検出する(ステップS2)。なお、前方画像31が第1画像41に相当し、右方画像32が第2画像42に相当する。この結果、時刻t1において、自転車25が、前方画像31及び右方画像34の各々から検出される。フロントカメラ31の撮影領域の一部が右サイドカメラ34の撮影領域の一部と重複するためである。
【0055】
移動物検出装置10は、前方画像31から検出された自転車25の検出精度を示す第1信頼度と、右方画像34から検出された自転車25の検出精度を示す信頼度とを取得する(ステップS3)。
【0056】
また、移動物検出装置10は、時刻t1に取得された撮影画像を用いて俯瞰画像43を生成する。移動物検出装置10は、生成した俯瞰画像43から自転車25を検出する(ステップS4)。すなわち、移動物検出装置10は、時刻t1において、前方画像31と、右方画像34と、俯瞰画像43との各々から自転車25を検出する。移動物検出装置10は、ステップS3で取得された第1信頼度及び第2信頼度の各々を予め設定された基準値比較する。移動物検出装置10は、その比較結果に基づいて前方画像31、右方画像31及び俯瞰画像43の各々から得られた検出情報のうち、検出情報を少なくとも1つ選択する(ステップS5)。
【0057】
図4に示す前方画像31において、自転車25の前輪のみが前方画像31の右下端部に表れている。前方画像31から検出された自転車25の第1信頼度は、比較的低く、基準値を下回る。一方、右方画像34において、自転車25の全体が右方画像34に表れており、自転車25は右方画像34の中央付近に位置している。右方画像34から検出された自転車25の第2信頼度は、比較的高く、基準値を上回る。この場合、移動物検出装置10は、俯瞰画像43から得られた検出情報43Aを選択する。つまり、第1信頼度及び第2信頼度の一方が基準値を超え、かつ、他方が基準値を下回る場合、移動物検出装置10は、俯瞰画像43から検出された第3移動物を示す検出情報43Aが選択される。
【0058】
移動物が前方画像31から検出され、かつ、移動物が右方画像32から検出されなかった場合、移動物検出装置10は、前方画像31から得られた検出情報41Aが選択される。移動物が右方画像32のみから検出され、かつ、移動物が前方画像31から検出されなかった場合、結果画像50は、右方画像32から得られた検出情報42Aが選択される。
【0059】
第1信頼度及び第2信頼度の両者が基準値を超える場合、移動物検出装置10は、ステップS6において、検出情報41A及び42Aを選択可能と判断する。この場合、移動物検出装置10は、検出情報41A及び42Aのうち信頼度の高い検出情報が選択される。
【0060】
移動物検出装置10は、ステップS6で選択された検出情報を用いて、結果画像50を生成する(ステップS6)。移動物検出装置10は、右ウィンカー7Rの点滅終了を指示する方向指示信号4Sを方向指示スイッチ4から受けた場合、車両100の右折が終了したと判断する。この場合、移動物検出装置10は、移動物の検出を終了する(ステップS7)。
【0061】
図4に示す例では、方向指示信号4Sは、時刻t1から時刻t3までの期間にかけて、右ウィンカー7Rの点滅を指示する。従って、移動物検出装置10は、時刻t1から時刻t3までの期間において、前方画像31及び右方画像32を用いて移動物を検出する。
【0062】
このように、移動物検出装置10は、第1信頼度及び第2信頼度に基づいて検出情報41A〜43Aのうち少なくとも1つを選択し、選択した検出情報を用いて移動物の存在を運転者に通知する。移動物検出装置10は、検出情報41A〜43Aのうち適切な検出情報を用いることができるため、移動物の検出精度の向上することができる。
【0063】
[4.2.詳細動作]
図5は、図1に示す移動物検出装置10の動作を示すフローチャートである。図5を参照して、移動物検出装置10は、図示しない車両100のイグニッションスイッチがオンされた場合、図5に示す処理を開始する。
【0064】
移動物検出装置10は、カメラから撮影画像を取得する(ステップS11)。上述のように、撮影画像は、動画像を構成するフレームである。このため、移動物検出装置10は、車両100に搭載された4台のカメラの全てからフレームを取得した場合、ステップS12に進む。
【0065】
移動物検出装置10において、挙動特定部19は、ステップS11で取得した前方画像31及び方向指示スイッチ4から受ける方向指示信号4Sに基づいて、車両100が右折又は左折するかを判断する(ステップS12)。
【0066】
具体的には、挙動特定部19は、ステップS21で取得した前方画像31から横断歩道を検出する処理を実行する。例えば、挙動特定部19は、各々が車両100の進行方向に延びる複数の白線を検出する。挙動特定部19は、検出した複数の白線が車両100の左右方向に配列されている場合、横断歩道を検出したと判断する。
【0067】
横断歩道が検出され、かつ、方向指示信号4Sが左ウィンカー7L及び右ウィンカー7Rのいずれか一方の点滅を示す場合、挙動特定部19は、車両100が右折又は左折すると判断する(ステップS12においてYes)。横断歩道が検出されない場合、又は、方向指示信号4Sが左ウィンカー7L又は右ウィンカー7Rの点滅を指示しない場合、移動物検出装置10は、車両100が直進すると判断する(ステップS12においてNo)。この場合、移動物検出装置10は、後述ステップS18に進む。
【0068】
画像選択部11は、車両100が右折又は左折すると判断された場合(ステップS12においてYes)、移動物の検出に用いるカメラを選択する(ステップS13)。車両100が右折する場合、車両100は、車両100の右方を移動する移動物と衝突する虞がある。このため、画像選択部11は、車両100が右折すると判断した場合、フロントカメラ21及び右サイドカメラ22を選択する。車両100が左折する場合、車両100は、車両100の左方を移動する移動物と衝突する虞がある。このため、画像選択部11は、車両100が左折すると判断した場合、フロントカメラ21及び左サイドカメラ24を選択する。
【0069】
以下、特に説明のない限り、車両100が右折する場合を例にして、移動物検出装置10の動作を説明する。この場合、フロントカメラ21及び右サイドカメラ22が選択される(ステップS13)。画像選択部11は、前方画像31を第1検出部12に出力し、右方画像32を第2検出部13に出力する。前方画像31は、図3に示す第1画像41に対応する。右方画像32は、図3に示す第2画像42に対応する。このため、前方画像31から検出された移動物を「第1移動物」、右方画像32から検出された移動物を「第2移動物」と記載する。
【0070】
移動物検出装置10は、前方画像31と、右方画像32と、俯瞰画像43との各々から移動物を検出する(ステップS14)。具体的には、第1検出部12は、前方画像31から第1移動物を検出した場合、第1信頼度を取得し、検出情報41Aを生成する。第2検出部13は、右方画像32から第2移動物を検出した場合、第2信頼度を取得し、検出情報42Aを生成する。第3検出部16は、俯瞰画像43から第3移動物を検出した場合、検出情報43Aを生成する。第3検出部16は、第3移動物の信頼度を取得しない。なお、ステップS14の詳細については、後述する。
【0071】
結果選択部17が、ステップS14の結果として生成される検出情報41A〜43Aの中から、移動物の検出通知に用いられる少なくとも1つの検出情報を選択する(ステップS15)。検出情報41Aに含まれる第1信頼度と、検出情報42Aに含まれる第2信頼度とが、検出情報の選択に用いられる。ステップS15の詳細については、後述する。
【0072】
結果出力部18が、ステップS15で選択された検出情報に基づいて、結果画像50を生成する(ステップS16)。具体的には、結果出力部18は、選択された検出情報に基づいて、前方画像31及び俯瞰画像43のいずれか一方を選択する。移動物検出装置10は、選択した画像に含まれる移動物を強調し、移動物が強調された画像を結果画像50として表示装置5に出力する。ステップS16の詳細については、後述する。
【0073】
移動物検出装置10は、車両100が右折又は左折を終了したか否かを判断する(ステップS17)。例えば、移動物検出装置10は、ステップS17の判断において、方向指示信号4Sを用いる。
【0074】
方向指示信号4Sが右ウィンカー7R又は左ウィンカー7Lの点滅を指示する場合、移動物検出装置10は、車両100が右折又は左折中であると判断する(ステップS17においてNo)。移動物検出装置10は、ステップS11で取得した撮影画像と異なる撮影画像を新たに取得する(ステップS19)。移動物検出装置10は、新たに取得した撮影画像を用いて、移動物検出処理(ステップS14)を再び実行する。
【0075】
方向指示信号4Sが右ウィンカー7R又は左ウィンカー7Lの点滅終了を指示する場合、移動物検出装置10は、車両100が右折又は左折を終了したと判断する(ステップS17においてYes)。移動物検出装置10は、移動物の検出を終了し、ステップS18に進む。
【0076】
イグニッションスイッチのオンが継続している場合(ステップS18においてNo)、移動物検出装置10は、ステップS11に戻る。イグニッションスイッチがオンからオフに変化した場合(ステップS18においてYes)、移動物検出装置10は、図5に示す処理を終了する。
【0077】
[4.3.移動物検出処理(ステップS14)]
(撮影画像からの移動物の検出)
図6は、図5に示す移動物検出処理(ステップS14)のフローチャートである。図6を参照して、第1検出部12は、検出領域が前方画像31(第1画像41)に設定されているか否かを判断する(ステップS401)。詳細については後述するが、検出領域は、所定の条件が満たされた場合に第1画像41及び第2画像42の一方に設定される。
【0078】
検出領域が前方画像31に設定されている場合(ステップS401においてYes)、第1検出部12は、前方画像31のうち検出領域に含まれる画像から第1移動物を検出する(ステップS402)。検出領域が前方画像31に設定されていない場合(ステップS401においてNo)、第1検出部12は、前方画像31の全体から第1移動物を検出する(ステップS403)。第1検出部12は、ステップS402又はS403の結果、前方画像31における第1移動物の位置と、前方画像31における第1移動物の移動方向とを取得する。
【0079】
第2検出部13は、検出領域が右方画像32(第2画像42)に設定されているか否かを判断する(ステップS404)。検出領域が右方画像32に設定されている場合(ステップS404においてYes)、第2検出部13は、右方画像32のうち検出領域に含まれる画像から第2移動物を検出する(ステップS405)。検出領域が右方画像32に設定されていない場合(ステップS404においてNo)、第2検出部13は、右方画像32の全体から第2移動物を検出する(ステップS406)。第2検出部13は、ステップS405又はS406の結果、右方画像32における第2移動物の位置と、右方画像32における第2移動物の移動方向とを取得する。
【0080】
図7は、図4に示す右方画像32の拡大図である。図7を参照しながら、検出領域の具体例について説明する。検出領域22Lが右方画像32に設定されている。検出領域22Lは右方画像32における左半分の領域である。検出領域22Lが右方画像32に設定されている場合、第2検出部13は、右方画像32のうち、検出領域22Lに含まれる画像から第2移動物を検出する。右方画像32の右半分の領域は、第2移動物の検出対象から除外される。
【0081】
移動物の検出(ステップS14)について、図7に示す右方画像32から自転車25を検出する場合を例に説明する。なお、検出領域22Lが右方画像32に設定されていないと仮定する。
【0082】
第2検出部13は、右方画像32から図示しないエッジ画像を生成し、生成したエッジ画像からエッジにより囲まれた領域25Rを抽出する。第2検出部13は、抽出した領域25Rのサイズが予め設定された基準サイズよりも大きい場合、抽出した領域25Rが物体であると判断する。領域25Rで囲まれる物体は、自転車25である。説明の便宜上、領域25Rを図7において矩形で示している。第2検出部13は、抽出した領域25Rの中心を自転車25の位置25Pに決定する。
【0083】
第2検出部13は、自転車25の位置25P及び領域25Rに基づいて、自転車25が移動物であるか否かを判断する。以下、図7に示す右方画像32を「現在右方画像」と記載し、現在画像の直前に取得された右方画像32Aを「過去右方画像」と記載する。図7において、過去領域26Rは、過去右方画像から検出された自転車25の領域である。過去位置26Pは、過去領域26Rの中心である。図7において、位置25Pから過去位置26Pまでの距離Dを誇張して表現している。
【0084】
位置25P及び過去位置26Pは、右方画像32の画素座標系により記述される。画素座標系の原点は右方画像32の左上頂点である。画素座標系において、Xa軸は原点から右方向に延び、Ya軸は原点から下方向に延びる。
【0085】
第2検出部13は、以下の2つの条件が満たされた場合、現在右方画像から検出された自転車25が移動物であると判断する。
【0086】
第1条件は、領域25Rのサイズと過去領域26Rのサイズとの比が所定範囲内であることである。現在右方画像の生成時刻と過去右方画像の生成時刻との差は、右サイドカメラ32により生成される動画像のフレーム間隔に相当する。自転車25が現在右方画像及び過去右方画像の両者から検出された場合、領域25Rのサイズは、過去領域26Rのサイズから大幅に変化しないと想定される。
【0087】
第2条件は、距離Dが所定距離以下であることである。車両100の速さ及び動画像のフレーム間隔を考慮した場合、距離Dは、所定距離以下であると想定されるためである。
【0088】
第2検出部13は、上記の2つの条件に基づいて現在右方画像から自転車25を検出したと判断した場合、現在右方画像における自転車25の位置及び移動方向を特定する。
【0089】
領域25Rの位置25Pが、現在右方画像における自転車25の位置として特定される。第2検出部13は、現在右方画像における自転車25の移動方向を示すベクトル25Vを生成する。ベクトル25Vにおいて、始点は過去位置26Pであり、終点は位置25Pである。
【0090】
(信頼度の取得)
移動物検出装置10は、ステップS403及びS406により検出された第1移動物及び第2移動物の信頼度を取得する(ステップS407)。具体的には、第1検出部12は、ステップS403で特定された第1移動物の位置に基づいて、第1移動物の検出精度を示す第1信頼度を決定する。第2検出部13は、ステップS406で特定された第2移動物の位置に基づいて、第2移動物の検出精度を示す第2信頼度を決定する。
【0091】
以下、第2信頼度の決定を例にして、ステップS407を説明する。第1信頼度は、第2信頼度と同様に決定されるため、第1信頼度の決定の説明を省略する。図7を参照して、第2検出部13は、ステップS403において特定された自転車25の位置25Pに基づいて、第2信頼度を決定する。具体的には、第2検出部13は、第2信頼度は、自転車25の位置25Pが右方画像32の中心Cから離れるに従って第2信頼度を低下させる。
【0092】
右方画像32に含まれる物体は、右サイドカメラ22のレンズの焦点距離や収差に起因して中心Cから離れるに従ってぼやけ、不鮮明になる。従って、エッジ検出を移動物の検出に用いた場合、物体の検出精度は、右方画像32の中心Cから離れるに従って低下する。第2信頼度と中心Cからの距離との対応関係は、右サイドカメラ22が備える光学系の焦点距離などの特性に基づいて、第2検出部13に予め設定されている。
【0093】
ステップS407の後に、検出情報41Aが第1検出部12により生成され、検出情報42Aが第2検出部13により生成される。検出情報41A及び42Aの各々は、判断部14及び結果選択部17に出力される。
【0094】
図8は、第2検出部13により生成される検出情報42Aの一例を示す図である。図8を参照して、検出情報42Aは、移動物が検出された撮影画像を特定する情報と、撮影画像における第2移動物の位置と、撮影画像における第2移動物の移動方向と、第2移動物の信頼度を記録する。
【0095】
(俯瞰画像からの移動物の検出)
再び、図6を参照して、俯瞰画像生成部15は、カメラから取得した撮影画像を用いて俯瞰画像43を生成する(ステップS408)。例えば、俯瞰画像生成部15は、撮影画像に含まれる各画素を予め設定された仮想投影面に投影することにより、俯瞰画像43を生成する。俯瞰画像生成部15は、生成した俯瞰画像43を第3検出部16及び結果出力部18に出力する。
【0096】
第3検出部16は、俯瞰画像43を俯瞰画像生成部15から受け、その受けた俯瞰画像43から第3移動物を検出する(ステップS409)。第3検出部16は、第1検出部12及び第2検出部13で用いられる処理と同様の処理を用いて、移動物を検出する。なお、第3検出部16は、第3移動物の信頼度を取得しない。第3検出部16は、ステップS409の結果を記録した検出情報43Aを生成し、その生成した検出情報43Aを結果選択部17に出力する。検出情報43Aは、第3移動物の信頼度を記録しない点を除き、図8に示す検出情報42Aと同様の内容を記録する。
【0097】
[4.4.検出情報選択処理(ステップS15)]
図9は、図5に示す検出情報選択処理(ステップS15)のフローチャートである。図9を参照しながら、検出情報選択処理(ステップS15)について詳しく説明する。結果選択部17は、検出情報41A〜43Aを取得した場合、図9に示す処理を開始する。
【0098】
結果選択部17は、検出情報41A及び42Aを参照して、第1移動物及び第2移動物のうちいずれか一方のみが検出されたか否かを判断する(ステップS501)。
【0099】
例えば、検出情報41Aが、未検出メッセージを含み、かつ、検出情報42Aが、第2移動物の位置を記録している場合、結果選択部17は、第2移動物のみが検出されたと判断する(ステップS501においてYes)。この場合、結果選択部17は、後述するステップS502を実行する。検出情報41A及び42Aが移動物の位置を記録している場合、あるいは、検出情報41A及び42が未検出メッセージを記録している場合(ステップS501においてNo)、結果選択部17は、後述するステップS506を実行する。
【0100】
ステップS502において、結果選択部17は、検出情報41A及び42Aのうち、移動物の位置が記録された検出情報を特定する。結果選択部17は、特定した検出情報に記録された信頼度が予め設定された基準値よりも高いか否かを判断する(ステップS503)。
【0101】
特定した検出情報に記録された信頼度が基準値以下である場合(ステップS503においてNo)、結果選択部17は、検出情報を選択しないことを決定する(ステップS505)。移動物ではない物体が、誤って移動物と判断された可能性が高いためである。結果選択部17は、未検出メッセージを含む通知対象情報45を結果出力部18に出力する。
【0102】
特定した検出情報に記録された信頼度が基準値よりも高い場合(ステップS503においてYes)、結果選択部17は、特定した検出情報を選択する(ステップS504)。結果選択部17は、ステップS504で選択された検出情報を含む通知対象情報45を結果出力部18に出力する。
【0103】
ステップS506において、結果選択部17は、検出情報41A及び検出情報42Aに基づいて、第1移動物及び第2移動物が検出されたか否かを判断する。
【0104】
検出情報41A及び42が未検出メッセージを含む場合、結果選択部17は、第1移動物及び第2移動物が検出されなかったと判断する(ステップS506においてNo)。結果選択部17は、検出情報を選択しないことを決定する(ステップS514)。結果選択部17は、未検出メッセージを含む通知対象情報45を結果出力部18に出力する。
【0105】
検出情報41A及び42が移動物の位置を記録している場合、結果選択部17は、第1移動物及び第2移動物が検出されたと判断する(ステップS506においてYes)。結果選択部17は、検出情報41Aに記録された第1信頼度と検出情報42Aに記録された第2信頼度との各々を基準値と比較する(ステップS507)。
【0106】
第1信頼度及び第2信頼度の少なくとも一方が基準値以下である場合(ステップS507においてNo)、結果選択部17は、ステップS511に進む。ステップS511については、後述する。
【0107】
第1信頼度及び第2信頼度の両者が基準値よりも大きい場合(ステップS507においてYes)、判断部14が、第1移動物が第2移動物と同じ物体であるか否かを判断する(ステップS508)。
【0108】
具体的には、判断部14が、最初に、検出情報41Aに記録されている第1移動物の位置を、ワールド座標系における位置に変換する。第1移動物の位置は、検出情報41Aにおいて、前方画像31における画素座標系に従って記述されている。判断部14は、ワールド座標系と前方画像31の画素座標系との対応関係を示すテーブルを用いて、ワールド座標系における第1移動物の位置を特定する。同様に、判断部14は、ワールド座標系と右方画像32の画素座標系との対応関係を示すテーブルを用いて、ワールド座標系における第2移動物の位置を特定する。
【0109】
判断部14は、次に、ワールド座標系における第1移動物から第2移動物までの距離を算出し、算出した距離を予め設定された同一判断距離と比較する。同一判断距離は、第1移動物が第2移動物と同一物体であるとみなすことができる距離である。算出した距離が同一判断距離以下である場合、判断部14は、第1移動物が第2移動物を同じ物体であると判断する(ステップS508においてYes)。算出した距離が同一判断距離よりも大きい場合、判断部14は、第1移動物と第2移動物とは互いに異なる物体であると判断する(ステップS508においてNo)。判断部14は、第1移動物が第2移動物と同じ物体であるか否かを示す同一判断情報44を結果選択部17に出力する。
【0110】
同一判断情報44が、第1移動物と第2移動物とが異なる物体であることを示す場合(ステップS508においてNo)、結果選択部17は、第1移動物及び第2移動物の各々が高い精度で検出されているため、第1移動物及び第2移動物の両者の存在を運転者に通知する必要があると判断する。結果選択部17は、検出情報41A及び42Aを選択する(ステップS510)。結果選択部17は、検出情報41A及び42Aを含む通知対象情報45を結果出力部18に出力する。
【0111】
同一判断情報44が、第1移動物と第2移動物とが同じ物体であることを示している場合(ステップS508においてYes)、結果選択部17は、検出情報41A及び42Aのうち、信頼度の高い検出情報を選択する(ステップS509)。より検出精度の高い検出結果を用いて、移動物の存在を運転者に通知するためである。
【0112】
図10を参照して、第1信頼度及び第2信頼度の両者が基準値よりも大きい場合の例を説明する。図10は、図1に示す車両100の周囲を移動する移動物の位置の一例を示す図である。図10に示す車両100の位置は、図5に示す時刻t1の位置に対応する。撮影領域21Sは、フロントカメラ21が被写体を撮影できる範囲である。撮影領域22Sは、右サイドカメラ22が被写体を撮影できる範囲である。
【0113】
第1移動物が位置P1において移動中であり、自転車25(第2移動物)が位置P3を交差点Pに向かって移動中であると仮定する。位置P1は、撮影領域21S内にある。前方画像31に含まれる第1移動物は、前方画像31の中心に比較的近いと仮定する。位置P3は、撮影領域22S内にある。右方画像32に含まれる自転車25が右方画像32の中心に比較的近いと仮定する。この結果、第1移動物の検出精度を示す第1信頼度と、自転車25(第2移動物)の検出精度を示す第2信頼度とは、基準値よりも高くなる(図5に示すステップS507においてYes)。
【0114】
位置P1から位置P3までの距離D13が同一判断距離以上であるため、位置P1における第1移動物は、位置P2における自転車25(第2移動物)と異なる物体(ステップS508においてYes)。従って、移動物検出装置10は、位置P1における第1移動物と、位置P3における自転車25との存在を運転者に通知する。
【0115】
図10を参照して、第1移動物が第2移動物と同一物体である場合の例を説明する。自転車25が、図10に示す位置P2を交差点Pに向かって移動している。位置P2は、撮影領域21S及び22Pの各々に含まれる。従って、自転車25が位置P2を走行している場合、自転車25は、第1検出部12により第1移動物として検出され、第2検出部13により第2移動物として検出される。
【0116】
第1信頼度及び第2信頼度が基準値より高く(ステップS507においてYes)、かつ、第1移動物から第2移動物までの距離が同一判断距離よりも短い(ステップS508においてYes)と仮定する。この場合、判断部14は、第2信頼度を記録した検出情報42Aを選択する(ステップS509)。位置P2は、フロントカメラ21の光軸21Kよりも右サイドカメラ22の光軸22Kに近いことから、第2移動物が、第1移動物よりも画像の中心に近くに位置すると考えられるためである。
【0117】
ステップS511について説明する。第1信頼度及び第2信頼度の両者が基準値よりも低い場合(ステップS511においてNo)、結果選択部17は、検出情報を選択しないことを決定する(ステップS514)。結果選択部17は、未検出メッセージを含む通知対象情報45を結果出力部18に出力する。つまり、第1移動物及び第2移動物の両者の検出精度が低い場合、移動物の存在が運転者に通知されない。これにより、誤った移動物の検出情報を運転者に通知することを防ぐことができる。
【0118】
第1信頼度及び第2信頼度のうち、一方が基準値よりも高く、他方が基準値以下である場合(ステップS511においてYes)、結果選択部17は、俯瞰画像43から検出された第3移動物を示す検出情報43Aを選択することを決定する(ステップS512)。
【0119】
このように、第1移動物及び第2移動物の一方の信頼度が基準値以下である場合、移動物検出装置10は、俯瞰画像43の検出結果を選択することにより、誤った検出結果を運転者に通知することを防ぐことができる。以下、詳しく説明する。
【0120】
最初に、第1移動物及び第2移動物の一方の信頼度が基準値以下である場合に、ステップS508と同様の同一物体判断を行うことにより発生する問題点を説明する。
【0121】
図11は、前方画像31において俯瞰画像の生成に用いられる領域の一例を示す図である。自転車25が図10に示す位置P3を走行している場合、前方画像31は、図11に示すように、自転車25の全体ではなく、自転車25の前輪を含む。前方画像31において、自転車25の前輪は、前方画像31の右下端部に位置しており、前方画像31の中心から離れている。従って、前方画像31から検出される自転車25の第1信頼度は、基準値よりも低くなる。
【0122】
図12は、右方画像32において俯瞰画像の生成に用いられる領域の一例を示す図である。自転車25が図10に示す位置P3を走行している場合、右方画像25は、図12に示すように、自転車25の全体を含む。図12に示す右方画像32において、自転車25は、右方画像32の中心Cに近い。従って、右方画像32から検出される自転車25の第2信頼度は、基準値よりも高い。
【0123】
第1移動物及び第2移動物の一方の信頼度が基準値よりも低い場合、第1移動物が第2移動物と同一物体であるか否かの判断精度が、後述するように低くなる。この結果、図11及び図12の各々に示す自転車25が、互いに異なる物体であると誤判断される可能性が高くなる。
【0124】
第1移動物が第2移動物と同一物体であるか否かの判断精度が低下する理由を説明する。撮影画像の1画素あたりの距離は、画素が撮影画像の中心から離れるにつれて大きくなる。つまり、移動物が撮影画像の中心から離れるにつれて、移動物の信頼度が低下し、かつ、ワールド座標系における移動物の位置精度が低下する。ワールド座標系における移動物の位置精度が低下した場合、第1移動物から第2移動物までの距離の精度が低下する。この結果、第1移動物及び第2移動物のうち一方の信頼度が基準値を下回る場合、第1移動物が第2移動物と同一の物体であるか否かの判断精度が低下する。
【0125】
これに対して、移動物検出装置10は、俯瞰画像43を用いることにより、基準値以下の信頼度を有する移動物を検出することを防ぐことができる。俯瞰画像43は、4つの撮影画像から生成された4つの視点変換画像を合成することにより生成される。俯瞰画像生成部15は、4つの視点変換画像を合成する際に、4つの視点変換画像の各々に設定された指定領域の画像を、4つの視点変換画像の各々から切り出す。
【0126】
図11を参照して、指定領域21Tは、前方画像31に描かれた1点鎖線よりも内側の領域である。図11において、自転車25の前輪は、指定領域21Tよりも外に位置する。従って、俯瞰画像43は、前方画像31に由来する自転車25を含まない。
【0127】
図12を参照して、指定領域22Tは、右方画像32に描かれた1点鎖線よりも内側の領域である。図12に示す右方画像32において、自転車25の全体は、指定領域22Tの中に位置する。従って、俯瞰画像43は、右方画像32に由来する自転車25の全体を含む。
【0128】
図13は、図11に示す前方画像31及び図12に示す右方画像32を用いて生成された俯瞰画像43の一例を示す図である。図13は、図4に示す俯瞰画像43の拡大図に相当する。図13を参照して、前方画像31に含まれる自転車25の前輪は、俯瞰画像43に表れない。右方画像32に含まれる自転車25の全体は、俯瞰画像43に含まれる。つまり、俯瞰画像43を用いることにより、信頼度が基準値以下となる移動物が検出されることを防ぐことできる。第1移動物及び第2移動物の一方の信頼度が基準値以下である場合において、移動物検出装置10は、移動物の存在を誤って通知することを防ぐことができる。
【0129】
図9の説明に戻る。第1信頼度及び第2信頼度の一方が基準値以下である場合(ステップS511においてYes)、結果選択部17は、俯瞰画像43から検出された第3移動物の検出結果を示す検出情報43Aを選択する。その後、結果選択部17は、基準値以下である信頼度を有する移動物が検出された撮影画像に検出領域を設定する(ステップS513)。
【0130】
具体的には、結果選択部17は、基準値よりも大きい信頼度を有する移動物の検出情報に基づいて、検出領域を設定する。以下、詳しく説明する。検出領域の設定の説明において、基準値よりも大きい信頼度を有する移動物を「基準移動物」と記載する。基準値以下である信頼度を有する移動物が検出された撮影画像を「対象画像」と記載する。
【0131】
結果選択部17は、基準移動物の検出情報に記録されたベクトルを、ワールド座標系のベクトルに変換する。結果選択部17は、変換されたベクトルに基づいて、新たに取得される対象画像において、基準移動物が検出されるであろう予測位置を取得する。
【0132】
例えば、図10を参照して、自転車25が位置P3を走行していると仮定する。この場合、対象画像は、前方画像31である。対象移動物は、右方画像32から検出された自転車25である。結果選択部17は、検出情報42Aに記録されたベクトル25Vを、ワールド座標系のベクトル25Vwに変換する。結果選択部17は、ベクトル25Vwの起点が位置P3となるようにベクトル25Vwを移動させる。移動後のベクトル25が示す位置を、自転車25の予測位置として決定する。予測位置が位置P2である場合、結果選択部17は、位置P2に対応する前方画像31の画素を特定し、特定した画素を含む領域を、前方画像31の検出領域に設定する。検出領域のサイズは、前方画像31のサイズよりも小さければ、特に限定されない。なお、検出領域を設定するか否かは、フレームごとに決定されることが望ましい。移動物の移動方向を示すベクトル25Vが移動物の実際の動きに応じて変化することに伴い、予測位置も変動するためである。
【0133】
この結果、移動物検出装置10は、前方画像31を新たに取得した場合、前方画像31の全体ではなく、前方画像31のうち検出領域22Lから移動物を検出する。これにより、移動物を検出する負荷を低減できる。また、信頼度の高い移動物の検出結果に基づいて、信頼度の低い移動物が検出された撮影画像に検出領域を設定することにより、前方画像31における移動物の検出精度を低減することができる。
【0134】
[4.5.結果画像生成処理(ステップS16)]
図14は、図5に示す結果画像生成処理(ステップS16)のフローチャートである。図14を参照しながら、結果出力部18が結果画像50を生成する動作を説明する。
【0135】
結果出力部18は、通知対象情報45を結果選択部17から受けた場合、図14に示す処理を開始する。結果出力部18は、受けた通知対象情報45に基づいて、移動物が検出されたか否かを判断する(ステップS601)。
【0136】
通知対象情報45が未検出メッセージを含む場合(ステップS601においてNo)、結果出力部18は、結果出力部18から前方画像31を取得し、その取得した前方画像31を結果画像50として出力する(ステップS608)。この場合、結果出力部18は、車両100の周囲の確認を促すメッセージを付した前方画像31を、結果画像50として出力してもよい。すなわち、結果出力部18が、ステップS608において、前方画像31に対して所定の画像処理を施してもよい。
通知対象情報45が検出情報を含む場合、結果出力部18は、移動物が検出されたと判断する(ステップS601においてYes)。結果出力部18は、俯瞰画像43から検出された移動物を示す検出情報43Aが通知対象情報45に含まれているか否かを判断する
(ステップS602)。
通知対象情報45が検出情報43Aを含む場合(ステップS602においてYes)、結果出力部18は、結果画像50の生成に用いる画像として俯瞰画像43を選択する(ステップS603)。この場合、移動物が、フロントカメラ21の撮影領域21Sと右サイドカメラ22の撮影領域22Sとが重複する領域内に位置しているため、車両100のピラーなどにより形成される死角を移動する可能性がある。結果出力部18は、結果画像50の生成に用いることにより、運転者の死角に位置する移動物を運転者に通知できる。また、また、結果出力部18は、結果画像50の生成に用いることにより、運転者が車両100と移動物との位置関係を直感的に把握できる。
【0137】
結果出力部18は、ステップS603で選択された俯瞰画像43において、検出情報43Aに記録された第3移動物を強調する(ステップS604)。例えば、俯瞰画像43に含まれる第3移動物が、赤枠で囲まれることにより、第3移動物が強調される。結果出力部18は、ステップS604により生成された結果画像50を表示装置5に出力し(ステップS605)、図14に示す処理を終了する。
【0138】
ステップS602の説明に戻る。通知対象情報45が検出情報43Aを含まない場合(ステップS602においてNo)、結果出力部18は、右方画像32から検出された移動物を示す検出情報42Aが通知対象情報45に含まれるか否かを判断する(ステップS606)。
【0139】
通知対象情報45が検出情報42Aを含む場合(ステップS606においてYes)、結果出力部18は、結果画像50の生成に用いる画像として、俯瞰画像43を選択する(ステップS603)。この場合、移動物が車両100の右方を移動している。右方画像32を結果画像50として用いた場合、運転者は、移動物と車両100との位置関係を直感的に判断することは難しい。結果画像50が俯瞰画像43から生成されることにより、運転者は、移動物と車両100との位置関係を直感的に把握することができる。
【0140】
通知対象情報45が検出情報42Aを含まない場合(ステップS606においてNo)、前方画像31から検出された移動物を示す検出情報41Aのみが通知対象情報45に含まれる。この場合、結果出力部18は、結果画像50の生成に用いる画像として、前方画像31を選択する(ステップS607)。この場合、結果出力部18は、運転者から見える景色と同様の景色を撮影した前方画像31を結果画像50の生成に用いる。運転席から見た景色とほぼ同じ景色を示す撮影画像において移動物が強調されるため、運転者は、移動物の存在を容易に把握できる。
【0141】
なお、車両100が左折する場合、移動物検出装置10は、フロントカメラ21及び左サイドカメラ24を選択する。前方画像31が第1画像41に対応し、左方画像34が第2画像42に対応する。この場合における移動物検出装置10の動作は、上記と同様であるため、その説明を省略する。
【0142】
以上説明したように、移動物検出装置10は、第1画像41から検出された第1移動物の信頼度と第2画像42から検出された第2移動物の信頼度とに基づいて、第1画像41と第2画像42と俯瞰画像43とのうち少なくとも1つの画像から得られた移動物の検出結果を選択する。移動物検出装置10は、移動物の検出状況に応じて検出結果を選択できるため、移動物の検出精度を向上させることができる。
【0143】
[変形例1]
上記実施の形態では、移動物検出装置10が、第1移動物の検出精度を示す第1信頼度と第2移動物の検出精度を示す第2信頼度とに基づいて、検出情報を選択する例を説明したが、これに限られない。移動物検出装置10は、重み付けされた第1信頼度及び第2信頼度に基づいて、検出情報を選択してもよい。
【0144】
図15は、図1に示す第1検出部12及び第2検出部13により取得される第1信頼度及び第2信頼度の時間変化の一例を示す図である。図15を参照して、第1信頼度51は、時刻Taから時刻Tfの期間において単調減少する。第2信頼度52は、時刻Tbから時刻Tgまでの期間において単調増加する。
【0145】
第1信頼度51及び第2信頼度52が図15に示すように変化する場合、結果選択部17は、図15に示す基準値Thを用いて、以下のように検出情報を選択する。すなわち、時刻Taから時刻Tbまでの期間A1と、時刻Tcから時刻Tdまでの期間C1において、結果選択部17は、検出情報42Aを選択する。時刻Tbから時刻Tcまでの期間B1と、時刻Teから時刻Tfまでの期間E1において、結果選択部17は、検出情報43Aを選択する。時刻Tdから時刻Teまでの期間D1と、時刻Tfから時刻Tgまでの期間F1において、結果選択部17は、検出情報41Aを選択する。
【0146】
図16は、第1信頼度及び第2信頼度のうち第2信頼度を重み付けした場合における、第1信頼度及び第2信頼度の時間変化の一例を示す図である。図16に示す第1信頼度51は、図15に示す第1信頼度51と同じである。図16に示す第2信頼度52Aは、図15に示す第2信頼度52に、1よりも小さい係数を乗じることにより重み付けすることにより算出される。具体的には、結果選択部17は、単調増加する信頼度に1よりも小さい係数を乗じる。単調減少する信頼度は、重み付けされない。
【0147】
第2信頼度52が図16に示すように重み付けされた場合、結果選択部17は、基準値Thを用いて、以下のように検出情報を選択する。すなわち、時刻Taから時刻Tbまでの期間A2において、結果選択部17は、検出情報42Aを選択する。時刻Tbから時刻Tfまでの期間B2において、結果選択部17は、検出情報43Aを選択する。時刻Tfから時刻Tgまでの期間C2において、結果選択部17は、検出情報41Aを選択する。
【0148】
このように信頼度を重み付けすることにより、移動物検出装置10は、ステップS5において選択される検出情報の変更回数を削減することができる。結果画像50の生成に用いられる画像の変更回数が削減されるため、表示装置5において、前方画像31と俯瞰画像43との切換が頻繁に発生することを防ぐことができる。
【0149】
なお、結果選択部17は、単調増加する信頼度に1よりも大きい係数を乗ずることにより、信頼度を重み付けしてもよい。この場合であっても、移動物検出装置10は、選択される検出情報の変更回数を削減することができる。
【0150】
[変形例2]
上記実施の形態では、車両100が右折又は左折をする場合に移動物検出装置10が移動物を検出する例を説明したが、これに限られない。移動物検出装置10は、車両100が駐車場を走行している時に移動物を検出してもよい。
【0151】
移動物検出装置10は、前方画像31を用いて、車両100が駐車場を走行しているか否かを判断する。移動物検出装置10は、予め設定された駐車場の白線のパターンを前方画像31から検出した場合、車両100が駐車場を走行していると判断する。あるいは、移動物検出装置10は、駐車場の位置が設定された地図情報と、図示しないGPS装置から取得した現在位置とに基づいて、車両100が駐車場を走行しているか否かを判断してもよい。
【0152】
移動物検出装置10は、車両100が駐車場を走行していると判断した場合、撮影領域が重複する2つのカメラを所定の順番で選択することにより、移動物を検出する。例えば、後述する第1〜第4の組み合わせが所定の順序に従って選択される。第1の組み合わせは、フロントカメラ21及び右サイドカメラ22である。第2の組み合わせは、右サイドカメラ22及びリアカメラ23である。第3の組み合わせは、リアカメラ23及び左サイドカメラ24である。第4の組み合わせは、左サイドカメラ24及びフロントカメラ21である。
【0153】
移動物検出装置10は、選択した2つのカメラにより撮影された2つの撮影画像から移動物を検出し、移動物の検出結果に基づいて検出情報を選択すればよい。移動物検出装置10は、車両100が駐車場を走行している場合、選択された検出情報に基づいて、俯瞰画像43を用いて結果画像50を生成する。これにより、移動物検出装置10は、車両100が駐車場を走行する場合において、車両100の周囲を移動する移動物を検出することができる。
【0154】
[変形例3]
上記実施の形態において、移動物検出装置10は、移動物が検出された撮影画像に基づいて、結果画像50の生成に用いる撮影画像を変更する例を説明したがこれに限られない。例えば、移動物検出装置10は、移動物が検出された撮影画像に関係なく、俯瞰画像43を用いて結果画像50を生成してもよい。
【0155】
[変形例4]
上記実施の形態において、移動物検出装置10が撮影画像を用いて結果画像50を生成する例を説明したが、これに限られない。結果画像50が通知対象情報45を用いて移動物の存在を通知することができれば、移動物の存在を通知する方法は特定に限定されない。
【0156】
[その他の変形例]
上記実施の形態において、車両100が右折又は左折する場合、あるいは、車両100が駐車場を走行する場合に、移動物の検出を開始する例を説明した。しかし、移動物検出装置は、車両100の移動状況が所定の条件を満たす場合に、移動物の検出を開始してもよい。所定の条件は、上記実施の形態の他に、車両100のスピードが所定の検出開始速度よりも遅いことである。所定の検出開始速度は、例えば、20km/hである。このように、車両の移動状況に応じて移動物の検出を開始することにより、移動物の検出負荷が恒常的に高くなることを抑制できる。
【0157】
上記実施の形態において、挙動特定部19が、横断歩道の検出及びウィンカーの点滅指示に基づいて、車両100が交差点で右折又は左折すると判断する例を説明したが、これに限られない。例えば、挙動特定部19は、車両100に搭載されたカーナビゲーション装置から取得した車両100の走行ルートに基づいて、車両100が右折又は左折をすると判断してもよい。走行ルートは、車両100が右折又は左折をする交差点を指定する情報を含む。挙動特定部19は、車両100の現在位置と取得した走行ルートとに基づいて、車両100の現在位置から、右折又は左折が指定された交差点までの距離を算出する。挙動特定部19は、算出した距離が所定距離以下である場合、車両100が右折又は左折すると判断すればよい。
【0158】
あるいは、挙動特定部19は、前方撮影画像31Aを用いて車両100が走行する車線を特定し、特定した車線に基づいて車両100が右折又は左折をする交差点に進入するか否かを判断してもよい。挙動特定部19は、右折専用レーンを前方撮影画像31Aから検出した場合に、車両100が右折すると判断する。挙動特定部19は、左折専用レーンを前方撮影画像31Aから検出した場合に、車両100が左折すると判断する。
【0159】
あるいは、挙動特定部19は、左ウィンカー7L又は右ウィンカー7Rのいずれか一方が点滅した場合に、初期検出画像21Aから移動物を検出する処理を開始してもよい。左ウィンカー7Lが点滅している場合、左方撮影画像32Aが初期検出画像21Aとして選択される。右ウィンカー7Rが点滅している場合、右方画像34が初期検出画像21Aとして選択される。
【0160】
上記実施の形態において、移動物検出装置10が挙動特定部19を備える例を説明したが、これに限られない。移動物検出装置は、挙動特定部19を備えなくてもよい。つまり、移動物検出装置10は、車両100の挙動に関係なく、移動物を検出してもよい。
【0161】
また、上記実施の形態で説明した移動物検出装置10において、各機能ブロックは、LSIなどの半導体装置により個別に1チップ化されても良いし、一部又は全部を含むように1チップ化されても良い。
【0162】
ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
【0163】
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用しても良い。
【0164】
また、上記各実施の形態の各機能ブロックの処理の一部または全部は、プログラムにより実現されるものであってもよい。そして、上記各実施の形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置(CPU)により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
【0165】
また、上記実施の形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。
【0166】
例えば、上記実施の形態(変形例を含む)の各機能ブロックを、ソフトウェアにより実現する場合、図17に示したハードウェア構成(例えば、CPU、ROM、RAM、入力部、出力部等をバスBusにより接続したハードウェア構成)を用いて、各機能部をソフトウェア処理により実現するようにしてもよい。
【0167】
また、上記実施の形態における処理方法の実行順序は、必ずしも、上記実施の形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
【0168】
前述した方法をコンピュータに実行させるコンピュータプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここで、コンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、大容量DVD、次世代DVD、半導体メモリを挙げることができる。
【0169】
上記コンピュータプログラムは、上記記録媒体に記録されたものに限られず、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク等を経由して伝送されるものであってもよい。
【0170】
以上、本発明の実施の形態を説明したが、上述した実施の形態は本発明を実施するための例示に過ぎない。よって、本発明は上述した実施の形態に限定されることなく、その趣旨を逸脱しない範囲内で上述した実施の形態を適宜変形して実施することが可能である。
【符号の説明】
【0171】
10 移動物検出装置
11 画像選択部
12 第1検出部
13 第2検出部
14 判断部
15 俯瞰画像生成部
16 第3検出部
17 結果選択部
18 結果出力部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17