IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ トヨタ自動車株式会社の特許一覧

特許7363717物体検出システム、物体検出方法及びプログラム
<>
  • 特許-物体検出システム、物体検出方法及びプログラム 図1
  • 特許-物体検出システム、物体検出方法及びプログラム 図2
  • 特許-物体検出システム、物体検出方法及びプログラム 図3
  • 特許-物体検出システム、物体検出方法及びプログラム 図4
  • 特許-物体検出システム、物体検出方法及びプログラム 図5
  • 特許-物体検出システム、物体検出方法及びプログラム 図6
  • 特許-物体検出システム、物体検出方法及びプログラム 図7
  • 特許-物体検出システム、物体検出方法及びプログラム 図8
  • 特許-物体検出システム、物体検出方法及びプログラム 図9
  • 特許-物体検出システム、物体検出方法及びプログラム 図10
  • 特許-物体検出システム、物体検出方法及びプログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-10
(45)【発行日】2023-10-18
(54)【発明の名称】物体検出システム、物体検出方法及びプログラム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20231011BHJP
   G06T 7/174 20170101ALI20231011BHJP
   G08G 1/04 20060101ALI20231011BHJP
【FI】
G06T7/00 650B
G06T7/174
G08G1/04 C
【請求項の数】 7
(21)【出願番号】P 2020142257
(22)【出願日】2020-08-26
(65)【公開番号】P2022037998
(43)【公開日】2022-03-10
【審査請求日】2022-08-09
(73)【特許権者】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】100103894
【弁理士】
【氏名又は名称】家入 健
(72)【発明者】
【氏名】渡邊 英
(72)【発明者】
【氏名】松林 宏弥
(72)【発明者】
【氏名】本田 大作
【審査官】伊知地 和之
(56)【参考文献】
【文献】特開2001-229487(JP,A)
【文献】国際公開第2020/050328(WO,A1)
【文献】四元辰平他,人物追跡システムにおける局所化された隣接関係の計算,電子情報通信学会論文誌D VolumeJ99-D No.5 [online] ,日本,電子情報通信学会,2016年05月01日,第J99-D巻 第5号,pp.468-477
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
G08G 1/00 - 99/00
CSDB(日本国特許庁)
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するように構成されている移動情報取得部と、
前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するように構成されている探索範囲決定部と、
前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うように構成されている物体認識部と、
前記物体認識部における物体認識の結果として得られた前記移動物体の種別及び信頼度と、前記移動情報に含まれる前記移動物体の種別及び信頼度とを用いて、前記種別ごとに、前記物体認識部における物体認識の結果として得られた前記移動物体の信頼度と、前記移動情報に含まれる前記移動物体の信頼度との平均を算出することによって、前記移動物体の認識の信頼度を算出する信頼度算出部と、
を有する物体検出システム。
【請求項2】
前記探索範囲決定部は、前記移動情報において前記移動物体が前記第2の撮像装置の撮像領域の方向に向かっていることが示されている場合に、前記探索範囲を決定する、
請求項1に記載の物体検出システム。
【請求項3】
前記探索範囲決定部は、前記第2の画像における前記第1の撮像装置の撮像領域の方向に対応する所定の範囲を、前記探索範囲と決定する、
請求項2に記載の物体検出システム。
【請求項4】
前記物体認識部は、前記移動物体が前記第2の撮像装置の撮像領域に到達すると推定されるタイミングで、前記探索範囲に対して前記移動物体の物体認識を行う、
請求項1から3のいずれか1項に記載の物体検出システム。
【請求項5】
前記複数の撮像装置をさらに有する、
請求項1からのいずれか1項に記載の物体検出システム。
【請求項6】
互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するステップと、
前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するステップと、
前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うステップと、
物体認識の結果として得られた前記移動物体の種別及び信頼度と、前記移動情報に含まれる前記移動物体の種別及び信頼度とを用いて、前記種別ごとに、物体認識の結果として得られた前記移動物体の信頼度と、前記移動情報に含まれる前記移動物体の信頼度との平均を算出することによって、前記移動物体の認識の信頼度を算出するステップと、
を有する物体検出方法。
【請求項7】
互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するステップと、
前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するステップと、
前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うステップと、
物体認識の結果として得られた前記移動物体の種別及び信頼度と、前記移動情報に含まれる前記移動物体の種別及び信頼度とを用いて、前記種別ごとに、物体認識の結果として得られた前記移動物体の信頼度と、前記移動情報に含まれる前記移動物体の信頼度との平均を算出することによって、前記移動物体の認識の信頼度を算出するステップと、
をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体検出システム、物体検出方法及びプログラムに関し、特に、移動物体を検出する物体検出システム、物体検出方法及びプログラムに関する。
【背景技術】
【0002】
カメラ等の撮像装置を用いて物体を検出する技術がある。この技術に関連して、特許文献1は、同一の対象物を複数のカメラで追跡する追跡システムを開示する。特許文献1にかかる追跡システムは、第1の映像を撮像する第1のカメラと、第1のカメラと略同一の画角で撮影される第2の映像を撮像する第2のカメラと、処理部とを有する。処理部は、第1の映像上で対象物を追跡する第1の追跡処理と、第2の映像上で対象物を追跡する第2の追跡処理とを行う。また、処理部は、第1の追跡処理で得られた対象物の信頼度である第1の信頼度と、第2の追跡処理で得られた対象物の信頼度である第2の信頼度とを算出する信頼度算出処理とを行う。また、処理部は、第1の信頼度と第2の信頼度とを比較して、信頼度がより高い追跡処理を特定し、特定された一方の追跡処理結果に基づいて、他方の追跡処理を制御する制御処理を行う。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2019-165501号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1にかかる技術では、複数のカメラ(第1のカメラ及び第2のカメラ)が、略同一の画角を範囲とする映像を撮像する。このような技術では、互いに異なる位置について同一の対象物を追跡することはできない。したがって、広範囲で移動物体を追跡することは困難である。さらに、特許文献1にかかる技術では、ある地点について複数のカメラを用いることによって追跡精度を向上させるようにしているが、ある地点に複数のカメラを設置できないこともある。このような場合に、物体認識の精度を低下させないで、物体認識処理の速度を向上させることは困難である。
【0005】
本発明は、ある位置に設置する撮像装置の数を増加させなくても、広範囲で、かつ、高い処理速度及び高い認識精度で、移動物体の追跡を行うことが可能な物体検出システム、物体検出方法及びプログラムを提供するものである。
【課題を解決するための手段】
【0006】
本発明にかかる物体検出システムは、互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するように構成されている移動情報取得部と、前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するように構成されている探索範囲決定部と、前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うように構成されている物体認識部と、を有する。
【0007】
また、好ましくは、本発明にかかる物体検出システムは、前記複数の撮像装置をさらに有する。
【0008】
また、本発明にかかる物体検出方法は、互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するステップと、前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するステップと、前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うステップと、を有する。
【0009】
また、本発明にかかるプログラムは、互いに異なる位置に配置される複数の撮像装置のうちの第1の撮像装置によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得するステップと、前記移動情報に応じて、前記複数の撮像装置のうちの第2の撮像装置によって撮像された第2の画像において限定された探索範囲を決定するステップと、前記第2の画像における前記探索範囲に対して、前記移動物体の物体認識を行うステップと、をコンピュータに実行させる。
【0010】
本発明においては、このように構成されていることによって、移動物体が現れる可能性の高い範囲に限定して移動物体の検出を行う。したがって、画面全体を探索する場合よりも、検出速度が速く、かつ、検出精度も高くなる。さらに、複数の撮像装置が互いに異なる位置に設置されているので、広範囲で移動物体を検出することができる。したがって、本発明にかかる物体検出システムは、ある位置に設置する撮像装置の数を増加させなくても、広範囲で、かつ、高い処理速度及び高い認識精度で、移動物体の追跡を行うことが可能となる。
【0011】
また、好ましくは、前記探索範囲決定部は、前記移動情報において前記移動物体が前記第2の撮像装置の撮像領域の方向に向かっていることが示されている場合に、前記探索範囲を決定する。
このように構成されていることにより、移動物体が第2の撮像装置の撮像領域に現れたときに探索範囲が限定され得る。したがって、決定された探索範囲において、より確実に移動物体を検出することが可能となる。
【0012】
また、好ましくは、前記探索範囲決定部は、前記第2の画像における前記第1の撮像装置の撮像領域の方向に対応する所定の範囲を、前記探索範囲と決定する。
このように構成されていることにより、撮像装置の画角において移動物体が現れる可能性の高い領域が、探索範囲とされる。したがって、より適切に、探索範囲を決定できる。
【0013】
また、好ましくは、前記物体認識部は、前記移動物体が前記第2の撮像装置の撮像領域に到達すると推定されるタイミングで、前記探索範囲に対して前記移動物体の物体認識を行う。
このように構成されていることにより、移動物体が第2の撮像装置の撮像領域に到達すると推定されるタイミングで、探索範囲が限定される。これにより、より確実に、移動物体を検出することが可能となる。
【0014】
また、好ましくは、前記物体認識部における物体認識の結果として得られた前記移動物体の種別及び信頼度と、前記移動情報に含まれる前記移動物体の種別及び信頼度とを用いて、前記種別ごとに、前記移動物体の認識の信頼度を算出する信頼度算出部、をさらに有する。
このように、複数の物体情報を用いて計算された信頼度の方が、物体認識部による物体認識処理によって得られた信頼度よりも信頼度に関するデータ量が多い。したがって、複数の物体情報を用いて計算された信頼度の方が、物体認識部による物体認識処理によって得られた信頼度よりも、精度が高くなり得る。したがって、上記のように構成されていることにより、信頼度の精度を向上させることが可能となる。
【0015】
また、好ましくは、前記信頼度算出部は、前記種別ごとに、前記物体認識部における物体認識の結果として得られた前記移動物体の信頼度と、前記移動情報に含まれる前記移動物体の信頼度との平均を算出することによって、信頼度を算出する。
このように構成されていることにより、移動物体の判定された種別ごとに、複数の信頼度を加味した信頼度が算出される。したがって、より適切に、信頼度を算出することができる。
【発明の効果】
【0016】
本発明によれば、ある位置に設置する撮像装置の数を増加させなくても、広範囲で、かつ、高い処理速度及び高い認識精度で、移動物体の追跡を行うことが可能な物体検出システム、物体検出方法及びプログラムを提供できる。
【図面の簡単な説明】
【0017】
図1】実施の形態1にかかる物体検出システムを示す図である。
図2】実施の形態1にかかる物体検出装置のハードウェア構成を示す図である。
図3】実施の形態1にかかる物体検出装置が道路網に配置された状態を例示する図である。
図4】実施の形態1にかかる物体情報を例示する図である。
図5】実施の形態1にかかる移動情報を例示する図である。
図6】実施の形態1にかかる撮像装置によって撮像された画像を例示する図である。
図7】実施の形態1にかかる撮像装置によって撮像された画像を例示する図である。
図8】実施の形態1にかかる情報処理装置の構成を示すブロック図である。
図9】実施の形態1にかかる物体検出システムによって実行される物体検出方法を示すフローチャートである。
図10】実施の形態1にかかる物体検出システムによって実行される物体検出方法を示すフローチャートである。
図11】実施の形態1にかかる物体検出システムの処理の具体例を説明するための図である。
【発明を実施するための形態】
【0018】
(実施の形態1)
以下、図面を参照して本発明の実施の形態について説明する。なお、実質的に同じ構成要素には、同じ符号が付される。
【0019】
図1は、実施の形態1にかかる物体検出システム1を示す図である。物体検出システム1は、管理サーバ50と、複数の物体検出装置100(100A~100D)とを有する。管理サーバ50と、複数の物体検出装置100とは、有線又は無線のネットワーク2を介して通信可能に接続されている。さらに、複数の物体検出装置100A~100Dが、互いにネットワーク2を介して通信可能に接続されていてもよい。
【0020】
管理サーバ50は、例えばコンピュータである。管理サーバ50は、例えばクラウドサーバであってもよい。管理サーバ50は、物体検出装置100で生成された情報(後述する物体情報及び移動情報等)を管理する。管理サーバ50は、この情報を格納するデータベース(DB)を有する。
【0021】
物体検出装置100A~100Dは、互いに異なる位置に配置されている。例えば、物体検出装置100A~100Dは、道路の交差点の近傍に設置されている。また、例えば、物体検出装置100A~100Dは、道路の近傍に、50m~100mの間隔で設置されてもよい。物体検出装置100は、例えばカメラ又はセンサ等を含むインフラセンサである。物体検出装置100は、物体、特に、移動可能な物体である移動物体を検出する。なお、図1には、4つの物体検出装置100A~100Dが示されている。しかしながら、物体検出装置100の数は、4つに限られず、2つ以上の任意の数であり得る。
【0022】
図2は、実施の形態1にかかる物体検出装置100のハードウェア構成を示す図である。物体検出装置100は、撮像装置101と、情報処理装置110とを有する。つまり、物体検出装置100A~100Dは、それぞれ、撮像装置101A~101Dを有する。なお、撮像装置101は、情報処理装置110と、物理的に別個であってもよい。この場合、撮像装置101は、情報処理装置110と、有線又は無線を介して通信可能に接続されている。
【0023】
撮像装置101は、例えばカメラ本体である。撮像装置101は、撮像装置101(物体検出装置100)が設置された位置に対応する所定の領域(撮像領域)を撮像(撮影)する。撮像領域は、撮像装置101の画角(視野;撮像範囲)に対応する。なお、撮像装置101をインフラセンサとみなしてもよい。撮像装置101は、可視光カメラであってもよいし、ライダ(LiDAR:Light Detection and Ranging)等の三次元カメラ(点群カメラ)であってもよいし、赤外線カメラであってもよい。
【0024】
情報処理装置110は、撮像装置101によって撮像された画像に対して物体認識処理を行う。そして、情報処理装置110は、物体認識の結果を示す物体情報を生成する。詳しくは後述する。なお、以下、用語「画像」は、情報処理における処理対象としての、「画像を示す画像データ」も意味し得る。また、画像は、静止画像であってもよいし、動画像であってもよい。
【0025】
情報処理装置110は、主要なハードウェア構成として、CPU(Central Processing Unit)102と、ROM(Read Only Memory)104と、RAM(Random Access Memory)106と、インタフェース部108(IF;Interface)とを有する。CPU102、ROM104、RAM106及びインタフェース部108は、データバスなどを介して相互に接続されている。なお、管理サーバ50も、上述した情報処理装置110のハードウェア構成と実質的に同様の構成を有し得る。
【0026】
CPU102は、制御処理及び演算処理等を行う演算装置としての機能を有する。ROM104は、CPU102によって実行される制御プログラム及び演算プログラム等を記憶するための機能を有する。RAM106は、処理データ等を一時的に記憶するための機能を有する。RAM106は、データベースを有してもよい。これにより、情報処理装置110は、データベースを実現してもよい。インタフェース部108は、有線又は無線を介して外部と信号の入出力を行う。また、インタフェース部108は、ユーザによるデータの入力の操作を受け付け、ユーザに対して情報を表示する。
【0027】
図3は、実施の形態1にかかる物体検出装置100が道路網4に配置された状態を例示する図である。図3を用いて、本実施の形態の概要を説明する。道路網4は、道路30で構成されている。図3の例では、物体検出装置100(撮像装置101)は、交差点40の近傍に配置されている。そして、物体検出装置100の撮像装置101は、交差点40に対応する撮像領域42を撮像する。そして、物体検出装置100の情報処理装置110は、撮像装置101によって撮像された画像を用いて、撮像領域42に存在する移動物体を検出(認識)する。情報処理装置110は、例えばディープラーニング等の機械学習アルゴリズムを用いて、物体認識を行う。なお、移動物体は、例えば車両であるが、歩行者であってもよい。車両は、例えば、自転車、バイク、乗用車、バス、及び大型トラック等を含む。
【0028】
例えば、物体検出装置100A(撮像装置101A)は、交差点40Aの近傍に配置されている。そして、物体検出装置100Aの撮像装置101Aは、交差点40Aに対応する撮像領域42Aを撮像する。そして、物体検出装置100Aは、撮像装置101Aによって撮像された画像を用いて、撮像領域42Aに存在する移動物体を検出(認識)する。
【0029】
また、物体検出装置100B(撮像装置101B)は、交差点40Bに隣接する交差点40Bの近傍に配置されている。そして、物体検出装置100Bの撮像装置101Bは、交差点40Bに対応する撮像領域42Bを撮像する。そして、物体検出装置100Bは、撮像装置101Bによって撮像された画像を用いて、撮像領域42Bに存在する移動物体を検出(認識)する。
【0030】
また、物体検出装置100C(撮像装置101C)は、交差点40Bに隣接する交差点40Cの近傍に配置されている。そして、物体検出装置100Cの撮像装置101Cは、交差点40Cに対応する撮像領域42Cを撮像する。そして、物体検出装置100Cは、撮像装置101Cによって撮像された画像を用いて、撮像領域42Cに存在する移動物体を検出(認識)する。
【0031】
また、物体検出装置100D(撮像装置101D)は、交差点40Cに隣接する交差点40Dの近傍に配置されている。そして、物体検出装置100Dの撮像装置101Dは、交差点40Dに対応する撮像領域42Dを撮像する。そして、物体検出装置100Dは、撮像装置101Dによって撮像された画像を用いて、撮像領域42Dに存在する移動物体を検出(認識)する。
【0032】
ここで、例えば、移動物体Sが、交差点40A、交差点40B、交差点40C、交差点40Dの順で移動するとする。この場合、移動物体Sは、まず、交差点40Aに進入し、交差点40Aを通過して、交差点40Bに向かう。交差点40Aを移動する移動物体Sは、撮像領域42A(撮像装置101Aの画角)に進入すると、物体検出装置100Aによって検出(認識)される。そして、移動物体Sが交差点40Aをさらに移動して交差点40Aを通過すると、移動物体Sは、撮像領域42Aから退出する。この場合、移動物体Sは、物体検出装置100Aによって認識されなくなる。
【0033】
そして、移動物体Sが交差点40Aから交差点40Bの方向に移動した場合、移動物体Sは、交差点40Aの方角から、撮像領域42Bに進入する。この場合、移動物体Sは、物体検出装置100Bによって検出(認識)される。そして、移動物体Sが撮像領域42Bから退出すると、移動物体Sは、物体検出装置100Bによって認識されなくなる。
【0034】
同様に、移動物体Sが交差点40Bから交差点40Cの方向に移動した場合、移動物体Sは、交差点40Bの方角から、撮像領域42Cに進入する。この場合、移動物体Sは、物体検出装置100Cによって検出(認識)される。そして、移動物体Sが撮像領域42Cから退出すると、移動物体Sは、物体検出装置100Cによって認識されなくなる。
【0035】
同様に、移動物体Sが交差点40Cから交差点40Dの方向に移動した場合、移動物体Sは、交差点40Cの方角から、撮像領域42Dに進入する。この場合、移動物体Sは、物体検出装置100Dによって検出(認識)される。そして、移動物体Sが撮像領域42Dから退出すると、移動物体Sは、物体検出装置100Dによって認識されなくなる。
【0036】
また、物体検出装置100の情報処理装置110は、認識された移動物体に関する情報である物体情報を生成する。物体情報は、移動物体が認識されるごとに生成され得る。したがって、物体情報は、ある移動物体が物体検出装置100によって認識され続けている間、その移動物体について、複数の物体情報が生成され得る。そして、複数の物体検出装置100A~100Bそれぞれで、ある移動物体に関する物体情報が生成される。
【0037】
図4は、実施の形態1にかかる物体情報を例示する図である。物体情報は、例えば、移動物体の識別子である物体IDと、移動物体の種別及びその信頼度と、認識時刻と、認識位置(認識緯度及び認識経度)と、認識方位と、認識速度と、特徴量とを含む。また、移動物体が車両であり、情報処理装置110によって認識可能であれば、物体情報は、車種、車体色、及び車体ナンバー(ナンバープレート情報)を含んでもよい。
【0038】
ここで、「認識時刻」は、対応する移動物体について物体認識処理が行われた時刻を示す。「認識位置」は、物体認識処理が行われたときの移動物体の地理上の位置を示す。「認識位置」は、例えば、撮像装置101によって撮像された画像における移動物体に対応する画素の位置から算出され得る。例えば、撮像装置101によって撮像された画像における画素の位置と、道路上の位置とを予め対応付けておくことで、認識位置を算出してもよい。「認識方位」は、物体認識処理が行われたときの移動物体の移動方向(例えば東西南北)を示す。認識方位は、例えば、撮像装置101によって撮像された画像における方向と、方位とを予め対応付けておき、移動物体が画像上のどの方向に移動したかを検出することで、算出され得る。「認識速度」は、物体認識処理が行われたときの移動物体の移動速度を示す。認識速度は、例えば、撮像装置101によって撮像された画像における画素の位置と道路上の位置とを予め対応付けておき、移動物体の単位時間あたりの道路上の位置の差分を算出することで、算出され得る。
【0039】
また、「種別」は、物体認識処理において判定された、移動物体のカテゴリ(クラス)である。移動物体の種別は、例えば、大型トラック、バス、乗用車、バイク、自転車、歩行者等である。また、「信頼度」は、物体認識処理において判定された、移動物体の種別の確からしさ(クラス確率;信頼度スコア)を示す。なお、物体情報において、種別と信頼度との組は、1つとは限らない。例えば、種別及び信頼度を、「大型トラック:0.3、バス:0.7」などと表してもよい。「特徴量」は、撮像装置101によって撮像された画像から抽出された、移動物体の特徴を示す。特徴量は、物体認識処理において抽出され、物体の種別の判定に用いられ得る。また、「車種」は、例えば、特徴量と車種とを対応付けた認識辞書を用いて判定され得る。また、車体ナンバーは、例えば、OCR(Optical Character Recognition)によって抽出され得る。
【0040】
さらに、情報処理装置110は、移動物体が移動して対応する撮像領域42から退出すると、移動物体が撮像領域42から退出する直前に生成された物体情報と、撮像装置101の設置位置に関する設置位置情報とを含む移動情報(通過情報)を生成する。したがって、移動情報は、撮像領域42から移動してしまった移動物体についての情報であるともいえる。なお、移動情報は、例えば、一定時間間隔で生成され得る。
【0041】
図5は、実施の形態1にかかる移動情報を例示する図である。移動情報は、設置位置情報と、現状情報と、物体情報とを含む。設置位置情報は、物体検出装置100(撮像装置101)が設置された場所に関する情報である。図5の例では、設置位置情報は、交差点40に関する情報である。例えば物体検出装置100Aが移動情報を生成する場合、設置位置情報は、交差点40Aに関する情報である。設置位置情報は、例えば、交差点40の識別番号と、交差点40の位置を示す設置位置情報(設置位置緯度及び設置位置経度)とを含む。なお、識別番号は、物体検出装置100又は撮像装置101の識別番号であってもよい。また、設置位置情報は、撮像装置101又は撮像領域42の位置情報であってもよい。
【0042】
現状情報は、現在の交差点40の状況を示す。例えば物体検出装置100Aが移動情報を生成する場合、現状情報は、交差点40Aの状況を示す。現状情報は、現在時刻と、稼働状態と、交差点40の渋滞度と、交差点40を通過する物体の数である通過物体数とを示し得る。
【0043】
物体情報は、図4に例示した物体情報に対応する。ここで、移動情報に含まれる物体情報は、撮像装置101の画角(撮像領域42)から退出することによって認識されなくなった移動物体に関する。具体的には、移動情報に含まれる物体情報は、対応する移動物体が撮像装置101の画角(撮像領域42)から退出する前の最後に生成された物体情報に対応する。言い換えると、移動情報に含まれる物体情報は、対応する移動物体が撮像装置101の画角(撮像領域42)から退出する直前に生成された物体情報である。したがって、認識時刻、認識位置、認識方位及び認識速度は、それぞれ、最終認識時刻、最終認識位置、最終認識方位及び最終認識速度となり得る。
【0044】
なお、物体検出装置100(情報処理装置110)は、生成された移動情報を、自身に対応する交差点40に隣接する交差点40の近傍に配置された物体検出装置100に、ネットワーク2を介して送信してもよい。この場合、上述した隣接する交差点40の近傍に配置された物体検出装置100は、その物体検出装置100から、その移動情報を取得してもよい。また、情報処理装置110は、生成された移動情報を、ネットワーク2を介して管理サーバ50のデータベースに格納してもよい。その場合、上述した隣接する交差点40の近傍に配置された物体検出装置100は、管理サーバ50から、その移動情報を取得(受信)してもよい。つまり、物体検出装置100(例えば物体検出装置100B)は、複数の撮像装置101のうちのある撮像装置101(例えば撮像装置101A;第1の撮像装置)によって撮像された画像(第1の画像)に含まれる移動物体に関する移動情報を取得する。
【0045】
そして、移動情報を取得した物体検出装置100は、この移動情報に応じて、複数の撮像装置101のうちのある撮像装置101(第2の撮像装置)によって撮像された画像(第2の画像)において限定された探索範囲を決定する。例えば、移動情報を取得した物体検出装置100Bは、この移動情報に応じて、撮像装置101B(第2の撮像装置)によって撮像された画像(第2の画像)において限定された探索範囲を決定する。そして、この物体検出装置100(例えば物体検出装置100B)は、限定された探索範囲に対して、移動物体の物体認識を行う。このように、物体認識において探索範囲を限定することを、探索制限と称する。
【0046】
例えば、移動物体Sが交差点40Aを通過して交差点40Bに向かうとする。この場合、物体検出装置100Aは、移動物体Sが撮像領域42Aに存在するときに、移動物体Sに関する物体情報を生成する。そして、移動物体Sが撮像領域42Aを退出したときに、物体検出装置100Aは、移動物体Sに関する移動情報を生成する。このとき、物体検出装置100Aは、隣接する物体検出装置100(物体検出装置100B及び物体検出装置100Bとは反対側の物体検出装置(図示せず))に、移動情報を送信してもよい。また、物体検出装置100Aは、管理サーバ50に移動情報を送信してもよい。
【0047】
一方、物体検出装置100Bは、物体検出装置100A又は管理サーバ50から、物体検出装置100Aで生成された移動情報を取得する。このとき、物体検出装置100Bは、時刻tbに、交差点40A(撮像領域42A)の方角から、撮像領域42Bに移動物体Sが到達すると推定する。つまり、物体検出装置100Bは、交差点40A(撮像領域42A)の方角から、移動物体Sが撮像領域42Bに到達するタイミングを推定する。このとき、物体検出装置100Bは、時刻tbに、撮像装置101Bによって撮像される画像において、移動物体の探索範囲を、交差点40Aの方角の所定の領域に限定する。このようにして、物体検出装置100Bは、撮像装置101Bによって撮像された画像(第2の画像)において限定された探索範囲を決定する。そして、物体検出装置100Bは、時刻tbに、限定された探索範囲で、移動物体Sの物体認識を行う。
【0048】
図6及び図7は、実施の形態1にかかる撮像装置101によって撮像された画像を例示する図である。図6及び図7は、撮像装置101Bによって撮像された交差点40Bの画像ImBを例示している。画像ImBにおいて、奥側が交差点40Aの方角であり、手前側が交差点40Cの方角である。そして、物体検出装置100Bは、移動物体Sが交差点40Aの方角から撮像装置101Bの画角(撮像領域42B)に移動物体Sが到達するときに、図7に例示するように、限定された探索範囲60を設定する。そして、物体検出装置100Bは、移動物体Sが交差点40Aの方角から撮像装置101Bの画角(撮像領域42B)に現れるタイミングで、図7に例示する探索範囲60で、物体認識を行う。
【0049】
ここで、上述した特許文献1にかかる技術にかかる問題点を述べつつ、実施の形態1にかかる物体検出システム1の効果について説明する。例えば、可視光カメラを用いて移動物体を認識する場合、物体認識は、原則として、映像を構成する静止画フレーム毎に、画素データ群の特徴量を基に行われる。このため、映像が高画質になればなるほど、認識すべき範囲が大きくなり、静止画フレーム毎の処理時間が増大する。また、可視光カメラの特性として、認識対象の物体の位置(カメラからの距離や角度)により、投影された静止画フレーム上の物体の位置や大きさなどが大きく変わるので、認識精度を向上させることは難しい。そして、物体認識において、認識度合い(信頼度スコア)が低いと判定された場合は、存在しないものとして処理されてしまう(認識の見逃し)。
【0050】
ここで、上述した特許文献1にかかる技術では、同じ場所に設置された複数のカメラで同一対象物を追跡する際に、複数のカメラのそれぞれで算出された信頼度の高いほうの追跡結果を採用することで、追跡精度の向上を実現する。そのため、複数のカメラでの検出及び追跡が、ほぼ同時に実行されることが必要であり、異なる撮影時刻、すなわち離れたカメラによる移動物体の追跡に対しては、特許文献1にかかる技術を適用することができない。したがって、特許文献1にかかる技術では、広範囲で物体を追跡することは困難である。
【0051】
また、動画を用いて物体認識を行う場合、単位時間当たりの物体認識すべき画像数が膨大となる。また、上述したように、画像の高画質化に伴い、探索を行う範囲(広さ)が増大し、かつ、検出すべき物体の種類も多くなると、物体認識処理は、非常に負荷の高い処理となる可能性がある。
【0052】
一方、広範囲で移動物体の追跡を行う場合、物体認識処理は、ネットワークコスト(負荷)の問題から、各カメラの設置場所に設けられたエッジコンピュータ(もしくはある程度集約したネットワーク上のコンピュータ)で行うことが好ましい。そして、物体認識処理を多数の箇所で実行することで、広範囲に亘って、物体の移動状況の把握、又は交通量の把握を行うことができる。ここで、物体認識処理を多数の箇所で実行するためには多数のエッジコンピュータを配置する必要となるが、コスト面等の観点から、各エッジコンピュータのハードウェアスペックを高性能化することは難しい。したがって、ハードウェアスペックを高性能化することなしに、物体認識処理において、物体認識の精度の低下を抑制しつつ、処理すべき情報量を削減して適切な処理時間で物体認識を行うことが望まれる。
【0053】
これに対し、実施の形態1にかかる物体検出システム1は、互いに異なる位置に配置される複数の撮像装置101のうちの例えば撮像装置101A(第1の撮像装置)によって撮像された第1の画像に含まれる移動物体に関する情報である移動情報を取得する。また、物体検出システム1は、取得された移動情報に応じて、複数の撮像装置101のうちの例えば撮像装置101Bによって撮像された第2の画像において限定された探索範囲を決定する。そして、物体検出システム1は、第2の画像における探索範囲に対して、移動物体の物体認識を行う。このように構成されていることによって、実施の形態1にかかる物体検出システム1は、移動物体が現れる可能性の高い範囲に限定して移動物体の検出を行う。したがって、画面全体を探索する場合よりも、検出速度が速く、かつ、検出精度も高くなる。さらに、複数の撮像装置101が互いに異なる位置に設置されているので、広範囲で移動物体を検出することができる。したがって、実施の形態1にかかる物体検出システム1は、ある位置に設置する撮像装置の数を増加させなくても、広範囲で、かつ、高い処理速度及び高い認識精度で、移動物体の追跡を行うことが可能となる。
【0054】
次に、情報処理装置110の構成について説明する。
図8は、実施の形態1にかかる情報処理装置110の構成を示すブロック図である。情報処理装置110は、移動情報取得部112と、探索制限判定部114と、探索範囲決定部116とを有する。また、情報処理装置110は、画像取得部122と、物体認識部124と、物体情報抽出部126と、信頼度算出部128と、移動情報生成部130と、移動情報送信部132とを有する。これらの構成要素は、例えば、CPU102がROM104に記憶されたプログラムを実行することによって実現可能である。また、各構成要素は、必要なプログラムを任意の不揮発性記録媒体に記録しておき、必要に応じてインストールするようにして、実現されるようにしてもよい。なお、各構成要素は、上記のようにソフトウェアによって実現されることに限定されず、何らかの回路素子等のハードウェアによって実現されてもよい。また、上記構成要素の1つ以上は、物理的に別個のハードウェアによってそれぞれ実現されてもよい。例えば、上記構成要素の1つ以上は、管理サーバ50によって実現されてもよい。
【0055】
なお、以降の各構成要素の説明において、各構成要素(例えば移動情報取得部112)を有する情報処理装置110に対応する物体検出装置100(撮像装置101)を、単に、「自身の物体検出装置100(撮像装置101)」と称することがある。また、自身の物体検出装置100に対応する交差点40(撮像領域42)のことを、単に、「対応する交差点40(撮像領域42)」又は「自身の交差点40(撮像領域42)」と称することがある。また、自身の物体検出装置100に対応する交差点40に隣接する交差点40に対応する物体検出装置100(撮像装置101)のことを、単に、「(自身の物体検出装置100に)隣接する物体検出装置100(撮像装置101)」と称することがある。また、隣接する物体検出装置100に対応する撮像領域42(交差点40)のことを、単に、「隣接する撮像領域42(交差点40)」と称することがある。
【0056】
移動情報取得部112は、上述した移動情報を取得するように構成されている。例えば、移動情報取得部112は、自身の物体検出装置100に対応する交差点40に隣接する交差点40に対応する物体検出装置100から、ネットワーク2を介して、移動情報を受信してもよい。この場合、移動情報取得部112は、取得された移動情報を、管理サーバ50のデータベースに格納してもよい。また、移動情報取得部112は、移動情報が管理サーバ50のデータベースに格納されている場合に、ネットワーク2を介して、管理サーバ50から移動情報を受信してもよい。
【0057】
ここで、移動情報取得部112は、例えば、自身の物体検出装置100に対応する交差点40に隣接する交差点40に対応する移動情報が生成されたタイミングで、その移動情報を取得してもよい。例えば、管理サーバ50は、ある物体検出装置100で生成された移動情報がその物体検出装置100から送信された場合に、その移動情報に対応する交差点40に隣接する交差点40に対応する物体検出装置100に、移動情報を送信してもよい。これにより、移動情報取得部112は、自身の物体検出装置100に対応する交差点40に隣接する交差点40に対応する移動情報が生成されたタイミングで、その移動情報を取得できる。あるいは、移動情報取得部112は、一定間隔で、移動情報を取得してもよい。
【0058】
探索制限判定部114は、取得された移動情報において、移動物体が自身の撮像領域42に向かっていることが示されているか否かを判定するように構成されている。そして、探索制限判定部114は、取得された移動情報において、移動物体が自身の撮像領域42に向かっていることが示されていると判定された場合に、探索制限を行うと判定するように構成されている。
【0059】
具体的には、探索制限判定部114は、自身の物体検出装置100で、将来、物体認識を行う際に、限定された探索範囲で物体認識を行うか否かを判定する。つまり、探索制限判定部114は、自身の物体検出装置100で、将来、物体認識を行う際に、探索制限を行うか否かを判定する。具体的には、探索制限判定部114は、隣接する物体検出装置100で生成された移動情報を用いて、移動物体が自身の物体検出装置100に対応する交差点40(撮像領域42)に向かっているか否かを判定する。例えば、探索制限判定部114は、移動情報に含まれる物体情報の最終認識方位及び最終認識位置(最終認識緯度及び最終認識経度)から、ある移動物体が自身の物体検出装置100に対応する交差点40に向かっているか否かを判定する。
【0060】
そして、ある移動物体が自身の物体検出装置100に対応する撮像領域42に向かっていると判定された場合、探索制限判定部114は、その移動物体が自身の物体検出装置100に対応する撮像領域42に到達するタイミング(到達時刻)を推定する。具体的には、探索制限判定部114は、移動情報に含まれる物体情報の最終認識位置と自身の撮像領域42の位置との間の距離を算出する。そして、探索制限判定部114は、移動情報に含まれる物体情報の最終認識時刻及び最終認識速度から、その移動物体が自身の物体検出装置100に対応する撮像領域42に到達するタイミング(到達時刻)を算出する。具体的には、探索制限判定部114は、算出された距離を最終認識速度で進むのに要する時間を算出する。そして、探索制限判定部114は、算出された時間を最終認識時刻に加算することで、その移動物体が自身の物体検出装置100に対応する撮像領域42に到達するタイミング(到達時刻)を算出する。
【0061】
このとき、探索制限判定部114は、その移動物体が、自身の撮像領域42において、移動情報を生成した物体検出装置100に対応する交差点40の方角から、推定されたタイミングで、移動物体が現れると判定してもよい。そして、探索制限判定部114は、推定されたタイミングで、探索制限を行うと判定する。また、探索制限は、推定されたタイミングを含む所定の期間の間、行われるとしてもよい。なお、探索制限判定部114は、判定結果を、管理サーバ50のデータベースに格納してもよい。あるいは、探索制限判定部114は、情報処理装置110で実現されるデータベースに判定結果を格納してもよい。
【0062】
探索範囲決定部116は、取得された移動情報に応じて、自身の物体検出装置100の撮像装置101によって撮像された画像において限定された探索範囲を決定するように構成されている。具体的には、探索範囲決定部116は、取得された移動情報において、移動物体が自身の撮像領域42に向かっていることが示されている場合に、探索範囲を決定する。さらに具体的には、探索範囲決定部116は、探索制限判定部114によって推定されたタイミングで探索制限を行う際の、自身の物体検出装置100(撮像装置101)によって撮像される画像における限定された探索範囲を決定する。そして、探索範囲決定部116は、自身の撮像装置101によって撮像される画像における、移動情報を生成した隣接する物体検出装置100の撮像領域42の方向の所定の範囲を、探索範囲と決定する。
【0063】
例えば、図7に示した探索範囲60のように、探索範囲決定部116は、自身の撮像装置101によって撮像される画像において、隣接する撮像領域42(交差点40)に向かう道路の少なくとも一部を含む所定の領域を、探索範囲と決定する。なお、探索範囲決定部116は、決定結果(決定された探索範囲)を、管理サーバ50のデータベースに格納してもよい。あるいは、探索範囲決定部116は、情報処理装置110で実現されるデータベースに決定結果(決定された探索範囲)を格納してもよい。
【0064】
画像取得部122は、撮像装置101から画像を取得するように構成されている。具体的には、画像取得部122は、自身の物体検出装置100の撮像装置101によって撮像された画像を取得する。なお、画像の取得は、撮像装置101の撮像のタイミングごとに、実行され得る。
【0065】
物体認識部124は、取得された画像に対して物体認識処理を行うように構成されている。具体的には、物体認識部124は、例えばディープラーニング等の機械学習アルゴリズムによって、取得された画像から移動物体を検出(認識)する。物体認識部124は、取得された画像から物体を抽出し、抽出された物体ごとに、種別、位置、速度、及び移動方位等の算出を行う。そして、物体認識部124は、認識結果を用いて、物体情報(図4)を生成する。そして、物体認識部124は、生成された物体情報を、管理サーバ50に送信することで、管理サーバ50のデータベースに格納してもよい。あるいは、物体認識部124は、情報処理装置110で実現されるデータベースに物体情報を格納してもよい。
【0066】
なお、この時点では、物体情報における物体ID(図4)は、任意に設定され得る。つまり、以前に、隣接する物体検出装置100で物体認識が行われて認識された移動物体と、自身の物体検出装置100で認識された移動物体とが同一であっても、任意の物体IDが付与され得る。
【0067】
ここで、物体認識部124は、探索制限がある場合には、限定された探索範囲に対して物体認識を行うように構成されている。具体的には、物体認識部124は、探索制限判定部114によって推定された探索制限のタイミングで、探索範囲決定部116によって決定された探索範囲に対して、物体認識を行う。そして、探索制限を行う場合には、後述する物体情報抽出部126及び信頼度算出部128の処理が行われた後で、移動情報が生成される。一方、物体認識部124は、探索制限がない場合には、画面全体に対して物体認識を行うように構成されている。そして、探索制限が行われない場合、後述する物体情報抽出部126及び信頼度算出部128の処理は行われないで、移動情報が生成される。物体認識部124は、管理サーバ50のデータベース又は情報処理装置110で実現されるデータベースにアクセスすることで、探索制限があるか否かを判定してもよい。
【0068】
物体情報抽出部126は、上述したように、探索制限を行う場合に処理を行う。物体情報抽出部126は、物体認識部124による物体認識処理によって認識された移動物体と同じ移動物体に関する物体情報を、データベースから抽出するように構成されている。具体的には、物体情報抽出部126は、認識された移動物体の特徴量との類似度が予め定められた値以上の特徴量を有する物体情報を、物体認識によって認識された移動物体と同じ移動物体に関する物体情報として抽出する。つまり、この場合、物体情報抽出部126は、認識された移動物体と特徴量が類似している移動物体を、認識された移動物体と同じ移動物体であると判定する。あるいは、物体情報に車種、車体色、及び車体ナンバーが含まれている場合、物体情報抽出部126は、これらの情報が一致する物体情報を抽出してもよい。なお、物体情報抽出部126は、認識された移動物体について生成された物体情報の物体IDを、抽出された物体情報の物体IDに書き換えてもよい。これにより、同じ移動物体の物体情報については同じ物体IDが対応付けられ得る。
【0069】
ここで、探索制限が行われた場合、限定された探索範囲で認識された移動物体は、隣接する物体検出装置100によっても、認識されている。したがって、この移動物体と同一の移動物体についての物体情報は、既にデータベースに格納されている。一方、探索制限が行われていない場合、認識された移動物体と同一の移動物体が隣接する物体検出装置100によって認識されていない可能性がある。したがって、この移動物体と同一の移動物体についての物体情報は、データベースに格納されていない可能性がある。したがって、物体情報抽出部126は、探索制限がある場合に、認識された移動物体と同じ移動物体に関する物体情報を、データベースから抽出する。なお、探索制限が行われていない場合でも、物体情報抽出部126は、上述した処理を行ってもよい。しかしながら、上述したように、認識された移動物体と同じ移動物体に関する物体情報がデータベースに格納されていない可能性があるので、抽出処理に多大な時間を要する可能性がある。すなわち、認識された移動物体と同じ移動物体に関する物体情報がデータベースに格納されていないと判断されるまでに、時間を要する可能性がある。
【0070】
信頼度算出部128は、上述したように、探索制限を行う場合に処理を行う。信頼度算出部128は、物体情報抽出部126によって抽出された物体情報を用いて、認識された移動物体の種別の信頼度の再計算を行うように構成されている。具体的には、信頼度算出部128は、認識された移動物体ごとに、その移動物体と同一と判定された移動物体の物体情報における信頼度と、認識された移動物体についての物体情報における信頼度とを用いて、移動物体の種別の信頼度の再計算を行う。言い換えると、信頼度算出部128は、同一と判定された移動物体についての信頼度を用いて、認識された移動物体についての信頼度を更新する。さらに言い換えると、信頼度算出部128は、物体認識部124における物体認識の結果として得られた移動物体の種別及び信頼度と、取得された移動情報に含まれる移動物体の種別及び信頼度とを用いて、種別ごとに、移動物体の認識の信頼度を算出する。
【0071】
さらに具体的には、信頼度算出部128は、移動物体Sについて、自身の物体検出装置100によって得られた種別の信頼度と、隣接する物体検出装置100によって得られた種別の信頼度とを用いて、信頼度を再計算する。この再計算された信頼度を、「統合信頼度」と称する。例えば、移動物体Sについて、隣接する物体検出装置100によって生成された物体情報において、種別A1(例えば「大型トラック」)の信頼度がBa1であり、種別A2(例えば「バス」)の信頼度がBa2であるとする。また、自身の物体検出装置100によって生成された物体情報において、種別A1の信頼度がBb1であり、種別A2の信頼度がBb2であるとする。この場合、信頼度算出部128は、種別A1について、信頼度Ba1とBb1との平均を算出することによって、統合信頼度を算出する。同様に、信頼度算出部128は、種別A2について、信頼度Ba2とBb2との平均を算出することによって、統合信頼度を算出する。例えば、信頼度算出部128は、種別ごとに、信頼度の(加重)調和平均を算出することで、更新された信頼度(統合信頼度)を算出してもよい。上記の例では、信頼度算出部128は、種別A1については、信頼度Ba1とBb1との加重調和平均を算出することによって、統合信頼度を算出する。同様に、信頼度算出部128は、種別A2について、信頼度Ba2とBb2との加重調和平均を算出することによって、統合信頼度を算出する。
【0072】
移動情報生成部130は、認識されなくなった移動物体についての物体情報を含む移動情報(図5)を生成するように構成されている。つまり、移動情報生成部130は、全ての認識済みの移動物体のうち、自身の交差点40(撮像領域42)から退出したことによって物体認識部124によって認識されなくなった移動物体についての物体情報を含む移動情報を生成する。なお、移動情報生成部130は、一定の時間間隔で移動情報を生成してもよい。
【0073】
例えば、移動情報生成部130は、物体IDごとに、「認識時刻」が現在時刻より一定時間以上経過しているもののうちで最新の物体情報を、データベースから抽出する。これにより、移動情報生成部130は、自身の撮像領域42から退出した移動物体について最新の物体情報を抽出できる。そして、移動情報生成部130は、この抽出した物体情報を、図5に示した移動情報における「物体情報」とする。さらに、移動情報生成部130は、自身の物体検出装置100に関する設置位置情報と、現状情報とを生成する。これにより、移動情報生成部130は、移動情報を生成する。なお、移動情報生成部130は、情報処理装置110で実現されるデータベースに移動情報を格納してもよい。
【0074】
移動情報送信部132は、移動情報生成部130によって生成された移動情報を送信するように構成されている。なお、移動情報取得部112は、管理サーバ50にネットワーク2を介して送信することで、管理サーバ50のデータベースに移動情報を格納してもよい。また、移動情報送信部132は、自身の物体検出装置100に隣接する物体検出装置100に、ネットワーク2を介して、移動情報を送信してもよい。この場合、移動情報送信部132は、移動物体の進行方向(最終認識方位)にある交差点40に対応する物体検出装置100に、移動情報を送信してもよい。
【0075】
図9及び図10は、実施の形態1にかかる物体検出システム1によって実行される物体検出方法を示すフローチャートである。図9に示す処理は、例えば一定の時間間隔で実行され得る。移動情報取得部112は、上述したように、移動情報を取得する(ステップS102)。具体的には、移動情報取得部112は、隣接する撮像装置101(第1の撮像装置)によって撮像された画像(第1の画像)に含まれる移動物体に関する移動情報を取得する。
【0076】
探索制限判定部114は、上述したように、移動情報を用いて、自身の物体検出装置100で、将来、物体認識を行う際に、探索制限を行うか否かを判定する(ステップS104)。つまり、探索制限判定部114は、移動情報にかかる移動物体が自身の撮像領域42に向かっているか否かを判定する。このとき、上述したように、探索制限判定部114は、探索制限を行うタイミングを判定する。そして、探索制限判定部114は、判定結果をデータベースに格納する。
【0077】
移動情報にかかる移動物体が自身の撮像領域42に向かっていないと判定される場合、探索制限判定部114は、探索制限を行わないと判定する(S104のNO)。この場合、後段のS106の処理は省略される。一方、移動情報にかかる移動物体が自身の撮像領域42に向かっていると判定される場合、探索制限判定部114は、探索制限を行うと判定する(S104のYES)。この場合、上述したように、探索範囲決定部116は、取得された移動情報に応じて、自身の物体検出装置100の撮像装置101によって撮像された画像において限定された探索範囲を決定する(ステップS106)。そして、探索範囲決定部116は、決定された探索範囲をデータベースに格納する。
【0078】
言い換えると、探索範囲決定部116は、移動情報において移動物体が自身の撮像領域42(第2の撮像装置の撮像領域)の方向に向かっていることが示されている場合に、探索範囲を決定する。これにより、移動物体が自身の撮像領域42に現れたときに探索範囲が限定され得る。したがって、決定された探索範囲において、より確実に移動物体を検出することが可能となる。
【0079】
また、上述したように、探索範囲決定部116は、自身の撮像装置101により撮像された画像(第2の画像)における隣接する撮像装置101(第1の撮像装置)の撮像領域42の方向の所定の範囲を、探索範囲と決定する。これにより、撮像装置101の画角において移動物体が現れる可能性の高い領域が、探索範囲とされる。したがって、より適切に、探索範囲を決定できる。
【0080】
図10に示す処理は、例えば、自身の撮像装置101が撮像を行うごとに、実行され得る。上述したように、画像取得部122は、自身の撮像装置101から画像を取得する(ステップS112)。物体認識部124は、探索制限があるか否かを判定する(ステップS114)。具体的には、物体認識部124は、データベースにアクセスして、自身の物体検出装置100(撮像領域42)について、現在のタイミングで探索制限を行う旨の判定結果が格納されているかを判定する。
【0081】
現在のタイミングにおける探索制限がないと判定された場合(S114のNO)、物体認識部124は、探索制限を行わないで、物体認識を行う。したがって、物体認識部124は、S112において取得された画像全体に対して、物体認識を行う(ステップS116)。そして、物体認識部124は、上述したように、物体情報を生成する。そして、物体認識部124は、生成された物体情報をデータベースに格納する。
【0082】
一方、現在のタイミングにおける探索制限があると判定された場合(S114のYES)、物体認識部124は、探索制限を行った上で、物体認識を行う。つまり、物体認識部124は、データベースから探索範囲を抽出して、抽出された探索範囲に対して物体認識を行う(ステップS120)。そして、物体認識部124は、上述したように、物体情報を生成する。そして、物体認識部124は、生成された物体情報をデータベースに格納する。
【0083】
このように、物体認識部124は、移動物体が自身の撮像領域42(第2の撮像装置の撮像領域)に到達すると推定されるタイミングで、探索範囲に対して移動物体の物体認識を行う。これにより、移動物体が自身の撮像領域42に到達すると推定されるタイミングで、探索範囲が限定される。これにより、より確実に、移動物体を検出することが可能となる。
【0084】
物体情報抽出部126は、上述したように、物体認識部124による物体認識処理によって認識された移動物体と同一の移動物体に関する物体情報を、データベースから抽出する(ステップS122)。そして、信頼度算出部128は、上述したように、物体情報抽出部126によって抽出された物体情報を用いて、認識された移動物体について、統合信頼度を算出する(ステップS124)。具体的には、信頼度算出部128は、物体認識部124における物体認識の結果として得られた移動物体の種別及び信頼度と、移動情報に含まれる移動物体の種別及び信頼度とを用いて、種別ごとに、移動物体の信頼度(統合信頼度)を算出する。
【0085】
このように、信頼度算出部128が信頼度を再計算する(更新する)ことによって、信頼度の精度を向上させることが可能となる。すなわち、複数の物体情報を用いて計算された信頼度の方が、物体認識部124による物体認識処理によって得られた信頼度よりも信頼度に関するデータ量が多い。したがって、複数の物体情報を用いて計算された信頼度の方が、物体認識部124による物体認識処理によって得られた信頼度よりも、精度が高くなり得る。
【0086】
また、信頼度算出部128は、種別ごとに、物体認識部124における物体認識の結果として得られた移動物体の信頼度と、移動情報に含まれる移動物体の信頼度との平均を算出することによって、信頼度(統合信頼度)を算出するように構成されている。これにより、移動物体の判定された種別ごとに、複数の信頼度を加味した信頼度が算出される。したがって、信頼度算出部128は、より適切に、統合信頼度を算出することができる。
【0087】
移動情報生成部130は、上述したように、移動情報を生成する(ステップS126)。ここで、S124において統合信頼度が算出された場合は、移動情報生成部130は、対応する移動物体の物体情報における信頼度が統合信頼度となるように、移動情報を生成する。移動情報送信部132は、S126の処理で生成された移動情報を送信する(ステップS128)。このとき、上述したように、移動情報取得部112は、管理サーバ50のデータベースに移動情報を格納してもよい。また、移動情報送信部132は、隣接する物体検出装置100に移動情報を送信してもよい。
【0088】
図11は、実施の形態1にかかる物体検出システム1の処理の具体例を説明するための図である。図11は、図3に例示するように、移動物体Sが、撮像領域42Aから撮像領域42Bに移動する場合の処理について例示している。なお、移動物体Sは、物体検出装置100Aで初めて認識されたとする。
【0089】
移動物体Sは物体検出装置100Aで初めて認識されるので、この時点では、移動物体Sに関する物体情報を含む移動情報は、どの物体検出装置100でも生成されていない。したがって、物体検出装置100Aの物体認識部124は、探索制限を行わないで、撮像装置101Aで撮像された画像全体に対して物体認識処理を行い、移動物体Sを認識する(S116)。
【0090】
そして、物体検出装置100Aの移動情報生成部130は、移動物体Sの物体情報Isaを含む移動情報Iaを生成する(S126)。なお、物体情報Isaにおいて、移動物体Sの物体IDはSaであるとする。また、物体情報Isaにおいて、移動物体Sの最終認識時刻をt1とする。また、移動物体Sの最終認識方位を「撮像領域B方面」とする。また、移動物体Sの最終認識速度をv1とする。また、移動物体Sの特徴量をVaとする。
【0091】
また、移動物体Sの種別及びその信頼度は、「大型トラック:0.6」及び「バス:0.4」とする。したがって、物体検出装置100Aによる認識結果では、移動物体Sの種別(カテゴリ)の信頼度は、「大型トラック」の方が、「バス」よりも高い。つまり、物体検出装置100Aによる認識結果では、移動物体Sは、「大型トラック」である確率が高い。
【0092】
一方、移動物体Sが向かった先の撮像領域42Bに対応する物体検出装置100Bでは、移動情報Isaを取得する。そして、物体検出装置100Bの探索制限判定部114は、移動物体Sの最終認識方位「撮像領域B方面」から、移動物体Sが撮像領域42Bに向かっていると判定する。そして、物体検出装置100Bの探索制限判定部114は、移動物体Sの最終認識時刻t1及び最終認識速度をv1から、時刻t2に、移動物体Sが撮像領域42Bに到達すると推定する。つまり、物体検出装置100Bの探索制限判定部114は、時刻t2に移動物体が撮像装置101Bの画角に現れると判定する。したがって、物体検出装置100Bの探索制限判定部114は、時刻t2に探索制限を行うと決定する(S104)。そして、物体検出装置100Bの探索範囲決定部116は、図7に例示するように、撮像領域42A方面の所定範囲を探索範囲60とする(S106)。
【0093】
時刻t2において、撮像装置101Bによって撮像された画像が取得されると、物体検出装置100Bの物体認識部124は、限定された探索範囲に対して物体認識を行う(S120)。そして、物体検出装置100Bの物体認識部124は、移動物体Sを検出し、移動物体Sに関する物体情報Isbを生成する。
【0094】
ここで、物体情報Isbにおいて、移動物体Sの物体IDはSbであるとする。また、移動物体Sの種別及びその信頼度は、「大型トラック:0.3」及び「バス:0.7」であるとする。したがって、物体検出装置100Bによる認識結果では、移動物体Sの種別(カテゴリ)の信頼度は、「バス」の方が、「大型トラック」よりも高い。つまり、物体検出装置100Bによる認識結果では、移動物体Sは、「バス」である確率が高い。このように、物体検出装置100Bによる認識結果と、物体検出装置100Aによる認識結果とは、異なることがある。これは、交差点40に対する撮像装置101の設置位置、交差点40の見通しの良さ、交差点40の天候等による明るさ、及び撮像装置101の性能、などといった環境要因によって、認識の精度は異なる可能性があるからである。
【0095】
また、物体検出装置100Bの物体情報抽出部126は、物体情報Isaにおける特徴量Vaが、S120における物体認識処理で得られた移動物体Sの特徴量と類似していると判定する。したがって、物体検出装置100Bの物体情報抽出部126は、移動物体S(物体ID:Sb)に対応する物体情報Isaを抽出する(S122)。
【0096】
そして、物体検出装置100Bの信頼度算出部128は、抽出された物体情報Isaを用いて、移動物体Sの統合信頼度を算出する(S124)。このとき、物体検出装置100Bの信頼度算出部128は、種別「大型トラック」について、物体情報Isaにおける信頼度「0.6」及び物体情報Isbにおける信頼度「0.3」の調和平均として、「0.4」を算出する。また、物体検出装置100Bの信頼度算出部128は、種別「バス」について、物体情報Isaにおける信頼度「0.4」及び物体情報Isbにおける信頼度「0.7」の調和平均として、「0.5」を算出する。
【0097】
上述したように、撮像装置101に関する環境要因によって、認識の精度は異なる可能性がある。したがって、1つの物体検出装置100による認識結果が常に正しいとは限らない。上述したように、図11の例では、物体検出装置100Aによる認識結果では、移動物体Sは「大型トラック」である確率が高いのに対し、物体検出装置100Bによる認識結果では、移動物体Sは「バス」である確率が高い。これに対し、本実施の形態では、複数の物体情報における信頼度を用いて統合信頼度を算出することによって、信頼度の精度を高くすることができる。
【0098】
さらに、移動物体Sが撮像領域42C及び撮像領域42Dを移動すると、物体検出装置100C及び物体検出装置100Dでも移動物体Sについて物体認識が行われる。したがって、物体検出装置100C及び物体検出装置100Dでも、移動物体Sについての信頼度のデータがさらに得られることとなる。したがって、物体検出装置100C及び物体検出装置100Dの物体認識において得られた信頼度をさらに用いて統合信頼度を算出することによって、移動物体Sについての認識精度をさらに高くすることができる。すなわち、多くの信頼度のデータを用いて統合信頼度を算出すると、移動物体Sの正しい種別に関する統合信頼度の値が高くなる傾向となり得る。したがって、本実施の形態では、移動物体Sが多くの交差点40(撮像領域42)を通過するほど、移動物体Sの認識精度が高くなっていく。したがって、移動物体の誤認識を抑制することができる。例えば、移動物体Sは実際にはバスであるのに、物体検出装置100Aによる物体認識では、大型トラックと誤認識するおそれがある。これに対し、統合信頼度を算出することによって、バスの信頼度(統合信頼度)が高くなり得るので、移動物体Sを大型トラックと誤認識することを抑制することができる。
【0099】
(変形例)
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、図9及び図10に示したフローチャートの各ステップの順序は、適宜変更可能である。また、図9及び図10に示したフローチャートの1つ以上のステップは、なくてもよい。例えば、図10において、S122及びS124の処理は、なくてもよい。
【0100】
また、上述した実施の形態では、図9及び図10に示した物体検出方法が物体検出装置100の情報処理装置110で実行されるとしたが、このような構成に限られない。例えば、図9及び図10に示した処理の1つ以上は、管理サーバ50によって実行されてもよい。例えば、図9の処理は、管理サーバ50によって実行されてもよい。さらに、図9及び図10の全ての処理が、管理サーバ50で実行されてもよい。この場合、管理サーバ50は、物体検出装置100それぞれから撮像装置101によって撮像された画像を受信して、物体検出装置100ごとに、上述した処理を行ってもよい。しかしながら、全ての処理を管理サーバ50で実行するようにすると、通信の負荷が増大するおそれがある。したがって、物体検出方法の処理のいくつかは、物体検出装置100で実行されることが好ましい。例えば、物体認識に関する処理は、物体検出装置100で実行されることが好ましい。
【0101】
また、物体認識部124は、任意の移動物体を検出するとしたが、このような構成に限られない。物体認識部124は、例えば違反車両等の、特定の移動物体について、物体認識を行ってもよい。また、撮像装置101は、交差点40の近傍に固定されている必要はない。例えばドローン等に搭載された撮像装置101によって、交差点40を撮像するようにしてもよい。
【0102】
また、上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM)を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【符号の説明】
【0103】
1・・・物体検出システム、2・・・ネットワーク、4・・・道路網、30・・・道路、40・・・交差点、42・・・撮像領域、50・・・管理サーバ、60・・・探索範囲、100・・・物体検出装置、101・・・撮像装置、110・・・情報処理装置、112・・・移動情報取得部、114・・・探索制限判定部、116・・・探索範囲決定部、122・・・画像取得部、124・・・物体認識部、126・・・物体情報抽出部、128・・・信頼度算出部、130・・・移動情報生成部、132・・・移動情報送信部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11