(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023182192
(43)【公開日】2023-12-26
(54)【発明の名称】物体検出システム、物体検出方法および物体検出プログラム
(51)【国際特許分類】
G06T 7/246 20170101AFI20231219BHJP
G06V 10/22 20220101ALI20231219BHJP
【FI】
G06T7/246
G06V10/22
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022095666
(22)【出願日】2022-06-14
(71)【出願人】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103090
【弁理士】
【氏名又は名称】岩壁 冬樹
(74)【代理人】
【識別番号】100124501
【弁理士】
【氏名又は名称】塩川 誠人
(72)【発明者】
【氏名】片山 瑞穂
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096BA04
5L096CA04
5L096DA02
5L096FA12
5L096FA16
5L096GA51
5L096HA05
5L096HA11
5L096JA03
5L096KA04
(57)【要約】
【課題】画像から高速に対象物体を検出できる物体検出システムを提供する。
【解決手段】物体存在領域予測手段81は、過去画像から検出された対象物体を示す情報から、現在画像において対象物体が存在する領域である物体存在領域を予測する。物体存在領域断片生成手段82は、物体存在領域からその物体存在領域の部分領域である物体存在領域断片を生成する。物体検出手段83は、物体存在領域断片から、対象物体が含まれる領域である物体検出断片を検出する。対象物体検出手段84は、物体検出断片を用いて、現在画像から対象物体を検出する。
【選択図】
図10
【特許請求の範囲】
【請求項1】
過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測する物体存在領域予測手段と、
前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成手段と、
前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出する物体検出手段と、
前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する対象物体検出手段とを備えた
ことを特徴とする物体検出システム。
【請求項2】
物体存在領域予測手段は、過去画像から検出された対象物体の存在領域を示す物体検出枠を、対象物体を示す情報として用いて物体存在領域を予測し、
対象物体検出手段は、前記物体検出枠と物体検出断片とから、現在画像における対象物体の存在領域を示す物体検出枠を推定する
請求項1記載の物体検出システム。
【請求項3】
対象物体検出手段は、過去画像から取得される物体検出枠の縦横サイズと、物体検出断片から取得される検出枠の縦横サイズとから、現在画像の物体検出枠の横サイズまたは縦サイズを推定する
請求項2記載の物体検出システム。
【請求項4】
物体存在領域断片生成手段は、物体存在領域における物体存在領域断片の位置を付加した物体存在領域断片を生成する
請求項1から請求項3のうちのいずれか1項に記載の物体検出システム。
【請求項5】
物体存在領域断片生成手段は、物体存在領域断片の位置として、分割前の物体存在領域に対する位置を付加した物体存在領域断片を生成する
請求項4記載の物体検出システム。
【請求項6】
物体存在領域断片生成手段は、物体存在領域を縦方向または横方向に二等分することにより物体存在領域断片を生成する
請求項1から請求項3のうちのいずれか1項に記載の物体検出システム。
【請求項7】
物体存在領域予測手段は、過去画像から対象物体が含まれる部分が抽出された画像である過去部分画像を、対象物体を示す情報として用いて、当該過去部分画像と現在画像との相関に基づいて、物体存在領域を予測する
請求項1記載の物体検出システム。
【請求項8】
物体存在領域予測手段は、過去部分画像を現在画像に対してスライドさせながら計算した複数の相関に基づいて物体存在領域を予測する
請求項7記載の物体検出システム。
【請求項9】
コンピュータが、過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測し、
前記コンピュータが、前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成し、
前記コンピュータが、前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出し、
前記コンピュータが、前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する
ことを特徴とする物体検出方法。
【請求項10】
コンピュータに、
過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測する物体存在領域予測処理、
前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成処理、
前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出する物体検出処理、および、
前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する対象物体検出処理
を実行させるための物体検出プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像中の対象物体を検出する物体検出システム、物体検出方法および物体検出プログラムに関する。
【背景技術】
【0002】
物体を検出する方法の一例が、非特許文献1に記載されている。非特許文献1に記載された方法では、過去のある画像において検出された対象物体の位置を元に、現在の画像において上記対象物体物体が存在すると想定される領域を設定し、物体検出によってその領域内における物体の位置と大きさを確定する。
【0003】
具体的には、非特許文献1に記載された方法では、対象物体が存在すると想定される領域を設定することによって対象物体を含む領域の大まかな位置と大きさを予測する。そして、予測によって得られる画像の一部分に対して対象物体の位置と大きさを確定することで物体検出の結果とする。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】YUXIANG YANG, et al.,“Visual Tracking With Long-Short Term Based Correlation Filter”,IEEE Access,2020年1月20日,https://ieeexplore.ieee.org/document/8963992
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般に物体検出の計算負荷は高いため、処理高速化のためには物体検出における処理対象画像をなるべく小さくすることが望ましい。そこで、計算負荷を低くするため、非特許文献1に記載された方法のように、対象物体を検出しようとする画像の一部に対して処理を行う方法が考えられる。
【0006】
一方、例えば、検出しようとする対象物体のサイズが大きい場合、非特許文献1に記載された方法では、結果的にサイズの大きい対象物体に対する物体検出を繰り返すことになり、計算負荷を十分に低減できるとは言い難い。そのため、画像から高速に対象物体を推定することは困難である。
【0007】
そこで、本発明は、画像から高速に対象物体を検出できる物体検出システム、物体検出方法および物体検出プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明による物体検出システムは、過去画像から検出された対象物体を示す情報から、現在画像において対象物体が存在する領域である物体存在領域を予測する物体存在領域予測手段と、物体存在領域からその物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成手段と、物体存在領域断片から、対象物体が含まれる領域である物体検出断片を検出する物体検出手段と、物体検出断片を用いて、現在画像から対象物体を検出する対象物体検出手段とを備えたことを特徴とする。
【0009】
本発明による物体検出方法は、コンピュータが、過去画像から検出された対象物体を示す情報から、現在画像において対象物体が存在する領域である物体存在領域を予測し、コンピュータが、物体存在領域からその物体存在領域の部分領域である物体存在領域断片を生成し、コンピュータが、物体存在領域断片から、対象物体が含まれる領域である物体検出断片を検出し、コンピュータが、物体検出断片を用いて、現在画像から対象物体を検出することを特徴とする。
【0010】
本発明による物体検出プログラムは、コンピュータに、過去画像から検出された対象物体を示す情報から、現在画像において対象物体が存在する領域である物体存在領域を予測する物体存在領域予測処理、物体存在領域からその物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成処理、物体存在領域断片から、対象物体が含まれる領域である物体検出断片を検出する物体検出処理、および、物体検出断片を用いて、現在画像から対象物体を検出する対象物体検出処理を実行させることを特徴とする。
【発明の効果】
【0011】
本発明によれば、画像から高速に対象物体を検出できる。
【図面の簡単な説明】
【0012】
【
図1】本発明の物体検出システムの第一の実施形態の構成例を示すブロック図である。
【
図2】過去画像に対する物体検出結果と物体存在領域の例を示す説明図である。
【
図3】物体存在領域断片群を生成する処理の例を示す説明図である。
【
図4】物体検出断片を検出する処理の例を示す説明図である。
【
図5】対象物体を検出する処理の例を示す説明図である。
【
図6】第一の実施形態の物体検出システムの動作例を示すフローチャートである。
【
図7】本発明の物体検出システムの第二の実施形態の構成例を示すブロック図である。。
【
図8】物体存在領域を予測する処理の例を示す説明図である。
【
図9】第二の実施形態の物体検出システムの動作例を示すフローチャートである。
【
図10】本発明による物体検出システムの概要を示すブロック図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態を図面を参照して説明する。
以下の説明では、対象物体を検出する画像を現在画像と記す。現在画像は、例えば、監視カメラなどの定点カメラ等により逐次撮影される画像である。また、以下の説明では、具体例として、対象物体が車両である場合を例示するが、対象物体は車両に限定されない。
【0014】
また、本実施形態では、現在画像よりも過去に撮像された画像(以下、過去画像と記す。)から対象物体の検出が既に行われているものとし、過去画像から検出された対象物体を示す情報が計算されているものとする。対象物体を示す情報として、対象物体の存在領域を示す情報や、対象物体が含まれる部分が抽出された画像(以下、過去部分画像と記す。)が挙げられる。
【0015】
対象物体の存在領域は、対象物体を含む領域であり、例えば、左上の頂点座標、並びに、幅および高さによって表される矩形領域である。他にも、対象物体の存在領域が、左上の頂点座標および右下の頂点座標で表わされる矩形領域であってもよい。
【0016】
[第1の実施の形態]
[構成の説明]
図1は、本発明の物体検出システムの第一の実施形態の構成例を示すブロック図である。
図1に示すように、本実施形態の物体検出システム100は、物体存在領域予測器200と、物体存在領域断片生成部300と、物体検出器400と、対象物体検出器500と、撮像装置610と、記憶部620とを備えている。
【0017】
記憶部620は、本実施形態の物体検出システム100が行う処理に必要な各種情報を記憶する。また、本実施形態の記憶部620は、上述する過去画像700および過去画像物体検出結果800を記憶する。過去画像物体検出結果800は、過去画像から検出された対象物体を示す情報であり、具体的には、対象物体の存在領域を示す情報や、対象物体が含まれる部分が抽出された画像である。
【0018】
本実施形態の物体検出システム100は、現在画像、および、過去画像700に対する過去画像物体検出結果800から、物体検出結果を計算して出力する。なお、第一の実施形態では、過去画像から検出された対象物体を示す情報が、対象物体の存在領域を示す情報である場合について説明する。
【0019】
撮像装置610は、所定の場所に設置され、検出対象を撮像する装置である。具体的には、撮像装置610は、撮像の結果、現在画像を取得する。本実施形態では、撮像装置610が画像を撮像する際の画角は時間変化しないものとし、現在画像と過去画像の撮像画角も同一であるものとする。
【0020】
物体存在領域予測器200は、過去画像700から検出された対象物体を示す情報(すなわち、過去画像物体検出結果800)から、現在画像において対象物体が存在する領域(以下、物体存在領域と記す。)を予測する。なお、物体存在領域予測器200が物体存在領域を予測する方法は任意である。物体存在領域予測器200は、例えば、カルマンフィルタなどの力学モデルに基づいて過去画像物体検出結果800から物体存在領域を予測してもよい。
【0021】
図2は、過去画像に対する物体検出結果と物体存在領域の例を示す説明図である。
図2に例示するように、過去画像700から対象物体を示す情報として、対象物体の存在領域を示す物体検出枠が検出されたとする。このとき、物体存在領域予測器200は、この物体検出枠を対象物体を示す情報として用いて、現在画像600の物体存在領域を予測する。
図2に例示するように、物体存在領域が、左上頂点座標並びに幅および高さによって表される矩形領域であってもよい。なお、物体存在領域予測器200による予測の結果、物体存在領域は対象物体が含まれる蓋然性が高い領域であると言える。
【0022】
物体存在領域断片生成部300は、物体存在領域を分割し、物体存在領域の部分領域(以下、物体存在領域断片と記す。)を生成する。その際、物体存在領域断片生成部300は、物体存在領域断片に検出する対象物体の一部が含まれるように、物体存在領域を分割する。すなわち、物体存在領域断片は、物体存在領域の情報から得られる現在画像600の部分画像をさらに分割した画像であり、物体存在領域よりも空間サイズの小さい画像である。
【0023】
なお、後述する物体検出器400が、物体存在領域断片に対して対象物体の検出処理を行うため、分割された対象物体が物体検出器400によって検出可能な程度に大きいものとする。そのため、物体存在領域断片生成部300は、物体存在領域を縦方向または横方向に二等分することにより物体存在領域断片を生成することが好ましい。
【0024】
また、物体存在領域断片生成部300は、物体存在領域における物体存在領域断片の位置を付加した物体存在領域断片を生成してもよい。物体存在領域断片の位置の例として、、分割前の物体存在領域に対する位置、例えば、分割された画像の右側に存在したことを示す情報や、上部に存在したことを示す情報などが挙げられる。また、物体存在領域断片の位置の例として、例えば、左上の座標を基準とした相対的な位置などが挙げられる。このような位置情報を付加することにより、後述する処理(具体的には、物体の存在領域を検出する処理)を精度よく行うことが可能になる。なお、この位置情報を用いた処理については後述される。
【0025】
図3は、物体存在領域断片を生成する処理の例を示す説明図である。現在画像から複数の物体存在領域が予測されると、物体存在領域断片生成部300は、それぞれの物体存在領域から物体存在領域断片を生成する。
図3に示す例では、物体存在領域断片生成部300が、物体存在領域1100から物体存在領域断片1200を生成し、物体存在領域1110から物体存在領域断片1210を生成していることを示す。
【0026】
物体検出器400は、物体存在領域断片から、対象物体が含まれる領域(以下、物体検出断片と記す。)を検出する。なお、物体検出断片を表わす方法は任意である。物体検出断片が、例えば、物体検出結果と同様、左上頂点座標並びに幅および高さによって表される矩形領域であってもよい。
【0027】
また、本実施形態の物体検出器400が、対象物体が含まれる領域(すなわち、物体検出断片)を検出する方法も任意である。すなわち、物体検出器400は、必ずしも物体検出断片を検出するための特別な物体検出器である必要はない。物体検出器400は、対象物体の一部を含む画像から、対象物体を検出可能な検出器であれば、その内容を任意である。物体検出器400は、例えば、Yolo (You Look Only Once)などの一般的に用いられる物体検出器であってもよい。
【0028】
図4は、物体検出断片を検出する処理の例を示す説明図である。
図4に示す例では、対象物体として車両の一部を含む物体存在領域断片1200および物体存在領域断片1210から、それぞれ、車両の領域を特定した物体検出断片を検出したことを示す。
【0029】
対象物体検出器500は、物体検出断片を用いて、現在画像から対象物体を検出する。すなわち、対象物体検出器500は、物体検出断片と過去画像700における過去画像物体検出結果800から、現在画像600における物体検出結果を計算する。
【0030】
以下、本実施形態の対象物体検出器500が対象物体を検出する方法を具体的に説明する。
図5は、現在画像から対象物体を検出する処理の例を示す説明図である。
図5に示す例では、物体存在領域予測器200が、過去画像から検出された対象物体の存在領域を示す物体検出枠を、対象物体を示す情報として用いて物体存在領域を予測していたとする。具体的には、物体存在領域予測器200によって、物体検出枠1400および物体検出枠1300が、それぞれ予測されていたとする。
【0031】
この場合、対象物体検出器500は、過去画像から検出された物体検出枠と物体検出断片とから、現在画像における対象物体の存在領域を示す物体検出枠を推定する。具体的には、対象物体検出器500は、過去画像から取得される物体検出枠の縦サイズおよび横サイズ(以下、縦横サイズと記す。)と、物体検出断片から取得される検出枠の縦横サイズとから、現在画像の物体検出枠の横サイズまたは縦サイズを推定する。なお、サイズの単位は、ピクセル等、予め定めておけばよい。
【0032】
例えば、
図5において、過去画像から取得される物体検出枠1400の縦横サイズが、それぞれ120および100であったとし、物体検出断片1700の縦横サイズがそれぞれ60および100であったとする。この場合、物体検出断片1700の縦サイズが100であることから、対象物体検出器500は、現在画像の物体検出枠1800の横サイズを100*120/100=120と推定する。これは、120/100 = 物体検出枠1800の横サイズ/100を式変形したものである。この物体検出枠1800に含まれる物体が、最終的な物体検出結果に相当する。
【0033】
同様に、
図5において、過去画像から取得される物体検出枠1300の縦横サイズが、それぞれ100および110であったとし、物体検出断片1600の縦横サイズがそれぞれ50および110であったとする。この場合、物体検出断片1500の縦サイズが110であることから、対象物体検出器500は、現在画像の物体検出枠1600の横サイズを110*100/110=100と推定する。
【0034】
ここで、物体存在領域断片生成部300が、上述するような、物体存在領域における物体存在領域断片の位置を付加した物体存在領域断片を生成していたとする。その場合、対象物体検出器500は、各物体検出断片が、物体存在領域のどの部分に位置していたかを推定できるため、縦方向または横方向のどちら方向について物体検出枠のサイズを推定すればよいか判断することが可能になる。
【0035】
例えば、
図4に例示する物体存在領域断片1210に対して、分割された画像の右半分に位置することを示す情報が付加されていたとする。この場合、
図5に例示する物体検出断片1700にも分割された画像の右半分に位置することを示す情報を保持できる。これにより、対象物体検出器500は、物体検出枠1800の横サイズを計算した後、物体検出枠の左上頂点座標を計算すればよいと判断する。
【0036】
図5に示す例では、対象物体検出器500は、物体検出枠の左上頂点座標(x,y)=(x´,物体検出枠1800の左上頂点y座標)と推定する。ここで、x´=物体検出断片1700の左上頂点x座標-(物体検出枠1800の横サイズ-物体検出断片1700の横サイズ)である。
【0037】
そして、対象物体検出器500は、対象物体の検出結果を出力する。
【0038】
物体存在領域予測器200と、物体存在領域断片生成部300と、物体検出器400と、対象物体検出器500とは、プログラム(物体検出プログラム)に従って動作するコンピュータのプロセッサ(例えば、CPU(Central Processing Unit ))、GPU(Graphics Processing Unit))によって実現される。
【0039】
例えば、プログラムは、物体検出システム100の記憶部620に記憶され、プロセッサは、そのプログラムを読み込み、プログラムに従って、物体存在領域予測器200、物体存在領域断片生成部300、物体検出器400、および、対象物体検出器500として動作してもよい。また、物体検出システム100の機能がSaaS(Software as a Service )形式で提供されてもよい。
【0040】
また、物体存在領域予測器200と、物体存在領域断片生成部300と、物体検出器400と、対象物体検出器500とは、それぞれが専用のハードウェアで実現されていてもよい。また、各装置の各構成要素の一部又は全部は、汎用又は専用の回路(circuitry )、プロセッサ等やこれらの組合せによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。
【0041】
また、物体検出システム100の各構成要素の一部又は全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
【0042】
[動作の説明]
次に、本実施形態の物体検出システムの動作例を説明する。
図6は、本実施形態の物体検出システム100の動作例を示すフローチャートである。
【0043】
物体存在領域予測器200は、現在画像と、過去画像に対する物体検出結果を受信する(ステップS1)。すなわち、物体存在領域予測器200は、物体検出結果として、過去画像から検出された対象物体を示す情報を受信する。物体存在領域予測器200は、過去画像に対する物体検出結果から、現在画像に対して物体存在領域を予測する(ステップS2)。物体存在領域断片生成部300は、物体存在領域から物体存在領域断片を生成する(ステップS3)。物体検出器400は、物体存在領域断片群に対して物体検出を行い、物体検出断片群を計算する(ステップS4)。すなわち、物体検出器400は、物体存在領域断片から、物体検出断片を検出する。そして、対象物体検出器500は、物体検出断片群と過去画像に対する物体検出結果から物体検出結果を推定し、現在画像の物体検出結果とする(ステップS5)。すなわち、対象物体検出器500は、物体検出断片を用いて、現在画像から対象物体を検出する。
【0044】
[効果の説明]
次に、本実施形態の効果を説明する。以上のように、本実施形態では、物体存在領域予測器200が、過去画像から検出された対象物体を示す情報から物体存在領域を予測し、物体存在領域断片生成部300が、物体存在領域から物体存在領域断片を生成する。そして、物体検出器400が、物体存在領域断片から物体検出断片を検出し、対象物体検出器500が、物体検出断片を用いて、現在画像から対象物体を検出する。よって、画像から高速に対象物体を検出できる。
【0045】
すなわち、本実施形態の物体検出システム100は、物体存在領域そのままではなく、物体存在領域を分割した一方の物体存在領域断片のみを用いて(すなわち、他方の物体存在領域断片を使用せず)物体検出を行うため、高速な推論を可能とし、物体検出の推論時間を短くできる、すなわち、高速に計算できる。これは、対象物体を検出する際に用いる画像の空間サイズを小さくしているためである。また、本実施形態の物体検出システム100は、さらに、物体検出断片を用いて物体検出結果を推定するため、完全な対象物体を含む物体検出結果を出力できる。
【0046】
[第2の実施の形態]
[構成の説明]
次に、本発明による物体検出システムの第二の実施形態を説明する。第二の実施形態では、過去画像から検出された対象物体を示す情報が、対象物体が含まれる部分が抽出された画像(すなわち、過去部分画像)である場合について説明する。
【0047】
図7に示すように、本実施形態の物体検出システム110は、物体存在領域予測器210と、物体存在領域断片生成部300と、物体検出器400と、対象物体検出器500と、撮影器610と、記憶部620と、過去部分画像生成器1000とを備えている。すなわち、本実施形態の物体検出システム110は、第一の実施形態の物体検出システム100と比較し、過去部分画像生成器1000をさらに備え、物体存在領域予測器200の代わりに物体存在領域予測器210を備えている点において異なる。それ以外の構成は、第一の実施形態と同様である。
【0048】
過去部分画像生成器1000は、過去画像と過去画像に対する物体検出結果から、過去部分画像を生成する。上述するように、過去部分画像は、過去画像から対象物体が含まれる部分が抽出された画像であるである。過去部分画像生成器1000が過去部分画像を生成する方法は任意であり、既知の物体検出方法が用いられればよい。
【0049】
物体存在領域予測器210は、対象物体を示す情報として過去部分画像を用いて物体存在領域を予測する。具体的には、物体存在領域予測器210は、過去部分画像と現在画像との相関に基づいて、物体存在領域を予測する。
【0050】
図8は、物体存在領域を予測する処理の例を示す説明図である。
図8に示す例では、画像の画素値を用いて古典的な相関係数を計算する方法として、物体存在領域予測器210が、過去部分画像710と現在画像600に含まれる物体との相関を計算していることを示す。具体的には、
図8に示す例では、物体存在領域予測器210が、過去部分画像を現在画像に対してスライドさせながら、過去部分画像とその位置に対応する現在画像の一部との相関を複数計算して物体存在領域を予測していることを示す。物体存在領域予測器210は、例えば、所定の値を超える相関が計算された位置の現在画像を物体存在領域として予測してもよい。
【0051】
また、例えば、現在画像における物体存在領域群の全候補に対し、物体存在領域予測器210は、過去部分画像との相関を計算して、最も相関の高い候補を物体存在領域と予測してもよい。
【0052】
他にも、物体存在領域予測器210は、2つの画像を入力し、その2つの画像の相関が最も高い箇所を出力する深層学習モデルを用いてもよい。このような深層学習モデルとして、例えば、Siam(Siamese)ネットワークが挙げられる。この場合、物体存在領域予測器210は、過去部分画像と現在画像とを深層学習モデルに入力し、出力結果を物体存在領域として予測してもよい。
【0053】
過去部分画像生成器1000と、物体存在領域予測器210と、物体存在領域断片生成部300と、物体検出器400と、対象物体検出器500と、は、プログラム(物体検出プログラム)に従って動作するコンピュータのプロセッサ(例えば、CPU(Central Processing Unit ))、GPU(Graphics Processing Unit))によって実現される。
【0054】
[動作の説明]
次に、本実施形態の物体検出システムの動作例を説明する。
図9は、本実施形態の物体検出システム110の動作例を示すフローチャートである。
【0055】
過去部分画像生成器1000は、過去画像および過去画像に対する物体検出結果を受信し(ステップS11)、過去部分画像を生成する(ステップS12)。物体存在領域予測器210は、過去部分画像を用いて物体存在領域を予測する(ステップS13)。以降の処理は、
図6に例示するステップS3以降の処理と同様である。
【0056】
[効果の説明]
次に、本実施形態の効果を説明する。以上のように、本実施形態では、物体存在領域予測器210が、過去部分画像と現在画像との相関に基づいて、物体存在領域を予測する。よって、第一の実施形態と同様、画像から高速に対象物体を検出できる。
【0057】
次に、本発明の概要を説明する。
図10は、本発明による物体検出システムの概要を示すブロック図である。本発明による物体検出システム80は、過去画像から検出された対象物体を示す情報から、現在画像において対象物体が存在する領域である物体存在領域を予測する物体存在領域予測手段81(例えば、物体存在領域予測器200)と、物体存在領域からその物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成手段82(例えば、物体存在領域断片生成部300)と、物体存在領域断片から、対象物体が含まれる領域である物体検出断片を検出する物体検出手段83(例えば、物体検出器400)と、物体検出断片を用いて、現在画像から対象物体を検出する対象物体検出手段84(例えば、対象物体検出器500)とを備えている。
【0058】
そのような構成により、画像から高速に対象物体を検出できる。
【0059】
また、物体存在領域予測手段81は、過去画像から検出された対象物体の存在領域を示す物体検出枠を、対象物体を示す情報として用いて物体存在領域を予測し、対象物体検出手段84は、物体検出枠と物体検出断片とから、現在画像における対象物体の存在領域を示す物体検出枠を推定してもよい。
【0060】
このとき、対象物体検出手段84は、過去画像から取得される物体検出枠の縦横サイズと、物体検出断片から取得される検出枠の縦横サイズとから、現在画像の物体検出枠の横サイズまたは縦サイズを推定してもよい。
【0061】
また、物体存在領域断片生成手段82は、物体存在領域における物体存在領域断片の位置を付加した物体存在領域断片を生成してもよい。
【0062】
具体的には、物体存在領域断片生成手段82は、物体存在領域断片の位置として、分割前の物体存在領域に対する位置を付加した物体存在領域断片を生成してもよい。
【0063】
また、物体存在領域断片生成手段82は、物体存在領域を縦方向または横方向に二等分することにより物体存在領域断片を生成してもよい。
【0064】
他にも、物体存在領域予測手段81は、過去画像から対象物体が含まれる部分が抽出された画像である過去部分画像を、対象物体を示す情報として用いて、その過去部分画像と現在画像との相関に基づいて、物体存在領域を予測してもよい。
【0065】
具体的には、物体存在領域予測手段81は、過去部分画像を現在画像に対してスライドさせながら計算した複数の相関に基づいて物体存在領域を予測してもよい。
【0066】
他にも、物体存在領域予測手段81は、2つの画像を入力し、その2つの画像の相関が最も高い箇所を出力する深層学習モデルを用いて、過去部分画像と現在画像とから物体存在領域を予測してもよい。
【0067】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【0068】
(付記1)過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測する物体存在領域予測手段と、
前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成手段と、
前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出する物体検出手段と、
前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する対象物体検出手段とを備えた
ことを特徴とする物体検出システム。
【0069】
(付記2)物体存在領域予測手段は、過去画像から検出された対象物体の存在領域を示す物体検出枠 を、対象物体を示す情報として用いて物体存在領域を予測し、
対象物体検出手段は、前記物体検出枠と物体検出断片とから、現在画像における対象物体の存在領域を示す物体検出枠を推定する
付記1記載の物体検出システム。
【0070】
(付記3)対象物体検出手段は、過去画像から取得される物体検出枠の縦横サイズと、物体検出断片から取得される検出枠の縦横サイズとから、現在画像の物体検出枠の横サイズまたは縦サイズを推定する
付記2記載の物体検出システム。
【0071】
(付記4)物体存在領域断片生成手段は、物体存在領域における物体存在領域断片の位置を付加した物体存在領域断片を生成する
付記1から付記3のうちのいずれか1つに記載の物体検出システム。
【0072】
(付記5)物体存在領域断片生成手段は、物体存在領域断片の位置として、分割前の物体存在領域に対する位置を付加した物体存在領域断片を生成する
付記4記載の物体検出システム。
【0073】
(付記6)物体存在領域断片生成手段は、物体存在領域を縦方向または横方向に二等分することにより物体存在領域断片を生成する
付記1から付記3のうちのいずれか1つに記載の物体検出システム。
【0074】
(付記7)物体存在領域予測手段は、過去画像から対象物体が含まれる部分が抽出された画像である過去部分画像を、対象物体を示す情報として用いて、当該過去部分画像と現在画像との相関に基づいて、物体存在領域を予測する
付記1記載の物体検出システム。
【0075】
(付記8)物体存在領域予測手段は、過去部分画像を現在画像に対してスライドさせながら計算した複数の相関に基づいて物体存在領域を予測する
付記7記載の物体検出システム。
【0076】
(付記9)物体存在領域予測手段は、2つの画像を入力し、当該2つの画像の相関が最も高い箇所を出力する深層学習モデルを用いて、過去部分画像と現在画像とから物体存在領域を予測する
付記7記載の物体検出システム。
【0077】
(付記10)コンピュータが、過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測し、
前記コンピュータが、前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成し、
前記コンピュータが、前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出し、
前記コンピュータが、前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する
ことを特徴とする物体検出方法。
【0078】
(付記11)コンピュータに、
過去画像から検出された対象物体を示す情報から、現在画像において前記対象物体が存在する領域である物体存在領域を予測する物体存在領域予測処理、
前記物体存在領域から当該物体存在領域の部分領域である物体存在領域断片を生成する物体存在領域断片生成処理、
前記物体存在領域断片から、前記対象物体が含まれる領域である物体検出断片を検出する物体検出処理、および、
前記物体検出断片を用いて、前記現在画像から前記対象物体を検出する存在領域検出処理
を実行させるための物体検出プログラム。
【産業上の利用可能性】
【0079】
本発明は、画像中の対象物体を検出する物体検出システムに好適に適用される。例えば、本発明を、物体検出によって車両や人を検出する交通システムや、物体検出によって製品を検出することで検品を行う検品システムなどの用途に好適に適用できる。
【符号の説明】
【0080】
100,110 物体検出システム
200,210 物体存在領域予測器
300 物体存在領域断片生成部
400 物体検出器
500 対象物体検出器
600 現在画像
610 撮像装置
620 記憶部
700 過去画像
710 過去部分画像
800 過去画像物体検出結果
900 現在画像における物体検出結果
1000 過去部分画像生成器