IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士通株式会社の特許一覧

特許7251409車線変更車両の検出装置、方法及びビデオ監視装置
<>
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図1
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図2
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図3
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図4
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図5
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図6
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図7
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図8
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図9
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図10
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図11
  • 特許-車線変更車両の検出装置、方法及びビデオ監視装置 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-03-27
(45)【発行日】2023-04-04
(54)【発明の名称】車線変更車両の検出装置、方法及びビデオ監視装置
(51)【国際特許分類】
   G06T 7/00 20170101AFI20230328BHJP
   G08G 1/16 20060101ALI20230328BHJP
【FI】
G06T7/00 650B
G08G1/16 C
【請求項の数】 10
(21)【出願番号】P 2019154635
(22)【出願日】2019-08-27
(65)【公開番号】P2020061127
(43)【公開日】2020-04-16
【審査請求日】2022-05-17
(31)【優先権主張番号】201811189153.X
(32)【優先日】2018-10-12
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】チェヌ・シャオチィ
(72)【発明者】
【氏名】ジャン・ナヌ
(72)【発明者】
【氏名】ワン・チィ
【審査官】片岡 利延
(56)【参考文献】
【文献】特開2006-99373(JP,A)
【文献】特表2007-534041(JP,A)
【文献】特開2012-131496(JP,A)
【文献】特開2020-3971(JP,A)
【文献】特開平10-105690(JP,A)
【文献】韓国公開特許第10-2011-0117576(KR,A)
【文献】中国特許出願公開第113205687(CN,A)
【文献】中国特許出願公開第112329724(CN,A)
【文献】中国特許出願公開第112232257(CN,A)
【文献】中国特許出願公開第110782485(CN,A)
【文献】中国特許出願公開第103942960(CN,A)
【文献】中国特許出願公開第106652468(CN,A)
【文献】中国特許出願公開第105632186(CN,A)
【文献】中国特許出願公開第102819952(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
車線変更車両の検出装置であって、
ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、前記複数の特徴点の前記複数のフレーム画像におけるオプティカルフローベクトルを算出するベクトル算出手段と、
前記オプティカルフローベクトルの角度及び大きさに基づいて前記オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得するベクトルフィルタリング手段と、
フィルタリング後の前記複数のオプティカルフローベクトルの統計を取り、前記複数のオプティカルフローベクトルの数の前記複数のフレーム画像における分布情報を取得するベクトル統計手段と、
前記分布情報に基づいて前記複数のフレーム画像における1つ又は複数の車線変更車両を決定する車両決定手段と、を含む、装置。
【請求項2】
前記ベクトルフィルタリング手段は、以下の条件が満たされた場合、前記オプティカルフローベクトルを、前記車線変更車両の特徴に適合するオプティカルフローベクトルとして決定し、
0<α<T1、且つ0<L<TL
ここで、T1は所定の角度閾値を表し、TLは所定の長さ閾値を表し、αはi番目の前記オプティカルフローベクトルと水平方向との夾角を表し、Lはi番目の前記オプティカルフローベクトルの大きさを表す、請求項1に記載の装置。
【請求項3】
前記車両決定手段は、前記複数のオプティカルフローベクトルの数が所定の数閾値以下である場合、対応する前記複数のオプティカルフローベクトルを、同一の車両からのものとして決定する、請求項1に記載の装置。
【請求項4】
以下のフィルタリング式を用いて、前記複数のオプティカルフローベクトルの数の前記複数のフレーム画像における分布情報に対して平滑化フィルタリングを行う第1フィルタリング手段、をさらに含み、
【数1】
はk番目のフレームに対応するオプティカルフローベクトルの数であり、Mはk番目のフレームの前の連続するフレームの数であり、δ及びγは重み付け係数であり、且つδ+γ=1となる、請求項1に記載の装置。
【請求項5】
所定閾値に基づいて前記分布情報をサンプリングし、一定の時間の幅を有する1つ又は複数の矩形波を生成するサンプリング手段と、
所定の時間の長さよりも短い幅を有する矩形波をフィルタリングにより除去する第2フィルタリング手段と、をさらに含む、請求項1に記載の装置。
【請求項6】
前記車両決定手段は、前記所定の時間の長さ以上の幅を有する矩形波に対応する車両を車線変更車両として決定し、前記所定の時間の長さ以上の幅を有する矩形波の数を前記車線変更車両の数として決定する、請求項5に記載の装置。
【請求項7】
前記オプティカルフローベクトルの角度に基づいて、前記オプティカルフローベクトルの交通標示線に対する方向を決定する方向決定手段と、
前記オプティカルフローベクトルの前記交通標示線に対する方向が所定方向であり、且つ前記車線変更車両の数が所定数以上である場合、回避イベントをトリガすると決定するイベント決定手段と、をさらに含む、請求項1に記載の装置。
【請求項8】
前記ビデオにおける複数のフレーム画像についてグレースケール画像を算出するグレースケール算出手段と、
前記グレースケール画像における交通標示線に基づいて関心領域を設定する領域設定手段と、をさらに含む、請求項1に記載の装置。
【請求項9】
車線変更車両の検出方法であって、
ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、前記複数の特徴点の前記複数のフレーム画像におけるオプティカルフローベクトルを算出するステップと、
前記オプティカルフローベクトルの角度及び大きさに基づいて前記オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得するステップと、
フィルタリング後の前記複数のオプティカルフローベクトルの統計を取り、前記複数のオプティカルフローベクトルの数の前記複数のフレーム画像における分布情報を取得するステップと、
前記分布情報に基づいて前記複数のフレーム画像における1つ又は複数の車線変更車両を決定するステップと、を含む、方法。
【請求項10】
コンピュータプログラムが記憶された記憶装置と、処理装置とを含み、
前記処理装置は、前記コンピュータプログラムを実行することで、請求項9に記載の方法を実現する、ビデオ監視装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施例は、ビデオ監視の技術分野に関し、特に車線変更車両の検出装置、方法及びビデオ監視装置に関する。
【背景技術】
【0002】
回避運転(avoidance driving)又は回避イベントは異常な交通イベントの1つである。例えば、車線に道路の崩壊や車両の故障などの異常なイベントが発生した場合、後続車両は対向車線、追越車線又は予備車線を通過する必要があるため、車線変更(cross-line)走行が発生する。
【0003】
このような場合は、ビデオ監視装置は、交通管理部門がこのような異常な交通行為を迅速に処理できるように、車線変更車両(cross-line vehicle)を検出し、且つ回避イベントを迅速、且つ正確にトリガする必要がある。現在、このようなイベントを検出するための画像に基づくアルゴリズムが多く存在する。
【0004】
なお、上述した技術背景の説明は、本発明の技術案を明確、完全に理解させるための説明であり、当業者を理解させるために記述されているものである。これらの技術案は、単なる本発明の背景技術部分として説明されたものであり、当業者により周知されたものではない。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、本発明の発明者の発見によると、従来の回避検出の解決方法は、通常は目標車両をリアルタイムで検出、追跡し、車両の軌跡に基づいて回避イベントが発生したか否かを決定するが、複雑な環境において不安定であり、遮蔽の影響を受けやすく、計算量が多い。
【0006】
本発明の実施例は、遮蔽の影響を低減させ、計算量を低減させることができる車線変更車両の検出装置、方法及びビデオ監視装置を提供する。
【課題を解決するための手段】
【0007】
本発明の実施例の第1態様では、車線変更車両の検出装置であって、ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、前記複数の特徴点の前記複数のフレーム画像におけるオプティカルフローベクトルを算出するベクトル算出手段と、前記オプティカルフローベクトルの角度及び大きさに基づいて前記オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得するベクトルフィルタリング手段と、フィルタリング後の前記複数のオプティカルフローベクトルの統計を取り、前記複数のオプティカルフローベクトルの数の前記複数のフレーム画像における分布情報を取得するベクトル統計手段と、前記分布情報に基づいて前記複数のフレーム画像における1つ又は複数の車線変更車両を決定する車両決定手段と、を含む、装置を提供する。
【0008】
本発明の実施例の第2態様では、車線変更車両の検出方法であって、ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、前記複数の特徴点の前記複数のフレーム画像におけるオプティカルフローベクトルを算出するステップと、前記オプティカルフローベクトルの角度及び大きさに基づいて前記オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得するステップと、フィルタリング後の前記複数のオプティカルフローベクトルの統計を取り、前記複数のオプティカルフローベクトルの数の前記複数のフレーム画像における分布情報を取得するステップと、前記分布情報に基づいて前記複数のフレーム画像における1つ又は複数の車線変更車両を決定するステップと、を含む、方法を提供する。
【0009】
本発明の実施例の第3態様では、コンピュータプログラムが記憶された記憶装置と、処理装置とを含み、前記処理装置は、前記コンピュータプログラムを実行することで、上記の車線変更車両の検出方法を実現する、ビデオ監視装置を提供する。
【0010】
本発明の実施例の有利な効果は以下の通りである。複数のフレーム画像の複数の特徴点に基づいてオプティカルフローベクトルを算出し、オプティカルフローベクトルの角度及び大きさに基づいてフィルタリングを行い、フィルタリング後の複数のオプティカルフローベクトルの統計を取り、複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得し、該分布情報に基づいて複数のフレーム画像における1つ又は複数の車線変更車両を決定する。これによって、遮蔽の影響を回避又は緩和することができ、部分的な輪郭を有する車両でも検出することができると共に、オプティカルフロー又は照明変化による計算量を効果的に低減させることができ、高い検出精度を有する。
【0011】
本発明の特定の実施形態は、後述の説明及び図面に示すように、詳細に開示され、本発明の原理を採用されることが可能な方式を示している。なお、本発明の実施形態は、範囲上には限定されるものではない。本発明の実施形態は、添付されている特許請求の範囲の主旨及び内容の範囲内、各種の改変、修正、及び均等的なものが含まれる。
【0012】
ある一つの実施形態に説明及び又は示されている特徴は、同一又は類似の方式で一つ又は多くの他の実施形態に使用されてもよく、他の実施形態における特徴と組み合わせてもよく、他の実施形態における特徴を代替してもよい。
【0013】
なお、用語「包括/含む」は、本文に使用される際に、特徴、要素、ステップ又は構成要件の存在を意味し、一つ又は複数の他の特徴、要素、ステップ又は構成要件の存在又は追加を排除するものではない。
【図面の簡単な説明】
【0014】
本発明の実施例の図面又は実施形態に説明されている要素及び特徴は、1つ又は複数の他の図面又は実施形態に示す要素及び特徴と組み合わせてもよい。図面において、類似する符号は複数の図面における対応する構成部を表し、複数の態様に用いられる対応構成部を表してもよい。
図1】本発明の実施例の車線変更車両の検出方法を示す図である。
図2】対向車線を用いる右下方向への車線変更を示す図である。
図3】対向車線を用いる右下方向への車線変更を示す他の図である。
図4】対向車線を用いる左上方向への車線変更を示す図である。
図5】対向車線を用いる左上方向への車線変更を示す他の図である。
図6】本発明の実施例の車線変更車両の検出方法を示す他の図である。
図7】本発明の実施例の分布情報を示す図である。
図8】本発明の実施例の分布情報を示す他の図である。
図9】本発明の実施例のサンプリング後の分布情報を示す図である。
図10】本発明の実施例のサンプリング後の分布情報を示す他の図である。
図11】本発明の実施例の車線変更車両の検出装置を示す図である。
図12】本発明の実施例のビデオ監視装置を示す図である。
【発明を実施するための形態】
【0015】
本発明の上記及びその他の特徴は、図面及び下記の説明により明確になる。明細書及び図面では、本発明の特定の実施形態、即ち本発明の原則に従う一部の実施形態を表すものを公開している。なお、本発明は説明される実施形態に限定されず、本発明は、特許請求の範囲内の全ての修正、変更されたもの、及び均等なものを含む。
【0016】
本発明の実施例では、用語「第1」、「第2」は異なる要素を名称で区分するためのものであり、これらの要素の空間的配列又は時間的順序などを意味するものではなく、これらの要素はこれらの用語に限定されない。用語「及び/又は」は列挙された用語の1つ又は複数のうち何れか及びその組み合わせを含む。用語「包括」、「含む」、「有する」は説明された特徴、要素、素子又は部材の存在を意味するが、他の1つ又は複数の特徴、要素、素子又は部材の存在又は追加を排除するものではない。
【0017】
本発明の実施例では、単数形の「一」、「該」等は複数形を含み、「一種」又は「一類」を意味し、「1つ」に限定するものではない。また、用語「前記」は、文脈上明確に指示されない限り、単数形及び複数形両方を含む。また、文脈上明確に指示されない限り、用語「応じて」は「少なくとも部分的に応じて」を意味し、用語「に基づいて」は「少なくとも部分的に基づいて」を意味する。
【0018】
交通ビデオ監視の分野では、監視カメラの設置角度及び高さにより、車線変更をする際に車両間に視覚的な遮蔽が存在する場合がある。また、監視カメラの視野角により、ビデオの画像フレームに一部の車体輪郭のみが現れる可能性がある。場合によっては、明滅する光により輪郭情報が失われる場合もある。従来のリアルタイムの検出及び追跡のアルゴリズムはこれらの問題を解決することは困難である。
【0019】
本発明の実施例は、上記の問題の少なくとも1つを鑑み、オプティカルフローベクトルに基づく解決方法を提供する。オプティカルフローベクトルを検出して数の統計を取り、統計の分布情報に基づいて車線変更車両を決定することができる。そして、複数のフレーム画像における車線変更車両の数の統計を取り、回避イベントをトリガするか否かを決定してもよい。本発明の実施例は、従来のオプティカルフロー検出方法に比べて、オプティカルフローベクトルの長さ、方向及び検出領域の制約を追加することで、オプティカルフローの光干渉に対する脆弱性を改善することができ、計算量を低減させることができる。
【0020】
以下は、本発明の実施例を例示的に説明する。なお、本発明の実施例は、回避イベントを一例にして説明するが、本発明はこれに限定されず、他の同様のシナリオに適用されてもよい。
【0021】
<実施例1>
本発明の実施例は車線変更車両の検出方法を提供する。図1は本発明の実施例の車線変更車両の検出方法を示す図であり、図1に示すように、該方法は以下のステップを含む。
【0022】
ステップ101:ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、該複数の特徴点の該複数のフレーム画像におけるオプティカルフローベクトルを算出する。
【0023】
ステップ102:該オプティカルフローベクトルの角度及び大きさに基づいて該オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得する。
【0024】
ステップ103:フィルタリング後の該複数のオプティカルフローベクトルの統計を取り、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得する。
【0025】
ステップ104:該分布情報に基づいて該複数のフレーム画像における1つ又は複数の車線変更車両を決定する。
【0026】
本実施例では、カメラにより、複数のフレーム画像を含むビデオ情報を取得してもよい。該カメラは、インテリジェント輸送(Intelligent Transportation)のビデオ監視を行うためのカメラであってもよく、監視領域を継続的に撮影する。なお、本発明はこれに限定されず、他のビデオ監視のシナリオ、例えば駐車場のビデオ監視のシナリオであってもよい。以下は、交通ビデオ監視のシナリオを一例にして説明する。
【0027】
本実施例では、該ビデオにおける複数のフレーム画像についてグレースケール画像を算出し、該グレースケール画像における交通標示線に基づいて関心領域(ROI:Region Of Interest)を設定してもよい。これによって、検出領域を制限することができ、オプティカルフローベクトルの計算量をさらに低減させることができる。
【0028】
本実施例では、例えばShi-Tomasiコーナーを特徴点として選択してもよく、特徴点の数は複数個、例えば100個以上又はそれ以下であってもよい。そして、これらの特徴点のピラミッドLKオプティカルフローベクトルを算出してもよい。特徴点及びオプティカルフローベクトルの詳細は、関連技術を参照してもよく、ここでその説明を省略する。
【0029】
通常、同一の車両について算出されたオプティカルフローベクトルは類似する方向及び大きさを有する。車線方向に沿って移動する車線変更車両のオプティカルフローベクトルと正常走行車両のオプティカルフローベクトルとの間には一般的に明らかな差異を存在する。このため、オプティカルフローベクトルの大きさ及び方向を条件として選択し、正常走行車両に属するオプティカルフローベクトルをフィルタリングにより除去し、車線変更車両に属する可能性のあるオプティカルフローベクトルを保留してもよい。
【0030】
本実施例では、以下の条件が満たされた場合、該オプティカルフローベクトルを、該車線変更車両の特徴に適合するオプティカルフローベクトルとして決定してもよい。
【0031】
0<α<T1、且つ0<L<TL
ここで、T1は所定の角度閾値を表し、TLは所定の長さ閾値を表し、αはi番目の該オプティカルフローベクトルと水平方向との夾角を表し、Lはi番目の該オプティカルフローベクトルの大きさを表す。
【0032】
以下は角度の制約(即ち方向の制約)を例示的に説明する。
【0033】
例えば、画像平面では、オプティカルフローベクトル(例えば
(外1)
で表される)と水平方向(即ちX軸)との[-180°,180°]の範囲内の角度はαであり、10°を統計間隔として用い、ヒストグラムを用いて現在フレームにおける36(例えば(180°-(-180°))/10°=36)個の角度分布に分布しているオプティカルフローベクトルの数を算出する。例えば、実験分析の結果に基づいて、車線変更車両の角度値が(-10°,10°)の範囲内にあると考えられてもよい。また、オプティカルフローベクトルの角度は、車両が通過する車線に関する情報をさらに提供することができる。
【0034】
図2は対向車線を用いる右下(right down)方向への車線変更を示す図であり、車両2が走行車線から出るように車線変更すること(1回目の車線変更)を示している。図2に示すように、車両2については、この際に前方の車両1が走行車線に戻るように車線変更しており、監視カメラの設置角度及び高さにより、この際に車両2が車両1により遮蔽されやすい。その結果、図2における車両2のような場合は(この場合、αは鈍角であり、正の値であり、且つ絶対値が大きい)、車線変更車両の検出に適さない。
【0035】
図3は対向車線を用いる右下方向への車線変更を示す他の図であり、車両2が走行車線に戻るように車線変更すること(2回目の車線変更)を示している。図3に示すように、車両2については、この際に前方の車両1が既に走行車線に戻るように車線変更し、監視カメラの設置角度及び高さにより、この際に車両2が車両1により遮蔽されない。その結果、図3における車両2のような場合は(この場合、αは鋭角であり、正の値であり、且つ絶対値が小さい)、車線変更車両の検出に適する。
【0036】
図4は対向車線を用いる左上(left up)方向への車線変更を示す図であり、車両2が走行車線から出るように車線変更すること(1回目の車線変更)を示している。図4に示すように、車両2については、この際に後方の車両3がまだ走行車線に位置し、監視カメラの設置角度及び高さにより、この際に車両2が車両3により遮蔽されない。その結果、図4における車両2のような場合は(この場合、αは鋭角であり、負の値であり、且つ絶対値が小さい)、車線変更車両の検出に適する。
【0037】
図5は対向車線を用いる左上方向への車線変更を示す他の図であり、車両2が走行車線に戻るように車線変更すること(2回目の車線変更)を示している。図5に示すように、車両2については、この際に後方の車両3が走行車線から出るように車線変更しており、監視カメラの設置角度及び高さにより、この際に車両2が車両3により遮蔽されやすい。その結果、図5における車両2のような場合は(この場合、αは鈍角であり、負の値であり、且つ絶対値が大きい)、車線変更車両の検出に適さない。
【0038】
上述したように、画像平面では、図3及び図4のような2種類の車線変更の車両のα(x軸との夾角)が共に鋭角であるため、T1を閾値として選択してαの絶対値と比較することで、図3及び図4以外のものをフィルタリングにより除去することができる。そして、αが正の値又は負の値であるかに基づいて、左上への車線変更と右下への車線変更とを区別することができる。例えば、-10°~+10°をT1の基準値として用いて、図2及び図5のような鈍角のものをフィルタリングにより除去してもよい。
【0039】
この観点から、本発明の実施例は、従来方法で解決しにくい遮蔽の問題を回避し、従来方法では、車両の位置をリアルタイムで追跡する必要があり、例えば図2及び図5のようなものが現れる場合、車両2が部分的に遮蔽され、又は全て遮蔽されやすく、その追跡及び測位に影響を与え、検出精度に影響を与える。
【0040】
なお、図2乃至図5は単なる本発明の実施例の角度の制約を例示的に説明するものであり、本発明はこれに限定されない。例えば、図2乃至図5では左側通行の交通ルールを一例にして説明しているが、右側通行の交通ルールについて具体的な実施形態を適切に調整してもよく、ここでその説明を省略する。
【0041】
以下は、大きさの制約(即ちサイズの制約)を例示的に説明する。
【0042】
例えば、隣接するフレームには、有限サイズの移動対象のオプティカルフローベクトルが存在する。Shi-Tomasiにより検出された初期特徴についてデータバッファを構成してもよく、ベクトルの大きさは、現在の特徴点とデータバッファにおける特徴点とをマッチングすることで算出されてもよい。そして、その長さに基づくフィルタリングにより必要なベクトルを取得し、例えば長さは画像の幅の0.25倍であってもよい。
【0043】
他の例として、前の複数の画像について検出された特徴点をバッファに保存し、現在のフレームに現れる特徴点とバッファにおける特徴点とが一致する場合、2つの点を連結してオプティカルフローベクトルを形成してもよい。理論的には、オプティカルフローベクトルの大きさは車両の移動速度の特性を表し、同一の車両の特徴ベクトルの移動特性は略同一である。
【0044】
従って、オプティカルフローベクトルの大きさに基づいて、本車両以外の車両により生成されたオプティカルフローベクトルをフィルタリングにより除去することができる。即ち、TLはオプティカルフローベクトルの大きさの閾値であり、車両の移動特性を表すことができる。また、バッファにより比較的に大きいオプティカルフローベクトルを取得してもよく、大きい閾値を選択してもよく、これによって、選別を加速することができ、計算量をさらに低減させることができる。
【0045】
以上はオプティカルフローベクトルのフィルタリング方法を例示的に説明したが、以下は検出方法を説明する。
【0046】
図6は本発明の実施例の車線変更車両の検出方法を示す他の図であり、図6に示すように、該方法は以下のステップを含む。
【0047】
ステップ601:交通標示線に基づいて関心領域を設定する。
【0048】
ステップ602:ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択する。
【0049】
ステップ603:該複数の特徴点の該複数のフレーム画像におけるオプティカルフローベクトルを算出する。
【0050】
ステップ604:該オプティカルフローベクトルの角度及び大きさに基づいて該オプティカルフローベクトルをフィルタリングする。
【0051】
ステップ605:フィルタリング後の該複数のオプティカルフローベクトルの統計を取り、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得する。
【0052】
本実施例では、各フレーム画像(例えばk番目のフレーム画像)について、フィルタリング後の複数のオプティカルフローベクトル(即ち車線変更車両の特徴に適合するオプティカルフローベクトル)の数Cの統計を取り、複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を形成してもよい。
【0053】
図7は本発明の実施例の分布情報を示す図である。図7に示すように、該分布情報の横座標は複数のフレーム画像のシーケンス番号を表し、縦座標は対応するオプティカルフローベクトルの数を表す。該分布情報に基づいて該複数のフレーム画像における1つ又は複数の車線変更車両を決定してもよい。例えば、図7には5つの大きなピークが現れ、複数のフレーム画像に5つの車線変更車両が現れると初歩的に決定してもよい。
【0054】
本実施例では、検出精度を向上させるために、分布情報をさらに処理してもよい。
【0055】
例えば、オプティカルフローの算出は、特徴点の抽出に基づいて行われる。環境における小さな変化は、特徴検出の変動を引き起こす可能性があり、オプティカルフローの算出に影響を与える。図7に示すように、例えば、環境要因の影響により、フレーム4700の周囲に変動が発生している(円形701に示すパルス波形)。よって、ランダムノイズの影響を排除するために、フィルタを追加してもよい。
【0056】
図6に示すように、該方法は以下のステップをさらに含んでもよい。
【0057】
ステップ606:以下のフィルタリング式を用いて、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報に対して平滑化フィルタリングを行う。
【0058】
【数1】
【0059】
はk番目のフレームに対応するオプティカルフローベクトルの数であり、Mはk番目のフレームの前の連続するフレームの数であり、δ及びγは重み付け係数であり、且つδ+γ=1となる。なお、本発明はこれに限定されず、例えば上記の式に対して変形などを行ってもよく、実際の需要に応じて具体的な実施形態を決定してもよい。
【0060】
図8は本発明の実施例の分布情報を示す他の図であり、図7の分布情報に対してフィルタリングを行うことを示している。図8に示すように、上記のフィルタリングにより、図7における部分的なランダムノイズ(円形701に示す波形)が既に除去されたため、検出精度をさらに向上させることができる。
【0061】
本実施例では、複数のオプティカルフローベクトルの数について制約を行ってもよい。該複数のオプティカルフローベクトルの数(C)が所定の数閾値(T2)以下である場合、対応する該複数のオプティカルフローベクトルを、同一の車両からのものとして決定する。例えば、0<C<T2のオプティカルフローベクトルが同一の車両からのものであり、該条件を満たさないオプティカルフローベクトルがノイズに起因するものであると考えられてもよいが、本発明はこれに限定されない。
【0062】
本実施例では、例えばトンネル、洞窟及び他の暗い監視のシーンでは、明滅するランプ及び輝度の変化がオプティカルフローの算出に影響を与え、例えばオプティカルフローベクトルの方向及び大きさが変動してしまう。従って、本発明の実施例は、分布情報をさらにサンプリングして車線変更を判断してもよい。
【0063】
図6に示すように、該方法は以下のステップをさらに含んでもよい。
【0064】
ステップ607:所定閾値に基づいて該分布情報をサンプリングし、一定の時間の幅を有する1つ又は複数の矩形波を生成する。
【0065】
例えば、閾値T3を予め決定し、
【0066】
(外2)
が閾値T3に達した場合、オプティカルフローベクトルが同一の車線変更車両からのものであることを意味し、車線変更フラグを1に設定してもよい。
【0067】
図9は本発明の実施例のサンプリング後の分布情報を示す図であり、図9に示すように、該分布情報の横座標は複数のフレーム画像のシーケンス番号を表し、縦座標はオプティカルフローベクトルの数が所定閾値に達したか否かを表す。1つ又は複数の方形波を形成してもよく(図9に5つの方形波を示している)、各方形波は一定の幅を有してもよい。
【0068】
例えば、フレームの数で方形波の幅を表し、図9における1番目の方形波の幅は5個のフレームの長さであり、2番目の方形波の幅は25個のフレームの長さであり、3番目の方形波の幅は27個のフレームの長さであり、4番目の方形波の幅は30個のフレームの長さであり、5番目の方形波の幅は25個のフレームの長さである。
【0069】
図6に示すように、該方法は以下のステップをさらに含んでもよい。
【0070】
ステップ608:所定の時間の長さよりも短い幅を有する矩形波をフィルタリングにより除去する。
【0071】
例えば、所定の時間の長さをNに設定してもよい。例えば、フレームの数で表し、N=10となる。
【0072】
図10は本発明の実施例のサンプリング後の分布情報を示す他の図であり、図9の分布情報に対してフィルタリングすることを示している。図10に示すように、該分布情報の横座標は複数のフレーム画像のシーケンス番号を表し、縦座標はオプティカルフローベクトルの数が所定閾値に達したか否かを表す。図10に示すように、Nより小さい幅を有する方形波(1番目の方形波)は既にフィルタリングにより除去され、Nよりも大きい幅を有する4つの方形波が保留されているため、図10において4つの車線変更車両があると考えられてもよい。
【0073】
即ち、本発明の実施例は、車線変更フラグを表すための方形波のようなグラフを取得することができる。車線変更動作が数フレーム続くため、遅延処理により可能な環境ノイズの干渉を防止することができる。例えば図9に示すように、N個の連続するフレームの車線変更フラグを1に設定してもよい。該遅延処理により、初期フィルタにおいて閾値を満たすCが特定のフレームのみに出現することを回避することができる。連続するN個のフレームの後に車線変更条件を満たした場合、該車両が車線変更車両であると判断してもよい。
【0074】
なお、図9及び図10は単なる本発明の実施例を例示的に説明するものであり、本発明はこれに限定されない。例えば方形波をフィルタリングした後に、一定の幅を有しない線を生成してもよく、即ち図10に示す方形波の代わりに線を用いて車線変更フラグを表してもよい。
【0075】
図6に示すように、該方法は以下のステップをさらに含んでもよい。
【0076】
ステップ609:車線変更車両及び/又は車線変更車両の数を決定する。
【0077】
例えば、上述したように、該所定の時間の長さ以上の幅を有する矩形波に対応する車両を車線変更車両として決定し、該所定の時間の長さ以上の幅を有する矩形波の数を該車線変更車両の数として決定してもよい。
【0078】
以上は、車線変更車両の検出方法を例示的に説明した。なお、上記の図6は単なる本発明の実施例を例示的に説明するものであり、本発明はこれに限定されない。例えば、各ステップの実行順序を適切に調整してもよいし、他のステップを追加し、或いはその中のステップを削除してもよい。当業者は上記の内容に基づいて適切な変形を行ってもよく、上記図6の記載に限定されない。
【0079】
本実施例では、該オプティカルフローベクトルの角度に基づいて、該オプティカルフローベクトルの交通標示線に対する方向を決定し、該オプティカルフローベクトルの該交通標示線に対する方向が所定方向であり、且つ該車線変更車両の数が所定数以上である場合、回避イベントをトリガすると決定してもよい。
【0080】
例えば、オプティカルフローベクトルの交通標示線に対する方向が右下であり、且つ車線変更車両の数が5台に達した場合、回避イベントをトリガすると決定する。他の例として、オプティカルフローベクトルの交通標示線に対する方向が左上であり、且つ車線変更車両の数が10台に達した場合、回避イベントをトリガすると決定する。本発明はこれに限定されず、実際の状況に応じて具体的な実施形態を決定してもよい。
【0081】
上記の各実施例又は実施形態は単なる本発明の実施例を例示的に説明するものであり、本発明はこれに限定されず、上記の各実施例又は実施形態に基づいて適切な変形を行ってもよい。例えば、上記の各実施例又は実施形態を単独して用いてもよいし、上記の各実施例又は実施形態の1つ又は複数を組み合わせてもよい。
【0082】
本実施例によれば、複数のフレーム画像の複数の特徴点に基づいてオプティカルフローベクトルを算出し、オプティカルフローベクトルの角度及び大きさに基づいてフィルタリングを行い、フィルタリング後の複数のオプティカルフローベクトルの統計を取り、複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得し、該分布情報に基づいて複数のフレーム画像における1つ又は複数の車線変更車両を決定する。これによって、遮蔽の影響を回避又は緩和することができ、部分的な輪郭を有する車両でも検出することができると共に、オプティカルフロー又は照明変化による計算量を効果的に低減させることができ、高い検出精度を有する。
【0083】
<実施例2>
本発明の実施例は車線変更車両の検出装置を提供する。該装置は、例えばビデオ監視装置であってもよいし、ビデオ監視装置に配置された1つ又は複数の部材又は部品であってもよい。本実施例2の実施例と同様な内容について、説明を省略する。
【0084】
図11は本発明の実施例の車線変更車両の検出装置を示す図であり、図11に示すように、車線変更車両の検出装置1100は、ベクトル算出部1101、ベクトルフィルタリング部1102、ベクトル統計部1103及び車両決定部1104を含む。
【0085】
ベクトル算出部1101は、ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、該複数の特徴点の該複数のフレーム画像におけるオプティカルフローベクトルを算出する。
【0086】
ベクトルフィルタリング部1102は、該オプティカルフローベクトルの角度及び大きさに基づいて該オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得する。
【0087】
ベクトル統計部1103は、フィルタリング後の該複数のオプティカルフローベクトルの統計を取り、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得する。
【0088】
車両決定部1104は、該分布情報に基づいて該複数のフレーム画像における1つ又は複数の車線変更車両を決定する。
【0089】
1つの実施形態では、ベクトルフィルタリング部1102は、以下の条件が満たされた場合、該オプティカルフローベクトルを、該車線変更車両の特徴に適合するオプティカルフローベクトルとして決定する。
【0090】
0<α<T1、且つ0<L<TL
ここで、T1は所定の角度閾値を表し、TLは所定の長さ閾値を表し、αはi番目の該オプティカルフローベクトルと水平方向との夾角を表し、Lはi番目の該オプティカルフローベクトルの大きさを表す。
【0091】
1つの実施形態では、車両決定部1104は、該複数のオプティカルフローベクトルの数が所定の数閾値以下である場合、対応する該複数のオプティカルフローベクトルを、同一の車両からのものとして決定してもよい。
【0092】
図11に示すように、車線変更車両の検出装置1100は、第1フィルタリング部1105をさらに含んでもよい。
【0093】
第1フィルタリング部1105は、以下のフィルタリング式を用いて、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報に対して平滑化フィルタリングを行う。
【0094】
【数2】
【0095】
はk番目のフレームに対応するオプティカルフローベクトルの数であり、Mはk番目のフレームの前の連続するフレームの数であり、δ及びγは重み付け係数であり、且つδ+γ=1となる。
【0096】
図11に示すように、車線変更車両の検出装置1100は、サンプリング部1106及び第2フィルタリング部1107をさらに含んでもよい。
【0097】
サンプリング部1106は、所定閾値に基づいて該分布情報をサンプリングし、一定の時間の幅を有する1つ又は複数の矩形波を生成する。
【0098】
第2フィルタリング部1107は、所定の時間の長さよりも短い幅を有する矩形波をフィルタリングにより除去する。
【0099】
1つの実施形態では、車両決定部1104は、該所定の時間の長さ以上の幅を有する矩形波に対応する車両を車線変更車両として決定し、該所定の時間の長さ以上の幅を有する矩形波の数を該車線変更車両の数として決定してもよい。
【0100】
図11に示すように、車線変更車両の検出装置1100は、方向決定部1108及びイベント決定部1109をさらに含んでもよい。
【0101】
方向決定部1108は、該オプティカルフローベクトルの角度に基づいて、該オプティカルフローベクトルの交通標示線に対する方向を決定する。
【0102】
イベント決定部1109は、該オプティカルフローベクトルの該交通標示線に対する方向が所定方向であり、且つ該車線変更車両の数が所定数以上である場合、回避イベントをトリガすると決定する。
【0103】
図11に示すように、車線変更車両の検出装置1100は、グレースケール算出部1110及び領域設定部1111をさらに含んでもよい。
【0104】
グレースケール算出部1110は、該ビデオにおける複数のフレーム画像についてグレースケール画像を算出する。
【0105】
領域設定部1111は、該グレースケール画像における交通標示線に基づいて関心領域を設定する。
【0106】
なお、以上は本発明に関連する各部材又はモジュールのみを説明し、本発明はこれに限定されない。車線変更車両の検出装置1100は他の部材又はモジュールをさらに含んでもよく、これらの部材又はモジュールの詳細は関連技術を参考してもよい。
【0107】
また、説明の便宜上、図11は各部材又はモジュール間の接続関係又は信号の方向のみを示し、当業者はバス接続などの各種の関連技術を採用してもよい。上記の各部材又はモジュールは例えば処理装置、記憶装置、送信機、受信機などのハードウェア機器により実現されてもよく、本発明の実施はこれらに限定されない。
【0108】
本実施例によれば、複数のフレーム画像の複数の特徴点に基づいてオプティカルフローベクトルを算出し、オプティカルフローベクトルの角度及び大きさに基づいてフィルタリングを行い、フィルタリング後の複数のオプティカルフローベクトルの統計を取り、複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得し、該分布情報に基づいて複数のフレーム画像における1つ又は複数の車線変更車両を決定する。これによって、遮蔽の影響を回避又は緩和することができ、部分的な輪郭を有する車両でも検出することができると共に、オプティカルフロー又は照明変化による計算量を効果的に低減させることができ、高い検出精度を有する。
【0109】
<実施例3>
本発明の実施例は、実施例2に記載の車線変更車両の検出装置を含むビデオ監視装置をさらに提供し、ここでその内容を援用する。該ビデオ監視装置は例えばコンピュータ、サーバ、ワークステーション、ラップトップコンピュータ、スマートフォンなどであってもよく、本発明の実施例はこれに限定されない。
【0110】
図12は本発明の実施例のビデオ監視装置を示す図である。図12に示すように、ビデオ監視装置1200は、処理装置(例えば中央処理装置:CPU)1210及び記憶装置1220を含んでもよく、記憶装置1220は処理装置1210に接続される。記憶装置1220は、各種のデータ及び情報処理のプログラム1221を記憶してもよく、処理装置1210の制御により該プログラム1221を実行する。
【0111】
1つの態様では、車線変更車両の検出装置1100の機能は処理装置1210に統合されてもよい。ここで、処理装置1210は、実施例1に説明された車線変更車両の検出方法を実現するように構成されてもよい。
【0112】
もう1つの態様では、車線変更車両の検出装置1100は処理装置1210とそれぞれ配置されてもよく、例えば、車線変更車両の検出装置1100は処理装置1210に接続されたチップであり、処理装置1210の制御により車線変更車両の検出装置1100の機能を実現するように構成されてもよい。
【0113】
例えば、処理装置1210は、ビデオにおける複数のフレーム画像に基づいて複数の特徴点を選択し、該複数の特徴点の該複数のフレーム画像におけるオプティカルフローベクトルを算出し、該オプティカルフローベクトルの角度及び大きさに基づいて該オプティカルフローベクトルをフィルタリングし、車線変更車両の特徴に適合する複数のオプティカルフローベクトルを取得し、フィルタリング後の該複数のオプティカルフローベクトルの統計を取り、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報を取得し、該分布情報に基づいて該複数のフレーム画像における1つ又は複数の車線変更車両を決定するように構成されてもよい。
【0114】
1つの実施形態では、処理装置1210は、以下の条件が満たされた場合、該オプティカルフローベクトルを、該車線変更車両の特徴に適合するオプティカルフローベクトルとして決定するように構成されてもよい。
【0115】
0<α<T1、且つ0<L<TL
ここで、T1は所定の角度閾値を表し、TLは所定の長さ閾値を表し、αはi番目の該オプティカルフローベクトルと水平方向との夾角を表し、Lはi番目の該オプティカルフローベクトルの大きさを表す。
【0116】
1つの実施形態では、処理装置1210は、該複数のオプティカルフローベクトルの数が所定の数閾値以下である場合、対応する該複数のオプティカルフローベクトルを、同一の車両からのものとして決定するように構成されてもよい。
【0117】
1つの実施形態では、処理装置1210は、以下のフィルタリング式を用いて、該複数のオプティカルフローベクトルの数の該複数のフレーム画像における分布情報に対して平滑化フィルタリングを行うように構成されてもよい。
【0118】
【数3】
【0119】
はk番目のフレームに対応するオプティカルフローベクトルの数であり、Mはk番目のフレームの前の連続するフレームの数であり、δ及びγは重み付け係数であり、且つδ+γ=1となる。
【0120】
1つの実施形態では、処理装置1210は、所定閾値に基づいて該分布情報をサンプリングし、一定の時間の幅を有する1つ又は複数の矩形波を生成し、所定の時間の長さよりも短い幅を有する矩形波をフィルタリングにより除去するように構成されてもよい。
【0121】
1つの実施形態では、処理装置1210は、該所定の時間の長さ以上の幅を有する矩形波に対応する車両を車線変更車両として決定し、該所定の時間の長さ以上の幅を有する矩形波の数を該車線変更車両の数として決定するように構成されてもよい。
【0122】
1つの実施形態では、処理装置1210は、該オプティカルフローベクトルの角度に基づいて、該オプティカルフローベクトルの交通標示線に対する方向を決定し、該オプティカルフローベクトルの該交通標示線に対する方向が所定方向であり、且つ該車線変更車両の数が所定数以上である場合、回避イベントをトリガすると決定するように構成されでもよい。
【0123】
1つの実施形態では、処理装置1210は、該ビデオにおける複数のフレーム画像についてグレースケール画像を算出し、該グレースケール画像における交通標示線に基づいて関心領域を設定するように構成されてもよい。
【0124】
また、図12に示すように、ビデオ監視装置1200は、入力出力(I/O)装置1230及び表示装置1240等をさらに含んでもよい。ここで、上記各部の機能は従来技術と類似し、ここでその説明を省略する。なお、ビデオ監視装置1200は、図12に示す全ての構成部を含まなくてもよい。また、ビデオ監視装置1200は、図12に示していない構成部を含んでもよく、従来技術を参考してもよい。
【0125】
本発明の実施例は、ビデオ監視装置においてプログラムを実行する際に、コンピュータに、該ビデオ監視装置において実施例1に記載の車線変更車両の検出方法を実行させる、コンピュータ読み取り可能なプログラムをさらに提供する。
【0126】
本発明の実施例は、コンピュータに、ビデオ監視装置において実施例1に記載の車線変更車両の検出方法を実行させるためのコンピュータ読み取り可能なプログラムを記憶する、記憶媒体をさらに提供する。
【0127】
本発明の以上の装置及び方法は、ハードウェアにより実現されてもよく、ハードウェアとソフトウェアを結合して実現されてもよい。本発明はコンピュータが読み取り可能なプログラムに関し、該プログラムは論理部により実行される時に、該論理部に上述した装置又は構成要件を実現させる、或いは該論理部に上述した各種の方法又はステップを実現させることができる。本発明は上記のプログラムを記憶するための記憶媒体、例えばハードディスク、磁気ディスク、光ディスク、DVD、フラッシュメモリ等に関する。
【0128】
本発明の実施例を参照しながら説明した方法/装置は、ハードウェア、プロセッサにより実行されるソフトウェアモジュール、又は両者の組み合わせで実施されてもよい。例えば、図面に示す機能的ブロック図における1つ若しくは複数、又は機能的ブロック図の1つ若しくは複数の組み合わせは、コンピュータプログラムフローの各ソフトウェアモジュールに対応してもよいし、各ハードウェアモジュールに対応してもよい。これらのソフトウェアモジュールは、図面に示す各ステップにそれぞれ対応してもよい。これらのハードウェアモジュールは、例えばフィールド・プログラマブル・ゲートアレイ(FPGA)を用いてこれらのソフトウェアモジュールをハードウェア化して実現されてもよい。
【0129】
ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、モバイルハードディスク、CD-ROM又は当業者にとって既知の任意の他の形の記憶媒体に位置してもよい。プロセッサが記憶媒体から情報を読み取ったり、記憶媒体に情報を書き込むように該記憶媒体をプロセッサに接続してもよいし、記憶媒体がプロセッサの構成部であってもよい。プロセッサ及び記憶媒体はASICに位置する。該ソフトウェアモジュールは移動端末のメモリに記憶されてもよいし、移動端末に挿入されたメモリカードに記憶されてもよい。例えば、機器(例えば移動端末)が比較的に大きい容量のMEGA-SIMカード又は大容量のフラッシュメモリ装置を用いる場合、該ソフトウェアモジュールは該MEGA-SIMカード又は大容量のフラッシュメモリ装置に記憶されてもよい。
【0130】
図面に記載されている一つ以上の機能ブロックおよび/または機能ブロックの一つ以上の組合せは、本発明に記載されている機能を実行するための汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲートアレイ(FPGA)又は他のプログラマブル論理デバイス、ディスクリートゲートまたはトランジスタ論理装置、ディスクリートハードウェアコンポーネント、またはそれらの任意の適切な組み合わせで実現されてもよい。図面に記載されている一つ以上の機能ブロックおよび/または機能ブロックの一つ以上の組合せは、例えば、コンピューティング機器の組み合わせ、例えばDSPとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサの組み合わせ、DSP通信と組み合わせた1つ又は複数のマイクロプロセッサ又は他の任意の構成で実現されてもよい。
【0131】
以上、具体的な実施形態を参照しながら本発明を説明しているが、上記の説明は、例示的なものに過ぎず、本発明の保護の範囲を限定するものではない。本発明の趣旨及び原理を離脱しない限り、本発明に対して各種の変形及び修正を行ってもよく、これらの変形及び修正も本発明の範囲に属する。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12