(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-02-24
(54)【発明の名称】目標追跡方法、コンピュータプログラム、及び電子機器
(51)【国際特許分類】
G06T 7/246 20170101AFI20220216BHJP
【FI】
G06T7/246
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021536748
(86)(22)【出願日】2020-04-26
(85)【翻訳文提出日】2021-06-28
(86)【国際出願番号】 CN2020087041
(87)【国際公開番号】W WO2020228522
(87)【国際公開日】2020-11-19
(31)【優先権主張番号】201910391497.7
(32)【優先日】2019-05-10
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】514187420
【氏名又は名称】テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】スン,チョォン
(72)【発明者】
【氏名】スン,ユィシュアン
(72)【発明者】
【氏名】ルゥ,フゥチョアン
(72)【発明者】
【氏名】シェン,シアオヨン
(72)【発明者】
【氏名】タイ,ユィウィン
(72)【発明者】
【氏名】ジィア,ジィアヤ
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096BA08
5L096CA04
5L096DA02
5L096EA35
5L096EA43
5L096FA34
5L096GA55
5L096HA05
5L096HA08
5L096JA11
5L096JA18
(57)【要約】
本願は、目標ビデオの複数の連続した画面フレームを取得するステップと、複数の連続した画面フレームのうちのn番目の画面フレームの追跡目標エリアを設定するステップと、n番目の画面フレームの追跡目標エリアに対して特徴抽出操作を行い、追跡目標エリアの入力特徴図を取得するステップと、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの入力特徴図に対応する重みフィルタを計算するステップと、重みフィルタ及び複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図を用いてn+1番目の画面フレームの出力応答を計算し、n+1番目の画面フレームの出力応答に従ってn+1番目の画面フレームの追跡目標エリアを特定するステップと、全ての連続した画面フレームの追跡目標エリアを取得するステップとを含む、目標追跡方法を提供する。本願は、目標追跡装置をさらに提供する。本願は、目標追跡の精度及び有効性を向上させた。
【特許請求の範囲】
【請求項1】
電子機器が実行する目標追跡方法であって、
目標ビデオの複数の連続した画面フレームを取得し、前記複数の連続した画面フレームのうちのn番目の画面フレームに対応するn番目の追跡目標エリアを設定するステップであって、nは正の整数である、ステップと、
前記n番目の追跡目標エリアに対して特徴抽出操作を行い、前記n番目の追跡目標エリアに対応するn番目のエリア入力特徴図を取得するステップであって、前記n番目のエリア入力特徴図は、複数の特徴チャネルを含むものである、ステップと、
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算するステップであって、前記n番目の重みフィルタは、前記n番目のエリア入力特徴図における各特徴チャネルに対応するフィルタ重みを含むものである、ステップと、
前記n番目の重みフィルタ、及び前記複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図であるn+1番目の画面フレーム入力特徴図を用いてn+1番目の出力応答を計算し、前記n+1番目の出力応答に従って前記n+1番目の画面フレームに対応するn+1番目の追跡目標エリアを特定するステップと、
全ての連続した画面フレームの追跡目標エリアを取得するまで、前記n+1番目の追跡目標エリアに対して特徴抽出を行い、前記n+1番目の追跡目標エリアに対応するn+1番目のエリア入力特徴図を取得し、前記n+1番目のエリア入力特徴図に対応するn+1番目の重みフィルタを計算するステップと、
を含むことを特徴とする目標追跡方法。
【請求項2】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算する前記ステップは、
リッジ回帰判別関数に基づいて、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを前記相関フィルタモデルの制約条件とするステップと、
拡張ラグランジュ乗数法により、制約条件を有する相関フィルタモデルを変換し、エリアプーリング相関フィルタモデルを生成するステップと、
共役勾配降下法により、前記エリアプーリング相関フィルタモデルを最適化することによって、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを取得するステップと、を含むことを特徴とする請求項1に記載の目標追跡方法。
【請求項3】
前記目標追跡方法は、
隣接プーリングエリアの範囲が重ならないように、前記追跡目標エリアの複数のプーリングエリアの範囲を設定するステップをさらに含むことを特徴とする請求項1又は2に記載の目標追跡方法。
【請求項4】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算する前記ステップは、
1番目のエリア入力特徴図を取得する場合、前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、1番目の画面フレームに対応する1番目の追跡目標エリアの入力特徴図である前記1番目のエリア入力特徴図、及び追跡目標エリアの予期出力応答を用いて前記1番目のエリア入力特徴図に対応する1番目の重みフィルタを計算するステップと、
n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、nが2以上である場合、前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、前記n番目の画面フレームの入力特徴図である前記n番目の画面フレーム入力特徴図、及び前記n-1番目の画面フレームに対応する重みフィルタである前記n-1番目の重みフィルタを用いてn番目の出力応答を計算するステップと、
前記n番目の出力応答により、前記n番目の画面フレームの追跡目標エリアの位置、及び前記n番目のエリア入力特徴図を取得するステップと、
前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、前記追跡目標エリアの予期出力応答、及び前記n番目のエリア入力特徴図を用いて前記n番目の重みフィルタを計算するステップと、を含むことを特徴とする請求項1~3のいずれか一項に記載の目標追跡方法。
【請求項5】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算する前記ステップは、
前記n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、nが2以上である場合、前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、前記n番目の画面フレームの入力特徴図である前記n番目の画面フレーム入力特徴図、及びn-1番目の画面フレームに対応する重みフィルタである前記n-1番目の重みフィルタを用いてn番目の出力応答を計算するステップと、
前記n番目の出力応答により、前記n番目の画面フレームの追跡目標エリアの位置、及び前記n番目のエリア入力特徴図を取得するステップと、
前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、前記n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて前記n番目の重みフィルタを計算するステップと、を含むことを特徴とする請求項1~3のいずれか一項に記載の目標追跡方法。
【請求項6】
前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、前記n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて前記n番目の重みフィルタを計算する前記ステップは、
前記相関フィルタアルゴリズム及び前記平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、前記n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて各画面フレームの相関フィルタ損失関数の線形加重融合を行うことで、マルチフレームに基づく相関フィルタモデルを得るステップと、
前記マルチフレームに基づく相関フィルタモデルを計算し、前記n番目の重みフィルタを得るステップと、を含むことを特徴とする請求項5に記載の目標追跡方法。
【請求項7】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算する前記ステップは、
前記n番目の重みフィルタに対して二値化マスクを設定することによって、前記n番目の追跡目標エリア以外に対応する重みフィルタのフィルタ重みを小さくするステップを含むことを特徴とする請求項1~3のいずれか一項に記載の目標追跡方法。
【請求項8】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応するn番目の重みフィルタを計算する前記ステップは、
前記n番目の重みフィルタに対して正則化重みを設定することによって、前記n番目の重みフィルタの前記n番目の追跡目標エリアの中心部分におけるフィルタ重みを大きくするステップを含むことを特徴とする請求項1~3のいずれか一項に記載の目標追跡方法。
【請求項9】
請求項1~8のいずれか一項に記載の目標追跡方法をコンピュータに実行させるコンピュータプログラム。
【請求項10】
プロセッサ及びメモリを備え、前記メモリにコンピュータプログラムが記憶されており、前記プロセッサが前記コンピュータプログラムを実行することにより請求項1~8のいずれか一項に記載の目標追跡方法を実行する、電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願]
本願は、2019年05月10日に提出された、出願番号が201910391497.7であり、発明の名称が「画面における目標の追跡方法、装置、記憶媒体及び電子機器」である中国特許出願の優先権を主張し、その全ての内容を引用により本願に組み込む。
【0002】
[技術分野]
本願は、画像データ処理の分野に関し、特に目標追跡方法、装置、記憶媒体及び電子機器に関する。
【背景技術】
【0003】
目標追跡は、ビデオの連続したフレームにおいて、手動で指定された目標対象に対して位置決め操作を行うものである。ここ数十年、目標追跡は、自動運転、マンマシンインタラクション及び行動認識の分野で幅広く応用されているが、トレーニングデータが限られているため、目標追跡は、依然として非常に困難な作業である。
【0004】
相関フィルタに基づく目標追跡アルゴリズムは、現在の目標追跡方法の一つである。巡回畳み込みによるサンプルの高速取得は、相関フィルタ(Correlation Filters)の特徴である。2015年、Danelljanらは、フィルタに正則化項を加えてエッジ情報を抑制し、目標の中心エリアを学習するようにフィルタを促し、境界効果を効果的に解決することを提案した。2017年、BACF(Learning Background-Aware Correlation Filters for Visual Tracking)アルゴリズムは、境界効果を解決するためのもう一つの実行可能な方法を提供し、実際のトレーニングサンプルを生成し、学習フィルタの認識能力を大幅に向上させた。
【0005】
しかしながら、関連技術において相関フィルタに基づく目標追跡アルゴリズムにおける複雑な公式には、多数のパラメータを導入する必要があり、限られたサンプル数では、マッチング操作を実行できず、パラメータの過剰適合が発生する可能性がある。通常のプーリング操作によりパラメータ削減操作を実行する場合、サンプル数も同様に削減され、依然としてパラメータとサンプル数の不均衡という技術課題を効果的に解決することができない。
【発明の概要】
【0006】
本願は、パラメータの過剰適合が発生しないだけでなく、対応する相関フィルタモデルのロバスト性を高めることができる目標追跡方法及び目標追跡装置を提供することにより、目標追跡の精度及び有効性を向上させる。
【0007】
本願の実施例は、
目標ビデオの複数の連続した画面フレームを取得し、前記複数の連続した画面フレームのうちのn番目の画面フレームに対応するn番目の追跡目標エリアを設定するステップであって、nは正の整数である、ステップと、
前記n番目の追跡目標エリアに対して特徴抽出操作を行い、前記n番目の追跡目標エリアに対応する、n番目のエリア入力特徴図(特徴マップ、Feature mapとも呼ぶ)を取得するステップであって、前記n番目のエリア入力特徴図は複数の特徴チャネルを含むものであるステップと、
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応する、n番目の重みフィルタを計算するステップであって、前記n番目の重みフィルタは、前記n番目のエリア入力特徴図における各特徴チャネルに対応するフィルタ重みを含むものであるステップと、
前記n番目の重みフィルタ、及び前記複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図であるn+1番目の画面フレーム入力特徴図を用いてn+1番目の出力応答を計算し、前記n+1番目の出力応答に従って前記n+1番目の画面フレームに対応するn+1番目の追跡目標エリアを特定するステップと、
全ての連続した画面フレームの追跡目標エリアを取得するまで、前記n+1番目の追跡目標エリアに対して特徴抽出を行い、前記n+1番目の追跡目標エリアに対応するn+1番目のエリア入力特徴図を取得し、前記n+1番目のエリア入力特徴図に対応するn+1番目の重みフィルタを計算するステップと、を含む目標追跡方法を提供する。
【0008】
本願の実施例は、さらに、
目標ビデオの複数の連続した画面フレームを取得し、前記複数の連続した画面フレームのうちのn番目の画面フレームに対応するn番目の追跡目標エリアを設定するための追跡目標エリア設定モジュールであって、nは正の整数である、追跡目標エリア設定モジュールと、
前記n番目の追跡目標エリアに対して特徴抽出操作を行い、前記n番目の追跡目標エリアに対応する、n番目のエリア入力特徴図を取得するための特徴抽出モジュールであって、前記n番目のエリア入力特徴図は複数の特徴チャネルを含むものである特徴抽出モジュールと、
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、前記n番目のエリア入力特徴図に対応する、n番目の重みフィルタを計算するための重みフィルタ計算モジュールであって、前記n番目の重みフィルタは、前記n番目のエリア入力特徴図における各特徴チャネルに対応するフィルタ重みを含むものである重みフィルタ計算モジュールと、
前記n番目の重みフィルタ、及び前記複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図であるn+1番目の画面フレーム入力特徴図を利用し、n+1番目の出力応答を計算し、前記n+1番目の出力応答に従って前記n+1番目の画面フレームに対応するn+1番目の追跡目標エリアを特定するための追跡目標エリア特定モジュールと、
特徴抽出操作をカウントするためのカウントモジュールと、を含む目標追跡装置を提供する。
【0009】
本願に記載の目標追跡装置では、相関フィルタモデル作成ユニットは、
前記n番目の重みフィルタに対して二値化マスクを設定することによって、前記n番目の追跡目標エリア以外に対応する重みフィルタのフィルタ重みを小さくするための二値化マスク設定サブユニットを含む。
【0010】
本願に記載の目標追跡装置では、相関フィルタモデル作成ユニットは、
前記n番目の重みフィルタに対して正則化重みを設定することによって、前記n番目の重みフィルタの前記n番目の追跡目標エリアの中心部分におけるフィルタ重みを大きくするための正則化重み設定サブユニットを含む。
【0011】
本願の実施例は、プロセッサ実行可能な指令が記憶されており、前記指令を、1つ又は複数のプロセッサによりローディングすることで上記の目標追跡方法を実行する記憶媒体をさらに提供する。
【0012】
本願の実施例は、プロセッサ及びメモリを備え、前記メモリにコンピュータプログラムが記憶されており、前記プロセッサが前記コンピュータプログラムを呼び出すことで上記の目標追跡方法を実行する電子機器をさらに提供する。
【0013】
関連技術に比べて、本願の目標追跡方法、装置、記憶媒体及び電子機器は、入力特徴図の異なる特徴チャネルに対応するフィルタ重みに対して平均プーリング操作を行うことにより、アルゴリズムパラメータを削減する。また、追跡目標エリアを減らす必要がないため、入力特徴図のトレーニングサンプルの特徴の数を確保し、パラメータの過剰適合の発生を回避し、目標追跡の精度及び有効性を向上させた。さらに、目標追跡方法及び目標追跡装置においてパラメータの過剰適合や追跡精度の低下を引き起こしやすいという技術課題を効果的に解決した。
【図面の簡単な説明】
【0014】
【
図1】本願に係る目標追跡方法の一実施例のフローチャートである。
【
図2】本願に係る目標追跡方法の一実施例のステップS103のフローチャートである。
【
図3】制約条件を有する相関フィルタモデルによる画面フレームの追跡目標エリアの処理プロセスの模式図である。
【
図4】本願に係る目標追跡方法の一実施例の画面フレームの特徴変化の模式図である。
【
図5】本願に係る目標追跡装置の一実施例の構造模式図である。
【
図6】本願に係る目標追跡装置の一実施例の重みフィルタ計算モジュールの構造模式図である。
【
図7】本願に係る目標追跡装置の一実施例の重みフィルタ計算モジュールの相関フィルタモデル作成ユニットの構造模式図である。
【
図8】本願に係る目標追跡方法及び目標追跡装置の目標追跡模式図である。
【
図9】本願に係る目標追跡方法及び目標追跡装置の目標追跡フローチャートである。
【
図10】本願に係る目標追跡装置の位置する電子機器の作業環境の構造模式図である。
【発明を実施するための形態】
【0015】
図面を参照しながら説明する。図面では、同じ符号で同じ構成要素を表す。本願の原理は、適切な演算環境での実行を例として説明される。以下の説明は、例示された本願の任意の実施例に基づくものであり、本願の明細書で詳細に説明されていない他の任意の実施例を限定するものとして解釈されるべきではない。
【0016】
以下の説明では、本願の任意の実施例は、特に明記しない限り、1つまたは複数のコンピュータによって実行される作業のステップ及び符号を参照して説明される。したがって、これらのステップ及び操作は、コンピュータによって実行されると何回も表現するが、構造化された形式でデータの電子信号を表すコンピュータ処理ユニットによって処理されることを含むと理解できる。このような処理は、当該データを変換するか、または、当該コンピュータのメモリシステム内の位置にテータを維持することにより、当該コンピュータの動作を再構成するか、または、本分野の技術者が熟知した方法で当該コンピュータの動作を変更することができる。当該データによって維持されたデータ構造は、当該メモリの実体位置であり、当該データのフォーマットによって定義された特定の特性を有する。しかし、本願の原理を、上記の内容で説明するが、限定する意図はない。本分野の技術者は、下記の様々なステップ及び操作がハードウェアでも実施できることを理解できる。
【0017】
本願の目標追跡方法及び目標追跡装置は、任意の電子機器に配置可能であり、ビデオ画面における所定又は特定のオブジェクトに対する追跡操作を行うためのものである。当該電子機器は、ウェアラブルデバイス、ヘッドマウントデバイス、医療および健康プラットフォーム、パーソナルコンピュータ、サーバコンピュータ、ハンドヘルドデバイス又はラップトップデバイス、モバイルデバイス(例えば、携帯電話、パーソナルデジタルアシスタント(PDA)、メディアプレイヤーなど)、マルチプロセッサシステム、消費者向け電子機器、小型コンピュータ、大型コンピュータ、上記の任意のシステム又はデバイスを備える分散コンピューティング環境などを含むが、これらに限定されない。当該電子機器は、画面処理端末又は画面処理サーバであってもよい。ユーザは、当該電子機器を介してビデオの連続した画面フレームにおける所定又は特定のオブジェクトを正確に特定し、ビデオにおける所定又は特定のオブジェクトに対する高精度の有効的な追跡を実行することができる。
【0018】
図1を参照されたい。
図1は、本願に係る目標追跡方法の一実施例のフローチャートである。本実施例の目標追跡方法は、上記の電子機器により実施できる。本実施例の目標追跡方法は、以下のステップを含む。
【0019】
ステップS101:目標ビデオの複数の連続した画面フレームを取得し、複数の連続した画面フレームのうちのn番目の画面フレームの追跡目標エリアを設定する。ただし、nは、正の整数である。
【0020】
当該追跡目標エリアは、n番目の画面フレームに対応する追跡目標エリアであるため、当該追跡目標エリアは、n番目の追跡目標エリアとすることができる。
【0021】
ステップS102:n番目の画面フレームの追跡目標エリアに対して特徴抽出操作を行い、複数の特徴チャネルを含む追跡目標エリアの入力特徴図を取得する。
【0022】
当該追跡目標エリアは、n番目の追跡目標エリアであり、当該入力特徴図は当該n番目の追跡目標エリアに対応する入力特徴図であり、当該入力特徴図は、追跡目標エリアの特徴を示すため、当該入力特徴図は、n番目のエリア入力特徴図とすることができる。
【0023】
ステップS103:相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの入力特徴図に対応し、入力特徴図における各特徴チャネルに対応するフィルタ重みを含む重みフィルタを計算する。
【0024】
当該入力特徴図は、n番目のエリア入力特徴図であり、当該重みフィルタは、当該n番目のエリア入力特徴図に対応する重みフィルタであるため、当該重みフィルタは、n番目の重みフィルタとすることができる。
【0025】
ステップS104:重みフィルタ及び複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図を用いてn+1番目の画面フレームの出力応答を計算し、n+1番目の画面フレームの出力応答に従って、n+1番目の画面フレームの追跡目標エリアを特定する。
【0026】
当該入力特徴図は、n+1番目の画面フレームに対応する入力特徴図であり、当該入力特徴図は、画面フレームの特徴を示すため、当該入力特徴図は、n+1番目の画面フレーム入力特徴図とすることができる。当該出力応答は、n+1番目の画面フレームに対応する出力応答であるため、当該出力応答は、n+1番目の出力応答とすることができる。
【0027】
ステップS105:n+1番目の画面フレームの追跡目標エリアに対して特徴抽出を行い、n+1番目の画面フレームの追跡目標エリアの入力特徴図を取得し、全ての連続した画面フレームの追跡目標エリアを取得するまでn+1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタを計算する。
【0028】
当該追跡目標エリアは、n+1番目の画面フレームに対応する追跡目標エリアであるため、当該追跡目標エリアは、n+1番目の追跡目標エリアとすることができる。当該入力特徴図は、n+1番目の追跡目標エリアに対応する入力特徴図であり、当該入力特徴図は、追跡目標エリアの特徴を示すため、当該入力特徴図は、n+1番目のエリア入力特徴図とすることができる。当該重みフィルタは、n+1番目のエリア入力特徴図に対応する重みフィルタであるため、当該重みフィルタは、n+1番目の重みフィルタとすることができる。
【0029】
以下では、複数の連続した画面フレームのうちの1番目の画面フレームから処理を行う場合を例として、本実施例の目標追跡方法の各ステップの流れを詳しく説明する。
【0030】
ステップS101では、電子機器(例えば、画面処理サーバ)は、目標ビデオの複数の連続した画面フレームを取得する。目標ビデオにおける特定又は所定のオブジェクトに対する追跡操作を容易に行うために、ここでは、複数の連続した画面フレームのうちの1番目の画面フレームに対応する1番目の追跡目標エリアを設定する。当該1番目の追跡目標エリアは、複数の連続した画面フレームのうちの1番目の画面フレームの追跡目標エリアである。
【0031】
ここで言う1番目の追跡目標エリアとは、特定又は所定のオブジェクトの画面フレームにおける画面エリアであり、ここで言う特定又は所定のオブジェクトとは、予め設定された人、動物、乗り物又は任意の移動オブジェクトであってもよい。これによって、1番目の画面フレームにおける追跡目標エリアの特徴に従って、後続の他の画面フレーム内で対応する追跡目標エリアを見つけることができる。
【0032】
ステップS102では、電子機器は、n番目の追跡目標エリアに対して特徴抽出操作を行い、n番目の追跡目標エリアに対応するn番目のエリア入力特徴図を取得する。たたし、n=1である。当該n番目の追跡目標エリアは、n番目の画面フレームの追跡目標エリアであり、n番目のエリア入力特徴図は、n番目の画面フレームの追跡目標エリアの入力特徴図である。
【0033】
任意には、ここでは、n番目の追跡目標エリアをa*aサイズのグリッドエリアに分割し、その後、d種類の異なるサイズの畳み込みカーネルによって、上記のa*aサイズのグリッドエリアに対して畳み込み及びサンプリング操作を行うことで、d個の特徴チャネルを有するn番目のエリア入力特徴図を取得することができる。畳み込みカーネルのサイズは、グリッドエリアのサイズよりも小さい。
【0034】
ステップS103では、電子機器は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、1番目のエリア入力特徴図に対応し、入力特徴図における各特徴チャネルに対応するフィルタ重みを含む1番目の重みフィルタを計算する。当該1番目の重みフィルタは、1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。
【0035】
図2を参照されたい。
図2は、本願に係る目標追跡方法の上記の実施例のステップS103のフローチャートである。当該ステップS103は、以下のステップを含む。
【0036】
ステップS201:電子機器は、リッジ回帰判別関数に基づいて、1番目のエリア入力特徴図に対応する1番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件とする。
【0037】
任意には、電子機器は、リッジ回帰判別関数に基づいて、1番目のエリア入力特徴図に対応する1番目の重みフィルタの相関フィルタモデルを以下のように作成する。
【数1】
ただし、yは追跡目標エリアの予期出力応答であり、x
dは追跡目標エリアの特徴チャネルdの入力特徴図であり、ω
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応するフィルタ重みであり、Dは特徴チャネルの数であり、p
dは追跡目標エリアの特徴チャネルdに対応する重みフィルタの二値化マスクであり、g
dは追跡目標エリアの特徴チャネルdに対応する重みフィルタの正則化重みである。
【0038】
出力応答は、対応する重みフィルタの作用での画面フレームにおける追跡目標エリアと背景エリアのディープネットワークによって抽出された畳み込み特徴の目標応答であり、予期出力応答は、画面フレームの追跡目標エリアと背景エリアを区別できる予め設定した出力応答であり、当該予期出力応答は、ガウス分布を満たすべきであり、即ち、追跡目標エリアに近いほど、そのエリア特徴に対応する目標応答が大きくなる。
【0039】
二値化マスクは、追跡目標エリア以外に対応する重みフィルタのフィルタ重みを効果的に小さくし、後続の背景エリアの追跡目標エリアの判定への影響を減らすことができる。入力特徴図に対応するエリアが追跡目標エリア以外の背景エリアであると判断される場合、二値化マスクにより相関重みフィルタのフィルタ重みを小さくする。ユーザは、自分のニーズに応じて上記の二値化マスクを使用するか否かを選択することできる。
【0040】
正則化重みは、追跡目標エリアに対応する重みフィルタの追跡目標エリアの中心部分におけるフィルタ重みを効果的に大きくすることができ、即ち、追跡目標エリアの中心部分のフィルタ重みを直接増加させることができる。追跡目標エリアの中心部分の画面特徴は最も重要であるため、追跡目標エリアの中心部分のフィルタ重みを増加させることで、追跡目標エリアの認識の精度をさらに高めることができる。ユーザは、自分のニーズに応じて、上記の正則化重みを使用するか否かを選択することができる。
【0041】
続いて、電子機器は、プーリングエリアにおける同じ特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件として設定する。
【数2】
ただし、Pは、対応するプーリングエリアであり、Kは、重みが等しい等式の制約の数であり、プーリングエリアにおける入力特徴図の特徴の数がkである場合、K=C
k
2であり、i、jはプーリングエリアにおける入力特徴図に対応する位置である。
【0042】
ここでのプーリングエリアは、追跡目標エリアにおける範囲のサイズの設定(例えば、2*2又は3*3のピクセルサイズの設定)であり、また、隣接プーリングエリアは、境界を共有してもよいが、隣接プーリングエリアの範囲が重ならない。これによって、プーリングエリアを迅速に設定することができ、また、相関フィルタモデルにおけるアルゴリズムパラメータを効果的に削減し、パラメータの過剰適合の発生を回避し、目標追跡の精度を向上させることができる。
【0043】
上記の制約条件を有する相関フィルタモデルによる画面フレームの追跡目標エリアの処理プロセスは、
図3に示される。つまり、1番目の追跡目標エリアに対して畳み込み及びサンプリングにより切り抜き操作を行い、その後、切り抜かれた特徴図における隣接エリアに対してプーリング操作を行う。即ち、プーリングエリアにおけるフィルタ重みを設定することにより、切り抜かれた隣接エリアのプーリング操作が完成し、その後、対応する1番目のエリア入力特徴図が取得される。
【0044】
元の画面フレームに対してプーリング操作を直接行わない(即ち、元の画面フレームのサイズを縮小しない)ことにより、切り抜かれたサンプル数が多く、また、それぞれの切り抜かれた画面エリアの隣接エリアに対してプーリング操作を行うことで、相関フィルタモデルにおけるアルゴリズムパラメータも削減されるため、パラメータの過剰適合の発生を効果的に回避することができる。
【0045】
ステップS202:電子機器は、拡張ラグランジュ乗数法により、ステップS201で取得された制約条件を有する相関フィルタモデルを変換し、エリアプーリング相関フィルタモデルを生成する。
【0046】
まず、パーセバルの定理に基づいて、上記の相関フィルタモデル及び対応する制約条件をフーリエ変換し、変換後の相関フィルタモデルは、以下のとおりである。
【数3】
ただし、F
dはフーリエ変換行列であり、F
d
-1はフーリエ逆変化行列であり、y^は追跡目標エリアの出力応答のフーリエ係数であり、P^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応する二値化マスクのフーリエ係数構造のテプリッツ行列であり、ω^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応するフィルタ重みのフーリエ係数であり、x^
dは追跡目標エリアの特徴チャネルdの入力特徴図のフーリエ係数であり、G^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応する正則化重みのフーリエ係数構造のテプリッツ行列である。
【0047】
ここで、V
1
d及びV
2
dは、1又は0をエントリとするインデックス行列であり、ただし、
【数4】
【0048】
上記の変換後の相関フィルタモデルは、次のように簡略化することができる。
【数5】
【0049】
その後、電子機器は、拡張ラグランジュ乗数法により、簡略化された相関フィルタモデル及び制約条件を変換し、エリアプーリング相関フィルタモデルを生成する。エリアプーリング相関フィルタモデルは、次のとおりである。
【数6】
【0050】
ステップS203:電子機器は、共役勾配降下法により、ステップS202で取得されたエリアプーリング相関フィルタモデルを最適化することによって、1番目のエリア入力特徴図に対応する1番目の重みフィルタを取得する。
【0051】
ここで、交互方向乗数法により、エリアプーリング相関フィルタモデルにおける最適化されたラグランジュ乗数及びフィルタ重みを交互に取得する。ラグランジュ乗数が一定である場合、共役勾配降下法により、対応するフィルタ重みを計算し、即ち、上記のエリアプーリング相関フィルタモデルにおけるフィルタ重みω^
dに関する目標関数の勾配を計算し、勾配をゼロベクトルに設定するとき、次の線型方程式系を得ることができる。
【数7】
【0052】
【0053】
【0054】
上記の反復最適化演算により、最終的に追跡目標エリアの入力特徴図に対応する以下の重みフィルタを取得することができる。
【数10】
【0055】
このように、1番目のエリア入力特徴図及び追跡目標エリアの予期出力応答により、1番目の重みフィルタを計算するプロセスが完成する。
【0056】
任意には、1番目のエリア入力特徴図及び予期出力応答を設定する(画面フレームにおける特定のオブジェクトを追跡目標エリアの中心として設定する)場合、電子機器は、直接、上記の相関フィルタアルゴリズム及び平均プーリング制約条件により、1番目のエリア入力特徴図及び予期出力応答を用いて1番目の重みフィルタを計算する。
【0057】
なお、本実施例において、n=1である場合を例として、1番目のエリア入力特徴図及び追跡目標エリアの予期出力応答により、1番目の重みフィルタを計算するプロセスを詳細に説明した。その後、1番目の画面フレームに対応する1番目の重みフィルタにより、引き続き1番目の画面フレーム以降の複数の画面フレームを処理することができるため、n=1ではなくなり、1ずつ増加させ、例えば、n=2、3、4…とし、つまり、nは、2以上であってもよい。
【0058】
そのため、その後、n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nは2以上である場合、電子機器は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを用いてn番目の出力応答を計算することができる。n番目の画面フレーム入力特徴図は、n番目の画面フレームの入力特徴図であり、n-1番目の重みフィルタは、n-1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタであり、n番目の出力応答は、n番目の画面フレームの出力応答である。
【0059】
その後、電子機器は、n番目の出力応答により、n番目の追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。即ち、電子機器は、出力応答が最大になる点をn番目の追跡目標エリアの中心とし、n番目のエリア入力特徴図を決定する。n番目の追跡目標エリアは、n番目の画面フレームの追跡目標エリアであり、n番目のエリア入力特徴図は、n番目の画面フレームの追跡目標エリアの入力特徴図である。
【0060】
そして、電子機器は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、及びn番目のエリア入力特徴図を用いてn番目のエリア入力特徴図に対応するn番目の重みフィルタを計算することができる。当該n番目の重みフィルタは、n番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。本ステップと上記の1番目の重みフィルタの計算プロセスとは同様である。
【0061】
算出されたn番目の重みフィルタの精度をさらに高めるために、電子機器は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いてn番目の重みフィルタを計算することができる。
【0062】
任意には、電子機器は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて各画面フレームに関連するフィルタ損失関数の線形加重融合を行うことで、マルチフレームに基づく相関フィルタモデルを得る。
【0063】
即ち、下記のマルチフレームに基づく相関フィルタモデルを取得する。
【数11】
【0064】
n番目の画面フレームの前の画面フレームの数が50フレーム以下である場合、全てのn番目の画面フレームの前の画面フレームの入力特徴図を取ってn番目の画面フレームの重みフィルタの計算を行うことができる。n番目の画面フレームの前の画面フレームの数が50フレームを超える場合、n番目の画面フレームの前の画面フレームを融合し、融合された50個の画面フレームを生成し、融合された50個の画面フレームの入力特徴図により、n番目の画面フレームに対応するn番目の重みフィルタの計算を行うことができる。
【0065】
n番目の画面フレームに近いほど、画面フレームに対応する重みが大きくなる。
【0066】
ステップS104では、電子機器は、複数の連続した画面フレームのうちのn+1番目の画面フレームに対して特徴抽出を行うことで、n+1番目の画面フレーム入力特徴図を得る。ここでは、n+1=2である。当該n+1番目の画面フレーム入力特徴図は、n+1番目の画面フレームの入力特徴図である。
【0067】
その後、電子機器は、ステップS103で取得された1番目の重みフィルタを用いて2番目の出力応答を計算し、当該2番目の出力応答は、2番目の画面フレームの入力特徴図に対応する出力応答である。また、2番目の出力応答とステップS102における出力応答とを比較し、ステップS102における出力応答(最大の出力応答)に最も近いものに対応する画面フレームエリアを2番目の追跡目標エリアとして特定し、当該2番目の追跡目標エリアは、2番目の画面フレームの追跡目標エリアである。
【0068】
ステップS105では、特徴抽出操作をカウントする。ステップS102を改めて実行し、特徴抽出操作の実行回数が1回増加したため、この際に特徴抽出操作をカウントした結果、特徴抽出操作の実行回数は2回である。ステップS104において目標ビデオのすべての連続した画面フレームの追跡目標エリアを取得するまで、2番目のエリア入力特徴図に対応する2番目の重みフィルタを計算する。当該2番目のエリア入力特徴図は、2番目の画面フレームの追跡目標エリアの入力特徴図であり、当該2番目の重みフィルタは、2番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。
【0069】
こうすることで、電子機器は、すべての連続した画面フレームの追跡目標エリアにより、目標ビデオにおける所定又は特定のオブジェクトを効果的に追跡できる。
【0070】
このように、本実施例の目標追跡方法による目標ビデオにおける所定又は特定のオブジェクトの追跡プロセスが完成する。
【0071】
図4は、本願に係る目標追跡方法の上記の実施例の画面フレームの特徴変化の模式図である。曲線2c1は、関連技術に係る目標追跡方法の第1フレームと他の各フレームにおける同じエリアの特徴の差のL2ノルム距離の変化曲線であり、曲線2c2は、本実施例に係る目標追跡方法の第1フレームと他の各フレームにおける同じエリアの特徴の差のL2ノルム距離の変化曲線である。
図4から分かるように、本実施例の目標追跡方法におけるL2ノルム距離の変化幅が小さく、即ち、同じ特徴エリアの異なる画面フレームにおける特徴の差異が小さく、これにより、目標ビデオにおける所定又は特定のオブジェクトの効果的な追跡操作をより良好に実現することができる。
【0072】
本実施例の目標追跡方法は、入力特徴図の異なる特徴チャネルに対応するフィルタ重みに対して平均プーリング操作を行うことにより、アルゴリズムパラメータが削減される。また、追跡目標エリアを減らす必要がないため、入力特徴図のトレーニングサンプルの特徴の数を確保し、パラメータの過剰適合の発生を回避し、目標追跡の精度及び有効性を向上させた。
【0073】
本願は、目標追跡装置をさらに提供する。
図5を参照されたい。
図5は、本願に係る目標追跡装置の一実施例の構造模式図である。本実施例の目標追跡装置は、上記の目標追跡方法の実施例によって実施できる。本実施例の目標追跡装置30は、追跡目標エリア設定モジュール31、特徴抽出モジュール32、重みフィルタ計算モジュール33、追跡目標エリア特定モジュール34、カウントモジュール35及びモデル設定モジュール36を含む。
【0074】
追跡目標エリア設定モジュール31は、目標ビデオの複数の連続した画面フレームを取得し、複数の連続した画面フレームのうちのn番目の画面フレームの追跡目標エリアを設定するためのものであり、ただし、nは、正の整数である。特徴抽出モジュール32は、n番目の画面フレームの追跡目標エリアに対して特徴抽出操作を行い、追跡目標エリアの入力特徴図を取得するためのものである。重みフィルタ計算モジュール33は、関連するフィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタを計算するためのものである。追跡目標エリア特定モジュール34は、重みフィルタ及び複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図を用いてn+1番目の画面フレームの出力応答を計算し、n+1番目の画面フレームの出力応答によりn+1番目の画面フレームの追跡目標エリアを特定するためのものである。カウントモジュール35は、特徴抽出操作をカウントするためのものである。モデル設定モジュール36は、追跡目標エリアのプーリングエリアの範囲を設定するためのものである。
【0075】
ここで、上記の方法の実施例と同じ理由により、複数の連続した画面フレームのうちのn番目の画面フレームの追跡目標エリアは、n番目の追跡目標エリアとすることができ、n番目の画面フレームの追跡目標エリアの入力特徴図は、n番目のエリア入力特徴図とすることができ、n番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタは、n番目の重みフィルタとすることができる。複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図は、n+1番目の画面フレームの入力特徴図とすることができ、n+1番目の画面フレームの出力応答は、n+1番目の出力応答とすることができる。n+1番目の画面フレームの追跡目標エリアは、n+1番目の追跡目標エリアとすることができる。
【0076】
図6を参照されたい。
図6は、本願に係る目標追跡装置の一実施例の重みフィルタ計算モジュールの構造模式図である。当該重みフィルタ計算モジュール33は、相関フィルタモデル作成ユニット41、エリアプーリング相関フィルタモデル生成ユニット42及びモデル最適化ユニット43を含む。
【0077】
相関フィルタモデル作成ユニット41は、リッジ回帰判別関数に基づいて、n番目のエリア入力特徴図に対応するn番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件とするためのものである。エリアプーリング相関フィルタモデル生成ユニット42は、拡張ラグランジュ乗数法により制約条件を変換し、エリアプーリング相関フィルタモデルを生成するためのものである。モデル最適化ユニット43は、共役勾配降下法により、エリアプーリング相関フィルタモデルを最適化することによって、n番目のエリア入力特徴図に対応するn番目の重みフィルタを取得するためのものである。
【0078】
図7を参照されたい。
図7は、本願に係る目標追跡装置の一実施例の重みフィルタ計算モジュールの相関フィルタモデル作成ユニットの構造模式図である。当該相関フィルタモデル作成ユニット41は、二値化マスク設定サブユニット51及び正則化重み設定サブユニット52を含む。
【0079】
二値化マスク設定サブユニット51は、n番目の重みフィルタに対して二値化マスクを設定し、n番目の追跡目標エリア以外に対応する重みフィルタのフィルタ重みを小さくするためのものである。正則化重み設定サブユニット52は、n番目の重みフィルタに対して正則化重みを設定し、n番目の重みフィルタのn番目の追跡目標エリアの中心部分におけるフィルタ重みを大きくするためのものである。
【0080】
本実施例の目標追跡装置30は、使用時に、まず、追跡目標エリア設定モジュール31によって目標ビデオの複数の連続した画面フレームを取得する。目標ビデオにおける特定又は所定のオブジェクトを追跡するためように、ここでは、複数の連続した画面フレームのうちの1番目の画面フレームに対応する1番目の追跡目標エリアを設定する。当該1番目の追跡目標エリアは、複数の連続した画面フレームのうちの1番目の画面フレームの追跡目標エリアである。
【0081】
ここで言う1番目の追跡目標エリアとは、特定又は所定のオブジェクトの画面フレームにおける画面エリアであり、ここで言う特定又は所定のオブジェクトは、予め設定された人、動物、乗り物又は任意の移動オブジェクトであってもよい。これによって、1番目の画面フレームにおける追跡目標エリアの特徴に従って、後続の他の画面フレーム内で対応する追跡目標エリアを見つけることができる。
【0082】
その後、特徴抽出モジュール32は、n番目の追跡目標エリアに対して特徴抽出操作を行い、n番目の追跡目標エリアに対応するn番目のエリア入力特徴図を取得する。ここでは、n=1である。当該n番目の追跡目標エリアは、n番目の画面フレームの追跡目標エリアであり、当該n番目のエリア入力特徴図は、複数の連続した画面フレームのうちのn番目の画面フレームの追跡目標エリアの入力特徴図である。
【0083】
任意には、特徴抽出モジュール32は、n番目の追跡目標エリアをa*aサイズのグリッドエリアに分割し、その後、d種類の異なるサイズの畳み込みカーネルを用いて上記のa*aサイズのグリッドエリアに対して畳み込み及びサンプリング操作を行うことで、d個の特徴チャネルを有するn番目のエリア入力特徴図を取得することができる。畳み込みカーネルのサイズは、グリッドエリアのサイズよりも小さい。
【0084】
そして、重みフィルタ計算モジュール33は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、1番目のエリア入力特徴図に対応する1番目の重みフィルタを計算する。当該1番目の重みフィルタは、入力特徴図における各特徴チャネルに対応するフィルタ重みを含む。当該1番目の重みフィルタは、1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。
【0085】
重みフィルタ計算モジュール33の相関フィルタモデル作成ユニット41は、リッジ回帰判別関数に基づいて、1番目のエリアに対応する1番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件とするステップを含むことができる。
【0086】
任意には、相関フィルタモデル作成ユニット41は、リッジ回帰判別関数に基づいて、1番目のエリア入力特徴図に対応する1番目の重みフィルタの相関フィルタモデルを以下のように作成する。
【数12】
ただし、yは追跡目標エリアの予期出力応答であり、x
dは追跡目標エリアの特徴チャネルdの入力特徴図であり、ω
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応するフィルタ重みであり、Dは特徴チャネルの数であり、p
dは相関フィルタモデル作成ユニット41の二値化マスク設定サブユニット51によって設定される追跡目標エリアの特徴チャネルdの入力特徴図に対応する二値化マスクであり、g
dは相関フィルタモデル作成ユニット41の正則化重み設定サブユニット52によって設定される追跡目標エリアの特徴チャネルdの入力特徴図に対応する正則化重みである。
【0087】
出力応答は、対応する重みフィルタの作用での画面フレームにおける追跡目標エリアと背景エリアのディープネットワークによって抽出された畳み込み特徴の目標応答であり、予期出力応答は、画面フレームの追跡目標エリアと背景エリアを区別できる予め設定した出力応答であり、当該予期出力応答は、ガウス分布を満たすべきであり、即ち、追跡目標エリアに近いほど、そのエリア特徴に対応する目標応答が大きくなる。
【0088】
二値化マスクは、追跡目標エリア以外に対応する重みフィルタのフィルタ重みを効果的に小さくし、後続の背景エリアの追跡目標エリアの判定への影響を減らすことができる。入力特徴図に対応するエリアが追跡目標エリア以外の背景エリアであると判断される場合、二値化マスクにより相関重みフィルタのフィルタ重みを小さくする。ユーザは、自分のニーズに応じて上記の二値化マスクを使用するか否かを選択することができる。
【0089】
正則化重みは、追跡目標エリアに対応する重みフィルタの追跡目標エリアの中心部分におけるフィルタ重みを効果的に大きくすることができ、即ち、追跡目標エリアの中心部分のフィルタ重みを直接増加させることができる。追跡目標エリアの中心部分の画面特徴は最も重要であるため、追跡目標エリアの中心部分のフィルタ重みを増加させることで、追跡目標エリアの認識の精度をさらに高めることができる。ユーザは、自分のニーズに応じて、上記の正則化重みを使用するか否かを選択することができる。
【0090】
続いて、相関フィルタモデル作成ユニット41は、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件として設定する。
【数13】
ただし、Pは、対応するプーリングエリアであり、Kは、プーリングエリアにおける入力特徴図の特徴の数であり、i、jはプーリングエリアにおける入力特徴図に対応する位置である。
【0091】
ここでのプーリングエリアは、モデル設定モジュール36による追跡目標エリアにおける範囲のサイズの設定(例えば、2*2又は3*3のピクセルサイズの設定)であり、また、隣接プーリングエリアは、境界を共有してもよいが、隣接プーリングエリアの範囲が重ならない。これによって、プーリングエリアを迅速に設定することができ、また、相関フィルタモデルにおけるアルゴリズムパラメータを効果的に削減し、パラメータの過剰適合の発生を回避し、目標追跡の精度を向上させることができる。
【0092】
重みフィルタ計算モジュール33のエリアプーリング相関フィルタモデル生成ユニット42は、拡張ラグランジュ乗数法により、取得された制約条件を有する相関フィルタモデルを変換し、エリアプーリング相関フィルタモデルを生成する。
【0093】
まず、エリアプーリング相関フィルタモデル生成ユニット42は、パーセバルの式に基づいて、上記の相関フィルタモデル及び対応する制約条件をフーリエ変換し、変換後の相関フィルタモデルは、以下のとおりである。
【数14】
ただし、F
dはフーリエ変換行列であり、F
-1
dはフーリエ逆変化行列であり、y^は追跡目標エリアの出力応答のフーリエ係数であり、P^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応する二値化マスクのフーリエ係数構造のテプリッツ行列であり、ω^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応するフィルタ重みのフーリエ係数であり、x^
dは追跡目標エリアの特徴チャネルdの入力特徴図のフーリエ係数であり、G^
dは追跡目標エリアの特徴チャネルdの入力特徴図に対応する正則化重みのフーリエ係数構造のテプリッツ行列である。
【0094】
ここで、V
1
d及びV
2
dは、1又は0をエントリとするインデックス行列であり、ただし、
【数15】
従って、上記の変換後の相関フィルタモデルは、次のように簡略化することができる。
【数16】
【0095】
その後、エリアプーリング相関フィルタモデル生成ユニット42は、拡張ラグランジュ乗数法により、簡略化された相関フィルタモデル及び制約条件を変換し、エリアプーリング相関フィルタモデルを生成する。エリアプーリング相関フィルタモデルは、次のとおりである。
【数17】
【0096】
重みフィルタ計算モジュール33のモデル最適化ユニット43は、共役勾配降下法により、取得されたエリアプーリング相関フィルタモデルを最適化することによって、1番目のエリア入力特徴図に対応する1番目の重みフィルタを取得する。
【0097】
ここで、交互方向乗数法により、エリアプーリング相関フィルタモデルにおける最適化されたラグランジュ乗数及びフィルタ重みを交互に取得する。ラグランジュ乗数が一定である場合、共役勾配降下法により、対応するフィルタ重みを計算し、即ち、上記のエリアプーリング相関フィルタモデルにおけるフィルタ重みに関する目標関数の勾配を計算し、勾配をゼロベクトルに設定するとき、次の線型方程式系を得ることができる。
【数18】
【0098】
【0099】
【0100】
上記の反復最適化演算により、最終的に追跡目標エリアの入力特徴図に対応する以下の重みフィルタを取得することができる。
【数21】
【0101】
このように、1番目のエリア入力特徴図及び追跡目標エリアの予期出力応答により、1番目の重みフィルタを計算するプロセスが完成する。
【0102】
任意には、1番目のエリア入力特徴図及び予期出力応答を設定する(画面フレームにおける特定のオブジェクトを追跡目標エリアの中心として設定する)場合、重みフィルタ計算モジュール33は、直接、上記の相関フィルタアルゴリズム及び平均プーリング制約条件により、1番目のエリア入力特徴図及び予期出力応答を用いて1番目の重みフィルタを計算する。
【0103】
なお、本実施例において、n=1である場合を例として、1番目のエリア入力特徴図及び追跡目標エリアの予期出力応答により、1番目の重みフィルタを計算するプロセスを詳細に説明した。その後、1番目の画面フレームに対応する1番目の重みフィルタにより、引き続き1番目の画面フレーム以降の複数の画面フレームを処理することができるため、n=1ではなくなり、1ずつ増加させ、例えば、n=2、3、4…であり、つまり、nは、2以上であってもよい。
【0104】
そのため、その後、n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nは2以上である場合、重みフィルタ計算モジュール33は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを用いてn番目の出力応答を計算することができる。n番目の画面フレーム入力特徴図は、n番目の画面フレームの入力特徴図であり、n-1番目の重みフィルタは、n-1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタであり、n番目の出力応答は、n番目の画面フレームの出力応答である。
【0105】
その後、重みフィルタ計算モジュール33は、n番目の出力応答により、n番目の追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。即ち、重みフィルタ計算モジュール33は、出力応答が最大になる点をn番目の画面フレームの追跡目標エリアの中心とし、n番目のエリア入力特徴図を決定する。n番目の追跡目標エリアは、n番目の画面フレームの追跡目標エリアであり、n番目のエリア入力特徴図は、n番目の画面フレームの追跡目標エリアの入力特徴図である。
【0106】
そして、重みフィルタ計算モジュール33は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、及びn番目のエリア入力特徴図を用いてn番目のエリア入力特徴図に対応するn番目の重みフィルタを計算することができる。当該n番目の重みフィルタは、n番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。本ステップと上記の1番目の重みフィルタの計算プロセスとは同様である。
【0107】
計算されたn番目の重みフィルタの精度をさらに高めるために、重みフィルタ計算モジュール33は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いてn番目の重みフィルタを計算することができる。
【0108】
任意には、重みフィルタ計算モジュール33は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて各画面フレーム相関フィルタ損失関数の線形加重融合を行うことで、マルチフレームに基づく相関フィルタモデルを得る。
【0109】
即ち、下記のマルチフレームに基づく相関フィルタモデルを取得する。
【数22】
μ
tは各サンプルtの重みであり、即ち、t番目の画面フレームの重みである。
【0110】
n番目の画面フレームの前の画面フレームの数が50フレーム以下である場合、全てのn番目の画面フレームの前の画面フレームの入力特徴図を取ってn番目の画面フレームの重みフィルタの計算を行うことができる。n番目の画面フレームの前の画面フレームの数が50フレームを超える場合、n番目の画面フレームの前の画面フレームを融合し、融合された50個の画面フレームを生成し、融合された50個の画面フレームの入力特徴図により、n番目の画面フレームに対応するn番目の重みフィルタの計算を行うことができる。
【0111】
ここで、n番目の画面フレームに近いほど、画面フレームに対応する重みが大きくなる。
【0112】
その後、追跡目標エリア特定モジュール34は、複数の連続した画面フレームのうちのn+1番目の画面フレームに対して特徴抽出を行うことで、n+1番目の画面フレーム入力特徴図を得る。ここでは、n+1=2である。当該n+1番目の画面フレーム入力特徴図は、n+1番目の画面フレームの入力特徴図である。
【0113】
その後、追跡目標エリア特定モジュール34は、取得された1番目の重みフィルタを用いて2番目の出力応答を計算し、当該2番目の出力応答は、2番目の画面フレームの入力特徴図に対応する出力応答である。また、2番目の出力応答と特徴抽出モジュールの出力応答とを比較し、特徴抽出モジュールの出力応答(最大の出力応答)に最も近いものに対応する画面フレームエリアを2番目の追跡目標エリアとして特定し、当該2番目の追跡目標エリアは、2番目の画面フレームの追跡目標エリアである。
【0114】
最後に、カウントモジュール35は、特徴抽出操作をカウントする。ステップS102を改めて実行し、特徴抽出操作の実行回数が1回増加したため、この際に特徴抽出操作をカウントした結果、特徴抽出操作の実行回数は2回である。重みフィルタ計算モジュール33は、追跡目標エリア特定モジュール34が目標ビデオのすべての連続した画面フレームの追跡目標エリアを取得するまで、2番目のエリア入力特徴図に対応する2番目の重みフィルタを計算する。当該2番目のエリア入力特徴図は、2番目の画面フレームの追跡目標エリアの入力特徴図であり、当該2番目の重みフィルタは、2番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。
【0115】
こうすることで、目標追跡装置30は、すべての連続した画面フレームの追跡目標エリアにより、目標ビデオにおける所定又は特定のオブジェクトを効果的に追跡できる。
【0116】
このように、本実施例の目標追跡装置30による目標ビデオにおける所定又は特定のオブジェクトの追跡プロセスが完成する。
【0117】
本実施例の目標追跡装置は、入力特徴図の異なる特徴チャネルに対応するフィルタ重みに対して平均プーリング操作を行うことにより、アルゴリズムパラメータが削減される。また、追跡目標エリアを減らす必要がないため、入力特徴図のトレーニングサンプルの特徴の数を確保し、パラメータの過剰適合の発生を回避し、目標追跡の精度及び有効性を向上させた。
【0118】
以下では、任意の一実施例により本願に係る目標追跡方法及び目標追跡装置の具体的な動作原理を説明する。
図8及び
図9を参照されたい。
図8は、本願に係る目標追跡方法及び目標追跡装置の目標追跡模式図であり、
図9は、本願に係る目標追跡方法及び目標追跡装置の目標追跡フローチャートである。
【0119】
本実施例では、カメラ61によって特定のオブジェクトの動的ビデオを取得し、そして、画面処理サーバ62によって、当該動的ビデオにおける特定のオブジェクトに対して目標追跡操作を行うことで、特定のオブジェクトの動的ビデオにおける運動軌跡を取得する。本実施例の目標追跡プロセスは、以下のステップを含む。
【0120】
ステップS601:カメラ61は、特定のオブジェクトの動的ビデオを取得し、当該動的ビデオを画面処理サーバ62に送信する。
【0121】
ステップS602:画面処理サーバ62は、動的ビデオを複数の連続した画面フレームに変換し、複数の連続した画面フレームのうちの1番目の画面フレームを取得する。
【0122】
ステップS603:1番目の画面フレームに対応する1番目の追跡目標エリア、即ち、
図8における自動車エリア601を設定する。当該1番目の追跡目標エリアは、1番目の画面フレームの追跡目標エリアである。
【0123】
ステップS604:画面処理サーバ62は、1番目の追跡目標エリアに対して特徴抽出操作を行い、即ち、設定されたサイズの畳み込みカーネルにより追跡目標エリアに対して畳み込み特徴抽出操作を行い、1番目の追跡目標エリアに対応する1番目のエリア入力特徴図を取得する。当該1番目のエリア入力特徴図は、1番目の画面フレームの追跡目標エリアの入力特徴図である。
【0124】
ステップS605:画面処理サーバ62は、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、ステップS604で取得された1番目のエリア入力特徴図及び予期出力応答に基づいて、当該1番目のエリア入力特徴図に対応する1番目の重みフィルタを取得する。当該1番目の重みフィルタは、1番目の画面フレームの追跡目標エリアの入力特徴図に対応する重みフィルタである。
【0125】
ステップS606:画面処理サーバ62は、ステップS605で取得された1番目の重みフィルタ及び後続の画面フレームの入力特徴図を用いて後続の画面フレームの出力応答を1つずつ順次に計算し、出力応答に基づいて後続の画面フレームの追跡目標エリアの入力特徴図を継続的に補正する。
【0126】
その後、修正された後続の画面フレームの追跡目標エリアの入力特徴図及び予期出力応答を用いて後続の画面フレームの重みフィルタを継続的に補正する。これにより、後続の画面フレームの出力応答により、後続の画面フレームの追跡目標エリア、即ち、
図8における自動車エリア602、自動車エリア603及び自動車エリア604を特定することができる。
【0127】
ステップS607:画面処理サーバ62は、動的ビデオにおける全ての画面フレームの追跡目標エリアにより、対応する特定のオブジェクトの動的ビデオにおける運動軌跡を取得し、カメラ61によって特定のオブジェクトの運動軌跡を引き続き捕捉できるように、特定のオブジェクトの運動軌跡に基づいてカメラ61の後続の撮影方向を制御する。
【0128】
このように、本実施例に係る目標追跡方法及び目標追跡装置の目標追跡プロセスが完成する。
【0129】
本願に係る目標追跡方法及び目標追跡装置は、入力特徴図の異なる特徴チャネルに対応するフィルタ重みに対して平均プーリング操作を行うことにより、アルゴリズムパラメータを削減する。また、追跡目標エリアを減らす必要がないため、相関フィルタアルゴリズムの固有の欠陥を解消し、入力特徴図のトレーニングサンプルの特徴の数を確保し、パラメータの過剰適合の発生を回避し、関連するアルゴリズムのロバスト性を高め、さらに、目標追跡の精度及び有効性を向上させ、関連技術に係る目標追跡方法及び目標追跡装置においてパラメータの過剰適合や追跡精度の低下を引き起こしやすいという技術課題を効果的に解決した。
【0130】
本願で使用される「構成要素」、「モジュール」、「システム」、「インタフェース」、「プロセス」などの用語は、一般的に、コンピュータに関連する実体、例えば、ハードウェア、ハードウェアとソフトウェアとの組合せ、ソフトウェア、又は実行中のソフトウェアを指すことを意図している。例えば、構成要素は、プロセッサ上で実行されるプロセス、プロセッサ、対象、実行可能なアプリケーション、実行されるスレッド、プログラム及び/又はコンピュータであってもよいが、これらに限定されない。図示したとおり、コントローラで実行されるアプリケーションと当該コントローラの両方とも構成要素にしてもよい。1つ又は複数の構成要素は、実行されるプロセス及び/又はスレッド内に存在してもよく、また、構成要素は、1つのコンピュータに配置され、及び/又は2つ以上のコンピュータの間に分散してもよい。
【0131】
図10及び以下の内容では、本願を実現するためのビデオ画面レンダリング装置の位置する電子機器の動作環境を簡潔で概略的に説明する。
図10の動作環境は、単なる適切な動作環境の一例であり、動作環境に関する用途又は機能の範囲への如何なる制限を示唆することを意図するものではない。
【0132】
必須ではないが、「コンピュータ読み取り可能な指令」が1つ又は複数の電子機器によって実行されるという通常の状況で実施例を説明する。コンピュータ読み取り可能な指令は、コンピュータ読み取り可能な媒体を介して分散することができる(以下で説明する)。コンピュータ読み取り可能な指令は、プログラムモジュールとして実現でき、例えば、特定のタスクを実行し、又は特定の抽象データタイプを実現する機能、対象、アプリケーションプログラミングインタフェース(API)、データ構造などが挙げられる。典型的には、当該コンピュータ読み取り可能な指令の機能は、様々な環境で任意に組み合わせたり、分散したりすることができる。
【0133】
図10には、本願に係る目標追跡装置における1つ又は複数の実施例の電子機器712を含む例が示されている。一構成では、電子機器712は、少なくとも1つの処理ユニット716及びメモリ718を含む。電子機器の具体的な配置及びタイプによっては、メモリ718は、揮発性のもの(例えば、RAM)でもよいし、不揮発性のもの(例えば、ROM、フラッシュメモリなど)でもよいし、又はその両者の何らかの組合せでもよい。当該配置は、
図10において破線714によって示される。
【0134】
別の実施例では、電子機器712は、追加の特徴及び/又は機能を含むことができる。例えば、電子機器712は、(例えば、取り外し可能及び/又は取り外し不可能な)追加の記憶装置をさらに含むことができる。当該追加の記憶装置は、磁気記憶装置、光学記憶装置などを含むが、これらに限定されない。このような追加の記憶装置は、
図10において記憶装置720によって示される。一実施例では、本明細書で提供される1つ又は複数の実施例を実現するためのコンピュータ読み取り可能な指令は、記憶装置720に記憶されてもよい。記憶装置720には、オペレーティングシステム、アプリケーションプログラム等を実現するための他のコンピュータ読み取り可能な指令がさらに記憶されてもよい。コンピュータ読み取り可能な指令は、メモリ718内にロードされ、例えば処理ユニット716によって実行されることができる。
【0135】
本明細書で使用される「コンピュータ読み取り可能な媒体」という用語は、コンピュータ記憶媒体を含む。コンピュータ記憶媒体は、コンピュータ読み取り可能な指令又は他のデータなどのような情報を記憶するための任意の方法又は技術によって実現される揮発性および不揮発性の媒体、取り外し可能及び取り外し不能な媒体を含む。メモリ718及び記憶装置720は、コンピュータ記憶媒体の例である。コンピュータ記憶媒体は、RAM、ROM、EEPROM、フラッシュメモリ又は他のメモリ技術、CD-ROM、デジタル多用途ディスク(DVD)又は他の光学記憶装置、カセットテープ、磁気テープ、磁気ディスク記憶装置又は他の磁気記憶装置、或いは予期情報を記憶するために用いられ、電子機器712によってアクセスできる他の任意の媒体を含むが、これらに限定されない。任意のこのようなコンピュータ記憶媒体は、電子機器712の一部であり得る。
【0136】
電子機器712は、電子機器712が他のデバイスと通信することを可能にする通信接続726をさらに含み得る。通信接続726は、モデム、ネットワークインタフェースカード(NIC)、統合ネットワークインタフェース、無線周波数送信器/受信器、赤外線ポート、USB接続又は電子機器712を他の電子機器に接続するための他のインタフェースを含むが、これらに限定されない。通信接続726は、有線接続又は無線接続を含み得る。通信接続726は、通信媒体を送信および/または受信することができる。
【0137】
「コンピュータ読み取り可能な媒体」という用語は、通信媒体を含み得る。通信媒体は、典型的には、コンピュータ読み取り可能な指令、又は搬送波や他の伝送手段などのような「変調されたデータ信号」における他のデータを含み、また、任意の情報配信媒体を含む。「変調されたデータ信号」という用語は、情報を信号に符号化するように当該信号の1つ又は複数の特性が設定又は変更される信号を含むことができる。
【0138】
電子機器712は、入力デバイス724、例えば、キーボード、マウス、ペン、音声入力デバイス、タッチ入力デバイス、赤外線カメラ、ビデオ入力デバイス及び/又は他の任意の入力デバイスを含み得る。電子機器712は、出力デバイス722、例えば、1つ又は複数のディスプレイ、スピーカー、プリンタ及び/又は他の任意の出力デバイスをさらに含み得る。入力デバイス724及び出力デバイス722は、有線接続、無線接続又はそれらの任意の組合せを介して電子機器712に接続することができる。一実施例では、別の電子機器に配置された入力デバイス又は出力デバイスは、電子機器712の入力デバイス724又は出力デバイス722として使用することができる。
【0139】
電子機器712の構成要素は、様々な相互接続(例えば、バス)を介して接続することができる。このような相互接続は、ペリフェラルコンポーネントインターコネクト(PCI)(例えば、PCIエクスプレス)、ユニバーサルシリアルバス(USB)、ファイヤーワイヤー(IEEE 1394)、光学バス構造などを含むことができる。別の実施例では、電子機器712の構成要素は、ネットワークを介して相互接続することができる。例えば、メモリ718は、異なる物理的位置に配置され、ネットワークを介して相互接続される複数の物理的メモリユニットで構成され得る。
【0140】
本分野の技術者は、コンピュータ読み取り可能な指令を記憶するための記憶装置がネットワークにわたって分散してもよいことを理解するであろう。例えば、ネットワーク728を介してアクセス可能なバックエンドサーバ730は、本願で提供される1つ又は複数の実施例を実現するためのコンピュータ読み取り可能な指令を記憶することができる。電子機器712は、バックエンドサーバ730にアクセスし、実行のためにコンピュータ読み取り可能な指令の一部又は全部をダウンロードすることができる。あるいは、電子機器712は、必要に応じて複数のコンピュータ読み取り可能な指令をダウンロードすることができ、又は、一部の指令を電子機器712で実行し、一部の指令をバックエンドサーバ730で実行するようにすることができる。
【0141】
本願の実施例では、プロセッサ及びメモリを備え、メモリにコンピュータプログラムが記憶されており、プロセッサが当該コンピュータプログラムを呼び出すことで以下の操作を実行する電子機器を提供する。
【0142】
目標ビデオの複数の連続した画面フレームを取得し、複数の連続した画面フレームのうちのn番目の画面フレームに対応するn番目の追跡目標エリアを設定する(ただし、nは、正の整数である)。
【0143】
n番目の追跡目標エリアに対して特徴抽出操作を行い、n番目の追跡目標エリアに対応する、n番目のエリア入力特徴図を取得し、前記n番目のエリア入力特徴図は複数の特徴チャネルを含む。
【0144】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目のエリア入力特徴図に対応し、n番目のエリア入力特徴図における各特徴チャネルに対応するフィルタ重みを含むn番目の重みフィルタを計算する。
【0145】
n番目の重みフィルタ、及び複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図であるn+1番目の画面フレーム入力特徴図を利用し、n+1番目の出力応答を計算し、n+1番目の出力応答に従ってn+1番目の画面フレームに対応するn+1番目の追跡目標エリアを特定する。
【0146】
n+1番目の追跡目標エリアに対して特徴抽出を行い、n+1番目の追跡目標エリアに対応するn+1番目のエリア入力特徴図を取得し、全ての連続した画面フレームの追跡目標エリアを取得するまでn+1番目のエリア入力特徴図に対応するn+1番目の重みフィルタを計算する。
【0147】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0148】
リッジ回帰判別関数に基づいて、n番目のエリア入力特徴図に対応するn番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件とする。
【0149】
拡張ラグランジュ乗数法により、制約条件を有する相関フィルタモデルを変換し、エリアプーリング相関フィルタモデルを生成する。
【0150】
共役勾配降下法により、エリアプーリング相関フィルタモデルを最適化することによって、n番目のエリア入力特徴図に対応するn番目の重みフィルタを取得する。
【0151】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0152】
隣接プーリングエリアの範囲が重ならないように、追跡目標エリアの複数のプーリングエリアの範囲を設定する。
【0153】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0154】
1番目のエリア入力特徴図を取得する場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、1番目の画面フレームに対応する1番目の追跡目標エリアの入力特徴図である1番目のエリア入力特徴図、及び追跡目標エリアの予期出力応答を用いて1番目のエリア入力特徴図に対応する1番目の重みフィルタを計算する。
【0155】
n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nが2以上である場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレームの入力特徴図であるn番目の画面フレーム入力特徴図、及びn-1番目の画面フレームに対応する重みフィルタであるn-1番目の重みフィルタを用いてn番目の出力応答を計算する。n番目の出力応答により、n番目の画面フレームの追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。
【0156】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、及びn番目のエリア入力特徴図を用いてn番目の重みフィルタを計算する。
【0157】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0158】
n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nが2以上である場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレームの入力特徴図であるn番目の画面フレーム入力特徴図、及びn-1番目の画面フレームに対応する重みフィルタであるn-1番目の重みフィルタを用いてn番目の出力応答を計算する。
【0159】
n番目の出力応答により、n番目の画面フレームの追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。
【0160】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いてn番目の重みフィルタを計算する。
【0161】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0162】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて各画面フレームの相関フィルタ損失関数の線形加重融合を行うことで、マルチフレームに基づく相関フィルタモデルを得る。
【0163】
マルチフレームに基づく相関フィルタモデルを計算し、n番目の重みフィルタを得る。
【0164】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0165】
n番目の重みフィルタに対して二値化マスクを設定することによって、n番目の追跡目標エリア以外に対応する重みフィルタのフィルタ重みを小さくする。
【0166】
任意には、当該プロセッサは、当該コンピュータプログラムを呼び出すことで以下の操作を実行するためのものである。
【0167】
n番目の重みフィルタに対して正則化重みを設定することによって、n番目の重みフィルタのn番目の追跡目標エリアの中心部分におけるフィルタ重みを大きくする。
【0168】
本明細書は、実施例の様々な操作を提供する。一実施例では、1つ又は複数の操作により、1つ又は複数のコンピュータ読み取り可能な媒体に記憶されたコンピュータ読み取り可能な指令を構成でき、当該コンピュータ読み取り可能な指令は、電子機器によって実行される際に、コンピューティングデバイスを動作させる。一部又は全ての操作を説明する順序は、これらの操作が必ずこの順で関連していることを示唆していると解釈すべきではない。本分野の技術者は、本明細書の利点を有する代替可能な順序でもよいと理解できる。さらに、全ての操作が必ずしも本明細書で提供される各実施例に含まれるわけではないと理解できる。
【0169】
また、1つ又は複数の実施形態について本開示を示し、説明したが、本分野の技術者であれば、本明細書及び図面の読解に基づいて同等の変形および修正に想到することができる。本開示は、このような修正及び変形の全てを含み、添付の特許請求の範囲のみによって制限される。特に、上記の構成要素(例えば素子、リソース等)によって実行される様々な機能に関して、このような構成要素を説明するための用語は、本明細書に示す本開示の例示的な実施形態における機能を実行する本開示の構造と構造上に同等ではない場合でも、構成要素の所定の機能(例えば機能上に同等である)を実行する任意の構成要素に対応することを意図している(特に断らない限り)。なお、本開示の特定の特徴は幾つかの実施形態のうちの1つのみにおいて開示されたが、このような特徴は、所与又は特定の応用にとって望ましくかつ有利である可能性がある他の実施形態の1つ又は複数の他の特徴と組み合わせることができる。さらに、「含む」、「有する」、「含有」という用語又はそれらの変形が具体的な実施形態又は特許請求の範囲で使用される場合、このような用語は、「含む」という用語と同様に含まれることを意図している。
【0170】
本願の実施例における各機能ユニットが1つの処理モジュールに組み込まれてもよく、各ユニットが別体で物理的に存在してもよく、2つ又は2つ以上のユニットが1つのモジュールに組み込まれてもよい。上記の組み込まれたモジュールは、ハードウェアとして実現してもよく、ソフトウェア機能モジュールとして実現してもよい。組み込まれたモジュールがソフトウェア機能モジュールとして実現され、単独の製品として販売または使用される場合、1つのコンピュータ読み取り可能な記憶媒体に記憶されてもよい。上記の記憶媒体は、リードオンリメモリ、磁気ディスク又は光学ディスクなどであってもよい。上記の各装置又はシステムは、相応する方法の実施例における方法を実行することができる。
【0171】
本願の実施例では、プロセッサ実行可能な指令が記憶されており、当該指令を1つ又は複数のプロセッサによりローディングすることで以下の操作を実行する記憶媒体を提供する。
【0172】
目標ビデオの複数の連続した画面フレームを取得し、複数の連続した画面フレームのうちのn番目の画面フレームに対応するn番目の追跡目標エリアを設定する(ただし、nは、正の整数である)。
【0173】
n番目の追跡目標エリアに対して特徴抽出操作を行い、n番目の追跡目標エリアに対応し、n番目のエリア入力特徴図を取得し、前記n番目のエリア入力特徴図は複数の特徴チャネルを含む。
【0174】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目のエリア入力特徴図に対応し、n番目のエリア入力特徴図における各特徴チャネルに対応するフィルタ重みを含むn番目の重みフィルタを計算する。
【0175】
n番目の重みフィルタ、及び複数の連続した画面フレームのうちのn+1番目の画面フレームの入力特徴図であるn+1番目の画面フレーム入力特徴図を用いてn+1番目の出力応答を計算し、n+1番目の出力応答により、n+1番目の画面フレームに対応するn+1番目の追跡目標エリアを特定する。
【0176】
n+1番目の追跡目標エリアに対して特徴抽出を行い、n+1番目の追跡目標エリアに対応するn+1番目のエリア入力特徴図を取得し、全ての連続した画面フレームの追跡目標エリアを取得するまでn+1番目のエリア入力特徴図に対応するn+1番目の重みフィルタを計算する。
【0177】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0178】
リッジ回帰判別関数に基づいて、n番目のエリア入力特徴図に対応するn番目の重みフィルタの相関フィルタモデルを作成し、プーリングエリアにおける特徴チャネルに対応するフィルタ重みが等しいことを相関フィルタモデルの制約条件をする。
【0179】
拡張ラグランジュ乗数法により、制約条件を有する相関フィルタモデルを変換し、エリアプーリング相関フィルタモデルを生成する。
【0180】
共役勾配降下法により、エリアプーリング相関フィルタモデルを最適化することによって、n番目のエリア入力特徴図に対応するn番目の重みフィルタを取得する。
【0181】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0182】
隣接プーリングエリアの範囲が重ならないように、追跡目標エリアの複数のプーリングエリアの範囲を設定する。
【0183】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0184】
1番目のエリア入力特徴図を取得する場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、1番目の画面フレームに対応する1番目の追跡目標エリアの入力特徴図である1番目のエリア入力特徴図、及び追跡目標エリアの予期出力応答を用いて1番目のエリア入力特徴図に対応する1番目の重みフィルタを計算する。
【0185】
n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nが2以上である場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレームの入力特徴図であるn番目の画面フレーム入力特徴図、及びn-1番目の画面フレームに対応する重みフィルタであるn-1番目の重みフィルタを用いてn番目の出力応答を計算する。
【0186】
n番目の出力応答により、n番目の画面フレームの追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。
【0187】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、及びn番目のエリア入力特徴図を用いてn番目の重みフィルタを計算する。
【0188】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0189】
n番目の画面フレーム入力特徴図及びn-1番目の重みフィルタを取得し、また、nが2以上である場合、相関フィルタアルゴリズム及び平均プーリング制約条件に従って、n番目の画面フレームの入力特徴図であるn番目の画面フレーム入力特徴図、及びn-1番目の画面フレームに対応する重みフィルタであるn-1番目の重みフィルタを用いてn番目の出力応答を計算する。
【0190】
n番目の出力応答により、n番目の画面フレームの追跡目標エリアの位置、及びn番目のエリア入力特徴図を取得する。
【0191】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いてn番目の重みフィルタを計算する。
【0192】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0193】
相関フィルタアルゴリズム及び平均プーリング制約条件に従って、追跡目標エリアの予期出力応答、n番目のエリア入力特徴図及びn番目の画面フレームの前の複数の画面フレームの追跡目標エリアの入力特徴図を用いて各画面フレームの相関フィルタ損失関数の線形加重融合を行うことで、マルチフレームに基づく相関フィルタモデルを得る。
【0194】
マルチフレームに基づく相関フィルタモデルを計算し、n番目の重みフィルタを得る。
【0195】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0196】
n番目の重みフィルタに対して二値化マスクを設定することによって、n番目の追跡目標エリア以外に対応する重みフィルタのフィルタ重みを小さくする。
【0197】
任意には、当該指令を1つ又は1つ以上のプロセッサによりローディングすることで以下の操作を実行する。
【0198】
n番目の重みフィルタに対して正則化重みを設定することによって、n番目の重みフィルタのn番目の追跡目標エリアの中心部分におけるフィルタ重みを大きくする。
【0199】
以上をまとめると、本願は、実施例にて上記のように開示されたが、実施例の前の番号は、説明の便宜のために使用されるものに過ぎず、本願の各実施例の順序を制限しない。また、上記の実施例は、本願を制限するためのものではなく、本分野の通常の技術者は、本願の精神及び範囲から逸脱することなく、様々な変更および修正を行うことができるため、本願の保護範囲は、特許請求の範囲によって限定された範囲を基準とする。
【国際調査報告】