IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士通株式会社の特許一覧

特許7567206ビデオ構成の更新装置、方法及び電子機器
<>
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図1
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図2
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図3
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図4
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図5
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図6
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図7
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図8
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図9
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図10
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図11
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図12
  • 特許-ビデオ構成の更新装置、方法及び電子機器 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-07
(45)【発行日】2024-10-16
(54)【発明の名称】ビデオ構成の更新装置、方法及び電子機器
(51)【国際特許分類】
   H04N 23/60 20230101AFI20241008BHJP
   G06T 7/246 20170101ALI20241008BHJP
   G08G 1/04 20060101ALI20241008BHJP
【FI】
H04N23/60 500
G06T7/246
G08G1/04 D
【請求項の数】 10
(21)【出願番号】P 2020092420
(22)【出願日】2020-05-27
(65)【公開番号】P2020205586
(43)【公開日】2020-12-24
【審査請求日】2023-02-09
(31)【優先権主張番号】201910515576.4
(32)【優先日】2019-06-14
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】ハヌ・ゼォジン
(72)【発明者】
【氏名】ジャン・ナヌ
【審査官】越河 勉
(56)【参考文献】
【文献】特開2016-127419(JP,A)
【文献】特開2007-008325(JP,A)
【文献】特開2009-055436(JP,A)
【文献】特開2018-025890(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60
G06T 7/246
G08G 1/04
(57)【特許請求の範囲】
【請求項1】
ビデオ構成の更新装置であって、
ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、カメラによるビデオ撮影のシーンが変化したか否かを検出するシーン検出部と、
前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得する画像マッチング部であって、前記複数の所定画像は、前記カメラの複数の所定位置にそれぞれ対応する、画像マッチング部と、
前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新する構成更新部と、を含む、装置。
【請求項2】
前記マッチング画像におけるサンプリング点に基づいてオプティカルフロー計算を行い、前記現在のフレームと前記マッチング画像とのずれを検出するずれ検出部と、
前記ずれの検出結果に基づいて前記ビデオ画像に対してずれ補正を行うずれ補正部と、さらに含む、請求項1に記載の装置。
【請求項3】
前記ビデオ画像における連続的な2つのフレームの特徴点に基づいてオプティカルフロー計算を行い、前記ビデオ画像の振れを検出する振れ検出部と、
前記振れの検出結果に基づいて前記ビデオ画像に対して振れ補正を行う振れ補正部と、さらに含む、請求項1に記載の装置。
【請求項4】
前記シーン検出部は、
前記ビデオ画像から参照フレームを選択し、前記参照フレームから複数の特徴点を抽出する初期化部と、
オプティカルフロー計算により前記複数の特徴点から前記ビデオ画像における背景領域の特徴点を選択する選択部と、
オプティカルフロー計算により前記特徴点を分類し、分類後の特徴点の数に基づいてシーン変化率を計算し、前記シーン変化率に基づいてシーンが変化したか否かを決定する決定部と、を含む、請求項1に記載の装置。
【請求項5】
前記選択部は、特徴点のスコアを計算し、前記スコアに基づいて、前記特徴点が前記ビデオ画像における背景領域の特徴点であるか否かを決定し、
前記選択部は、オプティカルフロー計算により前記現在のフレームにおける対応点が取得されたか否かの条件、オプティカルフロー計算の誤差が第1閾値よりも大きいか否かの条件、及び前記参照フレームにおける特徴点と前記現在のフレームにおける対応点との距離が第2閾値よりも大きいか否かの条件のうちの少なくとも1つの条件に基づいて、前記特徴点のスコアを計算する、請求項4に記載の装置。
【請求項6】
前記決定部は、特徴点を分類する際に、
オプティカルフロー計算により前記現在のフレームにおける対応点が取得されていない場合、前記特徴点を第1類点に分類し、且つ/或いは
オプティカルフロー計算の誤差が第3閾値よりも小さい場合、前記特徴点を第2類点に分類し、且つ/或いは
オプティカルフロー計算の誤差が前記第3閾値以上であり、且つ前記参照フレームにおける特徴点と前記現在のフレームにおける対応点との距離が第4閾値よりも小さい場合、前記特徴点を第3類点に分類し、且つ/或いは
オプティカルフロー計算の誤差が前記第3閾値以上であり、且つ前記参照フレームにおける特徴点と前記現在のフレームにおける対応点との距離が前記第4閾値以上である場合、前記特徴点を第4類点に分類し、
前記決定部は、以下の式に従って前記シーン変化率を計算し、
sc=(N+N)/(N+N+N+N
ここで、Nは前記第1類点の数を表し、Nは前記第2類点の数を表し、Nは前記第3類点の数を表し、Nは前記第4類点の数を表す、請求項4に記載の装置。
【請求項7】
前記決定部は、前記シーン変化率及び/又は前記特徴点の数に基づいてシーン変化に対して第1計数を行い、前記第1計数が第5閾値に増加した場合、シーンが変化したと決定する、請求項4に記載の装置。
【請求項8】
前記決定部は、シーン検出によりシーン変化遅延に対して第2計数を行い、前記第2計数がゼロに減少した場合、前記シーン検出の初期化を行う、請求項4に記載の装置。
【請求項9】
ビデオ構成の更新方法であって、
ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、カメラによるビデオ撮影のシーンが変化したか否かを検出するステップと、
前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得するステップであって、前記複数の所定画像は、前記カメラの複数の所定位置にそれぞれ対応する、ステップと、
前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新するステップと、を含む、方法。
【請求項10】
コンピュータプログラムが記憶されているメモリと、プロセッサと、を含む電子機器であって、
前記プロセッサは、
カメラによるビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出するステップと、
前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得するステップであって、前記複数の所定画像は、前記カメラの複数の所定位置にそれぞれ対応する、ステップと、
前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新するステップと、を実行する、電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施例は、ビデオ監視の技術分野に関する。
【背景技術】
【0002】
ビデオ監視システムは、日常生活で広く使用されており、例えば、カメラにより様々な交通事故を検出できる。イベントを検出するために、車線領域、車線方向、車線境界線などのビデオ撮影の構成情報(以下は、ビデオ構成と略称する)を予め設定する必要がある。
【0003】
なお、上述した技術背景の説明は、本発明の技術案を明確、完全に理解させるための説明であり、当業者を理解させるために記述されているものである。これらの技術案は、単なる本発明の背景技術部分として説明されたものであり、当業者により周知されたものではない。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の発明者の発見によると、カメラの視野角が制限されており、ビデオ監視分野のカメラ(例えばPTZ camera)が外力などによりずれ(例えば平行移動又は回転)が発生し、撮影されたシーンが変化する可能性がある。カメラのずれが発生した場合、ビデオ監視の正確性を確保するために、ビデオ構成をリセットする必要がある。
【0005】
上記の技術的問題の少なくとも1つを鑑み、本発明の実施例は、ビデオ構成の更新装置、方法及び電子機器を提供する。
【課題を解決するための手段】
【0006】
本発明の実施例の第1態様では、ビデオ構成の更新装置であって、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出するシーン検出部と、前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得する画像マッチング部と、前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新する構成更新部と、を含む、装置を提供する。
【0007】
本発明の実施例の第2態様では、ビデオ構成の更新方法であって、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出するステップと、前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得するステップと、前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新するステップと、を含む、方法を提供する。
【0008】
本発明の実施例の第3態様では、コンピュータプログラムが記憶されているメモリと、プロセッサと、を含む電子機器であって、前記プロセッサは、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出するステップと、前記シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得するステップと、前記ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新するステップと、を実行する、電子機器を提供する。
【0009】
本発明の実施例の有利な効果は以下の通りである。ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出し、シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得し、ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新する。これによって、制御信号を処理する必要がなく、ビデオ信号を用いてビデオ構成の更新を実現することができ、構成の更新をイベント分析に簡単に統合することができる。
【0010】
本発明の特定の実施形態は、後述の説明及び図面に示すように、詳細に開示され、本発明の原理を採用されることが可能な方式を示している。なお、本発明の実施形態は、範囲上には限定されるものではない。本発明の実施形態は、添付されている特許請求の範囲の主旨及び内容の範囲内、各種の改変、修正、及び均等的なものが含まれる。
【0011】
ある一つの実施形態に説明及び又は示されている特徴は、同一又は類似の方式で一つ又は多くの他の実施形態に使用されてもよく、他の実施形態における特徴と組み合わせてもよく、他の実施形態における特徴を代替してもよい。
【0012】
なお、用語「含む/有する」は、本文に使用される際に、特徴、要素、ステップ又は構成要件の存在を意味し、一つ又は複数の他の特徴、要素、ステップ又は構成要件の存在又は追加を排除するものではない。
【図面の簡単な説明】
【0013】
ここで含まれる図面は、本発明の実施例を理解させるためのものであり、本明細書の一部を構成し、本発明の実施例を例示するためのものであり、文言の記載と合わせて本発明の原理を説明する。なお、ここに説明される図面は、単なる本発明の実施例を説明するためのものであり、当業者にとって、これらの図面に基づいて他の図面を容易に得ることができる。
図1】本発明の実施例のビデオ構成の更新方法を示す図である。
図2】本発明の実施例の分類点の状態の1つの例を示す図である。
図3】本発明の実施例の分類点の状態のもう1つの例を示す図である。
図4】本発明の実施例の所定画像の1つの例を示す図である。
図5】本発明の実施例の現在の画像と所定画像とのマッチングの1つの例を示す図である。
図6】本発明の実施例の所定画像のもう1つの例を示す図である。
図7】本発明の実施例の現在の画像と所定画像とのマッチングのもう1つの例を示す図である。
図8】本発明の実施例のマッチング画像に対するサンプリング、フィルタリング及び選択の一例を示す図である。
図9】本発明の実施例のずれ補正の一例を示す図である。
図10】本発明の実施例のビデオ監視処理を示す図である。
図11】本発明の実施例のビデオ構成の更新装置を示す図である。
図12】本発明の実施例のシーン検出部を示す図である。
図13】本発明の実施例の電子機器を示す図である。
【発明を実施するための形態】
【0014】
本発明の上記及びその他の特徴は、図面及び下記の説明により明確になる。明細書及び図面では、本発明の特定の実施形態、即ち本発明の原則に従う一部の実施形態を表すものを公開している。なお、本発明は説明される実施形態に限定されず、本発明は、特許請求の範囲内の全ての修正、変更されたもの、及び均等なものを含む。
【0015】
本発明の実施例では、用語「第1」、「第2」は異なる要素を名称で区分するためのものであり、これらの要素の空間的配列又は時間的順序などを意味するものではなく、これらの要素はこれらの用語に限定されない。用語「及び/又は」は列挙された用語の1つ又は複数のうち何れか及びその組み合わせを含む。用語「包括」、「含む」、「有する」は説明された特徴、要素、素子又は部材の存在を意味するが、他の1つ又は複数の特徴、要素、素子又は部材の存在又は追加を排除するものではない。
【0016】
本発明の実施例では、単数形の「一」、「該」等は複数形を含み、「一種」又は「一類」を意味し、「1つ」に限定するものではない。また、用語「前記」は、文脈上明確に指示されない限り、単数形及び複数形両方を含む。また、文脈上明確に指示されない限り、用語「応じて」は「少なくとも部分的に応じて」を意味し、用語「に基づいて」は「少なくとも部分的に基づいて」を意味する。
【0017】
本発明の実施例では、交通イベント(事件)及び交通監視を一例にして説明し、カメラにより複数のフレームを含むビデオ画像を取得してもよく、該カメラは、インテリジェント交通(Intelligent Transportation)のビデオ監視のためのPTZカメラであってもよく、監視領域を連続的に撮影する。本発明は、これに限定されず、例えば駐車場のビデオ監視シーン、セキュリティのビデオ監視シーンなどの他のビデオ監視シーンに適用されてもよい。以下は、交通ビデオ監視シーンを一例にして説明する。
【0018】
<第1実施例>
本発明の実施例はビデオ構成の更新方法を提供する。図1は本発明の実施例のビデオ構成の更新方法を示す図である。図1に示すように、該方法は以下のステップを含む。
【0019】
ステップ101:ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出する。
【0020】
ステップ102:シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得する。
【0021】
ステップ103:ビデオ撮影の構成を、最も近いマッチング画像に対応する構成に更新する。
【0022】
本発明の実施例では、制御信号を処理する必要がなく、ビデオ信号を用いてビデオ構成の更新を実現することができ、構成の更新をイベント分析に簡単に統合することができる。また、無人の場合であっても、シーン検出及び画像マッチングを自動的に実現することができるため、人間が関与する必要がなく、構成更新を自動的に行うことができる。
【0023】
なお、図1は単なる本発明の実施例を例示的に説明するためのものであり、本発明はこれに限定されない。例えば、各処理の実行順序を適宜調整してもよいし、他の処理を追加し、或いはその一部の処理を削除してもよい。当業者は上記の内容に基づいて変形を適宜行ってもよく、上記の図1の記載に限定されない。
【0024】
1つの実施例では、ステップ101のシーン検出(シーン変化の検出と称されてもよい)は、ビデオ画像から参照フレームを選択し、該参照フレームから複数の特徴点を抽出するステップと、オプティカルフロー計算により複数の特徴点からビデオ画像における背景領域(又は比較的に静止している領域)の特徴点を選択するステップと、オプティカルフロー計算により特徴点を分類し、分類後の特徴点の数に基づいてシーン変化率を計算し、シーン変化率に基づいてシーンが変化したか否かを決定するステップと、を含む。
【0025】
例えば、特徴点及びオプティカルフロー計算を用いてシーン変化を検出してもよい。シーン検出は、前処理の一部であってもよく、Nフレームごとにシーン検出を1回呼び出してもよい。シーン検出は、3つの段階、即ち初期化段階、選択段階、検出段階(又は決定段階)を含んでもよく、上記の任意の1つ又は複数の段階で行われてもよい。例えば、シーン検出の1回の呼び出しでは、初期化段階及び選択段階が完了した後に検出段階に入ってもよいし、トリガー条件なしで検出段階に直接入ってもよい。
【0026】
計算量を低減させるために、シーン検出を行うための画像は、グレースケール画像(w×h)に変換されて、αw×αh(0<α≦1)に調整されてもよい。1番目のフレームが受信され、或いは初期化フラグが真(true)に設定された場合、シーン検出の初期化を行う。
【0027】
初期化段階では、現在のフレーム(例えば1番目のフレーム)を参照フレームとして選択してもよい。そして、参照フレームから特徴点を抽出してもよい。特徴点は、Shi-Tomasiコーナーポイント、Harrisコーナーポイント、又は他の特徴点であってもよく、本発明はこれに限定されない。特徴点の数が不十分である(例えば所定の閾値よりも少ない)場合、シーン検出は、次回の呼び出しで再初期化される。シーン検出が正常に初期化された場合、初期化フラグが偽(false)に設定される。
【0028】
選択段階は、連続的に複数回呼び出されてもよく、特徴点のオプティカルフローは毎回計算される。背景領域における特徴点のオプティカルフローを用いてシーン変化を検出してもよい。しかし、特徴点は参照フレームの前景領域(例えば移動物体)に生じる場合もあるため、これらの特徴点をフィルタリングにより除去する必要がある。
【0029】
1つの実施例では、特徴点のスコアを計算し、スコアに基づいて、該特徴点がビデオ画像における背景領域の特徴点であるか否かを決定してもよい。例えば、オプティカルフロー計算により該現在のフレームにおける対応点が取得されたか否かの条件、オプティカルフロー計算の誤差が第1閾値よりも大きいか否かの条件、及び該参照フレームにおける特徴点と該現在のフレームにおける対応点との距離が第2閾値よりも大きいか否かの条件のうちの少なくとも1つの条件に基づいて、該特徴点のスコアを計算してもよい。
【0030】
例えば、各特徴点についてスコアMを予め設定し、オプティカルフロー計算により現在のフレームにおける対応点が取得されていない場合、オプティカルフロー計算の誤差がT1よりも大きい場合、又は参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第2閾値T2よりも大きい場合、スコアから1点を減算してもよい。
【0031】
M回のオプティカルフロー計算の後に、特徴点集合から、スコアがTよりも小さい点をフィルタリングにより除去する。残りの特徴点の数が十分でない場合、初期化フラグを真に設定してもよい。これは、PTZカメラが回転しており、或いは背景領域を遮蔽する移動物体が多いことを意味するからである。
【0032】
なお、特徴点の抽出及びオプティカルフロー計算は関連技術を参照してもよく、本明細書ではその詳細な説明を省略する。また、オプティカルフロー計算の誤差の取得方法及びフレーム間の距離の計算方法などについて、関連技術を参照してもよい。また、上記の閾値の具体的な数値は、実際の条件及び経験値に応じて決定されてもよく、本発明の実施例はこれに限定されない。
【0033】
検出段階では、特徴点のオプティカルフロー量を計算し、所定のルールに従って特徴点を分類してもよい。例えば、これらの点を4種類、即ち第1類点(見つからない点)、第2類点(良い点)、第3類点(不安定な点)及び第4類点(悪い点)に分類する。
【0034】
例えば、特徴点を分類する際に、オプティカルフロー計算により該現在のフレームにおける対応点が取得されていない場合、該特徴点を第1類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値(T3)よりも小さい場合、該特徴点を第2類点に分類し、且つ/或いはオプティカルフロー計算の誤差が該第3閾値(T3)以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値(T4)よりも小さい場合、該特徴点を第3類点に分類し、且つ/或いはオプティカルフロー計算の誤差が該第3閾値(T3)以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値(T4)以上である場合、該特徴点を第4類点に分類してもよい。
【0035】
また、例えば、以下の式に従ってシーン変化率を計算してもよい。
【0036】
sc=(N+N)/(N+N+N+N
ここで、Nは第1類点の数(Nnotと表されてもよい)を表し、Nは第2類点の数(Ngoodと表されてもよい)を表し、Nは第3類点の数(Nunstableと表されてもよい)を表し、Nは第4類点の数(Nbadと表されてもよい)を表す。
【0037】
図2は本発明の実施例の分類点の状態の1つの例を示す図であり、特徴点、オプティカルフロー(点の間の線分で表される)及び分類点の数を示している。図2に示しように、例えば、良い点(goodPts)の数が49であり、不安定な点(unstablePts)の数が8であり、悪い点(badPts)の数が2であり、見つからない点(notfoundPts)の数が0である場合、算出されたシーン変化率(errRate)は0.033898であり、閾値(Threshold)0.5よりも低いため、シーンが変化していないと決定してもよい。
【0038】
図3は本発明の実施例の分類点の状態のもう1つの例を示す図であり、特徴点、オプティカルフロー(点の間の線分で表される)及び分類点の数を示している。図3に示しように、例えば、良い点(goodPts)の数が2であり、不安定な点(unstablePts)の数が6であり、悪い点(badPts)の数が50であり、見つからない点(notfoundPts)の数が1である場合、算出されたシーン変化率(errRate)は0.864407であり、閾値(Threshold)0.5よりも高いため、シーンが変化したと決定してもよい。
【0039】
なお、以上は単に上記の条件及び分類点を一例にして説明しているが、本発明はこれに限定されない。例えば、他の条件及び他の分類方法を用いてもよく、分類点の種類は4種類に限定されず、シーンに応じて他の具体的な条件を決定してもよい。
【0040】
1つの実施例では、シーン変化率及び/又は特徴点の数に基づいてシーン変化に対して第1計数を行い、第1計数が第5閾値(T5)に増加した場合、シーンが変化したと決定する。
【0041】
例えば、シーン検出をより安定化し、環境ノイズによる誤検出を低減させるために、シーン変化のカウンタを設定してもよい。シーン変化率Rscが閾値Tscよりも大きい場合、シーン変化カウンタに1を加算する。一方、シーン変化率Rscが閾値Tscよりも小さい場合、シーン変化カウンタを0に設定する。シーン変化カウンタがT5に達した場合、シーン変化フラグを真に設定し、シーンが変化したと決定する。
【0042】
また、例えば、シーン検出をより安定化するために、特徴点の数を条件としてもよい。例えば、良い点と不安定な点との合計をチェックし、Ngood+Nunstableが閾値Tgood+unstableよりも小さい場合、シーン変化カウンタに1を加算する。
【0043】
1つの実施例では、シーン検出によりシーン変化遅延に対して第2計数を行い、第2計数がゼロに減少した場合、シーン検出の初期化を行ってもよい。これによって、カメラの回転が停止した後に構成更新を行うことを確保することができる。
【0044】
例えば、シーン変化遅延カウンタを設定し、初期値をDに予め設定する。シーン検出を行う度に、シーン変化遅延カウンタから1を減算する。シーン変化遅延カウンタがゼロに減少した場合、初期化フラグを真に設定し、シーン変化フラグを偽に設定する。
【0045】
以上はステップ101におけるシーン検出を例示的に説明しているが、以下はステップ102における画像マッチングを説明する。
【0046】
例えば、PTZカメラの撮影シーンが変化したと検出された場合、以前のビデオ構成が現在の位置に適していないため、カメラの回転が停止した後に、現在の位置と所定位置とのマッチングを行う必要がある。1つのPTZカメラについて幾つかの可能な所定位置及び対応するビデオ構成を設定し、所定マッチングを行うために所定位置の画像(所定画像)を保存してもよい。ビデオ構成は必要な交通イベントによって異なり、例えば逆検出機能について、車線位置及び方向を設定する必要がある。
【0047】
1つの実施例では、テンプレートマッチングの方法を用いてもよい。例えば、マッチング範囲がW×Hである場合、blobテンプレートはw×hであり、各blobのグレースケール画像をテンプレートとしてもよい。マッチング関数をW×Hの背景画像でスライドさせ、w×hの重複ブロックを比較し、比較結果を行列に保存し、結果行列の大きさは(W-w+1)×(H-h+1)である。
【0048】
また、例えば、次の式(1)に従って、正規化相関係数方法を用いてテンプレートマッチングを行ってもよい。
【数1】
【0049】
Iは入力画像を表し、Tはテンプレートであり、Rは結果行列である。類似度を計算する前に、画像及びテンプレートを正規化することで、光照明の変化による誤差を回避することができる。Rの値は-1~1の範囲内にあり、1は画像とテンプレートとが同一であることを表し、-1は逆であることを表し、0は線形関係がないことを表す。
【0050】
1つの実施例では、現在のフレーム(現在の画像)及び1つの所定画像を複数のブロック(例えば9個のブロック)に分割し、各ブロックについてテンプレートマッチング方法を適用する。所定画像におけるブロックをテンプレートとし、現在の画像における対応するブロックの範囲を拡張し、該拡張ブロックを入力画像とする。
【0051】
図4は、本発明の実施例の所定画像の1つの例を示す図であり、所定画像1が9個のブロックに分割される場合を示している。図5は、本発明の実施例の現在の画像と所定画像とのマッチングの1つの例を示す図であり、所定画像1と現在の画像とのマッチングの場合を示している。図4及び図5に示すように、401で示されるグリッドはブロックを表し、501で示されるグリッドはテンプレートマッチングの拡張範囲を表す。
【0052】
図6は、本発明の実施例の所定画像のもう1つの例を示す図であり、所定画像2が9個のブロックに分割される場合を示している。図7は、本発明の実施例の現在の画像と所定画像とのマッチングのもう1つの例を示す図であり、所定画像2と現在の画像とのマッチングの場合を示している。図6及び図7に示すように、601で示されるグリッドはブロックを表し、701で示されるグリッドはテンプレートマッチングの拡張範囲を表す。
【0053】
図4図7に示すように、テンプレートマッチング方法を用いてテンプレートブロック画像と入力ブロック画像とのマッチング度を計算し、各ブロックのマッチングスコアを取得してもよい。例えば、9個のブロックは9個のマッチング度を有する。図5及び図7は各ブロックのマッチング度をそれぞれ示している。
【0054】
例えば、ブロックが前景対象をカバーしている可能性があるため、マッチング度が低くなる。従って、マッチング度を並び替え、異常値を除外し、残りの値の平均値を計算してもよい。該平均値は、現在の画像と所定画像とのマッチングスコアと見なされる。現在の画像と各所定画像とのマッチングの後に、マッチングスコアが最も高い所定画像をマッチング結果として選択してもよい。そして、マッチした所定画像のビデオ構成を更新してもよい。
【0055】
例えば、図5における所定画像1の最終的なマッチングスコアは0.916であり、図7における所定画像2のマッチングスコアは0.169である。よって、所定画像1は現在の画像に最もマッチした画像であり、そのビデオ構成は、後続のイベント検出のためにバッファに更新される。
【0056】
以上は画像マッチングを例示的に説明しているが、以下はずれ補正及び振れ補正を説明する。
【0057】
1つの実施例では、マッチング画像におけるサンプリング点に基づいてオプティカルフロー計算を行い、現在のフレームとマッチング画像とのずれを検出し、ずれの検出結果に基づいてビデオ画像に対してずれ補正を行う。
【0058】
例えば、PTZカメラの回転中に機械的エラーが発生する場合があるため、画像のずれ(変位)を検出する必要がある。上述したように、各シーンについて所定画像を設定してもよい。シーン変化を検出した後に、現在の画像と所定画像とがマッチした場合、現在の画像の所定画像に対するずれを計算してもよい。
【0059】
図8は本発明の実施例のマッチング画像に対するサンプリング、フィルタリング及び選択の一例を示す図である。例えば、マッチング画像において幾つかの点、例えば図8における801で示されるサンプリング点を平均的にサンプリングし、オプティカルフローを用いてこれらのサンプリング点の現在の画像における位置を追跡する。
【0060】
例えば、オプティカルフロー計算の後に、追跡できない点及びオプティカルフロー計算の誤差がT6よりも大きい点を省略してもよい。そして、現在の画像とマッチング画像における移動距離に基づいてこれらの点を並び替え、移動距離がT7よりも大きい点を並び替えの前に省略し、上位のT8%の点及び下位のT9%の点をさらに省略する。例えば、これらの省略点は図8における802で示される。
【0061】
次に、部分的アフィン転置行列(partial affine transpose matrix)を計算し、現在の画像から残りの点及びその位置のずれを取得してもよい。例えば、これらの残りの点は図8における803で示される。ずれの計算は複数回行ってもよく、複数回の計算により取得されたずれ結果の平均値は補正に適用される。
【0062】
図9は本発明の実施例のずれ補正の一例を示す図である。左部分はずれ画像を示し、右部分は該ずれ画像が補正されたことを示している。
【0063】
1つの実施例では、ビデオ画像における連続的な2つのフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ画像の振れを検出し、振れの検出結果に基づいてビデオ画像に対して振れ補正(ビデオ補正と称されてもよい)を行う。
【0064】
例えば、風力や大型車両の通過によりビデオ画像が振れる場合があり、解析されたビデオが該振れにより不安定になるため、振れ補正を行う必要がある。これらの振れの影響を検出、補正するために、2つの連続的なフレームの変換行列を取得する必要がある。
【0065】
1番目のフレームから幾つかの特徴点を抽出し、オプティカルフロー計算によりこれらの特徴点の2番目のフレームにおける位置を追跡してもよい。ビデオにおける移動物体の影響を低減させるために、部分的アフィン転置行列のために適切な点を選択するための簡単なルールを設定してもよい。
【0066】
例えば、2番目のフレームから位置が見つからない点を省略してもよい。オプティカルフロー計算の誤差を考慮し、誤差がT10よりも大きい場合、これらの点を省略する。2つのフレーム間の移動距離に基づいて、残りの点を並び替える。上位のT11%の点を省略し、下位のT12%の点を省略してもよい。そして、2つの連続的なフレームにおいてこれらの残りの点の位置を用いて、部分的アフィン転置行列Aを取得してもよい。
【0067】
部分的アフィン転置行列Aを用いて、以下の方程式に従って振れ値(dx,dy,dθ)を計算してもよい。
【数2】
【0068】
振れ値が取得された後に、振れ補正を平滑化してノイズを低減させるために、カルマンフィルタなどを用いてもよい。カルマンフィルタから取得された新たな振れ値を振れ補正に適用してもよい。部分的アフィン転置行列及びオプティカルフロー計算の具体的な内容について関連技術を参照してもよい。また、閾値T1~T12の具体的な数値について、例えば経験値に応じて決定されてもよい。
【0069】
以上はずれ補正及び振れ補正を例示的に説明しているが、以下はビデオ構成の更新を例示的に説明する。
【0070】
図10は本発明の実施例のビデオ監視処理を示す図であり、2つのスレッドを一例にしてビデオ監視処理を示している。図10に示すように、例えば、前処理スレッド及び分析スレッドの2つのスレッドを用いてもよく、前処理スレッドはカメラの異常検出及び補正に用いられ、分析スレッドは交通イベントの分析に用いられる。
【0071】
例えば、前処理スレッドは、分析スレッドに以下の情報を提供する。
表1
【表1】
【0072】
図10に示すように、ビデオシーケンスを入力してもよい。新しいフレームが入力されると、1番目のフレームであるか否かを判断する(1001)。1番目のフレームである場合、所定画像のマッチングを直接行い(1002)、マッチング結果を分析スレッドに報告して初期化処理を行う(2001)。1番目のフレームではない場合、シーン検出を行い(1003)、シーンが変化したか否かを決定し(1004)、例えばカメラが回転しているか否かを判断する。シーン変化が検出された場合、所定画像のマッチングを行い(1002)、そして、所定画像のマッチング結果に基づいてビデオ構成を更新する(1005)。
【0073】
図10に示すように、ずれ検出を行い、ずれがある場合にずれ補正をさらに行ってもよい(1006)。また、図10に示すように、振れ検出を行い、振れがある場合に振れ補正をさらに行い(1007、ビデオ補正とも称される)、補正後の画像を分析スレッドに送信してもよい。なお、振れ補正は、必ずしもずれ補正の後に行う必要がなく、例えばシーン検出の前に行ってもよく、これによって、シーン検出の正確性をさらに向上させることができる。
【0074】
図10に示すように、分析スレッドでは、初期化処理を行ってもよい(2001)。また、前景検出(2002)、目標検出(2003)、追跡(2004)及びイベント判断(2005)などをさらに行ってもよく、その具体的な内容は関連技術を参照してもよい。
【0075】
以上は、本発明に関連する各ステップ又はプロセスを説明しているが、本発明はこれに限定されない。ビデオ構成の更新方法は他のステップ又はプロセスをさらに含んでもよく、これらのステップ又はプロセスの具体的な内容について従来技術を参照してもよい。また、以上、単に上記の式を一例にして本発明の実施例を例示的に説明しているが、本発明はこれらの式に限定されず、これらの式に対して適切な変形を行ってもよく、これらの変形例は本発明の実施例の範囲内に含まれるべきである。
【0076】
以上の各実施例は本発明の実施例を例示的に説明するためのものであり、本発明はこれに限定されず、以上の各実施例に基づいて変形を適宜行ってもよい。例えば、上記の各実施例を単独で用いてもよいし、各実施例の1つ又は複数を組み合わせてもよい。
【0077】
本実施例では、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出し、シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得し、ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新する。これによって、制御信号を処理する必要がなく、ビデオ信号を用いてビデオ構成の更新を実現することができ、構成の更新をイベント分析に簡単に統合することができる。
【0078】
<第2実施例>
本発明の実施例はビデオ構成の更新装置を提供し、第1実施例と同様な内容について説明を省略する。
【0079】
図11は本発明の実施例のビデオ構成の更新装置を示す図である。図11に示すように、ビデオ構成の更新装置1100は、シーン検出部1101、画像マッチング部1102、及び構成更新部1103を含む。
【0080】
シーン検出部1101は、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出する。
【0081】
画像マッチング部1102は、シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得する。
【0082】
構成更新部1103は、ビデオ撮影の構成を、最も近いマッチング画像に対応する構成に更新する。
【0083】
1つの実施例では、図11に示すように、ビデオ構成の更新装置1100は、ずれ検出部1104及びずれ補正部1105をさらに含む。
【0084】
ずれ検出部1104は、マッチング画像におけるサンプリング点に基づいてオプティカルフロー計算を行い、現在のフレームと前記マッチング画像とのずれを検出する。
【0085】
ずれ補正部1105は、ずれの検出結果に基づいてビデオ画像に対してずれ補正を行う。
【0086】
1つの実施例では、図11に示すように、ビデオ構成の更新装置1100は、振れ検出部1106及び振れ補正部1107をさらに含む。
【0087】
振れ検出部1106は、ビデオ画像における連続的な2つのフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ画像の振れを検出する。
【0088】
振れ補正部1107は、振れの検出結果に基づいてビデオ画像に対して振れ補正を行う。
【0089】
なお、以上は単に本発明に関連する各部を説明し、本発明はこれに限定されない。ビデオ構成の更新装置1100は他の部材又はモジュールをさらに含んでもよく、これらの部材又はモジュールの具体的な内容について従来技術を参照してもよい。
【0090】
図12は本発明の実施例のシーン検出部を示す図である。1つの実施例では、図12に示すように、シーン検出部1101は、初期化部1201、選択部1202、及び決定部1203を含む。
【0091】
初期化部1201は、ビデオ画像から参照フレームを選択し、参照フレームから複数の特徴点を抽出する。
【0092】
選択部1202は、オプティカルフロー計算により複数の特徴点からビデオ画像における背景領域の特徴点を選択する。
【0093】
決定部1203は、オプティカルフロー計算により特徴点を分類し、分類後の特徴点の数に基づいてシーン変化率を計算し、シーン変化率に基づいてシーンが変化したか否かを決定する。
【0094】
1つの実施例では、選択部1202は、特徴点のスコアを計算し、スコアに基づいて、特徴点がビデオ画像における背景領域の特徴点であるか否かを決定する。
【0095】
1つの実施例では、選択部1202は、オプティカルフロー計算により現在のフレームにおける対応点が取得されたか否かの条件、オプティカルフロー計算の誤差が第1閾値よりも大きいか否かの条件、及び参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第2閾値よりも大きいか否かの条件のうちの少なくとも1つの条件に基づいて、特徴点のスコアを計算する。
【0096】
1つの実施例では、決定部1203は、特徴点を分類する際に、オプティカルフロー計算により現在のフレームにおける対応点が取得されていない場合、特徴点を第1類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値よりも小さい場合、前記特徴点を第2類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値よりも小さい場合、特徴点を第3類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値以上である場合、特徴点を第4類点に分類する。
【0097】
1つの実施例では、決定部1203は、以下の式に従ってシーン変化率を計算する。
【0098】
sc=(N+N)/(N+N+N+N
ここで、Nは該第1類点の数を表し、Nは該第2類点の数を表し、Nは該第3類点の数を表し、Nは該第4類点の数を表す。
【0099】
1つの実施例では、決定部1203は、シーン変化率及び/又は特徴点の数に基づいてシーン変化に対して第1計数を行い、第1計数が第5閾値に増加した場合、シーンが変化したと決定する。
【0100】
1つの実施例では、決定部1203は、シーン検出によりシーン変化遅延に対して第2計数を行い、第2計数がゼロに減少した場合、シーン検出の初期化を行う。
【0101】
説明の便宜上、図11及び図12は、単なる各部材又はモジュール間の接続関係又は信号方向のみを例示的に示しているが、当業者はバス接続などの各種の関連技術を採用してもよい。上記の各部材又はモジュールは例えばプロセッサ、メモリなどのハードウェア機器により実現されてもよく、本発明の実施例はこれに限定されない。
【0102】
以上の各実施例は本発明の実施例を例示的に説明しているが、本発明はこれに限定されず、各実施例に基づいて変形を適宜行ってもよい。例えば、上記の各実施例を単独で用いてもよいし、上記の各実施例の1つ又は複数を組み合わせてもよい。
【0103】
本実施例では、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出し、シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得し、ビデオ撮影の構成を、前記最も近いマッチング画像に対応する構成に更新する。これによって、制御信号を処理する必要がなく、ビデオ信号を用いてビデオ構成の更新を実現することができ、構成の更新をイベント分析に簡単に統合することができる。
【0104】
<第3実施例>
本発明の実施例は、第2実施例に記載のビデオ構成の更新装置を含む電子機器をさらに提供し、ここでその内容を援用する。該電子機器は例えばコンピュータ、サーバ、ワークステーション、ラップトップコンピュータ、スマートフォンなどであってもよく、本発明の実施例はこれに限定されない。
【0105】
図13は本発明の実施例の電子機器を示す図である。図13に示すように、電子機器1300は、プロセッサ(例えば中央処理装置:CPU)1310及びメモリ1320を含んでもよく、メモリ1320はプロセッサ1310に接続される。メモリ1320は、各種のデータ及び情報処理のプログラム1321を記憶してもよく、プロセッサ1310の制御により該プログラム1321を実行する。
【0106】
1つの態様では、ビデオ構成の更新装置1100の機能はプロセッサ1310に統合されてもよい。ここで、プロセッサ1310は、実施例1に説明されたビデオ構成の更新方法を実現するように構成されてもよい。
【0107】
もう1つの態様では、ビデオ構成の更新装置1100はプロセッサ1310とそれぞれ配置されてもよく、例えば、ビデオ構成の更新装置1100はプロセッサ1310に接続されたチップであり、プロセッサ1310の制御によりビデオ構成の更新装置1100の機能を実現するように構成されてもよい。
【0108】
1つの態様では、プロセッサ1310は、ビデオ画像における複数のフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ撮影のシーンが変化したか否かを検出し、シーンが変化した場合、ブロックごとに現在のフレームと複数の所定画像とのマッチング度をそれぞれ計算し、現在のシーンに最も近いマッチング画像を取得し、ビデオ撮影の構成を、最も近いマッチング画像に対応する構成に更新するように構成されている。
【0109】
1つの態様では、プロセッサ1310は、マッチング画像におけるサンプリング点に基づいてオプティカルフロー計算を行い、現在のフレームとマッチング画像とのずれを検出し、ずれの検出結果に基づいてビデオ画像に対してずれ補正を行うように構成されている。
【0110】
1つの態様では、プロセッサ1310は、ビデオ画像における連続的な2つのフレームの特徴点に基づいてオプティカルフロー計算を行い、ビデオ画像の振れを検出し、振れの検出結果に基づいてビデオ画像に対して振れ補正を行うように構成されている。
【0111】
1つの態様では、プロセッサ1310は、ビデオ画像から参照フレームを選択し、参照フレームから複数の特徴点を抽出し、オプティカルフロー計算により複数の特徴点からビデオ画像における背景領域の特徴点を選択し、オプティカルフロー計算により特徴点を分類し、分類後の特徴点の数に基づいてシーン変化率を計算し、シーン変化率に基づいてシーンが変化したか否かを決定するように構成されている。
【0112】
1つの態様では、プロセッサ1310は、特徴点のスコアを計算し、スコアに基づいて、特徴点がビデオ画像における背景領域の特徴点であるか否かを決定するように構成されている。
【0113】
1つの態様では、プロセッサ1310は、オプティカルフロー計算により現在のフレームにおける対応点が取得されたか否かの条件、オプティカルフロー計算の誤差が第1閾値よりも大きいか否かの条件、及び参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第2閾値よりも大きいか否かの条件のうちの少なくとも1つの条件に基づいて、特徴点のスコアを計算するように構成されている。
【0114】
1つの態様では、プロセッサ1310は、特徴点を分類する際に、オプティカルフロー計算により現在のフレームにおける対応点が取得されていない場合、特徴点を第1類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値よりも小さい場合、特徴点を第2類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値よりも小さい場合、特徴点を第3類点に分類し、且つ/或いはオプティカルフロー計算の誤差が第3閾値以上であり、且つ参照フレームにおける特徴点と現在のフレームにおける対応点との距離が第4閾値以上である場合、前記特徴点を第4類点に分類するように構成されている。
【0115】
1つの態様では、プロセッサ1310は、以下の式に従ってシーン変化率を計算するように構成されている。
【0116】
sc=(N+N)/(N+N+N+N
ここで、Nは該第1類点の数を表し、Nは該第2類点の数を表し、Nは該第3類点の数を表し、Nは該第4類点の数を表す。
【0117】
1つの態様では、プロセッサ1310は、シーン変化率及び/又は特徴点の数に基づいてシーン変化に対して第1計数を行い、第1計数が第5閾値に増加した場合、シーンが変化したと決定するように構成されている。
【0118】
1つの態様では、プロセッサ1310は、シーン検出によりシーン変化遅延に対して第2計数を行い、第2計数がゼロに減少した場合、シーン検出の初期化を行うように構成されている。
【0119】
また、図13に示すように、電子機器1300は、入力出力(I/O)デバイス1330及びディスプレイ1340などをさらに含んでもよい。ここで、上記各部の機能は従来技術と類似し、ここでその説明を省略する。なお、電子機器1300は、図13に示す全ての構成部を含まなくてもよい。また、電子機器1300は、図13に示していない構成部を含んでもよく、従来技術を参考してもよい。
【0120】
本発明の実施例は、電子機器においてプログラムを実行する際に、コンピュータに、該電子機器において第1実施例に記載のビデオ構成の更新方法を実行させる、コンピュータ読み取り可能なプログラムをさらに提供する。
【0121】
本発明の実施例は、コンピュータに、電子機器において第1実施例に記載のビデオ構成の更新方法を実行させるためのコンピュータ読み取り可能なプログラムを記憶する、記憶媒体をさらに提供する。
【0122】
本発明の以上の装置及び方法は、ハードウェアにより実現されてもよく、ハードウェアとソフトウェアを結合して実現されてもよい。本発明はコンピュータが読み取り可能なプログラムに関し、該プログラムは論理部により実行される時に、該論理部に上述した装置又は構成要件を実現させる、或いは該論理部に上述した各種の方法又はステップを実現させることができる。本発明は上記のプログラムを記憶するための記憶媒体、例えばハードディスク、磁気ディスク、光ディスク、DVD、フラッシュメモリ等に関する。
【0123】
本発明の実施例を参照しながら説明した方法/装置は、ハードウェア、プロセッサにより実行されるソフトウェアモジュール、又は両者の組み合わせで実施されてもよい。例えば、図面に示す機能的ブロック図における1つ若しくは複数、又は機能的ブロック図の1つ若しくは複数の組み合わせは、コンピュータプログラムフローの各ソフトウェアモジュールに対応してもよいし、各ハードウェアモジュールに対応してもよい。これらのソフトウェアモジュールは、図面に示す各ステップにそれぞれ対応してもよい。これらのハードウェアモジュールは、例えばフィールド・プログラマブル・ゲートアレイ(FPGA)を用いてこれらのソフトウェアモジュールをハードウェア化して実現されてもよい。
【0124】
ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、モバイルハードディスク、CD-ROM又は当業者にとって既知の任意の他の形の記憶媒体に位置してもよい。プロセッサが記憶媒体から情報を読み取ったり、記憶媒体に情報を書き込むように該記憶媒体をプロセッサに接続してもよいし、記憶媒体がプロセッサの構成部であってもよい。プロセッサ及び記憶媒体はASICに位置する。該ソフトウェアモジュールは移動端末のメモリに記憶されてもよいし、移動端末に挿入されたメモリカードに記憶されてもよい。例えば、機器(例えば移動端末)が比較的に大きい容量のMEGA-SIMカード又は大容量のフラッシュメモリ装置を用いる場合、該ソフトウェアモジュールは該MEGA-SIMカード又は大容量のフラッシュメモリ装置に記憶されてもよい。
【0125】
図面に記載されている一つ以上の機能ブロックおよび/または機能ブロックの一つ以上の組合せは、本発明に記載されている機能を実行するための汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲートアレイ(FPGA)又は他のプログラマブル論理デバイス、ディスクリートゲートまたはトランジスタ論理装置、ディスクリートハードウェアコンポーネント、またはそれらの任意の適切な組み合わせで実現されてもよい。図面に記載されている一つ以上の機能ブロックおよび/または機能ブロックの一つ以上の組合せは、例えば、コンピューティング機器の組み合わせ、例えばDSPとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサの組み合わせ、DSP通信と組み合わせた1つ又は複数のマイクロプロセッサ又は他の任意の構成で実現されてもよい。
【0126】
以上、具体的な実施形態を参照しながら本発明を説明しているが、上記の説明は、例示的なものに過ぎず、本発明の保護の範囲を限定するものではない。本発明の趣旨及び原理を離脱しない限り、本発明に対して各種の変形及び修正を行ってもよく、これらの変形及び修正も本発明の範囲に属する。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13