知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-03
(45)【発行日】2022-10-12
(54)【発明の名称】ビデオ処理方法及び装置、電子機器並びに記憶媒体
(51)【国際特許分類】
G06T 7/00 20170101AFI20221004BHJP
【ＦＩ】
G06T7/00 300F
【請求項の数】
12
(21)【出願番号】P 2020573211
(86)(22)【出願日】2020-03-23
(65)【公表番号】
(43)【公表日】2021-10-28
(86)【国際出願番号】 CN2020080683
(87)【国際公開番号】W WO2020228418
(87)【国際公開日】2020-11-19
【審査請求日】2020-12-28
(31)【優先権主張番号】201910407853.X
(32)【優先日】2019-05-15
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】520180323
【氏名又は名称】上▲海▼商▲湯▼智能科技有限公司
【氏名又は名称原語表記】ＳＨＡＮＧＨＡＩ ＳＥＮＳＥＴＩＭＥ ＩＮＴＥＬＬＩＧＥＮＴ ＴＥＣＨＮＯＬＯＧＹ ＣＯ．， ＬＴＤ．
【住所又は居所原語表記】Ｒｏｏｍ １６０５Ａ， Ｂｕｉｌｄｉｎｇ ３， ３９１ Ｇｕｉｐｉｎｇ Ｒｏａｄ， Ｘｕｈｕｉ Ｄｉｓｔｒｉｃｔ， Ｓｈａｎｇｈａｉ ２００２３３ Ｃｈｉｎａ
(74)【代理人】
【識別番号】100078282
【弁理士】
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【弁理士】
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【弁理士】
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【弁理士】
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【弁護士】
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】▲呉▼佳▲飛▼
【審査官】藤原 敬利
(56)【参考文献】
【文献】特表２００９－５３７０９６（ＪＰ，Ａ）
【文献】特開２００８－２０５６９３（ＪＰ，Ａ）
【文献】特表２０１３－５３３６６８（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｔ ７／００ － ７／９０
Ｈ０４Ｎ ５／２２２－ ５／２５７
Ｈ０４Ｎ ５／９１ － ５／９５７
Ｈ０４Ｎ ７／１８
(57)【特許請求の範囲】
【請求項1】
ビデオ処理方法であって、前記ビデオ処理方法は、少なくとも１つの選択待ちのビデオフレームシーケンスを取得することと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることと
を含み、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けることと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることと
を含み、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、
前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、
前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、
既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと
を含む、ビデオ処理方法。
【請求項2】
少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記ビデオ処理方法は、前記ビデオフレームシーケンスを取得することと、
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとすることと
を更に含む、請求項１に記載のビデオ処理方法。
【請求項3】
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることを含み、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである、請求項２に記載のビデオ処理方法。
【請求項4】
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することと、
前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることと
を含む、請求項２または請求項３に記載のビデオ処理方法。
【請求項5】
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記ビデオ処理方法は、前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置することと、
ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得ることと
を更に含む、請求項１に記載のビデオ処理方法。
【請求項6】
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることは、前記第１フレーム選択結果を最終的なフレーム選択結果とすること、または、
全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とすること
を含み、ｋ２は、１以上の整数である、請求項１～５のうちいずれか一項に記載のビデオ処理方法。
【請求項7】
前記ビデオ処理方法は、前記最終的なフレーム選択結果に基づいて、所定操作を実行することを更に含む、請求項１～６のうちいずれか一項に記載のビデオ処理方法。
【請求項8】
前記最終的なフレーム選択結果に基づいて、所定操作を実行することは、前記最終的なフレーム選択結果を送信すること、または、
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行すること
を含む、請求項７に記載のビデオ処理方法。
【請求項9】
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することは、前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出することと、
各前記画像特徴に対して特徴融合操作を行い、融合特徴を得ることと、
前記融合特徴に基づいて、ターゲット認識操作を実行することと
を含む、請求項８に記載のビデオ処理方法。
【請求項10】
ビデオ処理装置であって、前記ビデオ処理装置は、少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成されている取得モジュールと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されているシーケンス内部フレーム選択モジュールと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されているグローバル的フレーム選択モジュールと
を備え、
前記シーケンス内部フレーム選択モジュールは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得するように構成されている品質パラメータ取得サブモジュールと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けるように構成されている順序付けサブモジュールと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得るように構成されているフレーム抽出サブモジュールと
を備え、
前記フレーム抽出サブモジュールは、
前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、
前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、
既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと
を実行するようにさらに構成されている、ビデオ処理装置。
【請求項11】
電子機器であって、前記電子機器は、プロセッサと、
前記プロセッサによって実行可能な命令を記憶するためのメモリと
を備え、
前記プロセッサは、前記実行可能な命令を呼び出すことにより、請求項１～９のうちいずれか一項に記載のビデオ処理方法を実行するように構成されている、電子機器。
【請求項12】
コンピュータ読み取り可能な記憶媒体であって、前記コンピュータ読み取り可能な記憶媒体には、コンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令は、プロセッサによって実行されると、請求項１～９のうちいずれか一項に記載のビデオ処理方法を実行することを前記プロセッサに行わせる、コンピュータ読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
（関連出願の相互参照）
本願は、２０１９年０５月１５日に提出された、出願番号が２０１９１０４０７８５３．Ｘである中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
本願は、２０１９年０５月１５日に提出された、出願番号が２０１９１０４０７８５３．Ｘである中国特許出願に基づく優先権を主張し、該中国特許出願の全内容が参照として本願に組み込まれる。
【0002】
本願は、画像処理技術分野に関し、特に、ビデオ処理方法及び装置、電子機器並びに記憶媒体に関する。
【背景技術】
【0003】
ビデオ分析において、ターゲットは、一般的に、画面に数百枚のピクチャが発生する。演算リソースが限られている場合、これらのピクチャの全てを後続の操作に用いる必要がない。キャプチャしたピクチャの情報をより好適に利用するために、一般的には、ビデオ全体から、複数のピクチャを選択して操作を行うことが多い。該プロセスは、フレーム選択と呼ばれる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本願の実施例は、ビデオフレームシーケンスから、品質が所定要求を満たすビデオフレームを選択することができるビデオ処理方法及び装置、電子機器並びに記憶媒体を提供する。
【課題を解決するための手段】
【0005】
本願の実施例は、ビデオ処理方法を提供する。前記方法は、少なくとも１つの選択待ちのビデオフレームシーケンスを取得することと、各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることと、全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることと、を含む。
【0006】
可能な実現形態において、少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記方法は、前記ビデオフレームシーケンスを取得することと、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとすることと、を更に含む。
【0007】
可能な実現形態において、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることであって、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである、ことを含む。
【0008】
可能な実現形態において、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することと、前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることと、を含む。
【0009】
可能な実現形態において、各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることは、前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することと、前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けることと、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることと、を含む。
【0010】
可能な実現形態において、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記方法は、前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置することと、ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得ることと、を更に含む。
【0011】
可能な実現形態において、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることを含む。
【0012】
可能な実現形態において、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと、を含む。
【0013】
可能な実現形態において、全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることは、前記第１フレーム選択結果を最終的なフレーム選択結果とすること、又は、全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とすることであって、ｋ２は、１以上の整数である、ことを含む。
【0014】
可能な実現形態において、前記方法は、前記最終的なフレーム選択結果に基づいて、所定操作を実行することを更に含む。
【0015】
可能な実現形態において、前記最終的なフレーム選択結果に基づいて、所定操作を実行することは、前記最終的なフレーム選択結果を送信すること、又は、前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することを含む。
【0016】
可能な実現形態において、前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することは、前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出することと、各前記画像特徴に対して特徴融合操作を行い、融合特徴を得ることと、前記融合特徴に基づいて、ターゲット認識操作を実行することと、を含む。
【0017】
本願の実施例は、ビデオ処理装置を更に提供する。前記装置は、少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成される取得モジュールと、各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されるシーケンス内部フレーム選択モジュールと、全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されるグローバル的フレーム選択モジュールと、を備える。
【0018】
可能な実現形態において、前記装置は、前記取得モジュールにより少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記ビデオフレームシーケンスを取得し、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとするように構成される前処理モジュールを更に備える。
【0019】
可能な実現形態において、前記前処理モジュールは、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成され、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである。
【0020】
可能な実現形態において、前記前処理モジュールは、所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定し、前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成される。
【0021】
可能な実現形態において、前記シーケンス内部フレーム選択モジュールは、前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得するように構成される品質パラメータ取得サブモジュールと、前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けるように構成される順序付けサブモジュールと、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得るように構成されるフレーム抽出サブモジュールと、を備える。
【0022】
可能な実現形態において、前記シーケンス内部フレーム選択モジュールは、前記フレーム抽出サブモジュールにより所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置し、ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得るように構成されるフレーム間隔取得サブモジュールを更に備える。
【0023】
可能な実現形態において、前記フレーム抽出サブモジュールは、各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成される。
【0024】
可能な実現形態において、前記フレーム抽出サブモジュールは、前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとし、前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択するように構成され、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数であり、前記フレーム抽出サブモジュールは、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成される。
【0025】
可能な実現形態において、前記グローバル的フレーム選択モジュールは、前記第１フレーム選択結果を最終的なフレーム選択結果とするように構成され、又は、全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とするように構成され、ｋ２は、１以上の整数である。
【0026】
可能な実現形態において、前記装置は、前記最終的なフレーム選択結果に基づいて、所定操作を実行するように構成されるフレーム選択結果操作モジュールを更に備える。
【0027】
可能な実現形態において、前記フレーム選択結果操作モジュールは、前記最終的なフレーム選択結果を送信するように構成され、又は、前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行するように構成される。
【0028】
可能な実現形態において、前記フレーム選択結果操作モジュールは更に、前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出し、各前記画像特徴に対して特徴融合操作を行い、融合特徴を得て、前記融合特徴に基づいて、ターゲット認識操作を実行するように構成される。
【0029】
本願の実施例は、電子機器を更に提供する。前記電子機器は、プロセッサと、プロセッサによる実行可能な命令を記憶するためのメモリと、を備え、前記プロセッサは、前記実行可能な命令を呼び出すことで、本願の実施例の上記ビデオ処理方法を実現させる。
【0030】
本願の実施例は、コンピュータ可読記憶媒体を更に提供する。前記コンピュータ可読記憶媒体には、コンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、本願の実施例の上記ビデオ処理方法を実現させる。
例えば、本願は以下の項目を提供する。
（項目１）
ビデオ処理方法であって、前記方法は、
少なくとも１つの選択待ちのビデオフレームシーケンスを取得することと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることと、を含む、ビデオ処理方法。
（項目２）
少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記方法は、
前記ビデオフレームシーケンスを取得することと、
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとすることと、を更に含むことを特徴とする
項目１に記載の方法。
（項目３）
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、
前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることであって、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである、ことを含むことを特徴とする
項目２に記載の方法。
（項目４）
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、
所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することと、
前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることと、を含むことを特徴とする
項目２又は３に記載の方法。
（項目５）
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けることと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることと、を含むことを特徴とする
項目１から４のうちいずれか一項に記載の方法。
（項目６）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記方法は、
前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置することと、
ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得ることと、を更に含むことを特徴とする
項目５に記載の方法。
（項目７）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、
各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることを含むことを特徴とする
項目５又は６に記載の方法。
（項目８）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、
前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、
前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、
既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと、を含むことを特徴とする
項目５又は６に記載の方法。
（項目９）
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることは、
前記第１フレーム選択結果を最終的なフレーム選択結果とすること、又は、
全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とすることであって、ｋ２は、１以上の整数である、ことを含むことを特徴とする
項目１から８のうちいずれか一項に記載の方法。
（項目１０）
前記方法は、前記最終的なフレーム選択結果に基づいて、所定操作を実行することを更に含むことを特徴とする
項目１から９のうちいずれか一項に記載の方法。
（項目１１）
前記最終的なフレーム選択結果に基づいて、所定操作を実行することは、
前記最終的なフレーム選択結果を送信すること、又は、
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することを含むことを特徴とする
項目１０に記載の方法。
（項目１２）
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することは、
前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出することと、
各前記画像特徴に対して特徴融合操作を行い、融合特徴を得ることと、
前記融合特徴に基づいて、ターゲット認識操作を実行することと、を含むことを特徴とする
項目１１に記載の方法。
（項目１３）
ビデオ処理装置であって、前記装置は、
少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成される取得モジュールと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されるシーケンス内部フレーム選択モジュールと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されるグローバル的フレーム選択モジュールと、を備える、ビデオ処理装置。
（項目１４）
前記装置は、前記取得モジュールにより少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記ビデオフレームシーケンスを取得し、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとするように構成される前処理モジュールを更に備えることを特徴とする
項目１３に記載の装置。
（項目１５）
前記前処理モジュールは、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成され、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じであることを特徴とする
項目１４に記載の装置。
（項目１６）
前記前処理モジュールは、所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定し、前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成されることを特徴とする
項目１４又は１５に記載の装置。
（項目１７）
前記シーケンス内部フレーム選択モジュールは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得するように構成される品質パラメータ取得サブモジュールと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けるように構成される順序付けサブモジュールと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得るように構成されるフレーム抽出サブモジュールと、を備えることを特徴とする
項目１３から１６のうちいずれか一項に記載の装置。
（項目１８）
前記シーケンス内部フレーム選択モジュールは、前記フレーム抽出サブモジュールにより所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置し、ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得るように構成されるフレーム間隔取得サブモジュールを更に備えることを特徴とする
項目１７に記載の装置。
（項目１９）
前記フレーム抽出サブモジュールは、各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成されることを特徴とする
項目１７又は１８に記載の装置。
（項目２０）
可能な実現形態において、前記フレーム抽出サブモジュールは、前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとし、前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択するように構成され、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数であり、前記フレーム抽出サブモジュールは、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成されることを特徴とする
項目１７又は１８に記載の装置。
（項目２１）
前記グローバル的フレーム選択モジュールは、前記第１フレーム選択結果を最終的なフレーム選択結果とするように構成され、又は、全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とするように構成され、ｋ２は、１以上の整数であることを特徴とする
項目１３から２０のうちいずれか一項に記載の装置。
（項目２２）
前記装置は、前記最終的なフレーム選択結果に基づいて、所定操作を実行するように構成されるフレーム選択結果操作モジュールを更に備えることを特徴とする
項目１３から２１のうちいずれか一項に記載の装置。
（項目２３）
前記フレーム選択結果操作モジュールは、前記最終的なフレーム選択結果を送信するように構成され、又は、前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行するように構成されることを特徴とする
項目２２に記載の装置。
（項目２４）
前記フレーム選択結果操作モジュールは更に、前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出し、各前記画像特徴に対して特徴融合操作を行い、融合特徴を得て、前記融合特徴に基づいて、ターゲット認識操作を実行するように構成されることを特徴とする
項目２３に記載の装置。
（項目２５）
電子機器であって、前記電子機器は、
プロセッサと、
プロセッサによる実行可能な命令を記憶するためのメモリと、を備え、
前記プロセッサは、前記実行可能な命令を呼び出すことで、項目１から１２のうちいずれか一項に記載の方法を実現する、電子機器。
（項目２６）
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体には、コンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、プロセッサに項目１から１２のうちいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
例えば、本願は以下の項目を提供する。
（項目１）
ビデオ処理方法であって、前記方法は、
少なくとも１つの選択待ちのビデオフレームシーケンスを取得することと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることと、を含む、ビデオ処理方法。
（項目２）
少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記方法は、
前記ビデオフレームシーケンスを取得することと、
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとすることと、を更に含むことを特徴とする
項目１に記載の方法。
（項目３）
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、
前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることであって、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである、ことを含むことを特徴とする
項目２に記載の方法。
（項目４）
前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、
所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することと、
前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることと、を含むことを特徴とする
項目２又は３に記載の方法。
（項目５）
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得ることは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けることと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることと、を含むことを特徴とする
項目１から４のうちいずれか一項に記載の方法。
（項目６）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記方法は、
前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置することと、
ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得ることと、を更に含むことを特徴とする
項目５に記載の方法。
（項目７）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、
各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることを含むことを特徴とする
項目５又は６に記載の方法。
（項目８）
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得ることは、
前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、
前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、
既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと、を含むことを特徴とする
項目５又は６に記載の方法。
（項目９）
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得ることは、
前記第１フレーム選択結果を最終的なフレーム選択結果とすること、又は、
全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とすることであって、ｋ２は、１以上の整数である、ことを含むことを特徴とする
項目１から８のうちいずれか一項に記載の方法。
（項目１０）
前記方法は、前記最終的なフレーム選択結果に基づいて、所定操作を実行することを更に含むことを特徴とする
項目１から９のうちいずれか一項に記載の方法。
（項目１１）
前記最終的なフレーム選択結果に基づいて、所定操作を実行することは、
前記最終的なフレーム選択結果を送信すること、又は、
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することを含むことを特徴とする
項目１０に記載の方法。
（項目１２）
前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することは、
前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出することと、
各前記画像特徴に対して特徴融合操作を行い、融合特徴を得ることと、
前記融合特徴に基づいて、ターゲット認識操作を実行することと、を含むことを特徴とする
項目１１に記載の方法。
（項目１３）
ビデオ処理装置であって、前記装置は、
少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成される取得モジュールと、
各前記選択待ちのビデオフレームシーケンスに対して、シーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されるシーケンス内部フレーム選択モジュールと、
全ての前記第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されるグローバル的フレーム選択モジュールと、を備える、ビデオ処理装置。
（項目１４）
前記装置は、前記取得モジュールにより少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記ビデオフレームシーケンスを取得し、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとするように構成される前処理モジュールを更に備えることを特徴とする
項目１３に記載の装置。
（項目１５）
前記前処理モジュールは、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成され、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じであることを特徴とする
項目１４に記載の装置。
（項目１６）
前記前処理モジュールは、所定要求に応じて、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定し、前記数量に基づいて、前記ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成されることを特徴とする
項目１４又は１５に記載の装置。
（項目１７）
前記シーケンス内部フレーム選択モジュールは、
前記選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得するように構成される品質パラメータ取得サブモジュールと、
前記品質パラメータに従って、前記選択待ちのビデオフレームシーケンスを順序付けるように構成される順序付けサブモジュールと、
所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、前記選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得るように構成されるフレーム抽出サブモジュールと、を備えることを特徴とする
項目１３から１６のうちいずれか一項に記載の装置。
（項目１８）
前記シーケンス内部フレーム選択モジュールは、前記フレーム抽出サブモジュールにより所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、前記選択待ちのビデオフレームシーケンスにおける各前記ビデオフレームの時系列上の順序に基づいて、前記選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置し、ビデオフレーム同士の番号の差分値の絶対値に基づいて、前記順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得るように構成されるフレーム間隔取得サブモジュールを更に備えることを特徴とする
項目１７に記載の装置。
（項目１９）
前記フレーム抽出サブモジュールは、各前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、前記品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成されることを特徴とする
項目１７又は１８に記載の装置。
（項目２０）
可能な実現形態において、前記フレーム抽出サブモジュールは、前記順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとし、前記順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択するように構成され、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数であり、前記フレーム抽出サブモジュールは、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成されることを特徴とする
項目１７又は１８に記載の装置。
（項目２１）
前記グローバル的フレーム選択モジュールは、前記第１フレーム選択結果を最終的なフレーム選択結果とするように構成され、又は、全ての前記第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、前記ｋ２フレームのビデオフレームを最終的なフレーム選択結果とするように構成され、ｋ２は、１以上の整数であることを特徴とする
項目１３から２０のうちいずれか一項に記載の装置。
（項目２２）
前記装置は、前記最終的なフレーム選択結果に基づいて、所定操作を実行するように構成されるフレーム選択結果操作モジュールを更に備えることを特徴とする
項目１３から２１のうちいずれか一項に記載の装置。
（項目２３）
前記フレーム選択結果操作モジュールは、前記最終的なフレーム選択結果を送信するように構成され、又は、前記最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行するように構成されることを特徴とする
項目２２に記載の装置。
（項目２４）
前記フレーム選択結果操作モジュールは更に、前記最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出し、各前記画像特徴に対して特徴融合操作を行い、融合特徴を得て、前記融合特徴に基づいて、ターゲット認識操作を実行するように構成されることを特徴とする
項目２３に記載の装置。
（項目２５）
電子機器であって、前記電子機器は、
プロセッサと、
プロセッサによる実行可能な命令を記憶するためのメモリと、を備え、
前記プロセッサは、前記実行可能な命令を呼び出すことで、項目１から１２のうちいずれか一項に記載の方法を実現する、電子機器。
（項目２６）
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体には、コンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、プロセッサに項目１から１２のうちいずれか一項に記載の方法を実現させる、コンピュータ可読記憶媒体。
【発明の効果】
【0031】
本願の実施例において、選択待ちのビデオフレームシーケンスに対してシーケンス内部フレーム選択及びグローバル的フレーム選択を順次行うことで、最終的なフレーム選択結果を得る。本願の実施例において、選択待ちのビデオフレームシーケンスに対してシーケンス内部フレーム選択及びグローバル的フレーム選択を順次行うことで、フレーム選択結果に、隣接して類似度が高いビデオフレームが生じる可能性を減少させ、ビデオ処理結果の代表性及び情報の相補性を向上させることができる。
【0032】
本願の実施例の他の特徴及び態様は、下記の図面に基づく例示的な実施例の詳細な説明を参照すれば明らかになる。
【図面の簡単な説明】
【0033】
【図1】本願の実施例によるビデオ処理方法を示す第１フローチャートである。
【図2】本願の実施例によるビデオフレームシーケンスの分割を示す概略図である。
【図3】本願の実施例によるビデオ処理方法を示す第２フローチャートである。
【図4】本願の実施例によるフレーム選択プロセスを示す概略図である。
【図5】本願の実施例によるビデオ処理方法を示す第３フローチャートである。
【図6】本願の実施例による一適用例を示す概略図である。
【図7】本願の実施例によるビデオ処理装置を示すブロック図である。
【図8】本願の実施例による電子機器を示すブロック図である。
【図9】本願の実施例による電子機器を示すもう１つのブロック図である。
【0034】
ここで添付した図面は、明細書に引き入れて本明細書の一部分を構成し、本願に適合する実施例を示し、かつ、明細書とともに本願の技術的解決手段を解釈することに用いられる。
【発明を実施するための形態】
【0035】
以下、図面を参照しながら本願の種々の例示的な実施例、特徴及び態様を詳しく説明する。図面における同一の符号は、同一または類似する機能を有する要素を示す。図面は、実施例の種々の態様を示しているが、特別な説明がない限り、必ずしも比率どおりの図面ではない。
【0036】
ここで使用した「例示的」という用語は「例、実施例として用いられるか、または説明のためのものである」ことを意味する。ここで、「例示的なもの」として説明される如何なる実施例は、他の実施例より好適または有利であると必ずしも解釈されるべきではない。
【0037】
本明細書において、用語「及び／又は」は、関連対象の関連関係を説明するためのものであり、３通りの関係が存在することを表す。例えば、Ａ及び／又はＢは、Ａのみが存在すること、ＡとＢが同時に存在すること、Ｂのみが存在するという３つの場合を表す。また、本明細書において、用語「少なくとも１つ」は、複数のうちのいずれか１つ又は複数のうちの少なくとも２つの任意の組み合わせを表す。例えば、Ａ、Ｂ、Ｃのうちの少なくとも１つを含むことは、Ａ、Ｂ及びＣからなる集合から選ばれるいずれか１つ又は複数の要素を含むことを表す。
【0038】
なお、本願をより良く説明するために、以下の具体的な実施形態において具体的な細部を多く記載した。当業者は、これら具体的な詳細に関わらず、本開示は同様に実施可能であると理解すべきである。本発明の主旨を明確にするために、一部の実例において、当業者に熟知されている方法、手段、素子及び回路については詳しく説明しないことにする。
【0039】
本願に言及した上記各方法の実施例は、原理や論理から逸脱しない限り、互いに組み合わせることで組み合わせた実施例を構成することができ、紙数に限りがあるため、本願において逐一説明しないことが理解されるべきである。
【0040】
なお、本願の実施例は、画像処理装置、電子機器、コンピュータ可読記憶媒体、プログラムを更に提供する。上記はいずれも、本願で提供されるいずれか１つのビデオ処理方法を実現させるためのものである。対応する技術的解決手段及び説明は、方法に関連する記述を参照されたい。ここで、詳細な説明を省略する。
【0041】
図１は、本願の実施例によるビデオ処理方法を示す第１フローチャートである。該ビデオ処理方法は、端末又は他の処理装置により実行されてもよい。ここで、端末装置は、ユーザ装置（Ｕｓｅｒ Ｅｑｕｉｐｍｅｎｔ：ＵＥ）、携帯機器、ユーザ端末、端末、セルラ電話、コードレス電話、パーソナルデジタルアシスタント（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ：ＰＤＡ）、ハンドヘルドデバイス、コンピューティングデバイス、車載機器、ウェアブル機器などであってもよい。幾つかの可能な実現形態において、該ビデオ処理方法は、プロセッサによりメモリに記憶されているコンピュータ可読命令を呼び出すことで実現することができる。
【0042】
図１に示すように、前記ビデオ処理方法は、以下を含む。
【0043】
ステップＳ１１において、少なくとも１つの選択待ちのビデオフレームシーケンスを取得する。
【0044】
可能な実現形態において、各選択待ちのビデオフレームシーケンスに含まれるビデオフレームの数量は限定されず、選択待ちのビデオフレームシーケンスのフレームレート、長さ等のパラメータによって決定してもよい。
【0045】
本実施例において、選択待ちのビデオフレームシーケンスの取得方式は限定されない。可能な実現形態において、ステップＳ１１の前に、ビデオフレームシーケンスを取得することと、ビデオフレームシーケンスを選択待ちのビデオフレームシーケンスとすることと、を含んでもよい。
【0046】
上記の実施例において、取得されたビデオフレームシーケンス全体を直接的に、選択待ちのビデオフレームシーケンスとして、それに対してフレーム選択操作を直接的に行うことができる。この場合、選択待ちのビデオフレームシーケンスに対して後続のフレーム選択操作を行うことで得られた第１フレーム選択結果を、直接的に、グローバル的フレーム選択結果として、任意の対応するシーンに適用することができる。一例において、特徴抽出、属性抽出又は情報融合などのシーンに適用可能である。
【0047】
可能な実現形態において、ステップＳ１１の前に、ビデオフレームシーケンスを取得することと、ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、サブビデオフレームシーケンスを選択待ちのビデオフレームシーケンスとすることと、を更に含んでもよい。
【0048】
上記の実施例において、取得したビデオフレームシーケンスに対して分割操作を実行してもよく、それによって、複数のサブビデオフレームシーケンスを得ることもできる。得られた各サブビデオフレームシーケンスを、いずれも選択待ちのビデオフレームシーケンスとすることができる。この場合、全ての得られたサブビデオフレームシーケンスに対してフレーム選択操作をそれぞれ行い、各サブビデオフレームシーケンスに対するフレーム選択操作の結果に基づいて、最終的なグローバル的フレーム選択結果を決定して、任意の対応するシーンに適用することができる。一例において、特徴抽出、属性抽出又は情報融合などのシーンに適用可能である。また、複数のサブビデオフレームシーケンスから、１つ又は複数のサブビデオフレームシーケンスを選択して選択待ちのビデオフレームシーケンスとし、選択したサブビデオフレームシーケンスに対してそれぞれフレーム選択操作を実行し、各フレーム選択操作の結果に基づいて、最終的なグローバル的フレーム選択結果を得ることもできる。ここで、ビデオフレームシーケンスを分割することで得られたサブビデオフレームシーケンスの数は、限定されないため、各サブビデオフレームシーケンスに含まれるビデオフレームの数量も限定されない。
【0049】
一例において、各サブビデオフレームシーケンスに含まれるビデオフレームの数量は、ビデオフレームシーケンスのフレームレートＲに相関し得る。例えば、各サブビデオフレームシーケンスに含まれるビデオフレームの数量は、０．５Ｒ、Ｒ、１．５Ｒ又は２Ｒ等であってもよい。また、サブビデオフレームシーケンスを選択して選択待ちのフレームシーケンスとする方式も限定されず、実際の状況に応じて柔軟に選択されてもよい。
【0050】
可能な実現形態において、時間領域でビデオフレームシーケンスに対して順番に従って少なくとも１回の分割を行うことができる。この場合、少なくとも２つのサブビデオフレームシーケンスを得ることができる。これらのサブビデオフレームシーケンスは、時間領域で互いに連続するものである。つまり、分割された隣接する２つのサブビデオフレームシーケンスの隣接部に位置する２つのビデオフレームは、連続フレームであり、両者の間に間隔が存在しない。例えば、ビデオフレームシーケンスの時間領域位置Ａ１及びＡ２で２回の分割を順次行うことができる。ここで、Ａ２は、時間領域でＡ１の後に位置する。この場合、３つのサブビデオフレームシーケンスを得て、それぞれ、ＳＡ１、ＳＡ２及びＳＡ３と表記する。ここで、ＳＡ１は、ビデオフレームシーケンスの１番目のサブシーケンスであり、その起点及び終点は、それぞれビデオフレームシーケンスの開始位置及び時間領域位置Ａ１である。ＳＡ２は、ビデオフレームシーケンスの２番目のサブシーケンスであり、その起点及び終点は、それぞれ時間領域位置Ａ１及び時間領域位置Ａ２である。ＳＡ３は、ビデオフレームシーケンスの３番目のサブシーケンスであり、その起点及び終点は、それぞれ時間領域位置Ａ２及びビデオフレームシーケンスの終了位置である。ＳＡ１、ＳＡ２及びＳＡ３は、時間領域で順番に従って隣接して連続し、且つ、互いに同一のビデオフレームが含まれない。また、他の方式で、ビデオフレームシーケンスを複数のサブビデオフレームシーケンスに分割することもできる。具体的な方式は具体的に限定されない。
【0051】
可能な実現形態において、ビデオフレームシーケンスに対して順番に従って少なくとも１回の分割を行うことができる。この場合、分割は、時間領域の 順番に従って行わなくてもよい。この場合、少なくとも２つのサブビデオフレームシーケンスを得ることができる。これらのサブビデオフレームシーケンスの集合は、ビデオフレームシーケンスである。異なるサブビデオフレームシーケンス同士に共通部分が存在する。つまり、１つのビデオフレームが２つの異なるサブビデオフレームシーケンスに同時に存在することがある。例えば、ビデオフレームシーケンスの時間領域位置Ｂ１で１回の分割を行うことができる。この場合、２つのサブビデオフレームシーケンスを得て、それぞれＳＢ１及びＳＢ２と表記する。ここで、ＳＢ１は、ビデオフレームシーケンスの１番目のサブシーケンスであり、その起点及び終点は、それぞれビデオフレームシーケンスの開始位置及び時間領域位置Ｂ１である。ＳＢ２は、ビデオフレームシーケンスの２番目のサブシーケンスであり、その起点及び終点は、それぞれ時間領域位置Ｂ１及びビデオフレームシーケンスの終了位置である。続いて、完全なビデオフレームシーケンスに対して１回の分割を更に行うことができる。この場合、分割は、ビデオフレームシーケンスの時間領域位置Ｂ２で実行されてもよい。Ｂ２は、時間領域でＢ１の前に位置する。従って、更に、２つの新たなサブビデオフレームシーケンスを得て、それぞれＳＢ３及びＳＢ４と表記する。ここで、ＳＢ３は、ビデオフレームシーケンスの３番目のサブシーケンスであり、その起点及び終点は、それぞれビデオフレームシーケンスの開始位置及び時間領域位置Ｂ２である。ＳＢ４は、ビデオフレームシーケンスの４番目のサブシーケンスであり、その起点及び終点は、それぞれ時間領域位置Ｂ２及びビデオフレームシーケンスの終了位置である。４つのサブビデオフレームシーケンスＳＢ１、ＳＢ２、ＳＢ３及びＳＢ４を最終的に得ることができる。ここで、ＳＢ１とＳＢ２は、時間領域で隣接するが重なり合わない。ＳＢ３とＳＢ４は、時間領域で隣接するが重なり合わない。しかしながら、ＳＢ１とＳＢ３に同一のビデオフレームが存在してもよく、ＳＢ２とＳＢ４に同一のビデオフレームが存在してもよい。
【0052】
可能な実現形態において、ビデオフレームシーケンスを分割することで、複数のサブビデオフレームシーケンスを得る場合、均一な分割を行ってもよい。つまり、得られた全てのサブビデオフレームシーケンスに含まれるビデオフレームの数量は、いずれも同じである。不均一な分割を行ってもよい。つまり、分割した結果に、２つのサブビデオフレームシーケンスが存在してもよい。それらに含まれるビデオフレームの数量は異なる。
【0053】
上記各実施例によれば、可能な実現形態において、ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることであって、各前記サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである、ことを含んでもよい。
【0054】
図２は、本願の実施例によるビデオフレームの分割を示す概略図である。図２に示すように、一例において、ビデオフレームシーケンスを、時間領域順番に従って３つのサブビデオフレームシーケンスに直接的に分割し、それぞれスライス１、スライス２及びスライス３と表記する。ここで、スライス１、スライス２及びスライス３に含まれるビデオフレームの数量は、同じである。
【0055】
上記の実施例において、ビデオフレームシーケンスを分割することで得られたサブビデオフレームシーケンスの数が限定されず、実際の状況に応じて柔軟に選択されてもよいことを提出したため、可能な実現形態において、ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得ることは、所定要求に応じて、各サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することと、上記数量に基づいて、ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得ることと、を含んでもよい。
【0056】
上記所定要求は、実際の状況に応じて柔軟に決定してもよい。可能な実現形態において、所定要求は、リアルタイム性要求であってもよい。一例において、リアルタイム性要求に応じて、各サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定することができる。リアルタイム性要求の具体的なタイプは限定されず、可能な実現形態において、リアルタイム性要求は、フレーム選択結果の適用のリアルタイム性要求であってもよい。一例において、最終的なフレーム選択結果は、イメージプッシュと略称される画像又はピクチャのプッシュに適用可能である。つまり、選択された画像又はピクチャを指定した位置に送信する。送信の宛先及びターゲット対象はここで限定されない。最終的なフレーム選択結果がイメージプッシュに用いられる場合、イメージプッシュのリアルタイム性の要求が存在することがある。リアルタイムなイメージプッシュを求めるという高いリアルタイム性の要求の場合、規定した時間範囲内で、フレーム選択結果をすぐに相応位置に送信する。該規定した時間範囲は、実際の状況に応じて柔軟に設定されてもよい。例えば、リアルタイムなイメージプッシュは、ユーザがビデオを撮った後にフレーム選択結果を直ちにユーザに送信することであってもよい。従って、高いリアルタイム性要求の場合、分割された各サブビデオフレームシーケンスに含まれるビデオフレームの数量を少なく設定することができる。この場合、少なくとも１つのサブビデオフレームシーケンスを選択待ちのビデオフレームシーケンスとして選択してフレーム選択操作を行うことができる。選択待ちのビデオフレームシーケンスに含まれるビデオフレームの数量が少ないため、フレーム選択操作の実行速度も速い。これにより、イメージプッシュに求められる高いリアルタイム性の要求を満たすことができ、関連技術におけるフレーム選択操作の遅延が大きいという課題を最大限減少させることもできる。非リアルタイムなイメージプッシュを求めるという低いリアルタイム性の要求の場合、規定した時間範囲を設定することなく、フレーム選択プロセスが終了した後に、フレーム選択結果を相応位置に送信する。例えば、非リアルタイムなイメージプッシュは、ユーザがビデオを撮った後に、撮られたビデオに対してフレーム選択を行い、最終的なフレーム選択結果を得た後にユーザに送信することであってもよい。従って、低いリアルタイム性の要求の場合、分割された各サブビデオフレームシーケンスに含まれるビデオフレームの数量を多く設定することができる。この場合、複数のサブビデオフレームシーケンス、延いては全てのサブビデオフレームシーケンスを選択待ちのフレームシーケンスとして選択してフレーム選択操作を行うことができる。選択待ちのフレームシーケンスに含まれるビデオフレームの数量が多いため、フレーム選択の実行速度が遅いが、得られたグローバル的フレーム選択結果の品質が高く、イメージプッシュの品質を向上させることができる。
【0057】
上記各実施例から分かるように、少なくとも１つの選択待ちのビデオフレームシーケンスを取得し、得られた選択待ちのビデオフレームシーケンスに基づいて、後続のフレーム選択操作を行うことで、最終的なフレーム選択結果を得ることができる。このような方式は、ビデオ処理プロセス全体の柔軟性を向上させることができる。最終的なフレーム選択結果について、適用のリアルタイム性の要求があるため、選択待ちのビデオフレームシーケンスの柔軟な取得方式により、高いリアルタイム性の要求の場合、選択待ちのビデオフレームシーケンスの長さを短縮し、シーケンス内部フレーム選択が実行される、選択待ちのビデオフレームシーケンスの数を低減させることができる。これにより、シーケンス内部フレーム選択に係るフレーム選択データ量を減少させ、フレーム選択速度を向上させ、フレーム選択結果に求められる高いリアルタイム性の適用要求を満たし、フレーム選択プロセスの遅延が大きいという課題を減少させることができる。低いリアルタイム性の要求の場合、選択待ちのビデオフレームシーケンスの長さを増加させ、シーケンス内部フレーム選択が実行される、選択待ちのビデオフレームシーケンスの数を増加させることで、基本的なリアルタイム性要求を確保すると共に、フレーム選択結果の品質を向上させることもできる。
【0058】
ステップＳ１２において、各選択待ちのビデオフレームシーケンスに対してシーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得る。
【0059】
可能な実現形態において、本願の実施例によるビデオ処理方法を示す第２フローチャートである図３に示すように、ステップＳ１２は、以下を含んでもよい。
【0060】
ステップＳ１２１において、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得する。
【0061】
可能な実現形態において、各ビデオフレームの品質パラメータは、各ビデオフレームの鮮明度、ビデオフレームにおけるターゲット対象の状態及び他の品質評価に利用可能な総合的パラメータなどのうちの少なくとも１つの指標を指してもよい。具体的には、どの指標で各ビデオフレームの品質パラメータを決定するかは、ここで、具体的に限定されず、実際の状況に応じて柔軟に選択されてもよい。ビデオフレームの品質評価基準が具体的に限定されないため、異なる品質評価基準に対して、異なる方式で、ビデオフレームの品質パラメータを取得することができる。
【0062】
一例において、ピクチャの鮮明度を読み取るという方式で、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することができる。一例において、ピクチャにおけるターゲット対象の角度を読み取ることで、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することができる。ターゲット対象について、種々の評価角度があるため、ターゲット対象の偏向角を読み取ることで、ビデオフレームの品質パラメータを取得することができる。ターゲット対象のヨー角を読み取ることで、ビデオフレームの品質パラメータを取得することもできる。また、ターゲット対象のサイズを読み取ることで、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得することもできる。一例において、複数の指標を総合的に考慮することで、ビデオフレームの品質パラメータを評価することもできる。この場合、ビデオフレーム品質パラメータ評価モデルを確立することができる。例示的に、該評価モデルは、ニューラルネットワークモデルであってもよい。従って、各ビデオフレームを、確立された評価モデルにより評価した後、評価モデルからの出力結果に基づいて、比較を行い、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質を取得することができる。
【0063】
ステップＳ１２２において、品質パラメータに従って、選択待ちのビデオフレームシーケンスを順序付ける。
【0064】
各ビデオフレームの品質パラメータを取得したため、各ビデオフレームの品質パラメータに従ってビデオフレームを順序付けることで、後続の操作を容易にする。具体的な順序付け方式は、実際の状況に応じて柔軟に決定してもよい。一例において、各ビデオフレームの品質パラメータの降順に応じて順序付けを行ってもよく、各ビデオフレームの品質パラメータの昇順に応じて順序付けを行ってもよい。
【0065】
可能な実現形態において、ステップＳ１２２に続くステップＳ１２３を実行する前に、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの時系列上の順序に基づいて、選択待ちのフレームシーケンスにおける各前記ビデオフレームに対して番号を順次配置することと、ビデオフレーム同士の番号の差分値の絶対値に基づいて、順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得ることと、を更に含んでもよい。
【0066】
本実施例において、各ビデオフレームの間のフレーム間隔は、各ビデオフレーム同士の時間領域での間隔関係を指してもよい。具体的には、どの指標で、様々なビデオフレーム同士のフレーム間隔を表すかは、限定されない。一例において、ビデオフレーム同士のフレーム間隔は、時間領域での、ビデオフレームの差分値を指してもよい。一例において、ビデオフレーム同士のフレーム間隔は、ビデオフレーム同士を時間領域で順序付ける場合に隔たるビデオフレームの数量を指してもよい。従って、上記の実施例に含まれるステップの目的は、各ビデオフレームの間のフレーム間隔を計量化することである。一例において、ビデオフレーム同士を時間領域で順序付ける場合に隔たるビデオフレームの数量に基づいて、フレーム間隔を計量化することができるため、ビデオフレーム同士を時間領域で順序付ける場合に、具体的に幾つのビデオフレームが隔たるかを決定するために、各ビデオフレームを時系列上の順序に基づいて番号付ける。これにより、任意の２つのビデオフレーム同士の番号の差分値の絶対値は、該２つのビデオフレーム同士の距離を表すことができ、つまり、任意の２つのビデオフレーム同士のフレーム間隔を表すことができる。
【0067】
２つのビデオフレーム同士のフレーム間隔を取得するステップは、選択待ちのビデオフレームシーケンスを品質パラメータに従って順序付ける前に実行されてもよく、選択待ちのビデオフレームシーケンスを品質パラメータに従って順序付けた後に実行されてもよい。フレーム間隔取得プロセスは、選択待ちのビデオフレームシーケンスを品質パラメータに従って順序付けた後に実行される場合、品質に応じて順序付けを行ったシーケンスの時間領域での順序が変わったため、番号演算の方式でフレーム間隔を取得しようとすると、品質に応じて順序付けが行われていない選択待ちのビデオフレームシーケンスに基づいて番号付けを行う必要があることに留意されたい。
【0068】
ステップＳ１２３において、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得る。
【0069】
ステップＳ１２３の具体的な実現形態は、実際の状況に応じて決定してもよい。可能な実現形態において、ステップＳ１２３は、各順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることを含んでもよい。
【0070】
本実施例において、各選択待ちのビデオフレームシーケンスから、１つのビデオフレームのみを選択する必要があり得る。この場合、各選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームをフレーム選択結果として選択し、フレーム選択の品質を向上させることができる。
【0071】
可能な実現形態において、ステップＳ１２３は、順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとすることと、順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択することであって、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数である、ことと、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とすることと、を含んでもよい。
【0072】
本実施例において、まず、品質パラメータに従って順序付け、選択待ちのフレームシーケンスにおける品質パラメータが最も高いビデオフレームを選択し、１番目の選択されたビデオフレームとすることができる。最終的に選択されるビデオフレームの数量は、ｋ１＋１個であるため、選択待ちのフレームシーケンスにおける上記品質パラメータが最も高いビデオフレーム以外の残りのビデオフレームから、更にｋ１個のビデオフレームを選択する必要がある。選択されたビデオフレーム同士は、隣接するか又は近接する場合、これらのビデオフレームは、高い類似度を有する可能性があり、それによってこれらのビデオフレームの情報重複度が高く、これらのビデオフレームの適用価値を低減する。従って、本願の実施例において、残りのビデオフレームから選択されるｋ１個のビデオフレームと選択された１番目のビデオフレームとの間に、一定の大きさのフレーム間隔が存在させると共に、該ｋ１個のビデオフレーム同士にも一定のフレーム間隔が存在させ、これにより、フレーム選択結果の代表性及び情報相補性を向上させることができる。フレーム選択結果の代表性及び情報相補性を向上させると共に、フレーム選択結果の品質を確保する必要がある。フレーム選択結果の代表性を向上させるためにフレーム選択結果に求められる品質要求を低減させることを可能な限り避ける。上記理由によれば、ｋ１個のビデオフレームを選択する方法は、以下の通りであってもよい。順序付けられた選択待ちのフレームシーケンスにおける各ビデオフレームの品質は順次低下しているため、選択された１番目のビデオフレームは、順序付けられた選択待ちのフレームシーケンスにおける１番目のビデオフレームである。この時に、順序付けられた選択待ちのフレームシーケンスにおいて、２番目のビデオフレームから、順番に従って、各ビデオフレームと１番目の選択されたビデオフレームとのフレーム間隔を順次算出する。算出されたフレーム間隔が所定のフレーム間隔より大きい場合、該フレーム間隔を２番目の選択されたフレーム間隔とする。続いて、該２番目の選択されたフレーム間隔の後の１番目のビデオフレームから、順番に従って、各ビデオフレームと１番目の選択されたビデオフレーム及び２番目の選択されたビデオフレームとのフレーム間隔をそれぞれ算出する。算出された２つのフレーム間隔がいずれも所定のフレーム間隔より大きい場合、それを３番目の選択されたフレーム間隔とする。このように類推して、最終的にｋ１個のビデオフレームを選択するまで継続する。ｋ１個のビデオフレーム及び１番目の選択されたビデオフレームを選択待ちのフレームシーケンスのフレーム選択操作の結果とする。つまり、第１フレーム選択結果とする。上記の実施例における所定のフレーム間隔は、実際の状況に応じて設定されてもよい。一例において、所定のフレーム間隔は、選択待ちのフレームシーケンスの長さの１／４であってもよい。つまり、選択待ちのフレームシーケンスに含まれるビデオフレームの数量１／４であってもよい。
【0073】
上記プロセスから分かるように、各回で選択されるビデオフレームと既に選択された各ビデオフレームとのフレーム間隔はいずれも所定のフレーム間隔より大きいため、最終的に選択された第１フレーム選択結果において、任意の２つのビデオフレーム同士のフレーム間隔はいずれも所定のフレーム間隔より大きい。また、フレーム選択操作を行う場合、ビデオフレームの品質パラメータの降順に従って次のビデオフレームを選択しているため、ビデオフレームの品質を確保することもできる。それによって、選択待ちのフレームシーケンスに対してフレーム選択操作を行うことで得られた第１フレーム選択結果は、高い品質を有すると共に、高い代表性及び情報相補性を有する。
【0074】
図４は、本願の実施例によるフレーム選択プロセスを示す概略図である。図４に示すように、一例において、選択待ちのビデオフレームシーケンスに対してフレーム選択を行う具体的なプロセスは、以下を含んでもよい。選択待ちのビデオフレームシーケンスに含まれるビデオフレームの数量がＳであるため、まず、選択待ちのビデオフレームシーケンスの時間領域での順番に従って、Ｓフレームのビデオフレームを番号付けることができる。番号付け後に、Ｓフレームのビデオフレームを品質パラメータに従って順序付け、図示される順序付け結果を得る。図示される順序付け結果に基づいて、フレーム選択を行う。まず、順序付け結果から分かるように、番号が５（ｆ＝５）であるビデオフレームの品質が最も高いものであり、そのため、番号が５（ｆ＝５）であるビデオフレームを１番目の選択されたビデオフレームとする。これを選択した後、所定のフレーム間隔に基づいて、次のビデオフレームを選択する。本願の実施例において、所定のフレーム間隔は、３として設置されており、従って、順序付け結果から分かるように、番号が６であるビデオフレームの品質が高いが、それと番号が５であるビデオフレームとの距離が１であり、所定のフレーム間隔３未満であるため、選択される対象とならない。それに対して、番号が１３であるピクチャは、要求を満たしているため、品質が第２位のピクチャとなる。該例において、最終的に選択する必要があるビデオフレームの数量は、２つである。つまり、最終的に選択される２フレームのビデオフレームは、それぞれ番号５及び番号１３のビデオフレームである。
【0075】
可能な実現形態において、ステップＳ１２のプロセスは、以下を含んでもよい。選択待ちのフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、１番目の選択されたビデオフレームとし、この時に、選択待ちのフレームシーケンスに対して更なる品質パラメータの順序付けを行わず、所定のフレーム間隔の要求に基づいて、１番目の選択されたビデオフレームとの間の、フレーム間隔が所定のフレーム間隔未満であるビデオフレームを排除し、残りの選択可能なビデオフレームから、品質が最も高いビデオフレームをさらに選択し、２番目の選択待ちのビデオフレームとする。第１回の排除を行った後、残りの選択可能なフレームに、１番目の選択されたビデオフレームとの間の、フレーム間隔が所定のフレーム間隔未満であるビデオフレームが存在しないため、残りの選択可能なフレームから、２番目の選択されたビデオフレームとの間の、フレーム間隔が所定のフレーム間隔未満であるビデオフレームを直接的に排除し、更に、残りの選択可能なフレームから、品質が最も高いビデオフレームを選択して、３番目の選択されたビデオフレームとする。このように類推して、全てのビデオフレームを選択するまで継続する。該プロセスにおいて、フレーム間隔判定及び品質選別を行うため、該プロセスは、高い品質を有すると共に高い代表性及び情報相補性を有するビデオフレームを選択することもできる。
【0076】
ステップＳ１３において、全ての第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得る。
【0077】
本実施例において、全ての第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るための実現形態は複数の種類を含む。可能な実現形態において、ステップＳ１３は、第１フレーム選択結果を最終的なフレーム選択結果とすること、又は、全ての第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、ｋ２フレームのビデオフレームを最終的なフレーム選択結果とすることであって、ｋ２は、１以上の整数である、ことを含んでもよい。
【0078】
上記第１実現形態において、第１フレーム選択結果を最終的なフレーム選択結果とすることは、多数のケースが存在する。一例において、１つのみの選択待ちのビデオフレームシーケンスに対してフレーム選択処理を行い、それによって第１フレーム選択結果を得る。従って、本実施例は、第１フレーム選択結果を直接的に最終的なフレーム選択結果とすることができる。一例において、複数の選択待ちのビデオフレームシーケンスに対してフレーム選択処理を行い、それによって複数の第１フレーム選択結果を得る。全ての第１フレーム選択結果の数の合計は、最終的なフレーム選択結果の数量要求を超えていない場合、得られた全ての第１フレーム選択結果を直接的に最終的なフレーム選択結果とすることができる。全ての第１フレーム選択結果の数の合計は、最終的なフレーム選択結果の数量要求を超えていない場合、得られた全ての第１フレーム選択結果を１つの集合として、該集合における任意の２つのビデオフレーム同士のフレーム間隔を算出する。２つのビデオフレーム同士のフレーム間隔が所定のフレーム間隔未満である場合、品質が低いビデオフレームを排除し、集合にフレーム間隔が所定のフレーム間隔未満である２つのビデオフレームが存在しなくなるまで継続する。この場合、該集合を最終的に得られたグローバル的フレーム選択結果とすることができる。
【0079】
上記第２実現形態において、第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択する。ｋ２の数値は、実際の状況に応じて設定されてもよく、ここで具体的に限定されない。ｋ２フレームのビデオフレームを最終的なフレーム選択結果とする場合、多数のケースがある。一例において、１つのみの選択待ちのビデオフレームシーケンスに対してフレーム選択処理を行う。得られた第１フレーム選択結果に含まれるビデオフレームの数量は、ｋ２より大きい。第１フレーム選択結果は、フレーム間隔に基づいて算出されたものであるため、第１フレーム選択結果における任意の２つのビデオフレーム同士のフレーム間隔は、いずれも所定のフレーム間隔より大きい。この場合、第１フレーム選択結果における品質が最も高いｋ２フレームのビデオを最終的なフレーム選択結果とすることで、フレーム選択品質を確保することができる。一例において、複数の選択待ちのビデオフレームシーケンスに対してフレーム選択処理を行う。得られた全ての第１フレーム選択結果の数の合計は、ｋ２より大きい。この場合、得られた全ての第１フレーム選択結果を直接的に１つの集合として、該集合から、品質が最も高いｋ２フレームのビデオを選択することで、フレーム選択品質を確保する。一例において、複数の選択待ちのビデオフレームシーケンスに対してフレーム選択処理を行う。得られた全ての第１フレーム選択結果の数の合計は、最終的なフレーム選択結果の数量要求より大きい。この場合、得られた全ての第１フレーム選択結果を更に１つの選択待ちのビデオフレームシーケンスとして、上記任意の実施例におけるシーケンス内部フレーム選択方法により、該選択待ちのビデオフレームシーケンスから、ｋ２フレームのビデオを選択し、最終的なフレーム選択結果とする。このような方式は、異なる第１フレーム選択結果から選択されたビデオフレーム同士に隣接ビデオフレームがあることを、できる限り避けることができる。例えば、図２に示した得られた選択待ちのビデオフレームシーケンスにおいて、スライス１における最後の１つのビデオフレームは、ビデオフレームＡと表記される。スライス１の第１フレーム選択結果とする可能性がある。スライス２の１番目のビデオフレームは、ビデオフレームＢと表記される。スライス２の第１フレーム選択結果とする可能性がある。この場合、両者は、最終的フレーム選択結果の候補選択肢になる。最終的なフレーム選択結果を直接的に品質に応じて順序付けると、最終的なフレーム選択結果にビデオフレームＡ及びビデオフレームＢが同時に含まれる可能性がある。図面から分かるように、ビデオフレームＡとビデオフレームＢは隣接するため、この場合、得られた最終的なフレーム選択結果は、低い代表性を有する。従って、この場合、得られた全ての第１フレーム選択結果を更に１つの選択待ちのフレームシーケンスとして、上記任意の実施例におけるシーケンス内部フレーム選択操作を行うことで得られた最終的なフレーム選択結果は、より高い代表性を有する。
【0080】
本願の実施例において、ビデオフレームの品質パラメータ及び各ビデオフレームの間のフレーム間隔により、フレーム選択結果の品質を確保すると共に、隣接フレームの発生を効果的に避けることができ、フレーム選択結果の代表性及び情報相補性を向上させることができ、後続のフレーム選択結果の適用に寄与する。
【0081】
【0082】
ステップＳ１４において、最終的なフレーム選択結果に基づいて、所定操作を実行する。
【0083】
可能な実現形態において、最終的なフレーム選択結果に基づいて、任意の所定操作を実行することができる。所定操作は、限定されない。フレーム選択結果を適用できる如何なる操作は、いずれも所定操作とすることができる。
【0084】
可能な実現形態において、ステップＳ１４は、最終的なフレーム選択結果を送信すること、又は、最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することを含んでもよい。
【0085】
最終的なフレーム選択結果を送信する方式、対象及びタイプはいずれも種々であり、ここで限定しない。可能な実現形態において、最終的なフレーム選択結果を送信することは、最終的なフレーム選択結果をリアルタイムに送信すること、及び／又は、最終的なフレーム選択結果を非リアルタイムに送信することを含んでもよい。一例において、最終的なフレーム選択結果をリアルタイムに送信するという操作のみを実行してもよい。具体的なプロセスは、ビデオフレームシーケンスを取得すると同時に、取得したビデオフレームシーケンスに対するフレーム選択を開始し、最終的なフレーム選択結果を直ぐに送信することであってもよい。一例において、最終的なフレーム選択結果を非リアルタイムに送信するという操作のみを実行してもよい。具体的なプロセスは、ビデオフレームシーケンスを取得し、完全なビデオフレームシーケンスを取得した後にフレーム選択を行い、最終的なフレーム選択結果を送信する。一例において、フレーム選択結果のリアルタイムな送信及びフレーム選択結果の非リアルタイムな送信を同時に実行してもよい。具体的なプロセスは、ビデオフレームシーケンスの取得中において、取得した一部のビデオフレームシーケンスに対してフレーム選択を開始し、フレーム選択結果を直ぐに送信し、ビデオフレームシーケンス取得プロセス全体を終了した後、完全なビデオフレームシーケンスに基づいて、シーケンス内部フレーム選択及びグローバル的フレーム選択を行い、最終的なフレーム選択結果を送信することであってもよい。
【0086】
可能な実現形態において、最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行することは、最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出することと、各画像特徴に対して特徴融合操作を行い、融合特徴を得ることと、融合特徴に基づいて、ターゲット認識操作を実行することと、を含んでもよい。
【0087】
上記の実施例において、最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出する方式は限定されず、実際の状況に応じて柔軟に選択されてもよい。一例において、ニューラルネットワークにより、各ビデオフレームの画像特徴を抽出することができる。具体的に、どのようなニューラルネットワークを選択するか、ニューラルネットワークをどのような方式で訓練するかについて、ここで同様に限定されず、実際の状況に応じて柔軟に選択されてもよい。各ビデオフレームの画像特徴を抽出する方式は限定されないため、得られた各画像特徴の形式も多様である。従って、各画像特徴に対して特徴融合操作を行うための実現形態は、各画像特徴の実際の状況に応じて柔軟に選択されてもよく、ここで限定されない。融合特徴を得た後、融合特徴に基づいてターゲット認識操作を実行するための実現形態は同様に限定されず、融合特徴の状況に応じて柔軟に選択されてもよい。一例において、融合特徴に基づいて顔認識操作を行うことができる。一例において、融合特徴を畳み込みニューラルネットワークにより畳み込み処理を行うこともできる。
【0088】
以下、具体的な適用シーンにより、本願の実施例のビデオ処理方法について例を挙げて説明する。
【0089】
スマートビデオ分析タスクにおいて、ターゲットは、画面において出現から消失まで一般的には数秒から数十秒持続する。２５フレーム／秒のフレームレートで、一般的には、数百のキャプチャピクチャが発生する、演算リソースが限られている場合、全てのキャプチャピクチャを例えば、特徴抽出、属性抽出などのような情報抽出に用いる必要がない。キャプチャピクチャの情報をより好適に利用するために、一般的にはターゲットの追跡プロセス全体から、複数の品質が高いキャプチャピクチャを選択して情報抽出及び融合を行う。
【0090】
多くのキャプチャピクチャから、代表性及を有して且つ認識率の向上に寄与する複数の高品質のキャプチャピクチャを如何に選択するかは、本願の実施例におけるフレーム選択解決手段の目的である。好適なフレーム選択解決手段は、鮮明度が高くて品質が高いキャプチャピクチャを選択することができるだけでなく、情報相補性を有するキャプチャターゲットを見付けることもできる。しかしながら、一般的なフレーム選択解決手段は。品質スコアのみを根拠とする。キャプチャピクチャにおける隣接フレームのピクチャ同士における同一のターゲットの類似度が大きく、冗長性が高い。従って、ピクチャの品質のみを考慮したフレーム選択解決手段は、代表性及び情報相補性を有するキャプチャピクチャの選択に不利である。
【0091】
本願の実施例のビデオ処理方法により、取得したビデオフレームシーケンスを処理することで、選択された最適フレームが隣接フレームであることを効果的に避けることができ。選択された最適フレーム同士の情報の相補性を向上させる。
【0092】
図６は、本願の実施例における一適用例を示す概略図である。図６に示すように、選択されたビデオフレームを、ユーザにプッシュして展示又は他の操作を行うことができ（つまり、図面におけるピクチャプッシュ）、一方で、選択されたこれらの最適ピクチャに対して引き続き情報抽出、情報融合及びターゲット認識を行うことができる。これらの選択されたビデオフレームを適用してビデオ処理を行う場合、演算のオーバヘッドを低減させるだけでなく、特徴融合により認識の正確率を向上させることもできる。
【0093】
本願の実施例のビデオ処理方法は、上記例示したシーンへの適用に限定されず、任意のビデオ処理又は画像処理プロセスに適用可能であり、本願は、これを限定するものではないに留意されたい。
【0094】
本願に言及した上記各方法の実施例は、原理や論理から逸脱しない限り、互いに組み合わせることで組み合わせた実施例を構成することができ、紙数に限りがあるため、本願において逐一説明しないことが理解されるべきである。
【0095】
具体的な実施形態の上記方法において、各ステップの記述順番は、厳しい実行順番として実施過程を限定するものではなく、各ステップの具体的な実行順番はその機能及び考えられる内在的論理により決まることは、当業者であれば理解すべきである。
【0096】
図７は、本願の実施例によるビデオ処理装置を示すブロック図である。図７に示すように、ビデオ処理装置２０は、
少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成される取得モジュール２１と、
各選択待ちのビデオフレームシーケンスに対してシーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されるシーケンス内部フレーム選択モジュール２２と、
全ての第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されるグローバル的フレーム選択モジュール２３と、を備える。
少なくとも１つの選択待ちのビデオフレームシーケンスを取得するように構成される取得モジュール２１と、
各選択待ちのビデオフレームシーケンスに対してシーケンス内部フレーム選択を行い、各選択待ちのビデオフレームシーケンスにそれぞれ対応する第１フレーム選択結果を得るように構成されるシーケンス内部フレーム選択モジュール２２と、
全ての第１フレーム選択結果に基づいて、グローバル的フレーム選択を行い、最終的なフレーム選択結果を得るように構成されるグローバル的フレーム選択モジュール２３と、を備える。
【0097】
可能な実現形態において、上記装置は、前記取得モジュールにより少なくとも１つの選択待ちのビデオフレームシーケンスを取得する前に、前記ビデオフレームシーケンスを取得し、前記ビデオフレームシーケンスを分割し、複数のサブビデオフレームシーケンスを得て、前記サブビデオフレームシーケンスを前記選択待ちのビデオフレームシーケンスとするように構成される前処理モジュールを更に備える。
【0098】
可能な実現形態において、前処理モジュールは、ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成され、各サブビデオフレームシーケンスに含まれるビデオフレームの数量は、同じである。
【0099】
可能な実現形態において、前処理モジュールは、所定要求に応じて、各サブビデオフレームシーケンスに含まれるビデオフレームの数量を決定し、数量に基づいて、ビデオフレームシーケンスに対して時間領域で分割を行い、少なくとも２つのサブビデオフレームシーケンスを得るように構成される。
【0100】
可能な実現形態において、シーケンス内部フレーム選択モジュールは、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの品質パラメータを取得するように構成される品質パラメータ取得サブモジュールと、品質パラメータに従って、選択待ちのビデオフレームシーケンスを順序付けるように構成される順序付けサブモジュールと、所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行い、選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果を得るように構成されるフレーム抽出サブモジュールと、を備える。
【0101】
可能な実現形態において、シーケンス内部フレーム選択モジュールは、前記フレーム抽出サブモジュールにより所定のフレーム間隔に従って、順序付けられた選択待ちのビデオフレームシーケンスに対してフレーム抽出を行う前に、選択待ちのビデオフレームシーケンスにおける各ビデオフレームの時系列上の順序に基づいて、選択待ちのフレームシーケンスにおける各ビデオフレームに対して番号を順次配置し、ビデオフレーム同士の番号の差分値の絶対値に基づいて、順序付けられた選択待ちのビデオフレームシーケンスにおける各ビデオフレームの間のフレーム間隔を得るように構成されるフレーム間隔取得サブモジュールを更に備える。
【0102】
可能な実現形態において、フレーム抽出サブモジュールは、各順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択し、品質パラメータが最も高いビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成される。
【0103】
可能な実現形態において、フレーム抽出サブモジュールは、順序付けられた選択待ちのビデオフレームシーケンスから、品質パラメータが最も高いビデオフレームを選択して１番目の選択されたビデオフレームとし、順序付けの順番に従って、順序付けられた選択待ちのビデオフレームシーケンスから、ｋ１個のビデオフレームを順次選択するように構成され、選択されるビデオフレームと既に選択された全てのビデオフレームとのフレーム間隔は、いずれも所定のフレーム間隔より大きく、ｋ１は、１以上の整数であり、フレーム抽出サブモジュールは、既に選択された全てのビデオフレームを選択待ちのビデオフレームシーケンスに対応する第１フレーム選択結果とするように構成される。
【0104】
可能な実現形態において、グローバル的フレーム選択モジュールは、第１フレーム選択結果を最終的なフレーム選択結果とするように構成され、又は、全ての第１フレーム選択結果から、品質が最も高いｋ２フレームのビデオフレームを選択し、ｋ２フレームのビデオフレームを最終的なフレーム選択結果とするように構成され、ｋ２は、１以上の整数である。
【0105】
可能な実現形態において、装置は、最終的なフレーム選択結果に基づいて、所定操作を実行するように構成されるフレーム選択結果操作モジュールを更に備える。
【0106】
可能な実現形態において、フレーム選択結果操作モジュールは、最終的なフレーム選択結果を送信するように構成され、又は、最終的なフレーム選択結果に基づいて、ターゲット認識操作を実行するように構成される。
【0107】
可能な実現形態において、フレーム選択結果操作モジュールは更に、最終的なフレーム選択結果における各ビデオフレームの画像特徴を抽出し、各画像特徴に対して特徴融合操作を行い、融合特徴を得て、融合特徴に基づいて、ターゲット認識操作を実行するように構成される。
【0108】
幾つかの実施例において、本願の実施例で提供される装置における機能及びモジュールは、上記方法実施例に記載の方法を実行するために用いられ、具体的な実現形態は上記方法実施例の説明を参照されたい。簡潔化のために、ここで詳細な説明を省略する。
【0109】
本願の実施例はコンピュータ可読記憶媒体を更に提供する。該コンピュータ可読記憶媒体にはコンピュータプログラム命令が記憶されており、前記コンピュータプログラム命令がプロセッサにより実行される時、上記いずれか１つの方法の実施例を実現させる。コンピュータ可読記憶媒体は不揮発性コンピュータ可読記憶媒体であってもよい。
【0110】
本願の実施例は電子機器を更に提供する。該電子機器は、プロセッサと、プロセッサによる実行可能な命令を記憶するためのメモリとを備え、プロセッサは、前記プロセッサによる実行可能な命令を呼び出すことで、本願のいずれか１つの方法の実施例を実現させる。具体的な作動プロセス及び設定方式はいずれも本願の上記方法実施例の具体的な説明を参照されたい。ここで、詳細な説明を省略する。
【0111】
図８は本願の実施例による電子機器を示すブロック図である。例えば、電子機器８００は、携帯電話、コンピュータ、デジタル放送端末、メッセージング装置、ゲームコンソール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタントなどの端末のうちの１つであってもよい。
【0112】
図８を参照すると、電子機器８００は、処理ユニット８０２、メモリ８０４、電源ユニット８０６、マルチメディアユニット８０８、オーディオユニット８１０、入力／出力（Ｉ／Ｏ）インタフェース８１２、センサユニット８１４及び通信ユニット８１６のうちの１つ又は複数を備えてもよい。
【0113】
処理ユニット８０２は一般的には、電子機器８００の全体操作を制御する。例えば、表示、通話呼、データ通信、カメラ操作及び記録操作に関連する操作を制御する。処理ユニット８０２は、指令を実行するための１つ又は複数のプロセッサ８２０を備えてもよい。それにより上記方法の全て又は一部のステップを実行する。なお、処理ユニット８０２は、他のユニットとのインタラクションのために、１つ又は複数のモジュールを備えてもよい。例えば、処理ユニット８０２はマルチメディアモジュールを備えることで、マルチメディアユニット８０８と処理ユニット８０２とのインタラクションに寄与する。
【0114】
メモリ８０４は、各種のデータを記憶することで電子機器８００における操作をサポートするように構成される。これらのデータの例として、電子機器８００上で操作れる如何なるアプリケーション又は方法の命令、連絡先データ、電話帳データ、メッセージ、イメージ、ビデオ等を含む。メモリ８０４は任意のタイプの揮発性または不揮発性記憶装置、あるいはこれらの組み合わせにより実現される。例えば、スタティックランダムアクセスメモリ（Ｓｔａｔｉｃ Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ：ＳＲＡＭ）、電気的消去可能なプログラマブル読み出し専用メモリ（Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ：ＥＥＰＲＯＭ）、電気的に消去可能なプログラマブル読出し専用メモリ（Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ：ＥＰＲＯＭ）、プログラマブル読出し専用メモリ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ：ＰＲＯＭ）、読出し専用メモリ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ：ＲＯＭ）、磁気メモリ、フラッシュメモリ、磁気もしくは光ディスクを含む。
【0115】
電源ユニット８０６は電子機器８００の様々なユニットに電力を提供する。電源ユニット８０６は、電源管理システム、１つ又は複数の電源、及び電子機器８００のための電力生成、管理、分配に関連する他のユニットを備えてもよい。
【0116】
マルチメディアユニット８０８は、上記電子機器８００とユーザとの間に出力インタフェースを提供するためのスクリーンを備える。幾つかの実施例において、スクリーンは、液晶ディスプレイ（Ｌｉｑｕｉｄ Ｃｒｙｓｔａｌ Ｄｉｓｐｌａｙ：ＬＣＤ）及びタッチパネル（Ｔｏｕｃｈ Ｐａｎｅｌ：ＴＰ）を含む。スクリーンは、タッチパネルを含むと、タッチパネルとして実現され、ユーザからの入力信号を受信する。タッチパネルは、タッチ、スライド及びパネル上のジェスチャを感知する１つ又は複数のタッチセンサを備える。上記タッチセンサは、タッチ又はスライド動作の境界を感知するだけでなく、上記タッチ又はスライド操作に関連する持続時間及び圧力を検出することもできる。幾つかの実施例において、マルチメディアユニット８０８は、フロントカメラ及び／又はリアカメラを備える。電子機器８００が、撮影モード又はビデオモードのような操作モードであれば、フロントカメラ及び／又はリアカメラは外部からのマルチメディアデータを受信することができる。各フロントカメラ及びリアカメラは固定した光学レンズシステム又は焦点及び光学ズーム能力を持つものであってもよい。
【0117】
オーディオユニット８１０は、オーディオ信号を出力及び／又は入力するように構成される。例えば、オーディオユニット８１０は、マイクロホン（Ｍｉｃｒｏｐｈｏｎｅ：ＭＩＣ）を備える。電子機器８００が、通話モード、記録モード及び音声識別モードのような操作モードであれば、マイクロホンは、外部からのオーディオ信号を受信するように構成される。受信したオーディオ信号を更にメモリ８０４に記憶するか、又は通信ユニット８１６を経由して送信することができる。幾つかの実施例において、オーディオユニット８１０は、オーディオ信号を出力するように構成されるスピーカーを更に備える。
【0118】
Ｉ／Ｏインタフェース８１２は、処理ユニット８０２と周辺インタフェースモジュールとの間のインタフェースを提供する。上記周辺インタフェースモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボダン、ボリュームボタン、スタートボタン及びロックボタンを含むが、これらに限定されない。
【0119】
センサユニット８１４は、１つ又は複数のセンサを備え、電子機器８００のために様々な状態の評価を行うように構成される。例えば、センサユニット８１４は、電子機器８００のオン／オフ状態、ユニットの相対的な位置決めを検出することができる。例えば、上記ユニットが電子機器８００のディスプレイ及びキーパッドである。センサユニット８１４は電子機器８００又は電子機器８００における１つのユニットの位置の変化、ユーザと電子機器８００との接触の有無、電子機器８００の方位又は加速／減速及び電子機器８００の温度の変動を検出することもできる。センサユニット８１４は近接センサを備えてもよく、いかなる物理的接触もない場合に周囲の物体の存在を検出するように構成される。センサユニット８１４は、金属酸化膜半導体素子（Ｃｏｍｐｌｅｍｅｎｔａｒｙ Ｍｅｔａｌ－Ｏｘｉｄｅ Ｓｅｍｉｃｏｎｄｕｃｔｏｒ：ＣＭＯＳ）又は電荷結合素子（Ｃｈａｒｇｅ Ｃｏｕｐｌｅｄ Ｄｅｖｉｃｅ：ＣＣＤ）画像センサのような光センサを備えてもよく、結像に適用されるように構成される。幾つかの実施例において、該センサユニット８１４は、加速度センサ、ジャイロセンサ、磁気センサ、圧力センサ又は温度センサを備えてもよい。
【0120】
通信ユニット８１６は、電子機器８００と他の機器との有線又は無線方式の通信に寄与するように構成される。電子機器８００は、ＷｉＦｉ、２Ｇ又は３Ｇ、又はそれらの組み合わせのような通信規格に基づいた無線ネットワークにアクセスできる。一例示的な実施例において、通信ユニット８１６は放送チャネルを経由して外部放送チャネル管理システムからの放送信号又は放送関連する情報を受信する。一例示的な実施例において、上記通信ユニット８１６は、近接場通信（Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ：ＮＦＣ）モジュールを更に備えることで近距離通信を促進する。例えば、ＮＦＣモジュールは、無線周波数識別（Ｒａｄｉｏ Ｆｒｅｑｕｅｎｃｙ Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ：ＲＦＩＤ）技術、赤外線データ協会（Ｉｎｆｒａｒｅｄ Ｄａｔａ Ａｓｓｏｃｉａｔｉｏｎ：ＩｒＤＡ）技術、超広帯域（Ｕｌｔｒａ ＷｉｄｅＢａｎｄ：ＵＷＢ）技術、ブルートゥース（登録商標）（ＢｌｕｅＴｏｏｔｈ（登録商標）：ＢＴ）技術及び他の技術に基づいて実現される。
【0121】
例示的な実施例において、電子機器８００は、１つ又は複数の特定用途向け集積回路（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ：ＡＳＩＣ）、デジタル信号プロセッサ（Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｏｒ：ＤＳＰ）、デジタル信号処理機器（ＤＳＰＤ）、プログラマブルロジックデバイス（ＰＬＤ）、フィールドプログラマブルゲートアレイ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ：ＦＰＧＡ）、コントローラ、マイクロコントローラ、マイクロプロセッサ又は他の電子素子により実現され、上記方法を実行するように構成されてもよい。
【0122】
例示的な実施例において、コンピュータプログラム命令を記憶したメモリ８０４のような不揮発性コンピュータ可読記憶媒体を更に提供する。上記コンピュータプログラム命令は、電子機器８００のプロセッサ８２０により実行され上記方法を完了する。
【0123】
図９は、本願の実施例による電子機器を示すもう１つのブロック図である。例えば、電子機器１９００は、サーバとして提供されてもよい。図９を参照すると、電子機器１９００は、処理ユニット１９２２を備える。ぞれは1つ又は複数のプロセッサと、メモリ１９３２で表されるメモリリソースを更に備える。該メモリリースは、アプリケーションプログラムのような、処理ユニット１９２２により実行される命令を記憶するためのものである。メモリ１９３２に記憶されているアプリケーションプログラムは、それぞれ一組の命令に対応する１つ又は1つ以上のモジュールを含んでもよい。なお、処理ユニット１９２２は、命令を実行して、上記方法を実行するように構成される。
【0124】
電子機器１９００は、電子機器１９００の電源管理を実行するように構成される電源ユニット１９２６と、電子機器１９００をネットワークに接続するように構成される有線又は無線ネットワークインタフェース１９５０と、入力出力（Ｉ／Ｏ）インタフェース１９５８を更に備えてもよい。電子機器１９００は、Ｗｉｎｄｏｗｓ（登録商標） ＳｅｒｖｅｒＴＭ、Ｍａｃ ＯＳ ＸＴＭ、Ｕｎｉｘ（登録商標）、Ｌｉｎｕｘ（登録商標）、ＦｒｅｅＢＳＤＴＭ又は類似したものような、メモリ１９３２に記憶されているオペレーティングシステムを実行することができる。
【0125】
例示的な実施例において、例えば、コンピュータプログラム命令を含むメモリ１９３２のような不揮発性コンピュータ可読記憶媒体を更に提供する。上記コンピュータプログラム命令は、電子機器１９００の処理ユニット１９２２により実行されて上記方法を完了する。
【0126】
本願は、システム、方法及び／又はコンピュータプログラム製品であってもよい。コンピュータプログラム製品は、コンピュータ可読記憶媒体を備えてもよく、プロセッサに本願の各態様を実現させるためのコンピュータ可読プログラム命令がそれに記憶されている。
【0127】
コンピュータ可読記憶媒体は、命令実行装置に用いられる命令を保持又は記憶することができる有形装置であってもよい。コンピュータ可読記憶媒体は、例えば、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置又は上記の任意の組み合わせであってもよいが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例（非網羅的なリスト）は、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、読み出し専用メモリ（ＲＯＭ）、消去可能なプログラマブル読み出し専用メモリ（ＥＰＲＯＭ又はフラッシュ）、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ポータブルコンパクトディスク読み出し専用メモリ（ＣＤ－ＲＯＭ）、デジタル多目的ディスク（ＤＶＤ）、メモリスティック、フレキシブルディスク、命令が記憶されているパンチカード又は凹溝内における突起構造のような機械的符号化装置、及び上記任意の適切な組み合わせを含む。ここで用いられるコンピュータ可読記憶媒体は、電波もしくは他の自由に伝搬する電磁波、導波路もしくは他の伝送媒体を通って伝搬する電磁波（例えば、光ファイバケーブルを通過する光パルス）、または、電線を通して伝送される電気信号などの、一時的な信号それ自体であると解釈されるべきではない。
【0128】
ここで説明されるコンピュータ可読プログラム命令を、コンピュータ可読記憶媒体から各コンピューティング／処理装置にダウンロードすることができるか、又は、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び／又は無線ネットワークのようなネットワークを経由して外部コンピュータ又は外部記憶装置にダウンロードすることができる。ネットワークは、伝送用銅線ケーブル、光ファイバー伝送、無線伝送、ルータ、ファイアウォール、交換機、ゲートウェイコンピュータ及び／又はエッジサーバを含んでもよい。各コンピューティング／処理装置におけるネットワークインターフェースカード又はネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、該コンピュータ可読プログラム命令を転送し、各コンピューティング／処理装置におけるコンピュータ可読記憶媒体に記憶する。
【0129】
本願の操作を実行するためのコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又は１つ又は複数のプログラミング言語で記述されたソースコード又はターゲットコードであってもよい。前記プログラミング言語は、Ｓｍａｌｌｔａｌｋ、Ｃ＋＋などのようなオブジェクト指向プログラミング言語と、「Ｃ」プログラミング言語又は類似したプログラミング言語などの従来の手続型プログラミング言語とを含む。コンピュータ可読プログラム命令は、ユーザコンピュータ上で完全に実行してもよいし、ユーザコンピュータ上で部分的に実行してもよいし、独立したソフトウェアパッケージとして実行してもよいし、ユーザコンピュータ上で部分的に実行してリモートコンピュータ上で部分的に実行してもよいし、又はリモートコンピュータ又はサーバ上で完全に実行してもよい。リモートコンピュータの場合に、リモートコンピュータは、ローカルエリアネットワーク（ＬＡＮ）やワイドエリアネットワーク（ＷＡＮ）を含む任意の種類のネットワークを通じてユーザのコンピュータに接続するか、または、外部のコンピュータに接続することができる（例えばインターネットサービスプロバイダを用いてインターネットを通じて接続する）。幾つかの実施例において、コンピュータ可読プログラム命令の状態情報を利用して、プログラマブル論理回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）又はプログラマブル論理アレイ（ＰＬＡ）のような電子回路をカスタマイズする。該電子回路は、コンピュータ可読プログラム命令を実行することで、本願の各態様を実現させることができる。
【0130】
ここで、本願の実施例の方法、装置（システム）及びコンピュータプログラム製品のフローチャート及び／又はブロック図を参照しながら、本願の各態様を説明する。フローチャート及び／又はブロック図の各ブロック及びフローチャート及び／又はブロック図における各ブロックの組み合わせは、いずれもコンピュータ可読プログラム命令により実現できる。
【0131】
これらのコンピュータ可読プログラム命令は、汎用コンピュータ、専用コンピュータまたはその他プログラマブルデータ処理装置のプロセッサに提供でき、それによって機器を生み出し、これら命令はコンピュータまたはその他プログラマブルデータ処理装置のプロセッサにより実行される時、フローチャート及び/又はブロック図における１つ又は複数のブロック中で規定している機能/操作を実現する装置を生み出した。これらのコンピュータ可読プログラム命令をコンピュータ可読記憶媒体に記憶してもよい。これらの命令によれば、コンピュータ、プログラマブルデータ処理装置及び／又は他の装置は特定の方式で動作する。従って、命令が記憶されているコンピュータ可読記憶媒体は、フローチャート及び／又はブロック図おける１つ又は複数のブロック中で規定している機能/操作を実現する各態様の命令を含む製品を備える。
【0132】
コンピュータ可読プログラム命令をコンピュータ、他のプログラマブルデータ処理装置又は他の装置にロードしてもよい。これにより、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で一連の操作の工程を実行して、コンピュータで実施されるプロセスを生成する。従って、コンピュータ、他のプログラマブルデータ処理装置又は他の装置で実行される命令により、フローチャート及び／又はブロック図における１つ又は複数のブロック中で規定している機能/操作を実現させる。
【0133】
図面におけるフローチャート及びブロック図は、本願の複数の実施例によるシステム、方法及びコンピュータプログラム製品の実現可能なアーキテクチャ、機能および操作を例示するものである。この点で、フローチャート又はブロック図における各ブロックは、１つのモジュール、プログラムセグメント又は命令の一部を表すことができる。前記モジュール、、プログラムセグメント又は命令の一部は、１つまたは複数の所定の論理機能を実現するための実行可能な命令を含む。いくつかの取り替えとしての実現中に、ブロックに表記される機能は図面中に表記される順序と異なる順序で発生することができる。例えば、二つの連続するブロックは実際には基本的に並行して実行でき、場合によっては反対の順序で実行することもでき、これは関係する機能から確定する。ブロック図及び／又はフローチャートにおける各ブロック、及びブロック図及び／又はフローチャートにおけるブロックの組み合わせは、所定の機能又は操作を実行するための専用ハードウェアベースシステムにより実現するか、又は専用ハードウェアとコンピュータ命令の組み合わせにより実現することができることにも留意されたい。
【0134】
以上は本願の各実施例を説明したが、前記説明は例示的なものであり、網羅するものではなく、且つ開示した各実施例に限定されない。説明した各実施例の範囲と趣旨から脱逸しない場合、当業者にとって、多くの修正及び変更は容易に想到しえるものである。本明細書に用いられる用語の選択は、各実施例の原理、実際の応用、或いは市場における技術への改善を最もよく解釈すること、或いは他の当業者が本明細書に開示された各実施例を理解できることを目的とする。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
