(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-04-13
(54)【発明の名称】画像処理方法および電子機器
(51)【国際特許分類】
G06T 1/00 20060101AFI20230406BHJP
G06T 5/00 20060101ALI20230406BHJP
G06T 7/00 20170101ALI20230406BHJP
G06V 10/22 20220101ALI20230406BHJP
【FI】
G06T1/00 340A
G06T5/00 705
G06T7/00 660A
G06V10/22
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022552464
(86)(22)【出願日】2020-11-09
(85)【翻訳文提出日】2022-08-31
(86)【国際出願番号】 CN2020127563
(87)【国際公開番号】W WO2021218105
(87)【国際公開日】2021-11-04
(31)【優先権主張番号】202010363734.1
(32)【優先日】2020-04-30
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】520230293
【氏名又は名称】北京達佳互▲れん▼信息技術有限公司
(74)【代理人】
【識別番号】100108453
【氏名又は名称】村山 靖彦
(74)【代理人】
【識別番号】100110364
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100133400
【氏名又は名称】阿部 達彦
(72)【発明者】
【氏名】▲劉▼ ▲曉▼坤
【テーマコード(参考)】
5B057
5L096
【Fターム(参考)】
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CD05
5B057CE05
5B057CE06
5B057DA17
5B057DB02
5B057DB09
5B057DC22
5L096BA18
5L096EA03
5L096EA05
5L096EA06
5L096EA07
5L096FA09
5L096FA19
(57)【要約】
画像処理方法を開示する。当該方法は、ターゲット画像における顔キーポイントに基づいて、ターゲット画像におけるターゲット処理領域を確定することと、ターゲット画像をフィルタリングすることにより、ターゲット画像に対応する中低周波画像および低周波画像を得ることと、低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得することと、ターゲット画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1画像におけるターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することと、を含む。
【特許請求の範囲】
【請求項1】
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することと、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低いことと、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することと、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することと、を含む、
画像処理方法。
【請求項2】
前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することは、
標準顔画像における顔キーポイントと前記処理すべき画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記処理すべき画像にマッピングすることにより、前記処理すべき画像に対応するターゲットマスク画像を取得することと、
前記ターゲットマスク画像における各顔部領域の位置に基づいて、前記処理すべき画像におけるターゲット処理領域を確定し、ここで、前記ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域であることと、を含む、
請求項1に記載の方法。
【請求項3】
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像を得ることは、
前記処理すべき画像に対して第1設定倍数のサブサンプリングを行うことと、
サブサンプリングされた画像をフィルタ処理することと、
フィルタ処理された画像をアップサンプリングすることにより、前記中低周波画像を取得し、ここで、前記中低周波画像の解像度は、前記処理すべき画像の解像度と同じであることと、を含む、
請求項1に記載の方法。
【請求項4】
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する低周波画像を得ることは、
前記処理すべき画像に対して第2設定倍数のサブサンプリングを行い、ここで、前記第2設定倍数は、前記第1設定倍数より大きいことと、
サブサンプリングされた画像をフィルタ処理することと、
フィルタ処理された画像をアップサンプリングすることにより、前記低周波画像を取得し、ここで、前記低周波画像の解像度は、前記処理すべき画像の解像度と同じであることと、を含む、
請求項1に記載の方法。
【請求項5】
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することは、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定することと、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得ることと、を含む、
請求項1に記載の方法。
【請求項6】
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定することは、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定することを含み、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2、
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である、
請求項5に記載の方法。
【請求項7】
前記確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得ることは、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得ることと、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較することと、
比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と前記第1プリセット画素値とのうちの小さな値であることと、を含む、
請求項5に記載の方法。
【請求項8】
前記確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得ることは、
プリセット調整画素値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることと、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得ることと、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と前記第1プリセット画素値とのうちの小さな値であることと、を含む、
請求項5に記載の方法。
【請求項9】
前記プリセット調整画素値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることは、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択することと、
前記大きな値と前記プリセット調整画素値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、前記第2プリセット画素値は、前記プリセット調整画素値より小さいことと、を含む、
請求項8に記載の方法。
【請求項10】
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することは、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1ターゲット画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点の第3ターゲット値を得ることと、
前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2ターゲット画像を取得することと、を含む、
請求項1から9のいずれか1項に記載の方法。
【請求項11】
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することを実行するように構成される取得ユニットと、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得ることを実行するように構成され、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低い処理ユニットと、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することを実行するように構成される第1調整ユニットと、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することを実行するように構成される第2調整ユニットと、を含む、
画像処理装置。
【請求項12】
プロセッサと、
前記プロセッサによって実行可能な命令を記憶するためのメモリと、を含み、
ここで、前記プロセッサは、以下のことを実行するように構成され、即ち、
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定し、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低く、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得し、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得する、
電子機器。
【請求項13】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
標準顔画像における顔キーポイントと前記処理すべき画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記処理すべき画像にマッピングすることにより、前記処理すべき画像に対応するターゲットマスク画像を取得し、
前記ターゲットマスク画像における各顔部領域の位置に基づいて、前記処理すべき画像におけるターゲット処理領域を確定し、ここで、前記ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域である、
請求項12に記載の電子機器。
【請求項14】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第1設定倍数のサブサンプリングを行い、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記中低周波画像を取得し、ここで、前記中低周波画像の解像度は、前記処理すべき画像の解像度と同じである、
請求項12に記載の電子機器。
【請求項15】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第2設定倍数のサブサンプリングを行い、ここで、前記第2設定倍数は、前記第1設定倍数より大きく、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記低周波画像を取得し、ここで、前記低周波画像の解像度は、前記処理すべき画像の解像度と同じである、
請求項12に記載の電子機器。
【請求項16】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得る、
請求項12に記載の電子機器。
【請求項17】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定し、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2、
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である、
請求項16に記載の電子機器。
【請求項18】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、
比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と前記第1プリセット画素値とのうちの小さな値である、
請求項16に記載の電子機器。
【請求項19】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
プリセット調整画素値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得て、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得て、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と前記第1プリセット画素値とのうちの小さな値である、
請求項15に記載の電子機器。
【請求項20】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択し、
前記大きな値と前記プリセット調整画素値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、前記第2プリセット画素値は、前記プリセット調整画素値より小さい、
請求項19に記載の電子機器。
【請求項21】
前記プロセッサは、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1ターゲット画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点の第3ターゲット値を得て、
前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2ターゲット画像を取得する、
請求項12から20のいずれか1項に記載の電子機器。
【請求項22】
命令が電子機器のプロセッサによって実行されるときに、請求項1から請求項10のいずれか1項に記載の画像処理方法を前記電子機器に実行させることができる記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
[関連する出願の援用]
本出願は、2020年04月30日に中国特許庁に提出された出願番号202010363734.1、発明名称「画像処理方法、画像処理装置、電子機器、および記憶媒体」の中国特許出願の優先権を主張し、その全ての内容は参照により本出願に援用する。
【0002】
本開示は、画像処理技術の分野に関し、特に画像処理方法、画像処理装置、電子機器、および記憶媒体に関するものである。
【背景技術】
【0003】
社会の発展と科学技術の進歩に伴い、現在の画像処理アプリケーションの多くは、例えば様々な画像処理app(application、アプリケーション)、ライブ配信appなどの美肌補正機能を含み、写真や動画を美肌補正して、ユーザーの顔立ちを向上させることができる。発明者は、かなりの部分の人がひどいクマやほうれい線を持っていることに気づき、したがって、クマやほうれい線を消すことは、美肌補正にとって非常に重要なアイテムになっている。
【0004】
関連技術では、多くの美肌補正appのクマ・ほうれい線除去機能について、徹底的に除去されないか、クマやほうれい線を除去した後、当該領域で肌テクスチャが深刻に失われているが、肌の均一さや柔らかさだけを追求するのではなく、質感の真実さに注目する人が増え、現在の画像処理方法では、何らかの処理が施されている画像について、画像中の重要な情報を一括して除去したり、画像に対してうまく処理できなかったりして、処理効果が低い。
【発明の概要】
【課題を解決するための手段】
【0005】
本出願は、関連技術において画像処理効果が低いという問題を少なくとも解決するための画像処理方法、画像処理装置、電子機器、および記憶媒体に関する。本出願の技術案は、以下の通りである。
【0006】
本出願の実施例の第1側面によれば、
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することと、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低いことと、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することと、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することと、を含む、画像処理方法に関する。
【0007】
本出願の実施例の第2側面によれば、
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することを実行するように構成される取得ユニットと、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得ることを実行するように構成され、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低い処理ユニットと、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することを実行するように構成される第1調整ユニットと、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することを実行するように構成される第2調整ユニットと、を含む、画像処理装置に関する。
【0008】
本出願の実施例の第3側面によれば、
プロセッサと、
前記プロセッサによって実行可能な命令を記憶するためのメモリと、
ここで、前記プロセッサは、前記命令を実行することにより、本出願の実施例の第1側面のいずれかに記載の画像処理方法を実現するように構成される、電子機器に関する。
【0009】
本出願の実施例の第4側面によれば、前記記憶媒体における命令が電子機器のプロセッサによって実行されるときに、本出願の実施例の第1側面のいずれかに記載の画像処理方法を前記電子機器に実行させることができる不揮発性可読記憶媒体に関する。
【0010】
本出願の実施例の第5側面によれば、電子機器上で実行されたとき、本出願の実施例の上記第1側面および第1側面のいずれかに係る方法を前記電子機器に実行させるコンピュータープログラム製品に関する。
【0011】
本出願の実施例によって提供される技術案は、以下の有益な効果を有する。
【0012】
本出願の実施例では、ターゲット処理領域内の肌テクスチャの特徴を除去する際に、階層化処理の考え方を採用しているため、ターゲット処理領域をほうれい線領域とする場合、本出願の実施例では、ほうれい線領域を上層と下層の2つの層に分割し、下層すなわち中低周波画像上でほうれい線を除去する処理の完了には、具体的に以下の通りであり、即ち、中低周波画像および低周波画像のターゲット処理領域内の各画素点の画素値の差分により中低周波画像におけるターゲット処理領域内の各画素点の画素値を調整して得られた第1ターゲット画像は、クマやほうれい線などの瑕疵を除去した中低周波画像であり、次に、第1ターゲット画像にクマやほうれい線などの瑕疵を除去した後の元の肌テクスチャを追加し、ここで、ここでの追加プロセスは、処理すべき画像および中低周波画像のターゲット処理領域内の画素値の差分により第1ターゲット画像を調整することで実現され、第1ターゲット画像が中低周波画像からクマやほうれい線などの瑕疵を除去した画像であるため、これを元にして元の肌テクスチャを追加することで、クマやほうれい線などの瑕疵を除去すると同時に肌テクスチャを残した効果を実現でき、この結果、最終効果は、リアルで自然であり、処理効果は、より良い。
【0013】
上記の一般的な説明および後述の詳細な説明は、単なる例示的および説明的なものに過ぎず、本出願を限定するものではないことを理解すべきである。
【図面の簡単な説明】
【0014】
【
図1A】一例示的な実施例による処理すべき画像の概略図である。
【
図1B】一例示的な実施例による関連技術における方法を用いた画像処理後の効果図である。
【
図2】一例示的な実施例による画像処理方法のフローチャートである。
【
図3】一例示的な実施例による顔キーポイントマークの概略図である。
【
図4】一例示的な実施例による標準顔画像のマスク素材の概略図である。
【
図5】一例示的な実施例による第2ターゲット画像の概略図である。
【
図6】一例示的な実施例による画像処理の完全な方法のフローチャートである。
【
図7】一例示的な実施例によるクマ及びほうれい線を除去する完全な方法の概略図である。
【
図8】一例示的な実施例による画像処理装置のブロック図である。
【
図9】一例示的な実施例による電子機器のブロック図である。
【
図10】一例示的な実施例による端末機器のブロック図である。
【発明を実施するための形態】
【0015】
以下、明細書に記載されているいくつかの単語について説明する。
【0016】
1.本出願の実施例に記載された「および/または」という用語は、関連アカウントの関連関係を記述し、3つの関係が存在することを意味し、例えば、Aおよび/またはBとは、Aが単独で存在し、AおよびBが同時に存在し、Bが単独で存在するという3つの状況を表すことができる。文字「/」は一般的に、前後の関連アカウントが「または」の関係であることを表す。
【0017】
2.本出願の実施例に記載された「電子機器」という用語は、携帯電話、コンピュータ、デジタル放送端末、メッセージングデバイス、ゲームコンソール、タブレットデバイス、医療機器、フィットネスデバイス、パーソナルデジタルアシスタントなどであってもよい。
【0018】
3.本出願の実施例に記載された「サブサンプリング(subsampled)」という用語は、ダウンサンプリング(downsampled)とも呼ばれ、画像を縮小することを指す。その目的は、2つあり、即ち、画像を表示領域のサイズに合わせること、及び、対応する画像のサムネイルを生成することである。サブサンプリングの原理として、 サイズがM*Nの画像Iに対して、s倍のサブサンプリングを行い、即ち、(M/s)*(N/s)サイズの解像度の画像を得て、もちろん、sがMとNの公約数でなければならないが、マトリックス形式の画像を考えると、元の画像s*sウィンドウ内の画像を1つの画素に変換し、この画素点の値がウィンドウ内のすべての画素の平均値である。
【0019】
4.本出願の実施例に記載された「アップサンプリング(upsampling)」という用語は、画像補間(interpolating)とも呼ばれることができ、即ち、画像を拡大することであり、その主な目的は、画像をより高解像度の表示装置に表示できるように、原図を拡大することである。
【0020】
5.本出願の実施例に記載された「warpマッピング」という用語は、2次元座標(x,y)から2次元座標(u,v)への線形変換である。直線は、warpマッピング後に相変わらず直線であり、直線同士の相対的な位置関係は、変わらず、平行線は、warpマッピング後に相変わらず平行線であり、直線上の点の位置順序は、変化しない。同一線上にない3組の対応する点によって、唯一のwarpマッピングを確定する。warpマッピング後に、画像キーポイントがまだ三角形を構成するが、三角形の形状が変化した。要するに、行列を乗算し、行列の特徴ベクトルによって画像変換の方向を決定する。
【0021】
6.本出願の実施例に記載された「画像の周波数」という用語は、画像におけるある点の周波数ではなく、画像における階調変化の激しさ/速さを特徴づける指標であり、平面空間における階調の勾配である。つまり、ある領域で非常に大きく非常に速く変化する場合、この地域には一定の高周波数の情報が含まれる。画像の高周波数情報が多ければ多いほど、画像の詳細な特徴も多くなる。異なる周波数情報は、画像構造において異なる役割を果たす。画像の主成分は、低周波数情報であり、画像の基本的な階調レベルを形成し、画像構造に対する決定作用が小さく、中間周波数情報は、画像の基本的な構造を決定し、画像の主要なエッジ構造を形成し、高周波数情報は、画像のエッジと詳細を形成し、中間周波数情報において画像コンテンツをさらに強化するものである。例えば、大面積の砂漠は、画像において階調の変化が遅い領域であり、対応する周波数値は、非常に低く、地表属性の変換が激しいエッジ領域は、画像において階調の変化が激しい領域であり、対応する周波数値は高い。画像にとって、画像のエッジ部分が突然変異部分であり、変化が速いため、周波数領域に反応するのが高周波成分である。ほとんどの場合、画像のノイズは、高周波成分であり、画像の緩やかに変化する部分は、低周波成分である。
【0022】
7.本出願の実施例に記載された「中低周波画像」という用語は、処理すべき画像をフィルタリングした後で得られた画像であり、低周波画像も処理すべき画像をフィルタリングした後で得られたものであり、中低周波は、低周波に対して相対的なものであり、中低周波画像は、低周波画像に比べて処理すべき画像における中間周波数情報および低周波数情報を保持し、処理すべき画像における高周波数情報をフィルタリングし、低周波画像は、処理すべき画像における低周波数情報のみを保持し、処理すべき画像における高周波数情報および中間周波数情報をフィルタリングする。効果的には、中低周波画像と処理すべき画像はぼやけているが、低周波画像は中低周波画像よりもぼやけている。
【0023】
以下、本出願の実施例の設計思想について簡単に説明する。
【0024】
図1Aに示されたように、本出願の実施例による元の画像の概略図であり、
図1Aにおいて、ほうれい線が目立ち、
図1Bは、関連する美肌カメラまたは関連技術に基づいて処理することにより得られた美肌補正画像であり、ここで、ほうれい線領域の処理跡は目立ち、当該部分の領域は、滑らかすぎて、効果はよくない。
【0025】
これを考慮して、本出願の実施例は、画像処理方法、画像処理装置、電子機器、および記憶媒体を提供し、この方法は、肌のリアルな質感を保持したクマ及びほうれい線を除去する方法であり、美肌カメラ、ライブ配信などのユーザー体験を大幅に向上させることができる。具体的には、中低周波画像と低周波画像に基づいて処理すべき画像におけるターゲット処理領域内の画素値を調整することにより、クマ及びほうれい線を除去すると同時に、元の肌テクスチャのリアルな質感を保持し、画像処理の効果を向上させる。
【0026】
本出願の実施例で説明された応用シーンは、本出願の実施例の技術案をより明確に説明するためのものであり、本出願の実施例による技術案を限定するものではなく、当業者であれば、本出願の実施例による技術案が、新しい応用シーンの出現に伴い、類似の技術的問題に対しても同様に適用できることが分かる。ここで、本出願の説明において、特に説明しない限り、「複数」の意味。
【0027】
図2は、一例示的な実施例による画像処理方法のフローチャートであり、
図2に示されたように、以下のステップを含む。
【0028】
ステップS21において、処理すべき画像における顔キーポイントを取得し、顔キーポイントに基づいて処理すべき画像におけるターゲット処理領域を確定する。
【0029】
ステップS22において、処理すべき画像をフィルタリングすることにより、処理すべき画像に対応する中低周波画像および低周波画像を得て、ここで、中低周波画像の周波数は、第1周波数帯域内にあり、低周波画像の周波数は、第2周波数帯域内にあり、第2周波数帯域の上限は、第1周波数帯域の下限より低く、第1周波数帯域の上限は、処理すべき画像の周波数より低い。
【0030】
ステップS23において、低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得する。
【0031】
ステップS24において、処理すべき画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1ターゲット画像におけるターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得する。
【0032】
上記実施形態では、階層化処理の考え方に基づいて、ターゲット処理領域をほうれい線領域とする場合、本出願の実施例では、ほうれい線領域を上層と下層の2つの層に分割し、下層すなわち中低周波画像上でクマやほうれい線を除去する処理の完了には、具体的に以下の通りであり、即ち、中低周波画像および低周波画像のターゲット処理領域内の各画素点の画素値の差分により中低周波画像におけるターゲット処理領域内の各画素点の画素値を調整するプロセスにより実現され、ここで、ターゲット処理領域は、クマやほうれい線などの瑕疵がある区域であり、次に、第1ターゲット画像にクマやほうれい線などの瑕疵を除去した元の肌テクスチャを追加し、ここで、ここでの追加プロセスは、処理すべき画像および中低周波画像のターゲット処理領域内の画素値の差分により第1ターゲット画像を調整することで実現され、第1ターゲット画像が中低周波画像からクマやほうれい線などの瑕疵を除去した画像であるため、これを元にして肌テクスチャを追加することで、クマやほうれい線を除去すると同時に肌テクスチャを残した効果を実現でき、この結果、最終効果は、リアルで自然であり、処理効果は、より良い。
【0033】
一選択可能な実施形態では、顔キーポイントに基づいて処理すべき画像におけるターゲット処理領域を確定する場合、マスク画像に基づいて確定することができ、具体的なプロセスは、以下の通りである。
【0034】
標準顔画像における顔キーポイントと処理すべき画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材を処理すべき画像にマッピングすることにより、処理すべき画像に対応するターゲットマスク画像を取得し、ターゲットマスク画像における各顔部領域の位置に基づいて、処理すべき画像におけるターゲット処理領域を確定し、ここで、ターゲット処理領域は、各顔部領域のうちの少なくとも1つの顔部領域である。
【0035】
本出願の実施例では、画像処理を画像の美肌補正シーンに適用する場合、ターゲット処理領域は、顔における美肌補正すべき部位、すなわち美肌補正すべき顔部領域を指すことができ、1つの領域であってもよく、例えばクマ領域、ほうれい線領域などの複数の領域であってもよい。以下、主にクマ領域とほうれい線領域をターゲット処理領域として例を挙げて詳細に説明する。
【0036】
ここで、顔キーポイントデータセットには、5キーポイント、21キーポイント、68キーポイント、98キーポイントなどの異なる形式があり、100個のキーポイントを超えるデータセットもあり、異なるデータセットで注記されるキーポイントの数が異なる。
【0037】
本出願の実施例では、採用された顔キーポイントデータセットには全部で186個のキーポイントがあり、ラベル1~186で区別できる。例えば
図3に示されたように、3は本出願の実施例に示された標準顔画像の概略図であり、図面には顔における各キーポイントが合計186個示される。このうち、顔部の輪郭をマークするためのキーポイントは52個あり、ラベルはそれぞれ1~52であり、口の輪郭をマークするためのキーポイントは42個あり、ラベルはそれぞれ53~94であり、鼻の輪郭をマークするためのキーポイントは26個あり、ラベルはそれぞれ9~120であり、目の輪郭(目玉を含む)をマークするためのキーポイントは34個あり、左目をマークするためのキーポイントは17個あり、ラベルはそれぞれ121~137であり、右目をマークするためのキーポイントは17個あり、ラベルはそれぞれ138~154である。左目または右目をマークする17個のキーポイントのうち、1つは目玉の真ん中の位置をマークするために使用され、残りの16個は目の輪郭をマークするために使用され、眉の輪郭をマークするためのキーポイントは32個あり、右眉をマークするためのキーポイントは16個あり、ラベルはそれぞれ155~170であり、左眉をマークするためのキーポイントは16個あり、ラベルはそれぞれ171~186である。このうち、白色のキーポイントは、主要なキーポイントであり、例えば目玉、目尻、口元などの主要な位置をマークするために使用される。
【0038】
本出願の実施例では、処理すべき画像における顔キーポイントを識別する場合、顔キーポイントモデル採用して直接に識別することができ、なお、処理すべき画像を識別する場合、得られた顔キーポイントデータセットは、標準顔画像における顔キーポイントからなるデータセットと同じであるべきであり、つまり、キーポイントの個数は同じであり、例えば、すべて186個のキーポイントがある。したがって、処理すべき画像を識別した後、識別された顔キーポイントも186個であるべきである。ただ、処理すべき画像における顔と標準顔画像における標準顔との間の違い、例えば目の大きさが一致しないなどにより、識別された処理すべき画像におけるこれらのキーポイントの位置と標準顔画像におけるキーポイントの位置にも差があるが、ラベルが1対1で対応している。しかし、画像における顔の一部の領域が遮蔽されている場合、あるいは目を閉じている場合、あるいは正面ではなく横顔である場合などに検出されたキーポイントが186個より少なくなる可能性があるが、本実施形態には影響を与えない。
【0039】
本出願の実施例では、例えば、
図4に示すように、標準顔画像のマスク素材は、
図3に示す標準顔画像に対応するマスク素材のように、標準顔画像における各顔キーポイント間の位置に基づいて確定される。標準顔画像のマスク素材に基づいて処理すべき画像に対応するマスク画像を取得する場合、標準顔画像における顔キーポイントと処理すべき画像における顔キーポイントは、1対1で対応し、同じ画像におけるキーポイント間の位置関係は一定であり、例えば、顔部の輪郭をマークする52個のキーポイントのうち、キーポイント1はキーポイント2に隣接し、キーポイント2はキーポイント3に隣接し…、顔キーポイントモデルによって識別された処理すべき画像における各キーポイントについても、キーポイント1はキーポイント2に隣接し、キーポイント2はキーポイント3に隣接し…、したがって、標準顔画像におけるキーポイント1と処理すべき画像におけるキーポイント1との位置関係、標準顔画像におけるキーポイント2と処理すべき画像におけるキーポイント2との位置関係…など、2枚の画像における同じラベルのキーポイント間の位置関係に基づいて、標準顔画像のマスク素材を処理すべき画像にマッピングし、例えば三角warpマッピングすれば、処理すべき画像に対応するマスク画像を得ることができる。あるいは調整と理解し、2枚の画像における顔キーポイント間の位置関係に基づいて、標準顔のマスク素材を調整することにより、処理すべき画像に対応するマスク画像を得る。
【0040】
ここで、マスク画像における異なる顔部領域は、異なるマーキング情報でマークすることができ、例えば
図4に示すように(
図4が階調画像であるため、色値の表示に若干の影響がある)、色値をマーキング情報とする場合、異なる色で異なる顔部領域をマークし、例えば、青色領域は目の領域であり、赤色領域はクマ領域であり、緑色領域はほうれい線領域であり、マゼンタ領域は歯の領域であり、処理すべき画像のマスク画像においても同様のマーク情報であり、この場合、マスク画像における各顔部領域の位置に基づいてターゲット処理領域を確定する際に、ターゲットマスク画像における各顔部領域に対応するマーキング情報に基づいて、ターゲットマーキング情報に対応するターゲット顔部領域を取得し、処理すべき画像におけるターゲット顔部領域が位置する場所に対応する領域をターゲット処理領域とすることができる。
【0041】
ターゲット処理領域がクマおよびほうれい線である場合、マスク画像における赤色領域および緑色領域に基づいて、処理すべき画像をマスクし、処理すべき画像におけるターゲット処理領域の位置を確定し、さらにターゲット処理領域内の各画素点の画素値を調整することにより、クマ及びほうれい線を除去する效果を実現することができる。
【0042】
なお、上記に列挙したマーキング情報は単なる例示であり、例えば異なるパターンでマークしたり、番号でマークしたりといった、いずれの形式のマーキング情報も本出願の実施例に適用され、ここでは列挙しない。
【0043】
上記実施形態では、顔キーポイントモデルと標準顔のマスク画像を利用して、ターゲット処理領域を正確に位置決め、同時に、標準顔画像のマスク素材が漸進的な移行を考慮して作成されるため、最終的な効果がターゲット処理領域のエッジで自然ではないという問題を回避することができる。
【0044】
ここで、マーキング情報が色値であることを例に挙げると、ある顔部領域にとって、漸進的な移行とは、当該領域の色値が移行であり、エッジ領域の色が浅く、中心領域の色が最も濃く、エッジから中心までが移行的に変化する方式と指し、例えば緑色のほうれい紋領域の場合、ほうれい線のエッジ位置に緑色が30、浅緑と表示され、ほうれい線の中心位置に緑色が255、深緑と表示され、中間が移行的に変化すればよく、ほうれい線を除去する場合、浅緑の部分の除去は軽く、深緑の部分の除去は重く、エッジ部分に移行の効果がある。
【0045】
一選択可能な実施形態では、処理すべき画像をフィルタリングすることにより、中低周波画像を得る具体的なプロセスは、以下の通りである。
【0046】
処理すべき画像に対して第1設定倍数のサブサンプリングを行い、サブサンプリングされた画像をフィルタ処理し、フィルタ処理された画像をアップサンプリングすることにより、中低周波画像を取得し、ここで、中低周波画像の解像度は、処理すべき画像の解像度と同じである。
【0047】
同様に、処理すべき画像をフィルタリングすることにより低周波画像を得る場合、具体的なプロセスは、以下の通りである。
【0048】
処理すべき画像に対して第2設定倍数のサブサンプリングを行い、ここで、第2設定倍数は、第1設定倍数より大きく、サブサンプリングされた画像をフィルタ処理し、フィルタ処理された画像をアップサンプリングすることにより、低周波画像を取得し、ここで、低周波画像の解像度は、処理すべき画像の解像度と同じである。
【0049】
本出願の実施例では、フィルタリング方式には、中央値フィルタリング、平均化フィルタリング、ガウスフィルタリング、二辺フィルタリングなど、さまざまな種類がある。本出願の実施例は、主に平均化フィルタリングを例にして詳細に説明し、例えば、第1設定倍数が2倍、第2設定倍数が4倍であれば、処理すべき画像に対して2倍のサブサンプリングを行うことにより、画像ds2Imgを得て、ds2Imgを平均化フィルタリングし、最後にフィルタリング後の画像をさらにアップサンプリングすることにより、blurlmg1、すなわち中低周波画像を得ることができ、ここで、平均値フィルタリングは、3×3のフィルタコアを採用することができ、サンプリングステップは3である。
【0050】
処理すべき画像に基づいてサブサンプリングすることにより低周波画像を取得する場合、処理すべき画像に対して4倍のサブサンプリングを直接に行うことにより、画像ds4Imgを得ることができ、ds2Imgをさらにサブサンプリングすることにより、画像ds4Imgを得ることもできる。この後、ds4Imgを平均化フィルタリングし、フィルタリング後の画像をさらにアップサンプリングすることにより、blurlmg2、すなわち低周波画像を得て、ここで、平均化フィルタリングは、3×3のフィルタコアを採用することができ、ds2Imgをさらにサブサンプリングすることにより画像ds4Imgを得る方式を採用する場合、サンプリングステップは1であってもよい。
【0051】
なお、低周波画像は、中低周波画像よりもぼやけて、すなわち低周波画像における階調変化の激しさは、中低周波画像よりも若干小さく、実際には中低周波画像は、ほうれい線などの大まかな輪郭を表示できるが、肌テクスチャやまつ毛などがよく見えないぼやけた画像である。低周波画像は、中低周波画像よりもぼやけた画像であり、低周波画像にほうれい線などの大まかな輪郭を表示することができない。
【0052】
本出願の実施例では、画像の縮小(サブサンプリング)にしても、画像の拡大(アップサンプリング)にしても、サンプリングの方式は様々であり、例えば、最近傍補間、双線形補間、平均値補間、中央値補間などの方式があるが、ここでは具体的に限定しない。
【0053】
上記実施形態では、サブサンプリングされた画像をフィルタ処理し、サブサンプリングによって画像が縮小されるため、元の画像においてフィルタリングすることに対して、比較的小さい画像においてフィルタ処理することで、計算量を効果的に減少させ、演算速度を高め、さらに画像処理の効率を向上させることができる。
【0054】
一選択可能な実施形態では、処理すべき画像をフィルタリングして得られた中低周波画像からターゲット処理領域内の肌テクスチャの特徴を除去することにより、第1ターゲット画像を取得する場合、具体的なプロセスは、以下の通りである。
【0055】
処理すべき画像をフィルタリングして得られた低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、ここで、低周波画像の周波数は、第2周波数帯域内にあり、第2周波数帯域の上限は、第1周波数帯域の下限より低く、確定された各第1ターゲット画素値に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を得る。
【0056】
ターゲット処理領域がクマおよびほうれい線の領域であることを例に挙げると、上記プロセスでターゲット処理領域内の肌テクスチャの特徴を除去するとは、クマおよびほうれい線を除去することを指し、主に2つのステップに分けて実現され、まず、クマおよびほうれい線の領域の肌の質感とテクスチャを除去し、クマやほうれい線の輪郭(この部分の画像における色がもっと濃い)だけを残し、次に、クマおよびほうれい線の輪郭を除去し、この2つのステップは、画素値の調整に基づいて実行される。この2つのステップを経て中低周波画像からターゲット処理領域内の肌テクスチャの特徴を除去した後、第1ターゲット画像を取得し、さらに第1ターゲット画像に元の肌テクスチャを追加し、この結果、クマおよびほうれい線を除去するとともに、肌テクスチャを保持し、最終効果をよりリアルで自然なものにすることができる。
【0057】
上記実施形態では、クマクマ及びほうれい線を除去する場合階層化処理の考え方を採用し、即ち、肌を上層と下層の2つの層に分割し、上層は、肌の質感とテクスチャであり、下層は、ほうれい線、クマなどの輪郭である。処理すべき画像では、クマ及びほうれい線の領域の肌は、他の領域の肌に比べて色が濃い。階層化処理の考え方に基づいて、下層すなわち中低周波画像上でクマやほうれい線を除去する処理を完了し、次に上層すなわち元の肌テクスチャを追加することにより、よりリアルで自然な画像処理効果を達成する。
【0058】
以下、第1ターゲット画像と第2ターゲット画像を取得するプロセスについて詳細に説明する。
【0059】
第1ターゲット画像を取得する場合、まず、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定する必要がある。
【0060】
一選択可能な実施形態では、処理すべき画像の低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定する具体的なプロセスは、以下の通りである。
【0061】
ターゲット処理領域内のいずれかの画素点に対して、当該画素点の第1ターゲット画素値を次の式で計算でき、即ち、
【0062】
texDiff =(blurlmg2-blurlmg1)*coeff1 + coeff2* blurlmg2、
【0063】
ここで、いずれかの画素点に対して、texDiffは、当該画素点の第1ターゲット画素値を表すことができ、coeff1は、第1係数であり、coeff2は、第2係数であり、ここで、coeff1は、1.8を取ることができ、coeff2は、0.05を取ることができる。blurlmg2は、低周波画像における当該画素点の画素値であり、blurlmg1は、当該中低周波画像における当該画素点の画素値であり、blurlmg2-blurlmg1は、低周波画像における当該画素点の画素値と中低周波画像における当該画素点の画素値との差を表すことができる。
【0064】
上記の式を変形すると、
【0065】
texDiff = blurlmg2*(coeff1+coeff2)-blurlmg1* coeff1になる。
【0066】
この場合、第1画素値は、低周波画像におけるターゲット処理領域内の各画素点の画素値とターゲット係数との積、中低周波画像における対応する位置の画素点の画素値と第1係数との積との差、と表すことができ、ここで、ターゲット係数は、第1係数と第2係数との和である。
【0067】
なお、本出願の実施例では、第1係数と第2係数はいずれも正数であり、第1係数は第2係数より大きく、一般的に、第2係数は、約0.05(例えば、0.04、0.06であってもよく)で小さくてもよいが、第1係数は大きく、一般的に、1より大きく、本出願の実施例では、約1.8(例えば、1.7、1.9など)でよい。
【0068】
ほうれい線を例にとると、本出願の実施例では、中低周波画像からほうれい線の大まかな輪郭が見られ、輪郭部分の画素点の色が他の肌領域よりも深くなる可能性があるため、中低周波画像からほうれい線を除去する場合、これらの位置の画素点の色を明るくすることができ、画素値を大きくすることで実現し、これらの領域が周辺領域の画素点の色と比較してより緩やかに、より近く変化するようにし、ほうれい線を除去する効果を実現する。ここで、これらの位置の画素点の色をどのように明るくするかを考慮する場合、低周波画像からほうれい線の大まかな輪郭が見えないことを考慮して、低周波画像の画素値と中低周波画像の画素値との差に基づいて確定すればよく、上記の式は、blurlmg2-blurlmg1に加えて、blurlmg1の画素値を参考にしたものであり、これらの領域の画素点の色と周辺領域の画素点の色を近づけ、ほうれい線除去効果をより良くすることを目的としている。クマを除去する場合でも同様である。
【0069】
上記の式に基づいて第1ターゲット値を確定した後、第1ターゲット値に基づいて中低周波画像におけるターゲット処理領域内の各画素点の画素値を直接に調整することにより、さらに中低周波画像からクマ及びほうれい線を除去した第1ターゲット画像を得ることができ、具体的な調整方法は、以下の通りである。
【0070】
各第1ターゲット画素値を、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて第1ターゲット画像を確定し、ここで、第1ターゲット画像におけるターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と第1プリセット画素値とのうちの小さな値である。
【0071】
本出願の実施例では、上記調整プロセスは、以下の式に基づいて実現されることができ、ターゲット処理領域内のいずれかの画素点に対して、
【0072】
tempImg = min(texDiff+blurlmg1、1.0)が成り立つ。
【0073】
ここで、tempImgは、中低周波画像blurlmg1からクマやほうれい線を除去した結果、すなわち調整後に得られた第1ターゲット画像におけるターゲット処理領域内のいずれかの画素点の画素値である。1.0は、第1プリセット画素値であり、第1ターゲット値は、texDiff+blurlmg1である。
【0074】
なお、上記の式における第1プリセット画素値が1.0を取る場合は、画素値を正規化する場合に対応し、0~255を0~1以内の値に正規化する場合、第1プリセット画素値が1.0を取ると、tempImgにおける画素点の画素値は、255を超えてはならないことを示す。正規化方法を採用しない場合、第1プリセット画素値は、255または254などを取ってもよく、255を超えてはならず、255に近い値を取ればよい。正規化する場合、第1プリセット画素値は、1.0を超えてはならず、1.0に近い値を取ればよい。
【0075】
上記の式に基づいて、中低周波画像におけるターゲット処理領域内の各画素点の画素値を調整し、クマ及びほうれい線を除去することができる。
【0076】
別の選択可能な実施形態では、第1ターゲット画素値を微調整することができ、これは、調整後に明るすぎることを回避するために、中低周波画像における画素点の色を調整する際に制約するものであり、具体的なプロセスは、以下の通りである。
【0077】
プリセット調整画素値に基づいて第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得て、各第1ターゲット画素値に対応する第2ターゲット画素値を、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得て、各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて第1ターゲット画像を確定し、ここで、第1ターゲット画像におけるターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と第1プリセット画素値とのうちの小さな値である。
【0078】
ターゲット処理領域内のいずれかの画素点の第1ターゲット画素値がtexDiffであり、第2ターゲット画素値がtexDiff’であると仮定すると、第1ターゲット画像におけるターゲット処理領域内のいずれかの画素点の画素値は、以下の式により算出される。
【0079】
tempImg=min(texDiff’+blurlmg1、1.0)
【0080】
具体的な確定方法は、上記プロセスで第1ターゲット画素値のみに基づいて調整するプロセスと同様であり、第1プリセット画素値は、1.0を取ったままである。第2ターゲット値は、texDiff’+blurlmg1である。
【0081】
一選択可能な実施形態では、プリセット調整画素値に基づいて第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得る場合、具体的な調整方法は、以下の通りである。
【0082】
いずれかの第1ターゲット画素値に対して、第1ターゲット画素値と第2プリセット画素値とを比較し、大きな値を選択し、さらに、第1ターゲット画素値と第2プリセット画素値とのうちの大きな値とプリセット調整画素値とを比較し、小さな値を第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、第2プリセット画素値は、プリセット調整画素値より小さい。
【0083】
具体的に、ターゲット処理領域内のいずれかの画素点に対して、以下の式により第2ターゲット画素値texDiff’を表すことができる。
【0084】
texDiff’=min(max(0.0、texDiff)、coeff3)
【0085】
ここで、coeff3は、プリセット調整画素値であり、第1ターゲット画素値texDiffを制約するために使用され、画素値を正規化する場合0.3を取ることができ(coeff3の範囲は0~1である)、上記の式によって最大0.3であるようにtexDiff’を制約することができる。第2プリセット画素値は、0.0であり、texDiff’が非負数であることを保証する。
【0086】
例えば、例えば、第1ターゲット画素値texDiffは0.2であり、このとき第2ターゲット画素値texDiff’も0.2である。第1ターゲット画素値texDiffが0.5である場合、第2ターゲット画素値texDiff’は0.3である。
【0087】
上記実施形態では、プリセット調整画素値によって第1ターゲット画素値を制約し、極端な状況を回避し、クマ及びほうれい線の除去効果を向上させる。
【0088】
一選択可能な実施形態では、処理すべき画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1ターゲット画像におけるターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得する場合、具体的な調整方法は、以下の通りである。
【0089】
処理すべき画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分を、第1ターゲット画像における対応する位置の画素点の画素値に加算することにより、ターゲット処理領域内の各画素点の第3ターゲット値を得て、第1ターゲット画像におけるターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、第2ターゲット画像を取得する。
【0090】
本出願の実施例では、中低周波画像と処理すべき画像との差分に基づいて、第1ターゲット画像を調整するプロセスは、クマやほうれい線を除去した結果に元の肌テクスチャを追加するプロセスであり、当該プロセスの本質も画素値を調整することであり、以下の式で表すことができる。
【0091】
まず、処理すべき画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像blurlmg1における対応する位置の画素点の画素値との差分diffを計算する。
【0092】
diff = 処理すべき画像-blurlmg1
【0093】
次に、クマやほうれい線を除去した画像(tempImg)にdiffを追加することにより、最終結果である第2ターゲット画像resImgになる。
【0094】
resImg=diff+tempImg
【0095】
処理すべき画像におけるターゲット処理領域内のある画素点の画素値がA1であり、中低周波画像における対応する位置の画素点の画素値がB1であり、第1ターゲット画像における当該画素点の画素値がC1であると仮定すると、第3ターゲット値は、A1-B1+C1となる。
【0096】
本出願の実施例では、第1ターゲット画像における対応する位置の画素点の画素値を第3ターゲット値に置き換えることにより、クマ及びほうれい線を除去すると同時に、元の肌の質感を保持する効果を実現することができる。
【0097】
また、以上のステップについて、具体的に実行される時にある程度の最適化と統合を行うことができ、例えば以下の3つの式に従って画素値を調整する場合、最適化と統合を行うことができる。
【0098】
tempImg=min(texDiff’+blurlmg1、1.0)
resImg=diff+tempImg
diff=処理すべき画像-blurlmg1
【0099】
後の2つの式を統合すると、次のようになる。
【0100】
resImg=処理すべき画像-blurlmg1+tempImg
【0101】
tempImg=min(texDiff’+blurlmg1、1.0)をresImg=処理すべき画像-blurlmg1+tempImgに代入すると、次のようになる。
【0102】
resImg=処理すべき画像-blurlmg1+min(texDiff’+blurlmg1、1.0)
=min(処理すべき画像-blurlmg1+texDiff’+blurlmg1、1.0)
=min(texDiff’+処理すべき画像、1.0)
【0103】
ここで、texDiff’をtexDiffに置き換えてもよい。
【0104】
つまり、第1ターゲット画像を取得することなく、第1ターゲット画素値または第2ターゲット画素値に基づいて調整することにより第2ターゲット画像を直接に得ることができ、具体的な方法は、以下の通りである。
【0105】
処理すべき画像をフィルタリングして得られた低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定した後、各第1ターゲット画素値に対応する第2ターゲット画素値を取得することができる(選択可能なステップ)。
【0106】
処理すべき画像におけるターゲット領域内の画素点の画素値を対応する位置の画素点の第1ターゲット画素値または第2ターゲット画素値に加算することにより各画素点のターゲット値を得ることは、texDiff+処理すべき画像またはtexDiff’+処理すべき画像と表すことができ、ターゲット値に基づいて第2ターゲット画像におけるターゲット処理領域内の各画素点の画素値を確定し、ここで、第2ターゲット領域内のいずれかの画素点の位置における画素値は、当該画素点のターゲット値と第1プリセット画素値との間の小さな値である。また、他の統合と最適化の方法も適用可能であり、ここでは具体的に限定せず、基本的な思想について、中低周波画像と低周波画像に基づいて階層化処理を行う。
【0107】
なお、本出願の実施例の画像処理方法に基づいて得られた第2ターゲット画像において、ターゲット処理領域以外の他の領域内の画素点の画素値を、処理すべき画像における対応する位置の画素点の画素値に一致させ、つまり、最終的に得られた第2ターゲット画像と処理すべき画像との区別がターゲット処理領域内のみであることを保証すればよい。本出願の実施例の画像処理方法によりクマ及びほうれい線を除去する場合、クマ及びほうれい線を除去すると同時に、肌の元のテクスチャの質感、即ちリアルさを保持することができ、処理効果は、より良い。
【0108】
図5に示されたように、本出願の実施例によるほうれい線を除去した効果図であり、
図1Bと比較して、
図1Bに示された効果図ではほうれい線を除去したが、ほうれい線領域の元の肌テクスチャが著しく損なわれ、法令紋が除去された当該領域が滑らかすぎ、一方、本出願の実施例の方法に基づいて得られた効果図では、ほうれい線を除去すると同時に、元の肌の質感とテクスチャを保持し、よりリアルで自然である。
【0109】
図6は、一例示的な実施例による画像処理の完全な方法のフローチャートであり、具体的に以下のステップを含む。
【0110】
S61において、処理すべき画像における顔キーポイントを取得する。
【0111】
S62において、標準顔画像における顔キーポイントと処理すべき画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材を処理すべき画像にマッピングすることにより、処理すべき画像に対応するターゲットマスク画像を取得する。
【0112】
S63において、ターゲットマスク画像における各顔部領域の位置に基づいて、処理すべき画像におけるターゲット処理領域を確定する。
【0113】
S64において、処理すべき画像をフィルタ処理することにより、中低周波画像および低周波画像を取得する。
【0114】
S65において、低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を得る。
【0115】
S66において、処理すべき画像におけるターゲット処理領域内の各画素点の画素値と中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1ターゲット画像におけるターゲット処理領域内の各画素点の画素値を調整することにより、第2ターゲット画像を取得する。
【0116】
上記方法を具体的なシーンに適用する場合、
図7を参照し、本出願の実施例によるクマ及びほうれい線を除去する完全な方法のフローチャートであり、具体的に3つの分岐に分けられ、即ち、顔キーポイントに基づいて処理すべき画像のマスク画像を取得し、処理すべき画像の中低周波画像を取得し、処理すべき画像の低周波画像を取得し、以下、
図7を参照して詳細に説明する。
【0117】
低周波画像と中低周波画像を取得する場合、まず処理すべき画像に対して2倍のサブサンプリングを行う必要があり、この後、2つの分岐に分けられる。
【0118】
低周波画像を取得する場合、2倍のサブサンプリングを続けて行い、さらにboxfilter1(ボックスフィルタ1)によってフィルタリングし、この後4倍のアップサンプリングを行うことで、低周波画像を得ることができる。
【0119】
中低周波画像を取得する場合、直接にboxfilter2(ボックスフィルタ2)によって、処理すべき画像に対して2倍のサブサンプリングを行って得られた画像をフィルタリングし、さらにboxfilter2によってフィルタリングされた画像に対して2倍のアップサンプリングを行うことで、中低周波画像を得ることができる。
【0120】
処理すべき画像のマスク画像を取得する場合、まず処理すべき画像における顔キーポイントを位置決めする必要があり、この後、位置決めされた顔キーポイントと標準顔画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材の処理すべき画像への三角Warpマッピングを完了することにより、処理すべき画像に対応するターゲットマスク画像を得る。
【0121】
上記3つの分岐に基づいて上記画像を得た後、マスク画像に基づいてターゲット処理領域を確定することができ、さらに、処理すべき画像のターゲット処理領域内の画素点と中低周波画像のターゲット処理領域内の画素点との差分に基づいて、肌テクスチャ、すなわち、上記のdiffを算出することができ、中低周波画像と低周波画像との差分に基づいて、中低周波画像からクマ及びほうれい線を除去し、第1ターゲット画像を得ることができ、最終的に第1ターゲット画像に肌テクスチャを追加することにより、第2ターゲット画像を確定することができ、なお、上記処理は、ターゲット処理領域のみについてのものであり、第2ターゲット画像と処理すべき画像との差分がターゲット処理領域内のみに存在することを保証すればよい。
【0122】
図8は、一例示的な実施例による画像処理装置800のブロック図である。
図8を参照すると、当該装置は、取得ユニット801、処理ユニット802、第1調整ユニット803、および第2調整ユニット804を含む。
【0123】
取得ユニット801は、処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定することを実行するように構成される。
【0124】
処理ユニット802は、前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得ることを実行するように構成され、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低い。
【0125】
第1調整ユニット803は、前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得することを実行するように構成される。
【0126】
第2調整ユニット804は、前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得することを実行するように構成される。
【0127】
一選択可能な実施形態では、前記取得ユニット801は、具体的に、以下のことを実行するように構成され、即ち、
標準顔画像における顔キーポイントと前記処理すべき画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記処理すべき画像にマッピングすることにより、前記処理すべき画像に対応するターゲットマスク画像を取得し、
前記ターゲットマスク画像における各顔部領域の位置に基づいて、前記処理すべき画像におけるターゲット処理領域を確定し、ここで、前記ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域である。
【0128】
一選択可能な実施形態では、前記処理ユニット802は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第1設定倍数のサブサンプリングを行い、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記中低周波画像を取得し、ここで、前記中低周波画像の解像度は、前記処理すべき画像の解像度と同じである。
【0129】
一選択可能な実施形態では、前記処理ユニット802は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第2設定倍数のサブサンプリングを行い、ここで、前記第2設定倍数は、前記第1設定倍数より大きく、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記低周波画像を取得し、ここで、前記低周波画像の解像度は、前記処理すべき画像の解像度と同じである。
【0130】
一選択可能な実施形態では、前記第1調整ユニット803は、具体的に、以下のことを実行するように構成され、即ち、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得る。
【0131】
一選択可能な実施形態では、前記第1調整ユニット803は、具体的に、以下のことを実行するように構成され、即ち、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定し、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である。
【0132】
一選択可能な実施形態では、前記第1調整ユニット803は、具体的に、以下のことを実行するように構成され、即ち、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、
比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と前記第1プリセット画素値とのうちの小さな値である。
【0133】
一選択可能な実施形態では、前記第1調整ユニット803は、具体的に、以下のことを実行するように構成され、即ち、
プリセット調整画素値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得て、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得て、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と前記第1プリセット画素値とのうちの小さな値である。
【0134】
一選択可能な実施形態では、前記第1調整ユニット803は、具体的に、以下のことを実行するように構成され、即ち、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択し、
前記大きな値と前記プリセット調整画素値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、前記第2プリセット画素値は、前記プリセット調整画素値より小さい。
【0135】
一選択可能な実施形態では、前記第2調整ユニット804は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1ターゲット画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点の第3ターゲット値を得て、
前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2ターゲット画像を取得する。
【0136】
図9は、一例示的な実施例による電子機器900のブロック図であり、当該電子機器は、
プロセッサ910と、
前記プロセッサ910によって実行可能な命令を記憶するためのメモリ920と、
を含み、
ここで、前記プロセッサ910は、以下のことを実行するように構成され、即ち、
処理すべき画像における顔キーポイントを取得し、前記顔キーポイントに基づいて前記処理すべき画像におけるターゲット処理領域を確定し、
前記処理すべき画像をフィルタリングすることにより、前記処理すべき画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記処理すべき画像の周波数より低く、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1ターゲット画像を取得し、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1ターゲット画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、処理後の第2ターゲット画像を取得する。
【0137】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
標準顔画像における顔キーポイントと前記処理すべき画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記処理すべき画像にマッピングすることにより、前記処理すべき画像に対応するターゲットマスク画像を取得し、
前記ターゲットマスク画像における各顔部領域の位置に基づいて、前記処理すべき画像におけるターゲット処理領域を確定し、ここで、前記ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域である。
【0138】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第1設定倍数のサブサンプリングを行い、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記中低周波画像を取得し、ここで、前記中低周波画像の解像度は、前記処理すべき画像の解像度と同じである。
【0139】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像に対して第2設定倍数のサブサンプリングを行い、ここで、前記第2設定倍数は、前記第1設定倍数より大きく、
サブサンプリングされた画像をフィルタ処理し、
フィルタ処理された画像をアップサンプリングすることにより、前記低周波画像を取得し、ここで、前記低周波画像の解像度は、前記処理すべき画像の解像度と同じである。
【0140】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1ターゲット画像を得る。
【0141】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定し、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である。
【0142】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、
比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と前記第1プリセット画素値とのうちの小さな値である。
【0143】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
プリセット調整画素値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得て、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得て、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて前記第1ターゲット画像を確定し、ここで、前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と前記第1プリセット画素値とのうちの小さな値である。
【0144】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択し、
前記大きな値と前記プリセット調整画素値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、前記第2プリセット画素値は、前記プリセット調整画素値より小さい。
【0145】
選択肢の一つとして、前記プロセッサ910は、具体的に、以下のことを実行するように構成され、即ち、
前記処理すべき画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1ターゲット画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点の第3ターゲット値を得て、
前記第1ターゲット画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2ターゲット画像を取得する。
【0146】
例示的な実施例では、例えば命令を含むメモリ920などの命令を含む記憶媒体をさらに提供し、上記の命令は、上記の方法を完了するために電子機器900のプロセッサ910によって実行可能である。選択肢の一つとして、記憶媒体は、非一時的なコンピュータ可読記憶媒体であってもよく、例えば、非一時的なコンピュータ可読記憶媒体は、ROM、ランダムアクセスメモリ(RAM)、CD-ROM、磁気テープ、フロッピーディスク、および光データ記憶デバイスなどであってもよい。
【0147】
本出願の実施例では、端末機器をさらに提供し、その構造は、
図10に示され、本出願の実施例は、無線周波数(Radio Frequency、RF)回路1010、電源1020、プロセッサ1030、メモリ1040、入力ユニット1050、表示ユニット1060、カメラ1070、通信インターフェイス1080、およびワイファイ(Wireless Fidelity、WiFi)モジュール1090などの部品を含む画像処理ための端末1000に関する。当業者であれば、
図10に示す端末の構造は、端末を限定するものではなく、本出願の実施例による端末は、図示よりも多くまたは少ない部品を含んでもよく、いくつかの部品を組み合わせたり、あるいは異なる構成要素を組み合わせたりすることができることを理解できる。
【0148】
以下、
図10を参照して前記端末1000の各構成要素を具体的に説明する。
【0149】
前記RF回路1010は、通信または通話におけるデータの受信および送信のために利用されることができる。特に、前記RF回路1010は、基地局のダウンリンクデータを受信した後、前記プロセッサ1030に処理を任せることができる。なお、送信されるべきアップリンクデータを基地局に送信する。通常、前記RF回路1010は、アンテナ、少なくとも1つの増幅器、トランシーバー、カプラー、低雑音増幅器(Low Noise Amplifier、LNA)、ダイプレクサなどを含むが、これらに限定されない。
【0150】
また、RF回路1010は、無線通信を介してネットワークおよび他の端末と通信することができる。前記無線通信は、任意の通信規格またはプロトコルを使用でき、グローバル・システム・フォー・モバイル・コミュニケーションズ(Global System of Mobile communication、GSM)、汎用パケット無線サービス(General Packet Radio Service、GPRS)、符号分割多元接続(Code Division Multiple Access、CDMA)、広帯域符号分割多元接続(Wideband Code Division Multiple Access、WCDMA(登録商標))、ロング・ターム・エヴォリューション(Long Term Evolution、LTE)、電子メール、ショートメッセージサービス(Shot Messaging Service、SMS)などを含むが、これらに限定されない。
【0151】
WiFiは、近距離無線転送技術に属し、前記端末1000は、WiFiモジュール1090を介してアクセスポイント(Access Point、AP)に接続し、データネットワークへのアクセスを可能にする。前記WiFiモジュール1090は、通信プロセスにおけるデータの受信および送信のために利用されることができる。
【0152】
前記端末1000は、前記通信インターフェイス1080を介して他の端末と物理的に接続され得る。選択肢の一つとして、前記通信インターフェイス1080と他の端末の通信インターフェイスは、ケーブルにより接続され、前記端末1000と他の端末との間のデータ伝送を実現する。
【0153】
本出願の実施例では、前記端末1000が、通信サービスを実現し、他の連絡先に情報を送信することができるので、前記端末1000が、データ伝送機能を有する必要があり、すなわち、前記端末1000の内部は、通信モジュールを含む必要がある。
図10は、前記RF回路1010、前記WiFiモジュール1090、および前記通信インターフェイス1080などの通信モジュールを示したが、前記端末1000には、データ伝送のための上記構成要素のうちの少なくとも1つまたは他の通信を実現するための通信モジュール(例えばブルートゥース(登録商標)モジュール)が存在することが理解できる。
【0154】
例えば、前記端末1000が携帯電話である場合、前記端末1000は、前記RF回路1010を含むことができ、前記WiFiモジュール1090も含むことができる。前記端末1000がコンピュータである場合、前記端末1000は、前記通信インターフェイス1080を含むことができ、前記WiFiモジュール1090も含むことができる。前記端末1000がタブレットである場合、前記端末1000は、前記WiFiモジュールを含むことができる。
【0155】
前記メモリ1040は、ソフトウェアプログラムおよびモジュールを記憶できる。前記プロセッサ1030は、前記メモリ104に記憶されたソフトウェアプログラムおよびモジュールを実行することにより、前記端末1000の様々な機能的アプリケーションおよびデータ処理を実行し、プロセッサ1030がメモリ1040内のプログラムコードを実行した後、本出願の実施例における
図2のプロセスの一部または全部を実現することができる。
【0156】
選択肢の一つとして、前記メモリ1040は、主にプログラム記憶領域とデータ記憶領域を含む。ここで、プログラム記憶領域は、オペレーティングシステム、各種アプリケーション(例えば通信アプリケーション)、および顔認識モジュールなどを記憶することができ、データ記憶領域は、前記端末の使用に応じて作成されたデータ(例えば、各種グラフィック、動画ファイルなどのマルチメディアファイル、および顔情報テンプレート)などを記憶することができる。
【0157】
また、前記メモリ1040は、高速ランダムアクセスメモリを含んでもよく、例えば至少なくとも1つの磁気ディスク記憶装置、フラッシュメモリ装置などの不揮発性メモリ、または他の揮発性ソリッド記憶装置を含んでもよい。
【0158】
前記入力ユニット1050は、ユーザーによって入力された数字や文字列情報を受信し、かつ、前記端末1000のユーザー設置や機能制御に関するキー信号入力を生成するものであってもよい。
【0159】
選択肢の一つとして、入力ユニット1050は、タッチパネル1051および他の入力端末1052を含み得る。
【0160】
ここで、前記タッチパネル1051は、タッチスクリーンとも呼ばれ、タッチパネル1051上またはその近傍におけるユーザーのタッチ操作(例えば、ユーザーが指、タッチペンなどの任意の適切なオブジェクトまたはアクセサリを使用することによる前記触控面板1051上または前記タッチパネル1051の近傍における操作)を収集し、予め設定されたプログラムに従って対応する接続デバイスを駆動することができる。選択肢の一つとして、前記タッチパネル1051は、タッチ検出装置とタッチコントローラの2つの部分を含むことができる。ここで、タッチ検出装置は、ユーザーのタッチ位置を検出し、且つタッチ操作による信号を検出し、信号をタッチコントローラに送信する。タッチコントローラは、タッチ検出装置からタッチ情報を受信し、これを接点座標に変換し、さらに前記プロセッサ1030に送信し、前記プロセッサ1030からの命令を受信して実行することができる。また、前記タッチパネル1051は、抵抗式、容量式、赤外線及び表面音波などの複数のタイプを用いて実現することができる。
【0161】
選択肢の一つとして、前記他の入力端末1052は、物理キーボード、機能キー(例えば、音量コントロールボタン、スイッチボタンなど)、トラックボール、マウス、操作レバーなどのうちの1つ以上を含み得るが、これらに限定されない。
【0162】
前記表示ユニット1060は、ユーザーによって入力された情報、またはユーザーに提供された情報および前記端末1000の様々なメニューを表示するために使用されてもよい。前記表示ユニット1060は、インターフェイスを提示し、インタラクションを実現するための前記端末1000の表示システムである。
【0163】
前記表示ユニット1060は、表示パネル1061を含むことができ、選択肢の一つとして、液晶ディスプレイ(Liquid Crystal Display、LCD)、有機発光ダイオード(Organic Light-Emitting Diode、OLED)などの形式で前記表示パネル1061を構成することができる。
【0164】
さらに、前記タッチパネル1051は、前記表示パネル1061を覆い、前記タッチパネル1051は、その上または近傍におけるタッチ操作を検出した後、タッチイベントの種類を確定するために前記プロセッサ1030に送信し、この後、前記プロセッサ1030は、タッチイベントの種類に応じて前記表示パネル1061上に対応する視覚出力を提供する。
【0165】
図10では、前記タッチパネル1051と前記表示パネル1061が、前記端末1000の入力と入力機能を実現する2つの別個のコンポーネントとして機能するが、いくつかの実施例では、前記タッチパネル1051と前記表示パネル1061とを統合して前記端末1000の入力機能と出力機能を実現することができる。
【0166】
前記プロセッサ1030は、前記端末1000の制御センターであり、各種のインターフェイスと回線を利用して各部品を接続し、前記メモリ1040内に記憶されたソフトウェアプログラムおよび/またはモジュールを作動または実行し、かつ、前記メモリ1040内に記憶されたデータを呼び出して、前記端末1000の各機能を実行しデータを処理することによって、前記端末に基づく様々なサービスを実現する。
【0167】
選択肢の一つとして、前記プロセッサ1030は、1つ以上の処理ユニットを含むことができる。選択肢の一つとして、前記プロセッサ1030は、アプリケーションプロセッサとモデムプロセッサを統合でき、ここで、アプリケーションプロセッサは、主にオペレーティングシステム、ユーザーインターフェイス、アプリケーションなどを処理し、モデムプロセッサは、主に無線通信を処理する。上記モデムプロセッサは、前記プロセッサ1030に統合されなくてもよいことが理解できる。
【0168】
前記カメラ1070は、前記端末1000の撮影機能を実現し、写真や動画を撮影するために使用される。前記カメラ1070は、端末1000のスキャン機能を実現するためにも使用されてもよく、スキャンアカウント(二次元コード/バーコード)をスキャンする。
【0169】
前記端末1000は、各部品に電力を供給する電源1020(例えばバッテリー)をさらに含む。選択肢の一つとして、前記電源1020は、電源管理システムを介して前記プロセッサ1030に論理的に接続することによって、電源管理システムにより充電、放電、および電力消費の管理などの機能を実現することができる。
【0170】
なお、本出願の実施例では、プロセッサ1030は、
図9におけるプロセッサ910の機能を実行することができ、メモリ1040は、メモリ920内のものを記憶する。
【0171】
本出願の実施例では、コンピュータープログラム製品をさらに提供し、前記コンピュータープログラム製品が電子デバイス上で動作しているとき、本出願の実施例における上記の画像処理方法のいずれか、または画像処理方法のいずれかに関与する任意の方法を前記電子デバイスに実行させる。
【0172】
本出願は、上記で説明され図面に示された正確な構造に限定されず、その範囲から逸脱することなく、様々な修正および変更を行うことができることを理解すべきである。本出願の範囲は、添付の特許請求の範囲のみによって制限される。
【符号の説明】
【0173】
800 画像処理装置
801 取得ユニット
802 処理ユニット
803 第1調整ユニット
804 第2調整ユニット
【手続補正書】
【提出日】2022-08-31
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、2020年04月30日に中国特許庁に提出された出願番号202010363734.1、発明名称「画像処理方法、画像処理装置、電子機器、および記憶媒体」の中国特許出願の優先権を主張し、その全ての内容は参照により本出願に援用する。
【0002】
本開示は、画像処理技術の分野に関し、特に画像処理方法および電子機器に関するものである。
【背景技術】
【0003】
社会の発展と科学技術の進歩に伴い、現在の画像処理アプリケーションの多くは、例えば様々な画像処理app(application、アプリケーション)、ライブ配信appなどの美肌補正機能を含み、写真や動画を美肌補正して、ユーザーの顔立ちを向上させることができる。
【発明の概要】
【課題を解決するための手段】
【0004】
本出願の実施例の一側面によれば、ターゲット画像における顔キーポイントに基づいて、前記ターゲット画像におけるターゲット処理領域を確定することと、前記ターゲット画像をフィルタリングすることにより、前記ターゲット画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記ターゲット画像の周波数より低いことと、前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得することと、前記ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することと、を含む画像処理方法に関する。
【0005】
本出願の実施例の一側面によれば、プロセッサと、前記プロセッサによって実行可能な命令を記憶するためのメモリと、を含み、ここで、前記プロセッサは、前記命令を実行することにより、以下のステップを実現するように構成され、即ち、ターゲット画像における顔キーポイントに基づいて、前記ターゲット画像におけるターゲット処理領域を確定するステップ、前記ターゲット画像をフィルタリングすることにより、前記ターゲット画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記ターゲット画像の周波数より低いステップ、前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得するステップ、前記ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得するステップである電子機器に関する。
【0006】
本出願の実施例の一側面、命令が電子機器のプロセッサによって実行されるときに、以下のステップを前記電子機器に実行させることができ、即ち、ターゲット画像における顔キーポイントに基づいて、前記ターゲット画像におけるターゲット処理領域を確定するステップ、前記ターゲット画像をフィルタリングすることにより、前記ターゲット画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記ターゲット画像の周波数より低いステップ、前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得するステップ、前記ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得するステップである不揮発性可読記憶媒体に関する。
【図面の簡単な説明】
【0007】
【
図1】一例示的な実施例による関連技術における方法を用い
て画像処理
する概略図である。
【
図2】一例示的な実施例による画像処理方法のフローチャートである。
【
図3】一例示的な実施例による顔キーポイントマークの概略図である。
【
図4】一例示的な実施例による標準顔画像のマスク素材の概略図である。
【
図5】一例示的な実施例による第2画像の概略図である。
【
図6】一例示的な実施例による画像処理の完全な方法のフローチャートである。
【
図7】一例示的な実施例によるクマ及びほうれい線を除去する完全な方法の概略図である。
【
図8】一例示的な実施例による画像処理装置のブロック図である。
【
図9】一例示的な実施例による電子機器のブロック図である。
【
図10】一例示的な実施例による端末機器のブロック図である。
【発明を実施するための形態】
【0008】
以下、明細書に記載されているいくつかの単語について説明する。
【0009】
1.本出願の実施例に記載された「および/または」という用語は、関連アカウントの関連関係を記述し、3つの関係が存在することを意味し、例えば、Aおよび/またはBとは、Aが単独で存在し、AおよびBが同時に存在し、Bが単独で存在するという3つの状況を表すことができる。文字「/」は一般的に、前後の関連アカウントが「または」の関係であることを表す。
【0010】
2.本出願の実施例に記載された「電子機器」という用語は、携帯電話、コンピュータ、デジタル放送端末、メッセージングデバイス、ゲームコンソール、タブレットデバイス、医療機器、フィットネスデバイス、パーソナルデジタルアシスタントなどであってもよい。
【0011】
3.本出願の実施例に記載された「サブサンプリング(subsampled)」という用語は、ダウンサンプリング(downsampled)とも呼ばれ、画像を縮小することを指す。その目的は、2つあり、即ち、画像を表示領域のサイズに合わせること、及び、対応する画像のサムネイルを生成することである。サブサンプリングの原理として、 サイズがM*Nの画像Iに対して、s倍に基づいてサブサンプリングを行うことにより、(M/s)*(N/s)サイズの解像度の画像を得て、もちろん、sがMとNの公約数でなければならないが、マトリックス形式の画像を考えると、元の画像s*sウィンドウ内の画像を1つの画素に変換し、この画素点の値がウィンドウ内のすべての画素の平均値である。
【0012】
4.本出願の実施例に記載された「アップサンプリング(upsampling)」という用語は、画像補間(interpolating)とも呼ばれることができ、即ち、画像を拡大することであり、その主な目的は、画像をより高解像度の表示装置に表示できるように、原図を拡大することである。
【0013】
5.本出願の実施例に記載された「warpマッピング」という用語は、2次元座標(x,y)から2次元座標(u,v)への線形変換である。直線は、warpマッピング後に相変わらず直線であり、直線同士の相対的な位置関係は、変わらず、平行線は、warpマッピング後に相変わらず平行線であり、直線上の点の位置順序は、変化しない。同一線上にない3組の対応する点によって、唯一のwarpマッピングを確定する。warpマッピング後に、画像キーポイントがまだ三角形を構成するが、三角形の形状が変化した。要するに、行列を乗算し、行列の特徴ベクトルによって画像変換の方向を決定する。
【0014】
6.本出願の実施例に記載された「画像の周波数」という用語は、画像におけるある点の周波数ではなく、画像における階調変化の激しさ/速さを特徴づける指標であり、平面空間における階調の勾配である。つまり、画像におけるある領域で非常に大きく非常に速く変化する場合に、この地域には一定の高周波数情報が含まれる。画像の高周波数情報が多ければ多いほど、画像の詳細な特徴も多くなる。異なる周波数情報は、画像構造において異なる役割を果たす。画像の主成分は、低周波数情報であり、画像の基本的な階調レベルを形成し、画像構造に対する決定作用が小さく、中間周波数情報は、画像の基本的な構造を決定し、画像の主要なエッジ構造を形成し、高周波数情報は、画像のエッジと詳細を形成し、中間周波数情報において画像コンテンツをさらに強化するものである。例えば、大面積の砂漠は、画像において階調の変化が遅い領域であり、対応する周波数値は、非常に低く、地表属性の変換が激しいエッジ領域は、画像において階調の変化が激しい領域であり、対応する周波数値は高い。画像にとって、画像のエッジ部分が突然変異部分であり、変化が速いため、周波数領域に反応するのが高周波成分である。ほとんどの場合、画像のノイズは、高周波成分であり、画像の緩やかに変化する部分は、低周波成分である。
【0015】
7.本出願の実施例に記載された「中低周波画像」という用語は、ターゲット画像(即ち処理すべき画像)をフィルタリングした後で得られた画像であり、低周波画像もターゲット画像をフィルタリングした後で得られた画像であり、中低周波は、低周波に対して相対的なものであり、中低周波画像は、低周波画像に比べてターゲット画像における中間周波数情報および低周波数情報を保持し、ターゲット画像における高周波数情報をフィルタリングし、低周波画像は、ターゲット画像における低周波数情報のみを保持し、ターゲット画像における高周波数情報および中間周波数情報をフィルタリングする。効果的には、中低周波画像はターゲット画像よりもぼやけているが、低周波画像は中低周波画像よりもぼやけている。
【0016】
以下、本出願の実施例の設計思想について簡単に説明する。
【0017】
図1は、一例示的な実施例による関連技術における方法を用いて画像処理する概略図である。図1の(a)に示されたように、
この図は、本出願の実施例による元の画像の概略図であり、図
面において、ほうれい線が目立ち、
図1の(b)に示されたように、この図は、関連技術に基づいて処理することにより得られた美肌補正画像であり、ここで、ほうれい線領域の処理跡は目立ち、当該部分の領域は、滑らかすぎて、効果はよくない。
以上から分かるように、関連技術では、多くの美肌補正appのクマ・ほうれい線除去機能について、徹底的に除去されないか、クマやほうれい線を除去した後、当該領域で肌テクスチャが深刻に失われているが、肌の均一さや柔らかさだけを追求するのではなく、質感の真実さに注目する人が増え、現在の画像処理方法では、何らかの処理が施されている画像について、画像中の重要な情報を一括して除去したり、画像に対してうまく処理できなかったりして、処理効果が低い。
【0018】
これを考慮して、本出願の実施例は、画像処理方法を提供し、この方法は、肌のリアルな質感を保持したクマ及びほうれい線を除去する方法であり、美肌カメラ、ライブ配信などのユーザー体験を大幅に向上させることができる。この方法では、中低周波画像と低周波画像に基づいてターゲット画像におけるターゲット処理領域内の画素値を調整することにより、クマ及びほうれい線を除去すると同時に、元の肌テクスチャのリアルな質感を保持し、画像処理の効果を向上させる。
【0019】
本出願の実施例で説明された応用シーンは、本出願の実施例の技術案をより明確に説明するためのものであり、本出願の実施例による技術案を限定するものではなく、当業者であれば、本出願の実施例による技術案が、新しい応用シーンの出現に伴い、類似の技術的問題に対しても同様に適用できることが分かる。ここで、本出願の説明において、特に説明しない限り、「複数」の意味。
【0020】
図2は、一例示的な実施例による画像処理方法のフローチャートであり、
図2に示されたように、
当該方法は、電子機器によって実行される。概略的には、当該方法は、以下のステップを含む。
【0021】
ステップS21において、ターゲット画像における顔キーポイントに基づいて、当該ターゲット画像におけるターゲット処理領域を確定する。ここで、当該ターゲット画像は、処理すべき画像である。
【0022】
ステップS22において、ターゲット画像をフィルタリングすることにより、ターゲット画像に対応する中低周波画像および低周波画像を得て、当該中低周波画像の周波数は、第1周波数帯域内にあり、当該低周波画像の周波数は、第2周波数帯域内にあり、第2周波数帯域の上限は、第1周波数帯域の下限より低く、第1周波数帯域の上限は、ターゲット画像の周波数より低い。
【0023】
ステップS23において、低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得する。
【0024】
ステップS24において、ターゲット画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1画像におけるターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得する。
【0025】
上記実施形態では、階層化処理の考え方に基づいて、ターゲット処理領域をほうれい線領域とする場合、本出願の実施例では、ほうれい線領域を上層と下層の2つの層に分割し、下層すなわち中低周波画像上でクマやほうれい線を除去する処理の完了には、中低周波画像および低周波画像のターゲット処理領域内の各画素点の画素値の差分により中低周波画像におけるターゲット処理領域内の各画素点の画素値を調整するプロセスにより実現され、ここで、ターゲット処理領域は、クマやほうれい線などの瑕疵がある区域であることと、次に、第1画像にクマやほうれい線などの瑕疵を除去した元の肌テクスチャを追加し、ここで、ここでの追加プロセスは、ターゲット画像および中低周波画像のターゲット処理領域内の画素値の差分により第1画像を調整することで実現されることとを含み、第1画像が中低周波画像からクマやほうれい線などの瑕疵を除去した画像であるため、これを元にして肌テクスチャを追加することで、クマやほうれい線を除去すると同時に肌テクスチャを残した効果を実現でき、この結果、最終効果は、リアルで自然であり、処理効果は、より良い。
【0026】
いくつかの実施例では、顔キーポイントに基づいてターゲット画像におけるターゲット処理領域を確定するプロセスでは、マスク画像に基づいて確定し、当該プロセスは、
【0027】
標準顔画像における顔キーポイントとターゲット画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材をターゲット画像にマッピングすることにより、ターゲット画像に対応するターゲットマスク画像を取得することと、ターゲットマスク画像における各顔部領域の位置に基づいて、ターゲット画像におけるターゲット処理領域を確定し、ここで、ターゲット処理領域は、各顔部領域のうちの少なくとも1つの顔部領域であることと、を含む。
【0028】
いくつかの実施例では、画像処理を画像の美肌補正シーンに適用する場合、ターゲット処理領域は、顔における美肌補正すべき部位、すなわち美肌補正すべき顔部領域を指し、1つの領域であってもよく、例えばクマ領域、ほうれい線領域などの複数の顔部領域であってもよい。以下、クマ領域とほうれい線領域をターゲット処理領域として例を挙げて詳細に説明する。
【0029】
ここで、顔キーポイントデータセットには、5キーポイント、21キーポイント、68キーポイント、98キーポイントなどの異なる形式があり、100個のキーポイントを超えるデータセットもあり、異なるデータセットで注記されるキーポイントの数が異なる。
【0030】
本出願の実施例では、採用された顔キーポイントデータセットには186個のキーポイントが
含まれ、ラベル1~186で区別
する。例えば
図3に示されたように、
図3は
一例示的な実施例に示された
顔キーポイントマークの概略図であり、図面には顔における各キーポイントが合計186個示される。このうち、顔部の輪郭をマークするためのキーポイントは52個あり、ラベルはそれぞれ1~52であり、口の輪郭をマークするためのキーポイントは42個あり、ラベルはそれぞれ53~94であり、鼻の輪郭をマークするためのキーポイントは26個あり、ラベルはそれぞれ95~120であり、目の輪郭(目玉を含む)をマークするためのキーポイントは34個あり、左目をマークするためのキーポイントは17個あり、ラベルはそれぞれ121~137であり、右目をマークするためのキーポイントは17個あり、ラベルはそれぞれ138~154である。左目または右目をマークする17個のキーポイントのうち、1つは目玉の真ん中の位置をマークするために使用され、残りの16個は目の輪郭をマークするために使用され、眉の輪郭をマークするためのキーポイントは32個あり、右眉をマークするためのキーポイントは16個あり、ラベルはそれぞれ155~170であり、左眉をマークするためのキーポイントは16個あり、ラベルはそれぞれ171~186である。このうち、白色のキーポイントは、主要なキーポイントであり、例えば目玉、目尻、口元などの主要な位置をマークするために使用される。
【0031】
本出願の実施例では、ターゲット画像における顔キーポイントを識別する場合、顔キーポイントモデル採用して直接に識別することができ、なお、ターゲット画像を識別する場合、得られた顔キーポイントデータセットは、標準顔画像における顔キーポイントからなるデータセットと同じであり、つまり、キーポイントの個数は同じであり、例えば、すべて186個のキーポイントがある。したがって、ターゲット画像を識別した後、識別された顔キーポイントも186個であるべきである。ただ、ターゲット画像における顔と標準顔画像における標準顔との間の違い、例えば目の大きさが一致しないなどにより、識別されたターゲット画像におけるこれらのキーポイントの位置と標準顔画像におけるキーポイントの位置にも差があるが、ラベルが1対1で対応している。しかし、画像における顔の一部の領域が遮蔽されている場合、あるいは目を閉じている場合、あるいは正面ではなく横顔である場合などに検出されたキーポイントが186個より少なくなる可能性があるが、本実施形態には影響を与えない。
【0032】
本出願の実施例では、標準顔画像のマスク素材は、
例えば図4に示すように、即ち図3に示す標準顔画像に対応するマスク素材のように、標準顔画像における各顔キーポイント間の位置に基づいて確定される。標準顔画像のマスク素材に基づいて
ターゲット画像に対応するマスク画像を取得する場合、標準顔画像における顔キーポイントと
ターゲット画像における顔キーポイントは、1対1で対応し、同じ画像におけるキーポイント間の位置関係は一定であり、例えば、顔部の輪郭をマークする52個のキーポイントのうち、キーポイント1はキーポイント2に隣接し、キーポイント2はキーポイント3に隣接し…、顔キーポイントモデルによって識別された
ターゲット画像における各キーポイントについても、キーポイント1はキーポイント2に隣接し、キーポイント2はキーポイント3に隣接し…、したがって、標準顔画像におけるキーポイント1と
当該画像におけるキーポイント1との位置関係、標準顔画像におけるキーポイント2と
ターゲット画像におけるキーポイント2との位置関係…など、2枚の画像における同じラベルのキーポイント間の位置関係に基づいて、標準顔画像のマスク素材を
ターゲット画像にマッピングし、例えば三角warpマッピングすれば、
ターゲット画像に対応するマスク画像を得ることができる。あるいは調整と理解し、2枚の画像における顔キーポイント間の位置関係に基づいて、標準顔のマスク素材を調整することにより、
ターゲット画像に対応するマスク画像を得る。
【0033】
ここで、マスク画像における異なる顔部領域は、異なるマーキング情報でマークすることができ、例えば
図4に示すように(
図4が階調画像であるため、色値の表示に若干の影響がある)、色値をマーキング情報とする場合、異なる色で異なる顔部領域をマークし、例えば、青色領域は目の領域であり、赤色領域はクマ領域であり、緑色領域はほうれい線領域であり、マゼンタ領域は歯の領域であり、
ターゲット画像のマスク画像においても同様のマーク情報であり、この場合、マスク画像における各顔部領域の位置に基づいてターゲット処理領域を確定する際に、ターゲットマスク画像における各顔部領域に対応するマーキング情報に基づいて、ターゲットマーキング情報に対応するターゲット顔部領域を取得し、
ターゲット画像におけるターゲット顔部領域が位置する場所に対応する領域をターゲット処理領域とすることができる。
【0034】
いくつかの実施例では、ターゲット処理領域がクマおよびほうれい線である場合、マスク画像における赤色領域および緑色領域に基づいて、ターゲット画像をマスクし、ターゲット画像におけるターゲット処理領域の位置を確定し、さらにターゲット処理領域内の各画素点の画素値を調整することにより、クマ及びほうれい線を除去する效果を実現する。
【0035】
なお、上記に列挙したマーキング情報は単なる例示であり、例えば異なるパターンでマークしたり、番号でマークしたりといった、いずれの形式のマーキング情報も本出願の実施例に適用され、ここでは列挙しない。
【0036】
上記実施形態では、顔キーポイントモデルと標準顔のマスク画像を利用して、ターゲット処理領域を正確に位置決め、同時に、標準顔画像のマスク素材が漸進的な移行を考慮して作成されるため、ターゲット処理領域のエッジにおける画像処理効果をより自然にする。
【0037】
ここで、マーキング情報が色値であることを例に挙げると、ある顔部領域にとって、漸進的な移行とは、当該領域の色値が移行であり、エッジ領域の色が浅く、中心領域の色が最も濃く、エッジから中心までが移行的に変化する方式と指し、例えば緑色のほうれい紋領域の場合、ほうれい線のエッジ位置に緑色が30、浅緑と表示され、ほうれい線の中心位置に緑色が255、深緑と表示され、中間が移行的に変化すればよく、ほうれい線を除去する場合、浅緑の部分の除去は軽く、深緑の部分の除去は重く、エッジ部分に移行の効果がある。
【0038】
いくつかの実施例では、ターゲット画像をフィルタリングすることにより、中低周波画像を得るプロセスは、以下の通りである。
【0039】
第1設定倍数に基づいて、ターゲット画像をサブサンプリングし、サブサンプリングされたターゲット画像をフィルタリングし、フィルタリングされたターゲット画像をアップサンプリングすることにより、中低周波画像を取得し、当該中低周波画像の解像度は、ターゲット画像の解像度と同じである。
【0040】
同様に、ターゲット画像をフィルタリングすることにより低周波画像を得るプロセスは、以下の通りである。
【0041】
第2設定倍数に基づいて、ターゲット画像をサブサンプリングし、第2設定倍数は、第1設定倍数より大きく、サブサンプリングされたターゲット画像をフィルタリングし、フィルタリングされたターゲット画像をアップサンプリングすることにより、低周波画像を取得し、当該低周波画像の解像度は、ターゲット画像の解像度と同じである。
【0042】
本出願の実施例では、フィルタリング方式には、中央値フィルタリング、平均化フィルタリング、ガウスフィルタリング、二辺フィルタリングなど、さまざまな種類がある。本出願の実施例は、主に平均化フィルタリングを例にして詳細に説明し、当該第1設定倍数と第2設定倍数は、いずれも予め設定された倍数であり、例えば、第1設定倍数が2倍であり、第2設定倍数が4倍であり、これについて限定しない。例示的に、ターゲット画像に対して2倍のサブサンプリングを行うことにより、画像ds2Imgを得て、ds2Imgを平均化フィルタリングし、最後にフィルタリング後の画像をさらにアップサンプリングすることにより、blurlmg1、すなわち中低周波画像を得ることができ、ここで、平均値フィルタリングは、3×3のフィルタコアを採用することができ、サンプリングステップは3であり、これについて限定しない。
【0043】
また、ターゲット画像をサブサンプリングすることにより低周波画像を取得する場合、いくつかの実施例では、第2設定倍数(例えば4倍)に基づいてターゲット画像を直接にサブサンプリングすることにより、画像ds4Imgを得ることができる。他の実施例では、電子機器は、第1設定倍数(例えば2倍)に基づいてターゲット画像をサブサンプリングすることにより画像ds2Imgを得た後で、続けて当該画像ds2Imgをサブサンプリングすることにより、画像ds4Imgを得て、これについて限定しない。画像ds4Imgを得た後、ds4Imgを平均化フィルタリングし、フィルタリング後の画像をさらにアップサンプリングすることにより、blurlmg2、すなわち低周波画像を得て、ここで、平均化フィルタリングは、3×3のフィルタコアを採用することができる。いくつかの実施例では、ds2Imgをさらにサブサンプリングすることにより画像ds4Imgを得る場合、サンプリングステップは1であってもよい。
【0044】
なお、低周波画像は、中低周波画像よりもぼやけて、すなわち低周波画像における階調変化の激しさは、中低周波画像よりも若干小さく、実際には中低周波画像は、ほうれい線などの大まかな輪郭を表示できるが、肌テクスチャやまつ毛などがよく見えないぼやけた画像である。低周波画像は、中低周波画像よりもぼやけた画像であり、低周波画像にほうれい線などの大まかな輪郭を表示することができない。
【0045】
本出願の実施例では、画像の縮小(サブサンプリング)にしても、画像の拡大(アップサンプリング)にしても、サンプリングの方式は様々であり、例えば、最近傍補間、双線形補間、平均値補間、中央値補間などの方式があるが、ここでは限定しない。
【0046】
上記実施形態では、サブサンプリングされた画像をフィルタリングし、サブサンプリングによって画像が縮小されるため、元の画像においてフィルタリングすることに対して、比較的小さい画像においてフィルタ処理することで、計算量を効果的に減少させ、演算速度を高め、さらに画像処理の効率を向上させることができる。
【0047】
いくつかの実施例では、中低周波画像からターゲット処理領域内の肌テクスチャの特徴を除去することにより第1画像を取得するプロセスは、以下の通りである。
【0048】
ターゲット画像をフィルタリングして得られた低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、ここで、低周波画像の周波数は、第2周波数帯域内にあり、第2周波数帯域の上限は、第1周波数帯域の下限より低く、確定された各第1ターゲット画素値に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を得る。
【0049】
ターゲット処理領域がクマおよびほうれい線の領域であることを例に挙げると、上記プロセスでターゲット処理領域内の肌テクスチャの特徴を除去するとは、クマおよびほうれい線を除去することを指し、主に2つのステップに分けて実現され、まず、クマおよびほうれい線の領域の肌の質感とテクスチャを除去し、クマやほうれい線の輪郭(この部分の画像における色がもっと濃い)だけを残し、次に、クマおよびほうれい線の輪郭を除去し、この2つのステップは、画素値の調整に基づいて実行される。この2つのステップを経て中低周波画像からターゲット処理領域内の肌テクスチャの特徴を除去した後、第1画像を取得し、さらに第1画像に元の肌テクスチャを追加し、この結果、クマおよびほうれい線を除去するとともに、肌テクスチャを保持し、最終効果をよりリアルで自然なものにすることができる。
【0050】
上記実施形態では、クマ及びほうれい線を除去する場合階層化処理の考え方を採用し、即ち、肌を上層と下層の2つの層に分割し、上層は、肌の質感とテクスチャであり、下層は、ほうれい線、クマなどの輪郭である。ターゲット画像では、クマ及びほうれい線の領域の肌は、他の領域の肌に比べて色が濃い。階層化処理の考え方に基づいて、下層すなわち中低周波画像上でクマやほうれい線を除去する処理を完了し、次に上層すなわち元の肌テクスチャを追加することにより、よりリアルで自然な画像処理効果を達成する。
【0051】
以下、第1画像と第2画像を取得するプロセスについて詳細に説明する。
【0052】
第1画像を取得するプロセスでは、まず、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定する必要がある。
【0053】
いくつかの実施例では、ターゲット画像の低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定する具体的なプロセスは、
ターゲット処理領域内のいずれかの画素点に対して、当該画素点の第1ターゲット画素値を次の式で計算することを含み、即ち、
texDiff =(blurlmg2-blurlmg1)*coeff1 + coeff2* blurlmg2、
ここで、いずれかの画素点に対して、texDiffは、当該画素点の第1ターゲット画素値を表すことができ、coeff1は、第1係数であり、coeff2は、第2係数であり、例えば、coeff1は、1.8であり、coeff2は、0.05である。blurlmg2は、低周波画像における当該画素点の画素値であり、blurlmg1は、当該中低周波画像における当該画素点の画素値であり、blurlmg2-blurlmg1は、低周波画像における当該画素点の画素値と中低周波画像における当該画素点の画素値との差を表すことができる。
【0054】
上記の式を変形すると、以下の式を得ることができ、即ち、
texDiff = blurlmg2*(coeff1+coeff2)-blurlmg1* coeff1
この場合、第1ターゲット画素値は、低周波画像におけるターゲット処理領域内の各画素点の画素値とターゲット係数との積、中低周波画像における対応する位置の画素点の画素値と第1係数との積との差、と表すことができ、ここで、ターゲット係数は、第1係数と第2係数との和である。
【0055】
なお、本出願の実施例では、第1係数と第2係数はいずれも正数であり、第1係数は第2係数より大きく、一般的に、第2係数は、約0.05(例えば、0.04、0.06であってもよく)で小さくてもよいが、第1係数は大きく、一般的に、1より大きく、いくつかの実施例では、当該第1係数の値は、約1.8(例えば、1.7、1.9など)でよい。
【0056】
ほうれい線を例にとると、本出願の実施例では、中低周波画像からほうれい線の大まかな輪郭が見られ、輪郭部分の画素点の色が他の肌領域よりも深くなる可能性があるため、中低周波画像からほうれい線を除去する場合、これらの位置の画素点の色を明るくすることができ、画素値を大きくすることで実現し、これらの領域が周辺領域の画素点の色と比較してより緩やかに、より近く変化するようにし、ほうれい線を除去する効果を実現する。ここで、これらの位置の画素点の色をどのように明るくするかを考慮する場合、低周波画像からほうれい線の大まかな輪郭が見えないことを考慮して、低周波画像の画素値と中低周波画像の画素値との差に基づいて確定すればよく、上記の式は、blurlmg2-blurlmg1に加えて、blurlmg1の画素値を参考にしたものであり、これらの領域の画素点の色と周辺領域の画素点の色を近づけ、ほうれい線除去効果をより良くすることを目的としている。クマを除去する場合でも同様である。
【0057】
上記の式に基づいて第1ターゲット画素値を確定した後、第1ターゲット画素値に基づいて中低周波画像におけるターゲット処理領域内の各画素点の画素値を直接に調整することにより、さらに中低周波画像からクマ及びほうれい線を除去した第1画像を得ることができ、上記調整方法は、以下の通りである。
【0058】
各第1ターゲット画素値を、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて、当該中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を得て、当該第1画像におけるターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と第1プリセット画素値とのうちの小さな値である。
【0059】
本出願の実施例では、上記調整プロセスは、以下の式に基づいて実現されることができ、ターゲット処理領域内のいずれかの画素点に対して、
tempImg = min(texDiff+blurlmg1、1.0)が成り立つ。
【0060】
ここで、tempImgは、中低周波画像blurlmg1からクマやほうれい線を除去した結果、すなわち調整後に得られた第1画像におけるターゲット処理領域内のいずれかの画素点の画素値である。1.0は、第1プリセット画素値であり、第1ターゲット値は、texDiff+blurlmg1である。
【0061】
なお、上記の式における第1プリセット画素値が1.0である場合は、画素値を正規化する場合に対応し、0~255を0~1以内の値に正規化する場合、第1プリセット画素値が1.0であり、tempImgにおける画素点の画素値が255を超えてはならないことを示す。正規化しない場合、第1プリセット画素値は、255または254などを取ってもよく、255を超えてはならず、255に近い値を取ればよい。正規化する場合、第1プリセット画素値は、1.0を超えてはならず、1.0に近い値を取ればよい。
【0062】
上記の式に基づいて、中低周波画像におけるターゲット処理領域内の各画素点の画素値を調整し、クマ及びほうれい線を除去する。
【0063】
他の実施例では、電子機器は、第1ターゲット画素値を微調整することができ、このプロセスは、調整後に明るすぎることを回避するために、中低周波画像における画素点の色を調整する際に制約するものであり、例示的に、このプロセスは、
ターゲット調整値に基づいて第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることと、各第1ターゲット画素値に対応する第2ターゲット画素値を、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得ることと、各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を得て、当該第1画像におけるターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と第1プリセット画素値とのうちの小さな値であることと、を含む。ここで、当該ターゲット調整値は、プリセット調整値であり、必要に応じて設定可能であり、例えば、当該ターゲット調整値は、0.3であり、これについて限定しない。
【0064】
例示的に、ターゲット処理領域内のいずれかの画素点の第1ターゲット画素値がtexDiffであり、第2ターゲット画素値がtexDiff’であると、第1画像におけるターゲット処理領域内のいずれかの画素点の画素値は、以下の式により算出される。
【0065】
tempImg=min(texDiff’+blurlmg1、1.0)
【0066】
当該確定方法は、上記プロセスで第1ターゲット画素値に基づいて調整するプロセスと同様であり、第1プリセット画素値は、1.0を取ったままである。第2ターゲット値は、texDiff’+blurlmg1である。
【0067】
いくつかの実施例では、ターゲット調整値に基づいて第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることは、
【0068】
いずれかの第1ターゲット画素値に対して、第1ターゲット画素値と第2プリセット画素値とを比較し、大きな値を選択することと、さらに、第1ターゲット画素値と第2プリセット画素値とのうちの大きな値とターゲット調整値とを比較し、小さな値を第1ターゲット画素値に対応する第2ターゲット画素値として選択し、当該第2プリセット画素値は、ターゲット調整値より小さいことと、を含む。
【0069】
例示的に、ターゲット処理領域内のいずれかの画素点に対して、以下の式により第2ターゲット画素値texDiff’を表す。
【0070】
texDiff’=min(max(0.0、texDiff)、coeff3)
【0071】
ここで、coeff3は、ターゲット調整値であり、第1ターゲット画素値texDiffを制約するためのものであり、画素値を正規化する場合、例えばcoeff3は、0.3であり(coeff3の範囲は0~1である)、上記の式によって最大0.3であるようにtexDiff’を制約することができる。第2プリセット画素値は、0.0であり、texDiff’が非負数であることを保証する。
【0072】
例えば、第1ターゲット画素値texDiffは0.2であり、このとき第2ターゲット画素値texDiff’も0.2である。第1ターゲット画素値texDiffが0.5である場合、第2ターゲット画素値texDiff’は0.3である。
【0073】
上記実施形態では、ターゲット調整値によって第1ターゲット画素値を制約し、クマ及びほうれい線の除去効果をさらに向上させることができる。
【0074】
いくつかの実施例では、ターゲット画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1画像におけるターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することは、
ターゲット画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分を、第1画像における対応する位置の画素点の画素値に加算することにより、ターゲット処理領域内の各画素点の第3ターゲット値を得ることと、第1画像におけるターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、第2画像を取得することと、を含む。
【0075】
本出願の実施例では、中低周波画像とターゲット画像との差分に基づいて、第1画像を調整するプロセスは、クマやほうれい線を除去した結果に元の肌テクスチャを追加するプロセスであり、当該プロセスの本質も画素値を調整するプロセスでもあり、以下の式により表す。
【0076】
まず、ターゲット画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像blurlmg1における対応する位置の画素点の画素値との差分diffを計算する。
【0077】
diff = ターゲット画像-blurlmg1
【0078】
次に、クマやほうれい線を除去した画像(tempImg)にdiffを追加することにより、最終結果である第2画像resImgを得る。
【0079】
resImg=diff+tempImg
【0080】
例示的に、ターゲット画像におけるターゲット処理領域内のある画素点の画素値がA1であり、中低周波画像における対応する位置の画素点の画素値がB1であり、第1画像における当該画素点の画素値がC1であると、第3ターゲット値は、A1-B1+C1となる。
【0081】
本出願の実施例では、第1画像における対応する位置の画素点の画素値を第3ターゲット値に置き換えることにより、クマ及びほうれい線を除去すると同時に、元の肌の質感を保持する効果を実現することができる。
【0082】
また、いくつかの実施例では、以上のステップについて、実行される時にある程度の最適化と統合を行うことができ、例えば以下の3つの式に従って画素値を調整する場合、最適化と統合を実現することができる。
【0083】
tempImg=min(texDiff’+blurlmg1、1.0)
resImg=diff+tempImg
diff=ターゲット画像-blurlmg1
【0084】
後の2つの式を統合すると、次のようになる。
【0085】
resImg=ターゲット画像-blurlmg1+tempImg
【0086】
tempImg=min(texDiff’+blurlmg1、1.0)をresImg=ターゲット画像-blurlmg1+tempImgに代入すると、次のようになる。
【0087】
resImg=ターゲット画像-blurlmg1+min(texDiff’+blurlmg1、1.0)
=min(ターゲット画像-blurlmg1+texDiff’+blurlmg1、1.0)
=min(texDiff’+ ターゲット画像、1.0)
【0088】
ここで、texDiff’をtexDiffに置き換えてもよい。
【0089】
つまり、電子機器は、第1画像を取得することなく、第1ターゲット画素値または第2ターゲット画素値に基づいて調整することにより第2画像を直接に得ることができ、このプロセスは、
ターゲット画像をフィルタリングして得られた低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定した後、各第1ターゲット画素値に対応する第2ターゲット画素値を取得することと(選択可能なステップ)、
ターゲット画像におけるターゲット領域内の画素点の画素値を対応する位置の画素点の第1ターゲット画素値または第2ターゲット画素値に加算することにより各画素点のターゲット値を得て、texDiff+ターゲット画像またはtexDiff’+ターゲット画像と表すことができることと、ターゲット値に基づいて第2画像におけるターゲット処理領域内の各画素点の画素値を確定し、ここで、第2画像におけるターゲット処理領域内のいずれかの画素点の位置における画素値は、当該画素点のターゲット値と第1プリセット画素値との間の小さな値であることと、を含む。また、他の統合と最適化の方法も適用可能であり、ここでは限定せず、基本的な思想について、中低周波画像と低周波画像に基づいて階層化処理を行う。
【0090】
なお、本出願の実施例の画像処理方法に基づいて得られた第2画像において、ターゲット処理領域以外の他の領域内の画素点の画素値を、ターゲット画像における対応する位置の画素点の画素値に一致させ、つまり、最終的に得られた第2画像とターゲット画像との区別がターゲット処理領域内のみであることを保証すればよい。本出願の実施例の画像処理方法によりクマ及びほうれい線を除去することで、クマ及びほうれい線を除去すると同時に、肌の元のテクスチャの質感およびリアルさを保持することができ、処理効果は、より良い。
【0091】
図5に示されたように、本出願の実施例によるほうれい線を除去した効果図であり、
図1の(b)と比較して、
図1の(b)に示された効果図ではほうれい線を除去したが、ほうれい線領域の元の肌テクスチャが著しく損なわれ、法令紋が除去された当該領域が滑らかすぎ、一方、本出願の実施例の方法に基づいて得られた効果図では、ほうれい線を除去すると同時に、元の肌の質感とテクスチャを保持し、よりリアルで自然である。
【0092】
図6は、一例示的な実施例による画像処理の完全な方法のフローチャートであり、以下のステップを含む。
【0093】
S61において、ターゲット画像における顔キーポイントを取得する。
【0094】
S62において、標準顔画像における顔キーポイントとターゲット画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材をターゲット画像にマッピングすることにより、ターゲット画像に対応するターゲットマスク画像を取得する。
【0095】
S63において、ターゲットマスク画像における各顔部領域の位置に基づいて、ターゲット画像におけるターゲット処理領域を確定する。
【0096】
S64において、ターゲット画像をフィルタリングすることにより、当該ターゲット画像に対応する中低周波画像および低周波画像を取得する。
【0097】
S65において、低周波画像におけるターゲット処理領域内の各画素点の画素値と、中低周波画像における対応する位置の画素点の画素値との差分に基づいて、中低周波画像におけるターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を得る。
【0098】
S66において、ターゲット画像におけるターゲット処理領域内の各画素点の画素値と中低周波画像における対応する位置の画素点の画素値との差分に基づいて、第1画像におけるターゲット処理領域内の各画素点の画素値を調整することにより、第2画像を取得する。
【0099】
上記方法を
美肌補正シーンに適用する場合、
図7を参照し、本出願の実施例によるクマ及びほうれい線を除去する完全な方法のフローチャートであり、3つの分岐に分けられ、即ち、顔キーポイントに基づいて
ターゲット画像のマスク画像を取得し、
ターゲット画像の中低周波画像を取得し、
ターゲット画像の低周波画像を取得し、以下、
図7を参照して詳細に説明する。
【0100】
低周波画像と中低周波画像を取得するプロセスでは、第1設定倍数(例えば2倍)に基づいて、ターゲット画像をサブサンプリングし、この後、2つの分岐に分けられる。
【0101】
低周波画像を取得するプロセスでは、続けて第1設定倍数(例えば2倍)に基づいてサブサンプリングし、さらにboxfilter1(ボックスフィルタ1)によってフィルタリングし、この後第2設定倍数(例えば4倍)に基づいてアップサンプリングすることで、低周波画像を得ることができる。
【0102】
中低周波画像を取得するプロセスでは、boxfilter2(ボックスフィルタ2)によって、ターゲット画像をサブサンプリングして(例えば2倍)得られた画像をフィルタリングし、さらにboxfilter2によってフィルタリングされた画像をアップサンプリングする(例えば2倍)ことで、中低周波画像を得ることができる。
【0103】
ターゲット画像のマスク画像を取得するプロセスでは、ターゲット画像における顔キーポイントを位置決め、この後、位置決めされた顔キーポイントと標準顔画像における顔キーポイントとの位置関係に基づいて、標準顔画像のマスク素材のターゲット画像への三角Warpマッピングを完了することにより、ターゲット画像に対応するターゲットマスク画像を得る。
【0104】
上記3つの分岐に基づいて上記画像を得た後、マスク画像に基づいてターゲット画像のターゲット処理領域を確定することができ、さらに、ターゲット画像のターゲット処理領域内の画素点と中低周波画像のターゲット処理領域内の画素点との差分に基づいて、肌テクスチャ、すなわち、上記のdiffを算出し、中低周波画像と低周波画像との差分に基づいて、中低周波画像からクマ及びほうれい線を除去し、第1画像を得て、最終的に第1画像に肌テクスチャを追加することにより、第2画像を得て、なお、上記処理は、ターゲット処理領域のみについてのものであり、第2画像とターゲット画像との差分がターゲット処理領域内のみに存在することを保証すればよい。
【0105】
図8は、一例示的な実施例による画像処理装置のブロック図である。
図8を参照すると、当該装置は、取得ユニット801、処理ユニット802、第1調整ユニット803、および第2調整ユニット804を含む。
【0106】
取得ユニット801は、ターゲット画像における顔キーポイントに基づいて、当該ターゲット画像におけるターゲット処理領域を確定することを実行するように構成される。
【0107】
処理ユニット802は、当該ターゲット画像をフィルタリングすることにより、当該ターゲット画像に対応する中低周波画像および低周波画像を得ることを実行するように構成され、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、当該低周波画像の周波数は、第2周波数帯域内にあり、当該第2周波数帯域の上限は、当該第1周波数帯域の下限より低く、当該第1周波数帯域の上限は、当該ターゲット画像の周波数より低い。
【0108】
第1調整ユニット803は、当該低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得することを実行するように構成される。
【0109】
第2調整ユニット804は、当該ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することを実行するように構成される。
【0110】
いくつかの実施例では、前記取得ユニット801は、以下のことを実行するように構成され、即ち、
標準顔画像における顔キーポイントと前記ターゲット画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記ターゲット画像にマッピングすることにより、前記ターゲット画像に対応するターゲットマスク画像を取得し、
当該ターゲットマスク画像における各顔部領域の位置に基づいて、前記ターゲット画像におけるターゲット処理領域を確定し、ここで、当該ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域である。
【0111】
いくつかの実施例では、前記処理ユニット802は、以下のことを実行するように構成され、即ち、
第1設定倍数に基づいて、当該ターゲット画像をサブサンプリングし、
サブサンプリングされたターゲット画像をフィルタリングし、
フィルタリングされたターゲット画像をアップサンプリングすることにより、前記中低周波画像を取得し、当該中低周波画像の解像度は、当該ターゲット画像の解像度と同じである。
【0112】
いくつかの実施例では、前記処理ユニット802は、以下のことを実行するように構成され、即ち、
第2設定倍数に基づいて、当該ターゲット画像をサブサンプリングし、当該第2設定倍数は、前記第1設定倍数より大きく、
サブサンプリングされたターゲット画像をフィルタリングし、
フィルタリングされたターゲット画像をアップサンプリングすることにより、前記低周波画像を取得し、ここで、前記低周波画像の解像度は、当該ターゲット画像の解像度と同じである。
【0113】
いくつかの実施例では、前記第1調整ユニット803は、以下のことを実行するように構成され、即ち、
当該低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定し、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を得る。
【0114】
いくつかの実施例では、前記第1調整ユニット803は、以下のことを実行するように構成され、即ち、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定し、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である。
【0115】
いくつかの実施例では、前記第1調整ユニット803は、以下のことを実行するように構成され、即ち、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得て、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて、当該中低周波画像における当該ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、当該第1画像を得て、ここで、当該第1画像における当該ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と当該第1プリセット画素値とのうちの小さな値である。
【0116】
いくつかの実施例では、前記第1調整ユニット803は、以下のことを実行するように構成され、即ち、
ターゲット調整値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得て、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得て、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて、当該中低周波画像における当該ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、当該第1画像を得て、ここで、当該第1画像における当該ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と当該第1プリセット画素値とのうちの小さな値である。
【0117】
いくつかの実施例では、前記第1調整ユニット803は、以下のことを実行するように構成され、即ち、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択し、
前記大きな値と当該ターゲット調整値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、ここで、前記第2プリセット画素値は、当該ターゲット調整値より小さい。
【0118】
いくつかの実施例では、前記第2調整ユニット804は、以下のことを実行するように構成され、即ち、
当該ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点の第3ターゲット値を得て、
前記第1画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2画像を取得する。
【0119】
上記の実施例における装置について、各ユニットが要求を実行する方法は、本方法に係る実施例において詳細に説明され、ここでは詳細に説明しない。
【0120】
図9は、一例示的な実施例による電子機器のブロック図であり、当該電子機器は、
プロセッサ910と、
前記プロセッサ910によって実行可能な命令を記憶するためのメモリ920と、
を含み、
ここで、前記プロセッサ910は、
上記の各実施例に係る画像処理方法を実行するように構成され
る。
【0121】
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定し、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である。
【0122】
例示的な実施例では、例えば命令を含むメモリ920などの命令を含む不揮発性可読記憶媒体をさらに提供し、上記の命令は、上記の画像処理方法を完了するために電子機器900のプロセッサ910によって実行可能である。例えば、当該不揮発性可読記憶媒体は、ROM、ランダムアクセスメモリ(RAM)、CD-ROM、磁気テープ、フロッピーディスク、および光データ記憶デバイスなどであってもよい。
【0123】
本出願の実施例では、端末機器をさらに提供し、その構造は、
図10に示され、本出願の実施例は、無線周波数(Radio Frequency、RF)回路1010、電源1020、プロセッサ1030、メモリ1040、入力ユニット1050、表示ユニット1060、カメラ1070、通信インターフェイス1080、およびワイファイ(Wireless Fidelity、WiFi)モジュール1090などの部品を含む画像処理ための端末1000に関する。当業者であれば、
図10に示す端末の構造は、端末を限定するものではなく、本出願の実施例による端末は、図示よりも多くまたは少ない部品を含んでもよく、いくつかの部品を組み合わせたり、あるいは異なる構成要素を組み合わせたりすることができることを理解できる。
【0124】
以下、
図10を参照して前記端末1000の各構成要素を説明する。
【0125】
前記RF回路1010は、通信または通話におけるデータの受信および送信のために利用されることができる。特に、前記RF回路1010は、基地局のダウンリンクデータを受信した後、前記プロセッサ1030に処理を任せることができる。なお、送信されるべきアップリンクデータを基地局に送信する。通常、前記RF回路1010は、アンテナ、少なくとも1つの増幅器、トランシーバー、カプラー、低雑音増幅器(Low Noise Amplifier、LNA)、ダイプレクサなどを含むが、これらに限定されない。
【0126】
また、RF回路1010は、無線通信を介してネットワークおよび他の端末と通信することができる。前記無線通信は、任意の通信規格またはプロトコルを使用でき、グローバル・システム・フォー・モバイル・コミュニケーションズ(Global System of Mobile communication、GSM)、汎用パケット無線サービス(General Packet Radio Service、GPRS)、符号分割多元接続(Code Division Multiple Access、CDMA)、広帯域符号分割多元接続(Wideband Code Division Multiple Access、WCDMA(登録商標))、ロング・ターム・エヴォリューション(Long Term Evolution、LTE)、電子メール、ショートメッセージサービス(Shot Messaging Service、SMS)などを含むが、これらに限定されない。
【0127】
WiFiは、近距離無線転送技術に属し、前記端末1000は、WiFiモジュール1090を介してアクセスポイント(Access Point、AP)に接続し、データネットワークへのアクセスを可能にする。前記WiFiモジュール1090は、通信プロセスにおけるデータの受信および送信のために利用されることができる。
【0128】
前記端末1000は、前記通信インターフェイス1080を介して他の端末と物理的に接続され得る。いくつかの実施例では、当該通信インターフェイス1080と他の端末の通信インターフェイスは、ケーブルにより接続され、前記端末1000と他の端末との間のデータ伝送を実現する。
【0129】
本出願の実施例では、前記端末1000が、通信サービスを実現し、他の連絡先に情報を送信することができるので、前記端末1000が、データ伝送機能を有する必要があり、すなわち、前記端末1000の内部は、通信モジュールを含む必要がある。
図10は、前記RF回路1010、前記WiFiモジュール1090、および前記通信インターフェイス1080などの通信モジュールを示したが、前記端末1000には、データ伝送のための上記構成要素のうちの少なくとも1つまたは他の通信を実現するための通信モジュール(例えばブルートゥース(登録商標)モジュール)が存在することが理解できる。
【0130】
例えば、前記端末1000が携帯電話である場合、前記端末1000は、前記RF回路1010を含むことができ、前記WiFiモジュール1090も含むことができる。前記端末1000がコンピュータである場合、前記端末1000は、前記通信インターフェイス1080を含むことができ、前記WiFiモジュール1090も含むことができる。前記端末1000がタブレットである場合、前記端末1000は、前記WiFiモジュールを含むことができる。
【0131】
前記メモリ1040は、ソフトウェアプログラムおよびモジュールを記憶できる。前記プロセッサ1030は、前記メモリ104に記憶されたソフトウェアプログラムおよびモジュールを実行することにより、前記端末1000の様々な機能的アプリケーションおよびデータ処理を実行し、プロセッサ1030がメモリ1040内のプログラムコードを実行した後、本出願の実施例における
図2のプロセスの一部または全部を実現することができる。
【0132】
いくつかの実施例では、当該メモリ1040は、主にプログラム記憶領域とデータ記憶領域を含む。ここで、プログラム記憶領域は、オペレーティングシステム、各種アプリケーション(例えば通信アプリケーション)、および顔認識モジュールなどを記憶することができ、データ記憶領域は、前記端末の使用に応じて作成されたデータ(例えば、各種グラフィック、動画ファイルなどのマルチメディアファイル、および顔情報テンプレート)などを記憶することができる。
【0133】
また、前記メモリ1040は、高速ランダムアクセスメモリを含んでもよく、例えば至少なくとも1つの磁気ディスク記憶装置、フラッシュメモリ装置などの不揮発性メモリ、または他の揮発性ソリッド記憶装置を含んでもよい。
【0134】
前記入力ユニット1050は、ユーザーによって入力された数字や文字列情報を受信し、かつ、前記端末1000のユーザー設置や機能制御に関するキー信号入力を生成するものであってもよい。
【0135】
いくつかの実施例では、入力ユニット1050は、タッチパネル1051および他の入力端末1052を含み得る。
【0136】
ここで、前記タッチパネル1051は、タッチスクリーンとも呼ばれ、タッチパネル1051上またはその近傍におけるユーザーのタッチ操作(例えば、ユーザーが指、タッチペンなどの任意の適切なオブジェクトまたはアクセサリを使用することによる前記触控面板1051上または前記タッチパネル1051の近傍における操作)を収集し、予め設定されたプログラムに従って対応する接続デバイスを駆動することができる。いくつかの実施例では、当該タッチパネル1051は、タッチ検出装置とタッチコントローラの2つの部分を含むことができる。ここで、タッチ検出装置は、ユーザーのタッチ位置を検出し、且つタッチ操作による信号を検出し、信号をタッチコントローラに送信する。タッチコントローラは、タッチ検出装置からタッチ情報を受信し、これを接点座標に変換し、さらに前記プロセッサ1030に送信し、前記プロセッサ1030からの命令を受信して実行することができる。また、前記タッチパネル1051は、抵抗式、容量式、赤外線及び表面音波などの複数のタイプを用いて実現することができる。
【0137】
いくつかの実施例では、当該他の入力端末1052は、物理キーボード、機能キー(例えば、音量コントロールボタン、スイッチボタンなど)、トラックボール、マウス、操作レバーなどのうちの1つ以上を含み得るが、これらに限定されない。
【0138】
前記表示ユニット1060は、ユーザーによって入力された情報、またはユーザーに提供された情報および前記端末1000の様々なメニューを表示するために使用されてもよい。前記表示ユニット1060は、インターフェイスを提示し、インタラクションを実現するための前記端末1000の表示システムである。
【0139】
前記表示ユニット1060は、表示パネル1061を含むことができる。いくつかの実施例では、液晶ディスプレイ(Liquid Crystal Display、LCD)、有機発光ダイオード(Organic Light-Emitting Diode、OLED)などの形式で当該表示パネル1061を構成することができる。
【0140】
さらに、前記タッチパネル1051は、前記表示パネル1061を覆い、前記タッチパネル1051は、その上または近傍におけるタッチ操作を検出した後、タッチイベントの種類を確定するために前記プロセッサ1030に送信し、この後、前記プロセッサ1030は、タッチイベントの種類に応じて前記表示パネル1061上に対応する視覚出力を提供する。
【0141】
図10では、前記タッチパネル1051と前記表示パネル1061が、前記端末1000の入力と入力機能を実現する2つの別個のコンポーネントとして機能するが、いくつかの実施例では、前記タッチパネル1051と前記表示パネル1061とを統合して前記端末1000の入力機能と出力機能を実現することができる。
【0142】
前記プロセッサ1030は、前記端末1000の制御センターであり、各種のインターフェイスと回線を利用して各部品を接続し、前記メモリ1040内に記憶されたソフトウェアプログラムおよび/またはモジュールを作動または実行し、かつ、前記メモリ1040内に記憶されたデータを呼び出して、前記端末1000の各機能を実行しデータを処理することによって、前記端末に基づく様々なサービスを実現する。
【0143】
いくつかの実施例では、当該プロセッサ1030は、1つ以上の処理ユニットを含むことができる。いくつかの実施例では、当該プロセッサ1030は、アプリケーションプロセッサとモデムプロセッサを統合でき、ここで、アプリケーションプロセッサは、主にオペレーティングシステム、ユーザーインターフェイス、アプリケーションなどを処理し、モデムプロセッサは、主に無線通信を処理する。上記モデムプロセッサは、前記プロセッサ1030に統合されなくてもよいことが理解できる。
【0144】
前記カメラ1070は、前記端末1000の撮影機能を実現し、写真や動画を撮影するために使用される。前記カメラ1070は、端末1000のスキャン機能を実現するためにも使用されてもよく、スキャンアカウント(二次元コード/バーコード)をスキャンする。
【0145】
前記端末1000は、各部品に電力を供給する電源1020(例えばバッテリー)をさらに含む。いくつかの実施例では、当該電源1020は、電源管理システムを介して前記プロセッサ1030に論理的に接続することによって、電源管理システムにより充電、放電、および電力消費の管理などの機能を実現することができる。
【0146】
なお、本出願の実施例では、プロセッサ1030は、
図9におけるプロセッサ910の機能を実行することができ、メモリ1040は、メモリ920内のものを記憶する。
【0147】
本出願の実施例では、コンピュータープログラム製品をさらに提供し、前記コンピュータープログラム製品が電子デバイス上で動作しているとき、本出願の実施例における上記の画像処理方法のいずれか、または画像処理方法のいずれかに関与する任意の方法を前記電子デバイスに実行させる。
【0148】
本開示のすべての実施例は、単独で実行されてもよく、他の実施例と組み合わせて実行されてもよく、本開示によって要求される保護範囲とみなされる。
【符号の説明】
【0149】
800 画像処理装置
801 取得ユニット
802 処理ユニット
803 第1調整ユニット
804 第2調整ユニット
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
ターゲット画像における顔キーポイント
に基づいて、前記
ターゲット画像におけるターゲット処理領域を確定することと、
前記
ターゲット画像をフィルタリングすることにより、前記
ターゲット画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記
ターゲット画像の周波数より低いことと、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得することと、
前記
ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することと、を含む、
画像処理方法。
【請求項2】
前記
ターゲット画像における顔キーポイントに基づいて
、前記
ターゲット画像におけるターゲット処理領域を確定することは、
標準顔画像における顔キーポイントと前記
ターゲット画像における顔キーポイントとの位置関係に基づいて、前記標準顔画像のマスク素材を前記
ターゲット画像にマッピングすることにより、前記
ターゲット画像に対応するターゲットマスク画像を取得することと、
前記ターゲットマスク画像における各顔部領域の位置に基づいて、前記
ターゲット画像におけるターゲット処理領域を確定し、前記ターゲット処理領域は、前記各顔部領域のうちの少なくとも1つの顔部領域であることと、を含む、
請求項1に記載の方法。
【請求項3】
前記
ターゲット画像をフィルタリングすることにより、前記
ターゲット画像に対応する中低周波画像を得ることは、
第1設定倍数
に基づいて、前記ターゲット画像をサブサンプリング
することと、
サブサンプリングされた
前記ターゲット画像を
フィルタリングすることと、
フィルタリングされた
前記ターゲット画像をアップサンプリングすることにより、前記中低周波画像を取得し、前記中低周波画像の解像度は、前記
ターゲット画像の解像度と同じであることと、を含む、
請求項1
または2に記載の方法。
【請求項4】
前記
ターゲット画像をフィルタリングすることにより、前記
ターゲット画像に対応する低周波画像を得ることは、
第2設定倍数
に基づいて、前記ターゲット画像をサブサンプリング
し、前記第2設定倍数は、第1設定倍数より大きいことと、
サブサンプリングされた
前記ターゲット画像を
フィルタリングすることと、
フィルタリングされた
前記ターゲット画像をアップサンプリングすることにより、前記低周波画像を取得し、前記低周波画像の解像度は、前記
ターゲット画像の解像度と同じであることと、を含む、
請求項1
から3のいずれか1項に記載の方法。
【請求項5】
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得することは、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定することと、
確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を得ることと、を含む、
請求項1
から4のいずれか1項に記載の方法。
【請求項6】
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記ターゲット処理領域内の各画素点に対応する第1ターゲット画素値を確定することは、
前記ターゲット処理領域内のいずれかの画素点に対して、前記画素点に対応する第1ターゲット画素値を以下のように確定することを含み、即ち、
texDiff=(blurlmg2-blurlmg1)*coeff1+coeff2*blurlmg2、
ここで、texDiffは、前記画素点の第1ターゲット画素値であり、blurlmg2は、前記低周波画像における前記画素点の画素値であり、blurlmg1は、前記中低周波画像における前記画素点の画素値であり、coeff1は、第1係数であり、coeff2は、第2係数であり、前記第1係数は、前記第2係数より大きく、前記第2係数は、正数である、
請求項5に記載の方法。
【請求項7】
前記確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を得ることは、
前記各第1ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第1ターゲット値を得ることと、
各画素点に対応する第1ターゲット値と第1プリセット画素値とを比較
し、比較結果に基づいて
、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を得て、前記第1画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第1ターゲット値と前記第1プリセット画素値とのうちの小さな値であることと、を含む、
請求項5に記載の方法。
【請求項8】
前記確定された各第1ターゲット画素値に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を得ることは、
ターゲット調整値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることと、
各第1ターゲット画素値に対応する第2ターゲット画素値を、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値に加算することにより、各画素点に対応する第2ターゲット値を得ることと、
各画素点に対応する第2ターゲット値と第1プリセット画素値とを比較し、比較結果に基づいて
、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、前記第1画像を
得て、前記第1画像における前記ターゲット処理領域内の各画素点の画素値は、各画素点に対応する第2ターゲット値と前記第1プリセット画素値とのうちの小さな値であることと、を含む、
請求項5に記載の方法。
【請求項9】
前記
ターゲット調整値に基づいて前記第1ターゲット画素値を調整することにより、各第1ターゲット画素値に対応する第2ターゲット画素値を得ることは、
いずれかの第1ターゲット画素値に対して、前記第1ターゲット画素値と前記第2プリセット画素値とを比較し、大きな値を選択することと、
前記大きな値と前記
ターゲット調整値とを比較し、小さな値を前記第1ターゲット画素値に対応する第2ターゲット画素値として選択し、前記第2プリセット画素値は、前記
ターゲット調整値より小さいことと、を含む、
請求項8に記載の方法。
【請求項10】
前記
ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得することは、
前記
ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分を、前記第1画像における対応する位置の画素点の画素値に加算することにより、前記ターゲット処理領域内の各画素点
に対応する第3ターゲット値を得ることと、
前記第1画像における前記ターゲット処理領域内の各画素点の画素値を、対応する第3ターゲット値に置き換えることにより、前記第2画像を取得することと、を含む、
請求項1から9のいずれか1項に記載の方法。
【請求項11】
プロセッサと、
前記プロセッサによって実行可能な命令を記憶するためのメモリと、を含み、
ここで、前記プロセッサは、以下のことを実行するように構成され、即ち、
ターゲット画像における顔キーポイント
に基づいて、前記
ターゲット画像におけるターゲット処理領域を確定し、
前記
ターゲット画像をフィルタリングすることにより、前記画像に対応する中低周波画像および低周波画像を得て、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記
ターゲット画像の周波数より低く、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得し、
前記
ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得する、
電子機器。
【請求項12】
命令が電子機器のプロセッサによって実行されたとき、以下のステップを前記電子機器に実行させることができ、即ち、
ターゲット画像における顔キーポイントに基づいて、前記ターゲット画像におけるターゲット処理領域を確定するステップ、
前記ターゲット画像をフィルタリングすることにより、前記ターゲット画像に対応する中低周波画像および低周波画像を得て、ここで、前記中低周波画像の周波数は、第1周波数帯域内にあり、前記低周波画像の周波数は、第2周波数帯域内にあり、前記第2周波数帯域の上限は、前記第1周波数帯域の下限より低く、前記第1周波数帯域の上限は、前記ターゲット画像の周波数より低いステップ、
前記低周波画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記中低周波画像における前記ターゲット処理領域内の対応する位置の画素点の画素値を調整することにより、第1画像を取得するステップ、
前記ターゲット画像における前記ターゲット処理領域内の各画素点の画素値と、前記中低周波画像における対応する位置の画素点の画素値との差分に基づいて、前記第1画像における前記ターゲット処理領域内の画素点の画素値を調整することにより、第2画像を取得するステップ、である、
不揮発性可読記憶媒体。
【国際調査報告】