(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-11-02
(54)【発明の名称】顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体
(51)【国際特許分類】
G06T 7/00 20170101AFI20231026BHJP
G06T 7/90 20170101ALI20231026BHJP
G06T 1/00 20060101ALI20231026BHJP
G06T 3/40 20060101ALI20231026BHJP
G06T 9/00 20060101ALI20231026BHJP
G06N 3/0455 20230101ALI20231026BHJP
A61B 5/00 20060101ALI20231026BHJP
【FI】
G06T7/00 350C
G06T7/90 A
G06T1/00 510
G06T3/40 725
G06T9/00 200
G06N3/0455
A61B5/00 101A
A61B5/00 M
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022566607
(86)(22)【出願日】2021-11-23
(85)【翻訳文提出日】2022-10-31
(86)【国際出願番号】 CN2021132558
(87)【国際公開番号】W WO2023029233
(87)【国際公開日】2023-03-09
(31)【優先権主張番号】202111002463.8
(32)【優先日】2021-08-30
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】522002032
【氏名又は名称】厦門美図宜膚科技有限公司
【氏名又は名称原語表記】Xiamen MeituEve Technology Co.,Ltd.
【住所又は居所原語表記】Room 568, No.942,Tonglong 2nd Road, Gaoxin District (Xiang’an) Industries, Xiamen City, Fujian, China
(74)【代理人】
【識別番号】110001139
【氏名又は名称】SK弁理士法人
(74)【代理人】
【識別番号】100130328
【氏名又は名称】奥野 彰彦
(74)【代理人】
【識別番号】100130672
【氏名又は名称】伊藤 寛之
(72)【発明者】
【氏名】李啓東
(72)【発明者】
【氏名】李志陽
(72)【発明者】
【氏名】王▲ジォ▼
(72)【発明者】
【氏名】楊小棟
【テーマコード(参考)】
4C117
5B057
5L096
【Fターム(参考)】
4C117XB01
4C117XD05
4C117XE43
4C117XK09
5B057BA02
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CC01
5B057CD05
5B057CE17
5B057CE18
5L096AA02
5L096AA06
5L096CA02
5L096DA02
5L096EA03
5L096EA45
5L096FA15
5L096GA40
5L096GA41
5L096HA11
(57)【要約】
【課題】 顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体を提供することを課題とする。
【解決手段】 本出願は、顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体を提供し、画像処理の技術分野に関する。該方法はオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップと、ターゲットサンプル画像を初期顔色素検出モデルに入力し、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップと、オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップと、教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップとを含む。この技術的手段は、低価格なカメラ撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
顔色素検出モデルトレーニング方法であって、
解像度がターゲットサンプル画像の解像度よりも高いオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップ、
前記ターゲットサンプル画像を初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップ、
前記オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップ、及び
前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップ
を含むことを特徴とする、方法。
【請求項2】
前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得る前記ステップは、
前記教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、前記実際のメラニン色素高精細画像の明度情報及び前記実際のヘモグロビン色素高精細画像の明度情報に従い前記初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得るステップを含むことを特徴とする、請求項1に記載の方法。
【請求項3】
前記初期顔色素検出モデルは、エンコーダと、第1デコーダと、第2デコーダとを備え、
前記ターゲットサンプル画像を前記初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得る前記ステップは、
前記エンコーダで前記ターゲットサンプル画像を符号化して、符号化後の特徴を得るステップと、
前記第1デコーダで前記符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得るステップと、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得るステップと、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得るステップとを含むことを特徴とする、請求項1又は2に記載の方法。
【請求項4】
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得る前記ステップは、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、前記中間メラニン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記メラニン色素カラー画像を得、前記中間ヘモグロビン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記ヘモグロビン色素カラー画像を得るステップを含むことを特徴とする、請求項3に記載の方法。
【請求項5】
前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得る前記ステップは、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像及び前記メラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像及び前記ヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のヘモグロビン色素高精細画像を得るステップを含むことを特徴とする、請求項3又は4に記載の方法。
【請求項6】
前記ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含むことを特徴とする、請求項1~5のいずれか一項に記載の方法。
【請求項7】
前記色素領域のカラー調整処理は、前記オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を検出し、前記オリジナルサンプル画像から前記メラニン色素領域及びヘモグロビン色素領域を除去し、前記メラニン色素領域及びヘモグロビン色素領域を除去した後の画像と前記オリジナルサンプル画像との融合処理を施すことを含むことを特徴とする、請求項6に記載の方法。
【請求項8】
顔色素検出モデルトレーニング装置であって、
解像度がターゲットサンプル画像の解像度よりも高いオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るように構成されるゲインモジュールと、
前記ターゲットサンプル画像を初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得、前記オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るように構成される処理モジュールと、
前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るように構成される補正モジュールとを備えることを特徴とする、顔色素検出モデルトレーニング装置。
【請求項9】
前記補正モジュールは、さらに前記教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、前記実際のメラニン色素高精細画像の明度情報及び前記実際のヘモグロビン色素高精細画像の明度情報に従い前記初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得るように構成されることを特徴とする、請求項8に記載の顔色素検出モデルトレーニング装置。
【請求項10】
前記初期顔色素検出モデルは、エンコーダと、第1デコーダと、第2デコーダとを備え、
前記処理モジュールは、さらに、
前記エンコーダで前記ターゲットサンプル画像を符号化して、符号化後の特徴を得、
前記第1デコーダで前記符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得るように構成される
ことを特徴とする、請求項8又は9に記載の顔色素検出モデルトレーニング装置。
【請求項11】
前記処理モジュールは、さらに前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、前記中間メラニン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記メラニン色素カラー画像を得、前記中間ヘモグロビン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記ヘモグロビン色素カラー画像を得るように構成されることを特徴とする、請求項10に記載の顔色素検出モデルトレーニング装置。
【請求項12】
前記処理モジュールは、さらに前記初期顔色素検出モデルにより前記メラニン色素詳細画像及び前記メラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像及び前記ヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のヘモグロビン色素高精細画像を得るように構成される
ことを特徴とする、請求項10又は11に記載の顔色素検出モデルトレーニング装置。
【請求項13】
電子機器であって、プロセッサと、記憶媒体と、バスとを備え、前記記憶媒体は、前記プロセッサによって実行可能な機械可読命令を記憶し、電子機器が運転する時、前記プロセッサと前記記憶媒体との間はバスを介して通信し、前記プロセッサは前記機械可読命令を実行して、請求項1~7のいずれか一項に記載の方法のステップを実行することを特徴とする、電子機器。
【請求項14】
コンピュータ用記憶媒体であって、プロセッサによって実行された時、請求項1~7のいずれか一項に記載の方法のステップを実行するコンピュータプログラムを格納することを特徴とする、コンピュータ用記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願の相互参照]
本出願は、「顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体」と題し、2021年08月30日に出願された中国特許出願番号第2021110024638号の優先権を主張しているため、全内容は引用により本明細書に組み込まれる。
【0002】
本出願は、画像処理の技術分野に関し、特に、顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体に関する。
【背景技術】
【0003】
顔の肌色は、主にメラニンとヘモグロビンの2つの色素で構成され、この2つの色素の光に対する吸収及び反射は一定のスペクトルを持つため、画像結像上には比較的固定された色があり、最終的に肌全体の色は、この2つの色素の含有量によって決まる。画像結像の結果に従い計算してメラニン色素(結果は褐色画像で、Brown)及びヘモグロビン色素(結果は赤色画像で、Red)の含有量が得られた。したがって、得られた顔画像の色を解析することで、顔画像における異なる色素の分布を得ることができる。
【0004】
現在、画像の解析・処理方法は、往々にしてプロ用デジタルカメラ又は一眼レフカメラで撮影された画像などの高画質な画像にのみ適用され、携帯電話のカメラで撮影された画像などの低画質な画像処理に応用される」場合、この種の低画質な画像にカラーノイズが多く含まれているため、携帯電話のイメージングアルゴリズムのノイズ除去プロセスにより、画像内の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素間の認識と分離効果に影響を及ぼす。
【0005】
故に、低価格なカメラ(カメラレンズ)撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題をどのように解決するかが、解決が急務となっている技術的課題である。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本出願は、低価格なカメラ(カメラレンズ)撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決する顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体を提供する。
【課題を解決するための手段】
【0007】
本出願のいくつかの実施形態は、顔色素検出モデルトレーニング方法を提供し、以下のステップ:
解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップ、
前記ターゲットサンプル画像を初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップ、
前記オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップ、及び
前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップ
を含むことができる、上記方法。
【0008】
代替手段として、前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得る前記ステップは、
前記教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、前記実際のメラニン色素高精細画像の明度情報及び前記実際のヘモグロビン色素高精細画像の明度情報に従い前記初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得るステップを含むことができる。
【0009】
代替手段として、前記初期顔色素検出モデルは、エンコーダと、第1デコーダと、第2デコーダとを備え得、
前記ターゲットサンプル画像を初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得る前記ステップは、
前記エンコーダで前記ターゲットサンプル画像を符号化して、符号化後の特徴を得るステップと、
前記第1デコーダで前記符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得るステップと、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得るステップと、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得るステップとを含むことができる。
【0010】
代替手段として、前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得る前記ステップは、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、前記中間メラニン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記メラニン色素カラー画像を得、前記中間ヘモグロビン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記ヘモグロビン色素カラー画像を得るステップを含むことができる。
【0011】
代替手段として、前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得る前記ステップは、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像及び前記メラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像及び前記ヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のヘモグロビン色素高精細画像を得るステップを含むことができる。
【0012】
代替手段として、前記ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含み得る。
【0013】
代替手段として、前記色素領域のカラー調整処理は、前記オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を検出し、前記オリジナルサンプル画像から前記メラニン色素領域及びヘモグロビン色素領域を除去し、前記メラニン色素領域及びヘモグロビン色素領域を除去した後の画像と前記オリジナルサンプル画像との融合処理を施すことを含み得る。
【0014】
本出願の他の実施形態は、顔色素検出方法も提供し、以下のステップ:
低画素カメラで撮影された画像であり得るターゲットサンプル画像を取得するステップ、
前記ターゲットサンプル画像をターゲット顔色素検出モデルに入力して、前記ターゲット顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップ、及び
実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に基づいて、ターゲットサンプル画像内のメラニン色素の分布情報及びヘモグロビン色素の分布情報を確定するステップ
を含み得る、上記方法。
【0015】
本出願のまたいくつかの実施形態は、顔色素検出モデルトレーニング装置も提供し、前記装置は、
解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るように構成できるゲインモジュールと、
前記ターゲットサンプル画像を初期顔色素検出モデルに入力し、前記初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得、前記オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るように構成できる処理モジュールと、
前記教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、前記実際のメラニン色素高精細画像及び前記実際のヘモグロビン色素高精細画像に従い前記初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るように構成できる補正モジュールとを備え得る。
【0016】
代替手段として、前記補正モジュールは、前記教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、前記実際のメラニン色素高精細画像の明度情報及び前記実際のヘモグロビン色素高精細画像の明度情報に従い前記初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得るように構成することもできる。
【0017】
代替手段として、前記初期顔色素検出モデルは、エンコーダと、第1デコーダと、第2デコーダとを備え得、
前記処理モジュールは、
前記エンコーダで前記ターゲットサンプル画像を符号化して、符号化後の特徴を得、
前記第1デコーダで前記符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得、
前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像と前記メラニン色素カラー画像に重ね合わせ処理を施して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像と前記ヘモグロビン色素カラー画像に重ね合わせ処理を施して、前記実際のヘモグロビン色素高精細画像を得るように構成することもできる。
【0018】
代替手段として、前記処理モジュールは、前記第2デコーダで前記符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、前記中間メラニン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記メラニン色素カラー画像を得、前記中間ヘモグロビン色素係数マップ行列を前記ターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、前記ヘモグロビン色素カラー画像を得るように構成することもできる。
【0019】
代替手段として、前記処理モジュールは、前記初期顔色素検出モデルにより前記メラニン色素詳細画像及び前記メラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像及び前記ヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のヘモグロビン色素高精細画像を得るように構成することもできる。
【0020】
代替手段として、前記ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含み得る。
【0021】
代替手段として、前記色素領域のカラー調整処理は、前記オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を検出し、前記オリジナルサンプル画像から前記メラニン色素領域及びヘモグロビン色素領域を除去し、前記メラニン色素領域及びヘモグロビン色素領域を除去した後の画像と前記オリジナルサンプル画像との融合処理を施すことを含み得る。
【0022】
本出願の更なるいくつかの実施形態は、顔色素検出装置も提供し、前記装置は、
低画素カメラで撮影された画像であり得るターゲットサンプル画像を取得するように構成できる取得モジュールと、
前記ターゲットサンプル画像をターゲット顔色素検出モデルに入力して、前記ターゲット顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るように構成できる処理モジュールと、
実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に基づいて、ターゲットサンプル画像内のメラニン色素の分布情報及びヘモグロビン色素の分布情報を確定するように構成できる確定モジュールとを備え得る。
【0023】
本出願の他の実施形態は、プロセッサと、記憶媒体と、バスとを備えた電子機器も提供し、前記記憶媒体は前記プロセッサによって実行可能な機械可読命令を記憶し、電子機器が運転する時、前記プロセッサと前記記憶媒体との間はバスを介して通信し、前記プロセッサは前記機械可読命令を実行して、上記第1の態様又は第2の態様で提供される方法のステップを実行する。
【0024】
本出願の他の実施形態は、プロセッサによって実行された時、上記実施形態で提供される方法のステップを実行するコンピュータプログラムを、格納するコンピュータ用記憶媒体を提供する。
【発明の効果】
【0025】
本出願の有利な効果は、少なくとも次の通りであり、
本出願の実施形態は、顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体を提供し、該方法は解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップと、ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップと、オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップと、教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップとを含み得る。この技術的手段において、主にプロ用デジタルカメラ又は一眼レフカメラによって収集されたオリジナルサンプル画像にゲイン処理を施して、ターゲットサンプル画像を得て、携帯電話カメラで撮影された顔画像をシミュレートする効果を奏し、次にターゲットサンプル画像を初期顔色素検出モデルに入力して、HB画像及びHR画像を得、ターゲット顔色素検出モデルを得るため、オリジナルサンプル画像を分解して得られたTB画像及びTR画像を使用して初期顔色素検出モデルに対して反復処理・補正を施し、その後低価格なカメラ(カメラレンズ)で撮影されたターゲットサンプル画像を上記のトレーニングによって得られたターゲット顔色素検出モデルに入力して、ターゲット顔色素検出モデルによって出力されたHB画像及びHR画像を得るようにさせ、低価格なカメラ(カメラレンズ)で収集された顔画像内のメラニン色素及びヘモグロビン色素への正確な検出を実現し、低価格なカメラ(カメラレンズ)撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決することで、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像内の詳細情報を十分に復元させる。
【0026】
以下、本出願の実施形態の技術的手段を明確に説明するため、実施形態に使用する必要がある添付図面を簡単に説明する。以下の図面は、本出願のいくつかの実施形態というのみであるため、本出願の範囲を限定するものと見なされるべきではないことを理解されたい。当業者にとって創造性の活動をしない前提で、それら添付属図面に基づいてその他の関連図面を得ることができる。
【図面の簡単な説明】
【0027】
【
図1】本出願の実施形態で提供される電子機器の概略構成図である。
【
図2】本出願の実施形態で提供される顔色素検出モデルトレーニング方法のフローチャートである。
【
図3】本出願の実施形態で提供される顔色素検出モデルトレーニング方法における初期顔色素検出モデルのブロック図である。
【
図4】本出願の実施形態で提供される別の顔色素検出モデルトレーニング方法のフローチャートである。
【
図5】本出願の実施形態で提供される顔色素検出モデルのトレーニング装置の概略構成図。
【発明を実施するための形態】
【0028】
本出願の実施形態の目的、技術的手段及び利点をより明確にするため、本出願の実施形態における添付の図面を参照しつつ本出願の実施形態内の技術的手段を以下で明確かつ完全に説明する。本出願内の図面は、説明及び描写のみを目的としており、本出願の保護範囲を限定するために使用されるものではない。また、概略図は一定の縮尺で描かれていないことを理解されたい。本出願で使用されるフローチャートは、本出願のいくつかの実施形態に従い実現される操作を示す。フローチャートの操作は順不同で実施される場合があり、論理コンテキストのないステップは逆の順序で或いは同時に実施されることができることを理解されたい。なお、当業者は、本出願の内容の教示の下で、1つ又は複数の他の操作をフローチャートに追加することができ、フローチャートから1つ又は複数の操作を削除することもできる。
【0029】
なお、描写する実施形態は、本発明の一部の実施形態であり、全ての実施形態でないことは言うまでもない。通常添付の図面に描写され、示される本出願の実施形態の構成要素は、様々な構成で配置及び設計され得る。したがって、以下に添付の図面で提供される本出願の実施形態を詳細に描写するのは、保護を求める本出願の範囲を限定することを意図するものではなく、本出願の選択された実施形態を単に示すものである。本出願の実施形態に基づいて、当業者は創造性の活動をしない前提で得られた全ての他の実施形態は、いずれも本出願の保護範囲に属する。
【0030】
本出願の実施形態において用いられる「含む」との用語は、後に言及される特徴の存在を示すために用いられるが、他の特徴の追加を排除しないことに留意されたい。
【0031】
図1は、本出願の実施形態で提供される電子機器の概略構成図である。該電子機器は、本出願で提供される顔色素検出モデルトレーニング方法を実現するためのコンピュータ又はサーバなどの処理機器であり得る。
図1に示すように、電子機器は、プロセッサ101と、メモリ102とを備え得る。
【0032】
プロセッサ101とメモリ102との間は、データ伝送又はインタラクションを実現するため、直接的或いは間接的に電気的に接続され得る。例えば1本又は数本の通信バス或いは信号線を介して電気的な接続を実現できる。
【0033】
プロセッサ101は、信号処理能力を有する集積回路チップであり得る。上記プロセッサ101は、中央処理装置(Central Processing Unit、CPU)、ネットワークプロセッサ(Network Processor、NP)等が挙げられる汎用プロセッサであってもよく、本出願の実施形態で開示される方法、ステップ、及び論理ブロック図を実現又は実行することができる。汎用プロセッサはマイクロプロセッサであり得、或いは該プロセッサは任意の従来のプロセッサなどであってもよい。
【0034】
メモリ102は、ランダムアクセスメモリ(Random Access Memory、RAM)、読み取り専用メモリ(Read Only Memory、ROM)、プログラム可能な読み取り専用メモリ(Programmable Read-Only Memory、PROM)、消去可能プログラマブル読み取り専用メモリ(Erasable Programmable Read-Only Memory、EPROM)、電気的消去可能プログラマブル読み取り専用メモリ(Electric Erasable Programmable Read-Only Memory、EEPROM)などが挙げられるが、これらに限定されない。
【0035】
図1に示した構造は例示にすぎず、電子機器100は、
図1に示したものより多い又は少ない構成要素をさらに含んでもよいし、
図1に示したものとは異なる構成を有してもよいことを理解されたい。
図1に示す各構成要素は、ハードウェア、ソフトウェア、又はこれらの組み合わせで実現することができる。
【0036】
メモリ102はプログラムを格納するために用いられ、プロセッサ101はメモリ102に格納されたプログラムを呼び出して、以下の実施形態で提供される顔色素検出モデルトレーニング方法を実行する。
【0037】
以下は、複数の実施形態を通じて本出願の実施形態で提供される顔色素検出モデルトレーニング方法を詳細に説明する。
【0038】
図2は、本出願の実施形態で提供される顔色素検出モデルトレーニング方法のフローチャートである。任意選択で、該方法の実行主体は、データ処理機能を備えるサーバ、コンピュータなどの電子機器であり得る。他の実施形態において、顔色素検出モデルトのレーニング方法の一部のステップの順序は、実際の必要に応じて入れ替えることができ、又は一部のステップを省略或いは削除することができることを理解されたい。
図2に示すように、該方法は次のステップを含む。
【0039】
S201:解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップ。
【0040】
オリジナルサンプル画像は、プロ用デジタルカメラ又は一眼レフカメラによって収集された顔画像を意味する。例えば適切な光源(通常は交差偏光)の下で、一眼レフカメラで多くのオリジナル顔サンプル画像を撮影する。一眼レフカメラで撮影したオリジナル顔サンプル画像の高精細画質により、顔の褐色領域(シミ、毛穴など)と赤色領域(にきび、敏感肌、赤い充血したまぶた)をオリジナル顔サンプル画像から正常な肌領域と高度に区別できる。メラニン色素に対応する領域は最終的に褐色画像(Brown画像)として提示され、ヘモグロビン色素に対応する領域は赤色画像(Red画像)として呈する。
【0041】
プロ用デジタルカメラ又は一眼レフカメラなどで収集された顔画像は、HD画像であるため、本実施形態において、その後トレーニングで得られる「ターゲット顔色素検出モデル」を、携帯電話で撮影された低解像度画質により適したものにするため、各顔画像に対応する褐色と赤色の画像を維持したままである。したがって、本出願では、オリジナルサンプル画像にゲイン処理を施すことを提案する。例えばオリジナルサンプル画像の画質を低下させるため、jpgの圧縮原理を使用してオリジナルサンプル画像に対して品質のランダムな画質圧縮を施すことができることで、実際の携帯電話のカメラで撮影された3つのチャンネル顔カラー画像をシミュレートする効果を奏する。
【0042】
S202:ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップ。
【0043】
代替手段として、初期顔色素検出モデルは、エンコーダ/デコーダ(Encoder-Decoder)ネットワークモデル、深層学習ネットワークモデル(Deep Neural Networks、DNNと略する)、又はその他のネットワークトレーニングモデルなどを選択でき、ここで「初期顔色素検出モデル」は特に限定されない。
【0044】
「実際のメラニン色素高精細画像」とは、高精細なメラニン色素画像(HB画像)を意味し、「実際のヘモグロビン色素高精細画像」とは高精細なヘモグロビン色素画像(HR画像)を意味する。
【0045】
本実施形態において、「初期顔色素検出モデル」は、Encoder-Decoderネットワークモデルを例として取り上げ、ステップS202で得られたターゲットサンプル画像を初期顔色素検出モデルに入力し、Encoder-Decoderネットワークモデルにより処理された場合、Encoder-Decoderネットワークモデルによって出力されたHB画像及びHR画像を得る。
【0046】
S203:オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップ。
【0047】
本実施形態において、初期顔色素検出モデルによって出力されたHB画像及びHR画像をより明確にするため、教師メラニン色素高精細画像及び教師高ヘモグロビン色素高精細画像を使用して、上記の「初期顔色素検出モデル」に対して教師ありトレーニング・学習ができるよう提案する。
【0048】
教師メラニン色素高精細画像は、従来の分解アルゴリズムでオリジナルサンプル画像を分解した後で得られ、「教師メラニン色素高精細画像」を初期顔色素検出モデルのトレーニング・学習時、教師実際のターゲット画像とし、TB画像(Brown画像)と示す。
【0049】
同様に教師ヘモグロビン色素高精細画像は、従来の分解アルゴリズムでオリジナルサンプル画像を分解した後で得られ、「教師ヘモグロビン色素高精細画像」を初期顔色素検出モデルのトレーニング・学習時、教師実際のターゲット画像とし、TR画像(Red画像)と示す。
【0050】
本実施形態において、以下の分解方法でオリジナルサンプル画像に分解処理を施して、TB画像及びTR画像を得る。
【0051】
手動選別方法により、オリジナルサンプル画像から選別してBrown及びRedのチャネル分解ベクトが得られ、それぞれ
(Brown分解ベクトル)及び
(Red分解ベクトル)としてラベル付けすることで、オリジナルサンプル画像からメラニン色素-褐色画像、ヘモグロビン色素-赤色画像を抽出する。
【0052】
【0053】
【0054】
2つの分解ベクトルを作成し、次の行列を作成する。
【0055】
【0056】
【0057】
特筆に価することは、本出願において、上記の分解方法は主に深層学習・トレーニングの教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るために用いられ、ネットワークモデルトレーニング過程又はネットワークトレーニング完了後、上記分解方法をもう使用しない。
【0058】
S204:教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップ。
【0059】
例えば上記TB画像を用いて初期顔色素検出モデルによって出力されたHB画像を教師化し、上記TR画像を用いて初期顔色素検出モデルによって出力されたHR画像を教師化し、トレーニングで得られた顔色素検出モデルによって出力されたHB画像とTB画像の差、及びHR画像とTR画像の差がデフォルト値を下回るまで、初期顔色素検出モデルに対して複数回の反復トレーニングと学習を実行することで、ネットワークトレーニングが完了したと見なすことができ、トレーニングが完了した後にターゲット顔色素検出モデルが得られる。この時、該ターゲット顔色素検出モデルは、低価格なカメラ(カメラレンズ)で撮影された顔画像内の異なる色素の分布を検出するために用いることができる。
【0060】
以下は、トレーニングで得られたターゲット顔色素検出モデルの応用を簡単に説明する。
【0061】
本実施形態において、低価格なカメラ(カメラレンズ)で撮影されたターゲットサンプル画像を得、ターゲットサンプル画像を上記トレーニングで得られたターゲット顔色素検出モデルに入力して、ターゲット顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像が得られ、低価格なカメラ(カメラレンズ)で収集された顔画像内のメラニン色素及びヘモグロビン色素への正確な検出を実現し、低価格なカメラ(カメラレンズ)撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決し、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像内の詳細情報を十分に復元させる。
【0062】
要するに本出願の実施形態は、顔色素検出モデルトレーニング方法を提供し、該方法は解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップと、ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップと、オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップと、教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップとを含み得る。この態様において、主にプロ用デジタルカメラ又は一眼レフカメラによって収集されたオリジナルサンプル画像にゲイン処理を施して、ターゲットサンプル画像を得て、携帯電話カメラで撮影された顔画像をシミュレートする効果を奏し、次にターゲットサンプル画像を初期顔色素検出モデルに入力して、HB画像及びHR画像を得、ターゲット顔色素検出モデルを得るため、オリジナルサンプル画像を分解して得られたTB画像及びTR画像を使用して初期顔色素検出モデルに対して反復処理・補正を施し、その後低価格なカメラ(カメラレンズ)で撮影されたターゲットサンプル画像を上記のトレーニングによって得られたターゲット顔色素検出モデルに入力して、ターゲット顔色素検出モデルによって出力されたHB画像及びHR画像を得るようにさせ、低価格なカメラ(カメラレンズ)で収集された顔画像内のメラニン色素及びヘモグロビン色素への正確な検出を実現し、低価格なカメラ(カメラレンズ)撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決することで、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像内の詳細情報を十分に復元させる。
【0063】
以下の実施形態を通じて上記S204:教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、実際のメラニン色素高精細画像の明度情報及び実際のヘモグロビン色素高精細画像の明度情報に従い初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得る方法を詳細に説明する。
【0064】
代替手段として、教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、実際のメラニン色素高精細画像の明度情報及び実際のヘモグロビン色素高精細画像の明度情報に従い初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得る。
【0065】
本実施形態において、「初期顔色素検出モデル」によって出力されたHB画像及びHR画像内の詳細情報をより明確にするため、L1等の従来の損失関数教師を用いる以外に、本出願ではTB画像及びTR画像内の「明度を揃える詳細情報」を教師パラメータとして追加して使用し、初期顔色素検出モデルに対して教師ありトレーニング・学習を行い、一時的な顔色素検出モデルを繰り返して更新し、あるサイクルで得られた一時的な顔色素検出モデルによって出力されたHB画像とTB画像との誤差、及びHR画像とTR画像との誤差がいずれも予め設定された条件を満たした後で、反復処理・補正サイクル過程を終了し、この時で得られた一時的な顔色素検出モデルをターゲット顔色素検出モデルとするよう提案する。
【0066】
HB画像及びTB画像を例にとると、3つのチャネルのHB画像及びTB画像の場合、3つのチャネルの最大値(maxで表す)及び最小値(minで表す)を取り、明度の詳細情報を抽出するため、次のようにcでmaxの比率を調整する。
【0067】
【0068】
で
を教師化し、トレーニングと学習時HB画像の詳細情報をより適切に復元し、同様にHRとTRも教師化する。実験を通じてトレーニングと学習を比較する時、cが1.5~2.0の範囲を取った場合のトレーニング結果は比較的良好である。
【0069】
以下の実施形態を通じて、S202:ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得る方法を具体的に説明する。
【0070】
図3は、本出願の実施形態で提供される初期顔色素検出モデルのブロック図である。
図3に示すように、初期顔色素検出モデルは、エンコーダ(Encoder)、第1デコーダ(Decoder1)及び第2デコーダ(Decoder2)を含み得る。
【0071】
初期顔色素検出モデルは、Encoder-Decoderのネットワークモデルを選択し、本実施形態において、Encoder-Decoderのネットワークモデルにおける具体的なネットワーク層のl構造を考慮せず、エンコーダは初期顔色素検出モデルに入力されたターゲットサンプル画像を符号化し、符号化後の特徴を得るために用いられる。復号化は画像の詳細情報を生成するためのDecoder1及び画像の色情報を生成するためのDecoder2に分けられ、詳細情報及び色情報を足し合わせることで、最後の詳細情報を含む高精細HB画像(褐色画像)及びHR画像(Red画像)が得られる。
【0072】
以下、
図3~
図4を参照しつつ初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像HB及び実際のヘモグロビン色素高精細画像HRを得る方法を具体的に説明する。
【0073】
図4は、本出願の実施形態で提供される別の顔色素検出モデルトレーニング方法のフローチャートである。
図4に示すように、ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得る上記S202は、次のステップを含み得る。
【0074】
S401:エンコーダでターゲットサンプル画像を符号化して、符号化後の特徴を得るステップ。
【0075】
ターゲットサンプル画像は、実際の携帯電話をシミュレートして撮影された3つのチャネルカラー画像LIであり得、LIのサイズは3×H×Wであり、ここでHは画像の高さ情報、Wは画像の幅情報を表す。
【0076】
代替手段として、エンコーダは、ターゲットサンプル画像を固定長ベクトルに変換して、符号化後の特徴を得るため、ターゲットサンプル画像を符号化できる。
【0077】
S402:第1デコーダで符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得るステップ。
【0078】
代替手段として、第1デコーダDecoder1を介して符号化後の特徴を詳細に復号化し、ターゲットサンプル画像の空間詳細情報を徐々に復元して、DB画像及びDB画像を得る。
【0079】
DB画像及びDB画像の両方のサイズは、ターゲットサンプル画像と同じで、両方とも3つのチャネルで、サイズがH×Wであることに留意されたい。
【0080】
S403:第2デコーダで符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得るステップ。
【0081】
代替手段として、第2デコーダで符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得るステップは、
第2デコーダで符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、中間メラニン色素係数マップ行列をターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、メラニン色素カラー画像を得、中間ヘモグロビン色素係数マップ行列をターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、ヘモグロビン色素カラー画像を得るステップを含む。
【0082】
中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列は、第2デコーダDecoder2により符号化後の特徴に対してカラーデコードを実行して、得られたターゲットサンプル画像のサイズと同じ12つのチャネルBrown係数マップKB行列及びRed係数マップKR行列である。
【0083】
Brown係数マップKB行列及びRed係数マップKR行列のサイズは、どちらも12×H×Wで、12は実際、各画素位置
に12個の係数があることを意味し、その後各位置
の係数行列3×4を構築するため、行列には12個の係数が含まれる。
【0084】
【0085】
【0086】
上式の計算方法を介して、メラニン色素カラー画像OB及びヘモグロビン色素カラー画像ORを算出することができる。
【0087】
本実施形態において、異なるタイプのカメラレンズで撮影された画像画質は繰り返して解析・選別する必要があり、かつ分解結果が色の塊などの色移りムラにつながりやすい問題について、本出願はメラニン色素係数マップ行列及びヘモグロビン色素係数マップ行列の方法を提案して色移りムラの問題を防ぎ、詳細学習プロセスを通じて分解図の詳細情報を復元することで、顔色素検出結果は色素斑、ニキビ、毛穴などの肌の特別な領域を強調表示することができる。
【0088】
S404:初期顔色素検出モデルによりメラニン色素詳細画像とメラニン色素カラー画像に重ね合わせ処理を施して、実際のメラニン色素高精細画像を得、ヘモグロビン色素詳細画像とヘモグロビン色素カラー画像に重ね合わせ処理を施して、実際のヘモグロビン色素高精細画像を得るステップ。
【0089】
本実施形態において、上述で得られた高精細の詳細情報を含む最終的なDB画像及びメラニン色素の色を含むOB画像を重ね合わせて、HB画像を得る。すなわち、HB=OB+DBである。
【0090】
同様に、上述で得られた高精細の詳細情報を含む最終的なDR画像及びヘモグロビン色素の色を含むOR画像を重ね合わせて、HR画像を得る。すなわち、HR=OR+DRである。
【0091】
代替手段として、初期顔色素検出モデルによりメラニン色素詳細画像とメラニン色素カラー画像に重ね合わせ処理を施して、実際のメラニン色素高精細画像を得、ヘモグロビン色素詳細画像とヘモグロビン色素カラー画像に重ね合わせ処理を施して、実際のヘモグロビン色素高精細画像を得るステップは、
前記初期顔色素検出モデルにより前記メラニン色素詳細画像及び前記メラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のメラニン色素高精細画像を得、前記ヘモグロビン色素詳細画像及び前記ヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、前記実際のヘモグロビン色素高精細画像を得るステップを含むことができる。
【0092】
本実施形態において、詳細画像とカラー画像のサイズが同じ、どちらも3つのチャネルであるため、画素ごとを加算して、メラニン色素詳細画像とメラニン色素カラー画像に重ね合わせ処理を施し、実際のメラニン色素高精細画像を得、ヘモグロビン色素詳細画像とヘモグロビン色素カラー画像に重ね合わせ処理を施し、実際のヘモグロビン色素高精細画像を得る。
【0093】
【0094】
【0095】
同様に、上記重ね合わせ法によりHB画像を得ることができる。
【0096】
以下の実施形態を通じて、上記S202で言及されたゲイン処理にどのような処理が含まれるかを具体的に説明する。
【0097】
代替手段として、ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含む。
【0098】
一眼レフカメラで撮影されたデータは、HD画像に属し、本実施形態において、ターゲット顔色素検出モデルを携帯電話で撮影された画質により適したものにするため、各画像に対応するBrown画像及びRed画像を維持したまま、一眼レフカメラで撮影されたオリジナルサンプル画像の画質を下げる必要がある。したがって、本出願は、一眼レフカメラで撮影されたオリジナルサンプル画像に追加のゲイン処理を施す必要があることを提案する。ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含み得、実際の応用過程で携帯電話のカメラレンズ又はその他の機器で撮影された比較的画質の画像での顔色素検出の問題を解決する。
【0099】
代替手段として、色素領域のカラー調整処理は、オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を検出し、オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を除去し、メラニン色素領域及びヘモグロビン色素領域を除去した後の画像とオリジナルサンプル画像との融合処理を施すことを含み得る。
【0100】
(1)圧縮処理:jpgの圧縮原理を使用して入力されたオリジナルサンプル画像ごとに品質のランダムな画質圧縮を施し、トレーニング時80~99のランダムな画質圧縮に設定することで、畳み込みニューラルネットワーク(Convolutional Neural Network,CNNと略する)は、学習過程で異なる圧縮された画質の影響を排除する。
【0101】
(2)カラーフォーマット変換処理:主に彩度のアルゴリズムを使用してオリジナルサンプル画像の彩度を下げ、褐色領域(例:色素斑、毛穴)、赤色領域(例:ニキビ、敏感肌、赤い充血)と他の正常な領域との色収差を弱め、携帯電話で撮影された画像の色収差は一眼レフカメラで撮影された色収差より弱くなる。
【0102】
彩度を下げる方法は通常、オリジナルサンプル画像をHSL形式に一様に変換し、ここでHは色相、Sは彩度、Lは明度を表す。Sチャネルを調整することにより、オリジナルサンプル画像の彩度を下げることができる。トレーニング中にチャネルを分解するタスクに適応するため、新しい彩度を下げる方法を用いている。
【0103】
Sチャネルの計算フローは、任意の3つのチャネルのカラー画像をRGBで表されるカラー画像に変換し、値を0.0~1.0に変換し、
RGBの最大値
及び最小値
を計算し、明度チャネルを
として計算し、両者の差を
とすると、彩度の計算式は、次の式で表される。
【0104】
【0105】
【0106】
【数7】
式中、
は、最大値を取り、
は最小値を取ることを表す。
【0107】
新しい差
は、
で、彩度の計算式を置き換えて新しい彩度Sを得、すなわち、次の式で表される。
【0108】
【0109】
一般的に、赤いニキビ、色素斑などは彩度の高い領域に属し、対応する
値も大きく、上式も
値が大きい領域の彩度を下げ、小さい領域ほど彩度を維持したままであることで、ニキビ、色素斑と正常な肌領域の色収差を低減する。
【0110】
(3)色素領域のカラー調整処理:携帯電話で撮影された画像画質の場合、顔の薄い褐色/赤色領域は、その他の肌領域に比べて強調表示できず、オリジナルサンプル画像を携帯電話で撮影された画像画質をシミュレートし、Brown画像で褐色シミ、毛穴などをより強調表示し、Red画像で赤いニキビ、赤い充血、赤い敏感な領域をより強調表示するため、本実施形態において、検出アルゴリズムでオリジナルサンプル画像Origin内のBrown領域、Red領域を特定し、inpaintingアルゴリズムでBrown領域、Red領域を削除することできれいな結果画像を得、Clean画像と示し、次にalpha融合方法で融合し、すなわちClean×(alpha)+Origin×(1.0-alpha)で、ここで×は乗算を表し、alphaの取り得る値は0.0~0.5の範囲で、他の肌領域と比較して顔の薄い褐色/赤色領域をより適切に強調表示できる。
【0111】
特筆に価することは、オリジナルサンプル画像にゲイン処理を施す場合、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のいずれか、又は任意の2つの組み合わせのみ、或いは全ての組み合わせを選択して、実際の携帯電話のカメラレンズで撮影された画像をシミュレートし、その後トレーニングで得られるターゲット顔色素検出モデルを、低価格なカメラ(カメラレンズ)で撮影された低画質画像に適したものにさせ、スキンテスターなどの機器の製造コストを削減し、携帯電話撮影における顔色素検出方法の応用効果も向上する。
【0112】
下記は、本出願で提供される顔色素検出モデルのトレーニング装置及び記憶媒体などを説明し、具体的な実現プロセス及び技術的効果は、上記で参照され、ここでその説明を省略する。
【0113】
図5は、本出願の実施形態で提供される顔色素検出モデルのトレーニング装置の概略構成図である。
図5に示すように、該装置は、ゲインモジュール501と、処理モジュール502と、補正モジュール503とを備えることができる。
【0114】
ゲインモジュール501は、解像度がターゲットサンプル画像の解像度よりも高い場合があるオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るように構成でき、
処理モジュール502は、ターゲットサンプル画像を初期顔色素検出モデルに入力し、初期顔色素検出モデルによって出力された実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得、オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るように構成でき、
補正モジュール503は、教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るように構成できる。
【0115】
代替手段として、補正モジュール503は、
教師メラニン色素高精細画像の明度情報及び教師ヘモグロビン色素高精細画像の明度情報を教師パラメータとして、実際のメラニン色素高精細画像の明度情報及び実際のヘモグロビン色素高精細画像の明度情報に従い初期顔色素検出モデルに反復処理・補正を施して、ターゲット顔色素検出モデルを得るように構成することもできる。
【0116】
代替手段として、初期顔色素検出モデルは、エンコーダと、第1デコーダと、第2デコーダとを備え得、
処理モジュール502は、
エンコーダでターゲットサンプル画像を符号化して、符号化後の特徴を得、
第1デコーダで符号化後の特徴に対して詳細な復号化を実行して、メラニン色素詳細画像及びヘモグロビン色素詳細画像を得、
第2デコーダで符号化後の特徴に対してカラーデコードを実行して、メラニン色素カラー画像及びヘモグロビン色素カラー画像を得、
初期顔色素検出モデルによりメラニン色素詳細画像とメラニン色素カラー画像に重ね合わせ処理を施して、実際のメラニン色素高精細画像を得、ヘモグロビン色素詳細画像とヘモグロビン色素カラー画像に重ね合わせ処理を施して、実際のヘモグロビン色素高精細画像を得るように構成することもできる。
【0117】
代替手段として、処理モジュール502は、
第2デコーダで符号化後の特徴に対してカラーデコードを実行して、中間メラニン色素係数マップ行列及び中間ヘモグロビン色素係数マップ行列を得、中間メラニン色素係数マップ行列をターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、メラニン色素カラー画像を得、中間ヘモグロビン色素係数マップ行列をターゲットサンプル画像内の各画素位置の画素ベクトルと乗算して、ヘモグロビン色素カラー画像を得るように構成することもできる。
【0118】
代替手段として、処理モジュール502は、
初期顔色素検出モデルによりメラニン色素詳細画像及びメラニン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、実際のメラニン色素高精細画像を得、ヘモグロビン色素詳細画像及びヘモグロビン色素カラー画像内の同じ位置と同じチャネルの各画素値をそれぞれ加算して、実際のヘモグロビン色素高精細画像を得るように構成することもできる。
【0119】
代替手段として、ゲイン処理は、圧縮処理、カラーフォーマット変換処理、色素領域のカラー調整処理のうちの少なくとも1つを含み得る
【0120】
代替手段として、色素領域のカラー調整処理は、オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を検出し、オリジナルサンプル画像からメラニン色素領域及びヘモグロビン色素領域を除去し、メラニン色素領域及びヘモグロビン色素領域を除去した後の画像とオリジナルサンプル画像との融合処理を施すことを含み得る。
【0121】
上記装置は、前述の実施形態で提供される方法を実行するために用いられ、実現原理及び技術的効果は類似であるため、ここでその説明を省略する。
【0122】
上記モジュールは、上記方法を実施するように構成された1つ又は複数の集積回路であり得、例えば1つ又は複数の特定用途向け集積回路(Application Specific Integrated Circuit、ASICと略称する)、或いは1つ又は複数のマイクロプロセッサ(digital singnal processor、DSPと略称する)、若しくは1つ又は複数のフィールドプログラマブルゲートアレイ(Field Programmable Gate Array、FPGAと略称する)などである。さらに、上記モジュールの1つが処理要素スケジューリングプログラムコードの形式で実現される場合、該処理要素は汎用プロセッサ、例えば中央処理装置(Central Processing Unit、CPUと略称する)或いはプログラムコードを呼び出すことができるプロセッサであり得る。さらに、これらのモジュールを集積して、システムオンチップ(system-on-a-chip、SOCと略称する)の形式で実現することができる。
【0123】
代替手段として、本出願は、プロセッサによって実行されたときに上記の方法の実施形態を実行するためのプログラムを含むコンピュータ読み取り可能な記憶媒体などのプログラム製品をさらに提供する。
【0124】
本出願で提供されるいくつかの実施形態において、開示された装置及び方法は、他の態様によって実現され得ることが理解されるべきである。例えば上記の装置の実施形態は例示にすぎない。例えばユニットの分割は論理的な機能分割にすぎない。実際に実現する時、他の分割方法があり得、例えば複数のユニット又はコンポーネントを組み合わせてもよいし、或いは別のシステムに集積され得るか、一部の特徴が無視されるか、実行されないこともできる。一方、表示又は議論された相互結合或いは直接結合又は通信接続は、いくつかのインターフェース、装置或いはユニットの間接結合或いは通信接続を介することができ、電気的、機械的又は他の形態であってもよい。
【0125】
個別の構成要素として説明されているユニットは、物理的に分離されている場合と分離されていない場合があり、ユニットとして表示され構成要素は物理的なユニットである場合とそうでない場合があり、すなわち1つの場所に配置することも、複数のネットワークユニットに分散することもできる。 実際のニーズに応じてユニットの一部又は全部を選択して本実施形態における解決手段の目的を達成することができる。
【0126】
また、本出願の各実施形態における各機能ユニットは、1つの処理ユニットに集積され得、各ユニットは物理的に単独で存在してもよく、2つ以上のユニットが1つのユニットに集積されてもよい。上記の集積ユニットは、ハードウェアの形態で実施され得、ハードウェアとソフトウェアの機能ユニットの形態で実施されてもよい。
【0127】
ソフトウェア機能ユニットの形態で実施される上記の集積ユニットは、コンピュータ読み取り可能な記憶媒体に格納することができる。上記のソフトウェア機能ユニットは、記憶媒体に格納され、本出願の様々な実施形態に記載の方法の一部ステップをコンピュータ機器 (パソコン、サーバ又はネットワーク機器などであり得る) 又はプロセッサ(英語:processor)に実行させるいくつかの命令を含む。前記記憶媒体としては、Uディスク、モバイルハードディスク、読み取り専用メモリ(英語:Read-Only Memory、略称:ROM)、ランダムアクセスメモリ(英語:Random Access Memory、略称:RAM)、磁気ディスク又は光ディスクなどのプログラムコードを保存できる様々なメディアが挙げられる。
【産業上の利用可能性】
【0128】
本出願の実施形態は、顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体を提供し、該方法はオリジナルサンプル画像にゲイン処理を施してターゲットサンプル画像を得るステップと、ターゲットサンプル画像を初期顔色素検出モデルに入力し、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像を得るステップと、オリジナルサンプル画像に分解処理を施して教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を得るステップと、教師メラニン色素高精細画像及び教師ヘモグロビン色素高精細画像を教師パラメータとして、実際のメラニン色素高精細画像及び実際のヘモグロビン色素高精細画像に従い初期顔色素検出モデルに反復処理・補正を施してターゲット顔色素検出モデルを得るステップとを含む。この技術的手段は、低価格なカメラ撮影の画質が低いことにより画像の隣り合う画素の色が同じになるような傾向があることで、顔画像内の異なる色素の分解品質を低下させるという問題を解決する。
【0129】
また、本出願の顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体は、再現可能であり、多種多様な産業用途で使用できることが理解されたい。例えば本出願の顔色素検出モデルトレーニングの方法、装置、機器及び記憶媒体は、画像処理の技術分野に使用されることができる。
【国際調査報告】