【文献】
津村 徳道,“画像からの質感解析とその応用”,映像情報メディア学会誌,日本,一般社団法人映像情報メディア学会,2012年 5月 1日,Vol.66, No.5,pp.349-356
(58)【調査した分野】(Int.Cl.,DB名)
前記周波数成分分離工程は、更に、前記顔画像に含まれる、形状が規格化された前記複数のサンプル顔画像を、高周波成分が除去された低周波成分画像及び該高周波成分のみを含む高周波成分画像に分離し、
前記複数のサンプル顔画像から前記周波数成分分離工程により分離された、前記低周波成分画像及び前記高周波成分画像の各々に対する主成分分析により、前記低周波成分画像及び前記高周波成分画像に関し、前記基底ベクトルをそれぞれ取得する基底ベクトル取得工程と、
前記基底ベクトル取得工程での前記主成分分析により、前記複数のサンプル顔画像の各々に関する、前記基底ベクトルの複数の重み係数をそれぞれ取得するサンプル係数取得工程と、
前記サンプル係数取得工程により取得された前記複数の重み係数の中の前記複数の分析対象重み係数と、前記複数のサンプル顔画像に関する複数の指標値とを用いた重回帰分析により、前記顔画像指標式を推定する指標式算出工程と、
を更に含む請求項1に記載の顔画像分析方法。
前記周波数成分分離工程は、前記顔画像に対して、複数段階の2次元離散ウェーブレット変換を行うことにより、各段階について、対角低周波成分画像、対角高周波成分画像、水平方向高周波成分画像及び垂直方向高周波成分画像をそれぞれ生成し、
前記対象係数取得工程は、前記対象顔画像のための前記複数の重み係数を、前記各段階の、前記対角低周波成分画像、前記対角高周波成分画像、前記水平方向高周波成分画像及び前記垂直方向高周波成分画像の各々について取得する、
請求項1から4のいずれか1項に記載の顔画像分析方法。
【発明を実施するための形態】
【0014】
以下、本発明の実施の形態について説明する。なお、以下に挙げる各実施形態はそれぞれ例示であり、本発明は以下の各実施形態の構成に限定されない。
【0015】
[第1実施形態]
〔ハードウェア構成〕
図1は、第1実施形態における顔画像分析装置(以降、単に分析装置とも表記する)10のハードウェア構成例を概念的に示す図である。第1実施形態における分析装置10は、いわゆるコンピュータであり、CPU(Central Processing Unit)2、メモリ3、入出力インタフェース(I/F)4等を有する。メモリ3は、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスク、可搬型記憶媒体等である。
【0016】
入出力I/F4は、入力部7、出力部9、他のコンピュータや他の装置と通信を行う通信装置等と接続される。入力部7は、キーボード、マウス等のようなユーザ操作の入力を受け付ける装置である。出力部9は、ディスプレイ装置やプリンタ等のようなユーザに情報を提供する装置である。なお、分析装置10のハードウェア構成は制限されない。
【0017】
〔動作例(顔画像分析方法)〕
図2は、第1実施形態における顔画像分析装置10の動作例を示すフローチャートである。以下、
図2を用いて、第1実施形態における顔画像分析方法を説明する。
顔画像分析装置10により実行される顔画像分析方法は、
図2に示されるように、周波数成分分離工程(S21)、対象係数取得工程(S22)及び分析工程(S23)を含む。
【0018】
周波数成分分離工程(S21)は、形状が規格化された顔画像を、高周波成分が除去された低周波成分画像及びその高周波成分のみを含む高周波成分画像に分離する。顔画像の規格化には、アフィン変換を用いたワーピング処理やモーフィング処理等が行われる。顔画像の規格化の詳細については、第2実施形態以降で説明する。第1実施形態において、周波数成分分離が行われる前の、形状が規格化された顔画像は、後述のような内部反射光画像でなくてもよく、後述のような独立成分分析により分離されるヘモグロビン色素画像、メラニン色素画像及び陰影画像でなくてもよい。
【0019】
顔画像分析装置10は、周波数分解、多重解像度解析等と呼ばれる周知の画像処理技術を用いて、当該顔画像から、低周波成分画像及び高周波成分画像を抽出する。例えば、顔画像分析装置10は、当該顔画像を2次元フーリエ変換して得られる空間周波数成分の情報に、所定の高周波成分及び所定の低周波成分を除去するフィルタを掛け、このフィルタリングされた空間周波数成分情報を逆2次元フーリエ変換することで、低周波成分画像及び高周波成分画像を取得することができる。また、顔画像分析装置10は、2次元離散ウェーブレット変換のような多重解像度解析を用いて、当該顔画像から、低周波成分画像及び高周波成分画像を抽出することもできる。2次元離散ウェーブレット変換の詳細については後述する。本実施形態は、当該顔画像から低周波成分画像及び高周波成分画像を抽出する手法を制限しない。更に、本実施形態は、分離される低周波成分画像及び高周波成分画像の数を制限しない。
【0020】
ここで、形状が規格化された顔画像には、分析対象となる顔画像(以降、対象顔画像とも表記する)、サンプル顔画像等が含まれる。対象顔画像は、サンプル顔画像に含まれてもよい。このため、(S21)では、顔画像分析装置10は、形状が規格化された対象顔画像を当該低周波成分画像及び当該高周波成分画像に分離してもよいし、形状が規格化された複数のサンプル顔画像を当該低周波成分画像及び当該高周波成分画像に分離してもよい。
【0021】
対象係数取得工程(S22)は、複数のサンプル顔画像から求められる複数次の基底ベクトルを取得し、形状が規格化された対象顔画像から周波数成分分離工程(S21)で分離された低周波成分画像及び高周波成分画像の各々に対する主成分分析(PCA)により、対象顔画像に関する、当該基底ベクトルの複数の重み係数を取得する。具体的には、顔画像分析装置10は、複数次の基底ベクトルの元となる複数のサンプル顔画像の平均顔と対象顔画像との差分情報を取得し、この差分情報と複数次の基底ベクトルとの内積を計算することにより、対象顔画像に関する、当該複数次の基底ベクトルの重み係数を取得することができる。ここで取得される複数の重み係数は、当該基底ベクトルの各基底次数の重み係数の集まりである。よって、顔画像分析装置10は、(S21)での分離単位ごとに、複数の重み係数をそれぞれ取得する。
【0022】
分析工程(S23)は、(S22)で取得された複数の重み係数から複数の分析対象重み係数を選択し、選択された複数の分析対象重み係数と顔画像指標式とを用いて、対象顔画像を分析する。分析対象重み係数とは、基底ベクトルが持つ基底次数の中の少なくとも一部の分析対象基底次数における重み係数を意味する。分析対象重み係数は、基底ベクトルが持つ全基底次数の全重み係数であってもよいし、一部の基底次数の重み係数であってもよい。また、顔画像指標式とは、当該基底ベクトルの元となる複数のサンプル顔画像から求められる複数の分析対象重み係数及び複数の指標値を用いた重回帰分析により、算出される重回帰式を意味する。この顔画像指標式の取得方法の詳細については第2実施形態以降で説明する。
【0023】
顔画像分析装置10は、対象顔画像の分析として、顔画像指標式で用いられる指標に関する、対象顔画像のあてはまり程度を示す指標値を算出してもよいし、その指標に基づいて対象顔画像を変調してもよい。指標値は、上述したように、定量的な指標の値であってもよいし、顔全体の印象を定量化した値であってもよい。本実施形態は、対象顔画像の分析対象重み係数と顔画像指標式とを用いた分析であれば、分析工程における対象顔画像の分析内容を制限しないし、評価指標についても制限しない。
【0024】
〔処理構成〕
図3は、第1実施形態における顔画像分析装置10の処理構成例を概念的に示す図である。第1実施形態における顔画像分析装置10は、周波数成分分離部12、対象係数取得部14、分析部18等を有する。これら各処理部は、例えば、CPU2によりメモリ3に格納されるプログラムが実行されることにより実現される。また、当該プログラムは、例えば、CD(Compact Disc)、メモリカード等のような可搬型記録媒体やネットワーク上の他のコンピュータから入出力I/F4を介してインストールされ、メモリ3に格納されてもよい。
【0025】
顔画像分析装置10は、
図3に示される各処理部を用いて、
図2に示される顔画像分析方法を実行することができる。この場合、周波数成分分離部12は、上述の周波数成分分離工程(S21)を実行し、対象係数取得部14は、上述の対象係数取得工程(S22)を実行し、分析部18は、上述の分析工程(S23)を実行する。
【0026】
顔画像分析装置10は、形状が規格化された対象顔画像及びサンプル顔画像、並びに、当該複数次の基底ベクトル及び当該顔画像指標式を、顔画像分析装置10自身で予め保持していてもよいし、顔画像分析装置10自身で生成してもよいし、他のコンピュータや可搬型記録媒体等から入出力I/F4を介して取得してもよい。
【0027】
〔第1実施形態における作用及び効果〕
上述のように、第1実施形態では、対象顔画像から、高周波成分が除去された低周波成分画像及びその高周波成分のみを含む高周波成分画像が抽出され、低周波成分画像及び高周波成分画像に対してそれぞれ、複数のサンプル顔画像から得られた複数次の基底ベクトルを用いた主成分分析(PCA)が行われる。これにより、対象顔画像に関する複数次の基底ベクトルの重み係数が、空間周波数成分の分離単位毎にそれぞれ算出される。
【0028】
ここで、対象顔画像に含まれる低周波成分は、顔全体又は顔の部位全体にわたる広範囲の色素濃度分布と定義することができ、顔の肌全体の色素濃度に関係する成分を示す。一方、高周波成分は、局所的な色素濃度分布と定義することができ、顔に含まれる微細な色素濃度に関係する成分を示す。第1実施形態では、このように特徴の異なった各色素濃度分布(高周波成分画像及び低周波成分画像)に対しPCAを行うことで、特徴の異なった各色素濃度分布の特徴量を取得することができる。具体的には、低周波成分画像から得られる基底ベクトルは、顔全体の色素ムラを表現し、高周波成分画像から得られる基底ベクトルは、顔の微細な色素ムラや個人の特徴を表現する。従って、第1実施形態によれば、先行技術では考慮することが困難であった特徴量(狭帯域の空間周波数特性)を利用することができる。このような作用効果は、実施例の項において更に詳述する。
【0029】
第1実施形態では、このような複数の重み係数の中から選択された複数の分析対象重み係数と、複数のサンプル顔画像に基づく顔画像指標式とに基づいて、対象顔画像が分析される。従って、第1実施形態によれば、顔全体に広がる特徴、顔の微細な特徴及び個人的な特徴を網羅的に考慮して顔画像分析を行うことができる。結果、第1実施形態によれば、顔画像を用いて、顔全体の評価指標を高精度に分析することができる。
【0030】
[第2実施形態]
以下、第2実施形態における顔画像分析装置10及び顔画像分析方法について、第1実施形態と異なる内容を中心に説明する。第1実施形態と同じ内容の説明は、適宜省略される。第2実施形態における顔画像分析装置10のハードウェア構成は、
図1に示される第1実施形態と同じである。
【0031】
〔動作例(顔画像分析方法)〕
以下、第2実施形態における顔画像分析方法を説明する。
顔画像分析装置10により実行される第2実施形態における顔画像分析方法は、サンプル顔画像を分析する第1工程と、対象顔画像を分析する第2工程とを含む。当該第1工程は、基底ベクトルや顔画像指標式を更新する場合を除き、1度実行されればよい。当該第2工程は、当該第1工程の後に実行され、対象顔画像の分析が要求されるタイミングで実行されればよい。
【0032】
図4は、第2実施形態における顔画像分析装置10における、サンプル顔画像を分析する動作の例を示すフローチャートである。以下、
図4を用いて、第2実施形態における顔画像分析方法に含まれる上記第1工程について説明する。
【0033】
画像取得工程(S41)は、各サンプル提供者の顔全体がそれぞれ写る複数の内部反射光画像を取得する。内部反射光画像とは、顔の肌表面での反射光成分が除外された、サンプル提供者の顔画像である。顔画像分析装置10が、入出力I/F4を介して接続される撮像装置(図示せず)を有している場合には、例えば、次のような方法で内部反射光画像を取得することができる。光源の前(光源とサンプル提供者との間)にs偏光のみを通す偏光板Sが設置され、p偏光のみを通する偏光板Pが撮像装置の前(撮像装置とそのサンプル提供者との間)に設置された環境において、撮像装置は、偏光板Pを介して、サンプル提供者の顔全体を撮像する。顔画像分析装置10は、撮像装置で撮像された各サンプル提供者の顔画像を入出力I/F4を介してそれぞれ取得する。
【0034】
顔画像分析装置10は、複数の内部反射光画像を、可搬型記録媒体、他のコンピュータ等から入出力I/F4を経由して取得してもよい。なお、本実施形態では、内部反射光画像のデータ形式は制限されない。当該画像データは、例えば、JPEG(Joint Photographic Experts Group)形式、GIF(Graphic Interchange Format)形式等のファイルとして取得される。
【0035】
また、取得される内部反射光画像には、顔全体が写っていればよく、背景や頭部以外の部位が写っていてもよい。また、評価指標に応じて、サンプル提供者の顔は、素顔でも化粧を施した顔(化粧顔)でもよい。サンプル提供者は、分析対象の年齢層及び性別をカバーするように、決められることが望ましい。以降、(S41)で取得された内部反射光画像は、単に、顔画像と表記される。
【0036】
規格化工程(S42)は、(S41)で取得された各顔画像から、形状が規格化された複数のサンプル顔画像及び平均顔画像を生成する。本実施形態は、顔画像の形状の規格化手法を制限しない。例えば、顔画像分析装置10は、次のように、規格化工程を実行する。顔画像分析装置10は、元の顔画像から複数の特徴点を検出し、検出された特徴点の外縁に基づいて顔領域を抽出し、抽出された顔領域の正規化(ワーピング処理)を行う。顔領域の正規化により、顔の向き、大きさ、画像内の位置が統一される。更に、顔画像分析装置10は、正規化された各サンプル提供者の顔画像を合成することで、複数のサンプル提供者の平均顔を生成し、正規化された各顔画像の形状をその平均顔の形状に標準化する。このような顔画像の操作は、例えば、FUTON(foolproof utilities for facial image manipulation system)と呼ばれる周知の顔画像合成システムを用いて実施される。顔画像分析装置10は、標準化された各顔画像から分析対象外領域(肌色の部分以外の領域(目、唇、眉等))を除外することで、当該複数のサンプル顔画像を生成する。
【0037】
独立成分分析工程(S43)は、平均顔画像及び形状が規格化された複数のサンプル顔画像に対して独立成分分析を行うことで、平均顔画像及び各サンプル顔画像から、ヘモグロビン色素画像、メラニン色素画像及び陰影画像をそれぞれ抽出する。以降、(S43)で抽出されるヘモグロビン色素画像、メラニン色素画像及び陰影画像をそれぞれ色素成分画像と表記する場合もある。ここで、独立成分分析を用いて、顔画像から3タイプの色素成分画像を抽出する手法には、上記非特許文献1に記載される色素成分分解法を用いることができる。
【0038】
周波数成分分離工程(S44)は、(S43)で抽出されたヘモグロビン色素画像、メラニン色素画像及び陰影画像をそれぞれ、高周波成分が除去された低周波成分画像及びその高周波成分のみを含む高周波成分画像に分離する。(S44)における空間周波数成分を分離する手法は、第1実施形態における(S21)と同様である。ここまでの工程により、平均顔画像及び形状が規格化された各サンプル顔画像から、次のような低周波成分画像及び高周波成分画像がそれぞれ取得される。
−ヘモグロビン色素画像の高周波成分画像
−ヘモグロビン色素画像の低周波成分画像
−メラニン色素画像の高周波成分画像
−メラニン色素画像の低周波成分画像
−陰影画像の高周波成分画像
−陰影画像の低周波成分画像
【0039】
基底ベクトル取得工程(S45)は、(S44)で分離された、低周波成分画像及び高周波成分画像のそれぞれを主成分分析することにより、各低周波成分画像及び各高周波成分画像に関し、複数次の基底ベクトルをそれぞれ取得する。言い換えれば、顔画像分析装置10は、平均顔画像及び全サンプル顔画像の各々から(S44)の分離で得られる上述の6つの画像タイプの各々に対して主成分分析をそれぞれ行う。この主成分分析では、各サンプル顔と平均顔との各差分情報から固有ベクトル及び固有値がそれぞれ算出され、算出された固有ベクトル及び固有値から複数次の基底ベクトルが取得される。これにより、顔画像分析装置10は、上述の6つの画像タイプに対応する6つの複数次の基底ベクトルを取得する。基底ベクトルの次数は、例えば、サンプル提供者の数に対応する。
【0040】
サンプル係数取得工程(S46)は、(S45)での主成分分析により、複数のサンプル顔画像の各々についての、複数次の基底ベクトルの重み係数をそれぞれ取得する。具体的には、顔画像分析装置10は、各サンプル顔画像に関し、上述の6つの画像タイプに対応する6つの複数次の基底ベクトルの重み係数をそれぞれ取得する。
【0041】
分析対象基底次数選択工程(S47)は、基底ベクトルの基底次数の中から分析対象となる基底次数(分析対象基底次数)を選択する。顔画像分析装置10は、全ての基底次数を分析対象基底次数に設定してもよいし、次のように一部の基底次数を分析対象基底次数に設定してもよい。顔画像分析装置10は、(S46)で取得された、複数のサンプル顔画像の各々についての重み係数群と、各サンプル顔画像に関する指標値との関係を重回帰分析し、決定係数(R
2)に基づいて、基底ベクトルが持つ全基底次数の中から、分析対象基底次数を選択する。例えば、決定係数が所定値より大きい基底次数が分析対象基底次数に選択されてもよいし、決定係数の大きい基底次数から所定数の基底次数が分析対象基底次数に選択されてもよい。分析対象基底次数は、上述のように算出された6つの複数次の基底ベクトルの各々について別々に選択されてもよいし、共通に選択されてもよい。また、各サンプル顔画像に関する指標値は、サンプル提供者へのヒアリングや所定評価者による官能評価に基づいて予め収集され、内部反射光画像と共に顔画像分析装置10により取得される。
【0042】
指標式算出工程(S48)は、(S47)で選択された分析対象基底次数に基づいて、(S46)で取得された複数の重み係数の中から、複数の分析対象重み係数を選択し、選択された複数の分析対象重み係数と、複数のサンプル顔画像に関する複数の指標値との関係を重回帰分析することにより、重回帰式である顔画像指標式を推定する。即ち、顔画像指標式は、分析対象重み係数を説明変数とし、指標値を目的変数とする重回帰式である。(S48)により、顔画像分析装置10は、上述の6つの画像タイプに対応する6つの顔画像指標式を推定する。
【0043】
図5は、第2実施形態の顔画像分析装置10における、対象顔画像を分析する動作の例を示すフローチャートである。以下、
図5を用いて、第2実施形態における顔画像分析方法に含まれる上記第2工程について説明する。
【0044】
画像取得工程(S51)は、被験者の顔全体が写る内部反射光画像を取得する。内部反射光画像の取得方法については
図4の(S41)と同様である。ここで取得される内部反射光画像には、被験者の顔全体が写っていればよく、背景や頭部以外の部位が写っていてもよく、分析の指標に応じて、内部反射光画像に写る被験者の顔は、素顔でも化粧を施した顔(化粧顔)でもよい。以降、(S51)で取得された内部反射光画像は、(S51)で取得された顔画像と表記される。
【0045】
規格化工程(S52)は、(S51)で取得された顔画像から、形状が規格化された対象顔画像を生成する。顔画像の形状の規格化手法は、基本的には、(S42)と同様である。但し、(S52)では、顔画像分析装置10は、正規化された顔画像の形状を、(S42)で生成された平均顔の形状に標準化する。
【0046】
独立成分分析工程(S53)は、形状が規格化された対象顔画像に対して独立成分分析を行うことで、対象顔画像から、ヘモグロビン色素画像、メラニン色素画像及び陰影画像をそれぞれ抽出する。独立成分分析の手法については(S43)と同様である。
【0047】
周波数成分分離工程(S54)は、処理対象となる画像が対象顔画像である点以外、(S44)と同様である。ここまでの工程により、形状が規格化された対象顔画像から、次のような低周波成分画像及び高周波成分画像がそれぞれ取得される。
−ヘモグロビン色素画像の高周波成分画像
−ヘモグロビン色素画像の低周波成分画像
−メラニン色素画像の高周波成分画像
−メラニン色素画像の低周波成分画像
−陰影画像の高周波成分画像
−陰影画像の低周波成分画像
【0048】
対数係数取得工程(S55)は、(S54)で分離された、低周波成分画像及び高周波成分画像に対する主成分分析により、対象顔画像に関する、複数次の基底ベクトルの重み係数を取得する。このとき、顔画像分析装置10は、(S45)で取得された上述の6つの画像タイプに対応する6つの複数次の基底ベクトルを用いて、主成分分析を行う。具体的には、顔画像分析装置10は、(S42)で生成された平均顔と対象顔画像との差分情報を取得し、この差分情報と(S45)で取得された複数次の基底ベクトルとの内積を計算することにより、対象顔画像に関する、当該複数次の基底ベクトルの重み係数を取得することができる。これにより、顔画像分析装置10は、対象顔画像に関し、上述の6つの画像タイプに対応する6つの複数次の基底ベクトルの重み係数をそれぞれ取得する。
【0049】
分析工程(S56)は、(S47)で選択された分析対象基底次数に基づいて、(S55)で取得された複数の重み係数の中から複数の分析対象重み係数を選択し、選択された複数の分析対象重み係数と、(S48)で算出された顔画像指標式とを用いて、上述の6つの画像タイプに対応する、対象顔画像の6つの指標値を推定する。具体的には、顔画像分析装置10は、各画像タイプに対応する複数の分析対象重み係数を、各画像タイプに対応する顔画像指標式にそれぞれ適用することで、各画像タイプに対応する対象顔画像の指標値をそれぞれ推定する。
【0050】
図4及び
図5では、サンプル提供者と被験者とが異なることが想定されたが、サンプル提供者の中に被験者が含まれていてもよい。即ち、複数のサンプル顔画像の中に対象顔画像が含まれてもよい。この場合、
図5に示される(S51)から(S55)は、
図4に示される(S41)から(S44)及び(S46)に代替されるため、実行されなくてもよい。
〔装置構成〕
図6は、第2実施形態における顔画像分析装置10の処理構成例を概念的に示す図である。第2実施形態における顔画像分析装置10は、画像取得部21、規格化処理部22、独立成分分析部23、周波数成分分離部24、主成分分析部25、回帰分析部26、顔画像分析部27等を有する。これら各処理部は、例えば、CPU2によりメモリ3に格納されるプログラムが実行されることにより実現される。また、当該プログラムは、例えば、CD、メモリカード等のような可搬型記録媒体やネットワーク上の他のコンピュータから入出力I/F4を介してインストールされ、メモリ3に格納されてもよい。
【0051】
顔画像分析装置10は、
図6に示される各処理部を用いて、次のように、
図4及び
図5に示される顔画像分析方法を実行することができる。画像取得部21は、画像取得工程(S41)及び(S51)を実行する。規格化処理部22は、規格化工程(S42)及び(S52)を実行する。独立成分分析部23は、独立成分分析工程(S43)及び(S53)を実行する。周波数成分分離部24は、周波数分離工程(S44)及び(S54)を実行する。主成分分析部25は、基底ベクトル取得工程(S45)、サンプル係数取得工程(S46)及び対象係数取得工程(S55)を実行する。回帰分析部26は、分析対象基底次数選択工程(S47)及び指標式算出工程(S48)を実行する。顔画像分析部27は、分析工程(S56)を実行する。周波数成分分離部24は、第1実施形態における周波数成分分離部12に相当し、主成分分析部25は、第1実施形態における対象係数取得部14に相当し、顔画像分析部27は、第1実施形態における分析部18に相当する。
【0052】
〔第2実施形態における作用及び効果〕
顔全体の評価指標に影響を与える色ムラには、ソバカス、ホクロ、シミ(色素沈着)等のメラニン色素を要因とする色ムラと、ニキビ、頬の赤身等のヘモグロビン色素を要因とする色ムラとがある。よって、色ムラに関する指標を高精度に分析するためには、異なる要因毎に分析することが望ましい。例えば、顔の加齢変化を考えた場合、メラニン色素を要因とする色ムラと、ヘモグロビン色素を要因とする色ムラとでは、要因となる要素が異なるため、それぞれ異なる変化を示す可能性が高い。更に、顔全体の評価指標に影響を与える他の因子として、目元のしわ、ほうれい線、頬や顎のたるみ、頬のこけ等のような凹凸ムラがある。凹凸ムラは、陰影として顔画像に表われる。よって、凹凸ムラに関する指標を高精度に分析するためには、顔画像内において、上述のような色素成分とは分けて陰影成分を分析することが望ましい。
【0053】
そこで、上述のように第2実施形態では、平均顔画像及び形状が規格化された複数のサンプル顔画像並びに形状が規格化された対象顔画像に対して独立成分分析が適用され、平均顔画像及び各サンプル顔画像並びに対象顔画像から、ヘモグロビン色素画像、メラニン色素画像及び陰影画像がそれぞれ抽出される。更に、これら分離された各成分画像に対して、周波数成分分離が行われる。これにより、第2実施形態によれば、ヘモグロビン色素画像、メラニン色素画像及び陰影画像の抽出が行われない形態に比べて、顔全体における色素ムラ及び凹凸ムラを高精度に分析することができる。
【0054】
更に、第2実施形態では、分析の元となる顔画像として、内部反射光画像が利用される。これにより、処理対象となる顔画像に、表面反射光成分等の、色ムラ及び凹凸ムラの分析にとってのノイズ成分が含まれるのを防ぐことができ、結果として、内部反射光画像でない通常の顔画像が利用される形態に比べて、色ムラ及び凹凸ムラに関する分析精度を向上させることができる。
【0055】
また、第2実施形態では、上述のように得られるヘモグロビン色素画像、メラニン色素画像及び陰影画像に対して、主成分分析が適用されて、複数のサンプル顔画像に対する複数次の基底ベクトルが取得される。この基底ベクトルが利用されて、複数のサンプル顔画像の各々及び対象顔画像に関する、当該基底ベクトルの複数の重み係数がそれぞれ取得される。これにより、第2実施形態によれば、顔画像における、広帯域の空間周波数特性のみでなく、狭帯域の空間周波数特性を考慮することができ、ひいては、顔全体に広がる特徴、顔の微細な特徴及び個人的な特徴を網羅的に考慮して顔画像分析を行うことができる。
【0056】
更に、第2実施形態では、複数のサンプル顔画像の各々についての重み係数群と、各サンプル顔画像に関する指標値との関係の重回帰分析により、基底ベクトルが持つ全基底次数の中から、顔全体の評価指標に与える影響の大きい基底次数が、分析対象基底次数として選択される。そして、選択された分析対象基底次数の重み係数と、複数のサンプル顔画像に関する複数の指標値との関係を重回帰分析することにより、重回帰式である顔画像指標式が推定される。これにより、全ての基底次数を用いて顔画像指標式を得るのに比べて、効率的に顔画像指標式を得ることができる。
【0057】
第2実施形態では、複数のサンプル顔画像からこのように得られた基底ベクトル及び顔画像指標式、並びに、対象顔画像からこのように得られた重み係数群を用いて、各画像タイプ(ヘモグロビン色素画像、メラニン色素画像及び陰影画像と、高周波成分画像及び低周波成分画像との各ペア)に対応する対象顔画像の指標値がそれぞれ推定される。従って、第2実施形態によれば、顔全体の評価指標に影響与え得る色ムラ及び凹凸ムラの要因ごとの、顔全体に広がる特徴、顔の微細な特徴及び個人的な特徴が網羅的に反映された指標値を得ることができ、結果として、顔画像を用いて、顔全体の評価指標を高精度に分析することができる。
【0058】
[第3実施形態]
以下、第3実施形態における顔画像分析装置10及び顔画像分析方法について、第1実施形態及び第2実施形態と異なる内容を中心に説明する。第1実施形態及び第2実施形態と同じ内容の説明は、適宜省略される。第3実施形態における顔画像分析装置10のハードウェア構成は、
図1に示される第1実施形態と同じである。
【0059】
〔動作例(顔画像分析方法)〕
以下、第3実施形態における顔画像分析方法を説明する。
第3実施形態における顔画像分析方法は、対象顔画像を分析する第2工程に含まれる分析工程において、対象顔画像を変調する点で、第2実施形態と異なる。
【0060】
図7は、第3実施形態における顔画像分析装置10における、対象顔画像を分析する動作の例を示すフローチャートである。以下、
図7を用いて、第3実施形態における顔画像分析方法に含まれる上記第2工程について説明する。但し、
図7において、
図5と同じ符号が付された工程(S51)から工程(S56)は、第2実施形態と同様である。第3実施形態における顔画像分析方法は、分析工程(S56)に、目標取得工程(S71)及び顔画像変調工程(S72)を含む。
【0061】
目標取得工程(S71)では、顔画像分析装置10は、目標指標値を取得する。顔画像分析装置10は、目標指標値を、可搬型記録媒体、他のコンピュータ等から入出力I/F4を経由して取得してもよいし、入力部7を用いてユーザにより入力されたデータとして取得してもよいし、予め保持していてもよい。目標指標値とは、対象顔画像を変化させる目標となる指標値であり、例えば、被験者の実年齢30歳に対して、40歳が目標指標値に設定される。また、分析工程(S56)で対象顔画像の見た目年齢25歳が指標値として推定された場合、目標指標値として見た目年齢45歳が取得される。取得される目標指標値は任意である。
【0062】
顔画像変調工程(S72)では、顔画像分析装置10は、当該顔画像指標式を用いて、目標指標値と対象顔画像の現指標値との差分に対応する複数の分析対象重み係数を算出し、かつ、算出された複数の分析対象重み係数により、対象顔画像のための複数の分析対象重み係数を更新することで、対象顔画像を変調し、変調顔画像を生成する。ここで、対象顔画像の現指標値には、評価指標が定量的指標である場合には、対象顔画像に写る被験者の定量的な指標値(例えば、実年齢)が利用されてよく、評価指標が顔印象のような定性的指標である場合には、分析工程(
図5のS56)で推定された指標値が利用されてもよい。また、対象顔画像の現指標値は、可搬型記録媒体、他のコンピュータ等から入出力I/F4を経由して取得されてもよいし、入力部7を用いてユーザにより入力されてもよい。
【0063】
当該差分に対応する分析対象重み係数は、第2実施形態で説明した6つの画像タイプの各々の顔画像指標式に基づき、当該各画像タイプについてそれぞれ取得される。顔画像分析装置10は、当該差分に対応する分析対象重み係数を、分析工程(S56)で用いられる対象顔画像のための分析対象重み係数に加算又は減算し、更新された分析対象重み係数、及び、対象係数取得工程(S55)で取得された分析対象基底次数以外の基底次数の重み係数と、当該複数次の基底ベクトルと、平均顔との線形和により、当該6つの画像タイプに対応する変調画像を生成する。続いて、顔画像分析装置10は、その変調画像の中の、(S54)で分離された周波数成分画像どうしをそれぞれ再合成する。この再合成は、例えば、(S54)の分離処理の逆の処理を行うことで実現される。これにより、変調されたヘモグロビン色素画像、変調されたメラニン色素画像及び変調された陰影画像が得られる。
【0064】
顔画像分析装置10は、上記再合成により得られた、変調されたヘモグロビン色素画像、変調されたメラニン色素画像及び変調された陰影画像を、再統合する。この再統合には、例えば、上記非特許文献1に記載される手法が利用される。具体的には、上記非特許文献1に記載される(式10)におけるρ
m(x,y)、ρ
h(x,y)及びp
log(x,y)に、変調されたヘモグロビン色素画像、変調されたメラニン色素画像及び変調された陰影画像を適用することにより、変調後の画像に対応するc
log(x,y)が取得され、exp(c
log(x,y))×255を算出することにより、RGB画像である変調後の顔画像が取得される。ここで得られる変調後の顔画像は、形状が規格化された内部反射光画像を変調した画像である。
【0065】
顔画像分析装置10は、その変調後の顔画像に対して、規格化工程(S52)の逆の処理を適用することにより、規格化される前の形状を持つ変調後の内部反射光画像を取得する。具体的には、顔画像分析装置10は、除外された分析対象外領域(目、唇、眉等)を復元し、平均顔の形状から元の形状に復元する。
【0066】
図7の例では、目標取得工程(S71)で1つの目標指標値が得られることが例示されたが、複数の目標指標値が取得され(S71)、各目標指標値に対する変調後の顔画像がそれぞれ取得されてもよい(S72)。
【0067】
〔装置構成〕
図8は、第3実施形態における顔画像分析装置10の処理構成例を概念的に示す図である。第3実施形態における顔画像分析装置10は、第2実施形態の構成に加えて、顔画像変調部28を更に有する。顔画像変調部28についても、他の処理部と同様に実現される。
【0068】
顔画像分析装置10は、
図8に示される各処理部を用いて、
図4及び
図7に示される顔画像分析方法を実行することができる。顔画像変調部28は、目標取得工程(S71)及び顔画像変調工程(S72)を実行する。他の処理部については第2実施形態と同様である。
【0069】
第3実施形態では、第2実施形態における顔画像分析方法に、対象顔画像の変調が追加されたが、その分析工程(分析処理)における対象顔画像の指標値の推定を行うことなく、対象顔画像の変調が行われるようにしてもよい。この形態では、
図8の顔画像分析部27が不要となる。
【0070】
〔第3実施形態における作用及び効果〕
上述のように、第3実施形態では、目標指標値が取得され、元の対象顔画像が、この目標指標値に対応する顔画像に変調される。この顔画像変調では、サンプル顔画像を分析する第1工程で取得される顔画像指標式、基底ベクトル及び平均顔が利用され、当該第2工程の逆の手順が順次実行されることで、変調された対象顔画像が生成される。
【0071】
従って、第3実施形態によれば、第2実施形態で述べたような高精度な分析により得られる分析情報(基底ベクトル、顔画像指標式等)を用いて、対象顔画像を変調するため、目標指標値に対応する顔画像を高精度に生成することができる。即ち、第3実施形態によれば、現指標値から目標指標値への顔画像の変化を高精度に再現することができる。
【0072】
[上述の各実施形態の補足]
上述の各実施形態では、周波数成分分離処理において、顔画像から高周波成分画像と低周波成分画像とを抽出する例が示されたが、抽出される高周波成分画像及び低周波成分画像の数及び空間周波数の分離境界は制限されない。
【0073】
例えば、上記周波数成分分離工程(S54)において、顔画像分析装置10が、顔画像に対して、複数段階の2次元離散ウェーブレット変換を行うことにより、各段階について、対角低周波成分画像、対角高周波成分画像、水平方向高周波成分画像及び垂直方向高周波成分画像をそれぞれ生成するようにしてもよい。この場合、上記対象係数取得工程(S55)において、顔画像分析装置10は、対象顔画像のための複数の重み係数を、当該各段階の、対角低周波成分画像、対角高周波成分画像、水平方向高周波成分画像及び垂直方向高周波成分画像の各々について取得する。
【0074】
図9は、2次元離散ウェーブレット変換を用いた周波数成分分離処理の概念を示す図である。
図9の例によれば、顔画像分析装置10(周波数成分分離部24)は、独立成分分析により抽出されるヘモグロビン色素画像、メラニン色素画像及び陰影画像を処理前の顔画像として、この処理前の顔画像に対して2次元離散ウェーブレット変換を行うことにより低周波成分画像及び高周波成分画像を生成する。2次元離散ウェーブレット変換では、画像の横方向(各行)に対して離散ウェーブレット変換が行われることにより、画像が横方向における高周波成分Hと低周波成分Lとに分離される。次に、分離された画像に対して、縦方向(各列)に離散ウェーブレット変換が行われることにより、画像が横方向及び縦方向においてそれぞれ分離される。1段階の2次元離散ウェーブレット変換により、処理前の顔画像は、対角低周波成分画像LL、対角高周波成分画像HH、水平方向高周波成分画像HL及び垂直方向高周波成分画像LHに分離される。
【0075】
周波数成分分離処理において1段階の2次元離散ウェーブレット変換が行われる場合には、当該低周波成分画像として
図9に示される画像LLが抽出され、当該高周波成分画像として
図9に示される画像HL、LH及びHHが抽出される。更に、周波数成分分離処理では、複数段階の2次元離散ウェーブレット変換が行われてもよい。2段階の2次元離散ウェーブレット変換によれば、当該低周波成分画像として
図9に示される画像LL及びLLLLが抽出され、当該高周波成分画像として
図9に示される画像HH、HL、LH、LLHH、LLHL及びLLLHが抽出される。
【0076】
上述の第2実施形態及び第3実施形態に置いて、2段階の2次元離散ウェーブレット変換が行われる場合、顔画像分析装置10(主成分分析部25)は、次のような24個のタイプの各画像に対してそれぞれ主成分分析を行うことができる。但し、この場合でも、顔画像分析装置10は、低周波成分画像LLLL、及び、高周波成分画像HHに対してのみ、主成分分析を行うようにしてもよい。
−ヘモグロビン色素画像の低周波成分画像LLLL
−ヘモグロビン色素画像の低周波成分画像LL
−ヘモグロビン色素画像の高周波成分画像LLLH
−ヘモグロビン色素画像の高周波成分画像LLHL
−ヘモグロビン色素画像の高周波成分画像LLHH
−ヘモグロビン色素画像の高周波成分画像HL
−ヘモグロビン色素画像の高周波成分画像LH
−ヘモグロビン色素画像の高周波成分画像HH
−メラニン色素画像について8つの画像
−陰影画像について8つの画像
【0077】
ここで、2次元離散ウェーブレット変換の多重解像度解析によれば、元信号である画像(色素濃度分布)の次元(画素数)は、1段階あたり4分の1に減少する。即ち、処理前の顔画像の画素数が262144(=512×512)である場合、1段階変換後の低周波成分画像LLの画素数は、65536(=256×256)であり、2段階変換後の低周波成分画像LLLLの画素数は、16384(=128×128)であり、3段階変換後の低周波成分画像LLLLLLの画素数は、4096(=64×64)である。ここで、低周波成分画像の一画素で表わされる肌領域が約4mm(ミリメートル)程度となる段階までの多重解像度解析が行われることが望ましい。更に多くの段階まで多重解像度解析を行ってもよいが、分解能が低下するため、処理効率が悪くなるからである。例えば、262144画素の画像に顔全体(15から25cm程度)が写っている場合、その画像は、画素当たり約0.5mmの分解能を持ち、3段階変換後の画像は、約4mm程度の分解能を持つ。また、(1024×1024)画素の画像に顔全体が写っている場合には、4段階の2次元離散ウェーブレット変換を行えばよい。
【0078】
従って、顔画像分析装置10(周波数成分分離部24)は、顔画像の解像度(画素数)に基づいて、2次元離散ウェーブレット変換を行う段階数を決定するようにしてもよい。
【0079】
[変形例]
上述の第2実施形態及び第3実施形態では、内部反射光画像が取得され、形状が規格化された内部反射光画像に対して独立成分分析が行われ、独立成分分析により分離されたヘモグロビン色素画像、メラニン色素画像及び陰影画像に対して周波数成分分離処理が行われた。しかしながら、内部反射光ではなく、一般的な顔画像が取得され、形状が規格化された一般的な顔画像に対して独立成分分析が行われてもよいし、独立成分分析を行うことなく、形状が規格化された内部反射光画像に対して周波数成分分離処理を行うようにしてもよい。このような変形例では、第2実施形態及び第3実施形態に比べ、分析精度は落ちるものの、先行技術に比較しては有意な効果を得ることができる。
【0080】
また、評価指標が、テカリ成分等のような表面反射光で表わされる顔の特徴に由来するものである場合、内部反射光画像に代え、又は、内部反射光画像に加えて、表面反射光画像が取得され、形状が規格化された表面反射光画像に対して、上述のような処理が施されるようにしてもよい。この変形例によれば、テカリ成分等の他の成分を考慮して、顔全体の特徴解析及び顔画像操作を行うことができる。
【0081】
更に、上述の第2実施形態及び第3実施形態では、分析対象基底次数が選択されたが、処理速度は落ちるものの、全ての基底次数の重み係数を用いて重回帰分析を行うようにしてもよい。
【0082】
また、上述の第2実施形態及び第3実施形態では、当該6つの各画像タイプに対応する対象顔画像の指標値がそれぞれ推定されたが、対象顔画像の指標値が、或る統合された単位で推定されるようにしてもよい。例えば、顔画像分析装置10は、高周波成分画像及び低周波成分画像に関する各指標値を統合して、メラニン色素画像、ヘモグロビン色素画像及び陰影画像の3タイプについて、対象顔画像の指標値をそれぞれ推定するようにしてもよい。更に、顔画像分析装置10は、対象顔画像の1つの指標値を推定するようにしてもよい。
【0083】
以下に実施例を挙げ、上述の各実施形態を更に詳細に説明する。但し、上述の各実施形態は、以下の各実施例から限定を受けない。以下の各実施例により、上述の各実施形態の作用及び効果の正当性が証明される。
【実施例1】
【0084】
図10は、3段階の2次元離散ウェーブレット変換(多重解像度解析)の結果を示す図である。
図11は、1段階の2次元離散ウェーブレット変換(多重解像度解析)の結果を示す図である。
図10及び
図11における元信号となる処理前の顔画像の画素数は、262144(=512×512)である。但し、
図10及び
図11では、顔領域を明確に判断できるように、各周波数成分の画像に対してマスキング処理が施されている。
【0085】
図10及び
図11に示すように、多重解像度解析により、顔画像が、高周波成分画像と低周波成分画像とに分離されている。
図11(a)で示されるように、低周波成分画像は、色素濃度分布の大局的な情報を表しており、
図11(b)、(d)及び(e)に示されるように、高周波成分画像は、色素濃度分布の差分であるため、顔の局所的な色素濃度の変化を表している。即ち、高周波成分画像には、ほくろやそばかすといった微細な色ムラが含まれている。また、
図10に示されるように、多重解像度解析を多段階行うことで、より顕著に特徴量が分離され、低周波成分画像には、顔の色素濃度分布の微細な変化は含まれず、そのほとんどが高周波成分画像に含まれている。このように、
図10及び
図11によれば、3段階の多重解像度解析により、色素濃度分布の広範囲の変化と微細な変化の分離が可能であることが明らかとなる。
【0086】
図12は、低周波成分画像に対する主成分分析の結果を示す図であり、
図13は、高周波成分画像に対する主成分分析の結果を示す図である。
図12及び
図13では、17枚のサンプル顔画像が用いられたため、16個の主成分(16次の基底ベクトル)が得られた。
【0087】
図12によれば、低周波成分の主成分では、顔全体又は顔の部位全体にわたる色ムラの特徴量が表現されている。
図13によれば、高周波成分での主成分では、微細な色ムラや個人の特徴が表現されている。例えば、
図13(a)の第1主成分のほくろ部分や、
図13(d)の第4主成分の頬の部分等である。
図12及び
図13によれば、高周波成分の各主成分は、顔の微細な色ムラや個人独特の色ムラの特徴量を表現しているとみなすことができる。これにより、各周波数成分に対する主成分分析により、異なった種類の色素ムラの特徴量を得ることが可能であることが明らかとなり、更に、低周波数成分に対する主成分分析により、顔全体又は顔の部位全体にわたる色ムラの特徴量がより顕著に表現された主成分を得ることができることが明らかとなる。
【0088】
図14は、メラニン色素画像の低周波成分画像のみを変調させた結果を示す図であり、
図15は、メラニン色素画像の高周波成分画像のみを変調させた結果を示す図である。
図14及び
図15の例では、実年齢が評価指標とされ、対象顔画像の現指標値が24歳であり、20歳、30歳、40歳及び50歳の4つの目標指標値が設定され、各目標指標値に対応する変調顔画像がそれぞれ生成された。具体的には、3段階の離散ウェーブレット変換により得られる低周波成分画像を用いた重回帰分析により、実年齢を指標値とする顔画像指標式が取得され、この顔画像指標式を用いて、現指標値と各目標指標値との各差分に対応する分析対象重み係数がそれぞれ取得された。そして、各差分に対応する分析対象重み係数で更新された重み係数により、各目標指標値に対応する、変調された低周波成分画像がそれぞれ生成され、その変調された画像に対して逆2次元離散ウェーブレット変換を適用することで、各目標指標値に対応する、変調されたメラニン色素画像がそれぞれ生成された。その後、その再構成されたメラニン色素画像と、元のヘモグロビン色素画像及び元の陰影画像とを再合成することで、各年齢に対応する変調顔画像が生成された。
【0089】
図14に示されるように、低周波成分のみを加齢変調させた結果、顔全体の肌色が黒く変色していく結果が得られた。つまり、顔全体のメラニン濃度の増加とみなせる結果が得られた。一方、
図15に示されるように、高周波成分のみを年齢変調させた結果、そばかすのような微細な色ムラが徐々に発生していく結果が得られた。つまり、局所的なメラニン濃度の増加とみなせる結果が得られた。これらの結果は、主成分分析で取得された各周波数成分の色ムラの特徴量の特性に依存し、その特性を変調により強調した結果に相当し、この変調結果は、十分に加齢変調とみなすことができる。このように、周波数成分分離工程(周波数成分分離処理)により、顔全体の色素ムラの特徴量を低周波成分に、顔の微細な色素ムラの特徴量を高周波成分に分離することが可能であることが明らかとなった。そして、各周波数成分で主成分分析及び重回帰分析を行うことで、各周波数成分の特徴を有した顔の見えの変化の再現が可能であることが明らかとなった。
【0090】
以下、上述の第2実施形態及び第3実施形態と同様の手法で、20代から80代の203名(女性:201名、男性:2名)のサンプル顔画像が分析された結果が示される。以下には、分析結果として、選択された分析対象基底次数が例示される。この例では、各色素成分画像に対して3段階の2次元離散ウェーブレット変換が行われ、各周波数成分画像に対する主成分分析により複数次の基底ベクトルの重み係数が算出された。そして、算出された各サンプル顔画像の重み係数群と指標値との関係の重回帰分析の結果に基づいて、決定係数(R
2)の大きい基底次数から順に、分析対象基底次数が選択された。以下には、実年齢が評価指標とされた場合と、若々しさの印象が評価指標とされた場合との結果が示される。
【0091】
ここでは、上述の結果の一部を抜粋して例示する。具体的には、メラニン色素画像に関し分離される下記の各周波数成分画像の中の、(タイプ1)、(タイプ2)、(タイプ3)、(タイプ4)及び(タイプ5)について、選択された分析対象基底次数が抜粋される。
(タイプ1)メラニン色素画像の低周波成分画像LLLLLL
(タイプ2)メラニン色素画像の低周波成分画像LLLL
(タイプ3)メラニン色素画像の高周波成分画像LLLLLH
(タイプ4)メラニン色素画像の高周波成分画像LLHL
(タイプ5)メラニン色素画像の高周波成分画像LH
【0092】
以下、抜粋された各タイプについて、決定係数が大きい順に、分析対象基底次数が列挙される。
評価指数(指標値)が実年齢の場合:
(タイプ1)1、6、3、14、5、13、19、7、46、148、4、181
(タイプ2)1、6、3、13、5、14、19、126、7、20、4、81、9、37
(タイプ3)3、4、9、10、20、22、38、47、17、124、61、35、1、156、84、93
(タイプ4)1、3、4、5、17、81、50、12、15、59、27、65、124、94、40、181、191、74、103、37、61、13、187、153、9
(タイプ5)3、6、7、2、30、25、79、126、178、70、14、110、49、36、101、23、193、5、84、29、189、153、47、9、31、156、162、53、123、91、26、58、90、44、100、87
【0093】
評価指数が若々しさの場合の分析結果の例としては、指標式算出工程(指標式算出処理)で得られた顔画像指標式の一部が抜粋され、示される。なお、以下に示す各タイプは、上述の評価指数(指標値)が実年齢の場合と同様である。
【数1】
【0094】
次に、表面反射光画像を用いる具体例を実施例2として、以下に説明する。
【実施例2】
【0095】
以下、実施例2における顔画像分析装置10及び顔画像分析方法について、上述の内容とは異なる内容を中心に説明する。上述と同じ内容の説明は、適宜省略される。実施例2における顔画像分析装置10のハードウェア構成は、
図1に示される第1実施形態と同じである。
【0096】
〔動作例(顔画像分析方法)〕
以下、実施例2における顔画像分析方法を説明する。
図16は、実施例2における顔画像分析装置10の、サンプル顔画像を分析する動作の例を示すフローチャートである。以下、
図16を用いて、実施例2における顔画像分析方法に含まれる上記第1工程について説明する。
【0097】
画像取得工程(S161)は、各サンプル提供者の顔全体がそれぞれ写る複数の表面反射光画像を取得する。表面反射光画像とは、顔の肌表面での反射光成分を含む、サンプル提供者の顔画像である。表面反射光画像は、当該反射光成分のみを含んでもよいし、当該反射光成分と他の成分とを含んでもよい。顔画像分析装置10は、上述の複数の表面反射光画像を、可搬型記録媒体、他のコンピュータ等から入出力I/F4を経由して取得してもよい。また、顔画像分析装置10は、撮像装置(図示せず)を有する場合には、例えば、次のような方法で表面反射光画像を取得することができる。
【0098】
顔画像分析装置10は、被験者の肌にS偏光を投射しS偏光及びP偏光を撮像して得られる各偏光画像から表面反射光画像を取得する。具体的には、顔画像分析装置10は、S偏光を投射しS偏光を撮像して得られる偏光画像(S−S偏光画像)と、S偏光を投射しP偏光を撮像して得られる偏光画像(S−P偏光画像)との差分を取る。S−S偏光画像は、被験者の肌の表面反射光成分が強く、内部反射光成分が少ない画像であり、S−P偏光画像は、被験者の肌の内部反射光成分が強い画像である。よって、S−S偏光画像とS−P偏光画像との差分を得ることにより、表面反射光成分以外のノイズを更に抑えた表面反射光画像を取得することができる。また、顔画像分析装置10は、P偏光を投射しS偏光を撮像して得られるP−S偏光画像と、P偏光を投射しP偏光を撮像して得られるP−P偏光画像とを更に用いて、表面反射光画像を取得するようにしてもよい。これにより、表面反射光成分以外のノイズを更に抑えた表面反射光画像を取得することができる。
【0099】
取得される表面反射光画像に写るものは、上述の内部反射光画像と同様である。以降、(S161)で取得された表面反射光画像は、単に、顔画像と表記される。
【0100】
規格化工程(S162)は、(S161)で取得された各顔画像から、形状が規格化された複数のサンプル顔画像及び平均顔画像を生成する。(S162)の処理内容は、処理対象が表面反射光画像となる点を除き、上述の(S42)と同様である。
【0101】
周波数成分分離工程(S163)は、(S162)で生成された平均顔画像及び形状が規格化された複数のサンプル画像をそれぞれ、高周波成分が除去された低周波成分画像及びその高周波成分のみを含む高周波成分画像に分離する。実施例2では、(S163)の分離手法として、2次元離散ウェーブレット変換が用いられる。この変換には、例えば、Haarウェーブレットが利用される。但し、利用されるウェーブレットは制限されない。以降、2次元離散ウェーブレット変換は、ウェーブレット変換と略称される場合もある。
【0102】
表面反射光画像は、顔全体の光沢(テカリ)と、毛穴やシワ等の凹凸ムラを表現するところ、高空間周波数成分に出現する凹凸ムラの特徴は、個人差が大き過ぎるため、主成分分析での抽出が難しい可能性がある。そこで、実施例2は、高周波成分画像の解像度を下げ、個人差を吸収したうえで、主成分分析で当該特徴を抽出する。具体的には、(S163)において、対角低周波成分画像(LL、LLLL等)だけでなく、高周波成分画像に対してもウェーブレット変換が適用される。高周波成分画像に対しても2次元離散ウェーブレット変換を適用することは新たな発想である。2次元離散ウェーブレット変換を用いた空間周波数成分の分離手法では、通常、
図9に示されるように、対角低周波成分画像(LL、LLLL等)のみが2段階目以降の変換の対象とされるからである。
【0103】
図17は、実施例2における2次元離散ウェーブレット変換の概念を示す図である。
図17の例では、2段階目のウェーブレット変換が、対角低周波成分画像LLだけでなく、対角高周波成分画像HH、水平方向高周波成分画像HL及び垂直方向高周波成分画像LHに対しても適用される。これにより、(S163)は、各高周波成分(HL、HH、LH)における各対角低周波成分画像(CH、CD、CV)をそれぞれ生成する。但し、(S163)は、各対角低周波成分画像(CH、CD、CV)の中のいずれか1つ又はいずれか2つを生成してもよい。
【0104】
ところが、各高周波成分における各対角低周波成分画像において、テカリや凹凸ムラの特徴情報が大幅に減少してしまう恐れがある。ウェーブレット変換で高周波成分画像の解像度を下げる過程において、隣接画素で正負情報として現れるエッジ情報が、正負の打ち消しあいにより、大幅に減少してしまう可能性があるからである。そこで、実施例2では、周波数成分分離工程(S163)において、絶対値計算(S164)が行われる。具体的には、(S164)は、1段階目の変換で得られる高周波成分画像に対して絶対値計算を行う。
【0105】
図18は、実施例2における周波数成分分離処理の概念を示す図である。1段階目のウェーブレット変換により取得される各高周波成分画像では、
図18の折れ線グラフに示されるように、テカリや凹凸ムラが隣接画素の正負情報として出現する。このような各高周波成分画像に対してそのまま2段階目のウェーブレット変換を適用した場合、エッジ情報が、正負の打ち消しあいにより、大幅に減少してしまう可能性がある。そこで、実施例2は、1段階目の変換で得られた各高周波成分画像に対して絶対値計算(S164)を行う。このとき、符号が逆転した画素の符号情報を保持してもよい。(S163)は、その絶対値計算により得られる各高周波成分絶対値画像に対して2段階目のウェーブレット変換をそれぞれ適用することにより、高周波成分における各対角低周波成分画像を生成する。これにより、解像度低下の過程におけるテカリや凹凸ムラの特徴情報の減少を防ぐことができる。更に、その絶対値計算により符号が逆転した画素の符号情報を保持していれば、画像の再合成を行う際に、元の符号に回復させることができる。画像の再合成の詳細は後述する。
【0106】
(S163)で2段階のウェーブレット変換が行われる場合には、平均顔画像及び形状が規格化された各サンプル顔画像から、例えば、次のような低周波成分画像及び高周波成分画像がそれぞれ分離される。
−低周波成分画像=低周波成分における対角低周波成分画像LL及びLLLL
−高周波成分画像=高周波成分における対角低周波成分画像CH、CD及びCV
但し、画像HL、HH及びLHも高周波成分画像として利用することもできる。更に、
図17に示される画像LLHL、LLHH及びLLLH、並びに、高周波成分における画像CH、CH及びCV以外の高周波成分画像も高周波成分画像として利用してもよい。この場合、各高周波成分画像には絶対値計算が適用されることが望ましい。
【0107】
基底ベクトル取得工程(S165)は、(S163)で分離された、低周波成分画像及び高周波成分画像のそれぞれを主成分分析することにより、各低周波成分画像及び各高周波成分画像に関し、複数次の基底ベクトルをそれぞれ取得する。(S165)の処理内容は、上述の(S45)と同様である。
以降、(S166)、(S167)及び(S168)の各処理内容は、上述の(S46)、(S47)及び(S48)と同様である。
【0108】
図19は、実施例2の顔画像分析装置10における、対象顔画像を分析する動作の例を示すフローチャートである。以下、
図19を用いて、実施例2における顔画像分析方法に含まれる上記第2工程について説明する。
【0109】
画像取得工程(S191)は、被験者の顔全体が写る表面反射光画像を取得する。表面反射光画像の取得方法については
図16の(S161)と同様である。また、取得される表面反射光画像に写るものは、
図5の(S51)で取得された内部反射光画像と同様である。以降、(S191)で取得された表面反射光画像は、単に、顔画像と表記される。
【0110】
規格化工程(S192)は、(S191)で取得された顔画像から、形状が規格化された対象顔画像を生成する。顔画像の形状の規格化手法は、
図5の(S52)と同様である。
【0111】
周波数成分分離工程(S193)は、処理対象となる画像が対象顔画像である点以外、上述の(S163)と同様である。(S193)は、絶対値計算(S194)と共に、絶対値計算により符号が反転した画素の情報を保持すること(S195)を含む。(S195)で保持される情報は、符号が反転した画素の位置を示す情報のみであってもよいし、当該画素の位置と反転する前の符号を示す情報であってもよい。但し、後述の再合成を行わない場合には、(S195)は不要である。
【0112】
(S196)は、
図5の(S55)と同様である。
(S197)は、
図5の(S56)の処理内容に加えて、目標取得工程(S198)及び顔画像変調工程(S199)を含む。目標取得工程(S198)は、
図7の(S71)と同様である。
【0113】
顔画像変調工程(S199)では、顔画像分析装置10は、(S198)で取得された目標指標値に応じて変調された対象顔画像を生成する。但し、実施例2では、顔画像分析装置10は、更新された複数の分析対象重み係数を用いて対象顔画像を変調する際に、(S195)で保持された画素情報に基づいて、(S194)での絶対値計算により反転された符号を回復させて、変調顔画像を生成する。
【0114】
具体的には、顔画像分析装置10は、
図7の(S72)と同様に、対象顔画像のための複数の分析対象重み係数を更新する。顔画像分析装置10は、更新された分析対象重み係数、及び、対象係数取得工程(S196)で取得された分析対象基底次数以外の基底次数の重み係数と、当該複数次の基底ベクトルと、平均顔との線形和により、高周波成分及び低周波成分に関し、変調画像をそれぞれ生成する。顔画像分析装置10は、2次元離散ウェーブレットの逆変換を行うことで、生成された変調画像を再合成する。当該逆変換の際に、顔画像分析装置10は、(S194)での絶対値計算により反転された符号を回復させる。顔画像分析装置10は、その変調後の顔画像に対して、規格化工程(S192)の逆の処理を適用することにより、規格化される前の形状を持つ変調後の表面反射光画像を取得する。具体的には、顔画像分析装置10は、除外された分析対象外領域(目、唇、眉等)を復元し、平均顔の形状から元の形状に復元する。
【0115】
図16及び
図19では、サンプル提供者と被験者とが異なることが想定されたが、サンプル提供者の中に被験者が含まれていてもよい。即ち、複数のサンプル顔画像の中に対象顔画像が含まれてもよい。この場合、
図19に示される(S191)から(S196)は、
図16に示される(S161)から(S164)及び(S166)に代替されるため、実行されなくてもよい。
【0116】
図20は、実施例2における主成分分析の結果の一部を示す図である。
図20の例によれば、(S193)において、3段階の2次元離散ウェーブレット変換が行われる。具体的には、1段階目のウェーブレット変換により得られる対角高周波成分画像HH、水平方向高周波成分画像HL及び垂直方向高周波成分画像LHに対して絶対値計算が行われた後、2段階目のウェーブレット変換は、その絶対値計算により得られるHH、HL及びLH、並びに、対角低周波成分画像LLに対してそれぞれ適用される。3段階目のウェーブレット変換は、低周波成分における対角低周波成分画像LLLL、高周波成分における対角低周波成分画像HHLL、HLLL、LHLLにそれぞれ適用される。
図20の例によれば、3段階のウェーブレット変換により、高周波成分画像として、画像CH、CD及びCVが原画像から分離される。但し、他の画像を高周波成分画像として利用することもできる。
【0117】
図20には、分離された高周波成分画像CH、CD及びCVに対する主成分分析で得られた上位4つの主成分の画像がそれぞれ表されている。
図20に表される画像により、実施例2によれば、表面反射光画像の高周波成分からもテカリや凹凸ムラの特徴情報が抽出可能であることが示される。更に、当該画像を見ると、CH画像、CV画像及びCD画像の各主成分により、次のような特徴情報がそれぞれ抽出可能なことが明らかとなった。水平方向の成分を含むCH画像の主成分からは、主に、額のシワのような横方向の特徴情報が抽出可能である。垂直方向の成分を含むCV画像の主成分からは、主に、顎や眉間のシワや頬の毛穴のような縦方向の特徴情報が抽出可能である。対角方向の成分を含むCD画像の主成分からは、頬付近のシワのような斜め方向の特徴情報が抽出可能である。
【0118】
〔装置構成〕
図21は、実施例2における顔画像分析装置10の処理構成例を概念的に示す図である。実施例2における顔画像分析装置10は、画像取得部31、規格化処理部32、周波数成分分離部33、主成分分析部34、回帰分析部35、絶対値計算部36、画素情報保持部37、顔画像分析部38、顔画像変調部39等を有する。これら各処理部は、例えば、CPU2によりメモリ3に格納されるプログラムが実行されることにより実現される。また、当該プログラムは、例えば、CD、メモリカード等のような可搬型記録媒体やネットワーク上の他のコンピュータから入出力I/F4を介してインストールされ、メモリ3に格納されてもよい。
【0119】
顔画像分析装置10は、
図21に示される各処理部を用いて、次のように、
図16及び
図19に示される顔画像分析方法を実行することができる。画像取得部31は、画像取得工程(S161)及び(S191)を実行する。規格化処理部32は、規格化工程(S162)及び(S192)を実行する。周波数成分分離部33は、2次元離散ウェーブレット変換を実行する。絶対値計算部36は、1段階目のウェーブレット変換で得られる高周波成分画像に対して絶対値計算を行う。即ち、絶対値計算部36は、(S164)及び(S194)を実行する。画素情報保持部37は、絶対値計算部36による絶対値計算で符号が反転した画素の情報を保持する(S195)。周波数成分分離部33、絶対値計算部36及び画素情報保持部37は、(S163)及び(S193)を実行する。
【0120】
主成分分析部34は、基底ベクトル取得工程(S165)、サンプル係数取得工程(S166)及び対象係数取得工程(S196)を実行する。回帰分析部35は、分析対象基底次数選択工程(S167)及び指標式算出工程(S168)を実行する。顔画像分析部38は、分析工程(S197)を実行する。顔画像変調部39は、目標取得工程(S198)及び顔画像変調工程(S199)を実行する。
【0121】
上述のように、実施例2では、1段階目のウェーブレット変換により得られる高周波成分画像に対しても、2段階目以降のウェーブレット変換が適用される。実施例2は、このようにして高周波成分画像の解像度を下げることで、高空間周波数成分に出現するテカリ及び凹凸ムラの個人差を縮め、結果として、高周波成分画像からも、被験者の皮膚の表面の特徴情報を抽出可能とした。更に、実施例2では、高周波成分画像に対して絶対値計算が適用された高周波成分画像に対して、ウェーブレット変換が適用される。これにより、ウェーブレット変換を適用することでの、テカリ及び凹凸ムラの特徴情報の減少を抑制する。実施例2によれば、テカリ及び凹凸ムラ等の成分を考慮して、顔全体の特徴解析及び顔画像操作を行うことができる。
【0122】
更に、実施例2によれば、ウェーブレット変換により得られる方向別(水平方向、垂直方向及び対角方向)の高周波成分から、方向毎の特徴成分を抽出することもできる。これにより、実施例2によれば、テカリや凹凸ムラといった被験者の肌表面の特徴量を方向別に区別した状態で利用して、顔全体の評価指標を高精度に分析することができ、かつ、目標指標値に対応する顔画像を高精度に生成することができる。
【0123】
上述の実施例2では、分析工程(S197)に、目標取得工程(S198)及び顔画像変調工程(S199)を含めなくてもよい。この場合、分析工程(S197)は、低周波成分画像及び高周波成分画像の各々に対応する対象顔画像の指標値をそれぞれ推定することのみを行えばよい。この場合、顔画像分析装置10は、顔画像変調部39を持たなくてもよい。
【0124】
また、周波数成分分離工程(S163)及び(S193)で実行されるウェーブレット変換の段階数は、1段階のみであってもよい。この場合には、サンプル係数取得工程(S166)及び対象係数取得工程(S196)では、低周波成分画像LL、並びに、絶対値計算が適用された高周波成分画像HH、HL及びLHに対して、主成分分析が実行されることが望ましい。また、複数段階のウェーブレット変換が実行される場合で、かつ、高周波成分画像として、高周波成分における対角低周波成分画像以外の画像(HHHL、HHLH、HLHL等)が利用される場合には、その画像に絶対値計算を適用して得られた画像に対して主成分分析が実行されることが望ましい。
【0125】
なお、上述の説明で用いた複数のフローチャートでは、複数の工程(処理)が順番に記載されているが、工程の実行順序は、その記載の順番に制限されない。図示される工程の順番を内容的に支障のない範囲で変更することができる。また、上述の各実施形態、各変形例及び各実施例は、内容が相反しない範囲で組み合わせることができる。