(58)【調査した分野】(Int.Cl.,DB名)
前記画像処理手段は、前記人物の顔の画像を、顔の輪郭の画像、顔の中心パーツの画像及び頸部・肩の画像に分割し、異なる割合で伸縮させた複数の前記顔の輪郭の画像に、前記人物の顔の画像から分割した前記顔の中心パーツの画像及び頸部・肩の画像を合成して前記人物の顔のパターンを生成することを特徴とする請求項1に記載の画像処理装置。
前記画像処理手段は、前記人物の顔の画像を、顔の画像及び頸部・肩の画像に分割し、異なる割合で伸縮させた複数の前記顔の画像に、前記人物の顔の画像から分割した前記頸部・肩の画像を合成して前記人物の顔のパターンを生成することを特徴とする請求項1に記載の画像処理装置。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態について詳細に説明する。なお、以下の例では、小顔に対するメイクアップ効果(化粧効果)を定量化するための画像処理装置、画像処理方法、及び画像処理プログラムについて説明する。
【0010】
<画像処理装置の機能構成例>
図1は、本実施形態における画像処理装置の機能構成の一例を示している。
図1に示すように、画像処理装置10は、入力手段11と、出力手段12と、記憶手段13と、画像取得手段14と、検出手段15と、設定手段16と、画像処理手段17と、定量化手段18と、制御手段19とを有する。
【0011】
入力手段11は、例えば本実施形態における小顔に対するメイクアップ効果を定量化するための画像処理に関する各種指示の開始や終了、各種設定等の入力を受け付ける。入力手段11は、例えば画像処理装置10がPC(Personal Computer)等の汎用のコンピュータであれば、キーボードやマウス等のポインティングデバイスである。また、画像処理装置10が、タブレット端末やスマートフォン等であれば、タッチパネル等である。また、入力手段11は、例えば音声等により入力が可能なマイク等の音声入力デバイスであってもよい。
【0012】
出力手段12は、入力手段11により入力された内容、記憶手段13に記憶されている情報、画像取得手段14により取得された画像、入力内容に基づいて実行された内容等の出力を行う。出力手段12は、例えばディスプレイやスピーカ等である。出力手段12は、入力手段11と一体型のタッチパネルであってもよい。また、出力手段12は、処理結果等を紙等の印刷媒体に印刷するプリンタ等の印刷デバイスであってもよい。
【0013】
記憶手段13は、本実施形態において必要な各種情報を記憶する。具体的には、記憶手段13は、本実施形態における小顔に対するメイクアップ効果を定量化するための画像処理を実行するための各種プログラム(アプリケーション、ソフトウェア等)や、各種設定情報等を記憶する。また、記憶手段13は、実行経過や実行結果(履歴情報)、エラー情報、ユーザ情報等を記憶してもよい。記憶手段13に記憶される情報は、例えばインターネットやLAN(Local Area Network)に代表される通信ネットワークを介して接続される他の装置(例えば、データベースサーバ)等から取得してもよい。
【0014】
画像取得手段14は、小顔に対するメイクアップ効果の定量化等を行う人物(ユーザ、被験者、被写体)の顔を含む画像を取得する。画像取得手段14は、例えばデジタルカメラ等の撮像手段から撮影される画像又は映像等を取得することができるがこれに限定されるものではない。撮像手段は、画像処理装置10に内蔵されていてもよく、外付けされる他の装置であってもよい。画像取得手段14により取得された画像は、記憶手段13に記憶されてもよく、画像を取得後すぐに検出手段15による検出処理が行われてもよい。また、撮影される画像は、素顔でもよく、メイクアップされた画像(化粧)でもよい。
【0015】
検出手段15は、画像取得手段14により取得した画像から、画像中に含まれる人物を抽出し、更に抽出した人物の顔領域を検出する。なお、顔領域の検出手法としては、例えば予め設定された顔の特徴情報(例えば、目、鼻、口の各色情報や、エッジ情報、相互間の位置関係)や、顔の輪郭部分における画素情報(例えば、輝度情報)と、背景画像における画素情報との差分情報を抽出し、抽出した差分値が、所定の閾値以上である場合等を条件として、顔と背景とを分離し、顔領域を検出することができる。
【0016】
なお、顔画像の検出手法については、上述した例に限定されるものではない。例えば、検出手段15は、予め設定された特徴情報に対応するマッチングテーブル(テンプレート情報)等を用いて画像中から人物の顔領域を検出してもよい。また、検出手段15は、画像中における顔の座標情報や位置情報、顔の向き情報等を検出してもよい。また、顔の検出については、例えば画像取得手段14により取得した画像を出力手段12の画面に表示し、表示された画像をユーザが確認して、入力手段11により人物の顔領域を設定してもよい。
【0017】
設定手段16は、検出手段15により検出された顔領域の輪郭に対応させた指標を設定する。指標としては、例えば顔領域の輪郭上の頬弓部に対応付けられた第1の点と、オトガイ部に対応付けられた第2の点とを結ぶ直線等である。なお、指標については、これに限定されるものではなく、例えば顔の所定の点や輪郭等を基準にした所定の形状(例えば、台形形状)等でもよい。
【0018】
また、設定手段16は、例えば顔領域の下半分の領域に対する左右の耳珠点を結ぶ線を第1の線として設定する。また、設定手段16は、上述した第1の線に平行で、且つ顔のオトガイ点を通る線を第2の線として設定してもよい。
【0019】
上述した設定手段16による処理は、画像解析により自動で行ってもよく、また出力手段12の画面に検出手段15により検出された顔領域を表示し、その顔領域からユーザが入力手段11を用いて設定を行ってもよい。
【0020】
画像処理手段17は、設定手段16により設定された指標を基準として、検出手段15により検出した顔領域(人物の顔)の所定部位を変形させる。また、画像処理手段17は、指標として設定された直線の傾き等を変化させることで、人物(ユーザ、被験者、被写体)の顔の所定の部位を変形させる。
【0021】
また、画像処理手段17は、人物の顔の所定の部位を変化させることで生じる画像中の所定の画素の移動量を、人物のあごの角度に基づいて補正する処理を行ってもよい。また、画像処理手段17は、設定手段16により指標として設定された所定の形状の面積を変化させることで、人物の顔の所定の部位を変形させてもよい。
【0022】
また、画像処理手段17は、設定手段16により設定された第2の線を伸縮させた等脚台形の面積を変化させることで、人物の顔を変形させてもよい。また、画像処理手段17は、等脚台形の面積を変化させることで、人物の顔の下半分の領域を縮小又は拡大させた人物の顔のパターンを生成する。
【0023】
例えば、画像処理手段17は、上述した処理により、顔型の特徴を維持しながら、顔下部の輪郭に対応させた形状を変形させる。なお、画像処理手段17は検出手段15により検出した顔領域の画像を、例えば顔の輪郭の画像、顔の中心パーツの画像、頸部・肩の画像などの部位画像に分割し、伸縮させる部位画像を伸縮させたあとで合成することにより顔領域の所定部位を変形させてもよい。
【0024】
例えば画像処理手段17は顔の輪郭の部位画像を伸縮させた後、元の顔の中心パーツの部位画像と頸部・肩の部位画像とを合成するようにしてもよい。また、例えば画像処理手段17は顔の輪郭の部位画像と顔の中心パーツの部位画像とを伸縮させた後、元の顔の頸部・肩の部位画像を合成するようにしてもよい。また、画像処理手段17は、人物の顔を段階的に変化させる。
【0025】
また、画像処理手段17は、素顔の顔画像の所定の領域に対してCG(Computer Graphics)等により、アイシャドーや口紅、チーク等のメイク画像を重ね合わせてメイクアップ画像を生成してもよい。
【0026】
定量化手段18は、画像処理手段17により人物の顔の所定の部位を変形させたときの変化量を求め、求めた変化量に対応させて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する。また、定量化手段18は、画像処理手段17により補正された変化量に基づいて、人物の顔の輪郭又は大きさに基づく小顔等に対するメイクアップ効果を定量化する。
【0027】
また、定量化手段18は、画像処理手段17により変形させたときの形状の面積比率又は顔の特徴点間の距離等に基づいて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する。
【0028】
また、定量化手段18は、例えば、顔の下部の輪郭(フェースライン)を小さく見せる小顔の効果として、メイクアップによる錯視効果を定量化する。また、定量化手段18は、定量化された結果を画面に出力してもよく、記憶手段13に記憶してもよい。
【0029】
例えば、定量化手段18は、人物の元画像(標準刺激)と、画像処理手段17により補正された画像(比較刺激)とを用いて、標準刺激と感覚的に等しい効果をもつ比較刺激の物理量を算出する。この値(主観的等価点)を測定することで、例えば化粧を施した顔(標準刺激)が素顔に対してどの程度の小顔効果を持つかを定量化することができる。
【0030】
また、定量化手段18は、定量化された結果に基づいて各種の評価等を行ってもよい。評価としては、定量化された数値に基づく化粧カウンセリングや、美容アドバイス、美容施術等であるが、これに限定されるものではない。
【0031】
制御手段19は、画像処理装置10の各構成部全体の制御を行う。例えば、制御手段19は、画像取得手段14による対象画像の取得や、検出手段15によるユーザの顔領域の検出、設定手段16による指標等の設定、画像処理手段17による各種画像処理、定量化手段18による人物の顔の輪郭又は大きさに基づく小顔等に対するメイクアップ効果の定量化等の制御を行う。なお、制御手段19による制御は、これに限定されるものではなく、例えば処理の開始や終了、エラー発生時の制御等を行ってもよい。
【0032】
<画像処理装置10のハードウェア構成例>
ここで、本実施形態では、上述した画像処理装置10の各機能をコンピュータに実行させる実行プログラム(画像処理プログラム)を生成し、例えば汎用のPC、サーバ等にインストールすることで、本実施形態における画像処理等を実現することができる。
【0033】
図2は、画像処理が実現可能なハードウェア構成の一例を示す図である。
図2に示す画像処理装置10のコンピュータ本体には、入力装置21と、出力装置22と、ドライブ装置23と、補助記憶装置24と、メモリ装置25と、各種制御を行うCPU(Central Processing Unit)26と、ネットワーク接続装置27とを有するように構成され、これらはシステムバス29で相互に接続されている。
【0034】
入力装置21は、ユーザ等が操作するキーボード、マウス等のポインティングデバイスを有しており、マイク等の音声入力デバイス等を有し、ユーザ等からのプログラムの実行等、各種操作信号を入力する。
【0035】
出力装置22は、本実施形態に係る処理を行うコンピュータ本体を操作するのに必要な各種ウィンドウやデータ等を表示するディスプレイを有し、CPU26が有する制御プログラムにより実行経過や結果等を表示する。
【0036】
ここで、本実施形態においてコンピュータ本体にインストールされる実行プログラムは、例えば、USB(Universal Serial Bus)メモリやCD−ROM等の可搬型の記録媒体28等により提供される。記録媒体28は、ドライブ装置23にセット可能であり、記録媒体28に含まれる実行プログラムが、記録媒体28からドライブ装置23を介して補助記憶装置24にインストールされる。
【0037】
補助記憶装置24は、ハードディスク等のストレージ手段であり、本実施形態における実行プログラムや、コンピュータに設けられた制御プログラム等を記憶し、必要に応じて入出力を行うことが可能である。
【0038】
メモリ装置25は、CPU26により補助記憶装置24から読み出された実行プログラム等を格納する。なお、メモリ装置25は、ROM(Read Only Memory)やRAM(Random Access Memory)等である。なお、上述した補助記憶装置24やメモリ装置25は、1つの記憶装置として一体型に構成されていても良い。
【0039】
CPU26は、OS(Operating System)等の制御プログラム、及びメモリ装置25に格納されている実行プログラムに基づいて、各種演算や各ハードウェア構成部とのデータの入出力等、コンピュータ全体の処理を制御して、本実施形態における画像処理を実現する。なお、プログラム実行中に必要な各種情報等は、補助記憶装置24から取得し、実行結果等を格納しても良い。
【0040】
ネットワーク接続装置27は、インターネットやLAN等に代表される通信ネットワーク等と接続することにより、実行プログラムを通信ネットワークに接続されている他の装置等から取得する。また、ネットワーク接続装置27は、プログラムを実行することで得られた実行結果又は本実施形態における実行プログラム自体を他の装置等に提供することが可能である。
【0041】
記録媒体28は、上述したように実行プログラム等を格納するコンピュータで読み取り可能な記録媒体である。記録媒体28は、例えばフラッシュメモリ等の半導体メモリであってもよい。また、記録媒体28は、USBメモリ等の可搬型記録媒体であってもよいが、これに限定されるものではない。
【0042】
本実施形態では、上述したコンピュータ本体のハードウェア構成に実行プログラム(例えば、画像処理プログラム等)をインストールすることで、ハードウェア資源とソフトウェアとが協働して本実施形態における画像処理等を実現することができる。また、上述した表示制御処理に対応する画像処理プログラムは、例えば装置上で常駐している状態であってもよく、起動指示により起動させてもよい。
【0043】
<本実施形態における画像処理の一例について>
次に、本実施形態における画像処理の一例について、フローチャートを用いて説明する。
図3は、本実施形態における画像処理の一例を示すフローチャートである。
図3の例において、画像処理装置10の画像取得手段14は、カメラ等により撮影された人物の顔の輪郭又は大きさに基づく小顔等に対するメイクアップ効果を定量化する対象となる画像を取得する(S01)。次に、画像処理装置10の検出手段15は、画像中の人物から顔領域を検出する(S02)。
【0044】
次に、画像処理装置10の設定手段16は、顔領域の輪郭に対応させた指標を設定する(S03)。なお、設定手段16は、検出手段15により画像中から検出された検出画像から取得してもよく、また画面上に表示された顔領域からユーザが設定してもよい。
【0045】
次に、画像処理装置10の画像処理手段17は、設定された指標を基準として、人物の顔の所定部位を変形させる(S04)。次に、画像処理装置10の定量化手段18は、人物の顔の所定の部位を変形させたときの変化量に基づいて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する(S05)。また、定量化手段18は、定量化した結果に基づき顔を評価する(S06)。なお、本実施形態における画像処理では、S06の評価処理を行わなくてもよい。
【0046】
次に、画像処理装置10の制御手段19は、本実施形態における画像処理を終了するか否かを判断する(S07)。S07の処理では、例えばS01の処理で取得した画像等の問題でメイクアップ効果の定量化や顔の評価ができず、画像の取得をやり直す場合や、記憶手段13等に記憶された複数の画像に対して、メイクアップ効果の定量化や顔の評価を連続して行う場合には、処理を終了しないと判断する。また、ユーザからの終了指示等を受けた場合や処理対象の画像がない場合には、処理を終了すると判断する。S07の処理において、処理を終了しない場合(S07において、NO)、S01の処理に戻る。また、処理を終了する場合(S07において、YES)、本実施形態における画像処理を終了する。
【0047】
<メイクアップ効果の定量化の具体例>
次に、画像処理装置10における設定手段16、画像処理手段17、及び定量化手段18を用いたメイクアップ効果の定量化の具体例について説明する。本実施形態では、例えば素顔の顔に関する特徴を維持しながら、小顔の度合いを段階的に変化させる。その方法として、例えば画像処理手段17において顔形状の台形補正等を行い、補正により生成された比較刺激(指標の異なる複数の顔画像)等を用いて、標準刺激(元画像)の小顔度を上下法(up−down method、staircase method)を用いて測定することで、メイクアップによる小顔効果を定量化する。
【0048】
ここで、本実施形態において、小顔とは、顔が小さく見えることである。また、美容上の小顔効果とは、例えばその人物の顔立ち以外の影響(メーキャップ、ヘアスタイル、服装、姿勢、表情等)により、その人物の顔幅が実際の顔幅よりも細く見える効果等であるが、これらの意味に限定されるものではない。本実施形態における小顔効果は、例えばファンデーションやフェースカラー等を塗布し、陰影や立体感を演出することによって、主に顔下部(顔の下半分)の輪郭(フェースライン)を小さく見せる効果である。
【0049】
本実施形態では、画像処理装置10が、画像中の人物から顔領域を検出し、検出された顔領域の輪郭に対応させた指標を設定し、設定された指標を基準として、人物の顔の所定部位を変形させる。また、人物の顔の所定の部位を変形させたときの変化量に基づいて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する。
【0050】
例えば、設定手段16は、顔領域の輪郭上の頬弓部に対応付けられた第1の点と、オトガイ部に対応付けられた第2の点とを結ぶ直線を指標として設定し、画像処理手段17は、指標として設定された直線の傾きを変化させることで、人物の所定の部位(例えば、顔下部)を変形させることができる。また、画像処理手段17は、人物の所定の部位(例えば、顔下部)を変化させることで生じる画像の画素の移動量を、人物のあごの角度に基づいて補正する。また、定量化手段18は、画像処理手段17により補正された変化量に基づいて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する。
【0051】
<顔画像のあご幅を変える方法と、その指標例>
ここで、顔画像のあご幅を変える方法と、その指標例について説明する。
図4は、顔の特徴点の抽出例を示す図である。
図4の例では、カメラ等で撮影した画像に含まれる被験者(ユーザ)の顔画像30に対して、顔の特徴点として、例えば輪郭線上の6点(特徴点1〜6)の座標を計測する。
【0052】
なお、
図4の例において、特徴点1、6は頬弓であり、特徴点2、5は口角を結ぶフェースラインとの交点であり、特徴点3,4はオトガイである。特徴点1〜6の画像上のそれぞれの座標値は、画像の左上を原点(0,0)として(x
s1,y
s1)〜(x
s6,y
s6)と設定することができる。このとき、左上の原点に対して、右に行くほどx座標値が大きくなり、下に行くほどy座標値が大きくなる。
【0053】
具体的には、
図4の例では、特徴点1(x
s1,y
s1)=(130,555)、特徴点2(x
s2,y
s2)=(195,800)、特徴点3(x
s3,y
s3)=(303,930)、特徴点4(x
s4,y
s4)=(512,930)、特徴点5(x
s5,y
s5)=(625,800)、特徴点6(x
s6,y
s6)=(678,555)となっている。なお、座標値の単位はピクセルである。
【0054】
<元画像と補正画像とのピクセルの対応関係>
次に、本実施形態における画像処理における元画像と補正画像とのピクセルの対応関係について説明する。補正画像は、次の手順で生成される。まず、元画像と同じサイズのブランク画像(新画像)を生成する。次に、新画像の各ピクセルに対し、順番に元画像のピクセルを使って埋めてゆく。新画像の座標(x
n,y
n)のピクセルには、元画像の座標(x
0,y
0)のピクセルの色を使う。したがって、x
0とy
0とを求めることになる。元画像のどのピクセルを用いるかは、例えば以下に示す計算式等で決定することができる。
【0055】
例えば、本実施形態における補正処理の一例として、最初に特徴点2と特徴点5の箇所をどれだけ太めるか(幅を広げるか)を決定する。ここで、太める幅(ピクセル単位)をLとする。また、y
0=y
nとして求める。
<あごのラインによる補正(傾斜)がある場合>
向かって右半面の顔を処理する式は、
w=exp((x
n-(((x
s4-x
s6)/(y
s4-y
s6))*(y
n-y
s5)+x
s5+L))/A) ・・・(1A)
x
0=x
n-w*L ・・・(2A)
向かって左半面の顔を処理する式は、
w=exp(((((x
s3-x
s1)/(y
s3-y
s1))*(y
n-y
s2)+x
s2-L)-x
n)/A) ・・・(1B)
x
0=x
n+w*L ・・・(2B)
ここで、上述した(1A)又は(1B)式において、Aは指数関数の効果を調整する定数であり、例えば画像サイズ等に依存する。
<あごのラインによる補正(傾斜)がない場合>
向かって右半面の顔を処理する式は、
w=exp((x
n-(0*(y
n-y
s5)+x
s5+L))/A) ・・・(3A)
x
0=x
n-w*L ・・・(4A)
向かって左半面の顔を処理する式は、
w=exp(((0*(y
n-y
s2)+x
s2-L)-x
n)/A) ・・・(3B)
x
0=x
n+w*L ・・・(4B)
これらにより、(x
0,y
0)が求まる。
【0056】
ここで、例えば(1A)式において、「exp((x
n-(((x
s4-x
s6)/(y
s4-y
s6))*(y
n-y
s5)+x
s5+L))/A)」は、補正において、全ピクセルLだけ移動させるということはできない。そのため、例えば
図4に示す特徴点5からのx(横軸)の距離に応じてLに対する重み付けを計算する。また、(1A)式において、「(x
s4-x
s6)/(y
s4-y
s6)」は、特徴点4と特徴点6とを結ぶ傾きを計算している。また、(1A)式において、「(x
s4-x
s6)/(y
s4-y
s6)*(y
n-y
s5)+x
s5+L)」は、単純に特徴点5からのx距離で決めているのではなく、「(x
s4-x
s6)/(y
s4-y
s6)」で計算する傾きで補正している。
【0057】
次に、あごのラインによる補正(傾斜)がある場合とない場合とについて図を用いて説明する。
図5は、特徴点に基づく定量化のための補正処理の一例を示す図である。
図5(A)は、傾斜を付けずに上述した(3A)、(3B)、(4A)、及び(4B)式により計算した図を示し、
図5(B)は、傾斜を付けて上述した(1A)、(1B)、(2A)、及び(2B)式により計算した図を示している。
【0058】
上述した2つの補正の違いは、上述した特徴点1と特徴点3とを結ぶ線や、特徴点4と特徴点6とを結ぶ線の傾きに沿った傾斜が付けられているか否かである。
図5(A)の例では、任意の点に対応する元画像の点座標を計算する際にy座標値に関わらず、変形に使う指数関数の原点を、特徴点2や特徴点5のx座標値に設定している。したがって、画像処理後(補正後)の画像は、
図5(A)の点線に示すように平行に圧縮された状態になる。
【0059】
一方で、
図5(B)の例では、指数関数の原点は、特徴点1と特徴点3とを結ぶ線(或いは4と特徴点6)の傾斜によってシフトしている。したがって、画像処理後(補正後)の画像は、
図5(B)の点線に示すようにあごの傾斜に沿った圧縮になる。ただし、傾斜の原点は、左半面では特徴点2であり、右半面では特徴点5である。そのため、特徴点2や特徴点5付近のあごのライン(行)では相違がないことになる。
【0060】
図6は、補正処理におけるあごのラインの傾斜について説明するための図である。
図6(A)は、
図5(A)に対応する図の部分拡大図であり、
図6(B)は、
図5(B)に対応する図の部分拡大図である。
図6(A)、(B)は、何れも特徴点2と特徴点5付近のあごのラインの拡大図である。
図6(A)、(B)に示すように、左半面の特徴点2付近の行のピクセルの並びと、右半面では特徴点5付近の行のピクセルの並びは、
図6(A)と
図6(B)とで同一となる。つまり、あごのラインによる補正(傾斜)がある場合でも、ない場合でも、特徴点2及び特徴点5付近のピクセルの並びは同一となる。
【0061】
<指標について>
ここで、本実施形態において、顔画像のあごが、どのくらい小さいかを表す指標として例えば「幅」と「あご・インデックス」とがある。「幅」とは、例えば特徴点2と特徴点5との間隔である。この指標のメリットは、画像生成時に必ず線形に操作できることと、定量化の処理が簡便なことである。また、「あご・インデックス」とは、顔の下半分の面積を顔の上半分の面積で除算した値である。半分の基準となる位置(ライン)は、例えば上述した
図4に示す特徴点1と特徴点6との平均的な高さ等を用いて定義することができるが、これに限定されるものではない。したがって、ある画像(補正画像)において、どれだけ小顔か(痩せたか)を表すには、任意の画像における上述した指標と、元画像の指標との比を取ればよい。上述した指標に基づく画像(比較刺激)の生成は、画像処理手段17が行う。また、画像処理手段17は、標準刺激や比較刺激の顔画像が素顔の顔画像の場合にCG等を用いてメイクアップされた顔画像を生成する。
【0062】
次に、上述した
図5(B)に示す補正処理(傾斜付き)について具体的に説明する。
図7は、補正処理における座標の計算例を示す図である。
図7の例において、例えば元画像のサイズが幅816,縦1052(余白含む)である場合に、上述した
図4における特徴点5を−20ピクセル太める(つまり20ピクセル痩せさせる)場合を考える。なお、上述した(1A)式における定数Aを85とする。これは、画像の大きさに依存する値である。
【0063】
例えば、新しい画像のピクセル座標(605,800)が、元画像のどのピクセルに対応するかは、以下の計算で求まる。まず、y座標値は、そのまま800である。また、x座標値は、向かって右半面にあるため、上述した(1A)式、(2A)式により、
w=exp((605-(((512-678)/(930-555))*(800-800)+625+(-20)))/85)=1
x
0=605-1*(-20)=625
となり、画像処理の結果として、x座標625の点が605に−20ピクセル移動したような画像が生成される(特徴点5の移動に相当する)。
【0064】
また、他の例として、任意の点(119,426)(
図7に示す点41)を描画するための元画像の座標を求めてみる(太らせ幅は同じく−20ピクセルとする)。これは、向かって左半面の点であるため、(1B)式、(2B)式により、
w=exp(((((303-130)/(930-555))*(426-800)+195-(-20))-119)/85)=0.406385
x
0=119+0.406385*(-20)=110.8723
ピクセルは、整数単位なので四捨五入して111となり、したがって点41の座標(119,426)に対応する元画像の点は(111,426)であり、点41が8ピクセル横に移動したように見える。
【0065】
また、上述した
図5(A)と比較して、顔の中心点と、特徴点2や特徴点5がどのような座標として得られるかに関しては、上述したように違いはない。また、顔の中心点に関して、例えば点(407,511)(
図7に示す点42)に対応する元画像の点を考えてみる。この点の座標xは、特徴点1から特徴点6の平均で表すことができるが、仮に右半面として計算する。
【0066】
まず、あごのラインの傾斜がある場合(
図5(B)の場合)、そのx座標値は,
w=exp((407-(((512-678)/(930-555))*(511-800)+625+(-20)))/85)=0.0216
x
0=407-(0.0216*(-20))=407.4
となる。ここで、ピクセルは、整数単位であるため、四捨五入して407となり、y座標値はいつもy
o=y
nであるため、511となる。つまり、新しい画像の座標407,511に対応する元画像の点は同じく(407,511)である。
【0067】
次に、あごのラインの傾斜がない場合(
図5(A)の場合)、そのx座標値は、
w=exp((407-(0*(511-800)+625+(-20)))/85)=0.09735
x
0=407-(0.09735*(-20))=408.9
となる。これを小数点第一位で四捨五入して整数にすると409となる。つまり、元画像では2ピクセル横に当たる箇所から点を取ってくることになる。ただし、これらの結果は定数Aにも依存し、元画像と同じになる場合がある。
【0068】
<補正により操作したピクセルに対応する幅比、あご・インデックス比について>
次に、補正により操作したピクセルに対応する上述した幅(あご幅)比、あご・インデックス比について説明する。幅比については、任意の顔のあご幅と元画像のあご幅との比で求めることができる。例えば元画像のあご幅を430ピクセルとすると、操作したピクセルが0のとき、それは元画像であるため、あご幅比は430/430=1となる。また、操作したピクセルが左右の片方につき−20のとき、あご幅は、430+(2*(−20))=390であり、あご幅比は390/430=0.906977となる。
【0069】
ここで、操作したピクセルが5のとき、あご幅は430+(2*5)=440で、あご幅比は440/430=1.023256となる。
【0070】
また、あご・インデックス比の場合は、顔の面積のうち、上述した
図4に示す特徴点1と特徴点6との平均y座標値より下の面積を上の面積で割った数値で求めることができ、面積はピクセル数で求まる。例えば、元画像の下面積が185938ピクセルで、上面積が298662ピクセルである場合、あご・インデックスは、0.622569996となる。
【0071】
あご・インデックス比は、補正した任意の画像のあご・インデックスと元画像のあご・インデックスとの比である。ここで、補正により操作したピクセルが0のとき、それは元画像であるため、比は1となる。また、操作したピクセルが−20のとき、下面積が170430で、上面積が291877であるとすると、あご・インデックス比は(170430/291877)/0.622569996=0.937903127となる。
【0072】
また、補正により操作したピクセルが5の場合、下面積が189636で、上面積が300104であるとすると、あご・インデックス比は(189636/300104)/0.622569996=1.014987785となる。
【0073】
<上下法を用いた実施形態>
ここで、あご幅を用いた定量化の方法について、本実施形態では上下法を用いて指標を設定してもよい。例えば、画像処理装置10において、設定手段16は、顔領域の輪郭に対応させた所定の形状を指標として設定する。画像処理手段17は、指標として設定された所定の形状の面積を変化させることで、人物の顔の所定の部位を変形させる。
【0074】
また、定量化手段18は、画像処理手段17により変形させたときの形状の面積比率に基づいて、人物の顔の輪郭又は大きさに関わるメイクアップ効果を定量化する。また、設定手段16は、形状を顔領域の下半分の領域の輪郭に対応させ、人物の目の領域に対応して設定された第1の線を上辺とし、顔のあごの領域に対応して設定された第2の線を下辺とする台形形状として設定する。なお、設定手段16は、例えば上述した第1の線を、顔領域の下半分の領域に対する左右の耳珠点を結ぶ線とし、また上述した第2の線を、第1の線に平行で顔のオトガイ点を通る線として設定することができる。
【0075】
また、画像処理手段17は、第2の線を伸縮させた等脚台形の面積を変化させることで、人物の顔を変形させる。また、画像処理手段17は、等脚台形の面積を変化させることで、人物の顔の下半分の領域を縮小又は拡大させた人物の顔のパターンを生成する。また、定量化手段18は、画像処理手段17により生成された人物の顔のパターンと、人物にメイクアップを施した顔とを比較することで、人物の顔の輪郭に対するメイクアップ効果を定量化する。
【0076】
また、定量化手段18は、人物の顔のパターンと、人物にメイクアップを施した顔とを心理物理測定法のうち上下法を用いて比較することで、人物の顔の輪郭に対する錯視効果を定量化する。また、定量化手段18は、人物の顔の輪郭に対するメイクアップ効果として、人物にメイクアップを施したときの小顔効果を定量化することができる。
【0077】
<小顔効果の評価測定手法>
顔をスリムに見せる化粧法があることは知られている。しかし、そのメイクが(人の目にとって)どの程度の効果を持っているのかを測定するための良い尺度は存在していなかった。そこで、本実施形態では、顔の「スリム度」或いは「小顔度」を測定するための客観的な尺度(ものさし)を設定する。その上で、その尺度を使った測定方法として上下法を用いる。上下法(階段法)は心理物理学的測定方法の一例である。
【0078】
本実施形態における尺度は、客観的な指標によって頬からあごにかけての輪郭線を変形(痩せさせたり太らせたり)した無化粧の顔写真又は中立的な化粧を施した顔写真等である(比較刺激)。化粧の施された顔写真(標準刺激)を、これらの比較刺激と比較すれば、どの程度の痩せ度に相当するか(主観的等価点)を測定することができる。
【0079】
ここで、本実施形態における上下法とは、例えばメイクアップ顔(化粧顔)の「小顔に見える」という知覚を、実際に顔下部の輪郭を段階的に変化させた素顔画像のものさしと一定のルールで繰り返し比較することで推定する手法であるが、これに限定されるものではない。
【0080】
ここで、
図8は、小顔のものさしの作成方法を説明するための図である。本実施形態では、顔画像を変形させた尺度画像を生成する方法として、4種類の方法を用いることができる。第1の方法は、
図8に示すように、顔の下半分に長方形の枠50を設定し、それを面積2%ステップで台形形状51に変換する。鼻と口の幅も同様に変換されるが、首の太さは一定(元画像(original)30のまま)である。これにより、標準刺激(元画像)に対するユーザの尺度画像(比較刺激)30a〜30fが生成される。
図8の例では、面積の錯視量として、尺度画像30a〜30fに対して、+4%、+2%、−2%、−4%、−6%、−8%が設定されている。
【0081】
本実施形態では、例えば
図8に示すように顔画像の目から下の顔の面積を一定の割合で拡大又は縮小することにより、顔の大きさのものさしとなる比較刺激を生成することができる。また、本実施形態では、例えば
図13のように、標準刺激(例えば、シェーディングの化粧を施した顔)と、比較刺激とを一枚ずつ画面に表示し、実験参加者等に「どちらの顔が大きく見えるか」を判断させる。
図13は標準刺激と比較刺激とが一枚ずつ表示された画面の一例のイメージ図である。なお、
図13の画面では試行ごとに標準刺激と比較刺激とを例えば数秒間、表示する。標準刺激と比較刺激との左右位置は、毎回、ランダムに決める。例えば実験参加者は、どちらが小顔に見えるかを判断し、対応するキー押し等で回答する。
【0082】
上下法では各標準刺激に2系列を割り当てる。各系列の最初の比較刺激は明らかに標準刺激の顔より広く或いは狭く見える顔から開始する。実験参加者が比較刺激の方が大きいと判断すれば、次のステップではもう一段階小さい比較刺激と標準刺激とを比較し、比較刺激の方が小さいと判断すれば、次のステップではもう一段階大きい比較刺激と標準刺激とを比較して、どちらの顔が大きく見えるかを再度判断させる。この過程を繰り返すことで、比較刺激のサイズは上昇下降を繰り返して、標準刺激と同程度の顔の大きさに知覚される点へ収束する。
【0083】
上昇から下降及び下降から上昇への折り返し点の値を平均することで、標準刺激と感覚的に等しい効果をもつ比較刺激の物理量(主観的等価点)を算出することができる。すなわち、主観的等価点は各標準刺激の顔幅と同じに知覚される比較刺激の顔幅となる。このように、主観的等価点を測定することで、化粧を施した顔(標準刺激)がモデルの素顔に対してどの程度の小顔効果を持つかを定量化することができる。
【0084】
例えば、上述した尺度画像30a〜30fを用いて、被験者18名により観察距離0.6mで上下法アルゴリズムにより主観的等価点を測定する。
図9は、小顔効果が生じる顔画像(標準刺激)の一例を示す図である。主観的等価点を測定した結果、頬にシェーディングを施した顔画像60で、−1.917%(p<0.0001)、化粧なしで首を細くした画像61では、−1.167%(p<0.003)の統計的に有意な小顔錯視が得られた。本実施形態において、小顔錯視とは、例えば元は小顔になったわけではないのに小顔になったように視認することであるが、これに限定されるものではない。
【0085】
尺度画像を作成する第2の方法は、指数関数による勾配を利用した変形方法である。この変形方法の優れた点は、あごの輪郭は変形されても、顔の中の口や鼻の形状は維持されることである。変形後の顔を描画するには、例えば顔画像の向かって右半分の場合、上述した数式の(1A)式、(2A)式を用いて元画像のピクセルを採取し描画する。
【0086】
図10は、指数関数を利用して変形された顔画像の一例を示す図である。
図10の例では比較刺激の画像(補正画像)を示している。これらは全て素顔(無化粧顔)であり,化粧顔の見た目の痩せ具合を測定するための尺度として使用される。
図10に示す顔画像70aから70eは、口角の延長線上のほほの幅を基準にして、顔の細さが系統的に操作されている。その幅は、それぞれ顔画像70aは90%,顔画像70bは95%,顔画像70cは100%,顔画像70dは105%,顔画像70eは110%である。つまり、顔画像70cが元画像である)。
【0087】
ここで、
図10に示すように指数関数で変形された顔画像70a〜70eに対する評価実験を行った。
図11は、化粧を施した顔画像(標準刺激)の一例を示す図である。なお、実験参加者は、大学生25人であった。測定される刺激(標準刺激)は、チークの濃さ2水準(なし,あり)と輪郭のシェーディングの濃さ3水準(なし,薄い,濃い)とに操作された顔画像71a〜71fである(被験者内要因)。また、比較刺激は、頬の痩せ度を21段階に操作された顔写真とした。背景は、白色で首と肩は、画像処理により削除されている。主観的等価点の測定アルゴリズムは上下法である。
【0088】
なお、
図11において、顔画像71a〜71cはチークなし画像、顔画像71d〜71fはチークあり画像である。また、顔画像71a〜71c、顔画像71d〜71fは、それぞれ段階的にシェーディングなし、薄いシェーディング、濃いシェーディングとなっている。
【0089】
図12は、評価実験で得られた結果の一例を示す図である。
図12において、横軸は、画像処理によるシェーディングの濃さを示し、縦軸は、知覚された頬の幅の変化量(%)を示す。
【0090】
評価実験の結果、
図12に示すように、メイクアップとしてチークがあるときは、チークがないときよりも頬の幅(口角の延長線上)が約0.2%太って見えるという効果が見られた(p=0.022)。しかしながら、シェーディングの効果及び両要因の交互作用は有意ではなかった(p=.172及びp=.1495)。ただし、チークなしや、濃いシェーディングが施された顔で知覚される痩せ幅(M=−0.52%,SD=0.34)は、0よりも有意に小さいため(t(24)=4.427,p=.0002),シェーディングによる小顔効果も部分的に示された。
【0091】
これらの尺度(台形変換又は指数関数に基づく変形画像)と上下法による測定との組み合わせにより、小顔錯視量を高精度で測定することができた。本実施形態で得られた錯視量は、例えばチークでも0.2%程度と小さかった。この小さな値は、標準刺激のメイクの仕方に起因するものであり、尺度と測定方法の関係に影響するものではない。この測定方法は、これほど小さな知覚の差であっても抽出できる精度の高さを証明している。更に、シェーディングもチークも施されていない顔の痩せ具合は、ほぼ正しく±0%となっている。これもこの測定方法の妥当性を示す一つの結果である。
【0092】
なお、上述した小顔のものさしの画像処理の他の例として、例えば
図4に示す顔画像30に対して、左右の目袋のカーブの最下点を通り、顔の左右輪郭との交点の成す線分を上底とし、この線分に平行であごのカーブの最下点を通る任意の長さの直線からなる等脚台形を規定する。ここで、画像処理手段17は、上底と下底の長さが等しい、すなわち長方形を成すときの顔の大きさの面積を100%とし、下底の長さを一定の比率で伸縮することで小顔効果の比較刺激(モノサシ)を作成してもよい。これにより、上述したように台形の面積の拡大率、縮小率を顔の大きさ(小顔効果)の指標とすることができる。
【0093】
尺度画像を作成する第3の方法は、
図14に示すように、顔領域の画像を、顔の輪郭の画像、顔の中心パーツの画像、頸部・肩の画像に分割し、顔の輪郭の画像を横方向に小さなステップ(例えば1%刻みで95%〜104%)で伸縮させた後、元の顔の中心パーツの画像と頸部・肩の画像とを合成するものである。
【0094】
図14は顔画像を変形させた尺度画像を生成する他の方法を説明する図である。尺度画像を作成する第3の方法では、顔の輪郭の画像が横方向に伸縮するが、顔の中心パーツの画像と頸部・肩の画像とが不変となる。第3の方法は、顔の中心パーツの大きさ知覚に影響せず、顔全体の幅を縮小して見せる小顔メイクの場合に適している。
【0095】
また、尺度画像を作成する第4の方法は、
図15に示すように、顔領域の画像を、顔の画像、頸部・肩の画像に分割し、顔の画像を横方向に小さなステップ(例えば1%刻みで95%〜104%)で伸縮させた後、元の頸部・肩の画像を合成するものである。
【0096】
図15は顔画像を変形させた尺度画像を生成する他の方法を説明する図である。尺度画像を作成する第4の方法では、顔の輪郭の画像と共に顔の中心パーツの画像も横方向に伸縮する。なお、頸部・肩の画像は不変である。第4の方法は、顔の中心パーツの大きさ知覚にも影響する小顔メイクの場合に適している。
【0097】
上述したように、本実施形態によれば、メイクアップ効果を定量化することができる。また、定量化した結果に基づいて顔の評価を行うことができ、化粧アドバイスやカウンセリング、美容、施術等に対する各種情報を提供することができる。
【0098】
例えば、素顔の顔型の特徴を維持しながら、小顔の度合いを段階的に変化させる方法として、台形補正等を行い、そのようにして生成された比較刺激を用いて、標準刺激の小顔度を上下法を用いて測定することで、メイクアップによる小顔効果を測定して定量化することができる。
【0099】
以上、実施例について詳述したが、特定の実施例に限定されるものではなく、特許請求の範囲に記載された範囲において、種々の変形及び変更が可能である。また、上述した各実施例の一部又は全部を組み合わせることも可能である。