(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-22
(45)【発行日】2024-03-04
(54)【発明の名称】画像処理システム、画像処理方法、および画像処理プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20240226BHJP
A61B 5/107 20060101ALI20240226BHJP
A61B 5/00 20060101ALI20240226BHJP
【FI】
G06T7/00 660A
A61B5/107 110
A61B5/00 101A
A61B5/00 M
(21)【出願番号】P 2019239674
(22)【出願日】2019-12-27
【審査請求日】2022-09-07
(73)【特許権者】
【識別番号】510045494
【氏名又は名称】B-by-C株式会社
(74)【代理人】
【識別番号】110002516
【氏名又は名称】弁理士法人白坂
(72)【発明者】
【氏名】佐藤 達也
(72)【発明者】
【氏名】鳴海 えな
(72)【発明者】
【氏名】黒田 祐二
【審査官】佐藤 実
(56)【参考文献】
【文献】特開2013-090752(JP,A)
【文献】特開2005-192944(JP,A)
【文献】特開2011-150595(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
A61B 5/107
A61B 5/00
(57)【特許請求の範囲】
【請求項1】
ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された
色相の値により複数の
色相のステージに区分けする肌色評価部と、
前記肌色評価部により区分けされたステージに
おいて、ユーザの肌のうち、
肌の色としての色相に対して予め設定した閾値を超える色相の異常が生じている部分を異常部として検出する異常部検出部と、を備えることにより、ユーザの肌の健康状態を評価する肌状態評価部と、
前記画像データから
取得される、ユーザの顔の骨格に依存して特定される
頂点である2つの固定点、および
ユーザの顔の筋肉および脂肪に依存して特定される
頂点である1つの可動点それぞれの位置を認識する頂点認識部と、
前記頂点認識部が位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定部と、
前記画定領域の面積を算出する面積算出部と、
前記面積算出部が算出した前記画定領域の面積と、前記画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較部と、を備えることにより、ユーザの顔のプロポーションの変化を評価する顔形状評価部と、を備える画像処理システム。
【請求項2】
前記肌状態評価部は、前記異常部検出部により検出された異常部の数量を集計する異常部集計部を備えていることを特徴とする請求項1に記載の画像処理システム。
【請求項3】
前記異常部検出部により検出された前記異常部の形状により、ユーザの肌における異常部の種類を判断する形状評価部を備えていることを特徴とする請求項1又は2に記載の画像処理システム。
【請求項4】
前記異常部検出部により検出された前記異常部の色相の値により、ユーザの肌における異常部の肌表面からの深さを推定する深さ推定部を備えていることを特徴とする請求項1から3のいずれか1項に記載の画像処理システム。
【請求項5】
前記領域画定部では、顔の正中線を基準にして、左右一対の前記画定領域を画定することを特徴とする請求項1から4のいずれか1項に記載の画像処理システム。
【請求項6】
前記領域画定部では、顔の上下方向に間隔をあけて、2種類の前記画定領域を画定することを特徴とする請求項1から5のいずれか1項に記載の画像処理システム。
【請求項7】
コンピュータが、
ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された
色相の値により複数の
色相のステージに区分けする肌色評価ステップと、
前記肌色評価ステップにより区分けされたステージに基づいて、ユーザの肌のうち、
肌の色としての色相に対して予め設定した閾値を超える色相の異常が生じている部分を異常部として検出する異常部検出ステップと、を実行することにより、ユーザの肌の健康状態を評価する肌状態評価方法と、
前記画像データから
取得される、ユーザの顔の骨格に依存して特定される
頂点である2つの固定点、および
ユーザの顔の筋肉および脂肪に依存して特定される
頂点である1つの可動点それぞれの位置を認識する頂点認識ステップと、
前記頂点認識ステップが位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定ステップと、
前記画定領域の面積を算出する面積算出ステップと、
前記面積算出ステップが算出した前記画定領域の面積と、前記画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較ステップと、を実行することにより、ユーザの顔のプロポーションの変化を評価する顔形状評価方法と、を実行する画像処理方法。
【請求項8】
コンピュータに、
ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された
色相の値により複数の
色相のステージに区分けする肌色評価機能と、
前記肌色評価機能により区分けされたステージに基づいて、ユーザの肌のうち、
肌の色としての色相に対して予め設定した閾値を超える色相の異常が生じている部分を異常部として検出する異常部検出機能と、を実現させることにより、ユーザの肌の健康状態を評価する肌状態評価機能と、
前記画像データから
取得される、ユーザの顔の骨格に依存して特定される
頂点である2つの固定点、および
ユーザの顔の筋肉および脂肪に依存して特定される
頂点である1つの可動点それぞれの位置を認識する頂点認識機能と、
前記頂点認識機能が位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定機能と、
前記画定領域の面積を算出する面積算出機能と、
前記面積算出機能が算出した前記画定領域の面積と、前記画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較機能と、を実現させることにより、ユーザの顔のプロポーションの変化を評価する顔形状評価機能と、を実現させる画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理システム、画像処理方法、および画像処理プログラムに関する。
【背景技術】
【0002】
従来、画像処理技術を用いて、ユーザに対して美容を促進するシステムが知られている。
例えば、特許文献1には、フェイシャルマッサージ等の顔面に対する美容施術の前後に撮影された画像を用いて、顔面の皮膚のひずみ分布を求め、このひずみ分布を評価指標として美容施術の効果を定量的に解析するシステムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら前記従来のシステムでは、顔全体の形態の変化を評価するため、評価範囲が広くなり、マッサージを行った前後における変化の比較が難しいという問題があった。
【0005】
そこで本発明は、肌の異常を定量的に評価しながら、顔の一部に限定して評価することで、簡単にプロポーションの変化をすることができる画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明に係る画像処理システムは、ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された複数のステージに区分けする肌色評価部と、肌色評価部により区分けされたステージに基づいて、ユーザの肌のうち、異常が生じている部分を異常部として検出する異常部検出部と、を備えることにより、ユーザの肌の健康状態を評価する肌状態評価部と、画像データから、顔の骨格に依存して特定される2つの固定点、および顔の筋肉および脂肪に依存して特定される少なくとも1つの可動点それぞれの位置を認識する頂点認識部と、頂点認識部が位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定部と、画定領域の面積を算出する面積算出部と、面積算出部が算出した画定領域の面積と、画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較部と、を備えることにより、ユーザの顔のプロポーションの変化を評価する顔形状評価部と、を備える。
【0007】
また、肌状態評価部は、異常部検出部により検出された異常部の数量を集計する異常部集計部を備えてもよい。
【0008】
また、異常部検出部により検出された異常部の形状により、ユーザの肌における異常部の種類を判断する形状評価部を備えてもよい。
【0009】
また、異常部検出部により検出された異常部の色相の値により、ユーザの肌における異常部の肌表面からの深さを推定する深さ推定部を備えてもよい。
【0010】
また、領域画定部では、顔の正中線を基準にして、左右一対の画定領域を画定してもよい。
【0011】
領域画定部では、顔の上下方向に間隔をあけて、2種類の画定領域を画定してもよい。
【0012】
また、本発明の画像処理方法は、コンピュータが、ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された複数のステージに区分けする肌色評価ステップと、肌色評価ステップにより区分けされたステージに基づいて、ユーザの肌のうち、異常が生じている部分を異常部として検出する異常部検出ステップと、を実行することにより、ユーザの肌の健康状態を評価する肌状態評価方法と、画像データから、顔の骨格に依存して特定される2つの固定点、および顔の筋肉および脂肪に依存して特定される少なくとも1つの可動点それぞれの位置を認識する頂点認識ステップと、頂点認識ステップが位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定ステップと、画定領域の面積を算出する面積算出ステップと、面積算出ステップが算出した画定領域の面積と、画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較ステップと、を実行することにより、ユーザの顔のプロポーションの変化を評価する顔形状評価方法と、を実行する。
【0013】
また、本発明の画像処理プログラムは、コンピュータに、ユーザの肌を撮像した画像データを用いて、ユーザの肌の任意の箇所を、その色相の値により、ユーザの肌の状態を分類するために予め設定された複数のステージに区分けする肌色評価機能と、肌色評価機能により区分けされたステージに基づいて、ユーザの肌のうち、異常が生じている部分を異常部として検出する異常部検出機能と、を実現させることにより、ユーザの肌の健康状態を評価する肌状態評価機能と、画像データから、顔の骨格に依存して特定される2つの固定点、および顔の筋肉および脂肪に依存して特定される少なくとも1つの可動点それぞれの位置を認識する頂点認識機能と、頂点認識機能が位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する領域画定機能と、画定領域の面積を算出する面積算出機能と、面積算出機能が算出した画定領域の面積と、画定領域と対応する領域の面積として既知の基準面積と、を比較する面積比較機能と、を実現させることにより、ユーザの顔のプロポーションの変化を評価する顔形状評価機能と、を実現させる。
【発明の効果】
【0014】
本発明の画像処理システムでは、ミラー装置の撮像部がユーザの顔を撮像した画像データを用いて、肌色評価部が、ユーザの肌の色に基づいて、ユーザの肌の健康状態を評価する。これにより、肌の異常を定量的に評価することができる。
そして、顔形状評価部が、当該画像データから、ユーザの骨格、筋肉、および脂肪の位置に基づいて、ユーザの顔のプロポーションの変化を評価する。ここで、ユーザの骨格、筋肉、および脂肪の位置関係を基準に顔のプロポーションの変化を評価するため、顔の全体の変化を評価するような態様と比較して、変化の前後における良し悪しを容易に判断することができる。このため、肌の異常を定量的に評価しながら、顔の一部に限定して評価することで、簡単にプロポーションの変化をすることができる。
【図面の簡単な説明】
【0015】
【
図1】本発明の一実施形態に係る画像処理システムの構成例を示す模式図である。
【
図2】
図1に示すミラー装置を、ユーザが使用している状態を示す図である。
【
図3】
図1に示す画像処理システムの構成例を示すブロック図である。
【
図4】画像処理システム全体の処理フローを説明する図である。
【
図5】肌状態評価部により評価することができる評価項目を説明する図である。
【
図6】肌状態評価部の構成例を示すブロック図である。
【
図7】肌状態評価部によりシミを検出する際の評価基準となる評価テーブルの一例を示す図である。
【
図8】(a)画像処理システムにおける処理結果の一例を示す図、(b)
図8(a)の一部拡大図である。
【
図9】
図1に示す携帯端末の構成例を示すブロック図である。
【
図10】肌状態評価部における処理フローを示す図である。
【
図11】画像処理システムにおける処理結果の他の例を示す図である。
【
図12】肌状態評価部により毛穴を検出する際の評価基準となる評価テーブルの一例を示す図である。
【
図13】肌状態評価部によりクマ、赤み、およびシミを検出する際の評価基準となる評価テーブルの一例を示す図である。
【
図14】肌状態評価部によりキメ、小じわ、毛穴、およびしわを検出する際の評価基準となる評価テーブルの一例を示す図である。
【
図15】
図1に示す顔形状評価部の構成例を示すブロック図である。
【
図16】
図13に示す頂点認識部によって認識する各頂点の一例を示す図であって、撮像データの(a)正面図、(b)側面図である。
【
図17】顔形状評価部における処理フローを示す図である。
【
図18】頂点認識部が、頬上の頂点を認識する処理における模式図である。
【
図19】表示処理部による表示内容の一例を示す図である。
【
図20】表示処理部による表示内容の他の例を示す図である。
【
図21】(a)マッサージステップで使用される美容器の外観図、(b)断面図である。
【
図22】マッサージ方法の第1例における第1ステップの各工程(a)~(d)を示す図である。
【
図23】マッサージ方法の第1例における第2ステップの各工程(a)~(d)を示す図である。
【
図24】マッサージ方法の第1例における第3ステップの各工程(a)~(c)を示す図である。
【
図25】マッサージ方法の第1例における第4ステップの各工程(a)~(d)を示す図である。
【
図26】マッサージ方法の第1例における第5ステップの各工程(a)~(d)を示す図である。
【
図27】マッサージ方法の第1例における第6ステップの各工程(a)~(c)を示す図である。
【
図28】マッサージ方法の第2例における第1ステップの各工程(a)~(d)を示す図である。
【
図29】マッサージ方法の第2例における第2ステップの各工程(a)~(d)を示す図である。
【
図30】マッサージ方法の第2例における第3ステップの各工程(a)~(d)を示す図である。
【
図31】マッサージ方法の第3例における第1ステップの各工程(a)~(b)を示す図である。
【
図32】マッサージ方法の第3例における第2ステップの各工程(a)~(b)を示す図である。
【
図33】マッサージ方法の第3例における第3ステップの各工程(a)~(b)を示す図である。
【
図34】マッサージ方法の第3例における第4ステップの各工程(a)~(b)を示す図である。
【
図35】マッサージ方法の第4例における第1ステップの各工程(a)~(b)を示す図である。
【発明を実施するための形態】
【0016】
(全体構成)
本発明の一実施形態に係る画像処理システム100について、図面を参照しながら説明する。
図1は、本発明の一実施形態に係る画像処理システム100の構成例を示す模式図である。
図2は、
図1に示すミラー装置2をユーザ5が使用している状態を示す図である。
【0017】
図1に示すように、画像処理システム100は、ユーザ5の美容促進に資するために、ユーザ5の顔を撮像した画像データに対して画像処理を行い、その結果をユーザ5に対して表示することにより、美容促進に関する助言を行うシステムである。
実際にユーザ5が使用する際には、
図2に示すようにミラー装置2の前にユーザ5が着座し、ユーザ5の顔を、撮像部21により撮像した画像データを用いて、後述する各種の解析が実施される。
【0018】
図1に示すように、画像処理システム100は、ネットワーク3を介して互いに接続されたミラー装置2、および画像解析装置1を備えている。図示の例では、複数のミラー装置2が設けられている。ミラー装置2には、店舗用端末2Aと、個人用端末2Bと、がある。
【0019】
店舗用端末2Aは、ユーザ5に美容促進を指導する店舗で使用される端末であり、ユーザ5が当該店舗を訪れた際に、利用することができる。
個人用端末2Bは、主にユーザ5が自宅で使用することを想定された端末であり、ユーザが日々の生活において、例えば、身だしなみを整える際や就寝前等に利用することができる。
また、図示の例では、ネットワーク3に、ユーザ5の携帯端末4が接続されている。携帯端末4は、ネットワーク3に無線通信により接続されている。
【0020】
例えば、本発明の画像処理システム100は、エステサロン等の美容関連サービスを提供する店舗に設置された店舗用端末2Aを用いて、ユーザ5の顔を撮像して評価した結果を表示する。
画像処理システム100は、例えばユーザ5が自身の顔の肌の状態を改善するために、今後取り組むべき施策を提案するために用いてもよい。
【0021】
また、画像処理システム100は、ユーザ5の自宅に設けられた個人用端末2Bを用いて、ユーザ5の顔を日常的に撮像して評価した結果を示すこともできる。
すなわち、画像処理システム100の使用に際しては、店舗のオペレータ6の操作のもとで行われてもよいし、ユーザ5自身の操作により行われてもよい。
【0022】
図3は、画像処理システム100の構成例を示すブロック図である。
図3に示すように、ミラー装置2は、表示部20、撮像部21、および通信部22を備えている。表示部20は、ミラー装置2の表面に設けられ、鏡面になるとともに、データを表示することができるディスプレイである。すなわち表示部20は、画像解析装置1による後述する各種の解析結果を表示する。
【0023】
表示部20は、データを表示する領域と、鏡面になる領域と、を調整可能である。すなわち、例えば表示部20の全面を鏡面にしてもよいし、表示部20の全面にデータを表示してもよい。
また、表示部20の鏡面上にデータを表示することもできるし、表示部20の半分の領域を鏡面にして、残りの半分の領域にデータを表示してもよい。
【0024】
撮像部21は、表示部20の前方を撮像する。撮像部21は、前方にユーザ5が位置するときに、ユーザ5の顔を撮像して画像データを取得できる装置であれば、特に限定されない。撮像部21としては、例えばCMOSやCCD等の撮像素子を有している。
通信部22は、撮像部21が撮像した画像データを、画像解析装置1の通信部23に送信する。
【0025】
表示部20は撮像部21がユーザ5の顔を撮像する際に、過去に撮像した当該ユーザ5の顔の画像データの輪郭を表示する。
すなわち、習慣的に撮像を行う場合において、撮像部21に対して、ユーザ5の顔の位置が大きく変化しないことが好ましい。このため、撮像部21の前方に位置するユーザ5が、自身の顔の位置を撮像部21に対して合わせるために、表示部20が、過去に撮像した当該ユーザ5の顔の画像データの輪郭を表示する。この際、表示面に撮像部21に撮像されたユーザ5の顔の画像を表示し、ユーザ5が顔の位置を合わせた後に撮像部21が画像データを取得する。
【0026】
ミラー装置2が取得する画像データは、2Dデータであっても3Dデータであってもよい。本実施形態では撮像部21が2Dデータとしての画像データを取得する構成について説明する。
なお、ミラー装置2は、例えば撮像部21が間隔をあけて複数配置された3Dカメラであってもよいし、1つの撮像部21と距離センサとを備えている構成であってもよい。
【0027】
ミラー装置2の通信部22は、
図1に示すネットワーク3を介して、画像解析装置1の通信部23と通信を行う。
ネットワーク3は、ミラー装置2、画像解析装置1、および携帯端末4の間を相互に接続させるためのネットワークであり、例えば、無線ネットワークや有線ネットワークである。
【0028】
具体的には、ネットワーク3は、ワイヤレスLAN(wireless LAN:WLAN)や広域ネットワーク(wide area network:WAN)、ISDNs(integrated service digital networks)、無線LANs、LTE(long term evolution)、LTE-Advanced、第4世代(4G)、第5世代(5G)、CDMA(code division multiple access)、WCDMA(登録商標)、イーサネット(登録商標)などである。
【0029】
また、ネットワーク3は、これらの例に限られず、例えば、公衆交換電話網(Public Switched Telephone Network:PSTN)やブルートゥース(Bluetooth(登録商標))、ブルートゥースローエナジー(Bluetooth Low Energy)、光回線、ADSL(Asymmetric Digital Subscriber Line)回線、衛星通信網などであってもよく、どのようなネットワークであってもよい。
【0030】
また、ネットワーク3は、例えば、NB-IoT(Narrow Band IoT)や、eMTC(enhanced Machine Type Communication)であってもよい。なお、NB-IoTやeMTCは、IoT向けの無線通信方式であり、低コスト、低消費電力で長距離通信が可能なネットワークである。
【0031】
また、ネットワーク3は、これらの組み合わせであってもよい。また、ネットワーク3は、これらの例を組み合わせた複数の異なるネットワークを含むものであってもよい。
例えば、ネットワーク3は、LTEによる無線ネットワークと、閉域網であるイントラネットなどの有線ネットワークと、を含むものであってもよい。
【0032】
(画像解析装置)
図3に示すように、画像解析装置1は、肌状態評価部30と、顔形状評価部50と、通信部23と、将来予測部60と、評価結果提供部61と、確認内容報告部62と、記憶部63と、ユーザ識別部64と、を備えている。
画像解析装置1は、撮像部21が撮像したユーザ5の顔の画像データを解析する。
【0033】
肌状態評価部30はユーザ5の肌の状態を評価する機能部である。肌状態評価部30の構成の詳細については、
図6を用いて後述する。
顔形状評価部50は、ユーザ5の顔のプロモーションの変化を評価する機能部である。顔形状評価部50の構成の詳細については、
図15を用いて後述する。
【0034】
将来予測部60は、肌状態評価部30に記憶されたユーザ5の肌の健康状態、および顔形状評価部50に記憶されたユーザ5の顔の形状評価のうちの少なくとも一方を用いて、ユーザ5の顔の将来予測を行う。将来予測部60は、過去の履歴を参考にしながら、今後、継続して提案する施策を行った場合に、どのような効果が期待できるかといったユーザ5の顔の合成データを生成し、ミラー装置2の表示部20に表示する。
【0035】
評価結果提供部61は、画像データから、ユーザ5の美容促進の程度を解析して、解析結果を個人用端末2Bに提供する。ここでいう解析結果とは、後述する肌状態評価部30および顔形状評価部50が行う各解析結果のことを指している。
ここで、美容促進の程度とは、肌の状態や顔のプロモーションのような美容項目について、現在の状態から、将来に向けて改善を目指す過程における進捗具合を指している。
【0036】
確認内容報告部62は、ユーザ5に提供した解析結果のうち、ユーザ5が個人用端末2Bを用いて確認した確認履歴に関する確認履歴情報を店舗用端末2Aに報告する。確認履歴情報は、個人用端末2Bの利用状態の履歴であるデータログを入手することで、確認することができる。
【0037】
確認内容報告部62は、肌状態評価部30および顔形状評価部50が行った各解析結果について、ユーザ5が所定期間内に確認している回数を集計して、店舗用端末2Aに報告する。なお、同じ内容について個人用端末2Bに報告してもよい。
また、確認内容報告部62は、表示部20が表示したメンテナンス方法およびメンテナンス商品のうちの少なくとも一方を、店舗用端末2Aに報告する。メンテナンス方法およびメンテナンス商品の詳細については後述する。
【0038】
記憶部63は、ユーザ5が、店舗を訪れた際に店舗用端末2Aを用いて確認した内容を、確認履歴情報と合わせて記憶する。すなわち、ユーザ5が確認した内容は、自宅で個人用端末2Bを用いて確認した内容と、店舗で店舗用端末2Aを用いて確認した内容と、がそれぞれ集計されて記憶部63に記憶されている。
記憶部63はまた、ユーザ5それぞれの顔のデータと、ユーザ5のIDと、を記憶している。
【0039】
ユーザ識別部64は、使用するユーザ5を識別する。ユーザ識別部64は、例えば表示部20に表示されたタッチパネルのキーボードから、ユーザ5のIDの入力を受け付けてもよいし、例えば、撮像したユーザ5の顔の画像データを記憶部63に参照することにより、ユーザ5を特定してもよい。
【0040】
ここで、画像処理システム100の全体の処理フローについて、
図4を用いて説明する。
図4は、画像処理システム100の全体の処理フローを示す図である。
図4に示すように、ユーザがまず、ユーザ認証を行う(S10:ユーザ認証ステップ)。ユーザ認証は、ユーザ5が表示部20に表示されるタッチパネルのキーボードを用いて、ユーザIDを入力してもよいし、撮像部21が撮像した顔の画像データから、ユーザ識別部64が記憶部63に記憶されたユーザ5の情報を参照することで行ってもよい。
【0041】
次に、肌状態評価部30が、ユーザ5の肌の状態を評価する(S11:肌状態評価ステップ)。この内容については後述する。
次に、顔形状評価部50が、ユーザ5の顔のプロモーションの変化を評価する(S12:顔形状評価ステップ)。この内容については後述する。
【0042】
次に、評価結果提供部61が、個人用端末2Bに各解析結果を送信することにより、ユーザ5に評価結果を提供する(S13:評価結果提供ステップ)。各解析結果の内容については後述する。
次に、確認内容報告部62が、ユーザ5が確認した内容を、店舗用端末2Aに送信することにより、店舗に報告する(S14:確認内容報告ステップ)。これにより、ユーザ5が、美容に関するどのような項目に興味があるかを店舗スタッフが確認することができる。
【0043】
(肌状態評価部)
次に、肌状態評価部30の構成について詳述する。肌状態評価部30は、画像データから、ユーザ5の肌の色に基づいて、ユーザ5の肌の健康状態を評価する。
肌状態評価部30は、ユーザ5の肌の色に基づいて、ユーザ5の肌において異常が生じている部分を異常部として検出し、異常部の数量を、過去の履歴とともに表示する。異常部の数は、例えば肌の色としての色相に対して、予め設定した閾値を超える部分の数量をカウントすることで把握することができる。
【0044】
図5は、肌状態評価部30により評価することができる評価項目を説明する図である。
図5では、肌状態評価部30により、各異常項目に対して、撮像部21により撮像された画像内で検出を行う顔の領域を示している。
図5に示すように、肌状態評価部30は、肌の状態の異常を検出する機能を有している。肌状態評価部30が検出できる肌の異常とは、小じわ、シワ、シミ、毛穴の拡大、肌荒れ(キメ)、赤み、クマがある。
図5に示す各領域を肌状態評価部30が設定し、この各領域を、検出したい各異常項目に応じた検出領域として、検出処理を行う。
【0045】
次に、
図6を用いて肌状態評価部30の構成について詳述する。
図6は肌状態評価部30のブロック図である。なお、この説明では、肌状態評価部30が有する複数の評価機能のうち、シミの評価について例に挙げて説明する。
図6に示すように、肌状態評価部30は、装置側通信部31、データ記憶部32、データ処理部33、および装置側表示部34を備えている。肌状態評価部30は、ユーザ5の顔を撮像した画像データから、ユーザ5の顔の肌の状態を解析する情報処理装置である。
【0046】
装置側通信部31は、ネットワーク3を介して、各種のデータを送受信する通信インターフェースである。各種のデータとして、画像データ、処理データ、改善データが含まれる。すなわち装置側通信部31は、ミラー装置2の通信部22から送信された画像データを受信する受信部として機能する。
【0047】
ここで、画像データとは、ミラー装置2により、ユーザ5の顔を撮像したデータを指す。処理データとは、後述する評価結果表示部33Cにより、画像データに対して、シミの位置を特定しマーキングを行ったデータを指す。
改善データとは、後述する改善データ生成部33Fが、画像データに対して、色素異常部における色素沈着が改善された状態を想定し、色素異常部の色相を変化させてユーザ5に表示するデータを指す。
【0048】
データ記憶部32は、データ処理部33が動作するうえで必要とする各種の制御プログラムや、装置側通信部31が外部から受信した各種のデータを記憶する機能を有する。また、データ記憶部32は、後述する肌色評価部33Aが、ユーザ5の肌の色を評価する際に用いる際の基準となる評価テーブルを有している。
データ記憶部32は、例えば、HDD、SSD、フラッシュメモリなど各種の記憶媒体により実現される。
【0049】
データ記憶部32に記憶された制御プログラムを実行することで、データ処理部33が、画像処理システム100として実現すべき各機能を実現する。ここでいう各機能とは、肌色評価機能、色素沈着特定機能、評価結果表示機能、深さ推定機能、施策提案機能、改善データ生成機能を含んでいる。
装置側表示部34は、画像解析装置1の操作の内容や処理の結果を表示するモニタ装置である。
【0050】
データ処理部33は、画像解析装置1の各部を制御するコンピュータであり、例えば、中央処理装置(CPU)やマイクロプロセッサ、ASIC、FPGAなどであってもよい。
なお、データ処理部33は、これらの例に限られず、画像解析装置1の各部を制御するコンピュータであれば、どのようなものであってもよい。
【0051】
そしてデータ処理部33は、肌色評価部33A、肌異常特定部33B、評価結果表示部33C、深さ推定部33D、施策提案部33E、および改善データ生成部33Fを備えている。
肌色評価部33Aは、シミの検出の際には、ユーザ5の肌を撮像した画像データを用いて、ユーザ5の肌の任意の箇所を、複数のステージに区分けする。
【0052】
複数のステージとは、ユーザ5の肌の状態を分類するために予め設定された区分であって、例えばステージ1からステージ4で表され、ステージの数値が大きいほど、色素異常が発生している場所が皮膚の深い位置であり、色素異常の症状が重いことを意味する。なお、肌の色が異なる人種により、ステージ群を個別に準備してもよい。
【0053】
肌色評価部33Aは、肌の色相の値(一例としてRGB値)により、ユーザ5の肌の色を、複数のステージに区分けする。この内容について
図7を用いて詳述する。
図7は、シミを検出する際における肌色評価部33Aの評価基準となる評価テーブルの一例である。なお、色相の値としては、RGB値に限られず、CMYK値やその他の指標値であってもよい。
【0054】
図7に示す評価テーブルの一例では、色素異常部のうち、色素斑の種類に対して、色相とステージとの分類が記載されている。色相は例えばRGB値により表現することができる。すなわち、この図では、色相が色によって表現されているが、対応するRGB値のデータを備えていてもよい。
【0055】
例えば、
図7に示すように、老人性色素斑の場合には、色素異常部が頬骨の上に生じやすく、茶褐色から茶色の場合に、ステージ1と判断される。また、色素異常部が薄い茶褐色から薄い茶色の場合に、ステージ2と判断される。また、色素異常部が、淡い茶褐色から淡い茶色の場合に、ステージ3と判断される。
【0056】
次に、炎症後色素沈着の場合には、顔全体に生じやすく、色素異常部が、茶褐色から茶色の場合に、ステージ1と判断される。また、色素異常部が、薄い茶褐色から薄い茶色の場合に、ステージ2と判断される。
また、淡い茶褐色から淡い茶色の場合に、ステージ3と判断される。また、青色からグレーの場合には、ステージ4と判断される。ここで、色素斑の種類の判断については、色素異常部の位置や外観から、オペレータ6が選択する。
【0057】
なお、この評価テーブルはあくまで一例であり、シミを評価するための評価テーブルとして、別の評価テーブルを採用することもできる。
また、肌色評価部33Aは、肌の異常の種類(小じわ、シワ、シミ、毛穴の拡大、肌荒れ、赤み、クマのいずれか)により、参照する評価テーブルを変更する(
図13、
図14参照)。この点については後述する。
【0058】
肌異常特定部33Bは、肌色評価部33Aにより区分けされたステージに基づいて、ユーザ5の肌の任意の箇所に、色素沈着によるシミを含む色素異常部が生じている部分を特定する。ここで、色素沈着とは、黒色メラニンの表皮への蓄積により生じる肌の色素異常を指す。
【0059】
ここで、肌にシミ(色素斑)のような色素異常部が生じるメカニズムについて説明すると、紫外線等の刺激を肌が受けることで、肌の内部組織であるメラノサイト(メラニン形成細胞)が黒色メラニンを生成する。この黒色メラニンは肌を守る役割を持っているが、健康な肌の場合には、時間の経過とともに体外に排出される。
【0060】
一方、肌の新陳代謝のサイクルが乱れている場合や、黒色メラニンの生成量が多い場合には、黒色メラニンの一部が、体外に排出されずに、表皮に残留して蓄積される。このような色素の異常のうち、炎症や紫外線に起因するものを色素沈着もしくは色素斑(シミ)とよぶ。
【0061】
評価結果表示部33Cは、画像データに対して、肌色評価部33Aが区分けしたステージ毎に、その箇所の位置を表示する。また、評価結果表示部33Cは、肌異常特定部33Bが特定した色素異常部にマーキングを行う。これにより、画像データに対してシミの位置の表示とマーキングが付された処理データが生成される。マーキングは、色相がステージ1から4のうちのいずれかに該当する部分に、ステージ毎に設定された色のマークを付すことで行われる。
さらに、評価結果表示部33Cは、同一のユーザ5に対して異なる時期に撮像した複数の画像データに対して、ステージ毎の位置表示およびマーキングを行い、並べて表示することもできる。
【0062】
ここで、処理データの一例について
図8を用いて説明する。
図8(a)は、画像処理システム100における処理結果の一例を示す図、
図8(b)は、
図8(a)の一部拡大図である。
図8(a)および
図8(b)に示すように、ユーザ5の顔の肌の任意の位置に対して、複数のシミの位置が特定されている。そして、それぞれの位置において、色素異常部がマーキングされて表現されている。このマーキングのなかには、視認して判別できないものも含まれている。
図8(a)および
図8(b)において、最も薄いマークM1がステージ1を示し、最も濃いマークM3がステージ3を示している。そして、中間の濃さのマークM2が、ステージ2を示している。この図では、ステージ4のマークは確認されていない。
【0063】
深さ推定部33Dは、肌異常特定部33Bにより特定された色素異常部の色相の値により、ユーザ5の肌における色素異常部の肌表面からの深さを推定する。ここで、一般に、シミや色素斑の色相により、色素異常部が生じている位置の肌表面からの深さが異なることが知られている。
【0064】
例えば、
図7に示すシミ(色素斑)の評価テーブルでは、ステージ1に該当する色素異常部は表皮の上層に発生しており、ステージ2に該当する色素異常部は表皮の中層に発生していると判断される。また、ステージ3に該当する色素異常部は表皮の下層に発生しており、ステージ4に該当する色素異常部は表皮の下層から真皮層に発生していると判断される。
ここで、上側とは肌の内部のうち、表面を向く側を指し、下側とは肌の内部のうち、体内に向かう側を指す。このような色と深さとの判断基準は、任意に設定することができる。
【0065】
施策提案部33Eは、深さ推定部33Dが推定した色素異常部の深さに基づいて、色素沈着の改善を促す施策を提案する。施策の内容としては、美容器70の使用、導入美容液の使用、炭酸パックの使用、UVケア等がある。これらは、色素異常部の深さによりどれが適切か判断される。また、深層に形成された色素異常部については、医療機関の診察を受けることを提案してもよい。
【0066】
改善データ生成部33Fは、画像データに対して、色素異常部における色素沈着が改善された状態を想定し、色素異常部の色相を変化させてユーザ5に表示する。すなわち、提案する施策を一定期間行った際に、どのような効果が得られるかを視覚的に表現する機能を有している。
【0067】
改善データ生成部33Fは、例えば過去の履歴データを用いて、同様の状態から一定期間、当該施策を行った場合に、色素異常部がどのように変化するかという値を推測する。この推測に基づいて、改善データ生成部33Fは、画像データから改善データを生成する。
【0068】
次に、
図9を用いて、携帯端末4の構成について説明する。
図9は、携帯端末4の構成例を示すブロック図である。
携帯端末4は、端末側通信部41、端末記憶部42、端末処理部43、カメラ44、および端末側表示部45を備えている。
【0069】
端末側通信部41は、ネットワーク3を介して、各種のデータを送受信する通信インターフェースである。各種のデータとして、画像データ、比較結果を示すデータが含まれる。すなわち、端末側通信部41は、各種の情報を画像解析装置1から受信する。
【0070】
端末記憶部42は、端末処理部43が動作するうえで必要とする各種の制御プログラムや各種データを記憶する機能を有する。端末記憶部42は、例えば、HDD、SSD、フラッシュメモリなど各種の記憶媒体により実現される。
端末記憶部42に記憶された制御プログラムを実行することで、端末処理部43が、画像処理システム100として実現すべき各機能のうちの少なくとも一部を実現してもよい。
【0071】
端末処理部43は、携帯端末4の各部を制御するコンピュータであり、例えば、中央処理装置(CPU)やマイクロプロセッサ、ASIC、FPGAなどであってもよい。なお、端末処理部43は、これらの例に限られず、携帯端末4の各部を制御するコンピュータであれば、どのようなものであってもよい。
【0072】
端末処理部43は、受付部43Aを備えている。受付部43Aは、画像解析装置1から送信されてきた画像データや比較結果を受付けて、端末側表示部45に表示する。
カメラ44は、ユーザ5の操作により、撮像を行うことができる。本実施形態に係るミラー装置2に代えて、携帯端末4のカメラ44により、画像データを取得して、画像解析装置1に送信してもよい。
端末側表示部45は、画像解析装置1により処理された比較結果を示す情報を表示するモニタ装置である。端末側表示部45は、比較結果とともに、画像データを表示することができる。
【0073】
次に、
図10を用いて、肌状態評価部30による処理の内容について説明する。
図10は、画像解析装置1における処理フローを示す図である。
図10に示すように、まず、ミラー装置2により撮像したユーザ5の顔の画像データを取得する(画像取得ステップ:S501)。
次に、肌色評価部33Aが、評価テーブルを参照しながら、ユーザ5の肌を複数のステージに区分けする(肌色評価ステップ:S502)。
【0074】
次に、肌異常特定部33Bが、ユーザ5の肌において、色素異常部が生じている部分を特定する(色素沈着特定ステップ:S503)。そして、評価結果表示部33Cは、色素異常部にマーキングを行うことで、シミや色素斑を特定する(評価結果表示ステップ:S504)。
【0075】
次に、深さ推定部33Dが、色素異常部の肌表面からの深さを推定する(深さ推定ステップ:S505)。この際、深さ推定部33Dは、予め記憶された色素異常部の色と、肌表面からの深さと、の対応データを参照する。
【0076】
次に、施策提案部33Eが、ユーザ5に色素沈着を改善する施策を提案する(施策提案ステップ:S506)。
最後に、改善データ生成部33Fが、改善データを生成して表示する(改善データ生成ステップ:S507)。改善データ生成部33Fは、画像データに対して、色素異常部における色素沈着が改善された状態を想定し、色素異常部の色相を変化させてユーザ5に表示する。これにより、ユーザ5は、施策を行った際にどのような効果が得られるかを視覚的に把握することができ、施策を継続して行うことの動機付けを得ることができる。
【0077】
次に、処理結果の他の例について、
図11を用いて説明する。
図11は、画像処理システム100における処理結果の他の例を示す図である。
図11に示すように、前述した
図8よりもシミの数が多い場合であっても、複数のステージに区分けした状態で、色素異常部にマーキングが施されている。そして、確認された複数のシミについて、該当するステージ毎に、個数を評価することができる。また、シミの個数を集計し、理想値や平均値と比較することで、ユーザ5の現状を客観的に表示することができる。
【0078】
ここで、
図12から
図14を用いて、シミ以外の肌異常を検出する際の手法について説明する。
図12は、肌状態評価部30により毛穴を評価する際の評価基準となる評価テーブルの一例を示す図である。この評価テーブルには、発生メカニズム、肌の特徴、肌質(毛穴周囲の肌の質)、触診(触った感じ)、好発部位(よくできる部位)、原因、対策が毛穴の形により分類されている。
毛穴を検出する際には、肌色評価部33Aが検出した肌の色に関する情報から、肌異常特定部33Bが毛穴の位置を特定する。
【0079】
この際、毛穴の色の範囲を示す情報が、評価テーブルに予め記憶されており、この値を参照することで毛穴が検出される。また毛穴を検出する際には、肌異常特定部33Bは、毛穴の形状を評価して、複数のタイプに分類する。
例えば、
図12に示すように乾燥毛穴、たるみ毛穴、詰まり毛穴、および形状記憶型毛穴の4つに分類することができる。そして、このように分類された毛穴に対して、どのような処置を行えば目立たなくすることができるかというメンテナンス情報が、
図12の右端に位置する対策欄に記載されている。施策提案部33Eは、評価結果と合わせて、この対策内容を提示することで、ユーザ5が美容に供することができる。
【0080】
図13は、クマ、赤み、およびシミを検出する際の評価基準となる評価テーブルの一例を示す図である。
クマを検出する際には、肌色評価部33Aが検出した肌の色に関する情報から、肌異常特定部33Bが、クマの位置を検出する。この際、クマの色の範囲を示す情報が、評価テーブルに予め記憶されており、この値を参照することでクマが検出される。
【0081】
赤みを検出する際には、肌色評価部33Aが検出した肌全体の色のうち、赤色の色相が顕著に確認される部分を、肌異常特定部33Bが赤みとして検出する。そして、赤みがある領域を確認し、頬周辺に赤みがある場合は、毛細血管拡張と判断し、顔全体に赤みがある場合は、乾燥によるものと判断し、局所的に強い赤みがある場合は、ニキビによるものと判断する。そして、それぞれの赤みに対して、取るべき対策が準備されている。
【0082】
シミを検出する際には、前述したように、肌色評価部33Aが検出したシミの色により、シミをステージに分類する。シミは、その色により肌表面から位置する部分までの深さが異なることが知られているので、それぞれのシミに対して取るべき対策が異なってくる。
クマ、赤みおよびシミの場合にも、解決策として評価テーブルに記憶されているメンテナンス情報や施策情報を、施策提案部33Eが、評価結果と合わせてユーザ5に提示する。
【0083】
また、
図13および
図14に示すように、評価テーブルには、メンテナンス情報とともに、メンテナンスに推奨されるメンテナンス商品が示されている。この情報はデータ記憶部32に記憶されている。そして、施策提案部33Eは、メンテナンス情報とともに、メンテナンス商品を提示してもよいし、メンテナンス商品のみを提示してもよい。
すなわち、ミラー装置2の表示部20は、評価結果とともに、メンテナンス方法およびメンテナンス商品のうちの少なくとも一方を表示することができる。
【0084】
図14は、キメ、小じわ、毛穴、しわを検出する際の評価基準となる評価テーブルの一例を示す図である。
キメ(肌荒れ)を評価する際には、肌色評価部33Aが、頬の肌を色の違いで微小な面積要素に細分化し、密集度を評価してスコアを付ける。このスコアが50点以上である場合には、角質肥厚と判断し、30点以上49点以下である場合には、乾燥肌と判断する。29点以下の場合には、異常なしと判断する。
【0085】
小じわを評価する際には、肌色評価部33Aが、目の周囲に形成され、周囲と色相が異なるラインを検出する。すなわち、眼の周囲に形成されるしわのことを、この説明ではしわと呼んでいる。ラインが、1本以上、目の下側に水平方向に延びている場合には、このラインをたるみじわと判断する。また、ラインが、目の左右外側であって、目じりから下側のエリアに3本以上の場合には、このラインを小じわと判断する。
たるみじわは筋肉の低下が主な原因であり、小じわは表皮、真皮が薄くなっていることが主な原因と考えられる。毛穴の評価については、前述の通りであり、説明を省略する。
【0086】
しわを評価する際には、肌色評価部33Aが、額と頬の周囲に形成され、周囲と色相が異なるラインを検出する。すなわち、額と頬の周囲に形成されるしわのことを、この説明では小じわと呼んでいる。そして額にラインがある場合は、表情しわと判断し、頬にラインがある場合には、大じわと判断する。表情しわは、日常の表情のくせや、頭皮と目元の筋力の低下が主な原因である。大じわは、頬、口元の筋力の低下が主な原因である。
【0087】
このようにして、肌状態評価部30Aは、肌の異常の種類(小じわ、シワ、シミ、毛穴の拡大、肌荒れ、赤み、クマのいずれか)それぞれについて、肌に異常が生じている部分を検出することができる。
【0088】
(顔形状評価部)
次に、
図3に示す顔形状評価部50の構成について
図15を用いて説明する。
図15は、顔形状評価部50の構成を示すブロック図である。
顔形状評価部50は、画像データから、ユーザ5の骨格、筋肉、および脂肪の位置に基づいて、ユーザ5の顔のプロポーションの変化を評価する。顔形状評価部50は、ユーザ5の骨格、筋肉、および脂肪の位置に基づいて、ユーザ5の顔に画定した所定領域の面積を算出し、所定領域の面積を、過去の履歴とともに表示する。
【0089】
顔形状評価部50は、装置側通信部51、データ記憶部52、装置処理部53、および装置側表示部54を備えている。顔形状評価部50は、ユーザ5の顔を撮像した撮像データからユーザ5の顔の状態を解析する情報処理装置である。
【0090】
装置側通信部51は、ネットワーク3を介して、各種のデータを送受信する通信インターフェースである。各種のデータとして、撮像データ、比較結果を示すデータが含まれる。すなわち装置側通信部51は、撮像データを受信する受信部として機能する。
【0091】
データ記憶部52は、装置処理部53が動作するうえで必要とする各種の制御プログラムや、装置側通信部51が外部から受信した各種のデータを記憶する機能を有する。また、データ記憶部52は、少なくとも一つ以上の基準面積データを記憶している。
データ記憶部52は、例えば、HDD、SSD、フラッシュメモリなど各種の記憶媒体により実現される。
【0092】
データ記憶部52に記憶された制御プログラムを実行することで、装置処理部53が、画像処理システム100として実現すべき各機能を実現する。ここでいう各機能とは、頂点認識機能、領域画定機能、面積算出機能、面積比較機能、および結果表示機能を含んでいる。
装置側表示部54は、顔形状評価部50の操作の内容や処理の結果を表示するモニタ装置である。
【0093】
装置処理部53は、顔形状評価部50の各部を制御するコンピュータであり、例えば、中央処理装置(CPU)やマイクロプロセッサ、ASIC、FPGAなどであってもよい。
なお、装置処理部53は、これらの例に限られず、顔形状評価部50の各部を制御するコンピュータであれば、どのようなものであってもよい。
【0094】
そして装置処理部53は、頂点認識部53A、領域画定部53B、面積算出部53C、面積比較部53D、および表示処理部53Eを備えている。
頂点認識部53Aは、ユーザ5の顔を撮像した撮像データから、2つの固定点Pfおよび1つの可動点Pmそれぞれの位置を認識する。
【0095】
ここで固定点Pfとは、顔の骨格に依存して特定される頂点である。固定点Pfは、顔の骨格に依存して特定されるため、時間の経過による位置の変化はわずかである。
なお、ここでいう固定という意味は、位置がまったく変化しないという意味ではなく、後述する可動点Pmと比較して、変化の量が極めて少ないという意味である。
【0096】
一方、可動点Pmとは、顔の筋肉および脂肪に依存して特定される頂点であり、例えば加齢とともに顔の筋肉が弱くなったり、顔に脂肪がついたりすることで、下側に向けて位置が変化する。
また可動点Pmは、顔の筋肉に刺激を与えることで、顔の筋肉が強くなったり、顔の脂肪量が少なくなったりすることで、上側に向けて位置が変化する。このような可動点Pmの位置の変化により顔のプロポーションが変化して、顔が相手に与える印象に大きく左右する。
【0097】
ここで、本実施形態における頂点認識部53Aが認識する各頂点について、
図16を参照して説明する。
図16は、頂点認識部53Aによって認識する各頂点を示す図であって、撮像データの(a)正面図、(b)側面図である。なお、この内容はあくまで一例であり、頂点認識部53Aが認識する各頂点は、任意に変更することができる。すなわち、ユーザ5の骨格の構造や、筋肉の付き方等を考慮して、認識しやすい顔の頂点を、評価に用いることができる。
【0098】
図16に示すように、頂点認識部53Aは、1つの画定領域に対して、2つの固定点Pfと1つの可動点Pmを認識する。2つの固定点Pfとして、深鼻点P1とこめかみの頂点P2とにより特定される各頂点を認識し、1つの可動点Pmとして、頬上の頂点P3を認識する。なお、深鼻点P1は左右一対の画定領域で共有している。各頂点の具体的な特定手法については後述する。
本実施形態では、深鼻点P1およびこめかみの頂点P2それぞれの上下方向の位置は、互いに同等となっている。頬上の頂点P3は、深鼻点P1およびこめかみの頂点P2よりも下側に位置している。
【0099】
また、頂点認識部53Aは、2つの固定点Pfとして、鼻下点P4と耳下点P5とにより特定される各頂点を認識し、1つの可動点Pmとして、頬下の頂点P6を認識する。なお、鼻下点P4は左右一対の画定領域で共有している。各頂点の具体的な判別手法については後述する。
本実施形態では、鼻下点P4および耳下点P5それぞれの上下方向の位置は、互いに同等となっている。頬下の頂点P6は、鼻下点P4および耳下点P5のよりも下側に位置している。
【0100】
頂点認識部53Aにおける各頂点の認識手段としては、撮像データに対して設けられた空間座標に対する絶対座標を特定する方法であってもよいし、画定領域を画定する3つの各頂点のうちのいずれかを基準とした相対座標を特定する方法であってもよい。
本実施形態では、撮像データが3Dデータであるため、座標値も3次元的に表現されることとなる。
【0101】
領域画定部53Bは、頂点認識部53Aが位置を認識した各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する。また、領域画定部53Bは、顔の正中線O1を基準にして、左右一対の画定領域を画定する。
なお、領域画定部53Bが画定する画定領域は、2次元的な領域でもよいし、3次元的な領域であってもよい。本実施形態では画定領域は、3次元的な領域となっている。
【0102】
本実施形態では、領域画定部53Bは、顔の上下方向に間隔をあけて、2種類の画定領域を画定する。ここで、上側に位置する画定領域を上側画定領域A1とし、下側に位置する画定領域を下側画定領域A2とする。
すなわち、領域画定部53Bは、上側画定領域A1および下側画定領域A2それぞれを、左右一対画定することとなる。
【0103】
なお、上側画定領域A1および下側画定領域A2が上下方向に間隔をあけるとは、顔全体を、上下方向の全域にわたって評価することにより、上側画定領域A1および下側画定領域A2による評価を顔全体に及ばせるという意図である。このため、上側画定領域A1および下側画定領域A2の一部同士が、互いに重なっていても問題はない。
【0104】
面積算出部53Cは、画定領域の面積を算出する。画定領域の面積の算出にあたっては、領域画定部53Bが特定した各頂点の座標データを用いて、画定領域内の面積を算出する。
面積比較部53Dは、面積算出部53Cが算出した画定領域の面積と、画定領域と対応する領域の面積として既知の基準面積と、を比較する。
【0105】
面積比較部53Dは、例えば基準面積として、撮像データの撮像時から一定期間前、すなわち過去に撮像したユーザ5の撮像データから画定した画定領域の面積を用いることができる。
また、面積比較部53Dは、基準面積として、ユーザ5が望む顔としての理想モデルにおける画定領域の面積を用いることができる。このように基準面積としては、現時点での画定領域の面積と比較できるものであれば、任意に設定することができる。
【0106】
ここで、ユーザ5が望む顔としての理想モデルの作成方法の一例について説明する。
理想モデルは、過去の撮像データを用いて作成する。過去の撮像データに対して、理想となる画定領域を目視で指定した元データを100個ほど準備する。この元データを用い、ディープラーニング(深層学習)処理を行うことで、理想モデルを作成することができる。
【0107】
次に、各面積を比較する際の指針について、前回測定した際の面積を基準面積とした場合を例に挙げて説明する。本実施形態の上側画定領域A1では、可動点Pmである頬上の頂点P3が、固定点Pfである深鼻点P1およびこめかみの頂点P2よりも下側に位置している。
また、下側画定領域A2においても、可動点Pmである頬下の頂点P6が、鼻下点P4および耳下点P5よりも下側に位置している。
【0108】
このため、可動点Pmである頬上の頂点P3、および頬下の頂点P6が下側に移動すると、上側画定領域A1および下側画定領域A2はそれぞれ、面積が大きくなることとなる。
一方、可動点Pmである頬上の頂点P3、および頬下の頂点P6が上側に移動すると、上側画定領域A1および下側画定領域A2はそれぞれ、面積が小さくなることとなる。
【0109】
すなわち本実施形態のように、可動点Pmの位置を固定点Pfの位置よりも下側に配置している構成では、画定領域の面積が、前回測定した際の面積である基準面積よりも小さくなっている場合には、可動点Pmが上側に移動したこととなる。
すなわち、顔の筋肉が強くなったか、又は顔の脂肪が少なくなったことで、顔のプロポーションが改善したことを意味する。
【0110】
一方、画定領域の面積が、前回測定した際の面積である基準面積よりも大きくなっている場合には、可動点Pmが下側に移動したこととなる。
すなわち、顔の筋肉が弱くなったか、又は顔の脂肪が多くなったことで、顔のプロポーションが悪化したことを意味する。
このようにユーザ5は、画定領域の変化量を確認することで、定量的に顔のプロポーションが改善に向かっているのか悪化しているのかを把握することができる。
【0111】
なお、本実施形態では、上側画定領域A1および下側画定領域A2のそれぞれについて、可動点Pmの位置を固定点Pfの位置よりも下側に配置している構成について説明したが、このような態様に限られない。可動点Pmの位置は、固定点Pfの位置よりも上側に位置してもよい。
【0112】
この場合には、画定領域の面積と基準面積との比較結果が、前述した説明と反対となる。すなわち、画定領域の面積が基準面積よりも大きくなった場合に、顔のプロポーションが改善に向かっていることとなり、画定領域の面積が基準面積よりも小さくなった場合に、顔のプロポーションが悪化に向かっていることとなる。
【0113】
また、ユーザ5が望む顔としての理想モデルにおける画定領域の面積を、基準面積とする場合には、基準面積にどの程度近づいたかを確認することで、顔のプロポーションが改善しているかどうかを把握することができる。
【0114】
表示処理部53Eは、面積比較部53Dにより、画定領域の面積と、基準面積と、を比較した比較結果を装置側表示部54、および携帯端末4の後述する端末側表示部45に表示する。表示処理部53Eが表示する表示内容の具体例については後述する。
【0115】
次に、
図17から
図18を用いて、画像処理システム100の制御フロー、および画像処理システム100における処理の内容について説明する。
図17は、画像処理システム100における処理フローを示す図であり、
図18は、頂点認識部53Aが、頬上の頂点P3を認識する処理における模式図である。
【0116】
図17に示すように、本実施形態に係る美容促進方法では、まずミラー装置2の撮像部21が取得したユーザ5の顔の画像データを受け付ける(S601:画像受付ステップ)。
画像受付ステップでは、ユーザ5の顔の表情による変化を抑えるために、例えば奥歯を軽く噛合わせる等をして、常に同じ表情とすることが望ましい。
【0117】
次に、頂点認識部53Aが、撮像部21から送信された撮像データを用いて各頂点を認識する(S602:頂点認識ステップ)。
頂点認識ステップでは、1つの画定領域を構成する3つの頂点として、2つの固定点Pfおよび1つの可動点Pmそれぞれの位置を認識する。ここで、各頂点の具体的な判別手法の一態様について説明する。なお、あくまでこの説明は一例であり、他の手法により各頂点を判別してもよい。
【0118】
図18に示すように、頂点認識部53Aは、撮像データを3次元的に評価して、各頂点を認識する。まず、上側画定領域A1を構成する3つの頂点のうち、一方の固定点Pfをなす深鼻点P1については、顔の鼻根部のうち、最も窪んだ部分を特定し、深鼻点P1として認識する。
次に、他方の固定点Pfをなすこめかみの頂点P2については、顔のこめかみ部分のうち、最も窪んだ部分をこめかみの頂点P2として認識する。なお、こめかみの頂点P2は、正面視における顔の左右方向の外端部のうち、深鼻点P1と瞳の中心、または目頭とを結ぶ直線が通過する部分としてもよい。
【0119】
さらに、3つの頂点のうち、可動点Pmをなす頬上の頂点P3については、顔の頬の上部のうち、瞳の外側の垂直線上付近において最も隆起した部分を頬上の頂点P3として認識する。この際、
図18に示すように、撮像データに等高線を投影することで、最も隆起した部分を頬上の頂点P3として認識する場合もある。
この処理を左右両側で行うことで、左右一対の上側画定領域A1を構成する各頂点が認識される。
【0120】
次に、
図16に示すように、下側画定領域A2を構成する3つの頂点のうち、一方の固定点Pfをなす深鼻点P1については、顔の鼻下部のうち、最も窪んだ部分を鼻下点P4として認識する。
次に、他方の固定点Pfをなす耳下点P5については、顔のうち、耳の下に位置する部分のうち、最も窪んだ部分を耳下点P5として認識する。
【0121】
さらに、3つの頂点のうち、可動点Pmをなす頬下の頂点P6については、顔の頬の下部のうち、瞳の外側の垂直線上付近における、口角の横の膨らみにおいて、最も隆起した部分を頬下の頂点P6として認識する。頬下の頂点P6を認識する際にも、撮像データに等高線を投影することで、最も隆起した部分を頬下の頂点P6として認識する場合もある。
この処理を左右両側で行うことで、左右一対の下側画定領域A2を構成する各頂点が認識される。
【0122】
なお、前述した各頂点の認識方法を採用せずに、例えば予め登録された複数の人の顔のデータにおける各頂点の位置と、撮像した撮像データと、を比較することで、それぞれの画定領域を構成する各頂点を識別するような画像処理を行ってもよい。
また、最新の撮像データを、過去の撮像データと重ね合わせることで、各頂点の位置を特定してもよい。また、オペレータ6が、各頂点として適切な箇所を撮像データ上で選択することで、各頂点の位置を特定してもよい。
【0123】
次に、領域画定部53Bが、頂点認識ステップにより特定された各頂点データを用いて、画定領域を画定する(S603:領域画定ステップ)。
領域画定ステップでは、各頂点同士を結んだ直線により、三角形状をなす画定領域を画定する。
【0124】
次に、面積算出部53Cが、領域画定ステップにより画定された画定領域の面積を算出する(S604:面積算出ステップ)。
面積算出ステップでは、画定領域の面積を、各頂点の座標データを用いて算出する。
【0125】
次に、面積比較部53Dが、面積算出ステップが算出した画定領域の面積を基準面積と比較する(S605:面積比較ステップ)。
面積比較ステップでは、画定領域の面積と、この画定領域と対応する領域の面積として既知の基準面積と、を比較する。この説明では、過去の測定結果で得られた画定領域の面積を、基準面積として設定している。
【0126】
最後に、表示処理部53Eが、比較結果を示す情報を出力する(S606:表示処理ステップ)を行う。
表示処理ステップでは、面積比較部53Dにより比較された画定領域の面積と、基準面積と、の比較結果を、装置側表示部54および端末側表示部45に表示する。また、比較結果には、今回の結果に対する知見や、今後ユーザ5が取り組む施策(顔のマッサージ等)を提案する情報が含まれていてもよい。なお、端末側表示部45には比較結果を表示しなくてもよい。
そして、このような比較を行うことにより、前述した第1実施形態と同様に、経年劣化および改善対策による顔のプロポーションの変化を定量的に評価して、美容促進に資することができる。
【0127】
次に、
図19および
図20を用いて、顔形状評価部50による評価の結果と、その効果について説明する。
図19は、表示処理部53Eによる表示内容の一例を示す図であり、(a)2か月前の撮像データ、(b)評価時の撮像データである。また、
図20は、表示処理部53Eによる表示内容の他の例を示す図であり、(a)2か月前の撮像データ、(b)評価時の撮像データである。また、
図19および
図20においては、上下に同じ画像データを配置している。
【0128】
図19に示す比較結果の一例では、2か月前と比較して、上側画定領域A1の面積が約23%、下側画定領域A2の面積が約53%減少した。これにより、若々しいふっくら感がでており、見た目の印象が向上していることが認められる。
【0129】
図20に示す比較結果の他の例では、2か月前と比較して、上側画定領域A1の面積が約21.5%、下側画定領域A2の面積が約25%減少した。これにより、若々しいふっくら感がでて見た目の印象が向上していることが認められる。これにより、バランスが良く、たおやかな表情となっており、見た目の印象が向上していることが認められる。
【0130】
次に、このような画像処理システム100を用いて行われるマッサージ評価方法について説明する。このマッサージ評価方法では、ユーザ5の顔に所定のマッサージを施したうえで、画像処理システム100を用いてマッサージの効果を評価する。これにより、マッサージがユーザ5に対して与える効果の有効性を確認する。
【0131】
マッサージ評価方法は、マッサージステップと、画像処理ステップと、を実行することにより行われる。
マッサージステップでは、機能剤塗布ステップと、リンパ節刺激ステップと、筋膜刺激ステップと、を実行することにより行われる。この説明では、マッサージステップを顔に対して施す内容を説明するが、顔以外の部分にマッサージステップを実行してもよい。
【0132】
機能剤塗布ステップでは、ユーザ5の顔の表面に機能剤を塗布する。機能剤とは、血行促進、脂肪融解の促進、又は筋膜弛緩の促進のうちの少なくともいずれかの機能を有する薬剤である。具体的には、グラウシン(血行促進剤)、オクラ種子エキス(脂肪融解の促進剤、筋膜弛緩の促進剤)、ナイアシンアミド(血行促進剤)、およびグレコンへスぺリジン(血行促進剤)のうちのいずれかの成分が機能剤に含まれていることが好ましい。なお。これらの成分に限定されず、前述した効果を奏する成分であれば、任意に採用することができる。
【0133】
機能剤塗布工程では、顔のうち、特にユーザ5が引き締めたい部分、例えば頬、目の周り等に塗布する。そして、その後にリンパ節刺激ステップを実行する。
リンパ節マッサージを施すリンパ節刺激ステップでは、機能剤塗布ステップの後に、ユーザ5の顔のうち、リンパ節が位置する部分を物理的に刺激する。顔のリンパ節は、耳下に位置している。
【0134】
リンパ節刺激ステップでは、
図21に示す美容器70を用いてリンパ節への刺激が行われる。
図21(a)は、マッサージステップで使用される美容器70の外観図である。
図21(b)は、美容器70の断面図である。
図21に示すように、美容器70は、付勢部材73,75により付勢されたピン状の押圧部72、74を備えている。この押圧部72、74をユーザ5の顔のうち、リンパ節が位置する部分の肌に押し付けて押圧することで、リンパ節が刺激される。ここで、美容器70の構造について詳述する。
【0135】
美容器70は、美容器本体71と、第1押圧部72と、第1付勢部材73と、第2押圧部74と、第2付勢部材75と、を備えている。
美容器本体71は、軸方向の一方側から他方側に向けて、段階的に拡径する多段筒状に形成された筒状をなしている。
【0136】
美容器本体71は、軸方向の一方側に位置する小径筒部71Aと、小径筒部71Aと軸方向に連結された中間筒部71Bと、軸方向の他方側に位置する大径筒部71Cと、を備えている。
大径筒部71Cの内周面のうち、中間筒部71Bと軸方向に連なる部分には、径方向の内側に向けて張り出した張り出し部71Dが形成されている。
【0137】
第1押圧部72は、美容器本体71の一端部に設けられ、使用者の顔や身体を押圧するものであって、1つの第1ピンから構成されている。
第1付勢部材73は、美容器本体71における一端部の内部に収容され、第1押圧部72を美容器本体71の外側に向けて付勢している。第1付勢部材73はコイルばねである。
【0138】
第2押圧部74は、美容器本体71の他端部に設けられ、使用者の顔や身体を押圧するものであって、3つの第2ピン、および3つの第2ピンを一体に保持する保持部から構成されている。
第2付勢部材75は、美容器本体71における他端部の内部に収容され、保持部の端部に当接することで、第2押圧部74を美容器本体71の外側に向けて付勢している。第2付勢部材75は、コイルばねである。
【0139】
第1付勢部材73は、中間筒部71Bの内側に配置され、張り出し部71Dに当接した状態で、第1ピンに当接している。
第2付勢部材75は、大径筒部71Cの内側に配置され、張り出し部71Dに当接した状態で、保持部の端部に当接している。
【0140】
そして、美容器70を使用する際には、押圧部72,74のうちのいずれか一方を、ユーザ5の顔に押圧されることにより、ユーザ5の顔に刺激を与える。第1付勢部材73および第2付勢部材75それぞれの付勢力は互いに異なっており、どちらの押圧部72,74を用いるかは、ユーザ5が選択することができる。
【0141】
そして、例えば第1押圧部72を、ユーザ5の顔に押圧すると、第1付勢部材73からの付勢力に抗して、第1押圧部72が変位する。この際、コイルばねである第1付勢部材73の長さが短くなり、変形量が大きくなることで、徐々に第1押圧部72が、第1付勢部材73から受ける付勢力が大きくなる。
【0142】
これにより、第1押圧部72が、ユーザ5の顔を押圧する力も徐々に強くなる。そして、第1付勢部材73の変位域の限度に達するまで、顔に第1押圧部72を押し付けてもよいし、痛みを感じる直前で第1押圧部72をユーザ5の顔に押し付けるのをやめてもよい。この動作を繰り返して複数回行うことにより、ユーザ5の顔に刺激を与えることができる。
リンパ節刺激ステップでは、顔にあるリンパ節だけではなく、鎖骨付近になるリンパ節も刺激する。これにより、リンパ節でのリンパ液の滞留が解消される。
【0143】
次に、筋膜マッサージを施す筋膜刺激ステップを行う。筋膜刺激ステップは、リンパ節刺激ステップで使用した美容器70を用いて行う。筋膜刺激ステップでは、頭頂部や頬、首などを繰り返し美容器70の押圧部72,74により押圧する。これにより、筋膜が筋肉に癒着しているのを剥がすことができる。
なお、リンパ節刺激ステップおよび筋膜刺激ステップは繰り返して行ってもよいし、先に筋膜刺激ステップを行った後に、リンパ節刺激ステップを行ってもよい。
【0144】
次に、画像処理ステップを行う。画像処理ステップでは、前述した顔形状評価部50による顔形状評価ステップと、顔形状評価部50により評価したユーザ5の顔のプロポーションの変化を示す情報を出力する表示処理ステップと、を実行する。
表示処理ステップは、表示処理部53Eが表示部20に評価結果を表示する。これにより、リンパ節マッサージおよび筋膜マッサージの効果を確認する。
【0145】
ここで、マッサージステップにおいて、リンパ節を刺激することの有用性について説明する。
筋肉と筋膜との癒着は、これらの間に介在する老廃物に起因して生じていることがある。この老廃物を除去するには、筋肉と筋膜との間を流れるリンパ液の流れを良くすることが有効である。そして、リンパ液を貯留するリンパ節を刺激することで、リンパ液の流れを良くすることができる。
【0146】
このようにリンパ液の流れを良くしながら、筋膜を刺激することで、効果的に筋肉と筋膜との間に介在する老廃物を、リンパ液の流れにのせて除去することができる。これにより、筋膜の筋肉への癒着を効果的にはがすことができる。
【0147】
次に、マッサージステップにおいて、押圧部72,74を備えた美容器70を用いてリンパ節や筋膜を刺激することの有用性について説明する。例えば、従来のマッサージでは、ローラ部材を筋膜が位置する部分の肌表面で転がすことにより刺激を与えることが行われていた。
【0148】
しかしながら、ローラ部材により肌表面を刺激する場合には、ローラの回転とともに押圧力が分散し、対象となる筋膜やリンパ節が位置する体の深部にまで刺激が届きにくいという傾向があった。このため、筋膜と筋肉との間に介在する老廃物を除去することが効果的に行えないという課題があった。
【0149】
一方、ピン状の押圧部72,74により筋膜が位置する部分の外側を刺激する場合には、ピン状の押圧部72,74の先端からの押圧力が、押圧部72、74の先端と接触する部分に集中する。このため、筋膜やリンパ節が位置する体の深部まで、押圧力を届きやすくすることができる。
【0150】
また、付勢部材73,75により、押圧部72,74の変位とともに押圧力が強くなることにより、押圧部72,74の変位の程度を調整することで、押圧力の調整をすることができる。更に、付勢部材73,75により概ね一定の力で押圧部72,74を付勢しているため、押圧部72,74により押圧力を概ね一定にしやすいという利点がある。
【0151】
次に、マッサージ方法の具体的な手順の第1例について
図22から
図27を参照して説明する。
まず、
図22(a)に示すように、美容器70を用いて、鎖骨付近の静脈角に刺激を与える。この際、美容器70の押圧部72,74を静脈角に押し込むように押圧する。この状態を5秒程度キープするのが好ましい。
次に、
図22(b)に示すように、美容器70の押圧部72,74を、鎖骨下のリンパ節が位置する鎖骨中央部に当て、20秒程、押圧部72,74を押し込む動作を繰り返す。(リンパ節刺激ステップ)押圧部72,74を押し込む動作は、1秒間に5回程度の速度で行うのが好ましい。
【0152】
次に、
図22(c)に示すように、美容器70の押圧部72,74を、乳様突起下に当て、10秒程、押圧部72,74を押し込む動作を繰り返す。押圧部72,74を押し込む動作は、1秒間に3~5回程度の速度で行うのが好ましい。
次に、
図22(d)に示すように、美容器70の押圧部72,74を、後頭部に当て、10秒程、押圧部72,74を押し込む動作を繰り返す。押圧部72,74を押し込む動作は、1秒間に3~5回程度の速度で行うことが好ましい。なお、後頭部のうち、耳中央部と同じ高さで首筋の上に位置する部分を押圧するのが好ましい。
【0153】
次に、
図23(a)に示すように、機能剤を片側の首筋全体に塗布する。機能剤は数ccを延ばしながら塗布する。これにより、機能剤のムラを無くすことができる。
次に、
図23(b)に示すように、耳の手前を上下に伸ばす。この動作は5回ほど行う。
【0154】
次に、
図23(c)に示すように、機能剤を片側のこめかみ周囲に塗布する。機能剤は数ccを延ばしながら塗布する。
次に、
図23(d)に示すように、こめかみに4指を当て、斜め上方向(側頭部)に指を引き上げることで、頭皮のストレッチを行う。この際、指を引き上げた状態で5秒程度キープするのが好ましい。
【0155】
次に、側頭部の刺激を行う。
図24(a)に示すように、側頭部のうち、こめかみと同じ高さで、耳の上に位置する部分を特定する。そして、
図24(b)に示すように、美容器70の押圧部72,74を、こめかみに当て、10秒程、押圧部72,74を押し込む動作を繰り返す。押圧部72,74を押し込む動作は、1秒間に3~5回程度の速度で行うことが好ましい。
次に、
図24(c)に示すように、こめかみの周辺に対して、同様に押圧部72,74を押し込む動作を繰り返す。この際、1秒間に3~5回程度の速度で10秒ほど行うことが好ましい。
【0156】
次に、
図25(a)に示すように、側頭部の6箇所に刺激を与える。この動作は1箇所につき30回程度行う。
次に、
図25(b)に示すように、側頭部に4指を当て、円弧を描くようにほぐす。この動作は5回程度行う。
【0157】
次に、
図25(c)に示すように、前頭部の生え際中央からこめかみまで、5箇所に対して刺激を与える。この動作は1箇所に対して30回程度行うのが好ましい。
次に、
図25(d)に示すように、前頭部に4指をあて、円弧を描くようにほぐす。この動作は5回程度行う。
【0158】
次に、
図26(a)に示すように、頭頂部から親指で圧を与えながら、耳の裏まで滑らせる。この動作を3つのラインに沿って3回ずつ行う。
次に、
図26(b)に示すように、耳の裏側を矢印の方向に引っ張る。この動作は、各方向について5秒ずつ行う。
【0159】
次に、
図26(c)に示すように、甲乙部の8箇所に対して美容器70を用いて刺激を与える。この動作を1箇所につき30回ずつ行う。
次に、
図26(d)に示すように、生え際に4指をあて、後頭部に向かって、手ぐしを3回ずつ入れる
【0160】
次に、仕上げ作業として、
図27(a)に示すように、まず、耳の下に手首を添える。次に、
図27(b)に示すように、手首を耳上の側頭部に移し、もう片側の手を頭に沿える。最後に、
図27(c)に示すように、両手を使って上に引きあげる。これにより、一連のマッサージが全て終了する。
【0161】
次に、マッサージ方法の具体的な手順の第2例について説明する。このマッサージは、主に頭の筋膜に対するマッサージである。頭の筋膜の癒着をはがすことにより、顔のシルエットに影響がでることが確認されている。
まず、
図28(a)に示すように、両手4指で耳上の頭皮をつかむ。次に、両手4指で耳上の側頭筋を動かすように、円を描く。この際、3つの円をそれぞれ3回ずつ描くようにする。
【0162】
次に、
図28(b)に示すように、頭頂部に位置する百会のツボに向けて、美容器70の押圧部72,74で頭部を刺激する。
次に、
図28(c)に示すように、両手4指で生え際の頭皮をつかむ。次に、両手4指で前頭筋を動かすように、円を描く。この際、3つの円をそれぞれ3回ずつ描くようにする。
【0163】
次に、
図28(d)に示すように、生え際を中央からこめかみまで美容器70の押圧部72,74で刺激する。次に、生え際中央からこめかみまで、親指で圧を加えて交互に動かして引き上げる。
次に、
図29(a)に示すように、生え際から頭頂部に向けて、親指で圧を加えながら、耳の裏まで滑らせる。この際、3つのラインをそれぞれ3回描くようにする。
【0164】
次に、
図29(b)に示すように、生え際に4指を置き、後頭部に向けて手ぐしを3回入れる。
次に、
図29(c)に示すように、耳の裏側を矢印の各方向に、それぞれ5回ずつ引っ張る。
【0165】
次に、
図29(d)に示すように乳様突起下部を、美容器70の押圧部72,74により、左右10回ずつ刺激する。
【0166】
次に、
図30(a)に示すように、耳を人差し指と中指で挟み、上下に圧をかけながら、5回ずつ強くこする。
次に、
図30(b)に示すように、後頭部全体を美容器70の押圧部72,74により、刺激する。この際、3つのラインに沿って、それぞれ5回ずつ刺激する。
【0167】
次に、
図30(c)に示すように、首の付け根から胸鎖乳突筋を片側の親指と人差し指で挟み、後頭部の窪みまで滑らせて5秒間程度軽く圧をかける。
次に、
図30(d)に示すように、首のストレッチとして、片側の手首を耳の上に、もう片側の手首を後頭部の風池とよばれるツボの周辺に置く。
そして、内側に圧をかけながら、上に5秒間程度引き上げる。これにより、第2例に係るマッサージの一連の作業が終了する。
【0168】
次に、マッサージ方法の具体的な手順の第3例について、
図31から
図34を用いて説明する。このマッサージは、主に体の腹部に対するマッサージである。腹部に対するマッサージは、猫背や前肩による姿勢の悪さの改善を目的としている。
このマッサージにより、腹部周りの筋肉、筋膜の硬結、癒着を取り除くことができる。そして、肩こりの解消、猫背の解消、およびお腹を引き締めるといった効果が期待できる。
【0169】
まず、
図31(a)に示すように、鎖骨中央部から烏口突起までの鎖骨下の3箇所を、美容器70の第1押圧部72を用いて押圧する。そして、機能剤を塗布し、その上から第2押圧部74を用いて5回程度押圧する。
次に、
図31(b)に示すように、烏口突起上と呼ばれる図示のポイントを、美容器70の第1押圧部72で30秒程度、押圧する。
【0170】
次に、
図32(a)に示すように、胸鎖関節の下部に位置する肋間軟骨上を、上胸部まで、第2押圧部74を用いて4、5回程度押圧する。
次に、
図32(b)に示すように、上腕部の硬結部に美容器70の第1押圧部72を用いて押圧する。その後、両方の肩に手を置き、肩を開くように圧をかける。
【0171】
次に、
図33(a)に示すように、腕を上げた状態で、脇の内側を美容器70の第1押圧部72を用いて1分程度押圧する。
次に、
図33(b)に示すように、みぞおちから指3本分外側に位置する部分を、美容器70の第1押圧部72で、1箇所につき1分程度ずつ、押圧する。
【0172】
次に、
図34(a)に示すように、みぞおち横からへそ横までの脇腹を美容器70の第1押圧部72で、1か所につき1分程度ずつ押圧する。
次に、
図34(b)に示すように、みぞおちから肋骨にそって美容器70の第1押圧部72で左右5か所ずつ、それぞれ1分程度、押圧する。その後に機能剤を塗布し、第2押圧部74で押圧する。
【0173】
次に、マッサージ方法の具体的な手順の第4例について、
図35を用いて説明する。このマッサージは、主に体の胸部に対するマッサージである。
胸部に対するマッサージは、猫背や前肩による姿勢の悪さの改善を目的としている。このマッサージにより、鎖骨周りの血流、リンパの流れを良くし、バストへの栄養を行き届きやすくする。
【0174】
まず、鎖骨下中央部を美容器70の第1押圧部72で1分程度、押圧する。その後、
図35(a)に示すように、耳たぶの後ろのくぼみを、美容器70の第1押圧部72で、1分程度押圧する。
次に、
図35(b)に示すように、乳様突起下部を、美容器70の第1押圧部72で、1分程度押圧する。その後、胸鎖乳突筋の位置する部分に機能剤を塗布する。
そしてこの後に、前述した
図30から
図32までのマッサージを前述の通り行う。
【0175】
以上説明したように、本実施形態に係る画像処理システム100によれば、ミラー装置2の撮像部21がユーザ5の顔を撮像した画像データを用いて、肌状態評価部30が、ユーザ5の肌の色に基づいて、ユーザ5の肌の健康状態を評価する。これにより、肌の異常を定量的に評価することができる。
【0176】
そして、顔形状評価部50が、当該画像データから、ユーザ5の骨格、筋肉、および脂肪の位置に基づいて、ユーザ5の顔のプロポーションの変化を評価する。ここで、ユーザ5の骨格、筋肉、および脂肪の位置関係を基準に顔のプロポーションの変化を評価するため、顔の全体の変化を評価するような態様と比較して、変化の前後における良し悪しを容易に判断することができる。このため、顔の形態の変化を一意的に判断することができる。
【0177】
また、ミラー装置2の表示部20が、肌状態評価部30および顔形状評価部50の評価結果を表示するので、ユーザ5が、ミラー装置2を用いて身だしなみを整えるタイミングで、顔の肌の状態や、プロポーションの変化を確認することができ、ユーザ5の利便性を確保することができる。
【0178】
また、将来予測部60が、肌状態評価部30に記憶されたユーザ5の肌の健康状態、および顔形状評価部50に記憶されたユーザ5の顔の形状評価のうちの少なくとも一方を用いて、ユーザ5の顔の将来予測を行う。このため。ユーザ5に対して美容促進に対する動機づけを与えることができる。
【0179】
また、肌状態評価部30における肌色評価部33Aが、ユーザ5の肌を撮像した画像データを用いて、ユーザ5の肌の任意の箇所を、その色相の値により、予め設定された複数のステージに区分けする。そして、肌異常特定部33Bが、肌色評価部33Aにより区分けされたステージに基づいて、ユーザ5の肌における色素異常部の位置を特定する。これにより、シミや色素斑のような色素沈着の程度を定量的に評価し、美容に供することができる。
【0180】
また、評価結果表示部33Cが、画像データに対して、肌色評価部33Aが区分けしたステージ毎に、その箇所の位置を表示するとともに、肌異常特定部33Bが特定した色素異常部にマーキングを行う。これにより、ユーザ5が、評価結果を視覚的に把握することが可能になり、ユーザ5の利便性を確保することができる。
【0181】
また、評価結果表示部33Cが、同一のユーザ5に対して異なる時期に撮像した複数の画像データに対して、ステージ毎の位置表示およびマーキングを行い、並べて表示する。これにより、ユーザ5の肌の状態における経時的変化を、視覚的に把握させることができる。
【0182】
また、深さ推定部33Dが、色素異常部の色相の値により、ユーザ5の肌における色素異常部の肌表面からの深さを推定するので、色素異常部の改善に向けた施策を検討するうえでの判断材料を提供することができる。
【0183】
また、施策提案部33Eが、色素異常部の深さに基づいて、色素沈着の改善を促す施策を提案するので、色素異常部の状態に応じて、適切な施策を提案することができる。
【0184】
また、改善データ生成部33Fが、画像データに対して、色素異常部における色素沈着が改善された状態を想定し、色素異常部の色相を変化させてユーザ5に表示するので、ユーザ5に提案する施策により期待できる効果を視覚的に伝えることで、ユーザ5に対して、施策を継続して行うための動機づけを行うことができる。
【0185】
また、本実施形態に係る画像処理システム100によれば、頂点認識部53Aが、ユーザ5の顔を撮像した撮像データから、顔の骨格に依存して特定される2つの固定点Pf、および顔の筋肉および脂肪に依存して特定される1つの可動点Pmそれぞれの位置を認識する。
【0186】
次に、領域画定部53Bが、特定された各頂点を結んだ直線により、三角形状をなす画定領域を画定し、面積算出部53Cが画定領域の面積を算出する。そして、面積比較部53Dが、画定領域の面積と基準面積とを比較する。これにより、経年劣化および改善対策による顔のプロポーションの変化を定量的に評価して、美容促進に資することができる。
【0187】
またこの際、2つの固定点Pfと、1つの可動点Pmにより画定領域が画定されるので、例えば、2つ又は3つの可動点Pmにより画定領域が画定される構成と比較して、認識が難しい可動点Pmの位置の特定のばらつきを抑制し、正確な評価を行うことができる。
【0188】
そして、画定領域の面積を評価することで、例えば可動点Pmの位置を固定点Pfからの距離で評価する場合よりも、扱う数値を大きくして、変化量を大きくすることができる。
これにより、仮に顔のプロポーションの変化が、一定期間の経過前後において、撮像データで確認してもわかりにくいような違いしか無いような場合であっても、ユーザ5が、顔の変化の程度を認識しやすくなり、美容促進に対する動機づけを得ることができる。
【0189】
また、既存の顔のプロポーション分析では、骨格に依存したものがほとんど(いわゆる顔の黄金比率など)で、先天的な要因でどうにもできず、整形外科以外の美容への意欲を高めることは難しかった。一方、画像処理システム100では、骨格のみに依存せず、セルフケアによって改善の見込みがある、経年劣化による筋肉や脂肪の変化を評価するものであるため、ユーザ5の美容への意欲を高めることができる。
【0190】
また、画像処理システム100は、画定領域の面積と基準面積とを比較した比較結果を示す情報を出力する表示処理部53Eを備えているので、定量的に評価した結果を、例えばユーザ5の携帯端末4に表示することで、評価結果を容易に確認することができる。
【0191】
また、領域画定部53Bが、顔の正中線O1を基準にして、左右一対の画定領域を画定するので、左右に均整のとれた顔のプロポーションの実現に向けた美容促進を行うことができる。
【0192】
また、領域画定部53Bが、深鼻点P1とこめかみの頂点P2とにより特定される2つの固定点Pf、および頬上の頂点P3により特定される1つの可動点Pmにより、画定領域を画定する。
このため、顔の頬の上部周辺のプロポーションを定量的に評価して、例えば加齢とともに気になりやすい頬上部のたるみ(例えば、ほうれい線と頬骨との間に形成されるゴルゴライン等)の変化を確認することができる。
【0193】
また、頂点認識部53Aが撮像データを3次元的に評価して、深鼻点P1、こめかみの頂点P2、および頬上の頂点P3を認識する。このため、ユーザ5の顔の造形によらず、各頂点を容易に認識することができる。
【0194】
また、領域画定部53Bが、顔の上下方向に間隔をあけて、2種類の画定領域を画定するので、顔の上側と下側とをそれぞれ評価することで、顔全体のプロポーションを定量的に評価することができ、より一層効果的に、美容促進を行うことができる。
【0195】
また、領域画定部53Bが、鼻下点P4と耳下点P5とにより特定される2つの固定点Pf、および頬下の頂点P6により特定される1つの可動点Pmにより、画定領域を画定するので、顔の頬の下部周辺のプロポーションを定量的に評価して、例えば加齢とともに気になりやすい頬の下部のたるみの変化を確認することができる。
【0196】
また、頂点認識部53Aが、撮像データを3次元的に評価して、鼻下点P4、耳下点P5、および頬下の頂点P6を認識するので、ユーザ5の顔の造形によらず、各頂点を容易に認識することができる。
【0197】
また、面積比較部53Dが、基準面積として、前記撮像データの撮像時から一定期間前の時点でのユーザ5における画定領域の面積を用いる場合には、顔のプロポーションの時間の経過とともに変化する様子を定量的に評価することができる。これにより、美容効果を正確に把握することができる。
【0198】
また、面積比較部53Dが、基準面積として、ユーザ5が望む顔としての理想モデルにおける画定領域の面積を用いる場合には、目標に対してどの程度近づいたのかを定量的に確認することができる。これにより、ユーザ5の美容に対するモチベーションを維持して、効果的な美容促進を行うことができる。
【0199】
また、画像処理システム100は、顔形状評価部50を備えているので、容易にユーザ5の顔の撮像データを取得して、顔形状評価部50により撮像データを評価することができる。
【0200】
そして、装置側表示部54が、表示面に向かい合うユーザ5の顔を撮像した撮像データを、表示面に表示可能する機能を有する。このため、ミラー装置2の撮像部21が撮像したユーザ5の顔の撮像データや、撮像データを用いて装置処理部53が行ったプロポーションの変化の評価結果を、鏡を見るようにしてユーザ5が確認することができる。
【0201】
また、本発明に係るマッサージ評価方法では、機能剤塗布ステップを実行することにより、機能剤に含まれる成分がユーザ5の顔に塗布されることで、血行促進効果、脂肪融解効果、および筋膜弛緩効果のうちの少なくともいずれかの効果を奏することができる。これにより、マッサージの効果を促進することができる。
【0202】
また、リンパ節刺激ステップおよび筋膜刺激ステップにおいて、リンパ節と筋膜とを刺激するので、リンパ節に刺激を与えて、リンパ液の流れを促進し、筋肉と筋膜との間に介在する老廃物の代謝を促し、筋膜と筋肉との付着を効果的に解消することができる。
【0203】
そして、このようにマッサージを行った後に、画像処理システム100を用いて画像処理ステップを行い、ユーザ5の顔を撮像した画像データから、ユーザ5の顔のプロポーションの変化を評価することにより、マッサージの効果を確実に評価することができる。
【0204】
また、マッサージ評価方法におけるリンパ節刺激ステップでは、付勢部材73,75により付勢されたピン状の押圧部72,74を備えた美容器70を用いてリンパ節を刺激するので、リンパ節が体の深部に位置する場合であっても、確実にリンパ節に刺激を与えて、リンパ液の流れを促進することができる。
これにより、筋肉と筋膜との間に介在する老廃物の代謝を促し、筋膜と筋肉との付着を効果的に解消することができる。
【0205】
また、機能剤にグラウシンの成分が含まれる場合には、血行促進効果を奏することができる。機能剤にオクラ種子エキスの成分が含まれる場合には、血行促進効果を奏することができる。
【0206】
また、機能剤にナイアシンアミドの成分が含まれる場合には、脂肪融解の促進効果を奏することができる。
また、機能剤にグレコンへスぺリジンの成分が含まれる場合には、筋膜弛緩効果を奏することができる。
【0207】
また、マッサージ評価方法における筋膜刺激ステップでは、付勢部材73,75により付勢されたピン状の押圧部72,74を備えた美容器70を用いて、押圧部72,74により、ユーザ5の顔のうち、筋膜が位置する部分を押圧する。このため、例えばローラ部材を転がして、肌の表面を刺激するような構成と比較して、肌の深部に位置する筋膜に確実に刺激を与えることができる。
【0208】
また、ピン状の押圧部72,74が付勢部材としてのコイルばねにより付勢されている場合には、押圧部72,74が変位する際の力を常に一定にすることができ、押圧部72,74による押圧力を一定にすることができる。
【0209】
また、評価結果提供部61が、解析結果を個人用端末2Bに提供し、確認内容報告部62が、ユーザ5に提供した解析結果の確認履歴情報を店舗用端末2Aに報告する。また、記憶部63には、ユーザ5が、店舗を訪れた際に店舗用端末2Aを用いて確認した内容が、確認履歴情報と合わせて記憶されている。
このため、ユーザ5が自身の画像に対して行った解析のうち、どのような内容に興味があるのかを、店舗スタッフが確認することが可能になり、ユーザ5が興味のある内容に関するアドバイスをすることにより、美容促進を効率的に行うことができる。
【0210】
また、画像解析装置1が、肌状態評価部30と、顔形状評価部50と、ユーザ識別部64と、を備えているので、使用するユーザ5毎に、肌の状態と顔のプロモーションの変化を評価することが可能になり、複数のユーザ5が、1台のミラー装置2を使用することができる。
【0211】
また、記憶部63が、ユーザ5それぞれの顔のデータと、ユーザ5のIDと、を記憶し、ユーザ識別部64が、撮像した利用者の顔の画像データを記憶部63に参照することにより、ユーザ5を特定する。
これにより、ユーザ5が、自身の顔を撮像させるだけで、ユーザ認証を行うことが可能になり、例えば、ユーザ5自身が、自らのIDを入力するような操作を省略することが可能になり、ユーザ5の利便性を確保することができる。
【0212】
また、確認内容報告部62が、肌状態評価部30および顔形状評価部50が行った各解析結果について、ユーザ5が所定期間内に確認している回数を集計して、店舗用端末2Aに報告する。
このため、複数のユーザ5の確認履歴情報により、ユーザ5全体が、どのような美容項目に興味があるかを統計的に把握することが可能になる。これにより、店舗側の美容促進に関する指導に役立てることができる。
【0213】
また、確認内容報告部62が、表示部20が表示したメンテナンス方法およびメンテナンス商品のうちの少なくとも一方を、店舗用端末2Aに報告する。
このため、ユーザ5が興味のあるメンテナンス方法やメンテナンス商品を店舗スタッフが把握することが可能になり、店舗が展開する営業活動に資することができる。
【0214】
なお、画像処理システム100は、上記実施形態に限定されるものではなく、他の手法により実現されてもよいことは言うまでもない。以下、各種変形例について説明する。
例えば、上記実施形態の制御プログラムは、コンピュータに読み取り可能な記憶媒体に記憶された状態で提供されてもよい。記憶媒体は、「一時的でない有形の媒体」に、制御プログラムを記憶可能である。記憶媒体は、HDDやSDDなどの任意の適切な記憶媒体、またはこれらの2つ以上の適切な組合せを含むことができる。記憶媒体は、揮発性、不揮発性、または揮発性と不揮発性の組合せでよい。なお、記憶媒体はこれらの例に限られず、制御プログラムを記憶可能であれば、どのようなデバイスまたは媒体であってもよい。
【0215】
また、画像処理システム100は、例えば、記憶媒体に記憶された制御プログラムを読み出し、読み出した制御プログラムを実行することによって、実施形態に示す各機能を実現することができる。
また、当該制御プログラムは、任意の伝送媒体(通信ネットワークや放送波等)を介して、画像処理システム100に提供されてもよい。画像処理システム100は、例えば、インターネット等を介してダウンロードした制御プログラムを実行することにより、各実施形態に示す複数の機能部の機能を実現する。
【0216】
また、当該制御プログラムは、例えば、ActionScript、JavaScript(登録商標)などのスクリプト言語、Objective―C、Java(登録商標)などのオブジェクト指向プログラミング言語、HTML5などのマークアップ言語などを用いて実装してもよい。
【0217】
画像処理システム100における処理の少なくとも一部は、1以上のコンピュータにより構成されるクラウドコンピューティングにより実現されていてもよい。また、画像処理システム100の各機能部は、上記実施形態に示した機能を実現する1または複数の回路によって実現されてもよく、1の回路により複数の機能部の機能が実現されることとしてもよい。
【0218】
また、上記実施形態では、画像解析装置1と携帯端末4とを別の装置とした例について説明したが、このような態様に限られない。画像解析装置1の一部又は全ての機能を、携帯端末4が備えていてもよい。
【0219】
また、本開示の実施形態を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本開示の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段やステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。また、各実施形態に示す構成を適宜組み合わせることとしてもよい。
【符号の説明】
【0220】
1 画像解析装置
2 ミラー装置
30 肌状態評価部
50 顔形状評価部
70 美容器
100 画像処理システム