(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-25
(45)【発行日】2024-07-03
(54)【発明の名称】皮膚の画像形成方法
(51)【国際特許分類】
G01N 21/27 20060101AFI20240626BHJP
A61B 5/00 20060101ALI20240626BHJP
G01J 3/50 20060101ALI20240626BHJP
G06T 7/00 20170101ALI20240626BHJP
【FI】
G01N21/27 Z
A61B5/00 M
A61B5/00 101A
G01J3/50
G06T7/00 660A
(21)【出願番号】P 2020136445
(22)【出願日】2020-08-12
【審査請求日】2023-06-06
(73)【特許権者】
【識別番号】000000918
【氏名又は名称】花王株式会社
(74)【代理人】
【識別番号】110000224
【氏名又は名称】弁理士法人田治米国際特許事務所
(72)【発明者】
【氏名】吉田 健一郎
(72)【発明者】
【氏名】五十嵐 崇訓
【審査官】嶋田 行志
(56)【参考文献】
【文献】特開2017-161965(JP,A)
【文献】国際公開第2019/238501(WO,A1)
【文献】国際公開第2012/073381(WO,A1)
【文献】特許第3877959(JP,B2)
【文献】特開2001-188024(JP,A)
【文献】特開2015-135659(JP,A)
【文献】特開2009-011824(JP,A)
【文献】特開2008-259676(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/00-G01N 21/83
A61B 5/00-A61B 5/398
G01J 3/00-G01J 3/52
G06T 1/00-G06T 7/90
JSTPlus/JST7580/JSTChina(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
環境光下において照明用偏光フィルタを通して照明光を皮膚に照射し、受光用偏光フィルタを通して皮膚を撮像することにより偏光画像(以下、照明光有り偏光画像という)を形成し、
前記環境光下において照明光を照射せずに受光用偏光フィルタを通して前記皮膚を撮像することにより偏光画像(以下、照明光無し偏光画像という)を形成し、
照明光有り偏光画像と照明光無し偏光画像との差分画像を形成し、
該差分画像を用いて皮膚画像を形成する画像形成方法であって、
照明光として白色光を使用し、照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の115%以上となるように照明光を照射する皮膚の画像形成方法。
【請求項2】
照明光有り偏光画像を、照明用偏光フィルタと受光用偏光フィルタの偏光方向を異ならせて形成し、
該照明光有り偏光画像の形成に使用した受光用偏光フィルタを使用して照明光無し偏光画像を形成し、
差分画像から皮膚の色素成分の濃度画像を形成する請求項1記載の画像形成方法。
【請求項3】
照明用偏光フィルタと受光用偏光フィルタの偏光方向を異ならせた場合と揃えた場合のそれぞれで差分画像を形成し、
これらの差分画像を用いて皮膚の色素成分の濃度画像と表面反射光画像を形成する請求項1又は2記載の画像形成方法。
【請求項4】
受光用偏光フィルタの偏光方向を異ならせることにより、照明用偏光フィルタと受光用偏光フィルタの偏光方向を異ならせた場合と揃えた場合を形成する請求項3記載の画像形成方法。
【請求項5】
照明光がRGBの各波長帯に成分を有する光である請求項1~4のいずれかに記載の画像形成方法。
【請求項6】
皮膚の色素成分の濃度画像としてヘモグロビン又はメラニンの濃度画像を形成する請求項2~5のいずれかに記載の画像形成方法。
【請求項7】
照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の130%以上となるように照明光の光量を調整する請求項1~6のいずれかに記載の画像形成方法。
【請求項8】
照明手段、デジタルカメラ、及び演算手段を備え、照明手段の前面に照明用偏光フィルタを有すると共に、デジタルカメラの撮像用レンズの前面に受光用偏光フィルタを有し、
照明手段は照明光として白色光を出射し、デジタルカメラは、照明手段が皮膚に照明光を照射すると、受光用偏光フィルタを通して該皮膚を撮ることにより照明光有り偏光画像を形成すると共に、照明手段が照明光を照射しない状態で受光用偏光フィルタを通して該皮膚を撮ることにより照明光無し偏光画像を形成し、
演算手段が、照明光有り偏光画像と照明光無し偏光画像の差分画像を形成し、
該差分画像を用いて皮膚画像を形成する画像形成システムであって、
照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の115%以上となるように照明手段が照明光を皮膚に照射する画像形成システム。
【請求項9】
照明用偏光フィルタと受光用偏光フィルタの偏光方向が異なる場合に、
演算手段が、皮膚画像として、皮膚の色素成分の濃度画像を形成する請求項8記載の画像形成システム。
【請求項10】
照明手段が、デジタルカメラの撮像用レンズを囲むリング状照明である請求項8又は9記載の画像形成システム。
【請求項11】
受光用偏光フィルタの偏光方向が可変であり、
演算手段が、照明用偏光フィルタと受光用偏光フィルタの偏光方向が異なる場合と揃っている場合のそれぞれにおいて差分画像を形成し、
これらの差分画像を用いて皮膚画像として皮膚の色素成分の濃度画像と表面反射光画像を形成する請求項8~10のいずれかに記載の画像形成システム。
【請求項12】
演算手段が、皮膚の色素成分の濃度画像としてヘモグロビン又はメラニンの濃度画像を形成する請求項9~11のいずれかに記載の画像形成システム。
【請求項13】
照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の130%以上となるように照明手段が照明光を皮膚に照射する請求項8~12のいずれかに記載の画像形成システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、皮膚に含まれる色素成分の濃度画像又は皮膚の表面反射光画像を形成する皮膚の画像形成方法及びシステムに関する。
【背景技術】
【0002】
皮膚の色がメラニン含量とヘモグロビン含量の影響を受けることが知られている。例えば、褐色の皮膚はメラニン含量が多く、白っぽい皮膚はメラニン含量が少ない。血色のよい皮膚はヘモグロビン含量が多く、血色の悪い皮膚はヘモグロビン含量が少ない。シミではメラニンが局所的に増加しており、紅斑ではヘモグロビンが局所的に増加している。
【0003】
本出願人は、被験者の皮膚を撮影するにあたり、皮膚に照明用偏光板を通して照明光を照射し、該照明用偏光板と偏光方向の異なる受光用偏光板を通して反射光を受光することにより皮膚の表面で反射された光を除去し、皮膚の内部で反射された光を使用することで内部反射光画像を形成し、内部反射光画像に対して独立成分分析に基づく色素分析を行い、メラニンの濃度画像とヘモグロビンの濃度画像を形成することを提案している(特許文献1)。
【0004】
この独立成分分析に基づく色素分析は、皮膚の層構造を、メラニンを主な色素成分として含有する表皮層と、ヘモグロビンを主な色素成分として含有する真皮層と、その他の色素成分を含有する皮下組織との積層構造であるとしてモデル化し、各層から独立的にLambert-Beerの法則に基づいて色素成分の信号が発せられ、それらが混合したものが画像信号になっているとして、画像信号から各層の色素成分の信号を分離抽出する方法である(「肌画像の独立成分分析に基づく顔色の変化予測」1997年日本光学会講演予稿集30aE02および「肌の色素成分に基づく顔色合成とその評価」カラーフォーラムJAPAN2000第5~8頁)。
【0005】
より具体的には、内部反射光画像におけるある点pの画素値R,G,Bの逆数の対数r,g,b(即ち、r=log(1/R)、g=log(1/G)、b=log(1/B))をそれぞれ直交座標のx軸、y軸、z軸に割り当て、皮膚の平坦部分の肌色の画素値を色空間r,g,bにマッピングすると肌色分布面はほぼ平面状になる。この肌色分布面は、メラニンベクトルとヘモグロビンベクトルの合成ベクトルであると考えられる。そこで、個々の被験者の皮膚の内部反射光画像の信号からヘモグロビンベクトル又はメラニンベクトルを表す信号を抽出し、ヘモグロビン成分量又はメラニン成分量の分布を意味するヘモグロビンの濃度画像又はメラニンの濃度画像を出力する。
【0006】
ここで、皮膚に起伏や照明ムラのある場合には、予め取得した光源成分のベクトルの方向に沿って、皮膚の肌色のベクトルをメラニンベクトル及びヘモグロビンベクトルの平面上に射影して陰影成分を除去し、ヘモグロビンの濃度画像又はメラニンの濃度画像を得る(特許文献2)。
【0007】
このような解析処理と画像処理の詳細はVol. 16, No. 9/ September 1999/ J. Opt. Soc. Am. A 2169に記載されており、パーソナルコンピュータに、市販の画像解析ソフト(例えば、AdobePhotoshop)を搭載することにより行うことができる。
【先行技術文献】
【特許文献】
【0008】
【文献】特許3877959号公報
【文献】特許4098542号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、特許文献1に記載のように偏光板を用いて内部反射光画像を形成しても、さらには特許文献2に記載のように内部反射光画像から陰影成分を除去しても、内部反射光画像の形成時に照明光以外の光(以下、環境光という)が皮膚にあたると、皮膚の表面及び内部で反射した環境光由来の光の一部が受光用偏光板を通り抜けてしまい、内部反射光画像に環境光による反射光が映り込むという問題が生じる。
【0010】
この映り込みを解消するためには、暗室や環境光を遮る筐体内で撮像することが必要となる。そのため、例えば、店頭で化粧アドバイザーが顧客の顔の内部反射光画像を撮り、メラニン濃度の分布を説明し、顧客に好適な化粧方法をアドバイスしようとしても、店頭には通常暗室や環境光を遮る筐体が無いため、皮膚の精確な内部反射光画像を提示することができない。
【0011】
これに対し、本発明の課題は、偏光を用いて皮膚の内部反射光画像を形成するにあたり、暗室や環境光を遮る筐体の有無に関わらず、環境光の影響が内部反射光画像に現れないようにすること、より具体的には環境光の皮膚の表面及び内部での反射光が内部反射光画像に映り込まないようにすることに関する。
【課題を解決するための手段】
【0012】
本発明者は、環境光下で照明光として皮膚に特定の強さの偏光を照射し、偏光板を通して皮膚の偏光画像を形成すると共に、環境光下で照明光なしで前記偏光板を通して皮膚の偏光画像を形成し、照明光を用いて形成した偏光画像から、照明光なしで形成した偏光画像を差し引いて差分画像を形成すると、この差分画像では環境光の反射光の影響が相殺されて現れないこと、したがって、環境光による反射光の映り込みがない皮膚の内部反射光画像や表面反射光画像を形成するには、この差分画像を使用することが有効であることを想到し、本発明を完成させた。
【0013】
即ち、本発明は、環境光下において照明用偏光フィルタを通して照明光を皮膚に照射し、受光用偏光フィルタを通して皮膚を撮像することにより偏光画像(以下、照明光有り偏光画像という)を形成し、
前記環境光下において照明光を照射せずに受光用偏光フィルタを通して前記皮膚を撮像することにより偏光画像(以下、照明光無し偏光画像という)を形成し、
照明光有り偏光画像と照明光無し偏光画像との差分画像を形成し、
該差分画像を用いて皮膚画像を形成する画像形成方法であって、
照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の115%以上となるように照明光を照射する皮膚の画像形成方法を提供する。
【0014】
また本発明は、照明手段、デジタルカメラ、及び演算手段を備え、照明手段の前面に照明用偏光フィルタを有すると共に、デジタルカメラの撮像用レンズの前面に受光用偏光フィルタを有し、
デジタルカメラは、照明手段が皮膚に照明光を照射すると、受光用偏光フィルタを通して該皮膚を撮ることにより照明光有り偏光画像を形成すると共に、照明手段が照明光を照射しない状態で受光用偏光フィルタを通して該皮膚を撮ることにより照明光無し偏光画像を形成し、
演算手段が、照明光有り偏光画像と照明光無し偏光画像の差分画像を形成し、
該差分画像を用いて皮膚画像を形成する画像形成システムであって、
照明光有り偏光画像の関心領域における画素値が、照明光無し偏光画像の同領域における画素値の115%以上となるように照明手段が照明光を皮膚に照射する画像形成システムを提供する。
【発明の効果】
【0015】
本発明によれば、環境光下において照明光を皮膚に照射して得た偏光画像と、環境光下において照明光を照射せずに得た偏光画像との差分画像を使用するので、皮膚の内部反射光画像や表面反射光画像において環境光による反射光の映り込みをなくすことができる。
【0016】
特に、内部反射光画像を得る場合には、照明用偏光フィルタと受光用偏光フィルタの偏光方向を異ならせた場合において、照明光を照射して得た偏光画像と、照明光を照射せずに得た偏光画像の差分画像があればよい。このため、内部反射光画像を得るための撮像行為としては照明光の照射の有無を切り替えるだけで足る。
【0017】
したがって、本発明によれば、店頭、化粧品ユーザーの自宅、会議室等の任意の場所で、暗室や環境光を遮る筐体を使用することなく、環境光による反射画像の映り込みの無い内部反射光画像に基づいてメラニン、ヘモグロビン等の皮膚の色素成分の濃度画像を精確にかつ簡便に形成することができ、また、表面反射光画像も同様に精確に形成することができる。よって、店頭等において美容アドバイザーが顧客に、メラニン、ヘモグロビン等の皮膚の色素成分の精確な濃度画像に基づいて美容アドバイスをすることが可能となり、また、顧客が自宅などで自らを撮影することで差分画像が形成され、差分画像に基づいて皮膚の色素成分の濃度画像が形成され、その濃度画像に基づいて美容アドバイザーが顧客に美容アドバイスを提供することも可能となる。
【図面の簡単な説明】
【0018】
【
図1】
図1は、実施例の画像形成方法の流れの概要を示す模式図である。
【
図2】
図2は、実施例の画像形成システム100Aの模式的構成図である。
【
図3】
図3は、皮膚と照明手段と受光手段の好ましい位置関係の説明図である。
【
図4】
図4は、スマートフォンを用いた画像形成システム100Bの平面図である。
【
図5】
図5は、スマートフォンを用いた画像形成システム100Cの平面図及び側面図である。
【
図6】
図6は、スマートフォンを用いた画像形成システム100Dの平面図である。
【
図7】
図7は、スマートフォンを用いた画像形成システムにおけるフローチャートである。
【
図9】
図9は、試験例で照明手段として用いた蛍光灯の点灯モードの説明図である。
【
図10】
図10は、試験例1における内部反射光画像、ヘモグロビン濃度画像、メラニン濃度画像である。
【
図11】
図11は、試験例2における内部反射光画像、ヘモグロビン濃度画像、メラニン濃度画像である。
【発明を実施するための形態】
【0019】
以下、本発明を、図面を参照しつつ詳細に説明する。なお、各図中、同一符号は同一または同等の構成要素を表している。
【0020】
(皮膚画像形成方法)
図1は、本発明の一実施例の画像形成方法の流れの概要を示しており、
図2はこの画像形成方法を実施する画像形成システムの模式的構成図である。
【0021】
本発明の方法では、偏光を使用して皮膚の内部反射光画像を得、内部反射光画像から独立成分分析に基づく色素分析等などによりメラニン、ヘモグロビン等の皮膚の色素成分の濃度画像を形成する公知の手法と同様に、照明用偏光フィルタを通して皮膚に照明光を照射し、その皮膚を、受光用偏光フィルタを通してデジタルカメラで撮像する。しかし、本発明においては、皮膚の色素成分の濃度画像において環境光による皮膚の表面及び内部の反射光の映り込みをなくすため、内部反射光画像を、次のように差分画像として形成することを特徴としている。
【0022】
本実施例の方法では、まず、
図1の工程1に示すように、天井照明1等の室内照明や外光などにより形成される環境光の下で照明用偏光フィルタ2を通して照明手段3により照明光L1を皮膚Sに照射し、受光用偏光フィルタ4を通して皮膚Sをデジタルカメラ5で撮像することにより照明光有り偏光画像Aを得る。
【0023】
この場合、照明光用偏光フィルタ2と受光用偏光フィルタ4の偏光方向を互いに異ならせておく。例えば
図1の工程1に示すように、照明用偏光フィルタ2を通る光を縦偏光と(振動電場が鉛直方向に振動する偏光)し、受光用偏光フィルタ4を通る光を横偏光(振動電場が水平方向に振動する偏光)とする。なお、本発明において照明用偏光フィルタ2の偏光方向は縦偏光及び横偏光のいずれでもよい。
【0024】
また、照明手段3としては白色光源を使用することが好ましい。ここで、白色光源とはRGBの各波長帯に成分を有する光を発する光源をいう。白色光源の使用により、皮膚画像の画素を形成するR、G、Bの光源ごとに環境光の影響を低減させる場合に比して極めて簡便に環境光の影響を皮膚画像からなくすことができる。白色光源としては、撮影した肌画像についてオーバーフローしない範囲でRGBいずれの画素値についてもダイナミックレンジを有効に活用できるように、RGBの波長間のバランスがある程度揃っているものが好ましい。
【0025】
また、内部反射光画像から色素成分の濃度画像を得る場合には、皮膚Sにあたる照明光L1の強度にはムラがあってもよい。ホワイトバランスをとることで、色素成分の濃度画像に対する照明光の強度ムラの影響をなくすことができる。したがって、白色光源として、白色蛍光灯、白色LED等を関心領域の周囲に単数又は複数個を配置することができる。
【0026】
照明手段3は、
図3に示すように、皮膚Sに対する照明光L1の入射角aが、好ましくは60°以下となるように、より好ましくはできるだけ垂直入射に近くなるように設置する。これにより、皮膚Sを明るく照明することができ、皮膚Sの関心領域の色素成分の濃度画像をより精度良く形成することができる。これに対して、照明光L1の入射角aが大きくなると色素成分の濃度画像において、色素の深さ情報のばらつきが大きくなりやすい。
【0027】
また、照明手段3では、照明光の光量が可変であることが好ましい。本発明では、工程2で説明するように、工程1で撮る照明光有り偏光画像Aの関心領域における画素値を、工程2で撮る照明光無し偏光画像Xの同領域の画素値の115%以上、好ましくは130%以上に調整するので、照明手段3において照明光の光量が可変であると、この調整が容易となる。
【0028】
デジタルカメラ5としては、絞りとシャッタースピードをマニュアルで設定でき、ガンマ補正等の加工を行う前の画像(いわゆるRAWデータ)を出力できるものが好ましい。
また、
図3に示すようにデジタルカメラ5は、皮膚Sの関心領域の法線に対する光軸の角度bが60°以下となるように設置することが好ましい。上述のように照明光の皮膚Sに対する入射角aも60°以下とすることが好ましいことから、デジタルカメラ5と照明手段3とは近接して設置することが好ましい。
【0029】
一方、表面反射光画像を用いた評価を行う場合には、表面反射光は指向性が強いため、皮膚に光沢が現れる角度が含まれるように照明手段3とデジタルカメラ5を配置することが好ましい。
【0030】
デジタルカメラ5の視野角に特に制限はない。画像の歪みを押さえる点では視野角が狭い方が好ましく、一方、カメラと測定対象の距離が近くても広い領域を撮影できるため装置を小型化できるという点では視野角が広い方が好ましい。
【0031】
図2に示すように、照明手段3から照明光が出射され、照明用偏光フィルタ2を通った照明光L1が縦偏光であるとき、皮膚Sに入射した光(縦偏光)L1は、皮膚Sの表面で反射すると共に、皮膚Sの内部で散乱する。皮膚Sの表面で反射した表面反射光L2は入射時の偏光を維持しているので受光用偏光フィルタ4でカットされる。
【0032】
一方、皮膚Sの内部で散乱し、皮膚から出射した内部反射光L3は偏光が失われて無偏光となり、縦偏光と横偏光が半々で存在すると考えることができるので、内部反射光L3の1/2が受光用偏光フィルタ4を通ることになる。
【0033】
また、環境光が皮膚Sに入射すると、皮膚Sにおける表面反射光と内部反射光を合わせた環境光由来の光L0が受光用偏光フィルタ4に入射する。そのうちα×L0が横偏光、(1-α)×L0が縦偏光だとすると、α×L0が受光用偏光フィルタ4を通る。なお、環境光由来の光L0を無偏光とみなす場合には、受光用偏光フィルタ4を通る光には縦偏光と横偏光が1/2ずつ含まれると考えることができるが、本発明においては、環境光由来の光の偏光を正しく評価するため、環境光由来の光L0における横偏光成分の割合αを考慮することが好ましい。
【0034】
デジタルカメラ5で形成される画像の画素値は、受光用偏光フィルタ4を通る光の光量に比例すると考えて良いから、以下の計算では計算を簡単にするため、受光用偏光フィルタ4を通る光の光量をデジタルカメラ5で形成される画像の画素値とする。このようにしても、計算される画像の画素値は、実際のデジタルカメラで形成される画像の画素値の定数倍となるだけであるため、色素濃度の分布を得る点からは問題がない。
【0035】
内部反射光L3の強度をI3、環境光由来の光L0の強度をI0、環境光由来の光L0における横偏光成分の割合をαとすると、照明光有り偏光画像Aの画素値IAは次式(1)で表される。
IA=(1/2)*I3+α*I0 式(1)
【0036】
次に、
図1の工程2に示すように、工程1と同じ環境光の下で、照明手段3のスイッチをOFFとして照明光を照射せず、前記受光用偏光フィルタ4を通して皮膚Sをデジタルカメラ5で撮像することにより照明光無し偏光画像Xを得る。この照明光無し偏光画像Xは、上述の環境光由来の光L0が受光用偏光フィルタ4を通ることにより形成される画像であり、その画素値I
X は次式(2)で表される。
I
X=α*I
0 式(2)
【0037】
そこで、同図の工程3に示すように、照明光有り偏光画像Aと照明光無し偏光画像Xの差分画像Pを形成する。即ち、
差分画像P=照明光有り偏光画像A-照明光無し偏光画像X
である。この場合、照明光有り偏光画像Aと照明光なし偏光画像Xとの位置合わせは、テンプレートマッチングなど画像処理の手法により行う。この照明光有り偏光画像Aと照明光なし偏光画像Xは、照明手段3のON、OFFが異なるだけで、他の設定は変更することなく連続的に形成できるので、位置合わせも容易である。なお、位置合わせの精度を高める点から、照明光無し偏光画像Xを照明光有り偏光画像Aに合わせることが好ましい。
【0038】
差分画像Pの画素値をIPとすると
IP=(1/2)*I3 式(3)
よって、
I3=2*IP
【0039】
こうして、差分画像Pを形成することにより、環境光の影響を受けない内部反射光画像を形成することができる。
【0040】
本発明においては、このように差分画像Pを形成するにあたり、照明光有り偏光画像Aの関心領域における画素値が、工程2で撮る照明光無し偏光画像Xの同領域の画素値の115%以上、好ましくは130%以上となるように、工程1の照明光の光量を調整する。これにより、工程3で形成する差分画像Pにおいて、環境光による反射光の映り込みを低減ないし解消することができる。これに対し、この画素値の割合が小さすぎると、照明光有り偏光画像Aと照明光無し偏光画像Xとの差分画像形成時に、これらの画像の微妙な位置ずれのために除去できなかった環境光の影響が相対的に大きくなり、環境光による反射光の映り込みを十分に解消することができない。一方、照明光が環境光に対して充分強い場合、環境光の寄与が相対的に小さくなるので差分画像を形成しなくても内部反射光画像における環境光の反射光の映り込みを実質的になくすことができ、差分画像を形成しない従来技術に対して本発明の優位性が発揮されにくくなる。したがって、差分画像を形成しない従来技術に対して本発明の優位性が発揮されるようにする点から上述の画素値の割合は、500%以下とすることが好ましい。
【0041】
ここで関心領域の選び方に特に制限はなく、例えば顔全体を関心領域としても構わないが、撮影条件の工夫などにより、関心領域の中に環境光による光沢が生じないようにしておくことが好ましい。
【0042】
差分画像Pは、特許文献1に記載の内部反射光画像から環境光による反射光の映り込みをなくしたものに相当する。そこで、工程4では、演算手段6を用いて、差分画像に対して公知の独立成分分析、主成分分析等に基づいた色素分析を行うことによりメラニン、ヘモグロビン等の色素成分の濃度画像を形成する。こうして、本発明によれば色素成分の濃度画像において、環境光による反射光の映り込みをなくすことができる。
【0043】
なお、工程4で色素成分の濃度画像を形成するときには、内部反射光画像における或点pの画素値R,G,Bの逆数の対数r,g,bをそれぞれ直交座標のx軸、y軸、z軸に割り当てるから、環境光の影響を受けない内部反射光画像を形成するために、R、G、Bごとに照明光有り偏光画像と照明光無し偏光画像を形成し、それらの差分画像を形成することも可能である。しかしながら、白色光源を使用すると、照明光有り偏光画像Aの形成と、照明光無し偏光画像Xの形成を1回ずつ行って差分画像Pを形成するだけで環境光による反射光の影響を受けない内部反射光画像を形成することができる。したがって、照明光として白色光を使用することにより、環境光による反射光の影響を受けない内部反射光画像の形成が極めて容易となる。
【0044】
一方、本発明において表面反射光画像を形成する場合には、工程1~工程3に加えて工程5~工程8を行う。工程5では、照明用偏光フィルタ2と受光用偏光フィルタ4の偏光方向を揃える。例えば、受光用偏光フィルタ4の偏光方向を横偏光から縦偏光に変更し、偏光フィルタ2、4が通す光を縦偏光とする。そして、照明用偏光フィルタ2と受光用偏光フィルタ4の偏光方向を揃える以外は、上述の照明光有り偏光画像Aの形成と同様にして、工程1と同じ環境光の下で、照明光有り偏光画像Bを形成する。
【0045】
なお、本発明では照明用偏光フィルタ2と受光用偏光フィルタ4の偏光方向を揃えた偏光画像を形成する場合に、縦偏光として揃えてもよく、横偏光として揃えてもよい。ただし、偏光方向の切替操作は、照明光の偏光方向を一定に保持する点から、受光用偏光フィルタで行うことが好ましい。
【0046】
工程5において、皮膚の表面反射光(縦偏光)L2、内部反射光(無偏光)L3、環境光由来の光L0は
図2に示したのと同様に形成される。ただし、
図1に示した工程1では受光用偏光フィルタ4が通す光が横偏光であるのに対し、工程5では縦偏光であるため、表面反射光L2の強度をI
2、内部反射光L3の強度をI
3とし、前述と同様に環境光由来の光L0の強度をI
0、環境光由来の光L0における横偏光成分の割合をαとすると、照明光有り偏光画像Bの画素値I
B(ここでも、照明光有り偏光画像Aの場合と同様に、受光用偏光フィルタ4を通る光の光量をデジタルカメラ5で形成される画像の画素値とする)は次式(4)で表される。
I
B=I
2+(1/2)*I
3+(1-α)*I
0 式(4)
この(1-α)*I
0が、照明光有り偏光画像Bに占める環境光由来の光の強度である。
【0047】
次に、工程6において、工程1と同じ環境光の下で、照明手段3のスイッチをOFFとして照明光を照射せず、工程5で用いた受光用偏光フィルタ4を通して皮膚Sをデジタルカメラ5で撮像することにより照明光無し偏光画像Yを得、工程7において照明光有り偏光画像Bと照明光無し偏光画像Yの差分画像Qを得る。
【0048】
工程7で得る差分画像Qの画素値をIQとすると、IQは次式(5)で表される。
IQ=I2+(1/2)*I3 式(5)
【0049】
工程8では式(5)と前述の式(3)から表面反射光の強度I2を次式で得る。
I2=IQ-(1/2)*I3=IQ-IP
【0050】
こうして本発明によれば、環境光の影響を受けない表面反射光画像も容易かつ簡便に形成することができる。
【0051】
(画像形成システム)
本発明の画像形成システムは、上述の工程1~工程4により皮膚の色素濃度画像を形成し、さらには工程5~工程8により皮膚の表面反射光画像を形成することを可能とする。
図2に示した実施例の画像形成システム100Aは、上述した照明手段3、デジタルカメラ5、照明用偏光フィルタ2、受光用偏光フィルタ4を備え、さらにパーソナルコンピュータ等の演算手段6を備える。
【0052】
なお、受光用偏光フィルタ4は装着の向きが可変であり、それにより照明用偏光フィルタ2の偏光方向に対して受光用偏光フィルタ4の偏光方向を異ならせたり、揃えたりすることができる。
図2には、照明用偏光フィルタ2が縦偏光を通し、受光用偏光フィルタ4が横偏光を通す状態を示している。これに対し、照明用偏光フィルタ2の偏光方向を横とし、受光用偏光フィルタ4の偏光方向を縦としてもよい。
【0053】
演算手段6は画像処理を行うアプリケーションを搭載しており、差分画像P、差分画像Qの形成や、差分画像P、差分画像Qから算出される内部反射光画像、表面反射光画像を形成することができる。
【0054】
また、演算装置6には、独立成分分析、主成分分析等に基づいて色素分析を行うアプリケーションも搭載しており、内部反射光画像に対して色素分析を行うことにより色素成分の濃度画像としてヘモグロビン濃度画像、メラニン濃度画像等を形成することができる。
【0055】
さらに、演算手段6が画像情報の記憶手段及び通信手段を備え、演算手段6で形成されたヘモグロビン濃度画像、メラニン濃度画像等を外部の美容アドバイザー等に送信できるようにしてもよい。
【0056】
また、演算装置6が、前述の工程1~工程4で色素成分の濃度画像を形成する演算処理及び工程5~工程8で表面反射光画像を形成する演算処理を自動で行えるように、照明手段3及びデジタルカメラ5の動作、並びに照明用偏光フィルタ2または受光用偏光フィルタ4の偏光方向を演算手段6が制御してもよい。
【0057】
この場合、照明手段3が発する照明光の強度と、照明光有り偏光画像Aの関心領域における画素値との関係、及び照明光無し偏光画像Bの同領域における画素値は予め調べられており、照明光有り偏光画像Aの関心領域における画素値が、照明光無し偏光画像Bの同領域における画素値の115%以上、好ましくは130%以上となるように、予め照明手段3が発する照明光の強度を演算手段6に記憶させておき、演算装置6はその強度となるように照明手段3を点灯する。
【0058】
(画像形成システムの変形態様)
図4に示す本発明の画像形成システム100Bは、照明手段3、デジタルカメラ及び演算装置として、これらが一体化されているスマートフォン7を使用し、スマートフォン7に照明用偏光フィルタ2と受光用偏光フィルタ4を着脱自在に装着したものである。
【0059】
図4において、符号4は、デジタルカメラの撮像用レンズ5aの前面に装着された受光用偏光フィルタであり、符号2はデジタルカメラのライト3a(照明手段)の前面に装着された照明用偏光フィルタである。
【0060】
図5に示す画像形成システム100Cは、デジタルカメラ及び演算装置としてこれらが一体化されているスマートフォン7を使用し、照明手段として、デジタルカメラの撮像用レンズ5aを囲むリング状照明3bを設け、撮像用レンズ5aの前面に受光用偏光フィルタ4を設けたものである。リング状照明3bの前面にはリング状照明を覆うリング状の照明用偏光フィルタ2が設けられている。このように外付けの照明を使用することにより容易に照明光の光量を高めることができるので、照明光有り偏光画像の関心領域における画素値を、照明光無し偏光画像の同領域における画素値の115%以上、好ましくは130%以上とすることが容易となる。
【0061】
図6に示す画像形成システム100Dは、
図5に示した画像形成システム100Cのリング状照明3bに代えて、矩形の外付け照明3cを使用し、その前面に照明用偏光フィルタ2を設けたものである。このような外付け照明3cとしては携帯性に優れたものを使用できるので、可搬性に優れたシステムを構築することができる。
【0062】
図4~
図6に示したスマートフォン7を用いた画像形成システム100B、100C、100Dにおいて本発明の画像形成方法を実施する場合、スマートフォン7に本発明の画像形成方法を行うためのアプリケーションをインストールしておくことが好ましい。
【0063】
図7は、スマートフォン7を用いた画像形成システム100Bにおいて、アプリケーションを用いて皮膚の色素成分の濃度画像を得る場合の動作のフローチャートの例である。
【0064】
このフローチャートでは、まず、アプリケーションが起動されると、カメラ及び照明の設定が初期化され、撮影フローに入る。初期化の工程中に、照明用偏光フィルタと受光用偏光フィルタの装着、カメラの絞り、及びシャッタースピードの設定の確認が行われる。そして、操作者が撮影スタートのボタンをクリックすることを待機する撮影スタートの待機状態となる。
【0065】
操作者がスタートボタンをクリックすると、ライト3aがつき、皮膚Sが撮影され照明光有り偏光画像Aが形成される。引き続きライト3aが消灯し、再度皮膚Sが撮影されて照明光無し偏光画像Xが形成される。次に、こうして形成された照明光有り偏光画像Aと照明光無し偏光画像Xの関心領域の画素値のレンジ判定(即ち、照明光有り偏光画像Aの関心領域における画素値が、照明光無し偏光画像Xの同領域における画素値の115%以上であるか否か)が行われる。このレンジ判定で、「不適」となった場合には、再撮影のメッセージがスマートフォンに表示され、露出条件が変更され、カメラ及び照明の設定が初期化され、再度撮影スタートの待機状態となる。
一方、レンジ判定で「適」となると画像処理フローに進む。
【0066】
画像処理フローでは、撮影した画像の画素値が受光用偏光フィルタ4を通った光の光量に比例した値になるように、照明光有り偏光画像Aと照明光無し偏光画像Xの画素値を変換するリニア変換を行う。
【0067】
次に、照明光有り偏光画像Aと照明光無し偏光画像Xの位置合わせを行う。この場合、補間により生じる誤差を最小化する観点から、照明光無し偏光画像Xを照明光有り偏光画像Aに合わせることが好ましく、位置合わせ後の照明光無し偏光画像X’を形成する。
【0068】
次に、差分画像P、即ち、[照明光有り偏光画像A-位置合わせ後の照明光無し偏光画像X’]を形成する。そして、差分画像Pに対してホワイトバランス補正を行い、このホワイトバランス補正後の差分画像P’の画素値R,G,Bの逆数の対数r,g,bに対して独立成分分析に基づく色素分析を行うことによりヘモグロビン濃度画像、メラニン濃度画像等の色素成分濃度画像が形成される。
【0069】
こうして形成されたヘモグロビン濃度画像、メラニン濃度画像がディスプレイに結果表示される。結果表示画面では、美容アドバイスが表示されるようにしてもよい。美容アドバイスの表示は、予め構築しておいたヘモグロビン濃度画像又はメラニン濃度画像と美容アドバイスとを対応づけるデータベースに基づいて行う。
【0070】
なお、スマートフォンを用いて表面反射光画像もディスプレイに表示させる場合には、上述の照明光無し偏光画像Xの形成後に受光用偏光フィルタの偏光方向を横偏光から縦偏光に変更する。この受光用偏光フィルタの偏光方向の変更は、撮影者が偏光フィルタを手動で付け替える方法、2種の偏光板を電動でスライドさせる等のメカニカルな方法、偏光ローテーターの利用等により行う。
【0071】
次に、照明用偏光フィルタの偏光方向を縦偏光とし、受光用偏光フィルタの偏光方向を横偏光とした場合と、照明用偏光フィルタと受光用偏光フィルタの双方とも縦偏光とした場合のそれぞれについて画素値のレンジ判定を行い、適となった場合に撮影条件を確定し、照明用偏光フィルタの偏光方向を縦偏光とし、受光用偏光フィルタの偏光方向を横偏光とした場合と、照明用偏光フィルタと受光用偏光フィルタの双方とも縦偏光とした場合のそれぞれについて前述と同様に画像処理フローを進行させ、ホワイトバランス補正後の差分画像P’、Q’を形成し、差分画像P’から色素成分画像を形成し、差分画像P’、Q’から表面反射光画像を形成し、色素成分画像と表面反射光画像をディスプレイに表示させる。
【実施例】
【0072】
以下、実施例に基づいて本発明を具体的に説明する。
照明光の強度と環境光の強度の好ましい比率を調べるため、
図8Aに示すように、被験者の着座部8の前方にデジタルカメラ5と照明用偏光板9を設置し、照明用偏光板9の背面に照明手段3を取り付けた装置10を室内に設けた。この場合、デジタルカメラの撮像用レンズ5aが被験者の顔の関心領域Sの正面になるように配置し、その撮像用レンズ5aと関心領域Sとの距離xを68cmとした。また、関心領域Sは、
図8Bに示すように被験者の目の下と頬の境目付近の10mm×10mmの領域とした。
【0073】
照明手段3としては、撮像用レンズ5aの周りに4本の直管型の白色蛍光灯(40W)3dを矩形に配置したものを三重に設け(合計12本)、撮像用レンズ5aを挟んで対向する白色蛍光灯同士の距離yを77cmとした。また、撮像用レンズ5aの真上にある白色蛍光灯3dの中心から皮膚の関心領域Sに向かう線と撮像用レンズ5aから皮膚の関心領域Sに向かう線の成す角aを30°とした。
【0074】
この12本の蛍光灯3dは、
図9に示すように(1)~(5)の5通りのモードで点灯させた。なお、同図において実線で示した蛍光灯3dは点灯している蛍光灯、破線で示した蛍光灯3dは消灯している蛍光灯を表している。
【0075】
(1)12本の全ての蛍光灯を点灯
(2)外側の2重の蛍光灯(合計8本)を点灯
(3)最も外側の蛍光灯(合計4本)を点灯
(4)最も外側の蛍光灯であって、撮像用レンズ5aの左右両側にあるもの(合計2本)を点灯
(5)最も外側の蛍光灯であって、撮像用レンズ5aの真上にある1本を点灯
【0076】
照明用偏光板9の偏光方向は縦偏光とし、撮像用レンズ5aの前面には横偏光を通す受光用偏光フィルタ4を設けた。
【0077】
また、環境光としてスポットライト11を用意し、スポットライト11の光が顏正面にあたるように設置した。
【0078】
環境光の有無、照明手段を構成する12本の蛍光灯3dの点灯モードを変えて次の試験例1~7を、外光を遮蔽した撮影ブース内で行った。
【0079】
試験例1
環境光(スポットライト11)を点灯した状態で、照明手段3の点灯モードを(1)として被験者の顔画像を撮り、内部反射光画像を形成し、さらに内部反射光画像から独立成分分析に基づく色素分析によりヘモグロビン濃度画像及びメラニン濃度画像を形成した。結果を
図10に示す。
【0080】
内部反射光画像に、環境光が皮膚表面で反射していることによる光沢が見られ、内部反射光画像におけるこの光沢部分がメラニン画像で白抜けになっていることがわかる。
【0081】
試験例2
スポットライト11を消灯して環境光が無い状態とし、試験例1と同様にして内部反射光画像、ヘモグロビン濃度画像、メラニン濃度画像を形成した。結果を
図11に示す。
この内部反射光画像には環境光による光沢部分が無く、ヘモグロビン濃度画像にもメラニン濃度画像にも環境光による影響が現れていない。このようなヘモグロビン濃度画像やメラニン濃度画像を、環境光が存在する状況下で簡便に取得できるようにすることが以下の試験例での目標となる。
【0082】
試験例3~7
環境光がある状態で照明光の点灯モードを(1)~(5)とし、本発明の方法により差分画像を形成し、差分画像から内部反射光画像、ヘモグロビン濃度画像、メラニン濃度画像を形成した。結果を
図12A、
図12B、
図12Cに示す。
【0083】
図12Aから、試験例3(照明光の点灯モード(1))、試験例4(照明光の点灯モード(2))の内部反射光画像は、環境光が無い試験例2の内部反射光画像と略同様の画像となっており、試験例5(照明光の点灯モード(3))の内部反射光画像も、環境光による反射が強い部分を除くと試験例2の内部反射光画像と略同様となっている。これに対し、試験例6(照明光の点灯モード(4))では瞼で環境光によるノイズが大きくなり、試験例7(照明光の点灯モード(5))ではノイズが関心領域を含む顔全体に及び、特に瞼におけるノイズが細かく激しい明暗の変化となって強く現れていることがわかる。
【0084】
図12Bから、ヘモグロビン濃度画像におけるノイズは、内部反射光画像に生じていたノイズと略一致している。試験例6のノイズは実際上の許容範囲内であるが、試験例7(照明光の点灯モード(5))にはそれを越える強いノイズが現れていることがわかる。
【0085】
図12Cから、メラニン濃度画像におけるノイズも、内部反射光画像に生じていたノイズと略一致している。試験例6のノイズは実際上の許容範囲内であるが、試験例7(照明光の点灯モード(5))には強いノイズが現れていることがわかる。
【0086】
試験例3~7について、
図8Bに示した関心領域Sにおける、照明光有り偏光画像Aと、照明光無し偏光画像Xの画素値R、G、Bの平均値を求めた。結果を表1に示す。
【0087】
【0088】
また、試験例3~試験例7において、照明手段3で照射されている関心領域Sの照度を計測し、内部反射光画像(
図12A)の画質と色素成分濃度画像(
図12B、
図12C)の解析品質とを次の基準で評価した。結果を表2に示す。
なお、試験例3~7において、照明手段3を消灯し、関心領域Sが環境光だけで照らされている状態の照度も測定した。その平均は461Lxであった。
【0089】
内部反射光画像の画質の評価基準
○:ノイズは抑制されており目視では試験例2の内部反射光画像との相違を確認できない
△:試験例2の内部反射光画像に対してノイズが若干のっているのが目視で確認できる
×:ノイズが大きく試験例2の内部反射光画像との乖離が認められる
【0090】
色素成分濃度画像の解析品質の評価基準
○:ノイズは抑制されており目視では試験例2のヘモグロビン濃度画像又はメラニン濃度画像との相違を確認できない
△:試験例2のヘモグロビン濃度画像又はメラニン濃度画像に対してノイズが若干のっているのが目視で確認できる
×:ノイズが大きく試験例2のヘモグロビン濃度画像又はメラニン濃度画像との乖離が認められる
【0091】
【0092】
表2の試験例3~試験例7における照度の大小関係は、表1の試験例3~7の照明光有り偏光画像の画素値における大小関係と整合する。さらに表2によると、照明手段による照度が低下するにしたがって画質、解析品質が低下していることがわかる。
【0093】
したがって、表1及び表2の結果から、照明光有り偏光画像Aと、照明光無し偏光画像Xの比率A/X(=(A-X)/X+100%)が、R、G、Bのそれぞれで115%以上、好ましくは130%以上であると内部反射光画像から環境光の影響を除去することができ、画質や解析品質が向上することがわかる。
【符号の説明】
【0094】
1 天井照明
2 照明用偏光フィルタ
3 照明手段
3a ライト
3b リング状照明
3c 外付け照明
3d 蛍光灯
4 受光用偏光フィルタ
5 デジタルカメラ
5a 撮像用レンズ
6 演算手段
7 スマートフォン
8 着座部
9 照明用偏光板
10 装置
11 スポットライト
100A、100B、100C、100D 画像形成システム
L0 環境光由来の光
L1 照明光
L2 表面反射光
L3 内部反射光
S 皮膚、関心領域