(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024013339
(43)【公開日】2024-02-01
(54)【発明の名称】画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
(51)【国際特許分類】
A61B 5/00 20060101AFI20240125BHJP
G06T 1/00 20060101ALI20240125BHJP
G06T 5/00 20240101ALI20240125BHJP
【FI】
A61B5/00 M
G06T1/00 290
G06T5/00
【審査請求】未請求
【請求項の数】24
【出願形態】OL
(21)【出願番号】P 2022115353
(22)【出願日】2022-07-20
(71)【出願人】
【識別番号】504202472
【氏名又は名称】大学共同利用機関法人情報・システム研究機構
(74)【代理人】
【識別番号】100101454
【弁理士】
【氏名又は名称】山田 卓二
(74)【代理人】
【識別番号】100135703
【弁理士】
【氏名又は名称】岡部 英隆
(72)【発明者】
【氏名】佐藤 いまり
(72)【発明者】
【氏名】浅野 祐太
(72)【発明者】
【氏名】西澤 巧
(72)【発明者】
【氏名】梶田 大樹
【テーマコード(参考)】
4C117
5B057
【Fターム(参考)】
4C117XA02
4C117XB13
4C117XD05
4C117XE03
4C117XE43
4C117XK02
4C117XK14
4C117XK18
5B057CE03
5B057CE06
5B057CE11
5B057CE12
5B057CE17
(57)【要約】
【課題】従来技術に比較して高精度で人間の肌表面などの生体表面を可視化できる画像処理装置を提供する。
【解決手段】本発明の画像処理装置は、処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成する画像センサと、前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力する第1の計算部と、(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、(3)前記偏光画像データと、(4)前記非偏光画像データと、のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力する背景抽出処理部と、前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成する第2の計算部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成する画像センサと、
前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力する第1の計算部と、
(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、
(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、
(3)前記偏光画像データと、
(4)前記非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力する背景抽出処理部と、
前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成する第2の計算部と、
を備える画像処理装置。
【請求項2】
前記第1の計算部は、前記偏光画像データ及び非偏光画像データのうち、前記偏光画像データのB(青)チャンネル画像データと、前記非偏光画像データのB(青)チャンネル画像データとの間の各画素毎の輝度の比又は輝度の差を計算する、請求項1に記載の画像処理装置。
【請求項3】
前記背景抽出処理部は、ガウシアンフィルタを用いて、前記画像データから背景画像に係る背景画像データを抽出する、請求項1に記載の画像処理装置。
【請求項4】
前記第2の計算部からの画像データに対して二値化処理を行って出力する後置処理部をさらに備える、請求項1に記載の画像処理装置。
【請求項5】
前記後置処理部は、前記第2の計算部からの画像データに対して二値化処理及びクロージング処理を行って出力する、請求項4に記載の画像処理装置。
【請求項6】
前記後置処理部からの画像データに対して、ガポールフィルタを用いて、角度と周期とのうちの少なくとも1つを変化させてガポール特徴量を計算することにより、輝度値の角度分布と、輝度値の周期分布と、角度及び周期の2次元平面における輝度値分布を生成する特徴量解析部をさらに備える、請求項4又は5に記載の画像処理装置。
【請求項7】
画像センサが、処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成するステップと、
第1の計算部が、前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力するステップと、
背景抽出処理部が、
(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、
(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、
(3)前記偏光画像データと、
(4)前記非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力するステップと、
第2の計算部が、前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成するステップと、
を含む画像処理方法。
【請求項8】
前記輝度の比又は輝度の差を計算するステップは、前記偏光画像データ及び非偏光画像データのうち、前記偏光画像データのB(青)チャンネル画像データと、前記非偏光画像データのB(青)チャンネル画像データとの間の各画素毎の輝度の比又は輝度の差を計算することを含む、
請求項7に記載の画像処理方法。
【請求項9】
前記背景画像データを抽出するステップは、ガウシアンフィルタを用いて、前記画像データから背景画像に係る背景画像データを抽出することを含む、
請求項7に記載の画像処理方法。
【請求項10】
後置処理部が、前記第2の計算部からの画像データに対して二値化処理を行って出力するステップをさらに含む、請求項7に記載の画像処理方法。
【請求項11】
前記二値化処理を行って出力するステップは、前記第2の計算部からの画像データに対して二値化処理及びクロージング処理を行って出力することを含む、
請求項10に記載の画像処理方法。
【請求項12】
特徴量解析部が、前記後置処理部からの画像データに対して、ガポールフィルタを用いて、角度と周期とのうちの少なくとも1つを変化させてガポール特徴量を計算することにより、輝度値の角度分布と、輝度値の周期分布と、角度及び周期の2次元平面における輝度値分布を生成するステップをさらに含む、請求項10又は11に記載の画像処理方法。
【請求項13】
コンピュータにより実行される画像処理プログラムであって、
画像センサが、処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成するステップと、
第1の計算部が、前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力するステップと、
背景抽出処理部が、
(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、
(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、
(3)前記偏光画像データと、
(4)前記非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力するステップと、
第2の計算部が、前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成するステップと、
を含む画像処理プログラム。
【請求項14】
前記輝度の比又は輝度の差を計算するステップは、前記偏光画像データ及び非偏光画像データのうち、前記偏光画像データのB(青)チャンネル画像データと、前記非偏光画像データのB(青)チャンネル画像データとの間の各画素毎の輝度の比又は輝度の差を計算することを含む、
請求項13に記載の画像処理プログラム。
【請求項15】
前記背景画像データを抽出するステップは、ガウシアンフィルタを用いて、前記画像データから背景画像に係る背景画像データを抽出することを含む、
請求項13に記載の画像処理プログラム。
【請求項16】
後置処理部が、前記第2の計算部からの画像データに対して二値化処理を行って出力するステップをさらに含む、請求項13に記載の画像処理プログラム。
【請求項17】
前記二値化処理を行って出力するステップは、前記第2の計算部からの画像データに対して二値化処理及びクロージング処理を行って出力することを含む、
請求項16に記載の画像処理プログラム。
【請求項18】
特徴量解析部が、前記後置処理部からの画像データに対して、ガポールフィルタを用いて、角度と周期とのうちの少なくとも1つを変化させてガポール特徴量を計算することにより、輝度値の角度分布と、輝度値の周期分布と、角度及び周期の2次元平面における輝度値分布を生成するステップをさらに含む、請求項16又は17に記載の画像処理プログラム。
【請求項19】
コンピュータにより読み出し可能な画像処理プログラムを格納する記録媒体であって、
前記画像処理プログラムは、
画像センサが、処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成するステップと、
第1の計算部が、前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力するステップと、
背景抽出処理部が、
(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、
(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、
(3)前記偏光画像データと、
(4)前記非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力するステップと、
第2の計算部が、前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成するステップと、
を含む記録媒体。
【請求項20】
前記輝度の比又は輝度の差を計算するステップは、前記偏光画像データ及び非偏光画像データのうち、前記偏光画像データのB(青)チャンネル画像データと、前記非偏光画像データのB(青)チャンネル画像データとの間の各画素毎の輝度の比又は輝度の差を計算することを含む、
請求項19に記載の記録媒体。
【請求項21】
前記背景画像データを抽出するステップは、ガウシアンフィルタを用いて、前記画像データから背景画像に係る背景画像データを抽出することを含む、
請求項19に記載の記録媒体。
【請求項22】
前記画像処理プログラムは、
後置処理部が、前記第2の計算部からの画像データに対して二値化処理を行って出力するステップをさらに含む、請求項19に記載の記録媒体。
【請求項23】
前記二値化処理を行って出力するステップは、前記第2の計算部からの画像データに対して二値化処理及びクロージング処理を行って出力することを含む、
請求項22に記載の記録媒体。
【請求項24】
前記画像処理プログラムは、
特徴量解析部が、前記後置処理部からの画像データに対して、ガポールフィルタを用いて、角度と周期とのうちの少なくとも1つを変化させてガポール特徴量を計算することにより、輝度値の角度分布と、輝度値の周期分布と、角度及び周期の2次元平面における輝度値分布を生成するステップをさらに含む、請求項22又は23に記載の記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば生体表面の凹凸状態を可視化するための画像処理装置、画像処理方法、画像処理プログラム、並びに、前記画像処理プログラムを格納した記録媒体に関する。
【背景技術】
【0002】
例えば人間(人体)の皮膚は医学的には外的要因から体内を守り、恒常性を保つ役割を担う器官であるが、美容的な観点からもその性状の評価が重要視されている。皮膚の性状は、化粧のり、くすみ、又は透明感など様々な言葉で表現されるが、病的な皮膚所見を診断する一般皮膚科診療と異なり、医学には正常の範疇に含まれるような皮膚の微妙な変化を美容的な観点で定量的に捉えるのは困難であり、未だ実用的な方法が確立されていないのが現状である。
【0003】
人間の皮膚を拡大して観察すると表面には、いわゆる「シワ」又は「キメ」と呼ばれる、細かな紋様の凹凸の形状のパターンが見られる。
【先行技術文献】
【特許文献】
【0004】
【非特許文献】
【0005】
【非特許文献1】Feichtinger, Hans, G. et al., "Gabor analysis and algorithms: Theory and applications," Springer Science & Business Media, 2012.
【発明の概要】
【発明が解決しようとする課題】
【0006】
人間の皮膚表面には、格子状の深さ10~20μm程度の溝であるシワ及びキメが多数存在する。このシワ及びキメの分布を容易に取得するために、従来は目視による確認方法が用いられてきたが、精度やコストの問題から、シワ及びキメの分布情報を高精度で、且つ低コストに自動取得可能な手法が必要である。皮膚情報を容易に取得するには、RGBカメラで皮膚表面を撮影することが一般的ではあるが、シワ及びキメ箇所は周囲と色が酷似しているため、RGB画像(例えば非偏光画像)のみを用いて正確に可視化することは困難である。
【0007】
例えば、肌表面を正確に可視化するために、従来例の撮像装置が開示されている(例えば、特許文献1参照)。この非侵襲性の撮像装置のシステム及び方法には、皮膚上に光を導く入射光源を含む照明源と、当該皮膚から反射された光の偏向の度合いを検出するための検出器とを含む。また、肌状態を判定するためのシステム及び方法は、前記反射された光の前記偏向の一態様に基づくものとする。すなわち、当該従来例の撮像装置では、反射光の偏光の態様に基づいて、肌状態を判定することが開示されている。
【0008】
しかしながら、当該従来例の撮像装置においても、高精度で人間の肌状態などの撮影対象物の表面の凹凸状態を可視化することはできていない、という問題点があった。
【0009】
本発明の第1の目的は以上の問題点を解決し、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を可視化できる画像処理装置、画像処理方法、画像処理プログラム、並びに前記画像処理プログラムを格納した記録媒体を提供することにある。
【0010】
本発明の第2の目的は、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を、所定の特徴量を用いて解析できる画像処理装置、画像処理方法、画像処理プログラム、並びに前記画像処理プログラムを格納した記録媒体を提供することにある。
【課題を解決するための手段】
【0011】
本発明の第1の態様に係る画像処理装置は、
処理対象物の表面を撮像して、偏光画像データ及び非偏光画像データを生成する画像センサと、
前記偏光画像データ及び非偏光画像データの間の各画素毎の輝度の比又は輝度の差を計算して出力する第1の計算部と、
(1)前記第1の計算部からの各画素毎の輝度の比を含む画像データと、
(2)前記第1の計算部からの各画素毎の輝度の差を含む画像データと、
(3)前記偏光画像データと、
(4)前記非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力する背景抽出処理部と、
前記第1の計算部からの各画素毎の輝度の比又は輝度の差を含む画像データから、前記背景抽出処理部からの背景画像データを減算して各画素毎の差を含む画像データを生成する第2の計算部とを備える。
【0012】
本発明の第2の態様に係る画像処理装置は、前記第1の態様に係る画像処理装置において、
前記後置処理部からの画像データに対して、ガポールフィルタを用いて、角度と周期とのうちの少なくとも1つを変化させてガポール特徴量を計算することにより、輝度値の角度分布と、輝度値の周期分布と、角度及び周期の2次元平面における輝度値分布を生成する特徴量解析部をさらに備える。
【発明の効果】
【0013】
従って、本発明の第1の態様に係る画像処理装置等によれば、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を可視化できる。
【0014】
また、本発明の第2の態様に係る画像処理装置等によれば、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を、所定の特徴量を用いて解析できる。
【図面の簡単な説明】
【0015】
【
図1】実施形態1に係る画像処理システムの構成例を示すブロック図である。
【
図2】
図1の画像処理部12により実行される画像処理を示すフローチャートである。
【
図3A】画像処理対象である人間(人体)の皮膚であって、キメが整った肌表面を示す撮像画像である。
【
図3B】画像処理対象である人間(人体)の皮膚であって、キメが乱れた肌表面を示す撮像画像である。
【
図4A】
図1のカメラ1により撮像された偏光画像を示す撮像画像である。
【
図4B】
図1のカメラ1により撮像された非偏光画像を示す撮像画像である。
【
図4C】別の紫外線(UV)カメラにより撮像されたUV画像を示す撮像画像である。
【
図5B】
図4Aの偏光画像のR(赤)チャンネルの画像を示す撮像画像である。
【
図5C】
図4Aの偏光画像のG(緑)チャンネルの画像を示す撮像画像である。
【
図5D】
図4Aの偏光画像のB(青)チャンネルの画像を示す撮像画像である。
【
図6B】
図4Bの非偏光画像のR(赤)チャンネルの画像を示す撮像画像である。
【
図6C】
図4Bの非偏光画像のG(緑)チャンネルの画像を示す撮像画像である。
【
図6D】
図4Bの非偏光画像のB(青)チャンネルの画像を示す撮像画像である。
【
図7A】シワ又はキメの可視化を考察するための撮像画像であって、偏光画像のBチャンネルの画像を示す撮像画像である。
【
図7B】シワ又はキメの可視化を考察するための撮像画像であって、非偏光画像のBチャンネルの画像を示す撮像画像である。
【
図8】
図2の画像処理を、撮像画像及び画像処理画像を用いて示す画像処理の概念図である。
【
図9A】可視化例1に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図9B】可視化例1に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図9C】可視化例1に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図10A】可視化例2に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図10B】可視化例2に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図10C】可視化例2に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図11A】可視化例3に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図11B】可視化例3に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図11C】可視化例3に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図12A】可視化例4に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図12B】可視化例4に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図12C】可視化例4に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図13A】可視化例5に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図13B】可視化例5に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図13C】可視化例5に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図14A】可視化例6に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図14B】可視化例6に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図14C】可視化例6に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図15A】可視化例7に係る画像であって、処理対象の偏光画像を示す撮像画像である。
【
図15B】可視化例7に係る画像であって、処理対象の非偏光画像を示す撮像画像である。
【
図15C】可視化例7に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
【
図16】実施形態2に係る画像処理システムの構成例を示すブロック図である。
【
図17】
図16の画像処理部12Aにより実行される画像処理を示すフローチャートである。
【
図18A】
図16の画像処理部12Aの特徴量解析部27において用いる1次元ガポール関数の概念を説明するための図である。
【
図18B】
図16の画像処理部12Aの特徴量解析部27において用いる2次元ガポール関数の概念を説明するための図である。
【
図19A】特徴量解析部27の解析例1(方向性)を示す画像であって、線形フィルタリング前の可視化処理画像(DWE(Dermo Wrinkle Emphasis)画像)である。
【
図19B】特徴量解析部27の解析例1(方向性)を示す画像であって、線形フィルタリング後の分析処理画像である。
【
図20A】特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図20B】特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の最大輝度Lmax時の分析処理画像である。
【
図20C】特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の最小輝度Lmin時の分析処理画像である。
【
図21A】特徴量解析部27の解析例3(周期性)を示す画像であって、線形フィルタリング前の可視化処理画像(DWE画像)である。
【
図21B】特徴量解析部27の解析例3(周期性)を示す画像であって、線形フィルタリング後の分析処理画像である。
【
図22A】特徴量解析部27の解析例4(周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図22B】特徴量解析部27の解析例4(周期性)を示すグラフであって、線形フィルタリング後の最大輝度Lmax時の分析処理画像である。
【
図23】特徴量解析部27の解析例5(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図24A】特徴量解析部27の解析例5(方向性及び周期性)を示す画像であって、処理前のRGB画像(特許図面のために白黒画像で示す)である。
【
図24B】特徴量解析部27の解析例5(方向性及び周期性)を示す画像であって、可視化処理後の可視化処理画像(DWE画像)である。
【
図24C】特徴量解析部27の解析例5(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図24D】特徴量解析部27の解析例5(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図24E】特徴量解析部27の解析例5(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図25A】特徴量解析部27の解析例6(方向性及び周期性)を示す画像であって、処理前のRGB画像である。
【
図25B】特徴量解析部27の解析例6(方向性及び周期性)を示す画像であって、可視化処理後の可視化処理画像(DWE画像)である。
【
図25C】特徴量解析部27の解析例6(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図25D】特徴量解析部27の解析例6(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図25E】特徴量解析部27の解析例6(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図26A】特徴量解析部27の解析例7(方向性及び周期性)を示す画像であって、処理前のRGB画像である。
【
図26B】特徴量解析部27の解析例7(方向性及び周期性)を示す画像であって、可視化処理後の可視化処理画像(DWE画像)である。
【
図26C】特徴量解析部27の解析例7(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図26D】特徴量解析部27の解析例7(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図26E】特徴量解析部27の解析例7(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図27A】特徴量解析部27の解析例8(方向性及び周期性)を示す画像であって、処理前のRGB画像である。
【
図27B】特徴量解析部27の解析例8(方向性及び周期性)を示す画像であって、可視化処理後の可視化処理画像(DWE画像)である。
【
図27C】特徴量解析部27の解析例8(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図27D】特徴量解析部27の解析例8(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図27E】特徴量解析部27の解析例8(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図28A】特徴量解析部27の解析例9(方向性及び周期性)を示す画像であって、処理前のRGB画像である。
【
図28B】特徴量解析部27の解析例9(方向性及び周期性)を示す画像であって、可視化処理後の可視化処理画像(DWE画像)である。
【
図28C】特徴量解析部27の解析例9(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
【
図28D】特徴量解析部27の解析例9(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。
【
図28E】特徴量解析部27の解析例9(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
【
図29】実施形態3に係る画像処理システムの構成例を示すブロック図である。
【発明を実施するための形態】
【0016】
以下、本発明に係る実施形態及び変形例について図面を参照して説明する。なお、同一又は同様の構成要素については同一の符号を付している。
【0017】
(発明者の知見)
例えば人間の皮膚などの皮膚情報を容易に取得するには、RGBカメラで皮膚表面を撮影することが一般的ではあるが、シワ及びキメ箇所は周囲と色が酷似しているため、RGB画像(例えば非偏光画像)のみを用いて正確に可視化することは困難であった。
【0018】
そこで、本発明では、一般的なRGBカメラ画像ではなく、偏光画像及び非偏光画像を同時に取得可能なダーモカメラ(登録商標)を用いて撮影された皮膚の接写画像を処理することで、シワ及びキメの可視化を試みた。非偏光画像は偏光を考慮しない一般的なRGB画像であり、偏光画像は偏光させた光を対象に当て、偏光板を透過した光を撮影したもので、皮膚表面での直接反射光を抑え、皮膚内面の情報を取得しやすい画像である。
【0019】
格子状の溝であるシワ及びキメでは、複雑に光の反射が起こり、また微妙に肌色が異なるため、非偏光画像にはシワ及びキメとそれ以外の箇所の間に微小な輝度差が存在する。一方、偏光画像は主に表面下散乱した光を撮影するため、シワ及びキメの情報が画像に含まれにくい。そのため、この二枚の画像の差異は主に皮膚表面での直接反射光の有無で、それはシワ及びキメにおける反射光による輝度情報に相当する。また、偏光画像、非偏光画像共にRGBの情報が含まれるが、シワ及びキメの微小な溝の形状に起因する光学特性や皮膚色により、G、Rチャンネルに比べ、Bチャンネル画像にシワ及びキメ箇所の輝度差が大きい。そこで、Bチャンネル情報のみを可視化処理に活用する。
【0020】
以下、本発明の実施形態では、皮膚の健康状態をより的確に診断することを目指して、所定の画像処理を用いて皮膚のシワ及びキメを正確に可視化した上で、シワ及びキメのパターンについて解析できる画像処理装置を考案した。
【0021】
(実施形態1)
図1は、実施形態1に係る画像処理システムの構成例を示すブロック図である。
図1の画像信号処理システムは、カメラ1と、画像処理装置10と、ディスプレイ2とを備えて構成される。ここで、画像処理装置10は、画像メモリ11mを有する画像インターフェース11と、画像処理部12と、画像メモリ13mを有する画像インターフェース13とを備えて構成される。画像処理部12は、輝度比計算部21と、背景抽出処理部22と、画像メモリ23と、輝度差計算部24と、後置処理部25と、前記処理部等21~25の動作を制御する制御部20とを備えて構成される。
【0022】
図1において、カメラ1は例えばカシオ計算機株式会社製のDZ-D100型皮膚観察及び撮影カメラである「ダーモカメラ」(登録商標)であって、例えば人間の皮膚表面の偏光画像と非偏光画像を撮像してそれらの画像データを、画像インターフェース11を介して輝度比計算部21に出力する。ここで、「ダーモカメラ」(登録商標)は、偏光画像及び非偏光画像に加えて、紫外線(UV)画像を撮像することができるが、本発明の実施形態では、UV画像を撮像することは必須ではない。すなわち、カメラ1は、撮影対象物の偏光画像及び非偏光画像を撮像出来るものであればよく、偏光画像と非偏光画像とを別体の画像センサ等で撮像してもよい。
【0023】
ここで、偏光画像の撮像は、一般的に、光の反射を抑え、皮膚の薄皮のすぐ下にある皮膚内部の色や構造を撮影できることに特徴があり、非偏光画像の撮像は、一般的に、皮膚の表面の病変部を撮影できることに特徴があり、UV画像の撮像は、一般的に、偏光画像では浮き出てこない、隠れた「シミ」や、ぼやけた「ほくろ」などの辺縁部を撮影できることに特徴がある。「ダーモカメラ」はこれら3種類の画像を同一画角で撮影可能である。
【0024】
画像インターフェース11は入力される画像データを内蔵の画像メモリ11mに格納した後、格納した画像データに対して所定の画像形式の変換を行って次段の輝度比計算部21に出力する。また、画像インターフェース13は入力される画像データを内蔵の画像メモリ13mに格納した後、格納した画像データに対して所定の画像形式の変換を行って次段のディスプレイ2に出力する。
【0025】
図2は
図1の画像処理部12により実行される画像処理を示すフローチャートである。
【0026】
図2のステップS1において、輝度比計算部21は、カメラ1により撮像された偏光画像データ及び非偏光画像データを、画像インターフェース11を介して入力し、偏光画像データ及び非偏光画像データの各対応する画素の輝度比(輝度値の比)の値を計算して、各画素において輝度比の値を有する画像データを生成して出力する。次いで、ステップS2において、背景抽出処理部22は、輝度比計算部21から出力される画像データに対して、例えばガウシアンフィルタなどの平滑化フィルタを用いて背景抽出処理を実行することにより、背景色を抽出して保持した画像データを生成して出力する。
【0027】
さらに、ステップS3において、輝度差計算部24は、背景抽出処理部22から出力される画像データと、輝度比計算部21から画像メモリ23を介して出力される画像データとの各対応する画素の輝度差(輝度値の差分)を計算することにより、背景色を削除しかつシワ又はキメ情報を強調した、各画素において輝度差を有する画像データを生成して出力する。ステップS4において、後置処理部25は、輝度差計算部24から出力される画像データに対して、2値化処理及びクロージング処理を含む後置処理を実行することにより、シワ又はキメ情報を可視化した画像データを生成して、画像インターフェース13を介してディスプレイ2に出力して表示して、当該画像処理を終了する。
【0028】
以上の
図1の輝度比計算部21は、偏光画像データ及び非偏光画像データの各対応する画素の輝度比(輝度値の比)の値を計算しているが、本発明はこれに限らず、偏光画像データ及び非偏光画像データの各対応する画素の輝度差(輝度値の差分)を計算してもよい。このことは、偏光画像データ及び非偏光画像データの各対応する画素の輝度比は、相対的にそれらの差分に対応する場合があるためである。
【0029】
次いで、以上の画像処理について以下に詳細説明する。
【0030】
図3Aは画像処理対象である人間(人体)の皮膚であって、キメが整った肌表面を示す撮像画像である。また、
図3Bは画像処理対象である人間(人体)の皮膚であって、キメが乱れた肌表面を示す撮像画像である。
【0031】
人間の肌のキメが失われる要因としては、紫外線による皮膚の光老化、肌の乾燥、血行の悪化、新陳代謝の鈍化などが考えられる。従って、皮膚のシワ及びキメ情報は、皮膚の健康状態の評価に有用であるといえる。従来技術に係る皮膚のシワ及びキメを測定方法としては、以下があった。
(1)RGBカメラで撮影された肌画像に基づいて皮膚のシワ及びキメを測定する。この場合において、肌の色ムラがある、もしくはシワ及びキメ部分とそれ以外の部分の色情報が似ているという特徴を有する。
(2)3次元スキャナーで計測された肌の3次元データを用いて皮膚のシワ及びキメを測定する。この場合において、測定器が高価であって、計測時間が長い、膨大なデータ量という特徴を有する。
【0032】
従って、従来技術に係る測定方法では、安価でかつ容易に肌のシワ及びキメ情報を取得することは難しい、という課題があった。
【0033】
図4Aは
図1のカメラ1により撮像された偏光画像を示す撮像画像である。また、
図4Bは
図1のカメラ1により撮像された非偏光画像を示す撮像画像である。さらに、
図4Cは別の紫外線(UV)カメラにより撮像されたUV画像を示す撮像画像である。
図4Aから、皮膚内部の色や構造は見えるが、シワやキメが見えないことがわかる。また、
図4Bから、皮膚表面の情報は見え、シワやキメが多少見える。
図4Cから、「シミ」や「ほくろ」などが見え、「シワ」や「キメ」も見える。
【0034】
図5Aは
図4Aの偏光画像を示す撮像画像であり、
図5Bは
図4Aの偏光画像のRチャンネルの画像を示す撮像画像であり、
図5Cは
図4Aの偏光画像のGチャンネルの画像を示す撮像画像であり、
図5Dは
図4Aの偏光画像のBチャンネルの画像を示す撮像画像である。
図4Aの偏光画像をRGBの各チャンネルの画像に分離して表示した画像が
図5B~
図5Dである。これにより、皮膚表面の反射光が抑えられている偏光画像にも短波長側のBチャンネル画像には多少皮膚表面の情報が含まれることがわかった。すなわち、本実施形態では、Bチャンネル画像を用いて人体の皮膚表面の凹凸を検出することが好ましいといえ、
図1の輝度比計算部21に入力する画像データもBチャンネルの偏光画像データと非偏光画像データを用いることが好ましい。
【0035】
図6Aは
図4Bの非偏光画像を示す撮像画像であり、
図6Bは
図4Bの非偏光画像のRチャンネルの画像を示す撮像画像であり、
図6Cは
図4Bの非偏光画像のGチャンネルの画像を示す撮像画像であり、
図6Dは
図4Bの非偏光画像のBチャンネルの画像を示す撮像画像である。
図4Bの非偏光画像をRGBの各チャンネルの画像に分離して表示した画像が
図6B~
図6Dである。これより、偏光画像に比べて、非偏光画像の方が皮膚表面の情報が多く含まれていることがわかった。すなわち、本実施形態では、非偏光画像を用いて人体の皮膚表面の凹凸を検出することが好ましいといえ、
図1の画像処理部12では、非偏光画像データの情報を抽出するように構成することが好ましい。
【0036】
図7Aはシワ又はキメの可視化を考察するための撮像画像であって、偏光画像のBチャンネルの画像を示す撮像画像である。また、
図7Bはシワ又はキメの可視化を考察するための撮像画像であって、非偏光画像のBチャンネルの画像を示す撮像画像である。
図7Aの偏光画像のBチャンネル画像では、シワ及びキメの情報は少ないが、皮膚内部の色情報が十分に含まれているといえる。一方、
図7Bの非偏光画像のBチャンネル画像では、シワ及びキメの情報を含み、皮膚内部の色情報も十分に含まれている。従って、本実施形態では、偏光画像と非偏光画像のBチャンネルの情報から、シワ及びキメの可視化を行う。なお、UV画像はシワ及びキメ以外のしみ情報によりシワ及びキメ可視化に不向きであるといえる。
【0037】
図8は、
図2の画像処理を、撮像画像及び画像処理画像を用いて示す画像処理の概念図である。
【0038】
図8において、まず、偏光画像及び非偏光画像のBチャンネルの各画素の輝度比画像を算出する。シワ及びキメ以外の箇所は、偏光画像と非偏光画像が酷似しているため、輝度比は小さいが、シワ及びキメ箇所は輝度比が大きくなるため、輝度比画像ではシワ及びキメが強調される。次に、輝度比画像に含まれる皮膚の色ムラや入射光の当たり方による陰影を削除するために、輝度比画像に対して、ガウシアンフィルタなどの平滑化フィルタの背景抽出処理を適用した後、適用前後の輝度比画像の差分を取ることで、シワ及びキメ箇所のみが顕著に強調された画像を生成する。最後に、二値化処理及びクロージング処理を含む後置処理を施すことで、シワ及びキメの可視化画像(DWE(Dermo Wrinkle Emphasis)画像)を生成することができる。
【0039】
さらに、以上説明した画像処理装置10において使用した、反射光及び散乱光の画像について以下に補足説明する。
【0040】
非偏光画像は、一般的な光を撮影した画像であって、対象物体表面で反射した反射光及び対象物体の表層で散乱した散乱光をカメラ1の画像センサが受光することで撮像されて画像データを含む画像信号が生成される。また、偏光画像は、主に、対象物体の表層で散乱した光を撮影した画像である。直線偏光された光を対象物体に照射し、同じ方向の偏光状態の光をカットする向きに設置された偏光板を透過した光をカメラ1の画像センサが受光することで撮像されて画像データを含む画像信号が生成される。
【0041】
対象物体表面で反射した反射光は、偏光方向に変化がないため、偏光板を透過しないが、散乱した散乱光は偏光方向が変化するため、偏光板を透過する。これにより、偏光画像は対象物体の表層で散乱した光のみを捉えることが可能である。また、短波長の光(RGB画像のBチャンネル)は、長波長の光(RGB画像のRチャンネル)に比べ、対象物体内部に透過する割合が低く、対象物体表面で反射しやすい傾向があり、Bチャンネル画像には対象物体表面の微小な凸凹の情報を多く含む。そのため、本実施形態では、Bチャンネル画像を用いて皮膚のシワ及びキメの可視化を行うことが好ましい。また、皮膚以外の対象物体を可視化する場合には、対象物体表層の散乱特性に応じて、活用する波長情報(RGB情報)を変更する必要があると考えられる。
【0042】
さらに、実施形態1に係る画像処理装置10を用いた画像処理の可視化例について以下に説明する。
【0043】
(可視化例1)
図9Aは可視化例1に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図9Bは可視化例1に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図9Cは可視化例1に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図9Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0044】
(可視化例2)
図10Aは可視化例2に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図10Bは可視化例2に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図10Cは可視化例2に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図10Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0045】
(可視化例3)
図11Aは可視化例3に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図11Bは可視化例3に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図11Cは可視化例3に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図11Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0046】
(可視化例4)
図12Aは可視化例4に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図12Bは可視化例4に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図12Cは可視化例4に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図12Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0047】
(可視化例5)
図13Aは可視化例5に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図13Bは可視化例5に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図13Cは可視化例5に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図13Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0048】
(可視化例6)
図14Aは可視化例6に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図14Bは可視化例6に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図14Cは可視化例6に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図14Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0049】
(可視化例7)
図15Aは可視化例7に係る画像であって、処理対象の偏光画像を示す撮像画像であり、
図15Bは可視化例7に係る画像であって、処理対象の非偏光画像を示す撮像画像である。また、
図15Cは可視化例7に係る画像であって、
図2及び
図8の画像処理後の可視化処理画像である。
図15Cから明らかなように、シワ及びキメが強調されて可視化された画像を得ることができることがわかる。
【0050】
(実施形態1のまとめ)
以上説明したように、本実施形態に係る手法によりシワ及びキメを可視化することができ、特に、偏光画像及び非偏光画像のBチャンネルの輝度の差異情報に基づく特徴量を活用することで、皮膚のシワ及びキメの可視化できることが分かる。すなわち、実施形態1に係る画像処理装置10によれば、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を可視化できる。
【0051】
(変形例)
以上の実施形態1では、後置処理部25において後置処理を行っているが、本発明はこれに限らず、これを省略してもよい。また、後置処理は少なくとも二値化処理のみを行ってもよい。
【0052】
以上の実施形態1において、画像処理部12は例えば画像メモリを有するデジタル計算機(コンピュータ)により構成することができる。
図2の画像処理については、画像処理プログラムとして構成し、ハードウエアであるCPUにより実行させてもよい。また、前記画像処理プログラムを、光ディスクなどのコンピュータにより読み出し可能な記録媒体(プログラム製品)に記録し、当該記憶媒体を光ディスクドライブ装置に挿入して読み出してコンピュータにより実行させてもよい。
【0053】
以上の実施形態1においては、好ましくは、Bチャンネルの偏光画像及び非偏光画像を用いて輝度の差異情報に基づく特徴量を使用することで、皮膚のシワ及びキメの可視化しているが、本発明はこれに限らず、Rチャンネル又はGチャンネルのほか他の波長の各画像を用いて輝度の差異情報に基づく特徴量を使用してもよく、この場合でも、従来技術に比較して高精度で皮膚のシワ及びキメの可視化できる。
【0054】
(実施形態2)
図16は実施形態2に係る画像処理システムの構成例を示すブロック図である。
図16の画像処理システムは、
図1の画像処理システムに比較して以下の点が異なる。
(1)画像処理部12に代えて、後置処理部25と画像インターフェース13との間に、画像メモリ26及び特徴量解析部27を備えた画像処理部12Aを備えた。
(2)画像処理部12Aは、制御部20に代えて制御部20Aを備えた。
(3)画像処理装置10に代えて、画像処理部12Aを備えた画像処理装置10Aを備えた。
以下、相違点について説明する。
【0055】
図17は
図16の画像処理部12Aにより実行される画像処理を示すフローチャートである。
図17の画像処理は、
図2の画像処理に比較して以下の点が異なる。
(1)ステップS4の処理に代えて、ステップS4Aの処理を実行する。
(2)ステップS4Aの処理の後、ステップS5の処理を実行する。
以下、相違点について説明する。
【0056】
図17のステップS4Aにおいて、後置処理部25は、輝度差計算部24から出力される画像データに対して、2値化処理及びクロージング処理を含む後置処理を実行することにより、シワ又はキメ情報を可視化した画像データを生成して、画像メモリ26を介して特徴量解析部27に出力するとともに、画像メモリ26及び画像インターフェース13を介してディスプレイ2に出力する。次いで、ステップS5において、特徴量解析部27は、後置処理部25から画像メモリ26を介して出力される画像データに対して、ガポールフィルタを用いた特徴量解析を実行することにより、(1)平均輝度値の角度分布を示すグラフ画像と、(2)平均輝度値の周期分布を示すグラフ画像と、(3)角度及び周期の2次元平面における平均輝度値(平均輝度値の分布)を示す濃淡(又はカラー)画像(例えば、等高線ヒートマップ図であってもよい)とを生成して、画像インターフェース13を介してディスプレイ2に出力する。ここで、当該3つの画像のうち、ユーザが指定する少なくとも1つの画像を生成して出力してもよい。
【0057】
図18Aは
図16の画像処理部12Aの特徴量解析部27において用いる1次元ガポール関数の概念を説明するための図であり、
図18Bは
図16の画像処理部12Aの特徴量解析部27において用いる2次元ガポール関数の概念を説明するための図である。
【0058】
実施形態2では、皮膚のシワ及びキメの空間分布(間隔(周期)及び方向性)を、ガボール特徴量を用いて検出することを特徴としている。具体的には、画像処理のテクスチャー解析等に用いられる線形フィルタである、例えば非特許文献1において開示されたガボールフィルタ(Gabor filter)を用いて、画像の各点周りの局所領域において、方向毎に特定の周波数成分を抽出する。当該ガボールフィルタは、
図18Aに示すように、正規分布のガウス関数と、余弦波の三角関数とを乗算することで生成したガポール関数を用いる。本実施形態では、特に、顔、虹彩、指紋認証など生体認識に利用する。ここで、ガボールフィルタは人間の脳での初期視覚処理のモデルと言われている。
【0059】
次いで、ガボールフィルタの周期と角度を含むパラメータについて以下に説明する。
【0060】
(1)ガボールフィルタのパラメータ
皮膚のシワ及びキメの可視化画像に対して適用するガボールフィルタにおいて、周期と角度のパラメータを設定することができる。本実施形態では、可視化画像に対して、白黒パターン(sin/cos関数をガウス関数で局在化したカーネル)の周期と角度を変更して、ガボールフィルタを適用した際の応答値(平均輝度)の強さから、可視化画像に含まれる白黒パターンの方向と角度を検出する。
【0061】
(2)ガボールフィルタの周期
可視化画像上のシワ及びキメの間隔(連続する白線の間隔)とガボールフィルタの白黒パターンの間隔が最も近似した際に、ガボールフィルタを適用した際の応答が強くなる。つまり、シワ及びキメの可視化画像に対して、様々な周期のガボールフィルタを適用した際に、最大の応答を示すガボールフィルタの周期パラメータがシワ及びキメの間隔に相当する。
【0062】
(3)ガボールフィルタの角度
可視化画像上のシワ及びキメの方向(連続する白線の方向)とガボールフィルタの白黒パターンの方向が最も近似した際に、ガボールフィルタを適用した際の応答が強くなる。最大の応答値(フィルタ適用後の平均輝度)と最小の応答値(フィルタ適用後の平均輝度)の差が、シワ及びキメの方向性の強さに相当する。最大の応答値(フィルタ適用後の平均輝度)と最小の応答値(フィルタ適用後の平均輝度)の差が少ない場合は、任意の方向に同等のシワ及びキメが入っていることになる。つまり、シワ及びキメが歪んでいない状態である。最大の応答値(フィルタ適用後の平均輝度)と最小の応答値(フィルタ適用後の平均輝度)の差が大きい場合は、ある方向にはシワ及びキメが強く入っており、ある方向にはシワ及びキメが弱く入っていることになる。つまり、シワ及びキメが歪んでいる状態となる。
【0063】
(解析例1)
図19Aは特徴量解析部27の解析例1(方向性)を示す画像であって、線形フィルタリング前の可視化処理画像(DWE画像)であり、
図19Bは特徴量解析部27の解析例1(方向性)を示す画像であって、線形フィルタリング後の分析処理画像である。
図19Aの可視化処理画像(DWE画像)に対して、ガボールフィルタの周期を固定して方向を変化させて様々な方向のガボールフィルタを適用したときのDWE画像(周期:20ピクセル/サイクル)を
図19Bに示す。これにより、シワ及びキメの方向性の強さを検出できることがわかる。
【0064】
(解析例2)
図20Aは特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフである。また、
図20Bは特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の最大輝度Lmax時の分析処理画像である。さらに、
図20Cは特徴量解析部27の解析例2(方向性)を示すグラフであって、線形フィルタリング後の最小輝度Lmin時の分析処理画像である。ここで、輝度差ΔL=Lmax-Lminである。
【0065】
図20A~
図20Cから明らかなように、角度が56度で最大輝度値(最大応答値)Lmaxを示し、角度が157度で最小輝度値(最小応答値)Lminを示していることがわかる。すなわち、角度56度のガボールフィルタの適用時に強い応答を検出し、シワ及びキメの方向性の強さを検出できることがわかる。
【0066】
(解析例3)
図21Aは特徴量解析部27の解析例3(周期性)を示す画像であって、線形フィルタリング前の可視化処理画像(DWE画像)である。また、
図21Bは特徴量解析部27の解析例3(周期性)を示す画像であって、線形フィルタリング後の分析処理画像である。
図21Aの可視化処理画像(DWE画像)に対して、ガボールフィルタの方向(角度)を固定して周期を変化させて様々な周期のガボールフィルタを適用したときのDWE画像(角度:55度)を
図21Bに示す。これにより、シワ及びキメの出現間隔(出現周期)の強さを検出できることがわかる。
【0067】
(解析例4)
図22Aは特徴量解析部27の解析例4(周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。また、
図22Bは特徴量解析部27の解析例4(周期性)を示すグラフであって、線形フィルタリング後の最大輝度Lmax時の分析処理画像である。
【0068】
図22A~
図22Bから明らかなように、周期が86ピクセル/サイクルで、最大輝度が87.4であり、周期が86であるガボールフィルタ適用時に強い応答を検出している。これにより、シワ及びキメの出現間隔(=出現周期)の強さを検出できることがわかる。
【0069】
(解析例5)
図23は特徴量解析部27の解析例5(方向性及び周期性)を示すグラフであって、方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。
図23は、ガボールフィルタを適用したDWE画像の輝度変化を示すものであって、ガボールフィルタの方向と周期をともに変化させた際の応答値をヒートマップ表示(等高線表示)によりDWE画像の特徴量を可視化したものである。ここで、特許図面を白黒画像で示すために、クロスハッチング又はハッチングの間隔で応答値を変化させているが、当該
図23は、黄色が強く青が弱いヒートマップ表示のグラフ画像を、特許図面用に書き直したものであり、
図24以降も同様である。
【0070】
図24A~
図24Eは特徴量解析部27の解析例5(方向性及び周期性)を示す画像であって、
図24Aは処理前のRGB画像(特許図面のために白黒画像で示す)であり、
図24Bは可視化処理後の可視化処理画像(DWE画像)であり、
図24Cは方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。また、
図24Dは線形フィルタリング後の平均輝度の角度分布を示すグラフであり、
図24Eは線形フィルタリング後の平均輝度の周期分布を示すグラフである。
図24A及び
図24Bにおいて、画像内の矩形は解析対象領域を示す。
【0071】
図24C及び
図24Dから明らかなように、角度分布の輝度差が大きい角度を検出することができ、ある方向にだけ強いシワ及びキメを確認できることがわかる。また、
図24C及び
図24Eから明らかなように、強い応答のある周期を検出することができ、
図24C及び
図24Eからは、シワ及びキメの間隔が幅広いことがわかる。
【0072】
(解析例6)
図25A~
図25Eは特徴量解析部27の解析例6(方向性及び周期性)を示す画像であって、
図25Aは処理前のRGB画像であり、
図25Bは可視化処理後の可視化処理画像(DWE画像)であり、
図25Cは方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。また、
図25Dは線形フィルタリング後の平均輝度の角度分布を示すグラフであり、
図25Eは線形フィルタリング後の平均輝度の周期分布を示すグラフである。
図25A及び
図25Bにおいて、画像内の矩形は解析対象領域を示す。
【0073】
図25C及び
図25Dから明らかなように、角度分布の輝度差が小さく、ピーク位置がバラバラであることを検出できる。これにより、シワ及びキメ方向性が弱いことがわかる。また、
図25C及び
図25Eから明らかなように、周期分布のピーク位置が一か所(Lmax)のみであって、シワ及びキメの間隔が揃っていることがわかる。
【0074】
(解析例7)
図26A~
図26Eは特徴量解析部27の解析例7(方向性及び周期性)を示す画像であって、
図26Aは処理前のRGB画像であり、
図26Bは可視化処理後の可視化処理画像(DWE画像)であり、
図26Cは方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。また、
図26Dは線形フィルタリング後の平均輝度の角度分布を示すグラフであり、
図26Eは線形フィルタリング後の平均輝度の周期分布を示すグラフである。
図26A及び
図26Bにおいて、画像内の矩形は解析対象領域を示す。
【0075】
図26C及び
図26Dから明らかなように、角度分布の輝度差が多少あることがわかり、シワ及びキメ方向性が少しあることがわかる。また、
図26C及び
図26Eから明らかなように、周期分布のピーク位置が一か所(Lmax)のみであって、シワ及びキメの間隔が揃っていることがわかる。
【0076】
(解析例8)
図27A~
図27Eは人間の左肩甲部(縫合後の瘢痕)に対する特徴量解析部27の解析例8(方向性及び周期性)を示す画像であって、
図27Aは処理前のRGB画像であり、
図27Bは可視化処理後の可視化処理画像(DWE画像)であり、
図27Cは方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。また、
図27Dは線形フィルタリング後の平均輝度の角度分布を示すグラフであり、
図27Eは線形フィルタリング後の平均輝度の周期分布を示すグラフである。
図27A及び
図27Bにおいて、画像内の矩形は解析対象領域を示す。
【0077】
図27C及び
図27Dから明らかなように、角度分布の輝度差が小さいことがわかり、これにより、シワ又はキメの方向性(角度変化)が弱い(角度変化が小さい)ことがわかる。また、
図27C及び
図27Eから明らかなように、周期分布のピーク位置が小さいことがわかり、これにより、シワ及びキメの間隔が狭い(周期が小さい)ことがわかる。
【0078】
(解析例9)
図28A~
図28Eは人間の左肩甲部(縫合後の瘢痕)に対する特徴量解析部27の解析例9(方向性及び周期性)を示す画像であって、
図28Aは理前のRGB画像であり、
図28Bは可視化処理後の可視化処理画像(DWE画像)であり、
図28Cは方向性の角度に対する周期の2次元平面において輝度値を等高線ヒートマップ形式で表したグラフ画像である。また、
図28Dは特徴量解析部27の解析例9(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の角度分布を示すグラフであり、
図28Eは特徴量解析部27の解析例9(方向性及び周期性)を示すグラフであって、線形フィルタリング後の平均輝度の周期分布を示すグラフである。
図28A及び
図28Bにおいて、画像内の矩形は解析対象領域を示す。
【0079】
図28C及び
図28Dから明らかなように、角度分布の輝度差が小さく、ピークの二か所が存在することがわかる。これにより、シワ及びキメ方向性が弱いが、2つの方向に輝度が強い傾向があることがわかる。また、
図28C及び
図28Eから明らかなように、周囲のピーク位置は少し小さめであることがわかり、これにより、シワ及びキメの間隔が少し狭い(周期が少し小さい)ことがわかる。
【0080】
(実施形態2のまとめ)
以上説明したように、実施形態2によれば、シワ及びキメの間隔及び方向性についてガボールフィルタを用いたガボール特徴量の解析を行った。ここで、ガボールフィルタは、画像処理のテクスチャー解析等に用いられる線形フィルタで、方向毎の特定の周波数成分を抽出する。シワ及びキメの可視化画像に対して、任意の方向及び周期のガボールフィルタを適用した際の応答値(平均輝度値)を算出し、シワ及びキメの格子パターンの歪み方や間隔の定量評価を行った。パターンの歪み方については、任意の方向のガボールフィルタを適用した際の応答の強弱に着目し、最大と最小の応答の差異が、パターンの歪み量に相当する。シワ及びキメの間隔については、任意の周期のガボールフィルタを適用した際の応答の強弱に着目し、最大応答時のガボールフィルタの周期パラメータ(ピクセル/サイクル)を間隔に相当すると考えられる。
【0081】
【0082】
表1に最大応答時の角度、周期、及び応答の差異を示す。だたし、角度は撮影時のカメラの向きに依存する。ここで、解析例8及び9は縫合後瘢痕の例であって、解析例8に係る縫合部の周囲と、解析例9に係る縫合部では、シワ及びキメの間隔や歪み方が異なることが、可視化画像及びガボール特徴量から確認できる。これらの結果から、シワ及びキメの格子パターンの歪み方や間隔に相当するパラメータから定量評価が可能で、ガボールフィルタを用いたシワ及びキメの特徴解析が有用であることが分かる。
【0083】
【0084】
実施形態2では、ダーモカメラで撮影された皮膚の偏光画像及び非偏光画像のBチャンネル情報を用いたシワ及びキメの可視化処理手法を提案した。そして、可視化画像についてのガボール特徴量を用いて、シワ及びキメの間隔や方向性を評価した。また、皮膚の疾患箇所の診断において、本提案手法による評価の有用性が示唆された。
【0085】
以上説明したように、実施形態2に係る画像処理装置10Aによれば、従来技術に比較して高精度で、例えば人間の肌表面等の生体表面などの撮影対象物の表面の凹凸状態を、所定の特徴量を用いて解析できる。
【0086】
特に、実施形態1及び2により、医療的にどのような判断又は診断ができるかについて以下に説明する。一般的に皮膚のシワ及びキメの状態を可視化することは困難であるため、可視化されたシワ及びキメ情報は皮膚の健康状態の診断や、美容的な判断に有用である。皮膚の部位によって、シワ及びキメの出現は様々であり、それぞれの部位で健康的なシワ及びキメの出現があるので、異常なシワ及びキメの出現を検証することで疾患箇所を診断することが可能であると思料する。特に、瘢痕箇所の治癒過程の診断にシワ及びキメの可視化情報が有用であり、瘢痕箇所は治癒後に傷跡が目立つ場合と目立たない場合があり、治癒過程でのシワ及びキメの状態(皮膚が引っ張られている、シワ及びキメの凹凸の有無など)についての画像診断や定量評価(ガボールフィルタを用いた特徴量解析)が経過観察に有用であると考えられる。
【0087】
以上の実施形態2において、後置処理部25は、二値化処理及びクロージング処理を実行しているが、本発明はこれに限らず、少なくとも二値化処理のみを実行することにより、凹凸の状態を高精度で出現させることができる。
【0088】
(実施形態3)
図29は実施形態3に係る画像処理システムの構成例を示すブロック図である。
図29の画像処理システムは、
図1の画像処理システムと比較して以下の点が異なる。
(1)画像処理部12に代えて、画像処理部12Bを備えた。
(2)画像処理部12Bは、制御部20に代えて制御部20Bを備えた。
(3)画像処理装置10に代えて、画像処理部12B及び外部インターフェース14を備えた画像処理装置10Bを備えた。
(4)外部インターフェース14に接続されて光ディスク31が挿入される光ディスクドライブ30をさらに備えた。
以下、相違点について説明する。
【0089】
実施形態3では、
図2又は
図17の前記画像処理プログラムを、例えばCD、DVD等の光ディスク、SSD(Solid State Drive)などの、コンピュータにより読み出し可能な記録媒体(プログラム製品)に記録し、当該記憶媒体を例えば光ディスクドライブ30等のドライブ装置に挿入して読み出して、外部インターフェース14を介して制御部20Bのメモリにロードして、制御部20B(コンピュータ)により実行させてもよい。
【0090】
以上の実施形態2では、実施形態1の画像処理システムに対して外部インターフェース14及び光ディスクドライブ30を備えているが、本発明はこれに限らず、実施形態2の画像処理システムに対して外部インターフェース14及び光ディスクドライブ30を備えてもよい。
【0091】
(他の変形例)
以上の実施形態では、背景抽出処理部22は、輝度比計算部21からの画像データ(もしくは、各画素毎の輝度の差を含む画像データ(変形例))から背景画像データを抽出しているが、本発明はこれに限らず、輝度比計算部21に入力される偏光画像データ又は非偏光画像データから、背景画像データを抽出してもよい。すなわち、背景抽出処理部22は、
(1)輝度比計算部21からの各画素毎の輝度の比を含む画像データと、
(2)当該各画素毎の輝度の差を含む画像データと、
(3)輝度比計算部21に入力される偏光画像データと、
(4)輝度比計算部21に入力される非偏光画像データと、
のうちのいずれかの画像データから背景画像に係る背景画像データを抽出して出力してもよい。
【0092】
以上の実施形態では、後置処理部25において後置処理を行っているが、本発明はこれに限らず、これを省略してもよい。また、後置処理は少なくとも二値化処理のみを行ってもよい。
【0093】
以上の実施形態において、画像処理部12,12A,12Bは例えば画像メモリを有するデジタル計算機(コンピュータ)により構成することができる。
図2、
図17の画像処理については、画像処理プログラムとして構成し、ハードウエアであるCPUにより実行させてもよい。
【産業上の利用可能性】
【0094】
以上詳述したように、本発明によれば、従来技術に比較して高精度で、例えば人間の肌表面などの生体表面を可視化できる画像処理装置及び画像処理方法を提供することにある。また、本発明によれば、従来技術に比較して高精度で、例えば人間の肌表面などの生体表面を所定のパラメータを用いて分析できる画像処理装置及び画像処理方法を提供できる。
【0095】
本発明において、画像処理すべき撮影対象として適用可能なものは以下の通りである。基本的には、人体、動物、生物を含む生体の皮膚又は表面のように、表面にある程度の細かい凸凹があり、所定の高い透明度を有するものであれば、撮影対象として適用できる。具体的には、人間の皮膚、動物の皮膚、生物の葉、きのこなどの表面等の凸凹の状態を可視化できる。
【符号の説明】
【0096】
1 カメラ
2 ディスプレイ
10,10A,10B 画像処理装置
11画像インターフェース
11m 画像メモリ
12,12A,12B 画像処理部
13 画像インターフェース
13m 画像メモリ
14 外部インターフェース
20,20A 制御部
21 輝度比計算部
22 背景抽出処理部
23 画像メモリ
24 輝度差計算部
25 後置処理部
26 画像メモリ
27 特徴量解析部
30 光ディスクドライブ
31 光ディスク