【文献】
Norimichi Tsumura et al.,Image-based skin color and texture analysis/synthesis by extracting hemoglobin and melanin information in the skin,ACM TRANSACTIONS ON GRAPHICS(TOG),米国,ACM,2003年 7月 1日,vol. 22,no. 3,pp. 770-779,ISSN:0730-0301
(58)【調査した分野】(Int.Cl.,DB名)
前記陰影成分の最小成分は、前記独立成分抽出部によって抽出された陰影成分のうち、前記メラニン色素成分の独立成分方向をなす直線と前記ヘモグロビン色素成分の独立成分方向をなす直線とを含む平面からの距離が最も小さい陰影成分である
請求項1から3の何れか一項に記載の画像処理装置。
前記陰影成分の陰影成分量を、前記メラニン色素成分の独立成分方向をなす直線と前記ヘモグロビン色素成分の独立成分方向をなす直線とを含む平面からの距離とし、前記陰影成分量が小さい方から所定範囲内にある複数の陰影成分の平均を前記陰影成分の最小成分とする
請求項1から3の何れか一項に記載の画像処理装置。
前記画像補正部は、前記補正の目標となる基準バイアスを取得し、前記バイアス算出部によって算出された前記バイアスと前記基準バイアスとに基づいて、前記画像を補正する請求項6に記載の画像処理装置。
【発明を実施するための形態】
【0018】
以下、本発明の好適な実施形態について、図面を用いて詳細に説明する。
【0019】
〔第1の実施形態〕
<画像処理装置のハードウェア構成>
図1に、第1の実施形態の画像処理装置100のハードウェア構成例を示す。
【0020】
図1に示す様に、画像処理装置100は、制御部101、主記憶部102、補助記憶部103、外部記憶装置I/F部104、ネットワーク部I/F105、操作部106、表示部107を含み、それぞれパスBを介して相互に接続されている。
【0021】
制御部101は、コンピュータの中で、各装置の制御やデータの演算、加工を行うCPU(Central Processing Unit)である。また、制御部101は、主記憶部102に記憶されたプログラムを実行する演算装置であり、入力装置や記憶装置からデータを受け取り、演算、加工した上で、出力装置や記憶装置等に出力する。
【0022】
主記憶部102は、ROM(Read Only Memory)やRAM(Random Access Memory)等であり、制御部101が実行する基本ソフトウェアであるOSやアプリケーションソフトウェア等のプログラムやデータを記憶又は一時保存する記憶装置である。
【0023】
補助記憶部103は、HDD(Hard Disk Drive)などであり、実行されるプログラムなどに関連するデータを記憶する記憶装置である。
【0024】
外部記憶装置I/F部104は、例えばUSB(Universal Serial Bus)等のデータ伝送路を介して接続される例えばフラッシュメモリ等の記憶媒体108と画像処理装置100とのインターフェイスである。
【0025】
また、記憶媒体108に、所定のプログラムを格納し、この記憶媒体108に格納されたプログラムが外部記憶装置I/F部104を介して画像処理装置100にインストールされ、インストールされた所定のプログラムは画像処理装置100により実行可能となる。
【0026】
ネットワークI/F部105は、有線及び/又は無線回線等のデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)等のネットワークを介して接続された通信機器を有する周辺機器と画像処理装置100とのインターフェイスである。
【0027】
操作部106は、例えばハードキーで構成されるキースイッチやマウス等である。
【0028】
表示部107は、例えば、液晶や有機EL等のディスプレイであり、画像や操作用アイコン等を表示し、画像処理装置100が有する機能をユーザが利用する際に各種設定を行うユーザインターフェイスとして機能する装置である。
【0029】
<画像処理装置の機能構成>
図2は、第1の実施形態に係る画像処理装置100の機能構成を例示する図である。
【0030】
図2に示す様に、第1の実施形態に係る画像処理装置100は、肌情報取得部201、独立成分抽出部202、バイアス算出部203、画像補正部204を有する。
【0031】
肌情報取得部201、独立成分抽出部202、バイアス算出部203、画像補正部204は、制御部101(
図1)が主記憶部102等に記憶されているプログラムを実行することで実現される機能である。
【0032】
以下では、画像処理装置100に入力された画像データの光源推定がなされて最終的に画像補正されるまでを行う処理における各部の処理内容について、
図3から
図10に例示する画像処理に使用するデータ等と併せて説明する。
【0033】
≪肌領域抽出と肌情報取得≫
画像処理装置100には、人物画像を含む画像データ(以下、入力画像データ)が入力され、肌情報取得部201が入力画像データから肌領域抽出を行い、人物画像の肌情報を取得する。
【0034】
図3に、画像処理装置100に入力された入力画像データ301、肌情報取得部201による肌領域(302,304)の抽出例を示す。
図3(a)は、入力画像データ301に存在する肌領域302(白色部分)をほぼ全て抽出した場合を例示する図である。
【0035】
図3(a)の事例では、肌情報取得部201は、入力画像データを構成する画素の色情報と予め設定された肌色判定基準とを比較しながら、一画素毎に肌領域か非肌領域かを判定する。入力画像データを構成する全画素において判定を行い、肌領域と判定された画素の集合が肌領域と自動的に決定される。
【0036】
図3(b)は、入力画像データ301の人物画像における複数の肌部位303から、肌領域として肌パッチ304を抽出した場合を例示する図である。
【0037】
図3(b)の事例では、肌情報取得部201は、入力画像データから顔検出を行い、人物の顔部分を抽出する。顔部分が抽出されると、顔部分の目や口や眉等の位置を検出し、それらとの相対位置関係から肌部位を抽出すべく位置を特定する。
図3(b)は、額、両頬、顎の4箇所から肌部位を抽出するように設定された事例であるが、肌部位の抽出箇所はこれらに限らず、肌領域であれば任意に設定してよい。
図3(b)の肌パッチ304は、4箇所の肌部位を組み合わせて1つのパッチとしている。肌部位及び肌パッチは矩形に限らず、任意の形状としてもよい。
【0038】
また、
図3(a)と
図3(b)は自動的に肌領域(302,304)を抽出する事例であるが、表示部107に入力画像データを表示し、ユーザが該表示を見ながら操作部106を用いて肌領域を指定する方法としてもよい。
【0039】
入力画像データ301から肌領域(302,304)が抽出されると、肌情報取得部201は、肌領域(302,304)を構成する画素の肌情報を取得する。
【0040】
肌情報は、肌領域(302,304)を構成する全画素のRGB毎の8ビット階調値(0〜255)である。入力画像データ301が、例えばオフセット印刷等で扱われる様なCMYK4色版の網点率等で構成されている場合には、所定の変換テーブル等を使ってRGBへ変換してから肌情報を取得する。
【0041】
≪肌領域の独立成分抽出≫
肌情報取得部201により肌領域302等から肌情報が取得されると、次に独立成分抽出部202が、肌情報から肌領域を構成する独立成分(後述)を抽出する。
【0042】
皮膚の層構造は、表皮側から、メラニンを主な色素として含有する表皮層と、ヘモグロビンを主な色素として含有する真皮層と、皮下組織とにモデル化でき、肌色の見え(内部反射による色再現)は、主にメラニンとヘモグロビンの色素成分に依存していることが分かっている。
【0043】
人間のメラニンとヘモグロビンの色素自体の特性は一般的には個人差は無く、かつ夫々の色素成分は独立に扱える(ただし、各色素濃度は肌部位や個人によって異なり、それによって肌の見えが異なる)。従って画像信号のRGBについて、−logR、−logG、−logBをそれぞれx軸、y軸、z軸に割り当てた対数空間を考慮すると、メラニンの色素成分とヘモグロビンの色素成分は、1点で交わった夫々方向の異なる独立成分として表わせる。
【0044】
さらに、人間の肌には該肌を照射する光源位置等に関係して暗い部分と明るい部分とが存在し、このような濃淡は前述した2色素成分とは独立した陰影成分として表わせる。陰影成分は、対数空間において(1,1,1)方向の成分となる。
【0045】
従って肌色は、メラニンの色素成分とヘモグロビンの色素成分と、さらには肌の濃淡を決める陰影成分との各独立成分へと分離できる。肌色は、特定の人物画像においても肌部位によって異なるが、これは独立成分抽出部202によって抽出される各独立成分(メラニン色素成分、ヘモグロビン色素成分、陰影成分)の濃度が、肌部位によって夫々異なるためによる。
【0046】
図4は、対数空間にプロットされた、肌情報取得部201により抽出された肌情報の分布を例示する図である。
図4には、独立成分抽出部202により抽出される各独立成分の方向を示すメラニン色素成分軸402、ヘモグロビン色素成分軸403、陰影成分軸404、さらにはメラニン色素成分軸402とヘモグロビン色素成分軸403とで構成される色素平面405が明示されている。
【0047】
色素平面405において陰影成分はゼロとなるため、対数空間にプロットされた肌情報401を陰影成分軸404と平行に移動させ、色素平面405に射影することで、陰影成分を除外し2色素成分のみで構成される射影肌情報406を得ることができる。この際、各肌情報が色素平面405に射影されるまでに移動した距離が、該各肌情報の陰影成分濃度(長さ)と等しくなる。
【0048】
さらに、射影肌情報406をメラニン色素成分軸402の方向成分とヘモグロビン色素成分軸403の方向成分とに分離すれば、メラニン色素成分とヘモグロビン色素成分が抽出される。例えば、
図4において、任意の射影肌情報Fiから抽出されるメラニン色素成分はMi、ヘモグロビン色素成分はHiとなる。
【0049】
以上のように、独立成分抽出部202により、肌領域302等を構成する肌情報全てのメラニン色素成分、ヘモグロビン色素成分、陰影成分を抽出することができる。
【0050】
図5に、独立成分抽出部202における独立成分抽出処理のフローチャートを例示する。
【0051】
独立成分抽出部202では、まずステップS501にて、メラニン色素の成分軸402とヘモグロビン色素の成分軸403の情報を主記憶部102等から取得し、対数空間に2色素の成分軸(402,403)から構成される色素平面405を設定する。2色素の成分軸情報は、任意の人物の肌内部反射光画像に対して独立成分分析を行うことで抽出したものを、予め主記憶部102等に格納しておく。
【0052】
次にステップS502にて、肌情報取得部201が取得した肌情報を対数空間にプロットする。続いて、ステップS503にて、プロットされた肌情報401を色素平面405に射影し、射影時の移動距離に応じて各肌情報の陰影成分を抽出する。
【0053】
最後にステップS504にて、
図4の肌情報Fiからメラニンとヘモグロビンの各色素成分(Mi,Hi)を分離したように、色素平面405に射影された射影肌情報406の全プロットからメラニン色素成分とヘモグロビン色素成分を全て抽出する。
【0054】
≪バイアスの算出≫
独立成分抽出部202により、肌情報から各独立成分(メラニン色素成分、ヘモグロビン色素成分、陰影成分)が抽出されると、次にバイアス算出部203が、各独立成分から最小成分を夫々取得する。
【0055】
ここで、メラニン色素成分の最小成分を最小メラニン色素成分、ヘモグロビン色素成分の最小成分を最小ヘモグロビン色素成分、陰影成分の最小成分を最小陰影成分とする。
【0056】
図6は、最小メラニン色素成分Mminと最小ヘモグロビン色素成分Hminと最小陰影成分Sminを例示した図である。最小メラニン色素成分Mminは、色素平面405へ射影された射影肌情報406の中で、ヘモグロビン色素成分軸403に最も近い射影肌情報プロット601から得られたメラニン色素成分である。最小ヘモグロビン色素成分Hminは、色素平面405へ射影された射影肌情報406の中で、メラニン色素成分軸402に最も近い射影肌情報プロット602から得られたヘモグロビン色素成分である。
【0057】
最小陰影成分Sminは、肌情報401を色素平面405へ射影する際に、移動量が最も小さくなる肌情報プロット603から得られた陰影成分である。
【0058】
各独立成分の最小成分が取得されると、次にバイアス算出部203がバイアスを算出する。バイアスとは、入力画像データ301の撮影時に、被写体となった人物を照射する光源の色情報を示すベクトルである。
【0059】
バイアスは、最小メラニン色素成分と最小ヘモグロビン成分と最小陰影成分との合成和として算出され、
図6の対数空間では、ベクトル604として表わされる。
【0060】
最小成分のみを用いてバイアスを算出する場合、いずれかの独立成分の最小成分に、肌領域抽出時のエラー等による誤情報が含まれると、正しいバイアスが得られなくなる。そのため、独立成分抽出部202により抽出された各独立成分群を、最小成分をはじめとして成分が小さい順に序列を付け、最小成分を含み成分が小さい方から所定範囲内にある複数の独立成分の平均を最小成分としてもよい。前記所定範囲とは、例えば独立成分抽出部202により抽出された独立成分の総数のN%にあたる範囲とすることができ、前記Nは画像処理の目的に応じて適切な数値を設定できる。
【0061】
図7は、色特性の異なる2つの光源下で撮影された人物画像に基づいて、バイアス算出部203が算出したバイアス(705,710)を例示する図である。
図7(a)における撮影光源を光源α、
図7(b)における撮影光源を光源βとする。
【0062】
図7(a)は、光源αの下で撮影された肌色の異なる人物(人物Aと人物B)の肌情報(人物Aの肌情報を701、人物Bの肌情報を702とする)を色素平面405に射影した射影肌情報(人物Aの射影肌情報を703、人物Bの射影肌情報を704とする)を例示した図である。
図7(b)は、光源βの下で撮影された肌色の異なる人物(人物Aと人物B)の肌情報(人物Aの肌情報を706、人物Bの肌情報を707とする)を色素平面405に射影した射影肌情報(人物Aの射影肌情報を708、人物Bの射影肌情報を709とする)を例示した図である。
【0063】
図7(a)と
図7(b)に示す様に、同じ光源下においても肌色の異なる人物の射影肌情報の分布(703と704、708と709)は異なる。これは個人によって、肌の日焼け具合によるメラニンの色素濃度が異なったり、血中のヘモグロビンの状態が異なったりすることに依存している。
【0064】
けれども、同じ光源下であれば、肌色の異なる人物(AとB)の肌情報から算出されたバイアスは同等となることが、我々の研究から分かっている。
図7(a)においては、光源αの下では人物Aと人物Bの夫々から算出されたバイアス705は一致し、
図7(b)においても、光源βの下では人物Aと人物Bの夫々から算出されたバイアス710は一致する。
【0065】
そして、バイアス(705,710)は、対象となる人物を照射する光源の色情報と同等になることも、我々の研究から分かっている。
【0066】
従って、最小メラニン色素成分と最小ヘモグロビン色素成分と最小陰影成分の合成和であるバイアスを算出することで、個人に依らず一定の光源色情報を取得することが可能となる。
図7(a)と
図7(b)で示す様に、光源色情報としてのバイアス(705,710)は、撮影時の光源(光源αと光源β)の特性に応じて変化することになり、これら光源色情報に基づけば、夫々の撮影画像において適正な色補正を行うことができる。
【0067】
≪画像補正≫
バイアス算出部203により、バイアス604等が算出されると、次に画像補正部204が入力画像データの色補正処理を行う。
【0068】
色補正処理の目的は、撮影時の光源の影響で撮影画像データに生じた色かぶり等を低減させることにあり、処理後画像は標準的な光源(例えば、色温度5000Kに相当する光源等)の下で撮影された画像と同等の色再現へと補正されることが期待される。
【0069】
従って、色補正処理の方法としては、バイアス算出部203により算出されたバイアス604等を、標準的な光源の色情報である基準バイアスと置き換える画像処理が挙げられる。
【0070】
図8は、入力画像データ301から抽出された肌領域302等の肌情報803に基づいて、バイアス算出部203により算出されたバイアス801を基準バイアス802に置き換えた処理を例示する模式図である。当該バイアスの置き換え処理により、肌情報取得部201により取得された肌情報803は、処理後肌情報804へと変換され、肌の色補正が行われることが分かる。
【0071】
図9は、バイアス算出部203により算出されたバイアス811と、基準バイアス(812,816)から夫々分離された色素成分と陰影成分を例示する図である。色素成分とは、メラニン色素成分とヘモグロビン色素成分の合成成分を示す。
図9の直線mはメラニン色素成分軸、直線hはヘモグロビン色素成分軸、(1,1,1)方向は陰影成分軸であることを示す。
【0072】
ここで、基準バイアスを2種類に分類し、夫々の場合を、
図9(a)と
図9(b)に例示する。
【0073】
図9(a)は、バイアス811から分離された陰影成分815と基準バイアス812から分離された陰影成分815が一致する事例を示す。陰影成分が一致するということは、入力画像データ301の肌領域302等の明度を変えずに色味だけを変化させる補正処理を行うことを意味する。この場合、入力画像の明るさを維持した状態で、色味だけを補正することができる。
【0074】
図9(b)は、バイアス811から分離された陰影成分815と基準バイアス816から分離された陰影成分818が一致しない事例を示す。陰影成分が一致しないということは、入力画像データ301の肌領域302等の色味だけでなく、明度をも変化させる補正処理を行うことを意味する。これは例えば、逆光で撮影されて暗くなってしまった顔画像や、光量が多すぎて白飛びしてしまった顔画像を適正な露出(明るさ)に補正したい場合等に有効な処理方法となる。
【0075】
以下、
図9(a)と
図9(b)に例示した両事例における、具体的な色補正処理について説明する。
【0076】
〔バイアスと基準バイアスの陰影成分が一致する場合:
図9(a)〕
色補正処理の方法として、バイアス算出部203により算出されたバイアスを、標準的な光源の色情報である基準バイアスと置き換える手法について前述したが、
図9(a)で示す様に、バイアスと基準バイアスの陰影成分が一致する場合、バイアスの色素成分を基準バイアスの色素成分に置き換えることと同意になる。
【0077】
図10に、画像補正部204における画像補正処理のフローチャートを例示する。
【0078】
図10(a)は、バイアスと基準バイアスの陰影成分が一致する場合の画像補正処理のフローチャートの事例である。ここで、バイアス算出部203により算出されたバイアスをB、基準バイアスをBt、バイアスBから分離された色素成分をL、基準バイアスBtから分離された基準色素成分をLtとする。
【0079】
図10(a)における画像補正部204では、まずステップS901にて、基準バイアスBtを主記憶部102等から取得する。基準バイアスBtは、画像補正後の目標とする標準的な光源のバイアス情報(対数空間の原点からのベクトル情報)であり、主記憶部102等に予め格納されている。
【0080】
基準バイアスBtの取得としては、表示部107に複数の目標光源リストを表示し、ユーザが操作部106を用いて画像補正に使用したい目標光源を指定する方法としてもよい。この場合、複数の光源色情報(対数空間でのベクトル情報)が主記憶部102等に格納されており、ユーザの指定に基づいて、複数の光源色情報の中から1つの光源色情報が基準バイアスBtとして取得される。
【0081】
次に、ステップS902にて、バイアス算出部203により算出されたバイアスBとステップS901により取得された基準バイアスBtを、夫々色素成分と陰影成分とに分離する。バイアスBから分離された色素成分をL、基準バイアスBtから分離された基準色素成分をLtとする。
【0082】
次に、ステップS903にて、色素成分Lと基準色素成分LtをRGB実空間情報へと変換する。RGB実空間へ変換された色素成分をRGB色素成分l、RGB実空間へ変換された基準色素成分をRGB基準色素成分ltとし、夫々l=exp(−L)、lt=exp(−Lt)で計算される。
【0083】
次に、ステップS904にて、RGB色素成分lとRGB基準色素成分ltに基づいて補正パラメータC1を算出する。
【0084】
補正パラメータC1は、RGB色素成分lをRGB基準色素成分ltで除算すること(C1=l/lt)で算出されるベクトル情報である。
【0085】
ステップS904により補正パラメータC1が算出されると、次にステップS905にて、補正パラメータC1を用いた入力画像データの補正処理を行う。
【0086】
補正処理は、入力画像データを構成する全ての画素情報に補正パラメータC1の逆数を乗算する。入力画像データを構成する任意の画素をRGBベクトルpi、補正処理後の該画素をRGBベクトルpi'とすると、pi'=C1
−1・piで計算される。
【0087】
なお、入力画像データ中の被写体を認識して、人物を含む主要被写体領域のみに補正処理を施す方法としてもよい。また、主要被写体領域とそれ以外の領域との境界近傍においては、補正処理の度合いを徐々に変化させる方法としてもよい。
【0088】
〔バイアスと基準バイアスの陰影成分が一致しない場合:
図9(b)〕
図9(b)で示す様に、バイアスと基準バイアスの陰影成分が一致しない場合には、対数空間上においてバイアスを基準バイアスに置き換える処理を行えばよい。
【0089】
図10(b)は、バイアスと基準バイアスの陰影成分が一致しない場合の画像補正処理のフローチャートの事例である。ここで、バイアス算出部203により算出されたバイアスをB、基準バイアスをBtとする。
【0090】
図10(b)における画像補正部204では、まずステップS911にて、基準バイアスBtを主記憶部102等から取得する。基準バイアスBtは、画像補正後の目標とする標準的な光源のバイアス情報(対数空間の原点からのベクトル情報)であり、主記憶部102等に予め格納されている。
【0091】
基準バイアスBtの取得としては、表示部107に複数の目標光源リストを表示し、ユーザが操作部106を用いて画像補正に使用したい目標光源を指定する方法としてもよい。この場合、複数の光源色情報(対数空間でのベクトル情報)が主記憶部102等に格納されており、ユーザの指定に基づいて、複数の光源色情報の中から1つの光源色情報が基準バイアスBtとして取得される。
【0092】
さらに、補正後の肌画像の明るさを示唆するような情報もユーザに指定させ、明るさ情報を反映させた基準バイアスBtを取得するようにしてもよい。
【0093】
次に、ステップS912にて、入力画像データを構成する画素成分を対数空間情報へと変換する。入力画像データを構成する任意の画素をRGBベクトルpi、対数空間へ変換された該画素を対数ベクトルPiとすると、Pi=−log(pi)で計算される。
【0094】
次に、ステップS913にて、バイアスBと基準バイアスBtに基づいて補正パラメータC2を算出する。
【0095】
補正パラメータC2は、バイアスBから基準バイアスBtを減算すること(C2=B−Bt)で算出されるベクトル情報である。
【0096】
ステップS913により補正パラメータC2が算出されると、次にステップS914にて、対数空間に変換された入力画像データに対し、補正パラメータC2に基づいた補正処理を行う。
【0097】
補正処理は、対数空間に変換された入力画像データを構成する全ての画素情報から補正パラメータC2を減算する。対数空間に変換された入力画像データを構成する任意の画素を対数ベクトルPi、補正処理後の該画素を対数ベクトルPi'とすると、Pi'=Pi−C2で計算される。
【0098】
入力画像データ中の被写体を認識して、人物を含む主要被写体領域のみに補正処理を施す方法としてもよい。また、主要被写体領域とそれ以外の領域との境界近傍においては、補正処理の度合いを徐々に変化させる方法としてもよい。
【0099】
上述した様に、画像補正部204が入力画像データの色補正処理を行うことで、撮影時の光源の影響で色かぶり等が発生した入力画像データを違和感の無い適正な色調(またはユーザが所望する色調)に補正することができる。
【0100】
画像補正部204により色補正処理が行われた最終画像データは、例えば表示部107に表示され、ユーザは補正処理結果を確認することができる。
【0101】
<画像処理の流れ>
図11に、第1の実施形態に係る画像処理装置100における画像処理のフローチャートを例示する。
【0102】
まずステップS1にて人物画像を含む撮影画像が入力されると、続いてステップS2にて、肌情報取得部201が入力画像データから肌領域の抽出を行い、人物画像の肌情報を取得する。
【0103】
次にステップS3にて、独立成分抽出部202が、肌情報から該肌色を構成する独立成分であるメラニン色素成分とヘモグロビン色素成分と陰影成分を抽出する。次にステップS4にてバイアス算出部203が、ステップS3により抽出された各独立成分群から夫々の最小成分(最小メラニン色素成分、最小ヘモグロビン色素成分、最小陰影成分)を取得する。
【0104】
続いてステップS5では、バイアス算出部203が、最小メラニン色素成分と最小ヘモグロビン色素成分と最小陰影成分の合成和から、入力画像データの撮影時に該人物に照射された光源の色情報であるバイアスを算出する。
【0105】
次にステップS6にて、画像補正部204が画像補正後の目標色味を示唆する基準バイアスを取得する。続いてステップS7では、ステップS6により取得された基準バイアスとステップS5により算出されたバイアスとから補正パラメータを算出し、補正パラメータに基づいて入力画像データの色補正処理が行われる。
【0106】
ステップS7により入力画像データの補正処理が行われると、ステップ8にて補正後の画像データが出力されて、処理を終了する。
【0107】
以上で説明した様に、第1の実施形態に係る画像処理装置100によれば、入力された画像データから肌領域が抽出され、当該肌領域から抽出された肌の独立成分情報に基づいて撮影時の光源色情報(バイアス)を算出し、バイアスに基づいて入力画像データの色かぶり等の補正処理を簡便に行うことができる。
【0108】
以上で説明した第1の実施形態に係る画像処理装置100は、他の必要機能を付加することで、例えば複合コピー機、プリンタ、FAX、スキャナ、デジタルカメラ、PC(Personal Computer)等、画像データの処理を実行する各種装置として用いることができる。
【0109】
また、第1の実施形態に係る画像処理装置100が有する機能は、上記に説明を行った各処理手順を、画像処理装置100にあったプログラミング言語でコード化したプログラムとしてコンピュータで実行することで実現することができる。よって、画像処理装置100を実現するためのプログラムは、コンピュータが読み取り可能な記録媒体108に格納することができる。
【0110】
よって、第1の実施形態に係るプログラムは、フロッピー(登録商標)ディスク、CD(Compact Disc)、DVD(Digital Versatile Disk)等の記録媒体108に記憶させることによって、これらの記録媒体108から、画像処理装置100にインストールすることができる。また、画像処理装置100は、ネットワークI/F部105を有していることから、第1の実施形態に係るプログラムは、インターネット等の電気通信回線を介してダウンロードし、インストールすることもできる。
【0111】
〔第2の実施形態〕
次に、第2の実施形態について図面に基づいて説明する。なお、第1の実施形態の画像処理装置100と同一の構成又は処理については、説明を省略する場合がある。
【0112】
また、以下に示す実施形態では、画像データを入力する画像入力装置として、プリンタ機能、スキャナ機能、コピー機能、ファクシミリ機能を一つの筐体に搭載した複合機を例に挙げて説明している。しかし、これに限定されるものではなく、画像データを入力可能であれば、スキャナ装置、ファクシミリ装置、コピー装置等のいずれにも適用することができる。
【0113】
<画像処理システムの構成>
図12は、第2の実施形態に係る画像処理システムの一例を示す図である。
図12に示す様に、画像処理システム1はネットワークを介してMFP(Multifunction Peripheral)10,20、画像処理サーバ30、情報処理端末(例えば、PC(Personal Computer)等)50が接続されている。
【0114】
MFP10は、画像読取手段としてのスキャン機能、コピー機能、プリンタ機能、ファクシミリ機能等を一つの筐体に搭載したものである。MFP10は、スキャン機能により紙媒体等をスキャン処理して画像データを作成し、作成された画像データを画像処理サーバ30に送信する。MFP10の詳細については後述する。
【0115】
画像処理サーバ30は、各MFP10,20でスキャンされて読み取られた画像データやネットワークを通じて取得した画像データ等を受信し、種々の処理を実行するワークステーション等のコンピュータであり、画像データに対して画像処理を行うことができる画像処理装置である。なお、画像処理サーバ30は、MFP10,20に組み込まれていてもよい。また、画像処理サーバ30が有する画像処理装置としての機能は、情報処理端末50に持たせることもできる。
【0116】
なお、ネットワークを介して接続されるMFP、画像処理サーバ及び情報処理端末の数は、それぞれ任意の数でもよい。
【0117】
図13は、MFP10のハードウェア構成例を示すブロック図である。
【0118】
図13に示す様に、MFP10は、制御部11、主記憶部12、補助記憶部13、外部記憶装置I/F部14、ネットワークI/F部15、読取部16、操作部17、エンジン部18を含む。
【0119】
制御部11は、コンピュータの中で、各装置の制御やデータの演算、加工を行うCPU(Central Processing Unit)である。また、制御部11は、主記憶部12に記憶されたプログラムを実行する演算装置であり、入力装置や記憶装置からデータを受け取り、演算、加工した上で、出力装置や記憶装置に出力する。
【0120】
主記憶部12は、ROM(Read Only Memory)やRAM(Random Access Memory)等であり、制御部11が実行する基本ソフトウェアであるOSやアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
【0121】
補助記憶部13は、HDD(Hard Disk Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
【0122】
外部記憶装置I/F部14は、USB(Universal Serial Bus)などのデータ伝送路を介して接続された記憶媒体19(例えば、フラッシュメモリなど)とMFP10とのインターフェイスである。
【0123】
また、記憶媒体19に、所定のプログラムを格納し、この記憶媒体19に格納されたプログラムは外部記憶装置I/F部14を介してMFP10にインストールされ、インストールされた所定のプログラムはMFP10により実行可能となる。
【0124】
ネットワークI/F部15は、有線及び/又は無線回線などのデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)などのネットワークを介して接続された通信機能を有する周辺機器とMFP10とのインターフェイスである。
【0125】
読取部16は、紙媒体等をスキャンすることによって画像を読み取って画像データとして取得するスキャン装置である。
【0126】
操作部17は、キースイッチ(ハードキー)とタッチパネル機能(GUI(Graphical User Interface)のソフトウェアキーを含む)を備えたLCD(Liquid Crystal Display)とから構成され、MFP10が有する機能を利用する際のUI(User Interface)として機能する表示及び/又は入力装置である。
【0127】
エンジン部18は、画像形成に係る処理を行うプロッタ等の機構部分である。
【0128】
図14は、画像処理サーバ30のハードウェア構成例を示す図である。
【0129】
図14に示す様に、画像処理サーバ30は、制御部31、主記憶部32、補助記憶部33、外部記憶装置I/F部34、ネットワークI/F部35を含む。
【0130】
制御部31は、コンピュータの中で、各装置の制御やデータの演算、加工を行うCPUである。また、制御部31は、主記憶部32に記憶されたプログラムを実行する演算装置であり、入力装置や記憶装置からデータを受け取り、演算、加工した上で、出力装置や記憶装置に出力する。
【0131】
主記憶部32は、ROM(Read Only Memory)やRAM(Random Access Memory)などであり、制御部31が実行する基本ソフトウェアであるOSやアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
【0132】
補助記憶装置33は、HDD(Hard Disk Drive)などであり、アプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
【0133】
外部記憶装置I/F部34は、USB(Universal Serial Bus)などのデータ伝送路を介して接続された記憶媒体19(例えば、フラッシュメモリなど)と画像処理サーバ30とのインターフェイスである。
【0134】
また、記憶媒体19に、所定のプログラムを格納し、この記憶媒体19に格納されたプログラムは外部記憶装置I/F部34を介して画像処理サーバ30にインストールされ、インストールされた所定のプログラムは画像処理サーバ30により実行可能となる。
【0135】
ネットワークI/F部35は、有線及び/又は無線回線などのデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)などのネットワークを介して接続された通信機能を有する周辺機器と画像処理サーバ30とのインターフェイスである。また、
図12に示す図では、画像処理サーバ30には、キーボードなどの操作部とLCD等を備える表示部とを図示していないが、これらを有する構成としてもよい。
【0136】
情報処理端末50のハードウェア構成は、
図1に示す第1の実施形態の画像処理装置100と同様である。
【0137】
<画像処理システムの機能>
図15は、第2の実施形態に係る画像処理システム1の機能の構成例を示すブロック図である。
【0138】
MFP10は、読取部16、通信部21、エンジン部18を有する。
【0139】
読取部16は、紙媒体等をスキャンすることによって画像処理を施す画像データを取得することができる。
【0140】
通信部21は、情報処理端末50の記憶部55に記憶されている画像データを受信することができる。また、読取部16で取得された画像データを画像処理装置としての画像処理サーバ30に送信し、画像処理サーバ30で画像処理が施された画像データを受信することができる。
【0141】
エンジン部18は、画像処理サーバ30によって画像処理が施された画像データを記録紙等の記録媒体に印刷して出力できる。また、画像処理サーバ30で画像変換された画像データを記録媒体に印刷して出力できる。
【0142】
情報処理端末50は、記憶部55、読出部52、通信部51、表示制御部53、表示部54を有する。
【0143】
記憶部55は、入力画像データ301、色素成分軸情報、基準バイアス等を記憶する。
【0144】
読出部52は、記憶部55から画像データ及び基準バイアス等を読み出す。
【0145】
通信部51は、読出部52が読み出した画像データ等をMFP10又は画像処理サーバ30に送信する。また、MFP10又は画像処理サーバ30から送信される画像データ等を受信する。
【0146】
表示制御部53は、通信部51が受信した画像データを表示部54に表示する。また、情報処理端末50に記憶されている画像データを表示部54に表示することもできる。
【0147】
表示部54は、例えば液晶や有機EL等のディスプレイであり、画像や操作用アイコン等を表示する。
【0148】
画像処理サーバ30は、通信部36、肌情報取得部37、独立成分抽出部38、バイアス算出部39、画像補正部40等を有する。各部の機能は、第1の実施形態の画像処理装置100と同様である。
【0149】
この様な構成において、画像処理実行者は、画像処理を施す処理対象画像を、MFP10の読取部16によって画像データとして取得し、画像処理サーバ30によって画像処理を行う。もしくは、画像処理実行者は、画像処理を施す処理対象画像データを情報処理端末50から読み出し、画像処理サーバ30によって画像処理を行う。
【0150】
画像処理サーバ30では、肌情報取得部37において入力画像データ301から抽出された肌領域から肌情報を取得し、独立成分抽出部38で肌情報から独立成分群を抽出し、バイアス算出部39で独立成分群から最小成分を夫々取得し、最小成分から撮影光源の色情報であるバイアスを算出し、画像補正部40で、バイアスと記憶部55から読み出した基準バイアスとに基づいて入力画像を補正する。また、MFP10のエンジン部18が、画像処理が行われた画像データを印刷、若しくは、情報処理端末50の表示制御部53が表示部54に表示する。
【0151】
また、例えば画像処理サーバ30が有する機能を情報処理端末50に組み込むことで、情報処理端末50において画像処理を行う様に構成することもできる。
【0152】
画像処理実行者は、画像処理サーバ30からネットワークを介して接続するMFP10に画像処理が施された画像データを送信し、MFP10のエンジン部18から記録紙等に印刷させることで、補正処理後の画像出力を得ることができる。
【0153】
もしくは、画像処理実行者は、画像処理サーバ30からネットワークを介して接続する情報処理端末50に画像処理が施された画像データを送信し、情報処理端末50の表示制御部53が表示部54に表示させることで、色補正を施した画像出力を得ることができる。
【0154】
以上で説明した様に、第2の実施形態の画像処理システム1では、画像処理実行者が、MFP10等を用いて画像処理を施す画像データを取得し、画像処理サーバ30又は情報処理端末50により画像処理を施すことができる。
【0155】
<まとめ>
上記した実施形態によれば、入力された画像データから肌領域が抽出され、当該肌領域から抽出された肌の独立成分情報に基づいて撮影時の光源色情報を推定し、光源色情報に基づいて入力画像データの色かぶり等の補正処理を簡便に行うことができる。
【0156】
結果として、撮影時の光源の影響による色かぶり等の発生を抑制できる画像処理を実現可能な画像処理装置を提供できる。
【0157】
以上、本発明の実施形態について説明したが、上記実施形態に挙げた構成等に、その他の要素との組み合わせなど、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。