特許第6720882号(P6720882)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ カシオ計算機株式会社の特許一覧

特許6720882画像処理装置、画像処理方法及びプログラム
<>
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000002
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000003
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000004
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000005
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000006
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000007
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000008
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000009
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000010
  • 特許6720882-画像処理装置、画像処理方法及びプログラム 図000011
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6720882
(24)【登録日】2020年6月22日
(45)【発行日】2020年7月8日
(54)【発明の名称】画像処理装置、画像処理方法及びプログラム
(51)【国際特許分類】
   H04N 5/232 20060101AFI20200629BHJP
   G06T 1/00 20060101ALI20200629BHJP
   G06T 7/00 20170101ALI20200629BHJP
   G06T 7/90 20170101ALI20200629BHJP
   G03B 15/00 20060101ALI20200629BHJP
【FI】
   H04N5/232 290
   G06T1/00 340A
   G06T1/00 510
   G06T7/00 660A
   G06T7/90 C
   G03B15/00 Q
【請求項の数】15
【全頁数】20
(21)【出願番号】特願2017-7758(P2017-7758)
(22)【出願日】2017年1月19日
(65)【公開番号】特開2018-117289(P2018-117289A)
(43)【公開日】2018年7月26日
【審査請求日】2019年2月15日
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】100106002
【弁理士】
【氏名又は名称】正林 真之
(74)【代理人】
【識別番号】100120891
【弁理士】
【氏名又は名称】林 一好
(74)【代理人】
【識別番号】100126000
【弁理士】
【氏名又は名称】岩池 満
(72)【発明者】
【氏名】佐藤 武志
【審査官】 高野 美帆子
(56)【参考文献】
【文献】 特開2012−098808(JP,A)
【文献】 特開2016−012890(JP,A)
【文献】 特開2017−004258(JP,A)
【文献】 特開2013−171433(JP,A)
【文献】 特開2012−085083(JP,A)
【文献】 特表2016−520349(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222−5/257
G03B 15/00
G06T 1/00
G06T 7/00
G06T 7/90
(57)【特許請求の範囲】
【請求項1】
画像内に含まれる人物の顔領域に対して肌の色を白くする、複数種類の処理からなる美白処理を施す美白処理手段と、
前記美白処理が施される人物の顔領域内で、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分を特定する軽減部分特定手段と、
前記特定された前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分に対して、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減する処理を施す軽減処理手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
HSV色空間の色情報に基づき、画像内の肌色部分を特定する肌色部分特定手段を、更に備え、
前記美白処理手段は、前記特定された肌色部分に対して美白処理を施し、
前記軽減部分特定手段は、前記特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減すべき部分であると特定する、
ことを特徴とする請求項に記載の画像処理装置。
【請求項3】
HSV色空間の色情報とは異なる基準に基づき、顔の部位を特定する部位特定手段を、
更に備え、
前記部位特定手段は、前記特定された顔の部位であって、前記HSV色空間の色情報が肌の色と近似する肌以外の部分を、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減すべき部分であると特定する、
ことを特徴とする請求項に記載の画像処理装置。
【請求項4】
前記部位特定手段は、更に、予め用意されている顔の部位の形の基準となる情報を使用して、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分を特定する、
ことを特徴とする請求項3に記載の画像処理装置。
【請求項5】
前記特定された美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する濃度特定手段を、更に備え、
前記軽減処理手段は、前記特定された濃度に応じて前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減する処理を施す、
ことを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
【請求項6】
前記軽減部分特定手段は、人物の顔の唇部分を、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分として特定する、
ことを特徴とする請求項1乃至の何れか1項に記載の画像処理装置。
【請求項7】
前記軽減部分特定手段は、前記美白処理手段による美白処理が施される人物の顔領域内で、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減し、他の処理の効果を維持すべき部分を特定することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
【請求項8】
HSV色空間の色情報に基づき、画像内の肌色部分を特定する肌色部分特定手段と、
画像内に含まれる人物の顔領域の前記肌色部分特定手段によって特定された肌色部分に対して、肌の色を白くする美白処理を施す美白処理手段と、
前記美白処理が施される人物の顔領域内で、前記特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する軽減部分特定手段と、
前記特定された美白処理を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する濃度特定手段と、
前記特定された前記美白処理を軽減すべき部分に対して、前記特定された濃度に応じて当該美白処理を軽減する処理を施す軽減処理手段と、
を備えることを特徴とする画像処理装置。
【請求項9】
HSV色空間の色情報とは異なる基準に基づき、顔の部位を特定する部位特定手段を、
更に備え、
前記部位特定手段は、前記特定された顔の部位であって、前記HSV色空間の色情報が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する、
ことを特徴とする請求項8に記載の画像処理装置。
【請求項10】
前記部位特定手段は、更に、予め用意されている顔の部位の形の基準となる情報を使用して、前記美白処理を軽減すべき部分を特定する、
ことを特徴とする請求項9に記載の画像処理装置。
【請求項11】
記軽減部分特定手段は、人物の顔の唇部分を、前記美白処理を軽減すべき部分として特定する、
ことを特徴とする請求項8乃至10の何れか1項に記載の画像処理装置。
【請求項12】
画像内に含まれる人物の顔領域に対して肌の色を白くする複数種類の処理からなる美白処理と、
前記美白処理が施される人物の顔領域内で、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分を特定する軽減部分特定処理と、
前記特定された前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分に対して、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減する処理を施す軽減処理と、
を含むことを特徴とする画像処理方法。
【請求項13】
HSV色空間の色情報に基づき、画像内の肌色部分を特定する肌色部分特定処理と、
画像内に含まれる人物の顔領域の前記肌色部分特定処理にて特定された肌色部分に対して、肌の色を白くする美白処理を施す美白処理と、
前記美白処理が施される人物の顔領域内で、前記特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する軽減部分特定処理と、
前記特定された美白処理を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する濃度特定処理と、
前記特定された前記美白処理を軽減すべき部分に対して、前記特定された濃度に応じて当該美白処理を軽減する処理を施す軽減処理と、
を含むことを特徴とする画像処理方法。
【請求項14】
コンピュータに、
画像内に含まれる人物の顔領域に対して肌の色を白くする、複数種類の処理からなる美白処理を施す美白処理手段、
前記美白処理が施される人物の顔領域内で、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分を特定する軽減部分特定手段、
前記特定された前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分に対して、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減する処理を施す軽減処理手段、
を実現させることを特徴とするプログラム。
【請求項15】
コンピュータに、
HSV色空間の色情報に基づき、画像内の肌色部分を特定する肌色部分特定手段、
画像内に含まれる人物の顔領域の前記肌色部分特定手段によって特定された肌色部分に対して、肌の色を白くする美白処理を施す美白処理手段、
前記美白処理が施される人物の顔領域内で、前記特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する軽減部分特定手段、
前記特定された美白処理を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する濃度特定手段、
前記特定された前記美白処理を軽減すべき部分に対して、前記特定された濃度に応じて当該美白処理を軽減する処理を施す軽減処理手段、
を実現させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
従来より、画像内に含まれる人物の顔を白くする美白処理が利用されている。例えば、特許文献1には、美白処理の効果を容易に設定可能とする技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2016−012890号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述した特許文献1に開示された技術では、人物の顔に美白処理を施すことで、唇の色も薄くなってしまうという問題がある。
【0005】
本発明は、このような状況に鑑みてなされたものであり、人物の顔全体に適切な美白処理を施すことを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の一態様の画像処理装置は、
画像内に含まれる人物の顔領域に対して肌の色を白くする、複数種類の処理からなる美白処理を施す美白処理手段と、
前記美白処理が施される人物の顔領域内で、前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分を特定する軽減部分特定手段と、
前記特定された前記美白処理における前記複数種類の処理のうちの一部の処理の効果を軽減すべき部分に対して、前記美白処理における複数種類の処理のうちの一部の処理の効果を軽減する処理を施す軽減処理手段と、
を備えることを特徴とする。
【発明の効果】
【0007】
本発明によれば、人物の顔全体に適切な美白処理を施すことができる。
【図面の簡単な説明】
【0008】
図1】本発明の画像処理装置の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
図2】本実施形態における美白画像の生成を説明するための模式図である。
図3】マスク画像の作成例を示す模式図である。
図4】唇色レベルの重み付けの設定に係るヒストグラム及び唇色レベルの重み付けテーブルを示す図である。
図5】固定マップの作成を説明するための模式図である。
図6】V補正のLUTを示す図である。
図7図1の撮像装置1の機能的構成のうち、美白画像生成処理を実行するための機能的構成を示す機能ブロック図である。
図8図7の機能的構成を有する図1の撮像装置1が実行する美白画像生成処理の流れを説明するフローチャートである。
図9】美白画像生成処理のうち、マスク画像作成処理の流れを説明するフローチャートである。
図10】美白画像生成処理のうち、色補正画像作成処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について、図面を用いて説明する。
【0010】
図1は、本発明の画像処理装置の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えば、デジタルカメラとして構成される。
【0011】
撮像装置1は、図1に示すように、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
【0012】
CPU11は、ROM12に記録されているプログラム、又は、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。
【0013】
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0014】
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。
【0015】
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0016】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0017】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号を撮像画像のデータとしてCPU11や図示しない画像処理部等に適宜供給される。
【0018】
入力部17は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
【0019】
ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像のデータ等の各種データも、記憶部19と同様に記憶することができる。
【0020】
このように構成される撮像装置1では、顔を撮影した画像に対して、肌に対して美白処理が施されていると共に、肌色と色相が近く美白処理によって色が薄くなる等の影響を受けた唇を適切に補正した画像(以下、「美白画像」という。)を生成することができる機能を有する。即ち、撮像装置1では、顔の肌に施された美白処理によって補正された唇の色を適切な色に補正して美白処理の効果を復元(軽減)することにより美白画像を生成する。
【0021】
即ち、美白処理は、肌色領域に対してだけ施されるように対象箇所以外がマスクされるが、唇の色は肌色と色相が近く、肌色領域に含まれてしまうため、美白処理が施されてしまい、唇の色が薄くなる等の影響を受けてしまう。また、美白処理は、主に、彩度低減、明度アップ、青色方向への色相回転の3つの要素を補正することによって行われる。
このため、本実施形態の撮像装置1では、薄くなった唇の色に対して、3つの要素のうち、彩度低減のみを復元し、他の効果は維持するようにして、唇の色を適切な色に補正する。
【0022】
美白画像は、本実施形態においては、まず、顔全体に対して美白処理を施し、その後、美白処理の影響を受けた唇に対して別途、適切な色に再現するための色補正を行って生成される。
【0023】
図2は、本実施形態における美白画像の生成を説明するための模式図である。
本実施形態の美白画像は、図2に示すように、画像全体に対して美白処理を施した画像(以下、「元画像」という。)から唇を含む領域を切り出す。そして、唇を含む領域に対して、美白処理によって薄くなってしまった唇の色を適切な色に再現するように色補正の処理を施して画像(以下、「色補正画像」という。)を作成する。色補正画像は、唇以外の画像全体に対して色補正がされているため、唇のみに色補正の効果がでるように、唇以外をマスクするマスク画像を用いて、元画像と色補正画像とをαブレンドによる画像合成をして、唇のみが色補正された画像(以下、「唇色補正画像」という。)を作成する。マスク画像は、αブレンドによる画像合成の際にα値となる。
その後、作成した唇色補正画像を元画像の切り出し位置に合成して、美白画像を生成する。
【0024】
[マスク画像の作成]
図3は、マスク画像の作成例を示す模式図である。
本実施形態においては、美白処理により薄くなってしまった唇部分の色を再現する補正処理を施すために、唇に相当する領域に対応したマスク画像を生成する。
マスク画像は、図3に示すように、黒い部分ほど色補正画像の合成の割合が低く、白い部分ほど色補正画像の合成の割合が高いことを示している。本実施形態においては、唇の中心部分は色補正が強く施されており、唇の外縁に近い部分は、肌との影響を少なくするために色補正が強く施されるように構成される。
【0025】
このようなマスク画像は、まず、顔の器官の検出によって唇の位置を特定し、特定した唇の位置を含む領域におけるHSV色空間のピークとなる色相値に基づいて作成される。本実施形態の顔の器官検出では、図2に示すように、唇位置の特定等のために、少なくとも、上唇の中央の上下の2点P1,P2、下唇の中央の上下の2点P3,P4、唇の左右の端の2点P5,P6の合計6点の位置を検出する。
【0026】
本実施形態においては、HSV色空間のピークとなる色相値に基づいて生成されたマスク画像に、鼻等の余計な部分を排除するために、予め唇の形状を模した固定マップを合成して、最終的なマスク画像を作成する。
【0027】
具体的には、本実施形態のマスク画像は、元画像から唇を含む領域を切り出した画像(以下、「切り出し画像」という。)から、HUEマップを作成し、予め作成しておいた固定マップと合成して作成される。HUEマップと固定マップの合成では、HUEマップから空間的に不要な領域を除去するために、HUEマップと固定マップの最小値をとるようにする。
【0028】
[HUEマップの作成]
HUEマップは、切り出し画像において唇の色に相当する箇所を特定したマップである。HUEマップは、まず、YUV色空間の切り出し画像をHSV(色相:Hue,彩度:Saturation・Chroma,明度:Value・Lightness・Brightness)色空間に変換する。その後、ノイズを除去するために、εフィルタでぼかした上で、HSV変換後の画像を解析(HSV解析処理)する。そして、HSV解析処理の処理結果から算出した値をHUEマップのマップ値として、HUEマップを作成する。
【0029】
HSV解析処理では、各画素におけるマップ値を決定するために、唇色レベルの重み付けを設定する。唇色レベルの重み付けは、HSVのチャネル別に作成したヒストグラムに基づいて設定される。
【0030】
図4は、唇色レベルの重み付けの設定に係るヒストグラム及び唇色レベルの重み付けテーブルを示す図である。
唇色レベルの設定では、まず、図2に示す器官検出で検出した点P1〜P6から計測領域として上下の唇の中央付近に計測領域R1,R2を設定し、各計測領域におけるHSVそれぞれのヒストグラムを作成する。なお、ヒストグラムの作成に係る唇における計測領域は、唇の色が取得可能な領域であれば、領域の数、種々の形状、位置、サイズであってもよい。
【0031】
そして、図4(a)に示すようなHSVそれぞれのヒストグラムの最頻値に対応して、図4(b)に示すように唇色レベルの重み付けテーブルが設定される。Hのチャネルの場合には、最頻値を基準にしてプラスとマイナスに均等に重み付けが振り分けられ、最頻値から離れるほど重み付けが低くなるように設定される。また、S(V)のチャネルの場合には、ヒストグラムの最頻値を上方の左端(右端)の基準にして、ピーク値に所定の幅があり、かつ、1段目よりも2段目の方が勾配が緩やかとなる2段階の傾きとなるように、重み付けが設定される。
【0032】
その後、各画素ごとにHSVの各チャネル別に重み付けに応じて算出した唇色レベルを掛け合わせた結果をマップ値としてHUEマップを作成する。
即ち、HUEマップのマップ値は、以下の式(1)により算出される。
HUEマップのマップ値(Map)=Lh×Ls×Lv・・・(1)
なお、「Lh」はHの唇色レベルを示し、「Ls」はSの唇色レベルを示し、「Lv」はVの唇色レベルを示す。
【0033】
[固定マップの作成]
図5は、固定マップの作成を説明するための模式図である。
【0034】
固定マップは、一般的な顔において唇の形を模したマップで、色補正を行うにあたり予め作成されているマップである。
固定マップは、図5(a)に示すように、データから縮小サイズのマップを展開する。
そして、図5(b)示すように、画像における唇の輪郭情報(本実施形態においては、2点P5,P6の位置)から唇の傾きの角度を算出して、当該角度に対応して固定マップを回転させる。
最後に、固定マップは、画像に対応するサイズに、リサイズして、HUEマップにおいて唇以外の部分を除去するために、HUEマップと合成されて使用される。合成に際しては、HUEマップと固定マップの最小値をとるようにする。
【0035】
[色補正画像の作成]
色補正画像は、本実施形態においては、器官検出によって検出された左右の瞳の下方の肌領域から計測したYUV色空間のV値に応じて決定された補正強度により、切り出し画像を補正処理して作成される。なお、左右の瞳の下方の肌領域は、目の下のクマを避けた位置であり、顔において肌の色を最も表わしている位置として決定されたものであり、顔における肌の色を抽出可能な位置であれば種々の位置であってもよい。
【0036】
なお、リップ等で元々の唇の色が濃い場合には、補正が効き過ぎないように、唇の画素のV値の補正を行う。
図6は、V補正のLUT(Look Up Table)を示す図である。
V補正のLUTでは、図6に示すように、唇の色が濃い部分にV補正がかかるように構成される。
【0037】
[唇色補正画像の作成]
唇色補正画像は、色補正画像と、切り出し画像とを、マスク画像に基づいて、αブレンドして画像合成して作成される。作成された色補正画像を元画像の切り出し位置に貼り付けて、美白画像を生成する。即ち、唇の領域のみに色補正が施され、それ以外の肌の部分は美白処理が施された色補正画像が、同一の美白処理の施された元画像に貼り付けられて美白画像が生成される。
【0038】
図7は、図1の撮像装置1の機能的構成のうち、美白処理を実行するための機能的構成を示す機能ブロック図である。
美白画像生成処理とは、撮影された人の顔を含む元画像に対して、美白処理を施すと共に、肌に色が近似しており美白処理の影響を受けて色が薄くなった唇を適正な色に補正して美白画像を生成する一連の処理をいう。
【0039】
美白画像生成処理を実行する場合には、図7に示すように、CPU11において、画像取得部51と、顔検出部52と、画像処理部53と、マスク画像作成処理部54と、色補正画像作成処理部55と、が機能する。
【0040】
また、記憶部19の一領域には、画像記憶部71と、固定マップ記憶部72と、が設定される。
【0041】
画像記憶部71には、撮像部16から出力された画像のデータが記憶される。
固定マップ記憶部72には、マスク画像の作成に用いる固定マップのデータが記憶される。なお、固定マップは、データ量削減のため、唇の模した円弧形状であるため、円弧を分割して4分の1にしたデータを記憶しておくようにしてもよい。この場合、処理時に円弧となるように固定マップを展開する。
【0042】
画像取得部51は、撮像部16により撮像された画像に現像処理が行われた撮像画像のデータ、或いは画像記憶部71から処理対象となる画像のデータを取得する。
【0043】
顔検出部52は、画像から顔を検出すると共に、検出した顔において顔を構成する各器官を検出する。顔検出部52は、少なくとも、輪郭形状から、左右の瞳と、唇の器官を検出する。なお、顔検出部52は、唇に関しては、少なくとも、上唇の中央の上下の2点P1,P2、下唇の中央の上下の2点P3,P4、唇の左右の端の2点P5,P6の合計6点の位置を検出する。顔検出及び各器官の検出は、既存の顔検出技術及び器官技術の公知の技術を用いる。また、顔検出及び各器官の検出は、輝度、輪郭抽出等、HSV色空間の色情報とは異なる情報に基づく検出方法であればその検出方法は問わない。
【0044】
画像処理部53は、元画像に対して各種の画像処理を実行する。
具体的には、画像処理部53は、例えば、主に、彩度低減、明度アップ、青色方向への色相回転の3点の要素の補正を行う美白処理を実行する。また、画像処理部53は、図2に示すように、元画像から唇を含む領域を切り出す。また、画像処理部53は、切り出し画像と、作成した色補正画像とを、作成したマスク画像に基づいて、αブレンドして画像合成する。その結果、唇色補正画像が作成される。また、画像処理部53は、元の切り出し位置に画像を貼り付ける。その結果、美白画像が生成される。
【0045】
マスク画像作成処理部54は、唇の領域のみに色補正が施された画像となるように、αブレンドに用いるマスク画像を生成する。
【0046】
具体的には、マスク画像作成処理部54は、図3に示すように、切り出し画像のYUV色空間をHSV色空間に変換する。また、マスク画像作成処理部54は、ノイズ除去を目的としてεフィルタで画像をぼかす処理を行う。
【0047】
また、マスク画像作成処理部54は、HSV解析処理を実行する。HSV解析処理では、上下の唇の中央付近に設定した計測領域R1,R2(図2参照)のHSVの各チャネルでヒストグラムを作成する(図4(a)参照)。そして、作成したヒストグラムから算出する唇色レベルの重み付けを作成する(図4(b)参照)。その後、作成した唇色レベルの重み付けに基づいて、上述した式(1)を用いて、各画素におけるHUEマップのマップ値を算出する。算出した各画素のマップ値からHUEマップを作成する。
【0048】
また、マスク画像作成処理部54は、図5(a)及び図5(b)に示すように、固定マップ記憶部72に記憶される固定マップを切り出し画像の唇に対応するように角度調整及びサイズ調整を行う。
【0049】
また、マスク画像作成処理部54は、図3に示すように、角度調整及びサイズ調整をした固定マップと作成したHUEマップとを合成する。この際、マスク画像作成処理部54は、鼻等のHUEマップから空間的な不要な領域を除去するために、HUEマップと固定マップの最小値をとるように合成する。合成の結果、マスク画像が作成される。
【0050】
色補正画像作成処理部55は、切り出し画像に対して、色補正処理を実行する。
具体的には、色補正画像作成処理部55は、検出された左右の瞳の下方の肌領域のV値を計測する。そして、色補正画像作成処理部55は、切り出し画像に対して、計測したV値に応じて、色補正を行う。その結果、切り出し画像に対して色補正がされた色補正画像が作成される。
【0051】
図8は、図7の機能的構成を有する図1の撮像装置1が実行する美白画像生成処理の流れを説明するフローチャートである。
美白画像生成処理は、ユーザによる入力部17への美白画像生成処理開始の操作により開始される。
美白画像生成処理開始の操作は、撮影指示操作であって、この撮影指示操作に応じて撮像部16により撮像された画像に、現像処理が行われた撮像画像のデータに対して、引き続き美白画像生成処理を行ってもよく、また、画像記憶部71に記憶されている撮像画像のデータを選択し、その選択された撮像画像のデータに対する美白画像生成処理開始の操作であってもよい。
【0052】
ステップS11において、画像取得部51は、撮像部16により撮像された画像に現像処理が行われた撮像画像のデータ、或いは画像記憶部71から処理対象となる元画像を取得する。
【0053】
ステップS12において、顔検出部52は、元画像において顔検出を行い、顔が検出されたか否かを判定する。
顔が検出されなかった場合には、ステップS12においてNOと判定されて、美白画像生成処理は終了する。
顔が検出された場合には、ステップS12においてYESと判定されて、処理はステップS13に進む。
【0054】
ステップS13において、画像処理部53は、元画像に対して美白処理を実行する。美白処理によって、元画像は、彩度低減、明度アップ、青色方向への色相回転されたものとなる。
【0055】
ステップS14において、顔検出部52は、検出された顔の器官の検出を行う。その結果、少なくとも、元画像において左右の瞳と、唇の器官の位置が検出される。
【0056】
ステップS15において、画像処理部53は、検出した唇を含む領域を切り出す。
【0057】
ステップS16において、マスク画像作成処理部54は、マスク画像作成処理を実行する。マスク画像作成処理の実行の結果、αブレンド用のマスク画像が作成される。マスク画像作成処理の詳細については、後述する。
【0058】
ステップS17において、色補正画像作成処理部55は、色補正画像作成処理を実行する。色補正画像作成処理の実行の結果、切り出し画像に対して、薄くなった唇を適切な色にする色補正が行われた色補正画像が作成される。色補正画像作成処理の詳細については、後述する。
【0059】
ステップS18において、画像処理部53は、切り出し画像と、作成した色補正画像とを、作成したマスク画像に基づいて、αブレンドして画像合成する。その結果、唇部分のみに色補正が施された唇色補正画像が作成される。
【0060】
ステップS19において、画像処理部53は、唇色補正画像を元の切り出し位置に貼り付ける。その結果、肌に美白処理が施されていると共に、唇部分は適切な色に補正された美白画像が生成される。
その後、美白画像生成処理が終了する。
【0061】
図9は、美白画像生成処理のうち、マスク画像作成処理の流れを説明するフローチャートである。
【0062】
ステップS31において、マスク画像作成処理部54は、切り出し画像のYUV色空間をHSV色空間に変換する。
【0063】
ステップS32において、マスク画像作成処理部54は、εフィルタでぼかす処理を行う。
【0064】
ステップS33において、マスク画像作成処理部54は、HSV解析処理を実行する。HSV解析処理では、図2に示すように上下の唇の中央付近に設定した計測領域R1,R2のHSVの各チャネルでヒストグラムを作成する(図4(a)参照)。そして、作成したヒストグラムから算出する唇色レベルの重み付けを設定する(図4(b)参照)。唇色レベルの重み付けは、Hのチャネルの場合には、最頻値を基準にしてプラスとマイナスに均等に重み付けが振り分けられ、最頻値から離れるほど重み付けが低くなるように設定される。また、S(V)のチャネルの場合には、ヒストグラムの最頻値を上方の左端(右端)の基準にして、ピーク値に所定の幅があり、かつ、1段目よりも2段目の方が勾配が緩やかとなる2段階の傾きとなるように、重み付けが設定される。
【0065】
ステップS34において、マスク画像作成処理部54は、HUEマップを作成する。HUEマップにおけるマップ値は、作成した唇色レベルの重み付けに基づいて、上述した式(1)を用いて算出する。
【0066】
ステップS35において、マスク画像作成処理部54は、固定マップ記憶部72に記憶される固定マップを切り出し画像の唇に対応するように角度調整及びサイズ調整を行う。
【0067】
ステップS36において、マスク画像作成処理部54は、角度調整及びサイズ調整をした固定マップと作成したHUEマップとを合成する。この際、マスク画像作成処理部54は、鼻等のHUEマップから空間的に不要な領域を除去するために、HUEマップと固定マップの最小値をとるように合成する。合成の結果、マスク画像が作成される。
【0068】
図10は、美白画像生成処理のうち、色補正画像作成処理の流れを説明するフローチャートである。
【0069】
ステップS51において、色補正画像作成処理部55は、検出された左右の瞳の下方の肌領域のV値を計測する。
【0070】
ステップS52において、色補正画像作成処理部55は、切り出し画像に対して、計測したV値に応じて、色補正を行う。その結果、切り出し画像に対して色補正がされた色補正画像が作成される。
【0071】
種々の撮像装置では、ユーザが肌色を選択できる機能があり、例えば、顔の血色を良くする「ナチュラル」や顔の色を白くする「美白」が選択可能に構成される。ナチュラルでは、発色が良い色の再現になるので、唇の色も発色をよくすることができる。一方で美白では、肌色の彩度を薄くするので、唇色もそれに引きずられて、色が薄く血色の悪いものになってしまう。
そこで、本実施形態の撮像装置1においては、人物を撮影した画像の輪郭を検出した結果を用いて、検出した顔領域から唇領域を抽出し、唇色を鮮やかにしたり、リップを塗ったように補正したりすることができる。唇色領域の抽出はHSV色空間で表現される画像(HSV画像)を解析し、HSV画像からαブレンド用のマスク画像を作成する。補正する際は、YUV色空間で表現される画像を解析し、YUV(特にV)それぞれで補正することができる。
【0072】
以上のように構成される撮像装置1は、画像処理部53と、マスク画像作成処理部54と、色補正画像作成処理部55と、を備える。
画像処理部53は、画像内に含まれる人物の顔領域に対して、肌の色を白くする美白処理を施す。
マスク画像作成処理部54は、美白処理が施される人物の顔領域内で、当該美白処理を軽減すべき部分を特定する。
色補正画像作成処理部55は、特定された美白処理を軽減すべき部分に対して、当該美白処理を軽減する処理を施す。
これにより、撮像装置1においては、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができ、人物の顔全体に適切な美白処理を施すことができる。
【0073】
美白処理は、複数種類の処理からなる。
マスク画像作成処理部54は、複数種類の処理からなる美白処理が施される人物の顔領域内で、複数種類の処理のうちの一部の処理の効果を軽減し、他の処理の効果を維持すべき部分を特定する。
これにより、撮像装置1においては、例えば、彩度低減、明度アップ、青色方向への色相回転の3つの要素で美白処理が行われていた場合に、彩度低減のみを復元することで、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0074】
また、画像処理部53は、HSV色空間の色情報に基づき、画像内の肌色部分を特定する。
また、画像処理部53は、特定された肌色部分に対して美白処理を施す。
マスク画像作成処理部54は、特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、美白処理を軽減すべき部分であると特定する。
これにより、撮像装置1においては、特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、美白処理を軽減すべき部分であると特定するため、人物の顔全体に適切な美白処理を施すことができる。
【0075】
また、撮像装置1は、HSV色空間の色情報とは異なる基準に基づき、顔の部位を特定する顔検出部52を、更に備る。
顔検出部52は、特定された顔の部位であって、HSV色空間の色情報が肌の色と近似する肌以外の部分を、美白処理を軽減すべき部分であると特定する。
これにより、撮像装置1においては、HSV色空間の色情報が肌の色と近似する肌以外の部分を、美白処理を軽減すべき部分であると特定するために、人物の顔全体に適切な美白処理を施すことができる。
【0076】
また、色補正画像作成処理部55は、特定された美白処理を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する。
色補正画像作成処理部55は、特定された濃度に応じて美白処理を軽減する処理を施す。
これにより、撮像装置1においては、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0077】
顔検出部52は、更に、予め用意されている顔の部位の形の基準となる情報を使用して、美白処理を軽減すべき部分を特定する。
これにより、撮像装置1においては、唇の位置を適切に特定することができ、人物の顔全体に適切な美白処理を施すことができる。
【0078】
マスク画像作成処理部54は、人物の顔の唇部分を、美白処理を軽減すべき部分として特定する。
人物の顔の唇部分を、美白処理を軽減すべき部分とすることで、人物の顔全体に適切な美白処理を施すことができる。
【0079】
顔検出部52は、HSV色空間の色情報とは異なる基準に基づき、画像内に含まれる人物の顔の唇部分を特定する。
マスク画像作成処理部54は、特定された唇部分におけるHSV色空間の色情報に基づき、唇の色を特定する。
これにより、撮像装置1においては、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0080】
マスク画像作成処理部54は、HSV色空間において、特定された唇部分の色情報が所定の範囲で肌の色の色情報と近似する色を、唇の色として特定する。
これにより、撮像装置1においては、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0081】
マスク画像作成処理部54は、HSV色空間において、特定された唇部分の色情報の分布に基づき、唇の色を特定する。
これにより、撮像装置1においては、唇の色を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0082】
顔検出部52は、HSV色空間の色情報とは異なる基準に基づき、唇部分を特定する。
これにより、撮像装置1においては、唇の位置を適切に特定することができ、人物の顔領域全体に対して施す美白処理に使用することができる。
【0083】
また、画像処理部53は、特定された唇色に応じて、顔検出部52により特定された人物の顔の唇部分にYUV色空間の色情報による所定の画像処理を行う。
これにより、撮像装置1においては、唇色に応じた画像処理を行うことができる。
【0084】
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0085】
上述の実施形態では、美白処理によって影響を受けた唇の色を適正な色に補正するように構成したがこれに限られない。特定した唇の領域に対して、唇の色を変化させるように補正してもよい。具体的には、異なるリップや口紅の色にしたり、リップ、口紅、グロス等を塗っていない唇に対して、リップ、口紅、グロス等を塗ってメイクアップしたり、血色の程度を調整したりしてもよい。この際、彩度を積極的に変化させてもよく、更に、明度や色相を変化させてもよい。
【0086】
また、上述の実施形態では、唇の領域を最初に特定して、顔全体に施す美白処理の際に、肌のマスクの領域として特定した唇の領域を指定するように構成してもよい。
【0087】
また、上述の実施形態では、本発明が適用される撮像装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、美白処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
【0088】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図7の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図7の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
【0089】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0090】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk),Blu−ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部19に含まれるハードディスク等で構成される。
【0091】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0092】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0093】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
画像内に含まれる人物の顔領域に対して、肌の色を白くする美白処理を施す美白処理手段と、
前記美白処理が施される人物の顔領域内で、当該美白処理を軽減すべき部分を特定する軽減部分特定手段と、
前記特定された前記美白処理を軽減すべき部分に対して、当該美白処理を軽減する処理を施す軽減処理手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記美白処理は複数種類の処理からなり、
前記軽減部分特定手段は、複数種類の処理からなる美白処理が施される人物の顔領域内で、複数種類の処理のうちの一部の処理の効果を軽減し、他の処理の効果を維持すべき部分を特定する、
ことを特徴とする付記1に記載の画像処理装置。
[付記3]
HSV色空間の色情報に基づき、画像内の肌色部分を特定する肌色部分特定手段を、更に備え、
前記美白処理手段は、前記特定された肌色部分に対して美白処理を施し、
前記軽減部分特定手段は、前記特定された肌色部分に含まれる部分であって、色相値が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する、
ことを特徴とする付記1又は2に記載の画像処理装置。
[付記4]
HSV色空間の色情報とは異なる基準に基づき、顔の部位を特定する部位特定手段を、更に備え、
前記部位特定手段は、前記特定された顔の部位であって、前記HSV色空間の色情報が肌の色と近似する肌以外の部分を、前記美白処理を軽減すべき部分であると特定する、
ことを特徴とする付記3に記載の画像処理装置。
[付記5]
前記特定された美白処理を軽減すべき部分の色の濃度をYUV色空間の色情報に基づき特定する濃度特定手段を、更に備え、
前記軽減処理手段は、前記特定された濃度に応じて前記美白処理を軽減する処理を施す、
ことを特徴とする付記3又は4に記載の画像処理装置。
[付記6]
前記部位特定手段は、更に、予め用意されている顔の部位の形の基準となる情報を使用して、前記美白処理を軽減すべき部分を特定する、
ことを特徴とする付記3乃至5の何れか1つに記載の画像処理装置。
[付記7]
前記軽減部分特定手段は、人物の顔の唇部分を、前記美白処理を軽減すべき部分として特定する、
ことを特徴とする付記1乃至6の何れか1つに記載の画像処理装置。
[付記8]
HSV色空間の色情報とは異なる基準に基づき、画像内に含まれる人物の顔の唇部分を特定する唇部分特定手段と、
前記特定された前記唇部分における前記HSV色空間の色情報に基づき、唇の色を特定する唇色特定手段と、
を備えることを特徴とする画像処理装置。
[付記9]
前記唇色特定手段は、前記HSV色空間において、前記特定された唇部分の色情報が所定の範囲で肌の色の色情報と近似する色を、唇の色として特定する、
ことを特徴とする付記8に記載の画像処理装置。
[付記10]
前記唇色特定手段は、前記HSV色空間において、前記特定された唇部分の色情報の分布に基づき、唇の色を特定する、
ことを特徴とする付記8又は9に記載の画像処理装置。
[付記11]
前記唇部分特定手段は、HSV色空間の色情報とは異なる基準に基づき、前記唇部分を特定する、
ことを特徴とする付記8乃至10の何れか1つに記載の画像処理装置。
[付記12]
前記特定された唇色に応じて、前記唇部分特定手段により特定された人物の顔の唇部分にYUV色空間の色情報による所定の画像処理を行う画像処理手段を、更に備える、
ことを特徴とする付記8乃至11の何れか1つに記載の画像処理装置。
[付記13]
画像内に含まれる人物の顔領域に対して、肌の色を白くする美白処理と、
前記美白処理が施される人物の顔領域内で、当該美白処理を軽減すべき部分を特定する軽減部分特定処理と、
前記特定された前記美白処理を軽減すべき部分に対して、当該美白処理を軽減する処理を施す軽減処理と、
を含むことを特徴とする画像処理方法。
[付記14]
HSV色空間の色情報とは異なる基準に基づき、画像内に含まれる人物の顔の唇部分を特定する唇部分特定処理と、
前記特定された前記唇部分におけるHSV色空間の色情報に基づき、唇の色を特定する唇色特定処理と、
を含むことを特徴とする画像処理方法。
[付記15]
コンピュータに、
画像内に含まれる人物の顔領域に対して、肌の色を白くする美白処理を施す美白処理手段、
前記美白処理が施される人物の顔領域内で、当該美白処理を軽減すべき部分を特定する軽減部分特定手段、
前記特定された前記美白処理を軽減すべき部分に対して、当該美白処理を軽減する処理を施す軽減処理手段と、
を実現させることを特徴とするプログラム。
[付記16]
コンピュータに、
HSV色空間の色情報とは異なる基準に基づき、画像内に含まれる人物の顔の唇部分を特定する唇部分特定手段、
前記特定された前記唇部分におけるHSV色空間の色情報に基づき、唇の色を特定する唇色特定手段、
を実現させることを特徴とするプログラム。
【符号の説明】
【0094】
1・・・撮像装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,51・・・画像取得部,52・・・顔検出部,53・・・画像処理部,54・・・マスク画像作成処理部,55・・・色補正画像作成処理部,71・・・画像記憶部,72・・・固定マップ記憶部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10