(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023174917
(43)【公開日】2023-12-08
(54)【発明の名称】画像処理装置、画像処理方法、及びプログラム
(51)【国際特許分類】
G06T 5/00 20060101AFI20231201BHJP
G06T 1/00 20060101ALI20231201BHJP
【FI】
G06T5/00 705
G06T1/00 340Z
【審査請求】有
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023180705
(22)【出願日】2023-10-20
(62)【分割の表示】P 2019055930の分割
【原出願日】2019-03-25
(71)【出願人】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110001254
【氏名又は名称】弁理士法人光陽国際特許事務所
(72)【発明者】
【氏名】佐々木 恭介
【テーマコード(参考)】
5B057
【Fターム(参考)】
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CE05
5B057CE08
5B057CE17
5B057DA08
5B057DB02
5B057DB06
5B057DB09
5B057DC16
(57)【要約】
【課題】被写体画像を補正した場合の補正箇所が目立たなくなるようにする。
【解決手段】撮像装置1によれば、解析部109は、被写体画像を取得し、取得された被写体画像から被写体の表面状態情報を取得する。第2の画像処理部110は、解析部109において取得された表面状態情報に基づいて、被写体画像を加工する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像から被写体の肌理情報を取得する肌理情報取得手段と、
前記肌理情報取得手段によって取得された肌理情報に基づいて、前記被写体画像を加工する加工手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記被写体画像の画像領域における所定の周波数帯域のエッジ成分を取得するエッジ成分取得手段を備え、
前記肌理情報取得手段は、このエッジ成分取得手段によって取得されたエッジ成分を前記肌理情報として取得することを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記被写体画像に所定の画像処理を施す処理手段をさらに備え、
前記加工手段は、前記処理手段によって所定の処理が施された被写体画像に、前記肌理情報取得手段によって取得された肌理情報に基づいた加工を施すことを特徴とする請求項1又は2記載の画像処理装置。
【請求項4】
前記被写体画像において、周辺とは異なる特異領域を検出する検出手段をさらに備え、
前記所定の処理は、前記被写体画像における前記特異領域を目立たなくする処理である請求項3記載の画像処理装置。
【請求項5】
前記処理手段は、
前記特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で前記所定の処理を夫々施し、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段と、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段と、
をさらに備えることを特徴とする請求項4記載の画像処理装置。
【請求項6】
前記被写体画像の輝度情報を解析する解析手段と、
前記解析手段による解析結果に基づいて、前記複数種のマスクデータの形状を修正する修正手段と、
をさらに備えることを特徴とする請求項5記載の画像処理装置。
【請求項7】
前記所定の処理は、平滑化処理であることを特徴とする請求項4に記載の画像処理装置。
【請求項8】
前記被写体画像は、人の肌領域を含む画像であることを特徴とする請求項1~7のいずれか一項に記載の画像処理装置。
【請求項9】
被写体画像を取得する取得手段と、
前記被写体画像から、その周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を前記周辺に対し目立たなくするよう補正する補正手段と、
前記補正手段によって目立たなくなるよう補正された特異領域に対し、前記補正手段による補正以前の前記被写体画像における被写体の表面状態を付加する加工を施すよう制御する制御手段と、
を備えたことを特徴とする画像処理装置。
【請求項10】
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像における周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域に所定の処理を夫々施す処理手段と、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段と、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段と、
を備えたことを特徴とする画像処理装置。
【請求項11】
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記取得された被写体画像から被写体の肌理情報を取得する工程と、
前記取得された肌理情報に基づいて、前記被写体画像を加工する工程と、
を含むことを特徴とする画像処理方法。
【請求項12】
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記被写体画像から、その周辺とは異なる特異領域を検出する工程と、
前記検出された特異領域を前記周辺に対し目立たなくするよう補正する工程と、
前記目立たなくなるよう補正された特異領域に対し、前記補正以前の前記被写体画像における被写体の表面状態を付加する加工を施す工程と
を含むことを特徴とする画像処理方法。
【請求項13】
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記取得された被写体画像における周辺とは異なる特異領域を検出する工程と、
前記検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で所定の処理を夫々施す工程と、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する工程と、
前記取得された信頼性情報に基づき、前記夫々のマスクデータ内の前記所定の処理の結果を影響度を変えて合成する合成手段と、
を含むことを特徴とする画像処理方法。
【請求項14】
コンピュータを、
被写体画像を取得する取得手段、
前記取得手段によって取得された被写体画像から被写体の肌理情報を取得する肌理情報取得手段、
前記肌理情報取得手段によって取得された肌理情報に基づいて、前記被写体画像を加工する加工手段、
として機能させるためのプログラム。
【請求項15】
コンピュータを、
被写体画像を取得する取得手段、
前記被写体画像から、その周辺とは異なる特異領域を検出する検出手段、
前記検出手段によって検出された特異領域を前記周辺に対し目立たなくするよう補正する補正手段、
前記補正手段によって目立たなくなるよう補正された特異領域に対し、前記補正手段による補正以前の前記被写体画像における被写体の表面状態を付加する加工を施すよう制御する制御手段、
として機能させるためのプログラム。
【請求項16】
コンピュータを、
被写体画像を取得する取得手段、
前記取得手段によって取得された被写体画像における周辺とは異なる特異領域を検出する検出手段、
前記検出手段によって検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で所定の処理を夫々施す処理手段、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
従来、顔画像を補正する技術が提案されている。例えば、特許文献1には、顔の目、鼻、口などの特徴領域をマスクした残りの肌領域に平滑化処理を施すことで細かな肌荒れを目立たなくし、なめらかな肌状態を再現した顔画像を生成することが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の技術では、周辺の肌とは異なる特異領域のみを補正することが難しい他、補正処理を施した場合、補正をしていない周辺箇所との差が目立ってしまう問題が予見される。
【0005】
本願発明はこのような問題点に鑑みてなされたもので、被写体画像を補正した場合の補正箇所が目立たなくなるようにすることを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するため、本発明の画像処理装置は、
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像から被写体の肌理情報を取得する肌理情報取得手段と、
前記肌理情報取得手段によって取得された肌理情報に基づいて、前記被写体画像を加工する加工手段と、
を備えることを特徴とする。
【0007】
また、本発明の画像処理装置は、
被写体画像を取得する取得手段と、
前記被写体画像から、その周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を前記周辺に対し目立たなくするよう補正する補正手段と、
前記補正手段によって目立たなくなるよう補正された特異領域に対し、前記補正手段による補正以前の前記被写体画像における被写体の表面状態を付加する加工を施すよう制御する制御手段と、
を備えたことを特徴とする。
【0008】
また、本発明の画像処理装置は、
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像における周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域に所定の処理を夫々施す処理手段と、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段と、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段と、
を備えたことを特徴とする。
【発明の効果】
【0009】
本発明によれば、被写体画像を補正した場合の補正箇所が目立たなくなるようにすることが可能となる。
【図面の簡単な説明】
【0010】
【
図1】本実施形態に係る撮像装置の機能的構成を示すブロック図である。
【
図2】
図1の解析部及び第2の画像処理部における処理の概略を説明するための図である。
【
図3】
図1の解析部及び第2の画像処理部における処理の流れを示す図である。
【発明を実施するための形態】
【0011】
以下、添付図面を参照して本発明に係る実施形態を詳細に説明する。なお、本発明は、図示例に限定されるものではない。
【0012】
[撮像装置1の構成]
図1は、本実施形態に係る撮像装置1の機能的構成を示すブロック図である。
図1に示すように、撮像装置1は、制御部101、記憶部102、表示部103、通信部104、操作部105、撮像部106、第1の画像処理部107、画像メモリ108、解析部109、第2の画像処理部110、点灯制御部111、発光部112等を備えて構成されている。制御部101と各部はバスにより接続されている。
【0013】
制御部101は、CPU(Central Processing Unit)、RAM(Random Access Memory)等を備えて構成され、記憶部102に記憶されている各種のプログラムを実行して所定の演算や各部の制御を行う。
【0014】
記憶部102は、不揮発性の半導体メモリやハードディスク等により構成される。記憶部102には、制御部101で実行されるシステムプログラムや各種処理プログラム、これらのプログラムの実行に必要なデータ等が記憶されている。
【0015】
表示部103は、LCD(Liquid Crystal Display)等により構成され、制御部101からの表示制御信号に従って、例えば、撮像部106により撮像された状態を示すライブビュー画像や、撮影指示に応じて撮像部106により取得された画像等を表示する。
【0016】
通信部104は、外部の機器と無線又は有線によりデータ通信を行うためのインターフェースである。
【0017】
操作部105は、シャッターキーを始めとする各種機能ボタンや表示部103に積層配置された透明なタッチパネルを備え、ユーザによる各ボタンの押下入力、タッチパネルへのタッチ、スライド操作等を受け付けてその操作情報を制御部101に出力する。
【0018】
撮像部106は、撮像レンズ106a、図示しないCCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等のイメージセンサ等からなる撮像素子、A/D変換回路等を備えて構成され、撮像レンズ106aを通過した光学像を撮像素子により2次元の画像信号に変換し、被写体の画像データ(RGBの画像データ)を取得する。
【0019】
第1の画像処理部107は、撮像部106により取得されたRGBデータに画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Crからなる画像データ(Y、U、Vの各成分の画像データ)に変換する。
【0020】
画像メモリ108は、例えば、フラッシュメモリ等により構成され、撮像部106により撮像され、第1の画像処理部107により処理された画像データを記録する記録手段である。
【0021】
解析部109は、本発明に係る補正モードが予め設定されている場合に、撮像部106により取得され、第1の画像処理部107により処理された被写体の画像データ(被写体画像)を解析することによって被写体の肌の肌理情報(肌の表面情報)を取得して第2の画像処理部110に出力する。また、解析部109は、第1の画像処理部107により処理された画像データにおける、周辺の肌とは異なる特異領域(例えば、吹き出物等の異物の存在する領域)周辺の画像領域を解析することによって、第2の画像処理部110において特異領域に補正処理を施す際に用いる肌理用保護マップM11、M12及び陰影用保護マップM21、M22(
図2参照)を生成する。ここで、肌理用保護マップM11、M12、陰影用保護マップM21、M22は、特異領域に補正処理を施す際に、その特異領域の周辺の画像領域のうち、補正対象外とする画像領域を保護する(マスクする)ためのマスクデータである。
解析部109は、肌理情報取得手段、エッジ成分取得手段、検出手段、解析手段、修正手段として機能する。
【0022】
第2の画像処理部110は、撮像部106により取得され、第1の画像処理部107により処理された画像データの特異領域に対し、解析部109により生成された肌理用保護マップM11、M12、及び陰影用保護マップM21、M22を用いて平滑化処理等の補正処理を施し、処理結果に肌理情報を付加して元の画像データ(元画像)に合成することで、補正済み画像を生成する。
第2の画像処理部110は、加工手段、処理手段として機能する。
【0023】
解析部109、第2の画像処理部110は、制御部101と記憶部102に記憶されているプログラムとの協働により実行されるものとするが、専用のハードウエアにより実現することとしてもよい。
【0024】
点灯制御部111(ドライバ)は、発光部112のLED(Light Emitting Diode)のそれぞれに接続され、制御部101からの指示に従って、発光部112の光量や点灯/消灯を制御する。
【0025】
発光部112は、LED等により構成され、被写体に光を照射する。
【0026】
[撮像装置1の動作]
次に、撮像装置1の解析部109及び第2の画像処理部110の動作について説明する。
図2は、解析部109及び第2の画像処理部110により実行される処理の概略を示す図である。
図2のG1は、第1の画像処理部107で処理された画像データを元画像として、元画像における特異領域及びその周辺のY成分画像(輝度成分画像)を模式的に示した図である。
図2のG1において、斜線51は特異領域を表し、ドット52は肌の肌理(キメ)を表し、陰影部53は肌にかかった陰影を表す。この陰影とは、例えば、顔の器官やしわ等による凹凸によって発生するものもあれば、髪、睫毛、眉、もしくはそれらの影によって発生するものもある。
図2において、G1全体に肌理52が存在する。また特異領域51(吹き出物等の異物の画像)だけでなく、その特異領域周辺には、陰影53が存在する。
【0027】
このY成分画像G1に対応する元画像において、特異領域51を目立たなくする補正処理を行うと、補正対象とした領域の肌の表面状態(肌理)まで消えてしまい、不自然な画像となってしまう。例えば、
図2のG2は、特異領域の肌理が消えた例を示している。補正対象の領域を周辺まで広げると、特異領域周辺の陰影まで消えてしまい、さらに不自然な画像となる。
【0028】
そこで、本実施形態では、まず、解析部109において、元画像から特異領域及びその周辺部におけるY成分画像G1を生成する。次いで、
図2に示すように、Y成分画像G1を解析して、解析結果に基づいて肌理用保護マップM11(大)、肌理用保護マップM12(小)、陰影用保護マップM21(大)、陰影用保護マップM22(小)を生成する。そして、第2の画像処理部110において、生成した肌理用保護マップM11、M12、陰影用保護マップM21、M22を用いて元画像に特異領域を目立たなくするための補正処理を行う。
図2において、補正処理後の画像をG2で示す。また、解析部109において、補正以前にY成分画像G1を解析して被写体の肌の表面状態(肌理)を示す情報(肌理情報)を取得しておき、第2の画像処理部110において、解析部109において補正以前の情報から取得した肌理情報を補正処理後の画像G2に付加する加工を施して、肌理と陰影が消えていない補正済み画像G3を生成する。
【0029】
ここで、元画像からの補正対象となる特異領域の検出手法は、特に限定されず、いずれの方法で行ってもよい。例えば、表示部103に表示された元画像の顔領域上からユーザが操作部105により指定した領域を特異領域として検出してもよい。あるいは、元画像から顔領域を検出し、検出された顔領域の画像を切り出して、顔領域の輪郭領域内のV成分画像データの、目、鼻、口をマスクしたデータから周囲とは異なる画素値(突発的に生じている画素値)の領域を抽出し、その領域の大きさに基づいて特異領域を検出してもよい。
【0030】
図3は、解析部109と第2の画像処理部110の機能構成を示すブロック図である。
図3に示すように、解析部109は、肌解析部20、保護マップデータ設定部21、低域データ生成部22、エッジ情報生成部23、領域分割部24、陰影用保護マップ生成部25、肌理用保護マップ生成部26を備えて構成されている。また、第2の画像処理部110は、保護マップ境界信頼性判定部27、補正処理部28、透過合成処理部29、合成処理部30を備えて構成されている。以下、
図3を参照して、解析部109と第2の画像処理部110の処理について説明する。
【0031】
まず、解析部109は、YUVの各成分を有する元画像からY(輝度)成分で構成されるY成分画像を生成し、更に、そのY成分画像の顔領域から検出された、特異領域を中央に含む所定サイズの矩形領域を切り出して、肌解析部20及びエッジ情報生成部23に入力する。
【0032】
肌解析部20は、入力された矩形領域内のY成分画像を解析して毛穴の画像領域を検出し、この毛穴の画像領域における毛穴のサイズデータ(size)と毛穴部分のコントラストデータ(con)を取得する。そして、取得された毛穴のサイズデータについて、毛穴サイズデータの平均データ(size_ave)及び毛穴サイズデータの標準偏差データ(size_sd)を算出し、保護マップデータ設定部21及び低域データ生成部22に出力する。また、取得された毛穴部分のコントラストデータについて、毛穴部分のコントラストデータの平均データ(con_ave)及び毛穴部分のコントラストデータの標準偏差データ(con_sd)を算出し、肌理用保護マップ生成部26に出力する。
【0033】
保護マップデータ設定部21は、特異領域を補正する際、それ以外の領域まで補正されることが無いよう、大きさが異なる大小2種類の楕円形状の保護除外領域61、62(
図2参照)を有するマスクデータからなる保護マップM1、M2を生成し、領域分割部24、肌理用保護マップ生成部26に出力する。特異領域は、ニキビ等の吹き出物や周囲から目立つ起伏の存在するほぼ円形の領域であり、保護マップM1、M2の保護除外領域61、62は、特異領域を囲む楕円形状となっている。
例えば、保護マップデータ設定部21は、まず、記憶部102に記憶されている基本の楕円サイズの保護除外領域を有する基本の保護マップを読み出す。次いで、肌解析部20において算出された毛穴サイズデータの平均データ(size_ave)と毛穴サイズデータの標準偏差データ(size_sd)を足し合わせた値に基づいて毛穴サイズの半径を求め、求めた半径
を基本の保護マップの楕円の半径に足した保護除外領域を有する保護マップM1、求めた半径を基本の保護マップの楕円の半径から引いた楕円サイズの保護除外領域を有する保護マップM2を生成する。
なお、毛穴サイズは、一般的には個人差が少ないため、予め2種類のサイズの保護マップM1、M2を生成して記憶部102に記憶することとしてもよい。また、本実施形態ではテンプレートとして2種類のサイズの保護マップM1,M2を生成することとしたが、これに限らず、サイズに応じて複数種生成してもよい。サイズが多ければ多い程、より精度の高い特異領域の補正が可能となる。
【0034】
低域データ生成部22は、Y成分画像を肌解析部20から入力された毛穴のサイズデータの平均データ(size_ave)と毛穴のサイズデータの標準偏差データ(size_sd)を足し合わせた値をパラメータとした平均フィルタを用いて平滑化してY成分画像におけるエッジ成分を取り除き、大まかな陰影の状態を示す低域データ(低周波数帯域のデータ)を生成する。これにより、肌の陰影から毛穴の影響を取り除くことができる。低域データ生成部22は、生成した低域データをエッジ情報生成部23及び領域分割部24に出力する。
【0035】
エッジ情報生成部23は、低域データ生成部22にて生成された低域データとY成分画像との正方向の(正値の)差分データ、負方向の(負値の)差分データをそれぞれ生成・取得する。これにより、毛穴より高い周波数帯域の肌理を抽出することができる。エッジ情報生成部23は、この正方向の差分データ、負方向の差分データを肌理に対応するエッジ情報(肌理情報)として合成処理部30に出力する。
【0036】
領域分割部24は、低域データ生成部22から入力された低域データに基づいて、保護マップデータ設定部21から入力された保護マップM1の楕円と保護マップM2の楕円の間の環状の領域の中で、補正を施すと陰影が消えてしまう等、本来の陰影表現に影響が出る陰影領域を特定し、これを他の領域と分割する。
【0037】
領域分割部24は、具体的には、大小の保護マップM1、M2を低域データに重ねたときに保護マップM1の楕円と保護マップM2の楕円のサイズの差となる環状の領域で画素値(低域データの画素値)のヒストグラムを算出し、このヒストグラムから最頻値(ピーク)を求め、求めた最頻値を中心に極小値が存在する範囲までの画素値の領域を陰影領域として他の領域と分割する。そして、陰影領域の情報を陰影用保護マップ生成部25に出力する。
【0038】
陰影用保護マップ生成部25は、領域分割部24から入力された陰影領域の情報に基づいて、保護マップM1、M2による保護対象領域に陰影領域を足しこんで、
図2に示すような陰影用保護マップM11、M12を生成する。これにより、特異領域外であるが保護マップM1、M2を用いて処理すると保護除外領域に入ってしまい、一部又は全部(多くの場合は一部)の情報が欠如して不自然となる陰影領域全体を保護対象に追加することが可能となる。すなわち、陰影用保護マップM11、M12を用いて補正処理部28に補正処理を行わせることにより、保護除外領域61、62に含まれる陰影領域を除いて補正処理を行うことが可能となる。陰影用保護マップ生成部25は、生成した陰影用保護マップM11、M12を補正処理部28及び保護マップ境界信頼性判定部27に出力する。
【0039】
肌理用保護マップ生成部26は、肌解析部20より取得した毛穴部分のコントラストデータの平均データ(con_ave)と毛穴部分のコントラストデータの標準偏差データ(con_sd)とを足し合わせ、それより大きい強度の正方向エッジ(周囲より輝度が高いエッジ)を有する画素と負方向エッジ(周囲より輝度が低いエッジ)を有する画素とを求める。次いで、保護マップM1、M2の夫々において保護除外領域との境界上にある画素領域にある上記正方向エッジの画素と負方向エッジの画素を保護マップM1、M2の保護対象領域に足し込んで肌理用保護マップM21、M22を生成する。こうすることで、保護マップの保護対象外領域との境界に存在する毛穴以上のエッジ強度を持つ画素を補正処理対象から除外することができ、補正後の画像に残る不自然さを解消させることができる。肌理用保護マップ生成部26は、生成した肌理用保護マップM21、M22を補正処理部28及び保護マップ境界信頼性判定部27に出力する。
【0040】
保護マップ境界信頼性判定部27は、陰影用保護マップ生成部25及び肌理用保護マップ生成部26において生成された2つの大サイズの保護マップM11、M21を合わせた大サイズの保護マップと、2つの小サイズの保護マップM12、M22を合わせた小サイズの保護マップの夫々を用いて補正処理された画像領域の夫々の信頼性を判定する。そして、後述の透過合成処理において、信頼性の高い方の画素の影響度を高くし、信頼性の低い方の画素の影響度を低くするマップを生成して透過合成処理部29に出力する。なお、補正処理前に補正処理後の画像領域の夫々の信頼性を判定してもよい。
【0041】
ここで、大きい保護マップと小さい保護マップの保護対象領域が重なっている画像領域、及び双方の保護除外領域が重なっている画像領域は、大小の保護マップのいずれを用いて補正処理を行っても処理結果は同じであるため、信頼度は同じである。そこで、ここでは、主に大きい保護マップの保護除外領域との境界と、小さい保護マップの保護除外領域との境界に挟まれた画像領域の各画素について信頼度を判定する。本実施形態では、より楕円らしい領域で処理できている方を信頼度が高いと判定する。例えば、各画素に対して、境界共有率、面積共有率、境界回帰分析一致率等を算出し、算出結果に基づいて大小の保護マップの信頼度を判定する。
【0042】
ここで、境界共有率は、大サイズの保護マップと小サイズの保護マップにそれぞれにおける保護除外領域との境界の長さと、大小の保護マップで保護除外領域との境界が一致している(共有している)長さの比率である。大小の保護マップにおける保護除外領域(すなわち、補正対象領域)が楕円であれば大小の保護マップの保護除外領域との境界は共有しないので、共有部分の比率が高いほど信頼度を下げる。
面積共有率は、大サイズの保護マップと小サイズの保護マップのそれぞれにおける保護マップの面積に対する保護エッジ(保護対象領域に追加された面積)の面積の割合である。保護エッジの割合が少ない方(共有率が低い方)が信頼度が高い。
境界回帰分析一致率は、大サイズの保護マップと小サイズの保護マップのそれぞれにおいて、保護除外領域との境界に回帰分析を行った場合に回帰分析結果の範囲内にどのくらい境界値があるかを示す値である。境界回帰分析一致率が少ない場合、信頼度を下げる。
なお、上述の信頼度の算出手法は例示であって、信頼度判断の考え方や具体的な方法についてはこれに限定されるものではない。
【0043】
補正処理部28は、元画像のYUV各成分の画像の特異領域を含む矩形領域に陰影用保護マップ生成部25及び肌理用保護マップ生成部26において生成された2つの大サイズの保護マップM11、M21を合わせた大サイズの保護マップを適用して、保護マップで囲まれた保護除外領域の画像領域とそれ以外の画像領域との境界や特異な状態を目立たなくする補正処理を行う。同様に、元画像のYUV各成分の画像の特異領域を含む矩形領域に陰影用保護マップ生成部25及び肌理用保護マップ生成部26において生成された2つの小サイズの保護マップM12、M22を合わせた小サイズの保護マップを適用して、保護マップで囲まれた保護除外領域の画像領域とそれ以外の画像領域との境界や特異な状態を目立たなくする補正処理を行う。
尚、上記の補正処理は、主に平滑化処理(肌状態を滑らかにする処理、透明感をもたせる処理)が用いられるが、この他、色補正処理(より自然な肌色に補正する処理)も用いる場合もある。
補正処理部28は、大サイズの保護マップで補正処理されたYUV各成分画像と、小サイズの保護マップで補正処理されたYUV各成分画像を透過合成処理部29に出力する。
【0044】
透過合成処理部29は、保護マップ境界信頼性判定部27から出力されたマップに基づいて、大サイズの保護マップで補正処理されたYUV各成分画像と、小サイズの保護マップで補正処理されたYUV各成分画像を、2つの保護マップによって補正処理対象とされた画素ごとに、信頼性が高いと判定された方の画素の影響度が高くなるようにα値を設定して透過合成して出力する。
【0045】
合成処理部30は、透過合成処理部29で透過合成されたYUV各成分画像の補正処理対象領域にエッジ情報生成部23から入力された肌理に対応するエッジ情報を付加し、肌理の状態が付加された画像(補正後の画像)と元画像とを所定のブレンド比率でαブレンドし、補正済み画像を出力する。
【0046】
解析部109、第2の画像処理部110において以上の処理を行うことで、
図2の補正済み画像G3に示すように、顔の凹凸やしわの影響による陰影や肌理の状態を保持しつつ、吹き出物のような特異領域を目立たなくする画像処理を施すことができる。
【0047】
以上説明したように、撮像装置1によれば、解析部109は、被写体画像を取得し、取得された被写体画像から被写体の表面状態情報を取得する。第2の画像処理部110は、解析部109において取得された表面状態情報に基づいて、被写体画像を加工する。
したがって、被写体の表面状態情報に基づいて、被写体の表面状態を保持した被写体画像を得ることができる。また、被写体画像を補正して被写体の表面状態が欠落するような場合に、表面状態情報に基づいて補正箇所を目立たなくすることができる。
【0048】
また、例えば、解析部109は、被写体画像の画像領域における所定の周波数帯域のエッジ成分を取得し、取得されたエッジ成分を表面状態情報として取得する。
したがって、所定の周波数帯域のエッジからなる被写体の表面状態を保持した被写体画像を得ることができる。
【0049】
また、例えば、第2の画像処理部110は、所定の処理が施された被写体画像に、取得された表面状態情報に基づいた加工を施す。したがって、所定の処理が施された被写体画像に被写体の表面状態を加えることができる。
【0050】
また、例えば、第2の画像処理部110は、被写体画像における特異領域を目立たなくする処理、例えば平滑化処理が施された場合に、解析部109によって取得された表面状態情報に基づいた加工を施す。したがって、被写体画像において特異領域を目立たなくする処理を施すことによって被写体の表面状態が欠落した場合でも、表面状態に基づく加工を施して処理を行った箇所を目立たないようにすることができる。
【0051】
また、例えば、第2の画像処理部110は、特異領域を囲む形状を模した複数種のサイズの保護マップを用いて、この保護マップによって囲まれる特異領域を含む画像領域で所定の処理を夫々施し、複数種のサイズの保護マップの夫々を用いて所定の処理が施された画像領域の夫々の信頼性情報を取得し、取得された信頼性情報に基づき、複数の保護マップによる所定の処理の結果を影響度を変えて合成する。したがって、より信頼性の高い保護マップで処理された処理結果を被写体画像に反映させることができる。
【0052】
また、例えば、解析部109は、被写体画像の輝度情報を解析し、その解析結果に基づいて、複数種の保護マップの形状を修正する。したがって、被写体画像に応じたマスク形状の保護マップを用いて被写体画像の特異領域に処理を施すことができる。
【0053】
また、撮像装置1の解析部109及び第2の画像処理部110は、人の肌領域を含む被写体画像に上記処理を施すので、人物の肌の肌理を保持した被写体画像を得ることができる。
【0054】
また、撮像装置1の第2の画像処理部110は、被写体画像における特異領域を周辺に対し目立たなくするよう補正し、補正された特異領域に対し、補正以前の被写体画像における被写体の表面状態を付加する加工を施す。したがって、被写体画像の特異領域を目立たなくする補正を行った場合に、補正箇所を目立たなくすることができる。
【0055】
なお、上記実施形態における記述内容は、本発明の好適な一例であり、これに限定されるものではない。
【0056】
例えば、上記実施形態においては、本発明の画像処理装置が撮像装置に備えられている場合を例にとり説明したが、本発明の画像処理装置は撮像装置とは別体であってもよい。例えば、撮像装置から受信した画像データに対して、
図2~
図3を用いて説明した処理を行う画像処理装置としてもよい。また、元画像については、記録された画像に限定されることなく、撮像部106にて逐次撮像され、表示部103に逐次表示されるライブビュー画像のようなものであってもよい。こうすることで、常に補正された結果を反映した被写体画像(顔)をユーザに提供することができる。
【0057】
また、上記実施形態においては、YUVの画像データを用いた場合を例にとり説明したが、画像データの種類は特に限定されない。
【0058】
また上記実施形態においては、肌理と陰影の双方を保護する場合を例にとり説明したが、いずれか一方のみを保護することとしてもよい。
肌理のみを保護する場合、元画像のY成分画像に基づいて、保護除外領域のサイズの異なる複数の肌理用保護マップを生成し、複数の肌理用保護マップの夫々を用いて元画像のYUV成分画像に補正処理を施し、複数の肌理用保護マップの夫々を用いて補正処理された画像領域の夫々の信頼度を求め、信頼度に基づいて画素ごとにα値を算出して複数の肌理用保護マップの夫々を用いて補正された複数の画像の透過合成を行う。また、Y成分画像から取得した肌理情報を透過合成した画像に付加して所定のα値で元画像のYUV成分画像に合成する。
陰影のみを保護する場合、元画像のY成分画像に基づいて、保護除外領域のサイズの異なる複数の陰影用保護マップを生成し、複数の陰影用保護マップの夫々を用いて元画像のYUV成分画像に補正処理を施し、複数の陰影用保護マップの夫々を用いて補正処理された画像領域の夫々の信頼度を求め、信頼度に基づいて画素ごとにα値を算出して複数の陰影用保護マップの夫々を用いて補正された複数の画像の透過合成を行う。そして、透過合成した画像を所定のα値で元画像のYUV成分画像に合成する。
【0059】
また、例えば、上記の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体としてハードディスクや半導体の不揮発性メモリ等を使用した例を開示したが、この例に限定されない。その他のコンピュータ読み取り可能な媒体として、CD-ROM等の可搬型記録媒体を適用することが可能である。また、本発明に係るプログラムのデータを通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も適用される。
【0060】
その他、撮像装置を構成する各装置の細部構成及び細部動作に関しても、発明の趣旨を逸脱することのない範囲で適宜変更可能である。
【0061】
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
[付記]
<請求項1>
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像から被写体の肌理情報を取得する肌理情報取得手段と、
前記肌理情報取得手段によって取得された肌理情報に基づいて、前記被写体画像を加工する加工手段と、
を備えることを特徴とする画像処理装置。
<請求項2>
前記被写体画像の画像領域における所定の周波数帯域のエッジ成分を取得するエッジ成分取得手段を備え、
前記肌理情報取得手段は、このエッジ成分取得手段によって取得されたエッジ成分を前記肌理情報として取得することを特徴とする請求項1記載の画像処理装置。
<請求項3>
前記被写体画像に所定の画像処理を施す処理手段をさらに備え、
前記加工手段は、前記処理手段によって所定の処理が施された被写体画像に、前記肌理情報取得手段によって取得された肌理情報に基づいた加工を施すことを特徴とする請求項1又は2記載の画像処理装置。
<請求項4>
前記被写体画像において、周辺とは異なる特異領域を検出する検出手段をさらに備え、
前記所定の処理は、前記被写体画像における前記特異領域を目立たなくする処理である請求項3記載の画像処理装置。
<請求項5>
前記処理手段は、
前記特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で前記所定の処理を夫々施し、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段と、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段と、
をさらに備えることを特徴とする請求項4記載の画像処理装置。
<請求項6>
前記被写体画像の輝度情報を解析する解析手段と、
前記解析手段による解析結果に基づいて、前記複数種のマスクデータの形状を修正する修正手段と、
をさらに備えることを特徴とする請求項5記載の画像処理装置。
<請求項7>
前記所定の処理は、平滑化処理であることを特徴とする請求項4に記載の画像処理装置。
<請求項8>
前記被写体画像は、人の肌領域を含む画像であることを特徴とする請求項1~7のいずれか一項に記載の画像処理装置。
<請求項9>
被写体画像を取得する取得手段と、
前記被写体画像から、その周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を前記周辺に対し目立たなくするよう補正する補正手段と、
前記補正手段によって目立たなくなるよう補正された特異領域に対し、前記補正手段による補正以前の前記被写体画像における被写体の表面状態を付加する加工を施すよう制御する制御手段と、
を備えたことを特徴とする画像処理装置。
<請求項10>
被写体画像を取得する取得手段と、
前記取得手段によって取得された被写体画像における周辺とは異なる特異領域を検出する検出手段と、
前記検出手段によって検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域に所定の処理を夫々施す処理手段と、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段と、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段と、
を備えたことを特徴とする画像処理装置。
<請求項11>
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記取得された被写体画像から被写体の肌理情報を取得する工程と、
前記取得された肌理情報に基づいて、前記被写体画像を加工する工程と、
を含むことを特徴とする画像処理方法。
<請求項12>
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記被写体画像から、その周辺とは異なる特異領域を検出する工程と、
前記検出された特異領域を前記周辺に対し目立たなくするよう補正する工程と、
前記目立たなくなるよう補正された特異領域に対し、前記補正以前の前記被写体画像における被写体の表面状態を付加する加工を施す工程と
を含むことを特徴とする画像処理方法。
<請求項13>
画像処理装置における画像処理方法であって、
被写体画像を取得する工程と、
前記取得された被写体画像における周辺とは異なる特異領域を検出する工程と、
前記検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で所定の処理を夫々施す工程と、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する工程と、
前記取得された信頼性情報に基づき、前記夫々のマスクデータ内の前記所定の処理の結果を影響度を変えて合成する合成手段と、
を含むことを特徴とする画像処理方法。
<請求項14>
コンピュータを、
被写体画像を取得する取得手段、
前記取得手段によって取得された被写体画像から被写体の肌理情報を取得する肌理情報取得手段、
前記肌理情報取得手段によって取得された肌理情報に基づいて、前記被写体画像を加工する加工手段、
として機能させるためのプログラム。
<請求項15>
コンピュータを、
被写体画像を取得する取得手段、
前記被写体画像から、その周辺とは異なる特異領域を検出する検出手段、
前記検出手段によって検出された特異領域を前記周辺に対し目立たなくするよう補正する補正手段、
前記補正手段によって目立たなくなるよう補正された特異領域に対し、前記補正手段による補正以前の前記被写体画像における被写体の表面状態を付加する加工を施すよう制御する制御手段、
として機能させるためのプログラム。
<請求項16>
コンピュータを、
被写体画像を取得する取得手段、
前記取得手段によって取得された被写体画像における周辺とは異なる特異領域を検出する検出手段、
前記検出手段によって検出された特異領域を囲む形状を模した複数種のサイズのマスクデータを用いて、このマスクデータによって囲まれる前記特異領域を含む画像領域で所定の処理を夫々施す処理手段、
前記複数種のサイズのマスクデータの夫々を用いて前記所定の処理が施された画像領域の夫々の信頼性情報を取得する信頼性情報取得手段、
前記信頼性情報取得手段によって取得された信頼性情報に基づき、前記処理手段が処理した夫々のマスクデータ内の所定の処理の結果を影響度を変えて合成する合成手段、
として機能させるためのプログラム。
【符号の説明】
【0062】
1 撮像装置
101 制御部
102 記憶部
103 表示部
104 通信部
105 操作部
106 撮像部
106a 撮像レンズ
107 第1の画像処理部
108 画像メモリ
109 解析部
20 肌解析部
21 保護マップデータ設定部
22 低域データ生成部
23 エッジ情報生成部
24 領域分割部
25 陰影用保護マップ生成部
26 肌理用保護マップ生成部
27 保護マップ境界信頼性判定部
110 第2の画像処理部
28 補正処理部
29 透過合成処理部
30 合成処理部
111 点灯制御部
112 発光部
【手続補正書】
【提出日】2023-11-01
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0006
【補正方法】変更
【補正の内容】
【0006】
上記課題を解決するため、本発明に係る画像処理装置は、人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理手段と、前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定手段と、を備えることを特徴とする。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0007
【補正方法】変更
【補正の内容】
【0007】
また、本発明に係る画像処理方法は、画像処理装置が実行する画像処理方法であって、人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理ステップと、前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定ステップと、を有することを特徴とする。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0008
【補正方法】変更
【補正の内容】
【0008】
また、本発明に係るプログラムは、コンピュータを、人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理手段、前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定手段、として機能させることを特徴とする。
【手続補正4】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理手段と、
前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定手段と、
を備えることを特徴とする画像処理装置。
【請求項2】
前記処理手段は、前記所定の補正処理として平滑化処理または肌理情報の付加処理を施す、
ことを特徴とする請求項1記載の画像処理装置。
【請求項3】
前記処理手段は、前記一対の補正画像を合成する場合に、前記一対の補正画像のそれぞれに対する画素ごとの信頼性を判定し、前記一対の補正画像間において信頼性が高く判定された方の画素の影響度が高くなるように合成する、
ことを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
画像処理装置が実行する画像処理方法であって、
人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理ステップと、
前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定ステップと、
を有することを特徴とする画像処理方法。
【請求項5】
コンピュータを、
人物画像におけるニキビが目立たなくなるように所定の画像処理を行う場合であって前記ニキビに対応する領域に限定して所定の補正処理を施す場合に、前記所定の補正処理の対象とされる領域のサイズが互いに異なるように生成された一対の保護マップを別個に適用して前記対象とされる領域に前記所定の補正処理を施すことにより一対の補正画像を生成するとともに、この生成された一対の補正画像を合成する処理手段、
前記一対の保護マップ間における前記サイズの差を前記人物画像における毛穴サイズに基づいて設定する設定手段、
として機能させることを特徴とするプログラム。