(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-30
(45)【発行日】2023-11-08
(54)【発明の名称】画像処理装置、画像処理方法、及び画像処理プログラム
(51)【国際特許分類】
G06T 7/90 20170101AFI20231031BHJP
G06T 1/00 20060101ALI20231031BHJP
【FI】
G06T7/90 D
G06T1/00 340A
G06T1/00 510
(21)【出願番号】P 2019051822
(22)【出願日】2019-03-19
【審査請求日】2022-03-04
【前置審査】
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】100106002
【氏名又は名称】正林 真之
(74)【代理人】
【識別番号】100120891
【氏名又は名称】林 一好
(74)【代理人】
【識別番号】100126000
【氏名又は名称】岩池 満
(72)【発明者】
【氏名】佐藤 武志
【審査官】佐藤 実
(56)【参考文献】
【文献】特開2018-198029(JP,A)
【文献】特開2017-217445(JP,A)
【文献】中国特許第100377565(CN,C)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
G06T 1/00
(57)【特許請求の範囲】
【請求項1】
画像を取得し、
取得された画像
の青色成分の値が周辺画素の画素値よりも所定値低い中心画素について、周辺画素の青色成分の値の影響が軽減されるぼかし処理を行い、
前記ぼかし処理がされた画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出し、
検出されたテカリ領域に対して、非テカリ領域に近づくよう、前記青色成分の値及び緑色成分の
値を補正する、
処理部を有することを特徴とする画像処理装置。
【請求項2】
前記処理部は、
前記取得された画像における色成分に関する情報のうち、青色成分に関する情報のみを用いて、該画像におけるテカリ領域を検出することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記処理部は、
前記取得された画像から、該画像の青色成分に関する情報が強調された画像情報を取得し、
取得された画像情報に基づいて、該画像におけるテカリ領域を検出することを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記処理部は、
前記取得された画像における人物の顔領域を検出し、
検出された顔領域における青色成分に関する情報に基づいて、該画像におけるテカリ領域を検出することを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。
【請求項5】
コンピュータが行う画像処理方法であって、
画像を取得するステップと、
取得された画像
の青色成分の値が周辺画素の画素値よりも所定値低い中心画素について、周辺画素の青色成分の値の影響が軽減されるぼかし処理をするステップと、
前記ぼかし処理がされた画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出するステップと、
前記検出されたテカリ領域に対して、非テカリ領域に近づくよう、前記青色成分の値及び緑色成分の
値を補正するステップと、
を含むことを特徴とする画像処理方法。
【請求項6】
コンピュータに、
画像を取得させ、
取得された画像
の青色成分の値が周辺画素の画素値よりも所定値低い中心画素について、周辺画素の青色成分の値の影響が軽減されるぼかし処理を行わせ、
前記ぼかし処理がされた画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出させ、
検出されたテカリ領域に対して、非テカリ領域に近づくよう、前記青色成分の値及び緑色成分の
値を補正させる、
ことを特徴とする画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
人物等の被写体が撮像された画像において、室内照明やストロボ等から照射された撮影時の光が画像内の被写体に写り込み、「テカリ」と呼ばれる光沢が発生することがある。このテカリは、画像の閲覧者に対して不自然さを与えてしまうことがある。
そこでこのテカリに対して補正等を行うための前処理として、画像におけるテカリが発生している領域を検出する技術が存在する。このような技術の一例として、特許文献1に開示の技術では、画像データを解析し、明度が所定以上の明るい部分をテカリ領域として検出する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、明度に基づいてテカリ領域を検出する場合、肌部分とテカリ領域との分離が難しく、適切にテカリ領域を検出することができないおそれがあった。
【0005】
本発明は上記課題に鑑みてなされたものであり、画像におけるテカリ領域を、より適切に補正することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の一態様の画像処理装置は、
画像を取得し、
取得された画像の青色成分の値が周辺画素の画素値よりも所定値低い中心画素について、周辺画素の青色成分の値の影響が軽減されるぼかし処理を行い、
前記ぼかし処理がされた画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出し、
検出されたテカリ領域に対して、非テカリ領域に近づくよう、前記青色成分の値及び緑色成分の値を補正する、
処理部を有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、画像におけるテカリ領域を、より適切に補正することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の画像処理装置の一実施形態に係る撮像装置のハードウェアの構成を示すブロック図である。
【
図2】本発明の画像処理装置の一実施形態に係る撮像装置が行なうテカリ補正処理の処理過程を説明するための模式図である。
【
図3】
図1の撮像装置の機能的構成のうち、テカリ補正処理を実行するための機能的構成を示す機能ブロック図である。
【
図4】
図3の機能的構成を有する
図1の撮像装置が実行するテカリ補正処理における器官保護領域マップの作成について説明する模式図である。
【
図5】
図3の機能的構成を有する
図1の撮像装置が実行するテカリ補正処理におけるテカリ領域マップの作成について説明する模式図である。
【
図6】
図3の機能的構成を有する
図1の撮像装置が実行するテカリ補正処理におけるテカリ領域マップの作成にて用いられる変換用テーブルの一例を示すグラフである。
【
図7】
図3の機能的構成を有する
図1の撮像装置が実行するテカリ補正処理におけるレタッチ画像の作成について説明する模式図である。
【
図8】
図3の機能的構成を有する
図1の撮像装置が実行するテカリ補正処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について、図面を用いて説明する。
【0010】
[ハードウェア構成]
図1は、本発明の画像処理装置の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えば、画像処理機能を備えるデジタルカメラとして構成される。
【0011】
撮像装置1は、
図1に示すように、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
【0012】
CPU11は、ROM12に記録されているプログラム、又は、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。
【0013】
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0014】
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。
【0015】
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0016】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0017】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、撮像された画像としてCPU11や図示しない画像処理部等に適宜供給される。
【0018】
入力部17は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像を記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
【0019】
ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像等の各種データも、記憶部19と同様に記憶することができる。
【0020】
[テカリ補正処理]
次に、
図2を参照して、テカリ補正処理について説明する。なお、以下の説明では、テカリの発生している肌領域を「テカリ領域」と称する。一方で、テカリの発生していない肌領域を「非テカリ領域」と称する。
図2は、
図1に示すように構成される撮像装置1が行う、テカリ補正処理の処理過程を説明するための模式図である。ここで、テカリ補正処理は、被写体が撮像された画像におけるテカリ領域を、より適切に検出し、検出したテカリ領域に対して補正を施す一連の処理である。
【0021】
図2に示すように、撮像装置1は、テカリ補正処理の対象となる画像である「元画像」を取得する。元画像がどのような画像であるかは特に限定されないが、ここでは、元画像として人物の顔が含まれる画像であって、画像パラメータとしてYUVで表現される画像を元画像とすることを想定する。ここで、YUVでは、輝度成分の信号Y、青色成分の差分信号Cb、及び赤色成分の差分信号Crそれぞれが示すディジタル値に基づいて画像が表現される。以下では、説明の一例として、被写体となった人物の顔表面の脂成分等が要因となり、顔にテカリが過剰に発生(例えば、輝度成分の信号Yの値が飽和するほどのテカリが発生)している画像を元画像と想定する。
【0022】
次に、撮像装置1は、元画像から顔検出及び器官検出を行うことにより、補正対象とする人物の、顔及び所定の器官を検出する。
また、撮像装置1は、これらの検出結果に基づいて、所定の器官に対してテカリ補正がなされないように保護をするためのマップである「器官保護領域マップ」を作成する。
更に、撮像装置1は、元画像の器官保護領域マップに対応する領域を切り出して、「トリミング画像」を作成する。このように切り出しを行うのは、処理対象とする領域を限定することにより、以後の処理における演算処理量を削減するためである。
【0023】
更に、撮像装置1は、トリミング画像から取得した画像情報であって、青色成分に対応する画像情報(例えば、YUVカラーモデルからRGBカラーモデルに変換した後のBの値)に基づいて、トリミング画像におけるテカリ領域を検出する。
ここで、青色成分は、非テカリ領域における肌色から遠い色成分である。従って、青色成分は、テカリ領域で多くなるが、非テカリ領域では少なくなるので、各領域での差分が出やすい。そのため、テカリ領域と、非テカリ領域とを、精度高く分離しやすい。
これに対して、肌色に近い色成分である赤成分や緑成分あるいは輝度は、テカリ領域でも多くなり、非テカリ領域でも多くなる。特に、非テカリ領域で肌色が濃い領域は多くなる。従って、これらの色成分や輝度では、各領域での差分が出にくい。そのため、テカリ領域と、非テカリ領域とを精度高く分離しにくい。
【0024】
これらの点を考慮して、撮像装置1は、上述したように、各領域での差分が出やすい青色成分に基づいてテカリ領域を検出する。これにより、撮像装置1は、例えば、青色成分以外の成分によってテカリ領域を検出する場合や、青色成分以外の他の成分を優先して用いてテカリ領域を検出する場合と比較して、より適切にテカリ領域を検出することができる。
【0025】
そして、撮像装置1は、このようにして、より適切に検出した、トリミング画像におけるテカリ領域に基づいて、検出したテカリ領域をテカリ補正の対象とするためのマップである「テカリ領域マップ」を作成する。
【0026】
また、撮像装置1は、作成した器官保護領域マップとテカリ領域マップとに基づいて、「αマップ」を作成する。ここで、上述したように器官保護領域マップは、所定の器官に対してテカリ補正がなされないように保護をするためのマップであり、テカリ領域マップは、検出したテカリ領域をテカリ補正の対象とするためのマップである。従って、これら各マップの特性に基づいて作成されたαマップは、これら各マップの特性を兼ね備えたマップになる。すなわち、αマップは、所定の器官に対してテカリ補正がなされないように保護しつつも、検出したテカリ領域をテカリ補正の対象とすることを可能とするマップとなる。
【0027】
これら、器官保護領域マップ、テカリ領域マップ、及びαマップは、補正対象となる画素を特定すると共に、各補正対象の画素における補正度合い(すなわち、補正実行時に重み付けとなる係数)を示すα値を含んだマップである。
なお、
図2を含む各図において、α値の表現として、値が「0」の場合を黒色で示し、値が「1」の場合を白色で示し、値が「0から1までの中間値」の場合をハッチングで示す。すなわち、図の表現において、色が黒色の領域は補正対象とならず、色が白に近づくにつれて、より補正度合いが高まることを示す。
【0028】
次に、撮像装置1は、トリミング画像を修正(すなわち、レタッチ)することにより、テカリ補正を実現するために、テカリを抑制した画像である「レタッチ画像」を作成する。例えば、撮像装置1は、テカリ部分を肌色に近づける処理と共に、テカリ領域と他の領域との境界をぼかす処理を行うことにより、レタッチ画像を作成する。
【0029】
また、撮像装置1は、αマップにて特定される形状及びα値に基づいて、トリミング画像に対してレタッチ画像を合成することにより、トリミング画像の各画素に対するテカリ補正を行う。これにより、テカリ領域に対しては多くの割合でレタッチ画像が合成される。一方で、テカリ領域以外の非テカリ領域や所定の器官に対しては、より少ない割合でレタッチ画像が合成されるか、あるいはレタッチ画像は全く合成されない。
【0030】
このように合成をすることにより、より適切に検出したテカリ領域に対してテカリ補正をすると共に、所定の器官に対してはテカリ補正をせずに保護をすることができる。
そして、撮像装置1は、このようにして補正した画像である「補正後画像」を元画像の対応する位置(すなわち、トリミング画像を切り出した位置)に貼り付けることにより「最終画像」を作成する。
【0031】
以上説明したように、撮像装置1は、画像の青色成分に基づいてテカリ領域を検出することから、画像におけるテカリ領域を、より適切に検出することができる。
従って、撮像装置1は、より適切に検出したテカリ領域に対してテカリを抑制する補正を行うことができる。これにより、撮像装置1は、画像においてテカリによって生じる不自然さを抑制することができる。
【0032】
また、撮像装置1は、画像の青色成分に基づいてテカリ領域を検出することから、青色成分以外の、他の色成分によるテカリ領域の検出処理を省略することができる。すなわち、撮像装置1は、複数の色成分によるテカリ領域の検出処理を行うよりも、演算処理量を削減することができる。
更に、撮像装置1は、器官保護領域マップを作成することから、テカリ補正の対象とするべきでない所定の器官に対して、テカリ補正を行わずに保護することができる。
【0033】
[機能的構成]
図3は、
図1の撮像装置1の機能的構成のうち、上述したテカリ補正処理を実行するための機能的構成を示す機能ブロック図である。
【0034】
テカリ補正処理を実行する場合には、
図3に示すように、CPU11において、画像取得部111と、被写体検出部112と、保護領域検出部113と、テカリ領域検出部114と、レタッチ画像作成部115と、αマップ作成部116と、テカリ補正部117と、が機能する。
【0035】
また、記憶部19の一領域には、画像記憶部191が設定される。
以下で特に言及しない場合も含め、これら機能ブロック間では、テカリ補正処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
【0036】
画像記憶部191には、撮像部16から出力された画像や、通信部20を介した通信により受信した画像が記憶される。また、画像記憶部191には、テカリ補正処理の過程において作成される、器官保護領域マップ、テカリ領域マップ、トリミング画像、αマップ、レタッチ画像、補正後画像及び最終画像等も適宜記憶される。
【0037】
画像取得部111は、撮像部16により撮像され現像処理が行われた画像、或いは画像記憶部191に記憶されている画像を取得する。この画像は、上述した元画像に相当する。
【0038】
被写体検出部112は、画像取得部111が取得した画像から被写体である人物の顔を検出すると共に、検出した顔を構成する各器官を検出する。この顔や各器官の検出を実現する技術は、特に限定されず、例えば、顔の輪郭や、各器官の特徴点である器官点に基づいて検出を行うような、既存の顔検出技術及び既存の器官検出技術を用いることができる。
【0039】
保護領域検出部113は、被写体検出部112による検出結果に基づいて、所定の器官に対応する領域を検出し、この所定の器官に対してテカリ補正がなされないように保護をするためのマップである器官保護領域マップを作成する。保護領域検出部113による、この器官保護領域マップの作成について
図4を参照して説明する。
【0040】
まず保護領域検出部113は、
図4(A)に示すように、楕円のグラデーションデータを含んだ四辺形のデータを展開する。このグラデーションデータにおけるグラデーションの濃度は、α値に対応する濃度であり、楕円の中心のα値が高く、楕円の外側に近づくにつれてα値が段階的に低く設定されている。すなわち、中心から外側に近づくにつれて、補正の度合いが抑えられるように設定されている。仮に、このようなグラデーションを設定しない場合、α値が「1」のテカリ補正を行う領域と、α値が「0」テカリ補正を一切行わない領域との境界が明確となり、テカリ補正が不自然となってしまう。そこで、本実施形態では、このようにグラデーションを設定することによって境界をぼかし、テカリ補正が不自然となってしまうことを防止する。
【0041】
なお、グラデーションデータを含んだ四辺形の形状や大きさ及び濃度は、被写体検出部112が元画像から検出した顔の領域に合わせて、都度決定されるようにしてもよいし、予め用意したテンプレートを拡大や縮小することにより決定されるようにしてもよい。
【0042】
次に、保護領域検出部113は、
図4(B)に示すように、展開したグラデーションデータを、被写体検出部112が元画像から検出した顔の方向に合わせて回転させる。すなわち、楕円形状をしているグラデーションデータと、楕円形状をしている元画像の顔の領域とが合致するようにグラデーションデータを回転させる。
【0043】
また、保護領域検出部113は、所定の器官に対応する領域に対してテカリ補正がなされないように、
図4(C)に示すように、グラデーションデータにおける、被写体検出部112が元画像から検出した所定の器官に対応する領域のα値を「0」に設定する。上述したように、図中ではα値「0」を黒で表現するので、所定の器官に対応する領域が黒く塗りつぶされる。なお、何れの器官を所定の器官として取り扱うのかは、任意に定めてよいが、ここでは一例として、左右の目、鼻、及び唇を所定の器官として取り扱う。なお、グラデーションデータのα値を楕円の外側に近づくにつれて低く設定したのと同様の考えに基づいて、所定の器官に対応する領域の外縁周辺のα値を「0」よりも高くなるように設定してもよい。これにより、所定の器官とそれ以外の領域との境界をぼかすことができ、テカリ補正が不自然となってしまうことを防止することができる。
【0044】
更に、保護領域検出部113は、グラデーションデータの楕円に外接する長方形でトリミングすることにより、
図4(D)に示すような器官保護領域マップを作成する。このようにトリミングを行い、処理対象とする領域を限定することにより、以後の処理における演算処理量を削減することができる。
【0045】
テカリ領域検出部114は、元画像から器官保護領域マップに対応する領域を切り出して、トリミング画像を作成する。トリミング画像を作成する理由は、器官保護領域マップの作成の際に上述したように、処理対象とする領域を限定することにより、以後の処理における演算処理量を削減するためである。
【0046】
そして、テカリ領域検出部114は、このトリミング画像からテカリ領域を検出し、検出したテカリ領域をテカリ補正の対象とするためのマップであるテカリ領域マップを作成する。テカリ領域検出部114による、このトリミング画像の作成と、テカリ領域マップの作成について
図5を参照して説明する。
【0047】
まず、テカリ領域検出部114は、元画像から器官保護領域マップに対応する領域を切り出して、
図5(A)に示すようなトリミング画像を作成する。
【0048】
また、テカリ領域検出部114は、YUVカラーモデルで表現されているトリミング画像をRGBカラーモデルに変換し、青色成分のみで表現された(すなわち、RGBカラーモデルにおけるBチャンネルのみで表現された)、
図5(B)に示すようなBチャンネル画像を作成する。このように、テカリ領域を検出するために青成分のみを抽出して強調する理由は、上述したように、青色成分が非テカリ領域における肌色から遠い色成分であり、テカリ領域と、非テカリ領域とを、精度高く分離しやすい特性を有しているからである。
【0049】
更に、テカリ領域検出部114は、青成分のみで表現された画像に対して、εフィルタを利用したぼかし処理を行うことにより、
図5(C)に示すようなぼかし処理後の画像を作成する。このεフィルタには、所定のフィルタ係数が設定される。具体的には、Bの値が周辺画素の画素値よりも所定値低い中心画素については、周辺画素のBの値の影響が軽減されるようにフィルタ係数が設定されたεフィルタが用いられる。このぼかし処理により、画像内の急峻な変化を維持しつつ小信号ノイズを除去し、エッジを残して小さな凹凸を除去することで平坦な画像を生成することができる。これにより、例えば、顔において化粧が施されている場合に、化粧品に用いられているラメ等の、凹凸の原因の影響を低減することができる。
なお、εフィルタを用いる以外の方法でぼかし処理を行うようにしてもよい。例えば、ローパスフィルタを用いてぼかし処理を行うようにしてもよい。
【0050】
更に、テカリ領域検出部114は、ぼかし処理が施された画像に対して、Bの値を変換するための変換用ルックアップテーブル(Lookup table)を用いて、Bの値の変換を行い、テカリ領域と、非テカリ領域とを強調して切り分けることにより、
図5(D)に示すようなテカリ領域マップを作成する。
【0051】
変換用ルックアップテーブルの一例を
図6に示す。この変換用ルックアップテーブルでは、元画像のBの値と変換後のBの値との対応関係がS字状の実線で表される。
このS字状の実線で表されるように、元画像のBの値と変換後のBの値とは単純な1対1の比例関係にはなく、元画像のBの値が、S字の曲線部分に相当する範囲よりも小さい場合は変換後のBの値は「0」となり、このS字の曲線部分に相当する範囲よりも大きい場合は変換後のBの値は「1」となるように設定されている。また、元画像のBの値が、このS字の曲線部分に相当する範囲にある場合は、変換後のBの値は、より「0」に近い値、又はより「1」に近い値となるように設定されている。すなわち、テカリ領域と、非テカリ領域とを、強調して切り分けるように設定されている。
テカリ領域検出部114は、このような変換用ルックアップテーブルを用いて、Bの値の変換を行い、テカリ領域と、非テカリ領域とを、強調して切り分けることにより、
図5(D)に示すようなテカリ領域マップを作成する。
【0052】
レタッチ画像作成部115は、テカリ領域検出部114と同様に、元画像からトリミング画像を作成する。あるいは、レタッチ画像作成部115は、テカリ領域検出部114が元画像から作成したトリミング画像を取得する。トリミング画像を作成する理由は、テカリ領域検出部114と同様に、処理対象とする領域を限定することにより、以後の処理における演算処理量を削減するためである。
【0053】
そして、レタッチ画像作成部115は、このトリミング画像を修正(すなわち、レタッチ)することにより、テカリ補正を実現するために、テカリを抑制した画像であるレタッチ画像を作成する。レタッチ画像作成部115による、このトリミング画像の作成と、レタッチ画像の作成について
図7を参照して説明する。
【0054】
まず、レタッチ画像作成部115は、テカリ領域検出部114と同様にして(あるいはテカリ領域検出部114から取得して)、
図7(A)に示すようなトリミング画像を作成する。また、レタッチ画像作成部115は、後段の処理に用いるために、人物の肌色を計測する。計測対象とする領域は、非テカリ領域が多く含まれ、人物の肌色をよく示している領域が望ましい。例えば、
図7に示す領域AR1を計測対象の領域とするとよい。そして、レタッチ画像作成部115は、計測対象の領域をRGBカラーモデルに変換し、変換後の計測対象の領域における各画素のRGBそれぞれの値を計測する。そして、レタッチ画像作成部115は、これら各画素の計測値の平均値(あるいは、中央値や最頻値)を算出し、この算出した値を、この人物の肌色を示すRGBそれぞれの値とする。
【0055】
この場合に、何れかの画素のRGBの値が、一般的な肌色からかけ離れている値である場合には、この画素の値は平均値(あるいは、中央値や最頻値)の算出に用いないようにしてもよい。また、算出した平均値(あるいは、中央値や最頻値)が、一般的な肌色からかけ離れている値である場合には、計測結果を用いることなく、予め設定しておいた一般的な肌色の値を、この人物の肌色を示すRGBそれぞれの値としてもよい。
また、YUVカラーモデルの画像に対して計測を行い、このYUVモデルにおける計測値を、RGBカラーモデルの値に変換するようにしてもよい。
【0056】
また、レタッチ画像作成部115は、作成したトリミング画像を縮小し、画像のサイズをより小さくする。これにより、処理対象となる領域が限定され、以後のレタッチ画像作成のための処理を高速に行うことができる。更に、レタッチ画像作成部115は、縮小後の画像に対して、εフィルタを利用したぼかし処理を行うことにより、
図7(B)に示すようなぼかし処理後の画像を作成する。このεフィルタには、上述したテカリ領域検出部114が利用するεフィルタと同様に、所定のフィルタ係数が設定される。具体的には、YUVカラーモデルにおける各値が周辺画素の画素値よりも所定値低い中心画素については、周辺画素の対応する値の影響が軽減されるようにフィルタ係数が設定されたεフィルタが用いられる。このぼかし処理により、画像内の急峻な変化を維持しつつ小信号ノイズを除去し、エッジを残して小さな凹凸を除去することで平坦な画像を生成することができる。
【0057】
これにより、例えば、レタッチ画像作成の過程で発生することがある、暗いエッジを滑らかにすることができる。また、Uの値やVの値をぼかすことにより、テカリ領域と非テカリ領域の境界を、柔らかく見えるようにすることができる。
【0058】
なお、上述したテカリ領域検出部114のぼかし処理と同様に、εフィルタを用いる以外の方法でぼかし処理を行うようにしてもよい。例えば、ローパスフィルタを用いてぼかし処理を行うようにしてもよい。
【0059】
次に、レタッチ画像作成部115は、ぼかし処理後の画像をRGBカラーモデルに変換し、Gの値及びBの値のそれぞれが低下するようにゲインをかける。すなわち、Gの値及びBの値のそれぞれを補正する。
この処理は、Gの値及びBの値を下げることにより、テカリ領域の色を、この人物の肌の色(すなわち、非テカリ領域の色)に近づけるために行う。そのため、上述したようにして計測を行うことにより取得した、この人物の肌色を示すGの値とBの値に近づくようにゲイン量を決定する。このように、この人物から測定した肌の色に基づいて、ゲインをかけることから、人物それぞれ異なる肌の色であることを考慮した上で、人物それぞれに対して適切なゲイン量でゲインをかけることが可能となる。レタッチ画像作成部115は、ゲインをかけた画像を、再度YUVカラーモデルに変換することにより、
図7(C)に示すようなゲイン補正後の画像を作成する。
【0060】
また、レタッチ画像作成部115は、YUVカラーモデルに変換後の画像を拡大し、元画像から作成したトリミング画像と同じ大きさにリサイズすることにより、
図7(D)に示すようなレタッチ画像を作成する。
【0061】
αマップ作成部116は、αマップを作成する。αマップ作成部116は、保護領域検出部113が作成した器官保護領域マップのα値と、テカリ領域検出部114が作成したテカリ領域マップのα値とを、マップ内に含まれる各画素それぞれについて乗算することにより作成する。
【0062】
ここで、上述したように器官保護領域マップは、所定の器官に対してテカリ補正がなされないように保護をするためのマップであり、テカリ領域マップは、検出したテカリ領域をテカリ補正の対象とするためのマップである。従って、これら各マップの特性に基づいて作成されたαマップは、これら各マップの特性を兼ね備えたマップになる。すなわち、αマップは、所定の器官に対してテカリ補正がなされないように保護しつつも、検出したテカリ領域をテカリ補正の対象とすることを可能とするマップとなる。
【0063】
テカリ補正部117は、αマップ作成部116が作成したαマップにて特定される形状及びα値に基づいて、トリミング画像に対してレタッチ画像を合成することにより、トリミング画像の各画素に対するテカリ補正を行う。具体的には、α値の値が高いほどレタッチ画像が多くの割合で合成される。極端には、α値が「1」であれば合成後の画像はレタッチ画像そのものとなる。一方で、α値の値が低いほどレタッチ画像は少ない割合で合成される。極端には、α値が「0」であれば合成後の画像はトリミング画像そのものとなる。
【0064】
ここで、テカリ領域マップではテカリ領域のα値は高く設定されていることから、これから作成されたαマップに基づいた補正を行うことにより、テカリ領域に対しては多くの割合でレタッチ画像が合成される。一方で、非テカリ領域に対しては、より少ない割合でレタッチ画像が合成されるか、あるいはレタッチ画像は全く合成されない。
また、器官保護領域マップでは所定の器官に対応する領域のα値が低く設定されていることから、所定の器官に対応する領域に対しては、より少ない割合でレタッチ画像が合成されるか、あるいはレタッチ画像は全く合成されない。一方で、所定の器官に対応する領域以外の領域については、テカリ領域マップで設定されたα値に基づいて、レタッチ画像が合成される。
【0065】
このように合成をすることにより、より適切に検出したテカリ領域に対してテカリ補正をすると共に、所定の器官に対してはテカリ補正をせずに保護をすることができる。
そして、テカリ補正部117は、このようにして合成により補正した画像である補正後画像を元画像の対応する位置(すなわち、トリミング画像を切り出した位置)に貼り付けることにより最終画像を作成する。
また、テカリ補正部117は、最終画像を出力する。例えば、テカリ補正部117は、出力として、最終画像を出力部18に表示させたり、最終画像を画像記憶部191に記憶させたりする。
【0066】
[動作]
図8は、
図3の機能的構成を有する
図1の撮像装置1が実行するテカリ補正処理の流れを説明するフローチャートである。
テカリ補正処理は、ユーザによる入力部17へのテカリ補正処理開始の操作により開始される。
【0067】
テカリ補正処理開始の操作は、撮影指示操作であって、この撮影指示操作に応じて撮像部16により撮像され、現像処理が行われた画像に対して、引き続きテカリ補正処理を行ってもよく、また、画像記憶部191に記憶されている画像を選択し、その選択された画像に対するテカリ補正処理開始の操作であってもよい。
【0068】
ステップS11において、画像取得部111は、撮像部16により撮像され、現像処理が行われた画像、或いは画像記憶部191から処理対象となる画像を、元画像として取得する。
ステップS12において、被写体検出部112は、ステップS11で画像取得部111が取得した画像から被写体であるユーザの顔を検出すると共に、検出した顔において顔を構成する各器官を検出するための処理を行う。
【0069】
ステップS13において、被写体検出部112は、ステップS12での検出結果において、画像からテカリ補正処理の対象とする被写体(ここでは、人物)が検出されたか否かを判定する。画像から被写体が検出された場合は、ステップS13においてYesと判定され、処理はステップS14に進む。一方で、画像に被写体が含まれておらず、被写体が検出されなかった場合は、ステップS13においてNoと判定され、本処理は終了する。
【0070】
ステップS14において、保護領域検出部113は、器官保護領域マップを作成する。
ステップS15において、テカリ領域検出部114は、テカリ領域マップを作成する。
ステップS16において、レタッチ画像作成部115は、レタッチ画像を作成する。
ステップS17において、αマップ作成部116は、αマップを作成する。
【0071】
なお、説明の便宜上、ステップS14からステップS17の順番で説明をしているが、これらの処理の順番は限定されず、例えば、ステップS17を行ってからステップS16を行うようにしてもよい。また、これらの処理を並行して同時に行なうようにしてもよい。例えば、ステップS15と、ステップS16を並行して同時に行なうようにしてもよい。
【0072】
ステップS18において、テカリ補正部117は、αマップに基づいて、トリミング画像に対してレタッチ画像を合成することにより、トリミング画像の各画素に対するテカリ補正を行う。
ステップS19において、テカリ補正部117は、補正後画像を元画像の対応する位置(すなわち、トリミング画像を切り出した位置)に貼り付けることにより最終画像を作成する。
ステップS20において、テカリ補正部117は、最終画像を出力する。
【0073】
以上説明したテカリ補正処理によれば、撮像装置1は、画像の青色成分に基づいてテカリ領域を検出することから、画像におけるテカリ領域を、より適切に検出することができる。
従って、撮像装置1は、より適切に検出したテカリ領域に対してテカリを抑制する補正を行うことができる。これにより、撮像装置1は、画像においてテカリによって生じる不自然さを抑制することができる。
【0074】
また、撮像装置1は、画像の青色成分に基づいてテカリ領域を検出することから、青色成分以外の、他の色成分によるテカリ領域の検出処理を省略することができる。すなわち、撮像装置1は、複数の色成分によるテカリ領域の検出処理を行うよりも、演算処理量を削減することができる。
更に、撮像装置1は、器官保護領域マップを作成することから、テカリ補正の対象とするべきでない所定の器官に対して、テカリ補正を行わずに保護することができる。
【0075】
[構成例]
以上のように構成される撮像装置1は、画像取得部111と、テカリ領域検出部114と、を有する。
画像取得部111は、画像を取得する。
テカリ領域検出部114は、画像取得部111により取得された画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出する。
このように、撮像装置1は、画像の青色成分を優先してテカリ領域を検出する。ここで、上述したように、青色成分は、非テカリ領域で少なくなる一方で、テカリ領域で多くなり、各領域での差分が出やすい。従って、撮像装置1は、画像におけるテカリ領域を、より適切に検出することができる。
【0076】
テカリ領域検出部114は、画像取得部111により取得された画像における色成分に関する情報のうち、青色成分に関する情報のみを用いて、該画像におけるテカリ領域を検出する。
これにより、撮像装置1は、画像におけるテカリ領域を、より適切に検出することができると共に、青色成分以外の色成分によるテカリ領域検出処理を省略することができる。すなわち、撮像装置1は、複数の色成分によるテカリ領域の検出処理を行うよりも、演算処理量を削減することができる。
【0077】
撮像装置1は、テカリ補正部117を更に有する。
テカリ補正部117は、テカリ領域検出部114により検出されたテカリ領域に対して、テカリを抑制する補正を施す。
これにより、撮像装置1は、より適切に検出したテカリ領域に対してテカリを抑制する補正を行うことができる。そのため、撮像装置1は、画像においてテカリによって生じる不自然さを抑制することができる。
【0078】
テカリ補正部117は、画像取得部111により取得された画像にぼかし処理を少なくとも行う。
これにより、撮像装置1は、テカリ補正に伴い発生するエッジをなめらかにすると共に、テカリ領域と非テカリ領域との境界をやわらかく見えるように補正することができる。
【0079】
テカリ領域検出部114は、画像取得部111により取得された画像から、該画像の青色成分に関する情報が強調された画像情報を取得する。
テカリ領域検出部114は、取得された画像情報に基づいて、該画像におけるテカリ領域を検出する。
これにより、撮像装置1は、青色成分に関する情報が強調された画像情報に基づいて、画像の青色成分を優先してテカリ領域を検出することができる。
【0080】
撮像装置1は、被写体検出部112を更に有する。
被写体検出部112は、画像取得部111により取得された画像における人物の顔領域を検出する。
テカリ領域検出部114は、被写体検出部112により検出された顔領域における青色成分に関する情報に基づいて、該画像におけるテカリ領域を検出する。
これにより、撮像装置1は、人物の顔領域に対応するテカリ領域を検出することができる。
【0081】
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
【0082】
<変形例>
上述の実施形態では、テカリ領域検出部114によるテカリ領域の検出において、青色成分のみで表現された(すなわち、RGBカラーモデルにおけるBチャンネルのみで表現された)画像を作成し、この画像に含まれる青色成分のみに基づいて、テカリ領域を検出した。しかしこれに限らず、青色成分以外の色成分にも基づいて、テカリ領域を検出するようにしてもよい。例えば、他の色成分を用いると共に、青色成分を他の色成分をよりも優先して用いるようにして、テカリ領域を検出するようにしてもよい。
【0083】
この場合、テカリ領域検出部114は、例えば、上述の説明と同様にして、青色成分のみに基づいてテカリ領域マップを作成する。他方で、テカリ領域検出部114は、上述の説明における青色成分を赤色成分に置き換えて、上述の説明と同様にして、赤色成分のみに基づいてテカリ領域マップを作成する。更に、テカリ領域検出部114は、上述の説明における青色成分を緑色成分に置き換えて、上述の説明と同様にして、緑色成分のみに基づいてテカリ領域マップを作成する。
これにより、青色成分、赤色成分、及び緑色成分の、3つの色成分それぞれに対応した3つのテカリ領域マップを作成することができる。
【0084】
次に、テカリ領域検出部114は、テカリ領域マップのそれぞれの画素について、3つのテカリ領域マップのα値の平均値を算出する。そして、この平均値の算出において、青色成分を強調して優先して用いるために、青色成分のα値には優先度合いに応じた係数をかけて重み付けをすることにより、加重平均の値を算出する。そして、この加重平均の値として算出されたα値により、最終的なテカリ領域マップを作成する。
【0085】
これにより、他の色成分を用いると共に、青色成分を他の色成分をよりも優先して用いるようにして、テカリ領域を検出して、テカリ領域マップを作成することができる。
従って、上述した、青色成分が非テカリ領域における肌色から遠い色成分であり、テカリ領域と、非テカリ領域とを、精度高く分離しやすいという特性を活かしつつも、他の色成分にも基づいて、テカリ領域を検出して、テカリ領域マップを作成することができる。
【0086】
上述の実施形態では、人物の顔を対象としてテカリ補正処理を行っていたが、これに限らない。人物の顔以外の部位を対象としてテカリ補正処理を行ってもよい。また、人物ではなく、人間以外の生物や、非生物を対象としてテカリ補正処理を行ってもよい。
すなわち、上述の実施形態によるテカリ補正処理は、様々な被写体を処理対象として行なうことができる。
【0087】
上述の実施形態では、本発明が適用される対象が、デジタルカメラで実現される撮像装置1である場合を例にとって説明したが、これに限らない。本発明は、情報処理機能を有する電子機器一般に適用することができる。例えば、本発明は、パーソナルコンピュータ、サーバ装置、スマートフォン、携帯電話機、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、ポータブルゲーム機等に適用することができる。
【0088】
この場合に、これら電子機器は、自身で撮像した画像を対象として上述したテカリ補正処理を行ってもよいし、他の電子機器で撮像した画像を対象として上述したテカリ補正処理を行ってもよい。つまり、複数の電子機器が協働することにより、上述したテカリ補正処理を行ってもよい。例えば、或る電子機器が、他の電子機器で撮像した画像を、ネットワークや記憶媒体を介して取得し、この取得した画像を対象として上述したテカリ補正処理を行ってもよい。すなわち、本発明は、撮像機能を有さない画像処理装置によって実現することもできる。
【0089】
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、
図3の機能的構成は例示に過ぎず、特に限定されない。すなわち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に
図3の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
【0090】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0091】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される
図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk),Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている
図1のROM12や、
図1の記憶部19に含まれるハードディスク等で構成される。
【0092】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0093】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、更に、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0094】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
画像を取得する画像取得手段と、
前記画像取得手段により取得された画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出するテカリ領域検出手段と、
を有することを特徴とする画像処理装置。
[付記2]
前記テカリ領域検出手段は、前記画像取得手段により取得された画像における色成分に関する情報のうち、青色成分に関する情報のみを用いて、該画像におけるテカリ領域を検出することを特徴とする付記1に記載の画像処理装置。
[付記3]
前記テカリ領域検出手段により検出されたテカリ領域に対して、テカリを抑制する補正を施すテカリ補正手段を更に有することを特徴とする付記1又は2に記載の画像処理装置。
[付記4]
前記テカリ補正手段は、前記画像取得手段により取得された画像にぼかし処理を少なくとも行うことを特徴とする付記3に記載の画像処理装置。
[付記5]
前記画像取得手段により取得された画像から、該画像の青色成分に関する情報が強調された画像情報を取得する画像情報取得手段を更に有し、
前記テカリ領域検出手段は、前記画像情報取得手段により取得された画像情報に基づいて、該画像におけるテカリ領域を検出することを特徴とする付記1から4のいずれか一に記載の画像処理装置。
[付記6]
前記画像取得手段により取得された画像における人物の顔領域を検出する顔領域検出手段を有し、
前記テカリ領域検出手段は、前記顔領域検出手段により検出された顔領域における青色成分に関する情報に基づいて、該画像におけるテカリ領域を検出することを特徴とする付記1から5のいずれか一に記載の画像処理装置。
[付記7]
画像を取得する画像取得ステップと、
前記画像取得ステップにて取得された画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出するテカリ領域検出ステップと、
を有することを特徴とする画像処理方法。
[付記8]
画像を取得する画像取得手段、
前記画像取得手段により取得された画像における青色成分に関する情報を他の成分に関する情報よりも優先して用いて、該画像におけるテカリ領域を検出するテカリ領域検出手段、
としてコンピュータを機能させることを特徴とする画像処理プログラム。
【符号の説明】
【0095】
1・・・撮像装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,111・・・画像取得部,112・・・被写体検出部,113・・・保護領域検出部,114・・・テカリ領域検出部,115・・・レタッチ画像作成部,116・・・αマップ作成部,117・・・テカリ補正部,191・・・画像記憶部