(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-11
(45)【発行日】2023-12-19
(54)【発明の名称】電子機器、画像処理方法、及び画像処理プログラム
(51)【国際特許分類】
G06T 1/00 20060101AFI20231212BHJP
H04N 23/60 20230101ALI20231212BHJP
【FI】
G06T1/00 510
G06T1/00 340A
H04N23/60 500
(21)【出願番号】P 2019051821
(22)【出願日】2019-03-19
【審査請求日】2022-03-08
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】100106002
【氏名又は名称】正林 真之
(74)【代理人】
【識別番号】100120891
【氏名又は名称】林 一好
(74)【代理人】
【識別番号】100126000
【氏名又は名称】岩池 満
(72)【発明者】
【氏名】小和 一弘
【審査官】粕谷 満成
(56)【参考文献】
【文献】特開2019-032714(JP,A)
【文献】特開2012-165146(JP,A)
【文献】特開2018-117289(JP,A)
【文献】特開2008-160474(JP,A)
【文献】特開2012-085083(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00
H04N 23/60
(57)【特許請求の範囲】
【請求項1】
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官
として歯を検出する器官検出手段と、
少なくとも唇を含み、前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする電子機器。
【請求項2】
前記テンプレート作成手段は、前記所定の器官に対応する領域の画像情報に含まれる明るさ情報と色情報のうち、明るさ情報及び色情報の何れか又は双方のみを用いて、前記補正テンプレートを作成することを特徴とする請求項1に記載の電子機器。
【請求項3】
前記器官検出手段の検出結果に基づいて、前記所定の器官の形状に対応する修正前補正テンプレートを作成する修正前テンプレート作成手段を更に有し、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記修正前補正テンプレートを修正する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成することを特徴とする請求項1又は2に記載の電子機器。
【請求項4】
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する、又は、前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する
ことを特徴とする請求項3に記載の電子機器。
【請求項5】
前記器官検出手段は、前記被写体画像における被写体の前記所定の器官とは異なる他の器官を更に検出し、
前記修正前テンプレート作成手段は、前記器官検出手段の検出結果に基づいて、前記他の器官の形状に対応する修正前補正テンプレートを更に作成し、
前記テンプレート作成手段は、前記他の器官に対応する修正前補正テンプレートは修正しない
ことを特徴とする請求項3又は4に記載の電子機器。
【請求項6】
前記器官検出手段は、時間の経過に伴う形状の変化が他の器官に比べて大きい器官を、前記所定の器官として検出する
ことを特徴とする請求項1乃至5の何れか1項に記載の電子機器。
【請求項7】
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報及び明るさ情報の何れか又は双方に基づいて、前記補正テンプレートにおける各画素それぞれの補正度合いを決定する
ことを特徴とする請求項1乃至
6の何れかに記載の電子機器。
【請求項8】
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする請求項1乃至
7の何れかに記載の電子機器。
【請求項9】
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官を検出する器官検出手段と、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有し、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする電子機器。
【請求項10】
被写体画像を取得する画像取得ステップと、
前記被写体画像における被写体の所定の器官
として歯を検出する器官検出ステップと、
少なくとも唇を含み、前記器官検出ステップにより検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得ステップと、
前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにて検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得ステップにて取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成ステップと、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正ステップと、
を有することを特徴とする画像処
理方法。
【請求項11】
被写体画像を取得する画像取得ステップと、
前記被写体画像における被写体の所定の器官を検出する器官検出ステップと、
前記器官検出ステップにより検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得ステップと、
前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにて検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得ステップにて取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成ステップと、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正ステップと、
を有し、
前記テンプレート作成ステップは、前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得ステップにより取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする画像処理方法。
【請求項12】
被写体画像を取得する画像取得手段、
前記被写体画像における被写体の所定の器官
として歯を検出する器官検出手段、
少なくとも唇を含み、前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段、
としてコンピュータを機能させることを特徴とする画像処理プログラム。
【請求項13】
被写体画像を取得する画像取得手段、
前記被写体画像における被写体の所定の器官を検出する器官検出手段、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段、
としてコンピュータを機能させ、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子機器、画像処理方法、及び画像処理プログラムに関する。
【背景技術】
【0002】
従来、画像における被写体の器官を検出し、この検出した器官に対応する画像に対して、所定の画像処理(例えば、美顔補正)を行う技術が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述した特許文献1に開示された技術等の一般的な技術では、検出した器官に対応する画像補正用のテンプレートを用いて、画像補正を行う対象の領域を特定している。
しかしながら、予め用意された補正テンプレートを用いた場合、ユーザの顔の向きや表情によっては、画像補正を行う対象の領域に適切に対応できず、検出した器官からはみ出した領域や、検出した器官における補正が必要ない領域に対して補正を行ってしまうことがあった。このような補正を行ってしまうと、補正後の画像が、不自然となってしまうという問題が生じる。
【0005】
本発明は、このような状況に鑑みてなされたものであり、画像補正により画像が不自然となることを抑制することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明の一態様の電子機器は、
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官として歯を検出する器官検出手段と、
少なくとも唇を含み、前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、画像補正により画像が不自然となることを抑制することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の画像処理装置の一実施形態に係る撮像装置のハードウェアの構成を示すブロック図である。
【
図2】本発明の画像処理装置の一実施形態に係る撮像装置が行なう被写体画像補正処理の処理過程を説明するための模式図である。
【
図3】
図1の撮像装置の機能的構成のうち、被写体画像補正処理を実行するための機能的構成を示す機能ブロック図である。
【
図4】
図3の機能的構成を有する
図1の撮像装置が実行する被写体画像補正処理における器官検出や第1αマップの作成等について説明する模式図である。
【
図5】
図3の機能的構成を有する
図1の撮像装置が実行する被写体画像補正処理における第2αマップの作成について説明する模式図である。
【
図6】
図3の機能的構成を有する
図1の撮像装置が実行する被写体画像補正処理における第2αマップにおける、α値の決定方法の一例を示すグラフである。
【
図7】
図3の機能的構成を有する
図1の撮像装置が実行する被写体画像補正処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について、図面を用いて説明する。
【0010】
[ハードウェア構成]
図1は、本発明の画像処理装置の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、例えば、画像処理機能を備えるデジタルカメラとして構成される。
【0011】
撮像装置1は、
図1に示すように、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
【0012】
CPU11は、ROM12に記録されているプログラム、又は、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。
【0013】
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0014】
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。
【0015】
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
【0016】
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
【0017】
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、撮像された画像としてCPU11や図示しない画像処理部等に適宜供給される。
【0018】
入力部17は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像を記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
【0019】
ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像等の各種データも、記憶部19と同様に記憶することができる。
【0020】
[被写体画像補正処理]
次に、
図2を参照して、被写体画像補正処理について説明する。
図2は、
図1に示すように構成される撮像装置1が行う、被写体画像補正処理の処理過程を説明するための模式図である。
ここで、被写体画像補正処理は、被写体画像における被写体の所定の器官に対して、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制する一連の処理である。
【0021】
被写体画像補正処理の対象とする所定の器官は特に限定されず、任意の器官を対象として処理を行うことができる。以下では、説明のための一例として、被写体となったユーザの「歯」を対象として、処理を行うことを想定する。ここで、歯は、時間の経過に伴う形状の変化(すなわち、画像において視認される領域の変化)が他の器官に比べて大きい器官である。例えば、ユーザの表情や口の開き方の変化に伴い、口の中の歯が視認できる領域は変化する。また、場合によっては、口に隠れて歯が視認できなかったりする。また、ユーザの表情や口の開き方によって、歯のみならず歯茎や舌が視認できる状態となる場合もある。このように、変化の大きい器官については、画像補正の対象とするべき領域が、場合により大きく変化する。そのため、適切な補正テンプレートを予め用意することは困難である。
【0022】
また、歯を画像補正する場合、例えば、歯がより白く見えるようにする補正を行うが、このような補正を、歯の周辺の唇や歯茎や舌等に対して行ってしまうと、不自然な補正となってしまう。そのため、歯を画像補正する場合、画像補正を行う対象の領域を適切に特定することは、特に重要となる。
【0023】
そこで、本実施形態では、一例として、歯を対象として以下に説明する被写体画像補正処理を行うことにより、予め補正テンプレートを用意することなく、より精度高く、画像補正を行う対象の領域を適切に特定する。これにより、本実施形態では、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
【0024】
このような被写体画像補正処理について、より具体的に説明する。
図2に示すように、撮像装置1は、被写体画像補正処理の対象となる画像(以下、「元画像」と称する。)を取得する。元画像がどのような画像であるかは特に限定されないが、ここでは、元画像として人物の顔が含まれる画像であって、画像パラメータとしてYUVで表現される画像を元画像とすることを想定する。ここで、YUVでは、輝度成分の信号Y、青色成分の差分信号U、及び赤色成分の差分信号Vそれぞれが示すディジタル値に基づいて画像が表現される。
【0025】
次に、撮像装置1は、器官検出を行うことにより、補正対象とする歯を含む領域を特定する。そして、処理対象とする領域を限定して、全体の演算処理量を削減するために、この歯を含む領域を元画像から切り出して、補正前のトリミング画像を作成する。
【0026】
また、撮像装置1は、このトリミング画像における、所定の器官の検出結果に基づいて、修正前補正テンプレート(以下、「第1αマップ」と称する。)を作成する。
【0027】
更に、撮像装置1は、トリミング画像の歯や唇の領域から取得した色情報や明るさ情報に基づいて第1αマップの修正を行うことにより、補正テンプレート(以下、「第2αマップ」と称する。)を作成する。これら第1αマップや第2αマップは、補正対象となる画素を特定すると共に、各補正対象の画素における補正度合い(すなわち、補正実行時に重み付けとなる係数)を示すα値を含んだマップである。
【0028】
なお、
図2を含む各図において、α値の表現として、値が「0」の場合を黒色で示し、値が「1」の場合を白色で示し、値が「0から1までの中間値」の場合をハッチングで示す。すなわち、図の表現において、色が黒色の領域は補正対象とならず、色が白に近づくにつれて、より補正度合いが高まることを示す。
【0029】
次に、撮像装置1は、第2αマップにて特定される形状及びα値に基づいて、補正前のトリミング画像の各画素に対して画像補正を行う。例えば、上述したように、歯をより白くすると共に歯の輝度を高めることにより、いわゆる白く輝く歯となるように画像補正を行う。
【0030】
そして、撮像装置1は、補正後のトリミング画像を元画像の対応する位置に貼り付けて、合成することにより、最終画像を作成する。
このように、撮像装置1は、器官検出に基づいて作成した第1αマップを、更に色情報や明るさ情報に基づいて修正して、第2αマップを作成して、画像補正を行う。これにより、予め用意された補正テンプレートを用いる場合に比べて、より精度高く、画像補正を行う対象の領域を適切に特定できる。そのため、撮像装置1は、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
【0031】
[機能的構成]
図3は、
図1の撮像装置1の機能的構成のうち、上述した被写体画像補正処理を実行するための機能的構成を示す機能ブロック図である。
【0032】
被写体画像補正処理を実行する場合には、
図3に示すように、CPU11において、画像取得部111と、器官検出部112と、画像情報取得部113と、第1テンプレート作成部114と、第2テンプレート作成部115と、画像補正部116と、が機能する。
【0033】
また、記憶部19の一領域には、画像記憶部191が設定される。
以下で特に言及しない場合も含め、これら機能ブロック間では、被写体画像補正処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
【0034】
画像記憶部191には、撮像部16から出力された被写体画像や、通信部20を介した通信により受信した被写体画像が記憶される。また、画像記憶部191には、被写体画像補正処理の過程において作成される、トリミング画像、第1αマップ、第2αマップ、及び最終画像等も適宜記憶される。
【0035】
画像取得部111は、撮像部16により撮像され現像処理が行われた被写体画像、或いは画像記憶部191に記憶されている被写体画像を取得する。この被写体画像は、上述した元画像に相当する。
【0036】
器官検出部112は、画像取得部111が取得した画像から被写体であるユーザの顔を検出すると共に、検出した顔において顔を構成する各器官を検出する。この顔や各器官の検出を実現する技術は、特に限定されず、既存の顔検出技術及び既存の器官検出技術を用いることができる。
【0037】
具体的に、器官検出部112は、例えば、被写体画像補正処理の対象とする所定の器官(こでは、歯)と、他の器官(ここでは、歯に隣接する唇)を検出する。
ここで、唇及び歯を検出する方法について、
図4を参照して説明する。
図4(A)に示すように、器官検出部112は、歯に隣接する器官である唇の器官点P1を検出する。器官点P1は、上唇及び下唇のそれぞれについて複数検出される。なお、図中では、複数の器官点P1をそれぞれ白色の丸で示すが、図示の都合上、その内の1つの器官点P1に対してのみ符号を付す。
【0038】
そして、器官検出部112は、この複数の器官点P1の位置に基づいて、唇に対応する領域を検出する。また、上唇の下辺と、下唇の上辺とをつなげた唇の中の領域を、歯に対応する領域として検出する。なお、図示されている基準点P2については、第1テンプレート作成部114の説明の際に後述する。
【0039】
画像情報取得部113は、器官検出部112の検出結果に基づいて、被写体画像に対して切り出しを行うことにより、上述したトリミング画像を作成する。ここでは、歯と唇に対応する領域を含むようにトリミング画像を作成する。
そして、画像情報取得部113は、作成したトリミング画像から、色情報や明るさ情報といった、第2αマップ作成においてのα値を決定するための情報を取得する。
【0040】
具体的に、画像情報取得部113は、トリミング画像の各画素から、YUVモデルにおけるVの値とYの値をそれぞれ取得する。
また、他にも、画像情報取得部113は、トリミング画像をHSVモデルに変換する。そして、画像情報取得部113は、変換後のHSV画像の各画素から、Hの値を取得する。
【0041】
更に、他にも、画像情報取得部113は、唇の色を示す指標として、唇に対応する領域からYUVモデルにおけるVの値(以下、「唇指標値」と称する。)を取得する。例えば、画像情報取得部113は、上唇に対応する一部の領域の各画素のVの値と、下唇に対応する一部の領域の各画素のVの値とを取得する。そして、画像情報取得部113は、これら取得したVの値の最頻値を、唇指標値となるVの値として取得する。
なお、唇の領域におけるVの値は、画素毎のバラつきが大きく、最頻値を決定しにくい場合がある。そのため、Vの値を取得する前処理として、既存の技術を利用して元画像をぼかす処理を行うようにしてもよい。そして、ぼかす処理を施すことにより各画素のバラつきを抑えた元画像から、各画素のVの値を取得するようにしてもよい。また、この場合に、最頻値に限らず、平均値や中央値を唇指標値としてもよい。
【0042】
第1テンプレート作成部114は、第1αマップを作成する。この点について、再度
図4を参照して説明する。上述したように、器官検出部112は、複数の器官点P1の位置に基づいて、唇に対応する領域と、歯に対応する領域を検出する。すると、第1テンプレート作成部114は、被写体画像を処理するために用いられている座標系での、複数の器官点P1それぞれの位置を示す座標の値を全て取得する。そして、第1テンプレート作成部114は、取得した全ての座標の値の平均値に対応する位置を基準点P2として特定する。
【0043】
次に、第1テンプレート作成部114は、
図4(B)に示すように、第1αマップを作成する。この第1αマップでは、基準点P2を含んだ中央の領域を白色(すなわち、α値「1」)、他の領域を黒色(すなわち、α値「0」)と設定している。また、この
図4(B)の第1αマップ中央のα値が設定されている領域の形状は、例えば、歯に対応する領域の形状を、基準点P2を中心として各方向に等比率で縮小した形状としている。
しかしながら、このようにα値が設定された第1αマップを、そのまま画像補正に利用すると、画像補正を行う領域と補正を一切行わない領域との境界が明確となり、画像補正が不自然となってしまう。そこで、第1テンプレート作成部114は、この境界をぼかすために、第1αマップの中央の領域から外部に近づくにつれてα値が段階的に低くなり、画像補正の度合いが抑えられるように、第1αマップを修正する。
【0044】
そのため、第1テンプレート作成部114は、
図4(C)に示すように、基準点P2を中心として各方向に等比率で第1αマップ中央のα値が設定されている領域の形状を拡張し、拡張した領域のα値を、内接する領域のα値よりも低く設定する、という処理を目標とする拡大率に到達するまで繰り返す。例えば、第1αマップ中央のα値が設定されている領域の形状が、歯に対応する領域の形状と同じ大きさとなる拡大率まで繰り返す。
【0045】
これにより、第1テンプレート作成部114は、
図4(C)に示すように、器官検出部112により検出された歯に対応する領域の形状を維持すると共に、第1αマップの内部から外部に近づくにつれてα値が段階的に低くなり、画像補正の度合いが抑えられるように設定された第1αマップを作成することができる。なお、目標の拡大率や繰り返しの回数(α値を段階的に変化させる回数)を変更することで、第1αマップの大きさとα値のグラデーション強度を任意に変更できる。
【0046】
第2テンプレート作成部115は、第2αマップを作成する。第1αマップは、画像補正の度合い等が調整された、一般的な器官の補正に用いるのに好適なαマップであるが、歯については、上述したように、ユーザの表情や口の開き方の変化に伴い、補正対象となる領域が大きく変化する器官であるという特性がある。また、歯のみならず歯茎や舌が含まれてしまう場合があるという特性もある。そこで、第2テンプレート作成部115は、画像情報取得部113がトリミング画像から取得した、色情報や明るさ情報に基づいて、第1αマップを修正することにより、より歯の特性に適合した、第2αマップを作成する。この点について、
図5を参照して説明をする。
【0047】
図5(C)に、第1αマップを示す。この第1αマップは、第1テンプレート作成部114が作成した、
図4(C)に示したものと同等である。ただし、第1αマップ作成の説明のために
図4(C)に図示した基準点P2については、第2αマップ作成の説明のための図である
図5(C)では図示を省略する。
第2テンプレート作成部115は、この第1αマップにおける各画素のα値(以下、「第1α値」と称する。)を、第2α値に修正することによって、
図5(E)に示すような第2αマップを作成する。この第2テンプレート作成部115による、第2α値への修正は、2つの観点から行われる。この2つの観点では、それぞれの観点において、除外しようとする対象の器官(例えば、所定の器官に含まれる、複数の器官の何れか)の特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行なうようにしている。以下では、一例として所定の器官(ここでは、歯)に含まれてしまっている第1の器官(ここでは、唇や舌や歯茎)と、第2の器官(ここでは、口の中における舌や歯茎の影)それぞれの特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行なう。
【0048】
1つ目の観点は、第1αマップにおいて、所定の器官(ここでは、歯)に含まれてしまった第1の器官である唇や舌や歯茎を、色情報に基づいて除外するという観点である。そのために、
図5(D)に示すように唇の色情報を示す情報である、唇指標値のVの値を利用する。つまり、1つ目の観点では、除外対象とする唇や舌や歯茎の特性を考慮して、これらを特定しやすい色情報(すなわち、Vの値)を、明るさ情報(すなわち、Yの値)よりも優先して利用する。
具体的には、上述したように、画像情報取得部113が、トリミング画像の各画素から取得したYUVモデルにおけるVの値と、唇指標値となるVの値と、下記の<Vの重みの算出式>とに基づいて、各画素でのVによる重みを算出する。このVの重みの算出式は、今回の被写体画像における唇指標値にVの値が近似している画素や、よりVの値が大きい画素は、歯に対応する画素ではなく、唇や舌や歯茎に対応する画素であると考えられるので、歯を白くするための画像補正の対象から除外する(すなわち、α値をゼロにする)という考えに基づいた式である。なお、以下の<Vの重み算出式>で利用されている定数はパラメータ値であり、状況に応じて変更してもよい。
【0049】
<Vの重みの算出式>
Vによる重み=-0.5×tanh(0.05×(トリミング画像のVの値-唇指標値のVの値))+0.5
【0050】
なお、上記<Vの重みの算出式>に対応するグラフを
図6(A)に示す。
【0051】
次に、2つ目の観点は、第1αマップにおいて、所定の器官(ここでは、歯)に含まれてしまった第2の器官である口の中における舌や歯茎の影を、明るさ情報に基づいて除外するという観点である。そのために、Yの値を利用する。つまり、2つ目の観点では、除外対象とする口の中における舌や歯茎の影の特性を考慮して、これらを特定しやすい明るさ情報(すなわち、Yの値)を、色情報(すなわち、Vの値)よりも優先して利用する。
具体的には、上述したように、画像情報取得部113が、トリミング画像の各画素から取得したYUVモデルにおけるYの値と、下記の<Yの重みの算出式>とに基づいて、各画素でのYによる重みを算出する。このYの重みの算出式は、Yの値が所定以上大きい画素は、歯に対応する画素ではなく、影として撮像された舌や歯茎に対応する画素であると考えられるので、歯を白くするための画像補正の対象から除外する(すなわち、α値をゼロにする)という考えに基づいた式である。なお、以下の<Yの重み算出式>で利用されている定数はパラメータ値であり、状況に応じて変更してもよい。
【0052】
<Yの重みの算出式>
Yによる重み=0.5×tanh(0.05×(トリミング画像のYの値-50))+0.5
【0053】
なお、上記<Yの重みの算出式>に対応するグラフを
図6(B)に示す。また、Vの値は被写体画像により大きく異なることが多いため、上述の<Vの重みの算出式>や、
図6(A)で示したように、唇指標値を用いて重み付けの値が変化する基準を調整していたが、Yの値については被写体画像により大きく異なることは少ないので、特に基準の調整はしていない。
【0054】
第2テンプレート作成部115は、上記2つの観点で算出したVによる重みと、Yによる重みとを、第1α値の重み付け係数として、下記の<第2α値の算出式>示すようにして、第2α値を算出する。
【0055】
<第2α値の算出式>
第2α値=第1α値×Vによる重み×Yによる重み
【0056】
第2テンプレート作成部115は、このように、第1αマップの各画素における、第1α値を、第2α値に修正することによって、
図5(E)に示すような第2αマップを作成する。
更に、第2テンプレート作成部115は、第1αマップを作成した場合と同様に、画像補正を行う領域と補正を一切行わない領域との境界をぼかすために、既存の技術を利用して第2αマップをぼかす。これにより、
図5(F)に示すような、唇や歯茎や舌を画像補正の対象から除外するように第2α値が設定された、第2αマップを作成することができる。
【0057】
このように、<Vの重みの算出式>や<Yの重みの算出式>に基づいた処理を行うことにより、例えば、
図5(G)に示すように、口を大きく開かれて歯に対応する領域が上下に分かれてしまったような場合でも、唇や舌や歯茎を除外して、歯に対応する上下双方の領域に対して画像補正を行うことが可能となる。
【0058】
画像補正部116は、第2αマップにて特定される形状及び第2α値に基づいて、補正前のトリミング画像の各画素に対して画像補正を行う。例えば、上述したように、歯をより白くすると共に歯の輝度を高めることにより、いわゆる白く輝く歯となるように画像補正を行う。
この場合、画像補正部116は、歯に対応する領域の彩度を下げる(すなわち、白くする)ために、YUVモデルにおけるUの値とVの値を低減させる。
【0059】
具体的には、上述したように、画像情報取得部113が、トリミング画像の各画素から取得したHSVモデルにおけるHの値と、
図6(C)に示すような色重みテーブルと、下記の<補正後のUの値の算出式>又は<補正後のVの値の算出式>とに基づいて、各画素での補正後のUの値とVの値を算出する。そして、この算出した補正後の値になるように、補正前のトリミング画像に対して画像補正を行う。これらの算出式及び色重みテーブルは、歯の黄ばみに対応する黄色に対して、他の色より色重み値を大きな値とすることにより、より歯を白くするという考えに基づいた式やテーブルである。以下の色重み値とは、トリミング画像の対象画素のHを
図6(C)に示した色重みテーブルに代入することで得られる色重み値のことである。
【0060】
<補正後のUの値の算出式>
補正後画像のUの値=((トリミング画像のUの値-128)/(1+色重み値×第2α値×ユーザ設定値))+128
【0061】
<補正後のVの値の算出式>
補正後画像のVの値=((トリミング画像のVの値-128)/(1+色重み値×第2α値×ユーザ設定値))+128
【0062】
なお、上記、各算出式における色重みテーブルに対応するグラフを
図6(C)に示す。ここで、ユーザ設定値は、ユーザが任意に設定する値である。ユーザ設定値を設定可能とすることにより、ユーザの好みを反映した画像補正を実現することができる。また、上記の各算出式ではUの値や、Vの値を8ビットで表現し、0~255の値を取りうる場合を想定して、この取りうる値の中央値という意味で128という値を用いている。そのため、取りうる値が異なる場合は、これに応じて128という値も適宜修正するようにする。
【0063】
また、画像補正部116は、歯に対応する領域の輝度を上げる(すなわち、輝かせる)ために、YUVモデルにおけるYの値を上昇させる。
具体的には、上述したように、画像情報取得部113がトリミング画像の各画素から取得したYUVモデルにおけるYの値と、
図6(D)に示すような明るさ上昇テーブルと、下記の<補正後のYの値の算出式>とに基づいて、各画素での補正後のYの値を算出する。そして、この算出した補正後の値になるように、補正前のトリミング画像に対して画像補正を行う。これらの算出式及び明るさ上昇テーブルは、極めて明るい画素や、極めて暗い画素については、補正せず、中間の明るさの画素がより明るくなるように補正することにより、不自然さを感じさせることなく、歯を輝かせるという考えに基づいた式やテーブルである。以下の明るさ上昇値とは、トリミング画像の対象画素のYを
図6(D)に示した明るさ上昇テーブルに代入することで得られる明るさ上昇値のことである。
【0064】
<補正後のYの値の算出式>
補正後画像のYの値=元画像のYの値+(明るさ上昇値×第2α値×ユーザ設定値)
【0065】
なお、上記、算出式における明るさ上昇テーブルに対応するグラフを
図6(D)に示す。また、ユーザ設定値は、ユーザが任意に設定する値である。ユーザ設定値を設定可能とすることにより、ユーザの好みを反映した画像補正を実現することができる。
【0066】
画像補正部116は、このようにして、第2αマップにて特定される形状及び第2α値に基づいて、補正前のトリミング画像の各画素に対して画像補正を行う。これにより、いわゆる白く輝く歯となるように画像補正が実現される。画像補正部116は、このように画像補正を施したトリミング画像を、元画像の対応する位置に貼り付けて、合成することにより、最終画像を作成する。
そして、画像補正部116は、最終画像を出力する。例えば、画像補正部116は、出力として、最終画像を出力部18に表示させたり、最終画像を画像記憶部191に記憶させたりする。
【0067】
[動作]
図7は、
図3の機能的構成を有する
図1の撮像装置1が実行する被写体画像補正処理の流れを説明するフローチャートである。
被写体画像補正処理は、ユーザによる入力部17への被写体画像補正処理開始の操作により開始される。
被写体画像補正処理開始の操作は、撮影指示操作であって、この撮影指示操作に応じて撮像部16により撮像され、現像処理が行われた画像に対して、引き続き被写体画像補正処理を行ってもよく、また、画像記憶部191に記憶されている画像を選択し、その選択された画像に対する被写体画像補正処理開始の操作であってもよい。
【0068】
ステップS11において、画像取得部111は、撮像部16により撮像され、現像処理が行われた画像、或いは画像記憶部191から処理対象となる画像を、元画像として取得する。
ステップS12において、器官検出部112は、ステップS11で画像取得部111が取得した画像から被写体であるユーザの顔を検出すると共に、検出した顔において顔を構成する各器官を検出するための処理を行う。
【0069】
ステップS13において、器官検出部112は、ステップS12での検出結果において、被写体画像補正処理の対象とする所定の器官(ここでは、歯)が検出されたか否かを判定する。所定の器官(ここでは、歯)が検出された場合は、ステップS13においてYesと判定され、処理はステップS14に進む。一方で、被写体画像にユーザの顔が含まれていなかったり、ユーザが口を閉じていたりして、所定の器官(ここでは、歯)が検出されなかった場合は、ステップS13においてNoと判定され、本処理は終了する。
【0070】
ステップS14において、画像情報取得部113は、ステップS12での検出結果に基づいて、被写体画像に対して切り出しを行うことにより、トリミング画像を作成する。
ステップS15において、画像情報取得部113は、ステップS14で作成したトリミング画像から、色情報や明るさ情報といった、第2αマップ作成においてα値を決定するための情報を取得する。
【0071】
ステップS16において、第1テンプレート作成部114は、ステップS12での検出結果に基づいて、第1αマップを作成する。
ステップS17において、第2テンプレート作成部115は、ステップS16で作成された第1αマップを、ステップS15で取得された色情報や明るさ情報で修正することにより、第2αマップを作成する。
【0072】
ステップS18において、画像補正部116は、ステップS17で作成された第2αマップにて特定される形状及び第2α値に基づいて、補正前のトリミング画像の各画素に対して画像補正を行う。
ステップS19において、画像補正部116は、ステップS18で画像補正を施したトリミング画像を、元画像の対応する位置に貼り付けて、合成することにより、最終画像を作成する。
【0073】
ステップS20において、画像補正部116は、ステップS19で作成された最終画像を出力する。例えば、画像補正部116は、出力として、最終画像を出力部18に表示させたり、最終画像を画像記憶部191に記憶させたりする。
【0074】
以上説明した被写体画像補正処理によれば、器官検出に基づいて作成した第1αマップを、更に色情報や明るさ情報に基づいて修正して、第2αマップを作成して、画像補正を行う。これにより、予め用意された補正テンプレートを用いる場合に比べて、より精度高く、画像補正を行う対象の領域を適切に特定できる。そのため、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
【0075】
[構成例]
以上のように構成される撮像装置1は、画像取得部111と、器官検出部112と、画像情報取得部113と、第2テンプレート作成部115と、画像補正部116と、を有する。
画像取得部111は、被写体画像を取得する。
器官検出部112は、被写体画像における被写体の所定の器官を検出する。
画像情報取得部113は、器官検出部112により検出された所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する。
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレート(第2αマップに相当)を作成する。
画像補正部116は、補正テンプレートに基づいて、被写体画像を補正する。
このように、撮像装置1は、色情報や明るさ情報に基づいて補正テンプレートを作成することから、予め用意された補正テンプレートを用いる場合に比べて、より精度高く、画像補正を行う対象の領域を適切に特定できる。そのため、撮像装置1は、より適切な画像補正を実現し、画像補正により画像が不自然となることを抑制することができる。
【0076】
第2テンプレート作成部115は、所定の器官に対応する領域の画像情報に含まれる明るさ情報と色情報のうち、明るさ情報及び色情報の何れか又は双方のみを用いて、補正テンプレートを作成する。
このように、撮像装置1は、明るさ情報及び色情報の何れか又は双方のみを用いて、補正テンプレートを作成することができるので、例えば、補正対象となる器官の特性に対応した情報を用いて、補正テンプレートを作成することできる。
【0077】
撮像装置1は、第1テンプレート作成部116を更に有する。
第1テンプレート作成部116は、器官検出部112の検出結果に基づいて、所定の器官の形状に対応する修正前補正テンプレート(第1αマップに相当)を作成する。
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、修正前補正テンプレートを修正する、又は画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、修正前補正テンプレートを修正することにより補正テンプレートを作成することにより補正テンプレートを作成する。
このように、撮像装置1は、器官検出に基づいて作成した修正前補正テンプレートを、更に色情報や明るさ情報に基づいて修正することから、修正前補正テンプレートを作成しない場合よりも、より精度高く、画像補正を行う対象の領域を適切に特定できる。
【0078】
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、第1領域に対しては補正対象として維持すると共に第2領域については補正対象から除外するように修正前補正テンプレートを修正することにより補正テンプレートを作成する、又は、画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、第1領域に対しては補正対象として維持すると共に第2領域については補正対象から除外するように修正前補正テンプレートを修正することにより補正テンプレートを作成する。
これにより、撮像装置1は、色情報及び明るさ情報の何れか又は双方を優先的に利用して、補正対象とするべきでない領域を特定し、補正対象から除外することができる。例えば、歯に対して補正を行う場合に、唇の色情報を優先的に利用して、補正対象とするべきでない唇や歯茎や舌を、補正対象から除外することができる。
【0079】
器官検出部112は、被写体画像における被写体の所定の器官とは異なる他の器官を更に検出する。
第1テンプレート作成部116は、器官検出部112の検出結果に基づいて、他の器官の形状に対応する修正前補正テンプレートを更に作成する。
第2テンプレート作成部115は、他の器官に対応する修正前補正テンプレートは修正しない。
これにより、撮像装置1は、所定の器官(例えば、歯)以外の領域に対しても、修正前補正テンプレートを利用した補正を行うことができる。
【0080】
器官検出部112は、時間の経過に伴う形状の変化が他の器官に比べて大きい器官を、所定の器官として検出する。
これにより、撮像装置1は、形状が変化しやすく、予め作成したテンプレート等での補正が困難な器官に対して、本実施形態における補正を行うことができる。
【0081】
所定の器官とは、歯である。
被写体画像の所定の器官に対応する領域とは少なくとも唇を含んだ領域である。
これにより、撮像装置1は、補正対象とする歯のみならず、補正対象としない領域である、唇の色情報及び明るさ情報にも基づいて、補正を行うことができる。
【0082】
第2テンプレート作成部115は、画像情報取得部113により取得された色情報及び明るさ情報の何れか又は双方に基づいて、補正テンプレートにおける各画素それぞれの補正度合いを決定する。
これにより、撮像装置1は、色情報及び明るさ情報の何れか又は双方に基づいた度合いで補正を行うことができる。この場合に、色情報及び明るさ情報の取得元は特に限定されないので、撮像装置1は、例えば、補正対象とする領域(例えば、歯)の色情報及び明るさ情報のみならず、補正対象としない領域(例えば、唇)の色情報及び明るさ情報にも基づいて、補正を行うことができる。
【0083】
第2テンプレート作成部115は、画像情報取得部113により取得された色情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、且つ画像情報取得部113により取得された明るさ情報を器官検出部112により検出された所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成する。
これにより、撮像装置1は、所定の器官に含まれる各器官それぞれで異なる特性に応じて、明るさ情報及び色情報の何れかを優先して用いて、補正テンプレートを作成することができる。
【0084】
[変形例]
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
【0085】
<第1変形例>
上述の実施形態において、第2テンプレート作成部115は、画像情報取得部113が取得した色情報や明るさ情報に基づいて、第1テンプレート作成部114が作成した第1αマップを修正することによって、第2αマップを作成していた。これに限らず、第2テンプレート作成部115は、画像情報取得部113が取得した色情報や明るさ情報に基づいて、第1αマップを修正するのではなく、直接第2αマップを作成してもよい。
【0086】
この場合、第2テンプレート作成部115は、上述の第1αマップの代わりに、α値が設定されていないマップを作成する。具体的に、第2テンプレート作成部115は、画像情報取得部113が器官検出部112の器官検出結果に基づいて作成したトリミング画像と同様の大きさの、α値が設定されていないマップを作成する。
また、第2テンプレート作成部115は、画像情報取得部113がこのトリミング画像から取得した色情報や明るさ情報に基づいて、上述した処理と同様の処理を行なうことにより、第2α値を算出する。
そして、第2テンプレート作成部115は、作成したα値が設定されていないマップの各画素のα値を、このようにして算出した第2α値に設定することにより、第2αマップを作成することができる。
【0087】
この場合、例えば、上記の<Vの重みの算出式>及び<Yの重み算出式>の、特に<Vの重みの算出式>により、所定器官より外側のVの値が大きい画素についても、全てα値が「0」と設定される。
例えば、上述したように歯が所定器官である場合には、唇に対応する領域の画素のみならず、唇よりも外側の肌部分や鼻等の他の器官に対応する領域の画素についても、歯に対応する領域の画素に比べてVの値が大きい。そのため、上記の<Vの重みの算出式>における各定数(すなわち、パラメータ値)を適切に設定することにより、本変形例のように、直接第2αマップを作成した場合であっても、適切に第2αマップを作成することができる。すなわち、歯等の所定器官に対応する領域の画素のみにα値を設定し、他の領域の画素についてはα値を「0」と設定した第2αマップを作成することができる。
これにより、上述した被写体画像補正処理における、第1αマップの作成処理を省略することができる。そのため、被写体画像補正処理全体の処理量が削減でき、被写体画像補正処理を高速に終了させることが可能となる。
【0088】
<第2変形例>
上述の実施形態において、第2αマップを利用して画像補正を行う所定の器官(上述の実施形態では、歯)を、被写体画像補正処理の対象としていた。これに限らず、この所定の器官以外の他の器官に対して、被写体画像補正処理の一部又は全部を行うようにしてもよい。
例えば、この所定の器官に対しては上述した第2αマップを利用した画像補正を行う一方で、この所定の器官以外の他の器官(以下、単に「他の器官」と称する。)に対しては上述した第1αマップを利用した画像補正を行うようにしてもよい。上述したように、第1αマップは、画像補正の度合い等が調整された、一般的な器官の補正に用いるのに好適なαマップである。そのため、他の器官が、歯のような大きく変化するような特性を有さない鼻等の器官である場合には、第1αマップにより適切な画像補正を行うことができる。
【0089】
なお、この画像補正は、所定の器官と同じ画像補正であってもよいし、異なる画像補正であってもよい。例えば、所定の器官である歯に対して、上述したように白くなるような補正を行う一方で、他の器官に対しては、例えば、εフィルタ等を利用して平滑化を行う美肌補正等を行うようにしてもよい。また、このような画像補正の対象とする所定の器官と他の器官は、それぞれ単数であってもよいし、複数であってもよい。
【0090】
<第3変形例>
上述した第1変形例を更に変形し、器官検出部112による検出結果に基づいて、所定の器官であるか他の器官であるかを判定するようにしてもよい。例えば、上述したように、ユーザの表情等の変化に伴い、補正対象となる領域が大きく変化する器官を所定の器官とすることが望ましい。そこで、例えば、器官検出部112は、補正対象となる領域が大きく変化したか否かに基づいて、所定の器官であるか他の器官であるかを判定する。
【0091】
この場合、画像取得部111は、同じ被写体を所定期間連続して撮像した、複数の被写体画像を取得する。また、器官検出部112は、これら複数の被写体画像に対して、各器官の検出処理を連続して継続する。なお、これら複数の被写体画像は、動画の形式で撮像されたものであってもよい。
更に、器官検出部112は、この継続中の期間における各器官に対応する領域の変化の程度を特定する。例えば、各器官に対応する領域が最小となった際の大きさと、最大となった際の大きさとの差分に基づいて、変化の程度を特定する。あるいは、各器官に対応する領域の位置が変動したか否かに基づいて、変化の程度を特定する。
【0092】
そして、器官検出部112は、変化の程度が所定以上である器官を所定の器官として特定する。また、器官検出部112は、変化の程度が所定未満である器官を他の器官として特定する。このように、器官検出部112が特定を行うことにより、取得した被写体画像の変化状態に応じて、例えば歯以外の器官を所定の器官として特定して、第2αマップを用いた画像補正を行うことが可能となる。例えば、瞼の状態により形状が変化した瞳や、イヤホンの着脱に伴い形状が変化した耳等の、被写体画像の変化状態に応じて、形状が変化した器官を所定の器官として特定して、第2αマップを用いた画像補正を行うことが可能となる。あるいは、説明の一例とした歯の形状が変化しない場合に、第2αマップの作成を省略するようなことが可能となる。
【0093】
<第4変形例>
上述の実施形態において、第2テンプレート作成部115は、所定の器官(ここでは、歯)に含まれてしまっている第1の器官(ここでは、唇や舌や歯茎)と、第2の器官(ここでは、口の中における舌や歯茎の影)それぞれの特性に応じて、色情報及び明るさ情報の何れか一方を、他方よりも優先して利用して第2α値への修正を行っていた。すなわち、第1の器官に対応して、色情報を優先して用いる<Vの重みの算出式>を利用して第2α値への修正を行なうと共に、第2の器官に対応して、明るさ情報を優先して用いる<Yの重みの算出式>を利用して第2α値への修正を行なっていた。これに限らず、状況に応じて、色情報を優先した第2α値の修正と、明るさ情報を優先した第2α値の修正の、何れかのみを行なうようにしてもよい。
【0094】
例えば、上述の実施形態のように、所定の器官を歯とした場合、被写体であるユーザが上下の歯を閉じていれば第2の器官(ここでは、口の中における舌や歯茎の影)は被写体画像に含まれない。この場合、第2の器官に対応して明るさ情報を優先して用いる<Yの重みの算出式>を利用した第2α値への修正を省略することができる。
そこで、第2テンプレート作成部115は、例えば、器官検出部112の検出結果に基づいてユーザの上下の歯が閉じていると判定した場合や、画像情報取得部113の取得した明るさ情報(すなわち、Yの値)に基づいて影に対応するような輝度が低い領域が含まれていないと判定した場合に、第1の器官に対応して<Vの重みの算出式>を利用して第2α値への修正を行なう一方で、第2の器官に対応した<Yの重みの算出式>を利用した第2α値への修正は省略する。
このように、色情報を優先した第2α値の修正と、明るさ情報を優先した第2α値の修正の、何れかのみを行なうことにより、被写体画像補正処理全体としての演算処理量を削減し、処理を高速に行なうことが可能となる。
【0095】
<第5変形例>
上述した実施形態で示した、各算出式やテーブルは、説明のための一例に過ぎず、特に限定されない。実施形態を実装する環境や、被写体画像補正処理の対象とする器官等に応じて、適宜修正することができる。
【0096】
例えば、上述の実施形態では、第2αマップを作成するための色の情報として、YUVモデルのVの値を用いたが、Uの値を用いてもよい。あるいは、他の色空間を表現するモデルであるHSVのHの値や、RGBモデルの各値を用いてもよい。更には、これらの値を組み合わせて用いてもよい。
また、同様に第2αマップを作成するための明るさの情報として、上述したYUVモデルのYの値ではなく、HSVのVの値や、RGBモデルの各値を用いてもよい。更には、これらの値を組み合わせて用いてもよい。
【0097】
<第6変形例>
上述の実施形態では、本発明が適用される対象が、デジタルカメラで実現される撮像装置1である場合を例にとって説明したが、これに限らない。本発明は、情報処理機能を有する電子機器一般に適用することができる。例えば、本発明は、パーソナルコンピュータ、サーバ装置、スマートフォン、携帯電話機、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、ポータブルゲーム機等に適用することができる。
【0098】
この場合に、これら電子機器は、自身で撮像した画像を対象として上述した被写体画像補正処理を行ってもよいし、他の電子機器で撮像した画像を対象として上述した被写体画像補正処理を行ってもよい。つまり、複数の電子機器が協働することにより、上述した被写体画像補正処理を行ってもよい。例えば、或る電子機器が、他の電子機器で撮像した画像を、ネットワークや記憶媒体を介して取得し、この取得した画像を対象として上述した被写体画像補正処理を行ってもよい。すなわち、本発明は、撮像機能を有さない画像処理装置によって実現することもできる。
【0099】
<他の変形例>
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、
図3の機能的構成は例示に過ぎず、特に限定されない。すなわち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に
図3の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
【0100】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0101】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される
図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk),Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている
図1のROM12や、
図1の記憶部19に含まれるハードディスク等で構成される。
【0102】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0103】
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0104】
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
被写体画像を取得する画像取得手段と、
前記被写体画像における被写体の所定の器官を検出する器官検出手段と、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段と、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段と、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段と、
を有することを特徴とする電子機器。
[付記2]
前記テンプレート作成手段は、前記所定の器官に対応する領域の画像情報に含まれる明るさ情報と色情報のうち、明るさ情報及び色情報の何れか又は双方のみを用いて、前記補正テンプレートを作成することを特徴とする付記1に記載の電子機器。
[付記3]
前記器官検出手段の検出結果に基づいて、前記所定の器官の形状に対応する修正前補正テンプレートを作成する修正前テンプレート作成手段を更に有し、
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記修正前補正テンプレートを修正する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記修正前補正プレートを修正することにより前記補正テンプレートを作成することを特徴とする付記1又は2に記載の電子機器。
[付記4]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する、
又は、前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して前記所定の器官の形状に対応する修正前補正テンプレートを、第1領域とそれ以外の第2領域とに分割し、前記第1領域に対しては補正対象として維持すると共に前記第2領域については補正対象から除外するように前記修正前補正テンプレートを修正することにより前記補正テンプレートを作成する
ことを特徴とする付記3に記載の電子機器。
[付記5]
前記器官検出手段は、前記被写体画像における被写体の前記所定の器官とは異なる他の器官を更に検出し、
前記修正前テンプレート作成手段は、前記器官検出手段の検出結果に基づいて、前記他の器官の形状に対応する修正前補正テンプレートを更に作成し、
前記テンプレート作成手段は、前記他の器官に対応する修正前補正テンプレートは修正しない
ことを特徴とする付記3又は4に記載の電子機器。
[付記6]
前記器官検出手段は、時間の経過に伴う形状の変化が他の器官に比べて大きい器官を、前記所定の器官として検出する
ことを特徴とする付記1乃至5の何れか1に記載の電子機器。
[付記7]
前記所定の器官とは、歯であり、
前記被写体画像の前記所定の器官に対応する領域とは少なくとも唇を含んだ領域である
ことを特徴とする付記1乃至6の何れか1に記載の電子機器。
[付記8]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報及び明るさ情報の何れか又は双方に基づいて、前記補正テンプレートにおける各画素それぞれの補正度合いを決定する
ことを特徴とする付記1乃至7の何れかに記載の電子機器。
[付記9]
前記テンプレート作成手段は、前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に利用して、前記所定の器官を構成する第1の器官に対応する領域の補正テンプレートを作成し、
且つ前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に利用して、前記所定の器官を構成する第2の器官に対応する領域の補正テンプレートを作成することを特徴とする付記1乃至8の何れかに記載の電子機器。
[付記10]
被写体画像を取得する画像取得ステップと、
前記被写体画像における被写体の所定の器官を検出する器官検出ステップと、
前記器官検出ステップにより検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得ステップと、
前記画像情報取得ステップにより取得された色情報を前記器官検出ステップにて検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得ステップにて取得された明るさ情報を前記器官検出ステップにより検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成ステップと、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正ステップと、
を有することを特徴とする画像処理方方法。
[付記11]
被写体画像を取得する画像取得手段、
前記被写体画像における被写体の所定の器官を検出する器官検出手段、
前記器官検出手段により検出された前記所定の器官に対応する領域から、色情報及び明るさ情報の何れか又は双方を取得する画像情報取得手段、
前記画像情報取得手段により取得された色情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる明るさ情報よりも優先的に用いて補正テンプレートを作成する、又は前記画像情報取得手段により取得された明るさ情報を前記器官検出手段により検出された前記所定の器官に対応する領域の画像情報に含まれる色情報よりも優先的に用いて補正テンプレートを作成するテンプレート作成手段、
前記補正テンプレートに基づいて、前記被写体画像を補正する画像補正手段、
としてコンピュータを機能させることを特徴とする画像処理プログラム。
【符号の説明】
【0105】
1・・・撮像装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,111・・・画像取得部,112・・・器官検出部,113・・・画像情報取得部,114・・・第1テンプレート作成部,115・・・第2テンプレート作成部,116・・・画像補正部,191・・・画像記憶部