(58)【調査した分野】(Int.Cl.,DB名)
画像から得られる複数の特徴成分毎の特徴マップと、前記複数の特徴成分毎に対応付けられた寄与率とに基づいて、前記画像における顕著度を示す顕著性マップを生成するマップ生成手段と、
画像取得時における撮像光学系の焦点距離を示す情報を取得する情報取得手段と、
前記情報取得手段により取得された前記情報に基づいて、前記複数の特徴成分のうち、少なくとも2以上の特徴成分に対応付けられた前記寄与率を調整する調整手段と、
を備え、
前記複数の特徴成分のうちの一つは、方向性エッジ成分であり、
前記調整手段は、前記撮像光学系の焦点距離が短くなると、前記方向性エッジ成分に対応付けられた寄与率を初期値よりも小さい値となるように調整する画像処理装置。
画像から得られる複数の特徴成分毎の特徴マップと、前記複数の特徴成分毎に対応付けられた寄与率とに基づいて、前記画像における顕著度を示す顕著性マップを生成するマップ生成工程と、
前記画像におけるデフォーカス量の情報を取得する情報取得工程と、
前記情報取得工程により取得された前記情報に基づいて、前記複数の特徴成分のうち、少なくとも2以上の特徴成分に対応付けられた前記寄与率を調整する調整工程と、
を備え、
前記複数の特徴成分のうちの一つは、方向性エッジ成分であり、
前記調整工程は、前記画像におけるデフォーカス量が大きいほど、前記方向性エッジ成分に対応付けられた寄与率を初期値よりも小さい値に調整する画像処理プログラム。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について、
図1を用いて説明する。
図1に示すように、撮像装置10は、撮像光学系15、撮像素子16、操作部材17、レンズ駆動回路18、測光回路19、CPU20、撮像素子駆動回路21、信号処理回路22、データ処理回路23、液晶モニタ24、圧縮伸長処理回路25、表示出力回路26、記憶媒体27を備えている。
【0012】
不図示の被写体の像は、撮像光学系15によって、撮像素子16の撮像面上に結像される。撮像光学系15は、複数枚のレンズで構成され、操作部材17の操作などに基づいて、レンズ駆動回路18を介して、フォーカス、ズームなどの調整が可能な構成とされている。
【0013】
撮像素子16は、静止画像の単写撮像とともに、静止画像の連続撮像、及び動画像の撮像が可能な撮像素子であり、例えばCCDイメージセンサ、又はCMOSイメージセンサから構成される。この撮像素子16は、測光回路19で得られた被写体の測光データに基づいて、CPU20の制御のもとで、撮像素子駆動回路21によって駆動される。撮像素子16により読み出された画像信号は、信号処理回路22に入力される。
【0014】
信号処理回路22は、撮像素子16により読み出された画像信号に対して、直流再生処理、A/D変換処理、ホワイトバランス処理、γ変換処理などの信号処理を施し、画像データとしてデータ処理回路23に出力する。
【0015】
データ処理回路23は、入力された画像データに対して、液晶モニタ24に表示を行うための解像度(画素数)変換処理を施し、表示制御回路26に出力するとともに、当該データ処理回路23で処理された画像データを圧縮伸長処理回路25に出力する。表示出力回路26は、データ処理回路23から入力された画像データに所定の信号処理を施して、液晶モニタ24に出力する。なお、表示出力回路26は、CPU20の制御に基づいて、データ処理回路23から出力された画像データに、撮影メニュー、カーソルなどのオーバーレイ画像データを重畳する処理を行う。これにより、液晶モニタ24には、被写体画像にオーバーレイ画像が重畳されて表示される。
【0016】
圧縮伸長処理回路25は、入力された画像データに対して圧縮処理を施し、記憶媒体27に記憶する。液晶モニタ24は、記憶媒体27に圧縮して記憶された画像データに対応する画像を表示する。
【0017】
なお、液晶モニタ24は、記憶媒体27に記憶されている画像データに対応する画像を再生画像として表示することもできる。CPU20は、記憶媒体27に記憶された画像データを読み出して、圧縮伸長処理回路25で復号化処理を施し、データ処理回路23および表示出力回路26を介して、液晶モニタ24に供給する。
【0018】
CPU20は、操作部材17の一部を構成するレリーズボタンの操作に基づいて、撮像画面上の予め設定された領域(AF領域)における焦点評価値を算出し、その算出結果をもとに、撮像素子16の撮像面上における被写体像のフォーカス状態を調整する動作を実行する。例えば、撮像素子16の撮像面に配設されたフォーカス状態検出用の画素(位相差AF用画素)の出力により、各AF領域の焦点評価値が算出される。
【0019】
なお、本実施形態では、撮像素子16の撮像面に配設されたフォーカス状態検出用の画素(位相差AF用画素)を用いたAF動作を例に挙げているが、これに限定される必要はなく、周知のコントラストAF動作(TV−AF)を用いることも可能である。この場合にも、自動合焦点動作によって、各領域の撮影距離情報を得ることができる。
【0020】
CPU20は、操作部材17の一部を構成するズーム操作部材の操作に基づいて、レンズ駆動回路18を介して撮像光学系15を駆動し、撮像素子16の撮像面上に結像される被写体像を拡大、又は縮小する、光学的なズーム動作を実行する。さらに、CPU20は、操作部材17の一部を構成するズーム操作部材の操作に基づいて、撮像素子16により得られる画像データ、又は記憶媒体27に記憶される画像データを、データ処理回路23による解像度(画素数)変換処理によって拡大または縮小する電気的なズーム動作を制御する。
【0021】
次に、データ処理回路23の構成について説明する。
図1又は
図2に示すように、データ処理回路23は、情報取得部31、比率調整部32及びマップ生成部33の機能を有している。情報取得部31は、撮影時に設定される自動合焦動作の動作モード(シングルAFモード、コンティニュアスAFモード)や撮影モード(シーンモードを含む)の情報や、撮影条件の情報をCPU20から取得する。撮影条件の情報としては、撮像光学系15における焦点距離やデフォーカス量の情報の他、被写界の明るさの情報、光源種の情報が挙げられる。また、この他に、情報取得部31は、画像における輝度コントラストの情報を取得する。
【0022】
比率調整部32は、複数の特徴マップから得られる顕著性マップにおいて、各特徴マップが影響する比率(寄与率)を、情報取得部31により得られる情報に基づいて調整する。以下、複数の特徴成分として、色成分、輝度コントラスト成分及び方向性エッジ成分の場合を例に挙げて説明する。
【0023】
なお、複数の特徴マップ(又は特徴成分)のそれぞれにおける寄与率としては、予め設定された比率(初期比率)が割り当てられる。比率調整部32は、情報取得部31により得られた情報に基づいて、各特徴成分に割り当てられる初期比率を基準にして、少なくとも2以上の特徴成分に対する比率を調整する。そして、比率調整部32は、調整後の各特徴成分に対する比率を、顕著性マップを生成するときに用いる寄与率として設定する。なお、各特徴成分に割り当てられる初期比率の総和、及び調整された後の各比率の総和は1となる。
【0024】
ここで、各特徴成分に対する初期比率は、撮影モード(シーンモードを含む)に関係なく固定値であってもよいし、撮影モード(シーンモードを含む)毎に異なる値であってもよい。例えば複数の撮影モード(シーンモードを含む)毎に異なる初期比率が設定される場合、比率調整部32は、情報取得部31により得られる撮影モードの情報に基づいて、各特徴成分に対して設定される複数の初期比率から、撮影モードに応じた初期比率を選択する。そして、比率調整部32は、情報取得部31にて得られる情報に基づいて、選択された各特徴成分の初期比率を基準にして、少なくとも2以上の特徴成分に対する比率を調整すればよい。
【0025】
マップ生成部33は、データ処理回路23にて施された画像処理済みの画像データを用いて、画像データから得られる複数の特徴成分に関わるマップ(特徴マップ)を特徴成分毎に生成する。ここで、特徴マップとしては、輝度情報マップ、色情報マップ、エッジ情報マップが挙げられる。マップ生成部33は、特徴成分毎に生成される特徴マップを用いて、画像の顕著度の分布を示す顕著性マップを生成する。この顕著性マップを生成する際に、比率調整部32により設定された寄与率が用いられる。
【0026】
マップ生成部33は、輝度情報抽出部41、色情報抽出部42、エッジ情報抽出部43、マップ合成部44を備えている。輝度情報抽出部41は、入力された画像データに基づいて、各画素の画素値が輝度値からなる輝度画像データを生成する。輝度情報抽出部41は、生成された輝度画像データを用いて、解像度が異なる複数の輝度画像データを生成する。輝度情報抽出部41は、輝度画像データに対して、順次ガウシアンフィルタ処理を施すことで、例えばレベル1からレベル8までの8つの解像度の輝度画像データを生成する。なお、レベル1の輝度画像データは、入力された画像データと同一の解像度となるように設定される。そして、レベル2の輝度画像データ、レベル3の輝度画像データ,・・・・,レベル8の輝度画像データの順で、解像度が低く設定される。
【0027】
これら解像度の異なる輝度画像データを生成した後、輝度情報抽出部41は、生成された複数の輝度画像データのうち、例えばレベル1の輝度画像データ及びレベル2の輝度画像データなど、隣り合う2つのレベルの輝度画像データを選択し、選択した2つの輝度画像データの差分(以下、差分データ)を求める。なお、各輝度画像データの画素数がそれぞれ異なる場合には、差分データを求める際に、輝度情報抽出部41は、2つの輝度画像データのうち、解像度の低い輝度画像データの画素数が、解像度の高い輝度画像データの画素数となるように解像度の低い輝度画像データの画素数を変換する。
【0028】
輝度情報抽出部41は、予め定めた数の差分データを生成した後、生成した差分データを、それぞれ正規化する。この正規化された差分データに基づいて、輝度情報抽出部41輝度情報マップを生成する。なお、生成された輝度情報マップは、マップ合成部44に出力される。
【0029】
色情報抽出部42は、入力される画像データを用いて、赤(R)色成分値と緑(G)色成分値との差分からなるRG差分画像データを生成する。そして、色情報抽出部42は、生成されたRG差分画像データを用いて、解像度が異なる複数のRG差分画像データを生成する。これにより、輝度画像データと同様に、例えばレベル1からレベル8までの8つの解像度のRG差分画像データが生成される。
【0030】
色情報抽出部42は、生成された複数のRG差分画像データのうち、例えばレベル1のRG差分画像データ及びレベル2のRG差分画像データなど、隣り合う2つのレベルのRG差分画像データを選択し、選択した2つのRG差分画像データの差分(以下、差分データ)を求める。この場合も、複数のRG差分画像データの画素数がそれぞれ異なる場合には、色情報抽出部42は、2つのRG差分画像データのうち、解像度の低いRG差分画像データの画素数が、解像度の高いRG差分画像データの画素数となるように解像度の低いRG差分画像データの画素数を変換する。色情報抽出部42は、RG差分画像データから求めた差分データを正規化した後、赤(R)色成分値と緑(G)色成分値との差分に基づく色情報マップを生成する。
【0031】
また、色情報抽出部42は、入力される画像データを用いて、上述のRG差分画像データ生成と同様の手法により、青(B)色成分値と黄(Y)色成分値との差分からなるBY差分画像データを生成する。そして、色情報抽出部42は、RG差分画像データと同様の処理を行って、青(B)色成分値と黄(Y)色成分値との差分に基づく色情報マップを生成する。この色情報抽出部42により生成された各色情報マップは、マップ合成部44に出力される。
【0032】
エッジ情報抽出部43は、入力される画像データに対してガボール・フィルタを用いたフィルタ処理を施す。このフィルタ処理により、例えば画面上で、0度、45度、90度及び135度の方向に対するエッジ強度を画素の画素値とするエッジ画像データをそれぞれ生成する。エッジ情報抽出部43は、生成されたエッジ画像データを用いて、解像度の異なる複数のエッジ画像データをさらに生成する。この場合も、例えば、順次が得牛案フィルタ処理を施すことで、レベル1からレベル8までの8つの解像度のエッジ画像データが生成される。エッジ情報抽出部43は、生成された複数のエッジ画像データのうち、例えばレベル1のエッジ画像データ及びレベル2のエッジ画像データなど、隣り合う2つのレベルのエッジ画像データを選択し、選択した2つのエッジ画像データの差分(以下、差分データ)を求める。この場合も、複数のエッジ画像データの画素数が、それぞれ異なる場合には、エッジ情報抽出部43は、2つのエッジ画像データのうち、解像度の低いエッジ画像データの画素数が、解像度の高いエッジ画像データの画素数となるように解像度の低いエッジ画像データの画素数を変換する。エッジ情報抽出部43は、エッジ画像データから求めた差分データを正規化した後、正規化された差分データに基づくエッジ情報マップを生成する。なお、エッジ情報抽出部43は、上述した処理を、各方向のエッジ画像データ毎に実行する。これら生成されたエッジ情報マップは、マップ合成部44に出力される。
【0033】
マップ合成部44は、入力される輝度情報マップ、色情報マップ、エッジ情報マップと、特徴成分毎に設定される寄与率とを用いた加重加算により顕著性マップを生成する。この顕著性マップは、画像における各画素における顕著度の分布を示すマップとなる。
【0034】
次に、撮像時の処理の流れを
図3に示すフローチャートを用いて説明する。このフローチャートにおいては、自動露出動作に係る処理は省略している。
【0035】
ステップS101は、スルー画像を取得する処理である。CPU20は、撮像素子駆動回路21を介して、撮像素子16を駆動する。スルー画像を取得する処理である。撮影モードが開始されると、CPU20は、撮像素子駆動回路21を介して、撮像素子16を制御する。これにより、撮像素子16が所定時間間隔を空けて駆動する。これにより、スルー画像の元になる画像信号が取得される。この画像信号は、信号処理回路22に出力される。信号処理回路22は、入力される画像信号に対して、直流再生処理、A/D変換処理、ホワイトバランス処理、γ変換処理などの信号処理を施し、画像データとしてデータ処理回路23に出力する。
【0036】
なお、スルー画像を表示するのであれば、画像データは、データ処理回路23を介して表示出力回路26に出力される。これを受けて、表示出力回路26は、液晶モニタ24に、入力された画像データに基づく画像を表示する。これにより、スルー画像が、液晶モニタ24に表示される。
【0037】
ステップS102は、情報を取得する処理である。データ処理回路23は、CPU20から、撮影時に設定される自動合焦動作の動作モード(シングルAFモード、コンティニュアスAFモード)や撮影モード(シーンモードを含む)の情報や、撮影条件の情報を取得する。
【0038】
ステップS103は、寄与率を設定する処理である。データ処理回路23は、ステップS102にて取得された情報に基づいて、顕著性マップを生成する際の寄与率を設定する。
【0039】
ここで、寄与率を設定する具体例を説明する。比率調整部32は、各特徴成分に対して割り振られた初期比率を読み出す。以下、色成分、輝度コントラスト成分及び方向性エッジ成分の各特徴成分の初期比率が0.33に設定される場合を例に挙げて説明する。
【0040】
初期比率を読み出した後、比率調整部32は、情報取得部31
が取得した情報に基づいて、各特徴成分の初期比率を基準にして、少なくとも2以上の特徴成分に対する比率を調整する。
【0041】
[例1]
撮像光学系15の焦点距離fの情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。CPU20は、撮像光学系15の各レンズの位置情報から焦点距離fを算出している。比率調整部32は、この焦点距離fの情報に基づいて各特徴成分に対する比率を調整する。
【0043】
例えば、焦点距離fが28mm以下となる場合(f≦28mmの場合)、比率調整部32は、色成分及び輝度コントラスト成分に対する比率を上げ(0.33→0.5)、方向性エッジ成分に対する比率を0にする。
【0044】
また、焦点距離fが28mmを超過し、50mm以下となる場合(28mm<f≦50mmの場合)、比率調整部32は、色成分及び輝度コントラスト成分に対する比率を上げ(0.33→0.45)、方向性エッジ成分に対する比率を下げる(0.33→0.1)。
【0045】
また、焦点距離fが50mmを超過し、120mm以下となる場合(50mm<f≦120mmの場合)、比率調整部32は、色成分及び輝度コントラスト成分に対する比率を上げ(0.33→0.4)、方向性エッジ成分に対する比率を下げる(0.33→0.2)。
【0046】
さらに、焦点距離fが120mmを超過する場合(120mm<fの場合)、比率調整部32は、各色成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。
【0047】
このように、焦点距離が短いほど画角が広角となるので、画像内の被写体のエッジの差がでにくくなる。このため、焦点距離が短いほど、方向性エッジに対する比率を下げ、色成分及び輝度コントラスト成分に対する比率を上げるように、各特徴成分に対する比率を調整する。
【0048】
[例2]
撮影モードの情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。撮影モードは、撮影時にユーザによる操作部材17の操作に基づいて設定される。
【0050】
撮影モードとしてモノクロ撮影モードが設定される場合、比率調整部32は、輝度コントラスト成分及び方向性エッジ成分に対する比率を上げ(0.33→0.5)、色成分に対する比率を0にする。一方、撮影モードとしてモノクロ撮影モードではなく、他の撮影モードが設定される場合には、比率調整部32は、各特徴成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。
【0051】
上述したモノクロ撮影モードの場合、画像においては、色成分の寄与度が低く、輝度コントラスト成分や方向性エッジ成分の寄与度が高くなることから、モノクロ撮影モードが設定される場合には、色成分に対する比率を下げ、輝度コントラスト成分や方向性エッジ成分に対する比率を上げるように各特徴成分に対する比率を調整する。
【0052】
なお、モノクロ撮影モードは、白黒の画像を取得する撮影モードの他に、セピア調の画像など、光の強弱を色の濃淡で表した画像を取得する撮影モードを含んでいる。
【0053】
[例3]
次に、被写界の明るさの情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。ここで、被写界の明るさの情報として、例えば取得されるスルー画像から得られる明るさの情報を用いる場合を説明する。なお、被写界の明るさの情報に基づいて、各特徴成分に対する比率を調整としては、例えば色成分に対する比率、又は、輝度コントラスト成分に対する比率の少なくともいずれか一方を下げることが考えられる。[表3]は、色成分に対する比率を下げる場合を示す。
【0055】
比率調整部32は、被写界の明るさの情報から得られるスルー画像内の明るさを、被写界の明るさが取り得る最大値が1となるように正規化する。この正規化の後、比率調整部32は、スルー画像における明るさの最大値B
maxが取り得る値によって、各特徴成分に対する比率を調整する。例えば、明るさの最大値B
maxが、0.3を超過し、かつ1以下となる場合(0.3<B
max≦1の場合)、比率調整部32は、各特徴成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。
【0056】
一方、明るさの最大値B
maxが0.3以下となる場合(B
max≦0.3の場合)、比率調整部32は、色成分に対する比率を下げ(0.33→0.1)、輝度コントラスト成分及び方向性エッジ成分に対する比率を上げる(0.33→0.45)。
【0057】
次に、輝度コントラスト成分に対する比率を下げる場合を[表4]に示す。
【0059】
例えば明るさの最大値B
maxが、0.3を超過し、かつ1以下となる場合(0.3<B
max≦1の場合)、比率調整部32は、各特徴成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。一方、明るさの最大値B
maxが0.3以下となる場合(B
max≦0.3)、比率調整部32は、輝度コントラスト成分に対する比率を下げ(0.33→0.1)、色成分及び方向性エッジ成分に対する比率を上げる(0.33→0.45)。
【0060】
次に、色成分及び輝度コントラスト成分に対する比率を下げる場合を[表5]に示す。
【0062】
例えば明るさの最大値B
maxが、0.3を超過し、かつ1以下となる場合(0.3<B
max≦1の場合)、比率調整部32は、各特徴成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。一方、明るさの最大値B
maxが0.3以下となる場合(B
max≦0.3)、比率調整部32は、色成分に対する比率と輝度コントラスト成分に対する比率とを下げ(0.33→0.1)、方向性エッジ成分に対する比率を上げる(0.33→0.8)。
【0063】
この例3では、被写界が暗くなれば、画像に含まれる色成分や輝度コントラストの値が全体的に低くなることから、色成分や輝度コントラスト成分に対する比率を下げ、方向性エッジ成分に対する比率を上げる。
【0064】
なお、被写界の明るさ情報に基づいて各特徴成分に対する比率を調整する場合、画像内の明るさの最大値を用いているが、これに限定される必要はなく、画像内の明るさの平均値を用いて、各特徴成分に対する比率を調整することも可能である。
【0065】
[例4]
次に、デフォーカス量の情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。撮像装置10においては、設定されるAF領域を用いて自動合焦動作を行っている。つまり、自動合焦動作を行うことで、デフォーカス量が取得される。比率調整部32は、取得されたデフォーカス量の情報を用いて、各特徴成分に対する比率を調整する。詳細には、デフォーカス量の最小値DF
minが取り得る値に基づいて、各特徴成分に対する比率を調整する。この場合の一例を[表6]に示す。
【0067】
ここで、α、βはそれぞれ閾値であり、α<βとなる。
【0068】
例えばデフォーカス量の最小値DF
minが閾値β以上となる場合(β≦DF
minの場合)、比率調整部32は、色成分に対する比率と輝度コントラスト成分に対する比率とを上げ(0.33→0.5)、方向性エッジ成分に対する比率を0にする。
【0069】
また、デフォーカス量の最小値DF
minが閾値β未満で、閾値α以上となる場合(α≦DF
min<βの場合)、比率調整部32は、色成分及び輝度コントラスト成分に対する比率を上げ(0.33→0.4)、方向性エッジ成分に対する比率を下げる(0.33→0.2)。
【0070】
また、デフォーカス量の最小値DF
minが閾値α以下となる場合(DF
min≦αの場合)、比率調整部32は、各特徴成分に対する比率を調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。
【0071】
この[例4]では、画面におけるデフォーカス量の値が大きいほど、得られる画像における焦点状態は悪くなることから、方向性エッジ成分に対する比率を下げ、色成分や輝度コントラスト成分に対する比率を上げるように各特徴成分に対する比率を調整している。
【0072】
なお、[例4]においては、デフォーカス量の最小値を用いているが、これに限定される必要はなく、デフォーカス量の平均値を用いてもよい。
【0073】
デフォーカス量は、例えば、各AF画素から焦点評価値として得ることができる。
【0074】
[例5]
次に、ホワイトバランスに関わる情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。撮像装置10においては、ユーザによる操作部材17の操作により、撮影時のホワイトバランスが設定される。このホワイトバランスの設定は、光源種の設定や、色温度の設定が挙げられる。光源種の設定としては、例えばオート、電球、蛍光灯、晴天、フラッシュ、曇天、晴天日陰からいずれかを設定するものである。一方、色温度の設定としては、2500〜10000Kの範囲内でユーザが操作部材17を操作して入力することが挙げられる。
【0075】
比率調整部32は、光源種の設定や色温度の情報から、屋外、晴天であるか否かを判定し、屋外、晴天であると判定された場合に、色成分及び輝度コントラスト成分に対する比率を上げ、方向性エッジ成分に対する比率を下げる。また、比率調整部32は、光源種の設定や色温度の情報から、屋内である場合や、屋外であるが、曇天である場合には、色成分及び輝度コントラスト成分に対する比率を下げ、方向性エッジ成分に対する比率を上げる。
【0076】
この[例5]では、光源種や色温度の設定において、輝度が明るくなるほど、得られる画像全体が明るくなり、また、コントラストが鮮明になることから、色成分や輝度コントラスト成分に対する比率を上げ、方向性エッジ成分に対する比率を下げるように各特徴成分に対する比率を調整している。
【0077】
なお、ホワイトバランスに関わる情報に基づいて各特徴成分に対する比率を調整する場合、例えば撮影時の輝度が所定の輝度以上となり、且つ青色となる領域があるか否かによって屋外、晴天であるか否かを判定することも可能である。
【0078】
[例6]
次に画像コントラスト情報に基づいて、各特徴成分に対する比率を調整する場合について説明する。CPU20は、スルー画像における輝度コントラストYCの情報を取得する。比率調整部32は、この輝度コントラストの最大値YC
maxと閾値との関係に基づいて、各特徴成分に対する比率を調整する。なお、輝度コントラストの最大値YC
maxと閾値との関係と、各特徴成分に対する比率とを[表7]に示す。
【0080】
ここで、C,Dはそれぞれ閾値であり、C<Dとなる。
【0081】
例えば輝度コントラストの最大値YC
maxが閾値D以上となる場合(D≦YC
maxの場合)、比率調整部32は、各特徴成分に対する比率は調整しない。この場合、各特徴成分に対する比率は、初期比率(0.33)のままとなる。
【0082】
また、輝度コントラストの最大値YC
maxが閾値D未満で、閾値C以上となる場合(C≦YC
max<Dの場合)、比率調整部32は、輝度コントラスト成分に対する比率を下げ(0.33→0.2)、色成分及び方向性エッジ成分に対する比率を上げる(0.33→0.4)。
【0083】
さらに、輝度コントラストの最大値YC
maxが閾値C未満となる場合(YC
max<Cの場合)、比率調整部32は、輝度コントラスト成分に対する比率を0にし、色成分及び方向性エッジ成分に対する比率を上げる(0.33→0.5)。
【0084】
つまり、輝度コントラストの最大値が低いほど、画面における輝度コントラストが小さくなるので、輝度コントラスト成分に対する比率を下げ、色成分や方向性エッジの比率を上げる。
【0085】
また、この他に、画像を取得する際に得られる距離情報に基づいて特徴成分に対する比率を調整することも可能である。この場合、画像における距離情報の最大値と最小値の差分を求め、この差分が小さいほど、方向性エッジ成分に対する比率を下げ、色成分や輝度コントラスト成分に対する比率を上げる。
【0086】
このようにして、各特徴成分に対して設定される寄与率が画像を取得したときの取得状況に応じて適切に調整される。
【0087】
なお、[例1]〜[例6]においては、比率調整部32により取得される情報のうちいずれか1つの情報に基づいて、各特徴成分に対する比率を調整する例を挙げているが、これに限定する必要はなく、複数の情報に基づいて各特徴成分に対する比率を調整することも可能である。
【0088】
[例7]
[例7]は、複数の撮影条件の要素を組み合わせて寄与率を調整する形態の一例を示すものである。[例7]では、撮影条件として[例1]で示した焦点距離情報と、[例5]で示したホワイトバランスに関わる情報とを組み合わせて寄与率を調整する例について説明する。
【0089】
例えば、ホワイトバランスに関わる情報から、撮影環境が屋外で、且つ晴天であると推定される場合、比率調整部32は、撮像光学系15の焦点距離fの情報に基づいて、以下の[表8]となるように、色成分、輝度コントラスト及び方向性エッジのそれぞれに対する比率を調整する。
【0091】
また、ホワイトバランスに関わる情報から、撮影環境が屋内である、又は曇天であると推定される場合、比率調整部32は、撮像光学系15の焦点距離fの情報に基づいて、以下の[表9]となるように、色成分、輝度コントラスト及び方向性エッジのそれぞれに対する比率を調整する。
【0093】
このように、複数の撮影条件を組み合わせることで、色成分、輝度コントラスト及び方向性エッジに係る比率を、撮影の環境状況に応じて適切に調整することが可能となる。
【0094】
ステップS104は、顕著性マップを生成する処理である。データ処理回路23は、スルー画像データを用いて、色情報マップ、輝度情報マップ、エッジ情報マップを生成する。データ処理回路23は、生成したマップと、ステップS103にて設定された各特徴成分に対する寄与率とを用いて顕著性マップを生成する。なお、生成された顕著性マップは、図示を省略したメモリに記憶される。
【0095】
ステップS105は、顕著性マップに基づいてAF領域を設定する処理である。CPU20は、メモリに記憶された顕著性マップを読み出す。CPU20は、読み出した顕著性マップにおける顕著度のうち、最も顕著度が高くなる領域を抽出する。そして、CPU20は、抽出した領域をAF領域として設定する。なお、設定されたAF領域に係る情報は、表示出力回路26に出力される。表示出力回路26は、スルー画像とAF領域を示す枠とを重畳して液晶モニタ24に表示する。
【0096】
ステップS106は、レリーズボタンの半押し操作があるか否かを判定する処理である。なお、詳細は省略するが、レリーズボタンには、その半押し操作、及び全押し操作が行われたときに、オンとなるスイッチがそれぞれ設けられている。これらスイッチがオンとなる場合には、そのオンとなる信号(以下、操作信号)がCPU20にそれぞれ入力される。CPU20は、レリーズボタンの半押し操作時の操作信号が入力されたか否かによって、レリーズボタンが半押し操作されたか否かを判定する。例えばレリーズボタンの半押し操作時の操作信号がCPU20に入力された場合には、CPU20は、ステップS106の判定をYesとする。この場合、ステップS107に進む。一方、レリーズボタンの半押し操作時の操作信号がCPU20に入力されない場合には、CPU20は、ステップS106の判定をNoとする。この場合、ステップS101に戻り、ステップS101からステップS105の処理が再度実行される。
【0097】
ステップS107は、AF処理である。ステップS105によりAF領域が設定されている。CPU20は、レンズ駆動回路18を介して撮像光学系15のフォーカスレンズを所定ピッチで光軸方向に移動させて、設定されたAF領域における焦点評価値を求め、この焦点評価値をもとにフォーカスレンズを移動させて、AF処理を実行する。
【0098】
ステップS108は、レリーズボタンの全押し操作があるか否かを判定する処理である。上述したように、レリーズボタンには、その半押し操作、及び全押し操作が行われたときに、オンとなるスイッチがそれぞれ設けられている。CPU20は、レリーズボタンの全押し操作時の操作信号が入力されたか否かによって、レリーズボタンが全押し操作されたか否かを判定する。例えばレリーズボタンの全押し操作時の操作信号がCPU20に入力された場合には、CPU20は、ステップS108の判定をYesとする。この場合、ステップS109に進む。一方、レリーズボタンの全押し操作時の操作信号がCPU20に入力されない場合には、CPU20は、ステップS108の判定をNoとする。この場合、ステップS113に進む。
【0099】
ステップS109は、撮像処理である。CPU20は、ステップS107におけるAF処理と同様にAF処理を行う。この場合、フォーカスレンズを光軸方向に移動させるピッチは、ステップS107よりも細かいピッチとなる。
【0100】
この処理の後、CPU20は、設定される絞り値をレンズ駆動回路に出力する。これを受けて、レンズ駆動回路18は、入力された絞り値となるように、絞り(図示省略)を制御する。また、CPU20は、AE処理により設定されるシャッタ速度に基づく駆動信号を、撮像素子駆動回路21に出力する。これを受けて、撮像素子16が駆動制御される。これにより、撮像処理が実行される。この撮像処理により得られる画像信号は、信号処理回路22に出力される。信号処理回路22は、入力された画像信号に対して、直流再生処理、A/D変換処理、γ変換処理などの信号処理を施す。これにより、撮像により得られた画像データ(本画像データ)が生成される。
【0101】
ステップS110は、画像を表示する処理である。ステップS109により生成される画像データは、データ処理回路23に入力される。データ処理回路23は、入力された画像データに対して、必要に応じて、液晶モニタ24に表示を行うための解像度(画素数)変換処理を施し、表示出力回路26に出力する。表示出力回路26は、データ処理回路23から入力された画像データに所定の信号処理を施して、液晶モニタ24に出力する。
【0102】
ステップS111は、画像データを記憶するか否かを判定する処理である。CPU20は、表示出力回路26に対して、表示された画像データを記憶するか否かをユーザに選択させるための表示を行う指示を行う。これを受けて、表示出力回路26は、表示している画像に、例えば「画像データを記憶しますか?」などのコメントを重畳させる。この表示を受けて実行される操作部材17からの操作信号に基づいて、CPU20は、画像データを記憶するか否かを判定する。操作部材17からの操作信号が、画像データを記憶することを示す信号であれば、CPU20は、ステップS111の判定をYesとして、ステップS112に進む。一方、操作部材17からの操作信号が、画像データを記憶しないことを示す信号であれば、CPU20は、ステップS111の判定Noとする。この場合は、
図3のフローチャートの処理が終了する。
【0103】
ステップS112は、画像データを記憶する処理である。データ処理回路23は、画像データを圧縮伸長処理回路25に出力する。これを受けて、圧縮伸長処理回路25は、入力された画像データに対して圧縮処理を施し、記憶媒体27に記憶する。ここで、画像データは、ステップS104、又はステップS117のいずれかの処理にて生成された顕著度マップが付帯情報として付帯された状態で、記憶媒体27に記憶される。
【0104】
上述したステップS108において、レリーズボタンの全押し操作がない場合には、ステップS108の判定がNoとなり、ステップS113に進む。
【0105】
ステップS113は、自動合焦動作の動作モードがコンティニュアスAFモードであるか否かを判定する処理である。自動合焦動作の動作モードがコンティニュアスAFモードであれば、CPU20は、ステップS113の判定処理をYesとし、ステップS114に進む。
【0106】
一方、自動合焦動作の動作モードがシングルAFモードであれば、CPU20は、ステップS113の判定処理をNoとする。この場合、ステップS108に戻る。自動合焦動作の動作モードがシングルAFモードの場合、ステップS107にて実行されたAF処理により設定されるフォーカスレンズの位置が固定される。
【0107】
ステップS114は、スルー画像を取得する処理である。このステップS114の処理はステップS101と同一の処理である。
【0108】
ステップS115は、情報を取得する処理である。このステップS115の処理は、ステップS102と同一の処理である。
【0109】
ステップS116は、寄与率を設定する処理である。このステップS116の処理は、ステップS103と同一の処理である。
【0110】
ステップS117は、顕著性マップを生成する処理である。このステップS117の処理は、ステップS104と同一の処理である。
【0111】
ステップS118は、顕著性マップに基づいてAF領域を設定する処理である。このステップS118の処理は、ステップS105と同一の処理である。
【0112】
ステップS119はAF処理である。このステップS119の処理は、ステップS107と同一の処理である。
【0113】
ここで、自動合焦動作の動作モードとしてコンティニュアスAFモードが設定され、且つレリーズボタンが半押し操作され続けた場合には、ステップS114からステップS119の処理が繰り返し実行される。つまり、スルー画像が取得される度に、顕著性マップが生成され、顕著性マップに基づいたAF処理が実行される。
【0114】
このように、情報取得部31により得られる情報に基づいて、各特徴成分に対する比率が調整され、各特徴マップに対する寄与率が設定される。これにより、撮影時における画像の取得環境に応じた寄与率を設定することができ、適切な顕著性マップを生成することが可能となる。
【0115】
また、生成された顕著性マップからAF領域が設定されることになるので、自動合焦動作を適切に行うことが可能となる。
【0116】
なお、
図3のフローチャートにおいては、特徴成分に対する比率を調整する場合に、自動合焦動作の動作モードを加味していないが、例えばステップS103における寄与率の設定において、自動合焦動作の動作モードとしてシングルAFモードに設定されている場合に、撮像光学系の合焦状態を判定した結果を加味することも可能である。この場合、撮像光学系が合焦している場合には、方向性エッジ成分に対する比率を上げ、色成分及び輝度コントラスト成分に対する比率を下げるように、各特徴成分に対する比率を調整する。また、AF動作中である場合には、方向性エッジ成分に対する比率を下げ、残りの特徴成分に対する比率を上げるように、各特徴成分に対する比率を調整する構成としてもよい。また、AE動作の実行中には、輝度コントラスト成分に対する比率を下げ、残りの特徴成分に対する比率を上げるように、各特徴成分に対する比率を調整する構成としてもよい。このように、撮像装置の各種調整中に得られた撮影画像については、調整に関連する特徴成分の比率を例えば下げるように調整する構成としてもよい。したがって、撮影状況に応じて、適切な顕著度の判断を行うことが可能となる。
【0117】
図3のフローチャートの処理においては、レリーズボタンの全押し操作が行われたと判定された場合(ステップS108がYesとなる場合)に撮像処理を実行しているが、これに限定される必要はなく、レリーズボタンの全押し操作が行われたと判定された場合に顕著性マップを生成し、生成された顕著性マップに基づいたAF処理を行った後、撮像処理を実行することも可能である。この場合、スルー画像に基づく顕著性マップの生成時に用いる各特徴成分の寄与率の設定においては、方向性エッジ成分の寄与率を下げ、色成分及び輝度コントラスト成分の寄与率を上げる。そして、レリーズボタンが全押し操作されたことに起因した顕著性マップの生成時に用いる各特徴成分の寄与率の設定時に、方向性エッジ成分の寄与率を上げ、色成分及び輝度コントラスト成分の寄与率を下げる。つまり、スルー画像に基づいて生成される顕著性マップは、自動合焦動作を行う際に使用する領域(AF領域)を設定するために使用し、レリーズボタンの全押し操作に起因した顕著性マップは、AF領域における顕著度が、他の領域に対する顕著度よりも高いか否かを判定し、ユーザにとって好ましい画像が得られるか否かを補助的に判断するために使用できる。
【0118】
本実施形態では、顕著度マップを用いて自動合焦動作を行う場合について説明しているが、これに限定される必要はなく、生成される顕著性マップから顕著度の高い領域を主要被写体の領域と推定し、推定される主要被写体の領域が適切な構図となるように、撮影倍率を変更するように、撮像光学系の各レンズを駆動制御してもよい。
【0119】
また、この他に、顕著度マップから顕著度の高い領域を含む矩形の領域を、トリミング(クロップ)処理を行う候補となる領域として抽出し、抽出された領域を、スルー画像と重畳表示させることも可能である。
【0120】
本実施形態では、スルー画像に基づいて顕著性マップを生成しているが、これに限定する必要はなく、撮影時に得られる画像に基づいて顕著性マップを生成することも可能である。撮影時に得られる画像に基づいて顕著性マップを生成する場合、例えばトリミング(クロップ)処理を行う候補となる領域の設定に使用することができる。また、連続撮影により得られる画像の場合には、複数の画像から得られる顕著性マップを用いて、取得された複数の画像のうち、最適な画像を選択することができる。
【0121】
本実施形態では、撮像装置としているが、具体的には、デジタルカメラ、カメラ機能を備えた携帯型電話機に代表される携帯型端末機などが挙げられる。また、撮像装置の他に、
図1及び
図2に示すデータ処理回路23の各部の機能を備えた画像処理装置であっても、本発明を適用することが可能である。さらに、撮像装置や画像処理装置の他に、デジタルカメラなどの撮像装置と、PCとからなる撮像システムに適用することができる。
【0122】
また、この他に、
図1及び
図2に示すデータ処理回路23の各部の機能を実行するための画像処理プログラムであってもよい。この画像処理プログラムは、メモリカード、磁気ディスク、光学ディスクなどのコンピュータにて読み取ることが可能な記憶媒体に記憶されていることが好ましい。