(58)【調査した分野】(Int.Cl.,DB名)
撮影光学系の最も被写体側に位置する光学素子から所定の画素配置を有する撮像素子の受光面までの間の光路に配置された透光性部材を、少なくとも1つの状態で振動させることにより、該受光面に対して該撮影光学系による被写体像を相対的に振動させるステップと、
前記透光性部材の異なる振動の状態下において、前記撮像素子に取り込まれた被写体像を撮像して得た画像に対し、色補間処理を含む所定の信号処理を施して色差信号を生成するステップと、
撮像時における前記透光性部材の振動の状態が互いに異なる少なくとも一対の画像の色差信号に基づいて該画像内に発生する画像劣化の検出を行うステップと、
を含む、
画像検出方法。
【発明を実施するための形態】
【0020】
以下、本発明の実施形態の撮影装置について図面を参照しながら説明する。以下においては、本発明の一実施形態として、デジタル一眼レフカメラについて説明する。なお、撮影装置は、デジタル一眼レフカメラに限らず、例えば、ミラーレス一眼カメラ、コンパクトデジタルカメラ、ビデオカメラ、カムコーダ、タブレット端末、PHS(Personal Handy phone System)、スマートフォン、フィーチャフォン、携帯ゲーム機など、撮影機能を有する別の形態の装置に置き換えてもよい。
【0021】
[撮影装置1全体の構成]
図1は、本実施形態の撮影装置1の構成を示すブロック図である。
図1に示されるように、撮影装置1は、システムコントローラ100、操作部102、駆動回路104、撮影レンズ106、絞り108、シャッタ110、撮像ユニット112、信号処理回路114、画像処理エンジン116、バッファメモリ118、カード用インタフェース120、LCD(Liquid Crystal Display)制御回路122、LCD124、ROM(Read Only Memory)126、ジャイロセンサ128、加速度センサ130、地磁気センサ132及びGPS(Global Positioning System)センサ134を備えている。なお、撮影レンズ106は複数枚構成であるが、
図1においては便宜上一枚のレンズとして示す。また、撮影レンズ106の光軸AXと同じ方向をZ軸方向と定義し、Z軸方向と直交し且つ互いに直交する二軸方向をそれぞれX軸方向(水平方向)、Y軸方向(垂直方向)と定義する。
【0022】
操作部102には、電源スイッチやレリーズスイッチ、撮影モードスイッチなど、ユーザが撮影装置1を操作するために必要な各種スイッチが含まれる。ユーザにより電源スイッチが操作されると、図示省略されたバッテリから撮影装置1の各種回路に電源ラインを通じて電源供給が行われる。
【0023】
システムコントローラ100は、CPU(Central Processing Unit)及びDSP(Digital Signal Processor)を含む。システムコントローラ100は電源供給後、ROM126にアクセスして制御プログラムを読み出してワークエリア(不図示)にロードし、ロードされた制御プログラムを実行することにより、撮影装置1全体の制御を行う。
【0024】
レリーズスイッチが操作されると、システムコントローラ100は、例えば、固体撮像素子112a(後述の
図2参照)により撮像された画像に基づいて計算された測光値や、撮影装置1に内蔵された露出計(不図示)で測定された測光値に基づき適正露出が得られるように、駆動回路104を介して絞り108及びシャッタ110を駆動制御する。より詳細には、絞り108及びシャッタ110の駆動制御は、プログラムAE(Automatic Exposure)、シャッタ優先AE、絞り優先AEなど、撮影モードスイッチにより指定されるAE機能に基づいて行われる。また、システムコントローラ100はAE制御と併せてAF(Autofocus)制御を行う。AF制御には、アクティブ方式、位相差検出方式、像面位相差検出方式、コントラスト検出方式等が適用される。また、AFモードには、中央一点の測距エリアを用いた中央一点測距モード、複数の測距エリアを用いた多点測距モード、全画面の距離情報に基づく全画面測距モード等がある。システムコントローラ100は、AF結果に基づいて駆動回路104を介して撮影レンズ106を駆動制御し、撮影レンズ106の焦点を調整する。なお、この種のAE及びAFの構成及び制御については周知であるため、ここでの詳細な説明は省略する。
【0025】
図2は、撮像ユニット112の構成を示す分解斜視図である。
図2に示されるように、撮像ユニット112は、固体撮像素子112aを備えている。被写体からの光束(被写体光束)は、撮影レンズ106、絞り108、シャッタ110を通過して固体撮像素子112aの受光面にて受光される。なお、固体撮像素子112aの受光面は、X軸及びY軸を含むXY平面である。固体撮像素子112aは、ベイヤ型カラーフィルタが受光面の各画素毎に一体的に配置された単板式カラーCCD(Charge Coupled Device)イメージセンサである。したがって、固体撮像素子112aは、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R(Red)、G(Green)、B(Blue)の画像信号を生成して出力する。なお、固体撮像素子112aは、CCDイメージセンサに限らず、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサやその他の種類の撮像装置に置き換えられてもよい。固体撮像素子112aはまた、補色系カラーフィルタを搭載したものであってもよい。また、固体撮像素子112aに搭載されたカラーフィルタは、撮像素子112aの受光面に対して移動可能であるように該受光面と分離して配置された構成としてもよい。
【0026】
信号処理回路114は、固体撮像素子112aより入力される画像信号に対してクランプ、デモザイク(色補間)等の所定の信号処理を施して、画像処理エンジン116に出力する。画像処理エンジン116は、信号処理回路114より入力される画像信号に対してマトリクス演算、Y/C分離、ホワイトバランス等の所定の信号処理を施して輝度信号Y、色差信号Cb、Crを生成し、JPEG(Joint Photographic Experts Group)等の所定のフォーマットで圧縮する。バッファメモリ118は、画像処理エンジン116による処理の実行時、処理データの一時的な保存場所として用いられる。また、撮影画像の保存形式は、JPEG形式に限らず、最小限の画像処理(例えばクランプ)しか施されないRAW形式であってもよい。
【0027】
カード用インタフェース120のカードスロットには、メモリカード200が着脱可能に差し込まれている。
【0028】
画像処理エンジン116は、カード用インタフェース120を介してメモリカード200と通信可能である。画像処理エンジン116は、生成された圧縮画像信号(撮影画像データ)をメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存する。
【0029】
また、画像処理エンジン116は、生成された輝度信号Y、色差信号Cb、Crをフレームメモリ(不図示)にフレーム単位でバッファリングする。画像処理エンジン116は、バッファリングされた信号を所定のタイミングで各フレームメモリから掃き出して所定のフォーマットのビデオ信号に変換し、LCD制御回路122に出力する。LCD制御回路122は、画像処理エンジン116より入力される画像信号を基に液晶を変調制御する。これにより、被写体の撮影画像がLCD124の表示画面に表示される。ユーザは、AE制御及びAF制御に基づいて適正な輝度及びピントで撮影されたリアルタイムのスルー画(ライブビュー)を、LCD124の表示画面を通じて視認することができる。
【0030】
画像処理エンジン116は、ユーザにより撮影画像の再生操作が行われると、操作により指定された撮影画像データをメモリカード200又は内蔵メモリより読み出して所定のフォーマットの画像信号に変換し、LCD制御回路122に出力する。LCD制御回路122が画像処理エンジン116より入力される画像信号を基に液晶を変調制御することで、被写体の撮影画像がLCD124の表示画面に表示される。
【0031】
[振れ補正部材の駆動に関する説明]
図2に示されるように、撮像ユニット112は、像振れ補正ユニット112Aを備えている。なお、
図2において、像振れ補正ユニット112Aについては、便宜上、一部の構成要素のみを示す。像振れ補正ユニット112Aは、振れ補正部材を駆動させる。本実施形態において、振れ補正部材は、固体撮像素子112aである。なお、振れ補正部材は、固体撮像素子112aに限らず、撮影レンズ106内に含まれる一部のレンズなど、光軸AXを基準として物理的に動かされることにより、固体撮像素子112aの受光面上での被写体像の入射位置をシフトさせることが可能な別の構成であってもよく、又は、これらと固体撮像素子112aのうち2つ以上の部材を組み合わせた構成であってもよい。
【0032】
像振れ補正ユニット112Aは、撮影装置1の筺体の露光中の振動(いわゆる手振れ)による像振れを補正するために振れ補正部材を光軸AXと直交する平面内(すなわち、XY平面内)で撮影装置1の筺体の振動に応じて微小に駆動(振動)させるだけでなく、撮影装置1の露光中に被写体像を画素ピッチ分(つまり極めて微小量)移動させることによる光学的なローパスフィルタ(LPF:Low Pass Filter)効果(偽色等のモアレの軽減)が得られるように振れ補正部材を光軸AXと直交する平面内で更に微小に駆動(微小回転)させる。以下、説明の便宜上、振れ補正部材を像振れ補正で駆動させることを「像振れ補正駆動」と記し、振れ補正部材を光学的なLPFと同様の効果が得られるように駆動させることを「LPF駆動」と記す。
【0033】
(像振れ補正駆動に関する説明)
ジャイロセンサ128は、像振れ補正を制御するための情報(撮像装置1の筺体の振動)を検出するためのセンサである。具体的には、ジャイロセンサ128は、撮影装置1に加わる二軸周り(X軸周り、Y軸周り)の角速度を検出し、検出された二軸周りの角速度をXY平面内(換言すると、固体撮像素子112aの受光面内)の振れを示す振れ検出信号としてシステムコントローラ100に出力する。
【0034】
図2に示されるように、像振れ補正ユニット112Aは、撮影装置1が備えるシャーシ等の構造物に固定された固定支持基板112Aaを備えている。固定支持基板112Aaは、固体撮像素子112aが搭載された可動ステージ(不図示)をスライド可能に支持している。
【0035】
可動ステージと対向する固定支持基板112Aaの面上には、二対のボイスコイルモータ(不図示)が取り付けられている。ボイスコイルモータは、磁気回路(ヨーク及び磁石)並びに駆動用コイルを備えている。駆動用コイルが磁気回路の磁界内において電流を受けることにより、駆動力が発生する。可動ステージ(固体撮像素子112a)は、発生した駆動力により、固定支持基板112Aaに対してXY平面内で微小に駆動される。
【0036】
各駆動用コイルの近傍位置には、ホール素子(不図示)が取り付けられている。ホール素子は、磁石の磁力を検出して、可動ステージ(固体撮像素子112a)のXY平面内の位置を示す位置検出信号をシステムコントローラ100に出力する。一対のホール素子により可動ステージ(固体撮像素子112a)のY軸方向位置及び傾き(回転)が検出され、もう一対のホール素子により可動ステージ(固体撮像素子112a)のX軸方向位置及び傾き(回転)が検出される。
【0037】
システムコントローラ100は、ジャイロセンサ128より出力される振れ検出信号及び各ホール素子より出力される位置検出信号に基づいて各ボイスコイルモータに流す電流のバランスを崩さないようにデューティ比を計算する。システムコントローラ100は、計算されたデューティ比で各ボイスコイルモータに駆動電流を流し、固体撮像素子112aを像振れ補正駆動する。これにより、固体撮像素子112aが重力や外乱等に抗して規定の位置に保持されつつ固体撮像素子112aの受光面上での像振れが補正(別の言い方によれば、受光面上での被写体像の入射位置が振れないように固体撮像素子112aの位置が調整)される。
【0038】
(LPF駆動に関する説明)
次に、LPF駆動に関する説明を行う。本実施形態において、像振れ補正ユニット112Aは、各ボイスコイルモータに所定の駆動電流を流すことにより、一回の露光期間に対して、XY平面内において所定の軌跡を描くように可動ステージ(固体撮像素子112a)を駆動して、被写体像を固体撮像素子112aの検出色(R、G又はB)の異なる複数の画素に入射させる。これにより、光学的なLPFと同様の効果が得られる。
【0039】
図4(a)、
図4(b)は、LPF駆動の説明を補助する図である。同図に示されるように、固体撮像素子112aの受光面上には、複数の画素PIXが所定の画素ピッチPでマトリックス状に並べて配置されている。説明の便宜上、同図の各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。
【0040】
図4(a)は、固体撮像素子112aが光軸AXを中心とする正方形軌跡を描くように駆動される例を示す。この正方形軌跡は、例えば固体撮像素子112aの画素ピッチPを一辺とした正方形の閉じた経路とすることができる。
図4(a)の例では、固体撮像素子112aは、X軸方向とY軸方向とに1画素ピッチP単位で交互に且つ正方形経路となるように駆動される。
【0041】
図4(b)は、固体撮像素子112aが光軸AXを中心とする回転対称な円形軌跡を描くように駆動される例を示す。この円形軌跡は、例えば固体撮像素子112aの画素ピッチPの√2/2倍を半径rとする円形の閉じた経路とすることができる。
【0042】
なお、画素ピッチPを含む駆動軌跡の情報は、システムコントローラ100の内部メモリ又はROM126に予め保持されている。
【0043】
図4(a)(又は
図4(b))に例示されるように、露光期間中、固体撮像素子112aが駆動軌跡の情報に基づいて所定の正方形軌跡(又は円形軌跡)を描くように駆動されると、被写体像が4つのカラーフィルタR、G、B、G(4つ(二行二列)の画素PIX)に均等に入射される。これにより、光学的なLPFと同等の効果が得られる。すなわち、何れのカラーフィルタ(画素PIX)に入射された被写体像も、その周辺のカラーフィルタ(画素PIX)に必ず入射されるため、恰も光学的なLPFを被写体像が通過したときと同等の効果(偽色等のモアレの軽減)が得られる。
【0044】
なお、ユーザは、操作部102を操作することにより、像振れ補正駆動、LPF駆動のそれぞれのオン/オフを切り替えることができる。
【0045】
[異物除去に関する説明]
図2に示される撮像ユニット112において、像振れ補正ユニット112Aと押さえ枠112Bは、ねじ等で締結固定される。像振れ補正ユニット112Aと押さえ枠112Bとの間には、固体撮像素子112a、ゴムシート112b、IR(Infra-Red)吸収硝子112c、カバーガラス112d(透明部材)、スポンジシート112e及び受光面保護カバー112fが配置されている。言いかえると、IR(Infra-Red)吸収硝子112c、カバーガラス112d(透明部材)は、固体撮像素子112a(受光面)と撮影レンズ106との間に配置されている。
【0046】
具体的には、固体撮像素子112aには、受光面と一体的に構成され固体撮像素子112aとユニット化された受光面保護カバー112fが配置されている。また、固体撮像素子112aには、受光面(画素毎にカラーフィルタが配置された画素配置領域)の四辺を囲う矩形枠状のゴムシート112bが接着されている。また、固体撮像素子112aの前方であって被写体光束の光路上には、固体撮像素子112a側から順に、受光面保護カバー112fから所定の間隔を空けて赤外線を吸収(すなわち、赤外線の透過をカット)するIR吸収硝子112c、固体撮像素子112a全体を保護するカバーガラス112dが配置されている。固体撮像素子112aの画素配置領域は、ゴムシート112bと受光面保護カバー112fとによって規定されるスペース内に、カラーフィルタと共に封止されている。そのため、固体撮像素子112aの画素配置領域には直接的には塵埃等の異物が付着しない。また、受光面保護カバー112fとカバーガラス112dとの間に、スポンジシート112eが配置されている。スポンジシート112eは、被写体光束の光路と干渉しないように矩形枠状に形成されている。
【0047】
受光面保護カバー112fは、被写体光束の光路上に位置する領域(光学面)の周囲がゴムシート112b、カバーガラス112d及びスポンジシート112e等により取り囲われている。そのため、受光面保護カバー112fの光学面には、塵埃等の異物が実質的に付着しない。一方、カバーガラス112dの光学面(特にシャッタ110側に位置する前面)には、塵埃等の異物が付着する虞がある。
【0048】
そこで、
図2に示されるように、カバーガラス112dの光学面(背面側の光学面)の下部周縁領域(被写体光束の光路外)に、圧電素子112PZTが配置されている。圧電素子112PZTは、X軸方向に長尺な形状を有しており、その表面には対をなす対向電極が形成されている。圧電素子112PZTは、対向電極及びフレキケーブル112FPCを介してシステムコンピュータ100と接続されている。
【0049】
圧電素子112PZTは、システムコンピュータ100により対向電極間で分極方向に電圧が印加されるとZ軸の矢羽根側の方向(−Z軸方向)に屈曲し、システムコンピュータ100により対向電極間で分極方向と逆方向に電圧が印加されるとZ軸の矢じり側の方向(+Z軸方向)に屈曲する。圧電素子112PZTに印加される電圧は、交流電圧である。そのため、圧電素子112PZTは、電圧印加中、±Z軸方向に交流電圧の周波数に応じた周期で振動(微視的には光学面が略正弦波振動)する。
【0050】
例えば、操作部102に備えられるクリーニングモードスイッチが押されることにより、圧電素子112PZTが振動して、カバーガラス112dが加振される。カバーガラス112dが加振されることにより、カバーガラス112dの光学面に付着した異物が振るい落される。また、スポンジシート112eは、カバーガラス112dから伝わる振動を吸収する。そのため、固体撮像素子112a、ゴムシート112b及び受光面保護カバー112fは、カバーガラス112dの振動の影響を実質的に受けない。
【0051】
[画像劣化(偽色)の検出に関する説明]
次に、本実施形態において撮影画像内に発生する画像劣化(モアレの一種である偽色)を検出する方法について説明する。
図5は、システムコントローラ100により実行される偽色検出フローを示す。
図5に示される偽色検出フローは、例えば、レリーズスイッチが押された時点で開始される。
【0052】
[
図5のS11(状態の判定)]
本処理ステップS11では、撮影装置1の筺体が静止状態であるか否かが判定される。例示的には、ジャイロセンサ128より入力される振れ検出信号のうち一定周波数以上の信号成分の振幅が一定期間継続してある閾値以内に収まる場合に静止状態と判定される。撮影装置1の筺体の静止状態として、典型的には、撮影装置1が三脚に固定された状態が挙げられる。なお、静止状態を含めた撮影装置1の姿勢はジャイロセンサ128に代えて、加速度センサ130、地磁気センサ132、GPSセンサ134など、他のセンサより出力される情報を用いて検出されてもよい。また、検出精度を向上させるため、例えばセンサ・フュージョン技術を適用し、これらのセンサより出力される情報が複合的に用いられるようにしてもよい。
【0053】
撮影装置1が低速シャッタスピード設定下の手持ち撮影状態など、静止状態にない場合は、手振れ(あるいは被写体振れ)による被写体のボケに起因して偽色がそもそも発生し難い。従って、本実施形態では、撮影装置1の筺体が静止状態である(すなわち、偽色が発生しやすい状態である)と判定された場合に限り(S11:YES)、撮影画像内の偽色を検出すべく、処理ステップS12(第一画像の撮影)以降が実行される。撮影装置1の筺体が静止状態にない場合は、処理ステップS12(第一画像の撮影)以降が実行されないため、システムコントローラ100の処理負荷が軽減される。処理ステップS12(第一画像の撮影)以降が実行されない旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。なお、撮影画像内の偽色の検出を重視したい場合は、撮影装置1が静止状態であるか否かに拘わらず処理ステップS12(第一画像の撮影)以降が実行されてもよい。この場合、処理ステップS12(第一画像の撮影)以降が実行される旨は、撮影者に例えばLCD124の表示画面等を通じて通知されてもよい。また、静止状態の判定閾値は撮影装置1に設定されたシャッタスピードに応じて変更されてもよい。
【0054】
[
図5のS12(第一画像の撮影)]
図6(a)、
図7(a)は、撮影される被写体の一部であって、それぞれ異なる部分を拡大して示す図である。
図6(a)に示される被写体は、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチで明暗が交互に現れる斜め縞模様であり、
図7(a)に示される被写体は、画素ピッチPと同ピッチで明暗が交互に現れる縦縞模様である。説明の便宜上、
図6(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「斜め縞被写体6a」と記し、
図7(a)に示される被写体のうち太実線で囲まれた6×6マスの被写体を「縦縞被写体7a」と記す。
【0055】
本処理ステップS12では、AE制御及びAF制御に基づいて適正な輝度及びピントで被写体画像(第一画像)が撮影される。ここでは、斜め縞被写体6aと縦縞被写体7aの何れにもピントが合っているものとする。
【0056】
図6(b)、
図7(b)はそれぞれ、固体撮像素子112aの各画素PIXの取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す図であり、固体撮像素子112aの受光面を被写体側から正面視した図である。
図6(b)及び
図7(b)では、
図4と同様に、各画素PIXについて、前面に配置されたフィルタ色に対応させて符号(R、G、Bの何れか1つ)を付す。
図6(b)、
図7(b)の各図中、黒塗りの画素PIXは、縞模様の暗部分を取り込んだことを示し、白塗りの画素PIXは、縞模様の明部分を取り込んだことを示す。また、説明の便宜上、
図6(b)、
図7(b)の各図に画素のアドレス(数字1〜8、符号イ〜チ)を付す。なお、厳密には、撮影レンズ106の結像作用によって、被写体は上下左右が反転した状態で固体撮像素子112a上に結像される。一例として、「斜め縞被写体6a」の左上角の部分は、固体撮像素子112a上では右下角の部分として結像する。しかし、本実施形態では、説明の煩雑化を避けるため、「斜め縞被写体6a」の左上角の部分は、
図6(b)の左上角の部分に対応するものとして説明する。
【0057】
[
図5のS13(カバーガラス112dの加振)]
本処理ステップS13では、カバーガラス112dが圧電素子112PZTにより所定の共振周波数で加振される。
図9(a)〜
図9(e)の各図に、それぞれ異なる共振周波数で加振されたときのカバーガラス112dの状態を誇張して示す。
図9(a)〜
図9(e)の各図の濃淡は、カバーガラス112dの振幅を示す。カバーガラス112dは、例えば基本振動の2倍以上の共振周波数で加振される。そのため、カバーガラス112dには、
図9(a)〜
図9(e)の各図に示されるように、腹や節が面内の複数個所に現れるように振動する。
【0058】
カバーガラス112dの光学面は、加振されていない状態では、その全面に亘って光軸AXと直交した姿勢(以下、説明の便宜上「直交状態」と記す。)を保つ。また、カバーガラス112dの光学面は、加振されている状態では、
図9(a)〜
図9(e)の各図に示されるように、光軸AXに対して局所的に(特に節周辺の領域で)傾いた状態(以下、説明の便宜上「局所傾斜状態」と記す。)となる。
【0059】
図3に、固体撮像素子112aの受光面に入射される光線の軌跡を模式的に示す。
図3中、符号L(実線)は、光軸AXと平行な方向に伝播する光線であって、カバーガラス112dに入射される前までの光線の軌跡を示す。符号L’(破線)及び符号L”(一点鎖線)は、カバーガラス112dに入射された後の光線の軌跡を示す。軌跡L’は、光軸AXに直交状態(加振されていないか、加振中に光軸AXに直交する瞬間の状態)のカバーガラス112dの光学面(直交状態の領域)に入射された光線の軌跡を示し、軌跡L”は、加振されて、光軸AXに対して傾斜した瞬間の状態のカバーガラス112dの光学面(局所傾斜状態の領域)に入射された光線の軌跡を誇張して示す。
【0060】
図3に示されるように、光線が、カバーガラス112dに垂直に入射している状態では、伝播方向と直交する面内(直交状態の領域)に入射されることから、カバーガラス112dを屈折することなく直交透過して(入射光線の延長線上に射出して)、固体撮像素子112aの受光面に入射される(
図3の軌跡L’参照)。また、光線が、カバーガラス112dに対して傾斜して(非直交で)入射している状態では、伝播方向に対して斜めに傾いた面内(局所傾斜状態の領域)に入射されることから、カバーガラス112dにて屈折されて光線の射出位置が入射光線の延長線上に対して変わり、固体撮像素子112aの受光面に入射される(
図3の軌跡L”参照)。
【0061】
図3の軌跡L’と軌跡L”とを比較すると判るように、光線は、カバーガラス112dの加振による傾斜状態の変化に応じて、固体撮像素子112aの受光面内における入射位置が刻々と変化する。
【0062】
[
図5のS14(第二画像の撮影)]
本処理ステップS14においても、第一画像撮影時のAE制御及びAF制御に基づいて被写体画像(第二画像)が撮影される。第二画像の撮影完了後、第一画像と第二画像を用いた画像劣化検出処理を開始する旨が撮影者に告知されてもよい。
【0063】
図6(c)、
図7(c)はそれぞれ、
図6(b)、
図7(b)と同様の図であり、固体撮像素子112aの各画素PIXの取り込まれる斜め縞被写体6a、縦縞被写体7aを模式的に示す。
図6、
図7の各図(b)、(c)に示されるように、固体撮像素子112aの受光面上での被写体像の入射位置は、処理ステップS13(カバーガラス112dの加振)におけるカバーガラス112dの加振状態に応じて刻々と変化(シフト)する。
図6、
図7の各図(b)、(c)の例では、カバーガラス112dが加振されることにより、固体撮像素子112aの受光面上での被写体像の入射位置が左方向(X軸の矢羽根側の方向)に1画素分の距離だけシフトした瞬間を示している。
【0064】
処理ステップS12(第一画像の撮影)にて撮影された第一画像、処理ステップS14(第二画像の撮影)にて撮影された第二画像の何れの画像信号も、上述した信号処理(クランプ、デモザイク、マトリクス演算、Y/C分離、ホワイトバランス等)が施されて、輝度信号Y、色差信号Cb、Crに変換される。以下、説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の色差信号(Cb、Cr)を「第一色差信号」と記し、処理ステップS14(第二画像の撮影)にて撮影された第二画像の色差信号(Cb、Cr)を「第二色差信号」と記す。また、「注目画素」とは、少なくともデモザイク処理された後の各画像の画素を指すものとする。
【0065】
[
図5のS15(電気的なLPF処理)]
本実施形態では、詳しくは後述するが、第一色差信号と第二色差信号との信号差分値や信号加算値に基づいて偽色の発生が検出される。しかし、コントラストの高いエッジ部分では、偽色が発生していなくても、第一色差信号と第二色差信号との信号差分値が大きくなることがある。この場合、エッジ部分において偽色が発生していると誤検出される虞がある。また、詳しくは後述するが、信号差分値や信号加算値の演算に用いられる第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号ではあるが、処理ステップS13(カバーガラス112bの加振)にて固体撮像素子112aに対して被写体像がシフトされたことが原因で、それぞれ、アドレスが異なる画素を用いてデモザイク処理されている。そのため、第一色差信号と第二色差信号は、同一の被写体像を写す画素の色差信号であるにも拘わらず色情報が極僅かに異なる場合がある。そこで、本処理ステップS15では、画像信号(輝度信号Y、色差信号Cb、Cr)に対してLPF処理が施される。LPF処理によって画像がぼかされることで、エッジ部分における偽色の誤検出が抑えられると共に第一色差信号と第二色差信号との色情報の誤差が抑えられる。
【0066】
[
図5のS17(色差信号の差分値の演算)]
斜め縞被写体6a及び縦縞被写体7aは、固体撮像素子112aの画素PIXの画素ピッチPと同ピッチの高周波成分を含む。そのため、斜め縞被写体6a及び縦縞被写体7aの画像信号が処理ステップS12(第一画像の撮影)、処理ステップS14(第二画像の撮影)においてデモザイク処理されると、偽色が発生する。
【0067】
具体的には、
図6(b)の例では、G成分の画素PIXの輝度が高く、R及びB成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はG成分が支配的となって、斜め縞被写体6aに緑色の偽色が発生する。一方、
図6(c)の例では、
図6(b)の例とは反対に、R及びB成分の画素PIXの輝度が高く、G成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はR及びB成分が支配的となって、斜め縞被写体6aに紫色の偽色が発生する。
【0068】
また、
図7(b)の例では、B成分の画素PIXの輝度が高く、R成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はBとGとの混色成分となって、青と緑との中間色(例えばシアン色中心の近傍色)の偽色が発生する。一方、
図7(c)の例では、
図7(b)の例とは反対に、R成分の画素PIXの輝度が高く、B成分の画素PIXの輝度が低い。そのため、デモザイク処理後の各画素PIXの色情報はRとGとの混色成分となって、赤と緑の中間色(橙色中心の近傍色)の偽色が発生する。
【0069】
図8は、Cb、Crの二軸で定義される色空間を示す。
図8中、符号6bは、
図6(b)の例において注目画素で発生する緑色の偽色に対応するプロットであり、符号6cは、
図6(c)の例において注目画素で発生する紫色の偽色に対応するプロットであり、符号7bは、
図7(b)の例において注目画素で発生する青と緑との中間色の偽色に対応するプロットであり、符号7cは、
図7(c)の例において注目画素で発生する赤と緑の中間色の偽色に対応するプロットである。下記は、各プロットの座標情報を示す。なお、原点Oは座標(0,0)である。
プロット6b:(Cb,Cr)=(−M,−N)
プロット6c:(Cb,Cr)=(M,N)
プロット7b:(Cb,Cr)=(M’,−N’)
プロット7c:(Cb,Cr)=(−M’+α,N’+β)
但し、M,N,M’,N’,α,βは何れも正数である。
【0070】
図8に示されるように、本実施形態では、固体撮像素子112aの画素PIXの画素ピッチPと同程度の高周波成分の被写体像を取り込んだときに発生する偽色の色自体が、受光面に対する被写体像の入射位置をシフトさせることによって変化することを利用して、注目画素において偽色が発生するかどうかを検出している。より詳細には、高周波成分の被写体像が取り込まれる注目画素において、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となる部分を、偽色が発生する部分であると判断し検出している。
【0071】
本実施形態では、上記の補色関係を得るべく、受光面上での被写体像の入射位置が左方向(水平の画素の並び方向)に1画素分シフトされる画素が注目画素(すなわち、偽色が発生しているかどうかの検出が行われる画素)となっているが、本発明はこれに限らない。例示的には、左方向の代わりに又は左方向に加えて、右方向(水平の画素の並び方向)上方向(垂直な画素の並び方向)、下方向(垂直な画素の並び方向)、右上、右下、左上、左下の各斜め方向(水平、垂直の各並び方向に対して45度をなす方向)など、画素配置に応じた他の方向にシフトされる画素を注目画素としてもよい。また、例示的には、1画素分の距離の代わりに又は1画素分の距離に加えて、3画素分、5画素分など、他の奇数画素分の距離、又は、半画素分又は半画素分+奇数画素分(例えば1.5画素分、2.5画素分等)だけシフトされる画素を注目画素としてもよい。このような注目画素で高周波成分の被写体像が取り込まれる場合も、第一色差信号と第二色差信号が持つ色情報が互いに補色の関係となることから、偽色の発生が検出できる。
【0072】
本処理ステップS17では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との差分値(Cb
sub,Cr
sub)が演算される。具体的には、本処理ステップS17では、第一色差信号のCb、CrをそれぞれCb1、Cr1と定義し、これと同一アドレスの第二色差信号のCb、CrをそれぞれCb2、Cr2と定義した場合に、差分値(Cb
sub,Cr
sub)が次式により演算される。
Cb
sub=Cb1−Cb2
Cr
sub=Cr1−Cr2
【0073】
[
図5のS18(第一の距離情報の演算)]
本処理ステップS18では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との色空間内での距離(第一の距離情報Saturation_
sub)が次式により演算される。
Saturation_
sub=√(Cb
sub2+Cr
sub2)
【0074】
第一の距離情報Saturation_
subは、
図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、2√(M
2+N
2)、√{(2M’−α)
2+(2N’+β)
2}となる。
【0075】
図8の各ブロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が強い補色関係にあるほど第一の距離情報Saturation_
subが大きくなり、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)ほど第一の距離情報Saturation_
subが小さくなる。すなわち、第一の距離情報Saturation_
subは、偽色発生領域でなければ理想的にはゼロであり、偽色が強く発生する偽色発生領域ほど大きくなる。
【0076】
[
図5のS19(色差信号の加算値の演算)]
本処理ステップS19では、アドレスが同一の注目画素毎に、第一色差信号と第二色差信号との加算値(Cb’
add,Cr’
add)が演算される。
【0077】
具体的には、本処理ステップS19では、暫定加算値(Cb
add,Cr
add)が次式により演算される。
Cb
add=Cb1+Cb2
Cr
add=Cr1+Cr2
【0078】
次いで、暫定加算値の平均値(Cb
mean,Cr
mean)が次式により演算される。
Cb
mean=Cb
add/2
Cr
mean=Cr
add/2
【0079】
次いで、加算値(Cb’
add,Cr’
add)が次式により演算される。
Cb’
add=Cb
add−Cb
mean
Cr’
add=Cr
add−Cr
mean
【0080】
[
図5のS20(第二の距離情報の演算)]
本処理ステップS20では、アドレスが同一の注目画素毎に、加算値(Cb’
add,Cr’
add)に基づいて色空間内における第二の距離情報Saturation_
addが次式により演算される。
Saturation_
add=√(Cb’
add2+Cr’
add2)
【0081】
第二の距離情報Saturation_
addは、
図8の各プロット対(プロット6bとプロット6c、プロット7bとプロット7c)の例でそれぞれ、ゼロ、√(α
2+β
2)となる。
【0082】
ここで、第一、第二の各色差信号は、画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて変化する。しかし、第一、第二の各色差信号が同じように変化するため、色空間内における互いの相対距離(すなわち、第一の距離情報Saturation_
sub)は変化が少ない。
【0083】
一方、第二の距離情報Saturation_
addは、第一、第二の各色差信号が画像撮影時の光源、露出条件、ホワイトバランス等の影響を受けて色空間の原点Oの位置に対して変化すると、大きく変化する。そこで、処理ステップS19(色差信号の加算値の演算)では、第二の距離情報Saturation_
addを暫定加算値(Cb
add,Cr
add)を用いて即座には演算せず、上記影響による原点Oに対する位置の変化を相殺又は軽減すべく(上記影響により、原点Oから離れた第一色差信号と第二色差信号との中点を原点Oに近付けるべく)、加算値(Cb’
add,Cr’
add)が演算されている。
【0084】
図8の各プロット対の位置関係から把握されるように、第一色差信号と第二色差信号が持つ色情報が補色関係にある場合は、互いの符号が逆となることから加算値(Cb’
add,Cr’
add)が小さくなって、第二の距離情報Saturation_
addが小さくなる。また、強い補色関係であるほど第二の距離情報Saturation_
addが小さくなって、理想的にはゼロとなる。一方、第一色差信号と第二色差信号が持つ色情報が補色関係にない(例えば同様の色相である)場合は、互いの符号が同一となることから、加算値(Cb’
add,Cr’
add)が大きくなって、第二の距離情報Saturation_
addが大きくなる。すなわち、第二の距離情報Saturation_
addは、偽色発生領域でなければ大きくなり、偽色発生領域であれば小さくなる。
【0085】
[
図5のS21(輝度信号の差分値の演算)]
説明の便宜上、処理ステップS12(第一画像の撮影)にて撮影された第一画像の輝度信号Yを「第一輝度信号」と記し、処理ステップS14(第二画像の撮影)にて撮影された第二画像の輝度信号Yを「第二輝度信号」と記す。本処理ステップS21では、アドレスが同一の注目画素毎に、第一輝度信号と第二輝度信号との差分値Y
diffが演算される。具体的には、本処理ステップS21では、第一輝度信号をY1と定義し、第二輝度信号をY2と定義した場合に、差分値Y
diffが次式により演算される。
Y
diff=|Y1−Y2|
【0086】
[
図5のS22(偽色発生領域の判定)]
本処理ステップS22では、アドレスが同一の注目画素毎に、偽色発生領域であるか否かが判定される。具体的には、次の条件(1)〜(3)が全て満たされる場合に、当該画素が偽色発生領域であると判定される。
【0087】
・条件(1)
上述したように、第一の距離情報Saturation_
subが大きいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色発生領域である可能性が高い。そこで、条件(1)は次のように規定される。
条件(1):Saturation_
sub≧閾値T1
【0088】
・条件(2)
上述したように、第二の距離情報Saturation_
addが小さいほど第一色差信号と第二色差信号が持つ色情報が強い補色関係となることから、当該画素が偽色発生領域である可能性が高い。そこで、条件(2)は次のように規定される。
条件(2):Saturation_
add≦閾値T2
【0089】
処理ステップS12(第一画像の撮影)にて撮影された第一画像と処理ステップS14(第二画像の撮影)にて撮影された第二画像の一方だけで大きな像振れが発生した場合を考える。この場合、第一色差信号と第二色差信号との差分が大きくなって、偽色が誤検出される虞がある。そこで、条件(3)は次のように規定される。
条件(3):Y
diff≦閾値T3
【0090】
すなわち、差分値Y
diffが閾値T3よりも大きい場合は、上記の誤検出の虞があることから、当該画素に対する偽色の検出が行われない(当該画素が偽色発生領域でないものとして処理される。)。
【0091】
なお、条件(1)と条件(2)は、当該画素が偽色発生領域であるか否かを直接的に判定する条件となっている。そこで、別の実施形態では、条件(1)と条件(2)の少なくとも一方が満たされる場合に、当該画素が偽色発生領域であると判定されるようにしてもよい。
【0092】
また、ユーザは、操作部102を操作して閾値T1〜T3を設定変更することにより、偽色の検出感度を変更することができる。
【0093】
[
図5のS23(偽色の検出)]
本処理ステップS23では、偽色の有無が検出される。例示的には、処理ステップS22(偽色発生領域の判定)において偽色発生領域と判定された画素数(又は全有効画素数のうち偽色発生領域と判定された画素の割合)が所定の閾値以上である場合に、偽色有りという検出結果となり(S23:YES)、該画素数(又は割合)が所定の閾値未満である場合に、偽色無しという検出結果となる(S23:NO)。
【0094】
[
図5のS24(撮影画像の保存)]
本処理ステップS24は、処理ステップS23(偽色の検出)にて偽色無しという検出結果が得られた場合(S23:NO)に実行される。本処理ステップS24では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について偽色が検出されなかったとして、その少なくとも一方がメモリカード200(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存される。この時点で撮影動作が完了した旨が撮影者に告知されてもよい。特に、処理ステップS14(第二画像の撮影)で第一画像と第二画像を用いた偽色検出処理を開始する旨が撮影者に告知されている場合には、撮影動作が完了したことが撮影者に伝わる。これにより、撮影者は次の作業、例えば撮影装置1の状態(セッティング)の変更に進むことができる。
【0095】
[
図5のS25(LPF駆動下での撮像)]
本処理ステップS25は、処理ステップS23(偽色の検出)にて偽色有りという検出結果が得られた場合(S23:YES)に実行される。本処理ステップS25では、処理ステップS12(第一画像の撮影)にて撮影された第一画像及び処理ステップS14(第二画像の撮影)にて撮影された第二画像について偽色が検出されたことから、LPF駆動が実行される。既にLPF駆動下での撮像が行われていた場合は、より強い光学的なLPF効果(偽色等のモアレの軽減)が得られるように、固体撮像素子112aの駆動周期(回転周期)や駆動振幅(回転半径)が調整される。すなわち、偽色を軽減するためのより有利な撮影条件に変更される。そのうえで、被写体の撮像(第三画像の撮影)が行われる。つまり、偽色が検出された場合には第三画像の撮影が行われる。そのため、処理ステップS14(第二画像の撮影)にて偽色検出処理を開始する旨が撮影者に告知されている場合、撮影者は第三画像の撮影が完了するまで、撮影装置1の状態(セッティング)を維持することができる。
【0096】
本実施形態によれば、カバーガラス112dを加振させて固体撮像素子112aの受光面上での被写体像の入射位置をシフトさせることにより、画素ピッチPと同程度以上の高周波成分の被写体像が取り込まれた場合に、異なる偽色(互いに補色の関係となる偽色)が発生し、差分の大きい画像が生成される構成となっている。偽色の検出に差分の大きい画像が用いられることから、偽色が精度良く検出される。
【0097】
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。
【0098】
上記の実施形態では、LPF駆動を実行することにより、画像全体に対して光学的に偽色の除去を施しているが、本発明はこれに限らない。偽色は、画像処理を用いて除去されてもよい。画像処理の場合は、偽色を画像全体に限らず局所的に(例えば偽色検出領域と判定された画素毎に)除去することもできる。
【0099】
また、上記の実施形態では、処理ステップS22(偽色発生領域の判定)において、閾値T1〜T3が各画素に対する全ての判定において不変であるが、本発明はこれに限らない。
【0100】
例えば、システムコントローラ100によるAF制御により、画像内でピントが合っているとみなせる範囲(合焦エリアであり、例示的には被写界深度に収まる範囲)は既知である。合焦状態の被写体はコントラストが高く、高周波成分を含みやすいため、偽色が発生しやすい。一方、非合焦状態の被写体はコントラストが低く、高周波成分を含み難いため、偽色が発生し難い。そこで、処理ステップS22(偽色発生領域の判定)において、合焦エリア内の画素に対する判定を行う場合とそれ以外の画素に対する判定を行う場合とで、閾値T1〜T3を異なる値に変更してもよい。例示的には、合焦エリア内の画素では偽色が発生している可能性が高いことから、検出感度が高くなるような閾値設定(例えば閾値T1を低い値に設定)を行い、それ以外の画素では偽色が発生している可能性が低いことから、検出感度が低くなるような閾値設定(例えば閾値T1を高い値に設定)を行う。これにより、偽色の検出精度がより一層向上する。
【0101】
また、カバーガラス112dは定常波で振動する。この場合、カバーガラス112dの加振周波数を変えない限り、腹及び節が同じ位置に現れるため、局所傾斜状態となる領域の分布が不変である。上記の実施形態では、カバーガラス112dが一定の共振周波数で加振されるため、局所傾斜状態が発生する領域の分布が不変である。別の実施形態では、カバーガラス112dの加振周波数が連続的又は段階的に変えられてもよい。この場合、加振周波数が変えられる毎に局所傾斜状態となる領域の分布が変化する。
【0102】
別の実施形態における偽色検出フローを
図5に示される偽色検出フローを援用して説明する。別の実施形態では、カバーガラス112dは、
図9(a)〜
図9(e)に例示されるような異なるパターンで順次振動される。例示的には、被写体は、相異なる少なくとも2つの振動パターン下で撮像される。この場合、偽色は、異なる振動パターン下で撮像された画像間の変化に基づいて検出することが可能である。また、単一パターンの振動下において、第一画像と第ニ画像の撮影間隔を、振動周期λに対してnλ+λ/2(n:ゼロまたは自然数)として撮影する。この場合、各画像が撮影された瞬間の振動波形が異なることから、固体撮像素子112aの受光面上での被写体像の入射位置が各画像の撮影時で異なる。したがって、このような構成においても、各画像間の変化に基づいて偽色を検出することが可能である。
【0103】
別の実施形態では、カバーガラス112dが加振されていない時の撮影画像(すなわち、処理ステップS12(第一画像の撮影)にて撮影された第一画像)と
図9(a)の振動パターン時の撮影画像、第一画像と
図9(b)の振動パターン時の撮影画像、第一画像と
図9(c)の振動パターン時の撮影画像、第一画像と
図9(d)の振動パターン時の撮影画像、第一画像と
図9(e)の振動パターン時の撮影画像のそれぞれについて、処理ステップS17(色差信号の差分値の演算)から処理ステップS22(偽色発生領域の判定)までの一連の処理が実行され、それぞれの判定結果に基づいて処理ステップS23(偽色の検出)が実行される。すなわち、別の実施形態では、カバーガラス112dの振動パターンが変更され、振動の状態が変わる毎に被写体が撮像され、複数の撮影画像を用いて偽色の検出が行われる。振動パターンが変更される毎に局所傾斜状態となる領域の分布が変化し、これに伴い注目画素も変わる。そのため、撮影画像内の様々な領域を対象に偽色の検出を行うことが可能となる。
【0104】
偽色検出のために加振される部材は、カバーガラス112dに限らず、固体撮像素子112aの受光面の前方においてカバーガラス112dに代えて又は追加的に配置された別の光学部材であってもよい。このような光学部材として、例えば、IRカットフィルタ、UVカットフィルタ、IR−UVカットフィルタが挙げられる。また、偽色検出のために、固体撮像素子112aに搭載されたカラーフィルタ自体が加振される構成を採用してもよい。