(58)【調査した分野】(Int.Cl.,DB名)
前記分離手段は、前記第1の信号の値が前記閾値を超えている場合に、当該第1の信号を前記閾値を超えない値に置き換えることを特徴とする請求項1に記載の撮像装置。
【発明を実施するための形態】
【0016】
以下に、本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。
【0017】
[実施形態1]本発明の画像処理装置を、静止画や動画を撮像するデジタルカメラなどの撮像装置により実現した例について説明するが、カメラ機能を搭載するスマートフォンやタブレット端末等の携帯型電子機器にも適用可能である。
【0018】
<装置構成>
図1を参照して、本実施形態の撮像装置の構成及び機能の概略について説明する。
【0019】
図1に示す撮像装置100において、光学系を構成するフォーカシングレンズ101は合焦位置を変化させて焦点調節を行う。撮像素子102は被写体像を電気信号に光電変換するCCDやCMOSを用いたイメージセンサであり、
図2及び
図3で後述する画素構成を有する。像信号分離部104は
図4で後述するように撮像素子102から出力される画像信号103をA像、B像、A+B像の各画像信号に分離する。信号処理部106は、像信号分離部104により分離されたA+B像の画像信号105に対して、フィルタ処理、色変換処理、ガンマ処理を施し、画像データを生成する。また、信号処理部106は、必要に応じて撮像素子102から得られた画像信号を用いて露出(AE)やホワイトバランス(WB)等の情報を演算し、演算結果を制御部108に出力する。制御部108は、その演算結果に基づいてホワイトバランスやゲイン調整を行う。焦点検出部107には、像信号分離部104により分離されたA像及びB像が入力され、A像とB像の位相差からデフォーカス量を算出し、制御部108に出力する。制御部108は、焦点検出部107から得たデフォーカス量に基づいてフォーカシングレンズ101を駆動しピント合わせを行う。また、制御部108は、CPUやメモリなどを含み、所定の制御シーケンスに従い装置全体を制御する。
【0020】
なお、図示していないが、撮像装置100は、光学系を構成するレンズの種類を検出するレンズ種別検出部を備える。
【0021】
<撮像素子の構成>次に、
図2ないし
図5を参照して、本実施形態の撮像素子の画素構成について説明する。
【0022】
図2は瞳分割が対称な場合の画素の断面図、
図3は瞳分割が非対称な場合の画素の断面図をそれぞれ示している。
【0023】
図2及び
図3において、204、304はマイクロレンズ、203、303はカラーフィルタ、201、301、202、302は光電変換部、205、305は配線層である。このように1つのマイクロレンズに対して2つの光電変換部を配置することで瞳分割を行い、各光電変換部から得られる画像の位相差を用いて焦点検出を行う。本実施形態では、このように1つのマイクロレンズを共有する2つの光電変換部を画素とも呼ぶ。また、
図3のように光電変換部301、302の大きさを変えているのは、射出瞳位置が異なることで瞳分割の対称性が崩れ、光量の大きさが異なることを想定したものである。上記特許文献3にも記述されている通り、一般的に光量の大きい方の光電変換部を大きくするように設計する。
【0024】
また、光電変換部201と202の値を加算(光電変換部301と302の値を加算)することで、瞳分離されていない画像が得られる。カラーフィルタ203、303は赤、緑、青の各色フィルタでありベイヤー配列となっているため、光電変換部201と202の加算画像(光電変換部301と302の加算画像)を用いてカラー画像を得ることができる。
【0025】
本実施形態では、光電変換部201、301から得られる画像をA像、光電変換部202、302から得られる画像をB像、光電変換部201と202を加算(光電変換部301と302を加算)して得られる画像をA+B像と呼ぶものとする。
【0026】
本実施形態の撮像素子102は、A像のみを非破壊で読み出す機能と光電変換部201と202の電荷(光電変換部301と302の電荷)を加算してA+B像として読み出す機能を有する。
【0027】
図4は瞳分割が対称な画素と非対称な画素のパターンが混在した撮像素子の配列を示している。本実施形態では一例として、撮像素子102が瞳分割位置の異なる3つのパターンで構成されているものとする。401はマイクロレンズ、402は光電変換部をそれぞれ示している。パターン403は光電変換部を均等に分割したパターンである。パターン404はA像側の光電変換部を小さく、B像側の光電変換部を大きくしたパターンである。パターン405はA像側の光電変換部を大きく、B像側の光電変換部を小さくしたパターンである。これらのパターン403〜405はレンズの種類に応じて、例えばパターン403のみ、パターン404のみ、或いは全画素を読み出すパターンなどに切り替えることができる。
【0028】
図5は撮像素子の受光面を示している。501で示す幅は撮像素子全体の有効画素であり、A+B像の読み出しエリアである。502で示す幅はA像の読み出しが可能なエリアである。撮像素子102からの読み出し時間短縮のためにA像を読み出すエリアは焦点検出用のエリアだけに設計されている。
【0029】
<撮像素子の読み出しタイミング>次に、
図6を参照して、本実施形態の撮像素子の読み出しタイミングについて説明する。
【0030】
図6において、605は撮像素子102から読み出す画像の1水平期間の読み出し信号である。601は読み出し信号605における水平ブランキング期間、602は読み出し信号605におけるA像の読み出し期間、603は読み出し信号605におけるA+B像の読み出し期間である。
【0031】
また、606、607は
図10で後述するA+B像信号1012、B像信号1010であり、608は
図10で後述するA像ラインメモリ1003からのA像信号1011である。604は
図10で後述するA像ラインメモリ1003からのA像信号の読み出し期間である。
【0032】
図示のように、A像のみ、B像のみを個別に読み出すよりも短い水平期間で必要な情報を読み出すことができる。
【0033】
本実施形態では、
図10で後述する像信号分離部104により期間603で読み出されたA+B像からA像を減算することによりB像を得る。
【0034】
ここで、
図7の瞳分割が対称な場合の入射光に対する像信号の出力特性に関する上記特許文献2の課題について説明する。
【0035】
図7(a)はISO100の場合の特性を示している。なお、撮像素子の感度はISO100で設計することが多いことから、便宜上ISO100の例を挙げたもので、撮像素子の最低感度と同義の意味としてISO100を用いている。
【0036】
図7(a)の横軸は入射光量、縦軸は出力レベルである。A像、B像共に入射光に応じて出力が増加するが、飽和レベルに達してからは入射光量を増加させても出力レベルが上昇することはない。これは、入射光量に比例して光電変換された電荷が光電変換部に蓄積できる容量を超えてしまうからである。A+B像はA像とB像の信号レベルの加算値なので、A像とB像が共に飽和すると入射光量を増加させても出力レベルは上昇しなくなる。
【0037】
これに対して、
図7(b)はISO200の場合の特性を示している。
【0038】
撮像素子の入射光に対する像信号の出力特性を変化させることはできないため、高感度で使用する場合は、AD変換前のアナログアンプのゲインを上げることによって実現している。そのため、ISO200における飽和レベルはADコンバータのレンジ(AD変換レンジ)によって決まることになる。したがって、信号レベルが飽和しても電荷が光電変換部に蓄積され続ける。
図7(b)のA像はA+B像がAD変換レンジの飽和レベルに達しても出力レベルが上昇し続け、A+B像の飽和レベルと同じ値にまで達する。
【0039】
B像もA像と同じ特性である。しかしながら、A+B像から減算して得られるB像はA+B像の飽和レベルの1/2をA像出力が超えたあたりから減少しはじめ、A像の信号レベルがA+B像の信号レベルと一致するとゼロになってしまう。
【0040】
次に、
図8の瞳分割が非対称な場合の入射光に対する像信号の出力特性に関する上記特許文献2、3の課題について説明する。
【0041】
図8(a)はISO100の場合の特性を示し、横軸は入射光量、縦軸は出力レベルである。A像、B像共に入射光に応じて出力が増加するが、飽和レベルに達してからは入射光量を増加させても出力レベルが上昇することはない。
【0042】
A+B像はA像とB像の信号レベルの加算値なので、A像とB像が共に飽和すると入射光量を増加させても出力レベルは上昇しなくなる。ここで、A像分割画素飽和レベルとB像分割画素飽和レベルが異なるのは光電変換部(フォトダイオード)の受光面積を射出瞳位置に応じて変化させたためである。この場合、A像の光電変換部(フォトダイオード)の方が受光面積は大きいことを示している。
【0043】
これに対して、
図8(b)はISO200の場合の特性を示している。
【0044】
図8(b)のA像はA+B像がAD変換レンジの飽和レベルに達しても出力レベルが上昇しつづけ、A+B像の飽和レベルと同じ値にまで達する。
【0045】
B像もA像と同じ特性である。しかしながら、A+B像から減算して得られるB像はA+B像の飽和レベルの1/2をA像出力が超えたあたりから減少しはじめ、A像の信号レベルがA+B像の信号レベルと一致するとゼロになってしまう。
【0046】
すなわち、ISO200では、瞳分割が対称であるか、非対称であるかに関わらず、A像の信号レベルがA+B像の信号レベルと一致するとB像の信号レベルがゼロになってしまう。また、瞳分割が非対称の場合は、射出瞳位置に応じてA像とB像の飽和レベルが変動する。
【0047】
ここで、
図9を参照して、飽和レベルに達した場合のB像の信号波形について説明する。
【0048】
図9(a)の901はA+B像の信号波形、902はA像の信号波形を示し、波形中央部分で飽和が発生している。
図9(b)は
図7(b)の特性でB像を算出した場合の信号波形を示し、902がA像、903がB像の各信号波形であり、A像が飽和した部分でB像信号レベルがゼロとなっている。
【0049】
焦点検出ではA像とB像の相関演算により位相差を検出する必要があるが、飽和部分で大きく像信号が崩れてしまい、相関演算の結果が狂ってしまう。
【0050】
本発明は、このような課題を解決する手段を実現するものであり、瞳分割が対称であるか、非対称であるかに関わらず、A+B像からB像を減算する場合に飽和レベルに達した信号を適切に処理することができる。
【0051】
<像信号分離部の構成>まず、
図10を参照して、
図1の像信号分離部104の内部構成について説明する。
【0052】
1001は撮像素子102からの出力、1003はA像信号を蓄積するラインメモリ、1004は像信号分離部104のタイミングを制御するタイミング発生部である。タイミング発生部1004は入力信号に対して所定のタイミングでスイッチ1005、1007、1006、1008をオン、オフ制御することでA+B像とA像の同期を行っている。
【0053】
ここで、上述の
図6を参照して、A+B像とA像の同期タイミングについて説明する。
【0054】
605は撮像素子102からの出力1001を示し、ブランキング期間601、A像の読み出し期間602、A+B像の読み出し期間603の順に信号が像信号分離部104に入力されてくる。A像の読み出し期間602に入力されたA像信号はスイッチ1005によりA像ラインメモリ1003に入力される。そして、A像ラインメモリ1003からのA像の読み出し期間604にスイッチ1007と1006がオンされて、A像信号1011と、スイッチ1006の出力であるA+B像信号とが同期される。608はA像ラインメモリ1003から出力されるA像の信号波形である。
【0055】
A像リミッタ1009は、制御部108から入力されるリミット値1002とスイッチ1007の出力を比較し、リミット値1002を超えていれば内部スイッチ1009aが切り替わり、A像信号1011の出力がリミット値1002に置き換わる。
【0056】
このようにA像リミッタ1009から出力されるA像信号1011(又はリミット値1002)をスイッチ1006の出力であるA+B像信号から減算することでB像信号1010が分離され出力される。なお、リミット値1002は制御部108により適切な値が設定される。
【0057】
図11は、制御部108により設定される瞳分割比率に応じたリミット値の算出方法を例示している。
【0058】
図11(a)は瞳分割が対称な(2つの瞳分割の分割比率が1:1)場合のリミット値である。この場合、設定されるべきリミット値は1つで良く、ある値を持ったリミット値(リミット値A)が制御部108から入力される。
【0059】
図11(b)はラインごとに瞳分割比率が異なる場合を示している。この場合、制御部108の内部で保持しているラインカウンタ値に応じてリミット値が可変とされ、リミット値A、リミット値B、リミット値Cを選択的に切り替える。
【0060】
図11(c)は1ラインの中で画像左から徐々にA像の光電変換部が小さくなっていき、反対にB像の光電変換部が大きくなっているようなパターンの瞳分割比率の場合を示している。この場合、制御部108の内部で保持している水平サイズと水平カウンタ値に応じてリミット値が可変とされ、リミット値A、リミット値Bに対して一般的な線形補間方法を用いてリミット値を算出する。
【0061】
図11(d)も
図11(c)と同様のパターンの瞳分割比率の場合を示している。この場合、制御部108の内部で保持している水平カウント値に応じてリミット値が可変とされ、リミット値A、リミット値B、・・・・、リミット値Zを選択的に切り替える。
【0062】
なお、リミット値A、リミット値B、・・・・は不図示のROM等のメモリに記憶しておいても良いし、CPUからのレジスタ制御によって設定しても良い。また、
図11(a)〜(d)で述べた瞳分割比率のパターンは一例であり、これに限定されず、種々の瞳分割比率のパターンでも同様にリミット値を算出する。
【0063】
また、本実施形態では、A像信号の値がリミット値を超えている場合には、A像信号をリミット値に置換しているが、リミット値を超えないような任意の値を求め、置換するようにしても良い。
【0064】
このように、A像リミッタ1009により、ISO200などのゲインアップ時においても
図7(a)や
図8(a)に示した特性が得られる。
【0065】
なお、
図9(c)はA像リミッタ1009により、A像信号がリミット値を超えないように制限した場合のA像の信号波形902とB像の信号波形903を示している。図示のようにA像とB像の一致度が高くなるため、相関演算の結果が良好になり焦点検出精度が向上する。
【0066】
なお、
図1の焦点検出部107ではA像とB像の相関演算から位相差を求め、デフォーカス量を算出するが既知の処理であるため、詳細な説明は省略する。
【0067】
[実施形態2]次に、
図12を参照して、実施形態2について説明する。
【0068】
実施形態1ではA像リミッタ1009及び像信号分離部104をハードウェア回路で構成していたが、実施形態2では制御部108により実行されるソフトウェアプログラムによりA像リミッタ1009及び像信号分離部104の機能を実現している。
【0069】
図12は、制御部108により実行されるソフトウェアプログラムにより、A像信号とA+B像信号を用いてA像信号のリミット値への置換処理とB像分離処理を示している。なお、図示の処理は、制御部108がメモリに格納された制御プログラムを実行することにより実現される。
【0070】
ステップS1201では、制御部108は、撮像素子102から入力されるA像信号、A+B像信号、および焦点検出部107に出力するB像信号を格納するメモリエリアの番地(入出力ポインタ)を初期化する。
【0071】
ステップS1202では、制御部108は、A像の画素値を読み込む。
【0072】
ステップS1203では、制御部108は、所定の閾値としてのリミット値の設定を行う。
【0073】
ステップS1204では、制御部108は、A像の画素値とリミット値の比較を行い、A像の画素値がリミット値を超えている場合はステップS1205に進み、そうでない場合はステップS1206に進む。
【0074】
ステップS1205では、制御部108は、リミット値を超えているA像の画素値をリミット値に置き換える。
【0075】
ステップS1206では、制御部108は、A+B像の画素値を読み込む。
【0076】
ステップS1207では、制御部108は、A+B像の画素値からA像の画素値を減算してB像の画素値を作成し、B像のメモリエリアに書き込む。
【0077】
ステップS1208では、制御部108はA像の全画素値についてステップS1202以降の処理を実行したか判定し、実行していない場合はステップS1209に進み、メモリエリアの入出力ポインタを進め、ステップS1202に戻る。
【0078】
ステップS1202からS1207の処理をA像の全画素値について実行し終えると、本処理を終了する。
【0079】
なお、上述した各実施形態においては、2つの光電変換部が1つのマイクロレンズを共有している例を挙げたが、3つ以上に瞳分割された光電変換部であっても同様の効果が得られる。また、上記実施形態では、撮像素子の画素をRGBのベイヤー配列としたが、補色フィルタを用いた配列においても同様の効果がある。
【0080】
以上のように、本実施形態によれば、瞳分割の対称性によらず飽和を起こした信号に対して焦点検出を行うことが可能になる。詳しくは、1つのマイクロレンズに対して複数の光電変換部を有する画素が二次元状に配列されている撮像素子において、全ての光電変換部の加算信号から一方の光電変換部の像信号を減算して他方の光電変換部の像信号を得る際に、各光電変換部の像信号の一致度が高くなるため、焦点検出における相関演算の結果が良好になり焦点検出精度が向上する。
【0081】
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。