【解決手段】複数色の画素が基本配列の繰り返しとして第1および第2の方向に配置され、任意の画素は第1の方向に沿って複数の分割画素に分割されている画素部4aと、同一色かつ同一分割位置に係る複数の分割画素信号に少画素化を行って処理後画素信号を生成するMIX部11,12,13と、位相差検知を優先する場合には、処理後画素信号の第2の方向の並び間隔が等間隔にならないように、MIX部11,12,13の少画素化を制御する管理指示部14と、を備える撮像装置1。
分光特性が異なる複数種類の画素が、基本配列の繰り返しとして、第1の方向および上記第1の方向に垂直な第2の方向に配置され、任意の画素は上記第1の方向に沿った複数の分割位置の複数の分割画素に分割されている画素部と、
同一種類の画素かつ同一の分割位置に係る、隣接する複数の分割画素の分割画素信号に、少画素化を行って処理後画素信号を生成することにより、画素数を減少させる少画素化部と、
位相差検知を優先するか否かに応じて、上記少画素化部による少画素化を制御する制御部と、
を備え、
上記制御部は、上記位相差検知を優先する場合には、上記処理後画素信号の上記第2の方向の並び間隔が等間隔にならないように、上記第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせるように、上記少画素化部を制御することを特徴とする撮像装置。
上記制御部は、上記位相差検知を優先しない場合であって、上記第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせる場合には、上記処理後画素信号の上記第2の方向の並び間隔が等間隔になるように、上記少画素化部を制御することを特徴とする請求項1に記載の撮像装置。
上記制御部は、上記位相差検知を優先するか否かに関わらず、上記第1の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせる場合には、上記処理後画素信号の上記第1の方向の並び間隔が等間隔になるように、上記少画素化部を制御することを特徴とする請求項1または請求項2に記載の撮像装置。
上記制御部は、上記少画素化部が混合により上記少画素化を行う場合には、混合対象となる複数の分割画素の位置を指定することにより、上記処理後画素信号の重心位置を設定することを特徴とする請求項5に記載の撮像装置。
上記制御部は、さらに、混合対象となる複数の分割画素の分割画素信号の混合比率を指定することにより、上記処理後画素信号の上記重心位置を設定することを特徴とする請求項6に記載の撮像装置。
上記制御部は、上記少画素化部が間引きにより上記少画素化を行う場合には、間引かれることなく残る分割画素の位置を指定することにより、上記処理後画素信号の位置を設定することを特徴とする請求項5に記載の撮像装置。
分光特性が異なる複数種類の画素が、基本配列の繰り返しとして、第1の方向および上記第1の方向に垂直な第2の方向に配置され、任意の画素は上記第1の方向に沿った複数の分割位置の複数の分割画素に分割されている画素部から出力された、同一種類の画素かつ同一の分割位置に係る、隣接する複数の分割画素の分割画素信号に、少画素化を行って処理後画素信号を生成することにより、画素数を減少させる少画素化ステップと、
位相差検知を優先するか否かに応じて、上記少画素化ステップによる少画素化を制御する制御ステップと、
を備え、
上記制御ステップは、上記位相差検知を優先する場合には、上記処理後画素信号の上記第2の方向の並び間隔が等間隔にならないように、上記第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせるように、上記少画素化ステップを制御することを特徴とする撮像方法。
【発明を実施するための形態】
【0015】
以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
【0016】
図1から
図22は本発明の実施形態1を示したものであり、
図1は撮像装置1の構成を示すブロック図である。
【0017】
この撮像装置1は、撮像レンズ2と、シャッタ3と、撮像素子用画素MIX部11を有する撮像素子4と、データバス5と、内部メモリ6と、AF信号処理部7と、画像信号処理部8と、表示部9と、入力インタフェース(IF)10と、AF信号用画素MIX部12と、画像信号用画素MIX部13と、MIXモード管理・指示部14と、システム制御部15と、を備えている。なお、
図1には外部メモリ20も図示されているが、外部メモリ20は、例えば撮像装置1に着脱可能なメモリカード等で構成されているために、撮像装置1に固有の構成でなくても構わない。
【0018】
撮像レンズ2は、被写体の光学像を撮像素子4に結像する撮像光学系である。この撮像レンズ2は、ピント位置を調節するためのフォーカスレンズと、光の通過範囲を調節するための絞りとを備えている。また、撮像レンズ2は、ズーム位置を調節可能なズームレンズであっても構わない。
【0019】
シャッタ3は、撮像素子4の露光時間を調整するものである。ここではシャッタ3が、被写体の光学像が通過する光路上に設けられていて、例えば遮光幕を開閉動作することにより撮像素子4への光学像の到達と遮光とを制御する光学シャッタであることを想定しているが、これに限定されるものではなく、いわゆる電子シャッタを用いても良いし、光学シャッタと電子シャッタとを併用しても構わない。
【0020】
撮像素子4は、例えばCMOSイメージセンサ、あるいはCCDイメージセンサなどとして構成され、被写体の光学像を2次元状に配列された複数の画素(各画素は、光電変換を行うフォトダイオード(PD)を含んでいる)により光電変換して、画像信号を生成するものである。ここでは、撮像素子4がデジタル画像信号を出力するデジタル撮像素子であることを想定しているが、撮像素子4をアナログ撮像素子として構成すると共に、撮像素子4とデータバス5との間にA/D変換部を別途設けても構わない。
【0021】
この撮像素子4は、分光特性が異なる複数種類の画素が、基本配列の繰り返しとして、第1の方向および第1の方向に垂直な第2の方向に配置され、任意の画素は上記第1の方向に沿った複数の分割位置の複数の分割画素に分割されている画素部4aを備えている。
【0022】
このような構成により、画素部4aで生成される画像データは、第1の方向および第2の方向に配列された複数の画素データで構成され、各画素データは、第1の方向に沿った複数の分割画素データで構成される。
【0023】
ここで、
図2は、撮像素子4の画素部4aにおける分割画素の構成を示す図である。この
図2には、画素部4aにおける縦20×横8画素(縦20×横16分割画素)の画素配置を例示しており、行番号がM〜(M+19)、分割画素に対する列番号がN〜(N+15)の部分を示している。なお、「行」は「ライン」と呼ばれることもある。
【0024】
本実施形態に示す例においては、
図2に示すように、分光特性が異なる複数種類の画素がR(レッド)画素、G(グリーン)画素(R画素と同一行にあるG画素であるGr画素、およびB画素と同一行にあるG画素であるGb画素)、B(ブルー)画素であり、基本配列が原色ベイヤー配列となっている(ただし、これに限定されるものではない)。そして、1つのマイクロレンズMLに対応する1画素が、第1の方向である水平方向に沿って、2つの分割画素(右分割画素および左分割画素)に分割されている。
【0025】
このような構成により、水平方向に配列された右分割画素群と、水平方向に配列された左分割画素群と、に基づき、水平方向の位相差を検知することで、いわゆる縦線検知を行うことが可能となっている。
【0026】
なお、ここでは左右方向の分割画素の例を示したが、第1の方向を垂直方向として上下方向に分割された分割画素(上分割画素および下分割画素)を用いれば、垂直方向の位相差検知、つまりいわゆる横線検知を行うことが可能となる。
【0027】
さらに、1つのマイクロレンズに対応する1画素を、上下左右に4分割した分割画素を用いれば、縦線検知および横線検知の両方を行うことが可能となる。
【0028】
ここに、上下左右の4分割画素の構成において、左上の分割画素と左下の分割画素とを加算し、右上の分割画素と右下の分割画素とを加算すれば、
図2に示したような左右の2分割画素の構成と同等となる。同様に、上下左右の4分割画素の構成において、左上の分割画素と右上の分割画素とを加算し、左下の分割画素と右下の分割画素とを加算すれば、上下の2分割画素の構成と同等となる。
【0029】
データバス5は、各種の命令やデータなどを、撮像装置1内のある部分から他の部分へ伝送するものである。この
図1に示す例では、データバス5は、撮像素子4と、内部メモリ6と、AF信号処理部7と、画像信号処理部8と、表示部9と、入力IF10と、AF信号用画素MIX部12と、画像信号用画素MIX部13と、MIXモード管理・指示部14と、システム制御部15と、外部メモリ20と、に接続されている。
【0030】
内部メモリ6は、揮発性のDRAMや不揮発性のフラッシュメモリなどを備えて構成されており、撮像装置1全体の制御を行う処理プログラムを不揮発に記憶して保持すると共に、画像データやユーザ設定値などの各種データを一時的にあるいは継続的に記憶して保持する。上述した撮像素子4から出力された画像データ、あるいは撮像素子4から出力され画像信号用画素MIX部13によりミックスされた画像データ、またあるいは撮像素子4から出力されAF信号用画素MIX部12によりミックスされた画像データ、さらにあるいは画像信号処理部8により処理された画像データは、必要に応じて、例えばこの内部メモリ6に一旦記憶されるようになっている。
【0031】
AF信号処理部7は、分割画素信号に基づく差動演算などの処理により位相差検知を行って位相差情報を算出し、算出した位相差情報に基づきレンズ駆動情報を生成する。このAF信号処理部7により生成されたレンズ駆動情報は、システム制御部15に入力される。システム制御部15は、入力されたレンズ駆動情報に基づき、撮像レンズ2のピント位置を制御し、撮像素子4に結像される被写体像を合焦させるようになっている。
【0032】
画像信号処理部8は、画像データに対する、ホワイトバランス調整、デモザイキング(色補間)、色補正、γ変換、エッジ強調、ノイズリダクション、解像度変換(リサイズ)、画像圧縮等の各種の処理を行う。
【0033】
表示部9は、例えばTFTあるいは有機ELなどの表示パネルを含み、画像データを表示すると共に、撮像装置1に係る各種の情報も表示する表示装置である。
【0034】
入力IF10は、操作ボタン、操作スイッチ、タッチパネルなどの各種の操作入力デバイスを含み、使用者が操作することにより撮像装置1に対する入力を行うための操作部である。この入力IF10は、例えば、静止画像を撮影するための2段式ボタンを構成する第1ボタン(いわゆるファーストレリーズ)および第2ボタン(いわゆるセカンドレリーズ)と、動画像を撮影するための第3ボタン(動画録画ボタン)と、を備えている。
【0035】
撮像素子用画素MIX部11は、同一種類の画素かつ同一の分割位置に係る、隣接する複数の分割画素の分割画素信号に、少画素化を行って処理後画素信号を生成することにより、画素数を減少させる少画素化部であって、撮像素子4に設けられた素子内少画素化部である。本実施形態においては、撮像素子用画素MIX部11、AF信号用画素MIX部12、および画像信号用画素MIX部13の何れについても、少画素化として混合(ミックス)を行う例を主に説明するが、これに限らず、間引きにより小画素化を行っても構わない(混合と間引きとの何れか一方を行っても良いし、両方を行っても構わない)。なお、混合としては、加算による混合、加算平均による混合、重み付け加算(あるいは重み付け加算平均)による混合、などの何れを用いても構わない。
【0036】
具体的に、撮像素子用画素MIX部11は、MIXモード管理・指示部14から、ミックスする/しないの情報を受け取り、ミックスする場合にはさらにどのようなミックスを行うかの情報を受け取って、撮像素子4内で画素データをミックス(MIX)処理する画素MIX部である。
【0037】
この撮像素子用画素MIX部11により行われるミックス処理には、1画素に含まれる複数の分割画素からの分割画素信号を加算する処理(
図2の分割画素構成の場合には、同色の左分割画素と右分割画素とを加算し通常画素に戻す左右加算)、垂直方向に隣接する同一色かつ同一の分割位置に係る複数の分割画素の分割画素信号をミックスする垂直ミックス、水平方向に隣接する同一色かつ同一の分割位置に係る複数の分割画素の分割画素信号をミックスする水平ミックス、などがある。
【0038】
この撮像素子用画素MIX部11が、ミックス処理を行わない場合、または分割画素信号の垂直ミックスと水平ミックスとの少なくとも一方を行う場合には、撮像素子4からは分割画素信号が位相差信号として出力される。一方、撮像素子用画素MIX部11が、少なくとも左右加算を行う場合(垂直ミックスと水平ミックスとの少なくとも一方が、左右加算を組み合わされる場合を含む)には、撮像素子4からは位相差情報を含まない画像用の画素信号が出力される。
【0039】
この撮像素子用画素MIX部11によりミックス処理された画像データは、内部メモリ6を介して各処理部に渡されることもあるが、例えば内部メモリ6を介することなく画像信号用画素MIX部13、あるいはAF信号用画素MIX部12へ渡される。
【0040】
AF信号用画素MIX部12は、撮像素子4の外部に設けられた少画素化部であって、必要に応じて撮像素子用画素MIX部11によりミックス処理された後に撮像素子4から出力された画像データに対して、MIXモード管理・指示部14から、ミックスする/しないの情報を受け取り、ミックスする場合にはさらにどのようなミックスを行うかの情報を受け取って、画素データをミックス処理する画素MIX部である。
【0041】
このAF信号用画素MIX部12により行われるミックス処理には、上述した垂直ミックスと水平ミックスとがあるが、AF用であって左分割画素と右分割画素とが分離されている必要があるために左右加算は含まれない。
【0042】
そして、AF信号用画素MIX部12によりミックス処理された画像データは、AF信号処理部7に渡される。
【0043】
画像信号用画素MIX部13は、画素数を減少させる少画素化部であるが、画像信号を生成すれば良く、位相差情報は不要である。従って、画像信号用画素MIX部13は、分割画素信号を残すように少画素化を行う必要はなく、左右加算した画素信号を出力すれば足りる。
【0044】
具体的に、画像信号用画素MIX部13は、必要に応じて撮像素子用画素MIX部11によりミックス処理された後に撮像素子4から出力された画像データに対して、MIXモード管理・指示部14から、ミックスする/しないの情報を受け取り、ミックスする場合にはさらにどのようなミックスを行うかの情報を受け取って、画素データをミックス処理する画素MIX部である。
【0045】
この画像信号用画素MIX部13は、表示画像や動画に適したミックス処理を行うものである。画像信号用画素MIX部13により行われるミックス処理には、上述した垂直ミックスと水平ミックスと左右加算とが含まれる。
【0046】
そして、画像信号用画素MIX部13によりミックス処理された画像データは、画像信号処理部8に渡される。
【0047】
MIXモード管理・指示部14は、位相差検知を優先するか否かに応じて、少画素化部による少画素化を制御する制御部である。
【0048】
このMIXモード管理・指示部14は、位相差検知を優先する場合には、処理後画素信号(ミックス画素信号)の分割方向に垂直な方向(第2の方向)の並び間隔が等間隔にならないように、画素MIX部を制御する。
【0049】
一方、MIXモード管理・指示部14は、位相差検知を優先しない場合(例えば、位相差検知よりも画質を優先する場合)であって、第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせる場合には、処理後画素信号の第2の方向の並び間隔が等間隔になるように、画素MIX部を制御する。
【0050】
また、MIXモード管理・指示部14は、位相差検知を優先するか否かに関わらず、第1の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせる場合には、処理後画素信号の第1の方向の並び間隔が等間隔になるように、画素MIX部を制御する。
【0051】
具体的に、MIXモード管理・指示部14は、どのミックス(MIX)方法(例えば、ミックスする画素数(分割画素の数)、あるいはミックス時に重み付けを行うか否か、等が異なる各種のミックス方法)が画像信号処理用として最適であり、またAF信号処理用として最適であるかを管理して、位相差検知を優先するか画質を優先するかに応じて、少画素化部である画素MIX部(撮像素子用画素MIX部11、AF信号用画素MIX部12、および画像信号用画素MIX部13)によるミックスを制御するミックス制御部となっている。このMIXモード管理・指示部14によるミックス方法の決定は、例えば、入力IF10(ボタンなど)の指示、あるいは前フレームで決定された露出条件もしくは被写体情報などに基づき行われる(ただし、その他の要因に基づき決定しても構わない)。
【0052】
外部メモリ20は、上述したように、例えば撮像装置1に着脱可能なメモリカード等で構成されていて、画像信号処理部8により記録用に処理された画像を、例えば画像ファイルの形式で保存する不揮発性の記録媒体である。
【0053】
システム制御部15は、例えばCPUなどのハードウェアで構成されたプロセッサを備え、内部メモリ6に不揮発に記憶されている処理プログラムに従って、撮像装置1全体を統括的に制御するものである。
【0054】
例えば、システム制御部15は、撮像レンズ2を駆動制御して、ピント位置、ズーム状態、絞り開口径などを変化させる。また、システム制御部15は、シャッタ3を駆動制御して遮光幕の開閉を行わせる。さらに、システム制御部15は、撮像素子4による画素信号の蓄積から画像データの出力までの動作を制御する。
【0055】
こうして本実施形態の撮像装置は、位相差検知を優先したミックス処理(
図3〜
図10等参照)と、画質を優先したミックス処理(
図11〜
図15等参照)と、を行うことができるように構成されている。
【0056】
そして、以下の
図3〜
図15の説明においては、異なる色の画素のミックス処理や、分割位置の異なる分割画素のミックス(左右加算など)は除外して、分光特性が同一種類(例えば同一色)で、かつ同一分割位置(左分割または右分割など)の分割画素同士のミックス処理を考えるものとする。
【0057】
このとき、例えば水平方向の位相差検知(縦線検知)を優先したミックス処理は、左分割画素と右分割画素とが区別してミックスされることになり、その上で、対をなす左分割画素と右分割画素はミックス後にも水平方向に半画素ピッチ(1分割画素ピッチ)ずれた位置関係にあること、位相差検知において組み合わせて用いられるGr分割画素とGb分割画素とはミックス後に垂直方向に近接した位置にあること、などの条件を満たすことが求められる(
図4、
図8等参照)。
【0058】
まず、
図3〜
図10を参照して、位相差検知を優先したミックス処理の幾つかの例について説明する。
【0059】
位相差検知を優先したミックス処理の第1の例(垂直3画素ミックス)を、
図3および
図4を参照して説明する。なお、3以上の垂直奇数画素ミックスも、ここで説明する方法に準じて行われる。
【0060】
図3は、位相差検知を優先したR分割画素に係る垂直3画素ミックスの例を示す図である。この
図3に示す行番号および列番号は、
図2に示した行番号および列番号に対応している。
【0061】
図2に示した例では、R画素を左右方向に分割したR分割画素は、i,jを整数としたときに、(行番号,列番号)が((M+2i),(N+4j))および((M+2i),(N+4j+1))となる位置に配置されている。
【0062】
そして、この
図3に示す例においては、列番号が同一であり、行番号が(M+6i)、(M+6i+2)、(M+6i+4)のように隣接する3つの垂直方向のR分割画素が加算(あるいは加算平均などでも構わない、以下同様)されている。加算されたミックス画素は、垂直方向の3つのR分割画素の重心位置から、中央のR分割画素の位置、つまり行番号が(M+6i+2)となる位置に配置される。
【0063】
従って、制御部であるMIXモード管理・指示部14は、少画素化部である画素MIX部(撮像素子用画素MIX部11、AF信号用画素MIX部12、および画像信号用画素MIX部13)が混合により少画素化を行う場合には、混合対象となる複数の分割画素の位置(ここでは、垂直方向の位置を示す行番号)を指定することにより、処理後画素信号(ミックス画素)の重心位置を設定している。
【0064】
なお、MIXモード管理・指示部14は、少画素化部が間引きにより少画素化を行う場合には、間引かれることなく残る分割画素の位置を指定することにより、処理後画素信号の位置を設定すれば良い。
【0065】
また、図示は省略するが、Gr分割画素、Gb分割画素、B分割画素に係る垂直3画素ミックスは、次のように行われる。
【0066】
まず、Gr画素を左右方向に分割したGr分割画素は、(行番号,列番号)が((M+2i),(N+4j+2))および((M+2i),(N+4j+3))となる位置に配置されている。
【0067】
そして、R分割画素と同様に、行番号が(M+6i)、(M+6i+2)、(M+6i+4)のように隣接する3つの垂直方向のGr分割画素が加算される。加算されたミックス画素は、R分割画素と同様に、中央のGr分割画素の位置、つまり行番号が(M+6i+2)となる位置に配置される。
【0068】
次に、Gb画素を左右方向に分割したGb分割画素は、(行番号,列番号)が((M+2i+1),(N+4j))および((M+2i+1),(N+4j+1))となる位置に配置されている。
【0069】
そして、行番号が(M+6i+1)、(M+6i+3)、(M+6i+5)のように隣接する3つの垂直方向のGb分割画素が加算される。加算されたミックス画素は、中央のGb分割画素の位置、つまり行番号が(M+6i+3)となる位置に配置される。
【0070】
さらに、B画素を左右方向に分割したB分割画素は、(行番号,列番号)が((M+2i+1),(N+4j+2))および((M+2i+1),(N+4j+3))となる位置に配置されている。
【0071】
そして、Gb分割画素と同様に、行番号が(M+6i+1)、(M+6i+3)、(M+6i+5)のように隣接する3つの垂直方向のB分割画素が加算される。加算されたミックス画素は、Gb分割画素と同様に、中央のB分割画素の位置、つまり行番号が(M+6i+3)となる位置に配置される。
【0072】
図4は、位相差検知を優先した垂直3画素ミックスにより得られるミックス画素の配置が、垂直方向に等間隔でない様子を示す図である。
【0073】
輝度成分を主に担うのはG画素であるが、上述したような位相差検知を優先した垂直3画素ミックスを行った結果、行番号(M+6i+2)に配置されたGrミックス画素と、行番号(M+6i+3)に配置されたGbミックス画素とは、行番号が1つ異なるだけであるために、垂直方向に密となっている。一方、行番号(M+6i+3)に配置されたGbミックス画素と、行番号(M+6i+8)に配置されたGrミックス画素とは、行番号が5つ異なるために、垂直方向に疎となっている。
【0074】
具体的には、
図4に示すように、ミックス画素の配置は、垂直方向に密と疎とが交互となっていて、行番号(M+2)と(M+3)、(M+8)と(M+9)、…が密、行番号(M+3)と(M+8)、(M+9)と(M+14)、…が疎である。
【0075】
そして、密に配置された2行において、Gb分割画素とGr分割画素とが連続した列番号N,(N+1),(N+2),(N+3),(N+4),…に配置されているために、1行におけるGb分割画素のみの2倍(あるいは、1行におけるGr分割画素のみの2倍)の配置密度である。従って、1行のG成分のみを用いて水平方向の位相差検知(つまり、縦線検知)を行う場合に比して、基本的に2倍の検知精度が得られる。このとき、Gb分割画素とGr分割画素との縦方向のずれは1行であるために、異なる縦線に基づく誤検知の可能性を極めて小さく抑制することができる。こうして、
図4に示すような配置のミックス画素を用いれば、
図2に示す分割画素を全画素読み出しして、Gb分割画素とGr分割画素とを用いて位相差検知する場合と同等の検知精度を得ることができる。
【0076】
位相差検知を優先したミックス処理の第2の例(垂直2画素ミックス)を、
図5を参照して説明する。なお、2以上の垂直偶数画素ミックスも、ここで説明する方法に準じて行われる。
【0077】
図5は、位相差検知を優先したR分割画素に係る垂直2画素ミックスの例を示す図である。
【0078】
垂直2画素ミックスの場合には、
図5に示すように、列番号が同一であり、行番号が(M+4i)、(M+4i+2)のように隣接する2つの垂直方向のR分割画素が加算されている。加算されたミックス画素は、垂直方向の2つのR分割画素の重心位置から、ハッチングに示す中間の位置、つまり行番号が(M+4i+1)となる位置に配置される。
【0079】
また、図示は省略するが、Gr分割画素、Gb分割画素、B分割画素に係る垂直2画素ミックスは、次のように行われる。
【0080】
まず、Gr分割画素については、R分割画素と同様に、行番号が(M+4i)、(M+4i+2)のように隣接する2つの垂直方向のGr分割画素が加算される。加算されたミックス画素は、R分割画素と同様に、中間の位置、つまり行番号が(M+4i+1)となる位置に配置される。
【0081】
次に、Gb分割画素については、行番号が(M+4i+1)、(M+4i+3)のように隣接する2つの垂直方向のGb分割画素が加算される。加算されたミックス画素は、中間の位置、つまり行番号が(M+4i+2)となる位置に配置される。
【0082】
さらに、B分割画素については、Gb分割画素と同様に、行番号が(M+4i+1)、(M+4i+3)のように隣接する2つの垂直方向のB分割画素が加算される。加算されたミックス画素は、Gb分割画素と同様に、中間の位置、つまり行番号が(M+4i+2)となる位置に配置される。
【0083】
上述したような位相差検知を優先した垂直2画素ミックスを行った結果、行番号(M+4i+1)に配置されたGrミックス画素と、行番号(M+4i+2)に配置されたGbミックス画素とは、行番号が1つ異なるだけであるために、垂直方向に密となっている。一方、行番号(M+4i+2)に配置されたGbミックス画素と、行番号(M+4i+5)に配置されたGrミックス画素とは、行番号が3つ異なるために、垂直方向に疎となっている。
【0084】
具体的には、ミックス画素の配置は、垂直方向に密と疎とが交互となっていて、行番号(M+1)と(M+2)、(M+5)と(M+6)、…が密、行番号(M+2)と(M+5)、(M+6)と(M+9)、…が疎である。
【0085】
そして、密に配置された2行におけるGb分割画素とGr分割画素とを用いることで、上述と同様に、全画素読み出しと同等の検知精度を得ることが可能となる。
【0086】
位相差検知を優先したミックス処理の第3の例(水平3画素ミックス)を、
図6〜
図8を参照して説明する。なお、3以上の水平奇数画素ミックスも、ここで説明する方法に準じて行われる。
【0087】
図6は、位相差検知を優先したR分割画素に係る水平3画素ミックスの例を示す図である。
【0088】
この
図6に示す例においては、行番号が同一であり、列番号が(N+12i)、(N+12i+4)、(N+12i+8)のように隣接する3つの水平方向のR左分割画素が加算されると共に、列番号が(N+12i+1)、(N+12i+5)、(N+12i+9)のように隣接する3つの水平方向のR右分割画素が加算される。加算されたミックス画素は、水平方向の3つのR分割画素の重心位置から、中央のR分割画素の位置、つまりR左分割画素については列番号が(N+12i+4)となる位置、R右分割画素については列番号が(N+12i+5)となる位置にそれぞれ配置される。
【0089】
図7は、位相差検知を優先したGr分割画素に係る水平3画素ミックスの例を示す図である。
【0090】
この
図7に示す例においては、行番号が同一であり、列番号が(N+12i+6)、(N+12i+10)、(N+12i+14)のように隣接する3つの水平方向のGr左分割画素が加算されると共に、列番号が(N+12i+7)、(N+12i+11)、(N+12i+15)のように隣接する3つの水平方向のGr右分割画素が加算される。加算されたミックス画素は、水平方向の3つのGr分割画素の重心位置から、中央のGr分割画素の位置、つまりGr左分割画素については列番号が(N+12i+10)となる位置、Gr右分割画素については列番号が(N+12i+11)となる位置にそれぞれ配置される。
【0091】
また、図示は省略するが、Gb画素、B分割画素に係る水平3画素ミックスは、次のように行われる。
【0092】
まず、Gb分割画素については、列番号が(N+12i)、(N+12i+4)、(N+12i+8)のように隣接する3つの水平方向のGb左分割画素が加算されると共に、列番号が(N+12i+1)、(N+12i+5)、(N+12i+9)のように隣接する3つの水平方向のGb右分割画素が加算される。加算されたミックス画素は、水平方向の3つのGb分割画素の重心位置から、中央のGb分割画素の位置、つまりGb左分割画素については列番号が(N+12i+4)となる位置、Gb右分割画素については列番号が(N+12i+5)となる位置にそれぞれ配置される。
【0093】
次に、B分割画素については、列番号が(N+12i+6)、(N+12i+10)、(N+12i+14)のように隣接する3つの水平方向のB左分割画素が加算されると共に、列番号が(N+12i+7)、(N+12i+11)、(N+12i+15)のように隣接する3つの水平方向のB右分割画素が加算される。加算されたミックス画素は、水平方向の3つのB分割画素の重心位置から、中央のB分割画素の位置、つまりB左分割画素については列番号が(N+12i+10)となる位置、B右分割画素については列番号が(N+12i+11)となる位置にそれぞれ配置される。
【0094】
図8は、位相差検知を優先した水平3画素ミックスにより得られるミックス画素の配置が水平方向に等間隔である例を示す図である。
【0095】
上述したように、左分割画素と右分割画素とを分けてミックスしており、ミックス画素の配置が水平方向に等間隔である(左分割画素に係るミックス画素だけを見ると等間隔であり、同様に、右分割画素に係るミックス画素だけを見ると等間隔である)ために(そして、上述したように、対をなす左分割画素と右分割画素はミックス後にも水平方向に半画素ピッチ(1分割画素ピッチ)ずれた位置関係にあるために)、位相差検知を行うことは可能であるが、
図4に示したようなミックス画素の配置と比べると、水平方向の画素間隔が開いており、連続する2行のGb分割画素とGr分割画素とを位相差検知に用いたとしても、水平方向の配置密度は
図4の配置の1/3である。従って、
図8に示すような水平3画素ミックスの場合には、全画素読み出し、あるいは
図4に示す垂直3画素ミックスの場合の、ほぼ1/3の位相差検知精度が得られる(ただし、位相差検知精度は画素配置密度のみで決まるわけではないために、1/3という数値はあくまでも水平方向の画素配置密度の観点からのものである)。
【0096】
位相差検知を優先したミックス処理の第4の例(水平2画素ミックス)を、
図9および
図10を参照して説明する。なお、2以上の水平偶数画素ミックスも、ここで説明する方法に準じて行われる。
【0097】
図9は、位相差検知を優先したR分割画素に係る水平2画素ミックスを、重み付け加算により行う例を示す図である。
【0098】
この
図9に示す例においては、行番号が同一であり、列番号が(N+8i)、(N+8i+4)のように隣接する2つの水平方向のR左分割画素が3:1で重み付け加算されると共に、列番号が(N+8i+1)、(N+8i+5)のように隣接する2つの水平方向のR右分割画素が3:1で重み付け加算される。
【0099】
ここに、重みは、MIXモード管理・指示部14から少画素化部である画素MIX部(撮像素子用画素MIX部11、AF信号用画素MIX部12、および画像信号用画素MIX部13)へ指示される。
【0100】
重み付け加算されたミックス画素は、R左分割画素については列番号が(N+8i+1)となる位置、R右分割画素については列番号が(N+8i+2)となる位置にそれぞれ配置される。
【0101】
こうして、制御部であるMIXモード管理・指示部14は、さらに、混合対象となる複数の分割画素の分割画素信号の混合比率を指定することにより、処理後画素信号(ミックス画素)の重心位置を設定している。
【0102】
図10は、位相差検知を優先したGr分割画素に係る水平2画素ミックスを、重み付け加算により行う例を示す図である。
【0103】
この
図10に示す例においては、行番号が同一であり、列番号が(N+8i+2)、(N+8i+6)のように隣接する2つの水平方向のGr左分割画素が1:3で重み付け加算されると共に、列番号が(N+8i+3)、(N+8i+7)のように隣接する2つの水平方向のGr右分割画素が1:3で重み付け加算される。重み付け加算されたミックス画素は、Gr左分割画素については列番号が(N+8i+5)となる位置、Gr右分割画素については列番号が(N+8i+6)となる位置にそれぞれ配置される。
【0104】
また、図示は省略するが、Gb画素、B分割画素に係る水平2画素ミックスは、次のように行われる。
【0105】
まず、Gb分割画素については、列番号が(N+8i)、(N+8i+4)のように隣接する2つの水平方向のGb左分割画素が3:1で重み付け加算されると共に、列番号が(N+8i+1)、(N+8i+5)のように隣接する2つの水平方向のGb右分割画素が3:1で重み付け加算される。重み付け加算されたミックス画素は、Gb左分割画素については列番号が(N+8i+1)となる位置、Gb右分割画素については列番号が(N+8i+2)となる位置にそれぞれ配置される。
【0106】
次に、B分割画素については、列番号が(N+8i+2)、(N+8i+6)のように隣接する2つの水平方向のB左分割画素が1:3で重み付け加算されると共に、列番号が(N+8i+3)、(N+8i+7)のように隣接する2つの水平方向のB右分割画素が1:3で重み付け加算される。重み付け加算されたミックス画素は、B左分割画素については列番号が(N+8i+5)となる位置、B右分割画素については列番号が(N+8i+6)となる位置にそれぞれ配置される。
【0107】
このような処理を行うことにより、対をなす左分割画素と右分割画素はミックス後にも水平方向に半画素ピッチ(1分割画素ピッチ)ずれた位置関係になり、かつ、左分割画素と右分割画素との対は、水平方向に等間隔で配置される。
【0108】
次に、
図11〜
図15を参照して、画質を優先したミックス処理の幾つかの例について説明する。
【0109】
画質を優先したミックス処理は、例えば、位相差検知に用いられる左分割画素と右分割画素との対が、垂直方向および水平方向の何れにも等間隔で配置される、などの条件を満たすことが求められる。
【0110】
まず、画質を優先したミックス処理の第1の例(垂直3画素ミックス)を、
図11〜
図13を参照して説明する。なお、3以上の垂直奇数画素ミックスも、ここで説明する方法に準じて行われる。
【0111】
図11は、画質を優先したR分割画素に係る垂直3画素ミックスの例を示す図である。図示のように、R分割画素に係る垂直3画素ミックスは、位相差検知を優先した垂直3画素ミックス(
図3)と同様である。また、図示はしないが、Gr分割画素に係る垂直3画素ミックスについても、位相差検知を優先した垂直3画素ミックスと同様である。
【0112】
また、
図12は、画質を優先したGb分割画素に係る垂直3画素ミックスの例を示す図である。
【0113】
Gb分割画素に係る垂直3画素ミックスについては、行番号が(M+6i+3)、(M+6i+5)、(M+6i+7)のように隣接する3つの垂直方向のGb分割画素が加算される。加算されたミックス画素は、中央のGb分割画素の位置、つまり行番号が(M+6i+5)となる位置に配置される。
【0114】
また、B分割画素に係る垂直3画素ミックスについては、Gb分割画素と同様に、行番号が(M+6i+3)、(M+6i+5)、(M+6i+7)のように隣接する3つの垂直方向のB分割画素が加算される。加算されたミックス画素は、Gb分割画素と同様に、中央のB分割画素の位置、つまり行番号が(M+6i+5)となる位置に配置される。
【0115】
その結果、ミックス画素の配置は
図13に示すようになる。
図13は、画質を優先した垂直3画素ミックスにより得られるミックス画素の配置が、垂直方向に等間隔である様子を示す図である。
【0116】
図4に示したように、位相差検知を優先した垂直3画素ミックスにより加算されたGbミックス画素およびBミックス画素の行番号は、(M+6i+3)であった。これに対して
図13に示すように、画質を優先した垂直3画素ミックスにより加算されたGbミックス画素およびBミックス画素の行番号は、(M+6i+5)となる。一方、Rミックス画素およびGrミックス画素の行番号は、
図4と
図13の何れも(M+6i+2)である。
【0117】
従って、
図13においては、ミックス画素の配置が垂直方向に等間隔となるために、位相差検知において組み合わせて用いられるGr分割画素とGb分割画素とは垂直方向に離隔した位置となり、位相差の精度は下がる反面、等間隔であるために輝度信号相当成分が画像内により均一に分布することとなって、画質を向上することができる。
【0118】
次に、画質を優先したミックス処理の第2の例(垂直2画素ミックス)を、
図14および
図15を参照して説明する。なお、2以上の垂直偶数画素ミックスも、ここで説明する方法に準じて行われる。
【0119】
図14は、画質を優先したR分割画素に係る垂直2画素ミックスを、重み付け加算により行う例を示す図である。なお、重みがMIXモード管理・指示部14から指示されるのは、上述と同様である。
【0120】
画質を優先したR分割画素に係る垂直2画素ミックスの場合には、
図14に示すように、列番号が同一であり、行番号が(M+4i)、(M+4i+2)のように隣接する2つの垂直方向のR分割画素が3:1で重み付け加算されている。重み付け加算されたミックス画素は、概略ハッチングに示す中間の位置、つまり行番号が(M+4i+0.5)となる位置に配置される。
【0121】
また、図示は省略するが、画質を優先したGr分割画素に係る垂直2画素ミックスも、R分割画素に係る垂直2画素ミックスと同様に、行番号が(M+4i)、(M+4i+2)のように隣接する2つの垂直方向のGr分割画素が3:1で重み付け加算されている。重み付け加算されたミックス画素は、行番号が(M+4i+0.5)となる位置に配置される。
【0122】
図15は、画質を優先したGb分割画素に係る垂直2画素ミックスを、重み付け加算により行う例を示す図である。
【0123】
画質を優先したGb分割画素に係る垂直2画素ミックスは、行番号が(M+4i+1)、(M+4i+3)のように隣接する2つの垂直方向のGb分割画素が1:3で重み付け加算されている。重み付け加算されたミックス画素は、該略ハッチングに示す中間の位置、つまり行番号が(M+4i+2.5)となる位置に配置される。
【0124】
また、図示は省略するが、画質を優先したB分割画素に係る垂直2画素ミックスも、Gb分割画素に係る垂直2画素ミックスと同様に、行番号が(M+4i+1)、(M+4i+3)のように隣接する2つの垂直方向のB分割画素が1:3で重み付け加算されている。重み付け加算されたミックス画素は、該略ハッチングに示す中間の位置、つまり行番号が(M+4i+2.5)となる位置に配置される。
【0125】
このような処理を行った結果、Rミックス画素およびGrミックス画素は行番号が(M+4i+0.5)となる位置、つまり、(M+0.5)、(M+4.5)、(M+8.5)、…となる位置に配置される。
【0126】
一方、Gbミックス画素およびBミックス画素は行番号が(M+4i+2.5)となる位置、つまり、(M+2.5)、(M+6.5)、(M+10.5)、…となる位置に配置される。
【0127】
従って、Rミックス画素およびGrミックス画素の行と、Gbミックス画素およびBミックス画素の行とは、垂直方向に2画素ずつ等間隔に離れることになる。
【0128】
また、画質を優先したミックス処理の第3の例(水平3画素ミックス)は、
図6〜
図8を参照して説明した位相差検知を優先したミックス処理の第3の例(水平3画素ミックス)と同様であるために説明を省略する。
【0129】
さらに、画質を優先したミックス処理の第4の例(水平2画素ミックス)は、
図9および
図10を参照して説明した位相差検知を優先したミックス処理の第4の例(水平2画素ミックス)と同様であるために説明を省略する。
【0130】
続いて、
図2に示したような左右に分割された画素を有する撮像素子4を備える撮像装置1が、例えばデジタルカメラである場合の動作について
図16〜
図20を参照して説明する。
【0131】
まず、
図16は、撮像装置1の撮影時の作用を示すフローチャートである。この撮影時の動作は、システム制御部15の制御に基づいて、撮像装置1内の各部で行われる。
【0132】
例えば、撮像装置1が電源オンされると、適宜の初期設定等が行われた後に、この処理に入る。
【0133】
するとまず、システム制御部15が、入力IF10の第1ボタン(ファーストレリーズ)がオンしたか否かを判定する(ステップS1)。
【0134】
ここで、第1ボタンがオンしたと判定された場合には、後で
図17を参照して説明するようなAF用処理が行われる(ステップS2)。
【0135】
AF用処理が終了したら、次に、システム制御部15が、第2ボタン(セカンドレリーズ)がオンしたか否かを判定する(ステップS3)。
【0136】
ここで、第2ボタンがオンしたと判定された場合には、後で
図18を参照して説明するような静止画用処理が行われる(ステップS4)。
【0137】
一方、ステップS1において第1ボタンがオフであると判定された場合には、システム制御部15が、第3ボタン(動画録画ボタン)がオンしたか否かを判定する(ステップS5)。
【0138】
ここで、第3ボタンがオンしたと判定された場合には、後で
図19を参照して説明するような動画用処理が行われる(ステップS6)。
【0139】
また、ステップS5において、第3ボタンがオフであると判定された場合には、後で
図20を参照して説明するようなLV(ライブビュー)用処理が行われる(ステップS7)。
【0140】
上述したステップS3において第2ボタンがオフであると判定された場合、上述したステップS4の静止画用処理が終了した場合、上述したステップS6の動画用処理が終了した場合、または上述したステップS7のLV用処理が終了した場合には、ステップS1に戻って上述したような処理を繰り返して行う。
【0141】
次に、
図17は、撮像装置1のAF用処理を示すフローチャートである。
【0142】
図16のステップS2においてこの処理に入ると、AF用処理になったという情報をシステム制御部15から受けて、MIXモード管理・指示部14は、位相差検知を優先する観点から、撮像素子用画素MIX部11とAF信号用画素MIX部12と画像信号用画素MIX部13とが、それぞれどのようなミックス処理を行うかを決定する(ステップS11)。
【0143】
続いて、MIXモード管理・指示部14は、システム制御部15を介して、撮像素子用画素MIX部11におけるミックス方法を指示する(ステップS12)。
【0144】
このAF用処理において、撮像素子用画素MIX部11に指示されるミックス方法は、例えば
図21に示すように、垂直ミックスを
図3および
図4に示すように行い(つまり、位相差情報を高い精度で取得するために垂直方向を密に加算する)、水平ミックスを行わない(左右加算は当然にして行わない)処理、などである。ここに、
図21は、本実施形態の撮像装置1におけるAF、静止画、動画、LVに応じたミックス処理の分類を示す図表である。
【0145】
また、
図3〜
図15に示したような各図における、ミックス方向、ミックス数、および非等間隔配置(疎密配置)かまたは等間隔配置か、の分類を
図22に示す。ここに、
図22は、本実施形態の撮像装置1における、ミックス処理と各図との対応を示す図表である。
【0146】
従って、制御部であるMIXモード管理・指示部14は、位相差検知を優先する場合における、処理後画素信号(ミックス画素)の第2の方向(この例では垂直方向)の並び間隔が等間隔にならないように、第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行わせる制御を、少なくとも素子内少画素化部である撮像素子用画素MIX部11に対して行っている。
【0147】
そして、画素部4aで生成された画像データを、撮像素子用画素MIX部11によりミックス処理して(ステップS13)、撮像素子4から読み出す(ステップS14)。
【0148】
撮像素子4から読み出された画像データは、AF信号用画素MIX部12および画像信号用画素MIX部13へそれぞれ送信される。
【0149】
まず、画像信号用画素MIX部13へ送信された画像データの処理は、次のように行われる。
【0150】
MIXモード管理・指示部14は、画像信号用画素MIX部13へミックス方法を指示する(ステップS15)。ここで指示されるミックス方法には、左右加算が含まれている(
図21参照)。
【0151】
そこで、画像信号用画素MIX部13は、同色の左分割画素と右分割画素とを加算して、画像信号処理に適した通常画素に戻す(ステップS16)。
【0152】
こうして画像信号用にミックスされた画像信号は、画像信号用画素MIX部13から画像信号処理部8へ送信されて、上述したような各種の画像処理が行われる(ステップS17)。
【0153】
画像処理された画像信号は、画像信号処理部8から表示部9へ送信されて、表示部9に画像として表示される(ステップS18)。
【0154】
一方、AF信号用画素MIX部12へ送信された画像データの処理は、次のように行われる。
【0155】
MIXモード管理・指示部14は、AF信号用画素MIX部12へミックス方法を指示する(ステップS21)。
【0156】
ここでAF信号用画素MIX部12に指示されるミックス方法は、例えば
図21に示すように、撮像素子用画素MIX部11で既に行われた垂直ミックスは行わず、水平ミックスを
図6〜
図8に示すように行うなどである。AF信号用画素MIX部12により水平ミックスをさらに行っているのは、例えば、被写体が暗い場合を想定してS/Nを向上するためである。従って、被写体がより明るい場合には、
図6〜
図8の水平3画素ミックスに代えて、
図9および
図10の水平2画素ミックスを行っても良いし、あるいはさらに被写体が明るい場合には、水平ミックスを行わなくても構わない。
【0157】
そして、撮像素子4から受信した画像データを、AF信号用画素MIX部12が、MIXモード管理・指示部14からの指示に従ってミックス処理する(ステップS22)。
【0158】
こうしてAF信号用にミックスされた画像信号は、AF信号用画素MIX部12からAF信号処理部7へ送信されて、AF信号処理部7により差動演算などの処理が行われてレンズ駆動情報が生成される(ステップS23)。
【0159】
AF信号処理部7により生成されたレンズ駆動情報は、システム制御部15へ送信されて、システム制御部15による撮像レンズ2の駆動制御が合焦のために行われる(ステップS24)。
【0160】
こうして、ステップS18およびステップS24の処理が行われたら、この処理からリターンする。
【0161】
図18は、撮像装置1の静止画用処理を示すフローチャートである。
【0162】
図16のステップS4においてこの処理に入ると、静止画用処理になったという情報をシステム制御部15から受けて、MIXモード管理・指示部14は、位相差検知が不要である(画質を優先する)観点から、撮像素子用画素MIX部11とAF信号用画素MIX部12と画像信号用画素MIX部13とが、それぞれどのようなミックス処理を行うかを決定する(ステップS31)。
【0163】
続いて、MIXモード管理・指示部14は、システム制御部15を介して、撮像素子用画素MIX部11におけるミックス方法を指示する(ステップS32)。
【0164】
この静止画用処理において、撮像素子用画素MIX部11に指示されるミックス方法は、例えば
図21に示すように、垂直ミックスおよび水平ミックスを行わず、左右加算を行う処理である。まず、静止画は、高い画質を求められるために、画素数の減少を防ぐために垂直ミックスおよび水平ミックスは行わない。また、静止画撮影時には位相差情報を必要としないために、撮像素子用画素MIX部11において左右加算を行うことで、撮像素子4から読み出す画素数を減らして、読出時間の短縮を図っている。
【0165】
そして、画素部4aで生成された画像データを、撮像素子用画素MIX部11によりミックス処理して、同色の左分割画素と右分割画素とを加算し通常画素に戻してから(ステップS33)、撮像素子4から読み出す(ステップS34)。
【0166】
静止画用処理においてはAF処理は不要であるために、撮像素子4から読み出された画像データは、画像信号用画素MIX部13へ送信されるが、AF信号用画素MIX部12へは送信されない。
【0167】
MIXモード管理・指示部14は、
図21に示すように、画像信号用画素MIX部13へミックス動作のオフを指示する(ステップS35)。これは上述したように、ミックス処理による画素数の低減を避けるためである。
【0168】
これに応じて、画像信号用画素MIX部13は、ミックス動作をオフする(ステップS36)。
【0169】
こうして撮像素子4から出力されたままの画像信号用画素MIX部13によるミックス処理がなされていない画像信号は、画像信号用画素MIX部13を介して、あるいは直接に画像信号処理部8へ送信されて、上述したような各種の画像処理が行われる(ステップS37)。
【0170】
画像処理された画像信号は、画像信号処理部8から、外部メモリ20へ送信されて例えば画像ファイル(静止画ファイル)として保存され、また表示部9へ送信されて画像として表示される(ステップS38)。
【0171】
こうして、ステップS38の処理が行われたら、この処理からリターンする。
【0172】
図19は、撮像装置1の動画用処理を示すフローチャートである。
【0173】
図16のステップS6においてこの処理に入ると、動画用処理になったという情報をシステム制御部15から受けて、MIXモード管理・指示部14は、画質を優先する(位相差検知は必要であるが、位相差検知の精度よりも画質を優先する)観点から、撮像素子用画素MIX部11とAF信号用画素MIX部12と画像信号用画素MIX部13とが、それぞれどのようなミックス処理を行うかを決定する(ステップS41)。
【0174】
続いて、MIXモード管理・指示部14は、システム制御部15を介して、撮像素子用画素MIX部11におけるミックス方法を指示する(ステップS42)。
【0175】
この動画用処理において、撮像素子用画素MIX部11に指示されるミックス方法は、例えば
図21に示すように、垂直ミックスを
図14および
図15に示すように行い(つまり、画質を優先するために垂直方向のミックス画素を等間隔にする)、水平ミックスを
図9および
図10に示すように行う(水平方向のミックス画素は等間隔になる)処理などである(位相差検知が必要であるために、左右加算は当然にして行わない)(
図22も参照)。
【0176】
そして、画素部4aで生成された画像データを、撮像素子用画素MIX部11によりミックス処理して(ステップS43)、撮像素子4から読み出す(ステップS44)。
【0177】
撮像素子4から読み出された画像データは、AF信号用画素MIX部12および画像信号用画素MIX部13へそれぞれ送信される。
【0178】
まず、画像信号用画素MIX部13へ送信された画像データの処理は、次のように行われる。
【0179】
MIXモード管理・指示部14は、画像信号用画素MIX部13へミックス方法を指示する(ステップS45)。ここで指示されるミックス方法には、左右加算が含まれている。
【0180】
そこで、画像信号用画素MIX部13は、同色の左分割画素と右分割画素とを加算して、画像信号処理に適した通常画素に戻す(ステップS46)。
【0181】
こうして画像信号用にミックスされた画像信号は、画像信号用画素MIX部13から画像信号処理部8へ送信されて、上述したような各種の画像処理が行われる(ステップS47)。
【0182】
画像処理された画像信号は、画像信号処理部8から、外部メモリ20へ送信されて例えば画像ファイル(動画ファイル)として保存され、また表示部9へ送信されて画像として表示される(ステップS48)。
【0183】
一方、AF信号用画素MIX部12へ送信された画像データの処理は、次のように行われる。
【0184】
MIXモード管理・指示部14は、例えば
図21に示すように、AF信号用画素MIX部12へミックス動作のオフ(つまり、垂直ミックスおよび水平ミックスのオフ)を指示する(ステップS51)。これは、撮像素子用画素MIX部11において、垂直ミックスおよび水平ミックスが既に行われているためである。
【0185】
これに応じて、AF信号用画素MIX部12は、ミックス動作をオフする(ステップS52)。
【0186】
こうして撮像素子4から出力されたままのAF信号用画素MIX部12によるミックス処理がなされていない画像信号は、AF信号用画素MIX部12を介して、あるいは直接にAF信号処理部7へ送信されて、AF信号処理部7により差動演算などの処理が行われてレンズ駆動情報が生成される(ステップS53)。
【0187】
AF信号処理部7により生成されたレンズ駆動情報は、システム制御部15へ送信されて、システム制御部15による撮像レンズ2の駆動制御が合焦のために行われる(ステップS54)。
【0188】
こうして、ステップS48およびステップS54の処理が行われたら、この処理からリターンする。
【0189】
図20は、撮像装置1のLV用処理を示すフローチャートである。
【0190】
図16のステップS7においてこの処理に入ると、LV用処理になったという情報をシステム制御部15から受けて、MIXモード管理・指示部14は、位相差検知が不要である(画質を優先する)観点から、撮像素子用画素MIX部11とAF信号用画素MIX部12と画像信号用画素MIX部13とが、それぞれどのようなミックス処理を行うかを決定する(ステップS61)。
【0191】
続いて、MIXモード管理・指示部14は、システム制御部15を介して、撮像素子用画素MIX部11におけるミックス方法を指示する(ステップS62)。
【0192】
このLV用処理において、撮像素子用画素MIX部11に指示されるミックス方法は、例えば
図21に示すように、垂直ミックスを
図11、
図12、および
図13に示すように行い(つまり、画質を優先するために垂直方向のミックス画素を等間隔にする)、水平ミックスを
図6、
図7、および
図8に示すように行い(水平方向のミックス画素は等間隔になる)、さらに左右加算を行う処理である。まず、LV画は、所定のフレームレートとリアルタイム性とを確保する必要があるために、撮像素子4内において垂直3画素ミックスおよび水平3画素ミックスを行うことで、撮像素子4から読み出す画素数を減らし、消費電力を低減している。加えて、LV画撮影時には位相差情報を必要としないために、撮像素子用画素MIX部11において左右加算を行うことで、撮像素子4から読み出す画素数をさらに減らして、読出時間の一層の短縮等を図っている。
【0193】
そして、画素部4aで生成された画像データを、撮像素子用画素MIX部11によりミックス処理して(ステップS63)、撮像素子4から読み出す(ステップS64)。
【0194】
LV用処理においてはAF処理は不要であるために、撮像素子4から読み出された画像データは、画像信号用画素MIX部13へ送信されるが、AF信号用画素MIX部12へは送信されない。
【0195】
MIXモード管理・指示部14は、
図21に示すように、画像信号用画素MIX部13へミックス動作のオフを指示する(ステップS65)。これは、撮像素子用画素MIX部11により、必要なミックス処理が既に行われているためである。
【0196】
これに応じて、画像信号用画素MIX部13は、ミックス動作をオフする(ステップS66)。
【0197】
こうして撮像素子4から出力されたままの画像信号用画素MIX部13によるミックス処理がなされていない画像信号は、画像信号用画素MIX部13を介して、あるいは直接に画像信号処理部8へ送信されて、上述したような各種の画像処理が行われる(ステップS67)。
【0198】
画像処理された画像信号は、画像信号処理部8から表示部9へ送信されて、表示部9に画像として表示される(ステップS68)。
【0199】
こうして、ステップS68の処理が行われたら、この処理からリターンする。
【0200】
なお、上述では主として第1の方向を水平方向、第2の方向を垂直方向として、水平方向の位相差検知(縦線検知)を例に挙げて説明した。
【0201】
この場合に、位相差検知を優先して垂直方向の少画素化(垂直ミックス、または垂直間引き)を行う際には、処理後画素信号の垂直方向の並び間隔が等間隔にならないようにした。また、垂直方向の少画素化を行うことなく水平方向の少画素化(水平ミックス、または水平間引き)を行う際、あるいは垂直方向の少画素化に加えて水平方向の少画素化を行う際には、一般的な処理と同様に、処理後画素信号の水平方向の並び間隔が等間隔になるようにした。
【0202】
これに対して、位相差検知を優先して垂直方向の位相差検知(横線検知)を行う場合には、第1の方向を垂直方向、第2の方向を水平方向とすれば、上述と同様の考え方を適用することができる。
【0203】
すなわち、水平方向の少画素化(水平ミックス、または水平間引き)を行う際には、処理後画素信号の水平方向の並び間隔が等間隔にならないようにすれば良い。また、水平方向の少画素化を行うことなく垂直方向の少画素化(垂直ミックス、または垂直間引き)を行う際、あるいは水平方向の少画素化に加えて垂直方向の少画素化を行う際には、一般的な処理と同様に、処理後画素信号の垂直方向の並び間隔が等間隔になるようにすれば良い。従って、横線検知に関する詳細な説明は省略する。
【0204】
なお、上述では、少画素化部である画素MIX部として、撮像素子用画素MIX部11(素子内MIX)、画像信号用画素MIX部13(画像用MIX)、AF信号用画素MIX部12(AF用MIX)の3つを備える例(下記の(4)の組み合わせの例)を説明したが、これら3つを全て備えるに限るものではない。
【0205】
位相差検知を優先する場合に、処理後画素信号の第2の方向の並び間隔が等間隔にならないように、第2の方向に隣接する複数の分割画素の分割画素信号の少画素化を行うためには、例えば次のような組み合わせが可能である。
(1) (2) (3) (4) (5)
素子内MIX ○ ○ ○ ○ ×
画像用MIX × ○ × ○ ○
AF用MIX × × ○ ○ ○
【0206】
そして、これらの組み合わせの中で、上下左右に4分割した分割画素を用いたときに、縦線検知と横線検知の両方に対して、処理後画素信号の第2の方向の並び間隔が等間隔にならないようにする位相差検知優先が可能であり、かつ画質優先も可能であるのは、(5)の構成(あるいは、(4)の構成において撮像素子用画素MIX部11を動作させないとき)である。
【0207】
具体的に、この場合には、撮像素子4内ではMIX処理を一切行わずに、全画素をそのまま出力する。そして、AF信号用画素MIX部12において、第1の方向を水平方向、第2の方向を垂直方向として少画素化を行い、縦線検知用の処理後画素信号を生成して縦線検知を行うと共に、縦線検知とは別途に、AF信号用画素MIX部12において、第1の方向を垂直方向、第2の方向を水平方向として少画素化を行い、横線検知用の処理後画素信号を生成して横線検知を行うようにすれば良い。
【0208】
この場合には、撮像素子4から全画素を読み出すことになるために、フレームレートの向上や消費電力の低減の効果を得ることは難しいが、AF信号用画素MIX部12において少画素化としてミックス処理を行えば、感度(S/N)を向上することが可能である。
【0209】
なお、画素の基本配列として上述ではベイヤ配列を例に挙げたが、上述したように、これに限定されるものではない。
【0210】
また、分光特性が異なる画素として上述ではRGB各画素を例に挙げたが、これに限定されるものではない。補色系の画素でも良いし、白色画素を含んでいても良いし、3色以上の多色画素であっても構わない。
【0211】
さらに、上述では、輝度成分を主に担うG画素の信号を用いて位相差検知を行ったが、デモザイキング処理を行って各画素位置の輝度信号を生成してから位相差検知を行うようにしても構わない。
【0212】
このような実施形態1によれば、位相差検知を優先する場合に、処理後画素信号の第2の方向の並び間隔が等間隔にならないように分割画素信号の少画素化を行うようにしたために、位相差検知に用いる種類の処理後画素信号の第2の方向の並び間隔を近接させることができ、異なる被写体に基づく誤検知を有効に抑制することができる。こうして、画素数を低減し、位相差検知精度を向上することができる。
【0213】
また、位相差検知を優先しない場合には、処理後画素信号の第2の方向の並び間隔が等間隔になるようにしたために、輝度信号相当成分が画像内により均一に分布することとなって、画質を向上することができる。
【0214】
さらに、処理後画素信号の第1の方向の並び間隔が等間隔になるようにしたために、位相差検知を優先するか否かに関わらず、第1の方向の画質を向上することができる。
【0215】
そして、素子内少画素化部である撮像素子用画素MIX部11により、処理後画素信号の第2の方向の並び間隔が等間隔にならないように少画素化を行うようにした場合には、撮像素子4から読み出す画素数を減らすことができるために、読み出しが高速になり、消費電力の低減を図ることができる。
【0216】
加えて、少画素化として混合と間引きとの少なくとも一方を行うことにより、複雑な演算処理が不要となって、処理の高速性を維持することが可能となる。
【0217】
また、混合対象となる複数の分割画素の位置を指定することにより、処理後画素信号の重心位置を設定するようにしたために、例えば、読み出し行や読み出し画素を指定可能なアドレス指定型の撮像素子4において、素子内の処理を好適に行うことが可能となる。
【0218】
さらに、複数の分割画素信号の混合比率を指定することにより処理後画素信号の重心位置を設定する場合には、加減乗除の四則演算のみで足りるために、撮像素子用画素MIX部11、AF信号用画素MIX部12、あるいは画像信号用画素MIX部13の何れにおいても、処理を高速に行うことができる。
【0219】
一方、間引かれることなく残る分割画素の位置を指定することにより、処理後画素信号の位置を設定して少画素化を行う場合には、四則演算も不要となるために、より処理負荷が軽減される。
【0220】
なお、上述した各部は、回路として構成されていてもよい。そして、任意の回路は、同一の機能を果たすことができれば、単一の回路として実装されていてもよいし、複数の回路を組み合わせたものとして実装されていても構わない。さらに、任意の回路は、目的とする機能を果たすための専用回路として構成されるに限るものではなく、汎用回路に処理プログラムを実行させることで目的とする機能を果たす構成であっても構わない。あるいは、ハードウェアとして構成されたプロセッサが、各部の処理を処理ステップとして行うようにしてもよい。
【0221】
また、上述では主として撮像装置について説明したが、撮像装置と同様の処理を行う撮像方法であってもよいし、コンピュータに撮像装置と同様の処理を行わせるための処理プログラム、該処理プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
【0222】
さらに、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。