特許第5786355号(P5786355)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ニコンの特許一覧

特許5786355デフォーカス量検出装置および電子カメラ
<>
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000007
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000008
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000009
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000010
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000011
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000012
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000013
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000014
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000015
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000016
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000017
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000018
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000019
  • 特許5786355-デフォーカス量検出装置および電子カメラ 図000020
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5786355
(24)【登録日】2015年8月7日
(45)【発行日】2015年9月30日
(54)【発明の名称】デフォーカス量検出装置および電子カメラ
(51)【国際特許分類】
   G02B 7/34 20060101AFI20150910BHJP
   H04N 5/232 20060101ALI20150910BHJP
   H04N 5/369 20110101ALI20150910BHJP
   G03B 13/36 20060101ALI20150910BHJP
【FI】
   G02B7/34
   H04N5/232 H
   H04N5/335 690
   G03B13/36
【請求項の数】8
【全頁数】17
(21)【出願番号】特願2011-32242(P2011-32242)
(22)【出願日】2011年2月17日
(65)【公開番号】特開2012-173334(P2012-173334A)
(43)【公開日】2012年9月10日
【審査請求日】2014年2月4日
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100072718
【弁理士】
【氏名又は名称】古谷 史旺
(74)【代理人】
【識別番号】100116001
【弁理士】
【氏名又は名称】森 俊秀
(72)【発明者】
【氏名】宇津木 暁彦
【審査官】 荒井 良子
(56)【参考文献】
【文献】 特開2009−094881(JP,A)
【文献】 特開2007−279597(JP,A)
【文献】 特開2009−141390(JP,A)
【文献】 特開2010−191390(JP,A)
【文献】 特開2010−139665(JP,A)
【文献】 特開2009−044638(JP,A)
【文献】 特開2010−028397(JP,A)
【文献】 特開2009−086424(JP,A)
【文献】 特開2010−245951(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 7/34
G03B 13/36
H04N 5/232
H04N 5/369
(57)【特許請求の範囲】
【請求項1】
二次元状に配置された撮像用画素の一部に瞳分割画素が配列された撮像素子から前記瞳分割画素の瞳分割データおよび前記瞳分割画素周辺の前記撮像用画素の全瞳データを読み込む画像データ入力部と、
前記画像データ入力部が読み込んだ前記撮像用画素の前記全瞳データから前記瞳分割画素位置の全瞳データを補間生成する全瞳データ生成部と、
前記全瞳データ生成部により補間生成された前記瞳分割画素位置の前記全瞳データおよび前記撮像用画素の全瞳データと、前記瞳分割画素から読み込まれた前記瞳分割データとの位置ズレ量を検出する位置ズレ検出部と、
前記位置ズレ検出部が検出した位置ズレ量に応じてデフォーカス量を求めるデフォーカス量算出部と
を有することを特徴とするデフォーカス量検出装置。
【請求項2】
請求項1に記載のデフォーカス量検出装置において、
前記全瞳データ生成部は、前記撮像用画素から読み込まれた前記全瞳データに基づいて画像構造の方向を判定し、該判定結果に応じて前記瞳分割画素位置の全瞳データを補間生成する際に参照する前記撮像用画素を選択する
ことを特徴とするデフォーカス量検出装置。
【請求項3】
請求項2に記載のデフォーカス量検出装置において、
前記全瞳データ生成部は、前記画像構造の方向を判定する際に、前記瞳分割画素に隣接する上下の前記全瞳データの差分と左右の前記全瞳データの差分とを比較し、差分が小さい方の前記全瞳データ用いて前記瞳分割画素位置の全瞳データを補間生成する
ことを特徴とするデフォーカス量検出装置。
【請求項4】
請求項2または3に記載のデフォーカス量検出装置において、
前記全瞳データ生成部は、画像構造の方向を判定するための全瞳データと、前記瞳分割画素位置の全瞳データを補間生成する際に参照する全瞳データとに、前記瞳分割画素周辺の同じ範囲の前記撮像用画素の全瞳データを使用する
ことを特徴とするデフォーカス量検出装置。
【請求項5】
請求項1から3のいずれか一項に記載のデフォーカス量検出装置において、
前記全瞳データ生成部は、前記瞳分割画素が配置された列の全画素位置に対して全瞳データを生成する
ことを特徴とするデフォーカス量検出装置。
【請求項6】
請求項1から5のいずれか一項に記載のデフォーカス量検出装置において
前記画像データ入力部は、前記瞳分割画素が配置された列から前記瞳分割データおよび前記全瞳データを、前記瞳分割画素が配置された列の上下の列から前記全瞳データをそれぞれ読み込む
ことを特徴とするデフォーカス量検出装置。
【請求項7】
請求項1から5のいずれか一項に記載のデフォーカス量検出装置において
前記画像データ入力部は、前記瞳分割画素周辺の複数の前記撮像用画素の全瞳データを前記撮像素子内で加算平均したデータを前記瞳分割画素位置の全瞳データとして読み出す
ことを特徴とするデフォーカス量検出装置。
【請求項8】
請求項1から5のいずれか一項に記載のデフォーカス量検出装置を有することを特徴とする電子カメラ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、デフォーカス量検出装置および電子カメラに関する。
【背景技術】
【0002】
従来、二次元状に撮像用画素が配置された撮像素子の一部の領域にデフォーカス量検出用の瞳分割像を受光する瞳分割画素を配置し、撮像用画素によって画像を撮像すると同時に、瞳分割方向が異なる瞳分割画素の画素データ同士の位置ズレを検出することによりデフォーカス量を検出する技術が知られている。さらに、撮像画像の画質劣化を低減するために、デフォーカス検出用データの画素密度を維持しつつ撮像用の全瞳データの画素密度の低下を抑制する技術が提案されている(例えば特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009−141390号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では瞳分割画素の瞳分割データと撮像用画素の全瞳データとを用いて被写体像の位置ズレを検出する処理において、瞳分割画素と同じ列に交互に配置された全瞳データだけを用いるので、空間周波数成分が高い被写体に対して充分な位置ズレ検出ができず、デフォーカス量の精度が低下して撮影画像のピントが甘くなってしまうという問題があった。
【0005】
本発明の目的は、瞳分割データと全瞳データとを用いた位置ズレ検出精度を向上することができるデフォーカス量検出装置および電子カメラを提供することである。
【課題を解決するための手段】
【0006】
本発明に係るデフォーカス量検出装置は、二次元状に配置された撮像用画素の一部に瞳分割画素が配列された撮像素子から前記瞳分割画素の瞳分割データおよび前記瞳分割画素周辺の前記撮像用画素の全瞳データを読み込む画像データ入力部と、前記画像データ入力部が読み込んだ前記撮像用画素の前記全瞳データから前記瞳分割画素位置の全瞳データを補間生成する全瞳データ生成部と、前記全瞳データ生成部により補間生成された前記瞳分割画素位置の前記全瞳データおよび前記撮像用画素の全瞳データと、前記瞳分割画素から読み込まれた前記瞳分割データとの位置ズレ量を検出する位置ズレ検出部と、前記位置ズレ検出部が検出した位置ズレ量に応じてデフォーカス量を求めるデフォーカス量算出部とを有することを特徴とする。
【0007】
特に、前記全瞳データ生成部は、前記撮像用画素から読み込まれた前記全瞳データに基づいて画像構造の方向を判定し、該判定結果に応じて前記瞳分割画素位置の全瞳データを補間生成する際に参照する前記撮像用画素を選択することを特徴とする。
【0008】
さらに、前記全瞳データ生成部は、前記画像構造の方向を判定する際に、前記瞳分割画素に隣接する上下の前記全瞳データの差分と左右の前記全瞳データの差分とを比較し、差分が小さい方の前記全瞳データ用いて前記瞳分割画素位置の全瞳データを補間生成することを特徴とする。
【0009】
また、前記全瞳データ生成部は、画像構造の方向を判定するための全瞳データと、前記瞳分割画素位置の全瞳データを補間生成する際に参照する全瞳データとに、前記瞳分割画素周辺の同じ範囲の前記撮像用画素の全瞳データを使用することを特徴とする。
【0010】
さらに、前記全瞳データ生成部は、前記瞳分割画素が配置された列の全画素位置に対して全瞳データを生成することを特徴とする。
【0011】
また、前記画像データ入力部は、前記瞳分割画素が配置された列から前記瞳分割データおよび前記全瞳データを、前記瞳分割画素が配置された列の上下の列から前記全瞳データをそれぞれ読み込むことを特徴とする。
【0012】
或いは、前記画像データ入力部は、前記瞳分割画素周辺の複数の前記撮像用画素の全瞳データを前記撮像素子内で加算平均したデータを前記瞳分割画素位置の全瞳データとして読み出すことを特徴とする。
【0013】
本発明に係る電子カメラは、前記デフォーカス量検出装置を有することを特徴とする電子カメラ。
【発明の効果】
【0014】
本発明に係るデフォーカス量検出装置および電子カメラは、瞳分割データと全瞳データを用いた位置ズレ量の検出精度を向上することができる。
【図面の簡単な説明】
【0015】
図1】本実施形態に係る電子カメラ101の構成例を示す図である。
図2】撮像素子104の画素配置例を示す図である。
図3】瞳分割画素の配置例を示す図である。
図4】制御部108の構成例を示す図である。
図5】全瞳データの補間生成処理の説明図である。
図6】補間生成後の瞳分割画素のデータ例を示す図である。
図7】全瞳データと瞳分割データの様子を示す図である。
図8】従来の全瞳データと瞳分割データの様子を示す図である。
図9】位置ズレ検出処理の説明図である。
図10】内挿法による位置ズレ量の求め方を示す図である。
図11】AF処理のフローチャートである。
図12】撮像素子104の画素配置の変形例1を示す図である。
図13】撮像素子104の画素配置の変形例2を示す図である。
図14】撮像素子104の変形例を示す図である。
【発明を実施するための形態】
【0016】
以下、本発明に係るデフォーカス量検出装置および電子カメラの実施形態について図面を用いて詳しく説明する。尚、以下の実施形態では、本発明に係るデフォーカス量検出装置が搭載された電子カメラ101の例について説明するが、デフォーカス量検出を行う専用のデバイスに適用してもよい。
【0017】
[電子カメラ101の構成]
先ず、電子カメラ101の構成について説明する。図1は電子カメラ101の構成例を示すブロック図で、電子カメラ101は、光学系102と、メカニカルシャッタ103と、撮像素子104と、A/D変換部105と、画像バッファ106と、画像処理部107と、制御部108と、メモリ109と、表示部110と、操作部111と、メモリカードIF(インターフェース)112とで構成される。
【0018】
光学系102は、ズームレンズやフォーカスレンズなどの複数枚のレンズおよびレンズ位置駆動機構、絞りおよび絞り駆動機構などで構成される。そして、制御部108は、レンズ位置駆動機構および絞り駆動機構に指令してズームレンズやフォーカスレンズの位置制御および絞り制御などを行う。
【0019】
メカニカルシャッタ103は、シャッタおよびシャッタ駆動機構とで構成される。そして、制御部108は、シャッタ速度に応じてシャッタ駆動機構を制御して所定時間だけシャッタを開閉し、光学系102の光束を撮像素子104に入射する。
【0020】
撮像素子104は、例えばCMOS型固体撮像素子で構成され、受光面に光電変換部を有する複数の画素が二次元状に配置されている。そして、制御部108の指令に応じて、各画素で光電変換された画像信号を読み出す。特に、本実施形態に係る電子カメラ101の撮像素子104は、デフォーカス量を求めるために、撮像素子104の撮像用画素の一部に瞳分割方式による焦点検出を行うための瞳分割画素が配置されている。
【0021】
A/D変換部105は、撮像素子104が出力するアナログの画像信号をデジタルの画像データに変換し、撮影画像1枚分の画像データを画像バッファ106に記憶する。例えば、撮像素子104から読み出される画像の解像度が1000画素×1000画素である場合、100万画素分の画像データが画像バッファ106に取り込まれる。
【0022】
画像バッファ106は、例えば揮発性の高速メモリで構成される。そして、A/D変換部105が出力する画像データを取り込むだけでなく、画像処理部107が画像処理を行う際のバッファメモリとしても使用される。或いは、撮影画像およびメモリカードIF112に接続されたメモリカード112aに保存されている撮影済の画像を読み出して表示部110に表示するときの表示バッファとしても使用される。
【0023】
画像処理部107は、画像バッファ106に取り込まれた画像データに対して、ホワイトバランス処理,色補間処理,ガンマ補正処理,彩度強調処理,輪郭輪郭強調処理などの画像処理を施す。また、JPEG規格などに準拠した画像圧縮方法で画像処理後の画像データに画像圧縮処理を施す。
【0024】
制御部108は、例えば内部に記憶されたプログラムに従って動作するCPUで構成され、電子カメラ101全体の動作を制御する。例えば制御部108は、操作部111のレリーズボタン押下時に光学系102のフォーカスレンズの位置制御や絞り制御を行ってメカニカルシャッタ103を開閉し、撮像素子104で被写体画像を撮像する。そして、制御部108は、撮像素子104から読み出した画像信号をA/D変換部105で画像データに変換し、1画面分の画像データを画像バッファ106に取り込む。さらに、制御部108は、画像バッファ106に取り込まれた画像データに対して所定の画像処理を施すよう画像処理部107に指令する。そして、制御部108は、画像処理後の画像データに所定のファイル名やヘッダ情報を付加してメモリカードI/F112に装着されているメモリカード112aに保存する。或いは、画像処理後の画像データを撮影画像として表示部110に表示する。また、制御部108は、後に説明するオートフォーカス処理(AF処理)を実行する。
【0025】
メモリ109は、例えばフラッシュメモリなどの不揮発性の半導体メモリで構成され、電子カメラ101の撮影モード、露出情報やフォーカス情報などのパラメータが記憶される。制御部108は、これらのパラメータを参照して電子カメラ101の動作を制御する。尚、これらのパラメータは、操作部111を介して行われるユーザー操作に応じて適宜更新される。特に本実施形態では、メモリ109には、フォーカス制御に用いられる被写体像の位置ズレ量をデフォーカス量に変換するためのテーブルまたは変換式が予め記憶されている。
【0026】
表示部110は、液晶モニタなどで構成される。そして、制御部108は、撮影画像や電子カメラ101の動作設定に必要なメニュー画面などを表示する。
【0027】
操作部111は、電源ボタン、レリーズボタン、撮影モード選択ダイヤル、メニュー画面操作用の十字ボタンなどで構成される。ユーザーは、これらの操作ボタンを操作して電子カメラ101を使用する。例えば撮影モード選択ダイヤルでは、撮影モードやフォーカスモードなどを選択する。そして、これらの操作ボタンの操作情報は制御部108に出力され、制御部108は操作情報に応じて電子カメラ101の動作を制御する。
【0028】
メモリカードIF112は、電子カメラ101にメモリカード112aを接続するためのインターフェースである。そして、制御部108は、メモリカードIF112を介してメモリカード112aに画像データを読み書きする。
【0029】
以上が電子カメラ101の構成および基本動作である。
【0030】
[撮像素子104の画素配置]
次に、本実施形態に係る電子カメラ101で使用する撮像素子104の画素配置の一例について図2を用いて説明する。図2において、撮像素子104は、x軸方向およびy軸方向の二次元状に複数の画素が配置されている。尚、各画素はx座標とy座標とを用いて画素p(x,y)と表記する。例えば、x座標がx0、y座標がy0の位置の画素は、画素p(x0,y0)となる。
【0031】
また、図2において、二次元状に配置された複数の画素は、R、G、B、Aの4種類の符号が付けられている。Rは赤色のフィルタを有する画素、Gは緑色のフィルタを有する画素、Bは青色のフィルタを有する画素をそれぞれ示し、これらのRGBの各画素は撮像用画素としてベイヤー配列に従って配置されている。そして、本実施形態に係る電子カメラ101の撮像素子104では、撮像用画素の一部の画素に瞳分割方式による被写体像の位置ズレ量を検出するための瞳分割画素が配置されている。図2において、符号Aで示された画素が瞳分割画素で、同図では画素p(x0−4,y0)、画素p(x0−2,y0)、画素p(x0,y0)、画素p(x0+2,y0)、画素p(x0+4,y0)の5つの画素が瞳分割画素に該当し、瞳分割方向に対応する行y0に1画素置きに配置されている。
【0032】
尚、図2では5つの瞳分割画素しか描かれていないが、瞳分割方式による被写体像の位置ズレ量を検出可能な数の瞳分割画素が行y0に同様に配置されている。また、図2の例では、ベイヤー配列のB画素の位置に瞳分割画素を配置したが、行(y0+1)のR画素の位置に瞳分割画素を配置してもよい。或いは、他の行のG画素の位置に配置してもよい。また、瞳分割方向が列方向である場合も同様である。また、本実施形態では、後で説明するように、瞳分割画素位置の全瞳データをG画素から補間生成して、位置ズレ量を求めるので、瞳分割画素を覆うカラーフィルターの分光透過率はG画素と同じであるものとする。但し、異なる色成分の構造は類似する傾向があるので、分光透過率が異なっても画像構造の判定や位置ズレ量の検出を行うことができるので、瞳分割画素を覆うカラーフィルターの分光透過率は、全瞳画素と異なっていてもよい。
【0033】
ここで、撮像用画素と瞳分割画素について説明する。図3(a)は、図2の行y0の各画素を光束の入射方向から見た図である。図3(a)において、行番号および列番号は図2に対応し、画素p(x0−4,y0)、画素p(x0−2,y0)、画素p(x0,y0)、画素p(x0+2,y0)、画素p(x0+4,y0)の5つの画素が瞳分割画素である。例えば瞳分割画素p(x0,y0)は、フォトダイオードなどで構成される光電変換部361と、マイクロレンズ362とを有し、光電変換部361は画素の左側に偏って配置されている。他の4つの瞳分割画素についても同様に光電変換部361は画素の左側に偏って配置されている。一方、瞳分割画素と交互に配置されている撮像用画素は、例えば撮像用画素p(x0+1,y0)のように、フォトダイオードなどで構成される光電変換部363と、マイクロレンズ364とを有し、光電変換部363は左右に偏ることなく画素全体に配置されている。これは、図4(b)に示すように、他の行の撮像用画素R、G、Bのそれぞれについても同様である。また、図4(a)および図4(b)の例では、瞳分割画素の光電変換部361は画素の左側に偏って配置されているが、図4(c)に示すように、画素の右側に偏って配置されてもよい。尚、瞳分割画素のように左側または右側に偏って配置された光電変換部から得られる画像データを瞳分割データと称する。また、左側または右側に偏って配置されることなく全画素に均等に配置された光電変換部から得られる画像データを全瞳データと称する。
【0034】
[オートフォーカス処理]
ここで、本実施形態に係る電子カメラ101は、オートフォーカス機能を有しており、制御部108により実行される。オートフォーカス機能を使用する場合、制御部108は、メカニカルシャッタ103を開放状態にして光学系102を介して入射する被写体像を撮像素子104で撮像し、デフォーカス量を検出する。そして、制御部108は、デフォーカス量に応じて光学系102のフォーカスレンズ位置を制御し、フォーカス位置に合わせる。
【0035】
次に、制御部108のAF処理部200により実行されるオートフォーカス処理について詳しく説明する。図4は、制御部108のAF処理部200の構成を示すブロック図である。図4において、AF処理部200は、画像データ入力部201と、全瞳データ生成部202と、位置ズレ量検出部203と、デフォーカス量算出部204と、フォーカスレンズ制御部205とで構成される。尚、図4の例ではわかり易いように5つのブロックに分けたが、いずれかのブロックを1つにまとめてもよいし、1つのブロックの処理を複数のブロックに分けてもよい。例えば位置ズレ量検出部203とデフォーカス量算出部204とフォーカスレンズ制御部205とを1つのブロックにまとめてフォーカス制御部としてもよい。以下、図4の各ブロックについて説明する。
【0036】
画像データ入力部201は、撮像素子104から読み出す画素の範囲を指定して読み出す処理を行う。例えば図2の場合、画像データ入力部201は、瞳分割画素を含む行y0を撮像素子104から読み出す。或いは、画像データ入力部201は、行y0の前後の行(y0−1)と行(y0+1)を含む3行分の画像信号を撮像素子104から読み出す。そして、撮像素子104から読み出された画像信号は、A/D変換部105で画像データに変換されて、画像バッファ106に取り込まれる。そして、画像データ入力部201は、画像バッファ106に取り込まれた瞳分割画素およびその周辺の撮像用画素の画像データを全瞳データ生成部202に出力する。
【0037】
全瞳データ生成部202は、デフォーカス量検出のために、画像データ入力部201が撮像素子104から読み込んだ撮像用画素の全瞳データから瞳分割画素位置の全瞳データを補間する。例えば図5に示すように、瞳分割画素p(x0,y0)の全瞳データDを周辺のG画素(画素p(x0,y0−1)、画素p(x0,y0+1)、画素p(x0−1,y0)、画素p(x0+1,y0))から補間する。特に本実施形態に係る電子カメラ101では、補間する際に画像の構造を判別して補間に使用する画素を決定する。ここで、画像の構造とは、画素値が変化する形を意味し、例えば縦線の場合は縦方向の変化が少なく、横方向の変化が大きくなる。逆に横線の場合は横方向の変化が少なく、縦方向の変化が大きくなる。
【0038】
これにより、被写体像が縦線の場合には瞳分割画素の上下のG画素を用い、被写体像が横線の場合には瞳分割画素の左右のG画素を用いて瞳分割画素位置の全瞳データを補間するので、補間精度が高くなり細い線構造を正しく再現できる。
【0039】
尚、本実施形態に係る電子カメラ101では、画像の構造を求める際に使用する撮像用画素に、補間生成に使用する撮像用画素と同じ範囲の画素を用いる。これにより、画像構造の判定のためだけに別に撮像素子104から画像データを読み出す必要がなくなり、処理負荷の低減と処理速度の向上を図ることができる。もちろん、画像構造をより正確に求めるために、処理速度に余裕がある場合は、瞳分割画素の行の上下2行の画素だけでなくさらに広い範囲の画素を読み出すようにしても構わない。また、補間に用いる画素についても上記には限定されず、さらに広い範囲の画素を参照して補間するようにしても良い。
【0040】
次に、補間方法の一例について具体的に説明する。図5において、先ず、全瞳データ生成部202が瞳分割画素p(x0,y0)の全瞳データDを補間する際に、周辺のG画素(画素p(x0,y0−1)、画素p(x0,y0+1)、画素p(x0−1,y0)、画素p(x0+1,y0))から画像構造を判別する。画像構造の判別は、瞳分割画素p(x0,y0)の上下のG画素(画素p(x0,y0−1)および画素p(x0,y0+1))の差分の絶対値Dvと(式1)、瞳分割画素p(x0,y0)の左右のG画素(画素p(x0−1,y0)および画素p(x0+1,y0))の差分の絶対値Dhとを求め(式2)、差分の絶対値Dvと差分の絶対値Dhとを比較する。
Dv=|G(x0,y0-1)-G(x0,y0+1)| …(式1)
Dh=|G(x0-1,y0)-G(x0+1,y0)| …(式2)
・Dv≦Dhの場合は、(式3)により、瞳分割画素p(x0,y0)の全瞳データD(x0,y0)を求める。
D(x0,y0)=(G(x0,y0-1)+G(x0,y0+1))/2 …(式3)
・Dv>Dhの場合は、(式4)により、瞳分割画素p(x0,y0)の全瞳データD(x0,y0)を求める。
D(x0,y0)=(G(x0-1,y0)+G(x0+1,y0))/2 …(式4)
同様に、他の瞳分割画素p(x0−4,y0)、画素p(x0−2,y0)、画素p(x0+2,y0)、画素p(x0+4,y0)についても周辺のG画素から補間して各瞳分割画素位置の全瞳データDを求める。
【0041】
また、瞳分割画素と同じ行の撮像用画素のG画素については、そのままG画素の画素データをそのG画素位置の全瞳データDとする。これにより、図6に示すような、瞳分割画素位置には、瞳分割データAと補間生成した全瞳データDの2つの画像データと、瞳分割画素の間にあるG画素位置の全瞳データDとを用いて、瞳分割方式による位置ズレ量の検出を行うことができる。
【0042】
図7は、行y0の各画素の画素値の例を示すグラフである。図7において、実線は光学系102から入射する全瞳像の明るさの変化を示し、点線は光学系102から入射する瞳分割像の明るさの変化を示している。そして、黒丸印はG画素位置の全瞳データDまたは瞳分割画素位置の補間生成された全瞳データDを示し、白三角印は瞳分割画素位置の瞳分割データAを示している。尚、図3に示したように、瞳分割画素の受光面積は撮像用画素の受光面積の半分しかないので、撮像素子104から読み出される瞳分割画素の出力信号は撮像用画素の出力信号の1/2になるが、図7のグラフでは瞳分割データと全瞳データの値が同じになるように瞳分割データに約2倍の係数を掛けて出力レベルを調整している。但し、撮像用画素の全瞳データの大きさに対する瞳分割画素の瞳分割データの大きさの割合は、光学系102のF値、瞳距離、撮像素子104の受光面上の画素位置などに応じて変わる場合があるので、これらの光学条件に基づいて上記係数を調整してもよい。或いは、(近傍の撮像用画素の全瞳データの平均/近傍の瞳分割画素の瞳分割データの平均)を求めて、上記係数として用いてもよい。
【0043】
このようにして、瞳位置が異なる全瞳データと瞳分割データとの被写体像の位置ズレ量を検出することができ、位置ズレ量からデフォーカス量を求めてフォーカス制御を行うことができる。例えば図7の場合、x座標が4,5以外の画素値は約200の明るさで、中央部の谷が約70の明るさの画像構造を有している。図7において、実線で示した全瞳像と点線で示した瞳分割像との実際の位置ズレ量は、実線と点線の谷の位置に着目すると約0.5画素である。ここで、この位置ズレ量を正確に求められない場合、デフォーカス量に誤差が生じ、フォーカスが甘くなるなどの問題が生じるが、本実施形態に係る電子カメラ101の位置ズレ量検出部203は、正確な位置ズレ量を求めることができる。
【0044】
次に、位置ズレ量検出部203の処理について説明する。位置ズレ量検出部203は全瞳データ生成部202が補間した瞳分割画素位置の全瞳データおよび瞳分割画素と交互に配置されている撮像用画素の全瞳データと、瞳分割画素位置の瞳分割データとを用いて被写体像の位置ズレ量を求める。
【0045】
ここで、本実施形態に係る電子カメラ101の特徴がわかり易いように、従来の位置ズレ量の検出方法について、図8を用いて説明する。図8は、先に説明した図7に対応する図で、全瞳像の実線と瞳分割像の点線とで示された画像構造は図7と同じである。図8において、黒四角印は瞳分割画素と同じ行にあるG画素位置の全瞳データを示し、白三角印は図7と同様に瞳分割画素位置の瞳分割データを示している。尚、図8においても、図7と同様に、瞳分割データと全瞳データの値が同レベルになるように瞳分割データに約2倍の係数を掛けている。
【0046】
このように、従来は、全瞳データの画素位置と、瞳分割データの画素位置とが1画素毎に交互に得られるだけなので、全瞳データから得られる谷の位置はx座標が4の位置で、瞳分割データから得られる谷の位置はx座標の5の位置であるという情報しか得られない。このため、全瞳データと瞳分割データとの位置ズレ量は1画素と判定される。そして、1画素の位置ズレ量に応じたデフォーカス量が求められフォーカス制御が実行される。ところが、実際の位置ズレ量は約0.5画素なので、デフォーカス量に誤差が生じ、フォーカス位置が甘くなってしまうという問題が生じる。
【0047】
これに対して、本実施形態に係る電子カメラ101では、図7に示すように、瞳分割画素位置の全瞳データを周辺の撮像用画素の全瞳データから補間して生成するので、瞳分割画素を含む全ての画素位置で全瞳データが得られる。これにより、全瞳データによる画像の分解能が高くなり、従来より高精度の位置ズレ量の検出が可能になる。例えば図7の場合は、全瞳データのx座標4と5の画素値が約100で、他の全瞳データの画素値が約200なので、x座標4と5の間に谷のピークがあると推定できる。これに対して、従来の図8の例では、全瞳データのx座標4の画素値が約100で他の全瞳データの画素値が全て約200なので、谷のピーク位置を高精度に求めることができない。
【0048】
次に、本実施形態に係る電子カメラ101において、位置ズレ量を小数精度で高精度に求める方法について説明する。尚、図2の例ではx軸の列x0を中心として、x軸の(x0−4)から(x0+4)に瞳分割画素を1画素置きに配置するようにしたが、ここでの説明では、わかり易いように、x0から1画素置きにL個の瞳分割画素が配置されているものとする。この場合、1画素置きに配置される瞳分割画素は、p(x0,y0),p(x0+2,y0),p(x0+4,y0),p(x0+6,y0),p(x0+8,y0),・・・・・・p(x0+2・(L−1),y0)のL個で、画素p(x0+2・I,y0)と表記できる。尚、Iは0から(L−1)までの整数である。
【0049】
そして、各瞳分割画素の画素値(瞳分割データ)をAで表す場合、L個の各瞳分割画素の瞳分割データは、A(x0,y0),A(x0+2,y0),A(x0+4,y0),A(x0+6,y0),A(x0+8,y0),・・・・・・A(x0+2・(L−1),y0)となり、瞳分割データA(x0+2・I,y0)と表記できる。尚、Iは先述の通りである。
【0050】
また、各瞳分割画素の位置に対応する補間生成された全瞳データをDで表す場合、L個の各瞳分割画素に対応する補間生成された全瞳データは、D(x0,y0),D(x0+2,y0),D(x0+4,y0),D(x0+6,y0),D(x0+8,y0),・・・・・・D(x0+2・(L−1),y0)となり、全瞳データD(x0+2・I,y0)と表記できる。尚、Iは先述の通りである。
【0051】
上記の定義に従って、瞳分割データAと全瞳データDとの差分d(I)を瞳分割画素毎に(式5)により求める。
【0052】
【数1】
さらに、L個の瞳分割画素毎の差分d(I)の絶対値の総和Sを(式6)により求める。尚、差分の絶対値の総和Sは、瞳分割データAと全瞳データDとの相関が大きいほど小さくなり、相関が小さいほど大きくなるので、以降の説明において相関値Sと称する。
【0053】
【数2】
尚、(式6)で求められる相関値Sは、瞳分割データAと全瞳データDの位置関係が図7のように固定されているので、相関値Sが最小であるか否かは判定できない。そこで、瞳分割データまたは全瞳データを少しずつずらしていき、相関値Sが最小になった時のずらし量を求め、これを位置ズレ量とする。
【0054】
次に説明する例では、先ず、全瞳データを1画素単位でx座標上をずらして行った時の相関値Sを求め、相関値Sが最小となる画素ずらし量を求める。ここで、画素ずらし量をK(Kは整数)とすると、K画素ずらした時の相関値SをS(K)と表記できるので、(式6)は変数I、Kを用いて(式7)となる。
【0055】
【数3】
ここで、Iは、座標X0の瞳分割画素をI=0として、I=0からI=(L−1)までのL個の瞳分割画素の座標位置を示し、K画素ずらした時の差分d(I,K)は(式8)で表すことができる。
【0056】
【数4】
そして、(式7)においてS(K)が最小になる時のKを求め、これをK0とする。また、この時の相関値S(K)の最小値はS(K0)となる。尚、上記の場合、図7に示したように、瞳分割データは1画素置きのデータであるが、全瞳データDはG画素から得られる全瞳データと補間生成された全瞳データとを有するので、1画素単位で全瞳データが必ず存在する。これにより、全瞳データを1画素ずつずらして上式の計算を行うことができるので、精度良く位置ズレ量を検出することができる。
【0057】
図9は、上記の処理を模式的に示した図である。図9(a)は、K=0の場合の瞳分割データAと全瞳データDとの差分d(0,0)から差分d((L−1),0)までを各瞳分割画素位置で求める様子を示している。そして、差分d(0,0)から差分d((L−1),0)までの各絶対値の総和を求めて相関値S(0)とする。同様に、図9(b)ではK=1の場合の相関値S(1)を求める時、図9(c)ではK=2の場合の相関値S(2)を求める時のそれぞれの瞳分割データと全瞳データの様子を示している。
【0058】
このようにして、Kを1画素単位で変化させながら相関値S(K)を求め、相関値S(K)が最小となるKを求める。例えば図9の場合、K=0の時の相関値S(0)が最小になる。尚、上記の例ではKを正の整数として、K=0,+1,+2・・・のようにKを変化させたが、K=0,−1,−2,−3・・・のように負の方向にKを変化させてもよいし、K=・・・−3,−2,−1,0,+1,+2,+3・・・のように、Kを正負に変化させてもよい。
【0059】
このようにして、相関値S(K)が最小になるときのKを求めることができる。
【0060】
ここで、Kは整数なので画素単位でしか全瞳データと瞳分割データとの位置関係は変化しないので、例えば画素間に相関値Sがさらに小さくなる位置が存在してもKに整数化されるため、位置ズレ量に誤差が生じてしまう。そこで、本実施形態に係る電子カメラ101では、画素間にある実際の像の位置ズレ量Zを小数精度で求めている。
【0061】
図10は、Kを変化させた時の相関値S(K)の値をの一例を示したグラフである。図10において、相関値S(K)が最小になるときのK0とその前後の(K0+1)および(K0−1)での相関値S(K0)、S(K0−1)、S(K0+1)の大きさの例を描いてある。例えば図10の場合、S(K0)はS(K0+1)より小さく、S(K0−1)とS(K0)はほぼ同じ大きさなので、実際の像の位置ズレ量Zは、(K0−1)と(K0)の間にあることがわかる。
【0062】
ここで、図10において、小数精度の位置ズレ量Zは公知の内挿法により、例えば(式9)により求めることができる。
【0063】
【数5】
ここで、max(A,B)は、AとBの大きい方を選択することを意味する演算子である。
図10の場合、S(K0)とS(K0−1)はほぼ同じなので、上記の式の分母と分子はほぼ同じ値になるので、Z=K0+1/2となる。つまり、位置ズレ量Zは、K0の位置を基準(K0=0)とした場合、Z=0.5となる。また、(K0−1)と(K0)の間は1画素分なので、位置ズレ量は0.5画素となる。
【0064】
このようにして、本実施形態に係る電子カメラ101では、位置ズレ量Zを少数精度で求めることができる。例えば、先に説明した従来技術では位置ズレ量が1画素になってしまうが、本実施形態に係る電子カメラ101では、位置ズレ量は0.5画素となり、小数精度で正確に求めることができる。尚、内挿法は上記以外の方法を用いてもよい。また、相関値Sの算出式も上記には限定されず、他の方法を適用してもよい。特に、平均レベルが異なるデータ同士の位置ズレを検出する方法も知られており、このような方法を適用すれば瞳分割データに係数を掛けて全瞳データとのレベル合わせを行う処理を省略できるので、処理負荷の低減が可能になる。このようにして、位置ズレ量検出部203は、位置ズレ量を高精度で求めることができる。
【0065】
次に、デフォーカス量算出部204は、位置ズレ量検出部203が求めた小数精度の位置ズレ量に対応するデフォーカス量を算出する。ここで、位置ズレ量からデフォーカス量を求める処理は、周知の技術なので詳しい説明は省略するが、例えば位置ズレ量に対応するデフォーカス量を予め計測して、位置ズレ量とデフォーカス量とを対応付けるテーブルを作成しておいてもよいし、変換式を用いて位置ズレ量からデフォーカス量を求めてもよい。このようにして、デフォーカス量算出部204は、位置ズレ検出部203が求めた位置ズレ量からデフォーカス量を求めることができる。
【0066】
そして、フォーカスレンズ制御部205は、デフォーカス量算出部204が求めたデフォーカス量に応じてレンズ光学系102のフォーカスレンズの位置を制御する。
【0067】
このようにして、本実施形態に係る電子カメラ101は、精度の高いオートフォーカス処理を行うことができる。
【0068】
次に、本実施形態に係る電子カメラ101におけるオートフォーカス処理について、図11のフローチャートを用いて説明する。尚、図11に示したフローチャートは、制御部108の内部に予め記憶されたプログラムに従って実行される処理で、AF処理部200に対応する。
【0069】
(ステップS101)画像データ入力部201は、撮像素子104から瞳分割画素を含む行または列の周辺の画素から画像データを読み出し、画像バッファ106に取り込む。
【0070】
(ステップS102)全瞳データ生成部202は、図5で説明したように、画像構造の検出を行う。
【0071】
(ステップS103)全瞳データ生成部202は、画像構造に応じて選択した撮像用画素の全瞳データを用いて、瞳分割画素位置の全瞳データを補間生成する。
【0072】
(ステップS104)位置ズレ量検出部203は、図9および図10で説明したように、瞳分割画素の瞳分割データと、撮像用画素の全瞳データおよび瞳分割画素の補間生成された全瞳データおよび瞳分割画素と同じ行の撮像用画素の全瞳データとを用いて、瞳分割データと全瞳データとの位置ズレ量を検出する。
【0073】
(ステップS105)デフォーカス量算出部204は、位置ズレ量検出部203が検出した位置ズレ量に基づいて、メモリ109などに予め記憶されている位置ズレ量とデフォーカス量とを対応付けたテーブルや変換式を用いてデフォーカス量を算出する。
【0074】
(ステップS106)フォーカスレンズ制御部205は、デフォーカス量算出部204が算出したデフォーカス量に応じて、光学系102のフォーカスレンズの位置を動かし、被写体像が撮像素子104の受光面に合焦するように制御する。
【0075】
このようにして、本実施形態に係る電子カメラ101は、精度の高いオートフォーカス処理を行うことができる。
【0076】
[瞳分割画素の配置例]
(変形例1)
次に、瞳分割画素の画素配置の変形例1について説明する。上記の実施形態では、図2で説明したように、瞳分割画素と撮像用画素とを1画素ずつ交互に配置するようにしたが、変形例1では、図12に示すように、列の一部に連続して瞳分割画素を配置する。例えば図12の場合、瞳分割画素は、画素p(x0−3,y0),p(x0−2,y0),p(x0−1,y0),p(x0,y0),p(x0+1,y0),p(x0+2,y0),p(x0+3,y0)に連続して配置されている。尚、図12の場合でも、先の実施形態と同様に、瞳分割画素位置の全瞳データを周辺の撮像用画素の全瞳データから補間することにより、位置ズレ量を高精度で求めることができる。尚、図12の例では、画像構造を判定せずに例えば瞳分割画素の上下にある撮像用画素の全瞳データの平均値をその瞳分割画素の全瞳データとして補間することができる。例えば図12の場合、瞳分割画素(x0,y0)の全瞳データは上の行のG画素の全瞳データと下の行のG画素の全瞳データとの平均値を瞳分割画素(x0,y0)の全瞳データとする。同様に、瞳分割画素(x0+1,y0)の全瞳データは上の行のR画素の全瞳データと下の行のR画素の全瞳データとの平均値を瞳分割画素(x0+1,y0)の全瞳データとする。尚、異なる色の撮像用画素から補間生成する場合は、被写体画像の色成分に応じてレベル差が生じる場合があるので、例えば瞳分割画素(x0+1,y0)の全瞳データは斜め上のG画素(x0,y0−1)、G画素(x0+2,y0−1)の全瞳データと斜め下のG画素(x0,y0+1)、G画素(x0+2,y0+1)の4つの画素の平均値を瞳分割画素(x0+1,y0)の全瞳データとしてもよい。
【0077】
このようにして求めた全瞳データと瞳分割データとを用いて、先の実施形態と同様に、位置ズレ量を検出することができる。そして、位置ズレ量からデフォーカス量を求めてフォーカス制御を行う。特に、先の実施形態では、全瞳データが各画素毎に得られるので分解能が高くなり、高精度の位置ズレ検出を行うことができたが、本変形例では、全瞳データだけでなく瞳分割データも各画素毎に得られるので、さらに高精度の位置ズレ検出を行うことができる。
(変形例2)
次に、瞳分割画素の画素配置の変形例2について説明する。変形例2では、図13に示すように、瞳分割画素を2画素置きに配置する。例えば図13の場合、瞳分割画素は、画素p(x0−3,y0),p(x0,y0),p(x0+3,y0)のように2画素置きに配置されている。本変形例2においても、先の実施形態と同様に、画像構造を判定して瞳分割画素位置の全瞳データを周辺の撮像用画素の全瞳データから補間生成することにより、位置ズレ量を高精度で求めることができる。尚、変形例2では、瞳分割画素が2画素置きなので、瞳分割データの分解能は先の実施形態の場合より低くなるが、全瞳データは補間生成して各画素毎に得られるので、同じ画素配置で従来技術を適用するよりも高精度の位置ズレ検出が可能になる。逆に、本変形例では、撮像素子104の撮像用画素が瞳分割画素に置き換えられる部分が少なくなるので、画質劣化を防ぐことができる。
【0078】
このようにして求めた全瞳データと瞳分割データとを用いて、先の実施形態と同様に、位置ズレ量を検出することができ、位置ズレ量からデフォーカス量を求めてフォーカス制御を行うことができる。
[撮像素子104の変形例]
次に、撮像素子104の変形例について説明する。先の実施形態では、撮像素子104から瞳分割画素位置の全瞳データを補間生成するための全瞳データを周辺の複数の撮像用画素から個別に全瞳データを読み出して画像バッファ106に取り込み、その後、加算平均などの演算処理を行うようにしたが、制御部108の処理負荷が増えるという問題がある。そこで、撮像素子104の変形例として、図14に示すように、瞳分割画素の上下の2つの撮像用画素の画素値を加算平均する回路(加算平均回路301)を撮像素子104に設け、瞳分割画素位置の補間後の全瞳データを直接撮像素子104から読み出せるようにする。これにより、瞳分割画素の上下の撮像用画素から個別に全瞳データを読み出すための時間や瞳分割画素位置の全瞳データを求める処理を行う必要がなくなり、全瞳データ生成部202が不要になるので、処理負荷を大幅に低減することができる。
【0079】
このようにして、撮像素子104から読み出した後で瞳分割画素位置の全瞳データを補間する必要がなく、先の実施形態と同様に、高精度で位置ズレ量を検出することができ、位置ズレ量からデフォーカス量を求めてフォーカス制御を行うことができる。
【0080】
以上、本発明に係るデフォーカス量検出装置および電子カメラについて、各実施形態で例を挙げて説明してきたが、その精神またはその主要な特徴から逸脱することなく他の多様な形で実施することができる。そのため、上述した実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明は、特許請求の範囲によって示されるものであって、本発明は明細書本文にはなんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。
【符号の説明】
【0081】
101・・・電子カメラ;102・・・光学系;103・・・メカニカルシャッタ;104・・・撮像素子;105・・・A/D変換部;106・・・画像バッファ;107・・・画像処理部;108・・・制御部;109・・・メモリ;110・・・表示部;111・・・操作部;112・・・メモリカードIF;12a・・・メモリカード1;200・・・AF処理部;201・・・画像データ入力部;202・・・全瞳データ生成部;203・・・位置ズレ量検出部;204・・・デフォーカス量算出部;205・・・フォーカスレンズ制御部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14