(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022186785
(43)【公開日】2022-12-15
(54)【発明の名称】制御装置、その制御方法、およびプログラム
(51)【国際特許分類】
G02B 7/28 20210101AFI20221208BHJP
G03B 13/36 20210101ALI20221208BHJP
G03B 15/00 20210101ALI20221208BHJP
H04N 5/232 20060101ALI20221208BHJP
【FI】
G02B7/28 N
G03B13/36
G03B15/00 Q
H04N5/232 127
H04N5/232 190
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022164195
(22)【出願日】2022-10-12
(62)【分割の表示】P 2021023441の分割
【原出願日】2021-02-17
(31)【優先権主張番号】P 2020076086
(32)【優先日】2020-04-22
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【弁理士】
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100124442
【弁理士】
【氏名又は名称】黒岩 創吾
(72)【発明者】
【氏名】岩▲崎▼ 直樹
(72)【発明者】
【氏名】稲垣 優
(72)【発明者】
【氏名】杉谷 邦明
(72)【発明者】
【氏名】高尾 麻衣子
(57)【要約】
【課題】 主被写体に対して距離が異なる物体が混在している場合でも好適な焦点検出動作を実現することである。
【解決手段】 得られた画像から被写体領域を検出する被写体検出工程と、前記検出された被写体領域に対応させて複数のエリアに分割された焦点検出領域を設定する設定工程と、前記複数のエリアごとの焦点検出情報を検出する焦点検出工程と、前記複数の焦点検出領域のそれぞれについての焦点検出情報をグルーピングして個数をカウントし当該個数がピーク値をとるグループを判定した結果に基づいて、前記複数の合焦エリアの数の情報に基づいて合焦すべきエリアを決定して焦点調節する焦点調節工程と、を有することを特徴とする制御方法を提供する。
【選択図】
図10
【特許請求の範囲】
【請求項1】
得られた画像から特定の被写体の情報を検出する被写体検出手段と、
前記検出された被写体に対応させて複数のエリアに分割された焦点検出領域を設定する設定手段と、
前記複数のエリアごとの焦点検出情報を検出する焦点検出手段と、
前記複数のエリアごとの焦点検出情報をグルーピングして個数をカウントし当該個数がピーク値をとるグループを判定した結果に基づいて合焦すべきエリアを決定して焦点調節する焦点調節手段と、を有することを特徴とする制御装置。
【請求項2】
前記焦点調節手段は、前記個数がピーク値をとるグループに属するエリアのうち、前記被写体検出手段による特定の被写体の検出中心により近いエリアを、合焦すべきエリアとして決定する事を特徴とする請求項1に記載の制御装置。
【請求項3】
前記被写体検出手段は、人物の瞳、人物の顔、人物の全身、動物の瞳、動物の顔、動物の全身の少なくともいずれかを被写体領域として検出することを特徴とする請求項1に記載の制御装置。
【請求項4】
前記複数のエリアごとの焦点調節の焦点検出情報は、デフォーカス量もしくはデフォーカス量をもとに算出された被写体距離に関する情報であることを特徴とする請求項1乃至3のいずれか1項に記載の制御装置。
【請求項5】
前記焦点調節手段は、前記複数のエリアごとの焦点調節の焦点検出情報のばらつきが閾値以上の場合に、前記複数のエリアごとの焦点検出情報をグルーピングして個数をカウントし当該個数がピーク値をとるグループを判定した結果に基づいて合焦すべきエリアを決定して焦点調節することを特徴とする請求項1乃至4のいずれか1項に記載の制御装置。
【請求項6】
前記焦点調節手段は、被写体が静止体か動体かに応じて、前記合焦すべきエリアの決定方法を異ならせることを特徴とする請求項1乃至5のいずれか1項に記載の制御装置。
【請求項7】
前記焦点調節手段は、被写体が静止体の場合に、合焦するエリアの数の情報に基づいて合焦すべきエリアを決定し、被写体が動体の場合には、過去の焦点検出情報に基づいて合焦すべきエリアを決定することを特徴とする請求項6に記載の制御装置。
【請求項8】
前記焦点調節手段は、静止体を撮影するモードか動体を撮影するモードかに応じて前記合焦すべきエリアの決定方法を異ならせることを特徴とする請求項1乃至7のいずれか1項に記載の制御装置。
【請求項9】
前記焦点調節手段は、静止体を撮影するモードの場合に、合焦するエリアの数の情報に基づいて合焦すべきエリアを決定し、動体を撮影するモードの場合には、過去の焦点検出情報に基づいて合焦すべきエリアを決定することを特徴とする請求項8に記載の制御装置。
【請求項10】
請求項1乃至9のいずれか1項に記載の制御装置と、
撮影光学系の異なる瞳領域を通過した光束を光電変換して焦点検出用信号を出力することが可能な撮像手段とを備えたことを特徴とする撮像装置。
【請求項11】
得られた画像から被写体領域を検出する被写体検出工程と、
前記検出された被写体領域に対応させて複数のエリアに分割された焦点検出領域を設定する設定工程と、
前記複数のエリアごとの焦点検出情報を検出する焦点検出工程と、
前記複数の焦点検出領域のそれぞれについての焦点検出情報をグルーピングして個数をカウントし当該個数がピーク値をとるグループを判定した結果に基づいて、前記複数の合焦エリアの数の情報に基づいて合焦すべきエリアを決定して焦点調節する焦点調節工程と、を有することを特徴とする制御方法。
【請求項12】
制御装置が有するコンピュータを、請求項1乃至9のいずれか1項に記載の制御装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被写体の距離情報を活用した制御装置に関する。
【背景技術】
【0002】
近年、撮影レンズの焦点位置を自動調節する焦点調節機能を備えたカメラが普及している。その焦点調節を行う手段として、撮像素子を用いた撮像面位相差AF方式やコントラストAF方式など様々なAF方式が実用化されている。さらに、様々なAF方式において、主被写体の領域を特定して合焦させる技術がある。特許文献1では、複数のAF枠から隣接した所定深度内の塊を検出して、その中から主枠選択する制御を行っている。また、特許文献2では、所定深度内の塊を検出する手段に加え、色情報を加味することによって、主被写体領域の特定精度を向上させている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010-191073号公報
【特許文献2】特開2015-041901号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1、2においては、撮像する画像上において主被写体位置およびその付近に距離が異なる物体が混在している状況では、距離が異なる物体からの入射光の影響を受けて、所望の焦点調節結果が得られない場合があった。
【0005】
そこで、本発明の目的は、主被写体に対して距離が異なる物体が混在している場合でも好適な焦点検出動作を実現することである。
【課題を解決するための手段】
【0006】
本発明の技術的特徴として、得られた画像から被写体領域を検出する被写体検出工程と、前記検出された被写体領域に対応させて複数のエリアに分割された焦点検出領域を設定する設定工程と、前記複数のエリアごとの焦点検出情報を検出する焦点検出工程と、前記複数の焦点検出領域のそれぞれについての焦点検出情報をグルーピングして個数をカウントし当該個数がピーク値をとるグループを判定した結果に基づいて、前記複数の合焦エリアの数の情報に基づいて合焦すべきエリアを決定して焦点調節する焦点調節工程と、を有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、主被写体に対して距離が異なる物体が混在している場合でも好適な焦点検出動作を実現することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明の実施形態を適用した撮像装置の構成を示すブロック図である。
【
図2】本発明の実施形態を適用した撮像装置の動作を説明するフローチャートである。
【
図3】本発明の実施形態を適用したAF枠設定を説明するフローチャートである。
【
図4a】本発明の実施形態を適用した人物の顔に対する検出領域のイメージである。
【
図4b】本発明の実施形態を適用した人物の顔に対するAF枠設定の設定イメージである。
【
図5a】本発明の実施形態を適用した人物の瞳、顔、体に対する検出領域のイメージである。
【
図5b】本発明の実施形態を適用した人物の瞳、顔、体に対するAF枠設定の設定イメージである。
【
図6a】本発明の実施形態を適用した動物の瞳、顔、体に対する検出領域のイメージである。
【
図6b】本発明の実施形態を適用した動物の瞳、顔、体に対するAF枠設定の設定イメージである。
【
図7】本発明の実施形態を適用したAF動作を説明するフローチャートである。
【
図8】本発明の実施形態を適用した焦点検出処理を説明するフローチャートである。
【
図9】本発明の実施形態を適用した検出デフォーカス量算出を説明するフローチャートである。
【
図10】本発明の実施形態を適用した第1の障害物回避処理を説明するフローチャートである。
【
図11】本発明の実施形態を適用したヒストグラムのイメージある。
【
図12】本発明の実施形態を適用した第2の障害物回避処理を説明するフローチャートである。
【
図13】本発明の実施形態を適用した第2の障害物判定処理を説明するフローチャートである。
【
図14】本発明の実施形態を適用した被写体の前に第2の障害物がある様子を示す概略図である。
【
図15】(a)は本発明の実施形態を適用した顔とネットの第1帯域の周波数応答のイメージであり、(b)は本発明の実施形態を適用した顔とネットの第2帯域の周波数応答のイメージである。
【
図16】本発明の実施形態を適用した通常の検出デフォーカス量算出を説明するフローチャートである。
【
図17】本発明の実施形態を適用した通常の主枠選択を説明するフローチャートである。
【発明を実施するための形態】
【0009】
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
【0010】
●撮像装置の構成
図1は、本発明の実施形態に係るレンズ交換式カメラ(以下、単にカメラと呼ぶ)の構成を示すブロック図である。本発明の実施形態に係るカメラは、本発明を適用した制御装置を搭載した撮像装置の例であり、被写体像を撮像する撮像素子からの出力信号を用いた撮像面位相差検出方式による焦点調節を行う。カメラは、レンズ装置(交換レンズ)100と、カメラ本体200とにより構成される。レンズ装置100が電気接点ユニット106を有するマウント部を介してカメラ本体200に装着されると、レンズ装置100の動作を統括制御するレンズコントローラ105とカメラ全体の動作を統括制御するシステム制御部209とが相互に通信可能となる。
【0011】
まず、レンズ装置100の構成について説明する。レンズ装置100は、ズーム機構を含む撮影レンズ101、光量を制御する絞り及びシャッター102、後述する撮像素子上に焦点をあわせるためのフォーカスレンズ103、フォーカスレンズを駆動するモータ104、レンズコントローラ105を備える。
【0012】
次に、カメラ本体200の構成について説明する。カメラ本体200は、レンズ装置100の撮影光学系を通過した光束から撮像信号を取得できるように構成される。カメラ本体200は、被写体からの反射光を電気信号に光電変換する撮像素子201、撮像素子201の出力ノイズを除去するCDS回路やA/D変換前に行う非線形増幅回路を含むA/D変換部202、画像処理部203、AF信号処理部204を備える。また、カメラ本体200は、フォーマット変換部205、高速な内蔵メモリ(例えばランダムアクセスメモリなど、以下DRAMと記す)206、メモリーカードなどの記録媒体とそのインターフェースからなる画像記録部207を備える。また、カメラ本体200は、タイミングジェネレータ208、撮影シーケンスなどシステムを制御するシステム制御部209、カメラ本体と交換レンズとの通信を行うレンズ通信部210、被写体検出部211、画像表示用メモリ212を備える。なお、画像表示用メモリ212はVRAMと記す。
【0013】
また、カメラ本体200は、画像表示の他、操作補助のための表示やカメラ状態の表示の他、撮影時には撮影画面と、AF枠を示す指標を表示する画像表示部213を備える。また、カメラを外部から操作するための操作部214、マクロモード、スポーツモードなどの撮影モードを選択するための撮影モードスイッチ215、システムに電源を投入するためのメインスイッチ216を備える。
【0014】
また、AFやAE等の撮影スタンバイ動作を行うためのスイッチ(以下SW1と記す)217、SW1の操作後、撮影を行う撮影スイッチ(以下SW2と記す)218を備える。内蔵メモリ206のDRAMは一時的な画像記憶手段としての高速バッファとして、あるいは画像の圧縮伸張における作業用メモリなどに使用される。操作部214は、例えば次のようなものが含まれる。撮像装置の撮影機能や画像再生時の設定などの各種設定を行うメニュースイッチ、撮影モードと再生モードの動作モード切換えスイッチなどである。
【0015】
撮像素子201は、CCDやCMOSセンサにより構成される。本実施形態で用いられる撮像素子201の各画素は、2つ(一対)のフォトダイオードA,Bとこれら一対のフォトダイオードA,Bに対して設けられた1つのマイクロレンズとより構成されている。各画素は、入射する光をマイクロレンズで分割して一対のフォトダイオードA,B上に一対の光学像を形成し、該一対のフォトダイオードA,Bから後述するAF用信号に用いられる一対の画素信号(A信号およびB信号)を出力する。言い換えると、撮像素子201は、撮影光学系の異なる瞳領域を通過した光束を光電変換して、一対の焦点検出用信号を出力することが可能な複数の画素を有する。また、一対のフォトダイオードA,Bの出力を加算することで、撮像用信号(A+B信号)である画像データを得ることができる。
【0016】
複数の画素から出力された複数のA信号と複数のB信号をそれぞれ合成することで、撮像面位相差検出方式によるAF(以下、撮像面位相差AFという)に用いられるAF用信号(言い換えれば、焦点検出用信号)としての一対の像信号が得られる。AF信号処理部204は、該一対の像信号に対する相関演算を行って、これら一対の像信号のずれ量である位相差(以下、像ずれ量という)を算出し、さらに該像ずれ量から撮影光学系のデフォーカス量(およびデフォーカス方向と信頼度)を算出する。また、AF信号処理部204は前記デフォーカス量を指定可能な所定領域で複数演算するものとする。
【0017】
なお、撮像素子201は、瞳分割機能を有しており、撮像素子201の出力から生成された一対の焦点検出用信号を用いて位相差検出方式でのAF(撮像面位相差AF)を行うことが可能であれば、上記構成に限定されない。例えば、撮像した像に対応する画像信号を出力する撮像用画素と、瞳分割された一対の光束を受光する一対の焦点検出用画素とを有する構成としてもよい。
【0018】
●撮像装置の動作
以下、実施形態の撮像装置の動作について
図2を用いて説明する。
図2は、ライブビュー画像を表示する状態から静止画撮像を行う場合の撮像制御処理の流れを示している。コンピュータとしてのシステム制御部209は、コンピュータプログラムとしての制御プログラムに従って本処理を実行する。まず、S201では、SW1(217)の状態を調べ、ONであればS202へ進む。S202では、AF信号処理部204に対してシステム制御部209にて後述するAF枠設定を行ってS203へと進む。S203では、後述するAF動作を行いS204へ進む。S204では、SW1(217)の状態を調べ、ONであればS205へ進み、そうでなければS201へ戻る。S205では、SW2(218)の状態を調べONであればS206へ進み、そうでなければS204へ戻る。S206では、撮影動作を行ったあと、S201へ戻る。
【0019】
●AF枠設定
図3は、
図2のS202におけるAF枠設定を説明するフローチャートである。まず、S301では被写体検出部211から被写体検出情報を取得する。本実施形態の被写体は人物や犬、野鳥などの動物、さらにその被写体内における主要領域を検出するものとする。ここで、主要領域とは人物や動物における瞳、顔、体である。これらの検出方法は公知の機械学習による学習手法や画像処理手段による認識処理などを用いる。
【0020】
例えば、機械学習の種類としては、以下がある。
(1)サポートベクターマシーン(Support Vector Machine)
(2)畳み込みニューラルネットワーク(Covolutional Neural Network)
(3)再起型ニューラルネットワーク(Recurrent Neural Network)
【0021】
また、認識処理の他の例としては、画像データで表される各画素の階調色から肌色領域を抽出し、予め用意する顔の輪郭プレートとのマッチング度で顔を検出する方法が知られている。また、パターン認識技術を用いて、目、鼻、口等の顔の特徴点を抽出することで顔検出を行う方法なども周知である。さらに、本発明に適用可能な主要領域の検出手法については、これらの手法に限るものではなく、他の手法を用いてもよい。
【0022】
S302では被写体検出部211の検出結果にて主要領域が複数検出できたかを判定する。複数判定できていればS303へ進み、そうでなければS304へ進む。
【0023】
ここで検出主要領域が単一の場合と複数の場合における検出イメージを、
図4、5を用いて説明する。
図4aは顔aのみ検出されている状態であり、
図5aは瞳A、顔B、体Cが検出されている状態である。被写体検出部211からは人物や動物などの被写体の種別と、それぞれ検出された主要領域における中心座標と水平サイズ、垂直サイズが取得できることとする。
【0024】
S303では最小検出主要領域、つまり
図5aにおける瞳Aの水平、垂直サイズの小さいほうの値をMinAへ入力してMinAを一つのAF枠サイズとする。S305ではそれぞれの検出主要領域の水平座標と水平サイズから全主要領域を包含する
図5bにおける水平サイズHを求め、前記HをAF枠サイズMinAで除算することにより水平AF枠数を決定する。S307ではそれぞれの検出主要領域の垂直座標と垂直サイズから全主要領域を包含する
図5bにおける垂直サイズVを求め、前記VをAF枠サイズMinAで除算することにより垂直AF枠数を決定し、AF枠設定を終了する。動物の場合も制御フローは人物の場合と同様であり検出領域、AF枠設定のイメージはそれぞれ
図6a、
図6bとなる。本実施形態は最小サイズを使用した正方領域のAF枠サイズとしたが水平と垂直でAF枠サイズを異ならせてもよいし、システム制御部209で演算可能なAF枠数までを設定してもよい。
【0025】
S304では検出された顔に対して所定サイズXのAF枠を設定する。前記Xは顔から推定される瞳サイズを設定してもよいし、低照度環境時を考慮してS/Nが確保でき、十分な合焦性能がでるような枠サイズを設定してもよい。本実施形態では推定瞳サイズでXを設定するものとする。S306では前記AF枠サイズで顔aの領域を包含し、顔が動いた場合にも対応できるようなAF枠数Yを設定する。
【0026】
●AF動作
図7はS203のAF動作を説明するフローチャート図である。まず、S401では、焦点検出処理を行い、デフォーカス量(デフォーカス方向を含む)と信頼度を検出してS402へ進む。焦点検出処理については後述する。S402では、システム制御部209にてS401で得られた信頼度を用いて後述する検出デフォーカス量算出を行い、S403へ進む。S403では、S402で検出した結果の信頼度が予め設定されている信頼度閾値2よりも高いかどうかを調べ、そうであればS404へ進み、そうでなければS413へ進む。ここで信頼度閾値2は、信頼度が信頼度閾値2未満であればデフォーカス量の精度は保証できないが被写体のピント位置方向は保証できるという閾値に設定しておく。S404では、S402で検出したデフォーカス量が予め設定されているDef量閾値2よりも小さいかどうかを調べ、そうであればS405へ進み、そうでなければS412へ進む。ここでDef量閾値2は、デフォーカス量がDef量閾値2以下であれば、その後デフォーカス量だけレンズ駆動を所定回数(例えば3回)以内で焦点深度内にフォーカスレンズを制御することができるような値(例えば焦点深度の5倍の量)で設定する。S405では、フォーカスレンズ103が停止状態であるかどうかを調べ、そうであればS406へ進み、そうでなければS410へ進む。S406では、S402で検出した結果の信頼度が予め設定されている信頼度閾値1よりも高いかどうかを調べ、そうであればS407へ進み、そうでなければS410へ進む。ここで信頼度閾値1は、信頼度が信頼度閾値1以上であれば、デフォーカス量の精度ばらつきが所定範囲内(例えば焦点深度内)となるように設定する。S407では、S401で検出したデフォーカス量が予め設定されているDef量閾値1よりも小さいかどうかを調べ、そうであればS408へ進み、そうでなければS409へ進む。ここでDef量閾値1は、検出したデフォーカス量がDef量閾値1以下であれば、焦点深度内にフォーカスレンズ制御されているという値となるように設定する。S408では合焦状態であると判断して本フローを終了する。S409では、S401で検出したデフォーカス量だけフォーカスレンズ103を駆動させたあとS401へ進む。S405~S409の一連を行うことにより、S401で検出した信頼度が信頼度閾値1よりも高い場合にレンズを停止した状態で合焦判定できる。
【0027】
S410ではS401で検出したデフォーカス量に対して所定割合だけフォーカスレンズ103を駆動してS411へ進む。S411ではフォーカスレンズ103の停止を指示してS401へ進む。S412ではデフォーカス量がDef量閾値2以下ではないため、S401で検出したデフォーカス量に対して所定割合だけフォーカスレンズ103を駆動させたあとS401へ進む。ここで所定割合は、デフォーカス量に対してレンズ駆動量が少なくなるように設定する(例えば8割)。また、設定するレンズ速度は、例えば1フレームの時間でちょうどレンズ駆動できる速度よりも遅くなるように設定する。これにより、検出したデフォーカス量が正しくない場合に被写体ピント位置を越えてしまうことを防ぐことができ、さらにレンズを停止することなく駆動させながら次のレンズ駆動をさせることができる(オーバーラップ制御)。
【0028】
S413では、非合焦条件を満たしたかどうかを調べ、そうであればS414へ進み、そうでなければS415へ進む。ここで非合焦条件とは合焦すべき被写体がいないと判断する所定条件である。例えばフォーカスレンズ103の可動範囲全てにおいてレンズ駆動が完了した場合、つまりフォーカスレンズ103が遠側、近側の両方のレンズ端を検出して初期位置に戻った場合という条件を設定する。S414では非合焦状態であると判断して本フローを終了する。S415では、フォーカスレンズ103が遠側または近側のレンズ端に到達したかどうかを調べ、そうであればS416へ進み、そうでなければS417へ進む。S416ではフォーカスレンズ103の駆動方向を反転してS401へ進む。S417では、フォーカスレンズ103を所定方向に駆動させてS401へ進む。フォーカスレンズ速度は、例えばデフォーカス量が検出できるようになった時点でピント位置を通り過ぎることのないようなレンズ速度の範囲で最も速い速度で設定する。
【0029】
●焦点検出処理
S401の焦点検出処理について
図8を用いて説明する。まず、S501では、撮像素子201から出力された画像データ内の任意の範囲の焦点検出領域を設定してS502へ進む。ここで設定される焦点検出領域は、前記S202で設定されたAF枠にそれぞれ対応した領域である。S502では、S501で設定した焦点検出領域に対応する撮像素子201からの焦点検出用の一対の像信号(A像、B像)を取得してS503へ進む。S503では、S502で取得した一対の信号を垂直方向に行加算平均処理を行ったあとS504へ進む。この処理によって像信号のノイズの影響を軽減することができる。S504ではS503で垂直行加算平均した信号から所定の周波数帯域の信号成分を取り出すフィルタ処理を行ったあとS505へ進む。ここでは複数周波数帯域(高域、中域、低域)の信号成分を取り出しそれぞれについて次のS505以降の処理を行うこととする。S505では、S504でフィルタ処理した信号から相関量を算出してS506へ進む。S506では、S505より算出した相関量から相関変化量を算出してS507へ進む。S507では、S506より算出した相関変化量から像ずれ量を算出してS508へ進む。S508では、S507で算出した像ずれ量がどれだけ信頼できるのかを表す信頼度を算出してS509へ進む。S509では像ずれ量をデフォーカス量(デフォーカス方向を含む)に変換して焦点検出処理を終了する。これにより、S401にてデフォーカス量(デフォーカス方向を含む)と信頼度が得られる。
【0030】
●検出デフォーカス量算出
S402の検出デフォーカス量算出について
図9を用いて説明する。まず、S601では第1の障害物回避処理を行う条件であるかどうかを判定する。第1の障害物回避処理を行う条件とは、たとえば被写体検出部211によって検出された被写体の種別が動物であったときなどである。これは、動物はオリ(ゲージ)越しなど比較的空間周波数の低い障害物とともに撮影されることが多いことに基づいている。第1の障害物回避処理を行う条件であればS602へ進み、そうでなければS603へ進む。S603へ進むことで第1の障害物回避処理を省略することになる。S602では被写体検出部211の検出結果とS509の処理にて算出されたデフォーカス量を用いて後述する第1の障害物回避処理を行い、S606へ進む。S606ではS602で第1の障害物ありと判定されたかどうかを確認し、第1の障害物ありと判定されていた場合は検出デフォーカス量算出を終了し、第1の障害物ありと判定されていなかったあるいは第1の障害物判定不可であった場合はS603へ進む。S601で第1の障害物回避処理を行う条件と判定され、S602の処理を実行して、S606で第1の障害物ありと判定された場合には、第2の障害物回避処理を省略することになる。
【0031】
S603では第2の障害物回避処理を行う条件であるかどうかを判定する。第2の障害物回避処理を行う条件とは、たとえば被写体検出部211によって検出された被写体の種別が人物であったときなどである。これは、人物はネット越しなど比較的空間周波数の高い障害物とともに撮影されることが多いことに基づいている。(たとえば、野球場のネット、バレーボールのネットといったスポーツ観戦におけるネット越しの撮影。)第2の障害物回避処理を行う条件であればS604へ進み、そうでなければ被写体の種別が動物でも人物でもない第3の被写体の種別であると判断し、第1および第2の障害物検出処理を省略した形でS605へ進む。S604では被写体検出部211の検出結果とS509の処理にて算出されたデフォーカス量を用いて後述する第2の障害物回避処理を行い、S607へ進む。S607ではS604で第2の障害物ありと判定されたかどうかを確認し、第2の障害物ありと判定されていた場合は検出デフォーカス量算出を終了し、第2の障害物ありと判定されていなかったあるいは第2の障害物判定不可であった場合はS605へ進む。
【0032】
S605では被写体検出部211の検出結果とS509の処理にて算出されたデフォーカス量を用いて後述する通常の検出デフォーカス量算出を行い、検出デフォーカス量算出を終了する。
【0033】
●第1の障害物回避処理
図10はS602の第1の障害物回避処理を説明するフローチャート図である。本実施形態では画像解析手段であるヒストグラムを用いるが一般技術であるためヒストグラムの詳細については割愛する。
【0034】
まず、S701ではS509の処理で複数周波数帯域の信号について焦点検出が行われた場合、そのうち最も高帯域の信号によって焦点検出されたデフォーカス量を使用するよう設定しS702へ進む。S702では被写体検出部211にて被写体の顔が検出されているかを判定する。顔が検出されていればS703へ進み、検出されていなければS704へ進む。S703では被写体検出部211にて被写体の体が検出されているかを判定する。体が検出されていればS705へ進み、検出されていなければS706へ進む。S705では全主要領域を包含しているAF枠に対してS701の処理にて設定されたデフォーカス量を所定深度毎にカウントしてヒストグラムを作成する。本実施形態ではデフォーカス量そのものをヒストグラム化しているが、移動する被写体を考慮して各AF枠毎に算出されたデフォーカス量をもとに被写体位置に対応する予測値(被写体距離)を求めてこの予測値をヒストグラム化しても良い。また、S706では顔枠の所定倍の領域内に設定されたAF枠毎に算出されたデフォーカス量を所定深度毎にカウントしてヒストグラムを作成する。
【0035】
S708では、S705もしくはS706にて作成したヒストグラムのピーク値(ヒストピークのAF枠数)が所定以上となっているかを判定する。本実施形態では全AF枠数で前記ヒストグラムのピーク値を正規化して割合へ変換して使用する。前記ピーク値が所定割合以上であればS711へ進み、所定割合未満であればS709へ進む。S709では第1の障害物判定不可と判断し、第1の障害物回避処理を終了する。S711ではS708で求めたヒストグラムのピーク値を取るビンがヒストグラムの最至近であるかどうかを判定し、そうであればS710へ進み、そうでなければS712へ進む。ここで、ヒストグラムは離散的に存在する数値を、一定の幅で区切ってグループとして、棒グラフ状に表示することで数値の分布を可視化するデータ解析手段であり、ビンとは、一定の幅で区切られたグループ(棒グラフでいうと棒1本)のことである。作成されたヒストグラムのうち最至近の棒がビークであるかどうか判定して、ピークが最至近なら被写体が最至近にいるので障害物なし、そうでなければ手前に何か見えていることになるので障害物ありと判断する。
【0036】
S712では主被写体に対して手前側に存在する第1の障害物が存在すると判定し、S713へ進む。S710では主被写体に対して手前側に存在する第1の障害物が存在しないと判定し、第1の障害物回避処理を終了する。S713では設定したAF枠の中から主枠を選択するために、あるAF枠に注目して行うS714からS717の一連の処理を、設定したすべてのAF枠に対して行うループ処理を行う。また、主枠の初期値は主枠が選択されていないことが判断できる情報(全枠数+1など)をすでに設定しておくものとし、図は省略する。S714では注目しているAF枠がヒストグラムピークとしてカウントされているAF枠かどうかを判定する。そうであればS715へ進み、そうでなければS713のループ処理を繰り返す。S715では瞳検出されているかを判定する。瞳検出されていればS717へ進み、そうでなければS716へ進む。S716では現在選択された主枠よりも注目しているAF枠のほうが顔検出中心に座標が近ければS718で注目しているAF枠を主枠に設定する。S717では現在の主枠よりも注目しているAF枠のほうが瞳検出中心に座標が近ければS718で注目しているAF枠を主枠に設定する。
【0037】
S704では被写体検出部211にて体が検出されているかどうかを判定する。検出されていればS719へ進み、検出されていなければS730へ進む。S719では全身検出エリアでヒストグラムを作成してヒストグラムピークを求める。S720では前記S719で作成したヒストグラムのピーク値が所定割合以上となっているかを判定する。所定割合以上であればS727へ進み、所定割合未満であればS730へと進む。S727ではS720で求めたヒストグラムのピーク値を取るビンが最至近であるかどうかを判定し、そうであればS729へ進み、そうでなければS728へ進む。S728では主被写体に対して手前側に存在する第1の障害物が存在すると判定し、S721へ進む。S721ではS713と同様に設定したAF枠の中から主枠を選択するためにあるAF枠に注目して行うS722からS724の一連の処理を、設定したすべてのAF枠に対して行うループ処理を行う。S722では注目しているAF枠がヒストグラムピークとしてカウントされているAF枠かどうかを判定する。そうであればS723へ進み、そうでなければS721のループ処理を繰り返す。S723では現在選択された主枠よりも注目しているAF枠のほうが全身検出中心に座標が近ければS724で注目しているAF枠を主枠に設定する。
【0038】
S729では主被写体に対して手前側に存在する第1の障害物が存在しないと判定し、第1の障害物回避処理を終了する。S730では第1の障害物判定不可と判断し、第1の障害物回避処理を終了する。
【0039】
S725では前述したフローにより主枠が選択されたかどうかを初期値であるかどうかで判定する。主枠が初期値であればS726へ進み、そうでなければ第1の障害物回避処理を終了する。S726では後述する通常の主枠選択を行い、第1の障害物回避処理を終了する。
【0040】
なお、被写体領域内のエリアにおいてデフォーカス量の差が所定量以上ない場合は、S726に進み、画面内の所定領域で主枠選択するなどの手段で主枠選択を行うようにしてもよい。また、主枠選択においては、被写体が静止体か動体かに応じて異ならせてもよい。より具体的には、被写体が静止体の場合に、上述のような合焦するエリアの数の情報に基づいて合焦すべきエリアを決定し、被写体が動体の場合には、過去の焦点検出情報に基づいて合焦すべきエリアを決定する。また、主枠選択においては、静止体を撮影するモードか動体を撮影するモードかに応じて異ならせるようにしてもよい。より具体的には、静止体を撮影するモードの場合に、上述のような合焦するエリアの数の情報に基づいて合焦すべきエリアを決定し、動体を撮影するモードの場合には、過去の焦点検出情報に基づいて合焦すべきエリアを決定する。
【0041】
●第2の障害物回避処理
第2の障害物回避処理で用いる焦点検出結果について、あらかじめ説明する。
【0042】
第2の障害物回避処理では、まず、
図7のS401の焦点検出処理の
図8のS504のフィルタ処理で、第1帯域、第2帯域、第3帯域の信号帯域を抽出する。そして、各信号帯域に対して焦点検出処理を行った第1焦点検出結果、第2焦点検出結果、第3焦点検出結果を用いて処理を行う。
【0043】
第1帯域は、通常の焦点検出に用いる帯域で、高域に設定されている。また、第2帯域は、後述するS2003の第2の障害物判定や、デフォーカス量の大きい被写体に対して用いる帯域で、低域に設定されている。また、第3帯域は、S2003の第2の障害物判定で障害物ありと判定された場合に用いる帯域である。第3帯域は、焦点検出精度が担保される信号帯域の範囲内で、障害物の影響を受けないように可能な限り低域に設定され、第1帯域よりも低く、第2帯域よりも高い帯域とされている。
【0044】
以下、本実施形態における第2の障害物回避処理のフローについて説明する。
【0045】
図12に、第2の障害物回避処理のフローチャートを示す。なお、
図12の動作は、システム制御部209によって実行される。
【0046】
図12のステップS2001において、システム制御部209(焦点検出の精度判定手段)は、第3焦点検出結果のピント補正値が所定値以下であるかどうかの判定を行う。所定値以下の場合には、S2002へ処理をすすめる。所定値より大きい場合には、S2004へ処理をすすめ、検出デフォーカス量を本処理では選択せず、第2の障害物判定不可として第2の障害物回避処理を終了する。
【0047】
ピント補正値は、レンズの球面収差に起因する、信号の帯域毎の最良像面位置差を補正するものであり、撮像信号の帯域と焦点検出信号の帯域に差がある場合、焦点検出信号で検出したピント位置を補正するものである。一般的に、撮像帯域と焦点検出帯域の最良像面位置の差の設計値を補正値として記憶し、補正を行うが、レンズの個体ばらつきがある場合、球面収差がばらつき、ばらつき分は補正誤差となる。補正誤差は、補正値が大きいほど大きくなるため、上記補正値が大きくなる条件で、焦点検出することは望ましくない。
【0048】
そのため、本ステップによって、障害物ありと判定された場合に選択する第3焦点検出結果のピント補正値が小さい条件でのみ、障害物判定を行い、ピント補正値が大きい場合には、障害物判定不可として、通常の焦点検出動作を行うようにしている。
【0049】
次に、ステップS2002において、システム制御部209(焦点検出の精度判定手段)は、S401の焦点検出処理のS502で取得した焦点検出信号(A像、B像)のシェーディング(SHD)差が所定値以下であるかどうかの判定を行う。所定値以下の場合には、S2003へ処理をすすめる。所定値より大きい場合には、S2004へ処理をすすめ、第2の障害物判定不可として、検出デフォーカス量を本処理では選択せず、第2の障害物回避処理を終了する。SHD差は、A像、B像のレベルおよび傾きの差である。
【0050】
SHD差が大きい場合、A像、B像の形状に差が生じ、形状差に起因した焦点検出誤差が発生する。特に、低域の処理でフィルタ処理をする場合、レベル、傾きの成分が多く残るため、SHD差の影響を受けやすい。障害物ありと判定された場合に選択する第3帯域は、障害物の影響を受けないように低域に設定されているため、SHD差の影響を受けやすい。
【0051】
そのため、本ステップによって、SHD差が小さく第3焦点検出結果の精度が低下しない条件でのみ、障害物判定を行い、SHD差が大きい場合には、障害物判定不可として、通常の焦点検出動作を行うようにしている。
【0052】
次に、ステップS2003において、システム制御部209(障害物判定手段)は、第2の障害物判定を行う。第2の障害物判定の詳細は後述する。
【0053】
次に、ステップS2005では、S2003で判定した結果に従って、障害物ありと判定された場合には、S2006へ処理を進め、障害物ありではない判定された場合には、検出デフォーカス量を本処理では選択せず、第2の障害物回避処理を終了する。ステップS2006では検出デフォーカス量として第3焦点検出結果を選択し、S2007へ処理を進める。S2007では後述する通常の主枠選択を行い、処理を終了する。
【0054】
●第2の障害物判定処理
以下、本実施形態における第2の障害物判定処理のフローについて説明する。
【0055】
図13に、第2の障害物判定処理のフローチャートを示す。なお、
図13の動作は、システム制御部209(障害物判定手段)によって実行される。
【0056】
図13のステップS2101において、システム制御部209は、
図3のS301で取得した被写体領域の中心位置を代表位置として取得する。
図14は、被写体の前に障害物がある様子を示す概略図であり、人物の顔の手前側(至近側)に障害物であるネットがある様子を表している。
図14のように、検出された被写体領域に対して焦点検出領域が設定され、その中心位置を代表位置としている。本実施例では、被写体領域の中心位置を代表位置として取得したが、その限りではなく、被写体領域内の第2焦点検出結果をクラス分類し、最頻クラスに属する領域の内、中心に最も近い位置を代表位置としてもよい。
【0057】
次に、ステップS2102において、システム制御部209は、ステップS2101で取得した代表位置における第1焦点検出結果と第2焦点検出結果の差を算出する。
図14のように、1つのAF枠内に、顔とネットの両方が存在している場合、両方の信号が混ざっているため、焦点検出に用いる信号帯域によって、焦点検出結果が異なり、顔ではなく、ネット位置や、顔とネットの間の位置を検出してしまうことがある。
【0058】
図15は、顔、ネットの各周波数帯域における応答を示している。
図15(a)は、顔、ネットの第1帯域の周波数応答、
図15(b)は、顔、ネットの第2帯域の周波数応答をそれぞれ示している。
図15(a)のように、高域である第1帯域では、顔よりもネットの応答が高くなっており、
図15(b)のように、低域である第2帯域では、顔の方がネットよりも応答が高い。このため、第1帯域では、ネットの応答の方が高いので、第1焦点検出結果は、ネットの焦点位置を検出し、第2帯域では、顔の応答の方が高いので、第2焦点検出結果は、顔の焦点位置を検出する。
【0059】
このように、帯域によって、焦点検出結果に差がある場合には、AF枠内に被写体と障害物が混在しているといえる。特に、高域の焦点検出結果が、低域の焦点検出結果よりも至近側である場合には、顔などの被写体の前に、高域な被写体であるネットなどの障害物が重なっている可能性が高いといえる。この関係を利用して、ステップS2103~ステップS2105で、障害物の判定を行う。
【0060】
ステップS2103において、システム制御部209は、ステップS2102で算出した差が、第1焦点検出結果の方が第2焦点検出結果よりも、至近側であることを示している場合には、障害物ありの可能性が高いとして、ステップS2104へ処理を進める。無限側であることを示している場合には、ステップS2108へ処理を進め、障害物ありではないと判定し、第2の障害物判定を終了する。ここでは、ネットなどの高域な障害物の焦点位置を検出しやすい第1焦点検出結果が、低域の第2焦点検出結果より、至近側にある場合には、顔などの被写体の前にネットなどの障害物が重なっている可能性が高いと判定している。
【0061】
次に、ステップS2104において、システム制御部209は、ステップS2102で算出した差が、閾値1より大きい場合には、障害物ありの可能性が高いとして、ステップS2105へ処理を進める。閾値1以下の場合には、ステップS2108へ処理を進め、障害物ありではないと判定し、第2の障害物判定を終了する。ここでは、焦点検出結果のばらつきも考慮するために、閾値1を焦点検出結果のばらつき得る範囲として設定し、差が閾値1以上であれば、検出結果のばらつきではなく、障害物が被写体に重なっている可能性が高いと判定している。
【0062】
次にステップS1205において、システム制御部209は、焦点検出領域内の第1焦点検出結果が代表位置の第2焦点検出結果より至近側である割合Xを算出する。
【0063】
次にステップS1206において、システム制御部209は、ステップS1205で算出した割合Xが閾値2より大きい場合には、ステップS2107へ処理を進め、障害物ありと判定し、第2の障害物判定を終了する。割合Xが閾値2以下の場合には、ステップS2108へ処理を進め、障害物ありではないと判定し、第2の障害物判定を終了する。ここでは、低域の第2焦点検出結果より至近側を検出している高域の第1焦点検出結果が十分広い範囲に広がっているかどうかで判定している。ネットのような高域な障害物は、顔などの被写体よりも広い範囲に広がっている可能性が高い。そのため、焦点検出領域内の広い範囲で、高域の第1焦点検出結果が至近側を示していれば、ネットのような障害物が、顔などの被写体の前に広がっている可能性が高いと判定している。
【0064】
本実施例では、被写体領域を、被写体検出手段が検出した顔領域としたが、その限りではなく、他の検出被写体に対する領域としてもよい。また、検出種別をあらかじめ、周波数の高いグループと、周波数の低いグループに分けしておき、被写体の周波数が低いグループの被写体に対してのみ、第2障害物回避処理を実施するとしてもよい。
【0065】
また、本実施例では、焦点検出領域を被写体領域に対して設定したが、被写体領域を基準に、被写体領域より広い領域に設定し、被写体領域の外側の領域に対しては、第1帯域での焦点検出結果のみ算出するとしてもよい。
【0066】
●通常の検出デフォーカス量算出
S605の通常の検出デフォーカス量算出について
図16を用いて説明する。まず、S1001ではS509の処理で複数周波数帯域の信号について焦点検出が行われた場合、そのうち最も高帯域の信号によって焦点検出されたデフォーカス量を使用するよう設定しS1002へ進む。S1002では後述する通常の主枠選択を行い通常の検出デフォーカス量算出を終了する。
【0067】
●通常の主枠選択
S726、S2007、S1002の通常の主枠選択について
図17を用いて説明する。まずS1101では被写体検出部211にて被写体の顔が検出されているかを判定する。顔が検出されていればS1102へ進み、検出されていなければS1107へ進む。S1107では被写体検出部211にて被写体の体が検出されているかを判定する。体が検出されていればS1108へ進み、検出されていなければS1109へ進む。
【0068】
S1102では瞳検出されておりかつ瞳中心のAF枠がデフォーカス量を算出した際のフォーカスレンズ位置から所定深度以内であるかどうかを判定する。一般的に被写体検出情報はピントの合った状態の方が、精度が良く、所定深度以上のデフォーカス量であった場合は被写体検出情報が誤検出の可能性がある為、前述したような所定条件を用いている。瞳検出かつ瞳中心枠が所定深度内の場合には、S1104に進んで瞳中心のAF枠を主枠設定し、それ以外の場合にはS1103に進む。
【0069】
S1103では設定したAF枠の中から主枠を選択するためにあるAF枠に注目して行うS1105の処理を、設定したすべてのAF枠に対して行うループ処理を行う。また、主枠の初期値は主枠が選択されていないことが判断できる情報(全枠数+1など)をすでに設定しておくものとし、図は省略する。S1105では選択している主枠よりも注目しているAF枠のほうが至近かつ所定深度内のデフォーカス量かどうかを判定し、条件を満たせば注目しているAF枠を主枠に設定する(S1106)。
【0070】
S1109では前述したフローにより主枠が選択されたかどうかを初期値であるかどうかで判定する。主枠が初期値であればS1110へ進み、そうでなければ主枠選択処理を終了する。S1110では検出情報を用いず、画面内の所定領域で主枠選択するなどの手段が考えられるが本案件の主要技術ではない為、詳細は割愛する。
【0071】
なお、被写体領域内のエリアにおいてデフォーカス量の差が所定量以上ない場合は、S1110に進み、画面内の所定領域で主枠選択するなどの手段で主枠選択を行うようにしてもよい。また、主枠選択においては、静止体を撮影するモードか動体を撮影するモードかに応じて異ならせるようにしてもよい。より具体的には、静止体を撮影するモードの場合に、上述のような検出エリアの情報に基づいて主枠を決定し、動体を撮影するモードの場合には、過去の焦点検出情報に基づいて主枠を決定する。
【0072】
本実施形態を適用することで主被写体に対して距離が異なる物体が混在しているシーンの特定を好適にできる。また、主被写体に対して距離が異なる物体が混在している場合でも好適な焦点検出動作を実現することができる。例えば動物園などでオリ越しに野鳥などが飼育されている環境下でオリに合焦してしまうような現象を低減できる。前記環境下のヒストグラムのイメージを
図11に示す。また、例えばスポーツシーンなどをネット越しで撮影する際にネットに合焦してしまうような現象を低減できる。
【0073】
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。また、上述の実施形態の機能を実現するソフトウェアのプログラムを、記録媒体から直接、或いは有線/無線通信を用いてプログラムを実行可能なコンピュータを有するシステム又は装置に供給し、そのプログラムを実行する場合も本発明に含む。従って、本発明の機能処理をコンピュータで実現するために、該コンピュータに供給、インストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明の機能処理を実現するためのコンピュータプログラム自体も本発明に含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。プログラムを供給するための記録媒体としては、例えば、ハードディスク、磁気テープ等の磁気記録媒体、光/光磁気記憶媒体、不揮発性の半導体メモリでもよい。また、プログラムの供給方法としては、コンピュータネットワーク上のサーバに本発明を形成するコンピュータプログラムを記憶し、接続のあったクライアントコンピュータはがコンピュータプログラムをダウンロードしてプログラムするような方法も考えられる。
【符号の説明】
【0074】
100 レンズ装置
103 フォーカスレンズ
105 レンズコントローラ
200 カメラ本体
201 撮像素子
204 AF信号処理部
209 システム制御部
210 レンズ通信部
211 被写体検出部