(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0014】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0015】
1.本実施形態の手法
まず本実施形態の手法について説明する。拡大観察を行う内視鏡システムにおいては、撮像倍率が大きいことに加え、被写体距離が短くなるため被写界深度が非常に狭くなる。被写界深度が非常に狭い状態では、ユーザー(ドクター等)が手動でピント合わせを行うことは困難となることから、1つの解決手法としてオートフォーカス(AF)を実行することが考えられる。
【0016】
撮像光学系の構成としては、1群駆動レンズと2群駆動レンズが考えられる。1群駆動レンズとは、1つのレンズ群を駆動することで倍率(画角)とフォーカス(ベスト被写体距離)を同時に調整するレンズ構成のことである。それに対して、2群駆動レンズとは、倍率を調整するレンズ群(ズームレンズ群)と、フォーカスを調整するレンズ群(フォーカスレンズ群)を備え、倍率とフォーカスを独立に調整するレンズ構成となる。制御の自由度は2群駆動レンズの方が高いが、1群駆動レンズは構成がシンプルなため、小型化が可能でありコストを抑えることもできるという利点がある。そのため、内視鏡システムにおいては1群駆動レンズを用いることが想定され、本実施形態においても1群駆動レンズを前提とする。
【0017】
しかし、1群駆動レンズでAF(シングルAFでもよいが、基本的にコンティニュアスAFを考える)を行うと問題が生じる場合がある。AFの手法としてコントラストAFを用いた場合、ウォブリング等によりベスト被写体距離を小刻みに動かす必要がある。1群駆動レンズでは上述したように、ベスト被写体距離を動かすと倍率も変わってしまうため、AF動作中は撮像画像がちらつくことになり、ユーザーの観察に支障をきたす。
【0018】
そこで本出願人は、内視鏡システムを想定した1群駆動レンズを含む撮像装置において、位相センサからの位相情報を用いてAFを行う手法を提案する。位相情報を用いたAF(位相差AF)であれば、コントラストAFのウォブリングのような動作は必要ないため、撮像画像にちらつきが生じることもない。
【0019】
以下、第1の実施形態では基本的なシステム構成例を示すとともに、本手法において行われるパラメータ取得処理(後述するF,G,R等)や、AFの動作レート設定処理等について述べる。また、本手法は位相差AFを基本とするものの、位相差AFが効果的でない状況においてはコントラストAFを併用してもよい。その際、位相差AFが効果的であるか否かの判定はボケ指標を用いて行う。第2の実施形態では位相情報からボケ指標を求める手法を説明し、第3の実施形態ではコントラスト値をボケ指標として用いる手法を説明する。
【0020】
2.第1の実施形態
本実施形態に係る撮像装置及びそれを含む内視鏡システムについて、
図1を用いて説明する。本実施形態に係る内視鏡システムは、光源部100と、撮像部200と、処理部300と、表示部400と、外部I/F部500と、操作部600を備えている。
【0021】
光源部100は、白色光を発生する白色光源110と白色光をライトガイドファイバ210に集光するための集光レンズ120を備えている。
【0022】
撮像部200は、例えば体腔への挿入を可能にするため細長くかつ湾曲可能に形成されている。撮像部200には、光源部で集光された光を導くためのライトガイドファイバ210と、該ライトガイドファイバにより先端まで導かれてきた光を拡散させて観察対象に照射する照明レンズ220と、観察対象から戻る反射光を結像する対物レンズ230と、対物レンズ230に含まれ画角とベスト被写体距離を同時に調整する可動レンズ240と、可動レンズ240を駆動するレンズ駆動部250と、結像された反射光を光電変換して画像を生成する撮像素子260を備えている。
【0023】
図9に本実施形態における対物レンズ230の一例を示す。この対物レンズは、従来のズーム機能を備えた内視鏡システムと同様に、可動レンズ240の位置をWIDE端からTELE端に移動させた場合に、画角が狭くなる(光学倍率が大きくなる)と共にベスト被写体距離(広義には合焦被写体距離)が短くなるような設計がなされている。
【0024】
本実施形態におけるレンズ駆動部250は、例えばボイスコイルモーター(以下、VCM)である。また、撮像素子260は例えば
図10に示すようにベイヤ配列の撮像部を持つ撮像素子であり、撮像部の一部に位相センサS1群およびS2群を含むように構成されている。位相センサS1群およびS2群の詳細については後述する。
【0025】
処理部300はA/D変換部310及び320と、画像処理部330と、制御部340と、移動量算出部350と、レンズ制御部360を備えている。A/D変換部310は、撮像素子260から出力されるアナログの画像信号をデジタルの画像信号に変換して画像処理部330に出力する。画像処理部330は、A/D変換部310から出力された画像信号に対してホワイトバランス、補間処理(デモザイキング処理)、色変換、階調変換、ノイズリダクション等の画像処理を施し、表示部400に画像信号を出力する。表示部400は例えば液晶モニタであり、画像処理部330から出力される画像信号を表示する。
【0026】
A/D変換部320は、撮像素子260の一部に設置された位相センサ領域S1およびS2から出力されるアナログの位相信号をデジタルの位相信号に変換して移動量算出部350に出力する。移動量算出部350はA/D変換部320から出力された位相信号から可動レンズ240の移動量を算出し、レンズ制御部360に出力する。移動量算出部350の詳細については後述する。
【0027】
レンズ制御部360は、操作部600およびレンズ駆動部250と相互に接続されており、操作部600から出力される制御情報に従い、移動量算出部350から出力された移動量に基づいて可動レンズ240の位置を制御する。ここで可動レンズ240の位置xは例えば
図9に示したように、対物レンズ230を構成する各レンズのうち、可動レンズに対して被写体側に隣接するレンズの後端を基準とした場合の、可動レンズの先端の位置として定義すればよい。操作部600およびレンズ制御部360の詳細については後述する。
【0028】
制御部340は、白色光源110、画像処理部330、外部I/F部500と双方向に接続されており、外部I/F部500からの入力情報に従ってこれらを制御する。外部I/F部500は、内視鏡システムに対するユーザーからの入力等を行うためのインターフェースであり、撮影の開始/終了を行うためのスタートボタンや画像の明るさを調整するための露光量調整ボタン、その他の各種撮影条件や画像処理のパラメータを調整するための調整ボタンなどを含んで構成されている。
【0029】
ここで
図10に示した撮像素子260の一部に設置された位相センサS1群およびS2群と、出力される位相信号の詳細について説明する。本実施形態における位相センサS1群およびS2群を構成する各画素S1およびS2は、例えば特開2000-156823号公報の[0074]から[0083]にS1およびS2として記載された機能画素であり、それぞれが画素中心から左右に偏った開口部を持っている。これにより対物レンズ230の瞳を左右に分割した場合と同様の効果が得られるため、
図10で水平方向に複数配置されたS1群からの像信号とS2群からの像信号をそれぞれの瞳を通った光線の位相信号とみなすことができる。例えば対物レンズ230で結像された被写体の像位置が撮像素子の撮像面に一致する(ピントが合っている)場合は、S1群からの位相信号とS2群からの位相信号は一致し、像位置が撮像面の前方または後方にある(ピントが合っていない)場合は、S1群からの位相信号とS2群からの位相信号に位相差が生じることになる。本実施形態において、位相センサS1群およびS2群はたとえば撮像部の中央に一組だけ設置してもよいし、必要に応じて撮像部の任意の場所に複数組設置してもよい
【0030】
次に、移動量算出部350における可動レンズ240の移動量の算出方法について、
図11を用いて説明する。
図11は像位置が撮像面の後方に位置する場合の、分割された瞳を通る光線を示した図である。光線1はS1群に対応する瞳を通った光線であり、光線2はS2群に対応する瞳を通った光線である。ここでは像位置が撮像面とは異なる位置(後方)にあるため、S1群から出力される位相信号とS2群から出力される位相信号にはSの位相差が存在する。ここでSは正負の値を持つベクトルであり、
図11に矢印で示した方向が正である。なお、位相差Sの算出には公知の位相差AFの技術を用いればよい。さらに撮像面から射出瞳位置までの距離をF、分割された瞳の重心間の距離をG、デフォーカス量をdとする。ここでdは正負の値を持つベクトルであり、
図11に矢印で示した方向が正である。この時、下式(1)が成立するため、これを変形した下式(2)を用いてデフォーカス量dを算出することができる。なお、像位置が撮像面の前方にある場合も同様である。さらにここでは、例えば、前出の特開2000-156823号公報の[0108]か[0110]に記載された手法でデフォーカス量dを算出してもよい。
【0031】
G / ( F + d ) = S / d ・・・・・(1)
d = F・S / ( G - S ) ・・・・・(2)
【0032】
本実施形態における移動量算出部350は、例えば画像信号と同じ周期で位相差センサS1群およびS2群から順次出力される位相信号に対して、上式(2)で算出したデフォーカス量dから合焦状態を実現するために必要な可動レンズ240の移動量を算出し、算出した移動量をレンズ制御部360に順次出力する。移動量の算出は、例えば予め対物レンズ230の設計データから、可動レンズ240の移動量と像位置の移動量の比Rを下式(3)で算出しておき、下式の(4)で移動量Dを算出すればよい。
【0033】
R = 可動レンズの移動量 / 像位置の移動量 ・・・・・(3)
D = -R・d ・・・・・(4)
【0034】
また、例えば可動レンズ240の位置xにより、可動レンズ240の移動量と像位置の移動量の比Rの値が変化する場合は、可動レンズの位置xnとこれに対応するRnの値を
図12に示すようなLUT(ルックアップテーブル)として予め作成しておき、位相センサS1群およびS2群から位相信号が出力されたタイミングにおける可動レンズ240の位置xnに対応するRnを上式(4)のRとして使用することで移動量Dを算出することができる。
【0035】
さらに、例えば可動レンズ240の位置xにより
図11に示した撮像面と射出瞳の距離Fや瞳の重心間の距離Gも変化する場合は、
図13に示すように、可動レンズ240の位置xnに対応するFnおよびGnの値を加えたLUTを予め作成しておく。そして、まず位相センサS1群およびS2群から位相信号が出力されたタイミングにおける可動レンズ240の位置xnに対応するFnおよびGnの値を、上式(2)のFおよびGとして使用することでデフォーカス量dnを算出する。その後、算出したdnと可動レンズ240の位置xnに対応するRnを上式(4)のdとRとして使用することで移動量Dを算出することができる。なお、
図13にテーブルで示したパラメータのうち、可動レンズ240の位置による変化が無視できるほど小さいものについては、考慮する必要がないことは言うまでもない。また、ここでは述べていない移動量を算出するためのパラメータについても、可動レンズ240の位置による変化が大きい場合は、前述の各パラメータ同様にLUTに追加して使用してもよい。
【0036】
ここで移動量算出部350は、例えば位相センサS1群およびS2群から順次出力される位相信号のすべてに対して移動量の算出及び出力を行ってもよいし、例えば任意の周期で位相信号をサンプリングしたうえで移動量の算出及び出力を行ってもよい。後者の場合、画像信号が出力されるよりも長い周期で、移動量算出部350から移動量が出力されることになる。
【0037】
次に操作部600、移動量算出部350、レンズ制御部360の詳細について説明する。
図8に本実施形態における操作部600の一例を示す。本実施形態において、操作部600は例えば撮像部200と一体化して構成されており、ズームレバー610とAFボタン620を備えている。ズームレバー610は、例えば一定の範囲を連続的に動作させることが可能であり、ユーザーはズームレバー610を動かすことで、可動レンズ240の位置をWIDE端からTELE端まで連続的に調整することができる。具体的には、例えば操作部600は、ズームレバー610の位置情報をレンズ制御部360に出力する。レンズ制御部360は予め設定されたルックアップテーブル等を用いてズームレバー610の位置情報を可動レンズ240の位置情報に対応付け、可動レンズ240の位置情報をレンズ駆動部250に出力する。レンズ駆動部250は、レンズ制御部360から出力された位置情報に基づいて、可動レンズ240を駆動する。また、操作部600は例えばAFボタン620が押されるたびに、AFの開始/終了信号を交互にレンズ制御部360に出力する。
【0038】
図4に本実施形態におけるレンズ制御部360の一例を示す。レンズ制御部360は、観察モード判定部361と、レンズ位置決定部362を備えている。観察モード判定部361は、操作部600から出力されたAFの開始/終了情報に基づいて観察モードを決定し、レンズ位置決定部362に観察モード情報を出力する。具体的には、観察モード判定部361は操作部600からAFの開始信号が出力されていない場合には固定焦点モードを選択し、操作部600からAFの開始信号が出力された場合は、AFモードを選択する。レンズ位置決定部362は、観察モード判定部361で固定焦点モードが選択された場合は、前述のズームレバー610の位置情報に対応づけられた可動レンズ240の位置情報をレンズ駆動部250に出力する。レンズ駆動部250は、出力された位置情報に基づいて可動レンズ240の位置を調整する。
【0039】
図7は本実施形態において固定焦点モードが選択された場合の、可動レンズ240の位置とそれに対応するベスト被写体距離、および被写界深度範囲を示している。なお本実施形態では、ズームレバー610を操作することで可動レンズ240の位置を連続的に移動させることが可能であるが、ここでは説明を分かりやすくするため段階的に移動させた場合を示している。本実施形態では固定焦点モードが選択された場合、ズームレバーの操作により従来のズーム機能を備えた内視鏡システムと同様のベスト被写体距離、および被写界深度を実現するように可動レンズ240の位置を制御している。
【0040】
また、レンズ位置決定部362は、観察モード判定部361でAFモードが選択された場合、移動量算出部350から出力された移動量に基づいて可動レンズ240の移動後の位置情報を算出し、レンズ駆動部250に出力する。レンズ駆動部250は、出力された位置情報に基づいて可動レンズ240の位置を調整する。このような動作により、本実施形態ではAFモードが選択された場合、可動レンズの位置を調整することで被写体にピントを合わせることが可能になる。
【0041】
レンズ位置決定部362は、例えば一度だけ合焦動作を行った時点でAF動作を終了してもよいし、観察モード判定部361からAFの終了信号が出力されるまではAF動作を継続してもよい。AF動作を継続したい場合、レンズ位置決定部362は移動量算出部350から周期的に出力される移動量に対応する可動レンズ240の位置情報を、レンズ駆動部250に順次出力すればよい。レンズ駆動部250は、レンズ位置決定部362から順次出力された位置情報に基づいて可動レンズ240の位置を調整する。このような動作を行うことで、本実施形態における内視鏡システムは、被写体距離が変動した場合も被写体に追従しながらピントを合わせ続けることが可能になる。これまでに述べたように、本実施形態における内視鏡システムは、1つの可動レンズでズーム機能とコンティニュアスAFを実現できるため、撮像部の小型化と低コスト化を実現することが可能になる。
【0042】
また、本実施形態では可動レンズ240の位置により画角も変化するため、画像信号と同じ周期で合焦動作を行った場合は画像がちらつき観察に支障をきたすことも予想される。この場合、前述のように移動量算出部350は任意の周期で位相信号をサンプリングし、サンプリング後の周期で移動量をレンズ位置決定部362に出力すればよい。これにより本実施形態における内視鏡システムは、任意の周期で合焦動作をおこなうことできるため、画像のちらつきを抑えながら被写体に追従してピントを合わせ続けることが可能になる。
【0043】
以上の本実施形態では、撮像装置は
図1に示したように、画角と合焦被写体距離を同時に調整する可動レンズ240を含む撮像光学系と、撮像素子260と、複数の位相センサ(
図10のS1、S2)と、当該複数の位相センサからの位相情報を取得する取得部(A/D変換部320に相当)と、可動レンズ240の位置を制御するレンズ制御部360と、取得部で取得された位相情報から求められる位相差に基づいて、合焦状態の実現に必要な可動レンズ240の移動量を算出する移動量算出部350とを含む。そして、レンズ制御部360は、移動量算出部350で算出された移動量に基づいて、可動レンズ240の位置を制御する。なお合焦状態とは、撮像光学系を通った光線による撮像素子260上の像についての合焦状態を指すものとする。
【0044】
ここで、本実施形態における撮像光学系は例えば
図9に示すような構成であり、可動レンズ240を駆動することで、画角と合焦被写体距離を同時に調整する。ここで、可動レンズ240は1枚のレンズ、又は複数枚のレンズからなるレンズ群であることを想定しており、「画角と合焦被写体距離を同時に調整する」とは、当該可動レンズを動かすことで、画角と合焦被写体距離の両方が変動することを表す。なお、合焦被写体距離とは、撮像素子260において、撮像光学系を介した光が結像することによる被写体像が合焦状態にある場合の、撮像光学系からの被写体までの距離のことである。ただし、光が撮像素子260上において一点に収束しなかったとしても、その大きさが許容錯乱円よりも小さければ合焦状態にあると見なせることから、合焦被写体距離はある程度の幅を持つことになる。本実施形態における合焦被写体距離は、このような幅を持つ値であってもよいが、狭義にはベスト被写体距離であるものとし、ベスト被写体距離とは、撮像光学系を介した光が、撮像素子260上において収束する領域が最も小さい場合における、撮像光学系からの被写体までの距離を表すものとする。
【0045】
これにより、
図9に示したようなレンズ構成(1群駆動レンズ)を用いた場合にも、合焦制御(AF、オートフォーカス)を適切に行うことが可能になる。AFにおいて広く用いられている手法であるコントラストAFでは、フォーカスを小刻みに変化させることで複数のコントラスト値を取得し、取得したコントラスト値の極大値を求める。しかし、1群駆動レンズを用いた場合、フォーカスの変化に伴い画角が変化してしまうため、取得画像にちらつきが生じてしまう。特に、継続的にAFを実行するコンティニュアスAFの場合にはちらつきによる影響が顕著である。そこで本実施形態では、位相センサからの位相情報を用いた合焦制御(位相差AF)を行うことで、取得画像でのちらつきを抑止する。
【0046】
また、移動量算出部350は、位相センサからの位相情報と、位相情報が取得されたタイミングにおける可動レンズ240の位置に基づいて、可動レンズ240の移動量を算出してもよい。
【0047】
これにより、位相情報だけでなく、当該位相情報が取得されたタイミングでの可動レンズ240の位置も考慮した移動量の算出処理が可能になる。位相情報に基づいた合焦制御とは、狭義には位相差AFのことであり、位相差AFでは瞳を分割して、分割したそれぞれの瞳からの像のずれを位相差として求める。ここで、瞳とは光学系の外から見た絞りの像のことであり、本実施形態では、このうち像側から見た瞳である射出瞳を主に考える。像側から見た場合、
図11に示すように被写体からの光線は射出瞳の位置から照射されているように見えることになる。このように、瞳は光学的な条件に基づいて仮想的に設定されるものであるから、可動レンズ240の位置が変われば瞳の位置等も変わる可能性がある。よって、本実施形態での合焦制御を適切に行うためには、位相情報だけでなく、合焦動作時の光学的な状況、特に可動レンズ240の位置を用いるとよい。
【0048】
また、移動量算出部350は、位相情報が取得されたタイミングにおける可動レンズ240の位置に基づいて、1つ以上のパラメータを変更してもよい。そして、変更されたパラメータと位相情報に基づいて、可動レンズ240の移動量を算出する。具体的には、パラメータとして、撮像素子260から瞳位置までの距離情報、分割された瞳の重心間距離情報、及び撮像素子260から像位置までの距離に対する移動量の比率情報の少なくとも1つを用いることが考えられる。
【0049】
これにより、可動レンズ240の位置に基づいてパラメータを変更し、当該パラメータを用いた移動量の算出が可能になる。ここで、パラメータとは位相情報から可動レンズ240の移動量Dを求める際に必要となるデータのことであり、特に可動レンズ240の位置に応じて数値が変化しうるものを指す。例えば本実施形態では、
図11に示したように、位相センサ群S1で取得した像と位相センサ群S2で取得した像のずれを、位相差Sとして取得し、取得した位相差Sから可動レンズ240の移動量Dを求めることになる。その際、
図11の例では、撮像面から射出瞳位置までの距離Fや、瞳の重心間距離Gを用いて撮像面から像位置までの距離dを求め、さらにdからDへ変換するために比率を表す値Rを取得しなくてはならない。ここで、F,G,Rは可動レンズ240の位置に応じて値が変化しうるものであるから、これらが本実施形態におけるパラメータとして用いることが考えられる。ここで、F,G,R等は可動レンズ240の位置xの関数として表されてもよいし、
図13のようにルックアップテーブル等の形で保持されてもよい。また、ここで挙げたパラメータは一例であり、他のパラメータを用いて移動量を算出してもよい。
【0050】
また、撮像光学系は、可動レンズ240が広角端から望遠端に移動するに従って、画角及び合焦被写体距離が単調減少する光学系であってもよい。
【0051】
これにより、
図7に示したような撮像光学系を実現することが可能になる。つまり、可動レンズ240の位置を広角側から望遠側に移動させるほど、合焦被写体距離(ベスト被写体距離)は小さくなる。つまり、被写界深度範囲はより撮像光学系に近い位置に設定される(撮像光学系に近い位置に焦点が合う)ことになる。特に内視鏡装置等では、可動レンズ240を望遠側に移動させる(ズーム倍率を上げる)場合には、拡大観察を行うことが想定され、その場合には、挿入部(撮像部200)の先端も観察対象となる被写体に近づけることでさらに被写体を拡大することが一般的である。つまり、可動レンズ240を望遠側に移動させるほど、撮像光学系と被写体との距離が小さくなることが想定されるため、
図7に示したような光学系を用いることで、ピントが合いやすくなるという利点がある。
【0052】
また、取得部は、撮像素子の画素配列の一部に設置された位相センサから位相情報を取得してもよい。
【0053】
これにより、
図10に示したような構成の撮像素子を用いることが可能になる。撮像素子とは別に位相センサを設けた場合、当該位相センサに対して被写体からの反射光を入射させるためのレンズが必要となる。そのため、撮像光学系の構成が複雑になり、小型化が難しくなる上、コストも高くなる。特に内視鏡装置では、撮像光学系が小型化できないと、生体に挿入する部分が大きくなってしまい好ましくない。よって、
図10のような構成を用いることで、撮像光学系の小型化、低コスト化を図るとよい。
【0054】
また、レンズ制御部360は、取得部において撮像素子から画像情報が取得される周期と同じ周期で、可動レンズ240の位置を制御してもよい。或いは、取得部において撮像素子から画像情報が取得される周期よりも長い周期で、可動レンズ240の位置を制御してもよい。
【0055】
これにより、可動レンズ240の位置の制御レートを、画像情報の取得レートと同等にすることも可能になるし、画像情報の取得レートよりも低くすることも可能になる。画像情報の取得タイミングと同じタイミングで位相情報を取得しているため、画像上の取得周期と同じ周期での可動レンズ240の位置制御は可能である。このようにした場合、高レートで合焦制御が行われることになるため、被写体に対してピントが合っている可能性を高くすることができる。一方、画像情報の取得レートが高い場合等では、同じレートで可動レンズ240の位置を制御しようとしても、レンズ駆動部250における機械的な制御が困難であることも考えられる。また、高レートの可動レンズ位置制御を行うと、可動レンズ240の位置が頻繁に変化する可能性があり、1群駆動レンズではちらつきの発生要因となる。その場合には、画像情報の取得周期よりも長い周期で可動レンズ240の位置を制御すればよい。こうすることで、画像情報によっては合焦制御が不十分な画像が生じる可能性はあるが、レンズ駆動部250での制御も容易になり、また取得した位相情報全てに対して処理を行う必要がないため、処理負荷を軽減することもできる。さらに、頻繁な可動レンズ240の移動を抑止できるため、画像のちらつきも低減できる。
【0056】
また、レンズ制御部360は、可動レンズ240の位置の制御としてコンティニュアスAFを実行する制御を行ってもよい。
【0057】
これにより、AFとしてコンティニュアスAFを実行することが可能になる。動画像を取得するような場合(特に内視鏡装置であれば、効率的な生体内観察を行うために取得画像が動画像である可能性が高い)には、コンティニュアスAFによる継続的な合焦制御が効果的である。通常、1群駆動レンズが前提とした場合、コンティニュアスAFはちらつきによる影響が顕著となるため、実現が困難であるが、本実施形態の手法であれば、ちらつきの影響を抑止できるため、コンティニュアスAFを効果的に実現することができる。
【0058】
また、可動レンズの移動範囲における広角端と望遠端の間の位置に基準点を設定した場合を考える。その際、レンズ制御部360は、可動レンズが当該基準点に対して望遠側に位置する場合に、移動量算出部350で算出された移動量に基づいて、可動レンズの位置を制御してもよい。
【0059】
ここで、可動レンズ240が基準点に対して望遠側にある場合に、可動レンズ240の位置制御(つまり合焦制御・AF動作)を行うものとしたが、可動レンズ240が基準点に対して広角側にある場合には、AF動作は行ってもよいし、行わなくてもよい。ただし、可動レンズ240が広角側にある場合には、望遠側にある場合に比べて被写界深度が広く、ユーザーが手動でピント調整を行うことが可能であることが考えられるため、広角側ではAF動作は行わないものとして実装されてもよい。この場合、例えば観察モード判定部361が可動レンズ240の位置を取得するような構成とし、可動レンズ240が基準点よりも広角側にある場合にレンズ制御部360は固定焦点モードを選択し、可動レンズ240が基準点よりも望遠側にある場合にレンズ制御部360はAFモードを選択するといった制御を行えばよい。
【0060】
これにより、可動レンズ240の位置に基づいて、合焦動作(AF動作)を行うか否かを決定することが可能になる。上述の例では、
図8に示したAFボタン620を操作することでAF動作が開始されることになる。つまり、AF動作を行うか否かはユーザーが判断する必要があった。可動レンズ240の位置に基づいてAF動作を行うか否かを決定することができれば、ユーザーが自ら判断する必要がなく、またAF動作を実行する際にAFボタン620等を操作する必要もないため、ユーザーにとって使いやすいシステムを実現することができる。望遠側でAF動作を実行する理由としては、可動レンズ240が望遠側に行くほど(ズーム倍率が上がるほど)被写界深度が狭くなるため、手動でのピント合わせが困難になることが挙げられる。また、
図7のようなレンズでは可動レンズ240が望遠側に行くほどベスト被写体距離が短くなる。ベスト被写体距離が短くなることでも被写界深度は狭くなるため、
図7のようなレンズではさらに手動でのピント合わせが困難になり、AF動作を実行する利点が大きくなる。
【0061】
また、以上の本実施形態は、画角と合焦被写体距離を同時に調整する可動レンズ240を含む撮像光学系と、撮像素子260からの画像情報及び位相センサからの位相情報を取得する取得部(A/D変換部310及びA/D変換部320に相当)と、可動レンズ240の位置を制御するレンズ制御部360と、取得部で取得された位相情報に基づいて、可動レンズ240の移動量を算出する移動量算出部350とを含む内視鏡装置にも適用できる。そして、レンズ制御部360は、移動量算出部350で算出された移動量に基づいて、可動レンズ240の位置を制御する。
【0062】
これにより、撮像装置だけではなく、内視鏡装置においても本実施形態の処理を実行することが可能になる。内視鏡装置では、撮像部200を生体内に挿入するため、撮像部200を小型化することが好ましく、簡素な構成である1群駆動レンズ(
図9)を用いる利点が大きい。その際、用途として病変部の発見・観察や、器具を用いた生体への処置が想定されることから、ユーザー(ドクター)に提示する画像にちらつき等が生じることは極力抑えなくてはならない。よって、本実施形態の手法を用いることで、撮像部200の小型化と、画像のちらつき等の抑止の両方が可能になり、ドクター及び被験者にとって好ましい内視鏡装置を実現することができる。
【0063】
3.第2の実施形態
本実施形態に係る撮像装置及びそれを含む内視鏡システムについて、
図2を用いて説明する。
【0064】
本実施形態における処理部300はA/D変換部310及び320と、画像処理部330と、制御部340と、移動量算出部350と、レンズ制御部360と、コントラスト値算出部370と、ボケ指標算出部380を備えている。A/D変換部310は、撮像素子260から出力されるアナログの画像信号をデジタルの画像信号に変換して画像処理部330とコントラスト値算出部370に出力する。コントラスト値算出部370は、例えばA/D変換部310から出力された画像信号の高周波成分を検出してコントラスト値を算出し、コントラスト値をレンズ制御部360に出力する。
【0065】
A/D変換部320は、撮像素子260の一部に設置された位相センサS1およびS2から出力されるアナログの位相信号をデジタルの位相信号に変換してボケ指標算出部380に出力する。ボケ指標算出部380は、例えばA/D変換部320から出力された位相信号の高周波成分を検出してボケ指標を算出し、ボケ指標をレンズ制御部360に出力する。ここでボケ指標とは、位相信号のボケ具合を表す指標であり、位相信号がボケて高周波成分が少なくなるほど小さな値となる。さらにボケ指標算出部380は、A/D変換部320から出力された位相信号をそのまま移動量算出部350に出力する。その他の部分については、第1の実施形態と同様である。
【0066】
次に本実施形態におけるレンズ制御部360の詳細について、
図5を用いて説明する。本実施形態におけるレンズ制御部360は、観察モード判定部361と、レンズ位置決定部362と、AFモード判定部363を備えている。観察モード判定部361は、操作部600から出力されたAFの開始/終了情報に基づいて観察モードを決定し、AFモード判定部363に観察モード情報を出力する。具体的には、観察モード判定部361は第1の実施形態と同様に、操作部600からAFの開始信号が出力されていない場合には固定焦点モードを選択し、操作部600からAFの開始信号が出力された場合は、AFモードを選択する。AFモード判定部363は、観察モード判定部361で固定焦点モードが選択された場合は固定焦点モードを選択し、そのままレンズ位置決定部362に出力する。またAFモード判定部363は、観察モード判定部361でAFモードが選択された場合は、ボケ指標算出部380から出力されるボケ指標を用いてAFモードを決定し、AFモード情報をレンズ位置決定部362に出力する。具体的には、AFモード判定部363は例えばボケ指標算出部380から出力されるボケ指標が閾値以下の場合はコントラストAFモードを選択し、閾値以上の場合は位相差AFモードを選択する。
【0067】
レンズ位置決定部362は、AFモード判定部363で固定焦点モードおよび位相差AFモードが選択された場合は、第1の実施形態の固定焦点モードおよびAFモードが選択された場合と同様の動作を行う。またレンズ位置決定部362は、AFモード判定部363でコントラストAFモードが選択された場合、まずコントラスト値算出部370から出力されるコントラスト値に基づいて、公知のコントラストAF技術と同様に可動レンズ240を制御することで合焦動作を行う。これは位相信号のボケ具合が大きい(ボケ指標が小さい)場合は位相差の算出が困難になるためであり、このような制御を行うことで、確実に被写体にピントを合わせることが可能になる。一度コントラストAFで被写体にピントを合わせた後は、ボケ指標算出部380で算出されるボケ指標が十分大きくなることでAFモード判定部363では位相差AFモードが選択されるため、レンズ位置決定部362は第1の実施形態のAFモードと同様の動作を行い、被写体に追従しながらピントを合わせ続けることが可能になる。これにより、本実施形態ではAF動作開始時もしくはAF動作中に画像が大きくボケた場合も、合焦動作を継続することが可能になる。
【0068】
以上の本実施形態では、撮像装置は
図2に示したように、画像情報におけるコントラスト値を算出するコントラスト値算出部370を含む。そして、レンズ制御部360は、位相情報に基づいて可動レンズ240の位置を制御する位相モードと、コントラスト値に基づいて可動レンズ240の位置を制御するコントラストモードを切り替え可能に制御する。
【0069】
これにより、位相情報を用いた可動レンズ240の位置の制御(位相モードであり、狭義には位相差AF)と、コントラスト値を用いた可動レンズ240の位置の制御(コントラストモードであり、狭義にはコントラストAF)を切り替え可能に制御することが可能になる。つまり、状況に応じて位相モードを用いることもできるし、コントラストモードを用いることもできる。ただし、第1の実施形態で説明したとおり、1群駆動レンズを前提とした場合、コントラストモードは画像のちらつき等が生じるため好ましくない。よって、位相モードが効果的でない状況でコントラストモードを用い、そうでない場合は位相モードを用いることが考えられる。
【0070】
また、撮像装置は
図2に示したように、画像情報により表される画像のボケの程度を表すボケ指標を算出するボケ指標算出部380を含んでもよい。そして、レンズ制御部360は、ボケ指標に基づいて、位相モードとコントラストモードを切り替える制御を行う。
【0071】
これにより、位相モードとコントラストモードをボケ指標に基づいて切り替えることが可能になる。位相モード(狭義には位相差AF)では、異なる射出瞳から射出された複数の像のずれ(狭義には位相差)を用いることが考えられる。つまり、位相モードが効果的でない状況として、具体的には前記複数の像が、ずれの判定が行えないほどにぼけてしまっているという状況が考えられる。位相センサでの位相信号の信号値が、ある位置では大きく、異なる位置では小さくなるといったように、信号の分布(信号波形)に特徴があれば、第1の射出瞳から射出された光による第1の像と、第2の射出瞳から射出された光による第2の像の空間的な位置ずれは容易に判別できる。しかし、ボケの程度が大きいと、信号値の上ピークと下ピークの差が小さくなり、平坦な信号波形になってしまう。平坦なもの同士を比較しても、どの程度の位置ずれが生じているかの判定は難しく、そのような状況では位相情報による合焦制御を行うことは困難である。よって、ボケ指標を用いることで、位相モードとコントラストモードを効果的に切り替えることが可能になる。狭義にはボケ指標によりボケの程度が大きいと判定されたときにはコントラストモードを用い、ボケの程度が小さいと判定されたときには位相モードを用いることが考えられる。
【0072】
また、ボケ指標算出部380は、位相センサから出力される位相情報に基づいてボケ指標を算出してもよい。
【0073】
これにより、位相情報からボケ指標を算出することが可能になる。位相情報も被写体の像を表す信号を取得するものであるから、当該信号値に基づいてボケの程度を判定することは可能である。具体的には、上述したように信号波形が平坦であるか否かの判定を行えばよく、例えば位相情報の高周波成分を抽出し、当該高周波成分をボケ指標としてもよい。
【0074】
4.第3の実施形態
本実施形態に係る撮像装置及びそれを含む内視鏡システムについて、
図3を用いて説明する。
【0075】
本実施形態における処理部300はA/D変換部310及び320と、画像処理部330と、制御部340と、移動量算出部350と、レンズ制御部360と、コントラスト値算出部370を備えている。本実施形態においては、
図3に示したように、コントラスト値算出部370がボケ指標算出部(
図2におけるボケ指標算出部380に対応)を兼ねることになる。つまり、後述するようにボケ指標として位相情報ではなくコントラスト値を用いる点が第2の実施形態とは異なる。
【0076】
A/D変換部310は、撮像素子260から出力されるアナログの画像信号をデジタルの画像信号に変換して画像処理部330とコントラスト値算出部370に出力する。コントラスト値算出部370は、例えばA/D変換部310から出力された画像信号の高周波成分を検出してコントラスト値を算出し、コントラスト値をレンズ制御部360に出力する。コントラスト値は、画像信号のボケ具合を表す指標であり、画像信号がボケて高周波成分が少なくなるほど小さな値となる。その他の部分については、第1の実施形態と同様である。
【0077】
次に本実施形態におけるレンズ制御部360の詳細について、
図6を用いて説明する。本実施形態におけるレンズ制御部360は、観察モード判定部361と、レンズ位置決定部362と、AFモード判定部363を備えている。観察モード判定部361は、操作部600から出力されたAFの開始/終了情報に基づいて観察モードを決定し、AFモード判定部363に観察モード情報を出力する。具体的には、観察モード判定部361は第1の実施形態と同様に、操作部600からAFの開始信号が出力されていない場合には固定焦点モードを選択し、操作部600からAFの開始信号が出力された場合は、AFモードを選択する。AFモード判定部363は、観察モード判定部361で固定焦点モードが選択された場合は固定焦点モードを選択し、そのままレンズ位置決定部362に出力する。またAFモード判定部363は、観察モード判定部361でAFモードが選択された場合は、コントラスト値算出部370から出力されるコントラスト値を用いてAFモードの内容(コントラストAFモードか、位相差AFモードか)を決定し、AFモード情報をレンズ位置決定部362に出力する。具体的には、AFモード判定部363は例えばコントラスト値算出部370から出力されるコントラスト値が閾値以下の場合はコントラストAFモードを選択し、閾値以上の場合は位相差AFモードを選択する。
【0078】
レンズ位置決定部362は、AFモード判定部363で固定焦点モードおよび位相差AFモードが選択された場合は、第1の実施形態の固定焦点モードおよびAFモードが選択された場合と同様の動作を行う。またレンズ位置決定部362は、AFモード判定部363でコントラストAFモードが選択された場合、まずコントラスト値算出部370から出力されるコントラスト値に基づいて、公知のコントラストAF技術と同様に可動レンズ240を制御することで合焦動作を行う。これは、位相信号のボケ具合が大きい場合は位相差の算出が困難になるためであり、このような制御を行うことで、確実に被写体にピントを合わせることが可能になる。なお、コントラスト値は位相信号のボケ具合と相関を持つため、本実施形態ではコントラスト値により位相信号のボケ具合を判断している。一度コントラストAFで被写体にピントを合わせた後は、コントラスト値が十分大きくなることでAFモード判定部363では位相差AFモードが選択されるため、レンズ位置決定部362は第1の実施形態のAFモードと同様の動作を行い、被写体に追従しながらピントを合わせ続けることが可能になる。これにより、本実施形態ではAF動作開始時もしくはAF動作中に画像が大きくボケた場合も、合焦動作を継続することが可能になる。
【0079】
以上の本実施形態では、ボケ指標算出部(本実施形態においては
図3に示すようにコントラスト値算出部370がボケ指標算出部の処理を行うことになる)は、コントラスト値算出部370で算出されるコントラスト値に基づいてボケ指標を算出する。
【0080】
これにより、コントラスト値からボケ指標を算出することが可能になる。コントラスト値は例えば画像の高周波成分等から求められるものであり、合焦の度合いの判定にも用いることができるのであるから、コントラスト値からボケの程度を求めることが可能である。具体的には、コントラスト値をそのままボケ指標として用いてもよい。
【0081】
以上、本発明を適用した3つの実施の形態1〜3およびその変形例について説明したが、本発明は、各実施の形態1〜3やその変形例そのままに限定されるものではなく、実施段階では、発明の要旨を逸脱しない範囲内で構成要素を変形して具体化することができる。また、上記した各実施の形態1〜3や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、各実施の形態1〜3や変形例に記載した全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施の形態や変形例で説明した構成要素を適宜組み合わせてもよい。また、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能である。