(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0011】
以下、本発明の撮像装置を適用した実施の形態について説明する。
【0012】
<実施の形態>
図1は、実施の形態の多重フォーカスカメラ10の概略図である。本実施の形態の多重フォーカスカメラ10は、被写体の像を撮像するとともに被写体までの距離を計測する光学機器であり、レンズ20と、撮像装置30(撮像素子31、32)と、画像処理部40と、記憶部50と、レンズ駆動用アクチュエータ60と、制御部70と、表示部80と、出力インターフェース(IF)90と、操作部100とを備える。
【0013】
図1に示すように、本実施の形態の多重フォーカスカメラ10では、レンズ20を介する入射光のうち可視光を吸収して光電変換し被写体の像を撮像する撮像素子31と、撮像素子31を透過した赤外線を光電変換し当該被写体の像を撮像する撮像素子32とをレンズ20の光軸上に配置している。ここでは、測距演算を容易にするために、撮像素子31の画素サイズ及び画素数が、それぞれ撮像素子32の画素サイズ及び画素数と等しいものとする。
【0014】
撮像素子31及び撮像素子32の構成については後述する。
【0015】
レンズ20は、撮像光学系のレンズとして、F値が所定の範囲で変化するズームレンズとしてもよいし、F値を固定とする単焦点レンズとしてもよい。本実施の形態におけるレンズ20は、被写体に対する合焦位置を調整可能であり、レンズ駆動用アクチュエータ60は、制御部70からの制御信号Saに従い、レンズ20を駆動させることができる。
【0016】
制御部70は、リード・オンリー・メモリ(ROM)等の所定のメモリ(図示せず)に記憶されたプログラムを読み出し、操作部100からの指示に応じて所定の処理を実行するマイクロプロセッサ等により構成され、多重フォーカスカメラ10の各部を統括的に制御するとともに、レンズ20から被写体までの距離を演算する機能を有する。
【0017】
制御部70は、撮像素子31及び撮像素子32における撮像動作の制御、画像処理部40における信号処理の制御、記憶部50における撮像画像等の記憶又は読み出しの制御、レンズ駆動用アクチュエータ60における合焦位置の調整制御、表示部80における撮像素子31又は撮像素子32からの撮像画像又はスルー画像の表示制御、及び、撮像画像又はレンズ20から被写体までの距離データに関して、着脱可能に装着される可搬性の記録媒体等の外部装置(図示せず)への出力インターフェース(IF)90における出力制御を行う。
【0018】
操作部100は、制御部70に対して種々の指示を与える機能を有し、図示を省略するが、多重フォーカスカメラ10の電源をオンオフする電源スイッチ、撮影を指示するシャッターボタン、測距領域の指定等のメニューを表示部80に表示させるメニューボタン、表示部80における距離計測を行うか否かを設定する測距指定ボタン、撮像済画像の検索や出力IF90における外部装置へのデータ出力等の様々な設定に対する確定操作を行うための決定ボタン等から構成される。
【0019】
制御部70は、本発明に係る機能部として、測距領域設定部701と、撮像制御部702と、測距演算部703と、記録表示制御部704とを備える。
【0020】
多重フォーカスカメラ10においては、一度の撮像動作でレンズ20から被写体までの距離を計測することが可能なように構成される。本実施の形態では、距離計測に先立って、制御部70は、測距領域設定部701により、表示部80に表示される撮像素子31又は撮像素子32からのスルー画像を介して計測対象の領域である測距領域をユーザに対して走査部100を介して指定させる。
【0021】
続いて、操作部100からレンズ20から被写体までの距離を計測する指示を受けた制御部70は、撮像制御部702により、撮像素子31及び撮像素子32に対してそれぞれ撮像制御信号SC1,SC2を供給する。撮像制御信号SC1,SC2に応じて、撮像素子31及び撮像素子32は、レンズ20で定めるF値及び焦点距離fで、それぞれ被写体からの入射光を基に撮像して第1撮像画像信号及び第2撮像画像信号を生成し、それぞれ画像処理部40における第1信号処理部401及び第2信号処理部402に供給する。第1信号処理部401は、制御部70からの信号処理制御信号Smにより被写体の像に対応する2次元表示となるように第1撮像画像信号を配列し、第1撮像画像の撮像結果として記憶部50に記憶する。同様に、第2信号処理部402は、被写体の像に対応する2次元表示となるように第2撮像画像信号を配列し、第2撮像画像の撮像結果として記憶部50に記憶する。
【0022】
尚、距離計測の際に、制御部70は、レンズ20の焦点距離fに対応する位置をレンズ20から撮像素子31までの位置とし、計測対象の被写体の結像面が撮像素子31から撮像素子32までの間となるようにレンズ駆動用アクチュエータ60を制御する。レンズ20を単焦点レンズとした場合には、計測範囲を予め定め、レンズ20の焦点距離fに対応する位置をレンズ20から撮像素子31までの位置とし、計測対象の被写体の結像面が撮像素子31から撮像素子32までの間となるように予め設定しておけばよい。このために、
図1における図示を省略するが、撮像素子31と撮像素子32との間の間隔を調整するためのアクチュエータを設けるのが有効である。したがって、撮像素子31で撮像された第1撮像画像の撮像結果と、撮像素子32で撮像された第2撮像画像の撮像結果との間で、撮像される被写体の像のボケ量が各撮像素子で異なるものとなる。
【0023】
また、撮像素子31及び撮像素子32は、撮像素子31及び撮像素子32で撮像される当該被写体の像のボケ量の差が、レンズ20の焦点距離f及び口径比(F値)、当該被写体からレンズ20までの距離、レンズ20から撮像素子31までの距離、及び、レンズ20から撮像素子32までの距離に依存する予め定めた間隔でレンズ20の光軸上に配置される。
【0024】
続いて、制御部70は、測距演算部703により、記憶部50に記憶された第1撮像画像の撮像結果及び第2撮像画像の撮像結果を読み出し、第1撮像画像の撮像結果及び第2撮像画像の撮像結果のボケ量の差に基づいて被写体からレンズ20までの距離を演算する。
【0025】
測距演算の原理については、
図2を参照して詳細に説明するが、測距演算部703は、被写体の像のボケ量の差を、撮像素子31からレンズ20による当該被写体の結像面までのボケ径と撮像素子32からレンズ20による当該被写体の結像面までのボケ径との差分にレンズ20の口径比(F値)を乗じた値から求め、撮像素子31による撮像結果と撮像素子32による撮像結果のうち、いずれか一方の撮像結果に対してボケ径の差分のn(nは、0以上の整数)倍のぼかし処理を施して他方の撮像結果と比較し、最もマッチングする当該被写体の像の領域についてボケ径の差分のn倍の値を基にレンズ20までの距離を演算する。
【0026】
最後に、制御部70は、記録表示制御部704により、被写体からレンズ20までの距離の演算結果を示すデータを記憶部50に記憶し、操作部100からの指示に応じて表示部80に表示し、或いは出力IF90を介して外部装置に出力する。
【0027】
被写体の撮影画像とともに、被写体からレンズ20までの距離の演算結果を示すデータを表示部80に表示するように構成する場合には、例えば、制御部70は、撮影を指示するシャッターボタンの半押し状態で、撮影領域を定めるためにレンズ駆動用アクチュエータ60を制御して合焦位置を決定して撮影領域内の被写体までの距離計測の動作に移行し、撮影を指示するシャッターボタンの全押し状態で、そのまま撮影動作に移行するか、又は当該被写体の結像面が撮像素子31上、又は撮像素子32上となるようにレンズ駆動用アクチュエータ60を更に制御して合焦位置を合わせて撮影動作に移行することで、被写体の撮像画像とともに、被写体からレンズ20までの距離の演算結果を示すデータを表示部80に表示することができる。
【0028】
以下、測距演算部703における測距演算に関して、より詳細に説明する。
【0029】
前述したように、有機材料の光電変換膜の性質を利用すれば、例えば緑色光の50%を光電変換し、残りの50%を透過させる撮像素子を実現することができる。また、本実施の形態の多重フォーカスカメラ10では、測距演算にあたり、有機材料の光電変換膜を用いた撮像素子31により、入射光のうち所定の光吸収率で光を吸収して光電変換し被写体の像を撮像し、撮像素子32により、撮像素子31を透過した光を光電変換し当該被写体の像を撮像する。撮像素子31及び撮像素子32は、予め定めた間隔でレンズ20の光軸上に配置している。
【0030】
図2は、撮像装置30の断面構造を示す図である。
【0031】
撮像装置30は、レンズ30A、撮像素子31、回路31A、ガラス基板30B、撮像素子32、及びシリコン基板30Cを含む。
【0032】
レンズ30Aは、集光レンズとして機能するレンズであり、光入射側が凸形状になった平面視で円形の凸レンズである。レンズ30Aは、画素毎に設けられており、マイクロレンズアレイによって構成される。
【0033】
撮像素子31は、回路31A及びガラス基板30Bの上に配設される。撮像素子31は、一例として、アモルファスSe(セレン)膜を有する。アモルファスSe膜は、抵抗加熱蒸着法によって回路31A及びガラス基板30Bの上に成膜すればよい。
【0034】
ここで、セレン系の光電変換膜は、波長が約600nm以下の可視光を光電変換し、波長が約600nmよりも長波長側の赤色光や赤外光を透過する性質がある。撮像素子31をアモルファスSeで形成するのは、可視光に感度を有する撮像素子を得るためである。
【0035】
アモルファスSe膜の厚さは、50nmから300nmであることが好ましい。アモルファスSe膜は、電圧を印加することによってアバランシェ増倍現象を生じる。アモルファスSe膜の上面及び下面には、例えば、IZO(Indium Zinc Oxide)又はITO(Indium Tin Oxide)で導電膜を透明な形成すればよい。
【0036】
なお、アモルファスSe膜を200℃〜400℃で加熱して結晶Se膜としてもよい。また、アモルファスSe膜の上にカラーフィルタを設けて分光し、カラー撮像を行うようにしてもよい。
【0037】
回路31Aは、ガラス基板30Bの上面に配置され、撮像素子31が出力する撮像信号を読み出す回路と、撮像素子31を駆動する回路とを含む。回路31は、ガラス基板30Bの上面に、例えば、IGZOのような透明な酸化物半導体や、IZOやITOのような透明な導電材料や、Au、Ag、Mg等の薄膜金属層を用いて形成すればよい。
【0038】
ガラス基板30Bは、例えば、石英ガラス基板を用いることができる。ガラス基板30Bの表面に回路31Aを形成し、その上に撮像素子31を形成すればよい。このように回路31Aと撮像素子31を形成したガラス基板30Bを、撮像素子32が形成されたシリコン基板30Cと貼り合わせればよい。
【0039】
なお、ガラス基板30Bの厚さは、1μm〜2mmであればよい。すなわち、撮像素子31のアモルファスSe膜の下面と、撮像素子32の上面との間には、1μm〜2mmの間隔が保たれる。
【0040】
撮像素子32は、シリコン基板30Cの表面に形成される。撮像素子32は、例えば、フォトダイオードやCMOS(Complementary Metal Oxide Semiconductor)で構成することができる。撮像素子32をシリコンで形成するのは、赤外線に感度を有する撮像素子を得るためである。
【0041】
シリコン基板30Cには、撮像素子32の他に、撮像素子32で撮像した画像信号を読み出す読み出し回路と、撮像素子32を駆動する駆動回路とを形成すればよい。これらの回路は、半導体製造技術を用いて作製すればよい。
【0042】
なお、ここでは、シリコン基板30Cの表面に撮像素子32を形成する形態について説明するが、シリコン基板30Cの代わりに、CdTe(カドミウムテルル)基板を用いて、撮像素子32をCdTeで作製してもよい。CdTeも赤外線に感度を有するからである。
【0043】
このような撮像装置30において、アモルファスSe膜を有する撮像素子31は、可視光を吸収し、赤外光を透過する。撮像素子31を透過した赤外光は、ガラス基板30Bを透過して、撮像素子32に入射し、撮像素子32で光電変換される。
【0044】
撮像素子31と撮像素子32との間には、1μm〜2mmの間隔が保たれるため、撮像素子31又は32のどちらか一方が被写体に焦点を合わせて撮影すれば、どちらか他方は焦点が合っていない状態で撮影することになる。
【0045】
撮像装置30は、このように撮像素子31又は32のどちらか一方から被写体に焦点を合わせて撮影した撮像信号を取得し、どちらか他方から被写体に焦点が合っていない状態で撮影した撮像信号(画像ボケを含む撮像信号)を取得し、これら2つの撮像信号に基づいて、レンズ30Aから被写体までの距離を演算する。
【0046】
なお、撮像装置30は、撮像素子31が被写体に焦点を合わせた状態で撮影すれば、可視光での撮像信号を取得でき、撮像素子32が被写体に焦点を合わせた状態で撮影すれば、赤外光での撮像信号を取得できる撮像装置である。
【0047】
図3は、DFD(Depth From Defocus)による距離を演算する原理を説明する図である。
【0048】
DFDは取得した画像のボケから、距離を演算する技術である。
【0049】
F値や焦点距離が既知のレンズを用いて点光源を撮像したとき、ボケの半径rは式(1)で表すことができる。
【0050】
【数1】
ここで、FはレンズのF値、fはレンズの焦点距離、aは被写体からレンズの距離、bはレンズから撮像素子の距離を示している。点光源のような被写体を撮像し、ボケの半径rを取得することで被写体からレンズまでの距離が演算できる。しかしながら、任意の物体を撮像したときは、ボケの半径rの測定は困難である。そこで、2枚の撮像画像のボケ径の差分を用いることで、距離を推定する。
【0051】
図3は、本実施形態の多重フォーカスカメラ10における測距演算の説明図である。
図3では、被写体O
b1からレンズ20までの距離a
1とレンズ20から結像面O
b1'までの距離b
1とがレンズ20の焦点距離fで定まる関係にあり、同様に、被写体O
b2からレンズ20までの距離a
2とレンズ20から結像面O
b2'までの距離b
2とがレンズ20の焦点距離fで定まる関係にあり、被写体O
b1の結像面O
b1'が第1撮像素子31上であり、被写体O
b2の結像面O
b2'が第2撮像素子32上となる配置関係にある様子を示している。このとき、被写体O
b3からレンズ20までの距離a
3とレンズ20から結像面O
b3'までの距離b
3も、レンズ20の焦点距離fで定義される位置に配置される。
図1において、a
1 > a
3 > a
2である。
【0052】
即ち、被写体からレンズ20までの距離aと、レンズ20から結像面までの距離bと、レンズ20の焦点距離fの間には式(2)の関係がある。
【0054】
また、レンズ20から結像面までの距離bからδだけ離れた位置のボケ径dはレンズ20の口径比(F値)Fを用いて、式(3)で表される。
【0056】
ここで、第1撮像素子31における被写体O
b3のボケ径d
1はδ
1/F、第2撮像素子32における被写体O
b3のボケ径d
2はδ
2/Fと表されるので、第1撮像素子31及び第2撮像素子32で撮像した撮像結果の比較でボケ径の差分Δd=d
1−d
2を定め、ボケ径の差分Δd=d
1−d
2からボケ量の差δ
1−δ
2(=F(d
1−d
2))を求めることができる。またδ
1+δ
2=b
2−b
1なので、δ
1=1/2{(b
2−b
1)+F(d
1−d
2)}、δ
2=1/2{(b
2−b
1)−F(d
1−d
2)}と計算できる。さらに、b
3=1/2{(b
2+b
1)+F(d
1−d
2)}であり、a
3=b
3f/(b
3−f)によりレンズ20から被写体O
b3までの距離a
3を求めることができる。また、距離a
1,a
2についてもb
1,b
2から計算することができる。
【0057】
つまり、第1撮像素子31に結像する被写体の像と、第2撮像素子32に結像する被写体の像の2つの像が得られるように第1撮像素子31と第2撮像素子32との間の間隔が調整されているとき、第1撮像素子31から第2撮像素子32までの間に結像面がある任意の被写体についてレンズ20からの距離を求めることができる。しかしながら、実際の距離計測時には、被写体に関するレンズ20から結像面までの距離bについて、第1撮像素子31の位置b
1及び第2撮像素子32の位置b
2とし、第1撮像素子31による撮像結果と第2撮像素子32による撮像結果のうち、いずれか一方の撮像結果に対してボケ径の差分のn(nは、0以上の整数)倍のぼかし処理を施して他方の撮像結果との比較を繰り返してマッチング領域を抽出することにより、第1撮像素子31から第2撮像素子32までの間に結像面がある任意の被写体についてレンズ20までの距離を演算することができる。
【0058】
また、式(2)から分かるように、測定対象の被写体までの距離を無限大とするために、第1撮像素子31をレンズ20の焦点距離fに配置することが望ましい。このように、第1撮像素子31及び第2撮像素子32で撮像される被写体の像のボケ量の差が焦点距離f、口径比(F値)、被写体からレンズ20までの距離、レンズ20から第1撮像素子31までの距離及びレンズ20(
図1参照)から第2撮像素子32までの距離に依存することから、任意の被写体についてレンズ20までの距離を演算することができる。
【0059】
図4は、多重フォーカスカメラ10の制御部70が実行する処理の内容を示すフローチャートである。
【0060】
制御部70は、電源が投入されると処理を開始する(スタート)。
【0061】
制御部70は、撮像素子31及び32で撮像する(ステップS1)。
【0062】
次に、制御部70は、レンズ20のF値及び焦点距離を表すレンズ情報を用いて、ボケ径d
1、d
2、と距離b
3を求める(ステップS2)。
【0063】
次に、制御部70は、被写体からレンズ20までの距離a
3を求める(ステップS3)。
【0064】
次に、制御部70は、可視光の撮像又は赤外光の撮像のどちらが選択されたかを判定する(ステップS4)。
【0065】
制御部70は、ステップS4において、可視光の撮像が選択されたと判定すると、撮像素子31で焦点を合わせる(ステップS5)。
【0066】
次に、制御部70は、アバランシェ増倍を生じさせるための電圧の印加が選択されたか否かを判定する(ステップS6)。アバランシェ増倍による高感度化を行うか否かは、多重フォーカスカメラ10が操作部100で選択することができる。
【0067】
制御部70は、電圧の印加が選択された(S6:YES)と判定すると、電圧を印加する(ステップS7)。
【0068】
次に、制御部70は、可視光の高感度撮像を行う(ステップS8)。
【0069】
一方、制御部70は、電圧の印加が選択されなかった(S6:NO)と判定すると、フローをステップS8に進行させ、可視光の撮像を行う。
【0070】
また、制御部70は、ステップS4において、赤外光の撮像が選択されたと判定すると、撮像素子32で焦点を合わせる(ステップS9)。ステップS9の処理が終了すると、制御部70は、フローをステップS8に進行させ、赤外光の撮像を行う。
【0071】
なお、
図4のフローチャートでは、ステップS4、S5、S6において、制御部70が可視光の撮像又は赤外光の撮像のどちらが選択されたかを判定し、撮像素子31,32のいずれかに焦点を合わせるようにしているが、多重フォーカスカメラの操作者が可視光撮像素子31、32のいずれかに手動で焦点を合わせるようにしてもよい。
【0072】
以上により、撮像装置30を含む多重フォーカスカメラ10は、撮像素子31又は32のどちらか一方から被写体に焦点を合わせて撮影した撮像信号を取得し、どちらか他方から被写体に焦点が合っていない状態で撮影した撮像信号(画像ボケを含む撮像信号)を取得し、これら2つの撮像信号に基づいて、レンズ20から被写体までの距離を演算する。
【0073】
また、撮像素子31が被写体に焦点を合わせた状態で撮影すれば、可視光での撮像信号を取得でき、撮像素子32が被写体に焦点を合わせた状態で撮影すれば、赤外光での撮像信号を取得できる。
【0074】
また、撮像素子31と32との間に配設される回路31A及びガラス基板30Bは、撮像素子31を透過した赤外光を吸収することなく撮像装置32に案内する。
【0075】
従って、実施の形態によれば、画像を劣化させることなく、測距に必要な画像を容易に取得できる撮像装置を提供することができる。
【0076】
以上、本発明の例示的な実施の形態の撮像装置について説明したが、本発明は、具体的に開示された実施の形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。