(58)【調査した分野】(Int.Cl.,DB名)
前記レンズは、前記レンズが前記撮像装置本体に取り付けられた状態での周辺光量を前記レンズが前記撮像装置本体に取り付けられていない状態での周辺光量よりも低下させないレンズである請求項1に記載の撮像装置。
前記レンズは、前記レンズが前記撮像装置本体に取り付けられた状態での撮影画角を前記レンズが前記撮像装置本体に取り付けられていない状態での撮影画角よりも広くするレンズである請求項1または2に記載の撮像装置。
前記レンズは、前記レンズが前記撮像装置本体に取り付けられた状態での撮影画角を前記レンズが前記撮像装置本体に取り付けられていない状態での撮影画角よりも狭くするレンズである請求項1に記載の撮像装置。
前記フレネルゾーンパターンは第1のフレネルゾーンパターンと、前記第1のフレネルゾーンパターンとは各領域における局所的な空間周波数が同一であり、かつ前記局所的な空間周波数の位相が異なる第2のフレネルゾーンパターンと、を含み、
前記画像復元部は前記第1のフレネルゾーンパターン及び前記第2のフレネルゾーンパターンを前記投影像にそれぞれ乗算して、前記乗算画像として実部の画像と虚部の画像とからなる複素画像を生成し、前記複素画像を2次元複素フーリエ変換して前記空間領域の画像を再構成する請求項9に記載の撮像装置。
前記画像復元部は、合焦させる被写体距離に応じて拡大率の異なる前記第1のフレネルゾーンパターン及び前記第2のフレネルゾーンパターンを使用して前記複素画像を生成する請求項10に記載の撮像装置。
符号化開口と、被写体からの光が前記符号化開口を透過することにより投影された前記被写体の投影像を示す信号を出力する撮像素子と、前記信号に基づいて空間領域の画像を再構成する画像復元部と、を有する撮像装置本体であって、
前記撮像装置本体は、前記符号化開口よりも被写体側にレンズが取り付けられるレンズ取付部と、前記レンズのレンズ情報を取得するレンズ情報取得部とを有し、
前記符号化開口は、前記レンズの瞳の位置に配置され、
前記画像復元部は、前記空間領域の画像において前記レンズに起因する収差を補正する撮像装置本体。
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述した非特許文献1,2及び特許文献1に記載の技術ではリフォーカスが可能であり、焦点距離はf=2×β×dである。ここで、リフォーカスは、画像の再構成により所望の合焦距離に事後的に合焦させることであり、βはフレネルゾーンプレートのピッチを表し、dはイメージセンサとフレネルゾーンプレートとの間隔を表す。このような構成の撮像装置で画角(焦点距離)を変更する場合、フレネルゾーンプレートのピッチ及び/または位置を変更することになる。上記変更により以下に説明するデメリットが生じる。
【0007】
例えば、広角化する(焦点距離を短くする)場合は「(1)フレネルゾーンプレートのピッチを粗くする」または「(2)フレネルゾーンプレートをセンサに近づける(dの値を小さくする)」必要がある。(1)の場合はフレネルゾーンプレートにおいて光を透過させる領域と遮光する領域とにより構成されるパターンである縞の数が低下することにより画角分解能(解像度)が低下し、(2)の場合はフレネルゾーンプレートをイメージセンサに近づけるほどフレネルゾーンプレートとイメージセンサの位置精度への要求が高くなる。一方、望遠化する(焦点距離を長くする)場合は「(3)フレネルゾーンプレートのピッチを細かくする」または「(4)フレネルゾーンプレートをイメージセンサから離す(dの値を大きくする)」必要がある。(3)の場合は狭ピッチ化が必要とされることにより製造難度が上昇し、(4)の場合光の回折によりイメージセンサ上においてフレネルゾーンプレートの像がボケて再構成画像の画質が低下する。
【0008】
このように、従来の技術では、符号化開口を有する撮像装置においてリフォーカス機能を維持しながら画角を変更することが困難であった。
【0009】
本発明はこのような事情に鑑みてなされたもので、符号化開口を有する撮像装置において、リフォーカス機能を維持しながら画角を変更可能とすることを目的とする。
【課題を解決するための手段】
【0010】
上述した目的を達成するため、本発明の第1の態様に係る撮像装置は、符号化開口と、被写体の投影像を示す信号を出力する撮像素子と、信号に基づいて空間領域の画像を再構成する画像復元部と、を有する撮像装置本体と、撮像装置本体に対し符号化開口よりも被写体側に取り付けられるレンズであって、レンズが撮像装置本体に取り付けられた状態での撮影画角をレンズが撮像装置本体に取り付けられていない状態での撮影画角に対して変化させるレンズと、を備え、被写体からの光がレンズ及び符号化開口を透過して撮像素子に投影像が形成される。
【0011】
第1の態様に係る撮像装置によれば、符号化開口によるリフォーカス機能を有し、さらにレンズの装着により画角を変更することができる。
【0012】
第1の態様において、符号化開口として例えばピンホール、2次元方向に配置された複数の開口、フレネルゾーンプレート、2次元バーコード状の符号化マスクを用いることができる(これら符号化開口の数、位置、大きさ、形状、配置間隔等の性質は既知であるものとする)。また、符号化開口はレンズの瞳(絞り)の位置に配置することができる。なお、撮像装置本体に取り付けられるレンズの画角は固定されていてもよいし、変更可能なレンズ、例えば、ズームレンズ、でもよい。
【0013】
第2の態様に係る撮像装置は第1の態様において、レンズは、レンズが撮像装置本体に取り付けられた状態での周辺光量をレンズが撮像装置本体に取り付けられていない状態での周辺光量よりも低下させないレンズである。第2の態様によれば、レンズが周辺光量を低下させないので良好な画質の画像を得ることができる。
【0014】
第3の態様に係る撮像装置は第1または第2の態様において、レンズは、レンズが撮像装置本体に取り付けられた状態での撮影画角をレンズが撮像装置本体に取り付けられていない状態での撮影画角よりも広くするレンズである。第3の態様におけるレンズはいわゆる「ワイドコンバージョンレンズ」であり、レンズが取り付けられていない場合よりも広画角で撮影することができる。
【0015】
第4の態様に係る撮像装置は第1の態様において、レンズは、レンズが撮像装置本体に取り付けられた状態での撮影画角をレンズが撮像装置本体に取り付けられていない状態での撮影画角よりも狭くするレンズである。第4の態様におけるレンズはいわゆる「テレコンバージョンレンズ」であり、レンズが取り付けられていない場合よりも望遠で撮影することができる。
【0016】
第5の態様に係る撮像装置は第1から第4の態様のいずれか1つにおいて、レンズは撮像装置本体に対し取り付け及び取り外しされる交換レンズである。第5の態様によれば、撮影目的、撮影条件に応じて異なる画角、焦点距離のレンズを装着し(取り付け)、所望の条件で撮影することができる。
【0017】
第6の態様に係る撮像装置は第1から第5の態様のいずれか1つにおいて、撮像装置本体は、符号化開口よりも被写体側にレンズが取り付けられるレンズ取付部を有する。第6の態様において、レンズ取付部として例えばマウント、ネジ山、ネジ溝を挙げることができるが、これらに限定されるものではない。
【0018】
第7の態様に係る撮像装置は第1から第6の態様のいずれか1つにおいて、画像復元部は、空間領域の画像においてレンズに起因する収差を補正する。第7の態様ではレンズに起因する収差を補正するので、良好な画質の画像を得ることができる。収差の補正は画像を再構成する前に行ってもよいし、再構成の後で行ってもよい。再構成の前に収差を補正する場合、例えば投影像に乗算する符号化開口の形状及び/または大きさを、補正する収差の種類及び/または量に応じて変えることにより行うことができる。一方、再構成の後で収差を補正する場合、例えば補正する収差の種類及び/または程度、画像における位置等の条件に応じて異なるフィルタ(例えば、点像復元用のフィルタ等)を適用する等の画像処理により行うことができる。ただし、本発明における収差の補正はこのような態様に限定されるものではない。
【0019】
第8の態様に係る撮像装置は第7の態様において、レンズの情報を取得するレンズ情報取得部を備え、画像復元部は取得した情報に基づいて収差を補正する。第8の態様によればレンズの情報に基づいて正確かつ容易に収差を補正することができる。なお、レンズの情報を記憶するレンズ情報記憶部をレンズに備え、レンズ情報取得部がレンズ情報記憶部から情報を取得してもよい。このようなレンズ情報記憶部は非一時的記録媒体を用いて構成することができる。
【0020】
本発明の第9の態様に係る撮像装置は第1から第8の態様のいずれか1つにおいて、符号化開口はフレネルゾーンプレートであり、画像復元部は、フレネルゾーンプレートにより撮像素子に形成される投影像に対しフレネルゾーンプレートに対応したフレネルゾーンパターンを乗算して乗算画像を生成し、乗算画像をフーリエ変換して空間領域の画像を再構成する。第9の態様は画像再構成の具体的態様を規定するものである。
【0021】
第10の態様に係る撮像装置は第9の態様において、フレネルゾーンパターンは第1のフレネルゾーンパターンと、第1のフレネルゾーンパターンとは各領域における局所的な空間周波数が同一であり、かつ局所的な空間周波数の位相が異なる第2のフレネルゾーンパターンと、を含み、画像復元部は第1のフレネルゾーンパターン及び第2のフレネルゾーンパターンを投影像にそれぞれ乗算して、乗算画像として実部の画像と虚部の画像とからなる複素画像を生成し、複素画像を2次元複素フーリエ変換して空間領域の画像を再構成する。第10の態様は画像再構成の他の具体的態様を規定するものにより、被写体像の重なりがなく画質が良好な再構成画像を得ることができる。なお第10の態様において、第1のフレネルゾーンパターンと第2のフレネルゾーンパターンとの位相のずれは70度以上110度以下であることが好ましい。位相のずれがこの範囲であれば、いっそう良好な画質の画像が得られるからである。
【0022】
本発明の第11の態様に係る撮像装置は第10の態様において、画像復元部は、合焦させる被写体距離に応じて拡大率の異なる第1のフレネルゾーンパターン及び第2のフレネルゾーンパターンを使用して複素画像を生成する。第11の態様によれば、合焦させる被写体距離に応じて拡大率の異なるフレネルゾーンパターンを用いることにより、所望の被写体距離で合焦した画像を得ることができる。
【0023】
本発明の第12の態様に係る撮像装置本体は、符号化開口と、被写体からの光が符号化開口を透過することにより投影された被写体の投影像を示す信号を出力する撮像素子と、信号に基づいて空間領域の画像を再構成する画像復元部と、を有する撮像装置本体であって、撮像装置本体は、符号化開口よりも被写体側にレンズが取り付けられるレンズ取付部と、レンズのレンズ情報を取得するレンズ情報取得部とを有し、画像復元部は、空間領域の画像においてレンズに起因する収差を補正する。
【発明の効果】
【0024】
以上説明したように、本発明の撮像装置によれば符号化開口によるリフォーカス機能を維持しながら画角を変更することができる。
【発明を実施するための形態】
【0026】
以下、添付図面を参照しつつ、本発明に係る撮像装置を実施するための形態について詳細に説明する。
【0027】
<第1の実施形態>
<撮像装置の構成>
図1は第1の実施形態に係る撮像装置10(撮像装置)の構成を示すブロック図である。撮像装置10は、レンズ装置100(レンズ、交換レンズ)と撮像装置本体200(撮像装置本体)とを備える。撮像装置10はデジタルカメラの他、スマートフォン、タブレット端末、監視カメラ、検査用カメラ等に適用できるが、適用対象はこれらの機器に限定されるものではない。
【0028】
<レンズ装置の構成>
レンズ装置100はレンズ300(レンズ、交換レンズ)を備える。レンズ300は、撮像装置本体200に対し装着(フレネルゾーンプレート210よりも被写体側)することにより、装着されていない状態よりも撮影画角を広くするレンズ(ワイドコンバージョンレンズ)である。レンズ装置100と撮像装置本体200とはレンズ側マウント130及び本体側マウント270(レンズ取付部)を介して装着(取り付け)される。レンズ装置100と撮像装置本体200とは装着されると、レンズ側端子132と本体側端子272とが接触してレンズ装置100と撮像装置本体200との間での通信が可能になる。メモリ120(レンズ情報記憶部)にはレンズ300の情報が記憶されており、記憶された情報は画像処理部230からの指令により取得される。例えば、レンズ300のレンズ構成、焦点距離、撮影画角、F値、収差の種類及び値等をメモリ120に記憶しておくことができる。これらの情報はレンズ300(レンズ装置100)の製造後に測定してメモリ120に記憶させてもよいし、設計値を記憶させてもよい。また、操作部260の操作により入力した情報を用いてもよい。
【0029】
レンズ装置100は、ユーザの操作により撮像装置本体200に対し取り付け及び取り外しされことができるため、これにより、撮影目的、撮影条件等に応じて異なる画角、焦点距離のレンズを装着し所望の条件で撮影することができる。例えば、レンズ装置100に代えて、レンズ400を有するレンズ装置102(
図2参照)を撮像装置本体200に装着することができる。レンズ400は、撮像装置本体200に対し装着することにより、装着されていない状態よりも撮影画角を狭くするレンズ(テレコンバージョンレンズ)である。なお、
図1及び
図2ではレンズ300及び400の構成を簡略化して表示している。レンズ300及び400の具体的な構成は後述する。また、
図1ではレンズ装置100,102がレンズ側マウント130及び本体側マウント270を介して撮像装置本体200に装着される場合について説明したが、撮像装置本体200への装着はこのような態様に限定されるものではない。この他にも、例えばレンズ装置100,102と撮像装置本体200との一方に設けたネジ山(レンズ取付部)と、他方に設けられネジ山に対応したネジ溝(レンズ取付部)とにより行ってもよい。なお、レンズ300,400はフレネルゾーンプレート210よりも被写体側(物体側)に取り付けられる。
【0030】
<撮像装置本体の構成>
撮像装置本体200は、フレネルゾーンプレート210(フレネルゾーンプレート、符号化開口)と撮像素子220(撮像素子)とを備え、被写体からの光がレンズ300(またはレンズ400)とフレネルゾーンプレート210とを透過して形成された投影像を撮像素子220により取得する。フレネルゾーンプレート210は、中心が撮像素子220の中心と一致し、かつ撮像素子220の撮像面220A(受光面)と平行な状態で撮像素子220の撮像面側に配置される。フレネルゾーンプレート210は撮像装置本体200に対し交換可能でもよい。特性(大きさ、ピッチ、位相、イメージセンサとの距離等)の異なるフレネルゾーンプレートを使い分けることによって、取得する投影像の特性(画角、深度(距離測定精度)等)を制御し、所望の特性の画像を再構成することができる。なお、以下の説明においてフレネルゾーンプレート(Fresnel Zone Plate)を「FZP」と記載する場合がある。
【0031】
<フレネルゾーンプレートの構成>
図3の(a)部分は、フレネルゾーンプレート210の例であるFZP1を示す図である。FZP1では、入射する光の透過率がFZP1のパターンに従って中心からの距離に応じて連続的に変化しており、白色に近い領域(透過領域)ほど光の透過率が高く、黒色に近い領域(遮光領域)ほど光の透過率が低い。全体としては透過領域と遮光領域とが交互に同心円状に配置された状態となっており、これら透過領域及び遮光領域がフレネルゾーンプレートを構成する。同心円の間隔は、FZP1の中心から周辺に向かうにつれて狭くなる。このような同心円状のパターン(局所的な空間周波数の変化)は後述する式(2),(3),(7)等により表され、これらの式における同心円の細かさを「ピッチ」と呼ぶ。ピッチは上述したβの値によって定まり、βが小さいと粗いパターンになり、βが大きいと細かいパターンになる。撮像装置本体200にメモリを設けてピッチの情報(βの値)を記憶しておき、画像処理部230(情報取得部230E)がこの情報を取得して使用してもよい。
【0032】
フレネルゾーンプレート210の光軸L(
図1参照)は、FZP及び撮像素子220の中心を通りFZP及び撮像素子220の撮像面220Aと垂直な軸である。FZPは撮像素子220に近接して配置される。撮像素子220との距離によっては光の回折により投影像がぼけるので、離しすぎないことが好ましい。
【0033】
図3の(b)部分は、フレネルゾーンプレートの他の例であるFZP2を示す図である。FZP2は、FZP1のパターンに対して透過率にしきい値を設定して、透過率がしきい値を超える領域は透過率100%の透過領域(白色の部分)、しきい値以下の領域は透過率0%の遮光領域(黒色の部分)としたものであり、透過率が中心からの距離に応じて不連続的に(0%または100%の2段階に)変化する。全体としては透過領域と遮光領域とが交互に同心円状に配置された状態となっており、これら透過領域及び遮光領域がフレネルゾーンプレートを構成する。このように、本発明における「フレネルゾーンプレート」はFZP1のような態様及びFZP2のような態様を含む。これに対応して、本発明における「フレネルゾーンパターン」は透過率が連続的に変化するパターン及び透過率が不連続に変化するパターンを含む。なお、
図3に示すようなフレネルゾーンプレートの周辺部分に遮光部(遮光領域と同様に、光が透過しない領域)を設けて、撮像素子220の周辺部分に不要な光が入射するのを防止してもよい。
【0034】
<撮像素子の構成>
撮像素子220は、2次元方向に配列された光電変換素子により構成される複数の画素を有するイメージセンサである。各画素にマイクロレンズを設けて集光効率を上げてもよい。また、各画素にカラーフィルタ(例えば赤色、青色、及び緑色)を配設してカラー画像を再構成できるようにしてもよい。この場合、投影像の取得に際しては、通常のデジタルカメラにおけるカラー画像生成の際のデモザイク処理(同時化処理ともいう)と同様に、カラーフィルタの配列パターンに応じた補間処理が行われる。この補間処理により各画素(受光素子)における不足した色の信号が生成され、全画素において各色(例えば赤色、青色、及び緑色)の信号が得られる。このような処理は、画像処理部230により行うことができる。
【0035】
撮像装置本体200は、上述したフレネルゾーンプレート210及び撮像素子220の他に、画像処理部230と、記憶部240と、表示部250と、操作部260とを備え、フレネルゾーンプレート210及び撮像素子220により取得した投影像に基づく被写体の画像復元等を行う。
【0036】
<画像処理部の構成>
図4は画像処理部230(画像復元部)の構成を示す図である。画像処理部230は、投影像入力部230Aと、乗算画像生成部230B(画像復元部)と、フーリエ変換部230C(画像復元部)と、収差補正部230D(画像復元部)と、情報取得部230E(レンズ情報取得部)と、表示制御部230Fと、を有する。投影像入力部230Aは、撮像素子220を制御して、被写体からの光がFZPに入射して撮像素子220に形成された投影像を撮像素子220から取得する。乗算画像生成部230Bは、局所的な空間周波数が同一であり、かつ局所的な空間周波数の位相が異なる複数のフレネルゾーンパターン(第1,第2のフレネルゾーンパターン)を投影像に乗算して、実部の画像と虚部の画像とからなる複素画像を生成する。フーリエ変換部230Cは、複素画像を2次元複素フーリエ変換することにより空間領域の画像を再構成する。収差補正部230Dは、空間領域の画像においてレンズ300またはレンズ400に起因する収差(非点収差、球面収差、コマ収差、歪曲収差、軸上色収差、倍率色収差等)を補正する。情報取得部230Eは、レンズ装置100のメモリ120に記憶されたレンズ300の情報(例えば、レンズ構成、焦点距離、撮影画角、F値、収差の種類及び値等)を取得する。また情報取得部230Eは、投影像の取得に用いたフレネルゾーンプレート210の情報(ピッチの情報)を取得する。表示制御部230Fは、投影像、複素画像、再構成画像等の表示部250への表示制御を行う。ROM230G(非一時的記録媒体)には、画像の再構成を行うプログラム等、撮像装置10が動作するための各種プログラムのコンピュータ(プロセッサ)読み取り可能なコードが記録される。
【0037】
上述した画像処理部230の機能は、各種のプロセッサ(processor)を用いて実現できる。各種のプロセッサには、例えばソフトウェア(プログラム)を実行して各種の機能を実現する汎用的なプロセッサであるCPU(Central Processing Unit)が含まれる。また、上述した各種のプロセッサには、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)も含まれる。さらに、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路なども上述した各種のプロセッサに含まれる。
【0038】
各部の機能は1つのプロセッサにより実現されてもよいし、複数のプロセッサを組み合わせて実現されてもよい。また、複数の機能を1つのプロセッサで実現してもよい。複数の機能を1つのプロセッサで構成する例としては、第1に、クライアント、サーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の機能として実現する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、システム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウェア的な構造として、上述した各種のプロセッサを1つ以上用いて構成される。
【0039】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
【0040】
上述したプロセッサ(あるいは電気回路)がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのコンピュータ読み取り可能なコードをROM230G等の非一時的記録媒体に記憶しておき、プロセッサがそのソフトウェアを参照する。ソフトウェアを用いた処理の際には例えばRAM(Random Access Memory)が一時的記憶領域として用いられ、また例えばEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータが参照される。なお、
図4ではRAM,EEPROM等のデバイスの図示は省略する。
【0041】
<記憶部の構成>
記憶部240はCD(Compact Disk)、DVD(Digital Versatile Disk)、ハードディスク(Hard Disk)、各種半導体メモリ等の非一時的記録媒体により構成され、
図5に示す画像及び情報を互いに関連づけて記憶する。レンズ情報240Aは、レンズ装置100から取得したレンズ300の情報(例えば、レンズ構成、焦点距離、撮影画角、F値、収差の種類及び値等)である。投影像240Bは、撮像素子220から取得した投影像である。フレネルゾーンプレート情報240Cはフレネルゾーンプレート210の局所的な空間周波数の情報(βの値等のピッチ情報を含む)である。フレネルゾーンプレート情報240Cは撮像素子220から取得した情報でもよいし、操作部260を介して入力した情報でもよい。フレネルゾーンパターン情報240Dはフレネルゾーンパターンを示す情報であり、局所的な空間周波数の位相が異なる複数のフレネルゾーンパターンについて記録することが好ましい。乗算画像240Eは、フレネルゾーンパターン情報240Dが示すフレネルゾーンパターン(第1,第2のフレネルゾーンパターン)を投影像に乗算して得られた、実部の画像と虚部の画像とからなる複素画像である。再構成画像240Fは、乗算画像240Eを2次元複素フーリエ変換して得られた空間領域の画像である。
【0042】
<表示部及び操作部の構成>
表示部250は図示せぬ液晶ディスプレイ等の表示装置を含んで構成され、投影像、乗算画像、再構成画像等を表示するとともに、操作部260を介した指示入力時のUI(User Interface)用の画面表示にも用いられる。操作部260は図示せぬキーボード、マウス、ボタン、スイッチ等のデバイスにより構成され、ユーザはこれらデバイスにより投影像取得指示、画像再構成指示、合焦距離の条件、局所的な空間周波数の情報(ピッチ、位相)等を入力することができる。なお、表示部250の表示装置をタッチパネルにより構成し、画像表示の他に操作部260として用いてもよい。
【0043】
<レンズの具体的構成>
<実施例1>
図6の(a)部分はレンズ300、フレネルゾーンプレート210、及び撮像素子220の撮像面220Aの配置を示す図である。レンズ300は物体側(被写体側)から順に負のパワー(屈折力、以下同じ)を有する前群310と正のパワーを有する後群320から構成されるワイドコンバージョンレンズであり、レンズ302,304,306,308から構成される。フレネルゾーンプレート210はレンズ300の瞳の位置(絞りの位置)に配置される。
【0044】
<実施例2>
図6の(b)部分はレンズ400、フレネルゾーンプレート210、及び撮像素子220の撮像面220Aの配置を示す図である。レンズ400はテレコンバージョンレンズであり、レンズ402,404,406,408から構成される。フレネルゾーンプレート210はレンズ400の瞳の位置(絞りの位置)に配置される。
【0045】
なお、レンズ300,400の画角は固定されているが、本発明の撮像装置において撮像装置本体に取り付けられるレンズは、画角(焦点距離)が可変のズームレンズでもよい。
【0046】
<光路図>
図7の(a)部分は、レンズ300の瞳の位置に理想レンズI1(収差がゼロであるレンズ)を配置した状態における、レンズ300に対する軸上光束B1及び最大画角の光束B2の光路を示す図である。なお、実際は理想レンズI1の位置にフレネルゾーンプレート210が配置され、光束が波面として進行するので、フレネルゾーンプレート210以降(撮像素子220側)については点線部分のような光路となるわけではないが、参考のため理想レンズI1を配置した場合の光路を示している。同様に、
図7の(b)部分は、レンズ400の瞳の位置に理想レンズI2(収差がゼロであるレンズ)を配置した状態におけるレンズ400に対する軸上光束B3及び最大画角の光束B4の光路を示す図である。なお、実際は理想レンズI2の位置にフレネルゾーンプレート210が配置され光束が波面として進行するので、フレネルゾーンプレート210以降(撮像素子220側)については点線部分のような光路となるわけではないが、参考のため理想レンズI2を配置した場合の光路を示している。理想レンズI1,I2の特性は、f’=1mm、IH=9.407、FNo.=2.88、2ω=41.2degである。なお、理想レンズI1,I2のレンズデータは、規格化により瞳と撮像面220Aの間隔を1mm(すなわち、理想レンズI2,I2と撮像面220Aの間隔が1mm)とした場合のデータである。なお、mmはミリメートルを表し、degは角度を表す。
【0047】
<レンズデータ>
図8の(a)部分はレンズ300のレンズデータを示す表である。表中、面番号に「*」を付した面は非球面であることを示す。同様に、
図8の(b)部分はレンズ400のレンズデータを示す表である。なお、
図8におけるレンズデータは規格化により瞳と撮像面220Aの間隔を1mm(すなわち、フレネルゾーンプレート210と撮像面220Aの間隔が1mm)とした場合のデータである。焦点距離を変える等により間隔がk倍となった場合は曲率半径、面間隔もk倍になる。
【0048】
図9はレンズ300についての非球面係数を示す表である。レンズ表面の中心を原点とし、光軸がx軸である場合、レンズ表面の非球面形状は以下の式(1)によって表示される。なおcは近軸曲率半径の逆数(近軸曲率)であり、hiは光軸からの高さであり、κは円錐乗数であり、Aiが非球面係数である。
【0050】
<縦収差図>
図10の(a)部分〜(d)部分は、それぞれレンズ300の球面収差、非点収差、歪曲収差、及び倍率色収差を示す図である。同様に、
図11の(a)部分〜(d)部分は、それぞれレンズ400の球面収差、非点収差、歪曲収差、及び倍率色収差を示す図である。
【0051】
<実施例の諸元>
図12は実施例1,2の諸元を示す表である。上述した構成により、実施例1(レンズ300を装着する場合)では元の光学系(画角が20.6deg)に対し画角が変化している(60.0degと広くなっている)ことが分かる。同様に、実施例2(レンズ400を装着する場合)では元の光学系(画角が24.8deg)に対し画角が変化している(17.8degと狭くなっている)ことが分かる。なお、実施例1,2における「元の光学系」はフレネルゾーンプレート210のような符号化開口を用いた光学系(焦点距離は1.0mm)である。
【0052】
<周辺光量>
図13は実施例1についての周辺光量算出のための条件式を示す表であり、表中のパラメータの意味は以下の通りである。なお、Cs,Ct,Mt,Msの定義を
図14の(a)部分,(b)部分,及び(c)部分に示す。
図14の(b)部分は平面P1を示す図であり、
図14の(c)部分は平面P2を示す図である。平面P1,P2はそれぞれ軸上光束B1の主光線L1,最大画角の光束B2の主光線L2に垂直な面である。
【0053】
Cs :最も物体側の面に入射する軸上光束のサジタル方向(接線方向)の長さ
Ms :最も物体側の面に入射する最大画角の光束のサジタル方向の長さ
DA :ワイドコンバージョンレンズ(レンズ300)中の最大の空気間隔
Ff :DAより物体側のレンズ群の焦点距離
Ct :最も物体側の面に入射する軸上光束のタンジェンシャル方向(放射方向)の長さ
Mt :最も物体側の面に入射する最大画角の光束のタンジェンシャル方向の長さを、主光線に垂直な面に射影したときの長さ
WCTL:ワイドコンバージョンレンズの第1面から最終面までの長さ
WCf :ワイドコンバージョンレンズの焦点距離
Dist:ワイドコンバージョンレンズを理想レンズに装着したときの光学ディストーション
図15は、実施例1における、理想レンズ及び(ワイドコンバージョンレンズ(レンズ300)+理想レンズ)についての周辺光量比(光軸上を100%とし、半画角γに対し(cosγ)の4乗で示される)を示すグラフである。半画角γが30degの場合、理想レンズの周辺光量比は約56%であるが、(ワイドコンバージョンレンズ+理想レンズ)の場合約98%であり、周辺光量比が向上していることが分かる。
【0054】
<画像の再構成>
上述した構成の撮像装置10による画像の再構成について説明する。
図16は画像の再構成処理を示すフローチャートである。
【0055】
<投影像の入力>
ステップS100では、画像処理部230(投影像入力部230A)が撮像素子220から被写体の投影像を取得する。取得する投影像は、被写体からの光がフレネルゾーンプレート210に入射して撮像素子220に形成された投影像である。
【0056】
<局所的な空間周波数の情報>
ステップS110では、画像処理部230(情報取得部230E)が投影像取得に用いたフレネルゾーンプレート210の局所的な空間周波数の情報(フレネルゾーンプレート210のピッチ)を入力する。この情報は図示せぬメモリから入力してもよいし、操作部260に対するユーザの操作に応じて入力してもよい。また、ステップS100で取得した投影像を情報取得部230Eが解析して入力してもよい。ピッチはβの値により定まるので(後述する式(2)〜(4),(7)等を参照)、具体的にはβの値を入力すればよい。なお、既知の被写体(例えば、距離無限遠の点光源)を撮影した場合は、撮影画像を解析することによりピッチ(βの値)を取得することができる。また、ピッチ(βの値)を変えながら画像の再構成を繰り返し、鮮明な画像が得られる値を求めてもよい。
【0057】
<複素画像の生成>
ステップS120では、画像処理部230(乗算画像生成部230B)が投影像に第1,第2のフレネルゾーンパターンをそれぞれ乗算して、実部の画像と虚部の画像とからなる複素画像を生成する。ステップS120で乗算されるフレネルゾーンパターンは、記憶部240に記憶されたパターン(フレネルゾーンパターン情報240D)のうちステップS110で入力したピッチ(βの値)に応じて選択したパターンを用いることができる。また、記憶部240に記憶されたパターンをピッチ(βの値)に応じて変化(必要に応じて拡大または縮小してよい)させたパターンを用いることもできる。画像処理部230(乗算画像生成部230B)は、生成した複素画像を乗算画像240Eとして記憶部240に記憶する。
【0058】
<フレネルゾーンパターンの位相>
画像の復元において用いる第1のフレネルゾーンパターンは例えば
図17の(a)部分に示すパターン(中心での位相が0deg)とすることができ、これを投影像に乗算することにより実部の画像が得られる。また、第2のフレネルゾーンパターンは例えば
図17の(b)部分に示すパターン(第1のフレネルゾーンパターンとピッチが同じ、位相が90degずれている)とすることができ、これを投影像に乗算することにより虚部の画像が得られる。式(7)等について上述したように第1,第2のフレネルゾーンパターンの位相ずれは90degであることが好ましいが、正または負に70deg以上110deg以下の範囲であれば鮮明な画像を再構成することができる。第1のフレネルゾーンパターンまたは第2のフレネルゾーンパターンの局所的な空間周波数の位相を、フレネルゾーンプレート210の位相と同一にしてもよい。
【0059】
フレネルゾーンパターンを用いるに際しては、位相の異なる複数のフレネルゾーンパターンのデータをフレネルゾーンパターン情報240Dとして記憶部240に記憶しておき所望のパターンを選択して用いることができる。また、画像処理部230(乗算画像生成部230B)がピッチ及び位相の情報に基づいて所望のパターンを生成してもよい。このようなフレネルゾーンパターンは電子データであるフレネルゾーンパターン情報240Dとして記憶部240に記憶されるので、所望のパターンの選択及び生成を迅速かつ容易に行うことができる。また、複数のパターンに対応するプレート(基板)を有体物として保持することによる装置の大型化、製作コストの増加、複数のパターン間での特性のばらつき(製造時のばらつき、経時変化、温度変化を含む)による画質の劣化等の問題がない。
【0060】
<フレネルゾーンパターンの拡大率>
被写体(光源)が無限遠方に存在する場合は、フレネルゾーンプレート210には平行光が入射し、撮像素子220に形成される投影像はフレネルゾーンプレート210と同じ大きさになるが、被写体が有限距離に存在する場合は広がりを持った光が入射し、距離が近いほど投影像が大きくなる。したがって、合焦させる被写体距離に応じて拡大率が異なるパターンを第1,第2のフレネルゾーンパターンとして使用することにより、所望の距離に合焦した画像を得ることができる。例えば、被写体距離に応じた複数のパターンをフレネルゾーンパターン情報240Dとして記憶部240に記憶しておき、これを読み出して使用することができる。また、1つのフレネルゾーンパターンを基準パターンとして記憶しておき、被写体距離に応じて異なる拡大率で拡大してもよい。この場合、被写体距離無限大に対応しフレネルゾーンプレートと同じ大きさになるパターンを基準パターンとすることができる。
図18は、被写体距離に応じてフレネルゾーンパターンの拡大率が異なる様子を示す図である。
【0061】
なお、拡大率を変えながら複素画像の生成(ステップS120)及び画像の再構成(ステップS130)を繰り返し、再構成した画像の合焦評価値(例えば、画像中に設定した焦点評価領域における輝度信号の積分値)を最大にすることで鮮明な画像を取得してもよい。
【0062】
このように、第1の実施形態に係る撮像装置10はフレネルゾーンプレート210(符号化開口)及びフレネルゾーンパターンを用いてリフォーカスを行うことができる。
【0063】
<画像の再構成>
ステップS130では、画像処理部230(フーリエ変換部230C)が、複素画像を2次元複素フーリエ変換して被写体の画像(空間領域の画像)を再構成する(後述)。さらに、画像処理部230(収差補正部230D)は、再構成した画像(空間領域の画像)において、撮像装置本体200に装着されたレンズ(レンズ300,レンズ400等)に起因する収差(球面収差、コマ収差、歪曲収差、軸上色収差、倍率色収差等)を補正する。補正は、メモリ120から取得したレンズ情報240Aに基づいて行う。また、収差の補正は画像を再構成する前に行ってもよいし、再構成の後で行ってもよい。再構成の前に収差を補正する場合、例えば投影像に乗算するフレネルゾーンパターン(符号化開口)の形状及び/または大きさを、補正する収差の種類及び/または量に応じて変えることにより行うことができる。一方、再構成の後で収差を補正する場合、例えば補正する収差の種類及び/または程度、画像における位置等の条件に応じて異なるフィルタ(点像復元用のフィルタ等)を適用する等の画像処理により行うことができる。ただし、本発明における収差の補正はこのような態様に限定されるものではない。画像処理部230(表示制御部230F)は、再構成した画像を表示部250に表示する(ステップS140)。また、画像処理部230(フーリエ変換部230C)は、再構成した画像を再構成画像240Fとして記憶部240に記憶させる。
【0064】
<画像復元の詳細>
第1の実施形態における画像復元の詳細について、さらに詳細に説明する。符号化開口(フレネルゾーンプレート)のパターンI(r)は、式(2)によって表現される。
【0066】
I(r)の値が大きいほど、既定の波長帯域における光の透過率が大きくなる。rはフレネルゾーンプレートの半径、β(>0)はパターンの細かさ(ピッチ)を決める定数である。以下、マイナスの値を回避するために、式(3)のようにオフセットをつけて0から1の範囲に収めたI2(r)について考える。
【0068】
この符号化開口(フレネルゾーンプレート)が撮像素子のセンサ面上から距離dだけ離れて配置されていると仮定する。このとき、距離無限遠の点光源から入射角θで光(平行光)が入射したと仮定すると、符号化開口(フレネルゾーンプレート)の影はΔr(=d×tanθ)だけ平行移動してセンサ上に映る。平行移動した影S(r)は式(4)で表現される。
【0070】
I2(r)及びS(r)は本来2次元画像であり、2変数関数であるが、ここでは簡単のため中心と入射光源を含む平面で切断した断面上の1次元画像のみに注目して考える。しかし、以下の式(5)のように計算すれば容易に2次元の場合に拡張できる。
【0072】
撮影された影画像(投影像)は、計算機上で画像復元(再構成)されて出力される。画像復元プロセスにおいて、影画像は位置ずれしていないフレネルゾーン開口画像(フレネルゾーンパターン)と乗算される。この内部乗算される関数について、ここでは以下の式(6),(7)で表現される2つの関数の場合を考える。なお、虚数単位をjとする。
【0075】
Mr(r)はI(r)と同じ実数関数であるが、オフセット(直流成分)を除去したものである。従来技術(上述した非特許文献1,2及び特許文献1)における画像の再構成は、実数開口の投影像に対して実数関数Mr(r)で表されるフレネルゾーンパターンを乗算する場合に相当する。Mc(r)は複素数関数であり、Mc(r)=cosβr
2+j×sinβr
2=cosβr
2−j×cos(βr
2+π/2)なので、実部,虚部は位相が(π/2)、すなわち90degずれたフレネルゾーンパターンに対応する。Mc(r)の実数部(cosβr
2)はMr(r)と同じである。第1の実施形態では、このように複素数関数の実部,虚部にそれぞれ対応し位相が異なる2つのフレネルゾーンパターン(第1,第2のフレネルゾーンパターン)を投影像に乗算して、実部の画像と虚部の画像とからなる複素画像を生成する。
【0076】
内部乗算後の画像(乗算画像)は、それぞれの場合において以下の式(8),(9)により表現される。
【0079】
内部乗算画像にMr(r),Mc(r)を利用した場合である乗算後画像Fr(r),Fc(r)のそれぞれについて、第1項はオフセット補正などによって除去可能な成分である。第2項は重ね合わされたフレネルゾーン開口の間の「差の周波数」(2つの開口をcosα,cosφで表した場合、cos(α−φ)に対応する)が抽出されたモアレ干渉縞であり、これはフーリエ変換の基底と一致しているため、フーリエ変換を適用することによってデルタ関数に変換されて「点」となり結像に寄与する成分となる。第3項は「和の周波数」(cos(α+φ)に対応する)に相当し、これはフーリエ変換しても結像に寄与せずノイズとして働いてしまう成分となる。
【0080】
Fr(r),Fc(r)に対してそれぞれ適切にオフセット補正を適用し、第1項が消去された状態の画像をFr2(r),Fc2(r)とする。これらに対して実際にフーリエ変換を適用すると、Fr(r),Fc(r)のフーリエ変換をfr(k),fc(k)として、式(10),(11)により表現される。
【0083】
ここで、ξ(k,β,Δr)は実数の多項式である。これらに対して複素数の絶対値をとると復元画像が得られるが、fr(k)の場合(従来技術の場合)、第1項と第2項は原点に対称な2点を生じてしまうため、点対称に重なった復元画像となってしまう。これに対してfc(k)の場合(第1の実施形態の場合)、このような問題は起こらず正常に画像が再構成される。両者に共通しているのが、fr(r)の第3項とfc(r)の第2項はノイズとして作用する点であり、この項のせいで変調伝達関数(MTF:Modulation Transfer Function)は100%とはなり得ない、これはセンサによるノイズが存在しなくともMTFが100%とならないことを意味する。ただし、このノイズはβの値を大きくすると小さくなるため、βの値を大きくする(細かいパターンにする)ことによって影響を軽減させることは可能である。
【0084】
fc(k)(第1の実施形態の場合)の第1項について、位相は光の入射角に依存して回転してしまうが、これに対して複素数の絶対値をとると、無限遠光の到来に対応してデルタ関数(点)に結像することが確認できる。入射光の角度スペクトルから結像画像までの演算は全て線形であるため、重ね合わせが成り立ち、これによって画像の結像が説明できる。
【0085】
なお、2次元の場合について計算すると、周辺光量は(cosγ)の4乗となり、ディストーションは2×β×d×tanγとなる。γは半画角を表す。
【0086】
<第1の実施形態の効果>
以上説明したように、第1の実施形態に係る撮像装置10によれば、符号化開口によるリフォーカス機能を有し画角を変更することができる。
【0087】
<その他の態様>
上述した第1の実施形態では投影像に対し第1,第2のフレネルゾーンパターンを乗算して複素画像を生成し、この複素画像を複素フーリエ変換して空間領域の画像を再構成しているが、本発明の撮像装置における画像の再構成は複素画像を用いる態様に限定されるものではない。式(6),(8),(10)等について上述したように、投影像に対しMr(r)のような実数関数を乗算して乗算画像を求め、この乗算画像をフーリエ変換して画像を再構成してもよい。なお、この場合復元画像において被写体像の重なりが生じるが、再構成した画像を半分に切り出して表示する等により対応することができる。また、実数関数を乗算する場合においても、合焦させる被写体距離に応じて拡大率が異なるフレネルゾーンパターンを使用することにより、所望の距離に合焦した画像を得ることができる。
【0088】
以上で本発明の実施形態に関して説明してきたが、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能である。