(58)【調査した分野】(Int.Cl.,DB名)
前記MTFの値は、前記光学系のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値である請求項3に記載の画像処理装置。
前記光量評価領域は、前記結像面において前記結像面の中心からの距離が前記撮像素子の撮像面の対角線の2分の1の長さの60%以上を示す前記光学系の領域である請求項3〜8のいずれか一項に記載の画像処理装置。
光学系と、当該光学系を介して撮影光を受光して画像を出力する撮像素子と、当該撮像素子に接続されるカメラ側制御処理部と、当該カメラ側制御処理部に接続されるカメラ側通信部とを有するカメラデバイスと、
前記カメラ側通信部と通信可能な端末側通信部と、当該端末側通信部に接続される端末側制御処理部と、当該端末側制御処理部に接続されるユーザインターフェースとを有する制御端末とを備え、
前記カメラ側制御処理部及び前記端末側制御処理部のうち少なくともいずれか一方は、請求項3〜9のいずれか一項に記載の画像処理装置を有し、
前記撮像素子から出力される前記画像を前記対象画像とする撮像装置。
【発明の概要】
【発明が解決しようとする課題】
【0006】
防犯目的や記録目的のために使用される監視カメラの場合には、広範囲の画像を取得するために広角撮影が可能であることが求められ、特に広角画像の周辺部の画質が重視される傾向がある。
【0007】
一方、撮像装置において使用可能な光学系は使用環境やユーザのニーズに応じてサイズ及びコストが制限され、特に監視用途に使われる監視カメラの場合には小型且つ安価な光学系が求められる。例えば監視カメラの場合、少なくとも光学系の部分の全長が例えば約100mm以下であり、また光学系の径が約70mm以下であるものが一般的に望まれる。
【0008】
大型且つ高価な光学系を使う場合には広角画像の周辺部の画質を良好にすることも比較的容易であるが、実際には、上述のような制限があるため解像性能が高くない光学系が使われることも多い。特に広角レンズは一般的に周辺光量を低下させ易く、サイズ及びコスト等の制限下で周辺光量の低下を抑制しようとすると、収差の影響を十分に抑制することができずに撮影画像の解像度が低下してしまう。
【0009】
このように、広角画像を撮影可能な高性能な光学系を小型且つ安価に製造することは難しい。特に周辺光量と収差との間にはトレードオフの関係があるため、良好な周辺光量を確保しつつ高解像性能を持つ広角撮影用の光学系を小型且つ安価に製造することは非常に困難である。
【0010】
そこで画像処理として光学伝達関数に基づく復元処理を行うことで、広角撮影画像の解像度を向上させることが考えられる。
【0011】
ただし光学伝達関数に基づく復元処理は万能ではなく、光学系の光学性能や撮像系のSN比(Signal−Noise ratio)に応じて復元処理により得られる効果は大きく変動し、場合によっては復元処理により画質を悪化させてしまう。例えば復元処理で汎用されているWienerフィルタはノイズ増幅による画質劣化を抑えるように働くため、撮像系のSN比が低い場合には復元処理によって画像の解像度を悪化させてしまう虞がある。
【0012】
本発明の発明者は、鋭意研究の結果、広角撮影に使用される光学系に関し、光学伝達関数に基づく復元処理によって画像解像度の向上という効果を得るための「光学系の光学性能の最適なバランス」、とりわけ「光学系の周辺光量と解像性能との最適なバランス」を決めることは非常に難しいという技術課題を新たに見いだした。
【0013】
従来、そのような技術課題は注目されておらず、「広角撮影に使用される光学系の周辺光量と解像性能との最適なバランス」に関する有効な提言はなされていなかった。例えば特許文献1は、水平画角が180°以上という広角撮影画像に対して復元処理を行うことを開示するが、復元処理に最適な光学系の周辺光量と解像性能とのバランスについては開示も示唆もない。
【0014】
本発明は上述の事情に鑑みてなされたものであり、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われるようにするための技術を提供することを目的とする。
【課題を解決するための手段】
【0015】
本発明の一態様は、光学系と、光学系を介して撮影光を受光して対象画像を出力する撮像素子と、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備え、光学系は全画角が90度を超え、光学系の光量評価領域は、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示し、406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示す撮像装置に関する。
【0016】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0017】
本発明の他の態様は、光学系と、光学系を介して撮影光を受光して対象画像を出力する撮像素子と、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備え、光学系は全画角が90度を超え、以下の式を満たす撮像装置に関する。
【0018】
【数1】
【0019】
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【0020】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0021】
本発明の他の態様は、対象画像を取得する画像取得部と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備える画像処理装置に関する。
【0022】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0023】
望ましくは、条件(3)におけるMTFの値は、光学系のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値である。
【0024】
本態様によれば、条件(3)が満たされるか否かを簡便に判定することができる。
【0025】
望ましくは、復元処理部は、撮影デバイス条件が更に以下の条件(4)及び(5):
(4)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が30%以上を示すこと、
(5)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が20%以上を示すこと、
を満たす場合に、復元処理を行う。
【0026】
本態様によれば、復元処理によって画像解像度を効果的に向上させることができる。
【0027】
望ましくは、復元処理部は、撮影デバイス条件が更に以下の条件(6)及び(7):
(6)第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が35%以上を示すこと、
(7)第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得されるMTFの値が25%以上を示すこと、
を満たす場合に、復元処理を行う。
【0028】
本態様によれば、復元処理によって画像解像度を効果的に向上させることができる。
【0029】
本発明の他の態様は、対象画像を取得する画像取得部と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する条件取得部と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う復元処理部とを備える画像処理装置に関する。
(8)光学系の全画角が90度を超える。
【0030】
【数2】
【0031】
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【0032】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0033】
望ましくは、復元処理部は、406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値がA%として表され、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比がB%として表される場合に、以下の条件(10)に表される式:(10)A%≧0.75×B%−40%を撮影デバイス条件が更に満たす場合に、復元処理を行う。
【0034】
本態様によれば、復元処理によって画像のMTFの値が大幅に向上することでもたらされうる解像感の違和感を効果的に防ぐことができる。
【0035】
望ましくは、光量評価領域は、結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの60%以上を示す光学系の領域である。
【0036】
本態様によれば、より効果的に、復元処理によって対象画像の画質を向上させることができる。
【0037】
本発明の他の態様は、光学系が着脱可能に取り付けられる光学系装着部と、光学系装着部に装着された光学系を介して撮影光を受光して画像を出力する撮像素子と、上記の画像処理装置とを備え、撮像素子から出力される画像を対象画像とする撮像装置に関する。
【0038】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0039】
本発明の他の態様は、光学系と、光学系を介して撮影光を受光して画像を出力する撮像素子と、撮像素子に接続されるカメラ側制御処理部と、カメラ側制御処理部に接続されるカメラ側通信部とを有するカメラデバイスと、カメラ側通信部と通信可能な端末側通信部と、端末側通信部に接続される端末側制御処理部と、端末側制御処理部に接続されるユーザインターフェースとを有する制御端末とを備え、カメラ側制御処理部及び端末側制御処理部のうち少なくともいずれか一方は、上記の画像処理装置を有し、撮像素子から出力される画像を対象画像とする撮像装置に関する。
【0040】
本態様によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【0041】
本発明の他の態様は、対象画像を取得するステップと、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行うステップとを備える画像処理方法に関する。
【0042】
本発明の他の態様は、対象画像を取得するステップと、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得するステップと、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行うステップとを備える画像処理方法に関する。
(8)光学系の全画角が90度を超える。
【0043】
【数3】
【0044】
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【0045】
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムに関する。
【0046】
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムに関する。
(8)光学系の全画角が90度を超える。
【0047】
【数4】
【0048】
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【0049】
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(1)、(2)及び(3):
(1)光学系の全画角が90度を超えること、
(2)光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比が25%以上を示すこと、
(3)406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子のナイキスト周波数の1/2に関して取得される光学系のMTFの値が15%以上を示すこと、
を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体(a non-transitory computer-readable tangible medium)に関する。
【0050】
本発明の他の態様は、対象画像を取得する手順と、対象画像を撮影した際の光学系及び撮像素子の情報を示す撮影デバイス条件を取得する手順と、撮影デバイス条件が以下の条件(8)及び条件(9)に表される式を満たす場合に、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う手順とをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な非一時的有形記録媒体に関する。
(8)光学系の全画角が90度を超える。
【0051】
【数5】
【0052】
ただし、fは、対象画像の空間周波数を表し、hは、対象画像の中心からの距離を表し、H(f,h)は、光学系のOTFを表し、R(h)は、光学系の光量評価領域が、光学系の結像面において結像面の中心からの距離が撮像素子の撮像面の対角線の2分の1の長さの80%以上を示す光学系の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系の領域における光量に対する光量評価領域における光量の比を表し、0≦R(h)≦1を満たし、SNR(f)は、SNR(f)=S(f)/N(f)によって表され、S(f)は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、N(f)は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【発明の効果】
【0053】
本発明によれば、光学系の光学伝達関数に基づく復元処理が、周辺光量及び解像性能に関して良好なバランスを有する光学系を使って撮影された広角撮影画像に対して行われ、復元処理によって対象画像の画質を向上させることができる。
【発明を実施するための形態】
【0055】
図面を参照して本発明の実施形態について説明する。以下の実施形態では、監視カメラシステムに本発明を適用する例について説明する。ただし、本発明の適用対象はこれに限定されず、監視カメラシステム以外の撮像装置、画像処理装置、画像処理方法、プログラム及び記録媒体にも本発明を適用することが可能である。
【0056】
以下の実施形態で用いられる光学系は広角撮影に使用されること及び光学伝達関数に基づく復元処理を活用することを前提として設計され、光学系の光学性能(特に周辺光量及び解像性能)の最適なバランス条件が明らかにされる。そのような最適なバランス条件を満たす光学系によって撮影される画像に対して光学伝達関数に基づく復元処理を適用することで、良好な画質を有する画像がユーザに提供される。
【0057】
光学系の解像性能はMTF(Modulation Transfer Function)等の光学伝達関数によって表現可能であり、光学系のMTFが低くても、光学伝達関数に基づく復元処理を撮影画像に適用することで解像度の良好な画像を取得することができる。
【0058】
そのため復元処理後の画像の周辺解像度を規定するために光学系の周辺光量及び解像性能に関して満たすべき関係を規定し、そのような関係に基づいて光学系(レンズ)の最適設計を行うことができる。すなわち光学伝達関数に基づく復元処理を行うことを前提として、復元処理後の画像に基づいて求められる解像性能(MTF性能)が、ユーザによって必要とされる光学性能諸元(例えば収差及び光量)を満たすように光学系の設計が行われる。このように画像処理技術と光学系設計技術とを適切に組み合わせることで、トレードオフの関係にあり最適化することが難しかった光学性能諸元を最適化してトータルで性能を最大化するように、光学系を設計することができる。
【0059】
以下、具体的な実施形態について例示する。
【0060】
図1は、監視カメラシステムで用いられるカメラデバイス10の一例を示す外観図である。
【0061】
本例のカメラデバイス10は、パン機能及びチルト機能を備え、後述の制御端末(
図2参照)のコントロール下で撮影を行うことができる。すなわちカメラデバイス10は、被写体を撮像する撮像部12と、撮像部12をパン及びチルト可能に支持する支持部14と、を具備する。
【0062】
撮像部12は、撮像支持部12Aに支持される光学系16を有する。光学系16は、図示しないレンズ駆動部に駆動され、フォーカス、ズーム及び絞り開度が調節される。
【0063】
支持部14は、支持フレーム14A及び架台14Bを含み、パン軸Pを中心に支持フレーム14Aが回転することができるように架台14Bが支持フレーム14Aを支持する。架台14Bには制御パネル18が設けられ、この制御パネル18に含まれる電源ボタン等の各種操作ボタン類をユーザが操作することによってもカメラデバイス10をコントロールすることができる。支持フレーム14Aは、撮像部12が配置される溝状のスペースを有し、パン軸Pと直交するチルト軸Tを中心に撮像部12が回転することができるように撮像部12を支持する。支持フレーム14Aには、撮像部12をチルト軸Tまわりに回転させるチルト駆動部(図示省略)が設けられ、架台14Bには、支持フレーム14Aをパン軸Pまわりに回転させるパン駆動部(図示省略)が設けられている。このようにパンチルト可能に支持される光学系16の光軸Lは、パン軸P及びチルト軸Tと直交する。
【0064】
なお
図1にはパンチルト動作可能なカメラデバイス10が示されているが、カメラデバイス10はパンチルト機構を必ずしも必要とせず、撮像部12が支持部14に固定的に据え付けられていてもよい。
【0065】
図2は、撮像装置の機能構成の一例を示すブロック図であり、特に監視カメラシステム20に好適な機能構成例を示す。説明の便宜上、
図2には撮影及び通信の主たる機能構成のみが図示されており、例えば上述のパン駆動部やチルト駆動部などの図示は省略されている。
【0066】
本例の監視カメラシステム20は、カメラデバイス10と、カメラデバイス10をコントロール可能な制御端末30とを備える。
【0067】
カメラデバイス10は、光学系16と、光学系16を介して撮影光を受光して画像(対象画像)を出力する撮像素子22と、光学系16及び撮像素子22に接続されるカメラ側制御処理部23と、カメラ側制御処理部23に接続されるカメラ側通信部24とを有する。一方、制御端末30は、カメラ側通信部24と通信可能(
図2中の符号「C」参照)な端末側通信部33と、端末側通信部33に接続される端末側制御処理部32と、端末側制御処理部32に接続されるユーザインターフェース31とを有する。
【0068】
光学系16は、複数のレンズ及び絞りを含み、被写体からの撮影光を撮像素子22に導く。撮像素子22は、CCD(CCD:Charge Coupled Device)又はCMOS(CMOS:Complementary Metal Oxide Semiconductor)などのイメージセンサによって構成される。制御端末30のユーザインターフェース31は、ユーザによって直接的に操作可能なボタン類やタッチパネル等の操作部に加え、ユーザに各種の情報を提示可能な表示部を含む。
【0069】
カメラ側制御処理部23は、光学系16、撮像素子22及びカメラ側通信部24を制御し、例えば撮像素子22から出力される画像を対象画像として画像処理を行う。一方、端末側制御処理部32は、ユーザインターフェース31及び端末側通信部33を制御し、例えばユーザインターフェース31を介してユーザにより入力されるデータやコマンドを受信し、各種の処理に反映させる。また端末側制御処理部32は、カメラデバイス10(カメラ側通信部24)から送られてくるデータやコマンドを、端末側通信部33を介して受信して各種の処理に反映させる。
【0070】
カメラ側制御処理部23及び端末側制御処理部32は、カメラ側通信部24と端末側通信部33との間の通信Cを介し、例えば画像データやその他のデータの送受信を行うことができる。したがってユーザは、制御端末30のユーザインターフェース31を介して各種のデータ及びコマンドを端末側制御処理部32に入力することで、カメラデバイス10を制御することができる。すなわちカメラ側制御処理部23をコントロールするためのデータやコマンドが端末側制御処理部32から端末側通信部33及びカメラ側通信部24を介してカメラ側制御処理部23に送信され、カメラ側制御処理部23を介して光学系16及び撮像素子22を制御することができる。
【0071】
なお撮像素子22から出力される画像の処理はカメラ側制御処理部23で行われてもよいし、端末側制御処理部32で行われてもよいし、カメラ側制御処理部23及び端末側制御処理部32の両者において行われてもよい。すなわち撮像素子22から出力される画像は、カメラ側制御処理部23において処理を受けた後にカメラ側通信部24及び端末側通信部33を介して端末側制御処理部32に送られてもよいし、端末側制御処理部32において処理を受けてもよい。
【0072】
したがって本例の監視カメラシステム20では、下述の画像処理装置を、カメラ側制御処理部23及び端末側制御処理部32のうち少なくともいずれか一方に設けることができる。
【0073】
図3は、画像処理装置40の機能構成の一例を示すブロック図である。本例の画像処理装置40は復元処理部41を有し、対象画像及び撮影デバイス条件のデータが復元処理部41に入力される。
【0074】
対象画像は撮像素子22から出力される画像であり、撮像素子22から直接的又は間接的に復元処理部41(画像処理装置40)に入力される。撮影デバイス条件は、対象画像を撮影した際の光学系16及び撮像素子22の情報を示す。そして復元処理部41は、対象画像及び撮影デバイス条件を使って、光学系の光学伝達関数に基づく復元処理を対象画像に対して行う。
【0075】
復元処理部41が対象画像及び撮影デバイス条件のデータを取得する手法は特に限定されず、監視カメラシステム20を構成する各部から復元処理部41に対して対象画像及び撮影デバイス条件のデータが入力可能である。例えば画像処理装置40がカメラデバイス10のカメラ側制御処理部23に設けられる場合、画像処理装置40は、撮像素子22から出力される画像を対象画像として取得し、またカメラ側制御処理部23が光学系16及び撮像素子22を制御するために使ったデータから撮影デバイス条件を取得してもよい。一方、画像処理装置40が制御端末30の端末側制御処理部32に設けられる場合、画像処理装置40は、撮像素子22からカメラ側制御処理部23、カメラ側通信部24及び端末側通信部33を介して対象画像を取得し、またカメラ側制御処理部23又は端末側制御処理部32が保持する「光学系16及び撮像素子22を制御するために使ったデータ」から撮影デバイス条件を取得してもよい。
【0076】
またExif(Exchangeable image file format)などのフォーマットに従ってメタデータが対象画像のデータに付加されている場合、画像処理装置40は対象画像のデータに付加されているメタデータを読み込んで撮影デバイス条件を取得してもよい。
【0077】
監視カメラシステム20(カメラ側制御処理部23及び/又は端末側制御処理部32)が
図3に示す画像処理装置40を具備する場合において、光学系16は例えば以下の第1処理条件〜第3処理条件(条件(1)(条件(8))、条件(2)及び条件(3))の全てを満たす(第1実施形態)。
【0078】
<第1処理条件>
光学系16は全画角が90度を超える。
【0079】
<第2処理条件>
光学系16の光量評価領域は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が25%以上を示す。
【0080】
<第3処理条件>
406.0nmの波長成分、430.5nmの波長成分、471.2nmの波長成分、522.5nmの波長成分、577.5nmの波長成分、628.8nmの波長成分、669.5nmの波長成分及び694.0nmの波長成分を含む第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が15%以上を示す。
【0081】
したがって復元処理部41によって行われる復元処理は、上記の第1処理条件〜第3処理条件を満たす光学系16を使用して撮影された対象画像に適用されることとなる。後述のように、上記の第1処理条件〜第3処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって10%以上向上する。
【0082】
また他の例として、光学系16は、上記の第1処理条件及び下記の第4処理条件の全てを満たす(第2実施形態)。この場合、復元処理部41によって行われる復元処理は、上記の第1処理条件(条件(8))及び下記の第4処理条件(条件(9))を満たす光学系16を使用して撮影された対象画像に適用される。
【0085】
ただし、
「f」は、対象画像の空間周波数を表し、
「h」は、対象画像の中心からの距離を表し、
「H(f,h)」は、光学系16のOTF(Optical Transfer Function)を表し、
「R(h)」は、光学系16の光量評価領域が、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%以上を示す光学系16の領域であり、546.1nmの波長成分を含む第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比を表し、「0≦R(h)≦1」を満たし、
「SNR(f)」は、「SNR(f)=S(f)/N(f)」によって表され、
「S(f)」は、想定される撮影条件において期待される対象画像の中心における信号量の二乗平均値を表し、
「N(f)」は、想定される撮影条件において期待されるノイズ量の二乗平均値を表す。
【0086】
上述の第1処理条件は、光学伝達関数に基づく復元処理が適用される対象画像が広角画像であることを意味する。例えば室内監視用途を想定した場合、死角を作らずに部屋の隅部から部屋全体を監視するには最低でも90度の画角が必要となるため、監視用途等を想定した場合には光学系16の全画角が90度を超えることが望ましい。
【0087】
なお撮像装置の大きさを考慮すると、撮像装置を部屋の隅部に配置しても、部屋の隅部から少し部屋の内側に光学系16の頂点が配置されることになる。そのため、光学系16の全画角が90度より広い画角(例えば100度程度)であることが望ましい。さらに、撮像装置の配置の自由度を向上させる観点からは、光学系16の全画角が100度よりも大きいことが好ましい。したがって、光学系16の全画角が100度を超えることがより好ましく、110度を超えることが更に好ましく、120度を超えることが更に好ましい。
【0088】
上述の第2処理条件は、光学系16の「光量評価領域」に関して「第1の評価波長」を使って取得される「周辺光量比」が「25%以上」であることを示す。
【0089】
ここでいう「周辺光量比」は、「結像面の中心に対応する光学系16の領域における光量」に対する「光量評価領域における光量」の比であり、光学系16の中心部分と周辺部分との間の光量の相違を示す。
【0090】
「光量評価領域」は、周辺光量比を取得するための基準領域であり、上記の第2処理条件では撮像素子22の撮像面を基準に定められている。
【0091】
図4は、撮像素子22の撮像面を示す平面図であり、光学系16の光量評価領域を定めるために用いられる撮像面の範囲を説明するための図である。矩形状の撮像素子22の撮像面において対角線Jの2分の1の長さは、対角線J同士の交点によって表される撮像面中心Ioから撮像面の頂点までの距離に相当する。
図4において、撮像面中心Ioからの距離が「対角線Jの2分の1の長さの80%の長さ」に相当する位置が「B80(80%像高線)」によって表されている。
【0092】
本例では、結像面の中心からの距離が「撮像素子22の撮像面の対角線Jの2分の1の長さの80%以上」を示す光学系16の領域が「光量評価領域」に設定されている。なお「光量評価領域」は、光学系16のこの領域に限定されず、より広い領域であってもよい。例えば光量評価領域は、結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの「60%以上」を示す光学系16の領域であってもよい(撮像面中心Ioからの距離が「対角線Jの2分の1の長さの60%の長さ」に相当する位置を示す
図4の「B60(60%像高線)」参照)。
【0093】
また上記の第2処理条件では光量評価領域の周辺光量比が「25%以上」である必要があるが、光量評価領域の周辺光量比をより厳しく制限してもよく、例えば光量評価領域の周辺光量比が「30%以上」を示すことを光学系16の条件としてもよいし、光量評価領域の周辺光量比が「35%以上」を示すことを光学系16の条件としてもよい。
【0094】
上記の第3処理条件は、光学系16が満たすべきMTFの値を示す。この第3処理条件における光学系16のMTFの評価に使用される第2評価波長は、「406.0nmの波長成分:430.5nmの波長成分:471.2nmの波長成分:522.5nmの波長成分:577.5nmの波長成分:628.8nmの波長成分:669.5nmの波長成分:694.0nmの波長成分=1:3:11:21:26:22:12:4」のウエイト比で各波長成分を含む(
図5(表1)参照)。この第2の評価波長を使った場合に、撮像素子22の画素ピッチによって規定されるナイキスト周波数の1/2に関する光学系16のMTFの値が15%以上を示す。
【0095】
なお上記の第3処理条件では光学系16のMTFの値が「15%以上」である必要があるが、MTFの値をより厳しく制限してもよく、例えばMTFの値が「20%以上」を示すことを光学系16の条件としてもよいし、MTFの値が「25%以上」を示すことを光学系16の条件としてもよい。
【0096】
また上記の第3処理条件におけるMTFの値の方向性については特に問われない。例えば光学系16のサジタル方向のMTFの値及びタンジェンシャル方向のMTFの値のうち値が小さい方のMTFの値が、第3処理条件において規定される条件(例えば「15%以上」)を満たせばよい。なお、サジタル方向は光学系16の円周方向に相当し、タンジェンシャル方向は光学系16の径方向に相当する。
【0097】
また上記の第3処理条件は、光学系16の全体領域で満たされていてもよいし、光学系16の一部領域で満たされていてもよいが、復元処理部41による復元処理は、少なくとも上記の第3処理条件を満たす光学系16の領域に対応する画像部分にのみ適用されることが好ましい。或いは、ズームポジションや絞りが変動して上記の第3処理条件が光学系16の少なくとも一部の領域で満たされなくなった場合には、復元処理部41による復元処理は行われなくてもよい。
【0098】
図6は、第1実施形態に係る光学系16の光学性能の一例を示す図である。
図6の横軸は「周辺光量比(%)」を示し、縦軸は「MTFの値(%)」を示し、SN比として「24デシベル(dB)」が想定されている。また
図6において、符号「M5」、「M10」、「M20」、「M30」、「M40」、「M50」、「M60」、「M70」、「M80」、「M90」、「M95」及び「M99」によって示されるラインは、光学伝達関数に基づく復元処理によって回復可能なMTFの値を示し、それぞれ復元処理により「5%」、「10%」、「20%」、「30%」、「40%」、「50%」、「60%」、「70%」、「80%」、「90%」、「95%」及び「99%」までMTFの値を回復することができる領域を示す。
【0099】
例えば「M99」のラインによって囲まれる領域(
図6の右隅部)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像は、光学伝達関数に基づく復元処理によってMTFを少なくとも99%まで回復することが可能である。同様に、「M99」のラインと「M95」のラインとで囲まれる領域に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像は、光学伝達関数に基づく復元処理によってMTFを少なくとも95%まで回復することが可能である。
【0100】
例えば上記の第2処理条件において規定される周辺光量比(結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比)が「25%以上」とは、
図6のラインB1よりも右側の領域(ラインB1を含む)を意味する。また上記の第3処理条件において規定される光学系16のMTFの値が「15%以上」とは、
図6のラインB2よりも上側の領域(ラインB2を含む)を意味する。
【0101】
したがって、上記の第2処理条件及び第3処理条件を満たす光学系16は、
図6のラインB1及びラインB2によって囲まれる右上の領域に含まれることとなる。
【0102】
なお光学系16は、上記の第2処理条件及び第3処理条件よりも厳しい条件を満たしていてもよい。復元率を高める観点からは、例えば下記の「第5処理条件及び第6処理条件(条件(4)及び条件(5))」を満たす光学系16であることが好ましく、また下記の「第7処理条件及び第8処理条件(条件(6)及び条件(7))」を満たす光学系16であることがより好ましい。この場合、復元処理部41によって行われる復元処理は、例えば下記の「第5処理条件及び第6処理条件」或いは「第7処理条件及び第8処理条件」を満たす光学系16を使用して撮影された対象画像に適用されることとなる。
【0103】
<第5処理条件>
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が30%以上を示す。
【0104】
<第6処理条件>
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が20%以上を示す。
【0105】
<第7処理条件>
第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が35%以上を示す。
【0106】
<第8処理条件>
第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が25%以上を示す。
【0107】
後述の
図7からも明らかなように、上記の第5処理条件及び第6処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって概ね25%以上向上する。また上記の第7処理条件及び第8処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像の解像性能が復元処理によって概ね40%以上向上する。
【0108】
また光学系16は、上述の条件に加えて他の条件を満たしていてもよい。
【0109】
例えば、光学系16のMTFの値が小さく周辺光量比が非常に大きい場合、光学伝達関数に基づく復元処理によってMTFの値が60%以上と大幅に持ち上げられることがある。この場合、飽和画素でのリンギング及びデモザイク処理による偽色成分の増幅等のアーティファクトが強調され過ぎてしまい画質が悪化してしまうことがある。また、デフォーカス画像とフォーカス画像との間で解像感の差が大きくなり過ぎてしまい画像を観察する際に視覚上大きな違和感がもたらされうる。
【0110】
このようなアーティファクトの強調による画質悪化や画像間の解像感の不自然な相違を回避するために、光学伝達関数に基づく復元処理を行うための条件として上述の第1処理条件〜第8処理条件以外の条件が課されてもよい。例えば、上述の第2の評価波長を使った場合に、撮像素子22のナイキスト周波数の1/2に関して取得される光学系16のMTFの値が「A%」として表され、上述の第1の評価波長を使った場合に、結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比が「B%」として表される場合に、以下の第9処理条件(条件(10))に表される式を満たすものであってもよい。
【0111】
<第9処理条件>
A%≧0.75×B%−40%
この第9処理条件は
図6及び
図7のラインB3によって規定され、第9処理条件を満たす光学系16は、
図6及び
図7のラインB3の上側の領域(ラインB3を含む)に含まれる。この場合、復元処理部41によって行われる復元処理は、上記の第9処理条件を満たす光学系16を使用して撮影された対象画像に適用されることとなる。
【0112】
図7は、第2実施形態に係る光学系16の光学性能の一例を示す図である。
図7の横軸は「周辺光量比(%)」を示し、縦軸は「MTFの値(%)」を示し、SN比として「24デシベル(dB)」が想定されている。また
図7において、符号「MD−20」、「MD−10」、「MD0」、「MD10」、「MD20」、「MD30」、「MD40」、「MD50」、「MD60」及び「MD70」によって示されるラインは、光学伝達関数に基づく復元処理前後のMTFの差(%)を示し、それぞれ「復元処理後の画像のMTFの値(%)−復元処理前の画像のMTFの値(%)」が「−20%」、「−10%」、「0%」、「10%」、「20%」、「30%」、「40%」、「50%」、「60%」及び「70%」となる領域を示す。
【0113】
例えば「MD0」のラインよりも正の側の領域(
図7のラインMD0よりも右側の領域)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像については、「復元処理後の画像のMTFの値(%)−復元処理前の画像のMTFの値(%)」が0%よりも大きくなり、復元処理による画像復元効果(解像度向上効果)が見込める。同様に、「MD20」のラインよりも正の側の領域(
図7のラインMD20よりも右側の領域)に「周辺光量比(%)」及び「MTFの値(%)」が存在する光学系16を使って撮影された画像については、光学伝達関数に基づく復元処理によってMTFの値を少なくとも20%向上させることが可能である。
【0114】
例えば上記の第2処理条件において規定される周辺光量比(結像面の中心に対応する光学系16の領域における光量に対する光量評価領域における光量の比)が「25%以上」とは、
図7のラインB1よりも右側の領域(ラインB1を含む)を意味する。また上記の第3処理条件において規定される光学系16のMTFの値が「15%以上」とは、
図7のラインB2よりも上側の領域(ラインB2を含む)を意味する。したがって、上記の第2処理条件及び第3処理条件を満たす光学系16は、
図7のラインB1及びラインB2によって囲まれる右上の領域に含まれることとなる。
【0115】
したがって
図7からも明らかなように、上記の第2処理条件及び第3処理条件を満たす光学系16を使用して撮影された対象画像に光学伝達関数に基づく復元処理を行うと、対象画像のMTFを概ね10%以上向上させることができる。なお光学系16が上記の第2処理条件及び第3処理条件を満たす場合であっても、光学系16のMTFの値が非常に高く(概ねMTFが90%以上の範囲)周辺光量比が比較的低い(概ね周辺光量比が60%以下の範囲)ケースにおいて、復元処理により対象画像のMTFの値が小さくなる場合もありうる。これは、名目上のMTF値が高いことよりも、
図2に示した撮像素子22のSN比の低さを改善するために、その周波数成分を逆に低減させたほうが、平均二乗誤差を最小化する画像復元において有利に働くことに起因する現象である。ただし、そのようなケースであっても、光学系16が本来的に有するMTFの値が十分に高く、復元処理によるMTFの低下が十分に小さい場合には、復元処理による視覚上の影響は無視できる程度に小さい。したがって、そのような無視できる程度の復元処理によるMTFの低下は、本発明の目的を考慮した場合には、本発明によってもたらされる効果に実質的な影響を及ぼすものではない。
【0116】
また上記の第4処理条件は、後述のように、光学伝達関数に基づく復元処理前後のMTFの差(すなわち「復元処理後の画像のMTFの値(%)−復元処理前の画像のMTFの値(%)」)が0%よりも大きくなることを意味する。したがって上記の第4処理条件を満たす光学系16は、
図7のラインMD0よりも正の側の領域(
図7のラインMD0よりも右側の領域)に含まれることとなる。
【0117】
なお上述の
図3に示す画像処理装置40は、光学系16と撮像素子22とが一体的に設けられ、「第1処理条件〜第3処理条件」及び/又は「第1処理条件及び第4処理条件」を満たす特定の光学系16が固定的に使用されて撮影が行われるケースにおいて好適であるが、光学系16は交換可能であってもよい。
【0118】
図8は、画像処理装置40の機能構成の他の例を示すブロック図である。本例の画像処理装置40は、復元処理部41に加え、対象画像を取得する画像取得部42と、対象画像を撮影した際の光学系16の情報を示す撮影デバイス条件を取得する条件取得部43と、を含む。
【0119】
例えば上述の第1実施形態に本例の画像処理装置40を応用すれば、復元処理部41は、条件取得部43によって取得される撮影デバイス条件が上記の第1処理条件〜第3処理条件を満たす場合に、光学系16の光学伝達関数に基づく復元処理を対象画像に対して行うことができる。すなわち、上記の第1処理条件〜第3処理条件が満たされるか否かが復元処理部41において判定され、その判定結果に応じて復元処理が行われる。
【0120】
同様に上述の第2実施形態に本例の画像処理装置40を応用すれば、復元処理部41は、条件取得部43によって取得される撮影デバイス条件が上記の第1処理条件及び第4処理条件を満たす場合に、光学系16の光学伝達関数に基づく復元処理を対象画像に対して行うことができる。すなわち、上記の第1処理条件及び第4処理条件が満たされるか否かが復元処理部41において判定され、その判定結果に応じて復元処理が行われる。
【0121】
このように
図8に示す画像処理装置40は、条件判定結果に応じて復元処理の実行の有無を決めるため、光学系16が交換可能であり、撮影に使用される光学系16が変わりうるケースであっても好適に用いられる。
【0122】
なお、上述の画像処理装置40(
図3及び
図8参照)の適用対象は監視カメラシステム20に限定されない。光学系16及び撮像素子22が一体的に設けられるデジタルカメラ、撮像素子22が設けられる本体部に光学系16が着脱可能に装着されるデジタルカメラ、及び画像処理を行うことができるコンピュータ等の他の機器類に対し、画像処理装置40が適用されてもよい。
【0123】
図9は、撮像装置の機能構成の他の例を示すブロック図であり、特に光学系16及び撮像素子22が一体的に設けられるコンパクトデジタルカメラ等のデジタルカメラ50に好適な機能構成例を示す。本例のデジタルカメラ50は、光学系16、撮像素子22、撮像制御処理部51、通信部52及び撮像ユーザインターフェース53が一体的に設けられており、撮像制御処理部51が、光学系16、撮像素子22、通信部52及び撮像ユーザインターフェース53を統括的に制御する。ユーザが撮像ユーザインターフェース53を介して入力する各種のデータ及びコマンドに応じて撮像制御処理部51が光学系16及び撮像素子22を制御することで撮影が行われる。撮像制御処理部51は、撮像素子22から出力される画像を対象画像として各種の処理を行うことができ、通信部52を介して処理前後の画像を外部機器類に送信できる。
【0124】
したがって上述の画像処理装置40(特に
図3参照)は、
図9に示すデジタルカメラ50の撮像制御処理部51に設けられてもよい。撮像制御処理部51(画像処理装置40の復元処理部41)は、撮影デバイス条件が上述の「第1処理条件〜第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
【0125】
図10は、撮像装置の機能構成の他の例を示すブロック図であり、特に本体部54に光学系16が着脱可能に装着されるレンズ交換式カメラ等のデジタルカメラ50に好適な機能構成例を示す。本例のデジタルカメラ50は光学系16及び本体部54を具備する。光学系16は、光学系制御部55及び光学系入出力部56と一体的に設けられ、本体部54の光学系装着部58に嵌合することで本体部54に装着される。本体部54は、撮像素子22、光学系装着部58、本体制御部57、本体入出力部59、通信部52及び撮像ユーザインターフェース53を有する。光学系装着部58は光学系16が着脱可能に取り付けられ、撮像素子22は光学系装着部58に装着された光学系16を介して撮影光を受光して画像を出力する。本体入出力部59は、光学系16が光学系装着部58に嵌合した際に光学系入出力部56と接続してデータの送受信を行うことができる。光学系制御部55及び本体制御部57は、光学系入出力部56及び本体入出力部59を介してデータの送受信を行うことができる。
【0126】
ユーザが撮像ユーザインターフェース53を介して入力する各種のデータ及びコマンドに応じて本体制御部57が光学系制御部55に制御信号を送信し、この制御信号に応じて光学系制御部55が光学系16を制御する。その一方で、本体制御部57が撮像素子22を制御することで、撮影を行うことができる。本体制御部57は、撮像素子22から出力される画像を対象画像として各種の処理を行うことができ、通信部52を介して処理前後の画像を外部機器類に送信できる。
【0127】
したがって上述の画像処理装置40(特に
図8参照)は、
図10に示すデジタルカメラ50の本体制御部57に設けられてもよい。本体制御部57(画像処理装置40の復元処理部41)は、撮影デバイス条件が上述の「第1処理条件〜第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
【0128】
図11は、コンピュータ60の機能構成の一例を示すブロック図であり、特に上述の画像処理装置40(特に
図8参照)を適用可能な機能構成例を示す。本例のコンピュータ60は、コンピュータ制御処理部61、コンピュータ入出力部62及びコンピュータユーザインターフェース63を有する。コンピュータ入出力部62は、上述のデジタルカメラ50等の外部機器類に接続され、その外部機器類との間でデータの送受信を行う。コンピュータユーザインターフェース63は、ユーザによって直接的に操作可能なマウス等のポインティングデバイス及びキーボード等の操作部に加え、ユーザに各種の情報を提示可能な表示部を含む。コンピュータ制御処理部61は、コンピュータ入出力部62及びコンピュータユーザインターフェース63に接続され、コンピュータ入出力部62を介して画像データ等のデータを受信し、またコンピュータユーザインターフェース63を介してユーザにより入力される各種のデータ及びコマンドに応じて各種の処理を行う。
【0129】
したがって上述の画像処理装置40(特に
図8参照)は、
図11に示すコンピュータ60のコンピュータ制御処理部61に設けられてもよい。コンピュータ制御処理部61(画像処理装置40)は、撮影デバイス条件が上述の「第1処理条件〜第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たす場合に、光学系16の光学伝達関数に基づく復元処理を行うことができる。
【0130】
なおここでいう「光学伝達関数に基づく復元処理」は、光学系16の点拡がり関数(PSF)の二次元フーリエ変換によって得られる光学伝達関数(OTF)から導かれる画像回復処理を意味し、点像復元処理とも呼ばれる。この「光学伝達関数に基づく復元処理」は、OTFに基づいて作成されるフィルタを使った処理であってもよいし、OTFの絶対値成分であるMTF及び/又は位相のずれを表すPTF(Phase Transfer Function)に基づいて作成されるフィルタを使った処理であってもよいし、PSFに基づいて作成されるフィルタを使った処理であってもよい。以下に説明する「光学伝達関数」は、OTFだけではなく、これらのMTF、PTF及びPSFを含みうる概念である。
【0131】
光学伝達関数に基づく復元処理は、光学系16の光学伝達関数に応じて劣化した像を、光学伝達関数から直接的又は間接的に求められる復元フィルタ(逆フィルタ)を使って補正することで、像劣化をキャンセルして本来の像を復元する処理である。しかしながら、単純に減衰特性の逆数から求められるゲインを劣化像に適用しただけでは、撮像素子22等の撮像系に起因するノイズ成分も増幅されてしまう。そのため大きな増幅率を持つ復元フィルタがノイズ成分を含む画像に適用されると、復元処理後の画像において無視できない像劣化がもたらされる。
【0132】
撮像系に起因するノイズを考慮して作成される復元フィルタとして、Wienerフィルタが広い分野で用いられている。Wienerフィルタを使った復元処理によれば、光学系16の光学伝達関数に起因するボケの影響が大き過ぎて撮像系に起因するノイズ量と比べて画像の周波数特性が極端に減衰している場合には、大きなゲインが画像に適用されるのが避けられ、撮像系に起因するノイズ量を低減することを優先するような減衰ゲインが画像に適用されることもある。
【0133】
このWienerフィルタは本実施形態の撮像装置においても有効に活用することができる。Wienerフィルタを用いた復元処理の適用を前提として光学系16の設計を行うことで、光学性能の一部の劣化を許容する代わりに他の性能を向上させることができる。
【0134】
以下、光学伝達関数に基づく復元処理の実施を前提とした光学系16の最適設計に関する具体例について説明する。
【0135】
<復元処理の実施を前提とした光学系の最適設計>
Wienerフィルタは、画質劣化が線形で既知な場合において復元画像と元画像との間の平均二乗誤差を最小とすることを目的として作成されるフィルタであって、線形フィルタ設計基準の一つとして利用されている。Wienerフィルタの周波数特性F(f,h)は、下記式により表される。
【0137】
ここで、さらに光学系16の周辺光量の低下を考慮すると、Wienerフィルタの周波数特性F(f,h)は、下記式により表される。
【0139】
上記式で表される周波数特性を持つWienerフィルタ(復元フィルタ)を撮影画像に適用して得られる復元画像のレスポンスX(f,h)は、下記式によって表される。
【0141】
光学伝達関数に基づく復元処理を行うことを前提とする場合、光学系16自体のMTFの値(上記式の「||H(f,h)||」参照)を最大化するのではなく、復元処理後のMTFの値(上記式の「X(f,h)」参照)を最大化するように光学系16の設計を行うことが望ましい。このようにして光学系16を設計することで、トレードオフの関係にあるMTF及び周辺光量比をバランス良く最適に決定することができる。なおユーザが「MTFを向上させること」と「周辺光量比を向上させること」とのどちらかをおおざっぱに選択したい場合には、下記式のどちらが値として大きいのかを選択することができる。
【0143】
MTFと周辺光量比との間に存在すトレードオフの関係を復元フィルタに正確に反映するためには、光学系16の設計パラメータを「p」と表記した場合に、周波数f及び像高hに依存する重み付けパラメータW(f,h)を「W(f,h)≧0」として、下記式によって最適パラメータを求めることができる。
【0145】
<MTFの向上判定>
Wienerフィルタを使った復元処理では、対象画像中のノイズ成分が大きくMTF成分が小さい場合には、MTFを増幅させることなく減衰させることによって、ノイズの抑制を重視するケースが存在する。このようなケースを生じさせないための条件は下記式によって表される。
【0147】
また上記式から下記式を導き出すことができる。
【0149】
さらに上記式から下記式を導き出すことができる。
【0151】
MTF及び周辺光量比が、想定されたSN比に対して、少なくとも上記式の関係を満たしている場合には、光学伝達関数に基づく復元処理によってMTFの向上を期待することができる。
【0152】
ここで、復元処理前の画像解像度の指標となる「光学系16の光学伝達関数H(f,h)」及び復元処理前の画像解像度の指標となる「レスポンスX(f,h)」が下記条件式を満たす境界について考える。
【0154】
復元処理後の画像解像度が復元処理前の画像解像度以上となるようにするには、下記式で表される条件を満たす必要がある。
【0156】
したがって、上述の第4処理条件を満たす場合にはMTFの向上を見込むことができる。
【0157】
<SN比の定義>
SN比は、画像の信号成分とノイズ成分との比である。撮影画像Iが画像の信号成分X及びノイズ成分Yによって下記式で表されるように構成されるケースについて考える。
【0159】
ここで、「i,j」は画素(ピクセル)のインデックスであり、撮影画像中の二次元的な画素位置を示す。上記式を踏まえるとSN比(SNR)は下記式で定義される。
【0161】
また上記式の代わりに下記式で定義されるPSNR(Peak signal−to−noise ratio)が用いられることもある。
【0163】
一般に国際標準化機構(ISO:International Organization for Standardization)が策定するISO感度が高くなるほど、適正露出における受光量(信号成分)は減るがノイズ量は変わらないため、SN比は低くなる傾向がある。また撮影画像Iを信号成分Xとノイズ成分Yに分解するには様々な手法が存在する。また画像処理中の非線形なノイズリダクション処理の影響を受けないために、多くの測定チャートが考案されている。
【0164】
<復元処理適用後の最低MTFを保証するための条件>
光学伝達関数に基づく復元処理適用後のMTFの値が「α(ただし「0≦α≦1」)」を超える(下記式参照)ために満たすべき条件を求める。
【0166】
上記式を変形すると、下記式を導出することができる。
【0168】
復元処理適用前の元画像のMTFと周辺光量比との積が、SN比及び「α」に基づいて決められる定数よりも大きいことを示す上記式が、復元処理適用後の最低MTFを保証する条件を表す。
【0169】
次に、光学系16の具体的な構成例について説明する。
【0170】
<実施例1>
図12は、実施例1に係る光学系16の断面図を示す。
図12の左側が物体側(被写体側)であり、図の右側が像側(像面Sim側)である。
【0171】
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」、「絞りSt」及び「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9及び第10光学要素L10」を含む。
【0172】
本例の光学系16では、絞りStは「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」と「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9及び第10光学要素L10」との間に固定配置されている。また像面Simは、光学系16の結像面を表し、撮影の際には、撮像素子22の撮像面が像面Simの位置に配置される。なお
図12に示す絞りStは大きさや形状を表すものではなく、光軸L上での位置を示す。また
図12において、光学系16の結像面の中心に対応する箇所が符号「S0」によって表される。
【0173】
図13は、実施例1に係る光学系16の基本データを示す表(表2)である。
図13において「面番号R」の欄(「1」〜「19」)は、最も物体側の構成要素の面を1番目として像側に向かうに従い順次増加するi番目(i=1、2、3、…、19)の面番号を示す(
図12の「R1」〜「R19」参照)。
【0174】
図13の「曲率半径r」の欄は、各面番号の曲率半径(mm:ミリメートル)を示す。曲率半径の符号は、面形状が物体側に凸の場合を正、像側に凸の場合を負としている。また面番号「14」、「17」、「18」及び「19」の曲率半径は無限大を意味し、面形状が光軸Lに直交して法線方向が光軸Lの方向と一致する平面であることを意味する。また
図13における絞りStに相当する面(面番号「10」)の曲率半径の欄には無限大を示す記号を記載する。
【0175】
図13の「面間隔d」の欄は、各面番号(i)の面と像側(
図12の右側)に隣接する面番号(i+1)の面との光軸L上の面間隔(mm)を示す(
図12の「d1」〜「d19」参照)。
【0176】
図13の「有効半径er」は、各面番号によって示される光学面のうち撮影の際に光学系として有効に働く領域(有効撮像領域)の半径(mm)を示す。
【0177】
図13の「屈折率nd」の欄は、各面番号(i)の面と像側(
図12の右側)に隣接する面番号(i+1)の面との間の光学要素のd線(波長587.6nm)に関する屈折率を示す。
【0178】
図13の「アッベ数νd」の欄は、各面番号(i)の面と像側(
図12の右側)に隣接する面番号(i+1)の面との間の光学要素のd線に関するアッベ数を示す。
【0179】
なお、
図13の「屈折率nd」及び「アッベ数νd」の欄における空欄は、対応する光学要素が存在しないことを意味し、対応箇所は空間によって占められる(
図12参照)。
【0180】
図14は、実施例1に係る光学系16の諸元を示す表(表3)である。
図14には、d線を基準とした光学系16の特性が示されており、具体的には「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
【0181】
図15は、実施例1に係る光学系16のMTFの値を示す表(表4)である。
図15には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(
図15の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(
図15の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(
図15の「min」の欄参照)とが示されている。
図15に示されるMTFの値は、上述の第2の評価波長(
図5参照)が使われ、また評価周波数として80LP/mm(Line Pairs/mm)を使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
【0182】
図16は、実施例1に係る光学系16の周辺光量比を示す表(表5)である。
図16には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。
図16に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また
図16に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
【0183】
図17は、実施例1に係る光学系16のMTFを示すグラフである。
図17の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。
図18は、実施例1に係る光学系16の周辺光量比を示すグラフである。
図18の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。
【0184】
なお
図6及び
図7においても、実施例1に係る光学系16のMTFの値及び周辺光量比がプロットされている(
図6及び
図7における「実施例1」の表示参照)。
図6及び
図7における「実施例1」及び後述の「実施例2」、「実施例3」及び「実施例4」のプロットは、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの「100%」、「90%」、「80%」、「70%」、「60%」、「50%」、「40%」、「30%」、「20%」、「10%」及び「0%」を示す光学系16の領域に関するものである。
【0185】
上述のように実施例1に係る光学系16は、上記の第1処理条件を満たし(
図14の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(
図6〜7及び
図15〜18参照)。したがって、実施例1に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
【0186】
<実施例2>
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
【0187】
図19は、実施例2に係る光学系16の断面図を示す。
【0188】
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4、第5光学要素L5、第6光学要素L6、第7光学要素L7及び第8光学要素L8」、「絞りSt」及び「第9光学要素L9、第10光学要素L10、第11光学要素L11、第12光学要素L12、第13光学要素L13及び第14光学要素L14」を含む。
【0189】
図20は、実施例2に係る光学系16の基本データを示す表(表6)である。
図20には面番号1〜25(
図19の「R1」〜「R25」参照)に関し、上述の
図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
【0190】
なお本実施例2に係る光学系16において第1光学要素L1は非球面レンズによって構成され、「面番号1の面」及び「面番号2の面」は非球面となっている。
【0191】
図21は、実施例2に係る光学系16の諸元を示す表(表7)である。
図21には、上述の
図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
【0192】
図22は、実施例2に係る光学系16の非球面に関するコーニック定数「KA」及び非球面係数「A3〜A20」を示す表であり、(a)(表8)は「面番号1の面」のデータを示し、(b)(表9)は「面番号2の面」のデータを示す。
【0193】
図22に示すコーニック定数「KA」及び非球面係数「A3〜A20」は、下記式によって定められる。
【0195】
なお
図22において、「E」は指数表記を表し、例えば「E−03」は10の「−3」乗(すなわち「10
−3」)を意味する。
【0196】
図23は、実施例2に係る光学系16のMTFの値を示す表(表10)である。
図23には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(
図23の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(
図23の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(
図23の「min」の欄参照)とが示されている。
図23に示されるMTFの値は、上述の第2の評価波長(
図5参照)が使われ、また評価周波数として155LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
【0197】
図24は、実施例2に係る光学系16の周辺光量比を示す表(表11)である。
図24には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。
図24に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また
図24に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
【0198】
図25は、実施例2に係る光学系16のMTFを示すグラフである。
図25の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。
図26は、実施例2に係る光学系16の周辺光量比を示すグラフである。
図26の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお
図6及び
図7においても、実施例2に係る光学系16のMTFの値及び周辺光量比がプロットされている(
図6及び
図7における「実施例2」の表示参照)。
【0199】
上述のように実施例2に係る光学系16は、上記の第1処理条件を満たし(
図21の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(
図6〜7及び
図23〜26参照)。したがって、実施例2に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
【0200】
<実施例3>
本実施例において、上述の実施例1と同一の要素には同一の符号を付し、その詳細な説明は省略する。
【0201】
図27は、実施例3に係る光学系16の断面図を示す。
【0202】
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4、第5光学要素L5及び第6光学要素L6」、「絞りSt」及び「第7光学要素L7、第8光学要素L8、第9光学要素L9、第10光学要素L10、第11光学要素L11及び第12光学要素L12」を含む。
【0203】
図28は、実施例3に係る光学系16の基本データを示す表(表12)である。
図28には面番号1〜23(
図27の「R1」〜「R23」参照)に関し、上述の
図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
【0204】
図29は、実施例3に係る光学系16の諸元を示す表(表13)である。
図29には、上述の
図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
【0205】
図30は、実施例3に係る光学系16のMTFの値を示す表(表14)である。
図30には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(
図30の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(
図30の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(
図30の「min」の欄参照)とが示されている。
図30に示されるMTFの値は、上述の第2の評価波長(
図5参照)が使われ、また評価周波数として112LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
【0206】
図31は、実施例3に係る光学系16の周辺光量比を示す表(表15)である。
図31には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。
図31に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また
図31に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
【0207】
図32は、実施例3に係る光学系16のMTFを示すグラフである。
図32の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。
図33は、実施例3に係る光学系16の周辺光量比を示すグラフである。
図33の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお
図6及び
図7においても、実施例3に係る光学系16のMTFの値及び周辺光量比がプロットされている(
図6及び
図7における「実施例3」の表示参照)。
【0208】
上述のように実施例3に係る光学系16は、上記の第1処理条件を満たし(
図29の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(
図6〜7及び
図30〜33参照)。したがって、実施例3に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
【0209】
<実施例4>
本実施例において、上述の実施例2と同一の要素には同一の符号を付し、その詳細な説明は省略する。
【0210】
図34は、実施例4に係る光学系16の断面図を示す。
【0211】
本例の光学系16は、物体側から順に配置される「第1光学要素L1、第2光学要素L2、第3光学要素L3、第4光学要素L4及び第5光学要素L5」、「絞りSt」及び「第6光学要素L6、第7光学要素L7、第8光学要素L8、第9光学要素L9、第10光学要素L10及び第11光学要素L11」を含む。
【0212】
図35は、実施例4に係る光学系16の基本データを示す表(表16)である。
図35には面番号1〜20(
図34の「R1」〜「R20」参照)に関し、上述の
図13と同様に、「面番号R」、「曲率半径r」(mm)、「面間隔d」(mm)、「有効半径er」(mm)、「屈折率nd」及び「アッベ数νd」が示されている。
【0213】
図36は、実施例4に係る光学系16の諸元を示す表(表17)である。
図36には、上述の
図14と同様に、d線を基準とした「ズーム倍率」、光学系16の全系の焦点距離「f(mm)」、バックフォーカス長(空気換算値)「Bf(mm)」、Fナンバー「Fno」、全画角「2ω(°)」及び最大像高(y)の2倍「2y」(mm)、光学系16の「全長(mm)」及び光学系16の「最大径φ(mm)」が示されている。
【0214】
なお本実施例4に係る光学系16において第6光学要素L6は非球面レンズによって構成され、「面番号11の面」及び「面番号12の面」は非球面となっている。
【0215】
図37は、実施例4に係る光学系16の非球面に関するコーニック定数「KA」及び非球面係数「A3〜A10」を示す表であり、(a)(表18)は「面番号
11の面」のデータを示し、(b)(表19)は「面番号
12の面」のデータを示す。
【0216】
図37に示すコーニック定数「KA」及び非球面係数「A3〜A
10」は、実施例2に係る光学系16(
図22参照)と同様にして定められる。
【0217】
図38は、実施例4に係る光学系16のMTFの値を示す表(表20)である。
図38には、光学系16における位置を示す指標として「半画角(°)」と、タンジェンシャル方向のMTFの値(%)(
図38の「タンジェンシャル」の欄参照)及びサジタル方向のMTFの値(%)(
図38の「サジタル」の欄参照)と、タンジェンシャル方向のMTFの値及びサジタル方向の値のうち小さい方の値(%)(
図38の「min」の欄参照)とが示されている。
図38に示されるMTFの値は、上述の第2の評価波長(
図5参照)が使われ、また評価周波数として99LP/mmを使って得られる値であり、この評価周波数は撮像素子22のナイキスト周波数の1/2に対応する。
【0218】
図39は、実施例4に係る光学系16の周辺光量比を示す表(表21)である。
図39には、光学系16における位置を示す指標として「半画角(°)」と、「周辺光量比(%)」とが示されている。
図39に示される周辺光量比は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの80%を示す光学系16の領域(光量評価領域)の光量に基づく。また
図39に示される周辺光量比は、評価波長として546.1nmの波長(上述の第1の評価波長)を使って得られる値である。
【0219】
図40は、実施例4に係る光学系16のMTFを示すグラフである。
図40の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「MTFの値(%)」を示す。
図41は、実施例4に係る光学系16の周辺光量比を示すグラフである。
図41の横軸は光学系16における位置を示す指標として使われる「半画角(°)」を示し、縦軸は「周辺光量比(%)」を示す。なお
図6及び
図7においても、実施例4に係る光学系16のMTFの値及び周辺光量比がプロットされている(
図6及び
図7における「実施例4」の表示参照)。
【0220】
上述のように実施例4に係る光学系16は、上記の第1処理条件を満たし(
図36の「2ω(°)」の欄参照)、上記の第2処理条件及び第3処理条件を満たす(
図6〜7及び
図38〜41参照)。したがって、実施例4に係る光学系16及び撮像素子22を使って撮影される画像を対象画像として「光学伝達関数に基づく復元処理」を行うことで、収差を抑制しつつ画像解像度を効果的に向上させることができる。
【0221】
次に、条件判定フローについて説明する。
【0222】
図3に示す画像処理装置40は、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)を本来的に満たす光学系16を使って取得された撮影画像を対象画像としている。そのため、
図3に示す画像処理装置40によって復元処理を行う場合には、復元処理の実行の有無を判定する必要はなく、画像処理装置40(復元処理部41)に入力される対象画像の全てに対して光学伝達関数に基づく復元処理を行うことができる。
【0223】
一方、
図8に示す画像処理装置40は、様々な光学系16を使って取得された撮影画像を対象画像としており、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされるか否かを判定し、復元処理の実行の有無が決められる。
【0224】
図42は、
図8に示す画像処理装置40(特に復元処理部41)における条件判定フローの一例を示すフローチャートである。
【0225】
まず復元処理部41は、画像取得部42を介して対象画像を取得し、条件取得部43を介して撮影デバイス条件を取得する(
図42のS11)。
【0226】
そして復元処理部41は、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされるか否かを判定する(S12)。例えば、撮影デバイス条件が上述の「第1処理条件〜第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」を満たすか否かが復元処理部41によって判定される。
【0227】
光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされると判定される場合(S12のYES)、復元処理部41は対象画像の復元処理を行う(S13)。一方、光学伝達関数に基づく復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされないと判定される場合(S12のNO)、復元処理部41は復元処理(S13参照)をスキップする。
【0228】
なお
図42に示す例では、対象画像及び撮影デバイス条件が同じ処理ステップで取得されるが、対象画像及び撮影デバイス条件の各々は別タイミングで取得されてもよい。例えば、上述の処理ステップS11では撮影デバイス条件のみが取得され、上述の処理ステップS12と処理ステップS13との間において復元処理部41により対象画像が取得されてもよい。
【0229】
図43は、光学系16が交換可能な撮像装置(例えば
図10の「デジタルカメラ50」参照)における条件判定フローの一例を示すフローチャートである。本例の画像処理装置40は、復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされるか否かを判定し、判定結果に応じて「復元処理を実行するモード(復元処理実行モード)」及び「復元処理を実行しないモード(復元処理
不実行モード)」のうちのいずれを採用するか決定する。
【0230】
すなわち撮像装置の電源がオンにされたら(
図43のS21)、画像処理装置40(例えば復元処理部41)は、撮像素子22の画素ピッチを直接的又は間接的に示す画素ピッチ情報を取得し、注目周波数を決定する(S22)。ここでいう注目周波数とは、撮像素子22の画素ピッチによって規定されるナイキスト周波数の1/2に相当する。
【0231】
そして画像処理装置40は、光学系16の周辺光量比を直接的又は間接的に示す周辺光量情報と、注目周波数に関して取得される光学系16のMTFの値を直接的又は間接的に示すMTF情報とを取得する(S23)。例えば
図10に示す例において、周辺光量情報及び/又はMTF情報を光学系制御部55が保持する一方で、画像処理装置40が本体制御部57に設けられる場合、本体制御部57(画像処理装置40)は、本体入出力部59及び光学系入出力部56を介して光学系制御部55から周辺光量情報及び/又はMTF情報を取得する。
【0232】
そして周辺光量情報及びMTF情報が「復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)」を満たすか否かが画像処理装置40によって判定される(S24)。「復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)」が満たされる場合(S24のYES)、画像処理装置40は復元処理実行モードを採用し(S25)、撮像素子22から出力される撮影画像(対象画像)に対して復元処理部41による復元処理が行われる。一方、「復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)」が満たされない場合(S24のNO)、画像処理装置40は復元処理不実行モードを採用し(S26)、撮像素子22から出力される撮影画像(対象画像)の復元処理は行われない。
【0233】
なお
図43に示す上述の条件判定フローの適用対象は特に限定されず、
図10に示すデジタルカメラ50だけではなく、例えば
図2に示す監視カメラシステム20にも
図43に示す条件判定フローを適用することができる。例えば、監視カメラシステム20のカメラ側制御処理部23が周辺光量情報及びMTF情報を保持する一方で、端末側制御処理部32に画像処理装置40が設けられるケースにも
図43に示す条件判定フローを適用することができる。この場合、画像処理装置40は、端末側通信部33及びカメラ側通信部24を介してカメラ側制御処理部23と通信を行って周辺光量情報及びMTF情報を取得し(
図43の処理ステップS21〜23)、復元処理を実施するための上述の条件(第1処理条件〜第9処理条件参照)が満たされるか否かを判定し(処理ステップS24参照)、判定結果に応じて「復元処理を実行するモード(復元処理実行モード)」及び「復元処理を実行しないモード(復元処理
不実行モード)」のうちのいずれかを採用する(処理ステップS25及びS26参照)。
【0234】
<他の変形例>
本発明の応用は上述の実施形態に限定されるものではなく、上述の実施形態に各種の変形が加えられてもよい。
【0235】
例えば光学伝達関数に基づく復元処理を行うための条件として、上述の「第1処理条件〜第3処理条件」、「第1処理条件及び第4処理条件」、「第1処理条件、第5処理条件及び第6処理条件」、「第1処理条件、第7処理条件及び第8処理条件」又は「これらの各条件群及び第9処理条件」に対して、他の条件が加えられてもよい。例えば、撮影デバイス条件が「光学系16は全画角が100度を超える」、「光学系16は全画角が110度を超える」又は「光学系16は全画角が120度を超える」という条件を満たす場合に、光学伝達関数に基づく復元処理が行われてもよい。
【0236】
また上述の第2処理条件、第5処理条件及び第7処理条件において規定される光量評価領域は、上述の「撮像素子22の撮像面の対角線の2分の1の長さの80%以上」を基準とするものには限定されない。例えば、監視カメラ分野では光学系16のMTFが落ち出す領域は、撮像面の対角線の2分の1の長さの60%(垂直端部(V端)位置)以上であることが多い。また撮像装置の用途によっては撮像面の対角線の2分の1の長さの60%以上の位置における画像解像度を向上させることが求められる場合がある。これらのケースにも適切に対応する観点からは、光学系16の光量評価領域は、光学系16の結像面において結像面の中心からの距離が撮像素子22の撮像面の対角線の2分の1の長さの60%以上を示す光学系16の領域として、画像周辺部の解像度及び画質を向上させることが好ましい。
【0237】
また上述の各機能構成は、任意のハードウェア、ソフトウェア、或いは両者の組み合わせによって実現可能であり、例えばCPU(Central Processing Unit)、揮発性のRAM(Random Access Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)等の不揮発性のメモリ、及び/又はOS(Operating System)やアプリケーションプログラム等の各種の動作プログラムが適宜組み合わされることで実現することができる。また上述の撮像装置(画像処理装置40)の各部における画像処理方法及び撮像方法に関する各種処理の手順をコンピュータに実行させるプログラム、そのプログラムを記録したコンピュータ読み取り可能な記録媒体(非一時的有形記録媒体)、或いはそのプログラムをインストール可能なコンピュータに対しても本発明を適用することができる。
【0238】
また本発明を適用可能な態様は、
図1及び
図2に示す監視カメラシステム20(カメラデバイス10)、
図9及び
図10に示すデジタルカメラ50及び
図11に示すコンピュータ60には限定されない。
【0239】
例えば撮像を主たる機能とするカメラ類の他に、撮像機能に加えて撮像以外の他の機能(通話機能、通信機能、或いはその他のコンピュータ機能)を備えるモバイル機器に対しても本発明を適用することが可能である。本発明を適用可能な他の態様としては、例えば、カメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)及び携帯型ゲーム機が挙げられる。以下、本発明を適用可能なスマートフォンの一例について説明する。
【0240】
<スマートフォンの構成>
図44は、本発明の撮像装置の一実施形態であるスマートフォン101の外観を示す図である。
図44に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となって形成される表示入力部120が設けられる。また、その筐体102は、スピーカ131と、マイクロホン132と、操作部140と、カメラ部141とを備える。なお、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立して設けられる構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
【0241】
図45は、
図44に示すスマートフォン101の構成を示すブロック図である。
図45に示すように、スマートフォン101の主たる構成要素として、無線通信部110と、表示入力部120と、通話部130と、操作部140と、カメラ部141と、記憶部150と、外部入出力部160と、GPS(Global Positioning System)受信部170と、モーションセンサ部180と、電源部190と、主制御部100とを備える。また、スマートフォン101の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
【0242】
無線通信部110は、主制御部100の指示に従って、移動通信網に接続された基地局装置との間で無線通信を行う。その無線通信が使用されて、音声データ及び画像データ等の各種ファイルデータや電子メールデータなどの送受信、及びWebデータやストリーミングデータなどの受信が行われる。
【0243】
表示入力部120は、表示パネル121及び操作パネル122を備える所謂タッチパネルであり、主制御部100の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、また表示した情報に対するユーザ操作を検出する。
【0244】
表示パネル121は、LCD(Liquid Crystal Display)又はOELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いる。操作パネル122は、表示パネル121の表示面上に表示される画像が視認可能な状態で設けられ、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。そのデバイスがユーザの指や尖筆によって操作されると、操作パネル122は、操作に起因して発生する検出信号を主制御部100に出力する。次いで、主制御部100は、受信した検出信号に基づいて、表示パネル121上の操作位置(座標)を検出する。
【0245】
本発明の撮像装置の一実施形態として
図44に例示されるスマートフォン101の表示パネル121と操作パネル122とは一体となって表示入力部120を構成し、操作パネル122が表示パネル121を完全に覆うような配置となっている。その配置を採用した場合、操作パネル122は、表示パネル121外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル122は、表示パネル121に重なる重畳部分についての検出領域(以下、「表示領域」と称する)と、それ以外の表示パネル121に重ならない外縁部分についての検出領域(以下、「非表示領域」と称する)とを備えていてもよい。
【0246】
なお、表示領域の大きさと表示パネル121の大きさとを完全に一致させてもよいが、両者を必ずしも一致させる必要はない。また、操作パネル122が、外縁部分及びそれ以外の内側部分の2つの感応領域を備えていてもよい。さらに、その外縁部分の幅は、筐体102の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル122で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、及び静電容量方式などが挙げられ、いずれの方式が採用されてもよい。
【0247】
通話部130は、スピーカ131及びマイクロホン132を備え、マイクロホン132を通じて入力されたユーザの音声を主制御部100にて処理可能な音声データに変換して主制御部100に出力したり、無線通信部110或いは外部入出力部160により受信された音声データを復号してスピーカ131から出力したりする。また、
図44に示すように、例えば、スピーカ131を表示入力部120が設けられた面と同じ面に搭載し、マイクロホン132を筐体102の側面に搭載することができる。
【0248】
操作部140は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付ける。例えば、
図44に示すように、操作部140は、スマートフォン101の筐体102の側面に搭載され、指などで押下されるとスイッチオン状態となり、指を離すとバネなどの復元力によってスイッチオフ状態となる押しボタン式のスイッチである。
【0249】
記憶部150は、主制御部100の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、及びダウンロードしたコンテンツデータ等を記憶し、またストリーミングデータなどを一時的に記憶する。また、記憶部150は、スマートフォン内蔵の内部記憶部151と着脱自在な外部メモリスロットを有する外部記憶部152とにより構成される。なお、記憶部150を構成する内部記憶部151及び外部記憶部152のそれぞれは、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、或いはROM(Read Only Memory)などの格納媒体を用いて実現される。
【0250】
外部入出力部160は、スマートフォン101に連結される全ての外部機器とのインターフェースの役割を果たし、通信等(例えば、ユニバーサルシリアルバス(USB:Universal Serial Bus)、IEEE(The Institute of Electrical and Electronics Engineers, Inc.)が定めるIEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により他の外部機器に直接的又は間接的に接続する。
【0251】
スマートフォン101に連結される外部機器としては、例えば、有線/無線ヘッドセット、有線/無線外部充電器、有線/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有線/無線接続されるスマートフォン、有線/無線接続されるパーソナルコンピュータ、有線/無線接続されるPDA、及び有線/無線接続されるイヤホンなどがある。外部入出力部160は、このような外部機器から伝送を受けたデータをスマートフォン101の内部の各構成要素に伝達したり、スマートフォン101の内部のデータが外部機器に伝送されたりするように構成されてもよい。
【0252】
GPS受信部170は、主制御部100の指示に従って、GPS衛星ST1、ST2〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン101の緯度、経度及び高度によって特定される位置を検出する。GPS受信部170は、無線通信部110及び/又は外部入出力部160(例えば、無線LAN(Local Area Network))から位置情報を取得できる場合には、その位置情報を用いて位置を検出することもできる。
【0253】
モーションセンサ部180は、例えば、3軸の加速度センサなどを備え、主制御部100の指示に従って、スマートフォン101の物理的な動きを検出する。スマートフォン101の物理的な動きを検出することにより、スマートフォン101の動く方向や加速度が検出される。その検出の結果は、主制御部100に出力される。
【0254】
電源部190は、主制御部100の指示に従って、スマートフォン101の各部に、バッテリ(図示しない)に蓄えられる電力を供給する。
【0255】
主制御部100は、マイクロプロセッサを備え、記憶部150が記憶する制御プログラムや制御データに従って動作し、スマートフォン101の各部を統括して制御する。また、主制御部100は、無線通信部110を通じて音声通信及びデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能とを備える。
【0256】
アプリケーション処理機能は、記憶部150が記憶するアプリケーションソフトウェアに従って主制御部100が動作することにより実現される。アプリケーション処理機能としては、例えば、外部入出力部160を制御することで対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、及びWebページを閲覧するWebブラウジング機能などがある。
【0257】
また、主制御部100は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部120に表示する等の画像処理機能を備える。画像処理機能とは、主制御部100が、上記画像データを復号し、その復号結果に画像処理を施して、その画像処理を経て得られる画像を表示入力部120に表示する機能のことをいう。
【0258】
さらに、主制御部100は、表示パネル121に対する表示制御と、操作部140や操作パネル122を通じたユーザ操作を検出する操作検出制御とを実行する。
【0259】
表示制御の実行により、主制御部100は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、或いは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル121の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
【0260】
また、操作検出制御の実行により、主制御部100は、操作部140を通じたユーザ操作を検出したり、操作パネル122を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、或いは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
【0261】
さらに、操作検出制御の実行により主制御部100は、操作パネル122に対する操作位置が、表示パネル121に重なる重畳部分(表示領域)に該当するか、或いはそれ以外の表示パネル121に重ならない外縁部分(非表示領域)に該当するかを判定し、操作パネル122の感応領域やソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
【0262】
また、主制御部100は、操作パネル122に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、或いはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
【0263】
カメラ部141は、CMOSなどの撮像素子22を用いて電子撮影するデジタルカメラである。また、カメラ部141は、主制御部100の制御により、撮像によって得た画像データを例えばJPEGなどの圧縮した画像データに変換し、その画像データを記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることができる。
図44に示すようにスマートフォン101において、カメラ部141は表示入力部120と同じ面に搭載されているが、カメラ部141の搭載位置はこれに限らず、表示入力部120が設けられる筐体102の表面ではなく筐体102の背面にカメラ部141が搭載されてもよいし、或いは複数のカメラ部141が筐体102に搭載されてもよい。なお、複数のカメラ部141が搭載されている場合には、撮影に供するカメラ部141を切り替えて単独のカメラ部141によって撮影が行われてもよいし、或いは、複数のカメラ部141を同時に使用して撮影が行われてもよい。
【0264】
また、カメラ部141はスマートフォン101の各種機能に利用することができる。例えば、カメラ部141で取得した画像が表示パネル121に表示さてもよいし、操作パネル122の操作入力手法の1つとして、カメラ部141で撮影取得される画像が利用さてもよい。また、GPS受信部170が位置を検出する際に、カメラ部141からの画像が参照されて位置が検出されてもよい。さらには、カメラ部141からの画像が参照されて、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン101のカメラ部141の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部141からの画像をアプリケーションソフトウェア内で利用することもできる。
【0265】
その他、GPS受信部170により取得された位置情報、マイクロホン132により取得された音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、及びモーションセンサ部180により取得された姿勢情報等などを静止画像又は動画像のデータに付加して得られるデータを、記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることもできる。
【0266】
なお上述の画像処理装置40(特に復元処理部41)は、例えば主制御部100によって実現可能である。