【解決手段】画像処理装置10は、レンズを通して撮像素子に投影された画像情報である処理前データI(x,y)に対して信号処理を施す画像処理装置であって、レンズのMTF特性とレンズのMTF特性とは異なる所望のMTF特性とに基づいて算出されるMTF補正ゲイン(補正係数)を出力する補正量出力部30(補正係数出力部)と、処理前データI(x,y)に対して、補正量出力部30から出力されたMTF補正ゲインに基づく補正処理を行って処理後データO(x,y)を出力する補正部20と、を備える。
前記補正部は、前記撮像素子の各画素における水平方向に沿った信号値変化率情報に対して、前記補正係数水平方向成分により補正処理を行い、前記撮像素子の各画素における垂直方向に沿った信号値変化率情報に対して、前記補正係数垂直方向成分により補正処理を行い、補正して得られた水平方向に沿った信号値変化率と補正して得られた垂直方向に沿った信号値変化率と、を合成して出力する請求項4に記載の画像処理装置。
サジタル方向についての前記レンズのMTF特性とサジタル方向についての前記所定のMTF特性とによって算出されたサジタル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、
タンジェンシャル方向についての前記レンズのMTF特性とタンジェンシャル方向についての前記所定のMTF特性とによって算出されたタンジェンシャル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、
前記サジタル方向についての補正係数の水平方向成分と前記タンジェンシャル方向についての補正係数の水平方向成分とを合成して得られた補正係数水平方向成分と、前記サジタル方向についての補正係数の垂直方向成分と前記タンジェンシャル方向についての補正係数の垂直方向成分とを合成して得られた補正係数垂直方向成分と、を出力される前記補正係数とする請求項6に記載の画像処理方法。
【発明を実施するための形態】
【0012】
以下、本発明に係る画像処理装置及び画像処理方法の具体的な実施の形態について、図面を参照して説明する。
【0013】
<構成>
図1は本発明の一実施形態である画像処理装置10を示すブロック図、
図2は画像処理装置10における補正量出力部30を示すブロック図、
図3は画像処理装置10における補正部20を示すブロック図である。
【0014】
本発明の一実施形態である画像処理装置10は、
図1に示すように、例えば車載カメラ等の撮像装置から出力された画像信号の一例であるRAWデータを処理前データI(x,y)として入力し、所定の信号処理を施し、処理後データO(x,y)として出力する。画像処理装置10は、補正量出力部30と補正部20とを備えている。
【0015】
(補正量出力部)
補正量出力部30(補正係数出力部の一例)は、補正係数の一例であるMTF補正ゲインを算出して、算出したMTF補正ゲインを補正部20に出力する。
【0016】
補正量出力部30は、
図2に示すように、レンズMTF特性データ記憶部31(第1記憶部の一例)と、目標MTF特性データ記憶部32(第2記憶部の一例)と、MTF補正ゲイン算出部33(補正係数算出部の一例)と、を備えている。
【0017】
補正量出力部30は、上述した撮像装置におけるレンズが有する、撮像装置が有する撮像素子の各画素に対応した現実のMTF特性と、この現実のMTF特性とは異なる目標とする仮想のMTF特性(所定のMTF特性の一例)とに基づいて算出されるMTF補正ゲイン(補正係数の一例)を出力する。
【0018】
図4は撮像装置が有するレンズのサジタル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図、
図5は撮像装置が有するレンズのタンジェンシャル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図である。なお、
図4,5に示したMTF特性は、1[mm]に50ラインペア(50[LP/mm])相当の解像度に対応した一例である。
【0019】
図6は、撮像素子の直交するxy座標平面における各画素を、撮像素子の中心Oからの像高r[%]と、x軸(水平方向に延びた軸)とのなす角度θ(反時計回り方向)とによって特定する極座標f(r,θ)で表現した模式図である。
【0020】
レンズMTF特性データ記憶部31は、上述した撮像装置が有するレンズの、
図6に示した各画素に対応したMTF特性(現実のMTF特性)のデータを記憶している。このレンズMTF特性データ記憶部31に記憶されている現実のMTF特性のデータは、例えば、
図4に示すサジタル方向のMTF特性データf_s(r,θ)と、
図5に示すタンジェンシャル方向のMTF特性データf_t(r,θ)である。
【0021】
レンズの現実のMTF特性のデータは、レンズの仕様としてレンズの製造者から提供されているものであってもよいし、所定の図柄の被写体を、そのレンズを用いて撮影した結果に基づいて取得したものであってもよい。
【0022】
図7はレンズのサジタル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;
図4に示したものと同一)を示す図、
図8はレンズのタンジェンシャル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;
図5に示したものと同一)を示す図である。
【0023】
目標MTF特性データ記憶部32は、上述した撮像装置が有するレンズについて、所望とするMTF特性(目標とする仮想のMTF特性)のデータを記憶している。所望とするMTF特性のデータは、例えば、
図7の破線で示すサジタル方向のMTF特性データd_s(r,θ)と、
図8の破線で示すタンジェンシャル方向のMTF特性データd_t(r,θ)である。
【0024】
所望とするMTF特性は、例えば、各画素(r,θ)におけるサジタル方向のMTF特性とタンジェンシャル方向のMTF特性とが同一となるようなMTF特性である。つまり、本実施形態においては、
図7の破線で示した所望とするMTF特性の曲線と
図8の破線で示した所望とするMTF特性の曲線とは一致している。
【0025】
なお、所望とするMTF特性は、この実施形態で例示したものに限定されない。すなわち、所望とするMTF特性は、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とが同一でなくてもよく、例えば、像高20[%]において、コントラストが90[%]以上、かつ像高80[%]でコントラストが80[%]以上、というように、特定の像高[%]におけるコントラスト[%]の最小値を規定したものであってもよい。所望とするMTF特性は、現実のMTF特性よりも良好なMTF特性となるものであればよい。
【0026】
MTF補正ゲイン算出部33は、レンズMTF特性データ記憶部31に記憶された現実のMTF特性のデータ及び目標MTF特性データ記憶部32に記憶された所望のMTF特性のデータに基づいて、補正係数の一例であるMTF補正ゲインを算出し、算出したMTF補正ゲインを補正部20に出力する。
【0027】
MTF補正ゲイン算出部33は、具体的には、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を下記演算式に従って算出する。
【0028】
g_s(r,θ)=d_s(r,θ)/f_s(r,θ)
【0029】
g_t(r,θ)=d_t(r,θ)/f_t(r,θ)
【0030】
本実施形態においては、MTF補正ゲインg_s(r,θ),g_t(r,θ)は、現実のMTF特性f_s(r,θ),f_t(r,θ)に対する所望のMTF特性d_s(r,θ),d_t(r,θ)の比であるが、本発明に係る画像処理装置及び画像処理方法における補正係数は、現実のMTF特性に対する所望のMTF特性の比に限定されず、現実のMTF特性に対する所望のMTF特性の差であってもよいし、その他、現実のMTF特性と所望のMTF特性とを用いた演算により算出された値であってもよい。
【0031】
図9は画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)を画像の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解することを示す模式図、
図10は画素ごとのタンジェンシャル方向のMTF補正ゲインg_t(r,θ)を画像の垂直方向に沿った成分(y方向成分)g_t(r,θ)sinθと水平方向に沿った成分(x方向成分)g_t(r,θ)cosθとに分解することを示す模式図である。なお、
図9,10においては座標を特定する(r,θ)の記載を省略している。
【0032】
続いて、MTF補正ゲイン算出部33は、
図9に示すように、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)を、画像の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解する。なお、
図9においては座標を特定する(r,θ)の記載を省略している。
【0033】
同様に、MTF補正ゲイン算出部33は、
図10に示すように、画素ごとのタンジェンシャル方向のMTF補正ゲインg_t(r,θ)を、画像のy方向成分g_t(r,θ)sinθとx方向成分g_t(r,θ)cosθとに分解する。
図10においても、座標を特定する(r,θ)の記載を省略している。
【0034】
図11は、画素ごとのy方向のMTF補正ゲインG_v(r,θ)とx方向のMTF補正ゲインG_h(r,θ)とを示す模式図である。
【0035】
続いて、MTF補正ゲイン算出部33は、下記演算式に従って、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとの二乗平均平方根を算出し、この算出された結果を画素ごとのy方向のMTF補正ゲイン(補正係数垂直方向成分の一例)G_v(r,θ)とする。
【0036】
G_v(r,θ)=√[{(g_s(r,θ)sin(90−θ))
2+(g_t(r,θ)sinθ)
2}/2]
【0037】
同様に、MTF補正ゲイン算出部33は、下記演算式に従って、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとの二乗平均平方根を算出し、この算出された結果を画素ごとのx方向のMTF補正ゲイン(補正係数水平方向成分の一例)G_h(r,θ)とする。
【0038】
G_h(r,θ)=√[{(g_s(r,θ)cos(90−θ))
2+(g_t(r,θ)cosθ)
2}/2]
【0039】
画素(r,θ)ごとのy方向のMTF補正ゲインG_v(r,θ)とx方向のMTF補正ゲインG_h(r,θ)とを図示すると、
図11に示すような関係となる。
【0040】
なお、画素ごとのy方向のMTF補正ゲインG_v(r,θ)としては、上述した二乗平均平方根ではなく、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとの単純平均や、両者の積の1/2などを適用することもできる。
【0041】
同様に、画素ごとのx方向のMTF補正ゲインG_h(r,θ)としては、上述した二乗平均平方根ではなく、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとの単純平均や、両者の積の1/2などを適用することもできる。
【0042】
ただし、両者の積を含む演算の場合、一方がゼロであると、演算結果がゼロになるが、両者の二乗平均平方根は、一方がゼロであっても演算結果がゼロにならないので好ましい。
【0043】
次に、MTF補正ゲイン算出部33は、x=rcosθ,y=rsinθの関係により、極座標表現されたMTF補正ゲインG_v(r,θ),G_h(r,θ)を、直交座標系で表現されたMTF補正ゲインG_v(x,y),G_h(x,y)に変換する。
【0046】
そして、補正量出力部30は、MTF補正ゲイン算出部33により算出された、垂直方向成分(y方向)のMTF補正ゲインG_v(x,y)と、水平方向成分(x方向)のMTF補正ゲインG_h(x,y)とを、補正部20に出力する。
【0047】
なお、撮像装置のレンズが特定されることで現実のMTF特性が一意に定まり、所望とするMTF特性が予め定められ、MTF補正ゲイン算出部33による上述した演算式が予め定められた場合、補正量出力部30は、常に一定のMTF補正ゲインG_v(x,y),G_h(x,y)を算出して出力することになる。
【0048】
したがって、この場合は、MTF補正ゲイン算出部33は、処理の都度、MTF補正ゲインG_v(x,y),G_h(x,y)を算出する必要はない。よって、補正量出力部30は、予め定められたレンズに対応した現実のMTF特性、所望とするMTF特性及び演算式に基づいて予め算出された一定のMTF補正ゲインG_v(x,y),G_h(x,y)を記憶した記憶部であってもよい。
【0049】
つまり、補正量出力部30は、MTF補正ゲインG_v(x,y),G_h(x,y)を算出する機能を有していなくてもよい。
【0050】
なお、撮像装置のレンズを変えて現実のMTF特性を変えたり、所望のMTF特性を変えたり、又は演算式を変えたりするなど、条件を適宜変更して補正係数を出力することを可能にするために、補正量出力部30を単なる記憶部とするのではなく、上述したレンズMTF特性データ記憶部31、目標MTF特性データ記憶部32及びMTF補正ゲイン算出部33という構成とするのが好ましい。
【0051】
また、レンズMTF特性データ記憶部31と目標MTF特性データ記憶部32とは、物理的には単一の記憶部で構成されていてもよい。
【0052】
(補正部)
補正部20は、
図3に示すように、上述したレンズを有する撮像装置から出力された実際に撮影された画像信号の一例であるRAWデータを処理前データI(x,y)に対して、補正量出力部30から出力されたMTF補正ゲインG_v(x,y),G_h(x,y)を用い補正処理を行って、その補正処理後の処理後データO(x,y)を出力する。
【0053】
補正部20は、水平方向2次微分フィルタ23と、垂直方向2次微分フィルタ24と、補正演算部25と、を備えている。
【0054】
水平方向2次微分フィルタ23は、入力されたRAWデータ(処理前データI(x,y))を、画像の水平方向に2階微分して、水平方向信号値変化率情報E_h(x,y)(=I″_h(x,y))を出力する。垂直方向2次微分フィルタ24は、上述したレンズを有する撮像装置から入力されたRAWデータ(処理前データI(x,y))について、画像の垂直方向に2階微分して、垂直方向信号値変化率情報E_v(x,y)(=I″_v(x,y))を出力する。
【0055】
補正演算部25は、水平方向信号値変化率情報E_h(x,y)に対して、補正量出力部30から出力された水平方向のMTF補正ゲインG_h(x,y)を乗じて、水平方向信号値変化率M_h(x,y)を算出するとともに、垂直方向信号値変化率情報E_v(x,y)に対して、補正量出力部30から出力された垂直方向のMTF補正ゲインG_v(x,y)を乗じて、垂直方向信号値変化率M_v(x,y)を算出する。
【0056】
M_h(x,y)=G_h(x,y)×E_h(x,y)
【0057】
M_v(x,y)=G_v(x,y)×E_v(x,y)
【0058】
そして、補正演算部25は、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)との二乗平均平方根により、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)とを1つの値に合成し、入力された処理前データI(x,y)から減算処理して、処理後データO(x,y)を出力する。
【0059】
O(x,y)=I(x,y)−√[{(M_h(x,y))
2+(M_v(x,y))
2}/2]
【0060】
<作用>
図12は補正量出力部30の処理の流れを示すフローチャート、
図13は補正部20の処理の流れを示すフローチャートである。
【0061】
以上のように構成された画像処理装置10によれば、以下の画像処理方法(本発明に係る画像処理方法の一実施形態)が実行される。
【0062】
すなわち、
図12に示すように、画像処理装置10の補正量出力部30が、レンズMTF特性データ記憶部31から、撮像装置のレンズが有する、撮像素子の各画素に対応したサジタル方向の現実のMTF特性データf_s(r,θ)とタンジェンシャル方向の現実のMTF特性データf_t(r,θ)とを読み出すとともに、目標MTF特性データ記憶部32から、各画素に対応したサジタル方向の所望のMTF特性データd_s(r,θ)とタンジェンシャル方向の所望のMTF特性データd_t(r,θ)とを読み出す(ステップ1(S1))。
【0063】
次いで、補正量出力部30は、読み出したサジタル方向の現実のMTF特性データf_s(r,θ)とサジタル方向の所望のMTF特性データd_s(r,θ)とに基づいて、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)を算出するとともに、読み出したタンジェンシャル方向の現実のMTF特性データf_t(r,θ)とタンジェンシャル方向の所望のMTF特性データd_t(r,θ)とに基づいて、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を算出する(ステップ2(S2))。
【0064】
次いで、補正量出力部30は、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)を、画像(撮像素子)の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解し、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を、画像のy方向成分g_t(r,θ)sinθとx方向成分g_t(r,θ)cosθとに分解する(ステップ3(S3))。
【0065】
次いで、補正量出力部30は、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとに基づいて、画素ごとのy方向のMTF補正ゲインG_v(r,θ)を算出し、さらに、直交座標系のy方向のMTF補正ゲインG_v(x,y)に変換する(ステップ4(S4))。
【0066】
同様に、補正量出力部30は、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとに基づいて、画素ごとのx方向のMTF補正ゲインG_h(r,θ)を算出し、さらに、直交座標系のx方向のMTF補正ゲインG_h(x,y)に変換する(ステップ4(S4))。
【0067】
なお、ステップ4におけるy方向のMTF補正ゲインG_v(x,y)の算出と、x方向のMTF補正ゲインG_h(x,y)の算出とは、同時並行的に行われてもよいし、いずれか一方が先行して行われたのちに、他方が後続して行われてもよく、処理の順序は問わない。
【0068】
次に、上述した撮像装置による実際の撮影が行われた際の、画像処理装置10の補正部20による補正処理について、
図13を参照して説明する。
【0069】
補正部20には、撮像装置から、処理前データI(x,y)が入力される(ステップ11(S11))。
【0070】
次いで、補正部20の水平方向2次微分フィルタ23が、処理前データI(x,y)を、画像の水平方向に2階微分して、水平方向信号値変化率情報E_h(x,y)(=I″_h(x,y))を出力し、垂直方向2次微分フィルタ24が、処理前データI(x,y)を、画像の垂直方向に2階微分して、垂直方向信号値変化率情報E_v(x,y)(=I′_v(x,y))を出力する(ステップ13(S13))。
【0071】
次いで、補正部20の補正演算部25が、水平方向信号値変化率情報E_h(x,y)に対して、補正量出力部30から出力された水平方向のMTF補正ゲインG_h(x,y)を乗じて、水平方向信号値変化率M_h(x,y)を算出するとともに、垂直方向信号値変化率情報E_v(x,y)に対して、補正量出力部30から出力された垂直方向のMTF補正ゲインG_v(x,y)を乗じて、垂直方向信号値変化率M_v(x,y)を算出する。
【0072】
さらに、補正演算部25は、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)との二乗平均平方根により、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)とを合成して1つの値である信号値変化率M(x,y)を算出し、この信号値変化率M(x,y)を、撮像装置から入力された処理前データI(x,y)から減算して、処理後データO(x,y)を出力する(ステップ13(S13))。
【0073】
このように、画像処理装置10による画像処理で出力された処理後データO(x,y)は、サジタル方向とタンジェンシャル方向のそれぞれの現実のMTF特性を有するレンズを備えた撮像装置から入力された処理前データI(x,y)に対して、所望のMTF特性となるような補正処理を施したものとなるため、レンズの現実のMTF特性より優れたMTF特性(所望のMTF特性)のレンズで撮像された画像とすることができる。
【0074】
しかも、MTF特性の補正は、レンズのサジタル方向とタンジェンシャル方向のそれぞれの現実のMTF特性に依存した補正処理となるため、処理後データO(x,y)は、コントラストや解像度がサジタル方向とタンジェンシャル方向とで大きな差のないものとすることができる。
【0075】
これにより、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とで大きな差を有するレンズを用いた撮像装置で得られた画像に対しても、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とで大きな差の無いレンズを用いた撮像装置で得られた画像と同等の画像を出力することができる。
【0076】
本実施形態の画像処理装置10は、補正部20が、処理前データI(x,y)から、この処理前データI(x,y)を2次微分して得られた信号値変化率M(x,y)を減算することにより、処理後データO(x,y)を算出しているため、処理前データI(x,y)から、画像のエッジとなる部分の信号変化率データを減算する一般的なエッジ強調処理と同様の処理となる。したがって、補正部20において、エッジ強調処理と併せて行うことで、演算処理のコストを抑制することができる。
【0077】
本実施形態の画像処理方法は、
図12,13に示した一連のステップ(S1〜S4、S11〜S14)を実行するものであるが、本発明に係る画像処理方法は、MTF補正ゲインンを予め算出して記憶しているものであれば、
図13に示した実際の補正処理のステップ(S11〜S14)のみを実行するものであってもよい。