特開2020-177352(P2020-177352A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ クラリオン株式会社の特許一覧

<>
  • 特開2020177352-画像処理装置及び画像処理方法 図000003
  • 特開2020177352-画像処理装置及び画像処理方法 図000004
  • 特開2020177352-画像処理装置及び画像処理方法 図000005
  • 特開2020177352-画像処理装置及び画像処理方法 図000006
  • 特開2020177352-画像処理装置及び画像処理方法 図000007
  • 特開2020177352-画像処理装置及び画像処理方法 図000008
  • 特開2020177352-画像処理装置及び画像処理方法 図000009
  • 特開2020177352-画像処理装置及び画像処理方法 図000010
  • 特開2020177352-画像処理装置及び画像処理方法 図000011
  • 特開2020177352-画像処理装置及び画像処理方法 図000012
  • 特開2020177352-画像処理装置及び画像処理方法 図000013
  • 特開2020177352-画像処理装置及び画像処理方法 図000014
  • 特開2020177352-画像処理装置及び画像処理方法 図000015
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2020-177352(P2020-177352A)
(43)【公開日】2020年10月29日
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
   G06T 5/00 20060101AFI20201002BHJP
   H04N 5/232 20060101ALI20201002BHJP
【FI】
   G06T5/00 710
   H04N5/232 290
【審査請求】未請求
【請求項の数】7
【出願形態】OL
【全頁数】14
(21)【出願番号】特願2019-77967(P2019-77967)
(22)【出願日】2019年4月16日
(71)【出願人】
【識別番号】000001487
【氏名又は名称】クラリオン株式会社
(74)【代理人】
【識別番号】240000327
【弁護士】
【氏名又は名称】弁護士法人クレオ国際法律特許事務所
(72)【発明者】
【氏名】根岸 孝行
(72)【発明者】
【氏名】中野 憲彦
【テーマコード(参考)】
5B057
5C122
【Fターム(参考)】
5B057BA02
5B057BA15
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CD18
5B057CE03
5B057CH09
5B057CH18
5B057DA17
5B057DB02
5B057DB09
5B057DC16
5C122EA12
5C122FH23
5C122HA88
5C122HB01
5C122HB06
5C122HB10
(57)【要約】
【課題】画像処理装置において、レンズのサジタル方向のMTF特性とタンジェンシャル方向のMTF特性という2方向のMTF特性に応じた補正処理を行う。
【解決手段】画像処理装置10は、レンズを通して撮像素子に投影された画像情報である処理前データI(x,y)に対して信号処理を施す画像処理装置であって、レンズのMTF特性とレンズのMTF特性とは異なる所望のMTF特性とに基づいて算出されるMTF補正ゲイン(補正係数)を出力する補正量出力部30(補正係数出力部)と、処理前データI(x,y)に対して、補正量出力部30から出力されたMTF補正ゲインに基づく補正処理を行って処理後データO(x,y)を出力する補正部20と、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
レンズを通して撮像素子に投影された画像情報に対して信号処理を施す画像処理装置であって、
前記レンズのMTF特性と前記レンズのMTF特性とは異なる所定のMTF特性とを用いて、前記撮像素子の各画素に対応した補正係数を出力する補正係数出力部と、
前記画像情報に対して、前記補正係数出力部から出力された前記補正係数に基づく補正処理を行って出力する補正部と、を備えた画像処理装置。
【請求項2】
前記補正係数出力部は、
前記レンズのMTF特性を記憶した第1記憶部と、
前記所定のMTF特性を記憶した第2記憶部と、
前記第1記憶部に記憶された前記レンズのMTF特性及び前記第2記憶部に記憶された前記所定のMTF特性に基づいて、前記補正係数を算出する補正係数算出部と、を備え、
前記補正係数算出部により算出された前記補正係数を出力する請求項1に記載の画像処理装置。
【請求項3】
前記所定のMTF特性は、サジタル方向とタンジェンシャル方向とのそれぞれのMTF特性である請求項1又は2に記載の画像処理装置。
【請求項4】
前記補正係数は、
サジタル方向についての前記レンズのMTF特性とサジタル方向についての前記所定のMTF特性とによって算出されたサジタル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、タンジェンシャル方向についての前記レンズのMTF特性とタンジェンシャル方向についての前記所定のMTF特性とによって算出されたタンジェンシャル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、前記サジタル方向についての補正係数の水平方向成分と前記タンジェンシャル方向についての補正係数の水平方向成分とを合成して得られた補正係数水平方向成分と、前記サジタル方向についての補正係数の垂直方向成分と、前記タンジェンシャル方向についての補正係数の垂直方向成分とを合成して得られた補正係数垂直方向成分と、である請求項1から3のうちいずれか1項に記載の画像処理装置。
【請求項5】
前記補正部は、前記撮像素子の各画素における水平方向に沿った信号値変化率情報に対して、前記補正係数水平方向成分により補正処理を行い、前記撮像素子の各画素における垂直方向に沿った信号値変化率情報に対して、前記補正係数垂直方向成分により補正処理を行い、補正して得られた水平方向に沿った信号値変化率と補正して得られた垂直方向に沿った信号値変化率と、を合成して出力する請求項4に記載の画像処理装置。
【請求項6】
レンズを通して撮像素子に投影された画像情報に対して信号処理を施す画像処理方法であって、
前記レンズのMTF特性と前記レンズのMTF特性とは異なる所定のMTF特性とを用いて、前記撮像素子の各画素に対応した補正係数を出力し、
前記画像情報に対して、出力された前記補正係数に基づく補正処理を行って出力する画像処理方法。
【請求項7】
サジタル方向についての前記レンズのMTF特性とサジタル方向についての前記所定のMTF特性とによって算出されたサジタル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、
タンジェンシャル方向についての前記レンズのMTF特性とタンジェンシャル方向についての前記所定のMTF特性とによって算出されたタンジェンシャル方向についての補正係数を、前記撮像素子における水平方向成分と垂直方向成分とに分解し、
前記サジタル方向についての補正係数の水平方向成分と前記タンジェンシャル方向についての補正係数の水平方向成分とを合成して得られた補正係数水平方向成分と、前記サジタル方向についての補正係数の垂直方向成分と前記タンジェンシャル方向についての補正係数の垂直方向成分とを合成して得られた補正係数垂直方向成分と、を出力される前記補正係数とする請求項6に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
レンズを通して撮像素子に投影された画像情報に対して、その後の処理に適した各種の信号処理を施すことが行われている。例えば、レンズを通した画像は、そのレンズのMTF特性(Modulation Transfer Function)特性に応じて、その解像力が劣化したものとなるが、撮像素子に投影された画像情報に対して、レンズのMTF特性に応じた補正処理を施すことにより、劣化した解像力を、疑似的に復元する技術が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2013−38562号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、レンズのMTF特性は、サジタル方向とタンジェンシャル方向(メリジオナル方向)との2方向にそれぞれ対応しているが、上述した先行技術文献の技術は、サジタル方向とタンジェンシャル方向とについて区別せずに補正処理を行っている。
【0005】
しかし、比較的安価なレンズは、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とに大きな差を有することがある。
【0006】
このため、被写体が、例えば放射方向及び周方向にそれぞれ延びたもの(例えば、樹木の枝など)であると、上述した補正処理を行っても、画像における放射方向(タンジェンシャル方向のMTF特性に対応)と周方向(サジタル方向のMTF特性に対応)とにそれぞれ延びている被写体のボケ具合に大きな差が出て、肉眼での見た目に対して違和感のある画像になってしまう、という問題がある。
【0007】
本発明は上記事情に鑑みなされたものであり、レンズのサジタル方向のMTF特性とタンジェンシャル方向のMTF特性という2方向のMTF特性に応じた補正処理を行うことができる画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明の第1は、レンズを通して撮像素子に投影された画像情報に対して信号処理を施す画像処理装置であって、前記レンズのMTF特性と前記レンズのMTF特性とは異なる所定のMTF特性とを用いて、前記撮像素子の各画素に対応した補正係数を出力する補正係数出力部と、前記画像情報に対して、前記補正係数出力部から出力された前記補正係数に基づく補正処理を行って出力する補正部と、を備えた画像処理装置である。
【0009】
本発明の第2は、レンズを通して撮像素子に投影された画像情報に対して信号処理を施す画像処理方法であって、前記レンズのMTF特性と前記レンズのMTF特性とは異なる所定のMTF特性とを用いて、前記撮像素子の各画素に対応した補正係数を出力し、前記画像情報に対して、出力された前記補正係数に基づく補正処理を行って出力する画像処理方法である。
【発明の効果】
【0010】
本発明に係る画像処理装置及び画像処理方法によれば、レンズのサジタル方向のMTF特性とタンジェンシャル方向のMTF特性という2方向のMTF特性に応じた補正処理を行うことができ、肉眼での見た目に対する違和感を抑えた画像を生成することができる。したがって、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とで大きな差を有するレンズを用いることができる。
【図面の簡単な説明】
【0011】
図1】本発明の一実施形態である画像処理装置を示すブロック図である。
図2】画像処理装置における補正量出力部を示すブロック図である。
図3】画像処理装置における補正部を示すブロック図である。
図4】撮像装置が有するレンズのサジタル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図である。
図5】撮像装置が有するレンズのタンジェンシャル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図である。
図6】撮像素子の直交するxy座標平面における各画素を、撮像素子の中心Oからの像高r[%]と、x軸(水平方向に延びた軸)とのなす角度θ(反時計回り方向)とによって特定する極座標f(r,θ)で表現した模式図である。
図7】レンズのサジタル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;図4に示したものと同一)を示す図である。
図8】レンズのタンジェンシャル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;図5に示したものと同一)を示す図である。
図9】画素ごとのサジタル方向のMTF補正ゲインを画像の垂直方向に沿った成分(y方向成分)と水平方向に沿った成分(x方向成分)とに分解することを示す模式図である。
図10】画素ごとのタンジェンシャル方向のMTF補正ゲインを画像の垂直方向に沿った成分(y方向成分)と水平方向に沿った成分(x方向成分)とに分解することを示す模式図である。
図11】画素ごとのy方向のMTF補正ゲインとx方向のMTF補正ゲインとを示す模式図である。
図12】補正量出力部の処理の流れを示すフローチャートである。
図13】補正部の処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明に係る画像処理装置及び画像処理方法の具体的な実施の形態について、図面を参照して説明する。
【0013】
<構成>
図1は本発明の一実施形態である画像処理装置10を示すブロック図、図2は画像処理装置10における補正量出力部30を示すブロック図、図3は画像処理装置10における補正部20を示すブロック図である。
【0014】
本発明の一実施形態である画像処理装置10は、図1に示すように、例えば車載カメラ等の撮像装置から出力された画像信号の一例であるRAWデータを処理前データI(x,y)として入力し、所定の信号処理を施し、処理後データO(x,y)として出力する。画像処理装置10は、補正量出力部30と補正部20とを備えている。
【0015】
(補正量出力部)
補正量出力部30(補正係数出力部の一例)は、補正係数の一例であるMTF補正ゲインを算出して、算出したMTF補正ゲインを補正部20に出力する。
【0016】
補正量出力部30は、図2に示すように、レンズMTF特性データ記憶部31(第1記憶部の一例)と、目標MTF特性データ記憶部32(第2記憶部の一例)と、MTF補正ゲイン算出部33(補正係数算出部の一例)と、を備えている。
【0017】
補正量出力部30は、上述した撮像装置におけるレンズが有する、撮像装置が有する撮像素子の各画素に対応した現実のMTF特性と、この現実のMTF特性とは異なる目標とする仮想のMTF特性(所定のMTF特性の一例)とに基づいて算出されるMTF補正ゲイン(補正係数の一例)を出力する。
【0018】
図4は撮像装置が有するレンズのサジタル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図、図5は撮像装置が有するレンズのタンジェンシャル方向のMTF特性(横軸の像高[%]における縦軸のコントラスト[%]を対応させた特性曲線)を示す図である。なお、図4,5に示したMTF特性は、1[mm]に50ラインペア(50[LP/mm])相当の解像度に対応した一例である。
【0019】
図6は、撮像素子の直交するxy座標平面における各画素を、撮像素子の中心Oからの像高r[%]と、x軸(水平方向に延びた軸)とのなす角度θ(反時計回り方向)とによって特定する極座標f(r,θ)で表現した模式図である。
【0020】
レンズMTF特性データ記憶部31は、上述した撮像装置が有するレンズの、図6に示した各画素に対応したMTF特性(現実のMTF特性)のデータを記憶している。このレンズMTF特性データ記憶部31に記憶されている現実のMTF特性のデータは、例えば、図4に示すサジタル方向のMTF特性データf_s(r,θ)と、図5に示すタンジェンシャル方向のMTF特性データf_t(r,θ)である。
【0021】
レンズの現実のMTF特性のデータは、レンズの仕様としてレンズの製造者から提供されているものであってもよいし、所定の図柄の被写体を、そのレンズを用いて撮影した結果に基づいて取得したものであってもよい。
【0022】
図7はレンズのサジタル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;図4に示したものと同一)を示す図、図8はレンズのタンジェンシャル方向の所望とするMTF特性(破線)と現実のMTF特性(実線;図5に示したものと同一)を示す図である。
【0023】
目標MTF特性データ記憶部32は、上述した撮像装置が有するレンズについて、所望とするMTF特性(目標とする仮想のMTF特性)のデータを記憶している。所望とするMTF特性のデータは、例えば、図7の破線で示すサジタル方向のMTF特性データd_s(r,θ)と、図8の破線で示すタンジェンシャル方向のMTF特性データd_t(r,θ)である。
【0024】
所望とするMTF特性は、例えば、各画素(r,θ)におけるサジタル方向のMTF特性とタンジェンシャル方向のMTF特性とが同一となるようなMTF特性である。つまり、本実施形態においては、図7の破線で示した所望とするMTF特性の曲線と図8の破線で示した所望とするMTF特性の曲線とは一致している。
【0025】
なお、所望とするMTF特性は、この実施形態で例示したものに限定されない。すなわち、所望とするMTF特性は、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とが同一でなくてもよく、例えば、像高20[%]において、コントラストが90[%]以上、かつ像高80[%]でコントラストが80[%]以上、というように、特定の像高[%]におけるコントラスト[%]の最小値を規定したものであってもよい。所望とするMTF特性は、現実のMTF特性よりも良好なMTF特性となるものであればよい。
【0026】
MTF補正ゲイン算出部33は、レンズMTF特性データ記憶部31に記憶された現実のMTF特性のデータ及び目標MTF特性データ記憶部32に記憶された所望のMTF特性のデータに基づいて、補正係数の一例であるMTF補正ゲインを算出し、算出したMTF補正ゲインを補正部20に出力する。
【0027】
MTF補正ゲイン算出部33は、具体的には、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を下記演算式に従って算出する。
【0028】
g_s(r,θ)=d_s(r,θ)/f_s(r,θ)
【0029】
g_t(r,θ)=d_t(r,θ)/f_t(r,θ)
【0030】
本実施形態においては、MTF補正ゲインg_s(r,θ),g_t(r,θ)は、現実のMTF特性f_s(r,θ),f_t(r,θ)に対する所望のMTF特性d_s(r,θ),d_t(r,θ)の比であるが、本発明に係る画像処理装置及び画像処理方法における補正係数は、現実のMTF特性に対する所望のMTF特性の比に限定されず、現実のMTF特性に対する所望のMTF特性の差であってもよいし、その他、現実のMTF特性と所望のMTF特性とを用いた演算により算出された値であってもよい。
【0031】
図9は画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)を画像の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解することを示す模式図、図10は画素ごとのタンジェンシャル方向のMTF補正ゲインg_t(r,θ)を画像の垂直方向に沿った成分(y方向成分)g_t(r,θ)sinθと水平方向に沿った成分(x方向成分)g_t(r,θ)cosθとに分解することを示す模式図である。なお、図9,10においては座標を特定する(r,θ)の記載を省略している。
【0032】
続いて、MTF補正ゲイン算出部33は、図9に示すように、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)を、画像の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解する。なお、図9においては座標を特定する(r,θ)の記載を省略している。
【0033】
同様に、MTF補正ゲイン算出部33は、図10に示すように、画素ごとのタンジェンシャル方向のMTF補正ゲインg_t(r,θ)を、画像のy方向成分g_t(r,θ)sinθとx方向成分g_t(r,θ)cosθとに分解する。図10においても、座標を特定する(r,θ)の記載を省略している。
【0034】
図11は、画素ごとのy方向のMTF補正ゲインG_v(r,θ)とx方向のMTF補正ゲインG_h(r,θ)とを示す模式図である。
【0035】
続いて、MTF補正ゲイン算出部33は、下記演算式に従って、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとの二乗平均平方根を算出し、この算出された結果を画素ごとのy方向のMTF補正ゲイン(補正係数垂直方向成分の一例)G_v(r,θ)とする。
【0036】
G_v(r,θ)=√[{(g_s(r,θ)sin(90−θ))+(g_t(r,θ)sinθ)}/2]
【0037】
同様に、MTF補正ゲイン算出部33は、下記演算式に従って、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとの二乗平均平方根を算出し、この算出された結果を画素ごとのx方向のMTF補正ゲイン(補正係数水平方向成分の一例)G_h(r,θ)とする。
【0038】
G_h(r,θ)=√[{(g_s(r,θ)cos(90−θ))+(g_t(r,θ)cosθ)}/2]
【0039】
画素(r,θ)ごとのy方向のMTF補正ゲインG_v(r,θ)とx方向のMTF補正ゲインG_h(r,θ)とを図示すると、図11に示すような関係となる。
【0040】
なお、画素ごとのy方向のMTF補正ゲインG_v(r,θ)としては、上述した二乗平均平方根ではなく、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとの単純平均や、両者の積の1/2などを適用することもできる。
【0041】
同様に、画素ごとのx方向のMTF補正ゲインG_h(r,θ)としては、上述した二乗平均平方根ではなく、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとの単純平均や、両者の積の1/2などを適用することもできる。
【0042】
ただし、両者の積を含む演算の場合、一方がゼロであると、演算結果がゼロになるが、両者の二乗平均平方根は、一方がゼロであっても演算結果がゼロにならないので好ましい。
【0043】
次に、MTF補正ゲイン算出部33は、x=rcosθ,y=rsinθの関係により、極座標表現されたMTF補正ゲインG_v(r,θ),G_h(r,θ)を、直交座標系で表現されたMTF補正ゲインG_v(x,y),G_h(x,y)に変換する。
【0044】
G_v(r,θ)→G_v(x,y)
【0045】
G_h(r,θ)→G_h(x,y)
【0046】
そして、補正量出力部30は、MTF補正ゲイン算出部33により算出された、垂直方向成分(y方向)のMTF補正ゲインG_v(x,y)と、水平方向成分(x方向)のMTF補正ゲインG_h(x,y)とを、補正部20に出力する。
【0047】
なお、撮像装置のレンズが特定されることで現実のMTF特性が一意に定まり、所望とするMTF特性が予め定められ、MTF補正ゲイン算出部33による上述した演算式が予め定められた場合、補正量出力部30は、常に一定のMTF補正ゲインG_v(x,y),G_h(x,y)を算出して出力することになる。
【0048】
したがって、この場合は、MTF補正ゲイン算出部33は、処理の都度、MTF補正ゲインG_v(x,y),G_h(x,y)を算出する必要はない。よって、補正量出力部30は、予め定められたレンズに対応した現実のMTF特性、所望とするMTF特性及び演算式に基づいて予め算出された一定のMTF補正ゲインG_v(x,y),G_h(x,y)を記憶した記憶部であってもよい。
【0049】
つまり、補正量出力部30は、MTF補正ゲインG_v(x,y),G_h(x,y)を算出する機能を有していなくてもよい。
【0050】
なお、撮像装置のレンズを変えて現実のMTF特性を変えたり、所望のMTF特性を変えたり、又は演算式を変えたりするなど、条件を適宜変更して補正係数を出力することを可能にするために、補正量出力部30を単なる記憶部とするのではなく、上述したレンズMTF特性データ記憶部31、目標MTF特性データ記憶部32及びMTF補正ゲイン算出部33という構成とするのが好ましい。
【0051】
また、レンズMTF特性データ記憶部31と目標MTF特性データ記憶部32とは、物理的には単一の記憶部で構成されていてもよい。
【0052】
(補正部)
補正部20は、図3に示すように、上述したレンズを有する撮像装置から出力された実際に撮影された画像信号の一例であるRAWデータを処理前データI(x,y)に対して、補正量出力部30から出力されたMTF補正ゲインG_v(x,y),G_h(x,y)を用い補正処理を行って、その補正処理後の処理後データO(x,y)を出力する。
【0053】
補正部20は、水平方向2次微分フィルタ23と、垂直方向2次微分フィルタ24と、補正演算部25と、を備えている。
【0054】
水平方向2次微分フィルタ23は、入力されたRAWデータ(処理前データI(x,y))を、画像の水平方向に2階微分して、水平方向信号値変化率情報E_h(x,y)(=I″_h(x,y))を出力する。垂直方向2次微分フィルタ24は、上述したレンズを有する撮像装置から入力されたRAWデータ(処理前データI(x,y))について、画像の垂直方向に2階微分して、垂直方向信号値変化率情報E_v(x,y)(=I″_v(x,y))を出力する。
【0055】
補正演算部25は、水平方向信号値変化率情報E_h(x,y)に対して、補正量出力部30から出力された水平方向のMTF補正ゲインG_h(x,y)を乗じて、水平方向信号値変化率M_h(x,y)を算出するとともに、垂直方向信号値変化率情報E_v(x,y)に対して、補正量出力部30から出力された垂直方向のMTF補正ゲインG_v(x,y)を乗じて、垂直方向信号値変化率M_v(x,y)を算出する。
【0056】
M_h(x,y)=G_h(x,y)×E_h(x,y)
【0057】
M_v(x,y)=G_v(x,y)×E_v(x,y)
【0058】
そして、補正演算部25は、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)との二乗平均平方根により、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)とを1つの値に合成し、入力された処理前データI(x,y)から減算処理して、処理後データO(x,y)を出力する。
【0059】
O(x,y)=I(x,y)−√[{(M_h(x,y))+(M_v(x,y))}/2]
【0060】
<作用>
図12は補正量出力部30の処理の流れを示すフローチャート、図13は補正部20の処理の流れを示すフローチャートである。
【0061】
以上のように構成された画像処理装置10によれば、以下の画像処理方法(本発明に係る画像処理方法の一実施形態)が実行される。
【0062】
すなわち、図12に示すように、画像処理装置10の補正量出力部30が、レンズMTF特性データ記憶部31から、撮像装置のレンズが有する、撮像素子の各画素に対応したサジタル方向の現実のMTF特性データf_s(r,θ)とタンジェンシャル方向の現実のMTF特性データf_t(r,θ)とを読み出すとともに、目標MTF特性データ記憶部32から、各画素に対応したサジタル方向の所望のMTF特性データd_s(r,θ)とタンジェンシャル方向の所望のMTF特性データd_t(r,θ)とを読み出す(ステップ1(S1))。
【0063】
次いで、補正量出力部30は、読み出したサジタル方向の現実のMTF特性データf_s(r,θ)とサジタル方向の所望のMTF特性データd_s(r,θ)とに基づいて、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)を算出するとともに、読み出したタンジェンシャル方向の現実のMTF特性データf_t(r,θ)とタンジェンシャル方向の所望のMTF特性データd_t(r,θ)とに基づいて、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を算出する(ステップ2(S2))。
【0064】
次いで、補正量出力部30は、サジタル方向の画素ごとのMTF補正ゲインg_s(r,θ)を、画像(撮像素子)の垂直方向に沿った成分(y方向成分)g_s(r,θ)sin(90−θ)と水平方向に沿った成分(x方向成分)g_s(r,θ)cos(90−θ)とに分解し、タンジェンシャル方向の画素ごとのMTF補正ゲインg_t(r,θ)を、画像のy方向成分g_t(r,θ)sinθとx方向成分g_t(r,θ)cosθとに分解する(ステップ3(S3))。
【0065】
次いで、補正量出力部30は、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のy方向成分g_s(r,θ)sin(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のy方向成分g_t(r,θ)sinθとに基づいて、画素ごとのy方向のMTF補正ゲインG_v(r,θ)を算出し、さらに、直交座標系のy方向のMTF補正ゲインG_v(x,y)に変換する(ステップ4(S4))。
【0066】
同様に、補正量出力部30は、画素ごとのサジタル方向のMTF補正ゲインg_s(r,θ)のx方向成分g_s(r,θ)cos(90−θ)とタンジェンシャル方向のMTF補正ゲインg_t(r,θ)のx方向成分g_t(r,θ)cosθとに基づいて、画素ごとのx方向のMTF補正ゲインG_h(r,θ)を算出し、さらに、直交座標系のx方向のMTF補正ゲインG_h(x,y)に変換する(ステップ4(S4))。
【0067】
なお、ステップ4におけるy方向のMTF補正ゲインG_v(x,y)の算出と、x方向のMTF補正ゲインG_h(x,y)の算出とは、同時並行的に行われてもよいし、いずれか一方が先行して行われたのちに、他方が後続して行われてもよく、処理の順序は問わない。
【0068】
次に、上述した撮像装置による実際の撮影が行われた際の、画像処理装置10の補正部20による補正処理について、図13を参照して説明する。
【0069】
補正部20には、撮像装置から、処理前データI(x,y)が入力される(ステップ11(S11))。
【0070】
次いで、補正部20の水平方向2次微分フィルタ23が、処理前データI(x,y)を、画像の水平方向に2階微分して、水平方向信号値変化率情報E_h(x,y)(=I″_h(x,y))を出力し、垂直方向2次微分フィルタ24が、処理前データI(x,y)を、画像の垂直方向に2階微分して、垂直方向信号値変化率情報E_v(x,y)(=I′_v(x,y))を出力する(ステップ13(S13))。
【0071】
次いで、補正部20の補正演算部25が、水平方向信号値変化率情報E_h(x,y)に対して、補正量出力部30から出力された水平方向のMTF補正ゲインG_h(x,y)を乗じて、水平方向信号値変化率M_h(x,y)を算出するとともに、垂直方向信号値変化率情報E_v(x,y)に対して、補正量出力部30から出力された垂直方向のMTF補正ゲインG_v(x,y)を乗じて、垂直方向信号値変化率M_v(x,y)を算出する。
【0072】
さらに、補正演算部25は、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)との二乗平均平方根により、水平方向信号値変化率M_h(x,y)と垂直方向信号値変化率M_v(x,y)とを合成して1つの値である信号値変化率M(x,y)を算出し、この信号値変化率M(x,y)を、撮像装置から入力された処理前データI(x,y)から減算して、処理後データO(x,y)を出力する(ステップ13(S13))。
【0073】
このように、画像処理装置10による画像処理で出力された処理後データO(x,y)は、サジタル方向とタンジェンシャル方向のそれぞれの現実のMTF特性を有するレンズを備えた撮像装置から入力された処理前データI(x,y)に対して、所望のMTF特性となるような補正処理を施したものとなるため、レンズの現実のMTF特性より優れたMTF特性(所望のMTF特性)のレンズで撮像された画像とすることができる。
【0074】
しかも、MTF特性の補正は、レンズのサジタル方向とタンジェンシャル方向のそれぞれの現実のMTF特性に依存した補正処理となるため、処理後データO(x,y)は、コントラストや解像度がサジタル方向とタンジェンシャル方向とで大きな差のないものとすることができる。
【0075】
これにより、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とで大きな差を有するレンズを用いた撮像装置で得られた画像に対しても、サジタル方向のMTF特性とタンジェンシャル方向のMTF特性とで大きな差の無いレンズを用いた撮像装置で得られた画像と同等の画像を出力することができる。
【0076】
本実施形態の画像処理装置10は、補正部20が、処理前データI(x,y)から、この処理前データI(x,y)を2次微分して得られた信号値変化率M(x,y)を減算することにより、処理後データO(x,y)を算出しているため、処理前データI(x,y)から、画像のエッジとなる部分の信号変化率データを減算する一般的なエッジ強調処理と同様の処理となる。したがって、補正部20において、エッジ強調処理と併せて行うことで、演算処理のコストを抑制することができる。
【0077】
本実施形態の画像処理方法は、図12,13に示した一連のステップ(S1〜S4、S11〜S14)を実行するものであるが、本発明に係る画像処理方法は、MTF補正ゲインンを予め算出して記憶しているものであれば、図13に示した実際の補正処理のステップ(S11〜S14)のみを実行するものであってもよい。
【符号の説明】
【0078】
10 画像処理装置
20 補正部
23 水平方向2次微分フィルタ
24 垂直方向2次微分フィルタ
25 補正演算部
30 補正量出力部
31 レンズMTF特性データ記憶部
32 目標MTF特性データ記憶部
33 MTF補正ゲイン算出部
r 像高[%]
θ 角度
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13