(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、一実施形態の映像信号処理装置、映像信号処理方法、映像信号処理プログラムについて、添付図面を参照して説明する。
【0013】
図1において、映像信号処理装置100は、ヒストグラム生成部10と階調補正部20とを備える。輝度信号Yinは、ヒストグラム生成部10及び階調補正部20に入力される。
【0014】
ヒストグラム生成部10は、輝度信号Yinの全階調を複数の階調群に分割して、それぞれの階調群に含まれる画素数をカウントしてヒストグラムデータDhistを生成する。輝度信号Yinは例えば256階調である。ヒストグラム生成部10は、輝度信号Yinの全階調を例えば16の階調群に分割する。ヒストグラムデータDhistは、階調補正部20に入力される。
【0015】
図2A〜
図2Cは、ヒストグラム生成部10が生成するヒストグラムデータDhistが示すヒストグラムを概念的に示している。
図2A〜
図2Cにおける横軸は全階調を0〜15の16群に分割した階調群、縦軸はそれぞれの階調群における画素の総和を示す階調の頻度である。
【0016】
図2Aは通常シーンにおけるヒストグラムの一例であり、階調群0〜15の全体に階調の頻度が分布している。
図2Bは低照度シーンにおけるヒストグラムの一例であり、階調群0〜5(特に階調群0〜2)の低輝度階調群に頻度が集中して分布している。
【0017】
図2Cは、霧シーンにおけるヒストグラムの一例であり、階調群6〜11(特に階調群7〜9)の中輝度階調に頻度が集中して分布している。
【0018】
階調補正部20は、
図2A〜
図2Cに示すようなヒストグラムデータDhistを用いて、後述するようにして輝度信号Yinの階調を補正する。階調補正部20は、階調を補正した輝度信号(補正輝度信号)Youtを出力する。
【0019】
図3を用いて階調補正部20の具体的な構成及び動作を説明する。階調補正部20は、低輝度集中度算出部21,中輝度集中度算出部22,全体階調補正信号算出部23,部分階調補正信号算出部24,合成部25を備える。
【0020】
ヒストグラムデータDhistは、低輝度集中度算出部21及び中輝度集中度算出部22に入力される。輝度信号Yinは、全体階調補正信号算出部23と、部分階調補正信号算出部24と、合成部25とに入力される。
【0021】
低輝度集中度算出部21は、ヒストグラムデータDhistに基づいて、画素数の分布が低輝度領域に集中している程度を示す低輝度集中度Low_rateを算出する。ここでは、低輝度集中度算出部21は、
図2Bに示す階調群3以下の階調群に集中している程度を低輝度集中度Low_rateとする。
【0022】
階調群3における最大の階調を第1の階調とすれば、低輝度集中度算出部21は、第1の階調以下である低輝度の階調群に集中している程度を示す低輝度集中度Low_rateを算出する。
【0023】
中輝度集中度算出部22は、ヒストグラムデータDhistに基づいて、階調の頻度が中輝度領域に集中している程度を示す中輝度集中度Mid_rateを算出する。ここでは、中輝度集中度算出部22は、
図2Cに示す階調群7〜10の階調群に集中している程度を中輝度集中度Mid_rateとする。
【0024】
階調群7における最小の階調を第2の階調、階調群10における最大の階調を第3の階調とする。中輝度集中度算出部22は、画素数の分布が第1の階調よりも大きい第2の階調と、第2の階調よりも大きい第3の階調との間である中輝度の階調群に集中している程度を示す中輝度集中度Mid_rateを算出する。
【0025】
低輝度集中度算出部21と中輝度集中度算出部22は、具体的に、以下のようにして低輝度集中度Low_rateと中輝度集中度Mid_rateを算出する。
【0026】
低輝度集中度算出部21及び中輝度集中度算出部22は、ヒストグラムの総和Hist_sumを算出する。
図2A〜
図2Cに示すヒストグラムデータDhistにおける階調群0〜15それぞれの画素の総和をHist[0]〜Hist[15]とする。低輝度集中度算出部21及び中輝度集中度算出部22は、ヒストグラムの総和Hist_sumを次の式(1)により算出する。
【0028】
低輝度集中度算出部21は、低輝度集中度Low_rateを一例として次の式(2)により算出する。
Low_rate=(Hist[0]+Hist[1]+Hist[2]+Hist[3])×100/Hist_sum …(2)
【0029】
中輝度集中度算出部22は、中輝度集中度Mid_rateを一例として次の式(3)により算出する。
Mid_rate=(Hist[7]+Hist[8]+Hist[9]+Hist[10])×100/Hist_sum …(3)
【0030】
低輝度集中度算出部21が低輝度集中度Low_rateを算出する算出方法は、式(2)に限定されるものではなく、低輝度領域への集中度合いを求めればよい。中輝度集中度算出部22が中輝度集中度Mid_rateを算出する算出方法は、式(3)に限定されるものではなく、中輝度領域への集中度合いを求めればよい。
【0031】
以上のように算出された低輝度集中度Low_rate及び中輝度集中度Mid_rateは、合成部25に入力される。
【0032】
全体階調補正信号算出部23は、輝度信号Yinにおける最小階調から最大階調までの全体の階調を補正するための全体階調補正信号COR_aを算出する。
【0033】
部分階調補正信号算出部24は、輝度信号Yinにおける部分的な階調を補正するための部分階調補正信号COR_bを算出する。具体的には、部分階調補正信号算出部24は、輝度信号Yinにおける画像の輪郭部分のコントラストを改善するための部分階調補正信号COR_bを算出する。
【0034】
全体階調補正信号算出部23には、特許文献1に記載されている映像信号処理技術を採用することができる。部分階調補正信号算出部24には、特許文献2に記載されている映像信号処理技術(輪郭補正技術)を採用することができる。
【0035】
ここで、
図4〜
図9を用いて、全体階調補正信号算出部23の具体的な構成及び動作を説明する。
【0036】
図4に示すように、全体階調補正信号算出部23は、画像特徴検出部231と演算部232とを備える。画像特徴検出部231は、ヒストグラム生成部10と同様に、輝度信号Yinに基づいてヒストグラムデータを生成する。また、画像特徴検出部231は、例えば1フレーム内の平均輝度(APL)を求める。
【0037】
画像特徴検出部231がヒストグラムデータを生成する代わりに、ヒストグラム生成部10が生成したヒストグラムデータDhistを画像特徴検出部231に入力してもよい。
【0038】
画像特徴検出部231が生成したヒストグラムデータも
図2A〜
図2Cのように階調群0〜15それぞれの画素の総和を示すとし、階調群0〜15それぞれの画素の総和を同様にHist[0]〜Hist[15]とする。
【0039】
画像特徴検出部231は、ヒストグラムデータの分布の広がり方を示す広がり係数expCoefを次の式(4)により算出する。式(4)におけるmin(Hist[i-1], Hist[i+1])は、Hist[i-1]とHist[i+1]とのうちの小さい方の値をとることを意味する。Histmaxは、Hist[0]〜Hist[15]のうちの最大値である。
【0041】
図2B,
図2Cのように階調の頻度が局所的に分布しているとき、広がり係数expCoefは0となる。
図2Aのように階調の頻度が全体的に分布するほど広がり係数expCoefは大きくなり、完全一様な分布のとき、式(4)の場合には広がり係数expCoefは600となる。即ち、広がり係数expCoefを次の式(4)により算出する場合、広がり係数は0〜600のいずれかの値をとる。
【0042】
画像特徴検出部231が生成したヒストグラムデータと、平均輝度と、広がり係数expCoefは、演算部232に入力される。ヒストグラム生成部10が生成したヒストグラムデータDhistを用いる場合には、ヒストグラムデータDhistを演算部232に入力すればよい。
【0043】
演算部232は、それぞれのフレームにおいて、ヒストグラムデータと、平均輝度と、広がり係数expCoefとを用いて、後述する複数のゲインを生成する。
【0044】
演算部232は、広がり係数expCoefに基づいて、
図5に示すような特性を有する広がりゲインGexpを生成する。
図5における横軸は広がり係数expCoef、縦軸は広がりゲインGexpである。
【0045】
図5に示す例では、広がりゲインGexpは、広がり係数expCoefが0〜4のときゲインが0、広がり係数expCoefが4〜12ではゲインが増加する特性を有する。また、
図5に示す例では、広がり係数expCoefが12〜300のときゲインは最大の1であり、広がり係数expCoefが300〜600ではゲインが減少する特性を有する。
【0046】
広がりゲインGexpの特性は、
図5に限定されるものではない。ゲインの変化
点(
図5では、4,12,300)の位置は任意に設定できる。
【0047】
演算部232は、平均輝度に基づいて、
図6に示すような特性を有する平均輝度ゲインGaplを生成する。
図6における横軸は平均輝度(APL)、縦軸は平均輝度ゲインGaplである。
【0048】
図6に示す例では、平均輝度ゲインGaplは、平均輝度が0〜64ではゲインは最大の1、平均輝度が64〜255ではゲインが減少する特性を有する。平均輝度ゲインGaplの特性は、
図6に限定されるものではない。ゲイン減少の開始点(
図6では64)、ゲイン減少の割合は任意に設定できる。
【0049】
演算部232は、ヒストグラムデータに対する重み付けのため、
図7に示すような特性を有する重み付けゲインGwを生成する。
図7における横軸はヒストグラムデータの階調群0〜15のいずれかを示す値[i]、縦軸は重み付けゲインGwである。
【0050】
図7に示す例では、重み付けゲインGwは、iが0〜4ではゲインは最大の1、iが5〜15ではゲインが減少する特性を有する。重み付けゲインGwの特性は、
図7に限定されるものではない。ゲイン減少の開始点(
図7では4)、ゲイン減少の割合は任意に設定できる。
【0051】
演算部232は、広がりゲインGexpと、平均輝度ゲインGaplと、重み付けゲインGwとを用いて、ヒストグラムデータを積分する。
図8に示すフローチャートは、ヒストグラムデータの積分処理の一例を示している。演算部232は、
図8に示す積分処理によって、輝度信号Yinの階調を補正する階調補正曲線(ガンマ曲線)を構成するポイントP[i](i=0〜15)を生成する。
【0052】
図8において、積分処理が開始されると、演算部232は、ステップS1にて、i及びポイントP[i]の積分値sumを0に設定する。演算部232は、ステップS2にて、iが16未満であるか否かを判定する。演算部232は、iが16未満であれば(YES)、処理をステップS3へ移行させ、iが16未満でなければ(NO)、処理をステップS9へ移行させる。
【0053】
演算部232は、ステップS3にて、ヒストグラムデータHist[i]を入力する。ここではiは0であるから、Hist[0]が入力される。
【0054】
演算部232は、ステップS4にて、ヒストグラムデータHist[i]を式(5)に示す計算式により、Hist[i](i=0〜15)の平均値Haveを用いてオフセットする。ステップS4における計算値integはオフセット値である。平均値Havを、平均輝度または広がり係数expCoefで補正してもよい。
【0055】
Integ=(Hist[i]−Have)×16/Have …(5)
【0056】
演算部232は、ステップS5にて、式(6)に示すように、ステップS4にて求めたオフセット値integに、所定の固定ゲインGと、広がりゲインGexpと、平均輝度ゲインGaplと、重み付けゲインGwとを乗算する。
【0057】
integ=integ×G×Gexp×Gapl×Gw …(6)
【0058】
演算部232は、ステップS6にて、ステップS5で求めたゲイン乗算後のオフセット値integに、上限と下限のリミッタをかける。演算部232は、ステップS7にて、式(7)に示すように、ポイントP[i]の積分値sumにステップS6で求めた値を加算する。
【0059】
sum=sum+integ …(7)
【0060】
式(7)におけるintegは、ステップS6にてリミッタをかけたオフセット値である。ここではiは0であるから、積分値sumは0であり、ステップS7にて新たに得られるsumはステップS6で求めた値となる。
【0061】
演算部232は、ステップS8にて、式(8)に示すように、ステップS7で求められた積分値sumを用いて、ヒストグラムデータHist[i]のポイントP[i]を求める。ステップS8で求められたポイントP[i]は演算部232内に一時記憶される。
【0063】
演算部232は、ステップS8の処理終了後にiを1インクリメントして、処理をステップS2に戻す。演算部232は、ステップS2〜S8の処理をiが15となるまで繰り返す。
【0064】
以上の処理によって、
図9に示す階調補正曲線を構成するP[0]〜P[15]の各ポイントが生成される。
図9の横軸は輝度信号Yin、縦軸は輝度信号Yinを階調補正曲線で補正した補正輝度信号Yin’である。
図9において、Lwは所定の白レベル、Lbは所定の黒レベルである。
図9では、黒レベルLbを0としている。
【0065】
ステップS8にてP[15]が求められるとiは16となるので、ステップS2にてiは16未満ではない(NO)と判定され、演算部232は、処理をステップS9に移行させる。
【0066】
演算部232は、ステップS9にて、白レベルLwとポイントP[15]のレベルとの差分Dを式(9)により求める。この処理は、ポイントP[15]のレベルを白レベルLwへと補正するために必要となる。ここでは、Lbは0である。演算部232は、差分Dが0となるようにポイントP[15]のレベルを補正する。これにより、ポイントP[15]のレベルは白レベルLwとなる。
【0067】
D=Lw−Lb−P[15] …(9)
【0068】
iを0とし、ステップS11にてiが16未満であるか否かを判定する。iが16未満であれば(YES)、演算部232は処理をステップS12に移行させ、iが16未満でなければ(NO)、演算部232は処理をステップS13に移行させる。
【0069】
演算部232は、ポイントP[15]のレベルを白レベルLwに補正したことに伴い、ステップS12にて、各ポイントP[i]のレベルを式(10)により補正して、ポイントP[i]’とする。ポイントP[i]’は、演算部232内に一時記憶される。
【0070】
P[i]’=D×(i+1)/16+Lb …(10)
【0071】
演算部232は、ステップS12の処理終了後にiを1インクリメントして、処理をステップS11に戻す。演算部232は、ステップS11,S12の処理をiが15となるまで繰り返す。
【0072】
ステップS12にてP[15]が補正されるとiは16となるので、ステップS11にてiは16未満ではない(NO)と判定され、演算部232は、処理をステップS13に移行させる。
【0073】
演算部232は、ステップS13にて、ポイントP[0]’〜P[15]’を直線補間して、
図9に示すような階調補正曲線である全体階調補正信号COR_aを生成する。
図9では、便宜上、ステップS12にて各ポイントP[i]のレベルをポイントP[i]’に補正する前の状態で、各ポイントP[i]を直線補間した階調補正曲線を示している。
【0074】
演算部232は、ポイントP[15]のレベルを白レベルLwに補正してポイントP[15]’とし、ポイントP[0]〜P[14]をポイントP[0]’〜P[14]’に補正したら、ポイントP[0]’〜P[15]’を直線補間すればよい。演算部232は、全体階調補正信号COR_aを生成したら処理を終了させる。
【0075】
輝度信号Yinを全体階調補正信号COR_aによって補正しない状態では、
図9における輝度信号Yinと補正輝度信号Yin’とは破線で示すようにリニアな関係である。全体階調補正信号COR_aは、輝度信号Yinにおける最小階調から最大階調まで全体の階調において、輝度信号Yinを、階調を増加させる方向または減少させる方向の補正値である。
【0076】
以上説明した
図4に示す全体階調補正信号算出部23の構成及び動作をまとめると、次のとおりである。画像特徴検出部231は、ヒストグラム生成部として機能する。画像特徴検出部231は、輝度信号Yinにおける所定単位(例えば1フレーム)ごとに最小輝度から最大輝度までを複数の階調群に分割してそれぞれの階調群における画素数の分布を示すヒストグラムデータを生成する。
【0077】
演算部232は、広がり係数生成部と、ゲイン生成部と、階調補正曲線生成部として機能する。広がり係数生成部は、輝度信号Yinが複数の階調群にどのように分布しているかを示す係数であり、輝度信号Yinが所定の階調群に集中するほど小さく、輝度信号Yinが複数の階調群の全体に広がるほど大きな値を示す広がり係数expCoefを生成する。
【0078】
ゲイン生成部は、広がり係数expCoefに応じてゲイン(広がりゲインGexp)を生成する。ゲインは次のような特性を有する。ゲインの特性は、広がり係数expCoefが、最小の値から第1の値までの範囲では広がり係数expCoefが大きくなるに従ってゲインが逓増する部分を有する。
【0079】
さらに、ゲインの特性は、第1の値から第1の値より大きい第2の値までの範囲ではゲインが一定の部分を有する。ゲインの特性は、第2の値から最大の値までの範囲では広がり係数expCoefが大きくなるに従ってゲインが逓減する部分を有する。
【0080】
階調補正曲線生成部は、少なくとも上記のゲインとヒストグラムデータとを演算して輝度信号Yinの階調を補正するための階調補正曲線を構成する複数の値を生成し、複数の値に基づいて階調補正曲線を生成する。
【0081】
以上のように構成される全体階調補正信号算出部23によれば、輝度信号Yinを補正するための階調補正曲線を、所定単位ごとに、輝度信号Yinにおける階調の分布の仕方に応じて生成することができる。
【0083】
図10に示すように、部分階調補正信号算出部24は、遅延器241,ガウシアンフィルタ242,減算器243,ローパスフィルタ244,乗算器245を備える。
【0084】
輝度信号Yinは、遅延器241及びガウシアンフィルタ242に入力される。ガウシアンフィルタとは、ガウス関数を利用して極めて低い周波数信号を抽出するローパスフィルタのことである。
図11に示すように、ガウシアンフィルタ242の周波数特性FGは極めて低い遮断周波数を有する。
【0085】
ガウシアンフィルタ242の代わりに、極めて低い遮断周波数を有し、タップ長の長いローパスフィルタを用いてもよい。
【0086】
遅延器241は、輝度信号Yinを、ガウシアンフィルタ242における処理に要する時間だけ遅延させて輝度信号Yin1として出力する。ガウシアンフィルタ242は、輝度信号Yinより低周波成分信号Yin2を抽出する。
【0087】
図12Aに示すように、輝度信号Yinが実線にて示すようなエッジ信号の場合、低周波成分信号Yin2は破線にて示すような波形となる。
図11に示すように、低周波成分信号Yin2の帯域は周波数特性FGで制限された帯域となる。
【0088】
減算器243は、輝度信号Yin1から低周波成分信号Yin2を減算して、
図12Bに示す高周波成分信号Yin3を出力する。減算器243は全帯域の映像信号Yin1から低周波成分信号Yin2を減算するので、高周波成分信号Yin3の帯域は
図11に示すとおりとなる。
【0089】
減算器243より出力された高周波成分信号Yin3はローパスフィルタ244に入力される。ローパスフィルタ244の周波数特性FLは
図11に示すとおりであり、ローパスフィルタ244の遮断周波数はガウシアンフィルタ242の遮断周波数よりも高い。
【0090】
ローパスフィルタ244の出力信号Yin4は、高周波成分信号Yin3における低域側の信号を周波数特性FLによって抽出した信号であり、
図12Cに示す波形となる。出力信号Yin4を低域側高周波成分信号Yin4と称することとする。低域側高周波成分信号Yin4は乗算器245に入力される。
【0091】
乗算器245は低域側高周波成分信号Yin4にゲインG1を乗算して、
図12Dに示す部分階調補正信号COR_bを生成する。ゲインG1は部分階調補正信号算出部24による画像の輪郭部分のコントラストの改善効果を調整するためのものであり、通常は0を超える1未満の正数である。
【0092】
仮に
図12Aに示す輝度信号Yinに
図12Dに示す部分階調補正信号COR_bを加算して輝度信号Yinを補正したとすると、補正輝度信号Yin_bは
図12Eに示すようになる。
【0093】
以上説明した
図10に示す部分階調補正信号算出部24の構成及び動作をまとめると、次のとおりである。
【0094】
ガウシアンフィルタ242(第1のローパスフィルタ)は、第1の遮断周波数を有し、輝度信号Yinの低周波成分信号Yin2を抽出する。減算器243は、輝度信号Yinより低周波成分信号Yin2を減算して、高周波成分信号Yin3を抽出する。
【0095】
ローパスフィルタ244(第2のローパスフィルタ)は、第1の遮断周波数よりも高い第2の遮断周波数を有し、高周波成分信号Yin3における低域側の信号である低域側高周波成分信号Yin4を抽出する。乗算器245は、低域側高周波成分信号Yin4に所定のゲインG1を乗算して、補正成分信号である部分階調補正信号COR_bを生成する。
【0096】
図10に示す部分階調補正信号算出部24によれば、一般的なエンハンサによって強調する高域成分よりも低域成分(低域側高周波成分信号Yin4の帯域成分)を強調することができるので、エッジの周辺に比較的幅の広いシュート成分が付加されることになる。すると、人が知覚する信号レベルの差が実際の信号レベルの差よりも大きくなり、コントラストを向上させることができる。
【0097】
図3に戻り、合成部25には、低輝度集中度Low_rateと、中輝度集中度Mid_rateと、全体階調補正信号COR_aと、部分階調補正信号COR_bとが入力される。
【0098】
合成部25は、全体階調補正信号COR_aにゲインGaを乗算して全体階調補正信号COR_a’とする乗算器と、部分階調補正信号COR_bにゲインGbを乗算して部分階調補正信号COR_b’とする乗算器とを有する。これらを式で表すと式(11),(12)となる。
【0099】
COR_a’=Ga×COR_a …(11)
COR_b’=Gb×COR_b …(12)
【0100】
ゲインGaは、
図13Aに示すように、低輝度集中度Low_rateに応じた値である。ゲインGbは、
図13Bに示すように、中輝度集中度Mid_rateに応じた値である。
【0101】
図13Aに示すように、ゲインGaは、低輝度集中度Low_rateが0から中間値(例えば50)までの範囲では0.5であり、中間値から100までの範囲では、0.5から2までリニアに増加する特性を有する。
図13Bに示すように、ゲインGbもゲインGaと同様の特性を有する。ゲインGa,Gbの特性は、
図13A,
図13Bに限定されない。
【0102】
合成部25は、輝度信号Yinと全体階調補正信号COR_a’と部分階調補正信号COR_b’とを加算して補正輝度信号Youtを出力する加算器を有する。これを式で表すと式(13)となる。
【0103】
Yout=Yin+COR_a’+COR_b’ …(13)
【0104】
このように、合成部25は、ヒストグラムデータDhistに基づいて、輝度信号Yinに対して全体階調補正信号COR_aを加算する程度を調整して、全体階調補正信号COR_a’とする。また、合成部25は、ヒストグラムデータDhistに基づいて、輝度信号Yinに対して部分階調補正信号COR_bを加算する程度を調整して、部分階調補正信号COR_b’とする。
【0105】
そして、合成部25は、輝度信号Yinと全体階調補正信号COR_a’と部分階調補正信号COR_b’とを合成して、補正輝度信号Youtを出力する。
【0106】
合成部25は、低輝度集中度Low_rateに応じて、輝度信号Yinに全体階調補正信号COR_aを加算する程度を調整し、中輝度集中度Mid_rateに応じて、輝度信号Yinに部分階調補正信号COR_bを加算する程度を調整する。
【0107】
図13Aに示すように、少なくとも部分的に、低輝度集中度Low_rateが大きくなるほど、全体階調補正信号COR_a’が大きくなるようにするのがよい。
図13Bに示すように、少なくとも部分的に、中輝度集中度Mid_rateが大きくなるほど、部分階調補正信号COR_b’が大きくなるようにするのがよい。
【0108】
図13A,
図13Bに示すように、低輝度集中度Low_rate,中輝度集中度Mid_rateにかかわらず、全体階調補正信号COR_a’,部分階調補正信号が一定となる部分を設けてもよい。
【0109】
以上のように、本実施形態の映像信号処理装置は、ヒストグラムデータDhistに基づいて、全体階調補正信号COR_a(COR_a’)と部分階調補正信号COR_b(COR_b’)とを適応的に合成している。よって、本実施形態の映像信号処理装置によれば、各種の視認性が低下した画像や通常の画像の画質を向上させることができる。
【0110】
図1,
図3,
図4,
図10の構成をコンピュータプログラム(映像信号処理プログラム)で実現してもよい。映像信号処理プログラムは、コンピュータに以上説明したそれぞれの処理を実行させればよい。ハードウェアとソフトウェア(コンピュータプログラム)との使い分けは任意であり、両者を混在させてもよい。
【0111】
映像信号処理プログラムは、非一時的な記録媒体に記録されて提供されてもよいし、インターネット等のネットワークを介して供されてもよい。
【0112】
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。