(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-19
(45)【発行日】2024-01-29
(54)【発明の名称】画像信号処理方法
(51)【国際特許分類】
H04N 25/10 20230101AFI20240122BHJP
H04N 23/60 20230101ALI20240122BHJP
【FI】
H04N25/10
H04N23/60 500
(21)【出願番号】P 2019103566
(22)【出願日】2019-06-03
【審査請求日】2022-03-11
【前置審査】
(73)【特許権者】
【識別番号】000131326
【氏名又は名称】株式会社シグマ
(72)【発明者】
【氏名】小豆澤 政史
【審査官】花田 尚樹
(56)【参考文献】
【文献】特開2002-074356(JP,A)
【文献】特開平07-030905(JP,A)
【文献】特開2005-128006(JP,A)
【文献】特開2017-129952(JP,A)
【文献】米国特許出願公開第2015/0310602(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 9/01 - 9/11
23/10
23/12 -23/17
25/10 -25/17
25/611
H04N 5/222- 5/257
23/00
23/40 -23/76
23/90 -23/959
(57)【特許請求の範囲】
【請求項1】
複数の色画像信号を処理する画像信号処理方法において、
補正対象の色となる1色の前記色画像信号を補正対象信号値として選択する画像信号選択部と、
前記補正対象信号値以外の前記複数の色画像信号の加重平均信号値を計算する加重平均計算部と、
前記補正対象信号値から前記加重平均信号値を減算して第1の減算信号値を求める第1減算部と、
前記第1の減算信号値にローパスフィルタを適用することで第1の高周波成分削減信号値を算出する第1高周波成分削減部と、
前記第1の減算信号値から前記第1の高周波成分削減信号値を減算して第2の減算信号値を算出する第2減算部と、
前記第2の減算信号値にローパスフィルタを適用することで第2の高周波成分削減信号値を算出する第2高周波成分削減部と、
前記第2の減算信号値から前記第2の高周波成分削減信号値を減算して第3の減算信号値を算出する第3減算部と、
前記補正対象信号値から前記第3の減算信号値を減算して第4の減算信号値を算出する第4減算部と、
からなり、
前記第4の減算信号値を前記
画像信号選択部にて選択した前記補正対象信号値とすることを特徴とする画像信号処理方法。
【請求項2】
請求項1に記載の画像信号処理方法について、
前記第1高周波成分削減部は、前記第1の減算信号値をリサイズ縮小したのち、再度リサイズ拡大して元のサイズに戻すことで第1の高周波成分削減信号値を算出することを特徴とする画像信号処理方法。
【請求項3】
請求項1乃至2の何れか1項に記載の画像信号処理方法について、
前記第2減算部は、前記第2の減算信号値が閾値を超える場合には、前記第2の減算信号値を閾値に置き換える処理を適用する第1閾値部を有することを特徴とする画像信号処理方法。
【請求項4】
請求項1乃至3の何れか1項に記載の画像信号処理方法について、
前記第3減算部は、前記第3の減算信号値が閾値を超える場合には、前記第3の減算信号値を閾値に置き換える処理を適用する第2閾値部を有することを特徴とする画像信号処理方法。
【請求項5】
請求項1乃至
4の何れか1項に記載の画像信号処理方法について、
前記複数の色画像信号は、積層型の固体撮像素子により変換された画像信号であることを特徴とする画像信号処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、色ノイズを低減する画像信号処理方法に関するものである。
【背景技術】
【0002】
近年、画像データにおいて色に関するノイズである色ノイズを低減するための画像信号処理方法が提言されている。
【0003】
色ノイズとは、画像データに本来存在しないはずの色情報が、何らかの理由で含まれることで発生するノイズである。
【0004】
よって、この色ノイズを含んだ画像データをデジカメの背面液晶画面やモニター画面上や紙媒体などに出力すると、本来存在しない色情報が画像信号として表示されるため、撮影者に違和感を与える。
【0005】
特許文献1は、ホワイトバランス補正した後、画像データの画素毎に色差データを算出し、色差データが一定の範囲内であり、輝度が指定された輝度範囲内である画素のデータに対して、当該画素の色差データが小さくなるように色ノイズ低減処理が施される技術が開示されている。
【0006】
本発明の目的は、色ノイズの原因になりうる高周波成分を取り除くことが可能であり、高周波成分の色ノイズを取り除いた画像信号へフィルタサイズの大きなフィルタリングなどの処理を行っても、色ノイズの広がりを抑えつつ、さらには各色すべての高周波成分にノイズ処理を施した場合よりも、高周波の情報を維持することが可能な画像信号処理方法を提供することにある。
【文献】5977565号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
特許文献1にて開示されている画像信号処理方法は、色差データが小さいほど、色ノイズ低減処理の効果が得られるが、色差データが大きい部分については色ノイズ低減処理の効果は得にくいという課題を有する。
【0008】
したがって、特に孤立した強いノイズ成分には色ノイズの低減効果は得られにくくなり、孤立した色ノイズが残ってしまうという課題を有する。
【0009】
一方、孤立した色ノイズを消すために、色差データが大きい部分にも色ノイズ低減処理の効果を得ようとすると、多色の滲みや色差のディテールを著しく損なう結果になってしまう。
【0010】
本発明はこのような状況に鑑みてなされたものであり、多色の高周波情報を用いて画像信号処理を行うことで、色ノイズの原因になりうる高周波成分を取り除くことが可能であり、高周波成分の色ノイズを取り除いた画像信号へフィルタサイズの大きなフィルタリングなどの処理を行っても、広がりを持つノイズが発生しにくく、さらには各色すべての色信号にノイズ処理を施した場合よりも、高周波の情報を維持することが可能な画像信号処理方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するための手段である第1の発明は、複数の色画像信号を処理する画像信号処理方法において、補正対象の色となる1色の前記色画像信号を補正対象信号値として選択する画像信号選択部と、前記補正対象信号値以外の複数色の画像信号の加重平均信号値を計算する加重平均計算部と、前記補正対象信号値から前記加重平均信号値を減算して第1の減算信号値を求める第1減算部と、前記第1の減算信号値にローパスフィルタを適用することで第1の高周波成分削減信号値を算出する第1高周波成分削減部と、前記第1の減算信号値から前記第1の高周波成分削減信号値を減算して第2の減算信号値を算出する第2減算部と、前記第2の減算信号値にローパスフィルタを適用することで第2の高周波成分削減信号値を算出する第2高周波成分削減部と、前記第2の減算信号値から前記第2の高周波成分削減信号値を減算して第3の減算信号値を算出する第3減算部と、前記補正対象信号値から前記第3の減算信号値を減算して第4の減算信号値を算出する第4減算部と、からなり、前記第4の減算信号値を前記画像信号選択部にて選択した前記補正対象信号値とすることを特徴とする画像信号処理方法。
【0012】
また、上述の課題を解決するための手段である第2の発明は、第1の発明に記載の画像信号処理方法であって、前記第1高周波成分削減部は、前記第1の減算信号値をリサイズ縮小したのち、再度リサイズ拡大して元のサイズに戻すことで第1の高周波成分削減信号値を算出することを特徴とする画像信号処理方法。
【0013】
また、上述の課題を解決するための手段である第3の発明は、第1又は第2の発明に記載の画像信号処理方法であって、前記第2減算部は、前記第2の減算信号値が閾値を超える場合には、前記第2の減算信号値を閾値に置き換える処理を適用する第1閾値部を有することを特徴とする画像信号処理方法。
【0014】
また、上述の課題を解決するための手段である第4の発明は、第1の発明乃至第3の発明のいずれか1項に記載の画像信号処理方法であり、前記第3減算部は、前記第3の減算信号値が閾値を超える場合には、前記第3の減算信号値を閾値に置き換える処理を適用する第2閾値部を有することを特徴とする画像信号処理方法。
【0016】
また、上述の課題を解決するための手段である第5の発明は、第1の発明乃至第4の発明のいずれか1項に記載の画像信号処理方法であり、前記複数の色画像信号は、積層型の固体撮像素子により変換された画像信号であることを特徴とする画像信号処理方法。
【発明の効果】
【0017】
本発明によれば、多色の高周波情報を用いて画像信号処理を行うことで、色ノイズの原因になりうる高周波成分を取り除くことが可能であり、高周波成分の色ノイズを取り除いた画像信号へフィルタサイズの大きなフィルタリングなどの処理を行っても、広がりを持つノイズが発生しにくく、さらには各色すべての色信号にノイズ処理を施した場合よりも、高周波の情報を維持することが可能な画像信号処理方法を提供することができる。
【図面の簡単な説明】
【0018】
【
図1】本発明の実施例に係る固体撮像装置の構成を示すブロック図
【
図2】本発明の実施例に係るノイズリダクションを行う際のフローチャート
【発明を実施するための形態】
【0019】
以下、添付の図面に従って、本発明を実施するための最良の形態について説明する。なお、この実施の形態により本発明が限定されるものではない。
【0020】
本実施例において、100はレンズ鏡筒、101は固体撮像素子、1011は、マイクロレンズ、1012は光電変換部、1013は配線部、102はCPU、1021は画像信号決定部、1022は加重平均計算部、1023は第1減算部、1024は第1高周波削減部、1025は第2減算部、1026は第2高周波削減部、1027は第3減算部、1028は第4減算部、1029は第1閾値部、1030は第2閾値部、とする。
【0021】
図1は、本実施例の撮像装置の構成を示す構成図である。
【0022】
撮像装置10は、レンズ鏡筒100と不図示のカメラ本体から構成される。
【0023】
レンズ鏡筒100は、カメラ本体に脱着可能であり、レンズ鏡筒100のマウント部とカメラ本体のマウント部とがバヨネット機構などにより接続される。尚、レンズ鏡筒100は、カメラ本体に固定式の物でも構わない。
【0024】
固体撮像素子101は、マイクロレンズ1011と光電変換部1012と配線部1013などを含む。
【0025】
マイクロレンズ1011は、レンズ鏡筒100に入射した光束を各光電変換部1012が受光に適するように集光するレンズである。
【0026】
光電変換部1012は、マイクロレンズ1011を通過した光束を画像信号に変換する。
【0027】
光電変換部1012にて変換された画像信号について説明する。光束を画像信号へ変換する光電変換部1012は、各画素に配置される。固体撮像素子101がベイヤー型の場合、各画素に配置された光電変換部1012からマイクロレンズ1011と光電変換部1012配置されたカラーフィルタと同色の画像信号へ変換される。カラーフィルタは赤色(R)、緑色(G)、青色(B)の3色が用いられることが一般的であり、この時、変換される画像信号は3種類となる。
【0028】
一方、固体撮像素子101が積層型の場合、1画素から光電変換部の積層数分の画像信号が変換される。本願実施例では、1画素に赤色(R)、緑色(G)、青色(B)の3色の画像信号を得る為、光電変換部1012は3層積層されている。
【0029】
配線部1013は、光電変換部1012にて変換された画像信号を各光電変換部1012からCPU102へ転送する。
【0030】
CPU102は、光電変換部1012が変換し配線部1013を通じて転送されてきた画像信号に各々の処理を行う。
【0031】
画像信号選択部1021は、光電変換部1012が変換し、配線部1013を通じて転送された画像信号から補正対象とする画像信号を決定する。
【0032】
加重平均計算部1022は、画像信号選択部1021が決定した補正対象となる画像信号以外の画像信号において、画像信号から加重平均を計算する。具体的な計算方法は後述する。
【0033】
第1減算部1023は、画像信号選択部1021にて決定した補正対象画像信号から加重平均計算部1022にて計算した補正対象以外の画像信号の加重平均を減算する。
【0034】
第1高周波成分削減部1024は、加重平均計算部1022にて計算した結果である加重平均にローパスフィルタを適用することで、高周波成分が削減されて、結果として低周波成分を抽出することができる。
【0035】
第2減算部1025は、第1減算部1023の計算結果から、第1高周波成分削減部1024にて抽出された画像信号を減算する。
【0036】
第2高周波成分削減部1026は、第2減算部1025の計算結果にローパスフィルタを適用する。
【0037】
第3減算部1027は、第2減算部1026にて計算した結果から、第2高周波成分削減部1026にて抽出された画像信号を減算する。
【0038】
第4減算部1028は、画像信号選択部1021の決定した画像信号から第3減算部1027にて計算した画像信号を減算する。その結果、補正対象の画像信号は色ノイズが除去された画像信号となる。
【0039】
第1閾値部1029は、第2減算部1024の計算結果に適用し、計算結果が閾値範囲を超えた場合には閾値に置き換えるなどすることで、補正量をコントロールする。
【0040】
第2閾値部1030は、第3減算部1026の計算結果に適用し、計算結果が閾値範囲を超えた場合には閾値に置き換えるなどすることで、補正量をコントロールする。
【0041】
次に、本発明における画像信号処理方法について、
図2のフローチャートを用いて実施例を説明する。
【0042】
図1に示すようにレンズ鏡筒100を通過した光束は、固体撮像素子101へ届き、マイクロレンズ1011を経て光電変換部1012へ導かれた後、画像信号へ変換される。本願実施例に用いられる固体撮像素子101は、1画素に3層の光電変換部1012が積層される。従って、1画素から3種類の画像信号が変換される。
【0043】
ステップ#1の画像信号決定部では、固体撮像素子101の光電変換部1012にて変換された3種類の画像信号の中から、画像信号選択部1021が補正対象となる画像信号を決定する。
【0044】
ステップ#2では、ステップ#1にて画像信号選択部1021が決定した補正対象となる画像信号以外の2種類の画像信号を用いて、加重平均計算部1022は加重平均を計算する。
【0045】
加重平均の係数は、ステップ#1にて決定した補正対象となる画像信号の分光感度と、補正対象となる画像信号以外の分光感度の差分から求める。
【0046】
例えば、補正対象となる画像信号と分光感度の形状やピークが近い画像信号成分の加重平均の係数を大きくし、分光感度の形状やピークの違いが大きい画像信号であれば、加重平均の係数を小さくする。
【0047】
ステップ#3では、第1減算部1023はステップ#1にて画像信号決定部1021が決定した補正対象となる画像信号から、ステップ#2にて加重平均計算部1022が計算した加重平均を減算する。この減算結果を第1減算結果とする。
【0048】
ステップ#4では、第1高周波成分削減部1024がステップ#3の第1減算部1023の計算した第1減算結果は、ローパスフィルタを適用することで低周波成分を抽出する。
【0049】
ステップ#4では、ローパスフィルタのフィルタサイズを比較的大きくして適用する。
【0050】
ローパスフィルタのフィルタサイズを大きくする理由は、幅を持つ色ノイズの除去するためにあり、より広い範囲を考慮した信号を正しい色と判定するためである。
【0051】
仮にローパスフィルタのフィルタサイズを小さくした場合には、極端な信号に引っ張られるケースや、幅を持つノイズがある場合に、正しい色と判断される色の信頼性が低くなるためである。
【0052】
尚、低周波成分を抽出することが出来れば、ローパスフィルタを適用する方法以外にも、リサイズなどでも問題ない。
【0053】
具合的には、特定の比率で縮小リサイズを行い、その後、前記比率の逆数で拡大リサイズすることで、高周波成分を削減する方法などでも問題ない。
【0054】
ステップ#5では、第2減算部1025がステップ#4にて抽出した低周波成分をステップ#3の第1減算結果から減算する。この結果を第2減算結果とし、第2減算結果は、高周波成分を抽出したものとなる。
【0055】
この高周波成分はノイズ成分と共に、色滲み成分も持ってしまう。この色滲み成分はステップ#4で使用したローパスフィルタのフィルタサイズを大きくした影響で、エッジなどの著しい色の変化があった部分の周辺で発生する。
【0056】
例えば、信号の小さい側から大きい側に変化するエッジがある部分に対しては、元信号からローパスフィルタ適用後の信号を引いて差分信号を算出した場合、信号の小さい側からエッジ部では、差分信号はエッジに近付く程マイナス量が少しずつ増え、信号の大きい側からエッジ部では、差分信号はエッジに近付く程プラス量が少しずつ増える特性を持つ。
【0057】
差分信号がエッジ付近でマイナス量及びプラス量が増える幅は、ローパスフィルタのフィルタサイズが大きい程広くなり色滲みの成分となる。
【0058】
この高周波成分に含まれる色滲み成分は、エッジに近い程大きくなる特性を持つため、閾値を設ける事でエッジ付近の色滲みの量とノイズ成分を調整してもよい。
【0059】
ステップ#6では、第2高周波成分削減部1026がステップ#5にて第2減算部1025が算出した第2減算結果にローパスフィルタを適用する。
【0060】
第2高周波成分削減部1026のローパスフィルタは、ステップ#4で使用したローパスフィルタのフィルタサイズよりもフィルタサイズを小さくすることで、前記エッジ部分の色滲み成分を含む画像信号となる。また、以下にフィルタサイズを小さくする理由を述べる。
【0061】
例えば、ステップ#5で得られる高周波成分は前述した通り色滲み成分を含んでおり、この色滲み成分はエッジ部を境にプラス側成分とマイナス側成分に発生している。ステップ#6の第2高周波成分削減部は、特に色滲み成分のみを抽出したいため、なるべくエッジ部を境にしたプラス側成分毎およびエッジ部を境にしたマイナス側成分毎にローパスフィルタを掛けることが望まれる。
【0062】
仮にステップ#4と同じサイズのローパスフィルタを掛けた場合、エッジ部を境にしたプラス側成分とエッジ部を境にしたマイナス側成分が足し合わされて、色滲み成分を除外することが出来なくなってしまう。
【0063】
ステップ#7では、第3減算部1027がステップ#5にて算出した第2減算結果からステップ#6にて第2減算結果にローパスフィルタを適用したものを減算する。この減算結果を第3減算結果とする。
【0064】
第3の減算結果は、主に画像信号補正対象色と画像信号対象外以外の加重平均の差分信号のノイズ成分で構成される画像信号となる。
【0065】
この高周波成分に残った色滲み成分は、エッジに近い程大きくなる特性を持つため、閾値を設ける事でエッジ付近の色滲みの量とノイズ成分を調整してもよい。
【0066】
ステップ#8では、第4減算部1026がステップ#7にて算出した第3減算結果からステップ#1にて画像信号決定部1021の決定した補正対象となる画像信号を減算する。この減算結果を第4減算結果とする。
【0067】
この第4減算結果を画像信号決定部1021にて決定した補正対象画像信号の補正後の画像信号とする。
【0068】
補正対象画像信号は、処理前の画像信号と比較して、単色でノイズ処理をした場合よりも解像感を維持した状態で色ノイズが軽減された画像信号となる。
【0069】
以下に、上記各ステップを具体的に説明する。
【0070】
本実施例では、光電変換部1012の変換した画像信号のうち、緑色(G)を補正対象の画像信号として、具体的に補正方法を説明する。
【0071】
補正対象の画像信号を緑色(G)としているので、ステップ#1で画像信号選択部1021は、緑色(G)を補正対象の画像信号となる。
【0072】
次に、ステップ#2では、補正対象の画像信号である緑色(G)以外の画像信号である赤色(R)と青色(B)を用いて、加重平均計算部1022が加重平均を計算する。
【0073】
ステップ#1にて決定した補正対象となる画像信号とステップ#2にて加重平均を計算の基となる2種類の画像信号は、同一画素から得られる画像信号を用いている。なぜなら、本願実施例にて用いる固体撮像素子101は、前述したように1画素から3種類の画像信号を得ることが可能である積層型の固体撮像素子であるため。
【0074】
実施例の加重平均計算部1022が行う具体的な計算方法を示す。
【0075】
赤色(R)と青色(B)の画像信号をそれぞれRとBとし、係数をそれぞれαとβとすると加重平均は以下のように表せる。
加重平均:(α*R+β*B) (α+β=1)
【0076】
次に、ステップ#3で第1減算部1023の計算を説明する。光電変換部1012の変換した緑色(G)の画像信号をGとし、計算後の緑色(G)をG1とすると、以下の式となる。
G1=G-(α*R+β*B) (α+β=1)
【0077】
ステップ#4では、ステップ#3にて計算したG1から低周波成分を抽出する。
G2=LPF(G1)
【0078】
ステップ#5では、ステップ#3にて計算したG1からステップ#4にて抽出した周波成分を減算する。G1から低周波成分を減算することで、高周波成分のみを抽出することが可能となる。
G3=G1-G2
【0079】
この高周波成分は緑色の画像信号と、赤色と青色を用いた加重平均の画像信号の違いとなり、緑色の高周波色ノイズ成分と成り得るが、同時に、この高周波成分はエッジ部分の色滲みを発生させる要素を持っている。
【0080】
ステップ#6では、第2減算部1025の計算結果にステップ#4と同様にローパスフィルタを適用することで、第2減算部1025の計算結果より低周波成分を抽出する。
G4=LPF(G3)
この時、適用するローパスフィルタのサイズは、ステップ#4に用いたローパスフィルタよりも小さいフィルタサイズ(または縮小率)となる。
【0081】
縮小率とは、ローパスフィルタの代わりにリサイズ処理を用いた場合の画像サイズ変更比率をあらわす。縮小率の値が大きいほど、リサイズで作成される画像は小さくなる。
【0082】
ステップ#7では、ステップ#5の第2減算部1025にて求めた計算からステップ#6の第2高周波削減部1026にてローパスフィルタを適用された画像信号である。
G5=G3-G4
【0083】
また、追加実施例として、計算結果の代わりに閾値を用いることとしてもよい。
【0084】
具体的には、ステップ#5と#6の間に、ステップ#5.5を追加する。ステップ#5.5は、第1閾値部1029がステップ#5にて第2減算部1025が計算した計算結果と閾値とを比較し、計算結果が閾値範囲外の場合、以降のステップにて用いる第2減算部1025の計算結果は閾値とする。
【0085】
同様にステップ#7と#8の間に、ステップ#7.5を追加する。ステップ#7.5は、第2閾値部1030がステップ#6にて第3減算部1027が計算した計算結果と第2閾値を比較し、計算結果が第2閾値範囲外の場合、以降のステップにて用いる第3減算部1027の計算結果は第2閾値とする。
【0086】
また、前述した実施例に追加して第1閾値部1029や第2閾値部1030を用いる方法は、いずれか一方の閾値部だけを追加してもよいし、両方の閾値部を追加してもよい。
【0087】
ステップ#8は、一つ前の工程であるステップ#7又はステップ#7.5によって、計算された計算結果からステップ#1の画像信号決定部1021の決定した補正対象となる画像信号の補正後の画像信号となる。
【0088】
また、これまでの実施例では、固体撮像素子101は、積層型を想定していたが、1画素に1種類の画像信号を有するベイヤー型の固体撮像素子を用いてもかまわない。
【0089】
積層型の固体撮像素子である場合、同一の位置の信号を取得出来る為、高周波情報の損失を防ぎ易く色ノイズ抑制効果を得られ易い。また、色が混色しているセンサの場合、他の色信号にも対象信号の高周波情報が含まれるため、高周波情報の損失を防ぎ易く色ノイズ抑制効果を得られ易い。
【0090】
また、ベイヤー型の固体撮像素子では、1画素から1種類の画像信号しか得ることができない。そこで、他の2種類の画像信号については、周辺の画素より補間することで得ることができる。本願発明にて、ベイヤー型の固体撮像素子を用いる場合、補間処理にて1画素の画像信号を3種類の状態にしてから、ステップ#1の補正対象となる画像信号を決定することで、以後の処理は積層型の固体撮像素子を用いる場合と同様とすることが可能である。
【符号の説明】
【0091】
10 撮像装置
100 レンズ鏡筒
101 固体撮像素子
1011 マイクロレンズ
1012 光電変換部
1013 配線層
102 CPU
1020 減算部
1021 画像信号決定部
1022 線形和計算部
1023 第1ローパスフィルタ部
1024 第1減算部
1025 第2ローパスフィルタ部
1026 第2減算部
1027 第3減算部
1028 第1閾値部
1029 第2閾値部