(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-26
(45)【発行日】2024-03-05
(54)【発明の名称】信号処理装置及び信号処理方法
(51)【国際特許分類】
H04N 25/10 20230101AFI20240227BHJP
H04N 23/12 20230101ALI20240227BHJP
H04N 25/70 20230101ALI20240227BHJP
【FI】
H04N25/10
H04N23/12
H04N25/70
(21)【出願番号】P 2019136724
(22)【出願日】2019-07-25
【審査請求日】2022-07-19
(31)【優先権主張番号】P 2018209811
(32)【優先日】2018-11-07
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung-ro,Yeongtong-gu,Suwon-si,Gyeonggi-do,Republic of Korea
(74)【代理人】
【識別番号】100103894
【氏名又は名称】家入 健
(72)【発明者】
【氏名】田岡 峰樹
(72)【発明者】
【氏名】岡崎 敬
(72)【発明者】
【氏名】ジン ヨンワン
(72)【発明者】
【氏名】パク キョンベ
(72)【発明者】
【氏名】イ ゲファン
(72)【発明者】
【氏名】ホ チョルジュン
【審査官】鈴木 肇
(56)【参考文献】
【文献】国際公開第2017/064760(WO,A1)
【文献】米国特許出願公開第2014/0118579(US,A1)
【文献】国際公開第2013/031081(WO,A1)
【文献】特開2016-102117(JP,A)
【文献】特開2006-210497(JP,A)
【文献】米国特許出願公開第2017/0048500(US,A1)
【文献】特開2006-147824(JP,A)
【文献】国際公開第2015/005234(WO,A1)
【文献】米国特許出願公開第2014/0375826(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/30- 5/33
H04N 9/01- 9/11
H04N 23/10-23/30
H04N 25/00-25/79
H01L 27/14-27/148
H01L 29/76
H10K 39/32-39/34
(57)【特許請求の範囲】
【請求項1】
第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、
前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、
を備える光電変換部材によって生成される信号を処理する信号処理装置であって、
前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する補間部と、
前記補間部によって補間された前記第1の光の信号及び前記第2の光の信号の少なくとも一方を用いて、
補間されていない前記第3の光の信号の吸収補正を行う吸収補正部と、
補間された前記第1の光の信号、補間された前記第2の光の信号及び吸収補正された前記第3の光の信号にカラー補正マトリクスを演算して色補正処理を行う色補正部と
を備える、信号処理装置。
【請求項2】
前記補間部は、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を補間する、請求項1に記載の信号処理装置。
【請求項3】
前記吸収補正部は、前記第2の光電変換層によって吸収された前記第1の光の成分及び前記第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行う、請求項1又は2に記載の信号処理装置。
【請求項4】
第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、
前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、
を備える光電変換部材によって生成される信号を処理する信号処理装置であって、
前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する第1の補間部と、
前記第1の補間部によって補間された前記第1の光の信号を用いて、
補間されていない前記第3の光の信号の吸収補正を行う第1の吸収補正部と、
前記第1の吸収補正部によって吸収補正された前記第3の光の信号を用いて前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する第2の補間部と、
補間された前記第1の光の信号、補間された前記第2の光の信号及び吸収補正された前記第3の光の信号にカラー補正マトリクスを演算して色補正処理を行う色補正部と
を備える、信号処理装置。
【請求項5】
前記第1の補間部は、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を補間する、請求項4に記載の信号処理装置。
【請求項6】
前記第2の補間部は、前記第1の吸収補正部によって吸収補正された前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する、請求項4又は5に記載の信号処理装置。
【請求項7】
前記第1の吸収補正部は、前記第2の光電変換層によって吸収された前記第1の光の成分を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行う、請求項4乃至6の何れか一項に記載の信号処理装置。
【請求項8】
前記第2の補間部によって補間された前記第2の光の信号を用いて、前記第1の吸収補正部によって吸収補正された前記第3の光の信号の吸収補正を行う第2の吸収補正部をさらに備える、請求項4乃至7の何れか一項に記載の信号処理装置。
【請求項9】
前記第1の光電変換層は、前記第1の光として青色の光、及び、前記第2の光として赤色の光を光電変換し、
前記第2の光電変換層は、前記第3の光として緑色の光を光電変換する、
請求項1乃至8の何れか一項に記載の信号処理装置。
【請求項10】
第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、
前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、
を備える光電変換部材によって生成される信号を処理する信号処理方法であって、
前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する補間ステップと、
前記補間ステップにおいて補間された前記第1の光の信号及び前記第2の光の信号の少なくとも一方を用いて、
補間されていない前記第3の光の信号の吸収補正を行う吸収補正ステップと、
補間された前記第1の光の信号、補間された前記第2の光の信号及び吸収補正された前記第3の光の信号にカラー補正マトリクスを演算して色補正処理を行う色補正ステップと
を備える、信号処理方法。
【請求項11】
前記補間ステップにおいて、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を補間する、請求項10に記載の信号処理方法。
【請求項12】
前記吸収補正ステップにおいて、前記第2の光電変換層によって吸収された前記第1の光の成分及び前記第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行う、請求項10又は11に記載の信号処理方法。
【請求項13】
第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、
前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、
を備える光電変換部材によって生成される信号を処理する信号処理方法であって、
前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する第1の補間ステップと、
前記第1の補間ステップにおいて補間された前記第1の光の信号を用いて、
補間されていない前記第3の光の信号の吸収補正を行う第1の吸収補正ステップと、
前記第1の吸収補正ステップにおいて吸収補正された前記第3の光の信号を用いて前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する第2の補間ステップと、
補間された前記第1の光の信号、補間された前記第2の光の信号及び吸収補正された前記第3の光の信号にカラー補正マトリクスを演算して色補正処理を行う色補正ステップと
を備える、信号処理方法。
【請求項14】
前記第1の補間ステップにおいて、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を補間する、請求項13に記載の信号処理方法。
【請求項15】
前記第2の補間ステップにおいて、前記第1の吸収補正ステップにおいて吸収補正された前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する、請求項13又は14に記載の信号処理方法。
【請求項16】
前記第1の吸収補正ステップにおいて、前記第2の光電変換層によって吸収された前記第1の光の成分を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行う、請求項13乃至15の何れか一項に記載の信号処理方法。
【請求項17】
前記第2の補間ステップにおいて補間された前記第2の光の信号を用いて、前記第1の吸収補正ステップにおいて吸収補正された前記第3の光の信号の吸収補正を行う第2の吸収補正ステップをさらに備える、請求項13乃至16の何れか一項に記載の信号処理方法。
【請求項18】
前記第1の光電変換層は、前記第1の光として青色の光、及び、前記第2の光として赤色の光を光電変換し、
前記第2の光電変換層は、前記第3の光として緑色の光を光電変換する、
請求項10乃至16の何れか一項に記載の信号処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号処理装置及び信号処理方法に関する。
【背景技術】
【0002】
デジタルカメラ等で用いられる光電変換部材は、シリコン(Silicon)を単一材料として用いて発展してきた。しかしながら、シリコンを単一材料として用いると、バンドギャップ(Band Gap)が固定となり、かつ、表面にしか色フィルタ(Filter)を構成することができない。そのため、シリコンを単一材料として用いる光電変換部材では、赤色の画素、緑色の画素、及び、青色の画素を面方向に配列する以外に、単板でカラー撮像を行うことができない。以下、赤色を「R」又は「Red」、緑色を「G」又は「Green」、青色を「B」又は「Blue」と称する場合がある。
【0003】
また、上記のような光電変換部材を用いて、より高解像度の被写体を撮像する場合、輝度モアレ(Moire)や色モアレが発生してしまう場合がある。そのため、当該輝度モアレや色モアレを抑制するために、撮像装置に光学ローパスフィルタ(Low Pass Filter)を搭載する必要が生じる。しかしながら、撮像装置に光学ローパスフィルタを搭載すると、解像度が低下してしまう。
【0004】
そこで、特許文献1では、Blueの画素及びRedの画素を配列したシリコン膜の入射光の入射する側にGreenの画素を配列したシリコン膜が積層された光電変換部材が開示されている。特許文献1に記載された光電変換部材では、当該光電変換部材の全面にGreenの波長を吸収する画素が存在するため、理論的に輝度モアレが発生せず、色モアレも大幅に抑制することができる。
【0005】
しかしながら、特許文献1に記載された光電変換部材では、上層側に位置するGreenの波長を吸収する画素によって、Blueの波長及びRedの波長も一部吸収されてしまうという場合がある。そのため、色再現性が悪化し、Blue領域のノイズ耐性が悪化し、色解像度も悪化してしまう。そこで、特許文献2には、Greenの画素の信号をBlueの画素の信号及びRedの画素の信号の少なくとも一方を用いて補正(吸収補正)することが記載されている。
【先行技術文献】
【特許文献】
【0006】
【文献】特許第4700947号公報
【文献】米国特許出願公開第2014/118579号明細書
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1に記載された光電変換部材では、Blueの画素及びRedの画素が市松模様のように配列されているため、Greenの画素に対してBlue及びRedの画素は半分程度しか存在しない。そのため、Greenの吸収補正が市松模様状になってしまう。そのため、色再現性、色解像度が劣化してしまう。
【0008】
本発明は、上記問題に鑑みてなされたものであり、本発明の目的は、色再現性、色解像度に優れた信号処理装置及び信号処理方法を提供することである。
【課題を解決するための手段】
【0009】
本発明の第1の態様に係る信号処理装置は、第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、を備える光電変換部材によって生成される信号を処理する信号処理装置であって、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する補間部と、前記補間部によって補間された前記第1の光の信号及び前記第2の光の信号の少なくとも一方を用いて、前記第3の光の信号の吸収補正を行う吸収補正部と、を備える。
【0010】
本発明の第1の態様に係る信号処理装置によれば、第3の光の信号の吸収補正を行う前に、第1の光の信号及び第2の光の信号の少なくとも一方が、第3の光の信号を用いて補間される。そのため、補間された第1の光の信号及び第2の光の信号の少なくとも一方を用いて第3の光の信号を吸収補正することができる。すなわち、第3の光の信号の吸収補正が市松模様状になってしまうことを防ぐことができる。よって、本発明の第1の態様に係る信号処理装置は、色再現性、色解像度に優れた信号処理を行うことができる。
【0011】
また、前記補間部は、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を補間することが好ましい。
【0012】
第2の光電変換層が第1の光及び第2の光の少なくとも一方を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分の一部及び第2の光の信号の成分の一部の少なくとも一方が含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第1の光の信号及び第2の光の信号の少なくとも一方を補間することによって、より高い精度で補間を行うことができる。
【0013】
また、前記吸収補正部は、前記第2の光電変換層によって吸収された前記第1の光の成分及び前記第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行うことが好ましい。
【0014】
第2の光電変換層によって一部吸収された第1の光の成分及び第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて第3の光の信号の吸収補正を行うことにより、より高い精度で吸収補正を行うことができる。
【0015】
本発明の第2の態様に係る信号処理装置は、第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、を備える光電変換部材によって生成される信号を処理する信号処理装置であって、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する第1の補間部と、前記第1の補間部によって補間された前記第1の光の信号を用いて、前記第3の光の信号の吸収補正を行う第1の吸収補正部と、前記第1の吸収補正部によって吸収補正された第3の光の信号を用いて前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する第2の補間部と、を備える。
【0016】
本発明の第2の態様に係る信号処理装置によれば、第3の光の信号の吸収補正を行う前に、第1の光の信号が第3の光の信号を用いて補間される。そのため、補間された第1の光の信号を用いて第3の光の信号を吸収補正することができる。すなわち、第3の光の信号の吸収補正が市松模様状になってしまうことを防ぐことができる。よって、本発明の第2の態様に係る信号処理装置は、色再現性、色解像度に優れた信号処理を行うことができる。また、第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。しかし、吸収補正された第3の光の信号を用いて第2の光の信号が補間されるため、第3の光の信号に含まれていた第1の光の信号の成分を除いた状態で、第2の光の信号を補間することができる。これにより、さらに高い精度で第2の光の信号の補間を行うことができる。
【0017】
また、第1の補間部は、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を補間することが好ましい。
【0018】
第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第1の光の信号を補間することによって、より高い精度で第1の光の信号の補間を行うことができる。
【0019】
また、前記第2の補間部は、前記第1の吸収補正部によって吸収補正された第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間することが好ましい。
【0020】
第2の光電変換層が第2の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第2の光の信号の成分が一部含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第2の光の信号を補間することによって、より高い精度で第2の光の信号の補間を行うことができる。
また、第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。しかし、第1の吸収補正部によって吸収補正された第3の光の信号の強度勾配情報を用いて第2の光の信号が補間されるため、第3の光の信号に含まれていた第1の光の信号の成分を除いた状態で、第2の光の信号を補間することができる。これにより、さらに高い精度で第2の光の信号の補間を行うことができる。
【0021】
また、前記第1の吸収補正部は、前記第2の光電変換層によって吸収された前記第1の光の成分を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行うことが好ましい。
【0022】
第2の光電変換層によって一部吸収された第1の光の成分を考慮して決定された補正値αを用いて第3の光の信号の吸収補正を行うことにより、より高い精度で吸収補正を行うことができる。
【0023】
また、前記第2の補間部によって補間された前記第2の光の信号を用いて、前記第1の吸収補正部によって吸収補正された前記第3の光の信号の吸収補正を行う第2の吸収補正部をさらに備えることが好ましい。
【0024】
補間処理された第1の光の信号を用いて、第3の光の信号に対して吸収補正処理を行うだけでなく、補間処理された第2の光の信号を用いてさらに吸収補正処理を行う。これにより、さらに色再現性の高い第3の光の信号を生成することができる。
【0025】
また、本発明の第1の態様及び第2の態様に係る信号処理装置において、前記第1の光電変換層は、前記第1の光として青色の光、及び、前記第2の光として赤色の光を光電変換し、前記第2の光電変換層は、前記第3の光として緑色の光を光電変換することが更に好ましい。
【0026】
これにより、緑色の光を吸収する第2の光電変換層によって、より吸収されやすい青色の光を用いて緑色の光の信号の吸収補正を行うことができる。そのため、色再現性、色解像度に更に優れた信号処理を行うことができる。
【0027】
本発明の第3の態様に係る信号処理方法は、第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、を備える光電変換部材によって生成される信号を処理する信号処理方法であって、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する補間ステップと、前記補間部によって補間された前記第1の光の信号及び前記第2の光の信号の少なくとも一方を用いて、前記第3の光の信号の吸収補正を行う吸収補正ステップと、を備える。
【0028】
本発明の第3の態様に係る信号処理方法では、第3の光の信号の吸収補正を行う前に、第1の光の信号及び第2の光の信号の少なくとも一方が、第3の光の信号を用いて補間される。そのため、補間された第1の光の信号及び第2の光の信号の少なくとも一方を用いて第3の光の信号を吸収補正することができる。すなわち、第3の光の信号の吸収補正が市松模様状になってしまうことを防ぐことができる。よって、本発明の第3の態様に係る信号処理方法によれば、色再現性、色解像度に優れた信号処理を行うことができる。
【0029】
また、前記補間ステップにおいて、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号及び前記第2の光の信号の少なくとも一方を補間することが好ましい。
【0030】
第2の光電変換層が第1の光及び第2の光の少なくとも一方を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分の一部及び第2の光の信号の成分の一部の少なくとも一方が含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第1の光の信号及び第2の光の信号の少なくとも一方を補間することによって、より高い精度で補間を行うことができる。
【0031】
前記吸収補正ステップにおいて、前記第2の光電変換層によって吸収された前記第1の光の成分及び前記第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行うことが好ましい。
【0032】
第2の光電変換層によって一部吸収された第1の光の成分及び第2の光の成分の少なくとも一方を考慮して決定された補正値αを用いて第3の光の信号の吸収補正を行うことにより、より高い精度で吸収補正を行うことができる。
【0033】
本発明の第4の態様に係る信号処理方法は、第1の光及び前記第1の光と異なる波長の第2の光を光電変換する第1の光電変換層と、前記第1の光電変換層よりも入射光が入射する側に設けられ、前記第1の光及び前記第2の光とは異なる波長の第3の光を光電変換する第2の光電変換層と、を備える光電変換部材によって生成される信号を処理する信号処理方法であって、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を、前記第2の光電変換層による光電変換によって得られる前記第3の光の信号を用いて補間する第1の補間ステップと、前記第1の補間ステップにおいて補間された前記第1の光の信号を用いて、前記第3の光の信号の吸収補正を行う第1の吸収補正ステップと、前記第1の吸収補正ステップにおいて吸収補正された第3の光の信号を用いて前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間する第2の補間ステップと、を備える。
【0034】
本発明の第4の態様に係る信号処理方法では、第3の光の信号の吸収補正を行う前に、第1の光の信号が第3の光の信号を用いて補間される。そのため、補間された第1の光の信号を用いて第3の光の信号を吸収補正することができる。すなわち、第3の光の信号の吸収補正が市松模様状になってしまうことを防ぐことができる。よって、本発明の第4の態様に係る信号処理方法によれば、色再現性、色解像度に優れた信号処理を行うことができる。また、第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。しかし、吸収補正された第3の光の信号を用いて第2の光の信号が補間されるため、第3の光の信号に含まれていた第1の光の信号の成分を除いた状態で、第2の光の信号を補間することができる。これにより、さらに高い精度で第2の光の信号の補間を行うことができる。
【0035】
前記第1の補間ステップにおいて、前記第2の光電変換層による光電変換によって得られた前記第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第1の光の信号を補間することが好ましい。
【0036】
第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第1の光の信号を補間することによって、より高い精度で第1の光の信号の補間を行うことができる。
【0037】
前記第2の補間ステップにおいて、前記第1の吸収補正ステップにおいて吸収補正された第3の光の信号の強度勾配情報を用いて、前記第1の光電変換層による光電変換によって得られる前記第2の光の信号を補間することが好ましい。
【0038】
第2の光電変換層が第2の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第2の光の信号の成分が一部含まれている。そのため、第2の光電変換層による光電変換によって得られた第3の光の信号の強度勾配情報を用いて、第1の光電変換層による光電変換によって得られる第2の光の信号を補間することによって、より高い精度で第2の光の信号の補間を行うことができる。
また、第2の光電変換層が第1の光を一部吸収するため、第2の光電変換層による光電変換によって得られた第3の光の信号には、第1の光の信号の成分が一部含まれている。しかし、第1の吸収補正ステップにおいて吸収補正された第3の光の信号の強度勾配情報を用いて第2の光の信号が補間されるため、第3の光の信号に含まれていた第1の光の信号の成分を除いた状態で、第2の光の信号を補間することができる。これにより、さらに高い精度で第2の光の信号の補間を行うことができる。
【0039】
前記第1の吸収補正ステップにおいて、前記第2の光電変換層によって吸収された前記第1の光の成分を考慮して決定された補正値αを用いて、前記第1の光の信号値にα/(1-α)を乗じて得られる値を前記第3の光の信号から減算することにより、前記第3の光の信号の吸収補正を行うことが好ましい。
【0040】
第2の光電変換層によって一部吸収された第1の光の成分を考慮して決定された補正値αを用いて第3の光の信号の吸収補正を行うことにより、より高い精度で吸収補正を行うことができる。
【0041】
また、前記第2の補間ステップにおいて補間された前記第2の光の信号を用いて、前記第1の吸収補正ステップにおいて吸収補正された前記第3の光の信号の吸収補正を行う第2の吸収補正ステップをさらに備えることが好ましい。
【0042】
補間処理された第1の光の信号を用いて、第3の光の信号に対して吸収補正処理を行うだけでなく、補間処理された第2の光の信号を用いてさらに吸収補正処理を行う。これにより、さらに色再現性の高い第3の光の信号を生成することができる。
【0043】
また、本発明の第3の態様及び第4の態様に係る信号処理方法において、前記第1の光電変換層は、前記第1の光として青色の光、及び、前記第2の光として赤色の光を光電変換し、前記第2の光電変換層は、前記第3の光として緑色の光を光電変換することが更に好ましい。
【0044】
これにより、緑色の光を吸収する第2の光電変換層によって、より吸収されやすい青色の光を用いて緑色の光の信号の吸収補正を行うことができる。そのため、色再現性、色解像度に更に優れた信号処理を行うことができる。
【発明の効果】
【0045】
本発明により、色再現性、色解像度に優れた信号処理装置及び信号処理方法を提供することができる。
【図面の簡単な説明】
【0046】
【
図1】実施の形態1に係る光電変換部材の一例を示す模式図である。
【
図2】実施の形態1に係る信号処理装置の一例を示す図である。
【
図3】実施の形態1に係る信号処理方法の一例を示す図である。
【
図4】実施の形態1に係る信号処理装置における補間処理の一例を示す図である。
【
図5】実施の形態1に係る信号処理装置における補間回路の一例を示す図である。
【
図6】実施の形態1に係る信号処理装置における吸収補正の結果の一例を示す図である。
【
図7】実施の形態2に係る信号処理装置の一例を示す図である。
【
図8】実施の形態2に係る信号処理方法の一例を示す図である。
【
図9】
図8のCに示す補間処理、
図8のDに示す吸収補正処理、
図8のEに示す補間処理を概念的に示す図である。
【
図10】従来の信号処理方法の一例を示す図である。
【
図11】実施例1の信号処理方法によって出力される画像及び比較例1の信号処理方法によって出力される画像を示す図である。
【
図12】実施例1の信号処理方法によって出力される画像及び比較例1の信号処理方法によって出力される画像を示す図である。
【
図13】実施例1の信号処理方法によって出力される画像及び実施例2の信号処理方法によって出力される画像を示す図である。
【
図14】実施の形態3に係る信号処理装置の一例を示す図である。
【
図15】実施の形態3に係る信号処理方法の一例を示す図である。
【
図17】実施の形態3に係る信号処理装置におけるRed吸収補正の結果の一例を示す図である。
【発明を実施するための形態】
【0047】
以下、図面を参照して本発明の実施の形態について説明する。
図1は、本発明の実施の形態に係る光電変換部材の一例を示す模式図である。
信号処理装置は、デジタルカメラ等の撮像装置において撮像により生成される信号、すなわち、撮像画像を示す信号を処理する装置である。また、信号処理装置は、撮像装置の撮像部を備えていてもよい。撮像部は、
図1に示す光電変換部材としてのイメージセンサ(Image Sensor)を備えていてもよい。また、撮像部は、光学系のレンズを含んでいてもよい。当該光学系レンズは当該光電変換部材の受光面に被写体から出射された光を結像し、当該光電変換部材は、受光した光を光電変換し、撮像画像を示す信号を生成する。すなわち、信号処理装置は、光電変換部材、光学レンズ等を備える撮像部を備える撮像装置であってもよい。
【0048】
撮像装置において撮像により生成される信号としては、例えば、赤色の光の信号、緑色の光の信号、及び、青色の光の信号が、挙げられる。また、撮像装置において撮像により生成される信号には、例えば、NIR(Near-infrared)の波長の光が光電変換された結果得られる信号、すなわち、いわゆる赤外線画像を示す信号が、含まれていてもよい。
【0049】
図1に示すように、光電変換部材は、例えば、第1の光電変換層L1と第2の光電変換層L2とを備え、光電変換により、第1の光としての青色の光の信号、第2の光としての赤色の光の信号、及び、第3の光としての緑色の光の信号を生成する。
【0050】
第1の光電変換層L1は、青色の光(第1の光)及び赤色の光(第2の光)を光電変換する光電変換層である。また、第2の光電変換層L2は、緑色の光(第3の光)を光電変換する光電変換層である。また、第2の光電変換層L2は、第1の光電変換層L1よりも入射光が入射する側に設けられる。入射光が入射する方向を「上方向」と定義した場合、第2の光電変換層L2は上層に該当し、第1の光電変換層L1は、下層に該当する。つまり、光電変換部材は、複数の光電変換層が積層された積層型の撮像装置である。
【0051】
第1の光電変換層L1と第2の光電変換層L2との間には、例えばITO(Indium Tin Oxide)等で形成される透明電極が設けられる。第1の光電変換層L1としては、例えば、シリコンで形成され、光電変換素子が設けられる基板が挙げられる。透明電極は、基板に形成される回路に電気的に接続される。また、第2の光電変換層L2としては、例えば有機膜が挙げられる。
【0052】
図1に示す例では、基板上に、Rの画素とBの画素とが、シリコンによる従来の半導体工程により形成されることにより、第1の光電変換層L1が形成されている。また、Rの画素とBの画素とは、例えば市松模様状に配列されている。なお、Rの画素とBの画素との配列は、市松模様状に限られない。
【0053】
また、
図1に示す例では、Bの画素とRの画素とが形成された基板の上層に、Gの波長の光を吸収する有機光電膜が形成されることにより、第2の光電変換層L2が形成されている。
【0054】
図1に示す構成では、Gの画素が光電変換部材の全画素分存在するので、理論的に輝度モアレが発生せず、色モアレも大幅に抑制される。
【0055】
しかしながら、
図1に示す光電変換部材において、第2の光電変換層L2としてGの外部量子効率の高い材料を用いた場合には、第2の光電変換層L2において、Gの波長の光だけでなく、Bの波長の光あるいはRの波長の光も一部吸収されて、光電変換が行われてしまう。そのため、第1の光電変換層L1及び第2の光電変換層L2それぞれで光電変換された信号をそのまま用いて色補正処理などを行って出力すると、色再現性の悪化、B領域あるいはR領域のノイズ耐性の悪化、解像の悪化等の問題が、発生する。
【0056】
なお、第1の光電変換層L1と第2の光電変換層L2との例は、
図1に示す例に限られない。
例えば、第1の光電変換層L1は、基板上に、Rの画素、Gの画素、及び、Bの画素がシリコンによる従来の半導体工程により形成されてもよい。この場合、Rの画素、Gの画素、及び、Bの画素は、例えばベイヤ(Bayer)配列で並べられる。
また、第2の光電変換層L2は、NIRの波長の光を吸収して光電変換を行うNIR層であってもよい。
第1の光電変換層L1と第2の光電変換層L2とが、上記に示す他の構成を有する場合であっても、
図1に示す構成と同様の問題が生じうる。
【0057】
そこで、本発明の実施の形態に係る信号処理装置は、撮像装置において撮像により生成される信号に対して、吸収補正処理を行う。吸収補正処理は、信号処理装置が備える吸収補正部において行われる。具体的には、信号処理装置は、第2の光電変換層L2において吸収されてしまう、第1の光電変換層L1において光電変換されるべき青色の光及び赤色の光の少なくとも一方の成分について、第2の光電変換層L2による光電変換によって得られる緑色の光の信号を補正する。より具体的には、信号処理装置は、第1の光電変換層L1による光電変換によって得られる青色の光の信号及び赤色の光の信号の少なくとも一方を用いて、第2の光電変換層L2による光電変換によって得られる緑色の光の信号の吸収補正を行う。これにより、上層で吸収されてしまう、下層で光電変換される波長の光成分の影響を軽減することができる。吸収補正処理の一例については、後述する。
【0058】
また、
図1に示すように、第2の光電変換層L2において、Gの画素は、光電変換部材の全画素に亘って存在するのに対し、第1の光電変換層L1において、Rの画素及びBの画素は、光電変換部材の全画素に亘って存在しない。そのため、第1の光電変換層L1による光電変換によって得られる青色の光の信号及び赤色の光の信号の少なくとも一方を用いて、第2の光電変換層L2による光電変換によって得られる緑色の光の信号が吸収補正されると、当該緑の光の信号は、Rの画素又はBの画素の配列パターン状に吸収補正されてしまう。そのため、色再現性、色解像度が劣化してしまう。
【0059】
そこで、本実施の形態に係る信号処理装置は、第2の光電変換層L2による光電変換によって得られる緑色の光の信号の吸収補正処理を行う前に、第1の光電変換層L1による光電変換によって得られる青色の光の信号及び赤色の光の信号の少なくとも一方を補間する。補間処理は、例えば、信号処理装置が備える補間部、第1の補間部、及び第2の補間部において行われる。具体的には、信号処理装置は、第2の光電変換層L2による光電変換によって得られる緑色の光の信号を用いて、第1の光電変換層L1による光電変換によって得られる青色の光の信号及び赤色の光の信号の少なくとも一方を補間する。これにより、補間された青色の光の信号及び赤色の光の信号の少なくとも一方を用いて、緑色の光の信号を吸収補正することができ、緑の光の信号が、Rの画素又はBの画素の配列パターン状に吸収補正されることを防ぐことができる。補間処理の一例については、後述する。
【0060】
また、本実施の形態に係る信号処理装置は、撮像装置において撮像により生成される信号に対して吸収補正処理を行った上で、色補正処理を行う。そのため、信号処理装置は、複数の光電変換層が積層された光電変換部材を用いる場合に生じうる、色再現性の悪化、B領域あるいはR領域のノイズ耐性の悪化、解像の悪化等による影響を低減することができる。したがって、信号処理装置は、撮像画像の高画質化を図ることができる。色補正処理としては、例えば、カラー補正マトリクス(Color Correction Matrix)を用いた行列演算により色の微調整を行う処理が、挙げられる。色補正処理は、信号処理装置の色補正部において行われる。色補正処理の一例については、後述する。なお、本実施の形態に係る信号処理装置において、更に、ホワイトバランス(White Balance)処理が行われてもよい。
【0061】
信号処理装置は、図示しないCPU(Central Processing Unit)及び図示しない記憶部等を備える。そして、CPUが記憶部に格納されたプログラムを実行することにより、信号処理装置における全ての処理が実現する。例えば、CPUが記憶部に格納されたプログラムを実行することにより、上記補間処理、上記吸収補正処理、上記色補正処理等が実現する。すなわち、CPUは、記憶部に格納されたプログラムを実行することにより、本発明の補間部、吸収補正部、第1の補間部、第2の補間部、色補正部として機能する。
また、信号処理装置における、補間処理、吸収補正処理、色補正処理は、信号処理装置が備える画像処理回路等によって実現されてもよい。
【0062】
実施の形態1
以下、本発明の実施形態1に係る信号処理装置100及び信号処理方法について、より具体的に説明する。
図2は、実施の形態1に係る信号処理装置100の一例を示す図である。また、
図3は、実施の形態1に係る信号処理方法の一例を示す図である。
【0063】
以下では、第1の光電変換層L1と第2の光電変換層L2とが、
図1に示す構成である場合を例に挙げる。また、以下では、信号処理装置100が、緑色の光の信号及び青色の光の信号に基づいて、緑色の光の信号及び青色の光の信号それぞれに対して、又は、緑色の光の信号に対して、吸収補正処理を行う場合を例に挙げる。なお、信号処理装置100が、緑色の光の信号及び赤色の光の信号に基づいて、緑色の光の信号及び赤色の光の信号それぞれに対して、又は、緑色の光の信号に対して、吸収補正処理を行ってもよい。また、信号処理装置100は、緑色の光の信号、赤色の光の信号、及び、青色の光の信号に基づいて、緑色の光の信号、赤色の光の信号、及び、青色の光の信号それぞれに対して吸収補正処理を行ってもよい。
【0064】
本実施の形態1に係る信号処理装置100は、
図2に示すように、Blue/Red保持ラインメモリ(LM;Line Memory)152、Green保持ラインメモリ(LM;Line Memory)154、ライトカウンタ(Write Counter)156、リードカウンタ(Read Counter)158、補間部としてのBlue/Red補間回路160、吸収補正部としての副吸収補正回路164、図示しないカラー補正マトリクス(Color Correction Matrix)回路等を備える。
【0065】
Blue/Red保持ラインメモリ152は、光電変換部材から入力される青色の光の信号Bin及び赤色の光の信号Rinをそれぞれ保持するラインメモリである。また、Green保持ラインメモリ154は、光電変換部材から入力される緑色の光の信号Ginを保持するラインメモリである。
【0066】
Blue/Red保持ラインメモリ152及びGreen保持ラインメモリ154それぞれへの書き込みは、ライトカウンタ156により制御される。また、Blue/Red保持ラインメモリ152及びGreen保持ラインメモリ154それぞれからの読み出しは、リードカウンタ158により制御される。
【0067】
ライトカウンタ156及びリードカウンタ158は、例えば、実施の形態1に係る信号処理装置100を構成するCPU(不図示)等から伝達される同期信号の信号レベルの変化に基づいてカウントを行う。そして、ライトカウンタ156及びリードカウンタ158のそれぞれは、カウント値に応じて、Blue/Red保持ラインメモリ152及びGreen保持ラインメモリ154のそれぞれを制御する。なお、ライトカウンタ156及びリードカウンタ158のそれぞれにおける制御の仕方は、
図3に示す処理を実現することができれば、特に限定されない。
【0068】
Blue/Red補間回路160は、Blue/Red保持ラインメモリ152から読み出された青色の光の信号Bin及び赤色の光の信号Rinに対して補間を行う。具体的には、Blue/Red補間回路160は、Green保持ラインメモリ154から読み出された緑色の光の信号Ginが示す緑色の画素の画素値の勾配(強度勾配情報)を参照しながら、青色の光の信号Bin及び赤色の光の信号Rinに対する補間を行う。
【0069】
副吸収補正回路164は、Green保持ラインメモリ154から読み出された緑色の光の信号Gin及び補間された青色の光の信号Boに基づいて、緑色の光の信号Ginに対して吸収補正処理を行う。なお、副吸収補正回路164は、補間された青色の光の信号Boに対しても吸収補正処理を行ってもよい。
【0070】
そして、Blue/Red補間回路160において補間処理された青色の光の信号Bo及び赤色の光の信号Roがカラー補正マトリクス回路(不図示)に入力されるとともに、副吸収補正回路164から吸収補正処理された緑色の光の信号Goがカラー補正マトリクス回路(不図示)に入力される。そして、当該カラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、緑色の光の信号Goに対して、色補正処理を行う。
【0071】
図3に示すように、実施の形態1に係る信号処理方法は、
図3のCに示す補間ステップとしてのBlue/Red補間処理、
図3のDに示す吸収補正ステップとしてのBlue吸収補正処理、
図3のEに示す色補正ステップとしてのカラー補正マトリクス処理を備える。
【0072】
図3のBに示す光電変換部材から、
図3のAに示す青色の光の信号Bin、緑色の光の信号Gin、赤色の光の信号Rinが、信号処理装置100に入力される。そして、信号処理装置100のBlue/Red補間回路160は、当該青色の光の信号Bin及び赤色の光の信号Rinに対して、
図3のCに示すBlue/Red補間処理を行う。
次に、信号処理装置100の副吸収補正回路164は、Blue/Red補間処理された青色の光の信号Boを用いて、緑色の光の信号Ginに対して、
図3のDに示すBlue吸収補正を行う。なお、
図3のDに示すBlue吸収補正処理において、補間された青色の光の信号Boに対しても吸収補正処理が行われてもよい。
次に、信号処理装置100のカラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、緑色の光の信号Goに対して、
図3のEに示すカラー補正マトリクス処理を行う。
【0073】
次に、
図4及び
図5を参照しながら、本実施の形態1に係る補間処理の一例について説明する。
図4は、信号処理装置100におけるBlue/Red補間処理の一例を示す図である。
図4の上側には、第1の光電変換層L1における3画素×3画素のブロックを示し、
図4の下側には、当該3画素×3画素のブロックに対応する、第2の光電変換層L2における3画素×3画素のブロックを示す。
図5は、信号処理装置100におけるBlue/Red補間回路160の一例を示す図である。
図5に示すように、Blue/Red補間回路160は、Green画素間相関情報抽出部160A、補間比率算出部160B等を備える。
【0074】
図4に示すように、第1の光電変換層L1において、Rの画素とBの画素とは市松模様状に配列されている。
図4の上側に示す3画素×3画素のブロックにおいて、中心画素(対象画素)はRの画素であり、当該中心画素において、青色の光の信号Binは、空間解像度情報を持っていない。以下、当該3画素×3画素のブロックにおいて、中心画素(対象画素)を周囲の画素B1、B2、B3、B4を用いて補間する場合を例に挙げて説明する。補間される中心画素(対象画素)をB0とする。なお、Blue/Red補間回路160は、下記に示す方法と同様の方法で、赤色の光の信号Rinに対しても、補間処理を行う。
【0075】
Green画素間相関情報抽出部160Aは、緑色の光の信号Ginの画素間における相関情報を抽出する。Green画素間相関情報抽出部160Aは、例えば、
図4に示す3画素×3画素のブロックにおける中心画素B0、画素B1、B2、B3、B4に対応する、G0、G1、G2、G3、G4間の画素値の勾配情報(強度勾配情報)を抽出する。具体的には、Green画素間相関情報抽出部160Aは、以下の式(1)~式(4)に従って、画素G0と画素G1、G2、G3、G4との間の画素値の勾配情報G1s、G2s、G3s、G4sを算出する。
G1s=abs(G1-G0) ・・・・(1)
G2s=abs(G2-G0) ・・・・(2)
G3s=abs(G3-G0) ・・・・(3)
G4s=abs(G4-G0) ・・・・(4)
【0076】
補間比率算出部160Bは、Green画素間相関情報抽出部160Aが算出した画素G0と画素G1、G2、G3、G4との間の画素値の勾配情報G1s、G2s、G3s、G4sを比較し、最も小さい画素値の勾配を補間比率として算出する。そして、補間比率算出部160Bは、当該最も小さい画素値の勾配(補間比率)を用いて、
図4の上側に示すブロックの中心画素B0を補間する。具体的には、補間比率算出部160Bは、以下の式(5)~式(8)に従って、補間比率を算出し、
図4の上側に示すブロックの中心画素を補間する。
if(G1s==min(G1s、G2s、G3s、G4s))
B0=(B1×G1)/G0 ・・・・(5)
if(G2s==min(G1s、G2s、G3s、G4s))
B0=(B2×G2)/G0 ・・・・(6)
if(G3s==min(G1s、G2s、G3s、G4s))
B0=(B3×G3)/G0 ・・・・(7)
if(G4s==min(G1s、G2s、G3s、G4s))
B0=(B4×G4)/G0 ・・・・(8)
【0077】
次に、本実施の形態1に係る吸収補正処理の一例について説明する。
副吸収補正回路164は、Blue/Red補間処理された青色の光の信号Boを用いて、緑色の光の信号Ginに対してBlue吸収補正を行う。具体的には、副吸収補正回路164は、第2の光電変換層L2によって吸収された青色の光の成分を考慮して補正値αを決定する。次に、副吸収補正回路164は、青色の光の信号Binの値(信号値)にα/(1-α)を乗じて得られる値を緑色の光の信号Ginから減算することにより、緑色の光の信号Ginに対してBlue吸収補正を行う。
図6に、本実施の形態1に係る信号処理装置100における吸収補正の結果の一例を示す。
図6の左側には、光電変換部材から信号処理装置100に入力される、赤色の光の信号Rin、緑色の光の信号Gin、青色の光の信号Binの強度分布を示している。また、
図6の右側には、補間処理された赤色の光の信号Ro、吸収補正処理された緑色の光の信号Go、補間処理されて吸収補正処理された青色の光の信号Boの強度分布を示している。
【0078】
また、補正値αとしては、例えば、下記に示す例が挙げられる。なお、補正値αは下記に示す例に限定されるものではない。
例1:第2の光電変換層L2によって生成される緑色の光の信号Ginの青領域における値の最小値Gbottom
例2:第1の光電変換層L1によって生成される青色の光の信号Binのピーク値の波長における、第2の光電変換層L2によって吸収される緑色の光の吸収率Gabs
【0079】
補正値αが上記例1に示すGbottomである場合、副吸収補正回路164は、以下の式(9)に従って、補正値αとしてGbottomを算出する。
Go=Gin-Gbottom ・・・・(9)
【0080】
補正値αが上記例2に示すGabsである場合、副吸収補正回路164は、以下の式(10)に従って、補正値αとしてGabsを算出する。
Go=Gin-Gabs ・・・・(10)
【0081】
また、副吸収補正回路164は、以下の式(11)又は式(12)に従って、補間処理された青色の光の信号Boに対してBlue吸収補正を行ってもよい。
Bo’=Bo+Gbottom ・・・・(11)
Bo’=Bo+Gabs ・・・・(12)
【0082】
なお、上述と同様に、副吸収補正回路164は、Blue/Red補間処理された赤色の光の信号Roを用いて、緑色の光の信号Ginに対してRed吸収補正を行ってもよい。具体的には、副吸収補正回路164は、第2の光電変換層L2によって吸収された赤色の光の成分を考慮して補正値α’を決定する。次に、副吸収補正回路164は、赤色の光の信号Rinの値にα’/(1-α’)を乗じて得られる値を緑色の光の信号Ginから減算することにより、緑色の光の信号Ginに対してRed吸収補正を行う。
【0083】
また、補正値α’としては、例えば、下記に示す例が挙げられる。なお、補正値α’は下記に示す例に限定されるものではない。
例1:第2の光電変換層L2によって生成される緑色の光の信号Ginの赤領域における値の最小値Gbottom’
例2:第1の光電変換層L1によって生成される赤色の光の信号Rinのピーク値の波長における、第2の光電変換層L2によって吸収される緑色の光の吸収率Gabs’
【0084】
補正値α’が上記例1に示すGbottom’である場合、副吸収補正回路164は、以下の式(13)に従って、補正値α’としてGbottom’を算出する。
Go=Gin-Gbottom’ ・・・・(13)
【0085】
補正値α’が上記例2に示すGabs’である場合、副吸収補正回路164は、以下の式(14)に従って、補正値α’としてGabs’を算出する。
Go=Gin-Gabs’ ・・・・(14)
【0086】
また、副吸収補正回路164は、以下の式(15)又は式(16)に従って、補間処理された赤色の光の信号Roに対してRed吸収補正を行ってもよい。
Ro’=Ro+Gbottom’ ・・・・(15)
Ro’=Ro+Gabs’ ・・・・(16)
【0087】
次に、本実施の形態1に係る色補正処理の一例について説明する。
信号処理装置100のカラー補正マトリクス回路(不図示)は、補間処理された青色の光の信号Bo、補間処理された赤色の光の信号Ro、及び、吸収補正された緑色の光の信号Goに対して、色補正処理を行う。なお、カラー補正マトリクス回路は、補間処理された青色の光の信号Boの代わりに、補間処理されて吸収補正された青色の光の信号Bo’に対して色補正処理を行ってもよい。また、カラー補正マトリクス回路は、補間処理された赤色の光の信号Roの代わりに、補間処理されて吸収補正された赤色の光の信号Ro’に対して色補正処理を行ってもよい。
【0088】
具体的には、カラー補正マトリクス回路は、以下の式(17)に従って、色補正処理を行う。すなわち、カラー補正マトリクス回路は、以下の式(17)に示される、3×3の行列であるカラー補正マトリクスを用いた行列演算を行うことにより、色補正処理を行う。なお、以下の式(17)において、Rinは、補間処理された赤色の光の信号Ro、又は、補間処理されて吸収補正された赤色の光の信号Ro’であり、Ginは、吸収補正された緑色の光の信号Goであり、Binは、補間処理された青色の光の信号Bo、又は、補間処理されて吸収補正された青色の光の信号Bo’である。なお、本実施の形態1における色補正処理は、カラー補正マトリクスを用いた行列演算に限定されるものではない。
【数1】
【0089】
以上に説明した、本実施の形態1に係る信号処理装置100及び信号処理方法では、第3の光の信号の吸収補正を行う前に、青色の光の信号Bin及び赤色の光の信号Rinの少なくとも一方が、緑色の光の信号Ginを用いて補間される。そのため、補間された青色の光の信号Bo及び赤色の光の信号Roの少なくとも一方を用いて緑色の光の信号Ginを吸収補正することができる。すなわち、緑色の光の信号Ginの吸収補正が市松模様状になってしまうことを防ぐことができる。よって、本発明の第1の態様に係る信号処理装置100及び信号処理方法は、色再現性、色解像度に優れた信号処理を行うことができる。
【0090】
また、第2の光電変換層L2が青色の光及び赤色の光を一部吸収するため、第2の光電変換層L2による光電変換によって得られた緑色の光の信号Ginには、青色の光の信号の成分及び赤色の光の信号の成分が一部含まれている。そのため、第2の光電変換層L2による光電変換によって得られた緑色の光の信号Ginの画素値の勾配情報(強度勾配情報)を用いて、第1の光電変換層L1による光電変換によって得られる青色の光の信号Bin及び赤色の光の信号Rinを補間することによって、より高い精度で補間を行うことができる。
【0091】
また、第2の光電変換層L2によって一部吸収された青色の光の成分を考慮して決定された補正値α、又は、第2の光電変換層L2によって一部吸収された赤色の光の成分を考慮して決定された補正値α’を用いて緑色の光の信号Ginの吸収補正を行うことにより、より高い精度で吸収補正を行うことができる。
【0092】
また、第2の光電変換層L2によって一部吸収された青色の光の成分を考慮して決定された補正値αを用いて、補間処理された青色の光の信号Boの吸収補正を行うことにより、更に高い精度で吸収補正を行うことができる。また、第2の光電変換層L2によって一部吸収された赤色の光の成分を考慮して決定された補正値α’を用いて、補間処理された赤色の光の信号Roの吸収補正を行うことにより、更に高い精度で吸収補正を行うことができる。
【0093】
実施の形態2
次に、
図7乃至
図9を参照しながら、本発明の実施の形態2について説明する。
図7は、実施の形態2に係る信号処理装置200の一例を示す図である。
図8は、実施の形態2に係る信号処理方法の一例を示す図である。
図9は、
図8のCに示す補間処理、
図8のDに示す吸収補正処理、
図8のEに示す補間処理を概念的に示す図である。
実施の形態2に係る信号処理装置200は、
図7に示すように、Blue/Red補間回路160、Blue/Red遅延ラインメモリ(LM;Line Memory)162、副吸収補正回路164を備えず、第1の補間部としてのBlue補間回路166、Blue遅延ラインメモリ(LM;Line Memory)168、第1の吸収補正部としてのBlue副吸収補正回路170、Green遅延ラインメモリ(LM;Line Memory)172、第2の補間部としてのRed補間回路174を備える点が、実施の形態1に係る信号処理装置100と異なる。以下、実施の形態2に係る信号処理装置200において、実施の形態1に係る信号処理装置100と同様の構成については、同一の符号を付すとともに、その説明を省略する。
【0094】
Blue補間回路166は、Blue/Red保持ラインメモリ152から読み出された青色の光の信号Binに対して補間を行う。Blue補間回路166は、Green保持ラインメモリ154から読み出された緑色の光の信号Ginが示す緑色の画素の画素値の勾配(強度勾配情報)を参照しながら、青色の光の信号Binに対する補間を行う。
【0095】
Blue遅延ラインメモリ168は、Blue補間回路166における処理の結果得られる、補間された青色の光の信号Boを保持するラインメモリである。Blue遅延ラインメモリ168は、例えば、緑色の光の信号の出力又は赤色の光の信号の出力と同期する時間分、補間された青色の光の信号Boの出力を遅延させる遅延素子として機能する。
【0096】
Blue副吸収補正回路170は、Green保持ラインメモリ154から読み出された緑色の光の信号Gin及び補間された青色の光の信号Boに基づいて、緑色の光の信号Ginに対して吸収補正処理を行う。なお、Blue副吸収補正回路170によって、補間された青色の光の信号Boに対して吸収補正処理が行われてもよい。
【0097】
Green遅延ラインメモリ172は、Blue副吸収補正回路170における処理の結果得られる緑色の光の信号Goを保持するラインメモリである。Green遅延ラインメモリ172は、青色の光の信号Boの出力と同期する時間分、緑色の光の信号Goの出力を遅延させる遅延素子として機能する。
【0098】
Red補間回路174は、Blue/Red保持ラインメモリ152から読み出された赤色の光の信号Rinに対して補間を行う。Red補間回路174は、Green遅延ラインメモリ172から読み出された緑色の光の信号Goが示す緑色の画素の画素値の勾配(強度勾配情報)を参照しながら、赤色の光の信号Rinに対する補間を行う。
【0099】
そして、Blue補間回路166において補間処理された青色の光の信号BoがBlue遅延ラインメモリ168を経てカラー補正マトリクス回路(不図示)に入力され、Blue副吸収補正回路170から吸収補正処理された緑色の光の信号Goがカラー補正マトリクス回路(不図示)に入力され、Red補間回路174において補間処理された赤色の光の信号Roがカラー補正マトリクス回路(不図示)に入力される。そして、当該カラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、緑色の光の信号Goに対して、色補正処理を行う。
【0100】
図8に示すように、実施の形態2に係る信号処理方法は、
図8のCに示す第1の補間ステップとしてのBlue補間処理、
図8のDに示す第1の吸収補正ステップとしてのBlue吸収補正処理、
図8のEに示す第2の補間ステップとしてのRed補間処理、
図8のFに示す色補正ステップとしてのカラー補正マトリクス処理を備える。
図8のBに示す光電変換部材から、
図8のAに示す青色の光の信号Bin、緑色の光の信号Gin、赤色の光の信号Rinが、信号処理装置200に入力される。そして、信号処理装置200のBlue補間回路166は、当該青色の光の信号Binに対して、
図8のCに示すBlue補間処理を行う。
次に、信号処理装置200のBlue副吸収補正回路170は、Blue補間処理された青色の光の信号Boを用いて、緑色の光の信号Ginに対して、
図8のDに示すBlue吸収補正を行う。なお、
図8のDに示すBlue吸収補正処理において、補間された青色の光の信号Boに対しても吸収補正処理が行われてもよい。
次に、信号処理装置200のRed補間回路174は、赤色の光の信号Rinに対して、
図8のEに示すRed補間処理を行う。
次に、信号処理装置200のカラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、緑色の光の信号Goに対して、
図8のFに示すカラー補正マトリクス処理(色補正処理)を行う。信号処理装置200における具体的な色補正処理は、上記実施の形態1に係る信号処理装置100における色補正処理と同様であるため、その説明を省略する。
【0101】
次に、
図9を参照しながら、
図8のCに示す補間処理、
図8のDに示す吸収補正処理、
図8のEに示す補間処理を概念的に説明する。
図9のAに示すように、実施の形態2に係る信号処理装置200は、まず青色の光の信号Binに対して補間を行う。第1の光電変換層L1において赤色の画素と青色の画素とが市松模様状に配列される場合には、画素値が存在しない赤色の画素および青色の画素が存在する。そのため、信号処理装置200は、まず青色の光の信号Binに対して補間を行う。なお、信号処理装置200は、まず赤色の光の信号Rinに対して補間を行ってもよい。
【0102】
信号処理装置200は、例えば、緑色の光の信号Ginが示す緑色の画素の画素値の勾配(強度勾配情報)を参照しながら、青色の光の信号Binに対する補間を行う。緑色の画素の画素値の勾配を参照して補間を行う理由は、例えば、緑色の全画素に画素値が存在し、各色の画像は相関があり、かつ緑色が最も輝度に対する寄与度が高いためである。また、緑色の光の信号Ginには、第2光電変換層L2で吸収された青色の光成分が含まれているので、緑色の画素の画素値の勾配を参照して補間を行うことにより、より高い精度で補間を行うことができる。信号処理装置200における具体的な補間処理は、上記実施の形態1に係る信号処理装置100における補間処理と同様であるため、その説明を省略する。
【0103】
青色の光の信号Binに対する補間が行われると、信号処理装置200は、
図9のBに示すように、緑色の光の信号Ginおよび補間された青色の光の信号Boに基づいて、緑色の光の信号Ginに対して吸収補正処理を行う。信号処理装置200における具体的な吸収補正処理は、上記実施の形態1に係る信号処理装置100における吸収補正処理と同様であるため、その説明を省略する。緑色の光の信号Ginに対する吸収補正処理が行われることによって、色再現性の高い緑色の光の信号が生成される。
【0104】
緑色の光の信号Ginに対する吸収補正処理が行われると、信号処理装置200は、
図9のCに示すように、赤色の光の信号Rinに対して補間を行う。
【0105】
信号処理装置200は、例えば、吸収補正処理が行われた後の緑色の光の信号Goが示す緑色の画素の画素値の勾配(強度勾配情報)を参照しながら、赤色の光の信号Rinに対する補間を行う。吸収補正処理が行われた後の緑色の画素の画素値では、第2光電変換層L2で吸収された青色の光成分の影響が除かれている。したがって、吸収補正処理が行われた後の緑色の画素の画素値の勾配を参照して補間を行うことによって、青色の画素の画素値の勾配が赤色の光の信号Rinの補間に及ぼす悪影響を、低減することができる。信号処理装置200における具体的な補間処理は、上記実施の形態1に係る信号処理装置100における補間処理と同様であるため、その説明を省略する。
【0106】
以上に説明した、本実施の形態2に係る信号処理装置200及び信号処理方法では、実施の形態1に係る信号処理装置100及び信号処理方法と同様の効果が得られるのは勿論のこと、吸収補正された緑色の光の信号Goを用いて赤色の光の信号Rinが補間されるため、緑の光の信号Ginに含まれていた青色の光の信号Binの成分を除いた状態で、赤色の光の信号Rinを補間することができる。これにより、さらに高い精度で赤色の光の信号Rinの補間を行うことができる。
【0107】
実施例1、2及び比較例1
次に、本発明の実施例1、実施例2、比較例1について、説明する。
本発明の実施例1に係る信号処理装置は、実施の形態1に係る信号処理装置100である。また、本発明の実施例2に係る信号処理装置は、実施の形態2に係る信号処理装置200である。
【0108】
図10を参照しながら、比較例1に係る信号処理装置における信号処理方法について説明する。
まず、
図10のAに示す撮像部から光電変換部材によって生成された赤色の光の信号Rin、緑色の光の信号Gin、青色の光の信号Binが比較例1に係る信号処理装置に入力される。なお、比較例1の撮像部に備えられる撮像部及び光電変換部材は、実施例1及び実施例2と同じである。すなわち、光電変換部材の第1の光電変換層L1において、青色の画素と赤色の画素とが、例えば、市松模様状に配列されており、第2の光電変換層L2の全画素に亘って緑色の画素が配列されている。
【0109】
次に、
図10のBに示すように、比較例1に係る信号処理装置は、撮像部から入力された青色の光の信号Binを用いて、緑色の光の信号Ginに対してBlue吸収補正を行う。ここで、緑色の光の信号Ginに対するBlue吸収補正処理において用いられる青色の光の信号Binは補間されていない。すなわち、比較例1に係る信号処理装置では、緑色の光の信号Ginに対してBlue吸収補正が市松模様状に行われる。
【0110】
次に、
図10のCに示すように、比較例1に係る信号処理装置は、撮像部から入力された青色の光の信号Bin及び赤色の光の信号Rinに対して補間処理を行う。
【0111】
次に、
図10のDに示すように、比較例1に係る信号処理装置は、Blue吸収補正された緑色の光の信号Go、補間処理された青色の光の信号Bo、及び、補間処理された赤色の光の信号Roに対して、カラー補正マトリクス処理(色補正処理)を行う。
【0112】
図11に、実施例1に係る信号処理装置と比較例1に係る信号処理装置に、画素値(R,G,B)=(0%,25%,100%)の領域と、画素値(R,G,B)=(0%,0%,0%)の領域とが交互に配列されたチャートを入力した場合に、出力される画像を示している。なお、当該チャートにおいて、青色の画素と赤色の画素とは、市松模様状のパターンで配列されている。
図11の右側に実施例1に係る信号処理装置から出力された画像を示し、
図11の左側に比較例1に係る信号処理装置から出力された画像を示している。なお、
図11に示す画像は、入力画像(上記チャート)に対してカラー補正マトリクス処理(色補正処理)は行っていない。すなわち、
図11の右側に示す画像は、入力画像(上記チャート)の緑色の光の信号Ginの強度勾配情報を用いて青色の光の信号Binに対して補間処理を行った後、補間処理された青色の光の信号Boを用いて緑色の光の信号Ginに対して吸収補正を行って得られた画像である。また、
図11の左側に示す画像は、入力画像(上記チャート)の青色の光の信号Binを用いて緑色の光の信号Ginに対して吸収補正を行った後、吸収補正された緑色の光の信号Goを用いて青色の光の信号Binに対して補間処理を行って得られた画像である。
図11に示すように、実施例1では、比較例1に比べて、色再現性、色解像度に優れていることが分かる。
【0113】
図12に、実施例1に係る信号処理装置と比較例1に係る信号処理装置に、画素値(R,G,B)=(100%,25%,100%)の領域と、画素値(R,G,B)=(0%,0%,0%)の領域とが交互に配列されたチャートを入力した場合に、出力される画像を示している。なお、当該チャートにおいて、青色の画素と赤色の画素とは、市松模様状のパターンで配列されている。
図12の右側に実施例1に係る信号処理装置から出力された画像を示し、
図12の左側に比較例1に係る信号処理装置から出力された画像を示している。なお、
図12に示す画像は、入力画像(上記チャート)に対してカラー補正マトリクス処理(色補正処理)は行っていない。すなわち、
図12の右側に示す画像は、入力画像(上記チャート)の緑色の光の信号Ginの強度勾配情報を用いて青色の光の信号Bin及び赤色の光の信号Rinに対して補間処理を行った後、補間処理された青色の光の信号Boを用いて緑色の光の信号Ginに対して吸収補正を行って得られた画像である。また、
図12の左側に示す画像は、入力画像(上記チャート)の青色の光の信号Binを用いて緑色の光の信号Ginに対して吸収補正を行った後、吸収補正された緑色の光の信号Goを用いて青色の光の信号Bin及び赤色の光の信号Rinに対して補間処理を行って得られた画像である。
図12に示すように、実施例1では、比較例1に比べて、色再現性、色解像度に優れていることが分かる。
【0114】
図13に、実施例1に係る信号処理装置と実施例2に係る信号処理装置に、画素値(R,G,B)=(100%,0%,0%)の領域と、画素値(R,G,B)=(0%,0%,100%)の領域とが交互に配列されたチャートを入力した場合に、出力される画像を示している。なお、当該チャートにおいて、青色の画素と赤色の画素とは、市松模様状のパターンで配列されている。
図13の右側に実施例2に係る信号処理装置から出力された画像を示し、
図13の左側に実施例1に係る信号処理装置から出力された画像を示している。なお、
図13に示す画像は、入力画像(上記チャート)に対してカラー補正マトリクス処理(色補正処理)は行っていない。すなわち、
図13の右側に示す画像は、入力画像(上記チャート)の緑色の光の信号Ginの強度勾配情報を用いて青色の光の信号Binに対して補間処理を行った後、補間処理された青色の光の信号Boを用いて緑色の光の信号Ginに対して吸収補正を行って、次いで、吸収補正された緑色の光の信号Goを用いて赤色の光の信号Rinに対して補間処理を行って得られた画像である。また、
図13の左側に示す画像は、入力画像(上記チャート)の緑色の光の信号Ginの強度勾配情報を用いて青色の光の信号Bin及び赤色の光の信号Rinに対して補間処理を行った後、補間処理された青色の光の信号Boを用いて緑色の光の信号Ginに対して吸収補正を行って得られた画像である。
図13に示すように、当該チャートのように、青色の領域と赤色の領域とが交互に配列される画像が入力された場合には、実施例2では、実施例1に比べて、色再現性、色解像度に優れていることが分かる。
【0115】
実施の形態3
次に、
図14乃至
図17を参照しながら、本発明の実施の形態3について説明する。
図14は、実施の形態3に係る信号処理装置300の一例を示す図である。
図15は、実施の形態3に係る信号処理方法の一例を示す図である。
図16は、
図15のCに示す補間処理、
図15のDに示す吸収補正処理、
図15のEに示す補間処理、
図15のFに示す吸収補正処理を概念的に示す図である。また、
図17は、実施の形態3に係る信号処理装置におけるRed吸収補正の結果の一例を示す。
【0116】
実施の形態3に係る信号処理装置300は、
図14に示すように、第2の吸収補正部としてのRed副吸収補正回路176を備える点が、実施の形態2に係る信号処理装置200と異なる。以下、実施の形態3に係る信号処理装置300において、実施の形態2に係る信号処理装置200と同様の構成については、同一の符号を付すとともに、その説明を省略する。
【0117】
Red副吸収補正回路176は、Green保持ラインメモリ172から読み出された緑色の光の信号Go及び補間された赤色の光の信号Roに基づいて、緑色の光の信号Goに対して吸収補正処理を行う。なお、Red副吸収補正回路176によって、補間された赤色の光の信号Roに対して吸収補正処理が行われてもよい。
【0118】
そして、Blue補間回路166において補間処理された青色の光の信号BoがBlue遅延ラインメモリ168を経てカラー補正マトリクス回路(不図示)に入力され、Red副吸収補正回路176から吸収補正処理された緑色の光の信号Goがカラー補正マトリクス回路(不図示)に入力され、Red補間回路174において補間処理された赤色の光の信号Roがカラー補正マトリクス回路(不図示)に入力される。そして、当該カラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、緑色の光の信号Goに対して、色補正処理を行う。
【0119】
図15に示すように、実施の形態3に係る信号処理方法は、
図15のEに示すRed補間処理の後に、
図15のFに示すRed吸収補正を行う点が、実施の形態2に係る信号処理方法と異なる。なお、実施の形態3においてRed補間処理までの処理は、実施の形態2における処理と同様である。そのため、実施の形態3に係る信号処理方法において、実施の形態2に係る信号処理方法と同様の処理については、その説明を省略する。
【0120】
実施の形態3に係る信号処理方法は、
図15のCに示す第1の補間ステップとしてのBlue補間処理、
図15のDに示す第1の吸収補正ステップとしてのBlue吸収補正処理、
図15のEに示す第2の補間ステップとしてのRed補間処理、
図15のFに示す第2の吸収補正ステップとしてのRed吸収補正処理、
図15のGに示す色補正ステップとしてのカラー補正マトリクス処理を備える。なお、Blue補間処理、Blue吸収補正処理、Red補間処理は、
図8に示すBlue補間処理、Blue吸収補正処理、Red補間処理と同じであるため、その説明を省略する。
次に、信号処理装置300のRed副吸収補正回路176は、Red補間処理された赤色の光の信号Roを用いて、Blue吸収補正が行われた緑色の光の信号Goに対して、
図15のFに示すRed吸収補正を行う。ここで、Red吸収補正は、Blue吸収補正と同様に、緑色の光の信号Goから、赤色の信号Rinの値にα’/(1-α’)を乗じて得られる値を減算することにより行われる。しかし、Blue吸収補正と異なり、補正値α’は、式(13)におけるGbottom’や式(14)におけるGabs’ではなく、YSNR10及び色差ΔE
*abの値を算出して決定される。具体的には、補正値α’は、色差ΔE
*abの値が悪化しない範囲内であって、YSNR10が最も低くなる値である。ここで、YSNR10は、カラー補正マトリックス処理を経た後の緑色信号と、イメージセンサ(光電変換部材)において信号を測定するときに発生するノイズとの比率が10になる照度(単位:lux)を意味する。また、YSNR10値が小さいほど、低い照度でイメージ特性が良好であることを意味する。
なお、
図15のFに示すRed吸収補正処理において、補間された赤色の光の信号Roに対しても吸収補正処理が行われてもよい。
次に、信号処理装置300のカラー補正マトリクス回路は、青色の光の信号Bo、赤色の光の信号Ro、及び、Red吸収補正が行われた緑色の光の信号Goに対して、
図15のGに示すカラー補正マトリクス処理(色補正処理)を行う。なお、実施の形態3に係る信号処理装置300における具体的な色補正処理は、上記実施の形態1、2に係る信号処理装置100、200における色補正処理と異なり、色差ΔE
*abの値が悪化しない範囲内で、YSNR10が最も低くなるように実施される。
【0121】
次に、
図16を参照しながら、
図15のFに示す吸収補正処理を概念的に説明する。なお、
図15のCに示す補間処理、
図15のDに示す吸収補正処理、
図15のEに示す補間処理は、
図8のCに示す補間処理、
図8のDに示す吸収補正処理、
図8のEに示す補間処理と同様であるため、その説明を省略する。
【0122】
赤色の光の信号Rinに対する補間が行われると、信号処理装置300は、
図16のDに示すように、Blue吸収補正が行われた緑色の光の信号Goおよび補間された赤色の光の信号Roに基づいて、緑色の光の信号Goに対して吸収補正処理を行う。緑色の光の信号Goに対する吸収補正処理が行われることによって、色再現性の高い緑色の光の信号が生成される。
【0123】
図17に、実施の形態3に係る信号処理装置300において、Red吸収補正が行われた結果を示す。
図17の左側には、信号処理装置300において、Blue補間処理、Blue吸収補正処理、Red補間処理が行われた、赤色の光の信号Ro、緑色の光の信号Go、青色の光の信号Boの強度分布を示している。また、
図17の右側には、信号処理装置300において、赤色の光の信号Ro、さらにRed吸収補正処理された緑色の信号Go、青色の光の信号Boの強度分布を示している。
図17に示すように、Blue吸収補正処理された緑色の信号GoをさらにRed吸収補正処理することにより、赤色の光の信号Roの色純度が向上するとともに、緑色の光の信号Goの暗部での再現性(YSNR10値)が良化している。より具体的には、
図17の左側のグラフにおいて、緑色の光の信号Goの値から赤色の光の信号Roを減算した結果が、
図17の右側のグラフに示されている。
図17の右側のグラフに示すように、緑色の光の信号Goの値から赤色の光の信号Roを減算することによって、緑色の光の信号Goの強度は、波長650nm付近において、ゼロ以下になっていることがわかる。すなわち、本実施の形態3に係る信号処理方法において、緑色の光の信号Goの値から赤色の光の信号Roを減算すると、波長650nmよりも長波長側において、緑色の光の信号Goの強度はゼロ以下、すなわち、緑色の光の信号Goの感度がマイナスになってしまう。通常の吸収補正では、緑色の光の信号Goがマイナスとなるような補正を行わないが、本実施の形態3に係る信号処理方法では、波長650nmよりも長波長側において、緑色の光の信号Goの感度がマイナスとなるように吸収補正を行うことにより、色再現性の高い緑色の光の信号が生成できる。
【0124】
表1に、2つのイメージセンサ(光電変換部材)によって測定された赤色の光の信号Rin、緑色の光の信号Gin、青色の光の信号Binに対して、吸収補正を行わない場合、実施の形態1に係る信号処理装置100によってBlue補間処理及びBlue吸収補正処理を行った場合、実施の形態1に係る信号処理装置100によってRed補間処理及びRed吸収補正処理を行った場合、実施の形態3に係る信号処理装置によってBlue補間処理、Blue吸収補正処理、Red補間処理、及びRed吸収補正処理を行った場合のTSNR10及び色差ΔE
*abの値を示す。
【表1】
表1に示すように、実施の形態3に係る信号処理装置及び信号処理方法では、色差ΔE
*abの値が悪化しない範囲内において、TSNR10を十分に低減することができている。すなわち、実施の形態3に係る信号処理装置及び信号処理方法では、赤色の光の信号Roの色純度を向上するとともに、緑色の光の信号Goの暗部での再現性を向上することができる。
【0125】
以上に説明した、本実施の形態3に係る信号処理装置及び信号処理方法では、実施の形態2に係る信号処理装置200及び信号処理方法と同様の効果が得られるのは勿論のこと、補間処理された青色の光の信号Boを用いて、緑色の光の信号Ginに対して吸収補正処理を行うだけでなく、補間処理された赤色の光の信号Roを用いてさらに吸収補正処理を行う。これにより、さらに色再現性の高い緑色の光の信号を生成することができる。
【0126】
なお、本発明の実施形態に係る信号処理装置は、例えば、“PC(Personal Computer)やサーバ(Server)などのコンピュータ(Computer)”や“タブレット(Tablet)型の装置”などの、“複数の光電変換層を有するイメージセンサにおける撮像により得られた画像信号を処理することが可能な、任意の機器”に適用することができる。また、本発明の実施形態に係る信号処理装置は、例えば、上記のような機器に組み込むことが可能なIC(Integrated Circuit)に適用することもできる。
【0127】
また、上述したように、本発明の実施形態に係る信号処理装置は、第1光電変換層及び第2光電変換層(複数の光電変換層の一例)を有するイメージセンサで構成される撮像部を備え、撮像装置として機能してもよい。この場合、本発明の実施形態に係る撮像装置は、例えば、“デジタルスチルカメラ(Digital Still Camera)”や、“デジタルビデオカメラ(Digital Video Camera)”、“スマートフォン(Smartphone)や携帯電話などの撮像機能を有する任意の機器”に適用することができる。
【0128】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
【符号の説明】
【0129】
100、200 信号処理装置
152 Blue/Red保持ラインメモリ
154 Green保持ラインメモリ
156 ライトカウンタ
158 リードカウンタ
160 Blue/Red補間回路(補間部)
160A Green画素間相関情報抽出部
160B 補間比率算出部
164 副吸収補正回路(吸収補正部)
166 Blue補間回路(第1の補間部)
168 Blue遅延ラインメモリ
170 Blue副吸収補正回路(第1の吸収補正部)
172 Green遅延ラインメモリ
174 Red補間回路(第2の補間部)
176 Red副吸収補正回路(第2の吸収補正部)
L1 第1の光電変換層
L2 第2の光電変換層