(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、本発明を実施するための形態について、図面を参照して詳細に説明する。
[第1の実施の形態]
図1は、本発明の第1実施形態である色補正装置が適用された撮像装置の機能構成を示すブロック図である。同図に示すように、撮像装置100は、撮像レンズ光学系1と、撮像素子2と、白バランス調整部3と、リニアマトリクス色補正部4と、ルックアップテーブル色補正部5と、切換部6と、加算回路7と、信号処理部8と、分光計9と、光源推定部10と、係数設定部11と、係数補間部12とを備える。
本実施形態において、色補正装置は、リニアマトリクス色補正部4と、ルックアップテーブル色補正部5と、分光計9と、光源推定部10と、係数設定部11と、係数補間部12とを含むものである。
【0011】
また、撮像装置100は、不図示の操作系と制御部とフォーカス調整部とを備える。操作系は、撮像装置100の操作者によって操作されるスイッチやGUI(Graphical User Interface)等の操作部を具備し、この操作部の操作に応じて各種の操作信号を制御部に供給する。制御部は、CPU(Central Processing Unit)およびメモリを具備し、メモリに展開した制御プログラムをCPUに実行させることによって撮像装置100全体を制御する。制御部は、CPUによる制御プログラムの実行と操作系から供給される操作信号とに基づいて、撮像装置100を、例えば白バランス調整モード、係数設定モード、および通常動作モードのうちいずれかのモードに設定して動作させる。
【0012】
撮像レンズ光学系1は、被写体から到来する光束を集光するレンズ群を含んで構成される。
撮像素子2は、単一の撮像面を有する固体撮像素子であり、撮像レンズ光学系1によって撮像面上に結像された像を撮像してR信号、G信号、およびB信号(これら3種類の信号を、まとめてRGB信号とも呼ぶ。)を生成する。撮像素子2は、例えば、CCD(Charge Coupled Device)イメージセンサまたはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサである。より具体的には、撮像素子2は、例えば、3840画素×2160画素または7680画素×4320画素の超高精細画像の解像度で撮像可能な単板式カラー撮像素子である。
撮像レンズ光学系1と撮像素子2との光軸方向の位置関係は、フォーカス調整部によって調整される。
【0013】
白バランス調整部3は、制御部によって白バランス調整モードに設定されているときに、無彩色チャートを撮像している撮像素子2から供給されるRGB信号の白バランス(ホワイトバランス)を調整する調整回路である。無彩色チャートを撮像している撮像素子2からRGB信号が供給されると、白バランス調整部3は、RGB信号のゲインやバランスを調整する。白バランス調整部3は、制御部によって白バランス調整モードに設定されていないときは、撮像素子2から供給されるRGB信号を、調整済みのゲインおよびバランスにより出力する。
【0014】
リニアマトリクス色補正部4は、制御部によって通常動作モードに設定されているときに、白バランス調整部3から供給されるRGB信号(入力映像信号)を取り込んで、RGB信号の線形変換による色補正(第一次色補正)を行う。具体的には、リニアマトリクス色補正部4は、所定の行列式によるRGB信号の線形変換処理(リニアマトリクス変換処理)を行う。線形変換処理においては、係数として3×3行列が用いられるが、この行列に含まれる9個の要素は、分光計9により測定された光源の分光特性に応じて、係数設定部11により設定されるリニアマトリクス係数である。
【0015】
ルックアップテーブル色補正部5は、制御部によって通常動作モードに設定されているときに、リニアマトリクス色補正部4から供給される第一次色補正後のRGB信号を取り込んでルックアップテーブルの参照を行うことにより色補正(第二次色補正)を行う。具体的には、ルックアップテーブル色補正部5は、取り込んだ第一次色補正後のRGB信号をYxy信号に変換し、このYxy信号のうちxy信号についての色度座標値を基にルックアップテーブルを参照する。そして、ルックアップテーブル色補正部5は、そのxy信号についての色度座標値とルックアップテーブルの参照結果とを係数補間部12に供給し、係数補間部12から得られる補間色度座標値を第二次色補正後の色度座標値とする。そして、ルックアップテーブル色補正部5は、Y信号と第二次色補正後のxy信号とを併せたYxy信号をRGB信号に逆変換する。二次元ルックアップテーブルのテーブル値は、係数設定モード時に係数補間部12によって設定されるルックアップテーブル係数である。
【0016】
リニアマトリクス色補正部4による第一次色補正は粗調整であり、ルックアップテーブル色補正部5による第二次色補正は、リニアマトリクス色補正部4による線形変換処理で補正しきれない部分の微調整である。なお、第一次および第二次色補正のうちいずれかの補正が非補正となるように、リニアマトリクス色補正部4とルックアップテーブル色補正部5との係数を設定してもよい。
【0017】
切換部6は、切換制御可能なオン/オフスイッチ回路である。切換部6は、操作系の操作に基づいて制御部から供給される切換信号のレベルに応じてオン(接続)またはオフ(非接続)に切り換えられる。加算回路7は、2系統の入力部と1系統の出力部とを備える。加算回路7は、例えばオペアンプによる加算回路である。切換部6は、リニアマトリクス色補正部4の出力部と加算回路7の一方の系統の入力部との間に設けられる。そして、ルックアップテーブル色補正部5の出力部と加算回路7の他方の系統の入力部とが接続される。加算回路7の一方の系統の入力部は例えばプルダウン接続されており、切換部6がオフ状態になったときには加算回路7の一方の系統の入力部には0値の信号が入力される。
なお、加算回路7をデジタル加算器で構成し、切換部6がそのデジタル加算器の例えばEnable/Disable端子を制御して加算演算をオン/オフするように構成してもよい。
【0018】
よって、切換部6がオン状態であるときは、リニアマトリクス色補正部4から出力される第一次色補正後のRGB信号は、ルックアップテーブル色補正部5と加算回路7の前記一方の系統の入力部との両方に供給される。したがって、加算回路7は、リニアマトリクス色補正部4から供給される第一次色補正後のRGB信号とルックアップテーブル色補正部5から供給される第二次色補正後のRGB信号とを加算して得られるRGB信号を出力する。
一方、切換部6がオフ状態であるときは、加算回路7の前記一方の系統の入力部とリニアマトリクス色補正部4の出力部とは非接続となり、加算回路7の前記他方の系統の入力部は、ルックアップテーブル色補正部5からの第二次色補正後のRGB信号の供給を受ける。したがって、加算回路7は、ルックアップテーブル色補正部5から供給される第二次色補正後のRGB信号と同一レベルのRGB信号を出力する。
【0019】
信号処理部8は、カメラプロセス回路であり、加算回路7から供給されるRGB信号を取り込むと、例えば信号のフォーマット変換やデータの符号化処理等の信号処理を行って、色補正後の映像信号を出力する。
【0020】
撮像装置100が係数設定モードに設定されているとき、分光計9と光源推定部10と係数設定部11と係数補間部12とは、光源を推定してその推定した光源に適したリニアマトリクス係数およびルックアップテーブル係数を、リニアマトリクス色補正部4およびルックアップテーブル色補正部5に設定する。
分光計9は、係数設定モードに設定されているときに、光源の分光特性を測定する分光特性測定装置である。分光計9は、光源からの光束を取り込んで分光特性を測定し、光源の光の波長に対する光の強度を表す光源スペクトルを出力する。
なお、分光計として、光源の特定スペクトルを検出する光源特徴検出器を用いてもよい。
【0021】
光源推定部10は、係数設定モードに設定されているときに、分光計9から供給される光源スペクトルから波長に応じた光の強度の特徴を検出し、その特徴に基づいて光源の種類を推定する。光源推定部10が推定する光源の種類は、例えば、A光源類、D65光源類、LED光源類、および蛍光灯光源類である。光源推定部10は、これらの光源の種類それぞれに光源類識別子を付与して予め記憶している。光源類識別子は、例えば、A光源類=「001」、D65光源類=「002」、LED光源類=「003」、および蛍光灯光源類=「003」である。A光源類およびD65光源類は、国際照明委員会が規定する標準光の規格である標準の光Aおよび標準の光D65にそれぞれ対応する光源である。具体的には、A光源類にはタングステンフィラメントや一般的な家庭用電球が含まれ、D65光源類には日中の太陽光が含まれる。光源推定部10による光源の種類の推定方法については後述する。
光源推定部10は、推定した光源の種類に対応する光源類識別子を光源推定結果信号として出力する。
【0022】
係数設定部11は、リニアマトリクス係数とルックアップテーブル係数とを、光源の種類ごとに予め記憶している。係数設定部11は、制御部によって係数設定モードに設定されているときに、光源推定部10から供給される光源推定結果信号と制御部から供給される切換信号とを取り込み、光源類識別子に対応するリニアマトリクス係数を読み出してリニアマトリクス色補正部4に設定するとともに、切換信号のレベルと光源類識別子とに対応するルックアップテーブル係数を読み出して係数補間部12に供給する。
【0023】
係数補間部12は、制御部によって係数設定モードに設定されているときに、係数設定部11から供給されるルックアップテーブル係数を取り込んで、そのルックアップテーブル係数をルックアップテーブル色補正部5に設定する。また、係数補間部12は、制御部によって通常動作モードに設定されているときに、ルックアップテーブル色補正部5から第二次色補正前の色度座標値とルックアップテーブルの所定の参照結果との供給を受けてその色度座標値を補間し、この補間した補間色度座標値をルックアップテーブル色補正部5に供給する。
【0024】
次に、白バランス調整部3、リニアマトリクス色補正部4、およびルックアップテーブル色補正部5についてより詳細に説明する。
図2は、白バランス調整部3、リニアマトリクス色補正部4、およびルックアップテーブル色補正部5についての機能構成を示すブロック図である。
同図において、白バランス調整部3は、オプティカルブラック・クランプ回路(OB CLAMP)31と、ゲイン調整回路(GAIN)32と、ペデスタルレベル調整回路(PED)33とを、3系統備えている。オプティカルブラック・クランプ回路31は、オプティカルブラック領域のレベルと映像信号の黒レベルとの差を補正して黒レベルを決定する回路である。ゲイン調整回路32は、信号レベルを調整する回路でありRGB3系統の白バランスを調整する。ペデスタルレベル調整回路33は、ペデスタルレベルを調整する回路でありRGB3系統の黒バランスを調整する。
【0025】
制御部によって白バランス調整モードに設定されているときに、RGB信号の供給を受けた白バランス調整部3は、R信号、G信号、およびB信号それぞれを、オプティカルブラック・クランプ回路31とゲイン調整回路32とペデスタルレベル調整回路33とを通して白バランスを調整し、白バランスの調整がとれたR1信号、G1信号、およびB1信号を出力する。また、制御部により白バランス調整モードに設定されていないときは、RGB信号の供給を受けた白バランス調整部3は、調整されたオプティカルブラック・クランプ回路31とゲイン調整回路32とペデスタルレベル調整回路33とを通してR1信号、G1信号、およびB1信号を出力する。
【0026】
制御部によって通常動作モードに設定されているとき、リニアマトリクス色補正部4は、白バランス調整部3から供給されるR1信号、G1信号、およびB1信号を取り込むと、下記の式(1)に示す行列式によるリニアマトリクス変換処理(第一次色補正)を行ってR2信号、G2信号、およびB2信号を出力する。式(1)において、(R
i,G
i,B
i)はリニアマトリクス色補正部4に供給されるR1信号、G1信号、およびB1信号のR,G,B成分であり、(R
o,G
o,B
o)は第一次色補正後のR2信号、G2信号、およびB2信号のR,G,B成分である。3×3行列の9個の要素(L
ij,1≦i≦3,1≦j≦3)は、係数設定部11により設定されたリニアマトリクス係数である。
【0028】
ルックアップテーブル色補正部5は、色空間変換回路51と、二次元ルックアップテーブル52と、色空間逆変換回路53とを備える。色空間変換回路51は、RGB表色系の座標空間をYxy表色系の座標空間に変換する回路である。具体的には、制御部によって通常動作モードに設定されているとき、色空間変換回路51は、リニアマトリクス色補正部4から供給されるR2信号、G2信号、およびB2信号を取り込むと、まず下記の式(2)に示す行列M(ボールド体)を用いてRGB表色系のRGB信号をXYZ表色系のXYZ信号に変換する。なお、「(ボールド体)」との記載は、その直前の文字がボールド体で記載されることを示し、その文字が行列を表すことを意味する。
【0030】
より具体的には、色空間変換回路51は、例えば、国際電気標準会議によりsRGB(Standard RGB)色空間として規格化されたRGB表色系の座標空間からXYZ表色系の座標空間への変換の場合は、下記の式(3)を計算する。
【0032】
次に、色空間変換回路51は、下記の式(4)を計算することにより、XYZ表色系のXYZ信号をYxy表色系のYxy信号に変換する。なお、Yxy表示系のY信号は、XYZ表色系のY信号がそのまま用いられるものである。
【0034】
二次元ルックアップテーブル52は、Yxy表色系におけるxy色度座標系について、0≦x≦(1−1/128)および0≦y≦(1−1/128)の範囲内を例えば127×127個のブロックで区切り、各格子点に対応する色度座標値で参照可能な14ビットのルックアップテーブルを構成したRAM(Random Access Memory)である。制御部によって通常動作モードに設定されているとき、色空間変換回路51からxy信号の色度座標値(x1,y1)が供給されると、二次元ルックアップテーブル52は、色度座標値(x1,y1)を含む最小ブロックの頂点である4個の格子点の色度座標値をインデックスとしてルックアップテーブルを参照し、参照結果である4個の色度座標値と色度座標値(x1,y1)とを係数補間部12に供給する。そして、係数補間部12から供給される補間色度座標値(x2,y2)を取り込んで第二次色補正後の色度座標値として出力する。
【0035】
色空間逆変換回路53は、Yxy表色系の座標空間をRGB表色系の座標空間に変換する回路である。具体的には、色空間逆変換回路53は、色空間変換回路51から供給されるY信号と、二次元ルックアップテーブル52から供給される第二次色補正後のxy信号とを取り込んで、Yxy表色系のYxy信号をXYZ表色系のXYZ信号に変換し、さらにXYZ信号をRGB表色系のRGB信号に変換し、R3信号、G3信号、およびB3信号を出力する。つまり、色空間逆変換回路53は、色空間変換回路51の逆変換の回路である。
以上により、ルックアップテーブル色補正部5は、リニアマトリクス色補正部4から供給されるR2信号、G2信号、およびB2信号について第二次色補正処理を行い、第二次色補正後のR3信号、G3信号、およびB3信号を出力する。
【0036】
次に、分光計9による光源の分光特性の測定例について説明する。
図3は、分光計9によって測定された分光特性の光源スペクトルのグラフである。同図において、(a)はタングステンフィラメントの光源スペクトル、(b)は蛍光灯の光源スペクトル、(c)は別の種類の蛍光灯の光源スペクトル、(d)は日中の太陽光の光源スペクトル、(e)は白色型LEDの光源スペクトル、(f)は三色型LEDの光源スペクトルの例であり、いずれのグラフにおいても、横軸が波長(nm)を示し、縦軸が光の強度を示す。
同図(a)のタングステンフィラメントの光源スペクトルは、波長が長くなるにしたがって光の強度も強くなる特性を有している。このような特性を有するタングステンフィラメントはA光源に分類される。同図(b)および(c)の蛍光灯の光源スペクトルは、405nm,435nm,490nm,545nm,580nm,610nmの波長において光の強度のピークを有する。同図(d)の太陽光の光源スペクトルは、A光源よりも色温度が低く、相対的に短波長成分が多く含まれる。このような日中の太陽光はD65光源に分類される。同図(e)の白色型LEDの光源スペクトルは、460nmの波長において光の強度のピークを有し、同図(f)の三色型LEDの光源スペクトルは、465nm,520nm,625nmの波長において光の強度のピークを有する。同図に示すように、光源スペクトルには、光源の種類ごとに波長に応じた光の強度の特徴を有している。
【0037】
次に、光源推定部10による光源の種類の推定方法について説明する。光源推定部10は、分光計9から供給される光源スペクトルから、例えば、700nm〜750nmの波長成分を赤外線成分(IR成分)、545nmの波長成分を蛍光灯成分(FL成分)としてそれらの波長成分を検出し、それらの相対量を求めて光源の種類を推定する。
図4は、光源推定部10が、赤外線成分と蛍光灯成分とを特徴として用いて光源の種類を推定した結果を示す図である。同図において、横軸は、蛍光灯成分を輝度値で除算した値(FL/Y)であり、縦軸は、赤外線成分を輝度値で除算した値(IR/Y)である。同図に示すように、光源推定部10は、光源スペクトルから赤外線成分および蛍光灯成分を検出して相対量を計算し、FL/YとIR/Yとの二次元上の位置に対応する領域に基づいて光源の種類を推定する。そして、光源推定部10は、推定した光源の種類に応じた光源類識別子を光源推定結果信号として出力する。
なお、光源推定部10は、分光計9から供給される光源スペクトルから、例えば、460nmの波長成分を白色LED成分、625nmの波長成分を三色LED成分としてそれらの波長成分を検出して用いてもよい。
【0038】
次に、係数設定部11が記憶するリニアマトリクス係数について説明する。係数設定部11に記憶されるリニアマトリクス係数は、光源類識別子ごとの9個のリニアマトリクス係数L
ij,1≦i≦3,1≦j≦3である。これらリニアマトリクス係数は、光源の種類ごとに予め求められたものである。
図5は、係数設定部11が記憶するリニアマトリクス係数のデータ構成を示す図である。同図に示すように、係数設定部11に記憶されるリニアマトリクス係数は、A光源類とD65光源類とLED光源類と蛍光灯光源類とのそれぞれの光源に適合する9個の係数を含む。なお、不図示ではあるが、各リニアマトリクス係数は、光源類識別子に対応して係数設定部11に記憶される。
【0039】
次に、係数設定部11が記憶するルックアップテーブル係数について説明する。係数設定部11に記憶されるルックアップテーブル係数は、切換部6がオン状態であるときに用いられるルックアップテーブル係数と、切換部6がオフ状態であるときに用いられるルックアップテーブル係数とを、光源類識別子に対応して含むものである。これらルックアップテーブル係数は、光源の種類ごとに予め求められたものである。
図6は、係数設定部11が記憶するルックアップテーブル係数のデータ構成を示す図である。同図に示すように、係数設定部11に記憶されるルックアップテーブル係数は、切換部6がオン状態であるときに用いられるルックアップテーブル係数と、切換部6がオフ状態であるときに用いられるルックアップテーブル係数とを、A光源類とD65光源類とLED光源類と蛍光灯光源類とのそれぞれの光源に対応して含む。ルックアップテーブル係数は、例えば128×128個の色度座標値(x
i,y
j),0≦i≦128,0≦j≦128をインデックスとする配列データである。なお、不図示ではあるが、各ルックアップテーブル係数は、光源類識別子に対応して係数設定部11に記憶される。
【0040】
前述したとおり、切換部6がオン状態であるときは、リニアマトリクス色補正部4から出力される第一次色補正後のRGB信号と、ルックアップテーブル色補正部5から出力される第二次色補正後のRGB信号とが加算回路7で加算されたRGB信号を、信号処理部8が映像信号に変換する。よって、切換部6がオン状態であるときに用いられるルックアップテーブル係数は、リニアマトリクス色補正部4で第一次色補正された結果に対する相対値である。
また、切換部6がオフ状態であるときは、リニアマトリクス色補正部4とルックアップテーブル色補正部5とは直列に接続されるため、第一次色補正後のRGB信号をさらに第二次色補正して得られたRGB信号を、信号処理部8が映像信号に変換する。よって、切換部6がオフ状態であるときに用いられるルックアップテーブル係数は、第一次色補正値を更に補正して第二次色補正値を得るための色度座標値そのものとなる。
【0041】
よって、第一次色補正値に対する相対値は、第一次色補正値を更に補正して第二次色補正値を得るための色度座標値そのもの(絶対値)に比べて値が極めて小さいため、切換部6がオン状態であるときのルックアップテーブル係数は、切換部6がオフ状態であるときのルックアップテーブル係数に比べてルックアップテーブルのビット数を少なくすることができる。したがって、切換部6をオン状態にして使用するルックアップテーブル色補正部5は、切換部6をオフ状態にして使用するルックアップテーブル色補正部5に比べてメモリ容量を少なくすることができる。
【0042】
次に、制御部によって通常動作モードに設定されているときの係数補間部12の動作原理について説明する。係数補間部12は、ルックアップテーブル色補正部5の二次元ルックアップテーブル52から色度座標値(x1,y1)と4個の格子点の色度座標値との供給を受けると、4個の格子点の色度座標値に基づく線形補間処理によって補間色度座標値(x2,y2)を計算する。
図7は、xy信号のxy色度図とその拡大図とを模式的に示す図である。同図(a)は、色空間変換回路51によって得られるxy信号をxy色度図として表した図であり、同図(b)は、そのxy色度図の一部分を拡大した図である。なお、同図のxy色度図は色を省略している。同図(b)に示すように、係数補間部12は、二次元ルックアップテーブル52から色度点ICの座標値である色度座標値(x1,y1)と、その色度点ICを含む最小ブロックの頂点である4個の格子点C1〜C4それぞれの色度座標値との供給を受けると、格子点C1〜C4の色度座標値に基づいて色度点ICの色度座標値を補間する。具体的には、係数補間部12は、4個の格子点C1〜C4を頂点とする最小ブロックを例えば4096×4096個のブロックに分割し、格子点C1〜C4の色度座標値を用いて直線補間を行い、色度点ICの第二次色補正後の色度座標値である補間色度座標値(x2,y2)を計算する。そして、係数補間部12は、補間色度座標値(x2,y2)を二次元ルックアップテーブル52に供給する。
【0043】
以上、説明したように、本発明の第1実施形態における撮像装置100では、光源の種類に応じて決定されたリニアマトリクス係数とルックアップテーブル係数とを係数設定部11に予め記憶しておく。そして、分光計9で測定した光源の分光特性に基づいて光源推定部10が光源の種類を推定し、係数設定部11がその推定された光源の種類に対応したリニアマトリクス係数およびルックアップテーブル係数を読み出して係数設定に用いる。このように構成したことにより、本実施形態における撮像装置100は、被写体の光源に適した色補正を行うことができる。
【0044】
また、本実施形態における撮像装置100は、切換部6をオン状態に設定しているときに、リニアマトリクス色補正部4によって色補正されたRGB信号(第一次色補正)と、ルックアップテーブル色補正部5によって色補正されたRGB信号(第二次色補正)とを加算回路7で加算する。また、本実施形態における撮像装置100は、切換部6をオフ状態に設定しているときに、リニアマトリクス色補正部4によって色補正されたRGB信号(第一次色補正)を、ルックアップテーブル色補正部5によって更に色補正する(第二次色補正)。いずれの構成においても、リニアマトリクス色補正部4による第一次色補正を
粗調整とし、ルックアップテーブル色補正部5による第二次色補正を、線形変換処理で補正しきれない部分の微調整とすることができる。
【0045】
[第2の実施の形態]
図8は、本発明の第2実施形態である色補正装置が適用された撮像装置の機能構成を示すブロック図である。なお、本実施形態では、第1実施形態における構成と同一の構成について同一の符号を付しその説明を省略する。
同図に示すように、撮像装置200は、第1実施形態における撮像装置100から分光計9と光源推定部10とを削除して新たに3板式撮像装置13を備えるとともに、撮像装置100の係数設定部11を係数設定部11aに置き換えた構成である。また、撮像装置200は、第1実施形態と同様に、不図示の操作系と制御部とフォーカス調整部とを備える。
本実施形態において、色補正装置は、リニアマトリクス色補正部4と、ルックアップテーブル色補正部5と、係数設定部11aと、係数補間部12と、3板式撮像装置13とを含むものである。
【0046】
3板式撮像装置13は、撮像装置200を色補正するためのリファレンス映像信号であるリファレンスRGB信号を出力するリファレンス映像供給部である。3板式撮像装置13の3板式撮像素子の解像度は撮像装置200の撮像素子2の解像度と異なっていてもよい。例えば、3板式撮像素子の解像度がSDTV(Standard Definition Television)によるものであり、撮像素子2の解像度がHDTV(High Definition Television)によるものであってもよい。
3板式撮像装置13は、その光軸が撮像装置200の光軸に略平行となるようにして撮像装置200に着脱可能に設けられる。そして、3板式撮像装置13の撮像レンズ光学系と撮像装置200の撮像レンズ光学系1とを連動させるためのレンズ連動機構(不図示)が3板式撮像装置13と撮像装置200とにわたって設けられる。
撮像装置200の色補正を行う際は、3板式撮像装置13と撮像装置200とは、カラーチャートを撮像しながらレンズ連動機構を動作させて、3板式撮像装置13に内蔵された3板式撮像素子が撮像する撮像画像の画角と、撮像装置200の撮像素子2が撮像する撮像画像の画角とをほぼ一致させるようにする。撮像装置200の色補正が完了した後は、3板式撮像装置13およびレンズ連動機構は撮像装置200から取り外される。
【0047】
または、3板式撮像装置13による撮像画像の画角が撮像装置200による撮像画像の画角よりも広くなるようにし、3板式撮像装置13により得られたカラーチャートの撮像画像から、撮像装置200により得られる撮像画像の画角と等しい画像領域を抽出するようにしてもよい。このようにした場合、レンズ連動機構を搭載せずに構成することができる。
【0048】
係数設定部11aは、所定のルックアップテーブル係数を予め記憶している。この所定のルックアップテーブル係数は、例えば、第二次色補正を行わないテーブル値である。具体的には、切換部6がオンに設定される場合のルックアップテーブル係数は全て0であり、切換部6がオフに設定される場合のルックアップテーブル係数はインデックスに対する参照値がインデックスと同値になる値である。
また、係数設定部11aに記憶されたルックアップテーブル係数は、操作者による操作系の操作にしたがって修正可能である。
【0049】
係数設定部11aは、制御部によって係数設定モードに設定されているときに、3板式撮像装置13から供給されるリファレンスRGB信号と白バランス調整部3から供給されるソースRGB信号とを取り込んで、リファレンスRGB信号とソースRGB信号との色差が最小となるリニアマトリクス係数を計算する。具体的には、3板式撮像装置13と撮像装置200とは、例えばマクベスチャートを撮像する。そして、撮像装置200の係数設定部11aは、3板式撮像装置13から供給されるリファレンスRGB信号と白バランス調整部3から供給されるソースRGB信号とを取り込んで、両方の撮像画像におけるマクベスチャートの24色それぞれのRGB値の差が最小となるように、リニアマトリクス係数を計算する。算出するリニアマトリクス係数L(ボールド体)は、下記の式(5)のように表される。式(5)において、(R
r,G
r,B
r)はリファレンスRGB信号のRGB値であり、(R
s,G
s,B
s)はソースRGB信号のRGB値である。
【0051】
係数設定部11aは、リニアマトリクス係数L(ボールド体)を、例えば最小二乗法の計算によって求める。つまり、係数設定部11aは、3板式撮像装置13の撮像画像と撮像装置200の撮像画像とから、マクベスチャートの24色それぞれの領域における画素データを抽出し、第一次色補正後のRGB値を(R
i,G
i,B
i)として、リファレンスRGB信号のRGB値(R
s,G
s,B
s)との誤差E
RGBを下記の式(6)により計算する。
【0053】
係数設定部11aは、24色それぞれにおいて誤差E
RGBが最小となるようなリニアマトリクス係数L(ボールド体)を計算する。誤差E
RGBが最小となるようなリニアマトリクス係数L(ボールド体)を求める方法は様々であるが、一例としては、所定の初期値からスタートして最急勾配法により最適なリニアマトリクス係数L(ボールド体)を計算する。このとき、マクベスチャートの24色において任意の色を選択して計算したり、例えば肌色等の特定色を重視して加重平均を計算したりしてもよい。
【0054】
係数設定部11aは、上記のようにして算出したリニアマトリクス係数L(ボールド体)をリニアマトリクス色補正部4に設定する。また、係数設定部11aは、制御部から供給される切換信号を取り込んで、その切換信号のレベルに対応するルックアップテーブル係数を読み出して係数補間部12に供給する。
【0055】
以上、説明したように、本発明の第2実施形態においては、3板式撮像装置13と撮像装置200とがマクベスチャートを撮像し、3板式撮像装置13がリファレンスRGB信号を計数設定部11aに供給するとともに、撮像装置200がソースRGB信号を計数設定部11aに供給する。そして、係数設定部11aが、リファレンスRGB信号とソースRGB信号との色差が最小となるリニアマトリクス係数L(ボールド体)を計算してリニアマトリクス色補正部4に設定する。このように構成したことにより、本実施形態における撮像装置200は、3板式撮像素子を備えて分光特性の優れている3板式撮像装置13の撮像映像に近い色再現を行うよう色補正をすることができる。
【0056】
[第3の実施の形態]
図9は、本発明の第3実施形態である色補正装置が適用された撮像装置の機能構成を示すブロック図である。なお、本実施形態では、第1実施形態における構成と同一の構成について同一の符号を付しその説明を省略する。
同図に示すように、撮像装置300は、第1実施形態における撮像装置100から分光計9を削除するとともに、撮像装置100の撮像素子2と白バランス調整部3と光源推定部10とを、撮像素子2aと白バランス調整部3aと光源推定部10aとに置き換えた構成である。また、撮像装置300は、第1実施形態と同様に、不図示の操作系と制御部とフォーカス調整部とを備える。
本実施形態において、色補正装置は、撮像素子2aと、リニアマトリクス色補正部4と、ルックアップテーブル色補正部5と、光源推定部10aと、係数設定部11と、係数補間部12とを含むものである。
【0057】
撮像素子2aは、第1実施形態における撮像素子2と同様に、単一の撮像面を有する固体撮像素子であり、撮像レンズ光学系1によって撮像面上に結像された像を撮像してRGB信号を生成する。また、撮像素子2aには、例えば700nm〜750nmの波長成分である赤外線成分を遮断して撮像面に照射させない領域と、赤外線成分を撮像面に照射させる領域とが設けられている。そして、撮像素子2aは、光源からの光束を撮像して赤外線成分を含む画像領域と赤外線成分を含まない画像領域とからなる撮像画像を生成する。撮像素子2aについては、その詳細を後述する。
【0058】
白バランス調整部3aは、第1実施形態における白バランス調整部3と同様に、制御部によって白バランス調整モードに設定されているときに、無彩色チャートを撮像している撮像素子2aから供給されるRGB信号の白バランスを調整する調整回路である。また、白バランス調整部3aは、制御部によって係数設定モードに設定されているときに、撮像素子2aから供給されたRGB信号を光源推定部10aに供給する。
【0059】
光源推定部10aは、制御部によって係数設定モードに設定されているときに、白バランス調整部3aから供給されるRGB信号から赤外線成分とRGB成分とを抽出し、これら赤外線成分とRGB成分との相対的な関係に基づいて光源の種類を推定する。そして、光源推定部10は、第1実施形態と同様に、推定した光源の種類に対応する光源類識別子を光源推定結果信号として出力する。
【0060】
次に、撮像素子2aの構成について詳細に説明する。
図10は、撮像素子2aの撮像面を模式的に表した図である。同図に示すように、撮像素子2aの撮像面には、撮像可能領域であるセンサ有効領域23が含まれている。そして、センサ有効領域23には、実際に撮像に使用される領域であるセンサ使用領域24が含まれる。撮像面上に設けられるカバーガラスには、センサ有効領域23内であってセンサ使用領域24外である所定の部分領域に対応する領域を除いてIRカットフィルタ膜蒸着領域21が設けられている。IRカットフィルタ膜蒸着領域21は、赤外線成分をカットする領域である。そして、カバーガラスにIRカットフィルタ膜蒸着領域21が設けられていない領域がIRカットフィルタ膜非蒸着領域22となる。
例えば、撮像素子2aの有効画素数が4096×2160画素であり、そのうち3840×2160画素を撮像領域として使用する場合、256×2160画素の領域をIRカットフィルタ膜非蒸着領域22として使用する。
【0061】
なお、撮像面のセンサ有効領域23の外側に設けられているオプティカルブラック領域(不図示)の一部分にIRカットフィルタ膜非蒸着領域を設けるようにしてもよい。
【0062】
次に、光源推定部10aによる光源の種類の推定方法について説明する。撮像装置300は、白バランスを調整するために用いられる無彩色チャートを撮像する。例えば、撮像装置300は、白バランス調整モードに設定されて白バランス調整部3aにより白バランスの調整を行う。そして、撮像装置300は係数設定モードに切換えられて無彩色チャートを撮像する。そして、光源推定部10aは、白バランス調整部3aから供給されるRGB信号から赤外線成分とRGB成分とを抽出する。具体的には、光源推定部10aは、例えば、IRカットフィルタ膜非蒸着領域22の画素領域からRGB成分を抽出し、センサ使用領域24の画素領域とIRカットフィルタ膜非蒸着領域22の画素領域との差分より赤外線成分を抽出する。
【0063】
次に、光源推定部10aは赤外線成分の光の強度に基づいて、光源の種類を自然光源であるA光源およびD65光源とその他の人口光源とに分類する。そして、光源の種類が自然光源に分類された場合、光源推定部10aは、さらに赤外線成分の光の強度に基づいてA光源であるかD65光源であるかについて推定する。一方、光源の種類が人口光源に分類された場合、光源推定部10aは、RGB成分の各光の強度の比率に基づいて蛍光灯の光源であるかLEDの光源であるかについて推定する。光源推定部10aは、RGB成分の各光の強度の比率に基づいて、人工光源の種類をさらに細かく推定してもよい。
【0064】
以上、説明したように、本発明の第3実施形態においては、撮像素子2aは、その撮像面にIRカットフィルタ膜蒸着領域21とIRカットフィルタ膜非蒸着領域22とを設け、赤外線成分を含む画像領域と赤外線成分を含まない画像領域とからなる撮像画像を生成するようにした。そして、光源推定部10aは、撮像素子2aから供給されたRGB信号から赤外線成分とRGB成分とを抽出して光源の種類を推定するようにした。このように構成したことにより、本実施形態における撮像装置300は、無彩色チャートを用いて白バランスの調整を行った後すぐに、その無彩色チャートを用いて光源の種類を推定し、被写体の光源に適した色補正を行うためのリニアマトリクス係数とルックアップテーブル係数とを設定することができる。
【0065】
[その他の実施の形態]
上述した第1および第3実施形態における係数設定部11と、第2実施形態における係数設定部11aとにおいて、係数補間部12を介してルックアップテーブル係数をルックアップテーブル色補正部5に設定する場合に、ルックアップテーブル係数における任意の色度点に対応する係数の補正値を指定し、公知のワーピング技術を適用してその色度点周辺の係数を決定するようにしてもよい。ワーピング技術とは、本来は画像の変形処理に用いられる技術であり、例えば、変形前の画像に複数の変位ベクトルを指定し、その変位ベクトルに基づいて当該変形前の画像に設けた格子の格子点における各変位ベクトル量を計算するものである。例えば、係数設定部11,11aは、第2実施形態と同様に所定のルックアップテーブル係数を予め記憶しておく。そして、係数設定部11,11aは、制御部によって係数設定モードに設定されているときに、マクベスチャートを撮像して得た撮像画像から24色それぞれに対応する24点の補正値を指定し、これら24点の周辺の係数を、ワーピング技術を適用して計算する。
【0066】
図11は、指定された9個の変位ベクトルに基づいて、32×32個の格子点の変位ベクトルをワーピング技術により求めた結果を模式的に示す図である。同図に示すように、ワーピング技術を適用して計算した結果、指定された9個の変位ベクトルに整合しながら格子点間でなだらかに変化する32×32個の変位ベクトルを得ることができる。言い換えれば、指定された9個の変位ベクトルが与える制約条件の下で、格子点間における変位ベクトルの変化度合い(勾配)をできるだけなだらかにすることができ、観察者の視覚的な色の変化を自然に感じさせることができる。
【0067】
また、第1および第2実施形態における撮像素子2と、第3実施形態における撮像素子2aとをベイヤ配列のカラーフィルタを具備するものとした場合、これら撮像素子2,2aからはR信号、B信号の他に2系統のG信号(G1信号およびG2信号)が出力される。このようなベイヤ配列のカラーフィルタを備えた撮像素子を用いる場合は、リニアマトリクス色補正部とルックアップテーブル色補正部とをそれぞれ2系統用いて撮像装置を構成する。
【0068】
図12は、ベイヤ配列型撮像素子から供給される信号を処理する白バランス調整部、リニアマトリクス色補正部、およびルックアップテーブル色補正部についての機能構成を示すブロック図である。同図において、白バランス調整部3bは、オプティカルブラック・クランプ回路31とゲイン調整回路32とペデスタルレベル調整回路33とを4系統備える。白バランス調整部3bは、ベイヤ配列型撮像素子から供給されるR信号、B信号、G1信号、およびG2信号を用いて白バランスの調整を行う。白バランス調整部3bから出力されるR1信号、B1信号、G11信号、およびG21信号は、リニアマトリクス色補正部4aに供給される。
【0069】
リニアマトリクス色補正部4aは、第1実施形態で説明したリニアマトリクス色補正部4を2系統備えている。一方のリニアマトリクス色補正部4は、R1信号、B1信号、およびG11信号の供給を受けてリニアマトリクス変換処理を行い、R2信号、B2信号、およびG12信号を出力する。また、他方のリニアマトリクス色補正部4は、R1信号、B1信号、およびG21信号の供給を受けてリニアマトリクス変換処理を行い、R2信号、B2信号、およびG22信号を出力する。リニアマトリクス色補正部4aから出力されるR2信号、B2信号、G12信号、G22信号は、ルックアップテーブル色補正部5aに供給される。
【0070】
ルックアップテーブル色補正部5aは、第1実施形態で説明したルックアップテーブル色補正部5を2系統備えている。一方のルックアップテーブル色補正部5は、一方のリニアマトリクス色補正部4から出力されるR2信号、B2信号、およびG12信号を取り込む。また、他方のルックアップテーブル色補正部5は、他方のリニアマトリクス色補正部4から出力されるR2信号、B2信号、およびG22信号を取り込む。2系統のルックアップテーブル色補正部5は、第1実施形態と同様に、色空間変換回路51と、二次元ルックアップテーブル52と、色空間逆変換回路53とをそれぞれ備える。
【0071】
2系統の色空間逆変換回路53それぞれのB出力から出力されるB信号は、2系統の入力値の平均値を求めて出力する加算平均演算回路54に供給される。そして、加算平均演算回路54は、2系統のB信号の供給を受けて加算平均を計算してB3信号を出力する。また、2系統の色空間逆変換回路53それぞれのR出力から出力されるR信号は、2系統の入力値の平均値を求めて出力する加算平均演算回路55に供給される。そして、加算平均演算回路55は、2系統のR信号の供給を受けて加算平均を計算してR3信号を出力する。また、一方の色空間逆変換回路53のG出力から出力されるG13信号をそのまま出力し、他方の色空間逆変換回路53のG出力から出力されるG23信号もそのまま出力する。
【0072】
また、第1実施形態から第3実施形態までのリニアマトリクス色補正部4は、RGB信号の線形変換処理を行うものであるが、これ以外にも、リニアマトリクス色補正部4は、例えばRGB信号をまずYPbPr信号に変換し、色差信号であるPbPr信号を、2×2行列を用いてリニアマトリクス変換処理するようにしてもよい。
【0073】
また、ルックアップテーブル色補正部5に対するルックアップテーブル係数の設定は、係数設定部11,11aが、係数補間部12を介さずに直接行ってもよい。
【0074】
また、第2実施形態における撮像装置200では、色補正するためのリファレンスRGB信号を出力するリファレンス映像供給部として3板式撮像装置13を用いた。これ以外にも、例えば、様々な光源条件で撮像したマクベスチャートの画像や、コンピュータ装置によって作成したコンピュータグラフィックス画像等のリファレンス画像を記憶装置に記憶しておき、この記憶装置から読み出した画像の信号をリファレンスRGB信号として使用するようにしてもよい。
【0075】
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計等も含まれる。