【実施例】
【0015】
実施例に係るカメラシステムの構成について
図1を用いて説明する。
図1は実施例に係るカメラシステムの全体構成を示すブロック図である。
【0016】
図1に示すように、カメラシステム10はレンズ1と撮像装置2とを備える。撮像装置2は撮像素子3Rと撮像素子3G1と撮像素子3G2と撮像素子3Bと映像信号処理回路4と4色分解光学系5とCPU6とを備える。レンズ1は3枚用ズームレンズである。撮像素子3Rは赤(R)の周辺回路を集積した撮像素子であり、CMOS撮像素子、又はCCD撮像素子とタイミング発生部(Timing Generator:TG)とAFEとCCD転送駆動回路とを1つのパッケージにした撮像素子である。
【0017】
撮像素子3G1は第1の緑(G1)の周辺回路を集積した撮像素子であり、CMOS撮像素子、又はCCD撮像素子とTGとAFEとCCD転送駆動回路とを1つのパッケージにした撮像素子である。
【0018】
撮像素子3G2は第2の緑(G2)の周辺回路を集積した撮像素子であり、CMOS撮像素子、又はCCD撮像素子とTGとAFEとCCD転送駆動回路とを1つのパッケージにした撮像素子である。
【0019】
撮像素子3Bは青(B)の周辺回路を集積した撮像素子であり、CMOS撮像素子、又はCCD撮像素子とTGとAFEとCCD転送駆動回路とを1つのパッケージにした撮像素子である。
【0020】
映像信号処理回路4はFPGAとフレームメモリとで構成され、TGとコマ速度変換と補間処理とを含み、RG1G2Bの4板(撮像素子3R、3G1、3G2、B)で撮像の縦横倍の画素数の映像(HDR映像)を出力する。
【0021】
4色分解光学系5は入射光をR、G1、G2、Bに色分解するプリズムである。
【0022】
図3Aは実施例に係る撮像装置の回路を示すブロック図である。
【0023】
CMOS撮像素子3Bは、等速のクロック(CLK)と水平同期信号(HD)と垂直同期信号(VD)とを入力し、等速の映像信号(BVi)を出力する。出力された映像信号(BVi)はB撮像信号ともいう。
【0024】
CMOS撮像素子3G1は、蓄積用の倍速のクロック(×2CLK)又は読出し用の等速のクロック(CLK)と、蓄積用の倍速の水平同期信号(×2HD)又は読出し用の等速の水平同期信号(HD)と、蓄積用の4倍速の垂直同期信号(×4VD)又は位相をずらした倍速の垂直同期信号(Offset×2VD)若しくは読出し用の等速の垂直同期信号(VD)と、を入力し、倍速の映像信号(×2G1Vi)を蓄積し、又は等速の映像信号(G1Vi)を読み出して出力する。出力された映像信号(G1Vi)はG1撮像信号ともいう。
【0025】
CMOS撮像素子3G2は、蓄積用の倍速のクロック(×2CLK)又は読出し用の等速のクロック(CLK)と、蓄積用の倍速の水平同期信号(×2HD)又は読出し用の等速の水平同期信号(HD)と、蓄積用の4倍速の垂直同期信号(×4VD)又は位相をずらした倍速の垂直同期信号(Offset×2VD)若しくは読出し用の等速の垂直同期信号(VD)と、を入力し、倍速の映像信号(×2G2Vi)を蓄積し、又は等速の映像信号(G2Vi)を読み出して出力する。出力された映像信号(G2Vi)はG2撮像信号ともいう。
【0026】
CMOS撮像素子3Rは、等速のクロック(CLK)と水平同期信号(HD)と垂直同期信号(VD)とを入力し、等速の映像信号(RVi)を出力する。出力された映像信号(RVi)はR撮像信号ともいう。
【0027】
映像信号処理回路4は、等速の映像信号(RVi)を入力し映像信号(RVo)を出力し、等速の映像信号(G1Vi)および等速の映像信号(G2Vi)を入力し映像信号(GVo)を出力し、等速の映像信号(BVi)を入力し映像信号(BVo)を出力する。
【0028】
図2A、2Bは実施例に係る撮像装置の動作を示す模式図であり、
図2AはRG1G2Bの2倍速と等速の蓄積期間を示す図であり、
図2BはRG1G2Bの2倍速と等速の蓄積の読出し期間を示す図である。
【0029】
映像出力垂直周期を60p(1秒間に60コマ)とすると、等速のRの撮像垂直周期は60p、等速のG1の撮像垂直周期は60p、倍速のG1の撮像垂直周期は120p、倍速のG2の撮像垂直周期は120p、等速のBの撮像垂直周期60pである。
【0030】
図2Aに示すように、奇数フレームは、R、G1、Bを出力映像コマ数(蓄積周期=映像出力垂直周期=60p)で撮像しG2を出力映像コマ数の2倍(蓄積周期=2×映像出力垂直周期=120p)で撮像し、出力映像に用いるR、G1、Bの撮像コマ位相がG2の撮像コマの概略中心タイミングになるようにR、G1、Bの撮像コマの1/4程G2の位相をずらす(オフセットする)。偶数フレームでG1を120pの蓄積周期で蓄積したフォトダイオード(PD)の電荷は一度掃き捨ててから、奇数フレームでG1を60pの蓄積周期で蓄積する。同様に、偶数フレームでG2を60pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG2を120pの蓄積周期で蓄積する。PDからフレームメモリに転送してから掃き捨てまでの時間はオフセット量(G1の撮像コマの1/4程≒240p)としている。
【0031】
図2Aに示すように、偶数フレームは、R、G2、Bを出力映像コマ数で撮像しG1を出力映像コマ数の2倍で撮像し、出力映像に用いるR、G2、Bの撮像コマ位相がG1撮像コマの概略中心タイミングになるようにR、G2、Bの撮像コマの1/4程G1の位相をずらす。偶数フレームでG2を120pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG2を60pの蓄積周期で蓄積する。同様に、偶数フレームでG1を60pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG1を120pの蓄積周期で蓄積する。PDからフレームメモリに転送してから掃き捨てまでの時間はオフセット量(G2の撮像コマの1/4程≒240p)としている。
【0032】
図2Bに示すように、奇数フレームは、R、G1、Bを出力映像コマ数(映像出力垂直周期=60p)で通常の感度およびダイナミックレンジで読み出し、G2を出力映像コマ数(映像出力垂直周期=60p)で通常の1/2の感度および2倍のダイナミックレンジで読み出す。
【0033】
図2Bに示すように、偶数フレームは、R、G2、Bを出力映像コマ数(映像出力垂直周期=60p)で通常の感度およびダイナミックレンジで読み出し、G1を出力映像コマ数(映像出力垂直周期=60p)で通常の1/2の感度および2倍のダイナミックレンジで読み出す。
【0034】
実施例では、RG1G2Bの4板でG1、G2を交互に倍速蓄積と等速読出しを行う。
【0035】
次に、実施例の補間処理について
図4を用いて説明する。
図4は実施例に係る補間処理を示すブロック図である。
【0036】
映像信号処理回路4は映像信号処理部104と撮像素子駆動部190とを備える。映像信号処理部104は、倍率色収差と貼合誤差補正部107、補間処理部108、ガンマ補正輪郭補正含む映像信号処理部114、映像信号出力部180で構成されている。
【0037】
倍率色収差と貼合誤差補正部107は、入力されたG1信号、G2信号、R信号、B信号に対して、レンズで発生する倍率色収差の補正と、撮像素子と色分解光学系5の貼り合せ誤差の補正を行い、補間処理部108に出力する。
【0038】
補間処理部108は、選択部115、LPF(Low Pass Filter)部110、LPF部111、LPF部112、LPF部113、減算部116、加算部118、加算部119、加算部120、加算部213、増幅器(A1)121、増幅器(A2)122で構成されている。
【0039】
補間処理部108は、入力されたG1信号とG2信号をフレームごとに交互に増幅器121、122でN倍して感度を揃えて選択部115で加算してG1+G2信号を生成し、LPF部111の画素遅延部209と画素遅延部211とでG1+G2信号を遅延させ、加算部117と加算部212で遅延していないG1+G2信号と遅延させたG1+G2信号を加算し、ビットシフト部210で感度を揃え、減算部116でビットシフト部210の出力を画素遅延部209の出力で減算してG差分信号を生成する。
【0040】
加算部120は感度1/NでダイナミックレンジN倍のG2撮像信号(または通常の感度で通常のダイナミックレンジのG1撮像信号)と通常の感度で通常のダイナミックレンジのG1撮像信号(または感度1/NでダイナミックレンジN倍のG2撮像信号)を加算する。LPF部110は加算部120で生成したG1撮像信号(またはG2撮像信号)を主に低域G信号を作成してRG1B撮像信号(またはRG2B撮像信号)を主となるがG2(またはG1)により高ダイナミックレンジの低域輝度信号を作成する。
【0041】
加算部213はLPF部110で処理した信号にG差分信号を加算する。加算部118はR信号をLPF部112で処理した信号にG差分信号を加算する。加算部119はG信号をLPF部113で処理した信号にG差分信号を加算する。
【0042】
図3Bは変形例に係る撮像装置の回路を示すブロック図である。
【0043】
CMOS撮像素子3Bは、等速のクロック(CLK)と等速の水平同期信号(HD)と等速の垂直同期信号(VD)とを入力し、等速の映像信号(BVi)を出力する。
【0044】
CMOS撮像素子3G1は、蓄積読出用の3倍速のクロック(×3CLK)又は蓄積読出用の等速のクロック(CLK)と、蓄積読出用の3倍速の水平同期信号(×3HD)又は蓄積読出用の等速の水平同期信号(HD)と、蓄積読出用の3倍速の垂直同期信号(×3VD)又は蓄積読出用の等速の垂直同期信号(VD)とを入力し、3倍速の映像信号(×3G1Vi)を蓄積し、または等速の映像信号(G1Vi)を読み出して出力する。
【0045】
CMOS撮像素子3G2は、蓄積読出用の3倍速のクロック(×3CLK)又は蓄積読出用の等速のクロック(CLK)と、蓄積読出用の3倍速の水平同期信号(×3HD)又は蓄積読出用の等速の水平同期信号(HD)と、蓄積読出用の3倍速の垂直同期信号(×3VD)又は蓄積読出用の等速の垂直同期信号(VD)とを入力し、3倍速の映像信号(×3G2Vi)を蓄積し、等速の映像信号(G2Vi)を読み出して出力する。
【0046】
CMOS撮像素子3Rは、等速のクロック(CLK)と水平同期信号(HD)と垂直同期信号(VD)とを入力し、等速の映像信号(RVi)を出力する。
【0047】
図2C、2Dは変形例の動作を示す模式図であり、
図2CはR、G1、G2、Bの3倍速と等速の蓄積期間を示す図であり、
図2DはR、G1、G2、Bの3倍速と等速の蓄積の読出し期間を示す図である。
【0048】
映像出力垂直周期を60p(1秒間に60コマ)とすると、等速のRの撮像垂直周期は60p、等速のG1の撮像垂直周期は60p、3倍速のG1の撮像垂直周期は180p、3倍速のG2の撮像垂直周期は180p、等速のBの撮像垂直周期60pである。
【0049】
図2Cに示すように、奇数フレームは、R、G1、Bを出力映像コマ数(蓄積周期=映像出力垂直周期=60p)で撮像しG2を出力映像コマ数の3倍(蓄積周期=3×映像出力垂直周期=180p)で撮像し、出力映像に用いるR、G1、Bの撮像コマ位相がG2の撮像コマの概略中心タイミングになるようにR、G1、B撮像コマの1/3程G2の位相をずらす(オフセットする)。偶数フレームでG1を180pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG1を60pの蓄積周期で蓄積する。同様に、偶数フレームでG2を60pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG2を180pの蓄積周期で蓄積する。PDからフレームメモリに転送してから掃き捨てまでの時間はオフセット量(G1の撮像コマの1/3程≒180p)としている。
【0050】
図2Cに示すように、偶数フレームは、R、G2、Bを出力映像コマ数で撮像しG1を出力映像コマ数の3倍で撮像し、出力映像に用いるR、G2、Bの撮像コマ位相がG1の撮像コマの概略中心タイミングになるようにR、G2、Bの撮像コマの1/3程G1の位相をずらす。偶数フレームでG2を180pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG2を60pの蓄積周期で蓄積する。同様に、偶数フレームでG1を60pの蓄積周期で蓄積したPDの電荷は一度掃き捨ててから、奇数フレームでG1を180pの蓄積周期で蓄積する。PDからフレームメモリに転送してから掃き捨てまでの時間はオフセット量(G2の撮像コマの1/3程≒180p)としている。
【0051】
図2Dに示すように、奇数フレームは、R、G1、Bを出力映像コマ数(映像出力垂直周期=60p)で通常の感度およびダイナミックレンジで読み出し、G2を出力映像コマ数の3倍(読出周期=3×映像出力垂直周期=180p)で通常の1/3の感度および3倍のダイナミックレンジで読み出す。
【0052】
図2Dに示すように、偶数フレームは、R、G2、Bを出力映像コマ数(映像出力垂直周期=60p)で通常の感度およびダイナミックレンジで読み出し、G1を出力映像コマ数の3倍(読出周期=3×映像出力垂直周期=180p)で通常の1/3の感度および3倍のダイナミックレンジで読み出す。
【0053】
変形例では、RG1G2Bの4板でG1、G2を交互に3倍速蓄積と等速読出しを行う。
【0054】
つまり、実施例、変形例(本実施例)に係る撮像装置は、R、G1、G2、Bに色分解する色分解光学系と、Rを撮像するR撮像素子と、G1を撮像するG1撮像素子と、G2を撮像するG2撮像素子と、Bを撮像する撮像素子と、R撮像素子、B撮像素子、G1撮像素子、G2撮像素子からの映像信号を処理しHDR映像を出力する映像信号処理回路と、を備える。
【0055】
R撮像素子は、奇数フレームおよび偶数フレームにおいて、Rを出力映像コマ数(出力映像周期)で撮像する。
【0056】
G1撮像素子は、
奇数フレームにおいて、G1を出力映像コマ数(出力映像周期)で撮像し、
偶数フレームにおいて、出力映像に用いるR、G2、Bの撮像コマ(蓄積周期)位相がG1の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G2、Bの撮像コマ(蓄積周期)の(N−1)/2N程位相をずらして、G1を出力映像コマ数のN倍のコマ数で撮像(出力映像周期の1/Nの周期で蓄積)する。
【0057】
G2撮像素子は、
奇数フレームにおいて、出力映像に用いるR、G1、Bの撮像コマ(蓄積周期)位相が前記G2の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G1、Bの撮像コマ(蓄積周期)の(N−1)/2N程位相をずらして、G2を出力映像コマ数のN倍のコマ数で撮像(出力映像周期の1/Nの周期で蓄積)し、
偶数フレームにおいて、G2を出力映像コマ数(出力映像周期)で撮像する。
【0058】
B撮像素子は、奇数フレームおよび偶数フレームにおいて、Bを出力映像コマ数(出力映像周期)で撮像する。
【0059】
映像信号処理回路は、
奇数フレームにおいて、
(a)感度1/NでダイナミックレンジN倍のG2撮像素子で撮像したG2撮像信号と通常の感度で通常のダイナミックレンジのG1撮像素子で撮像したG1撮像信号とを加算してG1撮像信号を主に低域G信号を作成(R撮像信号、G1撮像信号、B撮像信号を主となるがG2により高ダイナミックレンジの低域輝度信号を作成)し、
(b)感度1/NのG2撮像信号をN倍してからG1撮像信号と選択して高域差分信号を生成して、生成した高域差分信号を、R撮像素子で撮像したR撮像信号の低域通過信号と、低域G信号と、B撮像素子で撮像したB撮像信号の低域通過信号と、に加算して感度を揃えたG1撮像信号+G2撮像信号を主に高域輝度信号を作成し、
偶数フレームにおいて、
(a)感度1/NでダイナミックレンジN倍のG1撮像素子で撮像したG1撮像信号と通常の感度で通常のダイナミックレンジのG2撮像素子で撮像したG2撮像信号とを加算してG2撮像信号を主に低域G信号を作成(R撮像信号、G2撮像信号、B撮像信号を主となるがG1により高ダイナミックレンジの低域輝度信号を作成)し、
(b)感度1/NのG1撮像信号をN倍してからG2撮像信号と選択して高域差分信号を生成して、生成した高域差分信号を、R撮像素子で撮像したR撮像信号の低域通過信号と、低域G信号と、B撮像素子で撮像したB撮像信号の低域通過信号に加算して感度を揃えたG1撮像信号+G2撮像信号を主に高域輝度信号を作成する。
【0060】
上記の撮像装置において、
R撮像素子、G1撮像素子、G2撮像素子およびB撮像素子はそれぞれFIT−CCD又はグローバルシャッタCMOS撮像素子のフォトダイオードの蓄積時間と読出し時間が独立に設定できる撮像素子であり、
G1撮像素子は、偶数フレームにおいて、出力映像に用いるR、G2、Bの撮像コマ(蓄積周期)位相がG1の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G2、Bの撮像コマ(蓄積周期)の1/4程位相をずらして、G1を出力映像コマ数の2倍のコマ数で撮像(出力映像周期の1/2の周期で蓄積)する。
【0061】
G2撮像素子は、奇数フレームにおいて、出力映像に用いるR、G1、Bの撮像コマ(蓄積周期)位相が前記G2の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G1、Bの撮像コマ(蓄積周期)の1/4程位相をずらして、G2を出力映像コマ数の2倍のコマ数で撮像(出力映像周期の1/2の周期で蓄積)する。
【0062】
又は、上記の撮像装置において、
R撮像素子、G1撮像素子、G2撮像素子およびB撮像素子はそれぞれFIT−CCD又はグローバルシャッタCMOS撮像素子のフォトダイオードの蓄積時間と読出し時間が独立に設定できる撮像素子であり、
G1撮像素子は、偶数フレームにおいて、出力映像に用いるR、G2、Bの撮像コマ(蓄積周期)位相がG1の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G2、Bの撮像コマ(蓄積周期)の1/3程位相をずらして、G1を出力映像コマ数の3倍のコマ数で撮像(出力映像周期の1/3の周期で蓄積)する。
【0063】
G2撮像素子は、奇数フレームにおいて、出力映像に用いるR、G1、Bの撮像コマ(蓄積周期)位相が前記G2の撮像コマ(蓄積周期)の概略中心タイミングになるように、R、G1、Bの撮像コマ(蓄積周期)の1/3程位相をずらして、G2を出力映像コマ数の3倍のコマ数で撮像(出力映像周期の1/3の周期で蓄積)する。
【0064】
本実施例によれば、高価なダイナミックレンジの広い撮像素子を用いることなく、電子的に合成することによりダイナミックレンジを広げ、UHDTV8Kカメラや4KカメラをHDRハイダイナミックレンジに対応できる。低価格な撮像素子を活用でき、広い運用範囲を確保できる。そして、UHDTV8Kカメラや4Kカメラの映像制作の自由度が増加する。
【0065】
特に、昼間の日光の5600Kの色温度でRの感度が下がる屋外の中継や、メタルハライド照明や発光ダイオード等の高色温度照明でRの感度が下がる中継や監視や検査で有効である。また、同一フレーム内信号処理で残像がなく、スポーツ中継や監視や検査で有効である。
【0066】
その結果、高画質の映像信号を生成する用途の放送用カメラや高い信頼性が要求される原子力発電所や新幹線等の監視用カメラや自動車の車体塗装や織物等の確認の産業用カメラ等に適用できる。