(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022191894
(43)【公開日】2022-12-28
(54)【発明の名称】撮像装置
(51)【国際特許分類】
H04N 5/351 20110101AFI20221221BHJP
H04N 5/235 20060101ALI20221221BHJP
H04N 5/232 20060101ALI20221221BHJP
【FI】
H04N5/351
H04N5/235 700
H04N5/232
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2021100391
(22)【出願日】2021-06-16
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【弁理士】
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100124442
【弁理士】
【氏名又は名称】黒岩 創吾
(72)【発明者】
【氏名】佐藤 裕子
【テーマコード(参考)】
5C024
5C122
【Fターム(参考)】
5C024AX01
5C024BX01
5C024CX15
5C024CX53
5C024CX54
5C024CX61
5C024GX03
5C024GY31
5C024HX28
5C024JX07
5C122EA13
5C122EA68
5C122FC07
5C122FC10
5C122FF11
5C122HA86
5C122HA89
5C122HB02
5C122HB05
(57)【要約】
【課題】 静止画の連写速度や動画のフレームレートを維持しつつ、高精度にフリッカを検出することができる撮像装置を提供する。
【解決手段】 電荷蓄積を光源のフリッカによる光の強度変化の周期よりも長い蓄積時間で行う第1の読み出し駆動で得られる画素信号と、電荷蓄積を前記光源のフリッカによる光の強度変化の周期よりも短い蓄積時間で行う第2の読み出し駆動で画素信号を用いてフリッカを検出する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
複数の画素が行方向および列方向に2次元的に配列された画素領域と、
前記画素領域から画素信号を読み出す読み出し手段と、
前記複数の画素における電荷蓄積を光源のフリッカによる光の強度変化の周期よりも長い蓄積時間で行う第1の読み出し駆動と、前記複数の画素における電荷蓄積を前記光源のフリッカによる光の強度変化の周期よりも短い蓄積時間で行う第2の読み出し駆動で前記画素領域を駆動する駆動手段と、
前記第1の読み出し駆動で前記画素領域を駆動することで得られる画素信号と、前記第2の読み出し駆動で前記画素領域を駆動することで得られる画素信号とを用いて前記光源のフリッカを検出するフリッカ検出手段と、を備え、
前記駆動手段は、前記第1の読み出し駆動による前記複数の画素からの前記画素信号の読み出し中に前記第2の読み出し駆動による前記複数の画素における電荷蓄積を開始するように前記画素領域を駆動することを特徴とする撮像装置。
【請求項2】
前記駆動手段は、前記第1の読み出し駆動では前記複数の画素をグローバルシャッタ方式で駆動し、前記第2の読み出し駆動では前記複数の画素をスリットローリングシャッタ方式で駆動することを特徴とする請求項1に記載の撮像装置。
【請求項3】
前記駆動手段は、前記第1および第2の読み出し駆動で前記複数の画素をスリットローリングシャッタ方式で駆動することを特徴とする請求項1に記載の撮像装置。
【請求項4】
前記駆動手段は、前記第2の読み出し駆動において、複数行の画素信号を加算して読み出すことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
前記駆動手段は、前記第2の読み出し駆動において、一部の行の画素信号を間引いて読み出すことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項6】
前記駆動手段は、前記第2の読み出し駆動における電荷蓄積タイミングが行毎に等間隔となるように電荷蓄積の開始と終了のタイミングを設定することを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
【請求項7】
前記フリッカ検出手段は、フリッカの有無、フリッカの周期、もしくはフリッカの位相を検出することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置に関するものである。
【背景技術】
【0002】
従来、蛍光灯などの人工光源では、商用電源の周波数に応じて所定周期の光量変化である所謂フリッカが発生することが知られている。特許文献1では、スリットローリングシャッタ方式で撮像素子を駆動させて露光ムラが発生した画像を取得し、グローバルシャッタ方式で撮像素子を駆動させて露光ムラが発生していない画像を取得する。そして、露光ムラが発生した画像と発生していない画像を用いて、フリッカの有無及び周波数を検出する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記した従来技術では、フリッカを検出する場合において露光ムラが発生していない画像と露光ムラが発生した画像を交互に取得する必要がある。そのため、露光ムラが発生していない画像を静止画や動画の記録に用いる場合、静止画撮影時の連写速度、或いは動画記録時のフレームレートが上限の連写速度およびフレームレートの半分になってしまうという問題がある。
【0005】
本発明は、上述した課題に鑑みてなされたものであり、静止画の連写速度や動画のフレームレートを維持しつつ、フリッカを精度よく検出できる撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために、本発明の撮像装置は、複数の画素が行方向および列方向に2次元的に配列された画素領域と、前記画素領域から画素信号を読み出す読み出し手段と、前記複数の画素における電荷蓄積を光源のフリッカによる光の強度変化の周期よりも長い蓄積時間で行う第1の読み出し駆動と、前記複数の画素における電荷蓄積を前記光源のフリッカによる光の強度変化の周期よりも短い蓄積時間で行う第2の読み出し駆動で前記画素領域を駆動する駆動手段と、前記第1の読み出し駆動で前記画素領域を駆動することで得られる画素信号と、前記第2の読み出し駆動で前記画素領域を駆動することで得られる画素信号とを用いて前記光源のフリッカを検出するフリッカ検出手段と、を備え、前記駆動手段は、前記第1の読み出し駆動による前記複数の画素からの前記画素信号の読み出し中に前記第2の読み出し駆動による前記複数の画素における電荷蓄積を開始するように前記画素領域を駆動することを特徴とする。
【発明の効果】
【0007】
本発明によれば、静止画の連写速度や動画のフレームレートを維持しつつ、フリッカを精度よく検出できる。
【図面の簡単な説明】
【0008】
【
図1】実施例1における撮像装置の概略構成を示すブロック図。
【
図2】カメラ本体内での各部の配置について示した図。
【
図5】実施例1における撮像素子の駆動方法のタイミングチャート。
【
図6】フリッカの光量変化と撮影される画像の蓄積タイミングを示した図。
【
図7】フリッカの光量変化と撮影される画像を示した図。
【
図8】フリッカによる縞成分を抽出するための演算を示した図。
【
図10】実施例2における撮像素子の駆動方法のタイミングチャート。
【発明を実施するための形態】
【0009】
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。
【0010】
(実施例1)
以下、
図1を参照して、実施例1による撮像装置の構成について説明する。
【0011】
図1は、実施例1に撮像装置であるデジタル一眼レフカメラの概略構成を示すブロック図である。また、
図2は、
図1に示したデジタル一眼レフカメラのカメラ本体内での各部の配置について示した図である。
【0012】
図1及び
図2において、デジタル一眼レフカメラ150は、カメラ本体100に対して、交換レンズ200が着脱可能に装着されて構成されている。交換レンズ200は、撮影レンズ202を有し、撮影レンズ202は、被写体の光学像を撮像素子106に結像させる。レンズ駆動装置203は、撮影レンズ202をピント(焦点)が合うように駆動する。絞り204は、被写体からの反射光の光量を制御する。
【0013】
絞り駆動装置205は、絞り204を駆動する。交換レンズ200は、カメラ本体100から取り外すことが可能で、交換レンズ200とカメラ本体100との間では、情報交換のために通信が行われる。このときの通信は、カメラ本体100の全体制御・演算部101と交換レンズ200のレンズ制御部201の間で行われる。
【0014】
カメラ本体100の内部には全体制御・演算部101が配置され、各種の演算処理を行うとともに、カメラ本体100と交換レンズ200とを統括的に制御する。クイックリターンミラー102は、撮影レンズ202を通った光学像を、ファインダー使用時には、ファインダーと測光用撮像素子116に導く。また、撮影時には跳ね上がり、光学像を撮像素子106へと導く。ミラー駆動装置103は、クイックリターンミラー102を駆動する。
【0015】
シャッタ104は、いわゆる一眼レフカメラに使用されるフォーカルプレーン型の先幕/後幕に相当するシャッタ幕を有するシャッタである。シャッタ104は、撮影レンズ202を通ってきた光学像の露光時間の制御と遮光を行う。シャッタ駆動装置105は、シャッタ104の駆動を行う。撮像素子106は、撮影レンズ202により結像された被写体の光学像を画像信号として取り込む。
【0016】
撮像素子106は、画素が行方向および列方向に2次元的に配列された画素領域を有する、例えばCMOSセンサのような2次元のXYアドレス走査型の撮像素子である。アドレス指定により行毎に電荷蓄積時間を制御し、行毎に順次読出しを行うローリングシャッタ方式が採用される。
【0017】
撮像信号処理部107は、撮像素子106から出力される画像信号の増幅処理や、アナログ信号からデジタル信号への変換処理(A/D変換処理)を行う。また、A/D変換後の画像データに対するキズ補正等の各種の補正処理、画像データを圧縮する圧縮処理等も行う。タイミング発生部108は、撮像素子106と撮像信号処理部107に対して各種のタイミング信号を出力する。
【0018】
メモリ部109は、撮像信号処理部107により処理された画像データ等を一時的に記憶し、また、各種調整値や全体制御・演算部101による各種制御を実行させるためのプログラムなどを記憶する。RAM130は、メモリ部109に記憶されているプログラムの展開や全体制御・演算部101のワークエリアとして使用される。
【0019】
記録媒体制御インターフェース(I/F)部110は、記録媒体111に対する画像データ等の記録処理又は記録媒体111からの画像データ等の読み出し処理を行うためのインターフェースである。記録媒体111は、画像データ等の各種のデータを記録する半導体メモリ等からなる着脱可能な記録媒体である。
【0020】
表示駆動部112は、撮影した静止画像や動画像等を表示する表示装置113を駆動する。外部インターフェース(I/F)部114は、コンピュータ115の様な外部機器と画像信号、制御信号等の情報のやりとりを行う。
【0021】
測光用撮像素子116は、AE(自動露出制御)信号/光源検出信号を取得するための撮像素子で、RGBイメージャータイプの撮像素子である。本実施形態では、CCDまたはCMOSセンサが用いられる。クイックリターンミラー102で光路を曲げられ、分光部125で分光され、ペンタプリズム119を介してレンズ122で集光され、ミラー124で曲げられた光線が測光用撮像素子116に入力される。
【0022】
測光用撮像信号処理部117は、測光用撮像素子116から出力される画像信号の増幅処理や、アナログ信号からデジタル信号への変換処理(A/D変換処理)を行う。また、A/D変換後の画像データに対するキズ補正等の各種の補正処理、或いは、画像データを圧縮する圧縮処理等を行う。測光用タイミング発生部118は、測光用撮像素子116と測光用撮像信号処理部117に対して各種のタイミング信号を出力する。
【0023】
ペンタプリズム119は、クイックリターンミラー102で光路を曲げられた光線を、ファインダー123と測光用撮像素子116へと導く。位相差検出部121は、位相差方式による焦点検出を行うものであり、クイックリターンミラー102を透過した光線からデフォーカス量により位相が変化する1対の画像を取得する。この1対の画像のズレ量から被写体のデフォーカス量を演算して、撮影レンズ202の位置を移動させる。検出部駆動装置120は、位相差検出部121を駆動する。
【0024】
図3は、撮像素子106の概略構成を示す図である。
図3において、撮像素子106は画素領域PAを有している。画素領域PAには、複数の単位画素300が2次元状(行列状)に配置されている。各単位画素300の符号pknは、k行n列に配置された画素であることを示すものである。
【0025】
図4は、単位画素300(一画素)の回路構成図である。フォトダイオード(以下PD)401は、入射光を光電変換し、露光量に応じた電荷を蓄積する。転送スイッチ403は、信号tx1がHighレベルになった場合に、PD401に蓄積されている電荷をメモリ部(以下、MEM部)404に転送する。MEM部404は、PD401によって蓄積された電荷を一時的に格納するために用いられる。
【0026】
転送スイッチ405は、信号tx2がHighレベルになった場合に、MEM部404に蓄積されている電荷をフローティングディフュージョン部(以下、FD部)406に転送する。FD部406は、フローティングディフュージョンアンプ(以下、FDアンプ)407のゲートに接続されており、PD401から転送された電荷量を電圧量に変換する。
【0027】
リセットスイッチ408は、FD部406をリセットするためのスイッチであり、信号resがHighレベルになった場合にFD部406をリセットする。また、信号ofdがHighレベルになった場合に転送スイッチ402がオープンになり、PD401の残留電荷がリセットされる。画素選択スイッチ409は、信号selがHighレベルになった場合に、FDアンプ407で電圧に変換された画素信号を出力voutに出力する。
【0028】
図3に戻り、垂直走査回路301は、前述の各画素(単位画素300)が備えている各トランジスタ(スイッチ)を制御するための駆動信号tx1、ofd、res、tx2、selなどを単位画素300に供給する。これらの駆動信号は、画素領域PAの行ごとに共通であり、垂直走査回路301によって選択されたn行目の走査行(以降、第n行)の駆動信号をそれぞれφTX_an、φOFD(n)、φRESn、φTX_bn、φSELnとする。
【0029】
各画素の出力voutは、列ごとに垂直出力線302を介して列共通読出し回路305に接続されている。垂直出力線302は、列ごとに設けられ、各列に設けられた複数の単位画素300の出力voutが接続されている。また、垂直出力線302には電流源304が接続されており、電流源304と垂直出力線302に接続された単位画素300のFDアンプ407とにより、ソースフォロワ回路が構成される。
【0030】
列共通読出し回路305の出力は、水平転送スイッチ306に接続されている。水平転送スイッチ306は、水平走査回路307によって駆動され、列共通読出し回路305に読み出された画素データ(画素信号)を選択する。水平走査回路307によって選択された画素データは、出力アンプ308により増幅されて撮像素子106の外部に出力される。
【0031】
次に、
図5を用いて、本実施例の駆動方式による撮像素子106の電荷の蓄積開始から画像信号の読出しまでの動作について説明する。本実施例では、グローバルシャッタ方式で蓄積した電荷に応じた画素信号を読み出している間に、スリットローリングシャッタ方式による電荷蓄積を行い、フリッカ検出用画像を取得する。
【0032】
フリッカ検出用画像を取得するための画素信号の読み出し時間を短くするため、行数を間引いて画素信号を読み出しても良いし、複数行の画素信号を加算して読み出しても良い。フリッカ検出用画像を取得するために撮像素子106の画素領域PA上のどの行を用いるのかという制約は設けていない。なお、フリッカ検出用画像を取得するために用いられる各行の電荷蓄積タイミング(露光タイミング)が時間的に等間隔となるように設定しても良い。電荷蓄積タイミングを等間隔に設定することで、フリッカの光量変化に対して時間的に等間隔で画素信号をサンプリングするため、時間に対する光量の変化の度合いが判断しやすくなり、結果として精度よくフリッカを検出することが可能となる。ここでは、フリッカ検出用画像を取得するために一部の行の画素信号を間引いて読み出す例について説明する。本実施例では、3行中の2行を間引いている。
【0033】
初めに、第n行から第m行においてグローバルシャッタ方式で蓄積した電荷に基づく画素信号を読み出し、フリッカ検出を行う際の基準画像を取得する。
【0034】
まず、時刻t501からt502の間、全行にHighレベルのパルス信号φRESとパルス信号φTX_bが印加されて、転送スイッチ405及びリセットスイッチ408がオンされる。これにより、全行のMEM部404とFD部406に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0035】
また、同じタイミングで、全行にHighレベルのパルス信号φOFDが印加されて、リセットスイッチ402がオンされる。これにより、全行のPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0036】
続いて、時刻t502でHighレベルのパルス信号φRESとφTX_bの印加が解除されて、転送スイッチ405及びリセットスイッチ408がオフになる。また、同じタイミングで、Highレベルのパルス信号φOFDの印加が解除される。これにより、リセットスイッチ402がオフになり、全行のPD401における電荷の蓄積動作が開始される。
【0037】
時刻t503からt504の間、全行にHighレベルのパルス信号φTX_aが印加されて、転送スイッチ403がオンし、PD401に蓄積された電荷をMEM部404に転送するMEM転送動作が行われる。
【0038】
次に、時刻t504からt505の間、Highレベルのパルス信号φTX_b(n)が印加されて、転送スイッチ405がオンし、MEM404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0039】
第n行のFD転送動作の終了に続いて、時刻t505からt506の間、Highレベルのパルス信号φSEL(n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n行における画素からの画素信号の読み出しが完了する。
【0040】
また、時刻t504からt505において行われた第n行のFD転送動作の終了に続いて、時刻t505からt506の間、Highレベルのパルス信号φTX_b(n+1)が印加される。これにより転送スイッチ405がオンし、第n+1行のMEM部404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0041】
時刻t505からt506において行われた第n行の読み出し動作の完了に続いて、時刻t506からt507の間、Highレベルのパルス信号φSEL(n+1)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n+1行における画素からの画素信号の読み出しが完了する。
【0042】
このように、FD転送動作と画像信号の読み出し動作を行ごとに連続で行うことで、グローバルシャッタ方式で蓄積、読み出しをした基準画像を取得することができる。
【0043】
また、本実施形態では、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも長い時間である。このとき、基準画像はグローバルシャッタ方式で蓄積を行っているため、露光ムラが発生していない画像を取得することができる。
【0044】
次に、2行おきの行(
図5で示す第n行、第2n行、第3n行・・・、第m行を指す)において、スリットローリングシャッタ方式で蓄積した電荷を読み出し、フリッカ検出用画像を得る。
【0045】
第n行の読み出しの完了した時刻t506からt507の間、Highレベルのパルス信号φRES(n)とφOFD(n)が印加されて、リセットスイッチ408及びリセットスイッチ402がオンされる。これにより、第n行のFD部406及びPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0046】
続いて、時刻t507でHighレベルのパルス信号φRES(n)とφOFD(n)の印加が解除されて、リセットスイッチ408及びリセットスイッチ402がオフになり、第n行のPD401における電荷の蓄積動作が開始される。
【0047】
続いて、時刻t508からt509の間、Highレベルのパルス信号φTX_a(n)が印加されて、転送スイッチ403がオンし、PD401に蓄積された電荷をMEM部404に転送するMEM転送動作が行われる。
【0048】
また、第2n行の読み出しが完了した時刻t508からt509の間、Highレベルのパルス信号φRES(2n)とφOFD(2n)が印加されて、リセットスイッチ408及びリセットスイッチ402がオンされる。これにより、第2n行のFD部406及びPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0049】
続いて、時刻t507でHighレベルのパルス信号φRES(n)とφOFD(2n)の印加が解除されて、リセットスイッチ408及びリセットスイッチ402がオフになり、第2n行のPD401における電荷の蓄積動作が開始される。
【0050】
続いて、時刻t508からt509の間、Highレベルのパルス信号φTX_a(2n)が印加されて、転送スイッチ403がオンし、PD401に蓄積された電荷をMEM部404に転送するMEM転送動作が行われる。
【0051】
ここで、本実施例では、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも長い時間であるため、基準画像の第2n行の読み出し動作が完了した時刻からフリッカ検出用画像のリセット動作を開始している。ただし、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも短い時間であった場合には、フリッカ検出用画像の蓄積時間が、フリッカ周期よりも長い時間となるよう、リセット開始時刻を遅らせる。
【0052】
このように、リセット動作、蓄積動作、MEM転送動作を基準画像の読み出し動作に対し連続で行うことで、スリットローリングシャッタ方式で蓄積、読み出しをしたフリッカ検出用画像を得ることができる。ここで、フリッカ検出用画像のFD転送動作および読み出し動作を、基準画像の読み出し終了直後から行うとしたが、この限りではない。
【0053】
また、本実施例では、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも長い時間であるため、フリッカの光量変化が極大なタイミングと極小なタイミングで蓄積した画像を取得することができる。
【0054】
次に、基準画像の最終行、第m行の読み出しを行っている時刻t513からt514の間、Highレベルのパルス信号φTX_b(n)が印加される。そして、転送スイッチ405がオンし、MEM404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0055】
第n行のFD転送動作の終了に続いて、時刻t514からt515の間、Highレベルのパルス信号φSEL(n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n行における画素からの画素信号の読み出しが完了する。
【0056】
また、時刻t514からt515において行われる第n行の読み出し動作と同時に、Highレベルのパルス信号φTX_b(2n)が印加されて、転送スイッチ405がオンし、MEM404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0057】
第2n行のFD転送動作の終了に続いて、時刻t515からt516の間、Highレベルのパルス信号φSEL(2n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第2n行における画素からの画素信号の読み出しが完了する。
【0058】
このように、リセット動作、蓄積動作、MEM転送動作を基準画像の読み出し動作に対し連続で行うことで、スリットローリングシャッタ方式で蓄積、読み出しをしたフリッカ検出用画像を得ることができる。ここで、フリッカ検出用画像のFD転送動作および読み出し動作を、基準画像の読み出し終了直後から行うとしたが、この限りではない。
【0059】
このとき、フリッカ検出用画像はスリットローリングシャッタ方式で蓄積を行っているため、露光ムラが発生している画像を得ることができる。
【0060】
図6は、本実施形態におけるシーケンスをセンサの蓄積と読出しのタイミングで示した図である。
図5で示したように、本実施形態ではグローバルシャッタ方式で電荷を蓄積する基準画像と、スリットローリング方式で電荷を蓄積するフリッカ検出用画像を組み合わせている。
【0061】
また、この2つの画像は、
図3および
図4で示したように、読出し回路が共通であるため、同時に読み出すことはできない。そのため、上記の2つの方式にそれぞれ対応する行の信号は、時間について排他的に(時間的に重ならないように)読み出される。
【0062】
グローバルシャッタ方式で電荷を蓄積した基準画像を取得する。基準画像は、蓄積時間に対し制約を持たない。そして、この基準画像を記録用の画像もしくは表示用の画像として使用する。
【0063】
また、スリットローリング方式で電荷を蓄積する画像は、フリッカの光強度変化の周期よりも短い時間に設定された蓄積時間で蓄積したフリッカ検出用画像を取得する。このフリッカ検出用画像は記録用の画像としては使用しない。フリッカ検出用画像は、フリッカの周期に合わせてフリッカ周期よりも長い時間をかけて読み出す。
【0064】
本実施形態では、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも長い時間であると仮定し、基準画像の読み出し完了後すぐにフリッカ検出用画像の蓄積を行いっている。基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも短い場合には、第2n行以降の蓄積タイミングは基準画像の読み出し完了後ではなく、フリッカ周期よりも長い時間をかけて読み出すように制御する。
【0065】
この基準画像とフリッカ検出用画像とを元に
図8および
図9で示す演算(詳細は後述する)を行い、フリッカを検出する。フリッカ検出の演算は、全体制御・演算部101が行う。
【0066】
図7は、
図6のシーケンスで撮影した基準画像とフリッカ検出用画像を示している。基準画像は、グローバルシャッタ方式で電荷を蓄積しているため、フリッカによる露光ムラの発生していない画像が得られる。本実施形態では、この画像を通常の基準画像として取得して表示する。
【0067】
フリッカ検出用画像は、スリットローリングシャッタ方式でフリッカの周期よりも短い時間で蓄積しているため、フリッカによる露光ムラが発生した画像が得られる。また、フリッカ検出用画像は、フリッカの周期よりも長い期間でスリットローリング方式の電荷蓄積をしているため、フリッカの光量変化が極大なタイミングと極小なタイミングで蓄積した画像が得られる。
【0068】
図8は、
図7で取得された画像に対する演算処理を示した図である。
図7のフリッカ検出用画像はフリッカによる露光ムラが発生するように撮影された画像であり、
図7の基準画像は露光ムラが発生しないように撮影された画像である。この2つの画像に対して割り算を行い、フリッカ画像を取得する。フリッカによる露光ムラが発生しているフリッカ検出用画像をフリッカによる露光ムラを軽減した基準画像で割ることにより、フリッカによる露光ムラ成分だけのフリッカ画像を抽出することが出来る。
【0069】
ただし、フリッカ検出用画像の様にフリッカによる露光ムラが発生した画像はフリッカによる露光ムラを出やすくするために短い露光時間で撮影している。一方、基準画像は蓄積時間に制約を持たない。そのため、基準画像とフリッカ検出用画像は必ずしも同じ露光時間ではないため、露光量に差が出てしまう。そこで、画像取得時のゲインを調整したり、取得された画像にゲインをかけたりして、信号レベルを一致させる必要がある。
【0070】
また、基準画像とフリッカ検出用画像の間に被写体の位置が移動したり、カメラの向きが変わっていた場合には、画像の画面を分割し、それぞれの画像の一致度を計算して画像の位置合わせを行ってから割り算を行う必要がある。
【0071】
この様にして得られたフリッカによる露光ムラ成分だけのフリッカ画像を元にして、VDからのフリッカ光量がピークとなるタイミングを見つける。また、この画像を元にしてフリッカの周期も求める。
【0072】
図9は、
図8のフリッカ画像で示した垂直方向の光量変化(実線)と、この光量変化データの隣接差分(破線)とを示した図であり、
図8のフリッカ画像でフリッカ光量のピーク(Peak)を検出する方法を示す図である。ここで、破線の値が「0」の位置が光量変化の極大値もしくは極小値を示している。
【0073】
特に、破線の値が正から負へ変化する時の「0」値は極大値になる。このフリッカ光量のピークが画面の何行目か分かれば、水平同期信号(以下HD)の周期を元にしてVDからピークまでの時間を求めることが出来る。また、破線の「0」から「0」までの時間を求めることによりフリッカの周期を求めることが可能となる。
【0074】
上記の手法でフリッカの周期を検出したことで、記録に用いる画像もしくは表示に用いる画像へ与えるフリッカの影響を軽減する撮像装置を提供することが可能となる。例えば、検出したフリッカの周期と撮影条件より、記録に用いる画像もしくは表示に用いる画像がフリッカの影響を受けやすい状況であるか否かを、表示装置113に表示することで、撮影者への警告を行うことができる。
【0075】
また、検出したフリッカの周期は、記録に用いる画像もしくは表示に用いる画像をフリッカのピークタイミングで撮影するためなどに用いられる。フリッカの周期と発生タイミングが分かれば、最もフリッカの影響を受けにくくなるフリッカのピーク時に合わせ露光することができる。
【0076】
他にも、測光用撮像素子116がAE信号/光源検出信号を取得したタイミングと、フリッカ周期、また記録に用いる画像もしくは表示に用いる画像の露光タイミングの関係より、AEの結果を補正することに応用することができる。基準画像の露光タイミングとAE信号/光源検出信号取得タイミングにおいて、フリッカ周期の位相がずれていた場合、それぞれ明るさはフリッカの影響を受けているため、露光量の差が生じてしまう。そのため、取得したAE信号/光源検出信号に対し補正値をかけることで、より適切な露光量を算出することが可能となる。
【0077】
以上のように、本実施形態によれば、フリッカ検出用画像に対し、グローバルシャッタ方式で蓄積した電荷に基づく画素信号を読み出している間に、スリットローリングシャッタ方式による電荷の蓄積開始および蓄積終了動作を開始する。そして、静止画の連写速度や動画のフレームレートを維持しつつ、フリッカを精度よく検出することが可能となる。また、フリッカを検出したことで、記録に用いる画像もしくは表示に用いる画像へ与えるフリッカの影響を軽減する撮像装置を提供することが可能となる。
【0078】
(実施例2)
実施例1では、基準画像を得る際の電荷蓄積方法としてグローバルシャッタ方式を採用していた。本実施形態では、基準画像を得る際の電荷蓄積方法としてスリットローリングシャッタ方式を採用する。
【0079】
図10を用いて、本実施形態の駆動方式による撮像素子106の電荷の蓄積開始から画像信号の読出しまでの動作について説明する。本実施形態の駆動方式では、基準画像とフリッカ検出用画像ともにスリットローリングシャッタ方式で駆動する。
【0080】
初めに、第n行から第m行において、スリットローリングシャッタ方式で蓄積した電荷に基づく画素信号を読み出し、基準画像を得る。
【0081】
まず、時刻t1001からt1002の間、第n行にHighレベルのパルス信号φRES(n)とパルス信号φTX_b(n)が印加されて、転送スイッチ405及びリセットスイッチ408がオンされる。これにより、第n行のMEM部404とFD部406に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0082】
また、同じタイミングで、第n行にHighレベルのパルス信号φOFDが印加されて、リセットスイッチ402がオンされる。これにより、第n行のPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0083】
続いて、時刻t1002でHighレベルのパルス信号φRES(n)とφTX_b(n)の印加が解除されて、転送スイッチ405及びリセットスイッチ408がオフになる。また、同じタイミングで、Highレベルのパルス信号φOFD(n)の印加が解除される。これにより、リセットスイッチ402がオフになり、第n行のPD401における電荷の蓄積動作が開始される。
【0084】
時刻t1004からt1005の間、第n行にHighレベルのパルス信号φTX_a(n)とφTX_b(n)が印加されて、転送スイッチ403と転送スイッチ405がオンし、PD401に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0085】
第n行のFD転送動作の終了に続いて、時刻t1005からt1006の間、Highレベルのパルス信号φSEL(n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n行における画素からの画素信号の読み出しが完了する。
【0086】
ここで、フリッカ検出のために基準画像はフリッカによる露光ムラの発生していない画像を得たいため、露光時間(時刻t1003からt1004)はフリッカのおおよそのgよりも長い時間を設定する必要がある。
【0087】
また、第n行のリセット動作の完了した時刻t1002からt1003の間、第n+1行にHighレベルのパルス信号φRES(n+1)とパルス信号φTX_b(n+1)が印加されて、転送スイッチ405及びリセットスイッチ408がオンされる。これにより、第n+1行のMEM部404とFD部406に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0088】
また、同じタイミングで、第n+1行にHighレベルのパルス信号φOFDが印加されて、リセットスイッチ402がオンされる。これにより、第n+1行のPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0089】
続いて、時刻t1003でHighレベルのパルス信号φRES(n+1)とφTX_b(n+1)の印加が解除されて、転送スイッチ405及びリセットスイッチ408がオフになる。
【0090】
また、同じタイミングで、Highレベルのパルス信号φOFD(n+1)の印加が解除される。これにより、リセットスイッチ402がオフになり、第n+1行のPD401における電荷の蓄積動作が開始される。
【0091】
第n行のFD転送動作の完了した時刻t1005からt1006の間、第n+1行にHighレベルのパルス信号φTX_a(n+1)とφTX_b(n+1)が印加される。これにより転送スイッチ403と転送スイッチ405がオンし、PD401に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0092】
第n+1行のFD転送動作の終了に続いて、時刻t1006からt1007の間、Highレベルのパルス信号φSEL(n+1)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n+1行における画素からの画素信号の読み出しが完了する。同じように、行ごとにリセット動作から転送動作を第m行まで順次行っていく。
【0093】
このように、リセット動作と蓄積動作、FD転送動作と画像信号の読み出し動作を行ごとに連続で行うことで、スリットローリングシャッタ方式で蓄積、読み出しをした基準画像を得ることができる。また、本実施形態では、基準画像の読み出しにかかる時間(時刻t505からt514)が、フリッカ周期よりも長い時間であると仮定する。
【0094】
このとき、基準画像はスリットローリングシャッタ方式で蓄積を行っているが、フリッカの周期よりも長い時間で露光を行うため、露光ムラが発生していない画像を得ることができる。
【0095】
次に、2行おきの行(
図5で示す第n行、第2n行、第3n行、第m行を指す)において、スリットローリングシャッタ方式で蓄積した電荷を読み出し、フリッカ検出用画像を得る。
【0096】
第n行の読み出しの完了した時刻t1006からt1007の間、Highレベルのパルス信号φOFD(n)が印加されて、リセットスイッチ402がオンされる。これにより、第n行のPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0097】
続いて、時刻t1007でHighレベルのパルス信号φOFD(n)の印加が解除されて、リセットスイッチ402がオフになり、第n行のPD401における電荷の蓄積動作が開始される。
【0098】
続いて、時刻t1008からt1009の間、Highレベルのパルス信号φTX_a(n)が印加されて、転送スイッチ403がオンし、PD401に蓄積された電荷をMEM部404に転送するMEM転送動作が行われる。
【0099】
また、第2n行の読み出しの完了した時刻t1009からt1010の間、Highレベルのパルス信号φOFD(2n)が印加されて、リセットスイッチ402がオンされる。これにより、第2n行のPD401に蓄積されている不要電荷が除去されてリセット動作が行われる。
【0100】
続いて、時刻t1010でHighレベルのパルス信号φOFD(2n)の印加が解除されて、リセットスイッチ402がオフになり、第2n行のPD401における電荷の蓄積動作が開始される。
【0101】
続いて、時刻t1010からt1011の間、Highレベルのパルス信号φTX_a(2n)が印加されて、転送スイッチ403がオンし、PD401に蓄積された電荷をMEM部404に転送するMEM転送動作が行われる。
【0102】
ここで、本実施形態では、基準画像の読み出しにかかる時間(時刻t1005からt1014)が、フリッカ周期よりも長い時間であるため、基準画像の第2n行の読み出し動作が完了した時刻からフリッカ検出用画像のリセット動作を開始している。ただし、基準画像の読み出しにかかる時間(時刻t1005からt1014)が、フリッカ周期よりも短い時間であった場合には、フリッカ検出用画像の蓄積時間が、フリッカ周期よりも長い時間となるよう、リセット開始時刻を遅らせる。
【0103】
また、基準画像の読み出し動作に続けてフリッカ検出用画像の読み出し動作を行うとき、読み出し動作によりPD401に蓄積されている不要電荷が除去されてリセット動作が行われるため、フリッカ検出用画像のリセット動作を行わなくても良い。
【0104】
このように、リセット動作、蓄積動作を基準画像の読み出し動作に対し連続で行うことで、スリットローリングシャッタ方式で蓄積、読み出しをしたフリッカ検出用画像を得ることができる。ここで、フリッカ検出用画像のFD転送動作および読み出し動作を、基準画像の読み出し終了直後から行うとしたが、この限りではない。
【0105】
ここで、本実施形態では、基準画像の読み出しにかかる時間(時刻t1005からt1014)が、フリッカ周期よりも長い時間であると仮定しているため、フリッカの光量変化が極大なタイミングと極小なタイミングで蓄積した画像が得られる。
【0106】
次に、基準画像の最終行、第m行の読み出しを行っている時刻t1014からt1015の間、Highレベルのパルス信号φTX_b(n)が印加されて、転送スイッチ405がオンする。そして、MEM404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0107】
第n行のFD転送動作の終了に続いて、時刻t1015からt1016の間、Highレベルのパルス信号φSEL(n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第n行における画素からの画素信号の読み出しが完了する。
【0108】
また、時刻t1015からt1016において行われる第n行の読み出し動作と同時に、Highレベルのパルス信号φTX_b(2n)が印加されて、転送スイッチ405がオンする。そして、MEM404に蓄積された電荷をFD部406に転送するFD転送動作が行われる。
【0109】
第2n行のFD転送動作の終了に続いて、時刻t1016からt1017の間、Highレベルのパルス信号φSEL(2n)が印加されて選択スイッチ409がオンする。これにより、FD部406で保持された電荷が電圧に変換され、画素信号として読み出し回路に出力され、水平走査回路305によって順次出力される。そして、第2n行における画素からの画素信号の読み出しが完了する。
【0110】
以上の動作により、本実施形態においても
図6に示したような基準画像とフリッカ検出用画像を得ることができる。基準画像とフリッカ検出用画像からフリッカの周期とピークを求める方法は、実施例1と同様である。
【0111】
以上のように、本実施形態によれば、基準画像を読み出している間に、スリットローリングシャッタ方式による電荷の蓄積開始および蓄積終了動作を開始することで、静止画の連写速度や動画のフレームレートを維持しつつ、フリッカを検出することが可能となる。フリッカを検出したことで、記録に用いる画像もしくは表示に用いる画像へ与えるフリッカの影響を軽減する撮像装置を提供することが可能となる。
【0112】
また、基準画像をスリットローリングシャッタ方式で読み出すため、フリッカ検出用画像の読み出し終了を待つことなく次の基準画像の蓄積動作を開始することができる。これにより、実施例1における撮像動作に対し、さらに連写速度もしくは動画フレームレートを向上することが可能となる。
【0113】
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【符号の説明】
【0114】
101 全体制御・演算部
106 撮像素子
107 撮像信号処理部