(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-03-06
(45)【発行日】2025-03-14
(54)【発明の名称】撮像装置及びその制御方法
(51)【国際特許分類】
H04N 23/667 20230101AFI20250307BHJP
H04N 23/63 20230101ALI20250307BHJP
H04N 23/76 20230101ALI20250307BHJP
【FI】
H04N23/667
H04N23/63
H04N23/76
(21)【出願番号】P 2021030627
(22)【出願日】2021-02-26
【審査請求日】2024-02-21
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】伊藤 篤義
(72)【発明者】
【氏名】行▲徳▼ 崇
【審査官】堀井 康司
(56)【参考文献】
【文献】特開2020-088446(JP,A)
【文献】特開2012-080297(JP,A)
【文献】特開2020-202471(JP,A)
【文献】特開2020-184697(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222-5/257
H04N 23/00
H04N 23/40-23/76
H04N 23/90-23/959
(57)【特許請求の範囲】
【請求項1】
撮像素子を駆動する駆動手段と、
前記撮像素子から読み出された画像信号を記憶する記憶手段と、
前記撮像素子から読み出された画像信号を処理する画像処理手段と、
複数の駆動モードを選択的に用いて、前記駆動手段と、前記記憶手段と、前記画像処理手段とを制御する制御手段と、を有し、
前記複数の駆動モードは、
前記駆動手段により前記撮像素子から第1の画像信号を読み出して、当該第1の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第1の動作と、前記第1の動作を行う前に、前記駆動手段により前記撮像素子から第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作を行った後に、記憶した前記第2の画像信号を前記記憶手段から読み出して前記画像処理手段により処理する第2の動作と、を行う第1の駆動モード
と、
前記第1の動作と、前記第1の動作と異なるタイミングで、前記駆動手段により前記撮像素子から前記第2の画像信号を読み出して、当該第2の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第3の動作と、を行う第2の駆動モードと、を含
み、
前記制御手段は、前記第2の画像信号の読み出し速度に応じて、前記第1の駆動モードと前記第2の駆動モードのいずれかを選択する
ことを特徴とする撮像装置。
【請求項2】
撮像素子を駆動する駆動手段と、
前記撮像素子から読み出された画像信号を記憶する記憶手段と、
前記撮像素子から読み出された画像信号を処理する画像処理手段と、
複数の駆動モードを選択的に用いて、前記駆動手段と、前記記憶手段と、前記画像処理手段とを制御する制御手段と、を有し、
前記複数の駆動モードは、
前記駆動手段により前記撮像素子から第1の画像信号を読み出して、当該第1の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第1の動作と、前記第1の動作を行う前に、前記駆動手段により前記撮像素子から第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作を行った後に、記憶した前記第2の画像信号を前記記憶手段から読み出して前記画像処理手段により処理する第2の動作と、を行う第1の駆動モードと、
前記第1の動作と、前記第1の動作と異なるタイミングで、前記駆動手段により前記撮像素子から前記第2の画像信号を読み出して、当該第2の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第3の動作と、を行う第2の駆動モードと、を含み、
前記制御手段は、設定された撮影モードに応じて、前記第1の駆動モードと前記第2の駆動モードのいずれかを選択する
ことを特徴とする撮像装置。
【請求項3】
前記制御手段は、
前記第2の画像信号の読み出し速度が前記画像処理手段による処理の速度よりも速い場合、前記第1の駆動モードを選択し、
前記第2の画像信号の読み出し速度が前記画像処理手段による処理の速度以下の場合、前記第2の駆動モードを選択する
ことを特徴とする請求項
1に記載の撮像装置。
【請求項4】
前記第1の駆動モードの前記第2の動作において、前記駆動手段により前記撮像素子から、1回の露光に対して1回または複数回、前記第2の画像信号を読み出して前記記憶手段に記憶することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
【請求項5】
前記複数の駆動モードは、前記第1の動作と、前記第1の動作を行う前に、前記撮像素子から、1回の露光に対して複数回、前記第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作が行われるたび、記憶した前記第2の画像信号を複数回の読み出しそれぞれに対応する信号量ずつ前記記憶手段から読み出して前記画像処理手段により処理する第4の動作と、を行う第3の駆動モードを含む
ことを特徴とする請求項4に記載の撮像装置。
【請求項6】
前記制御手段は、
前記第2の画像信号の読み出しを優先する場合に、前記第1の駆動モードを選択し、
前記第1の画像信号の読み出しを優先する場合に、前記第3の駆動モードを選択する
ことを特徴とする請求項5に記載の撮像装置。
【請求項7】
前記撮像素子は、各画素が複数の光電変換部をそれぞれ有する複数の画素を有し、
前記駆動手段は、前記複数の光電変換部から画像信号を複数回に分けて読み出す駆動と、前記複数の光電変換部の画像信号を加算して読み出す駆動のいずれかを、選択的に行うことを特徴とする請求項4乃至6のいずれか1項に記載の撮像装置。
【請求項8】
前記撮像素子は、異なるゲインをかけることの可能なアンプ手段を有し、
前記駆動手段は、前記撮像素子から複数回読み出された画像信号に前記アンプ手段により異なるゲインをかけて複数の画像信号を生成して出力するように駆動することを特徴とする請求項4乃至7のいずれか1項に記載の撮像装置。
【請求項9】
前記第1の駆動モードにおいて、前記第1の動作を繰り返し行っているときに、前記第2の画像信号を複数回、連続して読み出す指示がなされた場合に、前記第1の動作を中断して前記第2の画像信号を複数回、読み出して前記記憶手段に記憶し、前記第1の動作が行われるたびに、記憶した前記第2の画像信号を、前記複数回の読み出しそれぞれに対応する信号量ずつ前記記憶手段から読み出して前記画像処理手段により処理することを特徴とする請求項1乃至8のいずれか1項に記載の撮像装置。
【請求項10】
前記複数の駆動モードは、前記第1の動作を繰り返し行っているときに、前記第2の画像信号を複数回、連続して読み出す指示がなされた場合に、前記第1の動作を中断し、前記第2の画像信号を複数回読み出して前記記憶手段に記憶し、前記第1の動作を再開する前に記憶した前記第2の画像信号を前記画像処理手段により処理する第4の駆動モードを含むことを特徴とする請求項9に記載の撮像装置。
【請求項11】
前記制御手段は、
複数の前記第2の画像信号を合成する合成処理を行わない場合に、前記第1の駆動モードを選択し、
前記合成処理を行う場合に、前記第4の駆動モードを選択する
ことを特徴とする請求項10に記載の撮像装置。
【請求項12】
前記第2の画像信号は前記第1の画像信号よりも、前記撮像素子からの読み出しにかかる時間が長いことを特徴とする請求項1乃至11のいずれか1項に記載の撮像装置。
【請求項13】
前記第1の画像信号は、動画像の各フレームの信号であって、前記第2の画像信号は、静止画像の信号であることを特徴とする請求項1乃至12のいずれか1項に記載の撮像装置。
【請求項14】
撮像素子を駆動する駆動手段と、前記撮像素子から読み出された画像信号を記憶する記憶手段と、前記撮像素子から読み出された画像信号を処理する画像処理手段と、を有する撮像装置の制御方法であって、
制御手段が、複数の駆動モードを選択的に用いて、前記駆動手段と、前記記憶手段と、前記画像処理手段とを制御する制御工程を有し、
前記複数の駆動モー
ドは、
前記駆動手段により前記撮像素子から第1の画像信号を読み出して、当該第1の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第1の動作と、前記第1の動作を行う前に、前記駆動手段により前記撮像素子から第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作を行った後に、記憶した前記第2の画像信号を前記記憶手段から読み出して前記画像処理手段により処理する第2の動作
と、を行う第1の駆動モードと、
前記第1の動作と、前記第1の動作と異なるタイミングで、前記駆動手段により前記撮像素子から前記第2の画像信号を読み出して、当該第2の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第3の動作と、を行う第2の駆動モードと、を含み、
前記制御工程では、前記第2の画像信号の読み出し速度に応じて、前記第1の駆動モードと前記第2の駆動モードのいずれかを選択する
ことを特徴とする撮像装置の制御方法。
【請求項15】
撮像素子を駆動する駆動手段と、前記撮像素子から読み出された画像信号を記憶する記憶手段と、前記撮像素子から読み出された画像信号を処理する画像処理手段と、を有する撮像装置の制御方法であって、
制御手段が、複数の駆動モードを選択的に用いて、前記駆動手段と、前記記憶手段と、前記画像処理手段とを制御する制御工程を有し、
前記複数の駆動モードは、
前記駆動手段により前記撮像素子から第1の画像信号を読み出して、当該第1の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第1の動作と、前記第1の動作を行う前に、前記駆動手段により前記撮像素子から第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作を行った後に、記憶した前記第2の画像信号を前記記憶手段から読み出して前記画像処理手段により処理する第2の動作と、を行う第1の駆動モードと、
前記第1の動作と、前記第1の動作と異なるタイミングで、前記駆動手段により前記撮像素子から前記第2の画像信号を読み出して、当該第2の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第3の動作と、を行う第2の駆動モードと、を含み、
前記制御工程では、設定された撮影モードに応じて、前記第1の駆動モードと前記第2の駆動モードのいずれかを選択する
ことを特徴とする撮像装置の制御方法。
【請求項16】
コンピュータを、請求項1乃至13のいずれか1項に記載の撮像装置の制御手段として機能させるためのプログラム。
【請求項17】
請求項
16に記載のプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及びその制御方法に関し、特に静止画像及び表示画像の撮影及び画像の補正処理のタイミング制御に関するものである。
【背景技術】
【0002】
デジタルカメラや、カメラ機能を備えた電子機器(以下、まとめて「撮像装置」と呼ぶ。)には、ライブビュー(LV)機能を有するものがある。LV機能とは、動画像の撮影を行い、得られた各フレームの画像(以下、「LV画像」と呼ぶ。)を撮影と並行して表示部に逐次表示する機能のことである。ユーザーは、この表示されたLV画像により静止画撮影や動画撮影の撮影範囲を確認しながら調整することができる。以下、この撮影範囲の調整操作を「フレーミング」と呼ぶ。
【0003】
ユーザーが意図通りの撮影を行うためには、フレーミングのし易さが重要である。このフレーミングのし易さの指標を「フレーミング性能」と呼ぶ。例えば、LV画像の撮影を行ってから、表示部に表示するまでの時間(表示遅延)が大きいと、被写体が表示部に表示されたタイミングでは、すでに被写体は移動してしまっている、ということが発生し得る。そのような場合、フレーミング性能が低下する。このように、フレーミング性能には、表示遅延が大きく関わっていることになる。
【0004】
LV機能を利用してフレーミングを行って静止画像の撮影を行う撮像装置においては、静止画像の連写中にも表示部にLV画像を表示し続けなければフレーミングができなくなってしまう。そのために、LV画像を逐次表示しつつ、静止画像を連写するためには、静止画像とLV画像の撮影を切り替えながら行う必要がある。
【0005】
撮影後、静止画像もLV画像も補正処理を行う必要があるが、静止画像のデータ量は大きいため、補正処理に時間がかかる。撮影順に補正処理を行うと、LV画像の撮影をしている最中にも静止画像の補正処理を行うことが想定される。その結果、LV画像の補正処理が遅延し、LV画像を撮影してから表示部に表示するまでにかかる時間が長くなってしまい、LV画像の表示遅延が大きくなり、フレーミング性能が低下してしまう。
【0006】
この課題に対して、特許文献1では、静止画データと動画データが入力され、データ処理を施す画像処理装置において、動画データを所定周期で表示しつつ、動画データの処理の間に静止画を分割したものを数フレームに亘って補正する方法が開示されている。
【0007】
また、特許文献2では、連写により得られた複数の画像に対して、その中の一枚の画像を選択して現像パラメータを決定し、連写で得られた複数の画像に対して同一パラメータを使用して現像する方法が開示されている。
【先行技術文献】
【特許文献】
【0008】
【文献】特許第5251684号公報
【文献】特開2004-80230号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、上述した特許文献1及び2に開示された従来技術では、静止画像を撮影しつつフレーミング性能を低下させないようにLV画像を撮影することができない。また、静止画像を分割した分割数だけ、LV画像撮影のブランキング中に静止画を補正しなければならないため、静止画像の撮影フレームレートが低下してしまうという課題があった。
【0010】
本発明は上記問題点を鑑みてなされたものであり、静止画像とLV画像の撮影タイミングと補正タイミングを適切に制御することで、フレーミング性能の低下を抑制しつつ静止画像を撮影することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するために、本発明の撮像装置は、撮像素子を駆動する駆動手段と、前記撮像素子から読み出された画像信号を記憶する記憶手段と、前記撮像素子から読み出された画像信号を処理する画像処理手段と、複数の駆動モードを選択的に用いて、前記駆動手段と、前記記憶手段と、前記画像処理手段とを制御する制御手段と、を有し、前記複数の駆動モードは、前記駆動手段により前記撮像素子から第1の画像信号を読み出して、当該第1の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第1の動作と、前記第1の動作を行う前に、前記駆動手段により前記撮像素子から第2の画像信号を読み出して前記記憶手段に記憶し、前記第1の動作を行った後に、記憶した前記第2の画像信号を前記記憶手段から読み出して前記画像処理手段により処理する第2の動作と、を行う第1の駆動モードと、前記第1の動作と、前記第1の動作と異なるタイミングで、前記駆動手段により前記撮像素子から前記第2の画像信号を読み出して、当該第2の画像信号を前記記憶手段に記憶せずに前記画像処理手段により処理する第3の動作と、を行う第2の駆動モードと、を含み、前記制御手段は、前記第2の画像信号の読み出し速度に応じて、前記第1の駆動モードと前記第2の駆動モードのいずれかを選択する。
【発明の効果】
【0012】
本発明によれば、静止画像とLV画像の撮影タイミングと補正タイミングを適切に制御することで、フレーミング性能の低下を抑制しつつ静止画像を撮影することができる。
【図面の簡単な説明】
【0013】
【
図1】本発明の第1乃至第3の実施形態における撮像装置の構成を示すブロック図。
【
図2】(a)は、第1及び第
3の実施形態における単位画素の回路図、(b)は、第1乃至第3の実施形態における撮像素子の回路
構成を示すブロック図。
【
図3】第1乃至第3の実施形態におけるタイミングパルス生成回路の構成を示すブロック図。
【
図4】第1の実施形態における第1の駆動モードによるタイミングチャート。
【
図5】第1の実施形態における第2の駆動モードによるタイミングチャート。
【
図6】第1の実施形態における撮影モードを切り替える制御を示すフローチャート。
【
図7】(a)は、第2の実施形態における撮像素子の概略構成を示す上面図、(b)は、第2の実施形態における単位画素の回路図。
【
図8】第2の実施形態における第3の駆動モードによるタイミングチャート。
【
図9】第2の実施形態における第4の駆動モードによるタイミングチャート。
【
図10】第2の実施形態における撮影モードを切り替える制御を示すフローチャート。
【
図11】第3の実施形態における第5の駆動モードによるタイミングチャート。
【
図12】第3の実施形態における第5の駆動モードによる別のタイミングチャート。
【
図13】第3の実施形態における第6の駆動モードによるタイミングチャート。
【
図14】第3の実施形態における撮影モードを切り替える制御を示すフローチャート。
【発明を実施するための形態】
【0014】
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0015】
図1は、本発明の実施形態に係る撮像装置1の構成を示すブロック図である。
図1において、第1レンズ100は撮影光学系104の先端に配置されている。絞り101は、絞りアクチュエータ122によって駆動され、その開口径を調節することで撮影時の光量調節を行う。第2レンズ102、第3レンズ103は、フォーカスアクチュエータ120によって駆動され、光軸方向に進退することにより、撮影光学系104の焦点を調節する。
【0016】
フォーカルプレーンシャッター105は、静止画像撮影時に露光秒時を調節する機能を持つ。ただし、撮像素子107においてスリットローリング読み出しで電子シャッターを露光秒時の調節に用いる場合は、フォーカルプレーンシャッター105による露光秒時の調節を行わない。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを低減するために用いられる。
【0017】
撮像素子107は、撮影光学系104により形成された被写体の光学像を電気信号(画像信号)に光電変換する。また、撮像素子107は電子シャッター機能を備え、画像信号をスリットローリング読み出しによって取得することができる。
【0018】
DSP108は、撮像素子107から画像信号を受信して、所定の画像処理を行う。また、画像処理以外にも、撮像素子107からの情報に基づいて、フォーカスレンズ(第2レンズ102、第3レンズ103)の駆動に用いる情報の演算を行う。
【0019】
RAM109は、DSP108で所定の画像処理を施された画像データを記憶する機能と、CPU110が動作を行う際のワークメモリとしての機能を兼備する。なお、アクセス速度が十分に速く、動作上問題のないレベルのメモリであれば、他の種類のメモリを用いることも可能である。また本実施形態では、RAM109は、DSP108、CPU110の外部に配置されているが、その一部または全部の機能をDSP108やCPU110に内蔵する構成であってもよい。
【0020】
CPU110は、撮像装置1の各部を制御するためのプログラムを実行し、撮像装置1の動作を統括的に制御する。CPU110は、撮像素子107に各種設定を行うことによって、撮像素子107からの読み出しを制御することができる。また、CPU110はタイミングパルス生成回路111と通信を行い、後述のように各モジュールの動作を制御するための各種タイミングパルスの発生タイミングの制御を行う。
【0021】
タイミングパルス生成回路111は、第1クロック112からのクロック信号CLK1と第2クロック113からのクロック信号CLK2に基づいて複数の同期信号を生成し、撮像素子107と表示部114に供給する。撮像素子107は、タイミングパルス生成回路111からの信号に同期して動作することで、撮影動作を行う。
【0022】
また、表示部114は、タイミングパルス生成回路111からの信号に同期して動作することで、表示画像を更新する。なお、本実施形態ではタイミングパルス生成回路111に複数のクロックを入力して2種類の同期信号を生成する構成としたが、本発明はこの構成に限定されるものではない。さらに、CPU110は、DSP108から出力される演算結果を用いて、フォーカスアクチュエータ120を制御し、撮影光学系104の焦点を調節する機能も有する。
【0023】
表示部114は、DSP108によって生成された静止画像や動画像、メニュー等の表示を行う。表示部114に逐次表示されるライブビュー(LV画像)により、ユーザーは静止画撮影や動画撮影の撮影範囲を確認しながら調整するフレーミングを行うことができる。表示部114としては背面ディスプレイの他に電子ビューファインダー(EVF)などが知られている。
図1では、表示部114が一つしかない構成であるが、背面ディスプレイとEVFの両方を具備する構成でもよい。
【0024】
操作部115は、ボタンやレバー等の操作部材により構成され、モード切替ダイヤル、静止画像の撮影指示をするための静止画像撮影釦等が含まれる。なお、操作部115に操作部材を設けずに、背面ディスプレイを用いたタッチパネルにより各種指示を入力するように構成してもよい。また、ユーザーは、操作部115を通じてCPU110を制御することで、撮影を行うことができる。
【0025】
CPU110は、ユーザーによる静止画撮影釦押下を検知すると、静止画像の撮影準備期間を含む一定時間が経過した後に、静止画像の撮影を行う。また、静止画像の撮影開始後、静止画像撮影釦が継続して押下されている場合に、静止画像の連写撮影を行う。なお、静止画像の撮影に関する詳細な動作に関しては、タイミングチャートを用いて詳細に後述する。
【0026】
記録媒体116は着脱可能に構成され、静止画像データ及び動画像データが記録される。ROM117は、CPU110が各部の動作を制御するためのプログラムを格納する。
【0027】
シャッター駆動回路118は、フォーカルプレーンシャッター105を駆動制御する。フォーカス駆動回路119は、CPU110の出力に基づいてフォーカスアクチュエータ120を制御することで、フォーカスレンズ(第2レンズ102、第3レンズ103)を光軸方向に進退駆動して焦点位置を変更する焦点調節を行う。絞り駆動回路121は、絞りアクチュエータ122を制御して絞り101の開口を制御する。
【0028】
次に、本実施形態の撮像素子107の構成について、
図2を参照して説明する。
図2(a)は、撮像素子107の単位画素206の詳細な回路構成を説明する図である。フォトダイオード(PD)200は、入射した光を光電変換し、生成した電荷を蓄積する。転送スイッチ201は、制御信号φtxによって制御され、制御信号φtxをHigh(以下、「H」と記す。)にすることによって、PD200に蓄積された電荷をフローティングディフュージョン部(FD)202に転送する。
【0029】
リセットスイッチ203は、FD202を初期化するためのスイッチであり、制御信号φresによって制御される。画素のリセット動作は、制御信号φtxとφresを同時にHにし、PD200とFD202を電源電圧(VDD)にすることによって実現する。画素アンプ用トランジスタ204は、選択スイッチ205の制御信号φselがHになると、垂直出力線208を介して定電流源209に接続され、画素アンプを形成する。そして、PD200からFD202に転送された電荷は、画素アンプによって電荷量に応じた電圧値に変換され、垂直出力線208に画像信号として出力される。
【0030】
次に、
図2(b)を参照して、撮像素子107の回路構成について説明する。
画素アレイ207には、水平方向(行方向)に(m+1)個、垂直方向(列方向)に(n+1)個の複数の単位画素206が行列状に配置されている。なお、m,n共に自然数である。駆動パルス生成回路210は、タイミングパルス生成回路111からの同期信号に基づいて、単位画素206のリセット動作や読み出し動作を行うためのパルス信号を生成する。
【0031】
駆動パルス生成回路210により生成されたパルス信号は、画素駆動回路212に供給される。行選択回路211は、駆動パルス生成回路210によって生成されたパルス信号を供給する行を選択し、選択した行を画素駆動回路212に設定する。画素駆動回路212は、行選択回路211によって設定された行に、駆動パルス生成回路210によって生成されたパルス信号を上述した制御信号として供給する。
【0032】
画素駆動回路212から供給される制御信号に応じて選択された行の単位画素206から、垂直出力線208に画像信号が出力される。定電流源209は、画素アンプ用トランジスタ204と組み合わさってソースフォロワ回路を形成する。
【0033】
AD変換回路(ADC)213は、垂直出力線208に出力されたアナログの画像信号(電圧値)を、その信号レベルに応じたデジタル値に変換する。ADC213によってデジタル値に変換された画像信号は、水平走査回路214によって順に選択されて、出力部215に転送される。
【0034】
なお、行選択回路211による画素アレイ207の駆動を変えることによって、複数の異なる読み出し方で画像信号を読み出すことができる。例えば本実施形態では、静止画像を生成する際の読み出し方法として、一番上の行の画素から画像信号を読み出した後に、その次の行の画素の画像信号を読み出し、その繰り返しによって一番下の行まで読み出す方法をとるものとする。
【0035】
また、動画像を生成する際の読み出し方法として、一番上の行の画素から画像信号を読み出した後に、数行(例えば2行)飛ばした行の画素の画像信号を読み出し、その繰り返しによって一番下の行の画素まで読み出す方法をとるものとする。動画像を生成する際にこのように画像信号を読み出すと、画像の垂直解像度は低下するが、1フレームの画像信号の読み出しを短時間かつ低消費電力で行うことができる。他にも、様々な読み出し方法による画像信号の読み出しが可能である。
【0036】
なお、本実施形態では、画素駆動回路212やADC213が撮像素子107に内蔵されている例について説明したが、これらの回路は撮像素子107とは別のチップに設けられてもよい。
【0037】
次に、
図3を用いて、タイミングパルス生成回路111の内部構成について説明する。本実施形態では、タイミングパルス生成回路111は、基準同期信号生成回路300(以下、「基準SSG」と呼ぶ。)と、第2同期信号生成回路301(以下、「第2SSG」と呼ぶ。)と、第3同期信号生成回路302(以下、「第3SSG」と呼ぶ。)とから構成されている。
【0038】
基準SSG300と第2SSG301はCPU110に接続されており、それぞれの同期信号のアサートタイミングの時間を記録できるようになっている。この時間によって、基準SSG300と第2SSG301のアサートタイミングの時間差を計算することができる。また、これらの各回路に対して、CPU110から設定を行うことで、様々な周期の同期信号を生成することができるほか、同期信号の発生タイミングを変えることもできる。
【0039】
第2SSG301からは第2の同期信号が出力され、この第2の同期信号に基づいて撮像素子107の読み出し走査のタイミングが制御される。また、第3SSG302からは第3の同期信号が出力され、この第3の同期信号に基づいて、表示部114の表示走査のタイミングが制御される。
【0040】
また、本構成において、第2SSG301は、第1クロック112からのクロック信号CLK1に基づいて動作し、基準SSG300と第3SSG302は、第2クロック113からのクロック信号CLK2に基づいて動作する。ただし、本発明はこの構成に限定されるものではない。全てのSSGを単一のクロック信号に基づいて動作するようにしてもよいし、異なるクロック信号に基づいて動作するようにしてもよい。また、上記の各SSGのすべてまたは一部が独立してブロックを構成してもよい。
【0041】
<第1の実施形態>
本発明の第1の実施形態について説明する。本第1の実施形態では、第1の駆動モードと第2の駆動モードの2種類の駆動モードで、互いに異なるタイミングでLV画像を表示しながら静止画像の連写を行う場合について説明する。
【0042】
図4は、第1の実施形態において、第1の駆動モードによる撮影動作を示すタイミングチャートである。この処理は、例えばユーザーが操作部115に備えられている静止画像撮影釦を押下することで発行された撮影指示を受けて行われる。なお、図中、実線は撮像素子107からの静止画用画像信号の読み出し走査、一点鎖線はLV用画像信号の読み出し走査、破線は撮像素子107のリセット走査を表している。また、静止画用画像信号の読み出しは非常に高速に行われ、静止画用画像信号の読み出しにかかる時間よりも、DSP108に内蔵される画像補正回路が静止画用画像信号を補正するのにかかる時間の方が長いものとする。
【0043】
時刻t400に、タイミングパルス生成回路111の第2SSG301は、第2の同期信号(垂直同期信号(VD))をアサートし、それに同期して撮像素子107は静止画用画像信号の読み出しを開始する。なお、この時刻t400よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されているものとする。そして、静止画用画像信号の読み出し開始と同時に、読み出した静止画用画像信号をDSP108へ転送して、DSP108に接続されたRAM109への格納を開始する。時刻t401において静止画用画像信号の読み出しが終わると、それとともに静止画用画像信号のRAM109への格納も完了する。
【0044】
時刻t402に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107はLV用画像信号の読み出しを開始する。なお、この時刻t402よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されている。このときの露光秒時は、静止画用画像信号の読み出し終了のタイミングを鑑みて、時間T
LV
よりも短い時間となる。そして、読み出されたLV用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正する。このとき、時刻t400~t401の間に読み出された静止画用画像信号は、未補正のままRAM109に格納されている。時刻t403にはLV用画像信号の読み出しが完了し、それとともに画像補正回路における補正処理も完了する。補正処理を終えたLV用画像信号に基づいて生成されたライブビュー画像は、表示部114に表示される。
【0045】
次に、時刻t404で、RAM109に格納した静止画用画像信号を読み出して画像補正回路へと転送し、静止画用画像信号の補正処理を開始する。この補正処理は時刻t405に完了する。前述の通り、画像補正回路の処理速度は、静止画用画像信号の読み出し速度に比べると遅いため、時刻t404から時刻t405までの時間は、時刻t400から時刻t401の時間よりも長くなっている。
【0046】
時刻t406に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107は次のフレームのLV用画像信号の読み出しを開始する。なお、この時刻t406よりも予め決められた露光秒時前であって、時刻t406におけるLV用画像信号の読み出し開始時に画像補正回路による静止画用画像信号の補正処理が終了しているように、撮像素子107のリセット走査が開始される。そして、読み出されたLV用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正する。
【0047】
続く時刻t408に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107は静止画用画像信号の読み出しを開始する。この時刻t408は、以下の条件によりそのタイミングが決まる。即ち、時刻t406におけるLV用画像信号の読み出し開始により、静止画像生成用の電荷蓄積のためのリセット走査が可能になった後、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)TST後のタイミングである。読み出した静止画用画像信号はDSP108へ転送され、DSP108に接続されたRAM109に順次格納される。
【0048】
t409以降は、時刻t402~t409における制御と同じ制御が繰り返される。このように、時刻t402から時刻t409の制御を繰り返すことによって、LV画像を動画周期で取得しつつ、静止画像の連写を行うことができる。また、時刻t402から時刻t406までの時間と、時刻t406から時刻t409までの時間が等しくなるように制御する。
【0049】
このように、第1の駆動モードで制御することによって、静止画像の撮影を行いつつもLV画像を一定周期で取得することができる。このLV画像を表示部114に順次表示することによって、静止画用画像信号の読み出し速度が画像補正回路の補正速度より早い場合に、静止画像の撮影と補正を行いつつ、LV画像の撮影と補正を行って一定周期で表示部114に表示することが可能になる。
【0050】
続いて、第2の駆動モードによる撮影動作について、
図5のタイミングチャートを参照して説明する。
この処理は、例えばユーザーが操作部115に備えられている静止画像撮影釦を押下することで発行された撮影指示を受けて行われる。なお、図中の実線、一点鎖線、破線は、
図4と同じであるため、説明を省略する。第2の駆動モードによる静止画用画像信号の読み出し速度は、DSP108に内蔵される画像補正回路が静止画用画像信号を補正するのにかかる時間と同程度であるものとする。
【0051】
時刻t500に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107でLV用画像信号の読み出しを開始する。なお、この時刻t500よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されているものとする。そして、LV用画像信号の読み出し開始と同時に、読み出したLV用画像信号をDSP108に転送して、DSP108に含まれる画像補正回路で補正する。時刻t501にはLV用画像信号の読み出しが完了し、それとともに画像補正回路におけるLV用画像信号の補正処理も完了する。
【0052】
時刻t502に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107で静止画用画像信号の読み出しを開始する。この時刻t502は、以下の条件によりそのタイミングが決まる。即ち、時刻t501で画像補正回路の使用が可能になると共に、時刻t500におけるLV用画像信号の読み出し開始により、静止画像生成用の電荷蓄積のためのリセット走査が可能になる。そのため、時刻t500以降のタイミングでリセット走査を行ってから、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)T
ST後である時刻t501以降のタイミングが、静止画用画像信号の読み出しを開始するタイミングである時刻t502となる。
図5では、露光秒時T
STが、時刻t500から時刻t501の時間よりも長い場合を示している。静止画用画像信号の読み出し開始と同時に、読み出された静止画用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正を開始する。時刻t503には、静止画用画像信号の読み出しが完了し、それとともに画像補正回路における静止画用画像信号の補正処理も完了する。
【0053】
続く時刻t504に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107はLV用画像信号の読み出しを開始する。なお、この時刻t504よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されている。このときの露光秒時は、静止画用画像信号の読み出し終了のタイミングを鑑みて、時間LVよりも短い時間となる。
【0054】
上述した時刻t500から時刻t504の制御を繰り返すことによって、LV画像を動画周期で取得しつつ、静止画像の連写を行うことができる。そして、時刻t500から時刻t504までの時間を動画周期とし、この間隔でLV画像の撮影ができるように制御を続ける。
【0055】
このように、第2の駆動モードで制御することによって、静止画像の撮影を行いつつもLV画像を一定周期で取得することができる。このLV画像を表示部114に順次表示することによって、静止画用画像信号の読み出し速度が画像補正回路の補正速度と同程度以下の場合に、表示部114に表示するLV画像の撮影と補正も行うことが可能になる。
【0056】
なお、静止画用画像信号の読み出し速度が画像補正回路の補正速度と同程度以下の場合にも
図4を参照して説明したようにRAM109にデータを格納し、後で補正処理を行ってもよいが、RAM109の帯域を圧迫し、消費電力も増加してしまう。そのため、
図5に示す制御を行うことで、これらのデメリットを無くすことができる。
【0057】
また、
図4及び
図5では、撮像素子107をリセット走査することにより電荷蓄積を開始するものとして説明したが、本発明はこれに限られるものでは無い。例えば、撮像素子107をリセット走査した後、フォーカルプレーンシャッター105の先幕を駆動して撮像素子107を露光することにより、電荷蓄積を開始してもよい。
【0058】
図4に示す第1の駆動モードで撮影動作を行うと、静止画用画像信号の読み出し速度が速い場合においても静止画像の補正とLV画像の補正を両立できる一方で、RAM109の帯域を圧迫し、RAM109の消費電力を増加させてしまう。他方、
図5に示す第2の駆動モードで撮影動作を行うと、静止画用画像信号の読み出し速度が画像補正回路の処理速度と同等以下の場合に、RAM109の帯域を消費せず、消費電力も増加させないで静止画像の補正とLV画像の補正を両立できる。そこで、静止画像の読み出し速度に応じてどちらの方法で処理をするか切り替えることで、それぞれの駆動方法のメリットを生かすことができる。
【0059】
図6は、
図4に示す第1の駆動モードによる撮影動作と、
図5に示す第2の駆動モードによる撮影動作とを切り替える方法を説明するフローチャートである。
【0060】
静止画像の撮影が設定されると、
図6の処理が開始される。S601で、操作部115を通じ、ユーザーが静止画像の撮影モードを選択する。なお、撮影モードを選択する方式としては、明示的であっても明示的でなくてもよく、例えばユーザーにはシャッター方式を選択肢として提供してもよい。
【0061】
S602では、選択された撮影モードが、第1の駆動モードでの撮影動作が適しているか第2の駆動モードでの撮影動作が適しているかを判定する。ここでは、選択された撮影モードでの静止画用画像信号の読み出し速度が、画像補正回路による補正処理速度よりも速いかどうかを判断する。速い場合はS603に遷移し、補正処理速度以下の場合にはS604に遷移する。
【0062】
なお、S602で速度の判定を行うのではなく、撮影モードと、第1の駆動モードまたは第2の駆動モードとを紐づけた情報を予め保持しておき、判定に用いてもよい。また、上述したように例えばシャッター方式により非明示的に撮影モードが選択されている場合、以下のように判定することも考えられる。即ち、フォーカルプレーンシャッター105を用いて露光時間を制御するメカ先幕方式が選択された場合には、撮像素子107の電荷蓄積開始走査に時間がかかるため、第2の駆動モードが適していると判定する。一方、電子シャッターが選択された場合には、高速に撮像素子107を走査することが可能であるため、第1の駆動モードが適していると判定する。
【0063】
S603では、
図4に示す第1の駆動モードによるシーケンスのプログラムをロードし、S604では、
図5に示す第2の駆動モードによるシーケンスのプログラムをロードし、処理を終了する。以降、ロードしたプログラムに従って、撮影を行う。
【0064】
なお、
図6のフローチャートでは、S601でユーザーの操作によって撮像素子107の駆動モードを変更したが、駆動モードの変更方法はこれに限定されない。例えば、撮影した画像から計算された種々の条件によって、次フレームに撮影する静止画像の撮影モードを変更し、それに応じて駆動モードを変更してもよい。その場合、S602以降の処理を上記説明した処理と同様に行うことによって、撮像素子107の駆動モードを撮影条件によって切り替えることができる。そして、S60
3またはS604で駆動モードの切り替えが完了した時点から、切り替えた駆動シーケンスで撮像素子107を駆動することができる。
【0065】
以上説明したように第1の実施形態によれば、第1の駆動モードと第2の駆動モードとを選択的に用いる。これにより、静止画用画像信号の読み出し速度と画像補正回路の補正処理速度の関係のいかんに関わらず、静止画像の撮影を行いつつもLV画像を一定周期で取得することができる。
【0066】
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。
上述した第1の実施形態では、静止画像の読み出し速度に応じて、撮像シーケンスを切り替える方法について説明した。第1の実施形態の場合、静止画用画像信号の1回の露光によって得られる画像は1枚であった。しかし、撮像素子には、1回の露光によって得られる画像を異なるゲインで増幅することで複数の画像を取得できるものもある。そこで、第2の実施形態では、1回の露光によって異なるゲインで増幅された複数の画像を取得する場合の撮影動作の制御について説明する。なお、第2の実施形態では、
図1に示す撮像装置1において、撮像素子107の構成が
図2に示すものと異なるため、以下に説明する。
【0067】
図7は、第2の実施形態における撮像素子107の構成を示す図である。なお、
図7において、
図2と同様の構成には同じ参照番号を付し、説明を省略する。
【0068】
図7(a)は、撮像素子107の画素アレイ207を示す概略上面図であり、単位画素206が行列状に配置されている。各単位画素206には、1つのマイクロレンズ700が含まれ、各マイクロレンズ700下には、2つの光電変換部(フォトダイオード:PD)701aとPD701bが配置されている。
【0069】
図7(b)は、1つの単位画素206の回路図を示す。PD701aは、制御信号φtxaにより制御される転送スイッチ702aに接続され、PD701bは、制御信号φtxbにより制御される転送スイッチ702bに接続される。制御信号φtxaをHighにして転送スイッチ702aをONとすることで、PD701aに蓄積された電荷は、転送スイッチ702aを介して、FD202に転送される。また、制御信号φtxbをHighにして転送スイッチ702bをONとすることで、PD701bに蓄積された電荷は、転送スイッチ702bを介して、FD202に転送される。従って、制御信号φtxa及びφtxbを異なるタイミングでHighにすることで、PD701aとPD701bの電荷をそれぞれ独立に読み出すことができる。また、制御信号φtxa及びφtxbを同時にHighにすることで、P
D701aとP
D701bの電荷を加算して読み出すことができる。記録用の静止画像やLV画像には、この電荷を加算した画像信号を用いることができる。
【0070】
また、
図7(b)の構成においては、各単位画素206から読み出された電荷に応じて垂直出力線208の電圧が変動し、列アンプ703によってその電圧が増幅されてAD変換回路へ入力される。この構成では、同一の画素信号に対して、列アンプ703のゲインを変更してAD変換を行うことができる。つまり、撮像素子107の1回の露光によって得られる電荷に、異なるゲインをかけて読み出すことができるので、複数の異なる明るさの画像を得ることができる。
【0071】
なお、本実施形態においては、PD701aとPD701bからそれぞれ出力された瞳分割された複数の画像と、異なるゲインで増幅された複数の画像が得られる構成を示した。しかしながら、本発明はこれに限定されるものでは無く、1回の露光によって複数の画像が得られる構成であればよい。
【0072】
次に、
図8のタイミングチャートを用いて、
図7に示す単位画素206のPD701aとPD701bからそれぞれ信号を読み出す、第3の駆動モードによる撮影動作について説明する。
この処理は、
図4に示す処理と同様に、例えばユーザーが操作部115に備えられている静止画像撮影釦を押下することで発行された撮影指示を受けて行われる。なお、図中の実線、一点鎖線、破線は、
図4と同じであるため、説明を省略する。また、静止画用画像信号の読み出しは非常に高速に行われ、静止画用画像信号の読み出しにかかる時間よりも、DSP108に内蔵される画像補正回路が静止画用画像信号を補正するのにかかる時間の方が長いものとする。
【0073】
時刻t800に、タイミングパルス生成回路111の第2SSG301は、第2の同期信号をアサートし、それに同期して撮像素子107のPD701aからの画像信号(以下、「A信号」と呼ぶ。)の読み出しを開始する。なお、この時刻t800よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されているものとする。A信号の読み出し開始と同時に、読み出したA信号をDSP108へ転送して、DSP108に接続されたRAM109への格納を開始する。時刻t801においてA信号の読み出しが終わると、それとともにA信号のRAM109への格納も完了する。
【0074】
続いて、t802に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107のPD701bからの画像信号(以下、「B信号」と呼ぶ。)の読み出しを開始する。B信号の読み出し開始と同時に、読み出したB信号をDSP108へ転送して、DSP108に接続されたRAM109への格納を開始する。時刻t803においてB信号の読み出しが終わると、それとともにB信号のRAM109への格納も完了する。
【0075】
時刻t804に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107でLV用画像信号の読み出しを開始する。なお、この時刻t804よりも、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)前に、撮像素子107のリセット走査が開始されている。このときの露光秒時は、B信号の読み出し終了のタイミングを鑑みて、時間TLVよりも短い時間となる。そして、読み出されたLV用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正する。このとき、時刻t800~t803の間に読み出されたA信号及びB信号のデータは、未補正のままRAM109に格納されている。時刻t805にはLV用画像信号の読み出しが完了し、それとともに画像補正回路における補正処理も完了する。補正処理を終えたLV用画像信号に基づいて生成されたライブビュー画像は、表示部114に表示される。
【0076】
次に、時刻t806で、RAM109に格納したA信号を読み出して画像補正回路へと転送し、A信号の補正処理を開始する。この補正処理は時刻t807に完了する。前述の通り、画像補正回路の処理速度は、A信号の読み出し速度に比べると遅いため、時刻t806から時刻t807までの時間は、時刻t800から時刻t801の時間よりも長くなっている。
【0077】
A信号の補正処理が終了すると、次に、時刻t808で、RAM109に格納したB信号を読み出して画像補正回路へと転送し、B信号の補正処理を開始する。この補正処理は時刻t809に完了する。このように画像信号を転送することによって、画像補正回路の処理を中断/再開する必要がなくなり、制御が簡単になる。
【0078】
なお、撮像素子107から1つの画像信号に2つの異なるゲインをかけて読み出す場合も同様に、2つのゲインをかけることで得られる2枚分の画像信号を読み出して、それぞれRAM109に格納し、順次補正処理を行えばよい。
【0079】
時刻t810に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107でLV用画像信号の読み出しを開始する。なお、この時刻t810よりも予め決められた露光秒時前であって、LV用画像の読み出し開始がB信号の補正処理終了後となるように、撮像素子107のリセット走査が開始されている。そして、読み出されたLV用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正する。
【0080】
続く時刻t811に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107のPD701aからA信号の読み出しを開始する。この時刻t811は、以下の条件によりそのタイミングが決まる。即ち、時刻t810におけるLV用画像信号の読み出し開始により、静止画像生成用の電荷蓄積のためのリセット走査が可能になった後、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)T
ST
後のタイミングである。読み出したA信号はDSP108へ転送され、DSP108に接続されたRAM109に順次格納される。
【0081】
続いて、t812に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107のPD701bからB信号の読み出しを開始する。読み出したB信号はDSP108へ転送され、DSP108に接続されたRAM109に順次格納される。
【0082】
そして時刻t813に、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107で次のフレームのLV用画像信号の読み出しを開始する。
以降、時刻t804から時刻813の処理を繰り返す。
なお、上述した例では、A信号とB信号とを読み出す場合について説明したが、A信号と、転送スイッチ702aと702bとを同時ONすることで得られるPD701aとPD701bの電荷を加算したA+B信号とを読み出すように制御しても構わない。
【0083】
次に
図9のタイミングチャートを用いて、第4の駆動モードによる撮影動作について説明する。なお、図中の実線、一点鎖線、破線は、
図4と同じであるため、説明を省略する。また、静止画用画像信号の読み出しは非常に高速に行われ、静止画用画像信号の読み出しにかかる時間よりも、DSP108に内蔵される画像補正回路が静止画用画像信号を補正するのにかかる時間の方が長いものとする。また、A信号とB信号とをそれぞれ読み出すものとする。なお、時刻t800から時刻t807までの動作は、
図8のタイミングチャートで示した時刻t800から時刻t807までの動作と同じであるため、説明を省略する。
【0084】
時刻t807でA信号の補正処理が終了すると、時刻t901においてタイミングパルス生成回路111は、第2の同期信号をアサートし、それに同期して撮像素子107でLV用画像信号の読み出しを開始する。なお、この時刻t901よりも予め決められた露光秒時前であって、時刻t901におけるLV用画像信号の読み出し開始時に画像補正回路によるA信号の補正処理が終了しているように、撮像素子107のリセット走査が開始される。そして、読み出されたLV用画像信号をDSP108に転送し、DSP108に含まれる画像補正回路で補正する。
【0085】
時刻t902でLV用画像信号の補正処理が終了すると、次に、時刻t903で、RAM109に格納したB信号を読み出して画像補正回路へと転送し、B信号の補正処理を開始する。この補正処理は時刻t904に完了する。この補正処理によって、読み出された静止画データの補正処理はすべて完了する。
時刻t905では、タイミングパルス生成回路111は第2の同期信号をアサートし、時刻t804と同様の動作を行う。
【0086】
次のS906において、タイミングパルス生成回路111は第2の同期信号をアサートし、それに同期して撮像素子107のPD701aからA信号の読み出しを開始する。この時刻t906は、以下の条件によりそのタイミングが決まる。即ち、時刻t905におけるLV用画像信号の読み出し開始により、静止画像生成用の電荷蓄積のためのリセット走査が可能になった後、測光やユーザー指示により予め決められた露光秒時(電荷蓄積時間)TST後のタイミングである。読み出したA信号はDSP108へ転送され、DSP108に接続されたRAM109に順次格納される。
時刻t907以降は、時刻t804から時刻t907の動作を繰り返す。
【0087】
このように制御することで、時刻t804から時刻t901までの間隔と、時刻t901から時刻t905までの間隔と、時刻t905から時刻t907までの間隔とを同一にすることができる。これによって、静止画像の撮影を行いつつも、表示部114に表示するためのLV画像を一定間隔で撮影することができる。
【0088】
しかしながら、
図9に示す第4の駆動モードでは、静止画像の撮影間隔は時刻t800から時刻t906となり、
図8のタイミングチャートにおける静止画像の撮影間隔である時刻t800から時刻t811までの時間よりも長くなる。これは、複数の静止画像の補正処理の間にLV画像を撮影するからである。
【0089】
これに対し、
図8に示す第3の駆動モードでは、静止画像の撮影間隔は第4の駆動モードよりも短いが、時刻t804から時刻t810までの間隔と、時刻t810から時刻t813までの間隔は異なる。
【0090】
以上説明したように、
図8に示す第3の駆動モードで撮影動作を行うと、
図9に示す第4の撮影モードにおける撮影動作よりも静止画像の撮影フレームレートを向上させることができる。一方、第4の駆動モードで撮影動作を行うと、静止画像の撮影を行いつつもLV画像を一定間隔で撮影することができる。そこで、静止画像と表示画像のいずれを優先するかに応じて処理を切り替えることで、それぞれの駆動方法のメリットを生かすことができる。
【0091】
図10は、
図8に示す第3の駆動モードによる撮影動作と、
図9に示す第4の駆動モードによる撮影動作とを切り替える方法を説明するフローチャートである。なお、
図6のフローチャートと同様の処理を行うステップには同じステップ番号を付し、説明を省略する。
【0092】
S1000では、決定された静止画像の撮影モードが、静止画像のフレームレート優先モードかどうかを判断し、静止画像のフレームレート優先モードであればS1001に遷移し、そうでなければS1002に遷移する。S1001に遷移した場合には、
図8に示す第3の駆動モードによるシーケンスのプログラムをロードし、S1002に遷移した場合には、
図9に示す第4の駆動モードによるシーケンスのプログラムをロードし、処理を終了する。以降、ロードしたプログラムに従って、撮影を行う。
【0093】
以上説明したように第2の実施形態によれば、静止画像の1回の露光に対して異なるゲインで増幅された複数の画像を読み出すことができる撮像素子において、撮影シーケンスを複数用意し、それを静止画像の撮影モードに応じて切り替える。これにより、静止画像のフレームレートかファインダーへの表示品質のどちらか好適な方を優先するような選択肢を、ユーザーに提供することができる。
【0094】
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。
第3の実施形態では、第1及び第2の実施形態よりも静止画像の連写間隔を短くしたい場合の撮影動作について説明する。
【0095】
図11は、第3の実施形態における第5の駆動モードによる撮影動作を示すタイミングチャートである。なお、
図11に示す処理は、
図4に示す処理と同様に、例えばユーザーが操作部115に備えられている静止画像撮影釦を押下することで発行された撮影指示を受けて行われる。なお、図中の実線、一点鎖線、破線は、
図4と同じであるため、説明を省略する。ただし、図中、「表示部の画像更新走査」の斜めの実線は、表示部114が画像を更新する走査を示している。また、静止画用画像信号の読み出しは高速に行われ、静止画用画像信号の読み出しにかかる時間よりも、DSP108に内蔵される画像補正回路が静止画用画像信号を補正するのにかかる時間の方が長いものとする。
【0096】
時刻t1100で、タイミングパルス生成回路111の第2SSG301から第2の同期信号がアサートされると、それに同期してLV用画像信号の読み出しが開始される。それと同時にDSP108に含まれる画像補正回路で、読み出されたLV用画像信号に対して補正処理が開始される。時刻t1101でタイミングパルス生成回路111の第3SSG302から第3の同期信号がアサートされると、時刻t1100で補正処理が施されたLV用画像信号に基づいて生成されたLV画像が表示部114に表示され始める。この一連の動作を、期間T0を周期として繰り返すことで、一定の時間間隔でLV表示が更新される。ここでは、時刻t1100と時刻t1101の時間差だけ撮影から表示までに位相差Δt1を設けることによって、撮影した画像を安定して表示できるものとする。
【0097】
時刻t1102では、タイミングパルス生成回路111の基準SSG300から基準同期信号がアサートされる。第3SSG302は、この基準同期信号を受信すると内部カウンタの値をリセットする。このようにして、第3SSG302を基準SSG300の同期信号で同期させる。また、基準同期信号はCPU110にも入力され、CPU110はこの基準同期信号がアサートされたことを検知すると、CPU110のシステム時間を表現するカウンタから値を読み出して、カウント値を記録する。
【0098】
時刻t1103では、第2SSG301から第2の同期信号がアサートされ、LV用画像信号の読み出しが開始される。同時に、第2の同期信号はCPU110に入力され、CPU110はこの第2の同期信号がアサートされたシステム時間を表現するカウント値を記録する。CPU110は、基準同期信号と第2の同期信号のカウント値から、計算によって第2の同期信号のアサートタイミングを算出する。そして、その計算結果に基づいて、タイミングパルス生成回路111を制御して、第2の同期信号を、ある一定の時間差をもって基準同期信号に同期させるように制御する。このように制御すると、第2の同期信号も第3の同期信号も基準同期信号に同期して動作させることができるので、第2の同期信号と第3の同期信号の位相差Δt1を一定の値に保つことができる。
【0099】
時刻t1104で静止画像撮影釦が押下されると、そこからレリーズタイムラグT1が経過した時刻t1105に静止画像用のリセット走査が開始される。続く、電荷蓄積時間T2が経過した時刻t1106では、静止画用画像信号の読み出しが開始され、RAM109に一時保存される。続いて、時刻t1107では、再び静止画像用のリセット走査が開始され、時刻t1108でそれに対応する静止画用画像信号の読み出しが開始され、同様にRAM109に一時保存される。これを、静止画像撮影釦が解放されるまでの期間T3、繰り返す。なお、この期間T3は、本実施形態では静止画像撮影釦が押下されている期間としているが、これに限るものではない。例えば、操作部115により、事前にユーザーがUIを用いて撮影枚数と撮影間隔を設定しておき、その設定された撮影枚数と撮影間隔から、蓄積時間T2で撮影を繰り返す期間を求めてもおいてよい。
【0100】
期間T3の経過後、CPU110が、基準同期信号のカウンタから基準同期信号に対して位相差Δt1を設けて第2の同期信号がアサートされるようにタイミングパルス生成回路111を制御する。時刻t1109で第2の同期信号がアサートされた後、時刻t1110ではLV画像用のリセット走査が開始される。時刻t1111でそれに対応するLV用画像信号の読み出しが開始されると共に、DSP108でLV用画像信号に対して画像処理を実施する。そして、時刻t1112で第3の同期信号がアサートされると、表示部114に時刻t1111で読み出しが開始されたLV用画像信号から生成されたLV画像の表示を始める。
【0101】
続いて、時刻t1113で、直前のLV用画像信号の読み出し完了を受けて、期間T3に読み出してRAM109に一時保存した静止画用画像信号を読み出して、DSP108で補正処理を実施する。そのため、時刻t1114での第3の同期信号に対応する表示部114の更新のためのLV用画像信号の読み出しは行わない。なお、静止画像データに対して行う補正処理としては、センサ個体ごとのばらつき補正する処理や、デジタルゲインをかけるといった撮像素子107のRAWデータに対して行う補正処理を指す。ちなみに、現像処理やJPEG圧縮処理は、時刻t1113から時刻t1115の期間に、補正処理と一緒に行ってもよいし、時刻t1115以降のタイミングで行ってもよい。
【0102】
そして、時刻t1115で、LV画像用のリセット走査が開始され、時刻t1116でそれに対応するLV用画像信号の読み出しが開始され、DSP108で読み出したLV用画像信号に対する補正処理を開始する。この時刻t1109から時刻t1111の期間T4は、時刻t1112で静止画像データに対して画像処理を施すために、期間T0よりは長い時間となる。なお、本実施形態では、各期間T4に静止画像データを1つのみDPS108で画像処理を施しているが、これに限るものではなく、複数の静止画像データを続けて処理する構成としてもよい。その際には、時刻t1114のような、第3の同期信号に対応する表示部114の更新のためのLV用画像信号の読み出しを行わない期間が続く。また、期間T4を長くする場合においても、第2の同期信号は、必ず位相差Δt1を設けて第3の同期信号と同期するようにタイミングパルス生成回路111を制御する。
【0103】
そして、期間T3にRAM109に一時保存した静止画用画像信号の処理がすべて終了し、時刻t1117でLV用画像信号の読み出しが開始されると、時刻t1118で第3の同期信号に対応して、表示部114に時刻t1117で読み出しを開始したLV用画像信号から生成されたLV画像の表示を始める。この時刻以降は、期間T5の周期でLV用画像信号の読み出しが繰り返される。
【0104】
なお、
図11では、期間T5の時間は、期間T0と同等の長さとしているが、これに限るものではない。また、期間T4の周期から期間T5の周期へ切り替えるタイミングとして、RAM109に一次保存した静止画用画像信号の処理がすべて終わったときとしたが、これに限るものではなく、表示部114の表示形式に準じてもよい。例えば、表示部114の表示形式がインターレース形式であれば、TOPフィールドとBOTTOMフィールドから1枚の画像を作る。従って、第3の同期信号がアサートされたときにCPU110がシステム時間を記録するとともに、TOPフィールドかBOTTOMフィールドかのフィールド情報も記録する。これにより、周期の切り替えタイミングで、フィールド情報と、RAM109に静止画用画像信号があるか、とを判定して切り替える構成としてもよい。
【0105】
なお、第3の実施形態では、第2の同期信号を基準同期信号に対して位相差Δt1を設けてアサートされるようにタイミングパルス生成回路111を制御したが、本発明はこれに限るものでは無い。例えば、
図12に示すように、第2の同期信号と第3の同期信号が位相差Δt1でアサートされるように、第3の同期信号のアサートタイミングをΔu1だけずらすようにタイミングパルス生成回路111に設定することで、LV用画像信号を読み出すタイミングをより早めることが可能である。このΔu1は、期間T1、T2、T4を時刻t1104に静止画像撮影釦が押下されたタイミングで確定して、期間T3が確定する静止画像が終了するタイミングで計算できる。つまり、
図12の時刻t1112に第3の同期信号がアサートされるようにΔu1を計算し、タイミングパルス生成回路111に設定する。この設定に基づいて、時刻t1201に第3の同期信号をアサートすることで、静止画像の撮影後のLV画像の表示タイミングを早めることが可能となる。なお、この期間T3が、上述のようにユーザーが事前に設定した枚数で繰り返す構成であれば、時刻t1104の時点で確定することができる。また、Δu1を計算するタイミングやタイミングパルス生成回路111に設定するタイミングに関しては、時刻t1111より前までに行われているものとする。
【0106】
図11または
図12に示す第5の駆動モードで撮像動作を行うことで、より高速な静止画像の連写を実現することができる。これにより、プロユーザーのような決定的瞬間を狙って撮影したいユーザーに、静止画像の超高速連写を提供することができる。
【0107】
次に、第6の駆動モードによる撮影動作について、
図13のタイミングチャートを参照して説明する。なお、
図13において、
図11及び
図12と同じ信号及びタイミングには同じ参照番号を付し、適宜説明を省略する。
【0108】
第6の駆動モードでは、期間T3の経過後、時刻t1301において、CPU110が最後の静止画用画像信号の読み出しの完了を検知すると、続いて、RAM109に一時保存された複数枚分の静止画用画像信号を読み出して、DSP108において補正処理を施す。
【0109】
なお、この時刻t1301以降の期間T6で、RAM109に一時保存された複数枚分の静止画用画像信号に対して補正処理を行うとともに、DSP108が、複数枚の静止画像データを用いてHDR処理やフィルタ処理等の処理を実施してもよい。
【0110】
ここで、HDR処理を例に説明すると、例えば、被写体が適正露出になるように蓄積時間を制御した適正露出画像と、青空のような高輝度被写体が適正露出となるように蓄積時間を制御したアンダー露出画像と、黒つぶれしそうな低輝度の被写体が適正露出となるように蓄積時間を制御したオーバー露出画像とを、期間T3に連続で撮影しておく。そして、高輝度部分はアンダー露出画像、低輝度部分はオーバー露出画像となるように、得られた3種類の露出の画像データを合成し、低輝度から高輝度まで再現された画像をDSP108で、期間T6に生成する。
【0111】
続いて、期間T6の経過後、CPU110は、基準同期信号のカウンタから、基準同期信号に対して位相差Δt1を設けて第2の同期信号がアサートされるようにタイミングパルス生成回路111を制御し、時刻t1302で第2の同期信号をアサートする。そして、時刻t1303ではLV画像用のリセット走査を開始し、時刻t1304でそれに対応するLV用画像信号の読み出しを開始すると共に、DSP108でLV用画像信号に対して補正処理を実施する。そして、時刻t1305で第3の同期信号がアサートされると、表示部114に時刻t1304で読み出しが開始されたLV用画像信号から生成されたLV画像の表示を始める。この時刻t1304以降は、期間T5の周期でLV用画像信号の読み出しを繰り返す。
【0112】
なお、HDR処理やフィルタ処理等の処理は、必ずしも期間T6に行う必要はなく、期間T6終了後のLV用画像信号の読み出し周期中に並行して行う構成としてもよい。
【0113】
また、本実施形態では、第2の同期信号を基準同期信号に対して位相差Δt1を設けてアサートされるようにタイミングパルス生成回路111を制御したが、例えば、第2の同期信号と第3の同期信号が位相差Δt1でアサートされるように、第3の同期信号のアサートタイミングをΔu1だけずらすようにタイミングパルス生成回路111に設定することで、時刻t1304をより早めることが可能である。このΔu1は、
図12で説明したように、期間T1,T2,T3,T6,T5の長さから計算することができる。つまり、時刻t1305で第3の同期信号がアサートされるようにΔu1を計算し、タイミングパルス生成回路111に設定する。この設定に基づいて、第3の同期信号がアサートされることで、静止画像の撮影後のLV画像の表示タイミングを早めることが可能となる。
【0114】
図13に示す第6の駆動モードで撮像動作を行うことで、撮り貯めた静止画用画像信号に対して先に画像処理を実行してから、LV用画像信号を読み出すことができる。その結果、HDR(ハイダイナミックレンジ)処理や、画像に特殊効果をかけるフィルタ処理のような、複雑な画像合成処理を行う場合においても、次の撮影をより早く許可することが可能となる。
【0115】
次に、
図14のフローチャートを参照して、駆動モードを切り替える例について説明する。なお、
図14のフローチャートの各ステップの処理は、特に断らない限り、CPU110が
図1に示す撮像装置の各部を制御することで実現される。なお、静止画像撮影釦が押下されたタイミングで、CPU110が本フローチャートの処理を実行する。
【0116】
S1401で、CPU110は、ユーザーが操作部115を介して設定したメニュー設定のうち、静止画像に対する画像処理方法について確認する。例えば、HDR処理が有効になっているか、特殊効果を画像にかけるフィルタ処理が有効になっているか、複数枚撮影によるNR処理が有効になっているか、多重露光設定が有効になっているか等である。ここでは、複数枚の静止画像を撮影して合成し、一枚の画像を生成する画像処理が実行されるメニューが設定されている場合には、S1402へ進み、それ以外の場合はS1403へ進む。
【0117】
S1402では、特殊撮影用の撮影シーケンスを実行する。ここでは、
図13に示した第6の駆動モードでのシーケンスのプログラムをロードする。
【0118】
次に、S1403では、ユーザーが操作部115を介して設定したメニュー設定のうち、連写モードについて確認する。例えば、連写モードに関して、Fastest、High+、High、Low、Singleの5段階あった場合、最速にあたる「Fastest」が設定されているかを判断し、最速設定がされている場合には、S1404へ進み、最速以外の連写モードが設定されている場合はS1405へ進む。
【0119】
S1404では、コマ速優先の撮影シーケンスを実行する。ここでは、
図11または
図12に示した第5の駆動モードでのシーケンスのプログラムをロードする。
【0120】
一方、S1405では、被写体追従性優先の撮影シーケンスを実行する。ここでは、例えば、第1
及び第2の実施形態で説明した
図4、
図5、
図8、
図9に示した第1乃至第4の駆動モードのいずれかでのシーケンスのプログラムをロードし、処理を終了する。なお、第1乃至第4の駆動モードの選択方法として、
図6及び
図10を参照して第1または第2の実施形態で説明した方法に従ってもよい。以降、ロードしたプログラムに従って、撮影を行う。
【0121】
以上説明したように、第3の実施形態によれば、ユーザーが設定した内容に応じて、撮影シーケンスを切り替えるため、ユーザーの設定に応じて、最適な撮影シーケンスで撮影することが可能となる。
【0122】
<他の実施形態>
なお、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、スキャナ、ビデオカメラなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0123】
また、本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0124】
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
【符号の説明】
【0125】
107:撮像素子、108:DSP、109:RAM、111:タイミングパルス生成回路、701a,701b:フォトダイオード