(58)【調査した分野】(Int.Cl.,DB名)
複数の画素が2次元に配列されている撮像素子を有し、該撮像素子の複数の画素の画像信号を1画素に対応する画像信号として読み出す画素加算読み出し法と、全画素又は一部の画素の画像信号を個別に読み出す切り出し読み出し法のうち、いずれか設定された読み出し方法に従って前記複数の画素の画像信号を読み出し、該画像信号を出力する撮像部と、
前記撮像部が出力した前記画像信号により定義される撮像画像を出力する信号処理部と、
ズーム倍率を指定するズーム信号に基づいてズーム倍率を設定するズーム設定部と、
被写体の明るさを示す被写体の明度を検出する明度検出部と、
前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較した結果に基づいて、前記読み出し方法を設定する読み出し方法切替制御部と、
を備えることを特徴とする撮像装置。
読み出し方法切替制御部は、前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較し、該比較により特定されたズーム倍率と閾値との大小関係と、前回行った前記比較により特定されたズーム倍率と閾値との大小関係と、が異なるときには、前記読み出し方法の切り替えを指示する切替信号を出力し、前記読み出し方法を切り替える、
ことを特徴とする請求項1に記載の撮像装置。
撮像素子の複数の画素の画像信号を1画素に対応する画像信号として読み出す画素加算読み出し法と、全画素又は一部の画素の画像信号を個別に読み出す切り出し読み出し法のうち、いずれかに設定された読み出し方法に従って前記複数の画素の画像信号を読み出し、該画像信号を出力する撮像ステップと、
前記撮像ステップで出力された前記画像信号により定義される撮像画像を出力する信号処理ステップと、
ズーム倍率を指定するズーム信号に基づいてズーム倍率を設定するズーム設定ステップと、
被写体の明るさを示す被写体の明度を検出する明度検出ステップと、
前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出ステップで検出された被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較した結果に基づいて、前記読み出し方法を設定する読み出し方法切替制御ステップと、
を備えることを特徴とする撮像方法。
【発明を実施するための形態】
【0018】
(実施形態1)
以下、図面を参照して、本発明の実施形態について詳細に説明する。本実施形態に係る撮像装置100は、
図1に示すように、撮像部1、信号処理部2、操作部3、明度検出部4、制御部5、記憶部6、及び表示部7を備えている。
【0019】
撮像部1は、レンズ部とイメージセンサ部とを備える。レンズ部は、複数のレンズ、フォーカス機構、光学ズーム機構、アイリス機構等を有する光学システムであり、被写体の像をイメージセンサ部の受光面に結像する。フォーカス機構、光学ズーム機構、アイリス機構等は、制御部5によって制御される。
【0020】
イメージセンサ部は、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の、複数の画素を2次元に配列して構成された撮像素子を有する。撮像素子の各画素は、レンズ部を介して入射する被写体からの光信号を電荷の量である画像信号に変換する。2次元に配列された画素の画像信号が撮像画像を構成する。この撮像素子は、水平方向(主走査方向)にn個(例えば、4800個)の画素、及び垂直方向(副走査方向)にm個(例えば、3600個)の画素を有する。イメージセンサ部は、制御部5によって設定された(後述する)読み出し方法に従って各画素の画像信号を読み出して出力する。
【0021】
信号処理部2は、撮像部1から出力される画像信号をアナログからデジタルに変換するA/D変換処理、デジタル化された画像信号を輝度信号と色差信号に分離する信号分離処理、ノイズ除去やエッジ強調等の高画質処理等の処理を施す。信号処理部2は、処理後の画像信号を記憶部6に記憶すると共に、画像信号を撮像画像として表示部7に出力する。また、信号処理部2は、制御部5から通知される電子ズーム(デジタルズーム)倍率に応じて、撮像画像の拡大や縮小等の電子ズーム処理を実行する。信号処理部2は、撮像画像を拡大・縮小する際には、表示部7の画素数や記録画像の画素数に合わせるために、撮像画像の変倍処理、トリミング等を実行する。
【0022】
操作部3は、ズーム操作部や電源スイッチ、シャッタスイッチ等の複数のスイッチを有し、ユーザの操作に応じて、その操作情報を制御部5に供給する。例えば、ユーザがズームボタン等で構成されるズーム操作部を操作すると、操作部3は、ズームアップ又はズームダウンの操作情報をズーム信号として制御部5に供給(出力)する。
【0023】
明度検出部4は、複数の撮像素子が配置されたイメージセンサを備え、被写体の明るさを示す被写体の明度を検出し、検出結果を検出明度として制御部5に送信する。ここで、被写体の明度とは、被写体を撮影した際に、イメージセンサの各撮像素子から出力される画像信号の信号量の平均値である。
【0024】
制御部5は、CPU(Central Processing Unit)等のプロセッサ、ROM(Read Only Memory)又はフラッシュメモリ等の制御プログラムを記憶するプログラムメモリ、RAM(Random Access Memory)等のワークメモリを有する。制御部5は、プログラムメモリに記憶されている制御プログラムをワークメモリに読み出して実行することにより、撮像部1、信号処理部2、操作部3、明度検出部4を制御し、各種処理を行う。また、制御部5は、記憶部6と表示部7を制御し、必要に応じて処理結果を記憶部6に記憶し、表示部7に表示する。
【0025】
制御部5は、機能構成要素としてズーム設定部51及び読み出し方法切替制御部52を備える。これらは、制御プログラムを実行することにより撮像装置100の各部を制御する。
【0026】
ズーム設定部51は、操作部3から入力されたズームアップ又はズームダウンの操作情報を知らせるズーム信号に基づいて、広角から望遠までの間の被写体に対するズーム倍率を設定する。また、ズーム設定部51は、ズーム倍率に基づいて、光学ズーム倍率と電子ズーム倍率を設定し、撮像部1の光学ズーム機構を光学ズーム倍率に従って制御すると共に、電子ズーム倍率を信号処理部2に通知する。なお、最終的なズーム倍率は、光学ズーム倍率と電子ズーム倍率の積である。
【0027】
読み出し方法切替制御部52は、ズーム設定部51によって設定されたズーム倍率、明度検出部4によって検出された検出明度(被写体の明度)に応じて、画像信号の読み出し方法を設定し、撮像部1のイメージセンサ部に通知する。画像信号の読み出し方法には、画素加算読み出し法と切り出し読み出し法とがある。
【0028】
記憶部6は、ハードディスク、フラッシュメモリ等の記憶装置から構成され、信号処理部2が出力する画像信号を記憶する。
【0029】
表示部7は、例えば、LCD(Liquid Crystal Display)や有機EL(Electro Luminescence)ディスプレイ等の表示画面から構成され、信号処理部2が出力する画像信号を撮像画像として表示する。
【0030】
画素加算読み出し法は、イメージセンサ部が有する撮像素子から画像信号を読み出して出力する際に、複数の画素の画像信号を1画素の画像信号として読み出す方法である。具体的には、画素加算読み出し法では、イメージセンサ部が、複数の画素の画像信号に加算処理又は平均処理を行い、1画素の画像信号として読み出す。画素加算読み出し法は、通常、広角側、すなわちズーム倍率が低い側で使用される。この読み出し方法では、解像度は、加算処理又は平均処理の対象となる画素の数に応じた程度で低下する。一方、複数の画素の画像信号について加算処理又は平均処理を行うことによって、画像信号に含まれるランダムノイズの割合は、切り出し読み出し法で画像信号に含まれるランダムノイズの割合より低くなる。なお、画素加算読み出し法を採用するには、撮像素子の画素数が表示部7の画素数や記録の際の画素数よりも大きいことが望ましい。
【0031】
切り出し読み出し法は、イメージセンサ部が有する撮像素子から画像信号を読み出して出力する際に、撮像素子の全領域又は一部領域を切り出して、その領域の画素の画像信号を、画素間の画像信号の加算処理又は平均処理を行うことなく、元の画素の画像信号のまま読み出す方法である。切り出し読み出し法は、通常、望遠側、すなわちズーム倍率が高い側で使用される。この読み出し方法では、解像度は低下しない。しかし、画素加算読み出し法に比べると画像信号に含まれるランダムノイズの割合が高い。
【0032】
両読み出し方法の具体例について
図2を参照して説明する。
図2の上段は、画素加算読み出し法による撮像画像の読み出しの例を示す。また、
図2の下段は、切り出し読み出し法による撮像画像の読み出しの例を示す。前述のように、イメージセンサ部のイメージセンサ11には撮像素子12が設置されている。ここでは、理解を容易にするため、撮像素子12は、水平方向に8個及び垂直方向に8個の計64個の画素で構成されているものとする。画像im101は、撮像素子12を構成する64個の画素の画像信号に基づいて生成した撮像画像の画像イメージである。なお、撮像画像は、64個より多くの画素で構成された撮像素子12により得られた撮像画像であってもよい。
【0033】
画素加算読み出し法においては、イメージセンサ部は、
図2に示すように、4個の画素の画像信号を加算して1画素の画像信号として読み出す。そして、イメージセンサ部は、読み出した画像信号に基づいて生成した画像im102のうち、表示対象となる出力画像im103を出力する。この例では、イメージセンサ部は、64個の画素の1/4である16個の画素に対応する出力画像im103を出力する。出力画像im103の画像イメージは、画像im104に示されている。この例では、画像im104は、画像im101全体の画像イメージに対応している。なお、
図2で加算対象となる4個の画素が一つおきに選択されている理由は、各画像信号がRBGの色差信号のうち、いずれかに対応しており、さらに、加算対象となる画像信号が同じ色相の色差信号に対応する画像信号だからである。
【0034】
一方、切り出し読み出し法においては、イメージセンサ部は、
図2に示すように、画像処理の対象となる撮像素子12の全画素のうち、画素加算読み出し法により出力された画像の画素数と同じ、水平方向、垂直方向共に4個の計16個の画素で構成される領域12aを切り出す。そして、イメージセンサ部は、切り出した領域12aに配列された16個の画素に対応する出力画像im105を出力する。出力画像im105の画像イメージは、画像im106に示されている。この画像im106は、64個の画素で構成される撮像素子12で得られた撮像画像である。また、画像im106には、画像im101の一部の領域に表示される画像イメージが画像im104が表示される領域と同じ領域に表示される。よって、画像im106は、画像im104がズームアップされた画像になっている。
【0035】
制御部5の読み出し方法切替制御部52は、ズーム倍率が読み出し方法の切替の閾値よりも低いときに画素加算読み出し法を設定し、ズーム倍率が読み出し方法の切替の閾値よりも高いときに切り出し読み出し法を設定する。
【0036】
本実施形態に係る撮像装置100の特徴は、読み出し方法の切替の閾値が、被写体の明度に依存して変化する閾値特性を有することにある。この閾値特性は、
図3に示す読み出し方法の切替の閾値ZOOM_THとして示される。閾値ZOOM_THは、被写体の明度Ba〜明度Bbの範囲で、被写体の明度の低下と共に、より高いズーム倍率値に変化する特性を有する。
【0037】
このような閾値特性にした理由は、被写体の明度が低下すると画像信号に含まれるランダムノイズの割合が増えて画質が劣化するため、被写体の明度が低下するほど、より高いズーム倍率まで画素加算読み出し法により画像信号を読み出すためである。これにより、被写体の明度が低下したとき、撮像画像の画質の劣化が抑えられる。
【0038】
図3に示す閾値特性では、被写体の明度が明度Baを超える場合には、従来と同様に、ズーム倍率A(倍率A)が読み出し方法の切替の閾値ZOOM_THとなる。被写体の明度が明度Bb(明度Bb<明度Ba)未満の場合には、読み出し方法の切替の閾値ZOOM_THは設定されていない。そのため、読み出し方法切替制御部52は、ズーム倍率によらず読み出し方法を画素加算読み出し法に設定する。被写体の明度Ba〜明度Bbの範囲では、閾値は被写体の明度に依存して変化する。
【0039】
図3に示された閾値特性は、例えば
図4に示すように、閾値特性テーブル71に、各被写体の明度の値にズーム倍率の閾値が対応するかたちで記憶される(閾値特性テーブル71は、記憶部6に記憶される。)。そして、該閾値特性は、必要に応じて読み出し方法切替制御部52により閾値特性テーブル71から読み出される。なお、閾値特性は、テーブル形式に代え関数形式等、可能な態様で記憶されてもよい。
【0040】
次に、
図5に示すフローチャートに従って撮像装置100のズーム時を含む撮像時の動作について説明する。
図5は動画を撮像する場合の撮像処理を示す。
【0041】
撮像装置100の制御部5は、操作部3から撮像開始信号が入力されているかどうかを判定する(ステップS1)。撮像開始信号は、撮像装置100のユーザにより操作部3を介して入力される。撮像開始信号が入力されていなければ(ステップS1;NO)、制御部5は、ステップS1に戻り撮像開始信号が入力されるまで待機する。
【0042】
撮像開始信号が入力されていれば(ステップS1;YES)、制御部5は、撮像部1を制御して撮像を開始する(ステップS2)。撮像が開始されると、撮像部1は、所定時間、画像信号を生成する(ステップS3)。そして、撮像部1は、生成した画像信号を読み出し、信号処理部2に出力する(ステップS4)。
【0043】
なお、撮像部1は、あらかじめ設定されている読み出し方法に従い、画像信号を読み出す。通常、撮像開始時には、読み出し方法は、画素加算読み出し法に設定されている。
【0044】
一方、明度検出部4は被写体の明度を検出し、検出明度として制御部5に送信する(ステップS5)。また、ズーム設定部51は、操作部3から入力されたズーム信号に基づきズーム倍率を設定する(ステップS6)。
【0045】
読み出し方法切替制御部52は、閾値特性に基づき、明度検出部4から受信した検出明度に対応する閾値を取得する。次に、読み出し方法切替制御部52は、取得した閾値とズーム設定部51が設定したズーム倍率との大小関係に応じて読み出し法を設定し、いずれの読み出し法を設定したかを示す情報を撮像部1に送信する(ステップS7)。なお、読み出し方法切替制御部52が取得した閾値とズーム設定部51が設定したズーム倍率との大小関係は、ズーム倍率の変化だけでなく検出明度の変化に伴う取得した閾値の変化によっても変化しうる。
【0046】
次に、制御部5は、操作部3から撮像停止信号が入力されたかどうかにより撮像停止の有無を判定し(ステップS8)、撮像停止無しと判定したときは(ステップS8;NO)、ステップS3に戻り、撮像部1での所定時間の画像信号の生成、すなわち撮像を継続する。制御部5は、撮像停止有りと判定したときは(ステップS8;YES)、操作部3を介して電源OFF信号が入力されたかどうかを判定する(ステップS9)。電源OFF信号が入力されていなければ(ステップS9;NO)、制御部5は、ステップS1に戻り、撮像開始信号の入力を待って待機する。電源OFF信号が入力されていれば(ステップS9;YES)、制御部5は、撮像処理を終了する。
【0047】
図5に示すフローチャートは、
図1に係る撮像装置100の動作だけではなく撮像方法をも示す。
【0048】
図6に本実施形態の変形例に係る撮像装置100の構成を示す。
図1との違いは、明度検出部4を信号処理部2の機能構成要素としたことである。信号処理部2は、既に説明したように画像信号を輝度信号と色差信号に分離する信号分離処理機能を有する。明度検出部4は、このときに各画素で得られる輝度信号についてその輝度レベルの平均値を算出し、これを明度として検出する。なお、明度検出においては、制御部5によって重要と判定された領域の画素に重み付けを行った後に輝度レベルの平均値を算出するようにしてもよい。
【0049】
図6の撮像装置100の動作は、
図5に示す撮像処理と同じである。
【0050】
このように、
図1及び
図6に示す撮像装置100は、ズーミング撮像時において、画像信号の読み出し法の切り替えに係るズーム倍率の閾値ZOOM_THを、被写体の明度に応じて変化させる。具体的には、被写体の明度が低い場合、撮像装置100は、被写体の明度の低下に応じて画素加算読み出し法で撮像するズーム倍率の範囲を望遠側に拡張する。従って、撮像装置100の読み出し方法の切替方法は、ズーム倍率の閾値が固定されている状態で読み出し方法を切り替える従来の切替方法に比べると、ランダムノイズによる画質劣化と画素加算による解像度低下に起因する画質劣化との間のバランスを考慮した画像が得られ、その分高品質な画質の撮像画像が得られる。この効果は、明度検出部4が独立したハードウェアとして設置されているか、それとも信号処理部2の機能構成要素として実現されているかを問わない。
【0051】
なお、
図1に示す構成の撮像装置100の場合は、明度検出部4は、信号処理部2とは独立した形で、例えば明度センサで構成されるので、被写体の明度を精度良く検出できる。
【0052】
一方、
図6に示す構成の撮像装置100の場合は、信号処理部2の機能構成要素に明度検出部4が含まれるので新たなハードウェアを設置する必要がない。従って、撮像装置100のコンパクト化に資することができ、さらに撮像装置100の製造コストを低減できるという効果を奏する。
【0053】
以上の説明では読み出し方法切替制御部52は、読み出し方法を設定するとしたが、読み出し方法の切替の有無を設定し、切替有りのとき切替信号を撮像部1のイメージセンサ部に出力してもよい。読み出し方法切替制御部52は、ズーム設定部51で設定したズーム倍率と、閾値特性及び検出明度に基づき取得した閾値との大小関係が変化したときに、切替有りとして切替信号を発生する。ここで、大小関係が変化したときとは、ズーミングの際にズーム倍率が変化した結果、閾値との大小関係が変化した場合と、被写体の明度の変化により検出明度が変化し、この検出明度と閾値特性に基づき取得した閾値が変化し、その結果取得した閾値とズーム倍率との大小関係が変化した場合とズーム倍率と閾値の両者が変化した結果両者の大小関係が変化した場合とを含む。
【0054】
なお、撮像部1のイメージセンサ部は、起動時の最初の読み出し方法をあらかじめイメージセンサ部に設定されている読み出し方法とし、切替信号が入力されたときはこれまでの読み出し方法を他の読み出し方法に切り替えて画像信号を読み出す。なお、起動時の最初の読み出し方法は、通常、画素加算読み出し法に設定される。
【0055】
図7に本実施形態の他の変形例に係る撮像装置100の構成を示す。
図6に示す構成との違いは、制御部5がゲイン設定部53を備えていることである。なお、
図7では明度検出部4が機能構成要素として信号処理部2に含まれている場合を例示している。
【0056】
ゲイン設定部53は、撮像部1のイメージセンサ部から出力される画像信号に乗じるゲイン値を設定し、撮像部1に送信する。このゲイン値は、自動露出(Automatic Exposure)において実行される自動利得制御(Automatic Gain Control)により、明度検出部4から入力された検出明度(被写体の明度)に基づいて設定される。撮像部1のイメージセンサ部は、画像信号に受信したゲイン値を乗じ、ゲイン値を乗じた画像信号を新たな画像信号として信号処理部2に出力する。
【0057】
画像信号にゲイン値を乗じる理由は、被写体の明度が、信号処理部2での画像信号の処理が容易になる明度より低い場合に、この明度まで被写体の明度を増幅するためである。従って、被写体の明度が低いとゲイン値は大きくなり、被写体の明度が高いとゲイン値は小さくなる。なお、ゲイン値は回路の制約上、ゲインの上限値と下限値が設定される。よって、ゲイン値は、被写体の明度がゲインの上限値に対応する明度以下ではゲインの上限値に固定され、ゲインの下限値に対応する明度以上ではゲインの上限値に固定される。
【0058】
このように、撮像部1から出力される画像信号にはゲイン値が乗じられている。よって、明度検出部4が信号処理部2の機能構成要素である場合、明度検出部4は、撮像部1から入力された画像信号に含まれる輝度レベルの平均値をゲイン値で除算(正規化)し、除算して得た明度を被写体の明度とする。
【0059】
ゲイン設定部53は、信号処理部2での画像信号の処理が容易になる明度を明度検出部4で検出された明度で除して、その結果得られる値をゲイン値として設定する。すなわち、新規のゲイン値は、信号処理部2での画像信号の処理が容易になる明度を明度検出部4で検出された明度で除算した結果得られる。
【0060】
また、
図7に示す構成の撮像装置100は、明度検出部4を信号処理部2の機能構成要素に含めているので、
図6に示す構成の撮像装置100と同様に、撮像装置100のコンパクト化に資することができ、さらに撮像装置100の製造コストを低減できるという効果を奏する。
【0061】
なお、制御部5がゲイン設定部53を備える場合は、読み出し方法切替制御部52は、被写体の明度に依存する閾値として定義される閾値特性に代えて、被写体の明度と対応付けられたゲイン値に依存する閾値として定義されるゲイン閾値特性を利用して、読み出し方法を設定してもよい。
【0062】
ゲイン閾値特性として
図8に閾値ZOOM_TH_Gを示す。
図8に示す閾値ZOOM_TH_Gは、ゲイン設定部53でのゲイン値の設定と同様に、信号処理部2での画像信号の処理が容易になる明度を
図3の閾値ZOOM_THの被写体の明度によって除算し、その結果得られるゲイン値に置き換えることにより得られる。
図8の縦軸に示すG
U、G
L、Ga、Gbはそれぞれゲインの上限値、ゲインの下限値、明度Baに対応するゲイン値、明度Bbに対応するゲイン値である。
【0063】
ゲイン閾値特性は、例えば記憶部6に記憶される閾値特性テーブル71に記憶される。読み出し方法切替制御部52は、この閾値特性テーブル71からゲイン閾値特性を読み出して利用する。なお、ゲイン閾値特性を記憶する閾値特性テーブル71は、例えば
図4の明度の各値がゲイン値に置き換られることにより、閾値がゲイン値に対応付けられる。
【0064】
読み出し方法切替制御部52は、この閾値特性を、記憶部6から閾値特性テーブル71の形で読み出し、読み出した閾値特性と、ズーム設定部51で設定されるズーム倍率と、ゲイン設定部53で設定されるゲイン値とに基づき読み出し方法を設定する。
【0065】
このようにゲイン閾値特性を利用して読み出し方法の切替を行う場合の撮像装置100の動作内容は、
図5に示す撮像処理のうち、ステップS5とステップS7を次のように変更することにより得られる。ステップS5では、まず、明度検出部4が被写体の明度を検出する。次に、ゲイン設定部53が検出明度に基づきゲイン値を設定する。ステップS7では、被写体の明度に基づき、という部分を被写体の明度に対応したゲイン値に基づき、に読み替える。
図5に示すフローチャートはゲイン閾値特性を利用する撮像装置100の動作だけではなく撮像方法をも示す。
【0066】
なお、読み出し方法切替制御部52は、設定した読み出し方法ではなく既に説明したように読み出し方法の切替信号を出力するようにしてもよい。
【0067】
図7に示す他の変形例では、明度検出部4が信号処理部2の機能構成要素である場合を示したが、
図1に示すように信号処理部2とは独立して設定された明度検出部4であってもよい。この場合も、ゲイン設定部53は、明度検出部4から得られる検出明度(被写体の明度)に基づきゲイン値を設定する。
【0068】
読み出し方法の切替にゲイン値を利用する撮像装置100は、ゲイン値が被写体の明度に対応付けられていることから、読み出し方法の切替に検出明度を利用する撮像装置100と同様の効果を奏することができる。
【0069】
(実施形態2)
本実施形態の撮像装置100について説明する。本実施形態における撮像装置100のハードウェアの構成は、
図1、
図6、又は
図7に示した実施形態1の撮像装置100のハードウェアの構成と比べると、読み出し方法切替制御部52の機能を除き同一である。よって、同一部分についての説明を省略し、読み出し方法切替制御部52についてのみ説明する。
【0070】
本実施形態の撮像装置100において、読み出し方法切替制御部52は、ヒステリシス特性を有する閾値特性に基づき読み出し方法を設定する点において実施形態1の読み出し方法切替制御部52と異なる。すなわち、本実施形態では、読み出し方法の切替に係るズーム倍率の閾値を被写体の明度に依存させると共に、広角側から望遠側にズーミング(ズームアップ)する場合と、望遠側から広角側にズーミング(ズームダウン)する場合とで、閾値を異なる値に設定する。
【0071】
ここで、ズーム倍率の変化にかかわらず、被写体の明度が一定であると仮定すると、広角側から望遠側にズームアップする場合には、画素加算読み出し法から切り出し読み出し法に切り替わる閾値は、
図9に示すように、閾値A(後述の閾値ZOOM_UP_THに対応)に設定される。一方、望遠側から広角側にズームダウンする場合には、切り出し読み出し法から画素加算読み出し法に切り替わる閾値は、
図9に示すように、閾値Aよりズーム倍率が小さい閾値A’(後述の閾値ZOOM_DOWN_THに対応)に設定される。
【0072】
実際は、ズーム倍率の変化に応じて被写体の明度も変化するので、本実施形態に係る撮像装置100の閾値特性は、
図10に示すように、被写体の明度に応じて閾値が変化するZOOM_UP_THとZOOM_DOWN_THの2種類の閾値を有する。
図10に示す例では、同一明度で比べると、閾値ZOOM_DOWN_THは閾値ZOOM_UP_TH上よりもズーム倍率の小さな値に設定されている。
【0073】
読み出し方法切替制御部52は、取得した閾値とズーム設定部51が設定したズーム倍率との大小関係を判定するとき、そのときの読み出し方法が2つの読み出し方法のうち、どちらであるかを判定する。読み出し方法切替制御部52は、画素加算読み出し法と判定したときは、閾値として閾値ZOOM_UP_THを記憶部6から読み出し、切り出し読み出し法と判定したときは、閾値として閾値ZOOM_DOWN_THを記憶部6から読み出す。
【0074】
次に、読み出し方法切替制御部52は、読み出した閾値ZOOM_UP_TH又はZOOM_DOWN_THから検出明度に対応した閾値を取得し、ズーム設定部51で設定されたズーム倍率と取得した閾値との大小関係を判定して、その結果に応じた読み出し方法を設定する。
【0075】
具体的には、読み出し方法切替制御部52は、次のように読み出し方法を設定する。まず、読み出し方法切替制御部52は、現時点の読み出し方法が2つの読み出し方法のうちどちらの方法に設定されているかを判定する。判定の結果、読み出し方法が画素加算読み出し法に設定されていれば、読み出し方法切替制御部52は、閾値ZOOM_UP_THから検出明度に対応する閾値を取得する。次に、読み出し方法切替制御部52は、ズーム設定部51で設定されたズーム倍率がこの閾値以上であれば、読み出し方法を切り出し読み出し法に設定し、この閾値未満であれば読み出し方法を画素加算読み出し法に設定する。逆に、現時点の読み出し方法が切り出し読み出し法であれば、読み出し方法切替制御部52は、閾値ZOOM_DOWN_THから検出明度に対応する閾値を取得する。次に、設定されたズーム倍率がこの閾値以下であれば、読み出し方法を画素加算読み出し法に設定し、この閾値より大きければ読み出し方法として切り出し読み出し法を設定する。
【0076】
なお、検出明度は、ズーム操作だけでなく、被写体により変化しうる。そのため、ズーム操作によりズーム倍率が変化しなくても、被写体の変化に応じて、取得した閾値も変化しうる。従って、ズーム倍率と閾値との大小関係の変化は、ズーム操作によりズーム倍率が変化しない場合であっても、取得した閾値がこれまでとは異なる値に変化することにより変化しうる。
【0077】
閾値にヒステリシス特性を持たせる理由は、撮像装置100が読み出し方法の切替に時間を割かれて画像信号のスムーズな読み出しができなくなり、制御不能となるような事態を避けるためである。例えば、動画撮像時において、閾値近傍でズームアップとズームダウンとを頻繁に行うと、ズーム設定部51により設定されたズーム倍率と閾値との大小関係が頻繁に変化する。そのため、読み出し方法の切替が頻繁に発生しうる。その場合、撮像装置100は読み出し方法の切替に時間を割かれて画像信号のスムーズな読み出しができなくなる恐れがある。
【0078】
本実施形態に係る撮像装置100の撮像動作は、
図5に示す撮像処理の内容と同様であるが、読み出し方法切替制御部52に係るステップS7の処理内容について一部異なる。なお、ステップS7の処理内容は、本実施形態に係る読み出し方法切替制御部52について説明した内容と同じである。従って、このような前提で
図5に示すフローチャートは撮像装置100の撮像動作だけでなく撮像方法をも示す。
【0079】
なお、読み出し方法切替制御部52は、読み出し方法を設定するのではなく、読み出し方法の切替の有無を設定し、切替有りのとき切替信号を撮像部1のイメージセンサ部に出力してもよい。この場合の撮像部1のイメージセンサ部は、切替信号が入力されるとこれまでの読み出し方法を他の読み出し方法に切り替えて画像信号を読み出す。起動時の最初の読み出し方法は、通常、画素加算読み出し法に設定されている。
【0080】
図11に、読み出し方法切替制御部52が切替信号を出力する場合について、本実施形態に係る撮像装置100の読み出し方法が他の読み出し方法に遷移する条件をまとめた。撮影装置100は、リセット状態(S101)から撮影を開始すると、画素加算読み出し法(ステップS102)に遷移する。画素加算読み出し法(ステップS102)から切り出し読み出し法(ステップS103)に遷移する条件は、ズーム倍率が閾値ZOOM_UP_THの検出明度に対応する値以上になったときである(ステップS104)。
【0081】
一方、切り出し読み出し法(ステップS103)から画素加算読み出し法(ステップS102)に遷移する条件は、ズーム倍率が閾値ZOOM_DOWN_THの検出明度に対応する値以下になったときである(ステップS105)。
【0082】
図10に示す閾値特性は、
図12に示す閾値特性であってもよい。これらの閾値特性の違いは、
図10では閾値ZOOM_UP_THと閾値ZOOM_DOWN_THとはズーム倍率B、明度Bbで1点に収束するが、
図12では、明度Bbでは1点に収束せず、閾値ZOOM_DOWN_THは常に閾値ZOOM_UP_THよりもズーム倍率の小さな値になっている点にある。
図10に示す閾値特性では、同じ検出明度に対応する閾値ZOOM_UP_THと閾値ZOOM_DOWN_THを比べると、検出明度が低下する程、ヒステリシス特性を示すズーム倍率に係る両閾値間の幅、すなわち両閾値のズーム倍率の差は小さくなる。そして、検出明度が明度Bbになるとその差は0になり、
図10に示す閾値特性は、ヒステリシス特性を喪失してしまう。しかし、
図12に示す閾値特性では、閾値が設定されている全範囲で閾値ZOOM_UP_THと閾値ZOOM_DOWN_THとが交差する点は存在しない。従って、
図12に示す閾値特性は、ヒステリシス特性を喪失してしまうことはない。
図13は、
図12の明度Bc、明度Bd、明度Beのそれぞれにおける閾値のヒステリシス特性を示したものである。ヒステリシス特性を示すズーム倍率に係る両閾値間の幅は、明度Bcでw
1、明度Bdでw
2、明度Beでw
3である。w
1〜w
3の大小関係は、閾値ZOOM_UP_THと閾値ZOOM_DOWN_THのそれぞれの中で、明度が低下すると閾値がズーム倍率の高い側に変化する部分の勾配の差を調整することにより調整される。
【0083】
本実施形態に係る撮像装置100によれば、ズーム倍率についての読み出し方法の切替の閾値を被写体の明度に依存して変化させると共に、その閾値にヒステリシス特性を持たせたので、実施形態1と同様の効果を奏し、且つ広角側と望遠側との間でズームアップ操作及びズームダウン操作を頻繁に行った場合でも、撮像装置100が制御不能になることを防止することができる。
【0084】
なお、
図10又は
図12に示す閾値特性においては、閾値ZOOM_UP_THと閾値ZOOM_DOWN_THとの関係は、被写体の明度が同じであれば、閾値ZOOM_UP_THが閾値ZOOM_DOWN_THよりも大きい値に設定されたものとしたが、閾値ZOOM_UP_THが閾値ZOOM_DOWN_THよりも小さな値に設定されたものであってもよい。この場合でも、撮像装置100は、広角側と望遠側との間でズームアップ操作及びズームダウン操作が頻繁に行われたとき、撮像装置100が制御不能になることを防止することができる。
【0085】
なお、
図7に示す撮像装置100に係る閾値特性は、
図8に示すようなゲイン値の変化に応じて閾値が変化する特性を有しているが、
図1または
図6等に示す撮像装置100と同様に、ヒステリシス特性を有していても良い。従って、
図7に示す撮像装置100は、本実施形態で説明した効果と同様の効果を奏する。
【0086】
(実施形態3)
本実施形態について説明する。本実施形態に係る撮像装置100を、
図14に示す。
図14に示す撮像装置100は、
図1に示す撮像装置100に、コーデック部8(画像圧縮部81、画像伸張部82を含む)、及び表示制御部9を付加したものである。また、操作部3には、コーデック部8による画像圧縮の際の画像圧縮率(圧縮率と呼ぶ)を指定する画像圧縮設定スイッチが設けられている。なお、他のハードウェアの構成は、
図1に示した実施形態1のハードウェアの構成と基本的に同じであるので、同一の符号で示す。また、ハードウェアの構成については重複する説明を省略する。このようなコーデック部8を有する撮像装置100は、例えば、カメラ付き携帯電話等に採用されている。
【0087】
操作部3は、ユーザによる画像圧縮設定スイッチの操作により、ユーザが指定する画像圧縮の際の圧縮率を制御部5に入力する。
【0088】
コーデック部8の画像圧縮部81は、信号処理部2によって高画質処理がなされた画像信号で形成される撮像画像に、ユーザが指定する圧縮率により画像圧縮処理を行って、画像圧縮処理により生成された圧縮画像を記憶部6に記憶する。また、コーデック部8の画像伸張部82は、記憶部6から読み出した圧縮画像に画像伸張処理を行う。表示制御部9は、画像伸張処理により生成された撮像画像を表示部7に表示する。
【0089】
本実施形態に係る撮像装置100が備える閾値特性(ここでは圧縮率対応閾値特性と呼ぶ)は、異なる複数の圧縮率毎に、
図3に示すような閾値ZOOM_THを有する。
図15に一例を示す。
図15に示す圧縮率対応閾値特性は、例えば3つの圧縮率a、b、c(圧縮率iで代表させる)毎に閾値ZOOM_THa、閾値ZOOM_THb、閾値ZOOM_THc(ZOOM_THiで代表させる)で示す閾値特性を有する。圧縮率は、圧縮率c、b、aの順に高い。閾値ZOOM_THiは、圧縮率iが高いほどズーム倍率のより高い側にシフトしたものとなっている。
【0090】
読み出し方法切替制御部52は、
図15に例示する閾値ZOOM_THiのうち、操作部3から入力された圧縮率jに対応する閾値ZOOM_THjを抽出する。具体例を説明する。閾値特性は、
図16に例示するように、閾値特性テーブル71に、圧縮率i毎に複数の明度が対応付けられ、さらに複数の明度に閾値(ズーム倍率)が1対1で対応付けられて記憶されている。読み出し方法切替制御部52は、この閾値特性データを記憶部6から読み出す。次に、読み出し方法切替制御部52は、読み出した閾値特性データから検出明度に等しい明度に対応付けられた閾値を抽出する。閾値特性データに圧縮率jと等しい圧縮率iが無ければ、読み出し方法切替制御部52は、圧縮率jとの圧縮率の差が最も小さいものから順に圧縮率iを2つ抽出し、該2つの圧縮率iに係る閾値特性データを読み出す。次に、読み出し方法切替制御部52は、抽出した2つの圧縮率iに係る閾値特性データのうち、検出明度に等しい明度に対応付けられた閾値を抽出し、圧縮率に関する補間又は補外計算により圧縮率jに対応する閾値を算定する。抽出した2つの圧縮率iに係る閾値特性データのなかに検出明度と等しい明度がない場合は、読み出し方法切替制御部52は、明度に関する補間又は補外計算により検出明度に対応する閾値を算定する。その後の読み出し方法切替制御部52の処理は、実施形態1で説明した内容と同じである。
【0091】
本実施形態に係る撮像装置100の動作については上記読み出し方法切替制御部52での処理内容を除き実施形態1の場合と同じなので説明を省略する。
【0092】
なお、明度検出部4は、
図6に示すように信号処理部2の機能構成要素であってもよい。また、実施形態1の変形例で説明したように、制御部5は、機能構成要素としてゲイン設定部53を備え、閾値特性を、
図8に示すように明度をゲイン値に置き換えて変換するもの(明度−ゲイン特性)であってもよい。
【0093】
本実施形態に係る撮像装置100では、画像圧縮の際の圧縮率が高くなるほどノイズ成分に多くの情報が使われるため圧縮画像の画質が低下する。一方、該撮像装置100は、
図15に示すように圧縮率が高くなるほど、読み出し方法の切替の閾値がズーム倍率の高い方にシフトする閾値特性を有する。すなわち、該撮像装置100は、画像圧縮処理による画像の圧縮率が高くなるほど、より高いズーム倍率まで画像信号を画素加算読み出し法で読み出すことになる。そのため、該撮像装置100は、画像の圧縮率が高い場合、画像信号を画素加算読み出し法で読み出すことにより画像信号に含まれるノイズ成分の割合を低減させるので、圧縮画像の画質の低下を防止できる。
【0094】
また、本実施形態において、
図15に例示するZOOM_THa、ZOOM_THb、ZOOM_THcのそれぞれにヒステリシス特性を持たせる構成にしてもよい。この場合には、広角側と望遠側との間でズームアップ操作及びズームダウン操作を高い頻度で行っても、撮像装置100が制御不能になることを防止することができる。
【0095】
図17は、
図1、
図6、
図7、
図14に示す実施形態1〜3に係る撮像装置100のコンピュータとしてのハードウェア構成例を示すブロック図である。撮像装置100は、制御装置110、主記憶装置120、外部記憶装置130、入出力装置140を備える。主記憶装置120、外部記憶装置130、入出力装置140はいずれもバスライン150を介して制御装置110に接続されている。
【0096】
図1、
図6、
図7、
図14の撮像部1、信号処理部2、操作部3、及び明度検出部4は、入出力装置140に対応する。また、
図1、
図6、
図7、
図14の制御部5は、制御装置110と主記憶装置120とで構成される。外部記憶装置130は、
図1、
図6、
図7、
図14の記憶部6に対応し、制御用プログラムの格納、閾値特性のデータの記憶、撮像画像の記憶等に用いられる。
【0097】
制御装置110は、CPU111を備える。また、CPU111は、外部記憶装置130に記憶されている制御プログラム200を主記憶装置120に読み出して実行することにより各種処理を実行する。
図1、
図6、
図7、
図14に示すズーム設定部51、読み出し方法切替制御部52及び
図7に示すゲイン設定部53は、いずれもCPU111が制御プログラム200を実行することによりその機能が実現される制御部5の機能構成要素である。
【0098】
なお、
図5に示す撮像処理はコンピュータとしての撮像装置100が実行するプログラムの内容をも示している。
【0099】
なお、上記実施形態において、被写体の明度は、被写体を撮影した際に、イメージセンサの各撮像素子から出力される画像信号の信号量の平均値であるとした。しかし、これに限定されず、被写体の明度を示す値であればどのような値でもよい。例えば、被写体の明度は、各撮像素子から出力される画像信号の信号量の中央値、最頻値等であってもよい。
また、上記実施形態において、輝度レベルの平均値を被写体の明度としたが、これに限定されず、光度、照度等に基づいて算出された値を被写体の明度としてもよい。
【0100】
なお、上記各実施形態において、実行されるプログラムは、フレキシブルディスク、CD−ROM(Compact Disc Read-Only Memory)、DVD(Digital Versatile Disc)、MO(Magneto-Optical disc)等のコンピュータ読み取り可能な記録媒体に格納して配布し、そのプログラムをインストールすることにより、上述の処理を実行するシステムを構成することとしてもよい。
【0101】
また、プログラムをインターネット等の通信ネットワーク上の所定のサーバ装置が有するディスク装置等に格納しておき、例えば、搬送波に重畳させて、ダウンロード等するようにしてもよい。
【0102】
なお、上述の機能を、OSが分担して実現する場合又はOSとアプリケーションとの協働により実現する場合等には、OS以外の部分のみを媒体に格納して配布してもよく、また、ダウンロード等してもよい。
【0103】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【0104】
(付記1)
複数の画素が2次元に配列されている撮像素子を有し、該撮像素子の複数の画素の画像信号を1画素に対応する画像信号として読み出す画素加算読み出し法と、全画素又は一部の画素の画像信号を個別に読み出す切り出し読み出し法のうち、いずれか設定された読み出し方法に従って前記複数の画素の画像信号を読み出し、該画像信号を出力する撮像部と、
前記撮像部が出力した前記画像信号により定義される撮像画像を出力する信号処理部と、
ズーム倍率を指定するズーム信号に基づいてズーム倍率を設定するズーム設定部と、
被写体の明るさを示す被写体の明度を検出する明度検出部と、
前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較した結果に基づいて、前記読み出し方法を設定する読み出し方法切替制御部と、
を備えることを特徴とする撮像装置。
【0105】
(付記2)
前記閾値特性は、前記被写体の明度の低下に応じて前記閾値が高くなる特性を有し、
前記読み出し方法切替制御部は、前記閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較し、前記設定されたズーム倍率が前記特定された閾値より小さい場合、前記読み出し方法を画素加算読み出し法に設定し、前記設定されたズーム倍率が前記特定された閾値より大きい場合、前記読み出し方法を前記切り出し読み出し法に設定する、
ことを特徴とする付記1に記載の撮像装置。
【0106】
(付記3)
前記閾値特性は、前記読み出し方法毎に前記被写体の明度に応じて閾値が変化する特性を有し、
前記読み出し方法切替制御部は、現在設定されている読み出し方法に対応する前記閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値との比較結果に基づいて前記読み出し方法を設定する、
ことを特徴とする付記1又は2に記載の撮像装置。
【0107】
(付記4)
画像圧縮率を示す圧縮率情報に基づいて前記信号処理部が出力した前記撮像画像を圧縮する画像圧縮部を備え、
前記閾値特性は、前記画像圧縮率毎に前記被写体の明度に応じて閾値が変化する特性を有し、
前記読み出し方法切替制御部は、前記画像圧縮率に対応する前記閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する前記閾値を特定し、前記設定されたズーム倍率と前記特定された閾値との比較結果に基づいて前記読み出し方法を設定する、
ことを特徴とする付記1又は2に記載の撮像装置。
【0108】
(付記5)
前記被写体の明度に応じてゲイン値が変化する明度−ゲイン特性に基づいて、前記明度検出部が検出した被写体の明度に対応するゲイン値を設定するゲイン設定部を備え、
前記撮像部は、前記読み出した画像信号に前記設定したゲイン値を乗じて該画像信号を増幅し、該増幅した画像信号を出力し、
前記閾値特性は、前記明度−ゲイン特性と、前記明度−ゲイン特性に基づいて定まるゲイン値に応じて前記閾値が変化する特性と、を有し、
前記読み出し方法切替制御部は、前記閾値特性に基づいて、前記設定したゲイン値に対応する前記閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較し、前記設定されたズーム倍率が前記特定された閾値より小さい場合、前記読み出し方法を画素加算読み出し法に設定し、前記設定されたズーム倍率が前記特定された閾値より大きい場合、前記読み出し方法を前記切り出し読み出し法に設定する、
ことを特徴とする付記1に記載の撮像装置。
【0109】
(付記6)
前記明度検出部は、明度センサを備える、
ことを特徴とする付記1乃至5のいずれか1に記載の撮像装置。
【0110】
(付記7)
前記明度検出部は、前記撮像部が出力する前記複数の画素の画像信号に基づいて前記被写体の明度を求める、
ことを特徴とする付記1乃至5のいずれか1に記載の撮像装置。
【0111】
(付記8)
読み出し方法切替制御部は、前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出部が検出した被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較し、該比較により特定されたズーム倍率と閾値との大小関係と、前回行った前記比較により特定されたズーム倍率と閾値との大小関係と、が異なるときには、前記読み出し方法の切り替えを指示する切替信号を出力し、前記読み出し方法を切り替える、
ことを特徴とする付記1に記載の撮像装置。
【0112】
(付記9)
撮像素子の複数の画素の画像信号を1画素に対応する画像信号として読み出す画素加算読み出し法と、全画素又は一部の画素の画像信号を個別に読み出す切り出し読み出し法のうち、いずれかに設定された読み出し方法に従って前記複数の画素の画像信号を読み出し、該画像信号を出力する撮像ステップと、
前記撮像ステップで出力された前記画像信号により定義される撮像画像を出力する信号処理ステップと、
ズーム倍率を指定するズーム信号に基づいてズーム倍率を設定するズーム設定ステップと、
被写体の明るさを示す被写体の明度を検出する明度検出ステップと、
前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出ステップで検出された被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較した結果に基づいて、前記読み出し方法を設定する読み出し方法切替制御ステップと、
を備えることを特徴とする撮像方法。
【0113】
(付記10)
コンピュータに、
撮像素子の複数の画素の画像信号を1画素に対応する画像信号として読み出す画素加算読み出し法と、全画素又は一部の画素の画像信号を個別に読み出す切り出し読み出し法のうち、いずれかに設定された読み出し方法に従って前記複数の画素の画像信号を読み出し、該画像信号を出力する撮像ステップと、
前記撮像ステップで出力された前記画像信号により定義される撮像画像を出力する信号処理ステップと、
ズーム倍率を指定するズーム信号に基づいてズーム倍率を設定するズーム設定ステップと、
被写体の明るさを示す被写体の明度を検出する明度検出ステップと、
前記被写体の明度に応じて閾値が変化する閾値特性に基づいて、前記明度検出ステップで検出された被写体の明度に対応する閾値を特定し、前記設定されたズーム倍率と前記特定された閾値とを比較した結果に基づいて、前記読み出し方法を設定する読み出し方法切替制御ステップと、
を実行させるプログラムを格納することを特徴とするコンピュータ読み取り可能な記録媒体。
【0114】
なお、本発明は、本発明の広義の趣旨及び範囲を逸脱することなく、様々な実施形態及び変形が可能とされるものである。また、上述した実施形態は、本発明を説明するためのものであり、本発明の範囲を限定するものではない。つまり、本発明の範囲は、実施形態ではなく、特許請求の範囲によって示される。そして、特許請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、本発明の範囲内とみなされる。
【0115】
本発明は、2011年9月13日に出願された日本国特許出願2011−199992号に基づく。本明細書中に日本国特許出願2011−199992号の明細書、特許請求の範囲、図面全体を参照として取り込むものとする。