(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023086562
(43)【公開日】2023-06-22
(54)【発明の名称】撮像装置
(51)【国際特許分類】
H04N 25/62 20230101AFI20230615BHJP
【FI】
H04N5/359
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2021201163
(22)【出願日】2021-12-10
(71)【出願人】
【識別番号】000001122
【氏名又は名称】株式会社日立国際電気
(74)【代理人】
【識別番号】110000062
【氏名又は名称】弁理士法人第一国際特許事務所
(72)【発明者】
【氏名】梶村 佳弘
(72)【発明者】
【氏名】手塚 浩貴
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CX03
5C024GY01
5C024GY31
5C024GZ37
5C024GZ38
5C024HX21
5C024HX28
5C024HX29
5C024HX30
(57)【要約】
【課題】簡単な構成によりストリーキングを精度良く抑制することが可能な撮像装置を提供することを目的とする。
【解決手段】光を感知する有効領域と前記有効領域の少なくとも左右一端に配置され遮光された水平遮光領域を有して映像信号を出力する撮像素子と、前記映像信号から前記水平遮光領域における黒レベルの沈み込み量を検出する水平遮光領域平滑化部と、前記映像信号から補償パラメータを検出して補償値を算出する補償値算出部と、前記水平遮光領域平滑化部からの黒レベルの沈み込み量と前記補償値算出部からの前記補償値を用いてストリーキング現象を抑制するために前記映像信号を補正する補正値を算出する補正値算出部と、を備え、前記補償パラメータは、所定以上の光の強さの信号の水平方向の幅の値を用いる。
【選択図】
図5
【特許請求の範囲】
【請求項1】
光を感知する有効領域と前記有効領域の少なくとも左右一端に配置され遮光された水平遮光領域を有して映像信号を出力する撮像素子と、
前記映像信号から前記水平遮光領域における黒レベルの沈み込み量を検出する水平遮光領域平滑化部と、
前記映像信号から補償パラメータを検出して補償値を算出する補償値算出部と、
前記水平遮光領域平滑化部からの黒レベルの沈み込み量と前記補償値算出部からの前記補償値を用いてストリーキング現象を抑制するために前記映像信号を補正する補正値を算出する補正値算出部と、を備え、
前記補償パラメータは、所定以上の光の強さの信号の水平方向の幅の値を用いることを特徴とする撮像装置。
【請求項2】
光を感知する有効領域と前記有効領域の少なくとも左右一端に配置され遮光された水平遮光領域を有して映像信号を出力する撮像素子と、
前記映像信号から前記水平遮光領域における黒レベルの沈み込み量を検出する水平遮光領域平滑化部と、
前記映像信号から補償パラメータを検出して補償値を算出する補償値算出部と、
前記水平遮光領域平滑化部からの黒レベルの沈み込み量と前記補償値算出部からの前記補償値を用いてストリーキング現象を抑制するために前記映像信号を補正する補正値を算出する補正値算出部と、を備え、
前記補償パラメータは、所定以上の光の強さの信号の位置と前記水平遮光領域との距離の値を用いることを特徴とする撮像装置。
【請求項3】
光を感知する有効領域と前記有効領域の少なくとも左右一端に配置され遮光された水平遮光領域を有して映像信号を出力する撮像素子と、
前記映像信号から前記水平遮光領域における黒レベルの沈み込み量を検出する水平遮光領域平滑化部と、
前記映像信号から補償パラメータを検出して補償値を算出する補償値算出部と、
前記水平遮光領域平滑化部からの黒レベルの沈み込み量と前記補償値算出部からの前記補償値を用いてストリーキング現象を抑制するために前記映像信号を補正する補正値を算出する補正値算出部と、を備え、
前記補償パラメータは、所定以上の光の強さの値を用いることを特徴とする撮像装置。
【請求項4】
請求項1に記載の撮像装置において、
前記補償値算出部は、前記映像信号の水平1ラインごとに、前記映像信号から所定以上の光の強さの信号の幅に比例した補償値を算出し、
前記補正値算出部は、黒レベルの沈み込み量に基づく補正値に対して前記補償値により補償した補正値を算出することを特徴とする撮像装置。
【請求項5】
請求項2に記載の撮像装置において、
前記補償値算出部は、前記映像信号の水平1ラインごとに、前記映像信号から所定以上の光の強さの信号の中心位置と前記水平遮光領域までの距離に比例した補償値を算出し、
前記補正値算出部は、黒レベルの沈み込み量に基づく補正値に対して前記補償値により補償した補正値を算出することを特徴とする撮像装置。
【請求項6】
請求項3に記載の撮像装置において、
前記補償値算出部は、前記映像信号の水平1ラインごとに、前記映像信号から所定以上の光の強さの信号のレベルに比例した補償値を算出し、
前記補正値算出部は、黒レベルの沈み込み量に基づく補正値に対して前記補償値により補償した補正値を算出することを特徴とする撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置に関し、特に、イメージセンサ等において発生するストリーキングの影響を低減する撮像装置に関する。
【背景技術】
【0002】
従来より、CCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等のイメージセンサに強い光が入射した際に、画像に無い横筋(ストリーキング)が生じてしまうことがある。これは近年、高画素、大判化するイメージセンサの電源供給部から各画素を接続する電源ラインが細くかつ長くなることが影響している。この影響により電源ラインの内部抵抗による電圧降下が発生し、電源供給部からの位置により各画素に供給される電圧に差が生じる。これらのことがストリーキングの原因にあげられる。
【0003】
このような現象に対して、一般的にはイメージセンサ遮光領域(Optical Black領域)の信号を使って有効領域の信号を補正する手法が各種提案されている。
【0004】
例えば、特許文献1には、撮像素子の水平遮光部(水平OB部)における各ラインの信号レベルから、垂直遮光部(垂直OB部)における黒レベルを減算することで、ストリーキング補正信号を生成し、有効画素領域における信号からストリーキング補正信号を減算することでストリーキングを補正する手法が提案されている。
【0005】
また、特許文献2には、有効画素領域を複数のブロックに分割して各ブロック毎にストリーキング補正信号を生成する手法が提案されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2008-236271号公報
【特許文献2】特開2020-17910号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1の手法では、有効画素領域から水平遮光部の平均値を減算するのみである。このため、高輝度信号が入射する位置が水平遮光部から離れるに従い生じる、電源ラインの内部抵抗の変化によるストリーキング増加に対応できない。また、入射する光の水平方向の幅によってもストリーキング量が変化するため、ストリーキングの補正信号に過不足が生じてしまい、映像信号には補正誤差が残ることになる。
【0008】
また、特許文献2の手法では、高画素化かつ大判化するイメージセンサにおいて、多数の分割ブロック毎のストリーキング補正信号の管理は、撮像装置の回路構成が大規模かつ複雑になる。
【0009】
本発明では、上記課題に鑑みて、簡単な構成によりストリーキングを精度良く抑制することが可能な撮像装置を提供することを目的とする。
【課題を解決するための手段】
【0010】
上記目的を達成するため、代表的な本発明の撮像装置の一つは、光を感知する有効領域と前記有効領域の少なくとも左右一端に配置され遮光された水平遮光領域を有して映像信号を出力する撮像素子と、前記映像信号から前記水平遮光領域における黒レベルの沈み込み量を検出する水平遮光領域平滑化部と、前記映像信号から補償パラメータを検出して補償値を算出する補償値算出部と、前記水平遮光領域平滑化部からの黒レベルの沈み込み量と前記補償値算出部からの前記補償値を用いてストリーキング現象を抑制するために前記映像信号を補正する補正値を算出する補正値算出部と、を備え、前記補償パラメータは、所定以上の光の強さの信号の水平方向の幅の値を用いることを特徴とする。
【発明の効果】
【0011】
本発明によれば、撮像装置において、簡単な構成によりストリーキングを精度良く抑制できる。
上記以外の課題、構成及び効果は、以下の実施形態により明らかにされる。
【図面の簡単な説明】
【0012】
【
図1】
図1は、本開示の実施形態による態様を実施するためのコンピュータシステムのブロック図である。
【
図2】
図2は、本発明の撮像装置の一実施形態を示す構成図である。
【
図3】
図3は、本発明の撮像装置で用いることができる撮像素子の受光部の第1の例を示し、左端に水平遮光領域がある撮像素子の受光部を示す図である。
【
図4】
図4は、本発明の撮像装置で用いることができる撮像素子の受光部の第2の例を示し、両端に水平遮光領域がある撮像素子の受光部を示す図である。
【
図5】
図5は、本発明の撮像装置におけるストリーキング補正部の構成の一例を示す図である。
【
図6】
図6は、
図3に示した撮像素子でストリーキングを生じた場合の第1の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)は座標xの各位置における、座標yと画素値Iの関係を示した図である。
【
図7】
図7は、
図6の第1の例に対して本発明の撮像装置による補正を説明する図であり、(C-1)はストリーキング信号の補正前の状態を示し、(C-2)は、補正後の状態を示した図である。
【
図8】
図8は、
図3に示した撮像素子でストリーキングを生じた場合の第2の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)は座標xの各位置における、座標yと画素値Iの関係を示した図である。
【
図9】
図9は、
図8の第2の例に対して本発明の撮像装置による補正を説明する図であり、(C-1)はストリーキング信号の補正前の状態を示し、(C-2)は補償なしの場合の補正後の状態を示し、(C-3)は補償ありの場合の補正後の状態を示した図である。
【
図10】
図10は、
図3に示した撮像素子でストリーキングを生じた場合の第3の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)は座標xの各位置における、座標yと画素値Iの関係を示した図である。
【
図11】
図11は、
図10の第3の例に対して本発明の撮像装置による補正を説明する図であり、(C)はストリーキング信号の補正前の状態を示し、(C-2)は補償なしの場合の補正後の状態を示し(C-3)は補償ありの場合の補正後の状態を示した図である。
【発明を実施するための形態】
【0013】
本発明の実施形態について図面を用いて説明する。
【0014】
<実施形態による態様を実施するためのコンピュータシステム>
図1は、本開示の実施形態による態様を実施するためのコンピュータシステム300のブロック図である。本明細書で開示される様々な実施形態の機構及び装置は、任意の適切なコンピューティングシステムに適用されてもよい。コンピュータシステム300の主要コンポーネントは、1つ以上のプロセッサ302、メモリ304、端末インターフェース312、ストレージインターフェース314、I/O(入出力)デバイスインターフェース316、及びネットワークインターフェース318を含む。これらのコンポーネントは、メモリバス306、I/Oバス308、バスインターフェースユニット309、及びI/Oバスインターフェースユニット310を介して、相互的に接続されてもよい。
【0015】
コンピュータシステム300は、プロセッサ302と総称される1つ又は複数の処理装置302A及び302Bを含んでもよい。各プロセッサ302は、メモリ304に格納された命令を実行し、オンボードキャッシュを含んでもよい。ある実施形態では、コンピュータシステム300は複数のプロセッサを備えてもよく、また別の実施形態では、コンピュータシステム300は単一の処理装置によるシステムであってもよい。処理装置としては、CPU(Central Processing Unit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processong Unit)、DSP(Digital Signal Processor)等を適用できる。
【0016】
ある実施形態では、メモリ304は、データ及びプログラムを記憶するためのランダムアクセス半導体メモリ、記憶装置、又は記憶媒体(揮発性又は不揮発性のいずれか)を含んでもよい。ある実施形態では、メモリ304は、コンピュータシステム300の仮想メモリ全体を表しており、ネットワークを介してコンピュータシステム300に接続された他のコンピュータシステムの仮想メモリを含んでもよい。メモリ304は、概念的には単一のものとみなされてもよいが、他の実施形態では、このメモリ304は、キャッシュおよび他のメモリデバイスの階層など、より複雑な構成となる場合がある。例えば、メモリは複数のレベルのキャッシュとして存在し、これらのキャッシュは機能毎に分割されてもよい。その結果、1つのキャッシュは命令を保持し、他のキャッシュはプロセッサによって使用される非命令データを保持する構成であってもよい。メモリは、いわゆるNUMA(Non-Uniform Memory Access)コンピュータアーキテクチャのように、分散され、種々の異なる処理装置に関連付けられてもよい。
【0017】
メモリ304は、本明細書で説明する機能を実施するプログラム、モジュール、及びデータ構造のすべて又は一部を格納してもよい。例えば、メモリ304は、潜在因子特定アプリケーション350を格納していてもよい。ある実施形態では、潜在因子特定アプリケーション350は、後述する機能をプロセッサ302上で実行する命令又は記述を含んでもよく、あるいは別の命令又は記述によって解釈される命令又は記述を含んでもよい。ある実施形態では、潜在因子特定アプリケーション350は、プロセッサベースのシステムの代わりに、またはプロセッサベースのシステムに加えて、半導体デバイス、チップ、論理ゲート、回路、回路カード、および/または他の物理ハードウェアデバイスを介してハードウェアで実施されてもよい。ある実施形態では、潜在因子特定アプリケーション350は、命令又は記述以外のデータを含んでもよい。ある実施形態では、カメラ、センサ、または他のデータ入力デバイス(図示せず)が、バスインターフェースユニット309、プロセッサ302、またはコンピュータシステム300の他のハードウェアと直接通信するように提供されてもよい。このような構成では、プロセッサ302がメモリ304及び潜在因子識別アプリケーションにアクセスする必要性が低減する可能性がある。
【0018】
コンピュータシステム300は、プロセッサ302、メモリ304、表示システム324、及びI/Oバスインターフェースユニット310間の通信を行うバスインターフェースユニット309を含んでもよい。I/Oバスインターフェースユニット310は、様々なI/Oユニットとの間でデータを転送するためのI/Oバス308と連結していてもよい。I/Oバスインターフェースユニット310は、I/Oバス308を介して、I/Oプロセッサ(IOP)又はI/Oアダプタ(IOA)としても知られる複数のI/Oインターフェースユニット312、314、316、及び318と通信してもよい。表示システム324は、表示コントローラ、表示メモリ、又はその両方を含んでもよい。表示コントローラは、ビデオ、オーディオ、又はその両方のデータを表示装置326に提供することができる。また、コンピュータシステム300は、データを収集し、プロセッサ302に当該データを提供するように構成された1つまたは複数のセンサ等のデバイスを含んでもよい。例えば、コンピュータシステム300は、湿度データ、温度データ、圧力データ等を収集する環境センサ、及び加速度データ、運動データ等を収集するモーションセンサ等を含んでもよい。これ以外のタイプのセンサも使用可能である。表示メモリは、ビデオデータをバッファするための専用メモリであってもよい。表示システム324は、単独のディスプレイ画面、テレビ、タブレット、又は携帯型デバイスなどの表示装置326に接続されてもよい。ある実施形態では、表示装置326は、オーディオをレンダリングするためスピーカを含んでもよい。あるいは、オーディオをレンダリングするためのスピーカは、I/Oインターフェースユニットと接続されてもよい。他の実施形態では、表示システム324が提供する機能は、プロセッサ302を含む集積回路によって実現されてもよい。同様に、バスインターフェースユニット309が提供する機能は、プロセッサ302を含む集積回路によって実現されてもよい。
【0019】
I/Oインターフェースユニットは、様々なストレージ又はI/Oデバイスと通信する機能を備える。例えば、端末インターフェースユニット312は、ビデオ表示装置、スピーカテレビ等のユーザ出力デバイスや、キーボード、マウス、キーパッド、タッチパッド、トラックボール、ボタン、ライトペン、又は他のポインティングデバイス等のユーザ入力デバイスのようなユーザI/Oデバイス320の取り付けが可能である。ユーザは、ユーザインターフェースを使用して、ユーザ入力デバイスを操作することで、ユーザI/Oデバイス320及びコンピュータシステム300に対して入力データや指示を入力し、コンピュータシステム300からの出力データを受け取ってもよい。ユーザインターフェースは例えば、ユーザI/Oデバイス320を介して、表示装置に表示されたり、スピーカによって再生されたり、プリンタを介して印刷されたりしてもよい。
【0020】
ストレージインターフェース314は、1つ又は複数のディスクドライブや直接アクセスストレージ装置322(通常は磁気ディスクドライブストレージ装置であるが、単一のディスクドライブとして見えるように構成されたディスクドライブのアレイ又は他のストレージ装置であってもよい)の取り付けが可能である。ある実施形態では、ストレージ装置322は、任意の二次記憶装置として実装されてもよい。メモリ304の内容は、ストレージ装置322に記憶され、必要に応じてストレージ装置322から読み出されてもよい。ネットワークインターフェース318は、コンピュータシステム300と他のデバイスが相互的に通信できるように、通信経路を提供してもよい。この通信経路は、例えば、ネットワーク330であってもよい。
【0021】
図1に示されるコンピュータシステム300は、プロセッサ302、メモリ304、バスインタフェース309、表示システム324、及びI/Oバスインターフェースユニット310の間の直接通信経路を提供するバス構造を備えているが、他の実施形態では、コンピュータシステム300は、階層構成、スター構成、又はウェブ構成のポイントツーポイントリンク、複数の階層バス、平行又は冗長の通信経路を含んでもよい。さらに、I/Oバスインターフェースユニット310及びI/Oバス308が単一のユニットとして示されているが、実際には、コンピュータシステム300は複数のI/Oバスインターフェースユニット310又は複数のI/Oバス308を備えてもよい。また、I/Oバス308を様々なI/Oデバイスに繋がる各種通信経路から分離するための複数のI/Oインターフェースユニットが示されているが、他の実施形態では、I/Oデバイスの一部または全部が、1つのシステムI/Oバスに直接接続されてもよい。
【0022】
<撮像装置の構成図>
図2は、本発明の撮像装置の一実施形態を示す構成図である。
図2で示す撮像装置は、撮像素子1、ストリーキング補正部2、映像調整部3、出力生成部4を備えている。
【0023】
撮像素子1は、CCD(Charge Coupled Device)イメージセンサや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等のイメージセンサを用いることができる。ここでイメージセンサは、対象物からの光を、レンズ等の光学系を通して受光面に結像させ光電変換し電気信号に変換するものである。例えば、平面状に配置した二次元イメージセンサを用いることができる。
【0024】
ストリーキング補正部2は、ストリーキングを補正する処理を行う。ストリーキングは、撮像画像の水平方向(x方向)に生じる横筋であり、ノイズである。ストリーキング補正部2は、後述するように補正値を補償することにより、より適切なストリーキング補正を可能となる。
【0025】
映像調整部3は、ストリーキング補正された映像信号に対して映像処理を行う。ここでの映像処理は一般的な映像処理を用いることができ、例えば、ガンマ補正、ニー補正、ディテール信号加算など信号処理である。
【0026】
出力生成部4は、映像処理された信号を出力する。
【0027】
これらについて、
図2に沿って処理の流れを説明する。撮像素子1からの映像信号は画像の左上から水平ライン単位で出力されてストリーキング補正部2に入る。ストリーキング補正部2でストリーキング補正された映像信号は映像調整部3により映像処理がされた後に、出力生成部4を通って撮像装置から出力される。
【0028】
<受光部の例>
図3は、本発明の撮像装置で用いることができる撮像素子の受光部の第1の例を示し、左端に水平遮光領域がある撮像素子の受光部を示す図である。
図4は、本発明の撮像装置で用いることができる撮像素子の受光部の第2の例を示し、両端に水平遮光領域がある撮像素子の受光部を示す図である。
図3と
図4では、横方向が水平方向(x方向)となり、縦方向が垂直方向(y方向)となる。
【0029】
図3および
図4で示される撮像素子1の受光部は、光を感知する有効領域80と、光が入射されず画素値の変化がない遮光領域(OB(Optical Black)領域)が存在する。有効領域80は、複数の画素が行列上に配置され、光学系により結像された被写体を受光する。遮光領域は、有効領域80の周辺に配置される遮光された複数列の画素により構成される。遮光領域はそれぞれ、有効領域80の左端または左右端に配置した領域を水平遮光領域81(水平OB部)、有効領域80上部に配置した領域を垂直遮光領域82(垂直OB部)と称する。水平遮光領域81は、垂直方向に延びて形成されている。垂直遮光領域82は、水平方向に延びて形成されている。
【0030】
水平遮光領域81は、
図3では左側だけ存在する例を示し、
図4では左右両側に存在する例を示している。また、垂直遮光領域82は、
図3、4ともに上部に存在する。
【0031】
以降の実施形態では、
図3で示した撮像素子1の(左側のみの)水平遮光領域81と有効領域80を配置した場合を基本として説明をする。しかし、
図4で示した撮像素子1の(両側の)水平遮光領域81と有効領域80を配置した場合においても、
図3と同様にストリーキング補正効果を得ることができる。この場合は、左右の水平遮光領域81から黒レベルを求めることで同様のストリーキング補正効果を得ることができる。
【0032】
<ストリーキング補正部の構成>
図5は、本発明の撮像装置におけるストリーキング補正部の構成の一例を示す図である。
図5では、
図2で示したストリーキング補正部2の詳細な構成について説明する。
【0033】
ストリーキング補正部2は、メモリ部10、水平遮光領域平滑化部11、補償値算出部12、補正値算出部13、減算器14を備えている。
【0034】
メモリ部10は、撮像素子1から出力された映像信号を一時的に記憶する。
【0035】
水平遮光領域平滑化部11では、撮像素子1から出力された映像信号に対して、
図3および
図4で示した水平遮光領域81の各水平ラインの信号レベルの平均値を求める。求められた平均値は、各水平ラインの黒レベルとして順次、補正値算出部13へ出力する。この際、水平遮光領域平滑化部11では、黒レベルの沈み込み量が検出され補正値算出部13へ出力される。なお、一般的に水平遮光領域81は撮像素子の有効領域80に比べて画素数が少ない。このため、各ラインの黒レベルの平均値を求める際に、単純に各画素を加算して平均値を求めただけではランダムノイズの影響を十分に取り除けない場合がある。この場合は、画素加算して求めた平均値を時間方向のリカーシブフィルタを用いて、ランダムノイズの影響を取り除く構成を適用することができる。
【0036】
補償値算出部12は、ストリーキング補正値の生成に使用するための補償値を算出する。補償値の算出には、最初に、撮像素子1から出力された映像信号に基づき補償パラメータを検出して、検出した補償パラメータに基づいて補償値が算出される。補償パラメータとしては、ストリーキングに影響を与えるパラメータであり、例えば、光強度、位置、幅があげられる。光強度は、所定以上の高輝度信号の信号レベルにより検出する。位置は、所定以上の高輝度信号の水平ライン毎に入射位置を検出する。幅は、所定以上の高輝度信号の水平方向の幅を検出する。補償パラメータが光強度の場合は、検出された光強度に基づき光強度補償値(光強度補償ゲイン)を算出する。補償パラメータが位置の場合は、検出された位置に基づき位置補償値(位置補償ゲイン)を算出する。補償パラメータが幅の場合は、検出された幅に基づき幅補償値(幅補償ゲイン)を算出する。
【0037】
補正値算出部13は、水平遮光領域平滑化部11で求めた黒レベルと、補償値算出部12で求めた補償値を用いてストリーキング補正値を生成する。ここでの補償値は、上述した光強度補償値、位置補償値、幅補償値が含まれ、黒レベルの沈み込み量に基づく補正値を補償する。
【0038】
減算器14は、メモリ部10に一時的に記憶されていた映像信号に対して、補正値算出部13で算出されたストリーキング補正値を用いて黒レベルを減算する。このことで、ストリーキングの無い映像信号を得ることができる。なお、メモリ部10に一時的に記憶されていた映像信号は、補正値算出部13による補正値生成のタイミングに合わせてメモリ部から読み出される処理が行われる。
【0039】
<ストリーキングの第1の例>
図6は、
図3に示した撮像素子でストリーキングを生じた場合の第1の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)はx座標の各位置における、座標yと画素値Iの関係を示した図である。
図6(A)においては、横方向(左右方向)が水平方向(x方向)となり、縦方向が垂直方向(y方向)となる。
【0040】
図6に示す例では、
図6(A)に示すように、撮像素子1の有効領域50に所定以上の強い光53が入力された場合である。所定以上の強い光53は、例えば、撮像装置の映像処理システムに定格レベルを大きく超える輝度の高い光である。この場合、光53の左右に黒レベルの沈み込み54が発生する。補正をしない場合は、この黒レベルの沈み込み54によりストリーキングが発生する。
【0041】
図6(B)では、
図6(A)におけるx座標のx1、x2、x3、x4の各箇所において、y方向(垂直方向)に対する画素値Iの分布を示している。図面の縦方向がy座標方向(垂直方向)を示しており、図面の横方向が画素値の値を示しており、右に行くほど画素値が高いことを示す。x座標がx1の地点は、有効領域50の左側に存在する水平遮光領域51の位置である。x座標がx2の地点は、光53の左側の有効領域50の位置である。x座標がx3の地点は、光53の位置である。x座標がx4の地点は、光53の右側の有効領域50の位置である。
【0042】
図6(B)に示すように、x3においてy座標が光53の位置では、光53の入射光によりD2分だけ画素値が黒レベルよりも高くなる。また、x2においてy座標が光53に相当する位置では、上述したように沈み込み54が発生し、他の領域の黒レベルよりD1だけ画素値が低くなる。x4でも同様である。さらに、x1の水平遮光領域51でも同様であり、y座標が光53に相当する位置では、他の領域の黒レベルよりD1だけ画素値が低くなる。すなわち、
図6(B)に示す例においては、水平遮光領域51で検出した黒レベルによる沈み込みの値D1と有効領域50で検出した黒レベルの沈み込みD1の値はほぼ同じ大きさとなる。
【0043】
図7は、
図6の第1の例に対して本発明の撮像装置による補正を説明する図であり、(C-1)はストリーキング信号の補正前の状態を示し、(C-2)は、補正後の状態を示した図である。
図7においては、図面の横方向がx座標方向(水平方向)を示しており、図面の縦方向が画素値の値を示している。
【0044】
図7(C-1)の補正前の状態においては、黒レベルの沈み込みはD1で一定である。このため、
図6で示した水平遮光領域51における沈み込みもD1となる。よって、
図5で示した補正値算出部13では、水平遮光領域平滑化部11から出力された黒レベルの値に基づき、この沈み込みD1のみを考慮して補正を行えばよい。すなわち、補償値算出部12の補償値は考慮されずに補正がされる。このため、光53の左右領域において、D1分だけ黒レベルを減ずる補正を行えばよい。
【0045】
このような補正を行うことで、
図7(C-2)のように、黒レベルが沈み込む領域はなくなり、ストリーキング現象を解消できる。
【0046】
<ストリーキングの第2の例>
図8は、
図3に示した撮像素子でストリーキングを生じた場合の第2の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)は座標xの各位置における、座標yと画素値Iの関係を示した図である。
図8(A)においては、横方向(左右方向)が水平方向(x方向)となり、縦方向が垂直方向(y方向)となる。
【0047】
図8に示す例では、
図8(A)に示すように、撮像素子1の有効領域60に所定以上の強い光63が入力された場合である。所定以上の強い光63は、例えば、撮像装置の映像処理システムに定格レベルを大きく超える輝度の高い光である。一方で、
図8(A)に示すように、光63から水平遮光領域61までのx方向の距離Aは、
図6より大きい例が示されている。この場合、光63の左右に黒レベルの沈み込み64が発生してストリーキングが発生する。一方で、距離Aが大きいことで、端部に設けられた電源供給部から受光面の画素までの距離が大きくなる。このことで、水平遮光領域61の黒レベルの沈み込みよりも、光63の左右の有効領域60における黒レベルの沈み込みの方が大きくなる現象が起こる。
【0048】
図8(B)では、
図8(A)におけるx座標のx1、x2、x3、x4の各箇所において、y方向(垂直方向)に対する画素値Iの分布を示している。図面の縦方向がy座標方向(垂直方向)を示しており、図面の横方向が画素値の値を示しており、右に行くほど画素値が高いことを示す。x座標がx1の地点は、有効領域60の左側に存在する水平遮光領域61の位置である。x座標がx2の地点は、光63の左側の有効領域60の位置である。x座標がx3の地点は、光63の位置である。x座標がx4の地点は、光63の右側の有効領域60の位置である。
【0049】
図8(B)に示すように、x3においてy座標が光63の位置では、光63の入射光によりD2分だけ画素値が黒レベルよりも高くなる。また、x2においてy座標が光63に相当する位置では、上述したように沈み込み64が発生し、他の領域の黒レベルよりD3だけ画素値が低くなる。x4でも同様である。さらに、x1の水平遮光領域61では、y座標が光63に相当する位置では、他の領域の黒レベルよりD1だけ画素値が低くなる。ここで、D3による黒レベルの沈み込み量は、D1による黒レベルの沈み込み量よりも大きい。これは、
図8(A)に示すように水平遮光領域61から離れた位置に強い光63が入射されたためである。
【0050】
図9は、
図8の第2の例に対して本発明の撮像装置による補正を説明する図であり、(C-1)はストリーキング信号の補正前の状態を示し、(C-2)は補償なしの場合の補正後の状態を示し、(C-3)は補償ありの場合の補正後の状態を示した図である。
図9においては、図面の横方向がx座標方向(水平方向)を示しており、図面の縦方向が画素値の値を示している。
【0051】
図9(C-1)の補正前の状態においては、光63の左右の有効領域60においては、黒レベルの沈み込みはD3である。一方、
図8で示した水平遮光領域61における沈み込みはD1であり、D3より少ない値である。
【0052】
図5で示した補正値算出部13では、水平遮光領域平滑化部11から出力された黒レベルの値と、補償値算出部12で算出される補償値を考慮して補正値を算出する。このとき、もしも、補償値算出部12で算出される補償値を考慮しない場合は、
図9(C-2)で示すように水平遮光領域61における黒レベルの沈み込みD1のみを考慮して補正がなされる。このことにより、光63の左右の有効領域60では、D3-D1だけ黒レベルの沈み込みが残ることになる。この場合は、補正処理後もストリーキング現象が残ってしまう。
【0053】
このため、補正値算出部13では、補償値算出部12で算出される補償値を考慮して補正値が算出される。このことにより、
図9(C-3)に示されるように、光63の左右の有効領域60の黒レベルの沈み込みが解消され、ストリーキング現象も解消される。この場合の補償を考慮した具体例については後述する。
【0054】
<ストリーキングの第3の例>
図10は、
図3に示した撮像素子でストリーキングを生じた場合の第3の例を説明する図であり、(A)は撮像素子の受光面を示した図、(B)は座標xの各位置における、座標yと画素値Iの関係を示した図である。
図10(A)においては、横方向(左右方向)が水平方向(x方向)となり、縦方向が垂直方向(y方向)となる。
【0055】
図10に示す例では、
図10(A)に示すように、撮像素子1の有効領域70に所定以上の強い光73が入力された場合である。所定以上の強い光73は、例えば、撮像装置の映像処理システムに定格レベルを大きく超える輝度の高い光である。一方で、
図10(A)に示すように、光73の水平方向(x方向)の幅Bは、
図6の光53よりも大きい例が示されている。この場合、光73の左右に黒レベルの沈み込み74が発生してストリーキングが発生する。一方で、幅Bが大きいことで、水平遮光領域71の黒レベルの沈み込みよりも、光73の左右の有効領域70における黒レベルの沈み込みの方が大きくなる現象が起こる。
【0056】
図10(B)では、
図10(A)におけるx座標のx1、x2、x3、x4の各箇所において、y方向(垂直方向)に対する画素値Iの分布を示している。図面の縦方向がy座標方向(垂直方向)を示しており、図面の横方向が画素値の値を示しており、右に行くほど画素値が高いことを示す。x座標がx1の地点は、有効領域70の左側に存在する水平遮光領域71の位置である。x座標がx2の地点は、光73の左側の有効領域70の位置である。x座標がx3の地点は、光73の位置である。x座標がx4の地点は、光73の右側の有効領域70の位置である。
【0057】
図10(B)に示すように、x3においてy座標が光73に相当する位置では、光73の入射光によりD4分だけ画素値が黒レベルよりも高くなる。また、x2においてy座標が光73に相当する位置では、上述したように沈み込み74が発生し、他の領域の黒レベルよりD5だけ画素値が低くなる。x4でも同様である。さらに、x1の水平遮光領域71では、y座標が光73に相当する位置では、他の領域の黒レベルよりもD1だけ画素値が低くなる。ここで、D5による黒レベルの沈み込み量は、D1による黒レベルの沈み込み量よりも大きい。これは、
図10(A)で示すような、幅を持った光73が入力されるためである。
【0058】
図11は、
図10の第3の例に対して本発明の撮像装置による補正を説明する図であり、(C)はストリーキング信号の補正前の状態を示し、(C-2)は補償なしの場合の補正後の状態を示し(C-3)は補償ありの場合の補正後の状態を示した図である。
図11においては、図面の横方向がx座標方向(水平方向)を示しており、図面の縦方向が画素値の値を示している。
【0059】
図11(C-1)の補正前の状態においては、光73の左右の有効領域70においては、黒レベルの沈み込みはD5である。一方、
図10で示した水平遮光領域71における沈み込みはD1であり、D5より少ない値である。
【0060】
図5で示した補正値算出部13では、水平遮光領域平滑化部11から出力された黒レベルの値と、補償値算出部12で算出される補償値を考慮して補正値を算出する。このとき、もしも、補償値算出部12で算出される補償値を考慮しない場合は、
図10(C-2)で示すようにD1のみを考慮して補正がなされる。このことにより、光73の左右の有効領域70では、D5-D1だけ黒レベルの沈み込みが残ることになる。この場合は、補正処理後もストリーキング現象が残ってしまう。
【0061】
このため、補正値算出部13では、補償値算出部12で算出される補償値を考慮して補正値が算出される。このことにより、
図10(C-3)に示されるように、光73の左右の有効領域70の黒レベルの沈み込みが解消され、ストリーキング現象も解消される。この場合の補償を考慮した具体例については後述する。
【0062】
<補償の具体例>
補償値算出部12では、撮像素子1からの映像信号に対して、映像信号の1ライン(1つの水平ライン)のヒストグラムを取得する。このヒストグラムは、y方向に沿った光の強さのヒストグラムとすることができる。補償値算出部12では、補償値(補償ゲイン値)の算出にこのヒストグラムを用いている。以下、光強度補償ゲイン、位置補償ゲイン、幅補償ゲイン、補償ストリーキング補正信号について説明する。
【0063】
<光強度補償ゲイン>
入射する光のレベルに応じた補償ゲイン(光強度補償ゲイン)の算出方法について説明する。光の強度が強くなると、
図9や11で示したような場合と類似の現象が起こる。すなわち、
図3で示す有効領域80に強い光が入射すると有効領域80での黒レベルの沈み込み量が水平遮光領域81の黒レベルの沈み込み量よりも大きくなる。これにより、
図7で示したような補正を行ってもストリーキングが残ってしまう。ここでは、1ラインのヒストグラムより、映像の定格レベルを超える信号(定格レベルを超える輝度の高い信号)に着目する。その信号のレベルが撮像素子1の最大光量から定格レベルまでの間のどの範囲にあるか判断して補償ゲインを決める。これにより、光強度補償ゲイン値は次式のように表すことができる。
光強度補償ゲイン値 =α × 入力信号レベル/最大入力信号レベル
・・・(式1)
ここで、最大定格のレベルを100%とした場合、入力信号レベル≧100% である。また、αは撮像素子の特性で決まる係数である。
【0064】
式1では、入力信号レベルが定格レベルを超える場合において、入力信号レベルが大きければ大きいほど光強度補償ゲインの値は大きくなる。これにより、光強度補償ゲインでは光が強いほど(輝度が高いほど)、補償の度合いを高めることになる。
【0065】
<位置補償ゲイン>
入射する光の場所に応じた補償ゲイン(位置補償ゲイン)の算出方法について説明する。これは、
図8、9で説明した補償に対応する。ここでは、1ラインのヒストグラムより、映像信号の定格レベルを超える信号(定格レベルを超える輝度の高い信号)に着目する。定格レベルを超える信号の位置、とりわけ信号の中心の位置から水平遮光領域81までの距離に応じて補償ゲインを決める。ここでの距離は水平方向(x方向)の距離である。これにより、位置補償ゲイン値は次式のように表すことができる。
位置補償ゲイン値 = β × 水平遮光領域までの距離 ・・・(式2)
ここで、βは撮像素子の特性で決まる係数である。
【0066】
具体的な手法としては、1ラインの映像信号で定格レベルを超える信号の左右端を検出し、その結果から定格レベルを超える信号の中心部を求めて上記式2に当てはめればよい。なお、中心部以外の定格レベルを超える信号に関する位置でもよい。例えば、定格レベルを超える信号の水平遮光領域81側端部の位置等である。
【0067】
式2では、入力信号レベルが定格レベルを超える場合において、定格レベルを超える信号の中心から水平遮光領域81までの距離が大きければ大きいほど位置補償ゲインの値は大きくなる。これにより、位置補償ゲインでは、定格レベルを超える信号の中心が水平遮光領域81からの距離が離れるほど、それに比例して補償の度合いを高めることになる。
【0068】
<幅補償ゲイン>
入射する光の幅に応じた補償ゲインの算出方法について説明する。これは、
図10、11で説明した補償に対応する。ここでは、1ラインのヒストグラムより、映像信号の定格レベルを超える信号(定格レベルを超える輝度の高い信号)に着目する。定格レベルを超える信号の幅に応じて補償ゲインを決める。ここでの幅は水平方向(x方向)の距離である。これにより、幅補償ゲイン値は次式のように表すことができる。
幅補償ゲイン値 = γ × 光信号の幅 ・・・(式3)
ここで、γは撮像素子の特性で決まる係数である。
【0069】
具体的な手法としては、1ラインの映像信号で定格レベルを超える信号の左右端を検出し、その幅を算出して、その結果を上記式3に当てはめればよい。
【0070】
式3では、入力信号レベルが定格レベルを超える場合において、定格レベルを超える信号の幅が大きければ大きいほど位置補償ゲインの値は大きくなる。これにより、幅補償ゲインでは、定格レベルを超える信号の幅が大きいほど、それに比例して補償の度合いを高めることになる。
【0071】
<補償ストリーキング補正信号>
図5で示した補正値算出部13では、上記のようにして求めた、光強度補償ゲイン、位置補償ゲイン、幅補償ゲインの各値を用いて、補償したストリーキング補正信号である、補償ストリーキング補正信号を生成することができる。補償ストリーキング補正信号は次式で表すことができる。
補償ストリーキング補正信号=
黒レベル沈み込み量×光強度補償ゲイン値×位置補償ゲイン値×幅補償ゲイン値
・・・(式4)
ここで、黒レベル沈み込み量は、
図6、7等で例示した水平遮光領域平滑化部11で算出された黒レベルに基づく沈み込み量である。
【0072】
式4により黒レベルに対して、各補償ゲインの値が考慮されて、補正信号を補償することが可能となる。
【0073】
撮像素子1からの映像信号は、
図5に示す補償値算出部12、補正値算出部13での信号処理が完了するまでの間、メモリ部10にいったん保持される。そして、補正値算出部13で生成されたストリーキング補正信号の出力タイミングに合わせて読み出され、ストリーキング補正信号を用いて減算器14で減算する。このことにより、
図9(C-3)または
図11(C-3)のように黒レベルの沈み込みのない良好な映像信号を得ることができる。
【0074】
以上のような実施形態により、水平遮光領域平滑化部11における黒レベルによる補正のみでなく、補償値算出部12による補償値を加味した補正により、黒レベルの沈み込みを防止し、ストリーキングの発生を抑制することができる。このとき補償値としては、光強度補償ゲインを用いることで、光強度に応じたより的確な補正とすることができる。また、補償値として位置補償ゲインを用いることで、水平遮光領域までの距離に応じたより的確な補正とすることができる。また、幅補償ゲインを用いることで、光強度の強い光の幅に応じたより的確な補正とすることができる。また、これらにより、複雑なシステムの構築を必要とせず、システムにかかる負荷も限られたものとすることができる。
【0075】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【0076】
例えば、光強度補償ゲイン値、位置補償ゲイン値、幅補償ゲイン値の算出において、映像信号の定格レベルを超える信号を対象としたが、この場合、定格レベルに準じるような所定以上のレベルを超える信号としてもよい。
【0077】
また、式4における、補償ストリーキング補正信号の計算は、光強度補償ゲイン値、位置補償ゲイン値、幅補償ゲイン値のいずれも用いたが、これらのゲイン値のうち少なくとも1つを用いる構成としてもよい。
【符号の説明】
【0078】
1…撮像素子、2…ストリーキング補正部、4…出力生成部、10…メモリ部、11…水平遮光領域平滑化部、12…補償値算出部、13…補正値算出部、14…減算器、50…有効領域、51…水平遮光領域、52…垂直遮光領域、53…光、54…沈み込み、60…有効領域、61…水平遮光領域、62…垂直遮光領域、63…光、64…沈み込み、70…有効領域、71…水平遮光領域、72…垂直遮光領域、73…光、74…沈み込み、80…有効領域、81…水平遮光領域、82…垂直遮光領域、300…コンピュータシステム、302…プロセッサ、302A…処理装置、302B…処理装置、304…メモリ、306…メモリバス、308…I/Oバス、309…バスインターフェースユニット、310…I/Oバスインターフェースユニット、312…端末インターフェースユニット、314…ストレージインターフェース、316…I/Oデバイスインターフェース、318…ネットワークインターフェース、320…ユーザI/Oデバイス、324…表示システム、326…表示装置、330…ネットワーク、350…潜在因子特定アプリケーション