(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024000506
(43)【公開日】2024-01-05
(54)【発明の名称】クロストークを補正するイメージセンサ、イメージセンサの動作方法およびイメージセンサを含む電子機器
(51)【国際特許分類】
H04N 25/62 20230101AFI20231225BHJP
H04N 25/76 20230101ALI20231225BHJP
H04N 23/54 20230101ALI20231225BHJP
【FI】
H04N25/62
H04N25/76
H04N23/54
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2023084581
(22)【出願日】2023-05-23
(31)【優先権主張番号】10-2022-0075035
(32)【優先日】2022-06-20
(33)【優先権主張国・地域又は機関】KR
(31)【優先権主張番号】10-2022-0112541
(32)【優先日】2022-09-06
(33)【優先権主張国・地域又は機関】KR
(31)【優先権主張番号】18/121804
(32)【優先日】2023-03-15
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung-ro,Yeongtong-gu,Suwon-si,Gyeonggi-do,Republic of Korea
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100135079
【弁理士】
【氏名又は名称】宮崎 修
(72)【発明者】
【氏名】李 尚遇
(72)【発明者】
【氏名】龍 殷智
(72)【発明者】
【氏名】金 ▲どう▼▲お▼
(72)【発明者】
【氏名】金 聖洙
【テーマコード(参考)】
5C024
5C122
【Fターム(参考)】
5C024CX11
5C024GY31
5C024HX18
5C024HX21
5C024HX23
5C024HX29
5C122EA12
5C122FC07
5C122FH23
5C122HA88
5C122HB01
5C122HB06
(57)【要約】
【課題】 本発明は、イメージセンサに関する。
【解決手段】 本発明のイメージセンサは、複数のピクセルを含み、複数のピクセルを用いてアナログ信号を生成するように構成されるピクセル部と、アナログ信号を受信してアナログ信号をデジタル信号に変換するデータ変換部と、デジタル信号に対してクロストーク補正およびリモザイク(remosaic)を行うことによりイメージデータを生成し、イメージデータを外部の装置に出力するように構成されるプロセッシング部と、を備える。プロセッシング部は外部の装置からイメージデータ情報を受信し、イメージデータ情報に基づいて飽和率を計算し、そして飽和率に基づいてリモザイクの設定を調整するように構成される。
【選択図】
図1
【特許請求の範囲】
【請求項1】
複数のピクセルを含み、前記複数のピクセルを用いてアナログ信号を生成するように構成されるピクセル部と、
前記アナログ信号を受信し、前記アナログ信号をデジタル信号に変換するデータ変換部と、
前記デジタル信号に対してクロストーク補正およびリモザイクを行うことによりイメージデータを生成し、前記イメージデータを外部の装置に出力するように構成されるプロセッシング部と、を備え、
前記プロセッシング部は、前記外部の装置からイメージデータ情報を受信し、前記イメージデータ情報に基づいて飽和率を計算し、前記飽和率に基づいて前記リモザイクの設定を調整するように構成される、
イメージセンサ。
【請求項2】
前記プロセッシング部は、前記イメージデータ上の前記複数のピクセルに対応するピクセル値のグループの平均ピクセル値を前記イメージデータ情報から検出し、前記平均ピクセル値に基づいて前記飽和率を計算するようにさらに構成される、
請求項1に記載のイメージセンサ。
【請求項3】
前記プロセッシング部は、前記平均ピクセル値を閾値と比較することによって前記飽和率を計算するようにさらに構成される、
請求項2に記載のイメージセンサ。
【請求項4】
前記プロセッシング部は、平均ピクセル値のうち前記閾値よりも高い平均ピクセル値の割合を前記飽和率として計算するようにさらに構成される、
請求項3に記載のイメージセンサ。
【請求項5】
前記イメージデータ情報は、前記複数のピクセルに対応するピクセル値のうち飽和されたピクセル値の数に関する情報を含み、
前記プロセッシング部は、前記飽和されたピクセル値の数に基づいて前記飽和率を計算するようにさらに構成される、
請求項1に記載のイメージセンサ。
【請求項6】
イメージデータは、複数のチャンネルにそれぞれ対応する複数のチャンネルデータを含み、
前記イメージデータ情報は、前記複数のチャネルにそれぞれ対応する複数のチャネルデータ情報を含み、
前記プロセッシング部は、前記複数のチャンネルにそれぞれ対応する複数の飽和率を計算するようにさらに構成される、
請求項1に記載のイメージセンサ。
【請求項7】
前記プロセッシング部は、前記複数の飽和率のうち最も高い飽和率に基づいて前記リモザイクの設定を調整するようにさらに構成される、
請求項6に記載のイメージセンサ。
【請求項8】
前記プロセッシング部は、前記イメージデータが単調なイメージデータであるか否かを判定するために使用される単調性閾値、前記イメージデータの単調な領域を判定するのに使用されるローカル単調性閾値、および前記イメージデータの単調な領域をスムージングするときに使用されるスムージングパワーのうちの少なくとも1つを調整するようにさらに構成される、
請求項1に記載のイメージセンサ。
【請求項9】
前記プロセッシング部は、前記飽和率が増加すればするほど、前記単調性閾値、前記ローカル単調性閾値、および前記スムージングパワーのうちの少なくとも1つを増加させるようにさらに構成される、
請求項8に記載のイメージセンサ。
【請求項10】
前記プロセッシング部は、前記飽和率が増加すればするほど、前記単調性閾値、前記ローカル単調性閾値、および前記スムージングパワーのうちの少なくとも2つを同じ割合で増加させるようにさらに構成される、
請求項9に記載のイメージセンサ。
【請求項11】
前記プロセッシング部は、前記飽和率が増加すればするほど、前記単調性閾値、前記ローカル単調性閾値、および前記スムージングパワーのうちの少なくとも2つを互いに異なる割合で増加させるようにさらに構成される、
請求項9に記載のイメージセンサ。
【請求項12】
前記プロセッシング部は、前記リモザイクの設定を調整することによって、前記複数のピクセルのうち飽和されたピクセルのクロストークを補正するようにさらに構成される、
請求項1に記載のイメージセンサ。
【請求項13】
前記プロセッシング部は、前記複数のピクセルのうち飽和されていないピクセルのピクセル値に利得およびオフセットを適用することにより、前記飽和されていないピクセルの前記クロストーク補正を行うようにさらに構成される、
請求項12に記載のイメージセンサ。
【請求項14】
複数のピクセルを含むイメージセンサの動作方法であって、
前記イメージセンサが外部の装置からイメージデータ情報を受信するステップと、
前記イメージセンサが、前記イメージデータ情報から前記イメージセンサによって取得されたイメージデータの飽和率を計算するステップと、
前記イメージセンサが、前記飽和率に基づいてリモザイク設定を調整するステップと、を備え、
前記イメージセンサは、前記イメージセンサによって取得されたイメージデータに対して前記リモザイク設定に基づいてリモザイクを遂行するように構成される、
動作方法。
【請求項15】
前記イメージデータ情報は、前記イメージセンサによって前記外部の装置に出力された前のフレームのイメージデータの情報を含む、
請求項14に記載の動作方法。
【請求項16】
前記イメージセンサは、前記リモザイク設定に基づいて現在のフレームのイメージデータに対して前記リモザイクを遂行する、
請求項14に記載の動作方法。
【請求項17】
前記飽和率を計算するステップは、
前記複数のピクセルに対応するピクセル値のグループの平均ピクセル値を前記イメージデータ情報から検出するステップと、
閾値を用いて前記ピクセル値のグループのうち飽和されたグループを判定するステップと、
前記飽和されたグループの数をカウントするステップと、
前記飽和されたグループの数に基づいて前記飽和率を計算するステップと、を含む、
請求項14に記載の動作方法。
【請求項18】
前記飽和率を計算するステップは、
前記複数のピクセルのうち飽和されたピクセル値に対応する飽和されたピクセル数を前記イメージデータ情報から検出するステップと、
前記飽和されたピクセルの数に基づいて前記飽和率を計算するステップと、を含む、
請求項14に記載の動作方法。
【請求項19】
イメージデータを生成するイメージセンサと、
前記イメージデータに基づいてイメージデータ情報を生成し、前記イメージデータ情報を前記イメージセンサに伝達するプロセッサと、を備え、
前記イメージセンサは、複数のピクセルを含み、前記イメージデータ情報から前記複数のピクセルの飽和率を計算し、前記飽和率に基づいて前記複数のピクセルのクロストークを第1モードおよび第2モードのうちいずれか1つに基づいて補正するように構成され、
前記第1モードでは、前記イメージセンサは利得およびオフセットに基づいて前記クロストークを補正するように構成され、
前記第2モードでは、前記イメージセンサは前記利得および前記オフセットに基づいて前記クロストークを補正し、そしてリモザイク設定(remosaic)を調整することによって前記クロストークをさらに補正するように構成される、
電子機器。
【請求項20】
前記イメージセンサは、前記飽和率が基準値より低いときに前記第1モードに進入し、そして前記飽和率が前記基準値以上であるときに、前記第2モードに進入する、
請求項19に記載の電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子機器に関し、より詳しくは、適応的にクロストークを補正するイメージセンサ、イメージセンサの動作方法およびイメージセンサを含む電子機器に関する。
【背景技術】
【0002】
イメージセンサは複数のピクセルを含み、複数のピクセルを用いてイメージデータを生成することができる。イメージセンサによって生成されたイメージデータは、多様なノイズおよび歪みを含み得る。イメージセンサは、イメージデータからノイズおよび歪みを除去するキャリブレーション(calibration、較正)を遂行し、キャリブレーションされたイメージデータを出力することができる。
【0003】
イメージデータのノイズおよび歪みは、クロストークを含み得る。クロストークは、イメージセンサのピクセルにおいて入射光が不均一に検出されたり、ピクセル間で検出結果が漏れたりすることによって発生することができる。クロストークを補正するために、イメージセンサは多様なキャリブレーションを遂行することができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国特許第8,208,039号明細書
【特許文献2】米国特許第8,957,990号明細書
【特許文献3】米国特許第8,805,063号明細書
【特許文献4】米国特許出願公開第2001/0037160号明細書
【特許文献5】米国特許出願公開第2021/0217134号明細書
【特許文献6】米国特許出願公開第2021/0211615号明細書
【特許文献7】米国特許出願公開第2022/0124264号明細書
【特許文献8】米国特許出願公開第2021/0006755号明細書
【特許文献9】韓国登録特許第10-2055253号公報
【特許文献10】韓国公開特許第10-2001-0095057号公報
【特許文献11】韓国公開特許第10-2002-0014535号公報
【特許文献12】韓国公開特許第10-2021-0130972号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記従来技術に鑑みてなされたものであって、本発明の目的は、イメージセンサのピクセルによって検出されたピクセル値が飽和されてもクロストークを補正することができるイメージセンサ、イメージセンサの動作方法およびイメージセンサを含む電子機器を提供することにある。
【課題を解決するための手段】
【0006】
本発明の実施形態によるピクセル部は、複数のピクセルを含み、そして複数のピクセルを用いてアナログ信号を生成するように構成されるピクセル部と、アナログ信号を受信し、そしてアナログ信号をデジタル信号に変換するデータ変換部と、デジタル信号に対してクロストーク補正およびリモザイク(remosaic)を行うことによりイメージデータを生成し、イメージデータを外部の装置に出力するように構成されるプロセッシング部と、を備える。前記プロセッシング部は外部の装置からイメージデータ情報を受信し、イメージデータ情報に基づいて飽和率を計算し、そして飽和率に基づいてリモザイクの設定を調整するように構成される。
【0007】
複数のピクセルを含むイメージセンサの動作方法は、イメージセンサが外部の装置からイメージデータ情報を受信するステップと、イメージセンサがイメージデータ情報からイメージセンサによって取得されたイメージデータの飽和率を計算するステップと、イメージセンサが、飽和率に基づいてリモザイク設定を調整するステップと、を備える。イメージセンサは、イメージセンサによって取得されたイメージに対してリモザイク設定に基づいてリモザイクを遂行するように構成される。
【0008】
本発明の実施形態による電子機器は、イメージデータを生成するイメージセンサと、イメージデータに基づいてイメージデータ情報を生成し、イメージデータ情報をイメージセンサに伝達するプロセッサと、を備える。前記イメージセンサは、複数のピクセルを含み、イメージデータ情報から複数のピクセルの飽和率を計算し、そして飽和率に基づいて複数のピクセルのクロストークを第1モードおよび第2モードのいずれか1つに基づいて補正するように構成される。第1モードでは、イメージセンサは利得とオフセットに基づいてクロストークを補正するように構成され、第2モードでは、イメージセンサは利得とオフセットに基づいてクロストークを補正し、そしてリモザイク設定を調整することによってクロストークをさらに補正するように構成される。
【発明の効果】
【0009】
本発明の実施形態によれば、ピクセルによって検出されるピクセル値が飽和されるにつれて、イメージセンサはリモザイク設定を調整することができる。したがって、ピクセル値が飽和されてもクロストークを補正することができるイメージセンサ、イメージセンサの動作方法、およびイメージセンサを含む電子機器が提供される。
【図面の簡単な説明】
【0010】
【
図3】本発明の実施形態によるイメージセンサを示す。
【
図4】イメージセンサのピクセルが配置された例を示す。
【
図5】ピクセルアレイのピクセルの一部の断面図の例を示す。
【
図6】リモザイクが行われたピクセル値の例を示す。
【
図7】イメージセンサの処理回路のクロストーク補正部がクロストークを補正する方法の一例を示す。
【
図8】アプリケーションプロセッサが第2イメージデータからイメージデータ情報IDIを生成する例を説明するための図である。
【
図9】アプリケーションプロセッサがイメージデータ情報をイメージセンサに転送する過程の一例を示す。
【
図10】イメージセンサの処理回路が飽和率に基づいてクロストークを抑制する方法の一例を示す。
【
図11】イメージセンサの処理回路が飽和率を算出する方法の一例を示す。
【
図12】本発明の実施形態によるリモザイク設定を調整する方法の例を示す。
【
図13】イメージセンサの処理回路が飽和率に応じてリモザイク設定を調整する傾向の一例を示す。
【
図14】イメージセンサの処理回路がリモザイク設定に基づいてリモザイクを遂行する方法の例を示す。
【
図15】イメージセンサの処理回路が飽和率を計算する方法の他の例を示す。
【
図16】マルチイメージセンサを含む電子機器のブロック図である。
【発明を実施するための形態】
【0011】
以下では、本発明の技術分野における通常の知識を有する者が本発明を容易に実施することができるほど、本発明の実施形態が明確かつ詳細に記載される。下では、「および/または」という用語は、該当する用語と関連してリストされた項目のいずれか1つ、そして関連してリストされた項目のいくつかまたはすべての組み合わせを含むと解釈される。
【0012】
図1は、本発明の実施形態による電子機器10を示す。
図1を参照すると、電子機器10はイメージセンサ100およびアプリケーションプロセッサ200を含み得る。例として、電子機器10は、ディスプレイ装置、メモリ、ストレージ装置、ユーザーインターフェース装置のような多様な周辺装置をさらに含み得る。
【0013】
イメージセンサ100は、ピクセル部110、データ変換部120およびプロセッシング部130を含み得る。ピクセル部110は複数のピクセルを含み得る。ピクセル部110は、複数のピクセルを用いてアナログ信号ASを生成することができる。アナログ信号ASは、ピクセル部110のピクセルに入射する光の強度に応じて異なるレベル(例えば、電圧レベルまたは電流レベル)を有する複数の信号を含み得る。
【0014】
データ変換部120は、ピクセル部110によって生成されるアナログ信号ASをデジタル信号DSに変換することができる。データ変換部120は、変換されたデジタル信号DSをプロセッシング部130に出力することができる。デジタル信号DSは、アナログ信号ASの複数の信号のレベルから変換された複数のデジタル値を含み得る。
【0015】
プロセッシング部130は、データ変換部120からデジタル信号DSを受信することができる。プロセッシング部130は、デジタル信号DSからノイズおよび/または歪みを除去するキャリブレーション(calibration)を行ってイメージデータIDを生成することができる。プロセッシング部130は、イメージデータIDをアプリケーションプロセッサ200に出力することができる。例えば、プロセッシング部130は、MIPI(Mobile Industry Processor Interface)C-PHYまたはD-PHYに基づいてイメージデータIDをアプリケーションプロセッサ200に出力することができる。
【0016】
例えば、プロセッシング部130は、キャリブレーションのためにデジタル信号DSを記憶するためのメモリ(例えば、静的ランダムアクセスメモリ)を含み得る。メモリは、ピクセル部110のピクセルの1つ以上のロー(row:行)のピクセルに対応するデジタル信号DSを記憶することができる。メモリの容量は、キャリブレーションを遂行するために必要なピクセルの単位に対応し得る。
【0017】
プロセッシング部130は、アプリケーションプロセッサ200からイメージデータ情報IDIを受信することができる。例えば、プロセッシング部130は、MIPI C-PHY、D-PHYまたはI2C(Inter-Integrated Circuit)インターフェースを介してアプリケーションプロセッサ200からイメージデータ情報IDIを受信することができる。イメージデータ情報IDIは、前のフレームのイメージデータIDに関する情報を含み得る。プロセッシング部130は、イメージデータ情報IDIに基づいてキャリブレーション(calibration)を行うモードまたは方式を選択することができる。
【0018】
プロセッシング部130は、リモザイク部131、ビニング(binning)部132、クロストーク補正部133および飽和度管理部134を含み得る。プロセッシング部130は、デジタル信号DSのデジタル値に対応する明るさ(または照度)に応じて、リモザイク部131およびビニング部132のいずれか1つを選択的に活性化することができる。
【0019】
デジタル信号DSのデジタル値に対応する明るさ(または照度)が基準値以上である場合、プロセッシング部130はリモザイク部131を活性化することができる。リモザイク部131は、ピクセル部110のピクセルパターンに対応するデジタル信号DSからベイヤーパターンに対応するイメージデータ(例えば、イメージデータIDに加工される中間イメージデータ)を生成することができる。デジタル信号DSのデジタル値に対応する明るさ(または照度)が基準値(例えば、輝度基準値)よりも低い場合、プロセッシング部130はビニング部132を活性化することができる。ビニング部132は、ピクセル部110のピクセルパターンに対応するデジタル信号DSの同じチャネル(例えば、同じ色)のデジタル値を合算してベイヤーパターンのイメージデータ(例えば、イメージデータIDに加工される中間イメージデータ)を生成することができる。
【0020】
リモザイク部131が活性化されたときに、クロストーク補正部133を活性化することができる。クロストーク補正部133は、デジタル信号DSまたはリモザイク部131によってリモザイクされたイメージデータのピクセル値に利得(gain:ゲイン)およびオフセットを適用することによりクロストーク補正を行うことができる。例えば、クロストーク補正部133は、利得とオフセットをテーブルの形態で記憶し、そしてテーブルを参照してクロストーク補正を行うことができる。
【0021】
リモザイク部131が活性化されるときに、飽和度管理部134は活性化されてもよい。飽和度管理部134は、イメージデータ情報IDIに基づいて、ピクセル部110のピクセルのピクセル値(例えば、ピクセルに対応するデジタル信号DSのデジタル信号の値)が飽和された程度を示す飽和率を計算することができる。飽和度管理部134は、飽和率に基づいてリモザイク部131がリモザイクを行う設定を調整することができる。飽和度管理部134はリモザイク設定を調整することにより、ピクセル部110のピクセルのピクセル値が飽和される環境で発生するクロストークを抑制することができる。
【0022】
図1では、イメージセンサ100とアプリケーションプロセッサ200は互いに直接通信するように示されている。しかしながら、これは本発明の実施形態を容易に伝達するためのものであり、イメージセンサ100とアプリケーションプロセッサ200との間にイメージデータIDの伝達を仲介または支援する他の構成要素が提供され得る。
【0023】
図2は、
図1の電子機器10の動作方法の一例を示す。
図1および
図2を参照すると、ステップS11で、イメージセンサ100はアプリケーションプロセッサ200にイメージデータ(例えば、第1フレームのイメージデータID)を転送することができる。ステップS12で、アプリケーションプロセッサ200は、受信されたイメージデータからイメージデータ情報IDIを生成することができる。例として、アプリケーションプロセッサ200は、受信されたイメージデータをディスプレイ装置を通して表示するか、またはメモリに記憶することができる。
【0024】
ステップS13で、アプリケーションプロセッサ200は、イメージデータ情報IDIをイメージセンサ100に転送することができる。ステップS14で、イメージセンサ100のプロセッシング部130は、イメージデータ情報IDIに基づいて飽和率を算出することができる。ステップS15で、イメージセンサ100のプロセッシング部130は、飽和率に基づいてクロストーク補正モードを決定することができる。例として、イメージデータ情報IDIは、ピクセル値の平均値または飽和されたピクセルの数を含み得る。
【0025】
例えば、飽和率(例えば、第1フレームのイメージデータIDの飽和率)が基準値(例えば、飽和度基準値)より低いかゼロの場合、イメージセンサ100のプロセッシング部130は、クロストーク補正部133のみを用いてデジタル信号DSのクロストークを補正することにより、イメージデータID(例えば、第1フレームに続く第2フレームのイメージデータID)を生成することができる。飽和率が基準値(例えば、飽和度基準値)以上である場合、イメージセンサ100のプロセッシング部130は、クロストーク補正部133に基づいてデジタル信号DSのクロストークを補正するが、リモザイク部131のリモザイク設定を調整することにより、クロストークをさらに補正してイメージデータIDを生成(例えば、第1フレームに続く第2フレームのイメージデータ)することができる。
【0026】
例として、クロストーク補正部133は、飽和されていないピクセルのピクセル値に対してクロストーク補正を行うことができる。リモザイク部131は、デジタル信号DSのピクセル値の全部または一部の領域に対してクロストーク補正(または抑制)を行うことができる。リモザイク部131がピクセルに対応するデジタル信号上でクロストークを補正(または抑制)する領域を選択するのは、飽和度または飽和率に関係なく遂行され得る。
【0027】
図3は、本発明の実施形態による装置300を示す。例として、装置300は、
図1のイメージセンサ100のピクセル部110およびデータ変換部120に対応し得る。
図1および
図3を参照すると、装置300は、ピクセルアレイ310、行(row)ドライバ320、ランプ信号発生器330(RSG)、アナログ-デジタル変換回路340、メモリ回路350、インターフェース回路360およびタイミング発生器370(TG)を含み得る。
【0028】
例として、ピクセルアレイ310はピクセル部110に対応し得る。行ドライバ320、ランプ信号発生器330、アナログ-デジタル変換回路340、メモリ回路350、インターフェース回路360およびタイミング発生器370は、データ変換部120に対応することができる。
【0029】
ピクセルアレイ310は、行と列に沿ってマトリックス状に配置された複数のピクセルPXを含み得る。複数のピクセルPXのそれぞれは光検出器を含み得る。例えば、光検出器は、フォトダイオード、フォトトランジスタ、フォトゲート、またはピンドフォトダイオード(pinned photodiode)などを含み得る。複数のピクセルPXのそれぞれは、光検出器を用いて光を感知し、感知された光の量を電気信号(例えば、電圧または電流)に変換することができる。
【0030】
ピクセルアレイ310上にカラーフィルタアレイCFA(Color Filter Array)とレンズを積層することができる。カラーフィルタアレイは、赤(R)、緑(G)および青(B)のフィルタを含み得る。複数のピクセルPXに2つ以上の異なるカラーフィルタを配置することができる。例えば、複数のピクセルPXに少なくとも1つの青色カラーフィルタ、少なくとも1つの赤色カラーフィルタ、および少なくとも2つの緑色カラーフィルタを配置することができる。
【0031】
行ドライバ320は、第1行から第m行までの行ラインRL1~RLm(mは正の整数)を介してピクセルアレイ310のピクセルPXの行にそれぞれ連結され得る。行ドライバ320は、タイミング発生器370によって生成されたアドレスおよび/または制御信号をデコードし、ピクセルアレイ310の第1行から第m行までの行ラインRL1~RLmを順次選択し、そして選択された行ラインを特定の電圧で駆動することができる。例えば、行ドライバ320は、選択された行ラインを光の感知に適した電圧で駆動することができる。
【0032】
ピクセルPXの行に連結される第1行から第m行までの行ラインRL1~RLmのそれぞれは、2つ以上のラインを含み得る。2つ以上のラインは、例えば、ピクセルの光検出器を選択(または活性化)するための信号、フローティング拡散ノードをリセットするための信号、列ラインを選択するための信号、変換利得CG(Conversion Gain)を調整するための信号などを含む多様な信号をそれぞれ伝達することができる。
【0033】
ランプ信号発生器330は、ランプ信号RSを生成することができる。ランプ信号発生器330は、タイミング発生器370の制御下で動作することができる。例えば、ランプ信号発生器330は、ランプイネーブル信号、モード信号などのような制御信号の下で動作することができる。ランプイネーブル信号が活性化されることに応答して、ランプ信号発生器330は、モード信号に基づいて設定される傾きを有するランプ信号を生成することができる。例えば、ランプ信号発生器330は、時間の経過とともに初期レベルから持続的に減少または増加するランプ信号RSを生成することができる。
【0034】
アナログ-デジタル変換回路340は、第1列から第n列までの列ラインCL1~CLn(nは正の整数)を介してピクセルアレイ310のピクセルPXの列にそれぞれ連結され得る。アナログ-デジタル変換回路340は、第1列から第n列までの列ラインCL1~CLnにそれぞれ連結される第1~第nのアナログ-デジタル変換器AD1~ADnを含み得る。第1~第nのアナログ-デジタル変換器AD1~ADnは、ランプ信号発生器330からランプ信号RSを共通に受信することができる。
【0035】
第1~第nのアナログ-デジタル変換器AD1~ADnは、第1列から第n列までの列ラインCL1~CLnの電圧(または電流)をランプ信号RSと比較することができる。ランプ信号は、一定の割合で減少または増加する信号である。第1~第nのアナログ-デジタル変換器AD1~ADnは、ランプ信号RSが第1列から第n列までの列ラインCL1~CLnのピクセル電圧(またはピクセル電流)より小さくなる(または、大きくなるまで)までのカウント値をラッチし、そしてラッチされたカウント値をデジタル値に変換して出力することができる。すなわち、第1~第nのアナログ-デジタル変換器AD1~ADnは、ピクセルPXから第1列から第n列までの列ラインCL1~CLnに出力された電圧(または電流)の大きさ(あるいは、量)に対応するデジタル値を出力し得る。
【0036】
第1~第nのアナログ-デジタル変換器AD1~ADnのそれぞれは、少なくとも2つのサブ変換器を含み得る。サブ変換器は、対応する列ラインに共通に連結され、そしてランプ信号RSを共通に受信することができる。サブ変換器は同じ分解能または異なる分解能を有し得る。サブ変換器は異なるタイミングで活性化され、対応する列ラインの電圧(または電流)をデジタル値(またはデジタル信号)に変換することができる。
【0037】
メモリ回路350は、第1~第nのアナログ-デジタル変換器AD1~ADnにそれぞれ対応する第1~第nのメモリM1~Mnを含み得る。第1~第nのメモリM1~Mnは、第1~第nのアナログ-デジタル変換器AD1~ADnから受信されたデジタル値(またはデジタル信号)を格納し、そして格納された値(または信号)を
図1のプロセッシング部130に伝達することができる。
【0038】
タイミング発生器370(TG)は、装置300が動作するタイミングを制御することができる。タイミング発生器370は、行ドライバ320が第1行から第m行までの行ラインRL1~RLmを順次選択するタイミングを制御し、第1行から第m行までの行ラインRL1~RLmのうち選択された行ラインに含まれた2つ以上のラインを介して信号が伝達されるタイミングを制御することができる。
【0039】
タイミング発生器370は、ランプ信号発生器330がランプ信号RSを生成し、そしてランプ信号を初期化するタイミングを制御することができる。タイミング発生器370は、第1~第nのアナログ-デジタル変換器AD1~ADnがカウントおよび比較を開始するタイミング、並びに第1~第nのアナログ-デジタル変換器AD1~ADnを初期化するタイミングを制御することができる。
【0040】
図4は、ピクセル部110のピクセルが配置された例を示す。
図1、
図3および
図4を参照すると、ピクセル部110は、左上端の第1ピクセルPX1、右上端の第2ピクセルPX2、左下端の第3ピクセルPX3、および右下端の第4ピクセルPX4は、2次元平面で繰り返し配置されるパターンを有し得る。
【0041】
第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のそれぞれは、複数のサブピクセルを含み得る。例として、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のそれぞれは、9個のサブピクセルを含むように示されているが、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のそれぞれに含まれるサブピクセルの数は限定されない。
【0042】
例として、第1ピクセルPX1のサブピクセルは赤色Rのカラーフィルタを共有し得る。第2ピクセルPX2のサブピクセルは緑色G(例えば、Gr)のカラーフィルタを共有し得る。第3ピクセルPX3のサブピクセルは、緑色G(例えば、Gb)のカラーフィルタを共有し得る。第4ピクセルPX4のサブピクセルは青色Bのカラーフィルタを共有し得る。
【0043】
図5は、ピクセルアレイ400のピクセルの一部の断面図の例を示す。例として、ピクセルアレイ400は、装置300のピクセルアレイ310に対応し得る。
【0044】
図3、
図4および
図5を参照すると、ピクセルアレイ400は、サブピクセルにそれぞれ対応し、入射光を対応するピクセルに集めるように構成されるマイクロレンズ410、マイクロレンズ410の下に位置するカラーフィルタ領域420、カラーフィルタ領域420の下に位置して入射光の反射を防止する反射防止膜425、入射光に基づいて電荷を生成する光電変換領域430、および光電変換領域430の下に位置して光電変換領域430によって生成された電荷を感知する感知回路440を含み得る。光電変換領域430は互いに電気的に絶縁され得る。
【0045】
カラーフィルタ領域420において、第1ピクセルPX1のサブピクセルの上端に第1カラーフィルタCF1を設けることができる。第1カラーフィルタCF1は、赤色に対応する周波数の光を通過させ得る。カラーフィルタ領域420において、第2ピクセルPX2のサブピクセルの上端に第2カラーフィルタCF2を設けることができる。第2カラーフィルタCF2は、緑色に対応する周波数の光を通過させ得る。カラーフィルタ領域420内のカラーフィルタ、例えば第1カラーフィルタCF1と第2カラーフィルタCF2との間に、金属成分を含んで入射光のクロストークを防止するためのグリッドGDを設けることができる。
【0046】
図4には示されていないが、第1ピクセルPX1および第2ピクセルPX2と同様に、第3ピクセルPX3のサブピクセルの上端に緑色に対応する周波数の光を通過させるカラーフィルタが設けられ、そして第4ピクセルPX4のサブピクセルの上端に青色に対応する周波数の光を通過させるカラーフィルタが設けられる。
【0047】
第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4の光電変換領域430の間に、並びに第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4の各サブピクセルの光電変換領域430の間に、光が隣接する他のサブピクセルまたはピクセルに漏れるのを遮断する反射物質が設けられてもよい。
【0048】
感知回路440は、第1列から第n列までの列ラインCL1~CLnのうち対応する列ラインと、第1行から第m行までの行ラインRL1~RLmのうち対応する行ラインと連結されるトランジスタを含み得る。
【0049】
図5に示すように、カラーフィルタCF1またはCF2の厚さは均一ではない可能性がある。第1ピクセルPX1の中央部のサブピクセルに対応する第1カラーフィルタCF1の厚さは、第1ピクセルPX1のエッジのサブピクセルに対応する第1カラーフィルタCF1の厚さよりも厚い可能性がある。したがって、同じ方向(例えば垂直方向)から同じ明るさ(例えば、照度)の光が入射しても、第1ピクセルPX1の中央部のサブピクセルが感知するピクセル値は、第1ピクセルPX1のエッジのサブピクセルが感知するピクセル値よりも低い可能性がある。また、第1ピクセルPX1の中央部のサブピクセルは、同じ色のカラーフィルタを有する隣接したサブピクセルを有する。しかしながら、第1ピクセルPX1のエッジのサブピクセルは、同じ色のカラーフィルタを有する隣接したサブピクセルと、異なる色のカラーフィルタを有する隣接したサブピクセルと、を有し得る。すなわち、サブピクセルの環境によってクロストークの影響が変わることがある。
【0050】
明るさ(例えば、照度)が基準値(例えば、照度基準値)よりも低い場合、プロセッシング部130(
図1参照)のビニング部132はビニングを行うことができる。例えば、ビニング部132は、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のそれぞれのサブピクセルのピクセル値を合算する(または、平均を計算する)ことができる。すなわち、プロセッシング部130は、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のピクセルのピクセル値を含むイメージデータIDを生成することができる。ビニングが行われたイメージデータIDは、ベイヤーパターンに基づいているため、別途の変換動作は必要としない。
【0051】
明るさ(例えば、照度)が基準値(例えば、照度基準値)以上である場合、プロセッシング部130(
図1参照)のリモザイク部131は、リモザイクを行うことができる。例えば、リモザイク部131は、サブピクセル単位のピクセル値を保持し、アナログ信号ASをベイヤーパターンに変換することができる。
【0052】
図6は、リモザイクが行われたピクセル値の例を示す。
図3、
図4、
図5および
図6を参照すると、サブピクセルにそれぞれ対応するピクセル値は、ベイヤーパターンに基づくように変換され得る。例えば、第1ピクセルPX1の第1行および第1列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように維持され得る。第1ピクセルPX1の第1行および第2列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第1ピクセルPX1の第1行および第3列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように維持される。
【0053】
第1ピクセルPX1の第2行および第1列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第1ピクセルPX1の第2行および第2列のサブピクセルに対応するピクセル値は、青色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第1ピクセルPX1の第2行および第3列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように変換(例えば、補間に基づいて)される。
【0054】
第1ピクセルPX1の第3行および第1列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように維持され得る。第1ピクセルPX1の第3行および第2列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第1ピクセルPX1の第3行および第3列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように維持される。
【0055】
第2ピクセルPX2の第1行および第1列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように維持され得る。第2ピクセルPX2の第1行および第2列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第2ピクセルPX2の第1行および第3列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように維持される。
【0056】
第2ピクセルPX2の第2行および第1列のサブピクセルに対応するピクセル値は、青色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第2ピクセルPX2の第2行および第2列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように維持される。第2ピクセルPX2の第2行および第3列のサブピクセルに対応するピクセル値は、青色のピクセル値に対応するように変換(例えば、補間に基づいて)されてもよい。
【0057】
第2ピクセルPX2の第3行および第1列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように維持される。第2ピクセルPX2の第3行および第2列のサブピクセルに対応するピクセル値は、赤色のピクセル値に対応するように変換(例えば、補間に基づいて)され得る。第2ピクセルPX2の第3行および第3列のサブピクセルに対応するピクセル値は、緑色のピクセル値に対応するように維持される。
【0058】
同様に、第3ピクセルPX3および第4ピクセルPX4のサブピクセルのピクセル値も、またベイヤーパターンに基づくように変換され得る。例として、
図5および
図6において、右上端から左下端に向かうライン(線)で満たされたサブピクセルに対応するピクセル値は、赤色に対応するピクセル値であり得る。左上端から右下端に向かうライン(線)で満たされたサブピクセルに対応するピクセル値は、青色に対応するピクセル値であり得る。点で満たされたサブピクセルに対応するピクセル値は、緑色に対応するピクセル値であり得る。
【0059】
。
図5を参照して説明したように、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のサブピクセルのうち中央部のサブピクセルによって感知されるピクセル値は、エッジのサブピクセルによって感知されるピクセル値よりも低い可能性がある。したがって、
図6のサブピクセルに対応するピクセル値では、中央部のサブピクセルに対応するピクセル値が、エッジのサブピクセルに対応するピクセル値よりも低くなるクロストークが発生できる。
【0060】
図7は、イメージセンサ100のプロセッシング部130のクロストーク補正部133が、クロストークを補正する方法の一例を示す。
図1、
図6および
図7を参照すると、ステップS21において、クロストーク補正部133は、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のサブピクセルのピクセル値のそれぞれに利得を適用することができる。利得に基づいて、クロストーク補正部133は、サブピクセルにそれぞれ対応するピクセル値を比率で調整することができる。
【0061】
ステップS22において、クロストーク補正部133は、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のサブピクセルのピクセル値にオフセットを適用することができる。オフセットに基づいて、クロストーク補正部133は、サブピクセルにそれぞれ対応するピクセル値をオフセット値だけ調整(例えば、足すか引くか)することができる。
【0062】
第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のサブピクセルに感知可能な最大輝度(または最大照度)の光が入射すると、サブピクセルは飽和して最大値のピクセル値を出力することができる。サブピクセルが最大値のピクセル値を出力するときに、クロストーク補正部133がクロストーク補正を行うと、利得(ゲイン)とオフセットによってイメージデータIDにアーティファクト(artifact)が発生できる。したがって、クロストーク補正部133は、飽和されたピクセル値に対してクロストーク補正を省略するように(または遂行しないように)構成され得る。
【0063】
また、
図5を参照して説明したようにカラーフィルタCF1またはCF2の厚さが均一ではないため、第1ピクセルPX1、第2ピクセルPX2、第3ピクセルPX3および第4ピクセルPX4のそれぞれのエッジのサブピクセルが飽和され、そして中央部分のサブピクセルは飽和しない可能性がある。この場合、イメージデータID上でクロストークによるアーティファクトが発生できる。
【0064】
このような問題を防止するために、サブピクセルのピクセル値に対してクロストーク補正を遂行するが、一部のサブピクセルが飽和されている状況でクロストークを補正するためのクロストーク補正アルゴリズムが必要とされる。本発明の実施形態によるイメージセンサ100のプロセッシング部130は、イメージデータ情報IDIから飽和率を算出し、そして飽和率に基づいてリモザイク設定を調整することにより、一部のサブピクセルが飽和される状況でクロストークによるアーティファクトを除去(または抑制)することができる。
【0065】
図8は、アプリケーションプロセッサ200がイメージデータIDからイメージデータ情報IDIを生成する例を説明するための図である。
図1および
図8を参照すると、アプリケーションプロセッサ200は、イメージデータIDをパッチPT(patches)に分割することができる。パッチPTのそれぞれは、2つ以上のピクセル(またはサブピクセル)のグループに対応するピクセル値を含み得る。パッチPTはイメージデータIDを格子状に分割することができる。アプリケーションプロセッサ200は、パッチPTに基づいてイメージデータ情報IDIを生成することができる。
【0066】
例えば、
図6のピクセル値では、赤色のサブピクセルに対応するピクセル値を赤色に対応するチャネルのパッチPTに分割され得る。青色のサブピクセルに対応するピクセル値は、青色に対応するチャネルのパッチPTに分割され得る。緑色のサブピクセルに対応するピクセル値は、緑色に対応するチャネルのパッチPTに分割される。あるいは、第1タイプの緑色(例えば、Gr)のサブピクセルに対応するピクセル値は、第1タイプの緑色に対応するチャネルのパッチPTに分割され、第2タイプの緑色(例えば、Gb)のサブピクセルに対応するピクセル値は、第2タイプの緑色に対応するチャネルのパッチPTに分割されてもよい。
図9は、アプリケーションプロセッサ200がイメージデータ情報IDIをイメージセンサ100に送る過程の一例を示す。
図1および
図9を参照すると、ステップS31において、アプリケーションプロセッサ200はイメージセンサ100からイメージデータIDを受信することができる。ステップS32において、アプリケーションプロセッサ200は、各パッチPTに対してイメージデータ情報IDIを生成することができる。ステップS33において、アプリケーションプロセッサ200は、生成されたイメージデータ情報IDIをイメージセンサ100に出力することができる。
【0067】
例えば、イメージデータ情報IDIは、パッチPTのそれぞれのピクセル値の情報、例えば平均ピクセル値を含み得る。イメージデータ情報IDIは、パッチPTのそれぞれの複数のチャネル(例えば、赤色Rチャネル、緑色Gチャネル(あるいは、GrチャネルおよびGbチャネル)、および青色Bチャネル)の平均ピクセル値を含み得る。
【0068】
別の例として、イメージデータ情報IDIは、パッチPTのそれぞれで飽和されたピクセル値の数を含み得る。イメージデータ情報IDIは、パッチPTのそれぞれの複数のチャネル(例えば、赤色Rチャネル、緑色Gチャネル(あるいは、GrチャネルおよびGbチャネル)、および青色Bチャネル)のそれぞれで飽和されたピクセル値の数を含み得る。
【0069】
図10は、イメージセンサ100のプロセッシング部130が飽和率に基づいてクロストークを抑制する方法の一例を示す。
図1および
図10を参照すると、ステップS110において、プロセッシング部130の飽和度管理部134は、イメージデータ情報IDIを受信することができる。
【0070】
ステップS120において、プロセッシング部130の飽和度管理部134は、イメージデータ情報IDIに基づいて前のフレームに転送されたイメージデータIDの飽和率を算出することができる。
【0071】
ステップS130において、プロセッシング部130の飽和度管理部134は、算出された飽和率に基づいてリモザイク部131のリモザイク設定を調整することができる。例えば、飽和度管理部134は、現在のフレームのイメージデータIDからより多くのノイズを除去することによって、クロストークが共に除去されるようにリモザイク設定を調整することができる。
【0072】
図11は、イメージセンサ100のプロセッシング部130が飽和率を算出する方法の一例を示す。
図1、
図8および
図11を参照すると、ステップS210において、プロセッシング部130の飽和度管理部134は、イメージデータ情報IDIからNチャネルの平均ピクセル値を検出することができる。N個(Nは正の整数)のチャネルの平均ピクセル値は、3つのチャネル(例えば、R、G、B)、4つのチャネル(例えば、R、Gr、Gb、B)または任意の数のチャネルに対応し得る。各チャネルの平均ピクセル値は、パッチPTにそれぞれ対応し得る。例えば、プロセッシング部130は、イメージデータ情報IDIからRチャネルのパッチの平均ピクセル値、Gチャネルのパッチの平均ピクセル値、およびBチャネルのパッチの平均ピクセル値を検出することができる。あるいは、プロセッシング部130は、イメージデータ情報IDIからRチャネルのパッチの平均ピクセル値、Grチャネルのパッチの平均ピクセル値、Gbチャネルのパッチの平均ピクセル値、およびBチャネルのパッチの平均ピクセル値を検出することができる。
【0073】
ステップS220で、プロセッシング部130の飽和度管理部134は、各チャネルについて閾値THを用いて飽和されたパッチを判定することができる。例えば、閾値THは、最大ピクセル値に対する一定の割合(例えば、90%、95%など)で決定されることもあり、アプリケーションプロセッサ200によって設定および調整されてもよい。平均ピクセル値が閾値TH以上であるパッチPTは、飽和されたパッチと判定することができる。平均ピクセル値が閾値THより小さいパッチPTは、飽和されていないパッチと判定することができる。N個のチャネルに対して、閾値THは同じ値または異なる値に設定されてもよい。
【0074】
ステップS230で、プロセッシング部130の飽和度管理部134は、各チャネルに対して飽和されたパッチの数をカウントすることができる。N個のチャネルの飽和されたパッチの数および位置は、互いに同じか異なるかである。
【0075】
ステップS240で、プロセッシング部130の飽和度管理部134は、N個のチャネルのうち飽和されたパッチの最大数に基づいて飽和率を計算することができる。例えば、飽和度管理部134は、N個のチャネルに対してそれぞれ飽和率を計算し、そしてN個のチャネルの飽和率のうち最大値を最終的な飽和率として決定することができる。
【0076】
例として、N個のチャネルは異なる周波数に対応し得る。ピクセル部110が撮影する対象の色は多様であり、N個のチャネルのうちのいずれか1つのチャネルのみが飽和される。例えば、晴れた日の青い空は青色のカラーフィルタに対応するピクセルの飽和を引き起こし、そして夕焼け空は赤色のカラーフィルタに対応するピクセルの飽和を引き起こすことができる。晴れた日の森は、緑色のカラーフィルタに対応するピクセルの飽和を引き起こすことができる。いずれか1つのチャネルのピクセルが飽和されると、イメージデータIDでクロストークによるアーティファクトが発生できる。本発明の実施形態によるイメージセンサ100は、N個のチャネルの飽和率のうち最も高い飽和率を利用することにより、クロストークによるアーティファクトを効率的に防止(または抑制)することができる。
【0077】
図12は、本発明の実施形態によるリモザイク設定を調整する方法の例を示す。
図1および
図12を参照すると、ステップS310で、イメージセンサ100のプロセッシング部130の飽和度管理部134は、リモザイク部131のリモザイク設定中で単調性閾値を調整することができる。単調性閾値は、リモザイク部131がデジタル信号DSが単調であるか否かを判定する基準であり得る。
【0078】
ステップS320で、イメージセンサ100の処理回路1300の飽和度管理部134は、リモザイク部131のリモザイク設定中で、ローカル単調性閾値を調整することができる。ローカル単調性閾値は、リモザイク部131がデジタル信号DS上でローカルに単調な領域を判定する基準であり得る。
【0079】
ステップS330で、イメージセンサ100の処理回路1300の飽和度管理部134は、リモザイク部131のリモザイク設定中でスムージングパワー(smoothing power)を調整することができる。スムージングパワーは、リモザイク部131がノイズを除去するためにデジタル信号DSに対してブラーリング(または低帯域通過フィルタリング)を遂行する強度に対応し得る。
【0080】
図13は、イメージセンサ100のプロセッシング部130が飽和率に応じてリモザイク設定を調整する傾向の一例を示す。
図13において、横軸は飽和率に対応し、そして縦軸は単調性閾値、ローカル単調性閾値またはスムージングパワーに対応する。
【0081】
図12に示すように、飽和率が増加すればするほど、プロセッシング部130の飽和度管理部134は、リモザイク部131の単調性閾値、ローカル単調性閾値またはスムージングパワーを増加させ得る。例として、飽和度管理部134は、単調性閾値、ローカル単調性閾値またはスムージングパワーを1次元的に、2次元的に、n次元的にまたは指数的に増加させることができる。例として、飽和度管理部134は、単調性閾値、ローカル単調性閾値またはスムージングパワーを同じ割合、または異なる割合で増加させることができる。
【0082】
図14は、イメージセンサ100のプロセッシング部130がリモザイク設定に基づいてリモザイクを行う方法の一例を示す。
図1および
図14を参照すると、ステップS410において、プロセッシング部130のリモザイク部131は、リモザイク設定の単調性閾値を用いてデジタル信号DSの単調性を判定することができる。例えば、N個のチャネルのそれぞれのピクセル値の差(例えば、最大差)が単調性閾値より小さい場合、リモザイク部131は、デジタル信号DSが単調であると判定することができる。N個のチャネルのそれぞれのピクセル値の差(例えば、最大差)が単調性閾値以上である場合、リモザイク部131は、デジタル信号DSが単調でないと判定することができる。
【0083】
ステップS420で、デジタル信号DSが単調であると判断されると、プロセッシング部130のリモザイク部131はステップS430を遂行することができる。ステップS430において、リモザイク部131は、デジタル信号DSの全体に対して平滑化(smoothen)を行うことができる。例えば、リモザイク部131は、リモザイク設定のスムージングパワーに基づいてデジタル信号DSに対して低帯域通過フィルタリングを行うことができる。
【0084】
ステップS420で、デジタル信号DSが単調でないと判断されると、プロセッシング部130のリモザイク部131は、ステップS440を遂行することができる。ステップS440で、リモザイク部131は、リモザイク設定のローカル単調性閾値を用いて、単調な領域およびパターン領域を判定することができる。例えば、デジタル信号DS上の特定の領域のN個のチャネルのそれぞれのピクセル値の差がローカル単調性閾値より小さい場合、リモザイク部131は、当該領域を単調な領域と判定することができる。デジタル信号DS上の特定の領域のN個のチャネルのそれぞれのピクセル値の差がローカル単調性閾値以上である場合、リモザイク部131は、当該領域をパターン領域(例えば、単調ではない領域)と判定することができる。
【0085】
ステップS450において、リモザイク部131は、デジタル信号DS上の単調な領域に対してリモザイク設定のスムージングパワーに基づいて平滑化(例えば、低帯域通過フィルタリング)を行うことができる。
【0086】
上述したように、本発明の実施形態によるイメージセンサ100は、飽和率が増加するほどデジタル信号DSをより単調であると判定し、そしてより強く平滑化を行うことができる。したがって、飽和されるピクセルのクロストークによって引き起こされるアーティファクトは、平滑化によって除去(または抑制)され得る。
【0087】
図15は、イメージセンサ100のプロセッシング部130が飽和率を算出する方法の他の例を示す。
図1および
図15を参照すると、ステップS510において、プロセッシング部130の飽和度管理部134は、イメージデータ情報IDIから飽和されたピクセルの数を検出することができる。例えば、アプリケーションプロセッサ200は、パッチPT(
図8参照)のそれぞれで飽和されたピクセル値の数をカウントし、そして各パッチPTの飽和されたピクセル値の数をイメージデータ情報IDIに含めることができる。飽和度管理部134は、イメージデータ情報IDIから各パッチPTで飽和されたピクセル値の数から飽和されたピクセルの数を検出することができる。
【0088】
ステップS520において、飽和度管理部134は、飽和されたピクセルの数に基づいて飽和率を算出することができる。例えば、飽和度管理部134は、ピクセル部110のすべてのピクセル数に対する飽和されたピクセル数の割合を飽和率として算出することができる。
【0089】
別の実施形態として、アプリケーションプロセッサ200は、各パッチPTのピクセル値の数に対する飽和されたピクセル値の数を各パッチPTの飽和率として計算し、そして各パッチPTの飽和率をイメージデータ情報IDIに含めることができる。飽和度管理部134は、イメージデータ情報IDIから各パッチPTの飽和率を検出し、そしてパッチPTの飽和率の平均を飽和率として算出することができる。
【0090】
図16は、マルチカメラモジュールを含む電子機器のブロック図である。
図17は、
図16のカメラモジュールの詳細ブロック図である。
【0091】
図16を参照すると、電子機器1000は、カメラモジュールグループ1100、アプリケーションプロセッサ1200、PMIC1300および外部メモリ1400を含み得る。
【0092】
カメラモジュールグループ1100は、複数のカメラモジュール1100a、1100b、1100cを含み得る。たとえ図には、3つのカメラモジュール1100a、1100b、1100cが配置された実施形態が示されているが、実施形態はこれに限定されるものではない。いくつかの実施形態では、カメラモジュールグループ1100は、2つのカメラモジュールのみを含むように変更されて実施され得る。なお、いくつかの実施形態では、カメラモジュールグループ1100は、i個(iは4以上の自然数)のカメラモジュールを含むように変更されて実施されることもある。例として、カメラモジュールグループ1100の複数のカメラモジュール1100a、1100b、1100cのそれぞれは、
図1のイメージセンサ100を含み得る。アプリケーションプロセッサ1200は、
図1のアプリケーションプロセッサ200を含み得る。
【0093】
以下では、
図17を参照して、カメラモジュール1100bの詳細構成に対してより具体的に説明するが、以下の説明は、実施形態によって他のカメラモジュール1100a、1100bに対しても同様に適用され得る。
【0094】
図17を参照すると、カメラモジュール1100bは、プリズム1105、光路屈曲要素(Optical Path Folding Element)(以下、「OPFE」と称する)1110、アクチュエータ1130、イメージセンシング装置1140およびストレージ装置1150を含み得る。
【0095】
プリズム1105は、光反射物質の反射面1107を含み、外部から入射する光Lの経路を変形させることができる。
【0096】
いくつかの実施形態では、プリズム1105は、第1方向Xに入射する光Lの経路を第1方向Xに垂直な第2方向Yに変更させることができる。また、プリズム1105は、光反射物質の反射面1107を中心軸1106を中心にA方向に回転させるか、または中心軸1106をB方向に回転させて第1方向Xに入射する光Lの経路を垂直な第2方向Yに変更することができる。このとき、OPFE1110も第1方向Xおよび第2方向Yと垂直な第3方向Zに移動することができる。
【0097】
いくつかの実施形態では、図示されたように、プリズム1105のA方向の最大回転角度はプラス(+)A方向では15度(degree)以下であり、マイナス(-)A方向では15度よりも大きい可能性があるものの、実施形態はこれに限定されるものではない。
【0098】
いくつかの実施形態では、プリズム1105は、プラス(+)またはマイナス(-)のB方向に20度内外、10度~20度、または15度~20度の間で移動することができ、ここで、動く角度はプラス(+)またはマイナス(-)のB方向に同じ角度で移動するか、1度内外の範囲でほぼ類似した角度まで移動することができる。
【0099】
いくつかの実施形態では、プリズム1105は、光反射物質の反射面1107を中心軸1106の延長方向と平行な第3方向(例えば、Z方向)に移動することができる。
【0100】
OPFE1110は、例えば、j(ここで、jは自然数)個のグループからなる光学レンズを含み得る。j個のレンズは第2方向Yに移動してカメラモジュール1100bの光学ズーム倍率(optical zoom ratio)を変更することができる。例えば、カメラモジュール1100bの基本光学ズーム倍率をZとする場合、OPFE1110に含まれるm個の光学レンズを移動させるとき、カメラモジュール1100bの光学ズーム倍率は、3Z、5Zまたは5Z以上の光学ズーム倍率に変更され得る。
【0101】
アクチュエータ1130は、OPFE1110または光学レンズ(以下、光学レンズと称する)を特定の位置に移動させることができる。例えば、アクチュエータ1130は、正確なセンシングのためにイメージセンサ1142が光学レンズの焦点距離に位置するように光学レンズの位置を調整することができる。
【0102】
イメージセンシング装置1140は、イメージセンサ1142、制御ロジック1144およびメモリ1146を含み得る。イメージセンサ1142は、光学レンズを通して提供される光Lを用いてセンシング対象のイメージをセンシングすることができる。
【0103】
制御ロジック1144は、カメラモジュール1100bの全体的な動作を制御することができる。例えば、制御ロジック1144は、制御信号ラインCSLbを介して提供される制御信号にしたがってカメラモジュール1100bの動作を制御することができる。
【0104】
メモリ1146は、キャリブレーションデータ1147のようなカメラモジュール1100bの動作に必要な情報を記憶することができる。キャリブレーションデータ1147は、カメラモジュール1100bが外部から提供された光Lを使用してイメージデータを生成するのに必要な情報を含み得る。キャリブレーションデータ1147は、例えば、上述した回転角度(degree of rotation)に関する情報、焦点距離(focal length)に関する情報、および光軸(optical axis)に関する情報などを含み得る。カメラモジュール1100bが、光学レンズの位置によって焦点距離が変わるマルチステート(multi state)カメラの形態で実施される場合、キャリブレーションデータ1147は、光学レンズの各位置別(またはステート別)焦点距離値とオートフォーカス(auto focusing)に関する情報を含み得る。
【0105】
ストレージ装置1150は、イメージセンサ1142を介してセンシングされたイメージデータを記憶することができる。ストレージ装置1150は、イメージセンシング装置1140の外部に配置されてもよく、イメージセンシング装置1140を構成するセンサチップと積層された(stacked)形態で実現されてもよい。いくつかの実施形態では、ストレージ装置1150は、EEPROM(Electrically Erasable Programmable Read-Only Memory)で実現されることがあるが、実施形態はこれに限定されるものではない。
【0106】
図16と
図17を共に参照すると、いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのそれぞれはアクチュエータ1130を含み得る。したがって、複数のカメラモジュール1100a、1100b、1100cのそれぞれは、その中に含まれるアクチュエータ1130の動作に応じて互いに同じか異なるかのキャリブレーションデータ1147を含み得る。
【0107】
いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのうちの1つのカメラモジュール(例えば、1100b)は、上述したプリズム1105およびOPFE1110を含む折りたたみレンズ(folded lens)形態のカメラモジュールであり、残りのカメラモジュール(例えば、1100a、1100b)は、プリズム1105およびOPFE1110が含まれていないバーティカル(vertical)形のカメラモジュールであり得るが、実施形態がこれに限定されるものではない。
【0108】
いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのうちの1つのカメラモジュール(例えば、1100c)は、例えば、IR(Infrared Ray)を用いてデプス(depth)情報を抽出するバーティカル形のデプスカメラ(depth camera)であり得る。この場合、アプリケーションプロセッサ1200は、そのようなデプスカメラから提供されたイメージデータと別のカメラモジュール(例えば、1100aまたは1100b)から提供されたイメージデータをマージ(merge)して3次元デプスイメージ(3D depth image)を生成することができる。
【0109】
いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのうち少なくとも2つのカメラモジュール(例えば、1100a、1100b)は、異なる観測視野(Field of View、視野角)を有し得る。この場合、例えば、複数のカメラモジュール1100a、1100b、1100cのうち少なくとも2つのカメラモジュール(例えば、1100a、1100b)の光学レンズが互いに異なってもよいが、これに限定されるものではない。
【0110】
なお、いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのそれぞれの視野角は互いに異なることがある。この場合、複数のカメラモジュール1100a、1100b、1100cのそれぞれに含まれる光学レンズもまた互いに異なってもよいが、これに限定されるものではない。
【0111】
いくつかの実施形態では、複数のカメラモジュール1100a、1100b、1100cのそれぞれは、互いに物理的に分離して配置されてもよい。すなわち、1つのイメージセンサ1142のセンシング領域を複数のカメラモジュール1100a、1100b、1100cが分割して使用するのではなく、複数のカメラモジュール1100a、1100b、1100cのそれぞれの内部に独立したイメージセンサ1142が配置され得る。
【0112】
再び
図16を参照すると、アプリケーションプロセッサ1200は、イメージ処理装置1210、メモリコントローラ1220、内部メモリ1230を含み得る。アプリケーションプロセッサ1200は、複数のカメラモジュール1100a、1100b、1100cから分離して実施され得る。例えば、アプリケーションプロセッサ1200と複数のカメラモジュール1100a、1100b、1100cは、別途の半導体チップに分離して実施され得る。
【0113】
イメージ処理装置1210は、複数のサブイメージプロセッサ1212a、1212b、1212c、イメージ生成器1214およびカメラモジュールコントローラ1216を含み得る。
【0114】
イメージ処理装置1210は、複数のカメラモジュール1100a、1100b、1100cの数に対応する個数の複数のサブイメージプロセッサ1212a、1212b、1212cを含み得る。
【0115】
それぞれのカメラモジュール1100a、1100b、1100cから生成されたイメージデータは、互いに分離されたイメージ信号ラインISLa、ISLb、ISLcを介して対応するサブイメージプロセッサ1212a、1212b、1212cに提供されてもよい。例えば、カメラモジュール1100aから生成されたイメージデータは、イメージ信号ラインISLaを介してサブイメージプロセッサ1212aに提供される。カメラモジュール1100bから生成されたイメージデータは、イメージ信号ラインISLbを介してサブイメージプロセッサ1212bに提供される。カメラモジュール1100cから生成されたイメージデータは、イメージ信号ラインISLcを介してサブイメージプロセッサ1212cに提供される。このようなイメージデータ転送は、例えば、MIPI(Mobile Industry Processor Interface)に基づくカメラシリアルインターフェース(CSI:Camera Serial Interface)を用いて遂行されうるが、実施形態はこれに限定されるものではない。
【0116】
一方、いくつかの実施形態では、1つのサブイメージプロセッサが複数のカメラモジュールに対応するように配置されることもある。例えば、サブイメージプロセッサ1212aとサブイメージプロセッサ1212cが図示されたように互いに分離して実施されるのではなく、1つのサブイメージプロセッサに統合されて実施される。カメラモジュール1100aとカメラモジュール1100cから提供されたイメージデータは、選択素子(例えば、マルチプレクサ)などを介して選択された後、統合されたサブイメージプロセッサに提供され得る。
【0117】
それぞれのサブイメージプロセッサ1212a、1212b、1212cに提供されたイメージデータは、イメージ生成器1214に提供されてもよい。イメージ生成器1214は、イメージ生成情報(Generation Information)またはモード信号(Mode Signal)にしたがってそれぞれのサブイメージプロセッサ1212a、1212b、1212cから提供されたイメージデータを用いて出力イメージを生成することができる。
【0118】
具体的には、イメージ生成器1214は、イメージ生成情報またはモード信号に応じて、異なる視野角を有するカメラモジュール1100a、1100b、1100cから生成されたイメージデータのうち少なくとも一部をマージ(merge)して出力イメージを生成することができる。なお、イメージ生成器1214は、イメージ生成情報またはモード信号に応じて、異なる視野角を有するカメラモジュール1100a、1100b、1100cから生成されたイメージデータのうちいずれか1つを選択して出力イメージを生成することができる。
【0119】
いくつかの実施形態では、イメージ生成情報はズーム信号(zoom signal or zoom factor)を含み得る。なお、いくつかの実施形態では、モード信号は、例えばユーザー(user)から選択されたモードに基づく信号であり得る。
【0120】
イメージ生成情報がズーム信号(ズームファクター)であり、それぞれのカメラモジュール1100a、1100b、1100cが異なる観測視野(視野角)を有する場合、イメージ生成器1214はズーム信号の種類に応じて異なる動作を行うことができる。例えば、ズーム信号が第1信号である場合、カメラモジュール1100aから出力されたイメージデータと、カメラモジュール1100cから出力されたイメージデータとをマージした後、マージされたイメージ信号とマージに使用されていないカメラモジュール1100bから出力されたイメージデータを用いて、出力イメージを生成することができる。仮にズーム信号が第1信号と異なる第2信号である場合、イメージ生成器1214はこのようなイメージデータのマージを行わずに、それぞれのカメラモジュール1100a、1100b、1100cから出力されたイメージデータのうちいずれか1つを選択して出力イメージを生成することができる。しかしながら、実施形態はこれに限定されず、必要に応じてイメージデータを処理する方法は、いくらでも変更して実施され得る。
【0121】
いくつかの実施形態では、イメージ生成器1214は、複数のサブイメージプロセッサ1212a、1212b、1212cのうちの少なくとも1つから露出時間が異なる複数のイメージデータを受信し、複数のイメージデータに対してハイダイナミックレンジHDR(high dynamic range)処理を行うことにより、ダイナミックレンジが増加・併合(マージ)されたイメージデータを生成することができる。
【0122】
カメラモジュールコントローラ1216は、それぞれのカメラモジュール1100a、1100b、1100cに制御信号を提供することができる。カメラモジュールコントローラ1216から生成された制御信号は、互いに分離された制御信号ラインCSLa、CSLb、CSLcを介して対応するカメラモジュール1100a、1100b、1100cに提供され得る。
【0123】
複数のカメラモジュール1100a、1100b、1100cのうちいずれか1つは、ズーム信号を含むイメージ生成情報またはモード信号に応じてマスター(master)カメラ(例えば、1100b)として指定され、残りのカメラモジュール(例えば、1100a、1100c)はスレーブ(slave)カメラとして指定され得る。このような情報は制御信号に含まれており、互いに分離された制御信号ラインCSLa、CSLb、CSLcを介して対応するカメラモジュール1100a、1100b、1100cに提供されてもよい。
【0124】
ズームファクターまたは動作モード信号に応じて、マスターおよびスレーブとして動作するカメラモジュールを変更することができる。例えば、カメラモジュール1100aの視野角がカメラモジュール1100bの視野角より広く、ズームファクターが低いズーム倍率を示す場合、カメラモジュール1100bがマスターとして動作し、カメラモジュール1100aがスレーブとして動作することができる。逆に、ズームファクターが高いズーム倍率を示す場合、カメラモジュール1100aはマスターとして動作し、カメラモジュール1100bはスレーブとして動作することができる。
【0125】
いくつかの実施形態では、カメラモジュールコントローラ1216からそれぞれのカメラモジュール1100a、1100b、1100cに提供される制御信号は、シンクイネーブル(sync enable)信号を含み得る。例えば、カメラモジュール1100bがマスターカメラであり、カメラモジュール1100a、1100cがスレーブカメラである場合、カメラモジュールコントローラ1216は、カメラモジュール1100bにシンクイネーブル信号を送ることができる。このようなシンクイネーブル信号を受けたカメラモジュール1100bは、提供されたシンクイネーブル信号に基づいてシンク信号(sync signal)を生成し、生成されたシンク信号をシンク信号ラインSSLを介してカメラモジュール1100a、1100cに提供することができる。カメラモジュール1100bとカメラモジュール1100a、1100cはこのシンク信号に同期されてイメージデータをアプリケーションプロセッサ1200に転送することができる。
【0126】
いくつかの実施形態では、カメラモジュールコントローラ1216から複数のカメラモジュール1100a、1100b、1100cに提供される制御信号は、モード信号に応じたモード情報を含み得る。このようなモード情報に基づいて、複数のカメラモジュール1100a、1100b、1100cは、センシング速度に関連して第1動作モードおよび第2動作モードで動作することができる。
【0127】
複数のカメラモジュール1100a、1100b、1100cは、第1動作モードにおいて、第1速度でイメージ信号を生成(例えば、第1フレームレートのイメージ信号を生成)し、これを第1速度よりも高い第2速度でエンコード(例えば、第1フレームレートよりも高い第2フレームレートのイメージ信号をエンコード)し、エンコードされたイメージ信号をアプリケーションプロセッサ1200に転送することができる。このとき、第2速度は第1速度の30倍以下であり得る。
【0128】
アプリケーションプロセッサ1200は、受信されたイメージ信号、言い換えるとエンコードされたイメージ信号を内部に設けられる内部メモリ1230またはアプリケーションプロセッサ1200の外部のメモリ1400に格納し、その後内部メモリ1230または外部のメモリ1400からエンコードされたイメージ信号を読み出してデコードし、デコードされたイメージ信号に基づいて生成されるイメージデータをディスプレイすることができる。例えば、イメージ処理装置1210の複数のサブプロセッサ1212a、1212b、1212cのうち対応するサブプロセッサがデコーディングを遂行することができ、デコードされたイメージ信号に対してイメージ処理を遂行することができる。
【0129】
複数のカメラモジュール1100a、1100b、1100cは、第2動作モードにおいて、第1速度より低い第3速度でイメージ信号を生成(例えば、第1フレームレートより低い第3フレームレートのイメージ信号を生成)し、イメージ信号をアプリケーションプロセッサ1200に転送することができる。アプリケーションプロセッサ1200に提供されるイメージ信号は、エンコードされていない信号であり得る。アプリケーションプロセッサ1200は、受信されるイメージ信号に対してイメージ処理を遂行するか、またはイメージ信号を内部メモリ1230または外部メモリ1400に格納することができる。
【0130】
PMIC1300は、複数のカメラモジュール1100a、1100b、1100cのそれぞれに電力、例えば電源電圧を供給することができる。例えば、PMIC1300は、アプリケーションプロセッサ1200の制御下で、パワー信号ラインPSLaを介してカメラモジュール1100aに第1電力を供給し、パワー信号ラインPSLbを介してカメラモジュール1100bに第2電力を供給し、パワー信号ラインPSLcを介してカメラモジュール1100cに第3電力を供給することができる。
【0131】
PMIC1300は、アプリケーションプロセッサ1200からの電力制御信号PCONに応答して、複数のカメラモジュール1100a、1100b、1100cのそれぞれに対応する電力を生成し、なお電力のレベルを調整することができる。電力制御信号PCONは、複数のカメラモジュール1100a、1100b、1100cの動作モード別電力調整信号を含み得る。例えば、動作モードは低電力モード(low power mode)を含むことができ、このとき、電力制御信号PCONは低電力モードで動作するカメラモジュールおよび設定された電力レベルに関する情報を含み得る。複数のカメラモジュール1100a、1100b、1100cのそれぞれに提供される電力のレベルは、互いに同じか異なるかである。なお、電力のレベルは動的に変更されることがある。
【0132】
例として、
図1~
図15を参照して説明されたイメージセンサ100は、
図17のイメージセンサ1142に対応し得る。イメージセンサ1142は、ピクセル値の飽和率に基づいてリモザイク設定を調整することができる。イメージセンサ1142は、リモザイク設定に基づいてリモザイクを遂行し、そしてクロストーク補正を遂行することができる。例として、リモザイククロストーク補正は、順次にまたは逆順に遂行され得る。イメージセンサ1142が本発明の実施形態にしたがって実現されると、アプリケーションプロセッサ1200が取得するイメージデータの品質を改善することができる。
【0133】
上述した実施形態において、第1、第2、第3などの用語を使用して本発明の技術的思想による構成要素が説明された。しかしながら、第1、第2、第3などのような用語は、構成要素を互いに区別するために使用され、本発明を限定しない。例えば、第1、第2、第3などのような用語は、順序または任意のタイプの数値データを内包しない。
【0134】
前述した実施形態では、ブロックを使用して本発明の実施形態による構成要素が参照された。ブロックは、IC(Integrated Circuit)、ASIC(Application Specific IC)、FPGA(Field Programmable Gate Array)、CPLD(Complex Programmable Logic Device)などのような多様なハードウェア装置、ハードウェア装置で駆動されるファームウェア、アプリケーションのようなソフトウェア、またはハードウェア装置とソフトウェアを組み合わせた形態で実施され得る。なお、ブロックは、IC内の半導体素子で構成される回路またはIP(Intellectual Property)で登録された回路を含み得る。
【0135】
前述した内容は、本発明を実施するための具体的な実施形態である。本発明は、前述した実施形態だけでなく、単に設計変更または容易に変更することができる実施形態もまた含んでいるはずである。なお、本発明は、実施形態を用いて容易に変形して実施することができる技術もまた含んでいるはずである。したがって、本発明の範囲は、上述した実施形態に限定され定められてはならず、後述する特許請求の範囲だけでなく、本発明の特許請求の範囲と均等なものによって定められるべきである。
【符号の説明】
【0136】
10:電子機器
100:イメージセンサ
110:ピクセル部
120:データ変換部
130:プロセッシング(処理)部
131:リモザイク部
132:ビニング部
133:クロストーク補正部
134:飽和度管理部