IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三星電子株式会社の特許一覧

特開2022-187989イメージセンサとその動作方法及びイメージ装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022187989
(43)【公開日】2022-12-20
(54)【発明の名称】イメージセンサとその動作方法及びイメージ装置
(51)【国際特許分類】
   H04N 5/369 20110101AFI20221213BHJP
   H04N 5/359 20110101ALI20221213BHJP
   H04N 5/3745 20110101ALI20221213BHJP
   H04N 9/07 20060101ALI20221213BHJP
【FI】
H04N5/369
H04N5/359
H04N5/3745 700
H04N9/07 D
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2022083205
(22)【出願日】2022-05-20
(31)【優先権主張番号】10-2021-0073994
(32)【優先日】2021-06-08
(33)【優先権主張国・地域又は機関】KR
(31)【優先権主張番号】17/675,694
(32)【優先日】2022-02-18
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung-ro,Yeongtong-gu,Suwon-si,Gyeonggi-do,Republic of Korea
(74)【代理人】
【識別番号】110000051
【氏名又は名称】弁理士法人共生国際特許事務所
(72)【発明者】
【氏名】張 チャン ヨン
(72)【発明者】
【氏名】柳 鐘 ミン
【テーマコード(参考)】
5C024
5C065
【Fターム(参考)】
5C024CX11
5C024CY37
5C024DX01
5C024EX52
5C024GY31
5C024HX14
5C024HX23
5C024HX50
5C065BB02
5C065BB19
5C065CC01
5C065DD15
5C065EE06
5C065EE09
(57)【要約】
【課題】向上した性能を有するイメージセンサとその動作方法及びイメージ装置を提供する。
【解決手段】本発明のイメージセンサは、複数のピクセルを含むピクセルアレイと、複数のピクセルを制御するように構成された行ドライバと、ピクセルアレイによって感知された結果をデジタル化して第1イメージを生成するように構成されたアナログ/デジタル変換器と、を備え、ピクセルアレイは、複数のピクセルのうちの第1ホワイトピクセル及び第1カラーピクセルを各々含む第1ピクセルグループと、複数のピクセルのうちの第2ホワイトピクセル及び第2カラーピクセルを各々含む第2ピクセルグループと、を含み、第1イメージのうちの第1ピクセルデータは、第1ホワイトピクセル及び第1カラーピクセルに基づいて生成され、第1イメージのうちの第2ピクセルデータは第2カラーピクセルに基づいて生成される。
【選択図】図1

【特許請求の範囲】
【請求項1】
複数のピクセルを含むピクセルアレイと、
前記複数のピクセルを制御するように構成された行ドライバと、
前記ピクセルアレイによって感知(センシング)された結果をデジタル化して第1イメージを生成するように構成されたアナログ/デジタル変換器と、を備え、
前記ピクセルアレイは、
前記複数のピクセルのうちの第1ホワイトピクセル及び第1カラーピクセルを各々含む第1ピクセルグループと、
前記複数のピクセルのうちの第2ホワイトピクセル及び第2カラーピクセルを各々含む第2ピクセルグループと、を含み、
前記第1イメージのうちの第1ピクセルデータは、前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて生成され、
前記第1イメージのうちの第2ピクセルデータは、前記第2カラーピクセルに基づいて生成されることを特徴とするイメージセンサ。
【請求項2】
前記行ドライバは、
前記第1ホワイトピクセルに連結された第1転送信号及び第1カラーピクセルに連結された第2転送信号を活性化し、前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて前記第1イメージのうちの前記第1ピクセルデータを生成し、
前記第2ホワイトピクセルに連結された第3転送信号を非活性化し、前記第2カラーピクセルに連結された第4転送信号を活性化し、前記第2カラーピクセルに基づいて前記第1イメージのうちの前記第2ピクセルデータを生成するように構成されることを特徴とする請求項1に記載のイメージセンサ。
【請求項3】
前記第1ピクセルグループは、
前記第1ホワイトピクセルのうちの第1部分及び前記第1カラーピクセルのうちのグリーンカラーピクセルを含むグリーンカラーピクセルグループと、
前記第1ホワイトピクセルのうちの第2部分及び前記第1カラーピクセルのうちのレッドカラーピクセルを含むレッドカラーピクセルグループと、
前記第1ホワイトピクセルのうちの第3部分及び前記第1カラーピクセルのうちのブルーカラーピクセルを含むブルーカラーピクセルグループと、を含むことを特徴とする請求項1に記載のイメージセンサ。
【請求項4】
前記第1ホワイトピクセルのうちの前記第1部分及び前記グリーンカラーピクセルは、第1フローティング拡散領域を共有し、
前記第1ホワイトピクセルのうちの前記第2部分及び前記レッドカラーピクセルは、第2フローティング拡散領域を共有し、
前記第1ホワイトピクセルのうちの前記第3部分及び前記ブルーカラーピクセルは、第3フローティング拡散領域を共有し、
前記第2ホワイトピクセル及び前記第2カラーピクセルは、第4フローティング拡散領域を共有することを特徴とする請求項3に記載のイメージセンサ。
【請求項5】
前記第1ピクセルデータのうちのホワイトグリーンピクセルデータは、前記第1ホワイトピクセルのうちの前記第1部分及び前記グリーンカラーピクセルに基づいて生成され、
前記第1ピクセルデータのうちのホワイトレッドピクセルデータは、前記第1ホワイトピクセルのうちの前記第2部分及び前記レッドカラーピクセルに基づいて生成され、
前記第1ピクセルデータのうちのホワイトブルーピクセルデータは、前記第1ホワイトピクセルのうちの前記第3部分及び前記ブルーカラーピクセルに基づいて生成されることを特徴とする請求項3に記載のイメージセンサ。
【請求項6】
前記第1イメージを受信し、前記第1イメージに基づいてホワイト抽出動作を遂行してホワイトパターンの第2イメージを生成するように構成される少なくとも1つのプロセッサを更に備えることを特徴とする請求項1に記載のイメージセンサ。
【請求項7】
前記少なくとも1つのプロセッサは、前記第2イメージに基づいてクロストーク補償動作を遂行して第3イメージを生成するように更に構成されることを特徴とする請求項6に記載のイメージセンサ。
【請求項8】
前記少なくとも1つのプロセッサは、予め格納されたキャリブレーションデータをロードし、前記第3イメージを生成するために前記キャリブレーションデータのうちの対応するキャリブレーションデータ値を前記第2イメージのコードレベルの各々に乗算するクロストーク補償動作を遂行するように構成されることを特徴とする請求項7に記載のイメージセンサ。
【請求項9】
前記少なくとも1つのプロセッサは、前記第1イメージから前記第3イメージを減算演算してベイヤーパターンのイメージを生成するように更に構成されることを特徴とする請求項7に記載のイメージセンサ。
【請求項10】
前記少なくとも1つのプロセッサは、
前記第1イメージのうちの前記第1ピクセルデータに前記第3イメージによる減算演算を遂行し、
前記第1イメージのうちの前記第2ピクセルデータに前記第3イメージによる減算演算を遂行しないように構成されることを特徴とする請求項9に記載のイメージセンサ。
【請求項11】
前記第1イメージのうちの前記第2ピクセルデータは、前記ベイヤーパターンのイメージの対応するピクセルデータと同一であることを特徴とする請求項9に記載のイメージセンサ。
【請求項12】
前記少なくとも1つのプロセッサは、
前記第1イメージに基づいてホワイトバランス動作を遂行して第4イメージを生成して出力し、
前記第4イメージに基づいてルーマ抽出動作を遂行して無彩色の第5イメージを生成して出力し、
前記第5イメージ及び前記第1イメージに基づいてガイドフィルタリング動作を遂行してホワイト及びグリーンパターンの第6イメージ並びにグリーンパターンの第7イメージを出力し、
前記第6イメージに前記第7イメージによる減算演算を遂行して前記第2イメージを生成するように更に構成されることを特徴とする請求項6に記載のイメージセンサ。
【請求項13】
前記少なくとも1つのプロセッサは、第1イメージに対するゲインを調整して前記調整されたゲインに基づいてホワイトバランス動作を遂行するように更に構成されることを特徴とする請求項12に記載のイメージセンサ。
【請求項14】
前記第1ピクセルグループは、前記第1ホワイトピクセルのうちの第1部分及び第1カラーピクセルのうちの第1グリーンカラーピクセルを有するグリーンカラーピクセルグループを含み、
前記第2カラーピクセルは、第2グリーンカラーピクセルに対応し、
前記少なくとも1つのプロセッサは、
前記グリーンカラーピクセルグループに基づいて生成された第1ピクセルデータのうち、ホワイトグリーンピクセルデータを含む第1サンプリングイメージを生成し、前記第2ピクセルデータを含む第2サンプリングイメージを生成し、
前記第1サンプリングイメージに基づいて前記第1イメージのサイズに対応する第6イメージを生成し、前記第2サンプリングイメージに基づいて前記第1イメージのサイズに対応する第7イメージを生成するように更に構成されることを特徴とする請求項12に記載のイメージセンサ。
【請求項15】
第1ピクセルグループ及び第2ピクセルグループを含むイメージセンサの動作方法であって、
第1読み出し過程において、第1ホワイトピクセル及び第1カラーピクセルを含む前記第1ピクセルグループに対して前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて第1信号をサンプリングして出力する第1合算演算を遂行する段階と、
前記第1読み出し過程において、第2ホワイトピクセル及び第2カラーピクセルを含む前記第2ピクセルグループに対して前記第2カラーピクセルに基づいて第2信号をサンプリングして出力する第2合算演算を遂行する段階と、
前記第1信号及び前記第2信号をデジタル信号に変換してローイメージを生成する段階と、
前記ローイメージに基づいてホワイトイメージを抽出する段階と、
前記ホワイトイメージに基づいてクロストーク補償動作を遂行してクロストーク補償ホワイトイメージを生成する段階と、
前記ローイメージに前記クロストーク補償ホワイトイメージによる減算演算を遂行してベイヤーイメージを生成する段階と、を有することを特徴とする方法。
【請求項16】
前記ローイメージに基づいてホワイトイメージを抽出する段階は、
前記ローイメージに基づいてホワイトバランス動作を遂行してホワイトバランスのローイメージを生成する段階と、
前記ホワイトバランスのローイメージに基づいてルーマ抽出動作を遂行してパンクロマティックイメージを生成する段階と、
前記パンクロマティックイメージ及び前記ローイメージに基づいてガイドフィルタリング動作を遂行してホワイトグリーンフルイメージ及びグリーンフルイメージを生成する段階と、
前記ホワイトグリーンフルイメージに前記グリーンフルイメージによる減算演算を遂行して前記ホワイトイメージを生成する段階と、を含むことを特徴とする請求項15に記載の方法。
【請求項17】
前記パンクロマティックイメージ及び前記ローイメージに基づいてガイドフィルタリング動作を遂行してホワイトグリーンフルイメージ及びグリーンフルイメージを生成する段階は、
前記ローイメージに基づいてホワイトグリーンサンプリングイメージを抽出する段階と、
前記ローイメージに基づいてグリーンサンプリングイメージを抽出する段階と、
前記パンクロマティックイメージ及び前記ホワイトグリーンサンプリングイメージに基づいて前記ホワイトグリーンフルイメージを生成する段階と、
前記パンクロマティックイメージ及び前記グリーンサンプリングイメージに基づいて前記グリーンフルイメージを生成する段階と、を含むことを特徴とする請求項16に記載の方法。
【請求項18】
前記第1ホワイトピクセル及び第1カラーピクセルを含む前記第1ピクセルグループに対して前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて第1信号をサンプリングして出力する第1合算演算を遂行する段階は、
前記第1ピクセルグループに含まれる選択トランジスタに連結される第1選択信号を活性化する段階と、
前記第1ピクセルグループに含まれるリセットトランジスタに連結される第1リセット信号を非活性化する段階と、
前記第1ホワイトピクセルに連結される第1転送信号を活性化及び非活性化する段階と、
前記第1カラーピクセルに連結される第2転送信号を活性化及び非活性化する段階と、を含むことを特徴とする請求項17に記載の方法。
【請求項19】
前記第2ホワイトピクセル及び第2カラーピクセルを含む前記第2ピクセルグループに対して前記第2カラーピクセルに基づいて第2信号をサンプリングして出力する第2合算演算を遂行する段階は、
前記第2ピクセルグループに含まれる選択トランジスタに連結される第1選択信号を活性化する段階と、
前記第2ピクセルグループに含まれるリセットトランジスタに連結される第1リセット信号を非活性化する段階と、
前記第2ホワイトピクセルに連結される第3転送信号を非活性化する段階と、
前記第2カラーピクセルに連結される第4転送信号を活性化及び非活性化する段階と、を含むことを特徴とする請求項17に記載の方法。
【請求項20】
ピクセル集合を含み、前記ピクセル集合のうちの第1~第3ピクセルグループの各々に対してフローティング拡散領域を共有する全てのピクセルに基づいて第1ピクセルデータを生成する第1合算演算を遂行し、前記ピクセル集合のうちの第4ピクセルグループに対してフローティング拡散領域を共有するピクセルのうちの一部のみに基づいて第2ピクセルデータを生成する第2合算動作を遂行してローイメージを生成するように構成されるイメージセンサと、
前記イメージセンサから受信したイメージデータに対する信号処理動作を遂行するように構成されるイメージ信号プロセッサと、を備え、
前記ピクセル集合は、第1~第4ピクセルグループを含み、
前記第1ピクセルグループは、第1ホワイトピクセル及び第1グリーンピクセルを含み、
前記第2ピクセルグループは、第2ホワイトピクセル及びレッドカラーピクセルを含み、
前記第3ピクセルグループは、第3ホワイトピクセル及びブルーカラーピクセルを含み、
前記第4ピクセルグループは、第4ホワイトピクセル及び第2グリーンカラーピクセルを含むことを特徴とするイメージ装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、半導体装置に関し、より詳細には、イメージセンサとその動作方法及びイメージ装置に関する。
【背景技術】
【0002】
スマートフォン、タブレットPC、デジタルカメラなどに含まれるイメージセンサは、外部オブジェクトから反射された光波を電気信号に変換することにより、外部オブジェクトに関するイメージ情報を取得する。イメージセンサから取得された電気信号を人間に実際に認識されてもらうイメージ情報に変換するか又はイメージ品質を向上させるために多様なイメージ信号処理動作が行われる。
【0003】
近年、マルチカラーフィルタアレイを有するイメージセンサが広く採用されているだけではなく、フローティング拡散領域を共有する形態のピクセルも広く採用されている。特に、ホワイトピクセルを適用することによってセンシング感度を向上させることができる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国特許第8,139,130号明細書
【特許文献2】米国特許第8,330,839号明細書
【特許文献3】米国特許第7,855,740号明細書
【特許文献4】米国特許第7,889,921号明細書
【特許文献5】米国特許第7,876,956号明細書
【特許文献6】米国特許第8,452,082号明細書
【特許文献7】米国特許出願公開第2020/0195872号明細書
【特許文献8】米国特許出願公開第2016/0057367号明細書
【特許文献9】米国特許出願公開第2021/0029309号明細書
【特許文献10】欧州特許出願公開第3751840号明細書
【特許文献11】中国公開特許第111741277号公報
【特許文献12】韓国登録特許第10-1637671号公報
【特許文献13】韓国登録特許第10-1332689号公報
【特許文献14】韓国登録特許第10-1923957号公報
【非特許文献】
【0005】
【非特許文献1】Eric Dubois, Frequency-Domain Methods for Demosaicking of Bayer-Sampled Color Images, IEEE SIGNAL PROCESSING LETTERS, VOL. 12, NO. 12, DECEMBER 2005
【非特許文献2】Kaiming He et al., Guided Image Filtering, 2010
【非特許文献3】Chulhee Park et al., G-Channel Restoration for RWB CFA with Double-Exposed W Channel, Sensors 2017, 17, 293; doi:10.3390/s17020293
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は、上記従来技術に鑑みてなされたものであって、本発明の目的は、向上した性能を有するイメージセンサとその動作方法及びイメージ装置を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するためになされた本発明の一態様によるイメージセンサは、複数のピクセルを含むピクセルアレイと、前記複数のピクセルを制御するように構成された行ドライバと、前記ピクセルアレイによって感知(センシング)された結果をデジタル化して第1イメージを生成するように構成されたアナログ/デジタル変換器と、を備え、前記ピクセルアレイは、前記複数のピクセルのうちの第1ホワイトピクセル及び第1カラーピクセルを各々含む第1ピクセルグループと、前記複数のピクセルのうちの第2ホワイトピクセル及び第2カラーピクセルを各々含む第2ピクセルグループと、を含み、前記第1イメージのうちの第1ピクセルデータは、前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて生成され、前記第1イメージのうちの第2ピクセルデータは、前記第2カラーピクセルに基づいて生成される。
【0008】
上記目的を達成するためになされた本発明の一態様による第1ピクセルグループ及び第2ピクセルグループを含むイメージセンサの動作方法は、第1読み出し過程において、第1ホワイトピクセル及び第1カラーピクセルを含む前記第1ピクセルグループに対して前記第1ホワイトピクセル及び前記第1カラーピクセルに基づいて第1信号をサンプリングして出力する第1合算動作を遂行する段階と、前記第1読み出し過程において、第2ホワイトピクセル及び第2カラーピクセルを含む前記第2ピクセルグループに対して前記第2ホワイトピクセルに基づかずに前記第2カラーピクセルに基づいて第2信号をサンプリングして出力する第2合算動作を遂行する段階と、前記第1信号及び前記第2信号をデジタル信号に変換してローイメージを生成する段階と、前記ローイメージに基づいてホワイトイメージを抽出する段階と、前記ホワイトイメージに基づいてクロストーク補償動作を遂行してクロストーク補償ホワイトイメージを生成する段階と、前記ローイメージに前記クロストーク補償ホワイトイメージによる減算動作を遂行してベイヤーイメージを生成する段階と、を有する。
【0009】
上記目的を達成するためになされた本発明の一態様によるイメージ装置は、ピクセル集合を含み、前記ピクセル集合のうちの第1~第3ピクセルグループの各々に対してフローティング拡散領域を共有する全てのピクセルに基づいて第1ピクセルデータを生成する第1合算動作を遂行し、前記ピクセル集合のうちの第4ピクセルグループに対してフローティング拡散領域を共有するピクセルのうちの一部のみに基づいて第2ピクセルデータを生成する第2合算動作を遂行してローイメージを生成するように構成されるイメージセンサと、前記イメージセンサから受信したイメージデータに対する信号処理動作を遂行するように構成されるイメージ信号プロセッサと、を備え、前記ピクセル集合は、第1~第4ピクセルグループを含み、前記第1ピクセルグループは、第1ホワイトピクセル及び第1グリーンピクセルを含み、前記第2ピクセルグループは、第2ホワイトピクセル及びレッドカラーピクセルを含み、前記第3ピクセルグループは、第3ホワイトピクセル及びブルーカラーピクセルを含み、前記第4ピクセルグループは、第4ホワイトピクセル及び第2グリーンカラーピクセルを含む。
【発明の効果】
【0010】
本発明によれば、イメージセンサは、単一の読み出し動作によってノンベイヤーパターンのイメージを生成してノンベイヤーパターンのイメージをベイヤーパターンのイメージに変換することができる。これによって、イメージセンサの全体的な性能が向上する。
【図面の簡単な説明】
【0011】
図1】本発明の一実施形態によるイメージ装置の一例を示すブロック図である。
図2図1のイメージ信号プロセッサの一例を示すブロック図である。
図3図1のイメージセンサの一例を示すブロック図である。
図4A図3のピクセルグループPGの一例を示す回路図である。
図4B図4Aのピクセルグループを含むピクセル集合を説明するための図である。
図4C図4Aのピクセルグループを含むピクセル集合を説明するための図である。
図5】ピクセル集合に印加される信号波形の一例を示すタイミング図である。
図6図3のADCから出力されるローイメージの一例を示す図である。
図7図1のイメージセンサの動作を示すフローチャートである。
図8図7の段階S110をより具体的に示すフローチャートである。
図9図3のホワイト抽出モジュールをより詳細に示すブロック図である。
図10図9のガイドフィルタリングモジュールをより詳細に示すブロック図である。
図11A】ローイメージをベイヤーイメージに変換する方法を説明するための図である。
図11B】ローイメージをベイヤーイメージに変換する方法を説明するための図である。
図11C】ローイメージをベイヤーイメージに変換する方法を説明するための図である。
図12A】本発明の一実施形態によるイメージ装置の多様な例を示すブロック図である。
図12B】本発明の一実施形態によるイメージ装置の多様な例を示すブロック図である。
図12C】本発明の一実施形態によるイメージ装置の多様な例を示すブロック図である。
図13】本発明の一実施形態によるマルチカメラモジュールを含む電子装置の構成の一例を示すブロック図である。
図14図13のカメラモジュールの構成の一例を示すブロック図である。
【発明を実施するための形態】
【0012】
以下、本発明を実施するための形態の具体例を、図面を参照しながら詳細に説明する。
【0013】
この分野では一般的であるように、実施形態は、記述する機能又は機能を遂行するブロックの観点から説明及び例示する。本明細書では、ユニット若しくはモジュールなど、又は変換器、プロセッサ、コントローラなどのような名称で呼ばれるこれらのブロックは、論理ゲート、集積回路、マイクロプロセッサ、マイクロコントローラ、メモリ回路、受動電子部品、能動電子部品、光学部品、有線回路などのようなアナログ又はデジタル回路によって物理的に実現され、ファームウェア及びソフトウェアによって駆動される。回路は、例えば1つ以上の半導体チップ又はプリント回路基板などのような基板支持体上に実装される。ブロックに含まれる回路は、専用ハードウェア又はプロセッサ(例えば、1つ以上のプログラムされたマイクロプロセッサ及び関連回路)によって、又はブロックのいくつかの機能を遂行する専用ハードウェアとブロックの他の機能を遂行するプロセッサとの組み合わせによって実現される。実施形態の各ブロックは、物理的に2つ以上の相互作用する個々のブロックに分割される。同様に、実施形態のブロックは、物理的により複雑なブロックに結合される。
【0014】
図1は、本発明の一実施形態によるイメージ装置の一例を示すブロック図である。図1を参照すると、イメージ装置100はイメージセンサ110及びイメージ信号プロセッサ120を含む。イメージ装置100は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、スマートフォン、ウェアラブル装置、ブラックボックス、デジタルカメラなどのように多様なコンピューティングシステムに含まれる。
【0015】
イメージセンサ110は、外部から入射する光波に基づいてイメージデータを出力する。例えば、外部は、イメージセンサ110の外部、イメージ装置100の外部、又はイメージセンサ110、イメージ装置100を含むコンピューティングシステム若しくは他の装置の外部を指す。例えば、イメージセンサ110は複数のピクセルを含む。複数のピクセルの各々は、外部から入射する光に対応する電気的信号を出力するように構成される。イメージセンサ110は、電気的信号に基づいてイメージデータを出力する。一実施形態で、イメージセンサ110から出力されるイメージデータは、特定のフレームに対する輝度情報、カラー情報などを含む。
【0016】
例えば、イメージセンサ110は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどで実現される。例えば、イメージセンサ110は、デュアルピクセル(dual pixel)構造又はテトラセル(tetracell)構造を有するマルチピクセル(multi pixel)イメージセンサである。
【0017】
イメージセンサ110の複数のピクセルのうちの4つのピクセルは、1つのフローティング拡散領域を共有する。これに対するより詳細な説明は、図4Aに記載する。以下では、説明の便宜のために、1つのフローティング拡散領域を共有する4つのピクセルに基づいて信号電圧レベルをサンプリングして出力する動作を第1合算動作(例えば、FD4sum)と称し、1つのフローティング拡散領域を共有する2つのピクセルに基づいて信号電圧レベルをサンプリングして出力する動作を第2合算動作(例えば、FD2sum)と称し、複数のピクセルのうちの第1部分について第1合算動作を遂行して複数のピクセルのうちの第2部分に対して第2合算動作を遂行することを第3合算動作(例えば、FD4sum+FD2sum)と称する。
【0018】
説明の便宜のために、以下で、第1タイプの配列パターンの基本単位は、4つのピクセルを含み、左上端から時計方向に沿って順次配列されるグリーンカラーピクセルGr、レッドカラーピクセルR、グリーンカラーピクセルGb、及びブルーカラーピクセルBを含む。第1タイプの配列パターンはベイヤーパターンと称される。第2タイプの配列パターンの基本単位は、1つのピクセルを含み、ホワイトピクセルWを含む。第2タイプの配列パターンはホワイトパターンと称される。
【0019】
一般的なRGBWパターンが適用されるイメージセンサは、2回の読み出し動作を遂行する。イメージセンサは、第1読み出し動作において、第2合算動作を遂行してベイヤーパターンのイメージを生成する。その後、イメージセンサは、第2読み出し動作において、第2合算動作を遂行してホワイトパターンのイメージを生成する。
【0020】
一方、本実施形態によるイメージセンサは、1回の読み出し動作を遂行してローイメージRAWを生成する。イメージセンサ110は、第3合算動作を遂行してノンベイヤーパターンのローイメージRAWを生成する。イメージセンサ110は、ローイメージRAWからベイヤーパターンのイメージ(以下、「ベイヤーイメージ」と称する)を抽出する。これによって、イメージセンサ110は、フレームレート(frame rate)を向上させ、アナログ電力消費を減少させることができる。
【0021】
イメージセンサ110は、ホワイト抽出モジュール111、クロストーク補償モジュール112、及びベイヤー抽出モジュール113を含む。本実施形態によるホワイト抽出モジュール111、クロストーク補償モジュール112、及びベイヤー抽出モジュール113の構造及び動作方法は、以下の図面を参照してより詳細に説明する。
【0022】
イメージ信号プロセッサ120は、イメージセンサ110からイメージデータを受信し、受信したイメージデータに対する多様な信号処理動作を遂行する。一実施形態で、イメージ信号プロセッサ120は、受信したイメージデータに対するノイズ除去、ホワイトバランス、ガンマ補正、色補正、色変換などの多様な信号処理を遂行する。信号処理されたイメージデータは、外部装置(例えば、ディスプレイ装置)に転送されるか、又は別途のストレージ装置に格納される。
【0023】
図2は、図1のイメージ信号プロセッサの一例を示すブロック図である。図1及び図2を参照すると、イメージ信号プロセッサ120は、ノイズ低減モジュール121、デモザイクモジュール122、色補正モジュール123、ガンマ補正モジュール124、及び色変換モジュール125を含む。
【0024】
ノイズ低減モジュール121は、イメージセンサ110から受信したベイヤーイメージに対するノイズを除去するように構成される。例えば、ノイズ低減モジュール121は、イメージセンサ110のカラーフィルタアレイ(CFA)に応じた固定パターンノイズ(fixed-pattern noise)又は一時的ランダムノイズ(temporal random noise)などを除去するように構成される。
【0025】
デモザイクモジュール122は、ノイズ低減モジュール121の出力をフルカラーデータに変換するように構成される。例えば、ノイズ低減モジュール121の出力は、イメージセンサ110のCFAのパターンに応じたデータフォーマット(例えば、ベイヤーフォーマット、テトラフォーマットなど)を有する。デモザイクモジュール122は、イメージセンサ110のCFAのパターンによるデータフォーマットをRGBフォーマットに変換するように構成される。
【0026】
色補正モジュール123は、RGBフォーマットに変換される高品質イメージの色相を補正するように構成される。ガンマ補正モジュール124は、色補正モジュール123からの出力に対するガンマ値を補正するように構成される。
【0027】
色変換モジュール125は、ガンマ補正モジュール124からの出力を特定のフォーマットに変換するように構成される。例えば、ガンマ補正モジュール124からの出力はRGBフォーマットを有する。色変換モジュール125は、RGBフォーマットをYUVフォーマットに変換する。
【0028】
イメージ信号プロセッサ120から生成されたイメージは、外部のディスプレイ装置又はストレージ装置に提供される。一実施形態で、図2に示すイメージ信号プロセッサ120の構成は一例であり、本発明の範囲はこれに限定されるものではない。例えば、イメージ信号プロセッサ120は、上述の構成要素以外の他の信号処理動作を遂行するように構成される追加の構成要素を更に含む。
【0029】
図3は、図1のイメージセンサの一例を示すブロック図である。図1及び図3を参照すると、イメージセンサ110は、ホワイト抽出モジュール111、クロストーク補償モジュール112、ベイヤー抽出モジュール113、ピクセルアレイ114、行ドライバ115、アナログ/デジタル変換器(ADC:analog to digital converter)116、出力回路117、及び制御ロジック回路118を含む。
【0030】
ピクセルアレイ114は複数のピクセルPXを含む。複数のピクセルの各々は、複数のピクセルの各々の外部から入射する光波に基づいて入射する光の大きさに比例する電気信号、即ちアナログ信号を出力するように構成される。一実施形態で、複数のピクセルの各々は、異なる波長の光波を受信するために異なるカラーフィルタ(例えば、R、G、B、Wなど)に結合される。
【0031】
ピクセルアレイ114を構成する複数のピクセルは、複数のピクセルグループPGを含む。各ピクセルグループPGは、2つ以上のピクセルを含む。ピクセルグループPGを構成するピクセルは、1つのフローティング拡散ノードを共有する。しかし、本発明はこれに限定されず、ピクセルグループPGを構成するピクセルは複数のフローティング拡散ノードを共有することもできる。例として、ピクセルグループPGは、3行×3列に配置される9個のピクセルPXを含むか、又は2行×2列に配置される4個のピクセルPXを含むが、ピクセルグループPGを構成するピクセルの数はこれに限定されない。
【0032】
ピクセルグループPGは、カラーに関連する情報を出力するためのカラーピクセル及びホワイトピクセルを含む。例えば、ピクセルグループPGは、レッドカラースペクトル領域の光波を電気信号に変換するレッドカラーピクセルRを含むか、又はグリーンカラースペクトル領域の光波を電気信号に変換するグリーンカラーピクセル(Gr、Gb)を含むか、ブルーカラースペクトル領域の光波を電気信号に変換するブルーカラーピクセルBを含むか、又はレッドカラーピクセルR、グリーンカラーピクセル(Gr、Gb)、ブルーカラーピクセルBに対応するスペクトル領域の光波を電気信号に変換するホワイトピクセルWを含む。このために、ピクセルグループPG上に複数のカラーフィルタが形成され、マルチカラーフィルタアレイ(Multi-color filter array:Multi-CFA)が形成される。カラーフィルタアレイは、ベイヤーパターン(Bayer pattern)、又はテトラパターン(Tetra Pattern)のような多様なパターンのうちの少なくとも1つのパターンに基づいて形成される。
【0033】
一実施形態で、ピクセルアレイ114を構成するピクセルグループPG上には、複数のカラーフィルタが形成され、マルチカラーフィルタアレイ(Multi-color filter array:Multi-CFA)が形成される。プロセスの順序によってカラーフィルタが生成される高さが異なる場合がある。例えば、比較的早く形成されるカラーフィルタが基板から形成される高さは、相対的に低い。一方、比較的遅く形成されるカラーフィルタが基板から形成される高さは、相対的に高い。比較的高く形成されるカラーフィルタによって、比較的低く形成されるカラーフィルタは影響を受け、これはピクセル間のクロストークを発生させる要因になる。
【0034】
行ドライバ115は、ピクセルアレイ114に含まれる複数のピクセルを制御するように構成される。例えば、行ドライバ115は、複数のピクセルを制御するための多様な制御信号(例えば、シャッタ信号、転送信号、リセット信号、選択信号など)を生成する。一実施形態で、行ドライバ115は複数のピクセルを行単位で制御するが、本発明の範囲はこれに限定されるものではない。
【0035】
ADC116は、複数のピクセルの各々から形成されたアナログ信号をデジタル信号に変換し、変換されたデジタル信号をデータとして出力する。一実施形態で、ADC116は、相関二重サンプリング(CDS:Correlated Double Sampling)に基づいてデータを生成する。図示していないが、イメージセンサ110は、ADC116から出力されたデータを格納するように構成されるストレージ回路若しくはメモリ、又はADC116の動作に使用されるランプ信号を生成するように構成されるランプ信号生成器を更に含む。ADC116は、ノンベイヤーパターンのローイメージRAWをホワイト抽出モジュール111に出力する。
【0036】
ホワイト抽出モジュール111は、ローイメージRAWに基づいてホワイトイメージWIを生成する。例えば、ホワイト抽出モジュール111は、ADC116からローイメージRAWを受信する。ホワイト抽出モジュール111は、ホワイト抽出動作を遂行してホワイトパターンのホワイトイメージWIを生成する。ホワイト抽出モジュール111は、ホワイトイメージWI及びローイメージRAWをクロストーク補償モジュール112に出力する。ホワイト抽出動作に関するより詳細な説明は、図8に記載する。
【0037】
クロストーク補償モジュール112は、ローイメージRAW及びホワイトイメージWIに基づいてクロストーク補償動作を遂行する。例えば、クロストーク補償モジュール112は、ホワイト抽出モジュール111からローイメージRAW及びホワイトイメージWIを受信する。クロストーク補償モジュール112は、クロストーク補償動作を遂行してクロストーク補償ホワイトイメージWI_XTを生成する。クロストーク補償モジュール112は、クロストーク補償ホワイトイメージWI_XT及びローイメージRAWをベイヤー抽出モジュール113に出力する。クロストーク補償動作に関する、より詳細な説明は図7で述べる。
【0038】
ベイヤー抽出モジュール113は、ローイメージRAW及びホワイトイメージWIに基づいてベイヤーイメージBIを生成する。例えば、ベイヤー抽出モジュール113は、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTをクロストーク補償モジュール112から受信する。ベイヤー抽出モジュール113は、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTに対する減算動作を遂行して、ベイヤーイメージを抽出する。これに対する詳細な説明は、図11Cに記載する。
【0039】
一実施形態で、ホワイト抽出モジュール111及びクロストーク補償モジュール112のそれぞれは、受信したローイメージRAWを伝達する。但し、本発明の範囲はこれに限定されるものではない。図3に示すものとは異なるように、ADC116は、ローイメージRAWをクロストーク補償モジュール112及びベイヤー抽出モジュール113に直接出力することができる。
【0040】
出力回路117は、ベイヤー抽出モジュール113から出力されたベイヤーイメージBIを外部装置(例えば、ディスプレイ又はストレージ装置)に伝達する。制御ロジック回路118は、外部制御装置(例えば、イメージセンサ装置のコントローラ又はアプリケーションプロセッサ)の制御に従ってイメージセンサ110内の多様な構成要素を制御するように構成される。
【0041】
図4Aは、図3のピクセルグループPGの一例を示す回路図である。例えば、図4Aのピクセルグループはピクセルアレイ114に含まれる。一実施形態で、ピクセルグループPGは、第1~第4ピクセル(PX1~PX4)を含む。
【0042】
ピクセルグループPGは、光電変換素子(PDa~PDd)、転送トランジスタ(Ta~Td)、デュアルコンバージョントランジスタDT、リセットトランジスタRT、ソースフォロワトランジスタSF、及び選択トランジスタSEを含む。第1ピクセルPX1は第1光電変換素子PDa及び第1転送トランジスタTaを含み、第2ピクセルPX2は第2光電変換素子PDb及び第2転送トランジスタTbを含み、第3ピクセルPX3は第3光電変換素子PDc及び第3転送トランジスタTcを含み、第4ピクセルPX4は第4光電変換素子PDd及び第4転送トランジスタTdを含む。第1~第4ピクセル(PX1~PX4)の各々は、デュアルコンバージョントランジスタDT、リセットトランジスタRT、ソースフォロワトランジスタSF、選択トランジスタSE、及びフローティング拡散領域(FDa、FDb)を共有する。
【0043】
転送トランジスタ(Ta~Td)の各々は、光電変換素子(PDa~PDd)の各々によって生成された電荷を第1フローティング拡散領域FDaに転送する。例えば、行ドライバ115から受信した転送信号TGaによって転送トランジスタTaがターンオンされる区間のうちの光電変換素子PDaから提供される電荷が第1フローティング拡散領域FDaに蓄積される。残りの転送トランジスタ(TGb~TGd)も同様に動作することによって、光電変換素子(PDb~PDd)から提供される電荷も同様に第1フローティング拡散領域FDaに蓄積される。転送トランジスタ(Ta~Td)の一端は光電変換素子(PDa~PDd)の各々に連結され、他端は第1フローティング拡散領域FDaに共通に連結される。
【0044】
第1フローティング拡散領域FDaは、光電変換素子(PDa~PDd)のうちの少なくとも1つによって変換された電荷を蓄積する。例として、第1フローティング拡散領域FDaの静電容量は、第1キャパシタンスCFDaとして示される。第1フローティング拡散領域FDaは、ソースフォロワ増幅器として動作するソースフォロワトランジスタSFのゲート端に連結される。その結果、第1フローティング拡散領域FDaに蓄積された電荷に対応する電圧ポテンシャルが形成される。
【0045】
リセットトランジスタRTは、リセット信号RGによってターンオンされて第1フローティング拡散領域FDaにリセット電圧(例えば、電源電圧VDD)を提供する。その結果、第1フローティング拡散領域FDaに蓄積された電荷は電源電圧VDD端に移動し、第1フローティング拡散領域FDaの電圧はリセットされる。
【0046】
ソースフォロワトランジスタSFは、第1フローティング拡散領域FDaの電気的ポテンシャルの変化を増幅し、これに対応する電圧(即ち、出力信号OUT)を生成する。選択トランジスタSEは、選択信号SELによって駆動され、行単位で読み出されるピクセルを選択する。選択トランジスタSEがターンオンされることによって、出力信号OUTが列ラインCLを介して出力される。
【0047】
一方、一般的な環境下では、第1フローティング拡散領域FDaは、簡単に飽和しないため、第1フローティング拡散領域FDaの静電容量(即ち、CFDa)を増やす必要性はない。しかし、高照度環境では、第1フローティング拡散領域FDaは容易に飽和する。従って、飽和を防止するために、デュアルコンバージョントランジスタDTを、例えばデュアルコンバージョン信号DCGによってターンオンさせることで、第1フローティング拡散領域FDaと第2フローティング拡散領域FDbとが電気的に連結され、フローティング拡散領域(FDa、FDb)の静電容量を第1キャパシタンスCFDaと第2キャパシタンスCFDbとの和に拡張する。
【0048】
一実施形態において、イメージ処理装置がノーマルモードで動作する場合、ピクセルグループPGを構成する各ピクセルから出力される出力信号OUTを個別に用いる。即ち、行ドライバ115は、転送トランジスタ(Ta~Td)の各々が異なるタイミングでターンオンされるように転送信号(TGa~TGd)を各々制御することにより、各光電変換素子によって変換された電荷に対応する出力信号OUTを、列ラインCLを介して異なるタイミングで出力する。
【0049】
一実施形態で、イメージ処理装置がビニングモードで動作する場合、ピクセルグループPGを構成するピクセル(PX1~PX4)によって変換される電荷が1つの出力信号OUTを生成するために同時に用いられる。例えば、転送トランジスタ(Ta~Td)が同時に又は一時的にターンオンされてピクセル(PX1~PX4)によって変換された電荷を第1フローティング拡散領域FDaに蓄積し、光電変換素子(PDa~PDd)によって変換された電荷の和に対応する出力信号OUTを、列ラインCLを介して出力する。
【0050】
図4Bは、図4Aのピクセルグループを含むピクセル集合を説明するための図である。図3図4A、及び図4Bを参照すると、ピクセル集合PSは、第1~第4ピクセルグループ(PG1~PG4)を含む。例えば、第1行及び第1列は第1ピクセルグループPG1の位置であり、第1行及び第2列は第2ピクセルグループPG2の位置であり、第2行及び第1列は第3ピクセルグループPG3の位置であり、第2行及び第2列は第4ピクセルグループPG4の位置である。ピクセル集合PSは、4×4で配列された16個のピクセルを含む。本発明の範囲はこれに限定されず、ピクセル集合PSに含まれるピクセルの数は変わり得る。各ピクセルは、イメージセンサ110の出力としてデジタル値又はピクセル値(即ちコードレベル)を有する。
【0051】
ピクセル集合PSは、ノンベイヤーパターンを有する。説明の便宜のために、ピクセル集合PSは第3タイプの配列パターンである。例えば、第3タイプの配列パターンにおいて、第1行及び第1列はホワイトピクセルW1に対応するホワイトカラーの位置であり、第1行及び第2列はグリーンカラーピクセルGr1に対応するグリーンカラーの位置であり、第1行及び第3列はホワイトピクセルW3に対応するホワイトカラーの位置であり、第1行及び第4列はレッドカラーピクセルR1に対応するレッドカラーの位置であり、第2行及び第1列はグリーンカラーピクセルGr2に対応するグリーンカラーの位置であり、第2行及び第2列はホワイトピクセルW2に対応するホワイトカラーの位置であり、第2行及び第3列はレッドカラーピクセルR2に対応するレッドカラーの位置であり、第2行及び第4列はホワイトピクセルW4に対応するホワイトカラーの位置であり、第3行及び第1列はホワイトピクセルW5に対応するホワイトカラーの位置であり、第3行及び第2列はブルーカラーピクセルB1に対応するブルーカラーの位置であり、第3行及び第3列はホワイトピクセルW7に対応するホワイトカラーの位置であり、第3行及び第4列はグリーンカラーピクセルGb1に対応するグリーンカラーの位置であり、第4行及び第1列はブルーカラーピクセルB2に対応するブルーカラーの位置であり、第4行及び第2列はホワイトピクセルW6に対応するホワイトカラーの位置であり、第4行及び第3列はグリーンカラーピクセルGb2に対応するグリーンカラーの位置であり、第4行及び第4列はホワイトピクセルW8に対応するホワイトカラーの位置である。
【0052】
ピクセル集合PSは、複数のピクセルグループ(PG1~PG4)に分割される。第1ピクセルグループPG1はグリーンカラーピクセル(Gr1、Gr2)及びホワイトピクセル(W1、W2)を含み、第2ピクセルグループPG2はレッドカラーピクセル(W3、W4)及びホワイトピクセル(W3、W4)を含み、第3ピクセルグループPG3はブルーカラーピクセル(B1、B2)及びホワイトピクセル(W5、W6)を含み、第4ピクセルグループPG4はグリーンカラーピクセル(Gb1、Gb2)及びホワイトピクセル(W7、W8)を含む。
【0053】
図4Cは、図4Aのピクセルグループを含むピクセル集合を説明するための図である。以下では、説明の便宜及び図面の簡潔さのために、上述の構成要素と同一又は類似の構成要素に対する詳細な説明又は参照符号は省略される。以下で省略される構成要素は、本発明の詳細な説明に記載されている全体的な実施形態の各々又はそれらの組み合わせによって実施される。
【0054】
図3図4A、及び図4Cを参照すると、ピクセル集合PSの第1ピクセルグループPG1に含まれるピクセル(W1、W2、Gr1、Gr2)は、第1フローティング拡散領域FD1を共有し、第2ピクセルグループPG2に含まれるピクセル(W3、W4、R1、R2)は第2フローティング拡散領域FD2を共有し、第3ピクセルグループPG3に含まれるピクセル(W5、W6、B1、B2)は第3フローティング拡散領域FD3を共有し、第4ピクセルグループPG4に含まれるピクセル(W7、W8、Gb1、Gb2)は第4フローティング拡散領域FD4を共有する。
【0055】
一実施形態で、第1ピクセルグループPG1は、第1~第4転送トランジスタ(T1~T4)及び第1~第4光電変換素子(PD1~PD4)を含む。例えば、第1ホワイトピクセルW1は第1転送トランジスタT1及び第1光電変換素子PD1に対応し、第1グリーンカラーピクセルGr1は第2転送トランジスタT2及び第2光電変換素子PD2に対応し、第2グリーンカラーピクセルGr2は第3転送トランジスタT3及び第3光電変換素子PD3に対応し、第2ホワイトピクセルW2は第4転送トランジスタT4及び第4光電変換素子PD4に対応する。
【0056】
第2ピクセルグループPG2は、第5~第8転送トランジスタ(T5~T8)及び第5~第8光電変換素子(PD5~PD8)を含む。例えば、第3ホワイトピクセルW3は第5転送トランジスタT5及び第5光電変換素子PD5に対応し、第1レッドカラーピクセルR1は第6転送トランジスタT6及び第6光電変換素子PD6に対応し、第2レッドカラーピクセルR2は第7転送トランジスタT7及び第7光電変換素子PD7に対応し、第4ホワイトピクセルW4は第8転送トランジスタT8及び第8光電変換素子PD8に対応する。
【0057】
第3ピクセルグループPG3は、第9~第12転送トランジスタ(T9~T12)及び第9~第12光電変換素子(PD9~PD12)を含む。例えば、第5ホワイトピクセルW5は第9転送トランジスタT9及び第9光電変換素子PD9に対応し、第1ブルーカラーピクセルB1は第10転送トランジスタT10及び第10光電変換素子PD10に対応し、第2ブルーカラーピクセルB2は第11転送トランジスタT11及び第11光電変換素子PD11に対応し、第6ホワイトピクセルW6は第12転送トランジスタT12及び第12光電変換素子PD12に対応する。
【0058】
第4ピクセルグループPG4は、第13~第16転送トランジスタ(T13~T16)及び第13~第16光電変換素子(PD13~PD16)を含む。例えば、第7ホワイトピクセルW7は第13転送トランジスタT13及び第13光電変換素子PD13に対応し、第1グリーンカラーピクセルGb1は第14転送トランジスタT14及び第14光電変換素子PD14に対応し、第2グリーンカラーピクセルGb2は第15転送トランジスタT15及び第15光電変換素子PD15に対応し、第8ホワイトピクセルW8は第16転送トランジスタT16及び第16光電変換素子PD16に対応する。
【0059】
一実施形態で、第1転送信号TG1は第1転送トランジスタT1のゲート端子に印加され、第2転送信号TG2は第2転送トランジスタT2のゲート端子に印加され、第3転送信号TG3は第3転送トランジスタT3のゲート端子に印加され、第4転送信号TG4は第4転送トランジスタT4のゲート端子に印加される。残りの転送信号(TG5~TG16)は、これと同様であるため詳細な説明は省略する。
【0060】
図5は、ピクセル集合に印加される信号の波形の一例を示すタイミング図である。図4A図4C、及び図5を参照すると、本実施形態によるイメージセンサ110は、第3合算動作を遂行してローイメージRAWを生成する。例えば、イメージセンサ110は、第1、第2、及び第3ピクセルグループ(PG1~PG3)に対して第1合算動作を行い、第4ピクセルグループPG4に対して第2合算動作を行う。
【0061】
第1リセット信号RG1は第1及び第2ピクセルグループ(PG1、PG2)のリセットトランジスタの各々に印加され、第2リセット信号RG2は第3及び第4ピクセルグループ(PG3、PG4)のリセットトランジスタの各々に印加される。第1選択信号SEL1は第1及び第2ピクセルグループ(PG1、PG2)の選択トランジスタの各々に印加され、第2選択信号SEL2は第3及び第4ピクセルグループ(PG3、PG4)の選択トランジスタの各々に印加される。
【0062】
第1読み出し区間のうちの第1選択信号SEL1が活性化され、第1リセット信号RG1が活性化されてから再び非活性化された後に、第1~第8転送信号(TG1~TG8)のうちの少なくとも1つが活性化されてから再び非活性化される。第1読み出し区間のうちの第2選択信号SEL2は非活性化され、第2リセット信号RG2は非活性化され、第9~第16転送信号(TG9~TG16)は非活性化される。
【0063】
第1選択信号SEL1が活性化され、第1リセット信号RG1が活性化されてから再び非活性化された後に、そして第1~第8転送信号(TG1~TG8)のうちの少なくとも1つが活性化される前に、第1ピクセルグループPG1の読み出し回路は第1フローティング拡散領域FD1のリセット電圧レベルをサンプリングして出力し、第2ピクセルグループPG2の読み出し回路は第2フローティング拡散領域FD2のリセット電圧レベルをサンプリングして出力する(RST SMP1)。第1~第8転送信号(TG1~TG8)のうちの少なくとも1つが活性化されてから再び非活性化された後に、第1ピクセルグループPG1の読み出し回路は第1フローティング拡散領域FD1の信号電圧レベルをサンプリングして出力し、第2ピクセルグループPG2の読み出し回路は第2フローティング拡散領域FD2の信号電圧レベルをサンプリングして出力する(SIG SMP1)。
【0064】
第2読み出し区間のうちの第2選択信号SEL2が活性化され、第2リセット信号RG2が活性化されてから再び非活性化された後に、第9~第12、第14、第15転送信号(TG9~TG12、TG14、TG15)のうちの少なくとも1つが活性化されてから再び非活性化される。第2読み出し区間のうちの第1選択信号SEL1は非活性化され、第1リセット信号RG1は非活性化され、第1~第8転送信号(TG1~TG8)は非活性化され、第13及び第16転送信号(TG13、TG16)は非活性化される。
【0065】
第2選択信号SEL2が活性化され、第2リセット信号RG2が活性化されてから再び非活性化された後に、そして第9~第12、第14、第15転送信号(TG9~TG12、TG14、TG15)のうちの少なくとも1つが活性化される前に、第3ピクセルグループPG3の読み出し回路は第3フローティング拡散領域FD3のリセット電圧レベルをサンプリングして出力し、第4ピクセルグループPG4の読み出し回路は第4フローティング拡散領域FD4のリセット電圧レベルをサンプリングして出力する(RST SMP2)。第9~第12、第14、第15転送信号(TG9~TG12、TG14、TG15)のうちの少なくとも1つが活性化されてから再び非活性化された後に、第3ピクセルグループPG3の読み出し回路は第3フローティング拡散領域FD3の信号電圧レベルをサンプリングして出力し、第4ピクセルグループPG4の読み出し回路は第4フローティング拡散領域FD4の信号電圧レベルをサンプリングして出力する(SIG SMP2)。
【0066】
第1読み出し区間のうちの第1~第8転送信号(TG1~TG8)は活性化されてから再び非活性化され、第2読み出し区間のうちの第9~第12転送信号(TG9~TG12)が活性化されてから再び非活性化される。従って、第1~第3フローティング拡散領域(FD1~FD3)は、対応する光電変換素子の全てによって集積された電子を蓄積及び格納する。例えば、第1フローティング拡散領域FD1は、第1~第4光電変換素子(PD1~PD4)によって集積された電子を蓄積及び格納する。第1ピクセルグループPG1の信号サンプリング値は、第1及び第2ホワイトピクセル(W1、W2)、第1及び第2グリーンカラーピクセル(Gr1、Gr2)に基づいて生成される。
【0067】
第2読み出し区間のうちの第13及び第16転送信号(TG13、TG16)は非活性化され続け、第14及び第15転送信号(TG14、TG15)は活性化されてから再び非活性化される。従って、第4フローティング拡散領域FD4は、第13及び第16光電変換素子(PD13、PD16)によって集積された電子を蓄積及び格納しない。第4フローティング拡散領域FD4は、第14及び第15光電変換素子(PD14、PD15に)よって集積された電子のみを蓄積及び格納する。第4ピクセルグループPG4の信号サンプリング値は、第7及び第8ホワイトピクセル(W7、W8を)除く第1及び第2グリーンカラーピクセル(Gb1、Gb2)のみに基づいて生成される。言い換えると、第4ピクセルグループPG4の信号サンプリング値は、第7及び第8ホワイトピクセル(W7、W8)に基づかずに、第1及び第2グリーンカラーピクセル(Gb1、Gb2)のみに基づいて生成される。
【0068】
上述したように、第1~第12転送信号(TG1~TG12)は、読み出し区間のうちに活性化された後に非活性化されるため、第1~第3ピクセルグループ(PG1~PG3)はピクセルグループに含まれる4つのピクセルに基づいて信号電圧レベルをサンプリングして出力する。一方、第13及び第16転送信号(TG13、TG16)は読み出し区間のうちに非活性化され、第14及び第15転送信号(TG14、TG15)は活性化された後に、非活性化されるため、第4ピクセルグループPG4は、ピクセルグループに含まれる2つのピクセル(Gb1、Gb2)に基づいて信号電圧レベルをサンプリングして出力する。
【0069】
本実施形態によるイメージセンサ110は、複数のピクセルのうちの第1部分が第1合算動作を遂行し、複数のピクセルのうちの第2部分が第2合算動作を遂行する。即ち、イメージセンサ110は、第3合算動作を遂行する。従って、本実施形態によるイメージセンサは、フレームレート(frame rate)を向上させることができ、アナログ電力消費を減少させることができる。
【0070】
図6は、図3のADCから出力されるローイメージの一例を示す図である。図3及び図6を参照すると、ピクセルアレイ114は、第1~第4ピクセル集合(PS1~PS4)を含む。本発明の範囲はこれに限定されず、ピクセルアレイに含まれるピクセル集合の数及びピクセルの数は変わり得る。
【0071】
一実施形態で、第1ピクセル集合PS1は、第1~第ホワイトピクセル(W1~W8)、第1及び第2グリーンカラーピクセル(Gr1、Gr2)、第1及び第2レッドカラーピクセル(R1、R2)、第1及び第2ブルーカラーピクセル(B1、B2)、第1及び第2グリーンカラーピクセル(Gb1、Gb2)を含む。第2ピクセル集合PS2は、第9~第16ホワイトピクセル(W9~W16)、第3及び第4グリーンカラーピクセル(Gr3、Gr4)、第3及び第4レッドカラーピクセル(R3、R4)、第3及び第4ブルーカラーピクセル(B3、B4)、第3及び第4グリーンカラーピクセル(Gb3、Gb4)を含む。第3ピクセル集合PS3は、第17~第24ホワイトピクセル(W17~W24)、第5及び第6グリーンカラーピクセル(Gr5、Gr6)、第5及び第6レッドカラーピクセル(R5、R6)、第5及び第6ブルーカラーピクセル(B5、B6)、第5及び第6グリーンカラーピクセル(Gb5、Gb6)を含む。第4ピクセル集合PS4は、第25~第32ホワイトピクセル(W25~W32)、第7及び第8グリーンカラーピクセル(Gr7、Gr8)、第7及び第8レッドカラーピクセル(R7、R8)、第7及び第8ブルーカラーピクセル(B7、B8)、第7及び第8グリーンカラーピクセル(Gb7、Gb8)を含む。ピクセル集合(PS1~PS4)の各々は、第3タイプの配列パターンである。説明の便宜のために、上述のピクセル集合の詳細な説明は省略する。
【0072】
ADC116は、ローイメージRAWを出力する。例えば、ローイメージRAWは、4×4で配列される16個のピクセルPXを含む。本発明の範囲はこれに限定されず、ローイメージRAWに含まれるピクセルの数は変わり得る。各ピクセルは、イメージセンサ110の出力としてデジタル値又はピクセル値(即ちコードレベル)を有する。
【0073】
ローイメージRAWは、複数の基本ユニット(U1~U4)に分割される。複数の基本ユニット(U1~U4)の各々は、2×2で配列される4つのピクセルを含み、各ピクセルデータはデジタル値を有する。ローイメージRAWは、第4タイプの配列パターンを有する。第4タイプの配列パターンの基本単位は、2×2で配列される4つのピクセルを含み、左上端から時計方向に沿って順次配列されるホワイトグリーンカラーピクセルW+Gr、ホワイトレッドカラーピクセルW+R、グリーンカラーピクセルGb1、及びホワイトブルーカラーピクセルW+Bを含む。
【0074】
例えば、第1基本ユニットU1において、第1行及び第1列はホワイトグリーンカラーピクセルW+Gr_1の位置であり、第1行及び第2列はホワイトレッドカラーピクセルW+R_1の位置であり、第2行及び第1列はホワイトブルーカラーピクセルW+B_1の位置であり、第2行及び第2列はグリーンカラーピクセルGb1の位置である。これと同様な方法で、残りの基本ユニット(U2~U4)に各カラー別位置を配置する。これについての詳細な説明は省略する。
【0075】
一実施形態で、第1ピクセル集合PS1は第1基本ユニットU1に対応し、第2ピクセル集合PS2は第2基本ユニットU2に対応し、第3ピクセル集合PS3は第3基本ユニットU3に対応し、第4ピクセル集合PS4は第4基本ユニットU4に対応する。
【0076】
第1基本ユニットU1において、ホワイトグリーンカラーピクセルW+Gr_1は第1ピクセル集合PS1の第1ピクセルグループPG1に対応し、ホワイトレッドカラーピクセルW+R_1は第1ピクセル集合PS1の第2ピクセルグループPG2に対応し、ホワイトブルーカラーピクセルW+B_1は第1ピクセル集合PS1の第3ピクセルグループPG3に対応し、グリーンカラーピクセルGb1は、第1ピクセル集合PS1の第4ピクセルグループPG4に対応する。
【0077】
より詳細に、ホワイトグリーンカラーピクセルW+Gr_1は、第1及び第2ホワイトピクセル(W1、W2)、並びに第1及び第2グリーンカラーピクセル(Gr1、Gr2)に基づいてデジタル値が決定される。ホワイトレッドカラーピクセルW+R_1は、第3及び第4ホワイトピクセル(W3、W4)、並びに第1及び第2レッドカラーピクセル(R1、R2)に基づいてデジタル値が決定される。ホワイトブルーカラーピクセルW+B_1は、第5及び第6ホワイトピクセル(W5、W6)、並びに第1及び第2ブルーカラーピクセル(B1、B2)に基づいてデジタル値が決定される。グリーンカラーピクセルGb1は、第1及び第2グリーンカラーピクセル(Gb1、Gb2)に基づいてデジタル値が決定される。ローイメージRAWの残りのピクセルは、これと同様の方法でデジタル値を決定することができるため、これに対する詳細な説明は省略する。
【0078】
図7は、図1のイメージセンサの動作を示すフローチャートである。図1図3、及び図7を参照すると、イメージセンサ110は、ノンベイヤーパターンのイメージに基づいてベイヤーパターンのイメージを生成する。即ち、イメージセンサ110は、ノンベイヤーパターンのイメージをベイヤーパターンのイメージに変換する。
【0079】
段階S110において、イメージセンサ110は、ローイメージRAWに基づいてホワイト抽出動作を遂行する。例えば、ホワイト抽出モジュール111は、ADC116からローイメージRAWを受信する。ホワイト抽出モジュール111は、ローイメージRAWからホワイトイメージWIを抽出する。ホワイト抽出動作に関するより詳細な説明は、図8に記載する。
【0080】
段階S120において、イメージセンサ110は、ホワイトイメージWIに基づいてクロストーク補償動作を遂行する。例えば、クロストーク補償モジュール112は、ホワイト抽出モジュール111からホワイトイメージWI及びローイメージRAWを受信する。クロストーク補償モジュール112は、キャリブレーションデータに基づいてホワイトイメージWIに対するクロストーク補償動作を遂行して、クロストーク補償ホワイトイメージWI_XTを生成する。クロストーク補償モジュール112は、クロストーク補償ホワイトイメージWI_XT及びローイメージRAWをベイヤー抽出モジュール113に出力する。
【0081】
クロストークは、ピクセル間の干渉によって発生する信号を指す。クロストークは、マイクロレンズなどによる光学的なクロストーク、及びシリコンでの電磁気干渉によって発生する電気的クロストークを含む。例えば、クロストーク補償モジュール112は、ピクセルアレイ114を構成するピクセルのカラーフィルタの高さの差に応じたクロストーク補償を遂行する。
【0082】
一実施形態で、光学的クロストークは、周囲のピクセルの影響を受ける。特に、クロストークは、ピクセルの水平又は垂直に隣接するピクセルに対して多くの影響を受ける。例えば、図6を参照すると、グリーンカラーピクセル(Gr:Gr1~Gr8)、レッドカラーピクセル(R:R1~R8)、ブルーカラーピクセル(B:B1~B8)、及びグリーンカラーピクセル(Gb:Gb1~Gb8)の第1方向及び第2方向に隣接するピクセルは、ホワイトピクセルである。従って、グリーン、レッド、ブルー、グリーンのカラーピクセル(Gr、R、B、Gb)は、ホワイトピクセルWに対してのみクロストークの影響を受ける。
【0083】
一方、ホワイトピクセルWの各々の位置によって、ホワイトピクセル(W:W1~W32)の第1方向及び第2方向に隣接するピクセルのカラーが異なる。従って、ホワイトピクセルWの各々に対するクロストークは、第1方向及び第2方向に隣接するピクセルに応じて異なる。
【0084】
一実施形態で、イメージセンサ110は、ホワイトピクセルWの各々の第1方向及び第2方向に隣接するピクセルに基づいて、クロストーク補償動作を遂行するために必要なキャリブレーションデータを生成及び格納する。例えば、キャリブレーションデータは予め測定された値であり、圧縮されて外部メモリに格納される。
【0085】
クロストーク補償モジュール112は、外部メモリからキャリブレーションデータをロードし、キャリブレーションデータに基づいてホワイトイメージWIに対するクロストーク補償動作を遂行する。例えば、クロストーク補償モジュール112は、ホワイトイメージWIのコードレベルにキャリブレーションデータのうちの対応するキャリブレーション値を乗じて、クロストーク補償ホワイトイメージWI_XTを生成する。
【0086】
段階S130で、イメージセンサ110は、ホワイトイメージWI及びローイメージRAWに基づいてベイヤーイメージBIを生成する。例えば、ベイヤー抽出モジュール113は、クロストーク補償モジュール112からクロストーク補償ホワイトイメージWI_XT及びローイメージRAWを受信する。
【0087】
一実施形態で、ベイヤー抽出モジュール113は、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTに対する減算演算を遂行して、ベイヤーイメージBIを生成する。即ち、ベイヤー抽出モジュール113は、ローイメージRAWからクロストーク補償ホワイトイメージWI_XTを減算してベイヤーイメージBIを抽出する。
【0088】
上述したように、本実施形態によるイメージセンサ110は、単一の読み出し動作によってローイメージRAWを生成し、ローイメージRAWからベイヤーイメージBIに変換する。
【0089】
図8は、図7の段階S110をより具体的に示すフローチャートである。図9は、図3のホワイト抽出モジュールをより詳細に示すブロック図である。図3図7図8、及び図9を参照すると、イメージセンサ110は、ローイメージRAWに基づいてホワイト抽出動作を遂行する。一実施形態で、ホワイト抽出モジュール111は、ホワイトバランスモジュール130、ルーマ抽出モジュール140、ガイドフィルタリングモジュール150、及びホワイト生成モジュール160を含む。図8及び図9のホワイト抽出モジュールの構成及び動作方法は一例であり、本発明の範囲はこれに限定されるものではない。
【0090】
カラーは、色相(Hue)、彩度(chroma)、及び明度(Value)で表される。無彩色の物体の彩度(chroma)は「0(zero)」である。無彩色の物体の色相(Hue)のグリーンG、レッドR、及びブルーBの値は同じである。無彩色の物体は多様な明度(Value)を有する。
【0091】
段階S111において、イメージセンサ110はホワイトバランス動作を遂行する。例えば、ホワイトバランスモジュール130は、ADC116からローイメージRAWを受信する。ホワイトバランスモジュール130は、ホワイトバランス動作を遂行してホワイトバランスローイメージRAW_WBを生成する。ホワイトバランスモジュール130は、ルーマ抽出モジュール140にホワイトバランスローイメージRAW_WBを出力する。
【0092】
例えば、ホワイトバランス動作は、物体から反射されてイメージセンサでキャプチャーされた光波に対してグリーンG、レッドR、及びブルーBの色相(Hues)のゲインを調整する。ホワイトバランスモジュール130は、ローイメージRAWに対するホワイトバランスゲインを調整し、調整されたホワイトバランスゲインに基づいてホワイトバランス動作を遂行する。
【0093】
段階S112において、イメージセンサ110はルーマ抽出動作を遂行する。例えば、ルーマ抽出モジュール140は、ホワイトバランスのローイメージRAW_WBを受信する。ルーマ抽出モジュール140は、ルーマ抽出動作を遂行してパンクロマティックイメージ(PI:panchromatic image)を生成する。例えば、ルーマ抽出モジュール140は、ホワイトバランスのローイメージRAW_WBに基づいてルーマ抽出動作を遂行し、彩度が「0(zero)」で、緑G、赤R、及び青Bの値が同じパンクロマティックイメージPI(例えば、無彩色のイメージ)を生成する。ルーマ抽出モジュール140は、パンクロマティックイメージPIをガイドフィルタリングモジュール150に出力する。
【0094】
段階S113において、イメージセンサ110はガイドフィルタリング動作を遂行する。例えば、ガイドフィルタリングモジュール150は、ローイメージRAW及びパンクロマティックイメージPIを受信する。ガイドフィルタリングモジュール150は、ローイメージRAW及びパンクロマティックイメージPIに基づいてガイドフィルタリング動作を遂行して、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIを生成する。ガイドフィルタリングモジュール150は、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIをホワイト生成モジュール160に出力する。
【0095】
一実施形態で、ホワイトグリーンフルイメージW+G_FIは、第5タイプの配列パターンを有する。第5タイプの配列パターンの基本単位は、1つのピクセルを含み、ホワイトグリーンカラーピクセルW+Gを含む。グリーンフルイメージG_FIは、第6タイプの配列パターンを有する。第6タイプの配列パターンの基本単位は、1つのピクセルを含み、グリーンカラーピクセルGを含む。
【0096】
段階S114において、イメージセンサ110は、ホワイトイメージ生成動作を遂行する。例えば、ホワイト生成モジュール160は、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIを受信する。イメージセンサ110は、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIに対する減算演算を遂行してホワイトイメージWIを生成する。
【0097】
図10は、図9のガイドフィルタリングモジュールをより詳細に示すブロック図である。図11A図11Cは、ローイメージをベイヤーイメージに変換する方法を説明するための図である。図3図9、及び図10を参照すると、ガイドフィルタリングモジュール150はサンプリングモジュール151及びフル生成モジュール(full generation module)152を含む。
【0098】
一実施形態で、サンプリングモジュール151は、ローイメージRAWを受信する。サンプリングモジュール151は、ローイメージRAWに基づいてホワイトグリーンサンプリングイメージW+G_SI及びグリーンサンプリングイメージG_SIを生成する。例えば、ホワイトグリーンサンプリングイメージW+G_SIは第5タイプの配列パターンを有し、グリーンサンプリングイメージG_SIは第6タイプの配列パターンを有する。
【0099】
図11Aでは、上述のローイメージRAWについての詳細な説明は省略する。例えば、ホワイトグリーンサンプリングイメージW+G_SIは、2×2で配列された4つのピクセルPXを含む。ホワイトグリーンサンプリングイメージW+G_SIのサイズは、ローイメージRAWのサイズの1/4である。ホワイトグリーンサンプリングイメージW+G_SIは、ローイメージRAWのうちのホワイトグリーンカラーピクセル(W+Gr_1~W+Gr_4)のみを含む。
【0100】
例えば、グリーンサンプリングイメージG_SIは、2×2で配列された4つのピクセルPXを含む。グリーンサンプリングイメージG_SIのサイズは、ローイメージRAWのサイズの1/4である。グリーンサンプリングイメージG_SIは、ローイメージRAWのうちのグリーンカラーピクセル(Gb1~Gb4)のみを含む。
【0101】
一実施形態で、フル生成モジュール152は、パンクロマティックイメージPI、ホワイトグリーンサンプリングイメージW+G_SI、及びグリーンサンプリングイメージG_SIを受信する。フル生成モジュール152は、パンクロマティックイメージPI及びホワイトグリーンサンプリングイメージW+G_SIに基づいてホワイトグリーンフルイメージW+G_FIを生成する。フル生成モジュール152は、パンクロマティックイメージPI及びグリーンサンプリングイメージG_SIに基づいてグリーンフルイメージG_FIを生成する。フル生成モジュール152は、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIを出力する。
【0102】
一実施形態で、ホワイトグリーンフルイメージW+G_FIは、4×4で配置された16個のピクセル(W+G_11~W+G_44)を含む。ホワイトグリーンフルイメージW+G_FIのサイズは、ローイメージRAWのサイズと同じである。例えば、ホワイトグリーンフルイメージW+G_FIのうちの第1部分(W+G_11、W+G_12、W+G_21、W+G_22)のコードレベルは、ホワイトグリーンサンプリングイメージW+G_SIの第1ピクセルW+Gr_1のコードレベルと同じである。ホワイトグリーンフルイメージW+G_FIのうちの第2部分(W+G_13、W+G_14、W+G_23、W+G_24)のコードレベルは、ホワイトグリーンサンプリングイメージW+G_SIの第2ピクセルW+Gr_2のコードレベルと同じである。ホワイトグリーンフルイメージW+G_FIのうちの第3部分(W+G_31、W+G_32、W+G_41、W+G_42)のコードレベルは、ホワイトグリーンサンプリングイメージW+G_SIの第3ピクセルW+Gr_3のコードレベルと同一である。ホワイトグリーンフルイメージW+G_FIのうちの第4部分(W+G_33、W+G_34、W+G_43、W+G_44)のコードレベルは、ホワイトグリーンサンプリングイメージW+G_SIの第4ピクセルW+Gr_4のコードレベルと同一である。
【0103】
グリーンフルイメージG_FIは、4×4で配置された16個のピクセル(G11~G44)を含む。グリーンフルイメージG_FIのサイズは、ローイメージRAWのサイズと同じである。例えば、グリーンフルイメージG_FIのうちの第1部分(G11、G12、G21、G22)のコードレベルは、グリーンサンプリングイメージG_SIの第1ピクセルGb1のコードレベルと同じである。グリーンフルイメージG_FIのうちの第2部分(G13、G14、G23、G24)のコードレベルは、グリーンサンプリングイメージG_SIの第2ピクセルGb2のコードレベルと同じである。グリーンフルイメージG_FIのうちの第3部分(G31、G32、G41、G42)のコードレベルは、グリーンサンプリングイメージG_SIの第3ピクセルGb3のコードレベルと同じである。グリーンフルイメージG_FIのうちの第4部分(G33、G34、G43、G44)のコードレベルは、グリーンサンプリングイメージG_SIの第4ピクセルGb4のコードレベルと同じである。
【0104】
図11Bを参照すると、ホワイト生成モジュール160は、ホワイトグリーンフルイメージW+G_FI及びグリーンフルイメージG_FIに基づいてホワイトイメージWIを生成する。例えば、ホワイト生成モジュール160は、ホワイトグリーンフルイメージW+G_FIからグリーンフルイメージG_FIを減算してホワイトイメージWIを生成する。言い換えると、ホワイトグリーンフルイメージW+G_FIのピクセルW+G_11のコードレベルから対応するグリーンフルイメージG_FIのピクセルG11のコードレベルを減算して、ホワイトイメージWIのピクセルW11のコードレベルを演算する。ホワイトイメージWIは、4×4で配置された16個のピクセル(W11~W44)を含む。ホワイトイメージWIのサイズは、ローイメージRAWのサイズと同じである。
【0105】
図11Cを参照すると、ベイヤー抽出モジュール113は、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTに基づいてベイヤーイメージBIを生成する。例えば、ベイヤーイメージBIは、4×4で配列された16個のピクセル(Gr1~Gr4、R1~R4、B1~B4、Gb1~Gb4)を含む。ベイヤーイメージBIのサイズは、ローイメージRAWのサイズと同じである。
【0106】
一実施形態で、ベイヤー抽出モジュール113は、ローイメージRAWからクロストーク補償ホワイトイメージWI_XTを減算してベイヤーイメージBIを生成する。ローイメージRAW、クロストーク補償ホワイトイメージWI_XT、及びベイヤーイメージBIの各々は、4つの基本ユニットに分割される。
【0107】
ベイヤー抽出モジュール113は、第1ローイメージ基本ユニットRAW_U1及び第1クロストーク補償ホワイトイメージ基本ユニットWI_XT_U1に対する減算演算を遂行して第1ベイヤーイメージ基本ユニットBI_U1を生成し、第2ローイメージ基本ユニットRAW_U2及び第2クロストーク補償ホワイトイメージ基本ユニットWI_XT_U2に対する減算演算を遂行して第2ベイヤーイメージ基本ユニットBI_U2を生成し、第3ローイメージ基本ユニットRAW_U3及び第3クロストーク補償ホワイトイメージ基本ユニットWI_XT_U3に対する減算演算を遂行して第3ベイヤーイメージ基本ユニットBI_U3を生成し、第4ローイメージ基本ユニットRAW_U4及び第4クロストーク補償ホワイトイメージ基本ユニットWI_XT_U4に対する減算演算を遂行して第4ベイヤーイメージ基本ユニットBI_U4を生成する。
【0108】
例えば、第1基本ユニットにおいて、ベイヤー抽出モジュール113は、ローイメージRAWの第1行及び第1列に位置するホワイトグリーンカラーピクセルW+Gr_1からクロストーク補償ホワイトイメージWI_XTの第1行及び第1列に位置するホワイトピクセルW11を減算して、ベイヤーイメージBIの第1行及び第1列に位置するグリーンカラーピクセルGr1のコードレベルを演算する。ベイヤー抽出モジュール113は、ローイメージRAWの第1行及び第2列に位置するホワイトレッドカラーピクセルW+R_1からクロストーク補償ホワイトイメージWI_XTの第1行及び第2列に位置するホワイトピクセルW12を減算して、ベイヤーイメージBIの第1行及び第2列に位置するレッドカラーピクセルR1のコードレベルを演算する。ベイヤー抽出モジュール113は、ローイメージRAWの第2行及び第1列に位置するホワイトブルーカラーピクセルW+B_1からクロストーク補償ホワイトイメージWI_XTの第2行及び第1列に位置するホワイトピクセルW21を減算して、ベイヤーイメージBIの第2行及び第1列に位置するブルーカラーピクセルB1のコードレベルを演算する。
【0109】
ベイヤー抽出モジュール113は、第2行及び第2列に対しては減算演算を遂行しない。即ち、ベイヤーイメージBIの第2行及び第2列に位置するグリーンカラーピクセルGb1のコードレベルは、ローイメージRAWの第2行及び第2列に位置するグリーンカラーピクセルGb1のコードレベルと同じである。残りの基本ユニット(G2~G4)は、これと同様であるため詳細な説明は省略する。
【0110】
説明の便宜上、ローイメージRAWの第1部分はホワイトピクセルに関連するピクセル(W+Gr_1~W+Gr_4、W+R_1~W+R_4、W+B_1~W+B_4)として区分され、ローイメージの第2部分はホワイトピクセルとは無関係のピクセル(Gb1~Gb4)として区分される。即ち、ローイメージRAWの第1部分はピクセル集合PSで第1合算動作を行った第1~第3ピクセルグループ(PG1~PG3)に対応し、ローイメージRAWの第2部分はピクセル集合PSで第2合算動作を行った第4ピクセルグループPG4に対応する。
【0111】
クロストーク補償ホワイトイメージWI_XTの第1部分はローイメージRAWの第1部分に対応し、クロストーク補償ホワイトイメージWI_XTの第2部分はローイメージRAWの第2部分に対応する。ベイヤーイメージBIの第1部分はローイメージRAWの第1部分に対応し、ベイヤーイメージBIの第2部分はローイメージRAWの第2部分に対応する。図11Cでは、ハッチングで示される(又は斜線を施した)ピクセルは第2部分に対応し、その他のピクセルは第1部分に対応する。
【0112】
上述したように、ベイヤー抽出モジュール113は、ローイメージRAWの第1部分及びクロストーク補償ホワイトイメージWI_XTの第1部分に対して減算演算を遂行して、ベイヤーイメージBIの第1部分を生成する。ベイヤー抽出モジュール113は、ローイメージRAWの第2部分に基づいてベイヤーイメージBIの第2部分を生成する。
【0113】
図12A図12Cは、本発明の一実施形態によるイメージ装置の多様な例を示すブロック図である。図12Aを参照すると、イメージ装置200aは、イメージセンサ210a及びイメージ信号プロセッサ220aを含む。イメージセンサ210aは、上述のイメージセンサ110とは異なり、ローイメージを出力するように構成される。即ち、イメージセンサ210aは、ホワイト抽出モジュール、クロストーク補償モジュール、及びベイヤー抽出モジュールを含まない。
【0114】
イメージ信号プロセッサ220aは、上述のイメージ信号プロセッサ120とは異なり、ローイメージRAWを受信するように構成される。即ち、図12Aのイメージ信号プロセッサ220aは、ホワイト抽出モジュール221a、クロストーク補償モジュール222a、及びベイヤー抽出モジュール223aを含む。図1図11を参照して説明した方式に基づいて、ホワイト抽出モジュール221aはホワイト抽出動作を遂行し、クロストーク補償モジュール222aはクロストーク補償動作を遂行し、ベイヤー抽出モジュール223aはベイヤーイメージを生成する。
【0115】
図12Bを参照すると、イメージ装置200bはイメージセンサ210b及びイメージ信号プロセッサ220bを含む。イメージセンサ210aは、上述のイメージセンサ110とは異なり、ローイメージRAW及びホワイトイメージWIを出力するように構成される。即ち、イメージセンサ210aは、ホワイト抽出モジュール211bを含み、クロストーク補償モジュール及びベイヤー抽出モジュールを含まない。図1図11を参照して説明した方式に基づいて、ホワイト抽出モジュール221bはホワイト抽出動作を遂行する。
【0116】
イメージ信号プロセッサ220bは、上述のイメージ信号プロセッサ120とは異なり、ローイメージRAW及びホワイトイメージWIを受信するように構成される。即ち、図12Bのイメージ信号プロセッサ220bは、クロストーク補償モジュール222b及びベイヤー抽出モジュール223bを含む。図1図11を参照して説明した方式に基づいて、クロストーク補償モジュール222bはクロストーク補償動作を遂行し、ベイヤー抽出モジュール223bはベイヤーイメージを生成する。
【0117】
図12Cを参照すると、イメージ装置200cは、イメージセンサ210c及びイメージ信号プロセッサ220cを含む。イメージセンサ210cは、上述のイメージセンサ110とは異なり、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTを出力するように構成される。即ち、イメージセンサ210cは、ホワイト抽出モジュール211c及びクロストーク補償モジュール212cを含み、ベイヤー抽出モジュールを含まない。図1図11を参照して説明した方式に基づいて、ホワイト抽出モジュール211cはホワイト抽出動作を遂行し、クロストーク補償モジュール212cはクロストーク補償動作を遂行する。
【0118】
イメージ信号プロセッサ220cは、上述のイメージ信号プロセッサ120とは異なり、ローイメージRAW及びクロストーク補償ホワイトイメージWI_XTを受信するように構成される。即ち、図12Cのイメージ信号プロセッサ220cは、ベイヤー抽出モジュール223cを含む。図1図11を参照して説明した方式に基づいて、ベイヤー抽出モジュール223cは、ベイヤーイメージBIを生成する。
【0119】
図13は、本発明の一実施形態によるマルチカメラモジュールを含む電子装置の構成の一例を示すブロック図である。図14は、図13のカメラモジュールの構成の一例を示すブロック図である。
【0120】
図13を参照すると、電子装置1000は、カメラモジュールグループ1100、アプリケーションプロセッサ1200、PM(電源管理)IC1300、及び外部メモリ1400を含む。
【0121】
カメラモジュールグループ1100は、複数のカメラモジュール(1100a、1100b、1100c)を含む。図面には、3つのカメラモジュール(1100a、1100b、1100c)が配置された実施形態を示しているが、実施形態はこれに限定されるものではない。一実施形態で、カメラモジュールグループ1100は、2つのカメラモジュールのみを含むように変更して実施される。また、一実施形態で、カメラモジュールグループ1100は、n個(nは4以上の自然数)のカメラモジュールを含むように変更して実施される。
【0122】
以下、図14を参照して、カメラモジュール1100bの詳細構成についてより具体的に説明するが、以下の説明は、実施形態によって他のカメラモジュール(1100a、1100c)に対しても同様に適用される。
【0123】
図14を参照すると、カメラモジュール1100bは、プリズム1105、光路屈曲素子(Optical Path Folding Element、以下、「OPFE」と称する)1110、アクチュエータ1130、イメージセンシング装置1140、及びストレージ装置1150を含む。
【0124】
プリズム1105は、光反射物質の反射面1107を含んで外部から入射する光Lの経路を変更する。
【0125】
一実施形態で、プリズム1105は、第1方向Xに入射する光Lの経路を第1方向Xに垂直な第2方向Yに変更する。なお、プリズム1105は、光反射物質の反射面1107を、中心軸1106を中心にA方向に回転させるか、又は中心軸1106をB方向に回転させて第1方向Xに入射する光Lの経路を垂直な第2方向Yに変更する。このとき、OPFE1110も第1方向X及び第2方向Yに垂直な第3方向Zに移動する。
【0126】
一実施形態で、図示しているように、プリズム1105のA方向の最大回転角度はプラス(+)A方向では15度以下であり、マイナス(-)A方向では15度よりも大きいが、実施形態はこれに限定されるものではない。
【0127】
一実施形態で、プリズム1105は、プラス(+)又はマイナス(-)のB方向に20度内外、10度~20度、又は15度~20度の間で移動し、ここで、移動角度は、プラス(+)又はマイナス(-)のB方向に同じ角度で移動するか、又は1度内外の範囲で略類似した角度まで動く。
【0128】
一実施形態で、プリズム1105は、光反射物質の反射面1107を中心軸1106の延長方向に平行な第3方向(例えば、Z方向)に移動する。
【0129】
OPFE1110は、例えばm(ここで、mは自然数)個のグループからなる光学レンズを含む。m個のレンズは第2方向Yに移動してカメラモジュール1100bの光学ズーム倍率(optical zoom ratio)を変更する。例えば、カメラモジュール1100bの基本光学ズーム倍率をZとする場合、OPFE1110に含まれるm個の光学レンズを移動させることで、カメラモジュール1100bの光学ズーム倍率は、3Z、5Z、又は5Z以上の光学ズーム倍率に変更される。OPFE1110は、上述したm個のレンズの前面にn(ここで、nは自然数)個のグループからなる光学レンズ(例えば、アナモルフィックレンズ)を更に含む。
【0130】
アクチュエータ1130は、OPFE1110又は光学レンズ(以下、光学レンズと称する)を特定の位置に移動させる。例えば、アクチュエータ1130は、正確なセンシングのためにイメージセンサ1142が光学レンズの焦点距離に位置するように光学レンズの位置を調整する。
【0131】
イメージセンシング装置1140は、イメージセンサ1142、制御ロジック1144、及びメモリ1146をむ。イメージセンサ1142は、光学レンズを介して提供される光Lを用いてセンシング対象のイメージをセンシングする。制御ロジック1144は、カメラモジュール1100bの全体的な動作を制御する。例えば、制御ロジック1144は、制御信号ラインCSLbを介して提供される制御信号に従ってカメラモジュール1100bの動作を制御する。更に、イメージセンサ1142及び制御ロジック1144は、図1図12Cによってノンベイヤーイメージをベイヤーイメージに変換する動作を遂行するように構成される。
【0132】
メモリ1146は、キャリブレーションデータ1147のようなカメラモジュール1100bの動作に必要な情報を格納する。キャリブレーションデータ1147は、カメラモジュール1100bが外部から提供される光Lを用いてイメージデータを生成するのに必要な情報を含む。キャリブレーションデータ1147は、例えば、上述の回転度(degree of rotation)に関する情報、焦点距離(focal length)に関する情報、光学軸(optical axis)に関する情報などを含む。カメラモジュール1100bが光学レンズの位置に応じて焦点距離が変化するマルチステート(multi state)カメラの形態で実装される場合、キャリブレーションデータ1147は光学レンズの各位置別(又はステート別)の焦点距離値及びオートフォーカシングに関する情報を含む。キャリブレーションデータ1147は、図1図11Cを参照して説明したホワイトバランス動作、クロストーク補償動作などに必要なデータを含む。
【0133】
ストレージ装置1150は、イメージセンサ1142を介してセンシングされたイメージデータを格納する。ストレージ装置1150は、イメージセンシング装置1140の外部に配置され、イメージセンシング装置1140を構成するセンサチップにスタックされた(stacked)形態で実装される。一実施形態で、ストレージ装置1150は、EEPROM(Electrically Erasable Programmable Read-Only Memory)で実施されるが、実施形態はこれに限定されるものではない。
【0134】
図13及び図14を共に参照すると、一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)の各々はアクチュエータ1130を含む。従って、複数のカメラモジュール(1100a、1100b、1100c)の各々は、その内部に含まれるアクチュエータ1130の動作に応じてそれぞれ同一であるか又は異なるキャリブレーションデータ1147を含む。
【0135】
一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)のうちのいずれか1つのカメラモジュール(例えば、1100b)は、上述のプリズム1105及びOPFE1110を含む屈曲式(折りたたみ)レンズ(folded lens)形態のカメラモジュールであり、残りのカメラモジュール(例えば、1100a、1100b)は、プリズム1105及びOPFE1110を含まないバーチカル(vertical)形態のカメラモジュールであるが、実施形態はこれに限定されるものではない。
【0136】
一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)のうちのいずれか1つのカメラモジュール(例えば、1100c)は、例えばIR(Infrared Ray)を用いて深さ(depth)情報を抽出するバーチカル形態の深さカメラ(depth camera)である。この場合、アプリケーションプロセッサ1200は、このような深さカメラから提供されるイメージデータと他のカメラモジュール(例えば、1100a又は1100b)から提供されるイメージデータとをマージ(merge)して3次元深さイメージ(3D depth image)を生成する。
【0137】
一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)のうちの少なくとも2つのカメラモジュール(例えば、1100a、1100b)は、異なる観測視野(Field of View、視野角)を有する。この場合、例えば複数のカメラモジュール(1100a、1100b、1100c)のうちの少なくとも2つのカメラモジュール(例えば、1100a、1100b)の光学レンズはそれぞれ異なるが、これに限定されるものではない。
【0138】
なお、一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)の各々の視野角はそれぞれ異なる。この場合、複数のカメラモジュール(1100a、1100b、1100c)の各々に含まれる光学レンズもまたそれぞれ異なるが、これに限定されるものではない。
【0139】
一実施形態で、複数のカメラモジュール(1100a、1100b、1100c)の各々は、それぞれ物理的に分離されて配置される。即ち、1つのイメージセンサ1142のセンシング領域を複数のカメラモジュール(1100a、1100b、1100c)が分割して使用するのではなく、複数のカメラモジュール(1100a、1100b、1100c)の各々の内部に独立したイメージセンサ1142が配置される。
【0140】
再び図13を参照すると、アプリケーションプロセッサ1200は、イメージ処理装置1210、メモリコントローラ1220、内部メモリ1230を含む。アプリケーションプロセッサ1200は、複数のカメラモジュール(1100a、1100b、1100c)から分離されて実装される。例えば、アプリケーションプロセッサ1200と複数のカメラモジュール(1100a、1100b、1100c)とは、別々の半導体チップに分離されて実装される。一実施形態で、アプリケーションプロセッサ1200は、図1図11Cを参照して説明したように、ローイメージをベイヤーイメージに変換する。
【0141】
イメージ処理装置1210は、複数のサブイメージプロセッサ(1212a、1212b、1212c)、イメージ生成器1214、及びカメラモジュールコントローラ1216を含む。
【0142】
イメージ処理装置1210は、複数のカメラモジュール(1100a、1100b、1100c)の数に対応する個数のサブイメージプロセッサ(1212a、1212b、1212c)を含む。
【0143】
各々のカメラモジュール(1100a、1100b、1100c)から生成されたイメージデータは、それぞれ分離されたイメージ信号ライン(ISLa、ISLb、ISLc)を介して対応するサブイメージプロセッサ(1212a、1212b、1212c)に提供される。例えば、カメラモジュール1100aから生成されたイメージデータはイメージ信号ラインISLaを介してサブイメージプロセッサ1212aに提供され、カメラモジュール1100bから生成されたイメージデータはイメージ信号ラインISLbを介してサブイメージプロセッサ1212bに提供され、カメラモジュール1100cから生成されたイメージデータはイメージ信号ラインISLcを介してサブイメージプロセッサ1212cに提供される。このようなイメージデータ転送は、例えばMIPI(Mobile Industry Processor Interface)に基づくカメラシリアルインターフェース(CSI:Camera Serial Interface)を用いて行われるが、実施形態はこれに限定されるものではない。
【0144】
一方、一実施形態で、1つのサブイメージプロセッサを複数のカメラモジュールに対応するように配置する。例えば、サブイメージプロセッサ1212aとサブイメージプロセッサ1212cとが図示するように互いに分離されて実施されるのではなく、1つのサブイメージプロセッサに統合されて実装され、カメラモジュール1100a及びカメラモジュール1100cから提供されるイメージデータは、選択要素(例えば、マルチプレクサ)などを介して選択された後、統合されたサブイメージプロセッサに提供される。
【0145】
各サブイメージプロセッサ(1212a、1212b、1212c)に提供されたイメージデータは、イメージ生成器1214に提供される。イメージ生成器1214は、イメージ生成情報(Generating Information)又はモード信号(Mode Signal)に応じて、各々のサブイメージプロセッサ(1212a、1212b、1212c)から提供されたイメージデータを用いて出力イメージを生成する。
【0146】
具体的に、イメージ生成器1214は、イメージ生成情報又はモード信号に応じて、異なる視野角を有するカメラモジュール(1100a、1100b、1100c)から生成されたイメージデータのうちの少なくとも一部をマージして出力イメージを生成する。なお、イメージ生成器1214は、イメージ生成情報又はモード信号に応じて、異なる視野角を有するカメラモジュール(1100a、1100b、1100c)から生成されたイメージデータのうちのいずれか1つを選択して出力イメージを生成することができる。
【0147】
一実施形態で、イメージ生成情報は、ズーム信号(zoom signal or zoom factor)を含む。なお、一実施形態で、モード信号は、例えばユーザから選択されるモードに基づく信号である。
【0148】
イメージ生成情報がズーム信号(ズームファクター)であり、各カメラモジュール(1100a、1100b、1100c)が異なる観側視野(視野角)を有する場合、イメージ生成器1214は、ズーム信号のタイプに応じて異なる動作を行う。例えば、ズーム信号が第1信号である場合、カメラモジュール1100aから出力されたイメージデータとカメラモジュール1100cから出力されたイメージデータとをマージした後、マージされたイメージ信号及びマージに使用されていないカメラモジュール1100bから出力されたイメージデータを用いて出力イメージを生成する。仮にズーム信号が第1信号とは異なる第2信号である場合、イメージ生成器1214はこのようなイメージデータのマージを行わず、各々のカメラモジュール(1100a、1100b、1100c)から出力されたイメージデータのうちのいずれか1つを選択して出力イメージを生成する。しかし、実施形態はこれに限定されず、必要に応じてイメージデータを処理する方法は、多様に変更されて実施される。
【0149】
一実施形態で、イメージ生成器1214は、複数のサブイメージプロセッサ(1212a、1212b、1212c)のうちの少なくとも1つから露出時間が異なる複数のイメージデータを受信し、複数のイメージデータに対してHDR(high dynamic range)処理を行うことにより、ダイナミックレンジが増加してマージされたイメージデータを生成する。なお、一実施形態で、イメージ生成器1214は、第2イメージに対して補償動作を遂行することによって、第1モードで生成された最終イメージとの色相差が緩和されたイメージを生成する。
【0150】
カメラモジュールコントローラ1216は、各々のカメラモジュール(1100a、1100b、1100c)に制御信号を提供する。カメラモジュールコントローラ1216から生成された制御信号は、それぞれ分離された制御信号ライン(CSLa、CSLb、CSLc)を介して対応するカメラモジュール(1100a、1100b、1100c)に提供される。
【0151】
複数のカメラモジュール(1100a、1100b、1100c)のうちのいずれか1つはズーム信号を含むイメージ生成情報又はモード信号に応じてマスターカメラ(例えば1100b)として指定され、残りのカメラモジュール(例えば、例えば、1100a、1100c)はスレーブカメラとして指定され得る。このような情報は、制御信号に含まれ、それぞれ分離された制御信号ライン(CSLa、CSLb、CSLc)を介して対応するカメラモジュール(1100a、1100b、1100c)に提供される。
【0152】
ズームファクター又は動作モード信号に応じて、マスター及びスレーブとして動作するカメラモジュールを変更する。例えば、カメラモジュール1100aの視野角がカメラモジュール1100bの視野角よりも広くズームファクターが低いズーム倍率を示す場合、カメラモジュール1100bがマスターとして動作し、カメラモジュール1100aがスレーブとして動作する。逆に、ズームファクターが高いズーム倍率を示す場合、カメラモジュール1100aがマスターとして動作し、カメラモジュール1100bがスレーブとして動作する。
【0153】
一実施形態で、カメラモジュールコントローラ1216から各々のカメラモジュール(1100a、1100b、1100c)に提供される制御信号は、シンクイネーブル信号を含む。例えば、カメラモジュール1100bがマスターカメラであり、カメラモジュール(1100a、1100c)がスレーブカメラである場合、カメラモジュールコントローラ1216は、カメラモジュール1100bにシンクイネーブル信号を送る。このようなシンクイネーブル信号が提供されたカメラモジュール1100bは、提供されたシンクイネーブル信号に基づいてシンク信号を生成し、生成されたシンク信号を、シンク信号ラインSSLを介してカメラモジュール(1100a、1100c)に提供する。カメラモジュール1100b及びカメラモジュール(1100a、1100c)は、このようなシンク信号に同期してイメージデータをアプリケーションプロセッサ1200に送る。
【0154】
一実施形態で、カメラモジュールコントローラ1216から複数のカメラモジュール(1100a、1100b、1100c)に提供される制御信号は、モード信号に応じたモード情報を含む。このようなモード情報に基づいて、複数のカメラモジュール(1100a、1100b、1100c)は、センシング速度に関連して第1動作モード及び第2動作モードで動作する。
【0155】
複数のカメラモジュール(1100a、1100b、1100c)は、第1動作モードにおいて、第1速度でイメージ信号を生成(例えば、第1フレームレートのイメージ信号を生成)し、これを第1速度よりも高い第2速度でエンコーディング(例えば、第1フレームレートよりも高い第2フレームレートのイメージ信号をエンコーディング)し、エンコーディングされたイメージ信号をアプリケーションプロセッサ1200に送る。このとき、第2速度は、第1速度の30倍以下である。
【0156】
アプリケーションプロセッサ1200は、受信されたイメージ信号、即ちエンコーディングされたイメージ信号を、内部に設けられた内部メモリ1230又はアプリケーションプロセッサ1200の外部メモリ1400に格納し、その後、内部メモリ1230又は外部メモリ1400からエンコーディングされたイメージ信号を読み出してデコーディングし、デコーディングされたイメージ信号に基づいて生成されたイメージデータをディスプレイする。例えば、イメージ処理装置1210の複数のサブイメージプロセッサ(1212a、1212b、1212c)のうちの対応するサブイメージプロセッサがデコーディングを行う。なお、アプリケーションプロセッサ1200はデコーディングされたイメージ信号に対してイメージ処理を遂行する。
【0157】
複数のカメラモジュール(1100a、1100b、1100c)は、第2動作モードにおいて、第1速度よりも低い第3速度でイメージ信号を生成(例えば、第1フレームレートよりも低い第3フレームレートのイメージ信号を生成)し、イメージ信号をアプリケーションプロセッサ1200に送る。アプリケーションプロセッサ1200に提供されるイメージ信号は、エンコーディングされていない信号である。アプリケーションプロセッサ1200は、受信されたイメージ信号に対してイメージ処理を遂行するか、又はイメージ信号を内部メモリ1230又は外部メモリ1400に格納する。
【0158】
PMIC1300は、複数のカメラモジュール(1100a、1100b、1100c)の各々に電力、例えば電源電圧を供給する。例えば、PMIC1300は、アプリケーションプロセッサ1200の制御下で、パワー信号ラインPSLaを介してカメラモジュール1100aに第1電力を供給し、パワー信号ラインPSLbを介してカメラモジュール1100bに第2電力を供給し、パワー信号ラインPSLcを介してカメラモジュール1100cに第3電力を供給する。
【0159】
PMIC1300は、アプリケーションプロセッサ1200からの電力制御信号PCONに応答して、複数のカメラモジュール(1100a、1100b、1100c)の各々に対応する電力を生成し、そして電力のレベルを調整する。電力制御信号PCONは、複数のカメラモジュール(1100a、1100b、1100c)の動作モード別の電力調整信号を含む。例えば、動作モードは低電力モードを含み、このとき、電力制御信号PCONは、低電力モードで動作するカメラモジュール及び設定される電力レベルに関する情報を含む。複数のカメラモジュール(1100a、1100b、1100c)の各々に提供される電力のレベルは、それぞれ同じか又は異なる。なお、電力のレベルは、動的に変更される。
【0160】
以上、本発明の実施形態について図面を参照しながら詳細に説明したが、本発明は、上述の実施形態に限定されるものではなく、本発明の技術的思想から逸脱しない範囲で多様に変更実施することが可能である。
【符号の説明】
【0161】
100、200a、200b、200c イメージ装置
110、210a、210b、210c、1142 イメージセンサ
111、221a、221b、221c ホワイト抽出モジュール
112、222a、222b、222c クロストーク補償モジュール
113、223a、223b、223c ベイヤー抽出モジュール
114 ピクセルアレイ
115 行ドライバ
116 アナログ/デジタル変換器(ADC)
117 出力回路
118 制御ロジック回路
120、220a、220b、220c イメージ信号プロセッサ
121 ノイズ低減モジュール
122 デモザイクモジュール
123 色補正モジュール
124 ガンマ補正モジュール
125 色変換モジュール
130 ホワイトバランスモジュール
140 ルーマ抽出モジュール
150 ガイドフィルタリングモジュール
151 サンプリングモジュール
152 フル生成モジュール
160 ホワイト生成モジュール
1000 電子装置
1100 カメラモジュールグループ
1100a~1100c カメラモジュール
1105 プリズム
1106 中心軸
1107 反射面
1110 光路屈曲素子(OPFE)
1130 アクチュエータ
1140 イメージセンシング装置
1144 制御ロジック
1146 メモリ
1147 キャリブレーションデータ
1150 ストレージ装置
1200 アプリケーションプロセッサ
1210 イメージ処理装置
1212a~1212c サブイメージプロセッサ
1214 イメージ生成器
1216 カメラモジュールコントローラ
1220 メモリコントローラ
1230 内部メモリ
1300 PM(電源管理)IC
1400 外部メモリ
B1~B8 第1~第8ブルーカラーピクセル
BI ベイヤーイメージ
BI_U1~BI_U4 ベイヤーイメージ第1~第4基本ユニット
CFDa、CFDb 第2キャパシタンス
CL 列ライン
CSLa~CSLc 制御信号ライン
DCG デュアルコンバージョン信号
DT デュアルコンバージョントランジスタ
FD1~FD4 第1~第4フローティング拡散領域
FDa、FDb 第1、第2フローティング拡散領域
G_FI グリーンフルイメージ
G_SI グリーンサンプリングイメージ
G、Gb、Gr グリーンカラーピクセル(
Gb1~Gb8 第1~第8グリーンカラーピクセル
Gr1~Gr8 第1~第8グリーンカラーピクセル
ISLa~ISLc イメージ信号ライン
OUT 出力信号
PCON 電力制御信号
PG ピクセルグループ
PG1~PG4 第1~第4ピクセルグループ
PD1~PD16 第1~第16光電変換素子
PDa~PDd 第1~第4光電変換素子
PI パンクロマティックイメージ
PS ピクセル集合
PS1~PS4 第1~第4ピクセル集合
PSLa~PSLc パワー信号ライン
PX ピクセル
PX1~PX4 第1~第4ピクセル
R レッドカラーピクセル
R1~R8 第1~第8レッドカラーピクセル
RAW ローイメージ
RAW_U1~RAW_U4 第1~第4ローイメージ基本ユニット
RAW_WB ホワイトバランスローイメージ
RG リセット信号
RG1、RG2 第1、第2リセット信号
RT リセットトランジスタ
SE 選択トランジスタ
SF ソースフォロワトランジスタ
SEL 選択信号
SEL1、SEL2 第1、第2選択信号
SSL シンク信号ライン
T1~T16 第1~第16転送トランジスタ
Ta~Td 第1~第4転送トランジスタ
TG1~TG16 第1~第16転送信号
TGa~TGd 第1~第4転送信号
U1~U4 第1~第4基本ユニット
VDD 電源電圧
W ホワイトピクセル
W1~W24 第1~第24ホワイトピクセル
WI ホワイトイメージ
WI_XT クロストーク補償ホワイトイメージ
WI_XT_U1~WI_XT_U4 第1~第4クロストーク補償ホワイトイメージ基本ユニット
W+B、W+B_1~W+B_4 ホワイトブルーカラーピクセル
W+G、W+Gr、W+Gr_1~W+Gr_4 ホワイトグリーンカラーピクセル
W+R、W+R_1~W+R_4 ホワイトレッドカラーピクセル
W+G_FI ホワイトグリーンフルイメージ
W+G_SI ホワイトグリーンサンプリングイメージ

図1
図2
図3
図4A
図4B
図4C
図5
図6
図7
図8
図9
図10
図11A
図11B
図11C
図12A
図12B
図12C
図13
図14