IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エスケーハイニックス株式会社の特許一覧

特開2024-65072イメージセンシング装置およびそれを含む撮影装置
<>
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図1
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図2
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図3
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図4a
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図4b
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図5a
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図5b
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図6a
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図6b
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図6c
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図7
  • 特開-イメージセンシング装置およびそれを含む撮影装置 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024065072
(43)【公開日】2024-05-14
(54)【発明の名称】イメージセンシング装置およびそれを含む撮影装置
(51)【国際特許分類】
   H04N 25/11 20230101AFI20240507BHJP
   H04N 23/54 20230101ALI20240507BHJP
   H04N 23/60 20230101ALI20240507BHJP
   H04N 25/70 20230101ALI20240507BHJP
   H01L 27/146 20060101ALI20240507BHJP
【FI】
H04N25/11
H04N23/54
H04N23/60 500
H04N25/70
H01L27/146 D
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2023183897
(22)【出願日】2023-10-26
(31)【優先権主張番号】10-2022-0140908
(32)【優先日】2022-10-28
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】310024033
【氏名又は名称】エスケーハイニックス株式会社
【氏名又は名称原語表記】SK hynix Inc.
【住所又は居所原語表記】2091, Gyeongchung-daero,Bubal-eub,Icheon-si,Gyeonggi-do,Korea
(74)【代理人】
【識別番号】110000796
【氏名又は名称】弁理士法人三枝国際特許事務所
(72)【発明者】
【氏名】矢幡 和浩
【テーマコード(参考)】
4M118
5C024
5C122
【Fターム(参考)】
4M118AA10
4M118AB01
4M118BA14
4M118CA04
4M118CA07
4M118CA09
4M118FA06
4M118GC08
4M118GC14
4M118GC20
4M118GD04
5C024CX37
5C024EX52
5C122EA37
5C122FC06
5C122HA42
(57)【要約】
【課題】小型化されたピクセルにおいて良好なコントラストを確保する。
【解決手段】本発明の一実施形態に係るイメージセンシング装置100は、2×2マトリクスの形態に配列される第1~第4ピクセルグループPG1a~PG4aを含み、第1~第4ピクセルグループPG1a~PG4aそれぞれは、レッド(red)ピクセル、グリーン(green)ピクセルまたはブルー(blue)ピクセルのうち少なくとも1つのピクセルと、少なくとも1つのシアン(cyan)ピクセルとを含むことができる。
【選択図】図1
【特許請求の範囲】
【請求項1】
2×2マトリクスの形態に配列される第1~第4ピクセルグループを含み、
前記第1~前記第4ピクセルグループそれぞれは、レッド(red)ピクセル、グリーン(green)ピクセルまたはブルー(blue)ピクセルのうち少なくとも1つのピクセルと、少なくとも1つのシアン(cyan)ピクセルとを含む、イメージセンシング装置。
【請求項2】
前記第1ピクセルグループと前記第4ピクセルグループは、互いに対角方向に配置され、
前記第2ピクセルグループと前記第3ピクセルグループは、互いに対角方向に配置される、請求項1に記載のイメージセンシング装置。
【請求項3】
前記第1ピクセルグループは、1個の前記レッドピクセルおよび3個の前記シアンピクセルを含み、
前記第4ピクセルグループは、1個の前記ブルーピクセルおよび3個の前記シアンピクセルを含み、
前記第2ピクセルグループおよび前記第3ピクセルグループそれぞれは、1個の前記グリーンピクセルおよび3個の前記シアンピクセルを含む、請求項2に記載のイメージセンシング装置。
【請求項4】
前記第1~前記第4ピクセルグループそれぞれにおいて、前記レッドピクセル、前記グリーンピクセルまたは前記ブルーピクセルが配置される位置は、互いに同一である、請求項3に記載のイメージセンシング装置。
【請求項5】
前記第1ピクセルグループは、2個の前記レッドピクセルおよび2個の前記シアンピクセルを含み、
前記第4ピクセルグループは、2個の前記ブルーピクセルおよび2個の前記シアンピクセルを含み、
前記第2ピクセルグループおよび前記第3ピクセルグループそれぞれは、2個の前記グリーンピクセルおよび2個の前記シアンピクセルを含む、請求項2に記載のイメージセンシング装置。
【請求項6】
前記第1~前記第4ピクセルグループそれぞれにおいて、前記レッドピクセル、前記グリーンピクセルまたは前記ブルーピクセル同士は、互いに対角方向に配置される、請求項5に記載のイメージセンシング装置。
【請求項7】
前記第1ピクセルグループおよび前記第4ピクセルグループそれぞれは、1個の前記グリーンピクセル、1個の前記レッドピクセルおよび2個の前記シアンピクセルを含み、
前記第2ピクセルグループおよび前記第3ピクセルグループそれぞれは、1個の前記グリーンピクセル、1個の前記ブルーピクセルおよび2個の前記シアンピクセルを含む、請求項2に記載のイメージセンシング装置。
【請求項8】
前記第1~前記第4ピクセルグループそれぞれにおいて、前記シアンピクセルが配置される位置は、互いに同一である、請求項7に記載のイメージセンシング装置。
【請求項9】
レッド光の波長と前記シアンピクセルの幅との間の差は、グリーン光またはブルー光の波長と前記シアンピクセルの前記幅との間の差よりも小さい、請求項1に記載のイメージセンシング装置。
【請求項10】
レッドピクセル、グリーンピクセル、ブルーピクセルおよびシアンピクセルを含むピクセルアレイを含むイメージセンシング装置と、
前記レッドピクセル、前記グリーンピクセル、前記ブルーピクセルおよび前記シアンピクセルから生成されたイメージデータの集合である原イメージデータを補間してRGBイメージデータを生成するイメージ信号プロセッサと、
を含み、
前記ピクセルアレイは、それぞれが、前記レッドピクセル、前記グリーンピクセルまたは前記ブルーピクセルのうち少なくとも1つのピクセルと、少なくとも1つの前記シアンピクセルとを含む複数のピクセルグループを含む、撮影装置。
【請求項11】
前記イメージ信号プロセッサは、
前記原イメージデータを前記レッドピクセルから生成されたレッド原イメージ、前記グリーンピクセルから生成されたグリーン原イメージ、前記ブルーピクセルから生成されたブルー原イメージ、および前記シアンピクセルから生成されたシアン原イメージに分離し、前記シアン原イメージに対して第1補間を行ってシアン補間イメージを生成する第1補間部と、
前記レッド原イメージ、前記グリーン原イメージおよび前記ブルー原イメージに対して前記シアン補間イメージを用いて第2補間を行い、レッド補間イメージ、グリーン補間イメージおよびブルー補間イメージをそれぞれ生成する第2補間部と、を含む、請求項10に記載の撮影装置。
【請求項12】
前記第1補間は、線形補間(linear interpolation)である、請求項11に記載の撮影装置。
【請求項13】
前記第2補間は、線形回帰(linear regression)であり、
前記第2補間部は、前記レッド原イメージ、前記グリーン原イメージおよび前記ブルー原イメージそれぞれにおいて、当該ピクセルデータが存在しない補間対象ピクセルに対して、回帰係数を含む線形回帰関数に前記シアン補間イメージを演算して前記補間対象ピクセルのピクセルデータを生成する、請求項11に記載の撮影装置。
【請求項14】
前記レッド原イメージに対する回帰係数は、前記グリーン原イメージまたは前記ブルー原イメージに対する回帰係数よりも大きい、請求項13に記載の撮影装置。
【請求項15】
前記イメージ信号プロセッサは、前記レッド原イメージに対して前記第2補間を行う前に、前記レッド原イメージに対してエッジ強調処理を行う、請求項13に記載の撮影装置。
【請求項16】
レッド光の波長と前記シアンピクセルの幅との間の差は、グリーン光またはブルー光の波長と前記シアンピクセルの前記幅との間の差よりも小さい、請求項10に記載の撮影装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、光を検知してイメージデータを生成することができるイメージセンシング装置およびそれを含む撮影装置に関する。
【背景技術】
【0002】
イメージセンシング装置は、光に反応する光検知半導体物質の性質を利用して光学イメージをキャプチャ(capture)する装置である。自動車、医療、コンピュータおよび通信などの産業の発展に伴い、スマートフォン、デジタルカメラ、ゲーム機器、モノのインターネット(Internet of Things)、ロボット、セキュリティ用カメラ、医療用マイクロカメラなどのような多様な分野において、高性能(high-performance)イメージセンシング装置に対する需要が増大している。
【0003】
イメージセンシング装置は、大きく、CCD(Charge Coupled Device)イメージセンシング装置と、CMOS(Complementary Metal Oxide Semiconductor)イメージセンシング装置に区分することができる。CCDイメージセンシング装置は、CMOSイメージセンシング装置に比べて、さらに良いイメージ品質を提供するが、さらに大きい大きさで実現され、さらに多い電力を消費する傾向がある。これに対し、CMOSイメージセンシング装置は、CCDイメージセンシング装置に比べて、さらに小さい大きさで実現されることができ、さらに少ない電力を消費する。また、CMOSイメージセンシング装置は、CMOS製造技術を用いて製造されるため、光検知素子および信号処理回路を単一チップに統合することができ、これにより、安価で小型のイメージセンシング装置を生産することができる。このことから、CMOSイメージセンシング装置は、モバイル装置を含む多くのアプリケーションのために開発されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の技術的思想は、小型化されたピクセルにおいて良好なコントラストを確保することができる撮影装置を提供することができる。
【0005】
本発明の技術的課題は、以上で言及した技術的課題に制限されず、言及していないまた他の技術的課題は、下記の記載から当業者に明らかに理解できるものである。
【課題を解決するための手段】
【0006】
本文書に開示される本発明の一実施形態に係るイメージセンシング装置は、2×2マトリクスの形態に配列される第1~第4ピクセルグループを含み、前記第1~前記第4ピクセルグループそれぞれは、レッド(red)ピクセル、グリーン(green)ピクセルまたはブルー(blue)ピクセルのうち少なくとも1つのピクセルと、少なくとも1つのシアン(cyan)ピクセルとを含むことができる。
【0007】
本発明の一実施形態に係る撮影装置は、レッドピクセル、グリーンピクセル、ブルーピクセルおよびシアンピクセルを含むピクセルアレイを含むイメージセンシング装置と、前記レッドピクセル、前記グリーンピクセル、前記ブルーピクセルおよび前記シアンピクセルから生成されたイメージデータの集合である原イメージデータを補間してRGBイメージデータを生成するイメージ信号プロセッサと、を含み、前記ピクセルアレイは、それぞれが、前記レッドピクセル、前記グリーンピクセルまたは前記ブルーピクセルのうち少なくとも1つのピクセルと、少なくとも1つの前記シアンピクセルとを含む複数のピクセルグループを含むことができる。
【発明の効果】
【0008】
本文書に開示される実施形態によると、ピクセルアレイ内にシアン(cyan)ピクセルを一部配置することで、改善されたコントラストを有するイメージを取得することができる。
この他に、本文書により、直接的または間接的に把握される多様な効果が提供可能である。
【図面の簡単な説明】
【0009】
図1】本発明の一実施形態に係る撮影システムを示したブロック図である。
図2図1に示されたイメージセンシング装置をより詳細に示した図である。
図3】互いに隣接するピクセルを概略的に示した図である。
図4a】ピクセルサイズに応じて異なる色別輝度範囲を説明するためのグラフである。
図4b】ピクセルサイズに応じて異なる色別輝度範囲を説明するためのグラフである。
図5a】ホワイト光、レッド光、グリーン光およびブルー光それぞれの波長に応じた輝度を互いに比較したグラフである。
図5b】シアン光、レッド光、グリーン光およびブルー光それぞれの波長に応じた輝度を互いに比較したグラフである。
図6a】ピクセルアレイの一部に対する一例を示した図である。
図6b】ピクセルアレイの一部に対する他の例を示した図である。
図6c】ピクセルアレイの一部に対するまた他の例を示した図である。
図7図1の第1補間部の動作を説明するための図である。
図8図1の第2補間部の動作を説明するための図である。
【発明を実施するための形態】
【0010】
以下、添付図面を参照して多様な実施形態が説明される。しかし、本開示は、特定の実施形態に限定されず、実施形態の多様な変更(modification)、等価物(equivalent)、および/または代替物(alternative)を含むものと理解しなければならない。本開示の実施形態は、本開示により直間接的に認識可能な多様な効果を提供することができる。
【0011】
図1は、本発明の一実施形態に係る撮影システムを示したブロック図である。図2は、図1に示されたイメージセンシング装置をより詳細に示した図である。図3は、互いに隣接するピクセルを概略的に示した図である。図4aおよび図4bは、ピクセルサイズに応じて異なる色別輝度範囲を説明するためのグラフである。図5aは、ホワイト光、レッド光、グリーン光およびブルー光それぞれの波長に応じた輝度を互いに比較したグラフである。図5bは、シアン光、レッド光、グリーン光およびブルー光それぞれの波長に応じた輝度を互いに比較したグラフである。
【0012】
図1を参照すると、撮影システム(imaging system)1は、静止画像を撮影するデジタルスチルカメラまたは動画を撮影するデジタルビデオカメラなどの装置を意味し得る。例えば、撮影装置10は、デジタル一眼レフカメラ(Digital Single Lens Reflex;DSLR)、ミラーレス(mirrorless)カメラ、または携帯電話(特に、スマートフォン)で実現されることができるが、これに限定されない。撮影装置10は、レンズおよび撮像素子を含むことにより、被写体を撮影しイメージを生成可能な装置を含む概念であってもよい。
【0013】
撮影システム1は、撮影装置(imaging device)10およびホスト装置(host device)20を含むことができる。
撮影装置10は、イメージセンシング装置(image sensing device)100、ラインメモリ(line memory)200、イメージ信号プロセッサ(ISP;image signal processor)300および入出力インターフェース(I/O interface)400を含むことができる。
【0014】
イメージセンシング装置100は、光学信号を電気信号に変換するCIS(Complementary Metal Oxide Semiconductor Image Sensor)であってもよい。イメージセンシング装置100は、ISP300により、作動可否、動作モード、動作タイミング、感度などの全般的な動作が制御されることができる。イメージセンシング装置100は、ISP300の制御に応じて、光学信号を電気信号に変換したイメージデータをラインメモリ200に伝送することができる。
【0015】
図2を参照すると、イメージセンシング装置100は、ピクセルアレイ(pixel array)110、行ドライバ(row driver)120、相関二重サンプラ(Correlate Double Sampler;CDS)130、アナログ-デジタルコンバータ(Analog-Digital Converter;ADC)140、出力バッファ(output buffer)150、列ドライバ(column driver)160およびタイミングコントローラ(timing controller)170を含むことができる。ここで、イメージセンシング装置100の各構成は例示的なものにすぎず、必要に応じて少なくとも一部の構成が追加または省略されてもよい。
【0016】
ピクセルアレイ110は、複数の行(rows)および複数の列(columns)に配列された複数のイメージピクセルを含むことができる。一実施形態において、複数のイメージピクセルは、行および列を含む2次元ピクセルアレイに配列されることができる。他の実施形態において、複数のイメージピクセルは、3次元ピクセルアレイに配列されることができる。複数のイメージピクセルは、ピクセル単位でまたはピクセルグループ単位で光信号を電気的信号に変換することができ、ピクセルグループ内のイメージピクセルは、少なくとも特定の内部回路を共有することができる。ピクセルアレイ110は、行ドライバ120から行選択信号、ピクセルリセット信号および伝送信号などを含むピクセル制御信号を受信することができ、ピクセル制御信号により、ピクセルアレイ110の当該イメージピクセルは、行選択信号、ピクセルリセット信号および伝送信号に対応する動作を行うように活性化されることができる。イメージピクセルそれぞれは、入射光の強さに対応する光電荷を生成し、生成された光電荷の量に対応する電気的信号を生成することで、入射光を検知することができる。説明の便宜上、イメージピクセルは、ピクセルとも称されてもよい。
【0017】
行ドライバ120は、タイミングコントローラ170により供給される命令および制御信号に基づいて、当該行に含まれたピクセルに対して特定の動作を行うようにピクセルアレイ110を活性化することができる。一実施形態において、行ドライバ120は、ピクセルアレイ110の少なくとも1つの行に配列された少なくとも1つのピクセルを選択することができる。行ドライバ120は、複数の行のうち少なくとも1つの行を選択するために行選択信号を生成することができる。行ドライバ120は、選択された少なくとも1つの行に対応するピクセルに対して、ピクセルリセット信号および伝送信号を順次イネーブルさせることができる。これにより、選択された行のピクセルそれぞれから生成されるアナログ形態の基準信号と画像信号が相関二重サンプラ130に順次伝達されることができる。ここで、基準信号は、ピクセルのセンシングノード(例えば、フローティング拡散ノード)がリセットされた際に、相関二重サンプラ130に提供される電気的信号であり、画像信号は、ピクセルにより生成された光電荷がセンシングノードに蓄積された際に、相関二重サンプラ130に提供される電気的信号であってもよい。ピクセル固有のリセットノイズ(reset noise)を示す基準信号、および入射光の強さを示す画像信号は、ピクセル信号と称されてもよい。
【0018】
イメージセンシング装置100は、2つのサンプル間の差を除去するためにピクセル信号を2回サンプリングすることで、固定パターンノイズのようなピクセルの所望しないオフセット値を除去できるように相関二重サンプリングを用いることができる。一例として、相関二重サンプリングは、入射光により生成された光電荷がセンシングノードに蓄積される前後に得られたピクセル出力電圧を比較することで、所望しないオフセット値を除去して、ただ入射光に基づくピクセル出力電圧が測定されることができる。一実施形態において、相関二重サンプラ130は、ピクセルアレイ110から複数の列ラインそれぞれに提供される基準信号と画像信号を順次サンプリングおよびホールディング(sampling and holding)することができる。すなわち、相関二重サンプラ130は、ピクセルアレイ110の列それぞれに対応する基準信号と画像信号のレベルをサンプリングしホールディングすることができる。
【0019】
相関二重サンプラ130は、タイミングコントローラ170からの制御信号に基づいて、列それぞれの基準信号と画像信号を相関二重サンプリング信号としてADC140に伝達することができる。
【0020】
ADC140は、相関二重サンプラ130から出力される各列に対する相関二重サンプリング信号をデジタル信号に変換して出力することができる。一実施形態において、ADC140は、列それぞれのための相関二重サンプラ130により生成された相関二重サンプリング信号をデジタル信号に変換して出力することができる。
【0021】
ADC140は、ピクセルアレイ110の列それぞれに対応する複数の列カウンタを含むことができる。ピクセルアレイ110の各列は、各列カウンタに連結され、画像データは、列カウンタを用いて列それぞれに対応する相関二重サンプリング信号をデジタル信号に変換することで生成されることができる。他の実施形態により、ADC140は、1つのグローバルカウンタを含み、グローバルカウンタから提供されるグローバルコードを用いて、列それぞれに対応する相関二重サンプリング信号をデジタル信号に変換することができる。
【0022】
出力バッファ150は、ADC140から提供されるそれぞれの列単位の画像データIDATAを一時的にホールディングして出力することができる。出力バッファ150は、タイミングコントローラ170の制御信号に基づいて、ADC140から出力されるイメージデータを一時的に格納することができる。出力バッファ150は、イメージセンシング装置100と連結された他の装置間の伝送速度(または処理速度)の差を補うインターフェースとして動作することができる。
【0023】
列ドライバ160は、タイミングコントローラ170の制御信号に基づいて、出力バッファ150の列を選択し、出力バッファ150の選択された列に一時的に格納されたイメージデータが順次出力されるように制御することができる。一実施形態において、列ドライバ160は、タイミングコントローラ170からアドレス信号を受信することができ、列ドライバ160は、アドレス信号に基づいて列選択信号を生成して出力バッファ150の列を選択することで、出力バッファ150の選択された列からイメージデータが外部に出力されるように制御することができる。
【0024】
タイミングコントローラ170は、行ドライバ120、相関二重サンプラ130、ADC140、出力バッファ150および列ドライバ160のうち少なくとも1つを制御することができる。
【0025】
タイミングコントローラ170は、イメージセンシング装置100の各構成の動作に求められるクロック信号、タイミングコントロールのための制御信号、および行または列を選択するためのアドレス信号を、行ドライバ120、相関二重サンプラ130、ADC140、出力バッファ150および列ドライバ160のうち少なくとも1つに提供することができる。一実施形態により、タイミングコントローラ170は、ロジック制御回路(Logic control circuit)、位相ロックループ(Phase Lock Loop、PLL)回路、タイミングコントロール回路(timing control circuit)および通信インターフェース回路(communication interface circuit)などを含むことができる。
【0026】
ピクセルアレイ110の各ピクセルから受信されるピクセル信号を変換してイメージデータを生成および出力するCDS130、ADC140、出力バッファ150および列ドライバ160は、リードアウト回路(readout circuit)と称されてもよい。
【0027】
図3を参照すると、互いに隣接する3個のピクセルが概略的に示されている。すなわち、中央の対象ピクセルPXを中心に、対象ピクセルPXの左右に隣接する第1隣接ピクセルPX_A1と第2隣接ピクセルPX_A2がそれぞれ配置されることができる。
【0028】
各ピクセルPX、PX_A1、PX_A2は、マイクロレンズ510、光学フィルタ520および基板530を含むことができる。
マイクロレンズ510は、光学フィルタ520の上部に形成されることができ、入射光に対する集光力(light gathering power)を高め、半導体基板530に含まれる光電変換素子の受光効率を向上させることができる。
【0029】
光学フィルタ520は、透過波長帯域の光(例えば、レッド(Red)、グリーン(Green)、ブルー(Blue)、マゼンタ(Magenta)、イエロー(Yellow)、シアン(Cyan)、ホワイト(white)、赤外線(infrared)など)を選択的に透過させることができる。ここで、透過波長帯域は、当該光学フィルタが選択的に透過させようとする光に対応する波長帯域を意味し得る。例えば、光学フィルタ520は、特定のカラーに対応する有色の感光性物質を含むか、または交互に配置された薄膜層を含むことができる。ピクセルアレイ110に含まれた光学フィルタは、複数の行および複数の列を含むマトリクスに配列されたピクセルに対応して配置されることで、光学フィルタアレイを構成することができる。
【0030】
本開示においては、各ピクセルPX、PX_A1、PX_A2に入射する光は、レッド色に対応するレッド光R、グリーン色に対応するグリーン光G、およびブルー色に対応するブルー光Bの成分を含むと仮定する。
【0031】
レッド光Rを選択的に透過させる光学フィルタ520は、レッドカラーフィルタに定義され、レッドカラーフィルタを含んでレッド色に対応する光を検知するピクセルは、レッドピクセルに定義されることができる。グリーン光Gを選択的に透過させる光学フィルタ520は、グリーンカラーフィルタに定義され、グリーンカラーフィルタを含んでグリーン色に対応する光を検知するピクセルは、グリーンピクセルに定義されることができる。ブルー光Bを選択的に透過させる光学フィルタ520は、ブルーカラーフィルタに定義され、ブルーカラーフィルタを含んでブルー色に対応する光を検知するピクセルは、ブルーピクセルに定義されることができる。
【0032】
一方、レッド光R、グリーン光Gおよびブルー光Bを全て透過させる光学フィルタ520は、ホワイトカラーフィルタに定義され、ホワイトカラーフィルタを含んでレッド色、グリーン色およびブルー色の全てに対応する光を検知するピクセルは、ホワイトピクセルに定義されることができる。また、グリーン光Gおよびブルー光Bを選択的に透過させる光学フィルタ520は、シアンカラーフィルタに定義され、シアンカラーフィルタを含んでグリーン光Gおよびブルー光Bに対応する光を検知するピクセルは、シアンピクセルに定義されることができる。
【0033】
基板530は、半導体基板であって、例えば、P型またはN型バルク(bulk)基板、P型バルク基板にP型またはN型エピタキシャル層(epitaxial layer)が成長した基板、またはN型バルク基板にP型またはN型エピタキシャル層が成長した基板であってもよい。基板530は、各ピクセルPX、PX_A1、PX_A2に対応する光電変換素子を含むことができ、マイクロレンズ510と光学フィルタ520を通過した入射光の強さに対応する光電荷を生成および蓄積することができる。例えば、光電変換素子は、フォトダイオード、フォトトランジスタ、フォトゲート、ピン型(pinned)フォトダイオードまたはそれらの組み合わせで実現されることができる。図3には示されていないが、各ピクセルPX、PX_A1、PX_A2は、光電変換素子に蓄積された光電荷を電気的信号に変換するための複数のトランジスタを含むことができる。例えば、複数のトランジスタは、3個、4個または5個のトランジスタを含むことができ、代表的に各ピクセルPX、PX_A1、PX_A2が4個のトランジスタを含む場合、トランジスタは、リセットトランジスタ、伝送トランジスタ、ドライブトランジスタおよび選択トランジスタを含むことができる。図2で説明されたピクセルリセット信号、伝送信号および行選択信号それぞれは、リセットトランジスタ、伝送トランジスタおよび選択トランジスタそれぞれに供給されることができる。
【0034】
図3においては、対象ピクセルPXがホワイトピクセルであると仮定し、レッド光R、グリーン光Gおよびブルー光Bは、対象ピクセルPXのマイクロレンズ510および光学フィルタ520を通過して基板530の光電変換素子に向かって入射することができる。レッド光Rの波長は、グリーン光Gの波長よりも高く、グリーン光Gの波長は、ブルー光Bの波長よりも高くてもよい。例えば、レッド光Rの波長は約0.6μmであり、グリーン光Gの波長は約0.53μmであり、ブルー光Bの波長は約0.45μmであってもよい。ここで、波長は、透過波長帯域の平均値またはピーク波長(最も高い強さの光が分布する波長)を意味し得る。
【0035】
一般的に、特定の波長を有する光は、特定の幅を有するスリット(slit)を通過する際に、特定の波長が大きくなるほど回折(diffraction)が強く発生し、特に、特定の波長が特定の幅に同一ないし近似した値を有する際に、回折が最大に発生し得る。
【0036】
対象ピクセルPXは、1つのスリットに該当し、対象ピクセルPXの幅は、ピクセルサイズ(pixel size)に該当することができる。ピクセルサイズは、ピクセルアレイ110の行方向または列方向に沿った幅を意味し得、本開示においては、行方向に沿った幅と列方向に沿った幅が互いに同一であると仮定する。
【0037】
限定された面積内でピクセルの解像度を高めるために、ピクセルサイズは、次第に小型化することができる。仮に対象ピクセルPXのピクセルサイズが0.6μmである場合、対象ピクセルPXのピクセルサイズよりも小さい波長を有するグリーン光Gまたはブルー光Bは、対象ピクセルPXに入射しつつ回折がほぼ発生しない。しかし、対象ピクセルPXのピクセルサイズと同一ないし近似した波長を有するレッド光Rは、対象ピクセルPXに入射しつつ回折が強く発生し得る。
【0038】
レッド光Rの回折により、対象ピクセルPXに入射したレッド光Rの相当部分は、隣接ピクセル(例えば、PX_A1、PX_A2)に伝播されることができる。すなわち、対象ピクセルPXに入射したレッド光Rの相当部分は、対象ピクセルPXの光電変換素子によりキャプチャされることができず、隣接ピクセル(例えば、PX_A1、PX_A2)に伝播され、隣接ピクセル(例えば、PX_A1、PX_A2)でキャプチャされる光学的クロストーク(optical crosstalk)が顕著に発生し得る。
【0039】
図4aを参照すると、最小の光が入射するホワイトピクセルMINと最大の光が入射するホワイトピクセルMAXが一列に交互に配置されると仮定する。ここで、最小の光は、各光R、G、Bに対する輝度値(luminance value)がSNR(signal to noise ratio)限界レベル(SNR limit)を有するようにする光を意味し、最大の光は、各光R、G、Bに対する輝度値が飽和レベル(saturation)を有するようにする光を意味し得る。また、輝度値は、当該ピクセルが各光R、G、Bを検知して変換したイメージデータの値を意味し得る。
【0040】
SNR限界レベルは、予め定められた基準SNR(reference SNR)を満たすことができる輝度値の臨界値を意味し得る。SNR限界レベル未満の輝度値は、基準SNRを満たすことができない無効応答となり、SNR限界レベル以上の輝度値は、基準SNRを満たすことができる有効応答となることができる。基準SNRは、イメージセンシング装置100の特性およびシステムの要求仕様を考慮して実験的に決められた値であってもよい。
【0041】
飽和レベルは、入射光の強さを示すことができる最大輝度値を意味し得る。飽和レベルは、ピクセルが入射光の強さを光電荷に変換可能な能力(例えば、光電変換素子の容量)、光電荷をアナログ信号に変換可能な能力(例えば、フローティング拡散領域の容量)、およびアナログ信号をデジタル信号に変換可能な能力(例えば、アナログデジタルコンバータの入力範囲)により決められることができる。入射光の強さが増加する際に、輝度値が飽和レベルに達する前までには、輝度値が入射光の強さに応じて増加することができる。しかし、輝度値が飽和レベルに達した後には、入射光の強さが増加しても、輝度値は飽和レベルを超過して増加することができず、飽和レベルと同一の値を有することができる。
【0042】
図4aに示されたように、レッド光Rに対して、最小の光が入射するホワイトピクセルMINが最小輝度値Rminを有し、最大の光が入射するホワイトピクセルMAXが最大輝度値Rmaxを有し、最小輝度値Rminと最大輝度値Rmaxの平均は、平均輝度値Ravgに該当することができる。すなわち、ホワイトピクセルは、レッド光Rに対して、最大輝度値Rmaxと最小輝度値Rminとの間の差に該当する輝度範囲ΔRを有することができる。
【0043】
グリーン光Gに対して、最小の光が入射するホワイトピクセルMINが最小輝度値Gminを有し、最大の光が入射するホワイトピクセルMAXが最大輝度値Gmaxを有し、最小輝度値Gminと最大輝度値Gmaxの平均は、平均輝度値Gavgに該当することができる。すなわち、ホワイトピクセルは、グリーン光Gに対して、最大輝度値Gmaxと最小輝度値Gminとの間の差に該当する輝度範囲ΔGを有することができる。
【0044】
ブルー光Bに対して、最小の光が入射するホワイトピクセルMINが最小輝度値Bminを有し、最大の光が入射するホワイトピクセルMAXが最大輝度値Bmaxを有し、最小輝度値Bminと最大輝度値Bmaxの平均は、平均輝度値Bavgに該当することができる。すなわち、ホワイトピクセルは、ブルー光Bに対して、最大輝度値Bmaxと最小輝度値Bminとの間の差に該当する輝度範囲ΔBを有することができる。
【0045】
図4aにおいて、平均輝度値がブルー光B、レッド光R、そしてグリーン光Gの順に大きくなるのは、光の特性上、上記の順に光電変換素子での光電変換効率が大きくなるためである。
【0046】
図4aは、ホワイトピクセルのピクセルサイズがレッド光Rの波長よりも大きい場合に対するグラフであり、各ホワイトピクセルにおいて、グリーン光Gおよびブルー光Bだけでなく、レッド光Rの回折もほぼ発生しない。これにより、レッド光Rに対する輝度範囲ΔRは、グリーン光Gに対する輝度範囲ΔGとブルー光Bに対する輝度範囲ΔBに比べて大きく異ならない範囲を有することができる。
【0047】
図4bを参照すると、一列に交互に配置されるホワイトピクセルMINとホワイトピクセルMAXにおいて、レッド光Rに対する輝度範囲ΔR、グリーン光Gに対する輝度範囲ΔG、およびブルー光Bに対する輝度範囲ΔBがそれぞれ示されている。図4bは、図4aとは異なり、ホワイトピクセルのピクセルサイズがレッド光Rの波長と同一ないし近似した場合に対するグラフであり、各ホワイトピクセルにおいて、グリーン光Gおよびブルー光Bとは異なり、レッド光Rの回折が強く発生し得る。
【0048】
レッド光Rの回折により、各ホワイトピクセルに入射したレッド光Rの相当部分は、隣接ピクセルに伝播されて混ざり得る。このため、レッド光Rに対する最小輝度値Rmin’は、図4aの最小輝度値Rmin’よりも大きい値を有し、レッド光Rに対する最大輝度値Rmax’は、図4aの最大輝度値Rmax’よりも小さい値を有することができる。すなわち、ホワイトピクセルは、レッド光Rに対して、図4aの輝度範囲ΔRよりも顕著に小さい輝度範囲ΔR’を有することができる。一方、ホワイトピクセルに入射する光の総量は同一であるため、平均輝度値Ravgは、図4aと図4bにおいて互いに同一であることができる。
【0049】
ホワイトピクセルの信号対雑音比(signal to noise ratio;SNR)は、レッド光R、グリーン光Gおよびブルー光Bそれぞれの輝度範囲の和に比例し、レッド光R、グリーン光Gおよびブルー光Bそれぞれの平均輝度値の和が大きくなるほど減少することができる。
【0050】
図4aおよび図4bにおけるホワイトピクセルのSNRを比較すると、平均輝度値の和(Ravg+Gavg+Bavg)は維持されるが、図4aにおける輝度範囲の和(ΔR+ΔG+ΔB)よりも図4bにおける輝度範囲の和(ΔR’+ΔG+ΔB)は減ることになる。したがって、ホワイトピクセルのピクセルサイズがレッド光Rの波長と類似する程度に小さくなると、ホワイトピクセルが生成するイメージデータのSNRが不良となってイメージデータの品質が低下し得る。
【0051】
図5aを参照すると、光の色別に波長(wavelength)に応じた強さ(light intensity)の分布が示されている。すなわち、ホワイト光W、レッド光R、グリーン光Gおよびブルー光Bそれぞれに対して、波長に応じて異なる強さが示されている。
【0052】
ホワイト光W、レッド光R、グリーン光Gおよびブルー光Bそれぞれに対して最も強さが高い波長は、ピーク波長に定義されることができる。ピーク波長は、ブルー光B、グリーン光Gおよびレッド光Rの順に順次高くなり、ブルー光B、グリーン光Gおよびレッド光Rそれぞれが分布する波長帯域は、少なくとも一部が互いにオーバーラップすることができる。また、ホワイト光Wが分布する波長帯域は、ブルー光B、グリーン光Gおよびレッド光Rそれぞれが分布する波長帯域の大部分を含むことができる。すなわち、ホワイト光Wは、ブルー光B、グリーン光Gおよびレッド光Rそれぞれの成分を全て含むと見ることができる。
【0053】
図5bを参照すると、光の色別に波長に応じた強さの分布が示されている。すなわち、シアン光Cy、レッド光R、グリーン光Gおよびブルー光Bそれぞれに対して、波長に応じて異なる強さが示されている。
【0054】
ピーク波長は、ブルー光B、グリーン光Gおよびレッド光Rの順に順次高くなり、ブルー光B、グリーン光Gおよびレッド光Rそれぞれが分布する波長帯域は、少なくとも一部が互いにオーバーラップすることができる。また、シアン光Cyが分布する波長帯域は、ブルー光Bとグリーン光Gそれぞれが分布する波長帯域の大部分を含むが、レッド光Rが分布する波長帯域の一部だけを含むことができる。すなわち、シアン光Cyは、ブルー光Bおよびグリーン光Gの成分を全て含むが、レッド光Rの成分の一部だけを含み、以下では、説明の便宜上、シアン光Cyは、レッド光Rの成分を含まず、ブルー光Bおよびグリーン光Gの成分を含むと仮定する。
【0055】
ピクセルが小型化するにつれて、レッドピクセル、グリーンピクセルおよびブルーピクセルそれぞれに入射する光の光量が減ることになり、これにより各ピクセルの輝度値も下がり、各ピクセルのSNRも下がることになって、正確なイメージテクスチャ(image texture)の取得が難しくなる。ここで、イメージテクスチャは、イメージ上の被写体の模様ないし輪郭を意味し得る。このような問題を補完するために、光量が相対的に多いホワイトピクセルをピクセルアレイ110上に特定のパターンで配列することで、ホワイトピクセルのイメージデータからさらに正確なイメージテクスチャを取得する方式を用いる方案が考慮されることができる。
【0056】
しかしながら、前述したように、ホワイトピクセルのピクセルサイズが特定の条件(ピクセルサイズとレッド光Rの波長が互いに同一ないし近似する)を満たす場合、レッド光Rに対する輝度範囲ΔR’が減ることになってホワイトピクセルのSNRが不良となることで、正確なイメージテクスチャを取得することができない。
【0057】
本開示においては、ピクセルアレイ110上にホワイトピクセルの代わりにシアンピクセルを配置してイメージテクスチャを取得する方式を用いることができ、シアンピクセルは、ホワイト光WからSNRの低下を誘発するレッド光Rの成分が除去されたシアン光Cyを検知してイメージデータを生成し、シアンピクセルのイメージデータは、相対的に良好なSNRを有することで、さらに正確なイメージテクスチャを取得するのに用いることができる。
【0058】
ピクセルアレイ110の各シアンピクセルのピクセルサイズ(例えば、幅)と、レッド光Rの波長との間の差は、各シアンピクセルのピクセルサイズ(例えば、幅)と、グリーン光Gまたはブルー光Bの波長との間の差よりも小さくてもよい。
【0059】
再び図1を参照すると、ラインメモリ200は、揮発性メモリ(例えば、DRAM、SRAM)および/または不揮発性メモリ(例えば、フラッシュメモリ)を含むことができる。ラインメモリ200は、予め定められた個数のラインに対応するイメージデータを格納可能な容量を有することができる。ここで、ラインは、ピクセルアレイ110の行を意味し得る。予め定められた個数は、ピクセルアレイ110の全体行の個数よりも小さい値であってもよい。したがって、ラインメモリ200は、ピクセルアレイ110が一度に撮影したフレームに対応するイメージデータを格納可能なフレームメモリではなく、ピクセルアレイ110の一部の行(またはライン)に対応するイメージデータを格納可能なラインメモリであってもよい。他の実施形態により、ラインメモリ200は、フレームメモリに代替されてもよい。
【0060】
ラインメモリ200は、イメージセンシング装置100からイメージデータを受信して格納することができ、格納されたイメージデータをISP300の制御に応じてISP300に伝送することができる。
【0061】
ISP300は、ラインメモリ200に格納されたイメージデータに対して画像信号処理を行うことができる。ISP300は、イメージデータに対してノイズを低減し、ガンマ補正(Gamma Correction)、カラーフィルタアレイ補間(color filter array interpolation)、カラーマトリクス(color matrix)、色補正(color correction)、カラーエンハンスメント(color enhancement)、レンズ歪み補正(lens distortion correction)などの画質改善のための画像信号処理を行うことができる。また、ISP300は、画質改善のための画像信号処理を行って生成した画像データを圧縮処理して画像ファイルを生成することができ、または、前記画像ファイルから画像データを復元することができる。画像の圧縮形式は、可逆形式または非可逆形式であってもよい。圧縮形式の例として、静止画像の場合は、JPEG(Joint Photographic Experts Group)形式やJPEG2000形式などを用いることができる。また、動画の場合は、MPEG(Moving Picture Experts Group)標準に従って複数のフレームを圧縮して動画ファイルを生成することができる。画像ファイルは、例えば、Exif(Exchangeable image file format)標準に従って生成することができる。
【0062】
ISP300は、第1補間部(first interpolation unit)310および第2補間部(second interpolation unit)320を含むことができる。第1補間部310および第2補間部320は、デモザイキングブロック(demosaicing block)と称されてもよく、デモザイキングブロックは、各ピクセルごとに1つの色に対応するイメージデータ(すなわち、原イメージデータ(raw image data))を用いて、各ピクセルごとに3つの色(レッド、グリーン、ブルー)に対応するイメージデータ(すなわち、RGBイメージデータ(RGB image data))に変換することができる。
【0063】
第1補間部310は、原イメージデータを各色(シアン、レッド、グリーン、ブルー)別に4個の原イメージ(すなわち、シアン原イメージ、レッド原イメージ、グリーン原イメージ、ブルー原イメージ)に分離し、シアン原イメージに対して第1補間を行ってシアン補間イメージを生成することができる。一実施形態により、第1補間は、線形補間(linear interpolation)であってもよいが、本発明の範囲がこれに限定されるものではない。
【0064】
第2補間部320は、レッド原イメージに対して、シアン補間イメージを用いて第2補間を行い、レッド補間イメージを生成することができる。また、第2補間部320は、グリーン原イメージに対して、シアン補間イメージを用いて第2補間を行い、グリーン補間イメージを生成することができる。さらに、第2補間部320は、ブルー原イメージに対して、シアン補間イメージを用いて第2補間を行い、ブルー補間イメージを生成することができる。一実施形態により、第2補間は、線形回帰(linear regression)であってもいが、本発明の範囲がこれに限定されるものではない。
第1補間部310および第2補間部320のより詳細な動作は、図7図8を参照して後述する。
【0065】
ISP300は、補間動作が完了したRGBデータを入出力インターフェース400に伝送することができる。一実施形態により、ISP300は、RGBデータに対して追加の画像信号処理(例えば、エッジ強調処理)を行った後、入出力インターフェース400に伝送することができる。
【0066】
入出力インターフェース400は、ホスト装置20との通信を行い、画像信号処理されたイメージデータをホスト装置20に伝送することができる。一実施形態により、入出力インターフェース400は、MIPI(mobile industry processor interface)インターフェースであってもよいが、本発明の範囲がこれに限定されるものではない。
【0067】
ホスト装置20は、撮影装置10から受信される画像信号処理されたイメージデータを処理するプロセッサ(例えば、アプリケーションプロセッサ(application processor))、イメージデータを格納するメモリ(例えば、不揮発性メモリ)、またはイメージデータを視覚的に出力するディスプレイ装置(例えば、LCD(liquid crystal display))であってもよい。
【0068】
図6aは、ピクセルアレイの一部に対する一例を示した図である。
図6aを参照すると、4個の行および4個の列を含むマトリクスに配列された16個のピクセルが示されている。一例として、16個のピクセルはピクセルアレイ110の最小単位であって、16個のピクセルが行方向および列方向に繰り返されてもよいが、本発明の範囲がこれに限定されるものではない。
【0069】
16個のピクセルの配列形態は、第1パターン600aに定義されることができる。第1パターン600aは、第1~第4ピクセルグループPG1a~PG4aを含むことができる。第1~第4ピクセルグループPG1a~PG4aは2×2マトリクスに配列され、第1ピクセルグループPG1aと第4ピクセルグループPG4aは互いに対角方向に配列され、第2ピクセルグループPG2aと第3ピクセルグループPG3aは互いに対角方向に配列されることがでいる。第1~第4ピクセルグループPG1a~PG4aそれぞれは、2×2マトリクスに配列される4個のピクセルを含むことができる。
【0070】
第1ピクセルグループPG1aは、1個のレッドピクセルおよび3個のシアンピクセルを含み、第4ピクセルグループPG4aは、1個のブルーピクセルおよび3個のシアンピクセルを含むことができる。また、第2および第3ピクセルグループPG2a、PG3aそれぞれは、1個のグリーンピクセルおよび3個のシアンピクセルを含むことができる。
【0071】
各ピクセルグループPG1a~PG4a内で、レッドピクセル、ブルーピクセルまたはグリーンピクセルが配置される位置は、ISP300の画像信号処理に必要な演算量を減らせるように互いに同一であってもよいが、本発明の範囲がこれに限定されるものではない。
【0072】
第1~第4ピクセルグループPG1a~PG4aそれぞれは、ベイヤーパターン(bayer pattern)を構成するレッドピクセル、ブルーピクセルまたはグリーンピクセルを含み、この際、シアンピクセルをさらに含むことで、さらに正確なイメージテクスチャが取得されるようにすることができる。
【0073】
図6bは、ピクセルアレイの一部に対する他の例を示した図である。
図6bを参照すると、4個の行および4個の列を含むマトリクスを構成する16個のピクセルの配列形態である第2パターン600bが示されている。第2パターン600bは、第1~第4ピクセルグループPG1b~PG4bを含むことができる。第2パターン600bは、図6aの第1パターン600aと一部の相違点を除いては実質的に同一であるところ、説明の便宜上、相違点を中心に説明する。
【0074】
第1ピクセルグループPG1bは、2個のレッドピクセルおよび2個のシアンピクセルを含み、第4ピクセルグループPG4bは、2個のブルーピクセルおよび2個のシアンピクセルを含むことができる。また、第2および第3ピクセルグループPG2b、PG3bそれぞれは、2個のグリーンピクセルおよび2個のシアンピクセルを含むことができる。
【0075】
各ピクセルグループPG1b~PG4b内で、同一種類のピクセルは互いに対角方向に配置され、シアンピクセルが配置される位置は互いに同一であってもよいが、本発明の範囲がこれに限定されるものではない。
【0076】
第1~第4ピクセルグループPG1b~PG4bそれぞれは、ベイヤーパターンを構成するレッドピクセル、ブルーピクセルまたはグリーンピクセルを含み、この際、シアンピクセルをさらに含むことで、さらに正確なイメージテクスチャが取得されるようにすることができる。第1~第4ピクセルグループPG1b~PG4bそれぞれは、図6aの一例と比べて、各ピクセルグループ内のベイヤーパターンを構成するピクセルの割合を高めることで、さらに正確なカラー情報がRGBイメージデータに反映されるようにすることができる。
【0077】
図6cは、ピクセルアレイの一部に対するまた他の例を示した図である。
図6cを参照すると、4個の行および4個の列を含むマトリクスを構成する16個のピクセルの配列形態である第3パターン600cが示されている。第3パターン600cは、第1~第4ピクセルグループPG1c~PG4cを含むことができる。第3パターン600cは、図6bの第2パターン600bと一部の相違点を除いては実質的に同一であるところ、説明の便宜上、相違点を中心に説明する。
【0078】
第1ピクセルグループPG1cおよび4ピクセルグループPG4cそれぞれは、1個のグリーンピクセル、1個のレッドピクセルおよび2個のシアンピクセルを含むことができる。また、第2ピクセルグループPG2cおよび第3ピクセルグループPG3cそれぞれは、1個のグリーンピクセル、1個のブルーピクセルおよび2個のシアンピクセルを含むことができる。
【0079】
各ピクセルグループPG1c~PG4c内で、シアンピクセルは互いに対角方向に配置され、レッドピクセルおよびブルーピクセルのうち何れか1つとグリーンピクセルは互いに対角方向に配置されてもよいが、本発明の範囲がこれに限定されるものではない。
【0080】
第1~第4ピクセルグループPG1c~PG4cそれぞれは、ベイヤーパターンを構成するレッドピクセルおよびブルーピクセルのうち何れか1つとグリーンピクセルとを含み、この際、シアンピクセルをさらに含むことで、さらに正確なイメージテクスチャが取得されるようにすることができる。第1~第4ピクセルグループPG1c~PG4cそれぞれは、図6bの他の例と比べて、各ピクセルグループごとに光電変換効率に優れたグリーンピクセルが含まれるように配置することで、さらに正確なイメージテクスチャが取得されるようにすることができる。
【0081】
図6a~図6cにおいては、それぞれが、レッドピクセル、グリーンピクセルまたはブルーピクセルのうち少なくとも1つのピクセルと、少なくとも1つのシアンピクセルとを含む複数のピクセルグループの単位でピクセルが配列される実施形態について説明したが、本発明の範囲がこれに限定されるものではない。
【0082】
本発明の技術的思想は、ピクセルアレイ110が色情報を検出するためのカラーピクセル(例えば、レッドピクセル、グリーンピクセル、ブルーピクセル)と、イメージテクスチャを検出するためのシアンピクセルとを共に含む多様な実施形態を含むことができる。
【0083】
また、イメージテクスチャを検出するためにシアンピクセルを配置することは一例示にすぎず、本発明の技術的思想は、ピクセルアレイ110の各ピクセルのピクセルサイズ(例えば、幅)と一定の誤差範囲(例えば、±0.05μm)以内の波長を有する光をフィルタリングして遮断可能なピクセルをイメージテクスチャを検出するためのピクセルとして配置することで、入射光の回折を最小化してイメージテクスチャを検出可能な多様な実施形態を含むことができる。
【0084】
一例として、ピクセルアレイ110の各ピクセルのピクセルサイズが約0.45μmである場合、イメージセンシング装置100は、各ピクセルのピクセルサイズ(0.45μm)と一定の誤差範囲(例えば、±0.05μm)以内の波長を有するブルー光Bをフィルタリングして遮断可能なイエローピクセル(レッド光Rおよびグリーン光Gだけを透過させるピクセル)をイメージテクスチャを検出するためのピクセルとして含むことができる。
【0085】
図7は、図1の第1補間部の動作を説明するための図である。
図7を参照すると、以下では、図6aの第1パターン600aで配列されたピクセルアレイ110から受信される原イメージデータ700に対して、第1補間部310および第2補間部320が第1補間および第2補間をそれぞれ行う例示について説明する。本開示においては、図6aの第1パターン600aを例に挙げて説明するが、図6bおよび図6cの第2パターン600bおよび第3パターン600cで配列されたピクセルアレイ110またはその他の方式で配列されたピクセルアレイ110から受信される原イメージデータに対しても、実質的に同一方式の第1補間および第2補間が行われることができる。
【0086】
第1補間部310は、第1パターン600aで配列されたピクセルアレイ110から受信される原イメージデータ700を各色(シアン、レッド、グリーン、ブルー)別に、シアン原イメージ710、レッド原イメージ720、グリーン原イメージ730、ブルー原イメージ740に分離することができる。図7および図8においては、第1補間および第2補間の単位となる原イメージデータ700が9×9マトリクスに該当するものとして例示されたが、本発明の範囲はこれに限定されず、原イメージデータは、他のサイズ(例えば、5×5マトリクス)を有してもよい。
【0087】
原イメージデータ700は、シアンピクセルのイメージデータ、レッドピクセルのイメージデータ、グリーンピクセルのイメージデータおよびブルーピクセルのイメージデータの集合に該当し、シアンピクセルのイメージデータ、レッドピクセルのイメージデータ、グリーンピクセルのイメージデータおよびブルーピクセルのイメージデータそれぞれは、シアンピクセルデータ、レッドピクセルデータ、グリーンピクセルデータおよびブルーピクセルデータに定義されることができる。
【0088】
第1補間部310は、シアン原イメージ710に対して第1補間を行い、シアン補間イメージ715を生成することができる。一実施形態により、第1補間は、線形補間であってもよいが、本発明の範囲がこれに限定されるものではない。
【0089】
例えば、第1補間部310は、シアン原イメージ710において、シアンピクセルデータが存在しないピクセル(すなわち、第1補間対象ピクセル)を中心に一定範囲内に含まれたシアンピクセルのシアンピクセルデータの算術平均または第1補間対象ピクセルとの距離を重みとする加重平均を計算した値を第1補間対象ピクセルのシアンピクセルデータに決めることができる。
【0090】
第1補間部310は、シアン原イメージ710に含まれた全ての第1補間対象ピクセルに対して第1補間を行うことで、シアン補間イメージ715を生成することができる。
【0091】
一実施形態により、第1補間部310は、レッド原イメージ720に対しても第1補間を行ってレッド中間イメージ(図示せず)を生成し、第2補間部320に伝達することができる。同様に、第1補間部310は、グリーン原イメージ730およびブルー原イメージ740に対してもそれぞれ第1補間を行ってグリーン中間イメージ(図示せず)およびブルー中間イメージ(図示せず)を生成し、第2補間部320に伝達することができる。
【0092】
図8は、図1の第2補間部の動作を説明するための図である。
図8を参照すると、第2補間部320は、シアン補間イメージ715およびレッド原イメージ720に対して第2補間を行い、レッド補間イメージ800を生成することができる。一実施形態により、第2補間は、線形回帰であってもよいが、本発明の範囲がこれに限定されるものではない。
【0093】
例えば、第2補間部320は、レッド原イメージ720において、レッドピクセルデータが存在しないピクセル(すなわち、第2補間対象ピクセル)のレッドピクセルデータを次の数学式1に該当する線形回帰関数を用いて計算することができる。
【0094】
【数1】
【0095】
ここで、aは、回帰係数を意味し、bは、回帰切片を意味し得る。また、Cyiは、シアン補間イメージ715のシアンピクセルデータを意味し、Riは、第2補間されたレッド補間イメージ800のレッドピクセルデータを意味し得る。
【0096】
回帰係数aは、レッド原イメージ720に対して実験的に決められた値であってもよく、回帰係数aは、レッドピクセルデータRiとレッドピクセルデータRiに対応するレッド中間イメージのデータとの間の差を減らす方向に補正されることができる。
【0097】
回帰切片bは、レッドピクセルデータRiに対応するレッド中間イメージのデータに関連した値であってもよい。ここで、関連した値とは、同一の値または必要な加工(例えば、スケール調整)を加えた値を意味し得る。
【0098】
Cyiは、シアン補間イメージ715のシアンピクセルデータとしてレッドピクセルデータRiに対応する1つのシアンピクセルデータであってもよいが、他の実施形態により、前記シアンピクセルデータから一定範囲(例えば、3×3マトリクス)内に含まれる少なくとも1つのシアンピクセルデータを混合した値であってもよい。このような混合により、被写体の境界で発生するノイズが低減されることができる。
【0099】
第2補間部320は、レッド原イメージ720に対して、シアン補間イメージ715を用いて第2補間によりレッド補間イメージ800を生成することで、レッド光Rの回折によりぼやけ現象(回折により隣接ピクセル間の入射光が混ざって輝度範囲が縮小され、イメージがぼやける現象)の激しいレッド原イメージ720に対してさらに正確なイメージテクスチャを反映し、コントラスト(contrast)が改善されたレッド補間イメージ800を取得することができる。
【0100】
また、第2補間部320は、前述した第2補間と実質的に同一の方式を用いて、グリーン補間イメージおよびブルー補間イメージをそれぞれ生成することができる。
第2補間部320は、レッド補間イメージ、グリーン補間イメージおよびブルー補間イメージをRGBイメージデータとして外部に出力することができる。
【0101】
一実施形態により、レッド補間イメージ800の生成のための第2補間で用いられる回帰係数aは、グリーン補間イメージまたはブルー補間イメージの生成のための第2補間で用いられる回帰係数aとは異なってもよい。例えば、レッド補間イメージ800の生成のための第2補間で用いられる回帰係数a(すなわち、レッド原イメージ720に対する回帰係数)は、グリーン補間イメージまたはブルー補間イメージの生成のための第2補間で用いられる回帰係数a(すなわち、グリーン原イメージ730またはブルー原イメージ740に対する回帰係数)よりも大きくてもよい。これは、レッド原イメージ720のぼやけ現象が相対的に激しいため、第2補間時にシアン補間イメージ715のシアンピクセルデータCyiの比重を高めてイメージテクスチャをさらに鮮明にするためである。
【0102】
一実施形態により、ISP300は、第2補間部320の動作前に、レッド原イメージ720に対してエッジ強調処理を行うことができる。これは、デモザイキング(demosaicing)以前に先行的にレッド原イメージ720のコントラストを高め、レッド補間イメージ800のイメージテクスチャをさらに鮮明にするためである。
【0103】
一実施形態により、グリーン補間イメージまたはブルー補間イメージの生成のための第2補間で用いられるグリーン原イメージまたはブルー原イメージをそのまま用いるのではなく、シアン補間イメージを用いて補正されたグリーン原イメージまたはブルー補間イメージを用いてもよい。例えば、シアン補間イメージは、グリーン光Gの情報およびブルー光Bの情報を共に含んでいるため、シアン補間イメージからグリーン原イメージを各ピクセル別に減算した結果は、ブルー光Bの情報を含むイメージであってもよい。このようなイメージは、ブルー原イメージ740において、ブルーピクセルデータが存在しないピクセルに対してもブルーピクセルデータを提供することができるため、このようなイメージを用いてブルー原イメージを補正(例えば、併合)することで、さらに正確なカラー情報を有するRGBデータを取得することができる。
図1
図2
図3
図4a
図4b
図5a
図5b
図6a
図6b
図6c
図7
図8