IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エスケーハイニックス株式会社の特許一覧

特開2022-173066イメージセンシング装置及びその動作方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022173066
(43)【公開日】2022-11-17
(54)【発明の名称】イメージセンシング装置及びその動作方法
(51)【国際特許分類】
   G06T 1/00 20060101AFI20221110BHJP
   H04N 5/369 20110101ALI20221110BHJP
【FI】
G06T1/00 460E
G06T1/00 410
H04N5/369
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2022045385
(22)【出願日】2022-03-22
(31)【優先権主張番号】10-2021-0059457
(32)【優先日】2021-05-07
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】310024033
【氏名又は名称】エスケーハイニックス株式会社
【氏名又は名称原語表記】SK hynix Inc.
【住所又は居所原語表記】2091, Gyeongchung-daero,Bubal-eub,Icheon-si,Gyeonggi-do,Korea
(74)【代理人】
【識別番号】110000796
【氏名又は名称】弁理士法人三枝国際特許事務所
(72)【発明者】
【氏名】ハン ジ ヒ
(72)【発明者】
【氏名】ソン ジョン ヨン
(72)【発明者】
【氏名】ユ ジェ ユン
【テーマコード(参考)】
5B047
5C024
【Fターム(参考)】
5B047AB02
5B047AB04
5B047BA03
5B047BB04
5B047BC01
5B047BC05
5B047BC07
5B047DA06
5C024GX02
5C024HX57
(57)【要約】
【課題】本発明は電子装置に関する。
【解決手段】本技術によるイメージセンシング装置1000は、複数のピクセルデータを含むイメージを取得するイメージセンサ100と、イメージのサイズに対応するゲインマップに含まれた複数のブロック領域によって定義される頂点に対する基準ゲイン値を保存するメモリ300と、基準ゲイン値を利用して複数のブロック領域のそれぞれに含まれるゲイン値を計算し、基準ゲイン値及びゲイン値を複数のピクセルデータに適用した補正イメージを出力するイメージプロセッサ200と、を含み、複数のブロック領域は第1ブロック領域及び第1ブロック領域の位置よりもイメージの中央からの距離が近く、第1ブロック領域よりも大きいサイズの第2ブロック領域を含んでもよい。
【選択図】図1
【特許請求の範囲】
【請求項1】
複数のピクセルデータを含むイメージを取得するイメージセンサと、
前記イメージのサイズに対応するゲインマップに含まれた複数のブロック領域によって定義される頂点に対する基準ゲイン値を保存するメモリと、
前記基準ゲイン値を利用して前記複数のブロック領域のそれぞれに含まれるゲイン値を計算し、前記基準ゲイン値及び前記ゲイン値を前記複数のピクセルデータに適用した補正イメージを出力するイメージプロセッサと、を含み、
前記複数のブロック領域は、
第1ブロック領域及び前記第1ブロック領域の位置よりも前記イメージの中心からの距離が近く、前記第1ブロック領域よりも大きいサイズの第2ブロック領域を含むことを特徴とするイメージセンシング装置。
【請求項2】
前記第1ブロック領域に含まれるゲイン値は、
前記第2ブロック領域に含まれるゲイン値よりも大きいビット数が割り当てられることを特徴とする請求項1に記載のイメージセンシング装置。
【請求項3】
前記イメージプロセッサは、
前記イメージセンサを介して取得したキャリブレーションイメージに含まれた複数のピクセルデータから前記複数のブロック領域の頂点に対応するピクセルデータを選択し、
前記選択されたピクセルデータのうち1つの選択されたピクセルデータを含む関心領域に含まれるピクセルデータのうち、前記選択されたピクセルデータと同じ色チャンネルを有するピクセルデータの平均ピクセル値を計算し、
前記選択されたピクセルデータのピクセル値及び前記平均ピクセル値を利用して、前記基準ゲイン値のうち1つの基準ゲイン値を計算するイメージキャリブレータを含むことを特徴とする請求項1に記載のイメージセンシング装置。
【請求項4】
前記同じ色チャンネルは、
第1グリーンチャンネル、第2グリーンチャンネル、レッドチャンネル、及びブルーチャンネルのうち1つの色チャンネルであることを特徴とする請求項3に記載のイメージセンシング装置。
【請求項5】
前記同じ色チャンネルは、
第1グリーンチャンネル及び第2グリーンチャンネルのうち1つの色チャンネルであり、
前記平均ピクセル値は、
前記関心領域に含まれるピクセルデータのうち、前記第1グリーンチャンネルを有するピクセルデータのピクセル値及び前記第2グリーンチャンネルを有するピクセルデータのピクセル値に対する平均値を含むことを特徴とする請求項3に記載のイメージセンシング装置。
【請求項6】
前記イメージプロセッサは、
前記複数のブロック領域のうち1つのブロック領域において選択された地点と前記1つのブロック領域の頂点との距離及び前記1つのブロック領域の頂点に対応する基準ゲイン値に基づいて、前記選択された地点に対応するゲイン値を計算するイメージキャリブレータを含むことを特徴とする請求項1に記載のイメージセンシング装置。
【請求項7】
前記1つのブロック領域の頂点は、
前記1つのブロック領域の第1頂点、第2頂点、第3頂点、及び第4頂点を含み、
前記イメージキャリブレータは、
前記選択された地点と前記第1頂点の間の距離、前記選択された地点と前記第2頂点の間の距離、前記選択された地点と前記第3頂点の間の距離、前記選択された地点と前記第4頂点の間の距離、前記第1頂点に対応する基準ゲイン値、前記第2頂点に対応する基準ゲイン値、前記第3頂点に対応する基準ゲイン値、及び前記第4頂点に対応する基準ゲイン値に基づいて、前記選択された地点に対応するゲイン値を計算することを特徴とする請求項6に記載のイメージセンシング装置。
【請求項8】
前記イメージプロセッサは、
前記基準ゲイン値及び前記基準ゲイン値を利用して計算された前記ゲイン値を前記メモリに保存することを特徴とする請求項1に記載のイメージセンシング装置。
【請求項9】
前記イメージプロセッサは、
前記イメージセンサを介して前記イメージを取得すると、前記メモリに保存された前記基準ゲイン値及び前記ゲイン値を前記イメージに含まれる前記複数のピクセルデータに適用した前記補正イメージを生成するイメージコレクタを含むことを特徴とする請求項8に記載のイメージセンシング装置。
【請求項10】
前記複数のブロック領域のそれぞれは、
長方形または正方形の領域であることを特徴とする請求項1に記載のイメージセンシング装置。
【請求項11】
イメージセンサを介してキャリブレーションイメージを取得すると、前記キャリブレーションイメージのサイズに対応するゲインマップに含まれた複数のブロック領域によって定義される頂点に対する基準ゲイン値を計算する段階と、
前記基準ゲイン値を利用して前記複数のブロック領域のそれぞれに含まれるゲイン値を計算する段階と、
前記基準ゲイン値及び前記ゲイン値をメモリに保存する段階と、
前記イメージセンサを介してイメージを取得すると、前記メモリに保存された前記基準ゲイン値及び前記ゲイン値を前記複数のピクセルデータに適用した補正イメージを出力する段階と、を含み、
前記複数のブロック領域は、
第1ブロック領域及び前記第1ブロック領域の位置よりも前記キャリブレーションイメージの中心からの距離が近く、前記第1ブロック領域よりも大きいサイズの第2ブロック領域を含むことを特徴とするイメージセンシング装置の動作方法。
【請求項12】
前記第1ブロック領域に含まれるゲイン値は、
前記第2ブロック領域に含まれるゲイン値よりも大きいビット数が割り当てられることを特徴とする請求項11に記載のイメージセンシング装置の動作方法。
【請求項13】
前記基準ゲイン値を計算する段階は、
前記イメージセンサを介して取得したキャリブレーションイメージに含まれた複数のピクセルデータから前記複数のブロック領域の頂点に対応するピクセルデータを選択する段階と、
前記選択されたピクセルデータのうち1つの選択されたピクセルデータを含む関心領域に含まれるピクセルデータのうち、前記選択された色チャンネルを有するピクセルデータの平均ピクセル値を計算する段階と、
前記選択されたピクセルデータのピクセル値及び前記平均ピクセル値を利用して前記基準ゲイン値のうち1つの基準ゲイン値を計算する段階と、を含むことを特徴とする請求項11に記載のイメージセンシング装置の動作方法。
【請求項14】
前記同じ色チャンネルは、
第1グリーンチャンネル、第2グリーンチャンネル、レッドチャンネル、及びブルーチャンネルのうち1つの色チャンネルであることを特徴とする請求項13に記載のイメージセンシング装置の動作方法。
【請求項15】
前記同じ色チャンネルは、
第1グリーンチャンネル及び第2グリーンチャンネルのうち1つの色チャンネルであり、
前記平均ピクセル値は、
前記関心領域に含まれるピクセルデータのうち、前記第1グリーンチャンネルを有するピクセルデータのピクセル値及び前記第2グリーンチャンネルを有するピクセルデータのピクセル値に対する平均値を含むことを特徴とする請求項13に記載のイメージセンシング装置の動作方法。
【請求項16】
前記ゲイン値を計算する段階は、
前記複数のブロック領域のうち1つのブロック領域において選択された地点と前記1つのブロック領域の頂点との距離及び前記1つのブロック領域の頂点に対応する基準ゲイン値に基づいて、前記選択された地点に対応するゲイン値を計算する段階を含むことを特徴とする請求項11に記載のイメージセンシング装置の動作方法。
【請求項17】
前記1つのブロック領域の頂点は、
前記1つのブロック領域の第1頂点、第2頂点、第3頂点、及び第4頂点を含み、
前記選択された地点に対応するゲイン値を計算する段階は、
前記選択された地点と前記第1頂点の間の距離、前記選択された地点と前記第2頂点の間の距離、前記選択された地点と前記第3頂点の間の距離、前記選択された地点と前記第4頂点の間の距離、前記第1頂点に対応する基準ゲイン値、前記第2頂点に対応する基準ゲイン値、前記第3頂点に対応する基準ゲイン値、及び前記第4頂点に対応する基準ゲイン値に基づいて、前記選択された地点に対応するゲイン値を計算することを含むことを特徴とする請求項16に記載のイメージセンシング装置の動作方法。
【請求項18】
前記複数のブロック領域のそれぞれは、
長方形または正方形の領域であることを特徴とする請求項11に記載のイメージセンシング装置の動作方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は電子装置に関し、より詳細にはイメージセンシング装置及びその動作方法に関する。
【背景技術】
【0002】
イメージセンシング装置はイメージを取得する装置である。最近では、コンピュータ産業や通信産業の発達に伴い、スマートフォン、デジタルカメラ、ゲーム機器、モノのインターネット(Internet of Things)、ロボット、警備用カメラ、医療用カメラ、自律走行車両などの様々な電子装置においてイメージセンシング装置の需要が増加している。
【0003】
イメージセンシング装置は画質向上のためにイメージを補正することができる。これは、イメージはイメージセンシング装置のピクセル構造、光の波長の特性、レンズの工程誤差、レンズとイメージセンサ間の整列誤差などによって画質が劣化する恐れがあるからである。特に、人間の視覚特性上最も敏感な色の1つを示すグリーンチャンネル(例えば、Gbチャンネル、Grチャンネル)間のバラツキ(imbalance)が大きくなる場合、イメージには格子型ノイズのような画質劣化要素が発生する可能性がある。
【0004】
イメージセンシング装置は補正に用いられるデータをメモリに予め保存することができる。しかし、ハードウェアなどのリソースは限られており、画質向上の性能は保持しながらもデータの処理及び保存に必要なリソースの最小化などの最適化作業が求められる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の実施例は、イメージの補正に用いられるデータの演算量及び容量を減少させることができるイメージセンシング装置及びその動作方法を提供する。
【課題を解決するための手段】
【0006】
本発明の実施例によるイメージセンシング装置は、複数のピクセルデータを含むイメージを取得するイメージセンサと、イメージのサイズに対応するゲインマップに含まれた複数のブロック領域によって定義される頂点に対する基準ゲイン値を保存するメモリと、基準ゲイン値を利用して複数のブロック領域のそれぞれに含まれるゲイン値を計算し、基準ゲイン値及びゲイン値を複数のピクセルデータに適用した補正イメージを出力するイメージプロセッサと、を含み、複数のブロック領域は第1ブロック領域及び第1ブロック領域の位置よりもイメージの中央からの距離が近く、第1ブロック領域よりも大きいサイズの第2ブロック領域を含んでもよい。
【0007】
本発明の実施例によるイメージセンシング装置の動作方法は、イメージセンサを介してキャリブレーションイメージを取得すると、キャリブレーションイメージのサイズに対応するゲインマップに含まれた複数のブロック領域によって定義される頂点に対する基準ゲイン値を計算する段階と、基準ゲイン値を利用して複数のブロック領域のそれぞれに含まれるゲイン値を計算する段階と、基準ゲイン値及びゲイン値をメモリに保存する段階と、イメージセンサを介してイメージを取得すると、メモリに保存された基準ゲイン値及びゲイン値を複数のピクセルデータに適用した補正イメージを出力する段階と、を含み、複数のブロック領域は第1ブロック領域及び第1ブロック領域の位置よりもイメージの中央からの距離が近く、第1ブロック領域よりも大きいサイズの第2ブロック領域を含んでもよい。
【発明の効果】
【0008】
本技術は、イメージの補正に用いられるデータの演算量及び容量を減少させることができるイメージセンシング装置及びその動作方法を提供する。
【図面の簡単な説明】
【0009】
図1】本発明の実施例によるイメージセンシング装置を説明するための図である。
図2】本発明の実施例によるイメージセンサを説明するための図である。
図3a】本発明の実施例によるピクセルアレイを説明するための図である。
図3b】本発明の実施例によるイメージセンサを介して取得されるイメージを説明するための図である。
図4】本発明の実施例によるイメージプロセッサを説明するための図である。
図5】本発明の実施例によるキャリブレーションイメージを説明するための図である。
図6】本発明の実施例によるゲインマップを説明するための図である。
図7】本発明の実施例による何れか1つのブロック領域を説明するための図である。
図8a】本発明の実施例による基準ゲイン値を計算する方法を説明するための図である。
図8b】本発明の実施例による基準ゲイン値を計算する方法を説明するための図である。
図8c】本発明の実施例による基準ゲイン値を計算する方法を説明するための図である。
図8d】本発明の実施例による基準ゲイン値を計算する方法を説明するための図である。
図9a】本発明の実施例によるゲイン値を計算する方法を説明するための図である。
図9b】本発明の実施例によるゲイン値を計算する方法を説明するための図である。
図10】本発明の実施例による補正イメージを説明するための図である。
図11】本発明の実施例によるイメージセンシング装置の動作方法を説明するための図である。
図12】本発明の実施例によるイメージセンシング装置の動作方法を説明するための図である。
図13】本発明の実施例によるイメージセンシング装置を含むコンピューティングシステムを説明する図である。
【発明を実施するための形態】
【0010】
本明細書または出願に開示されている本発明の概念による実施例に対する特定の構造的乃至機能的説明は本発明の概念による実施例を説明するための例示に過ぎず、本発明の概念による実施例は様々な形態で実施されてもよく、本明細書または出願に説明された実施例に限定されると解釈すべきではない。
【0011】
図1は本発明の実施例によるイメージセンシング装置を説明するための図である。
【0012】
図1を参照すると、イメージセンシング装置1000はホスト3000の制御に応じて動作することができる。
【0013】
イメージセンシング装置1000はホスト3000の要請に応じてイメージを取得することができる。そして、イメージセンシング装置1000はホスト3000の要請に応じてホスト3000またはホスト3000が指示する装置にイメージを出力することができる。ここで、ホスト3000が指示する装置はデータを保存するメモリ装置、データを視覚的な方式で出力するディスプレイ装置であってもよい。
【0014】
イメージセンシング装置1000はパッケージングされたモジュール、部品などの形態で具現されてもよい。この場合、イメージセンシング装置1000はホスト3000に搭載されてもよい。または、イメージセンシング装置1000はホスト3000とは別の電子装置で具現されてもよい。
【0015】
ホスト3000は様々な電子装置で具現されてもよい。例えば、ホスト3000はデジタルカメラ、モバイルデバイス、スマートフォン(smart phone)、PC(Personal Computer)、タブレットPC(tablet personal computer)、ノート型パソコン(notebook)、PDA(personal digital assistant)、EDA(enterprise digital assistant)、PMP(portable multimedia player)、ウェアラブルデバイス(wearable device)、ドライブレコーダーカメラ、ロボット、自律走行車両などで具現されてもよい。
【0016】
イメージセンシング装置1000は、イメージセンサ100、イメージプロセッサ200、及びメモリ300を含んでもよい。
【0017】
イメージセンサ100はイメージ(Image)Imgを取得することができる。具体的には、イメージセンサ100はホスト3000からイメージを取得するように制御するコマンドを受信すると、イメージを取得することができる。イメージは複数のピクセルデータを含んでもよい。複数のピクセルデータは互いに独立したデータであってもよい。1つのピクセルデータは1つのピクセルに対応することができる。例えば、イメージセンサ100は、複数のピクセルのそれぞれに対するピクセルデータを取得することができる。イメージセンサ100は、複数のピクセルデータを含むイメージを取得することができる。ピクセルデータは、位置、色チャンネル、ピクセル値、露出値のうち少なくとも1つを示す情報を含んでもよい。
【0018】
ピクセルの位置は、複数のピクセルのうち該当ピクセルが配列された位置、または複数のピクセルデータのうち該当ピクセルデータが配列された位置を示すことができる。
【0019】
ピクセルの色チャンネルは該当ピクセルに対する光の色またはピクセルデータの色を示すことができる。例えば、色チャンネルはレッドチャンネル、グリーンチャンネル、及びブルーチャンネルのうち1つを含んでもよい。グリーンチャンネルはピクセル(またはピクセルデータ)の位置に応じて互いに区別される第1グリーンチャンネル及び第2グリーンチャンネルを含んでもよい。例えば、第1グリーンチャンネルのピクセルはブルーチャンネルのピクセルと同じ行にあるピクセルであり、第2グリーンチャンネルのピクセルはレッドチャンネルのピクセルと同じ行にあるピクセルであってもよい。他の例として、第1グリーンチャンネルのピクセルはブルーチャンネルのピクセルと同じ列にあるピクセルであり、第2グリーンチャンネルのピクセルはレッドチャンネルのピクセルと同じ列にあるピクセルであってもよい。
【0020】
ピクセル値は該当ピクセルを介して検知された光の明るさを示すことができる。例えば、ピクセル値が大きいほど、光の明るさが明るいことを示すことができる。ピクセルの露光値は該当ピクセルを介して光を検知する時間を示すことができる。
【0021】
このため、イメージセンサ100はCCD(Charge Coupled Device)センサまたはCMOS(Complementary Metal Oxide Semiconductor)センサで具現されてもよい。
【0022】
イメージプロセッサ200はイメージを補正することができる。具体的には、イメージプロセッサ200は、イメージセンサ100を介してイメージを取得すると、イメージにゲインマップを適用した補正イメージ(Correction Image)Cor_Imgを生成することができる。例えば、イメージプロセッサ200はゲインマップに含まれたゲイン値をピクセルデータに適用した補正イメージを生成することができる。また、イメージプロセッサ200は補正イメージを出力することができる。例えば、イメージプロセッサ200は補正イメージをホスト3000またはホスト3000が指示した装置に出力することができる。
【0023】
このため、イメージセンサ100はキャリブレーションイメージ(Calibration image)Cal_Imgを取得することができる。キャリブレーションイメージは、イメージセンサ100から取得するイメージを補正するのに用いられるゲインマップを抽出するためのイメージである。例えば、キャリブレーションイメージは、イメージセンサ100が均一な照度の環境で白い背景を撮影することで取得したイメージであってもよい。イメージセンサ100の構造または光の波長特性などにより、イメージセンサ100を介して取得したイメージにはピクセルの位置または色チャンネル毎にピクセル値が均一でないなどの歪みが発生することがある。イメージセンサ100毎に相違する歪みが発生することがあるため、イメージセンサ100毎の個別的なゲインマップが必要となり得る。キャリブレーションイメージは複数のピクセルデータを含んでもよい。一実施例におけるキャリブレーションイメージはイメージセンサ100から取得するイメージと同じサイズであってもよい。
【0024】
ゲインマップ(gain map)は複数のゲイン値を含んでもよい。ゲイン値はピクセルデータ(またはピクセル値)を補正するためのパラメータであり、特定の数値を示すことができる。ゲインマップはイメージセンサ100が取得するイメージまたはキャリブレーションイメージのサイズに対応することができる。イメージまたはキャリブレーションイメージのサイズは列方向に配列されたピクセルデータの数及び行方向に配列されたピクセルデータの数で示されてもよい。
【0025】
例えば、イメージまたはキャリブレーションイメージに含まれるピクセルデータがM×Nの数である場合、ゲインマップに含まれる複数のゲイン値はMxNの数であってもよい。ここで、M及びNは自然数である。即ち、ゲイン値の数はピクセルデータの数と同じ数であってもよい。ここで、ゲインマップに含まれる複数のゲイン値はイメージに含まれる複数のピクセルデータと1対1の対応関係であってもよい。各ゲイン値は各ピクセルデータの位置に対応することができる。
【0026】
ゲイン値は位置によって割り当てられるデータのビット数が異なってもよい。データのビット数が大きいほど、より広い範囲の数または値を示すことができるという意味である。例えば、小さいビット数が割り当てられたゲイン値を計算して保存する場合、計算した値のうちビット数の範囲外の小数点の桁の値は切り捨て、ビット数の範囲内の小数点の桁の値をゲイン値としてメモリ300に保存することができる。
【0027】
本発明の一実施例によるイメージプロセッサ200は、キャリブレーションイメージ及び複数のブロック領域を利用してゲインマップに含まれる基準ゲイン値を計算することができる。具体的には、イメージプロセッサ200は、キャリブレーションイメージに含まれた複数のピクセルデータを利用してブロック領域によって定義された頂点に対する基準ゲイン値を計算することができる。キャリブレーションイメージは複数のブロック領域を含んでもよい。ブロック領域はピクセルデータの位置によって定義されることができる。これにより、ゲインマップに含まれる一部のゲイン値を算出することができる。イメージプロセッサ200は基準ゲイン値をメモリ300に保存することができる。
【0028】
ゲインマップは複数のブロック領域を含んでもよい。ゲインマップは複数のゲイン値を含んでもよい。複数のゲイン値は基準ゲイン値及びノーマルゲイン値を含んでもよい。複数のブロック領域のそれぞれは長方形または正方形の領域であってもよい。しかし、これは一実施例に過ぎず、複数のブロック領域のそれぞれは様々な形態の領域に変形されてもよい。
【0029】
ブロック領域はピクセルデータの位置に対応するゲイン値を含んでもよい。ブロック領域は基準ゲイン値を含んでもよい。基準ゲイン値はゲインマップに含まれる複数のゲイン値のうち一部に該当するゲイン値である。基準ゲイン値のそれぞれは予め設定された位置のピクセルデータに対応することができる。予め設定された位置はブロック領域の頂点に対応する位置であってもよい。例えば、ブロック領域は(1、1)から(4、4)までの4x4の領域と定義されることができる。ブロック領域は(1、1)から(4、4)までの各位置に対応するゲイン値を含んでもよい。この場合、(1、1)、(4、1)、(1、4)、(4、4)の位置を該当ブロック領域の頂点と定義することができる。即ち、(1、1)、(4、1)、(1、4)、(4、4)の位置を線で連結してブロック領域を定義することができる。ブロック領域の頂点である(1、1)、(4、1)、(1、4)、(4、4)に位置するゲイン値は基準ゲイン値であってもよい。
【0030】
本発明の一実施例による複数のブロック領域は第1ブロック領域及び第2ブロック領域を含んでもよい。ここで、第2ブロック領域は第1ブロック領域の位置よりも上記イメージの中央からの距離が近く、上記第1ブロック領域のサイズより大きくてもよい。一実施例では、ブロック領域がイメージの中心から離れるほど、ブロック領域のサイズは小さくなってもよい。例えば、イメージ内において、イメージの中央に最も近いブロック領域のサイズが最も大きく、イメージの端に最も近いブロック領域のサイズが最も小さくてもよい。ブロック領域は互いに頂点を共有することができる。ブロック領域は互いに重ならない領域であってもよい。即ち、ブロック領域に含まれたピクセルデータ(またはゲイン値)は別のブロック領域に含まれたピクセルデータ(またはゲイン値)とは異なるものであってもよい。
【0031】
そして、イメージプロセッサ200は基準ゲイン値を利用して複数のブロック領域のそれぞれに含まれるゲイン値を計算することができる。ここで、計算されるゲイン値とは複数のブロック領域のそれぞれに含まれる基準ゲイン値を除いた残りのゲイン値のことであり、以下では説明の便宜上、残りのゲイン値のそれぞれをゲイン値と称する。これにより、ゲインマップに含まれる全てのゲイン値を算出することができる。イメージプロセッサ200はゲインマップに含まれるゲイン値をメモリ300に保存することができる。
【0032】
メモリ300はゲインマップに含まれる基準ゲイン値を保存することができる。本発明の一実施例において、メモリ300はゲインマップに含まれるゲイン値を保存することができる。
【0033】
メモリ300は不揮発性メモリ素子で具現されてもよい。例えば、メモリ300はデータの読み出しだけが可能なROM(Read Only Memory)、1回だけ書き込みが可能なOTP(one time programmable)メモリ、保存されたデータの消去及び書き込みが可能なEPROM(Erasable and Programmable ROM)、NAND型フラッシュメモリ(NAND Flash Memory)、ノア型(NOR)フラッシュメモリなどの様々な不揮発性メモリ素子からなってもよい。
【0034】
本発明の一実施例によると、イメージの補正に用いられるデータの演算量及び容量を減少させることができるイメージセンシング装置及びその動作方法を提供することができる。以下では、添付の図面を参照してより具体的に説明する。
【0035】
図2は本発明の実施例によるイメージセンサを説明するための図である。
【0036】
図2を参照すると、イメージセンサ100は、光学レンズLS、ピクセルアレイ110、行デコーダ120、タイミング生成器130、信号変換器140、及び出力バッファ150を含んでもよい。
【0037】
光学レンズLSは被写体Objectから反射されて到達した光を屈折させることができる。光学レンズLSにより屈折した光はピクセルアレイ110に進行することができる。光学レンズLSは光の進行経路に配列される1つのレンズまたは複数のレンズの集合体の1つであってもよい。さらに、光学レンズLSはピクセルアレイ110の各ピクセルの上部にそれぞれ配置されるマイクロレンズの集合体を含んでもよい。被写体Objectはイメージセンサ100の外部に存在する物体、動物、人、背景など様々な要素のうち少なくとも1つを含んでもよい。
【0038】
ピクセルアレイ110はカラーフィルタアレイ及び光電変換層を含んでもよい。カラーフィルタアレイは光電変換層の上部に配置されてもよい。光電変換層はカラーフィルタアレイの下部に配置されてもよい。ここで、上部及び下部は光の進行方向を基準として決めたものであり、光はカラーフィルタアレイから光電変換層の方向に進行することができる。
【0039】
カラーフィルタアレイは複数のカラーフィルタを含んでもよい。例えば、複数のカラーフィルタのそれぞれはレッドカラーフィルタ、グリーンカラーフィルタ、及びブルーカラーフィルタの1つであってもよい。レッドカラーフィルタは入射した光をフィルタリングしてレッドカラーを表す波長を有する光を透過させることができる。グリーンカラーフィルタは入射した光をフィルタリングしてグリーンカラーを表す波長を有する光を透過させることができる。ブルーカラーフィルタは入射した光をフィルタリングしてブルーカラーを表す波長を有する光を透過させることができる。但し、これは一実施例に過ぎず、特定色の光を透過させるカラーフィルタの種類は多様に変更されてもよい。
【0040】
光電変換層は複数のセンシング回路を含んでもよい。センシング回路はフォトダイオード及びキャパシタを含んでもよい。フォトダイオードは光電効果により入射した光に対して電流を発生させることができる。キャパシタはフォトダイオードで発生した電流に応じて電荷を蓄積し得る。ここで、蓄積された電荷の量は明るさを表すピクセル値に対応することができる。
【0041】
行デコーダ120はタイミング生成器130から出力されたアドレスと制御信号に応答してアドレスに対応する行に位置するピクセルを選択することができる。ピクセルアレイ110は選択されたピクセルから蓄積された電荷量に対応する信号を出力して信号変換器140に提供することができる。
【0042】
信号変換器140はピクセルアレイ110から出力された信号のそれぞれに基づいて複数のピクセルのそれぞれに対するピクセルデータを取得することができる。1つのピクセルを例に挙げると、信号変換器140は光電変換層内のキャパシタに蓄積された電荷量に対応するピクセル値及びカラーフィルタに対応する色を取得することができる。
【0043】
出力バッファ150はイメージImgまたはキャリブレーションイメージCal_Imgを出力することができる。具体的には、出力バッファ150は信号変換器140から出力されたデジタル信号を保存する複数のバッファで具現されてもよい。出力バッファ150は信号変換器140から提供されるそれぞれの列単位のピクセルデータをラッチ(latch)して出力することができる。出力バッファ150は信号変換器140から出力されるピクセルデータを一時保存し、タイミング生成器130の制御に応じてピクセルデータを順に出力することができる。
【0044】
図3aは本発明の実施例によるピクセルアレイを説明するための図である。
【0045】
図3aを参照すると、本発明の一実施例によるピクセルアレイ110は、図3aのようなピクセル構造を有するピクセルアレイ310で具現されてもよい。ピクセルアレイ310は複数のピクセルを含んでもよい。複数のピクセルは列方向と行方向に配列されてもよい。複数のピクセルのそれぞれは配列された位置に対する情報を含んでもよい。例えば、ピクセルCE_xyは列方向にx番目、行方向にy番目に配列された位置のピクセルであることを示すことができる。ここで、x、yのそれぞれは自然数である。
【0046】
複数のピクセルのそれぞれは光を屈折させるマイクロレンズML、特定色の光を透過させるカラーフィルタCF、及び光の強さを検知するセンシング回路PDを含んでもよい。複数のピクセルはカラーフィルタCFの種類によって区分されてもよい。例えば、レッドカラーフィルタを含むピクセルはレッドチャンネルR1~R4のピクセル、グリーンカラーフィルタを含むピクセルはグリーンチャンネルGr1~Gr4、Gb1~Gb4のピクセル、ブルーカラーフィルタを含むピクセルはブルーチャンネルB1~B4のピクセルと称することができる。
【0047】
ピクセルアレイ310は複数のピクセルグループを含んでもよい。複数のピクセルグループは列方向及び行方向に配列されてもよい。複数のピクセルグループのそれぞれは配列された位置に対する情報を含んでもよい。例えば、ピクセルグループCG_XYは列方向にX番目、行方向にY番目に配列された位置のピクセルグループであることを示すことができる。ここで、X、Yのそれぞれは自然数である。
【0048】
ピクセルグループのそれぞれは予め設定された配列パターンで配置される複数のピクセルを含んでもよい。即ち、ピクセルグループは複数のピクセルの配列パターンが繰り返される単位領域を示すことができる。例えば、予め設定された配列パターンは2x2の第1グリーンチャンネルGb1~Gb4のピクセル、2x2のブルーチャンネルB1~B4のピクセル、2x2のレッドチャンネルR1~R4のピクセル、2x2の第2グリーンチャンネルGr1~Gr4のピクセルが4x4配列に配置されるクアッドベイヤーパターン(quad bayer pattern)であってもよい。
【0049】
一方、上述した実施例は一実施例に過ぎず、予め設定された配列パターンは1x1の第1グリーンチャンネルのピクセル、1x1のブルーチャンネルのピクセル、1x1のレッドチャンネルのピクセル、1x1の第2グリーンチャンネルのピクセルが2x2配列に配置されるベイヤーパターン(bayer pattern)など様々なパターンに変形されてもよい。
【0050】
図3bは本発明の実施例によるイメージセンサを介して取得されるイメージを説明するための図である。
【0051】
図3bを参照すると、本発明の一実施例によるイメージImgまたはキャリブレーションイメージCal_Imgは、図3bのようなピクセル構造を有するイメージ320であってもよい。
【0052】
イメージ320はピクセルアレイ310を含むイメージセンサ100を介して取得することができる。
【0053】
イメージ320は複数のピクセルデータを含んでもよい。イメージ320に含まれる複数のピクセルデータはイメージセンサ100のピクセルアレイ310に含まれた複数のピクセルデータと対応することができる。
【0054】
複数のピクセルデータのそれぞれは配列された位置に対する情報を含んでもよい。例えば、ピクセルデータPX_xyは列方向にx番目、行方向にy番目に配列された位置のピクセルに対応することができる。ここで、x、yのそれぞれは自然数である。ピクセルデータPX_xyは同じ位置のピクセルCE_xyに対応することができる。例えば、ピクセルデータPX_xyはピクセルCE_xyから取得したピクセル値などのピクセルデータであってもよい。
【0055】
イメージ320は複数のピクセルデータグループを含んでもよい。複数のピクセルデータグループは列方向及び行方向に配列されてもよい。複数のピクセルデータグループのそれぞれは配列された位置に関する情報を含んでもよい。例えば、ピクセルデータグループPG_XYは列方向にX番目、行方向にY番目に配列された位置のピクセルデータグループであることを示すことができる。ここで、X、Yのそれぞれは自然数である。
【0056】
ピクセルデータグループのそれぞれは予め設定された配列パターンで配置された複数のピクセルデータを含んでもよい。即ち、ピクセルデータグループは複数のピクセルデータの配列パターンが繰り返される単位領域を示すことができる。例えば、予め設定された配列パターンは2x2の第1グリーンチャンネルGb1~Gb4のピクセルデータ、2x2のブルーチャンネルB1~B4のピクセルデータ、2x2のレッドチャンネルR1~R4のピクセルデータ、2x2の第2グリーンチャンネルGr1~Gr4のピクセルデータが4x4配列に配置されるクアッドベイヤーパターンであってもよい。
【0057】
イメージ320に含まれるピクセルデータは色チャンネルまたはチャンネルによって区別されることができる。例えば、イメージ320に含まれるピクセルデータは、色チャンネルによって第1グリーンチャンネルGb1~Gb4のピクセルデータ、ブルーチャンネルB1~B4のピクセルデータ、レッドチャンネルR1~R4のピクセルデータ、第2グリーンチャンネルGr1~Gr4のピクセルデータに区別されてもよい。また、イメージ320に含まれるピクセルデータは、チャンネルによって第1~第4チャンネルGb1~Gb4のピクセルデータ、第5~第8チャンネルGr1~Gr4のピクセルデータ、第9~第12チャンネルR1~R4のピクセルデータ、第13~第16チャンネルB1~B4のピクセルデータに区別されてもよい。
【0058】
一方、上述した実施例は一実施例に過ぎず、予め設定された配列パターンは1x1の第1グリーンチャンネルのピクセルデータ、1x1のブルーチャンネルのピクセルデータ、1x1のレッドチャンネルのピクセルデータ、1x1の第2グリーンチャンネルのピクセルデータが2x2配列に配置されるベイヤーパターンなど様々なパターンに変形されてもよい。
【0059】
図4は本発明の実施例によるイメージプロセッサを説明するための図である。
【0060】
図4を参照すると、イメージプロセッサ200はイメージキャリブレータ210及びイメージコレクタ220を含んでもよい。
【0061】
イメージキャリブレータ210は、イメージセンサ100を介して取得しキャリブレーションイメージCal_Imgを利用して基準ゲイン値ref_Gainを計算することができる。
【0062】
具体的には、イメージキャリブレータ210は、イメージセンサ100を介して取得したキャリブレーションイメージCal_Imgに含まれる複数のピクセルデータのうちブロック領域の頂点に対応するピクセルデータを選択することができる。以下では、複数のピクセルデータのうち1つの選択されたピクセルデータに対する基準ゲイン値ref_Gainを計算する例について説明する。
【0063】
イメージキャリブレータ210は、関心領域に含まれるピクセルデータのうち選択されたピクセルと同じ色チャンネルを有するピクセルデータの平均ピクセル値を計算することができる。ここで、同じ色チャンネルとは、第1グリーンチャンネル、第2グリーンチャンネル、レッドチャンネル、及びブルーチャンネルのうち1つであってもよい。他の実施例では、平均ピクセル値の代わりにピクセルデータの中央値(median value)が用いられてもよい。
【0064】
関心領域はブロック領域の頂点に対応するピクセルデータの位置を基準として予め設定されたサイズに拡張された領域であってもよい。一実施例における関心領域は互いに同じサイズであってもよい。他の実施例における関心領域は基準となるピクセルデータの位置に応じて互いに相違するサイズであってもよい。
【0065】
例えば、選択されたピクセルデータと同じ色チャンネルが第1グリーンチャンネルであると仮定することができる。
【0066】
一実施例において、平均ピクセル値は関心領域に含まれるピクセルデータのうち第1グリーンチャンネルを有するピクセルデータのピクセル値に対する平均値であってもよい。他の実施例において、平均ピクセル値は関心領域に含まれるピクセルデータのうち第1グリーンチャンネルを有するピクセルデータのピクセル値及び第2グリーンチャンネルを有するピクセルデータのピクセル値に対する平均値であってもよい。選択されたピクセルデータと同じ色チャンネルが第2グリーンチャンネルである場合も、これと類似する方法で平均値を計算することができる。
【0067】
イメージキャリブレータ210は、選択されたピクセルデータのピクセル値及び計算された平均ピクセル値を利用して選択されたピクセルデータと対応する基準ゲイン値ref_Gainを計算することができる。例えば、基準ゲイン値ref_Gainは選択されたピクセルデータのピクセル値及び計算された平均ピクセル値の比率であってもよい。
【0068】
イメージキャリブレータ210は、選択されたピクセルデータのうち残りのピクセルデータのそれぞれに対して、同様の方法で基準ゲイン値ref_Gainを計算することができる。そして、イメージキャリブレータ210は計算された基準ゲイン値ref_Gainをメモリ300に保存することができる。
【0069】
イメージキャリブレータ210は基準ゲイン値ref_Gainを利用してゲイン値Gainを計算することができる。
【0070】
具体的には、イメージキャリブレータ210は、複数のブロック領域のうち1つのブロック領域において選択された地点と1つのブロック領域の頂点との距離、及び1つのブロック領域の頂点に対応する基準ゲイン値ref_Gainに基づいて、選択された地点に対応するゲイン値Gainを計算することができる。ここで、頂点と選択された地点の間の距離は、頂点に対応するピクセルデータと選択された地点に対応するピクセルデータの間の距離であってもよい。ピクセルデータの間の距離は該当ピクセルデータの間に存在するピクセルデータの数に対応することができる。距離は行方向の長さまたは列方向の長さを含む概念であってもよい。
【0071】
一実施例では、1つのブロック領域の頂点は1つのブロック領域の第1頂点、第2頂点、第3頂点、及び第4頂点を含んでもよい。
【0072】
この場合、イメージキャリブレータ210は、選択された地点と第1頂点の間の距離、選択された地点と第2頂点の間の距離、選択された地点と第3頂点の間の距離、選択された地点と第4頂点の間の距離、第1頂点に対応する基準ゲイン値、第2頂点に対応する基準ゲイン値、第3頂点に対応する基準ゲイン値、第4頂点に対応する基準ゲイン値に基づいて、選択された地点に対応するゲイン値Gainを計算することができる。
【0073】
一実施例では、複数のブロック領域は第1ブロック領域及び第2ブロック領域を含んでもよい。ここで、第2ブロック領域は第1ブロック領域よりもイメージの中心からの距離が近く、第1ブロック領域のサイズよりも大きいサイズであってもよい。これは、イメージImgまたはキャリブレーションイメージCal_Imgの中央部分ほど歪み度合が少なく、領域別の歪み度合が均一であるのに対し、端部分ほど歪み度合が酷く、領域別の歪み度合が不均一な現象を利用したものである。イメージImgまたはキャリブレーションイメージCal_Imgの中央部分であるほど相対的に大きいサイズのブロック領域を設定し、イメージImgまたはキャリブレーションイメージCal_Imgの端部分であるほど相対的に小さいサイズのブロック領域を設定すると、中央部分に近いブロック領域に含まれる基準ゲイン値ref_Gainを計算する頻度を減らすことができる。ゲイン値Gainを計算する頻度は増加するが、ゲイン値Gainを基準ゲイン値ref_Gain対比で相対的に少ない演算量が求められるアルゴリズムを利用して計算すると、全体の演算量を減らすことができる。
【0074】
一実施例では、第1ブロック領域に含まれるゲイン値は第2ブロック領域に含まれるゲイン値よりも大きいビット数が割り当てられてもよい。ここで、第2ブロック領域は、第1ブロック領域よりもイメージの中心からの距離が近く、第1ブロック領域のサイズよりも大きいサイズであってもよい。ゲイン値は位置または領域によって割り当てられるデータのビット数が変わってもよい。データのビット数が大きいほど、より広い範囲の数または値を示すことができるという意味である。例えば、小さいビット数が割り当てられたゲイン値を計算して保存する場合、計算した値のうちビット数の範囲外の小数点の桁の値は切り捨て、ビット数の範囲内の小数点の桁の値をゲイン値としてメモリ300に保存することができる。
【0075】
イメージコレクタ220は、イメージセンサ100を介してイメージImgを取得すると、メモリ300に保存された基準ゲイン値ref_Gain及びゲイン値Gainをイメージに含まれる複数のピクセルデータに適用した補正イメージCor_Imgを生成することができる。ここで、基準ゲイン値ref_Gain及びゲイン値Gainはゲインマップに含まれてもよい。基準ゲイン値ref_Gain及びゲイン値Gainはイメージに含まれる複数のピクセルデータに対応することができる。
【0076】
イメージコレクタ220は補正イメージCor_Imgを出力することができる。イメージコレクタ220は補正イメージCor_Imgをホスト3000またはホスト3000が指示した装置に出力することができる。例えば、イメージコレクタ220はホスト3000から受信した制御コマンドに応じて、プロセッサ、ディスプレイまたはストレージなどに補正イメージCor_Imgを出力することができる。
【0077】
一実施例において、イメージコレクタ220は、メモリ300から出力された基準ゲイン値ref_Gain及びイメージキャリブレータ210または揮発性メモリから出力されたゲイン値Gainを利用して補正イメージCor_Imgを生成することができる。即ち、ゲイン値Gainはメモリ300に保存されなくてもよい。
【0078】
このために、イメージキャリブレータ210は既設定のイベントが発生するたびにメモリ300に保存された基準ゲイン値ref_Gainを利用してゲイン値Gainを計算することができる。ここで、既設定のイベントはイメージセンサ100がターンオンされるイベントを含んでもよい。イメージキャリブレータ210は計算されたゲイン値Gainをイメージコレクタ220に伝達することができる。または、イメージキャリブレータ210は計算されたゲイン値Gainを揮発性メモリに保存することができる。揮発性メモリはSRAM(Static Random Access Memory)、DRAM(Dynamic RAM)などで具現されてもよい。
【0079】
他の一実施例では、イメージコレクタ220はメモリ300から出力された基準ゲイン値ref_Gain及びゲイン値Gainを利用して補正イメージCor_Imgを生成することができる。即ち、ゲイン値Gainは基準ゲイン値ref_Gainと共にメモリ300に保存されてもよい。
【0080】
図5は本発明の実施例によるキャリブレーションイメージを説明するための図である。
【0081】
図5を参照すると、イメージセンサ100はイメージ500を取得することができる。例えば、イメージ500はイメージセンサ100が均一な照度の環境で白い背景を撮影することで取得したキャリブレーションイメージCal_Imgであってもよい。イメージ500は補正が行われる前の状態であり得る。イメージ500の各部分の陰影はピクセルデータの明るさまたはピクセル値を示すことができる。イメージ500の中心Cから距離が遠くなる端部分に向かうほど、陰影の差が大きくなることが分かる。イメージ500の中央Cから端部分に向かうほど、歪み度合がより大きくなり、歪み度合がより不均一であることが分かる。
【0082】
本発明の実施例によると、当該歪みを補正するために、複数のブロック領域Blk1、Blk2を設定することができる。複数のブロック領域Blk1、Blk2のそれぞれはイメージ500の中心Cとの距離に応じてそのサイズが異なってもよい。
【0083】
一実施例において、複数のブロック領域Blk1、Blk2のそれぞれはイメージ500の中心Cとの距離が大きいほど、サイズが小さくなってもよい。ここで、イメージ500の中心Cは列方向の長さ及び行方向の長さが半分になる地点であってもよい。例えば、第1ブロック領域Blk1とイメージ500の中心Cの間の距離は、第1ブロック領域Blk1の中心c1とイメージ500の中心Cの間の距離d1と定義されることができる。これと同様に、第2ブロック領域Blk2とイメージ500の中心Cの間の距離は、第2ブロック領域Blk2の中心c2とイメージ500の中心Cの間の距離d2と定義されることができる。
【0084】
一方、上述した実施例は一実施例に過ぎず、ブロック領域のサイズを決める基準となる基準位置はイメージ500の中央Cだけでなく、イメージ500の頂点など様々な位置に変わってもよい。また、ブロック領域のサイズを決める基準は列方向の距離比率及び行方向の距離比率であってもよい。例えば、第1ブロック領域Blk1を基準として説明すると、列方向の距離比率は第1ブロック領域Blk1の中心c1とイメージ500の中心C間の列方向に対する距離b1をイメージ500の列方向に対する長さで割った第1比率であってもよい。行方向の距離比率は第1ブロック領域Blk1の中心c1とイメージ500の中心C間の行方向に対する距離a1をイメージ500の行方向に対する長さで割った第2比率であってもよい。そして、第1比率と第2比率のそれぞれが予め設定された値より大きければ、該当ブロック領域のサイズを第1サイズと設定し、第1比率及び第2比率のそれぞれが予め設定された値より小さければ、該当ブロック領域のサイズを第1サイズより大きい第2サイズと設定することができる。
【0085】
図6は本発明の実施例によるゲインマップを説明するための図である。
【0086】
図6を参照すると、ゲインマップ600はイメージセンサ100から取得するイメージImgまたはキャリブレーションイメージCal_Imgのサイズに対応することができる。
【0087】
ゲインマップ600は複数のブロック領域Blk1、Blk2、Blk3を含んでもよい。一実施例において、複数のブロック領域Blk1、Blk2、Blk3のそれぞれは正方形または長方形の領域であってもよい。ここで、各ブロック領域Blk1、Blk2、Blk3は論理的に定義された領域であり、各ブロック領域Blk1、Blk2、Blk3はイメージImgまたはキャリブレーションイメージCal_Imgの一領域に対応することができる。
【0088】
複数のブロック領域Blk1、Blk2、Blk3は、第1ブロック領域Blk1、第2ブロック領域Blk2、第3ブロック領域Blk3を含んでもよい。第1ブロック領域Blk1、第2ブロック領域Blk2、第3ブロック領域Blk3はイメージImgまたはキャリブレーションイメージCal_Imgに対応するように配列されてもよい。第1ブロック領域Blk1、第2ブロック領域Blk2、第3ブロック領域Blk3のそれぞれは異なるサイズのブロック領域であってもよい。第1ブロック領域Blk1、第2ブロック領域Blk2、第3ブロック領域Blk3のそれぞれはサイズによって配列される位置が変ってもよい。または、第1ブロック領域Blk1、第2ブロック領域Blk2、第3ブロック領域Blk3のそれぞれは配列される位置によってサイズが変わってもよい。
【0089】
例えば、相対的に大きいサイズの第3ブロック領域Blk3は、中心との距離が相対的に最も近い位置に配列されてもよい。中間サイズの第2ブロック領域Blk2は中央との距離が中間となる位置に配列されてもよい。相対的に最も小さいサイズの第1ブロック領域Blk1は中心との距離が相対的に最も遠い位置に配列されてもよい。
【0090】
イメージプロセッサ200は、キャリブレーションイメージCal_Imgに含まれるピクセルデータのピクセル値及びブロック領域Blk1、Blk2、Blk3を利用して基準ゲイン値ref_Gainを計算することができる。
【0091】
具体的には、イメージプロセッサ200はキャリブレーションイメージCal_Imgに含まれる複数のピクセルデータから予め設定された位置のピクセルデータを選択することができる。ここで、予め設定された位置のピクセルデータはブロック領域Blk1、Blk2、Blk3の頂点に対応するピクセルデータであってもよい。頂点を列方向及び行方向に線で連結してブロック領域Blk1、Blk2、Blk3を定義することができる。1つの基準ピクセルデータグループref_PG_XYは、複数のピクセルデータグループのうち1つのブロック領域の1つの頂点を示す位置(X、Y)に位置する1つのピクセルデータグループPG_XYであってもよい。1つのピクセルデータグループPG_XYは相違する色チャンネルを有するピクセル(またはピクセルデータ)を含んでもよい。一方、1つのピクセルデータグループref_PG_XYは少なくとも1つのブロック領域Blk2、Blk3の頂点に位置することができる。一方、あるブロック領域の頂点は別のブロック領域の頂点にもなり得る。即ち、隣接するブロック領域は少なくとも1つの頂点を共有することができる。
【0092】
イメージプロセッサ200はブロック領域Blk1、Blk2、Blk3の頂点のそれぞれに対応する関心領域ROIを選択することができる。関心領域ROIは、基準ピクセルデータグループref_PG_XYの位置(即ち、ブロック領域の頂点)を基準点とする予め設定されたサイズの領域であってもよい。ここで、基準点は中心点であってもよい。予め設定されたサイズは1つの固定されたサイズであってもよい。但し、これは一実施例に過ぎず、予め設定されたサイズは基準ピクセルデータグループref_PG_XYの位置(即ち、ブロック領域の頂点)に応じて可変するサイズであってもよい。関心領域ROIは該当領域内に位置したピクセルデータを含んでもよい。より具体的な実施例について図7を参照して説明する。
【0093】
図7は本発明の実施例による何れか1つのブロック領域を説明するための図である。
【0094】
図7を参照すると、イメージプロセッサ200は何れかのブロック領域BLKiの頂点Ref_PG1~Ref_PG4のそれぞれに対応する関心領域ROI1~ROI4を選択することができる。
【0095】
例えば、ブロック領域BLKiは正方形または長方形であってもよい。ブロック領域BLKiの列方向の長さはWで、行方向の長さはHであってもよい。ここで、W及びHは自然数であり、互いに同じ値または異なる値であってもよい。ブロック領域BLKiの頂点Ref_PG1~Ref_PG4は第1頂点Ref_PG1、第2頂点Ref_PG2、第3頂点Ref_PG3、第4頂点Ref_PG4を含んでもよい。第1頂点Ref_PG1、第2頂点Ref_PG2、第3頂点Ref_PG3、第4頂点Ref_PG4は列方向の距離がWであるか、または行方向の距離がHである位置であってもよい。
【0096】
この場合、イメージプロセッサ200は、第1頂点Ref_PG1の位置を中心点とする予め設定されたサイズの第1関心領域ROI1を選択し、第2頂点Ref_PG2の位置を中心点とする予め設定されたサイズの第2関心領域ROI2を選択し、第3頂点Ref_PG3の位置を中心点とする予め設定されたサイズの第3関心領域ROI3を選択し、第4頂点Ref_PG4の位置を中心点とする予め設定されたサイズの第4関心領域ROI4を選択することができる。
【0097】
イメージプロセッサ200は、キャリブレーションイメージCal_Imgにおいて複数の関心領域ROI1~ROI4のそれぞれに対応する領域に含まれるピクセルデータのピクセル値を利用して、複数の頂点Ref_PG1~Ref_PG4に対応する基準ゲイン値ref_Gainを算出することができる。即ち、複数の頂点Ref_PG1~Ref_PG4に対応する基準ゲイン値ref_Gainは、複数の頂点Ref_PG1~Ref_PG4のそれぞれに含まれたピクセル値と周辺ピクセル値を利用して算出することができる。
【0098】
例えば、イメージプロセッサ200は、キャリブレーションイメージCal_Imgにおいて第1関心領域ROI1に対応する領域に含まれるピクセルデータのピクセル値を利用して、ブロック領域BLKiの第1頂点Ref_PG1に対応する基準ゲイン値を算出することができる。イメージプロセッサ200は、キャリブレーションイメージCal_Imgにおいて第2関心領域ROI2に対応する領域に含まれるピクセルデータのピクセル値を利用して、ブロック領域BLKiの第2頂点Ref_PG2に対応する基準ゲイン値を算出することができる。イメージプロセッサ200は、キャリブレーションイメージCal_Imgにおいて第3関心領域ROI3に対応する領域に含まれるピクセルデータのピクセル値を利用して、ブロック領域BLKiの第3頂点Ref_PG3に対応する基準ゲイン値を算出することができる。イメージプロセッサ200は、キャリブレーションイメージCal_Imgにおいて第4関心領域ROI4に対応する領域に含まれるピクセルデータのピクセル値を利用して、ブロック領域BLKiの第4頂点Ref_PG4に対応する基準ゲイン値を算出することができる。
【0099】
イメージプロセッサ200は、複数の頂点Ref_PG1~Ref_PG4に対応する基準ゲイン値ref_Gainを利用して、ブロック領域BLKiに含まれる残りのゲイン値Gainを計算することができる。以下では、基準ゲイン値を計算する具体的な実施例を図8a~図8dを参照して説明する。
【0100】
図8a~図8dは本発明の実施例による基準ゲイン値を計算する方法を説明するための図である。
【0101】
図8aを参照すると、イメージプロセッサ200は、図8aの(1-1)~(3)の数学式を通じて基準ゲイン値ref_Gain_xyを計算することができる。
【0102】
図8aの(1-1)~(3)の数学式において、ピクセル値ref_PV_xyは選択されたピクセルデータのピクセル値である。選択されたピクセルデータは頂点と同じ配列位置のピクセルデータグループPG_XYに含まれたピクセルデータから選択された何れか1つのピクセルデータである。
【0103】
選択されたピクセルデータが第1グリーンチャンネルGb1~Gb4のピクセルデータのうち1つである場合について説明する。
【0104】
一実施例では、図8a(1-1)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及びグリーンチャンネルGb1~Gb4、Gr1~Gr4に対する平均ピクセル値ROI_AvgPV_Gを利用して、基準ゲイン値ref_Gain_xyを計算することができる。ここで、グリーンチャンネルGb1~Gb4、Gr1~Gr4に対する平均ピクセル値ROI_AvgPV_Gは、関心領域ROIに含まれた複数のピクセルデータのうち第1グリーンチャンネルGb1~Gb4のピクセルデータのピクセル値及び第2グリーンチャンネルGr1~Gr4のピクセルデータのピクセル値に対する平均値であってもよい。
【0105】
他の実施例では、図8aの(1-2)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及び第1グリーンチャンネルGb1~Gb4に対する平均ピクセル値ROI_AvgPV_Gbを利用して、基準ゲイン値ref_Gain_xyを計算することができる。ここで、第1グリーンチャンネルGb1~Gb4に対する平均ピクセル値ROI_AvgPV_Gbは、関心領域ROIに含まれた複数のピクセルデータのうち第1グリーンチャンネルGb1~Gb4のピクセルデータのピクセル値に対する平均値であってもよい。
【0106】
選択されたピクセルデータが第2グリーンチャンネルGr1~Gr4のピクセルデータのうち1つである場合について説明する。
【0107】
一実施例では、図8a(1-1)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及びグリーンチャンネルGb1~Gb4、Gr1~Gr4に対する平均ピクセル値ROI_AvgPV_Gを利用して、基準ゲイン値ref_Gain_xyを計算することができる。
【0108】
他の実施例では、図8aの(1-3)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及び第2グリーンチャンネルGr1~Gr4に対する平均ピクセル値ROI_AvgPV_Grを利用して、基準ゲイン値ref_Gain_xyを計算することができる。ここで、第2グリーンチャンネルGr1~Gr4に対する平均ピクセル値ROI_AvgPV_Grは、関心領域ROIに含まれた複数のピクセルデータのうち第2グリーンチャンネルGr1~Gr4のピクセルデータのピクセル値に対する平均値であってもよい。
【0109】
選択されたピクセルデータがレッドチャンネルR1~R4のピクセルデータのうち1つである場合について説明する。この場合、図8aにおける(2)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及びレッドチャンネルR1~R4に対する平均ピクセル値ROI_AvgPV_Rを利用して、基準ゲイン値ref_Gain_xyを計算することができる。レッドチャンネルR1~R4に対する平均ピクセル値ROI_AvgPV_Rは、関心領域ROIに含まれた複数のピクセルデータのうちレッドチャンネルR1~R4のピクセルデータのピクセル値に対する平均値であってもよい。
【0110】
選択されたピクセルデータがブルーチャンネルB1~B4のピクセルデータのうち1つである場合について説明する。この場合、図8aにおける(3)の数学式のように、イメージプロセッサ200は選択されたピクセルデータのピクセル値ref_PV_xy及びブルーチャンネルB1~B4に対する平均ピクセル値ROI_AvgPV_Bを利用して、基準ゲイン値ref_Gain_xyを計算することができる。ブルーチャンネルB1~B4に対する平均ピクセル値ROI_AvgPV_Bは、関心領域ROIに含まれた複数のピクセルデータのうちブルーチャンネルB1~B4のピクセルデータのピクセル値に対する平均値であってもよい。
【0111】
以下では、図8b及び図8cを参照して1つの基準ゲイン値を計算する方法を説明する。
【0112】
図8b及び図8cを参照すると、イメージプロセッサ200はキャリブレーションイメージ810、820においてブロック領域Blkiの頂点と同じ配列位置のピクセルデータグループPG_XYに含まれるピクセルデータから1つのピクセルデータを選択することができる。ここで、(x、y)に位置する第1チャンネルGb1のピクセルデータref_PX_xyが選択されると想定する。
【0113】
イメージプロセッサ200は、キャリブレーションイメージ810、820においてピクセルデータグループPG_XYを中心領域として予め設定されたサイズに拡張した関心領域ROIを選択することができる。
【0114】
一実施例では、図8bのように、イメージプロセッサ200は、イメージ810の関心領域ROIに含まれた複数のピクセルデータのうち、選択されたピクセルデータref_PX_xyと同じ色チャンネルである第1グリーンチャンネルGb1~Gb4を有するピクセルデータROI_Avg_Gbを選択することができる。イメージプロセッサ200は選択されたピクセルデータROI_Avg_Gbのピクセル値に対する平均である平均ピクセル値ROI_AvgPV_Gbを計算することができる。図8aにおける(1-2)の数学式のように、イメージプロセッサ200は、(x、y)の位置から選択されたピクセルデータref_PX_xyのピクセル値ref_PV_xy及び平均ピクセル値ROI_AvgPV_Gbを利用して、(x、y)の位置に対する基準ゲイン値ref_Gain_xyを計算することができる。当該方式により別の位置に対する基準ゲイン値を計算することができる。
【0115】
一実施例では、図8cのように、イメージプロセッサ200は、イメージ820の関心領域ROIに含まれた複数のピクセルデータのうち、選択されたピクセルデータref_PX_xyと同じ種類の色チャンネルである第1グリーンチャンネルGb1~Gb4及び第2グリーンチャンネルGr1~Gr4を有するピクセルデータROI_Avg_Gを選択することができる。イメージプロセッサ200は選択されたピクセルデータROI_Avg_Gのピクセル値に対する平均である平均ピクセル値ROI_AvgPV_Gを計算することができる。図8aの(1-1)の数学式のように、イメージプロセッサ200は(x、y)の位置から選択されたピクセルデータref_PX_xyのピクセル値ref_PV_xy及び平均ピクセル値ROI_AvgPV_Gを利用して、(x、y)の位置に対する基準ゲイン値ref_Gain_xyを計算することができる。当該方式を通じて別の位置に対する基準ゲイン値を計算することができる。
【0116】
また、図6を参照すると、複数のブロック領域Blk1、Blk2、Blk3のうち中央からの距離が最も遠い端領域630には、最も小さいサイズの第1ブロック領域Blk1が配列されてもよい。本発明の一実施例によると、端領域630に配列された第1ブロック領域Blk1は、ミラーリング方式により第1ブロック領域Blk1の基準ゲイン値を計算することができる。これについては図8dを参照して説明する。
【0117】
図8dを参照すると、端領域830には最もサイズの小さい第1ブロック領域Blk1が配列され、第1ブロック領域Blk1の複数の頂点850、860は中央からの距離が近い第1頂点850及び中央からの距離が遠い第2頂点860を含んでもよい。第1頂点850及び第2頂点860は全ブロック領域の全ての頂点のうち最も隣接する頂点であってもよい。即ち、第2頂点860は全ての頂点のうち中央から最も外側に位置する頂点であってもよい。
【0118】
イメージプロセッサ200は中央からの距離が近い第1頂点850に対応する第1基準ゲイン値を計算することができる。具体的には、イメージプロセッサ200はキャリブレーションイメージCal_Imgにおいて第1頂点850の位置(X、Y)に対応する基準ピクセルデータグループref_PG_XYを選択し、選択された基準ピクセルデータグループref_PG_XYに基づいて関心領域840を選択することができる。イメージプロセッサ200は基準ピクセルデータグループref_PG_XYに含まれたピクセルデータのピクセル値ref_PV_xy及び関心領域840に含まれたピクセルデータを利用して、位置(X、Y)に対応する第1基準ゲイン値を計算することができる。
【0119】
また、イメージプロセッサ200は、第1頂点850に対応する第1基準ゲイン値を第2頂点860に対応する第2基準ゲイン値としてコピーすることができる。即ち、第2基準ゲイン値のそれぞれは第1基準ゲイン値と同じ値としてコピーされてもよい。
【0120】
図9a及び図9bは本発明の実施例によるゲイン値を計算する方法を説明するための図である。
【0121】
図9a及び図9bを参照すると、1つのブロック領域Blkiは複数の頂点ref_PX1~ref_pX4によって定義されることができる。1つのブロック領域Blkiは内部に特定位置の地点を含んでもよい。1つの地点は同じ位置の1つのピクセルデータと対応することができる。
【0122】
イメージプロセッサ200は、1つのブロック領域Blkiを定義する複数の頂点ref_PX1~ref_pX4に対応する基準ゲイン値を利用して、1つのブロック領域Blkiに含まれる複数の地点のそれぞれに対するゲイン値を計算することができる。この場合、イメージプロセッサ200は、同じチャンネルの複数の頂点ref_PX1~ref_pX4に対応する基準ゲイン値を通じて同じチャンネルのゲイン値を計算することができる。ここで、1つのブロック領域Blkiに含まれる複数の地点のうち1つの地点P_xyに対するゲイン値Gain_P_xyを計算する方法を説明する。ここで、チャンネルは第1チャンネルGb1であると想定する。
【0123】
イメージプロセッサ200は1つのブロック領域Blkiを定義する複数の頂点ref_PX1~ref_pX4間の列方向の距離W及び行方向の距離Hを取得することができる。例えば、イメージプロセッサ200は複数の頂点ref_PX1~ref_pX4間の位置差を通じて列方向の距離W及び行方向の距離Hを取得することができる。
【0124】
イメージプロセッサ200は、1つのブロック領域Blkiを定義する複数の頂点ref_PX1~ref_pX4のそれぞれと選択された1つの地点P_xyとの列方向の距離(x1、x2)及び行方向の距離(y1、y2)を取得することができる。例えば、イメージプロセッサ200は、複数の頂点ref_PX1~ref_pX4のそれぞれと選択された1つの地点P_xyとの位置差を通じて列方向の距離(x1、x2)及び行方向の距離(y1、y2)を取得することができる。
【0125】
イメージプロセッサ200は、図9aに記載の数学式により、複数の頂点ref_PX1~ref_pX4のそれぞれに対応する基準ゲイン値、列方向の距離(x1、x2、W)、及び行方向の距離(y1、y2、H)を利用して、1つの地点P_xyに対するゲイン値Gain_P_xyを計算することができる。
【0126】
図10は本発明の実施例による補正イメージを説明するための図である。
【0127】
図10を参照すると、イメージプロセッサ200はイメージセンサ100を介して取得したイメージImgにゲインマップを適用して補正イメージCor_Imgを生成することができる。
【0128】
具体的には、イメージプロセッサ200は、イメージImgに含まれた複数のピクセルデータから選択された(x、y)位置のピクセルデータのピクセル値I_xyと、ゲインマップに含まれた複数の基準ゲイン値及び複数のゲイン値から選択された(x、y)位置のゲイン値Gain_xyとを乗ずることができる。この場合、イメージプロセッサ200は、それぞれの位置に対してピクセル値I_xy及びゲイン値Gain_xyを乗じた結果値O_xyをピクセル値とする補正イメージCor_Imgを生成することができる。
【0129】
即ち、補正イメージCor_Imgに含まれる複数のピクセルデータのピクセル値は、イメージImgに含まれた複数のピクセルデータのピクセル値及びゲインマップに含まれた複数の基準ゲイン値及び複数のゲイン値の互いに対応する位置同士を乗じた結果値であってもよい。
【0130】
図11は本発明の実施例によるイメージセンシング装置の動作方法を説明するための図である。
【0131】
図11を参照すると、本発明の一実施例によるイメージセンシング装置1000の動作方法は、イメージセンサ100を介してキャリブレーションイメージCal_Imgを取得することができるS1110。
【0132】
キャリブレーションイメージCal_Imgにおいて複数のブロック領域Blk1、Blk2、Blk3のそれぞれの頂点に対する基準ゲイン値を計算することができるS1120。即ち、キャリブレーションイメージCal_Imgの大きさに対応するゲインマップに含まれた複数のブロック領域Blk1、Blk2、Blk3によって定義される頂点に対する基準ゲイン値を計算することができる。一実施例において、複数のブロック領域Blk1、Blk2、Blk3のそれぞれは長方形または正方形の領域であってもよい。
【0133】
ここで、複数のブロック領域Blk1、Blk2、Blk3は、第1ブロック領域Blk1及び第1ブロック領域Blk1の位置よりもキャリブレーションイメージCal_Imgの中心からの距離が近く、第1ブロック領域Blk1よりも大きいサイズの第2ブロック領域Blk2を含んでもよい。
【0134】
一実施例において、基準ゲイン値を計算する段階は、イメージセンサ100を介して取得したキャリブレーションイメージCal_Imgに含まれた複数のピクセルデータから複数のブロック領域Blk1、Blk2、Blk3の頂点に対応するピクセルデータを選択する段階と、選択されたピクセルデータのうち1つの選択されたピクセルデータを含む関心領域ROIに含まれるピクセルデータのうち選択された色チャンネルを有するピクセルデータの平均ピクセル値を計算する段階と、選択されたピクセルデータのピクセル値及び平均ピクセル値を利用して基準ゲイン値のうち1つの基準ゲイン値を計算する段階と、を含んでもよい。
【0135】
一実施例において、同じ色チャンネルは第1グリーンチャンネル、第2グリーンチャンネル、レッドチャンネル、及びブルーチャンネルのうち1つの色チャンネルであってもよい。
【0136】
一実施例において、同じ色チャンネルは第1グリーンチャンネル及び第2グリーンチャンネルのうち1つの色チャンネルであってもよい。この場合、平均ピクセル値は、関心領域に含まれるピクセルデータのうち第1グリーンチャンネルを有するピクセルデータのピクセル値及び第2グリーンチャンネルを有するピクセルデータのピクセル値に対する平均値を含んでもよい。
【0137】
そして、基準ゲイン値を利用して複数のブロック領域Blk1、Blk2、Blk3のそれぞれに含まれる地点に対するゲイン値を計算することができるS1130。
【0138】
一実施例において、ゲイン値を計算する段階は、複数のブロック領域Blk1、Blk2、Blk3のうち1つのブロック領域Blkiにおいて選択された地点と1つのブロック領域Blkiの頂点との距離及び1つのブロック領域Blkiの頂点に対応する基準ゲイン値に基づいて、選択された地点に対応するゲイン値を計算する段階を含んでもよい。
【0139】
ここで、1つのブロック領域Blkiの頂点は1つのブロック領域Blkiの第1頂点、第2頂点、第3頂点及び第4頂点を含んでもよい。この場合、選択された地点に対応するゲイン値を計算する段階は、選択された地点と第1頂点の間の距離、選択された地点と第2頂点の間の距離、選択された地点と第3頂点の間の距離、選択された地点と第4頂点の間の距離、第1頂点に対応する基準ゲイン値、第2頂点に対応する基準ゲイン値、第3頂点に対応する基準ゲイン値、及び第4頂点に対応する基準ゲイン値に基づいて、選択された地点に対応するゲイン値を計算することができる。
【0140】
そして、基準ゲイン値及びゲイン値をメモリ300に保存することができるS1140。
【0141】
一実施例において、第1ブロック領域Blk1に含まれるゲイン値は第2ブロック領域Blk2に含まれるゲイン値よりも大きいビット数が割り当てられてもよい。
【0142】
図12は本発明の実施例によるイメージセンシング装置の動作方法を説明するための図である。
【0143】
図12を参照すると、本発明の一実施例によるイメージセンシング装置1000の動作方法は、イメージセンサ100を介してイメージImgを取得することができるS1210。イメージセンシング装置1000は、ホスト3000から撮影コマンドを受信すると、イメージセンサ100を介してイメージImgを取得することができる。
【0144】
また、メモリ300に保存された基準ゲイン値及びゲイン値を複数のピクセルデータに適用した補正イメージCor_Imgを生成することができるS1220。メモリ300に保存された基準ゲイン値及びゲイン値はゲインマップに含まれてもよい。ゲインマップはキャリブレーションイメージCal_ImgまたはイメージImgのサイズに対応することができる。ゲインマップに含まれる基準ゲイン値及びゲイン値は複数のピクセルデータに対応することができる。
【0145】
そして、補正イメージCor_Imgを出力することができるS1230。イメージセンシング装置1000はホスト3000に補正イメージCor_Imgを出力することができる。または、イメージセンシング装置1000はホスト3000が指示する装置に補正イメージCor_Imgを出力することができる。例えば、補正イメージCor_Imgは、ストレージ装置、プロセッサ、ディスプレイなどのイメージセンシング装置1000の外部装置に出力されてもよい。
【0146】
図13は本発明の実施例によるイメージセンシング装置を含むコンピューティングシステムを説明する図である。
【0147】
図13を参照すると、コンピューティングシステム2000は、イメージセンサ2010、プロセッサ2020、記憶装置2030、メモリ装置2040、入出力装置2050、及びディスプレイ装置2060を含んでもよい。図13には示されていないが、コンピューティングシステム2000は、記憶装置2030、メモリ装置2040、入出力装置2050、及びディスプレイ装置2060などと通信するか、または外部装置と通信できるポート(port)をさらに含んでもよい。
【0148】
イメージセンサ2010はイメージまたはキャリブレーションイメージを取得することができる。イメージセンサ2010はゲインマップを保存することができる。イメージセンサ2010は取得したイメージにゲインマップを適用した補正イメージCor_Imgを生成することができる。イメージセンサ2010はアドレスバス(address bus)、制御バス(control bus)及びデータバス(data bus)またはこれとは違う通信リンクを介してプロセッサ2020と接続されて通信を行うことができる。ここで、イメージセンサ2010は上述したイメージセンシング装置1000の説明が適用されてもよい。
【0149】
イメージセンサ2010は様々な形態のパッケージで具現されてもよい。例えば、イメージセンサ2010の少なくとも一部の構成は、PoP(Package on Package)、Ball grid arrays(BGAs)、Chip scale packages(CSPs)、Plastic Leaded Chip Carrier(PLCC)、Plastic Dual In-Line Package(PDIP)、Die in Waffle Pack、Die in Wafer Form、Chip On Board(COB)、Ceramic Dual In-Line Package(CERDIP)、Plastic Metric Quad Flat Pack(MQFP)、Thin Quad Flatpack(TQFP)、Small Outline(SOIC)、Shrink Small Outline Package(SSOP)、Thin Small Outline(TSOP)、Thin Quad Flatpack(TQFP)、System In Package(SIP)、Multi Chip Package(MCP)、Wafer-level Fabricated Package(WFP)、Wafer-Level Processed Stack Package(WSP)などのパッケージを利用して具現されてもよい。実施例によって、イメージセンサ2010はプロセッサ2020と共に1つのチップに集積されてもよく、異なるチップにそれぞれ集積されてもよい。
【0150】
プロセッサ2020はコンピューティングシステム2000の全般的な動作を制御することができる。プロセッサ2020は補正イメージCor_Imgを表示するようにディスプレイ装置2060を制御することができる。プロセッサ2020は補正イメージCor_Imgを記憶装置2030に保存することができる。ここで、プロセッサ2020は上述したホスト3000の説明が適用されてもよい。
【0151】
プロセッサ2020は特定の計算またはタスク(task)を遂行することができる。本発明の実施例によると、プロセッサ2020は、中央処理装置(Central Processing Unit、CPU)、アプリケーション処理装置(Application Processing Unit、APU)、グラフィック処理装置(Graphic Processing Unit、GPU)などから少なくとも1つを含んでもよい。
【0152】
プロセッサ2020はアドレスバス、制御バス及びデータバスを介して記憶装置2030、メモリ装置2040及び入出力装置2050に接続されて通信を行うことができる。本発明の実施例によると、プロセッサ2020は周辺構成要素相互接続(Peripheral Component Interconnect;PCI))バスなどの拡張バスに接続されてもよい。
【0153】
記憶装置2030は補正イメージCor_Imgなどのデータを保存することができる。ここで、記憶装置2030に保存されたデータはコンピューティングシステム2000が駆動されるときだけでなく、駆動されないときも保存され得る。例えば、記憶装置2030は、フラッシュメモリ装置(flash memory device)、ソリッドステートドライブ(Solid State Drive、SSD)、ハードディスクドライブ(Hard Disk Drive、HDD)、光ディスクなどのあらゆる形態の不揮発性メモリ装置のうち少なくとも1つで構成されてもよい。
【0154】
メモリ装置2040は補正イメージCor_Imgなどのデータを保存することができる。ここで、メモリ装置2040に保存されたデータはコンピューティングシステム2000が駆動されるときだけ保存され得る。または、メモリ装置2040に保存されたデータはコンピューティングシステム2000が駆動または駆動されないときも保存され得る。例えば、メモリ装置2040は、動的ランダムアクセスメモリ(Dynamic Random Access Memory;DRAM)、静的ランダムアクセスメモリ(Static Random Access Memory;SRAM)などの揮発性メモリ装置と、イーピーローム(Erasable Programmable Read-Only Memory;EPROM)、イーイーピーローム(Electrically Erasable Programmable Read-Only Memory;EEPROM)及びフラッシュメモリ装置などの不揮発性メモリ装置と、を含んでもよい。
【0155】
入出力装置2050は入力装置及び出力装置を含んでもよい。入力装置は相互作用によりユーザの命令を入力することができる装置であり、例えば、入力装置はキーボード、キーパッド、マウス、マイクなどで具現されてもよい。出力装置はデータを出力することができる装置であり、例えば、出力装置はプリンタ、スピーカなどで具現されてもよい。
【0156】
ディスプレイ装置2060は補正イメージなどのデータを視覚的に出力する装置である。このために、ディスプレイ装置2060は、別途のバックライトユニット(例えば、LED(light emitting diode)など)を光源として利用し液晶(Liquid Crystal)の分子配列を制御することでバックライトユニットから放出された光が液晶を介して透過する程度(光の明るさまたは光の強度)を調整するLCD(Liquid Crystal Display)、別途のバックライトユニットまたは液晶なしの自発光素子(例えば、サイズが100-200umのmini LED、サイズが100um以下のmicro LED、OLED(Organic LED)、QLED(Quantum dot LED)など)を光源として利用するディスプレイなどの様々な形態のディスプレイで具現されてもよい。
【0157】
ディスプレイ装置2060は複数のピクセルを含んでもよい。ディスプレイ装置2060の複数のピクセルは補正イメージCor_Imgの複数のピクセルと互いに対応する位置関係を有することができる。ディスプレイ装置2060の複数のピクセルは補正イメージCor_Imgの複数のピクセルのそれぞれのピクセル値に対応する輝度で光を放出することでイメージを表示することができる。ディスプレイ装置2060は複数のピクセルに対応する複数の駆動回路を含んでもよい。ここで、駆動回路は、a-Si(amorphous silicon) TFT(thin film transistor)、LTPS(low temperature poly silicon) TFT、OTFT(organic TFT)などの形態で具現されてもよい。
【0158】
一実施例におけるディスプレイ装置2060は、ディスプレイ装置2060の形状が曲がったり復元されることができる特性を有するフレキシブルディスプレイ(flexible display)で具現されてもよい。一実施例におけるディスプレイ装置2060は光を透過させる特性を有する透明ディスプレイで具現されてもよい。一実施例におけるディスプレイ装置2060はユーザがタッチした位置を識別するタッチセンサと結合されてタッチディスプレイで具現されてもよい。
【符号の説明】
【0159】
1000 イメージセンシング装置
100 イメージセンサ
200 イメージプロセッサ
300 メモリ
図1
図2
図3a
図3b
図4
図5
図6
図7
図8a
図8b
図8c
図8d
図9a
図9b
図10
図11
図12
図13