(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024098153
(43)【公開日】2024-07-22
(54)【発明の名称】ビジョンセンサ及びそれを含むイメージ処理装置
(51)【国際特許分類】
H04N 25/47 20230101AFI20240712BHJP
H04N 25/77 20230101ALI20240712BHJP
【FI】
H04N25/47
H04N25/77
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2024001190
(22)【出願日】2024-01-09
(31)【優先権主張番号】10-2023-0003030
(32)【優先日】2023-01-09
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung-ro,Yeongtong-gu,Suwon-si,Gyeonggi-do,Republic of Korea
(74)【代理人】
【識別番号】110000051
【氏名又は名称】弁理士法人共生国際特許事務所
(72)【発明者】
【氏名】キム, ジュン ソク
(72)【発明者】
【氏名】パク, クン ジュ
(72)【発明者】
【氏名】ソン, ボン キ
(72)【発明者】
【氏名】イム, イン チュン
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CY45
5C024GX03
5C024GX15
5C024GX16
5C024GX18
5C024GY39
5C024GY41
5C024JX08
(57)【要約】
【課題】ビジョンセンサ及びそれを含むイメージ処理装置を提供する。
【解決手段】本発明のビジョンセンサは、光電変換素子をそれぞれ含む複数のピクセルを含むピクセルアレイと、光電変換素子で生成された光電流を変換した電圧の大きさによる強度(intensity)イメージデータを生成するリードアウト回路と、光電変換素子で生成された光電流を変換した電圧の変化量によるイベントデータを生成するデータ出力ロジックと、を備える。
【選択図】
図1A
【特許請求の範囲】
【請求項1】
ビジョンセンサであって、
光電流を生成する光電変換素子をそれぞれ含む複数のピクセルを含むピクセルアレイと、
前記光電流を変換した電圧の大きさに基づいて強度(intensity)イメージデータを生成するリードアウト回路と、
前記光電流を変換した電圧の変化量に基づいてイベントデータを生成するデータ出力ロジックと、を備えることを特徴とするビジョンセンサ。
【請求項2】
前記複数のピクセルのそれぞれは、前記光電流を変換した電圧の大きさに基づいて第1出力電圧を第1カラムラインを介して出力し、前記光電流を変換した電圧の変化量に基づいて第2出力電圧を第2カラムラインを介して出力することを特徴とする請求項1に記載のビジョンセンサ。
【請求項3】
前記第2出力電圧をオン基準電圧及びオフ基準電圧と比較した結果に基づいてオン信号又はオフ信号を生成するイベント決定回路を更に含むことを特徴とする請求項2に記載のビジョンセンサ。
【請求項4】
活性化された前記オン信号又は活性化された前記オフ信号に応答して前記ピクセルをリセットするリセット信号を前記ピクセルに出力するリセット回路を更に含むことを特徴とする請求項3に記載のビジョンセンサ。
【請求項5】
前記リードアウト回路は、
ランプ信号を生成するランプ信号生成器と、
前記第1出力電圧と前記ランプ信号とを比較して比較結果信号を出力する比較器と、
前記比較結果信号をデジタル信号に変換するカウンタと、
前記デジタル信号を前記強度イメージデータとして出力するバッファと、を含むことを特徴とする請求項2に記載のビジョンセンサ。
【請求項6】
前記複数のピクセルのそれぞれは、
前記光電変換素子を含み、前記光電流をログ電圧に変換する電流-電圧変換回路と、
前記ログ電圧に基づいてソースフォロワ電圧を生成するソースフォロワと、
前記ソースフォロワ電圧を増幅して増幅電圧を生成する増幅器回路と、
前記ログ電圧に基づいて第1出力電圧を前記複数のピクセルの外部に出力する第1出力回路と、を更に含むことを特徴とする請求項1に記載のビジョンセンサ。
【請求項7】
前記複数のピクセルのそれぞれは、
前記増幅電圧をオン基準電圧と比較した第1結果によるオン信号を生成する第1比較回路と、
前記増幅電圧をオフ基準電圧と比較した第2結果によるオフ信号を生成する第2比較回路と、を更に含むことを特徴とする請求項6に記載のビジョンセンサ。
【請求項8】
前記ビジョンセンサは、垂直方向に積層された第1チップ及び第2チップを含み、
前記第1チップは、前記電流-電圧変換回路を含み、
前記第2チップは、前記リードアウト回路及び前記データ出力ロジックを含み、
前記第2チップは、垂直方向に前記第1チップの下方にあることを特徴とする請求項6に記載のビジョンセンサ。
【請求項9】
前記ビジョンセンサは、垂直方向に積層された第1チップ、第2チップ、及び第3チップを含み、
前記第1チップは、前記電流-電圧変換回路を含み、
前記第2チップは、前記データ出力ロジックを含み、
前記第2チップは、垂直方向に前記第1チップの下方にあり、
前記第3チップは、前記リードアウト回路を含み、
前記第3チップは、垂直方向に前記第2チップの下方にあることを特徴とする請求項6に記載のビジョンセンサ。
【請求項10】
複数のピクセルを含むビジョンセンサであって、
前記複数のピクセルのそれぞれは、
光電変換素子を含み、前記光電変換素子で生成された光電流をログ電圧に変換する電流-電圧変換回路と、
前記ログ電圧に基づいてソースフォロワ電圧を生成するソースフォロワと、
前記ソースフォロワ電圧を増幅して増幅電圧を生成する増幅器回路と、
前記ログ電圧に基づいて第1出力電圧を前記複数のピクセルの外部に出力する第1出力回路と、を備えることを特徴とするビジョンセンサ。
【請求項11】
前記複数のピクセルのそれぞれは、前記増幅電圧に基づいて第2出力電圧を前記複数のピクセルの外部に出力する第2出力回路を更に含むことを特徴とする請求項10に記載のビジョンセンサ。
【請求項12】
前記第1出力回路及び前記第2出力回路は、選択信号に応答して前記第1出力電圧及び前記第2出力電圧を出力することを特徴とする請求項11に記載のビジョンセンサ。
【請求項13】
前記第1出力回路は、第1選択信号に応答して前記第1出力電圧を出力し、
前記第2出力回路は、前記第1選択信号とは独立した第2選択信号に応答して前記第2出力電圧を出力することを特徴とする請求項11に記載のビジョンセンサ。
【請求項14】
前記増幅器回路は、前記増幅器回路をリセットするリセットスイッチを含み、
前記複数のピクセルのそれぞれは、前記複数のピクセルの外部の外部ソースから提供されるリセット信号及び選択信号に応答して前記リセットスイッチをスイッチングするリセットスイッチング信号を生成するリセットスイッチング回路を更に含むことを特徴とする請求項10に記載のビジョンセンサ。
【請求項15】
前記第1出力回路は、前記リセットスイッチング信号に応答して前記第1出力電圧を出力することを特徴とする請求項14に記載のビジョンセンサ。
【請求項16】
前記複数のピクセルのそれぞれは、
前記増幅電圧をオン基準電圧と比較した結果に基づいてオン信号を生成する第1比較回路と、
前記増幅電圧をオフ基準電圧と比較した結果に基づいてオフ信号を生成する第2比較回路と、を更に含むことを特徴とする請求項10に記載のビジョンセンサ。
【請求項17】
前記増幅器回路は、前記増幅器回路をリセットするリセットスイッチを含み、
前記複数のピクセルのそれぞれは、前記オン信号又は前記オフ信号に応答して前記リセットスイッチをスイッチングするリセットスイッチング信号を生成するリセットスイッチング回路を更に含むことを特徴とする請求項16に記載のビジョンセンサ。
【請求項18】
イベントデータ及び強度イメージデータを生成するビジョンセンサと、
前記イベントデータ及び前記強度イメージデータのイメージ処理を遂行するプロセッサと、を備え、
前記イベントデータは、前記ビジョンセンサに含まれる光電変換素子で生成された光電流を変換した電圧の変化量を示し、
前記強度イメージデータは、前記光電変換素子で生成された光電流を変換した電圧の大きさを示すことを特徴とするイメージ処理装置。
【請求項19】
前記ビジョンセンサは、
複数のピクセルを含むピクセルアレイと、
前記複数のピクセルからそれぞれ出力された第1出力電圧に応答して前記強度イメージデータを生成するリードアウト回路と、
前記複数のピクセルから出力された第2出力電圧を受信し、前記第2出力電圧をオン基準電圧及びオフ基準電圧のそれぞれと比較した結果に基づいてオン信号及びオフ信号を生成するイベント検出回路と、
前記オン信号及びオフ信号に基づいて前記イベントデータを生成するデータ出力ロジックと、を含むことを特徴とする請求項18に記載のイメージ処理装置。
【請求項20】
イメージデータを生成するイメージセンサを更に含み、
前記プロセッサは、前記イベントデータ及び前記強度イメージデータを用いて前記イメージデータのイメージ処理を遂行することを特徴とする請求項18に記載のイメージ処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ビジョンセンサ及びそれを含むイメージ処理装置に係り、より詳細には、イベントデータ及び強度(intensity)イメージデータを生成するビジョンセンサ及びそれを含むイメージ処理装置に関する。
【背景技術】
【0002】
人間とコンピュータとの相互作用(Human-computer interaction:HCI)は、ユーザインターフェースで発現されて作動する。ユーザ入力を認識する多様なユーザインターフェースは、人間とコンピュータとの自然な相互作用を提供する。ユーザ入力を認識するために多様なセンサが用いられる。
【0003】
ビジョンセンサ、例えば動的ビジョンセンサは、イベント(例えば、光の強度変化)が発生すると、イベントに関する情報、即ちイベントデータを生成し、イベントデータをプロセッサに伝達する。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記従来技術に鑑みてなされたものであって、本発明の目的は、イベントデータ及び強度イメージデータの両方を生成するビジョンセンサ及びそれを含むイメージ処理装置を提供することにある。
【課題を解決するための手段】
【0006】
上記目的を達成するためになされた本発明の一態様によるビジョンセンサは、光電流を生成する光電変換素子をそれぞれ含む複数のピクセルを含むピクセルアレイと、前記光電流を変換した電圧の大きさに基づいて強度(intensity)イメージデータを生成するリードアウト回路と、前記光電流を変換した電圧の変化量に基づいてイベントデータを生成するデータ出力ロジックと、を備える。
【0007】
上記目的を達成するためになされた本発明の他の態様によるビジョンセンサは、複数のピクセルを含むビジョンセンサであって、複数のピクセルのそれぞれは、光電変換素子を含み、前記光電変換素子で生成された光電流をログ電圧に変換する電流-電圧変換回路と、前記ログ電圧に基づいてソースフォロワ電圧を生成するソースフォロワと、前記ソースフォロワ電圧を増幅して増幅電圧を生成する増幅器回路と、前記ログ電圧に基づいて第1出力電圧を前記複数のピクセルの外部に出力する第1出力回路と、を備える。
【0008】
上記目的を達成するためになされた本発明の一態様によるイメージ処理装置は、イベントデータ及び強度イメージデータを生成するビジョンセンサと、前記イベントデータ及び前記強度イメージデータのイメージ処理を遂行するプロセッサと、を備え、前記イベントデータは、前記ビジョンセンサに含まれる光電変換素子で生成された光電流を変換した電圧の変化量を示し、前記強度イメージデータは、前記光電変換素子で生成された光電流を変換した電圧の大きさを示す。
【発明の効果】
【0009】
本発明によれば、ビジョンセンサで生成された強度イメージデータは、ビジョンセンサの電流-電圧変換回路で生成されたログ電圧から生成されたデータであるため、プロセッサが強度イメージデータを用いてイメージ処理動作を遂行することで、高いダイナミックレンジのイメージ処理装置の具現が可能である。また、ビジョンセンサは、イメージセンサに比べて相対的に速い動作が可能であるため、イメージ処理装置は、ビジョンセンサで生成されたイベントデータ及び強度イメージデータの両方を用いた効率的なイメージデブラー処理が可能である。
【図面の簡単な説明】
【0010】
【
図1A】本発明の一実施形態によるイメージ処理装置の一例を示すブロック図である。
【
図1B】本発明の一実施形態によるイメージ処理装置の他の例を示すブロック図である。
【
図2】本発明の一実施形態によるビジョンセンサの一例を示すブロック図である。
【
図3】本発明の一実施形態によるビジョンセンサに含まれるイベント決定回路を示すブロック図である。
【
図4】本発明の一実施形態によるビジョンセンサに含まれるリードアウト回路を示すブロック図である。
【
図5】本発明の一実施形態によるピクセルアレイに含まれるピクセルの第1例を示す回路図である。
【
図6】本発明の一実施形態によるピクセルアレイに含まれるピクセルの第2例を示す回路図である。
【
図7】本発明の一実施形態によるピクセルアレイに含まれるピクセルの第3例を示す回路図である。
【
図8】本発明の一実施形態によるビジョンセンサの他の例を示すブロック図である。
【
図9】本発明の一実施形態によるピクセルアレイに含まれるピクセルの第4例を示す回路図である。
【
図10】本発明の一実施形態によるビジョンセンサの一例を示す図である。
【
図11】本発明の一実施形態によるビジョンセンサの他の例を示す図である。
【
図12】本発明の一実施形態によるビジョンセンサが適用された電子機器1000の一例を示すブロック図である。
【発明を実施するための形態】
【0011】
以下、本発明を実施するため形態の具体例を、図面を参照しながら詳細に説明する。図面上の同じ構成要素については、同じ参照符号を付し、それらについての重複説明は省略する。
【0012】
図1A及び
図1Bは、本発明の一実施形態によるイメージ処理装置を示すブロック図である。
【0013】
図1Aを参照すると、イメージ処理装置10は、ビジョンセンサ100及びプロセッサ300を含む。本実施形態によるイメージ処理装置10は、イメージ又は光センシング機能を有する電子機器に搭載される。例えば、イメージ処理装置10は、カメラ、スマートフォン、ウェアラブル機器、事物インターネット(Internet of Things(IoT))機器、タブレットPC(Personal Computer)、PDA(Personal Digital Assistant)、PMP(portable Multimedia Player)、ナビゲーション(navigation)、ドローン(drone)、先端運転支援システム(Advanced Drivers Assistance System:ADAS)のような電子機器に搭載される。また、イメージ処理装置10は、車両、家具、製造設備、ドア、各種計測機器などに部品として備えられる。
【0014】
ビジョンセンサ100は、入射する光の強度(intensity)変化を感知し、それによるイベントデータVDTを出力する。ビジョンセンサ100は、光の強度変化が感知されるピクセル、即ちイベント(オンイベント又はオフイベント)が発生したピクセルに関する情報を含むイベントデータVDTを出力する動的ビジョンセンサである。例えば、ビジョンセンサ100は、光電変換素子をそれぞれ含む複数のピクセルアレイ(例えば、
図2の110)を含み、光電変換素子(例えば、フォトダイオード)で生成された光電流を変換した電圧の変化量によるイベントデータを生成するデータ出力ロジック(例えば、
図2の140)を含む。電圧レベルの変化は、ビジョンセンサ100によってキャプチャされたイベントを代表するイベントデータVDTを生成するのに使用される。イベントデータVDTは、ピクセルで発生したイベントの種類(オンイベント又はオフイベント)に関するイベント情報、及びイベントが発生したピクセルの位置に関するアドレス情報を含む。
【0015】
光の強度変化は、ビジョンセンサ100によって撮影されたオブジェクト(Object)の動きに起因するか、或いはビジョンセンサ100又はイメージ処理装置10自体の動きに起因する。ビジョンセンサ100は、イベント信号を含むビジョンセンサデータVDTを周期的又は非周期的にプロセッサ300に伝送する。
【0016】
また、ビジョンセンサ100は、入射した光の強度による強度(intensity)イメージデータIIDTを出力する。強度イメージデータDDTIは、グレースケール(gray scale)イメージである。例えば、ビジョンセンサ100は、ピクセルに含まれる光電変換素子で生成された光電流をログスケールに増幅したログ電圧(例えば、
図5のVLOG)の大きさによる強度イメージデータIIDTを生成するリードアウト回路を含む。
【0017】
従って、ビジョンセンサ100は、イベント発生の有無に関するイベント情報を含むイベントデータVDT及び光強度に関する強度情報を含む強度イメージデータIIDTの両方を生成する。ビジョンセンサ100は、イベントデータVDT及び強度イメージデータIIDTを共にプロセッサ300に提供する。例えば、ビジョンセンサ100は、イベント発生の有無に関係なく強度イメージデータIIDTをプロセッサ300に伝送するか、又はビジョンセンサ100は、イベント発生を感知した場合に強度イメージデータIIDTをイベントデータVDTと共にプロセッサ300に伝送する。
【0018】
プロセッサ300は、ビジョンセンサ100からイベントデータVDT及び強度イメージデータIIDTを受信して、イベントデータVDT及び強度イメージデータIIDTに対するイメージ処理(image processing)を遂行する。ビジョンセンサ100で生成された強度イメージデータIIDTは、ビジョンセンサ100の電流-電圧変換回路(例えば、
図5の111)で生成されたログ電圧VLOGから生成されたデータであるため、プロセッサ300は、強度イメージデータIIDTを用いてイメージ処理動作を遂行することで高いダイナミックレンジ(High Dynamic Range:HDR)のイメージ処理装置10の具現が可能である。
【0019】
プロセッサ300は、ASIC(application specific integrated circuit)、FPGA(field-programmable gate array)、専用プロセッサ(dedicated microprocessor)、マイクロプロセッサ、汎用プロセッサ(general purpose processor)などを含む。一実施形態において、プロセッサ300は、アプリケーションプロセッサ又はイメージ信号プロセッサである。
【0020】
一実施形態において、ビジョンセンサ100及びプロセッサ300は、それぞれ集積回路(integrated circuit(IC))によって具現される。例えば、ビジョンセンサ100とプロセッサ300とは、別個の半導体チップによって具現される。又は、ビジョンセンサ100及びプロセッサ300は、単一チップによって具現される。例えば、ビジョンセンサ100及びプロセッサ300は、SoC(system on chip)によって具現される。
【0021】
図1Bを参照すると、イメージ処理装置10aは、ビジョンセンサ100、イメージセンサ200、及びプロセッサ300を含む。
図1Bのビジョンセンサ100は、
図1Aで説明したビジョンセンサ100に類似する。
【0022】
ビジョンセンサ100は、イメージセンサ200から受信された同期化信号SYNCに基づいてイメージセンサ200で生成されたイメージフレームとビジョンセンサ100で感知されたイベントをマッチングさせるタイムスタンプとを生成する。イベントデータVDTは、タイムスタンプを含み、プロセッサ300に伝送される。例えば、タイムスタンプは、イメージセンサ200が露出された時点、イメージフレームが生成された時点、又はイベントが感知された時点に関する情報などを含む。
【0023】
ビジョンセンサ100は、イメージセンサ200から受信された同期化信号SYNC又はビジョンセンサ100の内部信号を用いて、イメージセンサ200を含む外部デバイスをビジョンセンサ100と同期化させるためのデバイス同期化信号を出力する。ビジョンセンサ100は、複数個のデバイス同期化信号を出力し、デバイス同期化信号を個別的に制御する。
【0024】
イメージセンサ200は、光学レンズを介して入射した被写体(Object)の光学的信号を電気的信号に変換し、電気的信号に基づいてイメージデータIDTを生成して出力する。イメージセンサ200は、例えば2次元的に配列された複数のピクセルを含むピクセルアレイ、リードアウト(read-out)回路、信号処理部などを含み、イメージセンサ200のピクセルアレイは、受信された光信号を電気的信号に変換する。イメージセンサ200のピクセルアレイは、例えばCCD(Charge Coupled Devices)、CMOS(Complementary Metal Oxide Semiconductor)などの光電変換素子によって具現される複数のピクセルを含み、ピクセルは、それ以外にも多様な種類の光電変換素子によって具現され得る。
【0025】
イメージセンサ200のリードアウト回路はピクセルアレイから提供される電気的信号に基づいてローデータ(Raw data)を生成し、イメージセンサ200の信号処理部はローデータをイメージ処理(例えば、バッドピクセル除去などの処理動作)してイメージデータIDTを出力する。イメージセンサ200は、ピクセルアレイ、リードアウト回路、及び信号処理部を含む半導体チップ又はパッケージとして具現される。
【0026】
イメージセンサ200は、ビジョンセンサ100とイメージセンサ200とを互いに同期化するために、ビジョンセンサ100と通信(communication)するための同期化信号SYNCを生成する。同期化信号SYNCは、イメージセンサ200のシャッター信号情報、リードアウト信号情報、イメージフレーム情報などを考慮して生成される。
【0027】
プロセッサ300は、イメージセンサ200から提供されるイメージデータIDTに対してイメージ処理(image processing)を遂行する。例えば、プロセッサ300は、イメージデータIDTに対してデータ形式を変更するイメージ処理(例えば、ベイヤーパターンのイメージデータをYUV又はRGB形式に変更)、ノイズ除去、明るさ調整、鮮明度(sharpness)調整などの画質向上のためのイメージ処理などを含む。プロセッサ300は、ビジョンセンサ100から受信されたビジョンセンサデータ(イベントデータVDT)を処理し、ビジョンセンサデータ(イベントデータVDT)内のイベント信号に基づいてオブジェクトの動き(又は、イメージ処理装置10が認知するイメージ上でのオブジェクトの動き)を検出する。プロセッサ300は、イベントデータVDT及び強度イメージデータIIDTを用いてイメージデータIDTのイメージ処理を遂行する。プロセッサ300は、イメージセンサ200から提供されたイメージデータIDTに含まれるイメージフレームと、ビジョンセンサ100から受信されたビジョンセンサデータVDTとをタイムスタンプ及び同期化信号情報を用いてマッチングさせる。
【0028】
イメージ処理装置10によって撮影されるオブジェクトの動き、又はイメージセンサ200若しくはイメージ処理装置10自体の動きによってイメージデータIDTにはブラー(blur)が発生する。プロセッサ300は、イベントデータVDT及び強度イメージデータIIDTを用いて、イメージデータIDTに対するイメージデブラー(deblur)処理を遂行する。イメージデブラー処理は、イメージデータIDTに発生したブラー(blur)を除去してシャープイメージを生成するためのイメージ処理である。ビジョンセンサ100は、イメージセンサ200に比べて相対的に速い動作が可能であるため、本発明によるイメージ処理装置10は、ビジョンセンサ100で生成されたイベントデータVDT及び強度イメージデータIIDTの両方を用いた効率的なイメージデブラー処理が可能である。
【0029】
また、プロセッサ300は、強度イメージデータIIDTを用いてイメージデータIDTをイメージ処理することで、高いダイナミックレンジ(HDR)のイメージデータを確保することができる。特に、強度イメージデータIIDTは、ビジョンセンサ100のフォトダイオードで生成された光電流をログスケールに増幅したログ電圧VLOGによって生成されるため、高いダイナミックレンジのデータが確保される。従って、プロセッサ300が強度イメージデータIIDTを用いてイメージデータIDTをイメージ処理することで、HDRを確保するか又は提供することができるイメージ処理装置10が具現される。
【0030】
一実施形態において、ビジョンセンサ100、イメージセンサ200、及びプロセッサ300は、それぞれ集積回路(integrated circuit(IC))によって具現される。例えば、ビジョンセンサ100、イメージセンサ200、及びプロセッサ300は、別個の半導体チップによって具現される。又は、ビジョンセンサ100、イメージセンサ200、及びプロセッサ300は、単一チップによって具現される。例えば、ビジョンセンサ100、イメージセンサ200、及びプロセッサ300は、SoC(system on chip)によって具現される。
【0031】
イメージ処理装置10aは、外部のデバイス400を制御してデータを収集する。イメージ処理装置10aは、タイムスタンプを用いてデバイス400から収集したデータとマッチングさせる。デバイス400は、加速度センサ、慣性測定装置(IMU:Inertial Measurement Unit)、ジャイロ(Gyro)センサ、赤外線(IR)LED、及びフラッシュライトなどを含む。
【0032】
図2は、本発明の一実施形態によるビジョンセンサ100の一例を示すブロック図である。
図3は、本発明の一実施形態によるビジョンセンサ100に含まれるイベント決定回路131を示すブロック図である。
図4は、本発明の一実施形態によるビジョンセンサ100に含まれるリードアウト回路160を示すブロック図である。
図2のビジョンセンサ100は、
図1A又は
図1Bのビジョンセンサ100の一例を示すブロック図である。
【0033】
図2を参照すると、ビジョンセンサ100は、ピクセルアレイ110、ロウドライバ120、イベント検出回路130、データ出力ロジック140、制御ロジック150、及びリードアウト回路160を含む。ビジョンセンサ100は、オン基準電圧VREF_ON及びオフ基準電圧VRER_OFFを生成する電圧生成器を更に含む。
【0034】
ピクセルアレイ110は、マトリックス状(例えば、n個のロウ及びm個のカラムのマトリックス、n及びmは、自然数)に配列された複数のピクセルPXを含む。複数のピクセルPXのそれぞれは、受信された光強度が増減するイベントなどを感知する。複数のピクセルPXのそれぞれは、ロウラインを介して受信された対応する選択信号(SEL[0]~SEL[n-1]のうちの1つ)に応答して第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)を第1カラムラインを介して出力し、且つロウラインを介して受信された対応する選択信号(SEL[0]~SEL[n-1]のうちの1つ)に応答して第2出力電圧(VOUT2[0]~VOUT2[m-1]のうちの1つ)を第2カラムラインを介して出力する。
【0035】
複数のピクセルPXのそれぞれから出力される第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)は、光の強度に対応する値を有する。即ち、第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)は、ピクセルPXの光電変換素子で生成された光電流を変換した電圧(例えば、
図5のログ電圧VLOG)の大きさに対応する値を有する。また、複数のピクセルPXのそれぞれから出力される第2出力電圧(VOUT1[0]~VOUT1[m-1]のうち1つ)は、光の強度の変化量に対応する値を有する。即ち、第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)は、ピクセルPXの光電変換素子で生成された光電流を変換した電圧(ログ電圧VLOG)の変化量に対応する値を有する。
【0036】
ピクセルアレイ110は、第3カラムラインを介してリセット信号RST[0]~RST[m-1]を受信する。ピクセルPXは、リセット信号(RST[0]~RST[m-1]のうちの1つ)によってリセットされ、ピクセルPXから出力される第2出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)がリセットされる。第2出力電圧VOUT1[0]~VOUT1[m-1]がリセットされた時点から、ピクセルアレイ110及びイベント検出回路130は、光の強度の変化量を再び検出する。
【0037】
ロウドライバ120は、制御ロジック150の1つ以上の制御信号によって、ピクセルアレイ110に選択信号SEL[0]~SEL[n-1])を伝送する。ロウドライバ120は、n本のロウラインのそれぞれに対応する選択信号SEL[0]~SEL[n-1]を伝送することにより、ロウ単位でピクセルアレイ110を選択する。選択信号SEL[0]~SEL[n-1]は、ロウラインの選択を示す活性レベル(例えば、ロジックハイ)及びロウラインの非選択を示す非活性レベル(例えば、ロジックロウ)を有する。ロウドライバ120は、順次に選択信号SEL[0]~SEL[n-1]を活性レベルに遷移させることにより、ロウ単位でピクセルアレイ110を選択する。但し、本発明は、それに限定されず、ロウドライバ120は、既定の順序又はランダム順序によって選択信号SEL[0]~SEL[n-1]を活性レベルに遷移させるように具現され得る。
【0038】
イベント検出回路130は、ピクセルアレイ110からイベントなどを検出し、イベントなどを処理する。イベント検出回路130は、ピクセルPXで発生したイベントの種類(即ち、オンイベントであるか又はオフイベントであるかのイベントの極性)に関するイベント情報、及びイベントが発生したピクセルの位置情報であるアドレス情報を生成する。例えば、イベント検出回路130は、複数のイベント決定回路131を含む。複数のイベント決定回路131のそれぞれは、対応する第2カラムラインに連結されて対応する第2出力電圧(VOUT2[0]~VOUT2[m-1]のうちの1つ)を受信し、第2出力電圧(VOUT2[0]~VOUT2[m-1]のうちの1つ)をオン基準電圧VREF_ON及びオフ基準電圧VREF_OFFと比較した結果によってオン信号(E_ON[0]~E_ON[m-1]のうちの1つ)又はオフ信号(E_OFF[0]~E_OFF[m-1]のうちの1つ)を生成する。
【0039】
イベント検出回路130は、オンイベント又はオフイベントを検出すると、リセット信号RST[0]~RST[m-1]を生成する。即ち、イベント検出回路130は、オンイベント又はオフイベントが発生した特定ピクセルPXにリセット信号(RST[0]~RST[m-1]のうちの1つ)を対応する第3カラムラインを介して提供する。
【0040】
例えば、イベント検出回路130は複数のリセット回路132を含み、リセット回路132は例えばORゲートを含む。リセット回路132は、活性化された(例えば、ロジックハイ)オン信号(E_ON[0]~E_ON[m-1]のうちの1つ)又は活性化された(例えば、ロジックハイ)オフ信号(E_OFF[0]~E_OFF[m-1]のうちの1つ)を受信すると、ロジックハイレベルのリセット信号(RST[0]~RST[m-1]のうちの1つ)を生成する。
【0041】
図2に示したようにリセット信号RST[0]~RST[m-1]は、ピクセルPXを個別的にリセットさせるための信号であるが、本発明は、それに限定されない。イベント検出回路130は、ピクセルアレイ110に含まれる少なくとも一部のピクセルPXを同時にリセットさせるためのグローバルリセット信号をピクセルPXに提供してもよい。
【0042】
図2及び
図3を参照すると、イベント決定回路131は、第1比較回路131_1及び第2比較回路131_2を含む。第1比較回路131_1は、第2出力電圧VOUT2(例えば、VOUT2[0]~VOUT2[m-1]のうちの1つ)をオン基準電圧VREF_ONと比較し、比較結果によってオン信号E_ON(例えば、E_ON[0]~E_ON[m-1]のうちの1つ)を生成する。第2比較回路131_2は、第2出力電圧VOUT2をオフ基準電圧VREF_OFFと比較し、比較結果によってオ信号E_OFF(例えば、E_OFF[0]~E_OFF[m-1]のうちの1つ)を生成する。第1比較回路131_1及び第2比較回路131_2は、ピクセルPXに含まれる光電変換素子に受信される光の変化による第2出力電圧VOUT2の変化量が一定基準以上である場合にオン信号E_ON又はオフ信号E_OFFを生成する。例えば、オン信号E_ONはピクセルPXの光電変換素子に受信される光量が一定の臨界量以上増加する場合にロジックハイレベルになり、オフ信号E_OFFはピクセルPXの光電変換素子に受信される光量が一定臨界量以上減少する場合にロジックハイレベルになる。
【0043】
再び
図2を参照すると、データ出力ロジック140は、オン信号E_ON[0]~E_ON[m-1]及びオフ信号E_OFF[0]~E_OFF[m-1]を受信し、オン信号E_ON[0]~E_ON[m-1]及びオフ信号E_OFF[0]~E_OFF[m-1]によって、発生したイベントの種類(極性)を示すイベント情報DATA及びイベントが発生したピクセルPXのアドレス情報ADDRを含むイベントデータVDTを生成する。
【0044】
データ出力ロジック140は、ノイズイベントを除去して、有効イベントなどに対するイベントデータVDTを生成する。また、データ出力ロジック140は、イベントが発生した時間に関する情報を含むイベントデータVDTを生成する。
【0045】
データ出力ロジック140は、ピクセルアレイ110で発生したイベントなどをピクセルPX単位、複数のピクセルPXを含むサブピクセルアレイ単位、カラム単位、又はフレーム単位で処理する。データ出力ロジック140は、設定されたプロトコルによってプロセッサ(例えば、
図1A又は
図1Bの300)にビジョンセンサデータ(イベントデータVDT)を伝送する。
【0046】
制御ロジック150は、ビジョンセンサ100の全般的な動作を制御する。例えば、制御ロジック150は、プロセッサ300から提供された制御信号によってビジョンセンサ100に含まれるロウドライバ120、データ出力ロジック140、リードアウト回路160などの動作を制御する。
【0047】
リードアウト回路160は、第1出力電圧VOUT1[0]~VOUT1[m-1]を受信して強度イメージデータIIDTを出力する。第1出力電圧VOUT1[0]~VOUT1[m-1]のそれぞれは、対応するピクセルPXに含まれる光電変換素子で生成された光電流をログスケールに増幅したログ電圧の大きさに対応する。リードアウト回路160は、第1出力電圧VOUT1[0]~VOUT1[m-1]をアナログ-デジタル変換することで、強度イメージデータIIDTを生成する。
【0048】
図2及び
図4を参照すると、リードアウト回路160は、複数の比較器COM、複数のカウンタ回路CNT、複数のバッファBF、及びランプ信号生成器161を含む。ランプ信号生成器161は、一定の傾度を有して増減するランプ電圧のランプ信号RAMPを生成する。
【0049】
複数の比較器COMは、ピクセルアレイ110で第1出力電圧VOUT1[0]~VOUT1[m-1]を受信し、第1出力電圧VOUT1[0]~VOUT1[m-1]のそれぞれをランプ信号RAMPとそれぞれ比較して、比較結果信号を出力する。複数の比較器COMのそれぞれは、対応する第1カラムラインを介して対応する第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)を受信する。
【0050】
複数のカウンタ回路CNTは、複数の比較器COMから受信された比較結果信号のレベルに対応するアナログ信号をデジタル信号に変換する。複数のカウンタ回路CNTは、複数の比較器COMから出力された比較結果信号のレベル遷移時点をカウントして、カウント値を出力する。一実施形態において、カウンタ回路CNTは、ラッチ回路及び演算回路を含む。
【0051】
複数のバッファBFは、デジタル信号をラッチ(latch)し、ラッチされたデジタル信号を強度イメージデータIIDTとしてビジョンセンサ100の外部(例えば、
図1A又は
図1Bのプロセッサ300)に出力する。一実施形態において、リードアウト回路160は、イベントデータVDTとは無関係に強度イメージデータIIDTをプロセッサ300に出力するか、或いはイベントデータVDTがデータ出力ロジック140から出力されると、リードアウト回路160は、イメージデータIIDTをプロセッサ300に出力する。
【0052】
図5は、本発明の一実施形態によるピクセルアレイ110に含まれるピクセルPXの第1例を示す回路図である。ピクセルPXは、
図2のピクセルPXの一例である。
【0053】
図5を参照すると、ピクセルPXは、光電変換素子PDを含む電流-電圧変換回路(Current voltage converter circuit)111、増幅器回路(Amplifier circuit)113、第1出力回路OC1、及び第2出力回路OC2を含む。また、ピクセルPXは、リセット信号RSTを受信してリセットスイッチング信号RSを生成するリセットスイッチング回路114を含む。
【0054】
電流-電圧変換回路111に含まれる光電変換素子は、入射する光、即ち光信号を電気的信号である光電流IPDに変換する。例えば、光電変換素子は、フォト(photo)ダイオード、フォトトランジスタ、フォトゲート、PINフォトダイオード(pinned photodiode)などを含む。光電変換素子は、入射する光強度が増加するほど、高いレベルを有する電気的信号である光電流IPDを生成する。
【0055】
電流-電圧変換回路111は、光電変換素子で生成された光電流IPDをログ電圧VLOGに変換する。電流-電圧変換回路111は、第1増幅器(Logarithmic Amplifier)-A1及びフィードバックトランジスタMN1を含む。但し、これは、1つの例であり、電流-電圧変換回路111は、
図5で示したものとは異なって具現され得る。
【0056】
光電流IPDは、光電変換素子PDに連結されたフィードバックトランジスタMN1を通じて流れる。フィードバックトランジスタMN1は、一端に電源電圧VDDが印加されるNMOS(n-type metal-oxide-semiconductor)である。
【0057】
光電流IPDは、感知された光の強度に線形に比例しない。第1増幅器-A1は、ログ電圧VLOGが感知された光の強度に線形に比例するように光電流IPDをログスケールに増幅してログ電圧VLOGを生成する。例えば、第1増幅器-A1は、ログトランスインピーダンス増幅器である。第1増幅器-A1の出力端は、フィードバックトランジスタMN1のゲート端に連結される。
【0058】
第1出力回路OC1は、ログ電圧VLOGを受信し、選択信号SELに応答して第1出力電圧VOUT1を生成する。第1出力回路OC1は、第1駆動トランジスタT11及び第1選択トランジスタT12を含む。
【0059】
第1駆動トランジスタT11は、バッファ増幅器(buffer amplifier)であり、ログ電圧VLOGによる信号をバッファリングする。第1駆動トランジスタT11は、ログ電圧VLOGを増幅し、それを第1カラムラインに第1出力電圧VOUT1として出力する。例えば、第1駆動トランジスタT11は、ドレイン端子に電源電圧VDDが印加され、ゲート端子にログ電圧VLOGが印加される。
【0060】
第1選択トランジスタT12は、ドレイン端子が第1駆動トランジスタT11のソース端子に連結される。選択信号SELに応答して、第1カラムラインを介してリードアウト回路(例えば、
図2の160)に第1出力電圧VOUT1を出力する。選択信号SELは、
図2の選択信号SEL[0]~SEL[n-1]のうちの1つである。
【0061】
ピクセルPXは、ソースフォロワ(source-follower buffer)SFを更に含む。ソースフォロワSFは、増幅器回路113から電流-電圧変換回路111へのキックバックノイズ(kick-back noise)を減少させるか又は防止し、増幅器回路113の第1キャパシタC1又は第2キャパシタC2を駆動するのに用いられる。ソースフォロワSFが備えられる場合、ログ電圧VLOGがソースフォロワSFに入力されて、ソースフォロワ電圧VSFが生成される。例えば、ソースフォロワSFは、nMOSトランジスタのソースフォロワトランジスタMN2及び電流源ISを含むが、それは一例であり、ソースフォロワSFの回路構成は、多様に変形され得る。
【0062】
増幅器回路113は、ソースフォロワ電圧VSFを増幅して、増幅電圧VAを生成する。増幅器回路113は、第1キャパシターC1、第2キャパシターC2、第2増幅器-A2、及びスイッチSWを含む。第1キャパシターC1及び第2キャパシターC2は、光電変換素子で生成された出力に対応する電荷を充電する。第2増幅器-A2は、ソースフォロワ電圧VSF(又は、ログ電圧VLOG)の特定時間の間の電圧変化量を増幅して、出力電圧VOUTを生成する。第2増幅器-A2の入力端子と出力端子との間には、フィードバック回路が連結される。
【0063】
第1キャパシタC1は、第2増幅器-A2の入力端に直列に連結される。第1キャパシタC1は、ソースフォロワ電圧VSF(又は、ログ電圧VLOG)が変化することにより、電荷を充電する。第2増幅器-A2は、第1キャパシタC1に充電された電荷によって発生する電圧を所定の比率で増幅する。第2増幅器-A2の増幅率は、第1キャパシタC1のキャパシタンスと第2キャパシタC2のキャパシタンスとの比率として決定される。第2キャパシタC2は、フィードバック(feedback)キャパシタである。
【0064】
第2増幅器-A2の入力端と出力端との間には、リセットスイッチSWが連結される。リセットスイッチSWは、リセットスイッチング信号RSに応答してオン又はオフされ、第2増幅器-A2の入力端と出力端とを連結することで、第2増幅器-A2の両端の電圧が同一になるように増幅電圧VAをリセットする。一実施形態において、リセットスイッチSWは、PMOSトランジスタを含むが、それに限定されるものではなく、リセットスイッチSWは、多様に具現され得る。
【0065】
第1キャパシタC1は、リセット動作時、ソースフォロワ電圧VSFを基準にリセットされる。例えば、リセット動作時、リセットスイッチSWによって第2増幅器-A2の入力端と出力端とが短絡(short)されて、第1キャパシタC1の一端には、ソースフォロワ電圧VSFが印加され、第1キャパシタC1の他端には、増幅器回路113の増幅電圧VAが印加される。第1キャパシタC1は、両端の電位差に該当する電圧を保存する。即ち、増幅器回路113は、リセットスイッチング信号RSに応答してリセットスイッチSWがオン状態になることにより、増幅電圧VAがリセットされた時点以後に光の強度変化によるソースフォロワ電圧VSFの電圧変化量を増幅して、増幅電圧VAを生成する。
【0066】
本発明では、第2増幅器-A2が負のゲイン(例えば、「-A2」)を有するように具現され、ソースフォロワ電圧VSFが増加すると(即ち、光強度が増加すると)、増幅電圧VAが減少し、ソースフォロワ電圧VSFが減少すると(即ち、光強度が減少すると)、増幅電圧VAが増加することを前提として説明する。しかし、本発明は、それに限定されず、第2増幅器-A2が正のゲインを有するように具現され得るということは言うまでもない。
【0067】
リセットスイッチング回路114は、リセット信号RST及び選択信号SELに応答してリセットスイッチング信号RSを生成する。リセット信号RSTは、
図2のリセット信号(RST[0]~RST[n-1])のうちの1つである。例えば、リセットスイッチング回路114は、リセット信号RST及び選択信号SELを受信してリセットスイッチング信号RSを生成するANDゲート回路を含む。従って、リセットスイッチング回路114は、ロジックハイのリセット信号RST及びロジックハイの選択信号SELが受信されるときに、ロジックハイのリセットスイッチング信号RSを生成する。即ち、ピクセルPXからオンイベント又はオフイベントが発生したことが検出され、ピクセルPXが選択信号SELによって選択されるときに、増幅器回路113がリセットされる。
【0068】
一実施形態において、リセットスイッチング信号RSは、休止期(refractory period)を有する信号として生成される。リセットスイッチング信号RSは、スイッチの不要なリセットを防止するために、リセットのスイッチSWがリセットされた後、再びスイッチをオンにするまで、一定期間の休止期を有する。但し、実施形態はそれに限定されず、リセットスイッチング信号RSは、上述した休止期なしに増幅器回路113のリセットスイッチSWに伝送されるか又は伝達され得る。
【0069】
第2出力回路OC2は、増幅電圧VAを受信し、選択信号SELに応答して第2出力電圧VOUT2を生成する。第2出力回路OC2は、第2駆動トランジスタT21及び第2選択トランジスタT22を含む。
【0070】
第2駆動トランジスタT21は、バッファ増幅器として増幅電圧VAによる信号をバッファリングする。第2駆動トランジスタT21は、増幅電圧VAを増幅して、それを第2カラムラインに第2出力電圧VOUT2として出力する。
【0071】
第2選択トランジスタT22は、ドレイン端子が第2駆動トランジスタT21のソース端子に連結される。選択信号SELに応答し、第2出力ラインを介してイベント検出回路(例えば、
図2の130)に第2出力電圧VOUT2を出力する。
【0072】
従って、本発明によるビジョンセンサ100のピクセルPXは、光電変換素子PDで生成された光電流IPDをログスケールに増幅したログ電圧VLOGの大きさによる第1出力電圧VOUT1を生成し、且つピクセルPXは、光電変換素子PDで生成された光電流IPDをログスケールに増幅したログ電圧VLOG(又は、ソースフォロワ電圧VSF)の大きさの変化による第2出力電圧VOUT2を生成する。従って、ビジョンセンサ100は、イベント発生の有無に関するイベント情報を含むイベントデータ(
図2のVDT)及び光強度に関する強度情報を含む強度イメージデータ(
図2のIIDT)の両方を生成する。
【0073】
図6及び
図7は、本発明の一実施形態によるピクセルアレイ110に含まれるピクセル(PX1、PX2)の多様な例を示す回路図である。ピクセル(PX1、PX2)は、
図2のピクセルPXの一例である。
図6及び
図7に関する説明で、
図5との重複説明については説明を省略する。
【0074】
図6を参照すると、ピクセルPX1は、光電変換素子PDを含む電流-電圧変換回路111、ソースフォロワSF、増幅器回路113、リセットスイッチング回路114、第1出力回路OC11、及び第2出力回路OC21を含む。
【0075】
第1出力回路OC11は、ログ電圧VLOGを受信し、第1選択信号SEL1に応答して第1出力電圧VOUT1を生成する。第1出力回路OC11は、第1駆動トランジスタT11及び第1選択トランジスタT12を含む。第1出力回路OC11の第1選択トランジスタT12は、第1選択信号SEL1に応答して、第1出力ラインを介してリードアウト回路(例えば、
図2の160)に第1出力電圧VOUT1を出力する。第1選択信号SEL1は、
図2の選択信号SEL[0]~SEL[n-1]に含まれる。
【0076】
第2出力回路OC21は、増幅電圧VAを受信し、第2選択信号SEL2に応答して第2出力電圧VOUT2を生成する。第2出力回路OC21は、第2駆動トランジスタT21及び第2選択トランジスタT22を含む。第2出力回路OC21の第2選択トランジスタT22は、第2選択信号SEL2に応答して、第2出力ラインを介してイベント検出回路(例えば、
図2の130)に第2出力電圧VOUT2を出力する。第2選択信号SEL2は、
図2の選択信号SEL[0]~SEL[n-1]に含まれる。
【0077】
本発明によるビジョンセンサ100のピクセルPX1は、光電変換素子PDで生成された光電流IPDをログスケールに増幅したログ電圧VLOGの大きさによる第1出力電圧VOUT1を生成し、且つピクセルPX1は、ログ電圧VLOG(又は、ソースフォロワ電圧VSF)の大きさの変化による第2出力電圧VOUT2を生成する。この際、ピクセルPX1は、第1選択信号SEL1に応答して第1出力電圧VOUT1を出力し、第2選択信号SEL2に応答して第2出力電圧VOUT2を出力する。即ち、第1出力電圧VOUT1及び第2出力電圧VOUT2のそれぞれの出力は、それぞれ異なる選択信号、即ち第1選択信号SEL1及び第2選択信号SEL2のそれぞれによって制御される。従って、ビジョンセンサ100は、イベントデータVDT及び強度イメージデータIIDTをそれぞれ独立して生成し、イベントデータVDT及び強度イメージデータIIDTをそれぞれ独立してプロセッサ(例えば、
図1A又は
図1Bの300)に伝送する。
【0078】
図7を参照すると、ピクセルPX2は、光電変換素子PDを含む電流-電圧変換回路111、ソースフォロワSF、増幅器回路113、リセットスイッチング回路114、第1出力回路OC12、及び第2出力回路OC2を含む。
【0079】
第1出力回路OC12は、ログ電圧VLOGを受信し、リセットスイッチング信号RSに応答して第1出力電圧VOUT1を生成する。第1出力回路OC12は、第1駆動トランジスタT11及び第1選択トランジスタT12を含む。第1出力回路OC12の第1選択トランジスタT12は、リセットスイッチング信号RSに応答して、第1出力ラインを介してリードアウト回路160に第1出力電圧VOUT1を出力する。従って、第1出力回路OC12は、増幅器回路113がリセットされるときに、第1出力電圧VOUT1を出力する。
【0080】
本発明によるビジョンセンサ100のピクセルPX2は、光電変換素子PDで生成された光電流IPDをログスケールに増幅したログ電圧VLOGの大きさによる第1出力電圧VOUT1を生成し、且つピクセルPX2は、ログ電圧VLOG(又は、ソースフォロワ電圧VSF)の大きさの変化による第2出力電圧VOUT2を生成する。この際、ピクセルPX2は、ピクセルPX2からオンイベント又はオフイベントが発生したことが検出されて、ピクセルPX2が選択信号SELによって選択されるときに、増幅器回路113がリセットされると共に第1出力電圧VOUT1を出力する。従って、ビジョンセンサ100は、イベントが発生したことが検出されたピクセルのみの強度情報を抽出し、検出されたピクセルによる強度イメージデータIIDTを生成してプロセッサ300に伝送する。
【0081】
図8は、本発明の一実施形態によるビジョンセンサ100’の他の例を示すブロック図である。
図9は、本発明の一実施形態によるピクセルアレイ110’に含まれるピクセルPX’の第4例を示す回路図である。
図8のビジョンセンサ100’は、
図1A又は
図1Bのビジョンセンサ100の他の例を示すブロック図である。
図8及び
図9に関する説明で、
図2及び
図5との重複説明については説明を省略する。
【0082】
図8及び
図9を参照すると、ビジョンセンサ100’は、ピクセルアレイ110’、ロウドライバ120、データ出力ロジック140、制御ロジック150、及びリードアウト回路160を含む。
図2のビジョンセンサ100と比べて、
図8のビジョンセンサ100’は、
図2のイベント検出回路130に対応する構成がピクセルPX’の内部に具現される。ビジョンセンサ100’は、ピクセルPX’に提供されるオン基準電圧VREF1及びオフ基準電圧VRER2を生成する電圧生成器を更に含む。
【0083】
ピクセルアレイ110’は、マトリックス状(例えば、(n)x(m)マトリックス、n及びmは、自然数)に配列された複数のピクセルPX’を含む。複数のピクセルPXのそれぞれは、ロウラインを介して受信された対応する選択信号(SEL[0]~SEL[n-1]のうちの1つ)に応答して第1出力電圧(VOUT1[0]~VOUT1[m-1]のうちの1つ)を第1カラムラインを介して出力する。リードアウト回路160は、第1出力電圧VOUT1[0]~VOUT1[m-1]を受信して強度イメージデータIIDTを出力する。リードアウト回路160は、第1出力電圧VOUT1[0]~VOUT1[m-1]をアナログ-デジタル変換することで、強度イメージデータIIDTを生成する。
【0084】
複数のピクセルPX’のそれぞれは、受信された光強度が増減するイベントなどを感知する。複数のピクセルPX’のそれぞれは、オン信号(E_ON[0]~E_ON[m-1]のうちの1つ)又はオフ信号(E_OFF[0]~E_OFF[m-1]のうちの1つ)を生成し、第2カラムラインを介してオン信号(E_ON[0]~E_ON[m-1]のうちの1つ)をデータ出力ロジック140に伝送し、第3カラムラインを介してデータ出力ロジック140にオフ信号(E_OFF[0]~E_OFF[m-1]のうちの1つ)を伝送する。
【0085】
データ出力ロジック140は、オン信号E_ON[0]~E_ON[m-1]及びオフ信号E_OFF[0]~E_OFF[m-1]を受信し、オン信号E_ON[0]~E_ON[m-1]及びオフ信号E_OFF[0]~E_OFF[m-1]によって発生したイベントの極性に関するイベント情報DATA及びイベントが発生したピクセルPXのアドレス情報ADDRを含むイベントデータVDTを生成する。
【0086】
ピクセルPX’は、光電変換素子PDを含む電流-電圧変換回路111、ソースフォロワSF、増幅器回路113、リセットスイッチング回路114’、第1出力回路OC、比較回路(115_1、115_2)、及びホルダー(117_1、117_2)を含む。比較回路(115_1、115_2)は、
図2のイベント検出回路130の構成に対応する。
【0087】
比較回路(115_1、115_2)は、第1比較回路115_1及び第2比較回路115_2を含む。第1比較回路115_1は、増幅電圧VAをオン基準電圧VREF1と比較し、比較結果によってオン信号E_ONを生成する。第2比較器112は、増幅電圧VAをオフ基準電圧VREF2と比較し、比較結果によってオフ信号E_OFFを生成する。第1比較回路115_1及び第2比較器112は、光電変換素子PDに受信される光の変化による増幅電圧VAの変化量が一定基準以上である場合に、オン信号E_ON又はオフ信号E_OFFを生成する。例えば、オン信号E_ONは光電変換素子PDに受信される光量が一定レベル以上増加する場合にハイレベルになり、オフ信号E_OFFは光電変換素子PDに受信される光量が一定レベル以上減少する場合にハイレベルになる。
【0088】
例えば、増幅器回路113が負のゲイン(例えば、「-A2」)を有するように具現された場合、第1比較器115_1は、増幅電圧VAがオン基準電圧VREF1よりも低くなると、オンイベントの発生を示すオン信号E_ONを生成する。また、第2比較器115_2は、増幅電圧VAがオフ基準電圧VREF2よりも高くなると、オフイベントの発生を示すオフ信号E_OFFを生成する。
【0089】
ホルダー(117_1、117_2)は、オンイベントホルダー117_1及びオフイベントホルダー117_2を含む。オンイベントホルダー117_1及びオフイベントホルダー117_2のそれぞれは、選択信号SELに応答してオン信号E_ON及びオフ信号E_OFFをホルディングした後、出力する。
【0090】
リセットスイッチング回路114’は、ピクセルPX’の内部に位置するセルフリセット回路と称される。オン信号E_ON又はオフ信号E_OFFのうちのいずれか1つが発生した場合、リセットスイッチング回路114’は、リセットスイッチング信号RSを自体的に生成し、増幅器回路113のリセットスイッチSWに伝送することにより、増幅器回路113をリセットする。
【0091】
リセットスイッチング回路114’は、例えばORゲートを含む。従って、リセットスイッチング回路114’は、ロジックハイのオン信号E_ON又はロジックハイのオフ信号E_OFFが受信されると、リセットスイッチSWがオン状態になるようにリセットスイッチング信号RSを生成してリセットスイッチSWに提供する。
【0092】
但し、
図9に示したものとは異なり、ピクセルPX’は、リセットスイッチング信号RSを自体的に生成するリセットスイッチング回路114’を含まない場合もある。ピクセルPX’の外部(例えば、データ出力ロジック140)から提供されたリセット信号によってピクセルPX’の増幅器回路113がリセットされ得る。
【0093】
第1出力回路OC1は、ログ電圧VLOGを受信し、選択信号SELに応答して第1出力電圧VOUT1を生成し、第1出力電圧VOUT1をリードアウト回路160に伝送する。第1出力回路OC1は、第1駆動トランジスタT11及び第1選択トランジスタT12を含む。第1選択トランジスタT12は、選択信号SELに応答して、第1出力ラインを介してリードアウト回路160に第1出力電圧VOUT1を出力する。選択信号SELは、
図8の選択信号SEL[0]~SEL[n-1]のうちの1つである。
【0094】
但し、
図9に示したものとは異なり、第1出力回路OC1は、ホルダー(117_1、117_2)に提供される選択信号SELとは独立した選択信号を受信して第1出力電圧VOUT1を出力してもよい。例えば、
図6のピクセルPX1の第1出力回路OC11のように、第1出力回路OC1は、ホルダー(117_1、117_2)に提供される選択信号SELとは別途の選択信号をロウドライバ120から受信して第1出力電圧VOUT1を出力する。或いは、例えば
図7のピクセルPX2の第1出力回路OC12のように、第1出力回路OC1は、リセットスイッチング信号RSに応答して第1出力電圧VOUT1を出力する。従って、第1出力回路OC12は、増幅器回路113がリセットされるときに、第1出力電圧VOUT1を出力する。
【0095】
図10及び
図11は、本発明の一実施形態によるビジョンセンサ(100A、100B)を示す図である。
【0096】
図10を参照すると、ビジョンセンサ100Aは、垂直方向に積層された第1チップCP1と第2チップCP2とを含む積層型ビジョンセンサである。ビジョンセンサ100は、
図2及び
図8などで説明したイメージセンサ(100、100’)が具現されたものでもある。
【0097】
第1チップCP1は、ピクセル領域PR1及びパッド領域PR2を含み、第2チップCP2は、回路領域PR3及びパッド領域PR2’を含む。ピクセル領域PR1には、
図5~
図7、及び
図9で説明したピクセル(PX、PX1、PX2、PX’)の構成のうちの少なくとも一部が形成される。一実施形態において、ピクセル(PX、PX1、PX2、PX’)のフォトダイオードPDを含む電流-電圧変換回路111は、第1チップCP1のピクセル領域PR1に形成され、電流-電圧変換回路111を除いたピクセル(PX、PX1、PX2、PX’)の構成、例えばソースフォロワSF、増幅器回路113、第1出力回路(OC1、OC11、OC12)、第2出力回路(OC2、OC21)、リセットスイッチング回路114、比較回路(115_1、115_2)、及びホルダー(117_1、117_2)は、第2チップCP2に形成される。但し、それに限定されず、電流-電圧変換回路111以外のピクセル(PX、PX1、PX2、PX’)の構成も第1チップCP1に形成され得る。
【0098】
第2チップCP2の回路領域PR3には、複数のトランジスタが形成される。例えば、第2チップCP2の回路領域PR3には、
図2及び
図8で説明したロウドライバ120、イベント検出回路130、データ出力ロジック140、制御ロジック150、及びリードアウト回路160が形成される。回路領域PR3に形成された回路は、ピクセル領域PR1に形成された複数のピクセル(PX、PX1、PX2、PX’)のそれぞれで生成されたログ電圧VLOGによるイベントデータVDT及び強度イメージデータIIDTを生成する。
【0099】
第1チップCP1のパッド領域PR2は複数の第1導電パッドPADを含み、第2チップCP2のパッド領域PR2’は複数の第2導電パッドPAD’を含む。複数の第1導電パッドPADは、複数の第2導電パッドPAD’に対応し、ビア構造物VSによって複数の第2導電パッドPAD’に電気的に連結される。
【0100】
図11を参照すると、ビジョンセンサ100Bは、垂直方向に積層された第1チップCP1、第2チップCP2、及び第3チップCP3を含む積層型イメージセンサである。ビジョンセンサ100Bは、
図2及び
図8などで説明したイメージセンサ(100、100’)が具現されたものである。
【0101】
第1チップCP1のピクセル領域PR1には、
図5~
図7、及び
図9で説明したピクセル(PX、PX1、PX2、PX’)の構成のうちの少なくとも一部が形成される。一実施形態において、ピクセル(PX、PX1、PX2、PX’)のフォトダイオードPDを含む電流-電圧変換回路111は、第1チップCP1のピクセル領域PR1に形成され、電流-電圧変換回路111を除いたピクセル(PX、PX1、PX2、PX’)の構成、例えばソースフォロワSF、増幅器回路113、第1出力回路(OC1、OC11、OC12)、第2出力回路(OC2、OC21)、リセットスイッチング回路114、比較回路(115_1、115_2)、及びホルダー(117_1、117_2)は、第2チップCP2に形成される。
【0102】
第2チップCP2の回路領域PR3には、
図2及び
図8で説明したロウドライバ120、イベント検出回路130、データ出力ロジック140、及び制御ロジック150が形成される。即ち、第2チップCP2の回路領域PR3には、ピクセル領域PR1に形成された複数のピクセル(PX、PX1、PX2、PX’)のそれぞれで生成されたログ電圧VLOGの大きさの変化によるイベントデータVDTを生成するための回路構成が形成される。
【0103】
第3チップCP2の回路領域PR4には、
図2及び
図8で説明したリードアウト回路160が形成される。即ち、第3チップCP2の回路領域PR4には、ピクセル領域PR1に形成された複数のピクセル(PX、PX1、PX2、PX’)のそれぞれで生成されたログ電圧VLOGの大きさによる強度イメージデータIIDTを生成するための回路構成が形成される。
【0104】
第1チップCP1のパッド領域PR2は複数の第1導電パッドPADを含み、第2チップCP2のパッド領域PR2’は複数の第2導電パッドPAD’を含み、第3チップCP3のパッド領域PR2”は複数の第3導電パッドPAD”を含む。複数の第1導電パッドPAD、複数の第2導電パッドPAD’、及び複数の第3導電パッドPAD”は、第1ビア構造物VS1及び第2ビア構造物VS2によって互いに電気的に連結される。
【0105】
図12は、本発明の一実施形態によるビジョンセンサ1100が適用された電子機器1000の一例を示すブロック図である。
【0106】
図12を参照すると、電子機器1000は、ビジョンセンサ1100、メインプロセッサ1200、ワーキングメモリ1300、ストレージ1400、ディスプレイ装置1500、通信部1600、及びユーザインターフェース1700を含む。ビジョンセンサ1100は、
図1A~
図11で説明したビジョンセンサ(100、100’、100A、100B)である。
【0107】
ビジョンセンサ1100は、オブジェクトの動きをセンシングしてイベントデータ(例えば、
図1A又は
図1BのVDT)を生成し、オブジェクトから反射された光の強度による強度イメージデータ(例えば、
図1A又は
図1BのIIDT)を生成し、イベントデータVDT及び強度イメージデータIIDTをメインプロセッサ1200に伝送する。メインプロセッサ1200は、電子機器1000の全般的な動作を制御し、ビジョンセンサ1100から受信されたイベントデータVDTを処理して物体の動きを検出し、イメージセンサから出力されたイメージデータのイメージ処理を遂行する。従って、メインプロセッサ1200は、イメージデータの効率的なイメージ処理(例えば、デブラー(deblur)処理など)が可能であり、且つ高いダイナミックレンジ(High Dynamic Range:HDR)のイメージデータを生成することが可能である。
【0108】
ワーキングメモリ1300は、電子機器1000の動作に用いられるデータを保存する。例えば、ワーキングメモリ1300は、プロセッサ1120によって処理されたパケット又はフレームを一時的に保存する。例えば、ワーキングメモリ1300は、DRAM(Dynamic RAM)、SDRAM(Synchronous RAM)のような揮発性メモリ、及び/又はPRAM(Phase-change RAM)、MRAM(Magneto-resistive RAM)、ReRAM(Resistive RAM)、FeRAM(Ferro-electric RAM)のような不揮発性メモリを含む。
【0109】
ストレージ1400は、メインプロセッサ1200又は他の構成から保存が要請されたデータを保存する。ストレージ1400は、フラッシュメモリ、PRAM、MRAM、ReRAM、FeRAMのような不揮発性メモリを含む。
【0110】
ディスプレイ装置1500は、ディスプレイパネル、ディスプレイ駆動回路、及びDSI(display serial interface)を含む。例えば、ディスプレイパネルは、LCD(Liquid Crystal Display)装置、LED(Light Emitting Diode)表示装置、OLED(Organic LED)表示装置、AMOLED(Active Matrix OLED)表示装置のような多様な装置によって具現される。ディスプレイ駆動回路は、ディスプレイパネルの駆動に必要なタイミングコントローラ、ソースドライバなどを含む。メインプロセッサ1200に内蔵されたDSIホストは、DSIを通じてディスプレイパネルとシリアル通信を遂行する。
【0111】
通信部1600は、アンテナ1630を通じて外部装置/システムと信号を交換する。通信部1600の送受信器1610及びMODEM(Modulator/Demodulator)1620は、LTE(Long Term Evolution)、WIMAX(WorldwideInteroperability for Microwave Access)、GSM(登録商標)(Global System for Mobile communication)、CDMA(登録商標)(CodeDivision Multiple Access)、Bluetooth(登録商標)、NFC(Near Field Communication)、Wi-Fi(Wireless Fidelity)、RFID(Radio Frequency Identification)のような無線通信規約によって、外部装置/システムと交換される信号を処理する。
【0112】
ユーザインターフェース1700は、キーボード、マウス、キーパッド、ボタン、タッチパネル、タッチスクリーン、タッチパッド、タッチボール、ジャイロスコープセンサ、振動センサ、加速センサのような入力インターフェースのうちの少なくとも1つを含む。
【0113】
電子機器1000の構成要素、例えばビジョンセンサ1100、メインプロセッサ1200、ワーキングメモリ1300、ストレージ1400、ディスプレイ装置1500、通信部1600、及びユーザインターフェース1700は、USB(Universal Serial Bus)、SCSI(Small Computer System Interface)、MIPI、I2C、PCIe(Peripheral Component Interconnect Express)、M-PCIe(Mobile PCIe)、ATA(Advanced TechnologyAttachment)、PATA(Parallel ATA)、SATA(Serial ATA)、SAS(Serial Attached SCSI)、IDE(Integrated DriveElectronics)、EIDE(Enhanced IDE)、NVMe(Nonvolatile Memory Express)、UFS(Universal Flash Storage)のような多様なインターフェース規約のうちの1つ以上に基づいてデータを交換する。
【0114】
以上、本発明の実施形態について図面を参照しながら詳細に説明したが、本発明は上述の実施形態に限定されるものではなく、本発明の技術的思想から逸脱しない範囲内で、多様に変更実施することが可能である。
【符号の説明】
【0115】
10、10a イメージ処理装置
100、100‘、100A、100B、1100 ビジョンセンサ
110 ピクセルアレイ
111 電流-電圧変換回路
113 増幅器回路
114、114‘ リセットスイッチング回路
115_1、115_2 第1、第2比較回路
117_1 オンイベントホルダー
117_2 オフイベントホルダー
120 ロウドライバ
130 イベント検出回路
131 イベント決定回路
131_1、131_2 第1、第2比較回路
132 リセット回路
140 データ出力ロジック
150 制御ロジック
160 リードアウト回路
161 ランプ信号生成器
300 プロセッサ
400 デバイス
1000 電子機器
1200 メインプロセッサ
1300 ワーキングメモリ
1400 ストレージ
1500 ディスプレイ装置
1600 通信部
1610 送受信器
1620 MODEM
1630 アンテナ
1700 ユーザインターフェース
-A1、-A2 第1、第2増幅器
ADDR アドレス情報
BF バッファ
C1、C2 第1、第2キャパシタ
CNT カウンタ
COM 比較器
CP1、CP2、CP3 第1~第3チップ
DATA イベント情報
E_OFF オフ信号
E_ON オン信号
IDT イメージデータ(イメージフレーム)
IIDT 強度イメージデータ
IPD 光電流
IS 電流源
MN1 フィードバックトランジスタ(nMOSトランジスタ)
MN2 ソースフォロワトランジスタ(nMOSトランジスタ)
OC1、OC11、OC12 第1出力回路
OC2、OC21 第2出力回路
PAD、PAD’、PAD“ 第1~第3導電パッド
PD フォトダイオード(光電変換素子)
PR1 ピクセル領域
PR2、PR2‘、PR2“ 第1~第3チップのパッド領域
PR3 第2チップの回路領域
PR4 第3チップの回路領域
PX、PX‘、PX1、PX2 ピクセル
RAMP ランプ信号
RS リセットスイッチング信号
RST リセット信号
SEL 選択信号
SEL1、SEL2 第1、第2選択信号
SF ソースフォロワ
SYNC 同期化信号
SW スイッチ
T11、T21 第1、第2駆動トランジスタ
T12、T22 第1、第2選択トランジスタ
VA 増幅電圧
VDT イベントデータ(ビジョンセンサデータ)
VLOG ログ電圧
VOUT 出力電圧
VOUT1、VOUT2 第1、第2出力電圧
VREF_OFF オフ基準電圧
VREF_ON オン基準電圧
VREF1 オン基準電圧
VREF2 オフ基準電圧
VS1、VS2 第1、第2ビア構造物
VSF ソースフォロワ電圧