(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-05
(45)【発行日】2024-07-16
(54)【発明の名称】光電変換装置、光電変換システム
(51)【国際特許分類】
H04N 25/773 20230101AFI20240708BHJP
H01L 31/107 20060101ALI20240708BHJP
H01L 31/10 20060101ALI20240708BHJP
【FI】
H04N25/773
H01L31/10 B
H01L31/10 G
(21)【出願番号】P 2022083065
(22)【出願日】2022-05-20
【審査請求日】2023-03-24
(31)【優先権主張番号】P 2021145932
(32)【優先日】2021-09-08
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2022018803
(32)【優先日】2022-02-09
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100223941
【氏名又は名称】高橋 佳子
(74)【代理人】
【識別番号】100159695
【氏名又は名称】中辻 七朗
(74)【代理人】
【識別番号】100172476
【氏名又は名称】冨田 一史
(74)【代理人】
【識別番号】100126974
【氏名又は名称】大朋 靖尚
(72)【発明者】
【氏名】大田 康晴
(72)【発明者】
【氏名】森本 和浩
【審査官】鈴木 明
(56)【参考文献】
【文献】特開2020-123847(JP,A)
【文献】国際公開第2019/241205(WO,A1)
【文献】特開2018-182554(JP,A)
【文献】特開2020-088520(JP,A)
【文献】国際公開第2016/009832(WO,A1)
【文献】特開2019-080225(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/00-25/79
H01L 31/107
H01L 31/10
(57)【特許請求の範囲】
【請求項1】
アバランシェ増倍を行うフォトダイオードと、
前記フォトダイオードと電源との間に配され、前記フォトダイオードを前記電源に電気的に接続する第1の状態と、前記フォトダイオードを前記電源に電気的に接続しない第2の状態に切り替える回路と、
前記フォトダイオードからの出力信号をカウントするカウンタと、
露光期間に含まれ、前記露光期間よりも短い所定の露光期間内に、前記カウンタのカウント値が閾値に達したことを示す時間情報が書き込まれるメモリと、を有し、
前記露光期間において、クロック信号が、前記回路に入力可能に構成されていることを特徴とする光電変換装置。
【請求項2】
前記所定の露光期間は、第1の露光期間と、第2の露光期間を有することを特徴とする請求項1に記載の光電変換装置。
【請求項3】
前記第1の露光期間は、前記第2の露光期間よりも短く、前記第1の露光期間内における前記クロック信号のパルス数は、前記カウンタの最大カウント値以上であることを特徴とする請求項2に記載の光電変換装置。
【請求項4】
前記閾値は、前記カウンタの最大カウント値であることを特徴とする請求項1から3のいずれか1項に記載の光電変換装置。
【請求項5】
前記閾値は、前記カウンタの最大カウント値よりも小さいことを特徴とする請求項1から3のいずれか1項に記載の光電変換装置。
【請求項6】
前記閾値は、前記カウンタの最大カウント値/n、であることを特徴とする請求項1から3のいずれか1項に記載の光電変換装置。
【請求項7】
前記所定の露光期間は、第1の露光期間と、第1の露光期間よりも長い露光期間である第2の露光期間を有し、
前記nは、前記第2の露光期間の長さ/前記第1の露光期間の長さ、の値以上であることを特徴とする請求項6に記載の光電変換装置。
【請求項8】
前記第2の露光期間の長さは、前記第1の露光期間の長さの2倍以上であることを特徴とする請求項2に記載の光電変換装置。
【請求項9】
前記所定の露光期間は、前記第2の露光期間よりも長い露光期間である第3の露光期間を有し、前記第3の露光期間の長さは、前記第2の露光期間の長さの2倍以上であることを特徴とする請求項2または8に記載の光電変換装置。
【請求項10】
前記所定の露光期間は、前記第2の露光期間よりも長い露光期間である第3の露光期間を有し、前記第3の露光期間の長さは、前記第2の露光期間の長さの4倍以上であり、
前記第2の露光期間の長さは、前記第1の露光期間の長さの4倍以上であることを特徴とする請求項2
または8
に記載の光電変換装置。
【請求項11】
前記カウンタが前記所定の露光期間内に前記閾値に達した場合に、前記回路が有するトランジスタのゲートに供給する電位を変える制御回路を有することを特徴とする請求項1に記載の光電変換装置。
【請求項12】
前記カウンタが前記所定の露光期間内に前記閾値に達した場合に、前記カウンタを停止する制御回路を有することを特徴とする請求項1に記載の光電変換装置。
【請求項13】
前記カウンタのビット数よりも前記メモリのビット数が少ないことを特徴とする請求項1に記載の光電変換装置。
【請求項14】
前記フォトダイオードと前記カウンタの間に論理回路を有し、前記露光期間において、前記論理回路に前記クロック信号が入力されることを特徴とする請求項1記載の光電変換装置。
【請求項15】
前記露光期間内における前記クロック信号の周波数が2種類以上あることを特徴とする請求項1に記載の光電変換装置。
【請求項16】
前記第1の露光期間内における前記クロック信号の平均周波数である第1の周波数と、前記第2の露光期間内における前記クロック信号の平均周波数である第2の周波数とが異なることを特徴とする請求項2に記載の光電変換装置。
【請求項17】
前記第1の周波数は、前記第2の周波数よりも大きいことを特徴とする請求項16に記載の光電変換装置。
【請求項18】
前記第1の露光期間における単位時間当たりの前記クロック信号のパルス数は、前記第2の露光期間における単位時間当たりの前記クロック信号のパルス数よりも多いことを特徴とする請求項2に記載の光電変換装置。
【請求項19】
請求項1に記載の光電変換装置から出力された信号を演算する演算回路であって、
前記演算回路は、前記時間情報に基づいて、前記カウンタのカウント値の増倍率を変化させることを特徴とする演算回路。
【請求項20】
請求項1記載の光電変換装置は、請求項19に記載の演算回路を有することを特徴とする請求項1に記載の光電変換装置。
【請求項21】
前記回路は、ゲートを有するトランジスタを含み、
前記クロック信号は、前記ゲートに入力されることを特徴とする請求項1に記載の光電変換装置。
【請求項22】
アバランシェ増倍を行うフォトダイオードと、
前記フォトダイオードと電源との間に配され、前記フォトダイオードと前記電源との接続状態を第1の状態と第2の状態とで切り替える回路と、
前記フォトダイオードからの出力信号をカウントするカウンタと、
露光期間に含まれ、前記露光期間よりも短い所定の露光期間内に、前記カウンタのカウント値が閾値に達したことを示す時間情報が書き込まれるメモリと、を有し、
前記露光期間において、クロック信号が、前記回路に入力可能に構成されていることを特徴とする光電変換装置。
【請求項23】
前記回路は、ゲートを有するトランジスタを含み、
前記クロック信号は、前記ゲートに入力されることを特徴とする請求項22に記載の光電変換装置。
【請求項24】
前記第1の状態は、前記トランジスタをオンし、前記フォトダイオードと前記電源とが電気的に接続される状態であり、
前記第2の状態は、前記トランジスタをオフする状態であることを特徴とする請求項23に記載の光電変換装置。
【請求項25】
請求項1に記載の光電変換装置と、請求項19に記載の演算回路と、を有することを特徴とする光電変換システム。
【請求項26】
請求項1に記載の光電変換装置と、
前記光電変換装置が出力する信号を用いて画像を生成する信号処理部と、を有することを特徴とする光電変換システム。
【請求項27】
請求項1に記載の光電変換装置を備える移動体であって、
前記光電変換装置が出力する信号を用いて前記移動体の移動を制御する制御部を有することを特徴とする移動体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、光電変換装置、および光電変換システムに関する。
【背景技術】
【0002】
アバランシェ(電子なだれ)増倍を利用し、単一光子レベルの微弱光を検出可能なアバランシェフォトダイオード(APD)を用いた光検出装置が知られている。APDは、信号電荷と同じ極性の第1導電型の第1半導体領域と、信号電荷と異なる極性の第2導電型の第2半導体領域とにより高電界領域(アバランシェ増倍部)を形成する。
【0003】
特許文献1は、APDでアバランシェ増倍が可能な待機状態と、APDを待機状態に戻すリチャージ状態とを所定の周波数を有するクロック信号で制御する光検出装置が記載されている。具体的には、クロック信号がAPDに逆バイアスを印可する電源とAPDとの間に設けられたスイッチのオンとオフを制御する。例えば、クロック信号が第1のレベルの場合に、スイッチがオフになり、APDは待機状態となる。また、クロック信号が第2のレベルの場合に、スイッチがオンになり、APDはリチャージ状態となる。また、クロック信号は、APDからの出力信号と論理をとるように構成されている。このため、待機状態でAPDに光子が入った場合、クロック信号が第1のレベルから第2のレベルに遷移するタイミングで、APDから出力信号がカウンタに出力される構成となっている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1の構成を用いることにより、高照度の場合に、光子がカウントされなくなるという、いわゆるパイルアップ現象を抑制することができる。しかし、特許文献1の構成では、所定以上の高照度になった場合に、カウント値が飽和してしまうため、ダイナミックレンジの拡大が不十分であった。
【0006】
そこで、本発明は、特許文献1の構成よりも、よりダイナミックレンジを拡大可能なAPDを有する光電変換装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明にかかる光電変換装置は、アバランシェ増倍を行うフォトダイオードと、前記フォトダイオードと電源との間に配され、前記フォトダイオードを前記電源に電気的に接続する第1の状態と、前記フォトダイオードを前記電源に電気的に接続しない第2の状態に切り替える回路と、前記フォトダイオードからの出力信号をカウントするカウンタと、露光期間に含まれ、前記露光期間よりも短い所定の露光期間内に、前記カウンタのカウント値が閾値に達したことを示す時間情報が書き込まれるメモリと、を有し、前記露光期間において、クロック信号が、前記回路に入力可能に構成されていることを特徴とする。
【発明の効果】
【0008】
本発明によれば、特許文献1の構成よりも、ダイナミックレンジを拡大可能なAPDを有する光電変換装置を提供することができる。
【図面の簡単な説明】
【0009】
【
図6】各形態における画素回路のブロック図および等価回路図
【
図7】比較例における照度とカウント値との関係を示す図
【
図8】各形態における時間とカウント値との関係を示す図
【
図9】本実施形態における照度とカウント値、および、照度と露光時間の関係を示す図
【
図10】本実施形態における光電変換素子の詳細なブロック図
【
図11】本実施形態における光電変換素子のタイミングチャート
【
図12】各形態における光子入射数とカウント値との関係を示す図
【
図15】第2の実施形態で説明するクロック信号を示す図
【
図16】第3の実施形態で説明するクロック信号を示す図
【
図17】第3の実施形態で説明するクロック信号を示す図
【
図18】第4の実施形態の光電変換システムのブロック図
【
図19】第5の実施形態の光電変換システムのブロック図
【
図20】第6の実施形態の光電変換システムのブロック図
【
図21】第7の実施形態の光電変換システムのブロック図
【
図22】第8の実施形態の光電変換システムの具体例を示す図
【発明を実施するための形態】
【0010】
以下に示す形態は、本発明の技術思想を具体化するためのものであって、本発明を限定するものではない。各図面が示す部材の大きさや位置関係は、説明を明確にするために誇張していることがある。以下の説明において、同一の構成については同一の番号を付して説明を省略することがある。また、各実施形態で説明した構成は、技術的に問題がない限り、その他の実施形態で説明した構成と相互に置換したり組み合わせたりすることが可能である。
【0011】
以下、図面に基づいて本発明の実施の形態を詳細に説明する。なお、以下の説明では、必要に応じて特定の方向や位置を示す用語(例えば、「上」、「下」、「右」、「左」及び、それらの用語を含む別の用語)を用いる。それらの用語の使用は図面を参照した発明の理解を容易にするためであって、それらの用語の意味によって本発明の技術的範囲が限定されるものではない。
【0012】
以下の説明において、アバランシェフォトダイオード(APD)のアノードを固定電位とし、カソード側から信号を取り出している。したがって、信号電荷と同じ極性の電荷を多数キャリアとする第1導電型の半導体領域とはN型半導体領域であり、信号電荷と異なる極性の電荷を多数キャリアとする第2導電型の半導体領域とはP型半導体領域である。なお、APDのカソードを固定電位とし、アノード側から信号を取り出してもよい。この場合は、信号電荷と同じ極性の電荷を多数キャリアとする第1導電型の半導体領域はP型半導体領域であり、信号電荷と異なる極性の電荷を多数キャリアとする第2導電型の半導体領域とはN型半導体領域である。以下では、APDの一方のノードを固定電位とする場合について説明するが、両方のノードの電位が変動してもよい。
【0013】
図1は、積層型の光電変換装置100の構成を示す図である。光電変換装置100は、センサ基板11と、回路基板21の2つの基板が積層され、電気的に接続されることにより構成される。センサ基板11は、後述する光電変換素子102を有する第1半導体層と、第1配線構造と、を有する。回路基板21は、後述する信号処理部103等の回路を有する第2半導体層と、第2配線構造と、を有する。光電変換装置100は、第2半導体層、第2配線構造、第1配線構造、第1半導体層の順に積層して構成される。各実施形態に記載の光電変換装置は、第2面から光が入射し、第1面に回路基板が配される、裏面照射型の光電変換装置である。
【0014】
以下では、センサ基板11と回路基板21とは、ダイシングされたチップで説明するが、チップに限定されない。例えば、各基板はウエハであってもよい。また、各基板はウエハ状態で積層した後にダイシングされていてもよいし、ウエハ状態からチップ化した後に各チップを積層して接合してもよい。
【0015】
センサ基板11には、画素領域12が配され、回路基板21には、画素領域12で検出された信号を処理する回路領域22が配される。
【0016】
図2は、センサ基板11の配置例を示す図である。APDを含む光電変換素子102を有する画素101が平面視で二次元アレイ状に配列され、画素領域12を形成する。
【0017】
画素101は、典型的には、画像を形成するための画素であるが、TOF(Time of Flight)に用いる場合には、必ずしも画像を形成しなくてもよい。すなわち、画素101は、光が到達した時刻と光量を測定するためのものであってもよい。
【0018】
図3は、回路基板21の構成図である。
図2の光電変換素子102で光電変換された電荷を処理する信号処理部103、読み出し回路112、制御パルス生成部115、水平走査回路部111、信号線113、垂直走査回路部110を有している。
【0019】
図2の光電変換素子102と、
図3の信号処理部103は、画素毎に設けられた接続配線を介して電気的に接続される。
【0020】
垂直走査回路部110は、制御パルス生成部115から供給された制御パルスを受け、各画素に制御パルスを供給する。垂直走査回路部110にはシフトレジスタやアドレスデコーダといった論理回路が用いられる。
【0021】
画素の光電変換素子102から出力された信号は、信号処理部103で処理される。信号処理部103は、カウンタやメモリなどが設けられており、メモリにはデジタル値が書き込まれて保持される。
【0022】
水平走査回路部111は、デジタル信号が保持された各画素のメモリから信号を読み出すために、各列を順次選択する制御パルスを信号処理部103に入力する。
【0023】
信号線113には、選択されている列について、垂直走査回路部110により選択された画素の信号処理部103から信号が出力される。
【0024】
信号線113に出力された信号は、出力回路114を介して、光電変換装置100の外部の記録部または信号処理部に出力する。
【0025】
図2において、画素領域における光電変換素子の配列は1次元状に配されていてもよい。信号処理部の機能は、必ずしも全ての光電変換素子に1つずつ設けられる必要はなく、例えば、複数の光電変換素子によって1つの信号処理部が共有され、順次信号処理が行われてもよい。
【0026】
図2および
図3に示すように、平面視で画素領域12に重なる領域に、複数の信号処理部103が配される。そして、平面視で、センサ基板11の端と画素領域12の端との間に重なるように、垂直走査回路部110、水平走査回路部111、読み出し回路112、出力回路114、制御パルス生成部115が配される。言い換えると、センサ基板11は、画素領域12と画素領域12の周りに配された非画素領域とを有する。そして、平面視で非画素領域に重なる領域に、垂直走査回路部110、水平走査回路部111、読み出し回路112、出力回路114、制御パルス生成部115が配される。
【0027】
図4は、
図2及び
図3の等価回路を含むブロック図の一例である。
図4は、一般的なAPDを有する光電変換装置のブロック図を示している。
【0028】
図4において、APD201を有する光電変換素子102は、センサ基板11に設けられており、その他の部材は、回路基板21に設けられている。
【0029】
APD201は、光電変換により入射光に応じた電荷対を生成する。APD201のアノードには、電圧VL(第1電圧)が供給される。また、APD201のカソードには、アノードに供給される電圧VLよりも高い電圧VH(第2電圧)が供給される。アノードとカソードには、APD201がアバランシェ増倍動作をするような逆バイアス電圧が供給される。このような電圧を供給した状態とすることで、入射光によって生じた電荷がアバランシェ増倍を起こし、アバランシェ電流が発生する。
【0030】
なお、逆バイアスの電圧が供給される場合において、アノードおよびカソードの電位差が降伏電圧より大きい電位差で動作させるガイガーモードと、アノードおよびカソードの電位差が降伏電圧近傍、もしくはそれ以下の電圧差で動作させるリニアモードがある。
【0031】
ガイガーモードで動作させるAPDをSPAD(シングルフォトンアバランシェダイオード)と呼ぶ。例えば、電圧VL(第1電圧)は、-30V、電圧VH(第2電圧)は、3Vである。APD201は、リニアモードで動作させてもよいし、ガイガーモードで動作させてもよい。
【0032】
クエンチ素子202は、電圧VHを供給する電源とAPD201に接続される。クエンチ素子202は、アバランシェ増倍による信号増倍時に負荷回路(クエンチ回路)として機能し、APD201に供給する電圧を抑制して、アバランシェ増倍を抑制する働きを持つ(クエンチ動作)。また、クエンチ素子202は、クエンチ動作で電圧降下した分の電流を流すことにより、APD201に供給する電圧を電圧VHへと戻す働きを持つ(リチャージ動作)。
【0033】
信号処理部103は、波形整形部210、カウンタ211、選択回路212を有する。本明細書において、信号処理部103は、波形整形部210、カウンタ211、選択回路212のいずれかを有していればよい。
【0034】
波形整形部210は、光子検出時に得られるAPD201のカソードの電位変化を整形して、パルス信号を出力する。波形整形部210としては、例えば、インバータ回路が用いられる。
図4では、波形整形部210としてインバータを一つ用いた例を示したが、複数のインバータを直列接続した回路を用いてもよいし、波形整形効果があるその他の回路を用いてもよい。
【0035】
カウンタ211は、波形整形部210から出力されたパルス信号の数(回数)をカウントし、カウント値を保持する。また、駆動線213を介して制御パルスpRESが供給されたとき、カウンタ211に保持された信号がリセットされる。
【0036】
選択回路212には、
図3の垂直走査回路部110から、
図4の駆動線214(
図3では不図示)を介して制御パルスpSELが供給され、カウンタ211と信号線113との電気的な接続、非接続を切り替える。選択回路212には、例えば、信号を出力するためのバッファ回路などを含む。
【0037】
クエンチ素子202とAPD201との間や、光電変換素子102と信号処理部103との間にトランジスタ等のスイッチを配して、電気的な接続を切り替えてもよい。同様に、光電変換素子102に供給される電圧VHまたは電圧VLの供給をトランジスタ等のスイッチを用いて電気的に切り替えてもよい。
【0038】
本実施形態では、カウンタ211を用いる構成を示した。しかし、カウンタ211の代わりに、時間・デジタル変換回路(Time to Digital Converter:以下、TDC)、メモリを用いて、パルス検出タイミングを取得する光電変換装置100としてもよい。このとき、波形整形部210から出力されたパルス信号の発生タイミングは、TDCによってデジタル信号に変換される。TDCには、パルス信号のタイミングの測定に、
図1の垂直走査回路部110から駆動線を介して、制御パルスpREF(参照信号)が供給される。TDCは、制御パルスpREFを基準として、波形整形部210を介して各画素から出力された信号の入力タイミングを相対的な時間としたときの信号をデジタル信号として取得する。
【0039】
図5は、APDの動作と出力信号との関係を模式的に示した図である。
【0040】
図5(a)は、
図4のAPD201、クエンチ素子202、波形整形部210を抜粋した図である。ここで、波形整形部210の入力側をVC、出力側をVOとする。
図5(b)は、
図5(a)のVCの電圧を、
図5(c)は、
図5(a)のVOの信号をそれぞれ示す。
【0041】
時刻t0から時刻t1の間において、
図5(a)のAPD201には、VH-VLの電位差が印加されている。時刻t1において光子がAPD201に入射すると、APD201でアバランシェ増倍が生じ、クエンチ素子202にアバランシェ増倍電流が流れ、VCの電圧は降下する。電圧降下量がさらに大きくなり、APD201に印加される電位差が小さくなると、時刻t2のようにAPD201のアバランシェ増倍が停止し、VCの電圧レベルはある一定値以上降下しなくなる。その後、時刻t2から時刻t3の間において、VCには電圧VLから電圧降下分を補う電流が流れ、時刻t3においてVCは元の電位レベルに静定する。このとき、VCにおいて出力波形がある閾値を越えた部分は、波形整形部210で波形整形され、VOで信号として出力される。
【0042】
なお、信号線113の配置、読み出し回路112、出力回路114の配置は
図3に限定されない。例えば、信号線113が行方向に延びて配されており、信号線113が延びる先に読み出し回路112が配されていてもよい。
【0043】
(第1の実施形態)
図6は、画素回路のブロック図および等価回路図を示す。
図6(a)および(b)は比較例であり、
図6(c)は本実施形態である。また、
図7(a)および(b)は比較例である。さらに、
図8(a)および(b)は比較例であり、
図8(c)は本実施形態である。
【0044】
(比較例1:パッシブリチャージ回路)
図6(a)は、比較例であるパッシブリチャージの画素回路のブロック図および等価回路である。APD201のカソード側に接続されているクエンチ素子202であるトランジスタのゲートと、論理回路221(OR回路)の出力は同一ノードである。論理回路221には、信号ENBと信号STOPが入力可能に構成されている。信号ENBは、露光期間Tの間はローレベルとなり、その他の期間はハイレベルとなっている。
【0045】
信号STOPがローレベルであって、信号ENBがローレベルの場合にトランジスタはオンになり、リチャージ状態となり、APD201は所定期間後にアバランシェ増倍が可能な待機状態となる。それ以外の信号のパターンの場合に、クエンチ素子はオフになり、リチャージ状態とならないため、APD201はアバランシェ増倍ができない非待機状態となる。波形整形部210は、インバータで構成されており、カウンタ211には11ビットのフリップフロップが設けられている。例えば、カウンタ211が最大カウント値である2047になったら、信号STOPはローレベルからハイレベルに遷移し、クエンチ素子202のトランジスタはオフになる。これにより、信号ENBがローレベルとなってもクエンチ素子202はオフし続け、APD201の非待機状態が維持される。
【0046】
図7(a)の右図は、
図6(a)のVCの電圧とVOの信号を示したものである。
【0047】
低照度の場合は、光子の入射間隔が長いことから、光子入射後にVCの電圧が低くなった状態の後に、リチャージされて電圧が高い状態になるまでに十分な時間が確保できる。
図7(a)の右図の場合、3つの光子に対応して、3つのパルスをカウントできることが示されている。他方、高照度の場合は、光子の入射間隔が短いことから、VCの電圧が低い状態に維持され、電圧が高い状態に復帰しないため、判定閾値を下から上に越えるまでに時間がかかる。
図7(a)の右図の場合、約20程度の光子が入射しているにも関わらず、3つのパルスのみがカウントされていることが示されている。すなわち、光子カウント漏れが生じている。
【0048】
この結果、
図6(a)に示すパッシブリチャージの形態の場合、
図7(a)に示すように、低照度でも高照度でも、同じカウント値となる状況が生じうる。また、光子入射がより頻繁に起こると、VCの電圧が低い状態が維持され、判定閾値を下から上に越えることがなくなる。この場合、VOの電圧は、高いままとなり、信号が1つも生成されないこととなる。すなわち、
図6(a)に示すパッシブリチャージの形態の場合においては、高照度のときに適切なカウント値が得られないことから、ダイナミックレンジは狭くなってしまう。
【0049】
(比較例2:クロックリチャージ回路)
図6(b)は、比較例であるクロックリチャージの画素回路のブロック図および等価回路図である。論理回路221(OR回路)の入力には、信号CLKBと信号STOPが入力可能に構成されている。信号CLKBは、露光期間TにNc個のパルス信号を有するクロック信号である。
図6(b)では、信号STOPがローレベルであって、信号CLKBがローレベルの場合にトランジスタはオンになり、リチャージされる。それ以外の信号のパターンの場合は、クエンチ素子はオフになる。例えば、信号CLKBがハイレベルの場合は、クエンチ素子はリチャージ後にオフとなっているため、アバランシェ増倍が可能な待機状態である。換言すれば、APD201と電源(電圧VH)との間に回路(トランジスタ)が配されており、当該回路は、APD201と電源を電気的に接続する第1の状態と、APD201と電源を電気的に接続しない第2の状態とを切り替える制御を行っている。この場合、第1の状態がリチャージ状態であり、第2の状態が待機状態である。
【0050】
APD201のカソードとカウンタ211との間には、論理回路222(片側の入力の論理を反転させたAND回路)が設けられており、信号CLKBとVCが入力可能に構成されている。論理回路222は、VCからの出力を反転して入力される論理回路であり、光子の入射により、VCがハイレベルからローレベルに遷移する。この場合、信号CLKBがハイレベルのときは、論理回路222の出力はハイレベルとなる。その後、信号CLKBがハイレベルから、ローレベルに遷移する場合に、論理回路222の出力はローレベルとなるため、出力信号が生成されることになる。
【0051】
図7(b)の右図は、
図6(b)の信号CLKB、VCの電圧、VOの信号を示したものである。
【0052】
まず、低照度の場合をみると、信号CLKBはハイレベルの場合(待機状態)において光子が入射すると、VCの電圧が下がってローレベルに遷移する。信号CLKBがハイレベルなので、VOからの出力はハイレベルとなり、その後信号CLKBがローレベルになるときに、VOからの出力がハイレベルからローレベルとなり、信号が生成される。
【0053】
他方、高照度の場合をみると、信号CLKBがハイレベルの場合(待機状態)において、光子入射が頻繁に起こる場合であっても、信号CLKBがハイレベルである限り、ハイレベルになったVOは、ハイレベルを維持する。次に、信号CLKBがハイレベルからローレベルに遷移することにより、VOからの出力はハイレベルからローレベルに遷移し、1つの信号が生成される。
【0054】
このように、クロックリチャージ回路においては、パッシブリチャージの場合に生じていた、低照度でも高照度でも同じカウント値となる状況、あるいは、信号が1つも生成されないという状況が解消される。すなわち、クロックリチャージ回路では、低照度のカウント値が高照度のカウント値よりも大きくならないという利点がある。論理回路222から出力された信号はカウンタ211からメモリ240を介して、外部に出力するように構成されている。なお、論理回路222の出力のパルスの立下りでカウントするのか、その前のパルスの立ち上がりでカウントするのかは適宜設定することができる。
【0055】
図8は、クロックリチャージ回路のタイミングチャートをより詳細に示したものである。
【0056】
時刻t0で、信号RES(
図6(b)で不図示)のパルスがオンになり、カウンタ211がリセットされ、カウンタ211のカウント値COUNTが「0」となる。
【0057】
時刻t1で、信号EN(
図6(b)で不図示)がオンになり、露光期間Tが開始される。時刻t1で信号CLKBがハイレベルからローレベルに遷移すると、信号STOPがローレベルのため、APDはリチャージが開始され、VCの電圧が徐々に上昇し、待機モードとなる。時刻t1で信号CLKBがハイレベルからローレベルに遷移し、VOはハイレベルからローレベルになる。
【0058】
時刻t2で、光子(Photons)が入射すると、アバランシェ増倍が開始し、VCの電位は降下する。VCから論理回路222に入力される信号はローレベルであり、信号CLKBもハイレベルであるため、論理回路222からの出力であるVOはローレベルからハイレベルに遷移する。この遷移により、COUNTは「0」から「1」となる。
【0059】
時刻t3で、光子が入射するが、信号CLKBはハイレベルのままであり、VCの電位も変化せず、VOもハイレベルを維持する。
【0060】
時刻t4で、信号CLKBがハイレベルからローレベルに遷移すると、時刻t1と同様に、リチャージが開始し、VCの電位が変化する。また、信号CLKBがハイレベルからローレベルに遷移するので、VOはハイレベルからローレベルに遷移する。すなわち、時刻t2に立ち上がったVOの波形は、時刻t4において立ち下がる。
【0061】
同様に、時刻t5には、光子が入射し、上記したように、アバランシェ増倍が開始し、VOがローレベルからハイレベルに遷移する。
【0062】
このような動作を順次繰り返し、時刻t6に信号CLKBのハイレベルからローレベルへの遷移個数がNc個目になり、時刻t7に光子が入射し、VOがローレベルからハイレベルに遷移すると、COUNTはNcとなる。カウンタの最大カウント値を超えるため、信号STOPもローレベルからハイレベルに遷移するカウンタ211に入力されるSTOP信号(図bでは不図示)がハイレベルになる。これにより、カウント値がNcとなった時刻以降はVOに変化があったとしてもカウントされない。この例では、待機状態毎に毎回少なくとも1個の光子が入射した場合を想定しており、この場合、露光期間Tにおいて、信号CLKBのパルス数がNc個であるため、COUNTも「Nc」となる。
【0063】
時刻t8で、カウンタ211に入力される信号ENがハイレベルからローレベルになる。ここで、時刻t8では、VOがハイレベルになっているため、このハイレベルをカウントしないように、信号ENをハイレベルからローレベルに遷移させることにより、露光期間Tの期間外でカウンタ211にてカウントしない構成となっている。
【0064】
時刻t9で読み出し信号WRT(
図6(b)で不図示)がハイレベルになるとメモリ223にその時刻のカウント値が記憶される。時刻t10で、読み出し信号READ(
図6(b)で不図示)がハイレベルになると、選択回路からメモリ223に記憶されたカウント値が光電変換装置の外部に信号が読み出される。例えば、信号WRTは全行一括でメモリ223に情報を格納し、信号READは、行順次で外部に読みだす構成となっている。これにより、全行一括で露光期間を開始するグローバルシャッタを実現できる。
【0065】
(本実施形態の説明)
図8は、クロックリチャージ駆動における、時間とカウント値を示したものである。ここで、「Nsat」は、カウンタの最大カウント値相当の数である。「Nsat」の詳細については後述する。
【0066】
図8(a)において、(ii)は低照度の場合であり、露光時間Tの完了時にカウンタ数は、Nsatまでに到達しないことを示している。他方、(i)は、高照度の場合であり、露光時間Tの完了前にカウント値はNsatに到達する。この場合、Nsatに到達する時間を記録しておけば、外挿法を用いて、露光期間Tの完了時のカウント値を算出することが可能である。この外挿法を用いて算出したカウント値を、算出カウント値ともいう。この結果、ダイナミックレンジを拡大することが可能である。
【0067】
図8(b)においても(i)は高照度の場合、(ii)は低照度の場合を示している。
図8(b)の(i)では、露光期間の完了前の所定のタイミング(T/m)で、所定のカウント値(Nsat/m)以上になったか否かを判定する。例えば、
図8(b)では、m=2とし、露光期間Tの1/2のタイミングで所定のカウント値以上になったか否かを判定する場合を示している。そして、所定のカウント値以上になった場合に、露光が停止する駆動を示している。この場合、計測されたカウント値に「m」を乗じた値が、露光期間Tの完了時の算出カウント値として扱われる。例えば、m=2である。
【0068】
図8(c)は、本実施形態に係る駆動を示した図である。具体的には、
図8(b)(i)に示す駆動を採用しながら、所定の判定タイミング(所定のチェックポイント)を複数設けた場合を示すものである。(i)では、第1の露光期間(T/m
3)で、所定のカウント値(Nsat/m)以上か否かを判定している。(ii)では、第2の露光期間(T/m
2)で、所定のカウント値(Nsat/m)以上か否かを判定している。(iii)では、第3の露光期間(T/m)で、所定のカウント値(Nsat/m)以上か否かを判定している。この場合、計測されたカウント値のそれぞれに対して、「m
3」、「m
2」、「m」を乗じた値、例えば、8、4、2を乗じた値が、露光期間Tの完了時の算出カウント値として扱われる。
【0069】
ここで、各判定タイミングでは、所定のカウント値以上か否かを判定して、所定のカウント値以上であれば、露光を停止し、そのカウント値を出力することになる。したがって、露光停止となった場合、カウント値は、Nsat/m以上、Nsat以下となる。
【0070】
このように複数のチェックポイントで判定するように構成すれば、よりダイナミックレンジを拡大することが可能である。
【0071】
図9(a)は、
図8(b)と(c)で説明した形式における照度とカウント値との関係を示したものである。また、
図9(b)は、当該形式における照度と露光時間の関係を示したものである。照度が最も低い領域の場合には、露光期間Tの完了までカウントが継続されるため、
図9(b)に示すように、露光時間は最も長くなる。照度が最も低い領域の場合、カウンタが飽和するまでカウントし続けるため、
図9(a)に示すように、0からNsatまでカウントがされることになる。次に、照度がやや大きくなる領域の場合は、第3の露光期間(T/m)で、所定のカウント値(Nsat/m)以上と判定され、露光が停止される場合である。露光が途中で停止されるため、
図9(b)に示すように、露光時間は短くなる。また、
図9(a)に示すように、この場合に出力されるカウント値は、Nsat/m以上Nsat以下となる。第2の露光期間(T/m
2)で露光が停止される場合、および、第1の露光期間(T/m
3)で露光が停止される場合も同様である。
【0072】
第1の露光期間(T/m3)で露光が停止される場合においては、最大Nsatまでカウントすることができる。この場合、算出カウント値は、m3を乗じた値になるため、Nsat×m3となる。すなわち、画像形成に用いることのできるカウント値を、Nsatから、Nsat×m3まで拡大させることができ、ダイナミックレンジを拡大できる。また、画素毎に、異なるタイミングでカウントを停止するかを制御することもできる。すなわち、画素毎に、露光時間を制御することもでき、いずれの画素においても、ダイナミックレンジを拡大することができる。以下、上記で説明した方式を実現する回路や駆動の例について説明する。
【0073】
(実施形態:画素回路ブロック図)
図6(c)は、画素ごとに露光時間を制御する形態の画素回路のブロック図である。APD201、クエンチ素子202、論理回路221、論理回路222、カウンタ211は
図6(b)と同様であるため、説明を省略する。
【0074】
信号CLKBは、露光期間T(以下、最大露光期間ともいう。)にNc個のパルス信号であるクロック信号が入力されている点では、
図6(b)と同じである。ただし、後述するように、クロック信号のパルスの周期は、
図6(b)よりも
図6(c)の方が短い。また、
図6(c)では、カウンタ211から露光制御回路230に信号が入力されるようになっており、露光制御回路230からメモリ223にも信号が入力されるように構成されている。露光制御回路が有するメモリのビット数は、カウンタ211が有するフリップフロップのビット数よりも小さい。
【0075】
図10は、本実施形態の画素回路の詳細なブロック図である。
図6(c)と同じ符号を用いている部分については説明を省略する。カウンタ211は、例えば、11ビットのフリップフロップを有しているため、カウンタ211の飽和値は2047カウントとなる。また、信号ENがカウンタ211に入力されており、信号ENは露光期間Tを定義する信号である。すなわち、信号ENがローレベルからハイレベルに遷移すると、露光期間Tが開始し、信号ENがハイレベルからローレベルに遷移すると、露光期間Tが終了し、カウンタ211は停止状態となる。
【0076】
カウンタ211は露光制御回路230に信号を入力するように構成されている。露光制御回路230は複数のラッチ231を有する。
図10において、左から右方向に向けて、第1から第4のラッチ231が設けられている。これら4つのラッチ231とマルチプレクサ232は、所定の判定タイミングにおける所定のカウント値(閾値)を決定する。
【0077】
第1のラッチ231(一番左)には、カウンタの最大カウント値の1/8の値、すなわち、m=8となった場合に、信号Sn/8が入力されるように構成されている。上記のとおり、カウンタの最大カウント値は、2047であるが、これを1/8にすると整数とならない。そのため、便宜上、最大カウント値に近い数であり、計算時に扱いやすい2048をここでは最大カウント値相当として、Sn/8、Sn/4、Sn/2の基準とする。ここでは、2048/8=256以上になった場合に出力される信号を、信号Sn/8とする。
【0078】
また、同様に、第2のラッチ231(左から2番目)には、カウンタの最大カウント値の1/4の値、すなわち、m=4となった場合に、信号Sn/4が入力されるように構成されている。ここでは、便宜上、2048/4=512以上になった場合に出力される信号を、信号Sn/4とする。
【0079】
また、同様に、第3のラッチ231(右から2番目)には、カウンタの最大カウント値(2048カウント)の1/2の値、すなわち、m=2となった場合に、信号Sn/2が入力されるように構成される。ここでは、便宜上、2048/2=1024以上になった場合に出力される信号を、信号Sn/2とする。
【0080】
また、同様に、第4のラッチ231(一番右)には、カウンタの最大カウント値となった場合に、信号Snが入力される。ここでは、11ビットカウントの最大カウント値である2047となった場合に出力される信号を、信号Snとする。
【0081】
ここで、第4のラッチ231に信号Snが入力された場合、カウンタ211は最大カウント値に達しているため、論理回路234(OR回路)を通じて、信号STOPが出力される。信号STOPは、カウンタ211と論理回路221に入力されており、カウンタ211の動作が停止され、クエンチ素子202であるトランジスタがオフになる。
【0082】
マルチプレクサ232には、制御信号(不図示)が入力されており、第1のラッチ231から第3のラッチ231に格納されている信号を選択して、メモリ233に入力する。例えば、ダイナミックレンジを大きくしたい場合には、第1のラッチ231の信号を利用する。上記のとおり、画像形成に用いることのできるカウント値は、Nsatから、Nsat×m3まで拡大することができるため、mは大きければ大きいほどダイナミックレンジを拡大できる。そのため、m=8である第1のラッチ231の信号を利用する。他方、ダイナミックレンジを拡大しすぎると、再構成した画像に違和感が生じる場合がある。例えば、画像に段差がある場合などは、m=2である第3のラッチ231に格納されている信号を利用する。このように、用途に応じて、第1のラッチ231から第3のラッチ231を適宜選択することができる。
【0083】
図10には、メモリ233として、上から下方向に向けて、第1から第3のメモリ233が設けられている。後述するように、T0、T1、T2のそれぞれのタイミングで、閾値以上のカウント値になっているかを確認し、T0のタイミングで閾値以上となっている場合、第1のメモリ233には「1」を記録する。同様に、T1のタイミングでカウントが閾値以上となっている場合、第2のメモリ233には「1」を記録する。同様に、T2のタイミングでカウントが閾値以上となっている場合、第3のメモリ233には「1」を記録する。
【0084】
メモリ233からは、タイムコード(時間情報)であるTC<0>、TC<1>、TC<2>が出力されメモリ223に格納される。カウンタ211から11ビットの信号が出力され、メモリ233から3ビットの信号が出力されるため、メモリ223は、合計で14ビットのメモリとなる。
【0085】
TC<0>、TC<1>、TC<2>のいずれかが、「1」である場合、それはカウント数が閾値以上(Nsat/m以上)であることを意味するため、論理回路234(OR回路)を通じて、信号STOPが出力される。
【0086】
メモリ223に読み出し信号WRTが入力されると、メモリ223にその時刻のカウンタ211の11ビットの信号、および、T0<2:0>の3ビットの信号が記録される。また、読み出し信号READが選択回路212に入力されると、選択回路212から光電変換装置の外部にメモリ223に記憶された信号が読み出される。例えば、信号WRTは全行一括でメモリ223に情報を格納し、信号READは、行順次で外部に読みだす構成となっている。これにより、全行一括で露光期間を開始するグローバルシャッタを実現できる。
【0087】
(実施形態:タイミングチャート)
図11は、本実施形態のタイミングチャートである。
【0088】
時刻t0で、信号RESのパルスがオンになる。
図10に示すように、信号RESは、ラッチ231とカウンタ211に入力されるようになっている。これにより、ラッチ231およびカウンタ211に格納されている前のフレームの情報をリセットすることができる。これにより、カウンタ211のCOUNTが「0」となる。また、
図10では不図示であるが、信号RESをメモリ223、メモリ233に入力して、前のフレームの情報をリセットしてもよい。
【0089】
時刻t1で、信号ENがオンになり、露光期間Tが開始される。ここで、露光期間Tは最大露光期間という。入射する光子が少ない場合には、カウンタが飽和しないため、この最大露光期間の間、カウンタはカウントし続ける。ただし、後述するように、カウンタが飽和した場合や、所定の露光期間内でカウント値が所定の閾値を越えた場合などは、STOP信号がハイレベルになり、実効的な露光期間は、最大露光期間よりも短縮化される。
【0090】
時刻t1で信号CLKBがハイレベルからローレベルに遷移すると、信号STOPがローレベルのため、APDはリチャージが開始され、VCの電圧が徐々に上昇し、待機モードとなる。時刻t1で信号CLKBがハイレベルからローレベルに遷移するが、光子がまだ入射していないため、VOはハイレベルからローレベルになる。
【0091】
時刻t2で、光子(Photons)が入射すると、アバランシェ増倍が開始し、VCの電位は降下する。VCから論理回路222に入力される信号はローレベルであり、信号CLKBはハイレベルであるため、論理回路222からの出力であるVOはローレベルからハイレベルに遷移する。この遷移により、COUNTは「0」から「1」となる。すなわち、この実施形態の場合、VOの立ち上がりを利用して、カウントを行っている。
【0092】
時刻t3で、信号CLKBがハイレベルからローレベルに遷移すると、時刻t1と同様に、リチャージが開始し、VCの電位が変化する。また、信号CLKBがハイレベルからローレベルに遷移するので、VOはハイレベルからローレベルに遷移する。すなわち、時刻t2に立ち上がったVOの波形は、時刻t3において立ち下がる。
【0093】
信号T0は、露光期間Tの開始からT/m3経過した時刻t4にローレベルからハイレベルに遷移する。ここで、mは任意の数であり、例えば、Sn/8の信号を受け取る一番左のラッチ231の信号を、マルチプレクサ232を用いて選択した場合は「8」である。したがって、時刻t4は、露光期間Tの開始から、T/512を経過した時刻である。
【0094】
また、信号CLKBに着目すると、露光期間Tの合計パルス数はNcとしているため、露光期間Tの開始からT/512を経過した時刻t4において、合計パルス数はNc/m3となる。
【0095】
ここで、露光期間Tの開始からT/m3経過する時点までの合計パルス数であるNc/m3は、カウンタの最大カウンタ数以上に設定する。カウンタの最大カウンタ数よりも小さい数にすると、ダイナミックレンジの拡大が制限されるからである。なお、ダイナミックレンジをある程度抑制してもよい場合には、Nc/m3をカウンタの最大カウンタ数よりも小さくしてもよい。例えば、Nc/m3を最大カウンタ数の3/4以上とすることができる。
【0096】
本実施形態では、露光期間(最大露光期間)に含まれ、かつ、当該露光期間よりも短い3つの露光期間が完了するタイミングで、カウント値が閾値以上か否かを判定している。
【0097】
ここで、露光期間が短い方から、第1の露光期間(第1の判定タイミング)、第2の露光期間(第2の判定タイミング)、第3の露光期間(第3の判定タイミング)とすると、第1の露光期間が、最も露光期間を短く設定した期間である。本実施形態では、第1の露光期間が、T/m3に、第2の露光期間が、露光期間T/m2に相当し、第3の露光期間が、露光期間T/mに相当する。すなわち、mは、第1露光期間の長さと第2露光期間の長さの比、第2露光期間の長さと第3露光期間の長さの比となる。
【0098】
上記のとおり、ここでは、m=8であるため、第2の露光期間の長さは、第1の露光期間の長さの8倍である。また、第3の露光期間の長さは、第2の露光期間の長さの8倍である。8倍は、具体例であり、これらの倍数は、2倍以上であっても、4倍以上であってもよい。
【0099】
このうち、露光期間Tの開始からT/m
3経過する時点までの合計パルス数Nc/m
3をカウンタの最大カウント値以上とするためには、例えば、最大カウント値が2047の場合、Nc/m
3は2048とする。すなわち、Nc/m
3をカウンタの最大カウント値以上の値とする。このため、露光期間Tの間の合計パルス数であるNcは、m=8の場合、約100万回となる。比較例である通常のクロックリチャージ駆動において、露光期間内のパルス数であるNcは、Ncをカウンタの最大カウント値相当の数とする場合、2048となる。そのため、比較例と比較して、本実施形態のパルス数Ncは非常に多く、クロック信号のパルスの周期は非常に短いものとなる。
図6(b)と(c)でパルス信号の周期が異なるように図示しているのは、このためである。
【0100】
時刻t4で、COUNTは「X1」で、閾値としている「Nsat/m」よりも小さい値である(すなわち、X1<Nsat/m)。ここで、「Nsat」とは、例えば、2048である。上記のように、「Nsat」は、カウンタの最大カウント値相当の数であって、計算を容易にするための数である。本明細書では、「カウンタの最大カウント値相当の数」も「カウンタの最大カウント値」と取り扱うこともある。
【0101】
また、mとは、上記のとおり、露光期間の長さの比であり、例えばm=8である。そのため、「Nsat/m」は、例えば、256である。
図11に示す例では、カウント値が閾値より小さいので、一番左の第1のラッチ231には、信号S
n/8がラッチされていない。そのため、タイムコードとなる信号VC<0>はローレベルのままであり、一番上の第1のメモリ233には「0」が入力される。
【0102】
時刻t4と時刻t5の間に、COUNTは閾値としている「Nsat/m」以上の値となり、一番左の第1のラッチ231には、信号Sn/8がラッチされる。そして、マルチプレクサ232からの出力は、ローレベルからハイレベルに遷移する。
【0103】
信号T1は、露光期間Tの開始からT/m2経過した時刻t5にローレベルからハイレベルに遷移する。例えば、時刻t5は、露光期間Tの開始である時刻t1から、T/64を経過した時刻である。
【0104】
時刻t4と時刻t5の間に、マルチプレクサ232からの出力がハイレベルになっているため、時刻t5に信号T1が入力されると、タイムコードとなる信号TC<1>がローレベルからハイレベルに遷移する。これにより、第2のメモリ233には「1」が入力される。また、TC<1>がローレベルからハイレベルに遷移するため、
図10に示すように、論理回路234を介して、信号STOPがカウンタ211と論理回路221に与えられ、クエンチ素子202であるトランジスタがオフになる。
【0105】
また、信号CLKBに着目すると、露光期間Tでパルス数はNcとしているため、露光期間Tの開始からT/64を経過した時刻t5において、合計パルス数はNc/m2となる。
【0106】
図11では、時刻t5の経過後に光子が入射する例を示している。この場合、光子入射により、アバランシェ増倍が生じ、VCの電位が低下するが、クエンチ素子202であるトランジスタがオフに維持されるため、再度のアバランシェ増倍は生じない。このため、VOは、いったんローレベルからハイレベルになったまま、ハイレベルを維持する。
【0107】
信号T2は、露光期間Tの開始からT/m経過した時刻t6にローレベルからハイレベルに遷移する。例えば、露光期間Tの開始から、T/8経過した時刻である。また、信号CLKBに着目すると、露光期間Tでパルス数はNcとしているため、露光期間Tの開始からT/8だけ経過した時刻t6において、合計パルス数はNc/mとなる。
【0108】
ここで、マルチプレクサ232からの出力はハイレベルに維持されており、時刻t6に信号T2が入力されると、タイムコードとなる信号TC<2>がローレベルからハイレベルに遷移する。これにより、第3のメモリ233には「1」が入力される。
【0109】
ところで、時刻t5以降の光子入射により、VOがハイレベルになっているため、このハイレベルをカウントしないように、信号ENをハイレベルからローレベルに遷移させる制御を行っている。上記のように、信号ENは、露光期間T(最大露光期間)の開始と終了を定義づけるという機能も有する。なお、信号EN以外の信号を用いて、最大露光期間の開始と終了を定義づけてもよい。
【0110】
時刻t7で読み出し信号WRTがハイレベルになるとメモリ223から選択回路212に信号が読み出される。また、時刻t8で、読み出し信号READがハイレベルになると、選択回路212から光電変換装置の外部に信号が読み出される。例えば、信号WRTは全行一括でメモリ223に情報を格納し、信号READは、行順次で外部に読みだす構成となっている。これにより、全行一括で露光期間を開始するグローバルシャッタを実現できる。
【0111】
本実施形態においては、露光期間比であるmに対して、判定タイミングの閾値を「Nsat/m」と設定している。ここで、カウントの閾値を一般化して「Nsat/n」とする(nは2以上の数)。「Nsat/n」は、換言すると、「カウンタの最大カウント値/n」である。ここで、「カウンタの最大カウンタ数」とは、カウンタの最大カウント値(例:2147)およびカウンタの最大カウント値相当の数(例:2148)を含む数である。
【0112】
この場合、nが露光期間比であるmより小さいと、例えば第1の露光期間でのカウント値が閾値を超えず、かつ、第2の露光期間でカウント値が飽和値に達してしまう画素が増加しうる。これにより、特定の光量下において、階調性が失われてしまう。これに対し、「Nsat/n」のnを露光期間比であるm以上に設定することで、飽和値に達してしまう画素を低減し、低輝度から高輝度までの広い光量条件において階調性を確保することができるというメリットがある。
【0113】
図12は、
図6(a)(b)(c)のそれぞれの形態の光電変換装置における効果を示したものである。換言すれば、
図7(a)、
図7(b)、
図9(a)で説明した概念を具体的な値で示したものである。
図12の横軸は光子の入射数であり、縦軸はカウント値の中央値である。点線(a)は、
図6(a)を用いて説明したパッシブリチャージの形態に対応する。プロットなしの実線(b)は、
図6(b)を用いて説明したクロックリチャージの形態に対応する。プロットありの実線(c)は、
図6(c)を用いて説明した画素ごとに露光時間を制御する形態に対応する。
【0114】
図12の点線(a)は、2047カウントで飽和し、その後、光子をカウントできなくなり、数値が急激に低下している。これは、上記のように、光子入射数が非常に多いと、VCの電圧が低い状態が維持され、判定閾値を下から上に越えることがなくなり、信号が1つも生成されなくなってしまうからである。
【0115】
図12のプロットなしの実線(b)は、1フレーム中のリチャージクロックが2048に設定されており(Nc=2048)、カウンタの最大カウント値は2047であるため、2047カウントで飽和している。ただし、
図12の(a)と比較すると、飽和に至るまでの光子入射数は多い。光子入射数が非常に多い場合、信号が1つも生成されなくなる状況は生じないが、クロック周波数の数しかカウントできないため、カウント値の上限がクロック周波数によって決まってしまう。
【0116】
図12の丸プロットありの実線(c)は、クロックリチャージと本発明の実施形態の一つである画素毎の露光時間制御を組み合わせたものである。カウント値の上限は、2047カウントで、(a)および(b)と同じである。ただし、(c)では、カウント値が底を打つ回数が3回ある。上記のとおり、「Nsat/m」を閾値として設定しているため、この底のカウントは、m=8の場合、256となる。この方式の場合、2047カウントに対応する入射光よりも多くの入射光に対してもカウントを継続することができ、ダイナミックレンジを広げることが可能になっている。具体的には、タイムコードを出力できる一番短い露光期間がT/m
3と設定されおり、かつ、m=8であるため、
図12(b)の場合と比べダイナミックレンジが512倍になるというメリットがある。
【0117】
(実施形態:演算処理の説明)
図13は、演算処理を行うための回路と演算処理を説明するための図である。
【0118】
図13(a)に示すように、光電変換装置100から出力された信号は、演算回路300に入力されるように構成されている。演算回路300は光電変換装置100の内部にあってもよい。また、演算回路300への信号の入力は、有線や無線を問わず、記録媒体を介するものであってもよい。
【0119】
図13(b)は、演算回路300における演算フローを示すものである。
【0120】
S301では、14ビットのRawデータがメモリ223から読み出される。
【0121】
S302では、14ビットのRawデータから、11ビット分の光のカウント値の情報と、3ビット分のタイムコードの情報を分離する。
【0122】
S303では、カウント値の情報と、タイムコードの情報を用いて、論理シフト(ビットシフト)が行われる。
【0123】
ここで、論理シフトの処理を具体的に示したのが、
図14である。S310で、論理シフトが開始される。S312で、タイムコードTC<0>が1であるか否かを判定する。TC<0>が1である場合、S314で、11ビット分の光カウント値をm
3倍とする。S312で、タイムコードTC<0>が1でない場合、S316で、タイムコードTC<1>が1であるか否かを判定する。TC<1>が1である場合、S318で、11ビット分の光カウント値をm
2倍とする。S316で、タイムコードTC<1>が1でない場合、S320で、タイムコードTC<2>が1であるか否かを判定する。TC<2>が1である場合、S322で、11ビット分の光カウント値をm倍とする。S320で、タイムコードTC<2>が1でない場合、カウンタは飽和していないことから、論理シフトの処理は不要となり、S324で論理シフトの演算は終了する。このように、論理シフト処理では、時間情報に基づいて、カウンタのカウント値の増倍率を変化させている。
【0124】
図13(b)に戻り、S304では、非線形補正が行われる。例えば、
図12の(c)のプロットを参照すると、光子入射数が1×10
6から1×10
7周辺で、傾きが一定とならない領域がある。そこで、S304では、この傾きが一定とならない領域について補正を行う工程となっている。
【0125】
具体的には、補正後のカウント値をX、補正前のカウント値をYとすると、Y=Nc×(1-exp(-X/Nc)で表される。ここでNcは前述したように露光期間Tの間に入るパルス数である。S305では、デモザイク処理(補間処理)を行い、S306では、RGBのそれぞれでフィルタの光透過率や反射率が異なることから、適切な信号増幅率のチューニングを行う。S307では、HDRのトーンマッピングを行い、S308では、このように演算処理されたカラー画像を出力する。なお、
図13(b)ではカラー画像を出力することを説明したが、モノクロで画像を出力するように構成してもよい。この場合、S305、S306などの処理は適宜省略することが可能である。
【0126】
(変形例)
上記第1の実施形態では、所定のチェックポイントでカウント値が閾値に達したか否かを判定し、かつ、当該閾値をカウンタの最大カウント値(飽和値)よりも小さな値に設定する形式を中心に説明を行った。しかし、カウンタの最大カウント値を閾値とし、当該閾値までカウントを行う方式も採用しうる。この場合、閾値に達した時間情報をメモリに格納し、外挿法などの手法を用いて、時間情報から算出カウント値を求めてもよい。
【0127】
この方式においても、露光期間Tに入力されるクロック信号のパルス数は、カウンタの最大カウント値の2倍以上とする。例えば、露光期間Tに第1の露光期間と第2の露光期間が含まれていると仮定すると、第1の露光期間内におけるクロック信号のパルス数を、カウンタの最大カウント値以上とする。また、第1の露光期間が第2の露光期間よりも短いと仮定した場合に、第1の露光期間内におけるクロック信号のパルス数を、カウンタの最大カウント値以上としてもよい。さらに、上記実施形態と同様に、T/m3を通過するまでにカウンダの最大カウント値以上のパルス数を必要と想定すると、mが2の場合には、露光期間Tに入れるパルス数は、カウンダの最大カウント値の8倍以上となる。また、mが8の場合には、露光期間Tに入れるパルス数は、カウンダの最大カウント値の512倍以上となる。
【0128】
(第2の実施形態)
本実施形態は、
図15を用いて、パルス信号の周波数のバリエーションを説明する実施形態である。
図15(a)から(e)は、
図6(c)で説明した論理回路221に入力される信号CLKBのタイミングチャートを示す図である。
【0129】
(第1の形態)
図15(a)は、第1の形態として、露光期間の最初から最後まで、一定の周波数の信号CLKBで動作させた形態を示すものである。このとき、第1の実施形態と同様に、カウントを判定する一番短い露光期間がT/m
3である場合、露光期間開始からT/m
3までの期間に入る信号CLKBのパルス数は、例えば、Nsat個である。この場合、露光期間Tに入る信号CLKBのパルス数はNsat×m
3個である。つまり、一番短い露光期間の時間までにNsat個のリチャージを入れることによって、カウント上限まで活用したダイナミックレンジ拡大が可能となる。また、カウントを判定する一番短い露光期間には、ちょうどNsat個のCLKBのパルス数を入れる必要はなく、Nsat個以上のパルス数を入れてもよい。すなわち、カウンタの最大カウント値以上のパルス数を有するクロック信号であればよい。
【0130】
(第2の形態)
図15(b)は、第2の形態における、信号CLKBのタイミングチャートを示す図である。第1の形態との違いは、信号CLKBの周波数が露光期間内で変化している点である。第2の形態では、信号CLKBの周波数がカウント値を判定するタイミングであるT/m
3、T/m
2、T/mなどの判定ポイントにおいてクロック信号の周波数が切り替わっている。すなわち、露光期間内におけるクロック信号の周波数が2種類以上設けられている。
【0131】
例えば、信号CLKBの周波数は、露光期間開始からT/m3までを周波数f1、T/m3からT/m2までを周波数f2、T/m2からT/mまでを周波数f3、T/mからTまでを周波数f4とする。この場合、f1>f2>f3>f4の関係にある。このとき、m=8とすると、f1=f2×8=f3×64=f4×512のように、周波数は露光期間の比率に応じて、小さくなっていても良い。この比率を適用すると、各カウント判定タイミングまでに一定の周期で光子が入る場合の、最小限の周波数を設定していることになる。最小限の周波数とは、想定される最大入射光子数NsatをT/m3、T/m2、T/mなどの各カウント判定タイミングまでの期間で割って算出される周波数である。この最小限の周波数以上であれば、各カウント判定タイミングにおいて、カウント上限値Nsatまでダイナミックレンジを最大限に活用できる。例えば、T/m3まで最大Nsatの入射光子数を想定する場合、最小限の周波数f1=Nsat/(T/m3)である。T/m3からT/m2の期間においては、T/m3の時点で閾値を超えていないため、最大の光子入射頻度は、次のT/m2でカウントNsatに到達するケースである。つまりT/m3からT/m2までの期間は、f2=Nsat/(T/m2)であれば良い。同じように計算して、f3=Nsat/(T/m)、f4=Nsat/Tである。このように、信号CLKBの周波数を露光期間内で必要な数を残して減らすことで、ダイナミックレンジ拡大の効果を確保しつつ、信号CLKBによる消費電力を減らすことができる。
【0132】
クロック信号の周波数を変更するためには、分周回路を設ければよい。分周回路は、垂直走査回路部、画素回路部、制御パルス生成部に設けることが可能である。画素回路部に設ける場合には、画素毎に異なる周波数のクロック信号を与えることが可能である。
【0133】
なお、露光期間開始からT/m3までの間(第1の露光期間)でのクロック信号の周波数は一定でなくてもよい。同様に、T/m3からT/m2まで間(第2の露光期間)でのクロック信号の周波数は一定でなくてもよい。この場合、周波数は、平均周波数で考えることが可能である。例えば、第1の露光期間の平均周波数である第1の周波数は、第2の露光期間の平均周波数である第2の周波数よりも大きい。
【0134】
(第3の形態)
図15(c)は、第3の形態における、信号CLKBのタイミングチャートを示す図である。
【0135】
第2の形態との違いは、カウント値を判定するタイミングの前後で周波数を切り替えるのではなく、露光期間Tの開始から終了に向かって、徐々に周波数を低くしている点である。このように、判定タイミングの前後で周波数を切り替えるのではなく、徐々に周波数を調整することにより、周波数の切り替わりで生じるカウント数の切り替わり段差を減らすことができる。また、周波数を変える手法として分周回路の他、周波数変調回路を用いるなどの回路構成の選択肢を広げることが可能となる。
【0136】
なお、本形態は、露光期間Tの開始から終了に向けて、クロック信号の平均周波数が徐々に小さくなる方向に変化していると表現することが可能である。また、露光期間Tの終了前の所定期間の平均周波数が、露光期間Tの開始後の所定期間の平均周波数よりも小さいと表現することも可能である。
【0137】
(第4の形態)
図15(d)は、第4の形態における、信号CLKBのタイミングチャートを示す図である。
図15(b)に示した第2の形態では、露光期間の後半に向かって信号CLKBの周波数は常に低くなる方向で駆動していたのに対して、第4の形態ではT/m
2とT/mの間で一度周波数が高くなっている。例えば、露光期間開始からT/m
2の判定タイミングまでは、光子があまり到来せず、低照度条件であったが、T/m
2の判定タイミングから露光期間終了の時刻Tまででは、光子が多く到来し、高照度条件となった場合を想定する。この場合、
図15(b)の駆動を採用すると、後半に高照度条件となった場合にカウントロスを発生することとなる。
図15(d)に示す駆動によれば、このような条件であっても、後半の光子のカウントロスを低減させることができる。なお、信号CLKBの周波数を増加する比率や、増加させるタイミングは任意に決めて良く、ダイナミックレンジ拡大に必要なパルス数以上であれば良い。
【0138】
(第5の形態)
図15(e)は、第5の形態における、信号CLKBのタイミングチャートを示す図である。
図15(b)に示した第2の形態との違いは、1つの群を構成しているパルス同士の間隔は等しいが、パルス群同士の間隔が徐々に大きくなっている点である。ただし、
図15(b)と
図15(e)は、各露光期間(判定タイミング同士で規定される期間)に入るパルスの数は同じである。
図15(e)の形態によれば、各露光期間において信号CLKB同士が近づくと、より光子入射のタイミングが近づいた場合でもカウントすることが可能となる。つまり、高照度まで感度を持つことができるため、ダイナミックレンジを拡大することができる。
【0139】
なお、本形態は、第1の露光期間内における単位時間当たりのクロック信号のパルス数は、第2の露光期間内における単位時間当たりのクロック信号のパルス数よりも多いと表現することが可能である。すなわち、第1の露光期間のクロック信号のパルス分布割合は、第2の露光期間のクロック信号のパルス分布割合よりも、密である。
【0140】
(第3の実施形態)
本実施形態は、
図16および
図17を用いて、更なるパルス信号の入力の仕方のバリエーションを説明する実施形態である。
図16および
図17は、
図6(c)で説明した論理回路221に入力される信号CLKBのタイミングチャートを示す図である。
【0141】
図16では、垂直走査アドレス0、1、・・・、n-1、nのそれぞれに応じて、CLKB<0>、CLKB<1>、・・・、CLKB<n-1>、CLKB<n>のように各々で信号CLKBを入力している。このように複数の行においてもグローバルシャッタ駆動において、垂直走査アドレス毎に露光期間毎の周波数を変える制御が可能である。このとき、周波数を垂直アドレス毎に制御する方式は任意である。例えば、制御パルス生成部115から複数の周波数を垂直走査回路110に入力して、垂直走査回路110内でアドレス毎に周波数を選択する構成が考えられる。あるいは、単一の周波数を垂直走査回路110に入力して、垂直走査アドレス毎に露光期間の途中で分周しても良い。または、垂直走査回路110からは一定の周波数を入力しておいて、画素の信号処理部103の内部で分周しても良い。
【0142】
図17は別の駆動を示す例であり、
図16との違いは、グローバルシャッタ駆動ではなく、ローリングシャッター駆動である点である。このようにアドレス毎に周波数制御を行うことにより、どちらの駆動にも対応することができる。
【0143】
(第4の実施形態)
本実施形態による光電変換システムについて、
図18を用いて説明する。
図18は、本実施形態による光電変換システムの概略構成を示すブロック図である。
【0144】
上記実施形態で述べた光電変換装置は、種々の光電変換システムに適用可能である。適用可能な光電変換システムの例としては、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。また、レンズなどの光学系と撮像装置とを備えるカメラモジュールも、光電変換システムに含まれる。
図18には、これらのうちの一例として、デジタルスチルカメラのブロック図を例示している。
【0145】
図18に例示した光電変換システムは、光電変換装置の一例である撮像装置1004、被写体の光学像を撮像装置1004に結像させるレンズ1002を有する。近電変換システムは、さらに、レンズ1002を通過する光量を可変にするための絞り1003、レンズ1002の保護のためのバリア1001を有する。レンズ1002及び絞り1003は、撮像装置1004に光を集光する光学系である。撮像装置1004は、上記のいずれかの実施形態の光電変換装置であって、レンズ1002により結像された光学像を電気信号に変換する。
【0146】
光電変換システムは、また、撮像装置1004より出力される出力信号の処理を行うことで画像を生成する画像生成部である信号処理部1007を有する。信号処理部1007は、必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。信号処理部1007は、撮像装置1004が設けられた半導体層に形成されていてもよいし、撮像装置1004とは別の半導体層に形成されていてもよい。また、撮像装置1004と信号処理部1007とが同一の半導体層に形成されていてもよい。
【0147】
光電変換システムは、更に、画像データを一時的に記憶するためのメモリ部1010、外部コンピュータ等と通信するための外部インターフェース部(外部I/F部)1013を有する。更に光電変換システムは、撮像データの記録又は読み出しを行うための半導体メモリ等の記録媒体1012、記録媒体1012に記録又は読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)1011を有する。なお、記録媒体1012は、光電変換システムに内蔵されていてもよく、着脱可能であってもよい。
【0148】
更に光電変換システムは、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部1009、撮像装置1004と信号処理部1007に各種タイミング信号を出力するタイミング発生部1008を有する。ここで、タイミング信号などは外部から入力されてもよく、光電変換システムは少なくとも撮像装置1004と、撮像装置1004から出力された出力信号を処理する信号処理部1007とを有すればよい。
【0149】
撮像装置1004は、撮像信号を信号処理部1007に出力する。信号処理部1007は、撮像装置1004から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。信号処理部1007は、撮像信号を用いて、画像を生成する。
【0150】
このように、本実施形態によれば、上記のいずれかの実施形態の光電変換装置(撮像装置)を適用した光電変換システムを実現することができる。
【0151】
(第5の実施形態)
本実施形態の光電変換システム及び移動体について、
図19を用いて説明する。
図19は、本実施形態の光電変換システム及び移動体の構成を示す図である。
【0152】
図19(a)は、車載カメラに関する光電変換システムの一例を示したものである。光電変換システム2300は、撮像装置2310を有する。撮像装置2310は、上記のいずれかの実施形態に記載の光電変換装置である。光電変換システム2300は、撮像装置2310により取得された複数の画像データに対し、画像処理を行う画像処理部2312を有する。また、光電変換システム2300は、光電変換システム2300により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部2314を有する。さらに、光電変換システム2300は、算出された視差に基づいて対象物までの距離を算出する距離取得部2316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部2318と、を有する。ここで、視差取得部2314や距離取得部2316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部2318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
【0153】
光電変換システム2300は車両情報取得装置2320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、光電変換システム2300は、衝突判定部2318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置(制御部)である制御ECU2330が接続されている。また、光電変換システム2300は、衝突判定部2318での判定結果に基づいて、ドライバーへ警報を発する警報装置2340とも接続されている。例えば、衝突判定部2318の判定結果として衝突可能性が高い場合、制御ECU2330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置2340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
【0154】
本実施形態では、車両の周囲、例えば前方又は後方を光電変換システム2300で撮像する。
図19(b)に、車両前方(撮像範囲2350)を撮像する場合の光電変換システムを示した。車両情報取得装置2320が、光電変換システム2300ないしは撮像装置2310に指示を送る。このような構成により、測距の精度をより向上させることができる。
【0155】
上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。更に、光電変換システムは、自車両等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
【0156】
(第6の実施形態)
本実施形態の光電変換システムについて、
図20を用いて説明する。
図20は、光電変換システムである距離画像センサの構成例を示すブロック図である。
【0157】
図20に示すように、距離画像センサ401は、光学系402、光電変換装置403、画像処理回路404、モニタ405、およびメモリ406を備えて構成される。そして、距離画像センサ401は、光源装置411から被写体に向かって投光され、被写体の表面で反射された光(変調光やパルス光)を受光することにより、被写体までの距離に応じた距離画像を取得することができる。
【0158】
光学系402は、1枚または複数枚のレンズを有して構成され、被写体からの像光(入射光)を光電変換装置403に導き、光電変換装置403の受光面(センサ部)に結像させる。
【0159】
光電変換装置403としては、上述したから実施形態に記載の光電変換装置が適用され、光電変換装置403から出力される受光信号から求められる距離を示す距離信号が画像処理回路404に供給される。
【0160】
画像処理回路404は、光電変換装置403から供給された距離信号に基づいて距離画像を構築する画像処理を行う。そして、その画像処理により得られた距離画像(画像データ)は、モニタ405に供給されて表示されたり、メモリ406に供給されて記憶(記録)されたりする。
【0161】
このように構成されている距離画像センサ401では、上述した光電変換装置を適用することで、画素の特性向上に伴って、例えば、より正確な距離画像を取得することができる。
【0162】
(第7の実施形態)
本実施形態の光電変換システムについて、
図21を用いて説明する。
図21は、本実施形態の光電変換システムである内視鏡手術システムの概略的な構成の一例を示す図である。
【0163】
図21では、術者(医師)1131が、内視鏡手術システム1103を用いて、患者ベッド1133上の患者1132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム1103は、内視鏡1100と、術具1110と、内視鏡下手術のための各種の装置が搭載されたカート1134と、から構成される。
【0164】
内視鏡1100は、先端から所定の長さの領域が患者1132の体腔内に挿入される鏡筒1101と、鏡筒1101の基端に接続されるカメラヘッド1102と、から構成される。図示する例では、硬性の鏡筒1101を有するいわゆる硬性鏡として構成される内視鏡1100を図示しているが、内視鏡1100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
【0165】
鏡筒1101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡1100には光源装置1203が接続されており、光源装置1203によって生成された光が、鏡筒1101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者1132の体腔内の観察対象に向かって照射される。なお、内視鏡1100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
【0166】
カメラヘッド1102の内部には光学系及び光電変換装置が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該光電変換装置に集光される。当該光電変換装置によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該光電変換装置としては、前述の実施形態に記載の光電変換装置を用いることができる。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)1135に送信される。
【0167】
CCU1135は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡1100及び表示装置1136の動作を統括的に制御する。さらに、CCU1135は、カメラヘッド1102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
【0168】
表示装置1136は、CCU1135からの制御により、当該CCU1135によって画像処理が施された画像信号に基づく画像を表示する。
【0169】
光源装置1203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡1100に供給する。
【0170】
入力装置1137は、内視鏡手術システム1103に対する入力インターフェースである。ユーザは、入力装置1137を介して、内視鏡手術システム1103に対して各種の情報の入力や指示入力を行うことができる。
【0171】
処置具制御装置1138は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具1112の駆動を制御する。
【0172】
内視鏡1100に術部を撮影する際の照射光を供給する光源装置1203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置1203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド1102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
【0173】
また、光源装置1203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド1102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
【0174】
また、光源装置1203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用する。具体的には、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置1203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
【0175】
(第8の実施形態)
本実施形態の光電変換システムについて、
図22を用いて説明する。
図22(a)は、光電変換システムである眼鏡1600(スマートグラス)の構成の一例を示す図である。眼鏡1600には、光電変換装置1602を有する。光電変換装置1602は、上記のから第12の実施形態に記載の光電変換装置である。また、レンズ1601の裏面側には、OLEDやLED等の発光装置を含む表示装置が設けられていてもよい。光電変換装置1602は1つでもよいし、複数でもよい。また、複数種類の光電変換装置を組み合わせて用いてもよい。光電変換装置1602の配置位置は
図22(a)に限定されない。
【0176】
眼鏡1600は、制御装置1603をさらに備える。制御装置1603は、光電変換装置1602と上記の表示装置に電力を供給する電源として機能する。また、制御装置1603は、光電変換装置1602と表示装置の動作を制御する。レンズ1601には、光電変換装置1602に光を集光するための光学系が形成されている。
【0177】
図22(b)は、1つの適用例に係る眼鏡1610(スマートグラス)を説明する。眼鏡1610は、制御装置1612を有しており、制御装置1612に、光電変換装置1602に相当する光電変換装置と、表示装置が搭載される。レンズ1611には、制御装置1612内の光電変換装置と、表示装置からの発光を投影するための光学系が形成されており、レンズ1611には画像が投影される。制御装置1612は、光電変換装置および表示装置に電力を供給する電源として機能するとともに、光電変換装置および表示装置の動作を制御する。制御装置は、装着者の視線を検知する視線検知部を有してもよい。視線の検知は赤外線を用いてよい。赤外発光部は、表示画像を注視しているユーザの眼球に対して、赤外光を発する。発せられた赤外光の眼球からの反射光を、受光素子を有する撮像部が検出することで眼球の撮像画像が得られる。平面視における赤外発光部から表示部への光を低減する低減手段を有することで、画像品位の低下を低減する。
【0178】
赤外光の撮像により得られた眼球の撮像画像から表示画像に対するユーザの視線を検出する。眼球の撮像画像を用いた視線検出には任意の公知の手法が適用できる。一例として、角膜での照射光の反射によるプルキニエ像に基づく視線検出方法を用いることができる。
【0179】
より具体的には、瞳孔角膜反射法に基づく視線検出処理が行われる。瞳孔角膜反射法を用いて、眼球の撮像画像に含まれる瞳孔の像とプルキニエ像とに基づいて、眼球の向き(回転角度)を表す視線ベクトルが算出されることにより、ユーザの視線が検出される。
【0180】
本実施形態の表示装置は、受光素子を有する光電変換装置を有し、光電変換装置からのユーザの視線情報に基づいて表示装置の表示画像を制御してよい。
【0181】
具体的には、表示装置は、視線情報に基づいて、ユーザが注視する第一の視界領域と、第一の視界領域以外の第二の視界領域とを決定される。第一の視界領域、第二の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。表示装置の表示領域において、第一の視界領域の表示解像度を第二の視界領域の表示解像度よりも高く制御してよい。つまり、第二の視界領域の解像度を第一の視界領域よりも低くしてよい。
【0182】
また、表示領域は、第一の表示領域、第一の表示領域とは異なる第二の表示領域とを有し、視線情報に基づいて、第一の表示領域および第二の表示領域から優先度が高い領域を決定されてよい。第一の視界領域、第二の視界領域は、表示装置の制御装置が決定してもよいし、外部の制御装置が決定したものを受信してもよい。優先度の高い領域の解像度を、優先度が高い領域以外の領域の解像度よりも高く制御してよい。つまり優先度が相対的に低い領域の解像度を低くしてよい。
【0183】
なお、第一の視界領域や優先度が高い領域の決定には、AIを用いてもよい。AIは、眼球の画像と当該画像の眼球が実際に視ていた方向とを教師データとして、眼球の画像から視線の角度、視線の先の目的物までの距離を推定するよう構成されたモデルであってよい。AIプログラムは、表示装置が有しても、光電変換装置が有しても、外部装置が有してもよい。外部装置が有する場合は、通信を介して、表示装置に伝えられる。
【0184】
視認検知に基づいて表示制御する場合、外部を撮像する光電変換装置を更に有するスマートグラスに好ましく適用できる。スマートグラスは、撮像した外部情報をリアルタイムで表示することができる。
【0185】
以上、説明した実施形態は、技術思想を逸脱しない範囲において適宜変更が可能である。また、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態に含まれる。
【0186】
また、本実施形態の開示は、以下の構成および方法を含む。
【0187】
(構成1)
アバランシェ増倍を行うフォトダイオードと、
前記フォトダイオードと電源との間に配され、前記フォトダイオードを前記電源に電気的に接続する第1の状態と、前記フォトダイオードを前記電源に電気的に接続しない第2の状態に切り替える回路と、
前記フォトダイオードからの出力信号をカウントするカウンタと、
露光期間に含まれ、前記露光期間よりも短い所定の露光期間内に、前記カウンタのカウント値が閾値に達したことを示す時間情報が書き込まれるメモリと、を有し、
前記露光期間において、クロック信号が、前記回路に入力可能に構成されていることを特徴とする光電変換装置。
【0188】
(構成2)
前記所定の露光期間は、第1の露光期間と、第2の露光期間を有することを特徴とする構成1に記載の光電変換装置。
【0189】
(構成3)
前記第1の露光期間は、前記第2の露光期間よりも短く、前記第1の露光期間内における前記クロック信号のパルス数は、前記カウンタの最大カウント値以上であることを特徴とする構成2に記載の光電変換装置。
【0190】
(構成4)
前記閾値は、前記カウンタの最大カウント値であることを特徴とする構成1から3のいずれか1項に記載の光電変換装置。
【0191】
(構成5)
前記閾値は、前記カウンタの最大カウント値よりも小さいことを特徴とする構成1から3のいずれか1項に記載の光電変換装置。
【0192】
(構成6)
前記閾値は、前記カウンタの最大カウント値/n、であることを特徴とする構成1から3のいずれか1項に記載の光電変換装置。
【0193】
(構成7)
前記所定の露光期間は、第1の露光期間と、第1の露光期間よりも長い露光期間である第2の露光期間を有し、
前記nは、前記第2の露光期間の長さ/前記第1の露光期間の長さ、の値以上であることを特徴とする構成6に記載の光電変換装置。
【0194】
(構成8)
前記第2の露光期間の長さは、前記第1の露光期間の長さの2倍以上であることを特徴とする請求項2に記載の光電変換装置。
【0195】
(構成9)
前記所定の露光期間は、前記第2の露光期間よりも長い露光期間である第3の露光期間を有し、前記第3の露光期間の長さは、前記第2の露光期間の長さの2倍以上であることを特徴とする構成2または8に記載の光電変換装置。
【0196】
(構成10)
前記所定の露光期間は、前記第2の露光期間よりも長い露光期間である第3の露光期間を有し、前記第3の露光期間の長さは、前記第2の露光期間の長さの4倍以上であり、
前記第2の露光期間の長さは、前記第1の露光期間の長さの4倍以上であることを特徴とする構成2、8、9のいずれか1項に記載の光電変換装置。
【0197】
(構成11)
前記カウンタが前記所定の露光期間内に前記閾値に達した場合に、前記回路が有するトランジスタのゲートに供給する電位を変える制御回路を有することを特徴とする請求項1から10のいずれか1項に記載の光電変換装置。
【0198】
(構成12)
前記カウンタが前記所定の露光期間内に前記閾値に達した場合に、前記カウンタを停止する制御回路を有することを特徴とする構成1から11のいずれか1項に記載の光電変換装置。
【0199】
(構成13)
前記カウンタのビット数よりも前記メモリのビット数が少ないことを特徴とする構成1から12のいずれか1項に記載の光電変換装置。
【0200】
(構成14)
前記フォトダイオードと前記カウンタの間に論理回路を有し、前記露光期間において、前記論理回路に前記クロック信号が入力されることを特徴とする構成1から13のいずれか1項に記載の光電変換装置。
【0201】
(構成15)
前記露光期間内における前記クロック信号の周波数が2種類以上あることを特徴とする構成1から14のいずれか1項に記載の光電変換装置。
【0202】
(構成16)
前記第1の露光期間内における前記クロック信号の平均周波数である第1の周波数と、前記第2の露光期間内における前記クロック信号の平均周波数である第2の周波数とが異なることを特徴とする構成2に記載の光電変換装置。
【0203】
(構成17)
前記第1の周波数は、前記第2の周波数よりも大きいことを特徴とする構成16に記載の光電変換装置。
【0204】
(構成18)
前記第1の露光期間における単位時間当たりの前記クロック信号のパルス数は、前記第2の露光期間における単位時間当たりの前記クロック信号のパルス数よりも多いことを特徴とする構成2に記載の光電変換装置。
【0205】
(構成19)
請求項1から18のいずれか1項に記載の光電変換装置から出力された信号を演算する演算回路であって、
前記演算回路は、前記時間情報に基づいて、前記カウンタのカウント値の増倍率を変化させることを特徴とする演算回路。
【0206】
(構成20)
構成1記載の光電変換装置は、構成19に記載の演算回路を有することを特徴とする構成1に記載の光電変換装置。
【0207】
(構成21)
請求項1に記載の光電変換装置と、構成19に記載の演算回路と、を有することを特徴とする光電変換システム。
【0208】
(構成22)
構成1に記載の光電変換装置と、
前記光電変換装置が出力する信号を用いて画像を生成する信号処理部と、を有することを特徴とする光電変換システム。
【0209】
(構成23)
構成1に記載の光電変換装置を備える移動体であって、
前記光電変換装置が出力する信号を用いて前記移動体の移動を制御する制御部を有することを特徴とする移動体。
【符号の説明】
【0210】
201 アバランシェフォトダイオード
202 クエンチ素子
210 波形整形部
211 カウンタ回路
212 選択回路
221 論理回路
222 論理回路
223 メモリ
230 露光制御回路
231 ラッチ
232 マルチプレクサ
233 メモリ
234 論理回路