(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】
(43)【公開日】
(54)【発明の名称】光電変換装置及び機器
(51)【国際特許分類】
【FI】
【審査請求】未請求
【請求項の数】22
【出願形態】
(21)【出願番号】
(22)【出願日】
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100094112
【弁理士】
【氏名又は名称】岡部 讓
(74)【代理人】
【識別番号】100114915
【弁理士】
【氏名又は名称】三村 治彦
(74)【代理人】
【識別番号】100182257
【弁理士】
【氏名又は名称】川内 英主
(74)【代理人】
【識別番号】100101498
【弁理士】
【氏名又は名称】越智 隆夫
(74)【代理人】
【識別番号】100136799
【弁理士】
【氏名又は名称】本田 亜希
(72)【発明者】
【氏名】山崎 翔悟
【テーマコード(参考)】
【Fターム(参考)】
5C024CY18
5C024CY43
5C024GX03
5C024GX15
5C024GY39
5C024GY41
5C024GY45
5C024HX22
5C024HX31
(57)【要約】
【課題】時間相関イメージングの機能を有する光電変換装置において、時間分解能を損なうことなく画素の回路規模を縮小するための技術を提供する。
【解決手段】光電変換装置は、アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、受光部から第1積算部への第1信号の出力を制御する第1制御信号と、受光部から第2積算部への第2信号の出力を制御する第2制御信号と、を出力する制御部と、を有する。単位露光期間における第2制御信号のアサート数は、単位露光期間における第1制御信号のアサート数よりも少ない。
【選択図】
図8
【特許請求の範囲】
【請求項】
アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、
前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、
前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、
前記受光部から前記第1積算部への前記第1信号の出力を制御する第1制御信号と、前記受光部から前記第2積算部への前記第2信号の出力を制御する第2制御信号と、を出力する制御部と、を有し、
単位露光期間における前記第2制御信号のアサート数は、前記単位露光期間における前記第1制御信号のアサート数よりも少ない
ことを特徴とする光電変換装置。
【請求項】
前記第2重み情報は、複数のサブ露光期間を含む単位露光期間を1周期とする周期関数の値に基づいて設定され、
前記複数のサブ露光期間の各々において与えられる前記第2重み情報は、前記複数のサブ露光期間の各々に対応する位相における前記周期関数の値に対応している
ことを特徴とする請求項1記載の光電変換装置。
【請求項】
前記第1重み情報は、前記複数のサブ露光期間の各々において同一である
ことを特徴とする請求項2記載の光電変換装置。
【請求項】
前記複数のサブ露光期間のうち前記第2積算部における積算動作が行われるサブフレーム期間の数は、前記複数のサブ露光期間のうち前記第1積算部における積算動作が行われるサブフレーム期間の数よりも少ない
ことを特徴とする請求項2記載の光電変換装置。
【請求項】
前記第1積算部における前記積算動作は前記第1制御信号のアサート期間に行われ、
前記第2積算部における前記積算動作は前記第2制御信号のアサート期間に行われる
ことを特徴とする請求項4記載の光電変換装置。
【請求項】
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記重み信号生成部は、前記複数のサブ露光期間の各々において、前記第1重み情報に対応する複数のパルス信号を含む前記第1重み信号と、前記第2重み情報に対応する複数のパルス信号を含む前記第2重み信号と、を前記受光部に出力し、
前記受光部は、光子の入射に応じて、前記第1重み信号に基づく前記第1信号と、前記第2重み信号に基づく前記第2信号と、を出力する
ことを特徴とする請求項2乃至5のいずれか1項に記載の光電変換装置。
【請求項】
前記重み信号生成部は、前記複数のサブ露光期間の各々において、周期的なパルス信号を含む周期信号に対して間引き処理を行うことにより前記第1重み信号を生成する
ことを特徴とする請求項6記載の光電変換装置。
【請求項】
前記第1積算部は、直前のサブ露光期間に光子が入射した場合に、次のサブ露光期間の間に入力された前記第1信号に重畳する前記パルス信号の数を積算する
ことを特徴とする請求項6記載の光電変換装置。
【請求項】
前記重み信号生成部は、前記第1重み信号の前記複数のパルス信号の各々に応じて前記第2重み信号を出力する
ことを特徴とする請求項6記載の光電変換装置。
【請求項】
前記重み信号生成部は、前記重み信号生成部に入力される前記周期信号に対して逓倍処理を行うことにより、前記第1重み信号の前記複数のパルス信号の各々のアサート期間の間に前記複数のパルス信号を含む前記第2重み信号を生成する
ことを特徴とする請求項7記載の光電変換装置。
【請求項】
前記第2積算部が備える積算回路のビット幅は、前記周期関数の平均値に基づいて設定されている
ことを特徴とする請求項2乃至5のいずれか1項に記載の光電変換装置。
【請求項】
前記周期関数は、正弦関数又は余弦関数である
ことを特徴とする請求項2乃至5のいずれか1項に記載の光電変換装置。
【請求項】
前記受光部は、第1アバランシェフォトダイオードへの光子の入射に応じて前記第1信号を出力する第1受光部と、第2アバランシェフォトダイオードへの光子の入射に応じて前記第2信号を出力する第2受光部と、を有する
ことを特徴とする請求項1乃至5のいずれか1項に記載の光電変換装置。
【請求項】
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記受光部は、
前記アバランシェフォトダイオードに接続された波形整形回路と、
前記第1重み信号のアサート期間と第3制御信号のアサート期間とが重なる期間に前記アバランシェフォトダイオードのリチャージ動作を行う第1論理回路と、
前記第1制御信号のアサート期間に前記第1重み信号を前記第1積算部に出力する第2論理回路と、
前記第2制御信号のアサート期間に前記第2重み信号を前記第2積算部に出力する第3論理回路と、を更に有する
ことを特徴とする請求項1乃至5のいずれか1項に記載の光電変換装置。
【請求項】
前記第1積算部は、前記波形整形回路の出力信号を受け、前記第3制御信号に応じて出力信号が前記波形整形回路の前記出力信号のレベルとなるフリップフロップ回路と、前記フリップフロップ回路の前記出力信号のアサート期間に前記第2論理回路からの前記第1重み信号を出力する第4論理回路と、前記第4論理回路から出力される前記第1信号を積算する第1積算回路と、を有し、
前記第2積算部は、前記フリップフロップ回路の前記出力信号の前記アサート期間に前記第3論理回路からの前記第2重み信号を出力する第5論理回路と、前記第5論理回路から出力される前記第2信号を積算する第2積算回路と、を有する
ことを特徴とする請求項14記載の光電変換装置。
【請求項】
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記第1受光部は、
前記第1アバランシェフォトダイオードに接続された第1波形整形回路と、
前記第1重み信号のアサート期間と第3制御信号のアサート期間とが重なる期間に前記第1アバランシェフォトダイオードのリチャージ動作を行う第1論理回路と、
前記第1制御信号のアサート期間に前記第1重み信号を前記第1積算部に出力する第2論理回路と、を更に有し、
前記第2受光部は、
前記第2アバランシェフォトダイオードに接続された第2波形整形回路と、
前記第2重み信号のアサート期間と第4制御信号のアサート期間とが重なる期間に前記第2アバランシェフォトダイオードのリチャージ動作を行う第3論理回路と、
前記第2制御信号のアサート期間に前記第2重み信号を前記第2積算部に出力する第4論理回路と、を更に有する
ことを特徴とする請求項13記載の光電変換装置。
【請求項】
前記第1積算部は、前記第1波形整形回路の出力信号を受け、前記第3制御信号に応じて出力信号が前記第1波形整形回路の前記出力信号のレベルとなる第1フリップフロップ回路と、前記第1フリップフロップ回路の前記出力信号のアサート期間に前記第2論理回路からの前記第1重み信号を出力する第5論理回路と、前記第5論理回路から出力される前記第1信号を積算する第1積算回路と、を有し、
前記第2積算部は、前記第2波形整形回路の出力信号を受け、前記第4制御信号に応じて出力信号が前記第2波形整形回路の前記出力信号のレベルとなる第2フリップフロップ回路と、前記第2フリップフロップ回路の前記出力信号のアサート期間に前記第4論理回路からの前記第2重み信号を出力する第6論理回路と、前記第6論理回路から出力される前記第2信号を積算する第2積算回路と、を有する
ことを特徴とする請求項16記載の光電変換装置。
【請求項】
請求項1乃至5のいずれか1項に記載の光電変換装置と、
前記光電変換装置から出力される信号を処理する信号処理装置と
を有することを特徴とする光電変換システム。
【請求項】
移動体であって、
請求項1乃至5のいずれか1項に記載の光電変換装置と、
前記光電変換装置からの信号に基づく視差画像から、対象物までの距離情報を取得する距離情報取得手段と、
前記距離情報に基づいて前記移動体を制御する制御手段と
を有することを特徴とする移動体。
【請求項】
請求項1乃至5のいずれか1項に記載の光電変換装置と、
前記光電変換装置に対応する光学装置、
前記光電変換装置を制御する制御装置、
前記光電変換装置から出力された信号を処理する処理装置、
前記光電変換装置で得られた情報に基づいて制御される機械装置、
前記光電変換装置で得られた情報を表示する表示装置、及び、
前記光電変換装置で得られた情報を記憶する記憶装置、の少なくともいずれかと
を備えることを特徴とする機器。
【請求項】
前記処理装置は、前記光電変換装置から出力される信号に基づいてオプティカルフローを取得する
ことを特徴とする請求項20記載の機器。
【請求項】
アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、を有する光電変換装置の駆動方法であって、
前記受光部から前記第1積算部への前記第1信号の出力は、第1制御信号で制御し、
前記受光部から前記第2積算部への前記第2信号の出力は、単位露光期間あたりのアサート数が前記第1制御信号よりも少ない第2制御信号で制御する
ことを特徴とする光電変換装置の駆動方法。
【発明の詳細な説明】
【技術分野】
【】
本発明は、光電変換装置及び機器に関する。
【背景技術】
【】
撮像センサの1つとして、時間相関イメージセンサが知られている。非特許文献1には、時間相関イメージセンサとして、相関検出機能を画素に組み込んだ構造が開示されている。この構造を備えることにより、フレームレートよりも広帯域の時間変動パターンが検出可能となる。また、非特許文献1には、この相関検出構造として、光電流を生成するフォトダイオードと、この光電流を蓄積する複数のコンデンサが設けられた構造が開示されている。
【先行技術文献】
【非特許文献】
【】
【非特許文献】安藤繁、来海暁著、「時間相関イメージングとその応用」、日本電気学会論文誌E、129巻5号、2009年5月1日、p.129-137
【発明の概要】
【発明が解決しようとする課題】
【】
しかしながら、非特許文献1に記載の時間相関イメージセンサでは、相関検出機能を画素に組み込んでいるため画素の回路規模が大きくならざるを得ず、光電変換装置のサイズの増大を避けられなかった。
【】
本発明の目的は、時間相関イメージングの機能を有する光電変換装置において、画素の回路規模を縮小するための技術を提供することにある。
【課題を解決するための手段】
【】
本明細書の一開示によれば、アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、前記受光部から前記第1積算部への前記第1信号の出力を制御する第1制御信号と、前記受光部から前記第2積算部への前記第2信号の出力を制御する第2制御信号と、を出力する制御部と、を有し、単位露光期間における前記第2制御信号のアサート数は、前記単位露光期間における前記第1制御信号のアサート数よりも少ない光電変換装置が提供される。
【】
また、本明細書の他の一開示によれば、アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、を有する光電変換装置の駆動方法であって、前記受光部から前記第1積算部への前記第1信号の出力は、第1制御信号で制御し、前記受光部から前記第2積算部への前記第2信号の出力は、単位露光期間あたりのアサート数が前記第1制御信号よりも少ない第2制御信号で制御する光電変換装置の駆動方法が提供される。
【発明の効果】
【】
本発明によれば、時間相関イメージングの機能を有する光電変換装置において、画素の回路規模を縮小することができる。
【図面の簡単な説明】
【】
【図】第1実施形態による光電変換装置の概略構成を示すブロック図(その1)である。
【図】第1実施形態による光電変換装置の概略構成を示すブロック図(その2)である。
【図】第1実施形態による光電変換装置における画素の概略構成を示すブロック図である。
【図】第1実施形態による光電変換装置の構成例を示す斜視図である。
【図】第1実施形態による光電変換装置における光電変換部の基本動作を説明する図(その1)である。
【図】第1実施形態による光電変換装置における光電変換部の基本動作を説明する図(その2)である。
【図】第1実施形態による光電変換装置における重み制御部及び画素の概略構成を示す機能ブロック図である。
【図】第1実施形態による光電変換装置における重み制御部の概略構成を示す機能ブロック図である。
【図】第1実施形態による光電変換装置における画素の構成例を示す回路図である。
【図】メインフレーム期間とサブフレーム期間との関係並びに重みづけ量の時間変化の例を示す図である。
【図】第1実施形態による光電変換装置における画素の動作を示すタイミング図(その1)である。
【図】第1実施形態による光電変換装置における画素の動作を示すタイミング図(その2)である。
【図】第1実施形態による光電変換装置における画素の動作を示すタイミング図(その3)である。
【図】第2実施形態による光電変換装置における重み制御部及び画素の概略構成を示す機能ブロック図である。
【図】第2実施形態による光電変換装置における画素の構成例を示す回路図である。
【図】本発明の第3実施形態による光電変換システムの概略構成を示すブロック図である。
【図】本発明の第4実施形態による光電変換システム及び移動体の構成例を示す図である。
【図】本発明の第5実施形態による機器の概略構成を示すブロック図である。
【発明を実施するための形態】
【】
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下に述べる各実施形態では、光電変換装置の一例として、撮像用途の光電変換装置を中心に説明する。ただし、各実施形態は、撮像用途の光電変換装置に限られるものではなく、他の光電変換装置にも適用可能である。例えば、光電変換装置の他の例としては、測距装置(焦点検出やTOF(Time Of Flight)を用いた距離測定等の装置)、測光装置(入射光量の測定等の装置)などが挙げられる。
【】
なお、以下に述べる実施形態に記載されるトランジスタの導電型は一例のものであって、実施形態中に記載された導電型のみに限定されるものではない。実施形態中に記載された導電型に対し、導電型は適宜変更できるし、この変更に伴って、トランジスタのゲート、ソース、ドレインの電位は適宜変更される。例えば、スイッチとして動作させるトランジスタであれば、ゲートに供給する電位のローレベルとハイレベルとを、導電型の変更に伴って、実施形態中の説明に対し逆転させるようにすればよい。
【】
また、以下の実施形態中で、回路の素子同士の接続を述べることがある。この場合、注目する素子同士の間に別の素子が介在する場合であっても、特に断りのない限り、注目する素子同士は接続されているとして扱う。例えば、複数のノードを持つ容量素子Cの一方のノードに素子Aが接続され、他方のノードに素子Bが接続されているとする。このような場合であっても、素子A、素子Bは、特に断りのない限り、接続されているものとして扱う。
【】
[第1実施形態]
本発明の第1実施形態による光電変換装置の説明に先立って、時間相関イメージセンサ及びイベントベースセンサの原理について概略を説明する。
【】
時間相関イメージセンサは、フォトダイオードと、フォトダイオードが出力する信号を複数に分けて取得する構成とを備える。画像を生成する画素ごとの信号は、以下の式(1)で表される。
【数】
【】
ここで、f(x,y,t)は時刻tにおける画素(x,y)の明度である。また、vは、画素(x,y)の速度(画素(x,y)の時間微分)である。∇は、ナブラ演算子(ベクトル微分演算子)である。
【】
1フレームの画像の取得における露光時間をTとすると、画像g
n(x,y)は以下の式(2)で表される。
【数】
【】
式(2)に示されるように、画像g
n(x,y)は、明度f(x,y,t)に複素数e
-inΔwtで表される参照信号を乗じて1フレーム期間の範囲で積分することにより得られる。撮像された画像g
n(x,y)は、以下の式(3)を満たすものとする。
【数】
【】
式(3)の左辺の第2項は積分の境界値を示している。式(3)は、nの値に応じて互いに異なる複数の式であるため、連立方程式をなしている。したがって、例えば2つの画像g0(x,y),g1(x,y)を用いて連立方程式を解くことで、積分の境界値を消去することができる。時間相関イメージセンサは、実部のみからなる強度画像g0(x,y)と、複素数の相関画像gn(x,y)の実部及び虚部とを出力することができる(以下では、複素数の相関画像を時間相関信号とも呼ぶ)。このため、時間相関イメージセンサの出力信号を式(3)の連立方程式に代入して解くことにより、各画素(x,y)における速度v、すなわちオプティカルフローを得ることができる。
【】
時間相関イメージセンサの信号処理においては、式(2)に示されるように、1フレーム期間の範囲の積分を演算する必要がある。このため、相関画像の出力タイミングは、1フレーム期間単位に限定される。時間相関イメージセンサにおいては、参照信号の周期とシャッタの開放期間の周期とを一致させている。このため、相関画像は、シャッタの開放期間の周期に応じた頻度で出力される。
【】
ここで、イベントベースセンサについて概要を述べる。イベントベースセンサは、撮影範囲内の輝度変化を検出し、輝度変化が検出されるごとにイベント信号を出力する。イベントベースセンサは、例えば行列状に配置された複数の画素を含む。すなわち、イベント信号とはイベントに関連付けられた信号であり、イベントとは画素の輝度変化である。イベント信号は、一例として、イベントが検出された時刻と、イベントが検出された画素の位置と、画素値の変化とを含む。イベントが検出された時刻は、イベントベースセンサの内部時計が示す時刻(イベントカメラ時刻)を基準に計測することができる。
【】
なお、イベントが検出された時刻の基準は、必要に応じてリセットされ得る。画素値の変化は、例えば輝度の変化である。画素値の変化は、変化量そのものであってもよいし、輝度変化の正負を示す情報であってもよい。
【】
イベントベースセンサは、輝度変化が生じたときにイベント信号を出力し、輝度変化が生じないときにはイベント信号を出力しない。すなわち、イベントベースセンサは、イベント信号を非同期に出力する。なお、非同期に出力するとは、画素単位で時間的に独立して信号を出力することを意味する。
【】
イベントベースセンサの動作を数式で表現すると以下の式(4)となる。
【数】
【】
式(4)のY(x,y,t)は時刻tにおける画像である。時刻t0は計測開始時刻である。画像Y(x,y,t0)は時刻t0に記憶されていた初期の画像である。一般的に、画像Y(x,y,t0)は0とすることができる。ΔYはイベント発生の閾値(輝度変化の絶対値)である。p(x,y,si)は画素(x,y)でi番目に起きたイベント信号であり、イベント検出時のp(x,y,si)の値は、輝度変化の正負に応じて、1又は-1である。δ(s-si)は、ディラックのデルタ関数である。
【】
イベントベースセンサには、時間相関イメージセンサのような時間相関信号を出力する機能を付与することができる。時刻tをフレーム期間の終了時刻とした場合、時間相関イメージセンサの出力信号は、角速度ω(ω=2π/T)を用いて以下の式(5)から式(7)のように示すことができる。
【数】
【】
時間相関イメージセンサにおいては、フォトダイオードから出力される電流に基づく電荷がキャパシタに蓄積される。蓄積された電荷が輝度に対応する。一方、イベントベースセンサにおいては、フォトダイオードから出力される電流の変化を量子化した信号が出力される。このため、イベントベースセンサにおいて、時刻sにおけるフォトダイオードからの出力は、計測期間内で一定値となる定位項f(x,y,t-T)と、定位項に対する差に相当する変位項δf(x,y,s)とに分けることができる。したがって、f(x,y,s)は以下の式(8)のように表される。
【数】
【】
また、参照信号の性質を考慮すると、下記の式(9)、(10)が満たされる。
【数】
【】
式(9)及び式(10)の関係を用いて、式(5)から式(7)を定位項と変位項とを用いた式に書き換えることができる。これにより、以下の式(11)から式(13)が得られる。
【数】
【】
イベントベースセンサにおいて、以下の式(14)に表されるように、時間相関イメージセンサのフォトダイオードが出力する電流を、イベントベースセンサのイベント信号に変換する。
【数】
【】
これにより、式(11)から式(13)は、以下の式(15)から式(17)のように変形することができる。
【数】
【】
式(15)から式(17)に示されるように、信号を取得する期間(周期T)の間に発生したイベント信号を用いて、時間相関信号を出力することができる。
【】
次に、本発明の第1実施形態による光電変換装置の概略構成について、
図1を用いて説明する。
図1は、本実施形態による光電変換装置の概略構成を示すブロック図である。
【】
本実施形態による光電変換装置100は、
図1に示すように、画素部10と、垂直走査回路部40と、読み出し回路部50と、水平走査回路部60と、出力回路部70と、重み制御部80と、制御パルス生成部90と、を有する。
【】
画素部10には、複数の行及び複数の列をなすように配列された複数の画素12が設けられている。各々の画素12は、光電変換素子を含む光電変換部と、光電変換部から出力される信号を処理する信号処理部と、を含んで構成され得る。画素部10を構成する画素12の数は、特に限定されるものではない。例えば、一般的なデジタルカメラのように数千行×数千列のアレイ状に配された複数の画素12により画素部10を構成することができる。或いは、1行又は1列に並べた複数の画素12により画素部10を構成してもよい。或いは、1つの画素12により画素部10を構成してもよい。画素12の具体的な構成及び動作については後述する。
【】
画素部10の画素アレイの各行には、第1の方向(
図1において横方向)に延在して、制御線14が配されている。制御線14は、第1の方向に並ぶ画素12にそれぞれ接続され、これら画素12に共通の信号線をなしている。制御線14の延在する第1の方向は、行方向或いは水平方向と呼ぶことがある。制御線14の各々は、複数種類の制御信号を画素12に供給するための複数の信号線を含み得る。
【】
また、画素部10の画素アレイの各列には、第1の方向と交差する第2の方向(
図1において縦方向)に延在して、出力線16が配されている。出力線16は、第2の方向に並ぶ画素12にそれぞれ接続され、これら画素12に共通の信号線をなしている。出力線16の延在する第2の方向は、列方向或いは垂直方向と呼ぶことがある。出力線16の各々は、複数の信号線を含み得る。例えば、出力線16は、画素12から出力される複数ビットのデジタル信号をビット毎に転送するための複数の信号線を含み得る。
【】
また、画素部10を構成する複数の画素12の各々は、重み制御部80に接続されている。重み制御部80と複数の画素12の各々とは、複数の信号線によって接続され得る。なお、
図1では画素アレイの各列に配された信号線を介して重み制御部80と画素12とを接続しているが、重み制御部80と画素12との接続態様は
図1の例に限定されるものではない。
【】
各行の制御線14は、垂直走査回路部40に接続されている。垂直走査回路部40は、制御パルス生成部90からの制御信号に応じて画素12を駆動するための制御信号を生成し、制御線14を介して生成した制御信号を画素12に供給する機能を備える制御回路である。垂直走査回路部40には、シフトレジスタやアドレスデコーダといった論理回路が用いられ得る。垂直走査回路部40は、画素部10内の画素12を行単位で順次走査し、出力線16を介して各画素12の画素信号を読み出し回路部50へと出力する。
【】
各列の出力線16は、読み出し回路部50に接続されている。読み出し回路部50は、画素アレイの各列から出力線16を介して出力された画素信号を、各列に対応して設けられた保持部にて保持する機能を備える。読み出し回路部50は、画素部10から読み出された画素信号に対して所定の演算処理を行う機能を更に備えていてもよい。読み出し回路部50が実行する演算処理には、時間相関イメージングに関する処理が含まれ得る。
【】
水平走査回路部60は、制御パルス生成部90から出力される制御信号を受け、読み出し回路部50の各列の保持部から画素信号を読み出すための制御信号を生成し、読み出し回路部50に供給する制御回路である。水平走査回路部60には、シフトレジスタやアドレスデコーダといった論理回路が用いられ得る。水平走査回路部60は、読み出し回路部50の各列の保持部を順次走査し、各々に保持されている画素信号を順次、出力回路部70へと出力する。
【】
出力回路部70は、外部インターフェース回路を有し、読み出し回路部50から出力された画素信号を光電変換装置100の外部の信号処理装置110に出力するための回路部である。出力回路部70が備える外部インターフェース回路は、特に限定されるものではない。外部インターフェース回路としては、例えばSerDes(SERializer/DESerializer)送信回路を適用可能である。SerDes送信回路としては、例えば、LVDS(Low Voltage Differential Signaling)回路やSLVS(Scalable Low Voltage Signaling)回路が挙げられる。
【】
重み制御部80は、画素12が生成する信号に対する重みづけ(重みづけ量)を制御する機能を備える。具体的には、重み制御部80は、第1重み信号及び第2重み信号を生成し、画素部10を構成する複数の画素12の各々に、第1重み信号及び第2重み信号のうちの少なくとも一方を出力する。重み制御部80は、第1重み信号及び第2重み信号を生成する重み信号生成部とも言える。なお、重み制御部80の具体的な構成及び動作については後述する。
【】
制御パルス生成部90は、垂直走査回路部40、読み出し回路部50、水平走査回路部60、重み制御部80の動作やそのタイミングを制御する制御信号を生成し、各機能ブロックに供給するための制御回路である。なお、各機能ブロックの動作やそのタイミングを制御する制御信号の少なくとも一部は、光電変換装置100の外部から供給してもよい。
【】
信号処理装置110は、光電変換装置100から出力される信号に対して所定の信号処理を行う機能ブロックである。信号処理装置110は、光電変換装置100から出力される信号を用いてオプティカルフローの算出等の時間相関イメージングに関する処理を行い得る。この処理は、例えば、上述の式(1)から式(17)に基づくものであり得る。なお、信号処理装置110は、光電変換装置100の内部に設けられていてもよく、光電変換装置100が搭載される機器に設けられていてもよい。信号処理装置110の機能が光電変換装置100に配される場合、光電変換装置100は、出力回路部70の前段、例えば読み出し回路部50において、画素信号に対する所定の演算処理を実行することができる。
【】
なお、光電変換装置100の各機能ブロックの接続態様は
図1の構成例に限定されるものではなく、例えば
図2に示すように構成することもできる。
【】
図2の構成例では、画素部10の画素アレイの各行に、第1の方向に延在する出力線16を配している。出力線16は、第1の方向に並ぶ画素12にそれぞれ接続され、これら画素12に共通の信号線をなしている。また、画素部10の画素アレイの各列に、第2の方向に延在する制御線18を配している。制御線18は、第2の方向に並ぶ画素12にそれぞれ接続され、これら画素12に共通の信号線をなしている。
【】
各列の制御線18は、水平走査回路部60に接続されている。水平走査回路部60は、制御パルス生成部90から出力される制御信号に応じて画素12から画素信号を読み出すための制御信号を生成し、制御線18を介して画素12に供給する。具体的には、水平走査回路部60は、画素部10の複数の画素12を列単位で順次走査し、選択された列に属する各行の画素12の画素信号を出力線16を介して読み出し回路部50に出力する。なお、各画素12に行ごとのシフトレジスタを構成する保持部を設け、隣接する画素12の保持部に順次画素信号を転送することにより、各列の画素12の画素信号を順次読み出し回路部50に転送するように構成してもよい。
【】
読み出し回路部50は、画素部10の画素アレイの各行に対応して設けられた複数の保持部(図示せず)を備え、出力線16を介して画素部10から列単位で出力される各行の画素12の画素信号を対応する行の保持部にて保持する機能を備える。また、読み出し回路部50は、制御パルス生成部90から出力される制御信号を受け、各行の保持部に保持されている画素信号を順次出力回路部70へと出力する。
図2の構成例におけるその他の構成は、
図1の構成例と同様であり得る。
【】
図3は、画素12の概略構成を示すブロック図である。各々の画素12は、
図3に示すように、光電変換部20と、信号処理部30と、を有する。光電変換部20は、光電変換素子22を有し、入射光に応じた信号を出力する。信号処理部30は、光電変換部20から出力される信号を処理する信号処理回路である。信号処理部30は、例えば、クエンチ素子32と波形整形回路34とを含む機能ブロック30Aと、処理回路36と選択回路38とを含む機能ブロック30Bと、含んで構成され得る。
図3に示す画素構成の場合、各行の制御線14は、例えば、垂直走査回路部40から制御信号PRESが供給される信号線14Aと、垂直走査回路部40から制御信号PSELが供給される信号線14Bと、を含み得る。
【】
光電変換素子22は、アバランシェフォトダイオード(以下、「APD」と表記する)であり得る。光電変換素子22を構成するAPDのアノードは、電圧VLが供給されるノードに接続されている。光電変換素子22を構成するAPDのカソードは、クエンチ素子32の一方の端子に接続されている。光電変換素子22とクエンチ素子32との接続ノードが、光電変換部20の出力ノードである。クエンチ素子32の他方の端子は、電圧VLよりも高い電圧VHが供給されるノードに接続されている。電圧VL及び電圧VHは、APDがアバランシェ増倍動作をするに十分な逆バイアス電圧が印加されるように設定されている。一例では、電圧VLとして負の高電圧が与えられ、電圧VHとして電源電圧程度の正電圧が与えられる。例えば、電圧VLは-30Vであり、電圧VHは1Vである。
【】
光電変換素子22は、前述のようにAPDにより構成され得る。アバランシェ増倍動作をするに十分な逆バイアス電圧をAPDに供給した状態とすることで、APDへの光入射によって生じたキャリアがアバランシェ増倍を起こし、アバランシェ電流が発生する。APDに逆バイアス電圧を供給した状態における動作モードには、ガイガーモードとリニアモードとがある。ガイガーモードは、アノードとカソードとの間に印加する電圧をAPDの降伏電圧よりも大きい逆バイアス電圧とする動作モードである。リニアモードは、アノードとカソードとの間に印加する電圧をAPDの降伏電圧近傍又はそれ以下の逆バイアス電圧とする動作モードである。ガイガーモードで動作させるAPDは、SPAD(Single Photon Avalanche Diode)と呼ばれる。光電変換素子22を構成するAPDは、リニアモードで動作するようにしてもよいしガイガーモードで動作するようにしてもよいが、リニアモードのAPDに比べて電位差が大きく信号ノイズ比の向上効果が顕著なSPADがより好ましい。
【】
なお、
図3の回路構成ではAPDのアノードを固定電位とし、カソード側から信号を取り出しているが、APDのカソードを固定電位とし、アノード側から信号を取り出してもよい。前者の場合、信号電荷は電子である。後者の場合、信号電荷は正孔である。また、本実施形態ではAPDの一方のノードを固定電位とする場合について説明するが、両方のノードの電位が変動してもよい。
【】
クエンチ素子32は、光電変換素子22で生じたアバランシェ電流の変化を電圧信号に変換する機能を備える。また、クエンチ素子32は、アバランシェ増倍による信号増倍時に負荷回路(クエンチ回路)として機能し、光電変換素子22に印加される電圧を低減してアバランシェ増倍を抑制する機能を備える。クエンチ素子32がアバランシェ増倍を抑制する動作は、クエンチ動作と呼ばれる。また、クエンチ素子32は、クエンチ動作によって電圧降下した分の電流を流すことにより、光電変換素子22に供給する電圧を電圧VHへと戻す機能を備える。クエンチ素子32が光電変換素子22に供給する電圧を電圧VHへと戻す動作は、リチャージ動作と呼ばれる。クエンチ素子32は、抵抗素子やMOSトランジスタなどにより構成され得る。
【】
波形整形回路34は、光電変換部20の出力信号が供給される入力ノードと、出力ノードと、を有する。波形整形回路34は、光電変換部20から供給されるアナログ信号をパルス信号に変換する機能を備える。波形整形回路34は、NOT回路(インバータ回路)、NOR回路、NAND回路等を含む論理回路により構成され得る。波形整形回路34の出力ノードは、処理回路36に接続されている。
【】
処理回路36は、波形整形回路34の出力信号が供給される入力ノードと、制御線14に接続された入力ノードと、出力ノードと、を有する。処理回路36は、波形整形回路34の出力信号に対して所定の信号処理を行い、処理後の信号或いは処理結果を保持する機能を備える。処理回路36は、特に限定されるものではないが、例えばカウンタ回路を含んで構成され得る。この場合、処理回路36は、波形整形回路34から出力される信号に重畳するパルスの計数を行い、計数結果であるカウント値を保持する。垂直走査回路部40から制御線14を介して処理回路36に供給される信号には、パルスの計数期間(露光期間)を制御するためのイネーブル信号や、処理回路36が保持するカウント値をリセットするためのリセット信号などが含まれ得る。
図3には一例として、信号線14Aを介して供給されるリセット信号(制御信号PRES)を示している。処理回路36の出力ノードは、選択回路38に接続されている。
【】
選択回路38は、処理回路36と出力線16との間の電気的な接続状態(接続又は非接続)を切り替える機能を備える。選択回路38は、垂直走査回路部40から制御線14を介して供給される選択信号(
図2の構成例にあっては、水平走査回路部60から制御線18を介して供給される選択信号)に応じて、処理回路36と出力線16との間の接続状態を切り替える。
図3には一例として、信号線14Bを介して供給される選択信号(制御信号PSEL)を示している。処理回路36は、信号を出力するためのバッファ回路を含み得る。
【】
本実施形態による光電変換装置100は、1枚の基板に形成してもよいし、複数の基板を積層した積層型の光電変換装置として構成してもよい。後者の場合、例えば
図4に示すように、センサ基板120と回路基板130とを積層して電気的に接続した積層型の光電変換装置として構成可能である。センサ基板120には、画素12の構成要素のうち少なくとも光電変換部20を配置することができる。また、回路基板130には、画素12の構成要素のうち、信号処理部30を配置することができる。光電変換部20と信号処理部30とは、画素12毎に設けられた接続配線を介して電気的に接続される。また、回路基板130には、垂直走査回路部40と、読み出し回路部50と、水平走査回路部60と、出力回路部70と、重み制御部80と、制御パルス生成部90と、を更に配置することができる。
【】
各画素12の光電変換部20と信号処理部30とは、平面視において重なるようにセンサ基板120と回路基板130とに設けられ得る。垂直走査回路部40と、読み出し回路部50と、水平走査回路部60と、出力回路部70と、重み制御部80と、制御パルス生成部90とは、複数の画素12により構成される画素部10の周囲に配置することができる。なお、ここでの「平面視」は、センサ基板120の面に対して垂直な方向から視ることを指す。
【】
積層型の光電変換装置100を構成することにより、素子の集積度を上げ、高機能化を図ることができる。特に、光電変換部20と信号処理部30とを別々の基板に配置することで、光電変換素子22の受光面積を犠牲にすることなく光電変換素子22を高密度で配置することができ、光子検知効率を向上することができる。
【】
なお、光電変換装置100を構成する基板の数は2枚に限定されるものではなく、3枚以上の基板を積層して光電変換装置100を構成するようにしてもよい。例えば、3枚の基板を積層して光電変換装置100を構成する場合、センサ基板には、画素12の構成要素のうち光電変換部20を配置することができる。また、第1回路基板には画素12の構成要素のうち機能ブロック30Aを配置し、第2回路基板には画素12の構成要素のうち機能ブロック30Bを配置することができる。各機能ブロックを構成する素子の特性に応じて配置する基板を分けることで、各素子に好適な製造プロセスを適用することができ、ひいては光電変換装置の性能を向上することができる。
【】
また、
図4ではセンサ基板120及び回路基板130としてダイシングされたチップを想定しているが、センサ基板120及び回路基板130はチップに限定されるものではない。例えば、センサ基板120及び回路基板130の各々はウェーハであってもよい。また、センサ基板120及び回路基板130は、ウェーハ状態で積層した後にダイシングしてもよいし、各々をチップ化した後に積層・接合してもよい。
【】
次に、本実施形態による光電変換装置における光電変換部20の基本動作について、
図5及び
図6を用いて説明する。
図5及び
図6は、本実施形態の光電変換装置における光電変換素子22、クエンチ素子32及び波形整形回路34の基本動作を説明する図である。
図5はクエンチ素子32が受動素子により構成されている場合の動作であり、
図6はクエンチ素子32が能動素子により構成されている場合の動作である。ここでは説明の簡略化のため、波形整形回路34がインバータ回路により構成されている場合を想定する。
【】
まず、クエンチ素子32が受動素子により構成されている場合の動作について説明する。クエンチ素子32が受動素子により構成されている場合には、例えば、クエンチ素子32が抵抗素子により構成されている場合や、クエンチ素子32がダイオード接続したMOSトランジスタにより構成されている場合などが挙げられる。
図5(a)は、光電変換素子22、クエンチ素子32及び波形整形回路34の回路図である。
図5(b)は、波形整形回路34の入力ノード(ノードA)における信号の波形を示している。
図5(c)は、波形整形回路34の出力ノード(ノードB)における信号の波形を示している。
【】
時刻t0において、光電変換素子22には(VH-VL)に相当する電位差の逆バイアス電圧が印加されている。光電変換素子22を構成するAPDのアノードとカソードとの間にはアバランシェ増倍を生じるに十分な逆バイアス電圧が印加されているが、光電変換素子22に光子が入射していない状態ではアバランシェ増倍の種となるキャリアが存在しない。そのため、光電変換素子22においてアバランシェ増倍は起こらず、光電変換素子22に電流は流れない。
【】
続く時刻t1において、光電変換素子22に光子(フォトン)が入射したものとする。光電変換素子22に光子が入射すると、光電変換によって電子-正孔対が生成され、これらキャリアを種としてアバランシェ増倍が生じ、光電変換素子22にアバランシェ増倍電流が流れる。このアバランシェ増倍電流がクエンチ素子32を流れることによりクエンチ素子32による電圧降下が生じ、ノードAの電圧が降下し始める。ノードAの電圧降下量が大きくなり、電圧降下量がVex程度になると、時刻t3においてアバランシェ増倍が停止し、ノードAの電圧レベルはそれ以上降下しなくなる。アバランシェ増倍が停止する電位は0V程度、つまり光電変換素子22にかかる電圧がVbd程度となる電位である。
【】
光電変換素子22におけるアバランシェ増倍が停止すると、電圧VHのノードからクエンチ素子32を介してノードAに電圧降下分を補う電流が流れ、ノードAの電圧は徐々に増加する。その後、時刻t5においてノードAは元の電圧レベルに静定する。
【】
波形整形回路34は、ノードAから入力される信号を所定の判定閾値に応じて二値化し、ノードBから出力する。具体的には、波形整形回路34は、ノードAの電圧レベルが判定閾値を超えているときはノードBからローレベルの信号を出力し、ノードAの電圧レベルが判定閾値以下のときはノードBからハイレベルの信号を出力する。例えば、
図4(b)に示すように、時刻t2から時刻t4の期間においてノードAの電圧が判定閾値以下であったとする。この場合、
図5(c)に示すように、ノードBにおける信号レベルは、時刻t0から時刻t2の期間及び時刻t4から時刻t5の期間においてローレベルとなり、時刻t2から時刻t4の期間においてハイレベルとなる。
【】
こうして、ノードAから入力されたアナログ信号は、波形整形回路34によってデジタル信号へと波形整形される。光電変換素子22への光子の入射に応じて波形整形回路34から出力されるパルス信号が、光子検知信号である。
【】
次に、クエンチ素子32が能動素子により構成されている場合の動作について説明する。クエンチ素子32が能動素子により構成されている場合には、例えば、クエンチ素子32が外部からの制御信号で動作するMOSトランジスタにより構成されている場合などが挙げられる。
図6(a)は、光電変換素子22、クエンチ素子32及び波形整形回路34の回路図である。
図6(b)は、クエンチ素子32の入力ノード(ノードC)における信号の波形を示している。
図6(c)は、波形整形回路34の入力ノード(ノードA)における信号の波形を示している。
図6(d)は、波形整形回路34の出力ノード(ノードB)における信号の波形を示している。
【】
図6(a)の回路では、クエンチ素子32をP型MOSトランジスタにより構成している。P型MOSトランジスタのソースは電圧VHのノードに接続されており、P型MOSトランジスタのドレインは光電変換素子22のカソード及び波形整形回路34の入力ノードに接続されている。P型MOSトランジスタのドレインと、光電変換素子22のカソードと、波形整形回路34の入力ノードとの接続ノードが、ノードAである。P型MOSトランジスタのゲート(ノードC)には、例えば
図6(b)に示すように、周期的なパルス信号(以後、信号PCLKBと呼ぶ)が入力される。信号PCLKBは、ハイレベルからローレベルに遷移する周期的な立ち下がりパルス信号を含む。P型MOSトランジスタは、ノードCがハイレベルのときにオフとなりノードAを電圧VHのノードから切り離し、ノードCがローレベルのときにオンとなりノードAを電圧VHにリセットする。
【】
時刻t1においてノードCに信号PCLKBのパルス信号が入力されると、P型MOSトランジスタがオンになり、ノードAが電圧VHにリセットされる。ノードCがハイレベルに戻るとP型MOSトランジスタがオフになり、ノードAは電圧VHで浮遊状態となる。
【】
続く時刻t2において、光電変換素子22に光子(フォトン)が入射したものとする。光電変換素子22に光子が入射すると、光電変換によって電子-正孔対が生成され、これらキャリアを種としてアバランシェ増倍が生じ、光電変換素子22にアバランシェ増倍電流が流れる。このアバランシェ増倍電流がクエンチ素子32を流れることによりクエンチ素子32による電圧降下が生じ、ノードAの電圧が降下し始める。ノードAの電圧降下量が大きくなり、電圧降下量がVex程度になると、時刻t4においてアバランシェ増倍が停止し、ノードAの電圧レベルはそれ以上降下しなくなる。アバランシェ増倍が停止する電位は0V程度、つまり光電変換素子22にかかる電圧がVbd程度となる電位である。ノードAは、下がった電位のまま浮遊状態となる。
【】
時刻t5においてノードCに再び信号PCLKBのパルス信号が入力されると、P型MOSトランジスタがオンになり、ノードAは再び電圧VHにリセットされる。
【】
波形整形回路34は、ノードAから入力される信号を所定の判定閾値に応じて二値化し、ノードBから出力する。具体的には、波形整形回路34は、ノードAの電圧レベルが判定閾値を超えているときはノードBからローレベルの信号を出力し、ノードAの電圧レベルが判定閾値以下のときはノードBからハイレベルの信号を出力する。例えば、
図6(c)に示すように、時刻t3から時刻t5の期間においてノードAの電圧が判定閾値以下であったとする。この場合、
図6(d)に示すように、ノードBにおける信号レベルは、時刻t0から時刻t3の期間及び時刻t5以降の期間においてローレベルとなり、時刻t3から時刻t5の期間においてハイレベルとなる。
【】
こうして、ノードAから入力されたアナログ信号は、波形整形回路34によってデジタル信号へと波形整形される。光電変換素子22への光子の入射に応じて波形整形回路34から出力されるパルス信号が、光子検知パルス信号である。
【】
図6の動作において、時刻t1から時刻t5の間に光子入射がなければ、ノードAは電圧VHのまま変化せず、ノードBはローレベルのままである。また、時刻t2に光子が入射した後から時刻t5までの間、すなわちノードAの電位が下がった状態で再び光子が入射した場合、光電変換素子22は更なるアバランシェ増倍を起こすことはできない。したがって、時刻t1から時刻t5の期間において波形整形回路34で検知できる光子の入射回数は、最大で1回となる。
【】
このように、
図6の動作では、信号PCLKBのパルス信号の1周期の間に入射した光子の数が0個であるか1個以上であるかを区別することができる。他方、信号PCLKBのパルス信号の1周期の間に2個以上の光子が入射した場合は、これらを区別することができず、信号検知ロスが生じる可能性がある。
【】
光子が次から次へと間断なく入射するような場合、
図5の動作では光電変換素子22におけるアバランシェ増倍が止まらずにアバランシェ電流が流れる続ける状態、いわゆるパイルアップ状態となる。このパイルアップ状態では光子検知パルス信号が生成されず、電流だけが無駄に流れるため、SPAD動作における一つの課題となっている。
【】
一方、
図6の動作では、信号PCLKBのパルス信号の1周期の間に2個以上の光子が入射した場合はこれらを区別することはできないが、
図5の動作で生じるようなパイルアップが生じないというメリットがある。
図6の動作では確かに信号検知ロスは生じ得るが、SPADはもともと光子入射の少ない状況での光子検知を主な目的とするものであり、そのような状況ではリセットパルス1周期の間に光子が複数回入射することは稀であり、信号検知ロスはほとんど生じない。そのため、特にイメージセンサとしてSPADを用いる場合は、
図6の動作を適用することも多い。
【】
次に、本実施形態による光電変換装置における重み制御部80及び画素12の概略構成について、
図7及び
図8を用いて説明する。
図7は、本実施形態による光電変換装置における重み制御部80の概略構成を示す機能ブロック図である。
図8は、本実施形態による光電変換装置における画素12の概略構成を示す機能ブロック図である。
【】
重み制御部80は、
図7に示すように、撮像用パルス生成部84と、時間相関用パルス生成部86と、AND回路LC1と、を有する。重み制御部80は、クロック信号CLKなどの周期的なパルス信号を含む周期信号に対して第1重み情報及び第2重み情報に応じた処理を行い、第1重み信号及び第2重み信号として出力する機能を有する。ここで、第1重み情報は撮像用信号に対する重みづけ量に関する情報を含み、第2重み情報は時間相関信号に対する重みづけ量に関する情報を含む。本実施形態の光電変換装置における単位露光期間(メインフレーム期間)は、複数のサブ露光期間(サブフレーム期間)によって構成される。第1重み情報及び第2重み情報は、メインフレーム期間を構成する複数のサブフレーム期間の各々における重みづけ量に関する情報を含む。
【】
撮像用パルス生成部84は、例えば、クロック信号CLKに対して第1重み情報に応じた間引き処理を行うことにより、第1重み信号を生成する。ここで、第1重み情報は、複数のサブフレーム期間の各々に対して同一の重みづけ量を含み得る。第1重み信号は、各サブフレーム期間内に、第1重み情報に応じた重みづけ量に対応する数のパルス信号を含み得る。
【】
時間相関用パルス生成部86は、例えば、第2重み情報に応じた倍率でクロック信号CLKに対して逓倍処理を行い、逓倍クロック信号MPCLKを生成する。なお、逓倍クロック信号MPCLKは、必ずしも時間相関用パルス生成部86にて生成する必要はなく、垂直走査回路部40又は制御パルス生成部90において生成してもよい。クロック信号CLKの逓倍処理には、例えばPLL(Phase Locked Loop)回路等が用いられ得る。この際、時間相関用パルス生成部86は、例えば、第1重み信号のアサート期間内に第2重み情報に応じた重みづけ量に対応する数のパルス信号が含まれるように、クロック信号CLKに対して逓倍処理を行うことができる。第2重み情報は、例えば、各サブフレーム期間に対し、周期関数、例えば正弦関数や余弦関数に基づく重みづけ量を与える情報であり得る。
【】
AND回路LC1は、第1重み信号と逓倍クロック信号MPCLKとの論理和演算を行うことにより、第2重み信号を生成する。すなわち、AND回路LC1は、第1重み信号及び逓倍クロック信号MPCLKがアサートされている場合に第2重み信号がアサートされるように、逓倍クロック信号MPCLKに対して間引き処理を行う。時間相関用パルス生成部86は、例えば、第1重み信号のアサート期間内に第2重み情報に応じた重みづけ量に対応する数のパルス信号が含まれるように、クロック信号CLKに対して逓倍処理を行うことができる。第2重み情報は、例えば、各サブフレーム期間に対し、周期関数、例えば正弦関数や余弦関数に基づく重みづけ量を与える情報であり得る。
【】
AND回路LC1は、第1重み信号と逓倍クロック信号MPCLKとの論理和演算を行うことにより、第2重み信号を生成する。すなわち、AND回路LC1は、第1重み信号及び逓倍クロック信号MPCLKがアサートされている場合に第2重み信号がアサートされるように、逓倍クロック信号MPCLKに対して間引き処理を行う。なお、アサートとは、信号が有効(アクティブ)な状態にあることを言い、典型的にはその信号がハイレベルの場合を示す。逆に、信号が無効(インアクティブ)な状態にあることネゲートと言い、典型的にはその信号がローレベルの場合を示す。
【】
なお、重み制御部80は、第1重み情報に応じた第1重み信号及び第2重み情報に応じた第2重み信号を生成する機能を備えていればよく、内部回路の構成は上記の例に限定されるものではない。また、重み制御部80の機能は、複数の画素12の各々が備えていてもよい。
【】
画素12は、
図8に示すように、受光部122と、第1積算部124と、第2積算部126と、を有する。受光部122は、
図3の画素回路における光電変換部20及び機能ブロック30Aに対応している。第1積算部124及び第2積算部126は、
図3の画素回路における処理回路36に対応している。
【】
受光部122は、第1重み信号、第2重み信号及び制御信号PRC1,PRC2を受け、露光期間中における光の入射に応じて所定の数のパルス信号を出力する機能を有する。制御信号PRC1,PRC2は、垂直走査回路部40又は制御パルス生成部90から供給され得る。なお、受光部122は、光の入射に応じてパルス信号を出力する機能を備えていればよく、必ずしも本実施形態で説明する構成に限定されるものではない。
【】
第1積算部124は、第1重み信号及び制御信号PRC1に応じて受光部122から出力されたパルス信号をカウントする機能を有する。第2積算部126は、第2重み信号及び制御信号PRC2に応じて受光部122から出力されたパルス信号をカウントする機能を有する。第1積算部124におけるカウント値及び第2積算部126におけるカウント値は、それぞれ第1画素値及び第2画素値として画素12から出力される。受光部122における受光動作と第1積算部124及び第2積算部126におけるカウント動作とを所定の回数、繰り返し実施することで、被写体の撮像が可能となる。なお、制御信号PRC1,PRC2の詳細については後述する。
【】
次に、本実施形態による光電変換装置における画素12の具体的な構造について、
図9を用いて説明する。
図9は、本実施形態による光電変換装置における画素12の構成例を示す回路図である。
【】
本実施形態の画素12は、
図9に示すように、光電変換素子22と、クエンチ素子32と、波形整形回路34と、NAND回路LC2と、AND回路LC3,LC4,LC6,LC7と、フリップフロップ回路FF1と、積算回路361,362と、を有する。これらのうち、光電変換素子22、クエンチ素子32、波形整形回路34、NAND回路LC2及びAND回路LC3,LC6が受光部122に対応する。また、フリップフロップ回路FF1、AND回路LC4及び積算回路361が第1積算部124に対応し、フリップフロップ回路FF1、AND回路LC7及び積算回路362が第2積算部126に対応する。なお、
図9では図面の簡略化のため、フリップフロップ回路FF1を第1積算部124及び第2積算部126の構成要素には含めていない。
【】
第1重み信号は、NAND回路LC2の一方の入力ノードと、AND回路LC3の一方の入力ノードと、に入力される。制御信号PRC1は、NAND回路LC2の他方の入力端子と、フリップフロップ回路FF1のクロック入力端子と、に入力される。AND回路LC3の他方の入力ノードには、制御信号PRC1の反転信号が入力される。第2重み信号は、AND回路LC6の一方の入力ノードに入力される。AND回路LC6の他方の入力ノードには、制御信号PRC2の反転信号が入力される。また、フリップフロップ回路FF1、積算回路361及び積算回路362のリセット端子には、制御信号PRESが入力される。なお、制御信号PRESは、垂直走査回路部40又は制御パルス生成部90から出力される制御信号である。
【】
図9の回路では、クエンチ素子32をP型MOSトランジスタにより構成している。P型MOSトランジスタのソースは、電圧VHのノードに接続されている。P型MOSトランジスタのドレインは、光電変換素子22のカソード及び波形整形回路34の入力ノードに接続されている。P型MOSトランジスタのゲートは、NAND回路LC2の出力ノードに接続されている。P型MOSトランジスタのゲートに入力されるNAND回路LC2の出力信号が、信号PCLKBである。光電変換素子22のアノードは、電圧VLのノードに接続されている。
【】
フリップフロップ回路FF1は、入力端子Dと、出力端子Qと、リセット端子Rと、クロック入力端子と、を有するD型フリップフロップ回路である。波形整形回路34の出力ノードは、フリップフロップ回路FF1の入力端子Dに接続されている。フリップフロップ回路FF1の出力端子Q及びAND回路LC3の出力ノードは、AND回路LC4の入力ノードに接続されている。AND回路LC3の出力信号が信号TCLK1である。また、フリップフロップ回路FF1の出力端子Q及びAND回路LC6の出力ノードは、AND回路LC7の入力ノードに接続されている。AND回路LC6の出力信号が信号TCLK2である。AND回路LC4の出力ノードは、積算回路361に接続されている。また、AND回路LC7の出力ノードは、積算回路362に接続されている。
【】
前述のように、本実施形態の光電変換装置における単位露光期間(メインフレーム期間)は、複数のサブ露光期間(サブフレーム期間)によって構成される。制御信号PRC1は、複数のサブフレーム期間の各々の開始時にハイレベルに遷移するパルス信号であり、ローレベルに遷移した後は当該サブフレーム期間の終了時までローレベルを維持する。制御信号PRESは、メインフレームの開始時にハイレベルに遷移するパルス信号であり、ローレベルに遷移した後は当該メインフレーム期間の終了時までローレベルを維持する。なお、制御信号PRC2については後述する。
【】
NAND回路LC2は、制御信号PRC1及び第1重み信号がともにハイレベルの場合にローレベルの信号を出力し、それ以外の場合にハイレベルの信号を出力する。ここで、NAND回路LC2の出力信号である信号PCLKBは、
図6の動作例において説明した信号PCLKBに相当する。すなわち、信号PCLKBがローレベルになるとクエンチ素子32を構成するP型MOSトランジスタがオンになり、光電変換素子22のリチャージ動作が実行される。すなわち、制御信号PRC1のアサート期間と第1重み信号のアサート期間とが重なる期間に、光電変換素子22のリチャージ動作が実行される。この意味で、制御信号PRC1は、第1重み信号とともにクエンチ素子32のリチャージ動作を制御するためのリチャージ信号と言える。NAND回路LC2は、第1重み信号及び制御信号PRC1(第1制御信号の反転信号)がアサートされる期間に光電変換素子22のリチャージ動作を行う論理回路である。光電変換素子22のリチャージ動作は、各サブフレーム期間において1度だけ行われる。
【】
フリップフロップ回路FF1の入力端子Dには、波形整形回路34の出力信号が入力される。フリップフロップ回路FF1のクロック入力端子には、制御信号PRC1が入力される。フリップフロップ回路FF1のリセット端子Rには、制御信号PRESが入力される。フリップフロップ回路FF1の出力信号は、制御信号PRESの立ち上がりに応じてローレベルになる。また、フリップフロップ回路FF1の出力信号は、クロック入力端子に入力される制御信号PRC1の立ち上がりに応じて入力信号と同じレベルになる。
【】
AND回路LC3は、制御信号PRC1の反転信号(第1制御信号)のアサート期間に第1重み信号を第1積算部124に出力する論理回路である。AND回路LC4は、フリップフロップ回路FF1の出力信号のアサート期間にAND回路LC3からの第1重み信号を積算回路361に出力する論理回路である。AND回路LC4は、AND回路LC3の出力信号(信号TCLK1)とフリップフロップ回路FF1の出力信号との論理積演算の結果であるパルス信号を生成し、積算回路361に出力する。積算回路361は、AND回路LC4から出力されるパルス信号を積算し、積算値(第1積算値)を保持する。また、積算回路361には制御信号PRESが入力される。積算回路361の積算値は、ハイレベルの制御信号PRESを受けて初期値に初期化される。
【】
AND回路LC6は、制御信号PRC2の反転信号(第2制御信号)のアサート期間に第2重み信号を第2積算部126に出力する論理回路である。AND回路LC7は、フリップフロップ回路FF1の出力信号のアサート期間にAND回路LC6からの第2重み信号を積算回路362に出力する論理回路である。AND回路LC7は、AND回路LC6の出力信号(信号TCLK2)とフリップフロップ回路FF1の出力信号との論理積演算の結果であるパルス信号を生成し、積算回路362に出力する。積算回路362は、AND回路LC7から出力されるパルス信号を積算し、積算値(第2積算値)を保持する。また、積算回路362には制御信号PRESが入力される。積算回路362の積算値は、ハイレベルの制御信号PRESを受けて初期値に初期化される。
【】
本実施形態の画素12では、光電変換素子22に光子が入射することにより波形整形回路34の出力信号がハイレベルとなる。この波形整形回路34の出力信号のハイレベルへの遷移に加え、制御信号PRC1がハイレベルに遷移することで、フリップフロップ回路FF1の出力信号がハイレベルとなる。フリップフロップ回路FF1の出力信号がハイレベルの状態は、次のサブフレーム期間に移行するまで継続する。そして、フリップフロップ回路FF1の出力信号がハイレベルの間、第1重み信号のパルス信号がローレベルからハイレベルに遷移する都度(信号TCLK1がハイレベルになる都度)、AND回路LC4の出力がローレベルからハイレベルに遷移する。これにより、積算回路361は、フリップフロップ回路FF1の出力信号がハイレベルに遷移した後に信号TCLK1がローレベルからハイレベルに遷移した回数を積算する。
【】
つまり、1つの光子が入射した場合に生成される積算回路361の信号は、信号TCLK1によって重みづけがなされる。これにより、積算回路361は、1つの光子の入射に対して重みづけされた積算を行うことができる。信号TCLK1は、前述の通り、光子の受光タイミングが早ければ多くの積算が行われるような重みづけに基づいて生成されているため、第1積算部124の内部の積算回路361の値(以下、第1積算値)は人間の目で見えるような光と相関のある値となる。
【】
一方、AND回路LC7は、AND回路LC6の出力信号(信号TCLK2)とフリップフロップ回路FF1の出力信号との論理積演算の結果であるパルス信号を生成し、積算回路362に出力する。信号TCLK2は、前述の通り、正弦波成分又は余弦波成分に対応した重みづけに基づいて生成されているため、第2積算部126の内部の積算回路362の値(以下、第2積算値)はオプティカルフローを算出するための時間相関の画素値となる。なお、積算回路361のビット幅と積算回路362のビット幅とは、同じであってもよいし、異なっていてもよい。
【】
図10は、メインフレーム期間とサブフレーム期間との関係と、重みづけ量の時間変化の例と、を示す図である。
図10において、横軸は時間を示しており、縦軸は各フレーム期間において設定される重みづけ量を示している。
【】
図10に示すように、1つのフレーム画像の生成のための単位露光期間であるメインフレーム期間は、複数のサブ露光期間(サブフレーム期間)に分割されている。重み制御部80に入力される第2重み情報は、各サブフレーム期間に設定される重みづけ量に関する情報を含む。重みづけ量は、時間を変数とし、メインフレーム期間が1周期である周期関数に基づいて設定され得る。言い換えると、この周期関数はサブフレーム期間ごとに異なる位相を有し、これら位相ごとに異なる重みづけ量が設定されている。
【】
重み付け量の設定に用いられる周期関数は、特に限定されるものではないが、例えば正弦関数であり得る。正弦関数に基づく重み付け量により重み付けを行うことにより、式(17)に相当する信号を生成することができる。また、重み付け量の設定に用いられる周期関数は、余弦関数であってもよい。余弦関数に基づく重み付け量により重み付けを行うことにより、式(16)に相当する信号を生成することができる。なお、1つのサブフレーム期間は、更に複数のマイクロフレーム期間に分割され得る。
【】
重み制御部80は、重み付け量の設定に用いられる周期関数における位相と重みづけ量との関係に基づいて各サブフレーム期間に対応する第2の重みづけ量を設定する。これにより、積算回路362において各サブフレーム期間の重みづけに対応する信号TCLK2を生成することができ、時間相関イメージングを行うことができる。
【】
なお、第1重み情報に基づいて設定される第1重みづけ量は、サブフレーム期間の各々に対して同一であり得る。第1重みづけ量に基づいて設定される第1重み信号に対しては、光子の入射タイミングに応じた間引き処理が行われる。光子の入射タイミングに応じた間引き処理については後述する。
【】
次に、本実施形態による光電変換装置における画素12の動作について、
図11乃至
図13を用いてより具体的に説明する。
図11乃至
図13は、本実施形態による光電変換装置における画素12の動作を示すタイミング図である。
【】
図11は、第1積算部124(積算回路361)の積算動作を示すタイミング図である。
図11には、制御信号PRC1、第1重み信号、信号PCLKB,TCLK1、フリップフロップ回路FF1の入力信号DFF(D)及びフリップフロップ回路FF1の出力信号DFF(Q)の波形、光子入射のタイミング及び第1積算値を示している。
図12には、信号TCLK1、逓倍クロック信号及び第2重み信号の波形、並びに、第2積算値を示している。逓倍クロック信号MPCLK、第2重み信号及び第2積算値については、重みづけに使用する周期関数(余弦関数)の値が1.000,0.875,0.125及び0.000の各々の場合を示している。
【】
まず、時刻t10において、垂直走査回路部40又は制御パルス生成部90は、制御信号PRC1をアサート(ローレベルからハイレベルに制御)する。これにより、メインフレーム期間のうちの最初のサブフレーム期間が開始される。このとき、第1重み信号はローレベルであり、NAND回路LC2の出力信号である信号PCLKBはハイレベルである。なお、時刻t10において、フリップフロップ回路FF1及び積算回路361はリセット状態、すなわち、フリップフロップ回路FF1の入力端子D及び出力端子Qはローレベルであり、積算回路361の積算値(第1積算値)は0であるものとする。
【】
続く時刻t11において、重み制御部80による制御のもと、第1重み信号がアサートされる。これにより、信号PCLKBがハイレベルからローレベルに遷移し、クエンチ素子32を構成するP型MOSトランジスタがオンになり、光電変換素子22のリチャージ動作が実行される。このリチャージ動作は、各サブフレーム期間の開始時に1度だけ行われる。
【】
続く時刻t12において、このサブフレーム期間において初めて光電変換素子22に光子が入射したものとする。すると、光電変換素子22に生成された電子正孔対を種としてアバランシェ増倍電流が流れ、波形整形回路34の入力ノードの電位が低下する。続く時刻t13において、波形整形回路34の入力ノードの電位が判定閾値を下回ると、波形整形回路34の出力ノードがローレベルからハイレベルに遷移し、フリップフロップ回路FF1の入力端子Dもハイレベルとなる。なお、時刻t13以降、次に制御信号PRC1がアサートされる時刻t14までの期間の間、光電変換素子22はリチャージされないため、光子の入射の有無に関わらず、この期間におけるフリップフロップ回路FF1の入力端子Dの信号レベルは変化しない。また、時刻t12以降、重み制御部80による制御のもと、第1重み情報に応じた回数、第1重み信号がアサートされるが、フリップフロップ回路FF1の出力端子Qはローレベルであり、積算回路361における積算動作は行われない。
【】
なお、時刻t10から時刻t14のサブフレーム期間の間に光子が入射しなかった場合、時刻t14におけるフリップフロップ回路FF1の入力端子Dはローレベルであり、時刻t14におけるフリップフロップ回路FF1の出力端子Qもローレベルのままである。したがって、時刻t14における状態は時刻t10と同じになり、次のサブフレーム期間では時刻t10から時刻t14と同様の動作が繰り返される。
【】
続く時刻t14において、垂直走査回路部40又は制御パルス生成部90は、制御信号PRC1をアサートする。これにより、次のサブフレーム期間が開始される。このとき、制御信号PRC1はフリップフロップ回路FF1のクロック入力端子にも入力されているため、フリップフロップ回路FF1の出力端子Qの信号レベルは、制御信号PRC1の立ち上がりをトリガとして、ローレベルからハイレベルに遷移する。
【】
続く時刻t15において、重み制御部80による制御のもと、第1重み信号がアサートされる。これにより、信号PCLKBがハイレベルからローレベルに遷移し、クエンチ回路を構成するP型MOSトランジスタがオンになり、光電変換素子22のリチャージ動作が実行される。光電変換素子22がリチャージされると、波形整形回路34の入力ノードがハイレベルとなり、波形整形回路34の出力ノードがハイレベルからローレベルに遷移し、フリップフロップ回路FF1の入力端子Dもローレベルとなる。
【】
続く時刻t16において、このサブフレーム期間において初めて光電変換素子22に光子が入射したものとする。すると、光電変換素子22に生成された電子正孔対を種としてアバランシェ増倍電流が流れ、波形整形回路34の入力ノードの電位が低下する。続く時刻t17において、波形整形回路34の入力ノードの電位が判定閾値を下回ると、波形整形回路34の出力ノードがローレベルからハイレベルに遷移し、フリップフロップ回路FF1の入力端子Dもハイレベルとなる。なお、時刻t17以降、次に制御信号PRC1がハイレベルに遷移する時刻t24までの期間の間、光電変換素子22はリチャージされないため、光子入射の有無に関わらず、この期間におけるフリップフロップ回路FF1の入力端子Dの信号レベルは変化しない。
【】
続く時刻t18,t19,t20,t21,t22,t23の各々において、重み制御部80による制御のもと、第1重み信号がアサートされる。時刻t18から時刻t23の期間において制御信号PRC1はローレベルのため、AND回路LC3の出力信号である信号TCLK1は、第1重み信号と同じ波形となる。また、時刻t18から時刻t23の期間において、フリップフロップ回路FF1の出力端子Qの信号レベルはハイレベルとなっているため、積算回路361にはAND回路LC4の出力信号として信号TCLK1がそのまま入力される。積算回路361は、AND回路LC4から入力されるパルス信号の数を積算する。これにより、時刻t23において立ち上がる6つ目のパルスを受信した後における積算回路361の積算値(第1積算値)は、6となる。
【】
続く時刻t24において、垂直走査回路部40又は制御パルス生成部90は、制御信号PRC1をアサートする。これにより、次のサブフレーム期間が開始される。このとき、制御信号PRC1はフリップフロップ回路FF1のクロック入力端子にも入力されているが、フリップフロップ回路FF1の出力端子Qの信号レベルは入力端子Dの信号レベルと同じハイレベルのため、出力端子Qの信号レベルは変化しない。
【】
続く時刻t25において、重み制御部80による制御のもと、第1重み信号がアサートされる。これにより、信号PCLKBがハイレベルからローレベルに遷移し、クエンチ素子32を構成するP型MOSトランジスタがオンになり、光電変換素子22のリチャージ動作が実行される。光電変換素子22がリチャージされると、波形整形回路34の入力ノードがハイレベルとなり、波形整形回路34の出力ノードがハイレベルからローレベルに遷移し、フリップフロップ回路FF1の入力端子Dもローレベルとなる。
【】
続く時刻t26,t27,t28,t30,t31,t32の各々において、重み制御部80による制御のもと、第1重み信号がアサートされる。時刻t26から時刻t32の期間において制御信号PRC1はローレベルのため、AND回路LC3の出力信号である信号TCLK1は、第1重み信号と同じ波形となる。また、時刻t26から時刻t32の期間において、フリップフロップ回路FF1の出力端子Qの信号レベルはハイレベルとなっているため、積算回路361にはAND回路LC4の出力信号として信号TCLK1がそのまま入力される。積算回路361は、AND回路LC4から入力されるパルス信号の数を積算する。これにより、時刻t32において立ち上がる6つ目のパルスを受信した後における積算回路361の積算値(第1積算値)は、12となる。
【】
時刻t26と時刻t32との間の時刻t29において、このサブフレーム期間において初めて光電変換素子22に光子が入射したとする。すると、光電変換素子22に生成された電子正孔対を種としてアバランシェ増倍電流が流れ、波形整形回路34の入力ノードの電位が低下する。続く時刻t17において、波形整形回路34の入力ノードの電位が判定閾値を下回ると、波形整形回路34の出力ノードがローレベルからハイレベルに遷移し、フリップフロップ回路FF1の入力端子Dもハイレベルとなる。しかしながら、このサブフレーム期間においてフリップフロップ回路FF1の出力端子Qはハイレベルに維持されているため、積算回路361は、光子入射のタイミングによらず、このサブフレーム期間中に入力される信号TCLK1のパルス信号を総て積算する。
【】
なお、時刻t14から時刻t24のサブフレーム期間に光子が入射しなかった場合、時刻t24におけるフリップフロップ回路FF1の入力端子Dはローレベルであり、フリップフロップ回路FF1の出力端子Qは時刻t24においてローレベルに遷移する。したがって、時刻t24における状態は時刻t10における状態と同じになり、次のサブフレーム期間では時刻t10から時刻t14と同様の動作が行われる。
【】
続く時刻t33において、垂直走査回路部40又は制御パルス生成部90は、制御信号PRC1をアサートする。これにより、次のサブフレーム期間が開始される。以降、サブフレーム期間ごとに同様の動作が繰り返し実行される。つまり、積算回路361は、直前のフレーム期間において光子を検出したことに応じて、次のサブフレーム期間において信号TCLK1に重畳するパルス信号の数を積算する。このようにして生成される第1積算値は、前述の通り、人間の目で見えるような光と相関のある値となる。
【】
次に、時刻t18から時刻t19の期間における動作を例に挙げ、第2積算部126における積算動作について
図12を用いて説明する。
図12は
図11の時刻t18から時刻t19の期間における第2積算部126(積算回路362)の積算動作を示すタイミング図である。前述の通り、積算回路362の積算値(第2積算値)は、オプティカルフローを算出するための時間相関の値である。
【】
ここで前提として、入射した光子をもとに時間相関の値を算出するために正弦関数や余弦関数といった三角関数の値の小数をデジタル回路で表現する方法について説明する。三角関数の値は、-1.0から1.0の間で変化する。一方、オプティカルフローの精度向上のためには、小数の桁数を増やすことが重要である。これらを踏まえ、デジタル回路上で三角関数の値を表現するために、ここでは例として1オフセットを与え且つ任意のビットの固定小数で表現を行うものとする。例えば、1ビットの整数、3ビットの固定小数をとった場合、2進数の1000(10進数の8)は、1.0として解釈することができる。同様に、2進数の0111(10進数の7)は0.875、2進数の0110(10進数の6)は0.75、2進数の0110(10進数の5)は0.625のように解釈することができる。
【】
図12には、余弦関数の値が1.000の場合、0.875の場合、0.125の場合及び0.000の場合、の各々における逓倍クロック信号MPCLK、第2重み信号及び第2積算値を示している。重み制御部80により、逓倍クロック信号MPCLK及び第1重み信号に基づいて第2重み信号がアサートされた期間を、時刻t18から時刻t180の期間とする。余弦関数の値に応じた重みづけ量を8階調で表現する場合、第2重み信号は、例えば、余弦関数の値が1.000の場合は8個のパルス、0.875の場合は7個のパルス、0.125の場合は1個のパルス、0.000の場合は0個のパルスを含むことができる。逓倍クロック信号MPCLKは、時間相関用パルス生成部において、第2重み情報に応じてクロック信号CLKの周波数を適宜変更することにより生成可能である。すなわち、信号TCLK1の1つのアサート期間中に立ち上がるパルスの数が第2重み情報に応じた所定の数となるように、クロック信号CLKの周期を変更すればよい。或いは、信号TCLK1の1つのアサート期間中に第2重み情報に応じた最大数のパルスを含むようにクロック信号CLKの周波数を制御した後、一部のパルスを間引くことにより信号TCLK1のアサート期間中に立ち上がるパルスの数を制御してもよい。
【】
AND回路LC6により、時刻t18から時刻t180の期間にアサートされる第2重み信号と制御信号PRC2とに応じて信号TCLK2が生成される。積算回路362は、フリップフロップ回路FF1の出力信号及び信号TCLK2に応じてAND回路LC7から出力されるパルス信号の数を積算する。例えば、余弦関数の値が1.000(cosθ=1.000)の場合、時刻t18から時刻t180の期間に積算回路362に入力されるパルス信号の数は8つであり、積算回路362の積算値(第2積算値)は、8となる。同様に、cosθ=0.875の場合、cosθ=0.125の場合及びcosθ=0.000の場合における積算回路362の積算値(第2積算値)は、それぞれ、7、1及び0となる。
【】
なお、
図7に示した重み制御部80の構成や第1重み信号及び第2重み信号の生成方法は一例である。第1重み信号及び第2重み信号は、最終的に第1積算値に対して第2重みづけに相関のある値となるような第2積算値が得られるパルスであればよい。例えば、信号TCLK2の周波数が早くなり消費電力や動作速度が懸念される場合には、信号TCLK1のアサート期間とは無関係に第2重み情報に応じた信号TCLK2のアサート数が得られるような第2重み信号を生成するようにしてもよい。第1重み信号及び第2重み信号のアサート期間及びネゲート期間も適宜変更が可能である。
【】
このように本実施形態では、1つ前のサブフレーム期間において光子を検出したことに応じて、次のサブフレーム期間において信号TCLK1,TCLK2のパルス信号の数で重みづけを与えることが可能となる。ここでは重みづけのオフセット値及び振幅をそれぞれ1、固定小数を3ビットとして説明したが、これらは適宜変更が可能である。
【】
なお、本実施形態では、重みづけされた信号TCLK1,TCLK2の数を積算する方式を説明したが、アバランシェフォトダイオードを用いた撮像方式であって時間相関画像を得られる方式であれば、この方式に限定されるものではない。また、第1積算部124及び第2積算部126とは別の積算部を追加し、第1重みづけ及び第2重みづけと異なる第3の重みづけに基づくパルス信号を更に積算するように構成してもよい。また、
図8及び
図9では第1重み信号及び第2重み信号を受光部122に入力しているが、第1重み信号及び第2重み信号を第1積算部124及び第2積算部126にそれぞれ入力し、同様の積算機能を実現してもよい。また、三角関数の解の値とパルス数との関係は上記の例に限定されるものではなく、正弦関数及び余弦関数のビット幅、サブフレーム期間の数は、任意に変更してもよい。
【】
次に、制御信号PRC1,PRC2の駆動タイミングの制御によって第2積算部の回路規模の増大を抑えながら時間相関イメージングを実現する方法について、
図13を用いて説明する。
図13は、本実施形態による光電変換装置における画素12の動作を示すタイミング図である。
【】
図13は、時刻t30に開始し、時刻t34に終了するメインフレーム期間MF1における動作を示している。
図13には、制御信号PRC1の波形及び第1積算部におけるサブフレーム期間と、制御信号PRC2の波形及び第2積算部におけるサブフレーム期間と、を示している。制御信号PRC2の波形及び第2積算部におけるサブフレーム期間については、制御パターンの異なる2種類の動作(制御パターン1及び制御パターン2)を示している。なお、フレームレートが30fpsであると仮定すると、時刻t30から時刻t34までの期間の長さは33.3msとなる。
【】
ここで、メインフレーム期間MF1を2048のサブフレーム期間SF1~SF2048に分割する場合を想定する。
図13において、時刻t31は第2サブフレーム期間SF2の開始時刻であり、時刻t32は第5サブフレーム期間SF5の開始時刻であり、時刻t33は第9サブフレームSF9の開始時刻である。前述のように、制御信号PRC1は、サブフレーム期間の間に1回だけアサートされる。サブフレーム期間SF1に着目すると、制御信号PRC1は、時刻t30から時刻t31の間に1回アサートされる。
【】
1つのサブフレーム期間における第1積算値の最大値が8である場合を例に挙げると、1つのメインフレーム期間における第1積算値の最大値は16384(=8×2048)となる。第1積算部124において16384まで積算を可能とするためには、ビット幅が14ビット以上の積算回路361が必要となる。
【】
一方、三角関数の値を前述のように1ビットの整数と3ビットの固定小数で表現する場合、第2積算値は更に8倍の階調を持つことになり、1つのサブフレーム期間における第2積算値の最大値は64となり得る。しかし、1つのメインフレーム期間において1周期の時間相関の値を積算する場合、最大値である64が総てのサブフレーム期間において積算されることはなく、1つのサブフレーム期間あたりの積算値は最大でも正弦関数や余弦関数の平均値となる。
【】
例えば、正弦関数及び余弦関数のオフセットが1で振幅も1であった場合、平均値は1となり、1つのメインフレーム期間における積算値の平均値は32と考えてよい。そのため、1つのメインフレーム期間における第2積算値の最大値は65536(=32×2048)となる。第2積算部126において65536まで積算を可能とするためには、ビット幅が16ビット以上の積算回路362が必要となる。積算回路361,362のビット幅の増加は画素12の回路規模の増加をもたらし、ひいては光電変換装置のサイズが増大する原因となる。積算回路361,362のビット幅を小さくすれば回路規模の増大を抑えることはできるが解像度が低下することになる。
【】
図13に示す制御パターン1及び制御パターン2は、1つのメインフレーム期間における第2積算値の最大値を低減するための駆動例である。
【】
制御パターン1は、第1積算部124のサブフレーム期間を8回実行するごとに第2積算部126のサブフレーム期間を1回実行する駆動例である。この場合、制御信号PRC2は、例えば
図13に示すように、時刻t30から時刻t31の期間には制御信号PRC1と同様に制御し、時刻t31から時刻t33にはハイレベルに制御する。
【】
ここで、制御信号PRC1の反転信号を第1制御信号、制御信号PRC2の反転信号を第2制御信号とする。この場合、第1制御信号がハイレベルのアサート期間に第1重み信号が第1積算部124に出力され、第2制御信号がハイレベルのアサート期間に第2重み信号が第2積算部126に出力される。つまり、第1制御信号のアサート期間の間に第1積算部124における積算動作が行われ、第2制御信号のアサート期間の間に第2積算部126における積算動作が行われることになる。したがって、制御信号PRC1,PRC2を上述のように制御することにより、メインフレーム期間MF1における第2制御信号のアサート数は、メインフレーム期間MF1における第1制御信号のアサート数よりも少なくなる。
【】
これにより、時刻t30から時刻t33の期間において、第1積算部124では8回のサブフレーム期間SF1~SF8が実行される一方、第2積算部126では1回のサブフレーム期間SF1が実行される。続く時刻t33から時刻34の期間において時刻t30から時刻t33の期間と同様の動作を繰り返し実行することにより、メインフレーム期間MF1の間に実行される第2積算部126のサブフレーム期間の数を8分の1に削減することができる。これにより、1つのメインフレーム期間における第2積算値の最大値は、正弦関数や余弦関数の平均値をも考慮すると、8192(=65536/8)となる。
【】
なお、第2積算部126におけるサブフレーム期間の削減数は、特に限定されるものではないが、例えば、周期関数の固定小数を表すために用いられるビット数に応じて設定することが可能である。例えば、上述の例のように固定小数を3ビットで表す場合、第2積算部126のサブフレーム期間の数を8分の1に削減することで、固定小数のビット数に対応する分だけ積算回路362のビット幅を減らすことができる。
【】
制御パターン2は、第1積算部124のサブフレーム期間を4回実行するごとに第2積算部126のサブフレーム期間を1回実行する駆動例である。この場合、制御信号PRC2は、例えば
図13に示すように、時刻t30から時刻t31の期間には制御信号PRC1と同様に制御し、時刻t31から時刻t32にはハイレベルに制御する。この場合にも、メインフレーム期間MF1における第2制御信号のアサート数は、メインフレーム期間MF1における第1制御信号のアサート数よりも少なくなる。
【】
これにより、時刻t30から時刻t32の期間において、第1積算部124では4回のサブフレーム期間SF1~SF4が実行される一方、第2積算部126では1回のサブフレーム期間SF1が実行される。続く時刻t32から時刻34の期間において時刻t30から時刻t32の期間と同様の動作を繰り返し実行することにより、メインフレーム期間MF1の間に実行される第2積算部126のサブフレーム期間の数を4分の1に削減することができる。これにより、1つのメインフレーム期間における第2積算値の最大値は、正弦関数や余弦関数の平均値をも考慮すると、16384(=65536/4)となる。
【】
第2積算部126におけるサブフレーム期間の削減に加え、第2重み信号を変更するように構成してもよい。例えば、第2積算部126の1つのサブフレーム期間における積算値の最大値が64であった場合、積算値の最大値が32になるように第2重み信号を変更する。この制御を制御パターン2に適用すれば、1つのメインフレーム期間において撮像が行われない期間を制御パターン1の場合よりも減らしつつ、1つのメインフレーム期間における第2積算値の最大値を制御パターン1の場合と同等まで減らすことができる。
【】
なお、制御パターン1及び制御パターン2は例示であり、本実施形態による光電変換装置の制御方法はこれらに限定されるものではない。例えば、必ずしも第2積算値の最大値が第1積算値の最大値よりも小さくなるように制御する必要はなく、第2積算値の最大値が小さくなるように制御してもよいし、第2積算値の最大値が大きくなるように制御してもよい。また、
図13に示した制御信号PRC1,PRC2のアサート期間及びネゲート期間もこれらに限定されず、第1積算部124におけるサブフレーム期間の回数と第2積算部126におけるサブフレーム期間の回数とが異なる制御を実現できるものであればよい。すなわち、制御信号PRC1,PRC2は、アサートタイミングが別々に制御されていればよい。また、必ずしも第2積算部126におけるサブフレーム期間を削減する必要はなく、第2積算部126におけるサブフレーム期間における積算値の最大値を第1積算部124におけるサブフレーム期間における積算値の最大値と異ならせるだけでもよい。
【】
このように、本実施形態の光電変換装置によれば、時間相関イメージングを実現することができる。また、本実施形態の光電変換装置では光電変換素子としてAPDを用いるため、低輝度の撮影シーンにおける時間相関イメージングも好適に行うことができる。また、本実施形態の光電変換装置では、受光部から第1積算部への信号の出力の制御を第1制御信号で行い、受光部から第2積算部への信号の出力の制御を第2制御信号で行い、第2制御信号のアサート数を第1制御信号のアサート数よりも少なくする。したがって、本実施形態の光電変換装置によれば、画素の回路規模を縮小しつつ、時間相関イメージングを実現することができる。
【】
[第2実施形態]
本発明の第2実施形態による光電変換装置について、
図14及び
図15を用いて説明する。
図14は、本実施形態による光電変換装置における画素12の概略構成を示す機能ブロック図である。
図15は、本実施形態による光電変換装置における画素12の構成例を示す回路図である。第1実施形態による光電変換装置と動揺の構成要素には同一の符号を付し、説明を省略し或いは簡潔にする。
【】
本実施形態による光電変換装置は、画素12の構成が異なるほかは第1実施形態による光電変換装置と同様である。本実施形態では、本実施形態の光電変換装置が第1実施形態の光電変換装置と異なる点を中心に説明し、第1実施形態の光電変換装置と同様の点については適宜説明を省略する。
【】
第1実施形態による光電変換装置の画素12は、
図7に示すように、画素部10を構成する複数の画素12の各々が、受光部122と、第1積算部124と、第2積算部126と、を有していた。これに対し、本実施形態による光電変換装置は、
図14に示すように、画素部10を構成する複数の画素12が、受光部122と第1積算部124とを有する画素12Aと、受光部122と第2積算部126とを有する画素12Bと、を含む。画素12Aと画素12Bとは、隣接して配置され得る。
【】
本実施形態では、各々の画素12が第1積算部124及び第2積算部126のうちの一方のみを有する構成としているため、第1積算部124及び第2積算部126を有する画素12と比較して画素回路の面積を減らすことができる。これにより、光電変換装置のサイズを小さくすることができる。
【】
画素12Aは、例えば
図15に示すように、光電変換素子22と、クエンチ素子32と、波形整形回路34と、フリップフロップ回路FF1と、NAND回路LC2と、AND回路LC3,LC4と、積算回路361と、により構成することができる。これらのうち、光電変換素子22、クエンチ素子32、波形整形回路34、NAND回路LC2及びAND回路LC3が受光部122に対応し、フリップフロップ回路FF1、AND回路LC4及び積算回路361が第1積算部124に対応する。
【】
第1重み信号は、NAND回路LC2の一方の入力ノードと、AND回路LC3の一方の入力ノードと、に入力される。制御信号PRC1は、NAND回路LC2の他方の入力端子と、フリップフロップ回路FF1のクロック入力端子と、に入力される。AND回路LC3の他方の入力ノードには、制御信号PRC1の反転信号が入力される。また、制御信号PRESは、フリップフロップ回路FF1及び積算回路361のリセット端子に入力される。
【】
クエンチ素子32を構成するP型MOSトランジスタのソースは、電圧VHのノードに接続されている。P型MOSトランジスタのドレインは、光電変換素子22のカソード及び波形整形回路34の入力ノードに接続されている。P型MOSトランジスタのゲートは、NAND回路LC2の出力ノードに接続されている。P型MOSトランジスタのゲートに入力されるNAND回路LC2の出力信号が、信号PCLKBである。光電変換素子22のアノードは、電圧VLのノードに接続されている。
【】
波形整形回路34の出力ノードは、フリップフロップ回路FF1の入力端子Dに接続されている。フリップフロップ回路FF1の出力端子Q及びAND回路LC3の出力ノードは、AND回路LC4の入力ノードに接続されている。AND回路LC4の出力ノードは、積算回路361に接続されている。
【】
また、画素12Bは、例えば
図15に示すように、光電変換素子22と、クエンチ素子32と、波形整形回路34と、フリップフロップ回路FF2と、NAND回路LC5と、AND回路LC6,LC7と、積算回路362と、により構成することができる。これらのうち、光電変換素子22、クエンチ素子32、波形整形回路34、NAND回路LC5及びAND回路LC6が受光部122に対応し、フリップフロップ回路FF2、AND回路LC7及び積算回路362が第2積算部126に対応する。
【】
第2重み信号は、NAND回路LC5の一方の入力ノードと、AND回路LC6の一方の入力ノードと、に入力される。制御信号PRC2は、NAND回路LC5の他方の入力端子と、フリップフロップ回路FF2のクロック入力端子と、に入力される。AND回路LC6の他方の入力ノードには、制御信号PRC2の反転信号が入力される。また、制御信号PRESは、フリップフロップ回路FF2及び積算回路362のリセット端子に入力される。
【】
クエンチ素子32を構成するP型MOSトランジスタのソースは、電圧VHのノードに接続されている。P型MOSトランジスタのドレインは、光電変換素子22のカソード及び波形整形回路34の入力ノードに接続されている。P型MOSトランジスタのゲートは、NAND回路LC5の出力ノードに接続されている。P型MOSトランジスタのゲートに入力されるNAND回路LC5の出力信号が、信号PCLKBである。光電変換素子22のアノードは、電圧VLのノードに接続されている。
【】
NAND回路LC5は、制御信号PRC2及び第2重み信号がともにハイレベルの場合にローレベルの信号を出力し、それ以外の場合にハイレベルの信号を出力する。ここで、NAND回路LC5の出力信号である信号PCLKBは、
図6の動作例において説明した信号PCLKBに相当する。すなわち、信号PCLKBがローレベルになるとクエンチ素子32を構成するP型MOSトランジスタがオンになり、光電変換素子22のリチャージ動作が実行される。すなわち、制御信号PRC2のアサート期間と第2重み信号のアサート期間とが重なる期間に、光電変換素子22のリチャージ動作が実行される。この意味で、本実施形態における制御信号PRC2は、第2重み信号とともにクエンチ素子32のリチャージ動作を制御するためのリチャージ信号でもある。
【】
波形整形回路34の出力ノードは、フリップフロップ回路FF2の入力端子Dに接続されている。フリップフロップ回路FF2の出力端子Q及びAND回路LC6の出力ノードは、AND回路LC7の入力ノードに接続されている。AND回路LC7の出力ノードは、積算回路362に接続されている。
【】
NAND回路LC5は、制御信号PRC2及び第2重み信号がともにハイレベルの場合にローレベルの信号を出力し、それ以外の場合にハイレベルの信号を出力する。ここで、NAND回路LC5の出力信号である信号PCLKBは、
図6の動作例において説明した信号PCLKBに相当する。すなわち、信号PCLKBがローレベルになると画素12Bのクエンチ素子32を構成するP型MOSトランジスタがオンになり、画素12Bの光電変換素子22のリチャージ動作が実行される。NAND回路LC5は、第2重み信号及び制御信号PRC2(第2制御信号の反転信号)がアサートされる期間に画素12Bの光電変換素子22のリチャージ動作を行う論理回路である。光電変換素子22のリチャージ動作は、各サブフレーム期間において1度だけ行われる。
【】
フリップフロップ回路FF2の入力端子Dには、画素12Bの波形整形回路34の出力信号が入力される。フリップフロップ回路FF2のクロック入力端子には、制御信号PRC2が入力される。フリップフロップ回路FF2のリセット端子Rには、制御信号PRESが入力される。フリップフロップ回路FF2の出力信号は、制御信号PRESの立ち上がりに応じてローレベルになる。また、フリップフロップ回路FF2の出力信号は、クロック入力端子に入力される制御信号PRC2の立ち上がりに応じて入力信号と同じレベルになる。
【】
AND回路LC7は、フリップフロップ回路FF2の出力信号のアサート期間にAND回路LC6からの第2重み信号を積算回路362に出力する論理回路である。AND回路LC7は、AND回路LC6の出力信号(信号TCLK2)とフリップフロップ回路FF2の出力信号との論理積演算の結果であるパルス信号を生成し、積算回路362に出力する。
【】
本実施形態において、積算回路361の第1積算値と積算回路362の第2積算値とは、別々の光電変換素子22に基づくパルス信号を積算することにより生成されることになる。すなわち、積算回路361にパルス信号を出力するAND回路LC4への入力は、画素12Aの受光部122の出力を保持しているフリップフロップ回路FF1の出力信号となる。これに対し、積算回路362にパルス信号を出力するAND回路LC7への入力は、画素12Bの受光部122の出力を保持しているフリップフロップ回路FF2の出力信号となる。
【】
このように、本実施形態の光電変換装置によれば、時間相関イメージングを実現することができる。また、本実施形態の光電変換装置では光電変換素子としてAPDを用いるため、低輝度の撮影シーンにおける時間相関イメージングも好適に行うことができる。また、本実施形態の光電変換装置では、受光部から第1積算部への信号の出力の制御を第1制御信号で行い、受光部から第2積算部への信号の出力の制御を第2制御信号で行い、第2制御信号のアサート数を第1制御信号のアサート数よりも少なくする。したがって、本実施形態の光電変換装置によれば、画素の回路規模を縮小しつつ、時間相関イメージングを実現することができる。また、本実施形態の光電変換装置によれば、第1実施形態と比較して画素回路の面積を減らすことができ、光電変換装置のサイズを更に小さくすることができる。
【】
[第3実施形態]
本発明の第3実施形態による光電変換システムについて、
図16を用いて説明する。
図16は、本実施形態による光電変換システムの概略構成を示すブロック図である。
【】
上記第1及び第2実施形態で述べた光電変換装置100は、種々の光電変換システムに適用可能である。適用可能な光電変換システムの例としては、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。また、レンズなどの光学系と撮像装置とを備えるカメラモジュールも、光電変換システムに含まれる。
図16には、これらのうちの一例として、デジタルスチルカメラのブロック図を例示している。
【】
図16に例示した光電変換システム200は、撮像装置201、被写体の光学像を撮像装置201に結像させるレンズ202、レンズ202を通過する光量を可変にするための絞り204、レンズ202の保護のためのバリア206を有する。レンズ202及び絞り204は、撮像装置201に光を集光する光学系である。撮像装置201は、第1又は第2実施形態で説明した光電変換装置100であって、レンズ202により結像された光学像を画像データに変換する。
【】
光電変換システム200は、また、撮像装置201より出力される出力信号の処理を行う信号処理部208を有する。信号処理部208は、撮像装置201が出力するデジタル信号から画像データの生成を行う。また、信号処理部208は必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。撮像装置201は、信号処理部208で処理されるデジタル信号を生成するAD変換部を備えうる。AD変換部は、撮像装置201の光電変換部が形成された半導体層(半導体基板)に形成されていてもよいし、撮像装置201の光電変換部が形成された半導体層とは別の半導体層に形成されていてもよい。また、信号処理部208が撮像装置201と同一の半導体層に形成されていてもよい。
【】
光電変換システム200は、更に、画像データを一時的に記憶するためのメモリ部210、外部コンピュータ等と通信するための外部インターフェース部(外部I/F部)212を有する。更に光電変換システム200は、撮像データの記録又は読み出しを行うための半導体メモリ等の記録媒体214、記録媒体214に記録又は読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)216を有する。なお、記録媒体214は、光電変換システム200に内蔵されていてもよく、着脱可能であってもよい。
【】
更に光電変換システム200は、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部218、撮像装置201と信号処理部208に各種タイミング信号を出力するタイミング発生部220を有する。ここで、タイミング信号などは外部から入力されてもよく、光電変換システム200は少なくとも撮像装置201と、撮像装置201から出力された出力信号を処理する信号処理部208とを有すればよい。
【】
撮像装置201は、撮像信号を信号処理部208に出力する。信号処理部208は、撮像装置201から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。信号処理部208は、撮像信号を用いて、画像を生成する。
【】
このように、本実施形態によれば、第1及び第2実施形態による光電変換装置100を適用した光電変換システムを実現することができる。
【】
[第4実施形態]
本発明の第4実施形態による光電変換システム及び移動体について、
図17を用いて説明する。
図17は、本実施形態による光電変換システム及び移動体の構成を示す図である。
【】
図17(a)は、車載カメラに関する光電変換システムの一例を示したものである。光電変換システム300は、撮像装置310を有する。撮像装置310は、上記第1又は第2実施形態に記載の光電変換装置100である。光電変換システム300は、撮像装置310により取得された複数の画像データに対し、画像処理を行う画像処理部312と、光電変換システム300により取得された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部314を有する。
【】
ここで、光電変換システム300は、例えばレンズやシャッタ、ミラー等の光電変換装置100に光を導く不図示の光学系を備えてもよい。また、光電変換装置100が有する画素に光学系の瞳とほぼ共役な複数の光電変換部が配されてもよい。例えば、瞳とほぼ共役な複数の光電変換部は1つのマイクロレンズに対応して配される。複数の光電変換部は光学系の瞳の互いに異なる位置を透過した光束を受光することによって、光電変換装置100が異なる位置を透過した光束に対応する画像データを出力する。そして、出力された画像データを用いて視差取得部314が視差の算出を行ってもよい。
【】
また、光電変換システム300は、算出された視差に基づいて対象物までの距離を算出する距離取得部316と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部318と、を有する。ここで、視差取得部314や距離取得部316は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離等に関する情報である。衝突判定部318はこれらの距離情報のいずれかを用いて、衝突可能性を判定してもよい。なお、距離情報はToF(Time of Flight)の技術を用いて取得してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated circuit)等によって実現されてもよいし、これらの組合せによって実現されてもよい。
【】
光電変換システム300は車両情報取得装置320と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、光電変換システム300は、衝突判定部318での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU330が接続されている。また、光電変換システム300は、衝突判定部318での判定結果に基づいて、ドライバーへ警報を発する警報装置340とも接続されている。例えば、衝突判定部318の判定結果として衝突可能性が高い場合、制御ECU330はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置340は音等の警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
【】
本実施形態では、車両の周囲、例えば前方又は後方を光電変換システム300で撮像する。
図17(b)に、車両前方(撮像範囲350)を撮像する場合の光電変換システムを示した。車両情報取得装置320が、光電変換システム300ないしは撮像装置310に指示を送る。このような構成により、測距の精度をより向上させることができる。
【】
上記では、他の車両と衝突しないように制御する例を説明したが、他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。更に、光電変換システムは、自車両等の車両に限らず、例えば、船舶、航空機あるいは産業用ロボットなどの移動体(移動装置)に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)等、広く物体認識を利用する機器に適用することができる。
【】
[第5実施形態]
本発明の第5実施形態による機器について、
図18を用いて説明する。
図18は、本実施形態による機器の概略構成を示すブロック図である。
【】
図18は、光電変換装置APRを含む機器EQPを示す模式図である。光電変換装置APRは、第1又は第2実施形態の光電変換装置100の機能を備える。光電変換装置APRの全部又は一部が、半導体デバイスICである。本例の光電変換装置APRは、例えば、イメージセンサやAF(Auto Focus)センサ、測光センサ、測距センサとして用いることができる。半導体デバイスICは、光電変換部を含む画素回路PXCが行列状に配列された画素エリアPXを有する。半導体デバイスICは画素エリアPXの周囲に周辺エリアPRを有することができる。周辺エリアPRには画素回路以外の回路を配置することができる。
【】
光電変換装置APRは、複数の光電変換部が設けられた第1半導体チップと、周辺回路が設けられた第2半導体チップとを積層した構造(チップ積層構造)を有していてもよい。第2半導体チップにおける周辺回路は、ぞれぞれ、第1半導体チップの画素列に対応した列回路とすることができる。また、第2半導体チップにおける周辺回路は、それぞれ、第1半導体チップの画素あるいは画素ブロックに対応したマトリクス回路とすることもできる。第1半導体チップと第2半導体チップとの接続は、貫通電極(TSV)、銅等の導電体の直接接合によるチップ間配線、チップ間のマイクロバンプによる接続、ワイヤボンディングによる接続などを採用することができる。
【】
光電変換装置APRは、半導体デバイスICの他に、半導体デバイスICを収容するパッケージPKGを含みうる。パッケージPKGは、半導体デバイスICが固定された基体と、半導体デバイスICに対向するガラス等の蓋体と、基体に設けられた端子と半導体デバイスICに設けられた端子とを接続するボンディングワイヤやバンプ等の接続部材と、を含みうる。
【】
機器EQPは、光学装置OPT、制御装置CTRL、処理装置PRCS、表示装置DSPL、記憶装置MMRY及び機械装置MCHNのうちの少なくともいずれかを更に備えうる。光学装置OPTは、光電変換装置としての光電変換装置APRに対応するものであり、例えばレンズやシャッタ、ミラーである。制御装置CTRLは、光電変換装置APRを制御するものであり、例えばASICなどの半導体デバイスである。
【】
処理装置PRCSは、光電変換装置APRから出力された信号を処理するものであり、AFE(アナログフロントエンド)あるいはDFE(デジタルフロントエンド)を構成する。処理装置PRCSは、CPU(中央処理装置)やASIC(特定用途向け集積回路)などの半導体デバイスである。表示装置DSPLは、光電変換装置APRで得られた情報(画像)を表示する、EL表示装置や液晶表示装置である。記憶装置MMRYは、光電変換装置APRで得られた情報(画像)を記憶する、磁気デバイスや半導体デバイスである。記憶装置MMRYは、SRAMやDRAMなどの揮発性メモリ、或いは、フラッシュメモリやハードディスクドライブなどの不揮発性メモリである。また、処理装置PRCSは、上述した各実施形態の光電変換装置100が出力する信号を用いてオプティカルフローを取得するようにしてもよい。つまり、処理装置PRCSは、正弦波成分による画像と、余弦波成分による画像と、通常の画像と、の3つの画像を生成し、この3つの画像からオプティカルフローを取得するようにしてもよい。
【】
機械装置MCHNは、モーターやエンジン等の可動部あるいは推進部を有する。機器EQPでは、光電変換装置APRから出力された信号を表示装置DSPLに表示したり、機器EQPが備える通信装置(不図示)によって外部に送信したりする。そのために、機器EQPは、光電変換装置APRが有する記憶回路部や演算回路部とは別に、記憶装置MMRYや処理装置PRCSを更に備えることが好ましい。機械装置MCHNは、光電変換装置APRから出力された信号に基づいて制御されてもよい。
【】
図18に示した機器EQPは、撮影機能を有する情報端末(例えばスマートフォンやウエアラブル端末)やカメラ(例えばレンズ交換式カメラ、コンパクトカメラ、ビデオカメラ、監視カメラ)などの電子機器でありうる。カメラにおける機械装置MCHNはズーミングや合焦、シャッタ動作のために光学装置OPTの部品を駆動することができる。あるいは、カメラにおける機械装置MCHNは防振動作のために光電変換装置APRを移動することができる。
【】
また、機器EQPは、車両や船舶、航空機などの輸送機器(移動体)であり得る。輸送機器における機械装置MCHNは移動装置として用いられ得る。輸送機器としての機器EQPは、光電変換装置APRを輸送するものや、撮影機能により運転(操縦)の補助及び/又は自動化を行うものに好適である。運転(操縦)の補助及び/又は自動化のための処理装置PRCSは、光電変換装置APRで得られた情報に基づいて移動装置としての機械装置MCHNを操作するための処理を行うことができる。
【】
また、機器EQPは、内視鏡やCTスキャナーなどの医療機器、測距センサなどの計測機器、電子顕微鏡のような分析機器、複写機などの事務機器、ロボットなどの産業機器であってもよい。
【】
上述した実施形態の光電変換装置100によれば、良好な画素特性を得ることが可能となる。したがって、光電変換装置の価値を高めることができる。ここでいう価値を高めることには、機能の追加、性能の向上、特性の向上、信頼性の向上、製造歩留まりの向上、環境負荷の低減、コストダウン、小型化、軽量化の少なくともいずれかが該当する。
【】
したがって、上述した実施形態の光電変換装置100を機器EQPに用いれば、機器EQPの価値をも向上することができる。例えば、光電変換装置100を輸送機器に搭載して、輸送機器の外部の撮影や外部環境の測定を行う際に優れた性能を得ることができる。よって、輸送機器の製造、販売を行う上で、本実施形態に係る半導体装置を輸送機器へ搭載することを決定することは、輸送機器自体の性能を高める上で有利である。特に、半導体装置で得られた情報を用いて輸送機器の運転支援及び/又は自動運転を行う輸送機器に光電変換装置100は好適である。
【】
[変形実施形態]
本発明は、上記実施形態に限らず種々の変形が可能である。
【】
例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態である。
【】
また、本明細書の開示内容は、本明細書に記載したことのみならず、本明細書および本明細書に添付した図面から把握可能な全ての事項を含む。また本明細書の開示内容は、本明細書に記載した概念の補集合を含んでいる。すなわち、本明細書に例えば「AはBよりも大きい」旨の記載があれば、「AはBよりも大きくない」旨の記載を省略しても、本明細書は「AはBよりも大きくない」旨を開示していると云える。なぜなら、「AはBよりも大きい」旨を記載している場合には、「AはBよりも大きくない」場合を考慮していることが前提だからである。
【】
また、画素12の回路構成は上記実施形態に限定されるものではない。例えば、光電変換素子22とクエンチ素子32との間や光電変換素子22と信号処理部30との間にトランジスタ等のスイッチを設け、これらの間の電気的な接続状態を制御するようにしてもよい。また、電圧VHが供給されるノードとクエンチ素子32との間及び/又は電圧VLが供給されるノードと光電変換素子22との間にトランジスタ等のスイッチを設け、これらの間の電気的な接続状態を制御するようにしてもよい。
【】
また、上記第3及び第4実施形態に示した光電変換システムは、本発明の光電変換装置を適用しうる光電変換システム例を示したものであり、本発明の光電変換装置を適用可能な光電変換システムは
図16及び
図17に示した構成に限定されるものではない。
【】
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【】
なお、上記実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【】
上記実施形態の開示は、以下の構成及び方法を含む。
(構成1)
アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、
前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、
前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、
前記受光部から前記第1積算部への前記第1信号の出力を制御する第1制御信号と、前記受光部から前記第2積算部への前記第2信号の出力を制御する第2制御信号と、を出力する制御部と、を有し、
単位露光期間における前記第2制御信号のアサート数は、前記単位露光期間における前記第1制御信号のアサート数よりも少ない
ことを特徴とする光電変換装置。
(構成2)
前記第2重み情報は、複数のサブ露光期間を含む単位露光期間を1周期とする周期関数の値に基づいて設定され、
前記複数のサブ露光期間の各々において与えられる前記第2重み情報は、前記複数のサブ露光期間の各々に対応する位相における前記周期関数の値に対応している
ことを特徴とする構成1記載の光電変換装置。
(構成3)
前記第1重み情報は、前記複数のサブ露光期間の各々において同一である
ことを特徴とする構成2記載の光電変換装置。
(構成4)
前記複数のサブ露光期間のうち前記第2積算部における積算動作が行われるサブフレーム期間の数は、前記複数のサブ露光期間のうち前記第1積算部における積算動作が行われるサブフレーム期間の数よりも少ない
ことを特徴とする構成2又は3記載の光電変換装置。
(構成5)
前記第1積算部における前記積算動作は前記第1制御信号のアサート期間に行われ、
前記第2積算部における前記積算動作は前記第2制御信号のアサート期間に行われる
ことを特徴とする構成4記載の光電変換装置。
(構成6)
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記重み信号生成部は、前記複数のサブ露光期間の各々において、前記第1重み情報に対応する複数のパルス信号を含む前記第1重み信号と、前記第2重み情報に対応する複数のパルス信号を含む前記第2重み信号と、を前記受光部に出力し、
前記受光部は、光子の入射に応じて、前記第1重み信号に基づく前記第1信号と、前記第2重み信号に基づく前記第2信号と、を出力する
ことを特徴とする構成2乃至5のいずれかに記載の光電変換装置。
(構成7)
前記重み信号生成部は、前記複数のサブ露光期間の各々において、周期的なパルス信号を含む周期信号に対して間引き処理を行うことにより前記第1重み信号を生成する
ことを特徴とする構成6記載の光電変換装置。
(構成8)
前記第1積算部は、直前のサブ露光期間に光子が入射した場合に、次のサブ露光期間の間に入力された前記第1信号に重畳する前記パルス信号の数を積算する
ことを特徴とする構成6又は7記載の光電変換装置。
(構成9)
前記重み信号生成部は、前記第1重み信号の前記複数のパルス信号の各々に応じて前記第2重み信号を出力する
ことを特徴とする構成6乃至8のいずれかに記載の光電変換装置。
(構成10)
前記重み信号生成部は、前記重み信号生成部に入力される前記周期信号に対して逓倍処理を行うことにより、前記第1重み信号の前記複数のパルス信号の各々のアサート期間の間に前記複数のパルス信号を含む前記第2重み信号を生成する
ことを特徴とする構成7乃至9のいずれかに記載の光電変換装置。
(構成11)
前記第2積算部が備える積算回路のビット幅は、前記周期関数の平均値に基づいて設定されている
ことを特徴とする構成2乃至10のいずれかに記載の光電変換装置。
(構成12)
前記周期関数は、正弦関数又は余弦関数である
ことを特徴とする構成2乃至11のいずれかに記載の光電変換装置。
(構成13)
前記受光部は、第1アバランシェフォトダイオードへの光子の入射に応じて前記第1信号を出力する第1受光部と、第2アバランシェフォトダイオードへの光子の入射に応じて前記第2信号を出力する第2受光部と、を有する
ことを特徴とする構成1乃至5のいずれかに記載の光電変換装置。
(構成14)
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記受光部は、
前記アバランシェフォトダイオードに接続された波形整形回路と、
前記第1重み信号のアサート期間と第3制御信号のアサート期間とが重なる期間に前記アバランシェフォトダイオードのリチャージ動作を行う第1論理回路と、
前記第1制御信号のアサート期間に前記第1重み信号を前記第1積算部に出力する第2論理回路と、
前記第2制御信号のアサート期間に前記第2重み信号を前記第2積算部に出力する第3論理回路と、を更に有する
ことを特徴とする構成1乃至5のいずれかに記載の光電変換装置。
(構成15)
前記第1積算部は、前記波形整形回路の出力信号を受け、前記第3制御信号に応じて出力信号が前記波形整形回路の前記出力信号のレベルとなるフリップフロップ回路と、前記フリップフロップ回路の前記出力信号のアサート期間に前記第2論理回路からの前記第1重み信号を出力する第4論理回路と、前記第4論理回路から出力される前記第1信号を積算する第1積算回路と、を有し、
前記第2積算部は、前記フリップフロップ回路の前記出力信号の前記アサート期間に前記第3論理回路からの前記第2重み信号を出力する第5論理回路と、前記第5論理回路から出力される前記第2信号を積算する第2積算回路と、を有する
ことを特徴とする構成14記載の光電変換装置。
(構成16)
前記第1重み情報に応じた第1重み信号と、前記第1重み情報及び前記第2重み情報に応じた第2重み信号と、を生成する重み信号生成部を更に有し、
前記第1受光部は、
前記第1アバランシェフォトダイオードに接続された第1波形整形回路と、
前記第1重み信号のアサート期間と第3制御信号のアサート期間とが重なる期間に前記第1アバランシェフォトダイオードのリチャージ動作を行う第1論理回路と、
前記第1制御信号のアサート期間に前記第1重み信号を前記第1積算部に出力する第2論理回路と、を更に有し、
前記第2受光部は、
前記第2アバランシェフォトダイオードに接続された第2波形整形回路と、
前記第2重み信号のアサート期間と第4制御信号のアサート期間とが重なる期間に前記第2アバランシェフォトダイオードのリチャージ動作を行う第3論理回路と、
前記第2制御信号のアサート期間に前記第2重み信号を前記第2積算部に出力する第4論理回路と、を更に有する
ことを特徴とする構成13記載の光電変換装置。
(構成17)
前記第1積算部は、前記第1波形整形回路の出力信号を受け、前記第3制御信号に応じて出力信号が前記第1波形整形回路の前記出力信号のレベルとなる第1フリップフロップ回路と、前記第1フリップフロップ回路の前記出力信号のアサート期間に前記第2論理回路からの前記第1重み信号を出力する第5論理回路と、前記第5論理回路から出力される前記第1信号を積算する第1積算回路と、を有し、
前記第2積算部は、前記第2波形整形回路の出力信号を受け、前記第4制御信号に応じて出力信号が前記第2波形整形回路の前記出力信号のレベルとなる第2フリップフロップ回路と、前記第2フリップフロップ回路の前記出力信号のアサート期間に前記第4論理回路からの前記第2重み信号を出力する第6論理回路と、前記第6論理回路から出力される前記第2信号を積算する第2積算回路と、を有する
ことを特徴とする構成16記載の光電変換装置。
(構成18)
構成1乃至17のいずれかに記載の光電変換装置と、
前記光電変換装置から出力される信号を処理する信号処理装置と
を有することを特徴とする光電変換システム。
(構成19)
移動体であって、
構成1乃至17のいずれかに記載の光電変換装置と、
前記光電変換装置からの信号に基づく視差画像から、対象物までの距離情報を取得する距離情報取得手段と、
前記距離情報に基づいて前記移動体を制御する制御手段と
を有することを特徴とする移動体。
(構成20)
構成1乃至17のいずれかに記載の光電変換装置と、
前記光電変換装置に対応する光学装置、
前記光電変換装置を制御する制御装置、
前記光電変換装置から出力された信号を処理する処理装置、
前記光電変換装置で得られた情報に基づいて制御される機械装置、
前記光電変換装置で得られた情報を表示する表示装置、及び、
前記光電変換装置で得られた情報を記憶する記憶装置、の少なくともいずれかと
を備えることを特徴とする機器。
(構成21)
前記処理装置は、前記光電変換装置から出力される信号に基づいてオプティカルフローを取得する
ことを特徴とする構成20記載の機器。
(方法1)
アバランシェフォトダイオードを有し、光子の入射に応じて光子検知信号を出力する受光部と、前記光子検知信号に対して第1重み情報に基づく重みづけをした第1信号を積算する第1積算部と、前記光子検知信号に対してオプティカルフローを算出するための時間相関の重みづけに関する第2重み情報に基づく重みづけをした第2信号を積算する第2積算部と、を有する光電変換装置の駆動方法であって、
前記受光部から前記第1積算部への前記第1信号の出力は、第1制御信号で制御し、
前記受光部から前記第2積算部への前記第2信号の出力は、単位露光期間あたりのアサート数が前記第1制御信号よりも少ない第2制御信号で制御する
ことを特徴とする光電変換装置の駆動方法。
【符号の説明】
【】
10…画素部
12…画素
50…読み出し回路部
80…重み制御部
122…受光部
124…第1積算部
126…第2積算部
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】
【図】