IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023162463
(43)【公開日】2023-11-09
(54)【発明の名称】撮像装置及び撮像方法
(51)【国際特許分類】
   H04N 25/78 20230101AFI20231101BHJP
   H04N 25/77 20230101ALI20231101BHJP
【FI】
H04N5/378
H04N5/3745
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2020162509
(22)【出願日】2020-09-28
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100091487
【弁理士】
【氏名又は名称】中村 行孝
(74)【代理人】
【識別番号】100105153
【弁理士】
【氏名又は名称】朝倉 悟
(72)【発明者】
【氏名】半澤 克彦
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CY26
5C024GX02
5C024GY31
5C024HX50
5C024HX52
5C024HX55
(57)【要約】
【課題】本開示では、回路規模の増加を抑制しつつ、より高速にイベントの読み出しが可能な撮像装置及び撮像方法を提供する。
【解決手段】撮像装置は、輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を保持するする信号保持回路と、輝度信号が第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、信号保持回路に保持される第1イベント信号とに基づき、輝度信号が第1閾値及び第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算回路と、を備える。
【選択図】図12
【特許請求の範囲】
【請求項1】
輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を保持するする信号保持回路と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算回路と、
を備える、撮像装置。
【請求項2】
前記演算回路は、前記信号保持回路に前記イベント信号を保持し、
前記信号保持回路に保持された前記イベント信号を転送する転送部を、
更に備える、請求項1に記載の撮像装置。
【請求項3】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号及び前記第2イベント信号を順に前記信号保持回路に出力する第1モードを有する、請求項1又は2に記載の撮像装置。
【請求項4】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号を前記信号保持回路に出力し、前記信号保持回路に保持された前記第1イベント信号と前記第2イベント信号とに基づき前記イベント信号を生成する第2モードを有する、請求項3に記載の撮像装置。
【請求項5】
前記第1イベント信号及び前記第2イベント信号は、真値及び偽値の少なくともいずれかの情報を含む信号であり、
前記演算回路は、論理和回路を有し、前記第1イベント信号及び前記第2イベント信号の論理和演算を行う、請求項4に記載の撮像装置。
【請求項6】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記演算回路は、前記論理和回路と、マルチプレクサとを有し、
前記マルチプレクサは、制御信号に応じて前記第1イベント信号を前記信号保持回路に出力し、
前記論理和回路は、記信号保持回路に保持された前記第1イベント信号と、前記第2イベント信号との論理和演算を行う、請求項5に記載の撮像装置。
【請求項7】
前記マルチプレクサは、前制御信号に応じて前理和演算の結果を前記信号保持回路に出力する、請求項6に記載の撮像装置。
【請求項8】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記信号保持回路には偽値が初期設定され、
前記論理和回路は、前記偽値と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、次に保持した論理和演算の結果と前記第2イベント信号との論理和演算を行う、請求項5に記載の撮像装置。
【請求項9】
前記演算回路は、論理積回路を更に有する、請求項5に記載の撮像装置。
【請求項10】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記論理積回路の一端には偽値が設定され、
前記論理和回路は、前記前記論理積回路の出力信号と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、
次に、前記論理積回路の前記一端には真値が設定され、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号とが前記論理和回路に入力され、
前記論理和回路は、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号との論理和演算を行う、請求項9に記載の撮像装置。
【請求項11】
前記演算回路は、前記論理和回路及び前記論理積回路の少なくとも一方の等価回路で構成される請求項9に記載の撮像装置。
【請求項12】
同一の画素内には、
前記輝度に応じた信号を出力する光電変換素子と、
前記信号を対数変換する電流電圧変換部と、
前記電流電圧変換部で対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を生成する差分回路と、が構成される、請求項1に記載の撮像装置。
【請求項13】
前記同一の画素内には、
前記信号保持回路と、前記演算回路が更に構成される、請求項12に記載の撮像装置。
【請求項14】
輝度に応じた信号を出力する光電変換部と、前記信号を対数変換する電流電圧変換部と、を有する複数の画素と、
前記電流電圧変換部それぞれで対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を順に生成する差分回路と、
前記複数の画素にそれぞれ対応する複数の前記信号保持回路と、
前記複数の前記信号保持回路、及び前記演算回路は、前記順に生成される前記第1イベント信号及び前記第2イベント信号に対して処理を行う、請求項1に記載の撮像装置。
【請求項15】
輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を信号保持回路に保持するする信号保持工程と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算処理工程と、
を備える、撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、撮像装置及び撮像方法に関する。
【背景技術】
【0002】
垂直同期信号などの同期信号に同期して画像データ(フレーム)を撮像する同期型の固体撮像素子が、撮像装置などにおいて用いられている。この一般的な同期型の固体撮像素子では、同期信号の周期(例えば、1/60秒)ごとにしか画像データを取得することができないため、交通やロボットなどに関する分野において、より高速な処理が要求された場合に対応することが困難になる。そこで、画素アドレスごとに、その画素の光量が閾値を超えた旨をアドレスイベントとしてリアルタイムに検出する検出回路を画素毎に設けた非同期型の固体撮像素子が提案されている。このように、画素毎にアドレスイベントを検出する固体撮像素子は、DVS(Dynamic Vision Sensor)と呼ばれる。同期型の固体撮像素子よりも遥かに高速にデータを生成して出力することができる。このため、例えば、交通分野において、人や障害物を画像認識する処理を高速に実行して、安全性を向上させることができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2017-50853号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
一方で、アドレスイベントには、輝度の上昇量が上限閾値を超えた旨を示すオンイベントと、輝度の低下量が上限閾値未満の下限閾値を下回った旨を示すオフイベントとが含まれる。このため、オンイベントの有無を示す信号を保持する信号保持回路と、オフイベントの有無を示す信号を保持する信号保持回路と、が必要となり、回路規模が増加してしまう。また、回路規模の増加を抑制するために、信号保持回路をオンイベントとオフイベントとで共有化すると、信号保持回路からオンイベントの有無を示すオンイベント信号と、オフイベントの有無を示すオフイベント信号と、の読み出しを順に2回行う必要が生じてしまう。
【0005】
そこで、本開示では、回路規模の増加を抑制しつつ、より高速にイベントの読み出しが可能な撮像装置及び撮像方法を提供するものである。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本開示によれば、輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を保持するする信号保持回路と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算回路と、
を備える、撮像装置が提供される。
【0007】
前記演算回路は、前記信号保持回路に前記イベント信号を保持し、
前記信号保持回路に保持された前記イベント信号を転送する転送部を、
更に備えてもよい。
【0008】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号及び前記第2イベント信号を順に前記信号保持回路に出力する第1モードを有してもよい。
【0009】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号を前記信号保持回路に出力し、前記信号保持回路に保持された前記第1イベント信号と前記第2イベント信号とに基づき前記イベント信号を生成する第2モードを有してもよい。
【0010】
前記第1イベント信号及び前記第2イベント信号は、真値及び偽値の少なくともいずれかの情報を含む信号であり、
前記演算回路は、論理和回路を有し、前記第1イベント信号及び前記第2イベント信号の論理和演算を行ってもよい。
【0011】
前前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記演算回路は、前記論理和回路と、マルチプレクサとを有し、
前記マルチプレクサは、制御信号に応じて前記第1イベント信号を前記信号保持回路に出力し、
前記論理和回路は、記信号保持回路に保持された前記第1イベント信号と、前記第2イベント信号との論理和演算を行ってもよい。
【0012】
前記マルチプレクサは、前制御信号に応じて前理和演算の結果を前記信号保持回路に出力してもよい。
【0013】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記信号保持回路には偽値が初期設定され、
前記論理和回路は、前記偽値と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、次に保持した論理和演算の結果と前記第2イベント信号との論理和演算を行ってもよい。
【0014】
前記演算回路は、論理積回路を更に有してもよい。
【0015】
前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記論理積回路の一端には偽値が設定され、
前記論理和回路は、前記前記論理積回路の出力信号と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、
次に、前記論理積回路の前記一端には真値が設定され、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号とが前記論理和回路に入力され、
前記論理和回路は、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号との論理和演算を行ってもよい。
【0016】
前記演算回路は、前記論理和回路及び前記論理積回路の少なくとも一方の等価回路で構成されてもよい。
【0017】
同一の画素内には、
前記輝度に応じた信号を出力する光電変換素子と、
前記信号を対数変換する電流電圧変換部と、
前記電流電圧変換部で対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を生成する差分回路と、が構成されてもよい。
【0018】
前記同一の画素内には、
前記信号保持回路と、前記演算回路が更に構成されてもよい。
【0019】
輝度に応じた信号を出力する光電変換部と、前記信号を対数変換する電流電圧変換部と、を有する複数の画素と、
前記電流電圧変換部それぞれで対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を順に生成する差分回路と、
前記複数の画素にそれぞれ対応する複数の前記信号保持回路と、
前記複数の前記信号保持回路、及び前記演算回路は、前記順に生成される前記第1イベント信号及び前記第2イベント信号に対して処理を行ってもよい。
【0020】
本開示によれば、輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を信号保持回路に保持するする信号保持工程と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算処理工程と、
を備える、撮像方法が提供される。
【図面の簡単な説明】
【0021】
図1】本開示に係る技術が適用される像装置の構成の一例を示すブロック図。
図2】第1構成例に係る撮像装置の構成の一例を示すブロック図。
図3】画素アレイ部の構成の一例を示すブロック図。
図4】画素の回路構成の一例を示す回路図。
図5】アドレスイベント検出部の構成例を示すブロック図。
図6A】2ラッチ構成による第1の比較例を示す図。
図6B】2ラッチ構成による第2の比較例を示す図。
図6C】1ラッチ構成による第3の比較例を示す図。
図6D図5に示す構成例での読み出し例を示す図。
図7】アドレスイベント検出部における電流電圧変換部の構成の一例を示す回路図。
図8】アドレスイベント検出部における減算器及び量子化器の構成の一例を示す回路図。
図9】スキャン方式の撮像装置の構成の一例を示すブロック図。
図10】撮像装置の積層型のチップ構造の概略を示す分解斜視図。
図11】第1構成例に係る撮像装置のカラム処理部の構成の一例を示すブロック図。
図12】アドレスイベント検出部における演算回路及び信号保持回路の第1構成例を示す回路図。
図13】マルチプレクサの真理値表を示す図。
図14】演算回路の真理値表を示す図。
図15】演算回路及び信号保持回路の第2構成例を示す回路図。
図16】論理和回路の真理値表を示す図。
図17】第2構成例における演算回路の真理値表を示す図。
図18】第2構成例における演算回路の等価回路例を示す図。
図19A】ドモルガンの定理による否定論理積回路の等価回路を示す図。
図19B】ドモルガンの定理による否定論理和の等価回路を示す図。
図20図18で示す演算回路の等価回路例を示す図。
図21図20で示す演算回路の等価回路例を示す図。
図22】演算回路及び信号保持回路の第3構成例を示す回路図。
図23】第3構成例における論理和回路の真理値表を示す図。
図24】第2実施形態に係る画素アレイ部の構成の一例を示すブロック図。
図25】第2実施形態に係る検出部の構成の一例を示すブロック図。
図26】第2実施形態に係る画素アレイ部とカラム処理部の構成の一例を示すブロック図。
図27】第3実施形態に係る画素アレイ部の構成の一例を示すブロック図。
図28】画素ブロックに対する演算回路の構成の一例を示すブロック図。
図29】本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図。
図30】撮像部及び車外情報検出部の設置位置の例を示す図。
【発明を実施するための形態】
【0022】
以下、図面を参照して、撮像装置及び撮像方法の実施形態について説明する。以下では、撮像装置の主要な構成部分を中心に説明するが、撮像装置には、図示又は説明されていない構成部分や機能が存在しうる。以下の説明は、図示又は説明されていない構成部分や機能を除外するものではない。
【0023】
図1は、本開示に係る技術が適用される撮像システムのシステム構成の一例を示すブロック図である。
【0024】
図1に示すように、本開示に係る技術が適用される撮像システム10は、撮像レンズ11、撮像装置20、記録部12、及び、制御部13を備える構成となっている。この撮像システム10は、本開示の電子機器の一例であり、当該電子機器としては、産業用ロボットに搭載されるカメラシステムや、車載カメラシステムなどを例示することができる。
【0025】
上記の構成の撮像システム10において、撮像レンズ11は、被写体からの入射光を取り込んで撮像装置20の撮像面上に結像する。撮像装置20は、撮像レンズ11によって取り込まれた入射光を画素単位で光電変換して撮像データを取得する。この撮像装置20として、後述する本開示の撮像装置が用いられる。
【0026】
撮像装置20は、撮像した画像データに対して、画像認識処理等の所定の信号処理を実行し、その処理結果と、後述するアドレスイベントの検出信号(以下、単に「検出信号」と記述する場合がある)とを示すデータを記録部12に出力する。アドレスイベントの検出信号の生成方法については後述する。記録部12は、信号線14を介して撮像装置20から供給されるデータを記憶する。制御部13は、例えば、マイクロコンピュータによって構成され、撮像装置20における撮像動作の制御を行う。
【0027】
[第1構成例に係る撮像装置(アービタ方式)]
図2は、本開示に係る技術が適用される撮像システム10における撮像装置20として用いられる第1構成例に係る撮像装置の構成の一例を示すブロック図である。
【0028】
図2に示すように、本開示の撮像装置としての第1構成例に係る撮像装置20は、DVSと呼ばれる非同期型の撮像装置であり、画素アレイ部21、駆動部22、アービタ部(調停部)23、カラム処理部24、及び、信号処理部25を備える構成となっている。
【0029】
上記の構成の撮像装置20において、画素アレイ部21には、複数の画素30が行列状(アレイ状)に2次元配列されている。この行列状の画素配列に対して、画素列毎に、後述する垂直信号線VSL(Vertical Signal Lin)が配線される。
【0030】
複数の画素30のそれぞれは、光電流に応じた電圧のアナログ信号を画素信号として生成する。また、複数の画素30のそれぞれは、光電流の変化量が所定の閾値を超えたか否かにより、アドレスイベントの有無を検出する。そして、アドレスイベントが生じた際に画素30は、リクエストをアービタ部23に出力する。
【0031】
駆動部22は、複数の画素30のそれぞれを駆動して、各画素30で生成された画素信号をカラム処理部24に出力させる。
【0032】
アービタ部23は、複数の画素30のそれぞれからのリクエストを調停し、調停結果に基づく応答を画素30に送信する。アービタ部23からの応答を受け取った画素30は、検出結果を示す検出信号(アドレスイベントの検出信号)を駆動部22及び信号処理部25に供給する。画素30からの検出信号の読出しについては、複数行読出しとすることも可能である。
【0033】
カラム処理部24は、例えば、アナログ-デジタル変換器から成り、画素アレイ部21の画素列毎に、その列の画素30から出力されるアナログの画素信号をデジタル信号に変換する処理を行う。そして、カラム処理部24は、アナログ-デジタル変換後のデジタル信号を信号処理部25に供給する。
【0034】
信号処理部25は、カラム処理部24から供給されるデジタル信号に対して、CDS(Correlated Double Sampling)処理や画像認識処理などの所定の信号処理を実行する。そして、信号処理部25は、処理結果を示すデータと、アービタ部23から供給される検出信号とを信号線14を介して記録部12(図1参照)に供給する。
【0035】
[画素アレイ部の構成例]
図3は、画素アレイ部21の構成の一例を示すブロック図である。
【0036】
複数の画素30が行列状に2次元配列されて成る画素アレイ部21において、複数の画素30のそれぞれは、受光部31、画素信号生成部32、及び、アドレスイベント検出部33を有する構成となっている。
【0037】
上記の構成の画素30において、受光部31は、入射光を光電変換して光電流を生成する。そして、受光部31は、駆動部22(図2参照)の制御に従って、画素信号生成部32及びアドレスイベント検出部33のいずれかに、光電変換して生成した光電流を供給する。
【0038】
画素信号生成部32は、受光部31から供給される光電流に応じた電圧の信号を画素信号SIGとして生成し、この生成した画素信号SIGを、垂直信号線VSLを介してカラム処理部24(図2参照)に供給する。
【0039】
アドレスイベント検出部33は、受光部31のそれぞれからの光電流の変化量が所定の閾値を超えたか否かにより、アドレスイベントの有無を検出する。アドレスイベントは、例えば、光電流の変化量が上限の閾値を超えた旨を示すオンイベント、及び、その変化量が下限の閾値を下回った旨を示すオフイベントから成る。また、本実施形態に係るアドレスイベント検出部33は、例えば、オンイベントが発生したか否かを示す1ビットのオンイベント信号、オフイベントが発生したか否かを示す1ビットのオフイベント信号、オンイベント及びオフイベント内のいずれかが発生したか否かを示す1ビットのイベント信号を生成可能である。例えば、オンイベント信号、オフイベント信号、及びイベント信号は、真値(例えば1)又は偽値(例えば0)を示す。例えば、オンイベント信号は、オンイベントが発生した場合に真値を示し、オンイベントが発生していない場合に偽値を示す。同様に、オフイベント信号は、オフイベントが発生した場合に真値を示し、オフイベントが発生していない場合に偽値を示す。同様に、イベント信号は、オンイベント及びオフイベント内の少なくとも一方が発生した場合に真値を示し、オンイベント及びオフイベントが共に発生していない場合に偽値を示す。
【0040】
アドレスイベントが発生した際に、アドレスイベント検出部33は、アドレスイベントの検出信号の送信を要求するリクエストをアービタ部23(図2参照)に供給する。そして、アドレスイベント検出部33は、リクエストに対する応答をアービタ部23から受け取ると、アドレスイベントの検出信号を駆動部22及び信号処理部25に供給する。
【0041】
[画素の回路構成例]
図4は、画素30の回路構成の一例を示す回路図である。上述したように、複数の画素30のそれぞれは、受光部31、画素信号生成部32、及び、アドレスイベント検出部33を有する構成となっている。
【0042】
上記の構成の画素30において、受光部31は、受光素子(光電変換素子)311、トランジスタ312、及び、トランジスタ313を有する構成となっている。トランジスタ312及びトランジスタ313としては、例えば、N型のMOS(Metal Oxide Semiconductor)トランジスタが用いられる。トランジスタ312及びトランジスタ313は、互いに直列に接続されている。
【0043】
受光素子311は、トランジスタ312とトランジスタ313との共通接続ノードNとグランドとの間に接続されており、入射光を光電変換して入射光の光量に応じた電荷量の電荷を生成する。
【0044】
トランジスタ312のゲート電極には、図2に示す駆動部22から転送信号TRGが供給される。トランジスタ312は、転送信号TRGに応答して、受光素子311で光電変換された電荷を画素信号生成部32に供給する。
【0045】
トランジスタ313のゲート電極には、駆動部22から制御信号OFGが供給される。トランジスタ313は、制御信号OFGに応答して、受光素子311で生成された電気信号をアドレスイベント検出部33に供給する。アドレスイベント検出部33に供給される電気信号は、電荷からなる光電流である。
【0046】
画素信号生成部32は、リセットトランジスタ321、増幅トランジスタ322、選択トランジスタ323、及び、浮遊拡散層324を有する構成となっている。リセットトランジスタ321、増幅トランジスタ322、及び、選択トランジスタ323としては、例えば、N型のMOSトランジスタが用いられる。
【0047】
画素信号生成部32には、受光部31からトランジスタ312によって、受光素子311で光電変換された電荷が供給される。受光部31から供給される電荷は、浮遊拡散層324に蓄積される。浮遊拡散層324は、蓄積した電荷の量に応じた電圧値の電圧信号を生成する。すなわち、浮遊拡散層324は、電荷を電圧に変換する。
【0048】
リセットトランジスタ321は、電源電圧VDDの電源ラインと浮遊拡散層324との間に接続されている。リセットトランジスタ321のゲート電極には、駆動部22からリセット信号RSTが供給される。リセットトランジスタ321は、リセット信号RSTに応答して、浮遊拡散層324の電荷量を初期化(リセット)する。
【0049】
増幅トランジスタ322は、電源電圧VDDの電源ラインと垂直信号線VSLとの間に、選択トランジスタ323と直列に接続されている。増幅トランジスタ322は、浮遊拡散層324で電荷電圧変換された電圧信号を増幅する。
【0050】
選択トランジスタ323のゲート電極には、駆動部22から選択信号SELが供給される。選択トランジスタ323は、選択信号SELに応答して、増幅トランジスタ322によって増幅された電圧信号を画素信号SIGとして垂直信号線VSLを介してカラム処理部24(図2参照)へ出力する。
【0051】
上記の構成の画素30が2次元配置されて成る画素アレイ部21を有する撮像装置20において、駆動部22は、図1に示す制御部13によりアドレスイベントの検出開始が指示されると、受光部31のトランジスタ313に制御信号OFGを供給することによって当該トランジスタ313を駆動してアドレスイベント検出部33に光電流を供給させる。
【0052】
そして、ある画素30においてアドレスイベントが検出されると、駆動部22は、その画素30のトランジスタ313をオフ状態にしてアドレスイベント検出部33への光電流の供給を停止させる。次いで、駆動部22は、トランジスタ312に転送信号TRGを供給することによって当該トランジスタ312を駆動して、受光素子311で光電変換された電荷を浮遊拡散層324に転送させる。
【0053】
このようにして、上記の構成の画素30が2次元配置されて成る画素アレイ部21を有する撮像装置20は、アドレスイベントが検出された画素30の画素信号のみをカラム処理部24に出力する。これにより、アドレスイベントの有無に関わらず、全画素の画素信号を出力する場合と比較して、撮像装置20の消費電力や、画像処理の処理量を低減することができる。
【0054】
なお、ここで例示した画素30の構成は一例であって、この構成例に限定されるものではない。例えば、画素信号生成部32を備えない画素構成とすることもできる。この画素構成の場合は、受光部31において、トランジスタ313を省略し、当該トランジスタ313の機能をトランジスタ312に持たせるようにすればよい。
【0055】
[アドレスイベント検出部の構成例]
図5は、アドレスイベント検出部33の構成例を示すブロック図である。図5に示すように、本構成例に係るアドレスイベント検出部33は、電流電圧変換部331、バッファ332、減算器333、量子化器334、演算回路335、信号保持回路336、転送部337、及び、制御回路338を有する構成となっている。
【0056】
電流電圧変換部331は、画素30の受光部31からの光電流を、その対数の電圧信号に変換する。電流電圧変換部331は、変換した電圧信号をバッファ332に供給する。バッファ332は、電流電圧変換部331から供給される電圧信号をバッファリングし、減算器333に供給する。
【0057】
減算器333には、駆動部22から行駆動信号が供給される。減算器333は、行駆動信号に従って、バッファ332から供給される電圧信号のレベルを低下させる。そして、減算器333は、レベル低下後の電圧信号を量子化器334に供給する。量子化器334は、減算器333から供給される電圧信号をデジタル信号に量子化してアドレスイベントの検出信号として演算回路335に出力する。例えば、量子化器334は、オンイベント信号及びオフイベント信号を順に演算回路335に供給する。
【0058】
演算回路335は、量子化器334から順に供給されるオンイベント信号及びオフイベント信号に基づく論理演算を行い、イベント信号を生成する。例えば、演算回路335は、オンイベント信号及びオフイベント信号のうちの最初に供給された信号の値を信号保持回路336に供給する。次に、演算回路335は、オンイベント信号及びオフイベント信号のうちの次に供給された信号の値と、信号保持回路336が保持する最初に供給された信号の値との内の一方が真値であれば、真値示す信号を信号保持回路336に供給し、両方とも偽値であれば偽値を示す信号を信号保持回路336に供給する。このように、演算回路335は、オンイベント信号及びオフイベント信号の少なくとも一方が真値であれば、真値を示すイベント信号を出力し、いずれも偽値であれば偽値を示すイベント信号を出力する。
【0059】
信号保持回路336は、演算回路335と転送部337との間に設けられており、制御回路338から供給されるサンプル信号に基づいて、演算回路335の演算結果を蓄積する。信号保持回路336は、スイッチ、プラスチック、容量などのサンプリング回路であってもよいし、ラッチやフリップフロップなどのデジタルメモリ回路でもあってもよい。本実施形態に係る信号保持回路336は、オンイベント信号及びオフイベント信号に対して、1つで構成される所謂1ラッチ(Latc)構成である。このため、オンイベント信号及びオフイベント信号それぞれに対して信号保持回路336が構成される所謂2ラッチ(Latc)構成よりも信号保持回路336の面積をより少なくできる。
【0060】
転送部337は、量子化器334から供給されるアドレスイベントの検出信号をアービタ部23等に転送する。この転送部337は、アドレスイベントが検出された際に、アドレスイベントの検出信号の送信を要求するリクエストをアービタ部23に供給する。そして、転送部337は、リクエストに対する応答をアービタ部23から受け取ると、アドレスイベントの検出信号を駆動部22及び信号処理部25に供給する。
【0061】
制御回路338は、コンパレータ3341の反転(-)入力端子に対して所定の閾値電圧Vthを供給する。制御回路338からコンパレータ3341に供給される閾値電圧Vthは、時分割で異なる電圧値である。例えば、制御回路338は、光電流の変化量が上限の閾値を超えた旨を示すオンイベントに対応する閾値電圧Vth1、及び、その変化量が下限の閾値を下回った旨を示すオフイベントに対応する閾値電圧Vth2を異なるタイミングで供給する。これにより、1つのコンパレータ3341でオンイベント信号及びオフイベント信号の生成が可能となる。
【0062】
ここで、2ラッチ構成と比較しつつ転送部337からの読み出し(Read)回数について説明する。
図6Aは、2ラッチ構成による第1の比較例を示す図である。横軸が時間を示す。例えば、オフイベント信号を生成するコンパレータと、オンイベント信号を生成するコンパレータを有する場合である。図6Aに示すように、信号保持回路336を2つ有する2ラッチ構成による信号読み出しでは、オフイベント信号を第1信号保持回路336に記憶し、オンイベント信号を第2信号保持回路336に記憶し、それぞれに対応する転送部337により信号を転送する。これから分かるように、2ラッチ構成では、読み出し(Read)回数を第1信号保持回路336及び第2信号保持回路336に対して一回で行うことが可能である。なお、図6Aの構成では、イベントの有無の情報を含むイベント信号が必要な場合、アドレスイベント検出部33(図4参照)以外の読み出し後の回路で生成する必要が生じる。
【0063】
図6Bは、2ラッチ構成による第2の比較例を示す図である。横軸が時間を示す。例えば、オフイベント信号を生成するコンパレータと、オンイベント信号を生成するコンパレータとが1つの場合である。図6Bに示すように、信号保持回路336を2つ有する2ラッチ構成による信号読み出しでは、先ずオフイベント信号を第1信号保持回路336に記憶し、次にオンイベント信号を第2信号保持回路336に記憶し、それぞれに対応する転送部337により信号を転送する。これらから分かるように、2ラッチ構成では、読み出し(Read)回数を第1信号保持回路336及び第2信号保持回路336に対して一回で行うことが可能である。なお、図6Bの構成では、イベントの有無の情報を含むイベント信号が必要な場合、アドレスイベント検出部33(図4参照)以外の読み出し後の回路で生成する必要が生じる。
【0064】
図6Cは、1ラッチ構成による第3の比較例を示す図である。横軸が時間を示す。例えば、オフイベント信号を生成するコンパレータと、オンイベント信号を生成するコンパレータとが1つの場合である。図6Cに示すように、信号保持回路336を1つ有する1ラッチ構成による信号読み出しでは、先ずオフイベント信号を第1信号保持回路336に記憶し、読み出し(Read)を行う。次にオンイベント信号を第2信号保持回路336に記憶し、読み出し(Read)を行う。これから分かるように、第3の比較例による1ラッチ構成では、読み出し(Read)回数が2回となってしまう。なお、図6Cの構成では、イベントの有無の情報を含むイベント信号が必要な場合、アドレスイベント検出部33(図4参照)以外の読み出し後の回路で生成する必要が生じる。
【0065】
図6Dは、図5に示す構成例での読み出し例を示す図である。横軸が時間を示す。図6Dに示すように、演算回路335は、先ずオフイベント信号及びオンイベント信号のうちの一方の信号を第1信号保持回路336に記憶する。次に演算回路335は、オフイベント信号及びオンイベント信号のうちの他方の信号と、第1信号保持回路336に記憶された信号とを用いて論理演算によりイベント信号を生成し、信号保持回路336に記憶する。そして、イベント信号の読み出し(Read)を行う。このように、演算回路335を設けることにより、イベントの有無の情報を含むイベント信号の読み出し(Read)回数を1回で行うことが可能となる。なお、図5に示す回路構成例では、オフイベントの有無の情報を含むオフイベント信号、及びオンイベントの有無の情報を含むオンイベント信号、が必要な場合にも対応可能である。この場合、図6Cの読み出し例と同様に、先ずオフイベント信号を第1信号保持回路336に記憶して読み出し(Read)、次にオンイベント信号を第2信号保持回路336に記憶して読み出し(Read)を行うことにより、オフイベント信号、及びオンイベント信号をアドレスイベント検出部33(図4参照)から出力可能である。なお、本実施形態では、オフイベント信号を先に生成し、次にオンイベント信号を生成しているが、これに限定されない。例えば、オンイベント信号を先に生成し、次にオフイベント信号を生成してもよい。
【0066】
続いて、アドレスイベント検出部33における電流電圧変換部331、及び、減算器333、量子化器334の構成例について説明する。なお、演算回路335の詳細は後述する。
【0067】
(電流電圧変換部の構成例)
図7は、アドレスイベント検出部33における電流電圧変換部331の構成の一例を示す回路図である。図7に示すように、本例に係る電流電圧変換部331は、N型トランジスタ3311、P型トランジスタ3312、及び、N型トランジスタ3313を有する回路構成となっている。これらのトランジスタ3311~3313としては、例えば、MOSトランジスタが用いられる。
【0068】
N型トランジスタ3311は、電源電圧VDDの電源ラインと信号入力線3314との間に接続されている。P型トランジスタ3312及びN型トランジスタ3313は、電源電圧VDDの電源ラインとグランドとの間に直列に接続されている。そして、P型トランジスタ3312及びN型トランジスタ3313の共通接続ノードNには、N型トランジスタ3311のゲート電極と、図5に示すバッファ332の入力端子とが接続されている。
【0069】
P型トランジスタ3312のゲート電極には、所定のバイアス電圧Vbiasが印加される。これにより、P型トランジスタ3312は、一定の電流をN型トランジスタ3313に供給する。N型トランジスタ3313のゲート電極には、信号入力線3314を通して、受光部31から光電流が入力される。
【0070】
N型トランジスタ3311及びN型トランジスタ3313のドレイン電極は電源側に接続されており、このような回路はソースフォロワと呼ばれる。これらのループ状に接続された2つのソースフォロワにより、受光部31からの光電流は、その対数の電圧信号に変換される。
【0071】
(減算器及び量子化器の構成例)
図8は、アドレスイベント検出部33における減算器333及び量子化器334の構成の一例を示す回路図である。
【0072】
本例に係る減算器333は、容量素子3331、インバータ回路3332、容量素子3333、及び、スイッチ素子3334を有する構成となっている。
【0073】
容量素子3331の一端は、図5に示すバッファ332の出力端子に接続され、その他端は、インバータ回路3332の入力端子に接続されている。容量素子3333は、インバータ回路3332に対して並列に接続されている。スイッチ素子3334は、容量素子3333の両端間に接続されている。スイッチ素子3334にはその開閉制御信号として、駆動部22から行駆動信号が供給される。スイッチ素子3334は、行駆動信号に応じて、容量素子3333の両端を接続する経路を開閉する。インバータ回路3332は、容量素子3331を介して入力される電圧信号の極性を反転する。
【0074】
上記の構成の減算器333において、スイッチ素子3334をオン(閉)状態とした際に、容量素子3331のバッファ332側の端子に電圧信号Vinitが入力され、その逆側の端子は仮想接地端子となる。この仮想接地端子の電位を、便宜上、ゼロとする。このとき、容量素子3331に蓄積されている電荷Qinitは、容量素子3331の容量値をCとすると、次式(1)により表される。一方、容量素子3333の両端は、短絡されているため、その蓄積電荷はゼロとなる。
init=C×Vinit ・・・(1)
【0075】
次に、スイッチ素子3334がオフ(開)状態となり、容量素子3331のバッファ332側の端子の電圧が変化してVafterになった場合を考えると、容量素子3331に蓄積される電荷Qafterは、次式(2)により表される。
after=C×Vafter ・・・(2)
【0076】
一方、容量素子3333に蓄積される電荷Qは、容量素子3333の容量値をCとし、出力電圧をVoutとすると、次式(3)により表される。
=-C×Vout ・・・(3)
【0077】
このとき、容量素子3331及び容量素子3333の総電荷量は変化しないため、次の式(4)が成立する。
init=Qafter+Q ・・・(4)
【0078】
式(4)に式(1)乃至式(3)を代入して変形すると、次式(5)が得られる。
out=-(C/C)×(Vafter-Vinit) ・・・(5)
【0079】
式(5)は、電圧信号の減算動作を表し、減算結果の利得はC/Cとなる。通常、利得を最大化することが望まれるため、Cを大きく、Cを小さく設計することが好ましい。一方、Cが小さすぎると、kTCノイズが増大し、ノイズ特性が悪化するおそれがあるため、Cの容量削減は、ノイズを許容することができる範囲に制限される。また、画素30毎に減算器333を含むアドレスイベント検出部33が搭載されるため、容量素子3331や容量素子3333には、面積上の制約がある。これらを考慮して、容量素子3331、3333の容量値C、Cが決定される。
【0080】
図8において、量子化器334は、コンパレータ3341を有する構成となっている。コンパレータ3341は、インバータ回路3332の出力信号、即ち、減算器430からの電圧信号を非反転(+)入力とし、所定の閾値電圧Vthを反転(-)入力としている。そして、コンパレータ3341は、減算器430からの電圧信号と所定の閾値電圧Vthとを比較し、比較結果を示す信号をアドレスイベントの検出信号として転送部337に出力する。
【0081】
[第2構成例に係る撮像装置(スキャン方式)]
上述した第1構成例に係る撮像装置20は、非同期型の読出し方式にてイベントを読み出す非同期型の撮像装置である。但し、イベントの読出し方式としては、非同期型の読出し方式に限られるものではなく、同期型の読出し方式であってもよい。同期型の読出し方式が適用される撮像装置は、所定のフレームレートで撮像を行う通常の撮像装置と同じ、スキャン方式の撮像装置である。
【0082】
図9は、本開示に係る技術が適用される撮像システム10における撮像装置20として用いられる、第2構成例に係る撮像装置、即ち、スキャン方式の撮像装置の構成の一例を示すブロック図である。
【0083】
図9に示すように、本開示の撮像装置としての第2構成例に係る撮像装置20は、画素アレイ部21、駆動部22、信号処理部25、読出し領域選択部27、及び、信号生成部28を備える構成となっている。
【0084】
画素アレイ部21は、複数の画素30を含む。複数の画素30は、読出し領域選択部27の選択信号に応答して出力信号を出力する。複数の画素30のそれぞれについては、例えば図3に示すように、画素内に量子化器を持つ構成とすることもできる。複数の画素30は、光の強度の変化量に対応する出力信号を出力する。複数の画素30は、図9に示すように、行列状に2次元配置されていてもよい。
【0085】
駆動部22は、複数の画素30のそれぞれを駆動して、各画素30で生成された画素信号を信号処理部25に出力させる。なお、駆動部22及び信号処理部25については、階調情報を取得するための回路部である。従って、イベント情報のみを取得する場合は、駆動部22及び信号処理部25は無くてもよい。
【0086】
読出し領域選択部27は、画素アレイ部21に含まれる複数の画素30のうちの一部を選択する。例えば、読出し領域選択部27は、画素アレイ部21に対応する2次元行列の構造に含まれる行のうちのいずれか1つもしくは複数の行を選択する。読出し領域選択部27は、予め設定された周期に応じて1つもしくは複数の行を順次選択する。また、読出し領域選択部27は、画素アレイ部21の各画素30からのリクエストに応じて選択領域を決定してもよい。
【0087】
信号生成部28は、読出し領域選択部27によって選択された画素の出力信号に基づいて、選択された画素のうちのイベントを検出した活性画素に対応するイベント信号を生成する。イベントは、光の強度が変化するイベントである。活性画素は、出力信号に対応する光の強度の変化量が予め設定された閾値を超える、又は、下回る画素である。例えば、信号生成部28は、画素の出力信号を基準信号と比較し、基準信号よりも大きい又は小さい場合に出力信号を出力する活性画素を検出し、当該活性画素に対応するイベント信号を生成する。
【0088】
信号生成部28については、例えば、信号生成部28に入ってくる信号を調停するような列選択回路を含む構成とすることができる。また、信号生成部28については、イベントを検出した活性画素の情報の出力のみならず、イベントを検出しない非活性画素の情報も出力する構成とすることができる。
【0089】
信号生成部28からは、出力線15を通して、イベントを検出した活性画素のアドレス情報及びタイムスタンプ情報(例えば、(X、Y、T))が出力される。但し、信号生成部28から出力されるデータについては、アドレス情報及びタイムスタンプ情報だけでなく、フレーム形式の情報(例えば、(0、0、1、0、・・・))であってもよい。
【0090】
[チップ構造の構成例]
上述した第1構成例又は第2構成例に係る撮像装置20のチップ(半導体集積回路)構造としては、例えば、積層型のチップ構造を採ることができる。図10は、撮像装置20の積層型のチップ構造の概略を示す分解斜視図である。
【0091】
図10に示すように、積層型のチップ構造、所謂、積層構造は、第1のチップである受光チップ201、及び、第2のチップである検出チップ202の少なくとも2つのチップが積層された構造となっている。そして、図4に示す画素30の回路構成において、受光素子311のそれぞれが受光チップ201上に配置され、受光素子311以外の素子の全てや、画素30の他の回路部分の素子などが検出チップ202上に配置される。受光チップ201と検出チップ202とは、ビア(VIA)、Cu-Cu接合、バンプなどの接続部を介して電気的に接続される。
【0092】
なお、ここでは、受光素子311を受光チップ201に配置し、受光素子311以外の素子や画素30の他の回路部分の素子などを検出チップ202に配置する構成例を例示したが、この構成例に限られるものではない。
【0093】
例えば、図3に示す画素30の回路構成において、受光部31の各素子を受光チップ201に配置し、受光部31以外の素子や画素30の他の回路部分の素子などを検出チップ202に配置する構成とすることができる。また、受光部31の各素子、及び、画素信号生成部32のリセットトランジスタ321、浮遊拡散層324を受光チップ201に配置し、それ以外の素子を検出チップ202に配置する構成とすることができる。更には、アドレスイベント検出部33を構成する素子の一部を、受光部31の各素子などと共に受光チップ201に配置する構成とすることができる。
【0094】
[カラム処理部の構成例]
図11は、第1構成例に係る撮像装置20のカラム処理部24の構成の一例を示すブロック図である。図11に示すように、本例に係るカラム処理部24は、画素アレイ部21の画素列毎に配置された複数のアナログ-デジタル変換器(ADC)241を有する構成となっている。
【0095】
なお、ここでは、画素アレイ部21の画素列に対して、1対1の対応関係でアナログ-デジタル変換器241を配置する構成例を例示したが、この構成例に限定されるものではない。例えば、複数の画素列を単位としてアナログ-デジタル変換器241を配置し、当該アナログ-デジタル変換器241を複数の画素列間で時分割により処理する構成とすることもできる。
【0096】
アナログ-デジタル変換器241は、垂直信号線VSLを介して供給されるアナログの画素信号SIGを、先述したアドレスイベントの検出信号よりもビット数の多いデジタル信号に変換する。例えば、アドレスイベントの検出信号を2ビットとすると、画素信号は、3ビット以上(16ビットなど)のデジタル信号に変換される。アナログ-デジタル変換器241は、アナログ-デジタル変換で生成したデジタル信号を信号処理部25に供給する。
【0097】
[演算回路及び信号保持回路の第1構成例]
ここで、図12に基づき、演算回路335の詳細な構成例を説明する。図12は、アドレスイベント検出部33における演算回路335及び信号保持回路336の第1構成例を示す回路図である。
【0098】
本例に係る演算回路335は、論理和回路(OR回路)335a、及び、マルチプレクサ335bを有する。論理和回路335aの2入力端子の一方の入力端子は量子化器334の出力端子に接続され、他方の入力端子は信号保持回路336の出力端子に接続される。論理和回路335aの出力端子は、マルチプレクサ335bの入力端子に接続される。本例に係る演算回路335は、制御信号の入力に応じてオンイベント信号(第1イベント信号)及びオフイベント信号(第2イベント信号)を順に信号保持回路336に出力する第1モードを有する。また、本例に係る演算回路335は、制御信号の入力に応じてオンイベント信号を信号保持回路336に出力し、信号保持回路336に保持されたオンイベント信号とオフイベント信号とに基づきイベント信号を生成する第2モードを有する。
【0099】
マルチプレクサ335bの2入力端子の一方の入力端子は、上述のように、論理和回路335aの出力端子に接続され、他方の入力端子は、量子化器334の出力端子に接続さる。また、マルチプレクサ335bの出力端子は、信号保持回路336の入力端子に接続される。さらにまた、マルチプレクサ335bの選択制御端子は制御回路338に接続される。
【0100】
信号保持回路336の入力端子は、上述のように、マルチプレクサ335bの出力端子に接続される。信号保持回路336の出力端子は、転送部337の出力端子に接続される。
【0101】
図12に示す回路構成により、論理和回路335aは、量子化器334の出力信号S1又は信号保持回路336の出力信号S4が真値であれば、真値を出力する。一方で、論理和回路335aは、量子化器334の出力信号S1及び信号保持回路336の出力信号S4が共に偽値であれば、偽値を出力する。なお、本実施形態では、真値を「1」、偽値を「0」として示し、「1」でも「0」でもよい場合を「-」で示すこととする。
【0102】
図13は、マルチプレクサ335bの真理値表を示す図である。図13に示すように、選択制御信号E0が0である場合、論理和回路335aの出力信号S2によらず、量子化器334の出力信号S1を出力信号S3として出力する。すなわち、選択制御信号E0を0とする場合には、量子化器334の出力信号S1をそのまま信号保持回路336に供給可能である。これにより、第1モードの処理を行うことが可能である。より具体的には、先ずオフイベント信号及びオンイベント信号のうちの一方を第1信号保持回路336に記憶して読み出し(Read)、次にオフイベント信号及びオンイベント信号のうちの他方を第2信号保持回路336に記憶して読み出し(Read)を行うことにより、オフイベント信号、及びオンイベント信号をアドレスイベント検出部33(図4参照)から出力することが可能となる。
【0103】
一方で、選択制御信号E0が1である場合、量子化器334の出力信号S1によらず、論理和回路335aの出力信号S2を出力信号S3として出力する。
【0104】
図14は、第2モードにおける演算回路335の真理値表を示す図である。図14では、先ず時間t1で、量子化器334が、信号S1として、オンイベント信号を生成し、次に時間t2で、量子化器334が、信号S1として、オフイベント信号を生成する場合を示している。なお、本実施形態では、オンイベント信号を生成し、次にオフイベント信号を生成するが、上述のように、これに限定されない。例えば、オフイベント信号を生成し、次にオンイベント信号を生成してもよい。この場合にも、オンイベント信号を生成し、次にオフイベント信号を生成する場合と、同様の処理を行うことが可能である。
【0105】
まず、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0106】
論理和回路335aの出力信号S2は、時間t1では、信号保持回路336の初期値が「1」又は「0」であっても、信号S1が1であるので、1である。この場合、マルチプレクサ335bは、図10で示したように、選択制御信号E0が0であるので、論理和回路335aの出力信号S2によらず、量子化器334の出力信号S1を出力信号S3として出力する。すなわち、時間t1では、信号保持回路336の初期値が「1」又は「0」であっても、オンイベント信号の値である1がマルチプレクサ335bの出力信号S3として信号保持回路336に保持される。これにより、時間t1では信号保持回路336の値は1として保持される。
【0107】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は1であり、量子化器334の出力信号S1は1であるので、論理和回路335aの出力信号S2は1となる。また、時間t2では、制御回路338により選択制御信号E0が1として入力される。この場合、図10で示したように、量子化器334の出力信号S1によらず、論理和回路335aの出力信号S2を出力信号S3として出力する。すなわち、出力信号S3は1であり、信号保持回路336の出力信号S4は、時間t2では1として保持される。これにより、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が1であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0108】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0109】
時間t1では、信号S1が0であり、信号保持回路336の初期値である信号S4は「1」又は「0」である。このため、論理和回路335aの出力信号S2は、「1」又は「0」である。この場合、マルチプレクサ335bは、図10で示したように、論理和回路335aの出力信号S2によらず、量子化器334の出力信号S1を出力信号S3として出力する。すなわち、時間t1では、信号保持回路336の初期値が「1」又は「0」であっても、オンイベント信号の値である0がマルチプレクサ335bの出力信号S3として信号保持回路336に保持される。これにより、時間t1では信号保持回路336の値は0として保持される。
【0110】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である信号S4は0であり、量子化器334の出力信号S1は1であるので、論理和回路335aの出力信号S2は1となる。また、時間t2では、制御回路338により選択制御信号E0が1として入力される。この場合、図10で示したように、量子化器334の出力信号S1によらず、論理和回路335aの出力信号S2を出力信号S3として出力する。すなわち、信号S3は1であり、信号保持回路336の出力信号S4は、時間t2では1として保持される。これにより、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が0であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0111】
次に、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。オンイベント信号が入力される時間t1では、上述のように、信号S1が1であり、信号S2が1であり、信号S3が1であり、信号S4が1である。
【0112】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期とである信号S4は1であり、量子化器334の出力信号S1は0であるので、論理和回路335aの出力信号S2は1となる。また、時間t2では、制御回路338により選択制御信号E0が1として入力される。この場合、図10で示したように、量子化器334の出力信号S1によらず、論理和回路335aの出力信号S2を出力信号S3として出力する。すなわち、出力信号S3は1であり、信号保持回路336の出力信号S4は、時間t2では1として保持される。これにより、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が1であり、オフイベント信号が0である場合には、転送部337から1が出力される。
【0113】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。オンイベント信号が入力される時間t1では、上述のように、信号S1が0であり、信号S2が「1」又は「0」であり、信号S3が0であり、信号S4が0である。
【0114】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は0であり、量子化器334の出力信号S1は0であるので、論理和回路335aの出力信号S2は0となる。また、時間t2では、制御回路338により選択制御信号E0が1として入力される。この場合、図10で示したように、量子化器334の出力信号S1によらず、論理和回路335aの出力信号S2を出力信号S3として出力する。すなわち、出力信号S3は0であり、信号保持回路336の出力信号S4は、時間t2では0が保持される。これにより、転送部317からはイベント信号として0が出力される。このように、オンイベント信号が0であり、オフイベント信号が0である場合には、転送部337から0が出力される。
【0115】
[演算回路及び信号保持回路の第2構成例]
図15は、アドレスイベント検出部33における演算回路335及び信号保持回路336の第2構成例を示す回路図である。
【0116】
本例に係る演算回路335は、論理和回路335a、及び、論理積回路(AND回路)335cを有する。論理和回路335aの2入力端子の一方の入力端子は量子化器334の出力端子に接続され、他方の入力端子は論理積回路335cの出力端子に接続される。論理和回路335aの出力端子は、信号保持回路336の入力端子に接続される。
【0117】
論理積回路335cの2入力端子の一方の入力端子は、制御回路338に接続される。論理積回路335cの他方の入力端子は、信号保持回路336の出力端子に接続さる。また、論理積回路335cの出力端子は、上述のように、論理和回路335aの一方の入力端子に接続される。
【0118】
信号保持回路336の入力端子は、上述のように、論理和回路335aの出力端子に接続される。信号保持回路336の出力端子は、転送部337の出力端子に接続される。
【0119】
図16は、論理和回路335aの真理値表を示す図である。図16に示す回路構成により、論理和回路335aは、量子化器334の出力信号S1又は論理積回路335cの出力信号S5が真値であれば、真値を出力する。一方で、論理和回路335aは、量子化器334の出力信号S1及び論理積回路335cの出力信号S5が共に偽値であれば、偽値を出力する。この場合、論理積回路335cの出力信号S5は、選択制御信号E0が0である場合、常に0となる。
【0120】
これにより、第1モードの処理を行うことが可能である。より具体的には、選択制御信号E0を0とする場合には、論理和回路335aは、量子化器334の出力信号S1をそのまま信号保持回路336に供給可能である。これにより、先ずオフイベント信号及びオンイベント信号のうちの一方を第1信号保持回路336に記憶して読み出し(Read)、次にオフイベント信号及びオンイベント信号のうちの他方を第2信号保持回路336に記憶して読み出し(Read)を行うことにより、オフイベント信号、及びオンイベント信号をアドレスイベント検出部33(図4参照)から出力することが可能となる。
【0121】
一方で、図17は、第2モードにおける第2構成例での演算回路335の真理値表を示す図である。図17では、先ず時間t1で、量子化器334が、信号S1として、オンイベント信号を生成し、次に時間t2で、量子化器334が、信号S1として、オフイベント信号を生成する場合を示している。
【0122】
まず、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0123】
論理積回路335cの出力信号S5は、選択制御信号E0が0であるので、信号保持回路336の初期値が「1」又は「0」であっても、0となる。これにより、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が1であれるので1を出力する。このため、時間t1では信号保持回路336の値は1として保持される。
【0124】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は1であるので、論理積回路335cの出力信号S5は1となる。これにより、量子化器334の出力信号S1の値によらず論理和回路335aの出力信号S2は1となる。このため、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が1であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0125】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0126】
論理積回路335cの出力信号S5は、選択制御信号E0が0であるので、信号保持回路336の初期値が「1」又は「0」であっても、0となる。これにより、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が0であれるので0を出力する。このため、時間t1では信号保持回路336の値は0として保持される。
【0127】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は0であるので、論理積回路335cの出力信号S5は0となる。一方で、量子化器334の出力信号S1の値は1であるので、論理和回路335aの出力信号S2は1となる。これにより、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が0であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0128】
次に、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0129】
上述のように、論理積回路335cの出力信号S5は、0となり、論理和回路335aの出力信号S2は、1となり、時間t1では信号保持回路336の値は1として保持される。
【0130】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は1であるので、論理積回路335cの出力信号S5は1となる。このため、量子化器334の出力信号S1の値によらず、論理和回路335aの出力信号S2は1となる。これにより、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が1であり、オフイベント信号が0である場合には、転送部337から1が出力される。
【0131】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。オンイベント信号が入力される時間t1では、制御回路338により選択制御信号E0が0として入力される。
【0132】
上述のように、論理積回路335cの出力信号S5は0となり、論理和回路335aの出力信号S2は0となり、時間t1では信号保持回路336の値は0として保持される。
【0133】
続いて、オフイベント信号が入力される時間t2では、制御回路338により選択制御信号E0が1として入力される。時間t2では、信号保持回路336の初期値である出力信号S4は0であるので、論理積回路335cの出力信号S5は0となる。一方で、量子化器334の出力信号S1の値は0であるので、論理和回路335aの出力信号S2は0となる。これにより、信号保持回路336の出力信号S4は、時間t2では0として保持される。そして、転送部317からはイベント信号として0が出力される。このように、オンイベント信号が0であり、オフイベント信号が0である場合には、転送部337から0が出力される。
【0134】
ここで、第2構成例における演算回路335の等価回路について説明する。図18は、第2構成例における演算回路335の等価回路例を示す図である。図18に示すように、論理積回路335cは、否定倫理積回路33d及びNot回路335iと等価である。量子化器334と論理和回路335aとの間にNot回路335e、335fを接続し、論理和回路335aと信号保持回路336との間にNot回路335g、335hを接続している。
【0135】
図19Aはドモルガンの定理による否定論理積回路の等価回路を示す図である。図19Aに示すように、否定論理積回路は、Not回路と論理和回路の組合せと等価である。
【0136】
図19Bはドモルガンの定理による否定論理和の等価回路を示す図である。図19Bに示すように、否定論理和は、Not回路と論理積回路の組合せと等価である。
【0137】
図20は、図18で示す演算回路335の等価回路例を示す図である。図18に示すように、Not回路335i、335fと論理和回路335aの組合せは、上述したように否定論理積回路と等価である。否定論理積回路にNot回路335gを更に組み合わせると論理積回路335jと等価となる。
【0138】
図21は、図20で示す演算回路335の等価回路例を示す図である。図21に示すように、図20で示す論理積回路335jとNot回路335hの組合せは、否定論理積回路335kと等価である。このように、回路状況に応じて演算回路335を様々な等価回路で構成してもよい。
【0139】
(演算回路及び信号保持回路の第3構成例)
図22は、アドレスイベント検出部33における演算回路335及び信号保持回路336の第3構成例を示す回路図である。第3構成例は第2モードの処理のみが可能な例である。
【0140】
本例に係る演算回路335は、論理和回路335aを有する。論理和回路335aの2入力端子の一方の入力端子は量子化器334の出力端子に接続され、他方の入力端子は信号保持回路336の出力端子に接続される。また、論理和回路335aの出力端子は、信号保持回路336に接続される。
【0141】
信号保持回路336の入力端子は、上述のように、論理和回路335aの出力端子に接続される。信号保持回路336の出力端子は、転送部337の出力端子に接続される。
【0142】
図23は、第3構成例における論理和回路335aの真理値表を示す図である。図23では、先ず時間t1で、量子化器334が、信号S1として、オンイベント信号を生成し、次に時間t2で、量子化器334が、信号S1として、オフイベント信号を生成する場合を示している。
【0143】
まず、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。制御回路338は、信号保持回路336の初期値を0に設定する。この場合、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が1であるので、1を出力する。このため、時間t1では信号保持回路336の値は1として保持される。
【0144】
続いて、オフイベント信号が入力される時間t2では、信号保持回路336の初期値である出力信号S4は1であるので、量子化器334の出力信号S1の値によらず論理和回路335aの出力信号S2は1となる。これにより、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が1であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0145】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が1である場合を説明する。制御回路338は、信号保持回路336の初期値を0に設定する。これにより、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が0であるので、0を出力する。このため、時間t1では信号保持回路336の値は0として保持される。
【0146】
続いて、オフイベント信号が入力される時間t2では、信号保持回路336の初期値である出力信号S4は0である。一方で、量子化器334の出力信号S1の値は1であるので、回路335aの出力信号S2は1となる。これにより、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が0であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0147】
次に、時間t1でのオンイベント信号(S1の欄を参照)が1であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。制御回路338は、信号保持回路336の初期値を0に設定する。これにより、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が1であるので、1を出力する。このため、時間t1では信号保持回路336の値は1として保持される。
【0148】
続いて、オフイベント信号が入力される時間t2では、信号保持回路336の初期値である出力信号S4は1である。一方で、量子化器334の出力信号S1の値は0であるので、論理和回路335aの出力信号S2は1となる。これにより、信号保持回路336の出力信号S4は、時間t2では1として保持される。そして、転送部317からはイベント信号として1が出力される。このように、オンイベント信号が0であり、オフイベント信号が1である場合には、転送部337から1が出力される。
【0149】
次に、時間t1でのオンイベント信号(S1の欄を参照)が0であり、時間t2でのオフイベント信号(S1の欄を参照)が0である場合を説明する。制御回路338は、信号保持回路336の初期値を0に設定する。これにより、論理和回路335aの出力信号S2は、量子化器334の出力信号S1が0であるので、0を出力する。このため、時間t1では信号保持回路336の値は0として保持される。
【0150】
続いて、オフイベント信号が入力される時間t2では、信号保持回路336の初期値である出力信号S4は0である。一方で、量子化器334の出力信号S1の値は0であるので、論理和回路335aの出力信号S2は0となる。これにより、信号保持回路336の出力信号S4は、時間t2では0として保持される。そして、転送部317からはイベント信号として0が出力される。このように、オンイベント信号が0であり、オフイベント信号が0である場合には、転送部337から0が出力される。
【0151】
以上説明したように、本実施形態によれば、信号保持回路336は、オンイベント信号及びオフイベント信号のうちの最初に供給された信号の値を保持し、演算回路335は、オンイベント信号及びオフイベント信号のうちの次に供給された信号の値と、信号保持回路336が保持する最初に供給された信号の値との内の一方が真値であれば、真値を示す信号を信号保持回路336に供給し、両方とも偽値であれば偽値を示す信号を信号保持回路336に供給することとした。これにより、オンイベント信号及びオフイベント信号に対応する信号保持回路336が1つであっても、一回の読み出しでイベント信号を出力することが可能となる。
【0152】
(第2実施形態)
第2実施形態に係る撮像装置100は、カラム処理部が量子化器334、演算回路335、及び信号保持回路336を備える点で、第1実施形態に係る撮像装置100と相違する。以下では、第1実施形態に係る撮像装置100と相違する点に関して説明する。
【0153】
図24は、第2実施形態に係る画素アレイ部21の構成の一例を示すブロック図である。図24に示すように、複数の画素30aのそれぞれは、受光部31、画素信号生成部32、及び、検出部33aを有する構成となっている。第1実施形態に係る画素アレイ部21の画素30の構成とは、アドレスイベント検出部33(図3参照)の替わりに検出部33aを有する点で相違する。
【0154】
図25は、第2実施形態に係る検出部33aの構成の一例を示すブロック図である。図25に示すように、検出部33aは、電流電圧変換部331、バッファ332、及び減算器333を有する。すなわち、量子化器334、演算回路335、信号保持回路336、転送部337、及び、制御回路338を有さない点でアドレスイベント検出部33(図3参照)と相違する。
【0155】
図26は、第2実施形態に係る画素アレイ部21とカラム処理部26の構成の一例を示すブロック図である。図26に示すように、画素アレイ部21内に列状に配置される複数の画素30aそれぞれに対して、共通に量子化器334、演算回路335、信号保持回路336、転送部337、及び、制御回路338が設けられている。このような構成により、第2実施形態に係るカラム処理部26は、列状に配置される複数画素30aの減算器333それぞれから順に供給されるレベル低下後の電圧信号を量子化器334に供給する。演算回路335は、量子化器334から順に供給されるオンイベント信号及びオフイベント信号に基づく論理演算を行い、イベント信号を順に生成する。
【0156】
以上説明したように、本実施形態によれば、列状に配置される複数画素30aに対して、共通に量子化器334、演算回路335、信号保持回路336、転送部337、及び、制御回路338を構成することとした。これにより、撮像装置100の回路構成の規模をより抑制することが可能となる。
【0157】
(第3実施形態)
第3実施形態に係る撮像装置100は、画素ブロック毎に量子化器334、及び演算回路335を備える点で、第1実施形態に係る撮像装置100と相違する。以下では、第1実施形態に係る撮像装置100と相違する点に関して説明する。
【0158】
図27は、第3実施形態に係る画素アレイ部21の構成の一例を示すブロック図である。図27に示すように画素アレイ部21は、複数の画素ブロック300aを有する。画素ブロック300aは、二次元の行列状に複数の画素30a(図25参照)が配置される。
【0159】
図28は、画素ブロック300aに対する演算回路335の構成の一例を示すブロック図である。図28に示すように、画素ブロック300aには、N個の画素30a(図25参照)が二次元の行列状に配置される。また、画素ブロック300aには、1つの量子化器334が接続され、更に量子化器334には1つの演算回路335が接続される。演算回路335は、論理和回路335aと、マルチプレクサ335kと、N個の論理積回路335Lを有する。また、論理和回路335aには、N個の信号保持回路336が接続される。更に、N個の信号保持回路336それぞれには対応するN個の転送部337が接続される。
【0160】
このような構成により、画素ブロック300a内に行列状に配置される複数画素30aの減算器333それぞれから順に供給されるレベル低下後の電圧信号を量子化器334に供給する。制御回路338は、1番目の画素30aから電圧信号が供給される際に、まずオンイベント信号を量子化器334に生成させ、全ての制御入力E1~ENを0とする。これにより、1番目の画素30aに対応する信号保持回路336に、1番目の画素30aに対応するオンイベント信号の値を記憶させる。
【0161】
次に、制御回路338は、1番目の画素30aから電圧信号が供給される際に、オフイベント信号を量子化器334に生成させ、制御入力E1を1とし、残りの全ての制御入力E2~ENを0とする。これにより、論理和回路335aは、オンイベント信号及びオフイベント信号のうちの次に供給された信号の値と、信号保持回路336が保持する最初に供給された信号の値との内の一方が真値であれば、真値示す信号を対応する信号保持回路336に供給し、両方とも偽値であれば偽値を示す信号を対応する信号保持回路336に供給する。
【0162】
同様に、制御回路338は、N番目の画素30aから電圧信号が供給される際に、まずオンイベント信号を量子化器334に生成させ、全ての制御入力E1~ENを0とする。これにより、N番目の画素30aに対応する信号保持回路336に、N番目の画素30aに対応するオンイベント信号の値を記憶させる。
【0163】
次に、制御回路338は、N番目の画素30aから電圧信号が供給される際に、オフイベント信号を量子化器334に生成させ、制御入力ENを1とし、残りの全ての制御入力E1~EN-1を0とする。これにより、論理和回路335aは、オンイベント信号及びオフイベント信号のうちの次に供給された信号の値と、信号保持回路336が保持する最初に供給された信号の値との内の一方が真値であれば、真値示す信号をN番目の画素30aに対応する信号保持回路336に供給し、両方とも偽値であれば偽値を示す信号をN番目の画素30aに対応する信号保持回路336に供給する。このような処理により、N番目の画素30aに対応するイベント信号を生成し、対応する信号保持回路336に保持される。このような処理を1番目の画素30aからN番目の画素30aまで、順に行うことにより、1番目からN番目の画素30a対応するイベント信号をそれぞれ、対応する保持回路336に保持できる。これにより、信号保持回路336に対応する転送部337は、一度の読み出しで、イベント信号を出力可能となる。
【0164】
以上説明したように、行列状に配置される複数画素30aに対して、共通に量子化器334、演算回路335を構成することとした。これにより、本実施形態によれば、第1実施形態に係る撮像装置100と同等の効果を有すると共に、撮像装置100の回路構成の規模をより抑制することが可能となる。
【0165】
<本開示に係る技術の適用例>
本開示に係る技術は、様々な製品に適用することができる。以下に、より具体的な適用例について説明する。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される測距装置として実現されてもよい。
【0166】
[移動体]
図29は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図29に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
【0167】
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図27では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
【0168】
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
【0169】
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
【0170】
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0171】
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
【0172】
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
【0173】
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
【0174】
ここで、図30は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910、7912、7914、7916、7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912、7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0175】
なお、図30には、それぞれの撮像部7910、7912、7914、7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b、cは、それぞれサイドミラーに設けられた撮像部7912、7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910、7912、7914、7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
【0176】
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920、7922、7924、7926、7928、7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920、7926、7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
【0177】
図29に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
【0178】
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
【0179】
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
【0180】
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
【0181】
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
【0182】
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(登録商標)(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
【0183】
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
【0184】
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
【0185】
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
【0186】
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インターフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
【0187】
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインターフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
【0188】
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
【0189】
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
【0190】
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図29の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
【0191】
なお、図29に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
【0192】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部7910、7912、7914、7916、7918や、車外情報検出部7920、7922、7924、7926、7928、7930や、運転者状態検出部7510等に適用され得る。具体的には、これらの撮像部や検出部に対して、本開示の撮像装置を有する図1の撮像システム10を適用することができる。そして、本開示に係る技術を適用することにより、センサノイズ等のノイズイベントの影響を緩和し、真イベントの発生を確実に、かつ、迅速に感知することができるため、安全な車両走行を実現することが可能となる。
【0193】
なお、本技術は以下のような構成を取ることができる。
【0194】
(1)輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を保持するする信号保持回路と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算回路と、
を備える、撮像装置。
【0195】
(2)前記演算回路は、前記信号保持回路に前記イベント信号を保持し、
前記信号保持回路に保持された前記イベント信号を転送する転送部を、
更に備える、(1)に記載の撮像装置。
【0196】
(3) 前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号及び前記第2イベント信号を順に前記信号保持回路に出力する第1モードを有する、(1)又は(2)に記載の撮像装置。
【0197】
(4)前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
制御信号の入力に応じて前記第1イベント信号を前記信号保持回路に出力し、前記信号保持回路に保持された前記第1イベント信号と前記第2イベント信号とに基づき前記イベント信号を生成する第2モードを有する、(1)乃至(3)のいずれかに記載の撮像装置。
【0198】
(5)前記第1イベント信号及び前記第2イベント信号は、真値及び偽値の少なくともいずれかの情報を含む信号であり、
前記演算回路は、論理和回路を有し、前記第1イベント信号及び前記第2イベント信号の論理和演算を行う、(1)乃至(4)のいずれかに記載の撮像装置。
【0199】
(6)前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記演算回路は、前記論理和回路と、マルチプレクサとを有し、
前記マルチプレクサは、制御信号に応じて前記第1イベント信号を前記信号保持回路に出力し、
前記論理和回路は、記信号保持回路に保持された前記第1イベント信号と、前記第2イベント信号との論理和演算を行う、(5)に記載の撮像装置。
【0200】
(7)前記マルチプレクサは、前制御信号に応じて前理和演算の結果を前記信号保持回路に出力する、(6)に記載の撮像装置。
【0201】
(8) 前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記信号保持回路には偽値が初期設定され、
前記論理和回路は、前記偽値と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、次に保持した論理和演算の結果と前記第2イベント信号との論理和演算を行う、(5)に記載の撮像装置。
【0202】
(9)前記演算回路は、論理積回路を更に有する、(5)に記載の撮像装置。
【0203】
(10)前記演算回路には、前記第1イベント信号及び前記第2イベント信号が順に入力され、
前記論理積回路の一端には偽値が設定され、
前記論理和回路は、前記前記論理積回路の出力信号と前記第1イベント信号の論理和演算を前記信号保持回路に保持し、
次に、前記論理積回路の前記一端には真値が設定され、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号とが前記論理和回路に入力され、
前記論理和回路は、前記保持した論理和演算の結果と前記真値の論理積の結果と、前記第2イベント信号との論理和演算を行う、(9)に記載の撮像装置。
【0204】
(11) 前記演算回路は、前記論理和回路及び前記論理積回路の少なくとも一方の等価回路で構成される(9)に記載の撮像装置。
【0205】
(12)同一の画素内には、
前記輝度に応じた信号を出力する光電変換素子と、
前記信号を対数変換する電流電圧変換部と、
前記電流電圧変換部で対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を生成する差分回路と、が構成される、(1)乃至(11)のいずれかに記載の撮像装置。
【0206】
(13) 前記同一の画素内には、
前記信号保持回路と、前記演算回路が更に構成される、(12)に記載の撮像装置。
【0207】
(14)輝度に応じた信号を出力する光電変換部と、前記信号を対数変換する電流電圧変換部と、を有する複数の画素と、
前記電流電圧変換部それぞれで対数変換した信号に基づき、前記第1イベント信号及び前記第2イベント信号を順に生成する差分回路と、
前記複数の画素にそれぞれ対応する複数の前記信号保持回路と、
前記複数の前記信号保持回路、及び前記演算回路は、前記順に生成される前記第1イベント信号及び前記第2イベント信号に対して処理を行う、(1)乃至(11)のいずれかに記載の撮像装置。
【0208】
(15)輝度に基づく輝度信号が第1閾値を超えたか否かを示す第1イベント信号を信号保持回路に保持するする信号保持工程と、
前記輝度信号が前記第1閾値と異なる第2閾値を超えたか否かを示す第2イベント信号と、前記信号保持回路に保持される前記第1イベント信号とに基づき、前記輝度信号が前記第1閾値及び前記第2閾値の少なくとも一方を超えたか否かを示すイベント信号を生成する演算処理工程と、
を備える、撮像方法。
【0209】
本開示の態様は、上述した個々の実施形態に限定されるものではなく、当業者が想到しうる種々の変形も含むものであり、本開示の効果も上述した内容に限定されない。すなわち、特許請求の範囲に規定された内容およびその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
【符号の説明】
【0210】
30:画素アレイ部、31:受光部(光電変換素子)、100:撮像装置、331:電流電圧変換部(対数変換回路)、334:量子化器(差分回路)、335:演算回路、335a: 演算回路、335b:マルチプレクサ、335c:論理積回路、336:信号保持回路、337:転送部、338:制御回路。
図1
図2
図3
図4
図5
図6A
図6B
図6C
図6D
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19A
図19B
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30