(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-02
(45)【発行日】2023-10-11
(54)【発明の名称】センサ
(51)【国際特許分類】
H04N 25/707 20230101AFI20231003BHJP
H04N 25/50 20230101ALI20231003BHJP
H04N 23/60 20230101ALI20231003BHJP
H04N 23/54 20230101ALI20231003BHJP
G03B 7/093 20210101ALI20231003BHJP
【FI】
H04N25/707
H04N25/50
H04N23/60
H04N23/54
G03B7/093
(21)【出願番号】P 2022133813
(22)【出願日】2022-08-25
(62)【分割の表示】P 2020505611の分割
【原出願日】2019-01-09
【審査請求日】2022-09-22
(31)【優先権主張番号】P 2018047968
(32)【優先日】2018-03-15
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】米持 元
【審査官】鈴木 明
(56)【参考文献】
【文献】特開2018-22935(JP,A)
【文献】特開2006-197192(JP,A)
【文献】国際公開第2017/013806(WO,A1)
【文献】国際公開第2014/007004(WO,A1)
【文献】特開2017-038174(JP,A)
【文献】国際公開第2017/098725(WO,A1)
【文献】特表2010-510732(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/00-25/79
H04N 23/00-23/959
G03B 7/093
(57)【特許請求の範囲】
【請求項1】
光を電荷に変換する第1光電変換素子と、光を電荷に変換する第2光電変換素子とを含む画素を有する第1の基板と、
前記第1光電変換素子で変換された電荷により生成される第1信号に基づいて、イベントを検出するイベント検出部と、前記イベント検出部の検出結果に基づいて、前記第2光電変換素子の露光条件を制御する制御部とを含む処理部を有する第2の基板と
を備えるセンサ。
【請求項2】
請求項1に記載のセンサにおいて、
前記画素は、前記第1の基板において第1方向と前記第1方向に交差する第2方向とに並んで配置され、
前記処理部は、前記第2の基板において前記第1方向と前記第2方向とに並んで配置されるセンサ。
【請求項3】
請求項1または請求項2に記載のセンサにおいて、
前記処理部は、前記第2光電変換素子で変換された電荷により生成される第2信号をデジタル信号に変換する変換部を有するセンサ。
【請求項4】
請求項3に記載のセンサにおいて、
前記制御部は、前記イベント検出部の検出結果に基づいて、前記変換部の分解能を制御するセンサ。
【請求項5】
請求項3または請求項4に記載のセンサにおいて、
前記変換部でデジタル信号に変換された前記第2信号を保持する保持部を有する第3の基板を備えるセンサ。
【請求項6】
請求項5に記載のセンサにおいて、
前記保持部は、前記露光条件に関するデータを保持するセンサ。
【請求項7】
請求項3から請求項6のいずれか一項に記載のセンサにおいて、
前記第2信号を増幅する増幅器を備え、
前記制御部は、前記イベント検出部の検出結果に基づいて、前記増幅器のゲインを制御するセンサ。
【請求項8】
請求項1または請求項2に記載のセンサにおいて、
前記第2光電変換素子で変換された電荷により生成される第2信号を増幅する増幅器を備え、
前記制御部は、前記イベント検出部の検出結果に基づいて、前記増幅器のゲインを制御するセンサ。
【請求項9】
請求項1または請求項2に記載のセンサにおいて、
前記処理部は、前記イベント検出部のイベント検出回数をカウントするカウント部を有し、
前記制御部は、前記カウント部のカウント結果に基づいて、前記第2光電変換素子の露光条件を制御するセンサ。
【請求項10】
請求項9に記載のセンサにおいて、
前記処理部は、前記第2光電変換素子で変換された電荷により生成される第2信号をデジタル信号に変換する変換部を有するセンサ。
【請求項11】
請求項10に記載のセンサにおいて、
前記制御部は、前記カウント部のカウント結果に基づいて、前記変換部の分解能を制御するセンサ。
【請求項12】
請求項10または請求項11に記載のセンサにおいて、
前記変換部でデジタル信号に変換された前記第2信号を保持する保持部を有する第3の基板を備えるセンサ。
【請求項13】
請求項12に記載のセンサにおいて、
前記保持部は、前記露光条件に関するデータを保持するセンサ。
【請求項14】
請求項10から請求項13のいずれか一項に記載のセンサにおいて、
前記第2信号を増幅する増幅器を備え、
前記制御部は、前記カウント部のカウント結果に基づいて、前記増幅器のゲインを制御するセンサ。
【請求項15】
請求項9に記載のセンサにおいて、
前記第2光電変換素子で変換された電荷により生成される第2信号を増幅する増幅器を備え、
前記制御部は、前記カウント部のカウント結果に基づいて、前記増幅器のゲインを制御するセンサ。
【請求項16】
請求項1から請求項15のいずれか一項に記載のセンサにおいて、
前記制御部は、前記露光条件として前記第2光電変換素子の露光時間を制御するセンサ。
【請求項17】
請求項1から請求項15のいずれか一項に記載のセンサにおいて、
前記制御部は、前記露光条件として前記第2光電変換素子で変換された電荷の蓄積時間を制御するセンサ。
【請求項18】
請求項1から請求項17のいずれか一項に記載のセンサにおいて、
前記第1の基板は、前記第2の基板により積層されるセンサ。
【請求項19】
請求項18に記載のセンサにおいて、
前記画素は、前記第1の基板と前記第2の基板とが積層される積層方向において、前記処理部と対向するように配置されるセンサ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、センサに関する。
【背景技術】
【0002】
従来、AD変換部を備える撮像装置が知られている(例えば、特許文献1参照)。
特許文献1 特表2008-259107号公報
【発明の概要】
【0003】
撮像装置のデータ量を削減することが好ましい。
【0004】
本発明の第1の態様においては、光を電荷に変換する第1光電変換素子と、光を電荷に変換する第2光電変換素子とを含む画素を有する第1の基板と、前記第1光電変換素子で変換された電荷により生成される第1信号に基づいて、イベントを検出するイベント検出部と、前記イベント検出部の検出結果に基づいて、前記第2光電変換素子の露光条件を制御する制御部とを含む処理部を有する第2の基板とを備えるセンサを提供する。
【0007】
なお、上記の発明の概要は、本発明の特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【0008】
【
図2】実施例に係る制御装置100のイベントパルスのカウント方法の一例を示す。
【
図4】比較例に係るセンサ500のADC分解能の決定方法の一例を示す。
【
図5】制御装置100の動作のフローチャートの一例を示す。
【
図6】制御装置100の動作のフローチャートの一例を示す。
【
図7】センサ300のより具体的な構成の一例を示す。
【
図8】撮像制御部30のより具体的な構成の一例を示す。
【
図9】本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の例を示す。
【発明を実施するための形態】
【0009】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0010】
図1は、センサ300の構成の概要を示す。本例のセンサ300は、画素部10および制御装置100を備える。本例のセンサ300は、一定以上に輝度変化があった部分から画素信号を出力するセンサであり、イベント駆動型センサともいう。
【0011】
画素部10は、1又は複数の画素11を備える。本例の画素部10は、2次元状に配列された複数の画素11を備える。本例の画素部10は、M×N個(M,Nは、自然数)の画素11を有する。画素11は、少なくとも1つの光電変換素子を有する。これにより、画素部10は、画素信号を出力する。1つの画素11に2つ以上の光電変換素子を有する場合、少なくとも1つの光電変換素子は、光電流をイベント検出用の画素信号として出力し、残りの光電変換素子は、蓄積された電荷を画素信号として出力する。また、1つの画素11に1つの光電変換素子を有する場合、後述する画素ブロック12内において、少なくとも1つの画素11に対応する光電変換素子が、光電流をイベント検出用の画素信号として出力し、残りの画素11に対応する光電変換素子が、蓄積された電荷を画素信号として出力する。
【0012】
また、画素部10は、1又は複数の画素11で構成された画素ブロック12を含む。画素ブロック12は、m×n個(m,nは、自然数)の画素11を含む領域である。
【0013】
制御装置100は、センサ300の撮像条件を制御する。一例において、制御装置100は、入力された画素信号に応じて、センサ300の撮像条件を制御する制御回路である。制御装置100は、イベント検出部20と、撮像制御部30と、パルスカウント部40と、AD変換部50と、記憶部60とを備える。
【0014】
イベント検出部20は、画素部10が出力した画素信号に基づいてイベントを検出する。画素部10の画素信号には、1又は複数の画素11が検出した光電流の輝度信号Sが含まれる。一例において、イベント検出部20は、輝度信号Sと、予め定められたイベント検出閾値との比較に基づいてイベントを検出する。
【0015】
ここで、イベント検出部20は、イベント検出閾値として、輝度信号Sの絶対値を用いてもよく、輝度信号Sの変化量を用いてもよい。例えば、輝度信号Sの絶対値を用いる場合、所定の輝度値ごとに複数のイベント検出閾値が設けられており、イベント検出部20は、輝度信号Sがイベント検出閾値を超えた場合にイベントが生じたと判定する。また、輝度信号Sの変化量を用いる場合、イベント検出部20は、輝度信号Sの変化量がイベント検出閾値を超えた場合にイベントが生じたと判定する。このように、イベントとは、イベント検出閾値を超える程度の輝度信号Sの変化があったことを指す。イベント検出部20は、イベント検出を撮像制御部30およびパルスカウント部40に伝えるためのイベント検出信号Sdを生成する。
【0016】
イベント検出信号Sdは、イベントが発生したか否かを判断するためのイベントパルスを含む信号である。イベント検出部20は、生成したイベント検出信号Sdを撮像制御部30およびパルスカウント部40に出力する。なお、本例のイベント検出部20は、制御装置100に設けられているが、画素部10に設けられてもよい。
【0017】
撮像制御部30は、イベント検出信号Sdに基づいて、センサ300の撮像条件を制御する。一例において、撮像制御部30は、イベント検出信号Sdのイベントパルスの発生数に基づいて撮像条件を制御する。なお、撮像制御部30は、イベント検出信号Sdに基づいて、画素11に蓄積された電荷をリセットするためのリセット信号RSTを画素部10に出力してもよい。画素部10は、リセット信号RSTが入力されると、光電変換素子への電荷の蓄積をリセットして、新たに電荷の蓄積(即ち、撮像)を開始する。
【0018】
撮像条件は、センサ300のADC分解能、露光時間および増幅器のゲインの少なくとも1つを含む。即ち、撮像制御部30は、イベント検出信号Sdに基づいて、センサ300のADC分解能、露光時間および増幅器のゲインの少なくとも1つを制御する。一例において、撮像制御部30は、イベント検出信号Sdのイベントパルスの発生数に基づいて、AD変換部50のADC分解能を制御する。なお、ADC分解能の変更は、単一の画素11ごとに実行されてよい。この場合、制御装置100は、各画素11を非同期で駆動させることができる。
【0019】
パルスカウント部40は、イベント検出信号Sdに基づいてイベントパルスをカウントし、カウント値Ncを生成する。パルスカウント部40は、生成したカウント値Ncを撮像制御部30に出力する。カウント値Ncには、アップカウントおよびダウンカウントが含まれてよい。カウント値Ncは、アップカウントおよびダウンカウントの累積値であってもよいし、アップカウントのみの積算値であってもよい。なお、アップカウントは、イベント検出信号Sdがイベント検出閾値を超えた場合に生成される。一方、ダウンカウントは、イベント検出信号Sdがイベント検出閾値を下回った場合に生成される。
【0020】
AD変換部50は、画素部10が出力した画素信号をAD変換する。本例のAD変換部50は、撮像制御部30が出力したADC分解能で動作する。AD変換部50は、1又は複数の画素11ごとや、ブロック12ごとに異なるADC分解能を用いてAD変換を実行してもよい。AD変換部50は、変換したデジタル信号を記憶部60に出力する。このように、本例では、画素11に含まれる光電変換素子で発生した光電流による輝度信号Sは、AD変換部50を介さずにイベント検出部20に入力されるとともに、他の光電変換素子で蓄積された電荷による画素信号は、AD変換部50に入力される。よって、イベントの検出を迅速に行えるだけでなく、輝度変化の大きい画素11の画素信号だけをAD変換することで低消費電力を実現できる。
【0021】
記憶部60は、AD変換部50からのデジタル信号を記憶する。一例において、記憶部60は、過去のフレームのメモリー値をフィードバック信号FBとして、撮像制御部30に出力する。この場合、撮像制御部30は、パルスカウント部40からのカウント値Ncおよび記憶部60からのフィードバック信号FBに基づいて、撮像条件を制御してよい。これにより、制御装置100は、AD変換部50の過去の出力信号に基づいて、撮像条件を制御することができる。
【0022】
ここで、撮像制御部30による撮像条件の制御方法について説明する。撮像制御部30は、パルスカウント部40が出力したカウント値Ncに基づいて、イベントパルスをカウントし、撮像条件を制御する。
【0023】
一例において、撮像制御部30は、現在のカウント値Ncと、過去のカウント値Ncを累積したパルス累積値とに基づいて、撮像条件を制御する。この場合、撮像制御部30は、過去のカウント値Ncを累積したパルス累積値を保持する。そして、撮像制御部30は、保持したパルス累積値を読出し、現在のカウント値Ncを加えた累積数を用いて、撮像条件を決定する。なお、撮像制御部30は、カウント値Ncの累積に関し、カウント値Ncのプラスおよびマイナスを考慮してよい。つまり、撮像制御部30は、プラスのカウント値Ncを、マイナスのカウント値Ncで相殺する。1カウントあたりの輝度値が予め定められているので、累積したカウント値を用いることで現在のカウント値Ncに対応する輝度値が求められる。
【0024】
また、他の例において、撮像制御部30は、現在の輝度値と、記憶部60に記憶された過去の輝度値とに基づいて、撮像条件を制御する。この場合、記憶部60は、過去にAD変換部50から読み出した輝度値を保持する。一例において、撮像制御部30は、前回のイベントの検出に対応してセンサ300が出力した輝度値と、新たなイベントの検出によりイベント検出部20が出力したイベントパルスとに基づいて、撮像条件を制御する。例えば、撮像制御部30は、記憶部60に保存した輝度値に、現在の1パルスあたりの輝度値を加減することにより、現在の輝度値を算出する。撮像制御部30は、算出した現在の輝度値に基づいて、撮像条件を制御する。
【0025】
以上の通り、制御装置100は、過去のイベントの輝度信号Sおよび撮像中のパルスカウント値Ncの両方に基づいて、現在のイベントの撮像条件を制御してよい。これにより、現在のイベントの環境が過去のイベントの環境から急激に変化した場合であっても、環境の変化に追従して撮像条件を更新することができる。なお、制御装置100は、撮像中のパルスカウント値Ncのみに基づいて、現在のイベントの撮像条件を制御してもよい。
【0026】
本例の制御装置100は、イベントの検出に応じて、ADC分解能を変更することにより、輝度値に対して必要十分な分解能でAD変換することができる。そのため、不要なビットの出力を制限することができ、データ量を圧縮することができる。また、制御装置100は、データ量を圧縮することにより、消費電力を低減できる。制御装置100は、ADC分解能を最適に調整することにより、高ダイナミックレンジを実現できる。
【0027】
図2は、実施例に係る制御装置100のイベントパルスのカウント方法の一例を示す。縦軸は輝度信号Sを示し、横軸は時刻Tを示す。本例では、イベントの検出のために輝度信号Sが用いられるが、その他の信号を用いてイベントを検出してもよい。
【0028】
イベント検出部20は、輝度信号Sの変化に応じて、イベントパルスを生成する。一例において、イベント検出部20は、1又は複数の閾値を設定し、輝度信号Sが当該閾値を超えた場合にイベントパルスを生成する。本例のイベント検出部20は、閾値Sth1~閾値Sth5を設定し、輝度信号Sが閾値Sth1~閾値Sth5となった場合にイベントパルスを生成する。即ち、イベント検出部20は、輝度信号Sが閾値Sth1~閾値Sth5のいずれかを超えて増減した場合にイベントパルスを生成する。閾値Sth1~閾値Sth5は、イベント検出閾値の一例である。
【0029】
例えば、イベント検出部20は、閾値Sth1~閾値Sth5のいずれかを超えた場合に、アップカウントのイベントパルスを生成する。一方、イベント検出部20は、閾値Sth1~閾値Sth5のいずれかを下回った場合に、ダウンカウントのイベントパルスを生成する。なお、本例の閾値Sth1~閾値Sth5は、等間隔で設定されているが、等間隔でなくてもよい。
【0030】
パルスカウント部40は、イベント検出部20が生成したイベントパルスをカウントしたカウント値Ncを生成する。パルスカウント部40は、アップカウントおよびダウンカウントの少なくとも一方をカウントする。例えば、パルスカウント部40は、アップカウントとダウンカウントのプラスマイナスを考慮して累積する。これにより、輝度信号Sが予め定められた値だけ増減したか否かを検出することができる。本例では、撮像制御部30は、パルスカウント部40のカウント値Ncが「±3」に達したときに撮像条件を変更する。なお、カウント値Ncの判断基準は、±3以外の値であってもよい。
【0031】
イベントE1~イベントE7は、所定の期間において生成されたイベントパルスを示す。なお、撮像制御部30は、イベントの発生毎にリセット信号RSTを画素部10へ出力して、撮像を開始しても良い。
【0032】
イベントE1では、アップカウントのイベントパルスが生成されている。即ち、イベントE1において、閾値Sth1~閾値Sth5のいずれかを1回超えたことを示す。本例では、1回のアップカウントのイベントパルスの検出により、パルスカウント部40のカウント値Ncが+1となった場合、撮像条件を変更しない。
【0033】
イベントE2では、ダウンカウントのイベントパルスが生成されている。即ち、イベントE2において、閾値Sth1~閾値Sth5のいずれかを1回下回ったことを示す。本例では、1回のダウンカウントのイベントパルスの検出により、パルスカウント部40のカウント値Ncが-1となった場合、撮像条件を変更しない。
【0034】
イベントE3~E5では、アップカウントのイベントパルスが3つ生成されている。即ち、イベントE3~E5が、閾値Sth1~閾値Sth5のいずれかを3回超えたことにより、パルスカウント部40のカウント値Ncが+3となる。撮像制御部30は、パルスカウント部40のカウント値Ncが+3に達したため、撮像対象の明るさが所定以上に大きく変化したと判断し、撮像条件を変更する。例えば、撮像制御部30は、パルスカウント部40のカウント値Ncが+3以上となった場合に、ADC分解能を低くする。
【0035】
より詳細には、パルスカウント部40のカウント値Ncが+n(nは予め定められた整数)を上回ったときに、予め定められた下位ビットを用いずにAD変換してもよい。撮像対象が明るい場合、下位ビットの出力はノイズに埋もれてしまうため、センサ300が検出する輝度範囲の分解能を下げても得られる画素信号に影響はほぼない。予め定められた下位ビットは、例えば、最下位から2桁のビットである。
【0036】
一方、パルスカウント部40のカウント値Ncが-nを下回ったときに、予め定められた上位ビットを用いずにAD変換してもよい。撮像対象が暗い場合、上位のビットは0となりそもそも不要である。そのため、上位ビットを使用しなくても得られる画素信号に影響はない。予め定められた上位ビットは、例えば、最上位から2桁のビットである。
【0037】
本例の制御装置100は、輝度信号Sの変化に応じたイベントの検出により、撮像条件を制御する。これにより、制御装置100は、輝度信号Sの高速な変化に対応して、撮像条件を更新することができる。
【0038】
図3は、比較例に係るセンサ500の構成を示す。本例のセンサ500は、画素部510と、撮像制御部530と、AD変換部550と、記憶部560とを備える。
【0039】
センサ500は、画素部510が出力した画素信号に基づいて、AD変換部550のADC分解能を決定する。センサ500は、決定されたADC分解能を記憶部560に記憶してよい。
【0040】
記憶部560は、過去のフレームの撮像情報をフィードバック信号FBとして撮像制御部530に出力する。撮像制御部530は、過去の撮像条件をAD変換部550に出力する。そして、AD変換部550は、過去の撮像条件と、画素部510からの画素信号とに基づいてADC分解能を制御する。
【0041】
図4は、比較例に係るセンサ500のADC分解能の決定方法の一例を示す。本例のセンサ500は、輝度信号Sと輝度閾値Sthとの比較に基づいて、ADC分解能を設定する。
【0042】
センサ500は、予め定められた長さのフレーム単位でADC分解能を設定する。即ち、センサ500は、フレーム毎に輝度信号Sと輝度閾値Sthとを比較する。例えば、センサ500は、輝度信号Sが輝度閾値Sthよりも小さい場合に、下位ビットのみAD変換し、輝度信号Sが輝度閾値Sthよりも大きい場合に、上位ビットのみAD変換する。言い換えると、輝度信号Sが輝度閾値Sthよりも小さい場合、上位ビットのAD変換は不要であり、輝度信号Sが輝度閾値Sthよりも大きい場合、下位ビットのAD変換は不要である。
【0043】
センサ500は、過去のフレームの輝度信号に基づいて、現在のフレームのADC分解能を算出する。例えば、センサ500は、過去のフレームであるフレームF1およびフレームF2の少なくとも1つのデータに基づいて、現在のフレームであるフレームF3のADC分解能を設定する。そのため、過去のフレームと現在のフレームとで輝度信号Sが急激に増加しADC分解能が切り替わる場合、適切なADC分解能を設定することが困難である。本例のセンサ500は、過去のフレームで下位ビットのAD変換が設定されているので、現在のフレームで上位ビットAD変換を選択すべき場合であっても、過去フレームのデータからは現在のフレームの明るさが推定できないため、下位ビットのみのAD変換を行ってしまう。
【0044】
このように、センサ500は、過去のフレームに基づいて現フレームのADC分解能を調整するので、現在のフレームの環境が、過去のフレームの環境から急激に変化した場合に、環境の変化に追従して撮像条件を最適に更新することが困難である。つまり、イベントに基づく撮像条件の制御が、撮像フレームに影響されてしまう。
【0045】
一方、制御装置100では、輝度信号Sの変化をイベントパルスのカウント数として取得し撮像条件を制御する。そのため、制御装置100は、過去の撮像フレームからではなく、輝度信号Sの変化に追従して、迅速に撮像条件を制御することができる。
【0046】
図5は、制御装置100の動作のフローチャートの一例を示す。制御装置100は、本例のフローチャートを用いて、センサ300の撮像条件を制御してよい。本例のフローチャートでは、イベントパルスの生成毎に画素11をリセットする。
【0047】
制御装置100は、画素11が出力した輝度信号Sをモニターする(S100)。制御装置100は、輝度信号Sが予め定められたイベント検出閾値以上に変化したか否かを判定する(S102)。具体的には、イベント検出部20が、1又は複数の画素11において、イベント検出閾値を超えて輝度信号Sが変化するイベントを検出する。制御装置100は、輝度信号Sがイベント検出閾値以上に変化しない場合、輝度信号Sのモニターを続ける(S100)。一方、制御装置100は、輝度信号Sがイベント検出閾値以上に変化する場合、イベントパルスを生成してパルスカウント部40へ出力する(S104)。
【0048】
そして、撮像制御部30は、イベント検出部20からのイベントパルスをカウントする(S106)。撮像制御部30は、イベントの検出に基づいて、センサ300の撮像条件を制御する(S108)。例えば、撮像制御部30は、パルスカウント部40が算出したカウンタ値Ncが予め設定された基準に達すると、そのカウンタ値Ncに基づいて撮像条件を制御する。撮像制御部30が制御する撮像条件は、センサ300のADC分解能、露光時間および増幅器のゲインのいずれであってもよい。制御装置100は、画素11に蓄積された電荷をリセットする(S110)。制御装置100は、撮像条件を制御した後にセンサ300による露光を開始させる(S112)。即ち、本例の制御装置100は、撮像制御部30が撮像条件を更新した後に露光を開始する。ステップS108において露光時間および増幅器のゲインの少なくとも1つが更新されている場合、更新した撮像条件が用いられる。
【0049】
本例の撮像制御部30は、露光期間中にイベント検出部20がイベントを検出した場合、撮像条件を再度制御し、1又は複数の画素11をリセットしてセンサ300による露光を再度開始させる。例えば、露光期間中にイベントが発生した場合(S114)、イベント検出部20によるイベントパルスの生成を開始する(S104)。一方、露光期間中にイベントが発生しない場合(S114)、制御装置100は、露光を終了する(S116)。
【0050】
露光終了後、AD変換部50は、画素部10が出力した画素信号をAD変換する(S118)。ここで、ステップS108において、撮像制御部30が撮像条件としてADC分解能を更新している場合、更新した撮像条件に基づいて、画素信号をAD変換する。その後、記憶部60は、変換したデジタル信号を記憶し、記憶したデジタル信号を外部に出力してもよい(S120)。
【0051】
図6は、制御装置100の動作のフローチャートの一例を示す。制御装置100は、本例のフローチャートを用いて、センサ300の撮像条件を制御してよい。本例のフローチャートは、撮像条件を算出してから露光を開始するまでの間に画素11をリセットしていない点で、
図5に係るフローチャートと相違する。即ち、本例の制御装置100は、画素11を一度リセットして撮像条件を更新した後は、画素11をリセットすることなく露光を開始している。
【0052】
ステップS200およびステップS202は、
図5のステップS100およびステップS102にそれぞれ対応する。ステップS202において、輝度信号Sが予め定められたイベント検出閾値以上に変化する場合、イベント検出部20は、イベントパルスの生成を開始する(S204)。そして、撮像制御部30は、画素11をリセットする(S206)。また、パルスカウント部40は、生成したイベントパルスをカウントする(S208)。その後、撮像制御部30は、パルスカウント部40からのカウント値Ncが予め設定された基準に達すると、そのカウント値Ncに基づいて撮像条件を設定して、制御装置100の撮像を制御する(S210)。
【0053】
制御装置100は、更新された撮像条件に基づいて露光を開始する(S212)。即ち、本例の制御装置100は、撮像制御部30がイベントパルスのカウント値Ncに基づいて撮像条件を制御するとともに、画素部10をリセットしたうえで露光を開始する。
【0054】
ここで、露光期間中にイベントが発生した場合(S214)、イベント検出部20によるイベントパルスの生成を開始する(S216)。更に、パルスカウント部40は、生成したイベントパルスをカウントする(S218)。その後、撮像制御部30は、センサ300による露光を継続させたまま、パルスカウント部40からのカウント値Ncが予め設定された基準に達すると、そのカウント値Ncに基づいて撮像条件を制御する(S220)。
【0055】
このように、本例の撮像制御部30は、センサ300による露光期間中に、イベント検出部20がイベントを検出した場合に、撮像条件を再度制御するとともにセンサ300による露光を継続させる。つまり、制御装置100は、露光開始の前に撮像条件を更新してもよいし、露光中に撮像条件を更新してもよい。一方、露光開始(S212)後、露光期間中にイベントが発生しない場合(S214)、センサ300による露光を終了する(S222)。
【0056】
露光終了後、AD変換部50は、画素部10が出力した画素信号をAD変換する(S224)。ここで、ステップS210およびステップS220において、撮像制御部30が撮像条件としてADC分解能を更新している場合、最新のADC分解能に基づいて、画素信号をAD変換する。その後、記憶部60は、変換したデジタル信号を記憶し、記憶したデジタル信号を外部に出力してもよい(S226)。
【0057】
以上の通り、制御装置100は、画素11を一度リセットして撮像条件を更新した後は、画素11をリセットすることなく露光を開始することができる。また、制御装置100による撮像条件の更新は、露光開始の前であっても、露光期間中であってもよい。これにより、制御装置100は、イベントの発生に応じた最適な撮像条件での撮影を実現することができる。
【0058】
図7は、センサ300のより具体的な構成の一例を示す。本例のセンサ300は、第1の基板110と、第2の基板120と、第3の基板130とを備える。
【0059】
第1の基板110は、画素ブロックアレイ112を有する。画素ブロックアレイ112は、1又は複数の画素11を有する。本例の画素ブロックアレイ112は、M×N個の画素11を有する。画素11は、第1光電変換素子PD1および第2光電変換素子PD2を有する。例えば、第1光電変換素子PD1は、イベントを検出するイベント検出素子である。また、第2光電変換素子PD2は、画像を撮像する受光素子である。
【0060】
第2の基板120は、処理ブロックアレイ122を有する。処理ブロックアレイ122は、M×N個のデータ処理部13を備える。第2の基板120は、第1の基板110に積層されている。
【0061】
データ処理部13は、イベント検出部20と、撮像制御部30と、パルスカウント部40と、AD変換部50とを備える。M×N個のデータ処理部13は、M×N個の画素11にそれぞれ対応して設けられる。対応して設けられるとは、M×N個のデータ処理部13がM×N個の画素11にそれぞれ電気的に接続されていることを指す。また、対応して設けられるとは、M×N個のデータ処理部13がM×N個の画素11にそれぞれ対向して設けられることを指してよい。
【0062】
本例のデータ処理部13は、それぞれ対応して設けられた画素11のデータ処理を実行する。そして、データ処理部13は、画素11の直下に設けられる場合、配線が短くなり処理速度を向上できる。例えば、イベント検出部20および撮像制御部30の少なくとも一方は、1又は複数の画素11からなるブロックに対応して、第2の基板120に設けられる。これにより、第1の基板110に設けられる画素11の画素開口を大きくすることができる。
【0063】
第3の基板130は、出力ブロックアレイ132を有する。出力ブロックアレイ132は、データ保持部70およびデータ入出力部80を備える。第3の基板130は、第2の基板120に積層されている。即ち、第1の基板110、第2の基板120および第3の基板130が積層して設けられている。
【0064】
データ保持部70は、センサ300の撮像データを保持する。例えば、データ保持部70は、処理ブロックアレイ122で取得した撮像データを一時的に保持する。撮像データには、画素部10が取得した画像のデータに加えて、撮像条件等のデータが含まれてよい。データ入出力部80は、データ保持部70が保持した撮像データを外部に出力する。また、データ入出力部80は、撮像データを撮像制御部30に出力してもよい。
【0065】
このように、本例のセンサ300は、M×N個の画素11のそれぞれに対応して、M×N個の撮像制御部30が設けられている。そのため、センサ300は、M×N個の画素11ごとに、撮像条件を制御することができる。これにより、センサ300は、画面内の輝度分布に応じて適切な撮像条件を画素11ごとに設定できる。例えば、M×N個の画素11ごとにADC分解能を設定することにより、全画素一律のADC分解能でAD変換する場合と比較して、不要なビットを低減しデータ出力帯域を抑制することができる。本例のセンサ300は、M×N個の画素11ごとに必要十分なビット深度をAD変換部50にフィードバックすることにより、画質を維持したままデータ量を削減することができる。
【0066】
図8は、撮像制御部30のより具体的な構成の一例を示す。撮像制御部30は、リセット制御部32と、ゲイン制御部34と、露光制御部36と、ADC制御部38とを備える。
【0067】
リセット制御部32は、画素11に蓄積された電荷をリセットするためのリセット信号RSTを生成する。リセット制御部32は、イベント検出部20から入力されたイベント検出信号Sdに基づいて、生成したリセット信号RSTを画素部10に出力する。例えば、
図6のフローチャートに基づいて動作する場合、リセット制御部32は、イベントが生じたことを示すイベント検出信号Sdが入力された場合に、リセット信号RSTを画素部10に出力する。
【0068】
ゲイン制御部34は、パルスカウント部40から入力されたカウント値Ncに基づいて、センサ300が備える増幅器のゲインを制御する。例えば、ゲイン制御部34は、カウント値Ncが予め定められた閾値を上回った場合にゲインをそれまでの値より小さくし、カウント値Ncが予め定められた閾値を下回った場合にゲインをそれまでの値より大きくする。
【0069】
露光制御部36は、パルスカウント部40から入力されたカウント値Ncに基づいて、露光時間等の露光条件を制御する。例えば、露光制御部36は、カウント値Ncが予め定められた閾値を上回った場合に露光時間をそれまでの時間よりも短くし、カウント値Ncが予め定められた閾値を下回った場合に露光時間をそれまでの時間よりも長くする。また、露光制御部36は、画像の輝度が予め定められた閾値を下回った場合に露光時間をそれまでの時間よりも長くし、画像の輝度が予め定められた閾値を上回った場合に露光時間をそれまでの時間よりも短くしてもよい。
【0070】
ADC制御部38は、パルスカウント部40から入力されたカウント値Ncに基づいて、ADC分解能を制御する。例えば、ADC制御部38は、カウント値Ncが予め定められた閾値を上回った場合にADC分解能をそれまでの分解能よりも低くし、カウント値Ncが予め定められた閾値を下回った場合にADC分解能をそれまでの分解能よりも高くする。また、ADC制御部38は、画像の輝度が予め定められた閾値を下回った場合にADC分解能を高くし、画像の輝度が予め定められた閾値を超えた場合にADC分解能を低くしてもよい。なお、これらのゲイン制御部34によるゲインの制御、露光制御部36による露光時間の制御、および、ADC制御部38によるADC分解能の制御は、複数を組み合わせて制御してもよい。その際、これらの制御部が参照する閾値として、同じカウント値Ncを設定してもよいし、それぞれ異なるカウント値Ncを設定してもよい。
【0071】
図9は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられる操作または当該装置の1または複数のセクションとして機能させることができ、または当該操作または当該1または複数のセクションを実行させることができ、および/またはコンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャートおよびブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定の操作を実行させるべく、CPU1212によって実行されてよい。
【0072】
本実施形態によるコンピュータ1200は、CPU1212、RAM1214、グラフィックコントローラ1216、およびディスプレイデバイス1218を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、ハードディスクドライブ1224、DVD-ROMドライブ1226、およびICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータはまた、ROM1230およびキーボード1242のようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。
【0073】
CPU1212は、ROM1230およびRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等またはそれ自体の中にCPU1212によって生成されたイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。
【0074】
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブ1224は、コンピュータ1200内のCPU1212によって使用されるプログラムおよびデータを格納する。DVD-ROMドライブ1226は、プログラムまたはデータをDVD-ROM1201から読み取り、ハードディスクドライブ1224にRAM1214を介してプログラムまたはデータを提供する。ICカードドライブは、プログラムおよびデータをICカードから読み取り、および/またはプログラムおよびデータをICカードに書き込む。
【0075】
ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、および/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをパラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。
【0076】
プログラムが、DVD-ROM1201またはICカードのようなコンピュータ可読媒体によって提供される。プログラムは、コンピュータ可読媒体から読み取られ、コンピュータ可読媒体の例でもあるハードディスクドライブ1224、RAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報の操作または処理を実現することによって構成されてよい。
【0077】
例えば、通信がコンピュータ1200および外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御下、RAM1214、ハードディスクドライブ1224、DVD-ROM1201、またはICカードのような記録媒体内に提供される送信バッファ処理領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信された受信データを記録媒体上に提供される受信バッファ処理領域等に書き込む。
【0078】
また、CPU1212は、ハードディスクドライブ1224、DVD-ROMドライブ1226(DVD-ROM1201)、ICカード等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックする。
【0079】
様々なタイプのプログラム、データ、テーブル、およびデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプの操作、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
【0080】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
【0081】
また、特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【0082】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
(項目1)
1又は複数の画素を備えるセンサの撮像条件を制御する制御装置であって、
前記1又は複数の画素において、予め定められた閾値を超えて輝度信号が変化することを示すイベントを検出し、イベント検出信号を出力するイベント検出部と、
前記イベント検出信号に基づいて、前記センサの撮像条件を制御する制御部と
を備える制御装置。
(項目2)
前記撮像条件は、前記センサのADC分解能、露光時間、および増幅器のゲインの少なくとも1つを含む
項目1に記載の制御装置。
(項目3)
前記イベントの検出により前記イベント検出部が出力したイベントパルスをカウントするパルスカウンタを更に備え、
前記制御部は、前記イベントパルスの発生数に基づいて前記撮像条件を制御する
項目1または2に記載の制御装置。
(項目4)
前記制御部は、前回の前記イベントの検出に対応して前記センサが出力した輝度値と、新たな前記イベントの検出により前記イベント検出部が出力したイベントパルスとに基づいて、前記撮像条件を制御する
項目1または2に記載の制御装置。
(項目5)
前記制御部は、前記センサによる露光期間中に、前記イベント検出部がイベントを検出した場合に、前記撮像条件を再度制御し、前記1又は複数の画素への電荷の蓄積をリセットして前記センサによる露光を再度開始させる
項目1から4のいずれか一項に記載の制御装置。
(項目6)
前記制御部は、前記センサによる露光期間中に、前記イベント検出部がイベントを検出した場合に、前記撮像条件を再度制御するとともに前記センサによる露光を継続させる
項目1から4のいずれか一項に記載の制御装置。
(項目7)
1又は複数の画素と、
項目1から6のいずれか一項に記載の制御装置と
を備えるセンサ。
(項目8)
前記1又は複数の画素は、前記イベントを検出するイベント検出素子と、画像を撮像する受光素子とを有する
項目7に記載のセンサ。
(項目9)
前記1又は複数の画素が設けられる第1の基板と、
前記第1の基板に積層される他の基板と
を備え、
前記イベント検出部および前記制御部の少なくとも一方は、前記1又は複数の画素からなるブロックに対応して、前記他の基板に設けられる
項目7または8に記載のセンサ。
(項目10)
前記1又は複数の画素が設けられる第1の基板と、
前記第1の基板に積層され、前記イベント検出部および前記制御部が設けられる第2の基板と、
前記第2の基板に積層され、前記センサの撮像データを保持するデータ保持部が設けられた第3の基板と
を備える
項目7または8に記載のセンサ。
(項目11)
1又は複数の画素を備えるセンサの撮像条件を制御する制御方法であって、
前記1又は複数の画素において、予め定められた閾値を超えて輝度信号が変化することを示すイベントを検出することと、
前記イベントの検出に基づいて、前記センサの撮像条件を制御することと
を含む制御方法。
(項目12)
前記撮像条件を制御した後に前記センサによる露光を開始させることと、
前記センサによる露光期間中に前記イベントを検出した場合に前記撮像条件を再度制御することと、
前記センサへの電荷の蓄積をリセットさせて、前記再度制御された前記撮像条件によって露光を再度開始させること
を含む項目11に記載の制御方法。
(項目13)
前記撮像条件を制御した後に前記センサによる露光を開始させることと、
前記センサによる露光期間中に前記イベントを検出した場合に、前記センサによる露光を継続させたまま前記撮像条件を再度制御することと
を含む項目11に記載の制御方法。
(項目14)
1又は複数の画素を備えるセンサの撮像条件を制御するプログラムであって、
前記1又は複数の画素において、予め定められた閾値を超えて輝度信号が変化するイベントを検出することと、
前記イベントの検出に基づいて、前記センサの撮像条件を制御することと
をコンピュータに実行させる制御装置のプログラム。
【符号の説明】
【0083】
10・・・画素部、11・・・画素、12・・・ブロック、13・・・データ処理部、20・・・イベント検出部、30・・・撮像制御部、32・・・リセット制御部、34・・・ゲイン制御部、36・・・露光制御部、38・・・ADC制御部、40・・・パルスカウント部、50・・・AD変換部、60・・・記憶部、70・・・データ保持部、80・・・データ入出力部、100・・・制御装置、110・・・第1の基板、112・・・画素ブロックアレイ、120・・・第2の基板、122・・・処理ブロックアレイ、130・・・第3の基板、132・・・出力ブロックアレイ、300・・・センサ、500・・・センサ、510・・・画素部、530・・・撮像制御部、550・・・AD変換部、560・・・記憶部、1200・・・コンピュータ、1201・・・DVD-ROM、1210・・・ホストコントローラ、1212・・・CPU、1214・・・RAM、1216・・・グラフィックコントローラ、1218・・・ディスプレイデバイス、1220・・・入出力コントローラ、1222・・・通信インタフェース、1224・・・ハードディスクドライブ、1226・・・DVD-ROMドライブ、1230・・・ROM、1240・・・入出力チップ、1242・・・キーボード