IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023183170
(43)【公開日】2023-12-27
(54)【発明の名称】光検出素子および光検出システム
(51)【国際特許分類】
   H04N 25/76 20230101AFI20231220BHJP
   H04N 25/772 20230101ALI20231220BHJP
【FI】
H04N5/374
H04N5/3745 500
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2022096652
(22)【出願日】2022-06-15
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】110001357
【氏名又は名称】弁理士法人つばさ国際特許事務所
(72)【発明者】
【氏名】岡田 千丈
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CY16
5C024CY17
5C024CY26
5C024EX12
5C024GX03
5C024GX16
5C024GX18
5C024GY39
5C024GY41
5C024GY45
5C024HX01
5C024HX23
5C024HX29
5C024HX32
5C024HX57
(57)【要約】
【課題】良好な検出性能を有する光検出素子を提供する。
【解決手段】本開示の一実施形態の光検出素子は、光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、前記第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、前記第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部とを備える。
【選択図】図3A
【特許請求の範囲】
【請求項1】
光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、
前記第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、
光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、
前記第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部と
を備える光検出素子。
【請求項2】
前記第1受光素子及び前記第2受光素子は、それぞれ、単一光子アバランシェダイオードである
請求項1に記載の光検出素子。
【請求項3】
前記第1画素は、可視光を受光して第1光電流を出力可能な前記第1受光素子を有する画素であり、
前記第2画素は、非可視光を受光して第2光電流を出力可能な前記第2受光素子を有する画素である
請求項1に記載の光検出素子。
【請求項4】
前記第1回路部は、前記第1信号として、前記第1光電流に基づく電圧信号の第1期間及び第2期間におけるパルス数の差分に基づく信号を出力可能である
請求項1に記載の光検出素子。
【請求項5】
前記第1回路部は、前記第2信号として、前記第1期間及び前記第2期間における前記電圧信号のパルス数の和に基づく信号を出力可能である
請求項4に記載の光検出素子。
【請求項6】
前記第1回路部は、前記第1期間における前記電圧信号のパルス数と前記第2期間における前記電圧信号のパルス数との差分に基づく信号を出力可能である第1カウンタ部を有し、
前記第1カウンタ部は、前記第1期間における前記電圧信号のパルス数が基準値に達したことを示す検出信号を出力可能である
請求項4に記載の光検出素子。
【請求項7】
前記第1カウンタ部は、アップダウンカウンタを有する
請求項6に記載の光検出素子。
【請求項8】
前記第1回路部は、前記第1カウンタ部を制御可能な制御部を有し、
前記制御部は、前記第1期間の終了を示す前記検出信号に基づき、前記第2期間の終了を示す信号を前記第1カウンタ部へ出力可能である
請求項6に記載の光検出素子。
【請求項9】
前記制御部は、前記第1期間及び前記第2期間の各々の長さが同一となるように、前記第2期間の終了を示す信号を前記第1カウンタ部へ出力可能である
請求項8に記載の光検出素子。
【請求項10】
前記制御部は、タイミングジェネレータを有する
請求項8に記載の光検出素子。
【請求項11】
前記第1光電流に基づく電圧信号を生成可能な第1生成部と、
前記第2光電流に基づく電圧信号を生成可能な第2生成部と
を有する
請求項1に記載の光検出素子。
【請求項12】
前記第1生成部及び前記第2生成部は、それぞれインバータを有する
請求項11に記載の光検出素子。
【請求項13】
複数の前記第1受光素子及び前記第2受光素子を有する第1基板と、
前記第1回路部及び前記第2回路部の少なくとも一部を有し、前記第1基板に積層される第2基板と
を有する
請求項1に記載の光検出素子。
【請求項14】
光源を制御可能な光源制御部を有する
請求項1に記載の光検出素子。
【請求項15】
前記第1回路部は、前記第1信号に基づいて、動く対象物の領域に関する第1領域信号を生成可能である
請求項14に記載の光検出素子。
【請求項16】
前記光源制御部は、前記第1領域信号に基づいて、前記光源の発光位置、光密度、出力パワーの少なくとも一つを制御可能である
請求項15に記載の光検出素子。
【請求項17】
前記第2回路部は、前記第2光電流に基づく電圧信号のパルス数をカウント可能な複数の第2カウンタ部を有し、
前記第2回路部は、前記光源の発光に応じて、前記電圧信号のパルス数に基づく前記第3信号を出力可能である
請求項15に記載の光検出素子。
【請求項18】
前記第2回路部は、前記第1領域信号に基づいて、動く対象物までの距離に関する前記第3信号を出力可能である
請求項15に記載の光検出素子。
【請求項19】
前記光源制御部は、前記第3信号に基づいて、前記光源の発光位置、光密度、出力パワーの少なくとも一つを制御可能である
請求項17に記載の光検出素子。
【請求項20】
光源と、
光検出素子と、
前記光検出素子から出力される信号に基づいて前記光源を制御可能な光源制御部と
を備え、
前記光検出素子は、
光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、
前記第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、
光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、
前記第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部と
を有する光検出システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、光検出素子および光検出システムに関する。
【背景技術】
【0002】
SPAD(Single Photon Avalanche Diode:単一光子アバランシェダイオード)素子とカウンタ回路を含む複数の画素を備え、光検出を行う素子が提案されている(特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2019-161551号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
光検出素子では、検出性能の改善が求められている。
【0005】
良好な検出性能を有する光検出素子を提供することが望まれる。
【0006】
本開示の一実施形態の光検出素子は、光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部とを備える。
本開示の一実施形態の光検出システムは、光源と、光検出素子と、光検出素子から出力される信号に基づいて光源を制御可能な光源制御部とを備える。光検出素子は、光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部とを有する。
【図面の簡単な説明】
【0007】
図1】本開示の実施の形態に係る光検出システムの概略構成の一例を示す図である。
図2】本開示の実施の形態に係る光検出素子の構成例を説明するための図である。
図3A】本開示の実施の形態に係る光検出素子の構成例を示す図である。
図3B】本開示の実施の形態に係る光検出素子の構成例を示す図である。
図4A】本開示の実施の形態に係る光検出システムによる光源の制御の一例を説明するための図である。
図4B】本開示の実施の形態に係る光検出システムによる光源の制御の一例を説明するための図である。
図5】本開示の実施の形態に係る光検出システムの動作例を示すタイミングチャートである。
図6A】本開示の実施の形態に係る光検出システムの動作例を示すフローチャートである。
図6B】本開示の実施の形態に係る光検出システムの動作例を示すフローチャートである。
図7】本開示の実施の形態に係る光検出素子の断面構成の一例を示す模式図である。
図8】本開示の変形例1に係る光検出素子の構成例を示す図である。
図9A】本開示の変形例2に係る光検出素子の構成例を示す図である。
図9B】本開示の変形例2に係る光検出素子の別の構成例を示す図である。
図10】本開示の変形例2に係る光検出素子の画素の配置例を示す図である。
図11】本開示の変形例2に係る光検出素子の画素の別の配置例を示す図である。
図12】本開示の変形例2に係る光検出素子の画素の別の配置例を示す図である。
図13】本開示の変形例2に係る光検出素子の画素の別の配置例を示す図である。
図14】本開示の変形例2に係る光検出素子の画素の別の配置例を示す図である。
図15】本開示の変形例3に係る光検出システムの動作例を示すタイミングチャートである。
図16】本開示の変形例4に係る光検出素子の構成例を示す図である。
図17】車両制御システムの概略的な構成の一例を示すブロック図である。
図18】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
図19】内視鏡手術システムの概略的な構成の一例を示す図である。
図20】カメラヘッド及びCCUの機能構成の一例を示すブロック図である。
【発明を実施するための形態】
【0008】
以下、本開示の実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
3.使用例
4.応用例
【0009】
<1.実施の形態>
図1は、本開示の実施の形態に係る光検出システムの概略構成の一例を示す図である。光検出システム200は、光検出素子1と、光源制御部210と、光源220とを含む。光検出素子1は、入射する光を検出可能な素子である。光検出素子1は、受光素子を有する複数の画素Pを有し、入射した光を光電変換して信号を生成するように構成される。
【0010】
本実施の形態に係る光検出素子1は、イベントを検出可能なセンサであり、イベント駆動型のセンサ(EVS(Event Vision Sensor)、EDS(Event Driven Sensor)、DVS(Dynamic Vision Sensor)等と呼ばれる)として適用され得る。また、光検出素子1は、TOF(Time Of Flight)方式の距離計測が可能な測距センサでもある。
【0011】
図1に示す例では、光検出素子1は、複数の画素Pが行列状に2次元配置された領域(画素部100)を有している。各画素Pの受光素子(受光部)は、例えばSPAD素子である。光検出素子1は、光学レンズを含む光学系(不図示)を介して、計測対象からの入射光(像光)を取り込む。受光素子は、光を受光して、光電変換により電荷を生じ、光電流を生成し得る。
【0012】
光検出素子1は、信号処理を行うように構成された処理部110を備える。処理部110は、信号処理回路であり、信号処理(情報処理)を行う。処理部110は、各画素の信号に対して各種の信号処理を行い、信号処理後の画素の信号を出力する。処理部110は、後述するが、計測対象の動きに関する信号、階調値に関する信号、計測対象までの距離に関する信号を生成して出力し得る。
【0013】
処理部110は、制御部でもあり、光検出素子1の各部を制御可能に構成される。処理部110は、例えば、各種のタイミング信号を生成するタイミングジェネレータ、シフトレジスタ、アドレスデコーダ等を含む複数の回路によって構成される。処理部110は、画素Pを駆動するための信号を各画素Pに供給し、各画素Pの動作を制御し得る。また、処理部110は、光源制御部210を制御する信号を光源制御部210に供給し、光源制御部210の動作を制御し得る。
【0014】
光源220は、複数の発光素子を有する。発光素子は、例えばLED(Light Emitting Diode)である。光源220では、複数の発光素子が行列状に2次元配置される。光源220は、例えばレーザ光を発生し、レーザ光を外部へ出射し得る。
【0015】
光源制御部210は、光源220を駆動するように構成される。光源制御部210は、駆動部(駆動回路)であり、光源220の動作の制御を行い得る。光源制御部210は、例えば、光源220の発光素子への電流、電圧を制御可能に構成される。光源制御部210は、例えば、DA変換部(DAC:Digital to Analog Converter)、アンプ回路等を含む複数の回路により構成される。
【0016】
光源制御部210は、光源220の各発光素子を駆動するための電流及び電圧を光源220に供給し、光源220による発光を制御し得る。光源制御部210は、光源220の発光素子の駆動を制御可能な駆動部であり、ドライバIC(ドライバ回路)ともいえる。
【0017】
図2は、実施の形態に係る光検出素子の構成例を説明するための図である。図2に示すように、光検出素子1は、第1基板101、第2基板102、及び第3基板103を備える。第1基板101、第2基板102、及び第3基板103は、互いに重なり合って積層される。
【0018】
光検出素子1は、第1基板101と、第2基板102と、第3基板103とがZ軸方向に積層された構造(積層構造)を有している。なお、図2に示すように、計測対象である被写体からの光の入射方向をZ軸方向、Z軸方向に直交する左右方向をX軸方向、Z軸及びX軸に直交する方向をY軸方向とする。以降の図において、図2の矢印の方向を基準として方向を表記する場合もある。
【0019】
第1基板101には、画素部100が設けられる。画素部100では、複数の画素Pが、第1方向である水平方向(行方向)、及び第1方向と直交する第2方向である垂直方向(列方向)に配置される。画素部100の画素Pは、フィルタ15を有する。フィルタ15は、入射する光のうちの特定の波長域の光を選択的に透過させるように構成される。フィルタ15は、RGBのカラーフィルタ、赤外光を透過するフィルタ等である。
【0020】
画素部100の複数の画素Pには、複数の画素P1及び画素P2が含まれる。画素P1は、可視光を受光して光電流を出力可能な受光素子を有する画素である。画素P2は、非可視光を受光して光電流を出力可能な受光素子を有する画素である。複数の画素P1には、一例として、赤色の波長域の光を透過するフィルタ15を有する画素(R画素)と、緑色の波長域の光を透過するフィルタ15を有する画素(G画素)と、青色の波長域の光を透過するフィルタ15を有する画素(B画素)とが含まれる。R画素、G画素、及びB画素は、例えば、いわゆるベイヤー配列に従って配置されている。
【0021】
R画素、G画素、及びB画素は、それぞれ、R成分の信号、G成分の信号、及びB成分の信号を生成するように構成される。R画素、G画素、及びB画素の各々で光電変換された電荷に基づき、RGBの画素信号を得ることができる。
【0022】
画素P2は、例えば、赤外光を透過するフィルタ15を有する画素(IR画素)である。画素P2は、IR成分の信号を生成するように構成され、TOF方式の距離計測に利用可能である。光検出システム200では、光源220によって計測対象である被写体に光(例えば赤外光)を照射し、被写体から反射した光を光検出素子1の画素P2の受光素子によって受光する。画素P2の信号は、計測対象である被写体までの距離に応じた信号となる。光検出素子1は、画素P2毎に距離信号を得ることができる。
【0023】
なお、画素部100の画素P1に設けられるフィルタは、原色系(RGB)のカラーフィルタに限定されず、例えばCy(シアン)、Mg(マゼンダ)、Ye(イエロー)等の補色系のカラーフィルタであってもよい。また、光検出素子1の一部又は全部の画素にフィルタ15を設けないようにしてもよい。
【0024】
第2基板102及び第3基板103には、処理部110が設けられる。処理部110は、第2基板102と第3基板103とに分けて配置される。処理部110は、画素回路部120a及び信号処理部130aを含む第1回路部140aと、画素回路部120b及び信号処理部130bを含む第2回路部140bとを有する。図2に示す例では、画素回路部120a及び画素回路部120bは、第2基板102に配置される。図2に示すように、画素回路部120aは、画素P1に対して設けられ、画素回路部120bは、画素P2に対して設けられる。信号処理部130a及び信号処理部130bは、ロジック回路及びメモリ等により構成され、第3基板103に配置される。
【0025】
図3A及び図3Bは、実施の形態に係る光検出素子の構成例を示す図である。図3Aは、画素P1及び第1回路部140aの構成例を示し、図3Bは、画素P2及び第2回路部140bの構成例を示している。図3Aに示すように、光検出素子1は、受光素子10aを含む画素P1と、画素回路部120a及び信号処理部130aを含む第1回路部140aとを有する。図3Aに示す例では、画素回路部120aは、生成部20aと、供給部25aと、カウンタ部30aと、制御部35と、判定部40とを有し、画素P1毎に設けられる。
【0026】
受光素子10aは、光を受光して信号を生成するように構成される。受光素子10aは、SPAD素子であり、入射する光子を電荷に変換し、入射した光子に応じた電気信号である信号S1aを出力し得る。なお、受光素子10aは、光を光電変換可能に構成された光電変換素子(光電変換部)ともいえる。
【0027】
受光素子10aは、例えば、所定の電圧を供給可能な電源線、電極等と電気的に接続される。図3Aに示す例では、受光素子10aの一方の電極であるカソードは、供給部25aを介して、電源電圧が供給される電源線に電気的に接続される。受光素子10aの他方の電極であるアノードは、接地線側に電気的に接続される。
【0028】
受光素子10aのカソード及びアノード間には、供給部25を介して供給される電圧によって、受光素子10aのブレークダウン電圧(降伏電圧)よりも大きい電位差となる電圧が印加され得る。即ち、受光素子10aの両端の電位差は、ブレークダウン電圧よりも大きい電位差に設定され得る。受光素子10aは、ブレークダウン電圧よりも大きい逆バイアス電圧が与えられると、ガイガーモードで動作可能な状態となる。ガイガーモード時の受光素子10aでは、光子の入射に応じてアバランシェ増倍現象を生じ、パルス状の電流を生じ得る。画素P1では、光子の入射に起因して受光素子10aを流れる光電流に応じた信号S1aが、生成部20aへ出力される。
【0029】
生成部20aは、受光素子10aにより生成された信号S1aに基づく信号S2aを生成するように構成される。図3Aに示す例では、生成部20aは、インバータにより構成される。生成部20aは、直列に接続されたPMOSトランジスタ及びNMOSトランジスタを用いて構成される。生成部20aの入力部は、受光素子10aのカソード及び供給部25aと電気的に接続され、生成部20aの出力部は、カウンタ部30aの入力部31と電気的に接続される。
【0030】
生成部20aには、受光素子10aからの信号S1aが入力される。信号S1aの信号レベル、即ち信号S1aの電圧(電位)は、受光素子10aを流れる電流に応じて変化する。生成部20aは、例えば、信号S1aの電圧が閾値よりも高い場合、ローレベルの信号S2aを出力する。また、生成部20aは、信号S1aの電圧が閾値よりも小さい場合は、ハイレベルの信号S2aを出力する。生成部20aは、信号S1aの電圧に基づくパルス信号となる信号S2aを、カウンタ部30aへ出力し得る。
【0031】
図3Aに示す例では、生成部20aであるインバータは、受光素子10aにおける光子の受光に起因して、信号S1aの電圧がインバータの閾値電圧より小さくなると、信号S2aの電圧をローレベルからハイレベルに遷移させる。なお、生成部20aは、バッファ回路、AND回路等により構成されてもよい。
【0032】
供給部25aは、受光素子10aに電圧及び電流を供給可能に構成される。供給部25aは、電源電圧が与えられる電源線と電気的に接続され、受光素子10aに電圧及び電流を供給し得る。図3Aに示す例では、供給部25aは、PMOSトランジスタにより構成される。なお、供給部25aは、抵抗素子を用いて構成されてもよい。
【0033】
供給部25aは、アバランシェ増倍が生じて受光素子10aの電極間の電位差がブレークダウン電圧よりも小さい場合、受光素子10aに対して電流を供給し得る。供給部25aは、受光素子10aのリチャージを行い、受光素子10aを再びガイガーモードでの動作が可能な状態にさせる。供給部25aは、リチャージ部であり、受光素子10aに電荷をリチャージし、受光素子10aの電圧をリチャージするともいえる。
【0034】
カウンタ部30aは、入力される信号に応じてカウント(計数)を行うように構成される。カウンタ部30aは、1つの入力部31(入力端子)を有し、入力部31に入力される信号のパルスのカウントを行う。図3Aに示す例では、カウンタ部30aの入力部31には、パルス信号である信号S2aが入力される。カウンタ部30aは、信号S2aのパルスをカウントし、2つの期間における信号S2aのパルス数の差分に基づく信号を出力可能に構成される。カウンタ部30aは、画素P1毎に設けられ、例えばアップダウンカウンタにより構成される。
【0035】
制御部35は、カウンタ部30aを制御可能に構成される。制御部35は、タイミングジェネレータを有し、画素P1毎に設けられる。制御部35は、タイミング制御部であり、例えば、外部から入力されるクロック信号、同期信号等に基づいて、タイミング信号を生成し、カウンタ部30aの動作を制御する。
【0036】
制御部35は、カウントの開始を指示(要求)する信号(スタート信号)をカウンタ部30aに出力し、カウンタ部30aがカウントを開始するタイミングを制御する。また、制御部35は、カウントの終了を指示する信号(ストップ信号)をカウンタ部30aに出力し、カウンタ部30aがカウントを終了するタイミングを制御する。制御部35は、供給部25aの制御も行い得る。なお、制御部35とは別の制御回路によって、供給部25aの制御を行うようにしてもよい。
【0037】
図3Aに示す例では、制御部35には、カウンタ部30aから、カウンタ部30aのカウント値が基準値に達したことを示す信号(検出信号)としてオーバーフロー信号が入力される。オーバーフロー信号は、カウント値のオーバーフローを示す信号であり、受光素子10aの受光量のオーバーフローを示す信号ともいえる。制御部35は、オーバーフロー信号に基づいて生成したストップ信号をカウンタ部30aに供給し、カウンタ部30aを制御する。
【0038】
一例として、スタート信号が制御部35からカウンタ部30aに入力されると、カウンタ部30aは、第1期間Taにおけるカウントを開始する。カウンタ部30aは、第1期間Taにおける信号S2aのパルス数をアップカウントする。カウンタ部30aのカウント値が基準値に達すると、カウンタ部30aは、カウント値が基準値に達したことを示すオーバーフロー信号を制御部35に出力し、第2期間Tbにおけるカウントを開始する。カウンタ部30aは、その基準値を初期値として用い、第2期間Tbにおける信号S2aのパルス数をダウンカウントする。検出信号であるオーバーフロー信号は、第1期間Taの終了を示す信号であり、第2期間Tbの開始を示す信号である。
【0039】
制御部35は、カウンタ部30aから入力されるオーバーフロー信号に応じてストップ信号を生成し、カウンタ部30aに出力する。制御部35は、第1期間Ta及び第2期間Tbの各々の長さが同一となるように、第2期間Tbの終了を示すストップ信号をカウンタ部30aへ出力する。ストップ信号が制御部35からカウンタ部30aに入力されると、カウンタ部30aは、第2期間Tbにおけるカウントを終了する。
【0040】
カウンタ部30aは、第1期間Ta及び第2期間Tbにおける信号S2aのパルス数の差分に基づく信号(差分信号S3)を生成して出力する。カウンタ部30aは、差分信号S3として、第1期間Taにおける信号S2aのパルス数と、第2期間Tbにおける信号S2aのパルス数との差に応じたカウント値を示す信号を出力し得る。例えば、差分信号S3の信号値、即ちカウント値は、アップカウントされたカウント値からダウンカウントされたカウント値を減じた値となる。
【0041】
判定部40は、差分信号S3に基づいてパルス数の差分の大きさを判定可能に構成される。判定部40は、例えば、差分信号S3の信号値が所定の閾値より大きいか否かを判定するように構成される。図3Aに示す例では、判定部40は、第1閾値判定部41と第2閾値判定部42を有する。
【0042】
第1閾値判定部41は、差分信号S3の値と第1閾値とを比較可能に構成される。第2閾値判定部42は、差分信号S3の値と第2閾値とを比較可能に構成される。例えば、第1閾値判定部41は、差分信号S3の信号値、即ち第1期間Taのカウント値から第2期間Tbのカウント値を減じた値が、第1閾値より小さいか否かを判定するように構成される。第2閾値判定部42は、差分信号S3の信号値が第2閾値より大きいか否かを判定するように構成される。
【0043】
第1閾値判定部41は、差分信号S3の信号値が第1閾値を下回る場合、計測対象である被写体の動きにより正のイベントが発生したと判定する。第1閾値判定部41は、差分信号S3の信号値が第1閾値を下回らない場合は、正のイベントは発生していないと判定する。第2閾値判定部42は、差分信号S3の信号値が第2閾値を上回る場合、計測対象の動きにより負のイベントが発生したと判定する。第2閾値判定部42は、差分信号S3の信号値が第2閾値を上回らない場合は、負のイベントは発生していないと判定する。
【0044】
このように、判定部40は、差分信号S3に基づき、イベントの発生の有無を検出し得る。判定部40は、差分信号S3の信号値が第1閾値より小さい場合、又は第2閾値より大きい場合、イベントが生じたと判定する。即ち、判定部40は、計測対象物の動きに伴う受光量の変化に起因して、カウント値の変化量が上限又は下限の閾値を越えた場合、イベントが「有」と判断する。
【0045】
判定部40は、第1閾値判定部41及び第2閾値判定部42による判定結果に基づき、計測対象物の動きに関する信号(動き信号)を生成して出力する。判定部40は、例えば、動き信号S11として、差分信号S3の信号値(カウント値)及びイベントの発生の有無を示す信号を、信号処理部130aに出力する。動き信号S11は、正のイベント及び負のイベントの発生の有無を示す信号を含み得る。
【0046】
信号処理部130aは、各画素P1の差分信号S3及び動き信号S11を取得し、信号処理を実行可能に構成される。信号処理部130aは、信号処理回路であり、差分信号S3及び動き信号S11を用いて、各種の信号処理を行い得る。図3Aに示す例では、信号処理部130aは、ビット反転部60、加算部70a、及びメモリ部75aを有する。
【0047】
ビット反転部60は、入力される信号のビット値を反転可能に構成される。図3Aに示す例では、ビット反転部60には、カウンタ部30aから差分信号S3が入力される。ビット反転部60は、差分信号S3のビット値を反転し、第1期間Ta及び第2期間Tbにおける信号S2のパルス数の和に基づく信号(階調信号)を生成する。
【0048】
階調信号S12は、例えば、第1期間Taのカウント値に第2期間Tbのカウント値を加えた信号値を有し、階調を示す信号となる。ビット反転部60は、差分信号S3を用いて画素における階調値を示す階調信号S12を復元するともいえる。ビット反転部60は、各画素P1の差分信号S3に対して反転処理を行い、各画素P1の階調信号S12を生成する。
【0049】
加算部70a及びメモリ部75aには、ビット反転部60から各画素P1の階調信号S12が入力される。また、加算部70a及びメモリ部75aには、判定部40から各画素P1の動き信号S11が入力される。メモリ部75aは、各画素の信号を保持可能に構成される。メモリ部75aは、フレームメモリであり、画素毎の階調信号S12及び動き信号S11をフレーム単位で記憶(記録)し得る。
【0050】
加算部70aは、画素の信号の加算処理を実行可能に構成される。加算部70aは、例えば、各画素P1の動き信号S11を用いて、動く対象物の移動方向を推定する。加算部70aは、推定結果に基づき、メモリ部75aに保持された階調信号S12を参照して各画素P1の階調信号S12の位置合わせを行い、複数の階調信号S12を加算平均する処理を行う。
【0051】
加算部70aは、平均化部であり、上述のように複数の階調信号S12を平均化し、平均化された階調信号S12を生成する。複数の階調信号S12を積算する処理が行われることで、階調信号S12のS/N比を改善することができる。こうして、信号処理部130aは、動き信号S11、階調信号S12、及び平均化された階調信号S12を取得し、光検出素子1の外部へ出力し得る。
【0052】
図3Bでは、画素P2及び第2回路部140bを図示している。図3Bに示すように、光検出素子1は、受光素子10bを含む画素P2と、画素回路部120b及び信号処理部130bを含む第2回路部140bとを有する。図3Bに示す例では、画素回路部120bは、生成部20bと、供給部25bと、選択部27と、カウンタ部30bとを有する。例えば、画素P2毎または複数の画素P2毎に、複数の選択部27及びカウンタ部30bが設けられる。
【0053】
受光素子10b、生成部20b、及び供給部25bは、上述した画素P1の受光素子10b、生成部20a及び供給部25aと同様の構成である。受光素子10bは、光を受光して信号を生成するように構成される。受光素子10bは、SPAD素子であり、入射する光子を電荷に変換し、入射した光子に応じた電気信号である信号S1bを出力し得る。なお、受光素子10bは、光を光電変換可能に構成された光電変換素子(光電変換部)ともいえる。
【0054】
生成部20bは、受光素子10bにより生成された信号S1bに基づく信号S2bを生成するように構成される。図3Bに示す例では、生成部20bは、インバータにより構成される。生成部20bは、受光素子10bにより生成される信号S1bの電圧に基づくパルス信号となる信号S2bを、選択部27へ出力し得る。なお、生成部20bは、バッファ回路、AND回路等により構成されてもよい。供給部25bは、リチャージ部であり、受光素子10bに電圧及び電流を供給可能に構成される。
【0055】
選択部27は、複数のカウンタ部30bのうち選択したカウンタ部30bに、生成部20bからの信号S2bを出力するように構成される。選択部27は、選択回路(Selector)であり、信号S2bの出力先を切り替え可能に構成される。選択部27は、複数の生成部20bから入力される信号S2bを各カウンタ部30bに振り分けるともいえる。選択部27は、時分割(例えばサブフレーム毎)に信号S2bの出力先を変更し得る。
【0056】
カウンタ部30bは、入力される信号に応じてカウントを行うように構成される。カウンタ部30bには、生成部20bから選択部27を介して、パルス信号である信号S2bが入力される。カウンタ部30bは、信号S2bのパルスをカウントし、信号S2bのパルス数に基づく信号を出力する。例えば、カウンタ部30bは、信号S2bのパルス数をカウント値としてアップカウントし、カウント値を示す信号S4を信号処理部130bへ出力する。
【0057】
信号処理部130bは、各画素P2の信号S4を取得し、信号処理を実行可能に構成される。信号処理部130bは、信号処理回路であり、信号S4を用いて、各種の信号処理を行い得る。図3Bに示す例では、信号処理部130は、演算部65、加算部70b、及びメモリ部75bを有する。
【0058】
演算部65は、信号S4に対して信号処理を行うように構成される。演算部65は、信号S4に基づき、計測対象物までの距離に関する信号(距離信号)を生成する。光検出素子1の各画素P2は、一例として、光源220によって計測対象に光(例えばレーザ光)が照射される場合に、計測対象から反射した光を受光する。画素P2毎に生成される信号S4は、計測対象までの距離に応じた信号となる。
【0059】
演算部65は、例えば、生成された画素P2の信号S4に基づいて、照射光と反射光との位相差、即ち光の往復時間を推定し、光検出素子1と計測対象物との距離を算出する。光源220から照射された光が計測対象物に反射して光検出素子1に到達する時間に基づき、計測対象物までの距離が演算される。演算部は、画素P2毎に対象物までの距離を算出し、対象物までの距離に関する距離信号S13を生成する。この場合、演算部65は、ノイズ低減処理(例えば背景光の信号成分の除去処理等)を行い、各画素P2の距離信号S13を生成し得る。
【0060】
加算部70b及びメモリ部75bには、演算部65から各画素P2の距離信号S13が入力される。また、加算部70b及びメモリ部75bには、第1回路部140aの信号処理部130a(図3A参照)から各画素P1の動き信号S11が入力される。メモリ部75bは、各画素の信号を保持可能に構成される。メモリ部75bは、フレームメモリであり、例えば画素毎の距離信号S13をフレーム単位で記憶し得る。
【0061】
加算部70bは、画素の信号の加算処理を実行可能に構成される。加算部70bは、例えば、各画素P1の動き信号S11を用いて、動く対象物の移動方向を推定する。加算部70bは、推定結果に基づき、メモリ部75bに保持された距離信号S13を参照して各画素P2の距離信号S13の位置合わせを行い、複数の距離信号S13を加算平均する処理を行う。
【0062】
加算部70bは、平均化部であり、上述のように複数の距離信号S13を平均化し、平均化された距離信号S13を生成する。複数の距離信号S13を積算する処理が行われることで、距離信号S13のS/N比を改善することができる。こうして、信号処理部130bは、距離信号S13、及び平均化された距離信号S13を取得し、光検出素子1の外部へ出力し得る。
【0063】
また、本実施の形態では、図3Aに示すように、光検出素子1の第1回路部140aは、領域検出部81と、距離検出部82と、信号制御部90とを有する。領域検出部81は、計測対象の領域のうちの一部の領域を注目領域として検出可能に構成される。領域検出部81は、例えば、各画素P1の動き信号S11に基づいて、動く対象物の領域を含む領域を注目領域として検出する。領域検出部81は、注目領域に関する信号(領域信号)を生成する。領域検出部81は、生成した領域信号S15を、第2回路部140bの信号処理部130b(図3B参照)へ出力し得る。領域信号S15は、関心領域(RoI:Region of Interest)を示す信号となる。
【0064】
信号制御部90は、信号制御回路であり、信号処理を行うように構成される。信号制御部90は、光源制御部210(図1参照)の動作を制御可能に構成される。信号制御部90は、領域検出部81から出力される領域信号S15に基づき、例えば光源220の発光位置、光密度、出力パワー等に関する信号を生成し、光源制御部210に出力する。
【0065】
信号制御部90は、領域信号S15に応じた制御信号を光源制御部210に供給することで、光源220による発光を制御し、光源220によって注目領域に対して発光を行わせることができる。信号制御部90は、領域信号S15に応じて、光源220の発光位置、光密度、出力パワー等を制御し得る。このため、注目領域に対する計測を精度よく行うことが可能となる。
【0066】
領域検出部81は、例えば、判定部40によりイベントの発生が検出された場合、動き信号S11を用いて、イベントが生じた領域を含む領域を注目領域として決定し、注目領域を示す領域信号S15を生成する。信号制御部90は、領域信号S15に応じて光源制御部210へ制御信号を出力し、計測に必要な光量が注目領域に導かれるように、光源220の発光位置、光密度、出力パワー等を調整する。光検出素子1によって光検出が行われ、注目領域についての階調信号S12、動き信号S11、及び距離信号S13を取得することができる。
【0067】
領域信号S15に応じて光源220による発光が行われた後、信号処理部130bの演算部65は、信号処理部130aから入力される領域信号S15に応じて、各画素P2の信号S4を用いて画素P2毎の距離信号S13を生成する。この場合、演算部65は、領域信号S15が示す注目領域からの反射光を受光した各画素P2の距離信号S13を生成し、信号処理部130aの距離検出部82へ出力し得る。距離検出部82には、信号処理部130bの演算部65から、注目領域に対応する複数の画素P2の各々の距離信号S13が入力される。
【0068】
距離検出部82は、各画素P2の距離信号S13に基づいて、注目領域までの距離を検出可能に構成される。距離検出部82は、演算部65により生成された画素P2毎の距離信号S13を用いて、注目領域までの距離を抽出する。距離検出部82は、抽出した注目領域までの距離に関する信号(距離信号S16)を生成する。距離検出部82は、生成した距離信号S16を、信号制御部90等へ出力し得る。
【0069】
信号制御部90は、距離検出部82から出力される距離信号S16に基づき、光源220の発光位置、光密度、出力パワー等に関する制御信号を生成し、光源制御部210に出力する。信号制御部90は、距離信号S16に応じた制御信号を光源制御部210に供給し、注目領域に対する計測に適した発光が行われるように、光源220における発光位置、光密度等を変更し得る。このため、光検出素子1は、注目領域に対する計測を高精度に行うことが可能となる。
【0070】
信号制御部90は、距離信号S16が示す注目領域までの距離に応じて、光源制御部210による光源220の制御を変更してもよい。図4Aに示すように、光源220(又は光検出素子1)から注目領域までの距離が短い場合、信号制御部90は、近距離設定として、広い視野(FOV:field of view)、低い光密度、及び低い出力パワーとなるように、光源制御部210及び光源220を制御してもよい。
【0071】
また、図4Aに示すように、光源220から注目領域までの距離が長い場合、信号制御部90は、遠距離設定として、狭いFOV、高い光密度、及び高い出力パワーとなるように、光源制御部210及び光源220を制御してもよい。これにより、注目領域までの距離が長い場合でも、精度よく測距を行うことが可能となる。なお、近距離設定又は遠距離設定に切り替える場合、図4Bに模式的に示すように、信号制御部90は、出力パワー(レーザ出力強度)を徐々に変化させるようにしてもよい。また、信号制御部90は、光密度、FOV等を段階的に変化させてもよい。これにより、距離の誤検知が生じることを効果的に抑制することが可能となる。
【0072】
図5は、実施の形態に係る光検出システムの動作例を示すタイミングチャートである。図5では、同一の時間軸上に、同期信号、カウンタ部30aによるカウント値、オーバーフロー信号、スタート/ストップ信号、動き信号S11、領域信号S15等を模式的に図示している。同期信号は、例えば、撮像のフレームレートに基づいて生成され、メインフレーム内のサブフレームの時間間隔を示す。第1回路部140aの制御部35は、同期信号に同期して、スタート信号を生成し、カウンタ部30aに出力する。
【0073】
図5では、カウンタ部30aが8ビットのアップダウンカウンタ回路である場合の例を示している。時刻t1~時刻t2の期間、時刻t7~時刻t8の期間、時刻t13~時刻t14の期間は、それぞれ、上述した第1期間Ta(図5では第1期間Ta1~第1期間Tan)であり、カウンタ部30aによる信号S2aのパルス数のアップカウントが行われる期間となる。
【0074】
時刻t2~時刻t3の期間、時刻t8~時刻t9の期間、時刻t14~時刻t15の期間は、それぞれ、上述した第2期間Tb(図5では第2期間Tb1~第2期間Tbn)であり、カウンタ部30aによる信号S2aのパルス数のダウンカウントが行われる期間となる。図5では、第1期間Ta1と第2期間Tb1は、同一の時間間隔となる。また、第1期間Ta2と第2期間Tb2は同一の時間間隔となり、第1期間Tanと第2期間Tbnも同一の時間間隔となる。
【0075】
第1サブフレームの時刻t1において、カウンタ部30aは、制御部35から入力されるスタート信号に応じて、信号S2aのパルスのアップカウントを開始する。時刻t2においてカウント値が基準値である「255」に達すると、カウンタ部30aから制御部35にオーバーフロー信号が出力される。また、ダウンカウントの初期値として「255」が設定される。オーバーフロー信号は、第1期間Ta1の終了および第2期間Tb1の開始のタイミングを示す信号となる。
【0076】
時刻t2において、カウンタ部30aは、信号S2aのパルスのダウンカウントを開始する。制御部35は、スタート信号及びオーバーフロー信号によって第1期間Ta1の長さを把握し、第2期間Tb1の長さが第1期間Ta1の長さと等しくなるように、ストップ信号を生成してカウンタ部30aに供給する。
【0077】
時刻t3において、カウンタ部30aは、制御部35から入力されるストップ信号に応じて、信号S2のパルスのダウンカウントを終了する。カウンタ部30aは、第1期間Ta1におけるアップカウントによるカウント値と、第2期間Tb1におけるダウンカウントによるカウント値との差分値であるカウント値「-100」を示す差分信号S3を出力する。
【0078】
時刻t4~時刻t5の期間において、判定部40は、差分信号S3の値である「-100」と閾値である「±40」とを比較する。第1閾値判定部41は、差分信号S3の信号値である「-100」が第1閾値「-40」よりも低いと判定し、計測対象の動きに起因する正のイベントが発生したことを検出する。なお、差分信号S3の信号値「-100」は第2閾値「+40」を超えないため、第2閾値判定部42は、負のイベントは発生していないと判定する。
【0079】
時刻t5~時刻t6の期間では、判定部40は、第1閾値判定部41及び第2閾値判定部42による判定結果に応じて、差分信号S3の信号値と正のイベントの発生とを示す動き信号S11を生成する。信号処理部130aのビット反転部60は、差分信号S3のビット値の反転処理を行い、階調信号S12を生成する。信号処理部130aは、第1サブフレームで生成された画素P1毎の動き信号S11を外部に出力する。また、信号処理部130aは、第1サブフレームで生成された画素P1毎の階調信号S12を外部に出力し得る。信号処理部130aは、第1サブフレームの各画素P1の階調信号S12及び動き信号S11を、メモリ部75aに保持させる。
【0080】
時刻t6~時刻t7の期間では、領域検出部81は、各画素P1の動き信号S11に基づいて関心領域(RoI)、即ち注目領域を決定し、注目領域を示す領域信号S15を生成する。信号制御部90は、領域信号S15に応じて光源制御部210へ制御信号を供給し、光源220の発光位置、光密度、出力パワー等を制御する。
【0081】
光源220によって注目領域に対する発光が行われる場合、信号処理部130bの演算部65は、各画素P2により得られる信号S4を用いて注目領域までの距離を算出する処理(Depth演算処理)を行う。演算部65は、画素P2毎の距離信号S13を生成し、生成した距離信号S13を出力し得る。
【0082】
第2サブフレームの時刻t7では、カウンタ部30aのカウント値がリセットされ、スタート信号に応じて、カウンタ部30aによる信号S2aのパルスのアップカウントが開始される。時刻t8においてカウント値が基準値「255」に達すると、カウンタ部30aから制御部35にオーバーフロー信号が出力される。ダウンカウントの初期値として「255」が設定される。
【0083】
時刻t8において、カウンタ部30aは、信号S2aのパルスのダウンカウントを開始する。制御部35は、オーバーフロー信号を用いて第1期間Ta2の長さを把握し、第2期間Tb2の長さが第1期間Ta2の長さと同一になるように、ストップ信号を生成してカウンタ部30aに供給する。
【0084】
時刻t9において、カウンタ部30aは、ストップ信号に応じて、信号S2aのパルスのダウンカウントを終了する。カウンタ部30aは、第1期間Ta2におけるカウント値と、第2期間Tb2におけるカウント値との差分値「+20」を示す差分信号S3を出力する。
【0085】
時刻t9~時刻t10の期間において、判定部40は、差分信号S3の値「+20」と閾値である「±40」とを比較する。第1閾値判定部41及び第2閾値判定部42は、差分信号S3の値が閾値以内であると判断し、正のイベントと負のイベントが共に発生していないと判定する。
【0086】
時刻t10~時刻t12の期間では、判定部40は、差分信号S3の信号値とイベントが発生していないことを示す動き信号S11を生成する。ビット反転部60は、差分信号S3のビット値の反転処理を行い、階調信号S12を生成する。信号処理部130aは、第2サブフレームで生成された画素P1毎の動き信号S11を外部に出力する。信号処理部130aは、第2サブフレームで生成された画素P1毎の階調信号S12も外部へ出力し得る。また、信号処理部130aは、第2サブフレームの各画素P1の階調信号S12及び動き信号S11を、メモリ部75aに保持させる。
【0087】
図5に示す第Nサブフレームの時刻t13では、カウンタ部30aのカウント値のリセット後、スタート信号に応じて、カウンタ部30aによる信号S2aのパルスのアップカウントが開始される。時刻t14においてカウント値が基準値「255」に達すると、カウンタ部30aから制御部35にオーバーフロー信号が出力される。ダウンカウントの初期値として「255」が設定される。
【0088】
時刻t14において、カウンタ部30aは、信号S2aのパルスのダウンカウントを開始する。制御部35は、オーバーフロー信号を用いて第1期間Tanの長さを把握し、第2期間Tbnの長さと第1期間Tanの長さとが同じになるように、ストップ信号をカウンタ部30aに供給する。
【0089】
時刻t15において、カウンタ部30aは、ストップ信号に応じて、信号S2aのパルスのダウンカウントを終了する。カウンタ部30aは、第1期間Tanにおけるカウント値と、第2期間Tbnにおけるカウント値との差分値「-20」を示す差分信号S3を出力する。
【0090】
時刻t16~時刻t17の期間において、判定部40は、差分信号S3の値「-20」と閾値である「±40」とを比較する。第1閾値判定部41及び第2閾値判定部42は、差分信号S3の値が閾値以内であると判断し、正のイベントと負のイベントが共に発生していないと判定する。
【0091】
時刻t17~時刻t18の期間では、判定部40は、差分信号S3の信号値とイベントが発生していないことを示す動き信号S11を生成する。ビット反転部60は、差分信号S3のビット値の反転処理を行い、階調信号S12を生成する。信号処理部130aは、第Nサブフレームで生成された画素P1毎の動き信号S11を外部に出力する。信号処理部130aは、第Nサブフレームで生成された画素P1毎の階調信号S12も外部へ出力し得る。また、信号処理部130aは、第Nサブフレームの各画素P1の階調信号S12及び動き信号S11を、メモリ部75aに保持させる。
【0092】
時刻t19~時刻t20の期間では、信号処理部130aの加算部70aは、メモリ部75aに保持された各サブフレームの動き信号S11を用いて、動く対象物の移動方向を算出する。加算部70aは、対象物の移動に合わせて、複数のサブフレームにおける各画素P1の階調信号S12の位置合わせを行い、各サブフレームの階調信号S12を加算平均する。信号処理部130aは、加算部70aにより平均化された階調信号S12を外部へ出力し得る。
【0093】
このように、本実施の形態に係る光検出素子1は、動き信号S11及び階調信号S12を出力可能な第1回路部140aと、距離信号S13を出力可能な第2回路部140bを有する。動き信号と階調信号と距離信号を得ることができ、高い検出性能を有する光検出素子を実現することが可能となる。
【0094】
また、本実施の形態では、受光素子としてSPAD素子が用いられる。このため、低照度や低コントラストの計測時に検出精度が低下することを抑制することができる。精度よく計測対象物の動き検出と、階調値出力と、距離計測を行うことが可能となる。また、信号の平均化処理によってS/N比を向上させ、ノイズの少ない階調信号、距離信号を得ることができる。
【0095】
図6A及び図6Bは、実施の形態に係る光検出システムの動作例を示すフローチャートである。この図6A及び図6Bのフローチャートを参照して、光検出システム200の動作例について説明する。
【0096】
図6Aに示すステップS100において、制御部35からのスタート信号に応じてカウンタ部30aのカウント値がリセットされ、カウンタ部30aは、光子の受光に応じて生成される信号S2aのパルスのアップカウントを開始する。カウント値が基準値(例えばフルコード値「255」)になると、カウンタ部30aは、オーバーフロー信号を制御部35へ出力する。ステップS110において、カウンタ部30aは、信号S2aのパルスのダウンカウントを開始する。
【0097】
ステップS120において、カウンタ部30aは、制御部35からのストップ信号に応じてダウンカウントを停止する。カウンタ部30aは、カウント結果を示す差分信号S3を判定部40と信号処理部130aとに出力する。
【0098】
ステップS130において、判定部40は、差分信号S3の信号値と閾値との比較によって、イベントの発生の有無を判定する。ステップS140では、判定部40は、判定結果に応じて、差分信号S3の信号値とイベントの発生の有無とを示す動き信号S11を、信号処理部130aへ出力する。また、判定部40は、動き信号S11を光検出素子1の外部へ出力する。
【0099】
ステップS150において、ビット反転部60は、差分信号S3に対してビット反転処理を行って階調信号S12を生成する。ステップS160では、信号処理部130aは、階調信号S12の平均化処理を実行するか否かを把握する。平均化処理を行わない場合(ステップS160の「No」)の場合、処理はステップS170へ進む。ステップS170では、信号処理部130aは、ビット反転部60により生成される各画素P1の階調信号S12を、光検出素子1の外部へ出力する。
【0100】
平均化処理を行う場合(ステップS160の「Yes」)の場合は、処理はステップS180へ進む。なお、平均化処理の有無は、光検出素子1により自動的に設定されてもよく、ユーザにより指定されてもよい。
【0101】
ステップS180において、加算部70aは、動き信号S11により求められる対象物の移動方向に応じて、メモリ部75aに保持されるフレーム毎の各画素P1の階調信号S12をシフトして加算平均する。ステップS190では、信号処理部130aは、加算部70aによって平均化された階調信号S12を外部へ出力し得る。
【0102】
上述したステップS140の後、処理は図6Bに示すステップS200にも進む。ステップS200において、信号処理部130aの領域検出部81は、各画素P1の動き信号S11に基づき、注目領域を示す領域信号S15を生成する。ステップS210において、信号制御部90は、領域信号S15に応じて光源制御部210に制御信号を出力し、光源220の発光位置等を制御する。
【0103】
ステップS220において、信号処理部130bの演算部65は、各画素P2の信号S4に基づき、注目領域の距離を示す距離信号S13を生成する。ステップS230では、信号処理部130aは、距離信号S13を利用して光源220の制御を行うか否かを把握する。光源220の制御を行う場合(ステップS230の「Yes」)の場合は、処理はステップS240へ進む。なお、距離信号S13を用いた光源制御の実行の有無は、自動的に設定されてもよく、ユーザにより指定されてもよい。
【0104】
ステップS240において、距離検出部82は、各画素P2の距離信号S13を用いて注目領域を抽出し、注目領域までの距離を示す距離信号S16を生成する。信号制御部90は、距離信号S16に応じて光源制御部210に制御信号を出力し、光源220の発光位置等を制御する。ステップS240の後、ステップS200からステップS220までの処理を再び実行する。
【0105】
ステップS230の「No」の場合、即ち光源220の制御を行わない場合、処理はステップS250へ進む。ステップS250では、信号処理部130bは、各画素P2の距離信号S13を光検出素子1の外部へ出力し得る。ステップS250の後、光検出システム200は、フローチャートに示す処理を終了する。
【0106】
図7は、実施の形態に係る光検出素子の断面構成の一例を示す模式図である。光検出素子1は、第1基板101と、第2基板102と、第3基板103とがZ軸方向に積層された構成を有している。第1基板101、第2基板102、及び第3基板103は、それぞれ、半導体基板(例えばシリコン基板)によって構成される。
【0107】
第1基板101、第2基板102、及び第3基板103は、図7に示すように、それぞれトランジスタが設けられる第1面11S1,12S1,13S1と、第2面11S2,12S2,13S2とを有する。第1面11S1,12S1,13S1は、それぞれ、トランジスタ等の素子が形成される素子形成面である。第1面11S1,12S1,13S1の各々には、ゲート電極、ゲート酸化膜等が設けられる。
【0108】
第1基板101には、受光素子10a、10bを有する複数の画素P1、P2が設けられる。画素P1及び画素P2は、それぞれ、図7に模式的に示すように、アバランシェ増倍が可能な増倍部17(増倍領域)を有する。第1基板101の第2面11S2側には、光を集光するレンズ部16、フィルタ15等が画素P毎に設けられる。図7では、緑色フィルタと赤外光を遮光するフィルタ(IR-Cut filter)を有するG画素である画素P1、赤色フィルタ及び青色フィルタを有するIR画素である画素P2を図示している。
【0109】
第1基板101の第1面11S1には、図7に示すように、配線層111が設けられる。また、第2基板102の第1面12S1には配線層121が設けられ、第2基板102の第2面12S2には配線層122が設けられる。第3基板103の第1面13S1には、配線層131が設けられる。配線層111,121,122,131は、例えば、導体膜および絶縁膜を含み、複数の配線およびビア等を有する。配線層111,121,122,131の各々は、例えば2層以上の配線を含む。
【0110】
配線層111,121,122,131は、例えば、複数の配線が層間絶縁層(層間絶縁膜)を間に積層された構成を有している。配線層は、アルミニウム(Al)、銅(Cu)、タングステン(W)、ポリシリコン(Poly-Si)等を用いて形成される。層間絶縁層は、一例として、酸化シリコン(SiO)、窒化シリコン(SiN)、及び酸窒化シリコン(SiON)等のうちの1種よりなる単層膜、又はこれらのうちの2種以上よりなる積層膜により形成される。
【0111】
なお、第1基板101と配線層111とを併せて、第1基板101(又は第1の回路層)ということもできる。また、第2基板102と配線層121,122とを併せて、第2基板102(又は第2の回路層)ということもできる。第3基板103と配線層131とを併せて、第3基板103(又は第3の回路層)ということもできる。
【0112】
図7に示す例では、第1基板101と第2基板102とは、電極間の接合により、トランジスタ等の素子がそれぞれ形成される第1面11S1と第1面12S1が互いに対向するように積層される。即ち、第1基板101と第2基板102とは、各々の表面同士が互いに対向するように接合される。第2基板102と第3基板103とは、電極間の接合により、第2面12S2とトランジスタ等の素子が形成される第1面13S1とが互いに対向するように積層される。即ち、第2基板102及び第3基板103は、第2基板102の裏面と第3基板103の表面が互いに対向するように接合される。
【0113】
一例として、銅(Cu)からなる金属電極間の接合、即ちCu-Cu接合によって、第1基板101と第2基板102とが貼り合わされる。また、第2基板102と第3基板103も、例えば、Cu-Cu接合によって貼り合わされる。なお、接合に用いる電極は、銅(Cu)以外の金属材料、例えばニッケル(Ni)、コバルト(Co)、スズ(Sn)等により構成されてもよいし、他の材料により構成されてもよい。
【0114】
第2基板102及び配線層121,122は、複数の貫通電極80を有する。貫通電極80は、第2基板102を貫通する電極である。貫通電極80は、Z軸方向に延び、第2基板102の配線層122内に達するように形成される。貫通電極80は、例えば、タングステン(W)、アルミニウム(Al)、コバルト(Co)、モリブデン(Mo)、ルテニウム(Ru)等によって構成される。貫通電極80によって、第2基板102の第1面12S1側に設けられた回路と、第3基板103の第1面13S1側に設けられた回路とが電気的に接続される。
【0115】
第1基板101では、パッド(PAD)が設けられる。パッドは、例えばアルミニウム(Al)を用いて形成される電極である。なお、パッドは、他の金属材料を用いて構成されてもよい。光検出素子1には、複数のパッドが配置される。パッドは、例えば、外部から入力される電源電圧を、第1基板101~第3基板103の各回路に供給し得る。
【0116】
[作用・効果]
本実施の形態に係る光検出素子(光検出素子1)は、光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素(画素P1)と、第1光電流に基づく信号を取得し、対象物の動きに関する第1信号(動き信号S11)と階調値に関する第2信号(階調信号S12)を出力可能な第1回路部(第1回路部140a)と、光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素(画素P2)と、第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号(距離信号S13)を出力可能な第2回路部(第2回路部140b)とを備える。
【0117】
本実施の形態に係る光検出素子1は、動き信号S11及び階調信号S12を出力可能な第1回路部140aと、距離信号S13を出力可能な第2回路部140bを有する。このため、各画素Pの動き信号、階調信号、及び距離信号を得ることができる。高い検出性能を有する光検出素子を実現することが可能となる。
【0118】
次に、本開示の変形例について説明する。以下では、上記実施の形態と同様の構成要素については同一の符号を付し、適宜説明を省略する。
【0119】
(1-1.変形例1)
上述した実施の形態では、光検出素子1の構成例について説明したが、光検出素子1を2つの基板が積層された構成としてもよい。図8は、変形例1に係る光検出素子の構成例を示す図である。光検出素子1は、第1基板101及び第2基板102がZ軸方向に積層された構成(2層構成)を有する。この場合、例えば、画素回路部120a,120b、及び信号処理部130a,130bを、第2基板102に設けるようにしてもよい。
【0120】
(1-2.変形例2)
上述した実施の形態および変形例では、画素P1及び画素P2の配置例について説明したが、画素の配置はこれに限らない。例えば、図9A又は図9Bに示す例のように、画素P1と画素P2を配置してもよい。図9A図9Bに示す例では、画素部100において、画素P1と、IR画素である画素P2とが交互に配置される。
【0121】
画素P2の大きさ、数等は図示した例に限られず、適宜変更可能である。図10図14は、変形例2に係る光検出素子の画素の配置例を示す図である。図10に示すように、画素P1及び画素P2は、共に同じ大きさを有していてもよい。画素部100において、複数の画素P2からなる画素ブロックを繰り返し配置してもよい。図11に示すように、2×2の4個の画素P2からなる画素ブロックを配置してもよい。なお、画素P2は、図12に示すように、4個分の画素P1に相当する大きさを有していてもよい。また、例えば、図13に示すように、画素部100において、4×4の16個の画素P2からなる画素ブロックを配置するようにしてもよい。なお、画素P2は、図14に示すように、16個分の画素P1に相当する大きさを有していてもよい。
【0122】
(1-3.変形例3)
上述した実施の形態では、同期信号に同期してカウントを開始する例について説明した。しかし、光検出素子1は、同期信号とは非同期のスタート信号によってカウントを開始するようにしてもよい。光検出素子1は、同期信号に同期してカウント動作のタイミング制御を行う場合と比較して、高速動作を行うことが可能となる。
【0123】
図15は、変形例3に係る光検出システムの動作例を示すタイミングチャートである。図15に示す例では、光検出素子1の制御部35は、同期信号とは非同期にスタート信号をカウンタ部30aに供給し得る。これにより、上述した図5の同期動作の場合と比較して、カウント動作の終了タイミングから次のカウント動作の開始タイミングまでの時間(図15に示す時刻t3~t6の期間等)を短縮することができる。このため、動き信号、階調信号、距離信号の検出を高速に行うことが可能となる。
【0124】
(1-4.変形例4)
図16は、変形例4に係る光検出素子の構成例を示す図である。図16は、画素P1及び第1回路部140aの構成例を示している。カウンタ部30aは、入力部31に入力される信号S2aをカウント可能な第1カウンタ32及び第2カウンタ33を有していてもよい。例えば、第1カウンタ32は、第1期間Taにおける信号S2aのパルス数をカウント可能に構成される。また、第2カウンタ33は、第2期間Tbにおける信号S2aのパルス数をカウント可能に構成される。カウンタ部30aは、第1カウンタ32のカウント値と第2カウンタ33のカウント値との差分に基づく差分信号S3を生成して出力し得る。本変形例の場合も、上記した実施の形態と同様の効果を得ることができる。
【0125】
<3.使用例>
上述した光検出素子1は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、テレビジョンや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
【0126】
<4.応用例>
(移動体への応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0127】
図17は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【0128】
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図17に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
【0129】
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【0130】
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0131】
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【0132】
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【0133】
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【0134】
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
【0135】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0136】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【0137】
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図17の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【0138】
図18は、撮像部12031の設置位置の例を示す図である。
【0139】
図18では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
【0140】
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0141】
なお、図18には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
【0142】
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【0143】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0144】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【0145】
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
【0146】
以上、本開示に係る技術が適用され得る移動体制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、例えば、光検出素子1は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、高精細な撮影画像を得ることができ、移動体制御システムにおいて撮影画像を利用した高精度な制御を行うことができる。
【0147】
(内視鏡手術システムへの応用例)
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
【0148】
図19は、本開示に係る技術(本技術)が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
【0149】
図19では、術者(医師)11131が、内視鏡手術システム11000を用いて、患者ベッド11133上の患者11132に手術を行っている様子が図示されている。図示するように、内視鏡手術システム11000は、内視鏡11100と、気腹チューブ11111やエネルギー処置具11112等の、その他の術具11110と、内視鏡11100を支持する支持アーム装置11120と、内視鏡下手術のための各種の装置が搭載されたカート11200と、から構成される。
【0150】
内視鏡11100は、先端から所定の長さの領域が患者11132の体腔内に挿入される鏡筒11101と、鏡筒11101の基端に接続されるカメラヘッド11102と、から構成される。図示する例では、硬性の鏡筒11101を有するいわゆる硬性鏡として構成される内視鏡11100を図示しているが、内視鏡11100は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
【0151】
鏡筒11101の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡11100には光源装置11203が接続されており、当該光源装置11203によって生成された光が、鏡筒11101の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者11132の体腔内の観察対象に向かって照射される。なお、内視鏡11100は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
【0152】
カメラヘッド11102の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU: Camera Control Unit)11201に送信される。
【0153】
CCU11201は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡11100及び表示装置11202の動作を統括的に制御する。さらに、CCU11201は、カメラヘッド11102から画像信号を受け取り、その画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
【0154】
表示装置11202は、CCU11201からの制御により、当該CCU11201によって画像処理が施された画像信号に基づく画像を表示する。
【0155】
光源装置11203は、例えばLED(Light Emitting Diode)等の光源から構成され、術部等を撮影する際の照射光を内視鏡11100に供給する。
【0156】
入力装置11204は、内視鏡手術システム11000に対する入力インタフェースである。ユーザは、入力装置11204を介して、内視鏡手術システム11000に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡11100による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示等を入力する。
【0157】
処置具制御装置11205は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具11112の駆動を制御する。気腹装置11206は、内視鏡11100による視野の確保及び術者の作業空間の確保の目的で、患者11132の体腔を膨らめるために、気腹チューブ11111を介して当該体腔内にガスを送り込む。レコーダ11207は、手術に関する各種の情報を記録可能な装置である。プリンタ11208は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
【0158】
なお、内視鏡11100に術部を撮影する際の照射光を供給する光源装置11203は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置11203において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド11102の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
【0159】
また、光源装置11203は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド11102の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
【0160】
また、光源装置11203は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置11203は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
【0161】
図20は、図19に示すカメラヘッド11102及びCCU11201の機能構成の一例を示すブロック図である。
【0162】
カメラヘッド11102は、レンズユニット11401と、撮像部11402と、駆動部11403と、通信部11404と、カメラヘッド制御部11405と、を有する。CCU11201は、通信部11411と、画像処理部11412と、制御部11413と、を有する。カメラヘッド11102とCCU11201とは、伝送ケーブル11400によって互いに通信可能に接続されている。
【0163】
レンズユニット11401は、鏡筒11101との接続部に設けられる光学系である。鏡筒11101の先端から取り込まれた観察光は、カメラヘッド11102まで導光され、当該レンズユニット11401に入射する。レンズユニット11401は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
【0164】
撮像部11402は、撮像素子で構成される。撮像部11402を構成する撮像素子は、1つ(いわゆる単板式)であってもよいし、複数(いわゆる多板式)であってもよい。撮像部11402が多板式で構成される場合には、例えば各撮像素子によってRGBそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部11402は、3D(Dimensional)表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者11131は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部11402が多板式で構成される場合には、各撮像素子に対応して、レンズユニット11401も複数系統設けられ得る。
【0165】
また、撮像部11402は、必ずしもカメラヘッド11102に設けられなくてもよい。例えば、撮像部11402は、鏡筒11101の内部に、対物レンズの直後に設けられてもよい。
【0166】
駆動部11403は、アクチュエータによって構成され、カメラヘッド制御部11405からの制御により、レンズユニット11401のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部11402による撮像画像の倍率及び焦点が適宜調整され得る。
【0167】
通信部11404は、CCU11201との間で各種の情報を送受信するための通信装置によって構成される。通信部11404は、撮像部11402から得た画像信号をRAWデータとして伝送ケーブル11400を介してCCU11201に送信する。
【0168】
また、通信部11404は、CCU11201から、カメラヘッド11102の駆動を制御するための制御信号を受信し、カメラヘッド制御部11405に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
【0169】
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてCCU11201の制御部11413によって自動的に設定されてもよい。後者の場合には、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡11100に搭載されていることになる。
【0170】
カメラヘッド制御部11405は、通信部11404を介して受信したCCU11201からの制御信号に基づいて、カメラヘッド11102の駆動を制御する。
【0171】
通信部11411は、カメラヘッド11102との間で各種の情報を送受信するための通信装置によって構成される。通信部11411は、カメラヘッド11102から、伝送ケーブル11400を介して送信される画像信号を受信する。
【0172】
また、通信部11411は、カメラヘッド11102に対して、カメラヘッド11102の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
【0173】
画像処理部11412は、カメラヘッド11102から送信されたRAWデータである画像信号に対して各種の画像処理を施す。
【0174】
制御部11413は、内視鏡11100による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部11413は、カメラヘッド11102の駆動を制御するための制御信号を生成する。
【0175】
また、制御部11413は、画像処理部11412によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置11202に表示させる。この際、制御部11413は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部11413は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具11112の使用時のミスト等を認識することができる。制御部11413は、表示装置11202に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者11131に提示されることにより、術者11131の負担を軽減することや、術者11131が確実に手術を進めることが可能になる。
【0176】
カメラヘッド11102及びCCU11201を接続する伝送ケーブル11400は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
【0177】
ここで、図示する例では、伝送ケーブル11400を用いて有線で通信が行われていたが、カメラヘッド11102とCCU11201との間の通信は無線で行われてもよい。
【0178】
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、内視鏡11100のカメラヘッド11102に設けられた撮像部11402に好適に適用され得る。撮像部11402に本開示に係る技術を適用することにより、撮像部11402を高感度化することができ、高精細な内視鏡11100を提供することができる。
【0179】
以上、実施の形態、変形例および適用例ならびに応用例を挙げて本開示を説明したが、本技術は上記実施の形態等に限定されるものではなく、種々の変形が可能である。例えば、上述した変形例は、上記実施の形態の変形例として説明したが、各変形例の構成を適宜組み合わせることができる。
【0180】
本開示の一実施形態の光検出素子は、光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部とを備える。このため、各画素の動き信号、階調信号、及び距離信号を得ることができ、高い検出性能を有する光検出素子を実現することが可能となる。
なお、本明細書中に記載された効果はあくまで例示であってその記載に限定されるものではなく、他の効果があってもよい。また、本開示は以下のような構成をとることも可能である。
(1)
光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、
前記第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、
光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、
前記第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部と
を備える光検出素子。
(2)
前記第1受光素子及び前記第2受光素子は、それぞれ、単一光子アバランシェダイオードである
前記(1)に記載の光検出素子。
(3)
前記第1画素は、可視光を受光して第1光電流を出力可能な前記第1受光素子を有する画素であり、
前記第2画素は、非可視光を受光して第2光電流を出力可能な前記第2受光素子を有する画素である
前記(1)または(2)に記載の光検出素子。
(4)
前記第1回路部は、前記第1信号として、前記第1光電流に基づく電圧信号の第1期間及び第2期間におけるパルス数の差分に基づく信号を出力可能である
前記(1)から(3)のいずれか1つに記載の光検出素子。
(5)
前記第1回路部は、前記第2信号として、前記第1期間及び前記第2期間における前記電圧信号のパルス数の和に基づく信号を出力可能である
前記(1)から(4)のいずれか1つに記載の光検出素子。
(6)
前記第1回路部は、前記第1期間における前記電圧信号のパルス数と前記第2期間における前記電圧信号のパルス数との差分に基づく信号を出力可能である第1カウンタ部を有し、
前記第1カウンタ部は、前記第1期間における前記電圧信号のパルス数が基準値に達したことを示す検出信号を出力可能である
前記(1)から(5)のいずれか1つに記載の光検出素子。
(7)
前記第1カウンタ部は、アップダウンカウンタを有する
前記(6)に記載の光検出素子。
(8)
前記第1回路部は、前記第1カウンタ部を制御可能な制御部を有し、
前記制御部は、前記第1期間の終了を示す前記検出信号に基づき、前記第2期間の終了を示す信号を前記第1カウンタ部へ出力可能である
前記(6)または(7)に記載の光検出素子。
(9)
前記制御部は、前記第1期間及び前記第2期間の各々の長さが同一となるように、前記第2期間の終了を示す信号を前記第1カウンタ部へ出力可能である
前記(8)に記載の光検出素子。
(10)
前記制御部は、タイミングジェネレータを有する
前記(8)または(9)に記載の光検出素子。
(11)
前記第1光電流に基づく電圧信号を生成可能な第1生成部と、
前記第2光電流に基づく電圧信号を生成可能な第2生成部と
を有する
前記(1)から(10)のいずれか1つに記載の光検出素子。
(12)
前記第1生成部及び前記第2生成部は、それぞれインバータを有する
前記(11)に記載の光検出素子。
(13)
複数の前記第1受光素子及び前記第2受光素子を有する第1基板と、
前記第1回路部及び前記第2回路部の少なくとも一部を有し、前記第1基板に積層される第2基板と
を有する
前記(1)から(12)のいずれか1つに記載の光検出素子。
(14)
光源を制御可能な光源制御部を有する
前記(1)から(13)のいずれか1つに記載の光検出素子。
(15)
前記第1回路部は、前記第1信号に基づいて、動く対象物の領域に関する第1領域信号を生成可能である
前記(14)に記載の光検出素子。
(16)
前記光源制御部は、前記第1領域信号に基づいて、前記光源の発光位置、光密度、出力パワーの少なくとも一つを制御可能である
前記(15)に記載の光検出素子。
(17)
前記第2回路部は、前記第2光電流に基づく電圧信号のパルス数をカウント可能な複数の第2カウンタ部を有し、
前記第2回路部は、前記光源の発光に応じて、前記電圧信号のパルス数に基づく前記第3信号を出力可能である
前記(15)または(16)に記載の光検出素子。
(18)
前記第2回路部は、前記第1領域信号に基づいて、動く対象物までの距離に関する前記第3信号を出力可能である
前記(15)から(17)のいずれか1つに記載の光検出素子。
(19)
前記光源制御部は、前記第3信号に基づいて、前記光源の発光位置、光密度、出力パワーの少なくとも一つを制御可能である
前記(18)に記載の光検出素子。
(20)
光源と、
光検出素子と、
前記光検出素子から出力される信号に基づいて前記光源を制御可能な光源制御部と
を備え、
前記光検出素子は、
光を受光して第1光電流を出力可能な第1受光素子を有する複数の第1画素と、
前記第1光電流に基づく信号を取得し、対象物の動きに関する第1信号と階調値に関する第2信号を出力可能な第1回路部と、
光を受光して第2光電流を出力可能な第2受光素子を有する複数の第2画素と、
前記第2光電流に基づく信号を取得し、対象物までの距離に関する第3信号を出力可能な第2回路部と
を有する光検出システム。
【符号の説明】
【0181】
1…光検出素子、10a,10b…受光素子、20a,20b…生成部、25a,25b…供給部、30a,30b…カウンタ部、35…制御部、40…判定部、60…ビット反転部、70a,70b…加算部、75a,75b…メモリ部、100…画素部、110…処理部、120a,120b…画素回路部、130a,130b…信号処理部、140a…第1回路部、140b…第2回路部。
図1
図2
図3A
図3B
図4A
図4B
図5
図6A
図6B
図7
図8
図9A
図9B
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20