IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

特開2022-185168受光素子およびその駆動方法、並びに、測距システム
<>
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図1
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図2
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図3
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図4
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図5
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図6
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図7
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図8
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図9
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図10
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図11
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図12
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図13
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図14
  • 特開-受光素子およびその駆動方法、並びに、測距システム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022185168
(43)【公開日】2022-12-14
(54)【発明の名称】受光素子およびその駆動方法、並びに、測距システム
(51)【国際特許分類】
   G01S 17/894 20200101AFI20221207BHJP
   G01S 7/481 20060101ALI20221207BHJP
   H04N 5/359 20110101ALI20221207BHJP
   H04N 5/376 20110101ALI20221207BHJP
【FI】
G01S17/894
G01S7/481 A
H04N5/359
H04N5/376 500
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2021092650
(22)【出願日】2021-06-02
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100121131
【弁理士】
【氏名又は名称】西川 孝
(74)【代理人】
【識別番号】100082131
【弁理士】
【氏名又は名称】稲本 義雄
(74)【代理人】
【識別番号】100168686
【弁理士】
【氏名又は名称】三浦 勇介
(72)【発明者】
【氏名】佐藤 正隆
【テーマコード(参考)】
5C024
5J084
【Fターム(参考)】
5C024CX11
5C024CY17
5C024EX03
5C024EX12
5C024GX03
5C024GX16
5C024GX18
5C024GY39
5C024GY41
5C024HX47
5C024HX50
5J084AA04
5J084AA05
5J084AA13
5J084AB01
5J084AB07
5J084AC02
5J084AC04
5J084AC06
5J084AC07
5J084AC08
5J084AD02
5J084AD05
5J084BA04
5J084BA20
5J084BA34
5J084BA36
5J084BA40
5J084BB02
5J084CA04
5J084CA10
5J084CA20
5J084CA34
5J084CA44
5J084CA49
5J084CA65
5J084CA67
5J084CA69
5J084EA04
5J084EA22
(57)【要約】
【課題】高速動作時の転送効率を維持しつつ、低速時の測距精度を改善する。
【解決手段】受光素子は、光電変換部と、光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、転送トランジスタをオフさせるオフ制御電圧として、電圧VSSと電圧VSS1とを切り替え制御する電圧制御部とを備える。本開示は、例えば、被写体へ照射光を照射し、被写体からの反射光を受光することにより被写体までの距離を測定する受光素子等に適用できる。
【選択図】図9
【特許請求の範囲】
【請求項1】
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える受光素子。
【請求項2】
前記画素は、
第1および第2の転送トランジスタの2つの前記転送トランジスタと、
前記第1の転送トランジスタにより転送された前記電荷を保持する第1の電荷蓄積部と、
前記第2の転送トランジスタにより転送された前記電荷を保持する第2の電荷蓄積部と
を有し、
前記光電変換部は、所定の発光源から照射された照射光が物体で反射されて返ってきた反射光を受光して光電変換し、
前記電圧制御部は、前記第1および第2の転送トランジスタの前記オフ制御電圧として、第1の電圧と、前記第1の電圧よりも低い第2の電圧とを切り替える
請求項1に記載の受光素子。
【請求項3】
前記第1および第2の転送トランジスタは、所定の変調周波数で交互にオンされ、
前記電圧制御部は、前記所定の変調周波数に応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
請求項2に記載の受光素子。
【請求項4】
前記所定の変調周波数には、第1の変調周波数と、前記第1の変調周波数より低速の第2の変調周波数とがあり、
前記電圧制御部は、前記第1の変調周波数である場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記第2の変調周波数である場合に、前記オフ制御電圧を前記第2の電圧に切り替える
請求項3に記載の受光素子。
【請求項5】
前記電圧制御部は、前記所定の変調周波数が所定の閾値周波数より大である場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記所定の変調周波数が所定の閾値周波数以下である場合に、前記オフ制御電圧を前記第2の電圧に切り替える
請求項3に記載の受光素子。
【請求項6】
前記電圧制御部は、動作モードに応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
請求項2に記載の受光素子。
【請求項7】
前記電圧制御部は、前記動作モードが距離を測定する測距モードである場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記動作モードが2次元の輝度画像を生成する2D画像撮影モードである場合に、前記オフ制御電圧を前記第2の電圧に切り替える
請求項6に記載の受光素子。
【請求項8】
前記電圧制御部は、受光量に応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
請求項2に記載の受光素子。
【請求項9】
前記電圧制御部は、前記受光量が大光量ではないと判定された場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記受光量が大光量であると判定された場合に、前記オフ制御電圧を前記第2の電圧に切り替える
請求項8に記載の受光素子。
【請求項10】
前記受光量が大光量であると判定される場合は、画素データを取得した画素数に対して所定数以上または所定割合以上の画素データが飽和している場合である
請求項9に記載の受光素子。
【請求項11】
前記電圧制御部は、前記オフ制御電圧として、第1の電圧と、前記第1の電圧よりも低い第2の電圧とを切り替えるトランジスタを有する
請求項1に記載の受光素子。
【請求項12】
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素を備える受光素子が、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する
受光素子の駆動方法。
【請求項13】
照射光を発光する発光部と、
前記照射光が物体で反射されて返ってきた反射光を受光する受光素子と
を備え、
前記受光素子は、
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える
測距システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、受光素子およびその駆動方法、並びに、測距システムに関し、特に、高速動作時の転送効率を維持しつつ、低速時の測距精度を改善できるようにした受光素子およびその駆動方法、並びに、測距システムに関する。
【背景技術】
【0002】
間接ToF(Time of Flight)方式を利用した受光素子が知られている。間接ToF方式の受光素子では、反射光を光電変換して生成された信号電荷を、例えば、2つの転送ゲートによって2つの電荷蓄積部に振り分け、それらの信号電荷の配分比から距離が算出される。
【0003】
間接ToF方式の距離の測定では、2つの電荷蓄積部に振り分ける周波数(変調周波数)を複数設定して動作させることができるため、同一のデバイスで高速な周波数と低速な周波数の両方に対応しなければならない。高速な場合はフォトダイオードに蓄積される電荷が少ないが転送時間が短くなるため、転送に有利な設計をする必要がある。一方で、低速な場合はフォトダイオードに蓄積される電荷が多くなるため、電荷蓄積量を増やすことが重要となる。この2つはトレードオフの関係にあるため、同時に達成することが困難である。また、電荷蓄積量が小さい場合、デバイスは大光量の受光に弱くなる。
【0004】
例えば、2つの電荷蓄積部に転送された電荷を定期的に画素ドレイン電極にオーバーフローさせることで、フォトダイオードへ電子が逆流することを防止するようにした感度変調素子が提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2003-247809号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
間接ToF方式の受光素子では、上述したように、変調周波数を高速に設定して動作させる必要があり、従来のビューイングセンサと比較して、フォトダイオードの蓄積電荷量が少ない場合がある。そのため、フォトダイオードの飽和電荷量より多い余剰電荷が溢れ、本体の転送方向と異なる反対側の電荷蓄積部へ意図せず転送される場合があり得る。この場合、測距精度が低下する。
【0007】
本開示は、このような状況に鑑みてなされたものであり、高速動作時の転送効率を維持しつつ、低速時の測距精度を改善できるようにするものである。
【課題を解決するための手段】
【0008】
本開示の第1の側面の受光素子は、
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える。
【0009】
本開示の第2の側面の受光素子の駆動方法は、
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素を備える受光素子が、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する。
【0010】
本開示の第3の側面の測距システムは、
照射光を発光する発光部と、
前記照射光が物体で反射されて返ってきた反射光を受光する受光素子と
を備え、
前記受光素子は、
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える。
【0011】
本開示の第1乃至第3の側面においては、光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素を備える受光素子において、前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値が切り替え制御される。
【0012】
受光素子及び測距システムは、独立した装置であっても良いし、他の装置に組み込まれるモジュールであっても良い。
【図面の簡単な説明】
【0013】
図1】本開示の実施の形態である測距システムの構成例を示すブロック図である。
図2図1の受光素子の構成例を示すブロック図である。
図3】画素の回路構成例を示す図である。
図4】照射光の発光と画素の駆動を説明する図である。
図5】2Phase方式と4Phase方式によるデプス値の算出方法を説明する図である。
図6】2Phase方式と4Phase方式によるデプス値の算出方法を説明する図である。
図7】2Phase方式と4Phase方式によるデプス値の算出方法を説明する図である。
図8】高速動作時の転送トランジスタの駆動を説明する図である。
図9】高速動作時と比較した低速動作時の転送トランジスタの駆動を説明する図である。
図10】転送トランジスタオフ時の印加電圧制御をまとめた図である。
図11】オフ電圧制御部の構成例を示すブロック図である。
図12】オフ電圧制御処理を説明するフローチャートである。
図13】本開示の測距システムを搭載した電子機器としてのスマートフォンの構成例を示すブロック図である。
図14】車両制御システムの概略的な構成の一例を示すブロック図である。
図15】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【0014】
以下、添付図面を参照しながら、本開示の技術を実施するための形態(以下、実施の形態という)について説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。説明は以下の順序で行う。
1.測距システムの構成例
2.受光素子の構成例
3.画素回路の構成例
4.画素動作と画素信号の説明
5.転送トランジスタの駆動電圧制御
6.オフ電圧制御部の構成例
7.変形例
8.電子機器の構成例
9.移動体への応用例
【0015】
<1.測距システムの構成例>
図1は、本開示の実施の形態である測距システムの構成例を示すブロック図である。
【0016】
図1の測距システム1は、制御装置11、受光装置12、および、照明装置13を備える。受光装置12は、受光素子31およびレンズ32を備える。照明装置13は、LD21および発光部22を備える。
【0017】
制御装置11は、測距システム1全体の動作を制御する装置である。制御装置11は、受光装置12に対して、動作モードを指定して測定リクエストを供給する。また、制御装置11は、測定リクエストに応じて受光装置12が受光した結果に基づいて生成した測定データを、受光装置12から取得する。制御装置11は、測距システム1の構成の一部ではなく、測距システム1の外部に、例えば、測距システム1が組み込まれるホスト装置の制御部として設けられてもよい。
【0018】
ここで、制御装置11が受光装置12に対して指定可能な動作モードには、間接ToF方式による物体までの距離を測定する測距モードと、2次元の輝度画像を生成する2D画像撮影モードとがある。間接 ToF方式の測距は、照射光が発光されたタイミングから、反射光が受光されるタイミングまでの飛行時間を位相差として検出し、物体までの距離を算出する測距である。2D画像撮影モードは、通常のイメージセンサのように、受光量に応じた2次元の輝度画像を出力するモードである。
【0019】
受光装置12の受光素子31は、制御装置11から測定リクエストが供給されると、発光パルスをLD21へ供給し、発光部22から照射光を発光させる。そして、受光素子31は、物体41及び物体42等の被写体からの反射光を、レンズ32を介して受光する。レンズ32は、被写体から反射されてきた反射光を入射光として受光素子31の受光面に結像させる。なお、レンズ32の構成は任意であり、例えば、複数のレンズ群によりレンズ32を構成することも可能である。
【0020】
発光パルスは、発光部22の発光動作、および、受光素子31の受光動作の基準となるタイミング信号であり、例えば、オン(High)とオフ(Low)が変調周波数Fmodで繰り返されるパルス信号である。
【0021】
受光素子31は、動作モードが測距モードの場合には、反射光の受光結果に基づいて、被写体までの距離情報を格納したデプス画像を生成し、測定データとして、制御装置11へ出力する。一方、動作モードが2D画像撮影モードの場合には、受光装置12は、反射光の受光結果に基づいて、被写体の輝度画像を生成し、測定データとして、制御装置11へ出力する。受光素子31の具体的構成については、図2以降で詳述する。
【0022】
照明装置13のLD21は、例えば、発光部22を駆動するレーザドライバであり、受光素子31からの発光パルスに基づいて発光部22を駆動し、発光部22から照射光を出力させる。発光部22は、例えば、VCSEL LED(Vertical Cavity Surface Emitting LASER LED)などで構成され、LD21の駆動により照射光を発光する。照射光には、例えば、波長が約850nmから940nmの範囲の赤外光(IR光)が用いられる。
【0023】
<2.受光素子の構成例>
図2は、図1の受光素子31の構成例を示すブロック図である。
【0024】
受光素子31は、制御部51、画素アレイ部52、パルス生成回路53,タップ駆動部54、垂直駆動部55、カラム処理部56、水平駆動部57、信号処理部58、および、出力部59を含んで構成される。
【0025】
制御部51は、受光素子31全体の動作を制御する。例えば、制御部51は、制御装置11から供給される動作モードおよび測定リクエストを、不図示の入力部を介して取得する。また、制御部51は、動作モードに応じて、所定の変調周波数Fmodの発光パルスの生成をパルス生成回路53へ指示する。制御部51は、動作モードに応じた動作を行うための制御信号を、垂直駆動部55、カラム処理部56、水平駆動部57等へ供給する。さらに、制御部51は、動作モードに応じて信号処理部58が行う所定の信号処理、例えば、デプス画像の生成処理や、輝度画像の生成処理などを、信号処理部58へ指示する。
【0026】
画素アレイ部52には、複数の画素61が行列状に2次元配置されている。画素61の回路構成については図3を参照して後述するが、画素アレイ部52に2次元配置された各画素61は、受光した光量に応じた電荷を生成する光電変換部としてのフォトダイオード71と、フォトダイオード71で生成された電荷を蓄積する2つのタップ(FD73)を有している。この2つのタップを、第1タップおよび第2タップとも称する。
【0027】
パルス生成回路53は、制御部51の制御にしたがい、所定の変調周波数Fmodの発光パルスを生成し、照明装置13のLD21へ出力する。発光パルスの変調周波数Fmodは、低速駆動時には、例えば、20MHzに設定され、高速駆動時には、100MHzに設定される。なお、この変調周波数はあくまで一例であり、この数値に限られない。
【0028】
また、パルス生成回路53は、変調周波数Fmodの発光パルスに対応した駆動信号GDAおよびGDBを生成し、タップ駆動部54へ供給する。駆動信号GDAは、各画素61の光電変換部で生成された電荷を第1タップへ転送するための駆動信号であり、駆動信号GDBは、各画素61の光電変換部で生成された電荷を第2タップへ転送するための駆動信号である。駆動信号GDAと駆動信号GDBは、一方に対して他方の位相が反転した信号となっている。
【0029】
タップ駆動部54は、パルス生成回路53から供給される、2つの駆動信号GDAおよびGDBを分配することで画素列単位の駆動信号GDA’と駆動信号GDB’を生成して、画素アレイ部52の各画素列に供給する。タップ駆動部54は、画素アレイ部52の画素列単位に駆動信号GDA’と駆動信号GDB’を供給することで、各画素61の2つのタップへの電荷振り分けを制御する。
【0030】
画素アレイ部52には、画素行ごとに画素駆動線63が水平方向に沿って配線され、画素列ごとに2本の垂直信号線64Aおよび64Bが垂直方向に沿って配線されている。画素駆動線63は、各画素61から検出信号VSLを読み出す際の駆動を行うための駆動信号を伝送する。図2では、画素駆動線63について1本の配線として示しているが、1本に限られるものではない。画素駆動線63の一端は、垂直駆動部55の各画素行に対応した出力端に接続されている。垂直信号線64Aは、第1タップの検出信号VSLAをカラム処理部56へ伝送する信号線であり、垂直信号線64Bは、第2タップの検出信号VSLBをカラム処理部56へ伝送する信号線である。
【0031】
垂直駆動部55は、シフトレジスタやアドレスデコーダなどによって構成され、画素行ごとに水平方向に沿って配線された画素駆動線63を介して、画素アレイ部52の各画素61を、全画素同時あるいは行単位等で駆動する画素駆動部である。垂直駆動部55によって選択走査された画素行の各画素61から出力される検出信号VSLAおよびVSLBは、画素信号として、垂直信号線64Aまたは64Bを通ってカラム処理部56に供給される。
【0032】
カラム処理部56は、画素アレイ部52の画素列毎に、選択行の各画素61から垂直信号線64Aまたは64Bを介して入力される画素信号に対して所定の信号処理を行うとともに、信号処理後の画素信号を一時的に保持する。例えば、カラム処理部56は、信号処理として、画素信号のAD(アナログデジタル)変換処理などを実行する。
【0033】
水平駆動部57は、シフトレジスタやアドレスデコーダなどによって構成され、カラム処理部56の画素列に対応する単位回路を順番に選択する。この水平駆動部57による選択走査により、カラム処理部56で信号処理された画素信号が順番に信号処理部58に出力される。
【0034】
信号処理部58は、所定の演算処理機能を有し、カラム処理部56から出力される画素信号に対して、所定の演算処理を必要に応じて行って、出力部59を介して、制御装置11(図1)へ出力する。
【0035】
例えば、信号処理部58は、動作モードが測距モードの場合には、カラム処理部56から供給される各画素61のタップ毎の画素データ(検出信号VSLAおよびVSLB)に基づいて、被写体までの距離情報を算出し、各画素の画素値として距離情報を格納したデプス画像を生成する処理を行う。
【0036】
例えば、信号処理部58は、動作モードが2D画像撮影モードの場合には、カラム処理部56から供給される各画素61のタップ毎の画素データに基づいて、被写体の輝度画像を生成する処理を行う。
【0037】
出力部59は、例えば、MIPI(Mobile Industry Processor Interface)等の所定の通信インタフェース等で構成され、信号処理部58の演算処理結果であるデプス画像や輝度画像を、測定データとして、制御装置11へ出力する。
【0038】
以上のように構成される受光素子31は、制御装置11から指定された動作モードで受光動作を行う。動作モードとして測距モードが指定された場合には、受光素子31は、発光パルスの変調周波数Fmodを、低速駆動と高速駆動の少なくとも2種類の周波数に切り替えて受光動作を行い、デプス画像を生成して出力する。本実施の形態では、高速駆動の第1の変調周波数Fmod1を、例えば100MHzとし、低速駆動の第2の変調周波数Fmod2を、例えば20MHzとする。また、動作モードとして2D画像撮影モードが指定された場合には、受光素子31は、被写体の輝度画像を生成して出力する。2D画像撮影モードでは、測距モードと同様に所定の変調周波数Fmodで照射光を発光させてもよいし、発光させなくてもよい。照射光を発光させない場合には、発光パルスの照明装置13への出力が停止される。本実施の形態では、低速駆動の第2の変調周波数Fmod2で照射光を発光させて、受光することとして説明する。なお、2D画像撮影モードで照射光を発光させる場合の変調周波数Fmodは、測距モードで動作させる場合のいずれかの変調周波数Fmodと同じである必要はない。
【0039】
<3.画素回路の構成例>
図3は、画素61の回路構成例を示している。
【0040】
図3の画素61は、光電変換部としてフォトダイオード71を備える。また、画素61は、転送トランジスタ72、FD(浮遊拡散領域)73、FDゲートトランジスタ74、増幅トランジスタ75、リセットトランジスタ76、及び、選択トランジスタ77を、2つのタップに対応して2個ずつ有する。すなわち、画素61は、転送トランジスタ72Aおよび72B、FD73Aおよび73B、FDゲートトランジスタ74Aおよび74B、増幅トランジスタ75Aおよび75B、リセットトランジスタ76Aおよび76B、並びに、選択トランジスタ77Aおよび77Bを有し、符号にAが付された素子が第1タップ側の素子であり、符号にBが付された素子が第2タップ側の素子である。また、FD73Aおよび73Bが、フォトダイオード71で生成された電荷を蓄積する2つのタップに相当する。画素61は、さらに、電荷排出トランジスタ78も有している。画素61に含まれる各トランジスタは、N型のMOSFETで構成される。
【0041】
フォトダイオード71は、受光した反射光の光量に応じた電荷を生成して蓄積する。
【0042】
転送トランジスタ72Aは、ゲート電極に供給される駆動信号GDA’がアクティブ状態(High)になるとこれに応答して導通状態になることで、フォトダイオード71に蓄積されている電荷をFD73Aに転送する。転送トランジスタ72Bは、ゲート電極に供給される駆動信号GDB’がアクティブ状態(High)になるとこれに応答して導通状態になることで、フォトダイオード71に蓄積されている電荷をFD73Bに転送する。
【0043】
FD73Aは、フォトダイオード71から転送されてきた電荷を一時的に蓄積し保持する第1タップの電荷蓄積部である。FD73Bは、フォトダイオード71から転送されてきた電荷を一時的に蓄積し保持する第2タップの電荷蓄積部である。
【0044】
FDゲートトランジスタ74Aは、ゲート電極に供給されるFD駆動信号FDGがアクティブ状態になるとこれに応答して導通状態になることで、FDゲートトランジスタ74Aとリセットトランジスタ76Aとの間の付加容量を、FD73Aに接続させる。FDゲートトランジスタ74Bは、ゲート電極に供給されるFD駆動信号FDGがアクティブ状態になるとこれに応答して導通状態になることで、FDゲートトランジスタ74Bとリセットトランジスタ76Bとの間の付加容量を、FD73Bに接続させる。入射光の光量に応じてFDゲートトランジスタ74のオンオフを動的に制御することで、蓄積容量を変更することができる。図3では、簡略化のため、FD駆動信号線81が1本で、FD駆動信号FDGをFDゲートトランジスタ74Aおよび74Bで共有する構成とされているが、実際にはFD駆動信号線81は、FDゲートトランジスタ74Aおよび74Bそれぞれに対して個別に設けられており、それぞれが排他的に動作されるようにオンまたはオフが制御される。
【0045】
増幅トランジスタ75Aは、ソース電極が選択トランジスタ77Aを介して垂直信号線64Aと接続されることにより不図示の定電流源と接続し、ソースフォロワ回路を構成する。増幅トランジスタ75Bは、ソース電極が選択トランジスタ77Bを介して垂直信号線64Bと接続されることにより不図示の定電流源と接続し、ソースフォロワ回路を構成する。
【0046】
リセットトランジスタ76Aは、ゲート電極に供給されるリセット駆動信号RSTがアクティブ状態になるとこれに応答して導通状態になることで、FD73Aの電位をリセットする。リセットトランジスタ76Bは、ゲート電極に供給されるリセット駆動信号RSTがアクティブ状態になるとこれに応答して導通状態になることで、FD73Bの電位をリセットする。なお、リセットトランジスタ76Aおよび76Bがアクティブ状態とされるとき、FDゲートトランジスタ74Aおよび74Bも同時にアクティブ状態とされる。図3では、簡略化のため、リセット駆動信号線82が1本で、リセット駆動信号RSTをリセットトランジスタ76Aおよび76Bで共有する構成とされているが、実際にはリセット駆動信号線82は、リセットトランジスタ76Aおよび76Bそれぞれに対して個別に設けられており、それぞれが排他的に動作されるようにオンまたはオフが制御される。リセットトランジスタ76Aおよび76Bのドレインには、所定のドレイン電圧RSTDRAINが供給されている。
【0047】
選択トランジスタ77Aは、増幅トランジスタ75Aと垂直信号線64Aとの間に接続されており、ゲート電極に供給される選択信号SELがアクティブ状態になると導通し、増幅トランジスタ75Aより出力される検出信号VSLAを、垂直信号線64Aに出力する。選択トランジスタ77Bは、増幅トランジスタ75Bと垂直信号線64Bとの間に接続されており、ゲート電極に供給される選択信号SELがアクティブ状態になると導通し、増幅トランジスタ75Bより出力される検出信号VSLBを、垂直信号線64Bに出力する。図3では、簡略化のため、選択信号線83が1本で、選択信号SELを選択トランジスタ77Aおよび77Bで共有する構成とされているが、実際には選択信号線83は、選択トランジスタ77Aおよび77Bそれぞれに対して個別に設けられており、それぞれが排他的に動作されるようにオンまたはオフが制御される。
【0048】
電荷排出トランジスタ78は、排出駆動信号線84を介してゲート電極に供給される排出駆動信号OFGがアクティブ状態になるとこれに応答して導通状態になることで、フォトダイオード71に蓄積された電荷を排出する。
【0049】
<4.画素動作と画素信号の説明>
図3の画素61の動作について説明する。
【0050】
まず、受光が行われる前に画素61の電荷をリセットするリセット動作が全画素で実行される。すなわち、FDゲートトランジスタ74Aおよび74B、リセットトランジスタ76Aおよび76Bがオンにされて、FD73Aおよび73Bの蓄積電荷が排出され、電荷排出トランジスタ78がオンにされて、フォトダイオード71の蓄積電荷が排出される。
【0051】
蓄積電荷の排出後、全画素で受光が開始される。具体的には、発光部22から、図4に示されるように、照射時間Tで照射のオン/オフを繰り返すように変調された照射光が出力され、被写体までの距離に応じた遅延時間ΔTだけ遅れて、フォトダイオード71において反射光が受光される。照射光の1周期(=2T)は、1/Fmodとなる。また、駆動信号GDA’は、転送トランジスタ72Aのオン/オフを制御し、駆動信号GDB’は、転送トランジスタ72Bのオン/オフを制御する。駆動信号GDA’は、例えば、照射光と同一位相の信号であり、駆動信号GDB’は、駆動信号GDA’を反転した位相となっている。
【0052】
従って、図3において、フォトダイオード71が反射光を受光することにより発生する電荷は、駆動信号GDA’に従って転送トランジスタ72Aがオンとなっている間ではFD73Aに転送され、駆動信号GDB’に従って転送トランジスタ72Bがオンとなっている間ではFD73Bに転送される。これにより、照射時間Tの照射光の照射が周期的に行われる所定の期間において、転送トランジスタ72Aを介して転送された電荷はFD73Aに順次蓄積され、転送トランジスタ72Bを介して転送された電荷はFD73Bに順次蓄積される。FDゲートトランジスタ74Aおよび74Bがオンのときは、付加容量にも蓄積される。
【0053】
以上のように、画素61は、フォトダイオード71が受光した反射光により発生する電荷を、遅延時間ΔTに応じて第1タップ(FD73A)と第2タップ(FD73B)に振り分けて、第1タップの検出信号VSLAと、第2タップの検出信号VSLBのそれぞれを出力する。
【0054】
ただし、画素アレイ部52では、個々の画素61が有するフォトダイオード71や転送トランジスタ72等の画素トランジスタの各素子の特性のズレ(感度差)によって、画素61ごとに異なる影響が検出信号VSLAおよび検出信号VSLBに与えられる場合がある。そのため、間接ToF方式の測距システム1では、同一の画素61で位相を変えて反射光を受光した検出信号VSLAおよび検出信号VSLBを取得することにより、各画素61のタップ間の感度差を除去し、SN比を向上させる手法が採用される。
【0055】
位相を変えて反射光を受光し、デプス値を算出する方式として、例えば、2Phaseによる検出方式(2Phase方式)と、4Phaseによる検出方式(4Phase方式)とについて説明する。
【0056】
4Phase方式では、受光素子31は、図5に示されるように、照射光の照射タイミングを基準に、位相を0°、90°、180°、および、270°だけずらした受光タイミングで反射光を受光する。より具体的には、受光素子31は、あるフレーム期間では、照射光の照射タイミングに対して位相を0°にして受光し、次のフレーム期間では、位相を90°にして受光し、次のフレーム期間では、位相を180°にして受光し、次のフレーム期間では、位相を270°にして受光する、というように、時分割で位相を変えて反射光を受光する。
【0057】
なお、0°、90°、180°、または、270°の位相とは、特に言及しない限り、画素61の第1タップにおける位相を表す。第2タップは、第1タップとは反転した位相となるので、第1タップが0°、90°、180°、または、270°の位相のとき、第2タップは、それぞれ、180°、270°、0°、または、90°の位相となっている。
【0058】
図6は、0°、90°、180°、および、270°の各位相における画素61の第1タップの露光期間を、位相差が分かり易いように並べて示した図である。
【0059】
図6に示されるように、第1タップにおいて、照射光と同一の位相(位相0°)で受光して得られる検出信号VSLAを検出信号A、照射光と90度ずらした位相(位相90°)で受光して得られる検出信号VSLAを検出信号A90、照射光と180度ずらした位相(位相180°)で受光して得られる検出信号VSLAを検出信号A180、照射光と270度ずらした位相(位相270°)で受光して得られる検出信号VSLAを検出信号A270、と呼ぶことにする。
【0060】
また、図示は省略するが、第2タップにおいて、照射光と同一の位相(位相0°)で受光して得られる検出信号VSLBを検出信号B、照射光と90度ずらした位相(位相90°)で受光して得られる検出信号VSLBを検出信号B90、照射光と180度ずらした位相(位相180°)で受光して得られる検出信号VSLBを検出信号B180、照射光と270度ずらした位相(位相270°)で受光して得られる検出信号VSLBを検出信号B270、と呼ぶことにする。
【0061】
図7は、2Phase方式と4Phase方式によるデプス値と信頼度の算出方法を説明する図である。
【0062】
間接ToF方式において、デプス値dは、次式(1)で求めることができる。
【数1】
式(1)のcは光速であり、ΔTは遅延時間であり、fは光の変調周波数Fmodを表す。また、式(1)のφは、反射光の位相ずれ量[rad]を表し、次式(2)で表される。
【数2】
【0063】
4Phase方式では、式(2)のI,Qが、位相を0°、90°、180°、270°に設定して得られた検出信号A乃至A270および検出信号B乃至B270を用いて、次式(3)で計算される。I,Qは、照射光の輝度変化をsin波と仮定し、sin波の位相を極座標から直交座標系(IQ平面)に変換した信号である。
I=c-c180=(A-B)-(A180-B180
Q=c90-c270=(A90-B90)-(A270-B270) ・・・・・・・・・・(3)
【0064】
4Phase方式では、例えば、式(3)の“A-A180”や“A90-A270”のように、同じ画素での逆位相の検出信号の差分を取ることで、各画素に存在するタップ間の特性ばらつき、すなわち、タップ間の感度差を除去することができる。
【0065】
一方、2Phase方式では、位相0°と位相90°の2つの位相の検出信号を用いて、式(2)のI,Qが計算できる。すなわち、2Phase方式における式(2)のI,Qは、次式(4)となる。
I=c-c180=(A-B
Q=c90-c270=(A90-B90) ・・・・・・・・・・(4)
【0066】
2Phase方式では、各画素に存在するタップ間の特性ばらつきは除去することができないが、2つの位相の検出信号のみで物体までのデプス値dを求めることができるので、4Phase方式の2倍のフレームレートで測距を行うことができる。タップ間の特性ばらつきは、例えば、ゲインやオフセット等の補正パラメータで調整することができる。
【0067】
信頼度cnfは、2Phase方式および4Phase方式のいずれにおいても、次式(5)で求めることができる。
【数3】
式(5)から分かるように、信頼度cnfは、画素61で受光した反射光の大きさ、即ち輝度情報(輝度値)に相当する。
【0068】
以下では、画素アレイ部52の各画素61が、0°、90°、180°、または、270°等の1位相の画素データ(検出信号)を出力する単位を1フレーム(期間)と称する。4Phase方式では、1つの変調周波数Fmodを用いて4位相に対応する4フレームで1枚のデプス画像を生成することができ、2Phase方式の場合には、1つの変調周波数Fmodを用いて2位相に対応する2フレームで1枚のデプス画像を生成することができる。
【0069】
しかしながら、間接ToF方式の測距では、折り返し問題(エイリアシング)が発生する。すなわち、間接ToF方式の測距では、位相差を検出して距離に変換するので、発光部22の変調周波数Fmodに応じて最大測定範囲が決定し、最大測定距離を超えると、検出される位相差が、再度、ゼロからスタートする。これにより、例えば、変調周波数Fmodが100MHzの場合、1.5mと3mの区別がつかない。そのため、100MHzと20MHzのように、複数の変調周波数Fmodで測距を行う必要がある。4Phase方式では、1つの変調周波数Fmodで4フレームの受光データが必要となるため、複数の変調周波数Fmodで測距を行う場合には、1枚のデプス画像を出力するために、少なくとも8フレームの発光および受光を行う必要がある。
【0070】
受光素子31は、動作モードとして測距モードが指定された場合、高速な第1の変調周波数Fmod1と、第1の変調周波数よりも低速な第2の変調周波数Fmod2による照射光の受光を行うことで1枚のデプス画像を生成し、測定データとして制御装置11へ出力する。
【0071】
一方、動作モードとして2D画像撮影モードが指定された場合、受光素子31は、低速側である第2の変調周波数Fmod2による照射光の受光を行うことで、上述した輝度情報としての信頼度cnfを算出し、画素値として格納した輝度画像を生成し、測定データとして、制御装置11へ出力する。
【0072】
なお、受光素子31は、2D画像撮影モードにおいて、画素値として信頼度cnfを用いるのではなく、通常のイメージセンサと同様に、第1タップの検出信号VSLAのAD変換データと、第2タップの検出信号VSLBのAD変換データを合算したデータを画素値として格納した輝度画像を生成し、測定データとして、制御装置11へ出力してもよい。
【0073】
<5.転送トランジスタの駆動電圧制御>
受光素子31が、高速な第1の変調周波数Fmod1に同期して受光動作を行う場合には、各画素61のフォトダイオード71に蓄積される電荷量は少なくて良いが転送時間が短くなるため、転送に有利な設計をする必要がある。一方で、受光素子31が、低速な第2の変調周波数Fmod2に同期して受光動作を行う場合には、フォトダイオード71に蓄積される電荷量が多くなるため、電荷蓄積量を増やすことが重要となる。また、動作モードが2D画像撮影モードの場合や、被写体が高輝度被写体である場合などにおいても、フォトダイオード71の電荷蓄積量を増やすことが望ましい。
【0074】
受光素子31は、動作モードや受光量の大小に応じて、フォトダイオード71の電荷蓄積量を変更する制御を行うことができる。
【0075】
図8は、画素61が高速で動作する場合、換言すれば、画素61が第1の変調周波数Fmod1で動作する場合の転送トランジスタ72の駆動を説明する図である。
【0076】
図8において、“PD”はフォトダイオード71を表し、“TGA”は、第1タップ側の転送トランジスタ72Aを表し、“FDA”は、第1タップであるFD73Aを表す。“TGB”は、第2タップ側の転送トランジスタ72Bを表し、“FDB”は、第2タップであるFD73Bを表す。
【0077】
図8の左側の図は、転送トランジスタ72Aおよび72Bの両方がオフに制御された状態を示している。転送トランジスタ72Aおよび72Bのゲート電極には、転送トランジスタ72をオフするオフ電圧TGLとして、所定の電圧VSSが供給される。この状態においてフォトダイオード71に蓄積可能な電荷量はPDQsである。
【0078】
図8の中央の図は、第1タップ側の転送トランジスタ72Aがオンに制御された状態を示している。タップ駆動部54は、転送トランジスタ72Aをオンに制御する場合、転送トランジスタ72Aのゲート電極に、オン電圧TGHとして、電圧VSSより大きい所定の電圧VDD(>VSS)を印加する。これにより、フォトダイオード71に蓄積された電荷が、FD73Aに転送される。
【0079】
一方、図8の右側の図は、第2タップ側の転送トランジスタ72Bがオンに制御された状態を示している。タップ駆動部54は、転送トランジスタ72Bをオンに制御する場合、転送トランジスタ72Bのゲート電極に、オン電圧TGHとして、電圧VSSより大きい電圧VDD(>VSS)を印加する。これにより、フォトダイオード71に蓄積された電荷が、FD73Bに転送される。
【0080】
図9は、高速動作時と比較した低速動作時の転送トランジスタ72の駆動を説明する図である。
【0081】
画素61が低速で動作する場合、換言すれば、画素61が第2の変調周波数Fmod2で動作する場合、転送トランジスタ72をオフするオフ電圧TGLが、高速動作時の電圧VSSよりも低い電圧VSS1(<VSS)に変更される。これにより、図9に示されるように、転送トランジスタ72Aおよび72Bのオフ時の障壁が高くなるため、フォトダイオード71に蓄積可能な電荷量PDQsを、高速動作時よりも大きくすることができる。なお、低速動作時において、転送トランジスタ72をオンするオン電圧TGHは、高速動作時と同一の電圧VDDとされる。
【0082】
図8および図9では、動作モードが測距モードであり、高速動作時と低速動作時の転送トランジスタオフ時の印加電圧の違いについて説明したが、動作モードが2D画像撮影モードの場合や、被写体が高輝度被写体である場合においても、転送トランジスタオフ時の印加電圧が、高速動作時よりも低い電圧VSS1に変更される。
【0083】
図10は、受光素子31において、転送トランジスタオフ時の印加電圧が、高速動作時よりも低い電圧VSS1に変更される場合をまとめたテーブルである。
【0084】
受光素子31のタップ駆動部54は、動作モードが測距モードで、高速の第1の変調周波数Fmod1で受光動作を行う場合、転送トランジスタ72のオフ電圧TGLを電圧VSSに設定するように制御する。一方、制御部51は、動作モードが測距モードで、低速の第2の変調周波数Fmod2で受光動作を行う場合、転送トランジスタ72のオフ電圧TGLを電圧VSSよりも低い電圧VSS1に設定するように制御する。
【0085】
また、タップ駆動部54は、動作モードが2D画像撮影モードである場合、変調周波数Fmodにかかわらず、転送トランジスタ72のオフ電圧TGLを電圧VSSよりも低い電圧VSS1に設定するように制御する。
【0086】
さらに、動作モードが測距モードまたは2D画像撮影モードのどちらであっても、画素アレイ部52の受光量が大光量であると判定された場合に、タップ駆動部54は、転送トランジスタ72のオフ電圧TGLを電圧VSSよりも低い電圧VSS1に設定するように制御する。画素アレイ部52の受光量が大光量であるか否かは、例えば、次のように判定される。例えば、最初の1フレームの画素データが取得され、画素アレイ部52内の画素データを取得した画素数に対して所定数以上または所定割合以上の画素データが飽和した値を示している場合に、受光量が大光量であると判定することができる。あるいはまた、画素信号を取得した画素アレイ部52内のNxM画素以上(N>1、M>1)の領域で画素データの飽和が発生している場合に、受光量が大光量であると判定してもよい。
【0087】
<6.オフ電圧制御部の構成例>
図11は、動作モード等に応じて転送トランジスタ72のオフ電圧TGLを制御するオフ電圧制御部の構成例を示すブロック図である。
【0088】
オフ電圧制御部101は、例えば図11に示されるように、タップ駆動部54内に設けることができる。
【0089】
タップ駆動部54は、パルス生成回路53から供給される、2つのタップの駆動信号GDAおよびGDBを分配することで画素列単位の駆動信号GDA’と駆動信号GDB’を生成して、画素アレイ部52の各画素列に供給する。
【0090】
オフ電圧制御部101は、駆動信号GDA’およびGDB’のLowレベル、すなわち、転送トランジスタ72のオフ電圧TGLとして、電圧VSSまたは電圧VSS1を切り替え制御する。駆動信号GDA’およびGDB’のHighレベルは電圧VDDである。
【0091】
オフ電圧制御部101は、OR回路111、インバータ112、並びに、トランジスタ113および114を含む回路で構成される。トランジスタ113および114は、N型のMOSFETで構成され、転送トランジスタ72をオフさせるオフ制御電圧として、電圧VSS1と電圧VSSとを切り替える切り替えスイッチを構成する。
【0092】
OR回路111には、動作モード判定信号、周波数判定信号、および、大光量判定信号が入力される。OR回路111は、動作モード判定信号、周波数判定信号、および、大光量判定信号の論理和を演算し、演算結果であるHigh(1)またはLow(0)の信号を、トランジスタ113のゲート電極と、インバータ112へ供給する。
【0093】
動作モード判定信号は、動作モードが2D画像撮影モードである場合にHigh(1)、測距モードである場合にLow(0)となる信号であり、例えば、制御部51から供給される。
【0094】
周波数判定信号は、変調周波数Fmodが所定の閾値周波数Fmod_TH以下である場合にHigh(1)、閾値周波数Fmod_THより大である場合にLow(0)となる信号である。周波数判定信号は、例えば、パルス生成回路53内の分周器がX分周以上に分周する場合に必ずHighまたはLowに固定される特定のアドレス信号を参照して生成することができる。本実施の形態における第1の変調周波数Fmod1は、閾値周波数Fmod_THより大(Fmod1>Fmod_TH)であり、第2の変調周波数Fmod2は、閾値周波数Fmod_TH以下である(Fmod2=<Fmod_TH)。
【0095】
大光量判定信号は、受光量が大光量である場合にHigh(1)、大光量ではない場合にLow(0)となる信号であり、例えば、信号処理部58から取得することができる。信号処理部58は、画素アレイ部52内の画素データを取得した画素数に対して所定数以上または所定割合以上の画素データが飽和しているか否かを判定した結果を、大光量判定信号としてオフ電圧制御部101に供給する。受光量が大光量となる要因には、被写体までの距離が近い場合、照射光の発光量が大きい場合、被写体の反射率が高い場合などがあり得る。
【0096】
OR回路111の出力は、トランジスタ113のゲート電極にはそのまま供給され、トランジスタ114のゲート電極には、インバータ112を介して供給されるため、トランジスタ113がオンのときはトランジスタ114がオフし、トランジスタ113がオフのときはトランジスタ114がオンする。
【0097】
トランジスタ113のソースには、電圧VSS1が供給されている。トランジスタ114のソースには、電圧VSS(>VSS1)が供給されている。電圧VSSおよびVSS1は、転送トランジスタ72のオフ電圧制御専用に設けてもよいし、他の制御と共用してもよい。例えば、電圧VSSは、半導体基板のPwellに印加されるグランド電圧と共用し、電圧VSS1は、他の画素トランジスタ(例えば、選択トランジスタ77)のオフ制御電圧と共用することができる。
【0098】
したがって、動作モードが2D画像撮影モードである場合、変調周波数Fmodが所定の閾値周波数Fmod_TH以下である場合、または、受光量が大光量である場合のいずれか1つが成立する場合、駆動信号GDA’およびGDB’のLowレベルが電圧VSS1に制御される。反対に、動作モードが測距モードである場合、変調周波数Fmodが所定の閾値周波数Fmod_THより大である場合、および、受光量が大光量ではない場合に、駆動信号GDA’およびGDB’のLowレベルが電圧VSSに制御される。
【0099】
図12のフローチャートを参照して、オフ電圧制御部101が行うオフ電圧制御処理について説明する。この処理は、例えば、制御装置11から受光装置12に対して測定リクエストが供給され、受光素子31が受光動作を開始したときに開始される。なお、転送トランジスタ72のオフ電圧TGLの初期値は、高速駆動に対応した電圧VSSに設定されている。
【0100】
初めに、ステップS1において、オフ電圧制御部101は、動作モードが2D画像撮影モードであるかを判定する。ステップS1で、動作モードが2D画像撮影モードであると判定された場合、処理は後述するステップS4へ進む。
【0101】
一方、ステップS1で、動作モードが2D画像撮影モードではない、動作モードが測距モードであると判定された場合、処理はステップS2へ進み、オフ電圧制御部101は、変調周波数Fmodが低速であるか、換言すれば、変調周波数Fmodが所定の閾値周波数Fmod_TH以下であるかを判定する。ステップS2で、変調周波数Fmodが低速であると判定された場合、処理は後述するステップS4へ進む。
【0102】
一方、変調周波数Fmodが低速ではない(高速である)と判定された場合、処理はステップS3へ進み、オフ電圧制御部101は、受光量が大光量であるかを判定する。ステップS3の判定は、少なくとも1フレーム分のデプス値dを取得する必要があるため、上述したステップS2で変調周波数Fmodが高速であると判定された場合、受光素子31は、転送トランジスタ72のオフ電圧TGLを、初期値として設定されている電圧VSSで受光動作を行う。そして、オフ電圧制御部101は、1フレームの受光結果に基づいて、受光量が大光量であるかを判定する。画素アレイ部52内の画素データを取得した画素数に対して所定数以上または所定割合以上の画素データが飽和している場合に、受光量が大光量であると判定される。
【0103】
ステップS3で、受光量が大光量であると判定された場合、処理はステップS4に進み、受光量が大光量ではないと判定された場合、処理はステップS5に進む。
【0104】
ステップS4では、オフ電圧制御部101は、転送トランジスタ72のオフ電圧TGLを、電圧VSSよりも低い電圧VSS1に設定するように制御する。
【0105】
ステップS5では、オフ電圧制御部101は、転送トランジスタ72のオフ電圧TGLを、電圧VSSに設定するように制御する。
【0106】
以上でオフ電圧制御処理が終了する。図12のオフ電圧制御処理は、受光動作が継続されている間、繰り返し実行することができる。
【0107】
オフ電圧制御部101によるオフ電圧制御処理によれば、発光パルスの変調周波数Fmodが所定の閾値周波数Fmod_THより大きく、転送トランジスタ72が高速に駆動される場合には、転送トランジスタ72のオフ電圧TGLが、デフォルト(初期値)の電圧VSSに設定され、転送時間が短くなるように制御される。
【0108】
一方、発光パルスの変調周波数Fmodが所定の閾値周波数Fmod_TH以下である場合、動作モードが2D画像撮影モードである場合、または、受光量が大光量である場合には、転送トランジスタ72のオフ電圧TGLが、電圧VSSよりも低い電圧VSS1に設定される。これにより、フォトダイオード71の電荷蓄積量を増やすことができるので、飽和を防ぐことができる。また、フォトダイオード71の蓄積電荷が、本体の転送方向と異なる逆タップ(FD73)へ転送されることを防止することができる。したがって、受光素子31は、高速時には転送効率を維持しつつ、低速時には逆タップ流入を防止できるので、測距精度を改善することができる。
【0109】
なお、転送トランジスタ72のオフ電圧TGLを電圧VSS1に設定することで、フォトダイオード71の電荷蓄積量を増やすことができるのであれば、常に電圧VSS1に設定すればよいという考えもある。しかしながら、駆動電圧の差ΔTG=(オン電圧TGH-オフ電圧TGL)が大きくなるほど消費電力は増加するため、オフ電圧TGLを常に電圧VSS1に設定すると、消費電力が増大する。すなわち、高速駆動時のオフ電圧TGLを電圧VSSに設定する制御を基本制御とすることで、受光素子31の消費電力を低減させることができる。また、動作電力は動作周波数に比例するため、低速動作の消費電力への影響は、動作電圧レンジが少し広くなっても、変調周波数Fmodが抑えられることで、高速動作時の消費電力を超えることはない。
【0110】
<7.変形例>
受光素子31には、以下の変形例を適用することができる。
【0111】
上述した受光素子31は、画素61に2つの転送トランジスタ72を有する構成であったが、1画素に配置される転送トランジスタ72は1つまたは3つ以上でもよい。例えば、ビューイング用のイメージセンサのような1画素に1つの転送トランジスタ72や、1画素に4つの転送トランジスタ72に対しても、上記と同様のオフ電圧制御を適用することができる。1画素に1つの転送トランジスタ72を備える受光素子31の場合、上述の第1タップの検出信号VSLAと第2タップの検出信号VSLBが、別フレームで取得される。1画素に4つの転送トランジスタ72を備える受光素子31の場合、0°、90°、180°、および、270°の4位相の検出信号VSLを1フレームで取得するように動作させることができる。
【0112】
上述した実施の形態では、転送トランジスタ72のオフ制御電圧として電圧VSSおよびVSS1の2種類有し、電圧VSSと電圧VSS1とを切り替える例を説明した。しかしながら、転送トランジスタ72のオフ制御電圧として3種類以上の電圧値を有してもよい。例えば、転送トランジスタ72のオフ制御電圧として、電圧VSS、VSS1、およびVSS2(VSS>VSS1>VSS2)の3種類有し、変調周波数Fmodを3段階に分類したり、受光量の大きさを3段階に分類して、3種類のオフ制御電圧を切り替えるようにしてもよい。また例えば、電圧VSSを測距モード、電圧VSS1およびVSS2を2D画像撮影モードとして、2D画像撮影モードのシーンの種類に応じて、電圧VSS1およびVSS2をさらに切り替えるようにしてもよい。
【0113】
上述した実施の形態では、オフ電圧制御部101をタップ駆動部54内に設けたが、オフ電圧制御部101は、駆動信号GDAおよびGDBを生成するパルス生成回路53から、タップ駆動部54までの間の経路の任意の場所に配置してよい。
【0114】
<8.電子機器の構成例>
上述した測距システム1は、例えば、スマートフォン、タブレット型端末、携帯電話機、パーソナルコンピュータ、ゲーム機、テレビ受像機、ウェアラブル端末、デジタルスチルカメラ、デジタルビデオカメラなどの電子機器に搭載することができる。
【0115】
図13は、本開示の測距システムを搭載した電子機器としてのスマートフォンの構成例を示すブロック図である。
【0116】
図13に示すように、スマートフォン201は、測距モジュール202、撮像装置203、ディスプレイ204、スピーカ205、マイクロフォン206、通信モジュール207、センサユニット208、タッチパネル209、および制御ユニット210が、バス211を介して接続されて構成される。また、制御ユニット210では、CPUがプログラムを実行することによって、アプリケーション処理部221およびオペレーションシステム処理部222としての機能を備える。
【0117】
測距モジュール202には、図1の測距システム1の受光装置12および照明装置13が適用される。例えば、測距モジュール202は、スマートフォン201の前面に配置され、スマートフォン201のユーザを対象とした測距を行うことにより、そのユーザの顔や手、指などの表面形状のデプス値を測距結果として出力することができる。図1の測距システム1の制御装置11の機能は、制御ユニット210が実行することができる。
【0118】
撮像装置203は、スマートフォン201の前面に配置され、スマートフォン201のユーザを被写体とした撮像を行うことにより、そのユーザが写された画像を取得する。なお、測距モジュール202および撮像装置203は、スマートフォン201の背面側に配置したり、前面側と背面側の両方に配置してもよい。
【0119】
ディスプレイ204は、アプリケーション処理部221およびオペレーションシステム処理部222による処理を行うための操作画面や、撮像装置203が撮像した画像などを表示する。スピーカ205およびマイクロフォン206は、例えば、スマートフォン201により通話を行う際に、相手側の音声の出力、および、ユーザの音声の収音を行う。
【0120】
通信モジュール207は、通信ネットワークを介した通信を行う。センサユニット208は、速度や加速度、近接などをセンシングし、タッチパネル209は、ディスプレイ204に表示されている操作画面に対するユーザによるタッチ操作を取得する。
【0121】
アプリケーション処理部221は、スマートフォン201によって様々なサービスを提供するための処理を行う。例えば、アプリケーション処理部221は、測距モジュール202から供給されるデプス画像に基づいて、ユーザの表情をバーチャルに再現したコンピュータグラフィックスによる顔を作成し、ディスプレイ204に表示する処理を行うことができる。また、アプリケーション処理部221は、測距モジュール202から供給されるデプス画像に基づいて、例えば、任意の立体的な物体の三次元形状データを作成する処理を行うことができる。
【0122】
オペレーションシステム処理部222は、スマートフォン201の基本的な機能および動作を実現するための処理を行う。例えば、オペレーションシステム処理部222は、測距モジュール202から供給されるデプス画像に基づいて、ユーザの顔を認証し、スマートフォン201のロックを解除する処理を行うことができる。また、オペレーションシステム処理部222は、測距モジュール202から供給されるデプス画像に基づいて、例えば、ユーザのジェスチャを認識する処理を行い、そのジェスチャに従った各種の操作を入力する処理を行うことができる。
【0123】
このように構成されているスマートフォン201では、上述した測距システム1を組み込むことで、例えば、測距情報の算出と2次元の輝度画像の生成を行うことができる。また、測距情報の精度を向上させることができる。
【0124】
<9.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0125】
図14は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【0126】
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図14に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
【0127】
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【0128】
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0129】
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【0130】
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【0131】
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【0132】
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
【0133】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0134】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【0135】
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図14の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【0136】
図15は、撮像部12031の設置位置の例を示す図である。
【0137】
図15では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
【0138】
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0139】
なお、図15には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
【0140】
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【0141】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0142】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【0143】
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。
マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
【0144】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、車外情報検出ユニット12030や車内情報検出ユニット12040に適用され得る。具体的には、車外情報検出ユニット12030や車内情報検出ユニット12040として測距システム1による測距情報を利用することで、運転者のジェスチャを認識する処理を行い、そのジェスチャに従った各種(例えば、オーディオシステム、ナビゲーションシステム、エアーコンディショニングシステム)の操作を実行したり、より正確に運転者の状態を検出することができる。また、測距システム1による測距情報を利用して、障害物までの距離を測定して衝突防止判定に用いたり、路面の凹凸を認識して、サスペンションの制御に反映させたりすることができる。
【0145】
本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0146】
本明細書において複数説明した本技術は、矛盾が生じない限り、それぞれ独立に単体で実施することができる。もちろん、任意の複数の本技術を併用して実施することもできる。例えば、いずれかの実施の形態において説明した本技術の一部または全部を、他の実施の形態において説明した本技術の一部または全部と組み合わせて実施することもできる。また、上述した任意の本技術の一部または全部を、上述していない他の技術と併用して実施することもできる。
【0147】
また、例えば、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
【0148】
さらに、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
【0149】
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、本明細書に記載されたもの以外の効果があってもよい。
【0150】
なお、本開示の技術は、以下の構成を取ることができる。
(1)
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える受光素子。
(2)
前記画素は、
第1および第2の転送トランジスタの2つの前記転送トランジスタと、
前記第1の転送トランジスタにより転送された前記電荷を保持する第1の電荷蓄積部と、
前記第2の転送トランジスタにより転送された前記電荷を保持する第2の電荷蓄積部と
を有し、
前記光電変換部は、所定の発光源から照射された照射光が物体で反射されて返ってきた反射光を受光して光電変換し、
前記電圧制御部は、前記第1および第2の転送トランジスタの前記オフ制御電圧として、第1の電圧と、前記第1の電圧よりも低い第2の電圧とを切り替える
前記(1)に記載の受光素子。
(3)
前記第1および第2の転送トランジスタは、所定の変調周波数で交互にオンされ、
前記電圧制御部は、前記所定の変調周波数に応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
前記(2)に記載の受光素子。
(4)
前記所定の変調周波数には、第1の変調周波数と、前記第1の変調周波数より低速の第2の変調周波数とがあり、
前記電圧制御部は、前記第1の変調周波数である場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記第2の変調周波数である場合に、前記オフ制御電圧を前記第2の電圧に切り替える
前記(3)に記載の受光素子。
(5)
前記電圧制御部は、前記所定の変調周波数が所定の閾値周波数より大である場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記所定の変調周波数が所定の閾値周波数以下である場合に、前記オフ制御電圧を前記第2の電圧に切り替える
前記(3)に記載の受光素子。
(6)
前記電圧制御部は、動作モードに応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
前記(2)乃至(5)のいずれかに記載の受光素子。
(7)
前記電圧制御部は、前記動作モードが距離を測定する測距モードである場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記動作モードが2次元の輝度画像を生成する2D画像撮影モードである場合に、前記オフ制御電圧を前記第2の電圧に切り替える
前記(6)に記載の受光素子。
(8)
前記電圧制御部は、受光量に応じて、前記第1および第2の転送トランジスタの前記オフ制御電圧を、前記第1の電圧または前記第2の電圧に切り替える
前記(2)乃至(7)のいずれかに記載の受光素子。
(9)
前記電圧制御部は、前記受光量が大光量ではないと判定された場合に、前記オフ制御電圧を前記第1の電圧に切り替え、前記受光量が大光量であると判定された場合に、前記オフ制御電圧を前記第2の電圧に切り替える
前記(8)に記載の受光素子。
(10)
前記受光量が大光量であると判定される場合は、画素データを取得した画素数に対して所定数以上または所定割合以上の画素データが飽和している場合である
前記(9)に記載の受光素子。
(11)
前記電圧制御部は、前記オフ制御電圧として、第1の電圧と、前記第1の電圧よりも低い第2の電圧とを切り替えるトランジスタを有する
前記(1)乃至(10)のいずれかに記載の受光素子。
(12)
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素を備える受光素子が、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する
受光素子の駆動方法。
(13)
照射光を発光する発光部と、
前記照射光が物体で反射されて返ってきた反射光を受光する受光素子と
を備え、
前記受光素子は、
光電変換部と、前記光電変換部で生成された電荷を転送する転送トランジスタとを有する画素と、
前記転送トランジスタをオフさせるオフ制御電圧として、複数の電圧値を切り替え制御する電圧制御部と
を備える
測距システム。
【符号の説明】
【0151】
1:測距システム,11:制御装置,12:受光装置,13:照明装置,21:LD,22:発光部,31:受光素子,51:制御部,52:画素アレイ部,53:パルス生成回路,54:タップ駆動部,58:信号処理部,61:画素,64A,64B:垂直信号線,71:フォトダイオード,72A,72B:転送トランジスタ,74A,74B:FDゲートトランジスタ,75A,75B:増幅トランジスタ,76A,76B:リセットトランジスタ,77A,77B:選択トランジスタ,101:オフ電圧制御部,111:OR回路,112:インバータ,113:トランジスタ,114:トランジスタ,201:スマートフォン,202:測距モジュール
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15