(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-22
(45)【発行日】2025-01-30
(54)【発明の名称】撮像装置
(51)【国際特許分類】
H04N 25/76 20230101AFI20250123BHJP
【FI】
H04N25/76
(21)【出願番号】P 2022516467
(86)(22)【出願日】2021-04-19
(86)【国際出願番号】 IB2021053188
(87)【国際公開番号】W WO2021214616
(87)【国際公開日】2021-10-28
【審査請求日】2024-03-29
(31)【優先権主張番号】P 2020077098
(32)【優先日】2020-04-24
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000153878
【氏名又は名称】株式会社半導体エネルギー研究所
(72)【発明者】
【氏名】根来 雄介
(72)【発明者】
【氏名】米田 誠一
(72)【発明者】
【氏名】山崎 舜平
【審査官】越河 勉
(56)【参考文献】
【文献】特開2016-219977(JP,A)
【文献】特開2016-123087(JP,A)
【文献】特開2011-119711(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/76
(57)【特許請求の範囲】
【請求項1】
複数の画素と、複数の第1の回路と、を有し、
前記画素は、マトリクス状に配置され、
前記第1の回路は、列方向に配置される複数の前記画素と電気的に接続され、
前記画素は、第2の回路と、第3の回路と、を有し、
前記第2の回路または前記第3の回路の一方は、nフレーム目(nは2以上の整数)に取得された画像データに第1の重みを与えて、nフレーム目の第1のデータを生成する機能を有し、
前記第2の回路または前記第3の回路の他方は、n-1フレーム目に取得された画像データに第2の重みを与えて、n-1フレーム目の第1のデータを生成する機能を有し、
前記画素は、前記n-1フレーム目の第1のデータと、前記nフレーム目の第1のデータを足し合わせて第2のデータを生成する機能を有し、
前記第1の回路は、前記画素がそれぞれ生成する前記第2のデータの和に相当する第3のデータを生成する機能を有する撮像装置。
【請求項2】
請求項
1において、
前記画素は、光電変換デバイスと、第1のトランジスタと、を有し、
前記第2の回路及び前記第3の回路はそれぞれ、第2のトランジスタと、第3のトランジスタと、第4のトランジスタと、第5のトランジスタと、第1のキャパシタと、を有し、
前記光電変換デバイスの一方の電極は、前記第2のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第2のトランジスタのソースまたはドレインの他方は、前記第3のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第3のトランジスタのソースまたはドレインの一方は、前記第4のトランジスタのゲートと電気的に接続され、
前記第4のトランジスタのゲートは、前記第1のキャパシタの一方の電極と電気的に接続され、
前記第1のキャパシタの他方の電極は、前記第5のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第4のトランジスタのソースまたはドレインの一方は、前記第1のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第1のトランジスタのソースまたはドレインの他方は、前記第1の回路と電気的に接続される撮像装置。
【請求項3】
請求項
2において、
前記第5のトランジスタの他方は、第1の配線と電気的に接続され、
前記第1の配線は、前記第1の重みに相当する電位または前記第2の重みに相当する電位のいずれかが供給される撮像装置。
【請求項4】
請求項
1において、
前記画素は、光電変換デバイスと、第1のトランジスタと、を有し、
前記第2の回路及び前記第3の回路はそれぞれ、第2のトランジスタと、第3のトランジスタと、第4のトランジスタと、第1のキャパシタと、を有し、
前記光電変換デバイスの一方の電極は、前記第2のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第2のトランジスタのソースまたはドレインの他方は、前記第3のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第3のトランジスタのソースまたはドレインの一方は、前記第4のトランジスタのゲートと電気的に接続され、
前記第4のトランジスタのゲートは、前記第1のキャパシタの一方の電極と電気的に接続され、
前記第4のトランジスタのソースまたはドレインの一方は、前記第1のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第1のトランジスタのソースまたはドレインの他方は、前記第1の回路と電気的に接続され、
前記第4のトランジスタは、バックゲートを有する撮像装置。
【請求項5】
請求項
4において、
前記バックゲートは、第1の配線と電気的に接続され、
前記第1の配線は、前記第1の重みに相当する電位または前記第2の重みに相当する電位のいずれかが供給される撮像装置。
【請求項6】
請求項
1乃至請求項
5のいずれか一において、
前記第1の回路は、第6のトランジスタと、第7のトランジスタと、第8のトランジスタと、第9のトランジスタと、第10のトランジスタと、第2のキャパシタと、を有し、
前記第2のキャパシタの一方の電極は、前記複数の画素と電気的に接続され、
前記第2のキャパシタの一方の電極は、前記第6のトランジスタと電気的に接続され、
前記第2のキャパシタの他方の電極は、前記第7のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第7のトランジスタのソースまたはドレインの一方は、前記第8のトランジスタのゲートと電気的に接続され、
前記第8のトランジスタのソースまたはドレインの一方は、前記第9のトランジスタのソースまたはドレインの一方と電気的に接続され、
前記第9のトランジスタのソースまたはドレインの一方は、前記第10のトランジスタのソースまたはドレインの一方と電気的に接続される撮像装置。
【請求項7】
請求項
1乃至請求項
6のいずれか一において、
前記画素および前記第1の回路が有するトランジスタのいずれか一または複数は、チャネル形成領域に金属酸化物を有し、
前記金属酸化物は、Inと、Znと、元素M(MはAl、Ti、Ga、Ge、Sn、Y、Zr、La、Ce、NdまたはHfの一つまたは複数)と、を有する撮像装置。
【請求項8】
請求項
1乃至請求項
7のいずれか一において、
前記画素および前記第1の回路が有するトランジスタのいずれか一または複数は、チャネル形成領域にシリコンを有する撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の一態様は、撮像装置に関する。
【0002】
なお、本発明の一態様は、上記の技術分野に限定されない。本明細書等で開示する発明の一態様の技術分野は、物、方法、または、製造方法に関するものである。または、本発明の一態様は、プロセス、マシン、マニュファクチャ、または、組成物(コンポジション・オブ・マター)に関するものである。そのため、より具体的に本明細書で開示する本発明の一態様の技術分野として、半導体装置、表示装置、液晶表示装置、発光装置、照明装置、蓄電装置、記憶装置、撮像装置、それらの動作方法、または、それらの製造方法、を一例として挙げることができる。
【0003】
なお、本明細書等において半導体装置とは、半導体特性を利用することで機能しうる装置全般を指す。トランジスタ、半導体回路は半導体装置の一態様である。また、記憶装置、表示装置、撮像装置、電子機器は、半導体装置を有する場合がある。
【背景技術】
【0004】
基板上に形成された酸化物半導体薄膜を用いてトランジスタを構成する技術が注目されている。例えば、酸化物半導体を有するオフ電流が極めて低いトランジスタを画素回路に用いる構成の撮像装置が特許文献1に開示されている。
【0005】
撮像装置に演算機能を付加する技術が特許文献2に開示されている。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2011-119711号公報
【文献】特開2016-123087号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
携帯機器などに搭載される撮像装置では、高解像度の画像を取得できる機能が一般的に備えられている。次世代においては、撮像装置にさらに知的な機能を搭載することが求められている。
【0008】
画像データの圧縮、画像認識などは、現状では撮像装置で撮像された画像データが、撮像装置の外部に取り出されて処理が行われる。当該処理を撮像装置内で行うことができれば、外部の機器との連携がより高速となり、使用者の利便性が向上する。また、周辺装置などの負荷および消費電力も低減することができる。
【0009】
動画で滑らかな動きを表現するには、フレームレートを高めることが好ましい。一方で、画素数が多いほど水平期間が短くなるため、単純にフレームレートを高めることは困難である。そのため、実画像のフレーム間を補間する画像(補間画像)を生成する技術が用いられることがある。ただし、実画像を取得するフレームレートがある程度高い場合は、補間画像を生成する時間の確保が困難となりやすい。
【0010】
上記に鑑み、本発明の一態様では、画像処理を行うことができる撮像装置を提供することを目的の一つとする。または、フレーム間を補間する画像を生成することができる撮像装置を提供することを目的の一つとする。または、高品質な動画を撮像することができる撮像装置を提供することを目的の一つとする。または、ニューラルネットワークの一部の要素として機能する撮像装置を提供することを目的の一つとする。または、低消費電力の撮像装置を提供することを目的の一つとする。または、信頼性の高い撮像装置を提供することを目的の一つとする。または、新規な撮像装置などを提供することを目的の一つとする。または、上記撮像装置の駆動方法を提供することを目的の一つとする。または、新規な半導体装置などを提供することを目的の一つとする。
【0011】
なお、これらの課題の記載は、他の課題の存在を妨げるものではない。なお、本発明の一態様は、これらの課題の全てを解決する必要はないものとする。なお、これら以外の課題は、明細書、図面、請求項などの記載から、自ずと明らかとなるものであり、明細書、図面、請求項などの記載から、これら以外の課題を抽出することが可能である。
【課題を解決するための手段】
【0012】
本発明の一態様は、複数の画素を有する撮像装置である。それぞれの画素は、nフレーム目(nは2以上の整数)に取得された画像データに第1の重みを与えて、nフレーム目の第1のデータを生成する機能を有する。画素は、n-1フレーム目に取得された画像データに第2の重みを与えて、n-1フレーム目の第1のデータを生成する機能を有する。また、画素は、n-1フレーム目の第1のデータと、nフレーム目の第1のデータを足し合わせて第2のデータを生成する機能を有する。
【0013】
本発明の一態様は、複数の画素と、複数の第1の回路と、を有する撮像装置である。画素は、マトリクス状に配置される。第1の回路は、列方向に配置される複数の画素と電気的に接続される。画素は、第2の回路と、第3の回路と、を有する。第2の回路または第3の回路の一方は、nフレーム目(nは2以上の整数)に取得された画像データに第1の重みを与えて、nフレーム目の第1のデータを生成する機能を有する。第2の回路または第3の回路の他方は、n-1フレーム目に取得された画像データに第2の重みを与えて、n-1フレーム目の第1のデータを生成する機能を有する。さらに、画素は、n-1フレーム目の第1のデータと、nフレーム目の第1のデータを足し合わせて第2のデータを生成する機能を有する。第1の回路は、画素がそれぞれ生成する第2のデータの和に相当する第3のデータを生成する機能を有する。
【0014】
前述の撮像装置において、画素は、光電変換デバイスと、第1のトランジスタと、を有することが好ましい。第2の回路及び第3の回路はそれぞれ、第2のトランジスタと、第3のトランジスタと、第4のトランジスタと、第5のトランジスタと、第1のキャパシタと、を有する。光電変換デバイスの一方の電極は、第2のトランジスタのソースまたはドレインの一方と電気的に接続される。第2のトランジスタのソースまたはドレインの他方は、第3のトランジスタのソースまたはドレインの一方と電気的に接続される。第3のトランジスタのソースまたはドレインの一方は、第4のトランジスタのゲートと電気的に接続される。第4のトランジスタのゲートは、第1のキャパシタの一方の電極と電気的に接続される。第1のキャパシタの他方の電極は、第5のトランジスタのソースまたはドレインの一方と電気的に接続される。第4のトランジスタのソースまたはドレインの一方は、第1のトランジスタのソースまたはドレインの一方と電気的に接続される。第1のトランジスタのソースまたはドレインの他方は、第1の回路と電気的に接続される。
【0015】
前述の撮像装置において、第5のトランジスタの他方は、第1の配線と電気的に接続されることが好ましい。第1の配線は、第1の重みに相当する電位または第2の重みに相当する電位のいずれかが供給される。
【0016】
前述の撮像装置において、画素は、光電変換デバイスと、第1のトランジスタと、を有することが好ましい。第2の回路及び第3の回路はそれぞれ、第2のトランジスタと、第3のトランジスタと、第4のトランジスタと、第1のキャパシタと、を有する。光電変換デバイスの一方の電極は、第2のトランジスタのソースまたはドレインの一方と電気的に接続される。第2のトランジスタのソースまたはドレインの他方は、第3のトランジスタのソースまたはドレインの一方と電気的に接続される。第3のトランジスタのソースまたはドレインの一方は、第4のトランジスタのゲートと電気的に接続される。第4のトランジスタのゲートは、第1のキャパシタの一方の電極と電気的に接続される。第4のトランジスタのソースまたはドレインの一方は、第1のトランジスタのソースまたはドレインの一方と電気的に接続される。第1のトランジスタのソースまたはドレインの他方は、第1の回路と電気的に接続される。第4のトランジスタは、バックゲートを有する。
【0017】
前述の撮像装置において、バックゲートは、第1の配線と電気的に接続されることが好ましい。第1の配線は、第1の重みに相当する電位または第2の重みに相当する電位のいずれかが供給される。
【0018】
前述の撮像装置において、第1の回路は、第6のトランジスタと、第7のトランジスタと、第8のトランジスタと、第9のトランジスタと、第10のトランジスタと、第2のキャパシタと、を有することが好ましい。第2のキャパシタの一方の電極は、複数の画素と電気的に接続される。第2のキャパシタの一方の電極は、第6のトランジスタと電気的に接続される。第2のキャパシタの他方の電極は、第7のトランジスタのソースまたはドレインの一方と電気的に接続される。第7のトランジスタのソースまたはドレインの一方は、第8のトランジスタのゲートと電気的に接続される。第8のトランジスタのソースまたはドレインの一方は、第9のトランジスタのソースまたはドレインの一方と電気的に接続される。第9のトランジスタのソースまたはドレインの一方は、第10のトランジスタのソースまたはドレインの一方と電気的に接続される。
【0019】
前述の撮像装置において、画素および第1の回路が有するトランジスタのいずれか一または複数は、チャネル形成領域に金属酸化物を有することが好ましい。金属酸化物は、Inと、Znと、元素M(MはAl、Ti、Ga、Ge、Sn、Y、Zr、La、Ce、NdまたはHfの一つまたは複数)と、を有する。
【0020】
前述の撮像装置において、画素および第1の回路が有するトランジスタのいずれか一または複数は、チャネル形成領域にシリコンを有することが好ましい。
【発明の効果】
【0021】
本発明の一態様を用いることで、画像処理を行うことができる撮像装置を提供することができる。または、フレーム間を補間する画像を生成することができる撮像装置を提供することができる。または、高品質な動画を撮像することができる撮像装置を提供することができる。または、ニューラルネットワークの一部の要素として機能する撮像装置を提供することができる。または、低消費電力の撮像装置を提供することができる。または、信頼性の高い撮像装置を提供することができる。または、新規な撮像装置などを提供することができる。または、上記撮像装置の駆動方法を提供することができる。または、新規な半導体装置などを提供することができる。
【図面の簡単な説明】
【0022】
図1は、撮像装置を説明するブロック図である。
図2は、画素ブロックおよび回路を説明する図である。
図3は、画素ブロックを説明する図である。
図4は、画素を説明する図である。
図5は、撮像装置の動作を説明する概要図である。
図6は、撮像装置の動作を説明する概要図である。
図7は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図8は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図9は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図10は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図11は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図12は、画素ブロックおよび回路の動作を説明するタイミングチャートである。
図13は、画素を説明する図である。
図14A、
図14Bは、回路を説明する図である。
図15は、メモリセルを説明する図である。
図16A、
図16Bは、ニューラルネットワークの構成例を示す図である。
図17A乃至
図17Dは、撮像装置の画素の構成を説明する図である。
図18A乃至
図18Cは、光電変換デバイスの構成を説明する図である。
図19は、画素を説明する断面図である。
図20A乃至
図20Cは、Siトランジスタを説明する図である。
図21は、画素を説明する断面図である。
図21は、画素を説明する断面図である。
図23は、画素を説明する断面図である。
図24A乃至
図24Dは、OSトランジスタを説明する図である。
図25は、画素を説明する断面図である。
図26A乃至
図26Cは、画素を説明する斜視図(断面図)である。
図27A1乃至
図27A3、
図27B1乃至
図27B3は、撮像装置を収めたパッケージ、モジュールの斜視図である。
図28A乃至
図28Fは、電子機器を説明する図である。
図29は、自動車を説明する図である。
【発明を実施するための形態】
【0023】
実施の形態について、図面を用いて詳細に説明する。但し、本発明は以下の説明に限定されず、本発明の趣旨およびその範囲から逸脱することなくその形態および詳細を様々に変更し得ることは当業者であれば容易に理解される。したがって、本発明は以下に示す実施の形態の記載内容に限定して解釈されるものではない。なお、以下に説明する発明の構成において、同一部分または同様な機能を有する部分には同一の符号を異なる図面間で共通して用い、その繰り返しの説明は省略することがある。なお、図を構成する同じ要素のハッチングを異なる図面間で適宜省略または変更する場合もある。
【0024】
回路図上では単一の要素として図示されている場合であっても、機能的に不都合がなければ、当該要素が複数で構成されてもよい。例えば、スイッチとして動作するトランジスタは、複数が直列または並列に接続されてもよい場合がある。また、キャパシタを分割して複数の位置に配置する場合もある。
【0025】
一つの導電体が、配線、電極および端子のような複数の機能を併せ持っている場合があり、本明細書においては、同一の要素に対して複数の呼称を用いる場合がある。また、回路図上で要素間が直接接続されているように図示されている場合であっても、実際には当該要素間が一つまたは複数の導電体を介して接続されている場合があり、本明細書ではこのような構成でも直接接続の範疇に含める。
【0026】
(実施の形態1)
本実施の形態では、画像処理を行うことができる撮像装置について、図面を参照して説明する。
【0027】
本発明の一態様は、画像処理などの付加機能を備えた撮像装置である。当該撮像装置は、撮像動作で取得したアナログデータ(画像データ)を画素に保持し、当該アナログデータと任意の重み係数とを乗じたデータを取り出す機能を有する。また、複数の画素から出力される当該データを加算する機能(積和演算機能)を有する。
【0028】
さらに、画素から取り出した当該データを撮像装置の内部または外部に設けられたニューラルネットワークなどに取り込むことで、画像認識などの処理を行うことができる。本発明の一態様である撮像装置は、膨大な画像データをアナログデータの状態で画素に保持し、かつ画素内で演算することができるため、効率良く処理を行うことができる。
【0029】
本発明の一態様は、フレーム間を補間する画像(補間画像)を生成する機能を備えた撮像装置である。当該撮像装置において、画素は、nフレーム目において、nフレーム目に撮像することで取得された画像データに任意の重みを与えて、nフレーム目の第1のデータを生成する機能を有する。また、画素は、n-1フレーム目に撮像することで取得された画像データを保持する機能を有し、nフレーム目において、n-1フレーム目に取得された画像データに任意の重みを与えて、n-1フレーム目の第1のデータを生成する機能を有する。さらに、画素は、n-1フレーム目の第1のデータと、nフレーム目の第1のデータを足し合わせて第2のデータを生成する機能を有する。第2のデータは、例えば、フレーム間を補間する画像データとして好適に用いることができる。
【0030】
<撮像装置>
本発明の一態様である撮像装置のブロック図を、
図1に示す。撮像装置は、画素アレイ300と、回路201と、回路301と、回路302と、回路303と、回路304と、回路305と、を有する。なお、回路201、回路301、回路302、回路303、および回路304、および回路305の一以上は、画素アレイ300と重なる領域を有していてもよい。当該構成とすることで、撮像装置の面積を小さくすることができる。
【0031】
なお、本発明の一態様の撮像装置では、回路201および回路301乃至回路305が有する機能のうち、2つ以上の機能を有する回路を代替して用いてもよい。また、回路201および回路301乃至回路305以外の回路を用いてもよい。また、回路201および回路301乃至回路305が有する機能のうち、一つ以上がソフトウェアによる動作で置き換えられてもよい。また、回路201および回路301乃至回路305のうち、一部の回路は、撮像装置の外部にあってもよい。
【0032】
画素アレイ300は、撮像機能および演算機能を有することができる。回路201及び回路301はそれぞれ、演算機能を有することができる。回路302は、演算機能またはデータ変換機能を有することができ、データを配線311に出力することができる。回路303及び回路304はそれぞれ、選択機能を有することができる。回路305は、画素に電位(重みなど)を供給する機能を有することができる。なお、選択機能を有する回路には、シフトレジスタまたはデコーダなどを用いることができる。
【0033】
画素アレイ300は、マトリクス状に配置された複数の画素ブロック200を有する。回路201は、列方向に配置される複数の画素ブロック200と電気的に接続される。それぞれの画素ブロック200は配線113を介して回路201と電気的に接続される。
【0034】
画素ブロック200のブロック図を、
図2に示す。
図2では、回路201の回路図も併せて示している。画素ブロック200は、マトリクス状に配置された複数の画素100を有し、それぞれの画素100は、配線113を介して回路201と電気的に接続される。なお、回路201は画素ブロック200内に設けることもできる。
【0035】
画素100は、画像データの取得および画像データと重み係数とを加算したデータを生成する機能を有する。なお、
図2では、画素ブロック200が有する画素100の数を3行3列としているが、本発明の一態様はこれに限らない。画素ブロック200が有する画素数は、例えば、2行2列、4行4列などとすることができる。または、水平方向と垂直方向の画素数が異なっていてもよい。また、一部の画素を隣り合う画素ブロックで共有してもよい。
【0036】
例えば、
図3に示す構成とすれば、画素ブロック200が有する画素100の数を可変させることができる。
図3は、[q-1]行乃至[q+1]行、[p-1]列乃至[p+1]列(p、qは2以上の整数)に配置された複数の画素100を示している。各画素100内には選択スイッチが設けられ、当該選択スイッチは、行配線RL[q-1]乃至RL[q+1]に供給される選択信号によって“ON”、“OFF”が制御される。当該選択スイッチは、列配線CL[p-1]乃至CL[p+1]のいずれかと電気的に接続される。また、少なくとも列配線のいずれか一つ以上は、回路201と電気的に接続される。
【0037】
列配線CL[p-1]とCL[p]との間には導通スイッチSW[p-1]が設けられ、列配線CL[p]とCL[p+1]との間には導通スイッチSW[p]が設けられる。当該導通スイッチは、信号線G1、信号線G2に供給される選択信号によって“ON”、“OFF”が制御される。当該選択スイッチが“ON”することにより、隣り合う列配線を導通させることができる。
【0038】
例えば、行配線RL[q-1]、RL[q]に選択スイッチを“ON”する信号を供給し、信号線G1に導通スイッチSW[p-1]を“ON”する信号を供給すると、2行2列の画素100(画素100[q-1,p-1]、画素100[q-1,p]、画素100[q,p-1]、画素100[q,p])が選択される。また、列配線CL[p-1]と、列配線CL[p]が導通する。したがって、上記2行2列の画素100と回路201が電気的に接続されることになる。
【0039】
さらに、行配線RL[q+1]に選択スイッチを“ON”する信号を供給し、信号線G2に導通スイッチSW[p]を“ON”する信号を供給すると、3行3列の画素100が回路201に電気的に接続されることになる。
【0040】
画素ブロック200および回路201は、積和演算回路として動作させることができる。
【0041】
<画素回路の構成例1>
画素100の回路図を、
図4に示す。画素100は、光電変換デバイス101と、回路130a、回路130b及びトランジスタ108を有する。光電変換デバイス101は、回路130aを介して、トランジスタ108と電気的に接続される。また、光電変換デバイス101は、回路130bを介して、トランジスタ108と電気的に接続される。
【0042】
光電変換デバイス101は、フォトダイオードを用いることができる。低照度時の光検出感度を高めたい場合は、アバランシェフォトダイオードを好適に用いることができる。
【0043】
回路130a及び回路130bはそれぞれ、光電変換デバイス101で取得された画像の画像データにフィルタを用いて重みを与えることで第1のデータを生成し、第1のデータを保持する機能を有する。nフレーム目において、回路130a及び回路130bの一方は、nフレーム目(nは2以上の整数)に取得された画像データにフィルタを用いて重みを与え、nフレーム目の第1のデータを生成する機能を有する。nフレーム目において、回路130a及び回路130bの他方は、保持しているn-1フレーム目の画像データにフィルタを用いて重みを与え、n-1フレーム目の第1のデータを生成する機能を有する。
【0044】
本発明の一態様である撮像装置は、nフレーム目に取得された画像データから生成したnフレーム目の第1のデータと、n-1フレーム目に取得された画像データから生成したn-1フレーム目の第1のデータから、第2のデータを生成できる。第2のデータは、例えば、フレーム間を補間する画像データとして好適に用いることができる。
【0045】
本発明の一態様である撮像装置の動作の概念図を、
図5に示す。
図5では、一例としてnフレーム目乃至n+2フレーム目の3フレーム分の動作を示している。
【0046】
nフレーム目において、光電変換デバイス101を動作させ、画像データIMnを取得する。nフレーム目において、回路130bは、画像データIMnに第2のフィルタFL21を用いて重みを与え、第1のデータIMn*FL21を生成する。nフレーム目において、回路130aは、保持しているn-1フレーム目に取得された画像データIMn-1に第1のフィルタFL11を用いて重みを与え、第1のデータIMn-1*FL11を生成する。そして、n-1フレーム目の第1のデータIMn-1*FL11に、nフレーム目の第1のデータIMn*FL21が加算され、第2のデータ(IMn-1*FL11)+(IMn*FL21)が生成される。生成された第2のデータ(IMn-1*FL11)+(IMn*FL21)は、画素100から出力される。
【0047】
nフレーム目において、nフレーム目に取得した画像データIMnには第2のフィルタFL21を用いて重みを与え、1つ前のフレームであるn-1フレーム目に取得した画像データIMn-1には第1のフィルタFL11を用いて重みを与える。
【0048】
なお、本明細書等において、画像データにフィルタを用いて重みを与えることで生成される第1のデータを、“*”を用いて記す場合がある。例えば、画像データIMnに第1のフィルタFL11を用いて重みを与えることにより生成した第1のデータを、第1のデータIMn*FL11と記す場合がある。また、第1のデータから生成される第2のデータを、“+”を用いて記す場合がある。例えば、第1のデータIMn*FL11に、第1のデータIMn+1*FL21を加算することにより生成される第2のデータを、第2のデータ(IMn*FL11)+(IMn+1*FL21)と記す場合がある。
【0049】
n+1フレーム目において、光電変換デバイス101を動作させ、画像データIMn+1を取得する。n+1フレーム目において、回路130aは、画像データIMn+1に第2のフィルタFL21を用いて重みを与え、第1のデータIMn+1*FL21を生成する。n+1フレーム目において、回路130bは、保持しているnフレーム目に取得された画像データIMnに第1のフィルタFL11を用いて重みを与え、第1のデータIMn*FL11を生成する。そして、nフレーム目の第1のデータIMn*FL11に、n+1フレーム目の第1のデータIMn+1*FL21が加算され、第2のデータ(IMn*FL11)+(IMn+1*FL21)が生成される。生成された第2のデータ(IMn*FL11)+(IMn+1*FL21)は、画素100から出力される。
【0050】
n+1フレーム目において、n+1フレーム目に取得した画像データIMn+1には第2のフィルタFL21を用いて重みを与え、1つ前のフレームであるnフレーム目に取得した画像データIMnには第1のフィルタFL11を用いて重みを与える。
【0051】
n+2フレーム目において、光電変換デバイス101を動作させ、画像データIMn+2を取得する。n+2フレーム目において、回路130bは、画像データIMn+2に第2のフィルタFL21を用いて重みを与え、第1のデータIMn+2*FL21を生成する。n+2フレーム目において、回路130aは、保持しているn+1フレーム目に取得された画像データIMn+1に第1のフィルタFL11を用いて重みを与え、第1のデータIMn+1*FL11を生成する。そして、n+1フレーム目の第1のデータIMn+1*FL11に、n+2フレーム目の第1のデータIMn+2*FL21が加算され、第2のデータ(IMn+1*FL11)+(IMn+2*FL21)が生成される。生成された第2のデータ(IMn+1*FL11)+(IMn+2*FL21)は、画素100から出力される。
【0052】
n+2フレーム目において、n+2フレーム目に取得した画像データIMn+2には第2のフィルタFL21を用いて重みを与え、1つ前のフレームであるn+1フレーム目に取得した画像データIMn+1には第1のフィルタFL11を用いて重みを与える。
【0053】
いずれのフレームにおいても、当該フレームで取得した画像データには第2のフィルタFL21を用いて重みを与え、1つ前のフレームで取得した画像データには第1のフィルタFL11を用いて重みを与える。
【0054】
以降のフレームについても、前述と同様の動作を行うことができる。
【0055】
ここで、第1のフィルタFL11及び第2のフィルタFL21のサイズ(画素数)はそれぞれ、例えば、2行2列、3行3列また4行4列とすることができる。第1のフィルタFL11及び第2のフィルタFL21のサイズ(画素数)はそれぞれ、水平方向と垂直方向で異なっていてもよい。第1のフィルタFL11及び第2のフィルタFL21のサイズ(画素数)は、画素ブロック200が有する画素数と同じとすることができる。例えば、画素ブロック200が有する画素数を3行3列とする場合は、3行3列の第1のフィルタFL11及び第2のフィルタFL21を用いることができる。また、第1のフィルタFL11と第2のフィルタFL21は、それぞれが有する要素(重み)を同じ構成としてもよく、異なる構成としてもよい。
【0056】
図5では、回路130a及び回路130bでそれぞれ、1種類のフィルタを用いる例を示したが、本発明の一態様はこれに限られない。回路130a及び回路130bでそれぞれ、複数種類のフィルタを用いてもよい。複数種類のフィルタを用いる場合は、それぞれが有する要素(重み)を異なる構成とすることができる。要素(重み)が異なる複数種類のフィルタを用いることにより、取得した画像データに対して複数種類の特徴量を抽出でき、高精度な画像処理を行うことができる。例えば、第2のデータを、フレーム間を補間する画像データに用いることで、滑らかな動画とすることができ、高品質な動画を撮像できる撮像装置とすることができる。特にフレーム周波数が低い場合においても、滑らかな動画とすることができる。
【0057】
回路130a及び回路130bでそれぞれ3種類のフィルタを用いる例を、
図6に示す。
図6では、一例としてnフレーム目乃至n+2フレーム目の3フレーム分の動作を示している。
【0058】
nフレーム目において、光電変換デバイス101を動作させ、画像データIMnを取得する。nフレーム目において、回路130bは、画像データIMnに第2のフィルタFL21、第4のフィルタFL22及び第6のフィルタFL23を用いて重みを与え、第1のデータIMn*FL21、第1のデータIMn*FL22、及び第1のデータIMn*FL23を生成する。nフレーム目において、回路130aは、保持しているn-1フレーム目に取得された画像データIMn-1に第1のフィルタFL11、第3のフィルタFL12及び第5のフィルタFL13を用いて重みを与え、第1のデータIMn-1*FL11、第1のデータIMn-1*FL12、及び第1のデータIMn-1*FL13を生成する。
【0059】
n-1フレーム目の第1のデータIMn-1*FL11に、nフレーム目の第1のデータIMn*FL21が加算され、第2のデータ(IMn-1*FL11)+(IMn*FL21)が生成される。n-1フレーム目の第1のデータIMn-1*FL12に、nフレーム目の第1のデータIMn*FL22が加算され、第2のデータ(IMn-1*FL12)+(IMn*FL22)が生成される。n-1フレーム目の第1のデータIMn-1*FL13に、nフレーム目の第1のデータIMn*FL23が加算され、第2のデータ(IMn-1*FL13)+(IMn*FL23)が生成される。生成された第2のデータ(IMn-1*FL11)+(IMn*FL21)、第2のデータ(IMn-1*FL12)+(IMn*FL22)、及び第2のデータ(IMn-1*FL13)+(IMn*FL23)は、画素100から出力される。
【0060】
nフレーム目において、nフレーム目に取得した画像データIMnには第2のフィルタFL21、第4のフィルタFL22、及び第6のフィルタFL23を用いて重みを与え、1つ前のフレームであるn-1フレーム目に取得した画像データIMn-1には第1のフィルタFL11、第3のフィルタFL12、及び第5のフィルタFL13を用いて重みを与える。
【0061】
n+1フレーム目において、光電変換デバイス101を動作させ、画像データIMn+1を取得する。n+1フレーム目において、回路130aは、画像データIMn+1に第2のフィルタFL21、第4のフィルタFL22及び第6のフィルタFL23を用いて重みを与え、第1のデータIMn+1*FL21、第1のデータIMn+1*FL22、及び第1のデータIMn+1*FL23を生成する。n+1フレーム目において、回路130bは、保持しているnフレーム目に取得された画像データIMnに第1のフィルタFL11、第3のフィルタFL12及び第5のフィルタFL13を用いて重みを与え、第1のデータIMn*FL11、第1のデータIMn*FL12、及び第1のデータIMn*FL13を生成する。
【0062】
nフレーム目の第1のデータIMn*FL11に、n+1フレーム目の第1のデータIMn+1*FL21が加算され、第2のデータ(IMn*FL11)+(IMn+1*FL21)が生成される。nフレーム目の第1のデータIMn*FL12に、n+1フレーム目の第1のデータIMn+1*FL22が加算され、第2のデータ(IMn*FL12)+(IMn+1*FL22)が生成される。nフレーム目の第1のデータIMn*FL13に、n+1フレーム目の第1のデータIMn+1*FL23が加算され、第2のデータ(IMn*FL13)+(IMn+1*FL23)が生成される。生成された第2のデータ(IMn*FL11)+(IMn+1*FL21)、第2のデータ(IMn*FL12)+(IMn+1*FL22)、及び第2のデータ(IMn*FL13)+(IMn+1*FL23)は、画素100から出力される。
【0063】
n+1フレーム目において、n+1フレーム目に取得した画像データIMn+1には第2のフィルタFL21、第4のフィルタFL22、及び第6のフィルタFL23を用いて重みを与え、1つ前のフレームであるnフレーム目に取得した画像データIMnには第1のフィルタFL11、第3のフィルタFL12、及び第5のフィルタFL13を用いて重みを与える。
【0064】
n+2フレーム目において、光電変換デバイス101を動作させ、画像データIMn+2を取得する。n+2フレーム目において、回路130bは、画像データIMn+2に第2のフィルタFL21、第4のフィルタFL22及び第6のフィルタFL23を用いて重みを与え、第1のデータIMn+2*FL21、第1のデータIMn+2*FL22、及び第1のデータIMn+2*FL23を生成する。n+2フレーム目において、回路130aは、保持しているn+1フレーム目に取得された画像データIMn+1に第1のフィルタFL11、第3のフィルタFL12及び第5のフィルタFL13を用いて重みを与え、第1のデータIMn+1*FL11、第1のデータIMn+1*FL12、及び第1のデータIMn+1*FL13を生成する。
【0065】
n+1フレーム目の第1のデータIMn+1*FL11に、n+2フレーム目の第1のデータIMn+2*FL21が加算され、第2のデータ(IMn+1*FL11)+(IMn+2*FL12)が生成される。n+1フレーム目の第1のデータIMn+1*FL12に、n+2フレーム目の第1のデータIMn+2*FL22が加算され、第2のデータ(IMn+1*FL12)+(IMn+2*FL12)が生成される。n+1フレーム目の第1のデータIMn+1*FL13に、n+2フレーム目の第1のデータIMn+2*FL23が加算され、第2のデータ(IMn+1*FL13)+(IMn+2*FL23)が生成される。生成された第2のデータ(IMn+1*FL11)+(IMn+2*FL21)、第2のデータ(IMn+1*FL12)+(IMn+2*FL22)、及び第2のデータ(IMn+1*FL13)+(IMn+2*FL23)は、画素100から出力される。
【0066】
n+2フレーム目において、n+2フレーム目に取得した画像データIMn+2には第2のフィルタFL21、第4のフィルタFL22、及び第6のフィルタFL23を用いて重みを与え、1つ前のフレームであるn+1フレーム目に取得した画像データIMn+1には第1のフィルタFL11、第3のフィルタFL12、及び第5のフィルタFL13を用いて重みを与える。
【0067】
いずれのフレームにおいても、当該フレームで取得した画像データには第2のフィルタFL21、第4のフィルタFL22、及び第6のフィルタFL23を用いて重みを与え、1つ前のフレームで取得した画像データには第1のフィルタFL11、第3のフィルタFL12、及び第5のフィルタFL13を用いて重みを与える。
【0068】
以降のフレームについても、前述と同様の動作を行うことができる。
【0069】
回路130a及び回路130bの構成について、
図4を用いて説明する。
【0070】
回路130aは、トランジスタ102aと、トランジスタ103aと、キャパシタ104aと、トランジスタ105aと、トランジスタ106aと、を有する。光電変換デバイス101の一方の電極は、トランジスタ102aのソースまたはドレインの一方と電気的に接続される。トランジスタ102aのソースまたはドレインの他方は、トランジスタ103aのソースまたはドレインの一方、キャパシタ104aの一方の電極、およびトランジスタ105aのゲートと電気的に接続される。トランジスタ105aのソースまたはドレインの一方は、トランジスタ108のソースまたはドレインの一方と電気的に接続される。キャパシタ104aの他方の電極は、トランジスタ106bのソースまたはドレインの一方と電気的に接続される。
【0071】
光電変換デバイス101の他方の電極は、配線114と電気的に接続される。トランジスタ108のソースまたはドレインの他方は、配線113と電気的に接続される。トランジスタ108のゲートは、配線122と電気的に接続される。
【0072】
トランジスタ102aのゲートは、配線116aと電気的に接続される。トランジスタ103aのソースまたはドレインの他方は、配線115aに電気的に接続される。トランジスタ103aのゲートは、配線117aと電気的に接続される。トランジスタ105aのソースまたはドレインの他方は、配線119aと電気的に接続される。トランジスタ106aのソースまたはドレインの他方は、配線111aと電気的に接続される。トランジスタ106aのゲートは、配線112aと電気的に接続される。
【0073】
ここで、トランジスタ102aのソースまたはドレインの他方と、トランジスタ103aのソースまたはドレインの一方と、キャパシタ104aの一方の電極と、トランジスタ105aのゲートとの電気的な接続点をノードNDaとする。
【0074】
配線114及び配線115aはそれぞれ、電源線としての機能を有することができる。例えば、配線114は低電位電源線、配線115aは高電位電源線として機能させることができる。配線112a、配線116a、配線117a、配線122は、各トランジスタの導通を制御する信号線として機能させることができる。配線111aは、画素100に重み係数に相当する電位を供給する配線として機能させることができる。配線113は、画素100と回路201とを電気的に接続する配線として機能させることができる。配線119aは、低電位電源線(例えば、GND配線)として機能させることができる。
【0075】
なお、配線113には、増幅回路、またはゲイン調整回路が電気的に接続されていてもよい。
【0076】
トランジスタ102aは、ノードNDaの電位を制御する機能を有することができる。トランジスタ103aは、ノードNDaの電位を初期化する機能を有することができる。トランジスタ105aは、ノードNDaの電位に応じて回路201が流す電流(配線217から配線119aへ流れる電流)を制御する機能を有することができる。トランジスタ106aは、ノードNDaに重み係数に相当する電位を供給する機能を有することができる。トランジスタ108は、画素を選択する機能を有することができる。
【0077】
図4において、光電変換デバイス101が有する一対の電極の接続の向きを逆にしてもよい。この場合、配線114は高電位電源線、配線115aは低電位電源線として機能させればよい。
【0078】
トランジスタ102a、トランジスタ103aには、チャネル形成領域に金属酸化物を用いたトランジスタ(OSトランジスタ)を用いることが好ましい。OSトランジスタは、オフ電流が極めて低い特性を有する。トランジスタ102a、トランジスタ103aにOSトランジスタを用いることによって、ノードNDaで電荷を保持できる期間を極めて長くすることができる。また、回路構成、及び動作方法を複雑にすることなく、全画素で同時に電荷の蓄積動作を行うグローバルシャッタ方式を適用することができる。また、ノードNDaに画像データを保持させつつ、当該画像データを用いた複数回の演算を行うこともできる。
【0079】
一方、トランジスタ105aは、増幅特性が優れていることが望まれる場合がある。また、トランジスタ106a、トランジスタ108は、高速動作が可能な移動度が高いトランジスタを用いることが好ましい場合がある。したがって、トランジスタ105a、トランジスタ106a、トランジスタ108には、シリコンをチャネル形成領域に用いたトランジスタ(Siトランジスタ)を適用してもよい。
【0080】
なお、上記に限らず、OSトランジスタおよびSiトランジスタを任意に組み合わせて適用してもよい。また、全てのトランジスタをOSトランジスタとしてもよい。または、全てのトランジスタをSiトランジスタとしてもよい。Siトランジスタとして、アモルファスシリコンを有するトランジスタ、結晶性のシリコン(微結晶シリコン、低温ポリシリコン、単結晶シリコン)を有するトランジスタなどが挙げられる。
【0081】
画素100におけるノードNDaの電位は、配線115aから供給されるリセット電位から光電変換デバイス101による光電変換で生成される電位(画像データ)が減算された電位となる。また、ノードNDaの電位は、さらに配線111aから供給される重み係数に相当する電位が容量結合されて確定される。したがって、トランジスタ105aは、画像データに任意の重み係数が加わったデータに応じた電流を流すことができる。なお、光電変換デバイス101が有する一対の電極の接続の向きを
図4と逆にする場合は、ノードNDaの電位は、配線115aから供給されるリセット電位に光電変換デバイス101による光電変換で生成される電位(画像データ)が加算された電位で確定される。
【0082】
回路130bは、回路130aと同じ構成を用いることができる。回路130bは、トランジスタ102bと、トランジスタ103bと、キャパシタ104bと、トランジスタ105bと、トランジスタ106bと、を有する。トランジスタ102b、トランジスタ103b、キャパシタ104b、トランジスタ105b、及びトランジスタ106bについてはそれぞれ、トランジスタ102a、トランジスタ103a、キャパシタ104a、トランジスタ105a、及びトランジスタ106aの説明を参照できるため、詳細な説明は省略する。
【0083】
なお、本明細書等において、トランジスタ102aとトランジスタ102bをまとめて、トランジスタ102と記す場合がある。トランジスタ103aとトランジスタ103bをまとめて、トランジスタ103と記す場合がある。キャパシタ104aとキャパシタ104bをまとめて、キャパシタ104と記す場合がある。トランジスタ105aとトランジスタ105bをまとめて、トランジスタ105と記す場合がある。トランジスタ106aとトランジスタ106bをまとめて、トランジスタ106と記す場合がある。回路130aと回路130bをまとめて、回路130と記す場合がある。
【0084】
配線111b、配線112b、配線115b、配線116b、配線117b及び配線119bについてはそれぞれ、配線111a、配線112a、配線115a、配線116a、配線117a及び配線119aの説明を参照できるため、詳細な説明は省略する。同様に、ノードNDbについても、ノードNDaの説明を参照できるため、詳細な説明は省略する。なお、配線115aと配線115bを共通とすることができる。また、配線119aと配線119bを共通とすることができる。配線を共通とすることにより配線の数が減り、画素に占める配線の面積を小さくできることから、高精細な撮像装置とすることができる。
【0085】
<回路201>
図2に示すように、各画素100は、配線113で互いに電気的に接続される。回路201は、各画素100のトランジスタ105に流れる電流の和を用いて演算を行うことができる。
【0086】
回路201は、キャパシタ202と、トランジスタ203と、トランジスタ204と、トランジスタ205と、トランジスタ206と、トランジスタ207を有する。トランジスタ207は、電圧変換回路として機能する。トランジスタ207のゲートには、適切なアナログ電位(Bias)が印加される。
【0087】
キャパシタ202の一方の電極は、トランジスタ203のソースまたはドレインの一方、およびトランジスタ204のゲートと電気的に接続される。トランジスタ204のソースまたはドレインの一方は、トランジスタ205のソースまたはドレインの一方、およびトランジスタ206のソースまたはドレインの一方と電気的に接続される。キャパシタ202の他方の電極は、配線113およびトランジスタ207のソースまたはドレインの一方と電気的に接続される。
【0088】
ここで、キャパシタ202の一方の電極、トランジスタ203のソースまたはドレインの一方、およびトランジスタ204のゲートを接続する点をノードCとする。
【0089】
トランジスタ203のソースまたはドレインの他方は、配線218と電気的に接続される。トランジスタ204のソースまたはドレインの他方は、配線219と電気的に接続される。トランジスタ205のソースまたはドレインの他方は、GND配線などの基準電源線と電気的に接続される。トランジスタ206のソースまたはドレインの他方は、配線212と電気的に接続される。トランジスタ207のソースまたはドレインの他方は、配線217と電気的に接続される。トランジスタ203のゲートは、配線216と電気的に接続される。トランジスタ205のゲートは、配線215と電気的に接続される。トランジスタ206のゲートは、配線213と電気的に接続される。
【0090】
配線217、配線218、及び配線219はそれぞれ、電源線としての機能を有することができる。例えば、配線218は、読み出し用のリセット電位(Vr)を供給する配線としての機能を有することができる。配線217、及び配線219はそれぞれ、高電位電源線として機能させることができる。配線213、配線215、及び配線216は、各トランジスタの導通を制御する信号線として機能させることができる。配線212は出力線であり、例えば、
図1に示す回路301と電気的に接続することができる。
【0091】
トランジスタ203は、ノードCの電位を配線218の電位にリセットする機能を有することができる。トランジスタ204、トランジスタ205は、ソースフォロア回路としての機能を有することができる。トランジスタ206は、読み出しを制御する機能を有することができる。なお、回路201は、相関二重サンプリング回路(CDS回路)としての機能を有し、当該機能を有する他の構成の回路に置き換えることもできる。
【0092】
本発明の一態様では、画像データ(X)と重み係数(W)との積以外のオフセット成分を除去し、画像データ(X)と重み係数(W)との積(WX)を抽出する。WXは、同じ画素で取得される露光あり(撮像あり)、露光なし(撮像なし)のデータと、そのそれぞれに対して、重みを与えたときのデータを利用して算出することができる。
【0093】
露光ありのときに画素100に流れる電流(Ip)の合計はkΣ(-X-Vth)2、重みを与えたときに画素100に流れる電流(Ip)の合計はkΣ(W-X-Vth)2となる。また、露光なしのときに画素100に流れる電流(Iref)の合計はkΣ(0-Vth)2、重みを与えたときに画素100に流れる電流(Iref)の合計はkΣ(W-Vth)2となる。ここで、kは定数、Vthはトランジスタ105のしきい値電圧である。
【0094】
まず、露光ありのデータと、当該データに重みを与えたデータとの差分(データA)を算出する。kΣ((-X-Vth)2-(W-X-Vth)2)=kΣ(-W2+2W・X+2W・Vth)となる。
【0095】
次に、露光なしのデータと、当該データに重みを与えたデータとの差分(データB)を算出する。kΣ((0-Vth)2-(W-Vth)2)=kΣ(-W2+2W・Vth)となる。
【0096】
そして、データAとデータBとの差分をとる。kΣ(-W2+2W・X+2W・Vth-(-W2+2W・Vth))=kΣ(2W・X)となる。すなわち、画像データ(X)と重み係数(W)との積以外のオフセット成分を除去することができる。
【0097】
回路201では、データAおよびデータBを読み出すことができる。なお、データAとデータBとの差分演算は、例えば回路301で行うことができる。
【0098】
光電変換デバイス101が有する一対の電極の接続の向きを
図4と逆にする場合についいて、説明する。
【0099】
露光ありのときに画素100に流れる電流(Ip)の合計はkΣ(X-Vth)2、重みを与えたときに画素100に流れる電流(Ip)の合計はkΣ(W+X-Vth)2となる。また、露光なしのときに画素100に流れる電流(Iref)の合計はkΣ(0-Vth)2、重みを与えたときに画素100に流れる電流(Iref)の合計はkΣ(W-Vth)2となる。
【0100】
まず、露光ありのデータと、当該データに重みを与えたデータとの差分(データA)を算出する。kΣ((X-Vth)2-(W+X-Vth)2)=kΣ(-W2-2W・X+2W・Vth)となる。
【0101】
次に、露光なしのデータと、当該データに重みを与えたデータとの差分(データB)を算出する。kΣ((0-Vth)2-(W-Vth)2)=kΣ(-W2+2W・Vth)となる。
【0102】
そして、データAとデータBとの差分をとる。kΣ(-W
2-2W・X+2W・V
th-(-W
2+2W・V
th))=kΣ(-2W・X)となる。光電変換デバイス101が有する一対の電極の接続の向きを
図4と逆にする場合においても、画像データ(X)と重み係数(W)との積以外のオフセット成分を除去することができる。
【0103】
トランジスタ203には、チャネル形成領域に金属酸化物を用いたトランジスタ(OSトランジスタ)を用いることが好ましい。トランジスタ203にOSトランジスタを用いることによって、ノードCで電荷を保持できる期間を極めて長くすることができる。
【0104】
トランジスタ204、及びトランジスタ205は、高速動作が可能な移動度が高いトランジスタを用いることが好ましい場合がある。したがって、トランジスタ204、及びトランジスタ205には、Siトランジスタを適用してもよい。
【0105】
なお、上記に限らず、OSトランジスタおよびSiトランジスタを任意に組み合わせて適用してもよい。また、全てのトランジスタをOSトランジスタとしてもよい。または、全てのトランジスタをSiトランジスタとしてもよい。
【0106】
<撮像動作1>
図7は、画素ブロック200および回路201において、露光ありのデータと、当該データに重みを与えたデータとの差分(データA)を算出する動作を説明するタイミングチャートである。なお、便宜的に各信号が変換するタイミングをあわせて図示しているが、実際には回路内部の遅延を考慮してずらすことが好ましい。また、以下の説明においては、高電位を“H”、低電位を“L”で表している。
【0107】
ここでは、
図5に示したn+1フレーム目の動作を、
図7を用いて説明する。
【0108】
まず、期間T11に、配線116aの電位を“H”、配線117aの電位を“H”とし、画素100のノードNDaをリセット電位とする。また、配線111a_1乃至配線111a_3(1行目乃至3行目の配線111a)の電位を“L”、配線112a_1乃至配線112a_3(1行目乃至3行目の配線112a)の電位を“H”とし、重み係数0を書き込む。同様に、配線111b_1乃至配線111b_3(1行目乃至3行目の配線111b)の電位を“L”、配線112b_1乃至配線112b_3(1行目乃至3行目の配線112b)の電位を“H”とし、重み係数0を書き込む。
【0109】
期間T12に、配線116aの電位を“L”、配線117aの電位を“L”とし、光電変換デバイス101で露光動作を行う。
【0110】
期間T13に、配線116aの電位を“H”とし、光電変換デバイス101で生成した電位を転送し、ノードNDaにn+1フレーム目の電位Xn+1(画像データ)を書き込む。期間T11乃至期間T13は、n+1フレーム目の露光ありのデータを取得する期間に相当する。なお、ノードNDbには、1つ前のフレームであるnフレーム目の電位Xn(画像データ)が保持されている。
【0111】
期間T14に、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック内の全ての画素100を選択する。ここで、配線122_1は1行目の画素100の配線122を示し、配線122_2は2行目の画素100の配線122を示し、配線122_3は3行目の画素100の配線122を示している。このとき、各画素100のトランジスタ105aには、電位Xn+1に応じた電流が流れる。トランジスタ105bには、電位Xnに応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込み、ノードCの電位が電位Vrに初期化される。
【0112】
期間T15に、配線111a_1の電位を重み係数W11(1行目の画素に加える重み)に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W11を加算する。
【0113】
配線111a_2の電位を重み係数W12(2行目の画素に加える重み)に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W12を加算する。
【0114】
配線111a_3の電位を重み係数W13(3行目の画素に加える重み)に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W13を加算する。なお、重み係数W11、重み係数W12、及び重み係数W13は、第1のフィルタFL11の要素である。
【0115】
配線111b_1の電位を重み係数W21(1行目の画素に加える重み)に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W21を加算する。
【0116】
配線111b_2の電位を重み係数W22(2行目の画素に加える重み)に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W22を加算する。
【0117】
配線111b_3の電位を重み係数W23(3行目の画素に加える重み)に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W23を加算する。なお、重み係数W21、重み係数W22、及び重み係数W23は、第2のフィルタFL21の要素である。
【0118】
期間T14から引き続き、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、1行目の画素100のトランジスタ105aには、電位W11+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W21+Xnに応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W12+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W22+Xnに応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W13+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W23+Xnに応じた電流が流れる。
【0119】
ここで、配線113に流れる電流に従ってキャパシタ202の他方の電極の電位が変化し、その変化分Yが容量結合によってノードCの電位Vrに加算される。したがって、ノードCの電位は、“Vr+Y”になる。ここで、Vr=0と考えると、Yは差分そのものであり、データAが算出されたことになる。
【0120】
配線213の電位を“H”、配線215の電位を“Vbias”などの適切なアナログ電位とすることで、回路201はソースフォロア動作により1行目の画素ブロック200のデータAに応じた信号電位を出力する(以下、読み出しを行うとも記す)ことができる。
【0121】
図7では、1列目の複数の画素ブロック200と電気的に接続される回路201が有する配線213を配線213A、2列目の複数の画素ブロック200と電気的に接続される回路201が有する配線213を配線213Bと記している。3列目以降も同様であるため、図示していない。期間T15において、配線213A、配線213B等を順次“H”とし、それぞれの画素ブロック200から読み出しを行う。
図7では、配線213A、配線213Bの順に“H”となる例を示しているが、本発明の一態様はこれに限られない。それぞれの配線213は、期間T15の間に“H”となる期間を有する構成とすればよい。
【0122】
なお、本明細書等において、配線213A、配線213B等をまとめて、配線213と記す場合がある。
【0123】
期間T15の動作は、n+1フレーム目において、撮像ありのデータをもとにデータAを生成し、データAを回路301に出力する(読み出しを行う)期間に相当する。
【0124】
期間T16に、配線122_1、配線122_2、配線122_3、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3、配線213A、配線213B、及び配線215の電位を“L”とする。
【0125】
ここまでが、n+1フレーム目の動作の説明である。
【0126】
次に、
図5に示したn+2フレーム目の動作を、
図7を用いて説明する。なお、前述のn+1フレーム目(期間T11乃至期間T16)と共通する部分については説明を省略し、相違する部分について主に説明する。
【0127】
まず、期間T21に、配線116bの電位を“H”、配線117bの電位を“H”とし、画素100のノードNDbをリセット電位とする。また、配線111a_1乃至配線111a_3の電位を“L”、配線112a_1乃至配線112a_3の電位を“H”とし、重み係数0を書き込む。同様に、配線111b_1乃至配線111b_3の電位を“L”、配線112b_1乃至配線112b_3の電位を“H”とし、重み係数0を書き込む。
【0128】
期間T22に、配線116bの電位を“L”、配線117bの電位を“L”とし、光電変換デバイス101で露光動作を行う。
【0129】
期間T23に、配線116bの電位を“H”とし、光電変換デバイス101で生成した電位を転送し、ノードNDbにn+2フレーム目の電位Xn+2(画像データ)を書き込む。期間T21乃至期間T23は、n+2フレーム目の露光ありのデータを取得する期間に相当する。なお、ノードNDaには、1つ前のフレームであるn+1フレーム目の電位Xn+1(画像データ)が保持されている。
【0130】
期間T24に、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック内の全ての画素100を選択する。このとき、各画素100のトランジスタ105aには、電位Xn+1に応じた電流が流れる。トランジスタ105bには、電位Xn+2に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込み、ノードCの電位が電位Vrに初期化される。
【0131】
期間T25に、配線111a_1の電位を重み係数W21(1行目の画素に加える重み)に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W21を加算する。
【0132】
配線111a_2の電位を重み係数W22(2行目の画素に加える重み)に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W22を加算する。
【0133】
配線111a_3の電位を重み係数W23(3行目の画素に加える重み)に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W23を加算する。
【0134】
配線111b_1の電位を重み係数W11(1行目の画素に加える重み)に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W11を加算する。
【0135】
配線111b_2の電位を重み係数W12(2行目の画素に加える重み)に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W12を加算する。
【0136】
配線111b_3の電位を重み係数W13(3行目の画素に加える重み)に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W13を加算する。
【0137】
期間T24から引き続き、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、1行目の画素100のトランジスタ105aには、電位W21+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W11+Xn+2に応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W22+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W12+Xn+2に応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W23+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W13+Xn+2に応じた電流が流れる。
【0138】
ここで、配線113に流れる電流に従ってキャパシタ202の他方の電極の電位が変化し、その変化分Yが容量結合によってノードCの電位Vrに加算される。したがって、ノードCの電位は、“Vr+Y”になる。ここで、Vr=0と考えると、Yは差分そのものであり、データAが算出されたことになる。
【0139】
配線213の電位を“H”、配線215の電位を“Vbias”などの適切なアナログ電位とすることで、回路201はソースフォロア動作により1行目の画素ブロック200のデータAに応じた信号電位を出力することができる。
【0140】
期間T25の動作は、n+2フレーム目において、撮像ありのデータをもとにデータAを生成し、データAを回路301に出力する(読み出しを行う)期間に相当する。
【0141】
期間T26に、配線122_1、配線122_2、配線122_3、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3、配線213A、配線213B、及び配線215の電位を“L”とする。
【0142】
ここまでが、n+2フレーム目の動作の説明である。
【0143】
以降のフレームについても、前述と同様の動作を行うことができる。
【0144】
図8は、画素ブロック200および回路201において、露光なしのデータと、当該データに重みを与えたデータとの差分(データB)を算出する動作を説明するタイミングチャートである。なお、データBは、必要に応じて取得すればよい。例えば、入力する重みに変更がなければ、取得したデータBをメモリに格納し、当該メモリからデータBを読み出してもよい。なお、複数の重みに対応した複数のデータBを当該メモリに格納させてもよい。また、データAとデータBは、どちらを先に取得してもよい。
【0145】
ここでは、n+1フレーム目の動作を、
図8を用いて説明する。なお、前述の
図7と共通する部分については説明を省略し、相違する部分について主に説明する。
【0146】
まず、期間T11乃至T13に、配線116aの電位を“H”、配線117aの電位を“H”とし、画素100のノードNDaをリセット電位とする。同様に、配線116bの電位を“H”、配線117bの電位を“H”とし、画素100のノードNDbをリセット電位とする。すなわち、当該期間中において、ノードNDa及びノードNDbの電位はそれぞれ、光電変換デバイス101の動作にかかわらずリセット電位である。期間T13の終わりには、配線116a、配線117a、配線116b、及び配線117bの電位を“L”とする。
【0147】
期間T11では、配線111a_1、配線111a_2、配線111a_3の電位を“L”、配線112a_1、配線112a_2、配線112a_3を“H”とし、重み係数0を書き込む。当該動作は、ノードNDaの電位がリセット電位である期間中に行えばよい。
【0148】
同様に、配線111b_1、配線111b_2、配線111b_3の電位を“L”、配線112b_1、配線112b_2、配線112b_3を“H”とし、重み係数0を書き込む。当該動作は、ノードNDbの電位がリセット電位である期間中に行えばよい。
【0149】
期間T14に、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、各画素100のトランジスタ105aには、リセット電位に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込む。期間T14の動作は露光なしのデータの取得に相当し、当該データは、ノードCの電位Vrに初期化される。
【0150】
期間T15に、配線111a_1の電位を重み係数W11(1行目の画素に加える重み)に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W11を加算する。
【0151】
配線111a_2の電位を重み係数W12(2行目の画素に加える重み)に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W12を加算する。
【0152】
配線111a_3の電位を重み係数W13(3行目の画素に加える重み)に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W13を加算する。
【0153】
配線111b_1の電位を重み係数W21(1行目の画素に加える重み)に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W21を加算する。
【0154】
配線111b_2の電位を重み係数W22(2行目の画素に加える重み)に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W22を加算する。
【0155】
配線111b_3の電位を重み係数W23(3行目の画素に加える重み)に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W23を加算する。
【0156】
期間T14から引き続き、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、1行目の画素100のトランジスタ105aには、電位W11+0に応じた電流が流れ、トランジスタ105bには、電位W21+0に応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W12+0に応じた電流が流れ、トランジスタ105bには、電位W22+0に応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W13+0に応じた電流が流れ、トランジスタ105bには、電位W23+0に応じた電流が流れる。
【0157】
ここで、配線113に流れる電流に従ってキャパシタ202の他方の電極の電位が変化し、その変化分Zが容量結合によってノードCの電位Vrに加算される。したがって、ノードCの電位は、“Vr+Z”になる。ここで、Vr=0と考えると、Zは差分そのものであり、データBが算出されたことになる。
【0158】
配線213A、配線213B等の電位を順次“H”とし、配線215の電位を適切なアナログ電位(Vbias)などとすることで、回路201はソースフォロア動作により1行目の画素ブロック200のデータBに応じた信号電位を出力することができる。
【0159】
期間T15の動作は、撮像無しのデータをもとにデータBを生成し、データBを回路301に出力する(読み出しを行う)期間に相当する。
【0160】
期間T16に、配線122_1、配線122_2、配線122_3、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3、配線213A、配線213B、及び配線215の電位を“L”とする。
【0161】
上記動作によって回路201から出力されるデータAおよびデータBは、回路301に入力される。回路301では、データAとデータBの差分をとる演算が行われ、画像データ(電位X)と重み係数(電位W)との積以外の不要なオフセット成分を除去することができる。回路301は、回路201のような演算回路を有する構成のほか、メモリ回路およびソフトウェア処理を利用して差分をとる構成としてもよい。
【0162】
なお、上記動作において、回路201のノードCの電位は、データAの取得動作およびデータBの取得動作ともに同じ電位“Vr”に初期化している。そして、その後の差分演算で、“(Vr+Y)-(Vr+Z)”=“Y-Z”となり、電位“Vr”の成分は除去される。また、前述したように、その他の不要なオフセット成分も除去されるため、画像データ(電位X)と重み係数(電位W)との積を抽出することができる。
【0163】
ここまでが、n+1フレーム目の動作の説明である。
【0164】
次に、n+2フレーム目の動作を、
図8を用いて説明する。なお、前述のn+1フレーム目(期間T11乃至期間T16)と共通する部分については説明を省略し、相違する部分について主に説明する。
【0165】
まず、期間T21乃至T23に、配線116aの電位を“H”、配線117aの電位を“H”とし、画素100のノードNDaをリセット電位とする。同様に、配線116bの電位を“H”、配線117bの電位を“H”とし、画素100のノードNDbをリセット電位とする。期間T23の終わりには、配線116a、配線117a、配線116b、及び配線117bの電位を“L”とする。
【0166】
期間T21では、配線111a_1、配線111a_2、配線111a_3の電位を“L”、配線112a_1、配線112a_2、配線112a_3を“H”とし、重み係数0を書き込む。同様に、配線111b_1、配線111b_2、配線111b_3の電位を“L”、配線112b_1、配線112b_2、配線112b_3を“H”とし、重み係数0を書き込む。
【0167】
期間T24に、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、各画素100のトランジスタ105bには、リセット電位に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込む。期間T24の動作は露光なしのデータの取得に相当し、当該データは、ノードCの電位Vrに初期化される。
【0168】
期間T25に、配線111a_1の電位を重み係数W21に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W21を加算する。
【0169】
配線111a_2の電位を重み係数W22に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W22を加算する。
【0170】
配線111a_3の電位を重み係数W23に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W23を加算する。
【0171】
配線111b_1の電位を重み係数W11に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W11を加算する。
【0172】
配線111b_2の電位を重み係数W12に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W12を加算する。
【0173】
配線111b_3の電位を重み係数W13に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W13を加算する。
【0174】
期間T24から引き続き、配線122_1、配線122_2、配線122_3の電位を“H”として画素ブロック200内の全ての画素100を選択する。このとき、1行目の画素100のトランジスタ105aには、電位W21+0に応じた電流が流れ、トランジスタ105bには、電位W11+0に応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W22+0に応じた電流が流れ、トランジスタ105bには、電位W12+0に応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W23+0に応じた電流が流れ、トランジスタ105bには、電位W13+0に応じた電流が流れる。
【0175】
ここで、配線113に流れる電流に従ってキャパシタ202の他方の電極の電位が変化し、その変化分Zが容量結合によってノードCの電位Vrに加算される。したがって、ノードCの電位は、“Vr+Z”になる。ここで、Vr=0と考えると、Zは差分そのものであり、データBが算出されたことになる。
【0176】
配線213A、配線213B等の電位を順次“H”とし、配線215の電位を適切なアナログ電位(Vbias)などとすることで、回路201はソースフォロア動作により1行目の画素ブロック200のデータBに応じた信号電位を出力することができる。
【0177】
期間T25の動作は、撮像無しのデータをもとにデータBを生成し、データBを回路301に出力する(読み出しを行う)期間に相当する。
【0178】
期間T26に、配線122_1、配線122_2、配線122_3、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3、配線213A、配線213B、及び配線215の電位を“L”とする。
【0179】
上記動作によって回路201から出力されるデータAおよびデータBは、回路301に入力される。回路301では、データAとデータBの差分をとる演算が行われ、画像データ(電位X)と重み係数(電位W)との積以外の不要なオフセット成分を除去することができる。
【0180】
ここまでが、n+2フレーム目の動作の説明である。
【0181】
以降のフレームについても、前述と同様の動作を行うことができる。
【0182】
当該動作は、推論などを行うニューラルネットワークにおいて、始めの動作に相当する。したがって、膨大な画像データを外部に取り出す前に撮像装置内で少なくとも一つの演算を行うことができ、外部での演算、またはデータの入出力などの負荷の低減、処理の高速化、および消費電力を低減させることができる。
【0183】
上記とは異なる動作として、データAの取得動作とデータBの取得動作で、回路201のノードCの電位を異なる電位に初期化してもよい。例えば、データAの取得動作時に電位“Vr1”に初期化し、データBに取得動作時に電位“Vr2”に初期化したとする。この場合、その後の差分演算では、“(Vr1+Y)-(Vr2+Z)”=“(Vr1-Vr2)+(Y-Z)”となる。“Y-Z”は前述の動作と同様に画像データ(電位X)と重み係数(電位W)との積として抽出され、さらに、“Vr1-Vr2”が加わる。ここで、“Vr1-Vr2”は、ニューラルネットワークの中間層の演算でしきい値調整として用いられるバイアスに相当する。
【0184】
上記とは異なる動作として、撮像ありと撮像無しで配線215の電位を異ならせてもよい。例えば、データAの取得動作時に配線215の電位を“Vbias1”とし、データBの取得動作時に配線215の電位を“Vbias2”とする。また、データAの取得動作時、およびデータBの取得動作時のそれぞれにおいて、ノードCを同じ電位“Vr”に初期化したとする。この場合、その後の差分演算では、“(Vr+Y-Vbias1)-(Vr+Z-Vbias2)”=“(Vbias2-Vbias1)+(Y-Z)”となる。“Y-Z”は前述の動作と同様に画像データ(電位X)と重み係数(電位W)との積として抽出され、さらに、“Vbias2-Vbias1”が加わる。ここで、“Vbias2-Vbias1”は、ニューラルネットワークの中間層の演算でしきい値調整として用いられるバイアスに相当する。
【0185】
重みは、例えば、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)のフィルタの役割を有するが、それ以外にデータの増幅または減衰を行う役割を有していてもよい。例えば、データAの取得動作時の重み係数(W)をフィルタ処理分と増幅分の積とすれば、明るい画像に補正されたデータを抽出することができる。また、データBは撮像無しのデータであり、黒レベルのデータであるということもできる。したがって、データAとデータBの差分をとる動作は、暗所で撮像した画像の可視化を助長するための動作といえる。すなわち、ニューラルネットワークを用いた輝度補正が可能となる。
【0186】
上述したように、本発明の一態様では、撮像装置の動作でバイアスの生成が可能である。また、撮像装置内で機能的な重みを付加することもできる。したがって、外部での演算などの負荷を低減できるとともに、様々な用途に用いることができる。例えば、被写体の推論のほか、画像データの解像度補正、輝度補正、モノクロ画像からのカラー画像の生成、2次元画像からの3次元画像の生成、欠損情報の復元、静止画から動画の生成、ピンボケ画像の修正などの処理において、その一部の処理を撮像装置内で行うことができる。
【0187】
<撮像動作2>
回路130a及び回路130bでそれぞれ3種類のフィルタを用いる例を、
図9乃至
図12を用いて説明する。
【0188】
図9及び
図10は、画素ブロック200および回路201において、露光ありのデータと、当該データに重みを与えたデータとの差分(データA)を算出する動作を説明するタイミングチャートである。なお、前述の
図7と共通する部分については説明を省略し、相違する部分について主に説明する。
【0189】
n+1フレーム目の動作を、
図9を用いて説明する。なお、
図9は、
図7に示したn+1フレーム目の動作に相当する。
【0190】
期間T11乃至期間T13については、
図7に係る記載を参照できるため、詳細な説明は省略する。
【0191】
期間T14_1乃至期間T15_1についてはそれぞれ、
図7に係る期間T14乃至期間T15の記載を参照できるため、詳細な説明は省略する。期間T14_1乃至期間T15_1では、回路130aにおいて、n+1フレーム目に取得された画像データIM
n+1に第1のフィルタFL11を用いて重みを与え、回路130bにおいて、保持しているnフレーム目に取得された画像データIM
nに第2のフィルタFL21を用いて重みを与える。期間T14_1乃至期間T15_1では、n+1フレーム目において第1のフィルタFL11及び第2のフィルタFL21を用いた場合のデータAが算出されたことになる。
【0192】
期間T14_2に、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3の電位を“L”とする。このとき、各画素100のトランジスタ105aには、電位Xn+1に応じた電流が流れる。トランジスタ105bには、電位Xnに応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込み、ノードCの電位が電位Vrに初期化される。
【0193】
期間T15_2に、配線111a_1の電位を重み係数W31(1行目の画素に加える重み)に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W31を加算する。
【0194】
配線111a_2の電位を重み係数W32(2行目の画素に加える重み)に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W32を加算する。
【0195】
配線111a_3の電位を重み係数W33(3行目の画素に加える重み)に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W33を加算する。なお、重み係数W31、重み係数W32、及び重み係数W33は、第3のフィルタFL12の要素である。
【0196】
配線111b_1の電位を重み係数W41(1行目の画素に加える重み)に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W41を加算する。
【0197】
配線111b_2の電位を重み係数W42(2行目の画素に加える重み)に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W42を加算する。
【0198】
配線111b_3の電位を重み係数W43(3行目の画素に加える重み)に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W43を加算する。なお、重み係数W41、重み係数W42、及び重み係数W43は、第4のフィルタFL22の要素である。
【0199】
1行目の画素100のトランジスタ105aには、電位W31+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W41+Xnに応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W32+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W42+Xnに応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W33+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W43+Xnに応じた電流が流れる。
【0200】
期間T14_2乃至期間T15_2では、回路130aにおいて、n+1フレーム目に取得された画像データIMn+1に第3のフィルタFL12を用いて重みを与え、回路130bにおいて、保持しているnフレーム目に取得された画像データIMnに第4のフィルタFL22を用いて重みを与える。期間T14_2乃至期間T15_2では、第3のフィルタFL12及び第4のフィルタFL22を用いた場合のデータAが算出されたことになる。
【0201】
同様に、期間T14_3乃至期間T15_3に、回路130aにおいて、n+1フレーム目に取得された画像データIMn+1に第5のフィルタFL13を用いて重みを与え、回路130bにおいて、保持しているnフレーム目に取得された画像データIMnに第6のフィルタFL23を用いて重みを与える。期間T14_3乃至期間T15_3では、第5のフィルタFL13及び第6のフィルタFL23を用いた場合のデータAが算出されたことになる。
【0202】
期間T16については、
図7に係る記載を参照できるため、詳細な説明は省略する。
【0203】
ここまでが、n+1フレーム目の動作の説明である。
【0204】
n+2フレーム目の動作を、
図10を用いて説明する。なお、
図10は、
図7に示したn+2フレーム目の動作に相当する。なお、前述のn+1フレーム目(期間T11乃至期間T16)と共通する部分については説明を省略し、相違する部分について主に説明する。
【0205】
期間T21乃至期間T23については、
図7に係る記載を参照できるため、詳細な説明は省略する。
【0206】
期間T24_1乃至期間T25_1についてはそれぞれ、
図7に係る期間T24乃至期間T25の記載を参照できるため、詳細な説明は省略する。期間T24_1乃至期間T25_1では、回路130bにおいて、n+2フレーム目に取得された画像データIM
n+2に第1のフィルタFL11を用いて重みを与え、回路130aにおいて、保持しているn+1フレーム目に取得された画像データIM
n+1に第2のフィルタFL21を用いて重みを与える。期間T24_1乃至期間T25_1では、n+2フレーム目において第1のフィルタFL11及び第2のフィルタFL21を用いた場合のデータAが算出されたことになる。
【0207】
期間T24_2において、各画素100のトランジスタ105aには、電位Xn+1に応じた電流が流れる。トランジスタ105bには、電位Xn+2に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込み、ノードCの電位が電位Vrに初期化される。
【0208】
期間T25_2に、配線111a_1の電位を重み係数W41に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W41を加算する。
【0209】
配線111a_2の電位を重み係数W42に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W42を加算する。
【0210】
配線111a_3の電位を重み係数W43に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W43を加算する。
【0211】
配線111b_1の電位を重み係数W31に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W31を加算する。
【0212】
配線111b_2の電位を重み係数W32に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W32を加算する。
【0213】
配線111b_3の電位を重み係数W33に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W33を加算する。
【0214】
1行目の画素100のトランジスタ105aには、電位W41+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W31+Xn+2に応じた電流が流れる。また、2行目の画素100のトランジスタ105aには、電位W42+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W32+Xn+2に応じた電流が流れる。また、3行目の画素100のトランジスタ105aには、電位W43+Xn+1に応じた電流が流れ、トランジスタ105bには、電位W33+Xn+2に応じた電流が流れる。
【0215】
期間T24_2乃至期間T25_2では、回路130bにおいて、n+2フレーム目に取得された画像データIMn+2に第3のフィルタFL12を用いて重みを与え、回路130aにおいて、保持しているn+1フレーム目に取得された画像データIMn+1に第4のフィルタFL22を用いて重みを与える。期間T24_2乃至期間T25_2では、第3のフィルタFL12及び第4のフィルタFL22を用いた場合のデータAが算出されたことになる。
【0216】
同様に、期間T24_3乃至期間T25_3では、回路130bにおいて、n+2フレーム目に取得された画像データIMn+2に第5のフィルタFL13を用いて重みを与え、回路130aにおいて、保持しているn+1フレーム目に取得された画像データIMn+1に第6のフィルタFL23を用いて重みを与える。期間T24_3乃至期間T25_3では、第5のフィルタFL13及び第6のフィルタFL23を用いた場合のデータAが算出されたことになる。
【0217】
期間T26については、
図7に係る記載を参照できるため、詳細な説明は省略する。
【0218】
ここまでが、n+2フレーム目の動作の説明である。
【0219】
以降のフレームについても、前述と同様の動作を行うことができる。
【0220】
図11及び
図12は、画素ブロック200および回路201において、露光なしのデータと、当該データに重みを与えたデータとの差分(データB)を算出する動作を説明するタイミングチャートである。なお、前述の
図8と共通する部分については説明を省略し、相違する部分について主に説明する。
【0221】
n+1フレーム目の動作を、
図11を用いて説明する。なお、
図11は、
図8に示したn+1フレーム目の動作に相当する。
【0222】
期間T11乃至期間T13については、
図8に係る記載を参照できるため、詳細な説明は省略する。
【0223】
期間T14_1乃至期間T15_1についてはそれぞれ、
図8に係る期間T14乃至期間T15の記載を参照できるため、詳細な説明は省略する。期間T14_1乃至期間T15_1では、n+1フレーム目において第1のフィルタFL11及び第2のフィルタFL21を用いた場合のデータBが算出されたことになる。
【0224】
期間T14_2に、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3の電位を“L”とする。このとき、各画素100のトランジスタ105aには、リセット電位に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込む。期間T14の動作は露光なしのデータの取得に相当し、当該データは、ノードCの電位Vrに初期化される。
【0225】
期間T15_2に、配線111a_1の電位を重み係数W31に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W31を加算する。
【0226】
配線111a_2の電位を重み係数W32に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W32を加算する。
【0227】
配線111a_3の電位を重み係数W33に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W33を加算する。
【0228】
配線111b_1の電位を重み係数W41に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W41を加算する。
【0229】
配線111b_2の電位を重み係数W42に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W42を加算する。
【0230】
配線111b_3の電位を重み係数W43に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W43を加算する。
【0231】
期間T14_2乃至期間T15_2では、第3のフィルタFL12及び第4のフィルタFL22を用いた場合のデータBが算出されたことになる。
【0232】
同様に、期間T14_3乃至期間T15_3では、第5のフィルタFL13及び第6のフィルタFL23を用いた場合のデータBが算出されたことになる。
【0233】
期間T16については、
図8に係る記載を参照できるため、詳細な説明は省略する。
【0234】
ここまでが、n+1フレーム目の動作の説明である。
【0235】
n+2フレーム目の動作を、
図12を用いて説明する。なお、
図12は、
図8に示したn+2フレーム目の動作に相当する。
【0236】
期間T21乃至期間T23については、
図8に係る記載を参照できるため、詳細な説明は省略する。
【0237】
期間T24_1乃至期間T25_1についてはそれぞれ、
図8に係る期間T24乃至期間T25の記載を参照できるため、詳細な説明は省略する。期間T24_1乃至期間T25_1では、n+2フレーム目において第1のフィルタFL11及び第2のフィルタFL21を用いた場合のデータBが算出されたことになる。
【0238】
期間T24_2に、配線112a_1、配線112a_2、配線112a_3、配線112b_1、配線112b_2、配線112b_3の電位を“L”とする。このとき、各画素100のトランジスタ105aには、リセット電位に応じた電流が流れる。また、配線216の電位を“H”とすることで、ノードCに配線218の電位Vrを書き込む。期間T14の動作は露光なしのデータの取得に相当し、当該データは、ノードCの電位Vrに初期化される。
【0239】
期間T25_2に、配線111a_1の電位を重み係数W41に相当する電位とし、配線112a_1の電位を“H”とすることで、1行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W41を加算する。
【0240】
配線111a_2の電位を重み係数W42に相当する電位とし、配線112a_2の電位を“H”とすることで、2行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W42を加算する。
【0241】
配線111a_3の電位を重み係数W43に相当する電位とし、配線112a_3の電位を“H”とすることで、3行目の画素100のノードNDaにキャパシタ104aの容量結合で重み係数W43を加算する。
【0242】
配線111b_1の電位を重み係数W31に相当する電位とし、配線112b_1の電位を“H”とすることで、1行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W31を加算する。
【0243】
配線111b_2の電位を重み係数W32に相当する電位とし、配線112b_2の電位を“H”とすることで、2行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W32を加算する。
【0244】
配線111b_3の電位を重み係数W33に相当する電位とし、配線112b_3の電位を“H”とすることで、3行目の画素100のノードNDbにキャパシタ104bの容量結合で重み係数W33を加算する。
【0245】
期間T24_2乃至期間T25_2では、第3のフィルタFL12及び第4のフィルタFL22を用いた場合のデータBが算出されたことになる。
【0246】
同様に、期間T24_3乃至期間T25_3では、第5のフィルタFL13及び第6のフィルタFL23を用いた場合のデータBが算出されたことになる。
【0247】
期間T26については、
図8に係る記載を参照できるため、詳細な説明は省略する。
【0248】
ここまでが、n+2フレーム目の動作の説明である。
【0249】
以降のフレームについても、前述と同様の動作を行うことができる。なお、ここでは、回路130a及び回路130bにおいてそれぞれ、3種類のフィルタを用いる例を示したが、本発明の一態様はこれに限られない。回路130a及び回路130bで用いるフィルタはそれぞれ2種類でもよく、4種類以上でもよい。また、回路130a及び回路130bで用いるフィルタはそれぞれ1種類でもよい。
【0250】
<画素回路の構成例2>
図4に示した画素100と異なる構成例を、
図13に示す。
【0251】
図13に示す画素100は、トランジスタ105a及びトランジスタ105bがそれぞれバックゲートを有する点、トランジスタ106a及びトランジスタ106bを有さない点で、
図4に示した画素100と主に異なる。
【0252】
図13に示す画素100において、トランジスタ105aのバックゲートは、配線111aと電気的に接続され、配線111aから重み係数(W)に相当する電位が供給される。トランジスタ105aのしきい値電圧(V
th)は、重み係数(W)の分、マイナス側にシフトし、フロントゲートに重み係数(W)を与えた場合と同様にオン電流が増加する。トランジスタ105bのバックゲートは、配線111bと電気的に接続され、配線111bから重み係数(W)に相当する電位が供給される。トランジスタ105bのしきい値電圧(V
th)は、重み係数(W)の分、マイナス側にシフトし、フロントゲートに重み係数(W)を与えた場合と同様にオン電流が増加する。
図13に示す画素100においても、データAとデータBとの差分はkΣ(2W・X)となり、画像データ(X)と重み係数(W)との積以外のオフセット成分を除去することができる。バックゲートを有するトランジスタ105a及びトランジスタ105bには、OSトランジスタを好適に用いることができる。
【0253】
図13に示す画素100において、キャパシタ104aの他方の電極は、配線118aと電気的に接続される。キャパシタ104bの他方の電極は、配線118bと電気的に接続される。配線118a及び配線118bはそれぞれ、固定電位を供給する機能を有する。なお、配線118aは、配線115aまたは配線119bの一方と共通としてもよい。例えば、キャパシタ104aの他方の電極が、配線115aに電気的に接続される構成とすることができる。同様に、配線118bは、配線115bまたは配線119bの一方と共通としてもよい。例えば、キャパシタ104bの他方の電極が、配線115bに電気的に接続される構成とすることができる。配線を共通とすることにより配線の数が減り、画素に占める配線の面積を小さくできることから、高精細な撮像装置とすることができる。
【0254】
撮像動作については、前述の
図7乃至
図12に係る記載を参照できるため、詳細な説明は省略する。
【0255】
<回路301、回路302>
図14Aは、回路201と接続する回路301および回路302を説明する図である。回路201から出力される積和演算結果のデータは、回路301に順次入力される。回路301には、前述したデータAとデータBとの差分を演算する機能のほかに、様々な演算機能を有していてもよい。例えば、回路301は、回路201と同等の構成とすることができる。または、回路301の機能をソフトウェアによる処理で置き換えてもよい。
【0256】
回路301は、活性化関数の演算を行う回路を有していてもよい。当該回路には、例えばコンパレータ回路を用いることができる。コンパレータ回路では、入力されたデータと、設定されたしきい値とを比較した結果を2値データとして出力する。すなわち、画素ブロック200および回路301はニューラルネットワークの一部の要素として作用することができる。
【0257】
回路301は、A/Dコンバータを有していてもよい。積和演算の有無を問わず、画素ブロック200から画像データを外部に出力するときは、回路301でアナログデータをデジタルデータに変換することができる。
【0258】
例えば、3行3列の画素100を有する画素ブロック200において、全ての画素100に供給する重みを同じ(例えば、0)とし、データを出力させたい画素が有するトランジスタ108を導通させれば、画素ブロック200全体の画像データの和、行毎の画像データの和、または画素毎のデータなどを画素ブロック200から出力させることができる。
【0259】
画素ブロック200が出力するデータは複数ビットの画像データに相当するが、回路301で2値化できる場合は、画像データを圧縮しているともいえる。
【0260】
回路301から出力されたデータは、回路302に順次入力される。回路302は、例えばラッチ回路およびシフトレジスタなどを有する構成とすることができる。当該構成によって、パラレルシリアル変換を行うことができ、並行して入力されたデータを配線311にシリアルデータとして出力することができる。
【0261】
図14Bに示すように、回路302はニューラルネットワークを有していてもよい。当該ニューラルネットワークは、マトリクス状に配置されたメモリセルを有し、各メモリセルには重み係数が保持されている。回路301から出力されたデータはメモリセル320にそれぞれ入力され、積和演算を行うことができる。なお、
図14Bに示すメモリセルの数は一例であり、これに限定されない。積和演算後のデータは、配線311に出力することができる。
【0262】
なお、
図14A、および
図14Bにおいて、配線311の接続先は限定されない。例えば、ニューラルネットワーク、記憶装置、通信装置などと接続することができる。
【0263】
図14Bに示すニューラルネットワークは、マトリクス状に設置されたメモリセル320および参照メモリセル325と、回路330と、回路350と、回路360と、回路370を有する。
【0264】
図15にメモリセル320および参照メモリセル325の一例を示す。参照メモリセル325は、任意の一列に設けられる。メモリセル320および参照メモリセル325は同様の構成を有し、トランジスタ161と、トランジスタ162と、キャパシタ163と、を有する。
【0265】
トランジスタ161のソースまたはドレインの一方は、トランジスタ162のゲートと電気的に接続される。トランジスタ162のゲートは、キャパシタ163の一方の電極と電気的に接続される。ここで、トランジスタ161のソースまたはドレインの一方、トランジスタ162のゲート、キャパシタ163の一方の電極が接続される点をノードNMとする。
【0266】
トランジスタ161のゲートは、配線WLと電気的に接続される。キャパシタ163の他方の電極は、配線RWと電気的に接続される。トランジスタ162のソースまたはドレインの一方は、GND配線等の基準電位配線と電気的に接続される。
【0267】
メモリセル320において、トランジスタ161のソースまたはドレインの他方は、配線WDと電気的に接続される。トランジスタ162のソースまたはドレインの他方は、配線BLと電気的に接続される。
【0268】
参照メモリセル325において、トランジスタ161のソースまたはドレインの他方は、配線WDrefと電気的に接続される。トランジスタ162のソースまたはドレインの他方は、配線BLrefと電気的に接続される。
【0269】
配線WLは、回路330と電気的に接続される。回路330にはデコーダまたはシフトレジスタなどを用いることができる。
【0270】
配線RWは、回路301と電気的に接続される。各メモリセルには、回路301から出力された2値のデータが書き込まれる。なお、回路301と各メモリセルとの間にシフトレジスタなどの順序回路を有していてもよい。
【0271】
配線WDおよび配線WDrefは、回路350と電気的に接続される。回路350には、デコーダまたはシフトレジスタなどを用いることができる。また、回路350は、D/Aコンバータ、及びSRAMを有していてもよい。回路350は、ノードNMに書き込まれる重み係数を出力することができる。
【0272】
配線BLおよび配線BLrefは、回路360と電気的に接続される。回路360は、回路201と同等の構成とすることができる。回路360により、積和演算結果からオフセット成分を除いた信号を得ることができる。
【0273】
回路360は、回路370と電気的に接続される。回路370は、活性化関数回路とも換言できる。活性化関数回路は、回路360から入力された信号を、あらかじめ定義された活性化関数に従って変換するための演算を行う機能を有する。活性化関数として、例えば、シグモイド関数、tanh関数、softmax関数、ReLU関数、しきい値関数などを用いることができる。活性化関数回路によって変換された信号は、出力データとして外部に出力される。
【0274】
図16Aに示すように、ニューラルネットワークNNは、入力層IL、出力層OL、中間層(隠れ層)HLによって構成することができる。入力層IL、出力層OL、中間層HLは、それぞれ1または複数のニューロン(ユニット)を有する。なお、中間層HLは1層であってもよいし2層以上であってもよい。2層以上の中間層HLを有するニューラルネットワークはDNN(ディープニューラルネットワーク)と呼ぶこともできる。また、ディープニューラルネットワークを用いた学習は、深層学習と呼ぶこともできる。
【0275】
入力層ILの各ニューロンには、入力データが入力される。中間層HLの各ニューロンには、前層または後層のニューロンの出力信号が入力される。出力層OLの各ニューロンには、前層のニューロンの出力信号が入力される。なお、各ニューロンは、前後の層の全てのニューロンと結合されていてもよいし(全結合)、一部のニューロンと結合されていてもよい。
【0276】
畳み込みニューラルネットワーク(CNN)の場合は、中間層HLが、畳み込み処理を行う層(畳み込み層)、プーリング処理を行う層(プーリング層)、全結合処理を行う層(全結合層)を有する構成とすることができる。畳み込み層では、畳み込み処理を行うことで特徴抽出を行う。また、畳み込み処理には、一または複数の重みフィルタを用いることができる。なお、中間層HLは、上記以外に正規化層等を含んでもよい。畳み込み処理の際に、パディング、またはストライドといった処理を組み合わせてもよい。
【0277】
図16Bに、ニューロンによる演算の例を示す。ここでは、ニューロンNと、ニューロンNに信号を出力する前層の2つのニューロンを示している。ニューロンNには、前層のニューロンの出力x
1と、前層のニューロンの出力x
2が入力される。そして、ニューロンNにおいて、出力x
1と重みw
1の乗算結果(x
1w
1)と出力x
2と重みw
2の乗算結果(x
2w
2)の総和x
1w
1+x
2w
2が計算された後、必要に応じてバイアスbが加算され、値a=x
1w
1+x
2w
2+bが得られる。そして、値aは活性化関数hによって変換され、ニューロンNから出力信号y=ahが出力される。
【0278】
このように、ニューロンによる演算には、前層のニューロンの出力と重みの積を足し合わせる演算、すなわち積和演算が含まれる(上記のx1w1+x2w2)。この積和演算は、プログラムを用いてソフトウェア上で行ってもよいし、ハードウェアによって行われてもよい。
【0279】
本発明の一態様では、ハードウェアとしてアナログ回路を用いて積和演算を行う。積和演算回路にアナログ回路を用いる場合、積和演算回路の回路規模の縮小、または、メモリへのアクセス回数の減少による処理速度の向上および消費電力の低減を図ることができる。
【0280】
積和演算回路は、OSトランジスタを有する構成とすることが好ましい。OSトランジスタはオフ電流が極めて小さいため、積和演算回路のアナログメモリを構成するトランジスタとして好適である。なお、SiトランジスタとOSトランジスタの両方を用いて積和演算回路を構成してもよい。
【0281】
本実施の形態は、他の実施の形態の記載と適宜組み合わせることができる。
【0282】
(実施の形態2)
本実施の形態では、本発明の一態様の撮像装置の構造例などについて説明する。
【0283】
<構造例>
図17Aは、撮像装置の画素の構造の一例を示す図であり、層561および層563の積層構造とすることができる。
【0284】
層561は、光電変換デバイス101を有する。光電変換デバイス101は、
図18Aに示すように層565aと、層565bを有することができる。なお、場合によって、層を領域と言い換えてもよい。
【0285】
図18Aに示す光電変換デバイス101はpn接合型フォトダイオードであり、例えば、層565aにp型半導体、層565bにn型半導体を用いることができる。または、層565aにn型半導体、層565bにp型半導体用いてもよい。
【0286】
上記pn接合型フォトダイオードは、代表的には単結晶シリコンを用いて形成することができる。単結晶シリコンを光電変換層とするフォトダイオードは、紫外光から近赤外光まで比較的広い分光感度特性を有し、後述する光学変換層と組み合わせることで、様々な波長の光を検出することができる。
【0287】
そのほか、pn接合型フォトダイオードの光電変換層として、化合物半導体を用いてもよい。当該化合物半導体として、例えば、ガリウム-ヒ素-リン化合物(GaAsP)、ガリウム-リン化合物(GaP)、インジウム-ガリウム-ヒ素化合物(InGaAs)、鉛-硫黄化合物(PbS)、鉛-セレン化合物(PbSe)、インジウム-ヒ素化合物(InAs)、インジウム-アンチモン化合物(InSb)、水銀-カドミウム-テルル化合物(HgCdTe)などを用いることができる。
【0288】
化合物半導体として、13族元素(アルミニウム、ガリウム、インジウムなど)および15族元素(窒素、リン、ヒ素、アンチモンなど)を有する化合物半導体(3-5族化合物半導体とも言う)、または、12族元素(マグネシウム、亜鉛、カドミウム、水銀など)および16族元素(酸素、硫黄、セレン、テルルなど)を有する化合物半導体(2-6族化合物半導体とも言う)であることが好ましい。
【0289】
化合物半導体は、構成元素の組み合わせ、及びその原子数比に応じてバンドギャップを変化させることができるため、紫外光から赤外光まで様々な波長範囲に感度を有するフォトダイオードを形成することができる。
【0290】
なお、紫外光の波長は、0.01μm近傍乃至0.38μm近傍、可視光の波長は、0.38μm近傍乃至0.75μm近傍、近赤外光の波長は、0.75μm近傍乃至2.5μm近傍、中赤外光の波長は、2.5μm近傍乃至4μm近傍、遠赤外光の波長は、4μm近傍乃至1000μm近傍、と一般的に定義することができる。
【0291】
例えば、紫外光から可視光にかけて光感度を有するフォトダイオードを形成するには、光電変換層にGaPなどを用いることができる。また、紫外光から近赤外光にかけて光感度を有するフォトダイオードを形成するには、光電変換層に前述したシリコンまたはGaAsPなどを用いることができる。また、可視光から中赤外光にかけて光感度を有するフォトダイオードを形成するには、光電変換層にInGaAsなどを用いることができる。また、近赤外光から中赤外光にかけて光感度を有するフォトダイオードを形成するには、光電変換層にPbSまたはInAsなどを用いることができる。また、中赤外光から遠赤外光にかけて光感度を有するフォトダイオードを形成するには、光電変換層にPbSe、InSbまたはHgCdTeなどを用いることができる。
【0292】
なお、上記化合物半導体を用いたフォトダイオードは、pn接合だけでなく、pin接合であってもよい。また、pn接合およびpin接合は、ホモ接合構造に限らず、ヘテロ接合構造であってもよい。
【0293】
例えば、ヘテロ接合では、pn接合構造の一方の層に第1の化合物半導体を用い、他方の層に第1の化合物半導体とは異なる第2の化合物半導体を用いることができる。また、pin接合構造のいずれか1層または2層に第1の化合物半導体を用い、その他の層に第1の化合物半導体とは異なる第2の化合物半導体を用いることができる。なお、第1の化合物半導体または第2の化合物半導体の一方は、シリコンなどの単体の半導体であってもよい。
【0294】
なお、画素毎に異なる材料を用いて、フォトダイオードの光電変換層を形成してもよい。当該構成を用いることで、紫外光を検出する画素、可視光を検出する画素、赤外光を検出する画素などのいずれか2種類の画素、または3種類の画素を有する撮像装置を形成することができる。
【0295】
層561が有する光電変換デバイス101は、
図18Bに示すように、層566aと、層566bと、層566cと、層566dとの積層としてもよい。
図18Bに示す光電変換デバイス101はアバランシェフォトダイオードの一例であり、層566a、層566dは電極に相当し、層566b、566cは光電変換部に相当する。
【0296】
層566aは、低抵抗の金属層などとすることが好ましい。例えば、アルミニウム、チタン、タングステン、タンタル、銀またはそれらの積層を用いることができる。
【0297】
層566dは、可視光に対して高い透光性を有する導電層を用いることが好ましい。例えば、インジウム酸化物、錫酸化物、亜鉛酸化物、インジウム-錫酸化物、ガリウム-亜鉛酸化物、インジウム-ガリウム-亜鉛酸化物、またはグラフェンなどを用いることができる。なお、層566dを省く構成とすることもできる。
【0298】
光電変換部の層566b、層566cは、例えばセレン系材料を光電変換層としたpn接合型フォトダイオードの構成とするができる。層566bにp型半導体であるセレン系材料を用い、層566cにn型半導体であるガリウム酸化物などを用いることが好ましい。
【0299】
セレン系材料を用いた光電変換デバイスは、可視光に対する外部量子効率が高い特性を有する。当該光電変換デバイスでは、アバランシェ増倍を利用することにより、入射される光の量に対する電子の増幅を大きくすることができる。また、セレン系材料は光吸収係数が高いため、光電変換層を薄膜で作製できるなどの生産上の利点を有する。セレン系材料の薄膜は、真空蒸着法またはスパッタ法などを用いて形成することができる。
【0300】
セレン系材料として、結晶性セレン(単結晶セレン、多結晶セレン)、非晶質セレンを用いることができる。これらは、紫外光から可視光にかけて光感度を有する。また、銅、インジウム、セレンの化合物(CIS)、または、銅、インジウム、ガリウム、セレンの化合物(CIGS)などを用いることができる。これらは、紫外光から近赤外光にかけて光感度を有する。
【0301】
n型半導体は、バンドギャップが広く、可視光に対して透光性を有する材料で形成することが好ましい。例えば、亜鉛酸化物、ガリウム酸化物、インジウム酸化物、錫酸化物、またはそれらが混在した酸化物などを用いることができる。また、これらの材料は正孔注入阻止層としての機能も有し、暗電流を小さくすることもできる。
【0302】
層561が有する光電変換デバイス101は、
図18Cに示すように、層567aと、層567bと、層567cと、層567dと、層567eとの積層としてもよい。
図18Cに示す光電変換デバイス101は有機光導電膜の一例であり、層567aは下部電極、層567eは透光性を有する上部電極であり、層567b、567c、567dは光電変換部に相当する。
【0303】
光電変換部の層567b、567dのいずれか一方はホール輸送層、他方は電子輸送層とすることができる。また、層567cは光電変換層とすることができる。
【0304】
ホール輸送層として、例えば酸化モリブデンなどを用いることができる。電子輸送層として、例えば、C60、C70などのフラーレン、またはそれらの誘導体などを用いることができる。
【0305】
光電変換層として、n型有機半導体およびp型有機半導体の混合層(バルクヘテロ接合構造)を用いることができる。有機半導体には様々な種類があり、目的の波長に光感度を有する材料を光電変換層に選べばよい。
【0306】
図17Aに示す層563として、例えばシリコン基板を用いることができる。当該シリコン基板は、Siトランジスタ等を有する。当該Siトランジスタを用いて、画素回路の他、当該画素回路を駆動する回路、画像信号の読み出し回路、画像処理回路、ニューラルネットワーク、通信回路等を形成することができる。また、DRAM(Dynamic Random Access Memory)などの記憶回路、CPU(Central Processing Unit)、MCU(Micro Controller Unit)などを形成してもよい。なお、画素回路を除く上記回路を本実施の形態では、機能回路と呼ぶ。
【0307】
例えば、実施の形態1で説明した画素回路(画素100)および機能回路(回路201、回路301、回路302、回路303、回路304、回路305など)が有するトランジスタにおいて、その一部または全てを層563に設けることができる。
【0308】
層563は、
図17Bに示すように複数の層の積層であってもよい。
図17Bでは、層563a、層563b、及び層563cの三層を例示しているが、二層であってもよい。または、層563は四層以上の積層であってもよい。これらの層は、例えば貼り合わせ工程などを用いて積層することができる。当該構成とすることで、画素回路と機能回路を複数の層に分散させ、画素回路と機能回路を重ねて設けることができるため、小型で高機能の撮像装置を作製することができる。
【0309】
画素は、
図17Cに示すように層561、層562および層563の積層構造を有していてもよい。
【0310】
層562は、OSトランジスタを有することができる。前述した機能回路の一つ以上をOSトランジスタで形成してもよい。または、層563が有するSiトランジスタと層562が有するOSトランジスタを用いて、機能回路の一つ以上を形成してもよい。または、層563をガラス基板などの支持基板とし、層562が有するOSトランジスタで機能回路を形成してもよい。
【0311】
例えば、OSトランジスタおよびSiトランジスタを用いて、ノーマリーオフCPU(「Noff-CPU」ともいう)を実現することができる。なお、Noff-CPUとは、ゲート電圧が0Vであっても非導通状態(オフ状態ともいう)であるノーマリーオフ型のトランジスタを含む集積回路である。
【0312】
Noff-CPUは、Noff-CPU内の動作不要な回路への電力供給を停止し、当該回路を待機状態にすることができる。電力供給が停止され、待機状態になった回路では電力が消費されない。よって、Noff-CPUは、電力使用量を最小限にすることができる。また、Noff-CPUは、電力供給が停止されても設定条件などの動作に必要な情報を長期間保持することができる。待機状態からの復帰は当該回路への電力供給を再開するだけでよく、設定条件などの再書き込みが不要である。すなわち、待機状態からの高速復帰が可能である。このように、Noff-CPUは、動作速度を大きく落とすことなく消費電力を低減できる。
【0313】
層562は、
図17Dに示すように複数の層の積層であってもよい。
図17Dでは、層562a、層562bの二層を例示しているが、三層以上の積層であってもよい。これらの層は、例えば層563上に積み上げるように形成することができる。または、層563上に形成した層と、層561上に形成した層とを貼り合わせて形成してもよい。
【0314】
OSトランジスタに用いる半導体材料として、エネルギーギャップが2eV以上、好ましくは2.5eV以上、より好ましくは3eV以上である金属酸化物を用いることができる。代表的には、インジウムを含む酸化物半導体などであり、例えば、後述するCAAC-OSまたはCAC-OSなどを用いることができる。CAAC-OSは結晶を構成する原子が安定であり、信頼性を重視するトランジスタなどに適する。また、CAC-OSは、高移動度特性を示すため、高速駆動を行うトランジスタなどに適する。
【0315】
OSトランジスタは半導体層のエネルギーギャップが大きいため、数yA/μm(チャネル幅1μmあたりの電流値)という極めて低いオフ電流特性を示す。また、OSトランジスタは、インパクトイオン化、アバランシェ降伏、および短チャネル効果などが生じないなどSiトランジスタとは異なる特徴を有し、高耐圧で信頼性の高い回路を形成することができる。また、Siトランジスタでは問題となる結晶性の不均一性に起因する電気特性のばらつきもOSトランジスタでは生じにくい。
【0316】
OSトランジスタが有する半導体層は、例えばインジウム、亜鉛およびM(アルミニウム、チタン、ガリウム、ゲルマニウム、イットリウム、ジルコニウム、ランタン、セリウム、スズ、ネオジムまたはハフニウム等の金属から選ばれた一つ、または複数)を含むIn-M-Zn系酸化物で表記される膜とすることができる。In-M-Zn系酸化物は、代表的には、スパッタリング法で形成することができる。または、ALD(Atomic layer deposition)法を用いて形成してもよい。
【0317】
In-M-Zn系酸化物をスパッタリング法で形成するために用いるスパッタリングターゲットの金属元素の原子数比は、In≧M、Zn≧Mを満たすことが好ましい。このようなスパッタリングターゲットの金属元素の原子数比として、In:M:Zn=1:1:1、In:M:Zn=1:1:1.2、In:M:Zn=3:1:2、In:M:Zn=4:2:3、In:M:Zn=4:2:4.1、In:M:Zn=5:1:6、In:M:Zn=5:1:7、In:M:Zn=5:1:8等が好ましい。なお、成膜される半導体層の原子数比はそれぞれ、上記のスパッタリングターゲットに含まれる金属元素の原子数比のプラスマイナス40%の変動を含む。
【0318】
半導体層として、キャリア密度の低い酸化物半導体を用いる。例えば、半導体層は、キャリア密度が1×1017/cm3以下、好ましくは1×1015/cm3以下、さらに好ましくは1×1013/cm3以下、より好ましくは1×1011/cm3以下、さらに好ましくは1×1010/cm3未満であり、1×10-9/cm3以上の酸化物半導体を用いることができる。そのような酸化物半導体を、高純度真性または実質的に高純度真性な酸化物半導体と呼ぶ。当該酸化物半導体は欠陥準位密度が低く、安定な特性を有する酸化物半導体であるといえる。
【0319】
なお、これらに限られず、必要とするトランジスタの半導体特性および電気特性(電界効果移動度、しきい値電圧等)に応じて適切な組成のものを用いればよい。また、必要とするトランジスタの半導体特性を得るために、半導体層のキャリア密度、不純物濃度、欠陥密度、金属元素と酸素の原子数比、原子間距離、密度等を適切なものとすることが好ましい。
【0320】
半導体層を構成する酸化物半導体において、第14族元素の一つであるシリコン、または炭素が含まれると、酸素欠損が増加し、n型化してしまう。このため、半導体層におけるシリコン、または炭素の濃度(二次イオン質量分析法により得られる濃度)を、2×1018atoms/cm3以下、好ましくは2×1017atoms/cm3以下とする。
【0321】
アルカリ金属およびアルカリ土類金属は、酸化物半導体と結合するとキャリアを生成する場合があり、トランジスタのオフ電流が増大してしまうことがある。このため、半導体層におけるアルカリ金属またはアルカリ土類金属の濃度(二次イオン質量分析法により得られる濃度)を、1×1018atoms/cm3以下、好ましくは2×1016atoms/cm3以下にする。
【0322】
半導体層を構成する酸化物半導体に窒素が含まれていると、キャリアである電子が生じてキャリア密度が増加し、n型化しやすい。この結果、窒素が含まれている酸化物半導体を用いたトランジスタはノーマリーオン特性となりやすい。このため半導体層における窒素濃度(二次イオン質量分析法により得られる濃度)は、5×1018atoms/cm3以下にすることが好ましい。
【0323】
半導体層を構成する酸化物半導体に水素が含まれていると、金属原子と結合する酸素と反応して水になるため、酸化物半導体中に酸素欠損を形成する場合がある。酸化物半導体中のチャネル形成領域に酸素欠損が含まれていると、トランジスタはノーマリーオン特性となる場合がある。さらに、酸素欠損に水素が入った欠陥はドナーとして機能し、キャリアである電子が生成されることがある。また、水素の一部が金属原子と結合する酸素と結合して、キャリアである電子を生成する場合がある。したがって、水素が多く含まれている酸化物半導体を用いたトランジスタは、ノーマリーオン特性となりやすい。
【0324】
酸素欠損に水素が入った欠陥は、酸化物半導体のドナーとして機能しうる。しかしながら、当該欠陥を定量的に評価することは困難である。そこで、酸化物半導体においては、ドナー濃度ではなく、キャリア濃度で評価される場合がある。よって、本明細書等では、酸化物半導体のパラメータとして、ドナー濃度ではなく、電界が印加されない状態を想定したキャリア濃度を用いる場合がある。つまり、本明細書等に記載の「キャリア濃度」は、「ドナー濃度」と言い換えることができる場合がある。
【0325】
よって、酸化物半導体中の水素はできる限り低減されていることが好ましい。具体的には、酸化物半導体において、二次イオン質量分析法(SIMS:Secondary Ion Mass Spectrometry)により得られる水素濃度を、1×1020atoms/cm3未満、好ましくは1×1019atoms/cm3未満、より好ましくは5×1018atoms/cm3未満、さらに好ましくは1×1018atoms/cm3未満とする。水素などの不純物が十分に低減された酸化物半導体をトランジスタのチャネル形成領域に用いることで、安定した電気特性を付与することができる。
【0326】
半導体層は、例えば非単結晶構造でもよい。非単結晶構造は、例えば、c軸に配向した結晶を有するCAAC-OS(C-Axis Aligned Crystalline Oxide Semiconductor)、多結晶構造、微結晶構造、または非晶質構造を含む。非単結晶構造において、非晶質構造は最も欠陥準位密度が高く、CAAC-OSは最も欠陥準位密度が低い。
【0327】
非晶質構造の酸化物半導体膜は、例えば、原子配列が無秩序であり、結晶成分を有さない。または、非晶質構造の酸化物膜は、例えば、完全な非晶質構造であり、結晶部を有さない。
【0328】
なお、半導体層が、非晶質構造の領域、微結晶構造の領域、多結晶構造の領域、CAAC-OSの領域、単結晶構造の領域のうち、二種以上を有する混合膜であってもよい。混合膜は、例えば上述した領域のうち、いずれか二種以上の領域を含む単層構造、または積層構造を有する場合がある。
【0329】
以下では、非単結晶の半導体層の一態様であるCAC(Cloud-Aligned Composite)-OSの構成について説明する。
【0330】
CAC-OSとは、例えば、酸化物半導体を構成する元素が、0.5nm以上10nm以下、好ましくは、1nm以上2nm以下、またはその近傍のサイズで偏在した材料の一構成である。なお、以下では、酸化物半導体において、一つあるいはそれ以上の金属元素が偏在し、該金属元素を有する領域が、0.5nm以上10nm以下、好ましくは、1nm以上2nm以下、またはその近傍のサイズで混合した状態をモザイク状、またはパッチ状ともいう。
【0331】
なお、酸化物半導体は、少なくともインジウムを含むことが好ましい。特にインジウムおよび亜鉛を含むことが好ましい。また、それらに加えて、アルミニウム、ガリウム、イットリウム、銅、バナジウム、ベリリウム、ホウ素、シリコン、チタン、鉄、ニッケル、ゲルマニウム、ジルコニウム、モリブデン、ランタン、セリウム、ネオジム、ハフニウム、タンタル、タングステン、またはマグネシウムなどから選ばれた一種、または複数種が含まれていてもよい。
【0332】
例えば、In-Ga-Zn酸化物におけるCAC-OS(CAC-OSの中でもIn-Ga-Zn酸化物を、特にCAC-IGZOと呼称してもよい。)とは、インジウム酸化物(以下、InOX1(X1は0よりも大きい実数)とする。)、またはインジウム亜鉛酸化物(以下、InX2ZnY2OZ2(X2、Y2、およびZ2は0よりも大きい実数)とする。)と、ガリウム酸化物(以下、GaOX3(X3は0よりも大きい実数)とする。)、またはガリウム亜鉛酸化物(以下、GaX4ZnY4OZ4(X4、Y4、およびZ4は0よりも大きい実数)とする。)などと、に材料が分離することでモザイク状となり、モザイク状のInOX1、またはInX2ZnY2OZ2が、膜中に均一に分布した構成(以下、クラウド状ともいう。)である。
【0333】
つまり、CAC-OSは、GaOX3が主成分である領域と、InX2ZnY2OZ2、またはInOX1が主成分である領域とが、混合している構成を有する複合酸化物半導体である。なお、本明細書において、例えば、第1の領域の元素Mに対するInの原子数比が、第2の領域の元素Mに対するInの原子数比よりも大きいことを、第1の領域は、第2の領域と比較して、Inの濃度が高いとする。
【0334】
なお、IGZOは通称であり、In、Ga、Zn、およびOによる1つの化合物をいう場合がある。代表例として、InGaO3(ZnO)m1(m1は自然数)、またはIn(1+x0)Ga(1-x0)O3(ZnO)m0(-1≦x0≦1、m0は任意数)で表される結晶性の化合物が挙げられる。
【0335】
上記結晶性の化合物は、単結晶構造、多結晶構造、またはCAAC構造を有する。なお、CAAC構造とは、複数のIGZOのナノ結晶がc軸配向を有し、かつa-b面においては配向せずに連結した結晶構造である。
【0336】
一方、CAC-OSは、酸化物半導体の材料構成に関する。CAC-OSとは、In、Ga、Zn、およびOを含む材料構成において、一部にGaを主成分とするナノ粒子状に観察される領域と、一部にInを主成分とするナノ粒子状に観察される領域とが、それぞれモザイク状にランダムに分散している構成をいう。したがって、CAC-OSにおいて、結晶構造は副次的な要素である。
【0337】
なお、CAC-OSは、組成の異なる二種類以上の膜の積層構造は含まないものとする。例えば、Inを主成分とする膜と、Gaを主成分とする膜との2層からなる構造は、含まない。
【0338】
なお、GaOX3が主成分である領域と、InX2ZnY2OZ2、またはInOX1が主成分である領域とは、明確な境界が観察できない場合がある。
【0339】
なお、ガリウムの代わりに、アルミニウム、イットリウム、銅、バナジウム、ベリリウム、ホウ素、シリコン、チタン、鉄、ニッケル、ゲルマニウム、ジルコニウム、モリブデン、ランタン、セリウム、ネオジム、ハフニウム、タンタル、タングステン、またはマグネシウムなどから選ばれた一種、または複数種が含まれている場合、CAC-OSは、一部に該金属元素を主成分とするナノ粒子状に観察される領域と、一部にInを主成分とするナノ粒子状に観察される領域とが、それぞれモザイク状にランダムに分散している構成をいう。
【0340】
CAC-OSは、例えば基板を意図的に加熱しない条件で、スパッタリング法により形成することができる。また、CAC-OSをスパッタリング法で形成する場合、成膜ガスとして、不活性ガス(代表的にはアルゴン)、酸素ガス、および窒素ガスの中から選ばれたいずれか一つまたは複数を用いればよい。また、成膜時の成膜ガスの総流量に対する酸素ガスの流量比は低いほど好ましく、例えば酸素ガスの流量比を0%以上30%未満、好ましくは0%以上10%以下とすることが好ましい。
【0341】
CAC-OSは、X線回折(XRD:X-ray diffraction)測定法のひとつであるOut-of-plane法によるθ/2θスキャンを用いて測定したときに、明確なピークが観察されないという特徴を有する。すなわち、X線回折測定から、測定領域のa-b面方向、およびc軸方向の配向は見られないことが分かる。
【0342】
CAC-OSは、プローブ径が1nmの電子線(ナノビーム電子線ともいう。)を照射することで得られる電子線回折パターンにおいて、リング状に輝度の高い領域(リング領域)と、該リング領域に複数の輝点が観測される。したがって、電子線回折パターンから、CAC-OSの結晶構造が、平面方向、および断面方向において、配向性を有さないnc(nano-crystal)構造を有することがわかる。
【0343】
例えば、In-Ga-Zn酸化物におけるCAC-OSでは、エネルギー分散型X線分光法(EDX:Energy Dispersive X-ray spectroscopy)を用いて取得したEDXマッピングにより、GaOX3が主成分である領域と、InX2ZnY2OZ2、またはInOX1が主成分である領域とが、偏在し、混合している構造を有することが確認できる。
【0344】
CAC-OSは、金属元素が均一に分布したIGZO化合物とは異なる構造であり、IGZO化合物と異なる性質を有する。つまり、CAC-OSは、GaOX3などが主成分である領域と、InX2ZnY2OZ2、またはInOX1が主成分である領域と、に互いに相分離し、各元素を主成分とする領域がモザイク状である構造を有する。
【0345】
ここで、InX2ZnY2OZ2、またはInOX1が主成分である領域は、GaOX3などが主成分である領域と比較して、導電性が高い領域である。つまり、InX2ZnY2OZ2、またはInOX1が主成分である領域を、キャリアが流れることにより、酸化物半導体としての導電性が発現する。したがって、InX2ZnY2OZ2、またはInOX1が主成分である領域が、酸化物半導体中にクラウド状に分布することで、高い電界効果移動度(μ)が実現できる。
【0346】
一方、GaOX3などが主成分である領域は、InX2ZnY2OZ2、またはInOX1が主成分である領域と比較して、絶縁性が高い領域である。つまり、GaOX3などが主成分である領域が、酸化物半導体中に分布することで、リーク電流を抑制し、良好なスイッチング動作を実現できる。
【0347】
したがって、CAC-OSを半導体素子に用いた場合、GaOX3などに起因する絶縁性と、InX2ZnY2OZ2、またはInOX1に起因する導電性とが、相補的に作用することにより、高いオン電流(Ion)、および高い電界効果移動度(μ)を実現することができる。
【0348】
CAC-OSを用いた半導体素子は、信頼性が高い。したがって、CAC-OSは、様々な半導体装置の構成材料として適している。
【0349】
<積層構造1>
次に、撮像装置の積層構造について、断面図を用いて説明する。なお、以下に示す絶縁層および導電層などの要素は一例であり、さらに他の要素が含まれていてもよい。または、以下に示す要素の一部が省かれていてもよい。また、以下に示す積層構造は、必要に応じて、貼り合わせ工程、研磨工程などを用いて形成することができる。
【0350】
図19は、層560、561、層563を有し、層563を構成する層563aと層563bの間に貼り合わせ面を有する積層体の断面図の一例である。
【0351】
<層563b>
層563bは、シリコン基板611に設けられた機能回路を有することができる。ここでは、機能回路の一部として、回路130が有するトランジスタ105およびトランジスタ108を示している。
【0352】
層563bには、シリコン基板611、絶縁層612、絶縁層613、絶縁層614、絶縁層616、絶縁層617、絶縁層618、導電層619が設けられる。絶縁層612は保護膜としての機能を有する。絶縁層613、絶縁層614、絶縁層616、絶縁層617は、層間絶縁膜および平坦化膜としての機能を有する。絶縁層618および導電層619は、貼り合わせ層としての機能を有する。導電層619は、トランジスタ105のゲートと電気的に接続される。
【0353】
保護膜として、例えば、窒化シリコン膜、酸化シリコン膜、酸化アルミニウム膜などを用いることができる。層間絶縁膜および平坦化膜として、例えば、酸化シリコン膜などの無機絶縁膜、アクリル樹脂、ポリイミド樹脂などの有機絶縁膜を用いることができる。キャパシタの誘電体層として、窒化シリコン膜、酸化シリコン膜、酸化アルミニウム膜などを用いることができる。貼り合わせ層に関しては後述する。
【0354】
なお、デバイス間の電気的な接続に用いられる配線、電極およびプラグとして用いることのできる導電体には、アルミニウム、クロム、銅、銀、金、白金、タンタル、ニッケル、チタン、モリブデン、タングステン、ハフニウム、バナジウム、ニオブ、マンガン、マグネシウム、ジルコニウム、ベリリウム、インジウム、ルテニウム、イリジウム、ストロンチウム、ランタンなどから選ばれた金属元素、または上述した金属元素を成分とする合金か、上述した金属元素を組み合わせた合金等を適宜選択して用いればよい。当該導電体は単層に限らず、異なる材料で構成された複数の層であってもよい。
【0355】
<層563a>
層563aは、画素100の要素を有する。また、機能回路の要素を有していてもよい。ここでは、機能回路の要素として、回路130が有するトランジスタ102およびトランジスタ103を示している。
【0356】
層563aには、シリコン基板632、絶縁層631、絶縁層633、絶縁層634、絶縁層635、絶縁層637、絶縁層638が設けられる。また、導電層636、導電層639が設けられる。
【0357】
絶縁層631および導電層639は、貼り合わせ層としての機能を有する。絶縁層634、635、637は、層間絶縁膜および平坦化膜としての機能を有する。絶縁層633は、保護膜としての機能を有する。絶縁層638は、シリコン基板632と導電層639を絶縁する機能を有する。絶縁層638は、他の絶縁層と同様の材料で形成することができる。また、絶縁層638は、絶縁層631と同一の材料で形成されていてもよい。
【0358】
導電層639は、トランジスタ102のソースまたはドレインの他方、およびトランジスタ103のソースまたはドレインの一方と電気的に接続される。また、導電層639は、トランジスタ105のゲートおよび導電層619と電気的に接続される。また、導電層636は、配線114(
図4参照)と電気的に接続される。
【0359】
図19には、シリコン基板(シリコン基板611、シリコン基板632)にチャネル形成領域を有するフィン型のSiトランジスタを示している。チャネル幅方向の断面(
図19の層563aに示すA1-A2の断面)を
図20Aに示す。なお、Siトランジスタは、
図20Bに示すようにプレーナー型であってもよい。
【0360】
または、
図20Cに示すように、シリコン薄膜の半導体層545を有するトランジスタであってもよい。半導体層545は、例えば、シリコン基板632上の絶縁層546上に形成された単結晶シリコン(SOI(Silicon on Insulator))とすることができる。
【0361】
<層561>
層561は、光電変換デバイス101を有する。光電変換デバイス101は、層563a上に形成することができる。
図19では、光電変換デバイス101として、
図18Cに示す有機光導電膜を光電変換層に用いた構成を示している。なお、ここでは、層567aをカソード、層567eをアノードとする。
【0362】
層561には、絶縁層651、絶縁層652、絶縁層653、絶縁層654、および導電層655が設けられる。
【0363】
絶縁層651、絶縁層653、絶縁層654は、層間絶縁膜および平坦化膜としての機能を有する。また、絶縁層654は光電変換デバイス101の端部を覆って設けられ、層567eと層567aとの短絡を防止する機能も有する。絶縁層652は、素子分離層としての機能を有する。素子分離層として、有機絶縁膜などを用いることが好ましい。
【0364】
光電変換デバイス101のカソードに相当する層567aは、層563aが有するトランジスタ102のソースまたはドレインの一方と電気的に接続される。光電変換デバイス101のアノードに相当する層567eは、導電層655を介して、層563aが有する導電層636と電気的に接続される。
【0365】
<層560>
層560は、層561上に形成される。層560は、遮光層671、光学変換層672およびマイクロレンズアレイ673を有する。
【0366】
遮光層671は、隣接する画素への光の流入を抑えることができる。遮光層671には、アルミニウム、タングステンなどの金属層を用いることができる。また、当該金属層と反射防止膜としての機能を有する誘電体膜を積層してもよい。
【0367】
光電変換デバイス101が可視光に感度を有するとき、光学変換層672にカラーフィルタを用いることができる。カラーフィルタに(赤)、G(緑)、B(青)、Y(黄)、C(シアン)、M(マゼンタ)などの色を画素別に割り当てることにより、カラー画像を得ることができる。例えば、
図26Aの斜視図(断面を含む)に示すように、カラーフィルタ672R(赤)、カラーフィルタ672G(緑)、カラーフィルタ672B(青)をそれぞれ異なる画素に割り当てることができる。
【0368】
光電変換デバイス101と光学変換層672との適切な組み合わせにおいて、光学変換層672に波長カットフィルタを用いれば、様々な波長領域における画像が得られる撮像装置とすることができる。
【0369】
例えば、光学変換層672に可視光線の波長以下の光を遮る赤外線フィルタを用いれば、赤外線撮像装置とすることができる。また、光学変換層672に近赤外線の波長以下の光を遮るフィルタを用いれば、遠赤外線撮像装置とすることができる。また、光学変換層672に可視光線の波長以上の光を遮る紫外線フィルタを用いれば、紫外線撮像装置とすることができる。
【0370】
なお、一つの撮像装置内に異なる光学変換層を複数配置してもよい。例えば、
図26Bに示すように、カラーフィルタ672R(赤)、カラーフィルタ672G(緑)、カラーフィルタ672B(青)、赤外線フィルタ672IRをそれぞれ異なる画素に割り当てることができる。当該構成では、可視光画像および赤外光画像を同時に取得することができる。
【0371】
または、
図26Cに示すように、カラーフィルタ672R(赤)、カラーフィルタ672G(緑)、カラーフィルタ672B(青)、紫外線フィルタ672UVをそれぞれ異なる画素に割り当てることができる。当該構成では、可視光画像および紫外光画像を同時に取得することができる。
【0372】
光学変換層672にシンチレータを用いれば、X線撮像装置などに用いる放射線の強弱を可視化した画像を得る撮像装置とすることができる。被写体を透過したX線等の放射線がシンチレータに入射されると、フォトルミネッセンス現象により可視光線、または紫外光線などの光(蛍光)に変換される。そして、当該光を光電変換デバイス101で検出することにより画像データを取得する。また、放射線検出器などに当該構成の撮像装置を用いてもよい。
【0373】
シンチレータは、X線、またはガンマ線などの放射線が照射されると、そのエネルギーを吸収して可視光、または紫外光を発する物質を含む。例えば、Gd2O2S:Tb、Gd2O2S:Pr、Gd2O2S:Eu、BaFCl:Eu、NaI、CsI、CaF2、BaF2、CeF3、LiF、LiI、ZnOなどを樹脂、またはセラミクスに分散させたものを用いることができる。
【0374】
赤外光または紫外光による撮像を行うことで、検査機能、セキュリティ機能、センサ機能などを撮像装置に付与することができる。例えば、赤外光による撮像を行うことで、生産物の非破壊検査、農産物の選別(糖度の計測など)、静脈認証、医療検査などを行うことができる。また、紫外光による撮像を行うことで、光源、または火炎から放出される紫外光を検出することができ、光源、熱源、生産装置等の管理などを行うことができる。
【0375】
光学変換層672上にはマイクロレンズアレイ673が設けられる。マイクロレンズアレイ673が有する個々のレンズを通る光が直下の光学変換層672を通り、光電変換デバイス101に照射されるようになる。マイクロレンズアレイ673を設けることにより、集光した光を光電変換デバイス101に入射することができるため、効率よく光電変換を行うことができる。マイクロレンズアレイ673は、目的の波長の光に対して透光性の高い樹脂またはガラスなどで形成することが好ましい。
【0376】
<貼り合わせ>
次に、層563bと層563aの貼り合わせについて説明する。
【0377】
層563bには、絶縁層618および導電層619が設けられる。導電層619は、絶縁層618に埋設された領域を有する。また、絶縁層618および導電層619の表面は、それぞれ高さが一致するように平坦化されている。
【0378】
層563aには、絶縁層631および導電層639が設けられる。導電層639は、絶縁層631に埋設された領域を有する。また、絶縁層631および導電層639の表面は、それぞれ高さが一致するように平坦化されている。
【0379】
ここで、導電層619および導電層639は、主成分が同一の金属元素であることが好ましい。また、絶縁層618および絶縁層631は、同一の成分で構成されていることが好ましい。
【0380】
例えば、導電層619、導電層639には、Cu、Al、Sn、Zn、W、Ag、PtまたはAuなどを用いることができる。接合のしやすさから、好ましくはCu、Al、W、またはAuを用いる。また、絶縁層618、絶縁層631には、酸化シリコン、酸化窒化シリコン、窒化酸化シリコン、窒化シリコン、窒化チタンなどを用いることができる。
【0381】
つまり、導電層619および導電層639のそれぞれに、上記に示す同一の金属材料を用いることが好ましい。また、絶縁層618および絶縁層631のそれぞれに、上記に示す同一の絶縁材料を用いることが好ましい。当該構成とすることで、層563bと層563aの境を接合位置とする、貼り合わせを行うことができる。
【0382】
なお、導電層619および導電層639は複数の層の多層構造であってもよく、その場合は、表層(接合面)が同一の金属材料であればよい。また、絶縁層618および絶縁層631も複数の層の多層構造であってもよく、その場合は、表層(接合面)が同一の絶縁材料であればよい。
【0383】
当該貼り合わせによって、導電層619および導電層639の電気的な接続を得ることができる。また、絶縁層618および絶縁層631の機械的な強度を有する接続を得ることができる。
【0384】
金属層同士の接合には、表面の酸化膜および不純物の吸着層などをスパッタリング処理などで除去し、清浄化および活性化した表面同士を接触させて接合する表面活性化接合法を用いることができる。または、温度と圧力を併用して表面同士を接合する拡散接合法などを用いることができる。どちらも原子レベルでの結合が起こるため、電気的だけでなく機械的にも優れた接合を得ることができる。
【0385】
絶縁層同士の接合には、研磨などによって高い平坦性を得たのち、酸素プラズマ等で親水性処理をした表面同士を接触させて仮接合し、熱処理による脱水で本接合を行う親水性接合法などを用いることができる。親水性接合法も原子レベルでの結合が起こるため、機械的に優れた接合を得ることができる。
【0386】
層563bと層563aを貼り合わせる場合、それぞれの接合面には絶縁層と金属層が混在するため、例えば、表面活性化接合法および親水性接合法を組み合わせて行えばよい。
【0387】
例えば、研磨後に表面を清浄化し、金属層の表面に酸化防止処理を行ったのちに親水性処理を行って接合する方法などを用いることができる。また、金属層の表面をAuなどの難酸化性金属とし、親水性処理を行ってもよい。なお、上述した方法以外の接合方法を用いてもよい。
【0388】
上記の貼り合わせにより、層563bが有する要素と、層563aが有する画素100の要素を電気的に接続することができる。
【0389】
<積層構造1の変形例>
図21は、
図19に示す積層構造の変形例であり、層561が有する光電変換デバイス101の構成、および層563aの一部構成が異なり、層561と層563aとの間にも貼り合わせ面を有する構成である。
【0390】
層561は、光電変換デバイス101、絶縁層661、絶縁層662、絶縁層664、絶縁層665および導電層685、導電層686を有する。
【0391】
光電変換デバイス101はpn接合型のフォトダイオードであり、p型領域に相当する層565bおよびn型領域に相当する層565aを有する。なお、ここでは、pn接合型のフォトダイオードがシリコン基板に形成された例を示す。光電変換デバイス101は埋め込み型フォトダイオードであり、層565aの表面側(電流の取り出し側)に設けられた薄いp型の領域(層565bの一部)によって暗電流を抑えノイズを低減させることができる。
【0392】
絶縁層661、導電層685、導電層686は、貼り合わせ層としての機能を有する。絶縁層662は、層間絶縁膜および平坦化膜としての機能を有する。絶縁層664は、素子分離層としての機能を有する。
【0393】
シリコン基板には画素を分離する溝が設けられ、絶縁層665はシリコン基板上面および当該溝に設けられる。絶縁層665が設けられることにより、光電変換デバイス101内で発生したキャリアが隣接する画素に流出することを抑えることができる。また、絶縁層665は、迷光の侵入を抑制する機能も有する。したがって、絶縁層665により、混色を抑制することができる。なお、シリコン基板の上面と絶縁層665との間に反射防止膜が設けられていてもよい。
【0394】
絶縁層664は、LOCOS(LOCal Oxidation of Silicon)法を用いて形成することができる。または、STI(Shallow Trench Isolation)法等を用いて形成してもよい。絶縁層665として、例えば、酸化シリコン、窒化シリコンなどの無機絶縁膜、ポリイミド樹脂、アクリル樹脂などの有機絶縁膜を用いることができる。なお、絶縁層665は多層構成であってもよい。また、絶縁層665の一部に空間を設けてもよい。当該空間は空気、または不活性ガスなどの気体を有していてもよい。また、当該空間は減圧状態であってもよい。
【0395】
光電変換デバイス101の層565a(n型領域、カソードに相当)は、導電層685と電気的に接続される。層565b(p型領域、アノードに相当)は、導電層686と電気的に接続される。導電層685、導電層686は、絶縁層661に埋設された領域を有する。また、絶縁層661および導電層685、導電層686の表面は、それぞれ高さが一致するように平坦化されている。
【0396】
層563aにおいて、絶縁層637上には、絶縁層638が形成される。また、トランジスタ102のソースまたはドレインの一方と電気的に接続される導電層683、および導電層636と電気的に接続される導電層684が形成される。
【0397】
絶縁層638、導電層683、導電層684は、貼り合わせ層としての機能を有する。導電層683、導電層684は、絶縁層638に埋設された領域を有する。また、絶縁層638および導電層683、導電層684の表面は、それぞれ高さが一致するように平坦化されている。
【0398】
ここで、導電層683、導電層684、導電層685、導電層686は、前述した導電層619、導電層639と同じ貼り合わせ層である。また、絶縁層638、絶縁層661は、前述した絶縁層618、絶縁層631と同じ貼り合わせ層である。
【0399】
したがって、導電層683と導電層685を貼り合わせることで、光電変換デバイス101の層565a(n型領域、カソードに相当)とトランジスタ102のソースまたはドレインの一方を電気的に接続することができる。また、導電層684と導電層686を貼り合わせることで、光電変換デバイス101の層565b(p型領域、アノードに相当)と配線114(
図4参照)を電気的に接続することができる。また、絶縁層638と絶縁層661を貼り合わせることで、層561と層563aの電気的な接合および機械的な接合を行うことができる。
【0400】
図22は上記とは異なる変形例であり、トランジスタ102が層561に設けられる構成である。当該構成では、トランジスタ102のソースまたはドレインの一方は、光電変換デバイス101と直結され、ソースまたはドレインの他方は、ノードFDとして作用する。当該構成では、光電変換デバイス101で蓄積した電荷の完全転送が可能であり、ノイズの少ない撮像装置とすることができる。絶縁層663は、トランジスタ102の保護膜として機能する。
【0401】
ここで、層561が有するトランジスタ102のソースまたはドレインの他方は、導電層692と電気的に接続される。また、層563aが有するトランジスタ103のソースまたはドレインの一方は、導電層691と電気的に接続される。導電層691、導電層692は、前述した導電層619、導電層639と同じ貼り合わせ層である。
【0402】
<積層構造2>
図23は、層560、層561、層562、層563を有し、貼り合わせ面を有さない積層体の断面図の一例である。層563には、Siトランジスタが設けられる。層562には、OSトランジスタが設けられる。なお、層563、層561および層560の構成は、
図19に示す構成と同一であるため、ここでは説明を省略する。
【0403】
<層562>
層562は、層563上に形成される。層562は、OSトランジスタを有する。ここでは、トランジスタ102およびトランジスタ103を示している。
図23に示す断面図では、両者の電気的な接続は図示されていない。
【0404】
層562には、絶縁層621、絶縁層622、絶縁層623、絶縁層624、絶縁層625、絶縁層626、絶縁層628が設けられる。また、導電層627が設けられる。導電層627は、配線114(
図4参照)と電気的に接続することができる。
【0405】
絶縁層621は、ブロッキング層としての機能を有する。絶縁層622、絶縁層623、絶縁層625、絶縁層626、絶縁層628は、層間絶縁膜および平坦化膜としての機能を有する。絶縁層624は、保護膜としての機能を有する。
【0406】
ブロッキング層として、水素の拡散を防止する機能を有する膜を用いることが好ましい。Siデバイスにおいて、水素はダングリングボンドを終端するために必要とされるが、OSトランジスタの近傍にある水素は、酸化物半導体層中にキャリアを生成する要因の一つとなり、信頼性を低下させる。したがって、Siデバイスが形成される層とOSトランジスタが形成される層との間には、水素のブロッキング膜が設けられることが好ましい。
【0407】
当該ブロッキング膜として、例えば、酸化アルミニウム、酸化窒化アルミニウム、酸化ガリウム、酸化窒化ガリウム、酸化イットリウム、酸化窒化イットリウム、酸化ハフニウム、酸化窒化ハフニウム、イットリア安定化ジルコニア(YSZ)等を用いることができる。
【0408】
トランジスタ103のソースまたはドレインの他方は、プラグを介してトランジスタ105のゲートと電気的に接続される。また、導電層627は、配線114(
図4参照)と電気的に接続される。
【0409】
トランジスタ102のソースまたはドレインの一方は、層561が有する光電変換デバイス101のカソードと電気的に接続される。導電層627は、層561が有する光電変換デバイス101のアノードと電気的に接続される。
【0410】
図24AにOSトランジスタの詳細を示す。
図24Aに示すOSトランジスタは、酸化物半導体層および導電層の積層上に絶縁層を設け、当該酸化物半導体層に達する開口部を設けることでソース電極705およびドレイン電極706を形成するセルフアライン型の構成である。
【0411】
OSトランジスタは、酸化物半導体層に形成されるチャネル形成領域708、ソース領域703およびドレイン領域704のほか、ゲート電極701、ゲート絶縁膜702を有する構成とすることができる。当該開口部には少なくともゲート絶縁膜702およびゲート電極701が設けられる。当該開口部には、さらに酸化物半導体層707が設けられていてもよい。
【0412】
OSトランジスタは、
図24Bに示すように、ゲート電極701をマスクとして半導体層にソース領域703およびドレイン領域704を形成するセルフアライン型の構成としてもよい。
【0413】
または、
図24Cに示すように、ソース電極705またはドレイン電極706とゲート電極701とが重なる領域を有するノンセルフアライン型のトップゲート型トランジスタであってもよい。
【0414】
OSトランジスタはバックゲート735を有する構造を示しているが、バックゲートを有さない構造であってもよい。バックゲート735は、
図24Dに示すトランジスタのチャネル幅方向の断面図のように、対向して設けられるトランジスタのフロントゲートと電気的に接続してもよい。なお、
図24Dは
図24AのトランジスタのB1-B2の断面を例として示しているが、その他の構造のトランジスタも同様である。また、バックゲート735にフロントゲートとは異なる固定電位を供給することができる構成であってもよい。
【0415】
<積層構造2の変形例>
図25は、
図23に示す積層構造の変形例であり、層561が有する光電変換デバイス101の構成、および層562の一部構成が異なり、層561と層562との間に貼り合わせ面を有する構成である。
【0416】
層561が有する光電変換デバイス101は、pn接合型のフォトダイオードであり、
図21に示す構成と同様である。
【0417】
層562において、絶縁層628上には、絶縁層648が形成される。また、トランジスタ102のソースまたはドレインの一方と電気的に接続される導電層688、および導電層627と電気的に接続される導電層689が形成される。
【0418】
絶縁層648、導電層688、導電層689は、貼り合わせ層としての機能を有する。導電層688、689は、絶縁層648に埋設された領域を有する。また、絶縁層648および導電層683、684の表面は、それぞれ高さが一致するように平坦化されている。
【0419】
ここで、導電層688、導電層689は、前述した導電層619、導電層639と同じ貼り合わせ層である。また、絶縁層648は、前述した絶縁層618、絶縁層631と同じ貼り合わせ層である。
【0420】
したがって、導電層688と導電層685を貼り合わせることで、光電変換デバイスの層565a(n型領域、カソードに相当)とトランジスタ102のソースまたはドレインの一方を電気的に接続することができる。また、導電層689と導電層686を貼り合わせることで、光電変換デバイスの層565b(p型領域、アノードに相当)と配線114(
図4参照)を電気的に接続することができる。また、絶縁層648と絶縁層661を貼り合わせることで、層561と層562aの電気的な接合および機械的な接合を行うことができる。
【0421】
Siデバイスを複数積層する場合、研磨工程、及び貼り合わせ工程が複数回必要になる。そのため、工程数が多い、専用の装置が必要、低歩留まりなどの課題があり、製造コストも高い。OSトランジスタは、デバイスが形成された半導体基板上に積層して形成することができるため、貼り合わせ工程を削減することができる。
【0422】
なお、当該構成において、
図22に示すように、層561にトランジスタ102を設けてもよい。
【0423】
<パッケージ、モジュール>
図27A1は、イメージセンサチップを収めたパッケージの上面側の外観斜視図である。当該パッケージは、イメージセンサチップ450(
図27A3参照)を固定するパッケージ基板410、カバーガラス420および両者を接着する接着剤430等を有する。
【0424】
図27A2は、当該パッケージの下面側の外観斜視図である。パッケージの下面には、半田ボールをバンプ440としたBGA(Ball grid array)を有する。なお、BGAに限らず、LGA(Land grid array)、またはPGA(Pin Grid Array)などを有していてもよい。
【0425】
図27A3は、カバーガラス420および接着剤430の一部を省いて図示したパッケージの斜視図である。パッケージ基板410上には電極パッド460が形成され、電極パッド460およびバンプ440はスルーホールを介して電気的に接続されている。電極パッド460は、イメージセンサチップ450とワイヤ470によって電気的に接続されている。
【0426】
図27B1は、イメージセンサチップをレンズ一体型のパッケージに収めたカメラモジュールの上面側の外観斜視図である。当該カメラモジュールは、イメージセンサチップ451(
図27B3参照)を固定するパッケージ基板411、レンズカバー421、およびレンズ435等を有する。また、パッケージ基板411およびイメージセンサチップ451の間には撮像装置の駆動回路および信号変換回路などの機能を有するICチップ490(
図27B3参照)も設けられており、SiP(System in package)としての構成を有している。
【0427】
図27B2は、当該カメラモジュールの下面側の外観斜視図である。パッケージ基板411の下面および側面には、実装用のランド441が設けられたQFN(Quad flat no-lead package)の構成を有する。なお、当該構成は一例であり、QFP(Quad flat package)、または前述したBGAが設けられていてもよい。
【0428】
図27B3は、レンズカバー421およびレンズ435の一部を省いて図示したモジュールの斜視図である。ランド441は電極パッド461と電気的に接続され、電極パッド461はイメージセンサチップ451またはICチップ490とワイヤ471によって電気的に接続されている。
【0429】
イメージセンサチップを上述したような形態のパッケージに収めることでプリント基板等への実装が容易になり、イメージセンサチップを様々な半導体装置、電子機器に組み込むことができる。
【0430】
本実施の形態は、他の実施の形態の記載と適宜組み合わせることができる。
【0431】
(実施の形態3)
本発明の一態様に係る撮像装置を用いることができる電子機器として、表示機器、パーソナルコンピュータ、記録媒体を備えた画像記憶装置または画像再生装置、携帯電話、携帯型を含むゲーム機、携帯データ端末、電子書籍端末、ビデオカメラ、デジタルスチルカメラ等のカメラ、ゴーグル型ディスプレイ(ヘッドマウントディスプレイ)、ナビゲーションシステム、音響再生装置(カーオーディオ、デジタルオーディオプレイヤー等)、複写機、ファクシミリ、プリンタ、プリンタ複合機、現金自動預け入れ払い機(ATM)、自動販売機などが挙げられる。これら電子機器の具体例を
図28A乃至
図28Fに示す。
【0432】
図28Aは携帯型情報端末の一例であり、筐体981、表示部982、操作ボタン983、外部接続ポート984、スピーカ985、マイク986、カメラ987等を有する。当該携帯型情報端末は、表示部982にタッチセンサを備える。電話を掛ける、或いは文字を入力するなどのあらゆる操作は、指、またはスタイラスなどで表示部982に触れることで行うことができる。当該携帯型情報端末に本発明の一態様の撮像装置およびその動作方法を適用することができる。
【0433】
カメラ987は本発明の一態様の撮像装置を有し、カメラ987で取得した画像から被写体の距離情報を取得することができる。当該距離情報に基づいて、カメラ987で取得した画像の一部を加工することができる。例えば、主の被写体の前後をぼかす画像処理などを行うことができる。
【0434】
図28Bは情報端末であり、筐体911、表示部912、スピーカ913、カメラ919等を有する。表示部912が有するタッチパネル機能により情報の入出力を行うことができる。また、カメラ919で取得した画像から文字等を認識し、スピーカ913で当該文字を音声出力することができる。当該携帯データ端末に本発明の一態様の撮像装置およびその動作方法を適用することができる。
【0435】
図28Cは監視カメラであり、支持台951、カメラユニット952、保護カバー953等を有する。カメラユニット952には回転機構などが設けられ、天井に設置することで全周囲の撮像が可能となる。当該カメラユニットにおける画像取得のための要素に本発明の一態様の撮像装置およびその動作方法を適用することができる。なお、監視カメラとは慣用的な名称であり、用途を限定するものではない。例えば監視カメラとしての機能を有する機器はカメラ、またはビデオカメラとも呼ばれる。
【0436】
図28Dはビデオカメラであり、第1筐体971、第2筐体972、表示部973、操作キー974、レンズ975、接続部976、スピーカ977、マイク978等を有する。操作キー974およびレンズ975は第1筐体971に設けられており、表示部973は第2筐体972に設けられている。当該ビデオカメラに本発明の一態様の撮像装置およびその動作方法を適用することができる。
【0437】
図28Eはデジタルカメラであり、筐体961、シャッターボタン962、マイク963、発光部967、レンズ965等を有する。当該デジタルカメラに本発明の一態様の撮像装置およびその動作方法を適用することができる。
【0438】
図28Fは腕時計型の情報端末であり、表示部932、筐体兼リストバンド933、カメラ939等を有する。表示部932は、情報端末の操作を行うためのタッチパネルを備える。表示部932および筐体兼リストバンド933は可撓性を有し、身体への装着性が優れている。当該情報端末に本発明の一態様の撮像装置およびその動作方法を適用することができる。
【0439】
図29Aは、移動体の一例として自動車の外観図を図示している。自動車890は、複数のカメラ891等を有し、自動車890の前後左右および上方の情報を取得することができる。カメラ891には、本発明の一態様の撮像装置およびその動作方法を適用することができる。また、自動車890は、赤外線レーダー、ミリ波レーダー、レーザーレーダーなど各種センサ(図示せず)などを備える。自動車890は、複数の撮像方向892に対してカメラ891が取得した画像の解析を行い、ガードレール、及び歩行者の有無など、周囲の交通状況を判断し、自動運転を行うことができる。また、道路案内、危険予測などを行うシステムに用いることができる。
【0440】
本発明の一態様の撮像装置では、得られた画像データをニューラルネットワークなどの演算処理を行うことで、例えば、画像の高解像度化、画像ノイズの低減、顔認識(防犯目的など)、物体認識(自動運転の目的など)、画像圧縮、画像補正(広ダイナミックレンジ化)、レンズレスイメージセンサの画像復元、位置決め、文字認識、反射映り込み低減などの処理を行うことができる。
【0441】
なお、上述では、移動体の一例として自動車について説明しているが、自動車は、内燃機関を有する自動車、電気自動車、水素自動車など、いずれであってもよい。また、移動体は自動車に限定されない。例えば、移動体として、電車、モノレール、船、飛行体(ヘリコプター、無人航空機(ドローン)、飛行機、ロケット)なども挙げることができ、これらの移動体に本発明の一態様のコンピュータを適用して、人工知能を利用したシステムを付与することができる。
【0442】
本実施の形態は、他の実施の形態の記載と適宜組み合わせることができる。
【符号の説明】
【0443】
FL11:第1のフィルタ、FL12:第3のフィルタ、FL13:第5のフィルタ、FL21:第2のフィルタ、FL22:第4のフィルタ、FL23:第6のフィルタ、100:画素、101:光電変換デバイス、102:トランジスタ、102a:トランジスタ、102b:トランジスタ、103:トランジスタ、103a:トランジスタ、103b:トランジスタ、104:キャパシタ、104a:キャパシタ、104b:キャパシタ、105:トランジスタ、105a:トランジスタ、105b:トランジスタ、106:トランジスタ、106a:トランジスタ、106b:トランジスタ、108:トランジスタ、111a:配線、111a_1:配線、111a_2:配線、111a_3:配線、111b:配線、111b_1:配線、111b_2:配線、111b_3:配線、112a:配線、112a_1:配線、112a_2:配線、112a_3:配線、112b:配線、112b_1:配線、112b_2:配線、112b_3:配線、113:配線、114:配線、115a:配線、115b:配線、116a:配線、116b:配線、117a:配線、117b:配線、118a:配線、118b:配線、119a:配線、119b:配線、122:配線、122_1:配線、122_2:配線、122_3:配線、130a:回路、130b:回路、161:トランジスタ、162:トランジスタ、163:キャパシタ、200:画素ブロック、201:回路、202:キャパシタ、203:トランジスタ、204:トランジスタ、205:トランジスタ、206:トランジスタ、207:トランジスタ、212:配線、213:配線、213A:配線、213B:配線、215:配線、216:配線、217:配線、218:配線、219:配線、300:画素アレイ、301:回路、302:回路、303:回路、304:回路、305:回路、311:配線、320:メモリセル、325:参照メモリセル、330:回路、350:回路、360:回路、370:回路、410:パッケージ基板、411:パッケージ基板、420:カバーガラス、421:レンズカバー、430:接着剤、435:レンズ、440:バンプ、441:ランド、450:イメージセンサチップ、451:イメージセンサチップ、460:電極パッド、461:電極パッド、470:ワイヤ、471:ワイヤ、490:ICチップ、545:半導体層、546:絶縁層、560:層、561:層、562:層、562a:層、562b:層、563:層、563a:層、563b:層、563c:層、565a:層、565b:層、566a:層、566b:層、566c:層、566d:層、567a:層、567b:層、567c:層、567d:層、567e:層、611:シリコン基板、612:絶縁層、613:絶縁層、614:絶縁層、616:絶縁層、617:絶縁層、618:絶縁層、619:導電層、621:絶縁層、622:絶縁層、623:絶縁層、624:絶縁層、625:絶縁層、626:絶縁層、627:導電層、628:絶縁層、631:絶縁層、632:シリコン基板、633:絶縁層、634:絶縁層、635:絶縁層、636:導電層、637:絶縁層、638:絶縁層、639:導電層、648:絶縁層、651:絶縁層、652:絶縁層、653:絶縁層、654:絶縁層、655:導電層、661:絶縁層、662:絶縁層、663:絶縁層、664:絶縁層、665:絶縁層、671:遮光層、672:光学変換層、672B:カラーフィルタ、672G:カラーフィルタ、672IR:赤外線フィルタ、672R:カラーフィルタ、672UV:紫外線フィルタ、673:マイクロレンズアレイ、683:導電層、684:導電層、685:導電層、686:導電層、688:導電層、689:導電層、691:導電層、692:導電層、701:ゲート電極、702:ゲート絶縁膜、703:ソース領域、704:ドレイン領域、705:ソース電極、706:ドレイン電極、707:酸化物半導体層、708:チャネル形成領域、735:バックゲート、890:自動車、891:カメラ、892:撮像方向、911:筐体、912:表示部、913:スピーカ、919:カメラ、932:表示部、933:筐体兼リストバンド、939:カメラ、951:支持台、952:カメラユニット、953:保護カバー、961:筐体、962:シャッターボタン、963:マイク、965:レンズ、967:発光部、971:筐体、972:筐体、973:表示部、974:操作キー、975:レンズ、976:接続部、977:スピーカ、978:マイク、981:筐体、982:表示部、983:操作ボタン、984:外部接続ポート、985:スピーカ、986:マイク、987:カメラ