特許7521023 | 知財ポータル「IP Force」

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

特許7521023画像処理装置、画像処理方法、および撮像装置

書誌要約請求の範囲詳細な説明課題実施例実施するための形態図面の説明

目に優しい文字サイズ小中大 PDF Top

< >

1
2
3
4
5
6
7
8A
8B
9A
9B
10
11
12A
12B
13A
13B
14A
14B
15A
15B
16A
16B
17A
17B
18A
18B
18C
19A
19B
19C
20
21
22
23A
23B
23C
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-07-12

(45)【発行日】2024-07-23

(54)【発明の名称】画像処理装置、画像処理方法、および撮像装置

(51)【国際特許分類】

H04N 25/10 20230101AFI20240716BHJP

H04N 23/60 20230101ALI20240716BHJP

【ＦＩ】

H04N25/10

H04N23/60 500

【請求項の数】 18

(21)【出願番号】P 2023014212

(22)【出願日】2023-02-01

(62)【分割の表示】P 2019570697の分割

【原出願日】2019-01-29

(65)【公開番号】P2023061999

(43)【公開日】2023-05-02

【審査請求日】2023-02-01

(31)【優先権主張番号】P 2018022143

(32)【優先日】2018-02-09

(33)【優先権主張国・地域又は機関】JP

(73)【特許権者】

【識別番号】316005926

【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社

(74)【代理人】

【識別番号】110001357

【氏名又は名称】弁理士法人つばさ国際特許事務所

(72)【発明者】

【氏名】古閑史彦

(72)【発明者】

【氏名】山口哲司

【審査官】豊田好一

(56)【参考文献】

【文献】米国特許出願公開第２０１３／０２４２１３３（ＵＳ，Ａ１）

【文献】国際公開第２０１４／０２０９７０（ＷＯ，Ａ１）

【文献】特開２０１５－０１９２９３（ＪＰ，Ａ）

【文献】特開２０１７－２００１５７（ＪＰ，Ａ）

【文献】特開２００７－２２１４２３（ＪＰ，Ａ）

【文献】国際公開第２０１１／０６７８５０（ＷＯ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｎ２５／１０

Ｈ０４Ｎ２３／６０

(57)【特許請求の範囲】

【請求項1】

第１の色の複数の画素値を含む第１の画像マップデータに基づいて、前記第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成可能な画像分割処理部と、
前記複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、前記複数の第１のマップデータに対応する複数の第２のマップデータを生成可能な補間処理部と、
前記複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成可能な合成処理部と
を備えた画像処理装置。

【請求項2】

前記配置パターンは、市松模様パターンである
請求項１に記載の画像処理装置。

【請求項3】

前記第１の画像マップデータに基づいて前記補間処理の処理方法を決定可能である補間制御部をさらに備えた
請求項１または請求項２に記載の画像処理装置。

【請求項4】

前記補間制御部は、前記第１の画像マップデータに基づいて、前記補間処理における補間方向を決定することにより、前記処理方法を決定可能である
請求項３に記載の画像処理装置。

【請求項5】

前記補間制御部は、前記第１の画像マップデータに基づいて空間周波数情報を求め、この空間周波数情報に基づいて前記処理方法を決定することが可能である
請求項３または請求項４に記載の画像処理装置。

【請求項6】

前記補間制御部は、前記第１の画像マップデータ、第２の画像マップデータ、および第３の画像マップデータに基づいて合成マップデータを生成し、前記合成マップデータに基づいて空間周波数情報を求め、この空間周波数情報に基づいて前記補間処理の処理方法を決定することが可能である
請求項３から請求項５のいずれか一項に記載の画像処理装置。

【請求項7】

前記画像分割処理部は、さらに、第２の色の複数の画素値を含む第２の画像マップデータに基づいて、前記第２の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第４のマップデータを生成可能であり、
前記補間処理部は、前記複数の第４のマップデータのそれぞれにおいて、前記補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、前記複数の第４のマップデータに対応する複数の第５のマップデータを生成可能であり、
前記複数の第１のマップデータにおける画素値の前記配置パターンは、第１の配置パターンおよび第２の配置パターンを含み、
前記複数の第４のマップデータにおける画素値の前記配置パターンは、前記第１の配置パターンおよび前記第２の配置パターンを含む
請求項１から請求項６のいずれか一項に記載の画像処理装置。

【請求項8】

前記第１の画像マップデータの前記複数の画素値は、前記第１の色の複数の画素値を含み、
前記第２の画像マップデータの前記複数の画素値は、前記第２の色の複数の画素値および第３の色の複数の画素値を含む
請求項７に記載の画像処理装置。

【請求項9】

前記第１の画像マップデータの前記複数の画素値は、前記第１の色の複数の画素値を含み、
前記第２の画像マップデータの前記複数の画素値は、前記第２の色の複数の画素値、第３の色の複数の画素値、および第４の色の複数の画素値を含む
請求項７または請求項８に記載の画像処理装置。

【請求項10】

前記合成処理部は、前記複数の第５のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第６のマップデータを生成可能であり、
前記画像分割処理部は、さらに、第３の色の複数の画素値を含む第３の画像マップデータに基づいて、前記第３の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第７のマップデータを生成可能であり、
前記補間処理部は、前記複数の第７のマップデータのそれぞれにおいて、前記補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、前記複数の第７のマップデータに対応する複数の第８のマップデータを生成可能であり、
前記合成処理部は、前記複数の第８のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第９のマップデータを生成可能であり、
前記複数の第７のマップデータにおける画素値の前記配置パターンは、前記第１の配置パターンおよび前記第２の配置パターンを含む
請求項７に記載の画像処理装置。

【請求項11】

前記第１の画像マップデータにおける前記複数の画素値の数は、前記第２の画像マップデータにおける前記複数の画素値の数と異なる
請求項１０に記載の画像処理装置。

【請求項12】

前記第１の画像マップデータの前記複数の画素値は、緑色の複数の画素値を含み、
前記第１の画像マップデータにおける２以上の画素値は、前記第２の画像マップデータにおける１つの画素値と対応づけられている
請求項１１に記載の画像処理装置。

【請求項13】

前記画像分割処理部、前記補間処理部、および前記合成処理部が処理を行うかどうかを制御可能な処理制御部をさらに備えた
請求項１から請求項１２のいずれか一項に記載の画像処理装置。

【請求項14】

前記第１の画像マップデータまたは前記第３のマップデータに基づいて所定の信号処理を行うことが可能な処理部をさらに備え、
前記処理制御部は、第１の動作モードにおいて、前記第１の画像マップデータに基づいて前記処理部に前記所定の信号処理を行わせ、第２の動作モードにおいて、前記第３のマップデータに基づいて前記処理部に前記所定の信号処理を行わせることが可能である
請求項１３に記載の画像処理装置。

【請求項15】

前記処理制御部は、被写体の明るさに応じたパラメータに基づいて、暗い被写体である場合には、前記画像分割処理部、前記補間処理部、および前記合成処理部が処理を行い、明るい被写体である場合には、前記画像分割処理部、前記補間処理部、および前記合成処理部が処理を行わないように制御可能である
請求項１４に記載の画像処理装置。

【請求項16】

前記第１の画像マップデータは、撮像部から供給され、
前記パラメータは、前記撮像部におけるゲイン値であり、
前記処理制御部は、前記ゲイン値が所定のゲイン値よりも高い場合に、前記画像分割処理部、前記補間処理部、および前記合成処理部が処理を行うように制御する
請求項１５に記載の画像処理装置。

【請求項17】

第１の色の複数の画素値を含む第１の画像マップデータに基づいて、前記第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成する画像分割処理と、
前記複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、前記複数の第１のマップデータに対応する複数の第２のマップデータを生成する補間処理と、
前記複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成する合成処理と
を含む画像処理方法。

【請求項18】

第１の色の複数の画素値を含む第１の画像マップデータを生成する撮像部と、
前記第１の画像マップデータに基づいて、前記第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成することが可能な画像分割処理部と、
前記複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、前記複数の第１のマップデータに対応する複数の第２のマップデータを生成することが可能な補間処理部と、
前記複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成することが可能な合成処理部と
を備えた撮像装置。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、画像処理を行う画像処理装置、画像処理方法、およびそのような画像処理装置を備えた撮像装置に関する。

【背景技術】

【0002】

撮像装置では、赤色、緑色、および青色の光電変換素子により変換された電気信号に基づいて撮像画像が生成される。例えば、特許文献１には、赤色、緑色、および青色の光電変換素子を１つの画素領域に積み重ねたものが開示されている。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０１１－１３８９２７号公報

【発明の概要】

【0004】

ところで、撮像装置では、撮像画像の画質が高いことが望まれており、さらなる画質の向上が期待されている。

【0005】

撮像画像の画質を高めることできる画像処理装置、画像処理方法、および撮像装置を提供することが望ましい。

【0006】

本開示の一実施の形態における画像処理装置は、画像分割処理部と、補間処理部と、合成処理部とを備える。画像分割処理部は、第１の色の複数の画素値を含む第１の画像マップデータに基づいて、第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成可能なものである。補間処理部は、複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、複数の第１のマップデータに対応する複数の第２のマップデータを生成可能なものである。合成処理部は、複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成可能なものである。

【0007】

本開示の一実施の形態における画像処理方法は、第１の色の複数の画素値を含む第１の画像マップデータに基づいて、第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成する画像分割処理と、記複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、複数の第１のマップデータに対応する複数の第２のマップデータを生成する補間処理と、複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成する合成処理とを含むものである。

【0008】

本開示の一実施の形態における撮像装置は、撮像部と、画像分割処理部と、補間処理部と、合成処理部とを備えている。撮像部は、第１の色の複数の画素値を含む第１の画像マップデータを生成するものである。画像分割処理部は、第１の画像マップデータに基づいて、第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成することが可能なものである。補間処理部は、複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、複数の第１のマップデータに対応する複数の第２のマップデータを生成することが可能なものである。合成処理部は、複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成することが可能なものである。

【0009】

ここで、「撮像装置」とは、いわゆるイメージセンサ単体に限定されるものではなく、デジタルカメラやスマートフォンなど、撮像機能を有する電子機器を含むものである。

【0010】

本開示の一実施の形態における画像処理装置、画像処理方法、および撮像装置では、画像分割処理により、第１の色の複数の画素値を含む第１の画像マップデータに基づいて、複数の第１のマップデータが生成される。この複数の第１のマップデータは、第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置されたものである。そして、補間処理により、これらの複数の第１のマップデータのそれぞれに基づいて、複数の第２のマップデータが生成される。これらの複数の第２のマップデータは、複数の第１のマップデータにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより生成される。そして、合成処理により、これらの複数の第２のマップデータに基づいて、第３のマップデータが生成される。この第３のマップデータは、これらの複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより生成される。

【0011】

本開示の一実施の形態における画像処理装置、画像処理方法、および撮像装置によれば、第１の色の複数の画素値を含む第１の画像マップデータに基づいて、第１の色の画素値の配置パターンが互いに異なり、互いに異なる位置に画素値が配置された複数の第１のマップデータを生成し、複数の第１のマップデータのそれぞれにおいて、補間処理を用いて、画素値が欠落した位置における画素値を求めることにより、複数の第２のマップデータを生成し、複数の第２のマップデータにおける互いに対応する位置の画素値に基づいて、その位置での画素値を生成することにより第３のマップデータを生成するようにしたので、撮像画像の画質を高めることできる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれの効果があってもよい。

【図面の簡単な説明】

【0012】

【図1】本開示の第１の実施の形態に係る撮像装置の一構成例を表すブロック図である。

【図2】図１に示した撮像部の一構成例を表すブロック図である。

【図3】図２に示した撮像画素の一構成例を表す説明図である。

【図4】図２に示した撮像画素の一構成例を表す模式図である。

【図5】図１に示した画像処理部の一動作例を表すフローチャートである。

【図6】図１に示した画像処理部の一動作例を表す説明図である。

【図7】図６に示した画像マップデータの一例を表す説明図である。

【図8A】図６に示したマップデータの一例を表す説明図である。

【図8B】図６に示したマップデータの一例を表す他の説明図である。

【図9A】図６に示したマップデータの一例を表す他の説明図である。

【図9B】図６に示したマップデータの一例を表す他の説明図である。

【図10】図６に示したマップデータの一例を表す他の説明図である。

【図11】変形例に係る画像処理部の一動作例を表す説明図である。

【図12A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図12B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図13A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図13B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図14A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図14B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図15A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図15B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図16A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図16B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図17A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図17B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図18A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図18B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図18C】他の変形例に係るマップデータの一例を表す他の説明図である。

【図19A】他の変形例に係るマップデータの一例を表す他の説明図である。

【図19B】他の変形例に係るマップデータの一例を表す他の説明図である。

【図19C】他の変形例に係るマップデータの一例を表す他の説明図である。

【図20】他の変形例に係るマップデータの一例を表す他の説明図である。

【図21】他の変形例に係る撮像装置の一構成例を表すブロック図である。

【図22】図２１に示した画像処理部の一動作例を表す説明図である。

【図23A】図２１に示した画像処理部の一動作例を表す説明図である。

【図23B】図２１に示した画像処理部の一動作例を表す説明図である。

【図23C】図２１に示した画像処理部の一動作例を表す説明図である。

【図24】他の変形例に係る画像処理部の一動作例を表す説明図である。

【図25】他の変形例に係る撮像装置の一構成例を表すブロック図である。

【図26】図２５に示した画像処理部の一動作例を表す説明図である。

【図27】第２の実施の形態に係る撮像装置の一構成例を表すブロック図である。

【図28】図２７に示した撮像部における撮像画素の一構成例を表す説明図である。

【図29】図２７に示した撮像部における撮像画素の一構成例を表す模式図である。

【図30】図２７に示した画像処理部の一動作例を表す説明図である。

【図31】第３の実施の形態に係る撮像装置の一構成例を表すブロック図である。

【図32】図３１に示した撮像部における撮像画素の一構成例を表す説明図である。

【図33】図３１に示した撮像部における撮像画素の一構成例を表す模式図である。

【図34】図３１に示した画像処理部の一動作例を表す説明図である。

【図35】変形例に係る撮像装置の一構成例を表すブロック図である。

【図36】図３５に示した画像処理部の一動作例を表す説明図である。

【図37】第４の実施の形態に係る撮像装置の一構成例を表すブロック図である。

【図38】図３７に示した撮像部における撮像画素の一構成例を表す説明図である。

【図39】図３７に示した撮像部における撮像画素の一構成例を表す模式図である。

【図40】図３７に示した画像処理部の一動作例を表す説明図である。

【図41】撮像装置の使用例を表す説明図である。

【図42】体内情報取得システムの概略的な構成の一例を示すブロック図である。

【図43】内視鏡手術システムの概略的な構成の一例を示す図である。

【図44】カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。

【図45】車両制御システムの概略的な構成例を示すブロック図である。

【図46】撮像部の設置位置の一例を示す説明図である。

【発明を実施するための形態】

【0013】

以下、本開示の実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態
２．第２の実施の形態
３．第３の実施の形態
４．第４の実施の形態
５．撮像装置の使用例
６．応用例

【0014】

＜１．第１の実施の形態＞
［構成例］
図１は、第１の実施の形態に係る画像処理装置を備えた撮像装置１の一構成例を表すものである。なお、本開示の実施の形態に係る画像処理方法は、本実施の形態により具現化されるので、併せて説明する。撮像装置１は、光学系９と、撮像部１０と、画像処理部２０とを備えている。

【0015】

光学系９は、例えば、撮像部１０の撮像面Ｓにおいて像を結像させるレンズを含んで構成されるものである。

【0016】

撮像部１０は、被写体を撮像することにより、画像信号ＤＴおよびゲイン信号ＳＧＡＩＮを生成するものである。撮像部１０は、例えば、ＣＭＯＳ（complementary metal oxide semiconductor）イメージセンサを用いて構成される。

【0017】

図２は、撮像部１０の一構成例を表すものである。撮像部１０は、画素アレイ１１と、走査部１２と、読出部１３と、撮像制御部１４とを有している。

【0018】

画素アレイ１１は、複数の撮像画素Ｐがマトリクス状に配置されたものである。撮像画素Ｐは、赤色（Ｒ）の光を受光可能な光電変換素子、緑色（Ｇ）の光を受光可能な光電変換素子、および青色（Ｂ）の光を受光可能な光電変換素子を含んで構成されるものである。

【0019】

図３は、撮像画素Ｐの断面構造を模式的に表すものである。この図３は、図２に示した領域Ｘに配置された４つの撮像画素Ｐのうちの２つの撮像画素Ｐの断面構造を模式的に示している。

【0020】

半導体基板１００には、１つの撮像画素Ｐに対応する画素領域において、２つのフォトダイオードＰＤＲ，ＰＤＢが形成される。フォトダイオードＰＤＲは、赤色（Ｒ）の光を受光可能な光電変換素子であり、フォトダイオードＰＤＢは、青色（Ｂ）の光を受光可能な光電変換素子である。フォトダイオードＰＤＲおよびフォトダイオードＰＤＢは、半導体基板１００において、フォトダイオードＰＤＢが撮像面Ｓの側になるように積層されて形成される。フォトダイオードＰＤＲおよびフォトダイオードＰＤＢは、半導体基板１００における光の吸収係数が光の波長により異なることを利用して、赤色の光および青色の光に基づいてそれぞれ光電変換を行うようになっている。

【0021】

半導体基板１００の撮像面Ｓ側の表面には絶縁膜１０１が形成される。この絶縁膜１０１は、例えば二酸化ケイ素（ＳｉＯ_２）を用いて構成される。そして、この絶縁膜１０１の上には、透明電極１０２、光電変換膜１０３Ｇ、および透明電極１０４が、この順に形成される。透明電極１０２，１０４は、赤色の光、緑色の光、および青色の光を透過可能な電極である。光電変換膜１０３Ｇは、緑色（Ｇ）の光を受光可能な光電変換膜であり、赤色の光および青色の光を透過可能に構成されている。この光電変換膜１０３Ｇおよび透明電極１０２，１０４は、緑色（Ｇ）の光を受光可能な光電変換素子を構成する。透明電極１０４の上には、オンチップレンズ１０５が形成される。

【0022】

図４は、図２に示した領域Ｘに配置された４つの撮像画素Ｐにおける光電変換素子の配置を模式的に表すものである。このように、撮像部１０では、１つの撮像画素Ｐに対応する画素領域に、緑色（Ｇ）に係る光電変換素子、青色（Ｂ）に係る光電変換素子、赤色（Ｒ）に係る光電変換素子が積層されて形成される。これにより、撮像部１０では、各撮像画素Ｐのそれぞれが、赤色に係る画素信号、緑色に係る画素信号、青色に係る画素信号を生成することができるようになっている。

【0023】

走査部１２は、撮像制御部１４からの指示に基づいて、画素アレイ１１における複数の撮像画素Ｐを、例えば画素ライン単位で順次駆動するものであり、例えばアドレスデコーダを含んで構成されるものである。

【0024】

読出部１３は、撮像制御部１４からの指示に基づいて、各撮像画素Ｐから供給された画素信号に基づいてＡＤ変換を行うことにより、画像信号ＤＴを生成するものである。画像信号ＤＴは、３つの画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲを含んでいる。画像マップデータＭＰＧは、緑色（Ｇ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＢは、青色（Ｂ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＲは、赤色（Ｒ）に係る１フレーム画像分の画素値を含む。各画素値は、複数ビットのデジタルコードで表されるものである。

【0025】

撮像制御部１４は、走査部１２および読出部１３に制御信号を供給し、これらの回路の動作を制御することにより、撮像部１０の動作を制御するものである。また、撮像制御部１４は、読出部１３がＡＤ変換を行う際の変換ゲインＧＣを設定する機能をも有している。具体的には、撮像制御部１４は、撮像部１０が暗い被写体を撮像する場合には、ＡＤ変換を行う際の変換ゲインＧＣを高くし、撮像部１０が明るい被写体を撮像する場合には、ＡＤ変換を行う際の変換ゲインＧＣを低くする。これにより、撮像装置１は、様々な明るさの被写体を撮像することができる。また、撮像制御部１４は、この変換ゲインＧＣについての情報を、ゲイン信号ＳＧＡＩＮとして出力する機能をも有している。

【0026】

画像処理部２０（図１）は、画像信号ＤＴおよびゲイン信号ＳＧＡＩＮに基づいて画像処理を行うものである。画像処理部２０は、切替部２１と、画像分割処理部２２と、補間処理部２３と、合成処理部２４と、信号処理部２５とを有している。

【0027】

切替部２１は、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣに基づいて、画像信号ＤＴを、画像分割処理部２２または信号処理部２５に選択的に供給するものである。具体的には、切替部２１は、例えば、変換ゲインＧＣが所定のしきい値Ｇｔｈよりも高い場合には、画像信号ＤＴを画像分割処理部２２に供給し、変換ゲインＧＣが所定のしきい値Ｇｔｈよりも低い場合には、画像信号ＤＴを信号処理部２５に供給する。これにより、画像処理部２０では、変換ゲインＧＣが所定のしきい値Ｇｔｈよりも高い場合には、画像分割処理部２２、補間処理部２３、および合成処理部２４が処理を行い、変換ゲインＧＣが所定のしきい値Ｇｔｈよりも低い場合には、画像分割処理部２２、補間処理部２３、および合成処理部２４が処理を行わないようにすることができる。

【0028】

画像分割処理部２２は、撮像部１０から切替部２１を介して供給された画像信号ＤＴに含まれる３つの画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、画像分割処理Ａ１を行うことにより、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２を生成するものである。具体的には、画像分割処理部２２は、後述するように、画像信号ＤＴに含まれる、緑色（Ｇ）に係る画像マップデータＭＰＧに基づいて、画素値の配置パターンＰＡＴが互いに異なり、互いに異なる位置に画素値が配置された２つのマップデータＭＧ１１，ＭＧ１２を生成する。同様に、画像分割処理部２２は、画像信号ＤＴに含まれる、青色（Ｂ）に係る画像マップデータＭＰＢに基づいて、２つのマップデータＭＢ１１，ＭＢ１２を生成し、画像信号ＤＴに含まれる、赤色（Ｒ）に係る画像マップデータＭＰＲに基づいて、２つのマップデータＭＲ１１，ＭＲ１２を生成する。このようにして、画像分割処理部２２は、画像信号ＤＴに基づいて、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２を生成するようになっている。

【0029】

補間処理部２３は、画像分割処理部２２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成するものである。具体的には、補間処理部２３は、後述するように、緑色（Ｇ）に係るマップデータＭＧ１１において、補間処理Ａ２を用いて、画素値が欠落した位置における画素値を求めることにより、マップデータＭＧ２１を生成するとともに、緑色（Ｇ）に係るマップデータＭＧ１２において、補間処理Ａ２を用いて、画素値が欠落した位置における画素値を求めることにより、マップデータＭＧ２２を生成する。同様に、補間処理部２３は、青色（Ｂ）に係るマップデータＭＢ１１において補間処理Ａ２を行うことによりマップデータＭＢ２１を生成するとともに、青色（Ｂ）に係るマップデータＭＢ１２において補間処理Ａ２を行うことによりマップデータＭＢ２２を生成する。また、補間処理部２３は、赤色（Ｒ）に係るマップデータＭＲ１１において補間処理Ａ２を行うことによりマップデータＭＲ２１を生成するとともに、赤色（Ｒ）に係るマップデータＭＲ１２において補間処理Ａ２を行うことによりマップデータＭＲ２２を生成するようになっている。

【0030】

合成処理部２４は、補間処理部２３から供給された６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２に基づいて合成処理Ａ３を行うことにより、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成するものである。具体的には、合成処理部２４は、後述するように、緑色（Ｇ）に係る２つのマップデータＭＧ２１，ＭＧ２２に基づいてマップデータＭＧ３を生成する。同様に、合成処理部２４は、青色（Ｂ）に係る２つのマップデータＭＢ２１，ＭＢ２２に基づいてマップデータＭＢ３を生成し、赤色（Ｒ）に係る２つのマップデータＭＲ２１，ＭＲ２２における互いに対応する位置の画素値に基づいて、その位置での画素値を生成することによりマップデータＭＲ３を生成する。そして、合成処理部２４は、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を、画像信号ＤＴ２として信号処理部２５に供給するようになっている。

【0031】

信号処理部２５は、合成処理部２４から供給された画像信号ＤＴ２、または撮像部１０から切替部２１を介して供給された画像信号ＤＴに基づいて、所定の信号処理を行うものである。所定の信号処理は、例えば、ホワイトバランス調整、非線形変換、輪郭強調処理、画像サイズ変換などを含む。そして、信号処理部２５は、これらの所定の信号処理の処理結果を、画像信号ＤＴ３として出力するようになっている。

【0032】

この構成により、撮像装置１では、暗い被写体を撮像する場合には、変換ゲインＧＣが高くなるため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行う。これにより、撮像装置１では、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができる。また、撮像装置１では、撮像装置１が明るい被写体を撮像する場合には、変換ゲインＧＣが低くなるため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにする。これにより、撮像装置１では、撮像画像における解像度を高めることができるようになっている。

【0033】

ここで、画像処理部２０は、本開示における「画像処理装置」の一具体例に対応する。画像分割処理部２２は、本開示における「画像分割処理部」の一具体例に対応する。補間処理部２３は、本開示における「補間処理部」の一具体例に対応する。合成処理部２４は、本開示における「合成処理部」の一具体例に対応する。信号処理部２５は、本開示における「処理部」の一具体例に対応する。切替部２１は、本開示における「処理制御部」の一具体例に対応する。

【0034】

［動作および作用］
続いて、本実施の形態の撮像装置１の動作および作用について説明する。

【0035】

（全体動作概要）
まず、図１を参照して、撮像装置１の全体動作概要を説明する。撮像部１０は、被写体を撮像することにより画像信号ＤＴおよびゲイン信号ＳＧＡＩＮを生成する。画像処理部２０の切替部２１は、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣに基づいて、画像信号ＤＴを、画像分割処理部２２または信号処理部２５に選択的に供給する。画像分割処理部２２は、撮像部１０から切替部２１を介して供給された画像信号ＤＴに含まれる３つの画像マップデータＭＰＧ、ＭＰＢ，ＭＰＲに基づいて、画像分割処理Ａ１を行うことにより、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２を生成する。補間処理部２３は、画像分割処理部２２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する。合成処理部２４は、補間処理部２３から供給された６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２に基づいて合成処理Ａ３を行うことにより、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成する。そして、合成処理部２４は、これらの３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を、画像信号ＤＴ２として信号処理部２５に供給する。信号処理部２５は、合成処理部２４から供給された画像信号ＤＴ２、または撮像部１０から切替部２１を介して供給された画像信号ＤＴに基づいて、所定の信号処理を行うことにより画像信号ＤＴ３を生成する。

【0036】

（詳細動作）
図５は、画像処理部２０の一動作例を表すものである。画像処理部２０は、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣに基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うかどうかを決定する。以下に、この動作について詳細に説明する。

【0037】

まず、切替部２１は、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣと、所定のしきい値Ｇｔｈとを比較する（ステップＳ１０１）。変換ゲインＧＣが所定のしきい値Ｇｔｈより低い場合（ステップＳ１０１において“Ｎ”）には、ステップＳ１０５に進む。

【0038】

変換ゲインＧＣが所定のしきい値Ｇｔｈ以上（Ｇ≧Ｇｔｈ）である場合（ステップＳ１０１において“Ｙ”）には、画像分割処理部２２は画像分割処理Ａ１を行い（ステップＳ１０２）、補間処理部２３は補間処理Ａ２を行い（ステップＳ１０３）、合成処理部２４は合成処理Ａ３を行う（ステップＳ１０４）。

【0039】

そして、信号処理部２５は、所定の信号処理を行う（ステップＳ１０５）。すなわち、信号処理部２５は、変換ゲインＧＣが所定のしきい値Ｇｔｈ以上である場合（ステップＳ１０１において“Ｙ”）には、合成処理Ａ３により生成された画像信号ＤＴ２に基づいて所定の信号処理を行い、変換ゲインＧＣが所定のしきい値Ｇｔｈより低い場合（ステップＳ１０１において“Ｎ”）には、撮像部１０により生成された画像信号ＤＴに基づいて所定の信号処理を行う。

【0040】

以上で、このフローは終了する。

【0041】

このように、画像処理部２０では、変換ゲインＧＣが高い場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行う。また、撮像装置１では、変換ゲインＧＣが低い場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにする。これにより、撮像装置１では、以下に説明するように、撮像画像の画質を高めることができる。

【0042】

次に、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３について、具体的な動作例を挙げて詳細に説明する。

【0043】

図６は、画像処理部２０における、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0044】

（画像分割処理Ａ１）
画像分割処理部２２は、撮像部１０から供給された画像信号ＤＴに含まれる３つの画像マップデータＭＰＧ、ＭＰＢ，ＭＰＲに基づいて画像分割処理Ａ１を行うことにより、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２を生成する。以下に、緑色（Ｇ）に係る画像マップデータＭＰＧに対する画像分割処理Ａ１を例に挙げて、詳細に説明する。

【0045】

図７は、緑色（Ｇ）に係る画像マップデータＭＰＧを模式的に表すものである。図８Ａ，８Ｂは、緑色（Ｇ）に係るマップデータＭＧ１１，ＭＧ１２をそれぞれ模式的に表すものである。図８Ａ，８Ｂにおいて、網掛けされた部分は、画素値が存在する位置を示し、網掛けされていない部分は、画素値が存在しない（欠落した）位置を示す。

【0046】

画像信号ＤＴに含まれる画像マップデータＭＰＧ（図７）は、緑色（Ｇ）に係る１フレーム画像分の画素値を含んでいる。図６に示した画像マップデータＭＰＧの一例は、図７に示した領域Ｘにおける２行２列に配置された４つの画素値を模式的に示している。

【0047】

画像分割処理部２２は、このような画像マップデータＭＰＧに基づいて、画素値の配置パターンＰＡＴが互いに異なり、互いに異なる位置に画素値が配置された２つのマップデータＭＧ１１，ＭＧ１２（図８Ａ，８Ｂ）を生成する。マップデータＭＧ１１，ＭＧ１２における画素値の配置パターンＰＡＴは、互いに水平方向（横方向）および垂直方向（縦方向）に１画素分ずれた市松模様パターン（Checkered Pattern）である。言い換えれば、マップデータＭＧ１１，ＭＧ１２における市松模様パターンは、画素値が存在する位置と、画素値が存在しない位置とが、互いに反転したものであり、互いに異なる位置に画素値が配置されている。具体的には、例えば、マップデータＭＧ１１では、図８Ａに示したように、領域Ｘにおいて、左上および右下において画素値が存在するとともに、左下および右上において画素値が欠落している。一方、マップデータＭＧ１２では、図８Ｂに示したように、領域Ｘにおいて、左下および右上において画素値が存在するとともに、左上および右下において画素値が欠落している。図６に示したマップデータＭＧ１１，ＭＧ１２の一例は、この領域Ｘにおける４つの画素値を模式的に示している。マップデータＭＧ１１における、各位置での画素値は、画像マップデータＭＰＧにおける対応する位置での画素値と同じである。同様に、マップデータＭＧ１２における、各位置での画素値は、画像マップデータＭＰＧにおける対応する位置での画素値と同じである。

【0048】

画像分割処理部２２は、画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことにより、このようなマップデータＭＧ１１，ＭＧ１２を生成する。同様に、画像分割処理部２２は、画像マップデータＭＰＢに基づいて画像分割処理Ａ１を行うことによりマップデータＭＢ１１，ＭＢ１２を生成し、画像マップデータＭＰＲに基づいて画像分割処理Ａ１を行うことによりマップデータＭＲ１１，ＭＲ１２を生成する。図６に示したように、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１は、互いに同じ配置パターンＰＡＴを有し、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２は、互いに同じ配置パターンＰＡＴを有する。

【0049】

（補間処理Ａ２）
次に、補間処理部２３は、画像分割処理Ａ１により生成された６つのマップデータＭＧ１１，ＭＲ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する。以下に、緑色（Ｇ）に係るマップデータＭＧ１１，ＭＧ１２（図８Ａ，８Ｂ）に対する補間処理Ａ２を例に挙げて、詳細に説明する。

【0050】

図９Ａ，９Ｂは、緑色（Ｇ）に係るマップデータＭＧ２１，ＭＧ２２をそれぞれ模式的に表すものである。図９Ａ，９Ｂにおいて、網掛けされた部分は、補間処理Ａ２の処理前のマップデータＭＧ１１，ＭＧ１２において画素値が存在する位置を示し、網掛けされていない部分は、補間処理Ａ２の処理前のマップデータＭＧ１１，ＭＧ１２において画素値が存在しない位置であり、この補間処理Ａ２により画素値が生成された位置を示す。

【0051】

補間処理部２３は、図８Ａに示したマップデータＭＧ１１において、補間処理Ａ２を用いて、画素値が欠落した位置における画素値を求めることにより、図９Ａに示したマップデータＭＧ２１を生成するとともに、図８Ｂに示したマップデータＭＧ１２において、補間処理Ａ２を用いて、画素値が欠落した位置における画素値を求めることにより、図９Ｂに示したマップデータＭＧ２２を生成する。具体的には、補間処理部２３は、画素値が欠落した位置の１つ上に配置された画素値、１つ左に配置された画素値、１つ下に配置された画素値、および１つ右に配置された画素値に基づいて、補間処理Ａ２を行うことにより、画素値が欠落した位置における画素値を求める。すなわち、補間処理Ａ２の補間方法は、この例では、画素値が欠落した位置の上下左右における画素値を用いるものである。補間処理部２３は、これらの４つの画素値を用いて、例えばバイリニア補間を行うことにより、補間処理Ａ２を行うことができる。なお、これに限定されるものではなく、バイキュービック補間、スプライン補間など、公知の様々な補間方法を用いることができる。例えば、マップデータＭＧ２１では、図９Ａに示したように、補間処理部２３は、領域Ｘにおける左下の位置において、補間処理Ａ２により画素値を生成するとともに、領域Ｘにおける右上の位置において、補間処理Ａ２により画素値を生成する。同様に、マップデータＭＧ２２では、図９Ｂに示したように、補間処理部２３は、領域Ｘにおける左上の位置において、補間処理Ａ２により画素値を生成するとともに、領域Ｘにおける右下の位置において、補間処理Ａ２により画素値を生成する。この図９Ａ，９Ｂにおいて、“Ｇ´”は、補間処理Ａ２により画素値が生成されたことを示す。図６に示したマップデータＭＧ２１，ＭＧ２２の一例は、この領域Ｘにおける４つの画素値を模式的に示している。

【0052】

補間処理部２３は、マップデータＭＧ１１に対して補間処理Ａ２を行うことによりこのようなマップデータＭＧ２１を生成するとともに、マップデータＭＧ１２に対して補間処理Ａ２を行うことによりこのようなマップデータＭＧ２２を生成する。同様に、補間処理部２３は、マップデータＭＢ１１に対して補間処理Ａ２を行うことによりマップデータＭＢ２１を生成するとともに、マップデータＭＢ１２に対して補間処理Ａ２を行うことによりマップデータＭＢ２２を生成する。また、補間処理部２３は、マップデータＭＲ１１に対して補間処理Ａ２を行うことによりマップデータＭＲ２１を生成するとともに、マップデータＭＲ１２に対して補間処理Ａ２を行うことによりマップデータＭＲ２２を生成する。６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法は、互いに同じである。

【0053】

（合成処理Ａ３）
次に、合成処理部２４は、補間処理Ａ２により生成された６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２に基づいて合成処理Ａ３を行うことにより、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成する。以下に、緑色（Ｇ）に係るマップデータＭＧ２１，ＭＧ２２（図９Ａ，図９Ｂ）に対する合成処理Ａ３を例に挙げて、詳細に説明する。

【0054】

図１０は、緑色（Ｇ）に係るマップデータＭＧ３を模式的に表すものである。合成処理部２４は、２つのマップデータＭＧ２１，ＭＧ２２における互いに対応する位置の画素値に基づいて、その位置での画素値を生成することによりマップデータＭＧ３を生成する。具体的には、合成処理部２４は、２つのマップデータＭＧ２１，ＭＧ２２における互いに対応する位置の画素値を足し合わせることにより、マップデータＭＧ３におけるその位置での画素値を生成することができる。例えば、合成処理部２４は、図９Ａに示したマップデータＭＧ２１の領域Ｘにおける左上の画素値と、図９Ｂに示したマップデータＭＧ２２の領域Ｘにおける左上の画素値とを足し合わせることにより、図１０に示したマップデータＭＧ３の領域Ｘにおける左上の画素値を生成する。同様に、合成処理部２４は、マップデータＭＧ２１，ＭＧ２２の領域Ｘにおける左下の画素値を足し合わせることにより、マップデータＭＧ３の領域Ｘにおける左下の画素値を生成し、マップデータＭＧ２１，ＭＧ２２の領域Ｘにおける右上の画素値を足し合わせることにより、マップデータＭＧ３の領域Ｘにおける右上の画素値を生成し、マップデータＭＧ２１，ＭＧ２２の領域Ｘにおける右下の画素値を足し合わせることにより、マップデータＭＧ３の領域Ｘにおける右下の画素値を生成する。この図１０において、“２Ｇ”は、合成処理Ａ３により、画素値が、画像マップデータＭＰＧにおける画素値の約２倍になったことを示す。図６に示したマップデータＭＧ３の一例は、この領域Ｘにおける画素値を模式的に示している。

【0055】

合成処理部２４は、マップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことによりこのようなマップデータＭＧ３を生成する。同様に、合成処理部２４は、マップデータＭＢ２１，ＭＢ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＢ３を生成し、マップデータＭＲ２１，ＭＲ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＲ３を生成する。マップデータＭＢ３における画素値は、画像マップデータＭＰＢにおける画素値の約２倍であり、マップデータＭＲ３における画素値は、画像マップデータＭＰＲにおける画素値の約２倍である。

【0056】

このようにして、合成処理部２４は、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成する。そして、合成処理部２４は、これらの３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を、画像信号ＤＴ２として信号処理部２５に供給する。

【0057】

ここで、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲは、本開示における「第１の画像マップデータ」、「第２の画像マップデータ」、および「第３の画像マップデータ」の一具体例にそれぞれ対応する。マップデータＭＧ１１，ＭＧ１２は、本開示における「複数の第１のマップデータ」の一具体例に対応する。マップデータＭＧ２１，ＭＧ２２は、本開示における「複数の第２のマップデータ」の一具体例に対応する。マップデータＭＧ３は、本開示における「第３のマップデータ」の一具体例に対応する。マップデータＭＢ１１，ＭＢ１２は、本開示における「複数の第４のマップデータ」の一具体例に対応する。マップデータＭＢ２１，ＭＢ２２は、本開示における「複数の第５のマップデータ」の一具体例に対応する。マップデータＭＢ３は、本開示における「第６のマップデータ」の一具体例に対応する。マップデータＭＲ１１，ＭＲ１２は、本開示における「複数の第７のマップデータ」の一具体例に対応する。マップデータＭＲ２１，ＭＲ２２は、本開示における「複数の第８のマップデータ」の一具体例に対応する。マップデータＭＲ３は、本開示における「第９のマップデータ」の一具体例に対応する。

【0058】

以上のように、撮像装置１では、例えば、画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことによりマップデータＭＧ１１，ＭＧ１２を生成し、これらのマップデータＭＧ１１，ＭＧ１２にそれぞれに対して補間処理Ａ２を行うことによりマップデータＭＧ２１，ＭＧ２２を生成し、これらのマップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＧ３を生成するようにした。画像マップデータＭＰＢ，ＭＰＲについても同様である。これにより、撮像装置１では、マップデータＭＧ３，ＭＢ３，ＭＲ３における信号雑音比（Ｓ／Ｎ比）を高めることができる。

【0059】

すなわち、合成処理部２４は、例えば、マップデータＭＧ２１の領域Ｘにおける左上の画素値と、マップデータＭＧ２２の領域Ｘにおける左上の画素値とを足し合わせることにより、マップデータＭＧ３の領域Ｘにおける左上の画素値を求める。各画素値は、信号成分と、ランダムノイズであるノイズ成分とを有している。よって、合成処理部２４が、マップデータＭＧ２１の領域Ｘにおける左上の画素値と、マップデータＭＧ２２の領域Ｘにおける左上の画素値とを足し合わせることにより、信号成分が約２倍になり、ノイズ成分は約１．４倍になる。つまり、ノイズ成分は、上述したようにランダムノイズであり、マップデータＭＧ２１の領域Ｘにおける左上の画素値に含まれるノイズ成分と、マップデータＭＧ２２の領域Ｘにおける左上の画素値に含まれるノイズ成分とは、互いに独立したノイズ成分であるので、約２倍にはならずに、約１．４倍（２の平方根）になる。このように、撮像装置１では、信号成分を約２倍にするとともに、ノイズ成分を約１．４倍にするため、マップデータＭＧ３における信号雑音比（Ｓ／Ｎ比）を高めることができる。マップデータＭＢ３，ＭＲ３についても同様である。その結果、撮像装置１では、撮像画像の画質を高めることができる。

【0060】

また、撮像装置１では、画像分割処理Ａ１において、画素値の配置パターンＰＡＴを市松模様パターンにした。これにより、図８Ａ，８Ｂに示したように、画素値が欠落した位置の上下左右には画素値がそれぞれ存在するので、補間処理Ａ２を行うことにより、これらの４つの画素値に基づいて、画素値が欠落した位置における画素値を求めることができる。このように、撮像装置１では、上下左右の画素値に基づいて補間処理Ａ２を行うことができるので、水平方向の解像度の低下と垂直方向の解像度の低下とを互いに同程度にすることができ、解像度の低下を抑えることができる。その結果、撮像装置１では、撮像画像の画質を高めることができる。

【0061】

また、撮像装置１では、画像分割処理Ａ１において、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１における画素値の配置パターンＰＡＴを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２における画素値の配置パターンＰＡＴを互いに同じにした。これにより、画像分割処理部２２は、３つの画像マップデータＭＰＧ、ＭＰＢ，ＭＰＲに基づいて、同じ方法で画像分割処理Ａ１を行うことができるため、３つの画像マップデータＭＰＧ、ＭＰＢ，ＭＰＲに基づいてそれぞれ異なる方法で画像分割処理Ａ１を行う場合に比べて、画像分割処理部２２の回路構成をシンプルにすることができる。

【0062】

また、撮像装置１では、補間処理Ａ２において、マップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにした。これにより、補間処理部２３は、互いに同じ補間方法を用いて６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成することができるため、互いに異なる補間方法を用いて６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する場合に比べて、補間処理部２３の回路構成をシンプルにすることができる。

【0063】

また、撮像装置１では、画像分割処理Ａ１において、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１における画素値の配置パターンＰＡＴを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２における画素値の配置パターンＰＡＴを互いに同じにした。そして、補間処理Ａ２において、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにした。これにより、撮像装置１では、撮像画像における偽色を抑えることができる。すなわち、例えば、補間処理Ａ２において、緑色（Ｇ）に係るマップデータＭＧ２１，ＭＧ２２を生成する際に、画素値が欠落した位置の１つ上および１つ下に配置された画素値に基づいて補間処理Ａ２を行い、青色（Ｂ）に係るマップデータＭＢ２１，ＭＢ２２を生成する際に、画素値が欠落した位置の１つ左および１つ右に配置された画素値に基づいて補間処理Ａ２を行う場合には、色により補間方法が異なるため、局所的に偽色が生じるおそれがある。一方、本実施の形態に係る撮像装置１では、画像分割処理Ａ１において、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１における画素値の配置パターンＰＡＴを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２における画素値の配置パターンＰＡＴを互いに同じにした。そして、補間処理Ａ２において、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにした。これにより、撮像装置１では、このような偽色が生じるおそれを低減することができる。その結果、撮像装置１では、撮像画像の画質を高めることができる。

【0064】

また、撮像装置１では、画像分割処理、補間処理、および合成処理を行うかどうかを制御できるようにしたので、撮像画像の画質を高めることができる。特に、撮像装置１では、撮像部１０における変換ゲインＧＣに基づいて、画像分割処理、補間処理、および合成処理を行うかどうかを制御するようにした。具体的には、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣが所定のしきい値Ｇｔｈよりも高い場合には、画像分割処理、補間処理、および合成処理を行い、変換ゲインＧＣが所定のしきい値Ｇｔｈよりも低い場合には、画像分割処理、補間処理、および合成処理を行わないようにした。これにより、例えば、撮像装置１が暗い被写体を撮像する場合には、変換ゲインＧＣが高くなるため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行う。これにより、撮像装置１では、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができる。すなわち、暗い被写体を撮像する場合には、ノイズが多くなるおそれがあるため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うことにより、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができる。また、撮像装置１が明るい被写体を撮像する場合には、変換ゲインＧＣが低くなるため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにする。これにより、撮像装置１では、撮像画像における解像度を高めることができる。すなわち、明るい被写体を撮像する場合には、ノイズが少ないため、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにすることにより、解像度を高めることができる。その結果、撮像装置１では、撮像画像の画質を高めることができる。

【0065】

［効果］
以上のように本実施の形態では、画像分割処理、補間処理、および合成処理を行うようにしたので、撮像画像における信号雑音比を高めることができるので、撮像画像の画質を高めることができる。

【0066】

本実施の形態では、画像分割処理において、画素値の配置パターンを市松模様パターンにしたので、水平方向の解像度の低下と垂直方向の解像度の低下とを互いに同程度にすることができ、解像度の低下を抑えることができるため、撮像画像の画質を高めることができる。

【0067】

本実施の形態では、画像分割処理において、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１における画素値の配置パターンを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２における画素値の配置パターンを互いに同じにしたので、画像分割処理部の回路構成をシンプルにすることができる。

【0068】

本実施の形態では、補間処理において、６つのマップデータを生成する際の補間方法を互いに同じにしたので、補間処理部の回路構成をシンプルにすることができる。

【0069】

本実施の形態では、画像分割処理において、マップデータＭＧ１１，ＭＢ１１，ＭＲ１１における画素値の配置パターンを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２，ＭＲ１２における画素値の配置パターンを互いに同じにした。そして、補間処理において、６つのマップデータを生成する際の補間方法を互いに同じにした。これにより、偽色が生じるおそれを低減することができるので、撮像画像の画質を高めることができる。

【0070】

本実施の形態では、画像分割処理、補間処理、および合成処理を行うかどうかを制御できるようにしたので、撮像画像の画質を高めることができる。

【0071】

［変形例１－１］
上記実施の形態では、合成処理部２４は、例えば、２つのマップデータＭＧ２１，ＭＧ２２における互いに対応する位置の画素値を足し合わせることにより、マップデータＭＧ３におけるその位置での画素値を生成したが、これに限定されるものではない。これに代えて、例えば図１１に示す撮像装置１Ａのように、２つのマップデータＭＧ２１，ＭＧ２２における互いに対応する位置の画素値を足し合わせ、足し合わされた画素値を半分にすることにより、マップデータＭＧ３におけるその位置での画素値を生成してもよい。これにより、マップデータＭＧ３における画素値を、画像マップデータＭＰＧにおける画素値と同程度にすることができる。マップデータＭＢ３，ＭＲ３についても同様である。これにより、信号雑音比を維持したまま、マップデータＭＧ３，ＭＢ３，ＭＲ３における画素値を示すデジタルコードのビット数を抑えることができる。その結果、信号処理部２５におけるダイナミックレンジの設計を容易にすることができる。

【0072】

［変形例１－２］
上記の実施の形態では、画像分割処理Ａ１における画素値の配置パターンＰＡＴを、１つの画素値を単位とした市松模様パターンにしたが、これに限定されるものではない。以下に、本変形例について、いくつか例を挙げて詳細に記載する。なお、以下では、緑色（Ｇ）に係るマップデータを例に説明するが、青色（Ｂ）に係るマップデータ、および赤色（Ｒ）に係るマップデータについても同様である。

【0073】

（他の市松模様パターン）
図１２Ａ，１２Ｂは、画素値の配置パターンＰＡＴを、２行２列に配置された４つの画素値を単位とした市松模様パターンにした場合における、マップデータＭＧ１１，ＭＧ１２の一例を表すものである。この図１２Ａ，１２Ｂに示した配置パターンＰＡＴにおける水平方向（横方向）のピッチは、図８Ａ，８Ｂに示した配置パターンＰＡＴにおける垂直方向のピッチの２倍である。同様に、図１２Ａ，１２Ｂに示した配置パターンＰＡＴにおける垂直方向（縦方向）のピッチは、図８Ａ，８Ｂに示した配置パターンＰＡＴにおける垂直方向のピッチの２倍である。マップデータＭＧ１１，ＭＧ１２における画素値の配置パターンＰＡＴは、互いに水平方向（横方向）および垂直方向（縦方向）に２画素分ずれている。

【0074】

図１３Ａ，１３Ｂは、図１２Ａ，１２Ｂに示したマップデータＭＧ１１，ＭＧ１２に基づいて補間処理Ａ２を行うことにより生成されたマップデータＭＧ２１，ＭＧ２２の一例を表すものである。補間処理部２３は、例えば、画素値が欠落した位置の２つ上に配置された画素値、２つ左に配置された画素値、２つ下に配置された画素値、および２つ右に配置された画素値に基づいて、補間処理Ａ２を行うことにより、画素値が欠落した位置における画素値を求めることができる。

【0075】

（縞模様パターン）
図１４Ａ，１４Ｂは、画素値の配置パターンＰＡＴを、画素値が存在する位置と画素値が欠落した位置が水平方向（横方向）に交互に並ぶ縞模様パターンにした場合における、マップデータＭＧ１１，ＭＧ１２の一例を表すものである。マップデータＭＧ１１，ＭＧ１２における画素値の配置パターンＰＡＴは、互いに水平方向に１画素分ずれている。

【0076】

図１５Ａ，１５Ｂは、図１４Ａ，１４Ｂに示したマップデータＭＧ１１，ＭＧ１２に基づいて補間処理Ａ２を行うことにより生成されたマップデータＭＧ２１，ＭＧ２２の一例を表すものである。補間処理部２３は、画素値が欠落した位置の１つ左に配置された画素値、および１つ右に配置された画素値に基づいて、補間処理Ａ２を行うことにより、画素値が欠落した位置における画素値を求めることができる。

【0077】

図１６Ａ，１６Ｂは、画素値の配置パターンＰＡＴを、画素値が存在する位置と画素値が欠落した位置が垂直方向（縦方向）に交互に並ぶ縞模様パターンにした場合における、マップデータＭＧ１１，ＭＧ１２の一例を表すものである。マップデータＭＧ１１，ＭＧ１２における画素値の配置パターンＰＡＴは、互いに垂直方向に１画素分ずれている。

【0078】

図１７Ａ，１７Ｂは、図１６Ａ，１６Ｂに示したマップデータＭＧ１１，ＭＧ１２に基づいて補間処理Ａ２を行うことにより生成されたマップデータＭＧ２１，ＭＧ２２の一例を表すものである。補間処理部２３は、画素値が欠落した位置の１つ上に配置された画素値、および１つ下に配置された画素値に基づいて、補間処理Ａ２を行うことにより、画素値が欠落した位置における画素値を求めることができる。

【0079】

（その他のパターン）
以上の例では、画像分割処理部２２は、例えば、１つの画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことにより２つのマップデータＭＧ１１，ＭＧ１２を生成し、補間処理部２３は、この２つのマップデータＭＧ１１，ＭＧ１２に対して補間処理Ａ２を行うことにより２つのマップデータＭＧ２１，ＭＧ２２を生成し、合成処理部２４は、この２つのマップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＧ３を生成したが、これに限定されるものではない。これに代えて、例えば、画像分割処理部２２は、例えば１つの画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことにより３つのマップデータＭＧ１１，ＭＧ１２，ＭＧ１３を生成し、補間処理部２３は、この３つのマップデータＭＧ１１，ＭＧ１２，ＭＧ１３に対して補間処理Ａ２を行うことにより３つのマップデータＭＧ２１，ＭＧ２２，ＭＧ２３を生成し、合成処理部２４は、この３つのマップデータＭＧ２１，ＭＧ２２，ＭＧ２３に基づいて合成処理Ａ３を行うことによりマップデータＭＧ３を生成してもよい。

【0080】

図１８Ａ，１８Ｂ，１８Ｃは、画素値の配置パターンＰＡＴを、いわゆるベイヤー（Bayer）配列のようなパターンにした場合における、マップデータＭＧ１１，ＭＧ１２，ＭＧ１３の一例を表すものである。具体的には、例えば、マップデータＭＧ１１では、図１８Ａに示したように、領域Ｘにおいて、左上において画素値が存在するとともに、左下、右上、および右下において画素値が欠落している。マップデータＭＧ１２では、図１８Ｂに示したように、領域Ｘにおいて、左下および右上において画素値が存在するとともに、左上および右下において画素値が欠落している。また、マップデータＭＧ１３では、図１８Ｃに示したように、領域Ｘにおいて、右下において画素値が存在するとともに、左上、左下、および右上において画素値が欠落している。マップデータＭＧ１１における各位置での画素値は、画像マップデータＭＰＧにおける対応する位置での画素値と同じであり、マップデータＭＧ１２における各位置での画素値は、画像マップデータＭＰＧにおける対応する位置での画素値と同じであり、マップデータＭＧ１３における各位置での画素値は、画像マップデータＭＰＧにおける対応する位置での画素値と同じである。

【0081】

図１９Ａ，１９Ｂ，１９Ｃは、図１８Ａ，１８Ｂ，１８Ｃに示したマップデータＭＧ１１，ＭＧ１２，ＭＧ１３に基づいて補間処理Ａ２を行うことにより生成されたマップデータＭＧ２１，ＭＧ２２，ＭＧ２３の一例を表すものである。補間処理部２３は、マップデータＭＧ１１，ＭＧ１３（図１８Ａ，１８Ｃ）に対して、画素値が欠落した位置の上下に画素値が配置されている場合には、これらの２つの画素値に基づいて補間処理Ａ２を行い、画素値が欠落した位置の左右に画素値が配置されている場合には、これらの２つの画素値に基づいて補間処理Ａ２を行い、画素値が欠落した位置の左上、左下、右上、および右下に画素値が配置されている場合には、これらの４つの画素値に基づいて補間処理Ａ２を行うことにより、マップデータＭＧ２１，ＭＧ２３を生成する。また、補間処理部２３は、マップデータＭＧ１２（図１８Ｂ）に対して、画素値が欠落した位置の上下左右に配置された４つの画素値に基づいて補間処理Ａ２を行うことにより、マップデータＭＧ２２を生成する。

【0082】

図２０は、図１９Ａ，１９Ｂ，１９Ｃに示したマップデータＭＧ２１，ＭＧ２２，ＭＧ２３に基づいて合成処理Ａ３を行うことにより生成されたマップデータＭＧ３の一例を表すものである。合成処理部２４は、３つのマップデータＭＧ２１，ＭＧ２２，ＭＧ２３における互いに対応する位置の画素値を足し合わせることにより、マップデータＭＧ３におけるその位置での画素値を生成する。図２０において、“３Ｇ”は、合成処理Ａ３により、画素値が、画像マップデータＭＰＧにおける画素値の約３倍になったことを示す。

【0083】

［変形例１－３］
上記の実施の形態では、補間処理部２３が補間処理Ａ２を行うようにしたが、この補間処理Ａ２における補間方法を変更可能にしてもよい。以下に、本変形例について詳細に説明する。

【0084】

図２１は、本変形例に係る撮像装置２の一構成例を表すものである。撮像装置２は、画像処理部３０を備えている。画像処理部３０は、補間制御部３６と、補間処理部３３とを有している。

【0085】

補間制御部３６は、画像信号ＤＴに含まれる画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、補間制御処理Ｂ１を行うことにより、補間処理部３３における補間処理Ａ２の補間方法を決定するものである。補間制御部３６は、本開示における「補間制御部」の一具体例に対応する。

【0086】

補間処理部３３は、画像分割処理部２２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して、補間制御部３６から指示された補間方法を用いて補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成するものである。

【0087】

図２２は、画像処理部３０における、画像分割処理Ａ１、補間制御処理Ｂ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0088】

補間制御部３６は、まず、画像信号ＤＴに含まれる画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて合成処理Ｂ２を行うことにより、マップデータＭＷを生成する。この合成処理Ｂ２では、補間制御部３６は、３つの画像マップデータＭＰＲ，ＭＰＢ，ＭＰＲにおける互いに対応する位置の画素値を足し合わせることにより、マップデータＭＷにおけるその位置での画素値を生成することができる。

【0089】

次に、補間制御部３６は、このマップデータＭＷに基づいて、空間周波数検出処理Ｂ３を行うことにより、空間周波数を検出する。この空間周波数検出処理Ｂ３では、補間制御部３６は、１フレーム画像を複数の画像領域に区分し、各画像領域において、マップデータＭＷに基づいて空間周波数を求める。

【0090】

次に、補間制御部３６は、空間周波数検出処理Ｂ３により求めた空間周波数に基づいて、補間方法決定処理Ｂ４を行うことにより、補間処理Ａ２の補間方法を決定する。

【0091】

図２３Ａ，２３Ｂ，２３Ｃは、補間処理Ａ２の補間方法の例を表すものである。これらの図では、補間処理Ａ２を行うことにより生成されたマップデータＭＧ２１を示している。図２３Ａに示した補間方法では、画素値が欠落した位置の１つ上に配置された画素値、および１つ下に配置された画素値に基づいて、画素値が欠落した位置における画素値を求める。すなわち、図２３Ａの例では、補間処理を行う方向（補間方向）は、垂直方向（縦方向）である。図２３Ｂに示した補間方法では、画素値が欠落した位置の１つ左に配置された画素値、および１つ右に配置された画素値に基づいて、画素値が欠落した位置における画素値を求める。すなわち、図２３Ｂの例では、補間処理を行う方向（補間方向）は、水平方向（横方向）である。また、図２３Ｃに示した補間方法では、画素値が欠落した位置の１つ上に配置された画素値、１つ左に配置された画素値、１つ下に配置された画素値、および１つ右に配置された画素値に基づいて、画素値が欠落した位置における画素値を求める。すなわち、図２３Ｃの例では、補間処理を行う方向（補間方向）は、垂直方向および水平方向である。なお、図２３Ａ～２３Ｃでは、３つの例を挙げて説明したが、これに限定されるものではない。

【0092】

補間制御部３６は、補間方法決定処理Ｂ４において、画像領域ごとに、空間周波数に基づいて補間処理Ａ２の補間方法を決定する。具体的には、補間制御部３６は、ある画像領域における空間周波数に基づいて、その画像領域における画像が縦縞模様であると判断した場合には、補間方向が垂直方向である補間方法（図２３Ａ）を選択する。また、例えば、補間制御部３６は、ある画像領域における空間周波数に基づいて、その画像領域における画像が横縞模様であると判断した場合には、補間方向が水平方向である補間方法（図２３Ｂ）を選択する。そして、補間制御部３６は、補間処理部３３に対して、画像領域ごとに、補間方法を指示する。

【0093】

補間処理部３３は、画像分割処理部２２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して、画像領域ごとに、補間制御部３６から指示された補間方法を用いて補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する。６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法は、互いに同じである。

【0094】

以上のように、撮像装置２では、補間処理Ａ２における補間方法を変更可能に構成したので、撮像画素に応じて最適な補間方法を用いることができるので、撮像画像の画質を高めることができる。

【0095】

特に、撮像装置２では、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、合成処理Ｂ２を行うことによりマップデータＭＷを生成し、このマップデータＭＷに基づいて空間周波数を検出するようにした。これにより、撮像装置２では、空間周波数を高い精度で検出することができ、このようにして得られた空間周波数に基づいて補間処理Ａ２を行うので、補間処理Ａ２の精度を高めることができる。その結果、撮像装置２では、より高い復元効果を得ることができるので、撮像画像の画質を高めることができる。

【0096】

なお、この例では、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、合成処理Ｂ２を行うことによりマップデータＭＷを生成し、このマップデータＭＷに基づいて空間周波数を検出したが、これに限定されるものではない。これに代えて、例えば図２４に示す画像処理部３０Ａのように、緑色（Ｇ）に係る画像マップデータＭＰＧに基づいて空間周波数検出処理Ｂ３を行い、この空間周波数検出処理Ｂ３により得られた画像領域ごとの空間周波数に基づいて、画像領域ごとに、緑色（Ｇ）のマップデータＭＧ２１，ＭＧ２２を生成する補間処理Ａ２における補間方法を決定してもよい。画像マップデータＭＰＢ，ＭＰＲについても同様である。また、これに限定されるものではなく、例えば、緑色（Ｇ）に係る画像マップデータＭＰＧに基づいて空間周波数検出処理Ｂ３を行い、青色（Ｂ）に係る画像マップデータＭＰＢに基づいて空間周波数検出処理Ｂ３を行い、赤色（Ｒ）に係る画像マップデータＭＰＲに基づいて空間周波数検出処理Ｂ３を行い、これらの空間周波数検出処理Ｂ３により得られた画像領域ごとの空間周波数に基づいて、画像領域ごとに、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する補間処理Ａ２における補間方法をまとめて決定してもよい。この場合には、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにすることができる。

【0097】

［変形例１－４］
上記実施の形態では、画像処理部２０は、赤色（Ｒ）に係る画像マップデータＭＰＲ、緑色（Ｇ）に係る画像マップデータＭＰＧ、および青色（Ｂ）に係る画像マップデータＭＰＢに基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしたが、これに限定されるものではなく、これに代えて、例えば、輝度信号に基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしてもよい。以下に、本変形例について詳細に説明する。

【0098】

図２５は、本変形例に係る撮像装置１Ｄの一構成例を表すものである。この撮像装置１Ｄは、画像処理部２０Ｄを備えている。画像処理部２０Ｄは、Ｙ／Ｃ分離部２９Ｄと、画像分割処理部２２Ｄと、補間処理部２３Ｄと、合成処理部２４Ｄと、信号処理部２５Ｄとを有している。

【0099】

Ｙ／Ｃ分離部２９Ｄは、Ｙ／Ｃ分離処理Ｃ１を行うことにより、画像信号ＤＴに含まれるＲＧＢ信号を、輝度（Ｙ）信号および色（Ｃ）信号に分離し、これらの輝度信号および色信号を、画像信号ＤＴ１１として出力するものである。画像信号ＤＴ１１は、マップデータＭＹ，ＭＣｒ，ＭＣｂとを含んでいる。マップデータＭＹは、輝度（Ｙ）に係る１フレーム画像分の画素値を含み、マップデータＭＣｒは、Ｒ－Ｙ色差（Ｃｒ）に係る１フレーム画像分の画素値を含み、マップデータＭＣｂは、Ｂ－Ｙ色差（Ｃｂ）に係る１フレーム画像分の画素値を含む。各画素値は、複数ビットのデジタルコードで表されるものである。Ｙ／Ｃ分離部２９Ｄは、本開示における「生成部」の一具体例にそれぞれ対応する。

【0100】

画像分割処理部２２Ｄは、Ｙ／Ｃ分離部２９Ｄから切替部２１を介して供給された画像信号ＤＴ１１に含まれるマップデータＭＹに基づいて、画像分割処理Ａ１を行うことにより、２つのマップデータＭＹ１１，ＭＹ１２を生成するものである。また、画像分割処理部２２Ｄは、画像信号ＤＴ１１に含まれるマップデータＭＣｒ，ＭＣｂを、そのまま出力するようになっている。

【0101】

補間処理部２３Ｄは、画像分割処理部２２Ｄから供給された２つのマップデータＭＹ１１，ＭＹ１２のそれぞれに対して補間処理Ａ２を行うことにより、２つのマップデータＭＹ２１，ＭＹ２２を生成するものである。また、補間処理部２３Ｄは、画像分割処理部２２Ｄから供給されたマップデータＭＣｒ，ＭＣｂを、そのまま出力するようになっている。

【0102】

合成処理部２４Ｄは、補間処理部２３Ｄから供給された２つのマップデータＭＹ２１，ＭＹ２２に基づいて、合成処理Ａ３を行うことにより、１つのマップデータＭＹ３を生成するものである。そして、合成処理部２４Ｄは、合成処理Ａ３により生成したマップデータＭＹ３、および補間処理部２３Ｄから供給されたマップデータＭＣｒ，ＭＣｂを、画像信号ＤＴ１２として信号処理部２５Ｄに供給するようになっている。

【0103】

信号処理部２５Ｄは、合成処理部２４Ｄから供給された画像信号ＤＴ１２、またはＹ／Ｃ分離部２９Ｄから切替部２１を介して供給された画像信号ＤＴ１１に基づいて、所定の信号処理を行うものである。そして、信号処理部２５Ｄは、これらの所定の信号処理の処理結果を、画像信号ＤＴ１３として出力するようになっている。

【0104】

図２６は、画像処理部２０Ｄにおける、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0105】

Ｙ／Ｃ分離部２９Ｄは、Ｙ／Ｃ分離処理Ｃ１を行うことにより、画像信号ＤＴに含まれるＲＧＢ信号を、輝度（Ｙ）信号および色（Ｃ）信号に分離する。具体的には、Ｙ／Ｃ分離部２９Ｄは、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、マップデータＭＹ，ＭＣｂ，ＭＣｒを生成する。Ｙ／Ｃ分離部２９Ｄは、３つの画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲにおける互いに対応する位置の画素値に基づいて、例えば以下の式を用いて、輝度（Ｙ）に係る画素値を生成する。
ＶＹ＝ＶＧ×０．５９＋ＶＢ×０．１１＋ＶＲ×０．３
この式において、“ＶＹ”は輝度（Ｙ）に係る画素値であり、“ＶＧ”は緑色（Ｇ）に係る画素値であり、“ＶＢ”は青色（Ｂ）に係る画素値であり、“ＶＲ”は赤色（Ｒ）に係る画素値である。

【0106】

画像分割処理部２２Ｄは、このようにして生成されたマップデータＭＹに基づいて画像分割処理Ａ１を行うことにより、２つのマップデータＭＹ１１，ＭＹ１２を生成する。補間処理部２３Ｄは、これらの２つのマップデータＭＹ１１，ＭＹ１２のそれぞれに対して補間処理Ａ２を行うことにより、２つのマップデータＭＹ２１，ＭＹ２２を生成する。合成処理部２４Ｄは、２つのマップデータＭＹ２１，ＭＹ２２に基づいて合成処理Ａ３を行うことにより、１つのマップデータＭＹ３を生成する。具体的には、合成処理部２４Ｄは、２つのマップデータＭＹ２１，ＭＹ２２における互いに対応する位置の画素値を足し合わせ、その足し合わせされた画素値を半分にすることにより、マップデータＭＹ３におけるその位置での画素値を生成する。マップデータＭＹは、本開示における「第１の画像マップデータ」の一具体例に対応する。マップデータＭＹ１１，ＭＹ１２は、本開示における「複数の第１のマップデータ」の一具体例に対応する。マップデータＭＹ２１，ＭＹ２２は、本開示における「複数の第２のマップデータ」の一具体例に対応する。マップデータＭＹ３は、本開示における「第３のマップデータ」の一具体例に対応する。

【0107】

これにより、撮像装置１Ｄでは、輝度信号についての信号雑音比（Ｓ／Ｎ比）を高めることができるので、撮像画像の画質を高めることができる。また、この例では、輝度（Ｙ）に関するマップデータＭＹに対してのみ、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしたので、処理量を抑えることができる。その結果、撮像装置１Ｄでは、例えば消費電力を低減することができる。

【0108】

［その他の変形例］
また、これらの変形例のうちの２以上を組み合わせてもよい。

【0109】

＜２．第２の実施の形態＞
次に、第２の実施の形態に係る撮像装置３について説明する。本実施の形態は、撮像部における青色および赤色の光電変換素子の構成が、上記第１の実施の形態の場合と異なるものである。なお、上記第１の実施の形態に係る撮像装置１と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。

【0110】

図２７は、本実施の形態に係る撮像装置３の一構成例を表すものである。撮像装置３は、撮像部４０と、画像処理部５０とを備えている。

【0111】

図２８は、撮像部４０に係る撮像画素Ｐの断面構造を模式的に表すものである。半導体基板１００には、１つの撮像画素Ｐに対応する画素領域において、１つのフォトダイオードＰＤが形成される。このフォトダイオードＰＤは、上記第１の実施の形態に係るフォトダイオードＰＤＢ，ＰＤＲとは異なり、可視光に対応する様々な波長の光を受光可能なものである。半導体基板１００の撮像面Ｓ側の表面には絶縁膜１０１が形成され、この絶縁膜１０１の上には、カラーフィルタ１１１が形成される。具体的には、絶縁膜１０１の上には、カラーフィルタ１１１Ｂまたはカラーフィルタ１１１Ｒが選択的に形成される。カラーフィルタ１１１Ｂは、青色（Ｂ）の光を透過するとともに赤色（Ｒ）および緑色（Ｇ）の光を遮断するものである。カラーフィルタ１１１Ｒは、赤色（Ｒ）の光を透過するとともに青色（Ｂ）および緑色（Ｇ）の光を遮断するものである。カラーフィルタ１１１ＢおよびフォトダイオードＰＤは、青色（Ｂ）の光を受光可能な光電変換素子を構成し、カラーフィルタ１１１ＲおよびフォトダイオードＰＤは、赤色（Ｒ）の光を受光可能な光電変換素子を構成する。カラーフィルタ１１１の上には、絶縁膜１１２が形成される。この絶縁膜１１２は、例えば二酸化ケイ素（ＳｉＯ_２）を用いて構成される。そして、この絶縁膜１１２の上には、透明電極１０２、光電変換膜１０３Ｇ、透明電極１０４、およびオンチップレンズ１０５が、この順に形成される。

【0112】

図２９は、４つの撮像画素Ｐが配置された領域Ｘにおける光電変換素子の配置を模式的に表すものである。このように、撮像部４０では、１つの撮像画素Ｐに対応する画素領域において、上層に緑色（Ｇ）に係る光電変換素子が配置され、下層に青色（Ｂ）または赤色（Ｒ）に係る光電変換素子が配置される。青色（Ｂ）および赤色（Ｒ）に係る光電変換素子は、市松模様状に配置されている。すなわち、撮像部４０では、カラーフィルタ１１１Ｂおよびカラーフィルタ１１１Ｒは、市松模様状に配置されている。これにより、撮像部４０では、各撮像画素Ｐのそれぞれが、緑色に係る画素信号と、青色または赤色に係る画素信号とを生成することができるようになっている。

【0113】

このような構成により、撮像部４０は、画像信号ＤＴ２１およびゲイン信号ＳＧＡＩＮを生成する。画像信号ＤＴ２１は、２つの画像マップデータＭＰＧ，ＭＰＢＲを含んでいる。画像マップデータＭＰＧは、緑色（Ｇ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＢＲは、青色（Ｂ）および赤色（Ｒ）に係る１フレーム画像分の画素値を含む。画像マップデータＭＰＢＲにおいて、青色（Ｂ）に係る画素値および赤色（Ｒ）に係る画素値は、カラーフィルタ１１１Ｂ，１１１Ｒの配置に対応して、市松模様状に配置される。

【0114】

画像処理部５０（図２７）は、画像分割処理部５２と、補間制御部５６と、補間処理部５３と、合成処理部５４と、信号処理部５５とを有している。

【0115】

画像分割処理部５２は、撮像部４０から切替部２１を介して供給された画像信号ＤＴ２１に含まれる画像マップデータＭＰＧ，ＭＰＢＲに基づいて画像分割処理Ａ１を行うことにより、４つのマップデータＭＧ１１，ＭＧ１２，ＭＲ１１，ＭＢ１２を生成するものである。

【0116】

補間制御部５６は、画像信号ＤＴ２１に含まれる画像マップデータＭＰＧに基づいて補間制御処理Ｂ１を行うことにより、補間処理部５３における補間処理Ａ２の補間方法を決定するものである。

【0117】

補間処理部５３は、画像分割処理部５２から供給された４つのマップデータＭＧ１１，ＭＧ１２，ＭＲ１１，ＭＢ１２のそれぞれに対して、補間制御部５６から指示された補間方法を用いて補間処理Ａ２を行うことにより、４つのマップデータＭＧ２１，ＭＧ２２，ＭＲ２１，ＭＢ２２を生成するものである。

【0118】

合成処理部５４は、補間処理部５３から供給された２つのマップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことにより、１つのマップデータＭＧ３を生成するものである。そして、合成処理部５４は、合成処理Ａ３により生成したマップデータＭＧ３、および補間処理部５３から供給されたマップデータＭＲ２１，ＭＢ２２を、画像信号ＤＴ２２として信号処理部５５に供給するようになっている。

【0119】

信号処理部５５は、合成処理部５４から供給された画像信号ＤＴ２２、または撮像部４０から切替部２１を介して供給された画像信号ＤＴ２１に基づいて、所定の信号処理を行うものである。そして、信号処理部５５は、これらの所定の信号処理の処理結果を、画像信号ＤＴ２３として出力するようになっている。

【0120】

図３０は、画像処理部５０における、画像分割処理Ａ１、補間制御処理Ｂ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0121】

画像分割処理部５２は、画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことにより、２つのマップデータＭＧ１１，ＭＧ１２を生成する。また、画像分割処理部５２は、画像マップデータＭＰＢＲに基づいて画像分割処理Ａ１を行うことにより、２つのマップデータＭＲ１１，ＭＢ１２を生成する。図３０に示したように、マップデータＭＲ１１では、領域Ｘにおいて、左上および右下において赤色（Ｒ）に係る画素値が存在するとともに、左下および右上において画素値が欠落している。また、マップデータＭＢ１２では、領域Ｘにおいて、左下および右上において青色（Ｂ）に係る画素値が存在するとともに、左上および右下において画素値が欠落している。すなわち、この例では、画像分割処理Ａ１における画素値の配置パターンＰＡＴを、撮像部４０におけるカラーフィルタ１１１Ｂ，１１１Ｒの市松模様状の配置に対応するように、市松模様パターンにした。これにより、画像マップデータＭＰＢＲに含まれる赤色（Ｒ）の画素値は、マップデータＭＲ１１にのみ含まれるようになり、画像マップデータＭＰＢＲに含まれる青色（Ｂ）の画素値は、マップデータＭＢ１２にのみ含まれるようになる。図３０に示したように、マップデータＭＧ１１，ＭＲ１１は、互いに同じ配置パターンＰＡＴを有し、マップデータＭＧ１２，ＭＢ１２は、互いに同じ配置パターンＰＡＴを有する。

【0122】

補間制御部５６は、緑色（Ｇ）に係る画像マップデータＭＰＧに基づいて、空間周波数検出処理Ｂ３を行うことにより、空間周波数を検出する。そして、補間制御部５６は、補間方法決定処理Ｂ４を行うことにより、空間周波数検出処理Ｂ３により求めた空間周波数に基づいて、画像領域ごとに、補間処理Ａ２の補間方法を決定する。そして、補間制御部５６は、補間処理部５３に対して、画像領域ごとに、補間方法を指示する。

【0123】

補間処理部５３は、画像分割処理部５２から供給された４つのマップデータＭＧ１１，ＭＧ１２，ＭＲ１１，ＭＢ１２のそれぞれに対して、画像領域ごとに、補間制御部５６から指示された補間方法を用いて補間処理Ａ２を行うことにより、４つのマップデータＭＧ２１，ＭＧ２２，ＭＲ２１，ＭＢ２２を生成する。４つのマップデータＭＧ２１，ＭＧ２２，ＭＲ２１，ＭＢ２２をそれぞれ生成する際の補間方法は、互いに同じである。

【0124】

合成処理部５４は、２つのマップデータＭＧ２１，ＭＧ２２に基づいて、合成処理Ａ３を行うことにより、１つのマップデータＭＧ３を生成する。具体的には、合成処理部５４は、２つのマップデータＭＧ２１，ＭＧ２２における互いに対応する位置の画素値を足し合わせ、その足し合わせされた画素値を半分にすることにより、マップデータＭＧ３におけるその位置での画素値を生成する。

【0125】

画像マップデータＭＰＧ，ＭＰＢＲは、本開示における「第１の画像マップデータ」および「第２の画像マップデータ」の一具体例にそれぞれ対応する。マップデータＭＲ１１，ＭＢ１２は、本開示における「複数の第４のマップデータ」の一具体例に対応する。マップデータＭＲ２１，ＭＢ２２は、本開示における「複数の第５のマップデータ」の一具体例に対応する。

【0126】

以上のように、撮像装置３では、例えば、画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことによりマップデータＭＧ１１，ＭＧ１２を生成し、これらのマップデータＭＧ１１，ＭＧ１２にそれぞれに対して補間処理Ａ２を行うことによりマップデータＭＧ２１，ＭＧ２２を生成し、これらのマップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＧ３を生成するようにした。これにより、撮像装置３では、上記第１の実施の形態の場合と同様に、マップデータＭＧ３における信号雑音比（Ｓ／Ｎ比）を高めることができ、撮像画像の画質を高めることができる。

【0127】

また、撮像装置３では、撮像部４０におけるカラーフィルタ１１１Ｂ，１１１Ｒの市松模様状の配置に対応するように、画像分割処理Ａ１における画素値の配置パターンＰＡＴを市松模様パターンにした。そして、マップデータＭＧ１１，ＭＲ１１における画素値の配置パターンＰＡＴを互いに同じにするとともに、マップデータＭＧ１２，ＭＢ１２における画素値の配置パターンＰＡＴを互いに同じにした。これにより、画像分割処理部５２は、２つの画像マップデータＭＰＧ、ＭＰＢＲに基づいて、同じ方法で画像分割処理Ａ１を行うことができるため、画像分割処理部５２の回路構成をシンプルにすることができる。また、撮像装置１の場合と同様に、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0128】

また、撮像装置３では、補間処理Ａ２において、マップデータＭＧ２１，ＭＧ２２，ＭＲ２１，ＭＢ２２を生成する際の補間方法を互いに同じにした。これにより、補間処理部５３は、互いに同じ補間方法を用いて４つのマップデータＭＧ２１，ＭＧ２２，ＭＲ２１，ＭＢ２２を生成することができるため、補間処理部５３の回路構成をシンプルにすることができる。また、撮像装置１の場合と同様に、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0129】

また、撮像装置３では、緑色（Ｇ）に係る画素値が全面に配置された画像マップデータＭＰＧに基づいて空間周波数を検出し、この検出された空間周波数に基づいて、補間処理Ａ２における補間方法を決定するようにした。これにより、撮像装置３では、空間周波数を高い精度で検出することができるので、補間処理Ａ２の精度を高めることができる。その結果、撮像装置３では、より高い復元効果を得ることができるので、撮像画像の画質を高めることができる。

【0130】

また、撮像装置３では、上記第１の実施の形態に係る撮像装置１と同様に、画像分割処理、補間処理、および合成処理を行うかどうかを制御できるようにした。これにより、撮像装置３では、例えば、暗い被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うことにより、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができ、例えば、明るい被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにすることにより、撮像画像における解像度を高めることができる。その結果、撮像装置３では、撮像画像の画質を高めることができる。

【0131】

以上のように本実施の形態では、画像分割処理、補間処理、および合成処理を行うようにしたので、撮像画像における信号雑音比を高めることができるので、撮像画像の画質を高めることができる。

【0132】

本実施の形態では、撮像部におけるカラーフィルタの市松模様状の配置に対応するように、画像分割処理における画素値の配置パターンを市松模様パターンにしたので、画像分割処理部の回路構成をシンプルにすることができるとともに、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0133】

本実施の形態では、補間処理において、４つのマップデータを生成する際の補間方法を互いに同じにしたので、補間処理部の回路構成をシンプルにすることができるとともに、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0134】

本実施の形態では、緑色（Ｇ）に係る画素値が全面に配置された画像マップデータＭＰＧに基づいて空間周波数を検出し、この検出された空間周波数に基づいて、補間処理における補間方法を決定するようにしたので、空間周波数を高い精度で検出することができ、撮像画像の画質を高めることができる。

【0135】

【0136】

＜３．第３の実施の形態＞
次に、第３の実施の形態に係る撮像装置４について説明する。本実施の形態は、撮像部における、青色（Ｂ）および赤色（Ｒ）の光を受光可能な光電変換素子の配置密度が、上記第１の実施の形態の場合と異なるものである。なお、上記第１の実施の形態に係る撮像装置１と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。

【0137】

図３１は、本実施の形態に係る撮像装置４の一構成例を表すものである。撮像装置４は、撮像部６０と、画像処理部７０とを備えている。

【0138】

図３２は、撮像部６０に係る撮像画素Ｐの断面構造を模式的に表すものである。図３３は、４つの撮像画素Ｐが配置された領域Ｘにおける光電変換素子の配置を模式的に表すものである。半導体基板１００には、４つの撮像画素Ｐに対応する領域Ｘにおいて、フォトダイオードＰＤＲ２，ＰＤＢ２が形成される。フォトダイオードＰＤＲ２は、フォトダイオードＰＤＲと同様に、赤色（Ｒ）の光を受光可能な光電変換素子であり、フォトダイオードＰＤＢ２は、フォトダイオードＰＤＢと同様に、青色（Ｂ）の光を受光可能な光電変換素子である。フォトダイオードＰＤＲ２およびフォトダイオードＰＤＢ２は、半導体基板１００において、４つの撮像画素Ｐに対応する領域Ｘにおいて、フォトダイオードＰＤＢ２が撮像面Ｓの側になるように積層されて形成される。すなわち、第１の実施の形態に係る撮像部１０では、１つの撮像画素Ｐに対応する画素領域において、フォトダイオードＰＤＢ，ＰＤＲを積層して形成したが、本実施の形態に係る撮像部６０では、４つの撮像画素Ｐに対応する領域Ｘにおいて、フォトダイオードＰＤＢ２，ＰＤＲ２を積層して形成している。これにより、撮像部６０では、４つの撮像画素Ｐに対応する領域Ｘにおいて、緑色（Ｇ）に係る４つの光電変換素子、青色（Ｂ）に係る１つの光電変換素子、赤色（Ｒ）に係る１つの光電変換素子が積層されて形成される。言い換えれば、撮像部６０では、青色（Ｂ）に係る光電変換素子の配置密度は、緑色（Ｇ）に係る光電変換素子の配置密度の１／４であり、赤色（Ｒ）に係る光電変換素子の配置密度は、緑色（Ｇ）に係る光電変換素子の配置密度の１／４である。カラーフィルタ１１１の上には、絶縁膜１１２が形成される。この絶縁膜１１２は、例えば二酸化ケイ素（ＳｉＯ_２）を用いて構成される。半導体基板１００の上には絶縁膜１０１が形成され、この絶縁膜１０１の上には、透明電極１０２、光電変換膜１０３Ｇ、透明電極１０４、およびオンチップレンズ１０５が、この順に形成される。

【0139】

このような構成により、撮像部６０は、画像信号ＤＴ３１およびゲイン信号ＳＧＡＩＮを生成する。画像信号ＤＴ３１は、３つの画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲを含んでいる。画像マップデータＭＰＧは、緑色（Ｇ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＢは、青色（Ｂ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＲは、赤色（Ｒ）に係る１フレーム画像分の画素値を含む。画像マップデータＭＰＢにおける画素値の数は、画像マップデータＭＰＧにおける画素値の数の１／４であり、画像マップデータＭＰＲにおける画素値の数は、画像マップデータＭＰＧにおける画素値の数の１／４である。画像マップデータＭＰＧにおける４つの画素値は、画像マップデータＭＰＢにおける１つの画素値に対応づけられているとともに、画像マップデータＭＰＲにおける１つの画素値に対応づけられている。

【0140】

画像処理部７０（図３１）は、画像分割処理部７２と、補間処理部７３と、合成処理部７４と、信号処理部７５とを有している。

【0141】

画像分割処理部７２は、撮像部６０から切替部２１を介して供給された画像信号ＤＴ３１に含まれる画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、画像分割処理Ａ１を行うことにより、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＢ１２を生成するものである。

【0142】

補間処理部７３は、画像分割処理部７２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＢ２２を生成するものである。

【0143】

合成処理部７４は、補間処理部７３から供給された６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２に基づいて合成処理Ａ３を行うことにより、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成するものである。そして、合成処理部７４は、合成処理Ａ３により生成したマップデータＭＧ３，ＭＢ３，ＭＲ３を、画像信号ＤＴ３２として信号処理部７５に供給するようになっている。

【0144】

信号処理部７５は、合成処理部７４から供給された画像信号ＤＴ３２、または撮像部６０から切替部２１を介して供給された画像信号ＤＴ３１に基づいて、所定の信号処理を行うものである。そして、信号処理部７５は、これらの所定の信号処理の処理結果を、画像信号ＤＴ３３として出力するようになっている。

【0145】

図３４は、画像処理部７０における、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0146】

画像分割処理部７２は、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて画像分割処理Ａ１を行うことにより、６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２を生成する。図３４に示したように、マップデータＭＧ１１，ＭＧ１２における画素値の配置パターンＰＡＴは、４つの画素値を単位とした市松模様パターン（図１２Ａ，１２Ｂ）である。一方、マップデータＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２における画素値の配置パターンＰＡＴは、１つの画素値を単位とした市松模様パターン（図８Ａ，８Ｂ）である。すなわち、撮像部６０における、緑色（Ｇ）、青色（Ｂ）、および赤色（Ｒ）に係る光電変換素子の配置密度に対応して、マップデータＭＧ１１，ＭＧ１２での市松模様パターンにおける単位を、マップデータＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２での市松模様パターンにおける単位の４倍にしている。

【0147】

補間処理部７３は、画像分割処理部２２から供給された６つのマップデータＭＧ１１，ＭＧ１２，ＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する。マップデータＭＧ１１，ＭＧ１２に対して補間処理Ａ２を行う場合には、補間処理部７３は、図１３Ａ，１３Ｂに示した補間方法を用いることができる。マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法は、互いに同じである。また、マップデータＭＧ２１，ＭＧ２２をそれぞれ生成する際の補間方法を、マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法と同様の方法にすることができる。具体的には、例えば、これらの２つの補間方法における補間方向を同じにすることができる。

【0148】

合成処理部７４は、６つのマップデータＭＧ２１，ＭＧ２２，ＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２に基づいて、合成処理Ａ３を行うことにより、３つのマップデータＭＧ３，ＭＢ３，ＭＲ３を生成する。

【0149】

以上のように、撮像装置４では、例えば、画像マップデータＭＰＧに基づいて画像分割処理Ａ１を行うことによりマップデータＭＧ１１，ＭＧ１２を生成し、これらのマップデータＭＧ１１，ＭＧ１２にそれぞれに対して補間処理Ａ２を行うことによりマップデータＭＧ２１，ＭＧ２２を生成し、これらのマップデータＭＧ２１，ＭＧ２２に基づいて合成処理Ａ３を行うことによりマップデータＭＧ３を生成するようにした。画像マップデータＭＰＢ，ＭＰＲについても同様である。これにより、撮像装置４では、上記第１の実施の形態の場合と同様に、マップデータＭＧ３，ＭＢ３，ＭＲ３における信号雑音比（Ｓ／Ｎ比）を高めることができ、撮像画像の画質を高めることができる。

【0150】

また、撮像装置４では、撮像部６０における、緑色（Ｇ）、青色（Ｂ）、および赤色（Ｒ）に係る光電変換素子の配置密度に対応するように、マップデータＭＧ１１，ＭＧ１２における市松模様パターンにおける単位を、マップデータＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２における市松模様パターンにおける単位の４倍にした。これにより、画像分割処理部７２は、３つの画像マップデータＭＰＧ、ＭＰＢ，ＭＰＲに基づいて、同様の方法で画像分割処理Ａ１を行うことができるため、画像分割処理部７２の回路構成をシンプルにすることができる。また、撮像装置１の場合と同様に、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0151】

また、撮像装置４では、補間処理Ａ２において、マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにした。これにより、補間処理部７３は、互いに同じ補間方法を用いて４つのマップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成することができるため、補間処理部７３の回路構成をシンプルにすることができる。また、補間処理Ａ２において、マップデータＭＧ２１，ＭＧ２２をそれぞれ生成する際の補間方法を、マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法と同様の方法にしたので、撮像装置１の場合と同様に、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0152】

また、撮像装置４では、上記第１の実施の形態に係る撮像装置１と同様に、画像分割処理、補間処理、および合成処理を行うかどうかを制御できるようにした。これにより、撮像装置４では、例えば、暗い被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うことにより、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができ、例えば、明るい被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにすることにより、撮像画像における解像度を高めることができる。その結果、撮像装置４では、撮像画像の画質を高めることができる。

【0153】

【0154】

本実施の形態では、撮像部における、緑色、青色、および赤色に係る光電変換素子の配置密度に対応するように、マップデータＭＧ１１，ＭＧ１２における市松模様パターンにおける単位を、マップデータＭＢ１１，ＭＢ１２，ＭＲ１１，ＭＲ１２における市松模様パターンにおける単位の４倍にしたので、画像分割処理部の回路構成をシンプルにすることができるとともに、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0155】

本実施の形態では、補間処理において、マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２を生成する際の補間方法を互いに同じにしたので、補間処理部の回路構成をシンプルにすることができるとともに、偽色が生じるおそれを低減することができる。

【0156】

本実施の形態では、補間処理において、マップデータＭＧ２１，ＭＧ２２をそれぞれ生成する際の補間方法を、マップデータＭＢ２１，ＭＢ２２，ＭＲ２１，ＭＲ２２をそれぞれ生成する際の補間方法と同様の方法にしたので、偽色が生じるおそれを低減することができ、撮像画像の画質を高めることができる。

【0157】

【0158】

［変形例３－１］
上記実施の形態では、画像処理部７０は、赤色（Ｒ）に係る画像マップデータＭＰＲ、緑色（Ｇ）に係る画像マップデータＭＰＧ、および青色（Ｂ）に係る画像マップデータＭＰＢに基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしたが、これに限定されるものではない。これに代えて、例えば、第１の実施の形態の変形例に係る撮像装置１Ｄの場合（図２５）と同様に、輝度信号に基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしてもよい。以下に、本変形例について詳細に説明する。

【0159】

図３５は、本変形例に係る撮像装置４Ａの一構成例を表すものである。この撮像装置４Ａは、画像処理部７０Ａを備えている。画像処理部７０Ａは、Ｙ／Ｃ分離部７９Ａと、画像分割処理部７２Ａと、補間処理部７３Ａと、合成処理部７４Ａと、信号処理部７５Ａとを有している。

【0160】

Ｙ／Ｃ分離部７９Ａは、Ｙ／Ｃ分離処理Ｃ１を行うことにより、画像信号ＤＴ３１に含まれるＲＧＢ信号を、輝度（Ｙ）信号および色（Ｃ）信号に分離し、これらの輝度信号および色信号を、画像信号ＤＴ４１として出力するものである。画像信号ＤＴ４１は、マップデータＭＹ，ＭＣｒ，ＭＣｂとを含んでいる。マップデータＭＹは、輝度（Ｙ）に係る１フレーム画像分の画素値を含み、マップデータＭＣｒは、Ｒ－Ｙ色差（Ｃｒ）に係る１フレーム画像分の画素値を含み、マップデータＭＣｂは、Ｂ－Ｙ色差（Ｃｂ）に係る１フレーム画像分の画素値を含む。マップデータＭＣｒにおける画素値の数は、マップデータＭＹにおける画素値の数の１／４である。同様に、マップデータＭＣｂにおける画素値の数は、マップデータＭＹにおける画素値の数の１／４である。

【0161】

画像分割処理部７２Ａは、Ｙ／Ｃ分離部７９Ａから切替部２１を介して供給された画像信号ＤＴ４１に含まれるマップデータＭＹに基づいて、画像分割処理Ａ１を行うことにより、２つのマップデータＭＹ１１，ＭＹ１２を生成するものである。また、画像分割処理部７２Ａは、画像信号ＤＴ４１に含まれるマップデータＭＣｒ，ＭＣｂを、そのまま出力するようになっている。

【0162】

補間処理部７３Ａは、画像分割処理部７２Ａから供給された２つのマップデータＭＹ１１，ＭＹ１２のそれぞれに対して補間処理Ａ２を行うことにより、２つのマップデータＭＹ２１，ＭＹ２２を生成するものである。また、補間処理部７３Ａは、画像分割処理部７２Ａから供給されたマップデータＭＣｒ，ＭＣｂを、そのまま出力するようになっている。

【0163】

合成処理部７４Ａは、補間処理部７３Ａから供給された２つのマップデータＭＹ２１，ＭＹ２２に基づいて合成処理Ａ３を行うことにより、１つのマップデータＭＹ３を生成するものである。そして、合成処理部７４Ａは、合成処理Ａ３により生成したマップデータＭＹ３、および補間処理部７３Ａから供給されたマップデータＭＣｒ，ＭＣｂを、画像信号ＤＴ４２として信号処理部７５Ａに供給するようになっている。

【0164】

信号処理部７５Ａは、合成処理部７４Ａから供給された画像信号ＤＴ４２、またはＹ／Ｃ分離部７９Ａから切替部２１を介して供給された画像信号ＤＴ４１に基づいて、所定の信号処理を行うものである。そして、信号処理部７５Ａは、これらの所定の信号処理の処理結果を、画像信号ＤＴ４３として出力するようになっている。

【0165】

図３６は、画像処理部７０Ａにおける、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0166】

Ｙ／Ｃ分離部７９Ａは、Ｙ／Ｃ分離処理Ｃ１を行うことにより、画像信号ＤＴ３１に含まれるＲＧＢ信号を、輝度（Ｙ）信号および色（Ｃ）信号に分離する。具体的には、Ｙ／Ｃ分離部７９Ａは、画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて、マップデータＭＹ，ＭＣｂ，ＭＣｒを生成する。Ｙ／Ｃ分離部７９Ａは、３つの画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲにおける互いに対応する位置の画素値に基づいて、例えば以下の式を用いて、輝度（Ｙ）に係る画素値を生成する。
ＶＹ１＝ＶＧ１×０．５９＋ＶＢ／４×０．１１＋ＶＲ／４×０．３
ＶＹ２＝ＶＧ２×０．５９＋ＶＢ／４×０．１１＋ＶＲ／４×０．３
ＶＹ３＝ＶＧ３×０．５９＋ＶＢ／４×０．１１＋ＶＲ／４×０．３
ＶＹ４＝ＶＧ４×０．５９＋ＶＢ／４×０．１１＋ＶＲ／４×０．３
この式において、“ＶＹ１”～“ＶＹ４”は輝度（Ｙ）に係る画素値であり、“ＶＧ１”～“ＶＧ４”は緑色（Ｇ）に係る画素値であり、“ＶＢ”は青色（Ｂ）に係る画素値であり、“ＶＲ”は赤色（Ｒ）に係る画素値である。“ＶＹ１”，“ＶＧ１”は、領域Ｘにおける左上の画素値を示し、“ＶＹ２”，“ＶＧ２”は、領域Ｘにおける右上の画素値を示し、“ＶＹ３”，“ＶＧ３”は、領域Ｘにおける左下の画素値を示し、“ＶＹ４”，“ＶＧ４”は、領域Ｘにおける右下の画素値を示す。

【0167】

画像分割処理部７２Ａは、このようにして生成されたマップデータＭＹに基づいて画像分割処理Ａ１を行うことにより、２つのマップデータＭＹ１１，ＭＹ１２を生成する。補間処理部７３Ａは、これらの２つのマップデータＭＹ１１，ＭＹ１２のそれぞれに対して補間処理Ａ２を行うことにより、２つのマップデータＭＹ２１，ＭＹ２２を生成する。合成処理部７４Ａは、２つのマップデータＭＹ２１，ＭＹ２２に基づいて合成処理Ａ３を行うことにより、１つのマップデータＭＹ３を生成する。

【0168】

これにより、撮像装置４Ａでは、輝度信号についての信号雑音比（Ｓ／Ｎ比）を高めることができるので、撮像画像の画質を高めることができる。また、この例では、輝度（Ｙ）に関するマップデータＭＹに対してのみ、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うようにしたので、処理量を抑えることができる。その結果、撮像装置４Ａでは、例えば消費電力を低減することができる。

【0169】

［変形例３－２］
上記実施の形態に係る撮像装置４に、上記第１の実施の形態の各変形例を適用してもよい。具体的には、例えば、上記第１の実施の形態の変形例に係る撮像装置２（図２１）と同様に、画像信号ＤＴ３１に含まれる画像マップデータＭＰＧ，ＭＰＢ，ＭＰＲに基づいて補間制御処理Ｂ１を行うことにより、補間処理部７３における補間処理Ａ２の補間方法を制御してもよい。

【0170】

＜４．第４の実施の形態＞
次に、第４の実施の形態に係る撮像装置５について説明する。本実施の形態は、撮像部に、緑色（Ｇ）、青色（Ｂ）、および赤色（Ｒ）の光を受光可能な光電変換素子に加え、赤外（ＩＲ）の光を受光可能の光電変換素子を設けたものである。なお、上記第１の実施の形態に係る撮像装置１と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。

【0171】

図３７は、本実施の形態に係る撮像装置５の一構成例を表すものである。撮像装置５は、撮像部８０と、画像処理部９０とを備えている。

【0172】

図３８は、撮像部８０に係る撮像画素Ｐの断面構造を模式的に表すものである。図３９は、４つの撮像画素Ｐが配置された領域Ｘにおける光電変換素子の配置を模式的に表すものである。半導体基板１００には、１つの撮像画素Ｐに対応する画素領域において、フォトダイオードＰＤが形成される。このフォトダイオードＰＤは、可視光に対応する様々な波長の光を受光可能なものである。半導体基板１００の撮像面Ｓ側の表面には絶縁膜１０１が形成され、この絶縁膜１０１の上には、カラーフィルタ１１１が形成される。具体的には、絶縁膜１０１の上には、４つの撮像画素Ｐに対応する領域Ｘにおいて、この例では、左上に赤色（Ｒ）のカラーフィルタ１１１Ｒが形成され、左下および右上に緑色（Ｇ）のカラーフィルタ１１１Ｇが形成され、右下に青色（Ｂ）のカラーフィルタ１１１Ｂが形成される。カラーフィルタ１１１Ｒは、赤色（Ｒ）の光を透過するとともに青色（Ｂ）および緑色（Ｇ）の光を遮断するものである。カラーフィルタ１１１Ｇは、緑色（Ｇ）の光を透過するとともに赤色（Ｒ）および青色（Ｂ）の光を遮断するものである。カラーフィルタ１１１Ｂは、青色（Ｂ）の光を透過するとともに赤色（Ｒ）および緑色（Ｇ）の光を遮断するものである。カラーフィルタ１１１ＲおよびフォトダイオードＰＤは、赤色（Ｒ）の光を受光可能な光電変換素子を構成し、カラーフィルタ１１１ＧおよびフォトダイオードＰＤは、緑色（Ｇ）の光を受光可能な光電変換素子を構成し、カラーフィルタ１１１ＢおよびフォトダイオードＰＤは、青色（Ｂ）の光を受光可能な光電変換素子を構成する。カラーフィルタ１１１Ｒ，１１１Ｇ，１１１Ｂの配列は、いわゆるベイヤー配列である。

【0173】

カラーフィルタ１１１の上には、絶縁膜１１２が形成される。そして、この絶縁膜１１２の上には、透明電極１０２、光電変換膜１０３ＩＲ、および透明電極１０４が、この順に形成される。透明電極１０２，１０４は、赤色の光、緑色の光、青色の光、および赤外光を透過可能な電極である。光電変換膜１０３ＩＲは、緑色（Ｇ）の光を受光可能な光電変換膜であり、赤色の光、緑色の光、および青色の光を透過可能に構成されている。この光電変換膜１０３ＩＲおよび透明電極１０２，１０４は、赤外（ＩＲ）の光を受光可能な光電変換素子を構成する。透明電極１０４の上には、オンチップレンズ１０５が形成される。

【0174】

このように、撮像部８０では、図３９に示したように、１つの撮像画素Ｐに対応する画素領域において、上層に赤外（ＩＲ）に係る光電変換素子が配置され、下層に、赤色（Ｒ）、緑色（Ｇ）、または青色（Ｂ）に係る光電変換素子が配置される。赤色（Ｒ）、緑色（Ｇ）、および青色（Ｂ）に係る光電変換素子は、ベイヤー配列で配置されている。これにより、撮像部８０では、各撮像画素Ｐのそれぞれが、赤外に係る画素信号と、赤色、緑色、または青色に係る画素信号とを生成することができるようになっている。

【0175】

このような構成により、撮像部８０は、画像信号ＤＴ５１およびゲイン信号ＳＧＡＩＮを生成する。画像信号ＤＴ５１は、２つの画像マップデータＭＰＩＲ，ＭＰＲＧＢを含んでいる。画像マップデータＭＰＩＲは、赤外（ＩＲ）に係る１フレーム画像分の画素値を含み、画像マップデータＭＰＲＧＢは、赤色（Ｒ）、緑色（Ｇ）、および青色（Ｂ）に係る１フレーム画像分の画素値を含む。

【0176】

画像処理部９０（図３７）は、画像分割処理部９２と、補間処理部９３と、合成処理部９４と、信号処理部９５とを有している。

【0177】

画像分割処理部９２は、撮像部８０から切替部２１を介して供給された画像信号ＤＴ５１に含まれる画像マップデータＭＰＩＲに基づいて、画像分割処理Ａ１を行うことにより、３つのマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３を生成するとともに、画像信号ＤＴ５１に含まれる画像マップデータＭＰＲＧＢに基づいて、画像分割処理Ａ１を行うことにより、３つのマップデータＭＧ１２，ＭＲ１１，ＭＢ１３を生成するものである。

【0178】

補間処理部９３は、画像分割処理部９２から供給された６つのマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３，ＭＧ１２，ＭＲ１１，ＭＢ１３のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３，ＭＧ２２，ＭＲ２１，ＭＢ２３を生成するものである。

【0179】

合成処理部９４は、補間処理部９３から供給された３つのマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３に基づいて合成処理Ａ３を行うことにより、マップデータＭＩＲ３を生成するものである。そして、合成処理部９４は、合成処理Ａ３により生成したマップデータＭＩＲ３、および補間処理部９３から供給されたマップデータＭＧ２２，ＭＲ２１，ＭＢ２３を、画像信号ＤＴ５２として信号処理部９５に供給するようになっている。

【0180】

信号処理部９５は、合成処理部９４から供給された画像信号ＤＴ５２、または撮像部６０から切替部２１を介して供給された画像信号ＤＴ５１に基づいて、所定の信号処理を行うものである。そして、信号処理部９５は、これらの所定の信号処理の処理結果を、画像信号ＤＴ５３として出力するようになっている。

【0181】

図４０は、画像処理部９０における、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３の一例を模式的に表すものである。

【0182】

画像分割処理部９２は、画像マップデータＭＰＩＲに基づいて画像分割処理Ａ１を行うことにより、３つのマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３を生成するとともに、画像マップデータＭＰＲＧＢに基づいて画像分割処理Ａ１を行うことにより、３つのマップデータＭＧ１２，ＭＲ１１，ＭＢ１３を生成する。図４０に示したように、マップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３における画素値の配置パターンＰＡＴは、ベイヤー配列に対応したパターン（図１８Ａ～１８Ｃ）である。マップデータＭＧ１２，ＭＲ１１，ＭＢ１３における画素値の配置パターンＰＡＴについても同様である。すなわち、この例では、画像分割処理Ａ１における画素値の配置パターンＰＡＴを、撮像部８０におけるカラーフィルタ１１１Ｒ，１１１Ｇ，１１１Ｂの配置を示すベイヤー配列に対応するパターンにした。これにより、画像マップデータＭＰＲＧＢに含まれる赤色（Ｒ）の画素値は、マップデータＭＲ１１にのみ含まれるようになり、画像マップデータＭＰＲＧＢに含まれる緑色（Ｇ）の画素値は、マップデータＭＧ１２にのみ含まれるようになり、画像マップデータＭＰＲＧＢに含まれる青色（Ｂ）の画素値は、マップデータＭＢ１３にのみ含まれるようになる。図４０に示したように、マップデータＭＩＲ１２，ＭＧ１２は、互いに同じ配置パターンＰＡＴを有し、マップデータＭＩＲ１１，ＭＲ１１は、互いに同じ配置パターンＰＡＴを有し、マップデータＭＩＲ１３，ＭＢ１３は、互いに同じ配置パターンＰＡＴを有する。

【0183】

補間処理部９３は、画像分割処理部９２から供給された６つのマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３，ＭＧ１２，ＭＲ１１，ＭＢ１３のそれぞれに対して補間処理Ａ２を行うことにより、６つのマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３，ＭＧ２２，ＭＲ２１，ＭＢ２３を生成する。マップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３に対して補間処理Ａ２を行う場合には、補間処理部９３は、例えば図１９Ａ～１９Ｃに示した補間方法を用いることができる。マップデータＭＧ１２，ＭＲ１１，ＭＢ１３に対する補間処理Ａ２についても同様である。マップデータＭＩＲ２２，ＭＧ２２をそれぞれ生成する際の補間方法は互いに同じであり、マップデータＭＩＲ２１，ＭＲ２１をそれぞれ生成する際の補間方法は互いに同じであり、マップデータＭＩＲ２３，ＭＢ２３をそれぞれ生成する際の補間方法は互いに同じである。

【0184】

合成処理部９４は、３つのマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３に基づいて合成処理Ａ３を行うことにより、マップデータＭＩＲ３を生成する。

【0185】

画像マップデータＭＰＩＲ，ＭＰＲＧＢは、本開示における「第１の画像マップデータ」および「第２の画像マップデータ」の一具体例にそれぞれ対応する。マップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３は、本開示における「複数の第１のマップデータ」の一具体例に対応する。マップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３は、本開示における「複数の第２のマップデータ」の一具体例に対応する。マップデータＭＩＲ３は、本開示における「第３のマップデータ」の一具体例に対応する。マップデータＭＧ１２，ＭＲ１１，ＭＢ１３は、本開示における「複数の第４のマップデータ」の一具体例に対応する。マップデータＭＧ２２，ＭＲ２１，ＭＢ２３は、本開示における「複数の第５のマップデータ」の一具体例に対応する。

【0186】

以上のように、撮像装置５では、例えば、画像マップデータＭＰＩＲに基づいて画像分割処理Ａ１を行うことによりマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３を生成し、これらのマップデータＭＩＲ１２，ＭＩＲ１１，ＭＩＲ１３にそれぞれに対して補間処理Ａ２を行うことによりマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３を生成し、これらのマップデータＭＩＲ２２，ＭＩＲ２１，ＭＩＲ２３に基づいて合成処理Ａ３を行うことによりマップデータＭＩＲ３を生成するようにした。これにより、撮像装置５では、上記第１の実施の形態の場合と同様に、マップデータＭＩＲ３における信号雑音比（Ｓ／Ｎ比）を高めることができ、撮像画像の画質を高めることができる。

【0187】

また、撮像装置５では、撮像部８０におけるカラーフィルタ１１１Ｒ，１１１Ｇ，１１１Ｂの配置に対応するように、画像分割処理Ａ１における画素値の配置パターンＰＡＴをベイヤー配列に対応するパターンにした。そして、マップデータＭＩＲ１２，ＭＧ１２における画素値の配置パターンＰＡＴを互いに同じにし、マップデータＭＩＲ１１，ＭＲ１１における画素値の配置パターンＰＡＴを互いに同じにし、マップデータＭＩＲ１３，ＭＢ１３における画素値の配置パターンＰＡＴを互いに同じにした。その結果、画像分割処理部９２は、２つの画像マップデータＭＰＩＲ、ＭＰＲＧＢに基づいて、同じ方法で画像分割処理Ａ１を行うことができるため、画像分割処理部９２の回路構成をシンプルにすることができる。

【0188】

また、撮像装置５では、補間処理Ａ２において、マップデータＭＩＲ２２，ＭＧ２２を生成する際の補間方法を互いに同じにし、マップデータＭＩＲ２１，ＭＲ２１を生成する際の補間方法を互いに同じにし、マップデータＭＩＲ２３，ＭＢ２３を生成する際の補間方法を互いに同じにしたので、補間処理部９３の回路構成をシンプルにすることができる。

【0189】

また、撮像装置５では、上記第１の実施の形態に係る撮像装置１と同様に、画像分割処理、補間処理、および合成処理を行うかどうかを制御できるようにした。これにより、撮像装置３では、例えば、暗い被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うことにより、撮像画像における信号雑音比（Ｓ／Ｎ比）を高めることができ、例えば、明るい被写体を撮像する場合には、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行わないようにすることにより、撮像画像における解像度を高めることができる。その結果、撮像装置５では、撮像画像の画質を高めることができる。

【0190】

【0191】

本実施の形態では、撮像部におけるカラーフィルタの配置に対応するように、画像分割処理における画素値の配置パターンをベイヤー配列に対応するパターンにしたので、画像分割処理部の回路構成をシンプルにすることができる。

【0192】

本実施の形態では、補間処理において、マップデータＭＩＲ２２，ＭＧ２２を生成する際の補間方法を互いに同じにし、マップデータＭＩＲ２１，ＭＲ２１を生成する際の補間方法を互いに同じにし、マップデータＭＩＲ２３，ＭＢ２３を生成する際の補間方法を互いに同じにしたので、補間処理部９３の回路構成をシンプルにすることができる。

【0193】

【0194】

［変形例４－１］
上記実施の形態に係る撮像装置５に、上記第１の実施の形態の各変形例を適用してもよい。具体的には、例えば、上記第１の実施の形態の変形例に係る撮像装置２（図２１）と同様に、画像信号ＤＴ５１に含まれる画像マップデータＭＰＲＧＢに基づいて補間制御処理Ｂ１を行うことにより、補間処理部９３における補間処理Ａ２の補間方法を制御してもよい。

【0195】

＜５．撮像装置の使用例＞
図４１は、上記実施の形態に係る撮像装置１等の使用例を表すものである。上述した撮像装置１等は、例えば、以下のように、可視光や、赤外光、紫外光、Ｘ線等の光をセンシングする様々なケースに使用することができる。

【0196】

・デジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、テレビジョンや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置

【0197】

＜６．応用例＞
＜体内情報取得システムへの応用例＞
更に、本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。

【0198】

図４２は、本開示に係る技術（本技術）が適用され得る、カプセル型内視鏡を用いた患者の体内情報取得システムの概略的な構成の一例を示すブロック図である。

【0199】

体内情報取得システム１０００１は、カプセル型内視鏡１０１００と、外部制御装置１０２００とから構成される。

【0200】

カプセル型内視鏡１０１００は、検査時に、患者によって飲み込まれる。カプセル型内視鏡１０１００は、撮像機能及び無線通信機能を有し、患者から自然排出されるまでの間、胃や腸等の臓器の内部を蠕動運動等によって移動しつつ、当該臓器の内部の画像（以下、体内画像ともいう）を所定の間隔で順次撮像し、その体内画像についての情報を体外の外部制御装置１０２００に順次無線送信する。

【0201】

外部制御装置１０２００は、体内情報取得システム１０００１の動作を統括的に制御する。また、外部制御装置１０２００は、カプセル型内視鏡１０１００から送信されてくる体内画像についての情報を受信し、受信した体内画像についての情報に基づいて、表示装置（図示せず）に当該体内画像を表示するための画像データを生成する。

【0202】

体内情報取得システム１０００１では、このようにして、カプセル型内視鏡１０１００が飲み込まれてから排出されるまでの間、患者の体内の様子を撮像した体内画像を随時得ることができる。

【0203】

カプセル型内視鏡１０１００と外部制御装置１０２００の構成及び機能についてより詳細に説明する。

【0204】

カプセル型内視鏡１０１００は、カプセル型の筐体１０１０１を有し、その筐体１０１０１内には、光源部１０１１１、撮像部１０１１２、画像処理部１０１１３、無線通信部１０１１４、給電部１０１１５、電源部１０１１６、及び制御部１０１１７が収納されている。

【0205】

光源部１０１１１は、例えばＬＥＤ（light emitting diode）等の光源から構成され、撮像部１０１１２の撮像視野に対して光を照射する。

【0206】

撮像部１０１１２は、撮像素子、及び当該撮像素子の前段に設けられる複数のレンズからなる光学系から構成される。観察対象である体組織に照射された光の反射光（以下、観察光という）は、当該光学系によって集光され、当該撮像素子に入射する。撮像部１０１１２では、撮像素子において、そこに入射した観察光が光電変換され、その観察光に対応する画像信号が生成される。撮像部１０１１２によって生成された画像信号は、画像処理部１０１１３に提供される。

【0207】

画像処理部１０１１３は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等のプロセッサによって構成され、撮像部１０１１２によって生成され
た画像信号に対して各種の信号処理を行う。画像処理部１０１１３は、信号処理を施した画像信号を、ＲＡＷデータとして無線通信部１０１１４に提供する。

【0208】

無線通信部１０１１４は、画像処理部１０１１３によって信号処理が施された画像信号に対して変調処理等の所定の処理を行い、その画像信号を、アンテナ１０１１４Ａを介して外部制御装置１０２００に送信する。また、無線通信部１０１１４は、外部制御装置１０２００から、カプセル型内視鏡１０１００の駆動制御に関する制御信号を、アンテナ１０１１４Ａを介して受信する。無線通信部１０１１４は、外部制御装置１０２００から受信した制御信号を制御部１０１１７に提供する。

【0209】

給電部１０１１５は、受電用のアンテナコイル、当該アンテナコイルに発生した電流から電力を再生する電力再生回路、及び昇圧回路等から構成される。給電部１０１１５では、いわゆる非接触充電の原理を用いて電力が生成される。

【0210】

電源部１０１１６は、二次電池によって構成され、給電部１０１１５によって生成された電力を蓄電する。図４２では、図面が煩雑になることを避けるために、電源部１０１１６からの電力の供給先を示す矢印等の図示を省略しているが、電源部１０１１６に蓄電された電力は、光源部１０１１１、撮像部１０１１２、画像処理部１０１１３、無線通信部１０１１４、及び制御部１０１１７に供給され、これらの駆動に用いられ得る。

【0211】

制御部１０１１７は、ＣＰＵ等のプロセッサによって構成され、光源部１０１１１、撮像部１０１１２、画像処理部１０１１３、無線通信部１０１１４、及び、給電部１０１１５の駆動を、外部制御装置１０２００から送信される制御信号に従って適宜制御する。

【0212】

外部制御装置１０２００は、ＣＰＵ，ＧＰＵ等のプロセッサ、又はプロセッサとメモリ等の記憶素子が混載されたマイクロコンピュータ若しくは制御基板等で構成される。外部制御装置１０２００は、カプセル型内視鏡１０１００の制御部１０１１７に対して制御信号を、アンテナ１０２００Ａを介して送信することにより、カプセル型内視鏡１０１００の動作を制御する。カプセル型内視鏡１０１００では、例えば、外部制御装置１０２００からの制御信号により、光源部１０１１１における観察対象に対する光の照射条件が変更され得る。また、外部制御装置１０２００からの制御信号により、撮像条件（例えば、撮像部１０１１２におけるフレームレート、露出値等）が変更され得る。また、外部制御装置１０２００からの制御信号により、画像処理部１０１１３における処理の内容や、無線通信部１０１１４が画像信号を送信する条件（例えば、送信間隔、送信画像数等）が変更されてもよい。

【0213】

また、外部制御装置１０２００は、カプセル型内視鏡１０１００から送信される画像信号に対して、各種の画像処理を施し、撮像された体内画像を表示装置に表示するための画像データを生成する。当該画像処理としては、例えば現像処理（デモザイク処理）、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、ならびに／又は拡大処理（電子ズーム処理）等、各種の信号処理を行うことができる。外部制御装置１０２００は、表示装置の駆動を制御して、生成した画像データに基づいて撮像された体内画像を表示させる。あるいは、外部制御装置１０２００は、生成した画像データを記録装置（図示せず）に記録させたり、印刷装置（図示せず）に印刷出力させてもよい。

【0214】

以上、本開示に係る技術が適用され得る体内情報取得システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部１０１１２および画像処理部１０１１３に適用され得る。これにより、撮像画像の画質を高めることができるので、医師は、患者の体内の様子をより正確に把握することができる。

【0215】

＜内視鏡手術システムへの応用例＞
本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。

【0216】

図４３は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。

【0217】

図４３では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。

【0218】

内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。

【0219】

鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

【0220】

カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ: Camera Control Unit）１１２０１に送信される。

【0221】

ＣＣＵ１１２０１は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。

【0222】

表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。

【0223】

光源装置１１２０３は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。

【0224】

入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。

【0225】

処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

【0226】

なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

【0227】

また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

【0228】

また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

【0229】

図４４は、図４３に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。

【0230】

カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。

【0231】

レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。

【0232】

撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（dimensional）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。

【0233】

また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。

【0234】

駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。

【0235】

通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。

【0236】

また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、ならびに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。

【0237】

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡１１１００に搭載されていることになる。

【0238】

カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。

【0239】

通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。

【0240】

また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。

【0241】

画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。

【0242】

制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。

【0243】

また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。

【0244】

カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

【0245】

ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。

【0246】

以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１１４０２および画像処理部１１４１２に適用され得る。これにより、撮像画像の画質を高めることができるので、医師は、患者の体内の様子をより正確に把握することができる。

【0247】

なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。

【0248】

＜移動体への応用例＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。

【0249】

図４５は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。

【0250】

車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図４５に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（interface）１２０
５３が図示されている。

【0251】

駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。

【0252】

ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。

【0253】

車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。

【0254】

撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。

【0255】

車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。

【0256】

マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行うことができる。

【0257】

また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

【0258】

また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。

【0259】

音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図４５の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。

【0260】

図４６は、撮像部１２０３１の設置位置の例を示す図である。

【0261】

図４６では、撮像部１２０３１として、撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５を有する。

【0262】

撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２，１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。

【0263】

なお、図４６には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。

【0264】

撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。

【0265】

例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０ｋｍ／ｈ以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。

【0266】

例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。

【0267】

撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。

【0268】

以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１に適用され得る。これにより、撮像画像の画質を高めることができるので、車両制御システム１２０００は、例えば、車外環境をより正確に把握することができるので、例えば、より正確な運転支援などを行うことができる。

【0269】

以上、いくつかの実施の形態および変形例、ならびにそれらの具体的な応用例を挙げて本技術を説明したが、本技術はこれらの実施の形態等には限定されず、種々の変形が可能である。

【0270】

例えば、上記の各実施の形態では、撮像部１０および画像処理部２０を用いて撮像装置１を構成したが、これに限定されるものではない。これに代えて、例えば、撮像装置１とは別の演算装置が、画像処理部２０の機能を有していてもよい。この場合、演算装置には、例えば、画像マップデータＭＰＲ，ＭＰＧ，ＭＰＢおよび変換ゲインＧＣについての情報を含む画像データファイルが供給される。そして、この演算装置は、この画像データファイルに基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うことができる。この演算装置は、画像処理プログラムを実行するパーソナルコンピュータであってもよい。

【0271】

また、上記の各実施の形態では、例えば、画像処理部２０は、ゲイン信号ＳＧＡＩＮが示す変換ゲインＧＣに基づいて、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うかどうかを制御したが、これに限定されるものではない。これに代えて、例えば、撮像部１０が、画像分割処理Ａ１、補間処理Ａ２、および合成処理Ａ３を行うかどうかを決定し、この決定結果を示すモード信号を生成してもよい。この場合には、画像処理部２０は、このモード信号に応じて動作を行うことができる。

【0272】

なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。

【0273】

当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

【図1】