特許第6606504号(P6606504)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

特許6606504撮像装置、撮像素子および撮像装置の制御方法
<>
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000002
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000003
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000004
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000005
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000006
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000007
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000008
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000009
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000010
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000011
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000012
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000013
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000014
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000015
  • 特許6606504-撮像装置、撮像素子および撮像装置の制御方法 図000016
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6606504
(24)【登録日】2019年10月25日
(45)【発行日】2019年11月13日
(54)【発明の名称】撮像装置、撮像素子および撮像装置の制御方法
(51)【国際特許分類】
   H04N 5/232 20060101AFI20191031BHJP
   H04N 5/235 20060101ALI20191031BHJP
   H04N 9/07 20060101ALI20191031BHJP
   H04N 5/355 20110101ALI20191031BHJP
   H04N 5/374 20110101ALI20191031BHJP
【FI】
   H04N5/232 290
   H04N5/235 500
   H04N9/07 A
   H04N5/355
   H04N5/374
【請求項の数】10
【全頁数】22
(21)【出願番号】特願2016-548603(P2016-548603)
(86)(22)【出願日】2015年7月9日
(86)【国際出願番号】JP2015069746
(87)【国際公開番号】WO2016042893
(87)【国際公開日】20160324
【審査請求日】2018年5月16日
(31)【優先権主張番号】特願2014-188436(P2014-188436)
(32)【優先日】2014年9月17日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100112955
【弁理士】
【氏名又は名称】丸島 敏一
(72)【発明者】
【氏名】柴田 康史
(72)【発明者】
【氏名】高山 克美
(72)【発明者】
【氏名】福永 将嗣
【審査官】 高野 美帆子
(56)【参考文献】
【文献】 特開2013−187681(JP,A)
【文献】 特開2013−179584(JP,A)
【文献】 特開2011−119868(JP,A)
【文献】 特開2002−320132(JP,A)
【文献】 特開2007−174160(JP,A)
【文献】 特開2003−210393(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222−5/257
H04N 5/355
H04N 5/374
H04N 9/07
(57)【特許請求の範囲】
【請求項1】
異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理が実行されるたびに前記長時間露光データを圧縮して圧縮データを生成する圧縮部と、
前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持するメモリと、
前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長部と、
前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理が前記長時間露光処理の後に実行されるたびに前記復元された長時間露光データと前記短時間露光データとを合成する合成部と
を具備し、
前記圧縮部は、前記遅延時間が短いほど低い圧縮率により前記長時間露光データを圧縮する
撮像装置。
【請求項2】
前記長時間露光処理と前記短時間露光処理とを順に実行するデータ生成部をさらに具備する
請求項1記載の撮像装置。
【請求項3】
前記複数の画素データのそれぞれのデータサイズは、所定サイズであり、
前記圧縮部は、前記長時間露光データ内の前記複数の画素データのそれぞれのデータサイズを前記所定サイズより小さくし、
前記伸長部は、前記圧縮データにおいて前記画素データのそれぞれのデータサイズを前記所定サイズに戻す
請求項1記載の撮像装置。
【請求項4】
前記圧縮部は、前記長時間露光データにおいて所定数の前記画素データを間引き、
前記伸長部は、前記圧縮データにおいて前記所定数の新たな画素データを補間する
請求項1記載の撮像装置。
【請求項5】
前記複数の画素データのそれぞれは、赤、緑および青のいずれかの画素値を含み、
前記圧縮部は、前記画素値のそれぞれから色差信号および輝度信号を生成し、
前記伸長部は、前記色差信号および輝度信号から赤、緑および青のそれぞれの画素値を生成する
請求項1記載の撮像装置。
【請求項6】
前記圧縮部は、前記長時間露光データに対して周波数変換を行い、
前記伸長部は、前記圧縮データに対して逆周波数変換を行う
請求項1記載の撮像装置。
【請求項7】
前記圧縮部は、前記長時間露光データにおいて前記複数の画素データのそれぞれをエントロピー符号に符号化し、
前記伸長部は、前記エントロピー符号のそれぞれを前記画素データに復号する
請求項1記載の撮像装置。
【請求項8】
前記データ生成部は、
第1の基板に設けられた複数の画素と、
前記第1の基板と異なる第2の基板において前記長時間露光処理および前記短時間露光処理を実行するデータ生成回路と
を備える請求項1記載の撮像装置。
【請求項9】
異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理が実行されるたびに前記長時間露光データを圧縮して圧縮データを生成する圧縮部と、
前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持するメモリと、
前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長部と、
前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理が前記長時間露光処理の後に実行されるたびに前記復元された長時間露光データと前記短時間露光データとを合成する合成部と
を具備し、
前記圧縮部は、前記遅延時間が短いほど低い圧縮率により前記長時間露光データを圧縮する
撮像素子。
【請求項10】
異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理が実行されるたびに圧縮部が、前記長時間露光データを圧縮して圧縮データを生成する圧縮手順と、
メモリが、前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持する遅延手順と、
伸長部が、前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長手順と、
前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理が前記長時間露光処理の後に実行されるたびに合成部が、前記復元された長時間露光データと前記短時間露光データとを合成する合成手順と
を具備し、
前記圧縮手順において、前記遅延時間が短いほど低い圧縮率により前記長時間露光データを圧縮する
撮像装置の制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、撮像装置、撮像素子および撮像装置の制御方法に関する。詳しくは、画像合成を行う撮像装置、撮像素子および撮像装置の制御方法に関する。
【背景技術】
【0002】
従来より、撮像装置においては、通常より広いダイナミックレンジを実現するために、ワイドダイナミックレンジ合成と呼ばれる画像合成技術が用いられている。例えば、露光時間の比較的長い長時間露光を行った後に、露光時間の比較的短い短時間露光を行い、それらの露光により生成された画像を合成する撮像装置が提案されている(例えば、特許文献1参照。)。この撮像装置において、長時間露光により生成された画像内の各ラインは、メモリに保持され、短時間露光が終了するタイミングに同期して読み出される。
【0003】
そして、短時間露光終了後に、撮像装置は、閾値より低輝度の画素について長時間露光時の画素データを用い、閾値以上の高輝度の画素について短時間露光時の画素データを用いて画像を合成する。これにより、合成しない場合よりも広いダイナミックレンジの画像が生成される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−88927号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述の従来技術では、短時間露光の露光時間が長くなるほど、メモリに保持するライン数が増大し、必要なメモリの容量が増大するという問題がある。また、解像度の向上などによりライン当たりのデータ量が大きくなるほど、必要なメモリの容量が増大するという問題がある。
【0006】
本技術はこのような状況に鑑みて生み出されたものであり、画像合成を行う装置においてメモリ容量の増大を抑制することを目的とする。
【課題を解決するための手段】
【0007】
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理と当該長時間露光処理の後に上記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理とを順に実行するデータ生成部と、上記長時間露光データを圧縮して圧縮データを生成する圧縮部と、上記2つの露光時間のうち短い方に応じた遅延時間に亘って上記圧縮データを保持するメモリと、上記保持された圧縮データを伸長して上記長時間露光データを復元する伸長部と、上記復元された長時間露光データと上記短時間露光データとを合成する合成部とを具備する撮像装置、および、その制御方法である。これにより、長時間露光データが圧縮されてメモリに保持され、復元された長時間露光データと短時間露光データとが合成されるという作用をもたらす。
【0008】
また、この第1の側面において、上記圧縮部は、上記遅延時間が短いほど低い圧縮率により上記長時間露光データを圧縮してもよい。これにより、遅延時間が短いほど低い圧縮率により長時間露光データが圧縮されるという作用をもたらす。
【0009】
また、この第1の側面において、上記複数の画素データのそれぞれのデータサイズは、所定サイズであり、上記圧縮部は、上記長時間露光データ内の上記複数の画素データのそれぞれのデータサイズを上記所定サイズより小さくし、上記伸長部は、上記圧縮データにおいて上記画素データのそれぞれのデータサイズを上記所定サイズに戻してもよい。これにより、長時間露光データ内の複数の画素データのそれぞれのデータサイズが所定サイズより小さくなるという作用をもたらす。
【0010】
また、この第1の側面において、上記圧縮部は、上記長時間露光データにおいて所定数の上記画素データを間引き、上記伸長部は、上記圧縮データにおいて上記所定数の新たな画素データを補間してもよい。これにより長時間露光データにおいて所定数の画素データが間引かれるという作用をもたらす。
【0011】
また、この第1の側面において、前記複数の画素データのそれぞれは、赤、緑および青のいずれかの画素値を含み、前記圧縮部は、前記画素値のそれぞれから色差信号および輝度信号を生成し、前記伸長部は、前記色差信号および輝度信号から赤、緑および青のそれぞれの画素値を生成してもよい。これにより、赤、緑および青のそれぞれの画素値から色差信号および輝度信号が生成されるという作用をもたらす。
【0012】
また、この第1の側面において、上記圧縮部は、上記長時間露光データに対して周波数変換を行い、上記伸長部は、上記圧縮データに対して逆周波数変換を行ってもよい。これにより、長時間露光データに対して周波数変換が行われるという作用をもたらす。
【0013】
また、この第1の側面において、上記圧縮部は、上記長時間露光データにおいて上記複数の画素データのそれぞれをエントロピー符号に符号化し、上記伸長部は、上記エントロピー符号のそれぞれを上記画素データに復号してもよい。これにより、複数の画素データのそれぞれがエントロピー符号に符号化されるという作用をもたらす。
【0014】
また、この第1の側面において、上記データ生成部は、第1の基板に設けられた複数の画素と、上記第1の基板と異なる第2の基板において上記長時間露光処理および上記短時間露光処理を実行するデータ生成回路とを備えてもよい。これにより、複数の画素が第1の基板に設けられ、データ生成回路が第2の基板に設けられるという作用をもたらす。
【0015】
また、本技術の第2の側面は、異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理と当該長時間露光処理の後に上記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理とを順に実行するデータ生成部と、上記長時間露光データを圧縮して圧縮データを生成する圧縮部と、上記2つの露光時間のうち短い方に応じた遅延時間に亘って上記圧縮データを保持するメモリと、上記保持された圧縮データを伸長して上記長時間露光データを復元する伸長部と、上記復元された長時間露光データと上記短時間露光データとを合成する合成部とを具備する撮像素子である。これにより、長時間露光データが圧縮されてメモリに保持され、復元された長時間露光データと短時間露光データとが合成されるという作用をもたらす。
【発明の効果】
【0016】
本技術によれば、画像合成を行う装置においてメモリの容量の増大を抑制することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【0017】
図1】第1の実施の形態における撮像装置の一構成例を示すブロック図である。
図2】第1の実施の形態における撮像素子の一構成例を示すブロック図である。
図3】第1の実施の形態における画素回路の一構成例を示す回路図である。
図4】第1の実施の形態における信号処理部の一構成例を示すブロック図である。
図5】第1の実施の形態における圧縮部および伸長部の一構成例を示すブロック図である。
図6】第1の実施の形態における撮像装置の動作の一例を示すタイミングチャートである。
図7】第1の実施の形態における撮像装置の動作の一例を示すフローチャートである。
図8】第1の実施の形態における合成前後の画像データの一例である。
図9】第1の実施の形態の第1の変形例における圧縮部および伸長部の一構成例を示すブロック図である。
図10】第1の実施の形態の第2の変形例における圧縮部および伸長部の一構成例を示すブロック図である。
図11】第1の実施の形態の第3の変形例における圧縮部および伸長部の一構成例を示すブロック図である。
図12】第1の実施の形態の第4の変形例における撮像装置の動作の一例を示すフローチャートである。
図13】第2の実施の形態における撮像装置の一構成例を示すブロック図である。
図14】第2の実施の形態における撮像素子の一構成例を示すブロック図である。
図15】第3の実施の形態における撮像素子の一構成例を示すブロック図である。
【発明を実施するための形態】
【0018】
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(長時間露光データを圧縮して保持する例)
2.第2の実施の形態(撮像素子において長時間露光データを圧縮して保持する例)
3.第3の実施の形態(基板を積層した撮像素子からの長時間露光データを圧縮して保持する例)
【0019】
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、第1の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像する装置であり、撮像レンズ110、撮像素子200、信号処理部300、画像処理部120、制御部130および記録部140を備える。
【0020】
撮像レンズ110は、被写体からの光を集光して撮像素子200に導くレンズである。
【0021】
撮像素子200は、受光した光を電気信号に変換して、画像データを生成するものである。この撮像素子200として、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサーが用いられる。画像データの生成の際に撮像素子200は、制御部130の制御に従って長時間露光および短時間露光を順に行う。ここで、長時間露光は、短時間露光よりも露光時間の長い露光であり、短時間露光は、長時間露光よりも露光時間の短い露光である。以下、長時間露光の露光時間をTe1秒とし、短時間露光の露光時間をTe2秒とする。また、短時間露光は、長時間露光の後に行われるものとする。
【0022】
この撮像素子200は、長時間露光によりラインデータを長時間露光データとして生成する処理を一定回数行う。ここで、ラインデータは、所定の方向に沿って配列された複数の画素により生成されたデータである。このラインデータは、複数の画素データを含む。画素データのそれぞれは、例えば、赤、緑および青のいずれかの輝度値を示す。以下、赤の輝度値を示すものを画素データR(Red)とし、緑の輝度値を示すものを画素データG(Green)とし、青の輝度値を示すものを画素データB(Blue)と称する。
【0023】
また、撮像素子200は、長時間露光データを生成するたびに、短時間露光によりラインデータを短時間露光データとして生成する。そして、撮像素子200は、これらの長時間露光データおよび短時間露光データを信号処理部300に信号線209を介して供給する。なお、撮像素子200は、特許請求の範囲に記載のデータ生成部の一例である。
【0024】
信号処理部300は、長時間露光データおよび短時間露光データを合成するものである。この信号処理部300は、長時間露光データを圧縮して、露光時間Te2に応じた遅延時間に亘って保持し、そのデータを伸長して長時間露光データを復元する。そして、信号処理部300は、復元した長時間露光データと短時間露光データとを合成してラインデータを生成する。信号処理部300は、生成したラインデータのそれぞれからなる画像データを画像処理部120に信号線309を介して供給する。
【0025】
画像処理部120は、信号処理部300からの画像データに対して所定の画像処理を行うものである。例えば、ホワイトバランス処理、ガンマ補正処置およびデモザイク処理を含む各種の画像処理が行われる。画像処理部120は、画像処理後の画像データを記録部140に信号線129を介して供給する。記録部140は、画像データを記録するものである。
【0026】
制御部130は、撮像装置100全体を制御するものである。この制御部130は、撮像制御信号により撮像素子200を制御して画像データを生成させる。この撮像制御信号は、例えば、露光制御信号や垂直同期信号を含む信号であり、信号線139を介して供給される。ここで、露光制御信号は、露光時間を制御する信号であり、垂直同期信号は、撮像タイミングを指示する信号である。また、制御部130は、圧縮開始信号および伸長開始信号を生成して信号処理部300に信号線138を介して供給する。ここで、圧縮開始信号は、長時間露光データの圧縮開始のタイミングを指示する信号であり、伸長開始信号は、圧縮された長時間露光データの伸長のタイミングを指示する信号である。
【0027】
なお、撮像装置100は、表示部をさらに備え、その表示部に画像データを表示してもよい。また、撮像装置100は、インターフェースをさらに備え、そのインターフェースを介して、画像データを外部の装置に出力してもよい。
【0028】
また、撮像レンズ110、撮像素子200、信号処理部300、画像処理部120、制御部130および記録部140を同一の装置内に設ける構成としているが、これらを別々の装置に設ける構成としてもよい。例えば、撮像素子200などを撮像装置100に設け、画像処理部120を画像処理装置等に設ける構成としてもよい。
【0029】
[撮像素子の構成例]
図2は、第1の実施の形態における撮像素子200の一構成例を示すブロック図である。この撮像素子200は、行走査回路210、画素アレイ部220、タイミング制御回路250、AD(Analog to Digital)変換部260および列走査回路270を備える。画素アレイ部220には、2次元格子状に複数の画素回路230が設けられる。
【0030】
タイミング制御回路250は、行および列の走査のタイミングを制御するものである。ここで、行は画素アレイ部220において、ある一方向に複数の画素回路230が配列されたものであり、ラインとも呼ばれる。また、列は画素アレイ部220において行と直交する方向に複数の画素回路230が配列されたものである。画素アレイ部220には、n行、m列の画素回路230が配列される。ここで、nおよびmは整数である。
【0031】
タイミング制御回路250は、垂直同期信号Vsyncに同期して行を走査するタイミングを指示する水平同期信号Hsyncを生成し、行走査回路210に供給する。また、タイミング制御回路250は、水平同期信号Hsyncに同期して列を走査するタイミングを指示するタイミング信号を生成し、列走査回路270に供給する。
【0032】
行走査回路210は、水平同期信号Hsyncに同期して行の各々を選択するものである。この行走査回路210は、行選択信号を行の各々へ信号線219−1乃至219−nを介して順に出力することにより行を選択する。
【0033】
また、行走査回路210は、行を選択するたびに、露光制御信号に従って、その行を露光させる。この行走査回路210は、垂直同期信号の示す撮像タイミングから、垂直同期信号の周期未満の一定時間が経過したときに1行目の長時間露光を開始する。2行目以降の長時間露光は、直前の行の露光開始から1/fs秒が経過したときに開始される。ここで、fsは、水平同期信号Hsyncの周波数である。そして、行走査回路210は、各行の露光開始からTe1秒が経過したときに、その行の長時間露光を終了する。
【0034】
また、行走査回路210は、各行において長時間露光データの読出しが完了すると、その行の短時間露光を開始する。そして、行走査回路210は、各行の短時間露光開始からTe2秒が経過したときに、その行の短時間露光を終了する。
【0035】
画素回路230は、露光時間に応じた電位の画素信号を生成するものである。画素回路230は、信号線239−1乃至239−mのうちの対応する列の信号線を介して、生成した画素信号をAD変換部260に供給する。
【0036】
AD変換部260は、画素信号をAD変換して画素データを生成するものである。AD変換部260は、列ごとに設けられる。列走査回路270により選択された列のAD変換部260は、生成した画素データを信号処理部300に供給する。
【0037】
列走査回路270は、タイミング信号に従って、行の各々を選択するものである。この列走査回路270は、タイミング信号に従って、列選択信号をAD変換部260のそれぞれに順に出力することにより列を選択する。
【0038】
[画素回路の構成例]
図3は、第1の実施の形態における画素回路230の一構成例を示す回路図である。この画素回路230は、フォトダイオード231、転送トランジスタ232、リセットトランジスタ233、浮遊拡散層234、増幅トランジスタ235および選択トランジスタ236を備える。転送トランジスタ232、リセットトランジスタ233、増幅トランジスタ235および選択トランジスタ236として、例えば、n型のMOS(metal-oxide-semiconductor)トランジスタが用いられる。
【0039】
フォトダイオード231は、転送トランジスタ232のソースに接続される。転送トランジスタ232のゲートは、行走査回路210に接続され、ドレインは浮遊拡散層234に接続される。リセットトランジスタ233のゲートは行走査回路210に接続され、ソースは浮遊拡散層234に接続され、ドレインは電源に接続される。増幅トランジスタ235のゲートは浮遊拡散層234に接続され、ソースは電源に接続され、ドレインは選択トランジスタ236のソースに接続される。選択トランジスタ236のゲートは行走査回路210に接続され、ドレインはAD変換部260に接続される。
【0040】
フォトダイオード231は、光を電荷に変換するものである。転送トランジスタ232は、フォトダイオード231により変換された電荷を浮遊拡散層234に転送するものである。リセットトランジスタ233は、浮遊拡散層234の電荷の量を初期値にリセットするものである。浮遊拡散層234は、転送された電荷の量に応じたレベルの電位を生成するものである。増幅トランジスタ235は、浮遊拡散層234の電位を増幅するものである。選択トランジスタ236は、画素回路230が選択された際に、増幅された電位の電気信号を画素信号としてAD変換部260に出力するものである。
【0041】
行走査回路210は、ハイレベルの電圧を選択トランジスタ236に印加することにより、画素回路230を選択する。また、行走査回路210は、一定のパルス期間の間、ハイレベルの電圧をリセットトランジスタ233に印加することにより露光を開始させる。そして、行走査回路210は、露光時間が経過すると、一定のパルス期間の間、ハイレベルの電圧を転送トランジスタ232に印加することにより露光を終了させる。これらの制御により、露光時間に応じた電位の電気信号が生成される。
【0042】
[信号処理回路の構成例]
図4は、第1の実施の形態における信号処理部300の一構成例を示すブロック図である。この信号処理部300は、圧縮部310、遅延メモリ320、伸長部330、切替部340および合成部350を備える。
【0043】
切替部340は、圧縮開始信号に従って、撮像素子200からのラインデータの出力先を切り替えるものである。ここで、圧縮開始信号には、例えば、短時間露光の露光期間に亘ってハイレベルが設定され、それ以外の期間に亘ってローレベルが設定される。切替部340は、圧縮開始信号がハイレベルの場合には、ラインデータを長時間露光データとして圧縮部310に出力する。一方、圧縮開始信号がローレベルである場合に切替部340は、ラインデータを短時間露光データとして合成部350に出力する。
【0044】
圧縮部310は、固定の圧縮率により長時間露光データを圧縮して圧縮データを生成するものである。この圧縮部310は、生成した圧縮データを遅延メモリ320に供給する。
【0045】
遅延メモリ320は、遅延時間(Te2−Tc−Td)に亘って、圧縮データを保持するものである。遅延メモリ320として、例えば、SRAM(Static Random Access Memory)が用いられる。ここで、Tcは、長時間露光データの圧縮に要する時間であり、Tdは、圧縮データの伸長に要する時間である。また、遅延メモリ320として、次の式を満たすメモリ容量のメモリが用いられる。メモリ容量の単位は、例えば、バイトである。
(メモリ容量)≧k×D ・・・式1
上式において、Dは、圧縮データのデータサイズであり、単位は例えば、バイトである。kは、遅延メモリ320に保持されるラインデータの最大数である。kには、次の式を満たす最大値が設定される。
k/fs≦(Te2−Tc−Td) ・・・式2
【0046】
なお、遅延メモリ320は、特許請求の範囲に記載のメモリの一例である。
【0047】
伸長部330は、伸長開始信号に従って、圧縮データを伸長し、長時間露光データを復元するものである。この伸長開始信号は、例えば、短時間露光の開始から(Te2+Tr−Td)が経過したタイミングを伸長の開始タイミングとして示す。伸長部330は、伸長により復元した長時間露光データを合成部350に供給する。
【0048】
合成部350は、長時間露光データおよび短時間露光データを合成するものである。この合成部350は、例えば、長時間露光データ内の画素データごとに、その画素値が所定の閾値以上であるか否かを判断する。閾値未満である場合に合成部350は、長時間露光データ内の画素データを選択して出力し、閾値以上である場合に、短時間露光データ内の対応する画素データを選択して出力する。
【0049】
[圧縮部の構成例]
図5は、第1の実施の形態における圧縮部310および伸長部330の一構成例を示すブロック図である。同図におけるaは、第1の実施の形態における圧縮部310の一構成例を示すブロック図である。この圧縮部310は、再量子化部311を備える。
【0050】
再量子化部311は、長時間露光データにおいて、画素データのそれぞれのデータサイズを小さくする処理を再量子化処理として行うものである。例えば、再量子化部311は、12ビットの画素データを10ビットの画素データに再量子化する。再量子化部311は、再量子化処理後の長時間露光データを遅延メモリ320に供給する。
【0051】
なお、圧縮部310は、ハフマン符号化や算術符号化などのエントロピー符号化をさらに行ってもよい。
【0052】
[伸長部の構成例]
図5におけるbは、第1の実施の形態における伸長部330の一構成例を示すブロック図である。この伸長部330は、逆量子化部332を含む。
【0053】
逆量子化部332は、圧縮データにおいて画素データのデータサイズを元のサイズに戻す処理を逆量子化処理として行うものである。例えば、逆量子化部332は、10ビットの画素データを12ビットの画素データに逆量子化して長時間露光データを復元する。逆量子化部332は、復元した長時間露光データを合成部350に供給する。
【0054】
なお、伸長部330は、ハフマン符号や算術符号などのエントロピー符号の復号をさらに行ってもよい。
【0055】
図6は、第1の実施の形態における撮像装置100の動作の一例を示すタイミングチャートである。同図において横軸は時間であり、縦軸は行(ライン)の位置を示す。撮像装置100は、例えば、撮像を行うための操作が行われると、垂直同期信号Vsyncの生成を開始する。
【0056】
そして、撮像装置100は、1行目において、垂直同期信号の示す撮像タイミングから一定時間が経過したときに露光時間Te1の長時間露光を開始する。2行目以降の長時間露光は、直前の行の露光開始から1/fs秒が経過したときに開始される。そして、長時間露光が終了すると長時間露光データの読出しが開始され、所定の読出し時間Trが経過したときに、その読出しが完了する。撮像装置100は、その長時間露光データを圧縮して遅延メモリ320に保持する。図7において実線で囲まれた平行四辺形は、各行の長時間露光の露光期間を示す。
【0057】
また、撮像装置100は、長時間露光の後に露光時間Te2の短時間露光を開始する。また、伸長開始信号に従って、遅延メモリ320に保持された圧縮データが伸長されて長時間露光データが復元される。短時間露光が終了すると短時間露光データの読出しが開始され、所定の読出し時間Trが経過したときに、その読出しが完了する。図7において一点鎖線で囲まれた平行四辺形は、各行の短時間露光の露光期間を示す。
【0058】
短時間露光データが読み出された行において、撮像装置100は、その行の長時間露光データおよび短時間露光データを合成する。撮像装置100は、各行において合成されたラインデータからなる画像データを出力する。
【0059】
図6において、露光時間Te2内に読み出されるkラインの長時間露光データは、圧縮されて遅延メモリ320に保持される。このように、撮像装置100が、長時間露光データを圧縮して遅延メモリ320に保持することにより、圧縮しないで保持する場合よりも、遅延メモリ320のメモリ容量を少なくすることができる。メモリ容量が少ないほど、遅延メモリ320のコストを低下させることができる。また、メモリ容量が少ないほど、遅延メモリ320と、その遅延メモリ320にアクセスする回路との間のトラフィックが小さくなり、消費電力を低減することができる。
【0060】
[撮像装置の動作例]
図7は、第1の実施の形態における撮像装置100の動作の一例を示すフローチャートである。この動作は、例えば、撮像を開始するための所定の操作(シャッターボタンの押下など)がユーザにより行われたときに開始する。
【0061】
撮像装置100は、長時間露光を行って長時間露光データを生成する(ステップS902)。撮像装置100は、長時間露光データを圧縮して圧縮データを生成する(ステップS903)。また、撮像装置100は、露光時間Te2に応じた遅延時間に亘って圧縮データを遅延メモリ320に保持する(ステップS904)。そして、撮像装置100は、短時間露光を行って短時間露光データを生成する(ステップS905)。
【0062】
また、撮像装置100は、圧縮データを伸長し(ステップS906)、短時間露光データおよび長時間露光データを合成する(ステップS907)。撮像装置100は、全ラインにおいて、ラインデータを合成して出力したか否かを判断する(ステップS908)。いずれかのラインにおいて出力していなければ(ステップS908:No)、撮像装置100はステップS902に戻る。一方、全ラインにおいて出力したのであれば(ステップS908:No)、撮像装置100は、撮像のための動作を終了する。
【0063】
図8は、第1の実施の形態における合成前後の画像データの一例である。同図におけるaは、長時間露光データからなる画像データ501の一例である。同図におけるaに示すように、長時間露光を行うと、露出オーバーにより、明るい部分において階調が失われる現象(いわゆる、「白飛び」)が発生しやすくなる。同図におけるbは、短時間露光データからなる画像データ502の一例である。同図におけるbに示すように、短時間露光を行うと、露出アンダーにより、暗い部分において階調が失われる現象(いわゆる、「黒つぶれ」)が生じやすくなる。
【0064】
図8におけるcは、合成後の画像データ503の一例を示す図である。露光時間の異なる画像データ501および502の合成により、ダイナミックレンジの広い画像データ503が得られる。これにより、白飛びや黒つぶれの発生が防止される。
【0065】
このように、本技術の第1の実施の形態によれば、撮像装置100は、長時間露光データを圧縮してメモリに保持し、その保持された圧縮データを伸長して短時間露光データと合成するため、メモリ容量の増大を抑制することができる。
【0066】
[第1の変形例]
第1の実施の形態では、撮像装置100は、再量子化処理、長時間露光データを圧縮していたが、圧縮時に低解像度変換をさらに行ってもよい。第1の変形例の撮像装置100は、圧縮時に低解像度変換をさらに行う点において第1の実施の形態と異なる。
【0067】
図9は、第1の実施の形態の第1の変形例における圧縮部310および伸長部330の一構成例を示すブロック図である。同図におけるaは、第1の変形例の圧縮部310の一構成例を示すブロック図である。第1の変形例の圧縮部310は、低解像度変換部312をさらに備える点において第1の実施の形態と異なる。
【0068】
低解像度変換部312は、長時間露光データにおいて、画素データを一定数間引く処理を低解像度変換処理として行うものである。低解像度変換部312は、低解像度変換処理後の長時間露光データを圧縮データとして遅延メモリ320に供給する。
【0069】
なお、圧縮部310は、再量子化処理および低解像度変換処理の両方を行っているが、一方のみを行ってもよい。また、圧縮部310は、ハフマン符号化や算術符号化などのエントロピー符号化をさらに行ってもよい。
【0070】
図9におけるbは、第1の変形例の伸長部330の一構成例を示すブロック図である。第1の変形例の伸長部330は、高解像度変換部331をさらに備える点において第1の実施の形態と異なる。
【0071】
高解像度変換部331は、伸長開始信号に従って、圧縮データにおいて、間引かれた画素データ数と同じ個数の新たな画素データを補間する処理を高解像度変換処理として行うものである。この高解像度変換部331は、高解像度変換処理後の圧縮データを逆量子化部332に供給する。
【0072】
なお、伸長部330は、逆量子化処理および高解像度変換処理の両方を行っているが、一方のみを行ってもよい。また、圧縮部310は、ハフマン符号化や算術符号化などのエントロピー符号化をさらに行ってもよい。
【0073】
このように第1の変形例によれば、撮像装置100は、低解像度変換を行うため、圧縮率をさらに高くすることができる。
【0074】
[第2の変形例]
第1の変形例では、撮像装置100は、再量子化処理や低解像度変換処理により、長時間露光データを圧縮していたが、長時間露光データにおいて画素データを輝度信号および色差信号に変換するYC変換をさらに行ってもよい。YC変換により、色の情報の圧縮率を高くすることができる。第2の変形例の撮像装置100は、圧縮時にYC変換をさらに行う点において第1の変形例と異なる。
【0075】
図10は、第1の実施の形態の第2の変形例における圧縮部310および伸長部330の一構成例を示すブロック図である。同図におけるaは、第1の変形例の圧縮部310の一構成例を示すブロック図である。第2の変形例の圧縮部310は、YC変換部313をさらに備える点において第1の変形例と異なる。
【0076】
YC変換部313は、長時間画像データに対してYC変換を行うものである。YC変換部313は、例えば、ITU−R(International Telecommunication Union Radiocommunication Sector).BT.601の規格に基づいて次の式を用いてYC変換を行う。YC変換部313は、YC変換後の長時間露光データを再量子化部311に供給する。
Y=0.299×R+0.587×G+0.144×B ・・・式3
Cb=−0.168736×R−0.331264×G+0.5×B ・・・式4
Cr=0.5×R−0.418688×G−0.081312×B ・・・式5
式3においてYは、輝度信号である。式4および式5においてCrおよびCbは、色差信号である。
【0077】
なお、圧縮部310は、ハフマン符号化や算術符号化などのエントロピー符号化をさらに行ってもよい。
【0078】
図10におけるbは、第2の変形例の伸長部330の一構成例を示すブロック図である。第2の変形例の伸長部330は、RGB変換部333をさらに備える点において第1の変形例と異なる。
【0079】
RGB変換部333は、逆量子化部332からのデータにおいて、色差信号および輝度信号を画素データR、GおよびBに変換するものである。
【0080】
なお、伸長部330は、ハフマン符号や算術符号などのエントロピー符号の復号をさらに行ってもよい。
【0081】
このように第2の変形例によれば、撮像装置100は、長時間露光データの圧縮の際にYC変換を行うため、色情報の圧縮率をさらに高くすることができる。
【0082】
[第3の変形例]
第1の実施の形態では、撮像装置100は、再量子化処理や低解像度変換処理により、長時間露光データを圧縮していたが、長時間露光データにおいて周波数変換をさらに行ってもよい。周波数変換として、離散コサイン変換、アダマール変換、または、ウェーブレット変換などが用いられる。周波数変換により、高周波数成分の圧縮率を高くすることができる。第3の変形例の撮像装置100は、圧縮時に周波数変換をさらに行う点において第1の変形例と異なる。
【0083】
図11は、第1の実施の形態の第3の変形例における圧縮部310および伸長部330の一構成例を示すブロック図である。同図におけるaは、第3の変形例の圧縮部310の一構成例を示すブロック図である。第3の変形例の圧縮部310は、離散コサイン変換部314をさらに備える点において第1の変形例と異なる。
【0084】
離散コサイン変換部314は、長時間露光データに対して離散コサイン変換を行うものである。この離散コサイン変換部314は、離散コサイン変換後の長時間露光データを再量子化部311に供給する。
【0085】
なお、圧縮部310は、離散コサイン変換の代わりに、アダマール変換やウェーブレット変換などの周波数変換を行ってもよい。また、圧縮部310は、ハフマン符号化や算術符号化などのエントロピー符号化をさらに行ってもよい。
【0086】
図11におけるbは、第3の変形例の伸長部330の一構成例を示すブロック図である。第3の変形例の伸長部330は、逆離散コサイン変換部334をさらに備える点において第1の変形例と異なる。
【0087】
逆離散コサイン変換部334は、逆量子化部332からのデータにおいて、離散コサイン変換の逆変換を行うものである。
【0088】
なお、伸長部330は、逆離散コサイン変換の代わりに、アダマール変換やウェーブレット変換の逆変換を行ってもよい。また、伸長部330は、ハフマン符号や算術符号などのエントロピー符号の復号をさらに行ってもよい。
【0089】
このように第3の変形例によれば、撮像装置100は、長時間露光データの圧縮の際に周波数変換を行うため、高周波数成分の圧縮率をさらに高くすることができる。
【0090】
[第4の変形例]
第1の実施の形態では、撮像装置100は、固定の圧縮率により長時間露光データを圧縮していたが、遅延時間に応じて圧縮率を変えてもよい。式2より、遅延時間(Te2−Tc−Td)が短いほど、遅延メモリ320に保持されるラインデータ数kが少なくなるため、圧縮率を低くすることができる。前述の再量子化処理は、非可逆の圧縮処理であるため、圧縮率が低いほど、画像データの画質が向上する。第4の変形例の撮像装置100は、遅延時間に応じて圧縮率を変える点において第1の変形例と異なる。
【0091】
図12は、第1の実施の形態の第4の変形例における撮像装置100の動作の一例を示すフローチャートである。
【0092】
第4の変形例の撮像装置100は、遅延時間が短いほど低い圧縮率を設定し(ステップS901)、ステップS902以降の処理を実行する。
【0093】
このように第4の変形例によれば、撮像装置100は、遅延時間が短いほど低い圧縮率で長時間露光データを圧縮するため、遅延時間が短いほど高い画質の画像データを生成することができる。
【0094】
<2.第2の実施の形態>
第1の実施の形態では、撮像素子200の外部に制御部130、信号処理部300および画像処理部120を設けていたが、これらをワンチップ化して、撮像素子200の内部に制御部130、信号処理部300および画像処理部120を設けてもよい。ワンチップ化により、撮像素子200内の各回路と制御部130、信号処理部300および画像処理部120との間の配線を短くすることができる。これにより、撮像装置100の消費電力やコストを低減することができる。第2の実施の形態の撮像装置100は、撮像素子200の内部に制御部130、信号処理部300および画像処理部120を設けた点において第1の実施の形態と異なる。
【0095】
図13は、第2の実施の形態における撮像装置100の一構成例を示すブロック図である。第2の実施の形態の撮像装置100は、制御部130、信号処理部300および画像処理部120が撮像素子200の内部に設けられている点において第1の実施の形態と異なる。
【0096】
図14は、第2の実施の形態における撮像素子200の一構成例を示すブロック図である。第2の実施の形態の撮像素子200は、制御部130、信号処理部300および画像処理部120をさらに備える点において第1の実施の形態と異なる。なお、撮像素子200内の行走査回路210、画素アレイ部220、タイミング制御回路250、AD変換部260および列走査回路270は、特許請求の範囲に記載のデータ生成部の一例である。
【0097】
このように、本技術の第2の実施の形態によれば、撮像素子200、制御部130、信号処理部300および画像処理部120を一体化したため、撮像素子200内の各回路と信号処理部300との間の配線を短くすることができる。これにより、撮像装置100の消費電力やコストを低減することができる。
【0098】
<3.第3の実施の形態>
第1の実施の形態では、撮像素子200を1つの基板上に形成していたが、撮像素子200内の各回路を複数の基板に分散して設けて、それらの基板を積層してもよい。この積層型の配置により、撮像素子200の面積を小さくすることができる。第3の実施の形態の撮像素子200は、積層された複数の基板に各回路が設けられている点において第1の実施の形態と異なる。
【0099】
図15は、第3の実施の形態における撮像素子200の一構成例を示すブロック図である。第3の実施の形態の撮像素子200は、上側基板201および下側基板202を備える。
【0100】
上側基板201は、下側基板202に積層される基板であり、この上側基板201には画素アレイ部220が設けられる。一方、下側基板202には、行走査回路210、タイミング制御回路250、AD変換部260および列走査回路270が設けられる。
【0101】
なお、上側基板201および下側基板202のそれぞれに配置する回路は、図15に例示したものに限定されない。例えば、上側基板201に、AD変換部260をさらに設けてもよい。また、上側基板201に、AD変換部260内のコンパレータを設け、下側基板202に、AD変換部260内のカウンタを設けてもよい。
【0102】
このように、本技術の第3の実施の形態によれば、撮像素子200内の各回路を、積層された複数の基板に分散して設けたため、撮像素子200の面積を小さくすることができる。
【0103】
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【0104】
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disc)、メモリカード、ブルーレイディスク(Blu-ray(登録商標)Disc)等を用いることができる。
【0105】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【0106】
なお、本技術は以下のような構成もとることができる。
(1)異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理と当該長時間露光処理の後に前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理とを順に実行するデータ生成部と、
前記長時間露光データを圧縮して圧縮データを生成する圧縮部と、
前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持するメモリと、
前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長部と、
前記復元された長時間露光データと前記短時間露光データとを合成する合成部と
を具備する撮像装置。
(2)前記圧縮部は、前記遅延時間が短いほど低い圧縮率により前記長時間露光データを圧縮する
前記(1)記載の撮像装置。
(3)前記複数の画素データのそれぞれのデータサイズは、所定サイズであり、
前記圧縮部は、前記長時間露光データ内の前記複数の画素データのそれぞれのデータサイズを前記所定サイズより小さくし、
前記伸長部は、前記圧縮データにおいて前記画素データのそれぞれのデータサイズを前記所定サイズに戻す
前記(1)または(2)に記載の撮像装置。
(4)前記圧縮部は、前記長時間露光データにおいて所定数の前記画素データを間引き、
前記伸長部は、前記圧縮データにおいて前記所定数の新たな画素データを補間する
前記(1)から(3)のいずれかに記載の撮像装置。
(5)前記複数の画素データのそれぞれは、赤、緑および青のいずれかの画素値を含み、
前記圧縮部は、前記画素値のそれぞれから色差信号および輝度信号を生成し、
前記伸長部は、前記色差信号および輝度信号から赤、緑および青のそれぞれの画素値を生成する
前記(1)から(4)のいずれかに記載の撮像装置。
(6)前記圧縮部は、前記長時間露光データに対して周波数変換を行い、
前記伸長部は、前記圧縮データに対して逆周波数変換を行う
前記(1)から(5)のいずれかに記載の撮像装置。
(7)前記圧縮部は、前記長時間露光データにおいて前記複数の画素データのそれぞれをエントロピー符号に符号化し、
前記伸長部は、前記エントロピー符号のそれぞれを前記画素データに復号する
前記(1)から(6)のいずれかに記載の撮像装置。
(8)前記データ生成部は、
第1の基板に設けられた複数の画素と、
前記第1の基板と異なる第2の基板において前記長時間露光処理および前記短時間露光処理を実行するデータ生成回路と
を備える前記(1)から(7)のいずれかに記載の撮像装置。
(9)異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光処理と当該長時間露光処理の後に前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光処理とを順に実行するデータ生成部と、
前記長時間露光データを圧縮して圧縮データを生成する圧縮部と、
前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持するメモリと、
前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長部と、
前記復元された長時間露光データと前記短時間露光データとを合成する合成部とを具備する撮像素子。
(10) データ生成部が、異なる2つの露光時間のうち長い方の時間に亘って露光を行って複数の画素データからなるデータを長時間露光データとして生成する長時間露光手順と、
データ生成部が、前記長時間露光処理の後に前記2つの露光時間のうち短い方の時間に亘って露光を行って複数の画素データからなるデータを短時間露光データとして生成する短時間露光手順と、
圧縮部が、前記長時間露光データを圧縮して圧縮データを生成する圧縮手順と、
メモリが、前記2つの露光時間のうち短い方に応じた遅延時間に亘って前記圧縮データを保持する遅延手順と、
伸長部が、前記保持された圧縮データを伸長して前記長時間露光データを復元する伸長手順と、
合成部が、前記復元された長時間露光データと前記短時間露光データとを合成する合成手順と
を具備する撮像装置の制御方法。
【符号の説明】
【0107】
100 撮像装置
110 撮像レンズ
120 画像処理部
130 制御部
140 記録部
200 撮像素子
201 上側基板
202 下側基板
210 行走査回路
220 画素アレイ部
230 画素回路
231 フォトダイオード
232 転送トランジスタ
233 リセットトランジスタ
234 浮遊拡散層
235 増幅トランジスタ
236 選択トランジスタ
250 タイミング制御回路
260 AD変換部
270 列走査回路
300 信号処理部
310 圧縮部
311 再量子化部
312 低解像度変換部
313 YC変換部
314 離散コサイン変換部
320 遅延メモリ
330 伸長部
331 高解像度変換部
332 逆量子化部
333 RGB変換部
334 逆離散コサイン変換部
340 切替部
350 合成部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15