(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-03-11
(45)【発行日】2022-03-22
(54)【発明の名称】撮像装置、映像処理方法、およびプログラム
(51)【国際特許分類】
H04N 5/243 20060101AFI20220314BHJP
H04N 5/235 20060101ALI20220314BHJP
H04N 5/225 20060101ALI20220314BHJP
H04N 5/232 20060101ALI20220314BHJP
H04N 5/357 20110101ALI20220314BHJP
H04N 9/09 20060101ALI20220314BHJP
【FI】
H04N5/243
H04N5/235 100
H04N5/225 800
H04N5/232
H04N5/357
H04N9/09 A
(21)【出願番号】P 2020548188
(86)(22)【出願日】2019-08-23
(86)【国際出願番号】 JP2019033061
(87)【国際公開番号】W WO2020059425
(87)【国際公開日】2020-03-26
【審査請求日】2021-01-27
(31)【優先権主張番号】P 2018174131
(32)【優先日】2018-09-18
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001122
【氏名又は名称】株式会社日立国際電気
(74)【代理人】
【識別番号】110000062
【氏名又は名称】特許業務法人第一国際特許事務所
(72)【発明者】
【氏名】澁谷 拓洋
【審査官】大西 宏
(56)【参考文献】
【文献】特開2012-019429(JP,A)
【文献】特開2017-224885(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222- 5/257
H04N 9/04 - 9/11
H04N 5/30 - 5/378
(57)【特許請求の範囲】
【請求項1】
被写体像の光を分光する光学系と、
前記光学系により分光された各被写体像をそれぞれローリングシャッタ方式で撮像する複数の撮像素子と、
前記複数の撮像素子の間において、前記ローリングシャッタ方式の先幕/後幕の間であるスリット範囲を副走査方向に少なくとも1ライン分ずらす撮像部と、
前記複数の撮像素子が出力する映像信号を互いに比較して、前記映像信号の間に生じるライン単位のレベル相違を求める比較部と、
前記レベル相違に基づいてフラッシュバンドによる前記映像信号の影響を補正する補正部と
を備えた撮像装置。
【請求項2】
請求項1に記載の撮像装置において、
前記撮像部は、
前記複数の撮像素子間において、露光開始のタイミングを所定時間ずらす
ことを特徴とする撮像装置。
【請求項3】
請求項1に記載の撮像装置において、
前記複数の撮像素子は、
分光された前記各被写体像の像位置を基準にして、撮像領域を前記副走査方向に少なくとも1ライン分ずらして配置される
ことを特徴とする撮像装置。
【請求項4】
請求項1~3のいずれか1項に記載の撮像装置において、
前記各被写体像に対して前記スリット範囲が先に通過する撮像素子の映像信号を遅延させて、前記複数の撮像素子が出力する映像のラインずれを低減する信号遅延部を備え、
前記比較部は、
前記信号遅延部を介して複数の映像信号を比較して、前記映像信号の間に生じるライン単位のレベル相違を求める
ことを特徴とする撮像装置。
【請求項5】
請求項1~4のいずれか1項に記載の撮像装置において、
前記比較部は、
前記スリット範囲が先に通過する撮像素子Aの信号レベルLaと、前記スリット範囲が後に通過する撮像素子Bの信号レベルLbとのライン単位のレベル相違を求め、
前記補正部は、
前記レベル相違と、1ライン前の撮像素子Bの補正値Gbとを合成して、撮像素子Bの補正値Gbとし、撮像素子Bの映像信号をライン単位に補正し、
1ライン前の補正ゲインGbを、撮像素子Aの補正値Gaとし、撮像素子Aの映像信号をライン単位に補正する
ことを特徴とする撮像装置。
【請求項6】
請求項1~5のいずれか1項に記載の撮像装置において、
前記複数の撮像素子は、
分光された前記各被写体像の像位置を基準にして、画素配列の位相をずらして配置される
ことを特徴とする撮像装置。
【請求項7】
請求項1~6のいずれか1項に記載の撮像装置において、
前記光学系は、
被写体像を、赤成分、青成分、および2つの緑成分に分光し、
前記撮像部は、
2つの緑成分をそれぞれ受光する2つの撮像素子間において、前記スリット範囲を副走査方向に所定ライン数分ずらして走査し、
前記比較部は、
前記2つの緑成分の映像信号の信号レベルを比較し、ライン単位のレベル相違を求め、
前記補正部は、
前記2つの緑成分の前記レベル相違に応じて前記フラッシュバンドの緑成分を補正し、前記レベル相違を赤成分に色相調整したレベル相違に応じて前記フラッシュバンドの赤成分を補正し、前記レベル相違を青成分に色相調整したレベル相違に応じて前記フラッシュバンドの青成分を補正する
ことを特徴とする撮像装置。
【請求項8】
被写体像の光を分光する光学系と、
前記光学系により分光された各被写体像をそれぞれローリングシャッタ方式で撮像する複数の撮像素子と、
前記複数の撮像素子間において、前記ローリングシャッタ方式の先幕/後幕の間であるスリット範囲を副走査方向に少なくとも1ライン分ずらして走査する撮像部と
を備えた撮像装置の映像信号を処理する方法であって、
前記複数の撮像素子が出力する映像信号を互いに比較して、前記映像信号の間に生じるライン単位のレベル相違を求める比較ステップと、
前記レベル相違に基づいてフラッシュバンドによる前記映像信号の影響を補正する補正ステップと
を備えた映像処理方法。
【請求項9】
被写体像の光を分光する光学系と、
前記光学系により分光された各被写体像をそれぞれローリングシャッタ方式で撮像する複数の撮像素子と、
前記複数の撮像素子間において、前記ローリングシャッタ方式の先幕/後幕の間であるスリット範囲を副走査方向に少なくとも1ライン分ずらして走査する撮像部と
を備えた撮像装置の映像信号をコンピュータに処理させるためのプログラムであって、
コンピュータに、
前記複数の撮像素子が出力する映像信号を互いに比較して、前記映像信号の間に生じるライン単位のレベル相違を求める比較ステップと、
前記レベル相違に基づいてフラッシュバンドによる前記映像信号の影響を補正する補正ステップと
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、映像処理方法、およびプログラムに関する。
【背景技術】
【0002】
近年のCMOS(Complementary Metal Oxide Semiconductor)撮像素子の性能向上 により、従来CCD(Charge Coupled Device)撮像素子の採用が主流であった放送カ メラ等の業務用撮像装置においてもCMOS撮像素子が採用されることが多くなっている 。
【0003】
CMOS撮像素子では、主走査方向の走査ライン(以下、「ライン」という。)毎に順 次に電荷蓄積(以下、露光という)を開始し、ライン毎に映像信号を順次読み出してフレ ームを出力するローリングシャッタ方式のものが多い。
このローリングシャッタ方式では、ライン毎に露光を開始する時間が異なるため、フレ ームの途中で被写体にフラッシュが焚かれた場合、読み出されたフレーム内の映像信号に 帯状の信号レベルの段差(フラッシュバンド)が生じることがある。
【0004】
このフラッシュバンドを検出する技術はいくつか提案されている。
【0005】
例えば、特許文献1には、1フレーム内においてライン間の信号レベルを算出し、1フ レーム内でレベル変化があった場合、その変化値が所定値以上であればフラッシュバンド が発生したと検出する方法が開示されている。
【0006】
また、特許文献2には、1フレーム目の画面下部と2フレーム目の画面上部に画素の信 号レベルが増加した領域が存在し、さらに、1フレーム目でレベルが増加した領域が、2 フレーム目で信号レベルが減少していた場合にフラッシュバンドが発生したと検出する方 法が開示されている。
【0007】
また、発生したフラッシュバンドを補正する技術もいくつか提案されている。
【0008】
例えば、特許文献1には、フラッシュバンドが発生したフレームを除去し、フラッシュ バンドが発生していない前フレームに置き換える方法や、フラッシュバンドが発生した複 数フレームの中で、同じ信号レベルのラインの映像同士を繋ぎ合わせた映像を生成して置 き換える方法が開示されている。
【0009】
また、特許文献2には、フラッシュバンドが発生したフレームを除去し、フラッシュバ ンドが発生していない前後のフレームの映像を合成して置き換える方法が開示されている 。
【0010】
さらに、特許文献3には、フラッシュバンドが発生したフレームを除去し、フラッシュ バンドが発生する前のフレームの映像を用いて、擬似的に画面全体にフラッシュの影響を 受けた映像を生成して置き換える方法が開示されている。
【先行技術文献】
【特許文献】
【0011】
【文献】特開2015-126425号公報
【文献】特開2007-306225号公報
【文献】特開2014-187673号公報
【発明の概要】
【発明が解決しようとする課題】
【0012】
しかしながら、1フレーム内のライン間の信号レベルの変化によってフラッシュバンド を検出する方法では、上下方向に信号レベルがくっきりと分かれる被写体を撮像した場合 にフラッシュバンドと誤って検出してしまう不具合がある。
【0013】
また、多くの会見者が集まる記者会見などでは、特に注目される場面(被会見者がポー ズをとる場面や頭を下げる場面など)で、多くのフラッシュが連続して照射されることが 多い。この場合、数フレームにわたってフラッシュバンドが発生し続けるため、フレーム 間で信号レベルを比較してフラッシュバンドを検出する方法では正確な検出を行うことが 難しい。
【0014】
さらに、数フレームにわたって連続してフラッシュバンドが発生した場合、フレームを 置き換える補正方法では、数フレームにわたって映像が静止してしまう。
【0015】
また、同一フレーム内において、複数のフラッシュが重畳して照射された場合には、信 号レベルの異なる複数のフラッシュバンドが発生する。また、フラッシュの発光期間が長 くなると、数十ラインから数百ラインにもわたって緩やかに信号レベルが変化するフラッ シュバンドが発生する。このようなケースにおいて、フラッシュバンドによる信号レベル の緩やかな変化を正確に検出・補正することは困難であった。
【0016】
そこで、本発明は、フラッシュバンドを適切に検出・補正する技術を提供することを目 的とする。
【課題を解決するための手段】
【0017】
上記課題を解決するために、代表的な本発明の撮像装置の一つは、被写体像の光を分光 する光学系と、光学系により分光された各被写体像をそれぞれローリングシャッタ方式で 撮像する複数の撮像素子と、複数の撮像素子の間においてローリングシャッタ方式の先幕 /後幕の間であるスリット範囲を副走査方向に少なくとも1ライン分ずらす撮像部と、複 数の撮像素子が出力する映像信号を互いに比較して、映像信号の間に生じるライン単位の レベル相違を求める比較部と、レベル相違に基づいてフラッシュバンドによる映像信号の 影響を補正する補正部とを備える。
【発明の効果】
【0018】
本発明によれば、フラッシュバンドを適切に検出・補正することができる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる 。
【図面の簡単な説明】
【0019】
【
図2】撮像素子のローリングシャッタ動作を説明する図である。
【
図3】ローリングシャッタ動作を時間軸に表した説明図である。
【
図4】フラッシュバンドの検出・補正を説明する図である。
【
図5】フラッシュバンドの検出・補正を説明する図である。
【
図6】ローリングシャッタ動作を時間軸に表した説明図である。
【
図7】フラッシュバンドの検出・補正を説明する図である。
【
図8】ローリングシャッタ動作を時間軸に表した説明図である。
【
図9】フラッシュバンドの検出・補正を説明する図である。
【
図10】撮像素子の空間ラインずらしを説明する図である。
【
図11】実施例3の構成例を示すブロック図である。
【発明を実施するための形態】
【0020】
以下、図面に基づいて、発明の実施形態を説明する。
【実施例1】
【0021】
<実施例1の構成説明>
図1は、実施例1の構成例を示すブロック図である。
図1において、撮像装置1は、レンズ2aおよび分光プリズム2bを備える光学系、撮 像素子A、撮像素子B、駆動部3、映像信号処理部4、映像信号出力部5、およびCPU (Central Processing Unit)部7を備える。
【0022】
レンズ2aは、被写体からの入射光を被写体像に結像する。分光プリズム2bは被写体 像の結像光を分光する。
【0023】
撮像素子A,Bは、同一仕様のモノクロまたはカラーモザイクフィルタの撮像素子であ る。撮像素子A,Bの撮像領域は、分光プリズム2bに対して分光された各被写体像を同 画素位置で受光する位置に配置される。また、同一仕様のローリングシャッタ形式により ライン単位に電荷蓄積および読み出しがなされる。
【0024】
駆動部3は、駆動信号生成部31および駆動遅延部32を備える。駆動信号生成部31 は、撮像素子A,Bの駆動信号(例えば、水平同期信号や垂直同期信号など)を生成する 。駆動遅延部32は、撮像素子Aの駆動信号に対して、撮像素子Bの駆動信号を所定時間 だけ遅延させる。
【0025】
映像信号処理部4は、信号遅延部41、比較部42、補正部43、映像合成部44、ガ ンマ補正部45などを備える。
【0026】
信号遅延部41は、撮像素子Aから出力される映像信号aを所定時間だけ遅延させるこ とにより、露光開始の遅れた撮像素子Bの映像信号bに対して、映像信号aの映像位相を 合わせる。
【0027】
比較部42は、映像位相を合わせた映像信号a,bについて、ライン単位に信号レベル を比較して、ゲイン差などのレベル相違を求める。このような比較は、輝度成分について 行ってもよいし、またカラーモザイクの色成分(例えばベイヤー配列のRGB色成分)別 に行ってもよい。また、1ラインの平均レベルを比較してもよいし、1ラインの画素単位 に比較してもよい。
【0028】
補正部43は、映像位相を合わせた映像信号a,bそれぞれを内部のラインメモリに順 次に保持する。補正部43は、比較部42で求めたライン単位のレベル相違に基づいて、 後述するルールに従って映像信号a,bをライン単位に利得補正し、フラッシュバンドの 影響を低減する。
【0029】
映像合成部44は、フラッシュバンドの影響を低減した映像信号a,bを1つの映像信 号(輝度色差信号など)に合成する。ここで、撮像素子A,Bが画素ずらし配列されてい る場合は、解像度を高める処理が行われる。
ガンマ補正部45は、合成された映像信号に対して利得補正、ガンマ補正、ニー補正、 輪郭補正、色補正などの各種映像信号処理を施す。
【0030】
映像信号出力部5は、映像信号処理部4から出力される映像信号を、HD-SDI(Hi gh Definition Serial Digital Interface)信号などの所定の映像信号形式に変換し 、外部に出力する。
CPU部7は、駆動部3の制御や、映像信号処理部4の制御などを実行する。
次に、実施例1の各種動作について順番に説明する。
【0031】
<ローリングシャッタ動作の説明>
図2は、撮像素子A,Bのローリングシャッタ動作を説明する図である。
同図において、電子先幕は、撮像素子A,Bの撮像領域の蓄積電荷を1ライン分排出し てリセットする動作である。このリセットされたラインは、その瞬間から受光量に応じた 電荷蓄積を開始する。
【0032】
一方、電子後幕は、撮像素子A,Bの蓄積電荷による電圧(映像信号)を1ライン分読 み出す動作である。
この電子先幕と電子後幕との間に挟まれる画素領域は、電荷蓄積を継続中(つまり露光 中)の領域であり、ローリングシャッタにおけるシャッタ幕間のスリット範囲に該当する 。以下、これをスリット範囲という。
【0033】
このスリット範囲は、撮像装置1が設定する露出時間(シャッタ速度)により決まるス リット幅(ライン数)を保ちながら、副走査方向に所定の副走査速度で移動する。
図2に示すように、撮像素子Bのスリット範囲は、撮像素子Aのスリット範囲に対して 副走査方向に少なくとも1ライン分(1ラインの短尺方向の幅)だけ遅れた状態を保って 移動(走査)する。
【0034】
このスリット範囲の遅れは、駆動部3において、撮像素子Bの駆動信号を撮像素子Aの駆動信号に対して所定時間だけ遅延させ、撮像素子A,Bの露光開始タイミングをずらすことにより実現する。この場合の所定時間は、次式を目安に決定できる。
露光開始を遅延させる所定時間=ずれ幅のライン数×映像信号の1ライン期間
以下、説明を簡略化するために、スリット範囲のずれ幅を1ライン分とするが、必要に応じて、少なくとも複数nライン分(1ラインの短尺幅のn倍)としてもよい。
【0035】
なお、このローリングシャッタ動作では、撮像素子Aが撮像した映像と、撮像素子Bが 撮像した映像は、露光開始を遅延させた所定時間だけ同期がずれることになる。そのため 、厳密には、同じ瞬間の被写体の映像ではない。しかし、例えばフルHD(例えば、フレ ームレート60Hzで総ライン数1125本のプログレッシブスキャン)の撮像素子では 、映像信号の1ライン期間は約15マイクロ秒という一瞬であり、超高速被写体の撮影で ない限り、撮像素子Aと撮像素子Bは、同じ瞬間の被写体の映像を撮像したものと見なす ことができる。 <画面上部および画面下部に発生するフラッシュバンドの検出・補正>
続いて、
図3~
図5を参照して、画面上部および画面下部に発生するフラッシュバンド の検出・補正について説明する。
【0036】
図3は、ローリングシャッタ動作を時間軸に表した説明図である。
同図において、2フレーム目の撮像領域の下部から3フレーム目の撮像領域の上部にス リット範囲が跨がったタイミングで、被写体に第三者のフラッシュが照射されている。そ のため、撮像映像において、2フレーム目の画面下部、および3フレーム目の画面上部に 、フラッシュバンドが発生する。
【0037】
図4は、この2フレーム目におけるフラッシュバンドの検出・補正を説明する図である 。
同図において、撮像素子AがXライン目の電荷蓄積を完了した後で、かつ露光開始を1 ライン分遅らせた撮像素子BがXラインの電荷蓄積をまだ行っているタイミングで、フラ ッシュが照射される。
【0038】
この場合、撮像素子AのXライン目は、電荷蓄積を完了しているため、フラッシュバン ドは発生しない。一方、撮像素子BのXライン目は、電荷蓄積中のため、フラッシュバン ドが発生する。
比較部42は、信号遅延部41により映像位相を合わせた映像信号a,bを比較するこ とにより、Xライン目に発生したレベル相違を検出し、補正部43に出力する。
【0039】
補正部43は、
図4に示すXラインのように、露光開始の早い撮像素子Aの信号レベル が、露光開始の遅い撮像素子Bの信号レベルを下回るラインを、フラッシュバンドの開始 ラインと判定する。
【0040】
補正部43は、有意なレベル相違でない場合(絶対値が閾値未満のレベル相違など)、 レベル相違を「0dB」に置き換えることで、誤った補正を防止する。
【0041】
補正部43は、レベル相違の値と、1ライン前の撮像素子Bの補正値gbとを合成して 、現ラインの撮像素子Bの補正値gbとする。
例えば、
図4に示すXライン目では、レベル相違:-6dBに対して、(X-1)ライ ン目の撮像素子Bの補正値gb:0dBを合成して、Xライン目の補正値gbは-6dB となる。
【0042】
図4に示す撮像素子Bの(X+1)ライン以降では、レベル相違:0dBに対して、1 ライン前の補正値gb:-6dBを合成することにより、補正値gbは-6dBを継続す る。
【0043】
補正部43は、求めた補正値gbにより映像信号bをレベル補正する。このレベル補正 により、撮像素子Bの映像信号bに発生した画面下部のフラッシュバンドは暗く補正され て目立たなくなる。
【0044】
また、補正部43は、1ライン前の補正値gbを、撮像素子Aの補正値gaとする。補 正部43は、この補正値gaにより映像信号aをレベル補正する。このレベル補正により 、撮像素子Aの映像信号aに1ラインずれて発生した画面下部のフラッシュバンドは暗く 補正されて目立たなくなる。
【0045】
図5は、
図3に示した3フレーム目のフラッシュバンドの検出・補正を説明する図であ る。
同図において、撮像素子AがXライン目の電荷リセットを完了して電荷蓄積を開始した 後で、かつ撮像素子Bが電荷蓄積を開始する前のタイミングで、フラッシュが照射される 。
【0046】
この場合、撮像素子AのXライン目には、電荷蓄積を開始した直後のため、フラッシュ バンドが発生する。一方、撮像素子BのXライン目は、電荷蓄積を開始する前のため、フ ラッシュバンドは発生しない。
【0047】
比較部42は、信号遅延部41により映像位相を合わせた映像信号a,bを比較するこ とにより、Xライン目に発生したレベル相違を検出し、補正部43に出力する。
【0048】
補正部43は、
図5に示すXラインのように、露光開始の早い撮像素子Aの信号レベル が、露光開始の遅い撮像素子Bの信号レベルを上回るラインを、フラッシュバンドの終了 ラインと判定する。
【0049】
補正部43は、有意なレベル相違でない場合(絶対値が閾値未満のレベル相違など)、 レベル相違を「0dB」に置き換えて、誤った補正を防止する。
【0050】
補正部43は、レベル相違の値と、1ライン前の撮像素子Bの補正値gbとを合成して 、現ラインの撮像素子Bの補正値gbとする。
例えば、
図5に示すXライン目では、レベル相違:+6dBに対して、(X-1)ライ ン目の撮像素子Bの補正値gb:0dBを合成して、Xライン目の補正値gbは+6dB となる。
【0051】
図5に示す(X+1)ライン以降では、レベル相違:0dBに対して、1ライン前の補 正値gb:+6dBを合成することにより、補正値gbは+6dBを継続する。
【0052】
補正部43は、この補正値gbにより映像信号bのXライン目以降をレベル補正する。 このレベル補正により、撮像素子Bの画面上部のフラッシュバンドに信号レベルを合わせ るように、画面下部が補正される。その結果、フラッシュバンドの境目は低減されて目立 たなくなり、画面全体が一様にフラッシュを受けた状態に補正される。
【0053】
また、補正部43は、1ライン前の補正値gbを、撮像素子Aの補正値gaとする。補 正部43は、この補正値gaにより映像信号aをレベル補正する。このレベル補正により 、撮像素子Aの映像信号aに1ラインずれて発生した画面下部のフラッシュバンドの境目 を低減されて目立たなくなり、画面全体が一様にフラッシュを受けた状態に補正される。 この補正は、フラッシュが焚かれた事実を映像として残しつつ、フラッシュバンドの見づ らさを除去する補正となる。
【0054】
<段階的に変化するフラッシュバンドの検出・補正>
続いて、
図6~
図7を参照して、段階的に変化するフラッシュバンドの検出・補正につ いて説明する。
【0055】
図6は、ローリングシャッタ動作を時間軸に表した説明図である。
同図において、発光期間の長いフラッシュが発生している。このようなフラッシュは、 高速シンクロ撮影のためのFP発光や、複数回のフラッシュが重畳することにより発生す る。
この長い発光期間にわたって、スリット範囲(
図2参照)が移動することにより、フラ ッシュバンドの境界域は、段階的に明るさが変化する。
【0056】
図7は、この段階的に変化するフラッシュバンドの検出・補正を説明する図である。
同図において、撮像素子Bの映像信号bには、Xラインから(X+1)ラインにかけて フラッシュバンドの明るさが段階的に増加する。
【0057】
比較部42は、信号遅延部41により映像位相を合わせた映像信号a,bを比較するこ とにより、Xラインから始まったレベル相違を、補正部43に出力する。
【0058】
補正部43は、
図7に示すXラインのように、露光開始の早い撮像素子Aの信号レベル が、露光開始の遅い撮像素子Bの信号レベルを下回るラインを、フラッシュバンドの開始 ラインと判定する。
補正部43は、有意なレベル相違でない場合(絶対値が閾値未満のレベル相違など)、 レベル相違を「0dB」に置き換えて、誤った補正を防止する。
【0059】
補正部43は、レベル相違の値と、1ライン前の撮像素子Bの補正値gbとを合成して、現ラインの撮像素子Bの補正値gbとする。
例えば、図7に示すXライン目では、レベル相違:-3dBに対して、(X-1)ライン目の撮像素子Bの補正値gb:0dBを合成して、Xライン目の補正値gbは-3dBとなる。
【0060】
図7に示す(X+1)ライン目では、レベル相違:-3dBに対して、Xライン目の撮像素子Bの補正値gb:-3dBを合成して、Xライン目の補正値gbは-6dBとなる。
図7に示す撮像素子Bの(X+2)ライン以降では、レベル相違:0dBに対して、1ライン前の補正値gb:-6dBを合成することにより、補正値gbは-6dBを維持し続ける。
【0061】
補正部43は、求めた補正値gbにより映像信号bをレベル補正する。このレベル補正 により、撮像素子Bの映像信号bに発生した画面下部のフラッシュバンドは暗く補正され て目立たなくなる。
【0062】
また、補正部43は、1ライン前の補正値gbを、撮像素子Aの補正値gaとする。補 正部43は、この補正値gaにより映像信号aをレベル補正する。このレベル補正により 、撮像素子Aの映像信号aに1ラインずれで発生した画面下部のフラッシュバンドは暗く 補正されて目立たなくなる。
【0063】
<フレーム内のフラッシュバンドの検出・補正>
続いて、
図8~
図9を参照して、フレーム内に発生するフラッシュバンドの検出・補正 について説明する。
【0064】
図8は、ローリングシャッタ動作を時間軸に表した説明図である。
同図において、ローリングシャッタの露光時間は短く設定される。そのため、スリット 範囲の幅(
図2参照)は短い。この状態でフラッシュが焚かれると、フレーム内に狭い幅 のフラッシュバンドが発生する。
【0065】
図9は、このフラッシュバンドの検出・補正を説明する図である。
同図において、撮像素子Bの映像信号bには、Xラインから(X+1)ラインまでの2 ライン幅でフラッシュバンドが発生する。一方、撮像素子Aの映像信号aには、(X+1 )ラインから(X+2)ラインまでの2ライン幅でフラッシュバンドが発生する。
【0066】
比較部42は、信号遅延部41により映像位相を合わせた映像信号a,bを比較するこ とにより、Xラインから始まったレベル相違を、補正部43に出力する。
【0067】
補正部43は、
図9に示すXラインのように、露光開始の早い撮像素子Aの信号レベル が、露光開始の遅い撮像素子Bの信号レベルを下回るラインを、フラッシュバンドの開始 ラインと判定する。
【0068】
また、補正部43は、
図9に示すX+2ラインのように、露光開始の早い撮像素子Aの 信号レベルが、露光開始の遅い撮像素子Bの信号レベルを上回るラインを、フラッシュバ ンドの終了ラインと判定する。
【0069】
補正部43は、有意なレベル相違でない場合(絶対値が閾値未満のレベル相違など)、 レベル相違を「0dB」に置き換えて、誤った補正を防止する。
【0070】
補正部43は、レベル相違の値と、1ライン前の撮像素子Bの補正値gbとを合成して 、現ラインの撮像素子Bの補正値gbとする。
例えば、
図4に示すXライン目では、レベル相違:-6dBに対して、(X-1)ライ ン目の撮像素子Bの補正値gb:0dBを合成して、Xライン目の補正値gbは-6dB となる。
【0071】
図4に示す(X+1)ライン目では、レベル相違:0dBに対して、Xライン目の撮像 素子Bの補正値gb:-6dBを合成して、Xライン目の補正値gbは-6dBとなる。
図4に示す(X+2)ライン目では、レベル相違:+6dBに対して、(X+1)ライ ン目の撮像素子Bの補正値gb:-6dBを合成して、Xライン目の補正値gbは0dB となる。
【0072】
補正部43は、求めた補正値gbにより映像信号bをレベル補正する。このレベル補正 により、撮像素子Bの映像信号bに発生した狭いフラッシュバンドは暗く補正されて目立 たなくなる。
また、補正部43は、1ライン前の補正値gbを、撮像素子Aの補正値gaとする。補 正部43は、この補正値gaにより映像信号aをレベル補正する。このレベル補正により 、撮像素子Aの映像信号aに1ラインずれで発生した狭いフラッシュバンドは暗く補正さ れて目立たなくなる。
【0073】
<実施例1の効果>
【0074】
(1)実施例1では、撮像素子A,Bの映像信号a,bについて、被写体の同一箇所かつ 同一時刻と見なせるライン同士を比較する。この比較結果に基づけば、フラッシュバンド の発生を正確に検出することができる。
【0075】
(2)特許文献1の従来技術では、1フレーム内において隣接ライン間の輝度差を算出し 、その変化が所定値以上であればフラッシュバンドが発生したと検出する。この場合、隣 接ライン間に明暗差のある絵柄を撮像すると、フラッシュバンドと誤って検出してしまう 。
一方、実施例1では、撮像素子A,Bの映像信号a,bについて、被写体の同一箇所と 見なせるライン同士を比較するため、被写体の絵柄(明暗差の絵柄)に殆ど影響されない 。したがって、フラッシュバンドの誤検出は少ない。
【0076】
(3)また例えば、特許文献2の従来技術では、隣接フレーム間の輝度差を算出し、その 変化が所定値以上であればフラッシュバンドが発生したと検出する。この場合、暗い室内 から明るい屋外に出るなど時間的に明暗変化が生じると、フレーム間に輝度差が生じてフ ラッシュバンドと誤って検出してしまう。
一方、実施例1では、撮像素子A,Bの映像信号a,bについて、被写体の同一時刻と 見なせるライン同士を比較するため、被写体の時間的な明暗変化に殆ど影響されない。し たがって、フラッシュバンドの誤検出は少ない。
【0077】
(4)特に、実施例1では、撮像素子A,Bの映像信号a,bについて、被写体の同一箇 所かつ同一時刻と見なせるライン同士を比較する。この比較により、フラッシュバンドに より生じるライン単位のレベル相違を高い精度で求めることができる。したがって、フラ ッシュバンドの補正を高い精度で行うことが可能になる。
【0078】
(5)実施例1では、被写体の同一箇所かつ同一時刻と見なせるライン同士を比較するた め、小さなレベル相違も見逃さずに検出することができる。したがって、少しずつレベル 変化するフラッシュバンドであっても適切に検出して補正することが可能になる。
【0079】
(6)実施例1では、複数のフラッシュが重畳して照射され、複雑にレベル変化するフラ ッシュバンドについても、被写体の同一箇所かつ同一時刻と見なせるライン同士を比較す ることにより、見逃さずに検出することができる。したがって、複雑にレベル変化するフ ラッシュバンドであっても適切に検出して補正することが可能になる。
【0080】
(7)実施例1では、フレーム内補正により補正する。そのため、数フレームにわたって 連続してフラッシュバンドが発生した場合も、特許文献3のようにフレーム入れ替えを行 う必要がなく、映像が数フレームにわたって静止するなどの弊害は生じない。
【0081】
(8)実施例1では、撮像素子A,BのXライン目の補正値ga,gbを次の漸化式アルゴリズムにより簡易な演算で決定することができる。
・撮像素子AのXライン目の補正値ga(X)
=撮像素子Bの(X-1)ライン目の補正値gb(X-1) …[1]
・撮像素子BのXライン目の補正値gb(X)
=「撮像素子Bの(X-1)ライン目の補正値gb(X-1)」と「撮像素子A,BのXライン目のレベル相違」との合成補正値 …[2]
【0082】
(9)なお、撮像素子Bの最初ラインに対して1ライン前の補正値gb(0)は存在しな い。そのため、上記の漸化式アルゴリズムの実質的な初期値は、[1]式に基づいて、撮 像素子Aの1ライン目の補正値ga(1)となる。
この補正値ga(1)を初期値0dBとすると、撮像素子Aの1ライン目は常に補正さ れないことになる。
以降、アルゴリズムの[2]式と[1]式が繰り返されることにより、撮像素子A,B の補正値ga,gbは、撮像素子Aの1ライン目との信号相違を打ち消すように順次に決 定される。これは、撮像素子Aの1ライン目がそのフレームの信号レベルの基準となるこ とを意味する。
そのため、1フレーム目の画面下部からフラッシュバンドが開始し、2フレーム目の画 面上部でフラッシュバンドが消えた場合、補正された映像では、1フレーム目は画面全体 にフラッシュの影響を低減した映像となり、2フレーム目は画面全体にフラッシュの影響 を受けた映像となる。
特に2フレーム目をこのように補正することにより、瞬間的にフラッシュが焚かれたと いう事実を残しつつ、グローバルシャッタ撮影に似た自然なフラッシュ映像を得ることが できる。
【0083】
(10)また、実施例1では、漸化式アルゴリズムの初期値として、撮像素子Bの最初ラインの1ライン前の補正値gb(0)を、撮像素子Bの1フレーム前の最終ラインの補正値とすることもできる。この場合、前フレームから次フレームへフラッシュバンドの補正が継続することになる。
そのため、1フレーム目の画面下部からフラッシュバンドが開始し、2フレーム目の画面上部でフラッシュバンドが消えた場合、補正された映像では、1フレーム目および2フレーム共に画面全体にフラッシュバンドを除去した映像となる。
このように補正することにより、フラッシュが焚かれなかったかのような自然な映像を得ることができる。
【0084】
(11)さらに、実施例1では、レベル相違の大きさが閾値より小さい場合は、レベル相 違を0dBに置き換える。そのため、1ラインのレベル相違が誤差に過ぎない場合に後続 ラインに誤差である補正値が誤って波及してしまう虞が少ない。
【0085】
(12)また、実施例1では、撮像素子A,B間のライン単位のレベル相違をカラーモザ イクの色成分(例えばベイヤー配列のRGB色成分)別に求めてもよい。この色成分別に レベル相違を上記の漸化式アルゴリズムに代入することにより、フラッシュバンドの影響 を低減する補正値を、色成分別(RGB別)に求めることができる。その結果、有色光の フラッシュバンドであっても影響を低減することが可能になる。
【0086】
(13)特に、実施例1は、露光開始タイミングをずらすことで、スリット範囲のずらし を実現する。そのため、従来の多板式撮像装置においても、ファームウェア(プログラム )により露光開始タイミングをずらすことで、スリット範囲のずらしを行い、フラッシュ バンドの検出・補正の機能を後から実現することができる。
例えば、駆動部3、映像信号処理部4およびCPU部7をファームウェア(プログラム )で制御することにより、フラッシュバンドの検出・補正の機能を実現することができる 。
【実施例2】
【0087】
実施例2として、撮像素子の空間ラインずらしによるフラッシュバンドの検出・補正を 説明する。
【0088】
図10は、撮像素子A,Bの空間ラインずらしを説明する図である。
同図において、撮像素子A,Bの撮像領域を副走査方向に少なくとも1ライン分ずらし て位置決めする。この撮像素子A,Bは、露光開始のタイミングを一致させてローリング シャッタ動作を行う。その結果、撮像素子A,Bのスリット範囲は、空間ずらしを反映し て、副走査方向に少なくとも1ライン分のずれが生じる。
【0089】
なお、撮像素子A,Bの互いにはみ出した撮像領域は、フラッシュバンドの検出ができ ないため、有効撮像領域から外しておくことが好ましい。
【0090】
また、撮像素子A,Bの撮像領域は、空間ずらしのため、被写体の映像が少なくとも1 ラインずれる。そこで、被写体像に対してスリット範囲が先に通過する撮像素子の映像信 号を遅延させて、撮像素子A,Bが出力する映像の位相を合わせる。
【0091】
なお、その他の構成、動作、および効果については、実施例1と重複するため、ここで の説明を省略する。
【実施例3】
【0092】
実施例3として、デュアルグリーン多板式の撮像装置について説明する。
図11は、この撮像装置1aの構成例を示すブロック図である。
同図において、撮像装置1aの色分解分光プリズム2cは、レンズ2aの結像光束を赤 色光、青色光および緑色光に分光し、さらに緑色光を2つに分光する。分光された各色成 分の被写体像は、撮像素子R、撮像素子B、撮像素子Gaおよび撮像素子Gbによって色 成分ごとの映像信号に変換される。これら多板の撮像素子は、同一性能のローリングシャ ッタ方式のモノクロ撮像素子であり、同一画素空間に位置決めして配置される。
【0093】
駆動部3の駆動信号生成部31は、撮像素子Ga、撮像素子R、撮像素子Bに対して同 一タイミングの駆動信号を供給する。一方、撮像素子Gbには、駆動遅延部32を介して 所定時間だけ遅延した駆動信号が供給される。その結果、撮像素子Gbは、撮像素子Ga に比べて露光開始のタイミングが所定時間だけ遅れる。
【0094】
映像信号処理部4の信号遅延部41は、撮像素子R、撮像素子Bおよび撮像素子Gaの 映像信号をそれぞれ遅延させることで、これらの映像信号と撮像素子Gbの映像信号との 映像位相を一致させる。
【0095】
次に、比較部42は撮像素子Gaと撮像素子Gbの映像信号の信号レベルを比較し、ラ イン単位のレベル相違を求める。
【0096】
補正部43は、ライン単位のレベル相違と、色相調整部46とに基づいて、後述する漸 化式アルゴリズムを実行し、撮像素子R、撮像素子B、撮像素子Gaおよび撮像素子Gb それぞれの映像信号に対して、フラッシュバンドの影響を低減するためのレベル補正を実 行する。
【0097】
レベル補正後の各色成分の映像信号は、映像合成部44において1つのカラー映像信号 に合成された後、ガンマ補正部45においてガンマ補正などの映像処理が施され、映像信 号出力部5を介して外部に出力される。
【0098】
CPU部7は、駆動部3の制御や、映像信号処理部4の制御などを実行する。
【0099】
<実施例3の動作>
撮像素子Gaと撮像素子Gbの映像信号において、フラッシュバンドを検出・補正する 動作は、実施例1で説明した撮像素子Aと撮像素子Bにおける検出・補正の動作と同様で あるため、ここでの重複説明を省略する。
【0100】
一方、撮像素子Rおよび撮像素子Bは、撮像素子Gaと同じタイミングで撮像を行って いる。そのため、フラッシュが焚かれた場合、撮像素子Rおよび撮像素子Bの映像には、 撮像素子Gaの映像と同様にフラッシュの影響が現れる。よって、撮像素子Gaの映像と 同様に、撮像素子Gbの1ライン前の補正値を用いて補正することができる。
【0101】
ただし、この補正値は、撮像素子Gaと撮像素子Gbの信号レベルの差分から算出した 緑色光の補正値である。そのため、色相調整部46には、緑色光に対する赤色光の割合の 補正係数と、緑色光に対する青色光の割合の補正係数をあらかじめ設定しておく。補正部 43は、撮像素子Rおよび撮像素子Bの映像には、それぞれの補正係数を乗じた補正値に よって補正を行う。
【0102】
色相調整部46に設定する赤色光および青色光の補正係数は、あらかじめ想定したフラ ッシュ光の色バランスによるものであり、ユーザーが任意の値に調整設定できるようにし てもよい。また、フラッシュの影響を受けた映像の色バランスからその都度自動的に算出 しても良い。
【0103】
この補正値の算出を漸化式アルゴリズムにまとめると、各撮像素子のXライン目の信号 レベルの補正値は以下のようになる。 ・撮像素子GaのXライン目の補正値[dB]=(撮像素子GbのX-1ライン目の補正 値) ・撮像素子GbのXライン目の補正値[dB]=(撮像素子GbのX-1ライン目の補正 値)+{(撮像素子GaのXライン目の信号レベル)-(撮像素子GbのXライン目の信 号レベル)} ・撮像素子RのXライン目の補正値[dB]=(撮像素子GbのX-1ライン目の補正値 )+(緑色光に対する赤色光の補正係数) ・撮像素子BのXライン目の補正値[dB]=(撮像素子GbのX-1ライン目の補正値 )+(緑色光に対する青色光の補正係数)
【0104】
<実施例3の効果>
実施例3は、実施例1~2の効果の他に、次の効果も奏する。
【0105】
(1)実施例2は、デュアルグリーン多板式の緑色光の映像信号に基づいて、フラッシュバンドの補正値を計算する。この緑色光は、人間の視覚感度が高いため、フラッシュバンドが目立ちやすい色成分である。この緑色の映像信号についてフラッシュバンドを検出・補正することにより、フラッシュバンドを目立たなくすることができる。
【0106】
(2)実施例2では、赤色光および青色光の映像信号については、緑色光の補正値を色調 補正した補正値を用いて補正する。したがって、色再現性よく補正することが可能になり 、フラッシュバンドを適切に目立たなくすることができる。
【実施例4】
【0107】
実施例4として、画素配列の位相をずらすケースについて説明する。
【0108】
実施例1,2における撮像装置1(
図1)の場合、分光プリズム2bにより分光された 各被写体像の像位置を基準にして、撮像素子A,Bは水平および垂直方向に位相(例えば 1/2画素ピッチ)をずらして位置決めされる。
【0109】
実施例3における撮像装置1a(
図11)の場合、色分解分光プリズム2cにより分光 された緑色光の各被写体像の像位置を基準にして、撮像素子Ga,Gbは水平および垂直 方向に位相(例えば1/2画素ピッチ)をずらして位置決めされる。
【0110】
映像合成部44では、画素配列の位相をずらして空間サンプリングされた映像信号に基 づいて水平および垂直方向の高域成分を求めることにより、解像度を向上させる。
実施例4においても、フラッシュバンドを検出・補正する方法は、実施例1~3で述べ た方法と同様である。
【0111】
ただし、画素配列の位相ずらしを行っているため、比較部42でライン単位に比較する 被写体の絵柄に微少なズレ(高域成分)が生じる場合がある。そのため、比較部42で比 較する前または後に、ローパスフィルタや平均値フィルタをかけることで、絵柄の微少な ズレ(高域成分)を鈍らせることが好ましい。
【0112】
<実施例4の効果>
実施例4は、実施例1~3の効果の他に、次の効果も奏する。
フラッシュバンドを適切に除去しつつ、解像度の優れた映像を得ることができる。
【0113】
<実施形態の補足事項>
【0114】
(1)上述した実施形態では、複数の撮像素子間において、ローリングシャッタ方式の先 幕/後幕の間であるスリット範囲を副走査方向に1ライン分ずらして走査するケースにつ いて説明した。
【0115】
しかしながら、本発明はこれに限定されない。スリット範囲を副走査方向に複数nライ ン以上ずらして走査してもよい。この場合、フラッシュベルトによるライン単位のレベル 相違は、フレーム内にnライン連続して発生する。
【0116】
このようにnライン分の幅広のレベル相違が発生することにより、フラッシュベルトの 検出精度を高めることが可能になる。
【0117】
また、nライン分の幅広のレベル相違を平均化することにより、レベル相違に含まれる ノイズを抑圧し、レベル相違のS/Nを高めることができる。その結果、レベル相違を正 確に求めることが可能になり、フラッシュベルトの補正を高い精度で行うことができるよ うになる。
【0118】
さらに、nライン分の幅広のレベル相違では、画素配列の位相ずらし(1/2画素ピッ チなど)の影響が相対的に小さくなるため、実施例4との併用は好適である。
【0119】
(2)また、実施形態では、補正部43は利得補正(dB)により映像信号を補正する。 一般に、フラッシュが焚かれた場合の入射光量は,(被写体の反射率)×(フラッシュ光 量と環境光量)である。そのため、フラッシュバンドの映像信号に対して環境光量/(フ ラッシュ光量と環境光量)を乗算(利得補正)することにより、フラッシュ光量の影響を 低減することができる。なお、この利得補正は、ガンマ補正前の線形とみなせる映像信号 に対して施すことが好ましい。
【0120】
しかしながら、本発明はこれに限定されない。例えば、撮像装置のレンズ画角内でフラ ッシュが焚かれた場合の入射光量は、(被写体光+フラッシュ光)の光量となる。また、 撮像装置のレンズ画角のすぐ外側でフラッシュが焚かれた場合の入射光量は、(被写体光 +フラッシュ原因のレンズフレア光)の光量となる。このようなケースにおいては、補正 部43は、レベル相違分を映像信号のフラッシュバンドの領域から減算(オフセット補正 や黒レベル補正)してもよい。
【0121】
(3)さらに、実施形態では、フラッシュバンドの検出・補正を撮像装置で実施する。し かしながら、本発明はこれに限定されない。上述した比較部42、補正部43、信号遅延 部41、および色相調整部46の機能の一部または全部を、撮像装置に付随するコンピュ ータや、外部コンピュータや、ネットワーク上のサーバコンピュータにおいてプログラム により実現してもよい。
【0122】
以上、本発明をその好適な実施形態に基づいて詳述したが、本発明はこれら特定の実施 形態に限られるものではなく、上述の実施形態の一部を適宜組み合わせても良い。
【産業上の利用可能性】
【0123】
本発明は、業務用撮像装置、放送カメラなどの撮像装置、撮像装置における映像処理方法、撮像装置に用いるプログラムなどに利用可能である。この出願は、2018年9月18日に出願された日本出願特願2018-174131を基礎として優先権の利益を主張するものであり、その開示の全てを引用によってここに取り込む。
【符号の説明】
【0124】
a,b…映像信号、A,B…撮像素子、1…撮像装置、1a…撮像装置、2a…レンズ、 2b…分光プリズム、2c…色分解分光プリズム、3…駆動部、4…映像信号処理部、5 …映像信号出力部、7…CPU部、31…駆動信号生成部、32…駆動遅延部、41…信 号遅延部、42…比較部、43…補正部、44…映像合成部、45…ガンマ補正部、46 …色相調整部