(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024157319
(43)【公開日】2024-11-07
(54)【発明の名称】撮像装置及び撮像装置の画質補正方法
(51)【国際特許分類】
H04N 23/60 20230101AFI20241030BHJP
G06T 5/73 20240101ALI20241030BHJP
【FI】
H04N23/60 500
G06T5/00 710
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023071615
(22)【出願日】2023-04-25
(71)【出願人】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(74)【代理人】
【識別番号】100083806
【弁理士】
【氏名又は名称】三好 秀和
(74)【代理人】
【識別番号】100111235
【弁理士】
【氏名又は名称】原 裕子
(74)【代理人】
【識別番号】100170575
【弁理士】
【氏名又は名称】森 太士
(72)【発明者】
【氏名】平田 卓哉
【テーマコード(参考)】
5B057
5C122
【Fターム(参考)】
5B057AA16
5B057BA02
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CC03
5B057CE03
5B057CE11
5B057DA08
5B057DA16
5B057DB02
5B057DB06
5B057DB09
5B057DC04
5B057DC16
5B057DC22
5B057DC32
5C122DA14
5C122EA02
5C122FH01
5C122FH11
5C122FH16
5C122FH23
5C122HB01
5C122HB05
5C122HB06
(57)【要約】
【課題】レンズまたはレンズを覆う透明カバーに雨滴が付着しても、画質の悪化を抑えることができる撮像装置を提供する。
【解決手段】映像フレーム生成部4は、撮像素子2によって被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成する。雨滴付着検出部14は、各フレームを複数のブロックに分割し、ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて、レンズ1またはレンズ1の前方に設けられた透明カバー1cに雨滴が付着した状態であるか否かを検出する。画質補正部5は、各フレームの複数のブロックのうち、雨滴が撮像されている状態のブロックにおける輝度信号を補正することによって、映像信号の画質を補正する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
被写体からの光がレンズを介して入射される撮像素子と、
前記撮像素子によって前記被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成する映像フレーム生成部と、
前記各フレームを複数のブロックに分割し、前記ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて、前記レンズまたは前記レンズの前方に設けられた透明カバーに雨滴が付着した状態であるか否かを検出する雨滴付着検出部と、
前記各フレームの前記複数のブロックのうち、雨滴が撮像されている状態のブロックにおける輝度信号を補正することによって、前記映像信号の画質を補正する画質補正部と、
を備える撮像装置。
【請求項2】
前記雨滴付着検出部は、輝度信号の変化を検出するために前記輝度信号を比較する前記隣接するフレームでは前記ブロックを同じ大きさとし、2以上のフレームごとに前記ブロックの大きさを第1の大きさから第2の大きさまでの間で複数段階に変化させることを繰り返す請求項1に記載の撮像装置。
【請求項3】
前記雨滴付着検出部は、前記撮像装置が移動する速度のレベルが高くなるほど、前記第1の大きさから前記第2の大きさまでの各大きさを大きくする請求項2に記載の撮像装置。
【請求項4】
前記雨滴付着検出部は、降水量のレベルが高くなるほど、前記第1の大きさから前記第2の大きさまでの各大きさを大きくする請求項2に記載の撮像装置。
【請求項5】
前記雨滴付着検出部は、前記ブロックごとの前記隣接するフレーム間で、前記輝度信号を微分することによって得られる高周波成分が第1の閾値以上低下する第1の条件と、前記輝度信号の所定の階調以下の領域の輝度が第2の閾値以上増加する第2の条件との少なくとも一方を満たすと、雨滴が撮像されている状態のブロックであると判定し、
前記画質補正部は、前記映像信号に、雨滴が撮像されている状態のブロックにおける輝度信号のシャープネスを増加させる第1の画質補正と、雨滴が撮像されている状態のブロックにおける輝度信号の前記所定の階調以下の領域の輝度を低下させる第2の画質補正との少なくとも一方を施す
請求項1~4のいずれか1項に記載の撮像装置。
【請求項6】
被写体からの光がレンズを介して入射される撮像素子によって被写体を撮像し、
前記撮像素子が前記被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成し、
前記各フレームを複数のブロックに分割し、前記ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて、前記レンズまたは前記レンズの前方に設けられた透明カバーに雨滴が付着した状態であるか否かを検出し、
前記各フレームの前記複数のブロックのうち、雨滴が撮像されている状態のブロックにおける輝度信号を補正することによって、前記映像信号の画質を補正する
撮像装置の画質補正方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置及び撮像装置の画質補正方法に関する。
【背景技術】
【0002】
車両に装着して車両の前方または後方を撮影した画像を記録する撮像装置(いわゆるドライブレコーダ)が普及している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
近年、自動二輪車にドライブレコーダを装着することが増えている。自動二輪車に装着されたドライブレコーダにおいては、降雨時に雨滴がレンズまたはレンズを覆う透明カバーに直接当たることから、降雨時の撮影画像の画質が悪化するという問題点がある。この種の問題点は、自動二輪車に装着されたドライブレコーダに限らず、特許文献1に記載のように車両の外部に装着されている撮像装置においても同様に存在する。
【0005】
本発明は、レンズまたはレンズを覆う透明カバーに雨滴が付着しても、画質の悪化を抑えることができる撮像装置及び撮像装置の画質補正方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、被写体からの光がレンズを介して入射される撮像素子と、前記撮像素子によって前記被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成する映像フレーム生成部と、前記各フレームを複数のブロックに分割し、前記ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて、前記レンズまたは前記レンズの前方に設けられた透明カバーに雨滴が付着した状態であるか否かを検出する雨滴付着検出部と、前記各フレームの前記複数のブロックのうち、雨滴が撮像されている状態のブロックにおける輝度信号を補正することによって、前記映像信号の画質を補正する画質補正部とを備える撮像装置を提供する。
【0007】
本発明は、被写体からの光がレンズを介して入射される撮像素子によって被写体を撮像し、前記撮像素子が前記被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成し、前記各フレームを複数のブロックに分割し、前記ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて、前記レンズまたは前記レンズの前方に設けられた透明カバーに雨滴が付着した状態であるか否かを検出し、前記各フレームの前記複数のブロックのうち、雨滴が撮像されている状態のブロックにおける輝度信号を補正することによって、前記映像信号の画質を補正する撮像装置の画質補正方法を提供する。
【発明の効果】
【0008】
本発明の撮像装置及び撮像装置の画質補正方法によれば、レンズまたはレンズを覆う透明カバーに雨滴が付着しても、画質の悪化を抑えることができる。
【図面の簡単な説明】
【0009】
【
図1】
図1は、一実施形態に係る撮像装置を示すブロック図である。
【
図2A】
図2Aは、一実施形態に係る撮像装置が生成するフレームの一例を示す図である。
【
図2B】
図2Bは、一実施形態に係る撮像装置が生成する、レンズまたはレンズを覆う透明カバーに雨滴が付着した状態のフレームの一例を示す図である。
【
図3A】
図3Aは、フレームを20個のブロックに分割した例を示す図である。
【
図3B】
図3Bは、フレームを80個のブロックに分割した例を示す図である。
【
図4】
図4は、車両速度のレベルごとにブロックの大きさを変化させる一例を示す図である。
【
図5】
図5は、降水量のレベルが高くなるほど、ブロックの大きさを大きくする構成例を示す部分ブロック図である。
【
図6A】
図6Aは、フレームを20個のブロックに分割した状態で、雨滴が撮影されているブロックの一例を示す図である。
【
図6B】
図6Bは、フレームを80個のブロックに分割した状態で、雨滴が撮影されているブロックの一例を示す図である。
【
図7A】
図7Aは、映像信号の画質を補正しない場合に用いるガンマ特性の一例を示す図である。
【
図7B】
図7Bは、映像信号の画質を補正する場合に用いるガンマ特性の一例を示す図である。
【
図8】
図8は、一実施形態に係る撮像装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0010】
以下、一実施形態に係る撮像装置及び撮像装置の画質補正方法について、添付図面を参照して説明する。
図1は、一実施形態に係る撮像装置である撮像装置100を示す。一例として、撮像装置100は、自動二輪車用のドライブレコーダである。撮像装置100は、車両の外部に装着されて使用される撮像装置として用いて好適であるが、車両の外部に装着されることに限定されるものではない。また、撮像装置100は、監視カメラのような車両以外の屋外の所定の箇所に装着されてもよい。
【0011】
図1において、撮像装置100は、レンズ1、撮像素子2、信号処理部3、符号化部6、書き込み制御部7、メモリ8、GNSS受信部11、位置算出部12、車両速度検出部13、雨滴付着検出部14、画質補正強度決定部15を備える。信号処理部3は、映像フレーム生成部4及び画質補正部5を有する。画質補正部5は、シャープネス補正部51及びガンマ補正部52を含む。
【0012】
図1では簡略化して図示しているが、レンズ1は複数のレンズよりなる。撮像素子2は、CCD(Charge Coupled Device)センサまたはCMOS(Complementary Metal Oxide Semiconductor)センサである。撮像素子2は、赤色用、緑色用、青色用の3つの撮像素子であってもよい。被写体からの一点鎖線で示す光は、レンズ1を介して撮像素子2に入射する。二点鎖線で示すように、レンズ1の前方にはプラスチックまたはガラスよりなる透明カバー1cが設けられていることがある。降雨時に、雨滴はレンズ1または透明カバー1cに直接当たって付着する。
【0013】
映像フレーム生成部4は、撮像素子2によって被写体を撮像することによって得られた撮像画像信号に基づいて、映像信号の各フレームを生成する。映像信号は、輝度信号と色信号(または色差信号)とよりなる。画質補正部5は、画質を補正するよう各フレームの輝度信号を補正して、符号化部6に供給する。信号処理部3は信号処理回路によって構成することができる。信号処理部3は集積回路であってもよい。画質補正部5に入力される映像信号は、図示していないA/D変換器によってデジタル信号に変換されていてもよい。画質補正部5が輝度信号をどのように補正するかについては後に詳述する。
【0014】
符号化部6は、入力された映像信号をH.264/MPEG-4 AVC等の圧縮符号化方式を用いて圧縮符号化する。符号化部6は、集積回路によって構成することができる。書き込み制御部7は、圧縮符号化された映像信号をメモリ8に書き込む。書き込み制御部7は、データをメモリ8に書き込む回路によって構成することができる。メモリ8は、着脱自在のメモリカードであってもよい。
図1では図示を省略しているが、メモリ8に書き込まれた映像信号は読み出し制御部によって読み出されて、表示部に表示されてもよい。なお、
図1においては、音声の収音及び音声信号のメモリ8への書き込みについては省略している。
【0015】
GNSS受信部11は、全地球航法衛星システム(Global Navigation Satellite System: GNSS)用の3つ以上の衛星から送信されるGNSS信号を受信する。GNSS受信部11は、受信回路によって構成することができる。位置算出部12は、GNSS受信部11が受信した3つ以上の衛星からのGNSS信号に基づいて車両(自動二輪車)の現在位置(位置情報)を算出する。典型的には、GNSSはGPS(Global Positioning System)である。車両速度検出部13は、位置算出部12より供給される位置情報の変化に基づいて車両速度を検出する。車両速度は、撮像装置100が移動する速度である。位置算出部12及び車両速度検出部13は、マイクロプロセッサで構成することができる。
【0016】
撮像装置100が、GNSS受信部11、位置算出部12、及び車両速度検出部13を備えて車両速度を検出する代わりに、車両のECU(Electronic Control Unit)から車両速度(走行速度)を取得してもよい。
【0017】
雨滴付着検出部14には、映像フレーム生成部4より各フレームの輝度信号が供給される。雨滴付着検出部14には、図示していないA/D変換器によってデジタル信号に変換された輝度信号が供給される。雨滴付着検出部14は、各フレームの輝度信号に基づいて、レンズ1または透明カバー1cに雨滴が付着した状態であるか否かを検出する。
【0018】
図2Aは、レンズ1または透明カバー1cに雨滴が付着していない状態の映像信号のあるフレームFを示している。
図2Bは、レンズ1または透明カバー1cに雨滴が付着している状態の映像信号のあるフレームFを示している。
図2Bにおいては、フレームF内に4か所のハッチングを付して示す雨滴Rdが撮像されている。雨滴Rdの形状は不定である。実際には、雨滴Rdは透明であり、レンズ1または透明カバー1cに付着した雨滴Rdは風圧で広がるため、付着した雨滴Rdは撮影されている被写体の画像をぼやかすように作用する。
【0019】
雨滴付着検出部14は、次のようにして雨滴Rdの付着の有無を検出する。雨滴付着検出部14は、映像信号の各フレームを複数のブロックに分割し、ブロックごとの隣接するフレーム間での輝度信号の変化に基づいて雨滴Rdの付着の有無を検出する。雨滴Rdが付着すると画像のエッジが滑らかになってぼやけ、輝度信号の中間階調または低階調の領域の輝度が高くなる。
【0020】
雨滴付着検出部14は、ブロックごとの隣接するフレーム間で、輝度信号を微分することによって得られる高周波成分が第1の閾値以上低下する第1の条件を満たすか否かによって、雨滴Rdが撮像されている状態のブロックであるか否かを判定することができる。また、雨滴付着検出部14は、ブロックごとの隣接するフレーム間で、輝度信号の所定の階調以下の領域の輝度が第2の閾値以上増加する第2の条件を満たすか否かによって、雨滴Rdが撮像されている状態のブロックであるか否かを判定することができる。
【0021】
第2の閾値は、所定の階調以下の階調ごとに設定された個別の閾値であってもよいし、所定の階調以下の階調の全体の増加割合を示す1つの閾値であってもよい。
【0022】
雨滴付着検出部14は、第1の条件と第2の条件との少なくとも一方を満たすと、雨滴Rdが撮像されている状態のブロックであると判定する。判定精度をより向上させるため、雨滴付着検出部14は、第1の条件と第2の条件との双方を満たすと、雨滴Rdが撮像されている状態のブロックであると判定してもよい。隣接するフレーム間で画像は相関を有するため、高周波成分が急激に低下したり、所定の階調以下の領域の輝度が急激に増加したりすることはほとんどない。よって、雨滴付着検出部14は、第1の条件と第2の条件との少なくとも一方を用いることによって、雨滴Rdが撮像されている状態のブロックを検出することができる。
【0023】
雨滴付着検出部14は、雨滴Rdが撮像されている状態であると判定したブロックが、各フレームを分割する全ブロック数に対して所定の割合以上であれば、レンズ1または透明カバー1cに雨滴Rdが付着した状態であると検出するのがよい。所定の割合は例えば10%~20%である。このようにすれば、偶然に第1の条件と第2の条件との少なくとも一方を満たすブロックが発生した場合の誤検出を回避することができる。
【0024】
レンズ1または透明カバー1cに付着した雨滴Rdは、中心の輝度が高く、周辺に向かうほど輝度が低くなる山型の特性を有することがある。雨滴付着検出部14は、輝度の山型の特性に基づいて、レンズ1または透明カバー1cに雨滴Rdが付着していることを検出してもよい。
【0025】
図3Aは、フレームFを水平方向に5分割、垂直方向に4分割することによって20個のブロックBkに分割した例を示している。
図3Bは、フレームFを水平方向に10分割、垂直方向に8分割することによって80個のブロックBkに分割した例を示している。
図3A及び
図3Bにおいては、雨滴Rdを円形に単純化している。
図3Aに示すように、大きなブロックBkに雨滴Rdが撮影されている状態では、雨滴Rdの存在がブロックBk内の輝度信号に及ぼす影響はさほど大きくない。
図3Bに示すように、小さなブロックBkに雨滴Rdが撮影されている状態では、雨滴Rdの存在がブロックBk内の輝度信号に及ぼす影響は大きい。
【0026】
雨滴Rdの大きさは一定ではないから、雨滴付着検出部14は、ブロックBkの大きさを複数段階で変化させることが好ましい。ブロックBkの大きさを変化させるとは、フレームFを分割する分割数を変化させることである。フレームFの分割数を少なくすれば、ブロックBkは大きくなり、フレームFの分割数を多くすれば、ブロックBkは小さくなる。
【0027】
一方で、雨滴付着検出部14は、輝度信号の変化を検出するために輝度信号を比較する隣接するフレームではブロックBkを同じ大きさとする必要がある。そこで、雨滴付着検出部14は、輝度信号を比較する隣接するフレームではブロックBkを同じ大きさとし、2以上のフレームごとにブロックBkの大きさを第1の大きさから第2の大きさまでの間で複数段階に変化させることを繰り返すことが好ましい。第1の大きさとは、ブロックBkの大きさを複数段階に変化させるときの最小の大きさであり、第2の大きさとは、ブロックBkの大きさを複数段階に変化させるときの最大の大きさである。
【0028】
一例として、フレームがF1、F2,F3、F4、F5、F6、…と進行し、4フレームの期間はブロックBkを同じ大きさとし、4フレームごとにブロックBkの大きさを変化させるとする。この場合、雨滴付着検出部14は、フレームF1、F2間、フレームF2、F3間、フレームF3、F4間の各ブロックBkで輝度信号を比較する。フレームF1~F4におけるブロックBkの大きさは第1の大きさである。
【0029】
雨滴付着検出部14は、フレームF5~F8におけるブロックBkの大きさを、第1の大きさよりも大きくする。雨滴付着検出部14は、フレームF5、F6間、フレームF6、F7間、フレームF7、F8間の各ブロックBkで輝度信号を比較する。ブロックBkの大きさの変化を3段階とすれば、雨滴付着検出部14は、フレームF9~F12におけるブロックBkの大きさを、フレームF5~F8におけるブロックBkの大きさよりも大きい第2の大きさとする。雨滴付着検出部14は、フレームF9、F10間、フレームF10、F11間、フレームF11、F12間の各ブロックBkで輝度信号を比較する。
【0030】
レンズ1または透明カバー1cに付着した雨滴Rdは風圧で広がるため、付着した状態の雨滴Rdの大きさは車両速度が高くなるほど大きくなる。そこで、雨滴付着検出部14は、車両速度が高くなるほどブロックBkの大きさを大きくするのがよい。一例として、車両速度を、40km/h未満(レベル1)、40km/h以上、60km/h未満(レベル2)、60km/h以上、80km/h未満(レベル3)、80km/h以上(レベル4)のように複数のレベルに分ける。雨滴付着検出部14は、車両速度のレベルが高くなるほど、ブロックBkの第1の大きさから第2の大きさまでの各大きさを大きくする。
【0031】
図4は、雨滴付着検出部14が、車両速度のレベルごとにブロックの大きさを変化させる一例を示している。
図4に示すように、雨滴付着検出部14は、車両速度のレベルが高くなるほど、ブロックBkの第1の大きさから第2の大きさまでの各大きさを大きくする。
図4において、時刻t0から時刻t1までの時間で車両速度が0km/hから40km/hまで加速し、時刻t1から時刻t2までの時間で車両速度が40km/hから60km/hまで加速したとする。時刻t2から時刻t3までの時間で車両速度が60km/hから80km/hまで加速し、時刻t3から時刻t4までの時間で車両速度が80km/hから100km/hまで加速し、その後、100km/hを維持したとする。
【0032】
雨滴付着検出部14は、車両速度がレベル1の期間では、ブロックBkの大きさを、相対値として、大きさ1から大きさ3まで変化させることを繰り返す。レベル1の期間では、大きさ1が第1の大きさであり、大きさ3が第2の大きさである。
図4に示す例では、大きさ1、2、3、1、2、3…と繰り返しているが、大きさ1、2、3、2、1、2、3…と繰り返してもよい。第1の大きさから第2の大きさまでは3段階に限定されない。一例として、雨滴付着検出部14は、大きさを1増大させると、フレームFの水平方向及び垂直方向の分割数をそれぞれ1減少させる。雨滴付着検出部14が、大きさを1増大させるたびに、フレームFの水平方向及び垂直方向の分割数をどのように減少させるかは限定されない。
【0033】
雨滴付着検出部14は、車両速度がレベル2の期間では、ブロックBkの大きさを、相対値として、大きさ4から大きさ6まで変化させることを繰り返す。雨滴付着検出部14は、車両速度がレベル3の期間では、ブロックBkの大きさを、相対値として、大きさ7から大きさ9まで変化させることを繰り返す。雨滴付着検出部14は、車両速度がレベル4の期間では、ブロックBkの大きさを、相対値として、大きさ10から大きさ12まで変化させることを繰り返す。
【0034】
レベル2の期間では、大きさ4が第1の大きさであり、大きさ6が第2の大きさである。レベル3の期間では、大きさ7が第1の大きさであり、大きさ9が第2の大きさである。レベル4の期間では、大きさ10が第1の大きさであり、大きさ12が第2の大きさである。レベル2~4の期間においても、第1の大きさから第2の大きさまでは3段階に限定されない。
【0035】
図4に示す例では、レベル2の期間における第1の大きさである大きさ4がレベル1の期間における第2の大きさである大きさ3より大きい。レベル3の期間における第1の大きさである大きさ7がレベル2の期間における第2の大きさである大きさ6より大きい。レベル4の期間における第1の大きさである大きさ10がレベル3の期間における第2の大きさである大きさ9より大きい。
【0036】
レベル1の期間の第2の大きさと、レベル2の期間の第1の大きさが同じであってもよい。レベル2の期間の第2の大きさと、レベル3の期間の第1の大きさが同じであってもよい。レベル3の期間の第2の大きさと、レベル4の期間の第1の大きさが同じであってもよい。このように、車両速度の隣接するレベル間でブロックBkの大きさが一部重複していてもよい。また、レベル2の期間における第1の大きさを、レベル1の期間における第2の大きさよりわずかに小さくしてもよい。レベル3の期間における第1の大きさを、レベル2の期間における第2の大きさよりわずかに小さくしてもよい。レベル4の期間における第1の大きさを、レベル3の期間における第2の大きさよりわずかに小さくしてもよい。
【0037】
なお、
図4における時間の進行に伴ってブロックBkの大きさを変化させることを示す図においては、ブロックBkの大きさの変化を、ブロックBkの大きさを変化させる実際の周期よりも格段に長い周期で示している。車両速度が高くなるほどブロックBkの大きさを大きくする構成は、撮像装置100を車両に装着する場合に用いるとよい。
【0038】
一般的には、降水量が増えるほど雨粒が大きくなるから、降水量が増えるほどレンズ1または透明カバー1cに付着した雨滴Rdは大きくなる。そこで、雨滴付着検出部14は、降水量が増えるほどブロックBkの大きさを大きくしてもよい。一例として、雨滴付着検出部14は、降水量を複数のレベルに分割し、降水量のレベルが高くなるほど、ブロックBkの第1の大きさから第2の大きさまでの各大きさを大きくする。
【0039】
図5は、雨滴付着検出部14が降水量のレベルが高くなるほど、ブロックBkの大きさを大きくする構成例を示している。
図5においては、
図1と共通の部分の図示を省略している。通信部21は、ネットワーク30を介して気象情報提供サーバ31より降雨に関する気象情報を取得して、雨滴付着検出部14に供給する。ネットワーク30は、インターネットであってもよいし、携帯電話通信網であってもよい。降雨に関する気象情報は、降雨量に関する天気予報であってもよいし、各場所及び各時点における実際の降雨量であってもよい。
図5に示す構成は、撮像装置100を車両以外の固定の箇所に装着する場合に用いるとよい。
【0040】
他の例として、雨滴付着検出部14は、高周波成分が急激に低下したり、所定の階調以下の領域の輝度が急激に増加したりした領域の画素数を雨滴Rdの大きさとしてもよい。雨滴付着検出部14は、複数の雨滴Rdの大きさの平均値に応じて、ブロックBkの大きさを決定してもよい。また、雨滴付着検出部14は、フレームF内の雨滴Rdの数に基づいて降水量を推定して、推定した降水量に応じてブロックBkの大きさを決定してもよい。
【0041】
図6Aは、例えば、車両速度がレベル4で、フレームFを20個のブロックBkに分割した状態で、ハッチングを付したブロックBkは雨滴Rdが撮影されているブロックBkを示している。
図6Bは、例えば、車両速度がレベル1で、フレームFを80個のブロックBkに分割した状態で、ハッチングを付したブロックBkは雨滴Rdが撮影されているブロックBkを示している。
図6A及び
図6Bに示すフレームFを複数のブロックBkに分割する分割数は単なる例である。
【0042】
図1に戻り、画質補正強度決定部15は、雨滴付着検出部14が検出した輝度信号の変化の程度に応じて、ハッチングを付したブロックBkの画質を補正する補正強度を決定する。輝度信号の変化の程度とは、高周波成分が低下する程度であり、所定の階調以下の領域の輝度が増加する程度である。
【0043】
雨滴付着検出部14及び画質補正強度決定部15は、マイクロプロセッサで構成することができる。位置算出部12、車両速度検出部13、雨滴付着検出部14、及び画質補正強度決定部15が1つのマイクロプロセッサで構成されていてもよい。マイクロプロセッサは、マイクロコンピュータの中央処理装置(CPU)であってもよい。
【0044】
画質補正部5は、各フレームの複数のブロックBkのうち、雨滴Rdが撮像されている状態のハッチングを付したブロックBkにおける輝度信号を補正することによって、映像信号の画質を補正する。シャープネス補正部51は、映像信号に、雨滴Rdが撮像されている状態のブロックBkにおける輝度信号のシャープネスを増加させる第1の画質補正を施す。ガンマ補正部52は、映像信号に、雨滴Rdが撮像されている状態のブロックBkにおける所定の階調以下の領域の輝度を低下させる第2の画質補正を施す。
【0045】
なお、画質補正部5に入力される映像信号は図示していない遅延器によって所定の時間だけ遅延されて、雨滴付着検出部14が雨滴Rdの付着を検出するフレームと、画質補正部5が輝度信号を補正するフレームとのタイミングが合わせられる。これにより、画質補正部5は、雨滴付着検出部14によって雨滴Rdが撮像されている状態のブロックBkが検出されたフレームの輝度信号を補正することができる。
【0046】
シャープネス補正部51は、画像のエッジにオーバーシュート成分及びアンダーシュート成分を付加することにより、シャープネスを補正する。シャープネス補正部51は、画質補正強度決定部15が決定した補正強度に応じてシャープネスを増加させる程度を異ならせる。画像のエッジに付加するオーバーシュート成分及びアンダーシュート成分の大きさを異ならせれば、シャープネスを増加させる程度を異ならせることができる。シャープネス補正部51は、エッジ強調回路または輪郭補正回路と称される回路であってもよい。
【0047】
ガンマ補正部52は、映像信号の画質を補正しない場合には、
図7Aに示すようなガンマ特性で、入力輝度信号を出力輝度信号に変換する。雨滴Rdが撮像されている状態のブロックBkにおいては所定の階調以下の領域の輝度が増加している。そこで、ガンマ補正部52は、映像信号の画質を補正する場合には、
図7Bに示すような所定の階調以下の領域の輝度を低下させるような補正ガンマ特性で、入力輝度信号を出力輝度信号に変換する。
図7A及び
図7Bは、画質補正部5に入力される映像信号が8ビットである場合を例としている。
【0048】
図7Bでは1つのガンマ特性しか示していないが、ガンマ補正部52には、所定の階調以下の領域の輝度を低下させる程度を異ならせた複数の補正ガンマ特性が設定されている。ガンマ補正部52は、画質補正強度決定部15が決定した補正強度に応じて適切な補正ガンマ特性を選択して、所定の階調以下の領域の輝度を低下させる程度を異ならせる。
【0049】
画質補正部5は、シャープネス補正部51のみを有して、映像信号に第1の画質補正のみを施してもよい。画質補正部5は、ガンマ補正部52のみを有して、映像信号に第2の画質補正を施してもよい。画質補正部5は、シャープネス補正部51及びガンマ補正部52を有し、映像信号に第1及び第2の画質補正の双方を施すのがよい。
【0050】
撮像装置100は、画質補正強度決定部15を省略した構成とされてもよい。この場合、画質補正部5は、雨滴付着検出部14が検出した輝度信号の変化の程度にかかわらず、一律に輝度信号を補正する。撮像装置100が画質補正強度決定部15を備えれば、輝度信号の変化の程度に応じて輝度信号を補正することができるので、画質補正強度決定部15を備えることが好ましい。
【0051】
フレームFにおいて雨滴Rdが撮影されているブロックBkが全てのブロックBkのうちの大方を占める場合、画質補正部5は、フレームFの全体で第1の画質補正を施したり、第2の画質補正を施したりしてもよい。雨滴Rdが撮影されているブロックBkが全てのブロックBkのうちの大方を占める場合とは、例えば、雨滴Rdが撮影されているブロックBkが全てのブロックBkのうちの80%以上を占める場合である。
【0052】
図8に示すフローチャートを用いて、撮像装置100の動作であり、撮像装置100が実行する画質補正方法を説明する。撮像装置100の電源がオンされて処理が開始されると、映像フレーム生成部4は、ステップS1にて、撮影画像に基づき映像信号の各フレームを生成する。雨滴付着検出部14は、ステップS2にて、車両速度(撮像装置100の移動速度)を取得する。雨滴付着検出部14は、ステップS3にて、各フレームを車両速度のレベルに応じて複数のブロックに分割する。
【0053】
雨滴付着検出部14は、ステップS4にて、ブロックごとに隣接フレーム間で輝度の急激な変化の有無を判定する。雨滴付着検出部14は、ステップS5にて、輝度が急激に変化したブロック数は全てのブロックのうち所定の割合以上であるか否かを判定する。急激に変化したブロック数が所定の割合以上でなければ(NO)、雨滴付着検出部14は処理をステップS6に移行させる。
【0054】
ステップS5にて急激に変化したブロック数が所定の割合以上であれば(YES)、画質補正強度決定部15は、ステップS11にて、輝度の変化の程度に応じて画質補正強度を決定する。画質補正部5は、ステップS12にて、フレーム内の輝度が急激に変化したブロックの画質を補正して、ステップS6に移行させる。
【0055】
雨滴付着検出部14は、ステップS6にて、車両速度を取得する。雨滴付着検出部14は、ステップS7にて、車両速度のレベルが変化したか否かを判定する。車両速度のレベルが変化していなければ(NO)、雨滴付着検出部14は、ステップS8にて、同じレベル内でブロックの大きさを変更して、処理をステップS10に移行させる。車両速度のレベルが変化していれば(YES)、雨滴付着検出部14は、ステップS9にて、変化したレベル内で用いるブロックの大きさを設定して、処理をステップS10に移行させる。
【0056】
撮像装置100は、ステップS10にて、電源のオフ等によって撮像装置100の動作を終了させるか否かを判定する。撮像装置100の動作を終了させなければ(NO)、撮像装置100は、ステップS4以降の処理を繰り返す。動作を終了させれば(YES)、撮像装置100は処理を終了させる。
【0057】
以上のようにして、撮像装置100によれば、透明カバー1cを有さない構成であればレンズ1に雨滴Rdが付着しても、透明カバー1cを有する構成であれば透明カバー1cに雨滴Rdが付着しても、画質の悪化を抑えることが可能となる。
【0058】
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。
【符号の説明】
【0059】
1 レンズ
1c 透明カバー
2 撮像素子
3 信号処理部
4 映像フレーム生成部
5 画質補正部
6 符号化部
7 書き込み制御部
8 メモリ
11 GNSS受信部
12 位置算出部
13 車両速度検出部
14 雨滴付着検出部
15 画質補正強度決定部
21 通信部
30 ネットワーク
31 気象情報提供サーバ
51 シャープネス補正部
52 ガンマ補正部
100 撮像装置