(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022180569
(43)【公開日】2022-12-06
(54)【発明の名称】ぶれ補正装置、撮像装置、監視システム、及びプログラム
(51)【国際特許分類】
G03B 5/00 20210101AFI20221129BHJP
G03B 15/00 20210101ALI20221129BHJP
H04N 5/232 20060101ALI20221129BHJP
【FI】
G03B5/00 K
G03B5/00 J
G03B15/00 S
H04N5/232 480
H04N5/232 290
【審査請求】有
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022152893
(22)【出願日】2022-09-26
(62)【分割の表示】P 2021501980の分割
【原出願日】2020-02-17
(31)【優先権主張番号】P 2019028843
(32)【優先日】2019-02-20
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】藤川 哲也
(57)【要約】 (修正有)
【課題】機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができるぶれ補正装置、撮像装置、監視システム、及びプログラムを提供する。
【解決手段】ぶれ補正装置は、センサと、機械式ぶれ補正装置と、撮像装置により撮像されることで得られた画像に対して、撮像装置での露光中の光学素子の動作状態に関する動作状態情報とぶれ量とに基づいて画像処理を行うことで、ぶれを補正する電子式ぶれ補正回路と、露光中に機械式ぶれ補正装置と電子式ぶれ補正回路とを既定の比率で分担して動作させた場合に動作状態情報、比率、ぶれ量、及び撮像装置での露光期間に応じて定まるフィルタを画像に対して適用することでぶれを補正する補足ぶれ補正回路と、を含む。
【選択図】
図6
【特許請求の範囲】
【請求項1】
撮像装置のぶれ量を検出する検出部と、
前記撮像装置に含まれる光学素子を前記ぶれ量に基づいて移動させることで、ぶれを補正する機械式ぶれ補正部と、
前記撮像装置により撮像されることで得られた画像に対して、前記ぶれを補正する電子式ぶれ補正部と、
前記露光中に前記機械式ぶれ補正部と前記電子式ぶれ補正部とを既定の比率で分担して前記露光中に生じる前記ぶれが原因で前記画像内に現れる乱れを除去するフィルタを前記画像に対して適用することで前記ぶれを補正する補足ぶれ補正部と、
を含むぶれ補正装置。
【請求項2】
前記電子式ぶれ補正部は、前記撮像装置での露光中の前記光学素子の動作状態に関する動作状態情報と前記ぶれ量とに基づいて画像処理を行うことで、前記ぶれを補正し、
前記フィルタは、前記露光中に前記機械式ぶれ補正部と前記電子式ぶれ補正部とを動作させた場合に前記動作状態情報、前記比率、前記ぶれ量、及び前記撮像装置での露光期間に応じて定められる
請求項1に記載のぶれ補正装置。
【請求項3】
前記露光は1フレーム内での露光である
請求項1又は請求項2に記載のぶれ補正装置。
【請求項4】
前記電子式ぶれ補正部は、前記撮像装置での露光中の前記光学素子の動作状態に関する動作状態情報と前記ぶれ量とに基づいて画像処理を行うことで、前記ぶれを補正し、
前記動作状態情報は、露光期間中の前記光学素子が移動している期間と前記露光期間中の前記光学素子が移動していない期間とのうちの少なくとも一方を含む情報である
請求項1から請求項3の何れか一項に記載のぶれ補正装置。
【請求項5】
前記電子式ぶれ補正部は、前記撮像装置での露光中の前記光学素子の動作状態に関する動作状態情報と前記ぶれ量とに基づいて画像処理を行うことで、前記ぶれを補正し、
前記動作状態情報は、露光期間中の前記光学素子の移動軌跡を特定可能な情報を含む情報である
請求項1から請求項4の何れか一項に記載のぶれ補正装置。
【請求項6】
前記電子式ぶれ補正部は、前記撮像装置での露光中の前記光学素子の動作状態に関する動作状態情報と前記ぶれ量とに基づいて画像処理を行うことで、前記ぶれを補正し、
前記画像処理は、前記動作状態情報、前記比率、及び前記ぶれ量に応じて定められた切出位置に従って前記画像を切り出す処理を含む処理である
請求項1から請求項5の何れか一項に記載のぶれ補正装置。
【請求項7】
前記光学素子は、被写体を示す被写体光が光学部材により結像される撮像素子と前記光学部材とのうちの少なくとも一方である
請求項1から請求項6の何れか一項に記載のぶれ補正装置。
【請求項8】
前記検出部は、前記ぶれの複数の周波数の各々について前記ぶれ量を検出し、
前記比率は、前記周波数に応じて定められている
請求項1から請求項7の何れか一項に記載のぶれ補正装置。
【請求項9】
前記検出部は、一対の軸方向の各々について前記ぶれ量を検出し、
前記比率は、前記軸方向に応じて定められている
請求項1から請求項7の何れか一項に記載のぶれ補正装置。
【請求項10】
請求項1から請求項9の何れか一項に記載のぶれ補正装置と、
撮像することで前記画像を生成する撮像部と、
を含む撮像装置。
【請求項11】
請求項10に記載の撮像装置と、
前記補足ぶれ補正部での補正結果が反映された前記画像を表示部に対して表示させる制御、及び前記補正結果が反映された前記画像を示す画像データを記憶部に対して記憶させる制御のうちの少なくとも一方を行う制御装置と、
を含む監視システム。
【請求項12】
コンピュータを、
請求項1から請求項9の何れか一項に記載のぶれ補正装置に含まれる前記機械式ぶれ補正部、前記電子式ぶれ補正部、及び補足ぶれ補正部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示の技術は、ぶれ補正装置、撮像装置、監視システム、及びプログラムに関する。
【背景技術】
【0002】
以下の説明において、「ぶれ」とは、被写体を示す被写体光が光学系を介して受光面に結像される撮像装置において、被写体光が受光面に結像されることで得られる被写体像が、撮像装置に与えられた振動に起因して光学系の光軸と受光面との位置関係が変化することで変動する現象を指す。
【0003】
撮像装置の結像面に結像される被写体像は、光学像と、電子像である画像とに大別され、光学像のぶれは機械式補正部によって補正され、画像のぶれは電子式補正部によって補正される。被写体像のぶれを補正するには、検出されたぶれ量に基づいて導出されたぶれ補正量が用いられる。機械式補正部は、ぶれ補正量に基づいて光学系及び/又は撮像素子を機械的に移動させることでぶれを補正する。電子式補正部は、撮像されることで得られた画像に対してぶれに応じた切り出しを行うことでぶれを補正する(例えば、特開2013-135442号公報、特開2017-152995号公報、及び特開平9-163215号公報参照)。
【0004】
ところで、露光中に生じるぶれが原因で画像内に現れる乱れは電子式ぶれ補正では除去することができない。なぜならば、電子式ぶれ補正は、画像から一部の画像領域を切り出す処理であり、露光中に生じるぶれに対応していないからである。露光中に生じるぶれが原因で画像内に現れる乱れを抑制する方法としては、露光中に機械式ぶれ補正を行う方法、及び画像に対してフィルタを適用する方法が知られている(例えば、特開2008-124728号公報参照)。
【発明の概要】
【0005】
本開示の技術に係る一つの実施形態は、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができるぶれ補正装置、撮像装置、監視システム、及びプログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の技術に係る第1の態様は、撮像装置のぶれ量を検出する検出部と、撮像装置に含まれる光学素子をぶれ量に基づいて移動させることで、ぶれを補正する機械式ぶれ補正部と、撮像装置により撮像されることで得られた画像に対して、撮像装置での露光中の光学素子の動作状態に関する動作状態情報とぶれ量とに基づいて画像処理を行うことで、ぶれを補正する電子式ぶれ補正部と、露光中に機械式ぶれ補正部と電子式ぶれ補正部とを既定の比率で分担して動作させた場合に動作状態情報、比率、ぶれ量、及び撮像装置での露光期間に応じて定まるフィルタを画像に対して適用することでぶれを補正する補足ぶれ補正部と、を含むぶれ補正装置である。これにより、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができる。
【0007】
本開示の技術に係る第2の態様は、フィルタは、露光中に生じるぶれが原因で画像内に現れる乱れを除去するフィルタである第1の態様に係るぶれ補正装置である。これにより、フィルタを用いずに画像内の乱れを除去する場合に比べ、露光中に生じるぶれが原因で画像内に現れる乱れを簡便に除去することができる。
【0008】
本開示の技術に係る第3の態様は、露光は1フレーム内での露光である第1の態様又は第2の態様に係るぶれ補正装置である。これにより、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、1フレーム内の露光中に生じるぶれが原因で1フレーム分の画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができる。
【0009】
本開示の技術に係る第4の態様は、動作状態情報は、露光期間中の光学素子が移動している期間と露光期間中の光学素子が移動していない期間とのうちの少なくとも一方を含む情報である第1の態様から第3の態様の何れか1つの態様に係るぶれ補正装置である。これにより、露光期間中の光学素子が移動している期間及び露光期間中の光学素子が移動していない期間の何れもが動作状態情報に含まれていない場合に比べ、電子式ぶれ補正部及び補足ぶれ補正部の各々によるぶれの補正精度を高めることができる。
【0010】
本開示の技術に係る第5の態様は、動作状態情報は、露光期間中の光学素子の移動軌跡を特定可能な情報を含む情報である第1の態様から第4の態様の何れか1つの態様に係るぶれ補正装置である。これにより、露光期間中の光学素子の移動軌跡とは無関係な情報を用いて画像内の乱れを除去する場合に比べ、画像内の乱れを高精度に除去することができる。
【0011】
本開示の技術に係る第6の態様は、画像処理は、動作状態情報、比率、及びぶれ量に応じて定められた切出位置に従って画像を切り出す処理を含む処理である第1の態様から第5の態様の何れか1つの態様に係るぶれ補正装置である。これにより、動作状態情報、既定の比率、及びぶれ量とは無関係に定められた切出位置に従って画像を切り出す処理が行われる場合に比べ、ぶれを高精度に補正することができる。
【0012】
本開示の技術に係る第7の態様は、光学素子は、被写体を示す被写体光が光学部材により結像される撮像素子と光学部材とのうちの少なくとも一方である第1の態様から第6の態様の何れか1つの態様に係るぶれ補正装置である。これにより、光学素子が撮像素子の場合は撮像素子の可動域の範囲内でぶれを補正することができ、光学素子が光学部材の場合は光学部材の可動域の範囲内でぶれを補正することができ、光学素子が撮像素子及び光学部材の場合は撮像素子及び光学部材の各々の可動域の範囲内でぶれを補正することができる。
【0013】
本開示の技術に係る第8の態様は、検出部は、ぶれの複数の周波数の各々についてぶれ量を検出し、比率は、周波数に応じて定められている第1の態様から第7の態様の何れか1つの態様に係るぶれ補正装置である。これにより、複数の周波数の各々についてぶれ量が検出されるようにすることで、1つの周波数についてのぶれ量のみを用いてぶれが補正される場合に比べ、ぶれを高精度に補正することができる。
【0014】
本開示の技術に係る第9の態様は、検出部は、一対の軸方向の各々についてぶれ量を検出し、比率は、軸方向に応じて定められている第1の態様から第7の態様の何れか1つの態様に係るぶれ補正装置である。これにより、1つの軸方向についてのぶれ量のみを用いてぶれが補正される場合に比べ、ぶれを高精度に補正することができる。
【0015】
本開示の技術に係る第10の態様は、第1の態様から第9の態様の何れか1つの態様に係るぶれ補正装置と、撮像することで画像を生成する撮像部と、を含む。これにより、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができる。
【0016】
本開示の技術に係る第11の態様は、第10の態様に係る撮像装置と、補足ぶれ補正部での補正結果が反映された画像を表示部に対して表示させる制御、及び補正結果が反映された画像を示す画像データを記憶部に対して記憶させる制御のうちの少なくとも一方を行う制御装置と、を含む監視システムである。これにより、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができる。
【0017】
本開示の技術に係る第12の態様は、コンピュータを、第1の態様から第9の態様の何れか1つの態様に係るぶれ補正装置に含まれる機械式ぶれ補正部、電子式ぶれ補正部、及び補足ぶれ補正部として機能させるためのプログラムである。これにより、機械式ぶれ補正部と電子式ぶれ補正部とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で画像内に現れる乱れを機械式ぶれ補正部に依拠することなく除去することができる。
【0018】
本開示の技術に係る第13の態様は、撮像装置のぶれ量を検出するセンサと、プロセッサとを含み、プロセッサは、撮像装置に含まれる光学素子をぶれ量に基づいて移動させることで、ぶれを補正する機械式ぶれ補正処理を行い、撮像装置により撮像されることで得られた画像に対して、撮像装置での露光中の光学素子の動作状態に関する動作状態情報とぶれ量とに基づいて画像処理を行うことで、ぶれを補正する電子式ぶれ補正処理を行い、露光中に機械式ぶれ補正処理と電子式ぶれ補正処理とを既定の比率で分担して動作させた場合に動作状態情報、比率、ぶれ量、及び撮像装置での露光期間に応じて定まるフィルタを画像に対して適用することでぶれを補正する補足ぶれ補正処理を行うぶれ補正装置である。
【図面の簡単な説明】
【0019】
【
図1】実施形態に係る監視システムの構成の一例を示す概略構成図である。
【
図2】実施形態に係る監視カメラの光学系及び電気系の構成の一例を示すブロック図である。
【
図3】実施形態に係る管理装置の電気系の構成の一例を示すブロック図である。
【
図4】実施形態に係る監視カメラに含まれるCPUの機能の一例を示す機能ブロック図である。
【
図5】実施形態に係る監視カメラに含まれる電子式ぶれ補正部の処理内容の一例を示す概念図である。
【
図6】実施形態に係る監視カメラに含まれるCPUにより実現される補足ぶれ補正部の処理内容の一例を示す概念図である。
【
図7】実施形態に係る監視カメラから管理装置に送信された補足補正画像の管理装置での処理内容の説明に供する概念図である。
【
図8】実施形態に係る補正制御処理の流れの一例を示すフローチャートである。
【
図10】実施形態に係る監視カメラに含まれるCPUの機能の変形例を示す機能ブロック図である。
【
図11】実施形態に係る監視カメラで用いられる比率情報の変形例を示す概念図である。
【
図12】実施形態に係る補正制御プログラムが記憶された記憶媒体から、補正制御プログラムが監視カメラ内のコンピュータにインストールされる態様の一例を示す概念図である。
【発明を実施するための形態】
【0020】
添付図面に従って本開示の技術に係る実施形態の一例について説明する。
【0021】
先ず、以下の説明で使用される文言について説明する。
【0022】
CPUとは、“Central Processing Unit”の略称を指す。RAMとは、“Random Access Memory”の略称を指す。ROMとは、“Read Only Memory”の略称を指す。
【0023】
ASICとは、“Application Specific Integrated Circuit”の略称を指す。PLDとは、“Programmable Logic Device”の略称を指す。FPGAとは、“Field-Programmable Gate Array”の略称を指す。AFEとは、“Analog Front End”の略称を指す。DSPとは、“Digital Signal Processor”の略称を指す。SoCとは、“System-on-a-chip”の略称を指す。
【0024】
SSDとは、“Solid State Drive”の略称を指す。DVD-ROMとは、“Digital Versatile Disc Read Only Memory”の略称を指す。USBとは、“Universal Serial Bus”の略称を指す。HDDとは、“Hard Disk Drive”の略称を指す。EEPROMとは、“Electrically Erasable and Programmable Read Only Memory”の略称を指す。
【0025】
CCDとは、“Charge Coupled Device”の略称を指す。CMOSとは、“Complementary Metal Oxide Semiconductor”の略称を指す。ELとは、“Electro-Luminescence”の略称を指す。A/Dとは、“Analog/Digital”の略称を指す。I/Fとは、“Interface”の略称を指す。UIとは、“User Interface”の略称を指す。WANとは、“Wide Area Network”の略称を指す。
【0026】
FIRとは、“Finite Impulse Response”の略称を指す。IIRとは、“Infinite Impulse Reponse”の略称を指す。SNRとは、例えば、“Signal-to-Noise-Ratio”の略称を指す。また、以下の説明において、ディスプレイに表示される「画像」以外で、「画像」と表現されている場合、「画像」には「画像を示すデータ」の意味も含まれる。
【0027】
図1において、監視システム2は、監視カメラ10及び管理装置11を備えている。監視システム2は、本開示の技術に係る「監視システム」の一例であり、監視カメラ10は、本開示の技術に係る「撮像装置」の一例である。
【0028】
監視カメラ10は、屋内外の柱又は壁等に設置され、被写体である監視対象を撮像し、撮像することで動画像を生成する。動画像には、撮像することで得られた複数フレームの画像が含まれている。監視カメラ10は、撮像することで得た動画像を、通信ライン12を介して管理装置11に送信する。
【0029】
管理装置11は、ディスプレイ13及び二次記憶装置14を備えている。ディスプレイ13としては、例えば、液晶ディスプレイ又は有機ELディスプレイ等が挙げられる。なお、ディスプレイ13は、本開示の技術に係る「表示部(ディスプレイ)」の一例である。
【0030】
二次記憶装置14の一例としては、HDDが挙げられる。二次記憶装置14は、HDDではなく、フラッシュメモリ、SSD、又はEEPROMなどの不揮発性のメモリであればよい。なお、二次記憶装置14は、本開示の技術に係る「記憶部(メモリ)」の一例である。
【0031】
管理装置11では、監視カメラ10によって送信された動画像が受信され、受信された動画像がディスプレイ13に表示されたり、二次記憶装置14に記憶されたりする。
【0032】
一例として
図2に示すように、監視カメラ10は、光学系15及び撮像素子25を備えている。撮像素子25は、光学系15の後段に位置している。光学系15は、対物レンズ15A及びレンズ群15Bを備えている。対物レンズ15A及びレンズ群15Bは、監視対象側から撮像素子25の受光面25A側にかけて、光学系15の光軸OAに沿って、対物レンズ15A及びレンズ群15Bの順に配置されている。レンズ群15Bには、光軸OAに沿って各々移動可能なフォーカス用のレンズ及びズーム用のレンズ等が含まれている。フォーカス用のレンズ及びズーム用のレンズは、与えられた動力に応じて光軸OAに沿って移動する。また、レンズ群15Bには、防振レンズ15B1が含まれている。防振レンズ15B1は、与えられた動力に応じて防振レンズ15B1の光軸に対して垂直方向に変動する。防振レンズ15B1は、本開示の技術に係る「光学素子」及び「光学部材」の一例である。なお、本実施形態での垂直の意味には、完全な垂直の意味の他に、設計上及び製造上において許容される誤差を含む略垂直の意味も含まれる。
【0033】
このように構成された光学系15によって、監視対象を示す監視対象光は、受光面25Aに結像される。なお、撮像素子25は、本開示の技術に係る「撮像部(イメージセンサ)」の一例である。なお、ここでは、撮像素子25として、CCDイメージセンサが採用されているが、これはあくまでも一例に過ぎず、撮像素子25は、CMOSイメージセンサ等の他のイメージセンサであってもよい。
【0034】
ところで、監視カメラ10に与えられる振動には、屋外であれば、自動車の通行による振動、風による振動、及び道路工事による振動等があり、屋内であれば、エアコンディショナーの動作による振動、及び人の出入りによる振動等がある。そのため、監視カメラ10では、監視カメラ10に与えられた振動(以下、単に「振動」とも称する)に起因してぶれが生じる。
【0035】
なお、本実施形態において、「ぶれ」とは、監視カメラ10において、デジタル画像が光軸OAと受光面25Aとの位置関係が変化することで変動する現象を指す。換言すると、「ぶれ」とは、振動に起因して光軸OAが傾くことによって、受光面25Aに結像されることで得られた光学像が変動する現象とも言える。光軸OAの変動とは、例えば、基準軸(例えば、ぶれが発生する前の光軸OA)に対して光軸OAが傾くことを意味する。
【0036】
そこで、監視カメラ10は、ぶれを補正するため、機械式ぶれ補正部29を備えている。すなわち、機械式ぶれ補正部29は、ぶれの補正に供される。機械式ぶれ補正部29及び後述の動作制御部37A(
図4参照)は、本開示の技術に係る「機械式ぶれ補正部(機械式ぶれ補正装置)」の一例である。機械式ぶれ補正部は、機械式ぶれ補正処理を行うデバイス、いわゆるOIS(Optical Image Stabilization)を行うデバイスである。ここでは、OISを例示しているが、OISに代えてBIS(Body Image Stabilization)を行うデバイスであってもよいし、OIS及びBISを行うデバイスであってもよい。なお、本実施形態において、「ぶれの補正」には、ぶれを無くすという意味の他に、ぶれを低減するという意味も含まれる。
【0037】
機械式ぶれ補正部29は、防振レンズ15B1、アクチュエータ17、ドライバ23、及び位置検出センサ39を備えている。防振レンズ15B1は、本開示の技術に係る「光学素子」の一例である。
【0038】
機械式ぶれ補正部29によるぶれの補正方法としては、周知の種々の方法を採用することができる。本実施形態では、ぶれの補正方法として、ぶれ量検出センサ40(後述)によって検出されたぶれ量に基づいて防振レンズ15B1を移動させることでぶれを補正する方法が採用されている。具体的には、ぶれを打ち消す方向に、ぶれを打ち消す量だけ防振レンズ15B1を移動させることでぶれの補正が行われるようにしている。
【0039】
防振レンズ15B1にはアクチュエータ17が取り付けられている。アクチュエータ17は、ボイスコイルモータが搭載されたシフト機構であり、ボイスコイルモータを駆動させることで防振レンズ15B1を、防振レンズ15B1の光軸に対して垂直方向に変動させる。なお、ここでは、アクチュエータ17としては、ボイスコイルモータが搭載されたシフト機構が採用されているが、本開示の技術はこれに限定されず、ボイスコイルモータに代えて、ステッピングモータ又はピエゾ素子等の他の動力源を適用してもよい。
【0040】
アクチュエータ17は、ドライバ23により制御される。アクチュエータ17がドライバ23の制御下で駆動することで、防振レンズ15B1の位置が光軸OAに対して機械的に変動する。
【0041】
位置検出センサ39は、防振レンズ15B1の現在位置を検出し、検出した現在位置を示す位置信号を出力する。ここでは、位置検出センサ39の一例として、ホール素子を含むデバイスが採用されている。ここで、防振レンズ15B1の現在位置とは、防振レンズ二次元平面内の現在位置を指す。防振レンズ二次元平面とは、防振レンズ15B1の光軸に対して垂直な二次元平面を指す。なお、本実施形態では、位置検出センサ39の一例として、ホール素子を含むデバイスが採用されているが、本開示の技術はこれに限定されず、ホール素子に代えて、磁気センサ又はフォトセンサなどを採用してもよい。
【0042】
監視カメラ10は、コンピュータ19、ドライバ26、AFE30、DSP31、画像メモリ32、電子式ぶれ補正部33、通信I/F34、ぶれ量検出センサ40、二次記憶装置42、及びUI系デバイス43を備えている。コンピュータ19は、RAM35、ROM36、及びCPU37を備えている。コンピュータ19は、本開示の技術に係る「コンピュータ」の一例である。また、電子式ぶれ補正部33及び後述の動作制御部37A(
図4参照)は、本開示の技術に係る「電子式ぶれ補正部(電子式ぶれ補正回路)」の一例である。電子式ぶれ補正部は、電子式ぶれ補正処理を行うプロセッサ、いわゆる「EIS(Electric Image Stabilization)」を行うプロセッサ(EISプロセッサ)である。
【0043】
ドライバ26、AFE30、DSP31、画像メモリ32、電子式ぶれ補正部33、通信I/F34、RAM35、ROM36、CPU37、ぶれ量検出センサ40、二次記憶装置42、及びUI系デバイス43は、バスライン38に接続されている。また、ドライバ23もバスライン38に接続されている。
【0044】
ROM36には、監視カメラ10用の各種プログラムが記憶されている。CPU37は、ROM36から各種プログラムを読み出し、読み出した各種プログラムをRAM35に展開する。CPU37は、RAM35に展開した各種プログラムに従って監視カメラ10の全体を制御する。
【0045】
撮像素子25には、ドライバ26及びAFE30の各々が接続されている。撮像素子25は、ドライバ26の制御の下、既定のフレームレートで監視対象を撮像する。ここで言う「既定のフレームレート」とは、例えば、数フレーム/秒から数十フレーム/秒を指す。
【0046】
受光面25Aは、マトリクス状に配置された複数の感光画素(図示省略)によって形成されている。撮像素子25では、各感光画素が露光され、感光画素毎に光電変換が行われる。感光画素毎に光電変換が行われることで得られた電荷は、監視対象を示すアナログの撮像信号であり、アナログ画像として撮像素子25に蓄積される。各感光画素は、アナログ画像が読み出される前後等のタイミングで、CPU37の制御の下、ドライバ26によってリセットされる。各感光画素に対する露光期間は、シャッタスピードに従って定められ、シャッタスピードは、各感光画素に対するリセットのタイミング及びアナログ画像の読み出しのタイミングが制御されることで調節される。
【0047】
撮像素子25には、ドライバ26から垂直同期信号及び水平同期信号が入力される。垂直同期信号は、1フレーム分のアナログ画像の送信を開始するタイミングを規定する信号である。水平同期信号は、1水平ライン分のアナログ画像の出力を開始するタイミングを規定する信号である。撮像素子25は、ドライバ26から入力された垂直同期信号に従ってフレーム単位でのアナログ画像のAFE30への出力を開始し、ドライバ26から入力された水平同期信号に従って水平ライン単位でのアナログ画像のAFE30への出力を開始する。
【0048】
AFE30は、撮像素子25からのアナログ画像を受信する。換言すると、アナログ画像は、AFE30によって撮像素子25から読み出される。AFE30は、アナログ画像に対して、相関二重サンプリング及びゲイン調整等のアナログ信号処理を施した後、A/D変換を行うことで、デジタルの撮像信号であるデジタル画像を生成する。すなわち、監視カメラ10では、撮像素子25により監視対象が撮像されることで、監視対象を示すデジタル画像が得られる。ここで、デジタル画像は、本開示の技術に係る「画像」の一例である。
【0049】
なお、
図2に示す例では、AFE30が撮像素子25の外部に設けられているが、本開示の技術はこれに限定されず、AFE30は、撮像素子25内に一体的に組み込まれていてもよい。
【0050】
DSP31は、デジタル画像に対して、各種デジタル信号処理を施す。各種デジタル信号処理とは、例えば、デモザイク処理、ノイズ除去処理、階調補正処理、及び色補正処理等を指す。DSP31は、1フレーム毎に、デジタル信号処理後のデジタル画像を画像メモリ32に出力する。画像メモリ32は、DSP31からのデジタル画像を記憶する。
【0051】
ぶれ量検出センサ40は、例えば、ジャイロセンサを含むデバイスであり、監視カメラ10のぶれ量を検出する。換言すると、ぶれ量検出センサ40は、一対の軸方向の各々についてぶれ量を検出する。ジャイロセンサは、ピッチ軸PA、ヨー軸YA、及びロール軸RA(光軸OAに平行な軸)の各軸(
図1参照)周りの回転ぶれの量を検出する。ぶれ量検出センサ40は、ジャイロセンサによって検出されたピッチ軸PA周りの回転ぶれの量及びヨー軸YA周りの回転ぶれの量をピッチ軸PA及びヨー軸YAに平行な2次元状の面内でのぶれ量に変換することで、監視カメラ10のぶれ量を検出する。ぶれ量検出センサ40は、本開示の技術に係る「検出部(センサ)」の一例である。ピッチ軸PAの方向及びヨー軸YAの方向は、本開示の技術に係る「一対の軸方向」の一例である。なお、本実施形態での平行の意味には、完全な平行の意味の他に、設計上及び製造上において許容される誤差を含む略平行の意味も含まれる。
【0052】
ここでは、ぶれ量検出センサ40の一例としてジャイロセンサを挙げているが、これはあくまでも一例であり、ぶれ量検出センサ40は、加速度センサであってもよい。加速度センサは、ピッチ軸PAとヨー軸YAに平行な2次元状の面内でのぶれ量を検出する。ぶれ量検出センサ40は、検出したぶれ量をCPU37に出力する。
【0053】
また、ここでは、ぶれ量検出センサ40という物理的なセンサによってぶれ量が検出される形態例を挙げているが、本開示の技術はこれに限定されない。例えば、画像メモリ32に記憶された時系列的に前後するデジタル画像を比較することで得た動きベクトルをぶれ量として用いてもよい。また、物理的なセンサによって検出されたぶれ量と、画像処理によって得られた動きベクトルとに基づいて最終的に使用されるぶれ量が導出されるようにしてもよい。
【0054】
CPU37は、ぶれ量検出センサ40によって検出されたぶれ量を取得し、取得したぶれ量に基づいて機械式ぶれ補正部29及び電子式ぶれ補正部33を制御する。ぶれ量検出センサ40によって検出されたぶれ量は、機械式ぶれ補正部29及び電子式ぶれ補正部33の各々によるぶれの補正に用いられる。
【0055】
電子式ぶれ補正部33は、ASICを含むデバイスである。電子式ぶれ補正部33は、ぶれ量検出センサ40によって検出されたぶれ量に基づいて、画像メモリ32内のデジタル画像に対して画像処理を施すことでぶれを補正する。
【0056】
なお、ここでは、電子式ぶれ補正部33として、ASICを含むデバイスを例示しているが、本開示の技術はこれに限定されるものではなく、例えば、FPGA又はPLDを含むデバイスであってもよい。また、例えば、電子式ぶれ補正部33は、ASIC、FPGA、及びPLDのうちの複数を含むデバイスであってもよい。また、電子式ぶれ補正部33として、CPU、ROM、及びRAMを含むコンピュータが採用されてもよい。CPUは、単数であってもよいし、複数であってもよい。また、電子式ぶれ補正部33は、ハードウェア構成及びソフトウェア構成の組み合わせによって実現されてもよい。
【0057】
通信I/F34は、例えば、ネットワークインターフェースであり、ネットワークを介して、管理装置11との間で各種情報の伝送制御を行う。ネットワークの一例としては、インターネット又は公衆通信網等のWANが挙げられる。監視カメラ10と管理装置11との間の通信を司る。
【0058】
二次記憶装置42は、不揮発性のメモリであり、CPU37の制御下で、各種情報を記憶する。二次記憶装置42としては、例えば、フラッシュメモリ、SSD、EEPROM、又はHDD等が挙げられる。
【0059】
UI系デバイス43は、受付デバイス43A及びディスプレイ43Bを備えている。受付デバイス43Aは、例えば、ハードキー及びタッチパネル等であり、ユーザからの各種指示を受け付ける。CPU37は、受付デバイス43Aによって受け付けられた各種指示を取得し、取得した指示に従って動作する。
【0060】
ディスプレイ43Bは、CPU37の制御下で、各種情報を表示する。ディスプレイ43Bに表示される各種情報としては、例えば、受付デバイス43Aによって受け付けられた各種指示の内容、及びデジタル画像等が挙げられる。
【0061】
一例として
図3に示すように、管理装置11は、ディスプレイ13、二次記憶装置14、制御装置60、受付デバイス62、及び通信I/F66を備えている。制御装置60は、CPU60A、ROM60B、及びRAM60Cを備えている。受付デバイス62、ディスプレイ13、二次記憶装置14、CPU60A、ROM60B、RAM60C、及び通信I/F66の各々は、バスライン70に接続されている。
【0062】
ROM60Bには、管理装置11用の各種プログラム(以下、単に「管理装置用プログラム」と称する)が記憶されている。CPU60Aは、ROM60Bから管理装置用プログラムを読み出し、読み出した管理装置用プログラムをRAM60Cに展開する。CPU60Aは、RAM60Cに展開した管理装置用プログラムに従って管理装置11の全体を制御する。
【0063】
通信I/F66は、例えば、ネットワークインターフェースである。通信I/F66は、ネットワークを介して、管理装置11の通信I/F34に対して通信可能に接続されており、管理装置11との間で各種情報の伝送制御を行う。例えば、通信I/F66は、管理装置11に対してデジタル画像の送信を要求し、デジタル画像の送信の要求に応じて管理装置11の通信I/F34から送信されたデジタル画像を受信する。
【0064】
受付デバイス62は、例えば、キーボード、マウス、及びタッチパネル等であり、ユーザからの各種指示を受け付ける。CPU60Aは、受付デバイス62によって受け付けられた各種指示を取得し、取得した指示に従って動作する。
【0065】
ディスプレイ13は、CPU60Aの制御下で、各種情報を表示する。ディスプレイ13に表示される各種情報としては、例えば、受付デバイス62によって受け付けられた各種指示の内容、及び通信I/F66によって受信されたデジタル画像等が挙げられる。
【0066】
二次記憶装置14は、不揮発性のメモリであり、CPU60Aの制御下で、各種情報を記憶する。二次記憶装置14に記憶される各種情報としては、例えば、通信I/F66によって受信されたデジタル画像等が挙げられる。
【0067】
このように、制御装置60は、通信I/F66によって受信されたデジタル画像をディスプレイ13に対して表示させる制御、及び通信I/F66によって受信されたデジタル画像を二次記憶装置14に対して記憶させる制御を行う。
【0068】
なお、ここでは、デジタル画像をディスプレイ13に対して表示させ、かつ、通信I/F66によって受信されたデジタル画像を二次記憶装置14に対して記憶させるようにしているが、本開示の技術はこれに限定されない。例えば、デジタル画像のディスプレイ13に対する表示とデジタル画像の二次記憶装置14に対する記憶との何れかが行われるようにしてもよい。
【0069】
一例として
図4に示すように、ROM36には、補正制御プログラム36Aが記憶されている。CPU37は、ROM36から補正制御プログラム36Aを読み出し、読み出した補正制御プログラム36AをRAM35に展開する。CPU37は、RAM35に展開した補正制御プログラム36Aを実行することで、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cとして動作する。補足ぶれ補正部37Bは、本開示の技術に係る「補足ぶれ補正部(補足ぶれ補正回路)」の一例である。補足ぶれ補正部37Bは、補足的なぶれ補正処理(補足ぶれ補正処理)を行うプロセッサである。
【0070】
二次記憶装置42には、比率情報42Aが記憶されている。比率情報42Aは、撮像素子25の露光中に機械式ぶれ補正部29と電子式ぶれ補正部33とを既定の比率で分担して作動させる場合に用いられる既定の比率(以下、単に「比率」とも称する)を示す情報である。ここで言う「露光中」とは、1フレーム内での露光中を指す。また、ここで言う「比率」とは、ぶれ量検出センサ40により検出されたぶれ量を完全に打ち消すことができる補正の度合いを“10”とした場合、“10”のうちの何割ずつを機械式ぶれ補正部29と電子式ぶれ補正部33とに割り当てるかを示す比率を指す。
【0071】
比率は、一対の軸方向の各々に応じて定められている。すなわち、比率は、ピッチ軸PA方向及びヨー軸YA方向の各々に応じて定められている。
図3に示す例では、ピッチ軸PA方向についての比率が、“機械式ぶれ補正部29:電子式ぶれ補正部33=X1:Y1”であり、ヨー軸YA方向についての比率が、“機械式ぶれ補正部29:電子式ぶれ補正部33=X2:Y2”である。ピッチ軸PA方向についての防振レンズ15B1の可動域に限度がある場合、機械式ぶれ補正部29に対してぶれ量の全てを補正させることは困難なので、例えば、“X1”を、可動域内で補正可能な補正の度合いを示す“6”とし、“X2”を“4”とする。ヨー軸YA方向についての比率である“X2”及び“Y2”についても“X1”及び“X2”と同様の方法で定めることが可能である。
【0072】
動作制御部37Aは、二次記憶装置42から比率情報42Aを取得する。また、動作制御部37Aは、ぶれ量検出センサ40からぶれ量を取得する。更に、動作制御部37Aは、位置検出センサ39から位置信号を取得する。
【0073】
動作制御部37Aは、撮像素子25の露光中に、機械式ぶれ補正部29と電子式ぶれ補正部33とを比率情報42Aにより示される比率で分担して作動させる。機械式ぶれ補正部29では、ピッチ軸PA方向及びヨー軸YA方向の各々について、ぶれ量検出センサ40によって検出されたぶれ量のうちの比率に応じて定められたぶれ量に基づいて防振レンズ15B1を上述の防振レンズ二次元平面内で移動させる。防振レンズ15B1を防振レンズ二次元平面内で移動させることで、ぶれが補正される。
【0074】
動作制御部37Aは、撮像素子25の露光中に、位置検出センサ39から位置信号を複数回取得し、取得した複数の位置信号から、撮像素子25の露光中の防振レンズ15B1の動作状態に関する動作状態情報を生成する。動作状態情報としては、例えば、撮像素子25の露光中の防振レンズ二次元平面内での防振レンズ15B1の光軸の移動軌跡を特定可能な情報を含む情報が挙げられる。移動軌跡を特定可能な情報としては、防振レンズ二次元平面内での位置を特定可能な二次元座標が挙げられる。動作状態情報は、ピッチ軸PA方向及びヨー軸YA方向の各々について生成される。なお、上記の「移動軌跡」は、本開示の技術に係る「露光期間中の光学素子の移動軌跡」の一例である。
【0075】
また、ここでは、防振レンズ二次元平面内での防振レンズ15B1の光軸の移動軌跡を例示しているが、本開示の技術はこれに限定されない。例えば、防振レンズ15B1の光軸の移動軌跡に代えて、防振レンズ15B1の上端面の中心又は下端面の中心等の移動軌跡であってもよく、防振レンズ15B1の移動軌跡として特定可能な箇所の移動軌跡であればよい。
【0076】
電子式ぶれ補正部33は、画像メモリ32から1フレーム分のデジタル画像を取得する。電子式ぶれ補正部33は、1フレーム分のデジタル画像に対して、ピッチ軸PA方向及びヨー軸YA方向の各々について、動作状態情報と、ぶれ量検出センサ40によって検出されたぶれ量のうちの比率に応じて定められたぶれ量とに基づいて画像処理を行う。このように1フレーム分のデジタル画像に対して画像処理(詳しくは後述)が行われることで、ぶれが補正される。電子式ぶれ補正部33によって1フレーム分のデジタル画像に対してぶれが補正されることで得られた補正画像は補足ぶれ補正部37Bに出力される。
【0077】
動作制御部37Aと同様に、補足ぶれ補正部37Bは、位置検出センサ39から位置信号を複数回取得し、取得した複数の位置信号から動作状態情報を生成する。また、動作制御部37Aと同様に、補足ぶれ補正部37Bは、二次記憶装置42から比率情報42Aを取得する。また、動作制御部37Aと同様に、補足ぶれ補正部37Bは、ぶれ量検出センサ40からぶれ量を取得する。更に、補足ぶれ補正部37Bは、撮像素子25の露光期間(以下、単に「露光期間」とも称する)を取得する。露光期間は、撮像素子25に対して露光が行われている期間であり、撮像素子25に対する露光の開始タイミングから露光の終了タイミングまでの時間が測定されることによって得られる。なお、以下では、撮像素子25に対する露光の開始タイミングを単に「露光開始タイミング」と称し、撮像素子25に対する露光の終了タイミングを単に「露光終了タイミング」と称する。
【0078】
補足ぶれ補正部37Bは、電子式ぶれ補正部33から補正画像を取得する。補足ぶれ補正部37Bは、補正画像に対して、動作状態情報、比率情報42Aにより示される比率、ぶれ量、及び露光期間に応じて定まるフィルタを適用することでぶれを補正する。補足ぶれ補正部37Bによって補正画像に対してぶれの補正が行われることで得られた補足補正画像は送信部37Cに出力される。送信部37Cは、補足補正画像を管理装置11に送信する。
【0079】
電子式ぶれ補正部33では、デジタル画像に対する画像処理の一例として、画像切出処理を含む処理が採用されている。画像切出処理とは、動作状態情報、比率情報42Aにより示される比率、及びぶれ量に応じて定められた切出位置に従ってデジタル画像を切り出す処理を指す。すなわち、画像切出処理は、動作状態情報、比率情報42Aにより示される比率、及びぶれ量に基づいて、画像メモリ32に記憶されたデジタル画像から一部の画像領域を補正画像として切り出す処理である。
【0080】
画像切出処理が行われる場合、一例として
図5に示すように、撮像素子25の撮像領域25B1が、ぶれが補正されたデジタル画像として出力する領域25B2(以下、単に「画像出力領域25B2」と称する)よりも広く設定された上で撮像が行われる。電子式ぶれ補正部33では、動作状態情報、比率情報42Aにより示される比率、及びぶれ量に基づいて切出領域特定情報が生成される。切出領域特定情報とは、デジタル画像内において補正画像として切り出す画像領域を特定する情報を指す。そして、電子式ぶれ補正部33では、画像メモリ32に記憶されたデジタル画像から、切出領域特定情報により特定された画像領域が補正画像として切り出される。
【0081】
ところで、一例として
図6に示すように、電子式ぶれ補正部33によってデジタル画像に対して画像処理が行われることで得られた補正画像内には乱れNが現れる。乱れNは、撮像素子25の露光中のぶれに起因して生じる。電子式ぶれ補正部33によって行われる画像切出処理は、デジタル画像から一部の画像領域(デジタル画像の一部)を補正画像として切り出す処理であり、露光中に生じるぶれに対応していないので、補正画像内に、露光中のぶれが原因で乱れNが現れる。
【0082】
そこで、本実施形態では、ぶれの補正について、補足ぶれ補正部37Bが、補正画像内から乱れNを除去する補足的な処理を行う。すなわち、補足ぶれ補正部37Bは、動作状態情報、比率情報42Aにより示される比率、ぶれ量、及び露光期間に応じてフィルタを生成する。ここで言う「フィルタ」は、露光中に生じるぶれが原因で補足画像内に現れる乱れNを除去するフィルタである。
【0083】
フィルタは、例えば、FIRフィルタである。FIRフィルタ自体は、正負を含む実数値の系列であり、系列の行数はタップ数と称され、実数値自体はタップ係数と称される。補足ぶれ補正部37Bでは、動作状態情報、比率情報42Aにより示される比率、ぶれ量、及び露光期間の各々を独立変数とし、タップ係数を従属変数とするタップ係数決定用演算式が予め定められており、タップ係数決定用演算式を用いてタップ係数が決定される。
【0084】
タップ係数決定用演算式は、例えば、実機による試験及び/又はシミュレーションが実施された結果に基づいて、補正画像内に現れる乱れNが除去される演算式として予め導き出された演算式である。なお、ここで言う「乱れNが除去される」とは、例えば、信号対ノイズ比(SNR)が無限大になるデジタル画像、すなわち、乱れNを含むぶれが含まれていないデジタル画像が得られることを意味する。
【0085】
補足ぶれ補正部37Bでは、タップ係数決定用演算式を用いて決定されたタップ係数を有するFIRフィルタが補正画像に対して適用されることで補正画像から乱れNが除去される。すなわち、補正画像に対して、タップ係数決定用演算式を用いて決定されたタップ係数が畳み込み演算(積和算)されることで補正画像から乱れNが除去される。このように、補正画像に対してFIRフィルタによるフィルタリングが行われることで、補正画像から乱れNが除去された補足補正画像が生成される。
【0086】
なお、本実施形態では、タップ係数決定用演算式を用いてタップ係数が決定される形態例を挙げて説明しているが、動作状態情報、比率情報42Aにより示される比率、ぶれ量、及び露光期間とタップ係数とを対応付けたタップ係数決定用テーブルを用いてタップ係数が決定されるようにしてもよい。また、ここでは、FIRフィルタを例示しているが、本開示の技術はこれに限定されず、例えば、IIRフィルタを用いてもよい。この場合、タップ係数に代えて、IIRフィルタで用いられるパラメータが、演算式又はテーブルを用いて、動作状態情報、比率情報42Aにより示される比率、ぶれ量、及び露光期間から決定されるようにすればよい。
【0087】
監視カメラ10では、既定のフレームレートで監視対象が撮像素子25によって撮像されることで得られた各デジタル画像について、補足ぶれ補正部37Bによって補足補正画像が生成される。一例として
図7に示すように、送信部37Cには、補足ぶれ補正部37Bでの補正結果がデジタル画像に反映されることで得られた補足補正画像が順次に入力される。送信部37Cは、補足ぶれ補正部37Bから入力された各補足補正画像を管理装置11に送信する。
【0088】
管理装置11では、送信部37Cから送信された補足補正画像が制御装置60に順次に入力される。そして、ディスプレイ13は、制御装置60の制御下で、制御装置60に順次に入力された補足補正画像をライブビュー画像として表示し、二次記憶装置14は、制御装置60の制御下で、制御装置60に順次に入力された補足補正画像を記憶する。ここでは、補足補正画像の表示と補足補正画像の記憶との双方が行われる形態例を挙げているが、本開示の技術はこれに限定されず、補足補正画像の表示と補足補正画像の記憶との何れかが行われるようにしてもよい。なお、制御装置60は、本開示の技術に係る「制御装置」の一例である。
【0089】
次に、監視システム2の本開示の技術に係る部分の作用について
図8及び
図9を参照しながら説明する。なお、
図8及び
図9には、CPU37によって実行される補正制御処理の流れの一例が示されている。
【0090】
図8に示す補正制御処理では、先ず、ステップST10で、動作制御部37Aは、機械式ぶれ補正部29の作動と電子式ぶれ補正部33の作動とを既定の比率で分担して開始させ、その後、補正制御処理はステップST12へ移行する。
【0091】
本ステップST10の処理が実行されることにより、機械式ぶれ補正部29では、ぶれ量検出センサ40によって検出されたぶれ量に基づいて防振レンズ15B1を移動させることでぶれの補正が行われる。また、電子式ぶれ補正部33では、最新の動作状態情報とぶれ量検出センサ40によって検出されたぶれ量とに基づいて1フレーム分のデジタル画像に対して画像処理が行われることでぶれが補正され、補正画像が生成される。
【0092】
ステップST12で、補足ぶれ補正部37Bは、露光開始タイミングが到来したか否かを判定する。ステップST12において、露光開始タイミングが到来していない場合は、判定が否定されて、補正制御処理は
図9に示すステップST36へ移行する。ステップST12において、露光終了タイミングが到来した場合は、判定が肯定されて、補正制御処理はステップST14へ移行する。
【0093】
ステップST14で、補足ぶれ補正部37Bは、露光期間の測定を開始し、その後、補正制御処理はステップST16へ移行する。
【0094】
ステップST16で、補足ぶれ補正部37Bは、位置検出センサ39からの位置信号に基づく動作状態情報の生成を開始し、その後、補正制御処理はステップST18へ移行する。
【0095】
ステップST18で、補足ぶれ補正部37Bは、ぶれ量検出センサ40からぶれ量を取得し、その後、補正制御処理はステップST20へ移行する。
【0096】
ステップST20で、補足ぶれ補正部37Bは、露光終了タイミングが到来したか否かを判定する。ステップST20において、露光終了タイミングが到来していない場合は、判定が否定されて、ステップST20の判定が再び行われる。ステップST20において、露光終了タイミングが到来した場合は、判定が肯定されて、補正制御処理はステップST22へ移行する。
【0097】
ステップST22で、補足ぶれ補正部37Bは、露光期間の測定を終了し、その後、補正制御処理はステップST24へ移行する。
【0098】
ステップST24で、補足ぶれ補正部37Bは、位置検出センサ39からの位置信号に基づく動作状態情報の生成を終了し、その後、補正制御処理はステップST26へ移行する。
【0099】
ステップST26で、補足ぶれ補正部37Bは、二次記憶装置42から比率情報42Aを取得し、その後、補正制御処理はステップST28へ移行する。
【0100】
ステップST28で、補足ぶれ補正部37Bは、動作状態情報、比率情報42Aにより示される比率、ぶれ量、露光期間に基づいてフィルタ(例えば、上述したFIRフィルタ)を生成し、その後、補正制御処理は
図9に示すステップST30へ移行する。
【0101】
本ステップST28で用いられる動作状態情報は、ステップST24で得られた動作状態情報である。また、本ステップST28で用いられる比率情報42Aは、ステップST26で取得された比率情報42Aである。また、本ステップST28で用いられるぶれ量は、ステップST18で取得されたぶれ量である。更に、本ステップST28で用いられる露光期間は、ステップST22で測定された露光期間である。
【0102】
図9に示すステップST30で、補足ぶれ補正部37Bは、露光期間において電子式ぶれ補正部33によって生成された補正画像を取得し、その後、補正制御処理はステップST32へ移行する。
【0103】
ステップST32で、補足ぶれ補正部37Bは、ステップST30で取得した補正画像に対して、ステップST28で生成したフィルタを適用することでぶれを補正する。すなわち、補足ぶれ補正部37Bは、ステップST30で取得した補正画像に対して、ステップST28で生成したフィルタを適用することで補正画像内の乱れNを除去する。ステップST32の処理が実行された後、補正制御処理はステップST34へ移行する。
【0104】
ステップST34で、送信部37Cは、ステップST32の処理が実行されることによって補正画像内の乱れNが除去されることで得られた補足補正画像を管理装置11に送信し、その後、補正制御処理はステップST36へ移行する。
【0105】
ステップST36で、動作制御部37Aは、補正制御処理を終了する条件(以下、「補正制御処理終了条件」と称する)を満足したか否かを判定する。補正制御処理終了条件としては、例えば、補正制御処理を終了させる指示が受付デバイス43Aによって受け付けられた、との条件が挙げられる。ステップST36において、補正制御処理終了条件を満足していない場合は、判定が否定されて、補正制御処理は
図8に示すステップST12へ移行する。ステップST36において、補正制御処理終了条件を満足した場合は、判定が肯定されて、補正制御処理はステップST38へ移行する。
【0106】
ステップST38で、動作制御部37Aは、機械式ぶれ補正部29の作動と電子式ぶれ補正部33の作動とを終了させ、その後、補正制御処理が終了する。
【0107】
以上説明したように、監視カメラ10では、ぶれ量検出センサ40によって検出されたぶれ量に基づいて防振レンズ15B1を移動させることでぶれが補正される。また、電子式ぶれ補正部33によって、デジタル画像に対して、動作状態情報とぶれ量とに基づいて画像処理が行われることでぶれが補正される。電子式ぶれ補正部33によるぶれの補正方法は、ぶれ量に応じてデジタル画像を切り出すことで実現される補正方法であり、露光中に生じるぶれに対応する補正方法ではない。
【0108】
そこで、監視カメラ10では、露光中に生じるぶれを補正するために、露光中に機械式ぶれ補正部29と電子式ぶれ補正部33とを既定の比率で分担して作動させた場合に動作状態情報、既定の比率、ぶれ量、及び露光期間に応じてフィルタが生成される。そして、補足ぶれ補正部37Bによって、フィルタが補正画像に対して適用されることでぶれが補正される。すなわち、フィルタが補正画像に対して適用されることで補正画像内での乱れNが除去される。
【0109】
従って、監視カメラ10によれば、機械式ぶれ補正部29と電子式ぶれ補正部33とで分担してぶれの補正を行った場合に、露光中に生じるぶれが原因で補正画像内に現れる乱れNを機械式ぶれ補正部29に依拠することなく除去することができる。
【0110】
また、監視カメラ10では、電子式ぶれ補正部33によって補正画像に対して適用されるフィルタとして、露光中に生じるぶれが原因で補正画像内に現れる乱れNを除去するフィルタが採用されている。従って、フィルタを用いずに乱れNを除去する場合に比べ、露光中に生じるぶれが原因で補正画像内に現れる乱れNを簡便に除去することができる。
【0111】
また、監視カメラ10では、動作状態情報は、1フレーム内の露光中の防振レンズ15B1の動作状態に関する情報である。フィルタは、1フレーム内の露光中に機械式ぶれ補正部29と電子式ぶれ補正部33と既定の比率で分担して作動させた場合の動作状態情報、比率、ぶれ量、及び露光期間に応じて定められる。従って、機械式ぶれ補正部29と電子式ぶれ補正部33とで分担してぶれの補正を行った場合に、1フレーム内の露光中に生じるぶれが原因で1フレーム分の補正画像内に現れる乱れNを機械式ぶれ補正部29に依拠することなく除去することができる。
【0112】
また、監視カメラ10では、動作状態情報として、露光期間中の防振レンズ15B1の移動軌跡を特定可能な情報を含む情報が採用されている。従って、露光期間中の防振レンズ15B1の移動軌跡とは無関係な情報を用いて補正画像内の乱れNを除去する場合に比べ、補正画像内の乱れNを高精度に除去することができる。
【0113】
また、監視カメラ10では、動作状態情報、既定の比率、及びぶれ量に応じて定められた切出位置に従ってデジタル画像を切り出す画像切出処理が行われることによって補正画像が生成される。従って、動作状態情報、既定の比率、及びぶれ量とは無関係に定められた切出位置に従ってデジタル画像を切り出す処理が行われる場合に比べ、ぶれを高精度に補正することができる。
【0114】
また、監視カメラ10では、防振レンズ15B1を移動させることでぶれが補正される。従って、防振レンズ15B1の可動域の範囲内でぶれを補正することができる。
【0115】
更に、監視カメラ10では、ピッチ軸PA方向及びヨー軸YAの各々についてぶれ量が検出され、既定の比率がピッチ軸PA方向及びヨー軸YAの各々に応じて定められている。従って、1つの軸方向についてのぶれ量のみを用いてぶれが補正される場合に比べ、ぶれを高精度に補正することができる。
【0116】
なお、上記実施形態では、防振レンズ15B1を移動させることでぶれが補正される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、防振レンズ15B1に代えて、撮像素子25を防振レンズ二次元平面と平行な面内で移動させることでぶれが補正されるようにしてもよい。この場合、撮像素子25の可動域の範囲内でぶれを補正することができる。また、この場合、防振レンズ15B1が不要となるので、光学系15の小型化を図ることができる。
【0117】
また、防振レンズ15B1及び撮像素子25の双方を移動させることでぶれが補正されるようにしてもよい。この場合、防振レンズ15B1及び撮像素子25の各々の可動域の範囲内でぶれを補正することができる。また、この場合、防振レンズ15B1の可動域によって防振レンズ15B1の移動が制限されることで補正し切れなかったぶれを、撮像素子25を移動させることで補正することが可能となる。
【0118】
また、上記実施形態では、補足ぶれ補正部37Bによって露光期間がリアルタイムで測定される形態例を挙げて説明したが、本開示の技術はこれに限定されず、例えば、事前に露光期間が算出されるようにしてもよい。この場合、一例として
図10に示すように、CPU37は、露光期間算出部37Dを有する。露光期間算出部37Dは、受付デバイス43Aによってシャッタスピードを指示するシャッタスピード指示情報が受け付けられた場合に、シャッタスピード指示情報により指示されたシャッタスピードに基づいて露光期間を算出する。補足ぶれ補正部37Bでは、露光期間算出部37Dによって算出された露光期間と、動作状態情報、既定の比率、及びぶれ量に基づいてフィルタが生成される。
【0119】
また、上記実施形態では、一対の軸方向の各々についてぶれ量が検出され、比率が軸方向に応じて定められているが、本開示の技術はこれに限定されない。例えば、
図11に示すように、比率がぶれの周波数に応じて定められるようにしてもよい。
【0120】
図11に示す例では、ぶれの周波数が低周波数と高周波数とに区分されている。低周波数についての比率は、“機械式ぶれ補正部29:電子式ぶれ補正部33=X1:Y1”であり、高周波数についての比率は、“機械式ぶれ補正部29:電子式ぶれ補正部33=X2:Y2”である。この場合、低周波数と高周波数との各々についてぶれ量が検出される。低周波数のぶれ量は、ぶれ量検出センサ40によって検出されたぶれ量から、ローパスフィルタを用いて抽出され、高周波数のぶれ量は、ぶれ量検出センサ40によって検出されたぶれ量から、ハイパスフィルタを用いて抽出されるようにすればよい。なお、低周波数と高周波数とを区分する閾値は、固定値であってもよいし、受付デバイス43Aによって受け付けられた指示に応じて変更可能な可変値であってもよい。
【0121】
このように、低周波数と高周波数との各々についてぶれ量が検出されるようにすることで、1つの周波数についてのぶれ量のみを用いてぶれが補正される場合に比べ、ぶれを高精度に補正することができる。
【0122】
なお、ここでは、低周波数と高周波数とに区分けしたが、これに限らず、3つ以上の周波数に区分けした場合であっても、同様の方法でぶれ量を検出し、比率を定めるようにすればよい。
【0123】
また、上記実施形態では、動作状態情報として、防振レンズ15B1の移動軌跡を特定可能な情報を含む情報を例示したが本開示の技術はこれに限定されない。動作状態情報には、露光期間中の防振レンズ15B1が移動している期間と露光期間中の防振レンズ15B1が移動していない期間のうちの少なくとも一方を含む情報であってもよい。これにより、露光期間中の防振レンズ15B1が移動している期間及び露光期間中の防振レンズ15B1が移動していない期間の何れもが動作状態情報に含まれていない場合に比べ、電子式ぶれ補正部33及び補足ぶれ補正部37Bの各々によるぶれの補正精度を高めることができる。
【0124】
また、上記実施形態では、1フレーム毎にフィルタが生成され、生成されたフィルタが、対応する1フレームの補正画像に対して適用される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、1つのフィルタが、複数のフレームに渡って使用されるようにしてもよい。また、予め定められた時間帯に限って、同一のフィルタが使用され続けるようにしてもよい。ここで言う「予め定められた時間帯」は、例えば、受付デバイス43Aによって受け付けられた指示に従って定められた時間帯であってもよいし、固定された時間帯であってもよい。
【0125】
また、複数フレームおきにフィルタが生成されるようにしてもよい。この場合、例えば、振動の発生頻度が比較的高い時間帯に対しては1フレーム毎にフィルタが生成されるようにし、振動の発生頻度が比較的低い時間帯に対しては複数フレーム毎にフィルタが生成されるようにしてもよい。
【0126】
ここで言う「比較的高い時間帯」及び「比較的低い時間帯」は、監視カメラ10によって監視対象が撮像されることで蓄積された過去の複数のデジタル画像が解析されることによって得られた統計的なデータに基づいて定められるようにすればよい。また、「比較的高い時間帯」及び「比較的低い時間帯」は固定化されていてもよいし、受付デバイス43A等によって受け付けられた指示に従って変更可能な時間帯であってもよい。
【0127】
また、上記実施形態では、ROM36に補正制御プログラム36Aが記憶されている形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、
図12に示すように、補正制御プログラム36Aを記憶媒体100に記憶させておいてもよい。この場合、記憶媒体100に記憶されている補正制御プログラム36Aは、コンピュータ19にインストールされ、CPU37は、補正制御プログラム36Aに従って、上述した補正制御処理を実行する。なお、記憶媒体100は、非一時的記憶媒体である。記憶媒体100の一例としては、SSD又はUSBメモリなどの任意の可搬型の記憶媒体が挙げられる。
【0128】
図12に示す例では、CPU37は、単数のCPUであるが、本開示の技術はこれに限定されず、複数のCPUを採用してもよい。
【0129】
また、通信網(図示省略)を介してコンピュータ19に接続される他のコンピュータ又はサーバ装置等の記憶部に補正制御プログラム36Aを記憶させておき、上述の監視カメラ10の要求に応じて補正制御プログラム36Aがコンピュータ19にダウンロードされるようにしてもよい。この場合、ダウンロードされた補正制御プログラム36Aがコンピュータ19のCPU37によって実行される。
【0130】
また、上記実施形態では、CPU37を例示したが、本開示の技術はこれに限らず、複数のCPUを用いても良い。
【0131】
また、上記実施形態では、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cとして、コンピュータ19によるソフトウェア構成により実現される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cは、例えば、ASIC、FPGA、及び/又はPLDを含むデバイスによって実現されるようにしてもよい。また、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cは、ハードウェア構成及びソフトウェア構成の組み合わせによって実現されてもよい。
【0132】
上記の補正制御処理を実行するハードウェア資源としては、次に示す各種のプロセッサを用いることができる。プロセッサとしては、例えば、上述したように、ソフトウェア、すなわち、プログラムを実行することで、補正制御処理を実行するハードウェア資源として機能する汎用的なプロセッサであるCPUが挙げられる。また、プロセッサとしては、例えば、FPGA、PLD、又はASICなどの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路が挙げられる。
【0133】
補正制御処理を実行するハードウェア資源は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、又はCPUとFPGAとの組み合わせ)で構成されてもよい。また、補正制御処理を実行するハードウェア資源は1つのプロセッサであってもよい。
【0134】
1つのプロセッサで構成する例としては、第1に、クライアント及びサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cの各々の処理を実行するハードウェア資源として機能する形態がある。第2に、SoCなどに代表されるように、補正制御処理を実行する複数のハードウェア資源を含むシステム全体の機能を1つのICチップで実現するプロセッサを使用する形態がある。このように、動作制御部37A、補足ぶれ補正部37B、及び送信部37Cの各々の処理は、ハードウェア資源として、上記各種のプロセッサの1つ以上を用いて実現される。
【0135】
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路を用いることができる。
【0136】
また、上記実施形態では、本開示の技術に係る撮像装置の一例として監視カメラ10を挙げたが、本開示の技術はこれに限定されない。例えば、監視カメラ10に代えて、携帯型のレンズ交換式カメラ、携帯型のレンズ固定式カメラ、パーソナル・コンピュータ、スマートデバイス、又はウェアラブル端末装置等の各種の電子機器に対しても本開示の技術は適用可能である。これらの電子機器であっても、上記各実施形態で説明した監視カメラ10と同様の作用及び効果が得られる。
【0137】
また、上記の補正制御処理はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
【0138】
以上に示した記載内容及び図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、及び効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、及び効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容及び図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことは言うまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容及び図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
【0139】
本明細書において、「A及び/又はB」は、「A及びBのうちの少なくとも1つ」と同義である。つまり、「A及び/又はB」は、Aだけであってもよいし、Bだけであってもよいし、A及びBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「及び/又は」で結び付けて表現する場合も、「A及び/又はB」と同様の考え方が適用される。
【0140】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。