IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士フイルム株式会社の特許一覧

特許7113911ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム
<>
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図1
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図2
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図3
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図4
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図5
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図6
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図7
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図8
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図9
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図10A
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図10B
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図11
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図12
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図13
  • 特許-ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-28
(45)【発行日】2022-08-05
(54)【発明の名称】ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラム
(51)【国際特許分類】
   H04N 5/232 20060101AFI20220729BHJP
   H04N 5/225 20060101ALI20220729BHJP
   G03B 15/00 20210101ALI20220729BHJP
   G03B 17/02 20210101ALI20220729BHJP
   G03B 5/00 20210101ALI20220729BHJP
【FI】
H04N5/232 480
H04N5/232 060
H04N5/232 411
H04N5/232 450
H04N5/225 400
G03B15/00 S
G03B17/02
G03B5/00 J
G03B5/00 K
【請求項の数】 15
(21)【出願番号】P 2020557819
(86)(22)【出願日】2019-11-28
(86)【国際出願番号】 JP2019046554
(87)【国際公開番号】W WO2020111177
(87)【国際公開日】2020-06-04
【審査請求日】2021-05-24
(31)【優先権主張番号】P 2018224227
(32)【優先日】2018-11-29
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】特許業務法人太陽国際特許事務所
(72)【発明者】
【氏名】増田 智紀
(72)【発明者】
【氏名】杉本 雅彦
(72)【発明者】
【氏名】潘 毅
(72)【発明者】
【氏名】橋本 貴志
(72)【発明者】
【氏名】藤川 哲也
(72)【発明者】
【氏名】岸根 慶延
【審査官】大西 宏
(56)【参考文献】
【文献】特開2006-304259(JP,A)
【文献】特開2010-074378(JP,A)
【文献】特開2013-126075(JP,A)
【文献】特開2016-118701(JP,A)
【文献】特開2017-058660(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222- 5/257
G03B 5/00 - 5/08
G03B 15/00 -15/035
G03B 15/06 -15/16
G03B 17/02
G03B 17/22
(57)【特許請求の範囲】
【請求項1】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得し、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行い、
前記第1制御と前記第2制御とで異なる制御を行い、
前記プロセッサは、前記第1制御において、前記第1制御の開始から終了まで、ぶれ補正に必要な補正量に対する前記機械式補正によるぶれ補正量の比率である第1動作比率を時間経過に応じて減少させ、かつ前記ぶれ補正に必要な補正量に対する前記電子式補正によるぶれ補正量の比率である第2動作比率を時間経過に応じて増加させる
ぶれ補正制御装置。
【請求項2】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得し、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行い、
前記第1制御と前記第2制御とで異なる制御を行い、
前記第1制御と前記第2制御とで時間応答性が異なる制御を行う
ぶれ補正制御装置。
【請求項3】
前記プロセッサは、前記第1制御の時間の長さと前記第2制御の時間の長さとを異ならせる制御を行う請求項2に記載のぶれ補正制御装置。
【請求項4】
前記プロセッサは、前記第1制御の時間の長さを、前記第2制御の時間の長さよりも長くする請求項3に記載のぶれ補正制御装置。
【請求項5】
前記プロセッサは、前記第2制御において、前記第2制御の開始から終了まで、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて、前記第1動作比率を時間経過に応じて増加させ、かつ前記第2動作比率を時間経過に応じて減少させる請求項に記載のぶれ補正制御装置。
【請求項6】
前記プロセッサは、前記第2制御において、ぶれ補正の動作を同期させずに、前記電子式補正から前記機械式補正への切換制御を行う請求項1から請求項4の何れか一項に記載のぶれ補正制御装置。
【請求項7】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得し、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行い、
前記第1制御と前記第2制御とで異なる制御を行い、
前記第1制御の開始前に、前記機械式補正の補正量をぶれ補正に必要な補正量よりも小さくする第3制御を行う
ぶれ補正制御装置。
【請求項8】
前記第1制御の時間の長さが可変である請求項1から請求項の何れか一項に記載のぶれ補正制御装置。
【請求項9】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得し、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行い、
前記第1制御と前記第2制御とで異なる制御を行い、
予め定められた対象を検出可能であり、
前記第1制御において、前記対象を検出しない場合は前記対象を検出した場合よりも前記第1制御の時間の長さを短くする
ぶれ補正制御装置。
【請求項10】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得し、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行い、
前記第1制御と前記第2制御とで異なる制御を行い、
予め定められた条件が成立した場合に、ぶれ補正の動作を同期させずに前記機械式補正から前記電子式補正へ切換え、かつぶれ補正の動作を同期させずに前記電子式補正から前記機械式補正へ切換える制御を行う
ぶれ補正制御装置。
【請求項11】
前記機械式補正は、補正光学系を移動させることにより行う請求項1から請求項10の何れか一項に記載のぶれ補正制御装置。
【請求項12】
請求項1から請求項11の何れか一項に記載のぶれ補正制御装置を含む撮像装置。
【請求項13】
前記撮像装置は監視カメラである請求項12に記載の撮像装置。
【請求項14】
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得すること、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行うこと、
前記第1制御と前記第2制御とで異なる制御を行うこと、及び、
前記第1制御の開始から終了まで、ぶれ補正に必要な補正量に対する前記機械式補正によるぶれ補正量の比率である第1動作比率を時間経過に応じて減少させ、かつ前記ぶれ補正に必要な補正量に対する前記電子式補正によるぶれ補正量の比率である第2動作比率を時間経過に応じて増加させること
を含む撮像装置のぶれ補正方法。
【請求項15】
コンピュータに、
被写体像のぶれ補正を機械的に行う機械式補正、又は前記被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得すること、
取得した前記撮像情報に基づいて、前記機械式補正から前記電子式補正への切換制御を行い、かつ、前記機械式補正と前記電子式補正のぶれ補正の動作を同期させて行う第1制御、及び前記電子式補正から前記機械式補正への切換制御を行う第2制御を行うこと、
前記第1制御と前記第2制御とで異なる制御を行うこと、及び、
前記第1制御の開始から終了まで、ぶれ補正に必要な補正量に対する前記機械式補正によるぶれ補正量の比率である第1動作比率を時間経過に応じて減少させ、かつ前記ぶれ補正に必要な補正量に対する前記電子式補正によるぶれ補正量の比率である第2動作比率を時間経過に応じて増加させることを含む処理を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示の技術は、ぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラムに関する。
【背景技術】
【0002】
撮像装置は、画像ぶれを補正するぶれ補正機能を有することが一般的である。ぶれ補正機能には、機械的にぶれを補正する機械式補正と、電子的にぶれを補正する電子式補正とがある。
【0003】
機械式補正は、例えば撮像装置の揺れを検知し、ぶれ補正用のレンズを移動させて被写体の結像光軸の移動を抑制し、画像のぶれを補正する方法である。また、撮像素子の位置を、手ぶれ等によって移動した被写体の結像光軸の方向に移動させて補正する方法も、機械式補正の一種である。
【0004】
電子式補正は、例えば撮像素子によって、記録された画像から切り出して表示する部位を、手ぶれ等によって移動した被写体の方向に合わせて移動させてぶれを補正する方法である。
【0005】
機械式補正と電子式補正には、それぞれ利点と欠点がある。機械式補正は、露光時間中もぶれ補正が行われるため、ぶれ補正能力が高い。しかし、補正用レンズ及び/又は撮像素子を物理的に移動させる必要があるため、駆動用のエネルギー消費量が大きい。そのため、充電式の撮像装置においては頻繁に充電する必要がある。また、物理的な駆動部は頻繁に使用すると劣化により機械的寿命が短くなるおそれがある。
【0006】
一方、電子式補正は、電子的な画像処理だけでぶれ補正を行い、補正用レンズ及び/又は撮像素子を物理的に移動させないため、消費電力が少なく、機械的寿命を考慮する必要がない。しかし、電子式補正は、記録された画像に基づいてぶれを補正する方法であるため、1フレームの露光時間内のぶれを補正することはできない。そのため、電子式補正は、ぶれ補正能力としては機械式補正に比べて劣るとされている。そこで、2つの方法を組み合わせることが考えられている。
【0007】
例えば特開2013-126075号公報には、2種類の補正方法の特徴を考慮し、撮像の際のシャッタ速度及び画像ぶれ量の少なくとも何れかに基づいて、光学補正(機械式補正)若しくは電子補正を切り換えること、さらに光学補正と電子補正の割合を変更して併用することにより、それぞれの方式の利点を生かしつつ適切な画像ぶれ補正を行う撮像装置が開示されている。
【0008】
特開2016-24235号公報には、装置の動きによる像振れを補正するための補正量の高周波成分を光学的(機械的)に補正するとともに、補正量と、光学的な補正に用いる機械要素の位置との差に基づいて得られる補正量に基づいて電子的に像振れを補正する撮像装置が開示されている。この構成により、外乱の影響を抑制した良好な補正効果を実現することができるとされている。
【発明の概要】
【発明が解決しようとする課題】
【0009】
上述した機械式補正と電子式補正の特徴から、機械的寿命及び電力消費量の観点からは、電子式補正を優先し、機械式補正はできるだけ使用しないことが好ましい。そこで、撮像装置においては、例えば露光時間の閾値を設定して、その閾値を上回ったか、又は下回ったかによって機械式補正と電子式補正とを切換えることが考えられる。しかし、この切換えの際、機械式補正と電子式補正との補正能力の違いから、切換え前に補正されていたぶれが補正されなくなって画像のぶれが急激に大きくなり、ユーザが違和感を感じる場合がある。
【0010】
本開示の一実施形態は、機械式補正と電子式補正の両方が使用可能であり、機械式補正と電子式補正とを切換える場合の違和感を低減することができるぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラムを提供する。
【課題を解決するための手段】
【0011】
第1の態様に係るぶれ補正制御装置は、被写体像のぶれ補正を機械的に行う機械式補正、又は被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得する取得部と、取得部によって取得された撮像情報に基づいて、機械式補正から電子式補正への切換制御を、機械式補正と電子式補正のぶれ補正の動作を同期させて行う第1制御、及び電子式補正から機械式補正への切換制御を行う第2制御を行うぶれ補正制御部であって、第1制御と第2制御とで異なる制御を行うぶれ補正制御部と、を含む。
【0012】
この構成により、機械式補正と電子式補正の両方が使用可能であり、機械式補正と電子式補正とを切換える場合の違和感を低減することができる。
【0013】
第2の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第1制御と第2制御とで時間応答性が異なる制御を行う。
【0014】
第3の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第1制御の時間の長さと第2制御の時間の長さとを異ならせる制御を行う。
【0015】
第4の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第1制御の時間の長さを、第2制御の時間の長さよりも長くする。
【0016】
第5の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第1制御において、第1制御の開始から終了まで、ぶれ補正に必要な補正量に対する機械式補正によるぶれ補正量の比率である第1動作比率を時間経過に応じて減少させ、かつぶれ補正に必要な補正量に対する電子式補正によるぶれ補正量の比率である第2動作比率を時間経過に応じて増加させる。
【0017】
第6の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第2制御において、第2制御の開始から終了まで、機械式補正と電子式補正のぶれ補正の動作を同期させて、第1動作比率を時間経過に応じて増加させ、かつ第2動作比率を時間経過に応じて減少させる。
【0018】
第7の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第2制御において、ぶれ補正の動作を同期させずに、電子式補正から機械式補正への切換制御を行う。
【0019】
この構成により、ぶれ補正を優先する場合は機械式補正にすぐに切り換えることができる。
【0020】
第8の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、第1制御の開始前に、機械式補正の補正量をぶれ補正に必要な補正量よりも小さくする第3制御を行う。
【0021】
この構成により、機械式補正から電子式補正に切り換える場合の違和感をより抑制することができる。
【0022】
第9の態様に係るぶれ補正制御装置は、第1制御の時間の長さが可変である。
【0023】
この構成により、ユーザの選択肢を広げることができる。
【0024】
第10の態様に係るぶれ補正制御装置は、予め定められた対象を検出する検出部を更に含み、ぶれ補正制御部は、第1制御において、検出部が対象を検出しない場合は検出部が対象を検出した場合よりも第1制御の時間の長さを短くする。
【0025】
この構成により、予め定められた対象を検出したか否かによって、違和感の抑制と電力消費量の低減のいずれかを優先させることができる。
【0026】
第11の態様に係るぶれ補正制御装置において、ぶれ補正制御部は、予め定められた条件が成立した場合に、ぶれ補正の動作を同期させずに機械式補正から電子式補正へ切換え、かつぶれ補正の動作を同期させずに電子式補正から機械式補正へ切換える制御を行う。
【0027】
この構成により、予め定められた条件が成立したか否かによって、第1制御及び第2制御ともに実行しないことを選択可能である。
【0028】
第12の態様に係るぶれ補正制御装置において、機械式補正部は、補正光学系を移動させることにより被写体像のぶれ補正を行う。
【0029】
第13の態様に係る撮像装置は、第1の態様から第12の態様のいずれかに記載のぶれ補正制御装置を含む。
【0030】
第14の態様に係る撮像装置は、監視カメラである。
【0031】
第15の態様に係る撮像装置のぶれ補正方法は、被写体像のぶれ補正を機械的に行う機械式補正から被写体像のぶれ補正を電子的に行う電子式補正へ機械式補正と電子式補正の動作を同期させて行う切換制御を行う第1ステップと、電子式補正から機械式補正への切換制御を、第1ステップの切換制御とは異なる切換制御で行う第2ステップと、を含む。
【0033】
第16の態様に係るプログラムは、コンピュータに、被写体像のぶれ補正を機械的に行う機械式補正から被写体像のぶれ補正を電子的に行う電子式補正へ機械式補正と電子式補正の動作を同期させて行う切換制御を行う第1ステップと、電子式補正から機械式補正への切換制御を、第1ステップの切換制御とは異なる切換制御で行う第2ステップと、を実行させるためのプログラムである。
【0034】
本開示の一実施形態に係るぶれ補正制御装置は、被写体像のぶれ補正を機械的に行う機械式補正、又は被写体像のぶれ補正を電子的に行う電子式補正を選択するための撮像情報を取得する取得部と、取得部によって取得された撮像情報に基づいて、機械式補正から電子式補正への切換制御を、機械式補正と電子式補正のぶれ補正の動作を同期させて行う第1制御、及び電子式補正から機械式補正への切換制御を行う第2制御を行う少なくとも1つのプロセッサであって、第1制御と第2制御とで異なる制御を行うプロセッサと、を含む。
【発明の効果】
【0035】
本開示の一実施形態によれば、機械式補正と電子式補正の両方が使用可能であり、機械式補正と電子式補正とを切換える場合の違和感を低減することができるぶれ補正制御装置、撮像装置、撮像装置のぶれ補正方法、及びプログラムが提供される。
【図面の簡単な説明】
【0036】
図1】第1実施形態に係る監視カメラシステムを示す図である。
図2】監視カメラのブロック図である。
図3】監視カメラの制御関連部のブロック図である。
図4】第1実施形態に係るぶれ補正処理を含む動画撮像処理フローチャートである。
図5】第1制御を行う効果を説明する図である。
図6】第1実施形態に係る第1制御の処理フローチャートである。
図7】第1実施形態に係る第1制御の機械式補正と電子式補正の動作比率の変更パターンの例である。
図8】第1実施形態に係る第2制御の処理フローチャートである。
図9】第1実施形態に係る第2制御の機械式補正と電子式補正の動作比率の変更パターンの例である。
図10A】第2実施形態に係る第1制御の機械式補正と電子式補正の動作比率の変更パターンの一例である。
図10B】第2実施形態に係る第2制御の機械式補正と電子式補正の動作比率の変更パターンの一例である。
図11】第3実施形態に係る第1制御の機械式補正と電子式補正の動作比率の変更パターンの一例である。
図12】第3実施形態に係る第3制御追加処理のフローチャートである。
図13】第4実施形態に係る切換時間書換処理のフローチャートである。
図14】可搬型記憶媒体から監視カメラにプログラム等をインストールする概念図である。
【発明を実施するための形態】
【0037】
以下、本開示の技術の実施形態の一例を、図面を参照しつつ説明する。
【0038】
先ず、以下の説明で使用される用語について説明する。以下の説明において、「CMOS」とは、“Complementary Metal Oxide Semiconductor”の略称である。「CCD」とは、“Charge Coupled Device”の略称である。「CPU」とは、“Central Processing Unit”の略称である。「ROM」とは、“Read Only Memory”の略称である。「RAM」とは、“Random Access Memory”の略称である。「I/F」とは、“Interface”の略称である。「ASIC」とは、“Application Specific Integrated Circuit”の略称である。「FPGA」とは、“Field Programmable Gate Array”の略称である。「SSD」とは“Solid State Drive”の略称である。「USB」とは“Universal Serial Bus”の略称である。「CD-ROM」とは“Compact Disc Read Only Memory”の略称である。「IC」とは“Integrated Circuit”の略称である。「PLD」とは“Programmable Logic Device”の略称である。「AFE」とは“Analog Front End”の略称である。「DSP」とは“Digital Signal Processor”の略称である。「A/D」とは“Analog/Digital”の略称である。「WAN」とは“Wide Area Network”の略称である。「AE」とは“Automatic Exposure”の略称である。
【0039】
(第1実施形態)
一例として図1に示すように、監視カメラシステム2は、監視カメラ10と、管理装置11と、記憶装置12とを備える。監視カメラ10は、本開示の技術に係る「撮像装置」の一例であり、屋内外の柱、または壁等に設置され、監視領域の画像を撮像して動画を生成する。監視カメラ10は、生成した動画を管理装置11に送信する。管理装置11は、監視カメラ10とは別の場所に設置される。ここでいう「別の場所」とは、例えば管理室等を指す。管理装置11は、監視カメラ10からの動画を受信する。管理装置11は、受信した動画を記憶装置12に送信し、動画を記憶装置12に記憶させる。
【0040】
一例として図2に示すように、監視カメラ10は撮像光学系15を有する。撮像光学系15は、第1光学系16、絞り17、第2光学系18、及び補正光学系19を備えている。第1光学系16は対物レンズを含む光学系であり、被写体を示す被写体光を、被写体像として後述する撮像素子25の受光面に結像させる。絞り17は、第1光学系16から第2光学系18に至る被写体像の光量を調整する。絞り17にはアクチュエータ20が取り付けられている。アクチュエータ20は、ドライバ21により駆動制御される。ドライバ21の制御の下、アクチュエータ20が駆動することで、絞り17の開度が変更される。
【0041】
監視カメラ10に与えられる振動(以下、単に「振動」とも称する)には、屋外であれば、自動車の通行による振動、風による振動、及び道路工事による振動等があり、屋内であれば、エアコンディショナーの動作による振動、及び人の出入りによる振動等がある。補正光学系19は、振動による被写体像の像ぶれ(以下、「ぶれ」と称する。)を補正するための光学系である。補正光学系19にはアクチュエータ22が取り付けられている。アクチュエータ22は、ドライバ23により駆動制御される。ドライバ23の制御の下、アクチュエータ22が駆動することで、補正光学系19が光軸OAに対して機械的に移動する。
【0042】
なお、本実施形態において、「ぶれ」とは、振動に起因して光軸OAが被写体像に対して変動することによって生じる現象を指す。ここでいう「光軸OA」とは、第1光学系16の対物レンズの光軸を指す。光軸OAの変動とは、例えば、基準軸(例えば、ぶれが発生する前の光軸OA)に対して、ぶれにより光軸OAが傾くことを意味する。なお、本実施形態において、ぶれの補正には、ぶれをなくすという意味の他に、ぶれを低減するという意味も含まれる。
【0043】
補正光学系19とアクチュエータ22とドライバ23とで、被写体像のぶれを機械的に補正する機械式補正部24が実現される。機械式補正部24によるぶれの補正方法としては、周知の種々の方法を採用することができる。最も単純には、機械式補正部24は、ぶれを打ち消す方向に、ぶれを打ち消す量だけ、補正光学系19を移動させる。
【0044】
撮像光学系15の後段には、撮像素子25が配置されている。撮像素子25は、CMOSイメージセンサまたはCCDイメージセンサである。撮像素子25は、ドライバ26の制御の下、所定のフレームレートで、撮像光学系15で取り込まれた被写体像を撮像し、アナログの撮像信号を出力する。なお、ここでいう「所定のフレームレート」とは、例えば、数フレーム/秒から数十フレーム/秒を指す。
【0045】
監視カメラ10は、AFE30、DSP31、画像メモリ32、電子式補正部33、通信I/F34、ROM35、RAM36、及びCPU37等を有する。AFE30、DSP31、画像メモリ32、電子式補正部33、通信I/F34、ROM35、RAM36、及びCPU37は、バスライン38を介して相互に接続されている。なお、ROM35、RAM36、CPU37、及びバスライン38は、本開示の技術に係る「コンピュータ」の一例である。
【0046】
AFE30は、撮像素子25からのアナログの撮像信号を受信する。AFE30は、アナログの撮像信号に対して、相関二重サンプリング、及び自動ゲイン調整等のアナログ信号処理を施した後、A/D変換を行ってデジタルの撮像信号とする。なお、撮像素子25がCMOSイメージセンサである場合は、AFE30はCMOSイメージセンサ内に一体的に組み込まれる。
【0047】
DSP31は、デジタルの撮像信号に対して、各種デジタル信号処理を施す。各種デジタル信号処理とは、例えば、デモザイク処理、ノイズ除去処理、階調補正処理、及び色補正処理等を指す。DSP31は、デジタル信号処理後の撮像信号を画像メモリ32に出力する。画像メモリ32は、DSP31からの撮像信号を、被写体像を表す画像として記憶する。
【0048】
電子式補正部33は、画像メモリ32に記憶された画像に画像処理を施すことで、被写体像のぶれを電子的に補正する。機械式補正部24の場合と同様に、電子式補正部33によるぶれの補正方法としては、周知の種々の方法を採用することができる。
【0049】
電子式補正部33によるぶれの補正方法としては、例えば、画像出力領域切り出し方法と、画像比較方法とが挙げられる。画像出力領域切り出し方法では、まず、撮像素子25は、撮像領域を、最終的に画像として出力する領域(以下、「画像出力領域」という。)よりも一回り大きくしておく。電子式補正部33は、画像メモリ32に記憶された画像から、画像出力領域に該当する画像を切り出す。この際、電子式補正部33は、ぶれに応じて、画像出力領域の切り出し位置を変更する。
【0050】
画像比較方法では、まず、電子式補正部33は、画像メモリ32から、時系列的に前後する2つの画像を取得し、取得した2つの画像を比較する。次に、電子式補正部33は、画像を比較した結果を元に、時系列的に先行する画像に対する後続の画像のずれ量及びずれ方向を算出する。そして、電子式補正部33は、後続の画像を、算出したずれ量及びずれ方向が打ち消された画像に加工する。
【0051】
通信I/F34は、画像メモリ32から画像を読み出し、読み出した画像を管理装置11に送信する。通信I/F34は、例えば、ネットワークインターフェースである。ネットワークインターフェースは、ネットワークを介して、管理装置11との間で各種情報の伝送制御を行う。ネットワークの一例としては、インターネットあるいは公衆通信網等のWANが挙げられる。
【0052】
ROM35は、監視カメラ10の制御プログラムといった各種プログラム、並びに各種プログラムに付随する各種データを記憶する。RAM36は、CPU37が処理を実行するためのワークメモリである。CPU37は、ROM35に記憶されたプログラムをRAM36へ読み出し、読み出したプログラムにしたがった処理を実行する。これにより、CPU37は、監視カメラ10の各部の動作を統括的に制御する。
【0053】
CPU37には、ぶれ検出センサ40、測光センサ41、及びタッチパネルディスプレイ42が接続されている。ぶれ検出センサ40は、例えば、ジャイロセンサである。ジャイロセンサは、ピッチ軸PA、ヨー軸YA、及びロール軸RA(光軸OAに平行な軸)の各軸(図1参照)回りの角速度、つまり回転ぶれを検出する。また、ぶれ検出センサ40は、例えば、加速度センサである。加速度センサは、ピッチ軸PAとヨー軸YAとに平行な平面内のシフトぶれを検出する。ぶれ検出センサ40は、ぶれの検出信号をぶれ情報としてCPU37に出力する。なお、本実施形態での平行の意味には、完全な平行の意味の他に、設計上及び製造上において許容される誤差を含む略平行の意味も含まれる。
【0054】
測光センサ41は、AE制御を行うために、1フレーム毎に被写体像の光量を測定する。測光センサ41は、光量の測定信号をCPU37に出力する。
【0055】
タッチパネルディスプレイ42は、ディスプレイに対してタッチパネルが重ねられたデバイスである。ディスプレイは、CPU37の制御下で、画像を含む各種情報を表示する。タッチパネルは、ディスプレイの表示画面に重ねられており、ユーザの指またはタッチペン等の指示体による接触を受け付ける。タッチパネルディスプレイ42には、監視カメラ10の各種設定を行うための設定画面等が表示される。タッチパネルディスプレイ42は、設定画面等を通じて、ユーザからの操作指示の入力を受け付ける。
【0056】
一例として図3に示すように、ROM35には、電子式補正制御プログラム142、機械式補正制御プログラム144、切換制御プログラム146、及び動作比率テーブル148等が記憶されている。電子式補正制御プログラム142は、電子式のぶれ補正制御(以下「電子式補正」ともいう。)を行うプログラムである。機械式補正制御プログラム144は、機械式のぶれ補正制御(以下「機械式補正」ともいう。)を行うプログラムである。切換制御プログラム146は、機械式補正と電子式補正との切換時のぶれ補正制御を行うプログラムである。
【0057】
なお、図示していないが、ROM35には、各補正制御プログラム142、144及び切換制御プログラム146以外に、監視カメラ10を制御するために必要な自動露光調整プログラム及び自動焦点調節プログラム等も記憶されている。切換制御プログラム146は、本開示の技術に係る、コンピュータに切換制御を実行させるためのプログラムの一例である。
【0058】
CPU37は、ROM35に記憶された各種プログラムを実行することで、RAM36等と協働して、AE制御部60、取得部61、及びぶれ補正制御部63として機能する。
【0059】
AE制御部60は、測光センサ41からの光量の測定信号を受信する。AE制御部60は、受信した光量の測定信号に応じた露出値を設定する。AE制御部60は、1フレーム毎に露出値を設定する。より詳しくは、AE制御部60は、前のフレームの測定信号に基づいて、次のフレームの露出値を設定する。
【0060】
AE制御部60は、設定した露出値に応じた絞り17の開度を算出する。AE制御部60は、算出した開度に絞り17の実際の開度を合わせるように、ドライバ21を介してアクチュエータ20を駆動させる。
【0061】
また、AE制御部60は、設定した露出値に応じた、撮像素子25における被写体像の露光時間を算出する。AE制御部60は、算出した露光時間に実際の露光時間を合わせるように、ドライバ26を介して撮像素子25を駆動させる。AE制御部60は、算出した露光時間を取得部61に出力する。
【0062】
取得部61は、AE制御部60から出力された露光時間を取得する。露光時間は、機械式補正、又は電子式補正を選択するための「撮像情報」の一例である。前述したように、AE制御部60は、1フレーム毎に露出値を設定するので、露光時間も1フレーム毎に算出して、1フレーム毎に取得部61に出力する。取得部61は、取得した露光時間をぶれ補正制御部63に出力する。
【0063】
ぶれ補正制御部63は、ぶれ検出センサ40からのぶれの検出信号を受信する。ぶれ補正制御部63は、受信した検出信号に基づいて、被写体像のぶれを打ち消すよう、機械式補正部24及び電子式補正部33の動作を制御する。
【0064】
ぶれ補正制御部63は、取得部から受信した露光時間に基づいて、機械式補正部24による機械式補正を行うか、又は電子式補正部33による電子式補正を行うかを判定し、切換が必要と判定された場合は切換制御を実行する。ぶれ補正制御部63は、ぶれ検出センサ40から受信したぶれの検出信号を用いて、ぶれ補正量を算出する。ぶれ補正制御部63は、算出したぶれ補正量のうち、機械式補正部24が補正する量と、電子式補正部33が補正する量とを算出する。ぶれ補正制御部63は、算出した機械式補正量を、機械式補正部24に補正させる。また、ぶれ補正制御部63は、算出した電子式補正量を、電子式補正部33に補正させる。以下、機械式補正部24が補正する量を機械式補正量、電子式補正部33が補正する量を電子式補正量という。
【0065】
次に、以上のような構成を有する監視カメラ10の動作について説明する。まず、監視カメラ10が行うぶれ補正処理を含む動画撮像処理フローについて説明する。一例として図4に示すように、まずステップS10で、電源ボタンが押下されるとパワーオンとなる。パワーオンされるとステップS11で、動画スタンバイモードとなる。なお、電源ボタンが押下された場合には、動画スタンバイモードを経ずに動画記録を開始するように監視カメラ10を動作させてもよい。
【0066】
次にステップS12で、CPU37は、動画記録を開始するか否かを判定する。動画記録は「録画」とも称する。録画を開始するか否かは、本実施形態では、例えば録画ボタンが押されたか否かで判定される。ステップS12で、録画ボタンが押されていない場合は、判定が否定されてステップS22に移行する。ステップS22で、CPU37は、電源ボタンが押下されたか否かを判定する。ステップS22で、電源ボタンが押下された場合は、パワーオフとなり、動画撮像処理が終了する。ステップS22で、電源ボタンが押下されない場合は、判定が否定されてステップS11の動画スタンバイモードに戻る。
【0067】
ステップS12で、録画ボタンが押された場合は、判定が肯定されてステップS13に移行する。ステップS13で、ぶれ補正制御部63は、機械式補正制御を行う条件が成立したか否かを判定する。機械式補正制御を行う条件とは、本第1実施形態では露光時間が第1閾値以上であるという条件である。ステップS13で、機械式補正制御を行う条件が成立した場合は、判定が肯定されてステップS14に移行し、ぶれ補正制御部63は機械式補正制御を実行する。
【0068】
露光時間の第1閾値は、例えば露光時間条件を変えて機械式補正制御から電子式補正制御に切り換え、画像のぶれ残りによってユーザが違和感を感じるか否かの官能試験を予め行って決定することができる。又は、監視カメラを配置する環境で、露光時間長さによってどの程度のぶれ残りが発生するかを計算してそのぶれ残りの大きさに基づいて決定してもよい。
【0069】
なお、機械式補正制御を行う条件は、露光時間に応じた条件に限定されない。例えば、ぶれ検出センサ40によって検出されるぶれの大きさ及び、周期の所定の閾値を設定し、ぶれの大きさ及び、周期が閾値を超えたか否かを条件としてもよい。又は、周囲の明るさが時間帯で変化する環境であれば、その時間帯で機械式補正制御と電子式補正制御とを切り換えてもよい。この場合は、時刻が機械式補正制御を行う条件となる。
【0070】
次に、ステップS15で、CPU37は、動画記録を終了する条件が成立したか否かを判定する。動画記録を終了する条件とは、例えば録画中に録画停止ボタンが押下されたという条件である。ステップS15で動画記録を終了する条件が成立した場合は、判定が肯定されて録画が停止され、ステップS11の動画スタンバイモードに戻る。
【0071】
ステップS15で動画記録を終了する条件が成立していない場合は、判定が否定されてステップS16に移行する。ステップS16で、ぶれ補正制御部63は、電子式補正制御を行う条件が成立したか否かを判定する。電子式補正制御を行う条件とは、例えば露光時間が第1閾値より小さいという条件である。ステップS16で、電子式補正制御を行う条件が成立していない場合は、判定が否定されてステップS14に戻る。ステップS16で、電子式補正制御を行う条件が成立した場合は、判定が肯定されてステップS17に移行し、ぶれ補正制御部63は、機械式補正制御から電子式補正制御への切換制御を行う。ステップS17の詳細については後述する。
【0072】
一方、ステップS13で、機械式補正制御を行う条件が成立していない場合は、判定が否定されてステップS18に移行し、ぶれ補正制御部63は電子式補正制御を実行する。次に、ステップS19に移行し、CPU37は動画記録を終了する条件が成立したか否かを判定する。ステップS19で動画記録を終了する条件が成立した場合は、判定が肯定されて録画が停止され、ステップS11の動画スタンバイモードに戻る。
【0073】
ステップS19で動画記録を終了する条件が成立していない場合は、判定が否定されてステップS20に移行する。ステップS20で、ぶれ補正制御部63は、機械式補正制御を行う条件が成立したか否かを判定する。ステップS20で、機械式補正制御を行う条件が成立していない場合は、判定は否定されてステップS18に戻る。ステップS20で、機械式補正制御を行う条件が成立した場合は、判定は肯定されてステップS21に移行し、ぶれ補正制御部63は、電子式補正制御から機械式補正制御への切換制御を行う。ステップS21の詳細については後述する。
【0074】
次に、ステップS17の切換制御について説明する。ステップS17は、必要なぶれ補正のすべてを機械式補正で行う制御をしている時点から、必要なぶれ補正のすべてを電子式補正で行う制御を開始するまでの間の切換段階で行う切換制御である。以下、必要なぶれ補正のすべてを機械式補正で行う制御をする状態を「第1状態」と称し、必要なぶれ補正のすべてを電子式補正で行う制御をする状態を「第2状態」と称する。そして、第1状態から第2状態への切換段階の制御を行う状態を「第3状態」と称する。第3状態の制御は、本開示の技術に係る「第1制御」の一例である。第3状態にある時間を、第1制御の切換時間T1と称する。
【0075】
ここで、ステップS17の切換制御を行うことによる効果を説明する。図5の上段に示すように、露光時間が時間とともに次第に短くなり、第1閾値以上では機械式補正でぶれ補正し、露光時間が第1閾値より小さくなってからは電子式補正に切り換えてぶれ補正する場合を考える。
【0076】
従来技術では、図5の中段に示すように、機械式補正から電子式補正に切換えた時にぶれ残りが急激に増加する。ただし、このぶれ残りは、画像の品質として許容される量である。しかし、ユーザが見るとぶれ残りが急激に増加して目立つため、違和感を感じることがある。そこで、本第1実施形態では図5の下段に示すように、電子式補正に切換える際に、機械式補正と電子式補正とを併用する第3状態を設ける。第3状態を設けることにより、ぶれ残りが少しずつ増加するために違和感を低減することができる。
【0077】
ステップS17の切換制御は、第3状態の制御である第1制御を指す。第1制御は、機械式補正部24による機械式補正から電子式補正部33による電子式補正への切換制御を、機械式補正部24と電子式補正部33のぶれ補正の動作を同期させて行う制御である。機械式補正部24と電子式補正部33のぶれ補正の動作を同期させて行うとは、機械式補正部24のぶれ補正と電子式補正部33のぶれ補正とを併用するということである。
【0078】
機械式補正部24によるぶれ補正を第1動作と称する。また、電子式補正部33によるぶれ補正を第2動作と称する。また、ぶれ補正に必要な補正量に対する機械式補正部24によるぶれ補正量の比率を第1動作比率と称する。また、ぶれ補正に必要な補正量に対する電子式補正部33によるぶれ補正量の比率を第2動作比率と称する。なお、第1動作比率と第2動作比率とを区別する必要がない場合は、単に「動作比率」と称する。
【0079】
次に、ステップS17の第1制御について図面を参照して説明する。一例として図6に示すように、まずステップS30において、ぶれ補正制御部63は、機械式補正の第1動作比率と電子式補正の第2動作比率の経時的な動作比率変更パターンと切換時間T1を決定する。なお、動作比率変更パターン及び/又は切換時間T1をユーザが変更可能、つまりユーザが選択して決定してもよい。経時的な動作比率変更パターンとは、第1動作比率と第2動作比率とを、時間経過に応じて変更するパターンである。
【0080】
ステップS30では、第1制御の開始から終了まで、第1動作比率を時間経過に応じて減少させ、第2動作比率を時間経過に応じて増加させる制御パターンを決定する。制御パターンは、例えば時間ごとに具体的な動作比率を規定した動作比率テーブルであってもよい。又は、パターンは、関数式のような動作比率変更式であってもよい。動作比率変更式は、時間領域ごとに変更されてもよい。なお、「時間経過に応じて増加する」とは、必ずしも連続的に増加することを意味するわけではなく、一時的に増加が停止してもよい。「時間経過に応じて減少する」という記載も同様に、必ずしも連続的に減少することを意味するわけではなく、一時的に減少が停止してもよい。
【0081】
経時的な動作比率変更パターンは、例えば図7のパターン例1からパターン例4に示すように、種々のパターンを設定することができる。図7のパターン例1からパターン例4は、横軸が経過時間、左側の縦軸が機械式補正の第1動作比率、右側の縦軸が電子式補正の第2動作比率を取ったグラフである。パターン例1は、機械式補正の第1動作比率が1から0まで経過時間に比例して直線的に減少するパターンである。逆に電子式補正の第2動作比率は、0から1まで経過時間に比例して直線的に増加する。動作比率変更パターンは、予めぶれ残りが目立たない最適なパターンが実験によって決定され、動作比率テーブル(動作比率変更式)148に記憶されている。又は、ユーザがいくつかのパターンから選択可能としてもよい。第1動作比率と第2動作比率は、両者を足すと1となる数値である。
【0082】
図7のパターン例2は、第1動作比率の減少率が、時間経過に応じて増大する、上に凸の2次関数的なカーブパターンである。パターン例3は、逆に第1動作比率の減少率が、時間経過に応じて減少する、下に凸の2次関数的なカーブパターンである。パターン例4は、段階的に変化するパターンである。ただし、経時的な動作比率変更パターンは上述のパターン例1から4に限定されない。
【0083】
第1制御の切換時間T1の長さは特に限定されない。例えば数ミリ秒間から数秒間まで、条件に応じて設定することができる。また、切換時間T1は、上述の時間の長さに相当するフレーム数で規定してもよい。切換時間は、予め試験によって決定されて、ROM35に動作比率テーブル(動作比率変更式)148に記憶されている。また、複数の切換時間T1を予めROM35に記憶しておき、ユーザが変更可能(選択可能)としてもよい。
【0084】
図6に戻り、ステップS32で、ぶれ補正制御部63は、ぶれ検出センサ40から受信したぶれの検出信号を用いて、必要なぶれ補正量を算出する。次にステップS34に移行し、ぶれ補正制御部63は、ステップS30で決定された動作比率変更パターンに従って、機械式補正部24と電子式補正部33がそれぞれ分担する補正量を算出する。次にステップS36に移行し、ぶれ補正制御部63は、算出されたそれぞれの補正量を機械式方式と電子式方式で補正する。つまり、ぶれ補正制御部63は、機械式補正部24を制御して機械式補正の補正量を補正する。またぶれ補正制御部63は、電子式補正部33を制御して電子式補正の補正量を補正する。
【0085】
ステップS36で実行されるぶれ補正処理について具体的に説明する。ぶれ補正制御部63は、ステップS32で計算された必要なぶれ補正量に、動作比率変更パターンに基づく第1動作比率を乗じて機械式補正で行う補正量を得る。そして、ぶれ補正制御部63は、機械式補正部24を制御して、得られた機械式補正で行う補正量を補正する。また、ぶれ補正制御部63は、電子式補正部33を制御する。例えば、ぶれ補正制御部63は、記憶された2つの連続したフレーム画像を比較して、共通する対象の変位方向と変位量を算出する。そして、後のフレーム画像から、算出された変位方向に変位した所定の領域の画像を切り出して表示する。2つのフレーム画像はすでに機械式補正部24によって一部ぶれ補正された画像であり、残りのぶれ量は電子式補正部33が補正することとなる。
【0086】
次にステップS38に移行し、ぶれ補正制御部63は、経過時間がステップS30で決定された時間T1を経過したか否かを判定する。経過時間がステップS30で決定された切換時間T1を経過していなければ、判定は否定されてステップS32に戻る。経過時間がステップS30で決定された切換時間T1を経過していれば、判定は肯定されてステップS17の処理は終了し、図4のステップS18に移行する。
【0087】
次に、ステップS21の、電子式補正から機械式補正に切換える第2制御について説明する。一例として図8に示すように、まずステップS40で、ぶれ補正制御部63は、機械式補正の第1動作比率を時間経過に応じて増加させ、電子式補正の第2動作比率を時間経過に応じて減少させる経時的な動作比率変更パターンと切換時間T2を決定する。なお、ユーザが動作比率変更パターン及び/又は切換時間T2を選択して決定してもよい。経時的な動作比率変更パターンとは、ステップS17で説明したとおりである。ただし、動作比率の増減する方向はステップS17の場合と逆である。なお、第2状態から第1状態への切換段階の制御を行う状態を「第4状態」と称する。ステップS21の切換制御とは、第4状態を指す。第4状態は、電子式補正部33によるぶれ補正から機械式補正部24によるぶれ補正への切換制御状態である。
【0088】
なお、第4状態は、制御の開始から終了まで機械式補正部24と電子式補正部33のぶれ補正の動作を同期させて行う制御状態と、同期させない制御状態とを含む。第4状態の制御は、本開示の技術に係る「第2制御」の一例である。第4状態にある時間を、第2制御の切換時間T2と称する。切換時間T2の長さは特に限定されない。例えばゼロ秒間から数秒間まで、さまざまな条件に応じて設定可能である。切換時間T2は、フレーム数で規定してもよい。
【0089】
第1実施形態は、第1制御と第2制御とで異なる制御を行う実施形態である。具体的には、第1制御と第2制御とで時間応答性が異なる。時間応答性を異ならせる形態は限定されないが、第1実施形態では、第1制御の時間の長さと第2制御の時間の長さとを異ならせる。具体的には、切換時間T1の長さは、切換時間T2よりも長い。第1実施形態では、この条件を満たす限り、切換時間T1と切換時間T2の長さは特に限定されない。
【0090】
第1実施形態では、経時的な動作比率変更パターンは限定されない。第2制御では、第2制御の開始から終了まで機械式補正部24と電子式補正部33のぶれ補正の動作を同期させて、第1動作比率を時間経過に応じて増加させ、かつ第2動作比率を時間経過に応じて減少させる。そのほか、後述するように、機械式補正部24と電子式補正部33のぶれ補正の動作を同期させずに、電子式補正部33によるぶれ補正制御から、機械式補正部24によるぶれ補正制御に即座に切り換える場合がある。
【0091】
第2制御の開始から終了まで機械式補正部24と電子式補正部33のぶれ補正の動作を同期させて行う場合は、一例として図9のパターン例1に示すように、経時的な動作比率変更パターンは直線的に変化するパターンでもよい。図9のパターン例1からパターン例3は、横軸が経過時間、左側の縦軸が電子式補正の第2動作比率、右側の縦軸が機械式補正の第1動作比率を取ったグラフである。パターン例1は、電子式補正の第2動作比率が1から0まで時間に比例して直線的に減少するパターンである。逆に機械式補正の第1動作比率は、0から1まで時間経過に応じて直線的に増加する。
【0092】
また、経時的な動作比率変更パターンは、例えばパターン例2のようなパターンでもよい。パターン例2は、第2動作比率の減少率が、時間経過に応じて低下する下に凸のカーブパターンである。
【0093】
図9のパターン例3は、機械式補正部24と電子式補正部33のぶれ補正の動作を同期させずに、電子式補正部33によるぶれ補正から、機械式補正部24によるぶれ補正へ動作の切換制御を行う場合のパターンである。パターン例3は、切換時間T2が実質的にゼロの例である。電子式のぶれ補正から機械式のぶれ補正に即座に切り換えた場合は、図9の最下段に示すように、ぶれ残りが急に減少する場合がある。しかしぶれ残りが減少することによる違和感は感じにくいため、パターン例3に示すパターンでも問題はない。従って、ぶれ残りの抑制を優先する場合はパターン例3が好ましい。なお、経時的な動作比率変更パターンは上述のパターン例1-3に限定されない。例えば、段階的に変化するパターン(図示省略)でもよい。
【0094】
図8に戻り、ステップS42でぶれ補正制御部63は、ぶれ検出センサ40から取得したぶれ情報を用いて、必要なぶれ補正量を算出する。次にステップS44に移行し、ぶれ補正制御部63は、ステップS40で決定された動作比率変更パターンに従って、機械式補正と電子式補正の各補正量を算出する。次にステップS46に移行し、ぶれ補正制御部63は、算出された各補正量を機械式方式と電子式方式で補正する。ステップS46の制御は、ステップS36で説明した制御と同じである。
【0095】
次にステップS48に移行し、ぶれ補正制御部63は、経過時間がステップS40で決定された時間T2を経過したか否かを判定する。経過時間がステップS40で決定された切換時間T2を経過していなければ、判定は否定されてステップS42に戻る。経過時間がステップS40で決定された切換時間T2を経過していれば、判定は肯定されてステップS21の処理は終了し、図4のステップS14に移行する。
【0096】
第1の実施形態によれば、まず第1制御を行うことにより、機械式補正でぶれ補正を100%で行う第1状態から、電子式補正でぶれ補正を100%で行う第2状態に移行する場合に、画像のぶれが急激に大きくなる現象を抑制できる。電子式補正では、補正しきれないぶれ、いわゆるぶれ残りが生じる可能性が高い。しかし、機械式補正を徐々に減らし、電子式補正を徐々に増やすことで、ぶれ残りの量が徐々に増加する。従って、目がぶれ残りに慣れることで違和感が低減される。
【0097】
さらに、第2状態から第1状態に移行する場合に第2制御を実行する。第2制御を実行することにより、ぶれ残りが徐々に減少し、ユーザが感じる違和感を低減できる。第2制御の切換時間T2は、第1制御の切換時間T1よりも短く設定するが、第2状態から第1状態に移行する場合は、ぶれ残りが減少する方向であるため、切換時間T2が切換時間T1よりも短くても違和感は生じにくい。
【0098】
以上の第1実施形態に係る監視カメラ10によれば、機械式補正と電子式補正の両方が使用可能であり、機械式補正と電子式補正とを切換える場合の違和感を低減することができる。
【0099】
(第2実施形態)
次に、第2実施形態について図面を参照して説明する。第1実施形態では、第1制御の切換時間T1を、第2制御の切換時間T2よりも長く設定した。それに対して、第2実施形態では、第1制御の切換時間T1と第2制御の切換時間T2とを同じ時間に設定し、第1制御と第2制御の時間応答性を異ならせる。第2実施形態での時間応答性とは、例えば動作比率の変更パターンである。
【0100】
具体的には、第1制御を、例えば図10Aに示すパターンのように、動作比率を1次関数的に変更させる。そして、第2制御を、例えば図10Bに示すように、上に凸の2次関数的なパターンで変更させる。ここで、例えば図10Bに示す領域Xの面積が、領域Yの面積よりも小さくなるように変更させる。これにより、第2制御における動作比率を第1制御と同じ1次関数的に変更させる場合に比べ、機械式補正の使用比率が減少する。従って、第1制御の切換時間T1と第2制御の切換時間T2とは同じであるが、第2制御における動作比率を第1制御と同じ1次関数的に変更させる場合に比べ、消費電力量を低減することができる。なお、第1制御と第2制御の動作比率の変更パターンは上記の例に限定されない。さらに、第1制御と第2制御の動作比率の変更パターンを異ならせ、かつそれぞれの切換時間T1とT2を異ならせてもよい。
【0101】
以上の第2実施形態においても、機械式補正と電子式補正の両方が使用可能であり、機械式補正と電子式補正とを切換える場合の違和感を低減でき、かつ第1制御と第2制御で同じ切換制御を行う場合よりも電力消費量をより抑制することができる。
【0102】
(第3実施形態)
次に、第3実施形態について図面を参照して説明する。第3実施形態では、第1状態から第2状態に移行する場合に、第1制御の開始前に第3制御を行う。具体的には、一例として図11の上図に示すように、第1制御を行う前に、補正量に対して0より大きく、1より小さい比率で機械式の補正だけを行う第3制御を実行する。第3制御では、機械式補正部24によるぶれ補正の補正量を、ぶれ補正に必要な補正量よりも小さく制御する。図11の下図に示すように、第3制御に引き続いて第1制御を開始するまで、ぶれ残りを意図的に増加させることにより、第1制御でぶれ残りが増加する違和感をより低減させることができる。どの程度ぶれ残りを増加させ、どの程度の時間T3継続させてから第1制御に切り換えると違和感がより低減できるかを、予め試験により決定しておくことが好ましい。なお、第3制御の制御時間T3の長さは特に限定されるものではないが、例えばT1の長さよりも小さい時間であってもよい。
【0103】
第3実施形態における第3制御追加処理の一例を説明する。第3実施形態の撮像処理は、図4に示す第1実施形態の撮像処理と同じである。従って、ここでは、図4のステップS17だけを図12を用いて説明する。
【0104】
図12のステップS60において、ぶれ補正制御部63は、機械式補正の補正量を必要補正量よりも小さくする割合と、その割合で制御する制御時間T3を決定する。次に、ステップS62で、ぶれ補正制御部63は、機械式補正の補正量を必要補正量よりも小さくする第3制御を実行する。ステップS64で、ぶれ補正制御部63は、ステップS62で決定した制御時間T3が経過したか否かを判定する。ステップS64で、制御時間T3が経過していない場合は、判定は否定されてステップS62に戻る。制御時間T3が経過している場合は、判定は肯定されてステップS30に移行する。
【0105】
ステップS30からステップS38までは、第1実施形態の図6に示すステップS30からステップS38までと同じであるので、説明は省略する。なお、ステップS38での判定が肯定されると、図4のステップS18に移行する。
【0106】
上述の第3制御は、第1制御の前に常に実行してもよい。また、ユーザが第3制御を実行するか否かを設定可能にしてもよい。なお、第3実施形態における第1制御の時間は第2制御の時間よりも長くする。又は、第1制御の時間と第2制御の時間とを同じにして、それぞれの制御パターンを異ならせてもよい。制御パターンを異ならせる方法は、例えば図10A及び図10Bで説明した方法と同様である。以上の第3実施形態においては、機械式補正から電子式補正に切換える場合のぶれ増加による違和感をより低減することができる。
【0107】
(第4実施形態)
次に、第4実施形態について説明する。第4実施形態は、機械式のぶれ補正から電子式のぶれ補正に変更する場合に、予め定められた対象が撮像されているか否かで、第1制御の切換時間T1を書き換える実施形態である。第4実施形態では、監視カメラ10は、例えば画像解析により予め定められた対象が撮像されているか否かを検出する検出部を備える。本第4実施形態では、CPU37が検出部として動作する。但し、これに限らず、CPU37とは別個のプロセッサを検出部として動作させるようにしてもよいし、CPU37と他の少なくとも1つのプロセッサとを協働させて検出部として動作させるようにしてもよい。なお、検出部における画像解析による対象の検出は公知の技術を用いることができるため、ここでの説明は省略する。ぶれ補正制御部63は、第1制御において、検出部が予め定められた対象を検出しない場合は検出部が予め定められた対象を検出した場合よりも第1制御の時間の長さを短くする。
【0108】
以下に、切換時間書換処理を図13を例にとって説明する。第4実施形態での撮像処理は、図4に示す第1実施形態の撮像処理と同じである。従ってここでは、図4のステップS14に相当するステップS90から説明する。ステップS90で、機械式のぶれ補正制御を実行する。ステップS91で、ぶれ補正制御部63は、動画記録を終了する条件が成立したか否かを判定する。動画記録を終了する条件は、図4のステップS15で説明したとおりである。ステップS91での判定が肯定された場合は、図4のステップS11に戻る。
【0109】
ステップS91での判定が否定された場合は、ステップS92に移行する。ステップS92で、ぶれ補正制御部63は、電子式のぶれ補正制御に移行する条件が成立したか否かを判定する。電子式のぶれ補正制御に移行する条件は、図4のステップS16で説明したとおりである。ステップS92で、電子式のぶれ補正制御に移行する条件が成立していない場合は、判定が否定されてステップS90に戻る。一方、電子式のぶれ補正制御に移行する条件が成立した場合は、判定が肯定されてステップS94に移行する。
【0110】
ステップS94で、ぶれ補正制御部63は、検出部にその時点で得られているフレーム画像の画像解析処理を行わせる。画像解析処理は、予め定められた対象がフレーム画像に存在するか否かを判定するために行われる。検出部が行う画像解析処理の方法は、公知の方法を採用することができる。
【0111】
次にステップS96において、ぶれ補正制御部63は、予め定められた対象がフレーム画像に検出されたか否かを判定する。ステップS96で、予め定められた対象がフレーム画像に検出された場合は、判定が肯定されてステップS98に移行する。ステップS98でぶれ補正制御部63は、機械式のぶれ補正制御から電子式のぶれ補正制御へ切り換える第1制御の切換時間T1を、予め定められた通常時間T1Aに書き換える。次にステップS102に移行し、ぶれ補正制御部63は、経時的に機械式補正を減らし、電子式補正を増やす動作比率変更パターンを決定する。
【0112】
一方、ステップS96で、予め定められた対象がフレーム画像に検出されない場合は、判定が否定されてステップS100に移行する。ステップS100において、ぶれ補正制御部63は、機械式のぶれ補正制御から電子式のぶれ補正制御へ切り換える第1制御の切換時間T1を、通常時間T1Aよりも短い、予め定められた短縮時間T1Bに書き換える。次にステップS102において、ぶれ補正制御部63は、経時的に機械式補正を減らし、電子式補正を増やす動作比率変更パターンを決定する。
【0113】
ステップS102の次は、ステップS32に移行する。ステップS32からステップS38までは、図6で説明したステップS32からステップS38までと同じであるので、ここでの説明は省略する。なお、ステップS38の判定が肯定の場合は、図4のステップS18に移行し、電子式の補正制御を実行する。
【0114】
第4実施形態では、通常時間T1Aよりも短い短縮時間T1Bでも、電子式から機械式のぶれ補正制御に切り換える切換時間T2よりも長くしておくことが好ましい。従って、T1A>T2Aを満たす通常時間T1A及び通常時間T2Aのセットと、T1B>T2Bを満たす短縮時間T1B及び短縮時間T2Bのセットを設けておき、切換時間T1を短縮時間T1Bに書き換える場合、同時に切換時間T2も短縮時間T2Bに書き換えることが好ましい。また、切換時間T1を通常時間T1Aに書き換える場合、同時に切換時間T2も通常時間T2Aに書き換えることが好ましい。
【0115】
ステップS96での検出判定対象である「予め定められた対象」は、特に限定されない。例えば、具体的な観察対象がある場合は、その観察対象特有の形状等の特徴を有しているか否かを画像解析処理で検出する。また、人物等の動く物体を対象としてもよい。その場合は、複数のフレームを比較して、例えば背景と比べて位置が移動する物体があるかどうかを画像解析処理で検出する。また、特定の色を有する物体を対象としてもよい。その場合は、背景とは異なる、特定の色を有する物体が画像中に存在するか否かを画像解析処理で検出する。
【0116】
第4実施形態によれば、予め定められた対象が撮像されていない場合は、機械式のぶれ補正制御から電子式のぶれ補正制御に短時間で切り換えるので、機械式補正部24を用いる時間をより短縮することができる。第4実施形態により、予め定められた対象が撮像されている場合は、ぶれ補正切換による違和感を低減でき、予め定められた対象が撮像されていない場合は、消費電力抑制を優先することができる。
【0117】
なお、第4実施形態では、予め定められた対象が撮像されているか、又は撮像されていないかで第1制御又は第2制御の切換時間を書き換えるが、その条件はこれに限られない。例えば、ぶれが大きい場合は、第1制御又は第2制御の切換時間を大きい値に書き換えることにしてもよい。
【0118】
(第1変形例)
上述の第1実施形態から第4実施形態では、機械式補正の方法として、補正光学系19を移動させてぶれを補正する方法を用いた。しかし機械式補正の方法はこれに限定されない。例えば、機械式補正の方法として、撮像素子25を移動させてぶれを補正する方法を用いることができる。この場合、監視カメラ10に撮像素子25の位置を検出する位置センサと、撮像素子25を移動させる撮像素子駆動部を設ける。ROM35は、ぶれ検出センサ40から取得したぶれ情報を用いて、撮像素子25の移動先を算出し、移動先へ撮像素子25を移動させる撮像素子移動制御プログラムを、機械式補正制御プログラム144に代えて記憶する。切換制御プログラム146は、撮像素子25を移動させる機械式補正と、電子的にぶれを補正する電子式補正とを制御するプログラムである。ぶれ補正制御部63は、決定された動作比率変更パターンに応じて、機械式補正と電子式補正を実行させる。
【0119】
また、機械式補正の方法として、補正光学系19を移動させる方法と、撮像素子25を移動させる方法とを組み合わせた方式を用いてもよい。この方式の場合は、補正光学系19の移動量と撮像素子25の移動量を分担する比率を予め定めておくことができる。又は、予め定められた条件に従って両者の分担比率を決定してもよい。
【0120】
以上の第1変形例においても、第1実施形態と同様の効果を得ることができる。第1変形例は、第1実施形態から第4実施形態に適用することが可能である。
【0121】
(第2変形例)
第1実施形態では、電子式補正方法として、2つの連続するフレーム間で同じ対象の変位方向と変位量を求めて、その方向に変位量だけ移動した位置の画像を切り出して表示する方法を用いた。しかし電子式補正の方法はこれに限定されない。例えば、ぶれ検出センサ40により得られたぶれ情報を用いて電子式補正を実行することができる。
【0122】
具体的には、ぶれ補正制御部63は、2つの連続するフレームのうち先のフレーム撮像時から後のフレーム撮像時までのぶれ検出センサ40により得られたぶれ情報を総合して得られるぶれ量を算出する。次に、ぶれ補正制御部63は、切換制御プログラム146が決定した補正量分担比率で後のフレーム撮像時までに補正光学系19を移動させた後の変位量を取得する。次に、ぶれ補正制御部63は、ぶれ検出センサ40により得られたぶれ情報を総合して得られるぶれ量から、補正光学系19を移動させた変位量を差し引き、その差分の移動先の画像を切り取り、表示させる。このような第2変形例においても、第1実施形態と同様の効果を得ることができる。第2変形例は、第1実施形態から第4実施形態に適用することが可能である。
【0123】
(第3変形例)
予め定められた条件が成立した場合は、ぶれ補正の動作を同期させずに機械式補正部24によるぶれ補正から電子式補正部33によるぶれ補正へ切換えてもよい。つまり、予め定められた条件が成立した場合は、第1制御の切換時間T1をゼロに変更してもよい。第1制御の切換時間T1をゼロに変更することで、機械式補正部24の使用時間をより低減することができる。
【0124】
第1制御の切換時間T1をゼロに変更する条件としては、例えばぶれが予め定められた規定値以下になった場合等である。又は、例えば振動が減少する時間帯を予め予測しておき、特定された時間帯であることを切換時間T1をゼロに変更する条件とすることができる。振動が少ない場合は、機械式のぶれ補正から電子式のぶれ補正へ即座に切り換えてもぶれ残りは大きくならないため、違和感は少ない。
【0125】
また、例えばぶれが予め定められた規定値以下になった場合は、第1制御の切換時間T1をゼロに変更し、かつ第2制御の切換時間T2をゼロに変更してもよい。ぶれが予め定められた規定値以下になった場合は、切換時間T1及び切換時間T2をゼロに変更してもぶれ残りは少ないため違和感は少ない。
【0126】
第1実施形態から第4実施形態では、監視カメラ10に本開示の技術に係るぶれ補正制御装置を適用した例を説明した。しかし本開示の技術に係るぶれ補正制御装置の適用対象はこれに限定されない。例えば、レンズ交換式のデジタルカメラに本開示の技術に係るぶれ補正制御装置を適用することも可能である。
【0127】
その場合、例えば交換レンズの補正レンズを移動させる機械式補正部の制御プログラムを、カメラ本体部に設けた制御部に記憶させておく。制御部は、電子式補正部及び機械式補正部を制御する。この構成により、交換レンズをカメラ本体部に装着することで、電子式補正部と機械式補正部の両方を制御することができる。また、撮像素子を移動させる機械式補正部を用いる場合は、カメラ本体部に設けた電子式補正部及び機械式補正部を制御する制御部で電子式補正部と機械式補正部を制御することができる。
【0128】
以上の各実施形態で説明した撮像処理、第1制御、第2制御、第3制御、及び切換時間書換処理(以下、これらの処理を「各種処理」とも称する)はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
【0129】
上記の各実施形態では、電子式補正制御プログラム142、機械式補正制御プログラム144、切換制御プログラム146及び動作比率テーブル148(以上を「電子式補正制御プログラム等」という。)をROM35に記憶させ、これらから読み出す場合を例示したが、必ずしも最初からROM35に記憶させておく必要はない。例えば、図14に示すように、SSD、USBメモリ、又はCD-ROM等の任意の可搬型の記憶媒体300に電子式補正制御プログラム等を記憶させておいてもよい。この場合、記憶媒体300に記憶された電子式補正制御プログラム等が監視カメラ10のROM35にインストールされ、インストールされた電子式補正制御プログラム等がぶれ補正制御部63によって実行される。
【0130】
また、通信網(図示省略)を介して監視カメラ10に接続される他のコンピュータ又はサーバ装置等の記憶部に電子式補正制御プログラム等を記憶させておき、電子式補正制御プログラム等がCPU37の要求に応じてダウンロードされるようにしてもよい。この場合、ダウンロードされた電子式補正制御プログラム等はぶれ補正制御部63によって実行される。
【0131】
上記実施形態において、例えば、CPU37のハードウェア的な構造としては、次に示す各種のプロセッサを用いることができる。上記各種のプロセッサには、上述したように、ソフトウェア(プログラム)を実行して各制御部として機能する(各種処理を実行するハードウェア資源として機能する)汎用的なプロセッサであるCPUに加えて、FPGAなどの製造後に回路構成を変更可能なプロセッサであるPLD及び/又はASICなどの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。何れのプロセッサにもメモリが内蔵又は接続されており、何れのプロセッサもメモリを使用することで各種処理を実行する。
【0132】
CPU37は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、又はCPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の制御部(各種処理を実行するハードウェア資源)は1つのプロセッサであってもよい。
【0133】
複数の制御部を1つのプロセッサで構成する例としては、第1に、クライアント及びサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の制御部(各種処理を実行するハードウェア資源)として機能する形態がある。第2に、システムオンチップ(System on a Chip:SoC)などに代表されるように、複数の制御部(各種処理を実行するハードウェア資源)を含むシステム全体の機能を1つのICチップで実現するプロセッサを使用する形態がある。このように、制御部(各種処理を実行するハードウェア資源)は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成できる。
【0134】
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路を用いることができる。
【0135】
本明細書において、「A及び/又はB」は、「A及びBのうちの少なくとも1つ」と同義である。つまり、「A及び/又はB」は、Aだけであってもよいし、Bだけであってもよいし、A及びBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「及び/又は」で結び付けて表現する場合も、「A及び/又はB」と同様の考え方が適用される。
【0136】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10A
図10B
図11
図12
図13
図14