(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024154438
(43)【公開日】2024-10-31
(54)【発明の名称】撮像装置、撮像装置のWDR画像情報生成方法、WDR画像情報生成プログラム、及び記録媒体
(51)【国際特許分類】
H04N 23/741 20230101AFI20241024BHJP
H04N 23/695 20230101ALI20241024BHJP
H04N 23/60 20230101ALI20241024BHJP
H04N 23/73 20230101ALI20241024BHJP
【FI】
H04N23/741
H04N23/695
H04N23/60 500
H04N23/73
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023068170
(22)【出願日】2023-04-19
(71)【出願人】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】加藤 広隆
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122EA21
5C122EA68
5C122FE03
5C122FH18
5C122GD04
5C122HA78
5C122HB01
(57)【要約】
【課題】WDR画像の生成に際して演算処理速度が長い。
【解決手段】
本開示に係る撮像装置100は、被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、撮像ユニットをパン回転軸を起点にパン旋回方向に旋回させるパン方向旋回機構部60とを備え、WDR画像生成部81が、撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得、当該得た隣接するフレームの撮影時間と当該得た隣接するフレームの撮影時間におけるパン方向旋回機構部70における旋回速度により、当該得た隣接するフレームの先の画像情報の、後の画像情報に対する移動量を算出し、先の画像情報又は後の画像情報の一方の画像情報を移動量に応じて補正し、補正した一方の画像情報と先の画像情報又は後の画像情報の他方の画像情報からWDR画像を生成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、
前記撮像ユニットをパン回転軸を起点にパン旋回方向に旋回させるパン方向旋回機構部と、
前記撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得、当該得た隣接するフレームの撮影時間と当該得た隣接するフレームの撮影時間における前記パン方向旋回機構部における旋回速度により、当該得た隣接するフレームの先の画像情報の、後の画像情報に対する移動量を算出し、前記先の画像情報又は前記後の画像情報の一方の画像情報を前記移動量に応じて補正し、補正した前記一方の画像情報と前記先の画像情報又は前記後の画像情報の他方の画像情報からWDR画像を生成するWDR画像生成部と、
を備える撮像装置。
【請求項2】
前記当該得た隣接するフレームの撮影時間は当該得た隣接するフレームの撮影開始時点の時刻から撮影終了時点の時刻までの時間であり、
前記パン方向旋回機構部における旋回速度は当該得た隣接するフレームの撮影開始時点の時刻での前記パン方向旋回機構部における旋回速度と撮影終了時点の時刻での前記パン方向旋回機構部における旋回速度との平均旋回速度であり、
前記移動量は前記撮影時間と前記平均旋回速度を乗算した値である、
請求項1に記載の撮像装置。
【請求項3】
前記WDR画像生成部は、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する長時間露光画像情報記憶部と、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する短時間露光画像情報記憶部と、
前記移動量を演算する移動量演算部と、
前記移動量演算部により演算された前記移動量を用いて、前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の一方の画像情報を補正する画像情報補正部と、
前記画像情報補正部により補正された一方の画像情報と前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の他方の画像情報を合成してWDR画像情報を生成する画像合成部と、
を備える請求項1に記載の撮像装置。
【請求項4】
前記撮像ユニットをチルト回転軸を起点にチルト旋回方向に旋回させるチルト方向旋回機構部を備え、
前記WDR画像生成部は、さらに、
前記撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得た隣接するフレームの撮影時間と当該得た隣接するフレームの撮影時間における前記チルト方向旋回機構部におけるチルト旋回速度により、当該得た隣接するフレームの先の画像情報の、後の画像情報に対するチルト方向の移動量を算出し、前記先の画像情報又は前記後の画像情報の一方の画像情報を前記チルト方向の移動量に応じて補正し、補正した前記一方の画像情報と前記先の画像情報又は前記後の画像情報の他方の画像情報からWDR画像を生成する、
請求項1から請求項3のいずれか1項に記載の撮像装置。
【請求項5】
前記当該得た隣接するフレームの撮影時間は当該得た隣接するフレームの撮影開始時点の時刻から撮影終了時点の時刻までの時間であり、
前記チルト方向旋回機構部における旋回速度は当該得た隣接するフレームの撮影開始時点の時刻での前記チルト方向旋回機構部における旋回速度と撮影終了時点の時刻での前記チルト方向旋回機構部における旋回速度との平均旋回速度であり、
前記チルト方向の移動量は前記撮影時間と前記平均旋回速度を乗算した値である、
請求項4に記載の撮像装置。
【請求項6】
被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、
前記撮像ユニットをチルト回転軸を起点にチルト旋回方向に旋回させるチルト方向旋回機構部と、
前記撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得、当該得た隣接するフレームの撮影時間と当該得た隣接するフレームの撮影時間における前記チルト方向旋回機構部における旋回速度により、当該得た隣接するフレームの先の画像情報の、後の画像情報に対する移動量を算出し、前記先の画像情報又は前記後の画像情報の一方の画像情報を前記移動量に応じて補正し、補正した前記一方の画像情報と前記先の画像情報又は前記後の画像情報の他方の画像情報からWDR画像を生成するWDR画像生成部と、
を備える撮像装置。
【請求項7】
前記WDR画像生成部は、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する長時間露光画像情報記憶部と、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する短時間露光画像情報記憶部と、
前記移動量を演算する移動量演算部と、
前記移動量演算部により演算された前記移動量を用いて、前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の一方の画像情報を補正する画像情報補正部と、
前記画像情報補正部により補正された一方の画像情報と前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の他方の画像情報を合成してWDR画像情報を生成する画像合成部と、
を備える請求項6に記載の撮像装置。
【請求項8】
前記WDR画像生成部は、さらに、
前記撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得た隣接するフレームの撮影開始時点の時刻におけるズームレンズ倍率と撮影開始時点の時刻におけるズームレンズ倍率からズームレンズ倍率の相対比である相対値を算出し、前記先の画像情報又は前記後の画像情報の一方の画像情報を相対値に応じて補正し、補正した前記一方の画像情報と前記先の画像情報又は前記後の画像情報の他方の画像情報からWDR画像を生成する、
請求項1から請求項3、又は請求項6のいずれか1項に記載の撮像装置。
【請求項9】
被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、
前記撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得た隣接するフレームの撮影開始時点の時刻におけるズームレンズ倍率と撮影開始時点の時刻におけるズームレンズ倍率からズームレンズ倍率の相対比である相対値を算出し、前記先の画像情報又は前記後の画像情報の一方の画像情報を相対値に応じて補正し、補正した前記一方の画像情報と前記先の画像情報又は前記後の画像情報の他方の画像情報からWDR画像を生成するWDR画像生成部と、
を備える撮像装置。
【請求項10】
前記WDR画像生成部は、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する長時間露光画像情報記憶部と、
前記撮像ユニットからのフレーム単位での長時間露光画像情報を記憶する短時間露光画像情報記憶部と、
前記相対値を演算する相対値演算部と、
前記相対値演算部により演算された前記相対値を用いて、前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の一方の画像情報を補正する画像情報補正部と、
前記画像情報補正部により補正された一方の画像情報と前記長時間露光画像情報記憶部に記憶された長時間露光画像情報又は前記短時間露光画像情報記憶部に記憶された短時間露光画像情報の他方の画像情報を合成してWDR画像情報を生成する画像合成部と、
を備える請求項9に記載の撮像装置。
【請求項11】
撮像ユニットにより被写体が順次撮影された、長時間露光撮影によるフレーム単位の長時間露光画像情報及び短時間露光撮影によるフレーム単位の短時間露光画像情報の2フレーム分の画像情報を1つの単位画像情報とし、
移動量演算部が、前記単位画像情報に対する前記撮像ユニットによる撮影時間、前記単位画像情報に対する平均旋回速度、及び前記撮影時間と前記平均旋回速度を乗算した移動量を算出する移動量算出ステップと、
画像情報補正部が、前記単位画像情報における一方の画像情報に対して移動量に応じて水平方向に平行移動された一方の補正画像情報を生成する補正画像生成ステップと、
画像合成部が、前記単位画像情報における他方の画像情報と前記一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成ステップと、
を備える撮像装置のWDR画像情報生成方法。
【請求項12】
撮像ユニットにより被写体が順次撮影された、長時間露光撮影によるフレーム単位の長時間露光画像情報及び短時間露光撮影によるフレーム単位の短時間露光画像情報の2フレーム分の画像情報を1つの単位画像情報とし、
前記単位画像情報に対する前記撮像ユニットによる撮影時間、前記単位画像情報に対する平均旋回速度、及び前記撮影時間と前記平均旋回速度を乗算した移動量を算出する移動量算出手順と、
前記単位画像情報における一方の画像情報に対して移動量に応じて水平方向に平行移動された一方の補正画像情報を生成する補正画像生成手順と、
前記単位画像情報における他方の画像情報と前記一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成手順と、
をコンピュータに実行させるWDR画像情報生成プログラム。
【請求項13】
撮像ユニットにより被写体が順次撮影された、長時間露光撮影によるフレーム単位の長時間露光画像情報及び短時間露光撮影によるフレーム単位の短時間露光画像情報の2フレーム分の画像情報を1つの単位画像情報とし、
前記単位画像情報に対する前記撮像ユニットによる撮影時間、前記単位画像情報に対する平均旋回速度、及び前記撮影時間と前記平均旋回速度を乗算した移動量を算出する移動量算出手順と、
前記単位画像情報における一方の画像情報に対して移動量に応じて水平方向に平行移動された一方の補正画像情報を生成する補正画像生成手順と、
前記単位画像情報における他方の画像情報と前記一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成手順と、
をコンピュータに実行させるプログラムを記憶してある記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は撮像装置に関する。
【背景技術】
【0002】
パン・チルト・ズーム・ローテーション・フォーカス機能などを有する監視カメラ、又はネットワークカメラの撮像装置が特許文献1に示されている。
特許文献1に示された撮像装置は、短時間露光画像のフレームデータと長時間露光画像のフレームデータを合成してWDR(Wide Dynamic Range、ワイドダイナミックレンジ)画像を生成する処理を実行する時分割画像取得モードから、短時間露光領域と長時間露光領域を有するフレームデータが混在する単一フレーム内の短時間露光領域を用いて補間処理により生成した短時間露光フレームデータと単一フレーム内の長時間露光領域を用いて補間処理により生成した長時間露光フレームデータを合成してWDR画像を生成する処理を実行する空間分割画像取得モードへの切り替えは動き量を用い、空間分割画像取得モードから時分割画像取得モードへの切り替えはブレ量を用いる撮像装置である。
すなわち、特許文献1に示された撮像装置は、撮像装置の変化量が小さい時には被写体動き情報の検出に動き量(動きベクトル)を用い、変化量が大きい時には被写体動き情報の検出にブレ量(動きボケ)を用いる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に示された撮像装置は、時分割画像取得モードと空間分割画像取得モードとの切り替えを、動き量(動きベクトル)及びブレ量(動きボケ)を用いているため、動き量及びブレ量の算出のために比較的演算量の多い画像処理を行う必要があり、画像取得モードの切り替え制御を行うメイン制御部などが大容量化になるとともに、画像処理の処理速度に課題があった。
【0005】
本開示は、上記した点に鑑みてなされたものであり、演算処理速度が短く、精度の高い短時間露光画像のフレームデータと長時間露光画像のフレームデータを合成したWDR(Wide Dynamic Range、ワイドダイナミックレンジ)画像が得られる撮像装置を得ることを目的とする。
【課題を解決するための手段】
【0006】
本開示に係る撮像装置は、被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、撮像ユニットをパン回転軸を起点にパン旋回方向に旋回させるパン方向旋回機構部と、撮像ユニットからの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得、当該得た隣接するフレームの撮影時間と当該得た隣接するフレームの撮影時間におけるパン方向旋回機構部における旋回速度により、当該得た隣接するフレームの先の画像情報の、後の画像情報に対する移動量を算出し、先の画像情報又は後の画像情報の一方の画像情報を移動量に応じて補正し、補正した一方の画像情報と先の画像情報又は後の画像情報の他方の画像情報からWDR画像を生成するWDR画像生成部と、を備える
【発明の効果】
【0007】
本開示によれば、パン方向の旋回部における旋回運動による画像ずれによる画質の劣化を低減し、短い演算処理時間により、高精度かつ容易に補正したWDR画像が得られる。
【図面の簡単な説明】
【0008】
【
図1】実施の形態1に係る撮像装置を組み込んだカメラ制御システムを示すブロック図である。
【
図2】実施の形態1に係る撮像装置の内部構造を示した概略断面図である。
【
図3】実施の形態1に係る撮像装置を備える撮像システムを示す構成図である。
【
図4】実施の形態1に係る撮像装置における旋回機構部の速度制御の一例を示すグラフである。
【
図5】実施の形態1に係る撮像装置におけるWDR画像生成部のハード構成を示す構成図である。
【
図6】実施の形態1に係る撮像装置におけるWDR画像生成部を示すブロック図である。
【
図7】実施の形態1に係る撮像装置におけるWDR画像生成部の動作を示すフローチャートである。
【
図8】実施の形態2に係る撮像装置を組み込んだカメラ制御システムを示すブロック図である。
【
図9】実施の形態2に係る撮像装置の内部構造を示した概略断面図である。
【
図10】実施の形態2に係る撮像装置を備える撮像システムを示す構成図である。
【
図11】実施の形態2に係る撮像装置におけるWDR画像生成部の動作を示すフローチャートである。
【
図12】実施の形態3に係る撮像装置におけるWDR画像生成部を示すブロック図である。
【
図13】実施の形態3に係る撮像装置におけるWDR画像生成部の動作を示すフローチャートである。
【発明を実施するための形態】
【0009】
実施の形態1.
実施の形態1に係る撮像装置100を
図1から
図7に基づいて説明する。
実施の形態1に係る撮像装置100は、遠隔操作によりパン(左右)方向を旋回させる旋回部を備える、例えば、監視カメラ等のパン方向に旋回する旋回部とズーム機能を搭載したPZカメラである。
実施の形態1に係る撮像装置100は、
図3に示すように、映像表示装置(以下、表示装置と略称する)200とにより撮像システム、つまり、監視装置を構成する。
【0010】
実施の形態1に係る撮像装置100は、所定画角の動画像を撮像し、撮像した動画像を基にWDR(Wide Dynamic Range、ワイドダイナミックレンジ)画像(以下、WDR画像という)生成し、WDR画像による動画像データを表示装置200に送信する。
表示装置200は一般に知られている液晶ディスプレイなどが用いられる。また、表示装置200としてノートPC又はタブレット型端末における表示装置であってもよい。
【0011】
実施の形態1に係る撮像装置100は、
図1に示すように、光学系10と撮像素子20と撮像ユニット制御部30とアナログ信号処理部40とAD(アナログ-デジタル)変換部50とパン方向旋回機構部(以下、旋回機構部と略称する)60とパン方向旋回機構駆動制御部(以下、旋回機構制御部と略称する)70と制御部(中央演算処理装置)80を備える。
【0012】
光学系10は、
図2に示すように、カメラ本体に内蔵され、レンズ機構とレンズ駆動機構を備える。
光学系10におけるレンズ機構は駆動可能な凹レンズ及び凸レンズ等で構成されるズームレンズを含む。
光学系10におけるレンズ駆動機構は撮像ユニット制御部30からの命令に従ってレンズ機構を駆動し、レンズ機構における焦点及びズーム倍率を自動制御する。
【0013】
撮像素子20は光学系10におけるレンズ機構が外部から集光した光を結像して画像情報として出力する。
撮像素子20は、
図2に示すように、カメラ本体に内蔵され、光学系10からの光を結像する位置において光学系10に装着される。
【0014】
撮像素子20はシャッタ機構を備え、主にCCD(Charge Coupled Device:電荷結合素子)又はCMOS(Complementary Metal-Oxide-Semiconductor:相補型MOS)等のイメージセンサである。
撮像素子20におけるシャッタ機構は、撮像ユニット制御部30からの命令に従って、長時間露光撮影による長時間露光画像と短時間露光撮影による短時間露光画像を取得するためのシャッタ時間を制御する。
撮像素子20から出力される画像情報はアナログ映像信号である。
光学系10と撮像素子20は、被写体を撮像し、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットを構成する。
【0015】
撮像ユニット制御部30はレンズ機構駆動制御部とシャッタ機構制御部とを有する。
撮像ユニット制御部30から光学系10におけるレンズ駆動機構への命令は、具体的には撮像ユニット制御部30におけるレンズ機構駆動制御部からのズーム値、フォーカス値、及びアイリス値等のパラメータを示す情報である。
撮像ユニット制御部30におけるレンズ機構駆動制御部は光学系10におけるレンズ機構を駆動するための駆動制御信号又は駆動電流(電力)をレンズ駆動機構に与える。
従って、光学系10は撮像ユニット制御部30におけるレンズ機構駆動制御部によりズーム値、フォーカス値、及びアイリス値等のパラメータについて電子制御が行われる。
【0016】
撮像ユニット制御部30からシャッタ機構への命令は、具体的には撮像ユニット制御部30におけるシャッタ機構制御部からの長時間露光撮影に対する1フレーム当たりのシャッタ時間(撮影時間)を示す情報と短時間露光撮影に対する1フレーム当たりのシャッタ時間(撮影時間)を示す情報を交互に示すシャッタ時間情報である。
【0017】
撮像ユニット制御部30におけるシャッタ機構制御部は撮像素子20におけるシャッタ機構を駆動するための駆動制御信号又は駆動電流(電力)を撮像素子20におけるシャッタ機構に与える。
従って、撮像素子20は撮像ユニット制御部30におけるシャッタ機構制御部により1フレーム毎に長時間露光撮影による長時間露光画像を示す画像情報と短時間露光撮影による短時間露光画像とを交互に出力する。
【0018】
撮像ユニット制御部30は、制御部80からの制御命令に従い、光学系10にズーム値、フォーカス値、及びアイリス値等のパラメータを示す情報を光学系10に出力し、光学系10に対して電子制御を行ない、制御部80からの制御命令に従い、シャッタ時間情報を撮像素子20に出力し、撮像素子20に対して長時間露光と短時間露光の電子制御を行なう。
撮像ユニット制御部30は、
図2に示す制御基板101に組み込まれ、電源ケーブル104に接続された電源部102から電力が供給される。
【0019】
アナログ信号処理部40は撮像素子20からの画像情報を受け、受けた画像情報に対して感度調整及びゲイン調整とホワイトバランス等のアナログ的な画像処理を行う。
AD変換部50はアナログ信号処理部40により画像処理された画像情報を、アナログ映像信号をサンプリングし、アナログ映像信号からデジタル映像データに変換して制御部80に出力する。
アナログ信号処理部40及びAD変換部50は、
図2に示す制御基板101に組み込まれ、電源ケーブル104に接続された電源部102から電力が供給される。
【0020】
旋回機構部60は、パン回転軸を起点にパン旋回方向に、光学系10及び撮像素子20により構成される撮像ユニットを旋回、本例においては撮像ユニットなどを内蔵したカメラ本体を旋回させる。
旋回機構部60は、
図3に示すように、光学系10における撮影映像(被写体)に対する画角をもって、図示パン旋回方向にカメラ本体を旋回させる。
旋回機構部60は、本例において、
図2に示すように、ステッピングモータ61と、ステッピングモータ61の駆動力をカメラ本体に伝達するギア、ベルト又はプーリなどによる伝達機構62を有する、機械的な回転機構である。
【0021】
旋回機構部60にステッピングモータ61を用いた場合、ステッピングモータ61の旋回速度をモデル化すると、
図4に示すように、低速動作モード、中速動作モード、及び高速動作モードそれぞれにおいて、ステッピングモータ61の速度制御領域は加速による線形領域1と減速による線形領域2と定速動作による飽和領域になる。
【0022】
本例では、例えば、低速動作モードでの飽和領域に旋回速度(回転速度)は5°/s、中速動作モードでの飽和領域に旋回速度は15°/s、高速動作モードでの飽和領域に旋回速度は30°/sである。
なお、旋回機構部60におけるステッピングモータ61に替えて、カメラ本体に旋回方向の駆動力を与えるための一般に知られている他のモータを用いてもよい。
【0023】
旋回機構部60におけるステッピングモータ61は旋回機構制御部70からの命令に従い、カメラ本体をパン方向に旋回させる。
旋回機構制御部70は制御部80からの制御命令に従い、ステッピングモータ61の旋回速度制御を行う。
【0024】
旋回機構制御部70からの命令は、ステッピングモータ61を低速動作モード、中速動作モード、又は高速動作モードなどのモードにより駆動するための駆動制御信号又は駆動電流(電力)であり、ステッピングモータ61に出力される。
旋回機構制御部70は単一のモータドライバICとその周辺回路で構成される。
旋回機構制御部70は
図2に示す制御基板101に組み込まれ、電源ケーブル104に接続された電源部102から電力が供給される。
【0025】
制御部80は、撮像ユニット制御部30及び旋回機構制御部70それぞれに制御命令を与えるとともに、AD変換部50からデジタル映像データを受け、WDR画像を生成するWDR画像生成部81を有する。
制御部80は中央演算処理装置であり、主にデジタル画像処理機能を内蔵するコンピュータにより実現される。
【0026】
制御部80は、
図2に示す制御基板101に組み込まれ、電源ケーブル104に接続された電源部102から電力が供給される。
なお、表示装置200としてノートPC又はタブレット型端末における表示装置を用いた場合、制御部80としてノートPC又はタブレット型端末が内蔵するコンピュータにより構成されてもよい。
また、制御部80は汎用のCPU(Central Processing Unit)、DSP(digital signal processor)、又はFPGA(Field Programmable Gate Array)等により構成される。
【0027】
WDR画像生成部81は、光学系10及び撮像素子20により構成される撮像ユニットからの時間的に隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報、本例では、AD変換部50からの隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報を得、得た隣接するフレームの撮影時間と隣接するフレームの撮影時間Tにおける旋回機構部60における旋回速度Vにより、得た隣接するフレームの先の画像情報の、後の画像情報に対する移動量Lを算出し、先の画像情報又は後の画像情報の一方の画像情報を移動量Lに応じて補正し、補正した一方の画像情報と他方の画像情報からWDR画像を生成する。
【0028】
隣接するフレームの撮影時間Tは隣接するフレームの撮影開始時点の時刻T1から撮影終了時点の時刻T2までの時間|T2-T1|である。
旋回機構部60における旋回速度Vは隣接するフレームの撮影開始時点の時刻T1での旋回機構部60における旋回速度V1と撮影終了時点の時刻T2での旋回機構部60における旋回速度V2との平均旋回速度(V1+V2)/2である。
移動量Lは撮影時間|T2-T1|と平均旋回速度(V1+V2)/2を乗算した値[|T2-T1|×{(V1+V2)/2}]である。
【0029】
WDR画像生成部81は、制御部80を構成するコンピュータにより実現され、コンピュータの構成を
図5にCPU(Central Processing Unit)80Aと、大容量の半導体メモリ(RAM:Random Access Memory)80Bと、ハードディスク装置又はSSD装置などの不揮発性記録装置などの記憶装置(ROM:Read only memory)80Cと、入力インタフェース部80Dと、出力インタフェース部80Eと、信号路(バス)80Fを備える構成として示す。
【0030】
CPU80AはRAM80BとROM80Cと入力インタフェース部80Dと出力インタフェース部80Eを制御、管理する。
ROM80Cに格納されたプログラムをRAM80Bにロードし、CPU80AがRAM80Bにロードされたプログラムに基づき各種処理を実行する。
【0031】
WDR画像生成部81は、
図6に示すように、画像情報取得部811と長時間露光画像情報記憶部812と短時間露光画像情報記憶部813と画像情報補正部814と画像合成部815と時刻情報取得部816と時刻情報記憶部817と速度情報取得部818と速度情報記憶部819と移動量演算部820を備える。
【0032】
画像情報取得部811は撮像ユニットからのフレーム単位での長時間露光画像情報と短時間露光画像情報を、本例では、撮像素子20からの画像情報を示すアナログ映像信号をアナログ信号処理部40が画像処理をし、AD変換部50がデジタル映像データに変換したフレーム単位での長時間露光画像情報と短時間露光画像情報を交互に順次取得する。画像情報取得部811はハードウェア構成において入力インタフェース部80Dである。
【0033】
長時間露光画像情報記憶部812は画像情報取得部811が取得したフレーム単位での長時間露光画像情報を記憶する。
短時間露光画像情報記憶部813は画像情報取得部811が取得したフレーム単位での短時間露光画像情報を記憶する。
長時間露光画像情報記憶部812及び短時間露光画像情報記憶部813はハードウェア構成においてRAM80Bである。
【0034】
画像情報補正部814は短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報を移動量演算部820からの移動量Lを示す移動量情報に応じてフレーム単位での補正された短時間露光画像情報を生成する。
補正された短時間露光画像情報は移動量Lに応じて水平方向に平行移動された画像情報である。
すなわち、補正された短時間露光画像情報は、長時間露光画像情報記憶部812に記憶された隣接するフレームにおけるフレーム単位での長時間露光画像情報と位置合わせされた画像情報である。
画像情報補正部814はハードウェア構成においてプログラムが記憶されたROM80C(RAM80B)とプログラムを実行処理するCPU80Aである。
【0035】
画像合成部815は、旋回機構部60によりカメラ本体が旋回動作されていない状態、つまり、光学系10と撮像素子20により構成される撮像ユニットが固定状態であると、長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報と短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する。
【0036】
画像合成部815は、旋回機構部60によりカメラ本体が旋回動作されていると、つまり、光学系10と撮像素子20により構成される撮像ユニットが
図3に示すように旋回動作されると、長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報と画像情報補正部814により補正されたフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する。
画像合成部815により生成されたWDR画像情報は、ハードウェア構成において出力インタフェース部8080Eを介し、
図2に示した通信ケーブル103を介して表示装置200に伝送される。
【0037】
画像合成部815におけるフレーム単位での長時間露光画像情報とフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する方法は一般的に知られている方法である。
画像合成部815はハードウェア構成においてプログラムが記憶されたROM80C(RAM80B)とプログラムを実行処理するCPU80Aである。
【0038】
時刻情報取得部816は時計機構91からフレーム単位での撮影開始時点及び撮影終了時点の時刻情報を取得する。時刻情報取得部816はハードウェア構成において入力インタフェース部80Dである。
時計機構91は一般に知られているタイマである。
時刻情報記憶部817は時刻情報取得部816が取得した時刻情報を記憶する。時刻情報記憶部817はハードウェア構成においてRAM80Bである。
【0039】
速度情報取得部818は速度センサ92からの旋回機構部60における旋回速度情報を取得する。速度情報取得部818はハードウェア構成において入力インタフェース部80Dである。
速度センサ92は旋回機構部60におけるステッピングモータ61の回転速度を検出する、一般に知られている速度センサである。
速度情報記憶部819は速度情報取得部818が取得した旋回速度情報を記憶する。速度情報記憶部819はハードウェア構成においてRAM80Bである。
【0040】
移動量演算部820は時刻情報記憶部817及び速度情報記憶部819に記憶された隣接するフレーム単位での長時間露光画像情報と短時間露光画像情報、つまり、隣接する2フレーム分の画像情報における時刻情報及び旋回速度情報に対して次の演算処理を実行する。
第1に、2フレーム分の画像情報における撮影開始時点の時刻T1及び撮影終了時点の時刻T2を得、撮影開始時点の時刻T1から撮影終了時点の時刻T1までの時間|T2-T1|を得る。
【0041】
本例では、一例として、長時間露光撮影を先に短時間露光撮影を後にして2フレーム分を1つの単位として順次撮影し、長時間露光撮影の撮影開始時点の時刻情報を撮影開始時点の時刻T1とし、短時間露光撮影の撮影終了時点の時刻情報を撮影終了時点の時刻T2としている。
従って、時間|T2-T1|は2フレーム分を1つの単位とした撮影時間に相当する。
なお、撮影開始時点及び撮影終了時点は厳密な時点に対して設計裕度をもった時点である。
【0042】
また、短時間露光撮影を先に長時間露光撮影を後にして2フレーム分を1つの単位としてもよい。
要するに、本例では、撮像ユニットにより被写体が順次撮影された、長時間露光撮影によるフレーム単位の長時間露光画像情報及び短時間露光撮影によるフレーム単位の短時間露光画像情報の2フレーム分の画像情報を1つの単位画像情報として扱う。
【0043】
第2に、2フレーム分の画像情報である単位画像情報における撮影開始時点の時刻T1における旋回速度V1及び撮影終了時点の時刻T2における旋回速度V2を得、単位画像情報に対する撮影時間における旋回機構部60における平均旋回速度(V1+V2)/2を得る。
第3に、得られた時間|T2-T1|と平均旋回速度(V1+V2)/2を乗算して移動量[|T2-T1|×{(V1+V2)/2}]を得る。
移動量演算部820はハードウェア構成においてプログラムが記憶されたROM80C(RAM80B)とプログラムを実行処理するCPU80Aである。
【0044】
次に、実施の形態1に係る撮像装置100におけるWDR画像の生成までの動作を、
図7を用いて説明する。
ステップST1において撮影を開始すると、光学系10及び撮像素子20により構成される撮像ユニットが長時間露光画像と短時間露光画像をフレーム単位で交互に出力し、アナログ信号処理部40が画像処理をし、AD変換部50がデジタル映像データに変換して制御部80に出力する。
説明の便宜上、長時間露光撮影、短時間露光撮影の順に撮影した場合について説明するが、逆に短時間露光撮影、長時間露光撮影の順に撮影した場合でもよい。
ステップST2に進み、旋回機構部60が旋回動作中か否かを判断する。
【0045】
ステップST2において、旋回機構部60が旋回動作中でない、つまり、撮像ユニットが固定状態であると、ステップST21に進み、通常のWDR画像生成を実施する。
すなわち、制御部80におけるWDR画像生成部81において、AD変換部50から取得し、長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報と短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成し、ステップST22に進む。
ステップST22において、生成されたWDR画像情報を表示装置200に出力し、ステップST23において、撮影が終了していなければステップST2に戻り、撮影が終了と判断されるとWDR画像の生成の動作は終了する。
【0046】
ステップST2において、旋回機構部60が旋回動作中であると判断されると、ステップST3からステップST6に進む。ステップST3とステップST4、ステップST5とステップST6は
図7において説明の便宜上、時間の経過とともに順番に進むように記載しているが、同時に行われる。
【0047】
ステップST3において、時刻情報取得部816が長時間露光撮影の撮影開始時点の時刻情報を取得し、時刻情報記憶部817が、時刻情報取得部816が取得した長時間露光撮影の撮影開始時点の時刻情報を撮影開始時点の時刻T1として記憶する。
ステップST3において、速度情報取得部818が長時間露光撮影の撮影開始時点の時刻における旋回機構部60における旋回速度情報を取得し、速度情報記憶部819が、速度情報取得部818が取得した長時間露光撮影の撮影開始時点の時刻における旋回機構部60における旋回速度情報を時刻T1での旋回機構部60における旋回速度V1として記憶する。
【0048】
ステップST4において、画像情報取得部811がAD変換部50からの時刻T1で撮影開始されたフレーム単位での長時間露光画像情報を取得し、長時間露光画像情報記憶部812が、画像情報取得部811が取得したフレーム単位での長時間露光画像情報を記憶する。
ステップST5において、長時間露光撮影の次に撮影された短時間露光撮影に対するAD変換部50からの短時間露光画像情報を画像情報取得部811が取得し、短時間露光画像情報記憶部813が、画像情報取得部811が取得したフレーム単位での短時間露光画像情報を記憶する。
【0049】
ステップST6において、時刻情報取得部816が短時間露光撮影の撮影終了時点の時刻情報を取得し、時刻情報記憶部817が、時刻情報取得部816が取得した短時間露光撮影の撮影終了時点の時刻情報を撮影終了時点の時刻T2として記憶する。
ステップST6において、速度情報取得部818が短時間露光撮影の撮影終了時点の時刻における旋回機構部60における旋回速度情報を取得し、速度情報記憶部819が、速度情報取得部818が取得した短時間露光撮影の撮影終了時点の時刻における旋回機構部60における旋回速度情報を時刻T2での旋回機構部60における旋回速度V2として記憶する。
【0050】
ステップST7において、移動量演算部820が、単位画像情報に対する光学系10と撮像素子20により構成される撮像ユニットによる撮影時間|T2-T1|、単位画像情報に対する平均旋回速度(V1+V2)/2、及び撮影時間|T2-T1|と平均旋回速度(V1+V2)/2を乗算した移動量[|T2-T1|×{(V1+V2)/2}]を算出する。
ステップST7は移動量算出ステップである。
単位画像情報は、上記でも述べたように、長時間露光撮影によるフレーム単位の長時間露光画像情報及び短時間露光撮影によるフレーム単位の短時間露光画像情報の時間的に隣接する2フレーム分の画像情報を1つの単位とした画像情報である。
【0051】
また、例えば、一例として、光学系10の水平画角を60°、光学系10の水平解像度を1920px、平均旋回速度(回転速度)を15°/s、画像の平均移動速度は480px/sとなり、フレームレートを60FPSとした場合、1秒当たりの移動量Lは8pxとなる。
このようにして求めた移動量Lはピクセル、つまり、水平方向の画素数で現わすことができる。
【0052】
ステップST8において、画像情報補正部814が短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報を移動量演算部820が算出した移動量Lを示す移動量情報に応じてフレーム単位での補正された短時間露光画像情報を生成する。
補正された短時間露光画像情報は移動量Lに応じて水平方向に平行移動、本例では移動量Lが示す水平方向の画素数分だけ、水平方向に平行移動させる。
水平方向に平行移動させることにより、先に撮影された長時間露光画像情報と被写体に対する画素位置が一致する。
ステップST8は、画像情報補正部814が、単位画像情報における一方の画像情報、一例においては短時間露光画像情報に対して移動量Lに応じて水平方向に平行移動された一方の補正画像情報を生成する補正画像生成ステップである。
【0053】
ステップST9において、画像合成部815が長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報と画像情報補正部814により補正されたフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する。
ステップST9は、画像合成部815が、単位画像情報における他方の画像情報、一例においては長時間露光画像情報と一方の補正画像情報、一例においては補正された短時間露光画像情報を合成してWDR画像情報を生成するWDR画像生成ステップである。
【0054】
このように、単位画像情報における一方の画像情報を移動量Lに応じて補正し、補正した一方の画像情報と他方の画像情報によりWDR画像情報を得ているため、旋回機構部60における旋回動作によるモーションブラーの影響を抑制でき、WDR画像における画質の劣化を低減できる。
【0055】
ステップST10に進むと、ステップST9において生成されたWDR画像情報を表示装置200に出力し、ステップST11において、撮影が終了していなければステップST2に戻り、撮影が終了と判断されるとWDR画像の生成の動作は終了する。
【0056】
ステップST1からステップST11、及びステップ21からステップ23によるWDR画像情報生成方法は、CPU80AがROM80Cに記憶されたプログラムに従って処理を実行することにより行われる。
特に、ST7からステップST9によるWDR画像情報生成における、ROMに記憶されたプログラムは、単位画像情報に対する撮像ユニットによる撮影時間、単位画像情報に対する平均旋回速度、及び撮影時間と平均旋回速度を乗算した移動量Lを算出する移動量算出手順と、単位画像情報における一方の画像情報に対して移動量Lに応じて水平方向に平行移動された一方の補正画像情報を生成する補正画像生成手順と、単位画像情報における他方の画像情報と一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成手順と、を備える。
【0057】
以上のように、実施の形態1に係る撮像装置は、長時間露光画像と短時間露光画像をフレーム単位で交互に出力する撮像ユニットと、撮像ユニットをパン旋回方向に旋回させるパン方向旋回機構部60とを備え、フレーム単位の長時間露光画像情報及びフレーム単位の短時間露光画像情報の時間的に隣接する2フレーム分の画像情報を1つの単位とした単位画像情報に対する撮影時間とパン方向旋回機構部60の旋回速度を乗算した移動量Lを算出し、単位画像情報の一方の画像情報を移動量Lに応じて補正し、補正した一方の画像情報と単位画像情報の他方の画像情報からWDR画像を生成するWDR画像生成部81を備えたので、パン方向旋回機構部60における旋回動作によるモーションブラーの影響を抑制でき、WDR画像における画質の劣化を低減できる。
【0058】
その結果、短い演算処理時間により、パン方向旋回機構部60における旋回動作による画像ずれによる画質の劣化を低減し、高精度かつ容易に補正したWDR画像を得ることができる。
また、実施の形態1に係る撮像装置は、WDR画像を得るために高負荷な動きベクトルの算出等が不要であり、また、ジャイロセンサを用いた複雑な増幅回路及びフィルタ回路を要すことがないため、設計も容易となる。
さらに、旋回機構制御部70は単一のモータドライバICとその周辺回路で構成でき、旋回機構制御部70の設計が容易である。
【0059】
実施の形態2.
実施の形態2に係る撮像装置を
図8から
図11に基づいて説明する。
実施の形態1に係る撮像装置100はPZカメラを対象としているのに対し、実施の形態2に係る撮像装置100Aは、遠隔操作によりパン方向を旋回させる旋回部とチルト(上下)方向を旋回させる旋回部を備える、例えば、監視カメラ等のパン方向に旋回する旋回部とチルト方向を旋回させる旋回部とズーム機能を搭載したPTZカメラを対象としている。
【0060】
実施の形態2に係る撮像装置100Aにおいて、パン方向旋回機構部60における旋回動作中のWDR画像の生成は実施の形態1に係る撮像装置100におけるパン方向旋回機構部60における旋回動作中のWDR画像の生成と同じであり、実施の形態2に係る撮像装置100Aは、制御部80におけるWDR画像生成部81に、さらに、チルト方向旋回機構部60Tにおける旋回動作中のWDR画像を生成する機能を追加したものである。
従って、WDR画像生成部81において、チルト方向旋回機構部60Tにおける旋回動作中のWDR画像の生成を主体に以下に説明する。
なお、
図8から
図11中、
図1から
図7に付された符号と同一符号は同一又は相当部分を示す。
【0061】
実施の形態2に係る撮像装置100Aは、
図8に示すように、光学系10と撮像素子20と撮像ユニット制御部30とアナログ信号処理部40とAD変換部50とパン方向旋回機構部60とパン方向旋回機構駆動制御部70とチルト方向旋回機構部60Tとチルト方向旋回機構駆動制御部70Tと制御部(中央演算処理装置)80を備える。
光学系10と撮像素子20と撮像ユニット制御部30とアナログ信号処理部40とAD変換部50とパン方向旋回機構部60とパン方向旋回機構駆動制御部70は、実施の形態1における光学系10と撮像素子20と撮像ユニット制御部30とアナログ信号処理部40とAD変換部50とパン方向旋回機構部60とパン方向旋回機構駆動制御部70と同じであるので、詳細な説明を省略する。
【0062】
チルト方向旋回機構部60T(以下、旋回機構部60Tと略称する)は、チルト回転軸を起点にチルト旋回方向に、光学系10及び撮像素子20により構成される撮像ユニットをチルト方向に旋回、本例においては撮像ユニットなどを内蔵したカメラ本体をチルト方向に旋回させる。
旋回機構部60Tは、
図10に示すように、光学系10における撮影映像(被写体)に対する画角をもって、図示チルト旋回方向にカメラ本体を旋回させる。
旋回機構部60Tは、本例において、
図9に示すように、ステッピングモータ61Tと、ステッピングモータ61Tの駆動力をカメラ本体に伝達するギア、ベルト又はプーリなどによる伝達機構62Tを有する、機械的な回転機構である。
【0063】
旋回機構部60Tにステッピングモータ61Tを用いた場合、ステッピングモータ61Tの旋回速度をモデル化すると、ステッピングモータ61Tの速度制御領域は加速による線形領域と減速による線形領域と定速動作による飽和領域になる。
なお、旋回機構部60Tにおけるステッピングモータ61Tに替えて、カメラ本体に旋回方向の駆動力を与えるための一般に知られている他のモータを用いてもよい。
【0064】
旋回機構部60Tにおけるステッピングモータ61Tはチルト方向旋回機構駆動制御部70T(以下、旋回機構制御部70Tと略称する)からの命令に従い、カメラ本体をチルト方向に旋回させる。
旋回機構制御部70Tは制御部80からの制御命令に従い、ステッピングモータ61Tの旋回速度制御を行う。
【0065】
旋回機構制御部70Tからの命令は、ステッピングモータ61Tを駆動するための駆動制御信号又は駆動電流(電力)であり、ステッピングモータ61Tに出力される。
旋回機構制御部70Tは単一のモータドライバICとその周辺回路で構成される。
旋回機構制御部70Tはカメラ本体に内蔵された制御基板101に組み込まれ、電源ケーブル104に接続された電源部102から電力が供給される。
【0066】
WDR画像生成部81は、
図6に示した実施の形態1におけるWDR画像生成部81と同様の構成であり、実施の形態1に係る撮像装置100におけるパン方向旋回機構部60の旋回動作中と同様に、移動量演算部820がパン方向の移動量Lを算出して2フレーム分の画像情報である単位画像情報における一方の画像情報である短時間露光画像情報を画像情報補正部814が移動量Lに応じて補正し、補正した短時間露光画像情報と他方の画像情報である短時間露光画像情報から画像合成部815がWDR画像を生成する。
【0067】
さらに、WDR画像生成部81は、チルト方向旋回機構部60Tの旋回動作中、旋回機構部60Tにおけるステッピングモータ61Tの回転速度を検出する速度センサ92Tからの旋回機構部60における旋回速度を速度情報取得部818が取得し、移動量演算部820がチルト方向の移動量LTを算出して2フレーム分の画像情報である単位画像情報における一方の画像情報である短時間露光画像情報を画像情報補正部814が移動量LTに応じて補正し、補正した短時間露光画像情報と他方の画像情報である短時間露光画像情報から画像合成部815がWDR画像を生成する。
【0068】
チルト方向旋回機構部60Tの旋回動作中において、単位画像情報における撮影開始時点の時刻T3における旋回速度V3及び撮影終了時点の時刻T4における旋回速度V4情報を取得すると、移動量演算部820がチルト方向の移動量LTとして[|T4-T3|×{(V3+V4)/2}]を算出する。
【0069】
次に、実施の形態2に係る撮像装置100AにおけるWDR画像の生成までの動作を、特に、チルト方向旋回機構部60Tの旋回動作中におけるWDR画像の生成までの動作を主体に
図11を用いて説明する。
ステップST1において撮影を開始すると、光学系10及び撮像素子20により構成される撮像ユニットが長時間露光画像と短時間露光画像をフレーム単位で交互に出力し、アナログ信号処理部40が画像処理をし、AD変換部50がデジタル映像データに変換して制御部80に出力する。
【0070】
説明の便宜上、長時間露光撮影、短時間露光撮影の順に撮影した場合について説明するが、逆に短時間露光撮影、長時間露光撮影の順に撮影した場合でもよい。
ステップST2に進み、旋回機構部60及び旋回機構部60Tが旋回動作中か否かを判断する。
【0071】
ステップST2において、旋回機構部60及び旋回機構部60Tが旋回動作中でない、つまり、撮像ユニットが固定状態であると、ステップST21に進み、通常のWDR画像生成を実施する。
【0072】
ステップST2において、旋回機構部60又は旋回機構部60Tのいずれかが旋回動作中であると判断されるステップST2Aに進み、ステッブST2Aにおいて旋回機構部60が旋回動作中であると判断されるとステップST3からステップST6に進み、実施の形態1において説明したと同様に動作し、旋回機構部60が旋回動作中におけるWDR画像生成を実施する。
【0073】
ステッブST2Aにおいて旋回機構部60Tが旋回動作中であると判断されるとステップST3TからステップST6Tに進む。ステップST3TとステップST4T、ステップST5TとステップST6Tは
図11において説明の便宜上、時間の経過とともに順番に進むように記載しているが、同時に行われる。
【0074】
ステップST3Tにおいて、時刻情報取得部816が長時間露光撮影の撮影開始時点の時刻情報を取得し、時刻情報記憶部817が、時刻情報取得部816が取得した長時間露光撮影の撮影開始時点の時刻情報を撮影開始時点の時刻T3として記憶する。
ステップST3Tにおいて、速度情報取得部818が長時間露光撮影の撮影開始時点の時刻における旋回機構部60Tにおける旋回速度情報を取得し、速度情報記憶部819が、速度情報取得部818が取得した長時間露光撮影の撮影開始時点の時刻における旋回機構部60Tにおける旋回速度情報を時刻T3での旋回機構部60における旋回速度V3として記憶する。
【0075】
ステップST4Tにおいて、画像情報取得部811がAD変換部50からの時刻T3で撮影開始されたフレーム単位での長時間露光画像情報を取得し、長時間露光画像情報記憶部812が、画像情報取得部811が取得したフレーム単位での長時間露光画像情報を記憶する。
ステップST5Tにおいて、長時間露光撮影の次に撮影された短時間露光撮影に対するAD変換部50からの短時間露光画像情報を画像情報取得部811が取得し、短時間露光画像情報記憶部813が、画像情報取得部811が取得したフレーム単位での短時間露光画像情報を記憶する。
【0076】
ステップST6Tにおいて、時刻情報取得部816が短時間露光撮影の撮影終了時点の時刻情報を取得し、時刻情報記憶部817が、時刻情報取得部816が取得した短時間露光撮影の撮影終了時点の時刻情報を撮影終了時点の時刻T4として記憶する。
ステップST6Tにおいて、速度情報取得部818が短時間露光撮影の撮影終了時点の時刻における旋回機構部60Tにおける旋回速度情報を取得し、速度情報記憶部819が、速度情報取得部818が取得した短時間露光撮影の撮影終了時点の時刻における旋回機構部60Tにおける旋回速度情報を時刻T4での旋回機構部60における旋回速度V4として記憶する。
【0077】
ステップST7Tにおいて、移動量演算部820が、単位画像情報に対する光学系10と撮像素子20により構成される撮像ユニットによる撮影時間|T4-T3|、単位画像情報に対する平均旋回速度(V3+V4)/2、及び撮影時間|T4-T3|と平均旋回速度(V3+V4)/2を乗算した移動量[|T4-T3|×{(V3+V4)/2}]を算出する。
ステップST7Tは移動量演算部820がチルト方向の移動量を算出する移動量算出ステップである。
【0078】
ステップST8Tにおいて、画像情報補正部814が短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報を移動量演算部820が算出した移動量LTを示す移動量情報に応じてフレーム単位での補正された短時間露光画像情報を生成する。
補正された短時間露光画像情報は移動量LTに応じて鉛直方向に平行移動、本例では移動量LTが示す鉛直方向の画素数分だけ、鉛直方向に平行移動させる。
【0079】
鉛直方向に平行移動させることにより、先に撮影された長時間露光画像情報と被写体に対する画素位置が一致する。
ステップST8Tは、画像情報補正部814が、単位画像情報における一方の画像情報、一例においては短時間露光画像情報に対して移動量LTに応じて水平方向に平行移動された一方の補正画像情報を生成するチルト方向の補正画像生成ステップである。
【0080】
ステップST9Tにおいて、画像合成部815が長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報と画像情報補正部814により補正されたフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する。
ステップST9Tは、画像合成部815が、単位画像情報における他方の画像情報、一例においては長時間露光画像情報と一方の補正画像情報、一例においては補正された短時間露光画像情報を合成してWDR画像情報を生成するWDR画像生成ステップである。
【0081】
このように、単位画像情報における一方の画像情報を移動量LTに応じて補正し、補正した一方の画像情報と他方の画像情報によりWDR画像情報を得ているため、旋回機構部60Tにおける旋回動作によるモーションブラーの影響を抑制でき、WDR画像における画質の劣化を低減できる。
【0082】
ステップST10Tに進むと、ステップST9Tにおいて生成されたWDR画像情報を表示装置200に出力し、ステップST11Tにおいて、撮影が終了していなければステップST2に戻り、撮影が終了と判断されるとWDR画像の生成の動作は終了する。
【0083】
ステップST1からステップST2A、ステップ3からステップST11、ステップ3TからステップST11T、及びステップ21からステップ23によるWDR画像情報生成方法は、CPU80AがROM80Cに記憶されたプログラムに従って処理を実行することにより行われる。
【0084】
ST7TからステップST9TによるWDR画像情報生成における、ROMに記憶されたプログラムは、単位画像情報に対する撮像ユニットによる撮影時間、単位画像情報に対するチルト方向の平均旋回速度、及び撮影時間と平均旋回速度を乗算した移動量LTを算出するチルト方向の移動量算出手順と、単位画像情報における一方の画像情報に対して移動量LTに応じて鉛直方向に平行移動された一方の補正画像情報を生成するチルト方向の補正画像生成手順と、単位画像情報における他方の画像情報と一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成手順と、を備える。
【0085】
以上のように、実施の形態2に係る撮像装置は、実施の形態1に係る撮像装置と同様の効果を有する他、WDR画像生成部81が、単位画像情報に対する撮影時間とチルト方向旋回機構部60Tの旋回速度を乗算した移動量LTを算出し、単位画像情報の一方の画像情報を移動量LTに応じて補正し、補正した一方の画像情報と単位画像情報の他方の画像情報からWDR画像を生成するので、チルト方向旋回機構部60Tにおける旋回動作によるモーションブラーの影響を抑制でき、WDR画像における画質の劣化を低減できる。
【0086】
その結果、短い演算処理時間により、チルト方向旋回機構部60Tにおける旋回動作による画像ずれによる画質の劣化を低減し、高精度かつ容易に補正したWDR画像を得ることができる。
また、旋回機構制御部70Tは単一のモータドライバICとその周辺回路で構成でき、旋回機構制御部70Tの設計が容易である。
【0087】
実施の形態3.
実施の形態3に係る撮像装置を
図12及び
図13に基づいて説明する。
実施の形態3に係る撮像装置は、実施の形態1に係る撮像装置100に対して制御部80におけるWDR画像生成部81に、さらに、光学系10において、光学系10のズーム制御動作中にワイドダイナミックレンジ撮影を行った場合のWDR画像を生成する機能を追加したものである。
従って、WDR画像生成部81Zにおいて、光学系10のズーム制御動作中にワイドダイナミックレンジ撮影を行った場合のWDR画像の生成を主体に以下に説明する。
なお、
図12から
図13中、
図1から
図7に付された符号と同一符号は同一又は相当部分を示す。
【0088】
実施の形態3に係る撮像装置100は、
図1に示す実施の形態1に係る撮像装置100と同様に、光学系10と撮像素子20と撮像ユニット制御部30とアナログ信号処理部40とAD変換部50とパン方向旋回機構部60とパン方向旋回機構駆動制御部70と制御部(中央演算処理装置)80を備える。
実施の形態3に係る撮像装置100は、実施の形態1に係る撮像装置100に対して、制御部80におけるWDR画像生成部81に対して、光学系10のズーム制御動作中にワイドダイナミックレンジ撮影を行った場合のWDR画像を生成する機能を追加したWDR画像生成部81Zとした点が相違するだけであり、その他の点については同じである。
従って、WDR画像生成部81Z、特に、実施の形態1におけるWDR画像生成部81に追加した機能を中心に以下に説明する。
【0089】
WDR画像生成部81Zは、
図12に示すように、WDR画像生成部81に対して、ズームレンズ倍率情報取得部(以下、倍率情報取得部と略称する)821とズームレンズ倍率情報記憶部(以下、倍率情報記憶部と略称する)822と倍率の相対値演算部823と画像情報補正部814Zをさらに有する。
【0090】
倍率情報取得部821は、撮像ユニット制御部30から光学系10におけるレンズ駆動機構に指示するレンズ機構におけるズームレンズ倍率情報(以下、倍率情報と略称する)を取得する。
倍率情報は時刻と紐づけされた情報であり、長時間露光撮影の撮影開始時点の時刻及び撮影終了時点の時刻、並びに短時間露光撮影の撮影開始時点の時刻及び撮影終了時点の時刻それぞれに紐づけされた倍率情報である。
倍率情報記憶部822は倍率情報取得部821が取得した倍率情報を記憶する。
【0091】
相対値演算部823は、時刻情報記憶部817及び倍率情報記憶部822に記憶された、フレーム単位の長時間露光画像情報及びフレーム単位の短時間露光画像情報の時間的に隣接する2フレーム分の画像情報である単位画像情報における時刻情報及び倍率情報に対して次の演算処理を実行する。
以下、単位画像情報として長時間露光撮影を先に短時間露光撮影を後にした2フレーム分を1つの単位とした画像情報を説明するが、短時間露光撮影を先に長時間露光撮影を後にした2フレーム分を1つの単位とした画像情報にしてもよい。
【0092】
すなわち、相対値演算部823は単位画像情報における撮影開始時点の時刻T5、本例では単位画像情報における長時間露光撮影の撮影開始時点の時刻T5におけるズームレンズ倍率X1と、単位画像情報における撮影終了時点の時刻T6、本例では単位画像情報における短時間露光撮影の撮影終了時点の時刻T6におけるズームレンズ倍率X2から、相対比である相対値X2/X1を得る。
【0093】
例えば、ズームレンズ倍率X1が2倍であり、ズームレンズ倍率X2が2.2倍であると相対値Rは1.1になる。
画像情報補正部814Zは長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報に対して相対値Rを示す相対値情報に応じてフレーム単位での補正された長時間露光画像情報を生成する。
【0094】
補正された長時間露光画像情報は相対値Rに応じてデジタルズーム補正(拡大処理)を実施した画像情報である。
例えば、相対値Rが1.1であるとすると、長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報に対して1.1倍でデジタルズーム補正を実施する。
すなわち、補正された長時間露光画像情報は、短時間露光画像情報記憶部813に記憶された単位画像情報におけるフレーム単位での短時間露光画像情報と倍率が一致する。
【0095】
画像合成部815は、光学系10のズーム制御動作が行われていると、短時間露光画像情報記憶部813に記憶された単位画像情報におけるフレーム単位での短時間露光画像情報と画像情報補正部814Zにより補正された単位画像情報におけるフレーム単位での短時間露光画像情報を合成してWDR画像情報を生成する。
画像合成部815により得られるWDR画像はズームレンズ倍率の変動に伴うぶれが補正される。
【0096】
次に、実施の形態3に係る撮像装置100におけるWDR画像の生成までの動作を、特に、光学系10のズーム制御動作中にワイドダイナミックレンジ撮影を行った場合のWDR画像の生成までの動作を主体に
図13を用いて説明する。
ステップST1において撮影を開始すると、光学系10及び撮像素子20により構成される撮像ユニットが長時間露光画像と短時間露光画像をフレーム単位で交互に出力し、アナログ信号処理部40が画像処理をし、AD変換部50がデジタル映像データに変換して制御部80に出力する。
【0097】
説明の便宜上、長時間露光撮影、短時間露光撮影の順に撮影した場合について説明するが、逆に短時間露光撮影、長時間露光撮影の順に撮影した場合でもよい。
ステップST2に進み、旋回機構部60が旋回動作中か光学系10のズーム制御動作中か否かを判断する。
【0098】
ステップST2において、旋回機構部60が旋回動作中でない、光学系10のズーム制御動作中でない、つまり、撮像ユニットが固定状態であり、ズーム制御動作が実施されていないと、ステップST21に進み、通常のWDR画像生成を実施する。
ステップST2において、旋回機構部60が旋回動作中又は光学系10のズーム制御動作中であると判断されるステップST2Bに進み、ステッブST2Bにおいて旋回機構部60が旋回動作中であると判断されるとステップST3からステップST6に進み、実施の形態1において説明したと同様に動作し、旋回機構部60が旋回動作中におけるWDR画像生成を実施する。
【0099】
ステッブST2Bにおいて、光学系10のズーム制御動作中であると判断されるとステップST3ZからステップST6Zに進む。ステップST3ZとステップST4Z、ステップST5ZとステップST6Zは
図13において説明の便宜上、時間の経過とともに順番に進むように記載しているが、同時に行われる。
【0100】
ステップST3Zにおいて、倍率情報取得部821が単位画像情報における撮影開始時点の時刻T5、本例においては長時間露光撮影の撮影開始時点の時刻T5における光学系10におけるレンズ機構に対するズームレンズ倍率X1を示す倍率情報を取得し、倍率情報記憶部822が、倍率情報取得部821が取得したズームレンズ倍率X1を示す倍率情報を記憶する。
【0101】
ステップST4Zにおいて、画像情報取得部811がAD変換部50からの時刻T5で撮影開始されたフレーム単位での長時間露光画像情報を取得し、長時間露光画像情報記憶部812が、画像情報取得部811が取得したフレーム単位での長時間露光画像情報を記憶する。
ステップST5Zにおいて、長時間露光撮影の次に撮影された短時間露光撮影に対するAD変換部50からの短時間露光画像情報を画像情報取得部811が取得し、短時間露光画像情報記憶部813が、画像情報取得部811が取得したフレーム単位での短時間露光画像情報を記憶する。
【0102】
ステップST6Zにおいて、倍率情報取得部821が単位画像情報における撮影終了時点の時刻T6、本例においては短時間露光撮影の撮影終了時点の時刻T6における光学系10におけるレンズ機構に対するズームレンズ倍率X2を示す倍率情報を取得し、倍率情報記憶部822が、倍率情報取得部821が取得したズームレンズ倍率X2を示す倍率情報を記憶する。
【0103】
ステップST7Zにおいて、相対値演算部823が、倍率情報記憶部822が記憶されたズームレンズ倍率X1を示す倍率情報とズームレンズ倍率X2を示す倍率情報からから、相対比である相対値X2/X1を示す相対値情報を得る。
ステップST7Zは相対値演算部823がズームレンズ倍率の相対比を算出する相対値算出ステップである。
【0104】
ステップST8Zにおいて、画像情報補正部814Zが、長時間露光画像情報記憶部812に記憶されたフレーム単位での長時間露光画像情報を相対値演算部823が算出した相対値X2/X1を示す相対値情報に応じてデジタルズーム補正を実施してフレーム単位での補正された長時間露光画像情報を生成する。
【0105】
補正された長時間露光画像情報は相対値Rに応じて倍率が単位画像情報における短時間露光画像情報の倍率と一致される。
ステップST8Zは、画像情報補正部814Zが、単位画像情報における一方の画像情報、一例においては長時間露光画像情報に対して相対値Rを用いて倍率を補正した一方の補正画像情報を生成する倍率の補正画像生成ステップである。
【0106】
ステップST9Zにおいて、画像合成部815が短時間露光画像情報記憶部813に記憶されたフレーム単位での短時間露光画像情報と画像情報補正部814Zにより補正されたフレーム単位での長時間露光画像情報を合成してWDR画像情報を生成する。
ステップST9Zは、画像合成部815が、単位画像情報における他方の画像情報、一例においては短時間露光画像情報と一方の補正画像情報、一例においては補正された長時間露光画像情報を合成してWDR画像情報を生成するWDR画像生成ステップである。
【0107】
このように、単位画像情報における一方の画像情報を相対値Rに応じて補正し、補正した一方の画像情報と他方の画像情報によりWDR画像情報を得ているため、光学系10のズーム倍率の変動に伴うズームレンズ制御動作中のWDR画像のブレを抑制でき、WDR画像における画質の劣化を低減できる。
【0108】
ステップST10Zに進むと、ステップST9Zにおいて生成されたWDR画像情報を表示装置200に出力し、ステップST11Zにおいて、撮影が終了していなければステップST2に戻り、撮影が終了と判断されるとWDR画像の生成の動作は終了する。
【0109】
ステップST1からステップST2B、ステップ3からステップST11、ステップ3ZからステップST11Z、及びステップ21からステップ23によるWDR画像情報生成方法は、CPU80AがROM80Cに記憶されたプログラムに従って処理を実行することにより行われる。
【0110】
ST7ZからステップST9ZによるWDR画像情報生成における、ROMに記憶されたプログラムは、単位画像情報に対する撮像ユニットによる単位画像情報の撮影開始時点の時刻における光学系のズームレンズ倍率と撮影終了時点の時刻における光学系のズームレンズ倍率の相対比である相対値を算出する相対値算出手順と、単位画像情報における一方の画像情報に対して相対値Rに応じて倍率が補正された一方の補正画像情報を生成する倍率の補正画像生成手順と、単位画像情報における他方の画像情報と一方の補正画像情報を合成してWDR画像情報を生成するWDR画像生成手順と、を備える。
【0111】
以上のように、実施の形態3に係る撮像装置は、実施の形態1に係る撮像装置と同様の効果を有する他、WDR画像生成部81が、光学系のズームレンズ倍率の相対比である相対値Rを算出し、単位画像情報の一方の画像情報を相対値Rに応じて補正し、補正した一方の画像情報と単位画像情報の他方の画像情報からWDR画像を生成するので、ズームレンズ制御動作中のズームレンズ倍率の変動に伴うモーションブラーの影響を抑制でき、WDR画像における画質の劣化を低減できる。
【0112】
なお、画像情報補正部814Zが画像情報を相対値Rに応じてデジタルズーム補正を行海のとしたが、画像情報における画像の切り出し範囲をあらかじめ広く取り、画像の切り出し範囲の拡大縮小により補正画像情報を得てもよい。
また、実施の形態3における、光学系10のズーム制御動作中にワイドダイナミックレンジ撮影を行った場合のWDR画像を生成する機能を、実施の形態2に係る撮像装置におけるWDR画像生成部81に追加してもよい。
【0113】
なお、各実施の形態の自由な組み合わせ、各実施の形態の任意の構成要素の変形、または各実施の形態の任意の構成要素の省略が可能である。
【産業上の利用可能性】
【0114】
本開示に係る撮像装置は、パン(左右)方向を旋回させる旋回部を備えるPZカメラ又はPTZカメラを用いた監視カメラ等の撮像装置に好適である。
【符号の説明】
【0115】
100、100A 撮像装置、10 光学系、20 撮像素子、30 撮像ユニット制御部、40 アナログ信号処理部、50 AD変換部、60 パン方向旋回機構部、70 パン方向旋回機構駆動制御部、60T チルト方向旋回機構部、70T チルト方向旋回機構駆動制御部、80 制御部、81、81Z WDR画像生成部、811 画像情報取得部、812 長時間露光画像情報記憶部、813 短時間露光画像情報記憶部、814 画像情報補正部、815 画像合成部、816 時刻情報取得部、817 時刻情報記憶部、818 速度情報取得部、819 速度情報記憶部、820 移動量演算部、821 ズームレンズ倍率情報取得部、822 ズームレンズ倍率情報記憶部、823 相対値演算部、200 表示装置。