(58)【調査した分野】(Int.Cl.,DB名)
前記補正処理部は、前記第1の領域と前記第2の領域とを合わせた領域が1画面の全領域以上であるとき、前記第1の領域の画像データと前記第2の領域の画像データとを1画面に集約するよう画像データを補正することを特徴とする請求項1または2に記載の画像処理装置。
【発明を実施するための形態】
【0013】
以下、画像処理装置及び方法の各実施形態について、添付図面を参照して説明する。各実施形態においては、画像処理装置をビデオカメラに適用し、ビデオカメラで行われる画像処理方法を例として説明する。
【0014】
<第1実施形態>
図1を用いて、第1実施形態の画像処理装置であるビデオカメラ101の全体構成について説明する。ビデオカメラ101は、撮像部1,フラッシュ検出部2,画像信号処理部3,バッファメモリ4,圧縮伸張処理部5,出力信号処理部6,表示部7,フラッシュ補正部80,制御部9,メモリ10,記録再生部11,操作スイッチ12を備える。記録再生部11は、半導体メモリ,ハードディスク・ドライブ等の任意の記録媒体を有する。記録媒体はビデオカメラ101に対して着脱自在であってもよい。
【0015】
撮像部1は、レンズや絞り等の光学系(図示せず)、CMOSセンサ1s、露出やピントの制御機構(図示せず)等を有する。一例として、撮像部1は3つのCMOSセンサ1sを有し、3つのCMOSセンサ1sから赤,緑,青それぞれの色信号であるR,G,B信号を示す電気信号を出力する。勿論、CMOSセンサ1sは1つであってもよい。撮像部1は、レンズを介してCMOSセンサ1sに入力された光情報を所定のタイミングで電気信号として取り出し、電気信号をフラッシュ検出部2及び画像信号処理部3に供給する。
【0016】
フラッシュ検出部2は、ライン平均輝度算出部21,ライン平均輝度保持部22,全画面平均輝度算出部23,全画面平均輝度保持部24,差分算出部25,フラッシュ判定部26を有する。フラッシュ検出部2は、制御部9による制御に従って以下のようにフラッシュの発光を検出する。
【0017】
ライン平均輝度算出部21は、撮像部1から供給された電気信号におけるラインごとの明るさの平均を算出する。第1実施形態においては、R,G,B信号の内、G信号に基づいてラインごとの明るさの平均を算出する。具体的には、ライン平均輝度算出部21は、G信号の値を1ラインの有効画素分に渡って加算し、有効画素数で除算することによって1ラインの明るさの平均(ライン平均輝度)を算出する。ライン平均輝度を算出する基にする信号はG信号に限定されるものではない。
【0018】
ライン平均輝度算出部21によって算出されたライン平均輝度は、ライン平均輝度保持部22及び全画面平均輝度算出部23に入力される。ライン平均輝度保持部22は、ライン平均輝度算出部21によって算出されたライン平均輝度を一時的に保持する。全画面平均輝度算出部23は、1画面(1フレーム)全体の明るさの平均を算出する。具体的には、全画面平均輝度算出部23は、順次入力されるライン平均輝度を1画面の有効ラインに渡って加算し、有効ライン数で除算することによって1画面全体の明るさの平均(全画面平均輝度)を算出する。全画面平均輝度保持部24は、全画面平均輝度を一時的に保持する。
【0019】
差分算出部25には、ライン平均輝度保持部22で保持されたライン平均輝度と、全画面平均輝度保持部24で保持された全画面平均輝度とが入力される。なお、全画面平均輝度を算出した画面とライン平均輝度を算出した画面とは1画面ずれており、全画面平均輝度を算出した画面は、ライン平均輝度を算出した画面の1画面前の画面である。1画面前の画面の全画面平均輝度を1画面の期間保持しておき、2画面前の画面の全画面平均輝度として用いてもよい。また、1画面前の画面の全画面平均輝度と2画面前の画面の全画面平均輝度との双方を保持し、1画面前の画面がフラッシュの発光の影響を受けている場合に、2画面前の画面の全画面平均輝度を用いるようにしてもよい。
【0020】
第1実施形態では、ライン平均輝度を算出している画面を現在の画面、全画面平均輝度を算出した画面を1画面前の画面とする。即ち、現在の画面が、フラッシュの発光によって高輝度となっているラインを含むか否かの検出対象となっている対象画面である。差分算出部25は、現在の画面におけるそれぞれのライン平均輝度と1画面前の画面における全画面平均輝度との差分を順次算出する。差分算出部25は差分の絶対値をとり、差分値として出力する。
【0021】
差分算出部25によって算出された差分値は、フラッシュ判定部26に入力される。フラッシュ判定部26は、ラインごとの差分値が設定された閾値以上であるか否かを判定するとともに、差分値が閾値以上である状態が予め設定したライン数以上継続するか否かを判定する。フラッシュ判定部26は、差分値が閾値以上である状態が予め設定したライン数以上継続したと判定した場合に、フラッシュの発光によって画像の明るさが不連続となったと検出する。
【0022】
フラッシュ判定部26は、フラッシュが発光したことを示す検出信号と併せて、フラッシュの発光の開始時点である差分値が閾値以上となった最初のライン番号を示すデータと、差分値が閾値未満となった最初のライン番号を示すデータとを出力する。差分値が閾値未満となった最初のラインの1ライン前のラインがフラッシュの発光の最終ラインである。
【0023】
なお、フラッシュ判定部26は、例えば、フラッシュが発光したと判定した場合にはフラッシュが発光したことを示す検出信号として“1”を、フラッシュが発光しなかったと判定した場合にはフラッシュが発光しなかったことを示す検出信号として“0”を生成すればよい。
【0024】
以上の説明より分かるように、フラッシュ検出部2は、ライン平均輝度、全画面平均輝度、差分値を算出し、差分値を判定してフラッシュの発光を検出するだけであるので、フレームメモリのような大容量のメモリリソースを備える必要はない。なお、ここではフラッシュの発光を検出としたが、上記のように、フラッシュと同様の発光期間が短く強い光がCMOSセンサ1sに入射した場合にもフラッシュ検出部2は画像の明るさが不連続となったことを検出する。このような場合も含めてフラッシュの発光の検出とする。
【0025】
フラッシュ検出部2は、現在の画面におけるそれぞれのラインのライン平均輝度と、例えば1画面前の画面である過去の画面の全画面平均輝度とを比較するので、画面の一部のラインがフラッシュの発光によって高輝度となっている場合には、高輝度となっている全てのラインで差分値が閾値以上となる。仮に現在の画面内で隣接するラインのライン平均輝度を比較した場合には、正常なラインと高輝度となったラインの境界のみしか差分値が閾値以上とならない。従って、本実施形態においては、画面内で画像の明るさが不連続となったことを誤検出少なく検出することが可能である。
【0026】
画像信号処理部3は、撮像部1から供給された電気信号を所定の信号方式に変換する。上記のように第1実施形態に
おいては、電気信号はR,G,B信号であるため、ホワイトバランスやゲインを調整し、ガンマ処理等を行った後に、輝度信号Yと色差信号Cb,Crに変換する。フラッシュ検出部2は、輝度信号Yに基づいてライン平均輝度及び全画面平均輝度を算出してもよい。
【0027】
バッファメモリ(保持部)4は、画像信号処理部3より出力された輝度信号Yと色差信号Cb,Crの画像データを一時的に保持する。色差信号Cb,Crを帯域制限して輝度信号Yと時間軸多重すれば、画像処理に必要なメモリや演算リソースを少なくすることができる。
【0028】
フラッシュの発光が検出された場合には、画像信号処理部3からバッファメモリ4へと入力されて保持された画像データが後述するフラッシュ補正部8による画像データの補正処理の際に用いられる。
【0029】
圧縮伸張処理部5は、バッファメモリ4より読み出した画像データをMPEG-2,MPEG-4 AVC/H.264,JPEG等の圧縮方式によって圧縮処理して符号化データを生成するとともに、記録再生部11に記録された符号化データを再生して読み出した場合に符号化データを伸張処理する。
【0030】
出力信号処理部6は、バッファメモリ4より読み出した画像データを外部機器(図示せず)に出力するとともに、後段の表示部7の入力フォーマットに合わせて例えばNTSC信号方式に変換し、表示部7の表示画面の大きさに合わせて画像データのサイズを変更する。これによって、画像データは表示部7に表示可能なデータとなり、表示部7に供給されて表示される。出力信号処理部6には制御部9から出力されたオンスクリーン信号も入力され、出力信号処理部6はオンスクリーン信号を画像データに重畳する。
【0031】
フラッシュ補正部8には、フラッシュ判定部26より出力された検出信号が入力される。フラッシュ補正部8は、補正制御部81と補正処理部82とを有する。
【0032】
フラッシュ補正部8は、制御部9による制御に従って、フラッシュの発光によって明るさが不連続となった画像データを補正する。フラッシュ補正部8は、後述するように、画像を実質的にフラッシュが発光しなかった状態に補正するのではなく、フラッシュが発光している状態の画像を保ちつつ、画像の明るさが不連続となった画像データを補正する。フラッシュ補正部8は、フラッシュの発光によって部分的に高輝度となっている画像データが記録再生部11に記録されている場合に、画像データの再生時に画像データを補正する。
【0033】
フラッシュ補正部8は、補正した画像データをバッファメモリ4へと供給する。
【0034】
制御部9は、CPUを有するマイクロコンピュータによって構成することができる。制御部9はビデオカメラ101の全体を制御する制御プログラムを記憶した記憶部を有し、制御プログラムに基づいてビデオカメラ101の全体を制御する。第1実施形態による画像処理を画像処理プログラムによって実現する場合には、制御プログラムの一部として第1実施形態の画像処理を実行させる画像処理プログラムを含むようにすればよい。この場合、制御部9は画像処理プログラムを実行させてフラッシュの発光を検出し、フラッシュが発光した場合に画像データを補正する。
【0035】
制御部9には、制御部9の作業用メモリとしてのメモリ10が接続されている。また、制御部9には、記録再生部11と操作スイッチ12とが接続されている。制御部9は操作スイッチ12によって撮像した動画像を記録する指示がなされたら、圧縮伸張処理部5より出力された符号化データを記録再生部11に記録するよう制御する。
【0036】
また、制御部9は操作スイッチ12によって撮像した動画像を記録する指示がなされたら、記録再生部11に符号化データを再生させて読み出し、圧縮伸張処理部5へと供給するよう制御する。制御部9は、操作スイッチ12による操作に従ってオンスクリーン信号を発生して、出力信号処理部6へと供給する。
【0037】
図1では、フラッシュ検出部2をハードウェアにて構成した例を示しているが、ソフトウェアによって構成してもよい。即ち、第1実施形態の画像処理プログラムの一部であるフラッシュ検出プログラムを実行させることによって、フラッシュ検出部2と同等の構成を実現してもよい。また、フラッシュ補正部8もソフトウェアによって構成してもよい。即ち、第1実施形態の画像処理プログラムの一部であるフラッシュ補正プログラムを実行させることによって、フラッシュ補正部8と同等の構成を実現してもよい。
【0038】
ここで、
図2を用いて、動画像の撮影時に撮影者以外の他者のフラッシュが発光した場合に発生する画像の明るさが不連続となる現象について説明する。ローリングシャッタ方式を採用するCMOSセンサ1sはラインLn単位で撮像した画素データを読み出していくので、撮像部1による被写体の撮像ST1,ST2,ST3,ST4…は、
図2の(b)に示すように、画面の最初のラインLnから最後のラインLnまでタイミングが時間方向に順次ずれていく。1つのラインLnの撮像は、
図2の(a)に示すように、露光時間と画素データの読み出し時間とを含む。
【0039】
撮像部1による撮像ST1,ST2,ST3,ST4…によって、撮像部1からは
図2の(c)に示すように、有効データD1,D2,D3,D4…が出力される。時刻t1にて他者のフラッシュによる発光FLがあり、CMOSセンサ1sに入射したとする。この場合、撮像ST2の一点鎖線で示す位置から最後のラインLnまでの各ラインLnと、撮像ST3の最初のラインLnから一点鎖線で示す位置までの各ラインLnは発光FLによる影響を受けることになる。
【0040】
第1実施形態による画像データの補正を行わないとすると、記録再生部11に記録されて再生され、表示部7に表示される画像Im1,Im2,Im3,Im4…は
図2の(d)に示すようになる。画像Im1,Im4は発光FLによる影響を受けておらず、画面の明るさが連続して正常な画像である。画像Im2は、一点鎖線以降の下端部で白帯状に明るくなっており、画像の明るさが不連続となった正常でない画像である。ハッチングを付した部分が高輝度の部分を示す。画像Im3は、上端から一点鎖線までの上端部で同様に白帯状に明るくなっており、画像の明るさが不連続となった正常でない画像である。
【0041】
発光FLによる影響を受ける範囲は露光時間の長さによって決まる。露光時間はシャッタスピードによって決まる。NTSC信号方式の場合には、シャッタスピードが1/60秒であれば、
図2の(d)に示す画像Im2,Im3のハッチングを付した高輝度の部分は、ほぼ1画面の期間となる。PAL信号方式の場合には、シャッタスピードが1/50秒であれば、
図2の(d)に示す画像Im2,Im3の高輝度の部分は、ほぼ1画面の期間となる。
【0042】
なお、撮影者が所有するビデオカメラ101のフラッシュを発光させる場合には、フラッシュの発光のタイミングを
図2の(b)に示す撮像のタイミングと合わせるので、
図2の(d)に示すような画像の明るさが不連続となる現象は発生しない。
【0043】
図3〜
図8を用いて、第1実施形態によるビデオカメラ101の動作についてさらに詳細に説明する。
図3は、ビデオカメラ101による撮影及び記録処理の全体的な流れを示している。
図3において、制御部9は、ステップS1にて、操作スイッチ12による撮影開始の指示があったか否かを判定する。撮影開始の指示があったと判定されれば(YES)、制御部9は、ステップS2にて、絞り及びシャッタースピード等の条件に合わせて撮像部1を制御して撮影を開始させる。なお、操作スイッチ12によるビデオカメラ101の電源投入の指示を撮影開始の指示としてもよい。撮影開始の指示があったと判定されなければ(NO)、制御部9は処理をステップS1に戻してステップS1を繰り返す。
【0044】
制御部9は、ステップS30にて、フラッシュ検出部2によるフラッシュ検出処理を実行させる。また、制御部9は、ステップS30と並行して、ステップS4にて、画像信号処理部3による画像信号処理を実行させる。ステップS30のフラッシュ検出処理の詳細については後述する。制御部9は、ステップS5にて、出力信号処理部6を制御して表示部7に撮影した画像を表示させる。
【0045】
制御部9は、ステップS6にて、操作スイッチ12による記録開始の指示があったか否かを判定する。記録開始の指示があったと判定されれば(YES)、制御部9は、ステップS7にて、圧縮伸張処理部5より出力された符号化データを記録再生部11に記録させる。記録開始の指示があったと判定されなければ(NO)、制御部9は、処理をステップS11に移行させる。
【0046】
制御部9は、ステップS8にて、記録終了の指示があったか否かを判定する。記録終了の指示があったと判定されれば(YES)、制御部9は、ステップS9にて、記録再生部11への記録を停止させる。記録終了の指示があったと判定されなければ(NO)、制御部9は処理をステップS7に戻してステップS7を繰り返す。
【0047】
制御部9は、ステップS9に続き、ステップS11にて、操作スイッチ12によって、記録再生部11に記録された所定の画像データの再生を開始する指示があったか否かを判定する。再生開始の指示があったと判定されれば(YES)、制御部9は、ステップS121にて、記録再生部11に記録された画像データ(符号化データ)を再生させる。この際、制御部9は、記録再生部11より読み出した画像データをフレームメモリ(図示せず)によって1フレーム遅延させた状態で再生させる。
【0048】
記録再生部11から読み出された符号化データは、圧縮伸張処理部5によって伸張処理され、バッファメモリ4に入力されて保持される。再生開始の指示があったと判定されなければ(NO)、制御部9は、処理をステップS10に移行させる。
【0049】
制御部9は、ステップS131にて、フラッシュ検出領域があるか否かを判定する。フラッシュ検出領域とは、再生する画像データ内でフラッシュの発光によって高輝度となっていることが検出された領域である。画像データにおけるどの部分がフラッシュ検出領域であるかは、後述するように、符号化データに付加したメタデータ(付加情報)を参照することによって判別することができる。
【0050】
フラッシュ検出領域があると判定されれば(YES)、制御部9は、ステップS141a(またはS141b)にて、フラッシュ補正部8によるフラッシュ補正処理を実行させる。ステップS141a(S141b)におけるフラッシュ補正処理は、前述のように、フラッシュが発光している状態の画像を保ちつつ、画像の明るさが不連続となった画像データを補正する補正処理である。
【0051】
制御部9は、ステップS15にて、ステップS141a(S141b)にて補正された画像データを表示部7に表示させる。
【0052】
この場合、バッファメモリ4に保持された伸張処理後の画像データがフラッシュ補正部8へと入力され、ステップS141a(S141b)によるフラッシュ補正処理が実行される。補正された画像データはバッファメモリ4に入力されて保持され、出力
信号処理部6を介して表示部7へと供給される。
【0053】
ステップS131にてフラッシュ検出領域があると判定されなければ(NO)、制御部9は、処理をステップS15に移行させる。制御部9は、ステップS15にて、ステップS12にて再生された画像データをそのまま表示部7に表示させる。この場合、バッファメモリ4に保持された伸張処理後の画像データは、バッファメモリ4から出力
信号処理部6へとそのまま出力され、表示部7へと供給される。
【0054】
制御部9は、ステップS16にて、再生停止の指示があったか否かを判定する。再生停止の指示があったと判定されれば(YES)、制御部9は、ステップS17にて、画像データの再生を停止させて、処理をステップS10に移行させる。再生停止の指示があったと判定されなければ(NO)、制御部9は処理をステップS12に戻してステップS12以降を繰り返す。
【0055】
制御部9は、ステップS10にて、操作スイッチ12による撮影終了の指示があったか否かを判定する。撮影終了の指示があったと判定されれば(YES)、制御部9は処理を終了させる。撮影終了の指示があったと判定されなければ(NO)、制御部9は、処理をステップS2に戻してステップS2以降を繰り返す。操作スイッチ12によるビデオカメラ101の電源切断の指示を撮影終了の指示としてもよい。
【0056】
図4を用いて、
図3に示すステップS30のフラッシュ検出処理の詳細について説明する。第1実施形態におけるステップS30をステップS30
1とする。以下の各ステップは、制御部9による制御に基づいてフラッシュ検出部2によって実行される。
【0057】
図4において、フラッシュ検出部2は、ステップS3101にて、有効ラインにおける有効画素の画素値を加算する処理を有効ラインごとに順次実行する。フラッシュ検出部2は、ステップS3102にて、ステップS3101にて得た画素値の加算値を有効画素数で除算してライン平均輝度を算出し、ライン平均輝度を保持する。
【0058】
フラッシュ検出部2は、ステップS3103にて、ライン平均輝度を順次加算する処理を実行する。フラッシュ検出部2は、ステップS3104にて、ステップS3102で算出したライン平均輝度と1画面前の全画面平均輝度との差分演算処理を実行する。ステップS3104における差分演算処理は、ステップS3102でライン平均輝度を算出するたびに実行される。
【0059】
フラッシュ検出部2は、ステップS3105にて、フラッシュの発光を検出していない通常状態であるか否かを判定する。通常状態であると判定されれば(YES)、フラッシュ検出部2は、ステップS3106にて、差分値が閾値以上のラインを検出したか否かを判定する。差分値が閾値以上のラインを検出したと判定されれば(YES)、フラッシュ検出部2は、処理をステップS3107に移行させる。この際、フラッシュ検出部2は、検出したラインがフレームの最初のラインから何ライン目かを示す検出ライン情報を記憶しておく。
【0060】
一方、差分値が閾値以上のラインを検出したと判定されなければ(NO)、フラッシュ検出部2は、既に検出ライン情報を記憶している場合は、それを消去するとともに、処理をステップS3111に移行させる。
【0061】
フラッシュ検出部2は、ステップS3107にて、差分値が閾値以上である状態が所定ライン数以上継続したか否かを判定する。所定ライン数以上継続したと判定されれば(YES)、フラッシュ検出部2は、処理をステップS3108に移行させ、所定ライン数以上継続したと判定されなければ(NO)、フラッシュ検出部2は、処理をステップS3111に移行させる。
【0062】
ステップS3105にて通常状態であると判定され、ステップS3106にて差分値が閾値以上のラインが検出され、ステップS3107にて差分値が閾値以上である状態が所定ライン数以上継続したと判定された場合は、フラッシュの発光の影響を受けていない状態からフラッシュの発光の影響を受けて高輝度の状態へと変化したことを検出したということである。
【0063】
そこで、フラッシュ検出部2は、ステップS3108にて、フラッシュの発光を検出していない状態からフラッシュの発光を検出した状態へとフラッシュ検出状態を変更する。第1実施形態においては、フラッシュ検出部2は、フラッシュ発光の開始ラインを示す検出ライン情報を制御部9に供給し、記憶した検出ライン情報を消去する。
【0064】
一方、ステップS3105にて通常状態であると判定されなければ(NO)、フラッシュ検出部2は、ステップS3109にて、差分値が閾値未満のラインを検出したか否かを判定する。差分値が閾値未満のラインを検出したと判定されれば(YES)、フラッシュ検出部2は、処理をステップS3110に移行させる。この際、フラッシュ検出部2は、検出したラインがフレームの最初のラインから何ライン目かを示す検出ライン情報を記憶しておく。
【0065】
フラッシュ検出部2は、ステップS3110にて、差分値が閾値未満である状態が所定ライン数以上継続したか否かを判定する。所定ライン数以上継続したと判定されれば(YES)、フラッシュ検出部2は、処理をステップS3108に移行させ、所定ライン数以上継続したと判定されなければ(NO)、フラッシュ検出部2は、処理をステップS3111に移行させる。
【0066】
ステップS3105にて通常状態ではないと判定され、ステップS3109にて差分値が閾値未満のラインが検出され、ステップS3110にて差分値が閾値未満である状態が所定ライン数以上継続したと判定された場合は、フラッシュの発光の影響を受けて高輝度の状態からフラッシュの発光の影響を受けていない状態へと変化したことを検出したということである。
【0067】
そこで、フラッシュ検出部2は、ステップS3108にて、フラッシュの発光を検出している状態からフラッシュの発光を検出していない状態へとフラッシュ検出状態を変更する。第1実施形態においては、フラッシュ検出部2は、フラッシュ発光の終了ラインを示す検出ライン情報を制御部9に供給し、記憶した検出ライン情報を消去する。
【0068】
フラッシュ検出部2は、ステップS3111にて、全有効ラインに対する判定が終了したか否かを判定する。全有効ラインに対する判定が終了したと判定されなければ(NO)、フラッシュ検出部2は、処理をステップS3101に戻し、ステップS3101以降の処理を繰り返す。全有効ラインに対する判定が終了したと判定されれば(YES)、フラッシュ検出部2は、ステップS3112にて、ライン平均輝度の加算値を有効ライン数で除算して全画面平均輝度を算出し、全画面平均輝度を保持する。
【0069】
制御部9は、
図3のステップS7にて、圧縮伸張処理部5より出力された符号化データを記録再生部11に記録させる際に、フラッシュ検出部2で検出したフラッシュ発光の開始ライン及び終了ラインを示す検出ライン情報を符号化データに付加するメタデータとして記録させる。
【0070】
図5及び
図6を用いて、
図3に示すステップS141aのフラッシュ補正処理の詳細について説明する。
図6は、第1実施形態におけるフラッシュ補正処理の第1例であるステップS141aによる補正動作を示している。
図6において、ハッチングを付した部分がフラッシュの発光によって高輝度となっている部分である。
図8,
図11でも同様である。
【0071】
以下の各ステップは、制御部9による制御に基づいてフラッシュ補正部8によって実行される。制御部9は、符号化データに付加されているメタデータに基づいてフラッシュ補正部8によるフラッシュ補正処理を実行させる。
【0072】
図6において、(a)は記録再生部11より読み出された画像データの補正前の画像Im1,Im2,Im3,Im4…を示している。
図3のステップS121にて、1画面遅延されて再生されるので、
図6の(b)に示すように、画像Im1のタイミングで画像Im1の1画面前の画像である画像Im0が再生され、画像Im2のタイミングで画像Im1が再生される。
【0073】
画像Im2においては、
図4で説明したステップS30
1のフラッシュ検出処理において、フラッシュ発光の開始ラインであるフラッシュ開始ラインLnfsが検出されている。フラッシュの発光による高輝度の部分は、画像Im2のフラッシュ開始ラインLnfsより下端部まで、画像Im3の上端部からフラッシュ終了ラインLnfeまでとなっている。
【0074】
本実施形態では、画像データの信号方式をNTSC信号方式として、シャッタスピードを1/60秒としている。従って、画像Im2のフラッシュ開始ラインLnfsより下端部までと、画像Im3の上端部からフラッシュ終了ラインLnfeまでとを合わせたフラッシュの発光による高輝度の部分は、ほぼ1画面の期間となる。
【0075】
画像Im2におけるフラッシュ開始ラインLnfsより上方の部分を領域Ar21、フラッシュ開始ラインLnfs以降の部分を領域Ar22とし、画像Im3におけるフラッシュ終了ラインLnfeを含めて上方の部分を領域Ar31、フラッシュ終了ラインLnfeの次のライン以降の部分を領域Ar32とする。
【0076】
図5に示すように、ステップS141aは、ステップS1411〜S1413を含む。フラッシュ補正部8は、制御部9による制御に基づいて、ステップS1411にて、フラッシュの発光開始を検出した画面の高輝度部分と、次の画面の高輝度部分とを合成した合成画面の画像データを生成する。
図6の例では、フラッシュ補正部8は、領域Ar22の画像データと領域Ar31の画像データとを合成した合成画面の画像データを生成する。
【0077】
フラッシュ補正部8は、ステップS1412にて、
図6の(a)における画像Im3のタイミングでは画像Im2を再生するのではなく、画像Im2に代えて、ステップS1411にて生成した領域Ar22の画像データと領域Ar31の画像データとを合成した合成画面の画像Im3’である画像データを再生出力する。
【0078】
次の
図6の(a)における画像Im4のタイミングでは、フラッシュ補正部8は、ステップS1413にて、1画面前の画像Im3を再生するのではなく、画像Im3に代えて、現在の画面である画像Im4を遅延させずそのまま再生出力する。以上のステップS1411〜S1413よりなるステップS141aの後、ステップS15,S16を経て、ステップS121に戻るので、
図6の(a)の画像Im5のタイミングからは1画面前の画像である画像Im4以降が再生されることになる。
【0079】
図6に示すフラッシュ補正処理の第1例では、フラッシュの発光による高輝度の部分が画像Im3’の1画面に集約され、画像の明るさが不連続となった画面がないので、違和感が軽減される。しかも、第1例では、画像Im3’によってフラッシュが発光している状態の画像が保たれているので、フラッシュが発光している状況で撮影したという臨場感を損ねることがない。
【0080】
シャッタスピードを1/60秒とした場合には、バッファメモリ4に保持されている画像Im2における領域Ar22の画像データと、画像Im2に隣接する画像Im3における領域Ar31の画像データとを合わせると、ほぼ1画面の期間となることが予め分かっている。そこで、制御部9は、フラッシュ検出部2によってフラッシュの発光が検出された場合に、画像Im2,Im3に分割された高輝度となっている領域を1画面に集約するよう画像データを補正すればよい。
【0081】
フラッシュの発光時間が長い場合には、領域Ar22の画像データと画像Im3における領域Ar31の画像データとを合わせると、1画面の全領域(全垂直有効期間)よりも長くなる。この場合にも、若干の余りが発生するものの、高輝度となっている領域を1画面に集約してよい。
【0082】
高輝度となっている領域が2つの画面に分割されているとき、時間的に前側の画面を部分的に高輝度となっている第1の領域を含む第1の画面とし、後側の画面を部分的に高輝度となっている第2の領域を含む第2の画面とする。第1の領域と第2の領域とを合わせた領域が1画面の全領域以上であるとき、第1の領域の画像データと第2の領域の画像データとを1画面に集約するよう画像データを補正することが好ましい。
【0083】
シャッタスピードが1/60秒より短い場合には、領域Ar22の画像データと画像Im3における領域Ar31の画像データとを合わせても、1画面の全期間(全垂直有効期間)には足らない。この場合には、高輝度となっている領域を集約する補正をしないようにしてもよい。
【0084】
シャッタスピードが予め定めた所定の範囲内にあるときのみ、フラッシュ補正部8によって高輝度となっている領域を1画面に集約するよう画像データを補正してもよい。シャッタスピードが予め定めた所定の範囲内とは、フレーム周波数が60Hzであれば1/60秒、フレーム周波数が50であれば1/50秒のように特定の1つのシャッタスピードのみである場合を含む。
【0085】
図7及び
図8を用いて、
図3に示すステップS141bのフラッシュ補正処理の詳細について説明する。
図8は、第1実施形態におけるフラッシュ補正処理の第2例であるステップS141bによる補正動作を示している。
【0086】
図7に示すように、ステップS141bは、ステップS1411,S1412,S1414,S1415を含む。ステップS141bのステップS1411,S1412は、ステップS141aのステップS1411,S1412と同じである。従って、
図6と同様に、フラッシュ補正部8は、ステップS1412にて、
図8の(a)における画像Im3のタイミングでは画像Im2を再生するのではなく、ステップS1411にて生成した領域Ar22と領域Ar31とを合成した合成画面の画像Im3’である画像データを再生出力する。
【0087】
画像Im4において、画像Im3のフラッシュ終了ラインLnfeと同じラインLnfe4を含めて上方の部分を領域Ar41、ラインLnfe4の次のライン以降の部分を領域Ar42とする。
【0088】
図7に示すように、フラッシュ補正部8は、制御部9による制御に基づいて、ステップS1414にて、フラッシュの発光終了後の現在の画面の正常な部分と、前の画面の正常な部分とを合成した合成画面の画像データを生成する。
図8の例では、フラッシュ補正部8は、領域Ar41と領域Ar32とを合成した合成画面の画像Im4’である画像データを生成する。
【0089】
フラッシュ補正部8は、ステップS1415にて、
図8の(a)における画像Im4のタイミングでは画像Im3を再生するのではなく、画像Im3に代えて、ステップS1414にて生成した合成画面の画像Im4’である画像データを再生出力する。
【0090】
以上のステップS1411,S1412,S1414,S1415よりなるステップS141bの後、ステップS15,S16を経て、ステップS121に戻るので、
図8の(a)の画像Im5のタイミングからは1画面前の画像である画像Im4以降が再生されることになる。
【0091】
図8に示すフラッシュ補正処理の第2例でも、フラッシュが発光している状況で撮影したという臨場感を損ねることがなく、フラッシュの発光による画像の違和感を軽減することができる。第1例では、同じ画像Im4が2画面連続するので、画像の動きによっては若干の違和感が発生する場合がある。一方、第2例では、画像Im4の代わりに画像Im4’が再生されて同じ画像が2画面連続することはないので、第1例よりも画像の動きによる違和感が発生しにくい。
【0092】
<第2実施形態>
第2実施形態の画像処理装置の構成は、
図1に示す第1実施形態のビデオカメラ101と同様である。
図9を用いて、第2実施形態における動作について説明する。
図9において、
図3と同一のステップには同一の符号を付し、その説明を適宜省略する。
【0093】
図9において、制御部9は、ステップS11にて再生開始の指示があったと判定されれば(YES)、ステップS122にて、記録再生部11に記録された画像データを再生させる。この際、制御部9は、記録再生部11より読み出した画像データを1フレーム遅延させることなく再生させる。
【0094】
制御部9は、ステップS132にて、フラッシュ検出領域があるか否かを判定する。フラッシュ検出領域があると判定されれば(YES)、制御部9は、ステップS142にて、フラッシュ補正部8によるフラッシュ補正処理を実行させる。ステップS142におけるフラッシュ補正処理は、第1実施形態と同様、フラッシュが発光している状態の画像を保ちつつ、画像の明るさが不連続となった画像データを補正する補正処理である。制御部9は、ステップS15にて、ステップS142にて補正された画像データを表示部7に表示させる。
【0095】
図10及び
図11を用いて、
図9に示すステップS142のフラッシュ補正処理の詳細について説明する。
図11において、(a)は記録再生部11より読み出された画像データの補正前の画像Im1,Im2,Im3,Im4…を示している。第2実施形態においては、ステップS122にて画像データをフレーム遅延させることなく再生させるので、
図6の(b)に示すように、読み出された画像Im1,Im2,Im3,Im4…の画像データは1フレーム遅延なく再生される。但し、厳密には、画像データは、バッファメモリ4及び圧縮伸張処理部5等での処理に要する時間である複数ライン分の遅延をもって再生される。
【0096】
図11の(a)に示す画像Im1において、画像Im2のフラッシュ開始ラインLnfsと同じラインLnfs1より上方の部分を領域Ar11、ラインLnfs1以降の部分を領域Ar12とする。
【0097】
図10に示すように、ステップS142は、ステップS1421,S1422を含む。フラッシュ補正部8は、ステップS1421にて、フラッシュ発光の開始ライン以降を前の画面の画像データに置換する。
図11の例では、フラッシュ補正部8は、画像Im2の高輝度部分である領域Ar22のラインを画像Im1の領域Ar12のラインに置換することによって、領域Ar21と画像Im1の領域Ar12とを1画面に集約した合成画面の画像Im2’である画像データを生成する。
【0098】
そして、フラッシュ補正部8は、ステップS1422にて、フラッシュ発光の終了ライン以降を前の画面の画像データに置換する。
図11の例では、フラッシュ補正部8は、Im3の領域Ar32のラインを画像Im2の領域Ar22のラインに置換することによって、領域Ar31と領域Ar22とを1画面に集約した合成画面の画像Im3’である画像データを生成する。
図10の(a)の画像Im4のタイミングからは画像Im4以降がフレーム遅延なく再生される。
【0099】
第2実施形態においても、フラッシュが発光している状況で撮影したという臨場感を損ねることがなく、フラッシュの発光による画像の違和感を軽減することができる。
【0100】
<第3実施形態>
図12に示す第3実施形態において、
図1と同一部分には同一符号を付し、その説明を適宜省略することとする。第3実施形態の画像処理装置であるビデオカメラ103は、フラッシュ検出部2の代わりにフラッシュ検出部20を備える。
【0101】
第3実施形態は、フラッシュ検出部2の代わりにフラッシュ検出部20を備えることによって、第1及び第2実施形態よりもフラッシュが発光したか否かの検出精度を向上させるように構成したものである。フラッシュ補正部8によるフラッシュ補正処理は、
図6で説明した第1実施形態における第1例、
図8で説明した第1実施形態における第2例、
図11で説明した第2実施形態のいずれかである。よって、フラッシュ検出部20の構成及び動作を中心に説明することとする。
【0102】
フラッシュ検出部20は、ブロック平均輝度算出部201,ブロック平均輝度保持部202,ライン平均輝度算出部203,ライン平均輝度保持部204,全画面平均輝度算出部205,全画面平均輝度保持部206,差分算出部207,フラッシュ判定部208を有する。
【0103】
フラッシュ検出部20は、制御部9による制御に従って以下のようにフラッシュの発光を検出する。ブロック平均輝度算出部201は、撮像部1から供給された電気信号における1ラインの有効画素を複数のブロックに分割しブロックごとの明るさの平均を算出する。ブロックの数は2のべき乗であることが好ましい。具体的には、ブロック平均輝度算出部201は、G信号の値を各ブロックの有効画素分に渡って加算し、有効画素数で除算することによって1ブロックの明るさの平均(ブロック平均輝度)を算出する。
【0104】
ブロック平均輝度算出部201によって算出されたブロック平均輝度は、ブロック平均輝度保持部202及びライン平均輝度算出部203に入力される。ライン平均輝度算出部203は、1ラインにおけるブロック平均輝度を加算し、1ラインのブロック数で除算することによって1ラインの明るさの平均(ライン平均輝度)を算出する。ライン平均輝度算出部203によって算出されたライン平均輝度は、ライン平均輝度保持部204及び全画面平均輝度算出部205に入力される。ライン平均輝度保持部204は、ライン平均輝度算出部203によって算出されたライン平均輝度を一時的に保持する。
【0105】
全画面平均輝度算出部205は、順次入力されるライン平均輝度を1画面の有効ラインに渡って加算し、有効ライン数で除算することによって1画面全体の明るさの平均(全画面平均輝度)を算出する。全画面平均輝度保持部206は、全画面平均輝度を一時的に保持する。
【0106】
差分算出部207には、ブロック平均輝度保持部202で保持されたブロック平均輝度と、ライン平均輝度保持部204で保持されたライン平均輝度と、全画面平均輝度保持部206で保持された全画面平均輝度とが入力される。差分算出部207は、ブロック平均輝度と全画面平均輝度との差分と、ライン平均輝度と全画面平均輝度との差分とをそれぞれ順次算出する。差分算出部207は差分の絶対値をとり、差分値として出力する。
【0107】
差分算出部207によって算出されたそれぞれの差分値は、フラッシュ判定部208に入力される。フラッシュ判定部208は、ライン平均輝度と全画面平均輝度との差分値が設定された閾値(閾値1)以上であるか否かを判定する。フラッシュ判定部208は、ライン平均輝度と全画面平均輝度との差分値が閾値以上の場合には、それぞれのブロック平均輝度と全画面平均輝度との差分値が設定された閾値(閾値2)以上であるか否かを判定する。閾値1と閾値2とは異なる値であってよい。閾値1と閾値2とは異なる値とする場合には、閾値1よりも閾値2の値を大きくすることが好ましい。
【0108】
フラッシュ判定部208は、ラインごとの差分値が閾値1以上であり、ブロックごとの差分値が閾値2以上である状態が予め設定したライン数以上継続するか否かを判定する。フラッシュ判定部208は、それぞれの差分値が閾値1,2以上である状態が予め設定したライン数以上継続したと判定した場合に、フラッシュの発光によって画像の明るさが不連続となったと検出する。
【0109】
フラッシュ判定部208は、フラッシュが発光したと判定した場合には、フラッシュの発光の開始時点である、ライン平均輝度と全画面平均輝度との差分値が閾値1以上であり、かつそれぞれのブロック平均輝度と全画面平均輝度との差分値が閾値2以上となった最初のライン番号を示すデータと、ライン平均輝度と全画面平均輝度との差分値が閾値1以上と、それぞれのブロック平均輝度と全画面平均輝度との差分値が閾値2以上との少なくとも一方の条件を満たさなくなった最初のライン番号を示すデータとを出力する。フラッシュ判定部208は、フラッシュが発光したことを示す検出信号も出力する。
【0110】
第3実施形態においては、
図3または
図9に示すステップS30のフラッシュ検出処理を
図13に示すステップS30
3とする。
図13を用いて、ステップS30
3のフラッシュ検出処理の詳細について説明する。以下の各ステップは、制御部9による制御に基づいてフラッシュ検出部20によって実行される。
【0111】
図13において、フラッシュ検出部20は、ステップS3301にて、有効ラインにおける各ブロックの有効画素の画素値を加算する処理を有効ラインごとに順次実行する。フラッシュ検出部20は、ステップS3302にて、ステップS3301にて得た各ブロックの画素値の加算値をブロック内の有効画素数で除算してブロック平均輝度を算出し、ブロック平均輝度を保持する。
【0112】
フラッシュ検出部20は、ステップS3303にて、ステップS3302で算出したブロック平均輝度と1画面前の全画面平均輝度との差分演算の処理を実行する。ステップS3303における差分演算処理は、ステップS3302でブロック平均輝度を算出するたびに実行される。フラッシュ検出部20は、ステップS3304にて、1ライン内のブロック平均輝度を加算し、ステップS3305にて、ブロック平均輝度の加算値をブロック数で除算してライン平均輝度を算出し、ライン平均輝度を保持する。
【0113】
フラッシュ検出部20は、ステップS3306にて、ライン平均輝度を順次加算する処理を実行する。フラッシュ検出部20は、ステップS3307にて、ステップS3305で算出したライン平均輝度と1画面前の全画面平均輝度との差分演算の処理を実行する。ステップS3307における差分演算処理は、ステップS3305でライン平均輝度を算出するたびに実行される。
【0114】
フラッシュ検出部20は、ステップS3308にて、フラッシュの発光を検出していない通常状態であるか否かを判定する。通常状態であると判定されれば(YES)、フラッシュ検出部20は、ステップS3309にて、ライン平均輝度と全画面平均輝度との差分値が閾値(閾値1)以上のラインを検出したか否かを判定する。
【0115】
ライン平均輝度と全画面平均輝度との差分値が閾値以上のラインを検出したと判定されれば(YES)、フラッシュ検出部20は、処理をステップS3310に移行させ、ライン平均輝度と全画面平均輝度との差分値が閾値以上のラインを検出したと判定されなければ(NO)、フラッシュ検出部20は、処理をステップS3315に移行させる。ライン平均輝度と全画面平均輝度との差分値が閾値以上のラインを検出しなければ、フラッシュは発光していないということである。
【0116】
フラッシュ検出部20は、ライン平均輝度と全画面平均輝度との差分値が閾値以上のラインを検出した場合、さらに、ステップS3310にて、そのライン内のそれぞれのブロック平均輝度と全画面平均輝度との差分値が閾値(閾値2)以上であるか否かを判定する。フラッシュ検出部20は、それぞれのブロック平均輝度と全画面平均輝度との差分値が閾値以上であると判定されれば(YES)、フラッシュ検出部20は、処理をステップS3311に移行させる。なお、この際、フラッシュ検出部2は、検出したラインがフレームの最初のラインから何ライン目かを示す検出ライン情報を記憶しておく。
【0117】
一方、それぞれのブロック平均輝度と全画面平均輝度との差分値が閾値以上であると判定されなければ(NO)、フラッシュ検出部20は、既に検出ライン情報を記憶している場合は、それを消去するとともに、処理をステップS3315に移行させる。
【0118】
フラッシュ検出部20は、ステップS3311にて、ライン平均輝度と全画面平均輝度との差分値が閾値以上であり、それぞれのブロック平均輝度と全画面平均輝度との差分値が閾値以上であるという2つの条件を満たすラインが所定ライン数以上継続したか否かを判定する。所定ライン数以上継続したと判定されれば(YES)、フラッシュ検出部20は処理をステップS3314に移行させ、所定ライン数以上継続したと判定されなければ(NO)、フラッシュ検出部20は処理をステップS3315に移行させる。
【0119】
フラッシュ検出部20は、ステップS3314にて、フラッシュの発光を検出していない状態からフラッシュの発光を検出した状態へとフラッシュ検出状態を変更する。また、フラッシュ検出部20は、記憶している検出ライン情報をフラッシュ補正部80に供給し、検出ライン情報を消去する。
【0120】
一方、ステップS3308にて通常状態であると判定されなければ(NO)、フラッシュ検出部20は、ステップS3312にて、ライン平均輝度と全画面平均輝度との差分値が閾値未満であるか、または、それぞれのブロック平均輝度と全画面平均輝度との差分値が閾値未満であるラインを検出したか否かを判定する。少なくとも一方を満たさないラインが現れたと判定されれば(YES)、フラッシュ検出部20は処理をステップS3313に移行させる。この際、フラッシュ検出部20は、検出したラインがフレームの最初のラインから何ライン目かを示す検出ライン情報を記憶しておく。
【0121】
少なくとも一方を満たさないラインが現れたと判定されなければ(NO)、フラッシュ検出部20は、処理をステップS3315に移行させる。
【0122】
フラッシュ検出部20は、ステップS3313にて、上記の2つの条件の少なくとも一方を満たさない状態が所定ライン数以上継続したか否かを判定する。所定ライン数以上継続したと判定されれば(YES)、フラッシュ検出部20は処理をステップS3314に移行させ、所定ライン数以上継続したと判定されなければ(NO)、フラッシュ検出部20は処理をステップS3315に移行させる。
【0123】
フラッシュ検出部20は、ステップS3314にて、フラッシュの発光を検出した状態からフラッシュの発光を検出していない状態へとフラッシュ検出状態を変更する。また、フラッシュ検出部20は、記憶している検出ライン情報をフラッシュ補正部80に供給し、検出ライン情報を消去する。
【0124】
フラッシュ検出部20は、ステップS3315にて、全有効ラインに対する判定が終了したか否かを判定する。全有効ラインに対する判定が終了したと判定されれば(YES)、フラッシュ検出部20は、処理をステップS3316に移行させ、全有効ラインが終了したと判定されなければ(NO)、フラッシュ検出部20は、処理をステップS3301に戻してステップS3301以降を繰り返す。フラッシュ検出部20は、ステップS3316にて、ライン平均輝度の加算値を有効ライン数で除算して全画面平均輝度を算出し、全画面平均輝度を保持する。
【0125】
第3実施形態によれば、第1及び第2実施形態よりもフラッシュが発光したか否かの検出精度を向上させることができる。
図14を用いて、検出精度を向上させることができる理由について説明する。
【0126】
図14は、画面内に部分的に矩形状の高輝度領域Arhが含まれる画像Imiの例を示している。ハッチングを付した高輝度領域Arhは例えば白レベルであるとする。高輝度領域Arhは矩形状でなくてもよい。有効ラインLneにおいては、ライン平均輝度は比較的高い値となる。有効ラインLne以外のラインでも高輝度領域Arhが存在している垂直方向の範囲では同様である。従って、第1実施形態においては、高輝度領域Arhが存在している垂直方向の範囲でフラッシュが発光したと誤判定する可能性がある。
【0127】
図14では、1ラインを4つのブロックB1〜B4に分割した例を示している。ブロック平均
輝度算出部201で算出されるブロック平均輝度は、ブロックB1ではさほど高い値とはならない。ブロック平均輝度はブロックB2,B3では高い値となり、ブロックB4ではブロックB2,B3よりも小さな値となる。有効ラインLneにおいて、
図13のステップS3309にて、ライン平均輝度と全画面平均輝度との差分値が閾値以上であると判定されたとしても、ステップS3310にて、少なくともブロックB1で、ブロック平均輝度と全画面平均輝度との差分値が閾値以上であると判定されない。
【0128】
従って、第3実施形態によれば、
図14の例のように部分的な高輝度領域Arhを含む画像Imiであっても、フラッシュが発光したと誤判定する可能性を大幅に低減させることができる。
【0129】
第3実施形態によれば、フラッシュ補正部8を有することによる第1及び第2実施形態と同じ効果を奏するとともに、フラッシュ検出部2の代わりにフラッシュ検出部20を設けたことによるフラッシュが発光したか否かの検出精度を向上させることができるという効果を奏する。
【0130】
<第4実施形態>
第4実施形態の画像処理装置の構成は、
図1に示す第1実施形態のビデオカメラ101または
図12に示す第3実施形態のビデオカメラ103と同様である。第4実施形態は、フラッシュの発光によって部分的に高輝度となったとしても画像データを補正しない状態で表示部7に表示させる一方で、フラッシュ補正部8によって補正された画像データを記録再生部(記録部)11に記録させるように構成している。
【0131】
図15を用いて、第4実施形態によるビデオカメラの動作について説明する。
図15において、
図3または
図9と同一部分には同一符号を付し、その説明を適宜省略することとする。
図15のステップS1,S2,S4〜S6,S30は、
図3または
図9のステップS1,S2,S4〜S6,S30と同じである。第4実施形態においては、
図15に示すように、制御部9は、ステップS6に続き、ステップS134にて、フラッシュ検出領域があるか否かを判定する。
【0132】
フラッシュ検出領域があると判定されれば(YES)、制御部9は、ステップS144にて、フラッシュ補正部8によるフラッシュ補正処理を実行させて、処理をステップS7に移行させる。フラッシュ検出領域があると判定されなければ(NO)、制御部9は、処理をステップS7に移行させる。制御部9は、ステップS7にて、圧縮伸張処理部5より出力された符号化データを記録再生部11に記録させる。
図15のステップS8〜S10は、
図3または
図9のステップS8〜S10と同じである。
【0133】
ステップS144によるフラッシュ補正処理は、
図6,
図8,
図11のいずれでもよい。
【0134】
第4実施形態によれば、
図6,
図8,
図11のように補正した画像データを記録再生部11に記録させるので、フラッシュが発光している状況で撮影したという臨場感を損ねることがなく、フラッシュの発光による画像の違和感を軽減した画像データを再生することができる。
【0135】
<第5実施形態>
第3実施形態の画像処理装置の構成は、
図1に示す第1実施形態のビデオカメラ101または
図12に示す第3実施形態のビデオカメラ103と同様である。第5実施形態は、フラッシュ検出部2またはフラッシュ検出部20によってフラッシュの発光が検出された場合には、フラッシュ補正部8によって補正した画像データを表示部7に表示させるとともに、記録再生部11に記録させるように構成している。
【0136】
図16を用いて、第5実施形態における動作について説明する。
図16において、
図3,
図9,
図15と同一のステップには同一の符号を付し、その説明を適宜省略する。
図15は、画像処理装置の構成を、フラッシュ検出部2を有する
図1のビデオカメラ101と同様の構成とした場合の処理を示している。
【0137】
図16において、制御部9は、ステップS2に続き、ステップS305にて、フラッシュ検出部2によるフラッシュ検出処理及びフラッシュ補正部8によるフラッシュ補正処理を実行させる。制御部9は、ステップS305と並行して、ステップS4にて、画像信号処理部3による画像信号処理を実行させる。ステップS305によるフラッシュ補正処理は、
図6,
図8,
図11のいずれでもよい。
【0138】
制御部9は、ステップS5にて、出力信号処理部6を制御して、フラッシュ補正部8によってフラッシュ補正処理を施した画像を表示部7に表示させる。
【0139】
制御部9は、ステップS6にて、操作スイッチ12による記録開始の指示があったか否かを判定する。記録開始の指示があったと判定されれば(YES)、制御部9は、ステップS7にて、フラッシュ補正部8によってフラッシュ補正処理が施され、圧縮伸張処理部5によって圧縮処理された符号化データを記録再生部11に記録させる。なお、フラッシュ補正部8によってフラッシュ補正処理が施された画像データはバッファメモリ4に一旦保持されて、圧縮伸張処理部5によって圧縮処理される。
【0140】
記録開始の指示があったと判定されなければ(NO)、制御部9は、処理をステップS10に移行させる。
【0141】
制御部9は、ステップS8にて、記録終了の指示があったか否かを判定する。記録終了の指示があったと判定されれば(YES)、制御部9は、ステップS9にて、記録再生部11への記録を停止させる。記録終了の指示があったと判定されなければ(NO)、制御部9は処理をステップS7に戻してステップS7を繰り返す。
【0142】
そして、制御部9は、ステップS10にて、操作スイッチ12による撮影終了の指示があったか否かを判定する。撮影終了の指示があったと判定されれば(YES)、制御部9は処理を終了させる。撮影終了の指示があったと判定されなければ(NO)、制御部9は、処理をステップS2に戻してステップS2以降を繰り返す。
【0143】
第5実施形態によれば、
図6,
図8,
図11のように補正した画像データを表示部7に表示させるので、フラッシュの発光による画像の違和感を軽減するよう補正した画像データを確認することができる。また、第4実施形態と同様、補正した画像データを記録再生部11に記録させるので、フラッシュが発光している状況で撮影したという臨場感を損ねることがなく、フラッシュの発光による画像の違和感を軽減した画像データを再生することができる。
【0144】
以上説明した第1〜第5実施形態によれば、次のような効果も奏する。上述したフラッシュ検出部2またはフラッシュ検出部20によれば、比較的誤検出少なく、フラッシュの発光を検出することができる。しかしながら、例えば画面全体が明るい画像の場合には、フラッシュの発光でなくても、フラッシュの発光と誤検出する可能性がある。
【0145】
第1〜第5実施形態においては、単に複数の画面の部分的な領域の画像データを集約して合成画面を生成するだけであるので、仮にフラッシュの発光以外の画像をフラッシュの発光と誤検出した場合でも、合成画面を生成したことによる違和感はほとんどない。第1〜第5実施形態によれば、フラッシュ発光の誤検出が発生した場合でも、画像データの補正による悪影響を与えにくいという効果も奏する。
【0146】
本発明は以上説明した各実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。各実施形態ではビデオカメラを例としたが、画像データを扱う任意の電子機器において本発明の画像処理装置及び方法を用いることができる。例えば、画像表示装置やコンピュータ等の情報処理装置において各実施形態の画像処理装置を搭載し、画面の一部が高輝度となっている画像データを画像表示装置や情報処理装置の内部で補正するようにしてもよい。
【0147】
また、各実施形態においては、画像信号処理部3での処理を終了した映像データを補正する構成を示したが、画像信号処理部3で処理する前の映像データを補正してもよい。各実施形態においては、画像信号処理部3や圧縮伸張処理部5とは独立して設けたバッファメモリ4を用いる構成を示したが、画像信号処理部3や圧縮伸張処理部5で使用するバッファメモリを用いてもよく、回路(ブロック)構成は適宜に変更が可能である。
【0148】
本発明の画像処理装置及び方法と同等の構成をコンピュータプログラム(画像処理プログラム)によって実現することも可能である。画像処理プログラムを記録媒体に記録して提供してもよく、インターネット等の通信回線にて画像処理プログラムを配信してもよい。記録媒体に記録された画像処理プログラムや通信回線にて配信された画像処理プログラムを画像処理装置に記憶させて、上述した画像処理方法を実行させるようにしてもよい。