(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
図1は、本実施の形態におけるカメラの一実施の形態の構成を示すブロック図である。カメラ100は、操作部材101と、レンズ102と、撮像素子103と、制御装置104と、メモリカードスロット105と、モニタ106とを備えている。操作部材101は、使用者によって操作される種々の入力部材、例えば電源ボタン、レリーズボタン、ズームボタン、十字キー、決定ボタン、再生ボタン、削除ボタンなどを含んでいる。
【0009】
レンズ102は、不図示のマウント部を介してカメラ100に着脱可能な構成となっていてもよいし、カメラ100と一体となっていてもよい。なお、レンズ102は、複数の光学レンズから構成されるが、
図1では代表して1枚のレンズで表している。撮像素子103は、例えばCMOSなどのイメージセンサにより構成され、レンズ102を通過した光束による被写体像を光電変換してアナログ画像信号を生成し、生成したアナログ画像信号を制御装置104へ出力する。
【0010】
制御装置104は、CPU、メモリ、およびその他の周辺回路により構成され、カメラ100を制御する。なお、制御装置104を構成するメモリには、SDRAMやフラッシュメモリが含まれる。SDRAMは、揮発性のメモリであって、CPUがプログラム実行時にプログラムを展開するためのワークメモリとして使用されたり、データを一時的に記録するためのバッファメモリとして使用される。また、フラッシュメモリは、不揮発性のメモリであって、制御装置104が実行するプログラムのデータや、プログラム実行時に読み込まれる種々のパラメータなどが記録されている。
【0011】
制御装置104は、撮像素子103から入力されたアナログ画像信号をデジタル画像信号に変換し、種々の画像処理を施した後に所定の画像形式、例えばJPEG形式の本画像データを生成する。また、制御装置104は、生成した本画像データに基づいて、表示用画像データ、例えばサムネイル画像データを生成する。制御装置104は、本画像データとサムネイル画像データとを含み、さらにヘッダ情報を付加した画像ファイルを生成してメモリカードスロット105へ出力する。
【0012】
メモリカードスロット105は、記憶媒体としてのメモリカードを挿入するためのスロットであり、制御装置104から出力された画像ファイルをメモリカードに書き込んで記録する。また、メモリカードスロット105は、制御装置104からの指示に基づいて、メモリカード内に記憶されている画像ファイルを読み込む。
【0013】
モニタ106は、カメラ100の背面に搭載された液晶モニタ(背面モニタ)であり、当該モニタ106には、メモリカードに記憶されている画像やカメラ100を設定するための設定メニューなどが表示される。また、制御装置104は、使用者によってカメラ100のモードがライブビューモードに設定されると、撮像素子103から時系列で取得した画像の表示用画像データをモニタ106に出力する。これによってモニタ106にはスルー画が表示される。
【0014】
本実施の形態におけるカメラ100は、使用者によって撮影のための予備操作が行われたときに、高速(例えば、30fpsや60fps等の速度)で連写を行ってプリキャプチャー撮影を行い、その後、使用者によって撮影指示のための操作が行われたときに、上記プリキャプチャー撮影によって取得された複数の画像を、あらかじめ決められた評価値を用いて評価することにより、特定の1枚の画像をベストショット画像として選択し、選択したベストショット画像をメモリカードに記録するベストショット撮影機能を備えている。
【0015】
例えば、制御装置104は、使用者による操作部材101に含まれるレリーズボタンの半押し操作を上記予備操作として検出し、オートフォーカス処理等の撮影準備処理を開始するとともに、上述したプリキャプチャー撮影を行う。制御装置104は、その後、使用者によってレリーズボタンが全押しされたときに、撮影指示のための操作がなされたと判断して、ベストショット画像の選択を行う。
【0016】
なお、ベストショット画像の選択方法は、公知の処理であるため詳細な説明は省略するが、プリキャプチャー画像のそれぞれを解析して、一般的に良いと評価される画像が自動的に選択されるように評価値が算出される。例えば、手ブレ量が大きい画像の評価値や、人物が目を閉じている画像は、評価値が低く算出され、ベストショット画像として選択されにくくなっている。制御装置104は、プリキャプチャー撮影によって取得された複数の画像の中から、ベストショット画像選択のために算出された評価値が最も高い画像をベストショット画像として選択する。
【0017】
また、本実施の形態では、制御装置104は、上述したプリキャプチャー撮影機能により取得された複数の画像の中から、所定の選択条件に基づいて少なくともベストショット画像を含んだ2枚以上の画像を選択し、それらの画像を合成することにより、ベストショット画像に演出効果を付与した合成画像を生成する。なお、合成に用いる画像の選択条件については後述する。制御装置104は、使用者による一連の予備操作と撮影指示のための操作により取得したベストショット画像と合成画像とを関連付けてメモリカードに記録する。これによって、本実施の形態におけるカメラ100では、ベストショット画像を自動的に選択するとともに、ベストショット画像に演出効果を付与した合成画像を生成して、それぞれを関連付けて記録することができる。
【0018】
図2は、本実施の形態における撮影処理の流れを示すフローチャートである。
図2に示す処理は、使用者によってカメラ100のモードが上述したベストショット画像と合成画像とを関連付けて記録するモードに設定されたときに起動するプログラムとして、制御装置104によって実行される。
【0019】
ステップS1において、制御装置104は、使用者によって操作部材101に含まれるレリーズボタンが半押しされることにより、上述した撮影のための予備操作が行われたか否かを判断する。ステップS1で肯定判断した場合には、ステップS2へ進む。
【0020】
ステップS2では、制御装置104は、
図3に示すように、プリキャプチャー撮影における画像の取得タイミングを制御するための時間A、B、Cを設定する。時間A、B、Cの設定例を
図3に示す。
図3では、横軸が時刻を表しており、時刻t0でレリーズボタンが半押しされ、時刻t1でレリーズボタンが全押しされている。本実施の形態では、制御装置104は、時刻t0でレリーズボタンの半押しを検出した後、時間Cの間、プリキャプチャー撮影による高速連写を行って複数枚の画像を取得する。
【0021】
例えば、時間Cとしては、連写速度と連写によって取得すべき画像の枚数に応じて設定され、ここでは、60fpsの速度で高速連写を行って20枚の画像を取得するために必要な時間が設定される。時間Aは、時刻t1でレリーズボタンが全押しされる前に何枚の画像を取得するかに応じて設定され、時間Bは、時刻t1でレリーズボタンが全押しされた後に何枚の画像を取得するかに応じて設定される。例えば、20枚の画像のうち、レリーズボタンが全押しされる前に12枚、レリーズボタンが全押しされた後に8枚取得する場合には、時間C=時間A+時間B、かつ時間A:時間Bが6:4となるように、時間AとBとを設定する。その後、ステップS3へ進む。
【0022】
ステップS3では、制御装置104は、レリーズ待機処理を実行する。本実施の形態では、上述したように、高速連写を行ってプリキャプチャー撮影を行いながら、レリーズボタンからの入力信号の検出を継続して、使用者によるレリーズボタンの全押し操作を待ち受ける。なお、本実施の形態では、
図3に示したように、レリーズボタンが全押しされる前は、時間Aの間だけ連写撮影を行えばよいが、レリーズボタンが全押しされるタイミング(時刻t1)は、使用者の操作タイミングに依存するため、制御装置104は、このタイミングを予測することができない。よって、制御装置104は、使用者によってレリーズボタンが半押しされた後にプリキャプチャー撮影を開始して画像を取得しておき、後の処理において、ここで取得しておいた画像の中から時間Aの間に撮影した画像のみを抽出する。
【0023】
その後、ステップS4へ進み、制御装置104は、レリーズボタンの半押しを検出してから所定時間以内に使用者によるレリーズボタンの全押し操作を検出したか否かを判断する。ステップS4で否定判断した場合には、ステップS1へ戻る。これにより、レリーズボタンの半押し操作から所定時間以内に全押し操作が行われない場合には、処理をタイムアウトさせることができる。これに対して、ステップS4で肯定判断した場合には、ステップS5へ進む。
【0024】
ステップS5では、制御装置104は、レリーズ処理を開始する。具体的には、制御装置104は、
図3に示したように、時刻t1でレリーズボタンが全押しされてから時間Bの間連写を継続する。その後、ステップS6へ進み、制御装置104は、
図3に示したように、時刻t1から時間Bの経過した後に連写を終了して、プリキャプチャー撮影による画像の取得を終了する。このとき、制御装置104は、上述したように時刻t1よりも前にプリキャプチャー撮影により取得した画像のうち、時刻t1の前の時間Aの間に取得した画像を抽出する。そして、抽出した時刻t1の前の時間Aの間に取得した画像と、時刻t1の後に取得した画像とをプリキャプチャー撮影により取得した画像(以下、「プリキャプチャー画像」と呼ぶ)としてバッファメモリに記録する。これによって、
図3に示した時間Cの間に取得したプリキャプチャー画像(予備画像)をバッファメモリに記録することができる。その後、ステップS7へ進む。
【0025】
ステップS7では、制御装置104は、ステップS6でバッファメモリに記録したプリキャプチャー画像を対象として、公知のベストショット画像選択処理を実行し、算出された評価値が最も高い画像をベストショット画像として選択する。これによって、例えば、時間Cの間に撮影された20枚のプリキャプチャー画像の中から1枚のベストショット画像が選択される。
【0026】
その後、ステップS8へ進み、制御装置104は、プリキャプチャー画像の中から複数の合成用画像を選択する。本実施の形態では、合成する画像の枚数はあらかじめ設定されているものとする。この設定枚数は、使用者が任意に変更できるようにしてもよい。あるいは、制御装置104が撮影条件や被写体に基づいて枚数を設定するようにしてもよい。例えば、被写体の動きが早い場合や移動量が大きい場合には、制御装置104は、設定枚数を多くして、合成画像が被写体の動きを的確に表すようにする。また、4枚の画像を合成するように設定されている場合には、制御装置104は、ステップS7で選択したベストショット画像を含む4枚の画像を合成するために、プリキャプチャー画像の中からベストショット画像を除いて選択した3枚の画像を合成用画像として選択する。
【0027】
ここで、本実施の形態における合成用画像の選択条件の一例を示す。本実施の形態では、制御装置104は、例えば、撮影条件や被写体に基づいて合成用画像を選択するものとする。具体的には、制御装置104は、使用者がプリキャプチャー画像の撮影時にカメラを振って撮影方向を変更した場合のそれぞれのプリキャプチャー画像におけるカメラの移動方向やカメラの移動量、主要被写体の種類、撮影シーンの種類、主要被写体の移動量、主要被写体のポーズや配置等の1つまたはこれらの組み合わせに応じて合成用画像を選択する。なお、カメラの移動方向や移動量は、カメラ100にジャイロセンサ等を備えることに検出可能であり、撮影時にこれらを検出して画像に関連付けておくことで判定が可能になる。主要被写体の種類や撮影シーンの種類については、撮影時のシーン判定結果を画像に関連付けておくことで判定が可能になる。主要被写体の移動量や主要被写体のポーズや配置については、撮影時に被写体認識を行って、認識結果を画像に関連付けておくことで判定が可能になる。
【0028】
図4〜
図6に生成される合成用画像の一例を示す。
図4はバスケットボールの試合中にシュートする人物の合成用画像、
図5はジャンプするバレリーナの合成用画像、
図6は揺らめいている旗Fの合成用画像である。
例えば、プリキャプチャー撮影によって取得された画像がバスケットボールの試合中にシュートをするゴルフのスイングをする人物を撮影した画像であるとする。この場合には、被写体の移動量(人物ゴルフクラブの移動量)に応じた枚数(
図4の例では3枚)の合成用画像が選択される。その結果、
図4に示すように、演出効果としてバスケットゴールに向けてシュートする人物の移動軌跡を表した合成用画像を作成することが可能となる。
【0029】
あるいは、プリキャプチャー撮影によって取得された画像がジャンプをするバレリーナを撮影した画像であるとする。この場合には、カメラのスイング方向、スイング量、被写体の移動量に応じた枚数(
図5の例では3枚)の合成用画像が選択される。その結果、
図5に示すように、演出効果としてバレリーナのジャンプの軌跡を表した合成用画像を作成することが可能となる。あるいは、プリキャプチャー撮影によって取得された画像が静止している物体をカメラをスイングさせて撮影した画像である場合には、カメラのスイング方向、スイング量に応じた枚数の合成用画像を選択することにより、幻想的な演出効果を付した合成用画像を作成することが可能となる。
【0030】
あるいは、プリキャプチャー撮影によって取得された画像が揺らめいている旗を撮影した画像であるとする。この場合には、旗Fの形の変化量が一定間隔になるように複数の合成用画像が選択される。その結果、
図6に示すように、演出効果として旗F1〜F3の揺らめきを表した合成用画像を作成することが可能となる。
【0031】
その後、ステップS9へ進み、制御装置104は、ステップS7で選択したベストショット画像と、ステップS8で選択した合成用画像とに対して現像処理を施す。例えば、制御装置104は、ステップS7で選択したベストショット画像と、ステップS8で選択した合成用画像がRAWデータである場合には、公知の現像処理を施して、画像データを生成する。その後、ステップS10へ進み、制御装置104は、ステップS9で現像処理を行った後のベストショット画像(以下、「現像後ベストショット画像」と呼ぶ)をメモリカードに記録する。その後、ステップS11へ進む。
【0032】
ステップS11では、制御装置104は、ステップS9で現像処理を行った後の合成用画像(以下、「現像後合成用画像」と呼ぶ)に対してゲイン補正を行う。このとき、制御装置104は、現像後合成用画像の枚数に応じて各現像後合成用画像にかけるゲイン補正量を決定してゲイン補正を行う。例えば、現像後合成用画像の枚数が4枚の場合には、各現像後合成用画像にかけるゲイン補正量を0.25として、ゲイン量の合計が1となるようにする。あるいは、合成画像の演出効果を高めるために、ベストショット画像の撮影タイミング(撮影時間)に近い合成用画像には、他に比べて高いゲインをかけて、少し明るめにゲイン補正を行うようにし、ベストショット画像から撮影時間が遠くなるほど、掛けるゲインを低くするようにしてもよい。その後、ステップS12へ進む。
【0033】
ステップS12では、制御装置104は、プリキャプチャー画像を撮影したときのカメラ100のスイング量が所定のスイング量以下であるか否か(スイング量が僅かであるか否か)を判断する。例えば、制御装置104は、プリキャプチャー撮影時の手触れを検出し、手触れ量が所定値以下のときに、ステップS12で肯定判断する。ステップS12で肯定判断した場合には、ステップS13へ進む。
【0034】
ステップS13では、制御装置104は、現像後ベストショット画像と複数の現像後合成用画像とを対象として、画像内の一部の領域でフレーム間の位置合わせを行う。例えば、制御装置104は、各画像の一部の領域の特徴点を重ね合わせるようにして位置合わせ量を決定し、それぞれの画像毎に位置合わせ処理(座標シフト)を行う。位置合わせに用いる特徴点としては、例えば、画像内で位置が変化しない背景から抽出した任意の点を用いればよい。具体的には、
図6に示すような旗Fの揺らめきを表した合成用画像を作成する場合であれば、旗Fを支える支柱上の任意の点(たとえば
図6では支柱P)等を用いることが考えられる。また、被写体が人物である場合には、顔認識処理によって検出した被写体の顔上の任意の点を用いるようにしてもよい。
【0035】
このように座標シフトをして複数の画像の位置合わせを行うと、画像の周辺画素では合成する全画像分データが揃わないので、制御装置104は、全画像分のデータが揃う最大の大きさとなるように各画像をクロップする。その後、ステップS14へ進む。これに対して、ステップS12で否定判断した場合には、そのままステップS14へ進む。
【0036】
ステップS14では、制御装置104は、現像後ベストショット画像とゲイン補正された現像後合成用画像とを合成する。このとき、制御装置104は、ステップS13で画像の位置合わせとクロップを行った場合には、クロップ後の画像を合成する。これによって演出効果を付した合成画像を作成することができる。
【0037】
その後、ステップS15へ進み、制御装置104は、ステップS14で作成した合成画像を、ステップS10で記録した現像後ベストショット画像に関連付けてメモリカードに記録して、処理を終了する。これによって、複数のプリキャプチャー画像の中から選択したベストショット画像と、ベストショット画像に演出効果を付した合成画像とを関連付けてメモリカードに記録することができる。
【0038】
以上説明した本実施の形態によれば、以下のような作用効果を得ることができる。
(1)制御装置104は、プリキャプチャー撮影によって取得したプリキャプチャー画像の中からベストショット画像を選択し、プリキャプチャー画像の中から複数の合成用画像を抽出し、複数の合成用画像とベストショット画像とを合成するようにした。そして、ベストショット画像と合成画像とを関連付けて記録するようにした。これによって、ベストショット画像と、ベストショット画像に演出効果を付した合成画像とを関連付けて記録することができる。
【0039】
(2)制御装置104は、プリキャプチャー画像の中からベストショット画像選択処理における評価値が最も高い画像をベストショット画像として選択するようにした。これによって、プリキャプチャー画像の中か一般的に最も良いと評価される画像をベストショット画像として選択することができる。
【0040】
(3)制御装置104は、プリキャプチャー画像の中から撮影条件や被写体に基づいて複数の合成用画像を抽出するようにした。これによって、撮影条件や被写体に応じた最適な合成用画像を抽出することができる。
【0041】
(4)制御装置104は、撮影条件や被写体に基づいて、プリキャプチャー画像の中から抽出する合成用画像の数を決定するようにした。これによって、撮影条件や被写体に応じた最適な枚数の合成用画像を抽出することができる。
【0042】
(5)制御装置104は、現像後合成用画像に対してゲイン補正を行い、ゲイン補正を行った後の合成用画像を合成するようにした。これによって、演出効果を付与した合成画像を生成することができる。
【0043】
(6)制御装置104は、合成用画像の数に基づいて、各合成用画像かけるゲイン量を決定するようにした。これによって、合成用画像の数に応じた最適なゲイン量を決定することができる。
【0044】
(7)制御装置104は、ベストショット画像の撮影タイミング(撮影時間)に近い合成用画像には、他に比べて高いゲインをかけて、少し明るめにゲイン補正を行うようにし、ベストショット画像から撮影時間が遠くなるほど、掛けるゲインを低くするようにした。これによって、合成画像の演出効果をさらに高めることができる。
【0045】
(8)制御装置104は、プリキャプチャー撮影時の手振れ量が所定値以下のときは、ベストショット画像と合成用画像の画像内の一部の領域を用いて位置合わせを行うようにした。これによって、手ブレ量が微少であるときには、位置合わせを行った合成画像を作成することができる。
【0046】
(9)制御装置104は、位置合わせをした後に、各画像をクロップするようにした。これによって、位置合わせによって画像の周辺画素において合成する全画像分データが揃わなくなる場合でも、全ての合成用画像の大きさが揃えて合成することができる。
【0047】
―変形例―
なお、上述した実施の形態のカメラは、以下のように変形することもできる。
(1)上述した実施の形態では、制御装置104は、公知のベストショット画像選択処理によって算出された評価値が最も高い画像をベストショット画像として選択する例について説明した。しかしながら、制御装置104が自動選択したベストショット画像を使用者が他の画像に変更できるようにしてもよい。例えば、制御装置104は、自動選択したベストショット画像と他のプリキャプチャー画像とをモニタ106に表示して使用者に提示し、使用者からのベストショット画像との変更を受け付けるようにしてもよい。そして、制御装置104は、使用者によってプリキャプチャー画像の中から制御装置104が自動選択した画像とは異なる画像がベストショット画像として選択された場合には、ベストショット画像を使用者によって選択された画像に選択し直す。これによって、使用者は、ベストショット画像を好みの画像に変更することができる。
【0048】
(2)上述した実施の形態では、制御装置104は、現像処理を行った後の合成用画像に対してゲイン補正を行ってから合成を行う例について説明した。しかしながら、制御装置104は、現像処理を行う前のRAWデータに対してゲイン補正を行ってから合成を行い、合成後のRAWデータを現像処理するようにしてもよい。また、現像処理を行ってからゲイン補正を行うか、現像処理前にゲイン補正を行うかを、主要被写体の種類、撮影シーンの種類、ISO感度、画質モード、現像処理にかかる演算時間の少なくとも1つに基づいて、切り替えるようにしてもよい。
【0049】
(3)制御装置104は、合成用画像を現像する際には、カメラのスイング方向、カメラのスイング量、主要被写体の種類、撮影シーンの種類、主要被写体の移動量、主要被写体のポーズや配置に基づいて、各合成用画像に適用する現像用パラメータを変更するようにしてもよい。ただし、ベストショット画像が基調となるよう、ベストショット画像の撮影タイミング付近の合成用画像は、デフォルトの現像用パラメータを施すのが好ましい。
【0050】
(4)上述した実施の形態では、制御装置104は、1枚のベストショット画像に対して1枚の合成用画像を作成し、それらを関連付けて記録する例について説明した。しかしながら、制御装置104は、1枚のベストショット画像に対して、演出効果が異なる複数枚の合成用画像を作成するようにしてもよい。この場合、合成画像の枚数は使用者が任意に設定できるようにしてもよいし、カメラ100があらかじめ準備されたアルゴリズムにより、自動的に設定するようにしてもよい。
【0051】
(5)上述した実施の形態では、制御装置104は、現像後合成用画像の枚数に応じて各現像後合成用画像にかけるゲイン補正量を決定してゲイン補正を行う例について説明した。しかしながら、制御装置104は、撮影条件や被写体に基づいて各現像後合成用画像にかけるゲイン補正量を決定するようにしてもよい。
【0052】
(6)制御装置104は、合成画像の演出効果をさらに高めるために、以下のような処理を行ってもよい。例えば、合成画像に特徴ある演出効果を出すために、プリキャプチャー撮影時にショット毎にピントを合わせる距離を変えておいてもよい。その際、プリキャプチャー撮影の前に主要被写体の種類や撮影シーンの種類を判断し、この判断結果に応じてデフォーカス量を可変としても良い。また、レリーズボタン全押しのタイミングではデフォーカス量を最小としてもよい。あるいは、制御装置104は、合成画像を解析し、解析結果に応じた画像処理を施すようにしてもよい。例えば、制御装置104は、合成画像の階調を解析し、適応的に階調補正処理を行ってもよい。また、合成画像の雰囲気を解析し、適応的にデジタルフィルターをかけてぼかし処理を行うようにしてもよい。また、制御装置104は、合成画像の彩度を解析し、彩度強調処理を行うようにしてもよい。
【0053】
なお、本発明の特徴的な機能を損なわない限り、本発明は、上述した実施の形態における構成に何ら限定されない。また、上述の実施の形態と複数の変形例を組み合わせた構成としてもよい。