(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-26
(45)【発行日】2024-08-05
(54)【発明の名称】動画撮像装置、動画撮像方法、及び動画撮像プログラム
(51)【国際特許分類】
H04N 23/60 20230101AFI20240729BHJP
【FI】
H04N23/60 500
H04N23/60 300
(21)【出願番号】P 2022532392
(86)(22)【出願日】2021-05-13
(86)【国際出願番号】 JP2021018269
(87)【国際公開番号】W WO2021261106
(87)【国際公開日】2021-12-30
【審査請求日】2022-12-07
(31)【優先権主張番号】P 2020110764
(32)【優先日】2020-06-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110002505
【氏名又は名称】弁理士法人航栄事務所
(72)【発明者】
【氏名】▲高▼橋 宏輔
【審査官】高野 美帆子
(56)【参考文献】
【文献】特表2004-522355(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60
(57)【特許請求の範囲】
【請求項1】
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部と、
前記撮像部の撮像条件が変更されたときの前記フレームデータと対応付けて、前記撮像条件を示すメタデータを生成するメタデータ生成部と、
前記フレームデータに前記メタデータを付加し、デモザイク前の動画データとして出力する出力部と、を備え、
前記出力部は、前記フレームデータに対応付けられた前記メタデータのデータ量が付加可能なデータ量を超えている場合に、前記フレームデータに対応付けられた前記メタデータのうち優先度に基づいて選択したメタデータを前記フレームデータに付加
し、前記撮像部により生成された第1フレームデータに対応付けられたメタデータのうち前記第1フレームデータに付加しないメタデータを、前記第1フレームデータより後の第2フレームデータに付加する、
動画撮像装置。
【請求項2】
請求項1記載の動画撮像装置であって、
前記優先度は、前記メタデータの種別に基づく優先度である、
動画撮像装置。
【請求項3】
請求項1又は2記載の動画撮像装置であって、
前記メタデータ生成部は、前記撮像部による撮像の開始時における前記撮像部の撮像条件を示すメタデータを、前記撮像の開始後の最初の前記フレームデータと対応付けて生成する、
動画撮像装置。
【請求項4】
請求項1から3のいずれか1項記載の動画撮像装置であって、
前記出力部は、前記第2フレームデータに対応付けられたメタデータと、前記第1フレームデータに付加しないメタデータと、のうち前記第1フレームデータに付加しないメタデータを優先的に前記第2フレームデータに付加する、
動画撮像装置。
【請求項5】
請求項1から4のいずれか1項記載の動画撮像装置であって、
前記出力部は、前記第1フレームデータと対応付けられた前記メタデータのうち前記第1フレームデータに付加しないメタデータが示す前記撮像部の撮像条件が前記第2フレームデータの撮像時に変更されている場合は、前記変更の前後の前記撮像条件を示すメタデータのうち前記変更の後の撮像条件を示すメタデータを前記第2フレームデータに付加する、
動画撮像装置。
【請求項6】
請求項1から5のいずれか1項記載の動画撮像装置であって、
前記出力部は、前記第1フレームデータと対応付けられた前記メタデータのうち前記第1フレームデータに付加しないメタデータを前記第2フレームデータに付加する際に、前記第1フレームデータを特定可能なデータを前記第2フレームデータに付加する、
動画撮像装置。
【請求項7】
請求項1から6のいずれか1項記載の動画撮像装置であって、
前記撮像部は、前記撮像条件を複数フレーム毎に変更可能である、
動画撮像装置。
【請求項8】
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置による動画撮像方法であって、
前記撮像部の撮像条件が変更されたときの前記フレームデータと対応付けて、前記撮像条件を示すメタデータを生成し、
前記フレームデータに前記メタデータを付加し、デモザイク前の動画データとして出力し、前記フレームデータに対応付けられた前記メタデータのデータ量が付加可能なデータ量を超えている場合に、前記フレームデータに対応付けられた前記メタデータのうち優先度に基づいて選択したメタデータを前記フレームデータに付加し、
前記撮像部により生成された第1フレームデータに対応付けられたメタデータのうち前記第1フレームデータに付加しないメタデータを、前記第1フレームデータより後の第2フレームデータに付加する、
動画撮像方法。
【請求項9】
請求項8記載の動画撮像方法であって、
前記優先度は、前記メタデータの種別に基づく優先度である、
動画撮像方法。
【請求項10】
請求項8又は9記載の動画撮像方法であって、
前記撮像部による撮像の開始時における前記撮像部の撮像条件を示すメタデータを、前記撮像の開始後の最初の前記フレームデータと対応付けて生成する、
動画撮像方法。
【請求項11】
請求項8から10のいずれか1項記載の動画撮像方法であって、
前記第2フレームデータに対応付けられたメタデータと、前記第1フレームデータに付加しないメタデータと、のうち前記第1フレームデータに付加しないメタデータを優先的に前記第2フレームデータに付加する、
動画撮像方法。
【請求項12】
請求項8から11のいずれか1項記載の動画撮像方法であって、
前記第1フレームデータと対応付けられた前記メタデータのうち前記第1フレームデータに付加しないメタデータが示す前記撮像部の撮像条件が前記第2フレームデータの撮像時に変更されている場合は、前記変更の前後の前記撮像条件を示すメタデータのうち前記変更の後の撮像条件を示すメタデータを前記第2フレームデータに付加する、
動画撮像方法。
【請求項13】
請求項8から12のいずれか1項記載の動画撮像方法であって、
前記第1フレームデータと対応付けられた前記メタデータのうち前記第1フレームデータに付加しないメタデータを前記第2フレームデータに付加する際に、前記第1フレームデータを特定可能なデータを前記第2フレームデータに付加する、
動画撮像方法。
【請求項14】
請求項8から13のいずれか1項記載の動画撮像方法であって、
前記撮像部は、前記撮像条件を複数フレーム毎に変更可能である、
動画撮像方法。
【請求項15】
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置の動画撮像プログラムであって、
前記動画撮像装置のプロセッサに、
前記撮像部の撮像条件が変更されたときの前記フレームデータと対応付けて、前記撮像条件を示すメタデータを生成し、
前記フレームデータに前記メタデータを付加し、デモザイク前の動画データとして出力し、前記フレームデータに対応付けられた前記メタデータのデータ量が付加可能なデータ量を超えている場合に、前記フレームデータに対応付けられた前記メタデータのうち優先度に基づいて選択したメタデータを前記フレームデータに付加し、
前記撮像部により生成された第1フレームデータに対応付けられたメタデータのうち前記第1フレームデータに付加しないメタデータを、前記第1フレームデータより後の第2フレームデータに付加する、
処理を実行させるための動画撮像プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画撮像装置、動画撮像方法、及び動画撮像プログラムに関する。
【背景技術】
【0002】
特許文献1には、撮像ユニットから出力されるRAW動画データ及び画像補正データを記録ユニット又は外部記録装置に入力して記録する構成において、画像補正データのデータサイズが1フレームで送信可能なデータサイズを超える場合に、画像補正データを任意のサイズに分割して複数フレームに分けて送信を行うことが記載されている。
【0003】
特許文献2には、RAW動画データに基づいて、RAW動画像データを再生(現像)する際に必要となる現像パラメータ(動画像用の現像パラメータ)をフレーム単位で生成し、RAW動画像データと、RAW動画像データを構成するRAW画像フレームに対する現像パラメータとを記録媒体に記録することが記載されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2017-163307号公報
【文献】特開2011-244423号公報
【発明の概要】
【0005】
本開示の技術に係る1つの実施形態は、現像パラメータなどのメタデータの出力の遅延による現像処理への影響を抑制することのできる動画撮像装置、動画撮像方法、及び動画撮像プログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の技術に係る1つの実施形態の動画撮像装置は、動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部と、上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成するメタデータ生成部と、上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力する出力部と、を備え、上記出力部は、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加するものである。
【0007】
本開示の技術に係る1つの実施形態の動画撮像方法は、動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置による動画撮像方法であって、上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成し、上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力し、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加するものである。
【0008】
本開示の技術に係る1つの実施形態の動画撮像プログラムは、動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置の動画撮像プログラムであって、上記動画撮像装置のプロセッサに、上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成し、上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力し、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加する、処理を実行させるためのものである。
【発明の効果】
【0009】
本開示の技術に係る1つの実施形態によれば、メタデータの出力の遅延による現像処理への影響を抑制することのできる動画撮像装置、動画撮像方法、及び動画撮像プログラムを提供することができる。
【図面の簡単な説明】
【0010】
【
図1】実施の形態1に係る撮像装置100の一例を示す図である。
【
図2】撮像制御部104が生成するメタデータの種別の具体例を示す図である。
【
図3】実施の形態1に係る撮像制御部104によるメタデータの生成の一例を示す図である。
【
図4】実施の形態1に係る出力制御部110による出力制御の一例を示す図である。
【
図5】実施の形態1に係る撮像装置100による処理の一例を示すフローチャートである。
【
図6】実施の形態2に係るメタデータの即時出力フラグの一例を示す図である。
【
図7】実施の形態2に係る撮像制御部104によるメタデータの生成の一例を示す図である。
【
図8】実施の形態2に係る出力制御部110による出力制御の一例を示す図である。
【
図9】実施の形態2に係る撮像装置100による処理の一例を示すフローチャートである。
【
図10】実施の形態3に係る撮像制御部104によるメタデータの生成の一例を示す図である。
【
図11】実施の形態3に係る出力制御部110による出力制御の一例を示す図である。
【
図12】実施の形態3に係る撮像装置100による処理の一例を示すフローチャートである。
【
図13】実施の形態4に係る出力制御部110による出力制御の一例を示す図である。
【
図14】実施の形態4に係る撮像装置100による処理の一例を示すフローチャートである。
【
図15】実施の形態5に係る撮像制御部104によるメタデータの生成の一例を示す図である。
【
図16】実施の形態5に係る出力制御部110による出力制御の一例を示す図である。
【
図17】実施の形態6に係る撮像装置100の一例を示す図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態について図面を参照して説明する。
【0012】
(実施の形態1)
<実施の形態1に係る撮像装置100>
図1は、実施の形態1に係る撮像装置100の一例を示す図である。撮像装置100は、連続した撮像を行うことにより動画を生成可能な動画撮像装置である。ただし、撮像装置100は、動画を生成する機能に加えて、静止画を生成する機能を有していてもよい。
【0013】
外部記録装置120は、撮像装置100の外部に設けられ、撮像装置100から出力される後述のRAW動画データ及びメタデータを記録する。撮像装置100のデータ出力端子は、例えばHDMI(High-Definition Multimedia Interface:高精細度マルチメディアインタフェース)などの通信インタフェースを介して外部記録装置120の入力端子に接続される。なおHDMIは登録商標である。撮像装置100からのデータ出力はHDMIに限らず、無線通信(例えばUWB(Ultra Wide Band)や無線HDMI-SDI(High-Definition Multimedia Interface-Serial Digital Interface)を用いて出力してもよい。
【0014】
撮像装置100は、撮像部119と、撮像制御部104と、RAW補正部105と、一時記憶部106と、デモザイク処理部107と、画像補正部108と、モニタ109と、出力制御部110と、外部出力I/F111と、を備える。
【0015】
撮像部119は、連続した撮像を行うことにより、動画の画像データを時間的に連続する複数のフレームデータとして生成する。具体的には、撮像部119は、撮像レンズ系101と、撮像素子102と、ADC(Analog/Digital Converter)103と、を有する。ADC103は撮像素子102に内蔵されていてもよい。
【0016】
撮像レンズ系101は、被写体からの光を透過させて撮像素子102に像を結ぶためのレンズを含む。また、撮像レンズ系101は、絞り、ND(Neutral Density)フィルタ、フォーカスレンズ、ズームレンズ、シフトレンズなどを含んでもよい。これらの撮像レンズ系101の可動部は撮像制御部104によって制御される。
【0017】
撮像素子102は、撮像レンズ系101による光学像をアナログ画像信号に変換し、変換したアナログ画像信号をADC103に出力する。撮像素子102は、例えばCMOS(Complementary Metal-Oxide-Semiconductor)型イメージセンサやCCD(Charge-Coupled Device)型イメージセンサなどの撮像素子により構成される。
【0018】
また、撮像素子102は、露光時間を調整するためのシャッタである電子シャッタを備えている。撮像素子102による撮像は撮像制御部104によって制御される。例えば、撮像素子102は、動画撮像時に、撮像制御部104からの制御によって、撮像を時間的に連続して行い、それによって得られたアナログ画像信号を順次、ADC103へ出力する。
【0019】
ADC103は、撮像素子102からのアナログ画像信号をデジタルのフレームデータに変換し、変換したフレームデータをRAW補正部105へ出力する。ADC103から連続して出力されるフレームデータは、デモザイク前のRAW動画データである。
【0020】
撮像制御部104は、撮像レンズ系101及び撮像素子102を制御することにより、撮像部119による撮像を制御する。例えば、撮像制御部104は、ユーザからの指示に応じて、撮像部119による撮像の焦点や露出等の制御を行う。また、撮像制御部104は、後述のデモザイク処理部107によって得られたデモザイク画像に基づいて、撮像部119による撮像の露出等の制御を自動的に行ってもよい。
【0021】
また、撮像制御部104は、撮像レンズ系101及び撮像素子102による撮像の条件を示すメタデータを生成するメタデータ生成部を構成する。メタデータは、RAW動画データに基づいてデモザイク画像を生成する現像処理を行う際に用いられる。メタデータの具体例については後述する(例えば
図2参照)。
【0022】
例えば、撮像制御部104は、撮像部119による撮像の開始時における撮像部119の各撮像条件を示すメタデータを、撮像部119による撮像の開始後の最初のフレームデータと対応付けて生成する。
【0023】
メタデータをあるフレームデータと対応付けて生成するとは、例えば、メタデータがそのフレームデータに対応することを後述の出力制御部110が特定できるようにすることである。一例としては、撮像制御部104は、メタデータに対応するフレームデータのフレーム番号を、そのメタデータに付加する。
【0024】
また、撮像制御部104は、撮像部119による撮像の撮像条件が変更された場合、その変更後の撮像条件を示すメタデータを、その変更の直後のフレームデータと対応付けて生成する。一方で、撮像制御部104は、撮像部119による撮像の撮像条件が変更されていない場合には、メタデータを新たに生成しない。このような処理を、撮像制御部104は、メタデータの種別毎に行う。
【0025】
したがって、撮像部119による撮像の開始時には、その時点の撮像部119の撮像条件を示す各メタデータが最初のフレームデータと対応付けて生成される。そして、その後は、撮像条件が変更されたときのみ、変更された撮像条件を示すメタデータがその時点のフレームデータと対応付けて生成される。撮像制御部104は、生成したメタデータを一時記憶部106に出力する。
【0026】
RAW補正部105は、ADC103から出力されたフレームデータ(RAW動画データ)に対する補正を行う。RAW補正部105が行う補正は、デモザイク処理前のRAW動画データに対して行う補正であり、例えば、撮像素子102の特性等に応じた、画素値補正、欠陥画素補正、シェーディング補正などである。RAW補正部105は、補正を行ったフレームデータを一時記憶部106へ出力する。
【0027】
一時記憶部106は、RAW補正部105から出力されたフレームデータと、撮像制御部104から出力されたメタデータと、を一時的に記憶する。例えば、一時記憶部106は、例えばRAM(Random Access Memory)などのメモリ(種類は問わない)によって実現される。また、一時記憶部106は、複数のメモリによって実現されてもよい。例えば、一時記憶部106は、フレームデータを記憶するメモリと、メタデータを記憶するメモリと、により実現されてもよい。
【0028】
デモザイク処理部107は、一時記憶部106によって記憶されたフレームデータにデモザイク処理を行うことによりデモザイク動画像を生成し、生成したデモザイク動画像を画像補正部108へ出力する。欠陥画素補正やシェーディング補正などを行ったフレームデータは、RAW補正部105から出力される。この時点での各画素ひとつひとつは、R,G,Bの各色のいずれか一色のみである。そこで、周辺の画素から、他の2色を補完し、各画素が3色のデータを持つようにする。例えば、R色しか持たない画素なら、GとBのデータが存在しないので、周辺のG画素のデータから補間あるいは周辺のG画素から予測して、その画素のG色のデータとする。これにより、全画素それぞれがR,G,Bの3色を持つ。これをデモザイク処理という。
【0029】
画像補正部108は、デモザイク処理部107から出力されたデモザイク動画像に対して各種の画像補正を行い、画像補正を行ったデモザイク動画像をモニタ109へ出力する。画像補正部108が行う画像補正は、デモザイク処理後のデモザイク動画像に対して行う処理であり、例えば、周辺光量落ち補正、色補正、輪郭強調、ノイズ除去、ガンマ補正、ディベイヤ処理、圧縮などの処理である。
【0030】
モニタ109は、画像補正部108から出力されたデモザイク動画像をユーザに表示する。これにより、ユーザは、動画撮像中に、撮像中の動画をライブ画像として確認することができる。
【0031】
出力制御部110及び外部出力I/F111は、本開示の技術に係る1つの実施形態の出力部を構成する。出力制御部110は、一時記憶部106に記憶されたフレームデータ及びメタデータを読み出し、フレームデータにメタデータを付加する。そして、出力制御部110は、メタデータを付加したフレームデータを、デモザイク前のRAW動画データとして外部出力I/F111から外部記録装置120へ出力させる。
【0032】
例えば、出力制御部110は、フレームデータを映像信号として継続的に外部出力I/F111から出力させつつ、映像信号のブランキング期間にメタデータを外部出力I/F111から出力させる。すなわち、出力制御部110は、フレームデータの出力に割り込ませてメタデータの出力を行うように外部出力I/F111を制御する。これにより、フレームデータにメタデータを付加して出力することができる。
【0033】
外部出力I/F111は、外部記録装置120との間で通信を行うための通信インタフェースである。一例としては、外部出力I/F111は、HDMIによる通信を行う。外部出力I/F111は、出力制御部110からの制御に従って、フレームデータ及びメタデータを外部記録装置120へ出力する。
【0034】
なお、撮像装置100は、デモザイク動画像などを記憶する内部メモリを備えてもよい。また、撮像装置100は、ユーザからの種々の操作を受け付けたり、ユーザに対して各種のデータを出力したりするユーザインタフェースを備えてもよい。
【0035】
また、撮像装置100は、周辺の音響を電気信号に変換するマイクロフォンを備えてもよい。この場合、マイクロフォンによって得られた電気信号は、デジタルの音響データに変換され、フレームデータ及びメタデータとともに外部出力I/F111から外部記録装置120へ出力され、外部記録装置120によって記録されてもよい。
【0036】
外部記録装置120は、外部入力I/F121と、記録制御部122と、記録媒体123と、を備える。外部入力I/F121は、撮像装置100の外部出力I/F111から出力されるフレームデータ及びメタデータを取り込み、取り込んだフレームデータ及びメタデータを記録制御部122へ出力する。
【0037】
記録制御部122は、外部入力I/F121から出力されたフレームデータ及びメタデータを記録媒体123に記録する制御を行う。記録媒体123は、撮像装置100から連続して出力される大容量のフレームデータをリアルタイムで記録できるように、高速に書き込みが可能な大容量の記録媒体である。例えば、記録媒体123は、メモリーカードやSSD(Solid State Drive)などにより実現することができる。
【0038】
また、図示を省略するが、外部記録装置120は、撮像装置100及び外部記録装置120と異なる外部のデータ処理装置(例えばパーソナルコンピュータ)に対して、記録媒体123に記憶されたフレームデータ及びメタデータを出力する外部出力I/Fを有する。これにより、データ処理装置において、記録媒体123に記憶されたフレームデータ及びメタデータに基づく現像処理を行うことができる。
【0039】
又は、外部記録装置120は、現像処理を行うためのプロセッサ及びメモリを有するデータ処理装置(例えばパーソナルコンピュータ)であってもよい。この場合、外部記録装置120は、記録媒体123に記憶されたフレームデータ及びメタデータに基づく現像処理を行うことができる。
【0040】
<撮像装置100のハードウェア構成>
撮像装置100における撮像制御部104、RAW補正部105、デモザイク処理部107、画像補正部108、及び出力制御部110は、撮像装置100のメモリと協調して動作するプロセッサによって実現される。
【0041】
このプロセッサは、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、FPGA(Field Programmable Gate Array)、PLD(Programmable Logic Device)、又はASIC(Application Specific Integrated Circuit)などのプロセッサである。このプロセッサは、メモリに記憶されたプログラムを読み出して実行することで、撮像装置100における上記の処理部として機能する。上記の各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。なお、このプロセッサは、同種又は異種の複数のプロセッサの組み合わせであってもよい。
【0042】
メモリは、RAM、ROM(Read Only Memory)、フラッシュメモリなどによって実現される。メモリは、プロセッサによって実行されるプログラム、又はプロセッサによって用いられるデータなどを記憶する。なお、このメモリは、同種又は異種の複数のメモリの組み合わせであってもよい。
【0043】
<撮像制御部104が生成するメタデータの種別の具体例>
図2は、撮像制御部104が生成するメタデータの種別の具体例を示す図である。撮像制御部104は、例えば、
図2に示すような、黒オフセットレベル、RAW数値を表色系に変換する係数、ホワイトバランスパラメータ、レンズ補正パラメータ、色変換パラメータ、ガンマ補正パラメータ、ノイズ補正パラメータ、タイムコード、撮像日時、製品名などに関する撮像条件を示すメタデータを生成する。
【0044】
また、これらのメタデータには、種別毎に予め優先度が設定され、撮像装置100のメモリに記憶されている。優先度は、優先的に外部記録装置120へ出力すべき度合いを示すものである。
【0045】
例えば、メタデータの種別毎の優先度は、現像処理の結果への影響が大きいメタデータほど高くなるように、すなわち現像処理の結果への影響が大きいメタデータほど優先的に出力されるように設定される。優先度が高いメタデータほど優先的に出力するとは、優先度以外の条件が同一である各メタデータについては優先度が高い方のメタデータを先に出力することである。
【0046】
例えば、現像処理のうち先に行われる処理に用いられるメタデータほど、現像処理によって得られるデモザイク動画の画質への影響が大きいため、高い優先度が設定される。
図2に示す例では、現像処理に用いられる黒オフセットレベルには、最も高い優先度が設定されている。一方で、現像処理には直接的には用いられない製品名には、最も低い優先度が設定されている。
【0047】
なお、撮像制御部104が生成するメタデータの種別は、
図2に示した例に限らず任意に設定することができる。また、優先度についても、
図2に示した例に限らず、任意に設定することができる。例えば、上述したRAW補正部105が行う画素値補正、欠陥画素補正、シェーディング補正などの補正の少なくとも一部を、RAW補正部105では行わずに現像処理において行うようにしてもよい。この場合、撮像制御部104は、画素値補正、欠陥画素補正、シェーディング補正などの補正を行うためのメタデータを生成して一時記憶部106に出力する。
【0048】
<実施の形態1に係る撮像制御部104によるメタデータの生成>
図3は、実施の形態1に係る撮像制御部104によるメタデータの生成の一例を示す図である。
図3の横軸は時間を示す。フレームデータF1~F5は、撮像部119による連続した5回分の撮像により得られた各フレームデータであって、デモザイク処理前のRAW動画データである。
【0049】
メタデータM1~M13は、撮像制御部104によって生成されるメタデータである。メタデータM1~M7は、撮像の開始時に設定されていた各撮像条件を示すデータであり、撮像の開始後の最初のフレームデータF1と対応付けて生成される。
【0050】
メタデータM1は、撮像素子102で使用される画素数(解像度)に関する撮像条件を示すメタデータである。メタデータM2は、黒オフセットレベル(黒レベル)に関する撮像条件を示すメタデータである。メタデータM3,M4は、シェーディングに関する撮像条件を示すメタデータである。メタデータM5,M6は、ディストーションに関する撮像条件を示すメタデータである。メタデータM7は、ホワイトバランス(WB:White Balance)に関する撮像条件を示すメタデータである。
【0051】
図3に示す例では、フレームデータF1の撮像とフレームデータF2の撮像との間においては、撮像条件が変更されていない。この場合、撮像制御部104は、フレームデータF2と対応付けたメタデータを生成しない。
【0052】
また、
図3に示す例では、フレームデータF2の撮像とフレームデータF3の撮像との間において、ホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のホワイトバランスに関する撮像条件を示すメタデータM8(WB)をフレームデータF3と対応付けて生成する。
【0053】
また、
図3に示す例では、フレームデータF3の撮像とフレームデータF4の撮像との間において、シェーディング、ディストーション、及びホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のシェーディングに関する撮像条件を示すメタデータM9,M10と、変更後のディストーションに関する撮像条件を示すメタデータM11,M12と、変更後のホワイトバランスに関する撮像条件を示すメタデータM13と、をフレームデータF4と対応付けて生成する。
【0054】
また、
図3に示す例では、フレームデータF4の撮像とフレームデータF5の撮像との間においては、撮像条件が変更されていない。この場合、撮像制御部104は、フレームデータF5と対応付けたメタデータを生成しない。
【0055】
<実施の形態1に係る出力制御部110による出力制御>
図4は、実施の形態1に係る出力制御部110による出力制御の一例を示す図である。
図3に示したメタデータの生成の例において、出力制御部110は、例えば
図4に示すようにフレームデータ及びメタデータを出力する。
【0056】
この例では、1つのメタデータのデータ量を28[byte]とし、1つのフレームデータに付加して外部出力I/F111から出力可能なメタデータの容量を28×4[byte]とする。すなわち、1つのフレームデータに付加して4つのメタデータを出力可能であるとする。なお、例えば、HDMIにおいてメタデータを格納可能なパケットコンテナは、ハードウェアでブランキング期間に挿入されるため、容量の上限が決まっており、この例と同様に28×4[byte]/フレームなどの制限がある。
【0057】
フレームデータF1に対応付けられたメタデータの数は、メタデータM1~M7の7つであり、フレームデータF1に付加可能なメタデータの数(4つ)を超えている。すなわち、フレームデータF1に対応付けられたメタデータのデータ量は、28×7[byte]であり、フレームデータF1に付加可能なデータ量(28×4[byte])を超えている。
【0058】
この場合に、出力制御部110は、フレームデータF1に対応付けられたメタデータM1~M7のうち、メタデータM1~M7の優先度に基づいて選択したメタデータをフレームデータF1に付加し、外部出力I/F111から外部記録装置120へ出力させる。この例では、解像度、黒レベル、シェーディング、ディストーション、ホワイトバランスの順に優先度が高いとする。この場合に、出力制御部110は、メタデータM1~M7の中から優先度が高い順に選択した4つのメタデータM1~M4をフレームデータF1に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0059】
また、出力制御部110は、フレームデータF1に付加しなかったメタデータM5~M7については、フレームデータF1の次のフレームデータF2に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0060】
また、出力制御部110は、フレームデータF3に対応付けられたメタデータM8をフレームデータF3に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0061】
フレームデータF4に対応付けられたメタデータの数は、メタデータM9~M13の5つであり、フレームデータF4に付加可能なメタデータの数(4つ)を超えている。この場合に、出力制御部110は、メタデータM9~M13の中から優先度が高い順に選択した4つのメタデータM9~M12をフレームデータF4に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0062】
また、出力制御部110は、フレームデータF4に付加しなかったメタデータM13については、フレームデータF4の次のフレームデータF5に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0063】
<現像処理の具体例>
図4に示した例における現像処理について説明する。
図4に示した例では、フレームデータF1の解像度、黒レベル、及びシェーディングに関する現像処理は、フレームデータF1に付加されたメタデータM1~M4を用いて行われる。なお、フレームデータF1に適用可能なディストーション及びホワイトバランスに関するメタデータはないため、例えば、ディストーション及びホワイトバランスに関しては予め定められたメタデータを用いてフレームデータF1の現像処理が行われる。
【0064】
フレームデータF2のディストーション及びホワイトバランスに関する現像処理は、フレームデータF2に付加されたメタデータM5~M7を用いて行われる。また、フレームデータF2の解像度、黒レベル、及びシェーディングに関する現像処理は、メタデータM1~M4を用いて行われる。
【0065】
フレームデータF3のホワイトバランスに関する現像処理は、フレームデータF3に付加されたメタデータM8を用いて行われる。また、フレームデータF3の解像度、黒レベル、シェーディング、及びディストーションに関する現像処理は、メタデータM1~M6を用いて行われる。
【0066】
フレームデータF4のシェーディング及びディストーションに関する現像処理は、フレームデータF4に付加されたメタデータM9~M12を用いて行われる。また、フレームデータF4の解像度、黒レベル、及びホワイトバランスに関する現像処理は、メタデータM1,M2,M8を用いて行われる。
【0067】
フレームデータF5のホワイトバランスに関する現像処理は、フレームデータF5に付加されたメタデータM13を用いて行われる。また、フレームデータF5の解像度、黒レベル、シェーディング、及びディストーションに関する現像処理は、メタデータM1,M2,M9~M12を用いて行われる。
【0068】
<実施の形態1に係る撮像装置100による処理>
図5は、実施の形態1に係る撮像装置100による処理の一例を示すフローチャートである。実施の形態1に係る撮像装置100は、例えば
図5に示す処理を実行する。
図5に示す処理は、例えば、撮像制御部104や出力制御部110を実現するプロセッサによって実行される。
【0069】
まず、撮像装置100は、撮像部119を制御して、動画の撮像を開始する(ステップS51)。次に、撮像装置100は、nを1に設定し、撮像部119によるn番目の撮像まで待機する(ステップS52)。nは、現在の処理対象のフレームの番号を示す。
【0070】
次に、撮像装置100は、n-1番目の撮像からn番目の撮像において変更があった撮像条件を示すメタデータを、n番目のフレームデータと対応付けて生成する(ステップS53)。ただし、ステップS53においてn=1の場合、撮像装置100は、全ての撮像条件についてメタデータを、n番目のフレームデータと対応付けて生成する。また、ステップS53において、n-1番目の撮像からn番目の撮像においていずれの撮像条件も変更されていない場合、撮像装置100はメタデータを生成しない。
【0071】
次に、撮像装置100は、n番目のフレームデータに付加して出力するメタデータを、1つのフレームデータに付加可能な範囲で選択する(ステップS54)。ステップS54において、撮像装置100は、n-1番目以前のフレームデータと対応付けられた未出力のメタデータ(前フレームの未出力のメタデータ)、n番目のフレームデータと対応付けられたメタデータのうち優先度が高いメタデータ、の優先順位で選択を行う。
【0072】
すなわち、撮像装置100は、n-1番目以前のフレームデータと対応付けられた未出力のメタデータが存在すればそのメタデータを選択し、さらに空きがあればn番目のフレームデータと対応付けられたメタデータのうち優先度が高いメタデータを選択する。なお、n-1番目以前のフレームデータと対応付けられた未出力のメタデータが、1つのフレームデータに付加可能な範囲を超えて存在する場合、撮像装置100は、その未出力のメタデータの中から優先度が高いメタデータを選択する。なお、撮像条件の変更がない状態が続いた場合等、ステップS54において選択対象のメタデータが存在しない場合もあるが、この場合、撮像装置100はメタデータの選択を行わない。
【0073】
次に、撮像装置100は、ステップS54により選択したメタデータを、n番目のフレームデータに付加する(ステップS55)。なお、ステップS54において選択対象のメタデータが存在しなかった場合、撮像装置100はメタデータの付加を行わない。
【0074】
次に、撮像装置100は、ステップS55によりメタデータを付加したn番目のフレームデータを、外部出力I/F111から外部記録装置120へ出力する(ステップS56)。なお、撮像装置100は、ステップS55においてメタデータの付加を行わなかった場合は、メタデータを付加していない状態のn番目のフレームデータを、外部出力I/F111から外部記録装置120へ出力する。
【0075】
次に、撮像装置100は、nをインクリメント(n=n+1)して撮像部119によるn番目の撮像まで待機し(ステップS57)、ステップS53へ戻る。
【0076】
このように、実施の形態1の撮像装置100は、デモザイク前のフレームデータ(RAW動画データ)を外部の外部記録装置120に出力する。これにより、撮像装置100が高速で大容量の記憶媒体を有していなくても、データレートが高いRAW動画データを記録することが可能になる。また、撮像装置100は、フレームデータとともにメタデータも外部記録装置120へ出力することで、外部記録装置120に記憶されたフレームデータ及びメタデータに基づく現像処理を容易に行うことができる。
【0077】
また、撮像装置100は、撮像部119の撮像条件が変更されたときのフレームデータと対応付けて、その撮像条件を示すメタデータを生成し、生成したメタデータをフレームデータに付加してデモザイク前の動画データとして出力する。これにより、例えば撮像条件の変更がなくてもフレームデータ毎に全てのメタデータを出力する構成と比べて、出力するメタデータのデータ量を低減することができる。
【0078】
このため、例えばフレームデータのブランキング期間などの限られた通信容量にてメタデータを出力することができる。また、ブランキング期間の通信容量を増やさなくてもよいため、ブランキング期間の通信容量の増加によりフレームレートが変化したり、接続互換仕様が守れなくなったりするという問題を抑制することができる。
【0079】
また、撮像装置100は、フレームデータに対応付けられたメタデータのデータ量が、そのフレームデータに付加可能なデータ量を超えている場合に、そのフレームデータに対応付けられたメタデータのうち、メタデータの種別に基づく優先度に基づいて選択したメタデータをそのフレームデータに付加する。これにより、現像処理に用いられる種別のメタデータを優先的に出力することができる。このため、フレームデータ毎に全てのメタデータを出力しなくても、現像処理の結果への影響を抑制することができる。
【0080】
例えば、撮像の開始時には、各撮像条件のメタデータが生成されることになる。また、例えば、ズームレンズの焦点を変更すると、多くのレンズ補正用のメタデータが新たに生成される。これらの場合は、生成されるメタデータを1つのフレームデータで出力しきれないことがあるが、撮像装置100によれば、現像処理に用いられる種別のメタデータを優先的に出力することで、現像処理の結果(例えばデモザイク動画の画質)への影響を抑制することができる。
【0081】
また、撮像装置100は、出力する第2フレームデータに対応付けられたメタデータと、その第2フレームデータより前の第1フレームデータに付加しないメタデータと、のうち第1フレームデータに付加しないメタデータを優先的に第2フレームデータに付加する。これにより、出力が遅延しているメタデータを優先的に出力し、メタデータの出力の遅延による現像処理の結果への影響を抑制することができる。
【0082】
(実施の形態2)
実施の形態2について、実施の形態1と異なる部分について説明する。
【0083】
<実施の形態2に係るメタデータの即時出力フラグ>
図6は、実施の形態2に係るメタデータの即時出力フラグの一例を示す図である。
図6に示すように、各メタデータには、種別毎に即時出力フラグが設定されていてもよい。即時出力フラグは、メタデータが、そのメタデータと対応付けられたフレームデータに付加して出力(すなわち即時出力)されるべきことを示す。
【0084】
即時出力フラグが設定されるメタデータの種別の数は、例えば、即時出力フラグが設定された全てのメタデータを1つのフレームデータに付加できるように決定される。これにより、少なくとも即時出力フラグが設定された種別のメタデータについては、そのメタデータと対応付けられたフレームデータに付加して遅延なく出力することができる。
【0085】
図6に示す例では、即時出力フラグは、黒オフセットレベル、RAW数値を表色系に変換する係数、及びホワイトバランスパラメータに関する撮像条件を示す3種類のメタデータのみに設定されている。
【0086】
<実施の形態2に係る撮像制御部104によるメタデータの生成>
図7は、実施の形態2に係る撮像制御部104によるメタデータの生成の一例を示す図である。
図7において、
図3に示した部分と同様の部分については同一の符号を付して説明を省略する。
【0087】
メタデータM1~M15は、撮像制御部104によって生成されるメタデータである。メタデータM1~M7は、撮像の開始時に設定されていた各撮像条件を示すデータであり、撮像の開始後の最初のフレームデータF1と対応付けて生成される。
【0088】
図7に示す例では、フレームデータF1の撮像とフレームデータF2の撮像との間において、黒オフセットレベル及びホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後の黒オフセットレベルに関する撮像条件を示すメタデータM8(黒レベル)と、変更後のホワイトバランスに関する撮像条件を示すメタデータM9(WB)と、をフレームデータF2と対応付けて生成する。
【0089】
また、
図7に示す例では、フレームデータF2の撮像とフレームデータF3の撮像との間において、ホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のホワイトバランスに関する撮像条件を示すメタデータM10(WB)をフレームデータF3と対応付けて生成する。
【0090】
また、
図7に示す例では、フレームデータF3の撮像とフレームデータF4の撮像との間において、シェーディング及びディストーションに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のシェーディングに関する撮像条件を示すメタデータM11,M12と、変更後のディストーションに関する撮像条件を示すメタデータM13,M14と、をフレームデータF4と対応付けて生成する。
【0091】
また、
図7に示す例では、フレームデータF4の撮像とフレームデータF5の撮像との間においては、撮像条件が変更されていない。この場合、撮像制御部104は、フレームデータF5と対応付けたメタデータを生成しない。
【0092】
<実施の形態2に係る出力制御部110による出力制御>
図8は、実施の形態2に係る出力制御部110による出力制御の一例を示す図である。
図7に示したメタデータの生成の例において、出力制御部110は、例えば
図8に示すようにフレームデータ及びメタデータを出力する。
図8において、太線で囲んだメタデータは、上記の即時出力フラグが設定された種別のメタデータである。
【0093】
フレームデータF1に対応付けられたメタデータの数は、メタデータM1~M7の7つであり、フレームデータF1に付加可能なメタデータの数(4つ)を超えている。この例では、撮像装置100は、まず即時出力フラグが設定されたメタデータM2,M7を選択し、次いで、優先度が高い順にメタデータM1,M3を選択する。すなわち、撮像装置100は、メタデータM1~M3,M7をフレームデータF1に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0094】
また、出力制御部110は、フレームデータF1に対応付けられているがフレームデータF1に付加しなかったメタデータM4~M6と、フレームデータF2に対応付けられたメタデータM8,M9と、の中からフレームデータF2に付加して出力するメタデータを選択する。このとき、出力制御部110は、まず即時出力フラグが設定されたメタデータM8,M9を選択し、次いで、優先度が高い順にメタデータM4,M5を選択する。すなわち、撮像装置100は、メタデータM4,M5,M8,M9をフレームデータF2に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0095】
また、出力制御部110は、フレームデータF2に対応付けられているがフレームデータF2に付加しなかったメタデータM6と、フレームデータF3に対応付けられたメタデータM10をフレームデータF3に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0096】
また、出力制御部110は、フレームデータF4に対応付けられたメタデータM11~M14をフレームデータF4に付加し、外部出力I/F111から外部記録装置120へ出力させる。また、出力制御部110は、メタデータを付加せずにフレームデータF5を外部出力I/F111から外部記録装置120へ出力させる。
【0097】
<実施の形態2に係る撮像装置100による処理>
図9は、実施の形態2に係る撮像装置100による処理の一例を示すフローチャートである。実施の形態2に係る撮像装置100は、例えば
図9に示す処理を実行する。
図9に示す処理は、例えば、撮像制御部104や出力制御部110を実現するプロセッサによって実行される。
【0098】
図9に示すステップS91~S97は、
図5に示したステップS51~S57と同様である。ただし、ステップS94において、撮像装置100は、即時出力フラグ付きのメタデータ、n-1番目以前のフレームデータと対応付けられた未出力のメタデータ(前フレームの未出力のメタデータ)、n番目のフレームデータと対応付けられたメタデータのうち優先度が高いメタデータ、の優先順位で選択を行う。すなわち、撮像装置100は、n番目のフレームデータと対応付けられ即時出力フラグが設定されたメタデータが存在する場合は、そのメタデータを最優先で選択する。
【0099】
このように、実施の形態2の出力制御部110は、出力が遅延しているメタデータよりも、即時出力フラグが設定された種別のメタデータを先に出力することで、現像処理において重要なメタデータについては出力が遅延しないようにすることができる。
【0100】
(実施の形態3)
実施の形態3について、実施の形態1,2と異なる部分について説明する。
【0101】
<実施の形態3に係る撮像制御部104によるメタデータの生成>
図10は、実施の形態3に係る撮像制御部104によるメタデータの生成の一例を示す図である。
図10において、
図3に示した部分と同様の部分については同一の符号を付して説明を省略する。
【0102】
メタデータM1~M14は、撮像制御部104によって生成されるメタデータである。メタデータM1~M7は、撮像の開始時に設定されていた各撮像条件を示すデータであり、撮像の開始後の最初のフレームデータF1と対応付けて生成される。
【0103】
図10に示す例では、フレームデータF1の撮像とフレームデータF2の撮像との間において、ホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のホワイトバランスに関する撮像条件を示すメタデータM8(WB)をフレームデータF2と対応付けて生成する。
【0104】
また、
図10に示す例では、フレームデータF2の撮像とフレームデータF3の撮像との間において、ホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のホワイトバランスに関する撮像条件を示すメタデータM9(WB)をフレームデータF3と対応付けて生成する。
【0105】
また、
図10に示す例では、フレームデータF3の撮像とフレームデータF4の撮像との間において、シェーディング、ディストーション、及びホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のシェーディングに関する撮像条件を示すメタデータM10,M11と、変更後のディストーションに関する撮像条件を示すメタデータM12,M13と、変更後のホワイトバランスに関する撮像条件を示すメタデータM14と、をフレームデータF4と対応付けて生成する。
【0106】
また、
図10に示す例では、フレームデータF4の撮像とフレームデータF5の撮像との間においては、撮像条件が変更されていない。この場合、撮像制御部104は、フレームデータF5と対応付けたメタデータを生成しない。
【0107】
<実施の形態3に係る出力制御部110による出力制御>
図11は、実施の形態3に係る出力制御部110による出力制御の一例を示す図である。
図10に示したメタデータの生成の例において、出力制御部110は、例えば
図11に示すようにフレームデータ及びメタデータを出力する。
【0108】
フレームデータF1に対応付けられたメタデータの数は、メタデータM1~M7の7つであり、フレームデータF1に付加可能なメタデータの数(4つ)を超えている。この場合に、出力制御部110は、
図4に示した例と同様に、メタデータM1~M7の中から優先度が高い順に選択した4つのメタデータM1~M4をフレームデータF1に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0109】
また、出力制御部110は、フレームデータF1に付加しなかったメタデータM7については、メタデータM7と同じホワイトバランスに関する撮像条件を示すメタデータM8がフレームデータF1の次のフレームデータF2に対応付けられているため、破棄する。また、出力制御部110は、フレームデータF1に付加しなかったメタデータM5,M6と、フレームデータF2と対応付けられたメタデータM8と、をフレームデータF2に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0110】
換言すると、フレームデータF1と対応付けられているがフレームデータF1に付加されなかったメタデータM7は、フレームデータF2に付加して出力するメタデータの候補となるが、フレームデータF2に対応付けられた同種のメタデータM8が存在する場合、メタデータM7に上書きしてメタデータM8が、フレームデータF2に付加して出力される。
【0111】
また、出力制御部110は、フレームデータF3に対応付けられたメタデータM9をフレームデータF3に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0112】
また、出力制御部110は、フレームデータF4に対応付けられたメタデータM10~M14の中から優先度が高い順に選択した4つのメタデータM10~M13をフレームデータF4に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0113】
また、出力制御部110は、フレームデータF4に付加しなかったメタデータM14については、フレームデータF4の次のフレームデータF5に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0114】
<実施の形態3に係る撮像装置100による処理>
図12は、実施の形態3に係る撮像装置100による処理の一例を示すフローチャートである。実施の形態3に係る撮像装置100は、例えば
図12に示す処理を実行する。
図12に示す処理は、例えば、撮像制御部104や出力制御部110を実現するプロセッサによって実行される。
【0115】
図12に示すステップS121~S123は、
図5に示したステップS51~S53と同様である。ステップS123の次に、撮像装置100は、ステップS123によって生成したメタデータと同一種別の、n-1番目以前のフレームデータと対応付けられた未出力のメタデータ(前フレームの未出力のメタデータ)があれば、その前フレームの未出力のメタデータを破棄し(ステップS124)、ステップS125へ移行する。
【0116】
図12に示すステップS125~S128は、
図5に示したステップS54~S57と同様である。ステップS125においては、ステップS124によって破棄されたメタデータは選択対象とならない。
【0117】
このように、実施の形態3の出力制御部110は、第1フレームデータと対応付けられたメタデータのうち第1フレームデータに付加しないメタデータが示す撮像条件が、第1フレームデータの後の第2フレームデータの撮像時に変更されている場合は、その変更の前後のメタデータのうち変更の後の撮像条件を示すメタデータを第2フレームデータに付加する。これにより、出力が遅延したメタデータのうち、撮像条件が変更され現像に不要になったメタデータは出力しないようにし、出力の効率を向上させることができる。
【0118】
(実施の形態4)
実施の形態4について、実施の形態1~3と異なる部分について説明する。
【0119】
<実施の形態4に係る出力制御部110による出力制御>
図13は、実施の形態4に係る出力制御部110による出力制御の一例を示す図である。
図3に示したメタデータの生成の例において、実施の形態4に係る出力制御部110は、例えば
図13に示すようにフレームデータ及びメタデータを出力する。
図13に示す出力制御の例は、遅延して出力されるメタデータに遅延データが付加されている点を除いて、
図4に示した出力制御の例と同様である。
【0120】
具体的には、出力制御部110は、フレームデータF1に元々対応しているがフレームデータF2に付加して(すなわち遅延して)出力するメタデータM5,M6に対して、メタデータM5,M6が元々対応するフレームデータF1を特定可能な遅延データを付加する。これにより、現像処理において、メタデータM5,M6はフレームデータF1から適用すべきデータであることを特定することができるため、メタデータM5,M6の出力が遅延しても、現像処理の結果への影響を抑制することができる。
【0121】
図13に示す例では、メタデータM5,M6に付加される遅延データは、メタデータM5,M6が付加されるフレームデータF2が、メタデータM5,M6が元々対応するフレームデータF1に対して1フレーム遅延していることを示すデータ(遅延1)である。これにより、遅延データのデータ量が大きくなることを抑制することができる。ただし、メタデータM5,M6に付加される遅延データは、メタデータM5,M6が元々対応しているフレームデータF1のフレーム番号等であってもよい。
【0122】
同様に、出力制御部110は、フレームデータF4に元々対応しているがフレームデータF5に付加して(すなわち遅延して)出力するメタデータM13に対して、メタデータM13が元々対応するフレームデータF4を特定可能な遅延データを付加する。
【0123】
これにより、現像処理において、メタデータM13はフレームデータF4から適用すべきデータであることを特定することができるため、メタデータM13の出力が遅延しても、現像処理の結果への影響を抑制することができる。
【0124】
<遅延データを用いた現像処理の例>
フレームデータF1のディストーション及びホワイトバランスに関する現像処理は、フレームデータF2に付加されたメタデータM5~M7を用いて行われる。また、フレームデータF4のホワイトバランスに関する現像処理は、フレームデータF5に付加されたメタデータM13を用いて行われる。その他の現像処理は、
図4に示した出力制御の例における現像処理と同様である。
【0125】
<実施の形態4に係る撮像装置100による処理>
図14は、実施の形態4に係る撮像装置100による処理の一例を示すフローチャートである。実施の形態4に係る撮像装置100は、例えば
図14に示す処理を実行する。
図14に示す処理は、例えば、撮像制御部104や出力制御部110を実現するプロセッサによって実行される。
【0126】
図14に示すステップS141~S144は、
図5に示したステップS51~S54と同様である。ステップS144の次に、撮像装置100は、ステップS144によって選択したメタデータに遅延したメタデータ(前フレームの未出力のメタデータ)が存在する場合、そのメタデータに、そのメタデータが対応するフレームデータを特定可能な遅延データを付加する(ステップS145)。
図14に示すステップS146~S148は、
図5に示したステップS55~S57と同様である。
【0127】
このように、実施の形態4の出力制御部110は、第1フレームデータと対応付けられたメタデータのうち第1フレームデータに付加しないメタデータを、第1フレームデータの後の第2フレームデータに付加する際に、第1フレームデータを特定可能なデータを第2フレームデータ(例えば第2フレームデータに付加したメタデータ)に付加する。これにより、メタデータの出力が遅延しても、現像処理の際には前のフレームデータに溯ってメタデータを適用できるため、現像処理の結果への影響を抑制することができる。なお、実施の形態4においては、フレームデータに付加するメタデータを選択する際に、優先度を用いなくてもよい。
【0128】
(実施の形態5)
実施の形態5について、実施の形態1~4と異なる部分について説明する。
【0129】
実施の形態5において、撮像部119は、撮像の撮像条件を、複数フレーム毎にのみ変更可能である。
【0130】
<実施の形態5に係る撮像制御部104によるメタデータの生成>
図15は、実施の形態5に係る撮像制御部104によるメタデータの生成の一例を示す図である。
図15において、
図3に示した部分と同様の部分については同一の符号を付して説明を省略する。
【0131】
メタデータM1~M13は、撮像制御部104によって生成されるメタデータである。撮像制御部104は、デモザイク処理部107によって得られたデモザイク画像やユーザからの指示に応じて撮像部119による撮像の条件を変更するが、
図15に示す例では、奇数番目の撮像において撮像条件を変更可能であり、偶数番目の撮像においては撮像条件を変更不可とする。例えば、撮像制御部104は、フレームデータF1とフレームデータF2との間において撮像条件を変更する操作を受け付けたとしても、その変更はフレームデータF2の撮像には適用せず、フレームデータF3の撮像から適用するようにする。
【0132】
このため、新たなメタデータは奇数番目のフレームデータにのみ対応付けて生成される。
図15に示す例では、フレームデータF1,F3,F5と対応付けてメタデータが生成されているが、フレームデータF2,F4と対応付いたメタデータは生成されていない。
【0133】
メタデータM1~M7は、撮像の開始時に設定されていた各撮像条件を示すデータであり、撮像の開始後の最初のフレームデータF1と対応付けて生成される。
【0134】
また、
図15に示す例では、フレームデータF2の撮像とフレームデータF3の撮像との間において、シェーディング、ディストーション、及びホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のシェーディングに関する撮像条件を示すメタデータM8,M9と、変更後のディストーションに関する撮像条件を示すメタデータM10,M11と、変更後のホワイトバランスに関する撮像条件を示すメタデータM12と、をフレームデータF3と対応付けて生成する。
【0135】
また、
図15に示す例では、フレームデータF4の撮像とフレームデータF5の撮像との間において、ホワイトバランスに関する撮像条件が変更されたとする。この場合、撮像制御部104は、変更後のホワイトバランスに関する撮像条件を示すメタデータM13をフレームデータF5と対応付けて生成する。
【0136】
<実施の形態5に係る撮像制御部104によるメタデータの生成>
図16は、実施の形態5に係る出力制御部110による出力制御の一例を示す図である。
図16において、
図4に示した部分と同様の部分については同一の符号を付して説明を省略する。
【0137】
フレームデータF1に対応付けられたメタデータの数は、メタデータM1~M7の7つであり、フレームデータF1に付加可能なメタデータの数(4つ)を超えている。この場合に、出力制御部110は、
図4に示した例と同様に、メタデータM1~M7の中から優先度が高い順に選択した4つのメタデータM1~M4をフレームデータF1に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0138】
また、出力制御部110は、フレームデータF1に付加しなかったメタデータM5~M7については、フレームデータF1の次のフレームデータF2に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0139】
また、フレームデータF3に対応付けられたメタデータの数は、メタデータM8~M12の5つであり、フレームデータF3に付加可能なメタデータの数(4つ)を超えている。この場合に、出力制御部110は、メタデータM8~M12の中から優先度が高い順に選択した4つのメタデータM8~M11をフレームデータF3に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0140】
また、出力制御部110は、フレームデータF3に付加しなかったメタデータM12については、フレームデータF3の次のフレームデータF4に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0141】
また、出力制御部110は、フレームデータF5に対応付けられたメタデータM13を、フレームデータF5に付加し、外部出力I/F111から外部記録装置120へ出力させる。
【0142】
このように、実施の形態5に係る撮像装置100は、撮像部119における撮像の撮像条件を、複数フレーム毎にのみ変更可能である。これにより、メタデータの生成頻度が減り、フレームデータのブランキング期間などの通信容量が小さくてもメタデータを出力することができる。また、特定のフレームデータにおいては撮像条件が変更されないことを考慮した現像処理が可能である。このため、メタデータの出力の遅延による現像処理の結果への影響を抑制することができる。
【0143】
例えば、
図16に示した例において、撮像条件の変更がないフレームデータF2に付加されたメタデータM5~M7は、直前のフレームデータF1において適用された撮像条件を示すことが分かるため、フレームデータF1の現像処理から適用される。また、撮像条件の変更がないフレームデータF4に付加されたメタデータM12は、直前のフレームデータF3において適用された撮像条件を示すことが分かるため、フレームデータF3の現像処理から適用される。
【0144】
(実施の形態6)
実施の形態6について、実施の形態1~5と異なる部分について説明する。撮像装置100の一時記憶部106に記憶されたフレームデータ(RAW動画データ)及びメタデータを、撮像装置100の外部の外部記録装置120へ出力する構成について説明したが、このような構成に限らない。
【0145】
<実施の形態6に係る撮像装置100>
図17は、実施の形態6に係る撮像装置100の一例を示す図である。
図17において、
図1に示した部分と同様の部分については同一の符号を付して説明を省略する。
【0146】
実施の形態6にかかる撮像装置100は、
図1に示した外部出力I/F111に代えて、内部出力I/F124、内部入力I/F125、記録制御部122、及び記録媒体123を備える。
【0147】
内部出力I/F124は、
図1に示した外部出力I/F111と同様のHDMI等のインタフェースであるが、撮像装置100の内部の内部入力I/F125との間で通信を行う点で外部出力I/F111と異なる。内部入力I/F125は、
図1に示した外部記録装置120の外部入力I/F121と同様のHDMI等のインタフェースであるが、撮像装置100の内部に設けられている点で外部入力I/F121と異なる。
【0148】
図17に示す記録制御部122及び記録媒体123は、
図1に示した記録制御部122及び記録媒体123と同様の構成であるが、撮像装置100の内部に設けられている。すなわち、
図17に示す撮像装置100は、高速で大容量の記録媒体123を内蔵しており、撮像装置100の内部のHDMI等のインタフェースを用いてフレームデータ(RAW動画データ)及びメタデータを記録媒体123へ出力する。
【0149】
このような構成においても、
図1に示した撮像装置100と同様に、撮像部119の撮像条件が変更されたときのフレームデータと対応付けて、その撮像条件を示すメタデータを生成し、生成したメタデータをフレームデータに付加してデモザイク前の動画データとして出力する。これにより、出力するメタデータのデータ量を低減することができる。
【0150】
このため、例えばフレームデータのブランキング期間などの限られた通信容量にてメタデータを出力することができる。また、ブランキング期間の通信容量を増やさなくてもよいため、ブランキング期間の通信容量の増加によりフレームレートが変化したり、接続互換仕様が守れなくなったりするという問題を抑制することができる。
【0151】
また、撮像装置100は、フレームデータに対応付けられたメタデータのデータ量が、そのフレームデータに付加可能なデータ量を超えている場合に、そのフレームデータに対応付けられたメタデータのうち、メタデータの種別に基づく優先度に基づいて選択したメタデータをそのフレームデータに付加する。これにより、現像処理に用いられる種別のメタデータを優先的に出力することができる。このため、フレームデータ毎に全てのメタデータを出力しなくても、現像処理の結果への影響を抑制することができる。
【0152】
(各実施の形態の組み合わせ)
上述した各実施の形態は、組み合わせて実現することも可能である。例えば、実施の形態6に係る撮像装置100の構成において、実施の形態2~5と同様の処理を実現することも可能である。
【0153】
(変形例)
上述した各実施の形態において、各フレームデータにはその時点で可能な限りメタデータを付加する処理について説明したが、このような処理に限らない。例えば、
図4に示した例において、撮像装置100は、フレームデータF1に3つのメタデータM1~M3のみを付加し、フレームデータF2にメタデータM4~M7を付加してもよい。
【0154】
以上説明してきたように、本明細書には少なくとも以下の事項が記載されている。
【0155】
(1)
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部と、
上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成するメタデータ生成部と、
上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力する出力部と、を備え、
上記出力部は、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加する、
動画撮像装置。
【0156】
(2)
(1)記載の動画撮像装置であって、
上記優先度は、上記メタデータの種別に基づく優先度である、
動画撮像装置。
【0157】
(3)
(1)又は(2)記載の動画撮像装置であって、
上記メタデータ生成部は、上記撮像部による撮像の開始時における上記撮像部の撮像条件を示すメタデータを、上記撮像の開始後の最初の上記フレームデータと対応付けて生成する、
動画撮像装置。
【0158】
(4)
(1)から(3)のいずれか1つに記載の動画撮像装置であって、
上記出力部は、上記撮像部により生成された第1フレームデータに対応付けられたメタデータのうち上記第1フレームデータに付加しないメタデータを、上記第1フレームデータより後の第2フレームデータに付加する、
動画撮像装置。
【0159】
(5)
(4)記載の動画撮像装置であって、
上記出力部は、上記第2フレームデータに対応付けられたメタデータと、上記第1フレームデータに付加しないメタデータと、のうち上記第1フレームデータに付加しないメタデータを優先的に上記第2フレームデータに付加する、
動画撮像装置。
【0160】
(6)
(4)又は(5)記載の動画撮像装置であって、
上記出力部は、上記第1フレームデータと対応付けられた上記メタデータのうち上記第1フレームデータに付加しないメタデータが示す上記撮像部の撮像条件が上記第2フレームデータの撮像時に変更されている場合は、上記変更の前後の上記撮像条件を示すメタデータのうち上記変更の後の撮像条件を示すメタデータを上記第2フレームデータに付加する、
動画撮像装置。
【0161】
(7)
(4)から(6)のいずれか1つに記載の動画撮像装置であって、
上記出力部は、上記第1フレームデータと対応付けられた上記メタデータのうち上記第1フレームデータに付加しないメタデータを上記第2フレームデータに付加する際に、上記第1フレームデータを特定可能なデータを上記第2フレームデータに付加する、
動画撮像装置。
【0162】
(8)
(1)から(7)のいずれか1つに記載の動画撮像装置であって、
上記撮像部は、上記撮像条件を複数フレーム毎に変更可能である、
動画撮像装置。
【0163】
(9)
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置による動画撮像方法であって、
上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成し、
上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力し、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加する、
動画撮像方法。
【0164】
(10)
(9)記載の動画撮像方法であって、
上記優先度は、上記メタデータの種別に基づく優先度である、
動画撮像方法。
【0165】
(11)
(9)又は(10)記載の動画撮像方法であって、
上記撮像部による撮像の開始時における上記撮像部の撮像条件を示すメタデータを、上記撮像の開始後の最初の上記フレームデータと対応付けて生成する、
動画撮像方法。
【0166】
(12)
(9)から(11)のいずれか1つに記載の動画撮像方法であって、
上記撮像部により生成された第1フレームデータに対応付けられたメタデータのうち上記第1フレームデータに付加しないメタデータを、上記第1フレームデータより後の第2フレームデータに付加する、
動画撮像方法。
【0167】
(13)
(12)記載の動画撮像方法であって、
上記第2フレームデータに対応付けられたメタデータと、上記第1フレームデータに付加しないメタデータと、のうち上記第1フレームデータに付加しないメタデータを優先的に上記第2フレームデータに付加する、
動画撮像方法。
【0168】
(14)
(12)又は(13)記載の動画撮像方法であって、
上記第1フレームデータと対応付けられた上記メタデータのうち上記第1フレームデータに付加しないメタデータが示す上記撮像部の撮像条件が上記第2フレームデータの撮像時に変更されている場合は、上記変更の前後の上記撮像条件を示すメタデータのうち上記変更の後の撮像条件を示すメタデータを上記第2フレームデータに付加する、
動画撮像方法。
【0169】
(15)
(12)から(14)のいずれか1つに記載の動画撮像方法であって、
上記第1フレームデータと対応付けられた上記メタデータのうち上記第1フレームデータに付加しないメタデータを上記第2フレームデータに付加する際に、上記第1フレームデータを特定可能なデータを上記第2フレームデータに付加する、
動画撮像方法。
【0170】
(16)
(9)から(15)のいずれか1つに記載の動画撮像方法であって、
上記撮像部は、上記撮像条件を複数フレーム毎に変更可能である、
動画撮像方法。
【0171】
(17)
動画の画像データを時間的に連続する複数のフレームデータとして生成する撮像部を備える動画撮像装置の動画撮像プログラムであって、
上記動画撮像装置のプロセッサに、
上記撮像部の撮像条件が変更されたときの上記フレームデータと対応付けて、上記撮像条件を示すメタデータを生成し、
上記フレームデータに上記メタデータを付加し、デモザイク前の動画データとして出力し、上記フレームデータに対応付けられた上記メタデータのデータ量が付加可能なデータ量を超えている場合に、上記フレームデータに対応付けられた上記メタデータのうち優先度に基づいて選択したメタデータを上記フレームデータに付加する、
処理を実行させるための動画撮像プログラム。
【符号の説明】
【0172】
100 撮像装置
101 撮像レンズ系
102 撮像素子
103 ADC
104 撮像制御部
105 RAW補正部
106 一時記憶部
107 デモザイク処理部
108 画像補正部
109 モニタ
110 出力制御部
111 外部出力I/F
119 撮像部
120 外部記録装置
121 外部入力I/F
122 記録制御部
123 記録媒体
124 内部出力I/F
125 内部入力I/F
F1~F5 フレームデータ
M1~M15 メタデータ