(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-01-17
(45)【発行日】2023-01-25
(54)【発明の名称】照明制御・撮影装置、合成映像生成装置、及びプログラム
(51)【国際特許分類】
H04N 23/74 20230101AFI20230118BHJP
H04N 23/743 20230101ALI20230118BHJP
H04N 23/60 20230101ALI20230118BHJP
H04N 23/76 20230101ALI20230118BHJP
H04N 5/262 20060101ALI20230118BHJP
G03B 15/00 20210101ALI20230118BHJP
G03B 15/02 20210101ALI20230118BHJP
【FI】
H04N5/235 400
H04N5/235 600
H04N5/232 300
H04N5/232 290
H04N5/243
H04N5/262 040
G03B15/00 H
G03B15/02 F
(21)【出願番号】P 2018199597
(22)【出願日】2018-10-23
【審査請求日】2021-09-22
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】100143568
【氏名又は名称】英 貢
(72)【発明者】
【氏名】三須 俊枝
(72)【発明者】
【氏名】三ツ峰 秀樹
【審査官】高野 美帆子
(56)【参考文献】
【文献】特開2016-009137(JP,A)
【文献】特開2009-081822(JP,A)
【文献】特開2012-068690(JP,A)
【文献】特開2019-057380(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/235
H04N 5/232
H04N 5/243
H04N 5/262
G03B 15/00
G03B 15/02
(57)【特許請求の範囲】
【請求項1】
被写体に照明光を照射するための1台又は複数台の照明装置と、
撮影映像フレームを特定可能とする時刻情報に基づいた所定の照明制御パターンにより前記照明装置を制御し、前記時刻情報を外部に出力する照明制御手段と、
前記照明装置によって照射された前記被写体を撮影することにより撮影映像を生成し、外部に出力するカメラと、を備え
、
前記照明制御手段は、前記所定の照明制御パターンとして、1台の当該照明装置に対して照射光量の調光と消灯とを前記撮影映像のフレーム周波数で切り替えるように制御することを特徴とする照明制御・撮影装置。
【請求項2】
前記照明制御手段は、前記所定の照明制御パターンにより、照射角度・照射範囲・照射光量・照射色のうちのいずれかについて、前記1台又は複数台の照明装置を制御することを特徴とする、請求項1に記載の照明制御・撮影装置。
【請求項3】
前記照明制御手段は、前記所定の照明制御パターンとして、複数台の当該照明装置の点灯又は照射光量の調光と消灯とを前記撮影映像のフレーム周波数で切り替えるように制御することを特徴とする、請求項1又は2に記載の照明制御・撮影装置。
【請求項4】
被写体に照明光を照射するための1台又は複数台の照明装置と、撮影映像フレームを特定可能とする時刻情報に基づいた所定の照明制御パターンにより前記照明装置を制御し、前記時刻情報を外部に出力する照明制御手段と、前記照明装置によって照射された前記被写体を撮影することにより撮影映像を生成し、外部に出力するカメラと、を備える照明制御・撮影装置から直接又は間接的に出力される当該時刻情報及び当該撮影映像を入力し、当該時刻情報に基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐し所定数の基底照明フレームとして分類する分岐部と、
前記所定数の基底照明フレームに対し個別にゲインを乗算する乗算手段と、
前記乗算手段を経て得られる当該所定数の基底照明フレームのうち2個以上を合成し、時系列の合成映像を生成する画像合成部と、
を備えることを特徴とする合成映像生成装置。
【請求項5】
請求項1から
3のいずれか一項に記載の照明制御・撮影装置から直接又は間接的に出力される当該時刻情報及び当該撮影映像を入力し、当該時刻情報に基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐し所定数の基底照明フレームとして分類する分岐部と、
前記所定数の基底照明フレームに対し個別にゲインを乗算する乗算手段と、
前記乗算手段を経て得られる当該所定数の基底照明フレームのうち2個以上を合成し、時系列の合成映像を生成する画像合成部と、
を備えることを特徴とする合成映像生成装置。
【請求項6】
前記乗算手段で用いるゲインを操作するように構成され
た操作部を備え、前記操作部は、前記所定数の基底照明フレームに対し個別に乗算可能とするゲインとして、ゼロ倍、等倍、減衰、増加のうちいずれかを操作するように構成されていることを特徴とする、請求項
4又は5に記載の合成映像生成装置。
【請求項7】
前記乗算手段は、前記所定数の基底照明フレームにおける入力画素値に対して直線又は曲線の単調増加関数を示す所定の関数による変換を施した後の画素値に対するゲインの乗算を行うように構成されていることを特徴とする、請求項
4から6
のいずれか一項に記載の合成映像生成装置。
【請求項8】
前記画像合成部は、移動型合成処理により前記撮影映像の毎フレーム時点において前記合成映像を生成するか、又は区分型合成処理により前記撮影映像の複数フレーム分の時間を単位として前記合成映像を生成することを特徴とする、請求項
4から7のいずれか一項に記載の合成映像生成装置。
【請求項9】
前記画像合成部は、前記合成映像の生成後に直線又は曲線の単調増加関数を示す所定の関数による変換を施して出力する手段を有することを特徴とする、請求項
4から8のいずれか一項に記載の合成映像生成装置。
【請求項10】
コンピュータを、請求項
4から9のいずれか一項に記載の合成映像生成装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、スタジオ等にて照明装置を用いて投光した被写体をカメラにより撮像する際の照明制御を行う照明制御・撮影装置、当該照明制御を経て撮影された映像信号を合成する合成映像生成装置、及びプログラムに関する。
【背景技術】
【0002】
従来、一般的なスタジオにおける写真や映像の撮影では、様々な照明効果を発生させるため、多数の照明装置を使用する。そして、各照明装置の姿勢や投光する範囲、輝度、色等(以下、照明状態)を適宜調整した上で、被写体の撮影を行う。通常、撮影中に、照明装置の一部又は全部について、被写体に対する照明状態の変更を行う。
【0003】
ところで、従来から、いわゆるバーチャルスタジオにおける実写の前景の映像及び合成対象の背景の映像を合成する合成映像生成システムが知られている(例えば、特許文献1参照)。
【0004】
特許文献1では、撮影カメラにより、バーチャルスタジオにおける前景となる被写体を撮影して前景の映像を生成するとともに、合成対象の背景の映像を生成し、その背景の映像と前景の映像とを合成して合成映像を生成する。このとき、背景の映像と前景の映像における照明量の差に基づいて、被写体側の照明位置及び照明量を表す被写体側照明パターンを算出し、その照明装置用の照明パターンにより照明装置が投射する光線方向及び照明量を制御して、撮影カメラにより前景となる被写体を撮影するものとなっている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
まず、従来の一般的なスタジオにおける写真や映像の撮影においては、撮影時(撮影前又は撮影中)に照明状態が適切に設定されている必要がある。換言すれば、撮影時には、照明装置の照射角度・照射範囲・照射光量・照射色について、全ての照明装置のバランス調整が必要になるため、各照明装置の照明効果が制限されたものとなり、且つ撮影時の照明環境における光の状態での映像(静止画像又は動画像を含む)しか得られない。
【0007】
また、特許文献1に開示されるバーチャルスタジオにおける撮影映像の生成も、撮影時に背景の映像と前景の映像における照明量の差に基づいて、照明装置が投射する光線方向及び照明量を制御する必要がある。従って、この場合も、照明装置の照射角度・照射範囲・照射光量・照射色について、撮影時に全ての照明装置のバランスが調整された被写体側照明パターンしか算出することができないため、各照明装置の照明効果が制限されたものとなり、且つ撮影時の環境光の状態における映像(静止画像又は動画像を含む)しか得られない。
【0008】
そこで、本発明の目的は、上述の問題に鑑みて、より照明効果の自由度を増大させ、且つS/Nを向上させて、照明装置を用いて投光した被写体をカメラにより撮像する際の照明制御を行う照明制御・撮影装置、当該照明制御を経て撮影された映像(静止画像又は動画像を含む)を合成する合成映像生成装置、及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
本発明の照明制御・撮影装置は、被写体に照明光を照射するための1台又は複数台の照明装置と、撮影映像フレームを特定可能とする時刻情報に基づいた所定の照明制御パターンにより前記照明装置を制御し、前記時刻情報を外部に出力する照明制御手段と、前記照明装置によって照射された前記被写体を撮影することにより撮影映像を生成し、外部に出力するカメラと、を備え、前記照明制御手段は、前記所定の照明制御パターンとして、1台の当該照明装置に対して照射光量の調光と消灯とを前記撮影映像のフレーム周波数で切り替えるように制御することを特徴とする。
【0010】
また、本発明の照明制御・撮影装置において、前記照明制御手段は、前記所定の照明制御パターンにより、照射角度・照射範囲・照射光量・照射色のうちのいずれかについて、前記1台又は複数台の照明装置を制御することを特徴とする。
【0011】
また、本発明の照明制御・撮影装置において、前記照明制御手段は、前記所定の照明制御パターンとして、複数台の当該照明装置の点灯又は照射光量の調光と消灯とを前記撮影映像のフレーム周波数で切り替えるように制御することを特徴とする。
【0012】
更に、本発明の合成映像生成装置は、被写体に照明光を照射するための1台又は複数台の照明装置と、撮影映像フレームを特定可能とする時刻情報に基づいた所定の照明制御パターンにより前記照明装置を制御し、前記時刻情報を外部に出力する照明制御手段と、前記照明装置によって照射された前記被写体を撮影することにより撮影映像を生成し、外部に出力するカメラと、を備える照明制御・撮影装置から直接又は間接的に出力される当該時刻情報及び当該撮影映像を入力し、当該時刻情報に基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐し所定数の基底照明フレームとして分類する分岐部と、前記所定数の基底照明フレームに対し個別にゲインを乗算する乗算手段と、前記乗算手段を経て得られる当該所定数の基底照明フレームのうち2個以上を合成し、時系列の合成映像を生成する画像合成部と、を備えることを特徴とする。
【0013】
更に、本発明の合成映像生成装置は、本発明の照明制御・撮影装置から直接又は間接的に出力される当該時刻情報及び当該撮影映像を入力し、当該時刻情報に基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐し所定数の基底照明フレームとして分類する分岐部と、前記所定数の基底照明フレームに対し個別にゲインを乗算する乗算手段と、前記乗算手段を経て得られる当該所定数の基底照明フレームのうち2個以上を合成し、時系列の合成映像を生成する画像合成部と、を備えることを特徴とする。
【0014】
また、本発明の合成映像生成装置において、前記乗算手段で用いるゲインを操作するように構成された操作部を備え、前記操作部は、前記所定数の基底照明フレームに対し個別に乗算可能とするゲインとして、ゼロ倍、等倍、減衰、増加のうちいずれかを操作するように構成されていることを特徴とする。
【0015】
また、本発明の合成映像生成装置において、前記乗算手段は、前記所定数の基底照明フレームにおける入力画素値に対して直線又は曲線の単調増加関数を示す所定の関数による変換を施した後の画素値に対するゲインの乗算を行うように構成されていることを特徴とする。
【0016】
また、本発明の合成映像生成装置において、前記画像合成部は、移動型合成処理により前記撮影映像の毎フレーム時点において前記合成映像を生成するか、又は区分型合成処理により前記撮影映像の複数フレーム分の時間を単位として前記合成映像を生成することを特徴とする。
【0017】
また、本発明の合成映像生成装置において、前記画像合成部は、前記合成映像の生成後に直線又は曲線の単調増加関数を示す所定の関数による変換を施して出力する手段を有することを特徴とする。
【0018】
また、本発明のプログラムは、コンピュータを、本発明の合成映像生成装置として機能させるためのプログラムとして構成されている。
【発明の効果】
【0019】
本発明の照明制御・撮影装置によれば、1台又は複数台の照明装置の照明を時々刻々変化させつつ、その照明制御パターンの照明下で撮影された撮影映像を照明制御パターンと関連する時刻情報とともに伝送又は記録するよう出力することができるので、スタジオ等における撮影映像について、より照明効果の自由度を増大させ、且つS/Nを向上させることができる。
【0020】
また、本発明の合成映像生成装置によれば、本発明の照明制御・撮影装置によって取得された撮影映像から当該照明装置の照明制御パターンに対応する撮影映像フレーム(基底照明フレーム)を得てゲインを操作して仮想的な照明配分における合成映像を生成するため、より照明効果の自由度を増大させ、且つS/Nを向上させることができる。
【0021】
従って、本発明によれば、スタジオ等における撮影映像について、より照明効果の自由度を増大させ、且つS/Nを向上させることができる。例えば、撮影後の撮影映像に対し照明効果を可変調節した新たな映像を得ることが可能となり、撮影後に照明条件の変更や、遠隔地における照明条件の変更、複数の異なる照明条件における映像の取得が可能となる。
【図面の簡単な説明】
【0022】
【
図1】本発明による一実施形態の照明制御・撮影装置及び合成映像生成装置の接続形態の一例を示したブロック図である。
【
図2】本発明による一実施形態の照明制御・撮影装置の概略構成の一例を示したブロック図である。
【
図3】(a)は本発明による一実施形態の照明制御・撮影装置における照明制御部と照明装置の概略構成の一例を示したブロック図であり、(b)はこの場合の照明制御パターンの一例を示す図である。
【
図4】(a)は本発明による一実施形態の照明制御・撮影装置における照明制御部による照明制御パターンの別例を示す図であり、(b)は照明制御パターンの更なる別例を示す図である。
【
図5】(a)は本発明による一実施形態の照明制御・撮影装置における照明制御部と照明装置の概略構成の別例を示したブロック図であり、(b)はこの場合の照明制御パターンの一例を示す図である。
【
図6】本発明による一実施形態の照明制御・撮影装置の概略構成の別例を示したブロック図である。
【
図7】(a)は本発明による一実施形態の照明制御・撮影装置における1台の照明装置を制御する照明制御部の例を示したブロック図であり、(b)はこの場合の照明制御パターンの一例を示す図である。
【
図8】本発明による一実施形態の合成映像生成装置の概略構成の一例を示したブロック図である。
【
図9】(a)は本発明による一実施形態の合成映像生成装置における画像合成部にて合成映像を生成する際に実行する移動型合成処理の一例を示す図であり、(b)は本発明による一実施形態の合成映像生成装置における画像合成部にて合成映像を生成する際に実行する区分型合成処理の一例を示す図である。
【
図10】(a)は従来技術として一般的なスタジオにおける写真や映像の撮影により得られる映像信号の被写体に対する照明効果を示す図であり、(b)は本発明による一実施形態の照明制御・撮影装置及び合成映像生成装置により得られる映像信号の被写体に対する照明効果を示す図である。
【発明を実施するための形態】
【0023】
以下、図面を参照しながら、本発明による一実施形態の照明制御・撮影装置1及び合成映像生成装置3について説明する。
【0024】
(全体構成)
図1は、本発明による一実施形態の照明制御・撮影装置1及び合成映像生成装置3の接続形態の一例を示したブロック図である。
図1に示すように、照明制御・撮影装置1と合成映像生成装置3とは直結してもよいし、照明制御・撮影装置1が生成した撮影映像を有線または無線により伝送し、一旦蓄積する伝送装置又は蓄積装置、若しくはその両方(
図1では、「伝送装置・蓄積装置2」として図示。)を介して接続してもよいものとなっている。
【0025】
照明制御・撮影装置1は、詳細な構成については
図2乃至
図7を参照して後述するが、被写体Sbjを照射するための1台又は複数台の照明装置(後述するように、1台、N台、若しくはM台の照明装置10)と、撮影映像フレームを特定可能とするタイムコード(時刻情報)に基づいた所定の照明制御パターンにより該照明装置10による照明を制御する照明制御部11と、当該1台又は複数台の照明装置10によって照射された被写体Sbjを撮影した撮影映像を生成するカメラ12とを備える。
【0026】
そして、照明制御・撮影装置1は、当該タイムコードと、当該撮影映像とを外部に出力するように構成される。
【0027】
合成映像生成装置3は、詳細な構成については
図8及び
図9を参照して後述するが、照明制御・撮影装置1から出力される当該タイムコード及び当該撮影映像を入力し、当該タイムコードに基づいて当該撮影映像から新たな時系列の合成映像を生成する画像処理部4と、画像処理部4における合成映像の生成を操作する操作部5と、を備える。
【0028】
当該伝送装置を介する場合には、遅延を生じても構わない。また、当該蓄積装置を介する場合には、照明制御・撮影装置1から当該蓄積装置に撮影映像及びタイムコード(時刻情報)を書き込み、合成映像生成装置3は当該蓄積装置からその撮影映像及びタイムコードを読み出すように構成される。この書き込みと読み出しは異なる時刻に実行されても構わない(但し、当然に、或るフレームを当該蓄積装置から読み出す際には、読み出し以前に当該フレームが当該蓄積装置に書き込まれている必要がある)。
【0029】
また、
図1に示すように、合成映像生成装置3と並列に、同様に構成される別の合成映像生成装置3Bを接続することができる。尚、図示しないが、当該伝送装置を介して撮影映像及びタイムコードを伝送する場合には、照明制御・撮影装置1から合成映像生成装置3への伝送と、照明制御・撮影装置1から合成映像生成装置3Bへの伝送とを別経路としてもよい。また、当該蓄積装置を介して撮影映像及びタイムコードを伝送する場合には、合成映像生成装置3による当該蓄積装置からの読み出しの時点と、合成映像生成装置3Bによる当該蓄積装置からの読み出しの時点とが異なっていても構わない。
【0030】
(照明制御・撮影装置)
図2は、本発明による一実施形態の照明制御・撮影装置1の概略構成の一例を示したブロック図である。
図2に示す照明制御・撮影装置1は、被写体Sbjを照射するためのN台の照明装置10(Nは2以上の整数)と、照明制御部11と、カメラ12とを備える。
【0031】
照明制御部11は、カメラ12による撮影映像における撮影映像フレームを特定可能とするタイムコードに基づいた照明制御パターンによりN台の照明装置10による照明を個別に制御する機器であり、当該タイムコードは外部に出力するように構成される。
【0032】
カメラ12は、N台の照明装置10によって照射された被写体Sbjを撮影した撮影映像を生成し、外部に出力するように構成される。
【0033】
また、
図3(a)は本発明による一実施形態の照明制御・撮影装置1における照明制御部11とN台の照明装置10の概略構成の一例を示したブロック図であり、
図3(b)はこの場合の照明制御パターンの一例を示す図である。
【0034】
ここで、
図2に示すように、N台の照明装置10は、それぞれ照明番号L
0,L
1,L
2,L
3,…,L
N-1として識別され、
図3(a)に示すように、N台の照明装置10の各々は、それぞれ照明ランプ101と、その照明ランプ101に電力供給する照明用電源102と、その電力供給を制御するスイッチ103と、を備える。
【0035】
尚、
図3(a)に示す例では、N台の照明装置10の各々における照明ランプ101は、例えば、白色、或いは赤色、緑色、青色の単色ランプ(例えば蛍光ランプやLEDランプ等)とすることができ、スイッチ103の間欠的な入り切りにより、カメラ12による撮影映像のフレーム周波数より高い周波数で点灯(又は照射光量の調光)/消灯を制御することができる。
【0036】
また、
図3(a)に示すように、照明制御部11は、タイムコード発生部111及びタイムコードデコーダ部112を備える。尚、照明制御部11は、タイムコード発生部111及びタイムコードデコーダ部112を備える1台の機器として構成することもできるが、タイムコード発生部111及びタイムコードデコーダ部112を個別の機器として構成してもよい。
【0037】
タイムコード発生部111は、カメラ12による撮影映像における撮影映像フレームを特定可能とするタイムコードを発生する機能部であり、そのタイムコードをタイムコードデコーダ部112及び外部に出力する。
【0038】
タイムコードデコーダ部112は、タイムコード発生部111から入力されるタイムコードに基づき、N台の照明装置10の各々における照明(スイッチ103の入り切り)を時系列に切り替え制御するための予め定めた照明制御パターンでN台の照明装置10の各々に向けて制御信号を発生する機能部である。
【0039】
この照明制御パターンの一例として、
図3(b)に示すように、N台の照明装置10の各々における照明の点灯/消灯を制御する場合では、タイムコード発生部111から入力されるタイムコードに基づき、N台の照明装置10の各々における照明のいずれを点灯するかを決定するものとすることができる。
【0040】
タイムコードを、例えば時刻00時00分00秒00フレームを起点(第0フレーム)とする撮影映像フレーム番号Fに対応付けたものとする場合、カメラ12による撮影映像は、撮影映像フレーム番号F=F0,F1,F2,F3,F4,F5,F6,…というように表される。
【0041】
そして、タイムコードデコーダ部112は、撮影映像フレーム番号Fの値を制御対象である照明装置10の総数Nで除したときの剰余を求め、該剰余の数値によって指定される照明番号を持つ照明装置を点灯し、他の照明装置を消灯する。これにより、タイムコードデコーダ部112は、撮影映像フレーム番号F=F0,F1,F2,F3,F4,F5,F6,…で表されるカメラ12による撮影映像に対し、連続するNフレーム分ごとに、照明装置10による照明が切り替わることになる。
【0042】
尚、タイムコードは照明装置10の点灯を制御するものであるから、カメラ12の撮影映像フレームの開始(又は終了)と時間的な同期をとる必要はなく、撮影映像のフレーム周波数で切り替える照明制御パターンを形成できるものであればよい。つまり、照明装置10の点灯開始と撮影映像フレームの開始(又は終了)との間で時間的に同期ずれが生じていても、連続する撮影映像フレームで照明装置10の点灯が切り替わるものであればよいことから、撮影映像フレームを特定可能とするものであればよい。
【0043】
例えば、
図3(b)に示す例のように、N台の照明装置(例えばN=5)を制御する場合には、タイムコードデコーダ部112は、以下の[数1]によりiを算出し、照明番号L
iを持つ照明装置のみが点灯するよう照明番号L
iを持つ照明装置のスイッチ103のみを閉じ、他の照明装置のスイッチ103を開放する。
【0044】
【0045】
尚、[数1]において、演算子%は、その前側の数値(本例ではF)をその後ろ側の数値(本例ではN)により除した場合の剰余を求めるものと定義する。
【0046】
ところで、
図3(b)に示す例では、N台の照明装置10のうち1台のみを点灯し、他の照明装置については消灯する例を示したが、1台のみを点灯する制御に限定する必要はない。例えば、
図4(a)は本発明による一実施形態の照明制御・撮影装置1における照明制御部11による照明制御パターンの別例を示す図であり、
図4(b)は照明制御パターンの更なる別例を示す図である。
【0047】
図4(a)に示す例のように、タイムコードデコーダ部112は、照明番号L
0,L
1を持つ照明装置のスイッチ103のみを閉じ、他の照明装置のスイッチ103を開放し、次に照明番号L
1,L
2を持つ照明装置のスイッチ103のみを閉じ、他の照明装置のスイッチ103を開放することを繰り返すような点灯制御パターンに従うものとすることができる。
【0048】
或いは、
図4(b)に示す例のように、タイムコードデコーダ部112は、照明番号L
0,L
3を持つ照明装置のスイッチ103のみを閉じ、他の照明装置のスイッチ103を開放し、次に照明番号L
1,L
4を持つ照明装置のスイッチ103のみを閉じ、他の照明装置のスイッチ103を開放することを繰り返すような点灯制御パターンに従うものとすることができる。
【0049】
また、
図3(b)及び
図4(a),(b)に示す例では、タイムコードデコーダ部112は、N台の照明装置10のうちいずれかの点灯/消灯を切り替える例を説明したが、照射光量の種々の調光/消灯を制御する点灯制御パターンに従うものとすることができる。照射光量の種々の調光を制御するにあたって、
図3(a)に示す照明装置10の各々が備えるスイッチ103の間欠的な入り切りで実現されるが、このようなスイッチ103を設けずとも、照明ランプ101に電力供給する照明用電源102の電源供給を制御する構成でもよい。
【0050】
例えば、
図5(a)は本発明による一実施形態の照明制御・撮影装置1における照明制御部11と照明装置10の概略構成の別例を示したブロック図であり、
図5(b)はこの場合の照明制御パターンの一例を示す図である。尚、
図5において、
図3に示すものと同様な構成要素には同一の参照番号を付している。
【0051】
図5(a)に示すN台の照明装置10は、それぞれ照明番号L
0,L
1,L
2,L
3,…,L
N-1として識別され、N台の照明装置10の各々は、それぞれ照明ランプ101と、その照明ランプ101に電力供給する調光型照明用電源104と、を備える。
【0052】
尚、
図5(a)に示す例でも、N台の照明装置10の各々における照明ランプ101は、例えば、白色、或いは赤色、緑色、青色の単色ランプ(例えば蛍光ランプやLEDランプ等)とすることができ、調光型照明用電源104による供給電力調整により、カメラ12による撮影映像のフレーム周波数より高い周波数で照射光量の調光/消灯を制御することができる。
【0053】
例えば、
図5(b)に示す例のように、タイムコードデコーダ部112は、点灯対象となる照明装置の照明状態をA
jとして、A
0=調光100%点灯、A
1=調光50%点灯、及びA
2=調光30%点灯の3種を順次繰り返すものとし、[数1]によりiを算出し、i=0のとき、照明番号L
0を持つ照明装置のみを照明状態A
0(調光100%)で点灯するよう制御し、他の照明装置を消灯する。i=1のとき、照明番号L
1を持つ照明装置のみを照明状態A
1(調光50%)で点灯するよう制御し、他の照明装置を消灯する。そして、i=2のとき、照明番号L
2を持つ照明装置のみを照明状態A
2(調光30%)で点灯するよう制御し、他の照明装置を消灯する。続いて、i=3のとき、照明番号L
3を持つ照明装置のみを照明状態A
0(調光100%)で点灯するよう制御し、他の照明装置を消灯するというように繰り返す点灯制御パターンに従うものとすることができる。
【0054】
また、
図3(b)、
図4(a),(b)及び
図5(a),(b)に示す例では、タイムコードデコーダ部112は、N台の照明装置10のうちいずれかの点灯/消灯を切り替える例を説明したが、これに限定する必要はない。
【0055】
例えば、
図6は、本発明による一実施形態の照明制御・撮影装置1の概略構成の別例を示したブロック図である。
図6に示す例では、照明装置として、赤(R)色、緑(G)色、青(B)色の発光源を持ち、各発光源を切り替え可能なM台のRGB色切換型の照明装置10(Mは2以上の整数)を用いている。この場合、タイムコードデコーダ部112は、M台のRGB色切換型の照明装置10における各発光源を上記と同様、[数1]に基づいてN個の照明番号で識別して、
図3(b)、
図4(b)、或いは
図5(b)のような点灯制御パターンに従うものとすることができる。
【0056】
また、上述した
図2及び
図6等に示す各例では、照明制御部11は、所定の照明制御パターンとして、N台の照明装置10のうちいずれかの点灯(又は照射光量の調光)/消灯を撮影映像のフレーム周波数で切り替える例を説明したが、これに限定する必要はなく、1台の照明装置10の照射光量の調光/消灯を撮影映像のフレーム周波数で切り替えるように構成することもできる。
【0057】
例えば、
図7(a)は本発明による一実施形態の照明制御・撮影装置1における1台の照明装置10を制御する照明制御部11の例を示したブロック図であり、
図7(b)はこの場合の照明制御パターンの一例を示す図である。
【0058】
図7(a)に示す1台の照明装置10は、
図5(a)に示すものと同様、照明ランプ101と、その照明ランプ101に電力供給する調光型照明用電源104と、を備えるものとする。従って、この場合の照明ランプ101は、例えば、白色、或いは赤色、緑色、青色の単色ランプ(例えば蛍光ランプやLEDランプ等)とすることができ、調光型照明用電源104による供給電力調整により、カメラ12による撮影映像のフレーム周波数より高い周波数で照射光量の調光/消灯を制御することができる。
【0059】
そして、タイムコードデコーダ部112は、調光によるK種の照明状態AK(K≦N)を、それぞれ照明番号S0,S1,S2,S3,…,SN-1に対応付けて識別することができる。
【0060】
例えば、
図5(b)に示す例のように、タイムコードデコーダ部112は、1台の照明装置10の照明状態を照明番号S
iで対応付けて、S
0=調光100%点灯、S
1=調光50%点灯、S
2=調光30%点灯、S
3=消灯の4種を順次繰り返すものとし、[数1]によりiを算出し、i=0のとき、照明番号S
0を持つ照明状態A
0(調光100%)で点灯するよう制御し、i=1のとき、照明番号S
1を持つ照明状態A
1(調光50%)で点灯するよう制御し、i=2のとき、照明番号S
2を持つ照明状態A
2(調光30%)で点灯するよう制御し、i=3のとき、照明番号S
3を持つ照明状態A
3(消灯)とするよう制御し、i=4のとき、照明番号S
4を持つ照明状態A
0(調光100%)で点灯するよう制御するというように繰り返す点灯制御パターンに従うものとすることができる。
【0061】
そして、
図2乃至
図7に例示する照明制御・撮影装置1において、1台又は複数台の照明装置10の照射角度や照射範囲について、採用する点灯制御パターンを考慮して配置してカメラ12により被写体Sbjを撮影することで、タイムコードに基づいた多様な照明効果の撮影映像を作り出すことができる。
【0062】
(合成映像生成装置の構成)
図8は、本発明による一実施形態の合成映像生成装置3の概略構成の一例を示したブロック図である。合成映像生成装置3は、照明制御・撮影装置1から出力される当該タイムコード(撮影映像フレーム番号Fを特定可能な時刻情報)及び当該撮影映像Iを入力し、当該タイムコードに基づいて当該撮影映像から新たな時系列の合成映像Hを生成する画像処理部4と、画像処理部4における合成映像Hの生成を操作する操作部5と、を備える。
【0063】
尚、画像処理部4と操作部5は、一体の機器として構成することや、個別の機器として構成することができる。
【0064】
図8に示す合成映像生成装置3の構成を説明するにあたり、代表して、
図2及び
図3に示す照明制御・撮影装置1に対して適用する実施形態の例を説明するが、
図4乃至
図7に例示する照明制御・撮影装置1に対しても同様に、
図8に示す合成映像生成装置3を適用することができる。
【0065】
より具体的には、画像処理部4は、分岐部40、N個の乗算部44(Nは2以上の整数)、及び画像合成部45を備える。
【0066】
分岐部40は、タイムコードデコーダ部41、切替部42、及びN個のフレームメモリ43を有する。
【0067】
タイムコードデコーダ部41は、照明制御・撮影装置1から出力される当該タイムコード(撮影映像フレーム番号Fを特定可能な時刻情報)を入力し、そのタイムコードが示す撮影映像フレーム番号Fを特定するための剰余F%Nを算出し、この剰余F%Nにより切替部42を制御する。
【0068】
切替部42は、或るタイムコード(撮影映像フレーム番号F)における撮影映像I(F)を入力し、その入力をN個の出力のうち当該剰余F%Nに応じてN個の撮影映像フレームに振り分けて出力するよう、タイムコードデコーダ部41によって制御される。
【0069】
N個のフレームメモリ43の各々は、切替部42を経て入力されるN個の撮影映像フレームをそれぞれ一時記憶し、例えば新たな撮影映像フレームが入力される度に当該一時記憶した撮影映像フレームを出力するFIFO(First In, First Out)メモリで構成される。
【0070】
例えば、N=5のとき、i=0用のフレームメモリ43は、F%5=0なる撮影映像フレームを一時的に保持し、i=1用のフレームメモリ43は、F%5=1なる撮影映像フレームを一時的に保持する。同様に、i=2用のフレームメモリ43は、F%5=2なる撮影映像フレームを一時的に保持する。尚、各フレームメモリ43にて一時記憶する時間は、例えば、切替部42が撮影映像Iにおける所定の撮影映像フレームを選択した以後、且つ「対応して接続される次段の乗算部44がその入力の受付を完了した以後、且つ切替部42が次の撮影映像フレームを選択するより前」までの時間であればよい。
【0071】
ただし、
図8では図示を省略するが、本実施形態の合成映像生成装置3では、操作部5を操作する操作者によって、N個のフレームメモリ43の各々におけるFIFO動作を任意時刻で一時停止させ、その一時停止時にN個のフレームメモリ43の各々に格納される撮影映像フレームをそれぞれモニター(図示せず)に表示させるHMI(ヒューマンマシンインタフェース)を設けるのが好適である。
【0072】
従って、分岐部40は、当該タイムコード(撮影映像フレーム番号Fを特定可能な時刻情報)に基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐して対応するN個のフレームメモリ43に一時記憶し、N個のフレームメモリ43から新たな撮影映像フレームが入力される度に時系列に順次、当該一時記憶した撮影映像フレームをそれぞれ対応するN個の乗算部44に出力する。
【0073】
このように、分岐部40は、当該タイムコード(撮影映像フレーム番号Fを特定可能な時刻情報)に基づき剰余F%Nを演算し(Nは照明制御・撮影装置1における撮影時に制御した照明制御パターンに対応する照明効果の種類数)、或るタイムコード(撮影映像フレーム番号F)における撮影映像フレームI(F)を、剰余F%Nに応じてN個の出力に振り分ける。
【0074】
例えば、N=5の場合、分岐部40は、当該剰余F%Nが0の場合の各撮影映像フレーム(I(0),I(5),I(10),…)をi=0用の乗算部44へ出力し、当該剰余F%Nが1の場合の各撮影映像フレーム(I(1),I(6),I(11),…)をi=1用の乗算器44へ出力する。同様に、分岐部40は、当該剰余F%Nが2の場合の各撮影映像フレーム(I(2),I(7),I(12),…)をi=2用の乗算器44へ出力し、当該剰余F%Nが3の場合の各撮影映像フレーム(I(3),I(8),I(13),…)をi=3用の乗算器44へ出力し、当該剰余F%Nが4の場合の各撮影映像フレーム(I(4),I(9),I(14),…)をi=4用の乗算器44へ出力する。
【0075】
従って、分岐部40は、照明制御・撮影装置1から出力される当該タイムコード及び当該撮影映像を入力し、当該タイムコードに基づいて当該撮影映像に含まれる複数の撮影映像フレームを時系列に分岐し所定数の基底照明フレーム(当該タイムコードに基づいた照明制御パターンに対応する照明効果の種類数(N個)に対応するN個の基底照明フレーム)として分類するよう機能する。
【0076】
照明制御・撮影装置1における照明制御が上述したように[数1]による制御を行うため、分岐部40からN個の撮影映像フレーム分の周期を以て毎フレームで照明を切り替えつつ撮影した撮影映像が得られる。このため、本願明細書中、分岐部40から得られる照明番号Liに対応する撮影映像IのN個の撮影映像フレームのうち[数1]に基づく数値iに対応する撮影映像フレーム番号Fを持つ撮影映像フレームを基底照明フレームJiと呼ぶこととし、以下の[数2]のように定義することができる。
【0077】
【0078】
以上の動作により、i=0用のフレームメモリ43には基底照明フレームJ0、i=1用のフレームメモリ43には基底照明フレームJ1、i=2用のフレームメモリ43には基底照明フレームJ2、i=3用のフレームメモリ43には基底照明フレームJ3がそれぞれ一時記憶され、つまり、i=N-1用のフレームメモリ43には基底照明フレームJN-1がそれぞれ一時記憶される。そして、i=N-1用のフレームメモリ43に一時記憶した撮影映像フレームは、上記のHMI(ヒューマンマシンインタフェース)が設けられ一時停止される場合を除き、新たな撮影映像フレームが入力される度に時系列に順次それぞれ対応するN個の乗算部44に出力される。
【0079】
操作部5は、各基底照明フレームJiに対するゲインaiを指定するためのユーザインタフェースである。例えば、操作者は、操作部5を介して操作者の所望するゲインaiを指令し、操作部5はその指令を示す操作信号を対応する乗算部44に出力する。操作部5は、各基底照明フレームJiに対し個別に乗算可能とするゲインaiとして、ゼロ倍、等倍、減衰、増加のうちいずれかを操作することができる。
【0080】
操作部5は、フェーダー(スライド式、レバー式、または回転式などの操作機能を有し、可変抵抗器、摺動抵抗器、リニアエンコーダ、ロータリーエンコーダ、又はタッチセンサ等によってその操作量を入力できるようにしたデバイス)、又はコンピュータ等による電子制御装置、或いは合成映像生成装置3全体をコンピュータ等による電子制御装置で構成した場合には操作部5として機能するソフトウェアによる機能部で構成することができる。尚、
図8に示す操作部5の例では、N個の乗算部44の各々にそれぞれ対応するN個のフェーダー53が設けられ、各フェーダー53は、それぞれのゲインa
iを多段階で調整するための範囲を示すゲイン範囲部51と、レベル指定部51でゲインa
iを指定するためのゲイン指定部52と、を有する。操作者はこのコントロール部52を操作して、操作部5から所望のゲインa
iを対応する乗算部44に指令する送信信号を送信することができる。
【0081】
N個の乗算部44の各々は、操作部5からの操作信号を受信して、この操作信号に基づき、合成映像Hの生成に係る基底照明フレームJiに対して個別のゲインaiを乗算して画像合成部45に出力する。
【0082】
例えば、N=5としたとき、
i=0用の乗算部44は、J0とa0の乗算を実行し、その結果K0を出力する。
i=1用の乗算部44は、J1とa1の乗算を実行し、その結果K1を出力する。
i=2用の乗算部44は、J2とa2の乗算を実行し、その結果K2を出力する。
i=3用の乗算部44は、J3とa3の乗算を実行し、その結果K3を出力する。
i=4用の乗算部44は、J4とa4の乗算を実行し、その結果K4を出力する。
【0083】
ここで、各乗算部44における「乗算」は、一例として、以下の[数3]に示すように基底照明フレームJiの画像の画素値(信号値)に対するゲインaiの乗算とすることができる。これにより、基底照明フレームJiの各々に対して仮想的な照明効果をもたらすことができる。
【0084】
【0085】
また、各乗算部44における「乗算」は、別例として、以下の[数4]に示すように基底照明フレームJiにおける入力画素値に対して所定の関数φによる変換を施した後の画素値(信号値)に対するゲインaiの乗算とすることができる。
【0086】
【0087】
[数4]に示す関数φを適用する場合には、好ましくは関数φを入力画素値に対する出力画素値として直線又は曲線の単調増加関数とする。
【0088】
例えば、関数φは入力画素値(信号値)をシーン輝度値に変換して出力する所謂OETF-1(OETFは光電気伝達関数(Opto-Electrical Transfer Function)、OETF-1はOETFの逆関数)とするのが好適である。
【0089】
このように関数φとして単調増加関数を用いることで、基底照明フレームJiの各々に対して仮想的な照明効果をもたらすことができるだけでなく、上記のHMI(ヒューマンマシンインタフェース)を設けた場合に、仮想的な照明効果をもたらす際の照明効果が強調され、操作者による調整が容易になる。
【0090】
画像合成部45は、当該タイムコードに基づいて、N個の乗算部44の各々からの乗算結果Kiの画素値を合成して合成映像Hを生成し、外部に出力する。
【0091】
画像合成部45は、撮影映像Iの毎フレーム時点において後述する移動型合成処理を施して合成映像Hを生成し出力してもよいし、撮影映像Iの複数フレーム(好ましくはNフレーム:Nは基底照明フレームの種類数)分の時間を単位として後述する区分型合成処理を施して合成映像Hを生成し出力してもよい。以下、合成映像Hの出力時点Gにおける合成映像フレームをH(G)とする。
【0092】
例えば、
図9(a)に示すように、画像合成部45は、撮影映像Iの毎フレーム時点において合成映像Hを出力する場合、撮影映像Iの第G乃至第G+Nフレームの映像を使用して移動型合成処理を施し、基底照明フレームN枚に基づき合成映像フレームH(G)を毎フレーム時点で出力する。この場合、基底照明フレームが例えば60Hzのフレーム周波数の時、合成映像フレームH(G)のフレーム周波数も60Hzとなる。
【0093】
また、例えば、
図9(b)に示すように、画像合成部45は、撮影映像IのNフレーム分の時間を単位として合成映像Hを出力する場合、撮影映像Iの第N・G乃至第N・G+Nフレームの映像を使用して区分型合成処理を施し、基底照明フレームN枚に基づき合成映像フレームH(G)をNフレーム分の時間を単位で出力する。この場合、カメラ12として高速度カメラを用いて、基底照明フレームが例えば300Hzのフレーム周波数の時、合成映像フレームH(G)のフレーム周波数は60Hzとなる。
【0094】
画像合成部45は、例えば画素値の合成方法として、[数5]に示す加算合成を用いることができる。
【0095】
【0096】
尚、[数5]において、
図9(a)に示すような移動型合成処理を用いる場合にはF=G+N-1であり、
図9(b)に示すような区分型合成処理を用いる場合にはF=N・G+N-1である。
【0097】
また、画像合成部45は、例えば画素値の合成方法として、[数6]に示すように、加算合成を用い、その後に所定の関数ψを適用する構成とすることもできる。
【0098】
【0099】
尚、[数6]において、
図9(a)に示すような移動型合成処理を用いる場合にはF=G+N-1であり、
図9(b)に示すような区分型合成処理を用いる場合にはF=N・G+N-1である。
【0100】
上述した関数φと関数ψに関してその一方を省略して構成してもよいが、関数ψを適用する場合には、好ましくは関数ψを入力画素値に対する出力画素値として直線又は曲線の単調増加関数とする。
【0101】
特に、上述した関数φ及び関数ψを共に適用する構成とする場合には、好ましくは関数ψを関数φの逆関数とする。例えば、関数ψは入力されたシーン輝度値を画素値(信号値)に変換して出力する所謂OETFとする。
【0102】
これにより、関数φとして単調増加関数を用い、関数ψを関数φの逆関数とすることで、上記のHMI(ヒューマンマシンインタフェース)を設けた場合に、仮想的な照明効果をもたらす際の照明効果が強調され、操作者による調整が容易になるとともに、画像合成部45の出力として、カメラ12による撮影映像と視覚的に同レベルの信号形態に戻すことができる。
【0103】
以上の構成により、照明制御・撮影装置1により事前又は実時間で撮影された撮影映像、及びこの撮影映像における撮影映像フレームを特定可能とするタイムコードを、直接的に、若しくは伝送装置又は蓄積装置を介して、合成映像生成装置3における画像処理部4に入力し、合成映像生成装置3における操作部5を介して操作者が操作することによって、合成映像生成装置3より仮想的に照明状態を可変とした合成映像を高S/Nで得ることができる。
【0104】
例えば、
図10(a)は従来技術として一般的なスタジオにおける写真や映像の撮影により得られる映像信号の被写体に対する照明効果を示す図であり、
図10(b)は本発明による一実施形態の照明制御・撮影装置1及び合成映像生成装置3により得られる映像信号の被写体に対する照明効果を示す図である。
【0105】
図10(a)に示すように、一般的な従来のスタジオにおける写真や映像の撮影では、個々の照明装置10(例えば3台の照明装置10)の照射角度・照射範囲・照射光量・照射色について、その撮影時(撮影前又は撮影中)に全ての照明装置10のバランス調整が必要になり、各照明装置10の照明効果が制限されたものとなる。
【0106】
一方、
図10(b)に示すように、本発明に係る照明制御・撮影装置1では、 個々の照明装置10(例えば3台の照明装置10)の照射角度・照射範囲・ 照射光量・照射色についての自由度が増大し、カメラ12による撮影映像の広ダイナミックレンジ化が可能となる。
【0107】
また、
図10(b)に示すように、本発明に係る合成映像生成装置3では、撮影後の撮影映像から、高S/Nで仮想的な照明効果を自由に操作して合成映像を生成可能となる。
【0108】
尚、操作部5は、N個の乗算部44の各々を制御するための操作信号を発生させるが、この操作信号に含まれる或る特定の基底照明フレームJiに対するゲインaiをai=0とし、実質的に画像合成部46に対しN個の基底照明フレームのうち2個~N-1個を選択的に合成させるよう操作することもできる。これは、ai≠0のゲインaiを乗じる基底照明フレームのみを選択指令する信号を当該操作信号に含める構成とすることと同義である。
【0109】
従って、本実施形態の照明制御・撮影装置1及び合成映像生成装置3では、スタジオ等における撮影映像について、より照明効果の自由度を増大させ、且つS/Nを向上させることができる。例えば、撮影後の撮影映像に対し照明効果を可変調節した新たな映像を得ることが可能となり、撮影後に照明条件の変更や、遠隔地における照明条件の変更、複数の異なる照明条件における映像の取得が可能となる。
【0110】
上述した実施形態の例に関して、合成映像生成装置3として機能するコンピュータを構成し、これらの装置の各手段を機能させるためのプログラムを好適に用いることができる。具体的には、各手段を制御するための制御部をコンピュータ内の中央演算処理装置(CPU)で構成でき、且つ、各手段を動作させるのに必要となるプログラムを適宜記憶する記憶部を少なくとも1つのメモリで構成させることができる。即ち、そのようなコンピュータに、CPUによって該プログラムを実行させることにより、上述した各手段の有する機能を実現させることができる。更に、各手段の有する機能を実現させるためのプログラムを、前述の記憶部(メモリ)の所定の領域に格納させることができる。そのような記憶部は、装置内部のRAM又はROMなどで構成させることができ、或いは又、外部記憶装置(例えば、ハードディスク)で構成させることもできる。また、そのようなプログラムは、コンピュータで利用されるOS上のソフトウェア(ROM又は外部記憶装置に格納される)の一部で構成させることができる。更に、そのようなコンピュータに、各手段として機能させるためのプログラムは、コンピュータ読取り可能な記録媒体に記録することができる。また、上述した各手段をハードウェア又はソフトウェアの一部として構成させ、各々を組み合わせて実現させることもできる。
【0111】
上述の実施形態については代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換することができることは当業者に明らかである。従って、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲によってのみ制限される。
【産業上の利用可能性】
【0112】
本発明によれば、スタジオ等における撮影映像についてより照明効果の自由度を増大させ、且つS/Nを向上させることができるので、撮影映像の照明効果を編集する用途に有用である。
【符号の説明】
【0113】
1 照明制御・撮影装置
2 伝送装置・蓄積装置(伝送装置又は蓄積装置)
3,3B 合成映像生成装置
4 画像処理部
5 操作部
10 照明装置
11 照明制御部
12 カメラ
40 分岐部
41 タイムコードデコーダ部
42 切替部
43 フレームメモリ
44 乗算部
45 画像合成部
51 ゲイン範囲部
52 ゲイン指定部
53 フェーダー
101 照明ランプ
102 照明用電源
103 スイッチ
104 調光型照明用電源
111 タイムコード発生部
112 タイムコードデコーダ部