(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-05
(45)【発行日】2023-07-13
(54)【発明の名称】多視点映像色合わせ装置およびそのプログラム
(51)【国際特許分類】
H04N 13/133 20180101AFI20230706BHJP
H04N 13/257 20180101ALI20230706BHJP
H04N 13/243 20180101ALI20230706BHJP
H04N 13/282 20180101ALI20230706BHJP
H04N 13/246 20180101ALI20230706BHJP
H04N 23/16 20230101ALI20230706BHJP
H04N 23/83 20230101ALI20230706BHJP
【FI】
H04N13/133
H04N13/257
H04N13/243
H04N13/282
H04N13/246
H04N23/16
H04N23/83
(21)【出願番号】P 2019044412
(22)【出願日】2019-03-12
【審査請求日】2022-02-09
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】妹尾 孝憲
(72)【発明者】
【氏名】原 一宏
(72)【発明者】
【氏名】河北 真宏
【審査官】益戸 宏
(56)【参考文献】
【文献】特開2012-019399(JP,A)
【文献】特開2012-238932(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00
H04N 23/00
H04N 9/64
(57)【特許請求の範囲】
【請求項1】
多視点カメラで撮影された複数の視点映像の色合わせを行う多視点映像色合わせ装置であって、
前記色合わせを行う基準となる予め定めた視点映像である基準視点映像と、前記基準視点映像以外の視点映像である他の視点映像とについて、それぞれ、色成分単位で信号レベルごとの度数を累計するレベル累計手段と、
前記レベル累計手段で累計された信号レベルごとの度数を平滑化する平滑化手段と、
前記平滑化手段で平滑化された信号レベルごとのピークの度数の予め定めた割合の度数に対応する信号レベルを、色合わせを行うレベル基準値として決定するレベル基準値決定手段と、
前記他の視点映像から決定されたレベル基準値である補正前レベル基準値を、前記基準視点映像から決定されたレベル基準値である補正後レベル基準値に変換するように、前記他の視点映像の信号レベルを補正する色成分ごとの補正係数を算出する補正係数算出手段と、
前記補正係数算出手段で算出された補正係数を用いて、色成分ごとに、前記他の視点映像の画素の信号レベルを補正する色補正手段と、
を備えることを特徴とする多視点映像色合わせ装置。
【請求項2】
前記平滑化手段は、ガウスフィルタにより、前記信号レベルごとの度数を平滑化することを特徴とする請求項1に記載の多視点映像色合わせ装置。
【請求項3】
前記補正係数算出手段は、前記補正前レベル基準値で区分した区間ごとの補正前の信号レベルと、前記補正後レベル基準値で区分した区間ごとの補正後の信号レベルとが、線形な関係を満たすように、前記補正前レベル基準値で区分した区間ごとに前記補正係数を算出し、
前記色補正手段は、前記補正係数を用いて、前記他の視点映像を前記補正前レベル基準値で区分した区間ごとに補正することを特徴とする請求項1または請求項2に記載の多視点映像色合わせ装置。
【請求項4】
前記補正係数算出手段は、前記補正前の信号レベルと前記補正後の信号レベルとの関係
が非線形曲線となるような非線形関数の係数を前記補正係数として算出し、
前記色補正手段は、前記補正係数を係数とする前記非線形関数により、前記他の視点映像を補正することを特徴とする請求項1または請求項2に記載の多視点映像色合わせ装置。
【請求項5】
コンピュータを、請求項1から請求項4のいずれか一項に記載の多視点映像色合わせ装置として機能させるための多視点映像色合わせプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、多視点映像色合わせ装置およびそのプログラムに関する。
【背景技術】
【0002】
従来、眼鏡の要らない裸眼立体映像として、水平方向および垂直方向に視差のあるインテグラル映像方式の実用化が進められている。インテグラル映像は、水平方向および垂直方向に2次元配列されたカメラで撮影した多視点映像から生成することができる。しかし、各カメラの色特性が互いに異なっている場合、生成された立体映像は均一でなく、見る方向により色が変わり、立体映像品質が悪くなるという問題がある。
【0003】
そこで、撮影した多視点映像をそのまま伝送するのではなく、各視点映像間の色を合わせてから伝送する必要がある。色合わせの方法としては、各視点映像間の色の差を加える方法や、色変換テーブルを用いる方法が開示されている(特許文献1,2参照)。
例えば、特許文献1には、基準カメラで撮影された映像の平均値と、他のカメラの映像の平均値との差分を、他のカメラ映像に加える方法が、開示されている。
また、特許文献2には、各カメラの映像の値を入力して、目標の色に変換する色変換テーブルを用いる方法が、開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2002-271825号公報
【文献】特開2017-130980号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
従来の特許文献1の方法は、画面全体の色の平均値を合わせるだけであるため、各視点映像間で画面内の画素ごとに色成分にレベル差がある場合、その細かな色成分について色合わせができないという問題がある、
また、従来の特許文献2の方法は、すべての色成分のレベルごとに色変換テーブルを複数持ち、各カメラ映像をこの色変換テーブルすべてに通して、最も目標の色に近くなる色変換テーブルを採用して、各カメラ映像の色合わせを行っている。そのため、この方法は、使用しているカメラの特性が劣化、交換等によって変化した場合、最初から、すべての色変換テーブルを試して、最適な色変換テーブルを選びなおす手間がかかるという問題がある。
【0006】
本発明は、このような問題に鑑みてなされたものであり、多視点映像の各視点映像間の色成分のレベルが異なる場合であっても、また、途中でカメラの色特性が変化した場合であっても、即座に色合わせを行うことが可能な多視点映像色合わせ装置およびそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0007】
前記課題を解決するため、本発明に係る多視点映像色合わせ装置は、多視点カメラで撮影された複数の視点映像の色合わせを行う多視点映像色合わせ装置であって、レベル累計手段と、平滑化手段と、レベル基準値決定手段と、補正係数算出手段と、色補正手段と、を備える構成とした。
【0008】
かかる構成において、多視点映像色合わせ装置は、レベル累計手段によって、色合わせを行う基準となる予め定めた視点映像である基準視点映像と、基準視点映像以外の視点映像である他の視点映像とについて、それぞれ、色成分単位で信号レベルごとの度数を累計する。
そして、多視点映像色合わせ装置は、平滑化手段によって、レベル累計手段で累計された信号レベルごとの度数を平滑化する。これによって、信号レベルの度数の分布を、大局的な分布で表すことができる。
さらに、多視点映像色合わせ装置は、レベル基準値決定手段によって、平滑化手段で平滑化された信号レベルごとのピークの度数の予め定めた割合の度数に対応する信号レベルを、色合わせを行うレベル基準値として決定する。このピークの度数の予め定めた割合の度数に対応する信号レベルは、同じ被写体を撮影した基準視点映像と他の視点映像とでは、ほぼ同じレベルとなるため、色合わせを行う基準として用いることができる。
【0009】
そして、多視点映像色合わせ装置は、補正係数算出手段によって、他の視点映像から決定されたレベル基準値である補正前レベル基準値を、基準視点映像から決定されたレベル基準値である補正後レベル基準値に変換するように、他の視点映像の信号レベルを補正する色成分ごとの補正係数を算出する。
そして、多視点映像色合わせ装置は、色補正手段によって、補正係数算出手段で算出された補正係数を用いて、色成分ごとに、他の視点映像の画素の信号レベルを補正する。これによって、多視点映像色合わせ装置は、他の視点映像の信号レベルの分布を、基準視点映像の信号レベルの分布に近似させることができる。
【0010】
なお、多視点映像の色合わせ装置は、コンピュータを、前記した各手段として機能させるためのプログラムで動作させることができる。
【発明の効果】
【0011】
本発明は、以下に示す優れた効果を奏するものである。
本発明によれば、多視点映像色合わせ装置は、多視点映像の各視点映像間の色成分のレベルを予め定めた基準視点映像に近似するように補正して色合わせを行うことができる。
これによって、本発明に係る多視点映像色合わせ装置は、色特性が異なる複数のカメラで撮影した多視点映像であっても、色合わせを行うことができる。
【図面の簡単な説明】
【0012】
【
図1】本発明の実施形態に係る多視点映像色合わせ装置の概要を説明するための説明図である。
【
図2】本発明の実施形態に係る多視点映像色合わせ装置の構成を示すブロック構成図である。
【
図3】互いに色特性の異なる3視点のカメラ映像の例を示す図である。
【
図4】互いに色特性の異なる3視点のカメラ映像の輝度のヒストグラムである。
【
図5】平滑化後のヒストグラムにおけるレベル基準値の例を示す図である。
【
図7】色合わせ後の平滑化された3視点のカメラ映像の輝度のヒストグラムである。
【
図8】色合わせ後の3視点映像の例を示す図である。
【
図9】色合わせ後の3視点のカメラ映像の輝度のヒストグラムである。
【
図10】本発明の実施形態に係る多視点映像色合わせ装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態について図面を参照して説明する。
〔多視点映像色合わせ装置の概要〕
まず、
図1を参照して、本発明の実施形態に係る多視点映像色合わせ装置1の概要について説明する。
【0014】
多視点映像色合わせ装置1は、多視点映像を撮影するための多視点カメラCで撮影された同じ被写体Oを撮影した各視点映像の色合わせを行うものである。
ここで、色合わせとは、各視点映像内で同じ被写体Oの色成分が近似するように補正することである。色成分は、例えば、視点映像をYUV(YCbCr、YPbPr),RGB等の色空間で表したときの各成分(輝度成分、色差成分、赤成分、緑成分、青成分等)である。
【0015】
多視点カメラCは、水平方向および垂直方向に2次元配列された視点位置の異なる複数の視点カメラ(ここでは、C1,C2,…,C9)で構成される。
なお、多視点カメラCを構成する視点カメラの台数は、この例に限定されず、水平方向および垂直方向にそれぞれ2台以上あればよい。また、一方向、例えば、水平方向に2台以上一列に配置した構成でも構わない。
【0016】
多視点映像色合わせ装置1は、多視点カメラCのうちの中央の視点カメラ(ここでは、C5とする)を基準視点カメラとし、他の視点カメラ(C1,…,C4,C6,…,C9)が撮影する他の視点映像(V1,…,V4,V6,…,V9:V7以外は不図示)を、視点カメラC5が撮影する基準視点映像Voの色と合うように補正した補正映像Vc(Vc1,…,Vc4,Vc5,…,Vc9)を生成し出力する。なお、基準視点カメラは、どの視点カメラを用いてもよい。
【0017】
〔多視点映像色合わせ装置の構成〕
次に、
図2を参照(適宜
図1参照)して、本発明の実施形態に係る多視点映像色合わせ装置1の構成について説明する。
多視点映像色合わせ装置1は、基準視点カメラC
Aと1台以上の他の視点カメラC
Bとからそれぞれが撮影した視点映像を入力し、色合わせを行う。
基準視点カメラC
Aは、
図1の視点カメラC
5に相当する。他の視点カメラC
Bは、
図1の視点カメラ(C
1,…,C
4,C
6,…,C
9)に相当する。
【0018】
多視点映像色合わせ装置1は、レベル累計手段10と、平滑化手段20と、レベル基準値決定手段30と、補正係数算出手段40と、色補正手段50と、を備える。
なお、レベル累計手段10、平滑化手段20およびレベル基準値決定手段30は、それぞれ、視点カメラの台数と同じ数で構成される。ここで、基準視点カメラCAに対応する手段については、レベル累計手段10A、平滑化手段20Aおよびレベル基準値決定手段30Aと表記し、他の視点カメラCBに対応する手段については、レベル累計手段10B、平滑化手段20Bおよびレベル基準値決定手段30Bと表記する場合がある。
ただし、レベル累計手段10A,10Bは、視点カメラが異なるだけで同じ機能である。平滑化手段20A,20Bやレベル基準値決定手段30A,30Bもそれぞれ同じ機能である。
【0019】
なお、ここでは、多視点映像色合わせ装置1に入力される視点映像は、一例として、色空間YUVで表される映像とし、視点映像の色成分は、輝度成分と2つの色差成分とする。
例えば、多視点映像色合わせ装置1は、
図3に示すように、視点カメラC
5(基準視点カメラC
A)が撮影した基準視点映像(中央視点映像V
5)、視点カメラC
4,C
6(他の視点カメラC
B,C
B)が撮影した他の視点映像(左視点映像V
4,右視点映像V
6)を入力する。なお、
図3は、視点映像の輝度成分(Y)のみを表しており、他の色成分については、図示を省略している。
【0020】
レベル累計手段10(10A,10B)は、基準視点カメラCAが撮影した視点映像である基準視点映像と、他の視点カメラCBが撮影した、基準視点映像以外の視点映像である他の視点映像とを入力し、それぞれの視点映像について、色成分単位で信号レベルごとの度数を累計するものである。
レベル累計手段10は、入力した視点映像の色成分(YUV)別に、レベル値ごとに、その画素数を累計して、そのレベル値の度数とする。このレベル値は、例えば、信号レベルが256階調であれば、0~255の値である。
【0021】
図4は、
図3で示した各視点映像(V
4,V
5,V
6)の輝度成分(Y)について、当該視点映像を撮影した視点カメラに対応するレベル累計手段10で累計したレベル値の度数をヒストグラムで表したものである。なお、
図4の横軸は輝度レベル、縦軸は輝度レベルに対応する画素の数(度数)である。
図4に示すように、
図3で示した視点映像(V
4,V
5,V
6)のうちで、視点映像(左視点映像)V
4が他の視点映像に比べて暗く、小さい輝度レベルの度数が多くなっている。
レベル累計手段10は、他の色成分(UV)についても、同様に信号レベルごとの度数を累計する。
レベル累計手段10は、色成分別に累計した信号レベルごとの度数を平滑化手段20に出力する。
【0022】
平滑化手段20(20A,20B)は、レベル累計手段10で色成分別に累計された信号レベルごとの度数を平滑化するものである。
この平滑化手段20は、平滑化フィルタ(低域通過フィルタ)、例えば、ガウスフィルタ(ガイシアンフィルタ)を用いて信号レベルごとの度数を平滑化する。なお、ここでは、信号レベルの大域的な分布とするため、多タップ(例えば、40タップ以上)のガウスフィルタを用いる。
例えば、平滑化手段20は、以下のガウスフィルタの係数に示す41個の係数を持つ多タップのガウスフィルタを通して、信号レベルごとの度数を平滑化する。
【0023】
ガウスフィルタの係数=[0.0057, 0.0068, 0.0082, 0.0098, 0.0116, 0.0135, 0.0156, 0.0179, 0.0202, 0.0227, 0.0252, 0.0277, 0.0302, 0.0325, 0.0347, 0.0367, 0.0384, 0.0397, 0.0407, 0.0414, 0.0416, 0.0414, 0.0407, 0.0397, 0.0384, 0.0367, 0.0347, 0.0325, 0.0302, 0.0277, 0.0252, 0.0227, 0.0202, 0.0179, 0.0156, 0.0135, 0.0116, 0.0098, 0.0082, 0.0068, 0.0057]
【0024】
図5に、平滑化手段20が、
図4に示したヒストグラムを平滑化したヒストグラムを示す。これによって、平滑化手段20は、色成分の信号レベルを大局的な分布とすることができる。
平滑化手段20は、平滑化した信号レベルごとの度数を色成分別にレベル基準値決定手段30に出力する。
【0025】
レベル基準値決定手段30(30A,30B)は、平滑化手段で平滑化された信号レベルごとの度数について、ピークの度数の予め定めた割合の度数に対応する信号レベルを、色合わせを行うレベル基準値として決定するものである。
【0026】
具体的には、レベル基準値決定手段30は、平滑された度数のピーク値(最大度数)を探索し、そのピーク値に予め定めた係数(例えば、0.75)を掛けた値となる信号レベルをレベル基準値とする。この場合、レベル基準値決定手段30は、ピーク値に係数を掛けた値となる信号レベルを、最小信号レベルから探索し、第1のレベル基準値とする。また、レベル基準値決定手段30は、ピーク値に係数を掛けた値となる信号レベルを最大信号レベルから探索し、第2のレベル基準値とする。
このレベル基準値決定手段30の処理を
図5に示したヒストグラムで説明する。
図5に示すように、レベル基準値決定手段30Aは、基準視点映像(中央視点映像)V
5の度数のピーク値に予め定めた係数を掛けた値となる輝度レベルを最小輝度レベル“0”から探索する。そして、レベル基準値決定手段30Aは、探索した値T
5Lを第1のレベル基準値とする。また、レベル基準値決定手段30Aは、同様に、最大輝度レベル“255”から探索した値T
5Hを第2のレベル基準値とする。
【0027】
基準視点映像以外の他の視点映像についても同様に、レベル基準値決定手段30Bは、他の視点映像(例えば、左視点映像V
4)の度数のピーク値に予め定めた係数を掛けた値となる輝度レベルを最小輝度レベル“0”から探索する。そして、レベル基準値決定手段30Bは、探索した値T
4Lを第1のレベル基準値とする。また、レベル基準値決定手段30Bは、同様に、最大輝度レベル“255”から探索した値T
4Hを第2のレベル基準値とする。なお、
図5には、右視点映像V
6に対応するレベル基準値T
6L,T
6Hも併せて図示している。
図2に戻って、多視点映像色合わせ装置1の構成について説明を続ける。
レベル基準値決定手段30は、決定したレベル基準値を補正係数算出手段40に出力する。
【0028】
補正係数算出手段40は、他の視点映像から決定されたレベル基準値を、基準視点映像から決定されたレベル基準値に変換するように、他の視点映像を補正する色成分ごとの補正係数を算出するものである。ここで、補正を行う他の視点映像から決定されたレベル基準値を補正前レベル基準値という。また、補正前レベル基準値を変換する対象となる基準視点映像から決定されたレベル基準値を補正後レベル基準値という。
この補正係数算出手段40は、補正前レベル基準値で区分した区間ごとの補正前の信号レベルと、補正後レベル基準値で区分した区間ごとの補正後の信号レベルとが、線形な関係を満たすように、補正前レベル基準値で区分した区間ごとに補正係数を算出する。
【0029】
補正係数算出手段40が算出する補正係数について、
図6を参照して説明する。
図6は、他の視点映像の信号レベル(例えば、輝度レベル)の補正前レベルを横軸、補正後レベルを縦軸に表したグラフ図である。ここでは、他の視点映像(左視点映像V
4)の信号レベルのレベル基準値(補正前レベル基準値)をT
4L,T
4H、基準視点映像(中央視点映像V
5)の信号レベルのレベル基準値(補正後レベル基準値)をT
5L,T
5Hとし、最小信号レベルを“0”、最大信号レベルを“255”としている。
【0030】
補正係数算出手段40は、
図6に示すように、区間I1=[0,T
4L]の補正前レベルについては、座標(0,0)と座標(T
4L,T
5L)とを結ぶ直線上になるように補正係数を算出する。同様に、区間I2=[T
4L,T
4H]の補正前レベルについては、座標(T
4L,T
5L)と座標(T
4H,T
5H)とを結ぶ直線上になるように補正係数を計算する。また、区間I3=[T
4H,255]の補正前レベルについては、座標(T
4H,T
5H)と座標(255,255)とを結ぶ直線上になるように補正係数を計算する。
具体的には、補正係数算出手段40は、区間I1=[0,T
4L]、区間I2=[T
4L,T
4H]、区間I3=[T
4H,255]ごとに、以下の式(1)により、それぞれ補正係数C
4G,C
4Hを求める。
【0031】
【0032】
ここで、補正係数C
4Gは、
図6のグラフ図における各区間の傾きに相当する。また、補正係数C
4Hは、
図6のグラフ図における各区間の補正前レベルの最小値に対応する補正後レベルの値である。
同様に、補正係数算出手段40は、他の視点映像についてもそれぞれ補正係数を算出する。例えば、補正係数算出手段40は、補正対象の他の視点映像を右視点映像V
6としたとき、区間I1=[0,T
6L]、区間I2=[T
6L,T
6H]、区間I3=[T
6H,255]ごとに、以下の式(2)により、それぞれ補正係数C
6G,C
6Hを求める。
【0033】
【0034】
図2に戻って、多視点映像色合わせ装置1の構成について説明を続ける。
補正係数算出手段40は、補正対象の他の視点映像の色成分ごとに計算した補正係数を色補正手段50に出力する。なお、補正係数算出手段40は、色成分ごとの区間を示すレベル基準値(T
4L,T
4H,T
6L,T
6H等)も補正係数とともに色補正手段50に出力する。
【0035】
色補正手段50は、他の視点カメラCBで撮影された他の視点映像を補正対象として、補正係数算出手段40で算出された補正係数を用いて、色成分ごとに補正するものである。
すなわち、色補正手段50は、他の視点映像の色成分ごとに、補正係数を用いて、区間単位で、画素の信号レベルを補正する。
ここでは、具体例として、左視点映像V4と右視点映像V6とを補正する例について説明する。
【0036】
色補正手段50は、左視点映像V4については、区間I1=[0,T4L]、区間I2=[T4L,T4H]、区間I3=[T4H,255]ごとに、当該区間に含まれる信号レベル(補正前レベル)の画素について、以下の式(3)により、信号レベルを補正する。なお、補正係数は、前記式(1)で求められたものである。
【0037】
【0038】
色補正手段50は、他の視点カメラC
Bごとの他の視点映像の各画素について信号レベルを補正し、補正映像Vcとして出力する。
これによって、
図5に示した平滑化されたヒストグラムは、他の視点映像(V
4,V
6)のヒストグラムが、基準視点映像(V
5)のヒストグラムと重なるように信号レベルが補正されることになる。この補正後のヒストグラムを
図7に示す。
図7に示すように、平滑化されたヒストグラムは、ほぼ重なることになる。
【0039】
図8に、
図3に示した基準視点映像(中央視点映像V
5)と、他の視点映像(左視点映像V
4,右視点映像V
6)を例として、多視点映像色合わせ装置1が色合わせを行った映像を示す。
図3では、左視点映像V
4が他の視点映像に比べて暗い映像であったのに対し、
図8に示すように、補正後の左視点映像Vc
4は他の視点映像と同等の明るさとなる。
図9に、色合わせ後の
図8に示した各映像(Vc
4,V
5,Vc
6)の輝度成分(Y)についてヒストグラムを示す。
図9に示すように、多視点映像色合わせ装置1は、信号レベルに差があっても、ほぼ同様の波形に合わせることができる。
【0040】
以上説明したように多視点映像の色合わせ装置1を構成することで、多視点映像色合わせ装置1は、色の信号レベルを区間に分けて、常時、各視点映像から補正係数を求めて、色合わせを行うため、従来の手法よりもより正確に、素早く色補正を行うことができる。
また、多視点映像色合わせ装置1は、色の均一な多視点映像を生成することができる。そのため、多視点映像色合わせ装置1が生成する多視点映像は、信号レベルの差が小さく、符号化効率を高めることができる。
【0041】
また、多視点映像色合わせ装置1が生成する多視点映像を奥行き推定に用いた場合、奥行値を決めるマッチング誤差をより正確に求めることができるため、高精度な奥行きを推定することが可能になる。さらに、多視点映像色合わせ装置1が生成する多視点映像を、任意の視点位置の映像を生成する任意視点映像合成に用いた場合、高品質な任意視点映像を合成する事ができる。
【0042】
なお、本発明の多視点映像色合わせ装置1は、コンピュータを、前記した各手段として機能させるためのプログラム(多視点映像色合わせプログラム)で動作させることができる。
【0043】
〔多視点映像色合わせ装置の動作〕
次に、
図10を参照して(構成については適宜
図2参照)、本発明の実施形態に係る多視点映像色合わせ装置1の動作について説明する。
【0044】
ステップS1において、レベル累計手段10は、多視点映像を入力する。ここでは、レベル累計手段10Aは、基準視点カメラCAが撮影した基準視点映像を入力し、レベル累計手段10B,10B,…は、他の視点カメラCB,CB,…が撮影した他の視点映像を入力する。このとき、各視点映像は、順次に入力してもよいし、並列に同時に入力してもよい。
【0045】
ステップS2において、レベル累計手段10は、ステップS1で入力した視点映像(基準視点映像,他の視点映像)について、色成分単位で信号レベルごとの度数を累計する。ここでは、レベル累計手段10Aは、基準視点映像について度数を累計し、レベル累計手段10B,10B,…は、それぞれ他の視点映像について度数を累計する。
【0046】
ステップS3において、平滑化手段20は、ステップS2で累計された信号レベルごとの度数を、色成分ごとにそれぞれ平滑化フィルタにより平滑化する。これによって、信号レベルごとの度数の細かな変化が平滑化され、色成分の信号レベルを大局的な分布として表すことができる。ここでは、平滑化手段20Aは、基準視点映像から累計された信号レベルごとの度数を平滑化し、平滑化手段20B,20B,…は、それぞれ他の視点映像から累計された信号レベルごとの度数を平滑化する。
【0047】
ステップS4において、レベル基準値決定手段30は、ステップS3で平滑化された信号レベルごとの度数から、色成分ごとに、色合わせを行う基準となる信号レベルのレベル基準値を決定する。具体的には、レベル基準値決定手段30は、平滑された度数のピーク値を探索し、そのピーク値に予め定めた係数を掛けた値となる色成分の2つの信号レベルを、レベル基準値とする。ここでは、レベル基準値決定手段30Aは、平滑化手段20Aで平滑化された信号レベルの度数からレベル基準値を決定し、レベル基準値決定手段30B,30B,…は、それぞれ平滑化手段20B,20B,…で平滑化された信号レベルの度数からレベル基準値を決定する。
【0048】
ステップS5において、補正係数算出手段40は、ステップS4で決定された基準視点映像のレベル基準値と、他の視点映像のレベル基準値とから、色成分ごとに、他の視点映像の信号レベルを基準視点映像の信号レベルに近似させるための補正係数を算出する。具体的には、補正係数算出手段40は、他の視点映像の2つのレベル基準値の信号レベルを、基準視点映像の2つのレベル基準値の信号レベルにそれぞれ一致させ、他の信号レベルについては、レベル基準値で区分される各補正区間のレベル変化の傾きが一定となるように、補正係数を算出する。
ここでは、補正係数算出手段40は、それぞれの他の視点映像別に、色成分ごとの補正係数を算出する。
【0049】
ステップS6において、色補正手段50は、他の視点カメラCB,CB,…が撮影した他の視点映像を、色成分ごとに、ステップS5で算出した他の視点映像ごとの補正係数を用いて補正する。
これによって、他の視点映像は、色成分ごとの信号レベルが、基準視点映像の色成分ごとの信号レベルに近似するように補正されることになる。
【0050】
ステップS7において、色補正手段50は、補正後の他の視点映像(補正映像)を出力する。
以上の動作によって、多視点映像色合わせ装置1は、他の視点カメラCB,CB,…が撮影した他の視点映像の色成分の信号レベルを、基準視点カメラCAが撮影した基準視点映像の色成分の信号レベルに近似するように補正することができる。
これによって、多視点映像色合わせ装置1は、基準視点映像と他の視点映像との色合わせを正確に行うことができる。
【0051】
以上、本発明の実施形態に係る多視点映像色合わせ装置1の構成および動作について説明したが、本発明はこの実施形態に限定されるものではない。
(変形例1)
ここでは、レベル累計手段10、平滑化手段20およびレベル基準値決定手段30を、視点映像(基準視点映像、他の視点映像)の数だけ、並列に構成した。
しかし、レベル累計手段10、平滑化手段20およびレベル基準値決定手段30は、基準視点映像および他の視点映像の処理において、同じ機能を有するため、レベル累計手段10、平滑化手段20およびレベル基準値決定手段30を1組だけ備える構成とし、視点映像ごとに順番に処理することとしてもよい。
【0052】
(変形例2)
ここでは、視点映像の色成分がYUV(輝度成分および2つの色差成分)である例を示した。
しかし、視点映像は、この色成分の映像に限定されない。例えば、RGB(赤、緑、青)の色成分の映像であってもよい。
その場合、多視点映像色合わせ装置1の各手段は、YUVと同様にRGBの色成分ごとに色合わせを行えばよい。これによって、多視点カメラCが各視点映像をRGBの色成分として出力する場合、多視点映像色合わせ装置1は、視点映像を輝度成分と色差成分とに変換する必要がなく、直接色合わせを行うことができる。
【0053】
(変形例3)
ここでは、レベル基準値決定手段30は、2つのレベル基準値を求めるための平滑された度数のピーク値(最大度数)に掛ける値(ピーク値に対する割合)を“0.75”とした。
しかし、このピーク値に対する割合は、“0.75”に限定されるものではなく、任意の値を用いることができる。例えば、“0.75”のような大きな値を用いた場合、出現頻度の高い信号レベルで、より正確に色合わせを行うことができる。また、例えば、“0.5”、“0.25”等、小さい割合を用いた場合、出現頻度の高くない信号レベルでも、より正確に色合わせを行うことができる。
【0054】
ただし、
図5に示したように、視点映像の信号レベルの分布は、第1ピーク以外にも、第2ピーク、第3ピーク等のピークを有する。その場合、割合として小さい割合を用いると、第1ピークからその割合で求めた値に対応する同じ度数の信号レベルが2つよりも多く存在する場合があり、視点映像同士で、誤った信号レベルが対応付けられる場合がある。しかし、その場合は、色合わせを行った視点映像同士の色が大きく異なることになるため、多視点映像色合わせ装置1の操作者は、容易に誤りを視認することができる。
そこで、操作者は、多視点映像色合わせ装置1の多視点映像が正しい色を出力するように、レベル基準値決定手段30に設定する度数のピーク値に対する割合を調整すればよい。
【0055】
(変形例4)
ここでは、レベル基準値決定手段30が、2つのレベル基準値を決定し、補正係数算出手段40および色補正手段50が、信号レベルを3つの区間に分けて、それぞれの区間ごとに補正係数を算出し、色の補正を行った。
しかし、信号レベルの基準となるレベル基準値は、1つでも3つ以上でも構わない。
例えば、閾値を1つとする場合、レベル基準値決定手段30は、信号レベルの平滑された度数のピーク値に対する割合を“1”として、対応する1つの信号レベルをレベル基準値とする。そして、補正係数算出手段40および色補正手段50は、[0,レベル基準値]、[レベル基準値,255]のように2つに区分した補正区間ごとに、色の補正を行えばよい。
また、例えば、レベル基準値を3つとする場合、前記した2つのレベル基準値に加え、平滑された度数のピーク値に対応する信号レベルを第3のレベル基準値とすればよい。
また、例えば、レベル基準値を4つ以上とする場合、平滑化された度数のピーク値に掛ける値を複数準備(例えば、“0.75”と“0.25”)し、複数のレベル基準値を決定すればよい。
【0056】
(変形例5)
ここでは、補正係数算出手段40は、
図6に示したように、レベル基準値によって複数の補正区間ごとに、信号レベルの補正前レベルと補正後レベルとの関係が、線形の関係を有するように直線の傾きとして補正係数を計算した。
しかし、補正係数算出手段40は、信号レベルの補正前レベルと補正後レベルとの関係が、非線形な関係であることとして、補正係数を計算してもよい。
その場合、補正係数算出手段40は、補正前信号レベルと補正後信号レベルとの関係が、補正前のレベル基準値と補正後のレベル基準値とで一致する非線形曲線となるような非線形関数の係数を補正係数として算出すればよい。
【0057】
例えば、
図6の例では、補正係数算出手段40は、座標(0,0)と、座標(T
4L,T
5L)と、座標(T
4H,T
5H)と、座標(255,255)とのレベル基準値で決定される4点を通る3次のスプライン曲線で近似し、スプライン関数の係数を補正係数として算出する。なお、スプライン関数の次数は、レベル基準値の数に応じて、関数を特定可能な次数であればよい。
そして、色補正手段50は、補正係数算出手段40で算出された補正係数で特定されるスプライン関数を用いて、他の視点映像の色成分ごとの信号レベルから、補正後の信号レベルを計算すればよい。
これによって、多視点映像色合わせ装置1は、信号レベルをより滑らかに補正することができ、より正確に色合わせを行うことができる。
なお、非線形関数は、例示したスプライン関数に限定されず、ラグランジュ関数等、任意の点間を補間可能な関数であればなんでもよい。
【符号の説明】
【0058】
1 多視点映像色合わせ装置
10,10A,10B レベル累計手段
20,20A,20B 平滑化手段
30,30A,30B レベル基準値決定手段
40 補正係数算出手段
50 色補正手段
C 多視点カメラ
CA 基準視点カメラ
CB 他の視点カメラ