(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024158883
(43)【公開日】2024-11-08
(54)【発明の名称】色補正装置およびそのプログラム
(51)【国際特許分類】
H04N 9/64 20230101AFI20241031BHJP
H04N 1/48 20060101ALI20241031BHJP
H04N 1/60 20060101ALI20241031BHJP
【FI】
H04N9/64 A
H04N1/48
H04N1/60
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023074495
(22)【出願日】2023-04-28
(71)【出願人】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】三須 俊枝
【テーマコード(参考)】
5C066
【Fターム(参考)】
5C066AA01
5C066BA20
5C066CA08
5C066CA17
(57)【要約】
【課題】多視点カメラで撮影された画像に対して、チャートを用いることなく、色味を合わせることが可能な色補正装置を提供する。
【解決手段】色補正装置1は、三次元形状モデルから三次元点を選択する三次元点選択部10と、基準撮影画像を参照して、三次元点に対応する基準撮影画像の画素値を基準画素値として特定する基準撮影画像参照部11と、対象撮影画像を参照して、三次元点に対応する対象撮影画像の画素値を対象画素値として特定する対象撮影画像参照部12と、基準画素値と対象画素値とを対応付けた画素値対を生成する画素値対生成部13と、複数の画素値対を回帰分析し、変換係数を算出する回帰演算部15と、変換係数を用いて、対象撮影画像を変換して色補正済画像を生成する色変換部16と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
多視点カメラで撮影された複数の撮影画像から生成された三次元点群である三次元形状モデルを用いて、前記撮影画像の色を補正する色補正装置であって、
前記三次元形状モデルから複数の三次元点を選択する三次元点選択部と、
前記撮影画像のうちの予め定めた基準となる基準撮影画像を参照して、選択された前記三次元点に対応する前記基準撮影画像の画素値を基準画素値として特定する基準撮影画像参照部と、
前記撮影画像のうちの補正を行う対象撮影画像を参照して、選択された前記三次元点に対応する前記対象撮影画像の画素値を対象画素値として特定する対象撮影画像参照部と、
同じ前記三次元点に対応する前記基準画素値と前記対象画素値とを対応付けた画素値対を生成する画素値対生成部と、
複数の前記画素値対を回帰分析し、前記対象画素値を前記基準画素値に近似して変換させるための変換係数を算出する回帰演算部と、
前記変換係数を用いて、前記対象撮影画像の各画素の画素値を変換することで、色補正済画像を生成する色変換部と、
を備えることを特徴とする色補正装置。
【請求項2】
前記基準撮影画像参照部は、
前記基準撮影画像を撮影したカメラのカメラパラメータを用いて、前記三次元点を仮想的に画像面に投影し、投影位置の画像座標を算出する第一投影部と、
前記基準撮影画像を参照して、前記第一投影部で算出された画像座標における画素値を前記基準画素値として特定する第一画素値参照部と、を備え、
前記対象撮影画像参照部は、
前記対象撮影画像を撮影したカメラのカメラパラメータを用いて、前記三次元点を仮想的に画像面に投影し、投影位置の画像座標を算出する第二投影部と、
前記対象撮影画像を参照して、前記第二投影部で算出された画像座標における画素値を前記対象画素値として特定する第二画素値参照部と、
を備えることを特徴とする請求項1に記載の色補正装置。
【請求項3】
前記第一投影部および前記第二投影部は、陰面処理により、前記三次元点が可視点であるか否かを判定し、
前記画素値対生成部は、前記第一投影部および前記第二投影部の両方で可視点であると判定された前記三次元点に対応する前記基準画素値と前記対象画素値とを対応付けることを特徴とする請求項2に記載の色補正装置。
【請求項4】
前記第一画素値参照部は、前記第一投影部で算出された画像座標の成分が非整数のとき、当該画像座標近傍の前記基準撮影画像の画素値を参照して補間を行うことで、前記基準画素値を算出し、
前記第二画素値参照部は、前記第二投影部で算出された画像座標の成分が非整数のとき、当該画像座標近傍の前記対象撮影画像の画素値を参照して補間を行うことで、前記基準画素値を算出することを特徴とする請求項2に記載の色補正装置。
【請求項5】
前記回帰演算部は、線形回帰により前記変換係数を算出することを特徴とする請求項1から請求項4のいずれか一項に記載の色補正装置。
【請求項6】
コンピュータを、請求項1に記載の色補正装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、多視点カメラで撮影された複数の撮影画像の色を補正する色補正装置およびそのプログラムに関する。
【背景技術】
【0002】
多視点カメラで撮影された画像から被写体の三次元形状モデルを生成するフォトグラメトリ技術がある。
このフォトグラメトリ技術において、三次元形状モデルに対して色柄(テクスチャ)を付与する際には、多視点カメラで撮影された画像の画素値を参照して貼り付けること(マッピング)が行われている。このとき、三次元形状の部位によっては、異なる視点のカメラで撮影された画像の画素値が使用されることがある。例えば、被写体の各部位にできる限り正対する視点のカメラの画素値を使用することが行われる。
このとき、カメラ間の色合わせが不完全であると、撮影された画像間の対応する部位の色が異なるため、生成された三次元形状モデルをレンダリングした際に、部位ごとにパッチワーク状に色味の差異を生じたCG(Computer Graphics)が生成されてしまう可能性がある。
【0003】
従来、このような画像間の色の違いを補正するため、マクベスチャート等の複数の所定の色で塗られたチャートをカメラで撮影し、各塗色が所定の画素値として出力されるように、撮影された画像を補正する手法が開示されている(例えば、特許文献1参照)。
また、画像の色を補正するため、画像中の肌色部分やグレー部分を検出し、ホワイトバランスを調整する手法が開示されている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第6443230号公報
【特許文献2】特許第3819302号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
チャートを用いて色を補正する手法は、さまざまな色相に対して色合わせを行うことが可能である。しかし、この手法は、専用のチャートを用いなければならないため、汎用性に欠けるという問題がある。また、この補正は、色補正を行う被写体領域とチャート領域とを1つの画像として撮影し、被写体領域の色補正を行っている。そのため、この手法は、補正対象の画像内において、どこにチャートの各塗色があるかを指定または検出しなければならないという手間がある。
また、ホワイトバランスを調整する手法は、さまざまな色相に対して一様な色合わせを行うため、特定の色相について必ずしも満足のいく色合わせが実現できるとは限らないという問題がある。
【0006】
そこで、本発明は、多視点カメラで撮影された画像に対して、チャートを用いることなく、色味を合わせることが可能な色補正装置およびそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0007】
前記課題を解決するため、本発明に係る色補正装置は、多視点カメラで撮影された複数の撮影画像から生成された三次元点群である三次元形状モデルを用いて、前記撮影画像の色を補正する色補正装置であって、三次元点選択部と、基準撮影画像参照部と、対象撮影画像参照部と、画素値対生成部と、回帰演算部と、色変換部と、を備える構成とした。
【0008】
かかる構成において、色補正装置は、三次元点選択部によって、三次元形状モデルから複数の三次元点を選択する。この三次元点の選択は、三次元点群の中から人為的に選択してもよいし、三次元点群の所定の間隔やランダムな間隔で選択してもよい。
そして、色補正装置は、基準撮影画像参照部によって、撮影画像のうちの予め定めた基準となる基準撮影画像を参照して、選択された三次元点に対応する基準撮影画像の画素値を基準画素値として特定する。
また、色補正装置は、対象撮影画像参照部によって、撮影画像のうちの補正を行う対象撮影画像を参照して、選択された三次元点に対応する対象撮影画像の画素値を対象画素値として特定する。
【0009】
そして、色補正装置は、画素値対生成部によって、同じ三次元点に対応する基準画素値と対象画素値とを対応付けた画素値対を生成する。
そして、色補正装置は、回帰演算部によって、複数の画素値対を回帰分析し、対象画素値を基準画素値に近似して変換させるための変換係数を算出する。
これによって、回帰演算部は、基準画素値と対象画素値とで色味が異なる場合に、色味を合わせるための変換係数を生成することができる。
【0010】
そして、色補正装置は、色変換部によって、変換係数を用いて、対象撮影画像の各画素の画素値を変換する。
これによって、色補正装置は、対象撮影画像の色味を基準撮影画像の色味に合わせた色補正済画像を生成することができる。
なお、色補正装置は、コンピュータを、色補正装置として機能させるためのプログラムで動作させることができる。
【発明の効果】
【0011】
本発明によれば、色味の違いを回帰分析で解析することができるため、チャートを用いることなく、多視点カメラで撮影された画像の色味を合わせることができる。
【図面の簡単な説明】
【0012】
【
図1】本発明の実施形態に係る色補正装置の構成を示すブロック構成図である。
【
図2】三次元点群で構成された三次元形状モデルを模式的に示す図である。
【
図3】三次元形状モデルを生成するための多視点カメラを配置したボリュメトリックスタジオの例を示す図である。
【
図4】投影部の処理を説明するための説明図である。
【
図5】本発明の実施形態に係る色補正装置の動作を示すフローチャートである。
【
図6】色補正装置が参照する参照画像の一例であって、(a)は基準撮影画像、(b)は対象撮影画像を示す。
【
図7】三次元形状モデルの三次元点から画素値対を生成するまでの処理を模式的に示す図である。
【
図8】色補正前の対象撮影画像と色補正後の色補正済画像の一例を示す図である。
【発明を実施するための形態】
【0013】
以下、本発明の実施形態について図面を参照して説明する。
[色補正装置の構成]
図1を参照して、本発明の実施形態に係る色補正装置1の構成について説明する。
色補正装置1は、多視点カメラで撮影された個々の撮影画像について、基準撮影画像の色味(色合い)に合わせるように、対象撮影画像の色を補正するものである。
【0014】
基準撮影画像は、色補正を行うための基準となるカメラで撮影された画像である。
対象撮影画像は、基準撮影画像を撮影したカメラ以外のカメラで撮影された色補正を行う対象の画像である。
なお、多視点カメラの複数のカメラのうちで基準撮影画像を撮影するカメラは、予め定めたカメラであってもよいし、人が撮影画像を見て決定してもよい。
【0015】
色補正装置1は、三次元点選択部10と、基準撮影画像参照部11と、対象撮影画像参照部12と、画素値対生成部13と、画素値対記憶部14と、回帰演算部15と、色変換部16と、を備える。
【0016】
三次元点選択部10は、三次元点群で構成された三次元形状モデルから一点ずつ三次元点を選択するものである。
図2に示すように、三次元形状モデルMは、被写体の形状を三次元点群(三次元点の集合)で構成したものである。三次元点群を構成する各三次元点には、三次元(xyz)空間の座標値が対応付けられている。
三次元形状モデルは、例えば、
図3に示すように、予め定めた複数の視点位置POにカメラC(C1,C2,…)を配置したボリュメトリックスタジオ100において、被写体Tを撮影し、複数の撮影画像から、公知のフォトグラメトリ技術により生成することができる。なお、
図3において、カメラCは2台のみ図示し、その他は省略している。
【0017】
三次元点選択部10は、三次元形状モデルから一点ずつ選択する場所を変えて複数回三次元点を選択する。
なお、三次元点選択部10は、外部から人為的に指定された三次元点を選択してもよいし、外部の標本化装置2によって所定の間隔やランダムな間隔で指定された三次元点を選択してもよい。
ここでは、標本化装置2が、順次、三次元点を指定するものとして説明する。
三次元点選択部10は、選択した三次元点の座標値を、基準撮影画像参照部11および対象撮影画像参照部12に出力する。
以下、三次元点選択部10において、i回め(iは1以上の整数)に選択された三次元点の三次元座標をxi∈R3(実三次元数空間)とする。
【0018】
基準撮影画像参照部11は、基準撮影画像を参照して、三次元点選択部10で選択された三次元点に対応する基準撮影画像の画素値(色)を特定するものである。
基準撮影画像参照部11は、投影部110と、画素値参照部111と、を備える。
【0019】
投影部(第一投影部)110は、基準撮影画像を撮影したカメラのカメラパラメータ(基準カメラパラメータ)を用いて、三次元点選択部10で選択された三次元点を仮想的に基準撮影画像と同じ画像面に投影し、投影位置の画像座標(二次元座標)を算出するものである。
すなわち、投影部110は、
図4に示すように、基準撮影画像を撮影したカメラと同じ基準カメラパラメータ(カメラ位置、パン、チルト、ロール、焦点距離等)の仮想カメラC
Vによって、三次元形状モデルMの三次元点P
3Dを、仮想カメラC
Vの二次元の画像面(撮像面)IPに投影し、投影位置P
2Dの画像座標を算出する。
【0020】
ここで、基準カメラパラメータをPstd、三次元点P3Dの三次元座標をxi、基準カメラパラメータPstdに基づく投影変換を関数f(Pstd,x)で表すと、投影部110は、以下の式(1)により、画像面IPにおける投影位置P2Dの画像座標yi∈R2(実二次元数空間)を算出する。
【0021】
【0022】
例えば、基準カメラパラメータPstdが透視投影変換行列である場合、前記式(1)の関数fは、以下の式(2)となる。
【0023】
【0024】
投影部110は、投影後の画像面の画像座標y
iを画素値参照部111に出力する。
なお、投影部110は、
図4に示した三次元点選択部10で選択された三次元点P
3Dが、仮想カメラC
Vの視点VPから見える点(可視点)であるか否かを判定し、可視点ではない(不可視点である)場合、画像面への投影を行わず、対応する画素値が存在しない旨を、画素値対生成部13に出力する。
【0025】
この可視点の判定は、投影部110が視点VPから三次元形状モデルMの各三次元点P3D(好ましくはすべての三次元点)までの距離または奥行きを演算し、陰面処理(例えば、Zバッファ処理)を行うことで、判定することができる。
ただし、三次元点選択部10において、例えば、人為的に可視点のみを三次元点として選択する場合、投影部110における可視点の判定は必須ではない。
【0026】
画素値参照部(第一画素値参照部)111は、基準撮影画像を参照して、投影部110で投影された画像座標yiにおける画素値(基準画素値)を特定するものである。
画素値参照部111は、画像座標yi=[ξi,ηi]T(Tは転置を示す)の成分が整数であれば、その画素値を、基準撮影画像の画像座標yiの画素値として特定する。
【0027】
また、画素値参照部111は、画像座標yi=[ξi,ηi]Tの成分が非整数であれば、基準撮影画像の画像座標yi近傍の画素値を参照して補間を行うことで、基準撮影画像の画像座標yiの画素値を特定する。
例えば、画素値参照部111は、以下の式(3)に示すように、ニアレストネイバー補間(0次内挿)を用いて、画像座標yiの画素値I(yi)を計算により求める。
【0028】
【0029】
また、例えば、画素値参照部111は、以下の式(4)に示すように、双一次補間(バイリニア補間)を用いて、画像座標yiの画素値I(yi)を計算により求める。
【0030】
【0031】
なお、画素値参照部111における補間は、前記式(3),式(4)による補間に限定されない。例えば、画素値参照部111は、双三次補間(バイキュービック補間)、Windowed Sinc補間(例えば、Lanczos補間)等、任意の補間法を用いることができる。
画素値参照部111は、画像座標yiにおいて特定した基準画素値I(yi)を、画素値対生成部13に出力する。
この画素値参照部111によって特定された画像座標yiにおける基準画素値I(yi)は、選択された三次元点の基準撮影画像における色に相当することになる。
【0032】
対象撮影画像参照部12は、対象撮影画像を参照して、三次元点選択部10で選択された三次元点に対応する対象撮影画像の画素値(色)を特定するものである。
対象撮影画像参照部12は、投影部120と、画素値参照部121と、を備える。
【0033】
投影部(第二投影部)120は、対象撮影画像を撮影したカメラのカメラパラメータ(対象カメラパラメータ)を用いて、三次元点選択部10で選択された三次元点を仮想的に対象撮影画像と同じ画像面に投影し、投影位置の画像座標(二次元座標)を算出するものである。
すなわち、投影部120は、
図4に示すように、対象撮影画像を撮影したカメラと同じ対象カメラパラメータ(カメラ位置、パン、チルト、ロール、焦点距離等)の仮想カメラC
Vによって、三次元形状モデルMの三次元点P
3Dを、仮想カメラC
Vの二次元の画像面(撮像面)IPに投影し、投影位置P
2Dの画像座標を算出する。
【0034】
ここで、対象カメラパラメータをPtgt、三次元点P3Dの三次元座標をxi、対象カメラパラメータPtgtに基づく投影変換を関数f(Ptgt,x)で表すと、投影部120は、以下の式(5)により、画像面IPにおける投影位置P2Dの画像座標zi∈R2(実二次元数空間)を算出する。
【0035】
【0036】
投影部120は、投影後の画像面の画像座標z
iを画素値参照部121に出力する。
なお、投影部120は、投影部110と同様、
図4に示した三次元点選択部10で選択された三次元点P
3Dが、仮想カメラC
Vの視点VPから見える点(可視点)であるか否かを判定し、可視点ではない(不可視点である)場合、画像面への投影を行わず、対応する画素値が存在しない旨を、画素値対生成部13に出力する。
ただし、三次元点選択部10において、例えば、人為的に可視点のみを三次元点として選択する場合、投影部120における可視点の判定は必須ではない。
【0037】
画素値参照部(第二画素値参照部)121は、対象撮影画像を参照して、投影部120で投影された画像座標ziにおける画素値(対象画素値)を特定するものである。
画素値参照部121は、画像座標zi=[αi,βi]T(Tは転置を示す)の成分が整数であれば、その画素値を、対象撮影画像の画像座標ziの画素値として特定する。
【0038】
また、画素値参照部121は、画像座標zi=[αi,βi]Tの成分が非整数であれば、対象撮影画像の画像座標zi近傍の画素値を参照して補間を行うことで、対象撮影画像の画像座標ziの画素値を特定する。
例えば、画素値参照部121は、以下の式(6)に示すように、ニアレストネイバー補間(0次内挿)を用いて、画像座標ziの画素値J(zi)を計算により求める。
【0039】
【0040】
また、例えば、画素値参照部121は、以下の式(7)に示すように、双一次補間(バイリニア補間)を用いて、画像座標ziの画素値J(zi)を計算により求める。
【0041】
【0042】
なお、画素値参照部121における補間は、前記式(6),式(7)による補間に限定されない。例えば、画素値参照部121は、双三次補間(バイキュービック補間)、Windowed Sinc補間(例えば、Lanczos補間)等、任意の補間法を用いることができる。
画素値参照部121は、画像座標ziにおいて特定した対象画素値J(zi)を、画素値対生成部13に出力する。
この画素値参照部121によって特定された画像座標ziにおける対象画素値J(zi)は、選択された三次元点の対象撮影画像における色に相当することになる。
【0043】
画素値対生成部13は、選択された三次元点に対応する基準撮影画像参照部11で特定された基準画素値と、対象撮影画像参照部12で特定された対象画素値と、を対応付けた画素値対を生成するものである。
画素値対生成部13は、生成した画素値対を、画素値対記憶部14に順次記憶する。
【0044】
ただし、画素値対生成部13は、基準撮影画像参照部11から選択された三次元点に対応する基準画素値が存在しない旨、または、対象撮影画像参照部12から選択された三次元点に対応する対象画素値が存在しない旨が通知された場合、当該三次元点に対応する画素値対の生成を行わないこととする。
これによって、後記する回帰演算部15における回帰分析の精度を高め、色変換部16において、より厳密に色合わせを行うことができる。
【0045】
画素値対生成部13は、外部から三次元点の選択の終了が指示された段階で、回帰演算部15に演算開始を指示する。
例えば、画素値対生成部13は、標本化装置2から終了が指示された、外部からスイッチ等によって人為的に終了が指示された等のタイミングで、回帰演算部15に演算開始を指示する。
【0046】
なお、後記する回帰演算部15において変換係数を生成するため、画素値対の数は3以上が好ましい。そこで、例えば、画素値対生成部13は、終了が指示された段階で、画素値対の数が3未満であれば、図示を省略した表示装置等に警告を表示することとしてもよい。
【0047】
画素値対記憶部14は、画素値対生成部13で生成された画素値対を記憶するものである。画素値対記憶部14は、半導体メモリ等の一般的な記憶媒体で構成することができる。
【0048】
回帰演算部15は、画素値対記憶部14に記憶されている画素値対を回帰分析し、対象画素値を基準画素値に近似して変換させるための変換係数を算出するものである。ここで、画素値対記憶部14に記憶されている画素値対の数をN(N∈Z〔整数〕、N≧3)とする。
回帰演算部15は、画素値対記憶部14に記憶されている基準画素値I(yi)と対象画素値J(zi)との画素値対(I(yi),J(zi))i∈{1,2,…,N}に基づいて、変換係数を算出する。
【0049】
ここでは、基準画素値I(yi)および対象画素値J(zi)は、複数チャンネルの色情報を有するものとする。例えば、基準画素値I(yi)が、赤、緑および青の色情報を有するものとした場合、赤成分をIR(yi)、緑成分をIG(yi)、青成分をIB(yi)とする。同様に、対象画素値J(zi)が、赤、緑および青の色情報を有するものとした場合、赤成分をJR(zi)、緑成分をJG(zi)、青成分をJB(zi)とする。
【0050】
回帰演算部15は、回帰分析として、例えば、線形回帰により、対象画素値を基準画素値に近似して変換させるための変換係数を算出する。この場合、変換係数は、4次元空間内の回帰超平面の3係数および定数項を、色成分ごとに示すこととなる。
【0051】
具体的には、回帰演算部15は、行列Aを式(8)、行列bを式(9)として、式(10)により、変換係数[m11 m12 m13 m14 m21 m22 m23 m24 m31 m32 m33 m34]Tを算出する。
【0052】
【0053】
回帰演算部15は、算出した変換係数を色変換部16に出力する。
色変換部16は、回帰演算部15で算出された変換係数を用いて、対象撮影画像の各画素の画素値(対象画素値)を変換するものである。
【0054】
ここで、対象撮影画像の画像座標z∈R2(実二次元数空間)の画素値をJ(z)とし、J(z)の赤成分をJR(z)、緑成分をJG(z)、青成分をJB(z)とする。また、色補正後の画像である色補正済画像の画像座標z∈R2の画素値をK(z)とし、K(z)の赤成分をKR(z)、緑成分をKG(z)、青成分をKB(z)とする。
このとき、色変換部16は、以下の式(11)の変換を画素ごとに行うことで、色補正済画像を生成する。
【0055】
【0056】
これによって、色変換部16は、対象撮影画像を色補正して、色味を基準撮影画像に近似させた色補正済画像を生成する。
【0057】
以上説明した構成により、色補正装置1は、多視点カメラで撮影された個々の撮影画像について、基準撮影画像の色味に合わせるように、対象撮影画像の色を補正することができる。
なお、色補正装置1は、図示を省略したコンピュータを前記した各部として機能させるためのプログラム(色補正プログラム)で動作させることができる。
【0058】
[色補正装置の動作]
次に、
図5を参照(構成については適宜
図1参照)して、本発明の実施形態に係る色補正装置1の動作について説明する。なお、色補正装置1の動作における具体的な処理内容については、適宜
図6~
図8を参照することとする。
図6は、色補正装置1が参照する参照画像の一例であって、(a)は基準撮影画像、(b)は対象撮影画像を示す。
図7は、三次元点から画素値対を生成するまでの処理を模式的に示す図である。
図8は、色補正前の対象撮影画像と色補正後の色補正済画像の一例を示す図である。
【0059】
ステップS1において、三次元点選択部10は、三次元形状モデルM(
図2)から一点ずつ三次元点を選択する。
ステップS2において、基準撮影画像参照部11の投影部110は、基準撮影画像を撮影したカメラのカメラパラメータ(基準カメラパラメータ)を用いて、ステップS1で選択された三次元点を仮想的に基準撮影画像と同じ画像面に投影する。
すなわち、投影部110は、
図7に示すように、三次元形状モデルMの三次元点P
3Dを画像面IP
stdに投影することで、投影位置P
2Dstdの二次元の画像座標を算出する。
このとき、投影部110は、陰面処理を行うことで、三次元点P
3Dが不可視点であれば、画像面IP
stdへの投影を行わないこととする。
【0060】
ステップS3において、基準撮影画像参照部11の画素値参照部111は、基準撮影画像を参照して、ステップS2で投影された投影位置における画素値(基準画素値)を特定する。
すなわち、画素値参照部111は、
図7に示すように、画像面IP
stdに投影された投影位置P
2Dstdと同じ基準撮影画像I
stdの画像座標の画素値を、三次元点P
3Dに対応する画素値(基準画素値)と特定する。
このとき、投影位置P
2Dstdの画像座標の成分が整数でなければ、画素値参照部111は、ニアレストネイバー補間等により、投影位置P
2Dstd近傍の基準撮影画像I
stdの画素値から投影位置P
2Dstdの画素値を補間により算出する。
【0061】
ステップS4において、対象撮影画像参照部12の投影部120は、対象撮影画像を撮影したカメラのカメラパラメータ(対象カメラパラメータ)を用いて、ステップS1で選択された三次元点を仮想的に対象撮影画像と同じ画像面に投影する。
すなわち、投影部120は、
図7に示すように、三次元形状モデルMの三次元点P
3Dを画像面IP
tgtに投影することで、投影位置P
2Dtgtの二次元の画像座標を算出する。
このとき、投影部120は、陰面処理を行うことで、三次元点P
3Dが不可視点であれば、画像面IP
tgtへの投影を行わないこととする。
【0062】
ステップS5において、対象撮影画像参照部12の画素値参照部121は、対象撮影画像を参照して、ステップS4で投影された画像座標における画素値(対象画素値)を特定する。
すなわち、画素値参照部121は、
図7に示すように、画像面IP
tgtに投影された投影位置P
2Dtgtと同じ対象撮影画像I
tgtの画像座標の画素値を、三次元点P
3Dに対応する画素値(対象画素値)と特定する。
このとき、投影位置P
2Dtgtの画像座標の成分が整数でなければ、画素値参照部121は、ニアレストネイバー補間等により、投影位置P
2Dtgt近傍の対象撮影画像I
tgtの画素値から投影位置P
2Dtgtの画素値を補間により算出する。
なお、ステップS2,S3とステップS4,S5とは、動作順序を逆にしてもよいし、並列で動作させてもよい。
【0063】
ステップS6において、画素値対生成部13は、ステップS3およびステップS5で三次元点に対応する画素値(基準画素値および対象画素値)が特定されたか否かを判定する。ここでは、基準画素値および対象画素値の両方が特定された場合のみ、画素値が特定されたと判定する。
【0064】
三次元点に対応する画素値が特定された場合(ステップS6でYes)、ステップS7において、画素値対生成部13は、基準画素値と対象画素値とを対応付けた画素値対を生成し、画素値対記憶部14に記憶する。
これによって、
図7に示すように、基準撮影画像I
stdにおける投影位置P
2Dstdの基準画素値と、対象撮影画像I
tgtにおける投影位置P
2Dtgtの対象画素値とが、同じ三次元点P
3Dに対応する画素値対として、画素値対記憶部14に記憶されることになる。
一方、三次元点に対応する画素値が特定されなかった場合(ステップS6でNo)、画素値対生成部13は、処理を行わずにステップS8に動作を進める。
【0065】
ステップS8において、画素値対生成部13は、三次元点の選択の終了が指示されたか否かを判定する。
三次元点の選択の終了が指示されなかった場合(ステップS8でNo)、色補正装置1はステップS1に戻って動作を継続する。
一方、三次元点の選択の終了が指示された場合(ステップS8でYes)、ステップS9において、回帰演算部15は、画素値対記憶部14に記憶されている画素値対を回帰分析し、対象画素値を基準画素値に近似して変換させるための変換係数を算出する。
【0066】
ステップS10において、色変換部16は、ステップS9で算出された変換係数を用いて、対象撮影画像の各画素の画素値(対象画素値)を変換することで色補正済画像を生成する。
これによって、色変換部16は、例えば、
図8に示すように、対象撮影画像I
tgtの各対象画素値を変換することで、
図6(a)に示した基準撮影画像I
stdと色味があった色補正済画像I
corを生成することができる。
以上、本発明の実施形態に係る色補正装置1の構成および動作について説明したが、本発明は、この実施形態に限定されるものではない。
【0067】
(変形例1)
ここでは、撮影画像(基準撮影画像、対象撮影画像)を、複数チャンネルのカラー画像の例で説明した。
しかし、撮影画像(基準撮影画像、対象撮影画像)は、1チャンネルのモノクロ画像であってもよい。
その場合、回帰演算部15は、式(8)~式(10)において、基準画素値I(yi)および対象画素値J(zi)の成分をそれぞれ1つとして行列の要素数を減らして演算すればよい。また、色変換部16においても、式(11)の画素値K(z)および画素値をJ(z)の成分をそれぞれ1つとして行列の要素数を減らして演算すればよい。
【0068】
(変形例2)
また、ここでは、回帰演算部15が回帰分析として線形回帰により変換係数を算出した。
しかし、回帰演算部15は、式(11)のような線形回帰に限定されず、任意の非線形回帰を用いることができる。この場合、式(8)~式(10)に代えて、最急降下法、レーベンバーグ・マルカート(Levenberg-Marquardt)法等の一般的な非線形最小二乗問題の解法や、焼きなまし法(Simulated Annealing)、遺伝的アルゴリズム(Genetic Algorithm)等の最適化手法により回帰パラメータを数値的または近似的に算出することができる。
【0069】
(変形例3)
また、ここでは、三次元形状モデルを、
図3に示したボリュメトリックスタジオ100において、異なる視点位置に配置したカメラC(多視点カメラ)で撮影した複数の画像から被写体全体をモデル化した例で説明した。
しかし、三次元形状モデルは、被写体の一部、例えば、被写体の前面のみの形状データであっても構わない。
【符号の説明】
【0070】
1 色補正装置
10 三次元点選択部
11 基準撮影画像参照部
110 投影部(第一投影部)
111 画素値参照部(第一画素値参照部)
12 対象撮影画像参照部
120 投影部(第二投影部)
121 画素値参照部(第二画素値参照部)
13 画素値対生成部
14 画素値対記憶部
15 回帰演算部
16 色変換部
M 三次元形状モデル
Istd 基準撮影画像
Itgt 対象撮影画像
Icor 色補正済画像