(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022115503
(43)【公開日】2022-08-09
(54)【発明の名称】画像処理装置、画像処理方法およびコンピュータプログラム
(51)【国際特許分類】
H04N 9/04 20060101AFI20220802BHJP
H04N 9/73 20060101ALI20220802BHJP
【FI】
H04N9/04 B
H04N9/73 A
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021012122
(22)【出願日】2021-01-28
(71)【出願人】
【識別番号】319006047
【氏名又は名称】シャープセミコンダクターイノベーション株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】特許業務法人HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】岸上 真也
【テーマコード(参考)】
5C065
5C066
【Fターム(参考)】
5C065AA03
5C065BB02
5C065CC01
5C065CC02
5C065CC03
5C065GG21
5C065GG22
5C065GG23
5C066AA01
5C066CA05
5C066GA01
5C066GA02
5C066GA05
5C066KE02
5C066KE03
(57)【要約】 (修正有)
【課題】ホワイトバランスを調整する際の演算量を低減することが可能な画像処理装置、画像処理方法およびコンピュータプログラムを提供する。
【解決手段】画像処理装置1において、画像分割部11は、入力画像をブロックに分割し、各ブロックの代表値R、G、Bを求める。第1の色空間変換部12は、ブロックの代表値を、色差空間に変換し、色評価値とする。第1の座標変換部13は、入力画像の色評価値を、直交座標から極座標に変換する。制限枠判定部14は、色評価値と楕円形の制限枠との位置関係を、ルックアップテーブル15を参照して判定する。演算部16は、判定された位置関係に基づいて、出力画像を求めるためのゲインを演算する。ホワイトバランス調整部19は、演算されたゲインに基づいて、ホワイトバランスを調整する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
入力画像を複数のブロックに分割する画像分割部と、
前記画像分割部によって分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換する第1の色空間変換部と、
前記第2の色空間に変換された前記複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定する制限枠判定部と、
前記制限枠判定部によって判定された位置関係に基づいて、出力画像を求めるためのゲインを演算する演算部と、
前記演算部によって演算された前記ゲインに基づいて、前記入力画像のホワイトバランスを調整するホワイトバランス調整部とを備える、画像処理装置。
【請求項2】
前記画像処理装置はさらに、角度をアドレスとし、当該角度における、直交座標における前記色評価値の傾きと、原点から前記制限枠までの距離とをデータとするルックアップテーブルを備え、
前記制限枠判定部は、前記ルックアップテーブルを参照して、前記複数のブロックの色評価値が前記制限枠内にあるか否かを判定する、請求項1に記載の画像処理装置。
【請求項3】
前記画像処理装置はさらに、前記第2の色空間に変換された前記複数のブロックの色評価値を、直交座標から極座標に変換する第1の座標変換部を備え、
前記制限枠判定部は、極座標に変換された前記複数のブロックの色評価値と前記制限枠との位置関係を判定する、請求項1に記載の画像処理装置。
【請求項4】
前記画像処理装置はさらに、前記極座標における角度をアドレスとし、当該角度における、原点から前記制限枠までの距離をデータとするルックアップテーブルを備え、
前記制限枠判定部は、前記ルックアップテーブルを参照して、極座標に変換された前記複数のブロックの色評価値が前記制限枠内にあるか否かを判定する、請求項3に記載の画像処理装置。
【請求項5】
前記演算部は、前記制限枠判定部によって前記制限枠内にあると判定された色評価値のブロック数に応じて、入力画像の代表値を求め、
前記第1の色空間変換部は、前記入力画像の代表値を、前記第1の色空間から前記第2の色空間に変換して前記入力画像の色評価値とし、
前記第1の座標変換部は、前記入力画像の色評価値を、直交座標から極座標に変換する、請求項4に記載の画像処理装置。
【請求項6】
前記制限枠は、原点を含む楕円形の第1制限枠と、該第1制限枠を覆う楕円形の第2制限枠とを含み、
前記ルックアップテーブルは、前記極座標における角度をアドレスとし、当該角度における、原点から前記第1制限枠までの距離および前記第1制限枠から前記第2制限枠までの距離をデータとして構成され、
前記制限枠判定部は、前記ルックアップテーブルを参照して、極座標に変換された前記入力画像の色評価値が第1制限枠内にあるか、前記第1制限枠から前記第2制限枠までの範囲内にあるか、前記第2制限枠の外にあるかを判定する、請求項4または5に記載の画像処理装置。
【請求項7】
前記演算部は、極座標に変換された前記入力画像の色評価値が、前記第1制限枠および前記第2制限枠のどの位置にあるかに基づいて、前記入力画像の目標値を求めるための前記ゲインを算出し、当該ゲインを用いて前記入力画像の目標値を演算する、請求項6に記載の画像処理装置。
【請求項8】
前記画像処理装置はさらに、前記演算部によって演算された前記入力画像の目標値を、極座標から直交座標に変換する第2の座標変換部と、
前記第2の座標変換部によって直交座標に変換された前記入力画像の目標値を、前記第2の色空間から前記第1の色空間に変換する第2の色空間変換部とを含む、請求項7に記載の画像処理装置。
【請求項9】
前記ホワイトバランス調整部は、前記第2の色空間変換部によって第1の色空間に変換された前記入力画像の目標値に基づいてホワイトバランスゲインを求め、該ホワイトバランスゲインに応じて前記入力画像のホワイトバランスを調整する、請求項8に記載の画像処理装置。
【請求項10】
入力画像を複数のブロックに分割するステップと、
前記分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換するステップと、
前記第2の色空間に変換された前記複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定するステップと、
前記判定された位置関係に基づいて、出力画像を求めるためのゲインを演算するステップと、
前記演算されたゲインに基づいて、前記入力画像のホワイトバランスを調整するステップとを含む、画像処理方法。
【請求項11】
コンピュータに画像処理方法を行わせるためのコンピュータプログラムであって、
前記画像処理方法は、入力画像を複数のブロックに分割するステップと、
前記分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換して色評価値とするステップと、
前記第2の色空間に変換された前記複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定するステップと、
前記判定された位置関係に基づいて、出力画像を求めるためのゲインを演算するステップと、
前記演算されたゲインに基づいて、前記入力画像のホワイトバランスを調整するステップとを含む、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ホワイトバランスを調整する画像処理装置、画像処理方法およびコンピュータプログラムに関する。
【背景技術】
【0002】
従来、ホワイトバランス処理を自動的に行う撮像装置として、例えば、デジタルスチルカメラ、デジタルビデオカメラ等が提供されている。ホワイトバランス処理とは、ある光源の照明下において白色の被写体を撮像したときに、カメラシステムから得られ原色信号R,G,Bがすべて等しくなるように各信号のゲインを変える処理である。
【0003】
撮像装置は、ホワイトバランス処理を行うことによって、自然光(太陽光)、白熱電灯の光、蛍光灯の光等の様々な光源の違いから色づいて見える白色(例えば、低い色温度の場合は赤っぽくなり、高い色温度の場合は青っぽくなる)を、白に合わせられる。そして、色温度の変化を表す黒体放射カーブを用いて、自動的にホワイトバランスをとる処理を、オートホワイトバランス処理という。
【0004】
ところで、曲線で表される黒体放射カーブ(色温度の変化)を厳密、かつ、一義的に数式で表すことは難しい。例えば、下記の特許文献1においては、黒体放射カーブを含むように引き込み制限枠を矩形で定義している。
【0005】
特許文献1は、固体撮像素子の撮像結果の色信号のホワイトバランスをとる色信号処理回路等に関する。色信号処理回路は、色信号の2次元座標が、色調整を行う範囲を示す第1の引き込み制限枠と第1の引き込み制限枠内に規定され2次元座標系の原点を含む第2の引き込み制限枠内との双方の内側に位置するか否かを判定し、双方の内側に位置する場合に、色信号が示す色を、2次元座標系の原点に規定された白色に引き込むことを決定する引き込み判定回路と、引き込むことが決定された色信号が示す色が、2次元座標系の原点に引き込まれるように、増幅回路の増幅率(ゲイン)を調整するゲイン調整回路とを有する。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述の特許文献1において、第1の引き込み制限枠および第2の引き込み制限枠は、矩形で定義されている。例えば、引き込み制限枠が6角形で定義される場合、6本の1次直線で引き込み制限枠を定義する必要がある。1本の1次直線は、ax+by+c=0で表されるため、3つのパラメータが必要となる。したがって、1つの引き込み制限枠を定義するためには、合計18個のパラメータが必要となり、引き込み制限枠の調整を行う場合には、演算量が多くなる。
【0008】
本発明の一態様は、ホワイトバランスを調整する際の演算量を低減することが可能な画像処理装置を実現することを目的とする。
【課題を解決するための手段】
【0009】
上記の課題を解決するために、本発明の一態様に係る画像処理装置は、入力画像を複数のブロックに分割する画像分割部と、画像分割部によって分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換する第1の色空間変換部と、第2の色空間に変換された複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定する制限枠判定部と、制限枠判定部によって判定された位置関係に基づいて、出力画像を求めるためのゲインを演算する演算部と、演算部によって演算されたゲインに基づいて、入力画像のホワイトバランスを調整するホワイトバランス調整部とを備える。
【発明の効果】
【0010】
本発明の一態様によれば、ホワイトバランスを調整する際の演算量を低減することが可能な画像処理装置を提供することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の実施形態1に係る画像処理装置の機能的構成を示すブロック図である。
【
図2】複数のブロックに分割された入力画像の一例を示す図である。
【
図3】直交座標系における黒体輻射軌跡および制限枠を説明するための図である。
【
図4】制限枠Lの傾きを0とした場合を示す図である。
【
図5】極座標変換した後の(u,v)座標における制限枠を示す図である。
【
図6】入力画像の色評価値が第1制限枠L1内にある場合を示す図である。
【
図7】入力画像の色評価値が第1制限枠L1の外にあり、第2制限枠L2内にある場合を示す図である。
【
図8】入力画像の色評価値が第2制限枠L2の外にある場合を示す図である。
【
図9】入力画像の色評価値の角度がθの場合の原点から第1制限枠L1までの距離および原点から第2制限枠L2までの距離を示す図である。
【
図10】入力画像の目標値r
tを求めるためのゲインGainを説明するための図である。
【
図11】本発明の実施形態1に係る画像処理装置の処理手順を説明するためのフローチャートである。
【
図12】
図11のステップS6の処理の詳細を説明するためのフローチャートである。
【
図13】本発明の実施形態2に係る画像処理装置の機能的構成を示すブロック図である。
【
図14】入力画像の目標値r
tを求めるためのゲインGainを説明するための図である。
【
図15】本発明の実施形態2に係る画像処理装置の処理手順を説明するためのフローチャートである。
【
図16】
図15に示すステップS6’の処理を詳細に説明するためのフローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明の一実施形態について、詳細に説明する。なお、説明の便宜上、同一の部材には同一の符号を付し、それらの名称および機能も同一である。したがって、それらの詳細な説明は繰り返さない。
【0013】
(実施形態1)
<画像処理装置1の構成および動作>
図1は、本発明の実施形態に係る画像処理装置1の機能的構成を示すブロック図である。画像処理装置1は、画像分割部11と、第1の色空間変換部12と、第1の座標変換部13と、制限枠判定部14と、ルックアップテーブル15と、演算部16と、第2の座標変換部17と、第2の色空間変換部18と、ホワイトバランス調整部19とを含む。
【0014】
画像分割部11は、入力画像を複数のブロックに分割する。この複数のブロックは、正方形、長方形等の矩形であってもよいし、矩形以外の形状であってもよく、特に限定されるものではない。
【0015】
また、画像分割部11は、各ブロックの代表値R,G,Bを求める。各ブロックの代表値は、各ブロック内の各画素のR,G,Bそれぞれの平均値、最大値、中央値等であり、色を表現できるものであればよい。
【0016】
図2は、複数のブロックに分割された入力画像の一例を示す図である。
図2に示すように、画像分割部11は、入力画像を同じ大きさの長方形のブロックとなるように分割している。ブロックの大きさや形状は任意であり、領域によってブロックの大きさや形状を変更するようにしてもよい。
【0017】
第1の色空間変換部12は、各ブロックの代表値R,G,Bを、第1の色空間から第2の色空間に変換する。本実施形態においては、第1の色空間をR,G,Bで表される色空間とし、第2の色空間を輝度信号YとU,V等の色差信号で表される色空間(以下、色差空間と呼ぶことにする。)とするが、これらに限定されるものではない。
【0018】
第1の色空間変換部12は、次式(式1)~(式3)を用いて、各ブロックの代表値R,G,Bを色差空間に変換する。
【0019】
Y=0.299×R+0.587×G+0.114×B ・・・(式1)
U=-0.169×R-0.331×G+0.500×B ・・・(式2)
V=0.500×R-0.419×G-0.081×B ・・・(式3)
ここで、上記(式2)および(式3)で求められた色差信号U,Vをそのまま使用してもよいし、輝度値の影響を除去するために、U,Vのそれぞれを上記(式1)で求められた輝度信号Yで除したものを使用してもよい。このようにして各ブロックの代表値を色差空間に変換した値を、色評価値と呼ぶことにする。
【0020】
第1の座標変換部13は、第1の色空間変換部12によって色差空間に変換された各ブロックの色評価値を、直交座標系から極座標系に変換する。本実施の形態においては、極座標として円座標を用いるものとするが、これに限定されるものではない。
【0021】
また、極座標変換することにより、後述のようにルックアップテーブル15の構成を簡単にすることができるが、直交座標系のまま後述の制限枠判定を行うことも可能である。この場合、ルックアップテーブル15のアドレスとしてU,Vの座標を用い、データとして制限枠の内か外かを示す1ビットの値が記憶されることになる。
【0022】
なお、YUVで表される3次元の色空間を第2の色空間とするが、色差信号UVのみで表される2次元座標を(u,v)座標と呼ぶことにし、以下、色差信号UVの値および座標を、u,vで表記することにする。
【0023】
図3は、直交座標系における黒体輻射軌跡および制限枠を説明するための図である。
図3においては、直交座標系(u,v)における黒体輻射軌跡を示しており、制限枠Lは黒体輻射軌跡を含むような楕円によって表される。直交座標系(u,v)において、黒体輻射軌跡は原点を通る直線に近い線で表される。制限枠Lは、長軸が黒体輻射軌跡に沿うように配置される。そのため制限枠Lは、直交座標系(u,v)に対して所定の傾きを有している。
【0024】
なお、制限枠Lに関し、上述した楕円の他、黒体輻射軌跡を含む任意の形状によって制限枠Lを表すことで、本実施形態を実現しても良い。
【0025】
図4は、制限枠Lの傾きを0とした場合を示す図である。
図4に示すように、簡単のために傾きを0としており、楕円は、次式(式4)によって表すことができる。ここで、aおよびbは、楕円の長辺および短辺を表している。なお、
図4に示す(x,y)座標系に対し、(u,v)座標系は、(x,y)座標系を所定角度だけ回転させたものとなる。したがって、楕円を定義するパラメータとして、長辺a、短辺bおよび上記所定角度の3つとなる。
【0026】
x2/a2+y2/b2=1 ・・・(式4)
制限枠Lの内であれば、(式4)のx,yに、u,vの座標値を代入したときに、(式4)の左辺が1未満となる。また、制限枠Lの外であれば、(式4)の左辺が1よりも大きくなる。また、制限枠L上であれば、(式4)の左辺が1となる。
【0027】
このように1次式、2次式等の制限枠Lに、u,vの座標値を当てはめて式を計算し、座標値が制限枠Lの内にあるか、外にあるかを判定する必要がある。本実施形態においては、上述のように制限枠を楕円形とし、色評価値が制限枠の内にあるか、外にあるかを評価するが、演算量を減らすために以下のように直交座標を極座標に変換し、ルックアップテーブルを用いる。
【0028】
第1の座標変換部13は、各ブロックの色評価値を極座標変換し、原点からの距離r、および角度θへ変換する。第1の座標変換部13は、次式(式5)および(式6)を用いて色評価値を極座標に変換する。
【0029】
r=sqr(u2+v2) ・・・(式5)
θ=INT(arctan(v/u)) ・・・(式6)
ここで、sqr()は、平方根を算出するための関数、INT()は、括弧内の数値を整数化するための関数を示す。また、arctan()関数は、tanの逆関数である。atan2()関数を用いることができる場合は、atan2()関数を用いてもよい。また、平方根、arctan()関数、atan2()関数を使用できない場合には、近似式による計算であってもよい。
【0030】
このように、色評価値を直交座標から極座標に変換して得られた角度θの値を用いることにより、原点から制限枠までの距離を一意に決定することができるようになる。角度θをアドレスとし、原点から制限枠までの距離をデータとしたルックアップテーブル15は、以下の通りとなる。
【0031】
【0032】
制限枠判定部14は、色評価値を極座標変換した後の角度θを用いてルックアップテーブル15からデータを読み出すことにより、原点から第1制限枠L1までの距離d0Bと、第1制限枠L1から第2制限枠L2までの距離dBCとを取得することができる。制限枠判定部14は、色評価値を極座標変換して得られたrと、距離d0Bおよび距離dBCとに基づいて、色評価値が、第1制限枠L1の内にあるのか外にあるのか、第1制限枠L1から第2制限枠L2までの間にあるのか、第2制限枠L2の外にあるのかを判定する
図5は、極座標変換した後の(u,v)座標における制限枠を示す図である。
図5に示すように、角度がθの場合、原点Oから第1制限枠L1までの距離が、原点Oから点Bまでの距離となる。また、第1制限枠L1から第2制限枠L2までの距離が、点Bから点Cまでの距離となる。表1に示すルックアップテーブル15には、θ=0°~359°の1度ごとの値が記憶されている。
【0033】
なお、
図5~
図9の説明においては、楕円の第1制限枠L1と第2制限枠L2について、それぞれの制限枠の中心位置を原点Oとし、傾きを同じとしているが、それぞれが異なっていてもよい。2つの制限枠の中心位置および傾きを揃えるのではなく、例えば、実施の状況や設計事項に応じて、第1制限枠L1および第2制限枠L2の中心位置を互いにずらしたり、傾きを互いに異ならせたりしてもよい。
【0034】
本実施形態においては、ホワイトバランスを調整することを目的としており、色の微調整のための色相調整を目的とはしないため、1度単位でルックアップテーブル15を構成すればよく、これ以上詳細なルックアップテーブルを構成する必要はない。なお、角度θの精度を上げる必要がある場合、演算量は増加するが、線形補間等を用いることも可能である。
【0035】
制限枠判定部14は、各ブロックの色評価値に関し、各ブロックの輝度Yが所定値の範囲内にあるか否かを判定する。輝度Yの範囲として、閾値1および閾値2(閾値1<閾値2)が予め設定されており、制限枠判定部14は、ブロックの輝度Yが閾値1から閾値2の範囲内にあるか否かを判定し、輝度Yが閾値1から閾値2の範囲内にあるブロックの色評価値のみを使用する。輝度Yが小さ過ぎたり、大き過ぎたりする場合、色のバランスが崩れており、真実の色を表していない可能性が高いため、これらの値は用いない。
【0036】
制限枠判定部14は、輝度Yが閾値1および閾値2の範囲内であれば、ルックアップテーブル15を参照して、ブロックの色評価値(r,θ)の角度θに対応する、原点から第1制限枠L1までの距離d0Bと、第1制限枠L1から第2制限枠L2までの距離dBCとを読み出す。原点から第2制限枠L2までの距離d0Cは、以下の通りとなる。
【0037】
d0C=d0B+dBC ・・・(式7)
制限枠判定部14は、色評価値の距離rと、原点から第2制限枠までの距離d0Cとを比較し、rがd0Cよりも小さければ色評価値が第2制限枠内にあると判定し、rがd0Cよりも大きければ色評価値が第2制限枠の外にあると判定する。
【0038】
ここで、画像分割部11によって分割されたブロックの数をnとし、各ブロックの代表値をRi、Gi、Bi(i=0,1,2,…n)とすると、色評価値が第2制限枠の内にある場合、演算部16は、以下の式を用いる。ここで、SumRin、SumGin、SumBinは、第2制限枠内にあるブロックの各代表値を加算した値が代入される変数である。また、Cntinは、第2制限枠内にあるブロックの数を示す変数である。これらの変数は、初期値として0が代入されている。
【0039】
SumRin=SumRin+Ri ・・・(式8)
SumGin=SumGin+Gi ・・・(式9)
SumBin=SumBin+Bi ・・・(式10)
Cntin=Cntin+1 ・・・(式11)
また、色評価値が第2制限枠の外にある場合、演算部16は、以下の式を用いる。ここで、SumRout、SumGout、SumBoutは、第2制限枠の外にあるブロックの各代表値を加算した値が代入される変数である。また、Cntoutは、第2制限枠の外にあるブロックの数を示す変数である。これらの変数は、初期値として0が代入されている。
【0040】
SumRout=SumRout+Ri ・・・(式12)
SumGout=SumGout+Gi ・・・(式13)
SumBout=SumBout+Bi ・・・(式14)
Cntout=Cntout+1 ・・・(式15)
演算部16は、第2制限枠内にあるブロックの数が所定数以上であれば、入力画像の代表値をSumRin、SumGin、SumBinとする。ここで、入力画像の代表値を、SumRin、SumGin、SumBinを、Cntinで除した値としてもよい。なお、所定数は、例えば、1である。
【0041】
また、第2制限枠内にあるブロックの数が所定数未満であれば、入力画像の代表値をSumRout、SumGout、SumBoutとする。ここで、入力画像の代表値を、SumRout、SumGout、SumBoutを、Cntoutで除した値としてもよい。
【0042】
以下、入力画像の代表値をSumR、SumG、SumBとして説明する。
【0043】
第1の色空間変換部12は、入力画像の代表値SumR、SumG、SumBを、色差信号を用いた色差空間(第2の色空間)に変換して色評価値とする。そして、第1の座標変換部13は、入力画像の色評価値を、直交座標から極座標に変換して距離rinおよび角度θinを求める。
【0044】
制限枠判定部14は、ルックアップテーブル15を参照して、入力画像の色評価値(rin,θin)が第1制限枠L1の内にあるか外にあるか、第2制限枠L2の内にあるか外にあるかを判定する。
【0045】
図6は、入力画像の色評価値が第1制限枠L1内にある場合を示す図である。この場合、演算部16は、
図6に示すように、入力画像の目標値(r
t,θ
t)を原点とする引き込み処理を行う。すなわち、入力画像の色評価値の角度をθ
inとすると、r
t=0、θ
t=θ
inとなり、入力画像の目標値r
tを求めるためのゲインGainは0となる。
【0046】
目標値とは、例えば人間が知覚する白色の実際の色に近い(u,v)座標である。
図6の原点は白色に相当する。この時、第1制限枠L1は撮影画像の白色部を白色と人間が知覚する範囲を設定する事が多い。色評価値が第1制限枠L1内に存在する場合は、人間の知覚に合う様に色評価値を原点とする事が好ましい。従って、色評価値が第1制限枠L1に存在する場合は、目標値を原点として引き込み処理を行う。
【0047】
図7は、入力画像の色評価値が第1制限枠L1の外にあり、第2制限枠L2内にある場合を示す図である。この場合、演算部16は、
図7に示すように、入力画像の目標値(r
t,θ
t)を原点方向に移動させる引き込み処理を行う。すなわち、入力画像の目標値r
tを求めるためのゲインGainは、次式の通りとなる。なお、入力画像の色評価値の距離をr
inとする。
【0048】
Gain=(r
in-d0B)/dBC ・・・(式16)
図8は、入力画像の色評価値が第2制限枠L2の外にある場合を示す図である。この場合、ホワイトバランスを調整する必要はないため、入力画像の目標値r
tを求めるためのゲインGainは1となる。なお、
図8に示すように、演算部16は、入力画像の目標値r
tを第2制限枠L2上に引き込むようにGainを定めるようにしてもよい。
【0049】
図9は、入力画像の色評価値の角度がθ
inの場合の原点から第1制限枠L1までの距離および原点から第2制限枠までの距離を示す図である。入力画像の色評価値の角度がθ
inの場合の原点から第1制限枠L1までの距離はd0B、原点から第2制限枠までの距離はdBCとなる。上述のように、このd0BおよびdBCは、ルックアップテーブル15を参照することによって求めることができる。
【0050】
図10は、入力画像の目標値r
tを求めるためのゲインGainを説明するための図である。
図10は、
図9に示す色評価値の角度がθ
inの場合を示しており、入力画像の色評価値r
inがd0B以下であれば、Gainは0となる。入力画像の色評価値r
inがd0B以上、d0C以下であれば、Gainは、
図10に示すものとなる。また、入力画像の色評価値r
inがd0C以上であれば、Gainは1となる。
【0051】
演算部16は、入力画像の目標値(rt,θt)を次式(式17)および(式18)によって求める。
(Gainが1未満の場合)
rt=rin×Gain ・・・(式17)
θt=θin ・・・(式18)
(Gainが1の場合)
rt=d0C ・・・(式17’)
θt=θin ・・・(式18’)
第2の座標変換部17は、入力画像の目標値(rt,θt)を、極座標から直交座標に変換する。この極座標から直交座標への座標変換は、次式(式19)および(式20)を用いて行うことができる。
【0052】
ut=rt×cosθt ・・・(式19)
vt=rt×sinθt ・・・(式20)
第2の色空間変換部18は、直交座標に変換された入力画像の目標値を、第2の色空間(色差空間)から第1の色空間(R,G,B)に変換する。この色変換は、次式(式21)~(式23)を用いて行うことができる。
【0053】
Rt=1.0×Y+1.402×vt ・・・(式21)
Gt=1.0×Y-0.344×ut-0.714×vt ・・・(式22)
Bt=1.0×Y+1.772×ut ・・・(式23)
ホワイトバランス調整部19は、入力画像の目標値(Rt,Gt,Bt)からホワイトバランスを調整する際に用いるホワイトバランスゲインGainR、GainG、GainBを次式(式24)~(式26)を用いて算出する。なお、本実施形態においては、輝度成分をよく表すG信号に対するゲインを1.0とする。
【0054】
GainR=Gt/Rt ・・・(式24)
GainG=1.0 ・・・(式25)
GainB=Gt/Bt ・・・(式26)
ホワイトバランス調整部19は、入力画像のRin,Gin,Bin信号のそれぞれに、ゲインGainR、GainG、GainBを乗算することによって、ホワイトバランス調整後の出力画像Rout、Gout、Boutを得る。なお、入力画像の各画素を(Rin,Gin,Bin)とする。
【0055】
R
out=R
in×Gain
R ・・・(式27)
G
out=G
in×Gain
G ・・・(式28)
B
out=B
in×Gain
B ・・・(式29)
<画像処理装置1の処理手順>
図11は、本発明の実施形態に係る画像処理装置の処理手順を説明するためのフローチャートである。まず、画像分割部11は、入力画像を複数のブロックに分割し(S1)、各ブロックの代表値R,G,Bを求める(S2)。
【0056】
次に、第1の色空間変換部12は、各ブロックの代表値R,G,Bを、色差空間に変換し、色評価値とする(S3)。そして、第1の座標変換部13は、色評価値を直交座標から極座標に変換する(S4)。
【0057】
次に、制限枠判定部14は、ルックアップテーブル15を参照して、極座標に変換された色評価値の距離rと、原点から第2制限枠L2までの距離d0Cとを比較し、色評価値が第2制限枠L2内にあるか否かを判定する(S5)。
【0058】
次に、演算部16は、第2制限枠L2内に色評価値があるブロック数に応じて、入力画像の代表値SumR、SumG、SumBを求め、入力画像の代表値SumR、SumG、SumBから入力画像の目標値(rt,θt)を演算する(S6)。なお、この処理の詳細は後述する。
【0059】
次に、第2の座標変換部17は、入力画像の目標値(rt,θt)を、極座標から直交座標に変換する(S7)。そして、第2の色空間変換部18は、直交座標に変換された入力画像の目標値を第1の色空間の目標値(Rt,Gt,Bt)に変換する(S8)。
【0060】
ホワイトバランス調整部19は、入力画像の目標値(Rt,Gt,Bt)からホワイトバランスを調整する際に用いるホワイトバランスゲインGainR、GainG、GainBを算出する。そして、ホワイトバランス調整部19は、入力画像のRin,Gin,Bin信号のそれぞれに、ゲインGainR、GainG、GainBを乗算して、ホワイトバランスを調整する(S9)。
【0061】
図12は、
図11に示すステップS6の処理を詳細に説明するためのフローチャートである。まず、演算部16は、第2制限枠L2内に色評価値があるブロック数に応じて、入力画像の代表値SumR、SumG、SumBを求める(S61)。
【0062】
次に、第1の色空間変換部12は、入力画像の代表値SumR、SumG、SumBを、色差空間に変換して色評価値とする(S62)。そして、第1の座標変換部13は、色評価値を極座標変換して入力画像の色評価値(rin,θin)とする(S63)。
【0063】
次に、演算部16は、入力画像の色評価値(rin,θin)からゲインGainを演算する(S64)。そして、演算部16は、ゲインGainを用いてホワイトバランスを行う目標値(rt,θt)を求める(S65)。
【0064】
以上説明したように、本実施形態に係る画像処理装置1によれば、制限枠判定部14が、楕円の制限枠Lを用いて、色評価値が制限枠Lの内にあるか外にあるかを判定するようにした。したがって、制限枠を定義するパラメータの数を削減でき、制限枠の調整を行う際の演算量を低減することが可能となった。
【0065】
また、制限枠判定部14が、第1の座標変換部13によって極座標に変換された色評価値を用いて、色評価値が制限枠Lの内にあるか外にあるかを判定するようにした。したがって、色評価値の距離rと、角度θにおける原点から制限枠Lまでの距離とを比較するだけで、色評価値が制限枠Lの内にあるか外にあるかを判定することができ、さらに演算量を低減することが可能となった。
【0066】
また、ルックアップテーブル15が、角度θをアドレスとし、原点から制限枠までの距離をデータとして構成されるため、角度θに基づいて原点から制限枠までの距離を容易に求めることが可能となった。
【0067】
また、演算部16が、第2制限枠内にあると判定された色評価値のブロック数に応じて入力画像の代表値を求める。そして、第1の色空間変換部12が、入力画像の代表値を第2の色空間に変換して入力画像の色評価値とし、第1の座標変換部13が、入力画像の色評価値を直交座標から極座標に変換するようにした。したがって、制限枠判定部14は、ルックアップテーブル15を参照して、入力画像の色評価値が第2制限枠内にあるか否かを容易に判定することが可能となった。
【0068】
また、ルックアップテーブル15は、極座標における角度をアドレスとし、当該角度における、原点から第1制限枠L1までの距離および第1制限枠L1から第2制限枠L2までの距離をデータとして構成される。したがって、制限枠判定部14は、入力画像の色評価値が第1制限枠および第2制限枠のどの位置にあるかを容易に判定することが可能となった。
【0069】
また、演算部16は、極座標に変換された入力画像の色評価値が、第1制限枠L1および第2制限枠L2のどの位置にあるかに基づいて、入力画像の目標値を求めるためのゲインを算出し、当該ゲインを用いて入力画像の目標値を演算する。したがって、演算部16は、入力画像の目標値を求めるためのゲインを容易に算出することが可能となった。
【0070】
また、第2の座標変換部17は、演算部16によって演算された入力画像の目標値を、極座標から直交座標に変換する。そして、第2の色空間変換部18は、第2の座標変換部17によって極座標に変換された入力画像の目標値を、第2の色空間から第1の色空間に変換する。したがって、第1の色空間における入力画像の目標値を算出することが可能となった。
【0071】
また、ホワイトバランス調整部19は、第2の色空間変換部18によって第1の色空間に変換された入力画像の目標値に基づいてホワイトバランスゲインを求め、当該ホワイトバランスゲインに応じて入力画像のホワイトバランスを調整する。したがって、ホワイトバランス調整後の出力画像を容易に求めることが可能となった。
【0072】
(実施形態2)
<画像処理装置1’の構成および動作>
本発明の実施形態1においては、第1の座標変換部13が、各ブロックの色評価値を極座標変換し、原点からの距離r、および角度θへ変換するものであった。本発明の実施形態2においては、各ブロックの色評価値を極座標変換せずに、処理を行うものである。
【0073】
図13は、本発明の実施形態2に係る画像処理装置の機能的構成を示すブロック図である。なお、説明の便宜上、上記実施形態1において説明した部材と同じ機能を有する部材については、同じ符号を付記し、その詳細な説明を繰り返さない。
【0074】
画像処理装置1’は、画像分割部11と、第1の色空間変換部12と、制限枠判定部14’と、ルックアップテーブル15’と、演算部16’と、第2の色空間変換部18と、ホワイトバランス調整部19とを含む。
【0075】
本実施形態においては、極座標変換を行わないため、角度情報θを取得することができない。そこで、直交座標における座標(x,y)と原点とを結ぶ直線の傾きを次式(式30)によって求める。
【0076】
傾き=y/x ・・・(式30)
ここで、原点を中心とする半径1の円を考えると、角度θに対する座標(x,y)は、次式(式31)となる。
【0077】
(x,y)=(cosθ,sinθ) ・・・(式31)
角度θに対する傾きは、次式(式32)の通りとなる。
【0078】
傾き=sinθ/cosθ=tanθ ・・・(式32)
したがって、角度θに相当する傾きtanθと、原点から第1制限枠L1までの距離d0Bと、第1制限枠L1から第2制限枠L2までの距離dBCとでルックアップテーブル15’を以下の表2のように構成する。
【0079】
【0080】
ここで、tanθの特性より、90°と270°との値が無限大となる。制限枠判定部14’は、ルックアップテーブル15’を参照する前に、色評価値(u,v)から求めた傾きの絶対値が57.29以上であり、かつ色評価値(u,v)が1象限または第2象限にあれば、角度θを90°とする。また、制限枠判定部14’は、色評価値(u,v)から求めた傾きの絶対値が57.29以上であり、かつ色評価値(u,v)が第3象限または第4象限にあれば、角度θを270°とする。
【0081】
次に、制限枠判定部14’は、角度θが90°ではなく、270°でもなければ、求めた傾きと、ルックアップテーブル15’に格納される傾き情報とを比較し、一致する色評価値(u,v)の角度θを取得する。そして、制限枠判定部14’は、取得した角度θを参照して、ルックアップテーブル15’から、原点から第1制限枠L1までの距離d0Bと、第1制限枠L1から第2制限枠L2までの距離dBCとを取得する。そして、実施形態1と同様に、色評価値が第1制限枠L1および第2制限枠L2のどの位置にあるかを判定する。ここで、rinは、上記(式5)を用いて算出するものとする。
【0082】
演算部16’は、色評価値r
inがどの位置にあるかによって、以下のようにGainを算出する。なお、実施形態1において説明した方法によって、Gainを算出するようにしてもよい。
(d0B≦r
in≦d0Cの場合)
Gain=(r
in-d0B)/dBC ・・・(式33)
(r
in>d0Cの場合)
Gain=d0C/r
in ・・・(式34)
図14は、入力画像の目標値r
tを求めるためのゲインGainを説明するための図である。入力画像の色評価値r
inがd0B以下であれば、Gainは0となる。入力画像の色評価値r
inがd0B以上、d0C以下であれば、Gainは、
図14に示すものとなる。また、入力画像の色評価値r
inがd0C以上であれば、Gainは
図14に示すようなものとなる。
【0083】
演算部16’は、入力画像の目標値(ut,vt)を次式(式35)および(式36)によって求める。
【0084】
ut=u×Gain ・・・(式35)
vt=v×Gain ・・・(式36)
実施形態1において説明したように、距離rinに対してGainを乗算し、三角関数を用いて目標値(u,v)を求めるようにしてもよいが、本実施形態においては、演算量を削減するために、色評価値(u,v)に直接Gainを乗算するようにしている。
【0085】
図15は、本発明の実施形態2に係る画像処理装置1’の処理手順を説明するためのフローチャートである。まず、画像分割部11は、入力画像を複数のブロックに分割し(S1)、各ブロックの代表値R,G,Bを求める(S2)。
【0086】
次に、第1の色空間変換部12は、各ブロックの代表値R,G,Bを、色差空間に変換し、色評価値とする(S3)。
【0087】
次に、制限枠判定部14’は、ルックアップテーブル15’を参照して、色評価値の距離rと、原点から第2制限枠L2までの距離d0Cとを比較し、色評価値が第2制限枠L2内にあるか否かを判定する(S5’)。
【0088】
次に、演算部16’は、第2制限枠L2内に色評価値があるブロック数に応じて、入力画像の代表値SumR、SumG、SumBを求め、入力画像の代表値SumR、SumG、SumBから入力画像の目標値(ut,vt)を演算する(S6’)。
【0089】
次に、第2の色空間変換部18は、入力画像の目標値を第1の色空間の目標値(Rt,Gt,Bt)に変換する(S8’)。
【0090】
ホワイトバランス調整部19は、入力画像の目標値(Rt,Gt,Bt)からホワイトバランスを調整する際に用いるホワイトバランスゲインGainR、GainG、GainBを算出する。そして、ホワイトバランス調整部19は、入力画像のRin,Gin,Bin信号のそれぞれに、ゲインGainR、GainG、GainBを乗算して、ホワイトバランスを調整する(S9)。
【0091】
図16は、
図13に示すステップS6’の処理を詳細に説明するためのフローチャートである。まず、演算部16’は、第2制限枠L2内に色評価値があるブロック数に応じて、入力画像の代表値SumR、SumG、SumBを求める(S61)。
【0092】
次に、第1の色空間変換部12は、入力画像の代表値SumR、SumG、SumBを、色差空間に変換して色評価値とする(S62)。
【0093】
次に、演算部16’は、入力画像の色評価値(u,v)からゲインGainを演算する(S64’)。そして、演算部16’は、ゲインGainを用いてホワイトバランスを行う目標値(ut,vt)を求める(S65’)。
【0094】
以上説明したように、本実施形態に係る画像処理装置においては、直交座標における色評価値の傾きと、原点から制限枠までの距離とをデータとするルックアップテーブルを用いるようにした。したがって、制限枠判定部は、ルックアップテーブルを参照して、入力画像の色評価値が制限枠内にあるか否かを容易に判定することができ、演算量を低減することが可能となった。
【0095】
<ソフトウェアによる実現例>
画像処理装置1,1’の制御ブロック(特に、画像分割部11、第1の色空間変換部12、第1の座標変換部13、制限枠判定部14,14’、演算部16,16’、第2の座標変換部17、第2の色空間変換部18、ホワイトバランス調整部19)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
【0096】
後者の場合、制御部ブロックは、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
【0097】
[まとめ]
本発明の態様1に係る画像処理装置は、入力画像を複数のブロックに分割する画像分割部と、画像分割部によって分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換する第1の色空間変換部と、第2の色空間に変換された複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定する制限枠判定部と、制限枠判定部によって判定された位置関係に基づいて、出力画像を求めるためのゲインを演算する演算部と、演算部によって演算されたゲインに基づいて、入力画像のホワイトバランスを調整するホワイトバランス調整部とを備える。
【0098】
上記の構成によれば、制限枠を定義するパラメータの数を削減でき、制限枠の調整を行う際の演算量を低減することが可能となる。
【0099】
本発明の態様2に係る画像処理装置は、上記態様1において、画像処理装置はさらに、角度をアドレスとし、当該角度における、直交座標における色評価値の傾きと、原点から制限枠までの距離とをデータとするルックアップテーブルを備え、制限枠判定部は、ルックアップテーブルを参照して、複数のブロックの色評価値が制限枠内にあるか否かを判定する。
【0100】
上記の構成によれば、制限枠判定部は、ルックアップテーブルを参照して、入力画像の色評価値が制限枠内にあるか否かを容易に判定することができ、さらに演算量を低減することが可能となる。
【0101】
本発明の態様3に係る画像処理装置は、上記態様1において、画像処理装置はさらに、第2の色空間に変換された複数のブロックの色評価値を、直交座標から極座標に変換する第1の座標変換部を備え、制限枠判定部は、極座標に変換された複数のブロックの色評価値と制限枠との位置関係を判定する。
【0102】
上記の構成によれば、色評価値の距離と、角度における原点から制限枠までの距離とを比較するだけで、色評価値と制限枠との位置関係を判定することができ、さらに演算量を低減することが可能となる。
【0103】
本発明の態様4に係る画像処理装置は、上記態様3において、画像処理装置はさらに、極座標における角度をアドレスとし、当該角度における、原点から制限枠までの距離をデータとするルックアップテーブルを備え、制限枠判定部は、ルックアップテーブルを参照して、極座標に変換された複数のブロックの色評価値が制限枠内にあるか否かを判定する。
【0104】
上記の構成によれば、制限枠判定部は、ルックアップテーブルを参照して、入力画像の色評価値が制限枠内にあるか否かを容易に判定することができ、さらに演算量を低減することが可能となる。
【0105】
本発明の態様5に係る画像処理装置は、上記態様4において、演算部は、制限枠判定部によって制限枠内にあると判定された色評価値のブロック数に応じて、入力画像の代表値を求め、第1の色空間変換部は、入力画像の代表値を、第1の色空間から第2の色空間に変換して入力画像の色評価値とし、第1の座標変換部は、入力画像の色評価値を、直交座標から極座標に変換する。
【0106】
上記の構成によれば、制限枠判定部は、入力画像の色評価値が制限枠内にあるか否かを容易に判定することが可能となる。
【0107】
本発明の態様6に係る画像処理装置は、上記態様4または5において、制限枠は、原点を含む楕円形の第1制限枠と、第1制限枠を覆う楕円形の第2制限枠とを含み、ルックアップテーブルは、極座標における角度をアドレスとし、当該角度における、原点から第1制限枠までの距離および第1制限枠から第2制限枠までの距離をデータとして構成され、制限枠判定部は、ルックアップテーブルを参照して、極座標に変換された入力画像の色評価値が第1制限枠内にあるか、第1制限枠から第2制限枠までの範囲内にあるか、第2制限枠の外にあるかを判定する。
【0108】
上記の構成によれば、制限枠判定部は、入力画像の色評価値が第1制限枠および第2制限枠のどの位置にあるかを容易に判定することが可能となる。
【0109】
本発明の態様7に係る画像処理装置は、上記態様6において、演算部は、極座標に変換された入力画像の色評価値が、第1制限枠および第2制限枠のどの位置にあるかに基づいて、入力画像の目標値を求めるためのゲインを算出し、当該ゲインを用いて入力画像の目標値を演算する。
【0110】
上記の構成によれば、演算部は、入力画像の目標値を求めるためのゲインを容易に算出することが可能となる。
【0111】
本発明の態様8に係る画像処理装置は、上記態様7において、画像処理装置はさらに、演算部によって演算された入力画像の目標値を、極座標から直交座標に変換する第2の座標変換部と、第2の座標変換部によって直交座標に変換された入力画像の目標値を、第2の色空間から第1の色空間に変換する第2の色空間変換部とを含む。
【0112】
上記の構成によれば、第1の色空間における入力画像の目標値を算出することが可能となる。
【0113】
本発明の態様9に係る画像処理装置は、上記態様8において、ホワイトバランス調整部は、第2の色空間変換部によって第1の色空間に変換された入力画像の目標値に基づいてホワイトバランスゲインを求め、ホワイトバランスゲインに応じて入力画像のホワイトバランスを調整する。
【0114】
上記の構成によれば、ホワイトバランス調整後の出力画像を容易に求めることが可能となる。
【0115】
本発明の態様10に係る画像処理方法は、入力画像を複数のブロックに分割するステップと、分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換するステップと、第2の色空間に変換された複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定するステップと、判定された位置関係に基づいて、出力画像を求めるためのゲインを演算するステップと、演算されたゲインに基づいて、入力画像のホワイトバランスを調整するステップとを含む。
【0116】
上記の構成によれば、制限枠を定義するパラメータの数を削減でき、制限枠の調整を行う際の演算量を低減することが可能となる。
【0117】
本発明の態様11に係るコンピュータプログラムは、コンピュータに画像処理方法を行わせるためのコンピュータプログラムであって、画像処理方法は、入力画像を複数のブロックに分割するステップと、分割された複数のブロックのそれぞれの第1の色空間における代表値を、色差信号を用いた第2の色空間に変換するステップと、第2の色空間に変換された複数のブロックの代表値に基づく色評価値と楕円形の制限枠との位置関係を判定するステップと、判定された位置関係に基づいて、出力画像を求めるためのゲインを演算するステップと、演算されたゲインに基づいて、入力画像のホワイトバランスを調整するステップとを含む。
【0118】
上記の構成によれば、制限枠を定義するパラメータの数を削減でき、制限枠の調整を行う際の演算量を低減することが可能となる。
【0119】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
【符号の説明】
【0120】
1,1’ 画像処理装置
11 画像分割部
12 第1の色空間変換部
13 第1の座標変換部
14,14’ 制限枠判定部
15,15’ ルックアップテーブル
16,16’ 演算部
17 第2の座標変換部
18 第2の色空間変換部
19 ホワイトバランス調整部