特許第6160426号(P6160426)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士ゼロックス株式会社の特許一覧

<>
  • 特許6160426-画像処理装置及びプログラム 図000014
  • 特許6160426-画像処理装置及びプログラム 図000015
  • 特許6160426-画像処理装置及びプログラム 図000016
  • 特許6160426-画像処理装置及びプログラム 図000017
  • 特許6160426-画像処理装置及びプログラム 図000018
  • 特許6160426-画像処理装置及びプログラム 図000019
  • 特許6160426-画像処理装置及びプログラム 図000020
  • 特許6160426-画像処理装置及びプログラム 図000021
  • 特許6160426-画像処理装置及びプログラム 図000022
  • 特許6160426-画像処理装置及びプログラム 図000023
  • 特許6160426-画像処理装置及びプログラム 図000024
  • 特許6160426-画像処理装置及びプログラム 図000025
  • 特許6160426-画像処理装置及びプログラム 図000026
  • 特許6160426-画像処理装置及びプログラム 図000027
  • 特許6160426-画像処理装置及びプログラム 図000028
  • 特許6160426-画像処理装置及びプログラム 図000029
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6160426
(24)【登録日】2017年6月23日
(45)【発行日】2017年7月12日
(54)【発明の名称】画像処理装置及びプログラム
(51)【国際特許分類】
   H04N 1/46 20060101AFI20170703BHJP
   H04N 1/60 20060101ALI20170703BHJP
   G06T 1/00 20060101ALI20170703BHJP
【FI】
   H04N1/46 Z
   H04N1/40 D
   G06T1/00 510
【請求項の数】6
【全頁数】20
(21)【出願番号】特願2013-209655(P2013-209655)
(22)【出願日】2013年10月4日
(65)【公開番号】特開2015-76642(P2015-76642A)
(43)【公開日】2015年4月20日
【審査請求日】2016年5月25日
(73)【特許権者】
【識別番号】000005496
【氏名又は名称】富士ゼロックス株式会社
(74)【代理人】
【識別番号】100104880
【弁理士】
【氏名又は名称】古部 次郎
(74)【代理人】
【識別番号】100118108
【弁理士】
【氏名又は名称】久保 洋之
(72)【発明者】
【氏名】佐々木 信
【審査官】 豊田 好一
(56)【参考文献】
【文献】 国際公開第2013/145365(WO,A1)
【文献】 特開2005−039457(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 1/46−62
G06T 1/00
H04N 1/40
(57)【特許請求の範囲】
【請求項1】
原画像を、当該原画像の輝度成分を画素値とする輝度画像及び当該原画像の色度成分を画素値とする色度画像に変換する色変換を行う色変換手段と、
前記輝度画像から、前記原画像の照明成分を画素値とする照明画像を生成する照明画像生成手段と、
前記輝度画像と、前記照明画像とに基づいて、前記原画像の反射率成分を画素値とする反射率画像を生成する反射率画像生成手段と、
少なくとも、前記反射率画像と、前記原画像の反射率成分の強調度合いを表す反射率強調度合い情報とに基づいて、当該原画像の視認性が高まるように再現された輝度再現画像を生成する輝度再現画像生成手段と、
前記色度画像の色度を調整することにより、色度調整画像を生成する色度調整画像生成手段と、
前記輝度再現画像及び前記色度調整画像に対して、前記色変換手段が行う色変換とは逆の変換を行う色逆変換手段と
を備えたことを特徴とする画像処理装置。
【請求項2】
前記輝度画像及び前記色度画像の少なくとも何れか一方の画像から、前記原画像における指定された色領域内の色の領域を表す領域画像を生成する領域画像生成手段を更に備え、
前記輝度再現画像生成手段は、前記輝度画像と前記領域画像と、前記領域の輝度の強調度合いを表す輝度強調度合い情報とに更に基づいて、前記輝度再現画像を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記輝度再現画像生成手段は、前記領域の輝度成分を変換することで当該領域の輝度を強調する関数の形状を制御する前記輝度強調度合い情報に基づいて、前記輝度再現画像を生成することを特徴とする請求項2に記載の画像処理装置。
【請求項4】
前記輝度画像及び前記色度画像の少なくとも何れか一方の画像から、前記原画像における指定された色領域内の色の領域を表す領域画像を生成する領域画像生成手段を更に備え、
前記反射率画像生成手段は、前記領域画像と、前記領域の輝度の強調度合いを表す輝度強調度合い情報とに更に基づいて、前記反射率画像を生成することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記反射率画像生成手段は、前記領域の輝度成分を変換することで当該領域の輝度を強調する関数の形状を制御する前記輝度強調度合い情報に基づいて、前記反射率画像を生成することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
コンピュータに、
原画像を、当該原画像の輝度成分を画素値とする輝度画像及び当該原画像の色度成分を画素値とする色度画像に変換する色変換を行う機能と、
前記輝度画像から、前記原画像の照明成分を画素値とする照明画像を生成する機能と、
前記輝度画像と、前記照明画像とに基づいて、前記原画像の反射率成分を画素値とする反射率画像を生成する機能と、
少なくとも、前記反射率画像と、前記原画像の反射率成分の強調度合いを表す反射率強調度合い情報とに基づいて、当該原画像の視認性が高まるように再現された輝度再現画像を生成する機能と、
前記色度画像の色度を調整することにより、色度調整画像を生成する機能と、
前記輝度再現画像及び前記色度調整画像に対して、前記色変換とは逆の変換を行う機能と
を実現させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、プログラムに関する。
【背景技術】
【0002】
明度、彩度、色相の画像データについて画像補正を行うときに、明度によりコントラストを補正し、少なくとも明度から最大彩度を求め、求められた各画素の補正前後の明度における最大彩度から補正すべき彩度変化量を算出し、算出した彩度変化量で彩度を補正する画像処理装置は知られている(例えば、特許文献1参照)。
【0003】
入力色信号の彩度レベルを算出し、算出された彩度レベルを用いて、入力色信号の輝度変化に適用される輝度加重値および彩度に対する利得を計算し、入力色信号を所定のアルゴリズムに応じて輝度を調整し、調整された輝度および入力色信号の輝度を出力し、加重値と利得のいずれか1つと調整された輝度を用いて入力色信号の輝度を変化させる彩度適応的な映像向上装置も知られている(例えば、特許文献2参照)。
【0004】
入力画像のコントラスト調整を行い、入力画像の色情報を算出し、入力画像の輝度、コントラスト調整後画像の輝度および入力画像の色情報に基づいて出力画像の輝度を制御する画像処理装置も知られている(例えば、特許文献3参照)。
【0005】
入力画像データを均等色空間上で表現されるL*C*H*信号に変換し、この変換データから明度(L*)についてヒストグラムを作成し、このヒストグラムを基にハイライト及びシャドウのしきい値を決定し、ハイライト及びシャドウのしきい値に基づいて明度のダイナミックレンジを補正し、さらに明度の補正に対応させて、彩度(C*)を補正し、この各補正の際に色相(H*)を一定とすることで、色調バランスを保持したまま階調を補正するディジタル画像の階調補正装置も知られている(例えば、特許文献4参照)。
【0006】
被写体を撮像して、高感度画像データと低感度画像データを生成し、各感度の画像データを、R・G・B信号値から、色相H・明度V・彩度Cに変換し、高感度画像データと低感度画像データ各々の画像特性に応じて、個々に彩度調整処理条件を設定し、設定された条件に基づいて、彩度調整処理を施し、高感度画像データと低感度画像データの彩度調整処理済みの彩度C’、未処理の色相H・明度Vを各々合成し、合成された彩度C’・色相H・明度Vを、R・G・B信号に変換して広ダイナミックレンジ画像を生成する画像撮像装置も知られている(例えば、特許文献5参照)。
【0007】
フィルタリング部が、入力画像データの照明光成分を抽出し、レチネックス処理部が、入力画像データを抽出された照明光成分で除算することにより入力画像データの反射率成分を算出し、彩度ゲイン算出部が、入力画像データの彩度成分と輝度成分との比と負の相関関係にある彩度ゲインを算出し、補正パラメータ算出部が、算出された反射率成分および彩度ゲインに基づいて補正パラメータを算出し、乗算部が、算出された補正パラメータと入力画像データとを乗算することにより補正画像データを生成する画像処理装置も知られている(例えば、特許文献6参照)。
【0008】
これまでのシングルスケールの中心/周辺レティネックスをマルチスケールに拡張すると良好な演色を作り出すことができなくなることにより定義された、色の一致における少量の希薄化を犠牲にしてこの欠陥を補正する色復元の方法も知られている(例えば、非特許文献1参照)。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2001−45311号公報
【特許文献2】特開2005−353069号公報
【特許文献3】特開2007−226579号公報
【特許文献4】特開平8−32827号公報
【特許文献5】特開2004−328132号公報
【特許文献6】特開2011−086976号公報
【非特許文献】
【0010】
【非特許文献1】Daniel J. Jobson, Zia-ur Rahman, and Glenn A. Woodell, 「A Multiscale Retinex for Bridging the Gap Between Color Images and the Human Observation of Scenes」, IEEE TRANSACTIONS ON IMAGE PROCESSING, VOL. 6, NO. 7, JULY 1997
【発明の概要】
【発明が解決しようとする課題】
【0011】
本発明の目的は、反射率成分を強調することで画像の視認性を高める際に、色再現性を高めることにある。
【課題を解決するための手段】
【0012】
請求項1に記載の発明は、原画像を、当該原画像の輝度成分を画素値とする輝度画像及び当該原画像の色度成分を画素値とする色度画像に変換する色変換を行う色変換手段と、前記輝度画像から、前記原画像の照明成分を画素値とする照明画像を生成する照明画像生成手段と、前記輝度画像と、前記照明画像とに基づいて、前記原画像の反射率成分を画素値とする反射率画像を生成する反射率画像生成手段と、少なくとも、前記反射率画像と、前記原画像の反射率成分の強調度合いを表す反射率強調度合い情報とに基づいて、当該原画像の視認性が高まるように再現された輝度再現画像を生成する輝度再現画像生成手段と、前記色度画像の色度を調整することにより、色度調整画像を生成する色度調整画像生成手段と、前記輝度再現画像及び前記色度調整画像に対して、前記色変換手段が行う色変換とは逆の変換を行う色逆変換手段とを備えたことを特徴とする画像処理装置である。
請求項2に記載の発明は、前記輝度画像及び前記色度画像の少なくとも何れか一方の画像から、前記原画像における指定された色領域内の色の領域を表す領域画像を生成する領域画像生成手段を更に備え、前記輝度再現画像生成手段は、前記輝度画像と前記領域画像と、前記領域の輝度の強調度合いを表す輝度強調度合い情報とに更に基づいて、前記輝度再現画像を生成することを特徴とする請求項1に記載の画像処理装置である。
請求項3に記載の発明は、前記輝度再現画像生成手段は、前記領域の輝度成分を変換することで当該領域の輝度を強調する関数の形状を制御する前記輝度強調度合い情報に基づいて、前記輝度再現画像を生成することを特徴とする請求項2に記載の画像処理装置である。
請求項4に記載の発明は、前記輝度画像及び前記色度画像の少なくとも何れか一方の画像から、前記原画像における指定された色領域内の色の領域を表す領域画像を生成する領域画像生成手段を更に備え、前記反射率画像生成手段は、前記領域画像と、前記領域の輝度の強調度合いを表す輝度強調度合い情報とに更に基づいて、前記反射率画像を生成することを特徴とする請求項1に記載の画像処理装置である。
請求項5に記載の発明は、前記反射率画像生成手段は、前記領域の輝度成分を変換することで当該領域の輝度を強調する関数の形状を制御する前記輝度強調度合い情報に基づいて、前記反射率画像を生成することを特徴とする請求項4に記載の画像処理装置である。
請求項6に記載の発明は、コンピュータに、原画像を、当該原画像の輝度成分を画素値とする輝度画像及び当該原画像の色度成分を画素値とする色度画像に変換する色変換を行う機能と、前記輝度画像から、前記原画像の照明成分を画素値とする照明画像を生成する機能と、前記輝度画像と、前記照明画像とに基づいて、前記原画像の反射率成分を画素値とする反射率画像を生成する機能と、少なくとも、前記反射率画像と、前記原画像の反射率成分の強調度合いを表す反射率強調度合い情報とに基づいて、当該原画像の視認性が高まるように再現された輝度再現画像を生成する機能と、前記色度画像の色度を調整することにより、色度調整画像を生成する機能と、前記輝度再現画像及び前記色度調整画像に対して、前記色変換とは逆の変換を行う機能とを実現させるためのプログラムである。
【発明の効果】
【0013】
請求項1の発明によれば、反射率成分を強調することで画像の視認性を高める際に、色再現性を高めることができる。
請求項2の発明によれば、反射率成分を強調することで画像の視認性を高める際に、指定された色領域内の色に関する輝度を画像において強調することができる。
請求項3の発明によれば、本構成を有していない場合に比較して、指定された色領域内の色に関する輝度を画像において簡単に強調することができる。
請求項4の発明によれば、反射率成分を強調することで画像の視認性を高める際に、指定された色領域内の色に関する輝度を強調するための反射率を得ることができる。
請求項5の発明によれば、本構成を有していない場合に比較して、指定された色領域内の色に関する輝度を強調するための反射率を簡単に得ることができる。
請求項6の発明によれば、反射率成分を強調することで画像の視認性を高める際に、色再現性を高めることができる。
【図面の簡単な説明】
【0014】
図1】本発明の第1の実施の形態における画像処理装置の機能構成例を示したブロック図である。
図2】(a)〜(c)は、σの値によって多層画像の各層の画像の周波数が異なることを示した図である。
図3】照明推定部による照明光の推定の第1の例を示した図である。
図4】照明推定部による照明光の推定の第2の例を示した図である。
図5】色度再現部による彩度の変換で用いられる関数の例を示した図である。
図6】(a)及び(b)は、色度再現部による色相の変換の内容及びこの変換で用いられる関数の例を示した図である。
図7】色度再現部による色度の変換が行われる色度空間の色度座標の例を示した図である。
図8】色度再現部による色度の変換の例を示した図である。
図9】本発明の第1の実施の形態における画像処理装置の動作例を示したフローチャートである。
図10】本発明の第2の実施の形態における画像処理装置の機能構成例を示したブロック図である。
図11】(a)及び(b)は、本発明の第2の実施の形態及び第3の実施の形態で用いる画像の例及びこの画像の例に対する特定領域画像の例を示した図である。
図12】輝度再現部又は合成反射率推定部で用いられる輝度再現パラメータによって決定される関数の例を示した図である。
図13】本発明の第2の実施の形態における画像処理装置の動作例を示したフローチャートである。
図14】本発明の第3の実施の形態における画像処理装置の機能構成例を示したブロック図である。
図15】本発明の第3の実施の形態における画像処理装置の動作例を示したフローチャートである。
図16】本発明の実施の形態における画像処理装置のハードウェア構成例を示したブロック図である。
【発明を実施するための形態】
【0015】
以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。
【0016】
[発明の背景]
画像を扱って文書を作成する作業は、PC(Personal Computer)を駆使してモニタを観ながら行うのが一般的である。このような作業においては、近年急速に普及しているタブレット等のICT(Information and Communication Technology)デバイスを用いるユーザも増えている。
【0017】
一般に、事務作業やDTP(DeskTop Publishing)作業の現場のようなオフィス環境では、環境光の変化に左右されることは少ない。一方で、快適に持ち運べるICTデバイスには、場所を問わず作業できるという利点はあるが、環境光の変化等、持ち運んだ先に大きく左右されるという欠点もある。
【0018】
また、画像を扱う作業には、上記のような文書を作成する作業の他にも、ユーザがカメラ付きタブレット等で撮影した画像をそれぞれのデバイスに保存する作業がある。ユーザが互いに画像を見せ合ったり画像で状況を説明したりするシーンもよく見られるようになった。
【0019】
このように、近年のモニタ環境の特徴としては、従来のモニタ環境とは違って、「手軽に使え」、「使用場所が多様」であることが挙げられる。そして、この近年のモニタ環境では、使用方法や使用環境が従来とは異なることから、色合わせよりも「視認性」の方が重視されている。
【0020】
「視認性」とは、視対象がはっきり見えるか否かの特性である。画像の視認性を高める方法には、ガンマ補正、ヒストグラムイコライゼーション、ダイナミックレンジ圧縮等に代表される画像処理分野の基本手法がある。
【0021】
ガンマ補正では、暗部や対象となる領域を盛り上げるカーブを生成し、画素値に適用することで、暗部を明るくする。ヒストグラムイコライゼーションでは、画像のヒストグラムの偏りをなくすカーブを生成し、画素値に適用することで、ヒストグラムが平滑化される再現を行う。ダイナミックレンジ圧縮では、画像の周辺輝度に応じて補正量を変えることで、コントラストを低下させることなく低輝度及び高輝度を表現する。
【0022】
また、視覚特性を利用した視認性向上の方法には、レティネックス原理を利用したものもある。レティネックスは、人間が反射率によってシーンを知覚しているという考え方に基づき、反射率成分を強調することで視認性を高める基本原理である。
【0023】
更には、ICTデバイスに付属のカメラの性能の向上に伴い、表示や描画の際における画像の色再現性の向上等も望まれている。このような色再現性の代表例として、「記憶色再現」がある。記憶色とは、肌色や空色等に代表される、言葉に連想して思い起こされる色をいう。記憶色は、実際の色よりも強調した方が好まれることが分かっている。その他にも、画像補正の分野では、明度や彩度等の補正を行う画像処理を行った方が好ましいことが多い。
【0024】
しかしながら、一般に、画像のシーンの視認性向上及び色再現性の両方のバランスをとることは容易ではない。
【0025】
そこで、本実施の形態では、視覚特性に基づいたモデルで構成し、シーンの視認性及び色再現性の両方を高める。特に、視認性の向上及び記憶色再現の両方が得られる画像処理を行う。
【0026】
[第1の実施の形態]
図1は、本発明の第1の実施の形態における画像処理装置10の機能構成例を表すブロック図である。図示するように、第1の実施の形態における画像処理装置10は、色変換部11と、照明推定部12と、反射率推定部15と、輝度再現部17と、色度再現部18と、色逆変換部19とを備える。
【0027】
色変換部11は、原画像を輝度及び色度に変換する。原画像には一般にsRGB等に代表されるRGB画像が多いので、このような色変換としては、RGBからYCbCrへの変換、RGBからL*a*b*への変換、RGBからHSVへの変換等が挙げられる。これらの変換は、定められた変換式を用いて行えばよい。本実施の形態では、変換後の色空間がHSVであるものとして説明を行う。色空間がHSVである場合、輝度画像はV画像の1プレーンとなり、色度画像はHS画像の2プレーンとなる。
【0028】
本実施の形態では、原画像を輝度画像及び色度画像に変換する色変換を行う色変換手段の一例として、色変換部11を設けている。
【0029】
照明推定部12は、色変換部11で生成された輝度画像(本実施の形態ではV画像)に基づいて、原画像が表すシーンの照明成分を推定する(以下、この推定された照明成分の画像を「照明推定画像」という)。照明成分の推定として、本実施の形態では、2つの例を示す。
【0030】
1つ目の照明成分の推定の例は、ガウス関数を用いたものである。人の視覚では、注目領域の周辺によって照明光を推定するという特性がある。レティネックス原理はこれに基づくモデルであるので、画像の平滑化処理を行う。本実施の形態では以下のようなガウス関数を用いて平滑化処理を行う。
【0031】
【数1】
【0032】
ここで、x,yはある画素の位置を表し、kは画像処理のフィルタサイズの画素分で積分した場合に結果が1になるように正規化する係数を表し、σは平滑化度合い(スケール)を表す。尚、上記の関数は一例であり、結果として画像が平滑化されるフィルタであれば如何なるものを用いてもよい。例えば、数式1を変形した関数によるフィルタで、エッジ保存を行う平滑化フィルタとして知られるバイラテラルフィルタがあるが、これを用いてもよいものとする。また、移動平均法を用いても構わない。平滑化の本質を損なわなければ如何なる方法を用いてもよい。数式1のσを変化させたときの画像の変化を図2(a)〜(c)に示す。具体的には、(a)に示すようにσが小さいと高周波になり、(c)に示すようにσが大きいと低周波になり、(b)に示すようにσが中程度だと周波数も中程度になる。
【0033】
平滑化は、1つのスケールの層のみを用いて行ってもよいが、スケールを変えた多層(マルチスケール)を用いて行うことにより、照明成分の推定のロバスト性が高まる。
【0034】
図3は、この例において照明推定部12が照明推定画像を生成するときの様子を示したものである。例えば、照明光の推定は、以下のようにスケール1からスケールNまでのN層の画像の加重合計をとるのが望ましい。
【0035】
【数2】
【0036】
ここで、L(x,y)は照明推定画像の画素値を表し、G(x,y)はスケールnに対する数式1を表し、I(x,y)は原画像の画素値を表し、Wはスケールnに対する重みを表し、「×」を「○」で囲んだ記号は畳み込みを表す。尚、Wは、簡易的に1/Nとしてもよいし、層に応じて可変としてもよい。図3のように照明推定が行われた場合、Vプレーンに数式2を適用するので、数式2は以下のように解釈される。
【0037】
【数3】
【0038】
ここで、L(x,y)は輝度画像から得られる照明推定画像の画素値を表し、I(x,y)は輝度画像の画素値を表す。
【0039】
尚、照明成分の推定には、少なくとも1つのスケールの層があればよい。その少なくとも1つのスケールの層は、複数のスケールの層を生成してその中から選択されたものであってもよい。
【0040】
また、2つ目の照明成分の推定の例は、図4のように、輝度画像そのものから最適化する方法である。このような照明成分の推定は、例えば、文献「R.Kimmel,M.Elad,D.Shaked,R.Keshet,and I.Sobel,“A variational framework for retinex,”Int.J.Comput. Vis.,vol.52,no.1,pp7-23,Jan.2003」に記載された技術を用いて行うとよい。即ち、照明成分Lそのものを未知とし、原画像の画素値I(既知)を用いてLの空間的滑らかさを表すエネルギー関数を定義し、エネルギー関数をLの2次計画問題と捉えて解を算出するといった上記文献に記載された方法でLを算出するとよい。例えば、照明光は空間で滑らかであると仮定すれば、滑らかさをEとしたLのエネルギー関数を以下のように定義される。
【0041】
【数4】
【0042】
ここで、a,bは滑らかさを制御するパラメータである。E(L)はlogL(x,y)に対する2次式であるので、2次計画問題として解析的に解くことが可能である。或いは、公知の解析的手法は他にもあるのでそれを適用してもよい。
【0043】
本実施の形態では、原画像の照明成分を画素値とする照明画像の一例として、照明推定画像を用いており、照明画像を生成する照明画像生成手段の一例として、照明推定部12を設けている。
【0044】
反射率推定部15は、原画像の画素値の照明推定画像の画素値に対する比を求めることにより原画像の反射率を推定する。具体的には、以下のように反射率を表す画像(以下、「反射率推定画像」という)を求める。
【0045】
【数5】
【0046】
ここで、R(x,y)は反射率推定画像の画素値を表し、I(x,y)は輝度画像の画素値を表し、L(x,y)は照明推定画像の画素値を表す。尚、本実施の形態では、輝度画像をHSVのV画像としているので、この数式4も、数式3の解釈と同じように解釈される。
【0047】
本実施の形態では、輝度画像と照明画像とに基づく原画像の反射率成分を画素値とする反射率画像の一例として、反射率推定画像を用いており、輝度画像と照明画像とに基づいて反射率画像を生成する反射率画像生成手段の一例として、反射率推定部15を設けている。
【0048】
輝度再現部17は、反射率推定部15が生成した反射率推定画像と、原画像とに基づいて、反射率成分を強調する処理を行う。例えば、以下のような再現式により、輝度再現画像を生成する。
【0049】
【数6】
【0050】
ここで、I^(x,y)は輝度再現画像の画素値を表す。また、αは視認性向上の度合いを表すパラメータであり、図1の視認性向上パラメータ(反射率強調度合い情報)に相当する。I^(x,y)は、α=1の場合、反射率成分そのものとなり、α=0の場合、輝度画像の画素値となる。本実施の形態において、αは0から1までの如何なる値でもよいものとする。尚、本明細書では、ハット記号を、数式中では文字の真上に付すが、文中では文字の後ろに付すものとする。
【0051】
また、再現式は、数式5に限らず、以下のような式であってもよい。
【0052】
【数7】
【0053】
ここで、αは反射率のゲインを表すパラメータであり、図1の視認性向上パラメータ(反射率強調度合い情報)に相当する。logは研究分野では視覚特性を表すものとなっているが、画像処理上はゲインのような作用がある。また、constは再現式の切片を表す定数である。図1は、輝度再現部17が輝度画像を用いて輝度再現画像を生成する場合について示したが、この数式6を用いた場合、輝度再現部17は輝度画像を用いずに輝度再現画像を生成することになる。
【0054】
尚、本実施の形態では、輝度再現部17が数式5又は数式6を用いて画像を再現することとしたが、本発明の本質を損なわなければ如何なる式を用いて画像を再現することとしてもよい。
【0055】
本実施の形態では、少なくとも反射率画像と反射率強調度合い情報とに基づいて輝度再現画像を生成する輝度再現画像生成手段の一例として、輝度再現部17を設けている。
【0056】
本実施の形態において、反射率推定部15と輝度再現部17とからなる処理部は、原画像の視認性が高まるように再現された輝度再現画像を生成するための処理を行う画像生成処理手段の一例である。
【0057】
色度再現部18は、色変換部11で生成された色度画像(本実施の形態ではH及びS)の制御を行う。尚、YCbCr色空間では、CbCrが色度画像に相当し、L*a*b*色空間では、a*b*が色度画像に相当する。
【0058】
具体的には、彩度Sを例えば以下のように変換することにより、彩度コントラストを高め、色としての質感を向上させる。
【0059】
【数8】
【0060】
ここで、コントラスト関数fは、例えば図5のような形状とすればよい。尚、この関数fの形状を制御するパラメータは、図1の色度再現パラメータに相当する。
【0061】
また、肌色、空色等のように、色相を変化させることが重要な場合は、色相Hを例えば以下のように変換すればよい。
【0062】
【数9】
【0063】
ここで、関数fとしては、図6(a)のように色相を変換するものを採用すればよい。図6(a)は、右向き矢印と左向き矢印とによって、ある色相の周囲の色相をその色相に近付くように変換することを表したものである。この場合、関数fは例えば図6(b)のような形状とすればよい。尚、この関数fの形状を制御するパラメータも、図1の色度再現パラメータに相当する。
【0064】
或いは、H及びSを図7のような色度座標に変換し、色度空間で色調整を行ってもよい。図7におけるH,SからxHS,yHSへの変換は、以下の式により行われる。
【0065】
【数10】
【0066】
この数式9による変換後の色度座標内で、部分空間を構成し、図8のようにその内部での色調整(部分空間色調整)を行うことにより、特定の色の周囲の予め定めた範囲以外に影響を与えない色度調整が行われる。このような変換は、例えば特開2004−112694号公報に記載された方法を用いて行えばよい。尚、この部分空間色調整を制御するパラメータも、図1の色度再現パラメータに相当する。
【0067】
本実施の形態では、色度調整画像を生成する色度調整画像生成手段の一例として、色度再現部18を設けている。
【0068】
色逆変換部19は、このように視認性を向上する輝度再現画像と色度の再現性を確保した色度画像とが生成されると、色変換部11とは逆の色変換を行う。即ち、この第1の実施の形態の一連の処理で得られた再現画像をH^S^V^とし、H^S^V^色空間からRGB色空間への変換を行うことにより、最終的な再現画像を得る。
【0069】
本実施の形態では、色変換手段が行う色変換とは逆の変換を行う色逆変換手段の一例として、色逆変換部19を設けている。
【0070】
図9は、本発明の第1の実施の形態における画像処理装置10の動作例を表すフローチャートである。
【0071】
原画像が入力されると、まず、色変換部11が、原画像に対して原画像の色空間から輝度及び色度の色空間への色変換を行うことにより、輝度画像及び色度画像を生成する(ステップ101)。
【0072】
次に、照明推定部12が、図3及び図4に示したように、ステップ101で生成された輝度画像に基づいて、照明推定画像を生成する(ステップ102)。次いで、反射率推定部15が、ステップ101で生成された輝度画像と、ステップ102で生成された照明推定画像とに基づいて、反射率推定画像を生成する(ステップ103)。その後、輝度再現部17が、ステップ101で生成された輝度画像と、ステップ103で生成された反射率推定画像と、視認性向上パラメータとに基づいて、輝度再現画像を生成する(ステップ104)。尚、ここでは、数式5を用いて輝度再現画像を生成する場合を想定して輝度画像を用いることとしたが、数式6を用いて輝度再現画像を生成する場合は、ステップ104で輝度画像を用いなくてもよい。また、色度再現部18が、ステップ101で生成された色度画像と、色度再現パラメータとに基づいて、色度調整画像を生成する(ステップ105)。ここで、ステップ102乃至ステップ105はこの順序で実行されることとしたが、ステップ102の後にステップ103が実行され、その後にステップ104が実行されるのであれば、如何なる順序で実行されてもよい。或いは、ステップ102乃至ステップ104の少なくとも1つのステップと、ステップ105とは、並行に実行されるものであってもよい。
【0073】
最後に、色逆変換部19が、ステップ104で生成された輝度再現画像と、ステップ105で生成された色度調整画像とに対して、色変換部11が行ったのとは逆の色変換、つまり、輝度及び色度の色空間から原画像の色空間への色変換を行うことにより、再現画像を生成する(ステップ106)。
【0074】
[第2の実施の形態]
図10は、本発明の第2の実施の形態における画像処理装置10の機能構成例を表すブロック図である。図示するように、第2の実施の形態における画像処理装置10は、色変換部11と、照明推定部12と、特定領域生成部14と、反射率推定部15と、輝度再現部17と、色度再現部18と、色逆変換部19とを備える。即ち、第2の実施の形態は、第1の実施の形態に加え、注目色領域内の色を有する特定領域を生成する特定領域生成部14を備えている。色度再現部18は、この注目色領域における色度画像の制御を行うが、第2の実施の形態は、この注目色領域における輝度の変換に対しても、注目色領域に応じた工夫を与えるものである。ここで、色変換部11、照明推定部12、反射率推定部15、色度再現部18、及び色逆変換部19については、第1の実施の形態と同じなので説明を省略し、以下では、特定領域生成部14及び輝度再現部17についてのみ説明する。
【0075】
特定領域生成部14は、主に色度画像から注目色領域内の色を有する特定領域を表す画像(以下、「特定領域画像」という)を生成する。但し、特定領域生成部14は、特定領域画像を生成する際に輝度画像を参照することもあるので、図10では輝度画像から特定領域生成部14へ破線の矢印を描いている。この特定領域画像は、0から1までの値で領域度合いを表すマスク画像と等価なものである。注目色領域は代表色を持っているので、例えば、前述のxHS,yHS、CbCr、a*b*等の色度座標上でこの代表色を与えればよい。また、輝度も考慮する場合は、HSV、YCbCr、L*a*b*等、代表色を与えられるものであれば、如何なる色空間で代表色を与えてもよい。
【0076】
このように代表色を与えた後、特定領域生成部14は、色度画像又は原画像の全画素に対し、画素値の代表色からの距離を算出し、各画素に対する距離を特定領域の度合いを表す加重とした特定領域画像を生成する。例えば、特開2003−248824号公報又は特開2006−155595号公報に記載された方法の一部を適用することにより、特定領域画像は生成される。このような特定領域画像の生成について図11(a),(b)に示す。即ち、扱う画像が(a)のようなものである場合に、(b)のような特定領域画像が生成される。
【0077】
本実施の形態では、原画像における指定された色領域内の色の領域を表す領域画像の一例として、特定領域画像を用いており、領域画像を生成する領域画像生成手段の一例として、特定領域生成部14を設けている。
【0078】
輝度再現部17は、上記のように生成された特定領域画像の画素値に応じて、以下のように特定領域に対して再現性を変える。
【0079】
【数11】
【0080】
ここで、fは輝度を変換するための関数である。関数fは例えば図12のような形状とすればよく、この形状を制御するパラメータが図10の輝度再現パラメータに相当する。また、w(x,y)は特定領域画像の画素値を表す。更に、αは視認性向上の度合いを表すパラメータであり、図10の視認性向上パラメータ(反射率強調度合い情報)に相当する。このような変換を行うことにより、シーンの視認性が向上し、特定領域では他の領域と異なる輝度強調が行われる。
【0081】
本実施の形態では、輝度画像と反射率画像と反射率強調度合い情報と領域画像と輝度強調度合い情報とに基づいて輝度再現画像を生成する輝度再現画像生成手段の一例として、輝度再現部17を設けている。
【0082】
図13は、本発明の第2の実施の形態における画像処理装置10の動作例を表すフローチャートである。
【0083】
原画像が入力されると、まず、色変換部11が、原画像に対して原画像の色空間から輝度及び色度の色空間への色変換を行うことにより、輝度画像及び色度画像を生成する(ステップ121)。
【0084】
次に、照明推定部12が、図3及び図4に示したように、ステップ121で生成された輝度画像に基づいて、照明推定画像を生成する(ステップ122)。次いで、反射率推定部15が、ステップ121で生成された輝度画像と、ステップ122で生成された照明推定画像とに基づいて、反射率推定画像を生成する(ステップ123)。また、特定領域生成部14が、ステップ121で生成された色度画像等から注目色領域内の色を有する特定領域を示す特定領域画像を生成する(ステップ124)。更に、色度再現部18が、ステップ121で生成された色度画像と、色度再現パラメータとに基づいて、色度調整画像を生成する(ステップ125)。ここで、ステップ122乃至ステップ125はこの順序で実行されることとしたが、ステップ122の後にステップ123が実行されるのであれば、如何なる順序で実行されてもよい。或いは、ステップ122及びステップ123の少なくとも1つのステップと、ステップ124と、ステップ125とは、並行に実行されるものであってもよい。
【0085】
次いで、輝度再現部17が、ステップ121で生成された輝度画像と、ステップ123で生成された反射率推定画像と、視認性向上パラメータと、ステップ124で生成された特定領域画像と、輝度再現パラメータとに基づいて、輝度再現画像を生成する(ステップ126)。
【0086】
最後に、色逆変換部19が、ステップ126で生成された輝度再現画像と、ステップ125で生成された色度調整画像とに対して、色変換部11が行ったのとは逆の色変換、つまり、輝度及び色度の色空間から原画像の色空間への色変換を行うことにより、再現画像を生成する(ステップ127)。
【0087】
[第3の実施の形態]
図14は、本発明の第3の実施の形態における画像処理装置10の機能構成例を表すブロック図である。図示するように、第3の実施の形態における画像処理装置10は、色変換部11と、照明推定部12と、特定領域生成部14と、合成反射率推定部16と、輝度再現部17と、色度再現部18と、色逆変換部19とを備える。第3の実施の形態は、第1の実施の形態及び第2の実施の形態とは、反射率の算出方法が異なる。再現画像としては第1の実施の形態又は第2の実施の形態と類似したものが得られるが、第3の実施の形態のような変換を行う構成としてもよい。このような変換を行うことにより、反射率算出の段階で特定領域に対する強調が行われ、輝度再現部17では視認性向上パラメータのみを制御すればよいことになる。ここで、色変換部11、照明推定部12、特定領域生成部14、輝度再現部17、色度再現部18、及び色逆変換部19については、第1の実施の形態と同じなので説明を省略し、以下では、合成反射率推定部16についてのみ説明する。
【0088】
合成反射率推定部16は、照明推定画像と特定領域画像とを合成しながら原画像の反射率を推定する。具体的には、以下のように特定領域画像を合成した反射率を表す画像(以下、「合成反射率推定画像」という)を求める。
【0089】
【数12】
【0090】
ここで、fは輝度を変換するための関数である。関数fは例えば前述した図12のような形状とすればよく、この形状を制御するパラメータが図14の輝度再現パラメータに相当する。また、w(x,y)は特定領域画像の画素値を表す。このような変換を行うことにより、シーンの視認性が向上し、特定領域では他の領域と異なる輝度強調が行われる。また、本実施の形態では、関数fの形状として強調カーブを例示したが、如何なる形状のカーブでもよいものとする。例えば、ある領域で平坦なカーブ、S字のようにコントラストを強調するようなカーブ等でもよいものとする。
【0091】
図15は、本発明の第3の実施の形態における画像処理装置10の動作例を表すフローチャートである。
【0092】
原画像が入力されると、まず、色変換部11が、原画像に対して原画像の色空間から輝度及び色度の色空間への色変換を行うことにより、輝度画像及び色度画像を生成する(ステップ141)。
【0093】
次に、照明推定部12が、図3及び図4に示したように、ステップ141で生成された輝度画像に基づいて、照明推定画像を生成する(ステップ142)。また、特定領域生成部14が、ステップ141で生成された色度画像等から注目色領域内の色を有する特定領域を示す特定領域画像を生成する(ステップ143)。更に、色度再現部18が、ステップ141で生成された色度画像と、色度再現パラメータとに基づいて、色度調整画像を生成する(ステップ144)。ここで、ステップ142乃至ステップ144はこの順序で実行されることとしたが、如何なる順序で実行されてもよい。或いは、ステップ142、ステップ143及びステップ144の少なくとも2つのステップは、並行に実行されるものであってもよい。
【0094】
次いで、合成反射率推定部16が、ステップ141で生成された輝度画像と、ステップ142で生成された照明推定画像と、ステップ143で生成された特定領域画像と、輝度再現パラメータとに基づいて、合成反射率推定画像を生成する(ステップ145)。
【0095】
その後、輝度再現部17が、ステップ141で生成された輝度画像と、ステップ145で生成された合成反射率推定画像と、視認性向上パラメータとに基づいて、輝度再現画像を生成する(ステップ146)。
【0096】
最後に、色逆変換部19が、ステップ146で生成された輝度再現画像と、ステップ144で生成された色度調整画像とに対して、色変換部11が行ったのとは逆の色変換、つまり、輝度及び色度の色空間から原画像の色空間への色変換を行うことにより、再現画像を生成する(ステップ147)。
【0097】
[画像処理装置のハードウェア構成]
本実施の形態における画像処理装置10は、例えばPCにインストールされた画像処理ソフトウェアとしても実現され得るが、典型的には、画像読取り及び画像形成を行う画像処理装置10として実現される。
【0098】
図16は、このような画像処理装置10のハードウェア構成例を示した図である。図示するように、画像処理装置10は、CPU(Central Processing Unit)21と、RAM(Random Access Memory)22と、ROM(Read Only Memory)23と、HDD(Hard Disk Drive)24と、操作パネル25と、画像読取部26と、画像形成部27と、通信インターフェース(以下、「通信I/F」と表記する)28とを備える。
【0099】
CPU21は、ROM23等に記憶された各種プログラムをRAM22にロードして実行することにより、後述する各機能を実現する。
【0100】
RAM22は、CPU21の作業用メモリ等として用いられるメモリである。
【0101】
ROM23は、CPU21が実行する各種プログラム等を記憶するメモリである。
【0102】
HDD24は、画像読取部26が読み取った画像データや画像形成部27における画像形成にて用いる画像データ等を記憶する例えば磁気ディスク装置である。
【0103】
操作パネル25は、各種情報の表示やユーザからの操作入力の受付を行うタッチパネルである。ここで、操作パネル25は、各種情報が表示されるディスプレイと、指やスタイラスペン等で指示された位置を検出する位置検出シートとからなる。
【0104】
画像読取部26は、紙等の記録媒体に記録された画像を読み取る。ここで、画像読取部26は、例えばスキャナであり、光源から原稿に照射した光に対する反射光をレンズで縮小してCCD(Charge Coupled Devices)で受光するCCD方式や、LED光源から原稿に順に照射した光に対する反射光をCIS(Contact Image Sensor)で受光するCIS方式のものを用いるとよい。
【0105】
画像形成部27は、記録媒体に画像を形成する。ここで、画像形成部27は、例えばプリンタであり、感光体に付着させたトナーを記録媒体に転写して像を形成する電子写真方式や、インクを記録媒体上に吐出して像を形成するインクジェット方式のものを用いるとよい。
【0106】
通信I/F28は、ネットワークを介して他の装置との間で各種情報の送受信を行う。
【0107】
尚、本実施の形態を実現するプログラムは、通信手段により提供することはもちろん、CD−ROM等の記録媒体に格納して提供することも可能である。
【符号の説明】
【0108】
10…画像処理装置、11…色変換部、12…照明推定部、14…特定領域生成部、15…反射率推定部、16…合成反射率推定部、17…輝度再現部、18…色度再現部、19…色逆変換部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16