特許第5752133号(P5752133)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ インターナショナル・ビジネス・マシーンズ・コーポレーションの特許一覧

特許5752133デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム
<>
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000002
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000003
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000004
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000005
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000006
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000007
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000008
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000009
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000010
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000011
  • 特許5752133-デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム 図000012
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5752133
(24)【登録日】2015年5月29日
(45)【発行日】2015年7月22日
(54)【発明の名称】デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステム
(51)【国際特許分類】
   G06T 5/00 20060101AFI20150702BHJP
   H04N 1/407 20060101ALI20150702BHJP
【FI】
   G06T5/00 730
   H04N1/40 101E
【請求項の数】10
【全頁数】16
(21)【出願番号】特願2012-532506(P2012-532506)
(86)(22)【出願日】2010年7月12日
(65)【公表番号】特表2013-507674(P2013-507674A)
(43)【公表日】2013年3月4日
(86)【国際出願番号】EP2010059950
(87)【国際公開番号】WO2011042229
(87)【国際公開日】20110414
【審査請求日】2013年3月5日
(31)【優先権主張番号】09172538.2
(32)【優先日】2009年10月8日
(33)【優先権主張国】EP
(73)【特許権者】
【識別番号】390009531
【氏名又は名称】インターナショナル・ビジネス・マシーンズ・コーポレーション
【氏名又は名称原語表記】INTERNATIONAL BUSINESS MACHINES CORPORATION
(74)【代理人】
【識別番号】100108501
【弁理士】
【氏名又は名称】上野 剛史
(74)【代理人】
【識別番号】100112690
【弁理士】
【氏名又は名称】太佐 種一
(74)【代理人】
【識別番号】100091568
【弁理士】
【氏名又は名称】市位 嘉宏
(72)【発明者】
【氏名】エル−マハディ、アハメド
(72)【発明者】
【氏名】エル−シシニ、ヒシャム
【審査官】 村松 貴士
(56)【参考文献】
【文献】 国際公開第2008/066840(WO,A1)
【文献】 特開2009−049547(JP,A)
【文献】 特開2007−020176(JP,A)
【文献】 特開2006−268135(JP,A)
【文献】 Erik Reinhard, 外3名,Photographic tone reproduction for digital images,ACM Transactions on Graphics (TOG) - Proceedings of ACM SIGGRAPH 2002,米国,2002年,Volume 21 Issue 3,p.267-276
(58)【調査した分野】(Int.Cl.,DB名)
G06T 5/00 − 5/50
H04N 1/407
(57)【特許請求の範囲】
【請求項1】
デジタル画像を、所与のカメラを使って得た低ダイナミック・レンジ(LDR)画像から、高ダイナミック・レンジ(HDR)画像に変換する方法であって、前記方法は、
− 前記所与のカメラに対する露光量−ピクセル応答カーブを取得するステップ(21)と、
− 前記LDR画像をHSB色空間アレイに変換するステップ(22)であって、前記HSB色空間アレイは、色相アレイ、彩度アレイ、および明度アレイを含む、前記変換するステップと、
− 前記露光量−ピクセル応答カーブの逆関数を使って、前記明度アレイ中の各ピクセルを逆マッピングすることによって放射輝度アレイを算定するステップ(23、24)と、
− 前記放射輝度アレイ中の各ピクセルに対し局部輝度平均を算定し(50)、前記ピクセルに対する前記放射輝度アレイの値と前記局部輝度平均とから、各ピクセルに対する調整された放射輝度アレイを計算するステップ(51)と、
− 前記放射輝度アレイを、前記HSB色空間アレイの前記色相および彩度アレイと組み合わせるステップ(52)と、
− 前記画像を、前記色相、彩度、および放射輝度アレイを使い画像色空間に変換し、前記HDR画像を提供するステップ(53)と、
を含む方法。
【請求項2】
前記露光量−ピクセル応答カーブは、カメラのデータシートから取得される、請求項1に記載の方法。
【請求項3】
前記露光量−ピクセル応答カーブは、同一の光景に対し異なる露光をされた一連の画像から取得される、請求項1に記載の方法。
【請求項4】
各ピクセル(u,v)に対し、前記調整された放射輝度Radiance’[u,v]は次式により計算され、
Radiance’[u,v] = Radiance[u,v]*Radiance[u,v]/Local_Luminance_Average[u,v]、
Radiance[u,v]は、ピクセル(u,v)に対する前記放射輝度の値を指し、Local_Luminance_Average[u,v]は、ピクセル(u,v)における前記局部輝度平均を指す、請求項1〜3のいずれかに記載の方法。
【請求項5】
画像を画像色空間に変換する前記ステップは、次式により遂行され、
Convert(Hue[ ],Saturation[ ],Radiance[ ]/max(Radiance[ ]))*max(Radiance)、
Hue[ ]は前記色相アレイを、Saturation[ ]は前記彩度アレイを、Radiance[ ]は前記放射輝度アレイを指す、請求項1〜4のいずれかに記載の方法。
【請求項6】
前記局部輝度平均は、次式で定義されるi畳み込みカーネルから算定され、
kernel[ ]=GaussianKernel(r)[ ]、
はGaussianKernelの半径であり、iは0〜8の間で変化する局部コントラストのスケール指標である、請求項1〜5のいずれかに記載の方法。
【請求項7】
は1/(2*Sqrt(2))*1.6に設定される、請求項6に記載の方法。
【請求項8】
コンピュータ・プログラムがコンピュータ・デバイス上で実行されたとき請求項1〜6のいずれか一つに記載の前記方法の前記ステップを実行するための命令を含む、前記コンピュータ・プログラム。
【請求項9】
請求項1〜7のいずれか一つに記載の前記方法の前記ステップを実行するようになされた手段を含む、システム。
【請求項10】
デジタル画像を、所与のカメラを使って得た低ダイナミック・レンジ(LDR)画像から、高ダイナミック・レンジ(HDR)画像に変換するシステムであって、前記システムは、
− 前記所与のカメラに対する露光量−ピクセル応答カーブを取得するステップ(21)と、
− 前記LDR画像をHSB色空間アレイに変換するステップ(22)であって、前記HSB色空間アレイは、色相アレイ、彩度アレイ、および明度アレイを含む、前記変換するステップと、
− 前記露光量−ピクセル応答カーブの逆関数を使って、前記明度アレイ中の各ピクセルを逆マッピングすることによって放射輝度アレイを算定するステップ(23、24)と、
− 前記放射輝度アレイ中の各ピクセルに対し局部輝度平均を算定し(50)、前記ピクセルに対する前記放射輝度アレイの値と前記局部輝度平均とから、各ピクセルに対する調整された放射輝度アレイを計算するステップ(51)と、
− 前記放射輝度アレイを、前記HSB色空間アレイの前記色相および彩度アレイと組み合わせるステップ(52)と、
− 前記画像を、前記色相、彩度、および放射輝度アレイを使い画像色空間に変換し、前記HDR画像を提供するステップ(53)と、
を実行する、システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、一般に画像処理に関し、さらに具体的には、デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための方法およびシステムに関する。
【背景技術】
【0002】
デジタル写真術の分野における新興技術の一つに高ダイナミック・レンジ画像化(HDRI)がある。HDRIは実世界の輝度のほとんどのキャプチャを提供し、適切なディスプレイを使用すれば、可能な限り現実に近い写真を再生することを可能にする。しかして、高ダイナミック・レンジ画像化は、実世界の光レベルに相応する値を有する光景の表現を提供する。実世界は、12桁の範囲に及ぶ光度の広がりを生成し、これは、現在の多くのデジタル画像化の3桁よりもはるかに大きい。デジタル画像で各ピクセルが現在表現できる値の範囲は、通常、カラー・チャネル当たり256の値であり(最大65536の値)、多くの光景を表現するのには適していない。HDR画像を用いれば、光景を表現する光度の範囲で、何らかのディスプレイ・デバイスに合わせた範囲でなく人間の視力の限界に合った値の範囲によって、光景をキャプチャすることができる。現在のディスプレイ技術による表示に適した画像は、低ダイナミック・レンジ(LDR)と呼ばれている。高ダイナミック・レンジ画像の表示品質は、在来の低ダイナミック・レンジ画像のそれよりもはるかに良好である。HDR画像は、かかる画像のキャプチャ、保管、処理、および表示に関してLDR画像とは異なっており、写真術において急速に広い支持を得つつある。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】A.G.Rempel、M.Trentacoste、H.Seetzen、H.D.Young、W.Heidrich、L.Whitehead、およびG.Ward著、論文題名「Ldr2Hdr:on−the−fly reverse tone mapping of legacy video and photographs」、ACM SIGGRAPH 2007論文集(カリフォルニア州サンディエゴ、2007年8月05〜09日)。
【非特許文献2】F.Banterle、P.Ledda、K.Debattista、およびA.Chalmers著、論文題名「Inverse tone mapping」、第4回International Conference on Computer Graphics and interactive Techniques in Australasia and Southeast Asia発表抄録(マーレシア、クアランプール、2006年11月29日〜12月02日)、GRAPHITE‘06、ACM、NY、ニューヨーク、349〜356頁。
【非特許文献3】Erik Reinhard、Michael Stark、Peter Shirley、およびJames Ferwerda著、論文題名「Photographic tone reproduction for digital images」、ACM Trans.Graph.21,3(2002年7月)、267〜276頁。
【非特許文献4】P.Debevec著、論文題名「A median cut algorithm for light probe sampling」、ACM SIGGRAPH 2006 Courses(マサチューセッツ州ボストン、2006年7月30日〜8月03日)、SIGGRAPH‘06、ACM、NY、ニューヨーク、6。
【非特許文献5】T.O.Aydin、R.Mantiuk、K.Myszkowski、およびH.Seidel著、論文題名「Dynamic range independent image quality assessment」、ACM SIGGRAPH‘08.(カリフォルニア州ロサンジェルス、2008年8月11〜15日)論文集、ACM.NY、ニューヨーク、1−10。
【発明の概要】
【発明が解決しようとする課題】
【0004】
デジタル写真術の分野でHDRIの使用が普及するにつれ、静止画像およびビデオの両方を表示することのできるHDRIディスプレイに対する必要性が増大している。これは、在来のディスプレイを超える表示品質の大幅なシフトを意味する。しかしながら、既存のメディアは高ダイナミック・レンジ(HDR)のものでないので、HDRIディスプレイの実用は、HDRIセンサを使って新しく撮影されたHDR画像に限られている。既存の低ダイナミック・レンジ(LDR)画像を相当するHDR画像に変換するための既存の対処技術は、「逆トーン・マッピング」として広く知られている。逆トーン・マッピングは、一般に2段階のフェーズを必要とする。第一フェーズでは、インプットLDR画像の輝度を、拡大HDR輝度(HDR放射輝度とも呼ばれる)に逆マップが行われる。このフェーズでは、画像量子化に起因して、高輝度の領域でディテールの喪失がもたらされ、ノイズが導入される。第二フェーズでは、ダイナミック・レンジをさらに増大する可能性も保ちながら、かかる領域を平滑化してこの欠陥を改善する。
【0005】
この第一フェーズを実施するための一つの知られた対処技術に、“A.G.Rempel、M.Trentacoste、H.Seetzen、H.D.Young、W.Heidrich、L.Whitehead、およびG.Ward著、論文題名「Ldr2Hdr:on−the−fly reverse tone mapping of legacy video and photographs」、ACM SIGGRAPH 2007論文集(カリフォルニア州サンディエゴ、2007年8月05〜09日)”で取られたアプローチがある。このアプローチは、リアルタイムのビデオ処理に適した高速の反転法に依存している。このアプローチによれば、逆ガンマ・マッピングが行われ、次いで、ダイナミック・レンジが5000に拡大される。さらに、量子化の影響を低減するために平滑化フィルタリングが行われる。
【0006】
逆トーン・マッピングの第一フェーズを実施する別の対処技術が“F.Banterle、P.Ledda、K.Debattista、およびA.Chalmers著、論文題名「Inverse tone mapping」、第4回International Conference on Computer Graphics and interactive Techniques in Australasia and Southeast Asia発表抄録(マーレシア、クアランプール、2006年11月29日〜12月02日)、GRAPHITE‘06、ACM、NY、ニューヨーク、349〜356頁”に記載されている。この対処技術は、以前に“E.Reinhard、M.Stark、P.Shirley、およびJ.Ferwerda著、論文題名「Photographic tone reproduction for digital images」、ACM Trans.Graph.21,3(2002年7月)、267〜276頁”に記載されたグローバル・トーン・マッピング演算子に基づいた逆マッピング関数を使用する。次いで、二次元方程式を解いて逆数が得られ、これにより、相当により大きなダイナミック・レンジが生成され、特定のピクセルでは選択的にそのレンジが縮小される。しかしながら、これら既存の対処技術は、第一フェーズに対し、精度が十分でない逆トーン・マッピング関数を用いている。得られた放射輝度は、「包括的な」逆マッピング関数に起因して実世界の放射輝度とは正確に整合しない。これは実世界の輝度値を大まかに近似する。
【0007】
逆トーン・マッピングの第二フェーズを実行するための2つの異なるアプローチがある。第一のアプローチは、Rampelら著、論文題名「Ldr2Hdr:on−the−fly reverse tone mapping of legacy video and photographs」、ACM SIGGRAPH 2007論文集(カリフォルニア州サンディエゴ、2007年8月05〜09日)”に記載しているもので、ある高値を超えるピクセルを覆うガウス・マスクを生成する。加えて、このアプローチは、エッジにおける局部コントラストを改善するために「エッジ停止」関数を使用する。この合成明度関数を使って明暗度が大幅に拡大される。さらに複雑な技法は、“F.Banterleら著、論文題名「Inverse tone mapping」、第4回International Conference on Computer Graphics and interactive Techniques in Australasia and Southeast Asia発表抄録(マーレシア、クアランプール、2006年11月29日〜12月02日)、GRAPHITE‘06、ACM、NY、ニューヨーク、349〜356頁”に記載されたものである。この第二のアプローチは、中央値切捨てアルゴリズム(P.Debevec著、論文題名「A median cut algorithm for light probe sampling」、ACM SIGGRAPH 2006 Courses(マサチューセッツ州ボストン、2006年7月30日〜8月03日)、SIGGRAPH‘06、ACM、NY、ニューヨーク、6)を使い、インプット画像を、等しい光度の領域によって区分けすることを含んでいる。これら領域の中心部を使って、光密度が見積もられ「拡大」マップが構築される。次いで、このマップを使い、インプットLDRと逆マップされたLDR画像との間で補間演算を誘導することによって最終的なHDR画像が生成される。逆トーン・マッピングの第二フェーズに対するこれらの対処技術は、高輝度値を有するピクセルを見出すことと、それを使ってそれらのピクセルのダイナミック・レンジを拡大することに依存している。しかしながら、かかる補間は、ホットスポット(ハイライト部)および近辺領域の輝度を拡大するためだけに行われ、暗い領域(陰影部)の輝度が低減されることはない。従って、これら技術は、局部的演算を使って一方だけのダイナミック・レンジの拡大を効果的に行い(陰影部は包括的に拡大される)、それが得られたHDR画像中の陰影領域の品質に影響を及ぼしている。
【課題を解決するための手段】
【0008】
これらのおよび他の問題に対処するために、添付の独立請求項1によって、方法が、添付の請求項9、10、および11によって、それぞれコンピュータ・プログラム、コンピュータ可読媒体、およびシステムが提供される。好適な実施形態が、添付の従属請求項に定義されている。
【0009】
概して言えば、本発明は、LDR画像をHDR画像に変換するための改良された逆トーン・マッピングを提供する。
【0010】
本発明のある態様によれば、従来の対処技術で提供されるような逆ガンマまたは標準の固定的な逆関数を実行する代わりに、カメラの応答カーブを使って画像の放射輝度マップを再構築する。
【0011】
本発明の別の態様は、画像の輝度を選択的に、増大または低減するためそれぞれ覆い焼きおよび焼き込み操作に依存する。本発明は、HDRドメインにおいて覆い焼きおよび焼き込み様の操作を適用し、画像のダイナミック・レンジを拡大する。また、この態様は一般的に局部的コントラストを拡大し、LDR画像では見えなかったより多くのディテールを視認可能にする。さらに、HDRドメインにおいて覆い焼きおよび焼き込み様の操作を適用することによって平滑化の実施が可能になり、これにより量子化の影響が低減される。
【0012】
本発明の利点の一部には、以下が含まれる。
1− 単一のLDR画像からHDR値の再生を行うための単純化された技法。この技法は、従来技術のように一連の異なる露光の画像から画像を再構築するよりも容易である。
2− 輝度チャネルの2つのテール(高輝度および低輝度部分)の両方からのダイナミック・レンジの拡大。従来の対処技術は高輝度部分を拡大する。
3− 画像の中間/陰影部分に亘ってディテール可視性レベルの向上。
4− カメラ応答カーブを使った、画像のより現実に近い放射輝度マップ。
5− 実証済みの写真技法を使った、仕上がり画像の向上された観賞品質。
6− 医療画像など重要な用途に対し、既存のLDR画像を見るために新規のHDRディスプレイを用いることができる。
7− 逆トーン・マッピングを使い、高品質のHDR画像を生成し、順方向にトーン・マップしてLDRに戻すことによる、可視コントラストの大幅な改善が実現された、LDRカメラ・アウトプットの品質の向上。
8− さらなる画像処理作業のための、より容易なエッジの検出。
9− 医療画像化分野におけるエッジ検出作業などさらなる画像処理でのHDRドメインにおける作業の改良など、デジタル画像に対する向上されたオペレーションの適用。
【0013】
当業者は、図面および詳細説明を検討することにより本発明のさらなる利点を明らかにできよう。本明細書は、一切の追加的な利点も組み込むように意図されている。
【0014】
以下に、例示として添付の図面を参照しながら本発明の実施形態を説明するものとし、図面中の同じ参照記号は同様なエレメントを表す。
【0015】
これら図面は、本発明の典型的な実施形態だけを示すよう意図されており、従って、本発明の範囲を限定するものと見なすべきではない。
【図面の簡単な説明】
【0016】
図1】本発明の実施形態による、低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像を生成するためのシステム・ブロック図である。
図2】本発明の実施形態による、低ダイナミック・レンジ(LDR)画像からの高ダイナミック・レンジ(HDR)画像の生成を表すハイレベル・フローチャートである。
図3】例示的カメラ応答カーブを示す。
図4】本発明の実施形態による、図3のカメラ応答カーブから得られた逆応答カーブを示す。
図5】HDRドメインにおける覆い焼きおよび焼き込み操作を表すフローチャートを示す。
図6】本発明の実施形態による、逆トーン・マッピングの第一フェーズに対する初期放射輝度アレイの例示的ヒストグラムを示す。
図7】本発明の実施形態による、逆トーン・マッピングの第二フェーズに対する初期輝度アレイの例示的ヒストグラムを示す。
図8】本発明の実施形態による、画像生成を表すフローチャートである。
図9】画像を比較することによって得られた、青/緑ピクセルの和の例示的値を示す表を示す。
図10図8の表中に包含された値を表現する図である。
図11】本発明の実施形態による、LDR画像をHDR画像に変換するため用いられるあるコンピュータ・システムを示す。
【発明を実施するための形態】
【0017】
本発明は、デジタル画像を低ダイナミック・レンジ(LDR)画像から高ダイナミック・レンジ(HDR)画像に変換するための、逆トーン・マッピングの方法およびシステムを提供する。本発明による逆トーン・マッピング対処技術は、デジタル計算および関連ロジックを実行するため使用可能な任意の種類のプロセッサに適応する。
【0018】
図1は、インプットLDR画像からHDR画像を生成するためのシステム100を示す。図1は、システム・コンポーネント間のデータ・フローを示し、各コンポーネントは、文字「C」で始まり後に番号が続く称号で標識されている。これらシステム・コンポーネントは、以降、C1、C2、…、C5の標記を使って呼ばれる。このシステムは、まず、LDR画像を入力し、それを色空間コンバータC1に送り込むことから作動され、画像は、色相、彩度、および明度の色空間(HSB:Hue、Saturation、Brightness)に変換され、3つの対応するアレイが生成される。明度アレイおよびカメラ・センサ応答カーブが逆マッパーC2に供給される。次いで該マッパーは供給された応答カーブを使って明度アレイを放射輝度アレイに逆マップする。局部コントラスト・エンジンC3は、放射輝度アレイに対する局部的コントラストを計算し、局部輝度平均(LLA:Local Luminance Average)アレイを生成する。覆い焼き/焼き込みエンジンC4は、LLAアレイを使って、放射輝度アレイに覆い焼き/焼き込みを行い、拡大放射輝度アレイを生成する。
【0019】
生成されたアレイは、彩度および色相アレイとともに、色空間コンバータC5に送り込まれ、画像は元のインプットLDRの色空間(例えばRGB)に変換され、アウトプットHDR画像が生成される。
【0020】
LDR画像に対し逆トーン・マッピングを実施するため、第一フェーズの過程で、インプットLDR画像の輝度は拡大HDR輝度に逆マップされる。この初期ステップは、高輝度の領域でディテールの喪失およびノイズの導入をもたらし、これは、これらの領域を平滑化する第二フェーズの過程で改善される。
【0021】
本発明の実施形態によれば、逆トーン・マッピングの第一フェーズは、キャプチャしたセンサ/デバイスの情報を使って実施される。フィルム・カメラと同様、デジタル・カメラを使ってキャプチャされたほとんどの画像に対し、そのセンサの識別は容易に入手可能である。この第一フェーズでは、カメラ応答カーブを使い、インプット画像の逆トーン・マッピングによって初期放射輝度マップが構築される。
【0022】
図2は、本発明の実施形態による、この、逆トーン・マッピングの第一フェーズを記述したハイレベルのフローチャートを示す。
【0023】
ステップ20で、最初にLDR画像が入力され、次いでそのLDR画像がメモリ中に格納される。かかるLDR画像は、さまざまな色空間で表現されることができよう。標準的な色空間はRGB空間であり、この色空間では、各ピクセルの色は、3つの成分、すなわち赤(R:Red)、緑(G:Green)、および青(B:Blue)で表現される。別の色空間はLuvであり、このLは輝度成分、uおよびvは各々クロミナンス成分である。逆トーン・マッピングは、輝度チャネル上で実行される。
【0024】
ステップ21において、所与のカメラに対する露光量−ピクセル応答カーブが取得される。露光量−ピクセル応答カーブは各カメラに内在的なもので、センサ・データシートから直接得ることができよう。あるいは、同一光景に対する一連の異なる露光量の画像を解析することによって、露光量−ピクセル応答カーブを算定することもできる。露光量応答カーブは、測定し、計算し、または見積もることができ、あるいは遠隔サイトから入手することすら可能である。このカーブは、カメラごとにほぼ一定であり、しかして、同じカメラによって生成されたさらなる画像に対し応答関数の再構築を繰り返す必要はない。以下の説明において、露光量−ピクセル応答カーブを関数「f(x)」で表すこととし、このxは所与の露光量値を示す。このとき、y=f(x)は、所与の露光量xに対するピクセル輝度値を表すものとする。露光量−ピクセル応答カーブは、対応写真に対する実世界の放射輝度値を提供する。これらの値は、従来技術の単純な逆ガンマ手法を使って得られるものよりも正確である。
【0025】
ステップ22において、LDRインプット画像はHSB色空間アレイに変換され、このHは色相を表し、Sは彩度を表し、Bは明度を表す。HSB(HSL表現としても知られる)は、知覚的色関係をRGBよりも正確に表現する、RGB色モデルにおけるポイント群の表現である以下の説明では、色相アレイを「Hue[ ]」で、彩度アレイを「Saturation[ ]」で、明度アレイを「Brightness[ ]」で表すことにする。
【0026】
ステップ23において、明度アレイ(Brightness[ ])の各ピクセルに対し、応答カーブを使ってその値が逆マップされ、得られた露光量がRadiance(放射輝度)[i]に格納される。露光量―ピクセル応答関数f(x)の逆関数を表すのに「f−1(y)」の表記を使えば、このとき、インプットピクセル値yに対し、f−1(y)は、露光量値xを戻してくる。上記から、チャネル反復子iに対する放射輝度は次式により定義される。
Radiance[i]=f−1(Brightness[i])、
このRadiance[ ]アレイが得られた放射輝度マップである。
【0027】
斯く得られた放射輝度マップは、ステップ24においてメモリに格納される。本発明は、カメラの露光量−ピクセル応答カーブを用いて画像の放射輝度マップを再構築することにより、逆ガンマまたは標準の固定的な逆関数に依存する従来の対処技術によって得られるものよりも現実に近い放射輝度マップを提供する。
【0028】
図3は、例示的カメラの応答カーブを示す。「露光量」と題されたx−軸は実世界の露光量値を表し、「ピクセル明度値」と題されたy−軸はカメラによって記録された対応するピクセル放射輝度値を表す。「露光量」は、センサが受光した放射照度に露光時間を乗じた量として定義される。単位は平方メートル当たりワット秒である。ピクセル放射輝度の値は、0〜255の整数を取る一方、露光量値は実数である。
【0029】
図4は、図3に表された例示的カメラ応答カーブに対する逆応答カーブを示す。「ピクセル明度値」と題されたx−軸はピクセル放射輝度値を指し、「露光量」と題されたy−軸は対応する実世界の露光量値を指す。
【0030】
この応答カーブは、現実をできるだけ近似して模擬する。この段階で、ステップ24で得られた放射輝度アレイ「Radiance[ ]」を、色相アレイ「Hue[ ]」および彩度アレイ「Saturation[ ]」と組み合わせ、これらを一つの画像に関連付け、次いでその画像を元の画像の色空間に変換してHDR画像を提供することも可能ではあろう。しかしながら、カメラ・カーブが、それ自体で十分な高ダイナミック・レンジを生成できないことがあり、量子化によるアーチファクトを取り込む可能性がある。本発明による逆トーン・マッピングの第二フェーズは、カメラ応答カーブの使用により導入される可能性のあるマッピング円滑性の不十分さおよびアーチファクトを補償する。
【0031】
図5は、本発明の実施形態による、逆トーン・マッピングの第二フェーズを図解する。この第二フェーズの過程では、画像の輝度を選択的に増大または低減させるため、それぞれ覆い焼きおよび焼き込み様の操作が行われる。「覆い焼き」操作は輝度を増大させ、一方「焼き込み」操作はピクセルの輝度を低減させる。本発明は、HDRドメインにおいて覆い焼きおよび焼き込み様の操作を適用し、画像のダイナミック・レンジを拡大する。ハイライト部に対し、覆い焼き操作は、低幅な局部コントラストの領域のダイナミック・レンジをそれ以上に拡大することになろう。陰影部に対しては、焼き込み操作が左側のダイナミック・カーブをもっと拡大し、ピクセルの最小輝度を低下させることになる(これにより画像のダイナミック・レンジはさらに拡大される)。また、これは全般に局部コントラストを拡大し、これにより、LDR画像では見えなかったより多くのディテールが視認可能になる。さらに、HDRドメインに覆い焼きおよび焼き込み様の操作を適用することによって、平滑化が遂行でき、これにより、量子化の影響が低減される。
【0032】
ステップ50において、Radiance[ ]アレイ中の各ピクセル(u,v)に対し、局部輝度平均、Local_Luminance_Average[u,v]が計算される。ピクセル(u,v)におけるLocal_Luminance_Averageは、“Erik Reinhard、Michael Stark、Peter Shirley、およびJames Ferwerda著、論文題名「Photographic tone reproduction for digital images」、ACM Trans.Graph.21,3(2002年7月)、267〜276頁”において展開されているアプローチから、以下のように計算することができる。
− 畳み込みカーネルが、kernel[ ]=GaussianKernel(ガウス・カーネル)(r)[ ]として設定され、このrはGaussianKernelの半径であり、iは局部コントラストのスケール指標を指す。rの値は変化する。本発明のある特定の実施形態において、この値は1/(2*Sqrt(2))*1.6に設定される。iの値は、0〜8の範囲で変化する。
− 値iに対するピクセル(u,v)における局部輝度平均は、Local_Luminance_Average[u,v]=kernel Radiance[ ]として計算される。
− 次いで、パラメータiの最小値mが、Abs(Local_Luminance_Average[u,v]−Local_Luminance_Averagei+1[u,v])<εにより計算され、このεは閾値を指し、iの値は0〜7の範囲で変化する。
− Local_Luminance_Average[u,v]は最終的にLocalLuminanceAverage[u,v]に設定され、これによりピクセル(u,v)における局部輝度平均が与えられる。
【0033】
ステップ51において、各ピクセルの輝度は、局部輝度平均Local_Luminance_Average[u,v]を使って調整される。新規の放射輝度値「Radiance’[u,v]」は次式により定義される。
Radiance’[u,v] = Radiance[u,v]*Radiance[u,v]/Local_Luminance_Average[u,v]
【0034】
本発明によれば、この演算は、HDRドメインにおいて行われる。実際に、本出願人は、ピクセルの周囲(u,v)が原ピクセル(u,v)よりも明度が高い場合、ピクセル(u,v)の放射輝度は低減され、これにより局部コントラストが増大されるのを観察した。同様に、周囲のピクセルの明度が原ピクセルより低い場合、原ピクセル(u,v)の放射輝度が増大され、これにより局部コントラストが増大されることになるのも観察されている。この放射輝度の低減および増大の双方は、Radiance[u,v]/Local_Luminance_Average[u,v]の比率によって設定される。この比率は、放射輝度のスケーリング係数の機能を果たし、圧縮調整なしの任意のスケーリングを可能にする。
【0035】
本発明のある実施形態による逆トーン・マッピングの第二フェーズは、従って、覆い焼きおよび焼き込みを介して画像の局部コントラストを高めながら、放射輝度のダイナミック・レンジを増大する。このようにして、本発明は覆い焼き/焼き込みの写真術コンセプトを活用して写真品質のHDR画像を生成する。
【0036】
ステップ52において、放射輝度アレイ「Radiance[ ]」は、色相アレイ「Hue[ ]」および彩度アレイ「Saturation[ ]」と組み合わされ、次いでこれらは一つの画像に関連付けられ、次いでステップ53でこの画像は元画像の色空間に変換される。(例えばcimg.sourceforge.orgのcimgライブラリ中のget_RGBtoHSV( )などの)標準的ライブラリ・ルーチンを用い、この画像変換は次式を使って計算され、このConvert( )が画像を元画像色の空間に逆変換する。
Convert(Hue[ ],Saturation[ ],Radiance[ ]/max(Radiance[ ]))*max(Radiance)。
【0037】
通常ピクセル値は0から1の間で変化するように正規化されているので、この式の除算部「Radiance[ ]/max(Radiance[ ])」が使われている。
【0038】
図6は、本発明の実施形態による、初期放射輝度アレイの例示的ヒストグラムを示し、これは逆トーン・マッピングの第一フェーズだけを使って得られたものである。この放射輝度アレイはインプットLDR画像から生成される。このヒストグラムのx−軸はlog露光量値を表し、y−軸は発生頻度を表す。図示のように、最大log露光量は8.3であり最小は−9.38で、これは210,381(5桁)のダイナミック・レンジとなる。これは実世界の通常の光景における典型的な値である。
【0039】
図7は、本発明の実施形態による、逆トーン・マッピングの第二フェーズ後のヒストグラムを示す。最大のlog露光量は、これでは8.71であり最小は−15.52で、このダイナミック・レンジは1.98×10である。従って、第二フェーズによってダイナミック・レンジは2桁増大したことになる。また、このヒストグラムがより平滑で、陰影部を強調しながら両側に広く広がっていることは留意に値する。
【0040】
生成されたHDR画像の品質を評定するために、MPI HDR(MPIはMax Planck Institute informatik(マックス・プランク境界情報科学)の頭字語)メトリックを使うことができる。このメトリックは、“T.O.Aydin、R.Mantiuk、K.Myszkowski、およびH.Seidel著、の論文題名「Dynamic range independent image quality assessment」、ACM SIGGRAPH 2008年論文(カリフォルニア州ロサンジェルス、2008年8月11〜15日)SIGGRAPH‘08.ACM,NY、ニューヨーク、1−10”に定義されている。この画像品質メトリックは、両方の画像が任意のダイナミック・レンジを有する画像のペアに対して使われる。このメトリックによれば、青、緑、および赤のピクセルを使って要約画像が生成される。最も高いコントリビュータに応じて各ピクセルに対する色が決定される。青ピクセルは、向上されたコントラストを有するピクセルを表し(インプット画像では見えずアウトプット画像で見える)、緑ピクセルはコントラストの喪失を表し、赤ピクセルはコントラストの逆転を表す。各色の値は、その影響の確率が見えるように表される。本発明人は、メトリックの青および緑パラメータが、画像品質を評定する上で特に重要に見えることに気付いた。実際に、できるだけ緑を低減し青を増加させると、コントラストが向上でき、可視のディテールが喪失されないように見えた。結果として、各ピクセルに対する正規化された優位色の和も観測することによって、画像品質評定の改良が達成された。
【0041】
図8は、いくつかの画像の比較に基づいて、生成されたHDR画像の品質を評定するために行われるステップを表したフローチャートを示す。後記の実験の理解を容易にするため、後記で、画像の識別に使われる特定の記号の定義を以下に示す。
1− 「Real−HDR」は、露光を変えた画像の大きなシーケンスを使って得られた画像を指す。言い換えれば「現実の」HDR画像である。
2− 「Input−LDR」はインプットLDR画像を指す。
3− 「Gen−HDR」は、Input−LDR画像を逆処理して得られた、生成HDR画像を指す。
4− 「Gen−LDR」は、Reinhardらの写真トーン・マッピング演算子(Erik Reinhard、Michael Stark、Peter Shirley、およびJames Ferwerda著、論文題名「Photographic tone reproduction for digital images」、SIGGRAPH’02:Computer Graphics and Interactive Techniques第29回年度協議会抄録、267〜276頁、米国NY州ニューヨーク、2002年。ACM Press)を使って得られた、トーン・マップされたGen−HDRを指す。
5− 「Gen−HDR−Rad」は、本発明による、逆トーン・マッピングの第一フェーズだけを使った、生成HDR画像を指す。
【0042】
以下の図8の説明は、上記で定義された画像1〜5を比較することによって得られた青/緑ピクセルの和の値を示す、図9および10を参照しながらこれらの説明と併せ行うこととする。図9は、右側2列が各々の比較に対する青と緑との値を表している表であり、図10は、各比較に対するピクセル当たりのコントラスト・ゲイン(正規化された青ピクセルの和)を表した図である。本発明の実施形態による、逆トーン・マッピング各フェーズの、生成HDR画像の品質における影響を評定するために、最初にステップ80において、Gen−HDR−RadとReal−HDRとが比較される。この最初の比較は、本発明による、逆トーン・マッピングの第一フェーズ適用の影響を評定する。得られた結果のAが図9および10に示されている。この結果は、40.0%の大幅なピクセル当たりコントラスト・ゲイン、および0.1%のごくわずかなコントラスト喪失があることを表している。
【0043】
本発明による、逆トーン・マッピングの第二フェーズ適用の影響を評定するために、ステップ81において、Gen−HDRとReal−HDRとの比較が行われる。得られた結果Bは、図9および10に示され、77.4%のずっと大きなピクセル当たりコントラスト・ゲインおよび0.0%に近い無視可能なコントラスト喪失を表している。これは、第二フェーズが、コントラスト・ゲインに37%のさらなる増大を効果的に加えたことを示している。
【0044】
HDR画像の典型的な用途の一つはLDR画像の品質の向上なので、ステップ82では、Gen−LDRとInput−LDRとを比較することによってその影響を検証する。得られた結果Cは、図9および10に表され、大幅なコントラスト・ゲインの向上が示されており、これでは47.2%のゲインでコントラストの喪失はない。これによれば、HDRに変換する際に元画像のディテールの喪失はない。これに加えて、生成HDRは、元画像では見えなかったディテールも包含している。この後者の結果は、例えば医療画像分割などの画像改良アプリケーションの助力となり得るであろう。
【0045】
本発明は、例えば、既存のLDRビデオおよび画像ライブラリを、新規のHDRディスプレイに用いるためのHDRビデオおよび画像に変換するアプリケーションなど、多くの画像処理アプリケーションに応用することができよう。また、本発明は、LDR画像の改善にも適用でき、LDR画像はまずHDR画像に変換され、次いで(平滑化、エッジ検出などの)標準的な画像処理による改善が適用され、しかる後、(Reinhardのトーン・マッピング演算子などの)標準的トーン・マッピング技法を使って、HDR画像からLDRに戻し変換が行われる。
【0046】
斯くのごとく、本発明は単一のLDR画像からHDR値を再生するための効率的な技法を提供する。
【0047】
従来の対処技術は高輝度部分だけの拡大なのに対し、本発明では、ダイナミック・レンジは、輝度チャネルの両方のテール(高輝度および低輝度部分)から拡大される。これは、画像の中間部/陰影部に亘っての視認可能なディテールのレベルを増加させる。これは、画像のダイナミック・レンジを、従来技術によるものよりさらに増大する。
【0048】
逆トーン・マッピングの第一フェーズで、カメラの露光量−ピクセル・カーブを使用することによって、画像のより現実に近い放射輝度が提供され、仕上がり画像の観賞品質が向上される。
【0049】
本発明によって、医療画像化など多くのアプリケーションにおいて、最新のHDRディスプレイを使って既存のLDR画像を見ることができる。
【0050】
さらに、本発明の実施形態による逆トーン・マッピングを用い、より高品質のHDR画像を生成してそれを順方向トーン・マップしてLDRに戻すことによって、LDRカメラのアウトプットの品質を向上することができ、これによりコントラストの可視性の大幅な改善が実現できる。その結果として、さらなる処理作業のためのエッジの検出を簡素化することができる。
【0051】
本発明は多くのアプリケーションを有する。例えば、医療画像化におけるエッジ検出などのさらなる画像処理でのHDRドメインにおける作業の改良など、デジタル画像に対する向上されたオペレーションとして本発明を用いることができる。
【0052】
さらに一般的に言えば、本発明は、低品質の音声信号のダイナミック・レンジの増大など、任意のデジタル信号に適用できる。
【0053】
図11は、本発明の実施形態による、ビデオ画像をLDR画像からHDR画像に変換するため使われるコンピュータ・システム90を示す。コンピュータ・システム90は、プロセッサ91と、プロセッサ91に連結された入力デバイス92と、プロセッサ91に連結された出力デバイス93と、各々がプロセッサ91連結されたメモリ・デバイス94および95とを含む。プロセッサ91は、中央処理装置(CPU)などの処理装置である。入力デバイス92は、とりわけ、キーボード、マウスなどとすることができる。出力デバイス93は、とりわけ、プリンタ、プロッタ、ディスプレイ・デバイス(例えばコンピュータ・スクリーン)、磁気テープ、着脱可能ハード・ディスク、フレキシブル・ディスクなどとすることができる。このディスプレイ・デバイスには、図1の100のディスプレイ領域を含めることができる。メモリ・デバイス94および95は、とりわけ、ハード・ディスク、フレキシブル・ディスク、磁気テープ、コンパクト・ディスク(CD:compact disc)またはデジタル・ビデオ・ディスク(DVD:digital video disc)などの光記憶デバイス、ダイナミック・ランダム・アクセス・メモリ(DRAM:dynamic random access memory)、読み取り専用メモリ(ROM:read−only memory)などとすることができる。メモリ・デバイス95は、コンピュータ実行可能命令を含むコンピュータ・プログラムである、コンピュータ・コード97を包含する。コンピュータ・コード97は、ビデオ画像をLDR画像からHDR画像に変換するためのアルゴリズムを包含する。プロセッサ91はコンピュータ・コード97を実行する。メモリ・デバイス94はインプット・データ96を包含する。インプット・データ96は、コンピュータ・コード97に要求されるインプットを包含する。出力デバイス93は、コンピュータ・コード97からのアウトプットを表示する。メモリ・デバイス94および95(または図11に示されていない一つ以上の追加のメモリ・デバイス)のいずれかまたは両方は、中に具現されたコンピュータ可読プログラムを有する、もしくはその中に格納された他のデータを有する、またはその両方を有するコンピュータ可用記憶媒体(またはプログラム記憶デバイス)として用いることができ、このコンピュータ可読プログラムはコンピュータ・コード97を含む。一般に、コンピュータ・システム90のコンピュータ・プログラム製品(あるいは、製造品)は、上記コンピュータ可用記憶媒体(または上記プログラム記憶デバイス)を含み得る。
【0054】
図11は、コンピュータ・システム90をハードウエアおよびソフトウエアの特定の構成として示しているが、当業者なら周知のように、前述の目的のために、図11の特定のコンピュータ・システム90と組み合わせて、ハードウエアおよびソフトウエアの任意の構成を用いることができる。例えば、メモリ・デバイス94と95とを、別個のメモリ・デバイスでなく単一のメモリ・デバイスの部分とすることもできる。
【0055】
本明細書では、例示説明を目的として本発明の特定の実施形態を説明してきたが、当業者には多くの変更および変形が明白になっていよう。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11