(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-18
(45)【発行日】2024-07-26
(54)【発明の名称】画質調整装置、画質調整方法及びプログラム
(51)【国際特許分類】
H04N 23/76 20230101AFI20240719BHJP
【FI】
H04N23/76
(21)【出願番号】P 2019222449
(22)【出願日】2019-12-09
【審査請求日】2022-11-21
(73)【特許権者】
【識別番号】509354422
【氏名又は名称】大塚 作一
(74)【代理人】
【識別番号】100095407
【氏名又は名称】木村 満
(72)【発明者】
【氏名】大塚 作一
【審査官】吉川 康男
(56)【参考文献】
【文献】特開2019-129506(JP,A)
【文献】特開2005-303595(JP,A)
【文献】国際公開第2018/212212(WO,A1)
【文献】特開2016-081427(JP,A)
【文献】特開2000-152163(JP,A)
【文献】特開2003-087815(JP,A)
【文献】特開2019-165401(JP,A)
【文献】特開2018-098670(JP,A)
【文献】特開2008-301341(JP,A)
【文献】特開2002-247364(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/76
(57)【特許請求の範囲】
【請求項1】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10
-3.5以上で10
-1.5より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10
-1.5から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる、
画質調整装置。
【請求項2】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10
-2以上の輝度域において、コントラストが大きくなるようにS字状となっている、
画質調整装置。
【請求項3】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10
-4より低い範囲の前記入力値に対する出力値の傾きが最大となり、10
-4より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10
-3のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている、
画質調整装置。
【請求項4】
前記変換部は、
前記実写画像の輝度の最大値に基づいて、前記実写画像の画質の変換に用いるトーンカーブを選択する、
請求項3に記載の画質調整装置。
【請求項5】
前記記憶部は、
昼間における室内の明るさと室外の明るさとの両方に対応する第8のトーンカーブを記憶し、
前記変換部は、
前記実写画像が室内で撮像された部分と室外で撮像された部分とを含む場合に、前記第8のトーンカーブを用いて、前記実写画像の画質を変換する、
請求項1から4のいずれか一項に記載の画質調整装置。
【請求項6】
前記変換部は、
前記実写画像の撮像時の環境を検出する環境センサで検出された情報と、前記実写画像から検出される撮像時の環境を示す情報との少なくとも1つの情報に基づいて、前記実写画像の画質の変換に用いるトーンカーブを選択する、
請求項1から5のいずれか一項に記載の画質調整装置。
【請求項7】
前記記憶部は、
前記実写画像を表示する表示装置におけるビューイングフレアを考慮して暗部の階調再現域を増加させる第9のトーンカーブを記憶し、
前記変換部は、
人の視覚特性に沿った画質に変換した前記実写画像の画質を、前記記憶部から読み出した前記第9のトーンカーブを用いてさらに変換する、
請求項1から6のいずれか一項に記載の画質調整装置。
【請求項8】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10
-3.5以上で10
-1.5より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10
-1.5から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる、
画質調整方法。
【請求項9】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10
-2以上の輝度域において、コントラストが大きくなるようにS字状となっている、
画質調整方法。
【請求項10】
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10
-4より低い範囲の前記入力値に対する出力値の傾きが最大となり、10
-4より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10
-3のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている、
画質調整方法。
【請求項11】
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶
部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10
-3.5以上で10
-1.5より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10
-1.5から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる、
プログラム。
【請求項12】
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10
-2以上の輝度域において、コントラストが大きくなるようにS字状となっている、
プログラム。
【請求項13】
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10
-4より低い範囲の前記入力値に対する出力値の傾きが最大となり、10
-4より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10
-3のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画質調整装置、画質調整方法及びプログラムに関する。
【背景技術】
【0002】
近年、デジタルカメラでは、ダイナミックレンジの広域化が進んでおり、コントラストが大きく高精細な画質を有する被写体の実写画像を得ることができるようになっている。この実写画像を、PRI(Photographed Real Image)ともいう。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、デジタルカメラで撮像された被写体の実写画像は、人が実際に見た被写体とは印象が異なることが多い。このことが、被写体の実写画像を見る人に違和感を生じさせる。
【0005】
一方、画面に表示された画像の階調を調整し人が見やすい画像を生成することを目的として、画像のトーンマッピングが行われることがある。トーンマッピングには、画像全体を単一のトーンカーブを用いてマッピングするグローバルトーンマッピング(GTM;Global Tone Mapping)と、画像の局所的な特徴を用いて画像の画素毎に異なるトーンマッピングを行うローカルマッピング(LTM; Local Tone Mapping)とがある。従来、GTMの既存手法(ヒストグラム平滑法など)では十分な画質が得られないため、人間が局所の視覚的情報を利用することに着目したLTM(例えば、LandとMcCannによって1971年に提唱されたレティネックス理論に基づくLTM)に基づいて階調圧縮処理を行うのが一般的であった。しかし、画像処理には膨大な演算が必要であり、人間の知覚メカニズムを類推したものとは乖離した処理となっていた。最近、本発明者らの研究により実際にHDR(High Dynamic Range)の環境で視覚心理実験を行ったところ、人がこのような環境でも多くの場合GTMで処理を行っており、GTMを用いてSDR(Standard Dynamic Range)画像に変換しても違和感なく良好な画質が得られる可能性が示唆された。
【0006】
本発明は、上記実情の下になされたものであり、膨大な演算を必要とせずに被写体の実写画像を見る人の違和感を低減することができる画質調整装置、画質調整方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するために、本発明の第1の観点に係る画質調整装置は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10
-3.5
以上で10
-1.5
より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10
-1.5
から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる。
【0011】
本発明の第2の観点に係る画質調整装置は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10-2以上の輝度域において、コントラストが大きくなるようにS字状となっている。
【0013】
本発明の第3の観点に係る画質調整装置は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部と、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部と、
を備え、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10-4より低い範囲の前記入力値に対する出力値の傾きが最大となり、10-4より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10-3のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている。
【0014】
前記変換部は、
前記実写画像の輝度の最大値に基づいて、前記実写画像の画質の変換に用いるトーンカーブを選択する、
こととしてもよい。
【0015】
前記記憶部は、
昼間における室内の明るさと室外の明るさとの両方に対応する第8のトーンカーブを記憶し、
前記変換部は、
前記実写画像が室内で撮像された部分と室外で撮像された部分とを含む場合に、前記第8のトーンカーブを用いて、前記実写画像の画質を変換する、
こととしてもよい。
【0016】
前記変換部は、
前記実写画像の撮像時の環境を検出する環境センサで検出された情報と、前記実写画像から検出される撮像時の環境を示す情報との少なくとも1つの情報に基づいて、前記実写画像の画質の変換に用いるトーンカーブを選択する、
こととしてもよい。
【0017】
前記記憶部は、
前記実写画像を表示する表示装置におけるビューイングフレアを考慮して暗部の階調再現域を増加させる第9のトーンカーブを記憶し、
前記変換部は、
人の視覚特性に沿った画質に変換した前記実写画像の画質を、前記記憶部から読み出した前記第9のトーンカーブを用いてさらに変換する、
こととしてもよい。
【0018】
また、本発明の第4の観点に係る画質調整方法は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10
-3.5
以上で10
-1.5
より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10
-1.5
から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる。
本発明の第5の観点に係る画質調整方法は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10
-2
以上の輝度域において、コントラストが大きくなるようにS字状となっている。
本発明の第6の観点に係る画質調整方法は、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶装置から読み出し、
前記記憶装置から読み出したトーンカーブを用いて前記実写画像の画質を変換し、
前記記憶装置は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10
-4
より低い範囲の前記入力値に対する出力値の傾きが最大となり、10
-4
より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10
-3
のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている。
【0019】
また、本発明の第7の観点に係るプログラムは、
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、を記憶し、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第1、第2、第3のトーンカーブは、輝度の最大値を1として正規化された場合に、
入力値が10-3.5以上で10-1.5より小さい範囲で前記入力値に対する出力値の傾きが最大であり、前記入力値が10-1.5から1に近づくにつれて、前記傾きが0とならないように前記出力値が1に近づく曲線となる。
本発明の第8の観点に係るプログラムは、
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夕方又は朝方において人が前記被写体を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夕方又は朝方に撮像されたものである場合に、前記第1、第2、第3のトーンカーブのいずれかで画質が変換された画像の画質を、前記第4のトーンカーブを用いて補正し、
前記第4のトーンカーブは、輝度の最大値を1として正規化された場合に、
10-2以上の輝度域において、コントラストが大きくなるようにS字状となっている。
本発明の第9の観点に係るプログラムは、
コンピュータを、
被写体の実写画像の画質を、人の視覚特性に沿った画質に変換するグローバルトーンマッピング用の単一のトーンカーブを記憶する記憶部、
前記記憶部から読み出したトーンカーブを用いて前記実写画像の画質を変換する変換部、
として機能させ、
前記記憶部は、
人が前記被写体を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
日向の明るさに対応する第1のトーンカーブと、
日陰の明るさに対応する第2のトーンカーブと、
曇天下の明るさに対応する第3のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が第1の輝度以上である場合に用いる第5のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第1の輝度より低く、第2の輝度以上である場合に用いる第6のトーンカーブと、
夜間の明るさに対応し、前記実写画像の輝度の最大値が前記第2の輝度より低い場合に用いる第7のトーンカーブと、
を記憶し、
前記変換部は、
前記第1、第2、第3のトーンカーブのうち、前記被写体の撮像時の環境に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記実写画像が夜間に撮像されたものである場合に、前記第5、第6、第7のトーンカーブのうち、前記実写画像の輝度の最大値に対応するトーンカーブを用いて、前記実写画像の画質を変換し、
前記第5、第6、第7のトーンカーブは、輝度の最大値を1として正規化された場合に、
前記第5のトーンカーブは、入力値が10-4より低い範囲の前記入力値に対する出力値の傾きが最大となり、10-4より高い範囲での前記傾きが0とならないように規定され、
前記第6のトーンカーブは、入力値が10-3のときに傾きが最大となり、全体としてS字状となるように規定され、
前記第7のトーンカーブは、前記第5のトーンカーブよりも入力値の全範囲に渡って前記傾きの変化が小さくなるように規定されている。
【発明の効果】
【0020】
本発明によれば、被写体の実写画像全体の画質を、グローバルトーンマッピング用の単一のトーンカーブを用いて、人の視覚特性に沿った画質に変換することができるので、膨大な演算を必要とせずに被写体の実写画像を見る人の違和感を低減することができる。
【図面の簡単な説明】
【0021】
【
図1】本発明の一実施の形態に係る画質調整装置の構成を示す模式図である。
【
図2】
図1の画質調整装置の詳細な構成を示すブロック図である。
【
図3】第1、第2、第3のトーンカーブの一例を示すグラフである。
【
図4】(A)は、日向で撮像された実写画像を示す図である。(B)は、第1のトーンカーブで変換された画像を示す図である。
【
図5】(A)は、日陰で撮像された実写画像を示す図である。(B)は、第2のトーンカーブで変換された画像を示す図である。
【
図6】(A)は、曇天下で撮像された実写画像を示す図である。(B)は、第3のトーンカーブで変換された画像を示す図である。
【
図7】夕方に対応する補正用のトーンカーブを示すグラフである。
【
図8】(A)は、補正前の実写画像を示す図である。(B)は、補正後の画像を示す図である。
【
図9】第5、第6、第7のトーンカーブの一例を示すグラフである。
【
図10】(A)は、ハイライトを保存した実写画像の一例を示す図である。(B)は、低輝度領域を見やすくするためにハイライトが飽和するように変換された実写画像の一例を示す図である。(C)は、第5のトーンカーブで変換された画像の一例を示す図である。
【
図11】(A)は、ハイライトを保存した実写画像の一例を示す図である。(B)は、低輝度領域を見やすくするためにハイライトが飽和するように変換された実写画像の一例を示す図である。(C)は、第6のトーンカーブで変換された画像の一例を示す図である。
【
図12】(A)は、ハイライトを保存した実写画像の一例を示す図である。(B)は、低輝度領域を見やすくするためにハイライトが飽和するように変換された実写画像の一例を示す図である。(C)は、第7のトーンカーブで変換された画像の一例を示す図である。
【
図13】第8のトーンカーブの一例を示すグラフである。
【
図14】(A)および(B)は、各々露出を変えた補正前の実写画像を示す図である。(C)は、補正後の画像を示す図である。
【
図16】(A)は、表示装置で表示される補正前画像の見え方に対応するトーンカーブを示すグラフである。(B)は、表示装置で表示される補正後画像の見え方に対応するトーンカーブを示すグラフである。
【
図17】ビューイングフレアに対応する第9のトーンカーブを示す図である。
【
図18】(A)は、補正前の表示画像を示す図である。(B)は、補正後の表示画像を示す図である。
【
図19】
図1の画質調整装置のハードウエア構成を示すブロック図である。
【
図20】
図1の画質調整装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0022】
以下、本発明の実施の形態について図面を参照して詳細に説明する。全図において、同一又は相当する構成要素には、同一の符号が付されている。
【0023】
図1に示すように、デジタルカメラ2は、ある風景を被写体3として撮像する。これにより、被写体3の実写画像P1が得られる。なお、被写体3は、
図1に示すものには限られない。
【0024】
実写画像P1は、ハイダイナミックレンジで撮像された画像である。このような画像をHDR(High Dynamic Range)画像ともいう。ダイナミックレンジとは、画像における輝度の最大値と最小値の幅(比率)のことをいう。HDR画像においては、ダイナミックレンジは例えば6000:1(1/6000)であり、その輝度値は例えば16ビットで表現される。
【0025】
実写画像P1は、デジタルカメラ2により、例えば自動露光で撮像された撮像素子の特性に沿った画像となっている。画質調整装置1は、この実写画像P1を、人の視覚特性に沿った変換後画像P2,P4に変換する。変換後画像P2,P4は、
図2に示す標準表象画像(SRI;Standard Representational Image)P2と、低コントラスト補正画像P4とのいずれかである。標準表象画像P2は、SDRに相当する階調範囲(例えば8ビット)で人が被写体3を直接見たときに感じる見え方に近い明るさを持つ画像となっており、低コントラスト補正画像P4は、標準表象画像P2の特徴を備えつつ、さらに低コントラストの環境でも見やすくなっている画像である。
【0026】
変換後画像P2,P4を得るために、画質調整装置1は、記憶部10と、変換部20と、を備えるコンピュータである。記憶部10は、被写体3の実写画像P1の画質を、人の視覚特性に沿った画質に変換するトーンカーブTを記憶する。変換部20は、記憶部10から読み出したトーンカーブTを用いて被写体3の実写画像P1の画質を変換し、変換後画像P2,P4を生成する。トーンカーブTは、すべての輝度範囲でトーンマッピングが可能なグローバルトーンマッピング用の単一のトーンカーブである。
【0027】
[日中のトーンカーブによる変換]
図2に示すように、記憶部10は、トーンカーブTとしてのトーンカーブT1、T2、T3を記憶する。トーンカーブT1、T2、T3は、人が被写体3を直接見たときに感じる明るさに対応して規定されている。第1のトーンカーブとしてのトーンカーブT1は、日向に対応するトーンカーブである。第2のトーンカーブとしてのトーンカーブT2は、日陰に対応するトーンカーブである。また、第3のトーンカーブとしてのトーンカーブT3は、曇天下に対応するトーンカーブである。
【0028】
図3に示すように、トーンカーブT1~T3をグラフ表示する。このグラフでは、入力値が横軸であり、出力値が縦軸である。トーンカーブT1~T3は、輝度の最大値を1として正規化されている。また、両軸は対数表示となっている。このトーンカーブT1~T3を用いた変換では、入力値が実写画像P1の各画素の輝度値となり、出力値が標準表象画像P2の各画素の輝度値となる。
【0029】
トーンカーブT1、T2、T3は、入力値が1に近づくにつれて単調に増加する曲線となる。
図3では、入力値に対する出力値の傾きγ=1の直線を点線で示している。トーンカーブT1、T2、T3は、この直線よりも上側となり、入力値が0.0003(10
-3.5)以上の範囲では上方に凸に湾曲した曲線となる。
【0030】
曇天下に対応するトーンカーブT3は、傾きγ=1の直線(点線)に最も近く、日陰に対応するトーンカーブT2、日向に対応するトーンカーブT1の順に直線から離れていく。このことは、トーンカーブT3、T2、T1の順に、変換した画像の画質が明るくなることを示している。
【0031】
また、本発明者らは、実環境の見え方と写真に撮影された画像とを比較する分析作業を多数行った。この結果、人の視覚特性において最も感度が高いのは、輝度が0.0003(10-3.5)以上0.5(10-1.5)以下の範囲であることが明らかとなった。そこで、トーンカーブT1、T2、T3では、入力値が0.0003(10-3.5)以上0.5(10-1.5)以下の範囲で傾きγが最大となるように規定されている。すなわち、トーンカーブT1~T3では、人の感度が高い範囲に多くの階調が割り当てられるようになっている。また、トーンカーブT1、T2、T3は、入力値が0.5(10-1.5)から1に近づくにつれて、傾きγが0とならずに出力値が1に近づいていくように規定されている。
【0032】
図2に戻り、変換部20は、トーンカーブT1~T3を用いて画質の変換を行う主要変換部21を備えている。主要変換部21は、トーンカーブT1~T3のうち、被写体3が撮像されたときの明るさに対応するトーンカーブを用いて、被写体3の実写画像P1の画質を変換する。例えば、実写画像P1が日向で撮像されたものである場合には、トーンカーブT1が用いられ、実写画像P1が日陰で撮像されたものである場合には、トーンカーブT2が用いられ、実写画像P1が曇天下で撮像されたものである場合には、トーンカーブT3が用いられる。なお、トーンカーブT1~T3は、ルックアップテーブル(LUT;Look Up Table)に登録されている。LUTを参照することにより、その入力値に対する出力値を直接得ることができるようになっている。
【0033】
図4(A)には、日向での実写画像P1が示され、
図4(B)には、日向に対応するトーンカーブT1を用いて画質が変換された標準表象画像P2が示されている。
図4(A)の実写画像P1よりも、
図4(B)の標準表象画像P2の方が、日向で人が被写体3を見たときの実際の見え方に近くなっている(
図1参照)。
【0034】
また、
図5(A)には、日陰での実写画像P1が示され、
図5(B)には、日陰に対応するトーンカーブT2を用いて画質が変換された標準表象画像P2が示されている。
図5(A)の実写画像P1よりも、
図5(B)の標準表象画像P2の方が、日陰で人が被写体3を見たときの実際の見え方に近くなっている。
図5(A)と
図5(B)とで点線で囲まれた部分を比較するとわかるように、
図5(B)の標準表象画像P2の方が、黒くつぶれた部分が少なくなっており、画像のコントラストが向上している。
【0035】
また、
図6(A)には、曇天下での実写画像P1が示され、
図6(B)には、曇天下に対応するトーンカーブT3を用いて画質が変換された標準表象画像P2が示されている。
図6(A)の実写画像P1よりも、
図6(B)の標準表象画像P2の方が、曇天下で人が被写体3を見たときの実際の見え方に近くなっている。また、
図6(A)と
図6(B)とを比較するとわかるように、
図6(B)の標準表象画像P2の方が、手前の土地の画像のコントラストが向上している。
【0036】
なお、本実施の形態では、デジタルカメラ2には、実写画像P1の撮像時の環境を検出する環境センサ5が設けられている。環境センサ5には、例えば、撮像環境における照度を検出する照度センサ及び撮像環境における色温度を検出する色温度センサが含まれている。日向、日陰、曇天下、夜間では、撮像環境における照度のレベル及びばらつき、色温度のレベル及びそのばらつきが異なっている。主要変換部21は、環境センサ5から得られる情報、すなわち撮像環境データ6に基づいて、実写画像P1が日向で撮像されたものであるか、日陰で撮像されたものであるか、曇天下で撮像されたものであるか、夜間に撮像されたものであるかを検出する。例えば、撮像環境における照度のレベルがハイレベルの閾値以上であれば日向で撮像されたものであり、照度のレベルがローレベルの閾値より小さければ夜間であると判定することができる。また、撮像環境における色温度が閾値(例えば7000k)未満である場合には、日向で撮像されたものであり、閾値(例えば7000k)以上である場合には、日陰又は曇天下で撮像されたものであると判定することができる。また、撮像環境における照度、色温度のばらつきが第1の閾値より小さければ曇天下又は夜間での撮影、第1の閾値以上で第2の閾値より小さければ日陰での撮影、第2の閾値以上であれば日向での撮影であると判断することができる。
【0037】
さらに、主要変換部21は、実写画像P1から検出される撮像時の環境を示す情報に基づいて、実写画像P1の画質の変換に用いるトーンカーブを選択するようにしてもよい。例えば、実写画像P1の平均レベルがハイレベルの閾値以上であれば日向で撮像されたものと判定し、ローレベルの閾値未満であれば夜間であると判定することができる。また、実写画像P1における色温度が、閾値(例えば7000k)未満である場合には、日向で撮像されたものであり、閾値(例えば7000k)以上である場合には、日陰又は曇天下で撮像されたものであると判定することができる。また、実写画像P1における照度、色温度のばらつきが第1の閾値より小さければ曇天下での撮影、第1の閾値以上で第2の閾値より小さければ日陰での撮影、第2の閾値以上であれば日向での撮影であると判断することができる。さらに、実写画像P1全体のコントラストの大きさで、日向、日陰、曇天を判定するようにしてもよい。コントラストが大きければ日向での撮影、中程度であれば日陰での撮影、小さければ曇天下での撮影であると判定することができる。
【0038】
このように、主要変換部21は、環境センサ5の情報と実写画像P1から検出される撮像時の環境を示す情報との少なくとも1つの情報に基づいて、実写画像P1の画質の変換に用いるトーンカーブTを選択する。また、主要変換部21は、ユーザの操作入力に従って、トーンカーブTを選択するようにしてもよい。なお、撮像環境データ6を、実写画像P1に付随するデータ、すなわちメタデータとして実写画像P1に紐つけされるようにしてもよい。
【0039】
[夕方又は朝方に対応するトーンカーブによる補正]
図2に戻り、記憶部10は、夕方又は朝方において人が被写体3を直接見たときの見え方に沿って画質を補正する補正用の第4のトーンカーブとしてのトーンカーブT4を記憶する。
【0040】
図7に示すように、トーンカーブT4は、輝度の最大値を1として正規化された場合に、10
-2以上の輝度域において、コントラストが大きくなるようにS字状となっている。これにより、高輝度域のコントラストを向上することができる。例えば、夕方に撮像された実写画像P1である場合には、低角度で直射日光が被写体3に当たって反射光が強くなるため、全体のコントラストが向上する一方、迷光による中低輝度の像の判別の困難性は低減される。そこで、トーンカーブT4では、その分が、高輝度の範囲に割り当てられるようになっており、被写体3においてそのような反射光が反射する周辺の階調再現域を広げることができるようになっている。
【0041】
図2に戻り、変換部20は、状況補正部22をさらに備えている。状況補正部22は、実写画像P1が夕方又は朝方に撮像されたものである場合に、トーンカーブT1~T3のいずれかで画質が変換された実写画像P1の画質を、トーンカーブT4を用いて補正する。状況補正部22は、実写画像の撮像時の環境を検出する環境センサで検出された情報と、実写画像から検出される撮像時の環境を示す情報との少なくとも1つ又はユーザ操作入力情報に従って、夕方又は朝方であるか否かを検出することができる。例えば、環境センサ5として、日光の入射角度を検出可能なものを用いたり、色温度センサを用いて画像全体が赤みがかっていたりすることを検出したりすることにより、夕方又は朝方であるか否かを検出することができる。
【0042】
図8(A)には、補正前の標準表象画像P2が示され、
図8(B)には、補正後の標準表象画像P2が示されている。
図8(A)と
図8(B)とを比較するとわかるように、
図8(B)の方が、車で反射した反射光が抑制され、その周囲が見やすくなっている。
【0043】
[夜間のトーンカーブによる変換]
図2に戻り、記憶部10は、人が被写体3を直接見たときに感じる明るさに対応して規定されたトーンカーブとして、
図9に示すように、夜間での明るさに対応するトーンカーブT5、T6、T7を記憶する。
【0044】
第5のトーンカーブとしてのトーンカーブT5は、実写画像P1の輝度の最大値が第1の輝度以上である場合に用いられる。第1の輝度は、例えば、入力値10
-2と1との間に設定される。トーンカーブT5は、実写画像P1に、
図10(A)~
図10(C)に示すように満月や人工照明等が写りこんでいる場合、すなわち非常に明るい照明を含む場合に用いられる。トーンカーブT5は、輝度の最大値を1として正規化された場合に、入力値が0.0001(10
-4)より低い範囲の傾きγが最大となり、0.0001(10
-4)より高い範囲での傾きγが0とならないように規定されている。
【0045】
図10(A)に示すように、ハイライトを保存した実写画像P1では、月と人工照明とが写りこんでいるが、それらは真っ白な部分としてしか認識することができなくなっており、暗部は知覚不可能となっている。これに対して、
図10(B)に示すように、低輝度領域を見やすくするためにハイライトが飽和するように変換された画像P3では、人工照明の輪郭はぼやけており、ハイライトの部分が飛んでしまっている。これに対して、
図10(C)に示すように、トーンカーブT5を用いて変換された標準表象画像P2では、月及び人工照明の輪郭がはっきり知覚できるほか、その周辺の雲や自動車、建物まではっきりと写っている。これは、トーンカーブT5が、明部においても傾きγを飽和させることなく、入力値が10
-4以下の部分で傾きγを最大とし、10
-5から1まで広い範囲で傾きγが0とならないようにしているためである。
【0046】
また、
図9に示すように、第6のトーンカーブとしてのトーンカーブT6は、夜間での明るさに対応し、第1の輝度より低く、第2の輝度以上である場合に用いられる。第2の輝度は、第1の輝度よりも小さく、例えば10
-2から10
-3の範囲で設定される。トーンカーブT6は、入力値が、0.001(10
-3)のときに傾きγが最大となり、全体としてS字状となるように規定されている。例えば、トーンカーブT6は、
図11(A)~
図11(C)に示すように、実写画像P1に普通の室内照明が写りこんでいる場合に用いられる。
【0047】
図11(A)に示すように、ハイライトを保存した実写画像P1では、ガソリンスタンドが写りこんでいるが、そのガソリンスタンドが暗くなりすぎており、それ以外の暗部は知覚不可能となっている。これに対して、暗部のみを重視するトーンカーブを用いた場合には、
図11(B)に示すように、低輝度領域を見やすくするためにハイライトが飽和するように変換された画像P3では、ガソリンスタンドが明るくなりすぎ、中まではっきりと見えないようになっている。これに対して、
図11(C)に示すように、トーンカーブT6を用いて変換された標準表象画像P2では、ガソリンスタンドが内部まではっきり見えるようになっている。これは、トーンカーブT6では、入力値が10
-3での傾きγが最大となっているためである。
【0048】
なお、このトーンカーブT6は、夜間だけでなく、薄暮時、夜の部屋、車内から車外での撮像(薄暮~夜間)での実写画像P1の変換にも広く適用することができる。
【0049】
また、
図9に示すように、第7のトーンカーブとしてのトーンカーブT7は、夜間での明るさに対応し、実写画像P1の輝度の最大値が第2の輝度より低い場合に用いられる。例えば、トーンカーブT7は、
図12(A)~
図12(B)に示すように、明るい照明が写りこんでいない場合に用いられる。この場合には、画像内の暗部が明るくなるようにカーブのレベルを持ち上げることができる。
図9に示すように、トーンカーブT7は、トーンカーブT6よりも入力値の全範囲に渡る傾きγの変化が小さくなるように規定されている。
【0050】
図12(A)に示すように、ハイライトを保存した実写画像P1では、町の夜景が写りこんでいるが、画像全体として暗くなりすぎており、暗部を知覚しづらくなっている。これに対して、暗部を再現しようとして、トーンカーブを昼間と同じようなものとした場合には、
図12(B)に示すように、低輝度領域を見やすくするためにハイライトが飽和するように変換された画像P3では、照明のある部分が明るくなりすぎてその部分がわかりにくくなっている。これに対して、
図12(C)に示すように、トーンカーブT7を用いて変換された標準表象画像P2では、照明のある部分周辺のコントラストが向上している。
【0051】
図2に戻り、主要変換部21は、実写画像P1が夜間に撮像されたものである場合に、トーンカーブT5、T6、T7のうち、実写画像P1の輝度の最大値に対応するトーンカーブTを用いて、実写画像P1の画質を変換する。主要変換部21は、実写画像P1の輝度の最大値に基づいて、実写画像P1の画質の変換に用いるトーンカーブTを選択する。すなわち、実写画像P1の輝度の最大値が第1の輝度以上である場合には、トーンカーブT5を選択し、実写画像P1の輝度の最大値が第1の輝度より低く、第2の輝度より高い場合には、トーンカーブT6を選択し、実写画像P1の輝度の最大値が第2の輝度より低い場合には、トーンカーブT7を選択する。
【0052】
[日中の室内と室外を含む画像に対応するトーンマップによる変換]
図2に戻り、記憶部10は、日中の室内の明るさと室外の明るさとに対応する第8のトーンカーブとしてのトーンカーブT8を記憶する。トーンカーブT8は、
図13に示すように、第1の範囲W1(入力値が10
-4.5から10
-1.5の範囲)において、湾曲しており、第2の範囲W2(入力値が10
-2.5以上の範囲)において、上に凸状に湾曲している。
【0053】
図14(A)および
図14(B)には、日中の室内(廊下)の実写画像P1が示されている。室内を重視した場合には、
図14(A)に示すように、この実写画像P1では、窓の外側の部分や蛍光灯の部分が明るく白飛びとなった状態となり見づらくなっている。また、室内と室外をバランスさせて撮影した場合には、
図14(B)に示すように、外の景色や蛍光灯の部分は概ね良好だが、廊下が暗すぎる。これに対して、
図14(C)に示すように、トーンカーブT8で変換された標準表象画像P2によれば、外の景色や蛍光灯の部分と暗め廊下の様子が肉眼に近い状態で再現されており、全体の様子が見やすくなっている。
【0054】
主要変換部21は、日中に実写画像P1が室内で撮像されたものと室外で撮像されたものを含む場合に、トーンカーブT8を用いて、実写画像P1の画質を変換する。主要変換部21は、操作入力により、日中に実写画像P1が室内で撮像されたものと室外で撮像されたものを含むか否かを判定することができる。
【0055】
このように、トーンカーブT8では、明るさが異なる室内の画像部分と室外の画像部分とで、明るさの持ち上げ方を変えることができる。このため、室内の画像部分も室外の画像部分も知覚しやすい標準表象画像P2を得ることが可能となる。
【0056】
[ビューイングフレア]
上述のようにして生成された標準表象画像P2は、HDR画像である。しかしながら、実際には、画像を表示する表示装置には様々なものがあり、コントラスト比が100:1のもの(CR100)から、25:1(CR25)、10:1のもの(CR10)やそれ以下のもの(GMIN)まで存在する。CR25以下のコントラストの表示装置(例えばプロジェクタ)を低ダイナミックレンジ(LDR;Low Dynamic Range)の表示装置ともいう。これらLDRの表示装置でも、可能な限り視覚的に高いコントラストで、画像を見ることができるようにすることが求められている。
【0057】
また、例えば、表示装置の画面には、
図15に示すように外部からの照明光が入射し、その反射光が画面に表示された画像のコントラストを低下させる。このようなコントラストを低下させるノイズをビューイングフレア(黒の浮き)という。
【0058】
なお、これまでに説明したトーンカーブT1~T8は、表示装置で標準表象画像P2を表示した場合のビューイングフレアを考慮したものとなっている。すなわち標準表象画像P2は、非常に明るい外光が反射する表示画面に表示されたとしても、相当量の情報を得つつ、室内の主要部分(最大値の10-1.5から10-3.5)では実際に近いコントラストで情報を取得することができ、さらに室内の暗部の情報(最大値の10-3以下の部分)の情報も取得することができる画像となっている。ビューイングフレアについては、例えば、国際公開WO2018/212212号等に詳細に開示されている。
【0059】
本実施の形態では、予め画面での照明光の反射によるビューイングフレアを想定し、LDR画像のコントラスト比の範囲内でコントラストが可能な限り良好となるような画像変換を行う。例えば、
図16(A)には、日向に対応するトーンカーブT1(G
MAX)が示されているほか、このトーンカーブT1で変換された標準表象画像P2がG
MIN(コントラスト比10:1未満)、CR25、CR100の表示装置で表示されたときの実際の見え方を示す曲線も示されている。
図16(A)に示すように、ビューイングフレアにより、入力値が10
-3の付近では、これらの曲線の傾きγが小さくなっている。このため、画像に黒つぶれが発生するおそれがある。
【0060】
図2に戻り、記憶部10は、第9のトーンカーブとしてのトーンカーブT9を記憶する。
図17に示すように、トーンカーブT9では、ビューイングフレアがコントラスト比の10%であることを想定し、入力値10
-3以上10
-2以下の範囲において傾きγが大きくなるように規定されている。
【0061】
ディスプレイ調整部23は、記憶部10から読み出したトーンカーブT9を用いて標準表象画像P2の画質を補正し、低コントラスト補正画像P4を生成する。トーンカーブT9により画像の画質を変換すれば、
図16(B)の点線に示すように、入力値10
-3以上10
-2以下の範囲において曲線の傾きγが大きくなっている。これは、表示装置において暗部(点線で示される部分)の階調再現域が増加したことを意味している。なお、標準表象画像P2に限らず一般のSDR画像をトーンカーブT9を用いて変換したとしても、同様の効果が得られる。
【0062】
図18(A)には、トーンカーブT9で補正する前の標準表象画像P2が示され、
図18(B)には、トーンカーブT9で補正した後の低コントラスト補正画像P4が示されている。
図18(A)と
図18(B)の点線を比較するとわかるように、
図18(B)の低コントラスト補正画像P4の方が、暗部のコントラストが向上している。
【0063】
なお、本実施の形態では、ビューイングフレアをコントラスト比の10%と仮定しているが、ビューイングフレアは10%以外の場合もある。10%以外のビューイングフレアを考慮して、複数のトーンカーブTを規定するようにしてもよい。なお、一般に、ビューイングフレアの範囲は、1%から10%までと考えられるため、ビューイングフレア10%を考慮したトーンカーブTを作成すれば、概ねすべての表示環境で良好な画像の表示を実現することができる。また、センサを使用してビューイングフレアの量を計測し、この値に基づいて切り替えてもよい。
【0064】
[ハードウエア構成]
図19には、画質調整装置1のハードウエア構成が示されている。
図19に示すように、画質調整装置1は、CPU(Central Processing Unit)30と、メモリ31と、外部記憶部32と、操作部33と、表示部34と、通信インターフェイス(I/F)35と、入出力部36と、を備える。画質調整装置1の各構成要素は、内部バス40を介して接続されている。
【0065】
CPU30は、ソフトウエアプログラム(以下、単に「プログラム」とする)を実行するプロセッサ(演算装置)である。メモリ31には、外部記憶部32からプログラム39が読み込まれ、CPU30は、メモリ31に格納されたプログラム39を実行することにより、トーンカーブTを用いた変換処理を行う。すなわち、CPU30によるプログラム39の実行により、変換部20の動作が行われる。
【0066】
メモリ31は、例えばRAM(Random Access Memory)である。メモリ31には、CPU30によって実行されるプログラム39が格納される他、CPU30によるプログラム39の実行で必要なデータ(トーンカーブT、実写画像P1、変換後画像P2、P4など)、プログラム39の実行の結果生成されるデータが記憶される。
【0067】
外部記憶部32は、例えばハードディスク等である。外部記憶部32は、CPU30により実行されるプログラム39が記憶される。また、持ち運び可能なUSB(Universal Serial Bus)メモリ等の記録媒体50にはプログラム39が記憶されている。外部記憶部32には、記録媒体50から転送されたプログラム39が記憶されている。
【0068】
操作部33は、オペレータが操作可能なマンマシンインターフェイスである。操作部33としては、例えばキーボード、マウス、タッチパネル、カメラ、マイクロホン等がある。CPU30は、操作部33の操作入力に従って動作する。実写画像P1が日向で撮像されたものであるか、日陰で撮像されたものであるか、曇天下で撮像されたものであるか、夕方又は朝方に撮像されたものであるか、夜間に撮像されたものであるかの操作入力は、操作部33によって行われる。
【0069】
表示部34は、画像を表示するディスプレイである。表示部34は、CPU30から出力された画像信号を出力する。これにより、表示部34には、その画像信号に基づく画像が表示される。タッチパネルの場合は、操作部33と表示部34とは一体化している。表示部34には、実写画像P1、標準表象画像P2を表示可能である。
【0070】
通信インターフェイス35は、外部機器と通信を行うための通信インターフェイスである。通信インターフェイス35は、通信ネットワークの入出力インターフェイスである。この通信インターフェイス35を介して、実写画像P1が入力されたり、変換後画像P2,P4が外部に出力されたりする。
【0071】
入出力部36は、記録媒体50の入出力インターフェイスである。プログラム39又は実写画像P1は、この入出力部36を介して入力される。また、変換後画像P2,P4はこの入出力部36を介して、記録媒体50に出力することが可能である。
【0072】
[画質調整装置の動作]
次に、本実施の形態に係る画質調整装置1の動作、すなわち画像変換方法について説明する。
図20には、画質調整装置1の動作を示すフローチャートが示されている。なお、ここでは、予め実写画像P1が記憶部10(外部記憶部32)に記憶されているものとする。
【0073】
画質調整装置1を構成する変換部20の主要変換部21は、被写体3(
図1参照)の実写画像P1の画質を、人が被写体3を直接見たときに感じる見え方に近い明るさに変換するトーンカーブTを記憶装置としての記憶部10から読み出す(ステップS1)。具体的には、例えば、主要変換部21は、環境センサ5で検出された撮像環境データ6と、実写画像P1から検出される撮像時の環境を示す情報との少なくとも1つに基づいて、実写画像P1が日向で撮像されたものであるか、日陰で撮像されたものであるか、曇天下で撮像されたものであるか、夜間に撮像されたものであるか、昼間の室内で撮像されたものであるかを割り出す。
【0074】
さらに、主要変換部21は、夜間と判定された場合には、実写画像P1の輝度の最大値が第1の輝度以上であるか、第1の輝度より低く、かつ、第2の輝度より高いか、第2の輝度より低く、かつ、第3の輝度以上であるかを検出する。なお、実写画像P1の撮像条件の選定は、操作部33(
図19参照)を用いたユーザの操作入力により行われるようにしてもよい。そして、主要変換部21は、決定された撮像条件に従って、トーンカーブT1~T3、T5~T8の中から、1つのトーンカーブTを選択し、記憶部10から読み出す。
【0075】
続いて、主要変換部21は、視覚特性対応の画質の変換を行う(ステップS2)。具体的には、主要変換部21は、記憶部10から読み出したトーンカーブTを用いて、実写画像P1の画質を変換する。
【0076】
続いて、変換部20は、実写画像P1の撮像時が夕方又は朝方であるか否かを判定する(ステップS3)。夕方又は朝方であるとの判定が肯定されれば(ステップS3;Yes)、状況補正部22は、画質の補正を行う(ステップS4)。具体的には、状況補正部22は、環境センサ5で検出された情報と、標準表象画像P2から検出される撮像時の環境を示す情報との少なくとも1つ、又はユーザによる操作入力情報に基づいて、撮像時が夕方又は朝方であるか否かを検出する。状況補正部22は、夕方又は朝方に対応するトーンカーブT4を記憶部10から読み出して、トーンカーブT1~T3のいずれかで画質が変換された画像の画質を、トーンカーブT4を用いて変換する。なお、撮像時が夜間である場合には、ここでの判定は否定される。
【0077】
夕方又は朝方であるとの判定が否定されるか(ステップS3;No)又はステップS4終了後、ディスプレイ調整部23は、ビューイングフレア対応の画質変換を行う(ステップS5)。具体的には、ディスプレイ調整部23は、記憶部10からトーンカーブT9を読み込んで、これまでに変換が行われた標準表象画像P2の画質をトーンカーブT9を用いてさらに変換する。変換された画像は、低コントラスト補正画像P4として、表示部34(
図19参照)で表示されるか、通信インターフェイス35又は入出力部36を介して出力され、別の表示装置で表示される。低コントラスト補正画像P4は、人の視覚特性に沿うように変換され、ビューイングフレア対策が施されているため、どのような表示装置で表示されても、視覚的なコントラスト感が良く、違和感のない画像となっている。ステップS5終了後は、変換部20は、処理を完了する。
【0078】
以上詳細に説明したように、本実施の形態によれば、被写体3の実写画像P1全体の画質を、単一のトーンカーブTを用いて、人の視覚特性に沿った画質に変換することができるので、被写体3の画像を見る人の違和感を低減することができる。
【0079】
人間は、日向、日陰、曇天下、夜間などの様々な異なる環境で被写体の見え方を変更していると考えられる。実写画像P1に写る被写体3を、実際の環境で鑑賞したときのグローバルトーンマッピングは、殆どの場合、標準的な数種類のパターン処理(例えば, 日向、日陰、曇天下など)とその派生処理(夕焼け補正など)に分類することができる。本実施の形態に係る画質調整装置1が行う処理は、人間が実際に行う視覚情報処理に類似した処理である。本実施の形態に係る画質調整装置1は、人間が行っている視覚情報処理のパターンに沿ってトーンカーブを切り替えることにより、画像に生じる違和感を低減している。
【0080】
トーンカーブTによる画質の変換は、ルックアップテーブルの参照により行われるので、処理時間を短縮することができる。これにより、膨大な演算を必要とせずに被写体3の画像を見る人の違和感を低減することができる。この結果、本実施の形態に係る画質調整装置1を、動画の画質変換に用いるようにすれば、変換に要する時間を短縮することができる。
【0081】
本実施の形態に係る画質調整装置1を用いれば、表示される変換後画像P2は、元の撮影条件の影響を殆ど受けることなく各種HDR環境及びSDR(Standard Dynamic Range)環境で良好な画質となる。また、プロジェクタの投影時など、コントラストが極端に低下する条件であるLDR環境下においても、変換後画像P4は、コントラスト比に応じてHDR-LDR、SDR-LDR変換のための統一的なグローバルトーンマッピング(トーンカーブT9によるマッピング)を行うことにより、表示される画像の画質の低下を最小限にとどめることができる。
【0082】
このように、本実施の形態では、日向、日陰、曇天下についてトーンカーブT1~T3をそれぞれ用意している。このようにすれば、人の視覚特性に沿った画質に変換することができるので、被写体3の画像を見る人の違和感を低減することができる。
【0083】
また、本実施の形態では、夕方や朝方などの実写画像P1については、角度の低い太陽光による反射光の影響を考慮して、高輝度域のコントラストが向上するようにトーンカーブT4を用いて補正される。このようにすれば、夕方又は朝方の被写体の見え方に近い画像を生成することができる。このトーンカーブT4は、日向、日陰、曇天下のいずれの実写画像P1に対しても同じものを適用することができる。
【0084】
また、本実施の形態では、夜間については、その画像の明るさの度合いによって、3種類のトーンカーブT5~T7を用意している。これにより、高輝度から低輝度まで高コントラストで、画像を表示することが可能となっている。なお、夜間については、2種類又は4種類以上にトーンカーブを分けることも可能である。
【0085】
また、本実施の形態では、室内の明るさと室外の明るさとを含む画像に対しては、トーンカーブT8を用意している。これにより、明るさの条件が異なる部分があってもそれぞれの部分でコントラストを向上することができる。
【0086】
また、本実施の形態では、表示装置のコントラスト比やビューイングフレアが考慮されたトーンカーブT9を用いて画像の画質を変換可能である。このようにすれば、コントラスト比の低い表示装置においても、できる限り良好なコントラスト比で画像を表示することができる。このトーンカーブT9については、日向、日陰、曇天下、夕方(朝方)、夜間のいずれの実写画像についても同じものを適用することができる。
【0087】
なお、夜間の室内においては、実写画像P1に部屋の照明が入っていればトーンカーブT6を用い、実写画像P1に部屋の照明が入っていない場合には、曇天下のトーンカーブT3を用いるようにしてもよい。
【0088】
トーンカーブT1~T9の特性はあくまで一例であり、この他のトーンカーブを採用することも可能である。
【0089】
その他、画質調整装置1のハードウエア構成やソフトウエア構成は一例であり、任意に変更および修正が可能である。
【0090】
記憶部10及び変換部20などから構成される画質調整装置1の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD-ROM、DVD-ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する画質調整装置1を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで画質調整装置1を構成してもよい。
【0091】
画質調整装置1の機能を、OS(オペレーティングシステム)とアプリケーションプログラムとの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0092】
搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。例えば、通信ネットワーク上の掲示板(BBS;Bulletin Board System)にコンピュータプログラムを掲示し、ネットワークを介してコンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【0093】
この発明は、この発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この発明を説明するためのものであり、この発明の範囲を限定するものではない。すなわち、この発明の範囲は、実施の形態ではなく、特許請求の範囲によって示される。そして、特許請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、この発明の範囲内とみなされる。
【産業上の利用可能性】
【0094】
本発明は、実写画像の画質を調整するのに適用することができる。また、レイトレーシング等の技術を用いて輝度再現を忠実に行ったフォトリアリスティック(photo-realistic)なCG画像にも同様に適応することができる。
【符号の説明】
【0095】
1 画質調整装置、2 デジタルカメラ、3 被写体、5 環境センサ、6 撮像環境データ、10 記憶部、20 変換部、21 主要変換部、22 状況補正部、23 ディスプレイ調整部、30 CPU(Central Processing Unit)、31 メモリ、32 外部記憶部、33 操作部、34 表示部、35 通信インターフェイス、36 入出力部、39 プログラム、40 内部バス、50 記録媒体、P1 実写画像、P2 標準表象画像(変換後画像)、P3 画像、P4 低コントラスト補正画像(変換後画像)、T,T1,T2,T3,T4,T5,T6,T7,T8,T9 トーンカーブ