(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-02
(45)【発行日】2023-10-11
(54)【発明の名称】画像処理方法および装置
(51)【国際特許分類】
G06T 5/00 20060101AFI20231003BHJP
H04N 5/20 20060101ALI20231003BHJP
G09G 5/00 20060101ALI20231003BHJP
【FI】
G06T5/00 730
H04N5/20
G09G5/00 520A
(21)【出願番号】P 2021575058
(86)(22)【出願日】2020-05-26
(86)【国際出願番号】 CN2020092320
(87)【国際公開番号】W WO2021004176
(87)【国際公開日】2021-01-14
【審査請求日】2022-01-19
(31)【優先権主張番号】201910626171.8
(32)【優先日】2019-07-11
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】504161984
【氏名又は名称】ホアウェイ・テクノロジーズ・カンパニー・リミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】ユ、クアンヒ
【審査官】渡部 幸和
(56)【参考文献】
【文献】特開2010-074222(JP,A)
【文献】特開平06-282648(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 5/00
H04N 5/20
G09G 5/00
(57)【特許請求の範囲】
【請求項1】
画像処理方法であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
前記複数の補間点を通過するスプライン関数を決定する段階であって、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続される、段階と、
前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行する段階と
を備
え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は前記第2端点に対応する輝度値より小さく、前記複数の補間点は第1補間点を含み、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、
第1事前設定閾値よりも輝度値が小さい前記対象ピクチャに含まれる暗領域画素の数が第2事前設定閾値以上である場合、前記第1補間点の第1座標値が前記第1端点の第1座標値と同一であると決定する段階を含む、方法。
【請求項2】
前記複数の補間点は更に第2補間点を含み、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、
前記暗領域画素の前記数に基づいて前記第2補間点の第1座標値を決定する段階を含む、請求
項1に記載の方法。
【請求項3】
前記複数の補間点は更に第3補間点を含み、前記対象ピクチャは更に暗領域移行画素を含み、前記暗領域移行画素の輝度値は前記第1事前設定閾値以上であり、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、前記暗領域移行画素の数に基づいて前記第3補間点の第1座標値を決定する段階を含む、請求
項1または2に記載の方法。
【請求項4】
前記初期トーンマッピング曲線は、第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は前記第2端点に対応する輝度値より小さく
、前記複数の補間点は第4補間点を含み、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は
、
第3事前設定閾値よりも輝度値が大きい前記対象ピクチャに含まれる明領域画素の数が第4事前設定閾値以上である場合、前記第4補間点の第1座標値が前記第2端点の第1座標値と同一であると決定する段階を含む、請求項1か
ら3のいずれか一項に記載の方法。
【請求項5】
画像処理方法であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
前記複数の補間点を通過するスプライン関数を決定する段階であって、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続される、段階と、
前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行する段階と
を備え、
前記初期トーンマッピング曲線は、第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は前記第2端点に対応する輝度値より小さく、前記複数の補間点は第4補間点を含み、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、
第3事前設定閾値よりも輝度値が大きい前記対象ピクチャに含まれる明領域画素の数が第4事前設定閾値以上である場合、前記第4補間点の第1座標値が前記第2端点の第1座標値と同一であると決定する段階を含む、方法。
【請求項6】
前記複数の補間点は更に第5補間点を含み、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、
前記明領域画素の前記数に基づいて前記第5補間点の第1座標値を決定する段階を含む、請求
項4または5に記載の方法。
【請求項7】
前記複数の補間点は更に第6補間点を含み、前記対象ピクチャは更に明領域移行画素を含み、前記明領域移行画素の輝度値は前記第3事前設定閾値以下であり、前記対象ピクチャの輝度情報に基づいて複数の補間点を決定する前記段階は、前記明領域移行画素の数に基づいて前記第6補間点の第1座標値を決定する段階を含む、請求
項4から6のいずれか一項に記載の方法。
【請求項8】
前記ダイナミックメタデータは、前記複数の補間点の各々の座標情報を含む、請求項1に記載の方法。
【請求項9】
画像処理方法であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
前記複数の補間点を通過するスプライン関数を決定する段階であって、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続される、段階と、
前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行する段階と
を備え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく、前記ダイナミックメタデータは領域輝度指示情報を含み、
前記領域輝度指示情報が暗領域を示すとき、前記複数の補間点は第1補間点を含み、前記第1補間点の第1座標値は前記第1端点の第1座標値と同一であり、および/または、
前記領域輝度指示情報が明領域を示すとき、前記複数の補間点は第2補間点を含み、前記第2補間点の第1座標値は前記第2端点の第1座標値と同一である
、方法。
【請求項10】
画像処理方法であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
前記複数の補間点を通過するスプライン関数を決定する段階であって、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続される、段階と、
前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行する段階と
を備え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は前記第2端点に対応する輝度値より小さく、前記ダイナミックメタデータはP個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、前記対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定する前記段階は、
前記P個の座標情報および前記対象ピクチャの前記輝度情報に基づいて、前記P個のキー画素は暗領域画素または明領域画素であると決定する段階であって、前記暗領域画素の輝度値は第1事前設定閾値より小さく、前記明領域画素の輝度値は第3事前設定閾値より大きい、段階と、
前記P個のキー画素が前記暗領域画素であるとき、前記複数の補間点は第1補間点を含むと決定する段階であって、前記第1補間点の第1座標値は前記第1端点の第1座標値と同一である、段階、または、
前記P個のキー画素が前記明領域画素であるとき、前記複数の補間点は第2補間点を含むと決定する段階であって、前記第2補間点の第1座標値は前記第2端点の第1座標値と同一である、段階と
を含む
、方法。
【請求項11】
前記複数の補間点は第7補間点、第8補間点および第9補間点を含み、前記初期トーンマッピング曲線は前記第9補間点を通過し、前記複数の補間点を通過するスプライン関数を決定する前記段階は、
前記第7補間点および前記第8補間点を通過する第1スプライン関数を取得する段階と、
前記第8補間点および前記第9補間点を通過する第2スプライン関数を決定する段階であって、前記第2スプライン関数は前記第8補間点において前記第1スプライン関数に円滑に接続され、前記第2スプライン関数は前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、段階と
を含む、請求項1から10のいずれか一項に記載の方法。
【請求項12】
画像処理方法であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
前記複数の補間点を通過するスプライン関数を決定する段階であって、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続される、段階と、
前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行する段階と
を備え、
前記複数の補間点は第7補間点、第8補間点および第9補間点を含み、前記初期トーンマッピング曲線は前記第9補間点を通過し、前記複数の補間点を通過するスプライン関数を決定する前記段階は、
前記第7補間点および前記第8補間点を通過する第1スプライン関数を取得する段階と、
前記第8補間点および前記第9補間点を通過する第2スプライン関数を決定する段階であって、前記第2スプライン関数は前記第8補間点において前記第1スプライン関数に円滑に接続され、前記第2スプライン関数は前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、段階と
を含む、方法。
【請求項13】
前記第1スプライン関数は一次スプライン関数であり、前記第2スプライン関数は三次スプライン関数である、請求項
11または12に記載の方法。
【請求項14】
前記複数の補間点は第7補間点、第8補間点、および第9補間点を含み、前記スプライン関数は、前記第7補間点、前記第8補間点、および前記第9補間点を通過する第3スプライン関数を含み、前記第8補間点の第1座標値は、前記第7補間点の第1座標値と前記第9補間点の第1座標値との間にあり、
複数の補間点を決定する前記段階の前に、前記方法は更に、
第1オフセットを取得する段階であって、前記第1オフセットは、第1修正位置において前記初期トーンマッピング曲線の修正範囲を表すために使用され、前記第1修正位置は前記第8補間点の前記第1座標値である、段階を備え、
複数の補間点を決定する前記段階は、
前記第1修正位置における前記初期トーンマッピング曲線の関数値および前記第1オフセットに基づいて前記第8補間点の第2座標値を決定する段階を含み、
前記複数の補間点を通過するスプライン関数を決定する前記段階は、前記第8補間点の前記第1座標値および前記第8補間点の前記第2座標値に基づいて前記第3スプライン関数を決定する段階であって、前記第3スプライン関数は、前記第7補間点および/または前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、段階を含む、
請求項1から10のいずれか一項に記載の方法。
【請求項15】
前記第3スプライン関数は、前記第7補間点および前記第8補間点を通過する第4スプライン関数、ならびに、前記第8補間点および前記第9補間点を通過する第5スプライン関数を含み、前記第8補間点における前記第4スプライン関数の二次導関数値は、前記第8補間点における前記第5スプライン関数の二次導関数値と同一である、請求
項14に記載の方法。
【請求項16】
前記複数の補間点は更に第10補間点を含み、前記第3スプライン関数は前記第10補間点を通過し、前記第10補間点の第1座標値は前記第7補間点の前記第1座標値と前記第9補間点の前記第1座標値との間にあり、
複数の補間点を決定する前記段階の前に、前記方法は更に、
第2オフセットを取得する段階であって、前記第2オフセットは、第2修正位置における前記初期トーンマッピング曲線の修正範囲を表すために使用され、前記第2修正位置は前記第10補間点の前記第1座標値である、段階を備え、
複数の補間点を決定する前記段階は更に、前記第2修正位置における前記初期トーンマッピング曲線の関数値および前記第2オフセットに基づいて前記第10補間点の第2座標値を決定する段階を含み、
前記第8補間点の前記第1座標値および前記第8補間点の前記第2座標値に基づいて前記第3スプライン関数を決定する前記段階は、
前記第8補間点の前記第1座標値および前記第2座標値、ならびに、前記第10補間点の前記第1座標値および前記第2座標値に基づいて前記第3スプライン関数を決定する段階であって、前記第3スプライン関数は、前記第7補間点および前記第9補間点の両方において前記初期トーンマッピング曲線に円滑に接続される、段階を含む、
請求
項14また
は15に記載の方法。
【請求項17】
前記スプライン関数の導関数値は常に0より大きい、請求項1か
ら16のいずれか一項に記載の方法。
【請求項18】
前記初期トーンマッピング曲線は、次式、すなわち、
【数19】
【数20】
【数21】
および
【数22】
の1つを含み、Lは線形信号値を表し、L'は非線形信号値を表し、p、a、m、b、c
1、c
2、c
3、n、Nおよびρはすべてダイナミックレンジマッピング係数であり、0≦L≦1である、
請求項1か
ら17のいずれか一項に記載の方法。
【請求項19】
画像処理装置であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、前記処理モジュールは更に、前記複数の補間点を通過するスプライン関数を決定するよう構成され、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続され、前記処理モジュールは更に、前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備
え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく、前記複数の補間点は第1補間点を含み、
前記処理モジュールは、第1事前設定閾値よりも輝度値が小さい前記対象ピクチャに含まれる暗領域画素の数が第2事前設定閾値以上である場合、前記第1補間点の第1座標値が前記第1端点の第1座標値と同一であると決定するよう構成される、画像処理装置。
【請求項20】
前記複数の補間点は更に第2補間点を含み、
前記処理モジュールは、前記暗領域画素の前記数に基づいて前記第2補間点の第1座標値を決定するよう構成される、請求項19に記載の画像処理装置。
【請求項21】
前記複数の補間点は更に第3補間点を含み、前記対象ピクチャは更に暗領域移行画素を含み、前記暗領域移行画素の輝度値は前記第1事前設定閾値以上であり、
前記処理モジュールは、前記暗領域移行画素の数に基づいて前記第3補間点の第1座標値を決定するよう構成される、
請求項19または20に記載の画像処理装置。
【請求項22】
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく
、前記複数の補間点は第4補間点を含み、
前記処理モジュールは
、第3事前設定閾値よりも輝度値が大きい前記対象ピクチャに含まれる明領域画素の数が第4事前設定閾値以上である場合、前記第4補間点の第1座標値が前記第2端点の第1座標値と同一であると決定するよう構成される、
請求
項19から21のいずれか一項に記載の画像処理装置。
【請求項23】
画像処理装置であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、前記処理モジュールは更に、前記複数の補間点を通過するスプライン関数を決定するよう構成され、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続され、前記処理モジュールは更に、前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく、前記複数の補間点は第4補間点を含み、
前記処理モジュールは、第3事前設定閾値よりも輝度値が大きい前記対象ピクチャに含まれる明領域画素の数が第4事前設定閾値以上である場合、前記第4補間点の第1座標値が前記第2端点の第1座標値と同一であると決定するよう構成される、画像処理装置。
【請求項24】
前記複数の補間点は更に第5補間点を含み、
前記処理モジュールは、前記明領域画素の前記数に基づいて前記第5補間点の第1座標値を決定するよう構成される、請求項
22または23に記載の画像処理装置。
【請求項25】
前記複数の補間点は更に第6補間点を含み、前記対象ピクチャは更に明領域移行画素を含み、前記明領域移行画素の輝度値は前記第3事前設定閾値以下であり、
前記処理モジュールは、前記明領域移行画素の数に基づいて前記第6補間点の第1座標値を決定するよう構成される、
請求項
22から24のいずれか一項に記載の画像処理装置。
【請求項26】
前記ダイナミックメタデータは前記複数の補間点の各々の座標情報を含む、請求
項19に記載の画像処理装置。
【請求項27】
画像処理装置であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、前記処理モジュールは更に、前記複数の補間点を通過するスプライン関数を決定するよう構成され、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続され、前記処理モジュールは更に、前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備え、
前記初期トーンマッピング曲線は第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく、前記ダイナミックメタデータは領域輝度指示情報を含み、
前記領域輝度指示情報が暗領域を示すとき、前記複数の補間点は第1補間点を含み、前記第1補間点の第1座標値は前記第1端点の第1座標値と同一であり、および/または、
前記領域輝度指示情報が明領域を示すとき、前記複数の補間点は第2補間点を含み、前記第2補間点の第1座標値は前記第2端点の第1座標値と同一である
、画像処理装置。
【請求項28】
画像処理装置であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、前記処理モジュールは更に、前記複数の補間点を通過するスプライン関数を決定するよう構成され、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続され、前記処理モジュールは更に、前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備え、
前記初期トーンマッピング曲線は、第1端点および第2端点を含み、前記第1端点および前記第2端点はそれぞれ、前記初期トーンマッピング曲線の2つの端部に位置し、前記第1端点に対応する輝度値は、前記第2端点に対応する輝度値より小さく、前記ダイナミックメタデータは、P個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、
前記処理モジュールは、前記P個の座標情報および前記対象ピクチャの前記輝度情報に基づいて、前記P個のキー画素は暗領域画素または明領域画素であると決定するよう構成され、前記暗領域画素の輝度値は第1事前設定閾値より小さく、前記明領域画素の輝度値は第3事前設定閾値より大きく、
前記P個のキー画素が前記暗領域画素であるとき、前記処理モジュールは、前記複数の補間点が第1補間点を含むと決定するよう構成され、前記第1補間点の第1座標値は前記第1端点の第1座標値と同一であり、または、
前記P個のキー画素が前記明領域画素であるとき、前記処理モジュールは、前記複数の補間点が第2補間点を含むと決定するよう構成され、前記第2補間点の第1座標値は、前記第2端点の第1座標値と同一である、画像処理装置。
【請求項29】
前記複数の補間点は第7補間点、第8補間点、および第9補間点を含み、前記初期トーンマッピング曲線は前記第9補間点を通過し、
前記処理モジュールは、前記第7補間点および前記第8補間点を通過する第1スプライン関数を取得するよう構成され、
前記処理モジュールは、前記第8補間点および前記第9補間点を通過する第2スプライン関数を決定するよう構成され、前記第2スプライン関数は、前記第8補間点において前記第1スプライン関数に円滑に接続され、前記第2スプライン関数は、前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、
請求
項19から28のいずれか一項に記載の画像処理装置。
【請求項30】
画像処理装置であって、
対象ピクチャおよび前記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
前記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、前記処理モジュールは更に、前記複数の補間点を通過するスプライン関数を決定するよう構成され、前記スプライン関数は、前記複数の補間点の少なくとも1つにおいて前記初期トーンマッピング曲線に円滑に接続され、前記処理モジュールは更に、前記初期トーンマッピング曲線および前記スプライン関数に基づいて前記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
前記修正トーンマッピング曲線に基づいて前記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備え、
前記複数の補間点は第7補間点、第8補間点、および第9補間点を含み、前記初期トーンマッピング曲線は前記第9補間点を通過し、
前記処理モジュールは、前記第7補間点および前記第8補間点を通過する第1スプライン関数を取得するよう構成され、
前記処理モジュールは、前記第8補間点および前記第9補間点を通過する第2スプライン関数を決定するよう構成され、前記第2スプライン関数は、前記第8補間点において前記第1スプライン関数に円滑に接続され、前記第2スプライン関数は、前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、画像処理装置。
【請求項31】
前記第1スプライン関数は一次スプライン関数であり、前記第2スプライン関数は三次スプライン関数である、請求
項29または30に記載の画像処理装置。
【請求項32】
前記複数の補間点は第7補間点、第8補間点および第9補間点を含み、前記スプライン関数は、前記第7補間点、前記第8補間点、および前記第9補間点を通過する第3スプライン関数を含み、前記第8補間点の第1座標値は、前記第7補間点の第1座標値と前記第9補間点の第1座標値との間にあり、
前記処理モジュールが前記複数の補間点を決定する前に、前記取得モジュールは更に、第1オフセットを取得するよう構成され、前記第1オフセットは、第1修正位置において前記初期トーンマッピング曲線の修正範囲を表すために使用され、前記第1修正位置は前記第8補間点の前記第1座標値であり、
前記処理モジュールは、前記第1修正位置および前記第1オフセットにおける前記初期トーンマッピング曲線の関数値に基づいて前記第8補間点の第2座標値を決定するよう構成され、
前記処理モジュールは、前記第8補間点の前記第1座標値および前記第8補間点の前記第2座標値に基づいて前記第3スプライン関数を決定するよう構成され、前記第3スプライン関数は、前記第7補間点および/または前記第9補間点において前記初期トーンマッピング曲線に円滑に接続される、請求
項19から28のいずれか一項に記載の画像処理装置。
【請求項33】
前記第3スプライン関数は、前記第7補間点および前記第8補間点を通過する第4スプライン関数、ならびに、前記第8補間点および前記第9補間点を通過する第5スプライン関数を含み、前記第8補間点における前記第4スプライン関数の二次導関数値は、前記第8補間点における前記第5スプライン関数の二次導関数値と同一である、請求
項32に記載の画像処理装置。
【請求項34】
前記複数の補間点は更に第10補間点を含み、前記第3スプライン関数は前記第10補間点を通過し、前記第10補間点の第1座標値は前記第7補間点の前記第1座標値と前記第9補間点の前記第1座標値との間にあり、
前記処理モジュールが前記複数の補間点を決定する前に、前記取得モジュールは更に、第2オフセットを取得するよう構成され、前記第2オフセットは、第2修正位置において前記初期トーンマッピング曲線の修正範囲を表すために使用され、前記第2修正位置は前記第10補間点の前記第1座標値であり、
前記処理モジュールは、前記第2修正位置および前記第2オフセットにおいて前記初期トーンマッピング曲線の関数値に基づいて前記第10補間点の第2座標値を決定するよう構成され、
前記処理モジュールは、前記第8補間点の前記第1座標値および前記第2座標値、ならびに、前記第10補間点の前記第1座標値および前記第2座標値に基づいて、前記第3スプライン関数を決定するよう構成され、前記第3スプライン関数は、前記第7補間点および前記第9補間点の両方において前記初期トーンマッピング曲線に円滑に接続される、
請求
項32また
は33に記載の画像処理装置。
【請求項35】
前記スプライン関数の導関数値は常に0より大きい、請求
項19から34のいずれか一項に記載の画像処理装置。
【請求項36】
プロセッサおよび伝送インタフェースを備える画像処理装置であって、前記伝送インタフェースは、画像データを受信または送信するよう構成され、
前記プロセッサは、メモリに格納されたプログラム命令を呼び出し、請求項1か
ら18のいずれか一項に記載の方法を実行するために前記プログラム命令を実行するよう構成される、画像処理装置。
【請求項37】
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体は命令を格納し、前記命令がコンピュータまたはプロセッサ上で実行されるとき、前記コンピュータまたは前記プロセッサは、請求項1か
ら18のいずれか一項に記載の方法を実行することが可能となる、コンピュータ可読記憶媒体。
【請求項38】
請求項1か
ら18のいずれか一項に記載の方法をプロセッサに実行させるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、「画像処理方法および装置」と題する、2019年7月11日に中国国家知識産権局に出願された中国特許出願第201910626171.8号に対する優先権を主張し、その全体は参照によって本明細書に組み込まれる。
【0002】
本願は、画像処理の分野に関し、より具体的には、画像処理方法および装置に関する。
【背景技術】
【0003】
ダイナミックレンジ(dynamic range, DR)は、ピクチャの最大グレースケール値と最小グレースケール値との比を表すために使用され得る。ダイナミックレンジは更に、ピクチャの最大輝度値と最小輝度値との比を表すために使用され得る。現実世界におけるダイナミックレンジは、10-3から106の間であり、高ダイナミックレンジ(high dynamic range, HDR)と称される。換言すれば、現実世界における物体の輝度値は、非常に大きい、または、非常に小さいことがあり得る。しかしながら、ディスプレイデバイスの表示能力は一般的に限定されている。例えば、現実世界における物体Aの輝度は比較的高い。例えば、物体Aの輝度は2000nitである。しかしながら、ディスプレイデバイスによって表示され得る最大輝度は、物体Aの輝度より低い。例えば、ディスプレイデバイスによって表示され得る最大輝度は、わずか500nitである。何の処理も実行されない場合、ディスプレイデバイスは、現実世界における物体Aを再現できない。別の場合において、現実世界における物体Bの輝度は比較的低い。例えば、物体Bの輝度値は10nitである。しかしながら、ディスプレイデバイスによって表示され得る最小輝度は、物体Bの輝度より高い。例えば、ディスプレイデバイスによって表示され得る最小輝度は、わずか100nitである。何の処理も実行されない場合、ディスプレイデバイスは、現実世界における物体Bを再現できない。本願は、ディスプレイデバイスが現実世界におけるシーンを鮮明かつ現実的に再現することを可能にする方法を提供する。
【発明の概要】
【0004】
本願は、ディスプレイデバイスが現実世界におけるシーンを鮮明かつ現実的に再現することを可能にする画像処理方法および装置を提供する。
【0005】
第1態様によれば、対象ピクチャおよび対象ピクチャの初期トーンマッピング曲線を取得する段階と、対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、複数の補間点を通過するスプライン関数を決定する段階であって、スプライン関数は、複数の補間点の少なくとも1つにおいて初期トーンマッピング曲線に円滑に接続される、段階と、スプライン関数に基づいて初期トーンマッピング曲線を修正して、対象ピクチャの修正トーンマッピング曲線を取得する段階と、修正トーンマッピング曲線に基づいて対象ピクチャに対してトーンマッピングを実行する段階とを備える画像処理方法を提供する。
【0006】
対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定することは、対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて、初期トーンマッピング曲線を修正するための修正区間を決定することであり得、複数の補間点を通過するスプライン関数を決定することは、修正区間において、初期トーンマッピング曲線を修正するためのスプライン関数を決定することであり得、スプライン関数に基づいて初期トーンマッピング曲線を修正して対象ピクチャの修正トーンマッピング曲線を取得することは、修正区間において、初期トーンマッピング曲線をスプライン関数に修正して対象ピクチャの修正トーンマッピング曲線を取得することであり得る。
【0007】
本願は、取得された初期トーンマッピング曲線を修正するための方法を提供し、その結果、トーンマッピング曲線を取得する方式は、より柔軟になる。対象ピクチャの輝度を解析し、トーンマッピング曲線を適切に修正することによって、画像表示効果が、異なる輝度領域について調整され得、画像の輝度変化の詳細が強化され得、それにより、より良い視覚的体験をユーザに提供する。様々な形式でトーンマッピング曲線を微調整することによって、緩やか、鮮明、明るい、暗いなど、複数のスタイルの表示効果が取得され得る。例えば、トーンマッピング曲線の形式は、ディスプレイデバイスおよび撮影デバイスのデバイス属性に基づいて柔軟に決定され得、その結果、画像表示がより鮮明かつ自然になる。加えて、映像を表示するプロセスにおいて、フレームのトーンマッピング曲線が決定され得、当該フレームに隣接するフレームについて、トーンマッピング曲線を修正するためのパラメータが決定され、その結果、追加の過剰なデータ無しで映像表示効果が改善され得る。
【0008】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は第2端点に対応する輝度値より小さく、対象ピクチャに含まれる暗領域画素の数は第2事前設定閾値以上であり、暗領域画素の輝度値は第1事前設定閾値より小さく、複数の補間点は第1補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、第1補間点の第1座標値が第1端点の第1座標値と同一であると決定することを含む。
【0009】
本願の本実施形態において、画像が暗いとき、電子デバイスは、補間点が第1端点に、または、第1端点に近い位置に存在すると決定し得、それにより、暗領域の表示効果を改善する。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より低い画素がディスプレイデバイス上に表示され得る。
【0010】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第2補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、暗領域画素の数に基づいて第2補間点の第1座標値を決定することを含む。
【0011】
本願の本実施形態において、画像が暗いとき、電子デバイスは、対象画像における暗領域の面積に基づいて初期トーンマッピング曲線の修正範囲を決定し得、その結果、輝度がディスプレイデバイスの表示能力より低い画素は、ディスプレイデバイス上で比較的良い表示効果を有し得る。
【0012】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第3補間点を含み、対象ピクチャは更に暗領域移行画素を含み、暗領域移行画素の輝度値は第1事前設定閾値以上であり、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、暗領域移行画素の数に基づいて第3補間点の第1座標値を決定することを含む。
【0013】
第3補間点は移行点であり得、その結果、スプライン関数および初期トーンマッピング曲線は第3補間点において円滑に移行する。本願の本実施形態において、画像が暗いとき、初期トーンマッピング曲線の一端が修正され得る。修正トーンマッピング曲線が円滑であることを確実にするべく、すなわち、画像表示効果を確実にするべく、円滑な接続の効果を有する補間点が決定され得、その結果、スプライン関数は初期トーンマッピング曲線に円滑に接続される。
【0014】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第3補間点を通過し、複数の補間点を通過するスプライン関数を決定することは、第1補間点および第2補間点を通過する第1スプライン関数を取得すること、ならびに、第2補間点および第3補間点を通過する第2スプライン関数を決定することを含み、第2スプライン関数は第2補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は第3補間点において初期トーンマッピング曲線に円滑に接続される。
【0015】
第1態様を参照して、第1態様のいくつかの実装において、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0016】
第1態様を参照して、第1態様のいくつかの実装において、スプライン関数は、第1補間点、第2補間点、および第3補間点を通過する第3スプライン関数を含む。例えば、第3スプライン関数は三次スプライン関数である。
【0017】
第1態様を参照して、第1態様のいくつかの実装において、方法は、第2補間点に対応する第1オフセットを取得する段階であって、第1オフセットは、第1修正位置における初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第2補間点の第1座標値である、段階と、第1修正位置における初期トーンマッピング曲線の関数値および第1オフセットに基づいて第2補間点の第2座標値を決定する段階とを備え、複数の補間点を通過するスプライン関数を決定する段階は、第2補間点の第1座標値および第2補間点の第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第3補間点における初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0018】
第1態様を参照して、第1態様のいくつかの実装において、第3スプライン関数は、第1補間点および第2補間点を通過する第4スプライン関数、ならびに、第2補間点および第3補間点を通過する第5スプライン関数を含み、第2補間点における第4スプライン関数の二次導関数値は、第2補間点における第5スプライン関数の二次導関数値と同一である。
【0019】
例えば、第3スプライン関数は三次スプライン関数である。
【0020】
例えば、上述のシナリオにおけるスプライン関数の導関数は常に0より大きい。
【0021】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第11補間点を含み、第11補間点におけるスプライン関数の二次導関数は0である。
【0022】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は、第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は第2端点に対応する輝度値より小さく、対象ピクチャに含まれる明領域画素の数は第4事前設定閾値以上であり、明領域画素の輝度値は第3事前設定閾値より大きく、複数の補間点は第4補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定する段階は、第4補間点の第1座標値が第2端点の第1座標値と同一であると決定する段階を含む。
【0023】
本願の本実施形態において、画像が明るいとき、電子デバイスは、補間点が第2端点に、または、第2端点に近い位置に存在すると判定し得、それにより、明領域の表示効果を改善する。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より高い画素がディスプレイデバイス上に表示され得る。
【0024】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第5補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、明領域画素の数に基づいて第5補間点の第1座標値を決定することを含む。
【0025】
本願の本実施形態において、画像が明るいとき、電子デバイスは、対象画像における明領域の面積に基づいて、初期トーンマッピング曲線を修正するための修正範囲を決定し得、その結果、輝度がディスプレイデバイスの表示能力より高い画素は、ディスプレイデバイス上で比較的良い表示効果を有し得る。
【0026】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第6補間点を含み、対象ピクチャは更に明領域移行画素を含み、明領域移行画素の輝度値は第3事前設定閾値以下であり、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、明領域移行画素の数に基づいて第6補間点の第1座標値を決定することを含む。
【0027】
第6補間点は移行点であり得、その結果、スプライン関数および初期トーンマッピング曲線は第6補間点において円滑に移行する。本願の本実施形態において、画像が明るいとき、初期トーンマッピング曲線の一端が修正され得る。修正トーンマッピング曲線が円滑であることを確実にするべく、すなわち、画像表示効果を確実にするべく、円滑な接続の効果を有する補間点が決定され得、その結果、スプライン関数は初期トーンマッピング曲線に円滑に接続される。
【0028】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第6補間点を通過し、複数の補間点を通過するスプライン関数を決定することは、第4補間点および第5補間点を通過する第1スプライン関数を取得すること、ならびに、第5補間点および第6補間点を通過する第2スプライン関数を決定することを含み、第2スプライン関数は、第5補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は、第6補間点において初期トーンマッピング曲線に円滑に接続される。
【0029】
第1態様を参照して、第1態様のいくつかの実装において、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0030】
第1態様を参照して、第1態様のいくつかの実装において、スプライン関数は、第4補間点、第5補間点および第6補間点を通過する第3スプライン関数を含む。例えば、第3スプライン関数は三次スプライン関数である。
【0031】
第1態様を参照して、第1態様のいくつかの実装において、方法は、第5補間点に対応する第1オフセットを取得する段階であって、第1オフセットは、第1修正位置における初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第5補間点の第1座標値である、段階と、第1修正位置における初期トーンマッピング曲線の関数値および第1オフセットに基づいて第5補間点の第2座標値を決定する段階とを備え、複数の補間点を通過するスプライン関数を決定する段階は、第5補間点の第1座標値および第5補間点の第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第6補間点における初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0032】
第1態様を参照して、第1態様のいくつかの実装において、第3スプライン関数は、第4補間点および第5補間点を通過する第4スプライン関数、ならびに、第5補間点および第6補間点を通過する第5スプライン関数を含み、第5補間点における第4スプライン関数の二次導関数値は、第5補間点における第5スプライン関数の二次導関数値と同一である。第1態様を参照して、第1態様のいくつかの実装において、ダイナミックメタデータは、以下の項目、すなわち、複数の補間点の各々の座標情報、領域輝度指示情報、または、複数のキー画素の座標情報の少なくとも1つを含む。
【0033】
第1態様を参照して、第1態様のいくつかの実装において、ダイナミックメタデータは、複数の補間点の各々の座標情報を含む。
【0034】
本願の本実施形態において、補間点情報は、ダイナミックメタデータにおいて事前設定され得、その結果、画像処理装置は、画像の画素を解析しないことがあり得、ダイナミックメタデータのみに基づいて複数の補間点を決定し得、それにより、画像処理の計算量を低減する。
【0035】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は、第2端点に対応する輝度値より小さく、ダイナミックメタデータは領域輝度指示情報を含み、領域輝度指示情報が暗領域を示すとき、複数の補間点は第1補間点を含み、第1補間点の第1座標値は第1端点の第1座標値と同一であり、および/または、領域輝度指示情報が明領域を示すとき、複数の補間点は第2補間点を含み、第2補間点の第1座標値は第2端点の第1座標値と同一である。
【0036】
本願の本実施形態において、画像が暗いとき、電子デバイスは、補間点が第1端点に、または、第1端点に近い位置に存在すると決定し得る。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より低い画素がディスプレイデバイス上に表示され得る。画像が明るいとき、電子デバイスは、補間点が第2端点に、または、第2端点に近い位置に存在すると決定し得る。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より高い画素がディスプレイデバイス上に表示され得る。ダイナミックメタデータは、「暗」または「明」を指定するので、画像処理装置は、画像の画素を解析しないことがあり得るが、ダイナミックメタデータのみに基づいて複数の補間点を決定し得、それにより、画像処理の計算量を低減する。
【0037】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は第2端点に対応する輝度値より小さく、ダイナミックメタデータはP個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定する段階は、P個の座標情報および対象ピクチャの輝度情報に基づいて、P個のキー画素は暗領域画素または明領域画素であると決定する段階であって、暗領域画素の輝度値は第1事前設定閾値より小さく、明領域画素の輝度値は第3事前設定閾値より大きい、段階と、P個のキー画素が暗領域画素であるとき、複数の補間点は第1補間点を含むと決定する段階であって、第1補間点の第1座標値は第1端点の第1座標値と同一である、段階、または、P個のキー画素が明領域画素であるとき、複数の補間点は第2補間点を含むと決定する段階であって、第2補間点の第1座標値は第2端点の第1座標値と同一である、段階とを含む。
【0038】
本願の本実施形態において、画像が暗いとき、電子デバイスは、補間点が第1端点に、または、第1端点に近い位置に存在すると決定し得る。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より低い画素がディスプレイデバイス上に表示され得る。画像が明るいとき、電子デバイスは、補間点が第2端点に、または、第2端点に近い位置に存在すると決定し得る。したがって、初期トーンマッピング曲線を修正するための修正位置は、画像の輝度に基づいて決定され得、その結果、輝度がディスプレイデバイスの表示能力より高い画素がディスプレイデバイス上に表示され得る。ダイナミックメタデータは画素を指定するので、画像処理装置は、対象ピクチャに対してシーン解析を実行するときに対象画素を決定する必要がないが、ダイナミックメタデータによって指定される対象画素に基づいてピクチャの暗領域画素および明領域画素を直接決定する。したがって、キー保護領域および複数の対応する補間点がより柔軟に決定され得、画像処理の計算量が低減される。
【0039】
第1態様を参照して、第1態様のいくつかの実装において、対象ピクチャは、輝度値が第1輝度値と第2輝度値との間にある対象画素を含み、対象ピクチャのすべての画素に対する対象画素の比率は第8事前設定閾値より大きく、第1輝度値と第2輝度値との間の差は第7事前設定閾値より小さく、複数の補間点は第12補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を判定することは、対象画素の平均輝度、対象ピクチャの最小輝度値、および、対象ピクチャの最大輝度値に基づいて第12補間点を決定することを含む。
【0040】
第12補間点の第1座標値は、上述の第1補間点の第1座標値より大きいことがあり得る。
【0041】
第12補間点の第1座標値は、上述の第2補間点の第1座標値より大きいことがあり得る。
【0042】
第12補間点の第1座標値は、上述の第3補間点の第1座標値より大きいことがあり得る。
【0043】
第12補間点の第1座標値は、上述の第4補間点の第1座標値より小さいことがあり得る。
【0044】
第12補間点の第1座標値は、上述の第5補間点の第1座標値より小さいことがあり得る。
【0045】
第12補間点の第1座標値は、上述の第6補間点の第1座標値より小さいことがあり得る。
【0046】
本願の本実施形態において、修正範囲は、修正予定の画素が位置する輝度区間に基づいて初期トーンマッピング関数上で決定され得る。換言すれば、修正は、初期トーンマッピング関数の任意のセグメントに対して実行され得、修正の柔軟性が比較的高い。しかしながら、輝度区間が比較的狭いとき、画像の輝度コントラストは明らかでない。初期トーンマッピング曲線は修正され、その結果、元の輝度コントラストが明らかでない画像が、電子デバイス上でより鮮明に表示され得る。
【0047】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第13補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、対象画素の数に基づいて第13補間点を決定することを含む。
【0048】
本願の本実施形態において、修正範囲は、修正予定の画素の数に基づいて決定され得、その結果、輝度コントラストが明らかでない画像が電子デバイス上でより鮮明に表示される。
【0049】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第14補間点を含み、対象ピクチャは更に対象移行画素を含み、対象移行画素の輝度値は第1輝度値以下である、または、対象移行画素の輝度値は第2輝度値以上であり、第1輝度値は第2輝度値より小さく、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、対象移行画素の数に基づいて第14補間点の第1座標値を決定することを含む。
【0050】
例において、第14補間点の第1座標値は第12補間点の第1座標値より大きく、第13補間点の第1座標値より大きい。
【0051】
例において、第14補間点の第1座標値は第12補間点の第1座標値より小さく、第13補間点の第1座標値より小さい。
【0052】
第14補間点は移行点であり得、その結果、スプライン関数および初期トーンマッピング曲線は、第14補間点において円滑に移行する。本願の本実施形態において、修正トーンマッピング曲線が円滑であることを確実にするべく、すなわち、画像表示効果を確実にするべく、円滑な接続の効果を有する補間点が決定され得、その結果、スプライン関数は初期トーンマッピング曲線に円滑に接続される。
【0053】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は第14補間点を通過し、複数の補間点を通過するスプライン関数を決定することは、第12補間点および第13補間点を通過する第1スプライン関数を取得すること、ならびに、第13補間点および第14補間点を通過する第2スプライン関数を決定することを含み、第2スプライン関数は、第13補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は、第14補間点において初期トーンマッピング曲線に円滑に接続される。
【0054】
第1態様を参照して、第1態様のいくつかの実装において、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0055】
第1態様を参照して、第1態様のいくつかの実装において、スプライン関数は、第12補間点、第13補間点および第14補間点を通過する第3スプライン関数を含み、第13補間点の第1座標値は、第12補間点の第1座標値と第14補間点の第1座標値との間にあり、複数の補間点を決定する前に、方法は更に、第1オフセットを取得する段階であって、第1オフセットは第1修正位置における初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第13補間点の第1座標値である、段階を備え、複数の補間点を決定する段階は、第1修正位置の初期トーンマッピング曲線の関数値および第1オフセットに基づいて第13補間点の第2座標値を決定する段階を含み、複数の補間点を通過するスプライン関数を決定する段階は、第13補間点の第1座標値および第13補間点の第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第12補間点および/または第14補間点において初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0056】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は第7補間点、第8補間点および第9補間点を含み、初期トーンマッピング曲線は第9補間点を通過し、複数の補間点を通過するスプライン関数を決定する段階は、第7補間点および第8補間点を通過する第1スプライン関数を取得する段階と、第8補間点および第9補間点を通過する第2スプライン関数を決定する段階であって、第2スプライン関数は第8補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は第9補間点において初期トーンマッピング曲線に円滑に接続される、段階とを含む。
【0057】
例において、第7補間点は上述の第1補間点であり得、第8補間点は上述の第2補間点であり得、第9補間点は上述の第3補間点であり得る。
【0058】
例において、第7補間点は、上述の第4補間点であり得、第8補間点は上述の第5補間点であり得、第9補間点は上述の第6補間点であり得る。
【0059】
例において、第8補間点は上述の第12補間点であり得、第7補間点は、第1座標値が第12補間点の第1座標値より小さく第13補間点の第1座標値より小さい上述の第14補間点であり得、第9補間点は、第1座標値は第12補間点の第1座標値より大きく第13補間点の第1座標値より大きい上述の第14補間点であり得る。
【0060】
本願の本実施形態において、第1スプライン関数の経験値は事前に取得され、キー修正範囲内の修正効果が確実にされ得、その結果、第2スプライン関数は、弱い修正範囲内において弱い修正効果および円滑な接続の効果を実現するために使用される。
【0061】
第1態様を参照して、第1態様のいくつかの実装において、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0062】
本願の本実施形態において、第1スプライン関数のパラメータは経験値であり、一次スプライン関数について、事前に認識される必要がある経験値が少ないので、第1スプライン関数の特定の形式を決定することがより容易である。第2スプライン関数の次数が比較的低いとき、第2スプライン関数の円滑な接続の効果は比較的弱い。第2スプライン関数の次数が比較的高いとき、第2スプライン関数の前提条件および計算量は比較的大きい。したがって、第2スプライン関数のために三次スプライン関数を選択することが、より適切である。
【0063】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は第7補間点、第8補間点、および第9補間点を含み、スプライン関数は、第7補間点、第8補間点、および第9補間点を通過する第3スプライン関数を含み、第8補間点の第1座標値は、第7補間点の第1座標値と第9補間点の第1座標値との間にあり、複数の補間点を決定する段階の前に、方法は更に、第1オフセットを取得する段階であって、第1オフセットは、第1修正位置において初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第8補間点の第1座標値である、段階を備え、複数の補間点を決定する段階は、第1修正位置における初期トーンマッピング曲線の関数値および第1オフセットに基づいて第8補間点の第2座標値を決定する段階を含み、複数の補間点を通過するスプライン関数を決定する段階は、第8補間点の第1座標値および第8補間点の第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第7補間点および/または第9補間点において初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0064】
例において、第7補間点は上述の第1補間点であり得、第8補間点は上述の第2補間点であり得、第9補間点は上述の第3補間点であり得る。
【0065】
例において、第7補間点は、上述の第4補間点であり得、第8補間点は上述の第5補間点であり得、第9補間点は上述の第6補間点であり得る。
【0066】
例において、第7補間点は上述の第12補間点であり得、第8補間点は上述の第13補間点であり得、第9補間点は上述の第14補間点であり得る。
【0067】
本願の本実施形態において、第1オフセットの経験値が事前に取得され、その結果、キー修正範囲内の修正効果が確実にされ得、第3スプライン関数は、弱い修正範囲内の弱い修正効果および円滑な接続の効果を実現するために使用され得る。
【0068】
第1態様を参照して、第1態様のいくつかの実装において、第3スプライン関数は、第7補間点および第8補間点を通過する第4スプライン関数、ならびに、第8補間点および第9補間点を通過する第5スプライン関数を含み、第8補間点における第4スプライン関数の二次導関数値は、第8補間点における第5スプライン関数の二次導関数値と同一である。
【0069】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第10補間点を含み、第3スプライン関数は第10補間点を通過し、第10補間点の第1座標値は第7補間点の第1座標値と第9補間点の第1座標値との間にあり、複数の補間点を決定する段階の前に、方法は更に、第2オフセットを取得する段階であって、第2オフセットは、第2修正位置における初期トーンマッピング曲線の修正範囲を表すために使用され、第2修正位置は第10補間点の第1座標値である、段階を備え、複数の補間点を決定する段階は更に、第2修正位置における初期トーンマッピング曲線の関数値および第2オフセットに基づいて第10補間点の第2座標値を決定する段階を含み、第8補間点の第1座標値および第8補間点の第2座標値に基づいて第3スプライン関数を決定する段階は、第8補間点の第1座標値および第2座標値、ならびに、第10補間点の第1座標値および第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第7補間点および第9補間点の両方において初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0070】
本願の本実施形態において、第1オフセットおよび第2オフセットの経験値は事前に取得され、その結果、キー修正範囲内の修正効果が制御される。加えて、第3スプライン関数は、弱い修正範囲内において弱い修正効果および円滑な接続の効果を実現し得る。
【0071】
第1態様を参照して、第1態様のいくつかの実装において、第3スプライン関数は三次スプライン関数である。
【0072】
本願の本実施形態において、第3スプライン関数の次数が比較的低いとき、第3スプライン関数の円滑な接続の効果は比較的弱い。第3スプライン関数の次数が比較的高いとき、第3スプライン関数の前提条件および計算量は比較的大きい。したがって、第3スプライン関数のために三次スプライン関数を選択することは、より適切である。
【0073】
第1態様を参照して、第1態様のいくつかの実装において、スプライン関数の導関数が常に0より大きい。
【0074】
本願の本実施形態において、任意の点における導関数が0より大きいという制限は、最終的に取得されるスプライン関数と初期トーンマッピング曲線との間の過剰に大きい差、例えば、振動スプライン関数の発生を回避し、過剰な修正を回避するために使用され得る。
【0075】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第11補間点を含み、第11補間点におけるスプライン関数の二次導関数は0である。
【0076】
本願の本実施形態において、第11補間点の二次導関数を0に制限することによって、スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加するように制御され得る。
【0077】
第1態様を参照して、第1態様のいくつかの実装において、複数の補間点は更に第15補間点を含み、スプライン関数は第15補間点の一方の側において初期トーンマッピング関数より高く、スプライン関数は第15補間点の他方側において初期トーンマッピング関数より低い。
【0078】
本願の本実施形態において、スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過し、第15補間点におけるスプライン関数の導関数値は第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0079】
第1態様を参照して、第1態様のいくつかの実装において、初期トーンマッピング曲線は、次式、すなわち、
【数1】
【数2】
【数3】
および
【数4】
の1つを含み、Lは線形信号値を表し、L'は非線形信号値を表し、p、a、m、b、c
1、c
2、c
3、n、Nおよびρはすべてダイナミックレンジマッピング係数であり、0≦L≦1である。
【0080】
本願の本実施形態において、第1態様において提供される方法は、複数の初期トーンマッピング曲線に適用され得、高い柔軟性を有する。
【0081】
第2態様によれば、画像処理装置が提供され、画像処理装置は、対象ピクチャおよび対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、処理モジュールは更に、複数の補間点を通過するスプライン関数を決定するよう構成され、スプライン関数は、複数の補間点の少なくとも1つにおいて初期トーンマッピング曲線に円滑に接続され、処理モジュールは更に、スプライン関数に基づいて初期トーンマッピング曲線を修正して対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、修正トーンマッピング曲線に基づいて対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールとを備える。
【0082】
第2態様を参照して、第2態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は、第2端点に対応する輝度値より小さく、対象ピクチャに含まれる暗領域画素の数は第2事前設定閾値以上であり、暗領域画素の輝度値は第1事前設定閾値より小さく、複数の補間点は第1補間点を含み、処理モジュールは具体的には、第1補間点の第1座標値が第1端点の第1座標値と同一であると決定するよう構成される。
【0083】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第2補間点を含み、処理モジュールは具体的に、暗領域画素の数に基づいて第2補間点の第1座標値を決定するよう構成される。
【0084】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第3補間点を含み、対象ピクチャは更に暗領域移行画素を含み、暗領域移行画素の輝度値は第1事前設定閾値以上であり、処理モジュールは具体的には、暗領域移行画素の数に基づいて第3補間点の第1座標値を決定するよう構成される。
【0085】
第2態様を参照して、第2態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は、第2端点に対応する輝度値より小さく、対象ピクチャに含まれる明領域画素の数は第4事前設定閾値以上であり、明領域画素の輝度値は第3事前設定閾値より大きく、複数の補間点は第4補間点を含み、処理モジュールは具体的には、第4補間点の第1座標値が第2端点の第1座標値と同一であると決定するよう構成される。
【0086】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第5補間点を含み、処理モジュールは具体的に、明領域画素の数に基づいて第5補間点の第1座標値を決定するよう構成される。
【0087】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第6補間点を含み、対象ピクチャは更に明領域移行画素を含み、明領域移行画素の輝度値は第3事前設定閾値以下であり、処理モジュールは具体的には、明領域移行画素の数に基づいて第6補間点の第1座標値を決定するよう構成される。
【0088】
第2態様を参照して、第2態様のいくつかの実装において、ダイナミックメタデータは、複数の補間点の各々の座標情報を含む。
【0089】
第2態様を参照して、第2態様のいくつかの実装において、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は、第2端点に対応する輝度値より小さく、ダイナミックメタデータは領域輝度指示情報を含み、領域輝度指示情報が暗領域を示すとき、複数の補間点は第1補間点を含み、第1補間点の第1座標値は第1端点の第1座標値と同一であり、および/または、領域輝度指示情報が明領域を示すとき、複数の補間点は第2補間点を含み、第2補間点の第1座標値は第2端点の第1座標値と同一である。
【0090】
第2態様を参照して、第2態様のいくつかの実装において、初期トーンマッピング曲線は、第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は、第2端点に対応する輝度値より小さく、ダイナミックメタデータは、P個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、処理モジュールは具体的には、P個の座標情報および対象ピクチャの輝度情報に基づいて、P個のキー画素は暗領域画素または明領域画素であると決定するよう構成され、暗領域画素の輝度値は第1事前設定閾値より小さく、明領域画素の輝度値は第3事前設定閾値より大きく、P個のキー画素が暗領域画素であるとき、処理モジュールは具体的には、複数の補間点が第1補間点を含むと決定するよう構成され、第1補間点の第1座標値は第1端点の第1座標値と同一であり、または、P個のキー画素が明領域画素であるとき、処理モジュールは具体的には、複数の補間点が第2補間点を含むと決定するよう構成され、第2補間点の第1座標値は、第2端点の第1座標値と同一である。
【0091】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は第7補間点、第8補間点、および第9補間点を含み、初期トーンマッピング曲線は第9補間点を通過し、処理モジュールは具体的には、第7補間点および第8補間点を通過する第1スプライン関数を取得するよう構成され、処理モジュールは具体的には、第8補間点および第9補間点を通過する第2スプライン関数を決定するよう構成され、第2スプライン関数は、第8補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は、第9補間点において初期トーンマッピング曲線に円滑に接続される。
【0092】
第2態様を参照して、第2態様のいくつかの実装において、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0093】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は第7補間点、第8補間点および第9補間点を含み、スプライン関数は、第7補間点、第8補間点、および第9補間点を通過する第3スプライン関数を含み、第8補間点の第1座標値は、第7補間点の第1座標値と第9補間点の第1座標値との間にあり、処理モジュールが複数の補間点を決定する前に、取得モジュールは更に、第1オフセットを取得するよう構成され、第1オフセットは、第1修正位置において初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第8補間点の第1座標値であり、処理モジュールは具体的には、第1修正位置および第1オフセットにおける初期トーンマッピング曲線の関数値に基づいて第8補間点の第2座標値を決定するよう構成され、処理モジュールは具体的には、第8補間点の第1座標値および第8補間点の第2座標値に基づいて第3スプライン関数を決定するよう構成され、第3スプライン関数は、第7補間点および/または第9補間点において初期トーンマッピング曲線に円滑に接続される。
【0094】
第2態様を参照して、第2態様のいくつかの実装において、第3スプライン関数は、第7補間点および第8補間点を通過する第4スプライン関数、ならびに、第8補間点および第9補間点を通過する第5スプライン関数を含み、第8補間点における第4スプライン関数の二次導関数値は、第8補間点における第5スプライン関数の二次導関数値と同一である。
【0095】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第10補間点を含み、第3スプライン関数は第10補間点を通過し、第10補間点の第1座標値は第7補間点の第1座標値と第9補間点の第1座標値との間にあり、処理モジュールが複数の補間点を決定する前に、取得モジュールは更に、第2オフセットを取得するよう構成され、第2オフセットは、第2修正位置において初期トーンマッピング曲線の修正範囲を表すために使用され、第2修正位置は第10補間点の第1座標値であり、処理モジュールは具体的には、第2修正位置および第2オフセットにおいて初期トーンマッピング曲線の関数値に基づいて第10補間点の第2座標値を決定するよう構成され、処理モジュールは具体的には、第8補間点の第1座標値および第2座標値、ならびに、第10補間点の第1座標値および第2座標値に基づいて、第3スプライン関数を決定するよう構成され、第3スプライン関数は、第7補間点および第9補間点の両方において初期トーンマッピング曲線に円滑に接続される。
【0096】
第2態様を参照して、第2態様のいくつかの実装において、第3スプライン関数は三次スプライン関数である。
【0097】
第2態様を参照して、第2態様のいくつかの実装において、スプライン関数の導関数は常に0より大きい。
【0098】
第2態様を参照して、第2態様のいくつかの実装において、複数の補間点は更に第11補間点を含み、第11補間点におけるスプライン関数の二次導関数は0である。
【0099】
第2態様を参照して、第2態様のいくつかの実装において、初期トーンマッピング曲線は、次式、すなわち、
【数5】
【数6】
【数7】
および
【数8】
の1つを含み、Lは線形信号値を表し、L'は非線形信号値を表し、p、a、m、b、c
1、c
2、c
3、n、Nおよびρはすべてダイナミックレンジマッピング係数であり、0≦L≦1である。
【0100】
第3態様によれば、本願は、第1態様、または、第1態様の実装のいずれか1つを実行するよう構成されるモジュールを含む画像処理装置を提供する。
【0101】
第4態様によれば、本願は、プロセッサおよび伝送インタフェースを備える画像処理装置を提供し、伝送インタフェースは、画像データを受信または送信するよう構成され、プロセッサは、メモリに格納されたプログラム命令を呼び出し、第1態様または第1態様の実装のいずれか1つによる方法を実行するためにプログラム命令を実行するよう構成される。
【0102】
可能な実装において、画像処理装置は更にメモリを含み得る。
【0103】
例えば、画像処理装置はチップであり得る。
【0104】
第5態様によれば、本願は、第1態様または第1態様の実装のいずれか1つによる方法を実行するよう構成される、プロセッサおよびメモリを含む電子デバイスを提供する。
【0105】
第6態様によれば、本願はコンピュータ可読記憶媒体を提供し、コンピュータ可読記憶媒体はプログラム命令を格納し、プログラム命令がコンピュータまたはプロセッサ上で動作するとき、コンピュータまたはプロセッサは、第1態様または第1態様の実装のいずれか1つによる方法を実行することが可能となる。
【0106】
第7態様によれば、本願は、コンピュータプログラムを含むコンピュータプログラム製品を提供し、コンピュータプログラムがコンピュータまたはプロセッサ上で実行されるとき、コンピュータまたはプロセッサは、第1態様または第1態様の実装のいずれか1つによる方法を実行することが可能となる。
【図面の簡単な説明】
【0107】
【
図1】本願の実施形態を実装するための画像または映像伝送システムのブロック図である。
【0108】
【
図2】本願の実施形態による画像処理方法の概略フローチャートである。
【0109】
【
図3】本願の実施形態による複数の初期トーンマッピング曲線の概略図である。
【0110】
【
図4】本願の実施形態による複数のスプライン関数の概略図である。
【0111】
【
図5】本願の実施形態による、暗領域のための初期トーンマッピング曲線を修正するためのスプライン関数の概略図である。
【0112】
【
図6】本願の実施形態による、明領域のための初期トーンマッピング曲線を修正するためのスプライン関数の概略図である。
【0113】
【
図7】本願の実施形態による、弱い輝度コントラストを有する領域のための初期トーンマッピング曲線を修正するためのスプライン関数の概略図である。
【0114】
【
図8】本願の実施形態による、画像処理装置の構造図である。
【0115】
【
図9】本願の別の実施形態による、画像処理装置の構造図である。
【0116】
【
図10】本願の実施形態による、電子デバイスの構造図である。
【発明を実施するための形態】
【0117】
以下、添付図面を参照して、本願の技術的解決手段を説明する。
【0118】
本願の実施形態において、電子デバイスは、ハードウェア層、ハードウェア層の上で動作するオペレーティングシステム層、および、オペレーティングシステム層の上で動作するアプリケーション層を含む。ハードウェア層は、中央処理装置(central processing unit,CPU)、メモリ管理ユニット(memory management unit,MMU)、およびメモリ(メインメモリとも称される)等のハードウェアを含む。オペレーティングシステムは、プロセス(process)を通じてサービス処理を実装する任意の1または複数のタイプのコンピュータオペレーティングシステム、例えば、Linux(登録商標)オペレーティングシステム、Unix(登録商標)オペレーティングシステム、Android(登録商標)オペレーティングシステム、iOS(登録商標)オペレーティングシステム、またはWindows(登録商標)オペレーティングシステムであり得る。アプリケーション層は、ブラウザ、アドレス帳、文書作成ソフトウェア、およびインスタントメッセージングソフトウェアなどのアプリケーションを含む。加えて、本願の実施形態において提供される方法のコードを記録するプログラムが、本願の実施形態において提供される方法による画像処理を実行するよう実行され得る限り、本願の実施形態において提供される方法の実行主体の特定の機構は、本願の実施形態に具体的に限定されない。例えば、本願の実施形態において提供される方法は、プログラムを呼び出して実行できる電子デバイス、または電子デバイスにおける機能モジュールによって実行され得る。
【0119】
加えて、本願の態様または特徴は、標準のプログラミングおよび/またはエンジニアリング技術を使用する方法、装置または製品として実装され得る。本願において使用される「製品」という用語は、任意のコンピュータ可読コンポーネント、キャリアまたは媒体からアクセスできるコンピュータプログラムを包含する。例えば、コンピュータ可読媒体は、これらに限定されないが、磁気記憶コンポーネント(例えば、ハードディスク、フロッピディスクまたは磁気テープ)、光ディスク(例えば、コンパクトディスク(compact disc, CD)、またはデジタル多用途ディスク(digital versatile disc, DVD)、または、スマートカードおよびフラッシュメモリコンポーネント(例えば、消去可能プログラム可能型リードオンリメモリ(erasable programmable read-only memory, EPROM)、カード、スティック、またはキードライブ)を含み得る。加えて、本明細書において説明される様々な記憶媒体は、情報を格納するよう構成される1または複数のデバイス、および/または、他の機械可読媒体を示し得る。「機械可読媒体」という用語は、これらに限定されないが、無線チャネル、ならびに、命令および/またはデータを格納する、含む、および/または搬送することができる様々な他の媒体を含み得る。
【0120】
以下では、本願の実施形態において使用されるシステムアーキテクチャを説明する。
図1は、本願の実施形態が適用される例示的な画像表示システム10の概略ブロック図である。
図1に示されるように、画像表示システム10は、画像取得デバイス12および画像処理デバイス14を含み得る。画像取得デバイス12は高ダイナミックレンジ画像を生成する。画像処理デバイス14は、画像取得デバイス12によって生成された高ダイナミックレンジ画像を処理し得る。本願の各実装において示される画像取得デバイス12、画像処理デバイス14、または画像処理装置は、1または複数のプロセッサ、および、1または複数のプロセッサに連結されたメモリを含み得る。メモリは、ランダムアクセスメモリ(random access memory, RAM)、リードオンリメモリ(read-only memory, ROM)、EEPROM、フラッシュメモリ、または、本明細書において説明されるようなコンピュータによってアクセス可能な命令またはデータ構造の形態で所望のプログラムコードを格納するために使用され得る任意の他の媒体を含み得るが、これらに限定されない。画像取得デバイス12および画像処理デバイス14は、デスクトップコンピュータ、モバイルコンピューティング装置、ノートブック(例えばラップトップ)コンピュータ、タブレット型コンピュータ、セットトップボックス、いわゆる「スマート」フォンなどの電話ハンドセット、テレビ、カメラ、表示装置、デジタルメディアプレーヤ、ビデオゲームコンソール、車載コンピュータ、無線通信デバイス、または同様のものを含む、様々な装置を含み得る。
【0121】
図1は、画像取得デバイス12および画像処理デバイス14を別個のデバイスとして示すが、デバイスの実施形態はまた、画像取得デバイス12および画像処理デバイス14の両方を含み得る、または、画像取得デバイス12および画像処理デバイス14の両方の機能を含み得る、すなわち、画像取得デバイス12および画像処理デバイス14は同一デバイスの2つの異なる部分であり得る。例えば、画像取得デバイスは、モバイルスマートフォンにおけるカメラであり得、画像処理デバイスは、モバイルスマートフォンにおけるプロセッサであり得る。そのような実施形態において、画像取得デバイス12または対応する機能、および、画像処理デバイス14または対応する機能は、同一のハードウェアおよび/またはソフトウェア、別個のハードウェアおよび/またはソフトウェア、または、それらの任意の組み合わせを使用することによって実装され得る。
【0122】
画像取得デバイス12および画像処理デバイス14は、リンク13を使用することによって通信可能に接続され得る。画像処理デバイス14は、リンク13を使用することによって、画像取得デバイス12から高ダイナミックレンジ画像を受信し得る。リンク13は、高ダイナミックレンジ画像を画像取得デバイス12から画像処理デバイス14に移動させることが可能な1または複数の媒体または装置を含み得る。例において、リンク13は、画像取得デバイス12が高ダイナミックレンジ画像を画像処理デバイス14へリアルタイムに直接伝送することを可能とする1または複数の通信媒体を含み得る。1または複数の通信媒体は、無線および/または有線通信媒体、例えば、無線周波数(radio frequency, RF)スペクトル、または、1または複数の物理的伝送回線を含み得る。1または複数の通信媒体は、パケットベースネットワークの一部を構成し得、パケットベースネットワークは例えば、ローカルエリアネットワーク、ワイドエリアネットワーク、またはグローバルネットワーク(例えばインターネット)である。1または複数の通信媒体は、ルータ、スイッチ、基地局、または、画像取得デバイス12から画像処理デバイス14への通信を容易にする任意の他のデバイスを含み得る。
【0123】
例えば、画像取得デバイス12は、伝送インタフェースとも称され得るピクチャソース16および通信インタフェース22を含む。加えて、任意で、画像取得デバイス12は更に画像プロセッサ20を含み得る。特定の実装形態において、画像プロセッサ20、ピクチャソース16、および通信インタフェース22は、画像取得デバイス12におけるハードウェアコンポーネントであり得るか、または、画像取得デバイス12におけるソフトウェアプログラムであり得る。説明は、以下の通り、別個に提供される。
【0124】
ピクチャソース16は、例えば、現実世界のピクチャをキャプチャするよう構成される任意のタイプの撮像デバイス、および/または、ピクチャもしくはコメントを生成するための任意のタイプのデバイス(画面コンテンツの符号化については、画面上のいくつかのテキストはまた、符号化予定のピクチャまたは画像の一部とみなされる)、例えば、コンピュータアニメーション画像を生成するよう構成されるコンピュータグラフィックス処理ユニット、または、現実世界のピクチャまたはコンピュータアニメーション画像(例えば、画面コンテンツまたは仮想現実(virtual reality, VR)ピクチャ)を取得および/または提供するよう構成される任意のタイプのデバイス、および/または、それらの任意の組み合わせ(例えば、拡張現実(augmented reality, AR)ピクチャ)を含み得る、またはそれらであり得る。ピクチャソース16は、ピクチャをキャプチャするよう構成されるカメラ、または、ピクチャを格納するよう構成されるメモリであり得る。ピクチャソース16は更に、以前にキャプチャされた、または生成されたピクチャが格納される、および/または、ピクチャが取得もしくは受信されるときに介する、任意のタイプ(内部または外部)のインタフェースを含み得る。ピクチャソース16がカメラであるとき、ピクチャソース16は例えば、ローカルカメラ、または、画像取得デバイスに統合されたカメラであり得る。ピクチャソース16がメモリであるとき、ピクチャソース16は例えば、ローカルメモリ、または、画像取得デバイスに統合されたメモリであり得る。ピクチャソース16がインタフェースを含むとき、インタフェースは例えば、ピクチャを外部ビデオソースから受信するための外部インタフェースであり得る。外部ビデオソースは例えば、カメラ、外部メモリまたは外部ピクチャ生成デバイスなどの外部撮像デバイスである。外部ピクチャ生成デバイスは例えば、外部コンピュータグラフィックス処理ユニット、コンピュータ、またはサーバである。インタフェースは、高分解能マルチメディアインタフェース(high definition multimedia interface, HDMI(登録商標))、モバイル産業プロセッサインタフェース(mobile industry processor interface, MIPI)、MIPI標準ディスプレイシリアルインタフェース(display serial interface, DSI)、ビデオエレクトロニクススタンダーズアソシエーション(Video Electronics Standards Association, VESA)規格組み込みディスプレイポート(embedded display port, eDP)、または、V‐by‐Oneインタフェースなど、任意のプロプライエタリまたは標準インタフェースプロトコルに従う任意のタイプのインタフェースであり得る。V‐by‐Oneインタフェースは、画像伝送、および、様々な有線または無線インタフェース、光学インタフェース、または同様のもののために開発されたデジタルインタフェース規格である。
【0125】
ピクチャは、ピクチャ要素(picture element)の二次元アレイまたはマトリクスとみなされ得る。アレイにおける画素は、サンプルとも称され得る。アレイまたはピクチャの水平および垂直方向(または軸)のサンプルの数は、ピクチャのサイズおよび/または解像度を定義する。色の表現については、3つの色成分が通常使用される。具体的には、ピクチャは、3つのサンプルアレイとして表され得る、または、それらを含み得る。例えば、RGBフォーマットまたは色空間において、ピクチャは、対応する赤、緑、および青のサンプルアレイを含む。しかしながら、映像符号化において、各画素は通常、ルマ/クロマフォーマットまたは色空間で表される。例えば、YUVフォーマットにおけるピクチャは、Yによって示される(または、場合によってはLによって示される)ルマ成分、ならびに、UおよびVによって示される2つのクロマ成分を含む。輝度(ルマ)成分Yは、輝度またはグレーレベル強度(例えば、両方ともグレースケールのピクチャにおいて同一である)を表し、2つのクロミナンス(クロマ)成分UおよびVは、クロマまたは色情報成分を表す。対応して、YUVフォーマットにおけるピクチャは、ルマサンプル値(Y)のルマサンプルアレイ、および、クロマ値(UおよびV)の2つのクロマサンプルアレイを含む。RGBフォーマットにおけるピクチャは、YUVフォーマットに変形または変換され得、その逆も同様である。このプロセスはまた、色変換またはカラーフォーマット変換と称される。ピクチャがモノクロである場合、ピクチャはルマサンプルアレイのみを含み得る。本願の本実施形態において、ピクチャソース16によって画像プロセッサへ伝送されるピクチャはまた、生画像データ17と称され得る。
【0126】
画像プロセッサ20は、シェーピング、カラーフォーマット変換(例えば、RGBフォーマットからYUVフォーマットへの変換)、トーニング、またはノイズ除去などの画像処理を実行するよう構成される。
【0127】
通信インタフェース22は、処理された画像データを受信し、画像処理を受けたピクチャデータ19を、ストレージまたは直接再構成のためにリンク13を通じて画像処理デバイス14または任意の他のデバイス(例えばメモリ)へ伝送するよう構成され得る。他のデバイスは、ストレージに使用される任意のデバイスであり得る。通信インタフェース22は例えば、画像処理を受けたピクチャデータ19を、リンク13を通じた伝送のための適切なフォーマットに、例えば、データパケットにカプセル化するよう構成され得る。
【0128】
画像処理デバイス14は、通信インタフェース28、画像プロセッサ32、およびディスプレイデバイス34を含む。説明は、以下の通り、別個に提供される。
【0129】
通信インタフェース28は、画像取得デバイス12または任意の他のソースから、画像処理を受けたピクチャデータ19を受信するよう構成され得る。他のソースは例えば、ストレージデバイスであり、ストレージデバイスは、画像処理を受けたピクチャデータを格納するためのデバイスである。例えば、通信インタフェース22および通信インタフェース28の具体的な例については、インタフェースの上述の説明を参照されたい。ここでは詳細について改めて説明しない。通信インタフェース28は、画像取得デバイス12と画像処理デバイス14との間のリンク13を通じて、または、任意のタイプのネットワークを通じて、画像処理を受けたピクチャデータ19を伝送または受信するよう構成され得る。リンク13は例えば、直接的な有線または無線接続である。任意のタイプのネットワークは例えば、有線もしくは無線ネットワーク、または、それらの任意の組み合わせ、または、任意のタイプのプライベートもしくはパブリックネットワーク、または、それらの任意の組み合わせである。通信インタフェース28は例えば、通信インタフェース22を通じて伝送されたデータパケットをカプセル除去して、画像処理を受けたピクチャデータ19を取得するよう構成され得る。
【0130】
通信インタフェース28および通信インタフェース22の両方は、一方向性通信インタフェースまたは双方向性通信インタフェースとして構成され得、例えば、メッセージを送信および受信して接続を確立し、画像処理を受けたピクチャデータの伝送など、通信リンクおよび/またはデータ伝送に関する任意の他の情報を確認応答および交換するよう構成され得る。
【0131】
画像プロセッサ32は、画像処理を受けたピクチャデータ19に対してトーンマッピング処理を実行して、トーンマッピング処理を受けたピクチャデータ33を取得するよう構成される。画像プロセッサ32によって実行される処理は更に、カラーフォーマット変換(例えば、YUVフォーマットからRGBフォーマットへの変換)、トーニング、シェーピング、リサンプリング、または、任意の他の処理を含み得る。画像プロセッサ32は更に、トーンマッピング処理を受けたピクチャデータ33をディスプレイデバイス34へ伝送するよう構成され得る。
【0132】
ディスプレイデバイス34は、トーンマッピング処理を受けたピクチャデータ33を受信し、ピクチャを例えばユーザまたは視聴者に表示するよう構成される。ディスプレイデバイス34は、例えば、統合された、または外部のディスプレイまたはモニタなど、再構築された画像を提示するための任意のタイプのディスプレイであり得る、または、それを含み得る。例えば、ディスプレイは、液晶ディスプレイ(liquid crystal display、LCD)、有機発光ダイオード(organic light emitting diode、OLED)ディスプレイ、プラズマディスプレイ、プロジェクタ、マイクロLEDディスプレイ、液晶オンシリコン(liquid crystal on silicon、LCOS)、デジタル光プロセッサ(digital light processor、DLP)、または任意のタイプの他のディスプレイを含んでよい。
【0133】
図1は画像取得デバイス12および画像処理デバイス14を別個のデバイスとして示すが、デバイスの実施形態はまた、画像取得デバイス12および画像処理デバイス14の両方を含み得る、または、画像取得デバイス12および画像処理デバイス14の両方の機能、すなわち、画像取得デバイス12または対応する機能および画像処理デバイス14または対応する機能を含み得る。そのような実施形態において、画像取得デバイス12または対応する機能、および、画像処理デバイス14または対応する機能は、同一のハードウェアおよび/またはソフトウェア、別個のハードウェアおよび/またはソフトウェア、または、それらの任意の組み合わせを使用することによって実装され得る。
【0134】
図1は画像処理デバイス14およびディスプレイデバイス34を別個のデバイスとして示すが、デバイスの実施形態はまた、画像処理デバイス14およびディスプレイデバイス34の両方を含み得、または、画像処理デバイス14およびディスプレイデバイス34の両方の機能、すなわち、画像処理デバイス14または対応する機能、および、ディスプレイデバイス34または対応する機能を含み得る。そのような実施形態において、画像処理デバイス14または対応する機能およびディスプレイデバイス34または対応する機能は、同一のハードウェアおよび/またはソフトウェア、別個のハードウェアおよび/またはソフトウェア、または、それらの任意の組み合わせを使用することによって実装され得る。
【0135】
説明に基づいて、当業者であれば、異なるユニットの機能または
図1に示される画像取得デバイス12および/または画像処理デバイス14の機能/機能性の存在および(正確な)分割は、実際のデバイスおよび用途ごとに変動し得ることを容易に理解する。画像取得デバイス12および画像処理デバイス14は、任意のタイプのハンドヘルドまたは静止デバイスを含む幅広い範囲のデバイスのいずれか1つ、例えば、ノートブックまたはラップトップコンピュータ、携帯電話、スマートフォン、タブレットまたはタブレット型コンピュータ、ビデオカメラ、デスクトップコンピュータ、セットトップボックス、テレビ、カメラ、車載デバイス、ディスプレイデバイス、デジタルメディアプレーヤ、ビデオゲームコンソール、ビデオストリーミングデバイス(例えば、コンテンツサービスサーバまたはコンテンツ配信サーバ)、放送受信デバイス、または放送送信デバイスを含み得、または任意のタイプのオペレーティングシステムを使用しても使用しなくてもよい。
【0136】
画像プロセッサ20および画像プロセッサ32は各々、様々な適切な回路の任意の1つ、例えば、1または複数のマイクロプロセッサ、デジタル信号プロセッサ(digital signal processor, DSP)、特定用途向け集積回路(application-specific integrated circuit, ASIC)、フィールドプログラマブルゲートアレイ(field-programmable gate array, FPGA)、ディスクリートロジック、ハードウェア、またはそれらの任意の組み合わせなどとして実装され得る。ソフトウェアを使用することによって技術が部分的に実装される場合、デバイスは、適切な非一時的コンピュータ可読記憶媒体にソフトウェア命令を格納し得、1または複数のプロセッサなどのハードウェアを使用することによって命令を実行し、本開示の技術を実行し得る。上述の内容(ハードウェア、ソフトウェア、ハードウェアとソフトウェアとの組み合わせ、および同様のものを含む)のいずれか1つが、1または複数のプロセッサとみなされてよい。
【0137】
画像取得デバイスは、自然のシーンからの光信号、または、自然のシーンを含むピクチャまたは映像を受信することによってキャプチャされ得る。画像または映像の伝送を促進するべく、光信号は、電気信号に変換される必要があり、各画素の画像情報は、値範囲が固定された輝度値またはクロミナンス値(例えば、0から255の間のグレースケール値)を使用することによって記録される必要がある。光信号を電気信号に変換する曲線は光‐電気変換機能である。一般的な光‐電気変換機能は、PQ(perceptual quantizer)光‐電気変換機能、HLG(hybrid log-gamma)光‐電気変換機能、および、シーン輝度フィデリティ(scene luminance fidelity, SLF)光‐電気変換機能を含む。ディスプレイデバイスは、ピクチャまたは映像を表示することによって自然のシーンを再現し得る。一般的に、画像取得デバイスおよびディスプレイデバイスは、2つの異なる位置に配置される。したがって、画像取得デバイスは多くの場合、フロントエンドデバイスと称され、ディスプレイデバイスは、バックエンドデバイスと称される。ディスプレイデバイスは、光‐電気変換機能、および、画像における各画素の輝度値またはグレースケール値に基づいて、撮影中のオブジェクトの輝度を判定し得、すなわち、電子デバイスは、YUVまたはRGB情報を、単位がnitである輝度に変換し得る。オブジェクトの輝度は、ディスプレイデバイスの表示能力を超え得る。画像取得デバイスによって取得される輝度情報は、ディスプレイデバイスの輝度表示能力に合致しないので、低い輝度表示能力を有するディスプレイデバイスが高輝度画像を表示するために使用される場合、および、高輝度表示能力を有するディスプレイデバイスが低輝度画像を表示するために使用される場合がある。第1の場合は、高‐低トーンマッピングプロセスとも称され、第2の場合は、低‐高トーンマッピングプロセスとも称される。トーンマッピングは、限定されたダイナミックレンジ表示能力を有するディスプレイデバイス上に高ダイナミックレンジ画像を近似的に表示するためのコンピュータグラフィックス技術である。1つの方式において、高ダイナミックレンジ画像のトーンは、トーンマッピング曲線に基づいて、低ダイナミックレンジ表示能力を有するディスプレイデバイスにマッピングされ得る。トーンマッピング曲線は、ディスプレイデバイスによって決定され得、または、ディスプレイデバイスの外部に配置された処理デバイスによって決定され得ることに留意されたい。
【0138】
しかしながら、いくつかの場合において、決定されたトーンマッピング曲線が不正確であるとき、高ダイナミックレンジ画像の表示効果は低い。例えば、映像再生プロセスにおいて、1つのトーンマッピング曲線のみが映像について決定される場合、異なる映像フレーム間で表示される画像コンテンツは大きく異なり得る。例えば、いくつかの映像フレームにおいて表示される画像は非常に暗いが、他の映像フレームにおいて表示される画像は非常に明るい。固定されたトーンマッピング曲線が映像全体に使用される場合、映像における各フレームのピクチャは、ディスプレイデバイス上で完全に再現できない。加えて、トーンマッピング曲線は、大量のデータを保持する。1つのトーンマッピング曲線が各画像またはピクチャフレームについて決定される場合、データ冗長性の結果がもたらされ得る。
【0139】
本願は、上述の問題を回避するための画像処理方法および装置を提供する。
【0140】
図2は、本願による画像処理方法の概略フローチャートである。
図2に示される方法は、トーンマッピングに使用されるプロセッサによって実行され得る。例えば、プロセッサは、
図1に示される画像処理デバイス14、トーンマッピングプロセッサを含む画像取得デバイス、または、トーンマッピングプロセッサを含むディスプレイデバイスであり得る。
【0141】
201:対象ピクチャおよび対象ピクチャの初期トーンマッピング曲線を取得する。
【0142】
対象ピクチャは、
図1に示されるピクチャソース16を使用することによって取得され得る。対象ピクチャは、映像におけるピクチャのフレームであり得るか、または、静止ピクチャであり得るか、または、ピクチャにおける領域、例えば、ピクチャにおける複数の画像ブロックであり得る。
【0143】
初期トーンマッピング曲線は、トーンマッピングプロセスに使用され得る任意の形態の曲線であり得る。具体的には、
図3は、初期トーンマッピング曲線の複数の可能な形態を示す。
【0144】
図3における実線によって示される初期トーンマッピング曲線は、SLFトーンマッピング曲線とも称され、
【数9】
を満たし、Lは線形信号値を表し、L'は非線形信号値を表し、p、a、mおよびbはすべてダイナミックレンジマッピング係数であり、0≦L≦1、0≦L'≦1であり、aはディスプレイデバイスのダイナミックレンジ表示能力に正比例し、対象ピクチャのダイナミックレンジに反比例し、bはディスプレイデバイスの最小輝度表示能力に正比例する。
【0145】
図3における一点鎖線によって示される初期トーンマッピング曲線は、一次多項トーンマッピング関数であり、
【数10】
を満たし、Lは線形信号値を表し、L'は非線形信号値を表し、aおよびbは両方ともダイナミックレンジマッピング係数であり、0≦L≦1、0≦L'≦1であり、aはディスプレイデバイスのダイナミックレンジ表示能力に正比例し、対象ピクチャのダイナミックレンジに反比例し、bはディスプレイデバイスの最小輝度表示能力に正比例する。
【0146】
図3における鎖線によって示される初期トーンマッピング曲線は、シグモイドトーンマッピング曲線とも称され、
【数11】
を満たし、Lは線形信号値を表し、L'は非線形信号値を表し、c
1、c
2、c
3およびnはすべて、ダイナミックレンジマッピング係数であり、0≦L≦1、0≦L'≦1であり、c
1、c
2、c
3およびnはすべて、対象ピクチャの平均輝度、最大輝度、および最小輝度に関し、ディスプレイデバイスの最小ディスプレイ輝度および最大ディスプレイ輝度に関する。
【0147】
図3において二点鎖線によって示される初期トーンマッピング曲線はまた、ベッセルトーンマッピング曲線と称され、
【数12】
を満たし、Lは線形信号値を表し、L'は非線形信号値を表し、n、Nおよびρはすべてダイナミックレンジマッピング係数であり、0≦L≦1、0≦L'≦1であり、n、Nおよびρは、対象画像の輝度分布に関し、また、対象画像の平均輝度に関する。
【0148】
電子デバイスは、対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて、初期トーンマッピング曲線上のパラメータを決定し得る。
【0149】
YUVフォーマットにおける輝度値およびRGBフォーマットにおけるグレースケール値の両方は、画像の輝度を反映し得ることが理解されるべきである。したがって、本願における輝度情報は例えば、YUVフォーマットにおける輝度値、または、RGBフォーマットにおけるグレースケール値であり得る。
【0150】
ダイナミックメタデータは、輝度範囲についての情報、または、各輝度範囲の比率についての情報を含み得ることが理解されるべきである。例えば、0~10nitの輝度範囲内の画素の数は200である。ダイナミックメタデータは更に、輝度範囲内の画素の平均輝度を含む。例えば、0~10nitの輝度範囲内の画素の平均輝度は6.2nitである。
【0151】
SLFの公式を使用することは例であり、pおよびmは画像の全体的な輝度によって決定され得る。画像の全体的な輝度が高いとき、pの値は比較的小さく、mの値は比較的大きい。画像の全体的な輝度が低いとき、pの値は比較的大きく、mの値は比較的小さい。pの値範囲は3~6であり得る。mの値範囲は2~4であり得、mは通常、2.4である。電子デバイスは、輝度情報を統計的に解析し、画像の全体的な輝度を判定し得る。電子デバイスは、ダイナミックメタデータに含まれる情報に基づいて、明るい画素の比率が比較的高いとき、画像の全体的な輝度が高いと判定し得、暗い画素の比率が比較的高いとき、画像の全体的な輝度が低いと判定し得る。
【0152】
任意で、初期トーンマッピング曲線は、正規化処理を受けた曲線であり得、すなわち、初期トーンマッピング曲線上の任意の点の座標は(第1座標値1、第2座標値1)である。第1座標値1の値範囲は0~1である。第2座標値1の値範囲は0~1である。以下では、正規化処理を受けた初期トーンマッピング曲線を説明する。これは、本願において限定されるものではないことが理解されるべきである。
【0153】
202:対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する。
【0154】
複数の補間点を決定する目的は、初期トーンマッピング曲線を修正するためのスプライン関数を決定することである。複数の補間点を決定することによって、スプライン関数は、複数の補間点を通過するように定義され得、より良いトーンマッピング効果を有する画像表示効果が取得される。
【0155】
補間点を決定することは、補間点の座標、または、補間点の第1座標値もしくは第2座標値を決定することであり得る。補間点の座標は、(x、y)として表現され得、xは第1座標値を表し得、yは第2座標値を表し得る。電子デバイスは、画像の輝度情報に基づいて、または、画像のダイナミックメタデータに基づいて、または、画像の輝度情報および画像のダイナミックメタデータに基づいて複数の補間点を決定し得る。例えば、電子デバイスは、補間点1の第1座標値、補間点2の第2座標値、および、補間点3の座標を決定する。
【0156】
本願において、補間点を決定する目的は、初期トーンマッピング曲線の修正位置を決定することである。換言すれば、複数の補間点に含まれる2つの補間点の間に修正範囲があり得、電子デバイスは、修正範囲内の初期トーンマッピング曲線を修正し得る。
【0157】
例において、電子デバイスは、補間点1の第1座標値が第1座標値1であると、補間点2の第1座標値が第1座標値2であると、第1座標値1が第1座標値2より小さいと決定し、電子デバイスは、第1座標値1から第1座標値2の区間における初期トーンマッピング曲線を修正することを決定し得る。
【0158】
同様に、電子デバイスは、補間点1の第2座標値が第2座標値1であると、補間点2の第2座標値が第2座標値2であると、第2座標値1が第2座標値2より小さいと決定し、電子デバイスは、第2座標値1から第2座標値2の区間の初期トーンマッピング曲線を修正することを決定し得る。
【0159】
例において、電子デバイスは、補間点1の第1座標値が第1座標値1であると、補間点2の第2座標値が第2座標値2であると決定する。電子デバイスは、初期トーンマッピング曲線に基づいて、第2座標値2に対応する第1座標値が第1座標値2であると決定し得る。電子デバイスは、第1座標値1が第1座標値2より小さいと決定し、第2座標値1から第2座標値2の区間における初期トーンマッピング曲線を修正することを決定し得る。
【0160】
同様に、電子デバイスは、補間点1の第2座標値が第1座標値1であると、および、補間点2の第2座標値が第2座標値2であると決定する。電子デバイスは、初期トーンマッピング曲線に基づいて、第1座標値1に対応する第2座標値は第2座標値1であると決定し得る。電子デバイスは、第2座標値1が第2座標値2より小さいと決定し、第2座標値1から第2座標値2の区間における初期トーンマッピング曲線を修正することを決定し得る。
【0161】
例において、電子デバイスは、補間点1の座標が(第1座標値1、第2座標値1)であると、補間点2の座標が(第1座標値2、第2座標値2)であると、第1座標値1が第1座標値2より小さい(初期トーンマッピング曲線は通常、単調に増加する関数であるので、第2座標値1は第2座標値2より小さい)と決定し、第1座標値1から第1座標値2の区間(または、第2座標値1から第2座標値2の区間)における初期トーンマッピング曲線を修正することを決定し得る。
【0162】
初期トーンマッピング曲線は、2つの端点を含む。これらは第1端点および第2端点であり、それぞれ、例えば
図4に示される点1および点5である。第1端点に対応する輝度値は、比較的低く、第1端点は、画像の暗領域に配置される。第2端点に対応する輝度値は、比較的高く、第2端点は画像の明領域に配置される。画像が暗いとき、電子デバイスは、補間点が第1端点に、または、第1端点に近い位置に存在すると決定し得る。画像が明るいとき、電子デバイスは、補間点が第2端点に、または、第2端点に近い位置に存在すると決定し得る。画像が、比較的小さい輝度の差を有する画素の部分を含むとき、補間点の場所は、画素の一部の輝度、および、画像の全体的な輝度に基づいて決定され得る。例えば、ピクチャの輝度範囲が100nitから300nitの間であり、画素の50%が195nitから205nitの範囲内にあるとき、補間点は初期トーンマッピング曲線の中央セグメントの近くに存在すると決定され得る。
【0163】
シナリオ1:画像が暗いとき、電子デバイスは、補間点が第1端点に、または、第1端点に近い位置に存在すると決定し得る。
図5は、このシナリオにおける補間点およびスプライン関数を示す。
【0164】
任意で、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は第2端点に対応する輝度値より小さく、対象ピクチャに含まれる暗領域画素の数は第2事前設定閾値以上であり、暗領域画素の輝度値は第1事前設定閾値より小さく、複数の補間点は第1補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定する段階は、第1補間点の第1座標値が第1端点の第1座標値と同一であると決定する段階を含む。
【0165】
本願において、第1端点に対応する輝度値は、第1端点の第1座標値に対応し得、および/または、第1端点の第2座標値に対応し得る。第2端点に対応する輝度値は、第2端点の第1座標値に対応し得、および/または、第2端点の第2座標値に対応し得る。
【0166】
例えば、第1事前設定閾値が20である場合、YUVフォーマットにおけるY成分の値が20より小さい画素は暗領域画素と、または、RGBフォーマットにおけるR/G/B成分の値が20より小さい画素は暗領域画素とみなされ得る。別の例では、第1事前設定閾値が20nitである場合、輝度が20nitより小さい画素は暗領域画素であるとみなされ得る。
【0167】
したがって、対象ピクチャが十分な数の暗領域画素を含むとき、第1端点は第1補間点として選択され得、第1端点の第1座標値は第1補間点の第1座標値と同一であると決定される。換言すれば、対象ピクチャが十分な数の暗領域画素を含むとき、初期トーンマッピング曲線上の第1端点に近いセグメントが修正され得る。
【0168】
任意で、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、ダイナミックメタデータは、P個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定することは、対象ピクチャのP個の座標情報および輝度情報に基づいて、P個のキー画素が暗領域画素であると決定することを含み、暗領域画素の輝度値は第1事前設定閾値より小さく、P個のキー画素が暗領域画素であるとき、複数の補間点が第1補間点を含むと決定することを含み、第1補間点の第1座標値は第1端点の第1座標値と同一である。
【0169】
例えば、第1事前設定閾値が20である場合、YUVフォーマットにおけるY成分の値または平均値が20より小さい画素は暗領域画素であると、または、RGBフォーマットにおけるR/G/B成分の値または平均値が20より小さい画素は暗領域画素であるとみなされ得る。別の例では、第1事前設定閾値が20nitである場合、輝度または平均輝度が20nitより小さい画素は暗領域画素であるとみなされ得る。
【0170】
したがって、ダイナミックメタデータは複数のキー画素を示し、複数のキー画素が暗領域画素であるかどうかは、キー画素の平均輝度または最大輝度に基づいて決定され得る。複数のキー画素が暗領域画素であるとき、輝度マッピング曲線の第1端点は、第1補間点として使用され、第1端点の第1座標値は、第1補間点の第1座標値と同一であると決定される。換言すれば、複数のキー画素が暗領域画素であるとき、初期トーンマッピング曲線上の第1端点に近いセグメントが修正され得る。
【0171】
本願において、暗領域画素は、低輝度を有する画素として理解され得る。暗領域画素は、ダイナミックメタデータにおいて示されるキー画素であり得る。暗領域画素は代替的、画素の輝度分布に基づいて自律的に電子デバイスによって判定され得る。換言すれば、対象ピクチャが暗領域画素を含むかどうかは異なる方式で判定され得る。
【0172】
任意で、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、ダイナミックメタデータは領域輝度指示情報を含み、領域輝度指示情報が暗領域を示すとき、複数の補間点は第1補間点を含み、第1補間点の第1座標値は第1端点の第1座標値と同一である。
【0173】
ダイナミックメタデータが、暗領域を示す指示情報を含むとき、第1補間点の第1座標値は第1端点の第1座標値と同一である。第1補間点は例えば、
図4に示される点1'である。例えば、指示情報が0である、または、「暗」のインジケーションを含むとき、第1補間点の第1座標値は第1端点の第1座標値と同一であると決定される。
【0174】
初期トーンマッピング曲線は
図4に示される。初期トーンマッピング曲線の2つの端部はそれぞれ点1および点5である。第1端点は、
図4に示される点1であり得、第2端点は、
図4に示される点5であり得る。第1端点に対応する輝度値は低いこと、および、第2端点に対応する輝度値は高いことが図から分かる。
図4に示されるように、第1補間点は点1'であり得、第1端点は点1であり得、点1の第1座標値は点1'の第1座標値と同一である。いくつかの場合において、点1は点1'と一致し、すなわち、点1の第1座標値は点1'の第1座標値と同一であり、点1の第2座標値は点1'の第2座標値と同一である。第1補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0175】
次に、初期トーンマッピング曲線の修正範囲が決定される必要がある。具体的には、第2補間点が決定され得、その結果、第1補間点と第2補間点との間の初期トーンマッピング曲線は修正され、高ダイナミックレンジピクチャが低ダイナミックレンジ表示能力を有するディスプレイデバイス上に表示され得ることが確実になる、または、暗いシーンの画像の詳細がディスプレイデバイス上でより良く提示されることが確実となる。
図4に示されるように、第5補間点は点2'であり得る。
【0176】
任意で、複数の補間点は更に、第2補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、暗領域画素の数に基づいて第2補間点の第1座標値を決定することを含む。
【0177】
暗領域画素の数が比較的大きい、または、すべての画素に対する暗領域画素の比率が比較的高いとき、第2補間点の第1座標値は第1補間点の第1座標値に近い。暗領域画素の数が比較的小さい、または、すべての画素に対する暗領域画素の比率が比較的低いとき、第2補間点の第1座標値は第1補間点の第1座標値から遠い。換言すれば、暗領域画素の数が比較的大きいとき、第1端点に近い初期トーンマッピング曲線の修正範囲は比較的小さいが、暗領域画素の数が比較的小さく、第2事前設定閾値より大きいとき、第1端点に近い初期トーンマッピング曲線の修正範囲は比較的大きい。第2補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0178】
加えて、修正トーンマッピング曲線は、円滑で微分可能である必要がある。したがって、第3補間点が決定され得、その結果、初期トーンマッピング曲線を修正するためのスプライン関数は、第3補間点において初期トーンマッピング曲線に円滑に接続され得る。
【0179】
初期トーンマッピング曲線を修正するための修正範囲は強い修正範囲および弱い修正範囲を含み得る。第1補間点と第2補間点との間の修正範囲は、強い修正範囲として理解され得、第2補間点と第3補間点との間の修正範囲は、弱い修正範囲として理解され得る。弱い修正範囲は、強い修正範囲と非修正範囲との間の移行修正範囲である。同様に、初期トーンマッピング曲線を修正するためのスプライン関数は強い修正スプライン関数および弱い修正スプライン関数を含み得る。第1補間点と第2補間点との間のスプライン関数は、強い修正スプライン関数として理解され得、第2補間点と第3補間点との間のスプライン関数は、弱い修正スプライン関数として理解され得る。弱い修正スプライン関数は、強い修正スプライン関数と初期トーンマッピング曲線との間の移行修正スプライン関数である。加えて、第2補間点と第3補間点との間のスプライン関数は、初期トーンマッピング曲線とは異なるので、第2補間点と第3補間点との間のスプライン関数は、移行曲線関数に加えて曲線修正関数を有する。
図4に示されるように、第3補間点は点4'であり得る。
【0180】
任意で、複数の補間点は更に第3補間点を含み、対象ピクチャは更に、暗領域移行画素を含み、暗領域移行画素の輝度値は第1事前設定閾値以上であり、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、暗領域移行画素の数に基づいて第3補間点の第1座標値を判定することを含む。
【0181】
暗領域移行画素は、輝度が上述の第1事前設定閾値より大きい画素である。例えば、第1事前設定閾値が20である場合、YUVフォーマットにおけるY成分の値が20より大きい画素は暗領域移行画素であると、または、RGBフォーマットにおけるR/G/B成分の値が20より大きい画素は暗領域移行画素であるとみなされ得る。別の例について、第3事前設定閾値が100nitである場合、輝度が100nitより大きい画素は暗領域移行画素であるとみなされ得る。いくつかの場合において暗領域移行画素の輝度は第5事前設定閾値より小さく、第5事前設定閾値は第1事前設定閾値より大きい。
【0182】
任意で、複数の補間点は更に第3補間点を含み、ダイナミックメタデータは、Q個のキー画素と一対一の対応関係にあるQ個の座標情報を含み、Qは正の整数であり、複数の補間点が第1補間点を含むとき、対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定することは、対象ピクチャのQ個の輝度情報および座標情報に基づいて、Q個のキー画素は暗領域移行画素であると決定すること(暗領域画素の輝度値は第1事前設定閾値以上である)、および、Q個のキー画素が暗領域画素であるとき、複数の補間点が第3補間点を含むと決定すること(第3補間点の第1座標値は第1端点の第1座標値と同一である)を含む。
【0183】
暗領域移行画素は、輝度または平均輝度が上述の第1事前設定閾値より大きい画素である。例えば、第1事前設定閾値が20である場合、YUVフォーマットにおけるY成分の値または平均値が20より大きい画素は、暗領域移行画素であると、または、RGBフォーマットにおけるR/G/B成分の値または平均値が20より大きい画素は、暗領域移行画素であるとみなされ得る。別の例について、第3事前設定閾値が100nitである場合、輝度または平均輝度が100nitより大きい画素は暗領域移行画素であるとみなされ得る。いくつかの場合において、暗領域移行画素の輝度は第5事前設定閾値より小さく、第5事前設定閾値は第1事前設定閾値より大きい。
【0184】
暗領域移行画素の数が比較的大きい、または、すべての画素に対する暗領域移行画素の比率が比較的高いとき、第3補間点の第1座標値は第2補間点の第1座標値に近い。暗領域移行画素の数が比較的小さい、または、すべての画素に対する暗領域移行画素の比率が比較的低いとき、第3補間点の第1座標値は、第2補間点の第1座標値から遠い。換言すれば、暗領域移行画素の数が比較的大きいとき、弱い修正スプライン関数は比較的短いが、暗領域移行画素の数が比較的小さいとき、弱い修正スプライン関数は比較的長い。
【0185】
本願において、暗領域移行画素は、暗領域画素より輝度が低い、および、輝度が高い画素として理解され得る。暗領域移行画素は、ダイナミックメタデータに示されるキー画素であり得る。暗領域移行画素は代替的に、画素の輝度分布に基づいて電子デバイスによって自律的に決定され得る。換言すれば、対象ピクチャにおける暗領域移行画素の数は異なる方式で決定され得る。第3補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0186】
シナリオ2:画像が明るいとき、電子デバイスは、補間点が第2端点に、または、第2端点に近い位置に存在すると決定し得る。
図6は、このシナリオにおける補間点およびスプライン関数を示す。
【0187】
任意で、初期トーンマッピング曲線は、第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、第1端点に対応する輝度値は第2端点に対応する輝度値より小さく、対象ピクチャに含まれる明領域画素の数は第4事前設定閾値以上であり、明領域画素の輝度値は第3事前設定閾値より大きく、複数の補間点は第4補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定する段階は、第4補間点の第1座標値が第2端点の第1座標値と同一であると決定する段階を含む。
【0188】
本願において、第1端点に対応する輝度値は、第1端点の第1座標値に対応し得、および/または、第1端点の第2座標値に対応し得る。第2端点に対応する輝度値は、第2端点の第1座標値に対応し得、および/または、第2端点の第2座標値に対応し得る。
【0189】
例えば、第3事前設定閾値が200である場合、YUVフォーマットにおけるY成分の値が200より大きい画素は明領域画素であると、または、RGBフォーマットにおけるR/G/B成分の値が200より大きい画素は明領域画素であるとみなされ得る。別の例では、第3事前設定閾値が400nitである場合、輝度が400nitより大きい画素は明領域画素であるとみなされ得る。
【0190】
したがって、対象ピクチャが十分な数の明領域画素を含むとき、第2端点は、明領域を修正するための(本実施形態における第4補間点に対応する)補間点として決定され得る。例えば、第2端点の第1座標値が第4補間点の第1座標値と同一であると決定される。換言すれば、対象ピクチャが十分な数の明領域画素を含むとき初期トーンマッピング曲線上の第2端点に近いセグメントが修正され得る。
【0191】
任意で、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、ダイナミックメタデータは、P個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定することは、対象ピクチャのP個の座標情報および輝度情報に基づいて、P個のキー画素が明領域画素であると決定することを含み、明領域画素の輝度値は第3事前設定閾値より大きく、P個のキー画素が明領域画素であるとき、複数の補間点は第4補間点を含むと決定することを含み、第4補間点の第1座標値は、第2端点の第1座標値と同一である。
【0192】
例えば、第3事前設定閾値が200である場合、YUVフォーマットにおけるY成分の値または平均値が200より大きい画素は明領域画素であると、または、RGBフォーマットにおけるR/G/B成分の値または平均値が200より大きい画素は明領域画素であるとみなされ得る。別の例では、第3事前設定閾値が400nitである場合、輝度または平均輝度が400nitより大きい画素は明領域画素であるとみなされ得る。
【0193】
したがって、ダイナミックメタデータは複数のキー画素を示し、複数のキー画素が明領域画素であるかどうかは、キー画素の平均輝度または最大輝度に基づいて決定され得る。複数のキー画素が明領域画素であるとき、第2端点の第1座標値は第4補間点の第1座標値と同一であると決定される。換言すれば、複数のキー画素が明領域画素であるとき、初期トーンマッピング曲線上の第2端点に近いセグメントが修正され得る。
【0194】
本願において、明領域画素は、高輝度を有する画素として理解され得る。明領域画素は、ダイナミックメタデータにおいて示されるキー画素であり得る。明領域画素は代替的に、画素の輝度分布に基づいて電子デバイスによって自律的に決定され得る。換言すれば、対象ピクチャが明領域画素を含むかどうかは異なる方式で決定され得る。
【0195】
任意で、初期トーンマッピング曲線は第1端点および第2端点を含み、第1端点および第2端点はそれぞれ、初期トーンマッピング曲線の2つの端部に位置し、ダイナミックメタデータは領域輝度指示情報を含み、領域輝度指示情報が明領域を示すとき、複数の補間点は第4補間点を含み、第4補間点の第1座標値は第2端点の第1座標値と同一である。
【0196】
ダイナミックメタデータが、明領域を示す指示情報を含むとき、第4補間点の第1座標値は第2端点の第1座標値と同一である。第4補間点は例えば、
図4に示される点5'である。例えば、指示情報が1である、または、「光」もしくは明領域に関する別のインジケーションを含むとき、第4補間点の第1座標値は第2端点の第1座標値と同一であると決定される。
【0197】
初期トーンマッピング曲線は
図4に示される。初期トーンマッピング曲線の2つの端部はそれぞれ、点1および点5である。第1端点は、
図4に示される点1であり得、第2端点は、
図4に示される点5であり得る。第1端点に対応する輝度値が低いこと、および、第2端点に対応する輝度値が高いことが図から分かる。
図4に示されるように、第4補間点は点5'であり得、第1端点は点5であり得、点5の第1座標値は点5'の第1座標値と同一である。いくつかの場合において、点5は点5'と一致し、すなわち、点5の第1座標値は点5'の第1座標値と同一であり、点5の第2座標値は点5'の第2座標値と同一である。第4補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0198】
次に、初期トーンマッピング曲線の修正範囲が決定される必要がある。具体的には、第5補間点が決定され得、その結果、第4補間点と第5補間点との間の初期トーンマッピング曲線は修正され、高ダイナミックレンジピクチャが低ダイナミックレンジ表示能力を有するディスプレイデバイス上で表示され得ることが確実になり、または、明るいシーンの画像の詳細がディスプレイデバイス上でより良く提示されることが確実になる。
図4に示されるように、第5補間点は点6'であり得る。
【0199】
任意で、複数の補間点は更に第5補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、明領域画素の数に基づいて第5補間点の第1座標値を決定することを含む。
【0200】
明領域画素の数が比較的大きい、または、すべての画素に対する明領域画素の比率が比較的高いとき、第5補間点の第1座標値は第4補間点の第1座標値に近い。明領域画素の数が比較的小さい、または、すべての画素に対する明領域画素の比率が比較的低いとき、第5補間点の第1座標値は第4補間点の第1座標値から遠い。換言すれば、明領域画素の数が比較的大きいとき、第2端点に近い初期トーンマッピング曲線の修正範囲は比較的小さいが、明領域画素の数が比較的小さく、第4事前設定閾値より大きいとき、第2端点に近い初期トーンマッピング曲線の修正範囲は比較的大きい。第5補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0201】
加えて、修正トーンマッピング曲線は、円滑で微分可能である必要がある。したがって、第6補間点が決定され得、その結果、初期トーンマッピング曲線を修正するためのスプライン関数は、第6補間点において初期トーンマッピング曲線に円滑に接続され得る。
図4に示されるように、第6補間点は点8'であり得る。
【0202】
初期トーンマッピング曲線を修正するための修正範囲は、強い修正範囲および弱い修正範囲を含み得る。第4補間点と第5補間点との間の修正範囲は、強い修正範囲として理解され得、第5補間点と第6補間点との間の修正範囲は、弱い修正範囲として理解され得る。弱い修正範囲は、強い修正範囲と非修正範囲との間の移行修正範囲である。同様に、初期トーンマッピング曲線を修正するためのスプライン関数は強い修正スプライン関数および弱い修正スプライン関数を含み得る。第4補間点と第5補間点との間のスプライン関数は、強い修正スプライン関数として理解され得、第5補間点と第6補間点との間のスプライン関数は、弱い修正スプライン関数として理解され得る。弱い修正スプライン関数は、強い修正スプライン関数と初期トーンマッピング曲線との間の移行修正スプライン関数である。加えて、第5補間点と第6補間点との間のスプライン関数は初期トーンマッピング曲線と異なるので、第5補間点と第6補間点との間のスプライン関数は、移行曲線関数に加えて曲線修正関数を有する。
【0203】
任意で、複数の補間点は更に第6補間点を含み、対象ピクチャは更に明領域移行画素を含み、明領域移行画素の輝度値は第3事前設定閾値以下であり、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは明領域移行画素の数に基づいて第6補間点の第1座標値を決定することを含む。
【0204】
明領域移行画素は、輝度が上述の第3事前設定閾値より大きい画素である。例えば、第3事前設定閾値が20である場合、YUVフォーマットにおけるY成分の値が20より大きい画素は明領域移行画素であると、または、RGBフォーマットにおけるR/G/B成分の値が20より大きい画素は明領域移行画素であるとみなされ得る。別の例において、第3事前設定閾値が100nitである場合、輝度が100nitより大きい画素は明領域移行画素であるとみなされ得る。いくつかの場合において、明領域移行画素の輝度は第6事前設定閾値より大きく、第6事前設定閾値は第3事前設定閾値より小さい。
【0205】
任意で、複数の補間点は更に第6補間点を含み、ダイナミックメタデータは、Q個のキー画素と一対一の対応関係にあるQ個の座標情報を含み、Qは正の整数であり、複数の補間点が第4補間点を含むとき、対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定することは、対象ピクチャのQ個の座標情報および輝度情報に基づいて、Q個のキー画素が明領域移行画素であると決定すること(明領域画素の輝度値は第1事前設定閾値以下である)、および、Q個のキー画素が明領域画素であるとき、複数の補間点が第6補間点を含むと決定すること(第6補間点の第1座標値は第1端点の第1座標値と同一である)を含む。
【0206】
明領域移行画素は、輝度または平均輝度が上述の第3事前設定閾値より小さい画素である。例えば、第3事前設定閾値が200である場合、YUVフォーマットにおけるY成分の値または平均値が200より小さい画素は明領域移行画素であると、または、RGBフォーマットにおけるR/G/B成分の値または平均値が200より小さい画素が明領域移行画素であるとみなされ得る。別の例では、第3事前設定閾値が400nitである場合、輝度または平均輝度が400nitより小さい画素は明領域移行画素であるとみなされ得る。いくつかの場合において、明領域移行画素の輝度は第6事前設定閾値より大きく、第6事前設定閾値は第3事前設定閾値より小さい。
【0207】
明領域移行画素の数が比較的大きい、または、すべての画素に対する明領域移行画素の比率が比較的高いとき、第3補間点の第1座標値は、第6補間点の第1座標値に近い。明領域移行画素の数が比較的小さい、または、すべての画素に対する明領域移行画素の比率が比較的低いとき、第3補間点の第1座標値は第6補間点の第1座標値から遠い。換言すれば、明領域移行画素の数が比較的大きいとき、弱い修正スプライン関数は比較的短いが、明領域移行画素の数が比較的小さいとき、弱い修正スプライン関数は比較的長い。
【0208】
本願において、明領域移行画素は、明領域画素より輝度が高い、および、輝度が低い画素であると理解され得る。明領域移行画素は、ダイナミックメタデータに示されるキー画素であり得る。明領域移行画素は代替的に、画素の輝度分布に基づいて、電子デバイスによって自律的に決定され得る。換言すれば、対象ピクチャにおける明領域移行画素の数は、異なる方式で決定され得る。第6補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0209】
シナリオ3:画像は,比較的小さい輝度差を有する画素の一部を含む。
図7は、本シナリオにおける補間点およびスプライン関数を示す。
【0210】
任意で、対象ピクチャは、輝度値が第1輝度値と第2輝度値との間にある対象画素を含み、対象ピクチャのすべての画素に対する対象画素の比率は第8事前設定閾値より大きく、第1輝度値と第2輝度値との間の差は第7事前設定閾値より小さく、複数の補間点は第12補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を判定することは、対象画素の平均輝度、対象ピクチャの最小輝度値、および、対象ピクチャの最大輝度値に基づいて第12補間点を決定することを含む。
【0211】
輝度値は、YUV、RGB、または輝度で表現され得る。
【0212】
例えば、対象ピクチャの最大輝度値は500nitであり、最小輝度値は100nitである。第7事前設定閾値は50nitであり、第8事前設定閾値は30%であると想定される。対象ピクチャにおける50%の画素の輝度値は、240~260nitの範囲内であり、すなわち、第1輝度値は240nitであり、第2輝度値は260nitであり、対象ピクチャのすべての画素に対する対象画素の比率は50%である。第1輝度値と第2輝度値との間の差は第7事前設定閾値より小さく、対象ピクチャのすべての画素に対する対象画素の比率は第8事前設定閾値より大きいことが分かる。
【0213】
対象画素の平均輝度は250nitであると想定される。
【0214】
例において、第12補間点の第1座標値または第12補間点の第2座標値は250/(500-100)、すなわち、3/8であると決定され得るか、または、第12補間点の第1座標値または第12補間点の第2座標値は3/8に近い値であると決定され得る。第12補間点は例えば、
図4に示される点10'である。第12補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0215】
例において、複数の補間点は第12補間点および第13補間点を含むと判定され得、第12補間点の第1座標値は少なとも3/8であり、第13補間点の第1座標値は3/8より大きく、または、第12補間点の第2座標値は3/8より小さく、第13補間点の第2座標値は3/8より大きい。第12補間点は例えば、
図4に示される点10'である。第13補間点は例えば、
図4に示される点11'であり得る。第12補間点および第13補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0216】
したがって、対象ピクチャが十分な数の対象画素を含むとき、ディスプレイデバイスは、対象画素間の輝度コントラストを強調できないことがあり得ることを意味する。対象画素を鮮明に表示するべく、初期トーンマッピング曲線は、対象画素に対応する輝度範囲内で修正され得る。
【0217】
任意で、ダイナミックメタデータは、対象画素の座標情報を含む。
【0218】
換言すれば、対象画素は、ダイナミックメタデータに示される画素であり得る、または、画素の輝度分布に基づいて電子デバイスによって自律的に判定され得る。換言すれば、対象ピクチャが対象画素を含むかどうかは、異なる方式で決定され得る。
【0219】
次に、初期トーンマッピング曲線の修正範囲が決定される必要がある。具体的には、第13補間点が決定され得るか、または、第12補間点と第13補間点との間の範囲が決定され得、その結果、第12補間点と第13補間点との間の初期トーンマッピング曲線が修正され、ディスプレイデバイス上のピクチャの表示効果が確実になる。
図4に示されるように、第13補間点は
図4における点11'であり得る。
【0220】
任意で、複数の補間点は更に第13補間点を含み、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、対象画素の数に基づいて第13補間点を決定することを含む。
【0221】
対象画素の数が比較的大きい、または、すべての画素に対する対象画素の比率が比較的高いとき、第12補間点と第13補間点との間の距離が比較的短い。対象画素の数が比較的小さい、または、すべての画素に対する対象画素の比率が比較的低いとき、第12補間点と第13補間点との間の距離は比較的長い。換言すれば、対象画素の数が比較的大きいとき、初期トーンマッピング曲線の修正範囲は比較的小さいが、対象画素の数が比較的小さいとき、初期トーンマッピング曲線の修正範囲は比較的大きい。第13補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0222】
加えて、修正トーンマッピング曲線は円滑で微分可能である必要がある。したがって、第14補間点が決定され得、その結果、初期トーンマッピング曲線を修正するためのスプライン関数は、第14補間点において初期トーンマッピング曲線に円滑に接続され得る。
【0223】
任意で、複数の補間点は更に第14補間点を含み、第14補間点は、スプライン関数と初期トーンマッピング曲線とが円滑に移行する交差点であり、対象ピクチャは更に対象移行画素を含み、対象移行画素お輝度値は第1輝度値以下であり、または、対象移行画素の輝度値は第2輝度値以上であり、第1輝度値は第2輝度値より小さく、対象ピクチャの輝度情報に基づいて複数の補間点を決定することは、対象移行画素の数に基づいて第14補間点の第1座標値を決定することを含む。
【0224】
例において、対象移行画素は、輝度が対象画素より高い画素であり得る。この場合、第14補間点の第1座標値は第12補間点の第1座標値より大きく、第13補間点の第1座標値より大きい。
図4に示されるように、第14補間点は
図4における点12'であり得る。
【0225】
例において、対象移行画素は、輝度が対象画素より低い画素であり得る。この場合、第14補間点の第1座標値は第12補間点の第1座標値より小さく、第13補間点の第1座標値より小さい。
図4に示されるように、第14補間点は
図4における点9'であり得る。
【0226】
対象移行画素の数が比較的大きい、または、すべての画素に対する対象移行画素の比率が比較的高いとき、第13補間点と第14補間点との間の距離は比較的短い。対象移行画素の数が比較的小さい、または、すべての画素に対する対象移行画素の比率が比較的低いとき、第13補間点と第14補間点との間の距離は比較的長い。換言すれば、対象移行画素の数が比較的大きいとき、初期トーンマッピング曲線の修正範囲は比較的小さいが、対象画素の数が比較的小さいとき、初期トーンマッピング曲線の修正範囲は比較的大きい。第14補間点の第2座標値は、経験値、ユーザ入力値、または初期トーンマッピング曲線に基づいて取得され得る。
【0227】
任意で、ダイナミックメタデータは対象移行画素の座標情報を含む。
【0228】
換言すれば、対象移行画素は、ダイナミックメタデータに示される画素であり得る、または、画素の輝度分布に基づいて電子デバイスによって自律的に判定され得る。換言すれば、対象ピクチャが対象移行画素を含むかどうかは、異なる方式で決定され得る。
【0229】
任意で、ダイナミックメタデータは複数の補間点の各々の座標情報を含む。
【0230】
補間点の座標情報は、補間点の座標であり得るか、または、補間点の第1座標値または第2座標値であり得る。補間点の座標は、(x、y)として表現され得、xは第1座標値を表し得、yは第2座標値を表し得る。電子デバイスは、画像の輝度情報に基づいて、または、画像のダイナミックメタデータに基づいて、または、画像の輝度情報および画像のダイナミックメタデータに基づいて複数の補間点を決定し得る。例えば、電子デバイスは、補間点1の第1座標値、補間点2の第2座標値、および、補間点3の座標を決定する。
【0231】
例えば、ダイナミックメタデータは、
図4における点1'の第1座標値、点2'の座標、および、点4'の第2座標値を含む。ダイナミックメタデータにおいて与えられる点1'の第1座標値に基づいて、点1'は、点1に一致する、または、原点と一致する点であり得ると決定され得る。このようにして、点1'の座標が認識される。加えて、点2'の座標はダイナミックメタデータにおいて与えられる。さらに、ダイナミックメタデータにおいて与えられる点4'の第2座標値に基づいて、垂直座標が第2座標値と同一である点が、初期トーンマッピング関数上で見つけられ得、点の水平座標は点4'の第1座標値であると決定される。このようにして、点4'の座標が認識される。スプライン関数を決定するための一般的な方法が、点1'、点2'、および点4'を通過するスプライン関数を取得するために使用され得る。
【0232】
別の例では、ダイナミックメタデータは、
図4における点5'の第1座標値、点6'の座標、および、点8'の第2座標値を含む。ダイナミックメタデータにおいて与えられる点5'の第1座標値に基づいて、点5'は点5と一致する、または、(1、1)と一致する点であり得ると決定され得る。このようにして、点5'の座標が認識される。加えて、点6'の座標はダイナミックメタデータにおいて与えられる。さらに、ダイナミックメタデータにおいて与えられる点8'の第2座標値に基づいて、点8'の第1座標値は、初期トーンマッピング関数上で決定され得、点8'の座標が認識され得る。スプライン関数を決定するための一般的な方法が、点5'、点6'、および点8'を通過するスプライン関数を取得するために使用され得る。
【0233】
別の例では、ダイナミックメタデータは、
図4における点9'の第2座標値、点10'の座標、および、点12'の第1座標値を含む。ダイナミックメタデータにおいて与えられる点9'の第2座標値に基づいて、点12'の第1座標値は、初期トーンマッピング関数上で決定され得、点12'の座標が認識され得る。加えて、点10'の座標はダイナミックメタデータにおいて与えられる。さらに、ダイナミックメタデータにおいて与えられる点12'の第1座標値に基づいて、点12'の第2座標値は、初期トーンマッピング関数上で決定され得、点12'の座標が認識され得る。スプライン関数を決定するための一般的な方法が、点9'、点10'、および点12'を通過するスプライン関数を取得するために使用され得る。
【0234】
203:複数の補間点を通過するスプライン関数を決定し、スプライン関数は、複数の補間点の少なくとも1つにおいて初期トーンマッピング曲線に円滑に接続される。
【0235】
スプライン関数(spline function)は、区分的多項式関数(piecewise polynomial function)である。区間[a,b]におけるスプライン関数S(x)は、区間[a,b]において連続していると定義され、スプライン関数の一次導関数S'(x)および二次導関数S"(x)は両方とも区間[a,b]において連続している。
図4は、点1'、点2'、および点4'を通過するスプライン関数1、点5'、点6'、および点8'を通過するスプライン関数2、ならびに、点9'、点10'、および点12'を通過するスプライン関数3を示す。
【0236】
複数の補間点が判定された後に、複数の補間点を通過するスプライン関数は、複数の補間点の各々の座標に基づいて取得され得る。
図4におけるスプライン関数1については、複数の補間点は、点1'、点2'、および点4'である。
図4におけるスプライン関数2については、複数の補間点は、点5'、点6'、および点8'である。
図4におけるスプライン関数3については、複数の補間点は、点9'、点10'、および点12'である。
【0237】
区間[a,b]は、n個のノードx1、...、xnを含み、a<x1<...xnである。スプライン関数がN次スプライン関数であるとき、任意の2つの隣接ノードの間の区間[xk,xk+1]における関数は、N次多項式関数であり、k<n-1であり、kは正の整数である。
【0238】
スプライン関数がスプライン関数1およびスプライン関数2を含むとき、スプライン関数1は、区間[xM1,xM2]におけるM次スプライン関数であり得、スプライン関数2は、区間[xL1,xL2]におけるL次スプライン関数であり得る。区間[xM1,xM2]と区間[xL1,xL2]との共通部分は空である、または、区間[xM1,xM2]と区間[xL1,xL2]との共通部分は1つの値だけを含む。MはLとは同一でも異なってもよい。
【0239】
スプライン関数が一次スプライン関数を含むとき、一次スプライン関数を決定するために、少なくとも2つの既知の条件が必要である。例えば、一次スプライン関数を通過する点の座標、および、スプライン関数の勾配は、事前に認識される。別の例では、一次スプライン関数を通過する2点の座標は、事前に認識される。
【0240】
スプライン関数が二次スプライン関数を含むとき、二次スプライン関数を決定するために少なくとも3つの既知の条件が必要である。例えば、二次スプライン関数の関数形式は、y=ax2+bx+cであり、a≠0である。二次スプライン関数を決定するべく、二次スプライン関数を通過する3点の座標が事前に認識される必要がある。代替的に、2点の座標、および、1点における二次スプライン関数の導関数が事前に認識される。
【0241】
スプライン関数が三次スプライン関数を含むとき、三次スプライン関数を決定するために、少なくとも4つの既知の条件が必要である。例えば、三次スプライン関数の関数形式は、y=ax3+bx2+cx+dであり、a≠0である。三次スプライン関数を判定するべく、三次スプライン関数を通過する4点の座標が事前に認識される必要がある。代替的に、2点の座標および2点における三次スプライン関数の導関数が事前に認識される。
【0242】
スプライン関数がN次スプライン関数を含むとき、N次スプライン関数を決定するために、少なくともN+1の既知の条件が必要である。
【0243】
初期トーンマッピング曲線はT(x)であり、スプライン関数S(x)は、区間[a,b]において定義されると想定する。
【0244】
例において、スプライン関数S(x)は、x=aのとき、初期トーンマッピング曲線T(x)に円滑に接続され得、または、x=bのとき、初期トーンマッピング曲線T(x)に円滑に接続され得、または、x=aであるとき、および、x=bであるとき、初期トーンマッピング曲線T(x)に円滑に接続され得る。
【0245】
例において、複数の補間点は第1座標値がx0である点を含み、a<x0<bであり、スプライン関数S(x)は、x=x0のとき、初期トーンマッピング曲線T(x)に円滑に接続され得る。
【0246】
スプライン関数S(x)は、x=a、すなわち、S(a)=T(a)かつS'(a)=T'(a)であるとき、初期トーンマッピング曲線T(x)に円滑に接続される。
【0247】
スプライン関数S(x)は、x=b、すなわち、S(b)=T(b)かつS'(b)=T'(b)であるとき、初期トーンマッピング曲線T(x)に円滑に接続される。
【0248】
スプライン関数S(x)は、x=x0、すなわち、S(x0)=T(x0)かつS'(x0)=T'(x0)のとき、初期トーンマッピング曲線T(x)に円滑に接続される。
【0249】
スプライン関数は、補間点において初期トーンマッピング曲線に円滑に接続され、円滑な接続の目的は、初期トーンマッピング曲線の一部をスプライン関数で置換することであり、その結果、修正トーンマッピング曲線が取得され得る。スプライン関数は補間点において初期トーンマッピング曲線に円滑に接続されるので、修正トーンマッピング曲線は円滑な関数であり得る。
【0250】
任意で、複数の補間点は第7補間点、第8補間点および第9補間点を含み、初期トーンマッピング曲線は第9補間点を通過し、複数の補間点を通過するスプライン関数を決定する段階は、第7補間点および第8補間点を通過する第1スプライン関数を取得する段階と、第8補間点および第9補間点を通過する第2スプライン関数を決定する段階であって、第2スプライン関数は第8補間点において第1スプライン関数に円滑に接続され、第2スプライン関数は第9補間点において初期トーンマッピング曲線に円滑に接続される、段階とを含む。
【0251】
上述のシナリオ1、シナリオ2およびシナリオ3において、スプライン関数は、第1スプライン関数および第2スプライン関数を含み得、第1スプライン関数は強い修正スプライン関数であり、第2スプライン関数は第1スプライン関数と初期輝度マッピング曲線との間の円滑な移行を実装するために使用される。
【0252】
第1スプライン関数を取得することは、ユーザによるパラメータ入力を受信することによって、または、事前設定パラメータを使用することによって第1スプライン関数を決定することであり得る。例えば、第1スプライン関数は、一次スプライン関数として事前設定され、一次スプライン関数の勾配は1である。
【0253】
任意で、第1スプライン関数は更に、第7補間点および/または第8補間点の座標を参照して決定され得る。
【0254】
第1スプライン関数は代替的、二次スプライン関数または三次スプライン関数であり得る。第1スプライン関数は、二次スプライン関数または三次スプライン関数を決定するために必要な上述の条件を参照して決定される。
【0255】
換言すれば、第1スプライン関数が決定されるとき、取得されたデータに加えて、いくつかの経験値またはユーザインジケーションが、第1スプライン関数を決定するために導入され得る。
【0256】
そして、第1スプライン関数を初期トーンマッピング曲線に円滑に接続するために使用される第2スプライン関数が決定される。第1スプライン関数は、第2スプライン関数が決定される前に決定される。したがって、第8補間点における第1スプライン関数の関数値が分かり、第8補間点における第1スプライン関数の導関数値が分かる。第2スプライン関数が第8補間点において第1スプライン関数に円滑に接続されることは、第8補間点における第1スプライン関数の関数値が第8補間点における第2スプライン関数の関数値と同一であること、および、第8補間点における第1スプライン関数の導関数値が第8補間点における第2スプライン関数の導関数値と同一であることを意味する。加えて、第9補間点における初期トーンマッピング関数の関数値が分かり、第9補間点における初期トーンマッピング関数の導関数値が分かる。第2スプライン関数が第9補間点において初期トーンマッピング曲線に円滑に接続されることは、第9補間点における第2スプライン関数の関数値が第9補間点における初期トーンマッピング関数の関数値と同一であること、および、第9補間点における第2スプライン関数の導関数値が第9補間点における初期トーンマッピング関数の導関数値と同一であることを意味する。
【0257】
説明を容易にするべく、本願において、別段の指定が無い限り、「導関数値」は、一次導関数値として理解され得る。
【0258】
任意で、第1スプライン関数は一次スプライン関数であり、第2スプライン関数は三次スプライン関数である。
【0259】
任意で、スプライン関数の導関数は常に0より大きい。
【0260】
換言すれば、すべての点におけるスプライン関数の導関数は常に0より大きい。この制限により、最終的に取得されるスプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0261】
任意で、第1スプライン関数の導関数は、常に0より大きい。
【0262】
換言すれば、すべての点における第1スプライン関数の導関数は常に0より大きい。この制限により、最終的に取得される第1スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0263】
任意で、第2スプライン関数の導関数は常に0より大きい。
【0264】
換言すれば、すべての点における第2スプライン関数の導関数は常に0より大きい。この制限により、最終的に取得される第2スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0265】
任意で、複数の補間点は更に第11補間点を含み、第1スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0266】
二次導関数が0である点は、第1スプライン関数の変曲点であり得る。例えば、第1スプライン関数は、第11補間点の一方の側において迅速に増加し、第11補間点の他方側において低速で増加する。
【0267】
任意で、複数の補間点は更に第11補間点を含み、第2スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。
【0268】
二次導関数が0である点は、第2スプライン関数の変曲点であり得る。例えば、第2スプライン関数は、第11補間点の一方の側において迅速に増加し、第11補間点の他方側において低速で増加する。
図4に示されるように、第11補間点は点3'であり得る。
【0269】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。
【0270】
第15補間点の一方の側において、第1スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第1スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0271】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。
【0272】
第15補間点の一方の側において、第2スプライン関数は初期トーンマッピング関数の上に配置され、第15補間点の他方側において、第2スプライン関数は初期トーンマッピング関数の下に配置される。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0273】
シナリオ1
【0274】
画像が暗いとき、第1端点に近い初期トーンマッピング曲線の一部は修正され得る。第7補間点は上述の第1補間点であり得、第8補間点は上述の第2補間点であり得、第9補間点は上述の第3補間点であり得る。このシナリオにおいて、スプライン関数は、第1補間点および第2補間点を通過する第1スプライン関数、ならびに、第2補間点および第3補間点を通過する第2スプライン関数を含み、第1スプライン関数は強い修正スプライン関数であり、第2スプライン関数は、第1スプライン関数と初期輝度マッピング曲線との間の円滑な移行を実装するために使用される。特定の補間点およびスプライン関数の場所が
図5に示される。
【0275】
上記では、第1補間点、第2補間点、および第3補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0276】
最初に、第7補間点および第8補間点を通過する(すなわち、
図4における点1'および点2'を通過する)第1スプライン関数f
1(x)が取得される。
【0277】
例えば、第1スプライン関数は、一次スプライン関数として事前設定され、一次スプライン関数の勾配は1である。第7補間点の第1座標値が初期トーンマッピング関数の第1端点の第1座標値と同一であるので、第1スプライン関数は、原点を通過する関数である、すなわち、第7補間点の座標は(0,0)であると決定され得る。したがって、第1スプライン関数はf1(x)=xとして表現され得る。
【0278】
そして、第8補間点および第9補間点(本実施形態において、第8補間点は
図4における点2'であり、第9補間点は
図4における点4'である)を通過する第2スプライン関数f
2(x)が決定される。
【0279】
第1スプライン関数f1(x)および第8補間点の第1座標値x2に基づいて、第8補間点における第1スプライン関数の関数はf1(x2)であり、第8補間点における第1スプライン関数の導関数はf1'(x2)であると決定され得る。
【0280】
初期トーンマッピング関数f0(x)および第9補間点の第1座標値x4に基づいて、第9補間点における第2スプライン関数の関数はf0(x4)であり、第9補間点における第1スプライン関数の導関数はf0'(x4)であると決定され得る。
【0281】
f1(x2)=f2(x2)、f1'(x2)=f2'(x2)、f0(x4)=f2(x4)、およびf0'(x4)=f2'(x4)に基づいて、第2スプライン関数f2(x)が決定される。
【0282】
任意で、第2スプライン関数は三次スプライン関数である。
【0283】
任意で、複数の補間点は更に第11補間点を含み、第1スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0284】
任意で、複数の補間点は更に第11補間点を含み、第2スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は、
図4に示される点3'であり得る。
【0285】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第1スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0286】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第2スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点3'であり得る。
【0287】
シナリオ2
【0288】
画像が明るいとき、第2端点に近い初期トーンマッピング曲線の一部が修正され得る。この場合、第7補間点は、上述の第4補間点であり得、第8補間点は上述の第5補間点であり得、第9補間点は上述の第6補間点であり得る。このシナリオにおいて、スプライン関数は、第4補間点および第5補間点を通過する第1スプライン関数、ならびに、第5補間点および第6補間点を通過する第2スプライン関数を含み、第1スプライン関数は強い修正スプライン関数であり、第2スプライン関数は、第1スプライン関数と初期輝度マッピング曲線との間の円滑な移行を実装するために使用される。特定の補間点の場所およびスプライン関数が
図6に示される。
【0289】
上記では、第4補間点、第5補間点、および第6補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0290】
最初に、第7補間点および第8補間点を通過する(すなわち、
図4における点5'および点6'を通過する)第1スプライン関数f
1(x)が取得される。
【0291】
例えば、第1スプライン関数は、一次スプライン関数として事前設定され、一次スプライン関数の勾配は1である。第7補間点の第1座標値が初期トーンマッピング関数の第1端点の第1座標値と同一であるので、第1スプライン関数は、(1,1)を通過する関数である、すなわち、第7補間点の座標は(1,1)であると決定され得る。したがって、第1スプライン関数はf1(x)=xとして表現され得る。
【0292】
そして、第8補間点および第9補間点を通過する(すなわち、
図4における点6'および点8'を通過する)第2スプライン関数f
2(x)が決定される。
【0293】
第1スプライン関数f1(x)および第8補間点の第1座標値x6に基づいて、第8補間点における第1スプライン関数の関数はf1(x6)であり、第8補間点における第1スプライン関数の導関数はf1'(x6)であると決定され得る。
【0294】
初期トーンマッピング関数f0(x)および第9補間点の第1座標値x8に基づいて、第9補間点における第2スプライン関数の関数はf0(x8)であり、第9補間点における第1スプライン関数の導関数はf0'(x8)であると決定され得る。
【0295】
f1(x6)=f2(x6)、f1'(x6)=f2'(x6)、f0(x8)=f2(x8)、およびf0'(x8)=f2'(x8)に基づいて、第2スプライン関数f2(x)が決定される。
【0296】
任意で、第2スプライン関数は三次スプライン関数である。
【0297】
任意で、複数の補間点は更に第11補間点を含み、第1スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0298】
任意で、複数の補間点は更に第11補間点を含み、第2スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は
図4に示される点7'であり得る。
【0299】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第1スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0300】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第2スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点7'であり得る。
【0301】
シナリオ3
【0302】
第7補間点は上述の第12補間点であり得、第8補間点は上述の第13補間点であり得、第9補間点は上述の第14補間点であり得る。このシナリオにおいて、スプライン関数は、第12補間点および第13補間点を通過する第1スプライン関数、ならびに、第13補間点および第14補間点を通過する第2スプライン関数を含み、第1スプライン関数は強い修正スプライン関数であり、第2スプライン関数は、第1スプライン関数と初期輝度マッピング曲線との間の円滑な移行を実装するために使用される。特定の補間点の場所およびスプライン関数が
図8に示される。
【0303】
上記では、第12補間点、第13補間点、および第14補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0304】
最初に、第7補間点および第8補間点を通過する(すなわち、
図4における点10'および点11'を通過する)第1スプライン関数f
1(x)が取得される。
【0305】
例えば、第1スプライン関数は、一次スプライン関数として事前設定され、一次スプライン関数の勾配は1である。第7補間点は初期トーンマッピング関数の下に位置し、第8補間点は初期トーンマッピング関数の上に位置するので、第7補間点の第1座標値はx
10であり、第8補間点の第1座標値はx
11であり、第1スプライン関数は
【数13】
を通過し、初期トーンマッピング関数はf
0(x)であると想定する。したがって、
【数14】
である。
【0306】
そして、第8補間点および第9補間点を通過する(すなわち、
図4における点11'および点12'を通過する、または、
図4における点10'および点9'を通過する)第2スプライン関数f
2(x)が決定される。
【0307】
第1スプライン関数f1(x)および第8補間点の第1座標値x11に基づいて、第8補間点における第1スプライン関数の関数はf1(x11)であり、第8補間点における第1スプライン関数の導関数はf1'(x11)であると決定され得る。
【0308】
初期トーンマッピング関数f0(x)および第9補間点の第1座標値x12に基づいて、第9補間点における第2スプライン関数の関数はf0(x12)であり、第9補間点における第1スプライン関数の導関数はf0'(x12)であると決定され得る。
【0309】
f1(x11)=f2(x11)、f1'(x11)=f2'(x11)、f0(x12)=f2(x12)、およびf0'(x12)=f2'(x12)に基づいて、第2スプライン関数f2(x)が決定される。
【0310】
任意で、第2スプライン関数は三次スプライン関数である。
【0311】
任意で、複数の補間点は更に第11補間点を含み、第1スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0312】
任意で、複数の補間点は更に第11補間点を含み、第2スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は、
図4に示される点13'であり得る。
【0313】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第1スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0314】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第2スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点13'であり得る。
【0315】
任意で、複数の補間点は第7補間点、第8補間点、および第9補間点を含み、スプライン関数は、第7補間点、第8補間点、および第9補間点を通過する第3スプライン関数を含み、第8補間点の第1座標値は、第7補間点の第1座標値と第9補間点の第1座標値との間にあり、第8補間点の第1座標値は第1修正位置であり、複数の補間点を決定する段階の前に、方法は更に、第1オフセットを取得する段階であって、第1オフセットは、第1修正位置において初期トーンマッピング曲線の修正範囲を表すために使用され、第1修正位置は第8補間点の第1座標値である、段階を備え、複数の補間点を決定する段階は、第1修正位置における初期トーンマッピング曲線の関数値および第1オフセットに基づいて第8補間点の第2座標値を決定する段階を含み、複数の補間点を通過するスプライン関数を決定する段階は、第8補間点の第1座標値および第8補間点の第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第7補間点および/または第9補間点において初期トーンマッピング曲線に円滑に接続される、段階を含む。第1オフセットを取得することは、ユーザによるパラメータ入力を受信することであり得る、または、事前設定パラメータを使用することであり得る。例えば、第1オフセットは0.01に事前設定される。
【0316】
第8補間点の第1座標値は第1修正位置に対応する。具体的には、初期トーンマッピング関数から逸脱する第8補間点は、第1修正位置において決定され、すなわち、第8補間点の第2座標値は、第1修正位置において初期トーンマッピング関数の関数値に等しくない。
【0317】
第1オフセットは、初期トーンマッピング関数に対する第8補間点のオフセット度であり得る。第1オフセットが正であるとき、第8補間点は初期トーンマッピング関数の上に位置する。第1オフセットが負であるとき、第8補間点は初期トーンマッピング関数の下に位置する。
【0318】
例えば、第8補間点の第2座標値=第1オフセット+第1修正位置における初期トーンマッピング関数の関数値である。
【0319】
例えば、第8補間点から初期トーンマッピング関数の最短距離=第1オフセットである。
【0320】
したがって、第8補間点の座標は第1オフセットに基づいて決定され得る。
【0321】
そして、第3スプライン関数が決定される。
【0322】
例において、第3スプライン関数は、第7補間点および第9補間点において初期トーンマッピング曲線に円滑に接続される。第7補間点および第9補間点の両方は初期トーンマッピング関数上の点であるとみなされ得る。したがって、第7補間点の座標および第9補間点の座標が取得され得る。加えて、第7補間点における第3スプライン関数の導関数が、第7補間点における初期トーンマッピング関数の導関数に等しく、第9補間点における第3スプライン関数の導関数は第9補間点における初期トーンマッピング関数の導関数に等しい。スプライン関数自体の属性に起因して、第8補間点における第3スプライン関数は連続的であり、第8補間点における第3スプライン関数の一次導関数は連続的であり、第8補間点における第3スプライン関数の二次導関数は連続的である。したがって、第3スプライン関数は、第7補間点および第8補間点を通過する第4スプライン関数、ならびに、第8補間点および第9補間点を通過する第5スプライン関数に分割され得る。第8補間点における第4スプライン関数の関数値は、第8補間点における第5スプライン関数の関数値と同一である。第8補間点における第4スプライン関数の一次導関数値は、第8補間点における第5スプライン関数の一次導関数値と同一である。第8補間点における第4スプライン関数の二次導関数値は、第8補間点における第5スプライン関数の二次導関数値と同一である。
【0323】
上述のシナリオ1、シナリオ2およびシナリオ3において、複数の補間点を通過するスプライン関数は、第3スプライン関数と総称され、3つのシナリオにおける複数の補間点は第7補間点、第8補間点および第9補間点を含む。第7補間点および第8補間点を通過するスプライン関数は、第4スプライン関数であり、第8補間点および第9補間点を通過するスプライン関数は第5スプライン関数である。
【0324】
任意で、第4スプライン関数の導関数は常に0より大きい。
【0325】
換言すれば、すべての点における第4スプライン関数の導関数は、常に0より大きい。この制限により、最終的に取得される第1スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0326】
任意で、第5スプライン関数の導関数は常に0より大きい。
【0327】
換言すれば、すべての点における第5スプライン関数の導関数は、常に0より大きい。この制限により、最終的に取得される第2スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0328】
任意で、複数の補間点は更に第11補間点を含み、第4スプライン関数は第11補間点を通過し、第11補間点における第4スプライン関数の二次導関数は0である。
【0329】
二次導関数が0である点は、第4スプライン関数の変曲点であり得る。例えば、第4スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加する。
図4に示されるように、第11補間点は点3'であり得る。
【0330】
任意で、複数の補間点は更に第11補間点を含み、第5スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。
【0331】
二次導関数が0である点は、第5スプライン関数の変曲点であり得る。例えば、第5スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加する。
図4に示されるように、第11補間点は点3'であり得る。
【0332】
任意で、複数の補間点は更に第15補間点を含み、第4スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。
【0333】
第15補間点の一方の側において、第4スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第4スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0334】
任意で、複数の補間点は更に第15補間点を含み、第5スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。
【0335】
第15補間点の一方の側において、第5スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第5スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0336】
任意で、複数の補間点は更に第10補間点を含み、第3スプライン関数は第10補間点を通過し、第10補間点の第1座標値は第7補間点の第1座標値と第9補間点の第1座標値との間にあり、複数の補間点を決定する段階の前に、方法は更に、第2オフセットを取得する段階であって、第2オフセットは、第2修正位置における初期トーンマッピング曲線の修正範囲を表すために使用され、第2修正位置は第10補間点の第1座標値である、段階を備え、複数の補間点を決定する段階は更に、第2修正位置における初期トーンマッピング曲線の関数値および第2オフセットに基づいて第10補間点の第2座標値を決定する段階を含み、第8補間点の第1座標値および第8補間点の第2座標値に基づいて第3スプライン関数を決定する段階は、第8補間点の第1座標値および第2座標値、ならびに、第10補間点の第1座標値および第2座標値に基づいて第3スプライン関数を決定する段階であって、第3スプライン関数は、第7補間点および第9補間点の両方において初期トーンマッピング曲線に円滑に接続される、段階を含む。
【0337】
第2オフセットを取得することは、ユーザによるパラメータ入力を受信することであり得る、または、事前設定パラメータを使用することであり得る。例えば、第2オフセットは、0.01に事前設定される。
【0338】
第10補間点の第1座標値は第2修正位置に対応する。具体的には、初期トーンマッピング関数から逸脱する第10補間点は、第2修正位置において決定され、すなわち、第10補間点の第2座標値は、第2修正位置において初期トーンマッピング関数の関数値に等しくない。
【0339】
第2オフセットは、初期トーンマッピング関数に対する第10補間点のオフセット度であり得る。第2オフセットが正であるとき、第10補間点は初期トーンマッピング関数の上に位置する。第2オフセットが負であるとき、第10補間点は初期トーンマッピング関数の下に位置する。
【0340】
例えば、第10補間点の第2座標値=第2オフセット+第2修正位置における初期トーンマッピング関数の関数値である。
【0341】
例えば、第10補間点から初期トーンマッピング関数への最短距離=第2オフセットである。
【0342】
任意で、第1オフセットおよび第2オフセットは相互に反対の数である。
【0343】
したがって、第10補間点の座標は第2オフセットに基づいて決定され得る。
【0344】
そして、第3スプライン関数が更に決定される。スプライン関数自体の属性に起因して、第10補間点における第3スプライン関数は連続的であり、第10補間点における第3スプライン関数の一次導関数は連続的であり、第10補間点における第3スプライン関数の二次導関数は連続的である。したがって、第3スプライン関数は、第7補間点および第10補間点を通過する第6スプライン関数、ならびに、第10補間点および第9補間点を通過する第7スプライン関数に分割され得る。第10補間点における第6スプライン関数の関数値は、第10補間点における第7スプライン関数の関数値と同一である。第10補間点における第6スプライン関数の一次導関数値は、第10補間点における第7スプライン関数の一次導関数値と同一である。第10補間点における第6スプライン関数の二次導関数値は、第10補間点における第7スプライン関数の二次導関数値と同一である。
【0345】
任意で、第6スプライン関数の導関数は常に0より大きい。
【0346】
換言すれば、すべての点における第6スプライン関数の導関数は常に0より大きい。この制限により、最終的に取得される第1スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0347】
任意で、第7スプライン関数の導関数は常に0より大きい。
【0348】
換言すれば、すべての点における第7スプライン関数の導関数は、常に0より大きい。この制限により、最終的に取得される第2スプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0349】
任意で、複数の補間点は更に第11補間点を含み、第6スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。
【0350】
二次導関数が0である点は、第6スプライン関数の変曲点であり得る。例えば、第6スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加する。
図4に示されるように、第11補間点は点3'であり得る。
【0351】
任意で、複数の補間点は更に第11補間点を含み、第7スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。
【0352】
二次導関数が0である点は、第7スプライン関数の変曲点であり得る。例えば、第7スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加する。
図4に示されるように、第11補間点は点3'であり得る。
【0353】
任意で、複数の補間点は更に第15補間点を含み、第4スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第4スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0354】
第15補間点の一方の側において、第4スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第4スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0355】
任意で、複数の補間点は更に第15補間点を含み、第5スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第5スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0356】
第15補間点の一方の側において、第5スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第5スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0357】
例において、第3スプライン関数は、第9補間点における初期トーンマッピング曲線に円滑に接続される。第9補間点は初期トーンマッピング関数上の点であるとみなされ得る。したがって、第9補間点の座標が取得され得る。加えて、第9補間点における第3スプライン関数の導関数は、第9補間点における初期トーンマッピング関数の導関数に等しい。スプライン関数自体の属性に起因して、第8補間点における第3スプライン関数の一次導関数は連続的であり、第8補間点における第3スプライン関数の二次導関数は連続的である。したがって、第3スプライン関数は、第7補間点および第8補間点を通過する第4スプライン関数、ならびに、第8補間点および第9補間点を通過する第5スプライン関数に分割され得る。第8補間点における第4スプライン関数の一次導関数値は、第8補間点における第5スプライン関数の一次導関数値と同一である。第8補間点における第4スプライン関数の二次導関数値は、第8補間点における第5スプライン関数の二次導関数値と同一である。したがって、第7補間点の座標が更に決定される必要がある。
【0358】
第7補間点の座標を決定する方式が経験値に基づいて決定され得る。例えば、第7補間点の座標は(0,0)または(1,1)であると決定される。
【0359】
第3スプライン関数が第7補間点における初期トーンマッピング曲線に円滑に接続される場合は、第3スプライン関数が第9補間点における初期トーンマッピング曲線に円滑に接続される場合と同様である。ここでは詳細を説明しない。
【0360】
任意で、第3スプライン関数の導関数は常に0より大きい。
【0361】
換言すれば、すべての点におけるスプライン関数の導関数は常に0より大きい。この制限により、最終的に取得されるスプライン関数と、初期トーンマッピング曲線との間の過剰に大きい差が回避され得、過剰な修正が回避される。
【0362】
任意で、複数の補間点は更に第11補間点を含み、第3スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0363】
二次導関数が0である点は、第1スプライン関数の変曲点であり得る。例えば、第3スプライン関数は、第11補間点の一方の側で迅速に増加し、第11補間点の他方側で低速で増加する。
【0364】
任意で、複数の補間点は更に第15補間点を含み、第3スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第3スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0365】
第15補間点の一方の側において、第3スプライン関数は初期トーンマッピング関数の上に位置し、第15補間点の他方側において、第3スプライン関数は初期トーンマッピング関数の下に位置する。第15補間点の場所を定義することによって、初期トーンマッピング関数の修正方式が定義され得る。
【0366】
シナリオ1
【0367】
画像が暗いとき、第1端点に近い初期トーンマッピング曲線の一部が修正され得る。第7補間点は上述の第1補間点であり得、第8補間点は上述の第2補間点であり得、第9補間点は上述の第3補間点であり得る。特定の補間点の場所およびスプライン関数が
図5に示される。
【0368】
上記では、第1補間点、第2補間点、および第3補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0369】
最初に、第1オフセットが取得される。例えば、第1オフセットは0.01に事前設定される。
【0370】
そして、第8補間点(
図4における点2')の第2座標値は第1オフセットに基づいて決定される。例えば、f
3(x
2)=f
0(x
2)+0.01でありf
0(x)は初期トーンマッピング関数を表す。
【0371】
第7補間点の第1座標値が初期トーンマッピング関数の第1端点の第1座標値と同一であるので、第3スプライン関数は、原点を通過する関数である、すなわち、第7補間点の座標は(0,0)であると決定され得る。
【0372】
そして、第7補間点、第8補間点、および第9補間点を通過する(すなわち、
図4における点1'、点2'、および点4'を通過する)第3スプライン関数f
3(x)が決定される。第3スプライン関数f
3(x)は、第7補間点および第8補間点を通過する第4スプライン関数f
4(x)、ならびに、第8補間点および第9補間点を通過する第5スプライン関数f
5(x)に分割され得る。
【0373】
f4(x1)=0、f4(x2)=f0(x2)+0.01、およびf5(x2)=f0(x2)+0.01は、第7補間点の座標、および、第8補間点の座標に基づいて決定され得る。
【0374】
初期トーンマッピング関数f0(x)および第9補間点の第1座標値x4に基づいて、第9補間点における第5スプライン関数の関数はf5(x4)=f0(x4)であり、第9補間点における第5スプライン関数の導関数はf5'(x4)=f0'(x4)であると決定され得る。
【0375】
スプライン関数の属性に基づいて、第8補間点における第4スプライン関数の一次導関数は第8補間点における第5スプライン関数の一次導関数と同一であると、および、第8補間点における第4スプライン関数の二次導関数は、第8補間点における第5スプライン関数の二次導関数と同一である、すなわち、f5'(x2)=f4'(x2)かつf5"(x2)=f4"(x2)であると決定され得る。
【0376】
任意で、第3スプライン関数は三次スプライン関数である。具体的には第4スプライン関数および第5スプライン関数は三次スプライン関数である。
【0377】
任意で、複数の補間点は更に第11補間点を含み、第4スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0378】
任意で、複数の補間点は更に第11補間点を含み、第5スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は、
図4に示される点3'であり得る。
【0379】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第4スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0380】
任意で、複数の補間点は更に第15補間点を含み、第5スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第5スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点3'であり得る。
【0381】
シナリオ2
【0382】
画像が明るいとき、第2端点に近い初期トーンマッピング曲線の一部が修正され得る。第7補間点は、上述の第4補間点であり得、第8補間点は上述の第5補間点であり得、第9補間点は上述の第6補間点であり得る。特定の補間点の場所およびスプライン関数は
図6に示される。
【0383】
上記では、第4補間点、第5補間点、および第6補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0384】
最初に第1オフセットが取得される。例えば、第1オフセットは-0.01に事前設定される。
【0385】
そして、第8補間点(
図4における点6')の第2座標値は第1オフセットに基づいて決定される。例えば、f
3(x
6)=f
0(x
6)-0.01であり、f
0(x)は初期トーンマッピング関数を表す。
【0386】
第7補間点の第1座標値が初期トーンマッピング関数の第1端点の第1座標値と同一であるので、第3スプライン関数は、(1,1)を通過する関数である、すなわち、第7補間点の座標は(1,1)であると決定され得る。
【0387】
そして、第7補間点、第8補間点、および第9補間点を通過する(すなわち、
図4における点5'、点6'、および点8'を通過する)第3スプライン関数f
3(x)が決定される。第3スプライン関数f
3(x)は、第7補間点および第8補間点を通過する第4スプライン関数f
4(x)、ならびに、第8補間点および第9補間点を通過する第5スプライン関数f
5(x)に分割され得る。
【0388】
f4(x5)=1、f4(x6)=f0(x6)-0.01およびf5(x6)=f0(x6)-0.01は、第7補間点の座標および第8補間点の座標に基づいて決定され得る。
【0389】
初期トーンマッピング関数f0(x)および第9補間点の第1座標値x8に基づいて、第9補間点における第5スプライン関数の関数はf5(x8)=f0(x8)であり、第9補間点における第5スプライン関数の導関数はf5'(x8)=f0'(x8)であると決定され得る。
【0390】
スプライン関数の属性に基づいて、第8補間点における第4スプライン関数の一次導関数は第8補間点における第5スプライン関数の一次導関数と同一であると、および、第8補間点における第4スプライン関数の二次導関数は、第8補間点における第5スプライン関数の二次導関数と同一である、すなわち、f5'(x6)=f4'(x6)かつf5"(x6)=f4"(x6)であると決定され得る。
【0391】
任意で、第3スプライン関数は三次スプライン関数である。具体的には、第4スプライン関数および第5スプライン関数は三次スプライン関数である。
【0392】
任意で、複数の補間点は更に第11補間点を含み、第4スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0393】
任意で、複数の補間点は更に第11補間点を含み、第5スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は
図4に示される点7'であり得る。
【0394】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第4スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0395】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第5スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点7'であり得る。
【0396】
シナリオ3
【0397】
方法1
【0398】
第8補間点は、上述の第12補間点であり得る。第7補間点は、第1座標値が第12補間点の第1座標値より小さく、上述の第13補間点の第1座標値より小さい上述の第14補間点であり得る。第9補間点は、第1座標値が第12補間点の第1座標値より大きく、第13補間点の第1座標値より大きい上述の第14補間点であり得る。このシナリオにおいて、スプライン関数は、第12補間点および第13補間点を通過する第4スプライン関数、ならびに、第13補間点および第14補間点を通過する第5スプライン関数を含む。特定の補間点の場所およびスプライン関数が
図7に示される。
【0399】
上記では、第12補間点、第13補間点、および第14補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、および、第9補間点の第1座標値がすべて分かる。
【0400】
最初に第1オフセットが取得される。例えば、第1オフセットは0.01に事前設定される。
【0401】
そして、第8補間点(
図4における点10')の第2座標値は第1オフセットに基づいて決定される。例えば、f
3(x
10)=f
0(x
10)+0.01であり、f
0(x)は初期トーンマッピング関数を表す。
【0402】
第3スプライン関数は第7補間点において初期トーンマッピング関数に円滑に接続されるので、第7補間点の座標は、(x9,f0(x9))であり、f3(x9)=f0(x9)、f3'(x9)=f0'(x9)であると決定され得る。
【0403】
第3スプライン関数は第9補間点において初期トーンマッピング関数に円滑に接続されるので、第9補間点の座標は(x12,f0(x12))であり、f3(x12)=f0(x12)、f3'(x12)=f0'(x12)であると決定され得る。
【0404】
そして、第7補間点、第8補間点、および第9補間点を通過する(すなわち、
図4における点9'、点10'、および点12'を通過する)第3スプライン関数f
3(x)が決定される。第3スプライン関数f
3(x)は、第7補間点および第8補間点を通過する第4スプライン関数f
4(x)、ならびに、第8補間点および第9補間点を通過する第5スプライン関数f
5(x)に分割され得る。
【0405】
f4(x9)=f0(x9)、f4'(x9)=f0'(x9)、f4(x10)=f0(x10)+0.01は、初期トーンマッピング関数f0(x)、第7補間点の座標、および、第8補間点の座標に基づいて決定され得る。
【0406】
f5(x10)=f0(x10)+0.01、f5(x12)=f0(x12)、f5'(x12)=f0'(x12)は、初期トーンマッピング関数f0(x)、第8補間点の座標、および第9補間点の座標に基づいて決定され得る。
【0407】
スプライン関数の属性に基づいて、第8補間点における第4スプライン関数の一次導関数は第8補間点における第5スプライン関数の一次導関数と同一であると、および、第8補間点における第4スプライン関数の二次導関数は、第8補間点における第5スプライン関数の二次導関数と同一である、すなわち、f5'(x10)=f4'(x10)かつf5"(x10)=f4"(x10)であると決定され得る。
【0408】
任意で、第3スプライン関数は三次スプライン関数である。具体的には、第4スプライン関数および第5スプライン関数は三次スプライン関数である。
【0409】
任意で、複数の補間点は更に第11補間点を含み、第4スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0410】
任意で、複数の補間点は更に第11補間点を含み、第5スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。第11補間点は、
図4に示される点11'であり得る。
【0411】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第4スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0412】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第5スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。第15補間点は、
図4に示される点11'であり得る。
【0413】
方法2
【0414】
第8補間点は上述の第12補間点であり得る。第10補間点は上述の第13補間点であり得る。第7補間点は、第1座標値が第12補間点の第1座標値より小さく、第13補間点の第1座標値より小さい上述の第14補間点であり得る。第9補間点は、第1座標値が第12補間点の第1座標値より大きく、第13補間点の第1座標値より大きい上述の第14補間点であり得る。このシナリオにおいて、スプライン関数は、第12補間点および第13補間点を通過する第4スプライン関数、ならびに、第13補間点および第14補間点を通過する第5スプライン関数を含む。特定の補間点の場所およびスプライン関数が
図7に示される。
【0415】
上記では、第12補間点、第13補間点、および第14補間点の第1座標値をどのように取得するかについて説明した。換言すれば、第7補間点の第1座標値、第8補間点の第1座標値、第9補間点の第1座標値、および第10補間点の第1座標値がすべて分かる。
【0416】
最初に、第1オフセットが取得される。例えば、第1オフセットは‐0.01に事前設定される。
【0417】
そして、第8補間点(
図4における点10')の第2座標値は、第1オフセットに基づいて決定される。例えば、f
3(x
10)=f
0(x
10)-0.01であり、f
0(x)は初期トーンマッピング関数を表す。
【0418】
そして第2オフセットが取得される。例えば、第2オフセットは+0.01に事前設定される。
【0419】
そして、第8補間点(
図4における点11')の第2座標値は第1オフセットに基づいて決定される。例えば、f
3(x
11)=f
0(x
11)+0.01であり、f
0(x)は初期トーンマッピング関数を表す。
【0420】
第3スプライン関数は第7補間点において初期トーンマッピング関数に円滑に接続されるので、第7補間点の座標は、(x9,f0(x9))であり、f3(x9)=f0(x9)、f3'(x9)=f0'(x9)であると決定され得る。
【0421】
第3スプライン関数は第9補間点において初期トーンマッピング関数に円滑に接続されるので、第9補間点の座標は(x12,f0(x12))であり、f3(x12)=f0(x12)、f3'(x12)=f0'(x12)であると決定され得る。
【0422】
そして、第7補間点、第8補間点、および第9補間点を通過する(すなわち、
図4における点9'、点10'、および点12'を通過する)第3スプライン関数f
3(x)が決定される。第3スプライン関数f
3(x)は、第7補間点および第8補間点を通過する第7スプライン関数f
7(x)、第8補間点および第10補間点を通過する第8スプライン関数f
8(x)、ならびに、第10補間点および第9補間点を通過する第9スプライン関数f
9(x)に分割され得る。
【0423】
f7(x9)=f0(x9)、f7'(x9)=f0'(x9)、f7(x10)=f0(x10)-0.01は、初期トーンマッピング関数f0(x)、第7補間点の座標、および、第8補間点の座標に基づいて決定され得る。
【0424】
f8(x10)=f0(x10)-0.01およびf8(x11)=f0(x11)+0.01は、第8補間点の座標、および、第10補間点の座標に基づいて決定され得る。
【0425】
f9(x12)=f0(x12)、f9'(x12)=f0'(x12)、およびf9(x11)=f0(x11)+0.01は、初期トーンマッピング関数f0(x)、第10補間点の座標、および、第9補間点の座標に基づいて決定され得る。
【0426】
スプライン関数の属性に基づいて、第8補間点における第7スプライン関数の一次導関数は第8補間点における第8スプライン関数の一次導関数と同一であると、および、第8補間点における第7スプライン関数の二次導関数は、第8補間点における第8スプライン関数の二次導関数と同一である、すなわち、f7'(x10)=f8'(x10)かつf7"(x10)=f8"(x10)であると決定され得る。
【0427】
スプライン関数の属性に基づいて、第10補間点における第8スプライン関数の一次導関数は、第10補間点における第9スプライン関数の一次導関数と同一であり、第10補間点における第8スプライン関数の二次導関数は、第10補間点における第9スプライン関数の二次導関数と同一である、すなわち、f8'(x11)=f9'(x11)、f8"(x11)=f9"(x11)と決定され得る。
【0428】
上述の条件に基づいて、第3スプライン関数f3(x)が決定され得る。
【0429】
任意で、第3スプライン関数は三次スプライン関数である。具体的には、第4スプライン関数および第5スプライン関数は三次スプライン関数である。
【0430】
任意で、複数の補間点は更に第11補間点を含み、第4スプライン関数は第11補間点を通過し、第11補間点における第1スプライン関数の二次導関数は0である。
【0431】
任意で、複数の補間点は更に第11補間点を含み、第5スプライン関数は第11補間点を通過し、第11補間点における第2スプライン関数の二次導関数は0である。
【0432】
任意で、複数の補間点は更に第15補間点を含み、第1スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第4スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0433】
任意で、複数の補間点は更に第15補間点を含み、第2スプライン関数は第15補間点を通過し、初期トーンマッピング関数は第15補間点を通過する。第15補間点における第5スプライン関数の導関数値は、第15補間点における初期トーンマッピング関数の導関数値と異なる。
【0434】
204:スプライン関数に基づいて初期トーンマッピング曲線を修正し、対象ピクチャの修正トーンマッピング曲線を取得する。
【0435】
初期トーンマッピング曲線を修正することは、初期トーンマッピング曲線の一部をスプライン関数で置換することであり得る。最終的に取得される修正トーンマッピング曲線は、初期トーンマッピング曲線に元々存在するデータコンテンツの一部、および、スプライン関数のデータコンテンツを含む。初期スプライン関数は通常円滑であり、スプライン関数自体は円滑な属性を有し、スプライン関数は、補間点において初期スプライン関数に円滑に接続され得る。したがって、修正トーンマッピング曲線はまた、円滑な属性を有する。
【0436】
205:修正トーンマッピング曲線に基づいて対象ピクチャに対してトーンマッピングを実行する。
【0437】
電子デバイスは、従来技術を参照して修正トーンマッピング曲線に基づいて対象ピクチャに対してトーンマッピングを実行し得る。ここでは詳細は説明されていない。
【0438】
段階201~205を実装する電子デバイスは、
図1における撮影デバイスであり得るか、または、
図1における画像処理デバイスであり得るか、または、画像プロセッサを含むディスプレイデバイスであり得る。
【0439】
本願は、取得された初期トーンマッピング曲線を修正するための方法を提供し、その結果、トーンマッピング曲線を取得する方式は、より柔軟になる。例えば、トーンマッピング曲線の形態は、ディスプレイデバイスおよび撮影デバイスのデバイス属性に基づいて柔軟に決定され得、その結果、画像表示がより鮮明かつ自然になる。別の例では、映像において、フレームのトーンマッピング曲線が決定され得、当該フレームに隣接するフレームについて、トーンマッピング曲線を修正するためのパラメータが決定され、その結果、追加の過剰なデータ無しで映像表示効果が改善され得る。
【0440】
図8は、本願の実施形態による画像処理装置の機構の概略図である。
図8に示されるように、装置500は取得モジュール510、処理モジュール520、およびトーンマッピングモジュール530を備える。
【0441】
取得モジュール510は、対象ピクチャ、および、対象ピクチャの初期トーンマッピング曲線を取得するよう構成される。
【0442】
処理モジュール520は、対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される。
【0443】
処理モジュール520は更に、複数の補間点を通過するスプライン関数を決定するよう構成され、スプライン関数は、複数の補間点の少なくとも1つにおいて初期トーンマッピング曲線に円滑に接続される。
【0444】
処理モジュール520は更に、対象ピクチャの修正トーンマッピング曲線を取得するために、スプライン関数に基づいて初期トーンマッピング曲線を修正するよう構成される。
【0445】
トーンマッピングモジュール530は、修正トーンマッピング曲線に基づいて対象ピクチャに対してトーンマッピングを実行するよう構成される。
【0446】
図9は、本願の別の実施形態による画像処理装置の機構の概略図である。
図9に示されるように、装置600は伝送インタフェース610、プロセッサ620、およびメモリ630を含み得る。
【0447】
図9は1つのメモリおよび1つのプロセッサのみを示す。実際の画像処理装置製品において、1または複数のプロセッサおよび1または複数のメモリがあり得る。メモリは、記憶媒体またはストレージデバイスなどとも称されてよい。メモリは、プロセッサから独立して配置されてもよく、またはプロセッサと一体化されてもよい。本願の本実施形態ではこれについて限定しない。
【0448】
伝送インタフェース610、プロセッサ620、およびメモリ630は、内部接続パスを使用することによって互いに通信し、制御信号および/またはデータ信号を転送する。
【0449】
具体的には、伝送インタフェース610は、画像データを受信または送信するよう構成される。プロセッサ620は、処理予定の画像を取得するよう構成され、事前訓練済ニューラルネットワークモデルの第1分岐を使用することによって処理予定の画像を処理して第1タイプのパラメータを取得するよう構成され(第1タイプのパラメータは、画像に対して全体的な色処理を実行するために使用される)、更に、ニューラルネットワークモデルの第2分岐を使用することによって処理予定の画像を処理して第2タイプのパラメータを取得するよう構成され(第2タイプのパラメータは、画像に対してローカル色処理を実行するために使用される)、更に、第1タイプのパラメータおよび第2タイプのパラメータに基づいて、処理予定の画像に対して色処理を実行して、色処理を受けた画像を取得するよう構成される。
【0450】
本願の実施形態において説明されるメモリ630は、プロセッサによって実行されるコンピュータ命令およびパラメータを格納するよう構成される。
【0451】
装置600の特定の動作プロセスおよび有益な効果については、
図2に示される実施形態における説明を参照されたい。ここでは詳細について改めて説明しない。
【0452】
本願の実施形態は更に電子デバイスを提供する。電子デバイスは端末デバイスであり得る。デバイスは、上述の方法の実施形態における関数/段階を実行するよう構成され得る。
【0453】
図10は、本願の実施形態による電子デバイスの機構の概略図である。
図10に示されるように、電子デバイス700はプロセッサ710および送受信機720を含む。任意で、電子デバイス700は更にメモリ730を含み得る。プロセッサ710、送受信機720、およびメモリ730は、内部接続パスを通じて互いに通信し、制御信号および/またはデータ信号を転送し得る。メモリ730は、コンピュータプログラムを格納するよう構成される。プロセッサ710は、メモリ730からコンピュータプログラムを呼び出してコンピュータプログラムを実行するよう構成される。
【0454】
任意で、電子デバイス700は更に、送受信機720によって出力される無線信号を送信するよう構成されるアンテナ740を含み得る。
【0455】
プロセッサ710およびメモリ730は、1つの処理装置、または、より一般的には、互いに独立したコンポーネントに統合され得る。プロセッサ710は、メモリ730に格納されるプログラムコードを実行して上述の関数を実装するよう構成される。特定の実装中、メモリ730は代替的に、プロセッサ710に統合され得るか、または、プロセッサ710から独立し得る。プロセッサ710は、
図9における装置600におけるプロセッサ620に対応し得る。
【0456】
加えて、電子デバイス700の機能を改善するべく、電子デバイス700は更に、入力ユニット760、ディスプレイユニット770、音声回路780、カメラ790、センサ701などのうち1または複数を含み得る。音声回路は更に、スピーカ782、マイクロフォン784などを含み得る。ディスプレイユニット770はディスプレイ画面を含み得る。
【0457】
任意で、電子デバイス700は更に、端末デバイスにおける様々なデバイスまたは回路に電力を供給するよう構成される電源750を含み得る。
【0458】
図10に示される電子デバイス700は、
図2に示される方法の実施形態のプロセスを実装し得ることが理解されるべきである。電子デバイス700におけるモジュールのオペレーションおよび/または機能は別々に、上述の方法の実施形態における対応する手順を実装するように意図される。詳細については、上述の方法の実施形態における説明を参照されたい。繰り返しを回避するために、ここでは詳細な説明が適切に省略される。当業者であれば、本明細書で開示する実施形態に記載の例と組み合わせて、電子ハードウェア、またはコンピュータソフトウェアと電子ハードウェアとの組み合わせにより、ユニットおよびアルゴリズム段階が実装され得ることを認識できよう。これらの機能がハードウェアおよびソフトウェアのどちらで実行されるかは、技術的解決手段の特定の用途および設計上の制約で決まる。当業者であれば、異なる方法を使用して、説明されている機能を特定の用途ごとに実装できるが、係る実装が本願の範囲を超えるものとみなされるべきではない。
【0459】
簡便で簡単な説明の目的のために、上述のシステム、装置、およびユニットの詳細な動作プロセスについては、上述した方法の実施形態における対応するプロセスを参照し、ここでは詳細が再び説明されないことが当業者によって明確に理解され得る。
【0460】
本願において提供されるいくつかの実施形態では、開示されたシステム、装置および方法が他の方式で実装されてよいことが理解されるべきである。例えば、説明されている装置の実施形態は例に過ぎない。例えば、複数のユニットへの分割は単なる論理的な機能分割にすぎず、実際の実装では他の分割であってもよい。例えば、複数のユニットもしくはコンポーネントが組み合わされるかまたは統合されて別のシステムになってもよく、いくつかの特徴が無視されても行われなくてもよい。さらに、示されたまたは説明された相互結合もしくは直接的結合または通信接続は、いくつかのインタフェースによって実装されてよい。装置間またはユニット間の間接結合または通信接続は、電子的形態、機械的形態、または他の形態で実装されてよい。
【0461】
別個の部分として説明されているユニットは、物理的に別個のものであってもなくてもよく、ユニットとして表示されている部分が、物理的なユニットであってもなくてもよいし、一箇所に位置付けられてもよいし、複数のネットワークユニット上に分散されてもよい。ユニットのいくつかまたはすべては、実施形態における解決手段の目的を実現するための実際の要件に基づき選択され得る。
【0462】
更に、本願の実施形態における機能ユニットが1つの処理ユニットに統合されてもよいし、これらのユニットの各々が物理的に単独で存在してもよいし、2つまたはそれより多くのユニットが1つのユニットに統合されてもよい。
【0463】
これらの機能がソフトウェア機能ユニットの形態で実装され、独立した製品として販売または使用されるとき、これらの機能は、コンピュータ可読記憶媒体に格納されてよい。こうした理解に基づいて、本願の技術的解決手段は本質的に、または従来技術に寄与する部分が、またはこれらの技術的解決手段のうちの幾つかが、ソフトウェア製品の形態で実装され得る。コンピュータソフトウェア製品は記憶媒体に格納され、本願の実施形態で説明する方法の段階の全てまたはいくつかを実行するようコンピュータデバイス(パーソナルコンピュータ、サーバ、またはネットワークデバイスなどであってよい)に指示するためのいくつかの命令を含む。上述の記憶媒体は、例えば、USBフラッシュドライブ、リムーバブルハードディスク、リードオンリメモリ(read-only memory, ROM)、ランダムアクセスメモリ(random access memory, RAM)、磁気ディスクまたは光ディスクなど、プログラムコードを格納し得る任意の媒体を含み得る。
【0464】
前述の説明は、本願の特定の実装に過ぎないが、本願の保護範囲を限定することを意図するものではない。本願において開示する技術的範囲内で当業者が容易に考え出す変形または置換はいずれも、本願の保護範囲に含まれるものとする。したがって、本願の保護範囲は、請求項の保護範囲の対象となる。
[他の考え得る項目]
(項目1)
画像処理方法であって、
対象ピクチャおよび上記対象ピクチャの初期トーンマッピング曲線を取得する段階と、
上記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定する段階と、
上記複数の補間点を通過するスプライン関数を決定する段階であって、上記スプライン関数は、上記複数の補間点の少なくとも1つにおいて上記初期トーンマッピング曲線に円滑に接続される、段階と、
上記スプライン関数に基づいて上記初期トーンマッピング曲線を修正して、上記対象ピクチャの修正トーンマッピング曲線を取得する段階と、
上記修正トーンマッピング曲線に基づいて上記対象ピクチャに対してトーンマッピングを実行する段階と
を備える方法。
(項目2)
上記初期トーンマッピング曲線は第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は上記第2端点に対応する輝度値より小さく、上記対象ピクチャに含まれる暗領域画素の数は第2事前設定閾値以上であり、上記暗領域画素の輝度値は第1事前設定閾値より小さく、上記複数の補間点は第1補間点を含み、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、
上記第1補間点の第1座標値が上記第1端点の第1座標値と同一であると決定する段階を含む、項目1に記載の方法。
(項目3)
上記複数の補間点は更に第2補間点を含み、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、
上記暗領域画素の上記数に基づいて上記第2補間点の第1座標値を決定する段階を含む、項目2に記載の方法。
(項目4)
上記複数の補間点は更に第3補間点を含み、上記対象ピクチャは更に暗領域移行画素を含み、上記暗領域移行画素の輝度値は上記第1事前設定閾値以上であり、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、上記暗領域移行画素の数に基づいて上記第3補間点の第1座標値を決定する段階を含む、項目2または3に記載の方法。
(項目5)
上記初期トーンマッピング曲線は、上記第1端点および上記第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の上記2つの端部に位置し、上記第1端点に対応する上記輝度値は上記第2端点に対応する上記輝度値より小さく、上記対象ピクチャに含まれる明領域画素の数は第4事前設定閾値以上であり、上記明領域画素の輝度値は第3事前設定閾値より大きく、上記複数の補間点は第4補間点を含み、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、
上記第4補間点の第1座標値が上記第2端点の第1座標値と同一であると決定する段階を含む、項目1から4のいずれか一項に記載の方法。
(項目6)
上記複数の補間点は更に第5補間点を含み、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、
上記明領域画素の上記数に基づいて上記第5補間点の第1座標値を決定する段階を含む、項目5に記載の方法。
(項目7)
上記複数の補間点は更に第6補間点を含み、上記対象ピクチャは更に明領域移行画素を含み、上記明領域移行画素の輝度値は上記第3事前設定閾値以下であり、上記対象ピクチャの輝度情報に基づいて複数の補間点を決定する上記段階は、上記明領域移行画素の数に基づいて上記第6補間点の第1座標値を決定する段階を含む、項目5または6に記載の方法。
(項目8)
上記ダイナミックメタデータは、上記複数の補間点の各々の座標情報を含む、項目1に記載の方法。
(項目9)
上記初期トーンマッピング曲線は第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は、上記第2端点に対応する輝度値より小さく、上記ダイナミックメタデータは領域輝度指示情報を含み、
上記領域輝度指示情報が暗領域を示すとき、上記複数の補間点は第1補間点を含み、上記第1補間点の第1座標値は上記第1端点の第1座標値と同一であり、および/または、
上記領域輝度指示情報が明領域を示すとき、上記複数の補間点は第2補間点を含み、上記第2補間点の第1座標値は上記第2端点の第1座標値と同一である、項目1に記載の方法。
(項目10)
上記初期トーンマッピング曲線は第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は上記第2端点に対応する輝度値より小さく、上記ダイナミックメタデータはP個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、上記対象ピクチャの輝度情報およびダイナミックメタデータに基づいて複数の補間点を決定する上記段階は、
上記P個の座標情報および上記対象ピクチャの上記輝度情報に基づいて、上記P個のキー画素は暗領域画素または明領域画素であると決定する段階であって、上記暗領域画素の輝度値は第1事前設定閾値より小さく、上記明領域画素の輝度値は第3事前設定閾値より大きい、段階と、
上記P個のキー画素が上記暗領域画素であるとき、上記複数の補間点は第1補間点を含むと決定する段階であって、上記第1補間点の第1座標値は上記第1端点の第1座標値と同一である、段階、または、
上記P個のキー画素が上記明領域画素であるとき、上記複数の補間点は第2補間点を含むと決定する段階であって、上記第2補間点の第1座標値は上記第2端点の第1座標値と同一である、段階と
を含む、項目1に記載の方法。
(項目11)
上記複数の補間点は第7補間点、第8補間点および第9補間点を含み、上記初期トーンマッピング曲線は上記第9補間点を通過し、上記複数の補間点を通過するスプライン関数を決定する上記段階は、
上記第7補間点および上記第8補間点を通過する第1スプライン関数を取得する段階と、
上記第8補間点および上記第9補間点を通過する第2スプライン関数を決定する段階であって、上記第2スプライン関数は上記第8補間点において上記第1スプライン関数に円滑に接続され、上記第2スプライン関数は上記第9補間点において上記初期トーンマッピング曲線に円滑に接続される、段階と
を含む、項目1から10のいずれか一項に記載の方法。
(項目12)
上記第1スプライン関数は一次スプライン関数であり、上記第2スプライン関数は三次スプライン関数である、項目11に記載の方法。
(項目13)
上記複数の補間点は第7補間点、第8補間点、および第9補間点を含み、上記スプライン関数は、上記第7補間点、上記第8補間点、および上記第9補間点を通過する第3スプライン関数を含み、上記第8補間点の第1座標値は、上記第7補間点の第1座標値と上記第9補間点の第1座標値との間にあり、
複数の補間点を決定する上記段階の前に、上記方法は更に、
第1オフセットを取得する段階であって、上記第1オフセットは、第1修正位置において上記初期トーンマッピング曲線の修正範囲を表すために使用され、上記第1修正位置は上記第8補間点の上記第1座標値である、段階を備え、
複数の補間点を決定する上記段階は、
上記第1修正位置における上記初期トーンマッピング曲線の関数値および上記第1オフセットに基づいて上記第8補間点の第2座標値を決定する段階を含み、
上記複数の補間点を通過するスプライン関数を決定する上記段階は、上記第8補間点の上記第1座標値および上記第8補間点の上記第2座標値に基づいて上記第3スプライン関数を決定する段階であって、上記第3スプライン関数は、上記第7補間点および/または上記第9補間点において上記初期トーンマッピング曲線に円滑に接続される、段階を含む、
項目1から10のいずれか一項に記載の方法。
(項目14)
上記第3スプライン関数は、上記第7補間点および上記第8補間点を通過する第4スプライン関数、ならびに、上記第8補間点および上記第9補間点を通過する第5スプライン関数を含み、上記第8補間点における上記第4スプライン関数の二次導関数値は、上記第8補間点における上記第5スプライン関数の二次導関数値と同一である、項目13に記載の方法。
(項目15)
上記複数の補間点は更に第10補間点を含み、上記第3スプライン関数は上記第10補間点を通過し、上記第10補間点の第1座標値は上記第7補間点の上記第1座標値と上記第9補間点の上記第1座標値との間にあり、
複数の補間点を決定する上記段階の前に、上記方法は更に、
第2オフセットを取得する段階であって、上記第2オフセットは、第2修正位置における上記初期トーンマッピング曲線の修正範囲を表すために使用され、上記第2修正位置は上記第10補間点の上記第1座標値である、段階を備え、
複数の補間点を決定する上記段階は更に、上記第2修正位置における上記初期トーンマッピング曲線の関数値および上記第2オフセットに基づいて上記第10補間点の第2座標値を決定する段階を含み、
上記第8補間点の上記第1座標値および上記第8補間点の上記第2座標値に基づいて上記第3スプライン関数を決定する上記段階は、
上記第8補間点の上記第1座標値および上記第2座標値、ならびに、上記第10補間点の上記第1座標値および上記第2座標値に基づいて上記第3スプライン関数を決定する段階であって、上記第3スプライン関数は、上記第7補間点および上記第9補間点の両方において上記初期トーンマッピング曲線に円滑に接続される、段階を含む、
項目13または14に記載の方法。
(項目16)
上記スプライン関数の導関数値は常に0より大きい、項目1から15のいずれか一項に記載の方法。
(項目17)
上記初期トーンマッピング曲線は、次式、すなわち、
【数15】
【数16】
【数17】
および
【数18】
の1つを含み、Lは線形信号値を表し、L'は非線形信号値を表し、p、a、m、b、c
1、c
2、c
3、n、Nおよびρはすべてダイナミックレンジマッピング係数であり、0≦L≦1である、
項目1から16のいずれか一項に記載の方法。
(項目18)
画像処理装置であって、
対象ピクチャおよび上記対象ピクチャの初期トーンマッピング曲線を取得するよう構成される取得モジュールと、
上記対象ピクチャの輝度情報および/またはダイナミックメタデータに基づいて複数の補間点を決定するよう構成される処理モジュールであって、上記処理モジュールは更に、上記複数の補間点を通過するスプライン関数を決定するよう構成され、上記スプライン関数は、上記複数の補間点の少なくとも1つにおいて上記初期トーンマッピング曲線に円滑に接続され、上記処理モジュールは更に、上記スプライン関数に基づいて上記初期トーンマッピング曲線を修正して上記対象ピクチャの修正トーンマッピング曲線を取得するよう構成される、処理モジュールと、
上記修正トーンマッピング曲線に基づいて上記対象ピクチャに対してトーンマッピングを実行するよう構成されるトーンマッピングモジュールと
を備える画像処理装置。
(項目19)
上記初期トーンマッピング曲線は第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は、上記第2端点に対応する輝度値より小さく、上記対象ピクチャに含まれる暗領域画素の数は第2事前設定閾値以上であり、上記暗領域画素の輝度値は第1事前設定閾値より小さく、上記複数の補間点は第1補間点を含み、
上記処理モジュールは具体的には、上記第1補間点の第1座標値が上記第1端点の第1座標値と同一であると決定するよう構成される、
項目18に記載の装置。
(項目20)
上記複数の補間点は更に第2補間点を含み、
上記処理モジュールは具体的には、上記暗領域画素の上記数に基づいて上記第2補間点の第1座標値を決定するよう構成される、項目19に記載の装置。
(項目21)
上記複数の補間点は更に第3補間点を含み、上記対象ピクチャは更に暗領域移行画素を含み、上記暗領域移行画素の輝度値は上記第1事前設定閾値以上であり、
上記処理モジュールは具体的には、上記暗領域移行画素の数に基づいて上記第3補間点の第1座標値を決定するよう構成される、
項目19または20に記載の装置。
(項目22)
上記初期トーンマッピング曲線は上記第1端点および上記第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の上記2つの端部に位置し、上記第1端点に対応する上記輝度値は、上記第2端点に対応する上記輝度値より小さく、上記対象ピクチャに含まれる明領域画素の数は第4事前設定閾値以上であり、上記明領域画素の輝度値は第3事前設定閾値より大きく、上記複数の補間点は第4補間点を含み、
上記処理モジュールは具体的には、上記第4補間点の第1座標値が上記第2端点の第1座標値と同一であると決定するよう構成される、
項目18から21のいずれか一項に記載の装置。
(項目23)
上記複数の補間点は更に第5補間点を含み、
上記処理モジュールは具体的には、上記明領域画素の上記数に基づいて上記第5補間点の第1座標値を決定するよう構成される、項目22に記載の装置。
(項目24)
上記複数の補間点は更に第6補間点を含み、上記対象ピクチャは更に明領域移行画素を含み、上記明領域移行画素の輝度値は上記第3事前設定閾値以下であり、
上記処理モジュールは具体的には、上記明領域移行画素の数に基づいて上記第6補間点の第1座標値を決定するよう構成される、
項目22または23に記載の装置。
(項目25)
上記ダイナミックメタデータは上記複数の補間点の各々の座標情報を含む、項目18に記載の装置。
(項目26)
上記初期トーンマッピング曲線は第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は、上記第2端点に対応する輝度値より小さく、上記ダイナミックメタデータは領域輝度指示情報を含み、
上記領域輝度指示情報が暗領域を示すとき、上記複数の補間点は第1補間点を含み、上記第1補間点の第1座標値は上記第1端点の第1座標値と同一であり、および/または、
上記領域輝度指示情報が明領域を示すとき、上記複数の補間点は第2補間点を含み、上記第2補間点の第1座標値は上記第2端点の第1座標値と同一である、項目18に記載の装置。
(項目27)
上記初期トーンマッピング曲線は、第1端点および第2端点を含み、上記第1端点および上記第2端点はそれぞれ、上記初期トーンマッピング曲線の2つの端部に位置し、上記第1端点に対応する輝度値は、上記第2端点に対応する輝度値より小さく、上記ダイナミックメタデータは、P個のキー画素と一対一の対応関係にあるP個の座標情報を含み、Pは正の整数であり、
上記処理モジュールは具体的には、上記P個の座標情報および上記対象ピクチャの上記輝度情報に基づいて、上記P個のキー画素は暗領域画素または明領域画素であると決定するよう構成され、上記暗領域画素の輝度値は第1事前設定閾値より小さく、上記明領域画素の輝度値は第3事前設定閾値より大きく、
上記P個のキー画素が上記暗領域画素であるとき、上記処理モジュールは具体的には、上記複数の補間点が第1補間点を含むと決定するよう構成され、上記第1補間点の第1座標値は上記第1端点の第1座標値と同一であり、または、
上記P個のキー画素が上記明領域画素であるとき、上記処理モジュールは具体的には、上記複数の補間点が第2補間点を含むと決定するよう構成され、上記第2補間点の第1座標値は、上記第2端点の第1座標値と同一である、
項目18に記載の装置。
(項目28)
上記複数の補間点は第7補間点、第8補間点、および第9補間点を含み、上記初期トーンマッピング曲線は上記第9補間点を通過し、
上記処理モジュールは具体的には、上記第7補間点および上記第8補間点を通過する第1スプライン関数を取得するよう構成され、
上記処理モジュールは具体的には、上記第8補間点および上記第9補間点を通過する第2スプライン関数を決定するよう構成され、上記第2スプライン関数は、上記第8補間点において上記第1スプライン関数に円滑に接続され、上記第2スプライン関数は、上記第9補間点において上記初期トーンマッピング曲線に円滑に接続される、
項目18から27のいずれか一項に記載の装置。
(項目29)
上記第1スプライン関数は一次スプライン関数であり、上記第2スプライン関数は三次スプライン関数である、項目28に記載の装置。
(項目30)
上記複数の補間点は第7補間点、第8補間点および第9補間点を含み、上記スプライン関数は、上記第7補間点、上記第8補間点、および上記第9補間点を通過する第3スプライン関数を含み、上記第8補間点の第1座標値は、上記第7補間点の第1座標値と上記第9補間点の第1座標値との間にあり、
上記処理モジュールが上記複数の補間点を決定する前に、上記取得モジュールは更に、第1オフセットを取得するよう構成され、上記第1オフセットは、第1修正位置において上記初期トーンマッピング曲線の修正範囲を表すために使用され、上記第1修正位置は上記第8補間点の上記第1座標値であり、
上記処理モジュールは具体的には、上記第1修正位置および上記第1オフセットにおける上記初期トーンマッピング曲線の関数値に基づいて上記第8補間点の第2座標値を決定するよう構成され、
上記処理モジュールは具体的には、上記第8補間点の上記第1座標値および上記第8補間点の上記第2座標値に基づいて上記第3スプライン関数を決定するよう構成され、上記第3スプライン関数は、上記第7補間点および/または上記第9補間点において上記初期トーンマッピング曲線に円滑に接続される、項目18から27のいずれか一項に記載の装置。
(項目31)
上記第3スプライン関数は、上記第7補間点および上記第8補間点を通過する第4スプライン関数、ならびに、上記第8補間点および上記第9補間点を通過する第5スプライン関数を含み、上記第8補間点における上記第4スプライン関数の二次導関数値は、上記第8補間点における上記第5スプライン関数の二次導関数値と同一である、項目30に記載の装置。
(項目32)
上記複数の補間点は更に第10補間点を含み、上記第3スプライン関数は上記第10補間点を通過し、上記第10補間点の第1座標値は上記第7補間点の上記第1座標値と上記第9補間点の上記第1座標値との間にあり、
上記処理モジュールが上記複数の補間点を決定する前に、上記取得モジュールは更に、第2オフセットを取得するよう構成され、上記第2オフセットは、第2修正位置において上記初期トーンマッピング曲線の修正範囲を表すために使用され、上記第2修正位置は上記第10補間点の上記第1座標値であり、
上記処理モジュールは具体的には、上記第2修正位置および上記第2オフセットにおいて上記初期トーンマッピング曲線の関数値に基づいて上記第10補間点の第2座標値を決定するよう構成され、
上記処理モジュールは具体的には、上記第8補間点の上記第1座標値および上記第2座標値、ならびに、上記第10補間点の上記第1座標値および上記第2座標値に基づいて、上記第3スプライン関数を決定するよう構成され、上記第3スプライン関数は、上記第7補間点および上記第9補間点の両方において上記初期トーンマッピング曲線に円滑に接続される、
項目30または31に記載の装置。
(項目33)
上記スプライン関数の導関数値は常に0より大きい、項目18から32のいずれか一項に記載の装置。
(項目34)
プロセッサおよび伝送インタフェースを備える画像処理装置であって、上記伝送インタフェースは、画像データを受信または送信するよう構成され、
上記プロセッサは、メモリに格納されたプログラム命令を呼び出し、項目1から17のいずれか一項に記載の方法を実行するために上記プログラム命令を実行するよう構成される、画像処理装置。
(項目35)
上記コンピュータ可読記憶媒体は命令を格納し、上記命令がコンピュータまたはプロセッサ上で実行されるとき、上記コンピュータまたは上記プロセッサは、項目1から17のいずれか一項に記載の方法を実行することが可能となる、コンピュータ可読記憶媒体。