(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024169330
(43)【公開日】2024-12-05
(54)【発明の名称】適応カラーボリュームマッピングを伴う高ダイナミックレンジ(HDR)画像処理
(51)【国際特許分類】
G06T 1/00 20060101AFI20241128BHJP
G06T 5/60 20240101ALI20241128BHJP
G06T 5/90 20240101ALI20241128BHJP
【FI】
G06T1/00 510
G06T5/60
G06T5/90
【審査請求】未請求
【請求項の数】20
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2024075695
(22)【出願日】2024-05-08
(31)【優先権主張番号】18/322,926
(32)【優先日】2023-05-24
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】502161508
【氏名又は名称】シナプティクス インコーポレイテッド
(74)【代理人】
【識別番号】100205350
【弁理士】
【氏名又は名称】狩野 芳正
(74)【代理人】
【識別番号】100117617
【弁理士】
【氏名又は名称】中尾 圭策
(72)【発明者】
【氏名】マンチ、チャンドラナート
【テーマコード(参考)】
5B057
【Fターム(参考)】
5B057CA01
5B057CB01
5B057CB16
5B057CC01
5B057CE16
5B057CE17
5B057CE18
(57)【要約】 (修正有)
【課題】知覚均一色空間で動作するカラーボリュームマッピング(CVM)のための方法、装置及びシステムを提供する。
【解決手段】表示システム100において、画像プロセッサ120は、知覚均一でない色空間に関連する色チャネルを有する画像データ102を受け取り、該画像データを知覚均一J
za
zb
z色空間に変換し、撮像装置(画像ソース)110によってサポートされているJ
z、a
z及びb
z値の範囲を、ディスプレイ装置(画像ターゲット)130によってサポートされているJ
z、a
z及びb
z値の範囲にマッピングするグローバルCVM演算を行い、受け取った画像の様々な特性に基づいて画像データのJ
z、a
z及びb
zチャネルを適応的に調整するローカルCVM演算を行い、画像プロセッサは、受け取った画像の低コントラスト領域における細部を保存するために、物体又は他の造作物のエッジにおいて適応的にJ
z値をブレンドする。
【選択図】
図1
【特許請求の範囲】
【請求項1】
画像処理の方法であって、
光-電気伝達関数(OETF)に基づいて撮像装置によって生成された画像を表す第1画像データを受け取ることと、
前記OETFの逆関数に基づいて、前記第1画像データを、RGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを有する第2画像データに変換することと、
前記第2画像データを、Jzazbz色空間に関連する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換することと、
ディスプレイ装置に関連するダイナミックレンジ又は色域に少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングすることと、
前記ディスプレイ装置による表示に合うように前記第1表示データを処理することと、
を含む方法。
【請求項2】
前記第2画像データを前記第3画像データに変換することが、
前記第2画像データを、LMS色空間に関連する長波長(L)、中波長(M)及び短波長(S)チャネルを有する第4画像データに変換することと、
前記第4画像データを、知覚量子化器(PQ)伝達関数に基づいて第5画像データに変換することと、
前記第5画像データを、前記PQ伝達関数に関連するPQドメイン内で前記第3画像データに変換することと、
を含む
請求項1に記載の方法。
【請求項3】
前記第1画像データに関連するメタデータを受け取ることを更に含み、
前記メタデータが、マスタリングディスプレイに関連するダイナミックレンジ又は色域を示す
請求項1に記載の方法。
【請求項4】
前記メタデータが、前記マスタリングディスプレイに関連する色校正データ、最大フレーム平均光量、最大コンテンツ光量、RGBプライマリ、白色点、又は、ディスプレイ最大及び最小光量を含む、
請求項3に記載の方法。
【請求項5】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jz、az及びbzチャネルにマッピングすることが、
受け取った前記メタデータと前記ディスプレイ装置に関連する前記ダイナミックレンジ又は色域とに少なくとも部分的に基づいて、複数のルックアップテーブル(LUT)を生成することと、
前記複数のLUTのうちの一以上の第1LUTに少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データのJzチャネルにマッピングすることと、
前記複数のLUTのうちの一以上の第2LUTに少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることと、
を含む
請求項3に記載の方法。
【請求項6】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることが、
前記一以上の第2LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルをグローバル彩度値にマッピングすることと、
ニューラルネットワークモデルに基づいて前記画像における一以上の造作物を分類することと、
前記一以上の造作物の前記分類に少なくとも部分的に基づいて、前記グローバル彩度値を前記第1表示データの前記az及びbzチャネルに再マッピングすることと、
を含む
請求項5に記載の方法。
【請求項7】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jzチャネルにマッピングすることが、
前記一以上の第1LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルを、複数のバンドに区分されている値のスペクトル内でグローバルトーン値にマッピングすることと、
前記グローバルトーン値のヒストグラム等化に基づいて、前記複数のバンドの各バンドのグローバルトーン値を、前記バンド内で、個別の等化トーン値にリマッピングすることと、
を含む
請求項5に記載の方法。
【請求項8】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jzチャネルにマッピングすることが、更に、
前記等化トーン値と前記第3画像データの前記Jzチャネルとの間の差に基づいて前記画像における細部を抽出することと、
前記抽出された細部に基づいて前記等化トーン値を調節することと、
を含む
請求項7に記載の方法。
【請求項9】
前記等化トーン値を調節することが、前記等化トーン値を、前記第3画像データの前記Jzチャネルと選択的にブレンドすることを含む
請求項8に記載の方法。
【請求項10】
前記画像の各画素が平坦な領域に対応しているのか、それともテクスチャーが存在する領域に対応しているのかを特定することを更に含み、
前記等化トーン値を選択的にブレンドすることが、前記画像の各画素が平坦な領域に対応しているのか、それともテクスチャーが存在する領域に対応しているのかに基づいている
請求項9に記載の方法。
【請求項11】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることが、
前記第2LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルをグローバル彩度値にマッピングすることと、
前記等化トーン値に少なくとも部分的に基づいて前記グローバル彩度値を動的に調節することと、
を含む
請求項7に記載の方法。
【請求項12】
前記第1表示データを処理することが、
前記第1表示データを、前記RGB色空間に関連するR、G及びBチャネルを有する第2表示データに変換することと、
前記ディスプレイ装置に関連する電気-光伝達関数(EOTF)の逆関数に基づいて前記第2表示データを第3表示データに変換することと、
を含む
請求項1に記載の方法。
【請求項13】
画像プロセッサであって、
処理システムと、
メモリであって、前記処理システムによって実行されたときに、前記画像プロセッサに、
光-電気伝達関数(OETF)に基づいて撮像装置によって生成された画像を表す第1画像データを受け取らせ、
前記OETFの逆関数に基づいて、前記第1画像データを、RGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを有する第2画像データに変換させ、
前記第2画像データを、Jzazbz色空間に関連する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換させ、
ディスプレイ装置に関連するダイナミックレンジ又は色域に少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングさせ、
前記ディスプレイ装置による表示に合うように前記第1表示データを処理させる命令を格納するメモリと、
を備える
画像プロセッサ。
【請求項14】
前記第2画像データを、前記第3画像データに変換することが
前記第2画像データを、LMS色空間に関連する長波長(L)、中波長(M)及び短波長(S)チャネルを有する第4画像データに変換することと、
前記第4画像データを、知覚量子化器(PQ)伝達関数に基づいて第5画像データに変換することと、
前記第5画像データを、前記PQ伝達関数に関連するPQドメイン内で前記第3画像データに変換することと、
を含む
請求項11に記載の画像プロセッサ。
【請求項15】
前記命令の実行が、更に、前記画像プロセッサに前記第1画像データに関連するメタデータを受け取らせ、
前記メタデータが、マスタリングディスプレイに関連するダイナミックレンジ又は色域を示す
請求項11に記載の画像プロセッサ。
【請求項16】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jz、az及びbzチャネルにマッピングすることが、
受け取った前記メタデータと前記ディスプレイ装置に関連する前記ダイナミックレンジ又は色域とに少なくとも部分的に基づいて、複数のルックアップテーブル(LUT)を生成することと、
前記複数のLUTのうちの一以上の第1LUTに少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データのJzチャネルにマッピングすることと、
前記複数のLUTのうちの一以上の第2LUTに少なくとも部分的に基づいて、前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることと、
を含む
請求項13に記載の画像プロセッサ。
【請求項17】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることが、
前記一以上の第2LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルをグローバル彩度値にマッピングすることと、
ニューラルネットワークモデルに基づいて前記画像における一以上の造作物を分類することと、
前記分類に少なくとも部分的に基づいて、前記グローバル彩度値を前記第1表示データの前記az及びbzチャネルに再マッピングすることと、
を含む
請求項15に記載の画像プロセッサ。
【請求項18】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jzチャネルにマッピングすることが、
前記一以上の第1LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルを、複数のバンドに区分されている値のスペクトル内でグローバルトーン値にマッピングすることと、
前記グローバルトーン値のヒストグラム等化に基づいて、前記複数のバンドの各バンドのグローバルトーン値を、前記バンド内で、個別の等化トーン値にリマッピングすることと、
を含む
請求項15に記載の画像プロセッサ。
【請求項19】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記Jzチャネルにマッピングすることが、
前記等化トーン値と前記第3画像データの前記Jzチャネルとの間の差に基づいて前記画像における細部を抽出することと、
前記抽出された細部に基づいて前記等化トーン値を調節することと、
を更に含む
請求項17に記載の画像プロセッサ。
【請求項20】
前記第3画像データの前記Jz、az及びbzチャネルを前記第1表示データの前記az及びbzチャネルにマッピングすることが、
前記一以上の第2LUTに基づいて、前記第3画像データの前記Jz、az及びbzチャネルをグローバル彩度値にマッピングすることと、
前記等化トーン値に少なくとも部分的に基づいて前記グローバル彩度値を動的に調節することと、
を含む
請求項17に記載の画像プロセッサ。
【発明の詳細な説明】
【技術分野】
【0001】
本実施形態は、全体としては画像処理に関しており、具体的には、適応トーン及びカラーボリュームマッピングを伴う高ダイナミックレンジ(HDR)画像処理に関している。
【背景技術】
【0002】
(例えばテレビ、セットアップボックス、コンピュータ、携帯電話のような)ディスプレイ装置は、(例えばカメラ、ビデオレコーダのような)撮像装置によって使用されるものと異なる画像技術を使用することがある。ディスプレイ技術における進歩により、例えば高ダイナミックレンジ、広色域、高解像度(HD)ディスプレイ技術から超高解像度(UHD)ディスプレイ技術への移行等、機能が向上している。その結果、異なるシステム性能及び規格のデバイスによって撮像された画像を所与のディスプレイ上で適切に描画するために画像処理が使用されることがある。例えば、標準ダイナミックレンジ(SDR)のコンテンツのみを表示できるディスプレイ装置では、高ダイナミックレンジ(HDR)形式で撮像された画像の色、輝度又はコントラストの全範囲を再生できないことがある。画像プロセッサは、ディスプレイ装置上で画像がより正確に又はリアルに再生可能であるように(例えば、ディスプレイの全ダイナミックレンジを使用するように)撮像装置によって生成された原画像データを修正することがある。
【0003】
画像処理技術(「トーンマッピング」という)には、SDRディスプレイ上で描写されるようにHDR画像の色、輝度又はコントラストを低減するものがある。他の画像処理技術(「逆トーンマッピング」ともいう)としては、HDRディスプレイ上で描写されるようにSDR画像の色、輝度又はコントラストを増大するものがある。撮像装置とディスプレイ装置の両方がHDRをサポートしている場合でも、(例えば輝度、色、コントラスト及び解像度が電子的に制約されるテレビのような)ディスプレイ環境と(例えば輝度、色、コントラスト及び解像度が無制限である自然環境のような)撮像環境との間には相違があるので、画像処理を行うことにより表示画像の質を更に向上可能である。撮像技術及びディスプレイ技術は発達し続けるので、撮像装置とディスプレイ装置との間の性能(例えば、ダイナミックレンジや色域)の橋渡しをするために、新規な画像処理技術が必要とされる。
【発明の概要】
【0004】
本概要は、「発明を実施するための形態」において以下で更に説明されている概念の選択を、簡略化した形式で紹介するために提供される。本概要は、請求された主題の主要な特徴又は本質的な特徴を特定することを意図したものではなく、請求された主題の技術的範囲を限定することを意図したものでもない。
【0005】
本開示の主題の一の革新的な態様は、画像処理の方法に実装可能である。当該方法は、光-電気伝達関数(OETF)に基づいて撮像装置によって生成された、画像を表す第1画像データを受け取ることと、OETFの逆関数に基づいて、第1画像データをRGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを含む第2画像データに変換することと、第2画像データを、Jzazbz色空間に関連する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換することと、ディスプレイ装置に関連するダイナミックレンジ又は色域に少なくとも部分的に基づいて、第3画像データのJz、az及びbzチャネルを表示データのJz、az及びbzチャネルにマッピングすることと、表示データをディスプレイ装置による表示に合うように処理することと、を含む。
【0006】
本開示の主題の他の革新的な態様は、ハードウェア処理及びソフトウェア処理を備える処理システムを含む画像プロセッサに実装可能である。該ハードウェア処理及びソフトウェア処理は、画像プロセッサに、OETFに基づいて撮像装置によって生成された、画像を表す第1画像データを受け取らせ、OETFの逆関数に基づいて、第1画像データをRGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを含む第2画像データに変換させ、第2画像データを、Jzazbz色空間に対応する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換させ、ディスプレイ装置に関連するダイナミックレンジ又は色域に少なくとも部分的に基づいて、第3画像データのJz、az及びbzチャネルを表示データのJz、az及びbzチャネルにマッピングさせ、表示データをディスプレイ装置による表示に合うように処理させる。
【図面の簡単な説明】
【0007】
本実施形態は例として示されており、添付図面の形態によって限定されることを意図していない。
【0008】
【
図1】
図1は、いくつかの実施形態による、撮像及びディスプレイシステムの例のブロック図を図示している。
【0009】
【
図2】
図2は、いくつかの実施形態による、画像処理システムの例のブロック図を図示している。
【0010】
【
図3】
図3は、いくつかの実施形態による、カラーボリュームマッピング(CVM)システムの例を図示している。
【0011】
【
図4】
図4は、いくつかの実施形態による、グローバルCVMのためのシステムの例のブロック図を図示している。
【0012】
【
図5】
図5は、いくつかの実施形態による、ローカルCVMのためのシステムの例のブロック図を図示している。
【0013】
【
図6】
図6は、適応ヒストグラム等化を伴うグローバル画素トーン値のローカル画素トーン値へのマッピングの例を図示している。
【0014】
【
図7】
図7は、いくつかの実施形態による、適応細部プロセッサの例のブロック図を図示している。
【0015】
【
図8】
図8は、いくつかの実施形態による、画像処理システムの例の他のブロック図を図示している。
【0016】
【
図9】
図9は、いくつかの実施形態による、画像処理のための動作例を示す例示的なフローチャートを図示している。
【発明を実施するための形態】
【0017】
以下の説明においては、本開示の深い理解を提供するために、具体的なコンポーネント、回路及び処理の例のような、多くの具体的詳細が提示されている。本明細書において「結合された」という用語は、直接に接続されていること、又は、一以上の介在するコンポーネント又は回路を介して接続されていることを意味している。「電子システム」及び「電子デバイス」という用語は、電子的に情報を処理することが可能な任意のシステムをいうために同義的に使用されることがある。また、以下の記載において、説明の目的で、本開示の態様の深い理解を提供するために特定の術語体系が提示されている。しかしながら、これらの具体的な詳細が、例示的な実施形態を実施するために必要とされないことがあることは、当業者には自明であろう。他の例として、周知の回路及びデバイスは、本開示を曖昧にすることを避けるためにブロック図の形態で図示される。下記の、発明を実施するための形態のいくつかの部分は、手順、論理ブロック、処理及びコンピュータメモリ内のデータビットへの操作の他の記号による表現の形態で提示される。
【0018】
これらの記述や表現は、データ処理技術の当業者が、その仕事の内容を他の当業者に最も効果的に伝えるために用いる手段である。本開示において、手順、論理ブロック、処理等は、所望の結果に至るステップ又は命令の自己一貫性のあるシーケンスであると考えられる。該ステップは、物理量の物理的操作を要求するようなものである。必ずしもそうではないが、通常、これらの量は、コンピュータシステム内で格納され、転送され、結合され、比較され、又は、他の態様で操作することが可能な電気的又は磁気的信号の形態をとる。しかしながら、これらの用語及び類似の用語の全ては、適切な物理量に関連付けられるべきものであり、これらの量に適用される便宜的なラベルに過ぎないことに留意すべきである。
【0019】
特に異なると述べられていない限り、下記の議論から自明であるように、本出願の全体を通して、「アクセスする」、「受信する」、「送信する」、「用いる」、「選択する」、「決定する」、「正規化する」、「乗算する」、「平均化する」、「監視する」、「比較する」、「適用する」、「更新する」、「測定する」、「導き出す」等の用語を用いた議論は、コンピュータシステムのレジスタ及びメモリ内の(電子的な)物理量として表現されたデータを操作してコンピュータシステムのメモリ又はレジスタ又は他のそのような情報を格納、伝送又は表示するデバイス内で物理量として同様に表現される他のデータに変換するコンピュータシステム又は類似の電子的計算デバイスの動作又は処理をいうと理解される。
【0020】
図において、単一のブロックが一の機能又は複数の機能を実行すると記載されることがある。しかしながら実際の実施においては、そのブロックによって実施される該一の機能又は複数の機能は、単一のコンポーネントにおいて実施され得るものであり、また、複数のコンポーネントに渡って実施され得るものであり、及び/又は、ハードウェアを用いて、ソフトウェアを用いて、又はハードウェアとソフトウェアの組み合わせを用いて実施され得るものである。このハードウェアとソフトウェアの互換性を明確に図示するために、様々な例示的なコンポーネント、ブロック、モジュール、回路及びステップが、下記では、一般に、その機能の観点で説明されている。このような機能がハードウェアとして実装されるかソフトウェアとして実装されるかは、全体システムに課せられる個別の応用及び設計の制約に依存している。当業者は、説明されている機能を、各個別の応用のために様々な方法で実装し得るが、このような実装上の決定が、本開示の範囲からの乖離を生じさせるとして解釈すべきではない。また、例示的な入力装置は、プロセッサ、メモリ等のような周知のコンポーネントを含む、図示されているもの以外のコンポーネントを備えることがある。
【0021】
本明細書に記載された技術は、特定の態様で実装されると特に記載されていない限り、ハードウェア、ソフトウェア、ファームウェア又はそれらの任意の組み合わせにおいて実装され得る。また、モジュール又はコンポーネントとして説明されている任意の機構は、集積論理デバイスに纏めて実装されることもあり、また、別々の、しかしながら協働可能な論理デバイスとして分離して実装されることがある。ソフトウェアに実装される場合、当該技術は、実行されたときに上述された方法の一以上を実施する命令を含む非一時的プロセッサ読み取り可能記録媒体によって少なくとも部分的に実現され得る。該非一時的プロセッサ読み取り可能記録媒体は、包装材を含むことがある、コンピュータプログラム製品の一部を構成することがある。
【0022】
非一時的プロセッサ読み取り可能記録媒体は、同期型ダイナミックランダムアクセスメモリ(SDRAM)のようなランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、不揮発性ランダムアクセスメモリ(NVRAM)、電気的消去可能プログラム可能読み出し専用メモリ(EEPROM)、フラッシュメモリ、及び、他の公知の記憶媒体等を備えることがある。当該技術は、加えて、又は、その代わりに、コンピュータ又は他のプロセッサによってアクセスされ、読み出され、及び/又は実行可能な命令又はデータ構造の形態のコードを伝搬又は通信するプロセッサ読み出し可能通信媒体によって少なくとも部分的に実現され得る。
【0023】
本明細書に開示された実施形態に関連して説明されている様々な例示的な論理ブロック、モジュール、回路及び命令は、一以上のプロセッサ(又は処理システム)によって実行され得る。本明細書でいう「プロセッサ」という用語は、メモリに格納された一以上のソフトウェアプログラムのスクリプト又は命令を実行可能な任意の汎用プロセッサ、特別用途プロセッサ、従来のプロセッサ、コントローラ、マイクロコントローラ及び/又はステートマシンをいうことがある。
【0024】
上述のように、所与のディスプレイ上で異なるシステム性能及び規格のデバイスによって撮像された画像を適切に描画するために画像処理が使用されることがある。より具体的には、画像プロセッサは、ディスプレイ装置上で画像がより正確に又はリアルに再生可能であるように(例えば、ディスプレイの全ダイナミックレンジを使用するように)撮像装置によって生成された原画像データを修正することがある。多くの既存の撮像装置及びディスプレイ装置は、輝度(Y)及びクロミナンス(UV)色チャネルを有する画像データを処理するように構成される。従って、多くの既存の画像プロセッサは、YUV色空間において、トーンマッピング演算又は逆トーンマッピング演算を実行するように設計される。しかしながら、Y及びUV色チャネルは、完全には直交ではない。言い換えれば、所与の画像のY成分のダイナミックレンジを変更すると、如何なる識別可能な色相の彩度も様々な量で変化する。従って、YUV色空間でトーンマッピング又は逆トーンマッピングを行うと、質、レイテンシ、メモリ及び処理リソースに重大な不利益を生じさせることがあり、これは、(例えば、動画処理、又はバッテリ駆動装置やその他のリソースが限定された先端機器内の実装のような)多くの画像処理アプリケーションに不適切である場合がある。
【0025】
本開示の態様は、知覚均一色空間(UCS)内でトーンマッピング演算及び逆トーンマッピング演算を行うことにより、正確性を失うことなく、画像処理のオーバーヘッドを大きく低減できることを認識している。UCSは、色空間の任意の2点間の幾何学的距離が、知覚される色の等しい変化量を反映している任意の色空間である。トーンマッピング及び逆トーンマッピングに適切なUCSの例は、明度(Jz)、赤-緑(az)及び黄-青(bz)色成分によって定義されるJzazbz色空間である。
【0026】
様々な態様が、全体としては画像処理に関しており、より具体的にはJzazbz色空間において動作するカラーボリュームマッピング(CVM)技術に関している。態様によっては、画像処理システムが、知覚均一でない(例えば、RGB又はYUVのような)色空間に関連する色チャネルを有する画像データを受け取ることがあり、該画像データをJzazbz色空間に変換することがある。実施形態によっては、画像処理システムが(例えば撮像装置のような)画像ソースによってサポートされているJz、az及びbz値の範囲を(例えばディスプレイ装置のような)画像ターゲットによってサポートされるJz、az及びbz値の範囲にマッピングするグローバルCVM演算を行うことがある。他の実施形態には、画像処理システムが、更に、受け取った画像の様々な特性に基づいて画像データのJz、az及びbzチャネルを適応的に調整するローカルCVM演算を行うものもある。また更に、実施形態によっては、画像処理システムが、受け取った画像の低コントラスト領域における高周波数の細部を保存するために、物体又は他の造作物のエッジにおいて適応的にJz値をブレンドすることがある。
【0027】
本開示に説明されている主題の個々の実施形態は、下記の潜在的な利点の一以上を実現するように実装可能である。(例えばJzazbzのような)知覚均一色空間において画像データを処理することにより、本開示の態様は、正確性を失うことなく、(例えばトーンマッピング及び逆トーンマッピングのような)CVM演算のレイテンシ及び計算負荷を大きく低減し得る。例えば、YUV色空間とは異なり、Jzazbz色空間は、知覚均一色空間である。従って、トーンマッピング演算及び逆トーンマッピング演算が、(YUV色空間におけるトーンマッピング演算及び逆トーンマッピング演算のために一般に使用される3次元(3D)ルックアップテーブル(LUT)と比較して)Jzazbz色空間では2次元(2D)ルックアップテーブル(LUT)を使用して実行可能である。加えて、本開示の態様は、動画処理についてのデータの正確性が高く、また、広範囲のプログラミング上の選択とハードウェアの柔軟性とを提供する。従って、本実施形態のCVM技術は、(例えばセットアップボックス、デジタルテレビ、ストリーミングデバイス及び他の動画アプリケーションのような)面積が制約される低レイテンシのアプリケーション、又は、(例えば、低消費電力の先端装置のような)メモリ及び処理リソースが制限されたデバイスに適切であり得る。
【0028】
図1は、いくつかの実施形態による、撮像及び表示システム100の例のブロックである。システム100は、撮像装置(「画像ソース」ともいう)110と、画像プロセッサ120と、ディスプレイ装置(「画像ターゲット」ともいう)130とを備えている。撮像装置110は、光のパターン101(「シーン光」ともいう)を捉え、捉えた光をデジタル画像に変換する。例えば、撮像装置110は、カメラであり得る。ディスプレイ装置130は、対応するディスプレイの表面で光のパターンをディスプレイ光104として再生することによってデジタル画像を表示する。適切なディスプレイ装置の例としては、テレビ、コンピュータモニタ、ラップトップ、タブレット、スマートフォン等が挙げられる。
【0029】
撮像装置110は、センサ112と、光-電気伝達関数(OETF)114と、色空間コンバータ(CSC)116とエンコーダ118とを備えている。センサ112は、シーン光101を電気信号Ecに変換する。実施形態によっては、センサ112が、それぞれがシーン光101の個別の画素をサンプリングするように構成された(例えば電荷結合デバイス(CCD)セルや相補金属酸化物半導体(CMOS)セルのような)光学検知素子のアレイを備えることがある。OETF 114は、電気信号Ecを、RGB色空間に関連する赤(R)、緑(G)及び青(B)色チャネルを有する符号化画像データ(RGBc)に変換する。より具体的には、OETF 114は、RGB情報をアナログドメインからデジタルドメインに変換する。例えば、OETF 114は、アナログ電気信号Ecを、センサ112に関連する原色成分を表すデジタルR、G及びB値に変換することがある。
【0030】
CSC 116は、符号化画像データRGBcに関連する色空間を変更する。態様によっては、CSC 116が、符号化画像データRGBcを、RGB色空間からエンコーダ118がディスプレイ装置130への送信のために圧縮又はエンコードすることが容易であり得る(例えばYUV色空間のような)他の色空間に変換することがある。実施形態によっては、CSC 116が、符号化画像データRGBcを、YUV色空間に関連する輝度(Y)及びクロミナンス(UV)チャネルを有する画像データ(YUVc)に変換することがある。エンコーダ118は、画像プロセッサ120又はディスプレイ装置130への送信のために、変換後の画像データYUVcを撮像データ102としてエンコードする。例えば、エンコーダ118は、通信媒体(簡潔性のために図示されない)又はディスプレイ装置130によってサポートされている様々な通信規格又はプロトコルに少なくとも部分的に基づいて、変換後の画像データYUVcに対してデータ圧縮又は信号変調を行うことがある。
【0031】
画像プロセッサ120は、撮像データ102を処理し、(撮像装置110とディスプレイ装置130とによってサポートされているダイナミックレンジ又は色域の相違を前提として)ディスプレイ装置130上で元のシーン光101をより正確に又はよりリアルに再生するために使用可能な表示データ103を生成する。例えば、標準ダイナミックレンジ(SDR)のコンテンツのみを表示可能なディスプレイ装置は、高ダイナミックレンジ(HDR)フォーマットで撮像された画像の色、輝度又はコントラストの全範囲を再生できないことがある。一方、SDRフォーマットで撮像された画像は、HDRコンテンツを表示することができるディスプレイ装置によってサポートされている色、輝度又はコントラストの全範囲を使用しないことがある。従って、画像プロセッサ120は、撮像装置110の画像取得能力とディスプレイ装置130の画像表示能力との橋渡しをすることがある。態様によっては、画像プロセッサ120が撮像装置110に組み込まれることがある。他の態様では、画像プロセッサ120が画像ディスプレイ装置130に組み込まれるものもある。
【0032】
ディスプレイ装置130は、デコーダ132と、CSC134と、電気-機械伝達関数(EOFT)136と、ディスプレイ138とを備えている。デコーダ132は、表示データ103を画像プロセッサ120から受け取り、受け取ったデータをデコードしてYUV色空間に関連するY、U及びVチャネルを有する表示データ(YUVD)を復元する。実施形態によっては、デコーダ132が撮像装置110のエンコーダ118によって行われるエンコードの逆を行うことがある。CSC134は、復元された画像データYUVDに関連する色空間を変更する。態様によっては、CSC134が、復元された画像データYUVDを、YUV色空間から、画像を描画し、表示するためにディスプレイ138によって使用される他の色空間(例えば、RGB色空間)に変換することがある。実施形態によっては、CSC134が、画像データYUVDを、RGB色空間に関連するR、G及びB色チャネルを有する画像データ(RGBD)に変換することがある。
【0033】
EOTF136は、変換後の画像データRGBDを、ディスプレイ138の画素を点灯するために使用可能な電気信号EDに変換する。より具体的には、EOTF136は、RGB情報をデジタルドメインからアナログドメインに変換する。例えば、EOTF136は、デジタル画像データRGBDをディスプレイ138に関連するアナログ輝度値(又は「nits」)に変換することがある。ディスプレイ138は、電気信号EDをディスプレイ光104に変換する。例えば、ディスプレイ138は、(例えば陰極線管(CRT)、液晶ディスプレイ(LCD)、有機発光ダイオード(OLED)又は他のディスプレイ技術を使用して)、それぞれが、対応する画像の個別の画素を表示するように構成された画素素子のアレイを備えていてもよい。より具体的には、各画素素子によって出力される光の色及び輝度が、電気信号EDの特性によって規定され、さもなければ指示されることがある。
【0034】
撮像装置110のOETF 114は、電気信号ECに非線形変換を行う。より具体的には、OETF 114は、電気信号ECを線形ドメインから非線形ドメインに移行させる。その結果、画像プロセッサ120によって受け取られる撮像データ102は非線形である。本開示の態様は、多くの画像処理演算が、線形画像データに対して行う場合よりも非線形画像データに対して行う場合の方が複雑であることを認識している。従って、態様によっては、画像プロセッサ120が、逆光-電気伝達関数(IOETF)122と、カラーボリュームマッピング(CVM)コンポーネント123と、逆電気-光伝達関数(IEOTF)124とを備えることがある。IOETF 122は、表示データ103として処理するために撮像データ102を線形ドメインに戻す。従って、IOETF 122は、OETF 114の逆関数であり得る。IEOTF124は、表示データ103を、ディスプレイ装置130による表示のために非線形ドメインに戻す。従って、IEOTF124は、EOTF136の逆関数であり得る。
【0035】
CVMコンポーネント123は、線形撮像データ102を線形表示データ103にマッピングするように構成されている。実施形態によっては、CVMコンポーネント123が、SDRディスプレイ装置上での表示のためにHDR画像の色、輝度又はコントラストを低減する(「トーンマッピング」ともいう)ことがある。他の実施形態では、CVMコンポーネント123が、HDRディスプレイ装置上での表示のためにSDR画像の色、輝度又はコントラストを増加する(「逆トーンマッピング」ともいう)こともある。更にまた、実施形態によっては、CVMコンポーネント123が、(例えば画像ソースと画像ターゲットによってサポートされるダイナミックレンジ又は色域の差を補償するために)HDRディスプレイ装置上での表示のためにHDR画像データの色、輝度又はコントラストを調節することがある。
【0036】
上述のように、撮像データ102は、Y、U及びV色チャネルを有する変換後の画像データYUVCに基づいてエンコードされる。従って、撮像データ102も、YUV色空間に関連している。しかしながら、YUV色空間は、知覚均一色空間ではない。従って、明度プレーン、彩度プレーン及び色相プレーンは、互いに直交していない。言い換えれば、輝度範囲を変更すると、異なる色相の色について異なる量の彩度の変化を生じさせるであろう。同様に、彩度の範囲を変更すると、異なる色について異なる量の輝度レベルの変化を生じさせるであろう。従って、YUV色空間においてトーンマッピング又は逆トーンマッピングを行うことは、アーティファクトを生じさせやすく、レイテンシ、メモリ及び処理リソースに重大な不利益を生じさせることがある。これは、多くの画像処理アプリケーション(例えば動画処理や、バッテリ駆動又はリソースに制約がある他の先端デバイス内の実装)に適切でないことがある。
【0037】
本開示の態様は、例えば、明度(Jz)、赤-緑(az)及び黄-青(bz)色成分によって定義されるJzazbz色空間のような知覚均一色空間(UCS)においてトーンマッピング演算及び逆トーンマッピング演算を行うことによって、正確性を失うことなく、画像処理のオーバーヘッドを大きく低減可能であることを認識している。態様によっては、画像プロセッサ120が、画像処理のために、撮像データ102をJzazbz色空間に変換することがある。より具体的には、画像プロセッサ120が、撮像データ102のY、U及びVチャネルをJzazbz色空間に関連するJz、az及びbzチャネルに変換することがある。CVMコンポーネント123は、更に、撮像装置110とディスプレイ装置130のそれぞれでサポートされているダイナミックレンジ又は色域に基づいて、撮像データ102のJz、az及びbzチャネルを表示データ103のJz、az及びbzチャネルにマッピングすることがある。
【0038】
図2は、いくつかの実装による、画像処理システム200の例のブロック図を図示している。画像処理システム200は、ソース装置(例えば撮像装置)によって撮像された画像データ(YUV
in)をターゲット装置(例えばディスプレイ装置)による表示のための表示データ(YUV
out)に変換するように構成されている。実施形態によっては、画像処理システム200が、
図1のCVMコンポーネント123の一例である場合がある。例えば
図1を参照して、画像データYUV
inが撮像データ102の一例である場合があり、表示データYUV
outが表示データ103の一例である場合がある。
【0039】
画像処理システム200は、色空間コンバータ(CSC)202と、全範囲エキスパンダ204と、IOETF 206と、RGB-長波長、中波長、短波長(LMS)CSC 208と、知覚量子化器(PQ)IEOTF 210と、LMS-Jzazbz CSC 212と、ソース-ターゲット間(S-T)カラーボリュームマッパー(CVM)214と、Jzazbz-LMS CSC 216と、PQ EOTF 218と、LMS-RGB CSC 220と、IEOTF 222と、CSC224とを備えている。CSC 202は、受け取った画像データYUVinを、RGB色空間に関連するR、G、B色チャネルを有する画像データ(RGBin)に変換する。実施形態によっては、CSC 202が、受け取った画像データYUVinをYUV色空間からRGB色空間に変換することがある。他の実施形態には、画像処理システム200が、直接、RGB色空間における画像データRGBinを受け取るものもある。このような実施形態では、CSC 202が、バイパスされるか、画像処理システム200から省略されることがある。
【0040】
全範囲エキスパンダ204は、変換後の画像データRGBinの最大範囲を拡大して拡大画像データ(RGBexp)を生成する。例えば、デジタルYUV値の範囲は、タイミング参照の目的でいくつかのコードを確保するために人為的な最小値(“min”)と人為的な最大値(“max”)との間に制限されることがある。従って、受け取った画像データYUVinが(例えば12ビットの範囲で256から3760までに)制限されている場合、全範囲拡大により、拡大画像データRGBexpがRGB色空間と関連する所定の最大範囲(例えば、0から4095まで)内になるようにすることがある。受け取った画像データYUVinがRGB色空間に変換されても、変換された画像データRGBinに関連する値の範囲は、同じままであり得る。従って、R、G及びBコンポーネントのそれぞれは、制限された1組のパラメータのみを用いて拡張されることがある。
【0041】
IOETF 206は、拡張画像データRGB
expを線形補間画像データ(RGB
lin
i)に変換する。実施形態によっては、IOETF 206がソース装置によって実装されるOETFの逆関数であり得る。例えば
図1を参照して、IOETF 206は、画像プロセッサ120のIOETF 122の一例であり得る。従って、IOETF 206は、撮像装置110のOETF 114の逆関数である場合がある。高精度のIOETFカーブを得る一方でルックアップテーブル(LUT)の格納のためのメモリ要求を低減するために、IOETF 206は、128分割区分線形補間法を用いて16ビットのRGB成分を線形ドメインにおける32ビットのRGB成分に変換することがある。
【0042】
RGB-LMS CSC 208は、線形画像データRGB
lin
iを、LMS色空間に関連する長波長(L)、中波長(M)及び短波長(S)チャネルを有する画像データ(LMS
lin
i)に変換する。L、M及びSチャネルは、人間の眼における3種類の錐体の応答を表している。従って、変換後の画像データLMS
lin
iは、本明細書において「知覚画像データ」ということもある。実施形態によっては、RGB-LMS CSC 208が、国際照明委員会(CIE)によって規定された三刺激(XYZ)空間への中間変換を介して線形画像データRGB
lin
iを知覚画像データLMS
lin
iに変換することがある。
【数1】
ここで、X
D65、Y
D65及びZ
D65は、CIE標準光源D65を白色点b=1.15及びg=0.66とするCIE XYZ三刺激空間に属している。本開示の態様は、如何なるRGB色空間もCIE XYZ三刺激空間に変換可能であることを認識している。従って、画像データをRGB色空間からXYZ色空間に変換するために使用される変換行列は、画像処理システム200によって実装されるRGB色空間に依存することがある。
【0043】
PQ IEOTF 210は、知覚画像データLMS
lin
iを線形ドメインからPQドメインに変換する。PQ IEOTF 210は、HDRディスプレイについて米国映画テレビ技術者協会(SMPTE)規格、及び、国際電気通信連合(ITU)規格によって採用されている非線形伝達関数である。例えば、PQドメインは、0.0001~10000nitsの範囲の輝度レベルをサポートしている。従って、PQ IEOTF 210は、知覚画像データLMS
lin
iのL、M及びSチャネルをPQ画像データ(LMS
PQ
i)のL’、M’及びS’チャネルに変換することがある。
【数2】
ここで、c
1=3424/2
12
、c
2=2413/2
7、c
3=2392/2
7、n=2610/2
14、p=1.7×2523/2
5である。
【0044】
LMS-J
za
zb
z CSC 212は、PQ画像データLMS
PQ
iを、J
za
zb
z色空間に関連する明度(J
z)、赤-緑(a
z)及び黄-青(b
z)チャネルを有する画像データ(J
za
zb
z
i)に変換する。
図1を参照して説明しているように、J
za
zb
z色空間は知覚均一である。従って、本明細書において、変換後の画像データJ
za
zb
z
iを「知覚均一画像データ」ともいうことがある。実施形態によっては、LMS-J
za
zb
z CSC 212が、下記の式1及び式2に従ってPQ画像データLMS
PQ
iを知覚均一画像データJ
za
zb
z
iに変換することがある。
【数3】
ここで、d=-0.56であり、d
0=1.6295499532821566×10
-11である。
【0045】
S-T CVM 214は、知覚均一画像データJzazbz
iをターゲット装置上での提示により適切な知覚均一画像データJzazbz
dにマッピングするように構成されている。より具体的には、S-T CVM 214は、ソース装置によってサポートされているJz値、az値及びbz値の範囲を、ターゲット装置によってサポートされているJz値、az値及びbz値の範囲にマッピングすることがある。実施形態によっては、S-T CVM 214が、Jzazbz
iのJzチャネルを、Jz値のより狭い範囲にマッピング(「トーンマッピング」ともいう)することによって知覚均一画像データJzazbz
iに関連するダイナミックレンジを低減することがある。他の実施形態には、S-T CVM 214が、Jzazbz
iのJzチャネルを、Jz値のより広い範囲にマッピング(「逆トーンマッピング」ともいう)することによって知覚均一画像データJzazbz
iに関連するダイナミックレンジを増加するものもある。
【0046】
実施形態によっては、S-T CVM 214が、Jzazbz
iのaz及びbzチャネルを、az値及びbz値のより狭い範囲にマッピングする(「彩度マッピング」ともいう)ことによって知覚均一画像データJzazbz
iに関連する色域を小さくすることがある。実施形態によっては、S-T CVM 214が、Jzazbz
iのaz及びbzチャネルを、az値及びbz値のより広い範囲にマッピングする(「逆彩度マッピング」ともいう)ことによって知覚均一画像データJzazbz
iに関連する色域を拡大することがある。Jzチャネルはazチャネル及びbzチャネルと直交しているので、S-T CVM 214は、画像の彩度に影響を及ぼさずに知覚均一画像データJzazbz
iの明暗(又はJzチャネル)を調節することができる。S-T CVM 214は、画像の明暗に影響を及ぼさずに知覚均一画像データJzazbz
iの彩度(又はaz及びbzチャネル)を調節することもできる。
【0047】
J
za
zb
z-LMS CSC 216は、知覚均一表示データJ
za
zb
z
dをLMS色空間に関連するL’、M’及びS’チャネルを有する知覚表示データ(LMS
PQ
d)に変換する。より具体的には、J
za
zb
z-LMS CSC 216は、LMS-J
za
zb
z CSC 212によって実行される色空間変換の逆変換を行うことがある。実施形態によっては、J
za
zb
z-LMS CSC 216が、知覚均一表示データJ
za
zb
z
dを、下記の式3及び式4に従って知覚表示データLMS
PQ
dに変換することがある:
【数4】
ここで、d=-0.56であり、d
0=1.6295499532821566×10
-11である。
【0048】
PQ EOTF 218は、知覚表示データLMS
PQ
dをPQドメインから線形ドメインに戻す変換を行う。より具体的には、PQ EOTF 218は、PQ IEOTF 210の逆関数である場合がある。従って、PQ EOTF 218は、知覚表示データLMS
PQ
dのL’、M’及びS’チャネルを線形表示データ(LMS
lin
d)のL、M及びSチャネルに変換することがある。
【数5】
ここで、c
1=3424/2
12、c
2=2413/2
7、c
3=2392/2
7、n=2610/2
14、p=1.7×2523/2
5である。
【0049】
LMS-RGB CSC 220は、線形表示データLMS
lin
dをRGB色空間に関連するR、G及びBチャネルを有する表示データ(RGB
lin
d)に変換する。より具体的には、LMS-RGB CSC 220は、RGB-LMS CSC 208によって実行される色空間変換の逆変換を行ってもよい。実施形態によっては、LMS-RGB CSC 220が、CIE XYZ三刺激空間への中間変換を介して線形表示データLMS
lin
dを表示データRGB
lin
dに変換してもよい。
【数6】
ここで、b=1.15、g=0.66である。本開示の態様は、CIE XYZ三刺激空間が、任意のRGB色空間に変換可能であることを認識している。従って、表示データをXYZ色空間からRGB色空間に変換するために使用される変換行列が、画像処理システム200によって実装されるRGB色空間に依存することがある。
【0050】
IOETF 222は、変換後の表示データRGB
lin
dを非線形表示データRGB
outに変換する。実施形態によっては、IEOTF 222が、ターゲット装置によって実装されるEOTFの逆関数であり得る。例えば
図1を参照して、IEOTF 222は、画像プロセッサ120のIEOTF 124の一例であり得る。従って、IEOTF 222は、撮像装置130のEOTF136の逆関数であり得る。高精度のIEOTFカーブを得る一方でLUT格納のためのメモリ要求を低減するために、IEOTF 222は、128分割区分線形補間法を用いて32ビットRGB成分を非線形ドメインにおける16ビットRGB成分に変換してもよい。
【0051】
CSC 224は、非線形表示データRGBoutをターゲット装置への出力のための表示データYUVoutに変換する。より具体的には、CSC 224は、CSC 202によって実行される色空間変換の逆変換を行うことがある。実施形態によっては、CSC 224が表示データRGBoutをRGB色空間からYUV色空間に変換することがある。他の実施形態には、画像処理システム200が、RGB色空間における非線形表示データRGBoutを直接出力するものもある。このような実装では、CSC 224はバイパスされてもよく、又は画像処理システム200から省略されてもよい。
【0052】
図3は、いくつかの実施形態による、CVMシステム300の例を図示している。CVMシステム300は、ソース装置によって撮像された画像を表す画像データ302を、ディスプレイ装置で該画像を再生するために使用可能な表示データ308に変換するように構成されている。実施形態によっては、CVMシステム300が、
図1のCVMコンポーネント123又は
図2のS-T CVM 214の一例であり得る。例えば
図2を参照して、画像データ302は知覚均一画像データJ
za
zb
z
iの一例であり得るし、表示データ308は知覚均一画像データJ
za
zb
z
bの一例であり得る。従って、画像データ302と表示データ308のそれぞれは、J
za
zb
z色空間に関連するJ
z、a
z、b
zチャネルを含んでいる。
【0053】
CVMシステム300は、グローバルカラーボリュームマッパー310と、ローカルカラーボリュームマッパー320と、適応細部プロセッサ330とを備えている。グローバルカラーボリュームマッパー310は、ソース装置及びターゲット装置のそれぞれによってサポートされているダイナミックレンジ及び色域に基づいて、受け取った画像データ302をJzazbz色空間に関連する1セットのグローバルカラー値304にマッピングするように構成されている。例えば、画像データ302に含まれ得るJz値の範囲は、ソース装置のダイナミックレンジによって拘束又は制限され、画像データ302に含まれ得るaz値及びbz値の範囲は、ソース装置の色域によって拘束又は制限される。一方、グローバルカラー値304に含まれ得るJz値の範囲は、ターゲット装置のダイナミックレンジによって拘束又は制限され、グローバルカラー値304に含まれ得るaz値及びbz値の範囲は、ターゲット装置によってサポートされる色域によって拘束又は制限される。
【0054】
態様によっては、グローバルカラーボリュームマッパー310が、ソース装置によってサポートされているJz値、az値及びbz値の範囲を、(例えば、値の各範囲の拡張又は圧縮によって)ターゲット装置によってサポートされているJz値、az値及びbz値の範囲にマッピングすることがあり、ソース装置とターゲット装置の間の「グローバル」マッピングに基づいてグローバルカラー値304のセットを決定することがある。実施形態によっては、グローバルカラーボリュームマッパー310は、トーンマッピング演算又は逆トーンマッピング演算に基づいて、画像データ302のJzチャネルをグローバルカラー値304のJzチャネルにマッピングすることがある。他の実施形態には、グローバルカラーボリュームマッパー310が、彩度マッピング演算又は逆彩度マッピング演算に基づいて、画像データ302のaz及びbzチャネルをグローバルカラー値304のaz及びbzチャネルにマッピングするものもある。
【0055】
ローカルカラーボリュームマッパー320は、対応する画像の様々な特性に基づいてグローバルカラー値304のセットを、ローカルカラー値306のセットに再マッピングする。本開示の態様は、人間の視覚システムが、中間トーンと比較して、画像の暗い領域及び明るい領域においてより細部を知覚可能であることを認識している。しかしながら、ダイナミックレンジのグローバルな拡張(又は圧縮)を介して画像データ302のJzチャネルをグローバルカラー値304のJzチャネルにマッピングする結果、画像のより暗い領域又はより明るい領域において画像の細部のいくらかが消失し得る。態様によっては、ローカルカラーボリュームマッパー320が、画像のより暗い領域及びより明るい領域において細部が保存されるように、グローバルカラー値304を動的に調整することがある。例えば、ローカルカラー値306のJzチャネルは、中間トーンよりも暗トーンのより広い範囲に渡ることがあり、明るい(又は「ハイライト」の)トーンの最大限に広い範囲に渡ることがある。
【0056】
本開示の態様は、彩度値のグローバルな拡大では、任意の所与のシーンにおける様々な物体について最適な色を生成しない場合があることも認識している。より具体的には、異なる種類のコンテンツについては彩度のレベルが異なる方が、人間の眼には美的により好ましいことがある。例えば、より青い空とより緑の芝生は、屋外スポーツのシーンのコンテンツにおいては、視覚的に魅力的な場合があるが、(少なくとも一部の映画のジャンルについては)映画のシーンのコンテンツにおいては気が散るようなものであることがある。態様によっては、ローカルカラーボリュームマッパー320が、画像に関するコンテキスト情報に基づいて、グローバルカラー値304を動的に調整することがある。例えば、ローカルカラーボリュームマッパー320は、画像における様々な物体又は造作物に関連する分類を決定し、決定された分類に基づいて、グローバルカラー値304のazチャネル及びbzチャネルをローカルカラー値のazチャネル及びbzチャネルに再マッピングする。
【0057】
適応細部プロセッサ330は、対応する画像において検出された細部に基づいて、ローカルカラー値306を表示データ308に更に再マッピングすることがある。本開示の態様は、暗いトーン及びハイライトのトーンを拡大する結果、ローカルカラー値306によって示されている画像の低コントラスト領域において高周波数の細部が失われることがあることを認識している。例えば、フットボール場の芝生の個々の葉は、芝生の端において、トーンの伸長により識別することが難しく成り得る。態様によっては、適応細部プロセッサ330が、表示データ308によって示される画像の低コントラスト領域において高周波の細部が保存されるように、適応的にローカルカラー値306を調整することがある。より具体的には、適応細部プロセッサ330が、画像における物体又は造作物のエッジを検出し、周囲の領域のコントラストに基づいて、検出されたエッジにおけるローカルカラー値306のJzチャネルを適応的にブレンドしてもよい。
【0058】
図4は、いくつかの実装による、グローバルCVMのためのシステム400の例のブロック図を図示している。システム400は、画像データ({J
z[x,y]
in,a
z[x,y]
in,b
z[x,y]
in}、ここで、x及びyは、水平及び垂直画素座標を示している)のJ
z、a
z及びb
zチャネルをグローバル表示データ({J
z[x,y]
GM,a
z[x,y]
GM,b
z[x,y]
GM})のJ
z、a
z及びb
zチャネルにマッピングするように構成されている。実施形態によっては、システム400が、
図3のグローバルカラーボリュームマッパー310の一例であり得る。例えば
図3を参照して、画像データ{J
z[x,y]
in,a
z[x,y]
in,b
z[x,y]
in}は、画像データ302の一例である場合があり、表示データ{J
z[x,y]
GM,a
z[x,y]
GM,b
z[x,y]
GM}は、グローバルカラー値304の一例である場合がある。
【0059】
システム400は、グローバルトーンマッピングコンポーネント410とグローバル彩度マッピングコンポーネント420とを備えている。態様によっては、システム400が、画像データ{Jz[x,y]in,az[x,y]in,bz[x,y]in}を明度(iin)値及び彩度(sin)値に変換することがある。ここで、iin=Jz[x,y]inであり、sin=az[x,y]in×bz[x,y]inである。グローバルトーンマッピングコンポーネント410は、受け取った画像データに関連するソース画像メタデータ402とターゲット装置に関連するターゲット性能404とに基づいて、iin値及びsin値をグローバル明度値(iGM)にマッピングするように構成されている。グローバル彩度マッピングコンポーネント420は、画像メタデータ402とターゲット性能404とに基づいてiin値及びsin値をグローバル彩度値(SGM)にマッピングするように構成されている。
【0060】
ターゲット性能404は、ターゲット装置の任意の既知の性能、例えば、ターゲット装置によってサポートされているダイナミックレンジ又は色域を含んでいることがある。一方、ソース画像メタデータ402は、画像データと共に受信されることがあり、(画像データを生み出す又は「原本を作る」(master)ために使用される)マスタリングディスプレイのダイナミックレンジ又は色域を示すことがある。適切なメタデータの例としては、マスタリングディスプレイに関連する色校正データ、最大フレーム平均光量(MaxFALL)、最大コンテンツ光量(MaxCLL)、RGBプライマリ、白色点又はディスプレイ最大及び最小光量等が挙げられる。実施形態によっては、ソース画像メタデータ402が、一連の画像(又は、動画の複数フレーム)に広く適用可能な静的メタデータを含むことがある。他の実施形態には、ソース画像メタデータ402が、受け取った画像データに特有な動的メタデータを含むものもある。
【0061】
実施形態によっては、グローバルトーンマッピングコンポーネント410が、明度軸(TI)ルックアップテーブル(LUT)内のソース-ターゲットトーンマッピングオペレータと、彩度軸(TS)LUT内のソース-ターゲットトーンマッピングオペレータとに基づいて、iin値とsin値とをiGM値にマッピングすることがある。Jzazbz色空間が知覚均一色空間であり、Jzチャネルがaz及びbzチャネルと完全に直交しているため、カラーボリュームマッピング演算は等方性であり、各トーン及び彩度軸に関連する一次元(1D)LUTによって実装可能である。例えば、グローバルトーンマッピングコンポーネント410は、TI LUTにおいて明度値iinについてトーンマップを検索することがあり、TS LUTにおいて彩度値sinについてトーンマップを検索することがある。ここで、TI及びTS LUTは、1D LUTであり、iGM=TI[iin]×TS[sin]である。実施形態によっては、グローバルトーンマッピングコンポーネント410が、ソース画像メタデータ402、ターゲット性能404又はこれらの任意の組み合わせに基づいてTI LUT及びTS LUTを決定又は生成することがある。態様によっては、システム400が、更に、グローバル明度値iGMをグローバル表示データのJzチャネルに変換することがある。ここで、Jz[x,y]GM=iGMである。
【0062】
実施形態によっては、グローバル彩度マッピングコンポーネント420が、明度軸(SI)LUT内のソース-ターゲット色彩度マッピングオペレータと、彩度軸(SS)LUT内のソース-ターゲット色彩度マッピングオペレータとに基づいて、iin値とsin値とをsGM値にマッピングすることがある。Jzazbz色空間は知覚均一色空間であるため、グローバル彩度マッピング演算は、本質的に等方性であり、各明度軸及び彩度軸に関連する1Dオペレータしか必要としない。例えば、グローバル彩度マッピングコンポーネント420は、SI LUTにおいて明度値iinについての彩度マッピングを検索し、SS LUTにおいて彩度値sinについての彩度マッピングを検索する。ここで、SI及びSS LUTは2D LUTであり、sGM=SI[iin]×SS[sin]である。実施形態によっては、グローバル彩度マッピングコンポーネント420が、ソース画像メタデータ402、ターゲット性能404又はそれらの任意の組み合わせに基づいてSI LUT及びSS LUTを決定又は生成することがある。態様によっては、システム400が、更に、グローバル彩度値sGMをグローバル表示データのaz及びbzチャネルに変換することがある。ここで、az[xy]GM=az[xy]in×sGM、bz[x,y]GM=bz[x,y]in×sGMである。
【0063】
図5は、いくつかの実装による、ローカルCVMのためのシステム500の例のブロック図を図示している。システム500は、グローバル表示データ({J
z[x,y]
GM,a
z[x,y]
GM,b
z[x,y]
GM})のJ
z、a
z及びb
zチャネルをローカル表示データ({J
z[x,y]
LM,a
z[x,y]
LM,b
z[x,y]
LM})のJ
z、a
z及びb
zチャネルにマッピングするように構成されている。実施形態によっては、システム500が
図3のローカルカラーボリュームマッパー320の一例であり得る。例えば
図3を参照して、グローバル表示データ({J
z[x,y]
GM,a
z[x,y]
GM,b
z[x,y]
GM})は、グローバルカラー値304の一例である場合があり、ローカル表示データ({J
z[x,y]
LM,a
z[x,y]
LM,b
z[x,y]
LM})は、ローカルカラー値306の一例である場合がある。
【0064】
システム500は、ローカルトーンマッピングコンポーネント510とローカル彩度マッピングコンポーネント520とを備えている。ローカルトーンマッピングコンポーネント510は、グローバル表示データのJzチャネルJz[x,y]GMをローカル表示データのJzチャネルJz[x,y]LMにマッピングするように構成されている。態様によっては、ローカルトーンマッピングコンポーネント510が、Jz[x,y]GMの値の分布に少なくとも部分的に基づいて当該マッピングを行うことがある。より具体的には、このマッピングは、画像の暗い領域又は明るい領域における細部を保存しながら画像のコントラストを向上させることがある。実施形態によっては、トーンマッピングコンポーネント510が、グローバル表示データのJzチャネルJz[x,y]GMに基づいてヒストグラム等化を行うことがある。ヒストグラム等化は、相対的に狭いトーン値の範囲を、広い範囲に渡って伸長又は再分布させることによって画像のコントラストを増大させる技術である。
【0065】
本開示の態様は、人間の視覚システムが、中間トーンと比較すると、画像のより暗い領域及びより明るい領域において多くの細部を知覚可能であることを認識している。従って、実施形態によっては、ローカルトーンマッピングコンポーネント510が、トーンの独立したバンドに対してヒストグラム等化を行うことがある。本明細書において、「バンド」は、他の如何なるバンドと重なり合わないトーンの範囲をいう。例えば、グローバル表示データのJzチャネルJz[x,y]GMに関連する各トーン値は、「暗」バンド、「中間」バンド、「ハイライト」バンドに区分又は分割されたスペクトルにある。ローカルトーンマッピングコンポーネント510は、所与のバンドのトーン値がヒストグラム等化の結果として他のバンドに入り込まないように、暗バンド、中間バンド及びハイライトバンドそれぞれ内でトーン値に対して別々のヒストグラム等化演算を行うことがある。
【0066】
ローカル彩度マッピングコンポーネント520は、グローバル表示データのa
z及びb
zチャネルa
z[x,y]
GM、b
z[x,y]
GMを、ローカル表示データのa
z及びb
zチャネルa
z[x,y]
LM、b
z[x,y]
LMにマッピングするように構成されている。本開示の態様は、画像の輝度が、画像の色の知覚に影響を及ぼし得ることを認識している。従って、実施形態によっては、ローカル彩度マッピングコンポーネント520が、ローカル表示データのJ
zチャネルJ
z[x,y]
LMに少なくとも部分的に基づいて上記のマッピングを実行することがある。例えば、ローカル彩度マッピングコンポーネント520は、所与の画素の色相(h
Z)又は彩度(C
Z)を、J
z[x,y]
LMの値に基づいて調節することがある。
【数7】
【0067】
実施形態によっては、ローカル彩度マッピングコンポーネント520が、更に、画像内の一以上の物体又は造作物の分類に少なくとも部分的に基づいてグローバル表示データのaz及びbzチャネルaz[x,y]GM、bz[x,y]GMをローカル表示データのaz及びbzチャネルaz[x,y]LM、bz[x,y]LMにマッピングすることがある。分類502は、当該物体又は造作物に関する、そのような物体又は造作物をターゲット装置に表示するための最適な色を決定するために使用することが可能なコンテキスト情報を提供する。例えば、もし、ある物体に対応する分類502が、当該物体が人間の顔であることを示しているとき、ローカル彩度マッピングコンポーネント520は、当該物体の色相hz及び彩度Czを、ターゲット装置上でより自然に見えることが知られている皮膚の色調に整合するように(式5及び6を用いて)調整することがある。
【0068】
態様によっては、分類502がニューラルネットワーク530によって推論されることがある。適切なニューラルネットワークの例としては、例えば、畳み込みニューラルネットワーク(CNN)、回帰型ニューラルネットワーク(RNN)等のような様々な種類のディープニューラルネットワークが挙げられ得る。実施形態によっては、ニューラルネットワーク530が(例えば
図5に図示されているような)グローバル表示データ{J
z[x,y]
GM,a
z[x,y]
GM,b
z[x,y]
GM}の一以上のチャネルに基づいて分類502を推論することがある。他の実施形態には、ニューラルネットワーク530が画像に関連する他のデータ(簡潔性のために図示されない)に基づいて分類502を推論するものもある。適切なデータの例としては、(例えば
図4の画像メタデータ402のような)メタデータ又は(
図3の画像データ302のような)グローバル表示データが抽出される画像データが挙げられ得る。
【0069】
図6は、適応ヒストグラム等化を用いたグローバル画素トーン(又は明度)値のローカル画素トーン(又は明度)値へのマッピング600の例を図示している。実施形態によっては、マッピング600が
図5のローカルトーンマッピングコンポーネント510によって実行され得る。例えば
図5を参照して、グローバル画素トーン値は、グローバル表示データのJ
zチャネルJ
z[x,y]
GMの一例である場合があり、ローカル画素トーン値は、ローカル表示データのJ
zチャネルJ
z[x,y]
LMの一例である場合がある。
【0070】
図6の例では、(例えばJ
z[x,y]
GMの値のような)グローバル画素トーン値が垂直軸に沿って示されており、(例えばJ
z[x,y]
LMの値のような)ローカル画素トーン値が水平軸に沿って示されている。マッピング600は、水平軸に沿って、最小明度閾値(TH0)と最大明度閾値(TH3)の間において延伸するカーブによって表現されている。
図6に図示されているように、TH0とTH3との間の明度値の範囲が、「暗」バンド、「中間」バンド及び「ハイライト」バンドに分割されたスペクトルを表している。より具体的には、暗バンドが最小明度閾値TH0と第1明度閾値(TH1)とによって境界が決められており、中間バンドが第1明度閾値TH1と第2明度閾値(TH2)とによって境界が決められており、ハイライトバンドが第2明度閾値TH2と最大明度閾値TH3とによって境界が決められている。
【0071】
図5を参照して説明したように、ローカルトーンマッピングコンポーネント510は、暗バンド、中間バンド及びハイライトバンドのそれぞれにおいてグローバル画素トーン値に対してヒストグラム等化を実行することがある。言い換えれば、マッピング600は、各バンド内の画素トーン値を再分布させ、又は「伸長させる」ことがある。例えば、暗バンドにおいて、ローカルトーンマッピングコンポーネント510は、結果として得られるJ
z[x,y]
LMの値が、より均一に分布しているが閾値TH0及びTH1によって境界が決められたままであるようにJ
z[x,y]
GMの値を再マッピングする。同様に、中間バンドにおいて、ローカルトーンマッピングコンポーネント510は、結果として得られるJ
z[x,y]
LMの値が、より均一に分布しているが閾値TH1及びTH2によって境界が決められたままであるようにJ
z[x,y]
GMの値を再マッピングする。また、ハイライトバンドにおいて、ローカルトーンマッピングコンポーネント510は、結果として得られるJ
z[x,y]
LMの値が、より均一に分布しているが閾値TH2及びTH3によって境界が決められたままであるようにJ
z[x,y]
GMの値を再マッピングする。
【0072】
実施形態によっては、暗バンド、中間バンド及びハイライトバンドのそれぞれにおけるローカル画素トーン値が十分な量だけ分離された状態を維持するために(例えば、ヒストグラム伸長の結果として画素明度を押し潰すことを避けるために)、ガードバンドが使用されることがある。例えば、第1ガードバンド(GB0)は、黒画素値と、その次に暗いローカル画素トーン値との間の緩衝となり、第2ガードバンド(GB1)は、暗バンドのローカル画素トーン値と、中間バンドのローカル画素トーン値との間の緩衝となり、第3ガードバンド(GB2)は、中間バンドのローカル画素トーン値と、ハイライトバンドのローカル画素トーン値との間の緩衝となり、第4ガードバンド(GB3)は、白画素値と、その次に高いローカル画素トーン値との間の緩衝となる。
【0073】
本開示の態様は、人間の視覚システムが、中間トーンと比較すると、画像の暗い領域において、より細部を知覚可能であるということを認識している。従って、実施形態によっては、暗バンドが、(TH0-TH1>TH1-TH2になるように)中間バンドよりも画素明度の広い範囲に渡っていることがある。従って、暗バンドでは、中間バンドにおけるよりもヒストグラム伸長が大きくなる場合がある。本開示の態様は、更に、人間の視覚システムが、暗い領域と比較すると、画像の明るい領域において、より一層に細部を知覚可能であるということを認識している。従って、実施形態によっては、ハイライトバンドが、(TH2-TH3>TH0-TH1になるように)暗バンドよりも画素明度の広い範囲に渡っていることがある。従って、ハイライトバンドでは、暗バンド及び中間バンドにおけるよりもヒストグラム伸長が大きくなる場合がある。
【0074】
図7は、いくつかの実装による、適応細部処理のためのシステム700の例のブロック図を図示している。システム700は、ローカル表示データ({J
z[x,y]
LM,a
z[x,y]
LM,b
z[x,y]
LM})のJ
z、a
z、b
zチャネルを出力表示データ({J
z[x,y]
out,a
z[x,y]
out,b
z[x,y]
out})のJ
z、a
z、b
zチャネルにマッピングするように構成されている。実施形態によっては、システム700が、
図3の適応細部プロセッサ330の一例である場合がある。
図3を参照すると、ローカル表示データ{J
z[x,y]
LM,a
z[x,y]
LM,b
z[x,y]
LM}は、ローカルカラー値306の一例であり得るし、出力表示データ{J
z[x,y]
out,a
z[x,y]
out,b
z[x,y]
out}は、表示データ308の一例であり得る。
【0075】
システム700は、トーン変化推定コンポーネント710と、細部抽出コンポーネント720と、トーンブレンディングコンポーネント730と、彩度補正コンポーネント740とを備えている。トーン変化推定コンポーネント710は、ローカル表示データのJzチャネルJ
z[x,y]
LMと、該ローカル表示データが取り出された元の画像データのJ
zチャネル(J
z[x,y]
in)との間の差(ΔJ
z[x,y])を特定するように構成されている。ここで、ΔJ
z[x,y]=|J
z[x,y]
LM-J
z[x,y]
in|である。該元の画像データは、例えば、
図4の画像データ{J
z[x,y]
in,a
z[x,y]
in,b
z[x,y]
in}又は
図3の画像データ302の一例であり得る。
【0076】
細部抽出コンポーネント720は、ΔJz[x,y]の値に基づいて画像におけるエッジ又はテクスチャーを検出するように構成されている。態様によっては、細部抽出コンポーネント720が、検出されたエッジ又はテクスチャーに少なくとも部分的に基づいて制御信号702を生成することがある。より具体的には、制御信号702は、各画素値が画像の平坦な領域に対応しているのか、それともテクスチャーが存在する領域に対応しているのかを示すことがある。実施形態によっては、画素値が画像のテクスチャーが存在する領域に対応している場合、制御信号702が、更に、該テクスチャーが存在する領域に関連するコントラストの大きさを示すことがある。
【0077】
トーンブレンディングコンポーネント730は、画像データのJzチャネルJz[x,y]inと、ローカル表示データのJzチャネルJz[x,y]LMと、制御信号702とに基づいて出力表示データのJzチャネルJz[x,y]outを生成するように構成されている。より具体的には、Jz[x,y]outの各値は、Jz[x,y]inの個別の値とJz[x,y]LMの個別の値とをブレンドしたものである場合がある。実施形態によっては、トーンブレンディングコンポーネント730が、画像の低コントラスト領域において高周波の細部を保存するために、制御信号702に基づいてブレンディングの量を制御又は調節することがある。
【0078】
例えば、トーンブレンディングコンポーネント730は、画素値が画像の平坦な領域に対応していることを制御信号702が示している場合、Jz[x,y]LMの値をJz[x,y]inの個別の値とブレンドすることを止めることがある。その結果、画像の平坦な領域に対応する画素値について、Jz[x,y]outの値がJz[x,y]LMの値と同一である場合がある(Jz[x,y]out=Jz[x,y]LM)。一方、トーンブレンディングコンポーネント730は、画素値が画像のテクスチャーが存在する部分に対応していることを制御信号702が示している場合、Jz[x,y]LMの値をJz[x,y]inの個別の値とブレンドすることがある。その結果、画像のテクスチャーが存在する領域に関連する画素値について、Jz[x,y]outの値は、Jz[x,y]LMの値とJz[x,y]inの値の組み合わせである場合がある(Jz[x,y]out=αJz[x,y]LM+βJz[x,y]in、ここで、α及びβは、当該領域のコントラストの量に依存する)。
【0079】
彩度補正コンポーネント740は、出力表示データのJ
zチャネルJ
z[x,y]
outに基づいて、ローカル表示データのa
z及びb
zチャネルa
z[x,y]
LM、b
z[x,y]
LMを出力表示データのa
z及びb
zチャネルa
z[x,y]
out、b
z[x,y]
outにマッピングするように構成されている。
図5を参照して説明したように、画像の輝度は、画像における色の知覚に影響し得る。従って、実施形態によっては、ローカル彩度マッピングコンポーネント520が、(例えばトーンブレンディングコンポーネント730による)画素の輝度への如何なる変更も補償するために、所与の画素の色相h
zと彩度C
zを(式5及び6を使用して)調整することがある。
【0080】
図8は、いくつかの実装による、画像処理システム800の例の、他のブロック図を図示している。画像処理システム800は、(例えば撮像装置のような)ソース装置によって取得された画像データを、(例えばディスプレイ装置のような)ターゲット装置による表示に合わせた表示データに変換するように構成されている。実施形態によっては、画像処理システム800は、
図1の画像プロセッサ120又は
図2の画像処理システム200の一例である場合がある。
【0081】
画像処理システム800は、デバイスインタフェース810と、処理システム820と、メモリ830とを備えている。デバイスインタフェース810は、ソース装置及びターゲット装置と通信するように構成されている。実施形態によっては、デバイスインタフェース810が、画像ソースインタフェース(I/F)812と、画像ターゲットインタフェース814とを備えることがある。画像ソースインタフェース812は、ソース装置から画像データを受け取るように構成されている。実施形態によっては、画像ソースインタフェース812が、光-電気伝達関数(OETF)に基づいて撮像装置によって生成された画像を表す第1画像データを受け取ることがある。画像ターゲットインタフェース814は、ターゲット装置に表示データを供給するように構成されている。
【0082】
メモリ830は、受け取った画像データと、画像処理演算によって生じる任意の中間データとを格納するように構成された画像データバッファ831を備えている。また、メモリ830は、少なくとも下記のソフトウェア(SW)モジュールを格納することがある(例えばEPROM、EEPROM、フラッシュメモリ、ハードドライブのような一以上の不揮発性メモリ要素のような)非一時的コンピュータ読み取り可能媒体も備えている:
・撮像装置に関連するOETFの逆関数に基づいて第1画像データを、RGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを含む第2画像データに変換するための逆光-電気伝達関数(IOETF)SWモジュール832、
・第2画像データを、Jzazbz色空間に関連する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換するための均一色空間(UCS)変換SWモジュール833、
・ディスプレイ装置に対応するダイナミックレンジ又は色域に少なくとも部分的に基づいて第3画像データのJz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングするためのカラーボリュームマッピング(CVM)SWモジュール834、及び、
・第1表示データをディスプレイ装置による表示に合うように第1表示データを処理するターゲット描画SWモジュール835
各ソフトウェアモジュールは、処理システム820によって実行されたときに、対応する機能を画像処理システム800に実行させる命令を含んでいる。
【0083】
処理システム820は、画像処理システム800に(例えばメモリ830に)格納されている一以上のソフトウェアプログラムのスクリプト又は命令を実行することが可能な一以上の任意の適切なプロセッサを備えていることがある。例えば、処理システム820は、IOETF SWモジュール832を実行して、撮像装置に関連するOETFの逆関数に基づいて第1画像データを第2画像データに変換することがある。ここで、第2画像データは、RGB色空間に関連するR、G及びBチャネルを含んでいる。処理システム820は、UCS変換SWモジュール833を実行して、第2画像データをJzazbz色空間に関連するJz、az及びbzチャネルを有する第3画像データに変換することもある。処理システム820は、更に、CVM SWモジュール834を実行して、ディスプレイ装置に対応するダイナミックレンジ又は色域に少なくとも部分的に基づいて第3画像データのJz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングすることがある。更にまた、処理システム820は、ターゲット描画SWモジュール835を実行して、第1表示データをディスプレイ装置による表示に合うように第1表示データを処理することがある。
【0084】
図9は、いくつかの実装による、画像処理のための例示的な演算900を示す例示的なフローチャートを図示している。実施形態によっては、例示的な演算900が、(例えば、
図1の画像プロセッサ120、又は、それぞれ
図2及び
図8の画像処理システム200又は800のような)画像処理システムによって実行されることがある。
【0085】
画像処理システムは、OETFに基づいて撮像装置によって生成された画像を表す第1画像データを受け取る(910)。画像処理システムは、OETFの逆関数に基づいて第1画像データを第2画像データに変換する(920)。ここで、第2画像データは、RGB色空間に関連する赤(R)、緑(G)及び青(B)チャネルを含んでいる。画像処理システムは、更に、第2画像データを、Jzazbz色空間に関連する明度(Jz)、赤-緑(az)及び黄-青(bz)チャネルを有する第3画像データに変換する(930)。画像処理システムは、ディスプレイ装置に関連するダイナミックレンジ又は色域に少なくとも部分的に基づいて第3画像データのJz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングする(940)。画像処理システムは、第1表示データをディスプレイ装置による表示に合うように第1表示データを処理する(950)。
【0086】
実施形態によっては、第2画像データを第3画像データに変換することが、第2画像データを、LMS色空間に関連する長波長(L)、中波長(M)及び短波長(S)チャネルを有する第4画像データに変換することと、知覚量子化器(PQ)伝達関数に基づいて第4画像データを第5画像データに変換することと、第5画像データを、PQ伝達関数に関連するPQドメインにおいて第3画像データに変換することと、を含むことがある。
【0087】
態様によっては、画像処理システムが、更に、第1画像データに関連するメタデータを受け取ることがある。ここで、メタデータは、マスタリングディスプレイに関連するダイナミックレンジ又は色域を示している。実施形態によっては、メタデータが、マスタリングディスプレイに関連する色校正データ、最大フレーム平均光量、最大コンテンツ光量、RGBプライマリ、白色点、又はディスプレイ最大及び最小光量を含むことがある。
【0088】
実施形態によっては、第3画像データのJz、az及びbzチャネルを第1表示データのJz、az及びbzチャネルにマッピングすることが、受け取ったメタデータと、ディスプレイ装置に関連するダイナミックレンジ又は色域とに少なくとも部分的に基づいて、複数のルックアップテーブル(LUT)を生成することと、該複数のLUTのうちの一以上の第1LUTに少なくとも部分的に基づいて、第3画像データのJz、az及びbzチャネルを、第1表示データのJzチャネルにマッピングすることと、該複数のLUTのうちの一以上の第2LUTに少なくとも部分的に基づいて、第3画像データのJz、az及びbzチャネルを、第1表示データのaz及びbzチャネルにマッピングすることと、を含むことがある。
【0089】
実施形態によっては、第3画像データのJz、az及びbzチャネルの、第1表示データのaz及びbzチャネルへのマッピングが、該一以上の第2LUTに基づいて、第3画像データのJz、az及びbzチャネルを、グローバル彩度値にマッピングすることと、ニューラルネットワークモデルに基づいて、画像内の一以上の造作物を分類することと、該一以上の造作物の分類に少なくとも部分的に基づいて、グローバル彩度値を第1表示データのaz及びbzチャネルに再マッピングすることとを含むことがある。
【0090】
実施形態によっては、第3画像データのJz、az及びbzチャネルの、第1表示データのaz及びbzチャネルへのマッピングが、第3画像データのJz、az及びbzチャネルを、一以上の第1LUTに基づいて、複数のバンドに区分されている値のスペクトル内でグローバルトーン値にマッピングすることと、グローバルトーン値のヒストグラム等化に基づいて、前記複数のバンドの各バンドにおけるグローバルトーン値を、前記バンド内でそれぞれの等化トーン値に再マッピングすることとを含むことがある。
【0091】
実施形態によっては、第3画像データのJz、az及びbzチャネルの、第1表示データのJzチャネルへのマッピングが、更に、等化トーン値と第3画像データのJzチャネルとの差に基づいて画像の細部を抽出することと、抽出された細部に基づいて等化トーン値を調節することとを含むことがある。
【0092】
実施形態によっては、第3画像データのJz、az及びbzチャネルの、第1表示データのaz及びbzチャネルへのマッピングが、第3画像データのJz、az及びbzチャネルを、一以上の第2LUTに基づいてグローバル彩度値にマッピングすることと、等化トーン値に少なくとも部分的に基づいて、グローバル彩度値を動的に調節することとを含むことがある。
【0093】
実施形態によっては、第1表示データの処理が、第1表示データを、RGB色空間に関連するR、G及びBチャネルを有する第2表示データに変換することと、ディスプレイ装置に関連するEOTFの逆関数に基づいて第2表示データを第3表示データに変換することと、を含むことがある。
【0094】
当業者は、情報及び信号が、様々な異なる技術又はテクニックの任意のものを用いて表現され得ると理解するであろう。例えば、上記の説明に渡って参照されることがあるデータ、命令、コマンド、情報、信号、ビット、シンボル及びチップは、電圧、電流、電磁波、磁界又は磁性粒子、光学場又は光子、又は、それらの任意の組み合わせによって表現され得る。
【0095】
更に、当業者は、本明細書に開示された態様に関連して説明された様々な例示的な論理ブロック、モジュール、回路及びアルゴリズムのステップが、電子ハードウェア、コンピュータソフトウェア又は両者の組み合わせとして実装され得ると理解するであろう。ハードウェアとソフトウェアの間のこの互換性を明確に図示するために、様々な例示的なコンポーネント、ブロック、モジュール、回路及びステップは、上記において、一般に、その機能の観点で説明されている。このような機能がハードウェアとして実装されるかソフトウェアとして実装されるかは、全体システムに課せられる個別の応用及び設計の制約に依存している。当業者は、記述された機能を、各個別の応用のために様々な方法で実装し得るが、このような実装上の決定が、本開示の技術的な範囲からの乖離を生じさせるとして解釈すべきではない。
【0096】
本明細書に開示された態様と関連して説明されている方法、シーケンス又はアルゴリズムは、直接にハードウェアで具現化されてもよく、プロセッサによって実行されるソフトウェアで具現化されてもよく、それら2つの組み合わせで具現化されてもよい。ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、リムーバブルディスク、CD-ROM、又は、本技術で知られる任意の他の形態の記憶媒体に存在し得る。例示的な記憶媒体は、当該プロセッサが該記憶媒体から情報を読み取り、該記録媒体に情報を書き込むことができるようにプロセッサに結合される。その代わりに、記憶媒体がプロセッサと一体であってもよい。
【0097】
前述の明細書において、実施形態が、その具体的な例を参照して説明されている。しかしながら、添付の特許請求の範囲に提示されているような開示のより広い範囲から乖離することなく様々な修正及び変更がなされ得ることは明らかであろう。従って、明細書及び図面は、限定的な意味ではなく、例示的な意味で考慮されるべきである。
【外国語明細書】