(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024133949
(43)【公開日】2024-10-03
(54)【発明の名称】情報処理装置並びにコンピュータプログラム
(51)【国際特許分類】
H04N 1/60 20060101AFI20240926BHJP
G06T 1/00 20060101ALI20240926BHJP
H04N 9/64 20230101ALI20240926BHJP
G01J 3/52 20060101ALI20240926BHJP
【FI】
H04N1/60
G06T1/00 510
H04N9/64 A
G01J3/52
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2023043985
(22)【出願日】2023-03-20
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.UNIX
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100093241
【弁理士】
【氏名又は名称】宮田 正昭
(74)【代理人】
【識別番号】100101801
【弁理士】
【氏名又は名称】山田 英治
(74)【代理人】
【識別番号】100095496
【弁理士】
【氏名又は名称】佐々木 榮二
(74)【代理人】
【識別番号】100086531
【弁理士】
【氏名又は名称】澤田 俊夫
(74)【代理人】
【識別番号】110000763
【氏名又は名称】弁理士法人大同特許事務所
(72)【発明者】
【氏名】武 昌宏
【テーマコード(参考)】
2G020
5B057
5C066
【Fターム(参考)】
2G020AA08
2G020DA05
2G020DA13
2G020DA32
2G020DA34
2G020DA35
5B057CA01
5B057CA12
5B057CA16
5B057CB01
5B057CB12
5B057CB16
5B057CE17
5B057CE18
5B057DA17
5B057DC25
5C066AA11
5C066BA20
5C066CA08
(57)【要約】
【課題】撮像側の被写体の色を観察側で再現する情報処理装置を提供する。
【解決手段】情報処理装置は、n個のサンプル色からr個のサンプル色を選択し、撮像装置が選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値と、観察環境における選択された各サンプル色のXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出し、撮像装置が元のn個のサンプル色を撮像した場合のRGB値と観察環境における元のn個のサンプル色のXYZ値との変換情報に起因する誤差を算出し、誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
n個のサンプル色の中からr個のサンプル色を選択する選択部と(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部と、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部と、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部と、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部と、
を具備し、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
情報処理装置。
【請求項2】
前記選択部は、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する、
請求項1に記載の情報処理装置。
【請求項3】
前記第1の取得部は、前記選択部によって選択された各サンプル色の分光反射率特性と、前記撮像装置の分光感度特性と、前記撮像環境にある撮像光源の分光分布特性に基づいて、前記撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を算出する、
請求項1に記載の情報処理装置。
【請求項4】
前記第2の取得部は、前記観察環境にある観察光源の分光分布特性を用いて、前記選択部によって選択された各サンプル色を観察する場合のXYZ値を等色関数に基づいて算出する、
請求項1に記載の情報処理装置。
【請求項5】
前記撮像環境において前記撮像装置が精度評価用サンプル色を撮像した場合に前記撮像装置が出力する精度評価用RGB値を取得する第3の取得部と、
前記観察環境において前記精度評価用サンプル色を観察したときの精度評価用XYZ値を取得する第4の取得部と、
をさらに備え、
前記誤差算出部は、前記精度評価用RGB値と、前記精度評価用XYZ値を用いて前記変換情報の誤差を算出する、
請求項1に記載の情報処理装置。
【請求項6】
前記第3の取得部は、精度評価用サンプル色の分光反射率特性と、前記撮像装置の分光感度特性と、前記撮像環境にある光源の分光分布特性に基づいて、前記精度評価用RGB値を算出し、
前記第4の取得部は、前記観察環境にある光源の分光分布特性を用いて、前記精度評価用XYZ値を等色関数に基づいて算出する、
請求項5に記載の情報処理装置。
【請求項7】
前記変換情報を用いて、前記精度評価用RGB値をXYZ値に変換し、又は、前記精度評価用XYZ値をRGB値に変換する変換部をさらに備え、
前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較し、又は、前記変換部が前記精度評価用XYZ値から変換したRGB値を前記精度評価用RGB値と比較して、前記変換情報の誤差を算出する、
請求項6に記載の情報処理装置。
【請求項8】
前記誤差算出部は、色再現の目標又は前記変換情報の適用分野に基づいて、誤差算出の目標を設定する、
請求項7に記載の情報処理装置。
【請求項9】
前記誤差算出部は、前記目標に応じてサンプル色毎の重み付けして、誤差を算出する、
請求項8に記載の情報処理装置。
【請求項10】
前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較する際に、各XYZ値の2次元xy座標を算出した後、色毎に座標距離の平均、総和、標準偏差、又は、互いのx(y)値の誤差平均、総和、標準偏差を算出する、
請求項7に記載の情報処理装置。
【請求項11】
前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較する際に、各各XYZ値をそれぞれL*a*b値に変換した後、それらの色差を示すDE2000値を精度評価用サンプル色毎に算出して、サンプル色毎のDE2000値の平均、総和、標準偏差を算出する、
請求項7に記載の情報処理装置。
【請求項12】
前記選択部は、一般化簡略勾配法(Generalized Reduced Gradient)を用いて、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する、
請求項2に記載の情報処理装置。
【請求項13】
n個のサンプル色の中からr個のサンプル色を選択する選択部(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述され、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
コンピュータプログラム。
【請求項14】
変換情報を使って撮像装置から出力されたRGB値をXYZ値に変換し、
前記変換情報は、n個のサンプル色の中から選択された最適なr個のサンプル色を用いて(但し、nとrはともに正の整数で、n>rとする)、前記最適なr個のサンプル色を撮像した前記撮像装置が出力するRGB値を、観察環境において前記最適なr個のサンプル色を観察したときのXYZ値に変換できるように算出されたものである、
情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書で開示する技術(以下、「本開示」とする)は、色情報を処理する情報処理装置並びにコンピュータプログラムに関する。
【背景技術】
【0002】
カメラで撮像した被写体の画像を、遠隔地で観察するほとんどの場合において、正しい色を再現できないという問題がある。但し、ここで言う遠隔地とは、例えば、カメラの撮像環境とは光源などの異なる観察環境のことを意味し、撮像環境と観察環境が物理的に大きく隔たっているとは限らない。また、画像を観察するとは画像を表示装置の画面に表示することを意味する。したがって、色を再現できないとは、撮像環境下の被写体の色を表示画面上で正しく表示できないことである。この場合の正しい色は、その被写体を観察環境で観察したときの色である。正しい色が再現されない理由として、機材(カメラなど)の設定や特性、撮像側と観察側の環境光源の相違などが挙げられる。
【0003】
例えば、撮像装置の分光感度特性に関する特性データと、撮像装置が撮像を行う撮像環境にある光源の分光分布特性に関する撮像側分光データと、所定のサンプル色の分光反射率特性に関する色分光データを取得し、これら特性データ、撮像側分光データ、及び色分光データを用いて撮像装置が所定のサンプル色を撮像した場合に撮像装置が出力するRGB値を算出する一方、その撮像装置が撮像した撮像データを表示装置に表示する表示環境にある光源の分光分布特性に関する表示側分光データを取得して、この表示側分光データと上記の色分光データを用いて、表示装置に所定のサンプル色を表示する場合のXYZ値を算出して、さらにRGB値をXYZ値に変換する変換情報を算出する情報処理装置が提案されている(特許文献1を参照のこと)。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示の目的は、撮像側の被写体の色を観察側で再現するための色情報の処理を行う情報処理装置並びにコンピュータプログラムを提供することにある。
【課題を解決するための手段】
【0006】
本開示は、上記課題を参酌してなされたものであり、その第1の側面は、
n個のサンプル色の中からr個のサンプル色を選択する選択部と(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部と、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部と、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部と、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部と、
を具備し、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
情報処理装置である。前記選択部は、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する。
【0007】
前記第1の取得部は、前記選択部によって選択された各サンプル色の分光反射率特性と、前記撮像装置の分光感度特性と、前記撮像環境にある撮像光源の分光分布特性に基づいて、前記撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を算出することができる。
【0008】
前記第2の取得部は、前記観察環境にある観察光源の分光分布特性を用いて、前記選択部によって選択された各サンプル色を観察する場合のXYZ値を等色関数に基づいて算出することができる。
【0009】
第1の側面に係る情報処理装置は、前記撮像環境において前記撮像装置が精度評価用サンプル色を撮像した場合に前記撮像装置が出力する精度評価用RGB値を取得する第3の取得部と、前記観察環境において前記精度評価用サンプル色を観察したときの精度評価用XYZ値を取得する第4の取得部をさらに備える。
【0010】
そして、前記誤差算出部は、前記精度評価用RGB値と、前記精度評価用XYZ値を用いて前記変換情報の誤差を算出する。前記誤差算出部は、色再現の目標又は前記変換情報の適用分野に基づいて、誤差算出の目標を設定する。
【0011】
前記選択部は、一般化簡略勾配法又はその他の最適化アルゴリズムを用いて、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する。
【0012】
また、本開示の第2の側面は、
n個のサンプル色の中からr個のサンプル色を選択する選択部(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述され、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
コンピュータプログラムである。
【0013】
本開示の第2の側面に係るコンピュータプログラムは、コンピュータ上で所定の処理を実現するようにコンピュータ可読形式で記述されたコンピュータプログラムを定義したものである。コンピュータプログラムは、さまざまなプログラムコードを実行可能なコンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能である。そして、本開示の第2の側面に係るコンピュータプログラムをいずれかの媒体経由でコンピュータにインストールすることによって、コンピュータ上では協働的作用が発揮され、本開示の第1の側面に係る情報処理装置と同様の作用効果を得ることができる。
【0014】
また、本開示の第3の側面は、
変換情報を使って撮像装置から出力されたRGB値をXYZ値に変換し、
前記変換情報は、n個のサンプル色の中から選択された最適なr個のサンプル色を用いて(但し、nとrはともに正の整数で、n>rとする)、前記最適なr個のサンプル色を撮像した前記撮像装置が出力するRGB値を、観察環境において前記最適なr個のサンプル色を観察したときのXYZ値に変換できるように算出されたものである、情報処理装置である。
【発明の効果】
【0015】
本開示によれば、最適に選択されたサンプル色の組み合わせを用いて変換情報を算出して、高精度に色再現を実現する情報処理装置並びにコンピュータプログラムを提供することができる。
【0016】
なお、本明細書に記載された効果は、あくまでも例示であり、本開示によりもたらされる効果はこれに限定されるものではない。また、本開示が、上記の効果以外に、さらに付加的な効果を奏する場合もある。
【0017】
本開示のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【図面の簡単な説明】
【0018】
【
図1】
図1は、情報処理装置100の機能的構成例を示した図である。
【
図2】
図2は、カメラ出力のXYZ値と観察XYZ値を比較する方法の一例を示した図である。
【
図3】
図3は、カメラ出力のXYZ値と観察XYZ値を比較する他の方法を示した図である。
【
図4】
図4は、最小二乗法を用いてRGB値をXYZ値に変換する変換係数を計算した結果の一例を示した図である。
【
図5】
図5は、最小二乗法を用いてRGB値をXYZ値に変換する変換係数を計算した結果の他の例を示した図である。
【
図6】
図6は、実際に撮像してRGB値を取得する情報処理装置100の機能的構成(機材が特定できる場合)を示した図である。
【
図7】
図7は、実際に撮像してRGB値を取得する情報処理装置100の機能的構成(機材が特定できない場合)を示した図である。
【
図8】
図8は、計算によりRGB値を取得する場合の情報処理装置100の機能的構成を示した図である。
【
図9】
図9は、情報処理装置100の構成要素の大部分をサーバで実現した実装例を示した図である。
【
図10】
図10は、情報処理装置100の構成要素の大部分を撮像側で実現した実装例を示した図である。
【
図11】
図11は、情報処理装置100の構成要素の大部分を観察側で実現した実装例を示した図である。
【
図12】
図12は、カメラ1200の機能的構成を示した図である。
【
図13】
図13は、表示装置1300の機能的構成を示した図である。
【
図14】
図14は、本開示に基づいて選択したサンプル色を用いて算出した変換係数の誤差を机上算出する機能的構成を示した図である。
【
図15】
図15は、経験的に選択したサンプル色を用いて算出した変換係数の誤差を机上算出する機能的構成を示した図である。
【
図16】
図16は、マクベスのカラーチャートの全24色を用いて算出した変換係数の誤差を机上算出する機能的構成を示した図である。
【
図17】
図17は、マクベスカラーチャートを示した図である。
【
図18】
図18は、マクベスカラーチャートの24色から経験的に選択した9色の例を示した図である。
【
図19】
図19は、
図2に示したカメラ出力のXYZ値と観察XYZ値を比較する方法における目標設定例を示した図である。
【
図20】
図20は、情報処理装置100において最適な色の組み合わせを選択するための処理手順を示したフローチャートである。
【
図21】
図21は、情報処理装置100のハードウェア構成例を示した図である。
【
図22】
図22は、遠隔画像の正しい色を再現する色再現システム2200の概略的構成を示した図である。
【発明を実施するための形態】
【0019】
以下、図面を参照しながら本開示の実施形態について、以下の順に従って説明する。
【0020】
A.概要
A-1.色再現システムの概要
A-2.技術的課題と解決手段
B.機能的構成
C.誤差算出について
D.最適化アルゴリズムについて
E.RGB⇒XYZ変換について
F.RGB値の取得方法に応じた機能的構成
F-1.実際に撮像してRGB値を取得する場合
F-2.計算によりRGB値を取得する場合
F-3.実装例
F-4.カメラの機能的構成
F-5.表示装置の機能的構成
G.誤差の机上算出
H.処理フロー
I.効果
J.情報処理装置のハードウェア構成
【0021】
A.概要
A-1.色再現システムの概要
図22には、カメラで撮像した被写体の画像を、遠隔地で観察するほとんどの場合において、正しい色を再現する色再現システム2200の構成を概略的に示している。図示の色再現システム2200は、撮像装置2210と、表示装置2220と、変換装置2230と、情報処理装置2240を備えている。
【0022】
撮像装置2210は、撮像光源2211が設置されている撮像環境下で、被写体を撮像する。一方、表示装置2220は、遠隔地、言い換えれば観察光源2221が設置された、撮像環境とは異なる観察環境下で、撮像装置2210が撮像した画像を観察者(図示しない)に表示する。
【0023】
撮像装置2210が撮像した撮像画像を表示装置2220に表示する場合、観察光源2221を観察側光源とする観察環境下で観察者が視認する被写体の色を推定して、表示装置2220で再現することが望まれる場合がある。
【0024】
例えば、病院A(撮像装置2210)で患者を撮像した撮像画像を別の病院Bのモニタ(表示装置2220)に表示して医者(観察者)が診察を行う場合、モニタに表示される患者の顔色を、病院Bで医者が観察した場合と同じ色で再現することで、医者は病院Aにいる患者を、病院Bにいる場合と同じように遠隔的に診察することができる。遠隔医療において、遠隔画像の色を正しく表示できないと、医者の診断に深刻な影響を及ぼすおそれがある。
【0025】
撮像装置2210が撮像した撮像画像から観察光源2221下での色を再現する方法として、撮像画像の色座標RGB値を色絶対座標XYZ値として取得する方法が挙げられる。色再現システム2200では、被写体及び撮像光源2211の色座標をXYZ値として取得することにより、撮像装置2210による撮像から表示装置2220による表示までの色の絶対座標を保持することができる。なお、XYZ表色系において、Xは赤色の強さを示す値、Yは緑色の強さと明るさ(輝度)を示す値、Zは青色の強さを示す値であり、RGB表色系と違って、すべての色を表現することができる。
【0026】
撮像装置2210が、人間の目の分光特性を模した、いわゆる「XYZカメラ」であればよいが、XYZカメラは高価であり一般的でない。そこで、色再現システム2200では、撮像装置2210に、RGB画像を撮像する、いわゆる「RGBカメラ」を用いることを想定している。そして、変換装置2230が、デバイス依存のRGB値からXYZ値に変換する変換処理を行って、XYZ値の撮像画像を取得することで、表示装置2220での色再現性を実現するようにしている。
【0027】
情報処理装置2240は、変換装置2230においてRGB値をXYZ値に変換するための変換処理に用いられる、変換情報を生成する。すなわち、情報処理装置2240は、撮像環境下で撮像装置2210が撮像した画像(RGB値)を観察環境下の表示装置2220に表示するときに、観察者が被写体を直接観察したときに視認する色と同じ色(XYZ値)を表示装置2220に表示するための変換情報を生成する。情報処理装置2240は、変換情報の算出時に、撮像光源2211及び観察光源2221の各分光特性データを使用する。情報処理装置2240は、例えばパーソナルコンピュータ(PC)などの一般的な演算処理装置でもよいし、変換情報を生成するための少なくとも一部の機能がクラウドサーバで実現されていてもよい。
【0028】
A-2.技術的課題と解決手段
カメラが撮像したRGB画像のRGB値をXYZ値に変換するための変換情報を生成する方法として、例えば以下の2つの方法方が挙げられる。
【0029】
(1)分光反射率特性が既知の(印刷された)色票をカメラで撮像し、同じ色票の観察環境下での色再現値をあらかじめ算出しておき、カメラ出力値と比較することで、補正用のデータを基に変換係数を算出する。
【0030】
(2)特許文献1に記載されているように、撮像するカメラの分光感度特性(カラーフィルター(CF)の分光特性)に関する特性データと、撮像環境及び観察環境の各光源の分光特性を用いて、データとして保持しているサンプル色の分光反射率特性(サンプル色分光データ)を基に変換係数を算出する。
【0031】
上記の方法(1)及び(2)はいずれも、限られた機材と環境の範囲で、より正しい色を再現すること(すなわち、色のマッチング)を目的とするものである。
【0032】
また、上記の方法(1)及び(2)はいずれも、分光反射率特性が既知の色票を用いて変換係数を算出する点では共通するが、方法(1)では実際に印刷された色票をカメラで撮像するのに対し、方法(2)ではサンプル色の分光反射率特性をデータとして保持し、仮想的に色票の撮像を行う(すなわち、カメラの撮像画像のRGB値を計算で求める)という点でことなる。いずれの方法も、色票が色のマッチングの基準となるため、色票の内容(サンプル色の数)は非常に重要である。
【0033】
方法(2)では、色票の分光反射率特性のデータを保持して、カメラの撮像画像のRGB値を計算で求めるので、色の数に事実上制約がない。一方、方法(1)では、実際に印刷された色票をカメラで撮像するので、印刷コストの面では色数は少ないほど良い。また、上記の通り、色票が色のマッチングの基準となるため、印刷コストとマッチング精度を両立させる必要がある。
【0034】
本願の出願時点では、色票の色の組み合わせを決める明確な手法は見当たらない。例えば、「マクベスチャート」という名称で広く知られている24色を使用するマクベスカラーチャートや、既に存在する複数のカラーチャートなどから幾つかを選択して用いられ、又はすべてが用いられてきた。マクベスカラーチャートは24色の分光反射率特性が規定されており、色票として使用可能であるが、コストや入手性の観点から、色再現(又は、変換情報の計算のため)に適用することは一般的ではない。
【0035】
本開示では、変換情報の生成に用いる色票の色数を9色とした。9色とは、例えば、元のマクベスカラーチャートの分光反射率が規定された24色の中から9色を選択することを意味する。言い換えれば、本開示では、分光反射率が既知のn個の中から選び出したr個の組み合わせで構成される色票を、変換情報の生成に用いる(但し、nとrはともに正の整数で、n>rとする)。
【0036】
マクベスカラーチャートの元の24色から9色を選択する際、マッチングの目標(又は、色再現が適用される適用分野)に適応した選択方法が考えられる。例えば、人肌の色を高精度で再現するというマッチング目標の場合、経験的には、肌色を中心とし、R,G,B3原色やGray系などを含めた9色からなる色票を用いて変換情報を生成することが考えられる。しかしながら、このように選んだ9色がマッチング目標に対して必ずしも最適とは限らない。そもそも経験的に選択した色の組み合わせを色票に用いた場合、マッチング精度が向上するという根拠がない。また、マッチング精度はカメラ、撮像側光源、観察側光源などの機材の影響を受けると考えられるが、人肌⇒R,G,B3原色及びGray系という経験則は機材の影響をカバーしない。
【0037】
そこで、本明細書では、本開示として、マッチングの目標(又は、色再現が適用される適用分野)に対して、色票に使用するのに最適な色の組み合わせを選択する技術について提案する。また、本開示では、機材の影響を考慮して、色票に使用するのに最適な色の組み合わせを選択する技術について提案する。
【0038】
B.機能的構成
図1には、本開示に適用される情報処理装置100の機能的構成例を示している。情報処理装置100は、マッチングの目標(又は、色再現が適用される適用分野)に対して、RGB値からXYZ値へ変換するための変換情報の生成に用いる色票として最適な色を、分光反射率が既知のn個の中から選び出したr個だけ選択する処理を実施する(但し、nとrはともに正の整数で、n>rとする)。情報処理装置100は、例えばPCなどの一般的な演算処理装置でもよいし、
図1中の構成要素の少なくとも一部の機能がクラウドサーバで実現されていてもよい。
【0039】
サンプル色分光データ保持部101は、選択の元となるn個からなる各サンプル色の分光反射率データを保持している。以下の説明では、選択の元としてマクベスカラーチャートを利用することを想定しており、サンプル色分光データ保持部101は、マクベスカラーチャートに含まれる24色の各サンプル色の分光反射率データを保持している。
【0040】
選択部102は、選択の元となるn個のサンプル色の中からr個を選択して、選択した各サンプル色の分光反射率データをサンプル色分光データ保持部101から読み出して、後段の機能ブロックに出力する。以下の説明では、選択の元としてマクベスカラーチャートを利用することを想定しており、選択部102は、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択することとする。また、選択部102が選択した9色のサンプル色からなる色票を印刷して、後段の機能ブロックに渡すようにしてもよい。
【0041】
RGB値取得部103は、撮像環境下においてカメラが選択部102で選択された9色のサンプル色からなる色票を撮像したときのRGB値を取得する。RGB値取得部103は、選択部102で選択された9色の各サンプル色の分光反射率データと、使用するカメラのカラーフィルタ(CF)の分光感度特性データと、撮像環境の光源(撮像光源)の分光分布特性データから、当該9色の色票を撮像したときのRGB値を計算により算出することができる。また、RGB値取得部103は、印刷された当該色票を撮像環境下で撮像したカメラから出力されるRGB値を取得してもよい。
【0042】
XYZ値取得部104は、選択部102で選択された9色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、ターゲット値として取得する。XYZ値取得部104は、選択部102で選択された9色の各サンプル色の分光反射率データと、観察環境の光源(観察光源)の分光分布特性データから、等色関数に基づいて、XYZ値を算出することができる。観察光源としてニュートラルな色再現が可能なD65(平均的な正午の光(直射日光と晴天の空による拡散光の合わさった光)に対応)を想定している場合には、XYZ値取得部104は、選択部102で選択された9色をD65光源下で観察した場合のXYZ値を等色関数に基づいて算出すればよい。
【0043】
変換情報算出部105は、RGB値取得部103で取得されたカメラ出力のRGB値を、XYZ値取得部104で取得したXYZ値と比較して、最小二乗法などを用いてRGB値をXYZ値に変換する変換情報を算出する。変換情報は、例えばRGB値をXYZ値に変換する3×3マトリックスの変換係数からなる。なお、RGB値取得部103で取得されたカメラ出力に伝送用としてガンマ補正が施されている場合には、そのRGB値にガンマ逆補正を行った後に変換情報算出部105の計算に用いるようにする。
【0044】
精度評価用サンプル色分光データ保持部106は、精度評価用の各サンプル色の分光反射率データを保持している。精度評価用に、上記と同様にマクベスカラーチャートを使用してもよいし、別のカラーチャートを精度評価用に用いてもよい。同じカラーチャートを使用する場合には、サンプル色分光データ保持部101と精度評価用サンプル色分光データ保持部106は共用されてもよい。
【0045】
精度評価用RGB値取得部107は、撮像環境下においてカメラが精度評価用サンプル色からなる色票を撮像したときの精度評価用RGB値を取得する。精度評価用RGB値取得部107は、精度評価用サンプル色の分光反射率データと、使用するカメラのカラーフィルタ分光感度特性データと、撮像光源の分光分布特性データから、当該色票を撮像したときの精度評価用RGB値を計算により算出することができる。また、精度評価用RGB値取得部107は、印刷された当該色票を撮像環境下で撮像したカメラから出力される精度評価用RGB値を取得してもよい。
【0046】
精度評価用XYZ値取得部108は、精度評価用サンプル色からなる色票を観察環境下で観察した場合の精度評価用XYZ値を取得する。精度評価用XYZ値取得部108は、精度評価用サンプル色の分光反射率データと、観察光源の分光分布特性データから、等色関数に基づいて、精度評価用XYZ値を算出することができる。観察光源としてD65を想定している場合には、精度評価用XYZ値取得部108は、精度評価用サンプル色をD65光源下で観察した場合の精度評価用XYZ値を等色関数に基づいて算出すればよい。
【0047】
変換部109は、精度評価用RGB値取得部107が取得した精度評価用RGB値を、変換情報算出部105が算出した変換係数を用いてXYZ値に変換する。
【0048】
誤差算出部110は、変換部109による変換後のXYZ値を、精度評価用XYZ値取得部108が取得した精度評価用XYZ値と比較して、変換情報算出部105が算出した変換係数の誤差を算出する。
【0049】
誤差算出部110が算出した誤差は、選択部102にフィードバックされる。そして、選択部102は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を改めて選択する。
【0050】
情報処理装置100は、上述したような、サンプル色の選択と誤差の算出を繰り返すことで、最適な9色を選択することができる。
【0051】
誤差算出部110は、色再現の目標又は前記変換情報の適用分野に基づいて、誤差算出の目標を設定するようにしてもよい。目標設定は、例えば、色再現の目標又は変換情報の適用分野に基づいて、サンプル色毎の重み付けを設定することである。目標設定により、特定のサンプル色で精度を高めるなどの処理が可能となる。
【0052】
図1に示した情報処理装置100によれば、機材(使用するカメラのカラーフィルタの分光感度特性データ)及び環境(撮像光源の分光分布特性、観察光源の分光分布特性)を決定し、さらに目標設定(適用分野に応じたサンプル色毎の重み付けなど)することによって、色票として最適なサンプル色の組み合わせを選択することができ、その結果として高精度の変換係数を算出することができるようになる。情報処理装置100は、誤差算出部110が最適な9色の組み合わせからなる色票を使って且つ目標設定に従って算出した変換情報を、最終的な変換情報として変換装置(例えば、
図22中の変換装置2230)に出力する。
【0053】
C.誤差算出について
このC項では、誤差算出部110内で、精度評価用RGB値取得部107を通じて取得される、精度評価用色票を撮像したカメラから出力されるXYZ値と、精度評価用XYZ値取得部108を通じて取得される、観察環境下で精度評価用色票を観察したXYZ値を比較する2通りの方法について説明する。
【0054】
1つ目の方法では、カメラ出力のXYZ値と観察XYZ値のそれぞれについて、2次元xy座標を算出し、色毎に座標距離の平均、総和、標準偏差、又は、カメラ出力x(y)値と観察x(y)値の誤差平均、総和、標準偏差を算出して、その値を選択部102におけるサンプル色の組み合わせの最適化に用いる。
【0055】
図2には、カメラ出力のXYZ値と観察XYZ値を比較する1つ目の方法を用いた場合の誤差算出部110の内部構成例を示している。
図2に示す構成例では、まず、各xy算出部201及び202がカメラ出力のXYZ値(変換部109の出力に相当)と観察XYZ値(精度評価用XYZ値取得部108の出力に相当)のそれぞれについて2次元xy座標を算出して、xy座標系上でこれらの色差を求める。式x=X/(X+Y+Z)及びy=Y(X+Y+Z)を用いて、XYZ値からxy座標を算出することができる。続いて、重み付け部203が算出された色差に対して色毎の目標設定に応じた重み付けを行ってから、標準偏差算出部204が標準偏差を算出している。
【0056】
1つ目の方法は簡単であるが、算出結果が人間の知覚と必ずしも一致しない。なお、カメラ出力のXYZ値と観察XYZ値からxy座標値に代えて、u´v´座標値を算出して上記と同様に誤差を算出する方法も考えられる。
【0057】
2つ目の方法では、DE2000を用いてカメラ出力のXYZ値と観察XYZ値を比較する。DE2000は、人間の知覚を考慮した色差評価方法としてDE2000として知られている。DE2000を用いる場合、まず、カメラ出力のXYZ値と観察XYZ値をそれぞれL*a*b*値に変換する。L*a*b*表色系において、L*は明るさを示す値であり、a*は赤色の強さを示す値であり(a*が大きくなるほど赤色が強くなり、a*が小さくなるほど緑色が強くなる)、b*は黄色の強さ示す値である(b*が大きくなるほど黄色が強くなり、b*が小さくなるほど青色が強くなる)。例えば、ライブラリを介して共有又は公開されている変換プログラムを用いて、XYZ値をL*a*b*値に変換することができる。そして、サンプル色毎のDE2000値の平均、総和、標準偏差を算出して、その値を選択部102におけるサンプル色の組み合わせの最適化に用いる。
【0058】
図3には、カメラ出力のXYZ値と観察XYZ値を比較する2つ目の方法を用いた場合の誤差算出部110の内部構成例を示している。
図3に示す構成例では、まず、各L
*a
*b
*算出部301及び302が、精度評価用サンプル色毎のカメラ出力のXYZ値変換部109の出力に相当)と観察XYZ値(精度評価用XYZ値取得部108の出力に相当)を、それぞれL
*a
*b
*値に変換する。各L
*a
*b
*算出部301及び302は、ライブラリを介して共有又は公開されている変換プログラムを用いて、XYZ値をL
*a
*b
*値に変換するようにしてもよい。続いて、DE2000算出部303は、各L
*a
*b
*値の色差を示すDE2000値を精度評価用サンプル色毎に算出する。そして、重み付け部304が色毎に算出したDE2000値に目標設定に応じた重み付けを行ってから、標準偏差算出部305がサンプル色毎のDE2000値の標準偏差を算出して、その値を選択部102におけるサンプル色の組み合わせの最適化に用いる。
【0059】
2つ目の方法によれば、色毎に算出したDE2000値に目標設定に応じた重み付けを行ってから標準偏差を算出している。
図3に示す方法によれば、DE2000の算出は複雑であるが、人間の知覚に最も近い最適化を行うことが可能になる。
【0060】
上述した2通りの方法のいずれであっても、目標設定によって(すなわち、それぞれ重み付け部203及び304において、設定した目標に基づく重み付けを行うことによって)、誤差がフィードバックされる選択部102において最適なサンプル色の組み合わせを選択できるようになるという点を理解されたい。
【0061】
D.最適化アルゴリズムについて
上記B項では、選択部102が、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から変換係数の誤差を最小にする9色のサンプル色を選択することについて言及した。このD項では、最適化アルゴリズムについて説明する。
【0062】
選択部102は、誤差算出部110からフィードバックされる誤差の値が最小となるように、選択の元となるn個のサンプル色の中からr個のサンプル色を選択する。最も簡単には、選択の元となるn個から選択可能なすべてのr個の組み合わせについて、総当たりで誤差を算出して、最も誤差の小さいr色の組み合わせを選ぶ方法が考えられる。当然ながら、情報処理装置100でnCr回の変換係数及び誤差の計算を繰り返し実施しなければならないため、演算量が膨大になってしまう。マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択する場合、演算回数は24C9=1,307,504回である。また、RGB値取得部103が印刷実際に印刷された色票をカメラで撮像してRGB値を取得する場合には、1,307,504枚の色票を印刷しなければならず、印刷コストだけでも負担が過大である。
【0063】
したがって、選択部102は、最適化アルゴリズムを用いて、選択の元となるn個のサンプル色の中からr個のサンプル色を選択するようにして、総当たりを回避することが望ましい。
【0064】
本開示を実現する際、特定の最適化アルゴリズムに限定されるものではない。演算量の削減という目的を達成できれば、任意のアルゴリズムを採用することができる。例えば、線形計画問題で取り扱われていた簡約勾配法を非線形計画問題に一般化した、一般化簡略勾配法(Generalized Reduced Gradient:GRG)を用いて最適化を行うようにしてもよい。GRGアルゴリズムは、変数を初期値から動かしたときの目標値(本実施形態では最小化)の変化率を観察しながら、変数を動かし目標値の変化率か極小となった時を収束解とする。
【0065】
E.RGB⇒XYZ変換について
RGB値取得部103は、実際に撮像してRGB値を取得する方法と、計算によりRGB値を取得する方法のいずれかを採用することができる。前者の方法では、選択部102で(仮に)選択された9色からなる色票を印刷し、撮像環境下でカメラがこの色票を撮像してRGB値を取得する。後者の方法では、選択部102で(仮に)選択された9色の各サンプル色の分光反射率データと、使用するカメラのカラーフィルタ分光感度特性データと、撮像環境の光源(撮像光源)の分光分布特性データから、当該色票を撮像したときのRGB値を計算により算出する。
【0066】
RGB値取得部103がいずれのRGB値取得方法を用いる場合も、行列変換又はRGBゲイン変換を用いてRGB値をXYZ値に変換することができ、変換情報算出部105は、最小二乗法などを用いて変換係数を算出する。後者のRGB値取得方法では、行列変換の他に、テーブルを用いてRGB値をXYZ値に変換すること(例えば、特許文献1を参照のこと)も想定される。但し、前者のRGB値取得方法と対比する観点から、このE項では、いずれのRGB値取得方法においても行列変換を用いてRGB値をXYZ値に変換することを想定する。
【0067】
図4には、最小二乗法を用いてRGB値をXYZ値に変換する変換係数を計算した結果の一例を示している。
図4では、入出力の関係、すなわち変換前のRGBと変換後のXYZ値の対応点をプロットするとともに、最小二乗法により算出した入出力の近似式を直線401で示している。
図4から分かるように、近似式の近傍にプロットされた点のように、変換前のRGBと変換後のXYZ値が精度良くマッチングされるケース(同図中の「精度良い」)と、近似式から離間してプロットされた点のように、変換前のRGBと変換後のXYZ値のマッチング精度が良くないケース(同図中の「精度悪い」)がある。すなわち、色によってマッチングにバラツキが発生する、と言うことができる。
【0068】
RGB値をXYZ値に変換する変換行列は3×3行列であり、したがって変換係数は9個と少なく、変換自体も計算負荷が軽く、少ないハードウェアで実現可能である。但し、一組の係数ですべてのRGB値の変換を行うため、最小二乗法で変換係数を計算したとしても、
図4に示したように、色によってマッチングにバラツキが生じる。
【0069】
また、
図5には、最小二乗法を用いてRGB値をXYZ値に変換する変換係数を計算した結果の他の例を示している。
図5に示す例では、
図4に示した例よりもデータの数(すなわち、プロットした変換前のRGBと変換後のXYZ値の対応点の数)を多くしている。
図5では、最小二乗法により算出した入出力の近似式を直線501で示している。データ数を多くしても、変換前のRGBと変換後のXYZ値のマッチング精度がよくないケースがあり、色によるマッチングのバラツキは解消していないことが分かる。データは必要な範囲(本実施形態では色域)を平均的に網羅していることが重要であり、データ数が多い程変換係数の精度が向上するとは言えない。
【0070】
F.RGB値の取得方法に応じた機能的構成
RGB値取得部103は、実際に撮像してRGB値を取得する方法と、計算によりRGB値を取得する方法のいずれかを採用することができる。このF項では、RGB値の取得方法に応じた情報処理装置100の具体的な機能的構成について説明する。
【0071】
F-1.実際に撮像してRGB値を取得する場合
実際に撮像してRGB値を取得する方法では、あらかじめ色票を印刷する必要があるので、実作業の前段階で元のn個のサンプル色の中からr個のサンプル色を選択する。実際に撮像してRGB値を取得する方法はさらに、機材(カメラ及び撮像光源)が特定できる場合と、機材が特定できない場合に細分化することができる。
【0072】
図6には、機材が特定できる場合の情報処理装置100の機能的構成を示している。但し、
図6では、元のマクベスカラーチャートの24色の中から9色を選択する場合を例にとっており、且つ、説明に不要な構成要素の図示を省略している。用途が明確に決まっている場合には、使用する機材が決まっている可能性があり、その場合には
図6に示す情報処理装置100を選択可能である。
【0073】
機材(カメラ及び撮像光源)が特定できる場合、RGB値取得部103は、マクベスカラーチャートの24色から選択された9色からなる色票を、特定された機材(すなわち、特定されたカメラ及び撮像光源の組み合わせ)で撮像して実際にカメラから出力されるRGB値を取得する。そして、誤差算出部110は、RGB値取得部103が印刷された色票を実際に撮像して取得したRGB値に基づく変換係数の誤差を算出して、選択部102にフィードバックする。そして、選択部102は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択する。
【0074】
図7には、機材が特定できない場合の情報処理装置100の機能的構成を示している。但し、
図7でも、元のマクベスカラーチャートの24色の中から9色を選択する場合を例にとっており、且つ、説明に不要な構成要素の図示を省略している。
【0075】
機材が特定できない場合には、機材をいくつか想定して、それぞれの組み合わせで、誤差を算出し、各誤差の平均又は重み付けに基づいて、9色のサンプル色を選択すればよい。
図7に示す例では、RGB値取得部103は、カメラとして想定カメラ1~3の3種類、及び撮像光源として想定撮像光源1~3の3種類を想定し、合計9個の組み合わせでRGB値を取得し、誤差算出部110は各RGB値に基づく変換係数の誤差を算出して、選択部102にフィードバックする。そして、選択部102は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択する。
【0076】
例えば、撮像光源1~3として、一般家庭で用いられる白色LED(Light Emitting Diode)、蛍光灯、白色光の3種類を想定し、且つ、各光源の家庭普及率が例えば5:3:2のように分かる場合には、各光源から得れた値を普及率の順番や比率で重み付けして誤差を算出すれば、普及率が高い光源で最も精度が高くなる9色を選択できるといったコントロールが可能である。
【0077】
図7では、XYZ値取得部104の図示を省略した。上記B項ですでに説明したように、XYZ値取得部104は、選択した9色からなる色票を観察環境下で観察したときのXYZ値を取得する。上述したように観察光源としてニュートラルな色再現が可能なD65を想定しているが、別の想定があるならば、XYZ値取得部104はその光源でのXYZ値の取得及び色再現を目標にして、変換係数の算出を行うようにすればよい。
【0078】
選択したサンプル色からRGB値を取得する処理は、実機(カメラなどの機材)で行っても、計算機上で行ってもよい。計算機上で行う場合には、カメラのカラーフィルタの分光感度特性、撮像光源の分光分布特性などの特定又は想定される機材の光学特性に関する情報をデータとして準備する必要がある。一方、実機を用いてRGB値を取得する場合には、選択部102が選択したサンプル色からなる色票を印刷する必要がある。また、サンプル色の選択処理は事前に行われるため、計算時間や計算リソースが制約になり難い。元の色を24色から増やしたり別の24色の組み合わせに変更したり、想定機材を増やして最適解を選択することがやり易い。
【0079】
F-2.計算によりRGB値を取得する場合
計算によりRGB値を取得する方法では、カメラのカラーフィルタ分光感度特性、撮像光源の分光分布特性、観察光源の分光分布特性があらかじめ分かっているという想定で、変換係数を算出する。これらの特性データは何らかの方法で取得できるものとし、その方法は特に限定されない。
【0080】
図8には、計算によりRGB値を取得する場合の情報処理装置100の機能的構成を示している。
図8に示す情報処理装置100は、撮像環境及び観察環境の情報(各光源の分光特性)を取得するために撮像側外部センサー801及び観察側外部センサー802(後述)を利用する構成となっている。また、
図8では、簡素化のため、変換係数算出時と変換係数の精度評価時(すなわち、誤差算出時)で同じマクベスカラーチャートを使用するものとし、したがって、情報処理装置100は、サンプル色分光データ保持部101のみを備え、精度評価用サンプル色分光データ保持部106は省略される。
【0081】
選択部102は、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択すると、選択した各サンプル色の分光反射率データをサンプル色分光データ保持部101から読み出して、後段の機能ブロックに出力する。
【0082】
色票を印刷するのではなく、色票に含まれる各サンプル色のデータを使用するので、事実上色数の制約がない。但し、上記E項でも述べた通り色票の色数は必要な色域を網羅していることが重要であり、大量のデータを持つことで精度が向上するとは限らない(例えば、
図5を参照のこと)。そこで、計算によりRGB値を取得する場合でも、マクベスカラーチャートの24個のサンプル色のうち変換係数の算出に用いるサンプル色は同様に9色とする。
【0083】
RGB値取得部103は、想定する全カメラのカラーフィルタ分光感度特性を蓄積するデータベースから、特定されたカメラのカラーフィルタ分光感度特性データを取得し、又はカメラからメタデータとして送ってもらうなど、任意の方法により、実際に使用するカメラのカラーフィルタ分光感度特性を取得する。
【0084】
また、RGB値取得部103は、撮像環境に設置された撮像側外部センサー801によって取得された撮像光源の分光分布特性を取得したり、撮像側外部センサー801から得られた値から撮像光源の分光分布特性を推定したりする。例えば、撮像側外部センサー801は実際に使用するカメラに搭載されていてもよく、カメラは撮像側外部センサー801によるセンシングデータを情報処理装置100(又は、RGB値取得部103)に送信するようにしてもよい。あるいは、撮像側外部センサー801は、カメラとは独立して撮像環境内に設置された外光センサーであってもよい。
【0085】
そして、RGB値取得部103は、選択部102で選択された9色の各サンプル色の分光反射率データと、データベースやカメラから取得したカメラのカラーフィルタ分光感度特性データと、撮像側外部センサー801から取得した撮像光源の分光分布特性データから、カメラがその9色のサンプル色からなる色票を撮像したときのRGB値を算出する。
【0086】
一方、XYZ値取得部104は、観察環境に設置された観察側外部センサー802によって取得された観察光源の分光分布特性を取得したり、観察側外部センサー802から得られた値から観察光源の分光分布特性を推定したりする。例えば、観察側外部センサー802はカメラの撮像画像を表示する表示装置に搭載されていてもよく、表示装置は観察側外部センサー802によるセンシングデータを情報処理装置100(又は、XYZ値取得部104)に送信するようにしてもよい。あるいは、観察側外部センサー802は、表示装置とは独立して観察環境内に設置された外光センサーであってもよい。
【0087】
そして、XYZ値取得部104は、選択部102で選択された9色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、選択部102で選択された9色の各サンプル色の分光反射率データと、観察側外部センサー802から取得した観察光源の分光分布特性データから、等色関数に基づいて算出する。
【0088】
変換情報算出部105は、RGB値取得部103で取得されたカメラ出力のRGB値を、XYZ値取得部104で取得したXYZ値と比較して、最小二乗法などを用いてRGB値をXYZ値に変換するための変換係数を算出する。
【0089】
精度評価用RGB値取得部107は、マクベスカラーチャートの24色の各サンプル色の分光反射率データと、データベースやカメラから取得したカメラのカラーフィルタ分光感度特性データと、撮像側外部センサー801から取得した撮像光源の分光分布特性データから、カメラがそのマクベスカラーチャートの24色のサンプル色からなる色票を撮像したときのRGB値を算出する。
【0090】
精度評価用XYZ値取得部108は、マクベスカラーチャートの24色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、マクベスカラーチャートの24色の各サンプル色の分光反射率データと、観察側外部センサー802から取得した観察光源の分光分布特性データから、等色関数に基づいて算出する。
【0091】
変換部109は、精度評価用RGB値取得部107が取得した精度評価用RGB値を、変換情報算出部105が算出した変換係数を用いてXYZ値に変換する。
【0092】
誤差算出部110は、変換部109による変換後のXYZ値を、精度評価用XYZ値取得部108が取得した精度評価用XYZ値と比較して、変換情報算出部105が算出した変換係数の誤差を算出する。
【0093】
誤差算出部110が算出した誤差は、選択部102にフィードバックされる。そして、選択部102は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択する。
【0094】
このF-2項で説明する、計算によりRGB値を取得する方法(又は、
図8に示す情報処理装置100の構成)では、全機材の分光特性が分かっているので、環境と機材の組み合わせで最適な9色を選択することが可能であり、上記F-1項で説明した実際に撮像してRGB値を取得する方法に比べ、より最適な変換係数の算出、すなわちより最適な被写体画像の補正を行うことが可能となる。
【0095】
また、
図8に示す情報処理装置100の構成では、撮像光源及び観察光源の各分光分布特性を動的に取得することができるので、選択部102において9色を定期的に更新するようにして、環境変化に適応しながら変換係数を更新して最適な被写体画像のより最適な補正を実施することが可能になる。例えば、昼間から夕方、夜に変わるといった環境変化に適応しながら、最適な被写体画像のより最適な補正を実施することができる。
【0096】
F-3.実装例
上記F-2項で説明した、計算によりRGB値を取得する方法では、マクベスカラーチャート24色から9色を動的に選択するために、変換係数を求めるための計算を計算機上で実施する必要がある。この算出を数秒から数分などの周期で行うとすれば、計算負荷は低く、専用の計算機(例えば、PCやクラウドサーバなど)でなくても、カメラや表示装置などの機材に搭載されているCPU(Central Processing Unit)を用いて変換係数を求めることができる。
【0097】
このF-3項では、
図8に示した情報処理装置100の各構成要素を、サーバ、カメラ(又は撮像側)、及び表示装置(又は観察側)にそれぞれ配置する実装例について説明する。
【0098】
図9には、図 8に示した情報処理装置100の構成要素の大部分を、サーバ(例えば、クラウドサーバ)で実現した実装例を示している。
図9中、撮像側又はカメラ内で実装される構成要素を淡いグレーで塗り潰し、観察側又は表示装置内で実装される構成要素を濃いグレーで塗り潰して、それぞれ示している。また、
図9中の破線で囲まれた範囲に含まれる各構成要素はサーバ上に実装されている。このようなサーバは、撮像側外部センサー801から供給される撮像光源の分光分布特性と、観察側外部センサー802から供給される観察光源の分光分布特性を利用して、色票をカメラで撮像したときのRGB値を計算し、さらに最適なサンプル色の組み合わせを選択して、高精度の変換係数を算出することができる。
【0099】
図10には、
図8に示した情報処理装置100の構成要素の大部分を、カメラで実現した実装例を示している。
図10中、撮像側又はカメラ内で実装される構成要素を淡いグレーで塗り潰し、観察側又は表示装置内で実装される構成要素を濃いグレーで塗り潰して、それぞれ示している。このようなカメラは、内部で撮像光源の分光分布特性を取得するとともに、観察側外部センサー802から供給される観察光源の分光分布特性を利用して、色票をカメラで撮像したときのRGB値を計算し、さらに最適なサンプル色の組み合わせを選択して、高精度の変換係数を算出することができる。したがって、このカメラは、RGB画像を撮像しつつ、XYZ画像を出力することができる。
【0100】
図11には、
図8に示した情報処理装置100の構成要素の大部分を、表示装置で実現した実装例を示している。
図11中、撮像側又はカメラ内で実装される構成要素を淡いグレーで塗り潰し、観察側又は表示装置内で実装される構成要素を濃いグレーで塗り潰して、それぞれ示しているこのような表示装置は、内部で観察光源の分光分布特性を取得するとともに、撮像側外部センサー801から供給される撮像光源の分光分布特性を利用して、色票をカメラで撮像したときのRGB値を計算し、さらに最適なサンプル色の組み合わせを選択して、高精度の変換係数を算出することができる。したがって、この表示装置は、カメラから供給されたRGB画像をXYZ画像に変換して、正しい色を再現して表示することができる。
【0101】
F-4.カメラの機能的構成
図12には、本開示に適用可能なカメラ1200の機能的構成例を示している。カメラ1200は、RGB取得部103及び精度評価用RGB取得部107に対して撮像光源の分光分布特性データを供給することができる。カメラ1200は、通信部1201と、撮像部1202と、外光センサー1203と、処理部1204を備えている。
【0102】
通信部1201は、ネットワークを介して外部装置と通信する有線又は無線の通信インタフェースである。ここで言う外部装置は、例えば、カメラ1200から出力されるRGB値をXYZ値に変換する変換装置や、カメラ1200から出力されるRGB値をXYZ値に変換するための変換情報を算出する情報処理装置100(
図8を参照のこと)などである。また、通信インタフェースは、Wi-Fi(登録商標)やBluetoth(登録商標)などの無線通信や、イーサネット(登録商標)やUSB(Universal Serial Bus)、HDMI(登録商標)(High Definition Multimedia Interface)などの有線通信に対応しているものとする。通信部1201は、例えば、撮像部1202による撮像画像や、外光センサー1203によりセンシングされたセンサーデータを、外部装置に送信するために使用される。
【0103】
撮像部1202は、被写体からの反射光を集光する光学レンズと、CMOS(Complementary Metal Oxide Semiconductor)などで構成されるイメージセンサを含み、被写体の動画像又は静止画像の撮像を行って撮像画像(RGB値)を生成する。撮像部1202は、通信部1201を介して、撮像画像を変換装置や情報処理装置100に出力する。
【0104】
外光センサー1203は、撮像環境に設置された撮像光源の情報を取得する装置である。外光センサー1203は、例えば複数のカラーセンサー(図示しない)を含む。各カラーセンサーは、それぞれ異なる波長の光(色成分)を分離して抽出する。したがって、外光センサー1203は、例えば人間の可視領域(波長で380nm~780nm)の光を、複数のカラーセンサーを用いて波長毎に複数に分離するフィルター分光処理を行って、所定の波長の光を分離して抽出する。外光センサー1203は、
図8中で、RGB取得部103及び精度評価用RGB取得部107に対して撮像光源の分光分布特性データを供給する撮像側外部センサー801に相当し、撮像光源からの放射光の分離結果を、例えば通信部1201を介して情報処理装置100に出力する。
【0105】
なお、上記では、外光センサー1203が複数のカラーセンサーを用いて分光を行う構成例について説明したが、外光センサー1203の構成はこれに限定されない。外光センサー1203は、例えば分光計のように光源の分光をより詳細に取得するセンサーであってもよい。外光センサー1203に分光計を用いることで、情報処理装置100側では光源の推定処理を省略することができる。但し、分光計は高価であり一般的でないので、上記のように複数のカラーセンサーを用いてより安価で且つ容易に外光センサー1203を構成することができる。
【0106】
処理部1204は、例えばCPUを含み、
図10に示した実装例において、例えば破線で囲まれた範囲に含まれる各構成要素に対応処理を実施する。
【0107】
F-5.表示装置の機能的構成
図13には、本開示に適用可能な表示装置1300の機能的構成例を示している。表示装置1300は、XYZ取得部104及び精度評価用XYZ取得部108に対して観察光源の分光分布特性データを供給することができる。表示装置1300は、通信部1301と、表示部1302と、外光センサー1303と、処理部1304を備えている。
【0108】
通信部1301は、ネットワークを介して外部装置と通信する有線又は無線の通信インタフェースである。ここで言う外部装置は、例えば、カメラ1200から出力されるRGB値をXYZ値に変換する変換装置や、変換情報を算出する情報処理装置100(
図8を参照のこと)などである。また、通信インタフェースは、Wi-Fi(登録商標)やBluetoth(登録商標)などの無線通信や、イーサネット(登録商標)やUSB、HDMI(登録商標)などの有線通信に対応しているものとする。通信部1301は、例えば、外部装置から表示部1302に表示出力する画像を受信したり、外光センサー1303によりセンシングされたセンサーデータを外部装置に送信したりするために使用される。
【0109】
表示部1302は、例えば、LCD(Liquid Crystal Display)や、有機EL(Electro Luminescence)ディスプレイなどからなり、通信部1301を介して外部装置から受信した画像を表示する。表示部1302は、変換装置からのXYZ値の変換画像を、RGB値に変換してから表示するようにしてもよい。
【0110】
外光センサー1303は、観察環境に設置された観察光源の情報を取得する装置である。外光センサー1303は、例えば複数のカラーセンサー(図示しない)を含む。各カラーセンサーは、それぞれ異なる波長の光(色成分)を分離して抽出する。したがって、外光センサー1303は、例えば人間の可視領域(波長で380nm~780nm)の光を、複数のカラーセンサーを用いて波長毎に複数に分離するフィルター分光処理を行って、所定の波長の光を分離して抽出する。外光センサー1303は、
図8中で、XYZ取得部104及び精度評価用XYZ取得部108に対して観察光源の分光分布特性データを供給する観察側外部センサー802に相当し、観察光源からの放射光の分離結果を、例えば通信部1301を介して情報処理装置100に出力する。なお、外光センサー1303は、複数のカラーセンサーを用いて分光を行う構成には限定されず、例えば分光計のように光源の分光をより詳細に取得するセンサーであってもよい(同上)。
【0111】
処理部1304は、例えばCPUを含み、
図11に示した実装例において、例えば破線で囲まれた範囲に含まれる各構成要素に対応処理を実施する。
【0112】
G.誤差の机上算出
本開示に従ってマクベスのカラーチャート24色から選択した最適な9色を用いて算出した変換係数の誤差を、マクベスのカラーチャート24色から経験的に選択した9色を用いて算出した変換係数の誤差、及びマクベスのカラーチャート24色すべてを用いて算出した変換係数の誤差とともに机上算出して、比較してみた。
【0113】
図14には、本開示に基づいてマクベスのカラーチャート24色から選択した9色を用いて算出された変換係数の誤差を机上算出するための機能的構成を示している。
図14は、
図1と基本的には同様の機能的構成を備えているが、変換係数の算出時と精度評価時とで同じマクベスカラーチャートを共用している点で
図1とは相違する。
【0114】
選択部1402は、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択すると、選択した各サンプル色の分光反射率データをサンプル色分光データ保持部1401から読み出して、後段の機能ブロックに出力する。
【0115】
RGB値取得部1403は、選択部1402で選択された9色の各サンプル色の分光反射率データと、カメラのカラーフィルタ分光感度特性データと、撮像光源の分光分布特性データから、カメラがその9色のサンプル色からなる色票を撮像したときのRGB値を算出する。
【0116】
また、XYZ値取得部1404は、選択部1402で選択された9色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、選択部1402で選択された9色の各サンプル色の分光反射率データと、観察光源の分光分布特性データから、等色関数に基づいて算出する。
【0117】
変換情報算出部1405は、RGB値取得部1403で取得したカメラ出力のRGB値を、XYZ値取得部1404で取得したXYZ値と比較して、最小二乗法などを用いてRGB値をXYZ値に変換するための変換係数を算出する。
【0118】
精度評価用RGB値取得部1407は、マクベスカラーチャートの24色の各サンプル色の分光反射率データと、カメラのカラーフィルタ分光感度特性データと、撮像光源の分光分布特性データから、カメラがそのマクベスカラーチャートの24色のサンプル色からなる色票を撮像したときのRGB値を算出する。
【0119】
精度評価用XYZ値取得部1408は、マクベスカラーチャートの24色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、マクベスカラーチャートの24色の各サンプル色の分光反射率データと、観察光源の分光分布特性データから、等色関数に基づいて算出する。
【0120】
変換部1409は、精度評価用RGB値取得部1407が取得した精度評価用RGB値を、変換情報算出部1405が算出した変換係数を用いてXYZ値に変換する。
【0121】
誤差算出部1410は、変換部1409が変換係数を用いてRGB値から変換した後のXYZ値を、精度評価用XYZ値取得部1408が取得した精度評価用XYZ値と比較し、変換情報算出部1405が算出した変換係数の誤差を設定した目標に基づいて算出する。誤差算出部1410は、色再現の目標又は前記変換情報の適用分野に基づいて、誤差算出の目標設定を行う。目標設定により、目標とする適用分野に応じて特定のサンプル色で精度を高めるなどの処理が可能となる。
【0122】
誤差算出部1410が算出した誤差は、選択部1402にフィードバックされる。そして、選択部1402は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、マクベスカラーチャートに含まれる24色の中から9色のサンプル色を選択する。このようにして、最適化された9色のサンプル色を用いて算出された誤差を得ることができる。
【0123】
図15には、
図14との比較として、マクベスのカラーチャート24色から経験的に選択した9色を用いて算出した変換係数の誤差を机上算出するための機能的構成を示している。
図15は、変換係数の誤差算出時に目標を設定しない点、及び算出した誤差をフィードバックしない点で
図14に示した機能的構成とは相違し、それ以外は共通する。
【0124】
選択部1502は、マクベスカラーチャートに含まれる24色の中から経験的に9色のサンプル色を選択し、選択した各サンプル色の分光反射率データをサンプル色分光データ保持部1501から読み出して、後段の機能ブロックに出力する。
【0125】
RGB値取得部1503は、経験的に選択された9色のサンプル色をカメラが撮像したときのRGB値を算出する。また、XYZ値算出部1504は、経験的に選択された9色のサンプル色を観察環境下で観察した場合のXYZ値を等色関数に基づいて算出する。そして、変換情報算出部1505は、RGB値取得部1503で取得されたカメラ出力のRGB値を、XYZ値取得部1504で取得したXYZ値に変換するための変換係数を、最小二乗法などを用いて算出する。
【0126】
精度評価用RGB値取得部1507は、マクベスカラーチャートの24色をカメラが撮像したときのRGB値を算出する。また、精度評価用XYZ値取得部1508は、マクベスカラーチャートの24色を観察環境下で観察した場合のXYZ値を等色関数に基づいて算出する。変換部1509は、精度評価用RGB値取得部1507が取得した精度評価用RGB値を、変換情報算出部1505が算出した変換係数を用いてXYZ値に変換する。そして、誤差算出部1510は、変換部1509による変換後のXYZ値と、精度評価用XYZ値取得部1508が取得した精度評価用XYZ値と比較して、変換情報算出部1505が算出した変換係数の誤差を算出する。但し、元の24色から経験的に9色を選択することから、誤差算出時に目標設定を行わない。このようにして、経験的に選択した9色のサンプル色を用いて算出された誤差を得ることができる。
【0127】
また、
図16には、
図14とのさらなる比較として、マクベスのカラーチャートの全24色を用いて算出した変換係数の誤差を机上算出するための機能的構成を示している。元のサンプル色をすべて変換係数の計算に用いるので、一部のサンプル色を選択する選択部は含まない。
【0128】
RGB値取得部1602は、サンプル色分光データ保持部1601から読み出したマクベスカラーチャートの24色の各サンプル色の分光反射率データと、カメラのカラーフィルタ分光感度特性データと、撮像光源の分光分布特性データから、カメラがそのマクベスカラーチャートの24色のサンプル色からなる色票を撮像したときのRGB値を算出する。
【0129】
また、XYZ値取得部1603は、マクベスカラーチャートの24色のサンプル色からなる色票を観察環境下で観察した場合のXYZ値を、マクベスカラーチャートの24色の各サンプル色の分光反射率データと、観察光源の分光分布特性データから、等色関数に基づいて算出する。
【0130】
変換情報算出部1604は、RGB値取得部1602で取得したカメラ出力のRGB値を、XYZ値取得部1603で取得したXYZ値と比較して、最小二乗法などを用いてRGB値をXYZ値に変換するための変換係数を算出する。
【0131】
変換部1605は、RGB値取得部1602が取得したRGB値を、変換情報算出部1604が算出した変換係数を用いてXYZ値に変換する。
【0132】
誤差算出部1606は、変換部1605が変換係数を用いてRGB値から変換した後のXYZ値を、XYZ値取得部1603が取得したXYZ値と比較して、変換情報算出部1604が算出した変換係数の誤差を算出する。
【0133】
なお、
図14~
図16に示した構成例においても、撮像光源として、D65、WhiteLED、高演色WhiteLED、及び蛍光灯の4種類を用い、観察光源はすべてD65、カメラはすべてRGB単板とする。
【0134】
続いて、
図14~
図16の各々において使用するサンプル色について説明する。
【0135】
図17には、マクベスカラーチャートを示している。マクベスカラーチャートは、24個のサンプル色が左上から右下に向かって4×6マトリックス状に配置されている。各サンプル色には、「DarkSkin」、「LightSkin」、「bluesky」、…のように固有の名称が割り当てられるとともに、それぞれ分光反射率が規定されている。
【0136】
図18には、マクベスカラーチャートの24色から経験的に選択した9色の例を示している。同図では、スキンの再現を目標として、元の24色の中から、Skinの2色と彩度の低いbluesky、BGRの3原色、及びWhite&Grayの3色が経験的に選択されている。
【0137】
図19には、
図2に示したカメラ出力のXYZ値と観察XYZ値を2次元xy座標に変換して比較する方法において、算出された色差に対して色毎に目標を設定する例を示している。具体的には、マクベスカラーチャートの評価色24色の中から彩度の低いdelta-x、delta-y標準偏差と、White-Gray系6色の座標移動距離を算出し、これら2つの合計を最小化することを目標に設定する。低彩度12色にはSkin2色が含まれており、この標準偏差が小さい方がスキンの再現性が良い可能性が高い。
【0138】
本発明者は、マクベスカラーチャートの全24色を用いた場合(全24色:
図16を参照のこと)、24色から経験的に選択した9色を用いた場合(経験9色:
図15を参照のこと)、及び、24色の中から最適な9色を選択した場合(最適9色:
図14を参照のこと)の各々について、想定される各撮像光源(D65、WhiteLED、高演色WhiteLED、蛍光灯)を使って算出した誤差(誤差標準偏差及び座標移動距離)を比較してみた。但し、全24色及び経験9色に関しては、撮像光源に依らずそれぞれ同じ色票を用いて誤差算出を行い、最適9色に関しては、撮像光源毎に最適化した9色の色票を用いて誤差算出を行い、各算出結果について比較してみた。
【0139】
その結果、目標設定して最適化した9色からなる色票を用いて机上算出した変換係数の精度は、経験9色の色票を用いて机上算出した変換係数の精度よりも高く(誤差が小さく)、さらに全24色の色票を用いて机上算出した変換係数の精度よりも高いケースもあることを確認できた。機材(カメラ、光源)が決まれば、本開示に基づいて最適化した色の組み合わせからなる色票を用いることによって、さらに変換係数の精度を向上することができる。なお、本開示に基づいて選択した最適な9色の組み合わせは、経験的に選択した9色の組み合わせとは全く異なり、また、撮像光源毎に最適な9色の組み合わせが異なる。
【0140】
H.処理フロー
図20には、
図1に示した情報処理装置100において、それぞれ分光反射率特性が既知のn個のサンプル色の中から、変換係数の算出用の色票に用いる最適となるr個のサンプル色の組み合わせを選択するための処理手順をフローチャートの形式で示している。以下、
図20に示したフローチャートを参照しながら、情報処理装置100上で最適なサンプル色の組み合わせを選択するための処理について説明する。
【0141】
まず、選択部102は、選択の元となるn個のサンプル色の中からr個の色をランダムに選択すると(ステップS2001)、選択した各サンプル色の分光反射率データをサンプル色分光データ保持部101から読み出して、後段の機能ブロックに出力する。
【0142】
RGB値取得部103は、選択部102で選択されたr色の各サンプル色の分光反射率データと、カメラのカラーフィルタ分光感度特性データと撮像光源の分光分布特性データから、このr色からなる色票をカメラで撮像したときのRGB値(カメラRGB値)を計算により算出する(ステップS2002)。
【0143】
また、XYZ値取得部104は、選択部102で選択されたr色の各サンプル色の分光反射率データと、観察環境の光源(観察光源)の分光分布特性データから、等色関数に基づいて、ターゲット値としてXYZ値(ターゲットXYZ値)を算出する(ステップS2003)。
【0144】
次いで、変換情報算出部105は、RGB値取得部103で取得されたカメラ出力のRGB値を、XYZ値取得部104で取得したXYZ値と比較して、最小二乗法などを用いてRGB値をXYZ値に変換するための変換係数を算出する(ステップS2004)。
【0145】
一方、精度評価用RGB値取得部107は、精度評価用のp個の各サンプル色の分光反射率データを精度評価用サンプル色分光データ保持部106から読み出して、撮像環境下でカメラがこのp色からなる色票を撮像したときの精度評価用RGB値を、カメラのカラーフィルタ分光感度特性データと撮像光源の分光分布特性データに基づいて算出する(ステップS2005)。
【0146】
また、精度評価用XYZ値取得部107は、このp色の各サンプル色の分光反射率データと、観察環境の光源(観察光源)の分光分布特性データから、等色関数に基づいて、精度評価用のターゲット値としてXYZ値を算出する(ステップS2006)。
【0147】
次いで、変換部109は、精度評価用RGB値取得部107が取得した精度評価用RGB値を、変換情報算出部105が算出した変換係数を用いてXYZ値に変換する(ステップS2007)。又は、ステップS2007では、変換部1099は、精度評価用XYZ値取得部108が取得した精度評価用XYZ値を、変換情報算出部105が算出した変換係数を用いてRGB値に変換するようにしてもよい。
【0148】
誤差算出部110は、ステップS2005~S2007で得られたRGB値同士又はXYZ値同士の色差を求めると、設定した目標に応じて色毎の色差を重み付けして(ステップS2008)、ステップS2004で求めた変換係数の誤差(標準誤差など)を算出する(ステップS2009)。
【0149】
そして、誤差算出部110は、算出した誤差が最小となったかどうかをチェックする(ステップS2010)。変換係数の誤差が最小になったと判断すると(ステップS2010のYes)、情報処理装置100は、その変換係数を外部装置(例えば、カメラの撮像画像のRGB値をXYZ値に変換する処理を行う変換装置)に出力して、本処理を終了する。
【0150】
一方、変換係数の誤差がまだ最小に到達していないと判断すると(ステップS2010のNo)、誤差算出部110は、その算出結果を選択部102にフィードバックする。そして、選択部102は、変換係数の誤差が最小となるように、最適化アルゴリズムを用いて、n色の中からr色のサンプル色を改めて選択して(ステップS2011)、上記と同様の処理が繰り返し実施される。
【0151】
図20に示した処理手順によれば、機材(カメラ、光源)及び目標に応じて最適となるr個のサンプル色の組み合わせを選択することができ、したがって、機材及び目標毎に高精度の変換係数を算出することができるようになる。
【0152】
I.効果
例えば特許文献1では、カメラで撮像した画像を遠隔地で観察する場合に、被写体の撮像画像のRGB値をXYZ値に変換することで、観察側で観察した色として再現させる技術が開示されている。これに対し、本開示に係る情報処理装置100によれば、RGB値をXYZ値に変換するための変換係数を算出する際に、使用する色票として最適となるサンプル色の組み合わせを選択することができる。
【0153】
上記F項で説明したように、印刷された色票を実際にカメラで撮像して得られたRGB値を使って変換係数及びその誤差を算出する方法(F-1)と、色票は印刷せず、データとして保持する各サンプル色の分光反射率特性とカメラのカラーフィルタ分光感度特性及び撮像光源の分光分布特性に基づいてカメラが色票を撮像して出力するRGB値を算出する方法(F-2)がある。
【0154】
方法(F-1)を採用する場合、色票を印刷するため、事前にサンプル色を選択する必要があるが、本開示によれば、色票の色数を減らして、印刷コストを節減できるという効果がある。また、使用する機材や色再現の目標が決まっている場合には、より少ない色数で最適なサンプル色の組み合わせを選択し、最適な色票を提案することができる。最適な色票を使用することで、変換係数の精度、言い換えれば色再現の精度を向上させることができる。他方、使用する機材が決まらない場合には、機材を想定し、重み付けなどによりより最適なサンプル色の組み合わせを選択することができる。サンプル色の選択手法は、実機(カメラ又は表示装置)、実機以外の計算機のいずれでも実現することができる。
【0155】
方法(F-2)を採用する場合、色票は印刷せず、各サンプル色の分光反射率特性データとして保持しており、且つ、機材(カメラ、光源)が特定できているので(すなわち、各機材の分光特性を把握しているので)、環境や目標に応じた最適なサンプル色の組み合わせを動的に選択することができる。したがって、最適な色票を使用することで、変換係数の精度、言い換えれば色再現の精度を向上させることができる。サンプル色の選択手法は、基本的に、計算機上で実現することができる。
【0156】
また、(F-1)及び(F-2)のいずれの方法においても、色再現の目標を設定して、目標に応じた誤差算出を行うことによって、特定の色で色再現精度を高めるといった制御が可能となる。
【0157】
J.情報処理装置のハードウェア構成
図21には、
図1に示した機能的構成を実現することができる情報処理装置100のハードウェア構成例を示している。図示の情報処理装置100は、CPU2001と、ROM(Read Only Memory)2002と、RAM(Random Access Memory)2003と、ホストバス2004と、ブリッジ2005と、拡張バス2006と、インタフェース部2007と、入力部2008と、出力部2009と、ストレージ部2010と、ドライブ2011と、通信部2013を含んでいる。
【0158】
CPU2001は、演算処理装置及び制御装置として機能し、各種プログラムに従って情報処理装置100の動作全般を制御する。ROM2002は、CPU2001が使用するプログラム(基本入出力システムなど)や演算パラメータを不揮発的に格納している。RAM2003は、CPU2001の実行において使用するプログラムをロードしたり、プログラム実行において適宜変化する作業データなどのパラメータを一時的に格納したりするのに使用される。RAM2003にロードしてCPU2001において実行するプログラムは、例えば各種アプリケーションプログラムやオペレーティングシステム(OS)などである。
【0159】
CPU2001とROM2002とRAM2003は、CPUバスなどから構成されるホストバス2004により相互に接続されている。そして、CPU2001は、ROM2002及びRAM2003の協働的な動作により、OSが提供する実行環境下で各種アプリケーションプログラムを実行して、さまざまな機能やサービスを実現することができる。情報処理装置100がパーソナルコンピュータの場合、OSは例えば米マイクロソフト社のWindowsやUnixである。情報処理装置100がスマートフォンやタブレットなどの情報端末の場合、OSは例えば米アップル社のiOS又は米グーグル社のAndroidである。また、アプリケーションプログラムには、
図20に示した処理手順を実行するためのアプリケーション、又は
図1中の各機能ブロックとして情報処理装置100が動作するためのアプリケーションが含まれるものとする。
【0160】
ホストバス2004は、ブリッジ2005を介して拡張バス2006に接続されている。拡張バス2006は、例えばPCI(Peripheral Component Interconnect)バス又はPCI Expressであり、ブリッジ2005はPCI規格に基づく。但し、情報処理装置100がホストバス2004、ブリッジ2005及び拡張バス2006によって回路コンポーネントを分離される構成する必要はなく、単一のバス(図示しない)によってほぼすべての回路コンポーネントが相互接続される実装であってもよい。
【0161】
インタフェース部2007は、拡張バス2006の規格に則って、入力部2008、出力部2009、ストレージ部2010、ドライブ2011、及び通信部2013といった周辺装置を接続する。但し、
図21に示す周辺装置がすべて必須であるとは限らず、また図示しない周辺装置を情報処理装置100がさらに含んでもよい。また、周辺装置は情報処理装置100の本体に内蔵されていてもよいし、一部の周辺装置は情報処理装置100本体に外付け接続されていてもよい。
【0162】
入力部2008は、ユーザからの入力に基づいて入力信号を生成し、CPU2001に出力する入力制御回路などから構成される。情報処理装置100がパーソナルコンピュータの場合、入力部2008は、キーボードやマウス、タッチパネルを含んでもよく、さらにカメラやマイクを含んでもよい。また、情報処理装置100がスマートフォンやタブレットなどの情報端末の場合、入力部2008は、例えばタッチパネルやカメラ、マイクロホンであるが、ボタンなどのその他の機械式の操作子をさらに含んでもよい。
【0163】
出力部2009は、スピーカー及びヘッドホンなどの音声出力装置を含む。また、出力部2009は、例えば、LCD、有機ELディスプレイ、及びLED(Light Emitting Diode)などの表示装置を含む。
【0164】
ストレージ部2010は、CPU2001で実行されるプログラム(アプリケーション、OSなど)や各種データなどのファイルを格納する。ストレージ部2010が格納するデータとして、ニューラルネットワークのトレーニングのための通常の音声及びささやき声のコーパス(前述)を含んでもよい。ストレージ部2010は、例えば、SSD(Solid State Drive)やHDD(Hard Disk Drive)などの大容量記憶装置で構成されるが、外付けの記憶装置を含んでもよい。
【0165】
リムーバブル記憶媒体2012は、例えばmicroSDカードのようなカートリッジ式で構成される記憶媒体である。ドライブ2011は、装填したリムーバブル記憶媒体113に対して読み出し及び書き込み動作を行う。ドライブ2011は、リムーバブル記録媒体2012から読み出したデータをRAM2003やストレージ部2010に出力したり、RAM2003やストレージ部2010上のデータをリムーバブル記録媒体2012に書き込んだりする。
【0166】
通信部2013は、Wi-Fi(登録商標)、Bluetooth(登録商標)や4Gや5Gなどのセルラー通信網などの無線通信を行うデバイスである。また、通信部2013は、USBやHDMI(登録商標)などの端子を備え、スキャナやプリンタなどのUSBデバイスやディスプレイなどとのHDMI(登録商標)通信を行う機能をさらに備えていてもよい。
【0167】
情報処理装置100としてPCを想定しているが、1台とは限らず、2台以上のPCに分散して
図1に示した情報処理装置100を実現したり、あるいは、目標設定に応じた最適な色選択や最適な選択色からなる色票を用いた変換係数の計算を行うための各種アプリケーションを実行したりするようにすることもできる。
【0168】
図21に示した情報処理装置100は、所定のプログラムコードを実行することにより、
図1に示したような機能的構成を実現することができ、また、
図20に示したような処理手順を実施することが可能となり、設定した目標に対して色票として最適となる色の組み合わせを選択し、且つ、最適な色票に基づいて高精度な変換情報を生成して、変換装置に提供することができる。
【産業上の利用可能性】
【0169】
以上、特定の実施形態を参照しながら、本開示について詳細に説明してきた。しかしながら、本開示は上述した実施形態に限定して解釈されるべきでなく、本開示の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。また、本明細書に記載した効果はあくまで例示であって、本開示がもたらす効果は限定されるものではなく、本明細書に記載されていない付加的な効果があってもよい。
【0170】
本明細書では、本開示を特定の実施形態を中心に説明してきたが、本開示の要旨はこれに限定されるものではない。
【0171】
本開示は、例えば遠隔医療の分野に適用することができる。この場合、病院Aで患者を撮像した撮像画像を別の病院Bのモニタに表示して医者が診察を行う場面に適用され、モニタに表示される患者の顔色を、病院Bで医者が観察した場合と同じ色で再現することで、医者は病院Aにいる患者を、病院Bにいる場合と同じように遠隔的に診察することができる。また、本開示は、工事現場、原子力プラント、宇宙空間など難作業現場における作業ロボットを遠隔操作する場面に適用して、オペレータは高精度に再現された現場画像を観察しながら指示する(例えば、ロボットを遠隔操作する)ことができる。
【0172】
また、本開示の適用範囲は、像環境と観察環境が物理的に大きく隔たっている場合には限定されず、撮像環境下の被写体の色を観察環境下で正しく再現できないさまざまな場面を含むことができる。
【0173】
要するに、例示という形態により本開示について説明してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本開示の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【0174】
本明細書中において説明した一連の処理はハードウェア、ソフトウェア、又はハードウェアとソフトウェアを複合した構成によって実行することが可能である。ソフトウェアによる処理を実行する場合、本開示の実現に関わる処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。各種処理が実行可能な汎用的なコンピュータにプログラムをインストールして本開示の実現に関わる処理を実行させることも可能である。
【0175】
プログラムは、例えば記録媒体としてのHDDやSSD、ROMなどのコンピュータ内に装備された記録媒体にあらかじめ格納しておくことができる。又は、プログラムを、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、USB(Universal Serial Bus)メモリなどのリムーバブル記録媒体に、一時的又は永続的に格納しておくことができる。このようなリムーバブル記録媒体を用いて、いわゆるパッケージソフトウェアとして本開示の実現に関わるプログラムを提供することができる。
【0176】
また、プログラムは、ダウンロードサイトからセルラーに代表されるWAN(Wide Area Network)、LAN(Local Area Network)、インターネットなどのネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、コンピュータ内のHDDやSSDなどの大容量記憶装置にインストールすることができる。
【0177】
なお、本開示は、以下のような構成をとることも可能である。
【0178】
(1)n個のサンプル色の中からr個のサンプル色を選択する選択部と(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部と、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部と、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部と、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部と、
を具備し、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
情報処理装置。
【0179】
(2)前記選択部は、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する、
上記(1)に記載の情報処理装置。
【0180】
(3)前記第1の取得部は、前記選択部によって選択された各サンプル色の分光反射率特性と、前記撮像装置の分光感度特性と、前記撮像環境にある撮像光源の分光分布特性に基づいて、前記撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を算出する、
上記(1)又は(2)のいずれか1つに記載の情報処理装置。
【0181】
(4)前記第2の取得部は、前記観察環境にある観察光源の分光分布特性を用いて、前記選択部によって選択された各サンプル色を観察する場合のXYZ値を等色関数に基づいて算出する、
上記(1)乃至(3)のいずれか1つに記載の情報処理装置。
【0182】
(5)前記撮像環境において前記撮像装置が精度評価用サンプル色を撮像した場合に前記撮像装置が出力する精度評価用RGB値を取得する第3の取得部と、
前記観察環境において前記精度評価用サンプル色を観察したときの精度評価用XYZ値を取得する第4の取得部と、
をさらに備え、
前記誤差算出部は、前記精度評価用RGB値と、前記精度評価用XYZ値を用いて前記変換情報の誤差を算出する、
上記(1)乃至(4)のいずれか1つに記載の情報処理装置。
【0183】
(6)前記第3の取得部は、精度評価用サンプル色の分光反射率特性と、前記撮像装置の分光感度特性と、前記撮像環境にある光源の分光分布特性に基づいて、前記精度評価用RGB値を算出し、
前記第4の取得部は、前記観察環境にある光源の分光分布特性を用いて、前記精度評価用XYZ値を等色関数に基づいて算出する、
上記(5)に記載の情報処理装置。
【0184】
(7)前記変換情報を用いて、前記精度評価用RGB値をXYZ値に変換し、又は、前記精度評価用XYZ値をRGB値に変換する変換部をさらに備え、
前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較し、又は、前記変換部が前記精度評価用XYZ値から変換したRGB値を前記精度評価用RGB値と比較して、前記変換情報の誤差を算出する、
上記(6)に記載の情報処理装置。
【0185】
(8)前記誤差算出部は、色再現の目標又は前記変換情報の適用分野に基づいて、誤差算出の目標を設定する、
上記(7)に記載の情報処理装置。
【0186】
(9)前記誤差算出部は、前記目標に応じてサンプル色毎の重み付けして、誤差を算出する、
上記(8)に記載の情報処理装置。
【0187】
(10)前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較する際に、各XYZ値の2次元xy座標を算出した後、色毎に座標距離の平均、総和、標準偏差、又は、互いのx(y)値の誤差平均、総和、標準偏差を算出する、
上記(7)乃至(9)のいずれか1つに記載の情報処理装置。
【0188】
(11)前記誤差算出部は、前記変換部が前記精度評価用RGB値から変換したXYZ値を前記精度評価用XYZ値と比較する際に、各各XYZ値をそれぞれL*a*b値に変換した後、それらの色差を示すDE2000値を精度評価用サンプル色毎に算出して、サンプル色毎のDE2000値の平均、総和、標準偏差を算出する、
上記(7)乃至(9)のいずれか1つに記載の情報処理装置。
【0189】
(12)前記選択部は、一般化簡略勾配法を用いて、前記誤差が最小となるようにn個のサンプル色からr個のサンプル色を選択する、
上記(2)に記載の情報処理装置。
【0190】
(13)n個のサンプル色の中からr個のサンプル色を選択する選択部ステップ(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択ステップで選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得ステップと、
観察環境において前記選択ステップで選択された各サンプル色を観察したときのXYZ値を取得する第2の取得ステップと、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出ステップと、
前記変換情報算出ステップで算出した変換情報の誤差を算出する誤差算出ステップと、
を有し、
前記選択ステップでは、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
情報処理方法。
【0191】
(14)n個のサンプル色の中からr個のサンプル色を選択する選択部(但し、nとrはともに正の整数で、n>rとする)、
撮像環境において撮像装置が前記選択部によって選択された各サンプル色を撮像した場合に前記撮像装置が出力するRGB値を取得する第1の取得部、
観察環境において前記選択部によって選択された各サンプル色を観察したときのXYZ値を取得する第2の取得部、
前記第1の取得部が取得したRGB値と前記第2の取得部が取得したXYZ値に基づいて、RGB値をXYZ値に変換する変換情報を算出する変換情報算出部、
前記変換情報算出部が算出した変換情報の誤差を算出する誤差算出部、
としてコンピュータを機能させるようにコンピュータ可読形式で記述され、
前記選択部は、前記誤差に基づいてn個のサンプル色からr個のサンプル色を選択する、
コンピュータプログラム。
【0192】
(15)変換情報を使って撮像装置から出力されたRGB値をXYZ値に変換し、
前記変換情報は、n個のサンプル色の中から選択された最適なr個のサンプル色を用いて(但し、nとrはともに正の整数で、n>rとする)、前記最適なr個のサンプル色を撮像した前記撮像装置が出力するRGB値を、観察環境において前記最適なr個のサンプル色を観察したときのXYZ値に変換できるように算出されたものである、
情報処理装置。
【符号の説明】
【0193】
100…情報処理装置、101…サンプル色分光データ保持部
102…選択部、103…RGB値取得部、104…RGB値取得部
105…変換情報算出部
106…精度評価用サンプル色分光データ保持部
107…精度評価用RGB値取得部
108…精度評価用XYZ値取得部、109…変換部
110…誤差算出部
201、202…xy算出部、203…重み付け部
204…標準偏差算出部
301、302…L*a*b*算出部、303…DE2000算出部
304…重み付け部、305…標準偏差算出部
1200…カメラ、1201…通信部、1202…撮像部
1203…外光センサー1204…処理部
1300…表示装置、1301…通信部、1302…表示部
1303…外光センサー、1304…処理部
1401…サンプル色分光データ保持部、1402…選択部
1403…RGB値取得部、1404…XYZ値取得部
1405…変換情報算出部、1407…精度評価用RGB値取得部
1408…精度評価用XYZ値取得部、1409…変換部
1410…誤差算出部
1501サンプル色分光データ保持部、1502…選択部
1503…RGB値取得部、1504…XYZ値取得部
1505…変換情報算出部、1507…精度評価用RGB値取得部
1508…精度評価用XYZ値取得部、1509…変換部
1510…誤差算出部
1601…サンプル色分光データ保持部、1602…RGB値取得部
1603…XYZ値取得部、1604…変換情報取得部
1605…変換部、1606…誤差算出部
2001…CPU、2002…ROM、2003…RAM
2004…ホストバス、2005…ブリッジ、2006…拡張バス
2007…インタフェース部、2008…入力部、2009…出力部
2010…ストレージ部、2011…ドライブ
2012…リムーバブル記録媒体、2013…通信部
2200…色再現システム、2210…撮像装置、2211…撮像光源
2220…表示装置、2221…観察光源、2230…変換装置
2240…情報処理装置