(58)【調査した分野】(Int.Cl.,DB名)
観察角度に対応した異なる周波数の回折光を発するホログラムにより、異なる画像撮像装置間における一方の画像撮像装置の撮像画像の各々の色を校正する色校正装置であり、
前記ホログラムからの前記回折光の各々の回折光分光分布を求める回折光分光分布計算部と、
前記回折光の各々の前記回折光分光分布と、前記回折光それぞれの撮像画像とから、前記画像撮像装置の分光感度を推定する分光感度推定部と、
推定された前記分光感度を用いて、前記画像撮像装置の、当該画像撮像装置と異なる他の画像撮像装置に対する色の異なりを校正する色校正部と
を備える色校正装置。
予め設定された複数の設定回折光分光分布に各々対応する回折光分光分布を有する撮像画像を、全て撮像するための動作を示す情報を出力する撮像動作指示部をさらに備える請求項1から請求項3のいずれか1項に記載の色校正装置。
予め設定された複数の設定回折光分光分布に各々対応する回折光分光分布を有する撮像画像を、全て撮像するための動作を示す情報を出力する撮像動作指示部をさらに備える請求項8から請求項10のいずれか1項に記載の色校正システム。
観察角度に対応した異なる周波数の回折光を発するホログラムであり、異なる画像撮像装置間における一方の画像撮像装置の撮像画像の各々の色を校正する分光感度を求めるために用いられる
色校正用ホログラム。
観察角度に対応した異なる周波数の回折光を発するホログラムにより、異なる画像撮像装置間における一方の画像撮像装置の撮像画像の各々の色を校正する色校正方法であり、
前記ホログラムからの前記回折光の各々の回折光分光分布を求める回折光分光分布計算過程と、
前記回折光の各々の前記回折光分光分布と、前記回折光それぞれの撮像画像とから、前記画像撮像装置の分光感度を推定する分光感度推定過程と、
推定された前記分光感度を用いて、前記画像撮像装置の、当該画像撮像装置と異なる他の画像撮像装置に対する色の異なりを校正する色校正過程と
を含む色校正方法。
予め設定された複数の設定回折光分光分布に各々対応する回折光分光分布を有する撮像画像を、全て撮像するための動作を示す情報を出力する撮像動作指示過程をさらに含む請求項15に記載の色校正方法。
観察角度に対応した異なる周波数の回折光を発するホログラムにより、異なる画像撮像装置間における一方の画像撮像装置の撮像画像の各々の色を校正する動作をコンピュータに実行させるプログラムであり、
前記コンピュータを、
前記ホログラムからの前記回折光の各々の回折光分光分布を求める回折光分光分布計算手段、
前記回折光の各々の前記回折光分光分布と、前記回折光それぞれの撮像画像とから、前記画像撮像装置の分光感度を推定する分光感度推定手段、
推定された前記分光感度を用いて、前記画像撮像装置の、当該画像撮像装置と異なる他の画像撮像装置に対する色の異なりを校正する色校正手段
として動作させるためのプログラム。
【発明を実施するための形態】
【0031】
<第1の実施形態>
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、第1の実施形態による色校正装置を備える色校正システムの構成例を示すブロック図である。
図1において、色校正装置1は、撮像部(画像撮像装置)101、撮像制御部102、露光制御部103、照明部104、観察角度推定部105、回折光分光分布計算部106、分光感度推定部107、色校正部108、表示部109及び画像データ記憶部110を備えている。この第1の実施形態の色校正装置1は、撮像部101と照明部104とが一体化されており、例えば、照明部104から出射される光に対応して、再帰反射方向に回折光を発するホログラム(後述する色校正用ホログラム302)を、色校正の色校正シートとして用いた色校正処理に対応した構成となっている。
【0032】
また、クレジットカード300は、例えば、真贋判定を行なう対象であり、表面に偽造防止媒体としての真贋判定用ホログラム301と、色の校正を行なうための色校正用ホログラム302とが設けられている。クレジットカード300は矩形板状に形成されている。真贋判定用ホログラム301は、物品(クレジットカード300)の真贋判定に用いられ、照射される光の特性である光特性の変化により観察される光のパターンが変化する。本実施形態においては、色校正装置1と色校正用ホログラム302とにより、色校正システム5が構成される。すなわち、色校正システム5は、色校正装置1と色校正用ホログラム302とを備える。
本実施形態においては、真贋判定用ホログラム301から出射される回折光の色を正確に判定するため、色校正用ホログラム302により、撮像部101の光学系における分光感度を求める。そして、求めた分光感度を用いて、撮像部101の撮像した回折光の撮像画像データにおける色を、真贋判定を行なう際の標準的な色(標準的な分光感度を有する撮像装置で撮像した際の色)に変更する校正を行なう。
【0033】
撮像部101は、例えば、CCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を用いたカメラなどであり、対象物を撮像した際のRAWデータ(後述)をホワイトバランス調整等の画像処理をせず、デモザイク処理のみ行った撮像画像データに変換して、その撮像画像データを画像データ記憶部110に対して書き込んで記憶させる。画像データ記憶部110は、ハードディスクドライブやフラッシュメモリ等であり、データを記憶可能である。
【0034】
図2は、一般的な画像撮像装置における撮像した撮像画像データの色信号処理を説明する図である。
図2を用いて一般的な画像撮像装置、例えばデジタルカメラの色信号処理について説明する。画像撮像装置2は、撮像素子により被写体(例えばクレジットカード)300Aのフルカラー画像を得る画像撮像装置であり、レンズ等の撮像光学系201と、カラーフィルタ(バンドパスフィルタ)202及びフォトダイオード203からなる撮像素子204と、画像処理エンジン205と、メモリ206と、を備える。ここで、撮像素子204は、例えばRGB3色のカラーフィルタが取り付けられた単板式のCCDやCMOSである。この
図2の、画像処理エンジン205を除く部分が、
図1の撮像部101に対応している。
【0035】
撮像光学系201は、カラーフィルタ202を介してフォトダイオード203上に被写体像(被写体からの光)を結像する。
カラーフィルタ202は、RGBの各々のフィルタ領域毎に、被写体からの光をこのフィルタ領域のフィルタ特性に応じた色光(例えば、RGBそれぞれの波長帯域の成分光)それぞれに分光させ、フォトダイオード203に出射する。
【0036】
フォトダイオード203の受光素子の各々は、それぞれ入射される色光の光を光電変換し、RAW(取得した生の)データとして出力する。ここで、図示しないA/D(Analog/Digital)変換器は、フォトダイオード203が変換したRAWデータをA/D変換し、デジタルデータとしてRAWデータを、画像処理エンジン205に対して出力する。このデジタルデータ化されたRAWデータを画像処理エンジン205に出力する構成までが、上述したように、
図1の撮像部101に対応している。
【0037】
画像処理エンジン205は、上記A/D変換器から供給(入力)されたRAWデータに、撮像画像データにおける画素毎のRGB信号(信号値)を生成するデモザイク処理、トーンマッピング、ホワイトバランス補正など、様々な画像処理を施す。そして、画像処理エンジン205は、画像処理が施されたRAWデータを、sRGBなどの規格で決められた色に変換した後、JPEG(Joint Photographic Experts Group)やTIFF(Tagged Image File Format)などの一般的な撮像画像データの画像ファイルフォーマットとして、メモリ206に対して書き込んで記憶させる。
また、デジタルカメラの機種によっては、画像処理エンジン205で処理する前のRAWデータをメモリ206に保存することもできる。なお、本実施形態の撮像部101は、メモリを備えていてもよいし、備えていなくてもよい。すなわち、撮像部101は、少なくとも撮像光学系201及び撮像素子204に相当する構成を備えていればよい。
【0038】
上述した撮像光学系201と撮像素子204の色特性は、光学系であるレンズや光学フィルタ(カラーフィルタ202)の透過特性とフォトダイオード203の感度特性を合わせて、光の各波長に対する色の感度である分光感度として表せる。
このため、デジタルデータ化されたRAWデータは、被写体300Aから発せられた光に対し、RGB3色の色成分それぞれの分光感度を波長毎に乗じて積分した信号値として記録される。
【0039】
画像処理エンジン205で行われる処理は各メーカによって様々である。また、画像処理エンジン205は、鑑賞する人間の目に自然に見えるように、撮像画像データを画像処理し、sRGB規格の色域外の色を近似により色域内の色に変換する処理を行なう。このように、画像撮像装置の各々において、RAWデータに対して異なる画像処理が行なわれている。このため、RAWデータから画像処理を行なった変換撮像画像データへ一旦変換した場合、一般的に、画像処理が行なわれた変換撮像画像データからRAWデータに逆変換することができない。
【0040】
この理由から、本実施形態においては、画像撮像装置における固有の画像処理が行なわれる前のRAWデータ、すなわち固有の画像処理が行なわれていない撮像画像データそのものを用いて、画像撮像装置における分光感度を推定し、異なる画像装置間におけるRAWデータである撮像画像データの色校正を行う。
【0041】
図3は、画像撮像装置の分光感度の一例を示した図である。この
図3において、横軸は光の波長(wavelength)を示し、縦軸は分光感度としての相対分光感度(Relative Spectral sensitivity)を示している。分光感度は、可視波長域(380nm〜780nm)内における光の波長を変数とする関数である。また、分光感度は、カラーフィルタ202がRGBの3つの色成分に対応した光フィルタを有することから、RGBの各々の光フィルタに対してそれぞれ独立した3種類の関数となっている。
【0042】
分光感度は、上述したように、画像撮像装置に入射する光と、この光に対応したRAWデータの信号値との関係性を表す感度関数である。ここで、分光感度は、画像撮像装置に入射される光の光量や色が一定である場合でも、撮像の際のシャッタースピード等で光量が増減(変化)し、この増減に比例してRAWデータの信号値全体が増減(変化)する。
このため、分光感度の絶対値そのものは重要ではなく、分光された波長の各々の信号値の相対値が撮像画像の色を決定する重要な要素となる。そのため、分光感度は、一般的に、全ての波長の信号値における最大値を1として正規化された比の数値の関数として表されることが多い。
【0043】
図1に戻り、撮像制御部102は、入射された光に対応してホログラム(真贋判定用ホログラム301及び色校正用ホログラム302の各々をいう)から出射される回折光を撮像部101が撮像する際、焦点深度、撮像素子の感度(例えば、ISO(International Organization for Standardization)感度)などの撮像部101における撮像条件を制御する。
【0044】
露光制御部103は、撮像の露光の条件として、シャッタースピード、絞り値、照明光の強度などの撮像部101の撮像条件を制御する。また、露光制御部103は、色校正装置1の撮像するホログラムの回折光の明るさに対応し、撮像時において必要に応じて照明部104に対して撮像用の光(照明光)を調整して出射させるための発光指示を出力する。
照明部104は、通常の撮像対象に光を連続して照射する照明だけではなく、撮像対象に対して短時間に光を照射するフラッシュあるいはストロボ(登録商標)などと呼ばれる発光装置であってもよい。
【0045】
この照明部104は、露光制御部103からの発光指示に対応し、撮像する対象物に対して所定の強度の光を照射する。ここで、撮像制御部102は、撮像タイミングを示す制御信号を露光制御部103に対して供給(出力)する。これにより、露光制御部103は、撮像制御部102から供給(入力)される撮像タイミングを示す制御信号に同期して、上述したように、ホログラムに照射する照明光を出射させる発光指示を照明部104に対して出力する。
【0046】
観察角度推定部105は、ホログラムが撮像された撮像画像データの各々を撮像部101から順次入力する。そして、観察角度推定部105は、入力する撮像画像データが撮像された3次元空間において、撮像画像データの撮像を行った撮像部101の位置である観察位置(座標値)及び撮像部101の撮像方向の各々を座標変換式(後述)から求める。すなわち、観察角度推定部105は、求めた観察位置及び撮像方向から、各撮像画像データにおけるホログラムの観察角度を求める。なお、上記撮像方向は、撮像部101の撮像素子が対向する方向、すなわち撮像素子の光入射面に垂直な方向である。
【0047】
そして、観察角度推定部105は、撮像画像データに付与した撮像画像データそれぞれを識別する撮像画像データ識別情報とともに、求めた観察位置及び観察角度を含む撮像画像データ情報を画像データ記憶部110の校正用撮像画像データテーブルに対して書き込んで記憶させる。この観察角度により、入射された光に対してホログラムから出射されて、観察されるホログラムからの回折光の分光分布が異なる。
【0048】
本実施形態においては、ホログラムを所定の焦点距離にて、複数枚の撮像画像データを撮像部101により撮像する。ここで、撮像画像データの各々は、撮像する際の観察角度をそれぞれ異ならせて撮像する必要がある。観察角度推定部105は、この撮像された複数の撮像画像データから、上述したように、予め設定された座標変換式を用いることにより、3次元空間におけるホログラムを撮像した撮像画像データ各々の観察角度を推定している。
【0049】
観察角度推定部105の用いる座標変換式は、ホログラムによる色校正処理を行う前処理(色校正処理を行う準備)として、事前に複数枚の撮像画像データ(後述するキャリブレーションボードを撮像した撮像画像データ)から3次元空間を再生した際、複数の撮像画像データの2次元座標における画素の位置と3次元空間における座標位置とを対応付ける際に生成される式である。予め生成された座標変換式は、画像データ記憶部110に対して書き込んで記憶されている。
【0050】
図4は、画像データ記憶部110における校正用撮像画像データテーブルの構成例を示す図である。
図4の校正用撮像画像データテーブルには、ホログラムの撮像画像に対応して、撮像画像データ識別情報と、この撮像画像データ識別情報に対応する撮像画像データの観察角度、観察位置及び撮像画像データアドレスの各々が書き込まれて記憶されている。ここで、撮像画像データ識別情報は、撮像画像データの各々を識別するための情報である。画像データ記憶部110は、1つの撮像対象を撮像する際の観察角度を異ならせて取得した複数の撮像画像データを記憶可能である。
【0051】
上記観察角度は、例えば、色校正用ホログラム302のいずれかの頂点あるいは座標点を3次元空間の座標系(以後、3次元座標系)における原点として、この色校正用ホログラム302を配置した場合に、撮像画像データを撮像した際における撮像部101の撮像方向と色校正用ホログラム302の表面に対する法線とのなす角度である。すなわち、上記観察角度は、上記撮像方向に延びる仮想の軸線と上記法線とのなす角度である。なお、本実施形態の色校正用ホログラム302の表面は、色校正用ホログラム302が設けられているクレジットカード300の表面に平行している。観察位置は、3次元空間における撮像部101が色校正用ホログラム302の撮像を行った座標位置を示している。撮像画像データアドレスは、撮像画像データの各々が記憶されている画像データ記憶部110における領域のアドレスを示しており、撮像画像データを読み出す際のインデックスとなっている。
【0052】
図5は、ホログラムに対する撮像部101の観察角度を説明する図である。
図5において、ホログラム色校正シート500(あるいはクレジットカード300)の表面に対して色校正用ホログラム302が設けられている。ホログラム色校正シート500は矩形板状に形成されている。上記色校正用ホログラム302は、観察角度によって回折光が変化するホログラムである。すなわち、色校正用ホログラム302は、観察角度に対応した異なる周波数(言い換えれば、異なる波長)の回折光を発する。この色校正用ホログラム302は、例えば、回折格子からなり、回折光を金属箔によって反射する反射型ホログラムを用いることができる。色校正用ホログラム302の表面には波長依存性の少ない透過特性の保護フィルムを設けることができ、汚れに強い構造にすることができる。
【0053】
光源(照明ともいう)400は、光の照射方向400Aと法線450とのなす角度である照射角度αにより、色校正用ホログラム302に対して、撮像用の光を照射する。この撮像用の光が入射されると、色校正用ホログラム302は所定の観察角度βにおいて所定の分光分布(波長)を持つ回折光を出射する。このため、照射角度α及び観察角度βの各々によって、色校正用ホログラム302から、照射光に対応して出射される回折光の分光分布が異なる。
【0054】
法線450は、ホログラム色校正シート500の表面500Aに垂直な方向に延びる法線である。観察角度βは、撮像部101の撮像方向101Aと法線450とのなす角度である。
ここで、例えば、観察角度推定部105は、法線450に平行な軸をz軸とし、ホログラム色校正シート500の辺の各々がx軸及びy軸の各々と平行となるように、ホログラム色校正シートを3次元座標系において配置する。例えば、ホログラム色校正シート500の各辺により形成される頂点のいずれかが、3次元座標系の原点Oと一致するように、3次元座標系において、ホログラム色校正シート500をx軸及びy軸からなる2次元平面に配置する。このため、ホログラム色校正シート500の厚さ方向がz軸に対して平行となる。このホログラム色校正シート500の3次元形状は、予め既知の情報として、すでに述べた座標変換の式とともに、予め画像データ記憶部110に書き込まれて記憶されている。
【0055】
ここで、
図1に示す真贋判定を行なう対象のクレジットカード300の表面に対して、色校正用ホログラム302が配置されている場合、ホログラム色校正シート500に対してと同様の処理をクレジットカード300に対して行なう。また、このクレジットカード300表面には、色校正用ホログラム302と隣接して、偽造防止媒体(撮像対象)としての真贋判定用ホログラム301が配置されている。
ホログラム色校正シート500を用いる場合、撮像装置の光学系に対する分光感度を求める処理を行なう。その後、被写体300Aを撮像し、この撮像画像データが、求めた分光感度により校正される。
【0056】
一方、被写体300Aとホログラム色校正シート500(色校正用ホログラム302)とが一括して撮像できる場合、色校正のための処理をユーザが意識して行なう必要はない。
すなわち、撮像画像データにおいて、被写体300Aとホログラム色校正シート500との画像の位置が、座標変換式により検出される。そして、ホログラム色校正シート500の画素のRGBの色成分の各々により分光感度を求め、この分光感度を用いて被写体300Aの画素の色が校正される。したがって、ホログラム色校正シート500を単独で色校正のために撮像する必要がなく、校正に用いる分光感度を求める処理をユーザが意識する必要はない。
【0057】
図1に戻り、観察角度推定部105は、各撮像画像データの観察角度を求める際、画像データ記憶部110から撮像画像データを読み出し、3次元座標系におけるクレジットカード300(あるいはホログラム色校正シート500)の3次元形状の各座標と、撮像画像データ(2次元座標系)の各画素(座標)とを、上記座標変換式により対応付けることにより、3次元空間の3次元座標系における撮像画像データの撮像位置と、この撮像位置からの撮像画像データの撮像方向を求める。このとき、観察角度推定部105は、すでに述べたように、3次元座標系においてクレジットカード300の3次元形状のいずれかの頂点を原点とし、法線450がz軸と平行となり、各辺がx軸またはy軸と平行となるように、クレジットカード300を3次元空間に配置する。
【0058】
そして、観察角度推定部105は、このクレジットカード300の3次元形状を基準として、3次元座標系における撮像部101の撮像画像データの撮像位置、及び撮像方向を求める。これにより、観察角度推定部105は、法線450と撮像部101の撮像方向との成す観察角度βを求める。観察角度、観察位置を求めたら、撮像画像データを画像データ記憶部110の所定の領域に書き込んで記憶させるとともに、この所定の領域のアドレスである撮像画像データアドレスと、撮像画像データの撮像画像データ識別情報と、求めた観察角度、観察位置の各々を、画像データ記憶部110の校正用撮像画像データテーブルに対して書き込んで記憶させる。
【0059】
本実施形態においては、事前に撮像部101に対してカメラキャリブレーション(カメラ較正)が行われていることが前提として必要である。このカメラキャリブレーションとは、予め三次元形状が既知なキャリブレーションボードを撮像領域内で一回あるいは複数回撮像し、撮像された一枚あるいは複数の撮像画像データを用いて三次元空間の三次元座標系における座標点と、撮像画像データの2次元座標系における座標点(二次元ピクセル)の複数の座標点の対応関係を確定することである。これにより、撮像部101とキャリブレーションボードとの相対位置関係(以下、外部パラメタ)を示す座標変換式と、撮像部101の光学中心や各画素(2次元ピクセル)における光線入射方向ベクトル、レンズ歪みなど(以下、撮像部101の内部パラメタ)を推定する。
【0060】
すなわち、本実施形態においては、観察角度推定部105が撮像画像データの観察角度を推定するために、予め撮像部101で撮像した複数の異なる視点方向からキャリブレーションボードを撮像した2次元画像から、すなわち多視点の撮像画像データからグローバル座標系(3次元座標系)を再構成する。そして、同一ピクセルにおける再構成した3次元座標系における座標点と、撮像部101が撮像した撮像画像データの2次元座標系における座標点との対応関係を示す座標変換式を、カメラキャリブレーション時に求めておく。
【0061】
上述したように、本実施形態において、観察角度の推定は、事前に撮像部101に対してカメラキャリブレーション(カメラ較正)が行われており、色校正システムにおけるホログラム(真贋判定用ホログラム301及び色校正用ホログラム302の各々)の色校正処理の実行時に撮像部101の内部パラメタが既知であり、かつクレジットカード300(あるいはホログラム色校正シート500)及びホログラムの三次元形状が既知であることが前提である。これにより、ホログラムを複数の異なる位置から撮像して撮像画像データを取得し、上記座標変換式によって三次元座標系における座標点と撮像画像データの二次元座標系のピクセルとの複数の対応点情報を得て、この複数の対応点情報から撮像部101とホログラムの相対位置関係を推定できる。すなわち、ホログラムを撮像した際における撮像部101の観察位置及び観察角度(撮像方向)が推定できる。
【0062】
本実施形態において、例えばカメラキャリブレーションとしては、良く知られている手法の一つである、Z.Zhangによる解析手法(Z.Zhang, "A flexible new technique for camera calibration", IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.22, No.11, pages 1330-1334, 2000)を適用して、撮像画像データを撮像した際の観察角度を推定することができる。ただし、上記Z.Zhangによる解析手法を適用して観察角度の推定を行う場合、色校正システムに入力する撮像画像データは、カメラキャリブレーション時に固定された焦点と同様の焦点(望ましくは同一の焦点)で撮像された画像データである必要がある。
【0063】
図1に戻り、回折光分光分布計算部106は、画像データ記憶部110における校正用撮像画像データテーブルから、観察角度推定部105が記録した撮像画像データの情報を順次読み込む。そして、回折光分光分布計算部106は、予め与えられている光源400の放射する放射光の分光分布と、同じく予め与えられている観察位置及び観察角度に応じた色校正用ホログラム302の回折光特性から、観察角度推定部105が推定した観察位置及び観察角度の各々を用いて、観察角度毎の回折光の分光分布(回折光分光分布ともいう)を計算する。なお、光源400の放射する放射光の分光分布と、観察位置及び観察角度に応じた色校正用ホログラム302の回折光特性とは、色校正装置1の内部または外部の記憶部(図示せず)に記憶されていてもよいし、画像データ記憶部110に記憶されていてもよい。
回折光分光分布計算部106は、異なる周波数の回折光の各々の回折光分光分布を求める。
【0064】
例えば、
図5において色校正用ホログラム302がx軸方向に平行な溝方向の回折格子と金属箔からなる反射型ホログラムであり、光の照射方向400Aと撮像方向101Aがいずれもyz平面と平行である場合を考える。光源400から色校正用ホログラム302に入射され撮像部101で観察される回折光は、光の照射角度α、撮像部101の観察角度β、色校正用ホログラム302における回折格子の空間周波数f、回折光の次数nによって回折光(単一波長の光)の回折光波長λ
dが以下の(1)式で示す関係式で求められる。すなわち、このλ
dは回折光分光分布の波長を示している。
【0066】
図6A,6Bは、回折光分光分布を求める(1)式における±の設定について説明する図である。
図6Aは、撮像部101の観察方向と、光源400の照射方向が法線450を挟まず同一の方向である場合を示している。すなわち、
図6Aは、撮像部101と光源400とが色校正用ホログラム302の撮像箇所の一方側に位置する場合を示す図である。この場合には、上記(1)式における±が+と設定され、回折光波長λ
dが算出される。一方、
図6Bは、撮像部101の観察方向と、光源400の照射方向が法線450を挟んで反対側の場合を示している。すなわち、
図6Bは、撮像部101と光源400とが色校正用ホログラム302の撮像箇所を挟んで互いに逆側に位置する場合を示す図である。この場合には、上記(1)式における±が−と設定され、回折光波長λ
dが算出される。
【0067】
また、色校正用ホログラム302の出射する回折光の強度は、回折光波長λ
dにおける光源400の放射光の強度に、色校正用ホログラム302の回折効率を乗じることで計算できる。回折光波長λ
dにおける光源400の放射光の強度とは、光源400の放射する光の分光分布における回折光波長λ
dと同一の波長(すなわち、λ
d)を有する光の強度を示している。
【0068】
また、分光分布における波長の光の強度は、分光感度を推定する際に、分光分布の波長λ
dの取り得る範囲全体において正規化する。このため、光源400の波長λ
dにおける強度を絶対値とする必要はなく、光源400の分光分布の最大値に対する相対値(すなわち比率)でよい。
同様に、距離が伸びることによる光の減衰等により、光源400の放射光の分光分布全体の強度が一様に低下する現象については考慮する必要がない。従って、回折光の強度は、光源400の分光分布における放射光の強度と色校正用ホログラム302の回折効率特性とを求めておけば、容易に計算できる。
【0069】
以上説明したとおり、照射される光源400の色校正用ホログラム302から出射される単一波長の光である回折光の波長及び強度の各々は、色校正用ホログラム302における回折格子の空間周波数及び回折効率、光源400の光の照射角度α、撮像部101の観察角度β、光源400の放射光の分光分布における各周波数の放射光の強度のそれぞれによって計算できる。これにより、後述するように、回折光分光分布計算部106は、放射光に対応して色校正用ホログラム302から出射される単一波長の回折光分光分布を計算することができる。
なお、光源400及び撮像部101のレンズの大きさを考慮すると、実際に回折光分光分布を測定した場合、回折光は特定の波長付近の狭帯域において山形状の強度を持つ分光分布として測定される。
【0070】
図7は、色校正用ホログラム302から出射される単一波長の回折光分光分布の一例を示す図である。
図7において、横軸は回折光の波長(Wavelength)を示し、縦軸は回折光の相対強度(Relative Intensity)を示している。
回折光は、
図7に示すように、特定の波長付近の狭帯域において山形状の強度(相対強度)を持つ回折光分光分布として測定される。この回折光分光分布は、単一波長の光の分光分布として近似して、以降の分光感度を求める計算に用いることができる。山形状の強度を持つ回折光分光分布を用いて、後述する分光感度を計算しても、単一波長として近似できる狭帯域であれば、分光感度の計算結果に大きな影響、すなわち実際に単一波長の光を用いて計算した場合に比較して、色校正の精度に影響を与える大きさの誤差は生じない。上述した理由から、本実施形態においては、
図7に示す回折光分光分布を単一波長の分光分布として色校正に用いている。
【0071】
また、回折光分光分布を求めるために撮像する回折光の次数は、回折光の強度が最も強い±1次が望ましい。また、光源400以外から放射された環境光等がホログラムに入射すると、0次、1次回折光が観察される範囲が限定され、±2次以降の回折光は強度が低い。これにより、回折光が色として画像データにおける各画素の信号値として反映され難くなる。そのため、想定する光の照射角度αと主な撮像装置の観察角度βを考慮して、色校正用ホログラム302における回折格子の空間周波数を調整することにより、環境光の影響を受け難い設計にすることができる。
一方、環境光の影響が少ない状態において色校正用ホログラム302を撮像する等、撮像の条件次第では、色校正用ホログラム302から出射されるn次(n≧2)の回折光でも、回折光分光分布の推定は可能である。
【0072】
そして、回折光分光分布計算部106は、計算した回折光の波長が可視光波長域内である場合に、撮像画像データを分光感度推定処理に用いることが可能な撮像画像データとして、その撮像画像データ識別情報に対応させて、撮像画像データアドレス及び回折光分光分布の各々を対応付けて、画像データ記憶部110における分光感度推定用撮像画像データテーブルに対して書き込んで記憶させる。
【0073】
図8は、画像データ記憶部110における分光感度推定用撮像画像データテーブルの構成例を示す図である。
図8において、撮像画像データ識別情報は、
図4の校正用撮像画像データテーブルと同様に、撮像画像データの各々を識別するための情報である。
図8の撮像画像データアドレスは、撮像画像データの各々が記憶されている画像データ記憶部110における領域のアドレスを示しており、画像データ記憶部110から撮像画像データを読み出す際のインデックスとなっている。
図8の回折光分光分布は、上記撮像画像データ識別情報の示す撮像画像データを撮像する際の観察角度に対応した、色校正用ホログラム302からの回折光分光分布の分光波長及びその分光波長における強度を示している。すなわち、画像データ記憶部110における分光感度推定用撮像画像データテーブルには、複数の撮像画像データ識別情報と、複数の撮像画像データアドレスと、複数の回折光分光分布の情報(分光波長及びその分光波長における強度)とが、各々対応付けられて保持される。
【0074】
図1に戻り、分光感度推定部107は、回折光分光分布計算部106が画像データ記憶部110に記録した回折光分光分布と、この回折光分光分布に対応する撮像画像データとの各々を用い、撮像部101の分光感度の推定を行なう。以下、分光感度推定部107が行なう分光感度の推定の処理を説明する。
この分光感度の推定において、RAWデータから得られる色成分RGBそれぞれの信号値をc
R、c
G及びc
Bとする。また、撮像部101のRGBの各々の波長帯域の分光感度を光の波長λの関数として、それぞれS
R(λ)、S
G(λ)、S
B(λ)とする。そして、撮像部101に入射される回折光の回折光分光分布を、光の波長λの関数としてL(λ)とした場合、以下に示す(2)式が成り立つ。
【0076】
(2)式において、例えば、信号値c
Rは、撮像部101における色成分Rの光学系における分光感度S
R(λ)に対して回折光分光分布を乗算した関数を、色成分Rの波長帯域(λの範囲)において積分した結果として、分光感度推定部107により算出される。
他の信号値c
G及び信号値c
Bの各々も、上記信号値c
Rと同様に、分光感度推定部107により算出される。
【0077】
また、コンピュータで計算処理が行えるように、上記(2)式における波長λを、所定の刻み幅の間隔の離散値とする。この波長λの離散値化により、RGB色成分毎の色の感度を示す分光感度の関数S
R(λ)、S
G(λ)及びS
B(λ)の各々を、それぞれ行ベクトルS
R、S
G、S
Bとし、入射される光の分光分布の関数L(λ)を列ベクトルLとすることにより、(2)式を以下に示す(3)式として近似して表す。
【0079】
分光感度の行ベクトルS
R、S
G及びS
Bの各々の推定においては、既知の入射光の分光分布の列ベクトルLと、この入射光を撮像部101で撮像した際におけるRAWデータから得られるRGBの各々の色成分の信号値c
R、c
G、c
Bそれぞれの組み合わせを、所定数取得する。この所定数は、そして、行ベクトルS
R、S
G及びS
B(各色成分の分光感度)の各々は、一般的に、例えば、上記(3)式において、行ベクトルS
R、S
G及びS
B各々両辺に右からLの逆行列をかける等の演算により推定が行なわれる。
【0080】
一方、本実施形態において、すでに述べたように、色校正用ホログラム302から入射される回折光は、単一波長の光で近似できる狭帯域の回折光分光分布を有している。すなわち、撮像部101に入射される回折光は、単一波長の光であるため、ある一つの波長λiのみが光の強度を有する回折光分光分布となっている。この結果、(3)式においては、列ベクトルLの各成分において、回折光の波長に対応する一つの波長λiの成分のみで正の数値(光の強度)を示すことになる。そして、列ベクトルLにおいて、上記波長λi以外の成分における波長λは、回折光分光分布に存在しないために全て「0」の数値となる。
【0081】
このように、列ベクトルLのi行目の成分のみが正の数値となることにより、(3)式においては、右辺が、行ベクトルS
R、S
G、S
Bの各々のi列目(波長λiに対応)の成分S
Ri、S
Gi、S
Biそれぞれと、列ベクトルLのi行目の成分の波長λiの数値Li(波長λiの回折光の強度の数値)との積、すなわちS
Ri×Li、S
Gi×Li、S
Bi×Liを並べた列ベクトルとなる。
したがって、数値Liにより、行ベクトルの信号値c
R、c
G、c
Bの各々の波長λiにおける数値を除算することにより、RGB成分の各々の波長λiにおける分光感度を得ることができる。すなわち、波長λiにおいて入力した回折光の信号値c
R、c
G、c
Bの各々を、波長λiの回折光の強度を示す数値Liにより除算することにより、RGB成分の各々の波長λiにおける分光感度を得ることができる。ここで、波長λiの分光感度S
Ri,S
Gi,S
Biの各々は、それぞれc
R/Li,c
G/Li,c
B/Liで求められる。
【0082】
そして、取得した所定数の様々な波長の回折光を用い、回折光の波長λi毎に、回折光の信号値c
R、c
G、c
Bの各々を、波長λiの回折光の強度の数値Li(強度Liともいう)により除算し、波長λi毎に離散値としての分光感度S
Ri,S
Gi,S
Biそれぞれを求める。この所定の間隔(例えば4nm)毎に求めた離散値である分光感度S
Ri,S
Gi,S
Biにより、関数のフィッティング処理などを行ない、その波長λi間における信号値を求めて補間することにより、分光感度の関数S
R(λ)、S
G(λ)及びS
B(λ)の各々を推定する。ここで、回折光の強度Liは、光源の放射光の分光分布における波長λiの強度に対して、色校正用ホログラム302の波長λiにおける回折効率(回折効率特性)を乗じて算出された数値である。
【0083】
上述したように、分光感度推定部107は、画像データ記憶部110に記憶されている分光感度推定用撮像画像データテーブルを参照し、順次、撮像画像データアドレスと回折光分光分布を読み出す。そして、分光感度推定部107は、撮像画像データアドレスにより、画像データ記憶部110から撮像画像データを読み出し、この撮像画像における色校正用ホログラム302の撮像されている画素位置を座標変換式により求める。
分光感度推定部107は、色校正用ホログラム302に対応する画素からRGBの各々の色成分の信号値(例えば(3)式のc
R、c
G、c
Bに相当)を求める。
【0084】
そして、分光感度推定部107は、順次、RGB分光感度推定用撮像画像データテーブルから読み出した波長λi毎に、回折光分光分布における波長λiの回折光の強度Liにより、RGBの各々の色成分の波長λiの信号値を除算し、RGBそれぞれの色成分の分光感度を求める。言い換えれば、分光感度推定部107は、ある波長の回折光の回折光分光分布と、当該波長の回折光の撮像画像データにおける信号値とから、当該波長の回折光における分光感度を求める。分光感度推定部107は、分光感度推定用撮像画像データテーブルにおける全ての撮像画像データに対する分光感度を求める処理が終了すると、波長λi間における信号値を補間し、生成される分光感度の関数S
R(λ)、S
G(λ)及びS
B(λ)の各々を、画像データ記憶部110に対して書き込んで記憶させる。
【0085】
色校正部108は、分光感度推定部107が推定した撮像部101の分光感度を用いて、撮像部101で撮像した撮像画像データの色を、他の標準的な撮像装置で撮像した撮像画像データの色に合うように画像の色の校正を行う。すなわち、色校正部108は、撮像部101で撮像した撮像画像データの、撮像部101と異なる標準的な撮像装置で撮像した撮像画像データに対する色の異なりを校正する。
本実施形態においては、分光感度推定部107が推定した分光感度S1を持つ撮像部101で撮像したRAWデータをデモザイク処理のみで変換した撮像画像データP1を、撮像部101と異なる(例えば、標準的な)分光感度S2を持つ撮像装置で撮像したRAWデータをデモザイク処理のみで変換した撮像画像データP2へと色変換する処理、すなわち分光感度S1と分光感度S2が既知の状態で、撮像画像データP1の信号値から撮像画像データP2の信号値に色変換を行うことを色校正と定義する。すなわち、分光感度S1が、画像データ記憶部110に記憶されている分光感度の関数S
R(λ)、S
G(λ)及びS
B(λ)の各々であり、分光感度S2が、標準的な撮像装置のRGBの各々の色成分の分光感度の関数である。なお、標準的な撮像装置における分光感度の関数(分光感度S2)は、色校正装置1の内部または外部の記憶部(図示せず)に記憶されていてもよいよいし、画像データ記憶部110に記憶されていてもよい。
【0086】
上述した撮像画像データP1を撮像画像データP2とする色校正は、分光感度S1の撮像部101により撮像した被写体の撮像画像データP1におけるRGBの各々の信号値が、分光感度S2の撮像装置で撮像した場合(撮像画像データP2の場合)に、どのようなRGBの各々の信号値となるかを推定する処理である。例えば、撮像画像データP1及び撮像画像データP2の各々における被写体の同一の1画素に注目し、その1画素におけるRGBの各々の色成分の信号値を、信号値C1、信号値C2それぞれとする。そして、被写体のその1画素における回折光分光分布をLsとした場合、分光感度S1、分光感度S2から、信号値C1及び信号値C2は以下の(4)式により表される。信号値C1及び信号値C2の各々は、それぞれRGBの色成分毎の信号値である。
【0088】
すなわち、(4)式においては、信号値C1は回折光分光分布における光強度Lsに分光感度S1を乗じた数値であり、信号値C2は分光分布における光強度Lsに分光感度S2を乗じた数値であることが示されている。
すでに述べたように、撮像画像データP1から撮像画像データP2への色変換は、撮像画像データにおける全ての画素のRGBの色成分の信号値C1の各々を、信号値C2それぞれへの変換を行うことと等価である。
例えば、分光感度S1の擬似逆行列をS1
+とし、上記(4)式の2つの方程式から分光分布の光強度Lsを消去することにより、以下に示す(5)式が成り立つ。
【0090】
上記(5)式に示されるように、撮像画像データP1におけるRGBの色成分毎の信号値C1と、撮像画像データP2におけるRGBの色成分毎の信号値C2との関係が既知の分光感度S1及び分光感度S2の各々により表され、撮像画像データP1の信号値C1から撮像画像データP2の信号値C2への変換が可能となる。これにより、撮像画像データP1から撮像画像データP2への各画素における色変換が容易に行える。
【0091】
表示部109は、例えば、液晶ディスプレイであり、自身の表示画面に対して撮像した撮像画像データP1の画像、あるいは推定した分光感度の関数を示すグラフなどを表示する。
画像データ記憶部110には、すでに説明したように、撮像画像データ、校正用撮像画像データテーブル及び分光感度推定用撮像画像データテーブルの各々が書き込まれて記憶されている。
【0092】
また、撮像制御部102は、撮像時において、色校正用ホログラム302を撮像する際の観察角度が予め設定された角度範囲に入っているか否かの判定を行う。ここで、角度範囲とは、色校正用ホログラム302において、異なる観察角度によって、それぞれ異なる回折光を観察することができる角度の範囲を示している。この角度範囲に観察角度が入っていない場合、対応する回折光が撮像できず、分光感度推定に用いることができない。
このとき、撮像制御部102は、撮像部101の撮像方向である観察角度を、観察角度推定部105に推定させる。そして、撮像制御部102は、観察角度推定部105が推定した観察角度が角度範囲に入っている場合に撮像処理における角度条件を満たし、一方、推定された観察角度が角度範囲に入っていない場合に撮像処理における角度条件を満たさないとする表示を表示部109の表示画面に表示し、ユーザに対して撮像部101の観察角度を角度範囲内の観察角度に調整することを促す。
【0093】
また、撮像制御部102は、撮像部101が撮像する際に、観察角度推定及び回折光の色の取得が可能な品質を有する撮像画像データを撮像する撮像条件を満足しているか否かの判定を行う。撮像条件として、撮像部101における焦点距離が、座標変換式を作成した際に用いられた焦点距離と同様か否かを検出する。そして、撮像制御部102は、現在設定されている焦点距離が座標変換式を作成した際に用いた焦点距離と同様の場合に撮像処理における撮像条件を満たし、一方、現在設定されている焦点距離が座標変換式を作成した際に用いた焦点距離と異なっている場合に撮像処理における撮像条件を満たさないとする表示を表示部109の表示画面に表示し、ユーザに対して焦点距離を調整することを促す。また、撮像条件における露光条件に、照明の有無あるいは照明の強度を必要に応じて加える構成としても良い。
【0094】
また、撮像制御部102は、撮像条件として、撮像部101における露光条件を設定する際、輝度ヒストグラムを生成する。この輝度ヒストグラムは、撮像画像データにおける画素の階調度の分布を示している。そして、撮像制御部102は、この輝度ヒストグラムを用いて、撮像画像データにおける階調度の分布が高階調度側あるいは低階調度側に偏っていないか否かの判定を行う。例えば、輝度ヒストグラムにおける階調度の分布が低階調度側に偏っている場合、すなわち、階調度が「0」から「255」の256段階で表現されており、撮像画像データにおける階調度「0」近傍の画素が多い場合、撮像画像データに黒つぶれが発生して回折光の色の取得が行えなくなる。一方、輝度ヒストグラムにおける階調度の分布が高階調度側に偏っている場合、すなわち撮像画像データにおける階調度「255」近傍の画素が多い場合、撮像画像データに白飛びが発生して回折光の色の取得が行えなくなる。
【0095】
このため、輝度ヒストグラムの分布が、階調度が「0」から「255」の範囲の中央近傍に存在するように、露光条件を設定する必要がある。
撮像制御部102は、輝度ヒストグラムの階調度の分布に基づき、照明の調整が必要か否かの判定を行う。撮像制御部102は、黒つぶれが発生することが推定され、輝度ヒストグラムの分布を高階調度側にシフトさせる照明の調整が必要な場合、露光制御部103に対して照明部104の撮像時における色校正用ホログラム302の照明を所定の強度で行わせる(例えばフラッシュ光を撮像方向に照射させる)。また、撮像制御部102は、色校正装置1が露光制御部103及び照明部104を有していない場合、ユーザに対して必要な光強度の照明を色校正用ホログラム302に対して照射することを促す表示を表示部109の表示画面に表示する。
【0096】
一方、撮像制御部102は、白飛びが発生することが推定され、輝度ヒストグラムの分布を低階調度側にシフトさせる照明の調整が必要な場合、露光制御部103に対して照明部104の撮像時における色校正用ホログラム302の照明を行わせないあるいは所定の強度で行わせる。また、撮像制御部102は、ユーザに対して必要な光強度の照明を、色校正用ホログラム302に対して照射するため、現在の色校正用ホログラム302周囲の照明の強度を低下させることを促す表示を表示部109の表示画面に表示する。
【0097】
上述の処理において、輝度ヒストグラムの分布状態と、分布状態に対応する露光条件や照明の強度などの制御条件とを記載した露光制御テーブルを作成し、画像データ記憶部110に対して予め書き込んでおく構成としても良い。この場合、撮像制御部102は、撮像する撮像画像データの輝度ヒストグラムのパターンに類似する輝度ヒストグラムを画像データ記憶部110における露光制御テーブルから検索し、撮像する撮像画像データの露光条件や照明の強度などの制御条件の情報を読み出し、この制御条件を上述したように表示部109の表示画面に表示する。
【0098】
また、露光制御部103に対して照度センサを設け、この照度センサにより測定される照度により、露光条件や照明の照度を設定するようにしても良い。ここで、照度と、照度に対応する露光条件や照明の強度などの制御条件とを記載した露光制御テーブルを作成し、画像データ記憶部110に対して予め書き込んでおく構成としても良い。この場合、撮像制御部102は、撮像画像データを撮像する際の照度に対応させて、画像データ記憶部110における露光制御テーブルから検索し、撮像する撮像画像データの露光条件や照明の強度などの制御条件の情報を読み出し、この制御条件を上述したように表示部109の表示画面に表示する。
【0099】
次に、
図9は、第1の実施形態の色校正システムにおけるホログラム(色校正用ホログラム302)を用いた撮像装置の色校正の動作例を示すフローチャートである。ユーザが例えばパーソナルコンピュータにおいて色校正のアプリケーションを起動すると、このパーソナルコンピュータのメインメモリ上に色校正システムの各部の機能が展開される。そして、撮像部101を動画モードで起動し、撮像方向にある撮像対象の撮像を開始する。
以下の撮像画像データは、撮像部101が動画として撮像するフレーム単位の画像を示している。
【0100】
ステップS11:
撮像制御部102は、撮像画像データにおける色校正用ホログラム302の撮像位置を抽出する。すなわち、撮像制御部102は、撮像部101の撮像範囲内におけるクレジットカード300の形状を得る。そして、撮像制御部102は、得られたクレジットカード300の形状と、予め記憶されているクレジットカード300の3次元形状とを比較し、撮像部101の撮像範囲内における色校正用ホログラム302の領域を抽出する。このとき、撮像制御部102は、撮像方向の撮像画像とともに、クレジットカード300の画像を入れる画像枠を表示部109に表示し、ある程度の撮像位置及び撮像角度にてユーザがクレジットカード300を撮像するように促すようにしても良い。
【0101】
また、撮像制御部102は、色校正用ホログラム302の撮像方向、すなわち観察角度の推定処理を観察角度推定部105に行わせる。これにより、観察角度推定部105は、撮像部101の撮像範囲における撮像画像データから得られるクレジットカード300の形状と、予め記憶されている3次元座標系におけるクレジットカード300の3次元形状とを比較することにより、色校正用ホログラム302の観察位置及び観察角度を推定する。ここで、観察角度推定部105は、上記比較により、撮像部101がクレジットカード300を撮像する撮像位置及び撮像方向を求める。そして、観察角度推定部105は、3次元座標系におけるクレジットカード300の色校正用ホログラム302が添付されている面の法線と、撮像部101の撮像方向とのなす角度を観察角度として求め、観察位置とともに撮像制御部102に対して出力する。
【0102】
ステップS12:
撮像制御部102は、観察角度推定部105から入力される撮像部101によるホログラムの観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っているか否かの判定を行う。
このとき、撮像制御部102は、撮像部101による色校正用ホログラム302の観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っている場合、処理をステップS14へ進める。
一方、撮像制御部102は、撮像部101による色校正用ホログラム302の観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っていない場合、処理をステップS13へ進める。
【0103】
また、撮像制御部102は、設定観察位置及び設定観察角度の判定に加えて焦点距離及び露光条件などの撮像条件の全てが、回折光の色取得が可能な撮像画像データが撮像できている条件であるか否かの判定を行うようにしても良い。このとき、撮像制御部102は、回折光の色取得が可能な撮像画像データが撮像できている撮像条件である場合、処理をステップS14へ進める。一方、撮像制御部102は、回折光の色取得が可能な撮像画像データが撮像できている撮像条件でない場合、処理をステップS13へ進める。
【0104】
ステップS13:
撮像制御部102は、観察位置及び観察角度が回折光を撮像する条件を満たしていないことを表示部109に表示し、ユーザに調整を促す。ユーザは、表示部109に表示された指示に従って撮像部101の撮像方向及び位置の調整を行う。また、撮像制御部102は、撮像部101の焦点距離及び露光条件などの撮像条件の調整が必要な場合に表示部109に表示しても良い。その場合、ユーザは109に表示された指示に従って撮像部101の焦点距離及び露光条件などの撮像条件の調整を行う。
【0105】
ステップS14:
回折光分光分布計算部106は、予め与えられた光源400の放射光の分光分布と、同じく予め与えられた色校正用ホログラム302の空間周波数や回折効率といった回折光特性と、観察角度及び観察位置から、回折光分光分布を計算する。
【0106】
ステップS15:
回折光分光分布計算部106は、画像データ記憶部110の所定の領域に対して、撮像部101が撮像している撮像画像データを書き込んで記憶させる。また、回折光分光分布計算部106は、画像データ記憶部110における撮像画像データを書き込んだ領域のアドレスである撮像画像データアドレスと回折光分光分布を画像データ記憶部110の分光感度推定用撮像画像テーブルに対して書き込んで記憶させる。
【0107】
ステップS16:
撮像制御部102は、画像データ記憶部110の分光感度推定用撮像画像テーブルに記憶されている回折光分光分布が分光感度推定に十分な種類数であるか判定する。十分な種類数であるかの判定基準は、分光感度推定用撮像画像テーブルに記憶されている波長の種類の数でも良いし、分光感度推定に必要な予め設定された波長における回折光分光分布が全て得られたかどうかでも良い。例えば、撮像制御部102は、可視波長域の波長帯域380nmから780nmまでを4nm毎の間隔で離散化した、100個の波長λのデータが全て得られたか否かなどにより、分光感度の推定に十分な回折光分光分布が取得できたか否かの判定を行なう。
【0108】
そして、撮像制御部102は、分光感度推定用撮像画像テーブルに記憶されている回折光分光分布が分光感度の推定に十分な種類数である場合、処理をステップS18に進める。
一方、撮像制御部102は、分光感度推定用撮像画像テーブルに記憶されている回折光分光分布が分光感度の推定に十分な種類数でない場合、処理をステップS17に進める。
【0109】
ステップS17:
撮像制御部102は、分光感度推定用撮像画像テーブルに記憶されている回折光分光分布と異なる回折光を撮像させる処理を行なう。すなわち、撮像制御部102は、観察角度を変更する指示を表示部109に表示し、ユーザに対してクレジットカード300の撮像を行なう観察角度の変更を促す。そして、撮像制御部102は、処理をステップS11に進める。
【0110】
ステップS18:
分光感度推定部107は、画像データ記憶部110の分光感度推定用撮像画像テーブルに記憶されている撮像画像データアドレスと回折光分光分布を全て読み出す。また、分光感度推定部107は、撮像画像データアドレスにより撮像画像データを画像データ記憶部110から読み出す。
【0111】
そして、分光感度推定部107は、画像データ記憶部110から読み出した撮像画像データにおいて、色校正用ホログラム302の画素位置を、座標変換式により抽出する。分光感度推定部107は、色校正用ホログラム302の画素から回折光のRGBの各々の色成分の信号値を取得し、それぞれ対応する波長の回折光分光分布と組み合わせて撮像部101の分光感度を推定する。
【0112】
ステップS19:
色校正部108は、分光感度推定部107が推定した撮像部101の分光感度に基づき、撮像部101が撮像した撮像画像データP1を、標準的な撮像装置で撮像した撮像画像データP2の色に合うように色校正を行う。
【0113】
そして、図示しない真贋判定部は、標準的な撮像装置で撮像対象(真贋判定用ホログラム301)を撮像した際の回折光の参照パターン(真の回折光のパターン)を、画像データ記憶部110から、撮像画像データを撮像した際の観察角度に対応して読み出す。
また、上記真贋判定部は、すでに説明した分光感度推定部107が推定した分光感度により、撮像画像データにおける真贋判定用ホログラム301の画素領域のRGBの各々の色成分の色校正を行なう。真贋判定部は、色校正を行なった撮像画像データの回折光のパターンと、読み出した上記参照パターンとの類似度を比較し、類似度が所定の閾値以上の場合に真と判定し、一方、類似度が所定の閾未満の場合に偽と判定する。上記参照パターンは、標準的な撮像装置で撮像した色によりパターンが形成されている。
【0114】
上述した構成により、本実施形態によれば、マクベスカラーチャートなどのカラーチャートを用いた場合と異なり、周囲の環境光の影響を受けずに、画像撮像装置間の色補正を行なうハードウェア特性のプロファイル(分光感度関数)を生成することができる。これにより、本実施形態によれば、クレジットカード300の表面に偽造防止媒体として設けられた真贋判定用ホログラム301の回折光の色を、標準的な撮像装置により撮像した場合の色に変換することができ、撮像部101の光学系の特性の影響を受けることが無くなるため、クレジットカード300の真贋判定の精度を向上させることができる。
【0115】
一般的に、反射型のホログラムとしては、金属箔によって回折光を反射するレインボーホログラムやホログラムそのものの回折によって反射させるリップマンホログラムがある。フルカラーのホログラムは、表面の回折格子に入射した光が回折を起こして色を発色するため、放射光がある程度の分光分布を持った照明であれば、狭帯域の回折光分光分布を持った回折光を出射することが可能である。よって、設計によっては反射する光を波長分布レベルで調整し、任意の色彩(RGBの各々の色成分の回折光分光分布)を表現することができる(例えば、日本国特開平8−261827号公報、日本国特表平8−500192号公報及び特開平3−280078号公報を参照)。
【0116】
また、本実施形態によれば、クレジットカード300を撮像部101により、動画で取得することにより、真贋判定用ホログラム301及び色校正用ホログラム302の各々の回折光を取得することができる。このため、ユーザが全く意識をせずに、色校正装置1は、色の校正を行なうための分光感度を色校正用ホログラム302により求める。そして、色校正装置1は、求めた分光感度に基づいて、真贋判定用ホログラム301の回折光の撮像画像データを、標準的な撮像装置で撮像した際の色に校正する。そして、真贋判定部は、校正された真贋判定用ホログラム301の回折光の撮像画像データと、同一の観察角度において標準的な撮像装置で撮像した際の回折光の参照パターンとを比較し、その類似度により真贋判定を行なうため、精度の高い真贋判定を行なうことが可能となる。
【0117】
また、本実施形態によれば、回折光のパターンの回折方向、すなわち観察角度をホログラムの空間周波数により、環境光の影響を避けるようにコントロールできる。さらに、本実施形態によれば、ホログラムの回折光が単一波長の光であることから、撮像部101の撮像素子を含む光学系の特性による分光感度を正確に推定することが可能となる。
【0118】
また、マクベスカラーチャートなどの一般的なカラーチャートは、表面が拡散反射特性を持っているため、環境光を含む全ての光源の影響を受ける。そのため、従来は遮蔽物等で各色票への光の当たり方が異ならないように注意する必要がある。また、光源の分光分布によっては条件等色現象が起こるため、カメラの色特性を正確に把握するために様々な分光反射率の色票を多数、例えば24種類を並列に並べる必要があり、サイズが大きくなる。さらに、鏡面反射を避けるために粉体による塗装がされていることから汚れやすい。
しかしながら、本実施形態によれば、マクベスカラーチャートと比べ、撮像対象であるホログラムに保護フィルムを設けることができるため汚れに強く、回折格子からなる一つの領域で様々な色の回折光を取得可能なためサイズを小さくできる。
【0119】
また、本実施形態においては、クレジットカード300に対し、真贋判定用ホログラム301及び色校正用ホログラム302の各々を、それぞれ独立したホログラムとして形成する構成例を示した。
しかしながら、一個のホログラムを、色校正に用いる回折光のパターンと真贋判定に用いる回折光のパターンとの各々を出射する色校正真贋判定ホログラムとして構成しても良い。すなわち、回折光のパターンが出射される観察角度範囲が、予め、色校正用の回折光のパターンの角度範囲と、真贋判定用の回折光のパターンの角度範囲との各々に設定されている。これにより、色校正真贋判定ホログラムにおける上記観察角度範囲内で撮像画像データを撮像することにより、色校正に用いる分光感度を求める回折光のパターンと、真贋判定に用いる回折光のパターンとの各々は、一括して得られる。
【0120】
<第2の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。
図10は、第2の実施形態による色校正システムの構成例を示すブロック図である。
図10において、色校正システム5Aは、色校正装置1A及び画像撮像装置3を備えている。色校正装置1Aは、撮像制御部102、観察角度推定部105、回折光分光分布計算部106、分光感度推定部107、色校正部108、表示部109及び画像データ記憶部110を備えている。また、画像撮像装置3は、撮像部101、露光制御部103、照明部104を備えている。本実施形態においては、色校正装置1Aと色校正用ホログラム302とにより、色校正システム5Aが構成される。
図10において、第1の実施形態と同様の構成については同一の符号を付してある。
【0121】
本実施形態においては、色校正システム5Aが第1の実施形態における撮像及び露光の機能を画像撮像装置3として、色校正装置1Aから分離した構成となっている。これにより、汎用のデジタルカメラあるいは携帯端末(携帯電話やスマートフォン含む)などの色校正対象となる撮像装置を外部に接続した装置からコントロールでき、複数の撮像装置を取り扱うことも可能となる。
また、色校正装置1Aはクラウド構成として、図示してはいないが、デジタルカメラあるいは携帯端末とインターネットなどの情報通信回線を用いて通信できるようにしてもよい。そして、色校正装置1Aは、すでに述べた第1の実施形態と同様に、デジタルカメラあるいは携帯端末から送信される撮像画像データを用いて、当該撮像装置の色校正処理を行う構成としてもよい。
この第2の実施形態においても、上述した第1の実施形態と同様の作用効果を得ることができる。
【0122】
<第3の実施形態>
以下、本発明の第3の実施形態について、図面を参照して説明する。本実施形態の説明において、前記第1実施形態と同様の構成要素に対しては同一の符号を付し、その説明を省略する。
図11は、第3の実施形態による色校正装置を備える色校正システムの構成例を示すブロック図である。
図11において、色校正装置1Bは、撮像部101、撮像制御部102、露光制御部103、照明部104、観察角度推定部105、回折光分光分布計算部106、撮像動作指示部111、分光感度推定部107、色校正部108、表示部109及び画像データ記憶部110を備えている。色校正装置1Bと色校正用ホログラム302とにより、色校正システム5Bが構成される。
【0123】
図11に示すように、撮像動作指示部111は、回折光分光分布計算部106が画像データ記憶部110に記憶した回折光分光分布の分光波長(単に、回折光分光分布と称する場合もある)を全て参照し、それらが撮像部101の分光感度を推定するために十分であるか否かの判定を行う。すなわち、撮像動作指示部111は、予め設定されている、分光感度推定を必要な精度で行うために必要な複数の設定回折光分光分布に各々対応する回折光分光分布が全て取得されたか否かの判定を行う。
図12は、画像データ記憶部110に記憶されている回折光分光分布取得完了テーブルの構成例を示す図である。
【0124】
図12に示す回折光分光分布取得完了テーブルは、設定回折光分光分布の欄と、この設定回折光分光分布に対応した完了フラグの欄とが設けられている。設定回折光分光分布は、分光感度推定を必要な精度で行うために必要な周期の設定回折光分光分布の分光波長が記載されている。例えば、設定回折光分光分布は、380nmから780nmを、10nmの周期で分割した、380nm、390nm、…、770nm、780nmの分光波長として設定されている。完了フラグは、設定回折光分光分布の分光波長と一致する回折光分光分布の分光波長が撮像画像から取得された場合、取得された設定回折光分光分布の分光波長に対応する欄に書き込まれるフラグである。例えば、完了フラグは、取得された場合「1」であり、取得されていない場合「0」である。ここで、回折光分光分布取得完了テーブルにおいては、初期状態として全ての完了フラグが「0」とされている。
【0125】
図11に戻り、撮像動作指示部111は、画像データ記憶部110の分光感度推定用撮像画像データテーブルにおける回折光分光分布を参照し、回折光分光分布取得完了テーブルの設定回折光分光分布に対応する回折光分光分布が取得されているか否かの検出(すなわち、設定回折光分光分布の分光波長に対応する分光波長の回折光分光分布が、分光感度推定用撮像画像データテーブルに記憶されているか否かの検出)を行う。
そして、撮像動作指示部111は、設定回折光分光分布の分光波長に対応する分光波長の回折光分光分布が取得されていることを検出すると、回折光分光分布取得完了テーブルにおけるこの設定回折光分光分布の分光波長に対応する完了フラグの欄に対して完了フラグを立てる、すなわち「0」から「1」にフラグを書き換える。
【0126】
また、撮像動作指示部111は、設定回折光分光分布の分光波長と回折光分光分布の分光波長とが一致しているか否かの判定を行う際、設定回折光分光分布の分光波長を中心とした誤差範囲内、例えば390nm±2nmに回折光分光分布の分光波長が含まれるか否かにより行う。このとき、撮像動作指示部111は、回折光分光分布の分光波長が設定回折光分光分布の分光波長を中心とした誤差範囲内に含まれる場合、設定回折光分光分布の分光波長と回折光分光分布の分光波長とが一致していると判定する。一方、撮像動作指示部111は、回折光分光分布の分光波長が設定回折光分光分布の分光波長を中心とした誤差範囲内に含まれない場合、設定回折光分光分布の分光波長と回折光分光分布の分光波長とが一致していないと判定する。また、撮像動作指示部111は、回折光分光分布取得完了テーブルの全ての完了フラグが「1」になっているか否かにより、分光感度の推定が行えるか否かの判定を行う。そして、撮像動作指示部111は、分光感度の推定が行えないと判定した場合、表示部109に対して、取得されていない回折光分光分布の分光波長の取得を促す通知を表示する。
【0127】
図13は、撮像動作指示部111が表示部109の表示画面に表示する回折光分光分布の取得を促す通知の一例を示す図である。
図13において、撮像動作指示部111により、表示部109の表示画面109Sには、クレジットカード300の画像を入れる画像枠109_1が表示される。また、表示画面109Sには、撮像画像の撮像方向を移動させる矢印109_2U及び矢印109_2Dの各々が表示される。例えば、回折光分光分布の必要な取得範囲において、現在の撮像方向に対応する観察角度に対し、より角度の小さい観察角度の範囲の回折光分光分布の取得状況が不十分である場合、現在の撮像方向(観察位置)を上側に(クレジットカード300から離れる方向に)移動させるため、矢印109_2Uを点滅させる誘導表示を行ない、一方、より大きい観察角度の範囲の回折光分光分布の取得状況が不十分である場合、撮像画像の撮像方向(観察位置)を下側に(クレジットカード300に近づく方向に)移動させるため、矢印109_Dを点滅させる誘導表示を行なう。
【0128】
このとき、撮像動作指示部111は、取得できていない回折光分光分布を回折光分光分布取得完了テーブルから抽出し、この回折光分光分布に対応する観察角度を求め、現在の観察角度に対して、より大きい側の回折光分光分布が充足されていないか、あるいはより小さい側の回折光分光分布が充足されていないかの判定を行なう。
また、例えば、撮像画像を撮像する際における観察角度の変化速度が速く、必要な波長周期で回折光分光分布が取得できない場合、表示領域109_3には、撮像画像を撮像する際における観察角度の変化速度を遅くするようにユーザに促すために、「撮像する方向をゆっくり変えて、撮像を再度行なってください」等との文字列の画像が、撮像動作指示部111により表示される。
【0129】
図14は、撮像動作指示部111が表示部109の表示画面に表示する回折光分光分布の取得を促す通知の他の例を示す図である。
図14において、撮像動作指示部111により、表示部109の表示画面109Sには、
図13と同様に、クレジットカード300の画像を入れる画像枠109_1が表示される。表示領域109_3には、
図13と同様に、撮像画像の再度の撮像を促す画像が表示される。取得観察角度確認領域109_4は、取得されている回折光分光分布の分光波長に対応する観察角度と、取得されていない回折光分光分布の分光波長に対応する観察角度とを示している。
図14においては、たとえば、取得する必要のある回折光分光分布の分光波長に対応する観察角度の範囲において、取得されていない回折光分光分布の分光波長に対応する観察角度を示す位置を、点滅して表示させてフェイル領域109_4Fとして示している。
【0130】
このとき、撮像動作指示部111は、取得できていない回折光分光分布の分光波長を回折光分光分布取得完了テーブルから抽出し、この回折光分光分布の分光波長に対応する観察角度を求める。そして、撮像動作指示部111は、表示画面109Sの表示領域109_3において、求めた取得できていない回折光分光分布の分光波長の観察角度に対応する位置を点滅表示させて、フェイル領域109_4Fとして表示する。
ここで、取得観察角度確認領域109_4に対応して、現在の観察角度、すなわち撮像画像の撮像方向を示す矢印109_5が表示されている。これにより、ユーザには、現在の撮像方向に対していずれの方向に取得すべき回折光分光分布の分光波長に対応する観察角度が存在するかが確認できる。ここで、例えば、表示領域109_3には、撮像画像を再撮像させることをユーザに促すために、「矢印の表示が点滅表示している部分をなぞるように、点滅しなくなるまで、撮像する方向をゆっくり変えて、撮像を再度行なってください」等との文字列の画像が、撮像動作指示部111により表示される。
【0131】
また、上述の構成において、点滅表示ではなく、フェイル領域109_4Fの部分の色を、取得観察角度確認領域109_4の他の部分と異なる色で表示するようにしてもよい。例えば、フェイル領域109_4Fの部分を赤色、取得観察角度確認領域109_4の他の部分(回折光分光分布の分光波長が取得されている観察角度の部分)を緑色で表示する。このとき、例えば、表示領域109_3には、撮像画像を再撮像させることをユーザに促すために、「矢印の表示が赤の表示部分をなぞるように、全てが緑色に変わるまで、撮像する方向をゆっくり変えて、撮像を再度行なってください」との文字列の画像が、撮像動作指示部111により表示される。
【0132】
分光感度推定部107は、撮像動作指示部111から、取得が必要な回折光分光分布が全て取得できたことを示す取得信号が供給(入力)されると、回折光分光分布計算部106が画像データ記憶部110に記録した回折光分光分布と、この回折光分光感度に対応する撮像画像データとの各々を用い、撮像部101の分光感度の推定を行なう。
【0133】
次に、
図15は、第3の実施形態の色校正システムにおけるホログラム(色校正用ホログラム302)を用いた撮像装置の色校正の動作例を示すフローチャートである。ユーザが例えばパーソナルコンピュータにおいて色校正のアプリケーションを起動すると、このパーソナルコンピュータのメインメモリ上に色校正システムの各部の機能が展開される。
そして、撮像部101を動画モードで起動し、撮像方向にある撮像対象の撮像を開始する。以下の撮像画像データは、撮像部101が動画として撮像するフレーム単位の画像を示している。
【0134】
ステップS21:
撮像制御部102は、撮像画像データにおける色校正用ホログラム302の撮像位置を抽出する。すなわち、撮像制御部102は、撮像部101の撮像範囲内におけるクレジットカード300の形状を得る。そして、撮像制御部102は、得られたクレジットカード300の形状と、予め記憶されているクレジットカード300の3次元形状とを比較し、撮像部101の撮像範囲内における色校正用ホログラム302の領域を抽出する。このとき、撮像制御部102は、撮像方向の撮像画像とともに、クレジットカード300の画像を入れる画像枠を表示部109に表示し、ある程度の撮像位置及び撮像角度にてユーザがクレジットカード300を撮像するように促すようにしても良い。
【0135】
また、撮像制御部102は、色校正用ホログラム302の撮像方向、すなわち観察角度の推定処理を観察角度推定部105に行わせる。これにより、観察角度推定部105は、撮像部101の撮像範囲における撮像画像データから得られるクレジットカード300の形状と、予め記憶されている3次元座標系におけるクレジットカード300の3次元形状とを比較することにより、色校正用ホログラム302の観察位置及び観察角度を推定する。ここで、観察角度推定部105は、上記比較により、撮像部101がクレジットカード300を撮像する撮像位置及び撮像方向を求める。そして、観察角度推定部105は、3次元座標系におけるクレジットカード300の色校正用ホログラム302が添付されている面の法線と、撮像部101の撮像方向とのなす角度を観察角度として求め、観察位置とともに撮像制御部102に対して出力する。
【0136】
ステップS22:
撮像制御部102は、観察角度推定部105から入力される撮像部101によるホログラムの観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っているか否かの判定を行う。
このとき、撮像制御部102は、撮像部101による色校正用ホログラム302の観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っている場合、処理をステップS24へ進める。
一方、撮像制御部102は、撮像部101による色校正用ホログラム302の観察位置及び観察角度が、予め設定されている設定観察位置及び設定観察角度のそれぞれの範囲に入っていない場合、処理をステップS23へ進める。
【0137】
また、撮像制御部102は、設定観察位置及び設定観察角度の判定に加えて焦点距離及び露光条件などの撮像条件の全てが、回折光の色取得が可能な撮像画像データが撮像できている条件であるか否かの判定を行うようにしても良い。このとき、撮像制御部102は、回折光の色取得が可能な撮像画像データが撮像できている撮像条件である場合、処理をステップS24へ進める。一方、撮像制御部102は、回折光の色取得が可能な撮像画像データが撮像できている撮像条件でない場合、処理をステップS23へ進める。
【0138】
ステップS23:
撮像制御部102は、観察位置及び観察角度が回折光を撮像する条件を満たしていないことを表示部109に表示し、ユーザに調整を促す。ユーザは、表示部109に表示された指示に従って撮像部101の撮像方向及び位置の調整を行う。また、撮像制御部102は、撮像部101の焦点距離及び露光条件などの撮像条件の調整が必要な場合に表示部109に表示しても良い。その場合、ユーザは108に表示された指示に従って撮像部101の焦点距離及び露光条件などの撮像条件の調整を行う。
【0139】
ステップS24:
回折光分光分布計算部106は、予め与えられた光源400の放射光の分光分布と、同じく予め与えられた色校正用ホログラム302の空間周波数や回折効率といった回折光特性と、観察角度及び観察位置から、回折光分光分布を計算する。
【0140】
ステップS25:
回折光分光分布計算部106は、画像データ記憶部110の所定の領域に対して、撮像部101が撮像している撮像画像データを書き込んで記憶させる。また、回折光分光分布計算部106は、画像データ記憶部110における撮像画像データを書き込んだ領域のアドレスである撮像画像データアドレスと回折光分光分布を画像データ記憶部110の分光感度推定用撮像画像テーブルに対して書き込んで記憶させる。
撮像動作指示部111は、画像データ記憶部110の分光感度推定用撮像画像テーブルを参照して、取得された回折光分光分布の分光波長を抽出する。そして、撮像動作指示部111は、画像データ記憶部110の回折光分光分布取得完了テーブルを参照し、抽出した回折光分光分布の分光波長と一致する設定回折光分光分布の分光波長を検出し、その完了フラグ欄のフラグを立てる(すなわち、「0」から「1」に変更する)。
【0141】
ステップS26:
撮像動作指示部111は、画像データ記憶部110の回折光分光分布取得完了テーブルを参照し、予め設定されている設定回折光分光分布の分光波長の完了フラグ欄の全てに、「1」が記載されているか否かの判定、すなわち、分光感度の推定に対して十分な回折光分光分布が取得されたか否かの判定を行なう。ここで、撮像動作指示部111は、例えば、380nmから780nmを、10nmの周期で分割して離散化された、380nm、390nm、…、770nm、780nmの分光波長として設定された設定回折光分光分布の全ての分光波長の各々と一致する分光波長それぞれが回折光分光分布に含まれている否かの判定を行なう。すなわち、撮像動作指示部111は、取得された回折光分光分布が予め設定された設定回折光分光分布の分光波長の全てを含んでいるか否かの判定を行なう。
【0142】
上述したように、撮像動作指示部111は、画像データ記憶部110の分光感度推定用撮像画像テーブル及び回折光分光分布取得完了テーブルの各々を参照して、設定回折光分光分布の分光波長の各々が取得した回折光分光分布の分光波長に含まれているか否かにより、分光感度の推定に十分な回折光分光分布が取得できたか否かの判定を行なう。
このとき、撮像動作指示部111は、分光感度推定用撮像画像テーブルに記憶されている回折光分光分布が分光感度の推定に必要な、設定回折光分光分布の分光波長の全てを含んでいる場合、処理をステップS27に進める。一方、撮像制御部102は、分光感度推定用撮像画像テーブルに記憶されている回折光分光分布が分光感度の推定に必要な、設定回折光分光分布の分光波長の全てを含んでいない場合、処理をステップS29に進める。
【0143】
ステップS27:
そして、分光感度推定部107は、画像データ記憶部110の分光感度推定用撮像画像テーブルに記憶されている撮像画像データアドレスと回折光分光分布を全て読み出す。また、分光感度推定部107は、撮像画像データアドレスにより撮像画像データを画像データ記憶部110から読み出す。分光感度推定部107は、画像データ記憶部110から読み出した撮像画像データにおいて、色校正用ホログラム302の画素位置を、座標変換式により抽出する。分光感度推定部107は、色校正用ホログラム302の画素から回折光のRGBの各々の色成分の信号値を取得し、それぞれ対応する波長の回折光分光分布と組み合わせて撮像部101の分光感度を推定する。
【0144】
ステップS28:
色校正部108は、分光感度推定部107が推定した撮像部101の分光感度に基づき、撮像部101が撮像した撮像画像データP1を、標準的な撮像装置で撮像した撮像画像データP2の色に合うように色校正を行う。
【0145】
ステップS29:
撮像動作指示部111は、分光感度の推定に十分な回折光分光分布が取得できていない場合、設定回折光分光分布における取得されていない分光波長を取得するため、
図13あるいは
図14で示した撮像画像の再撮像を促す画像を表示部109の表示画面に対して表示する。
すなわち、撮像動作指示部111は、観察角度を変更する指示を表示部109に表示し、ユーザに対してクレジットカード300の撮像を行なう観察角度の変更を促す。
【0146】
ステップS30:
ユーザは、表示部109の表示画面に表示された画像に従い、撮像画像の撮像方向を調整、すなわち観察角度の調整を行なう。
【0147】
そして、図示しない真贋判定部は、標準的な撮像装置で撮像対象(真贋判定用ホログラム301)を撮像した際の回折光の参照パターン(真の回折光のパターン)を、画像データ記憶部110から、撮像画像データを撮像した際の観察角度に対応して読み出す。
また、上記真贋判定部は、すでに説明した分光感度推定部107が推定した分光感度により、撮像画像データにおける真贋判定用ホログラム301の画素領域のRGBの各々の色成分の色校正を行なう。真贋判定部は、色校正を行なった撮像画像データの回折光のパターンと、読み出した上記参照パターンとの類似度を比較し、類似度が所定の閾値以上の場合に真と判定し、一方、類似度が所定の閾未満の場合に偽と判定する。上記参照パターンは、標準的な撮像装置で撮像した色によりパターンが形成されている。
【0148】
上述した構成により、上述した第1の実施形態と同様の作用効果を得ることができ、さらに本実施形態によれば、ハードウェア特性のプロファイルの校正に用いる回折光分光分布の取得を行なうための撮像方向を、表示画面においてユーザに直感的に指示することにより、校正に用いる設定回折光分光分布の全ての分光波長を含む回折光分光分布を、ユーザに対して簡易な撮像処理を行なわせて取得することができ、色補正を行なうために用いるハードウェア特性のプロファイルの校正を容易に行なうことができる。
また、本実施形態によれば、ハードウェア特性のプロファイルの校正に用いる回折光分光分布の取得において、校正に不足する分光波長が存在する場合、校正に必要な全てを取得するための撮像画像の撮像の仕方を通知するため、校正に必要な回折光分光波長の全ての分光波長を漏れなく得ることが可能となり、精度の高いハードウェア特性のプロファイルの校正を行なうことができる。
また、本実施形態によれば、校正に必要であるが取得されていない分光波長の存在を、ユーザにビジュアル的に画像表示して通知するため、意識的にユーザが不足している分光波長を認識して取得する動作を行なうため、校正に必要な回折光分光波長の全ての分光波長を漏れなく得ることが可能となり、精度の高いプロファイルの校正を行なうことができる。
【0149】
すなわち、ホログラム(例えば、色校正用ホログラム302)は観察角度によって観察される像または色が変化する特性を有している。このため、特定のパターンや色彩を観察できるよう設計したホログラムであっても、そのパターンや色彩を観察できる角度や位置が限られているため、ユーザがホログラムの特性を把握していない状態でカメラ等の撮像装置で撮像する場合、様々な方向から観察して目的のパターンや色彩が撮像できる状態になった時に撮像する必要があり、ユーザは容易に撮像できない場合がある。
また、ユーザがホログラムの特性を把握していても、目的のパターンや色彩が現在の観察角度及び観察位置からどのように動かせば観察できるかは、撮像装置と光源、及びホログラムの3次元的な位置関係を正確に把握している必要がある。このため、ホログラムから放射される各分光波長の光を撮像することは難しい。
【0150】
すでに述べたように、撮像装置の色校正に対しては、マクベスカラーチャートのように様々な色を撮像する必要がある。したがって、ホログラムから発せられる狭帯域の分光分布を持った反射光によって色校正を行う場合、ユーザは、狙った色、すなわち所定の分光波長の回折光を撮像することは困難である。このため、色校正のために多くの種類のホログラムを用い、それぞれ異なる色の反射光を一度に全て観察しようとする場合、多くのホログラムに対して目的の観察条件を全て満たす3次元位置から、各ホログラムから放射される所定の分光波長の回折光を撮像する必要があり、色校正のための回折光の撮像は非常に困難となる。また、観察角度によって色が変化するホログラムを、観察角度を変えながら様々な色を撮像して色校正する場合においても、仮に色校正に必要な色が全て撮像できていない場合、どの色が撮像できておらず色校正ができないかがユーザには分からないため、撮像装置を様々に動かす必要があり容易に色校正できない場合がある。このため、本実施形態においては、ユーザのホログラムの撮像を容易に行えるように、ハードウェア特性のプロファイルの校正に用いる回折光分光分布の取得をユーザに直感的に指示する構成を用いている。
【0151】
上述したように、本実施形態においては、マクベスカラーチャートなどの拡散反射特性を持つ反射物に対して、光の回折現象を利用して発色する反射物としてホログラムを用いている。一般的に反射型のホログラムとしては金属箔によって回折光を反射するレインボーホログラムやホログラムそのものの回折によって反射させるリップマンホログラムがある。フルカラーのホログラムは表面の回折格子に入射した光が回折を起こして色を発色するため、ある程度の分光分布を持った照明であれば、狭帯域の回折光分光分布を持った反射光を返すことが可能である。このため、ホログラムの設計によっては、入射光に対して放射される回折光を波長分布レベルで調整し、任意の色彩(分光波長の光)を再現することができる。
【0152】
また、本実施形態においては、予め設定した設定回折光分光分布の分光波長が充足されているか否かの判定により、回折光分光分布が分光感度を推定するために十分であるか否かの判定を行なっていた。
しかしながら、設定回折光分光分布を設定せずに、回折光分光分布が分光感度を推定するために十分であるか否かを、例えば、画像データ記憶部110の分光感度推定用撮像画像テーブルを参照し、これまでに撮像した回折光分光分布における分光波長が可視波長域内において均一の周期毎に取得できているか否かに判定する構成としても良い。例えば、10nm等で設定された周期で分光波長の領域を設定し、撮像動作指示部111は、各領域内で少なくとも1個以上の該当する分光波長の回折光が取得されていれは、分光感度の推定に十分な回折光分光分布が得られたと判定する。一方、撮像動作指示部111は、得られている回折光分光分布が分光感度の推定に十分でない、つまり回折光が撮像できていない分光波長の領域が存在する場合、その波長領域内の回折光を分光感の度推定に必要な回折光として求める。そして、撮像動作指示部111は、求めた分光波長の回折光を撮像するための観察角度を計算し、すでに述べたように撮像方向を指示することで、分光感の度推定に必要な分光波長の回折光をユーザが撮像できるように誘導する。
【0153】
<第4の実施形態>
以下、本発明の第4の実施形態について、図面を参照して説明する。本実施形態の説明において、上記第1〜第3の実施形態と同様の構成要素に対しては同一の符号を付し、その説明を省略する。
図16は、第4の実施形態による色校正システムの構成例を示すブロック図である。
図16において、色校正システム5Cは、色校正装置1C及び画像撮像装置3を備えている。色校正装置1Cは、撮像制御部102、観察角度推定部105、回折光分光分布計算部106、撮像動作指示部111、分光感度推定部107、色校正部108、表示部109及び画像データ記憶部110を備えている。また、画像撮像装置3は、撮像部101、露光制御部103、照明部104を備えている。本実施形態においては、色校正装置1Cと色校正用ホログラム302とにより、色校正システム5Cが構成される。
図16において、第3の実施形態と同様の構成については同一の符号を付してある。
【0154】
本実施形態においては、色校正システム5Cが第3の実施形態における撮像及び露光の機能を画像撮像装置3として、色校正装置1Aから分離した構成となっている。これにより、汎用のデジタルカメラあるいは携帯端末(携帯電話やスマートフォン含む)などの色校正対象となる撮像装置を外部に接続した装置からコントロールでき、複数の撮像装置を取り扱うことも可能となる。
また、色校正装置1Cはクラウド構成として、図示してはいないが、デジタルカメラあるいは携帯端末とインターネットなどの情報通信回線を用いて通信できるようにしてもよい。そして、色校正装置1Aは、すでに述べた第3の実施形態と同様に、デジタルカメラあるいは携帯端末から送信される撮像画像データを用いて、当該撮像装置の色校正処理を行う構成としてもよい。
【0155】
なお、本発明における
図1の色校正装置1、
図10の色校正装置1A、
図11の色校正装置1B及び
図16の色校正装置1Cの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより撮像装置間における撮像画像データの色校正の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含む。
また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWW(World Wide Web)システムも含む。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD−ROM(Compact Disc - Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM(Random Access Memory))のように、一定時間プログラムを保持している媒体も含む。
【0156】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのプログラムであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるプログラム、いわゆる差分ファイル(差分プログラム)であっても良い。
【0157】
上記第1〜第4の実施形態では、観察角度推定部105が用いられているが、本発明の色校正装置や色校正システムが観察角度推定部105を備えない構成であってもよい。
観察角度推定部105は、撮像部101が撮像した撮像画像データから観察角度及び観察位置を推定しているが、撮像部101の現在の観察角度及び観察位置をセンサやエンコーダ等の検出機器によって取得可能である場合は、この検出機器が取得した観察角度及び観察位置を用いて、回折光分光分布計算部106が観察角度毎の回折光の分光分布を計算してもよい。