(58)【調査した分野】(Int.Cl.,DB名)
前記複数の画像に含まれる重複領域の各々に対し、前記複数種類のシェーディング補正特性をそれぞれ用いて補正することにより、複数の補正済み重複領域画像を生成する補正部をさらに備え、
前記評価値算出部は、前記シェーディング補正特性の種類ごとに、前記複数の画像間において互いに対応する補正済み重複領域画像内の画素の特性を比較した結果を表す量を、前記評価値として算出する、
ことを特徴とする請求項1に記載の画像処理装置。
前記シェーディング補正特性決定部は、前記評価値に基づいて、前記複数種類のシェーディング補正特性のうちから前記複数の画像に対するシェーディング補正に適合するシェーディング補正特性を選択する、
ことを特徴とする請求項1〜7のいずれか1項に記載の画像処理装置。
前記シェーディング補正特性決定部は、前記評価値に基づいて前記複数種類のシェーディング補正特性を加重平均することにより、前記複数の画像に対するシェーディング補正に適合するシェーディング補正特性を決定する、
ことを特徴とする請求項1〜7のいずれか1項に記載の画像処理装置。
【発明を実施するための形態】
【0027】
以下、本発明に係る画像処理装置、顕微鏡システム及び画像処理方法の実施の形態について、図面を参照しながら詳細に説明する。なお、これらの実施の形態により本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。以下においては、本発明に係る画像処理装置を顕微鏡システムに適用した例を説明するが、本発明に係る画像処理装置は、ディジタルカメラ等、被写体を撮像して画像データを生成する画像取得手段と組み合わせて、撮像装置として利用することも可能である。
【0028】
(実施の形態1)
図1は、本発明の実施の形態1に係る顕微鏡システムの構成を示すブロック図である。
図1に示すように、実施の形態1に係る顕微鏡システム1は、標本の拡大画像を撮像する顕微鏡装置2と、撮像された画像に対して所定の画像処理を施す画像処理装置10とを備える。
【0029】
図2は、
図1に示す顕微鏡装置2の構成例を示す模式図である。
図2に示すように、顕微鏡装置2は、略C字形のアーム100と、該アーム100に設けられた落射照明ユニット101及び透過照明ユニット102と、アーム100に取り付けられ、被写体(標本)Sが載置される標本ステージ103と、鏡筒108の一端側に三眼鏡筒ユニット109を介して標本ステージ103と対向するように設けられ、被写体からの観察光を結像する対物レンズ106と、接眼レンズユニット110と、鏡筒108の他端側に設けられた画像取得部111とを備える。このような顕微鏡装置2の動作は、画像処理装置10が備える制御部16(後述)によって制御される。
【0030】
落射照明ユニット101は、落射照明用光源101a及び落射照明光学系101bを備え、被写体Sに対して落射照明光を照射する。落射照明光学系101bは、落射照明用光源101aから出射した照明光を集光して観察光路Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
【0031】
透過照明ユニット102は、透過照明用光源102a及び透過照明光学系102bを備え、被写体Sに対して透過照明光を照射する。透過照明光学系102bは、透過照明用光源102aから出射した照明光を集光して観察光路Lの方向に導く種々の光学部材(フィルタユニット、シャッタ、視野絞り、開口絞り等)を含む。
【0032】
これらの落射照明ユニット101及び透過照明ユニット102は、検鏡法に応じていずれかが選択されて使用される。なお、顕微鏡装置2に、落射照明ユニット101と透過照明ユニット102とのいずれか一方のみを設けることとしても良い。
【0033】
標本ステージ103には、ステージ位置変更部104及び位置検出部105が設けられている。ステージ位置変更部104は、例えばモータによって構成され、標本ステージ103を対物レンズ106の光軸と直交する面内(即ちXY平面内)において移動させる。このように標本ステージ103を移動させることにより、対物レンズ106の視野(撮像視野)が変化する。
【0034】
位置検出部105は、例えば、ステージ位置変更部104を構成するモータの回転量を検出するエンコーダによって構成され、標本ステージ103の位置を検出し、被写体Sの撮像時における標本ステージ103の位置情報を画像データの関連情報として、画像データと共に画像処理装置10に出力する。なお、ステージ位置変更部104及び位置検出部105の代わりに、後述する制御部16の制御に従ってパルスを発生するパルス発生部及びステッピングモータを設けても良い。
【0035】
なお、実施の形態1においては、対物レンズ106及び鏡筒108を含む観察光学系の位置を固定し、標本ステージ103側を移動させているが、標本ステージ103の位置を固定し、観察光学系側を移動させても良い。或いは、標本ステージ103と観察光学系との双方を互いに反対方向に移動させても良い。つまり、観察光学系と被写体Sとが相対的に移動する構成であれば、どのような構成であっても構わない。
【0036】
対物レンズ106は、倍率が互いに異なる複数の対物レンズ(例えば、対物レンズ106’)を保持可能なレボルバ107に取り付けられている。レボルバ107を回転させ、標本ステージ103と対向する対物レンズ106、106’を変更することにより、撮像倍率を変化させることができる。なお、
図2は、対物レンズ106が標本ステージ103と対向している状態を示している。
【0037】
三眼鏡筒ユニット109は、対物レンズ106から入射した観察光を、ユーザが被写体Sを直接観察するための接眼レンズユニット110と、画像取得部111との方向に分岐する。
【0038】
画像取得部111は、例えばCCDやCMOS等の撮像素子からなり、対物レンズ106から三眼鏡筒ユニット109を介して入射し、結像した観察光を撮像し、画像データを生成して画像処理装置10に出力する撮像装置である。
【0039】
次に、画像処理装置10の構成について説明する。
図1に示すように、画像処理装置10は、画像取得部111から出力された画像データが入力されるインタフェースである画像入力部11と、当該画像処理装置10に対する指示や情報の入力に用いられる入力部12と、記憶部13と、画像入力部11を介して入力された画像データに対応する画像に種々の演算処理を施す演算部14と、該演算部14の演算処理結果やその他の情報を出力する出力部15と、これらの各部の動作及び顕微鏡装置2の動作を制御する制御部16とを備える。
【0040】
画像入力部11は、画像取得部111から出力された画像データを受け取り、該画像データに所定の画像変換(フォーマット変換等)処理を施すことにより表示用の画像データを生成して演算部14に出力する。例えば、画像取得部111が備える撮像素子の配列がベイヤー(Bayer)配列である場合、画像入力部11は、ベイヤー配列の画像データをRGB色空間の画像データに変換する。或いは、画像入力部11は、YCbCr色空間の画像データに変換しても良い。
【0041】
入力部12は、キーボード、各種ボタン、各種スイッチ等の入力デバイスや、マウスやタッチパネル等のポインティングデバイスを含み、これらのデバイスに対するユーザの操作に応じた信号を制御部16に入力する。
【0042】
記憶部13は、更新記録可能なフラッシュメモリ、RAM、ROMといった半導体メモリ等の記録装置や、内蔵若しくはデータ通信端子で接続されたハードディスク、MO、CD−R、DVD−R等の記録媒体及び該記録媒体に記録された情報を読み取る読取装置を含む記録装置等によって構成される。記憶部13は、演算部14及び制御部16がそれぞれ実行する各種プログラムや、該プログラムの実行中に使用される各種パラメータ及び設定情報や、画像データ等を記憶する。
【0043】
より詳細には、記憶部13は、プログラム記憶部131と、画像データ記憶部132と、シェーディング補正特性記憶部133とを備える。このうち、プログラム記憶部131は、画像入力部11から出力された画像データに対応する画像に所定の画像処理を施す画像処理プログラムを記憶する。
【0044】
画像データ記憶部132は、画像入力部11により画像変換が施された画像データや、演算部14により画像処理が施された画像データや、これらの画像データの関連情報を記憶する。
【0045】
シェーディング補正特性記憶部133は、画像入力部11から出力された各画像に生じているシェーディングを補正する際に使用される複数種類のシェーディング補正特性(シェーディング補正特性A、シェーディング補正特性B、…)を記憶する。ここで、一般に、顕微鏡装置2等の撮像機器により撮像された画像に生じるシェーディングは、撮像機器に内蔵される光学系の特性の他、被写体の特性(テクスチャ等)によっても変化する。具体的には、被写体表面の反射率がミラーのように高い場合、被写体表面の散乱特性が紙のように強い場合、被写体の透明度が高い場合等に応じて、画像に生じるシェーディングは異なってくる。シェーディング補正特性記憶部133は、このような被写体に応じたシェーディングを補正する際の候補として、顕微鏡装置2が備える光学系の特性に加え、被写体の特性を考慮して設定されたシェーディング補正特性を複数種類記憶している。
【0046】
なお、これらのシェーディング補正特性は、例えば、顕微鏡装置2の標本ステージ103に、種々の被写体とそれぞれ近似する特性を有する複数種類の平坦な背景部材(例えば、ミラー、紙、透明ガラス等の平坦な板状部材)を1種類ずつ標本ステージ103に設置して撮像を行い、それによって取得された画像に生じたシェーディングの特性を実測することにより設定することができる。
【0047】
演算部14は、例えばCPU等のハードウェアによって構成され、後述する記憶部13に記憶された画像処理プログラムを読み込むことにより、画像入力部11から出力された画像データに対応する画像に対し、被写体に応じたシェーディング補正を施す画像処理を実行する。
【0048】
より詳細には、演算部14は、補正部141と、評価値算出部142と、シェーディング補正特性決定部143とを備える。このうち、補正部141は、顕微鏡装置2において被写体Sに対する視野をずらして撮像された複数の画像間の重複領域に対し、シェーディング補正特性記憶部133に記憶された複数種類のシェーディング補正特性の各々を用いて補正することにより、補正済み重複領域画像を生成する。
【0049】
評価値算出部142は、上記複数の画像間において互いに対応する重複領域内の画素の特性に基づく評価値を算出する。具体的には、評価値算出部142は、評価値として、互いに対応する補正済み重複領域画像内において互いに対応する画素同士の画素値又は輝度値の差分に基づく量を、シェーディング補正特性の種類ごとに算出する。
【0050】
シェーディング補正特性決定部143は、評価値算出部142が算出した評価値とシェーディング補正特性記憶部133に記憶された複数種類のシェーディング補正特性とに基づいて、演算部14に入力された画像に対するシェーディング補正に適合するシェーディング補正特性を決定する。
【0051】
出力部15は、演算部14による演算処理(画像処理)結果やその他所定の情報を、例えばLCD、ELディスプレイ又はCRTディスプレイからなる表示装置等の外部機器に出力する外部インタフェースである。なお、本実施の形態では、表示装置を画像処理装置10の外部に備える構成としているが、画像処理装置10の内部に表示部を備える構成としても良い。
【0052】
制御部16は、例えばCPU等のハードウェアによって構成され、記憶部13に記憶された各種プログラムを読み込むことにより、記憶部13に記憶された各種データや入力部12から入力される各種情報に基づき、画像処理装置10及び顕微鏡システム1全体の動作を統括的に制御する。
【0053】
次に、画像処理装置10の動作を説明する。
図3は、画像処理装置10の動作を示すフローチャートである。
まず、ステップS10において、画像入力部11は、顕微鏡装置2において被写体Sに対する視野をずらして複数回撮像を行うことにより取得された画像データ及び関連情報を受け取り、所定の画像変換を行う。
【0054】
画像変換後のフォーマットは特に限定されず、本実施の形態1においては、ベイヤー配列の画像をRGB画像に変換し、続くステップS11〜S14において、R、G、Bの各画像に対して個別に処理を行うものとする。なお、RGB画像をYCbCr画像に変換し、ステップS11〜S14において、輝度成分Yからなる画像と、色差成分Cb、Crからなる画像に対して個別に処理を行っても良いし、輝度成分Yからなる画像についてのみ処理を行っても良い。
【0055】
図4Aは、被写体に対する視野を変化させた状態を示す模式図である。また、
図4Bは、被写体に対する視野を変化させて撮像された画像を示す模式図である。以下においては、一例として、
図4Aに示す「SAMPLE」の文字を被写体Sとして説明する。
図4Aに示すように、被写体Sに対する視野V1、V2の一部が重複するように撮像を行うことにより、
図4Bに示す画像M1、M2が得られる。これらの隣り合う画像M1、M2は、共通の被写体部分が写った重複領域D1、D2を含んでいる。
【0056】
なお、
図4Aに示すように、視野V1、V2が重なっている領域全体を重複領域として設定しても良いし、視野V1、V2が重なった領域の一部を重複領域(例えば重複領域D1、D2)として設定しても良い。さらに、視野V1、V2が重なった領域内に重複領域を複数箇所設定しても良い。
【0057】
続くステップS11において、補正部141は、画像データの関連情報(標本ステージ103の位置情報)に基づいて、隣り合う画像間で互いに対応する重複領域を抽出し、各画像内の少なくとも重複領域に対し、シェーディング補正特性記憶部133に記憶された複数種類のシェーディング補正特性を用いてシェーディング補正を行う。それにより、各画像内の1つの重複領域に対し、シェーディング補正特性の種類の数だけ補正済み重複領域画像が生成される。この際、補正部141は、各画像の全体に対してシェーディング補正を行い、シェーディング補正された画像から補正済み重複領域画像を抽出しても良いし、最初から重複領域のみに対してシェーディング補正を施しても良い。
【0058】
以下においては、説明を簡単にするため、2種類のシェーディング補正特性A、Bを用いるものとする。シェーディング補正特性A、Bの具体例としては、ミラーのシェーディング補正特性及び紙のシェーディング補正特性が挙げられる。
【0059】
このステップS11の処理の結果、
図5に示すように、重複領域D1をシェーディング補正特性A、Bによりそれぞれ補正した補正済み重複領域画像Dc1(A)、Dc1(B)と、重複領域D2をシェーディング補正特性A、Bによりそれぞれ補正した補正済み重複領域画像Dc2(A)、Dc2(B)とが生成される。
【0060】
続くステップS12において、評価値算出部142は、シェーディング補正特性ごとに、互いに対応する重複領域内の画素の特性に基づく評価値を算出する。より詳細には、互いに対応する補正済み重複領域画像間において対応する画素の画素値(又は輝度値)の差分を、該重複領域画像内の全画素について算出し、これらの差分の絶対値和を評価値とする。或いは、差分の2乗和を評価値としても良い。
【0061】
具体的には、補正済み重複領域画像Dc1(A)、Dc2(A)内の座標(x,y)における画素の画素値をそれぞれI
1A(x,y)、I
2A(x,y)とすると、シェーディング補正特性についての評価値E(A)は、次式(1)によって与えられる。なお、以下に示す座標(x,y)は、各重複領域又は補正済み重複領域画像の左上の点を原点とする。
E(A)=Σ|I
1A(x,y)−I
2A(x,y)| …(1)
【0062】
同様に、補正済み重複領域画像Dc1(B)、Dc2(B)内の座標(x,y)における画素の画素値をそれぞれI
1B(x,y)、I
2B(x,y)とすると、シェーディング補正特性についての評価値E(B)は、次式(2)によって与えられる。
E(B)=Σ|I
1B(x,y)−I
2B(x,y)| …(2)
【0063】
なお、画像M1、M2間で複数組の重複領域を設定した場合には、互いに対応する補正済み重複領域画像ごとに上記評価値E(A)、E(B)を算出した後、補正済み重複領域ごとに算出された評価値をシェーディング補正特性ごとに合算した値が、最終的な評価値として用いられる。
【0064】
ここで、ステップS11におけるシェーディング補正により、補正済み重複領域画像からシェーディングの影響が完全に除去されていれば、互いに対応する補正済み重複領域画像(補正済み重複領域画像Dc1(A)、Dc2(A)の組、補正済み重複領域画像Dc1(B)、Dc2(B)の組)は同一の画像になるはずであり、この場合、上記評価値はゼロとなる。一方、重複領域D1、D2の補正に用いたシェーディング補正特性が適切でなかった場合、補正済み重複領域画像に残ったシェーディングの影響により、対応する画素間において画素値の差異が生じる。即ち、評価値が小さいほど、重複領域D1、D2の補正に用いたシェーディング補正特性は、被写体Sが写った画像のシェーディング補正に、より適合していると言える。
【0065】
続くステップS13において、シェーディング補正特性決定部143は、ステップS12において算出された評価値に基づいて、シェーディング補正特性を決定する。具体的には、シェーディング補正特性A、Bのうち、評価値E(A)、E(B)が小さい方のシェーディング補正特性を、画像M1、M2の補正に使用するシェーディング補正特性として選択する。
【0066】
続くステップS14において、演算部14は、ステップS13における決定結果(シェーディング補正特性)を出力する。これに応じて、制御部16は、出力された結果を出力部15から出力して表示装置に表示させると共に、該決定結果を記憶部13に記憶させる。
【0067】
この際、制御部16は、シェーディング補正特性の決定結果を画像M1、M2と関連付けて記憶させても良いし、該決定結果を被写体Sの種類(例えば、生体組織や臓器の種類等)と関連付けて記憶させても良い。このように被写体の種類ごとにシェーディング補正特性を記憶部13に蓄積しておくことにより、例えば被写体Sと同種の被写体を顕微鏡システム1(
図1参照)において観察する際に、当該被写体が写った画像のシェーディング補正に最適なシェーディング補正特性を記憶部13から読み出し、該画像を高速且つ高精度にシェーディング補正して観察することが可能となる。
その後、画像処理装置10の動作は終了する。
【0068】
以上説明したように、実施の形態1によれば、重複領域に対してなされた種類が異なるシェーディング補正の結果の差異を評価するので、該評価の結果に基づいて、入力された画像のシェーディング補正に最適なシェーディング補正特性を決定することができる。従って、被写体により異なるシェーディング特性に応じて画像を高精度にシェーディング補正可能なシェーディング補正特性を取得することができる。
【0069】
また、実施の形態1によれば、予め用意された複数種類のシェーディング補正特性のうちから、入力された画像に対するシェーディング補正に適合するシェーディング補正特性を選択するので、シェーディング特性を実測してシェーディング補正特性を算出するといった手間や時間や演算コストをかけることなく、高精度なシェーディング補正特性を簡単に取得することができる。
【0070】
なお、実施の形態1においては、重複領域D1、D2を2種類のシェーディング補正特性A、Bによって補正して2つの評価値E(A)、E(B)を算出し、評価値E(A)、E(B)が小さい方のシェーディング補正特性を選択することとしたが、シェーディング補正特性が3種類以上用意されている場合には、各シェーディング補正特性に対して評価値を算出し、評価値が最も小さいシェーディング補正特性を選択すれば良い。
【0071】
(変形例1)
実施の形態1においては、被写体Sが写った画像M1、M2の補正に使用するシェーディング補正特性を、シェーディング補正特性記憶部133に記憶された複数種類のシェーディング補正特性A、B、…から選択したが、これらの複数種類のシェーディング補正特性から算出しても良い。具体的には、シェーディング補正特性決定部143は、評価値算出部142から各シェーディング補正特性A、B、…についての評価値E(A)、E(B)、…を取得し、評価値が小さいほど(即ち、シェーディング補正特性が、より適したものであるほど)シェーディング補正特性の比率が大きくなるように、評価値の逆数1/E(A)、1/E(B)、…を重みとして、シェーディング補正特性A、B、…を加重平均する。それによって算出された特性を、画像M1、M2のシェーディング補正に適合するシェーディング補正特性として決定する。
【0072】
この変形例1によれば、入力された画像のシェーディング補正に、より適合するシェーディング補正特性を決定することが可能となる。
【0073】
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図6は、本発明の実施の形態2に係る画像処理装置を示すブロック図である。なお、本実施の形態2に係る顕微鏡システム全体の構成は、画像処理装置10を除いて、
図1に示すものと同様である。
【0074】
図6に示すように、実施の形態2に係る画像処理装置20は、
図1に示す演算部14の代わりに演算部21を備える。演算部21以外の画像処理装置20の構成及び動作は、実施の形態1と同様である。
【0075】
演算部21は、補正部141と、評価値算出部142と、シェーディング補正特性決定部143と、補正画像生成部211と、画像合成部212とを備える。このうち、補正部141、評価値算出部142及びシェーディング補正特性決定部143の動作は、実施の形態1と同様である。なお、補正部141は、画像入力部11から出力された画像全体に対してシェーディング補正を施すものとする。
【0076】
補正画像生成部211は、被写体Sに対する視野をずらして撮像された複数の画像に対して、シェーディング補正特性決定部143により決定されたシェーディング補正特性が施された画像(補正画像)を生成する。
【0077】
画像合成部212は、補正画像生成部211により生成された補正画像を貼り合わせることにより、被写体Sが写った広視野且つ高精細な合成画像を生成する。
【0078】
次に、画像処理装置20の動作を説明する。
図7は、画像処理装置20の動作を示すフローチャートである。なお、
図7に示すステップS10〜S13は、実施の形態1と同様である。
【0079】
ステップS13に続くステップS21において、補正画像生成部211は、画像入力部11から出力された各画像の補正画像を生成する。より詳細には、補正画像生成部211は、画像入力部11から出力された各画像に対し、補正部141において複数種類のシェーディング補正を施すことにより生成された複数の画像のうちから、シェーディング補正特性決定部143により決定されたシェーディング補正が施された画像を補正画像として選択する。
【0080】
続くステップS22において、画像合成部212は、補正画像生成部211により生成された視野が異なる複数の補正画像を、対応する重複領域同士が重なるように位置合わせをして貼り合わせることにより、合成画像を生成する。
【0081】
続くステップS23において、演算部21は、画像合成部212により生成された合成画像を出力する。これに応じて、制御部16は、出力された合成画像を出力部15から出力して表示装置に表示させると共に、該合成画像を記憶部13に記憶させる。
その後、画像処理装置20の動作は終了する。
【0082】
以上説明したように、実施の形態2によれば、重複領域に対してなされた種類が異なるシェーディング補正の結果の差異を評価するので、該評価の結果に基づいて、入力された画像のシェーディング補正に最適なシェーディング補正特性を決定することができる。そのため、このシェーディング補正特性を用いることにより、被写体により異なるシェーディング特性に応じて、高精度なシェーディング補正がなされた補正画像を生成することができる。従って、そのような補正画像同士を貼り合わせることにより、シェーディングの影響が高精度に除去された広視野且つ高精細の合成画像を生成することが可能となる。
【0083】
(変形例2)
上記実施の形態2においては、画像合成部212により生成された合成画像を出力することとしたが、補正画像生成部211により生成された補正画像を単独で(別の補正画像と貼り合わせることなく)出力しても良い。この場合、補正画像生成部211は、共通する重複領域を含む全ての画像を補正する必要はなく、例えばユーザにより入力部12を介して入力された情報に従って、必要な画像のみを補正しても良い。この場合、ユーザは、被写体によって特性が異なるシェーディングの影響が高精度に除去された所望の画像を取得することができる。
【0084】
(実施の形態3)
次に、本発明の実施の形態3について説明する。
図8は、本発明の実施の形態3に係る画像処理装置を示すブロック図である。なお、本実施の形態3に係る顕微鏡システム全体の構成は、画像処理装置10を除いて、
図1に示すものと同様である。
【0085】
図8に示すように、実施の形態3に係る画像処理装置30は、
図1に示す演算部14の代わりに演算部31を備える。演算部31以外の画像処理装置30の各部の構成及び動作は、実施の形態1と同様である。
【0086】
演算部31は、
図6に示す補正画像生成部211の代わりに、補正画像生成部311を備える。補正画像生成部311以外の演算部31の各部の動作は、実施の形態2と同様である。補正画像生成部311は、被写体Sに対する視野をずらして撮像された複数の画像の各々に対し、シェーディング補正特性決定部143により決定されたシェーディング補正特性が施された補正画像を生成する。より詳細には、補正画像生成部311は、補正部141において、各画像の重複領域のみにシェーディング補正が行われた場合に、画像入力部11から出力された画像を取り込むと共に、シェーディング補正特性決定部143により決定されたシェーディング補正特性をシェーディング補正特性記憶部133から読み出し、取り込んだ画像に対してシェーディング補正を施す。
【0087】
本実施の形態3によれば、補正部141において重複領域のみに対してシェーディング補正を施すので、入力された画像のシェーディング補正に最適なシェーディング補正特性を高速に決定することができる。従って、被写体によって特性が異なるシェーディングの影響が高精度に除去された補正画像及び合成画像を高速に生成することが可能となる。
【0088】
(実施の形態4)
次に、本発明の実施の形態4について説明する。
図9は、本発明の実施の形態4に係る画像処理装置を示すブロック図である。なお、本実施の形態4に係る顕微鏡システム全体の構成は、画像処理装置10を除いて、
図1に示すものと同様である。
【0089】
図9に示すように、実施の形態4に係る画像処理装置40は、
図1に示す演算部14の代わりに演算部41を備える。演算部41以外の画像処理装置40の各部の構成及び動作は、実施の形態1と同様である。
【0090】
演算部41は、シェーディング特徴値算出部411と、評価値算出部412と、シェーディング補正特性決定部413とを備える。このうち、シェーディング特徴値算出部411は、顕微鏡装置2において被写体Sに対する視野をずらして撮像された複数の画像間の重複領域に発生しているシェーディング特性の特徴を表す値(特徴値)を算出する。
【0091】
評価値算出部412は、複数の画像間において互いに対応する重複領域内の画素の特性に基づく評価値として、シェーディング特徴値算出部411により算出された特徴値と、当該重複領域に対し、シェーディング補正特性記憶部133に記憶された各シェーディング補正特定が補正対象として想定するシェーディング特性の特徴値との差異を表す量を算出する。
【0092】
シェーディング補正特性決定部413は、評価値算出部412が算出した評価値とシェーディング補正特性記憶部133に記憶された複数種類のシェーディング補正特性とに基づいて、演算部14に入力された画像に対するシェーディング補正に適合するシェーディング補正特性を決定する。
【0093】
次に、画像処理装置40の動作を説明する。
図10は、画像処理装置40の動作を示すフローチャートである。なお、
図10に示すステップS40は、
図3に示すステップS10と対応している。
【0094】
ステップS40に続くステップS41において、シェーディング特徴値算出部411は、画像データの関連情報(標本ステージ103の位置情報)に基づいて、隣り合う画像間で互いに対応する重複領域を抽出し、各重複領域に発生しているシェーディング特性の特徴値を算出する。
図11Aは、ステップS41におけるシェーディング特性の特徴値の算出方法を説明するための模式図である。
【0095】
図11Aに示すように、画像M1側の重複領域D1内の座標(x,y)における画素の画素値(又は輝度値)をT
1(x,y)、当該画素位置における本来の画素値(又は輝度値)をI(x,y)、当該画素位置におけるシェーディング特性をS
1(x,y)とすると、画素値T
1(x,y)は、次式(3)によって与えられる。
T
1(x,y)=I(x,y)×S
1(x,y) …(3)
【0096】
同様に、画像M2側の重複領域D2内の座標(x,y)における画素の画素値をT
2(x,y)、当該画素位置における本来の画素値をI(x,y)、当該画素位置におけるシェーディング特性をS
2(x,y)とすると、画素値T
2(x,y)は、次式(4)によって与えられる。
T
2(x,y)=I(x,y)×S
2(x,y) …(4)
【0097】
ここで、本来の画素値とは、シェーディングが発生していないと仮定した場合の画素値のことであり、式(3)、(4)において画素値I(x,y)は同じ値となる。そのため、式(3)及び(4)から、重複領域D1におけるシェーディング特性S
1(x,y)と重複領域D2におけるシェーディング特性S
2(x,y)との比R(x,y)は、次式(5)によって与えられる。
R(x,y)=S
1(x,y)/S
2(x,y)
=T
1(x,y)/T
2(x,y) …(5)
この比R(x,y)が、重複領域D1、D2に発生しているシェーディング特性の特徴を表す特徴値である。
【0098】
続くステップS42において、評価値算出部412は、重複領域に対し、シェーディング補正特性記憶部133に記憶された各シェーディング補正特性が補正対象として想定するシェーディング特性の特徴値を算出する。
図11Bは、ステップS42におけるシェーディング特性の特徴値の算出方法を説明するための模式図である。
【0099】
図11Bに示すように、評価値算出部412はまず、シェーディング補正特性記憶部133に記憶されたシェーディング補正特性ごとに、
図11Aに示す重複領域D1、D2内の座標(x,y)に相当する位置におけるシェーディング補正特性G
1(x,y)、G
2(x,y)を取得する。ここで、シェーディング補正特性とシェーディング特性とは逆数の関係にあることから、これらの位置におけるシェーディング補正特性G
1(x,y)、G
2(x,y)が補正対象として想定するシェーディング特性は、1/G
1(x,y)、1/G
2(x,y)である。
【0100】
評価値算出部412は、このシェーディング特性の比(1/G
1(x,y))/(1/G
2(x,y))=G
2(x,y)/G
1(x,y)を、当該シェーディング補正特性Aが補正対象として想定するシェーディング特性の特徴値として算出する。
【0101】
評価値算出部412は、このような特徴値を、シェーディング補正特性A、B、…の各々について算出する。以下、各シェーディング補正特性A、B、…について算出された特徴値を、R
(A)(x,y)、R
(B)(x,y)、…と記す。
【0102】
続くステップS43において、評価値算出部412は、重複領域に生じているシェーディング特性の特徴値と、該重複領域に対して各シェーディング補正特性が補正対象として想定するシェーディング特性の特徴値とを比較した結果を評価値として算出する。
【0103】
具体的には、評価値算出部412は、次式(6)に示すように、ステップS41において算出されたシェーディング特性の特徴値R(x,y)と、ステップS42において算出されたシェーディング特性の特徴値R
(A)(x,y)との差分を、重複領域内の全画素について算出し、これらの差分の絶対値和を、シェーディング補正特性Aについての評価値E(A)’とする。
E(A)’=Σ|R(x,y)−R
(A)(x,y)| …(6)
【0104】
或いは、評価値算出部412は、特徴値R(x,y)と特徴値R
(A)(x,y)との差分の2乗和を評価値E(A)’として算出しても良い。
評価値算出部412は、他のシェーディング補正特性B等についても同様にして、評価値E(B)’等を算出する。
【0105】
なお、画像M1、M2間で複数組の重複領域を設定した場合には、重複領域ごとに上記評価値E(A)’、E(B)’を算出した後、重複領域ごとに算出された評価値をシェーディング補正特性ごとに合算した値が、最終的な評価値として用いられる。
【0106】
続くステップS44において、シェーディング補正特性決定部413は、ステップS43において算出された評価値に基づいて、シェーディング補正特性を決定する。ここで、シェーディング補正特性A、B、…が補正対象として想定するシェーディング特性が、画像M1、M2に実際に生じていたシェーディング特性と近いほど、評価値E(A)’、E(B)’、…は小さくなる。即ち、評価値E(A)’、E(B)’、…が小さいシェーディング補正特性ほど、被写体Sが写った画像のシェーディング補正に、より適合していると言える。
【0107】
そこで、シェーディング補正特性決定部413は、複数種類のシェーディング補正特性A、B、…のうち、評価値E(A)’、E(B)’、…が最も小さいシェーディング補正特性を、画像M1、M2の補正に使用するシェーディング補正特性として選択する。或いは、シェーディング補正特性決定部413は、上述した変形例1と同様に、シェーディング補正特性A、B、…を評価値の逆数1/E(A)’、1/E(B)’、…を重みとして加重平均することにより、画像M1、M2の補正に使用するシェーディング補正特性を算出しても良い。
【0108】
続くステップS45において、演算部41は、ステップS44における決定結果(シェーディング補正特性)を出力する。これに応じて、制御部16は、出力された結果を出力部15から出力して表示装置に表示させると共に、該決定結果を記憶部13に記憶させる。この際、制御部16は、シェーディング補正特性の決定結果を画像M1、M2と関連付けて記憶させても良いし、被写体Sの種類(例えば、生体組織や臓器の種類等)と関連付けて記憶させても良い。
その後、画像処理装置40の動作は終了する。
【0109】
以上説明したように、実施の形態4によれば、重複領域に生じているシェーディング特性と、各シェーディング補正特性が補正対象として想定するシェーディング特性との差異を評価するので、該評価の結果に基づいて、入力された画像のシェーディング補正に最適なシェーディング補正特性を決定することができる。従って、被写体により異なるシェーディング特性に応じて画像を高精度にシェーディング補正可能なシェーディング補正特性を取得することができる。
【0110】
また、実施の形態4においては、重複領域D1、D2に対するシェーディング補正を実行しないので、実施の形態1よりも演算量を抑制しつつ、入力された画像のシェーディング補正に最適なシェーディング補正特性を決定することができる。
【0111】
(実施の形態5)
次に、本発明の実施の形態5について説明する。
図12は、本発明の実施の形態5に係る画像処理装置を示すブロック図である。なお、本実施の形態5に係る顕微鏡システム全体の構成は、画像処理装置10を除いて、
図1に示すものと同様である。
【0112】
図12に示すように、実施の形態5に係る画像処理装置50は、
図9に示す記憶部13及び演算部14の代わりに、記憶部51及び演算部52を備える。記憶部51及び演算部52以外の画像処理装置50の各部の構成及び動作は、実施の形態4と同様である。
【0113】
記憶部51は、
図9に示す記憶部13に対し、シェーディング特徴値記憶部511をさらに備える。また、演算部52は、
図9に示す評価値算出部412の代わりに評価値算出部521を備える。
【0114】
ここで、制御部16の制御の下で動作する顕微鏡装置2(
図2参照)においては、被写体Sに対する視野をずらしつつ順次撮像を行う際に、隣り合う画像間における重複領域の位置や大きさを予め設定し、該設定に従い、ステージ位置変更部104に対して標本ステージ103を移動させる移動量及び移動方向を高精度に制御することが可能である。このような制御は、例えば、取得した画像を貼り合わせることにより広視野且つ高精度な合成画像(所謂バーチャルスライド)を作成する際に行われる。
【0115】
そこで、実施の形態5においては、隣り合う画像間における重複領域を予め設定し、シェーディング補正特性記憶部133に記憶されたシェーディング補正特性A、B、…が補正対象として想定するシェーディング特性の各画素位置における特徴値R
(A)(x,y)、R
(B)(x,y)、…(
図11Bに示すシェーディング特性の比G
2(x,y)/G
1(x,y))をそれぞれ算出しておく。シェーディング特徴値記憶部511は、このように予め算出された特徴値R
(A)(x,y)、R
(B)(x,y)、…が記録されたテーブルを記憶している。
【0116】
評価値算出部521は、複数の画像間において互いに対応する重複領域内の画素の特性に基づく評価値として、シェーディング特徴値算出部411において算出された特徴値と、シェーディング特徴値記憶部511に記憶された特徴値R
(A)(x,y)、R
(B)(x,y)、…との差異を表す量を算出する。
【0117】
次に、画像処理装置50の動作を説明する。
図13は、画像処理装置50の動作を示すフローチャートである。なお、
図13に示すステップS40、S41は、実施の形態4と同様である。
【0118】
ステップS41に続くステップS51において、評価値算出部521は、重複領域の位置において、シェーディング補正特性記憶部133に記憶された各シェーディング補正特性A、B、…が補正対象として想定するシェーディング特性の特徴値R
(A)(x,y)、R
(B)(x,y)、…を、シェーディング特徴値記憶部511から取得する。
続くステップS43〜S45は、実施の形態4と同様である。
【0119】
以上説明したように、実施の形態5によれば、重複領域に生じているシェーディング特性と、各シェーディング補正特性が補正対象として想定するシェーディング特性との差異を評価する際に、予め記憶部13に記憶された特徴値を用いるので、被写体により異なるシェーディング特性に応じて画像を高精度にシェーディング補正可能なシェーディング補正特性を、演算量を抑えつつ高速に決定することができる。
【0120】
(実施の形態6)
次に本発明の実施の形態6について説明する。
図14は、本発明の実施の形態6に係る画像処理装置を示すブロック図である。なお、本実施の形態6に係る顕微鏡システム全体の構成は、画像処理装置10を除いて、
図1に示すものと同様である。
【0121】
図14に示すように、実施の形態6に係る画像処理装置60は、
図1に示す演算部14の代わりに、演算部61を備える。演算部61以外の画像処理装置60の各部の構成及び動作は、実施の形態1と同様である。
【0122】
演算部61は、シェーディング特徴値算出部411と、評価値算出部412と、シェーディング補正特性決定部413と、補正画像生成部611と、画像合成部612とを備える。このうち、シェーディング特徴値算出部411、評価値算出部412及びシェーディング補正特性決定部413の動作は、実施の形態4と同様である。
【0123】
補正画像生成部611は、被写体Sに対する視野をずらして撮像された複数の画像の各々に対し、シェーディング補正特性決定部413により決定されたシェーディング補正特性を施すことにより補正画像を生成する。
【0124】
画像合成部612は、補正画像生成部611により生成された補正画像を貼り合わせることにより、被写体Sが写った広視野且つ高精細な合成画像を生成する。
【0125】
次に、本発明の画像処理装置60の動作を説明する。
図15は、画像処理装置60の動作を示すフローチャートである。なお、
図15に示すステップS40〜S44は、実施の形態4と同様である。
【0126】
ステップS44に続くステップS61において、補正画像生成部611は、画像入力部11から出力された各画像の補正画像を生成する。より詳細には、補正画像生成部611は、画像入力部11から出力された画像を取り込むと共に、シェーディング補正特性決定部413により決定されたシェーディング補正特性をシェーディング補正特性記憶部133から読み出し、取り込んだ画像に対して、該シェーディング補正特性を用いてシェーディング補正を施す。
【0127】
続くステップS62において、画像合成部612は、補正画像生成部611により生成された複数の補正画像を、対応する重複領域同士が重なるように位置合わせをして貼り合わせることにより、合成画像を生成する。
【0128】
続くステップS63において、演算部61は、画像合成部612により生成された合成画像を出力する。これに応じて、制御部16は、出力された合成画像を出力部15から出力して表示装置に表示させると共に、該合成画像を記憶部13に記憶させる。
その後、画像処理装置60の動作は終了する。
【0129】
以上説明したように、実施の形態6によれば、重複領域に生じているシェーディング特性と、各シェーディング補正特性が補正対象として想定するシェーディング特性との差異を評価するので、該評価の結果に基づいて、入力された画像のシェーディング補正に最適なシェーディング補正特性を決定することができる。そのため、このシェーディング補正特性を用いることにより、被写体により異なるシェーディング特性に応じて、高精度なシェーディング補正がなされた補正画像を生成することができる。従って、そのような補正画像同士を貼り合わせることにより、シェーディングの影響が高精度に除去された広視野且つ高精細の合成画像を生成することが可能となる。
【0130】
(変形例6−1)
上記実施の形態6においては、画像合成部612により生成された合成画像を出力することとしたが、補正画像生成部611により生成された補正画像を単独で(別の補正画像と貼り合わせることなく)出力しても良い。この場合、補正画像生成部611は、共通する重複領域を含む全ての画像を補正する必要はなく、例えばユーザにより入力部12を介して入力された情報に従って、必要な画像のみを補正しても良い。この場合、ユーザは、シェーディングが高精度に補正された所望の画像を取得することができる。
【0131】
(変形例6−2)
上記実施の形態6において説明した補正画像生成部611及び画像合成部612を、実施の形態5において説明した演算部52に設けても良い。この場合、シェーディング補正特性を決定する際の演算量を抑制しつつ高速に、補正画像及び合成画像を生成することが可能となる。
【0132】
本発明は、上述した各実施の形態1〜6及び変形例そのままに限定されるものではなく、各実施の形態1〜6及び変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、実施の形態1〜6及び変形例に示される全構成要素からいくつかの構成要素を除外して形成してもよい。或いは、異なる実施の形態に示した構成要素を適宜組み合わせて形成してもよい。