(58)【調査した分野】(Int.Cl.,DB名)
前記呈色反応検出システムが前記分析キットにおける検体の前記被検出対象物質の呈色反応により生成された領域を検出することにより、前記被検出対象物質を検出するものであり、
前記撮像画像データが前記分析キットにおける前記呈色反応が現出する前記呈色反応出現領域を含む観察対象面を撮像した画像データであり、
前記参照パターンが前記呈色反応が現出する前記領域の検査結果を判定するパターンであり、
類似度算出部が、前記呈色反応出現領域の領域の呈色反応パターンと、前記参照撮像画像データの参照パターンとを比較する
ことを特徴とする請求項1に記載の呈色反応検出システム。
前記撮像画像データの前記観察角度が予め設定の観察角度範囲内に含まれるか否かの判定を行い、前記観察角度が前記観察角度範囲内に含まれていない場合、再度、観察角度を変えて撮像画像を撮像することを促す通知を行う撮像制御部をさらに備える
ことを特徴とする請求項1または請求項2に記載の呈色反応検出システム。
前記撮像画像データにおける前記分析キットの色見補正用パッチと、予め前記参照画像データを撮像したと同様の光源下で撮像した色見用パッチとの色見を比較し、前記撮像画像データの色見補正用パッチが前記参照画像の色見用パッチと同様となるように、前記撮像画像データの色味を調整する露光制御部をさらに備える
ことを特徴とする請求項3または請求項4に記載の呈色反応検出システム。
【発明を実施するための形態】
【0023】
<第1の実施形態>
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、本発明の第1の実施形態による呈色反応検出システムの構成例を示すブロック図である。
図1において、呈色反応検出システム1は、撮像部101、露光制御部102、観察角度算出部103、撮像制御部104、画像変換部105、類似度算出部106、呈色反応検出部107、表示部108及び画像データ記憶部109の各々を備えている。
【0024】
撮像部101は、例えば、CCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを用いたデジタルカメラ、あるいは携帯端末に備えられた撮像装置などであり、対象物を撮像して撮像画像データを出力する。第1の実施形態において、撮像画像データとしては、例えば白黒のようなモノトーンの画像を対象としている。
【0025】
ここで、撮像部101は、汎用デジタルカメラの通常の明るさ感度分解能がそれほど高くない。汎用デジタルカメラは、撮像画像データの各々の画素が例えば、明るさ感度分解能が0から255階調度の256階調で記録される。このため、分析キットにおいて、デンシトメトリー分析法を実施するために必要な階調度を有する撮像画像データを取得する場合、一枚の撮像画像データのみでは不可能である。
このため、汎用デジタルカメラで明るさ感度分解能を疑似的に高くする手法として、露光制御部102の制御によりシャッタースピードなどを変え、複数の露光条件の異なる撮像画像データを撮像し、この複数の撮像画像データ合成して用いる手法がある。その手法の一例としては、良く知られている手法の一つである、P.DebevecによるHDR合成手法(Paul E. Debevec and Jitendra Malik. Recovering High Dynamic Range Radiance Maps from Photographs. In SIGGRAPH 97, August 1997)を適用することができる。
【0026】
撮像制御部104は、撮像部101が分析キットの撮像画像である撮像画像データを撮像する際、焦点深度、撮像素子の感度(ISO(International Organization for Standardization)感度)などの撮像部101の撮像条件を、予め設定された数値に制御する。
【0027】
露光制御部102は、露光の撮像の条件として、シャッタースピード、絞り値、照明光の有無、照明光の強度などの撮像部101の撮像条件を制御する。また、露光制御部102は、呈色反応検出システム1の撮像する呈色反応出現領域(分析キット)の周囲の明るさに対応し、撮像時において必要に応じてフラッシュ光源のような照明光の点灯指示を、図示しない照明部に対して出力する。
【0028】
図2は、本実施形態における呈色反応検出システムの解析対象の分析キットの一例であるイムノクロマトグラフィー法を用いた分析キットの外観を示す図である。本実施形態が検出対象とする分析キットは、例えば、
図2に示す外観を有する分析キット容器900である。分析キット容器900は、観察対象面901と滴下部903とを備えている。観察対象面901は、呈色反応出現領域902と標識抗体反応部904とを備えている。標識抗体反応部904は、滴下部903に滴下された検体に含まれる被検出対象物質(抗原)を標識する標識抗体が存在する領域である。標識抗体反応部904において、標識抗体の各々に対応する被検出対象物に対し、それぞれ標識抗体が反応して結合して免疫複合体となる。本実施形態においては、呈色反応出現領域902における呈色反応領域をライン上の領域とする。この免疫複合体は、観察対象面901における呈色反応出現領域902を移動し、テストライン905、906、907及び908などを経由し、コントロールライン909に到達する。コントロールライン909は、検体が全てのテストラインを通過したことを、通知するために設けられている。このコントロールラインは、ここで検体の移動が停止し、呈色反応を示すことで、検査の終了をユーザに対して通知する。
【0029】
テストライン905、906、907及び908の各々は、それぞれ異なる被検出対象物質に対するキャプチャー抗体が固定されている領域である。このキャプチャー抗体に対応する被検出対象物質は、そのテストラインにおいてキャプチャー抗体に結合して(抗原抗体反応により結合して)固定される。これにより、検体に被検出対象物質が存在すれば、その被検出対象物に対応するキャプチャー抗体のあるテストラインは、標識抗体に標識として付与されている金属コロイド(発色体)による呈色反応により、所定の色のラインとして発色することで認識される。
【0030】
例えば、テストライン906及び907の各々は、検体にそれぞれのキャプチャー抗体に対応する被検出対象物が含まれていたため、呈色反応により呈色反応ラインのパターンが生じる。ここで、呈色反応ラインとは、テストラインのキャプチャー抗体に対し、このキャプチャー抗体に対応する被検出物質(すなわち免疫複合体)が結合し、呈色したラインを示している。一方、テストライン905及び908の各々は、検体にそれぞれのキャプチャー抗体に対応する被検出対象物が含まれていないため、呈色反応によるラインのパターンは生じない。
本実施形態による呈色反応検出システム1は、上述した呈色反応により呈色反応ライン、また呈色反応を起こさないテストラインとで形成される呈色反応パターンを、予め検査の結果を示す参照パターン群の各々とを比較し、合致する参照パターンに対応する検査結果を、検体の検査結果としている。
【0031】
観察角度算出部103は、呈色反応出現領域(
図2における呈色反応出現領域902)の撮像画像データが撮像された3次元空間において、撮像を行った位置である観察位置(座標値)及び撮像部101の撮像方向の各々を座標変換式(後述)から求める。ここで、観察位置は、3次元空間を示す3次元座標系における座標値を示している。すなわち、観察角度算出部103は、求めた観察位置及び撮像方向から、各撮像画像データにおける呈色反応出現領域902(すなわち、分析キット900の観察対象面901)の観察角度(あるいは撮像角度)を求める。
【0032】
本実施形態においては、予め設定された所定の焦点距離にて、撮像画像データを撮像部101により呈色反応出現領域902を含む呈色反応出現領域902を撮像し(以下、呈色反応出現領域902を撮像とする)、撮像画像データとする。
観察角度算出部103は、この撮像画像データから、上述したように、予め設定された座標変換式を用いることにより、3次元空間における呈色反応出現領域902を撮像した撮像画像データの観察角度を推定している。
【0033】
上述した観察角度を求める座標変換式は、分析キットに設けられた呈色反応出現領域902に対する呈色反応検出を行う前処理(呈色反応検出を行う準備)に用いられる。この前処理は、予め複数枚の撮像画像データ(後述するキャリブレーションボードを撮像した撮像画像データ)から3次元空間を再生した際、複数の撮像画像データの2次元座標における画素の位置と3次元空間における座標位置とを対応付ける際に生成される式である。予め生成された座標変換式は、画像データ記憶部109に対して、予め呈色反応検出対象毎に書き込んで記憶されている。ここで、呈色反応検出対象とは、分析キットの種類を示している。分析キットの分析キット容器900の形状が異なる場合、それぞれの容器形状により生成した座標変換式を準備する必要がある。
【0034】
図3は、呈色反応出現領域を撮像する際の撮像部101の観察角度を説明する図である。
図3において、滴下部903から検体が滴下され、クロマトグラフィーの原理により、検体が滴下部903からコントロールライン907の方向に向かって、呈色反応出現領域902内を移動する。この検体中に被検出対象物があれば、標識抗体反応部(不図示)において標識抗体が結合されて免疫複合体を生成する。そして、呈色反応出現領域902内の特定の箇所(テストライン)のキャプチャー抗体に結合することにより、標識抗体の標識物質により呈色反応が発生することによる呈色反応ラインが観察される。
【0035】
法線400は、撮像画像データの撮像方向の観察角度を示すための基準線であり、呈色反応出現領域902の表面の面方向を示す法線である。観察角度αは、撮像部101の撮像方向101Aと法線400とのなす角度である。
ここで、例えば、観察角度算出部103は、法線400に平行な方向をz軸とし、呈色反応出現領域902の辺の各々がx軸及びy軸の各々と平行となるように、分析キットを3次元座標系において配置する。例えば、分析キット容器900の各辺により形成される頂点のいずれかが、3次元座標系の原点Oと一致するように、3次元座標系において、分析キット500をx軸及びy軸からなる2次元平面に配置する。このため、分析キット容器900の厚さ方向がz軸に対して平行となる。この分析キット容器900の3次元形状は、予め既知の情報として、すでに述べた座標変換の式とともに、画像データ記憶部109に対して記憶されている。
【0036】
図1に戻り、観察角度算出部103は、撮像画像データの観察角度を求める際、3次元座標系における分析キット容器900の3次元形状の各座標と、撮像画像データ(2次元座標系)の各画素(座標)とを、上記座標変換式により対応付ける。そして、観察角度算出部103は、上記対応付けにより、3次元空間の3次元座標系における撮像画像データの撮像位置と、この撮像位置からの撮像画像データの撮像方向を求める。このとき、観察角度算出部103は、すでに述べたように、3次元座標系において呈色反応出現領域902の3次元形状のいずれかの頂点を原点とし、法線400がz軸と平行となり、各辺がx軸またはy軸と平行となるように、分析キット容器900上に3次元空間を規定する。
【0037】
そして、観察角度算出部103は、この分析キット容器900の3次元形状を基準として、3次元座標系における撮像部101の撮像画像データの撮像位置、及び撮像方向を求める。これにより、観察角度算出部103は、法線400と撮像部101の撮像方向101Aとの成す観察角度αを求める。
【0038】
本実施形態においては、事前に撮像部101に対してカメラキャリブレーション(カメラ較正)が行われていることが前提として必要である。このカメラキャリブレーションとは、予め三次元形状が既知なキャリブレーションボードを撮像領域内で一回あるいは複数回撮像し、撮像された一枚あるいは複数の撮像画像データを用いて三次元空間の三次元座標系における座標点と、撮像画像データの2次元座標系における座標点(二次元ピクセル)の複数の座標点の対応を取る。これにより、撮像部101とキャリブレーションボードとの相対位置関係(以下、外部パラメタ)を示す上記座標変換式と、撮像部101の光学中心や各画素(2次元ピクセル)における光線入射方向ベクトル、レンズ歪みなど(以下、撮像部101の内部パラメタ)を推定する。
【0039】
ここで、本実施形態においては、後述する観察角度算出部103が撮像画像データの観察角度を推定するため、予め撮像部101で撮像した複数の異なる視点方向からキャリブレーションボードを撮像した2次元画像から、すなわち多視点の撮像画像データからグローバル座標系(3次元座標系)を再構成する。そして、同一ピクセルにおける再構成した3次元座標系における座標点と、撮像部101が撮像した撮像画像データの2次元座標系における座標点との対応関係を示す座標変換式(撮像部10の内部パラメータにより求めた変換式)を、カメラキャリブレーション時に求めておく。
【0040】
上述したように、本実施形態において、観察角度の推定は、事前に撮像部101に対してカメラキャリブレーション(カメラ較正)が行われることにより、検出システムにおける呈色反応検出処理の実行時に撮像部101の内部パラメタが既知であり、かつ分析キット容器900及び呈色反応出現領域902の三次元形状が既知であることが前提である。これにより、呈色反応出現領域902の撮像画像データを撮像し、上記座標変換式によって三次元座標系における座標点と撮像画像データの二次元座標系のピクセルとの複数の対応点情報を得て、この対応点座標から撮像部101と呈色反応出現領域902との相対位置関係を推定できる。すなわち、呈色反応出現領域902を撮像した際における、三次元座標系における撮像部101の観察位置及び観察角度(撮像方向)が推定できる。
【0041】
本実施形態において、例えばカメラキャリブレーションとしては、良く知られている手法の一つである、Z.Zhangによる解析手法(Z.Zhang, "A flexible new technique for camera calibration", IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.22, No.11, pages 1330-1334, 2000)を適用して、撮像画像データを撮像した際の観察角度を推定することができる。ただし、上記Z.Zhangによる解析手法を適用して観察角度の推定を行う場合、検出システムに入力する撮像画像データは、カメラキャリブレーション時に固定された焦点と同様の焦点(望ましくは同一の焦点)で撮像された画像データである必要がある。
【0042】
画像変換部105は、呈色反応出現領域902の撮像画像データにおける呈色反応パターンと、予め登録された呈色反応出現領域902に現れる全ての呈色反応のパターン(参照パターン群)を比較するため、撮像画像データの正規化を行う。撮像画像データ中の呈色反応出現領域902上では全ての三次元座標が既知のため、参照パターン群が撮像された際の外部パラメタ、内部パラメタを用いて呈色反応出現領域902上の全ての三次元座標を再投影すれば、参照パターン群と同じ座標系で呈色反応出現領域902における呈色反応パターンを比較することができる。すなわち、画像変換部105は、求められた撮像角度αに基づき、撮像画像データの呈色反応出現領域902を、検査結果を判定するラインの参照パターンが示された参照撮像画像データにおける参照呈色反応出現領域の面と平行かつ重なり合う検出用撮像画像データに変換する。この検出用撮像画像データは、三次元座標系において、参照撮像画像データと同様の撮像位置及び撮像角度から撮像した画像に変換したものである。
【0043】
類似度算出部106は、呈色反応出現領域902の撮像画像データと、予め画像データ記憶部109に登録された参照パターン群のデータを順次参照し、類似度を算出する。これらの画像は画像変換部105によって正規化されているので、類似度算出部106は、呈色反応出現領域902上の全ての画素についてテンプレートマッチングを行い、それにより得られたスコアを類似度とする。ここで、類似度算出部106は、テンプレートマッチングが行う際、例えば、撮像画像データの呈色反応出現領域902の画像データと参照パターン群の画像データとの各々において対応する画素毎の輝度値の平均二乗誤差を求める。そして、類似度算出部106は、上記平均二乗誤差を全ての画素(ピクセル)あるいは一部の対応する画素において加算し、この加算結果を類似度を示す数値として出力する。したがって、類似度の数値が低いほど、撮像画像データと参照パターン群のデータとは類似している。
【0044】
図4は、画像データ記憶部109に予め記憶されている参照パターンと検査結果との対応を示すテーブルの構成例を示す図である。
図4(a)は、参照パターン識別情報と参照パターン画像インデックスとの対応を示す参照パターンテーブルの構成例である。参照パターン識別情報は、参照パターン個々を識別する識別情報である。参照パターン画像インデックスは、画像データ記憶部109における参照パターンの画像が記憶されているアドレスを示している。
図4(b)は、参照パターン識別情報と参照パターンの示す検査結果との対応を示す検査結果テーブルの構成例である。検査結果は、呈色反応ラインのテストラインのキャプチャ抗体に結合された被検出対象物に対応する検査の結果を示している。
図4(c)は、参照パターン識別情報と参照パターンの示す検査結果との対応を示す類似度テーブルの構成例である。類似度は、検出用撮像画像データにおける呈色反応パターンと、各参照パターンとの類似の度合いを示している。
【0045】
図1に戻り、類似度算出部106は、画像データ記憶部109における参照パターンテーブルを参照し、順次、参照パターン画像インデックスを読み出す。そして、類似度算出部106は、参照パターン画像インデックスにより、画像データ記憶部109から参照パターンの画像を読み出す。そして、類似度算出部106は、画像データ記憶部109から順次読み出す参照パターンと、検出用撮像画像データにおける呈色反応パターンとの類似度を求め、求めた類似度を、画像データ記憶部109における類似度テーブルにおいて、それぞれ対応する参照パターンの参照パターン識別情報の類似度の欄に書き込んで記憶させる。
【0046】
呈色反応検出部107は、画像データ記憶部109に記憶されている類似度テーブルを参照し、この類似度テーブルから、参照パターン群の全てに対応する検出用撮像画像データの呈色反応パターンとの類似度を読み出す。
そして、呈色反応検出部107は、読み出した全ての参照パターン群の類似度各々と、予め設定されている類似閾値と比較し、類似閾値を下回るものの中で最も類似度が低い(最も類似している)参照パターンを選択する。
【0047】
この類似閾値は、呈色反応出現領域の撮像画像が参照パターン群の画像のうちいずれかと一致することを保証する値であり、参照パターン群の各画像データと、それに対応する撮像画像データの間で計算される類似度を目安に設定される。検出用撮像画像データの呈色反応パターンに対し、参照パターン群の画像データの内で最も一致するものは、それ以外の画像データに比べて類似度の差が顕著となると考えられる。したがって、類似度が類似閾値を下回る参照パターンは、参照パターン群において通常ただ一つである。
また、類似閾値を下回るものが複数あった場合、呈色反応検出部107は、その中で最も類似度の低い参照パターンを選択する。そして、呈色反応検出部107は、画像データ記憶部109に記憶されている検査結果テーブルを参照し、選択した参照パターンの参照パターン識別情報に対応する検査結果を抽出する。
【0048】
表示部108は、表示する液晶ディスプレイなどの表示装置であり、呈色反応検出部107が抽出した検査結果を表示画面に表示する。あるいは、図示しないプリンタなどの印刷装置から、呈色反応検出部107が抽出した検査結果を出力するように構成しても良い。
【0049】
また、撮像制御部104は、撮像時において、呈色反応出現領域902を撮像する際の観察角度が予め設定された角度範囲に入っているか否かの判定を行う。ここで、角度範囲とは、画像変換部105が画像変換した際、呈色反応パターンにおいて呈色反応検出が可能な情報量を保持しうる撮像画像データが撮像できる観察角度の範囲を示している。例えば、呈色反応出現領域902の法線400に対して、観察方向がほぼ直交するような観察角度α(すなわち、α=90°あるいは270°)で撮影をすると、撮像画像データにおける呈色反応出現領域902の画像の画素が非常に少なくなり、呈色反応ラインが不鮮明となり呈色反応検出を精度よく行うことができなくなる。
【0050】
このため、撮像制御部104は、撮像部101の撮像画像データの撮像方向である観察角度を、観察角度算出部103に対して推定させる。
そして、撮像制御部104は、観察角度算出部103が推定した観察角度が角度範囲に入っている場合、撮像処理における角度条件を満たし、一方、推定された観察角度が角度範囲に入っていない場合、撮像処理における角度条件を満たさないとする表示を表示部108の表示画面に表示し、ユーザに対して角度範囲の観察角度に調整することを促す。このとき、撮像制御部104は、表示部108の表示画面に上下左右に少し動かすことを通知する表示を行う。あるいは、撮像制御部104は、撮像部101を撮像する際、表示部108に対して、表示画面に角度範囲に入る観察角度となるように、分析キット容器900の画像の形状に合わせた枠を表示する。
【0051】
また、撮像制御部104は、撮像する際に、画像データ記憶部109に記憶されている参照パターン群の画像データに対し、撮像部101が比較可能品質を有する撮像画像データを撮像する撮像条件を満足しているか否かの判定を行う。また、撮像条件における露光条件に対して、照明(たとえばフラッシュ光源)の有無あるいは照明の強度を必要に応じて加える構成としても良い。
【0052】
また、撮像制御部104は、撮像条件として、撮像部101における露光条件を設定する際、輝度ヒストグラムを生成する。撮像制御部104は、各画素の階調度の分布を示すものであり、撮像画像データにおける階調度の分布が高階調度側あるいは低階調度側に偏っていないか否かの判定において、生成した輝度ヒストグラムを用いている。例えば、輝度ヒストグラムにおける階調度の分布が低階調度側に偏っている場合、すなわち、階調度が「0」から「255」の256段階で表現されており、撮像画像データにおける階調度「0」近傍の画素が多い場合、撮像画像データに黒つぶれが発生して正解画像データとの比較が行えなくなる。一方、輝度ヒストグラムにおける階調度の分布が高階調度側に偏っている場合、すなわち撮像画像データにおける階調度「255」近傍の画素が多い場合、撮像画像データに白飛びが発生して正解画像データとの比較が行えなくなる。
【0053】
このため、輝度ヒストグラムの分布が階調度が「0」から「255」の範囲の中央近傍に存在するように、露光条件を設定する必要がある。
撮像制御部104は、輝度ヒストグラムの階調度の分布に基づき、照明の調整やシャッタースピードの変更が必要か否かの判定を行う。撮像制御部104は、黒つぶれが発生することが推定され、輝度ヒストグラムの分布を高階調度側にシフトさせる照明の調整もしくはシャッタースピードの変更が必要な場合、露光制御部102に対して撮像時における呈色反応出現領域200の照明を所定の強度で行わせるか(例えばフラッシュ光を撮像方向に照射させる)、またはシャッタースピードを長くして輝度値を調整する。また、撮像制御部104は、呈色反応検出システム1が露光制御部102及び照明を有していない場合、ユーザに対して必要な光強度の照明を呈色反応出現領域200に対して照射することを促す表示を表示部108の表示画面に表示する。
【0054】
次に、
図5は、第1の実施形態の検出システムにおける簡易検査紙や簡易検査薬を用いた呈色反応検出対象に対する呈色反応検出処理の動作例を示すフローチャートである。
ステップS101:
撮像制御部104は、撮像部101における呈色反応検出対象の現在の撮像条件を検出、例えば観察角度、露光条件などを検出する。
【0055】
ステップS102:
撮像制御部104は、露光条件などの撮像条件の全てが、参照パターン群における参照パターンの画像データと比較することが可能な画質の撮像画像データを撮像できる撮像条件であるか否かの判定を行う。
このとき、撮像制御部104は、参照パターン群における参照パターンの画像データと比較することが可能な画質の撮像画像データを撮像できる撮像条件である場合、処理をステップS103へ進める。一方、撮像制御部104は、参照パターン群における参照パターンの画像データと比較することが可能な画質の撮像画像データを撮像できる撮像条件でない場合、処理をステップS104へ進める。
【0056】
ステップS103:
撮像制御部104は、撮像画像データにおける呈色反応出現領域902の撮像位置を抽出する。すなわち、撮像制御部104は、撮像部101の撮像範囲内における分析キット容器900(呈色反応検出対象)の3次元形状を得る。そして、撮像制御部104は、得られた分析キット容器900の3次元形状と、予め記憶されている参照用の分析キット容器900の3次元形状とを比較し、撮像部101の撮像範囲内における呈色反応出現領域902領域を抽出する。
【0057】
ステップS104:
撮像制御部104は、撮像条件において満たされていない条件を表示部108の表示画面に表示し、ユーザに対して撮像条件における満たされていない条件の調整を示唆する。
【0058】
ステップS105:
撮像制御部104は、撮像部101の撮像範囲における呈色反応出現領域902と、予め記憶されている分析キット容器900の3次元形状における呈色反応出現領域902とを比較する。そして、撮像制御部104は、呈色反応出現領域902全体が撮像画像データに含まれているか否か、すなわち観察領域内に呈色反応出現領域902全体が含まれているか否かの判定を行う。
このとき、撮像制御部104は、呈色反応出現領域902全体が撮像画像データに含まれている場合、処理をステップS106へ進め、一方、呈色反応出現領域902全体が撮像画像データに含まれていない場合、処理をステップS107へ進める。
【0059】
ステップS106:
撮像制御部104は、呈色反応出現領域902の撮像方向、すなわち観察角度の推定処理を観察角度算出部103に行わせる。
これにより、観察角度算出部103は、撮像部101の撮像範囲における撮像画像データから得られる分析キット容器900の3次元形状と、予め記憶されている3次元座標系における分析キット容器900の3次元形状とを比較することにより、呈色反応出現領域902観察角度を推定する。ここで、観察角度算出部103は、上記比較により、撮像部101が分析キット容器900を撮像する撮像方向を求める。そして、観察角度算出部103は、3次元座標系における分析キット容器900の呈色反応出現領域902が添付されている面(分析キット容器900の上面あるいは下面の呈色反応出現領域902が添付されているいずれかの面)の法線と、撮像部101の撮像方向とのなす角度を観察角度として求め、撮像制御部104に対して出力する。
【0060】
ステップS107:
撮像制御部104は、撮像部101の撮像範囲内に呈色反応出現領域902の領域が全て含まれるように、撮像部101の撮像する撮像位置を調整することを表示部108の表示画面に表示し、ユーザに対して撮像位置の変更を示唆する。
【0061】
ステップS108:
撮像制御部104は、呈色反応出現領域902全体が撮像画像データを撮像する撮像方向、すなわち観察角度が予め設定された角度範囲に入っているか否かの判定を行う。
このとき、撮像制御部104は、撮像部101の観察角度が角度範囲内にある場合、処理をステップS109へ進め、一方、撮像部101の観察角度が角度範囲内にない場合、処理をステップS110へ進める。
【0062】
ステップS109:
撮像制御部104は、呈色反応出現領域902の撮像が可能であることを示す画像を、表示部108の表示画面に表示し、呈色反応出現領域902の撮像をユーザに対して促す。
そして、ユーザは、表示画面を確認して、呈色反応検出システム1の入力手段から、撮像指示を入力する。
これにより、撮像制御部104は、撮像部101に対して撮像処理を行わせて、撮像画像データを得る。
【0063】
ステップS110:
撮像制御部104は、撮像部101の観察角度が予め設定されている角度範囲以内に含まれるように、撮像部101の撮像する撮像方向を調整することを表示部108の表示画面に表示し、ユーザに対して撮像方向の変更を示唆する。
【0064】
ステップS111:
画像変換部105は、観察角度算出部103から供給される撮像角度に基づき、撮像画像データの呈色反応出現領域902を、検査結果を判定するラインの参照パターンが示された参照撮像画像データにおける参照呈色反応出現領域の面と平行かつ重なり合う検出用撮像画像データに変換する。すなわち、画像変換部105は、撮像画像データの撮像位置及び観察角度を変換して、検査結果を判定するラインの参照パターンが示された参照撮像画像データと同様の撮像位置及び観察角度とした検出用撮像画像データを生成する。
これにより、画像変換部105は、撮像画像データの呈色反応出現領域902と参照撮像画像データにおける参照呈色反応出現領域とを、同様の撮像位置及び観察角度として比較することが可能となる。また、画像変換部105は、画像データ記憶部109の参照パターン群における参照パターン各々の画像とテンプレートマッチングできるように、撮像画像データの正規化を行い、検出用撮像画像データを生成する。
【0065】
ステップS112:
類似度算出部106は、画像データ記憶部109の参照パターンテーブルの参照パターン群から順次参照パターンの画像データを読み出し、この読み出した参照パターンと検出用撮像画像データの呈色反応出現領域902における呈色反応パターンとをテンプレートマッチングを行う。
ここで、類似度算出部106は、参照パターンテーブルの参照パターン群における全ての参照パターンと、検出用撮像画像データの呈色反応出現領域902における呈色反応パターンとをテンプレートマッチングを行う。
そして、類似度算出部106は、参照パターン群における参照パターンと、テンプレートマッチングにより求めた検出用撮像画像データの呈色反応出現領域902における呈色反応パターンとの類似度を、画像データ記憶部109の類似度テーブルに対して、各参照パターンの参照パターン識別情報に対応させて、それぞれの参照パターンと呈色反応パターンとの類似度を書き込んで記憶させる。
【0066】
ステップS113:
呈色反応検出部107は、画像データ記憶部109の類似度テーブルを参照し、この類似度テーブルにおける全ての参照パターンに対応する類似度のなかから、あらかじめ設定された類似閾値を超える参照パターンの有無の判定を行う。
このとき、呈色反応検出部107は、類似閾値を超える参照パターンがある場合、処理をステップS114へ進め、一方、類似閾値を超える参照パターンが無い場合、処理をステップS115へ進める。
【0067】
ステップS114:
呈色反応検出部107は、類似度テーブルにおいて類似閾値を超える参照パターンが複数ある場合、最も類似度の高い参照パターンを選択する。そして、呈色反応検出部107は、画像データ記憶部109の検査結果テーブルから、選択した参照パターンの参照パターン識別情報に対応した検査結果を抽出する。呈色反応検出部107は、検査結果テーブルから抽出した検査結果を、表示部108の表示画面に表示して処理を終了する。
【0068】
ステップS115:
呈色反応検出部107は、呈色反応出現領域200の撮像画像に対応する参照パターンが、参照パターン群のなかに無いと判定し、表示部108に呈色反応が検出できなかったことを表示して終了する。
【0069】
上述した構成により、本実施形態によれば、呈色反応出現領域902を撮像した撮像画像データと、参照パターン群における呈色反応出現領域902に現れる全ての呈色反応パターンとを比較し、検体検査の呈色反応検出を行う。このため、本実施形態によれば、従来のように高価で特殊な検出装置を用いず、かつ呈色反応出現領域902の設置状況(複数種類のテストラインが存在する分析キットなど)に依存することがなく、汎用的なデジタルカメラのような簡易な画像撮像装置による呈色反応出現領域902の撮像画像によって、簡易検査紙や簡易検査薬を用いた分析キットにおける呈色反応パターンの検出を容易に、高い精度で行うことが可能となる。
【0070】
ここで、呈色反応検出システムの解析対象の分析キット900について詳述する。
分析キット900は、
図2に例示した通り、呈色反応出現領域902が平面上のものでもよいし、内部に検査薬などが充填された円柱状などのチューブ型の形状、あるいは呈色反応出現領域902の媒体として、pH(ピーエッチ)試験紙(リトマス試験紙を含む)、尿検査紙、酸化度測定紙(食用油検査用)などの簡易検査紙のような紙形状のものでもよい。
また、平面上の呈色反応出現領域をもつ分析キットにおいて、呈色反応出現領域902における観察対称面901における呈色反応を示す呈色反応領域が
図2に示すライン形状であっても良いし、ドット形状あるいはスポット形状でも良い。
【0071】
平面上の呈色反応出現領域の中には、
図2に例示した通り、滴下部903に被検出対象物質を滴下して、目的物質の各々の呈色反応出現領域で呈色反応を示すイムノクロマトグラフィー法を用いた検査を行う分析キットや、試験紙や試薬が観察対称面901に設けられている(例えば、貼り付けられている)プレートを被検出対象物質に浸漬して呈色反応を見る分析キットでもよい。
また、分析キットの中にはスポイトのようなチューブ状の呈色反応出現領域を有しているものもあり、被検出対象物質を分析キットの吸水部から吸入して、チューブにおける非検出対象物のチューブ内の充填物(検査薬など)中における浸漬に応じた呈色反応を見るものもある。本発明における分析キットは、そのいずれでも良いし、これらの組み合わせで構成されてもよい。
【0072】
一方、チューブ型の分析キットは、呈色反応領域の形状が呈色反応出現領域902のように平面ではなく、筒(円柱)状となる場合がある。しかしながら、チューブ型の筒上の形状をした分析キットであっても、チューブ内における筒状の充填物の表面において、三次元座標が既知であるパタン(領域)が存在することを仮定すれば、平面の場合と同様に観察角度を推定することが可能である。つまり、そのパタン(領域)の三次元座標と撮像画像上の二次元ピクセル座標との対応を取ることにより、観察角度算出部103を用いて、すでに説明した平面上の観察対称面901における呈色反応を示す呈色反応領域を検出する場合と同様に観察角度を推定できる。
【0073】
上述した分析キット900は、被検出対象物質がイムノクロマトグラフィー法を用いた典型的な被検出対象物質である特定のタンパク質でもよいし、またはウイルス、菌類、細菌等の微生物でもよい。
また、上述した分析キット900は、被検出対象物質が特定のDNA構造を抽出するために検出される核酸であってもよい。
さらに、上述した分析キット900は、被検出対象物質が、水質検査に混入された混入物質、油の劣化状態を検出する油酸化度を示す物質、あるいは食物に含まれる糖などの化学物質(例えば、果物におけるショ糖の含量による糖度の測定)であってもよい。
【0074】
呈色反応検出システムは、分析キット900において、観察対称面901における呈色反応出現領域902の色変化(異なる種類の色に変化)を検知するものでもよいし、色の濃度変化(同一の色の濃度の変化)を検知するものでもよい。
また、呈色反応検出システムは、分析キット900において、呈色反応出現領域902における蛍光や燐光を撮像し、この撮像画像における色変化(異なる種類の色に変化)を検知するものでもよいし、色の濃度変化(同一の色の濃度の変化)を検知するものでもよい。
【0075】
また、被検出対象物質の分析キットにおける検査を行う際、呈色反応検出システムが呈色反応領域の変化を、静止画像ではなく動画像として撮像画像を撮像し、一定の連続時間において撮像された動画像から、呈色反応出現領域902における色変化または濃度変化の変化速度を検出するものでもよい。ここで、色変化とは、初期の色から予め設定された色に変化することを示している。これにより、測定者が色変化または濃度変化の時間を計測するより高い精度で変化時間を検出することができる。
【0076】
<第2の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。
第2の実施形態は、
図1に示す第1の実施形態による呈色反応検出システム1の構成と同様である。以下、第1の実施形態と異なる動作を説明する。また、第2の実施形態において、撮像画像データとしては、第1の実施形態と同様に、例えば白黒のようなモノトーンの画像を対象としている。
第1の実施形態においては、呈色反応ラインの有無による呈色反応パターンの検出を対象としていた。しかしながら、第2の実施形態による呈色反応検出システム1は、呈色反応ラインの有無のみでなく、呈色反応ラインの濃淡の検出を含む呈色反応パターンの判定を含んでいる。
【0077】
濃淡の判定の場合、光源環境が異なることにより、呈色反応パターンの呈色反応ラインの濃淡が異なった階調度で撮像されることになる。このため、検出用撮像画像データにおける呈色反応パターンの呈色反応ラインの濃淡と、参照パターンの呈色反応ラインの濃淡との比較を行う際、類似度の算出に誤差が生じることになる。
このため、予め参照パターン群における参照パターンの画像データを撮像した際の光源環境と同一環境において、分析キット容器900の表面、標識抗体反応部904の表面及び呈色反応出現領域902の下地の表面の所定の領域を参照領域として、この参照領域の画像データを補正用画像データとして撮像しておき、この補正用画像データを画像データ記憶部109に対して書き込んで記憶させておく。
【0078】
そして、撮像制御部104は、撮像画像データを撮像した際、画像データ記憶部109から上記補正用画像データを読み出す。撮像制御部104は、読み出した参照領域の補正用画像データの階調度(参照輝度値)と、撮像した撮像画像データにおける参照領域の画像データの階調度(輝度値)とを比較する。ここで、参照領域の階調度は、例えば、参照領域内の各画素の階調度の平均値を用いる。
ここで、撮像制御部104は、撮像画像データにおける参照領域の画像データの階調度を、参照領域の補正用画像データの階調度で除算し、除算結果の数値を濃淡補正係数とする。そして、撮像制御部104は、撮像画像データの各画素の階調度に対して、上記濃淡補正係数を乗算し、撮像画像データの各画素の階調度の補正を行う。
上述した撮像画像データの各画素の階調度の補正は、例えば、
図5のフローチャートにおけるステップS109における呈色反応出現領域の撮像処理、すなわち撮像画像データが撮像された後に、ステップS111における画像変換処理の前に行われる。
【0079】
上述した構成により、本実施形態は、参照領域の補正用画像データの階調度に対する、撮像画像データにおける参照領域の画像データの階調度の比として濃淡補正係数を求め、この濃淡補正係数を撮像画像データの各画素の階調度に対して乗算して、撮像画像データを補正する。このため、本実施形態によれば、参照パターンの画像データを撮像した際の光源環境と同一環境においてした状態に、異なる光源環境で撮像した撮像画像データの各画素の階調度を補正することができる。これにより、本実施形態によれば、参照パターンの呈色反応ラインの濃淡との比較をテンプレートマッチングで行う際、参照パターンの光源環境と異なる光源環境下で撮像した撮像画像の呈色反応パターンとの比較処理を高い精度で行うことができる。
【0080】
<第3の実施形態>
以下、本発明の第3の実施形態について、図面を参照して説明する。
第2の実施形態は、
図1に示す第1の実施形態による呈色反応検出システム1の構成と同様である。以下、第1の実施形態と異なる動作を説明する。また、第3の実施形態において、撮像画像データとしては、カラー画像(各色成分RGBの濃淡を含む)を対象としている。
撮像画像データ及び参照パターンの画像データとしてカラー画像を用いて、撮像画像データの呈色反応パターンと参照パターンとを比較して呈色反応を検出する際、撮像画像データの色見が重要となる。
【0081】
撮像制御部104は、現在の撮像画像データを解析し、分析キットの呈色反応出現領域902の撮像画像に対して、露光制御部102の指示により光源環境の影響を排除する処理を行う。また、汎用のデジタルカメラにホワイトバランス機能が備わっている場合、ホワイトバランス機能を用いて、光源環境の影響を排除する処理を行っても良い。
【0082】
また、色味(各画素の色成分RGBの階調度)の補正方法としては、以下の構成により行うことができる。分析キット容器900の観察対象面901における呈色反応出現領域902の表面の検査に影響を与えない位置(例えば、標識抗体反応部904から見て液滴部コントロールラインが生成される位置より遠い距離にある領域)に色味の異なる3個の補正用パッチを配置しておく。 ここで、検査に影響を与えない位置 とは、例えば観察対象面901において、標識抗体反応部904から呈色反応出現領域902におけるコントロールラインまでのテストラインが配置される領域以外の領域を示している。
【0083】
標準的な光源(例えばD65の光源)環境下で参照パターンを撮像し、同時に撮像される補正用パッチ各々の画像データから分光反射率を予め測定し、画像データ記憶部109に書き込んで記憶させておく。
この3個の補正用パッチ各々の分光反射率を用いて、撮像画像データにおける呈色反応パターンの色味の補正を行うことで、上記標準的な光源環境下で撮像した色味の撮像画像データを得ることができ、同一の光源環境下で撮像した参照パターン及び呈色反応パターンとして比較することが可能となる。
【0084】
標準的な光源で撮像された補正用パッチの色味がC
gt(R
gt,G
gt,B
gt)と算出され、撮像画像データにおける補正用バッチの色味がC
in(R
in,G
in,B
in)と算出された場合、色味C
gtと色味C
inとの間には、最も簡単な色補正の変換式を一例として適用した場合、以下の(1)式が成り立つ。
【0086】
この(1)式において、上述したように、C
gtは標準的な光源で撮像された補正用パッチの色味であり、色成分RGBで記載すると(R
gt,G
gt,B
gt)であり、C
inは撮像画像データにおける補正用バッチの色味であり、色成分RGBで記載すると(R
in,G
in,B
in)である。
これにより、(1)式は、以下の(2)式で表される。
【0088】
各々の色味が異なる3個の補正用パッチを用いることにより、標準的な光源で撮像された補正用パッチの色味と、撮像画像データにおける補正用バッチの色味との組み合わせが3対以上得ることにより、(2)式における行列Aが得られる。
ここで、撮像制御部104は、画像データ記憶部109から3種類の補正用パッチの色味C
gt(R
gt,G
gt,B
gt)と、(2)式とを読み出す。そして、撮像制御部104は、撮像画像データから、3種類の補正用バッチの色味C
in(R
in,G
in,B
in)を抽出し、補正用パッチの色味C
gt(R
gt,G
gt,B
gt)を用いて、3種類の補正用パッチの各々に対応させた(2)式を用いて行列Aを算出する。撮像制御部104は、算出した行列Aを用いて(2)式により、任意の光源下で撮像した撮像画像データの各画素の色味を、標準的な光源下で撮像される色味に変換する。
【0089】
上述したように、行列Aを求めて、(2)式を用いることにより、任意の光源下で撮像された撮像画像データの色味を、標準的な光源下で撮像された色味に変換することが可能となる。これにより、参照パターンと呈色反応パターンとを標準的な光源下に統一された状態で比較することができる。標準的な光源下において、参照パターンと呈色反応パターンとを比較するため、撮像画像データから照明(光源環境下)の影響を排除し、高精度な呈色反応の検出処理を行うことができる。
上述した撮像画像データに対する色味の補正の処理は、例えば、
図5のフローチャートにおけるステップS109における呈色反応出現領域902の撮像処理、すなわち呈色反応出現領域902を含む観察対象面901の撮像画像データが撮像された後に、ステップS111における画像変換処理の前に行われる。
【0090】
また、すでに説明したように、類似度算出部106は、ステップS112において、予め画像データ記憶部109に登録された参照パターン群のデータを順次参照し、類似度を算出する。ここで用いる検出用撮像画像データは、画像変換部105によって正規化されており、呈色反応出現領域902上の全ての画素についてテンプレートマッチングが行われる。このテンプレートマッチングが行われる際、類似度算出部106は、例えば、撮像画像データにおける呈色反応出現領域902の画像データと参照パターン群の画像データとの各々において対応する各画素の色成分RGB毎の輝度値の平均二乗誤差を求める。そして、類似度算出部106は、上記平均二乗誤差を全ての画素(ピクセル)あるいは一部の対応する画素おいて加算し、この加算結果を類似度を示す数値として出力する。したがって、類似度の数値が低いほど、撮像画像データと参照パターン群のデータとは類似している。
【0091】
また、類似度算出部106は、撮像画像データ及び正解画像データにおける画素の全て、あるいは一部の対応する画素の色成分RGBの数値を適切な色空間に変換した後、色空間のユークリッド距離の二乗値を加算し、この加算結果を類似度を示す数値として出力する構成としても良い。この場合も平均二乗誤差を用いた場合と同様に、類似度の数値が低いほど、撮像画像データと正解画像データとは類似している。
【0092】
上述したように、類似度算出部106は、検出用撮像画像データにおける呈色反応出現領域902の撮像画像データと、画像データ記憶部109に記憶されている参照パターン群における参照パターンの画像データとの間で順次類似度を求める。
そして、類似度算出部106は、求めた各参照パターンに対応する類似度を、この類似度を求めた参照パターンの参照パターン識別情報に対応させて、画像データ記憶部109における類似度テーブル書き込んで記憶させる。
【0093】
また、撮像画像データを撮像した際における光源の放射する光の強度が参照パターン群の各々の参照パターンの画像データに対応していない場合、撮像画像データの呈色反応出現領域902と参照パターンの画像データとの単純な画素の比較ができない。
このため、類似度算出部106は、所定の画素間における色成分RGBの色味で評価、すなわち検出用撮像画像データの所定の画素間におけるR/G(Rの階調度及びGの階調度との比)と、検出用撮像画像データの所定の画素間に対応する参照パターン群の画像データの画素間におけるR/Gとの平均二乗誤差を算出するように構成しても良い。
【0094】
上記所定の画素間とは、例えば、予め2点の画素PA及び画素PBを組とし、この画素PAと画素PBとの対応関係を示している。ここで、所定の画素間として用いる画素の組み合わせは、予めR/GやB/Gが大きくなる画素の組合せを設定させておく。そして、画素PAのRの階調度を画素PBのGの階調度で除算した比として、撮像画像データの呈色反応パターンの画像データと参照パターンの画像データとの各々において、対応する位置の画素の組毎にR/Gを求める。また、R/Gのみでなく、B/G(Bの階調度及びGの階調度との比)を組合わせもR/Gと同様に用いて、参照パターンと呈色反応パターンとの類似度を算出しても良い。
【0095】
上述した類似度算出部106が検出用撮像画像データに行う色味補正の処理は、すでに述べた撮像制御部104が撮像画像データに対して行う色味補正の処理と組み合わせる構成としても良いし、いずれかによる色味補正のみを行うように構成しても良い。
上述したように、本実施形態によれば、カラー画像における各画素に対する色味補正を行うため、異なる光源下における光の強度の差を吸収させることが可能となり、参照パターンと呈色反応パターンとのテンプレートマッチングにおいて高い精度の類似度を示す数値を算出することができる。
【0096】
<第4の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。
図6は、第2の実施形態による呈色反応検出システムの構成例を示すブロック図である。
図6において、呈色反応検出システム1Aは、呈色反応検出装置10及び撮像装置20を備えている。呈色反応検出装置10は、観察角度算出部103、撮像制御部104、画像変換部105、類似度算出部106、呈色反応検出部107、表示部108及び画像データ記憶部109の各々を備えている。また、撮像装置20は、撮像部101、露光制御部102の各々を備えている。
図6において、第1の実施形態と同様の構成については同一の符号を付してある。
【0097】
本実施形態においては、呈色反応検出システムが第1の実施形態における撮像及び露光の機能を撮像装置20として、呈色反応検出装置10から分離された構成となっている。これにより、撮像装置20として、汎用のデジタルカメラあるいは携帯端末(携帯電話やスマートファン含む)などを呈色反応検出用の撮像画像データの撮像に容易に用いることができる。
また、呈色反応検出システム1Aはクラウド構成として、図示してはいないが、デジタルカメラあるいは携帯端末とインターネットなどの情報通信回線を用いて通信できるようにしてもよい。そして、呈色反応検出装置10は、クラウド上のサーバとして設けられ、すでに述べた第1の実施形態と同様に、撮像装置20であるデジタルカメラあるいは携帯端末から送信される撮像画像データを用いて、呈色反応出現領域902における呈色反応パターンの検出処理を行う構成としてもよい。
また、第4の実施形態の構成は、すでに説明した第1の実施形態から第3の実施形態の構成として用いることができる。
【0098】
なお、本発明における
図1の呈色反応検出システム1、
図6の呈色反応検出システム1Aの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、呈色反応検出の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
【0099】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。