(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
開示されているシステムおよび方法は、反復的に最適化された基準ベクトルを使用して画像の成分信号を分離または「分解」するように画像を処理する。アッセイからの画像データは、品質メトリックを決定するために、アッセイの特性特有の予想される、または理想的な結果と相関される。低品質の画像、または理想的な結果に対して不十分な相関の場合、1つまたは複数の基準ベクトルが調整され、生理学的、解剖学的要件に合致する良好な品質の画像を相関が示すまで、調整された基準ベクトルを使用して分解が反復的に繰り返される。解剖学的情報、生理学的情報、およびアッセイ情報を使用し、品質メトリックを決定するために、測定される画像データに適用される規則を定義することができる。この情報は、どのように組織が染色されたか、組織内のどの構造を染色しようとしたか/染色しようとしなかったか、および処理されるアッセイの構造と染料とマーカとの間の関係を含む。反復的プロセスは、注目の構造および生物学的に関連のある情報を正確に識別する画像を生成することができ、ノイズの多い、または望ましくないスペクトルがなく、したがって分析に適合する染料特有のベクトルをもたらす。基準ベクトルは、探索空間内で調整される。探索空間は、基準ベクトルが染料を表すためにとることができる値の範囲を定義する。探索空間は、知られている、または一般に発生する問題を含む様々な代表的なトレーニングアッセイをスキャンし、そのトレーニングアッセイについて基準ベクトルの高品質のセットを決定することによって決定することができる。
【0009】
以下の説明内では、スペクトル分解、色デコンボリューション、および色分離に言及することは、同義であり、染料の混合物を含む画像データからの画像内のこれらの染料の局所濃度または量を得るプロセスに関連する。この混合物は、ほとんどの場合、線形であると仮定され、線形分解法が使用される。しかし、非線形法を適用し、分解を実施することもできる。明視野撮像については、アッセイは、光源から染色された標本を通って透過する光の吸収および減衰をもたらす。この画像データを分解するための例示的な方法は、たとえばランバート−ビアの法則を使用して基準色および画像データが光減衰信号に変換される光学密度空間を使用する。本明細書で使用される画像データおよび混合物モデル(すなわち、画像データおよび染色の効果の数学的記述)の分析は、必ずしも知られている方法に限定されず、可能な回折のモデル化を含む組織試料内で散乱する光の追加のモデル、および検出器、たとえば明視野顕微鏡内、蛍光顕微鏡またはスライド全体スキャナ内のCCDもしくはCMOSセンサによって検出された光が、アッセイ内で吸収された、またはアッセイによって放たれた光の量にどのように関連付けられるか決定するための他の方法を含むことができる。
【0010】
以下の説明については、図に跨って大部分の対応して符号が付けられた構造(たとえば、132と232など)は、同じ特徴を保有し、同じ構造および機能の対象であると仮定することができる。指摘されていない対応して符号が付けられた要素間に差があり、この差が、特定の実施形態のための要素の対応しない構造または機能をもたらす場合には、その特定の実施形態に対して与えられた矛盾する説明が優先するものとする。
【0011】
図1は、本開示の例示的な実施形態による基準ベクトルを最適化するためのシステムを示す。システム100は、アッセイ情報を生成するためのソース101を備える。たとえば、ソース101は、1つまたは複数の蛍光または色原体染料およびマーカで染色された生物学的標本など材料の試料を含むアッセイを撮像するために使用されるスキャナ、明視野顕微鏡、蛍光顕微鏡、またはスライド全体スキャナ内のスペクトルカメラ、CCDまたはCMOSセンサであってよい。ソース101は、メモリ110と通信し、メモリ110は、コンピュータ120に結合されたプロセッサ125によって実行される複数の処理モジュールまたは論理命令を含む。たとえば、生物学的標本など試料を、ソース101によって撮像するためにスライドまたは他の基材またはデバイス上に載置することができ、試料の画像の分析は、本開示によるメモリ110上に記憶された複数のモジュールの1つまたは複数を実行するプロセッサ125によって実施される。この分析は、試料の識別および研究のためのものであってよい。たとえば、生物学的または病理学的システムが試料を、その解剖学的構造、ならびに細胞の存在および編成、癌もしくは他の疾病を示すタンパク質分画もしくは他のマーカについて、または他の目的、たとえばゲノミックDNA検出、メッセンジャーRNA検出、タンパク質検出、ウィルスの検出、遺伝子の検出などのために分析することができる。
【0012】
試料は、1つまたは複数の異なるマーカ、フルオロフォア、色原体染料を含む染料を適用することによって染色することができる。フルオロフォアは、それぞれが異なる波長範囲内でピーク発光応答を生成する1つまたは複数のナノ結晶半導体フルオロフォア(すなわち、量子ドット)を含むことができる。量子ドットは周知であり、Invitrogen Corp.、Evident Technologiesなどから市販されている可能性がある。試料に適用されるフルオロフォアの1つまたは複数は、有機フルオロフォア14(たとえば、DAPI、テキサスレッド)とすることができ、これらは当技術分野で周知であり、少なくとも本願の所有者が所有し本願譲受人に譲渡された米国特許第8290236号に記載されており、その内容を参照によりそれらの全体で本明細書に組み込む。色原体染料は、ヘマトキシリン、エオシン、ファーストレッド、または3,3’−ジアミノベンジジン(DAB)を含むことができる。したがって、システム100は、量子ドットだけ、従来の有機フルオロフォアとの組合せでの量子ドット、従来の有機フルオロフォアだけ、色原体染料、または染料とマーカの任意の他の組合せで染色される試料と共に使用することができる。さらに、典型的な試料は、染料を試料に適用する自動化された染色/アッセイプラットフォームで処理される。染色/アッセイプラットフォームでとして使用するのに適した様々な市販製品があり、一例は、譲受人のVentana Medical Systems,Inc.のDiscovery(商標)製品である。たとえば、蛍光撮像プロセスでは、準備段階の組織処理および染色の後、スペクトル源、たとえば標本に適用されたフルオロフォアから発光応答を生成することが意図された波長で試料を照明するための光源を含むカメラシステムに、試料が供給される。量子ドットの場合、光源は、広スペクトル光源であってよい。あるいは、光源は、レーザなど狭帯域光源を含むことができる。カメラプラットフォームは、明視野顕微鏡を含むこともでき、一例は、譲受人のVentana Medical Systems,Inc.のVENTANA iScan HT製品、または1つまたは複数の対物レンズおよびデジタルイメージャ、ならびに1組のスペクトルフィルタを有する任意の顕微鏡である。異なる波長で画像を取り込むための他の技法が使用されてもよい。染色された生物学的標本を撮像するのに適したさらなるカメラプラットフォームが当技術分野で知られており、Zeiss、Canon、Applied Spectral Imagingなどの会社から市販されており、そのようなプラットフォームは、本開示のシステム、方法、および装置で使用するために容易に適応可能である。
【0013】
色チャネル、強度、および任意の追加のメタデータを含めて、ソース101を介してアッセイから獲得される情報は、顕微鏡101とコンピュータ120の間のケーブル接続を介して、コンピュータネットワークを介して、またはコンピュータ間でデジタル情報を転送するために一般に使用される任意の他の媒体を使用して、コンピュータ可読媒体110に供給され得る。また、アッセイ情報は、記憶しコンピュータ120によって後で取り出すために、ネットワークを介して、ネットワークサーバまたはデータベースに供給されてもよい。プロセッサ125およびメモリ110の他に、コンピュータ120は、キーボード、マウス、スタイラス、およびディスプレイ/タッチスクリーンなどユーザ入出力デバイスをも含む。以下の考察で述べるように、プロセッサ125は、メモリ110上に記憶された論理命令を実行し、アッセイ情報の分析を実施し、1つまたは複数の分解演算を実行し、画像内の構造を検出し、定量分析し、コンピュータ120を操作するユーザに対して定量/グラフィカルな結果を表示する。
【0014】
たとえば、上述のように、アッセイは、いくつかの色チャネルの混合物を含む画像データを生成するためにソース101でスキャンされる。たとえば、画像データは、放出スペクトル、吸収スペクトル、蛍光、またはアッセイによって構成される任意の他の信号を含むことができる。画像データは、標準的な赤、緑、および青の色チャネルをさらに含むことができる。ソース101がアッセイを透過した白色光を検出する明視野顕微鏡である場合、画像データは、異なる波長範囲を有する複数のチャネルを含むことができ、または、標準的な赤、緑、および青のチャネルを含むこともできる。任意の数の別々の色チャネルが含まれてもよい。ソース101が蛍光顕微鏡である場合、画像データは、量子ドット(Qドット)チャネル、ならびに染料および対比染料のためのチャネルを含むことができる。撮像されるチャネルおよびそれらの波長範囲は、汎用目的で選択することも、手元のアッセイおよび組織タイプに合わせて調整することもできる。たとえば、分解は、専門の顕微鏡、たとえば様々なフィルタ、励起光波長、明視野光源波長などを有する顕微鏡について、ならびに標準的な撮像設定、たとえば赤−緑−青カメラおよび白色光源について可能である。画像データは、追加のアッセイ情報と共に、アッセイ情報抽出モジュール111によって抽出しパースされる。追加のアッセイ情報は、染料識別、染色のプロセスパラメータ(たとえば、インキュベーション時間、および試薬の濃度)、組織タイプ、および他の物理的または生理学的情報を含むことができる。追加のアッセイ情報は、情報抽出モジュール111によって受け取られる1つまたは複数のデータパケットのメタデータ内に記憶され、たとえばユーザ、システム100に接続されラボラトリ情報システムによって提供され、または生物学的標本を担持したスライドに添付されたバーコードから読み出され得る。アッセイ情報をシステム100内に提供する他の方法は、本開示に照らして、当業者には明らかになろう。
【0015】
分解モジュール112を呼び出し、画像データ、画像データの選択された部分、または画像データの特定の領域へ分離された信号の混合物(たとえば、線形混合物、または実質的に線形の混合物)を分解し、染料特有のベクトルを得ることができる。本開示の目的では、分解は、スペクトル分解、色デコンボリューション、および色分離と同義である。しかし、混合物を分離するための任意の他の知られている、または将来の方法が使用されてもよい。例示的な実施形態では、線形最小二乗法が使用される。たとえば、分解モジュール112は、アッセイ情報に基づいて、既知の基準スペクトルを使用し、特定の画素内の信号の混合物を分解し、その画素内の染料または構造に対応する成分信号またはベクトルを得ることができる。分解モジュール112は、1つまたは複数の既知の基準ベクトルを、データベース118など、メモリ110上の基準ベクトルデータベースから取り出すことができる。たとえば、レーザスペクトル分解プロセスは、単一の画素上で同一場所に位置する1つまたは複数の染料に対応するベクトルの一次結合を得ることができ、各ベクトルは、その強度または濃度によって重み付けされる。組合せを分解するために使用される各マーカのための基準ベクトルは、本明細書に記載のアッセイ依存の相関および分析によって反復的に最適化される。
【0016】
負抑制モジュール113は、分解プロセスに起因する負のベクトルを識別するために使用される。負の値があることは、物理的に信じがたい負の濃度を有する少なくとも1つの染料を有する混合物を画素が含む可能性があることを示す。負抑制モジュール113は、負の値があることを使用し、1つまたは複数の不正確な基準ベクトルにより、分解結果が、より低い品質のものであると推測する。従来の方法は、すべての結果を数学的に正にする非負の制約を分解プロセス中に使用していたが、これらの方法は、負の値が返されたということをほとんど無視する。そうではなく、負抑制モジュール113は、エラーを認識し、そのような解剖学的または物理的に信じがたいこと(implausibility)を示すように品質メトリックを調整することができる。これは、画像データを再び分解するための基準ベクトルの自動調整または最適化をトリガする。分解は、負の値の認識からトリガされてもよく、または分解は、品質メトリックを決定するために他のモジュールが処理されるまで遅延させてもよい。
【0017】
染料強度決定モジュール114は、画像データ、たとえば画像全体、画像内の領域、または画像内の個々の画素から染料の強度を決定する論理演算を実施し、画像データを分解する前に基準ベクトルを適切に選択し調整する。染料強度決定は、特定のアッセイ情報を必要とすることなしに、単に画像データによって構成された色ベクトルから実行することができる。たとえば、ソース光強度を、組織を通過した検出光強度と比較するために、明視野顕微鏡からの信号を処理し、色および染料の分離前にアッセイ、領域、または画像内の個々の画素上の1つまたは複数の染料の強度を示すことができる。蛍光画像を処理し、1片の組織から放たれた総強度または明るさ全体を決定することができ、染料、色、色相、および他の貢献の分離を必要とすることなしに平均染料強度を決定することができる。どちらの場合も、画像または画素について染色の平均強度または全体強度が与えられれば、染料強度に関連する基準ベクトルの事前定義されたセットを使用し、画像データを分解することができる。たとえば、初期基準ベクトルの異なるセットを、非常に弱い、弱い、中程度、強い、非常に強い染料強度について事前定義することができる。染料強度決定モジュール114は、測定された強度をこれらのカテゴリの1つに分類し、初期基準ベクトルまたはスペクトルの適切なセットを選択する。
【0018】
構造決定モジュール115は、画像データ内の構造を識別し、これらの構造を構造および/または染料の既知の組合せと相関し、既知の、または自明の信じがたいことを識別し除外する。たとえば、2つの特定の量子ドットは、ある種の試料材料内で共存することができないことが知られている可能性がある。矛盾する、非現実的な、または不可能な1つまたは複数の信号は、構造決定モジュール115によって認識し、この不愉快な信号を最小限に抑える、または除外することによって補償することができる。既知の矛盾する、非現実的な、または不可能な1つまたは複数の信号は、データベース118、またはシステムと通信する任意の他のデータストア、あるいは病理学者または博識の技術者などシステムの熟練したオペレータから取り出すことができる。構造は、画像データまたは分解結果をパースし、特定のサイズ、形状、または色の構造を認識することによって決定することができる。たとえば、茶色色素で染色された小さな丸い細胞を認識し、それらの成分ベクトルを理想的な結果と比較し、それらの存在および/または構造が妥当であるか否か決定することができる。さらに、残留染料の量を識別し除外することができる。たとえば、小さな丸い形状に対応しない茶色の染料は、ノイズ、または単なる望ましくない信号として識別されてもよい。さらに、構造決定モジュール115は、予期しない小さな構造、強いエッジ、ガラスおよびアッセイの他の部分、埋込み材料、または背景材料からの蛍光または色原体信号など、望ましくない要素によって引き起こされる高周波の貢献を最小限に抑える、または除外する。
【0019】
背景決定モジュール116は、背景信号、または背景信号の少なくとも1つを含む信号の混合物によって構成された画素の場所に関連するスペクトルシグナチャに基づいて、信号の混合物内の1つまたは複数の背景信号を認識することができる。背景信号は、その一意のシグナチャ(たとえば、スライドのガラス、カバースリップ用の接着剤、組織の自己蛍光に関連する)、および画像を通る偏在性の分散によって認識され得る。画像のある領域は、自己蛍光など信号を主に、またはそれだけを含むと決定されてもよい。背景に関連するシグナチャ、たとえば広帯域シグナチャを有する成分信号を決定したとき、その成分信号を、分析される試料材料特有の既知の背景シグナチャと比較することができる。たとえば、解剖学的または臨床的病理の画像分析用などのシステムは、組織試料のスキャンされたスライドを、既知の背景シグナチャを有する同様の組織試料を含む較正スライドの画像と比較し、スキャンされた画像内の背景信号を識別することができる。データベース118は、既知のシグナチャを含むことができる。既知の背景シグナチャを画像の領域と比較し、前記領域内の主に広帯域の信号を認識することができる。背景、ガラス、および/または広域構造(すなわち、画像を通して存在する構造)から生じる信号については、分解された画像内の小さな構造または高周波画像内容(たとえば、細かいテクスチャ)があることは、この信号について不正確な基準ベクトルを示す。そのような小さな構造の存在および強さは、品質メトリックに対する負の貢献である。したがって、望ましくない信号は、正しい基準ベクトルでそれらの信号を検出し、背景でない構造(たとえば、組織内の細胞)からの陰に基づいて不正確な基準ベクトルを識別することによって、分解結果から除去される。これは、そのような背景信号についての基準ベクトルが調整を必要とすることを示す。
【0020】
調整モジュール117は、各モジュール111〜116からの結果に基づいて、データベース118内の入力または初期基準ベクトルを反復的に調整する。さらに、各モジュールの結果を組み合わせ、品質メトリックを生成することができる。たとえば、構造決定モジュールは、品質を負で示すもの、またはより低い品質メトリックをもたらす構造の信じがたい組合せを示すことができる。追加として、またはそれに加えて、プロセッサ125によって実行された分解プロセスの後で、分解された染料特有の画像の相互相関により、より低い品質メトリックがもたらされることがある。各染料特有のチャネル内で個々に妥当な結果をもたらすが異なる染料特有のチャネル間で矛盾をもたらす分解プロセスなど、モジュール間の矛盾があれば、それも同様に低い品質結果を示す。たとえば、2つの染料が手元の組織タイプについて相互に排他的であり、その結果、同じ場所におけるこれらの染料についての高い濃度は妥当でないことが知られている可能性がある。得られる品質メトリックは、それらの探索空間または許容範囲内での初期基準ベクトルの調整、および繰り返される分解プロセスをトリガすることがある。分解結果は、各モジュールによって再び評価することができ、それらの結果を使用し、新しい品質メトリックを生成する。その品質メトリックは、理想的なアッセイのための既知の品質メトリックと比較することができ、その品質メトリックが理想的なアッセイに十分近いと決定したとき、調整モジュール117は、基準ベクトルを調整するのを停止し、分解された信号が理想に近いことを示すことができる。様々な最適化方針、たとえばシンプレックスダウンヒル最適化方針(すなわち、基準ベクトルを自動的に調整し、得られる品質メトリックを反復的にチェックすることによって品質メトリックを最大にする方針)を使用し、品質メトリックを高めるように基準ベクトルを調整することができる。データベース118は、特定のアッセイ情報に関連付けられたフィールド内で新しい最適化された基準ベクトルで更新され得る。さらに、この演算シーケンスは、
図2に示されているように、方法によって反復的に実行することができる。
【0021】
さらに、品質決定は、ユーザクエリ特有のものとすることができる。たとえば、ユーザ入力により、分解または構造決定プロセスを、特定の色チャネル内で細胞を求めて探索することに分離することができ、またはクエリをサブミットし、特定の構造の品質を要求することができる。構造決定および分解モジュールは、クエリの要件の対象である画像データを処理することができ、調整モジュール117は、適切な品質メトリックを生成する。基準ベクトルは、基準ベクトルをどれだけ、およびどの方向に変更することができるか定義する各基準ベクトルについて探索空間内で調整することができる。探索空間は、事前定義され、固定であってもよい。異なる画像からの既知の基準ベクトルを有するトレーニングデータを収集、分析し、探索空間を定義するための基準ベクトルの許容変化の範囲と共に、初期またはデフォルトの基準ベクトルを提供することができる。いくつかの例示的な実施形態では、主成分分析(最適化中に修正することができる固有ベクトルなど基準ベクトルおよび方向、および固有値など距離のための初期値としてトレーニングデータの平均(mean)を識別する分析)を使用し、トレーニング例から有効な探索空間を決定することができる。
【0022】
さらに、分解された画像データ内で染料濃度の最小または最大を調整することなど、他の洗練演算を適用し、特定の範囲を強調し、範囲外の信号を除外することができる。信号の分解されたセットから得られる画像は、より大きなダイナミックレンジが見えるようにコントラストを調整することができる。たとえば、スペクトル分解後に得られるデータは、そのダイナミックレンジの点で不十分な解像度のものである可能性があり、したがって明るさまたはコントラスト調整(分解されたチャネルについて画像内容のダイナミックレンジを人為的に増大する)により、分解されたチャネルが画像内の異なる画素においてどれだけ強いか視覚的に容易に知覚することができる。そのような調整は、分解されたチャネルからの出力を研究することを可能にし、画像の理解を改善する。他の撮像演算を、任意の得られる画像、ならびにコンピュータ120のディスプレイ上に示される、メモリ110内に記憶されたモジュールを実行および操作するためにインターフェースで実施することができる。
【0023】
上述のように、モジュールは、プロセッサ125によって実行される論理を含む。本明細書で、および本開示を通して使用される「論理」は、プロセッサの動作に影響を及ぼすために適用することができる命令信号および/またはデータの形態を有する任意の情報を指す。ソフトウェアがそのような論理の一例である。プロセッサの例は、コンピュータプロセッサ(処理装置)、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、およびマイクロコントローラなどである。論理は、メモリ110などコンピュータ可読媒体上に記憶された信号から形成されてもよく、コンピュータ可読媒体は、例示的な実施形態では、ランダムアクセスメモリ(RAM)、読出し専用メモリ(ROM)、消去可能/電気的消去可能なプログラマブル読出し専用メモリ(EPROM/EEPROM)、フラッシュメモリなどであってよい。また、論理は、デジタルおよび/またはアナログハードウェア回路、たとえば論理AND、OR、XOR、NAND、NOR、および他の論理演算を含むハードウェア回路を含むことができる。論理は、ソフトウェアとハードウェアの組合せから形成されてもよい。ネットワークでは、論理は、サーバ、またはサーバのコンプレックス上でプログラムされてもよい。特定の論理ユニットは、ネットワーク上の単一の論理ロケーションに限定されない。
【0024】
図2は、本開示の例示的な実施形態による基準ベクトルを最適化するための方法を示す。
図2の方法は、
図1に示されているものと同様のモジュールを実行するコンピュータによって実施されてもよい。この方法は、スキャナもしくはスペクトルカメラに関連付けられた、もしくはそれを含むソース101、または、ある範囲の周波数で画像内容を取り込むことができる任意のソースなど、ソースから受け取られる試料の画像で始まる(S230)。試料は、上述のように、1つまたは複数の異なるフルオロフォアまたは色原体染料を含む染料を適用することによって染色し、たとえば光源によって照明し、画像をカメラによって取り込むことができる。画像は、例示的な方法に記載の演算を実施するために、メモリ上に記憶されている論理命令を実行するコンピュータに供給される。
【0025】
アッセイ情報は、画像データ、ならびに追加のアッセイ情報を含む。画像データは、異なる波長範囲を有する複数のチャネル内で、上記で詳述したようにソースによって検出される複数の色チャネルを含む。画像データは、追加のアッセイ情報と共に抽出され、分解されるように分解モジュールに提供され(S231)、画像データによって構成される成分信号または染料特有のベクトルを得る。分解は、アッセイ情報に基づいて、基準データベース219から取り出される既知の基準スペクトル/ベクトルを使用する。他の実施形態では、基準ベクトルは、分解前に反復的に最適化されてもよい。たとえば、強度決定(S233)を、画像全体について、画像の領域または個々の画素について呼び出し、分解前に最適な基準ベクトルを決定してもよい。染料強度決定(S233)は、特定のアッセイ情報を必要とすることなしに、単に画像データによって構成された色ベクトルから実行することができる。その画像、画像内の領域、または画素についてS233から染料強度が与えられて、染料強度に関連する基準ベクトルの事前定義された、または調整されたセットを、画像データを分解するために選択することができる(S241)。強度決定(S233)の結果を使用し、(たとえば、実際の強度値により近く対応するように基準ベクトルをシフトすることによって)新しい基準スペクトルを決定することができ(S241)、または、方法は、負抑制および背景決定(S235)に進んでもよい。分解プロセスから得られる負のベクトルが識別され、不正確な基準ベクトルにより分解結果がより品質の低いものであると決定される。
【0026】
この場合も、方法は、そのような解剖学的または物理的に信じがたいことを示すように品質メトリックを調整し、混合物を再び分解するために調整された、または最適化された基準ベクトルを選択すること(S241)に進むことができ、あるいは方法は、生理学的に妥当な構造の決定(S237)に進むことができる。このステップは、たとえば画像データまたは分解結果をパースし、特定のサイズ、形状、または色の構造を認識することによって、画像データ内の構造を識別する。注目の構造は、ユーザによってシステムに入力されても、アッセイ情報から抽出されてもよい。これらの構造を、染料データベース221内に記憶された構造と染料の既知の組合せと相関し、既知の、または自明の信じがたいことを識別し除外することができる。たとえば、2つの特定のマーカは、ある種の試料材料内で共存することができない、または既知の形状およびサイズの構造内にしか現れることができないことが知られている可能性がある。そのような「信じがたいこと」を認識し、矛盾する、または非現実的な信号を最小限に抑える、または除外することによって補償することができる。たとえば、RGB明視野画像は、青色色素、茶色色素、および赤色色素で染色されたアッセイについて赤、緑、および青の強度を提供する。各色素または染料についてチャネルを分解したとき、分解結果をアッセイについて知られている情報と相関することによって、ある構造の存在を決定することができる。たとえば小さな丸い細胞は茶色色素で染色され、マクロファージなど特定の形状を有していないより大きな細胞は赤色色素で染色され、背景およびすべての細胞核は青で染色されているという知識に基づいて、赤色である小さな丸い構造を示す信号は、生理学的に信じがたいことである。同様に、大きな茶色の領域は信じがたいものである。なぜなら、アッセイ情報内で識別される特定の染料/構造の組合せについて知られているものと相関しないからである。
【0027】
したがって、画像の品質が損なわれ、それにより、画像を分解するために使用される基準ベクトルに対する調整をトリガする(S241)、または相関ステップの結果すべてに加えて、品質メトリックに影響を及ぼす(S239)。品質メトリックは、アッセイタイプを与えられて、分解結果の品質を、既知または理想の結果とさらに比較し、基準ベクトルを調整するかどうか決定され(S241)、プロセスを繰り返す、または品質が許容されるものである場合、サイクルを終了する。許容される品質は、事前定義された閾値に基づいて決定されてもよい。結果の品質が良好である、または得られるベクトルが生理学的に妥当であると決定したとき、そのベクトルのための探索空間を、許容される品質メトリックを含むように調整し(S240)、基準ベクトルデータベース219に関連付けられた空間データベース222内に記憶することができる。品質メトリックが許容できないものである、または閾値未満である場合、基準ベクトルをどれだけ、およびどの方向に変更することができるか定義する各基準ベクトルについて探索空間内で、基準ベクトルを調整することができる(S241)。
【0028】
これらのステップは、調整されるデータベース219内の初期基準ベクトルで反復的に実施することができ、画像データが分解され(S231)、品質メトリックが理想的なアッセイに十分近い、またはそれ以上の改善が可能でないと決定するまで新しい品質メトリックが生成される。最適な品質を決定したとき、方法は、アッセイ情報に基づいて、現在の構成を含む、または強調するようにそのベクトルのために探索空間を調整することができる(S240)。探索空間は、画像データへの各適用と共に動的に膨張または収縮することができ、システムの連続的なトレーニングを可能にする。
【0029】
図3Aおよび
図3Bは、本開示の例示的な実施形態による、光学密度空間内での基準ベクトルの調整を示す。光学密度空間は、本開示を明視野画像に適用するとき使用される。光学密度は、透過撮像において吸収される光の量に対応する染料または色の特性である。蛍光画像については、この空間は、基準ベクトル空間と称され、スキャナによって獲得される異なる波長範囲内のフルオロフォアまたは量子ドットの放出を反映する。本明細書に記載されているように、各基準ベクトルは、アッセイ情報に基づいて事前定義された探索空間内で調整または最適化することができる。
図3に示されている光学密度空間は、視覚化を容易にするために3つの色を含む。本開示の目的では、画像は、任意の数の色を含むことができ、その対応する光学密度空間は、本実施形態に示されているように、事前定義されたコロケーションシステムに区分される。
【0030】
図3Aは、光学密度空間345内の画素350の値を、対応する基準ベクトル351、352、353と共に示し、これらは、その画素値を得るために線形混合され得る。本例では、光学密度空間345は、画像の3つの色、すなわち青346、緑347、および赤348に基づいて3つの軸を含む。画素350は、その成分ベクトル351、352、353に分解される。たとえば、画素の成分ベクトルは、青ベクトル351、赤ベクトル352、および茶色ベクトル353を示し、各ベクトルは、3つのベクトルの混合物が画素350に達することを可能にする異なる方向および強度を有する。
【0031】
図3Bは、各成分基準ベクトルがその探索空間355内でどのように調整可能かを示す。探索空間355は、複数の既知の解剖学的、化学的、生物学的仮定および変動を包含するように事前定義されてよい。探索空間355は、基準ベクトル351の許容変化の事前定義された範囲とすることができ、その範囲は、本明細書に記載されているようにトレーニングデータに基づく。例示的な一実施形態では、各基準ベクトルについて10パーセント変動が許されてもよく、基準ベクトルは、満足な結果が達成されるまで、そのような10パーセント変動内で調整され得る。追加の実施形態では、純粋な分離された染料を有するいくつかのトレーニングアッセイを分解することができ、それらの結果における変動を使用し、探索空間355を決定するために、平均変動と共に平均基準スペクトルを推定する。
【0032】
本明細書に記載されているように、これらの実施形態に示されている光学密度空間は、3色画像で示されているが、本明細書に記載の原理は、明視野および蛍光イメージャからの多次元、多チャネル画像に適用することができる。3つの色チャネル、たとえば明視野顕微鏡によってスキャンされたRGB画像を含むより単純な画像については、単一の染料、または3つの染料までのコロケーションを、知られている方法で分解することができる。本明細書に記載の実施形態は、画像データ内の次元または色の数より大きい数の染料で染色された、RGB画像を含む任意のタイプの画像を分解するための手段を提供する。アッセイ特有の情報および規則を適用し、任意の光学密度空間または基準ベクトル空間を事前定義されたコロケーションシステムに区分することができる。これらのシステムは、手元のアッセイ、アッセイで染色された生物医学的構造、およびある領域ならびにある画像画素内のこれらの構造の共存に基づいて定義される。どんな染料、構造、およびマーカがアッセイによって構成されるか、ならびに既知の可能なコロケーションの階層の事前の知識に基づいて、基準ベクトル空間(たとえば、光学密度空間)を区分し、生理学的に妥当なコロケーションを決定することができる。そのようなグラフィカルな表現を使用し、画像または画素を分解するために、基準ベクトルを最適化することができる。たとえば、特定の領域が、光学密度空間の1つの区画または領域だけの専用である可能性があり、したがって、その領域を分解すると、純粋な染料ベクトルがもたらされる可能性が高くなることになる。別の例では、対比染料ヘマトキシリンまたはDAPIを使用し、あらゆる細胞核を青に染色することができ、特定の染料またはマーカとだけ同一場所に配置し、適切な基準ベクトルを使用する分解プロセスをもたらすことができる。追加の染料を含む光学密度空間の他の領域をも同様に評価し、分解前に既知のコロケーションと比較し、起こりそうにないコロケーションすべてを排除することによって、より効率的かつ正確な分解プロセスをもたらすことができる。
【0033】
図4A〜
図4Dは、本開示の例示的な実施形態による、同一場所に位置する染料のセグメントに区分された光学密度空間を示す。
図4Aに示されている3次元光学密度空間445は、混合されたとき画素値450を生成する2つの染料特有のベクトル451、453を含む。この光学密度空間では、同じ2つの染料のどの可能な混合も、必然的に2つの染料基準ベクトルによってスキャンされる円セグメント内に入ることになる。さらに、3つ以上の染料のどの可能な混合も、3つ以上の基準ベクトルによってスキャンされるピラミッド形または円錐形の領域内に入ることになる。各染料がどれだけ使用されるかにかかわらず、これらの特定の染料の任意の組合せは、光学密度空間または基準ベクトル空間の限られた領域内に常に入ることになる。この原理を使用し、ベクトルの組合せの任意の可能な値の場所を予測または決定することができる。たとえば、別の染料を2つの染料のシステムに追加すると、ピラミッド形または円錐形の領域がもたらされ、3つの染料の可能な変形形態すべてがそのピラミッドまたは円錐内に入ることになると論理的に決定される。同様に、第4の染料を追加すると、四角形の底面を有するピラミッドがもたらされることになり、このピラミッドは、必然的に4つの染料の可能な組合せすべてを含む。
【0034】
さらに、光学密度空間は、
図4Bに示されているように、2次元表現460に平坦化することができる。この平面表現では、2つの染料451、453の可能な混合すべてが、染料を接続する領域461内に入る。
図4Cおよび
図4Dは、単一の画像信号または画素内に含まれる3つの染料451、453、454、および4つの染料451、453、454、456の任意の可能な組合せまたはコロケーションを包含する領域461をそれぞれ示す。この例示的な実施形態は、RGBカメラをソースとする3つの色チャネルについて記載されているが、本明細書に記載の原理は、多スペクトル画像、蛍光画像データなど、任意のタイプの画像データに、視覚的に示すことができない可能性があるが本明細書に記載されているようにコンピュータによって処理することができる任意の組合せで適用可能である。
【0035】
光学密度空間のセクションを区画化するために使用される適用優先度は、特定のアッセイについての既知の可能な、または生理学的に妥当なコロケーションに基づく。これらの既知のコロケーションは、一般的な生物学的知識、ならびにどんなバイオマーカが手元のアッセイのために標的とされているかという特定の知識を含み、優先順位、または重要度もしくはもっともらしさ(likelihood)の階層によって順序付けることができる。たとえば、ヘマトキシリン対比染料は、試料内のすべての細胞核を染色し、通常、他の信号と同一場所に位置することなしに、それ自体で現れる。別のマーカ、Ki67は、増殖する癌細胞の核だけを染色する。Ki67は、必然的にヘマトキシリンと共に現れ、その結果、独立であるKi67マーカが現れることは、生理学的に信じがたいと考えられ、したがって無視される、または抑制されることになる。光学密度空間を、手元のアッセイのために標的とされているバイオマーカのそのようなリスト、およびこれらのバイオマーカに関連付けられた染料の基準ベクトルと反復的に比較することにより、生理学的に妥当なベクトルをもたらす特定のベクトルだけを使用して画像データを分解することができる。
【0037】
表1は、1つの例示的なアッセイについてもっともらしさの順に配置されたコロケーションシステムの一例および可能な実装を示す。本開示の例示的な実施形態は、分解の前または後の信じがたいコロケーションを除外するために、この階層を参照する。このリストは、単に例示的なものであり、網羅的なものではない−本開示に照らして、当業者なら、特定のアッセイに基づく規則の多数の追加の組合せを考えることができる。
【0038】
図5は、同一場所に位置する染料のセクションに分割された光学密度空間560を示し、これらのセクションは、アッセイ内の染料に関連する規則または優先度の階層に基づいて画定される。本明細書に記載の他の実施形態と同様に、使用可能なアッセイ情報特有の規則が、同一場所に位置する染料を有する光学密度空間のセクションを生み出し画定するために呼び出される。これらの規則は、上述のような階層の形態にあってもよい。これらのセクションは、アッセイ情報および優先度に基づいて、別々に分解し、染料の特定の組合せのコロケーションを識別することができる。
【0039】
各セクションは、3つまでの基準染料のシステムで分解される。画像内の染料は、551、553、554、556を含む。たとえば、領域A、B、C、Dは、コロケーションなしに染料551、553、554、556のそれぞれに排他的に対応する。領域Eは、染料554、556の可能なコロケーションを識別する。領域Fは、染料554、551の可能なコロケーションを識別する。領域Gは、染料554、553の可能なコロケーションを識別する。領域Hは、染料553、551の可能なコロケーションを識別する。領域Jは、染料551、554、556の可能なコロケーションを識別する。最後に、領域Kは、染料554、553、551の可能なコロケーションを識別する。規則のセットに基づいて、どの追加の染料コロケーションも生理学的に妥当でないとさらに決定される。さらに、いくつかの領域は、それらの重なり合いによって示されるように、他の領域より可能性が高い。たとえば、領域Fによって表される染料554、551のコロケーションは、領域Gによって表される染料554、553のコロケーションより発生する可能性が高い(したがって、重なり合っている)。領域Kは、発生する可能性が最も低く、したがってすべての他の領域が重なり合う。これは、色チャネルの数より大きい数の染料を有する画像を分解することを可能にする。領域の重なり合いおよび染料コロケーションに関連するセクションのサイズは、いくつかのコロケーションが発生する先験的確率を反映する。この方法での分解が組織の画像に適用されるとき、これらのコロケーションおよび画像内のそれらの構造の事後確率は、染色された組織を診断するために重要な入力を形成する。
【0040】
図6A〜
図6Bは、本開示の例示的な実施形態、すなわち新しい画像データのための高品質な分解結果を得るために染料基準ベクトルを調整することによる、アッセイ上の同一場所に位置する染料を決定するためのヒストグラムを示す。この実施形態では、ヒストグラムおよび/または画像データを表すヒストグラムデータが生成される。この生成されたヒストグラムデータは、たとえば標的組織タイプ、バイオマーカのセット、および/または関連の色原体染料またはフルオロフォアを含めて、アッセイのための予想されるヒストグラムデータに比較される。この比較に基づいて、予想されるヒストグラムデータが画像データを表すヒストグラムデータにより近く対応するように、基準ベクトルを調整することができる。たとえば、ヒストグラムデータ内の多数の画素が、純粋な赤色を表すビン内に入るが、予想されるヒストグラムデータがこれらのビン内にエントリを有していない場合、この不一致は、赤染料がより純粋になるように基準ベクトルを修正することによって補正することができる。
【0041】
複数のカテゴリまたはビンが、画像データの異なるクラスについて作成される。これらのクラスは、たとえば染料の色相を含むことができる。たとえば、総吸光度、または各染料の総強度に関する情報を必要とすることなしに、染色された各画素についての色または色相を、黄、マゼンタ、青、赤など特定のビンに割り振ることができる。例示的な実施形態では、アッセイ内の染料より多くのビンがヒストグラム内にある。さらに、各色チャネルのための閾値を監視し、画素内のその色チャネル内に染料があると決定することができる。ビンおよび閾値は、アッセイ情報に基づいてもよい。ヒストグラムは、画像内の観察された色相すべての存在を図に示し、
図6A〜
図6Bに示されているように、相対的な濃さによって各色相内の画素の数を表すことができる。
【0042】
図6Aは、対比染料654および2つのIHC染料651、653を有するシステムのための典型的なヒストグラムを示す。ここでの解剖学的対比染色マーカは、青とすることができ、いくつかの青画素が第1のIHC染料653と混合され、他は第2のIHC染料651と混合され、間のあらゆる組合せもまた妥当なものである。
図6Bは、4つの染料654、653、651および新たに追加された染料656を有する画像のためのヒストグラムを示す。これらの染料の存在は、解剖学的な可能性に比較することができるパターンを示す。対比染料654は、染料653、651と同一場所に位置する可能性が非常に高いことが観察され、他の染料との関連がない個々の染料656と分離されている。したがって、これは信じがたいコロケーションと考え、分解手順において無視することができる。この例示的なアッセイのための予想されるヒストグラムデータは、染料651、653の混合を表すヒストグラムビンを充填しないことになる。この方法は、色チャネルの数より大きい数の染料を有する画像について基準ベクトルを最適化することを可能にする。
【0043】
図7A〜
図7Bは、画像データについて生成されたヒストグラムデータに対する予想されるヒストグラムデータのマッチングを実施するための例示的な実施形態を示す。この実施形態では、平面配置、3D空間内の配置、またはヒストグラムビンの任意の他の幾何学的空間のような幾何学的配置を、この幾何学的空間内の染料の基準ベクトルから作成される単体(たとえば、平面配置のための多角形)に比較することができる。基準ベクトルを使用し、視覚的な基準として働くように多角形をヒストグラムの上でフィットさせることができる。
図7Aは、多角形756を形成する、初期の最適化されていないベクトルを示す。初期基準ベクトルは、ヒストグラムビンの平面配置内で「隅部の点」を画定する。
図7Bは、最適化された基準ベクトルから生成された理想的なポリゴンフィットを示す。基準ベクトル最適化ループは、
図7Aの基準ベクトルを最適化し、
図7Bの観察されたヒストグラムに最も似たモデルヒストグラムを作成することができる。たとえば、
図7Aに示されているポリゴンフィットは、
図7Bに示されているモデルポリゴンフィットとマッチングさせ、よりよいマッチングがあり得る、またはマッチングから生成される品質メトリックが閾値より低いと決定される。結果として、最適化ループを実施し、ヒストグラムに最も合致する基準ベクトルのセットが見つかるまで、探索空間内で可能な基準ベクトルの異なるセットを作成することができる。
【0044】
さらに、3チャネルまたはRGB画像のための示されたヒストグラムを、チャネルの複数の次元についてより抽象的に生成および処理することができる。可視化することもグラフィカルに示すこともできないが、多次元ヒストグラムは、解剖学的知識およびアッセイ情報に基づくモデルヒストグラムとの有用な比較と、予想されるものと画像データ内で観察されるものとの間の最良のフィットを見つけるために調整された基準ベクトルとを引き続き提供することになる。
【0045】
したがって、上述の基準ベクトル最適化ループとの組合せで、また既知の生理学的情報およびアッセイ情報を使用して、理想的なヒストグラムとのヒストグラム比較は、どの基準ベクトルが良質の画像を提供しているか、またはどれを調整する必要があるかを有効に示す。numerical optimizerを使用し、画像を分解するための最適なベクトルを決定するために、定義された探索空間内で解を見つけることができる。
【0046】
したがって、本開示は、理想的な結果を得るために画像データを分解する際に使用される基準ベクトルを最適化するためのシステムおよび方法、たとえばコンピュータによって実施されるシステムおよび方法を提供する。アッセイ情報を、そのアッセイ情報に応じて画像データを規則に対して相関することと共に使用し、ユーザによって入力されたなどの画像に関連付けられたタグまたはメタデータを再調査して基準ベクトルを最適化する。他の点では同様のアッセイ間の小さい、または微妙な変化は、探索空間内で基準ベクトルを調整し、後続の分解の品質メトリックを決定することによって補償することができる。換言すれば、分析中のアッセイについて知られているものを使用し、ノイズ、不可能なことを除外し、注目の標的構造を向上させ、後続の分析または診断に適したきれいな画像を生成することができる。したがって、開示されているシステムおよび方法は、ノイズ、または望ましくないアーチファクトなしに、実質的に所望の、または正確な信号からなる画像の生成を可能にする。望ましくないシグナチャは、画像適応的な基準ベクトルを使用して反復的に最小限に抑え、生物学的に関連のある、また生理学的に妥当な情報だけを残すことができる。さらに、解剖学的または臨床的な病理、前立腺癌/肺癌診断など医療応用例の他に、同じ方法を、地質学または天文学データの遠隔検知など、他のタイプの試料を分析するために実施することができる。さらに、開示されている繰り返される反復は、大きな、または複数のスライド/画像分析の、または1つまたは複数の画像立方体を分析するための正確な分析を可能にし、ハードウェアのグラフィックス処理装置(GPU)にインポートすることができ、マルチスレッドの並列実装を可能にする。
【0047】
本開示の例示的な実施形態の前述の開示は、例示および説明のために提示されている。網羅的なものとすることも、本開示を開示されているその形態に限定することも意図されていない。上記の開示に照らして、本明細書に記載の実施形態の多数の変形形態および修正形態が当業者には明らかになろう。本開示の範囲は、本明細書に添付の特許請求の範囲によって、またそれらの均等物によってのみ定義されるべきである。
【0048】
さらに、本開示の代表的な実施形態について述べる上で、本明細書は、本開示の方法および/またはプロセスをステップの特定のシーケンスとして提示していることがある。しかし、方法またはプロセスが本明細書に記載のステップの特定の順序に依拠しない限り、方法またはプロセスは、記載のステップの特定の順序に限定されるべきでない。当業者なら理解するように、ステップの他のシーケンスが可能であり得る。したがって、本明細書に記載のステップの特定の順序は、特許請求の範囲に対する限定と解釈すべきでない。さらに、本開示の方法および/またはプロセスを対象とする特許請求の範囲は、記載されている順序でそれらのステップを実施することに限定されるべきでなく、当業者なら、それらのシーケンスは変わることがあり、それでも依然として本開示の精神および範囲内にあることを容易に理解することができる。