(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-04-04
(45)【発行日】2022-04-12
(54)【発明の名称】プログラマブル・アレイ顕微鏡を用いた光学共焦点結像のための方法および装置
(51)【国際特許分類】
G02B 21/00 20060101AFI20220405BHJP
G01N 21/64 20060101ALI20220405BHJP
G02B 26/08 20060101ALI20220405BHJP
G02B 26/10 20060101ALN20220405BHJP
【FI】
G02B21/00
G01N21/64 E
G02B26/08 E
G02B26/10 104Z
(21)【出願番号】P 2020534865
(86)(22)【出願日】2017-12-20
(86)【国際出願番号】 EP2017083728
(87)【国際公開番号】W WO2019120502
(87)【国際公開日】2019-06-27
【審査請求日】2020-10-14
(73)【特許権者】
【識別番号】512247223
【氏名又は名称】マツクス-プランク-ゲゼルシヤフト ツール フエルデルング デル ヴイツセンシヤフテン エー フアウ
【氏名又は名称原語表記】MAX-PLANCK-GESELLSCHAFT ZUR FOeRDERUNG DER WISSENSCHAFTEN E.V.
【住所又は居所原語表記】Hofgartenstrasse 8,80539 Muenchen, Bundesrepublik Deutschland
(74)【代理人】
【識別番号】100105360
【氏名又は名称】川上 光治
(74)【代理人】
【識別番号】100145023
【氏名又は名称】川本 学
(72)【発明者】
【氏名】ジョヴィン,トーマス エム
(72)【発明者】
【氏名】デ フリーズ,アントニー ハー べー
(72)【発明者】
【氏名】アルント-ジョヴィン,ドンナ ヨット
【審査官】殿岡 雅仁
(56)【参考文献】
【文献】特開平11-194275(JP,A)
【文献】特表2013-522684(JP,A)
【文献】特開2006-317544(JP,A)
【文献】特表2003-517638(JP,A)
【文献】特開平11-249023(JP,A)
【文献】特開2011-100012(JP,A)
【文献】特表2015-513671(JP,A)
【文献】米国特許出願公開第2016/0202178(US,A1)
【文献】DE VRIES ANTHONY H B; ET AL,GENERATION 3 PROGRAMMABLE ARRAY MICROSCOPE (PAM) FOR HIGH SPEED LARGE FORMAT 以下備考,PROCEEDINGS OF SPIE,SPIE,2015年03月10日,VOL:9376,,PAGE(S):93760C1 - 15,http://dx.doi.org/10.1117/12.2076390,OPTICAL SECTIONING IN FLUORESCENCE
(58)【調査した分野】(Int.Cl.,DB名)
G02B 21/00 - 21/36
(57)【特許請求の範囲】
【請求項1】
プログラマブル・アレイ顕微鏡(PAM)(100)を用いて行われる光学共焦点結像方法であって、
前記プログラマブル・アレイ顕微鏡(PAM)(100)は、光源デバイス(10)と、複数の反射変調器
要素を有する空間光変調器デバイス(20)と、PAM対物レンズと、カメラ・デバイス(30)とを有し、
前記空間光変調器デバイス(20)は、複数の第1群の変調器要素(21)が、励起光を調査対象の物体の共役位置へと方向付けるようおよび前記共役位置から発する検出光を前記カメラ・デバイス(30)へと方向付けるよう選択可能であるように、および、複数の第2群の変調器要素(22)が、前記物体の非共役位置からの検出光を前記カメラ・デバイス(30)へと方向付けるよう選択可能であるように、構成され、
- 前記光源デバイス(10)からの励起光を前記複数の第1群の変調器要素を介して調査対象の前記物体へと方向付ける工程であって、所定のパターン・シーケンスの照射スポットが前記物体の前記共役位置に集束するように前記空間光変調器デバイス(20)が制御され、現在のPAM照射開口を規定する少なくとも1つの単一変調器要素によって各照射スポットが形成される、工程と、
- 各パターンのPAM照射開口に対して前記物体の共役位置からの検出光を収集することに基づいて共役画像I
cの画像データを収集する工程と、
- 各パターンのPAM照射開口に対して前記カメラ・デバイス(30)の非共役カメラ・チャネルで前記複数の第2群の変調器要素(22)を介して前記物体の非共役位置からの検出光を収集することに基づいて非共役画像I
ncの画像データを収集する工程と、
- 前記共役画像I
cおよび前記非共役画像I
ncの画像データに基づいて前記物体の光断層像(OSI)を生成する工程と、
を含み
、
- 前記共役画像I
cの画像データを収集する工程は、
- 各パターンのPAM照射開口に対して前記カメラ・デバイス(30)の前記非共役カメラ・チャネルで、前記現在のPAM照射開口を包囲する前記複数の第2群の変調器要素(22)の中の複数の変調器要素を介して前記物体の前記共役位置からの前記検出光の一部を収集すること
を含み、
特徴として、
- 較正光源デバイス(10)で前記複数の変調器要素に照射する工程と、
- 前記複数の変調器要素で較正パターンのシーケンスを生成する工程と、
- 前記カメラ・デバイス(30)を用いて前記較正パターンの較正画像を記録する工程と、
- 前記記録した較正画像を処理して、前記カメラ・デバイス(30)の各カメラ・ピクセルを前記複数の変調器要素の中の1つに割り当てる較正データを生成する工程と、
を有する較正手順を含み、
- 全ての収集された画像が累積され、複数のカメラ信号がそれらの対応する発生元の変調器要素に逆マッピングされ、
- 前記複数のカメラ信号の複数の重心は、前記対応する発生元の変調器要素に割り当て可能な信号強度を生成するように所定のアルゴリズムによって複数の強度が合成された1つの局所的部分画像を規定するものである、
光学共焦点結像方法(30)。
【請求項2】
前記空間光変調器デバイス(20)は、前記現在のPAM照射開口が、近似的にM*λ/2NA以下の径を有するように制御され、ここで、λは前記励起光の中心波長であり、NAは前記対物レンズの開口数であり、Mは、前記変調器開口と調査対象の前記物体との間の前記対物レンズおよびリレー・レンズの合成倍率である、請求項1に記載の結像方法(30)。
【請求項3】
前記現在のPAM照射開口の各々が100μm未満の寸法を有する、請求項1または2に記載の結像方法。
【請求項4】
前記PAM照射開口の各々が1つの単一変調器要素(21)によって形成される、請求項1乃至3のいずれかに記載の結像方法。
【請求項5】
- 前記PAM照射開口の各々に対して、個々の変調器要素は、前記PAM照射開口に対応する前記カメラ・デバイス(30)の前記非共役カメラ・チャネルの前記カメラ信号の重心を包囲する非共役カメラ・ピクセル・マスク(3)を規定し、
- 各非共役カメラ・ピクセル・マスク(3)が拡張され、
- 背景
の信号の推定が、前記非共役(I
nc)画像および共役(I
c)画像の前記画像データの補正として用いるために、前記拡張された非共役カメラ・ピクセル・マスク(3)から得られ、
- 前記カメラ・デバイス(30)の前記非共役カメラ・チャネルに対応する光断層像(
OSI
nc)成分が形成される
請求項1乃至4のいずれかに記載の結像方法。
【請求項6】
前記共役画像I
cを形成する工程は、さらに、
- 各パターンのPAM照射開口に対して前記カメラ・デバイス(30)の共役カメラ・チャネルで前記複数の第1群の変調器要素(21)を介して前記物体の前記共役位置および前記非共役位置からの検出光を収集することによって、部分共役画像I
cを形成し、
- 前記カメラ・デバイス(30)の前記共役カメラ・チャネルで収集された前記画像から前記部分共役画像I
cを抽出し、
- I
ncの評価量からその非共役寄与分の推定量を減算することによって前記部分共役画像I
cを補正し、
- 前記I
cチャネルに対応する前記光断層像(OSI
c)成分を形成し、
- 前記非共役寄与分と共役寄与分を合成する(OSI=OSI
nc+OSI
c)ことによって前記光断層像全体
(OSI)を形成する
ことを含むものである、請求項1乃至5のいずれかに記載の結像方法。
【請求項7】
- 前記PAM照射開口の各々に対して、個々の変調器要素は、前記PAM照射開口に対応する前記カメラ・デバイス(30)の前記共役カメラ・チャネルの前記カメラ信号の重心を包囲する共役カメラ・ピクセル・マスク(3)を規定し、
- 前記共役カメラ・ピクセル・マスク(3)が拡張され、
- 背景
の信号の推定が、前記光断層像を形成するように前記共役(I
c)画像および非共役(I
nc)画像の補正として用いるために、前記拡張された共役カメラ・ピクセル・マスク(3)から得られる、
請求項6に記載の結像方法。
【請求項8】
- 前記較正パターンは、各々が少なくとも1つの単一変調器要素によって生成され重複のないカメラ応答を有する複数の光スポットからなる正規の、好ましくは六角格子の、マトリックスのシーケンスを含む、
- 前記較正パターンの数は、全ての変調器要素が、前記較正画像を記録し前記較正データを生成するために使用されるように、選択される、および
- 前記較正パターンのシーケンスは、連続的パターンの変調器要素相互間の分離が最大化されるように、ランダム化される
という特徴の中の少なくとも1つの特徴を含む、請求項
1乃至7のいずれかに記載の結像方法。
【請求項9】
- 前記個々の変調器要素から受け取った光に応答する前記カメラ・デバイス(30)の前記カメラ・ピクセルは、前記較正手順を用いて前記対応する変調器要素にマッピングされる前記マトリックスのカメラ・ピクセルにおける相対的なカメラ信号強度およびそれらの座標の区別可能な固有の安定した分布を形成するものである、請求項
1乃至8のいずれかに記載の結像方法。
【請求項10】
- 前記複数の第1群の変調器要素(21)は、重複のない応答を有する少数(限界1)の要素からなる複数のアレイであり、個々の変調器要素の前記カメラ信号は、前記マトリックスのカメラ・ピクセルにおけるおよび前記較正手順によって規定された前記マトリックスの変調要素における座標を有する相対的信号強度の区別可能な固有の安定した分布を構成するものである、請求項
1乃至
9のいずれかに記載の結像方法。
【請求項11】
さらに、反対側から適用される1つ以上の光源を用いた同じパターンでの同時励起またはタイムシフト励起を含む、請求項
10に記載の結像方法。
【請求項12】
前記複数の第1群の変調器要素は小数の(限界1)の要素からなる2次元直線アレイからなり、個々の変調器要素の前記カメラ信号は、前記マトリックスのカメラ・ピクセルにおけるおよび前記較正手順によって規定された前記マトリックスの変調要素における座標を有する相対信号強度の区別可能な固有の安定した分布を構成するものである、請求項8乃至
11のいずれかに記載の結像方法。
【請求項13】
- 前記光源デバイス(10)は、励起光を前記物体の前記共役位置へと方向付けるよう配置された第1の光源と、励起光を前記物体の前記非共役位置へと方向付けるよう配置された第2の光源とを含み、
- 前記第2の光源は、前記第1の光源によって生成された前記励起が前記物体の前記共役位置に制限されるように、前記励起光を生成するよう制御されるものである、
請求項1乃至
12のいずれかに記載の結像方法。
【請求項14】
前記第2の光源は、前記物体の前記共役位置の周りに抑制された励起状態を形成するよう制御されるものである、請求項
13に記載の結像方法。
【請求項15】
前記物体からの前記検出光は、遅延放出光、例えば遅延蛍光およびリン光、であって、励起および蛍光のための開口パターンが区別可能であり実験的に同期可能であるようになっているものである、請求項1乃至
14のいずれかに記載の結像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラマブル(プログラム可能な)アレイ顕微鏡(PAM)を用いて行われる光学共焦点結像方法に関する。さらに、本発明は、時空間光変調結像系(システム)を用いて共焦点光学結像を行うよう構成されたPAMに関する。本発明の適用例は、特に共焦点顕微鏡法に存在する。
【背景技術】
【0002】
欧州特許出願公開第911667号、欧州特許出願公開第916981号および欧州特許第2369401号には、蛍光顕微鏡法における迅速な広視野(ワイドフィールド)光断層化(切断、断面)を達成するために、同時に捕捉される共役(c、“合焦” (in-focus、焦点内)、Ic)と非共役(nc、“焦点外れ”(out-of-focus)、Inc)の2D(2次元)画像の組合せに基づいて作動されるPAMが開示されている。複数の開口(“ピンホール”)は、大型の(現在は1080p、1920×1080の)デジタル・マイクロミラー・デバイス(DMD)アレイの起動された(“オン”状態の)マイクロミラー要素(素子)の分布によって規定または画定される。DMDは、(1つ以上の)光源デバイスおよび(1つ以上の)カメラ・デバイスを含むPAMモジュールが単一の出力/入力ポートを介して取り付けられた顕微鏡の主画像フィールドに配置される。DMDは、或るパターンの励起光を試料へと方向付け、かつ、対応する放射光を同じマイクロミラー・パターンを介して受け取りそれをカメラ・デバイスへと方向付ける、という二重の目的を果たす。DMDは励起目的に広く適用されるが、励起経路(パス)と検出経路の双方におけるそれらの使用(“二重(デュアル)経路原理”)は、PAMの思想とその実現に特有のものである。“オン”状態および“オフ”状態の各ミラーは、それぞれc画像とnc画像のレジストレーション(位置合せ、重ね合せ)のために、蛍光信号(シグナル)を二重(デュアル)カメラへと方向付ける。
【0003】
通常の手順では、所与のシーケンスのパターンによって生成された各信号が、最大捕捉速度を可能にするために、蓄積されて、各単一露出(露光)として各カメラから読み出された。しかし、通常のPAM動作手順には、通常の単純な蛍光放出を測定するための、空間結像(画像化)解像度(分解能)、システムの複雑性、および/または制限に関して、諸限界が存在し得る。特に、通常のPAMのカメラ・デバイスは、共役および非共役画像をそれぞれ収集するのに必要な2つのカメラ・チャネルを必然的に含んでいる。さらに、高度な蛍光測定技術、特に構造化照射蛍光顕微鏡法(SIM)(J. Demmerle et al., "Nature Protocols" vol. 12, 988-1010 (2017)を参照)、または単一分子局在蛍光顕微鏡法(SMLM)(Nicovich et al., "Nature Protocols" vol. 12, 453-460 (2017)を参照)、または蛍光顕微鏡で実質的に100nm未満の解像度を達成する超解像蛍光顕微鏡法は、通常のPAMでは実現できない。超解像蛍光顕微鏡法には、 例えば、選択抑制法(selective depletion methods)、例えば、RESOLFT(可逆的飽和光学蛍光遷移、切替性光学蛍光遷移)(Nienhaus et al., "Chemical Society Reviews" vol. 43, 1088-1106 (2014))、確率的光学再構成顕微鏡法(STORM(stochastic optical reconstruction microscopy)、Tam and Merino in Journal of Neurochemistry, vol. 135, 643-658 (2015)参照); またはMinFlux(最小放射束)(C. A. Combs et al., "Fluorescence microscopy: A concise guide to current imaging methods. Current Protocols in Neuroscience" 79, 2.1.1-2.1.25. doi: 10.1002/cpns.29 (2017);およびBalzarotti et al., "Science" 355, 606-612 (2017) 参照)が含まれる。
【先行技術文献】
【特許文献】
【0004】
【文献】欧州特許出願公開第911667号
【文献】欧州特許出願公開第916981号
【文献】欧州特許第2369401号
【非特許文献】
【0005】
【文献】J. Demmerle et al., "Nature Protocols" vol. 12, 988-1010 (2017)
【文献】Nicovich et al., "Nature Protocols" vol. 12, 453-460 (2017)
【文献】Nienhaus et al., "Chemical Society Reviews" vol. 43, 1088-1106 (2014)
【文献】Tam and Merino in Journal of Neurochemistry, vol. 135, 643-658 (2015)
【文献】C. A. Combs et al., "Fluorescence microscopy: A concise guide to current imaging methods. Current Protocols in Neuroscience" 79, 2.1.1-2.1.25. doi: 10.1002/cpns.29 (2017)
【文献】Balzarotti et al., "Science" 355, 606-612 (2017)
【発明の開示】
【0006】
発明の目的
本発明の目的は、通常の技術の欠点を解消することができる、共焦点光学結像のための改善された方法および/または装置を実現することである。特に、本発明の目的は、増大された空間分解能、低減されたシステムの複雑性、および/または高度な蛍光測定技術の新しいPAM適用例を有する共焦点光学結像を実現することである。
【0007】
発明の概要
上述の目的は、各独立請求項の中の1つの請求項の諸特徴を含む、光学共焦点結像法および/または時空間光変調結像系(プログラマブル・アレイ顕微鏡、PAM)によって達成(解決)される。本発明の好ましい実施形態および適用例は、従属請求項に記載される。
【0008】
本発明の第1の一般的な態様によれば、上述の目的は、PAMを用いて行われる光学共焦点結像方法によって達成(解決)され、そのPAMは、光源デバイスと、複数の反射変調器要素(elements:素子)を有する空間光変調器デバイスと、PAM対物レンズと、カメラ・デバイスとを有する。空間光変調器デバイス、特に個別に傾斜可能なミラーのアレイを有するディジタル・マイクロミラー・デバイス(DMD)は、複数の第1群の変調器要素(first groups of modulator elements)が、励起光を調査対象の物体(試料)の共役位置へと方向付けるようおよびこれらの(共役)位置から発する検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、および、複数の第2群の変調器要素(second groups of modulator elements)が、その物体の非共役位置からの検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、構成される。
【0009】
光学共焦点結像方法は、次の複数の工程を含んでいる。励起光が、光源デバイスから、特に複数の第1群の変調器要素を介しおよび反射および/または屈折結像光学系を介して、調査対象の物体へと方向付けられる(励起または照明工程)。空間光変調器デバイスは、所定のパターン・シーケンスの照射スポットが物体の各共役位置に集束するように制御され、その際、各照射スポットは、現在(着目)のPAM照射開口を規定または画定する1つの単一変調器要素または一群の隣接する変調器要素によって生成される。共役画像Icの画像データおよび非共役画像Incの画像データは、カメラ・デバイスで収集される。共役画像Icの画像データは、各パターンの照射スポットおよびPAM照射開口に対して、物体の各共役位置からの検出光を使用することによって収集される(それら共役位置は、空間光変調器表面におよび(1つまたは複数の)カメラ・デバイスの結像面に対する共役焦点面である物体における平面における各位置である)。非共役画像Incの画像データは、各パターンの照射スポットおよびPAM照射開口に対して、物体の非共役位置(共役位置とは異なる位置)から複数の第2群の変調器要素を介して受け取った検出光を使用することによって収集される。物体の光断層像(OSI:光学断面画像)は、好ましくはPAMに含まれる制御デバイスを用いて、共役画像Icおよび非共役画像Incに基づいて、生成される。制御デバイスは、例えば、光源デバイスおよび空間光変調器デバイスを制御するための少なくとも1つの制御ユニットと、カメラ・デバイスから受信したカメラ信号を処理するための少なくとも1つの計算ユニットとをそれぞれが含む少なくとも1つのコンピュータ回路を含んでいる。
【0010】
本発明によれば、共役画像Icの画像データを収集するその工程は、各パターンのPAM照射開口に対して、カメラ・デバイスの非共役カメラ・チャネルで現在のPAM照射開口を包囲する複数の第2群の変調器要素の中の複数の変調器要素を介して、物体の各共役位置からの検出光の一部を収集することを含んでいる。調査対象の物体(試料)における開口サイズおよび吸収/放出種(species)の3次元(3D)分布に応じて、共役Ic画像は、試料の非共役位置(配置)から発した(発生した)検出光の一部割合(fraction)をも含み得る。逆に、非共役Inc画像は、試料の共役位置(配置)から発した検出光の一部割合をも含み得る。本発明によれば、特にOSIを形成するその工程は、Ic画像およびInc画像における共役および非共役検出光の各割合を計算しその両信号を合成する(組み合わせる)ことに基づく。この目的を達成するために、本発明は、次のような励起光の特性を使用し、即ち、その励起光は、物体の共役(“合焦”または“焦点内”(in-focus))体積(空間)要素に当たる(衝突する)だけでなく、結像光学系に対応する3次元(3D)psf(“3次元点広がり関数”、例えば、焦点面付近で(について)近似的に楕円体であり、例えば焦点面からの軸方向距離が長くなるにしたがって円錐状に、発散する)によって決定づけられまたは影響される強度分布でかつそれによって励起種の非共役(“焦点外れ”(out-of-focus))分布が形成される強度分布で、物体を横断もするものである。発明者が発見したこととして、照射チャネルおよび検出チャネルにおけるPAM結像光学系の点広がり関数(psf)に起因して、小さいPAM照射開口での動作の場合に、物体の共役位置からの検出光のかなりの部分が、非共役カメラ・チャネルへと方向付けられ、そこで(非共役カメラ・チャネルで)それが物体の非共役位置からの検出光と重ね合わされ、また、その両方の寄与分が互いに分離できる。これによって、PAMは、非共役カメラ・チャネルを形成する1つの単一カメラのみを有することができるので、システムの複雑さが大幅に低減し、また、非共役カメラ・チャネルを介した光の収集によって照射開口のサイズ(照射光スポット直径)を低減できるので、分解能(解像度)が増大する。小さい照射開口と検出光の効率的な収集との組合せによって、高い信号対ノイズ(雑音)比を維持しつつ、横方向の空間分解能(解像度)と光断層化効率が大幅に向上する。
【0011】
本発明の第2の一般的な態様によれば、上述の目的は、PAMを用いて行われる光学共焦点結像方法によって達成(解決)され、そのPAMは、本発明の第1の態様によるPAMと同様に、光源デバイスと、複数の反射変調器要素を有する空間光変調器デバイスと、PAM対物レンズと、カメラ・デバイスとを有する。特に、本発明の第1の態様を参照して述べたように、空間光変調器デバイスが作動され、励起光が調査対象の物体へと方向付けられる。共役画像Icは、各パターンの照射スポットおよびPAM照射開口に対して、カメラ・デバイスの共役カメラ・チャネルで複数の第1群の変調器要素を介して物体の各共役位置からの検出光を収集することによって形成され、非共役画像Incは、各パターンの照射スポットおよびPAM照射開口に対して、カメラ・デバイスの非共役カメラ・チャネルで複数の第2群の変調器要素を介して物体の非共役位置からの検出光を収集することによって形成される。物体の光学断層化(切断、断面)画像は、共役画像Icおよび非共役画像Incに基づいて得られる。
【0012】
本発明によれば、共役(Ic)画像および非共役(Inc)画像は、各変調器要素の位置をカメラ・デバイスの、特に共役および非共役カメラ・チャネルを形成するカメラの、カメラ・ピクセル位置にマッピングすることを含む較正手順によって得られた較正データを使用することによって、相互に位置合せされる。較正手順は、較正画像を収集し、記録された較正画像を処理して、カメラ・デバイスの各カメラ・ピクセルをそれらの変調器要素の1つに割り当てる較正データを生成するようにすることを含んでいる。
【0013】
利点として、較正手順を適用することによって、“不鮮明な”記録されたスポットの総和の強度を空間光変調器デバイス(DMDアレイ)における既知の複数の単一位置にマッピングすることができ、従って空間結像解像度(画像分解能)が向上する。さらに、cおよびncの各カメラ画像が元の同じ(供給源)DMDアレイにマッピングされ、従ってDMD空間におけるc分布とnc分布の完全なレジストレーションが保証される。これらの利点は、通常のPAMの動作に較正手順を追加することによって、直ぐに得ることができる。以下でさらに概説されるように、本発明の第1の一般的な態様による光学共焦点撮像方法の実施形態に較正手順が適用される場合、特定の利点が得られる。
【0014】
本発明の第3の一般的な態様によれば、上述の目的は、光源デバイスと、複数の反射変調器要素を有する空間光変調器デバイスと、PAM対物レンズと、リレー(中継)光学系と、カメラ・デバイスと、制御デバイスとを有するPAMによって達成(解決)される。PAMは、本発明の上述の第1の一般的な態様による光学共焦点結像方法を実行するよう構成されることが、好ましい。空間光変調器デバイスは、複数の第1群の変調器要素が、励起光を調査対象の物体の共役位置へと方向付けるようおよびこれらの位置から発する検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、および、複数の第2群の変調器要素が、物体の非共役位置からの検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、構成される。光源デバイスは、励起光を複数の第1群の変調器要素を介して調査対象の物体へと方向付けるよう配置され、その際、制御デバイスは、所定のパターン・シーケンスの照射スポットが物体の共役位置に集束されるように空間光変調装置を制御するよう適合化され、また、各照射スポットは、現在のPAM照射開口を規定または画定する少なくとも1つの単一変調器要素によって形成される。カメラ・デバイスは、各パターンの照射スポットおよびPAM照射開口に対して物体の共役位置からの検出光を収集することによって、共役画像Icの画像データを収集するよう配置される。さらに、カメラ・デバイスは非共役カメラ・チャネルを含み、これ(カメラ・チャネル)は、各パターンの照射スポットおよびPAM照射開口に対して複数の第2群の変調器要素を介して物体の非共役位置からの検出光を収集することによって、非共役画像Incの画像データを収集するよう構成される。制御デバイスは、共役画像Icおよび非共役画像Incに基づいて物体の光断層像を生成するよう適合化される。制御デバイスは、例えば、光源デバイスおよび空間光変調器デバイスを制御するための少なくとも1つの制御ユニットと、カメラ・デバイスから受信したカメラ信号を処理するための少なくとも1つの計算ユニットとをそれぞれ含む少なくとも1つのコンピュータ回路、を含んでいる。
【0015】
本発明によれば、カメラ・デバイスの非共役カメラ・チャネルは、各パターンの照射スポットおよびPAM照射開口に対して、現在のPAM照射開口を包囲する1つの第2群の変調器要素の中の複数の変調器要素を介して物体の共役位置からの検出光の一部を収集するよう配置される。制御デバイスは、非共役画像Incに含まれる寄与分としての共役画像Icを抽出するよう適合化されることが、好ましい。
【0016】
本発明の第4の一般的な態様によれば、上述の目的は、光源デバイスと、複数の反射変調器要素を有する空間光変調器デバイスと、PAM対物レンズと、リレー光学系と、カメラ・デバイスと、制御デバイスとを有するPAMによって達成(解決)される。そのPAMは、本発明の上述の第2の一般的な態様による光学共焦点結像方法を実行するよう構成されることが、好ましい。空間光変調器デバイスは、複数の第1群の変調器要素が、励起光を調査対象の物体の共役位置へと方向付けるようおよびこれらの位置から発する検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、および、複数の第2群の変調器要素が、物体の非共役位置からの検出光をカメラ・デバイスへと方向付けるよう選択可能であるように、構成される。光源デバイスは、励起光を複数の第1群の変調器要素を介して調査対象の物体へと方向付けるよう配置される。制御デバイスは、所定のパターン・シーケンスの照射スポットが物体の共役位置に集束されるように空間光変調器デバイスを制御するよう適合化され、その際、各照射スポットは、現在のPAM照明開口を規定または画定する少なくとも1つの単一変調器要素によって形成される。カメラ・デバイスは、各パターンの照射スポットおよびPAM照射開口に対して複数の第1群の変調器要素を介して物体の共役位置からの検出光を収集することによって、共役画像Icを形成するよう構成された共役カメラ・チャネル(cカメラ)を有する。さらに、カメラ・デバイスは非共役カメラ・チャネル(ncカメラ)を有し、そのチャネルは、各パターンの照射スポットおよびPAM照射開口に対して複数の第2群の変調器要素を介して物体の非共役位置からの検出光を収集することによって、非共役画像Incを形成するよう構成される。制御デバイスは、共役画像Icおよび非共役画像Incに基づいて物体の光断層像を生成するよう適合化される。
【0017】
本発明によれば、制御デバイスは、複数の変調器要素の位置を複数のカメラ・ピクセル位置にマッピングすることを含む較正手順によって得られる較正データを使用することによって、共役(Ic)画像と非共役(Inc)画像を位置合せするよう適合化される。
【0018】
本発明の好ましい実施形態によれば、空間光変調器デバイスは、現在のPAM照射開口が近似的にM*λ/2NA以下の径(直径)を有するように制御され、ここで、λは励起光の中心波長であり、NAは対物レンズの開口数であり、Mは、変調器開口と調査対象の物体との間の対物レンズとリレー・レンズの合成(組合せ)倍率(combined magnification)である。利点として、PAM照射開口は、エアリーディスクの直径以下の径(直径)を有し(それ(ディスク)は、円形開口を有する完全レンズが形成できるであろう最も焦点が合った回折限界の光スポットを表す)、従って、通常の各PAMおよび共焦点顕微鏡と比較して横方向の空間分解能(解像度)が増大する。本発明の特に好ましい実施形態によれば、現在のPAM照射開口の各々は100μm以下の寸法を有する。
【0019】
1つの光スポットまたはPAM照射開口を形成する変調器要素の数は、使用するDMDアレイの変調器要素(ミラー)のサイズと、分解能(解像度)の諸要件とに応じて、選択することができる。複数の変調器要素がPAM照射開口を形成する場合、それらは、コンパクトな配置構成、例えば正方形、を有することが好ましい。PAM照射開口の各々は1つの単一変調器要素によって形成されることが、好ましい。従って、最大の空間分解能(解像度)の利点が得られる。
【0020】
本発明の別の有利な実施形態によれば、カメラ・デバイスは、非共役カメラ・チャネルに加えて、共役カメラ・チャネル(共役カメラ)をさらに含んでいる。この場合、共役画像Icを形成する工程は、各パターンの照射スポットおよびPAM照射開口に対して共役カメラ・チャネルで複数の第1群の変調器要素を介して物体の共役位置および非共役位置からの検出光を収集し、その共役カメラ・チャネルで収集された画像から部分共役画像Icを抽出することによって、部分共役画像Icを形成し、さらに、部分共役画像Icと、非共役画像Incから抽出された寄与分とを重ね合わせることによって光断層像を形成すること、を含んでいる。利点として、この実施形態では、光断層像は、共役位置からの全ての利用可能な光を含み、従って画像信号SNR(信号対ノイズ比)が改善される。
【0021】
PAM照射開口の各々に関して、(1つのPAM照射開口に含まれるまたはその開口を包囲する)複数のPAM照射開口の個々の変調器要素は、1つのPAM照射開口に対応するカメラ・デバイスのそれぞれの共役または非共役カメラ・チャネルのカメラ信号の重心を包囲する共役または非共役カメラ・ピクセル・マスクを規定または画定することが、好ましい。それぞれの各共役または非共役カメラ・ピクセル・マスクは拡張(膨張)させられ、共役(Ic)画像および非共役(Inc)画像の補正(量、値)として用いるために、拡張した共役または非共役カメラ・ピクセル・マスクから、それぞれの背景の共役または非共役信号の推定(量、値)(estimations:概算(量、値))が得られる。利点として、そのマスクの形成および拡張によって、画質を改善する追加的な背景情報が得られる。
【0022】
本発明の第1の一般的態様による光学共焦点結像方法の特に好ましい実施形態によれば、較正光源デバイスで複数の変調器要素に照射する工程と、複数の変調器要素で較正パターンのシーケンスを生成する工程と、カメラ・デバイスで較正パターンの較正画像を記録する工程と、カメラ・デバイスの各カメラ・ピクセルを複数の変調器要素の中の1つに割り当てる較正データを生成するようにその記録された較正画像を処理する工程と、を含む較正手順、が適用される。較正光源デバイスは、例えば、空間光変調器デバイスに正面から均一に照射(照明)する白色光源またはカラー光源を(蛍光物体の代わりに)含んでいる。較正手順を用いて、2つのcおよびnc画像の正確なレジストレーション(位置合せ)というPAM動作(操作)の主要な技術的課題が解決される。
【0023】
較正パターンは、各々が少なくとも1つの単一変調器要素によって生成される光スポットの、例えば正則(規則的)マトリックスの、好ましくは六角格子マトリックスの、シーケンスを含んでおり、その光スポットは、重複のない(非オーバラップの)カメラ応答を有するものであることが、好ましい。換言すれば、本発明の全ての態様において較正を使用する好ましい実施形態によれば、選択された複数の変調器要素の分離は、カメラ・デバイスによって記録された誘発信号(evoked signals)の対応する分布が隣接の各分布の信号から明確に分離されるようなものである。利点として、カメラ画像における複数の記録スポットは、それらが明確に(一義的に)セグメント化できるように、重複なく充分に分離される。光スポットの六角格子マトリックスは、複数の単一変調器要素がカメラ検出器平面内で全ての方向に互いに等しくかつ充分に離れていて、カメラで複数の単一変調器要素からの単一応答の収集が最適化される、という利点があるので、特に好ましい。
【0024】
本発明の全ての態様において較正を使用する別の好ましい実施形態によれば、較正パターンの数は、全ての変調器要素が各較正画像を記録し較正データを形成するのに使用されるように、選択される。利点として、これによって、空間光変調器デバイスを完全にカバーする較正が可能になる。
【0025】
本発明の全ての態様において較正を使用する別の好ましい実施形態によれば、較正パターンのシーケンスは、連続的パターンの変調器要素相互間の分離が最大化されるように、ランダム化される。利点として、これによって、互いに隣接する軌跡(loci)の時間的摂動または擾乱(temporal perturbations)(例えば、一時的な抑制(depletion:枯渇))を最小化することできる。
【0026】
本発明の別の利点として、個々の変調器要素から受け取った光に応答するカメラ・デバイス(cおよび/またはncチャネル)のカメラ・ピクセル、即ちピクセルのカメラ信号は、較正手順を使用して対応の変調器要素にマッピングされるそのマトリックスのカメラ・ピクセルにおける座標に対応付けられる相対的なカメラ信号強度の区別可能な固有のかつ安定した分布を形成することが、好ましい。その分布は、複数の変調器要素から発せられる(で生じる)各強度の任意の分布に対する応答を規定する連立線形方程式で記述される。
【0027】
利点として、様々なマッピング技術が利用可能である。第1の変形例(重心(セントロイド)法)によれば、収集された全ての較正パターン画像が蓄積され(照射パターンのシーケンス全体の画像信号の重ね合わせ)、カメラ信号が、対応する元の変調器要素に逆マッピングされ、その際、カメラ信号の重心(セントロイド)は、複数の強度が所定アルゴリズム(例えば、重心位置を中心とする3×3領域の算術またはガウス平均値)によって結合または合成される局所的(ローカル)部分(サブ)画像を規定して、対応するまたは元の変調器要素に割り当て可能な信号強度を生成するようにする。同じ手順が、共役チャネルと非共役チャネルに互いに独立に適用され、その結果、変調器要素の座標系においてその2つが位置合せされる。
【0028】
第2の変形例(エアリー開口法)によれば、収集された全ての画像が蓄積され、カメラ信号が再びそれらの対応する元の変調器要素へと逆マッピングされる。照射パターンのシーケンス全体の画像信号が重ね合わされる。照射パターンは、(励起光の中心波長に関連する)エアリー直径と同程度である寸法の照射開口を含んでいる。この場合、パターン・シーケンス全体に対する重複(オーバラップ)したカメラ応答から生じる画像内の全ての各位置における全ての各信号は、較正手順で既知の係数を有する一次方程式で表され、対応する変調器要素に当たる(衝突する)対応の放出信号は、画像全体を記述する連立一次方程式(system of linear equations)の解によって得られる。従って、個々の変調器要素の応答を表すカメラ信号は、変調器マトリックスにおけるそれらの対応する座標へと逆にマッピングされて、パターン・シーケンス全体に対する重複した応答から生じる画像内の全ての各位置での信号を、既知の係数を有する一次方程式で表すことができ、対応する複数の変調器要素に当たるその放出信号は、特定の位置(座標)に寄与し、その際、これらの信号は、画像全体を記述する連立一次方程式の解によって評価される。利点として、連立一次方程式を使用することによって、蛍光画像が改善された精度で得られる。
【0029】
本発明の特定の適用例では、空間光変調器デバイスおよび第1の励起光源に対して反対側から適用される(当てられる)1つ以上の光源で、同じパターンで、同時のまたは時間シフトされた励起が与えられる。励起光が一方の側のみから供給される通常の技術とは対照的に、この実施形態によって、少なくとも1つの第2の側からの励起が可能になる。少なくとも1つの第2の励起光源を使用して、物体における励起状態の局所的分布を制御することができ、特に、共役位置または非共役位置における励起状態の数を減らすことができる。利点として、この実施形態によって、例えば、RESOLFT、MINFLUX、SIMおよび/またはSMLのような、高度の蛍光画像技術の適用が可能になる。
【0030】
従って、本発明の好ましい実施形態では、光源デバイスは、励起光を物体の共役位置へと方向付けるよう配置された第1の光源と、励起光を物体の非共役位置へと方向付けるよう配置された第2の光源とを含んでおり、また、第2の光源は、第1の光源によって形成される励起が物体の共役位置に制限されるように、励起光を生成するよう制御される。特に、第2の光源は、物体の共役位置の付近(周り)に、抑制された(枯渇した)励起状態を形成するよう制御することができる。
【0031】
さらに、物体からの検出光は、例えば遅延した蛍光およびリン光のような遅延放出光であってもよく、励起および検出のための変調器要素の各開口パターンが、区別可能で実験的に同期させることができるようになっていてもよい。
【0032】
本発明の別の好ましい実施形態によれば、複数の第1群の変調器要素は、少数(限界1)の要素からなる複数の2次元(2D)直線アレイ(配列)からなり、個々の変調器要素の各カメラ信号は、そのマトリックスのカメラ・ピクセルにおけるおよび較正手順によって規定(画定)されたそのマトリックスの変調要素における各座標を有する相対的信号強度の区別可能な固有の安定した分布を構成し、高度の蛍光技術を適用するための他の利点を得ることができる。
【0033】
本発明は、以下の他の利点および特徴を有する。本発明によるPAMによって、高速の捕捉、広視野(大きいフィールド)、優れた分解能(解像度)および断層化力(パワー)、および単純な(即ち“安価な”)ハードウェアが可能になる。励起と放出の両方の点広がり関数を、信号を失うことなく最適化することができる。
【0034】
本発明の他の態様によれば、本発明による複数の方法の1つを実行するためのプログラマブル(プログラム可能な)アレイ顕微鏡を制御するコンピュータ実行可能な命令を含むコンピュータ読取り可能媒体、本発明による複数の方法の1つを実行するためのプログラム・コードを有するコンピュータ読取り可能媒体に位置(常駐)するコンピュータ・プログラム、および、例えば本発明による複数の方法の1つを実行するためのプログラム命令を含むコンピュータ読取り可能記憶媒体を含む制御デバイス装置、が説明される。
【0035】
本発明の好ましい実施形態の他の利点および詳細を、図面を参照して以下に説明する。
【図面の簡単な説明】
【0036】
【
図1】
図1は、本発明の好ましい実施形態によるPAMにおける照射光路および検出光路の概略図である。
【
図2】
図2は、本発明の好ましい実施形態による較正手順を示すフローチャートである。
【
図3】
図3は、本発明の好ましい実施形態による較正手順において使用される単一開口マッピングの例を示す図である。
【
図4】
図4は、本発明の好ましい実施形態による較正手順における各レジストレーション(位置合せ)方法の比較を表す実験結果である。
【
図5】
図5は、本発明の好ましい実施形態による共役および非共役の単一開口画像を処理するための拡張マスクを形成することを示す例示である。
【
図6】
図6は、本発明の好ましい実施形態による光学共焦点結像方法を用いて得られた他の実験結果である。
【発明を実施するための形態】
【0037】
発明の好ましい実施形態
本発明の好ましい実施形態の以下の説明は、全てが光断層化(optical sectioning:光切断)を保持する3つのPAM動作モードに基づいて、分解能(resolution:解像度)の向上と速度の間の得失を評価しつつ、個々の画像捕捉に関する本発明による方策の実現に関する。それらは、結像の横方向の分解能(解像度)を向上させる3つの工程での動作を可能にする捕捉およびデータ処理の方法を組み込んでいる。第1のPAM動作モード(またはRES1モード)は、結果的に200nm以上の横方向分解能(解像度)が得られるような本発明による較正の使用に基づくものである。第2のPAM動作モード(またはRES2モード)は、照射開口の減少(縮小)を可能としかつ結果的に100nm乃至200nmの範囲の横方向分解能(解像度)が得られるような、本発明による、非共役カメラ・チャネルからの共役画像の抽出の使用に基づくものである。第3のPAM動作モード(またはRES3モード)は、結果的に100nm未満の横方向分解能(解像度)が得られるような高度の蛍光技術に基づくものである。留意すべきこととして、RES1モードでの較正が好ましいが、RES2およびRES3モードの任意機能は、複数の単一変調器要素から共役および非共役信号を“受信する”(受け取る)複数のカメラ・ピクセルの分布を含む他の予め格納された参照データに基づいて代替的に実行できるものである。
【0038】
これらの3つの範囲の向上された分解能(解像度)は、通常の共焦点顕微鏡法、“SIM”手法の系統(ファミリ)、例えばRESOLFT(可逆的飽和性光学蛍光遷移)のような選択的抑制(ディプリーション)法、または、例えばFLIM、FRET、時間分解遅延蛍光またはリン光、ハイパースペクトル画像(結像)、最小露光量(MLE)および/またはトラッキングのような他の方法によって、それぞれ達成される分解能(解像度)に対応する。利点として、これらのモードの間での切換えに、機器を物理的に変更する必要がない。留意すべきこととして、上述の3つの動作モードは、別々に実現することができ、例えば、RES1モードまたはRES2モードまたはRES3モードを単独で、または組合せで、例えばRES2の機能を含むRES3モードを、実現することができる。従って、各動作モード単独およびその任意の組合せは本発明の独立した構成と見なされる。
【0039】
2つのカメラを有するカメラ・デバイスを含むPAMについて説明する。留意すべきこととして、特に、予め格納された較正データが利用可能であるので較正が省略されるという場合、および、光断層像が非共役カメラのみから抽出される場合に、単一カメラの実施形態を代替実施形態で使用することができる。
【0040】
以下の動作モードの説明では、PAMを使用する、較正手順、共役画像抽出、および高度の蛍光技術の実装について説明する。
図1は、PAM100の複数の構成要素を概略的に示しており、PAM100は、例えば半導体レーザのような1つまたは2つの光源11、12を含む光源装置10、傾斜可能な反射変調器要素21、22を有する例えばDMDアレイ20のような空間光変調器デバイス、1つの非共役カメラ31または2つの共役および非共役カメラ31、32を有するカメラ・デバイス30、構成要素10、20および30に接続された制御デバイス(制御装置)40、を有する。例えば、顕微鏡本体、対物レンズ、リレー(中継)光学系、調査対象の物体(対象物)1(試料)の支持体のような、PAMの他の詳細は、その概略図には示されていない。既知のPAMの詳細、例えば、光学装置(セットアップ)、空間光変調器デバイスの制御手段、カメラ信号の収集、共役画像と非共役画像から得られる光断層像の生成は、通常のPAMで知られているように実装される。欧州特許出願公開第2369401号の開示内容を、特に、
図1、2、4および5に示されるPAMの構造および動作並びにその説明および結像光学系の設計に関して、参照により本明細書に組み込む。
【0041】
より詳しくは、DMDアレイ20は、PAM100の変調器平面(変調面)に配置された変調器要素21、22(ミラー要素)のアレイを含み、その変調器要素の各々は、2つの状態(傾斜角。
図1の拡大断面図を参照)の間で個別に切り替えることができる。例えば、2進(バイナリ)1080p(高解像度)パターンは、例えば約16kHzの周波数で生成される。結像光学系(
図1には示されていない)は、照射光AをDMDアレイ20から(“オン”傾斜状態を介して)PAM100における物体1上に集束させるよう、およびDMDに向けた照射光に応答して物体において生成された放出光を中継するよう配置される。後者では、検出光を、各マイクロミラーの傾斜角に対応する2つの経路に分割する。1つの検出器カメラ32は、(“オン”状態のミラーから発する)所謂“共役”光を収集するよう配置され、第2カメラ31は、(“オフ”位置にあるミラーから発する)“非共役光”を検出するよう配置される。その2つの画像は、ポイント・スキャン・システムによって生成される“共焦点”画像と同様に、光学的に断層化された画像(光断層像)を生成するように、単純な減算手順によって(レジストレーション(位置合せ)および歪み補正の後で)リアルタイムで結合または合成される。しかし、PAMの励起デューティ・サイクル(比)は、桁違いに(数オーダも)高く、従って生体系(living systems)に対して非常に高いフレーム・レート(周波数)が必要になる。
【0042】
光源11、12からDMDアレイ20を介して物体1に進みおよびDMDアレイ20を介してカメラ31、32までに戻る光ビームが、
図1において線だけで表されている。実際には、DMDアレイ20の表面全体を覆う広い照射が形成され、DMDアレイ20は、照射スポットの各パターンが物体1へと方向付けられその焦点面2に集束されるように、制御される。従って、実際には、各照射スポットは、
図1に示されているようにライン・ビーム・パス(直線ビーム経路)を形成する。
【0043】
DMDアレイ20(
図1中の拡大概略図を参照)は、複数の第1群の変調器要素(例えば21)が、励起光Aを、物体1の焦点平面2内の各共役位置へと方向付け、これらの位置から発する検出光Bをカメラ・デバイス30、特に非共役カメラ31へと、さらに任意に共役カメラ32へと、方向付けるよう選択可能であるように、制御することができる。さらに、DMDアレイ20は、複数の第2群の変調器要素(例えば22)が、検出光Cを、物体の各非共役位置からカメラ・デバイス30、特に非共役カメラ31、へと方向付けるよう選択可能であるように、制御することができる。さらに、複数の第2群の変調器要素(例えば22)は、RES2モードに関して以下で説明するように、各共役位置から発する検出光Bを非共役カメラ31へと向付ける。各一群の変調器要素は、或るパターンの複数の照射開口23を含み、各開口は、1つの単一変調器要素21または一群の変調器要素21によって形成される。
【0044】
カメラ31、32は、変調器要素21、22を介して受け取った検出光を収集する高感度カメラ・ピクセル33(例えば、CMOSカメラ)のマトリクス・アレイを含んでいる。RES1モードの較正手順を用いて、カメラ・ピクセル33は、DMDアレイ20の変調器要素21、22にマッピングされる。
【0045】
機能ソフトウェアが制御デバイス40において実行されることが好ましく(
図1)、それによって、全ての接続された構成要素(コンポーネント)、特にユニット10、20および30、を制御しおよび設定することができ、完全自動化された画像捕捉が実行される。また、それには、光学的に断層化されたPAM画像を生成するために設けられた別の画像処理(画像の歪み補正、レジストレーション(位置合せ)および減算)も含まれる。制御デバイス40によって、例えば超分解能または超解像のような複数のPAMモードの統合が可能になる。
【0046】
制御デバイス40は、以下の作業を実行する。第1に、制御デバイス40は、(制御および設定を含めて)接続されている全てのハードウェア(DMDアレイ20コントローラ、1つまたは2つのカメラ32、31、フィルタ・ホイール、LEDおよび/またはレーザ励起光源11、12、顕微鏡、xyマイクロモータ段およびz-ピエゾ段)と通信(交信)する。第2に、制御デバイス40は、DMDアレイ20上の(多数の)2進パターンの表示を、1つまたは2つのカメラ32、31上でこれらのパターン(共役および非共役画像)に起因するパターン化蛍光の結果の同期的捕捉との組合せで含む、PAM100に固有の特定の動作を実行するよう、ハードウェアに命令する。表示と捕捉の同期は、独自のスクリプト言語を使用してDMDコントローラ・ボード上の統合FPGAによって制御されるハードウェア・トリガによって実行される。特定のスクリプトが様々な捕捉モダリティ(様式)用に開発されてきた。アプリケーション・ソフトウェアは、捕捉プロトコルおよびパラメータに基づいて必要なスクリプトを組み立てる。第3に、制御デバイス40は、捕捉した共役および非共役画像を処理し、背景およびシェーディング補正、非線形歪み補正、画像レジストレーション(位置合せ)、および最後に減算(大きい開口)または拡大縮小(スケーリング)された組合せ(小さい開口)を実行して、光断層化PAM画像(OSI)を生成する。アプリケーション・ソフトウェアは、例えばナショナルインスツルメンツ社のLabVIEW言語で、書かれている。それは、双方のカメラ32、31の最大帯域幅(例えば、4K、16ビット、100fps)までの画像を取得することができ、一方、25fpsを超える共役/非共役画像のライブビューを提供する。捕捉された共役および非共役画像は、最初にRAMバッファに格納され、その後で非同期で処理される。従って、ソフトウェアは、カメラの帯域幅によってのみ制限される最大の捕捉性能を保証することができる。
【0047】
RES1モード-較正手順
較正手順は、以下の考慮に基づいている。PAM100の像面における単一照射開口(仮想的“ピンホール”)は、物体1におけるPAM100の焦点面2における励起点広がり関数(excitation point-spread function)(psf)を規定する。同時に、それは、その背後のカメラへと到達する誘発された放出光の幾何学的な制限を与える(“共焦点”という用語の由来)。焦点面2における軸外の点から発する信号は、PAM光学系および放出波長に対応するpsfと、ピンホール径とに依存する効率で開口23を横切る。焦点面および/または光軸から外れた各位置から生じる焦点外れ信号は、はるかに大きい度合で減衰し、従ってZ軸切断(断層化)が形成される。また、ピンホールは、横方向および軸方向の分解能(解像度)も規定し、その分解能は、合焦寄与分を失うことに起因して信号が減少するという犠牲を払うにもかかわらずサイズ(大きさ)が減少するにしたがって、改善される。ほとんどの通常の共焦点系では、開口サイズはpsfsによって規定された近似的にエアリー径に設定され、それによって、分解能(解像度)と記録信号強度の間に許容可能なトレードオフ(得失評価)が生じる。RES1モードにおける回折限界横分解能(解像度)は、M*λ/2NA(λ:励起光Aの中心波長、NA:PAM対物レンズの開口数(numerical aperture)、M:複数の変調器要素と物体1の間にあるPAM対物レンズおよびリレー・レンズの合成倍率)で与えられ、例えば約200乃至250nmである。軸方向の分解能は約2乃至3倍低い。通常のPAMでは、この条件は、5×5または6×6のDMD変調器要素21、22の正方形の走査開口と、33乃至50%のデューティ・サイクルで達成される。これらの条件下では、非常に高速な捕捉および高い強度(輝度)が達成され、各開口が大きくなると、軸方向および横方向の分解能(解像度)が低下する。
【0048】
通常の共焦点配置では、ピンホールによって遮られた光は破棄される。これとは対照的に、前述したように、PAMは、焦点外れ(out-of-focus)(of、nc画像)強度と合焦(in-focus)(if、c画像)強度の双方を収集する。発明者たちの最近の洞察は、小さい開口サイズ、即ちエアリーディスクより小さいサイズに対応する複数のDMD要素(1×1、2×2、3×3)でのPAM動作において、何が起きるかを見出すことである。この試みにおいて、発明者たちは、DMDアレイ20の表面のカメラ31、32の画像への光学的マッピングを規定するための較正手順を用いた。この工程で、c-ncレジストレーション(位置合せ)を達成するのに必要な扱いにくく不正確で時間のかかる幾何学的歪み(dewarping:反りを戻す)補正計算が回避される。
【0049】
較正手順(
図2を参照)は、DMD変調器要素21、22をカメラ・ピクセル33へマッピングしその逆をも行う単一開口マッピング(SAM)を含んでいる。PAM100において、物体1から発する蛍光の“実”(real)の画像は、DMDアレイ20に当たる蛍光の分布と、これ(分布)と“オン”(21)および“オフ”(22)状態の各ミラー要素の間の対応関係とによって、与えられる。或る意味で、カメラ31、32は、単に記録デバイスであるに過ぎず、理想的には所望のDMD分布を再構成するのに役立つ。従って、較正手順は、複数の単一変調器要素のレベルにおけるそれぞれc寄与分とnc寄与分からなる複数の構成ペアの一致を確保する形態で、カメラ情報をシステマティックにかつ明確に(一意的に)DMDアレイ源に逆マッピングする手段を形成する。同じ手順が、共役チャネルおよび非共役チャネルに適用される。
【0050】
新しいSAMレジストレーション(位置合せ)方法において、或るピッチを有する規則的な格子の形に編成された複数の単一変調器要素21(焦点平面に光を集束させる “オン”状態の複数のミラー)からなる一連の較正パターンが生成される(工程S1)。好ましい選択は、全ての各位置がその6つの隣接位置から等距離にある六角格子配置(hexagonal arrangement)である(
図2)。他の格子形状も代替的に可能である。DMDアレイ20は、そのパターンの複数の“オン”状態ピクセルによってcカメラ32における画像が得られるように、正面から(例えば、ケーラー(Koehler)透過モードで動作する顕微鏡明視野光源(
図1には示されていない)から)照射される(この場合、nc信号は関係しない)。ncチャネル用の対応する情報を得るためには、補完パターンを使用して、ncカメラ31で画像を記録する。この手順は、全範囲(カバレッジ)に必要な約80乃至200個のビットプレーンのシーケンスに対して、繰り返される(工程S2)。従って、単一DMD要素21、22の各アレイに典型的な10のピッチには、100個のビットプレーン画像が必要であり、各画像は、そのシーケンスにおいて単位的な(ユニタリな)x、yのDMD増分だけグローバルに(大域的に)シフトされた約15000個の“オン”状態の要素を有する。
【0051】
そのように規定されたビットプレーンの順序は、互いに隣接する軌跡の一時的摂動または偏差(例えば、過渡的な減少)を最小化するように、概してランダム化される。カメラ画像における記録スポットは、それらが明確に(一意的に)セグメント化できるように、(オーバラップなしで)充分に分離される。所与のスポットに対する信号全体を包含する複数のピクセル(約20個)間の2進マスクおよび部分的強度分布を決定する(工程Sみ3)。また、合計強度を決定し(工程S3)、各スポットに関する複数の強度加重(重み付け)重心位置を計算する(工程S4)。その後、各重心位置を、信号が発せられるDMD要素に逆マッピングし、逆マッピング情報を表す較正データが計算される(工程S5)。これは、例えばソフトウェアMathematicaのような標準ソフトウェア・ツールで行うことができる。較正データは、カメラ・ピクセルおよび/または変調器要素への割当てラベルと、カメラ・ピクセルおよび変調器要素を互いに相互参照するマッピング・ベクトル・データとを含んでいる。
【0052】
図3は、単一開口マッピングの例を示している。上側の画像(
図3A)は、個々の開口からなる1つの完全なアレイ(95行157列、ビットプレーン当り合計14915個のスポット)のcカメラ32によって記録される。2進マスク(
図3B)は、上側の画像から選択された複数スポットを示しており、約20個のカメラ・ピクセルが背景の上に各有限値を表示する。
図3Cに示されている、そのような1つのスポットのグレー(中間)値の分布は、PAM光学系が再調整されない場合、区別可能(特徴的)であり再現性があり安定性がある。計算された重心位置(
図3D)は、2進マスクの形に描かれたアレイに対応する。
【0053】
その手順は、次のような複数の利点を有する。(1)“不鮮明な”記録された複数のスポットの総和強度を、DMDアレイ20におけるそれぞれの既知の単一位置にマッピングできること、(2)そのカメラは、較正(および後の試料の)スポットの正確な(および安定的な)セグメント化を可能にするのに充分な大きさの分解能(解像度)およびフォーマットを有する必要があるに過ぎないこと。高いQE、低ノイズ、およびフィールド均一性は、他の望ましい特徴である。シャープで(鋭い)かなり均一な焦点合せが重要であるが、相対的な回転と平行移動は重要でなく、2つのカメラは、双方とも同じDMD変調器要素に逆にマッピングされるので、異なることさえあり得、(3)合計の較正強度によって、後で使用するための非常に正確なシェーディング補正を計算することができ、(4)cおよびncカメラ画像は、同じ元の(供給源)アレイ20にマッピングされ、従って、DMD空間におけるcおよびnc分布の絶対的なレジストレーション(位置合せ)が保証され、(5)単一の露光と読出しにおいて全てのビットプレーン信号を重ね合わせるRES1モードを使用し、レジストレーション(位置合せ)手順はこれらの条件下でも有効であり、それは、重なり合う強度分布パターンを合計して、各カメラ・ピクセルの複数の一次方程式を形成するようにすることができるからである。これらの方程式において、各変数は関心の対象であるDMD強度であり、各係数は較正で既知である。方程式マトリックスは(動作期間における呼出し(検索)用に)格納され、そのシステムは全ての各パターンの記録強度に対して別々に解かれ、即ち、それぞれ任意のc画像とnc画像からなる複数ペアが、例えば、個々にまたはz走査順次に発生する。
【0054】
代替形態として、精度はより低いが有用なSAMの簡略化には、各重心位置での強度の逆マッピング、および/または、各重心に関する各ピクセル値からなる小さい部分マトリックス(例えば、3×3領域)の手段が用いられる。この代替的なSAMレジストレーション(位置合せ)手順は、非常に高速であり、LabVIEW Visionにおいて利用可能な通常の線形または非線形の幾何学的歪み補正(dewarping)方法でこれまでに実験的に達成された分解能(解像度)および断層化(切断)能力を超える充分な結果を生じさせる。
【0055】
図4には、各SAMレジストレーション(位置合せ)手順の比較が、α-チューブリン(α-tublin)用に染色されAlex488-GAMIGで対比染色された3T3 Balbcマウス線維芽細胞の画像化(結像)を用いて、示されている。
図4A乃至4Cは、幾何歪み補正によるレジストレーション手順を示している。
図4D乃至4Fは、PAMシーケンス5_50(50%のデューティ・サイクルでランダム分布の5×5開口)で走査されたSAMによるレジストレーションを示している。レジストレーションの改善に起因して、光断層化が大幅に改善された。同じ捕捉データが双方の手順で利用された。
【0056】
RES2モード-共役画像抽出手順
RES2モードにおいて、PAMは、より高い空間周波数を強化することによって横方向および/または軸方向の分解能(解像度)を最大2倍までに高めるための “構造化照射(照明)(SIM)”としてまたは“ピクセル再配置”として文献で知られている手順用に構成される。その結果、利点として、横方向の分解能(解像度)が100乃至200nmの範囲に拡大される。共焦点顕微鏡LSM800(製造業者ツァイス(Zeiss))の一般に知られている“エアリー”(Airy)検出器と同様に、その構想(コンセプト)は、空間周波数をより高く増大させるが上述のようなポイント・スキャン・システムにおける非常に小さいピンホールからの許容できない信号損失を回避する形態で、多数の軸外サブ・エアリー・ディスク開口(検出器)を利用することである。しかし、PAMの実装では、ツァイス・エアリー・システムの複雑な検出器アセンブリ(組立体)(complex detector assembly)および多要素のポスト・デコンボルーション(解析後)(multi-element post-deconvolution)および再配置処理(relocation processing)が回避される。
【0057】
PAMにおいて、通常の共焦点顕微鏡の物理的開口(ピンホール)は、空間光変調器デバイス(DMDアレイ)の少なくとも1つの変調器要素で置換される。従って、1つの“開口”(aperture)は、1つの単一要素または複数の要素の組合せで、例えば、正方形または疑似円形構成でまたは調整可能な幅のライン(線)で、構成することができる。通常の共焦点顕微鏡では、“小さい”ピンホールによって、空間帯域幅の増大により分解能(解像度)が増大し、それ(空間帯域幅)は、点光源(point-source)の像を表す3次元(3D)点広がり関数(psf)で表され、または、より直接的にはそれ(psf)のフーリエ変換で表され、そのフーリエ変換は、広視野顕微鏡の“ミッシング・コーン”が埋め込まれた3次元(3D)光学伝達関数(otf)である。しかし、ピンホールは励起と放出において“共有”されるので、サイズが小さいほど、より小さい放出信号強度が捕捉され、それに従って信号対ノイズ比が低くなる(ピンホールは、ピンホール外に到達する放出光を物理的に遮蔽(拒絶)する)。
【0058】
逆に、PAMにおいて、顕微鏡において物体から“戻る”放出光は、共役カメラによって(開口を規定または画定する単一の“オン”状態の変調器要素を介して)、および光を非共役カメラへと方向付ける単一変調器要素の周りの“オフ”状態の変調器要素のアレイによっても、位置合せされる(registered)。即ち、各共役位置からの全ての検出光Bが収集され、照射開口サイズによって、一方のまたは他方のカメラ31、32へと進む部分割合が決まる(
図1を参照)。例えば単一要素のような、非常に小さい開口に対しては、合焦の(if)信号および焦点外れの(of)信号のほとんどが、非共役カメラ32へと進む。
【0059】
RES1モードの単一開口較正方法は、複数の単一変調器要素の開口から共役信号および非共役信号を“受信する”カメラ・ピクセルの分布を規定するのに役立つ。較正において、一組の補完的な照射開口を使用して、全ての個々のマイクロミラー位置に対する両チャネル(カメラ)における分布(2進マスク)が決定される。上で規定されたcおよびnc“画像”(
図3)は、次のように並列に処理される(より詳しくは
図5および方式(スキーム)1をも参照)。
【0060】
較正(
図5)から確立された応答領域を包囲する複数のピクセルのリング(環)を規定するように、較正(
図5)から確立された2進マスクが1倍だけ(1×)拡張される。cチャネル(カメラ32)において、“リング”状マスク3における各強度は、カメラ画像の標準的背景にのみ対応する(電子的バイアス+オフセット)。その理由は、定義により、所与の開口に対応する合焦の(if)信号および任意の関連する焦点外れの(of)信号が、初期の2進マスクによって規定または画定される“コア”(芯)の複数のピクセルに制限されるからである。背景/ピクセルの平均値(b)は、マスク3の“リング”状の複数のピクセルから計算され、合計の背景寄与分(b・コアピクセル数)を計算するのに使用される。減算によって、RES2モードのc画像が生成される。
【0061】
ncチャネル(カメラ31)の場合、信号は、上述のようなif(合焦)信号の大部分と、その所与の位置および試料におけるその共役(位置)に対応する各寄与分とからなる。この場合、マスク3のリング・ピクセルにおける強度(拡張後)には、カメラの背景だけでなく、of(焦点外れ)成分も含まれ、これらの成分は、較正マスクの境界を超えて(範囲外に)拡張されて拡大し、従って減算によってコア応答を修正するための手段を形成する。
【0062】
この正味のnc信号(および各照射ビットプレーンに対して処理された全ての開口によって形成される画像全体)は、達成可能な最高分解能(解像度)(広視野と比較して2倍)と、小さい開口によって形成される断層化(切断)の度合とを有する所望のif情報とを含み、3次元(3D)分解能(解像度)のRES2モード(100~200nm)を規定する。
【0063】
所望の信号のほとんどがncチャネルに含まれるので(c強度とnc強度の間の関係は、我々の現在の機器の場合、約1/9である)、PAM100は、単一のncカメラ31のみを使用してこのモードで作動できる(
図1)。しかし、追加的なノイズという犠牲を払ってでも、ncカメラ31およびcカメラ32で収集されたcおよびnc画像を加えて、合焦の(if)放出光全体を生じさせるようにすることもできる。これらの関係の簡略化された代数的説明が
図5および方式(スキーム)1に示され、RES2モード画像化(結像)の例が
図6に示されている。
【0064】
(DMDアレイ空間における)最終的な画像における強度が通常のカメラ画像における強度よりもはるかに高いことも、留意に値する。その理由は、その手順が、(複数の記録画像に分散されている)応答全体を、元のDMD要素に対応する最終的な画像における座標に配置された単一値に積算または積分するからである。追加的な利点として、これらの方法は、レーザ光源の代わりにLEDを含む励起光源で実行することができ、それ(励起光源)により、一般的により良好なフィールド(視野)均一性を形成し、レーザ照射の場合に(回折要素の使用にもかかわらず)残留する空間的および時間的なコヒーレンス(干渉性)から生じるアーティファクト(副作用、不要分)が回避される。
【0065】
RES2モードの実際のテストにおいて、数msのビットプレーン当り露光時間が、有用な画像を生成するのに充分であることが、見い出された。カメラ特性による制限(例えば、読出し速度およびノイズ、ローリング・シャッタ・モードにおける待ち時間(遅延)、複数のROIの使用)を最小化することによって、実質的に1fps超(>1fps)の生体細胞での高品質の記録が可能である。
【0066】
RES2における共役および非共役の単一開口画像の処理を、以下でさらに詳細に
図5を参照して説明する。1つの単一DMD変調器要素が、放出光の(概略的な)スポットのcカメラ画像およびncカメラ画像を生じさせる励起源として選択される(
図5Aおよび5Bに示されているように)。その2つのスポットの幾何学的形状は関連性がない。簡略化のために、カメラのゲイン(利得)は整合していると仮定することができる。白ピクセル(数n
ij,c、n
ij,nc)は、セグメント化によって生成されたそれぞれのマスクに対応する(工程S3)。
図5Aのc画像における中央の点(ドット)は、強度重み付けされた重心の計算位置である(工程S4)。c画像の白ピクセルには、if寄与分、of寄与分、および背景寄与分が含まれる。背景値b
ij,cは、マスク3を拡張し、差分マスクの平均値v
ij,c(外側リング・ピクセル)を計算し、n
ij,c(b
ij,c=v
ij,c・n
ij,c)を乗算することによって、局所的に高い精度で推定され(定義によって、放出信号が存在し得ない)、また、グローバル(大域的)背景(暗い状態)信号を予め減算する場合にこの値は小さいかまたは無視できる。
【0067】
of寄与分は、本発明によるPAMの固有の能力を表す
図5Bのncスポットから推定することができる。cnスポットは、反対側の位置にあるその選択された単一変調器要素の位置に対応する中央の(黒で表示された)ピクセル(実験的観察)を示し、従って背景値で示される。この場合の拡張されたマスク3には、マスク内で等しい密度であると見なされるof寄与分と背景寄与分の双方が含まれる(v
ij,vc=of
ij,nc+b
ij,nc)。しかし、使用されるスポットのピッチに起因して、隣接する複数のスポットからの寄与分の幾分かの重ね合せが存在する場合、v
ij,ncは係数β≦1だけ減衰する(経験的にβ~(およそ)0.8。各マスクにおける正規化分布の計算による。計算したif
ij値の非負性(non-negativity)が呼び出される)。c信号の対応するof補正は、γv
ij,ncnp
ij,cで与えられ、経験により、γ≪βであり、これは、相対的v値(b)によっても示されるように、非常に小さい開口が非常に良好な断層化(切断)能力を提供すること、を示している。
【0068】
次の方式(スキーム)は、様々な分解能(解像度)形態におけるPAM信号の各規定(定義)を示している。また、sij,cおよびsij,ncは、2次元(2D)DMDアレイ20における添え字ijを有するDMD変調器要素(開口)に対応する記録されたc信号およびnc信号である。各信号は、合焦(ifij,c,ofij,c)寄与分、焦点外れ(ifij,nc,ofij,nc)寄与分、および背景(bij,c,bij,nc)寄与分を含んでいる。c画像とnc画像の間の合焦の(if)信号の割合分布はαで与えられ、任意の所与のDMDパターンと光学的構成に対して一定であると見なされる。αは、開口サイズと共に大きく変化し、分解能(解像度)範囲RES1、2および3モードを規定するのに役立つ。RES1モードに関して、各開口は充分に大きいと見なされて、合焦信号(ifij)全体がcに制限される。従って、α=1であり、所望の正味のifij信号は、dcが励起デューティ・サイクルである示された式によって与えられる。RES2(1)およびRES2において、励起(従って“受け取る”)開口は、回折限界のエアリーディスクよりもかなり小さく、即ち、α<1であって、ifijの一部(90%を超え得る部分割合)が今度はncにある。RES3において、励起psfは、誘導放出または光変換による励起状態の抑制によってさらに“細線化または薄面化”(thinned)される。
【0069】
【0070】
【0071】
【0072】
図6は、RES2モード画像化(結像)の例を示している。
図6Aは、
図4におけるものと同じ細胞のnc画像を示している。微細な詳細の分解能(解像度)ははるかに高く、ファイバ(繊維)は複数の単一DMD要素の各幅(~100nm
2)まで見ることができる。断層化(切断)も極めて良好で、
図4のRES1画像では不明瞭な領域における構造が明らかにされる。
図6Bは、ボディピ-ファロイジン(bodipy-phalloidin)でアクチン・フィラメント(actin filaments)用に染色された細胞のnc画像を示している。
【0073】
RES3-超解像蛍光顕微鏡
蛍光顕微鏡において実質的に100nm未満の分解能(解像度)を達成するには、現在2つの主要な手法(アプローチ)が利用可能である。単一分子の励起状態動態(ダイナミクス)に基づく分子局在化法(例えば、STORM法)は、RES1モードおよび可能性としてRES2モードの動作と適合性がある。これとは対照的に、励起状態抑制(例えば、STED)および特に分子光変換(例えば、RESOLFT)プロトコル(手順)に基づく“psf細線化または薄面化”(psf-thinning)方法は、横方向分解能(解像度)のRES3モードを達成するのに適した形態で適用されるSAM方法に理想的に適している。PAMモジュールによって、両側(双方向)照射が可能になる(
図1、および例えば欧州特許出願公開第2369401号における
図1およびその説明を参照)。従って、抑制または光変換照射(STEDにおける“ドーナツ”(donuts)と等価)の形成は、同じパターンを用いて、試料を片側から活性化(および読出し)光に当ておよび反対側から抑制(depletion)(または光変換)光に当てることによって、自動的かつ正確に達成される。特定の手順(プロトコル)および調査(プローブ)に応じて、各光源を同時にまたは時間をずらして使用することができる。ポイント・スキャン・システム(点走査系)における通常のRESOLEFTとは対照的に、視野(フィールド、場)全体が同時に対処(アドレス)され処理される。利点として、PAM光学設定の変更は必要ではない。さらに、留意すべきこととして、RES3モードは、通常の方法とは対照的に、光断層化を形成する。蛍光タンパク質発現系(システム)を使用してRESOLEFT蛍光測定を実現するためのRES3モードの例示的な試験において、単純なパルス化488nmのダイオード・レーザが、光変換による抑制(depletion)のための励起光源として使用される。
【0074】
PAM100の制御デバイスを用いたRES1乃至RES3モードの実装
以下では、上述のPAMモードを、好ましくはソフトウェア・プログラムによって、実装する方法を、さらに詳細に説明する。
【0075】
RES1モードに関して、個々の“ドット”(選択された変調器要素)の較正マトリックスを生成する機能を用いる較正手順の工程S1は、パラメータ定義を含んでいる。DMDアレイ・マトリックスにおける定義された活性状態の要素の原点パラメータ(例えば左上隅部のようなグローバル(大域的)原点からのx、yのオフセット(補正値))、および2D変調器DMDアレイ・マトリックスにおける隣接する要素開口間の間隔を表すスペース(間隔)パラメータ、励起マトリックスにおける行数nr、励起マトリックスにおける列数nc、およびシーケンス全体におけるビットプレーンの数nbp=space2、が与えられる。n未満(<n)(通常n=2)のxまたはy変位(数)で、各ビットプレーンにおける単一要素開口の数na=nr・ncを用いて、連続するビットプレーンが互いにオーバーラップ(重複)しないように、ビットプレーン・シーケンス(配列)をランダム化することによって時間的重複(オーバーラップ)が最小化される。例えば、space=10では、nbp=100であり、nr=95(上述)、nc=157(上述)では、na=14915(上述)であり、較正スポットの総数=nbp・na=1491500である。
【0076】
複数の較正応答マトリックス(共役、非共役のもの)の捕捉を含む較正手順の工程S2は、(例えば、単一要素開口のマトリックスからなる)パターン・シーケンスを用いるPAM動作を含んでいる。例えばフィールド(視野)均一性を確立するケーラー(Koehler)調整を用いて透過モードで作動される結合された顕微鏡から、変調器の正面照射が形成される。シーケンスの各ビットプレーンに対応する画像の捕捉および作動中での(live)焦点調整は、検出器画像におけるスポット・サイズを最小化するように行われる(非反復的)。選択されたドットパ・ターンに対応する画像の捕捉は、順次の形態で行われる。対応する背景およびシェーディング(陰影)の画像は、補正の目的で収集されることが、好ましい。その動作は、(照射側と同じ側で記録する)共役チャネル用の所与のパターン・シーケンスと、(照射側の反対側で記録する)非共役チャネル用の相補(補足)的パターンとを用いて、行われる。その後、較正セッションにおける較正データの繰返しを平均化する(計算手段)ために平均化工程を行うことができる。
【0077】
工程S3乃至S5は、(変調器マトリックスの行および列によって)順序付けられた一組のベクトル化された応答パラメータを取得するように、各ビットプレーン較正画像を処理することを含んでいる。第1に、複数のビットプレーンが、既知のランダム化シーケンスに従った順序で並び替えられる。第2に、セグメント化(工程S3、S4)を行って、応答部分画像(“複数スポット”)パラメータを識別してラベル付けする。そのパラメータは、閾値、拡張、浸食(エロージョン)パラメータ、歪みの程度(行および列の湾曲(曲率)および変位)に応じた任意の順序(オーダ)である。その後で、2次元(2D)マスクと、行および列によるベクトルとを含む出力が生成される。その出力は、さらに、所与のスポットにおける複数のピクセル要素に対応する複数のピクセル位置からなる2次元(2D)マスク;応答ピクセルにおける相対的強度分布と、複合ビットプレーン画像用の一次方程式の応答マトリックスの計算とを表すアルファ(α)パラメータ(RES2およびRES3モードにおいて使用される);所与のスポットの計算された重心の座標;所与のスポットの合計の強度;および(複数ピクセルにおける)所与のスポットの総面積、を含むことが、好ましい。第3に、励起変調器マトリックスの行および列によるスポットの並べ替えが行われ、それは、所与のビットプレーンに対して変調器励起マトリックスの座標を供給することおよび所与のビットプレーンに対して応答マトリックスの座標を対応させることを含んでいる(工程S5)。最後に、捕捉および処理の期間において呼出し(検索)用のベクトルの記憶(格納)が行われる。これらの工程は、共役(c)および非共役(nc)画像データに対して個々に実行される。
【0078】
実際には、リアルタイムの捕捉および表示には、10乃至100msで100万超(>1 million)個の一次方程式を解く必要がある場合でも、較正方法は良好に機能する。マルチコアおよびGPUアーキテクチャを利用したスパース(疎)マトリックス(sparse matrices)(例えば、ここに含まれるもの)用の高度なソフトウェアは、計算に容易に使用することができる(例えば、SPARSE suite)。
【0079】
RES2モードおよびRES3モードのソフトウェア実装には、次のような工程が含まれる。第1に、パラメータ選択と、さらに、RES3モード用の、光変換および読出し用のパターン・シーケンスの選択(スーパーピクセル定義)とを含む、応答マトリックス(共役、非共役)の捕捉が行われる。さらに、X、Y、Zの配置と、スペクトル(励起、放出、光変換)の成分(コンポーネント、構成要素)の選択(スペクトル・チャネル定義)とが、行われる。
【0080】
第2に、積算(積分)された応答マトリックス(単一露光の総和のビットプレーン応答)から変調器要素マトリックスへの逆マッピングが行われる。このレジストレーション(位置合せ)では、重心ベースの較正データ(RES1モードにおけるのと同様)および局所的部分画像処理アルゴリズム、または代替的に、αパラメータに基づく較正が使用される。その際、スパース・アルゴリズムを使用する完全または局所的α方程式マトリックスの解を用いて、(共役(c)および非共役(nc)画像データに対して個々に実行することによって) DMD空間における個々の応答の分布が生成される。
【0081】
第3に、先のcおよびnc処理に基づく光学的に断層化された画像の計算を含む、例えば複数の小さい励起スポットのスパース・パターン(複数)で、捕捉した画像が、評価される。c画像に関して、重心較正データおよび局所的部分画像処理アルゴリズムを利用して、カメラ領域における応答信号の分布と、励起パターンによって規定または画定されたDMD領域への投射(投影、射影)とが確立される。nc画像に関して、c画像と同様であるが、較正応答領域のすぐ周辺にある信号の評価による焦点外寄与分の系統的な評価と、較正応答領域における信号からの適切にスケール(拡大縮小)された減算とを含んでいる。最後に、画像の合成(組合せ)が行われ、その際、光学断層化RES2画像は、処理されたnc画像のみ(非常に小さい励起スポットを用いた主要な寄与分)または処理されたc画像およびnc画像のスケール(拡大縮小)された総和から得られる。
【0082】
上述の説明、図面、および請求の範囲に開示された本発明の特徴は、個々にまたは組合せでまたは部分的組合せで、その異なる実施形態において本発明を実現するために等しく重要であり得る。