(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024147524
(43)【公開日】2024-10-16
(54)【発明の名称】合成顕微鏡画像を記録するための方法、顕微鏡システム、およびコンピュータプログラム製品
(51)【国際特許分類】
G02B 21/36 20060101AFI20241008BHJP
G02B 21/00 20060101ALI20241008BHJP
G02B 21/06 20060101ALI20241008BHJP
【FI】
G02B21/36
G02B21/00
G02B21/06
【審査請求】未請求
【請求項の数】15
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2024059074
(22)【出願日】2024-04-01
(31)【優先権主張番号】10 2023 108 517.4
(32)【優先日】2023-04-03
(33)【優先権主張国・地域又は機関】DE
(71)【出願人】
【識別番号】524125599
【氏名又は名称】エヴィデント テクノロジー センター ヨーロッパ ゲーエムベーハー
【氏名又は名称原語表記】EVIDENT Technology Center Europe GmbH
【住所又は居所原語表記】Wilhelm-Schickard-Str. 3, 48149 Munster, Germany
(74)【代理人】
【識別番号】110002066
【氏名又は名称】弁理士法人筒井国際特許事務所
(72)【発明者】
【氏名】シリング,トビアス
(72)【発明者】
【氏名】カッツァー,マティアス
【テーマコード(参考)】
2H052
【Fターム(参考)】
2H052AC14
2H052AC34
2H052AD20
2H052AF14
2H052AF21
2H052AF25
(57)【要約】 (修正有)
【課題】高い光学的品質、画像鮮明度を有すると同時に、高速で費用対効果の高い撮像を可能にする、合成顕微鏡画像を記録するための方法、顕微鏡システム、およびコンピュータプログラム製品の提供。
【解決手段】方法100は、少なくとも第1の融合画像および第2の融合画像を顕微鏡撮像するため、試料が構造化された方法で照明される、第1の画像を撮像する工程111、試料が均一に照明される、第2の画像を撮像する工程112、第1の画像が焦点に位置する低周波数画像情報に使用され、第2の画像が焦点に位置する高周波数画像情報に使用される、第1の画像および第2の画像を融合する工程113を含み、第2の融合画像が第1の融合画像とは異なる試料上の位置を描写する、ステップ110と、少なくとも第1の融合画像および第2の融合画像を合成顕微鏡画像に合成するステップ120と、を含む。
【選択図】
図1
【特許請求の範囲】
【請求項1】
試料(300)の合成顕微鏡画像(200)を記録するための方法(100)であって、
少なくとも第1の融合画像(210)および第2の融合画像(220)を顕微鏡撮像するステップ(110)であって、
・ 第1の画像(230)を撮像する工程(111)であって、前記試料(300)は構造化された方法で照明される、工程(111)と、
・ 第2の画像(240)を撮像する工程(112)であって、前記試料(300)は均一に照明される、工程(112)と、
・ 前記第1の画像(230)および前記第2の画像(240)を融合する工程(113)であって、前記第1の画像(230)は焦点に位置する低周波数画像情報に使用され、前記第2の画像(240)は前記焦点に位置する高周波数画像情報に使用される、工程(113)と、
を含み、前記第2の融合画像(220)が前記第1の融合画像(210)とは異なる前記試料(300)上の位置を描写する、ステップ(110)と、
少なくとも前記第1の融合画像(210)および前記第2の融合画像(220)を前記合成顕微鏡画像(200)に合成するステップ(120)と、
を含む、
方法(100)。
【請求項2】
前記第1の画像(230)を撮像する前記工程(111)における構造化照明は、少なくともスペックル照明、周期的な格子または市松模様パターンとして実装されることを特徴とする、
請求項1に記載の方法(100)。
【請求項3】
前記第1の画像(230)および前記第2の画像(240)を撮像する前記工程(112)における照明は、特に少なくとも2つのカラーチャネルを有する蛍光照明として構成されることを特徴とする、
請求項1または2に記載の方法(100)。
【請求項4】
前記第1の画像(230)を撮像する前記工程(111)および前記第2の画像(240)を撮像する前記工程(112)は、少なくとも第1および第2のカラーチャネルを使用して実行され、特に、前記試料(300)は、最初に前記第1のカラーチャネルを使用して構造化された均一な方法で照明され、その後、前記試料(300)は、前記第2のカラーチャネルを使用して構造化された均一な方法で照明されることを特徴とする、
請求項1~3のいずれか一項に記載の方法(100)。
【請求項5】
前記試料(300)上の位置は、少なくとも前記試料(300)のz方向、前記試料(300)のx方向または前記試料(300)のy方向において異なり、特に、少なくとも前記x方向または前記y方向における前記試料(300)の位置は、前記試料(300)を配置することができるxyステージ(415)によって移動されることを特徴とする、
請求項1~4のいずれか一項に記載の方法(100)。
【請求項6】
前記第2の融合画像(220)における前記試料(300)の位置は、前記z方向において500nm~500μm、特に1μm~300μmの範囲だけ前記第1の融合画像(210)における前記試料(300)の位置とは異なることを特徴とする、
請求項1~5のいずれか一項に記載の方法(100)。
【請求項7】
個々の撮像された前記第1の融合画像(210)および前記第2の融合画像(220)の被写界深度を設定することができることを特徴とする、
請求項1~6のいずれか一項に記載の方法(100)。
【請求項8】
前記合成顕微鏡画像(200)の出力(130)がさらに提供され、特に、前記出力(130)中に前記z方向の深さを設定することができることを特徴とする、
請求項1~7のいずれか一項に記載の方法(100)。
【請求項9】
少なくとも前記第1の画像(230)を撮像する前記工程(111)を実施するため、または前記第2の画像(240)を撮像する前記工程(112)を実施するために構成されるレンズ(412)の認識が提供され、特に、前記レンズ(412)の認識に基づいて設定される前記z方向の深さが提供されることを特徴とする、
請求項1~8のいずれか一項に記載の方法(100)。
【請求項10】
少なくとも前記第1の融合画像(210)および前記第2の融合画像(220)を顕微鏡撮像する前記ステップ(110)が連続的に実行されることを特徴とする、
請求項1~9のいずれか一項に記載の方法(100)。
【請求項11】
前記合成顕微鏡画像(200)を形成するように少なくとも前記第1の融合画像(210)および前記第2の融合画像(220)を合成する前記ステップ(120)では、シェーディング補正も提供されることを特徴とする、
請求項1~10のいずれか一項に記載の方法(100)。
【請求項12】
少なくとも前記第1の融合画像(210)または前記第2の融合画像(220)がライブ画像として表示され、前記z方向における少なくとも1つの深度が調整可能であることを特徴とする、
請求項1~11のいずれか一項に記載の方法(100)。
【請求項13】
さらに、少なくとも、
・ 顕微鏡システム(400)への顕微鏡スライドの装填、
・ 前記顕微鏡スライド(310)のオーバービュースキャン、
・ 前記顕微鏡スライド(310)のラベル情報の記録、
・ 前記顕微鏡スライド(310)上の前記試料(300)の検出、
・ 前記試料(300)の検出に基づく画像記録領域の特定、
・ 合焦マップの作成、
・ 前記画像記録領域へのxyステージ(415)の移動、
・ レンズ欠陥の補正、
・ 少なくとも前記第1の画像(230)、前記第2の画像(240)、前記第1の融合画像(210)、前記第2の融合画像(220)または前記合成顕微鏡画像(200)の保存、
・ 次の試料(300)または次の顕微鏡スライド(310)への前記xyステージ(415)の移動
が計画されていることを特徴とする、
請求項1~12のいずれか一項に記載の方法(100)。
【請求項14】
特に請求項1~13のいずれか一項に記載の方法(100)を実行するための顕微鏡システム(400)であって、
少なくとも第1の融合画像(210)および第2の融合画像(220)の顕微鏡撮像(110)を提供するように適合された光学的撮像装置(410)であって、
・ 第1の画像(230)および第2の画像(240)を撮像(111)するように適合されたカメラ(411)およびレンズ(412)、
・ 前記第1の画像(230)が撮像されたときに前記試料(300)を構造化された方法で照明するように適合された構造化照明装置(413)、および
・ 前記第2の画像(240)が撮像されたときに前記試料(300)を均一に照明するように適合されたガウス照明装置(414)
を含む光学的撮像装置(410)と、
前記第1の画像(230)および前記第2の画像(240)を融合(113)するように適合された計算装置(420)であって、前記第1の画像(230)は、低周波数の焦点画像情報に使用され、前記第2の画像(240)は、高周波数の焦点画像情報に使用され、前記第2の融合画像(220)は、前記第1の融合画像(210)とは異なる前記試料(300)上の位置を描写し、少なくとも前記第1の融合画像(210)および前記第2の融合画像(220)を合成顕微鏡画像(200)に融合する、計算装置(420)と、
を備える、
顕微鏡システム(400)。
【請求項15】
プログラムがコンピュータ、特に請求項14に記載の顕微鏡システム(400)の計算装置(420)によって実行されるとき、請求項1~13のいずれか一項に記載の方法を前記コンピュータに実行させる命令を含む、
コンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、合成顕微鏡画像を記録するための方法、顕微鏡システム、およびコンピュータプログラム製品に関する。
【背景技術】
【0002】
非常に広範囲の用途のために、多数の異なる顕微鏡が知られている。これらは、光学系およびそれらの性能に関してかなり異なり得る。
【0003】
顕微鏡の欠点は、1枚の画像で撮像できる画像セクションが非常に小さいことである。
【0004】
また、光学系が一般に有する共通点は、光学の法則上、顕微鏡撮像の被写界深度が非常に浅いことである。これは、単一の焦点面しか観察されないにもかかわらず、焦点面の外側で発生して、後に撮像画像上でのぼやけた発光現象として知覚される放射によって、画像の撮像が妨害されることにつながる可能性がある。
【0005】
この問題を解決するための様々な手法は、最新技術において既に知られている。
【0006】
共焦点顕微鏡では、撮像される対象物の一部のみが一度に照明される。次いで、試料が1つずつスキャンされる。試料からの反射光または蛍光は、その位置に合わせて測定され、それに基づいて試料全体が構築される。ピンホール絞りは、反射光または蛍光のビーム経路に取り付けられ、鮮明に撮像された領域からの光のみを通過させる。これにより、焦点面の外側の層からの放射による干渉の影響を効果的に減らすことができる。この設定の欠点は、対象物をスキャンすることによって単一の画像を作成するのに長い時間がかかることである。
【0007】
一方、HiLo顕微鏡法も代替法として知られている。この方法は、例えば、Limら、Optics Letters-33:1819-1821(2008年)およびJerome Mertz,Nature Methods-8:811-819(2011年)に記載されている。この撮像方法の背後にある原理は、2つの画像が撮像されることである。HiLo顕微鏡法では、いわゆるスペックル照明を有する第1の画像が事実上フィルタとして使用され、画像内の低周波数(Lo)、したがって背景が描写される。ガウス照明で作成された第2の画像(Hi)は、焦点が合っている画像情報を含む。第1の画像をフィルタとして使用することで、焦点面の外側の平面からの干渉放射を除去することができる。
【発明の概要】
【発明が解決しようとする課題】
【0008】
本発明の目的は、従来技術から知られている上記の欠点を少なくとも部分的に排除することである。特に、本発明の目的は、特に画像の鮮明度を含む特に高い光学的品質を有すると同時に、可能な限り大きい画像セクション、特に試料全体の画像セクションを有する、高速で費用対効果の高い撮像を可能にする、合成顕微鏡画像を記録するための方法、顕微鏡システム、およびコンピュータプログラム製品を提供することである。
【課題を解決するための手段】
【0009】
上記の問題は、請求項1の特徴を有する方法、請求項14の特徴を有する顕微鏡システム、および請求項15の特徴を有するコンピュータプログラム製品によって解決される。本発明のさらなる特徴および詳細は、それぞれの従属請求項、明細書および図面から明らかになるであろう。本発明による方法に関連して説明される特徴および詳細は、当然ながら、本発明による顕微鏡システムおよび/または本発明によるコンピュータプログラム製品に関連しても適用され、逆もまた同様である。したがって、本開示に関して本発明の個々の態様への参照が相互になされるか、または常に参照され得る。
【0010】
本発明の第1の態様によれば、試料の合成顕微鏡画像を記録するための方法が提供される。該方法は、
・ 特に光学的撮影装置によって、少なくとも第1の融合画像および第2の融合画像を顕微鏡撮像するステップであって、
・ 第1の画像を撮像する工程であって、試料が構造化された方法で、特に構造化照明装置によって照明される、工程と、
・ 第2の画像を撮像する工程であって、試料が均一に、特にガウス照明装置によって照明される、工程と、
・ 第1の画像および第2の画像を融合する工程であって、第1の画像はローパスフィルタを適用することによって焦点に位置する低周波数画像情報に使用され、第2の画像はハイパスフィルタを適用することによって焦点に位置する高周波数画像情報に使用される、工程と、
を含み、第2の融合画像が第1の融合画像とは異なる試料上の位置を描写する、ステップと、
・ 特に計算装置によって、少なくとも第1の融合画像および第2の融合画像を合成して合成顕微鏡画像を形成するステップと、
を含む。
【0011】
方法ステップ/段階は、少なくとも部分的に同時および/または順次実行することができ、これにより、方法ステップ/段階の順序は、指定された順序によって限定されないので、個々のステップ/段階を異なる順序で実行することができる。さらに、個々のまたはすべてのステップ/段階を繰り返し実行することができる。
【0012】
本発明の文脈において、第1および第2の画像ならびに第1および第2の融合画像の両方が参照される。第1および第2という表現は、画像または融合画像の数のみを意味し、撮像の順序を意味することはない。
【0013】
特に、該方法は、コンピュータ実装方法であってもよい。
【0014】
本発明の文脈では、顕微鏡画像の記録は、試料の顕微鏡領域における画像情報を得るために必要な手段と理解することができる。
【0015】
合成顕微鏡画像は、少なくとも部分的に重複した視野を有するいくつかの画像の組合せとして理解することができ、特に、分割されたパノラマ画像または高解像度画像の合成によって生成することができる。
【0016】
撮像パラメータの定義が提供されることが考えられる。撮像パラメータは、少なくとも撮像領域、解像度またはカラーチャネルとして構成することができる。
【0017】
撮像領域が定義され、その結果、合成顕微鏡画像が得られることがあり得る。撮像領域は、顕微鏡撮像が行われる視野に分割されることがあり得る。撮像領域は、z方向、x方向またはy方向に少なくとも1つの領域を含むことができる。z方向、x方向、またはy方向で撮像される領域をブロックと呼ぶこともできる。
【0018】
さらに、少なくともx、y、またはz方向の解像度の少なくとも1つの定義を提供することができる。特に、z方向の解像度は、xy平面の面数として指定できる。これは、ユーザが、合成画像がいくつの層を含むことになるかを容易に記録できるという利点を有する。
【0019】
撮像領域は、特に、定義された解像度に基づいてブロックに分割されることがあり得る。ブロックのサイズは、特に、少なくとも視野の数、xy平面の数、または顕微鏡システムの記憶装置の記憶サイズの関数として定義することができる。
【0020】
さらに、少なくとも1つのカラーチャネルを定義することができる。複数のカラーチャネルが定義されている場合、カラーチャネルの順序は顕微鏡撮像中に定義されることがあり得る。特に、少なくとも1つの露光時間またはフィルタ深度がカラーチャネルごとに個別に定義できることがあり得る。
【0021】
顕微鏡による事前撮像が提供されることも考えられる。事前撮像は、定義された撮像パラメータに従って撮像が行われるが、顕微鏡撮像と比較して、少なくとも撮像領域、解像度、フィルタ深度、または計算品質に関して制限されることを意味すると理解できる。これにより、ユーザは、調整ごとに対応する時間をかけて完全な画像を撮像する必要がなく、撮像パラメータを定義した場合の効果の全体像を迅速に把握することができる。
【0022】
原則として、試料は、使用される顕微鏡を通して観察することができる任意の対象物であり得る。特に、試料は、生物学的試料および/または医療試料、特に細胞、組織または器官であり得る。試料は、対象物ホルダ上に配置されることがあり得る。対象物ホルダは、1つまたは複数の試料を保持することができる。
【0023】
本発明の文脈では、顕微鏡撮像は、撮像装置の助けを借りて、試料の顕微鏡スケールに関する情報を含む画像を生成することとして理解できる。
【0024】
融合画像は、少なくとも2つの顕微鏡撮像による情報で構成することができる。特に、融合画像は、試料上の同じ位置で撮像することができる。
【0025】
第2の画像は、ぼやけたコンテンツと鮮明なコンテンツの両方を含む。ぼやけたコンテンツは、実質的に、局所的な低周波数成分を含む。ぼやけた画像情報を破棄するために、ハイパスフィルタを第2の画像に使用することができる。ハイパスフィルタは、空間周波数の高い成分のみを選択し、周波数の低い成分を除外するように構成することができる。
【0026】
第1の画像では、構造化照明によって、焦点の外側で生じる対象物信号に対して、画像化された変調のコントラストは無視できる。つまり、画像化された変調の局所的なコントラストの尺度は、どの程度対象物に焦点が合っているかの尺度である。
【0027】
第1の画像の局所的な変調コントラストの測定が提供され得る。第1の画像の変調コントラストの測定は、少なくとも局所的分散、単側波帯変調、または両側波帯変調の測定として実行され得る。局所的な変調コントラストの測定は、粗視化され得る。
【0028】
第1の画像から導出された低周波数画像情報は、第2の画像から導出された高周波数画像情報が補足されるように構成されることがあり得る。高周波数および低周波数の画像コンテンツを融合することで、顕微鏡システムの周波数帯域幅内のすべての周波数コンテンツを含む、完全に分解された鮮明な画像が得られる。これは、実質的に、HiLo顕微鏡法アプローチに対応する。
【0029】
構造化照明は、主に焦点面において、照明に対する反応として試料からの放射を生成するように構成された照明と理解することができる。特に、構造化照明の強度は、場所に応じて変化し得る。強度の変化は、光源、特にコヒーレント光源が照射する拡散板によって生成され得る。
【0030】
均一な照明(ガウス照明としても知られる)は、撮像される画像領域を実質的に均一な強度で露光する照明と定義することができる。光源および光学系の特性に起因して不可避的に生じる不均一性は、均一な照明であっても常にある程度は生じる。均一な照明は、光源、特にコヒーレント光源が照射する回転拡散板によって実現されることがあり得る。拡散板は、構造化照明を提供するために使用される拡散板と同じであることが特に有利であり、そのため、構造化照明が提供されるとき拡散板は静止している。したがって、拡散板を停止または回転させることによって、構造化照明と均一照明とを切り替えることが可能である。
【0031】
さらに、第1および第2の画像の撮像順序は、第1の画像に続いて、試料上の位置が移動した後にさらに第1の画像が続くように構成されることがあり得る。第2の画像に続いて、試料上の位置が移動した後にさらに第1の画像が続くこともあり得る。これは、撮像装置の撮像モードを撮像ごとに変更する必要がなく、より高速な撮像が可能になるという利点がある。
【0032】
融合画像の合成(スティッチングとも呼ばれる)は、融合画像に含まれる画像情報の組合せとして理解することができる。融合画像は、少なくとも部分的に重なり合い、それによって、特に画像が合成されるとき、少なくとも重なり合う領域が識別され、画像が整列されるか、またはそれらの外観が、特に少なくとも明るさ、色またはコントラストに関して調整されることがあり得る。
【0033】
試料上の位置が異なるということは、第1の融合画像および第2の融合画像に、両方の画像に含まれない領域が少なくとも1つあることを意味し得る。言い換えれば、これは、2つの画像が異なる位置で撮像され得ることを意味する。顕微鏡撮像および合成は、画像の所定の領域、特にブロックに対して数回、特に1回実行されることがあり得る。ブロックは、xy位置およびxy平面に1つまたは複数の画像を有することができる。合成は、最初に、最も高いコントラストを有する融合画像を使用して、第1のブロックおよびさらなるブロックからの融合画像の1つの組を使用して実行され、それによって、さらなる融合画像がこの比率を使用して合成されることがあり得る。これにより、合成処理によって画像の誤差を最小限に抑えることができる。
【0034】
本方法は、特に示された順序で、以下のステップ/段階のうちの少なくとも1つを含むことがあり得る。
【0035】
少なくとも試料またはレンズを第1のブロックに移動させる。ブロックの第1のxy平面を顕微鏡撮像し、ここで第1および第2の画像が撮像されて融合され、第1のブロックの次のxy平面を顕微鏡撮像し、ここで第1のブロックのすべてのxy平面が顕微鏡撮像されるまで、第1および第2の画像が撮像され融合される。1つまたは複数のさらなるカラーチャネルについて、第1のブロックの顕微鏡撮像を繰り返す。第1のブロックのすべてのxy平面のすべての融合画像を中間保存する。
【0036】
少なくとも試料またはレンズをさらなるブロックに移動させる。さらなるブロックの第1のxy平面を顕微鏡撮像し、それにより、第1および第2の画像が撮像され融合され、さらなるブロックの次のxy平面を顕微鏡撮像し、それにより、ブロックのすべてのxy平面が顕微鏡撮像されるまで、第1および第2の画像が撮像され融合される。1つまたは複数のさらなるカラーチャネルについて、次のブロックの顕微鏡撮像を繰り返す。第1のブロックのすべてのxy平面のすべての融合画像を中間保存する。
【0037】
第1のブロックの、特に第1のカラーチャネルにおいて最も高いコントラストを有するxy平面の融合画像は、同じxy平面からの第2のブロックの融合画像と合成される。「同じxy平面」は、特に、少なくとも部分的に重なり合う画像コンテンツを指すことができる。代替的または追加的に、少なくともレンズまたは試料に対するz方向の同じ位置を意味することもできる。第1のブロックのすべてのさらなる融合画像もまた、第1の合成画像の関係に従って合成される。
【0038】
次いで、少なくとも試料またはレンズを次のブロックに移動させることができ、ステップ/段階が繰り返される。ブロックの合成画像を互いに組み合わせて、試料の合成顕微鏡画像を作成することができる。
【0039】
全体として、本発明による方法の利点は、特に画像の鮮明度を含む特に高い光学的品質を有すると同時に、可能な限り大きい画像セクション、特に試料全体の画像セクションを有する、高速で費用効果の高い撮像が可能になることである。第1および第2の画像の融合は、レンズの焦点に合っていない平面からの画像情報を破棄し、それによって画像の鮮明度を高めた画像を非常に高速に作成することができることを意味する。この方法は、画像をスキャンする必要がなく、2つの画像だけを撮像する必要があるため、共焦点顕微鏡のように画像をスキャンする場合と比較して、特に高速である。少なくとも2つ、特にいくつかの融合画像を合成することにより、撮像速度を利用していくつかの画像をつなぎ合わせ、したがって特に大量の情報を有する画像、例えばセグメント化されたパノラマ画像または被写界深度が深い高解像度画像を生成することができる。
【0040】
本発明の範囲内で、構造化照明は、第1の画像を撮像するとき、少なくともスペックル照明、周期的な格子または市松模様パターンとして構成されることも考えられる。
【0041】
スペックル照明は、光の散乱点を生成するように構成することができる。スペックルは、照明強度が試料の残りの部分に対して高い試料上の個々の点状の位置として理解することができる。スペックルは、干渉により生成することができる。このために、拡散板と組み合わせた単色コヒーレント光源を提供することができる。
【0042】
スペックル照明の利点は、焦点面の外側の後方散乱光の強度が著しく低下するため、特に鮮明な融合画像を生成できることである。
【0043】
周期的な格子または市松模様パターンもまた、干渉発生光学素子の助けを借りて提供することができる。
【0044】
さらに、本発明による方法では、第1および第2の画像の撮像中の照明は、特に少なくとも2つのカラーチャネルを有する蛍光照明として構成されることが有利であり得る。
【0045】
言い換えれば、第1および第2の画像は、蛍光画像、特にマルチチャネル蛍光画像であり得る。蛍光画像は、焦点面に由来しない放射に特に悩まされるが、これは、これらの放射がある種のボケ効果をもたらし、かなり暗い背景に対して本来は鮮明な構造がぼやけてしまう可能性があるためである。したがって、蛍光照明と組み合わせた本発明による方法が特に有利である。
【0046】
さらに、本発明による方法では、第1および第2の画像が少なくとも第1および第2のカラーチャネルで撮像され、それによって、特に、試料は、最初に第1のカラーチャネルで構造化された均質な方法で照明され、次いで第2のカラーチャネルで構造化された均質な方法で照明されることが考えられる。いくつかのカラーチャネルを撮像するとき、第1または第2の画像の照明は、常に、前のカラーチャネルの撮像が終了したときの照明から始まることが特に有利であり得る。例えば、赤、緑、および青の3つのカラーチャネルがある場合、赤の構造化照明、赤の均一照明、緑の均一照明、緑の構造化照明、青の構造化照明、青の均一照明のような順序になる。つまり、拡散板を頻繁に加速および減速させる必要がなく、一方では撮像の時間を節約でき、他方では振動の形での干渉を低減することができる。
【0047】
いくつかのカラーチャネルがあり、いくつかのxy平面で顕微鏡撮像を行う場合、最初に各カラーチャネルの各xy平面で顕微鏡撮像を行ってから次のxy平面に切り替えることが可能である。これは、試料やレンズを動かさずに撮像されるため、個々のチャネルを組み合わせると、特に高い画質が達成されるという利点がある。xy平面がそれぞれ単一のカラーチャネルで横断されることも可能である。
【0048】
さらに、本発明による方法では、試料上の位置が、少なくとも試料のz方向、試料のx方向または試料のy方向において異なり、特に、少なくともx方向またはy方向における試料の位置が、試料を配置することができるxyステージによって移動され得ることが有利であり得る。
【0049】
本発明の文脈において、z方向は、試料領域内の撮像光学系の光軸上にある試料の深さとして理解することができる。したがって、x軸およびy軸は、試料領域内の光軸に直交する平面に広がる。
【0050】
z方向の位置を変化させることにより、合成顕微鏡画像は、実質的に断層撮像に対応することができる。個々の層は、画定された被写界深度領域のために、特に鮮明に表示することができる。
【0051】
試料は、融合画像をx方向および/またはy方向に合成することによってマッピングすることができる。試料全体は、融合画像から少なくともx、yまたはz方向に合成されることが可能である。これは、試料が1つまたは複数の方向から完全に記録されるため、特に大量の情報が評価に利用可能であるという利点がある。
【0052】
本発明の文脈において、第2の融合画像における試料の位置は、z方向において500nm~500μm、特に1μm~300μmの範囲だけ第1の融合画像における試料の位置とは異なることも考えられる。
【0053】
言い換えれば、光学顕微鏡では、非常に厚い試料を測定することができる。厚い試料では、従来の光学顕微鏡は、焦点面に対応しない平面からの放射が加算され、合成画像がぼやけてしまうという問題を有する。これは、本発明による方法によって防止され、その結果、指定された厚さ範囲の試料も特に高品質で撮像することができる。
【0054】
本発明の範囲内で、撮像された個々の融合画像の被写界深度を調整することも考えられる。
【0055】
これにより、融合効果を現在の撮像状況に最適に適合させることができる。被写界深度が深いほど、焦点面に正確に存在していない領域からより多くの情報を得ることができる。これにより、合成される融合画像間の距離が大きい場合、または焦点面が完全に正しく設定されていない場合に、z平面上で離れている対象物の場合に、対象物の情報が排除されるのを防ぐことができる。一方、被写界深度が浅いと、特に鮮明な画像と、z方向で合成される画像間の距離が小さく良好な全体像とが保証される。
【0056】
本発明による方法では、合成顕微鏡画像の出力も提供され、それによって、特に出力中にz方向の深さを設定することができることも考えられる。
【0057】
これにより、ユーザは状況に応じて最適な被写界深度を選択することができる。上述したように、その値は、試料内であっても変化し得る。したがって、カスタマイズ性により、常に最適なユーザ体験が保証され、合成顕微鏡画像を正確に評価できるようになる。
【0058】
本発明による方法では、少なくとも第1の画像および第2の画像を撮像するように構成されたレンズに関する認識が提供され、特に、z方向の深さがレンズに関する認識に基づいて設定されることがさらに考えられる。
【0059】
それぞれのレンズに適合させることにより、画像の鮮明度と被写界深度との最適な兼ね合いを表すz方向の深さを設定することができる。
【0060】
本発明による方法では、少なくとも第1の融合画像および第2の融合画像の顕微鏡撮像が連続的に実行されることも考えられる。
【0061】
融合される画像を連続的に撮像すると、撮像画像を特に迅速に生成できるという利点がある。
【0062】
本発明の文脈において、少なくとも第1の融合画像および第2の融合画像が合成されて合成顕微鏡画像を形成するときにシェーディング補正が提供されることがさらに考えられる。
【0063】
シェーディング補正は、特に合成される2つの画像間の遷移部分において、特に良好な光学品質を達成することができる。
【0064】
本発明による方法では、少なくとも第1の融合画像または第2の融合画像がライブ画像として表示され、それによってz方向の少なくとも1つの深さを設定することも考えられる。
【0065】
ライブ画像により、ユーザは、z方向の深さ設定の効果を直ちに確認することができ、したがって、測定のための最適値を設定することができる。即時フィードバックにより、設定が最適ではなかったことが後になって明らかになるような、長時間に亘る画像撮像工程の開始が効果的に防止される。
【0066】
好ましくは、本発明による方法では、少なくとも、
・ 顕微鏡システムへの顕微鏡スライドの装填、
・ 顕微鏡スライドのオーバービュースキャン、
・ 顕微鏡スライドのラベル情報の記録、
・ 顕微鏡スライド上の試料の検出、
・ 試料の検出に基づく画像記録領域の特定、
・ 撮像パラメータの定義、
・ 事前に定義された撮像パラメータによる顕微鏡プレビュー撮像、特に本発明による顕微鏡プレビュー撮像、
・ 事前に定義された撮像パラメータによる顕微鏡撮像、特に本発明による顕微鏡撮像、
・ 合焦マップの作成、
・ 画像記録領域へのxyステージの移動、
・ レンズ欠陥の補正、
・ 少なくとも第1の画像、第2の画像、第1の融合画像、第2の融合画像、または合成顕微鏡画像の保存、および
・ 次の試料または顕微鏡スライドへのxyステージの移動
がさらに考えられる。
【0067】
ラベル情報を記録することで、画像の撮像前に顕微鏡を最適に調整することができる。例えば、z方向の深さをラベル情報に合わせることができる。例えば、ラベルには、試料の厚さまたはタイプに関する情報が含まれることがあり、その結果、特定の深さが有利であることがわかる。
【0068】
試料のオーバービュースキャンは、顕微鏡撮像と比較して、少なくとも解像度が低く、チャネル数が少ないかチャネルが異なり、画像領域が広く、または倍率が低い顕微鏡撮像と理解することができる。このようなオーバービュースキャンにより、試料および高解像度撮像の対象領域を迅速に特定することができる。
【0069】
xyステージを次の試料に移動させることにより、次の試料を迅速にピックアップすることができる。さらに、特に1つまたは複数の試料を有することができる次の顕微鏡スライドも、このようにしてピックアップすることができる。次の顕微鏡スライドが顕微鏡スライド機構を介してxyステージに挿入されるようにすることもできる。
【0070】
顕微鏡システムへの顕微鏡スライドの装填、顕微鏡スライドのオーバービュースキャン、画像記録領域の特定、撮像パラメータの定義、顕微鏡撮像、少なくとも第1の画像、第2の画像、第1の融合画像、第2の融合画像または合成顕微鏡画像の保存、または次の試料もしくは次の顕微鏡スライドへのxyステージの移動は、特に指定された順序で実施され得る。
【0071】
本発明のさらなる態様によれば、特に本発明による方法を実施するための顕微鏡システムが提供される。該システムは、
・ 少なくとも第1の融合画像および第2の融合画像の顕微鏡撮像を提供するように適合された光学撮像装置であって、
・ 第1の画像および第2の画像を撮像するように構成されたカメラおよびレンズと、
・ 第1の画像が撮像されるとき、試料を構造化された方法で照明するように構成された構造化照明装置と、
・ 第2の画像が撮像されるとき、試料を均一に照明するように適合されたガウス照明装置と、
を含む光学撮像装置と、
・ 第1の画像および第2の画像を融合するように適合された計算装置であって、第1の画像は低周波数の焦点画像情報に使用され、第2の画像は高周波数の焦点画像情報に使用され、第2の融合画像が第1の融合画像とは異なる試料上の位置を描写し、少なくとも第1の融合画像および第2の融合画像を合成顕微鏡画像に合成するように適合された計算装置と、
を備える。
【0072】
したがって、本発明による顕微鏡システムは、本発明による方法を参照して上述したものと同じ利点を有する。
【0073】
構造化照明装置は、少なくとも1つのコヒーレント光源、特にレーザ、または拡散板を備えることができ、それによって拡散板はレーザ光によって照射され、スペックルパターンを生成する。
【0074】
さらに、拡散板は回転可能であるように構成され、ガウス照明装置によって照明されるとき、顕微鏡撮像の時間スケールで均一に照明された画像が撮像される程度に回転されることがあり得る。このような配置により、第1の画像および第2の画像を特に迅速に次々に生成することが可能になり、その結果、合成顕微鏡画像の全体的な撮像時間が大幅に短縮される。
【0075】
本発明のさらなる態様によれば、プログラムがコンピュータ、特に本発明による顕微鏡システムの計算装置によって実行されるとき、本発明による方法をコンピュータに実行させる命令を含むコンピュータプログラム製品が提供される。
【0076】
したがって、本発明によるコンピュータプログラム製品は、本発明による方法および/または本発明による顕微鏡システムを参照して上述したものと同じ利点を有する。
【0077】
本発明のさらなる利点、特徴および詳細は、本発明の実施形態が図面を参照して詳細に説明される以下の説明から明らかになるであろう
。特許請求の範囲および明細書に記載された特徴は、個別にまたは任意の組合せで本発明に不可欠であり得る。
【図面の簡単な説明】
【0078】
【
図4】本発明による顕微鏡システムを示す図である。
【発明を実施するための形態】
【0079】
本発明のいくつかの実施形態の以下の説明では、異なる実施形態であっても、同じ技術的特徴に対して同じ参照符号が使用される。
【0080】
図1は、試料300の合成顕微鏡画像200を記録するための方法100を示す。該方法100は、
・ 少なくとも第1の融合画像210および第2の融合画像220を顕微鏡撮像するステップ110であって、
・ 第1の画像230を撮像する工程111であって、試料300が構造化された方法で照明される、工程111、
・ 第2の画像240を撮像する工程112であって、試料300が均一に照明される、工程112、および
・ 第1の画像230および第2の画像240を融合する工程113であって、第1の画像230は焦点に位置する低周波数画像情報に使用され、第2の画像240は焦点に位置する高周波数画像情報に使用される、工程113
を含み、第2の融合画像220が第1の融合画像210とは異なる試料300上の位置を描写する、ステップ110と、
・ 少なくとも第1の融合画像210および第2の融合画像220を合成顕微鏡画像200に合成するステップ120と、
を含む。
【0081】
全体として、本発明による方法100は、特に画像の鮮明度を含む特に高い光学的品質を有すると同時に、可能な限り大きい画像セクション、特に試料300全体の画像セクションを有する、高速で安価な撮像が可能になるという利点を達成する。第1の画像230および第2の画像240の合成は、レンズ412の焦点にない平面からの画像情報を破棄することができる画像を非常に迅速に作成することができることを意味し、それによって画像の鮮明度が高まる。この方法は、画像のスキャンを必要とせず、2つの画像230、240を撮像するだけなので、共焦点顕微鏡での画像を介したスキャンと比較して特に高速である。少なくとも2つ、特にいくつかの融合画像210、220を合成することにより、撮像速度を利用していくつかの画像をつなぎ合わせることができ、その結果、特に情報量の多い画像200、例えばセグメント化されたパノラマ画像または被写界深度の深い高解像度画像を有する画像200を生成することができる。
【0082】
さらに、本発明による方法では、さらなるステップ/段階を提供することができる。
【0083】
例えば、合成顕微鏡画像200の出力130を、特にスクリーン上に提供し得る。特に、合成顕微鏡画像200からのそれらの画像情報が破棄されるz方向の深さは、出力130の間に調整可能であることがさらにあり得る。このようにして、ユーザは、評価および/または撮像の要件に深さを最適に適合させることができる。
【0084】
図2および
図3は、融合画像210、220がどのように合成120され得るかを示す。
【0085】
図2は、試料300の上面図である。破線は、第1の融合画像210および第2の融合画像220が撮像される点を示す。点線で囲まれた各正方形は、第1の画像230および第2の画像240に対応し、これらはその後合成113される。言い換えれば、顕微鏡システム400は、図示の例では2つの画像230、240を4回撮像する。融合画像210、220は、それぞれの場合において重なり合う。次いで、融合画像210、220の合成120により、合成顕微鏡画像200が生成される。この合成顕微鏡画像200は、個々の融合画像210、220よりも、xy平面内の試料300のはるかに広い領域をカバーする。特に、試料300全体および/または試料の予め選択されたセクションを合成顕微鏡画像200でカバーすることがあり得る。
【0086】
図3は、融合画像210、220を合成120するためのさらなる変形例を示す。
図2の例では、融合画像210、220の試料上での位置は、xy平面内で変化するが、
図3の例では、z平面内での変化が示されている。言い換えれば、撮像装置410(
図4参照)の光軸に平行なz軸において変化する融合画像210、220も合成120することができる。
【0087】
破線で示されているのは、第2の画像240の焦点にない第2の画像240からの画像情報が破棄されるz方向の深さである。この深さは調整可能であることがあり得る。融合画像210、220間の距離は、融合画像210、220が深さ方向に重ならないように、図示のように選択することができる。融合画像210、220は、これらの深さにおいて少なくとも部分的に重なり合うこともあり得る。
【0088】
当然ながら、xy平面内で変化する融合画像210、220、ならびにz軸上で変化する融合画像210、220を合成120することによって、合成顕微鏡画像200を提供することもできる。結果として、顕微鏡システム400のユーザは、評価のために利用可能な特に多くの画像情報をもち、それによって、本発明による方法100は、情報量が多いにもかかわらず、非常に迅速に合成顕微鏡画像200を作成する。
【0089】
図4は、特に本発明による方法100を実行するための顕微鏡システム400を示す。顕微鏡システム400は、
・少なくとも第1の融合画像210および第2の融合画像220の顕微鏡撮像110を提供するように適合された光学撮像装置410であって、
・ 第1の画像230および第2の画像240を撮像111するように適合されたカメラ411およびレンズ412、
・ 第1の画像230が撮像されるときに、試料300を構造化された方法で照明するように適合された構造化照明装置413、および
・ 第2の画像240が撮像されるときに、試料300を均一に照明するように適合されたガウス照明装置414
を含む光学撮像装置410と、
・ 第1の画像230と第2の画像240とを融合113するように適合された計算装置420であって、第1の画像230は低周波数の焦点画像情報に使用され、第2の画像240は高周波数の焦点画像情報に使用され、第2の融合画像220は第1の融合画像210とは異なる試料300上の位置を描写し、少なくとも第1の融合画像210と第2の融合画像220とを合成顕微鏡画像200に合成するように適合された、計算装置420と、
を備える。
【0090】
図4は、顕微鏡システムをxz平面で見た図である。光は、コヒーレント光源430から、構造化照明装置413および/またはガウス照明装置414を介して、ビームスプリッタ450およびレンズ412を介して、ステージ415上に配置された試料300上に導かれる。そこで反射または蛍光発光された光は反射されて戻り、ビームスプリッタ450を通過した後、カメラ411に入射する。図示の実施例では、構造化照明装置413およびガウス照明装置414は、回転可能であるように構成された拡散板440を有する。拡散板が回転しない場合、構造化照明画像230を撮像111するために、構造化照明装置413によってスペックル照明が生成される。拡散板440が回転するように設定されている場合、均一に照明された画像240を撮像112することができる。制御装置420は、少なくとも、撮像装置410、カメラ411、レンズ412、構造化照明装置413、ガウス照明装置414、ステージ415、コヒーレント光源430または拡散板440を制御し得る。
【0091】
したがって、本発明による顕微鏡システム400は、本発明による方法100を参照して上述したものと同じ利点を有する。
【0092】
構造化照明装置413は、少なくとも1つのコヒーレント光源430、特にレーザと、拡散板440とを備えることができ、拡散板440は、レーザ光によって照射され、スペックルパターンを生成する。
【0093】
さらに、拡散板440は回転可能であるように構成され、ガウス照明装置414によって照明されるとき、顕微鏡撮像110の時間スケールで均一に照明された画像が撮像される程度に回転されることがあり得る。このような配置は、構造化照明および均一照明された画像230、240が次々と特に迅速に生成されることを可能にし、その結果、合成顕微鏡画像200の全体的な撮像時間が大幅に短縮される。
【0094】
前述の実施形態の説明は、単に例として本発明を説明するものである。当然ながら、実施形態の個々の特徴は、本発明の範囲から逸脱することなく、技術的に好都合であれば、互いに自由に組み合わせることができる。
【外国語明細書】