IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ セラビジョン アクティエボラーグの特許一覧

特表2025-503673試料を分析する方法、装置及びシステム
<>
  • 特表-試料を分析する方法、装置及びシステム 図1
  • 特表-試料を分析する方法、装置及びシステム 図2
  • 特表-試料を分析する方法、装置及びシステム 図3
  • 特表-試料を分析する方法、装置及びシステム 図4
  • 特表-試料を分析する方法、装置及びシステム 図5
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2025-02-04
(54)【発明の名称】試料を分析する方法、装置及びシステム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20250128BHJP
   G06T 7/70 20170101ALI20250128BHJP
   G06V 10/82 20220101ALI20250128BHJP
【FI】
G06T7/00 350C
G06T7/70 A
G06T7/00 630
G06V10/82
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024541798
(86)(22)【出願日】2023-01-17
(85)【翻訳文提出日】2024-09-04
(86)【国際出願番号】 EP2023050971
(87)【国際公開番号】W WO2023135320
(87)【国際公開日】2023-07-20
(31)【優先権主張番号】22151815.2
(32)【優先日】2022-01-17
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
(71)【出願人】
【識別番号】524254419
【氏名又は名称】セラビジョン アクティエボラーグ
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100112357
【弁理士】
【氏名又は名称】廣瀬 繁樹
(74)【代理人】
【識別番号】100114018
【弁理士】
【氏名又は名称】南山 知広
(74)【代理人】
【識別番号】100153729
【弁理士】
【氏名又は名称】森本 有一
(72)【発明者】
【氏名】マルティン アルマース
(72)【発明者】
【氏名】スベン ヘドルンド
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096CA04
5L096CA17
5L096FA69
5L096GA51
5L096HA11
5L096KA04
5L096MA07
(57)【要約】
試料を分析するための機械学習モデルを訓練する装置(10)及び方法(30)が提供される。方法(30)は、試料の少なくとも一部分の分類を備えるグラウンドトゥルースを受信すること(S300)と;試料を複数の方向から照明することと、複数の方向の各方向について、デジタル画像をキャプチャすることとによって、試料のデジタル画像の訓練セットを取得すること(S302)と;訓練セットと、受信したグラウンドトゥルースとを使用して、試料を分析するための機械学習モデルを訓練すること(S304)とを含む。さらに、試料を分析するための顕微鏡システム(20)及び方法(40)が提供される。
【選択図】図4
【特許請求の範囲】
【請求項1】
試料を分析するための機械学習モデルを訓練する方法(30)であって、
試料の少なくとも一部分の分類を備えるグラウンドトゥルースを受信すること(S300)と;
前記試料を複数の方向から照明し、前記複数の方向の各方向について、デジタル画像をキャプチャすることによって前記試料のデジタル画像の訓練セットを取得すること(S302)と;
デジタル画像の前記訓練セット及び前記受信したグラウンドトゥルースを使用して、前記試料を分析するための前記機械学習モデルを訓練すること(S304)と
を含む、方法(30)。
【請求項2】
前記試料は、未染色の試料である、請求項1に記載の方法(30)。
【請求項3】
前記訓練セットは、前記複数の方向から白色光で前記試料を照明し、前記複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得される、請求項1又は2に記載の方法(30)。
【請求項4】
前記機械学習モデルは、畳み込みニューラルネットワークである、請求項1~3のいずれか一項に記載の方法(30)。
【請求項5】
前記グラウンドトゥルースは、前記試料の前記少なくとも一部分の位置をさらに備え、前記機械学習モデルを訓練すること(S304)のステップは、
前記機械学習モデルを訓練すること(S306)であって、デジタル画像の前記訓練セット及び前記受信したグラウンドトゥルースを使用して、前記機械学習モデルの位置出力間の差が追加の所定の閾値よりも小さくなるまで訓練することで、前記試料の前記少なくとも一部分の位置を決定するように前記機械学習モデルを訓練する、訓練すること(S306)
をさらに含む、請求項1~4のいずれか一項に記載の方法(30)。
【請求項6】
前記グラウンドトゥルースは、前記試料の前記少なくとも一部分の寸法を備え、前記機械学習モデルを訓練すること(S304)のステップは、
訓練すること(S307)であって、デジタル画像の前記訓練セット及び前記受信したグラウンドトゥルースを使用して、前記機械学習モデルの寸法出力間の差が追加の所定の閾値よりも小さくなるまで訓練することで、前記試料の前記少なくとも一部分の寸法を決定するように前記機械学習モデルを訓練する、前記機械学習モデルを訓練すること(S307)
をさらに含む、請求項1~5のいずれか一項に記載の方法(30)。
【請求項7】
前記グラウンドトゥルースは、前記試料の複数の部分のそれぞれの分類を備える、請求項1~6のいずれか一項に記載の方法(30)。
【請求項8】
前記グラウンドトゥルースは、前記試料の前記複数の部分のそれぞれの位置をさらに備える、請求項7に記載の方法(30)。
【請求項9】
デジタル画像の前記訓練セットは、顕微鏡対物レンズ及びイメージセンサを用いて取得され、前記複数の方向のうちの少なくとも1つの方向は、前記顕微鏡対物レンズの開口数よりも大きい角度に対応する、請求項1~8のいずれか一項に記載の方法(30)。
【請求項10】
試料を分析する方法(40)であって、
試料のデジタル画像の入力セットを受信すること(S400)であって、デジタル画像の前記入力セットは、前記試料を複数の方向から照明し、前記複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得される、受信すること(S400)と;
前記試料を分析すること(S402)であって、
デジタル画像の前記入力セットを、請求項1~9のいずれか一項に記載の方法(30)により訓練される機械学習モデルに入力すること(S404)と、
前記機械学習モデルから、前記試料の少なくとも一部分の分類を含む出力を受信すること(S406)と
により、分析すること(S402)と
を含む、方法(40)。
【請求項11】
前記試料は、未染色の試料である、請求項10に記載の方法(40)。
【請求項12】
デジタル画像の前記入力セットは、前記複数の方向から白色光で前記試料を照明し、前記複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得される、請求項10又は11に記載の方法(40)。
【請求項13】
前記出力は、前記試料の前記少なくとも一部分の位置を備える、請求項10~12のいずれか一項に記載の方法(40)。
【請求項14】
前記試料のデジタル画像の前記入力セットは、顕微鏡対物レンズ及びイメージセンサを用いて取得され、前記複数の方向のうちの少なくとも1つの方向は、前記顕微鏡対物レンズの開口数よりも大きい角度に対応する、請求項10~13のいずれか一項に記載の方法(40)。
【請求項15】
回路(100)を備える、機械学習モデルを訓練する装置(10)であって、前記回路(100)は、
デジタル画像の訓練セットを受信するように構成された第1の受信機能(1100)であって、デジタル画像の前記訓練セットは、複数の方向から試料を照明し、前記複数の方向のそれぞれについて前記試料の少なくとも一部分のデジタル画像をキャプチャすることによって取得される、第1の受信機能(1100)と;
グラウンドトゥルースを受信するように構成された第2の受信機能(1102)と;
前記受信されたグラウンドトゥルース及びデジタル画像の前記取得される訓練セットを使用して、請求項1~9のいずれか1項に記載の方法(30)により、
機械学習モデルを訓練するように構成された、訓練機能(1104)と
を実行するように構成された回路(100)である、
装置(10)。
【請求項16】
前記訓練セットは、前記複数の方向から白色光で前記試料を照明し、前記複数の方向のそれぞれについてデジタル画像をキャプチャすることにより取得される、請求項15に記載の装置(10)。
【請求項17】
前記回路(100)は、
前記試料の高解像度のデジタル画像を受信するように構成された第3の受信機能(1106)と;
決定機能(1108)であって、
前記試料の前記高解像度のデジタル画像の対応する部分を分類することにより前記試料の少なくとも一部分を分類し、
前記試料の前記少なくとも一部分の前記分類を備えるグラウンドトゥルースを形成する
ように構成された、決定機能(1108)と
を実行するようにさらに構成され、
前記第2の受信機能(1102)は、前記形成されたグラウンドトゥルースを前記決定機能(1108)から受信するように構成されている、請求項15又は16に記載の装置(10)。
【請求項18】
前記訓練機能(1104)は、デジタル画像の前記訓練セットの第1のサブセットを使用して、前記機械学習モデルを訓練するように構成され、前記回路(100)は、
再構築機能(1110)であって、デジタル画像の前記訓練セットの第2のサブセットから前記試料の高解像度のデジタル画像を再構築するように構成され、前記高解像度の画像は、前記訓練セットのデジタル画像の解像度よりも高い解像度を有する、再構築機能(1110)
を実行するようにさらに構成され、
前記第3の受信機能(1106)は、前記再構築機能(1110)から前記試料の前記高解像度のデジタル画像を受信するように構成される、請求項17に記載の装置(10)。
【請求項19】
前記決定機能(1108)は、
前記試料の前記高解像度のデジタル画像の対応する部分の位置を決定することにより、
前記試料の前記少なくとも一部分の位置を決定するようにさらに構成され、
前記グラウンドトゥルースは、前記試料の前記少なくとも一部分の前記決定された位置
をさらに備える、請求項17又は18に記載の装置(10)。
【請求項20】
顕微鏡システム(20)であって、
試料(292)を複数の方向(262)から照明するように構成された照明システム(260)と;
イメージセンサ(270)と;
前記試料(292)を前記イメージセンサ(270)上に結像させるように配置された少なくとも1つの顕微鏡対物レンズ(280)と;
回路(200)であって、
前記複数の方向(262)から前記試料(292)を順次照明するように前記照明システム(260)を制御するように構成された照明機能(2100)と、
デジタル画像の入力セットを取得するように前記イメージセンサ(270)を制御するように構成されたキャプチャ機能(2102)であって、デジタル画像の前記入力セットは、複数の方向(262)から前記試料(292)を照明することと、前記複数の方向(262)のそれぞれについてデジタル画像をキャプチャすることとによって取得される、キャプチャ機能(2102)と、
分析機能(2104)であって、
デジタル画像の前記入力セットを請求項1~9のいずれか1項に記載の前記方法(30)によって訓練される機械学習モデルに入力し、
前記機械学習モデルから、少なくとも1つのクラスへの前記試料(292)の少なくとも一部分の分類、を含む出力を受信するように構成されていることにより、前記試料(292)を分析するように構成される分析機能(2104)と
を実行するように構成される、回路(100)と
を備える、顕微鏡システム(20)。
【請求項21】
前記照明システム(260)は、複数の光源(261)を備え、前記複数の光源(261)の各光源は、白色光を発するように構成されている、請求項20に記載の顕微鏡システム(20)。
【請求項22】
前記照明システム(260)は、湾曲面(264)上に配置された複数の光源(261)を備え、前記湾曲面(264)は、前記面(264)に沿った少なくとも1つの方向に沿って凹んでおり、前記複数の光源(261)の各光源は、前記複数の方向のうちの1つから前記試料(292)を照明するように構成されている、請求項20又は21に記載の顕微鏡システム(20)。
【請求項23】
前記湾曲面(264)は、ファセット(265)で形成されている、請求項22に記載の顕微鏡システム(20)。
【請求項24】
処理能力を有する装置上で実行されると請求項1~9のいずれか一項に記載の方法(30)又は請求項10~14のいずれか一項に記載の方法(40)を行うプログラムコード部分を含む、非一時的なコンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、試料を分析する方法、装置及びシステムに関する。
【背景技術】
【0002】
発明の背景
デジタル顕微鏡検査の分野では、一般的なタスクは、試料内の対象物を見つけ、同定することである。例えば、血液学や細胞学の分野では、試料を採取した患者の診断を確立するために、特定の細胞タイプを見つけて同定する場合がある。
【0003】
通常、特定のタイプの細胞について試料を迅速にスクリーニングすることは有益である。このようなスクリーニングでは、スピードと精度の間で妥協が必要である。高精度のスクリーニングを行うには、一般的に試料を大きく拡大する必要があり、これにより細胞の種類を決定することができる。しかしながら、これは逆に、一度に試料のごく一部しか撮像されないことを意味する。高倍率で試料全体をスクリーニングするためには、試料の個々の位置を多数撮像しなければならず、時間がかかるスクリーニング工程につながる。したがって、スクリーニングに要する時間を短縮するためには、撮像位置の数を減らすことが考えられる。しかしながら、試料全体をスクリーニングする場合は、倍率を下げる必要がある。その一方で、これはスクリーニングの精度を低下させ、細胞タイプを適切に発見及び同定できないスクリーニング工程につながる可能性がある。
【0004】
それゆえ、当技術分野には改良の必要がある。
【発明の概要】
【発明が解決しようとする課題】
【0005】
以上のことから、本発明概念の目的は、上述した問題を克服するか、少なくとも部分的に軽減することである。特に、デジタル顕微鏡で試料を分析し、高速、高性能、高精度で試料を分類する、改良されたより効率的な方法を提供することが本発明概念の目的である。より少ない計算能力で試料を分類する方法を提供することが目的である。
【課題を解決するための手段】
【0006】
第1の態様によれば、試料を分析するための機械学習モデルを訓練する方法が提供される。当該方法は、試料の少なくとも一部分の分類を備えるグラウンドトゥルースを受信することと;複数の方向から試料を照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることにより、試料のデジタル画像の訓練セットを取得することと;デジタル画像の訓練セットと、受信したグラウンドトゥルースを使用して、試料を分析するための機械学習モデルを訓練することと、を含む。
【0007】
本開示の文脈では、「グラウンドトゥルース」(ground truth)という表現は、本物及び/又は真であることが知られている情報として解釈されるべきである。したがって、この文脈では、機械学習モデルは、試料を分類するように訓練されるので、グラウンドトゥルースは、試料の真の分類を表すことができる。真の分類は、例えば、人間が試料を手動で分類することによって、及び/又は、従来の技術(例えば、デジタル画像などのオブジェクト認識)を使用して試料を分類するように構成された装置によって行うことができる。
【0008】
本開示の文脈において、「試料の一部分」という表現は、試料の一領域として解釈されるべきである。試料の一部分は、試料内の単一の物体(例えば、セル)、試料内の複数の物体のサイズに相当するエリア、試料全体、又はその間の任意のサイズのエリアである場合がある。したがって、試料の一部分の分類は、試料内の物体及び/又は領域の分類と理解することができる。
【0009】
したがって、機械学習モデルは、デジタル画像の訓練セットをグラウンドトゥルースに相関させるように訓練することができる。機械学習モデルは、機械学習モデルの分類出力とグラウンドトゥルースとの差が所定の閾値よりも小さくなるまで、反復的及び/又は再帰的に学習され得る。分類出力とグラウンドトゥルースとの差が小さいほど、機械学習モデルによる分類の精度が高いことを示すことができる。機械学習モデルは、複数の試料を用いて訓練される。このような場合、機械学習モデルは、複数の試料の各試料のデジタル画像の訓練セットと、複数の試料の各試料に関連付けられた対応するグランドトゥルースとを用いて訓練することができる。機械学習モデルを訓練する際に複数の試料を使用することで、訓練された機械学習モデルを使用して提供される分類を向上させることができる。
【0010】
複数の異なる方向から試料を照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることにより、試料を撮像するために使用される従来の顕微鏡(すなわち、従来の顕微鏡照明を使用する)によって通常解像可能であるものよりも微細な詳細に関する試料の情報がキャプチャされ得る。これは、試料に関連するフーリエ空間(すなわち、空間周波数領域)の異なる部分が、異なる照明方向に対して撮像されるものとして理解することができる。この技法は、当技術分野ではフーリエ・タイコグラフィ(Fourier Ptychography)として知られている。さらに、複数の異なる方向から試料を照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることにより、試料に関連する屈折率に関する情報をキャプチャすることができる。これは、光の屈折が、試料を照射する光の入射角及び試料の屈折率に依存する効果、として理解することができる。試料の屈折率に関する情報は、ひいては、試料に関連する位相情報(当技術分野では一般に定量的位相と呼ばれる)を決定することを可能にし得る。複数のデジタル画像は、試料の微細な詳細、試料に関連する屈折率、及び試料に関連する位相情報のうちの1つ又は複数に関連する情報を含むため、この情報は、機械学習モデルの訓練において使用されてもよく、このことは、ひいては、複数のデジタル画像が1つの方向のみからキャプチャされた場合に許容される場合よりも、試料をより正確に分類するように訓練される機械学習モデルを可能にし得る。別の言い方をすれば、複数の異なる方向から試料を照明することにより、試料を撮像するために使用される顕微鏡対物レンズによって通常許容されるものよりも微細な、試料の細部に関連する情報をキャプチャすることができる場合がある。したがって、比較的低い倍率の顕微鏡対物レンズを使用しても、微細な細部に関連する情報をキャプチャすることができる。比較的低い倍率の顕微鏡対物レンズを使用することで、各撮像位置で試料の大部分を撮像することができる。したがって、比較的少ない位置で撮像することにより、試料全体を走査することができ、ひいては、試料の走査をより速くすることができる。
【0011】
したがって、本発明概念により、試料の非常に詳細な画像(すなわち、複数のデジタル画像よりも相対的に高い倍率を有する画像)を必要とすることなく、複数のデジタル画像から直接、試料を迅速に分類することができる。さらなる利点は、人間の代わりに訓練された機械学習モデルによって試料を分類できることであり、これにより、より迅速かつ信頼性の高い分類が可能になり得る。
【0012】
試料は未染色の試料でもよい。これは、試料の屈折率に関連する情報及び/又は試料に関連する位相情報が、複数の方向から試料を照明することによってキャプチャされ得るために、回避され得る。この情報(又は試料内の変動)は、機械学習モデルが訓練される際に使用することができ、これにより訓練された機械学習モデルは、未染色の試料を分類するために使用され得る。
【0013】
関連する利点は、訓練された機械学習モデルを使用して、未染色の試料を分類できることである。これにより、関連する染色工程を避けることができる。その結果、有毒な化学物質や危険な化学物質の使用をなくすことが可能となる。さらに、試料の分類に関連する経済的コストを削減し、及び/又は試料の分類に必要な時間を短縮することができる。
【0014】
訓練セットは、複数の方向から白色光で試料を照射し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得することができる。
【0015】
本開示の文脈において、「白色光」という表現は、比較的広い波長スペクトルを有する光として解釈されるべきである。白色光は、例えば、太陽光に類似していてもよい。白色光のスペクトルは、狭いスペクトルを有する光(例えば、単色光)とは対照的に、可視光スペクトルの大部分を含み得る。
【0016】
関連する利点として、白色光(すなわち広いスペクトル光)により、狭帯域光源を使用する場合にはカバーされないスペクトルの部分で欠落する可能性がある、試料に関するより多くの情報をデジタル画像の訓練セットにキャプチャできる場合がある。その情報は、訓練された機械学習モデルによって、試料を分析する際に使用される。フーリエ・タイコグラフィを利用する撮像用途では、一般的に単色光が必要であり、したがって、先行技術のシステムでは、試料に関するマルチスペクトル情報をキャプチャするために、複数の異なる色の単色光が必要とされる場合がある。したがって、白色光を使用することで、フーリエ・タイコグラフィを利用する先行技術のシステムと比較して、試料に関するマルチスペクトル情報をキャプチャするために必要なデジタル画像の総数を減らすことができる。さらに、異なる色の単色光を使用すると、それらの特定の波長範囲の試料に関する情報のみをキャプチャすることができる場合があり、白色光はより広いスペクトルを有する場合があるため、白色光を使用すると、単色光を使用する場合と比較して、より広い波長範囲の試料に関する情報をキャプチャすることができる場合がある。
【0017】
機械学習モデルは、畳み込みニューラルネットワークであってもよい。
【0018】
関連する利点は、畳み込みニューラルネットワークが、人間の監視なしに、複数のデジタル画像内の試料に関連する重要な特徴を検出できることである。これは、複数のデジタル画像が、試料内に存在する物体に関連する高さ及び/又は位置などの情報を含み得ることによる効果と考えられる。
【0019】
さらに関連する利点として、畳み込みニューラルネットワークは、他のニューラルネットワークと比較して画像認識の精度を高めることができ、ひいては試料の分類を改善することができる。
【0020】
グラウンドトゥルースは、試料内の少なくとも一部分の位置をさらに備えてもよく、機械学習モデルを訓練することのステップは、デジタル画像の訓練セット及び受信したグラウンドトゥルースを使用して、機械学習モデルの位置出力間の差が、追加の所定の閾値よりも小さくなるまで訓練することで、試料内の少なくとも一部分の位置を決定するように機械学習モデルを訓練することをさらに含んでもよい。
【0021】
試料内の少なくとも一部分は、関心対象物(例えば、細胞)を含んでいてもよく、それにより、少なくとも一部分の位置は、関心対象物の位置となり得る。少なくとも一部分の位置は、試料の相対的位置であってもよい。
【0022】
関連する利点は、訓練された機械学習モデルを使用して試料を分析する際に、試料の関心部分(例えば、特定のクラスに割り当てられている部分)の位置を決定し得ることである。
【0023】
グラウンドトゥルースは、試料内の少なくとも一部分の寸法をさらに備えてもよく、機械学習モデルを訓練することのステップは、デジタル画像の訓練セット及び受信したグラウンドトゥルースを使用して、機械学習モデルの寸法出力間の差が追加の所定の閾値よりも小さくなるまで訓練することで、試料の少なくとも一部分の寸法を決定するように機械学習モデルを訓練する、機械学習モデルを訓練することをさらに含んでもよい。
【0024】
関連する利点は、訓練された機械学習モデルを使用して試料を分析する際に、試料の関心部分(例えば、特定のクラスに割り当てられた部分)の寸法(例えば、形状及び/又はサイズ)を決定し得ることである。
【0025】
グラウンドトゥルースは、試料の複数の部分のそれぞれの分類を備えてもよい。
【0026】
関連する利点は、機械学習モデルは、1つの試料の異なる部分を異なるクラスに分類するように訓練することができ、訓練された機械学習モデルを使用した試料の分析をさらに向上することができることである。
【0027】
グラウンドトゥルースは、さらに、試料内の複数の部分のそれぞれの位置を備えてもよい。
【0028】
関連する利点は、機械学習モデルは、試料の関心部分(例えば、1つ又は複数の特定のクラスに分類された部分)の位置を出力するように訓練することができ、これにより、訓練された機械学習モデルを使用する試料の分析をさらに向上させることができることである。
【0029】
デジタル画像の訓練セットは、顕微鏡対物レンズ及びイメージセンサを使用して取得することができ、複数の方向のうちの少なくとも1つの方向は、顕微鏡対物レンズの開口数よりも大きな角度に対応し得る。
【0030】
顕微鏡対物レンズの開口数は、顕微鏡対物レンズが光を受け入れる角度の範囲に関連する無次元数であってもよい。したがって、数値開口よりも大きな方向は、顕微鏡対物レンズが明視野顕微鏡用に構成されている角度の範囲よりも大きな角度に対応する方向として理解することができる。
【0031】
顕微鏡対物レンズの開口数よりも大きな角度から試料を照明することで、その照明角度でキャプチャされた画像は、顕微鏡対物レンズが通常許容するよりも高い空間周波数、ひいては試料のより微細な詳細に関する情報を含む可能性がある。これにより、顕微鏡対物レンズは、試料に関連する位相情報、及び顕微鏡対物レンズでは通常解像できない細部に関連する情報をキャプチャすることができ、機械学習モデルの訓練に使用することができる。別の言い方をすれば、顕微鏡対物レンズの開口数よりも大きな角度から試料を照射することで、機械学習モデルの訓練を改善することができる。
【0032】
第2の態様では、試料を分析する方法が提供される。当該方法は、試料のデジタル画像の入力セットを受信することであって、デジタル画像の入力セットは、試料を複数の方向から照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得される、受信することと;前記試料を分析することであって、デジタル画像の入力セットを、第1の態様の方法により訓練される機械学習モデルに入力することと、機械学習モデルから、試料の少なくとも一部分の分類を含む出力を受信することとにより、分析することとを含む。
【0033】
受信した試料のデジタル画像の入力セットを、第1の態様の方法により訓練された機械学習モデルに入力することにより、試料の分類が訓練された機械学習モデルから直接出力されるため、試料の一部分を分類するプロセスがより効率的になり得る。高倍率で撮像された画像に対して実施される分類技術と比較して、第1の態様の方法により訓練された機械学習モデルは、比較的低い倍率で撮影されたデジタル画像を使用することを可能にする一方で、(例えば、必要となる計算資源及び/又はメモリがより少なくなるため)より高効率で試料の部分の高精度の分類を提供することができる。
【0034】
試料は未染色の試料であってもよい。試料が未染色の試料の場合、デジタル画像の入力セットは、未染色の試料のデジタル画像で構成される。このような場合、機械学習モデルは、未染色の試料のデジタル画像で構成されるデジタル画像の訓練セットを用いて訓練することができる。
【0035】
デジタル画像の入力セットは、複数の方向から白色光で試料を照射し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得することができる。
【0036】
出力はさらに、試料内の少なくとも一部分の位置を含んでもよい。
【0037】
出力はさらに、試料内の少なくとも一部分の寸法を含んでもよい。
【0038】
試料のデジタル画像の入力セットは、顕微鏡対物レンズ及びイメージセンサを使用して取得することができ、複数の方向の少なくとも1つの方向は、顕微鏡対物レンズの開口数よりも大きな角度に対応することができる。
【0039】
第1の態様の上述した特徴は、適用可能な場合、この第2の態様にも適用される。過度の繰り返しを避けるため、上記を参照されたい。
【0040】
第3の態様によれば、機械学習モデルを訓練する装置が提供される。当該装置は、回路を備える、機械学習モデルを訓練する装置であって、回路は、デジタル画像の訓練セットを受信するように構成された第1の受信機能であって、デジタル画像の前記訓練セットは、複数の方向から試料を照明し、複数の方向のそれぞれについて試料の少なくとも一部分のデジタル画像をキャプチャすることによって取得される、第1の受信機能と;グラウンドトゥルースを受信するように構成された第2の受信機能と;受信されたグラウンドトゥルース及びデジタル画像の取得される訓練セットを使用して、第1の態様の方法により機械学習モデルを訓練するように構成された、訓練機能とを実行するように構成された回路である、装置である。
【0041】
訓練セットは、複数の方向から白色光で試料を照射し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得することができる。
【0042】
第3の態様の装置の回路は、試料の高解像度のデジタル画像を受信するように構成された第3の受信機能と;決定機能であって、試料の高解像度のデジタル画像の対応する部分を分類することにより試料の少なくとも一部分を分類し、試料の少なくとも一部分の分類を備えるグラウンドトゥルースを形成するように構成された、決定機能とを実行するようにさらに構成され得、第2の受信機能は、前記形成されたグラウンドトゥルースを決定機能から受信するように構成され得る。
【0043】
この文脈では、「試料の高解像度のデジタル画像」は、複数のデジタル画像の各デジタル画像よりも相対的に高い解像度を有する試料のデジタル画像として解釈されるべきである。さらに、試料の高解像度のデジタル画像は、デジタル画像の訓練セットの各デジタル画像をキャプチャするために使用される顕微鏡対物レンズよりも相対的に高い倍率を有する顕微鏡対物レンズでキャプチャされた試料のデジタル画像であってもよい。したがって、高解像度の画像では視認可能な細部も、訓練用のデジタル画像の撮影に使用した顕微鏡対物レンズで撮影したデジタル画像では視認できない場合がある。
【0044】
関連する利点は、装置が、複数のデジタル画像の各デジタル画像よりも比較的高い解像度を有する試料のデジタル画像を用いて試料の部分を分類することにより、グラウンドトゥルースを決定し得ることである。したがって、正確なグラウンドトゥルース(すなわち、試料の部分の分類)が許容され得る。
【0045】
さらに関連する利点は、装置自体がグラウンドトゥルースを決定することができ、それによって人間からの入力(例えば、人間によって実行される試料の部分の分類)の必要性を取り除くか、少なくとも減らすことができることである。
【0046】
訓練機能は、デジタル画像の訓練セットの第1のサブセットを使用して、機械学習モデルを訓練するように構成されてもよく回路は、再構築機能であって、デジタル画像の訓練セットの第2のサブセットから試料の高解像度のデジタル画像を再構築するように構成され、高解像度の画像は、訓練セットのデジタル画像の解像度よりも高い解像度を有する、再構築機能を実行するようにさらに構成されてもよく第3の受信機能は、再構築機能から試料の高解像度のデジタル画像を受信するように構成されてもよい。
【0047】
試料の高解像度のデジタル画像は、フーリエ・タイコグラフィを使用して、第2のサブセットから再構築することができる。試料の高解像度のデジタル画像は、複数の方向から試料を照明し、複数の方向の各々についてデジタル画像をキャプチャすることによって取得された複数のデジタル画像から試料の高解像度の画像を再構築するように訓練されたさらなる機械学習モデルに、第2のサブセットを入力することによって再構築され得る。
【0048】
関連する利点は、訓練の入力として使用されるデジタル画像(すなわち、デジタル画像の訓練セットの第1のサブセット)と、グラウンドトゥルースを決定するために使用されるデジタル画像(すなわち、デジタル画像の訓練セットの第2のサブセットから再構築された高解像度のデジタル画像)とをキャプチャするために、同じ顕微鏡システムを使用することができるため、機械学習モデルの改善された訓練が可能になることである。別の言い方をすれば、試料のデジタル画像をキャプチャするために同じシステムが使用されるので、試料は静置したままであってよく、それにより、デジタル画像の訓練セットの各デジタル画像は、試料の同じ部分のデジタル画像であることができる。これにより、機械学習モデルの訓練が改善される可能性がある。
【0049】
さらに関連する利点は、機械学習モデルの訓練に要する時間が短縮されることであり、これは、訓練に必要なすべてのデジタル画像が、一般的な撮像プロセスで取得することができるからである。
【0050】
決定機能は、試料の高解像度のデジタル画像の対応する部分の位置を決定することにより、試料内の少なくとも一部分の位置を決定するようにさらに構成されてもよく、グラウンドトゥルースは、試料の少なくとも一部分の決定された位置をさらに含んでもよい。
【0051】
第1の態様及び/又は第2の態様の上述の特徴は、適用可能な場合、この第3の態様にも適用される。過度の繰り返しを避けるために、上記を参照されたい。
【0052】
第4の側面によれば、顕微鏡システムが提供される。顕微鏡システムは、試料を複数の方向から照明するように構成された照明システムと;イメージセンサと;試料を前記イメージセンサ上に結像させるように配置された少なくとも1つの顕微鏡対物レンズと;回路であって、複数の方向から試料を順次照明するように照明システムを制御するように構成された照明機能と、デジタル画像の入力セットを取得するようにイメージセンサを制御するように構成されたキャプチャ機能であって、デジタル画像の入力セットは、複数の方向から試料を照明することと、複数の方向のそれぞれについてデジタル画像をキャプチャすることとによって取得される、キャプチャ機能と、第1の態様の方法によって訓練される機械学習モデルにデジタル画像の入力セットを入力し、機械学習モデルから、試料の少なくとも一部分を少なくとも1つのクラスとする分類を含む出力を受信するように構成されていることにより、試料を分析するように構成される分析機能とを実行するように構成される、回路とを備える。
【0053】
試料は未染色の試料であってもよい。
【0054】
照明システムは、複数の光源を備えてもよく、複数の光源の各光源は、白色光を発するように構成されてもよい。
【0055】
関連する利点は、狭帯域光源(例えば単色光源)を備える照明システムと比較して、電磁スペクトルのより広い範囲に関連する試料に関する情報をキャプチャできることである。
【0056】
さらに関連する利点は、狭帯域光源(例えば、単色光源)を備える照明システムと比較して、少ない光源で試料に関するマルチスペクトル情報をキャプチャできることである。これは、白色光を放出するように構成された光源が、フーリエ・タイコグラフィ用途で通常使用される狭帯域光源(例えば、単色光源)と比較して、より広い波長範囲の光を放出し得るためである。したがって、狭帯域光源と比較して、電磁スペクトルの特定の範囲をカバーするために必要な白色光を放出するように構成された光源の数が少なくて済む場合がある。
【0057】
照明システムは、表面に沿った少なくとも1つの方向に沿って凹んでいる湾曲面上に配置された複数の光源を備えることができ、複数の光源の各光源は、複数の方向のうちの1つから試料を照明するように構成されてもよい。
【0058】
複数の光源を湾曲面上に配置することは、各光源から顕微鏡システムの現在の撮像位置(すなわち、現在撮像されている未染色の試料の位置又は部分)までの距離が同様となる点で有利であり得る。この距離が同様であるため、各光源から放出される光の強度は、現在の撮像位置において同様である可能性がある。これは、逆2乗則の効果として理解することができる。したがって、未染色の試料は、複数の方向における各方向について同様の強度を有する光によって照明される可能性があり、ひいては、照明方向に依存しない未染色の試料のより均質な照明を可能にし得る。各光源から現在の撮像位置までの距離が、各光源を点光源として扱うことができるよう十分に大きくなるように、照明システムを構成することが有利な場合がある。これにより、現在の撮像位置で光が準コヒーレント(quasi-coherent)となり得る。したがって、各光源から現在の撮像位置までの距離は、現在の撮像位置における各光源からの光の強度が、デジタル画像の入力セットを生成するのに十分高くなるように選択することができる。
【0059】
湾曲面はファセットで形成されていてもよい。別の言い方をすれば、湾曲面は複数の平坦面によって構築されてもよい。
【0060】
関連する利点は、照明システムの製造が容易になり、関連する経済コストを削減できることである。
【0061】
さらに関連する利点は、照明システムがモジュール式であり得ることである。それにより、1つ又は複数の光源を交換することが容易になる可能性がある(例えば、光源が破損した場合及び/又は光源に欠陥がある場合)。例えば、ファセット上に存在する1つ又は複数の光源は、他のファセット上に存在する光源を交換することなく(例えば、当該ファセットを除去することによって)除去し、交換することができる。
【0062】
第1の態様、第2の態様、及び/又は第3の態様の上述の特徴は、適用可能な場合、この第4の態様にも適用される。過度の繰り返しを避けるために、上記を参照されたい。
【0063】
第5の態様によれば、非一時的なコンピュータ可読記憶媒体が提供される。この非一時的なコンピュータ可読記憶媒体は、処理能力を有する装置上で実行されると、第1の態様による方法を行うプログラムコード部分を含む。
【0064】
第1の態様、第2の態様、第3の態様、及び/又は第4の態様の上述の特徴は、適用可能な場合、この第5の態様にも適用される。過度の繰り返しを避けるために、上記を参照されたい。
【0065】
次に、添付図面を参照しながら、本発明概念の上記及び他の態様をより詳細に説明する。図は、本発明概念を特定の変形例に限定するものと考えられるべきではなく、本発明概念を説明し理解するために使用される。図に示されるように、異なる要素間の相対距離、層及び領域のサイズは、説明のために誇張されており、したがって、本発明概念の変形例の一般的な構造を説明するために提供される。同様の参照数字は、全体を通して同様の要素を指す。
【図面の簡単な説明】
【0066】
図1図1は、機械学習モデルを訓練する装置を示す図である。
図2図2は、顕微鏡しステムを示す図である。
図3図3は、試料を分析するための機械学習モデルを訓練する方法のボックススキームの図である。
図4図4は、訓練された機械学習モデルを用いて試料を分析する方法のボックススキームの図である。
図5図5は、ファセットが形成された湾曲面を有する照明システムを示す図である。
【発明を実施するための形態】
【0067】
詳細な説明
以下、添付図面を参照して本発明概念をより完全に説明するが、この図面には本発明概念の現在好ましい変形例が示されている。しかしながら、本発明概念は、多くの異なる形態で実施され得、本明細書に記載された変形例に限定されると解釈されるべきではなく、むしろ、これらの変形例は、徹底性及び完全性のために提供されるものであり、当業者に本発明概念の範囲を完全に伝えるものである。
【0068】
まず、試料を分析するための機械学習モデルを訓練する方法30及び装置10について、図1及び図3を参照しながら説明する。図1は、試料を分析するための機械学習モデルを訓練する装置10を示す。装置10は、計算装置であってもよい。好適な計算装置の例は、コンピュータ、サーバ、スマートフォン、タブレット等を含む。装置10はさらに、クラウドサーバ及び/又は分散計算設備の一部として実装されてもよい。装置10は、さらなる構成要素、例えば入力装置(マウス、キーボード、タッチスクリーンなど)及び/又はディスプレイを備えてよいことをさらに理解されたい。装置10は、例えば電力接続、バッテリなどの電源をさらに備えてもよい。装置10は、回路100を備える。図1の例に示されているように、回路100は、メモリ110、処理ユニット120、トランシーバ130、及びデータバス140のうちの1つ又は複数を備えてもよい。メモリ110、処理ユニット120、及びトランシーバ130は、データバス140を介して通信することができる。処理ユニット120は、中央処理装置(CPU)であってもよい。トランシーバ130は、外部装置と通信するように構成されていてもよい。例えば、トランシーバ130は、サーバ、コンピュータ外部周辺装置(例えば、外部記憶装置)等と通信するように構成されてもよい。外部装置は、ローカル装置であってもよいし、リモート装置(例えば、クラウドサーバ)であってもよい。トランシーバ130は、外部ネットワーク(例えば、ローカルエリアネットワーク、インターネットなど)を介して外部装置と通信するように構成されてもよい。トランシーバ130は、無線通信及び/又は有線通信用に構成することができる。無線通信に好適な技術は当業者に知られている。いくつかの非限定的な例として、Wi-Fi(登録商標)及び近距離無線通信(NFC)を含む。有線通信に好適な技術は当業者に知られている。いくつかの非限定的な例として、USB、イーサネット、Firewire(登録商標)を含む。
【0069】
メモリ110は、非一時的なコンピュータ可読記憶媒体であってもよい。図1の例に示されるように、メモリ110は、1つ又は複数の機能1100、1102、1104、1106、1108、1110に対応するプログラムコード部分を記憶してもよい。プログラムコード部分は、それによって機能を実行する処理ユニットによって実行可能であってもよい。したがって、回路100が特定の機能を実行するように構成されることが言及される場合、処理ユニット120は、メモリ110上に記憶され得る特定の機能に対応するプログラムコード部分を実行することができる。しかしながら、回路100の1つ又は複数の機能は、ハードウェア的に実装されてもよく、及び/又は特定の集積回路に実装されてもよいことを理解されたい。例えば、1つ又は複数の機能は、フィールドプログラマブルゲートアレイ(FPGA)を使用して実装されてもよい。別の言い方をすれば、回路100の1つ又は複数の機能は、ハードウェア又はソフトウェアで実装されてもよいし、2つの組み合わせとして実装されてもよい。
【0070】
回路100は、第1の受信機能1100、第2の受信機能1102、及び訓練機能1104を実行するように構成される。回路100は、第3の受信機能1106、決定機能1108、及び再構築機能1110のうちの1つ又は複数を実行するようにさらに構成されてもよい。
【0071】
第1の受信機能1100は、デジタル画像の訓練セットを受信するように構成される。デジタル画像の訓練セットは、複数の方向から試料を照明し、複数の方向のそれぞれについて試料の少なくとも一部分のデジタル画像をキャプチャすることによって取得(S302)される。デジタル画像の訓練セットは、複数の方向から白色光で試料を照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得されてもよい。別の言い方をすれば、試料のデジタル画像の訓練セットは、複数の方向から白色光で試料を照明し、複数の方向の各方向について、試料のデジタル画像をキャプチャすることによって取得され得る。試料は未染色の試料であってもよい。したがって、デジタル画の訓練セットは、未染色の試料のデジタル画像を含んでもよい。第1の受信機能1100は、トランシーバ130を介してデジタル画像の訓練セットを受信するように構成されてもよい。例えば、デジタル画像の訓練セットは、外部の顕微鏡システムを用いてキャプチャされ、その後、装置10のトランシーバ130に送信される。さらなる例として、装置10は顕微鏡システムの一部を形成してもよく、デジタル画像の訓練セットは顕微鏡システムのイメージセンサから受信されてもよい。メモリ110は、デジタル画像の訓練セットを記憶するように構成されてもよく、第1の受信機能110は、メモリ110からデジタル画像の訓練セットを受信するように構成されてもよい。デジタル画像の訓練セットは、顕微鏡対物レンズ及びイメージセンサを用いて取得することができる。試料は、複数の方向のうちの少なくとも1つの方向から順次照明されてもよい。デジタル画像の訓練セットの各デジタル画像は、試料が複数の方向のうちの少なくとも1つの方向から照明されたときにキャプチャされてもよい。したがって、試料は、複数の方向のうちの単一の方向から照明されてもよいし、複数の方向のうちの複数の方向から同時に照明されてもよい。
【0072】
複数の方向のうちの少なくとも1つの方向は、顕微鏡対物レンズの開口数よりも大きな角度に対応してもよい。試料を複数の異なる方向から撮影し、複数の方向のそれぞれについてデジタル画像をキャプチャするので、試料を撮影するために使用される顕微鏡対物レンズで通常解像可能なものよりも微細な詳細に関する試料の情報がキャプチャされ得る。これは、試料に関連するフーリエ空間(すなわち、空間周波数領域)の異なる部分が、異なる照明方向に対して撮像されるものとして理解することができる。この技術は、当技術分野ではフーリエ・タイコグラフィとして知られている。一般に、フーリエ・タイコグラフィでは、試料に関連するフーリエ空間の高い空間周波数は、その試料が大きな入射角に対応する方向から照明される場合にサンプリングされる。したがって、試料が顕微鏡対物レンズの開口数よりも大きな角度に対応する方向から照明される場合には、フーリエ空間のさらに高い空間周波数がサンプリングされる可能性がある。これは、光が試料によって散乱され、試料によって散乱された光の一部が顕微鏡対物レンズによって収集される可能性があるため可能である。複数のデジタル画像は、試料の微細な詳細に関連する情報を含むので、この情報は、機械学習モデルの訓練において使用されてもよく、このことは、ひいては、複数のデジタル画像が1つの方向のみからキャプチャされた場合又は従来の顕微鏡使用時に許容されるものよりも、試料を正確に分析するように訓練される機械学習モデルを可能にし得る。別の言い方をすれば、一度に複数の異なる方向の1つから試料を照明することで、顕微鏡の対物レンズで通常許容されるよりも微細な試料の詳細に関する情報をキャプチャし得る。試料のより詳細な情報及び試料に関連する位相情報は、同時に複数の異なる方向のうちの複数から、例えば、複数の方向のサブセットから、試料を照明することによって取得できる場合があることを理解されたい。複数の方向のサブセットは、試料のフーリエ空間の異なる部分に対応する方向を含んでよい。試料のフーリエ空間の異なる部分は、部分的に重なっていても、重なっていなくてもよい。したがって、比較的低い倍率を有する顕微鏡対物レンズを使用しながら、試料の微細な細部に関連する情報をキャプチャすることができる。例えば、0.4の開口数を有する顕微鏡対物レンズは、試料を複数の方向から照明することにより、従来の顕微鏡法で使用されている1.25の開口数を有する顕微鏡対物レンズと同程度に微細な細部に関連する情報をキャプチャすることができる。別の言い方をすれば、試料を複数の方向から照明することにより、20倍の倍率を有する顕微鏡対物レンズは、従来の顕微鏡法で使用され、100倍の倍率を有する顕微鏡対物レンズと同程度に微細な細部に関する情報をキャプチャすることができる。上述の倍率及び開口数は例示であり、本発明は他の倍率及び/又は開口数でも実施可能であることを理解されたい。顕微鏡対物レンズとイメージセンサを備える好適な顕微鏡システムについては、図2に関連して説明する。
【0073】
第2の受信機能1102は、グラウンドトゥルースを受信する(S300)ように構成される。ここで、グラウンドトゥルースは、本物及び/又は真であることが知られている情報である。この文脈において、機械学習モデルは、試料を分類するように訓練されるので、グラウンドトゥルースは、試料の少なくとも一部分の真の分類を表すことができる。真の分類は、例えば、人間が試料を手動で分類することによって、及び/又は、従来の技術(例えば、デジタル画像などのオブジェクト認識)を使用して試料を分類するように構成された装置によって行うことができる。したがって、グラウンドトゥルース(すなわち、試料の真の分類)は、手動入力により受信され得る。手動入力は、デバイス10に接続された入力デバイス(図1には図示せず)例えばキーボード、マウスなどを介して行うことができる。グラウンドトゥルースは、トランシーバ130を介して受信されてもよい。例えば、分類は別の装置上で行われ、かつ/又は別の装置に保存され、トランシーバ130を介して装置10に送信されてもよい。試料が未染色の試料である場合、グラウンドトゥルースは、未染色の試料の分類を含んでもよい。代替的に、グラウンドトゥルースは、染色された試料の分類を含んでもよい。別の言い方をすれば、デジタル画像の訓練セットは、未染色の試料のデジタル画像を含んでもよい。未染色の試料のデジタル画像の訓練セットが取得された後、未染色の試料は染色されてもよい。それにより、グラウンドトゥルースは染色された試料の分類を含んでもいてもよい。したがって、機械学習モデルは、未染色の試料のデジタル画像の訓練セットと、グラウンドトゥルースが染色された試料の分類であるものを使用して、訓練されていてもよい。グラウンドトゥルースは、試料の少なくとも一部分の位置を含んでいてもよい。グラウンドトゥルースは、試料の少なくとも一部分の寸法を含んでいてもよい。試料の少なくとも一部分の寸法は、試料の少なくとも一部分の高さ、幅、形状のうちの1つ又は複数であってもよい。グラウンドトゥルースは、試料の複数の部分のそれぞれの分類を含んでいてもよい。したがって、機械学習モデルは、単一の試料の異なる部分を異なるクラスに分類するように訓練されてもよい。グラウンドトゥルースは、試料内の複数の部分のそれぞれの位置をさらに含んでいてもよい。グラウンドトゥルースは、試料内の複数の部分のそれぞれの寸法をさらに含んでいてもよい。機械学習モデルは、試料の関心部分(例えば、1つ又は複数の特定のクラスに分類される部分)の位置及び/又は寸法を出力するように追加的に訓練されてもよい。
【0074】
第3の受信機能1106は、試料の高解像度のデジタル画像を受信するように構成されていてもよい。試料の高解像度のデジタル画像は、デジタル画像の訓練セットをキャプチャするために使用される顕微鏡対物レンズよりも比較的大きな倍率を有する顕微鏡対物レンズを使用してキャプチャされてもよい。言い換えれば、高解像度画像をキャプチャするために使用される顕微鏡対物レンズは、比較的大きな倍率を有し得るため、高解像度画像は、デジタル画像の訓練セットをキャプチャするために使用される顕微鏡対物レンズを使用してキャプチャされた画像と比較して、試料のより小さい領域のデジタル画像である可能性がある。このため、試料の高解像度のデジタル画像は、試料の複数の高解像度のデジタル画像から形成され得る。例えば、複数の高解像度デジタル画像を結合(例えば、スティッチング)することによる。結合された画像は、それによって、デジタル画像の訓練セットのデジタル画像と比較可能な試料の領域の画像であってもよい。高解像度のデジタル画像は、デジタル画像の訓練セットの各デジタル画像よりも比較的高い解像度を有する試料のデジタル画像であってもよい。さらに、試料の高解像度のデジタル画像(又は複数の高解像度の画像のそれぞれ)は、デジタル画像の訓練セットのデジタル画像のそれぞれを撮影する際に使用された顕微鏡対物レンズよりも比較的高い倍率を有する顕微鏡対物レンズを用いて撮影された試料のデジタル画像であってもよい。したがって、高解像度の画像において視認可能な詳細部分は、デジタル画像の訓練セットを撮影する際に使用された顕微鏡対物レンズを用いて撮影されたデジタル画像では視認できない場合がある。試料が未染色の試料である場合、試料の高解像度のデジタル画像は、未染色の試料の高解像度のデジタル画像である場合がある。代替的に、試料の高解像度のデジタル画像は、染色された試料の高解像度のデジタル画像である場合がある。したがって、未染色の試料のデジタル画像の訓練セットが取得され、訓練セットが取得された後に、未染色の試料が染色される場合がある。試料が染色された後、染色された試料の高解像度のデジタル画像が取得される場合がある。再構築機能1110は、デジタル画像の訓練セットのサブセットから試料の高解像度のデジタル画像を再構築するように構成される場合がある。この場合、再構築された高解像度のデジタル画像は、未染色の試料のデジタル画像(試料が未染色の場合)である場合がある。再構築機能1110は、染色された試料のデジタル画像のセットから試料の高解像度の画像を再構築するように構成されていてもよい。この場合、再構築された高解像度のデジタル画像は、染色された試料のデジタル画像であってもよい。高解像度の画像は、訓練セットのデジタル画像の解像度よりも高い解像度を有していてもよい。試料の高解像度のデジタル画像は、フーリエ・タイコグラフィを用いて第2のサブセットから再構築されていてもよい。試料の高解像度のデジタル画像は、試料を複数の方向から照明し、複数の方向のそれぞれについてデジタル画像をキャプチャすることによって取得された複数のデジタル画像から試料の高解像度の画像を再構築するように訓練されているさらなる機械学習モデルに第2のサブセットを入力することによって再構築されてもよい。第3の受信機能は、再構築機能から試料の高解像度のデジタル画像を受信するように構成されてもよい。
【0075】
決定機能1108は、試料の高解像度のデジタル画像の対応する部分を分類することによって、試料の少なくとも一部分を分類するように構成されていてもよい。決定機能1108は、試料の複数の部分を分類するように構成されていてもよい。
【0076】
決定機能1108は、自動分類アルゴリズムを使用して高解像度のデジタル画像の対応する部分を分類するように構成されていてもよい。自動分類アルゴリズムは、画像認識を使用して試料内の1つ又は複数の対象を特定してもよい。決定機能1108は、識別された1つ又は複数の対象を、試料の分類と試料内の対象とを関連付けるエントリから構成されるデータベースと比較するように構成されていてもよい。例えば、決定機能1108は、血液試料中の癌細胞を特定するように構成されてもよく、データベースは癌細胞を適切な分類(例えば「癌」、「感染」など)と関連付ける。一例として、試料の分類は、試料の対象物がクラスに関連するかどうかを決定することを含み、それによって、クラスに関連する試料内の対象物の数をカウントすることができる。例えば、白血病のスクリーニングを行う場合、試料内の白血球の数を数えることが目的となる場合がある。別の例として、試料の分類は、クラスに属する少なくとも1つの対象物が試料中に存在するかどうかを決定することを含む場合がある。例えばマラリアのスクリーニングを行う場合、試料中にマラリア原虫に感染した赤血球が少なくとも1つ存在するか否かに応じて、試料が感染しているか感染していないかに分類される場合がある。同様に、子宮頸がんに進展する可能性がある子宮頸部前がん病変をスクリーニングする場合、試料に少なくとも1つの異常細胞が存在するか否かに応じて、試料を健康又は非健康に分類することができる。決定機能1108は、人間からの手動入力を受信するように構成されていてもよい。手動入力は、例えば、試料及び/又は検出された物体の分類であってもよい。そのような場合、装置10は、物体検出の結果を表示するように構成されてもよく、装置10と通信する入力装置(例えば、キーボード及びマウス、及び/又はタッチスクリーン)を使用して物体を分類するように人間に促してもよい。
【0077】
決定機能1108は、試料の高解像度のデジタル画像における対応する部分の位置を決定することによって、試料の少なくとも1つの部分の位置を決定するようにさらに構成されていてもよい。決定機能1108は、試料の複数の部分を分類するように構成されている場合、試料内の複数の部分のそれぞれの位置を決定するようにさらに構成されていてもよい。位置は、例えば、物体認識によって決定されてもよい。例えば、試料は、マーキングを備える表面上に配置されてもよい。表面上のマーキングは、表面上の相対位置に関連する情報を提供してもよい。したがって、マーキングは物体認識を使用して識別され、マーキングから表面上の相対位置が復号される場合がある。このようなマーキングは、高解像度のデジタル画像が複数の高解像度のデジタル画像の組み合わせである場合、高解像度のデジタル画像内の相対位置を決定するためにさらに使用される場合がある。決定機能1108は、高解像度のデジタル画像をキャプチャするために使用される顕微鏡システムから試料の現在の相対位置を受信するように構成される場合がある。高解像度のデジタル画像に画像化される試料の相対位置は、高解像度のデジタル画像のメタデータとして保存されてもよい。高解像度のデジタル画像が複数の高解像度のデジタル画像の組み合わせである場合、このような情報は、高解像度のデジタル画像内の相対位置を決定するためにさらに使用されてもよい。
【0078】
決定機能1108は、試料の少なくとも1つの部分の分類を備えるグラウンドトゥルースを形成するようにさらに構成されていてもよい。グラウンドトゥルースは、試料内の少なくとも1つの部分の決定された位置をさらに含んでいてもよい。第2の受信機能1102は、決定機能1108から形成されたグラウンドトゥルースを受信するように構成されていてもよい。
【0079】
訓練機能1104は、受信したグランドトゥルースと取得したデジタル画像の訓練セットを用いて、試料の部分を分析する機械学習モデルを訓練する(S304)ように構成される。機械学習モデルは、畳み込みニューラルネットワークであってもよい。機械学習モデルは、物体検出及び/又は分類に適した畳み込みニューラルネットワークであってもよい。訓練機能1104は、試料の少なくとも一部分の分類を備えるグランドトゥルースを受信するように構成される。訓練機能1104は、第2の受信機能1102からグラウンドトゥルースを受信してもよい。訓練機能1104は、さらに、試料のデジタル画像の訓練セットを取得するように構成される。前述の通り、デジタル画像の訓練セットは、試料に(場合によっては白色光で)複数の方向から光を照射し、複数の方向のそれぞれについてデジタル画像を撮影することによって取得される。訓練機能1104は、さらに、デジタル画像の訓練セット及び受信したグラウンドトゥルースとを用いて試料を分析するように機械学習モデルを訓練するように構成される。
【0080】
訓練機能1104は、機械学習モデルの分類出力とグラウンドトゥルースとの間の差が所定の閾値よりも小さくなるまで、機械学習モデルを反復的及び/又は再帰的に訓練するように構成されていてもよい。したがって、訓練機能1104は、デジタル画像の訓練セットをグラウンドトゥルースと相関させるように機械学習モデルを訓練することができる。機械学習モデルからの分類出力とグラウンドトゥルースとの間の差異がより小さいことは、訓練された機械学習モデルによって提供される分類の精度が高いことを示す可能性がある。訓練機能1104は、損失関数が所定の閾値よりも小さくなるまで機械学習モデルを訓練するように構成することができる。損失関数は、機械学習モデルの分類出力とグラウンドトゥルースとの間の差異から決定されてもよい。損失関数が最小化されるまで、機械学習モデルは訓練されてもよい。当業者は、関数、例えば損失関数を最小化することが、許容値に関連付けられてもよいことを理解する。例えば、損失関数は、最小化された損失関数が局所的及び/又は全体的最小ではない値を有する場合であっても、最小化されたとみなされてもよい。
【0081】
前述のように、グラウンドトゥルースはさらに、試料内の少なくとも一部分の位置を含んでもよい。そのような場合、訓練機能1104は、機械学習モデルの位置出力間の差が追加の所定の閾値よりも小さくなるまで、デジタル画像の訓練セット及び受信したグラウンドトゥルースを使用して機械学習モデルを訓練する(S306)ように、さらに構成されてもよい。これにより、機械学習モデルは、試料内の少なくとも一部分の位置を決定するように訓練され得る。これにより、訓練された機械学習モデルは、試料内の物体を位置特定できるようになる。
【0082】
前述のように、グラウンドトゥルースはさらに試料内の少なくとも一部分の寸法を含んでもよい。そのような場合、訓練機能1104は、デジタル画像の訓練セットと受信したグラウンドトゥルースを用いて、機械学習モデルの寸法出力間の差が所定の寸法閾値よりも小さくなるまで、機械学習モデルを訓練する(S307)ように構成されてもよい。これにより、機械学習モデルは、試料内の少なくとも一部分の寸法を決定するように訓練される可能性がある。これにより、訓練された機械学習モデルは、試料内の物体のサイズ及び/又は形状を決定することが可能になる可能性がある。
【0083】
デジタル画像の訓練セットのサブセットが、高解像度の画像を再構築するために使用される場合、訓練機能1104は、デジタル画像の訓練セットのさらなるサブセットを使用して機械学習モデルを訓練するように構成されてもよい。別の言い方をすれば、訓練機能1104は、デジタル画像の訓練セットの第1のサブセットを使用して機械学習モデルを訓練するように構成される場合があり、再構築機能1110は、デジタル画像の訓練セットの第2のサブセットを使用して高解像度のデジタル画像を再構築するように構成される場合がある。第1のサブセット及び第2のサブセットは、デジタル画像の訓練セットの部分的に重複するサブセットであってもよい。第1のサブセット及び第2のサブセットは、デジタル画像の訓練セットの重複しないサブセットであってもよい。
【0084】
次に、試料292を分析する方法40及び試料292を分析するのに適した顕微鏡システム20について、図2及び図4を参照して説明する。図2は、顕微鏡システム20を示す図である。図2の顕微鏡システム20は、上記に従って訓練された機械学習モデルによって分析される試料のデジタル画像のセットを取得するのに適している。さらに、図2の顕微鏡システムは、上記に従って機械学習モデルを訓練するために使用されるデジタル画像の訓練セットを取得するのに適している場合がある。
【0085】
図2に示されているように、顕微鏡システム20は、照明システム260、イメージセンサ270、少なくとも1つの顕微鏡対物レンズ280、及び回路200を備える。システムは、図2の例に示されるように、試料ホルダ290をさらに備えることができる。回路200は、メモリ210、処理ユニット220、トランシーバ230、及びデータバス240のうちの1つ又は複数を備えてもよい。処理ユニット220は、中央処理装置(CPU)及び/又はグラフィック処理装置(GPU)を備えてもよい。処理ユニット220は、CPU及びGPUで構成されてもよい。トランシーバ230は、外部装置と通信するように構成されていてもよい。例えば、トランシーバ230は、サーバ、コンピュータ外部周辺機器(例えば、外部記憶装置)等と通信するように構成されてもよい。外部装置は、ローカル装置であってもよいし、リモート装置(例えば、クラウドサーバ)であってもよい。トランシーバ230は、外部ネットワーク(例えば、ローカルエリアネットワーク、インターネットなど)を介して外部装置と通信するように構成されてもよい。トランシーバ230は、無線及び/又は有線通信のために構成されてもよい。無線通信に好適な技術は当業者に知られている。いくつかの非限定的な例として、Wi-Fi(登録商標)及び近距離無線通信(NFC)を含む。有線通信に好適な技術は当業者に知られている。非限定的な例として、USB、イーサネット、Firewire(登録商標)を含む。メモリ210、処理ユニット220、及びトランシーバ230は、データバス240を介して通信することができる。照明システム260及び/又はイメージセンサ270は、図2に示されるように、トランシーバ230を介して回路200と通信するように構成されてもよい。追加的に、又は代替的に、照明システム260及び/又はイメージセンサ270は、データバス240と直接(例えば、有線接続を介して)通信するように構成されてもよい。メモリ210は、非一時的なコンピュータ可読記憶媒体であってもよい。図2の例に示されるように、メモリ210は、1つ又は複数の機能2100、2102、2104に対応するプログラムコード部分を記憶してもよい。プログラムコード部分は、それによって機能を実行する処理ユニット220によって実行可能であってもよい。したがって、回路200が特定の機能を実行するように構成されていると言及される場合、処理ユニット220は、メモリ210上に記憶され得る特定の機能に対応するプログラムコード部分を実行することができる。しかしながら、回路200の1つ又は複数の機能は、ハードウェア的に実装されてもよく、及び/又は特定の集積回路に実装されてもよいことを理解されたい。例えば、1つ又は複数の機能は、フィールドプログラマブルゲートアレイ(FPGA)を使用して実装されてもよい。別の言い方をすれば、回路200の1つ又は複数の機能は、ハードウェア又はソフトウェアで実装されてもよいし、2つの組み合わせとして実装されてもよい。
【0086】
図2ではイメージセンサ270が単体で図示されているが、イメージセンサ270はカメラに内蔵されていてもよいことを理解されたい。図2の例では、試料ホルダ290は、試料292が塗布された顕微鏡スライドである。図2の例では、試料は未染色の試料である。しかしながら、前述したように、試料は染色された試料であってもよい。試料292はカバースリップ(図2には図示せず)で覆われていてもよいことを理解されたい。試料ホルダ290は、分析対象の試料292を保持するように構成されてもよい。試料ホルダ290は、(例えば、手動及び/又は電動ステージに結合されることによって)移動可能であってもよく、それによって、試料292の異なる部分が少なくとも1つの顕微鏡対物レンズ280によって撮像され得るように、試料292を移動させることができる。
【0087】
照明システム260は、複数の方向262から試料292を照明するように構成されている。図2の例に示されるように、照明システム260は、複数の光源261から構成されてもよい。光源は発光ダイオード(LED)であってもよい。光源はレーザであってもよい。光源は、インコヒーレント光、準コヒーレント光(quasi-coherent light)、又はコヒーレント光を発することができる。照明システム260の各光源は、複数の方向262のうちの1つから試料292を照射するように配置されてもよい。照明システム260は、複数の光源261のうちの1つ又は複数の光源で試料292を同時に照明するように構成されてもよい。別の言い方をすれば、照明システム260は、複数の方向262のうちの1つ又は複数の方向から試料292を同時に照明するように構成されてもよい。複数の光源261の各光源は、白色光を放出するように構成されてもよい。光源は、白色光を発するように構成されたLEDであってもよい。白色光を放出するように構成されたLEDは、青色光を放出するように構成されたLEDと、放出された青色光を白色光に変換するように構成された蛍光層とから構成されてもよい。例えば、白色光を発するように構成されたLEDは、例えば、青色光を照射すると白色光を発する蛍光体層で覆われた青色LEDによって形成することができる。代替的に、又は追加的に、光源は、白色光を発するように構成されたレーザーであってもよい。例えば、レーザーから放射された光は、より広いスペクトル帯域幅を持つ光に変換されることがある。このような変換プロセスの一例は、当技術分野ではスーパーコンティニューム(supercontinuum)発生として知られている。図2の例に示されるように、照明システム260の複数の光源261は、湾曲面264上に配置されてもよい。図2の例に示されるように、湾曲面264は、面264に沿った少なくとも1つの方向に沿って凹んでいてもよい。例えば、湾曲面264は円筒面であってもよい。湾曲面264は、表面に沿った2つの垂直方向に沿って凹んでいてもよい。例えば、湾曲面264は、球体のセグメントに類似した形状を有することができる。球のセグメントは、球状のキャップ又は球状のドームであってもよい。複数の光源を湾曲面上に配置することは、各光源から顕微鏡システム20の現在の撮像位置Pまでの距離Rが同様となる点で有利である。この距離が同様であるため、各光源から放出される光の強度は、現在の撮像位置Pにおいて同様になり得る。これは逆2乗則の効果として理解することができる。したがって、試料292は、複数の方向262の各方向について同様の強度を有する光によって照明される可能性があり、ひいては、照明方向に依存しない試料292のより均質な照明を可能にし得る。各光源から現在の撮像位置Pまでの距離Rは、4cmから15cmの範囲とすることができる。各光源から現在の撮像位置Pまでの距離Rが、各光源を点光源として扱うことができるように十分に大きくなるように照明システムを構成することが有利な場合がある。これにより、現在の撮像位置Pで光が準コヒーレントとなり得る。したがって、各光源から現在の撮像位置Pまでの距離Rは、現在の撮像位置における各光源からの光の強度が複数の画像を生成するのに十分高い場合には、15cmより大きくてもよい。特に、複数の光源のうちの1つ又は複数がレーザである場合、各光源間の距離Rは、15cmより大きくてもよい。しかしながら、複数の光源は、平坦な表面上又は不規則な形状を有する表面上に配置されてもよいことを理解されたい。さらに、図2は、顕微鏡システム20、特に照明システム260の断面を示していることを理解されたい。したがって、図2に図示された照明システム260の湾曲面は、円筒面であってもよいし、球面の一部(又は準球面)であってもよい。照明装置260の湾曲面264は、椀状であってもよい。湾曲面264は、ファセット265で形成されていてもよく、これは図5の例で示されている。別の言い方をすれば、湾曲面264は複数の平坦面で形成されていてもよい。湾曲面264は、複数のファセット又はセグメントからなる準球面の一部であってもよい。したがって、湾曲面264は、多面体の表面の一部であってもよい。このような多面体の一例として、切頂二十面体であってもよい。複数の光源261は、ファセット265上に配置されてもよい。各光源は、光源が関連するファセットの法線に実質的に平行な方向に光を放出するように構成されるように配置されてもよい。図2に図示した実施例と同様に、図5は照明装置260の断面を図示していることを理解されたい。したがって、図5に図示された照明システム260の湾曲面264は、準円筒面又は準球面の一部であってもよい。したがって、図5のファセット265は線で図示されているが、各ファセット265は少なくとも3つの辺を有する平坦面であってもよいことが理解されよう。例えば、湾曲面264は、5つの辺を有するファセット及び6つの辺を有するファセット(例えば、サッカーボール又はフットボールの内面に類似する)で形成されてもよい。図5の湾曲面264が連続面として図示されているとしても、各ファセットは分離していてもよいことを理解されたい。したがって、湾曲面は複数の部分によって形成されてもよく、各ファセットは1つ又は複数の部分によって形成されてもよい。さらに、各部分は1つ又は複数のファセットを含んでもよいことを理解されたい。さらに、このような部分は、隣接する部分と接触して配置されてもよいし、隣接する部分から距離を置いて配置されてもよい。単一の部分がすべてのファセットを含んでいてもよい。さらに、図5の照明システム260のファセット265の数は一例であり、照明システム260の湾曲面264を形成するために他の数のファセット265を使用してもよいことを理解されたい。さらに、各ファセット265上の光源の数は例示に過ぎず、その数は変化してもよいことを理解されたい。
【0088】
少なくとも1つの顕微鏡対物レンズ280は、試料292をイメージセンサ270上に結像するように配置される。少なくとも1つの顕微鏡対物レンズ280は、20倍の倍率及び/又は0.4の開口数を有する第1の顕微鏡対物レンズを備え得る。第1の顕微鏡対物レンズは、デジタル画像の訓練セットを取得するために使用することができる。少なくとも1つの顕微鏡280は、100倍の倍率及び/又は1.25の開口数を有する第2の顕微鏡対物レンズを備え得る。第2の顕微鏡対物レンズは、試料の高解像度画像を取得するために使用されることがあり、試料の高解像度画像の一部が分類され、グラウンドトゥルースを形成するために使用されることがある。第1の顕微鏡対物レンズ及び/又は第2の顕微鏡対物レンズの開口数及び倍率は例示であり、例えば、試料292の種類に応じて選択することができる。例えば、第1の顕微鏡対物レンズの開口数は、10倍の倍率及び/又は0.25の開口数を有することができる。顕微鏡システム20は、試料292をイメージセンサ270上に結像させるために少なくとも1つの顕微鏡対物レンズ280と共に使用され得る更なる光学レンズを含んでいてもよいことを理解されたい。例えば、顕微鏡システムは、図2の例に示されるように、少なくとも1つの顕微鏡対物レンズ280及び少なくとも1つのリレーレンズ285によって、試料292がイメージセンサ270上に結像され得るように配置された少なくとも1つのリレーレンズ285を含んでいてもよい。さらに、少なくとも1つのリレーレンズ285は、少なくとも1つの顕微鏡対物レンズ280の倍率及び/又は開口数に応じて選択(例えば、焦点距離、材料、サイズ等)され得ることを理解されたい。少なくとも1つの顕微鏡対物レンズ280は、手動ステージ及び/又は電動ステージに結合されることによって、長手方向Zに移動可能であってもよい。長手方向Zは、顕微鏡システム20の光軸に平行であってもよい。別の言い方をすれば、少なくとも1つの顕微鏡対物レンズ280は、顕微鏡システム20の集光方向に移動可能であってもよい。代替的に、又は追加的に、試料ホルダ290は、長手方向Zに沿って移動可能であってもよい。少なくとも1つの顕微鏡対物レンズ280及び/又は試料ホルダ290は、焦点合わせされた画像がイメージセンサ270によってキャプチャされ得るように、試料292が移動され得るような方向に移動可能であってもよい。少なくとも1つの顕微鏡対物レンズ280の長手方向Zは、回路200によって制御されてもよい。例えば、回路200は、長手方向Zに沿って少なくとも1つの顕微鏡対物レンズ280の位置を調整するように構成されたフォーカス機能(図2には図示せず)を実行するように構成され得る。フォーカス機能は、長手方向Zに沿って少なくとも1つの顕微鏡対物レンズ280の位置を自動的に調整するように構成され得る。別の言い方をすれば、フォーカス機能はオートフォーカス機能であってもよい。
【0089】
回路200は、照明機能2100、キャプチャ機能2102、及び分析機能2104を実行するように構成されている。
【0090】
照明機能2100は、複数の方向262から試料を順次照明するように照明装置260を制御するように構成されている。照明機能2100は、照明システム260を制御して、複数の方向262のそれぞれから試料292を白色光で照明するように構成されてもよい。
【0091】
キャプチャ機能2102は、イメージセンサ270を制御して入力セットのデジタル画像を取得するように構成されている。別の言い方をすれば、キャプチャ機能2102は、入力セットのデジタル画像を受信する(S400)ように構成されていてもよい。デジタル画像の入力セットは、複数の方向262から試料292を照明し、複数の方向262のそれぞれについてデジタル画像をキャプチャすることによって取得される。デジタル画像の入力セットは、複数の方向262から白色光で試料292を照明し、複数の方向262のそれぞれについてデジタル画像をキャプチャすることによって取得されてもよい。前述したように、複数の方向のうちの少なくとも1つの方向は、顕微鏡対物レンズ280の開口数282よりも大きな角度に対応してもよい。例えば、図2の方向2620は、顕微鏡対物レンズ280の開口数282よりも大きな角度に対応することができる。散乱されることなく方向2620から少なくとも1つの顕微鏡対物レンズ280に入射する光は、顕微鏡対物レンズ280を通って(すなわち、この方向からの光の入射角は、顕微鏡対物レンズ280の開口数282の外側であり得る)伝搬することができない場合がある。したがって、この方向からの光が顕微鏡対物レンズ280を通過して伝搬するためには、試料292によって散乱される必要がある場合がある。
【0092】
分析機能2104は、前述した方法で訓練された機械学習モデルにデジタル画像の入力セットを入力する(S404)ように構成されることによって、試料292を分析する(S402)ように構成される。図2の例の試料は未染色の試料であるので、機械学習モデルは、未染色の試料のデジタル画像を含むデジタル画像の訓練セットを用いて訓練される。分析機能2104はさらに、機械学習モデルから、少なくとも1つのクラスへの試料292の少なくとも一部分の分類を含む出力をで受信する(S406)ように構成される。出力はさらに、試料292内の少なくとも一部分の位置を含むことができる。出力は、試料292内の少なくとも一部分の寸法をさらに含むことができる。試料292の少なくとも一部分は、現在の撮像位置Pにおける試料292の部分に対応する場合がある。試料292は、試料292のいくつかの部分が上述と同様の方法で撮像されるように移動されてもよい。試料292内の少なくとも1つの部分は、試料292内の物体に対応することができる。別の言い方をすれば、試料292内の少なくとも一部分は、現在の撮像位置Pにおける試料292の面積よりも小さくても大きくてもよい。
【0093】
したがって、試料292の高度に詳細なデジタル画像を必要とすることなく、デジタル画像の入力セットから試料292を直接分類することができる。このような高詳細のデジタル画像は、例えば、デジタル画像の入力セットをキャプチャするために使用された顕微鏡対物レンズ280よりも比較的高い倍率を有する顕微鏡対物レンズを使用してキャプチャされたデジタル画像、又はフーリエ・タイコグラフィを使用して再構築されたデジタル画像であってもよい。したがって、試料292は、人間の代わりに、訓練された機械学習モデルによって分類されることができ、これにより、試料292の少なくとも一部分のより迅速かつ/又はより信頼性の高い分類が可能になり得る。フーリエ・タイコグラフィ顕微鏡法を用いて高解像度の画像を再構築するには、元のデジタル画像よりも高い解像度を有するデジタル画像に正しく結合するために、デジタル画像を空間周波数領域との間で、例えばフーリエ変換によって繰り返し変換することによって、多数のデジタル画像(一般には数百)を再構築画像に結合する必要があるため、これはさらに有利であり得る。したがって、再構築処理は非常に計算集約的であり、元の画像と再構築された高解像度の画像とを同時に記憶しなければならないため、大量のメモリを必要とする。したがって、このような反復再構築プロセスを回避することにより、試料292をより短時間で、より少ない計算資源を使用して分析することができる。さらに、計算画像処理(例えばフーリエ・タイコグラフィ)を用いて再構築されたデジタル画像は、試料292の垂直レベル(すなわち、顕微鏡対物レンズの光軸に沿ったレベル)に関連付けられるので、本発明概念は、異なる垂直レベル(すなわち、顕微鏡システム20の光軸に沿ったレベル)の対象物からなる試料により適している可能性がある。これは、血球内の物体と血球の上(又は下)にある物体とを区別することが重要である血球からなる血液試料にとって重要である可能性がある。機械学習モデルは、試料292のそのような特徴を直接分類するように訓練され得るので、訓練された機械学習モデルは、そのような特徴を含むように試料を直接分類し得るが、再構築画像を使用する方法は、試料内の複数の異なる垂直レベルでデジタル画像を再構築する必要があり、それによってさらに多くの処理資源及びメモリを必要とする。
【0094】
当業者であれば、機械学習について、特に、機械学習モデルがどのように訓練され得るか、及び/又は訓練された機械学習モデルがどのように使用され得るかについて認識しているであろう。しかしながら、簡単に説明すると、機械学習モデルは、教師あり機械学習モデルの一種であってよく、例えば、Xception、VGG、ResNet、EfficientNet、又はInceptionなどの分類ネットワークであってよい。機械学習モデルは、トランスフォーマー(transformer)ベースのネットワーク及び/又は物体検出ネットワーク、例えばSingle Shot Detector、Yolo、Faster R-CNN、RetinaNet、又はSpatial Pyramid Poolingであってもよい。機械学習モデルは、畳み込みニューラルネットワークであってもよい。機械学習モデルは、例示的な入力訓練データと、グラウンドトゥルース、すなわち「正しい」又は「真の」出力とを使用して、所望の出力を予測するように訓練される。別の言い方をすれば、グラウンドトゥルースは、入力訓練データのラベルとして使用される。入力訓練データは、異なる結果に関連するデータを備える場合があり、各入力訓練データは、それによりその特定の入力訓練データに関連するグラウンドトゥルースと関連付けられる場合がある。したがって、各入力訓練データは、関連するグラウンドトゥルース(すなわち、「正しい」又は「真の」出力)でラベル付けされてもよい。機械学習モデルは、複数のニューロン層から構成される場合があり、各ニューロンは、入力訓練データに適用される数学的演算を表す場合がある。通常、機械学習モデルは、入力層、1つ又は複数の隠れ層、及び出力層から構成される。最初の層は入力層と呼ばれる。機械学習モデルの各層(出力層を除く)の出力は、後続の層に供給され、後続の層が新たな出力を生成する。新しい出力は、さらに後続の層に供給されることがある。機械学習モデルの出力は、出力層の出力であってもよい。このプロセスは、機械学習モデルのすべての層に対して繰り返されてもよい。一般には、各層はさらに活性化関数を含む。活性化関数はさらに、層のニューロンの出力を定義することができる。例えば、活性化関数は、層からの出力が過大又は過小(例えば、正又は負の無限大に向かう傾向)ではないようにすることができる。さらに、活性化関数は、機械学習モデルに非線形性を導入し得る。訓練プロセス中、層のニューロンに関連する重み及び/又はバイアスは、機械学習モデルが入力学習データに対して、グラウンドトゥルースを反映した予測を生成するまで調整され得る。各ニューロンは、ニューロンへの入力に、そのニューロンに関連付けられた重みを乗算するように構成されてもよい。各ニューロンはさらに、そのニューロンに関連するバイアスを入力に加えるように構成されてもよい。別の言い方をすると、ニューロンからの出力は、ニューロンに関連するバイアスと、ニューロンに関連する重みと入力の積の和であってもよい。重み及びバイアスは、再帰的なプロセスや反復的なプロセスで調整されてもよい。これは、当技術分野では誤差逆伝播法(backpropagation)として知られている。畳み込みニューラルネットワークは、畳み込み演算を表す1つ又は複数の層からなるニューラルネットワークの一種であってもよい。この文脈において、入力学習データはデジタル画像を備える。デジタル画像は、行列として(又は配列として)表されることがあり、行列(又は配列)の各要素は、デジタル画像の対応する画素を表すことがある。これにより、要素の値は、デジタル画像の対応するピクセルのピクセル値を表すことができる。したがって、機械学習モデルへの入力は数値入力(例えば、行列又は配列)であってもよい。機械学習モデルの出力は、数値出力であってもよい。しかしながら、機械学習モデルの数値出力は、分類に関連付けられてもよい。例えば、機械学習モデルは数値(例えば整数)を出力し、各数値はクラスに関連付けられる。機械学習モデルの出力は、浮動小数点数からなるベクトル(又は配列)であってもよい。ベクトル/配列の各浮動小数点数は、入力がベクトル/配列内の浮動小数点数の位置に関連付けられたクラスに属する確率と関連付けられてもよい。したがって、出力ベクトル/配列のサイズ(又は長さ)は、機械学習モデルが入力を分類する(又は分類するように訓練される)クラスの数に対応する。機械学習モデルの出力がベクトル/配列である場合、入力は、最も高い確率を有するベクトル/配列の位置に関連付けられたクラスに属する(すなわち、クラスに分類される)と決定され得る。当業者は、上記の説明が他の特性にも適用され得ることを理解する。例えば、出力ベクトル/配列の浮動小数点数は、代替的に又は追加的に、例えば、試料内の関心対象物に係る試料の一部を構成するボックスの位置及び/又は寸法(例えば、高さ、幅、及び形状)に関連付けられ得る。
【0095】
当業者は、本発明概念が決して上述の好ましい変形例に限定されるものではないことを理解する。むしろ、添付の特許請求の範囲の範囲内で多くの修正及び変形が可能である。
【0096】
例えば、機械学習モデルは1つの試料に対してのみ訓練されると説明されてきたが、機械学習モデルは複数の試料を分析するために訓練されてもよいことを理解されたい。このような場合、機械学習モデルは、複数の試料の各試料のデジタル画像の訓練セットと、複数の試料の各試料に関連付けられた対応するグランドトゥルースとを用いて訓練することができる。
【0097】
さらに、分析対象の試料のデジタル画像は、顕微鏡システムを用いてキャプチャされ、その後、別の装置(例えば、コンピュータ、サーバ、クラウドサーバなど)上で分析され得ることを理解されたい。したがって、分析機能2104を使用せずに、図2の顕微鏡システム20を使用してデジタル画像をキャプチャすることも可能である。次に、キャプチャされたデジタル画像は、分析機能2104を実行するように構成された回路を備える別個の装置によって解析され得る。このような場合、別個の装置の回路は、デジタル画像の入力セットを受信する(S400)ように構成された受信機能を実行するように構成され得る。受信機能は、デジタル画像の入力セットを、別の記憶装置(サーバ、クラウドサーバ、外部記憶装置など)から、及び/又は、デジタル画像の撮影に使用された顕微鏡システムから受信するように構成されてもよい。
【0098】
追加的に、開示された変形例に対する変形は、特許請求された発明を実施する当業者によって、図面、開示、及び添付の特許請求の範囲の検討から理解され、効果を奏することができる。
図1
図2
図3
図4
図5
【国際調査報告】