IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ジェネンテック, インコーポレイテッドの特許一覧

特表2024-539991バイオマーカーの同定および発見のための方法およびシステム
<>
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図1
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図2
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図3
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図4
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図5
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図6
  • 特表-バイオマーカーの同定および発見のための方法およびシステム 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-31
(54)【発明の名称】バイオマーカーの同定および発見のための方法およびシステム
(51)【国際特許分類】
   A61B 3/10 20060101AFI20241024BHJP
【FI】
A61B3/10 100
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2024524980
(86)(22)【出願日】2022-10-26
(85)【翻訳文提出日】2024-06-12
(86)【国際出願番号】 US2022047944
(87)【国際公開番号】W WO2023076433
(87)【国際公開日】2023-05-04
(31)【優先権主張番号】63/272,060
(32)【優先日】2021-10-26
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】509012625
【氏名又は名称】ジェネンテック, インコーポレイテッド
(74)【代理人】
【識別番号】110002077
【氏名又は名称】園田・小林弁理士法人
(72)【発明者】
【氏名】ハズラティ, セイェド モハメドモーセン
(72)【発明者】
【氏名】ヤーオ, ヘミング
(72)【発明者】
【氏名】チャン, ミャオ
【テーマコード(参考)】
4C316
【Fターム(参考)】
4C316AA09
4C316AB02
4C316AB11
4C316FB13
4C316FB21
4C316FB27
(57)【要約】
対象の網膜の健康状態を判定するためのシステムおよび方法。対象の網膜の光干渉断層撮影(OCT)ボリューム画像が受信され得る。OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力が生成される。健康表示出力は、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す。深層学習モデルについてのマップ出力は、顕著性マッピングアルゴリズムを使用して生成され、顕著性マッピングアルゴリズムを使用して深層学習モデルについてのマップ出力を生成する。マップ出力は、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す。
【選択図】図2
【特許請求の範囲】
【請求項1】
対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信することと、
前記OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することであって、前記健康表示出力が前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す、健康表示出力を生成することと、
顕著性マッピングアルゴリズムを使用して前記深層学習モデルについてのマップ出力を生成することであって、前記マップ出力が前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す、マップ出力を生成することと、
を含む、方法。
【請求項2】
前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が前記加齢黄斑変性の選択されたステージの証拠となる確率である、請求項1に記載の方法。
【請求項3】
前記加齢黄斑変性の選択されたステージが、新生期地図状萎縮を含む、請求項2に記載の方法。
【請求項4】
前記選択された健康状態カテゴリが、前記OCTボリューム画像が生成された時点に関する現在の健康状態、または前記OCTボリューム画像が生成された前記時点後の選択された期間内に発症すると予測される将来の健康状態のいずれかを表す、請求項1~3のいずれか一項に記載の方法。
【請求項5】
前記顕著性マッピングアルゴリズムが、勾配重み付けクラス活性化マッピング(Grad-CAM)アルゴリズムを含み、前記マップ出力が、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の前記一連の領域の前記寄与度を視覚的に示す、請求項1~4のいずれか一項に記載の方法。
【請求項6】
前記OCTボリューム画像が、2次元である複数のOCTスライス画像を含み、
前記方法が、前記健康表示出力または前記マップ出力の少なくとも一方に基づいて評価推奨を生成することであって、前記評価推奨がさらなるレビューのために前記複数のOCTスライス画像のサブセットを識別する、評価推奨を生成すること、をさらに含む、
請求項1~5のいずれか一項に記載の方法。
【請求項7】
前記サブセットが、前記複数のOCTスライス画像の5%未満を含む、請求項6に記載の方法。
【請求項8】
前記マップ出力を使用して、前記選択された健康状態カテゴリに対する前記OCTボリューム画像内の一連のバイオマーカーを同定すること、
をさらに含む、請求項1~7のいずれか一項に記載の方法。
【請求項9】
前記同定することが、
前記選択された健康状態カテゴリに関連付けられていると示された前記一連の領域のうちの一領域と関連付けて潜在的なバイオマーカー領域を識別することと、
前記潜在的なバイオマーカー領域に対するスコアリングメトリックを生成することと、
前記スコアリングメトリックが、選択されたしきい値を満たす場合に、前記選択された健康状態カテゴリに対する少なくとも1つのバイオマーカーを含むものとして前記潜在的なバイオマーカー領域を識別することと、
を含む、請求項8に記載の方法。
【請求項10】
前記スコアリングメトリックが、前記潜在的なバイオマーカー領域のサイズまたは前記潜在的なバイオマーカー領域の信頼スコアの少なくとも一方を含む、請求項9に記載の方法。
【請求項11】
前記マップ出力を生成することが、
前記顕著性マッピングアルゴリズムを使用して前記OCTボリューム画像のOCTスライス画像に対する顕著性マップを生成することであって、前記顕著性マップが、前記選択された健康状態カテゴリについての前記OCTスライス画像内の各画素の重要度を示す、顕著性マップを生成することと、
前記顕著性マップをフィルタリングして、修正された顕著性マップを生成することと、
前記修正された顕著性マップを前記OCTスライス画像上にオーバーレイして前記マップ出力を生成することと、
を含む、請求項1~9のいずれか一項に記載の方法。
【請求項12】
前記健康表示出力に基づいて前記網膜のための治療推奨を生成すること、
をさらに含む、請求項1~11のいずれか一項に記載の方法。
【請求項13】
前記深層学習モデルを介して、前記健康表示出力を生成することが、
複数の初期出力を形成するために、前記OCTボリューム画像を形成する複数のOCTスライス画像の各OCTスライス画像についての初期出力を生成することと、
前記複数の初期出力を平均化して、前記健康表示出力を形成することと、
を含む、請求項1~12のいずれか一項に記載の方法。
【請求項14】
対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信することと、
前記OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することであって、前記健康表示出力が前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す、健康表示出力を生成することと、
顕著性マッピングアルゴリズムを使用して前記OCTボリューム画像に対する顕著性ボリュームマップを生成することであって、前記顕著性ボリュームマップが、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す、顕著性ボリュームマップを生成することと、
前記顕著性ボリュームマップを使用して、前記選択された健康状態カテゴリに対する前記OCTボリューム画像内の一連のバイオマーカーを検出することと、
を含む、方法。
【請求項15】
前記検出することが、
修正された顕著性ボリュームマップを生成するために、前記顕著性ボリュームマップをフィルタリングすることであって、前記修正された顕著性ボリュームマップが前記深層学習モデルによって生成された前記健康表示出力への少なくともしきい値寄与を有する一連の領域を識別する、顕著性ボリュームマップをフィルタリングすることと、
前記一連の領域のうちの一領域と関連付けて潜在的なバイオマーカー領域を識別することと、
前記潜在的なバイオマーカー領域に対するスコアリングメトリックを生成することと、
前記スコアリングメトリックが、選択されたしきい値を満たす場合に、前記一連のバイオマーカーの少なくとも1つのバイオマーカーを含むものとして前記潜在的なバイオマーカー領域を識別することと、
を含む、請求項14に記載の方法。
【請求項16】
前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が前記加齢黄斑変性の選択されたステージの証拠となる確率である、請求項14または15に記載の方法。
【請求項17】
システムであって、
非一時的メモリと、
前記非一時的メモリに結合され、前記システムに、
対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信させ、
前記OCTボリューム画像を使用して、深層学習モデルを介して、前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す健康表示出力を生成させ、
顕著性マッピングアルゴリズムを使用して前記深層学習モデルについてのマップ出力であって、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す前記マップ出力を生成させる、
命令を前記非一時的メモリから読み出すように構成されたハードウェアプロセッサと、
を備える、システム。
【請求項18】
前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が前記加齢黄斑変性の選択されたステージの証拠となる確率である、請求項17に記載のシステム。
【請求項19】
前記選択された健康状態カテゴリが、前記OCTボリューム画像が生成された時点に関する現在の健康状態、または前記OCTボリューム画像が生成された前記時点後の選択された期間内に発症すると予測される将来の健康状態のいずれかを表す、請求項17または18に記載のシステム。
【請求項20】
前記顕著性マッピングアルゴリズムが、勾配重み付けクラス活性化マッピング(Grad-CAM)アルゴリズムを含み、前記マップ出力が、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の前記一連の領域の前記寄与度を視覚的に示す、請求項17~19のいずれか一項に記載のシステム。
【請求項21】
前記OCTボリューム画像が、2次元である複数のOCTスライス画像を含み、前記ハードウェアプロセッサが、前記健康表示出力または前記マップ出力の少なくとも一方に基づいて前記システムに評価推奨を生成させる命令を前記非一時的メモリから読み出すようにさらに構成され、前記評価推奨が、さらなるレビューのために前記複数のOCTスライス画像のサブセットを識別し、前記サブセットが前記複数のOCTスライス画像の5%未満を含む、請求項17~20のいずれか一項に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、2021年10月26日に出願された「Methods and Systems for Biomarker Identification and Discovery」と題する米国仮特許出願第63/272,060号の優先権を主張し、その全体が参照により本明細書に組み込まれる。
【0002】
本開示は、一般に、網膜の光干渉断層撮影(OCT)画像の分析に関し、より詳細には、現在の健康状態を識別する、および/または将来の健康状態を予測するための深層学習モデルの使用、ならびに現在の網膜の健康状態を示す、および/または将来の網膜の健康状態の予後を示すOCT画像内のバイオマーカーを同定するための顕著性マッピングアルゴリズムの使用に関する。
【背景技術】
【0003】
組織の医用画像を捕捉するために様々な撮像技術が開発されており、この画像を分析して疾患の存在または進行を判定することがある。例えば、光干渉断層撮影(OCT)は、光波を使用して患者の網膜などの組織の2次元スライス画像および3次元ボリューム画像を捕捉し、次いで、これらの画像が、診断、監視、治療などをするために分析され得る技術を指す。しかしながら、大量のデータを含み得るこのような画像の分析は、手動で、通常は対象分野の専門家によって行われ、そのため、煩雑で非常に高価である場合がある。したがって、患者の診断、監視、および治療に使用するためのOCT画像などの大量の医用画像の一貫した、正確な、および迅速な分析を容易にする方法およびシステムを有することが望ましい場合がある。
【発明の概要】
【0004】
以下は、論じられる技術の基本的な理解を提供するために、本開示のいくつかの実施形態を要約する。この概要は、本開示のすべての企図される特徴の広範な概要ではなく、本開示のすべての実施形態の主要なまたは重要な要素を特定することも、本開示のいずれかまたはすべての実施形態の範囲を画定することも意図されていない。その唯一の目的は、後に提示されるより詳細な説明の前置きとして、本開示の1つまたは複数の実施形態のいくつかの概念を要約形式で提示することである。
【0005】
1つまたは複数の実施形態では、対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信するための方法が提供される。健康表示出力は、OCTボリューム画像を使用して、深層学習モデルを介して生成され、健康表示出力は、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す。顕著性マッピングアルゴリズムを使用して深層学習モデルについてのマップ出力が生成される。マップ出力は、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す。
【0006】
1つまたは複数の実施形態では、対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信するための方法が提供される。健康表示出力は、OCTボリューム画像を使用して、深層学習モデルを介して生成され、健康表示出力は、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す。顕著性マッピングアルゴリズムを使用して、OCTボリューム画像について顕著性ボリュームマップが生成される。顕著性ボリュームマップは、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す。顕著性ボリュームマップを使用して、選択された健康状態カテゴリに対するOCTボリューム画像内の一連のバイオマーカーが検出される。
【0007】
1つまたは複数の実施形態において、システムは、非一時的メモリと、非一時的メモリに結合されたハードウェアプロセッサとを備える。ハードウェアプロセッサは、システムに、対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信させ、OCTボリューム画像を使用して、深層学習モデルを介して、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す健康表示出力を生成させ、顕著性マッピングアルゴリズムを使用して、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す、深層学習モデルについてのマップ出力を生成させる命令を非一時的メモリから読み出すように構成される。
【図面の簡単な説明】
【0008】
本明細書に開示された原理およびその利点のより完全な理解のために、ここで、添付の図面と併せて以下の説明を参照する。
【0009】
図1】1つまたは複数の実施形態によるネットワーク化されたシステム100のブロック図である。
【0010】
図2】様々な実施形態による、対象の網膜のOCTボリューム画像を処理して、OCTボリューム画像が、網膜の選択された健康状態カテゴリの証拠となるかどうかを判定するプロセスのフローチャートである。
【0011】
図3】様々な実施形態による、対象の網膜のOCTボリューム画像におけるバイオマーカーを同定するためのプロセスのフローチャートである。
【0012】
図4】様々な実施形態による、注釈付きOCTスライス画像および注釈付きOCTスライス画像の対応するヒートマップを示す図である。
【0013】
図5】様々な実施形態による異なるマップの図である。
【0014】
図6】本開示の様々な実施形態による、コンピュータベースのモデルを実装するために使用することができる例示的なニューラルネットワークを示す図である。
【0015】
図7】本開示の様々な実施形態によるコンピュータシステムのブロック図である。
【0016】
図は必ずしも縮尺通りに描かれているとは限らず、図中のオブジェクトも必ずしも互いとの関係において縮尺通りに描かれているとは限らないことを理解されたい。図は、本明細書に開示される装置、システム、および方法の様々な実施形態に明瞭さおよび理解をもたらすことを意図した描写である。可能な限り、同じまたは同様の部分を指すために図面全体を通して同じ参照符号が使用される。さらに、図面は、本教示の範囲を決して限定するものではないことを理解されたい。
【発明を実施するための形態】
【0017】
I.概要
医療撮像技術は、医療従事者が患者の医学的問題をより良く視覚化および理解することを可能にする医療画像を生成するために使用され得る強力なツールであり、そのため、同じより正確な診断および治療選択肢を提供する。例えば、光干渉断層撮影(OCT)は、網膜の画像を捕捉するために特に人気のある非侵襲的撮像技術である。OCTは、音波を使用して組織をスキャンする超音波スキャンと同様に、組織から光波を散乱させて、組織の2次元(2D)画像および/または3次元(3D)画像の形態のOCT画像を生成する超音波スキャン技術として説明されることがある。2D OCT画像は、OCTスライス、OCT断面画像、またはOCTスキャン(例えば、OCT Bスキャン)と呼ばれることもある。3D OCT画像は、OCTボリューム画像と呼ばれることがあり、多くのOCTスライス画像から構成されることがある。次いで、OCT画像は、画像が得られた患者の診断、監視および/または治療に使用されてもよい。例えば、加齢黄斑変性(AMD)患者の網膜のOCTスライス画像およびOCTボリューム画像は、AMD診断および治療選択肢を患者に提供するために分析されることがある。
【0018】
網膜のOCT画像は、患者の眼科的状態に関する貴重な情報を含むことがあるが、OCT画像から情報を抽出することは、資源集約的で困難な作業であり、OCT画像に含まれる情報について誤った結論を引き出すことにつながることがある。例えば、AMDなどの眼疾患を有する患者を治療する場合、患者の網膜のOCTスライスの大規模なセットが得られる場合があり、訓練を受けた人間のレビュアーのセットが、OCTスライスのセット内のAMDのバイオマーカーを手動で同定することを任務とすることがある。しかしながら、このようなプロセスは、煩雑で困難な場合があり、網膜疾患のバイオマーカーの同定に時間がかかり、不正確さ、および/またはばらつきが生じる可能性がある。OCT画像をレビューする訓練を受けた対象分野の専門家が、バイオマーカー同定の精度を向上させるために使用され得るが、このプロセスは依然として面倒な場合があり、レビュアー間の固有の望ましくないばらつきがある可能性があり、特にコストがかかる可能性がある。したがって、このようなOCTスライス片の大規模なセットをレビューするために、このような対象分野の専門家に依拠することは、AMDなどの疾患のバイオマーカーを同定するために所望される効率的で、費用対効果が高く、一貫性のある、正確なメカニズムを医療提供者に提供しない可能性がある。さらに、OCT画像の手動レビューは、網膜疾患の将来の発症の予後を示す新しいバイオマーカーを発見するのにあまり成功しない可能性さえある。
【0019】
例えば、地図状萎縮(GA)は、視力を脅かす後期AMD合併症である可能性がある。カラー眼底写真(CFP)または眼底自発蛍光(FAF)を使用してGAを識別することができるが、対象分野の専門家がこれらのタイプの画像上でGAの証拠を確認できる頃には、網膜外組織が既に実質的に失われている可能性がある。AMDの初期ステージでGAの発症を遅らせるまたは予防する方法を決定するには、GA発症の初期徴候または予測因子を識別することが有益である場合がある。例えば、GA発症の早期識別および/または予測のためのバイオマーカーは、高リスクの個体を識別して臨床試験集団を充実させるために、これを使用することができ、AMD進行の様々なステージのバイオマーカーとして役立ち、および/またはGAの発症を予防することを目指す臨床試験における早期エンドポイントとして潜在的に作用することができる。
【0020】
OCT画像は、新生期地図状萎縮(新生期GAまたはnGA)を識別するために使用されており、これはGAの発症が近い(例えば、6~30ヶ月以内)という強力な予測因子である場合がある。例えば、場合によっては、OCT画像において新生期GAを示す網膜は、新生期GAを示さない網膜と比較して、GAを発症するリスクが70倍を超える。したがって、新生期GAは、初期AMDからGAへの進行の予後指標であり得る。OCT画像における新生期GAを定義する解剖学的バイオマーカーの例には、内顆粒層(INL)および外網状層(OPL)の沈降、ヘンレの線維層内の低反射くさび形バンド、またはその両方が含まれるが、これらに限定されない。
【0021】
新生期GAを正確に識別できれば、GAの発症に対する予防治療を評価する実現可能性が向上する可能性がある。しかしながら、OCTボリューム画像内の多数の個々のOCTスライス画像(またはBスキャン)を手動でグレーディングすることは、労働集約的であり、時間がかかり、結果として、高価である。これは、特に、網膜を撮像するときに高い空間分解能を提供するために、OCTボリューム画像ごとに多数のBスキャンを取得する場合に当てはまる。
【0022】
したがって、本明細書に記載の実施形態は、網膜のOCTボリューム画像が網膜の選択された健康状態カテゴリの証拠となるかどうかを迅速、効率的、および正確に検出するための人工知能(AI)ベースのシステムおよび方法を提供する。選択された健康状態カテゴリは、例えば、網膜疾患(例えば、AMD)または網膜疾患のステージであってもよい。1つまたは複数の実施形態では、選択された健康状態カテゴリは新生期GAである。他の実施形態では、選択された健康状態カテゴリは、AMD進行の別のステージ(例えば、初期AMD、中期AMD、GAなど)であってもよい。深層学習モデルは、OCTボリューム画像を受け取り、OCTボリューム画像が網膜の選択された健康状態カテゴリ(例えば、新生期GA)の証拠となるかどうかを示す健康表示出力を生成するように訓練されてもよい。例えば、健康表示出力は、OCTボリューム画像と選択された健康状態カテゴリとの間の関連付けのレベルを示し得る。この関連付けレベルは、関連付けなし、何らかの関連付け、または完全な関連付けであってもよい。深層学習モデルは、例えば、ニューラルネットワークモデルを含んでもよい。1つの非限定的な例として、深層学習モデルは、OCTボリューム画像と選択された健康状態カテゴリとの間の関連付けのレベルを示す確率(例えば、0.00から1.00の間)である健康表示出力を生成し得る。
【0023】
さらに、本明細書に記載のシステムおよび方法は、網膜疾患のバイオマーカーおよび/または将来の網膜疾患発症の予後を示すバイオマーカーを迅速、効率的、および正確に同定するために使用されてもよい。例えば、本明細書に記載のシステムおよび方法は、選択された健康状態カテゴリを示す、さもなければそれに対応するOCTボリューム画像内の一連のバイオマーカーを同定するために使用されてもよい。システムおよび方法はまた、選択された健康状態カテゴリ(例えば、選択された期間内の選択された健康状態カテゴリへの進行)に対する予後を示すOCTボリューム画像内の一連の予後バイオマーカーを同定するために使用されてもよい。
【0024】
1つまたは複数の実施形態では、深層学習モデルを含む健康状態識別システムは、OCTボリューム画像を処理するために使用される。健康識別システムは、ニューラルネットワークモデルを含み得る深層学習モデルを使用して、OCTボリューム画像が、選択された健康状態カテゴリの証拠となるかどうかを示す健康表示出力を生成する。場合によっては、選択された健康状態カテゴリは、関心のある健康状態カテゴリのグループのうちの1つであってもよい。1つまたは複数の実施形態において、選択された健康状態カテゴリは、AMDの選択されたステージである。AMDの選択されたステージは、例えば、新生期GAであってもよい。
【0025】
1つまたは複数の実施形態では、健康状態識別システムは、顕著性マッピングアルゴリズム(顕著性マッピング技術とも呼ばれる)を使用して、OCTボリューム画像内の一連の領域が、選択された健康状態カテゴリに関連付けられているかどうかを示す深層学習モデルについてのマップ出力を生成する。顕著性マッピングアルゴリズムは、所与のOCTボリューム画像について深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像の様々な部分の寄与度(または重要度)を識別するために使用され得る。健康状態識別システムは、マップ出力を使用して、OCTボリューム画像内のバイオマーカーを同定し得る。バイオマーカーは、OCTボリューム画像が現在、網膜の選択された健康状態カテゴリの証拠となることを示し得る。場合によっては、バイオマーカーは、OCTボリューム画像が、選択された期間(例えば、6ヶ月、1年、2年、3年など)内に、選択された健康状態カテゴリに進行する網膜の予後を示すことを示すという点で予後予測であってもよい。
【0026】
上述した顕著性マッピングアルゴリズムは、様々な方法で実装されてもよい。顕著性マッピングアルゴリズムの一例は、勾配重み付けクラス活性化マッピング(Grad-CAM)であり、これは、予測を実行する際に深層学習モデルが行う決定についてヒートマップの形態で「視覚的説明」を提供する技術である。すなわち、Grad-CAMは、訓練された深層学習モデルがOCTスライス画像の顕著性マップまたはヒートマップを生成するために実装されてもよく、ヒートマップは、OCTスライス画像に示される網膜の疾患のステージに関する判定および/または予測を行う際に、ニューラルネットワークモデルが使用するOCTスライス画像の領域または位置を示す(例えば、色、輪郭、注釈などを使用する)。1つまたは複数の実施形態では、Grad-CAMは、OCTスライス画像内の各画素の、深層学習モデルによって生成された健康表示出力に対する重要度を決定し得る。Grad-CAMに関するさらなる詳細は、参照によりその全体が本明細書に組み込まれるR.R.Selvarajuら、「Grad-CAM:Visual Explanations from Deep Networks via Gradient-based Localization」、Arxiv:1610.02391(2017)に見出され得る。顕著性マッピング技術の他の非限定的な例には、クラス活性化マッピング(CAM)、SmoothGrad、変分推論のための低分散勾配推定器(VarGrad)などが含まれる。
【0027】
次いで、顕著性マッピングアルゴリズムによって生成された顕著性マップを使用して、所与のOCTスライス画像上の1つまたは複数の潜在的なバイオマーカーの位置を特定し得る。例えば、顕著性マップを使用して、OCTスライス画像内の各潜在的バイオマーカーまたは潜在的なバイオマーカー領域の周りにバウンディングボックスを生成してもよい。したがって、各バウンディングボックスは、潜在的なバイオマーカーの位置を特定し得る。1つまたは複数の実施形態において、スコアリングメトリック(例えば、信頼スコア)を使用して、どのバウンディングボックスが選択された健康状態カテゴリに対する1つまたは複数のバイオマーカーであるか、またはそれを含むかを決定し得る。
【0028】
深層学習モデルおよび顕著性マッピングアルゴリズムを有する健康状態識別システムを使用して、OCTボリューム画像において網膜の健康状態を分類し、選択された健康状態カテゴリに対するバイオマーカーを同定することにより、対象の網膜の評価に関連付けられた時間およびコストを削減し得て、診断、監視、および/または治療を実施することができる効率および精度を向上させ得る。さらに、本明細書に記載の実施形態を使用することにより、AMD進行の初期ステージで対象を臨床試験に加えることが可能になり、このような臨床試験の有益性が向上する可能性がある。さらに、本明細書に記載の実施形態を使用することにより、網膜の健康状態の分類、将来の網膜の健康状態の予測、および/または選択された健康状態カテゴリに対するバイオマーカーの同定に関して、使用される全体的なコンピューティングリソースを低減し、および/またはコンピュータの性能を高速化し得る。
【0029】
II.例示的な健康状態識別システム
図1は、1つまたは複数の実施形態によるネットワーク化されたシステム100のブロック図である。ネットワークシステム100は、網膜などの組織のOCTボリューム画像の捕捉、深層学習モデルを介したOCTボリューム画像の処理、顕著性マッピングアルゴリズムを使用したOCTボリューム画像の処理、現在の網膜の健康状態を示すか、もしくは網膜の健康状態の予後を示すバイオマーカーの同定、またはそれらの組合せに関連する様々なプロセスを実行するように動作する任意の数または組合せのサーバおよび/またはソフトウェア構成要素を含み得る。例示的なサーバは、例えば、MICROSOFT(商標)OS、UNIX(商標)OS、LINUX(商標)OS、または他の適切なサーバベースのOSなどのサーバOSを動作させるスタンドアロンおよびエンタープライズクラスのサーバを含み得る。ネットワーク化されたシステム100で使用されるサーバは、他の方法で配備されてもよく、そのようなサーバによって実行される動作および/または提供されるサービスは、所与の実装のために結合または分離されてもよく、より多数またはより少数のサーバによって実行されてもよいことが理解され得る。1つまたは複数のサーバが、同じまたは異なるエンティティによって運用および/または維持され得る。
【0030】
ネットワーク化されたシステム100は、健康状態識別(HSI)システム101を含む。健康状態識別システム101は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの組合せを使用して実施されてもよい。1つまたは複数の実施形態では、健康状態識別システム101は、コンピューティングプラットフォーム102、データストレージ104(例えば、データベース、サーバ、ストレージモジュール、クラウドストレージなど)、および表示システム106を含み得る。コンピューティングプラットフォーム102は、様々な形態をとり得る。1つまたは複数の実施形態では、コンピューティングプラットフォーム102は、互いに通信する単一のコンピュータ(もしくはコンピュータシステム)または複数のコンピュータを含む。他の例では、コンピューティングプラットフォーム102は、クラウドコンピューティングプラットフォーム、モバイルコンピューティングプラットフォーム(例えば、スマートフォン、タブレットなど)、またはそれらの組合せの形態をとる。
【0031】
データストレージ104および表示システム106はそれぞれ、コンピューティングプラットフォーム102と通信する。いくつかの例では、データストレージ104、表示システム106、またはその両方は、コンピューティングプラットフォーム102の一部と見なされてもよく、さもなければコンピューティングプラットフォーム102と統合されてもよい。したがって、いくつかの例では、コンピューティングプラットフォーム102、データストレージ104、および表示システム106は、互いに通信する別個の構成要素であってもよいが、他の例では、これらの構成要素のいくつかの組合せが一緒に統合されてもよい。
【0032】
ネットワーク化されたシステム100は、OCTスキャナとも呼ばれ得るOCT撮像システム110をさらに含んでもよい。OCT撮像システム110は、OCT撮像データ112を生成し得る。OCT撮像データ112は、OCTボリューム画像(すなわち、3D OCT画像)および/またはOCTスライス画像(すなわち、2D OCT画像)を含んでもよい。例えば、OCT撮像データ112は、OCTボリューム画像114を含んでもよい。OCTボリューム画像114は、複数(例えば、10枚、100枚、1000枚など)のOCTスライス画像から構成されてもよい。OCTスライス画像は、OCT Bスキャンまたは断面OCT画像と呼ばれることもある。
【0033】
1つまたは複数の実施形態では、OCT撮像システム110は、患者の組織のOCT撮像データ112を生成するように構成された光干渉断層撮影(OCT)システム(例えば、OCTスキャナまたは機械)を含む。例えば、OCT撮像システム110を使用して、患者の網膜のOCT撮像データ112を生成し得る。場合によっては、OCTシステムは、臨床現場で使用される大型卓上構成、携帯型もしくはハンドヘルド専用システム、またはスマートフォンなどのユーザのパーソナル機器に組み込まれた「スマート」OCTシステムであってもよい。OCT撮像システム110は、生のOCTボリューム画像からノイズおよび他のアーチファクトを除去してOCTボリューム画像114を生成するように構成された画像ノイズ除去装置を含み得る。
【0034】
健康状態識別システム101は、ネットワーク120を介してOCT撮像システム110と通信し得る。ネットワーク120は、単一のネットワークまたは複数のネットワークを組み合わせて使用して実装されてもよい。ネットワーク120は、任意の数の有線通信リンク、無線通信リンク、光通信リンク、またはそれらの組合せを使用して実装されてもよい。例えば、様々な実施形態では、ネットワーク120は、インターネットまたは1つもしくは複数のイントラネット、地上通信線ネットワーク、無線ネットワーク、および/または他の適切なタイプのネットワークを含んでもよい。別の例では、ネットワーク120は、インターネットなどの他の通信ネットワークと通信するように適合された無線電気通信ネットワーク(例えば、携帯電話ネットワーク)を備えてもよい。
【0035】
OCT撮像システム110および健康状態識別システム101はそれぞれ、本明細書に記載の様々なアプリケーション、データ、およびステップを実施するために、1つまたは複数のコンピュータ可読媒体に記憶されたプログラムコードおよび/またはデータなどの命令を実行するための1つまたは複数の電子プロセッサ、電子メモリ、および他の適切な電子部品を含み得る。例えば、そのような命令は、ネットワーク化されたシステム100の様々な構成要素の内部および/または外部のメモリまたはデータストレージ(例えば、データストレージ104)などの1つまたは複数のコンピュータ可読媒体に記憶されてもよく、および/またはネットワーク120を介してアクセス可能であってもよい。OCT撮像システム110および健康状態識別システム101のそれぞれのうちの1つのみが示されているが、他の実施形態では、それぞれのうちの2つ以上が存在し得る。
【0036】
いくつかの実施形態では、OCT撮像システム110は、診断、監視、治療、研究、臨床試験などの目的で、対象の組織試料のOCT撮像データ112を取得することを任務とするエンティティによって維持され得る。例えば、エンティティは、患者が有する可能性のある眼の状態または疾患(例えば、AMD)の診断に使用するために患者の網膜のOCT撮像データを取得しようとする医療提供者(例えば、眼科医療提供者)とすることができる。別の例として、エンティティは、網膜に影響を及ぼす疾患の進行/退行の結果としての網膜の変化、および/または疾患を治療するために対象に投与された薬物の効果を監視するために対象の網膜のOCT画像データを収集することを任務とする臨床試験の管理者とすることができる。上記の例は非限定的なものであり、OCT撮像システム110は、OCT撮像システム110を使用して上述のまたは任意の他の医療目的のための網膜のOCT撮像データを取得することができる他のエンティティおよび/または専門家によって維持され得ることに留意されたい。
【0037】
いくつかの実施形態では、健康状態識別システム101は、組織のOCT画像から組織の疾患または状態のバイオマーカーを同定もしくは発見することを任務とするエンティティによって維持され得る。例えば、健康状態識別システム101は、AMDなどの網膜疾患のバイオマーカーの同定または発見することを任務とする眼科ヘルスケア提供者、研究者、臨床試験管理者などによって維持されてもよい。図1は、OCT撮像システム110および健康状態識別システム101を2つの別個の構成要素として示しているが、いくつかの実施形態では、OCT撮像システム110および健康状態識別システム101は、同じシステムまたはモジュール(例えば、医療提供者または臨床試験管理者などの同じエンティティによって維持される)の一部であってもよい。
【0038】
健康状態識別システム101は、OCT撮像システム110からOCT撮像データ112を受信するように構成された画像プロセッサ130を含み得る。画像プロセッサ130は、ハードウェア、ファームウェア、ソフトウェア、またはそれらの組合せを使用して実装されてもよい。1つまたは複数の実施形態では、画像プロセッサ130は、コンピューティングプラットフォーム102内に実装されてもよい。
【0039】
画像プロセッサ130は、モデル132(健康状態モデル132とも呼ばれ得る)、顕著性マッピングアルゴリズム134、および出力生成器136を含み得る。モデル132は、機械学習モデルを含み得る。例えば、モデル132は、深層学習モデルを含み得る。1つまたは複数の実施形態では、深層学習モデルは、1つまたは複数のニューラルネットワークを含むニューラルネットワークモデルを含む。モデル132は、対象の網膜の現在および/または将来の健康状態を識別(または分類)するために使用され得る。
【0040】
例えば、モデル132は、入力としてOCT撮像データ112を受信してもよい。特に、モデル132は、対象の網膜のOCTボリューム画像114を受信し得る。モデル132は、OCTボリューム画像114を構成するOCTスライス画像の少なくとも一部を処理することによってOCTボリューム画像114を処理してもよい。いくつかの実施形態では、モデル132は、OCTボリューム画像114を構成するすべてのOCTスライス画像を処理する。モデル132は、OCTボリューム画像114に基づいて健康表示出力138を生成し、健康表示出力138は、OCTボリューム画像114が対象の網膜について選択された健康状態カテゴリ140の証拠となるかどうかを示す。
【0041】
例えば、健康表示出力138は、OCTボリューム画像114と選択された健康状態カテゴリ140との間の関連付けのレベルを示し得る。この関連付けのレベルは、確率を介して示されてもよい。例えば、1つまたは複数の実施形態では、健康表示出力138は、OCTボリューム画像114と選択された健康状態カテゴリ140との間の関連付けのレベル、またはOCTボリューム画像114が、選択された健康状態カテゴリ140の証拠となる可能性がどの程度であるかを示す確率であってもよい。この関連付けのレベルは、例えば、関連付けなし(例えば、0.0の確率)、弱い関連付け(例えば、0.01~0.4の確率)、中程度の関連付け(例えば、0.4~0.6の確率)、強い関連付け(例えば、0.6~1.0の確率)、または何らかの他のタイプの関連付けであってもよい。これらのパーセンテージは、確率範囲および関連付けのレベルの一部の例に過ぎない。他の実施形態では、他のレベルの関連付けおよび/または他のパーセンテージ範囲が使用されてもよい。モデル132が健康表示出力138を生成するプロセスは、以下の図2に関してより詳細に説明される。
【0042】
選択された健康状態カテゴリ140は、現時点または将来の時点(例えば、今後6ヶ月、1年、2年など)を指す網膜の健康状態であってもよい。言い換えれば、選択された健康状態カテゴリ140は、現在の健康状態または将来の健康状態を表し得る。現時点は、例えば、OCTボリューム画像114が生成された時点の選択された間隔(例えば、1週間、2週間、1ヶ月、2ヶ月など)内にOCTボリューム画像114が生成された時点であってもよい。
【0043】
1つまたは複数の実施形態では、選択された健康状態カテゴリ140は、AMDの選択されたステージであってもよい。選択された健康状態カテゴリ140は、例えば、限定されないが、現在の新生期GAまたは将来の新生期GAであってもよい。場合によっては、選択された健康状態カテゴリ140は、選択された期間(例えば、6ヶ月、1年、2年など)内に新生期GAに至ると予測されるAMDのステージを表す。他の例では、選択された健康状態カテゴリ140は、選択された期間内にGAの発症に至ると予測されるAMDのステージを表す。さらに他の例では、選択された健康状態カテゴリ140は、選択された期間内に新生期GAに至ると予測されるAMDのステージを表す。このようにして、選択された健康状態カテゴリ140は、網膜の現在の健康状態または網膜の将来の健康状態の予測のためのものであってもよい。健康状態カテゴリの他の例には、初期AMD、中期AMD、GAなどが含まれるが、これらに限定されない。
【0044】
上述したように、モデル132は、ニューラルネットワークモデルを使用して実施されてもよい。ニューラルネットワークモデルは、任意の数または組合せのニューラルネットワークを含み得る。ニューラルネットワークは、畳み込みニューラルネットワーク(CNN)(例えば、U-Net)、完全畳み込みネットワーク(FCN)、スタック型FCN、マルチチャネル学習を伴うスタック型FCN、フィードフォワードニューラルネットワーク(FNN)、リカレントニューラルネットワーク(RNN)、モジュラーニューラルネットワーク(MNN)、残差ニューラルネットワーク(ResNet)、常微分方程式ニューラルネットワーク(neural-ODE)、スクイズおよび励起埋め込みニューラルネットワーク、MobileNet、または別のタイプのニューラルネットワークの形態をとり得るが、これらに限定されない。1つまたは複数の実施形態では、ニューラルネットワークは、それ自体、CNN(例えば、U-Net)、FCN、スタック型FCN、マルチチャネル学習を伴うスタック型FCN、FNN、RNN、MNN、ResNet、ニューラルド、スクイズおよび励起埋め込みニューラルネットワーク、MobileNet、または別のタイプのニューラルネットワークのうちの少なくとも1つから構成されてもよい。1つまたは複数の実施形態では、ニューラルネットワークモデルは、1つまたは複数の畳み込みニューラルネットワークを含む畳み込みニューラルネットワーク(CNN)システムの形態をとる。例えば、CNNは、それぞれがそれ自体畳み込みニューラルネットワークであってもよい複数のニューラルネットワークを含み得る。
【0045】
1つまたは複数の実施形態では、ニューラルネットワークモデルは、それぞれが単一のエンコーダまたは複数のエンコーダとすることができるエンコーダのセットと、デコーダとを含み得る。いくつかの実施形態では、1つまたは複数のエンコーダおよび/またはデコーダは、ニューラルネットワークを介して実装されてもよく、ニューラルネットワークは、1つまたは複数のニューラルネットワークから構成されてもよい。場合によっては、デコーダおよび1つまたは複数のエンコーダは、CNNを使用して実装されてもよい。デコーダおよび1つまたは複数のエンコーダは、Y-Net(Y字型ニューラルネットワークシステム)またはU-Net(U字型ニューラルネットワークシステム)として実装されてもよい。ニューラルネットワークに関するさらなる詳細は、図6を参照して以下に提供される。
【0046】
健康状態識別システム101はまた、選択された健康状態カテゴリ140のバイオマーカー142のセットを同定(または検出)するために使用されてもよい。例えば、健康状態識別システム101を使用して、対象の網膜について選択された健康状態カテゴリ140の証拠となるOCTボリューム画像114内のバイオマーカー142のセットを同定し得る。例えば、選択された健康状態カテゴリ140が現在の新生期GAである場合、バイオマーカー142のセットは、OCTボリューム画像114が現在、網膜の選択された健康状態カテゴリ140の証拠となることを示す1つまたは複数の解剖学的バイオマーカーを含み得る。選択された健康状態カテゴリ140が将来の健康状態(例えば、選択された期間内に新生期GAに進行すると予測される)を表す場合、バイオマーカー142のセットは、この将来の健康状態の予後予測であってもよい。
【0047】
健康状態識別システム101は、顕著性マッピングアルゴリズム134を使用して、バイオマーカー142のセットを同定する。例えば、顕著性マッピングアルゴリズム134を使用して、モデル132の健康表示出力138に最も影響を与えたまたは最も寄与したOCTボリューム画像114の部分(または領域)を識別し得る。例えば、顕著性マッピングアルゴリズム134は、選択された健康状態カテゴリ140についてのOCTボリューム画像114の様々な部分(または領域)の重要度を示すことがある。
【0048】
顕著性マッピングアルゴリズム134は、Grad-CAM、CAM、SmoothGrad、VarGrad、別のタイプの顕著性マッピングアルゴリズムもしくは技術、またはそれらの組合せを含み得るが、これらに限定されない。顕著性マッピングアルゴリズム134は、選択された健康状態カテゴリ140に関してOCTボリューム画像114の様々な部分(または領域)の重要度を(例えば、ヒートマップを介して)示す顕著性ボリュームマップ144を生成し得る。言い換えれば、顕著性ボリュームマップ144は、モデル132によって生成された健康表示出力138に対するOCTボリューム画像114の様々な部分の寄与度を示す。顕著性ボリュームマップ144は、複数の顕著性マップから構成されてもよく、そのそれぞれがOCTボリューム画像114内の複数のOCTスライス画像のうちの異なるOCTスライス画像に対応する。各顕著性マップは、選択された健康状態カテゴリ140についてモデル132に最も影響を与えた対応するOCTスライス画像の領域を視覚的に示し得る(例えば、色、強調表示、陰影、パターン、輪郭線、テキスト、注釈などを介して)。
【0049】
出力生成器136は、顕著性ボリュームマップ144を受け取って処理し、マップ出力146を生成し得る。1つまたは複数の実施形態では、マップ出力146は、顕著性ボリュームマップ144のフィルタリングされた形態または修正された形態をとる。他の実施形態では、マップ出力146は、顕著性ボリュームマップ144の形態、またはOCTボリューム画像114に重ね合わされた顕著性ボリュームマップ144の修正形態をとる。顕著性ボリュームマップ144が複数の顕著性マップ(2次元)から構成され得るのと同様に、マップ出力146は複数の個々の2次元マップから構成され得る。これらのマップは、OCTスライス画像上のヒートマップまたはヒートマップのオーバーレイであってもよい。
【0050】
1つまたは複数の実施形態では、フィルタ(例えば、しきい値フィルタ)を顕著性ボリュームマップ144に適用して、顕著性ボリュームマップ144内の顕著性マップのサブセットを識別して修正してもよい。しきい値フィルタは、例えば、選択されたしきい値を上回る対応するOCTスライス画像内の少なくとも1つの領域の寄与を示す顕著性マップのみがサブセットについて選択されることを確実にするように設定されてもよい。次いで、顕著性マップのこのサブセットは、形成される修正された顕著性ボリュームマップが顕著性ボリュームマップ144よりも少ないマップを含むように修正され得る。このようにして、マップ出力146が生成されると、マップ出力146は、顕著性ボリュームマップ144よりも少ないマップで構成され得る。他の実施形態では、生成されるマップ出力146が顕著性ボリュームマップ144内のマップよりも少ない数のマップを含むように、他のタイプのフィルタリングステップおよび/または他の前処理ステップが実行されてもよい。
【0051】
マップ出力146は、OCTボリューム画像114内の一連の領域が選択された健康状態カテゴリに関連付けられているかどうかを示し得る。例えば、マップ出力146は、モデル132によって生成された健康表示出力138に対するOCTボリューム画像114内の一連の領域の寄与度を示し得る。領域は、画素レベルの領域、または複数の画素によって形成された領域であってもよい。領域は、連続的または不連続な領域であってもよい。いくつかの実施形態では、マップ出力146は、バイオマーカー142のセットを視覚的に位置特定する。他の実施形態では、マップ出力146は、出力生成器136によってさらに処理されて、OCTボリューム画像114のどの領域がバイオマーカーであるか、またはバイオマーカーを含むかを識別し得る。顕著性マッピングアルゴリズム134および出力生成器136を使用してバイオマーカー142のセットを同定するプロセスは、以下の図2図3に関してより詳細に説明される。いくつかの実施形態では、顕著性マッピングアルゴリズム134は、出力生成器136と統合されるか、またはその一部として実装される。
【0052】
いくつかの実施形態では、モデル132は、組織のOCTボリューム画像を含み得る訓練データセット148で訓練されてもよく、その結果、モデル132は、前記組織のOCTボリューム画像の試験データセットから、組織の健康状態カテゴリ(例えば、疾患、状態、疾患進行など)に関連付けられたバイオマーカーを同定および/または発見することができる。場合によっては、組織の健康状態カテゴリは、健康から疾患の様々なステージにおよび得る。例えば、網膜に関連付けられた健康状態カテゴリは、健康から、初期AMD、中期AMD、新生期GAなどを含むがこれらに限定されないAMDの様々なステージに及ぶことができる。いくつかの例では、異なるバイオマーカーは、疾患の異なる健康状態カテゴリに関連付けられてもよい。
【0053】
例えば、AMDは、50歳以上の患者における視力喪失の主な原因である。当初、AMDは、乾性型のAMDとして現れ、後のステージで湿性型に進行する。乾性型では、ドルーゼンと呼ばれる小さな沈着物が網膜色素上皮(RPE)の基底膜および網膜のブルッフ膜(BM)の内側コラーゲン層の下に形成され、網膜を経時的に劣化させる。進行したステージでは、乾性型AMDは、地図状萎縮(GA)として現れることがあり、これは、脈絡毛細管、RPEおよび光受容体の進行性かつ不可逆的な喪失を特徴とする。湿性型AMDは、眼の脈絡膜層に由来する異常な血管が網膜内に成長し、血液から網膜内に流体が漏出することによって現れる。したがって、いくつかの実施形態では、ドルーゼンは、AMDの1つのタイプの健康状態カテゴリ(例えば、AMDの乾性型)のバイオマーカーと考えられてもよく、欠損RPEは、AMDの別のタイプの健康状態カテゴリ(例えば、AMDの湿性型)のバイオマーカーと見なされ得る。他の健康状態カテゴリ(例えば、中期AMD、新生期GAなど)がAMD(例えば、または他のタイプの網膜疾患)について定義されてもよく、少なくとも1つまたは複数の区別可能なバイオマーカーがこれらの健康状態カテゴリに関連付けられてもよいことに留意されたい。
【0054】
上記のように、網膜または眼における形態変化および/または新たな領域、境界などの出現は、AMDなどの網膜疾患のバイオマーカーと見なされ得る。そのような形態学的変化の例には、歪み(例えば、形状、サイズなど)、減衰、異常、欠損したまたは存在しない領域/境界、欠陥、病変などが含まれ得る。例えば、上述のように、RPEの欠損は、AMDなどの網膜変性疾患を示し得る。別の例として、沈着物(例えば、ドルーゼン)、漏出など、健康な眼または網膜に存在しない領域、それらの間の境界などの出現もまた、AMDなどの網膜疾患のバイオマーカーと見なされ得る。バイオマーカーと見なされ得る網膜の特徴の他の例としては、網状偽ドルーゼン(RPD)、網膜内高輝度点(例えば、RPEと同等以上の反射率を有する病変)、低反射性楔形構造(例えば、OPLの境界内に現れる)、脈絡膜透過亢進欠損などが挙げられる。
【0055】
出力生成器136は、他の形態の出力を生成し得る。例えば、1つまたは複数の実施形態では、出力生成器は、表示システム106に表示されるか、またはネットワーク120もしくは別のネットワークを介してリモートデバイス(例えば、クラウド、モバイルデバイス、ラップトップ、タブレットなど)に送信されるレポート150を生成し得る。レポート150は、例えば、限定されないが、OCTボリューム画像114、顕著性ボリューム画像、OCTボリューム画像のマップ出力、任意の同定されたバイオマーカーのリスト、対象の網膜の治療推奨、評価推奨、監視推奨、何らかの他の種類の推奨もしくは指示、またはそれらの組合せを含み得る。監視推奨は、例えば、対象の網膜を監視するための計画および将来のOCT撮像予約のスケジュールを含み得る。評価推奨は、例えば、OCTボリューム画像を形成する複数のOCTスライス画像のサブセットをさらにレビューする(例えば、人間のレビュアーによって手動でレビューする)推奨を含み得る。識別されたサブセットは、複数のOCTスライス画像の5%未満を含み得る。場合によっては、サブセットは、複数のOCTスライス画像の50%、45%、40%、35%、30%、25%、20%、15%、10%、5%、2%、または何らかの他のパーセンテージ未満を含み得る。
【0056】
1つまたは複数の実施形態では、健康状態識別システム101は、OCT撮像システム110から得られたOCTボリューム画像114、顕著性マップ144、マップ出力146、一連のバイオマーカー142の同定、レポート150、OCTボリューム画像114の処理中に生成された他のデータ、またはそれらの組合せをデータ構造104に格納する。いくつかの実施形態では、そのような情報を格納するデータ構造104の部分は、患者データ(例えば、患者の組織のOCT画像など)を取り扱う際に特定のセキュリティ手順を義務付ける医療保険の相互運用性および説明責任法(HIPAA)のセキュリティ要件に準拠するように構成されてもよく、すなわち、データ構造104はHIPAA準拠であってもよい。例えば、記憶されている情報は暗号化され、匿名化されてもよい。例えば、OCTボリューム画像114は、OCTボリューム画像114が得られた対象の個人識別情報(PII)を除去および/または難読化するために暗号化および処理されることがある。場合によっては、ネットワーク120を利用するOCT撮像システム110と健康状態識別システム101との間の通信リンクもHIPAA準拠であってもよい。例えば、通信リンクは、エンドツーエンドで暗号化され、そこで送信されるPIIデータを匿名化するように構成された仮想プライベートネットワーク(VPN)であってもよい。
【0057】
1つまたは複数の実施形態では、健康識別システム101は、人間のレビュアーが健康識別システム101によって生成された画像、マップ、および/または他の出力と対話することを可能にするシステムインターフェース160を含む。システムインターフェース160は、例えば、ウェブブラウザ、アプリケーションインターフェース、ウェブベースのユーザインターフェース、何らかの他の種類のインターフェース構成要素、またはそれらの組合せを含み得るが、これらに限定されない。
【0058】
本明細書における議論は、一般に、AMDのステージに関するOCTボリューム画像(およびOCTスライス画像)の分類、ならびに網膜のOCTボリューム画像(またはOCTスライス画像)からのAMDのバイオマーカーの同定および発見を対象としているが、議論は、任意の他の医療撮像技術を使用して得られた対象の他の組織の医療画像にも同様に適用され得る。すなわち、OCTボリューム画像114およびOCTボリューム画像114を分類するためのステップ、ならびに網膜OCTスライス画像の顕著性マップ(例えば、ヒートマップ)の生成を介したAMDバイオマーカーの同定および/または発見のための関連する議論は、非限定的な例示として意図されており、同じまたは実質的に同様の方法ステップは、組織の3D画像(例えば、OCTまたはその他)からの他の組織疾患の識別および/または発見に適用され得る。
【0059】
III.健康状態を識別するための例示的な方法
III.A.例示的な健康状態分類およびバイオマーカー同定
図2は、様々な実施形態による、対象の網膜のOCTボリューム画像を処理して、OCTボリューム画像が網膜の選択された健康状態カテゴリの証拠となるかどうかを判定するプロセスのフローチャートである。図2のプロセス200は、図1の健康状態識別システム101を使用して実施されてもよい。例えば、プロセス200のステップの少なくともいくつかは、健康状態識別システム101の一部として実装されたコンピュータまたはサーバのプロセッサによって実行されてもよい。プロセス200は、図1のモデル132、顕著性マッピングアルゴリズム134、および/または出力生成器136を使用して実施されてもよい。さらに、以下で説明するプロセス200のステップの前、間、または後に追加のステップが実行され得ることが理解される。さらに、いくつかの実施形態では、ステップのうちの1つまたは複数は、省略されるか、または異なる順序で実行されてもよい。
【0060】
プロセス200は、任意に、深層学習モデルを訓練するステップ201を含んでもよい。深層学習モデルは、図1のモデル132の実施態様の一例であり得る。深層学習モデルは、例えば、ニューラルネットワークモデルを含み得るが、これに限定されない。深層学習モデルは、例えば、限定されないが、図1の訓練データセット148などの訓練データセットで訓練されてもよい。深層学習モデルがどのように訓練され得るかの例は、以下のセクションIII.Bでさらに詳細に説明される。
【0061】
プロセス200のステップ202は、対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信するステップを含む。OCTボリューム画像は、例えば、図1のOCTボリューム画像114であってもよい。OCTボリューム画像は、複数のOCTスライス画像から構成されてもよい。
【0062】
ステップ204は、OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することを含み、健康表示出力は、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す。健康表示出力は、例えば、図1の健康表示出力138であってもよい。1つまたは複数の実施形態では、健康表示出力は分類スコアである。分類スコアは、例えば、OCTボリューム画像、ひいてはOCTボリューム画像に捕捉された網膜が、選択された健康状態カテゴリのものとして分類され得る確率であり得る。言い換えれば、分類スコアは、OCTボリューム画像が網膜の選択された健康状態カテゴリの証拠となる確率であり得る。いくつかの実施形態では、確率スコア(例えば、>0.5、>0.6、>0.7、>0.75、>0.8など)のしきい値を使用して、OCTボリューム画像が選択された健康状態カテゴリの証拠となるかどうかを判定する。
【0063】
選択された健康状態カテゴリは、例えば、図1の選択された健康状態カテゴリ140であってもよい。1つまたは複数の実施形態では、選択された健康状態カテゴリは、網膜の現在の健康状態(例えば、現在の疾患状態)を表す。1つまたは複数の他の実施形態では、選択された健康状態カテゴリは、将来の健康状態(例えば、選択された期間内に発症すると予測される将来の疾患状態)を表す。例えば、選択された健康状態カテゴリは、現在存在するか、または選択された期間(例えば、3ヶ月、6ヶ月、1年、2年、3年、または他の何らかの期間)内に発症すると予測される新生期GAを表し得る。
【0064】
深層学習モデルは、異なる方法で健康表示出力を生成し得る。1つまたは複数の実施形態では、深層学習モデルは、OCTボリューム画像内の各OCTスライス画像の初期出力を生成して、複数の初期出力を形成する。OCTスライス画像の初期出力は、例えば、限定されないが、OCTスライス画像が網膜の選択された健康状態カテゴリの証拠となる確率であり得る。深層学習モデルは、複数の初期出力を使用して健康表示出力を生成し得る。例えば、深層学習モデルは、複数の初期出力を一緒に平均化して、OCTボリューム画像が全体として網膜の選択された健康状態カテゴリの証拠となる確率である健康表示出力を生成し得る。言い換えれば、健康表示出力は、網膜が選択された健康状態カテゴリに分類され得る確率であってもよい。他の実施形態では、複数の初期出力の中央値を健康表示出力として使用してもよい。さらに他の実施形態では、複数の初期出力は、健康表示出力を生成するために他の何らかの方法で組み合わされるかまたは統合されてもよい。
【0065】
ステップ206は、顕著性マッピングアルゴリズムを使用して深層学習モデルについてのマップ出力(例えば、マップ出力146)を生成するステップを含み、マップ出力は、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す。OCTボリューム内の領域の寄与度は、その領域が深層学習モデルによって生成された健康表示出力に与える重要度または影響度であり得る。この領域は、単一の画素または複数の画素として定義されてもよい。領域は連続的であっても不連続的であってもよい。1つまたは複数の実施形態において、顕著性マッピングアルゴリズムは、深層学習モデルからデータを受け取る。このデータは、例えば、ステップ204において健康表示出力を生成するために深層学習モデルによって使用される特徴、重み、または勾配を含み得る。顕著性マップアルゴリズムは、選択された健康状態カテゴリ(関心のあるクラスである)に対するOCTボリューム画像の様々な部分の重要度を示す顕著性マップ(またはヒートマップ)を生成するために使用されてもよい。
【0066】
例えば、顕著性マッピングアルゴリズムは、OCTボリューム画像の各OCTスライス画像についての顕著性マップを生成し得る。1つまたは複数の実施形態では、顕著性マッピングアルゴリズムは、Grad-CAMを使用して実装される。顕著性マップは、例えば、選択された健康状態カテゴリに関して深層学習モデルによって生成された健康表示出力に対する対応するOCTスライス画像内の各画素の寄与度(または重要度)を示すヒートマップであってもよい。OCTボリューム画像内の複数のOCTスライス画像についての顕著性マップは共に、顕著性ボリュームマップを形成し得る。顕著性マップは、重要度を示すために、色、注釈、テキスト、強調表示、陰影、パターン、または他の種類の視覚的インジケータを使用し得る。一例では、ある範囲の色を使用して、重要度の範囲を示すことがある。
【0067】
顕著性ボリュームマップは、様々な方法でマップ出力を生成するために使用され得る。1つまたは複数の実施形態では、各OCTスライス画像の各顕著性マップをフィルタリングして、修正された顕著性マップを生成し得る。例えば、1つまたは複数のフィルタ(例えば、しきい値、処理フィルタ、数値フィルタ、カラーフィルタ、シェーディングフィルタなど)を顕著性マップに適用して、修正された顕著性ボリュームマップを共に形成する修正された顕著性マップを生成し得る。各修正された顕著性マップは、対応するOCTスライス画像の最も重要な領域を視覚的にシグナリングし得る。1つまたは複数の実施形態において、各修正された顕著性マップは、マップ出力を生成するために、その対応するOCTスライス画像上にオーバーレイされる。例えば、修正された顕著性マップは、選択された健康状態カテゴリのモデルにとって最も重要である(または関連する)と判定されたOCTスライス画像の部分が示されるように、対応するOCTスライス画像にオーバーレイされてもよい。1つまたは複数の実施形態では、マップ出力は、オーバーレイされたOCTスライス画像のすべてを含む。1つまたは複数の実施形態では、マップ出力は、健康表示出力の生成に最も重要または影響を与える寄与を有する領域の各オーバーレイされたOCTスライス画像上に視覚的表示を提供し得る。
【0068】
他の実施形態では、修正された顕著性マップは、別の方法で処理されて、OCTスライス画像のどの領域が選択された健康状態カテゴリのモデルに最も影響を与えるかを示すマップ出力を生成する。例えば、修正された顕著性マップからの情報を使用して、対応するOCTスライス画像を注釈付けおよび/または他の方法でグラフィカルに修正して、マップ出力を形成し得る。
【0069】
プロセス200は、任意に、ステップ208を含んでもよい。ステップ208は、マップ出力を使用して、選択された健康状態カテゴリに対するOCTボリューム画像内の一連のバイオマーカー(例えば、図1の一連のバイオマーカー142)を同定することを含む。ステップ208は、異なる方法で実行されてもよい。1つまたは複数の実施形態では、潜在的なバイオマーカー領域は、選択された健康状態カテゴリにとって重要または影響力があるとしてマップ出力によって識別されたOCTスライス画像の選択された領域と関連付けて識別されてもよい。潜在的なバイオマーカー領域は、OCTスライス画像のこの選択された領域として識別されてもよく、またはOCTスライス画像のこの選択された領域に基づいて定義されてもよい。1つまたは複数の実施形態では、潜在的なバイオマーカー領域を定義するために、OCTスライス画像の選択された領域の周りにバウンディングボックスが作成される。
【0070】
潜在的なバイオマーカー領域についてスコアリングメトリックが生成され得る。スコアリングメトリックは、例えば、潜在的なバイオマーカー領域のサイズ、潜在的なバイオマーカー領域の信頼スコア、何らかの他のメトリック、またはそれらの組合せを含み得る。潜在的なバイオマーカー領域(例えば、バウンディングボックス)は、スコアリングメトリックが選択されたしきい値を満たす場合、選択された健康状態カテゴリのバイオマーカーとして識別され得る。例えば、スコアリングメトリックが信頼スコアおよび次元を含む場合、選択されたしきい値は、信頼スコアしきい値(例えば、スコア最小値)および最小次元を含み得る。いくつかの実施形態では、特定のバイオマーカーは、複数のOCTスライス画像上に見出されるか、または複数のOCTスライス画像にまたがってもよい。1つまたは複数の実施形態では、しきい値を満たし、バイオマーカー領域として分類されるバウンディングボックスは、対応するOCTスライス画像上で識別され、バイオマーカーマップを形成し得る。
【0071】
同定されたバイオマーカーのうちの1つまたは複数は、以前に人間のレビュアーによって見られた既知のバイオマーカーであってもよい。いくつかの実施形態では、バイオマーカーの1つまたは複数は、以前には知られていなかった新しいバイオマーカーであってもよい。言い換えれば、ステップ208における一連のバイオマーカーの同定は、選択された健康状態カテゴリに関連付けられた1つまたは複数の新しいバイオマーカーの発見を含み得る。1つまたは複数の新しいバイオマーカーの発見は、例えば、選択された健康状態カテゴリが、(例えば、初期AMDまたは中期AMDから新生期GAへのAMDの将来の進行、新生期GAからGAへAMDの進行、中期AMDからGAへのAMDの進行など)発症すると予測される将来の健康状態を表す場合に、より起こりやすい可能性がある。
【0072】
プロセス200は、任意に、ステップ210を含んでもよい。ステップ210は、レポートを生成することを含む。レポートは、例えば、限定されないが、OCTボリューム画像、顕著性ボリューム画像、OCTボリューム画像のマップ出力、任意の同定されたバイオマーカーのリスト、対象の網膜の治療推奨、評価推奨、監視推奨、何らかの他の種類の推奨もしくは指示、またはそれらの組合せを含み得る。監視推奨は、例えば、対象の網膜を監視するための計画および将来のOCT撮像予約のスケジュールを含み得る。評価推奨は、例えば、OCTボリューム画像を形成する複数のOCTスライス画像のサブセットをさらにレビューする(例えば、人間のレビュアーによって手動でレビューする)推奨を含み得る。識別されたサブセットは、複数のOCTスライス画像の5%未満を含み得る。場合によっては、サブセットは、複数のOCTスライス画像の50%、45%、40%、35%、30%、25%、20%、15%、10%、5%、2%、または何らかの他のパーセンテージ未満を含み得る。
【0073】
いくつかの実施形態では、図1の健康識別システム101は、バイオマーカーマップ上で識別されたバウンディングボックスと同じまたは実質的に同様の位置にある1つまたは複数の特徴(またはバイオマーカー)を同定するために、OCTボリューム画像内のOCTスライス画像の特定のサブセットのユーザレビューを(例えば、図1のレポート150の評価推奨を介して)促し得る。例えば、場合によっては、健康識別システム101は、バイオマーカーを同定および/または発見するために、レビュアー(例えば、ヘルスケア専門家、訓練を受けたレビュアーなど)がOCTボリューム画像のOCTスライス画像にアクセスし、レビューし、注釈を付けることを可能にするシステムインターフェース160を含み得る。すなわち、例えば、システムインターフェース160は、バイオマーカーを有するOCTスライス画像のレビュアーによる注釈付けを容易にし得る。場合によっては、レビュアーがバイオマーカーマップに示されるOCTスライス画像上のバイオマーカーを同定することを可能にする代わりに、またはそれに加えて、システムインターフェース160は、レビュアーがバイオマーカーマップ上のバウンディングボックスを補正または調整する(例えば、バウンディングボックスのサイズ、形状、または連続性を調整する)ことを可能にするように構成されてもよい。場合によっては、レビュアーは、行うべき調整を示すためにバウンディングボックスに注釈を付けることができる。場合によっては、レビュアーによって作成された注釈付きおよび/または調整されたバイオマーカーマップは、深層学習モデルの追加の訓練のために(例えば、訓練データセット148の一部として)深層学習モデルにフィードバックされてもよい。
【0074】
図3は、様々な実施形態による、対象の網膜のOCTボリューム画像におけるバイオマーカーを同定するためのプロセスのフローチャートである。図3のプロセス300は、図1の健康状態識別システム101を使用して実施され得る。例えば、プロセス300のステップの少なくともいくつかは、健康状態識別システム101の一部として実装されたコンピュータまたはサーバのプロセッサによって実行されてもよい。プロセス300は、図1のモデル132、顕著性マッピングアルゴリズム134、および/または出力生成器136を使用して実施され得る。さらに、以下で説明するプロセス200のステップの前、間、または後に追加のステップが実行され得ることが理解される。さらに、いくつかの実施形態では、ステップのうちの1つまたは複数は、省略されるか、または異なる順序で実行されてもよい。
【0075】
プロセス300は、任意に、深層学習モデルを訓練するステップ302を含んでもよい。深層学習モデルは、図1のモデル132の実施態様の一例であり得る。深層学習モデルは、例えば、ニューラルネットワークモデルを含み得るが、これに限定されない。深層学習モデルは、例えば、限定されないが、図1の訓練データセット148などの訓練データセットで訓練されてもよい。深層学習モデルがどのように訓練され得るかの例は、以下のセクションIII.Bでさらに詳細に説明される。
【0076】
プロセス300のステップ304は、対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受け取るステップを含む。OCTボリューム画像は、例えば、図1のOCTボリューム画像114であってもよい。OCTボリューム画像は、複数のOCTスライス画像から構成されてもよい。
【0077】
プロセス300のステップ306は、OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することを含み、健康表示出力は、OCTボリューム画像と網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す。例えば、健康表示出力は、OCTボリューム画像内の網膜の分類が選択された健康状態カテゴリである可能性を示す確率であり得る。言い換えれば、健康表示出力は、OCTボリューム画像が網膜の選択された健康状態カテゴリの証拠となる可能性を示す確率であり得る。
【0078】
プロセス300のステップ308は、顕著性マッピングアルゴリズムを使用してOCTボリューム画像の顕著性ボリュームマップを生成するステップを含み、顕著性ボリュームマップは、深層学習モデルによって生成された健康表示出力に対するOCTボリューム画像内の一連の領域の寄与度を示す。ステップ308は、図2のステップ206に関して説明した顕著性ボリュームマップの生成と同様の方法で実行されてもよい。顕著性マッピングアルゴリズムは、例えば、Grad-CAMアルゴリズムを含み得る。寄与度は、深層学習モデル(例えば、深層学習モデルの最後の活性化層で使用される特徴、勾配、または重み)で使用される特徴、勾配、または重みに基づいて決定され得る。
【0079】
プロセス300のステップ310は、顕著性ボリュームマップを使用して、選択された健康状態カテゴリに対する一連のバイオマーカーを検出することを含む。ステップ310は、図2のステップ208に関して上述したバイオマーカーの同定と同様の方法で実施されてもよい。例えば、ステップ310は、修正された顕著性ボリュームマップを生成するために顕著性ボリュームマップをフィルタリングすることを含み得る。修正された顕著性ボリュームマップは、選択された健康状態カテゴリに関連付けられた一連の領域を識別する。ステップ310は、一連の領域のうちの一領域と関連付けて潜在的なバイオマーカー領域を識別することをさらに含み得る。潜在的なバイオマーカー領域についてスコアリングメトリックが生成され得る。潜在的なバイオマーカー領域は、スコアリングメトリックが選択されたしきい値を満たす場合、少なくとも1つのバイオマーカーを含むものとして識別され得る。
【0080】
III.B.深層学習モデルの例示的な訓練
図1(例えば、モデル132)、図2、および図3で上述した深層学習モデルは、異なる方法で訓練されてもよい。1つまたは複数の実施形態では、深層学習モデルは、1つまたは複数の訓練用OCTボリューム画像を含む訓練データセット(例えば、図1の訓練データセット148)で訓練される。これらの訓練用OCTボリューム画像のそれぞれは、選択された健康状態カテゴリ(例えば、新生期GAなど)に対応する疾患または状態を表示していると識別された異なる網膜のものであってもよい。網膜は、訓練用OCTボリューム画像が撮影または生成された後の持続時間に少なくとも実質的に等しい期間にわたって疾患または状態を表示していてもよい。
【0081】
1つまたは複数の実施形態では、深層学習モデル(例えば、図1のモデル132、図2図3に記載されている深層学習モデル)は、1つまたは複数の健康状態カテゴリに罹患している患者の網膜のOCTボリューム画像の訓練データセット(例えば、図1の訓練データセット148)に基づいて網膜の健康状態を分類するように訓練されてもよく、その結果、深層学習モデルは、OCTボリューム画像内の網膜のどの特徴およびその位置が1つまたは複数の健康状態カテゴリの信号であるかを学習し得る。OCTボリューム画像のテストデータセットが提供されると、訓練された深層学習モデルは、OCTボリューム画像が選択された健康状態カテゴリの証拠となるかどうかを効率的かつ正確に識別し得る。
【0082】
OCTボリューム画像の訓練データセットは、所与のステージのAMD(すなわち、網膜の健康状態カテゴリは、AMDの前記ステージであり得る)に罹患していることが知られている患者の網膜のOCT画像を含み得る。そのような場合、深層学習モデルは、OCTボリューム画像内のどの特徴がAMDのそのステージに対応するか、関連付けられるか、またはシグナリングするかを学習するために訓練データセットを用いて訓練され得る。例えば、患者は、後期AMDの罹患者である場合があり、深層学習モデルは、患者の網膜のOCTボリューム画像の訓練データセットから、重度に変形したRPEを表すOCTボリューム画像の解剖学的特徴が後期AMDの証拠であり得ることを識別または発見し得る。そのような場合、重度に変形したRPEを示す患者の網膜のOCTボリューム画像が提供されると、訓練された深層学習モデルは、OCTボリューム画像を後期AMD患者に属するものとして識別し得る。
【0083】
いくつかの実施形態では、深層学習モデルは、網膜疾患の未知のバイオマーカーに基づいてさえ健康状態を分類し得る。例えば、深層学習モデルは、すべてのバイオマーカーが知られていない可能性があるいくつかの網膜疾患(例えば、新生期GA)に罹患している患者の網膜のOCTボリューム画像の訓練データセットを提供されることがある。すなわち、網膜疾患のその選択された健康状態カテゴリ(例えば、新生期GA)のバイオマーカーが知られていない場合がある。そのような場合、深層学習モデルは、OCTボリューム画像のデータセットを処理し、OCTボリューム画像内の特徴またはパターン、例えば病変が、選択された健康状態カテゴリの証拠であることを学習し得る。
【0084】
IV.例示的なOCT画像および顕著性マップ
図4は、様々な実施形態による、注釈付きOCTスライス画像および注釈付きOCTスライス画像の対応するヒートマップを示す。OCTスライス画像402は、図1のOCTボリューム画像114におけるOCTスライス画像の実施態様の一例であってもよい。OCTスライス画像402はまた、図1の訓練データセット148内のOCTスライス画像からの実施態様の一例であってもよい。OCTスライス画像402は、新生期GAのバイオマーカーであるとして人間のグレーダーによってマークされた注釈付き領域404を含む。
【0085】
ヒートマップ406は、図1のマップ出力146の少なくとも一部の実施態様の一例である。ヒートマップ406は、図1の顕著性マッピングアルゴリズム134などの顕著性マッピングアルゴリズムを使用して生成された(例えば、Grad-CAMを使用して生成された)顕著性マップをOCTスライス画像402にオーバーレイした結果であってもよい。顕著性マップは、OCTスライス画像402を処理した訓練された深層学習モデルについて生成された。ヒートマップ406は、領域408が新生期GAのモデルに最も影響を及ぼしたことを示し、例えば図1のモデル132であり得る深層学習モデルが、新生期GAに関する分類のためにOCTスライス画像402の正しい領域を正確に使用したことを示す。
【0086】
ヒートマップ406を使用して、領域408内に示される新生期GAのバイオマーカーを同定し、位置特定し得る。例えば、領域408内に位置する解剖学的バイオマーカーを同定する出力が生成され得る。バイオマーカーは、例えば、網膜の病変、網膜色素上皮(RPE)の欠損、網膜の剥離層、または他の何らかのタイプのバイオマーカーであってもよい。場合によっては、領域408内に1つまたは複数のバイオマーカーが存在し得る。場合によっては、バイオマーカーであるヒートマップ406の領域408内またはOCTスライス画像402の領域404内の特定の画素を識別するためにフィルタリングが実行されることがある。場合によっては、領域408のサイズを使用して、領域408が1つまたは複数のバイオマーカーを含むかどうかを判定してもよい。1つまたは複数の実施形態では、領域408のサイズは約20画素より大きい。
【0087】
バイオマーカーのそのような同定および位置特定により、医療従事者が、網膜がOCTスライス画像402に描写されている患者に対して診断、監視、治療などを行うことができる可能性がある。例えば、ヒートマップ406またはヒートマップ406に基づいて生成された情報をレビューする眼科医は、GAの開始前に治療選択肢または監視選択肢を推奨することができる可能性がある。
【0088】
図5は、様々な実施形態による異なるマップの図である。顕著性マップ502は、図1の顕著性ボリュームマップ144を構成する顕著性マップの実施態様の一例である。修正された顕著性マップ504は、フィルタリング(例えば、しきい値フィルタの適用)後に修正された顕著性マップの実施態様の一例である。ヒートマップ506は、図1のマップ出力146の構成要素の実施態様の一例である。ヒートマップ506は、OCTスライス画像上の顕著性マップ502の修正されたオーバーレイを含む。
【0089】
バイオマーカーマップ508は、ヒートマップ506を使用して図1の出力生成器136によって生成され得る出力の実施態様の一例である。バイオマーカーマップ508において、第1のバウンディングボックスは、少なくとも一つのバイオマーカーを含むバイオマーカー領域と見なされるのに十分高い信頼スコア(例えば、>0.6)を有しない潜在的なバイオマーカー領域を識別する。さらに、バイオマーカーマップ508は、少なくとも1つのバイオマーカーを含むバイオマーカー領域と見なされるのに十分に高い信頼スコアを有する潜在的なバイオマーカー領域を識別する第2のバウンディングボックスを含む。
【0090】
V.例示的なニューラルネットワーク
図6は、本開示の様々な実施形態による、コンピュータベースのモデルを実装するために使用することができる例示的なニューラルネットワークを示す。例えば、ニューラルネットワーク600を使用して、健康状態識別システム101のモデル132を実装し得る。図示のように、人工ニューラルネットワーク600は、入力層602、隠れ層604、および出力層607の3つの層を含む。各層602、604、607は、1つまたは複数のノードを含んでもよい。例えば、入力層602はノード608~614を含み、隠れ層604はノード617および618を含み、出力層607はノード622を含む。この例では、階層内の各ノードは、隣接する階層内のすべてのノードに接続されている。例えば、入力層602のノード608は、隠れ層604のノード617および618の両方に接続されている。同様に、隠れ層604のノード617は、入力層602のノード608~614および出力層607のノード622のすべてに接続されている。人工ニューラルネットワーク600にはただ1つの隠れ層しか示されていないが、モデル132を実装するために使用される人工ニューラルネットワーク600は、必要または所望に応じて同数の隠れ層を含み得ることが企図されている。
【0091】
この例では、人工ニューラルネットワーク600は入力値のセットを受け取り、出力値を生成する。入力層602内の各ノードは、別個の入力値に対応し得る。例えば、人工ニューラルネットワーク600がモデル132を実装するために使用される場合、入力層602内の各ノードは、(例えば、OCT撮像システム110から得られる)網膜のOCTボリューム画像の別個の属性に対応し得る。
【0092】
いくつかの実施形態では、隠れ層604内のノード617および618のそれぞれは、ノード608~614から受信した入力値に基づいて値を生成する数学的計算(またはアルゴリズム)を含み得る表現を生成する。数学的計算は、ノード608~614から受信したデータ値のそれぞれに異なる重みを割り当てることを含んでもよい。ノード617および618は、ノード617および618のそれぞれがノード608~614から受信した同じ入力値に基づいて異なる値を生成し得るように、ノード608~614からのデータ変数に割り当てられた異なるアルゴリズムおよび/または異なる重みを含んでもよい。いくつかの実施形態では、ノード617および618のそれぞれの特徴(または入力値)に最初に割り当てられる重みは、(例えば、コンピュータランダマイザを使用して)ランダムに生成されてもよい。ノード617および618によって生成された値は、人工ニューラルネットワーク600の出力値を生成するために出力層607内のノード622によって使用され得る。人工ニューラルネットワーク600がモデル132を実施するために使用される場合、人工ニューラルネットワーク600によって生成される出力値は、限定はしないが、網膜のOCTボリューム画像のヒートマップ(例えば、顕著性マップ144)など、網膜内のバイオマーカーを同定する顕著性マップを含み得る。
【0093】
人工ニューラルネットワーク600は、訓練データを使用して訓練されてもよい。例えば、本明細書の訓練データは、網膜のOCTボリューム画像であってもよい。人工ニューラルネットワーク600に訓練データを提供することによって、隠れ層604内のノード617および618は、訓練データに基づいて出力層607において最適な出力が生成されるように訓練(調整)され得る。異なるセットの訓練データを連続的に提供し、人工ニューラルネットワーク600の出力が正しくない(例えば、OCTボリューム画像においてバイオマーカーを誤って同定する場合)場合に人工ニューラルネットワーク600にペナルティを課すことによって、人工ニューラルネットワーク600(具体的には、隠れ層604内のノードの表現)は、データ分類におけるその性能を改善するように訓練(調整)され得る。人工ニューラルネットワーク600を調整することは、隠れ層604内の各ノードに関連付けられた重みを調整することを含んでもよい。
【0094】
上記の説明は、機械学習の一例としての人工ニューラルネットワークに関するものであるが、他のタイプの機械学習方法もまた、本開示の様々な態様を実施するのに適し得ることが理解される。例えば、サポートベクターマシン(SVM)を使用して機械学習を実施してもよい。SVMは、分類および回帰に使用される関連する教師あり学習方法のセットである。非確率的バイナリ線形分類器であり得るSVMトレーニングアルゴリズムは、新しい例が1つのカテゴリに入るか別のカテゴリに入るかを予測するモデルを構築し得る。別の例として、ベイジアンネットワークを使用して機械学習を実施してもよい。ベイジアンネットワークは、ランダム変数のセットとそれらの条件付き独立性を有向非巡回グラフ(DAG)で表す非巡回確率的グラフィカルモデルである。ベイジアンネットワークは、1つの変数と別の変数との間の確率的関係を提示し得る。別の例は、決定木学習モデルを使用して機械学習プロセスを実行する機械学習エンジンである。場合によっては、決定木学習モデルは、分類木モデルおよび回帰木モデルを含んでもよい。いくつかの実施形態では、機械学習エンジンは、回帰木モデルとして勾配ブースティング機械(GBM)モデル(例えば、XGBoost)を使用する。他の機械学習技術を使用して、例えばランダムフォレストまたはディープニューラルネットワークを介して機械学習エンジンを実装し得る。他のタイプの機械学習アルゴリズムは、簡単にするために本明細書では詳細に説明されず、本開示は特定のタイプの機械学習に限定されないことが理解される。
【0095】
VI.コンピュータ実装システム
図7は、本明細書に記載の様々な方法および装置、例えば、OCT撮像システム110、健康状態識別システム101などを実施するのに適したコンピュータシステム700のブロック図である。様々な実施態様では、ステップを実行することができる装置は、撮像システム(例えば、OCTスキャナまたは撮像システムなど)、ネットワーク通信装置(例えば、携帯電話、ラップトップ、パーソナルコンピュータ、タブレット、ワークステーションなど)、ネットワークコンピューティング装置(例えば、ネットワークサーバ、コンピュータプロセッサ、電子通信インターフェースなど)、または別の適切な装置を含み得る。したがって、上述のサーバおよびモジュール、ならびに上述の図2のプロセス200および図3のプロセス300の様々な方法ステップを実施することができる装置は、以下のような方法でコンピュータシステム700として実施され得ることを理解されたい。
【0096】
本開示の様々な実施形態によれば、ネットワークサーバ、ワークステーション、コンピューティング装置、通信装置などのコンピュータシステム700は、情報を通信するためのバス構成要素702または他の通信機構を含み、バス構成要素は、コンピュータ処理構成要素704(例えば、プロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DSP)など)、システムメモリ構成要素706(例えば、RAM)、静的記憶構成要素708(例えば、ROM)、ディスクドライブ構成要素710(例えば、磁気式または光学式)、ネットワークインターフェース構成要素712(例えば、モデムまたはイーサネットカード)、表示構成要素714(例えば、陰極線管(CRT)または液晶ディスプレイ(LCD))、入力構成要素716(例えば、キーボード)、カーソル制御構成要素718(例えば、マウスまたはトラックボール)、および画像捕捉構成要素720(例えば、アナログまたはデジタルカメラ)などのサブシステムおよび構成要素を相互接続する。一実施態様では、ディスクドライブ構成要素710は、1つまたは複数のディスクドライブ構成要素を有するデータベースを備え得る。
【0097】
本開示の実施形態によれば、コンピュータシステム700は、システムメモリ構成要素706に含まれる1つまたは複数の命令の1つまたは複数のシーケンスを実行するプロセッサ704によって特定の動作を実行する。そのような命令は、静的記憶構成要素708またはディスクドライブ構成要素710などの別のコンピュータ可読媒体からシステムメモリ構成要素706に読み込まれてもよい。他の実施形態では、本開示を実施するために、ソフトウェア命令の代わりに(または組み合わせて)ハードワイヤード回路が使用されてもよい。いくつかの実施形態では、OCT撮像システム110、健康状態識別システム101、モデル132などの様々な構成要素は、ユーザに代わってコンテキストに適したタスクを自動的に実行するためにプロセッサ704によって実行され得るソフトウェア命令の形態であってもよい。
【0098】
ロジックは、実行のためにプロセッサ704に命令を提供することに関与する任意の媒体を指してもよいコンピュータ可読媒体に符号化されてもよい。そのような媒体は、不揮発性媒体および揮発性媒体を含むがこれらに限定されない多くの形態をとり得る。一実施形態では、コンピュータ可読媒体は非一時的である。様々な実施態様において、不揮発性媒体は、ディスクドライブ構成要素710などの光ディスクまたは磁気ディスクを含み、揮発性媒体は、システムメモリ構成要素706などのダイナミックメモリを含む。一態様では、実行命令に関連するデータおよび情報は、電波および赤外線データ通信中に生成されたものを含む、音波または光波の形態などの送信媒体を介してコンピュータシステム700に送信されてもよい。様々な実施態様では、伝送媒体は、バス702を備えるワイヤを含む、同軸ケーブル、銅線、および光ファイバを含んでもよい。
【0099】
コンピュータ可読媒体のいくつかの一般的な形態は、例えば、フロッピーディスク、フレキシブルディスク、ハードディスク、磁気テープ、任意の他の磁気媒体、CD-ROM、任意の他の光学媒体、パンチカード、紙テープ、穴のパターンを有する任意の他の物理媒体、RAM、PROM、EPROM、FLASH-EPROM、任意の他のメモリチップまたはカートリッジ、搬送波、またはコンピュータが読み取るように適合されている任意の他の媒体を含む。これらのコンピュータ可読媒体はまた、上述したOCT撮像システム110、健康状態識別システム101、モデル132などのためのプログラミングコードを格納するために使用されてもよい。
【0100】
本開示の様々な実施形態において、本開示を実施するための命令シーケンスの実行は、コンピュータシステム700によって実行されてもよい。本開示の様々な他の実施形態では、通信リンク722(例えば、LAN、WLAN、PTSN、および/または電気通信、モバイル、および携帯電話ネットワークを含む様々な他の有線もしくは無線ネットワークなどの通信ネットワーク)によって結合された複数のコンピュータシステム700は、互いに協調して本開示を実施するための命令シーケンスを実行し得る。
【0101】
コンピュータシステム700は、通信リンク722および通信インターフェース712を介して、1つまたは複数のプログラム(すなわち、アプリケーションコード)を含むメッセージ、データ、情報および命令を送受信し得る。受信されたプログラムコードは、実行のためにディスクドライブ構成要素710または他の何らかの不揮発性記憶構成要素に受信および/または記憶されると、コンピュータプロセッサ704によって実行され得る。通信リンク722および/または通信インターフェース712は、例えば、OCT撮像システム110と健康状態識別システム101との間の電子通信を行うために使用されてもよい。
【0102】
適用可能な場合、本開示によって提供される様々な実施形態は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアとの組合せを使用して実施され得る。また、適用可能な場合、本明細書に記載の様々なハードウェア構成要素および/またはソフトウェア構成要素は、本開示の趣旨から逸脱することなく、ソフトウェア、ハードウェア、および/またはその両方を含む複合構成要素に組み合わされてもよい。適用可能な場合、本明細書に記載の様々なハードウェア構成要素および/またはソフトウェア構成要素は、本開示の範囲から逸脱することなく、ソフトウェア、ハードウェア、またはその両方を含むサブ構成要素に分離されてもよい。さらに、適用可能な場合、ソフトウェア構成要素はハードウェア構成要素として実装されてもよく、その逆も可能であると考えられる。
【0103】
コンピュータプログラムコードおよび/またはデータなどの本開示によるソフトウェアは、1つまたは複数のコンピュータ可読媒体に格納されてもよい。本明細書で識別されるソフトウェアは、ネットワーク化されたおよび/またはネットワーク化されていない、1つもしくは複数の汎用もしくは専用のコンピュータおよび/またはコンピュータシステムを使用して実装され得ることも企図される。適用可能な場合、本明細書に記載の様々なステップの順序は、本明細書に記載の特徴を提供するために、変更され、複合ステップに組み合わされ、および/またはサブステップに分離されてもよい。OCT撮像システム110、健康状態識別システム101、モデル132などの少なくとも一部は、そのようなソフトウェアコードとして実装されてもよいことが理解される。
【0104】
VII.定義
本開示は、これらの例示的な実施形態および適用例、または例示的な実施形態および適用例が動作する、もしくは本明細書に記載される方法に限定されない。さらに、図は、簡略化されたまたは部分的な図を示す場合があり、図の要素の寸法は、誇張されているか、または比例していない場合がある。
【0105】
要素のリスト(例えば、要素a、b、c)が参照される場合、そのような参照は、列挙された要素のいずれか1つを単独で、列挙された要素のすべてよりも少ない要素の任意の組合せ、および/または列挙された要素のすべての組合せを含むことが意図されている。本明細書におけるセクションの分割は、単に検討を容易にするためのものであり、説明された要素の任意の組合せを限定するものではない。
【0106】
用語「対象」は、臨床試験の対象、治療を受けている人もしくは動物、抗がん療法を受けている人もしくは動物、寛解もしくは回復について監視されている人もしくは動物、予防的健康分析を(例えば、その病歴に起因して)受けている人もしくは動物、または関心のある任意の他の人もしくは患者もしくは動物を指し得る。様々な場合において、「対象」および「患者」は、本明細書では交換可能に使用され得る。
【0107】
「OCT画像」という用語は、光干渉断層撮影(OCT)撮像技術を使用して走査または捕捉された、網膜などの組織、器官などの画像を指し得る。この用語は、2D「スライス」画像および3D「ボリューム」画像の一方または両方を指すことがある。明示的に示されていない場合、この用語はOCTボリューム画像を含むと理解されてもよい。
【0108】
特に定義されない限り、本明細書に記載の本教示に関連して使用される科学用語および技術用語は、当業者によって一般的に理解される意味を有するものとする。さらに、文脈上別段の定めがない限り、単数形の用語は複数形を含み、複数形の用語は単数形を含むものとする。一般に、本明細書に記載される化学、生化学、分子生物学、薬理学および毒物学に関連して利用される命名法ならびにそれらの技術は、当技術分野では周知であり、一般的に使用されるものである。
【0109】
本明細書で使用される場合、「実質的に」は、意図された目的のために機能するのに十分であることを意味する。したがって、「実質的に」という用語は、当業者によって予想されような、絶対的または完全な状態、寸法、測定値、結果などからのわずかな、有意でない変動を可能にするが、全体的な性能に目立つほど影響を及ぼさない。数値または数値として表すことのできるパラメータもしくは特性について、「実質的に」とは、10%以内を意味する。
【0110】
本明細書で使用される場合、数値または数値として表すことができるパラメータもしくは特性に関して使用される「約」という用語は、数値の10%以内を意味する。例えば、「約50」は、45以上55以下の範囲の値を意味する。
【0111】
「1つ」という用語は、2つ以上を意味する。
【0112】
本明細書で使用される場合、「複数」という用語は、2、3、4、5、6、7、8、9、10またはそれ以上であり得る。
【0113】
本明細書で使用される場合、「のセット」という用語は、1つまたは複数を意味する。例えば、アイテムのセットは、1つまたは複数のアイテムを含む。
【0114】
本明細書で使用される場合、「少なくとも1つ」という語句は、項目のリストと共に使用される場合、列挙された項目のうちの1つまたは複数の異なる組合せが使用されてもよく、リスト内の項目のうちの1つのみが必要であってもよいことを意味する。項目は、特定の物体、物、ステップ、操作、プロセス、またはカテゴリであってもよい。言い換えれば、「のうちの少なくとも1つ」は、リストから項目の任意の組合せまたは任意の数の項目が使用されてもよいが、リスト内の項目のすべてが必要とされるわけではないことを意味する。例えば、限定されないが、「項目A、項目B、または項目Cのうちの少なくとも1つ」は、項目A、項目Aと項目B、項目B、項目Aと項目Bと項目C、項目Bと項目C、または項目Aと項目Cを意味する。場合によっては、「項目A、項目B、または項目Cのうちの少なくとも1つ」は、限定されないが、項目Aの2つ、項目Bの1つ、および項目Cの10個、項目Bの4つ、項目Cの7つ、またはいくつかの他の適切な組合せを意味する。
【0115】
本明細書で使用される場合、「モデル」は、1つまたは複数のアルゴリズム、1つまたは複数の数学的技法、1つまたは複数の機械学習(ML)アルゴリズム、またはそれらの組合せを含み得る。
【0116】
本明細書で使用される場合、「機械学習」は、アルゴリズムを使用してデータを解析し、そこから学習し、次いで世の中の何かについての決定または予測を行う実践を含み得る。機械学習は、ルールベースのプログラミングに依存することなくデータから学習することができるアルゴリズムを使用する。
【0117】
本明細書で使用される場合、「人工ニューラルネットワーク」または「ニューラルネットワーク」は、計算への接続論的手法に基づいて情報を処理する人工ニューロンの相互接続されたグループを模倣する数学的アルゴリズムまたは計算モデルを指す場合がある。ニューラルネットとも呼ばれるニューラルネットワークは、非線形ユニットの1つまたは複数の層を使用して、受信された入力の出力を予測することができる。いくつかのニューラルネットワークは、出力層に加えて1つまたは複数の隠れ層を含む。各隠れ層の出力は、ネットワーク内の次の層、すなわち、次の隠れ層または出力層への入力として使用される。ネットワークの各層は、各パラメータセットの現在の値に従って、受信した入力から出力を生成する。様々な実施形態において、「ニューラルネットワーク」への言及は、1つまたは複数のニューラルネットワークへの言及であり得る。
【0118】
ニューラルネットワークは、2つの方法で情報を処理することがあり、(例えば、訓練データセットを使用して)訓練されているときは、訓練モードにあり、(例えば、テストデータセットを使用して)学習したことを実践するきは、推論(または予測)モードにある。ニューラルネットワークは、出力が訓練データの出力と一致するように、ネットワークが中間隠れ層内の個々のノードの重み係数を調整する(その挙動を修正する)ことを可能にするフィードバックプロセス(例えば、逆伝播)を通じて学習し得る。言い換えれば、ニューラルネットワークは、訓練データ(学習例)を供給されることによって学習し得て、最終的には、新しい範囲または入力のセットが提示された場合でも、正しい出力に到達する方法を学習する。
【0119】
VIII.例示的な実施形態の列挙
実施形態1対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信することと、前記OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することであって、前記健康表示出力が、前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す、健康表示出力を生成することと、顕著性マッピングアルゴリズムを使用して前記深層学習モデルについてのマップ出力を生成することであって、前記マップ出力が、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す、マップ出力を生成することと、を含む方法。
【0120】
実施形態2前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が前記加齢黄斑変性の選択されたステージの証拠となる確率である、実施形態1に記載の方法。
【0121】
実施形態3 前記加齢黄斑変性の選択されたステージが、新生期地図状萎縮を含む、実施形態2に記載の方法。
【0122】
実施形態4 前記選択された健康状態カテゴリが、前記OCTボリューム画像が生成された時点に関する現在の健康状態、または前記OCTボリューム画像が生成された前記時点後の選択された期間内に発症すると予測される将来の健康状態のいずれかを表す、実施形態1~3のいずれか一項に記載の方法。
【0123】
実施形態5 前記顕著性マッピングアルゴリズムが、勾配重み付けクラス活性化マッピング(Grad-CAM)アルゴリズムを含み、前記マップ出力が、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の前記一連の領域の前記寄与度を視覚的に示す、実施形態1~4のいずれか一項に記載の方法。
【0124】
実施形態6 前記OCTボリューム画像が、2次元である複数のOCTスライス画像を含み、前記方法が、前記健康表示出力または前記マップ出力の少なくとも一方に基づいて評価推奨を生成することであって、前記評価推奨が、さらなるレビューのために前記複数のOCTスライス画像のサブセットを識別する、評価推奨を生成することをさらに含む、実施形態1~5のいずれか一項に記載の方法。
【0125】
実施形態7 前記サブセットが、前記複数のOCTスライス画像の5%未満を含む、実施形態6に記載の方法。
【0126】
実施形態8前記マップ出力を使用して、前記選択された健康状態カテゴリに対する前記OCTボリューム画像内の一連のバイオマーカーを同定することをさらに含む、実施形態1~7のいずれか一項に記載の方法。
【0127】
実施形態9 前記同定することが、前記選択された健康状態カテゴリに関連付けられていると示された前記一連の領域のうちの一領域と関連付けて潜在的なバイオマーカー領域を識別することと、前記潜在的なバイオマーカー領域に対するスコアリングメトリックを生成することと、前記スコアリングメトリックが選択されたしきい値を満たす場合、前記選択された健康状態カテゴリに対する少なくとも1つのバイオマーカーを含むものとして前記潜在的なバイオマーカー領域を識別することと、を含む、実施形態8に記載の方法。
【0128】
実施形態10 前記スコアリングメトリックが、前記潜在的なバイオマーカー領域のサイズまたは前記潜在的なバイオマーカー領域の信頼スコアの少なくとも一方を含む、実施形態9に記載の方法。
【0129】
実施形態11 前記マップ出力を生成することが、前記顕著性マッピングアルゴリズムを使用して前記OCTボリューム画像のOCTスライス画像に対する顕著性マップを生成することであって、前記顕著性マップが、前記選択された健康状態カテゴリに対する前記OCTスライス画像内の各画素の重要度を示す、顕著性マップを生成することと、修正された顕著性マップを生成するために前記顕著性マップをフィルタリングすることと、前記修正された顕著性マップを前記OCTスライス画像にオーバーレイして前記マップ出力を生成することと、を含む、実施形態1~9のいずれか一項に記載の方法。
【0130】
実施形態12 前記健康表示出力に基づいて、前記網膜に対する治療推奨を生成することをさらに含む、実施形態1~11のいずれか一項に記載の方法。
【0131】
実施形態13 前記深層学習モデルを介して、前記健康表示出力を生成することが、前記OCTボリューム画像を形成する複数のOCTスライス画像の各OCTスライス画像について初期出力を生成して、複数の初期出力を形成することと、前記健康表示出力を形成するために前記複数の初期出力を平均化することと、を含む、実施形態1~12のいずれか一項に記載の方法。
【0132】
実施形態14 対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信することと、前記OCTボリューム画像を使用して、深層学習モデルを介して、健康表示出力を生成することであって、前記健康表示出力が、前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す、健康表示出力を生成することと、顕著性マッピングアルゴリズムを使用して前記OCTボリューム画像の顕著性ボリュームマップを生成することであって、前記顕著性ボリュームマップが、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す、顕著性ボリュームマップを生成することと、前記顕著性ボリュームマップを使用して、前記選択された健康状態カテゴリに対する前記OCTボリューム画像内の一連のバイオマーカーを検出することと、を含む方法。
【0133】
実施形態15 前記検出することが、修正された顕著性ボリュームマップを生成するために前記顕著性ボリュームマップをフィルタリングすることであって、前記修正された顕著性ボリュームマップが、前記深層学習モデルによって生成された前記健康表示出力に対する少なくともしきい値寄与を有する一連の領域を識別する、顕著性ボリュームマップをフィルタリングすることと、前記一連の領域のうちの一領域と関連付けて潜在的なバイオマーカー領域を識別することと、前記潜在的なバイオマーカー領域に対するスコアリングメトリックを生成することと、前記スコアリングメトリックが選択されたしきい値を満たす場合、前記一連のバイオマーカーの少なくとも1つのバイオマーカーを含むものとして前記潜在的なバイオマーカー領域を識別することと、を含む、実施形態14に記載の方法。
【0134】
実施形態16 前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が加齢黄斑変性の前記選択されたステージの証拠となる確率である、実施形態14または実施形態15に記載の方法。
【0135】
実施形態17 システムであって、非一時的メモリと、前記非一時的メモリに結合され、前記システムに、
対象の網膜の光干渉断層撮影(OCT)ボリューム画像を受信させ、
前記OCTボリューム画像を使用して、深層学習モデルを介して、前記OCTボリューム画像と前記網膜の選択された健康状態カテゴリとの間の関連付けのレベルを示す健康表示出力を生成させ、
顕著性マッピングアルゴリズムを使用して前記深層学習モデルについてのマップ出力であって、前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の一連の領域の寄与度を示す前記マップ出力を生成させる、命令を前記非一時的メモリから読み出すように構成されたハードウェアプロセッサと、
を備える、システム。
【0136】
実施形態18 前記選択された健康状態カテゴリが、加齢黄斑変性の選択されたステージであり、前記健康表示出力が、前記OCTボリューム画像が前記加齢黄斑変性の選択されたステージの証拠となる確率である、実施形態17に記載のシステム。
【0137】
実施形態19 前記選択された健康状態カテゴリが、前記OCTボリューム画像が生成された時点に関する現在の健康状態、または前記OCTボリューム画像が生成された前記時点後の選択された期間内に発症すると予測される将来の健康状態のいずれかを表す、実施形態17または実施形態18に記載のシステム。
【0138】
実施形態20 前記顕著性マッピングアルゴリズムが勾配重み付けクラス活性化マッピング(Grad-CAM)アルゴリズムを含み、前記マップ出力が前記深層学習モデルによって生成された前記健康表示出力に対する前記OCTボリューム画像内の前記一連の領域の前記寄与度を視覚的に示す、実施形態17から19のいずれか一項に記載のシステム。
【0139】
実施形態21 前記OCTボリューム画像が、2次元である複数のOCTスライス画像を含み、前記ハードウェアプロセッサが、前記健康表示出力または前記マップ出力の少なくとも一方に基づいて前記システムに評価推奨を生成させる命令を前記非一時的メモリから命令を読み出すようにさらに構成され、前記評価推奨が、さらなるレビューのために前記複数のOCTスライス画像のサブセットを識別し、前記サブセットが、前記複数のOCTスライス画像の5%未満を含む、実施形態17~20のいずれか一項に記載のシステム。
【0140】
IX.さらなる考察
本教示は様々な実施形態に関連して説明されているが、本教示がそのような実施形態に限定されることは意図されていない。逆に、本教示は、当業者によって理解されるように、様々な代替物、改変物、および均等物を包含する。
【0141】
様々な実施形態を説明する際に、本明細書は、特定の一連のステップとして方法および/またはプロセスを提示している場合がある。しかしながら、方法またはプロセスが本明細書に記載の特定の順序のステップに依存しない限り、方法またはプロセスは記載された特定の順序のステップに限定されるべきではなく、当業者は、順序が変更されてもよく、依然として様々な実施形態の趣旨および範囲内にあることを容易に理解することができる。
図1
図2
図3
図4
図5
図6
図7
【国際調査報告】