IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ジェネンテック, インコーポレイテッドの特許一覧

特表2023-505268地図状萎縮成長速度の予測を生成するためのOCTデータのニューラルネットワーク処理
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-02-08
(54)【発明の名称】地図状萎縮成長速度の予測を生成するためのOCTデータのニューラルネットワーク処理
(51)【国際特許分類】
   A61B 3/10 20060101AFI20230201BHJP
   G06T 7/00 20170101ALI20230201BHJP
   G06T 7/12 20170101ALI20230201BHJP
【FI】
A61B3/10 100
G06T7/00 612
G06T7/12
G06T7/00 350C
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022533606
(86)(22)【出願日】2020-12-04
(85)【翻訳文提出日】2022-07-11
(86)【国際出願番号】 US2020063362
(87)【国際公開番号】W WO2021113672
(87)【国際公開日】2021-06-10
(31)【優先権主張番号】62/944,201
(32)【優先日】2019-12-05
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】62/988,797
(32)【優先日】2020-03-12
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】509012625
【氏名又は名称】ジェネンテック, インコーポレイテッド
(74)【代理人】
【識別番号】100078282
【弁理士】
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【弁理士】
【氏名又は名称】森下 夏樹
(72)【発明者】
【氏名】ヤン, チー
(72)【発明者】
【氏名】ガオ, サイモン エス.
【テーマコード(参考)】
4C316
5L096
【Fターム(参考)】
4C316AA09
4C316AB03
4C316AB07
4C316AB11
4C316AB16
4C316FB21
4C316FB27
5L096AA03
5L096AA06
5L096AA09
5L096BA06
5L096BA13
5L096DA02
5L096EA13
5L096EA14
5L096EA37
5L096FA02
5L096FA06
5L096FA59
5L096FA69
5L096GA51
5L096HA11
5L096JA11
5L096KA04
5L096KA15
(57)【要約】
本明細書に開示される実施形態は、一般に、眼における地図状萎縮病変成長および/または地図状萎縮病変サイズの予測に関する。予測は、ニューラルネットワークを使用してデータオブジェクトを処理することによって生成されることができる。データオブジェクトは、眼の少なくとも一部の描写を表す3次元データオブジェクト、または眼の少なくとも一部の1つ以上の描写を表すマルチチャネルデータオブジェクトを含むことができる。ニューラルネットワークは、病変成長および病変サイズ出力の双方を予測する特徴を学習するように訓練された畳み込みマルチタスクニューラルネットワークを含むことができる。
【特許請求の範囲】
【請求項1】
被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトにアクセスすることと、
畳み込みニューラルネットワークを使用して前記3次元データオブジェクトを処理することであって、前記眼における地図状萎縮病変のその後の成長または前記眼における前記地図状萎縮病変のその後のサイズの予測を生成することと、
前記予測を出力することと
を含む、方法。
【請求項2】
前記畳み込みニューラルネットワークが、1つ以上の3次元畳み込みモジュールを含む、請求項1に記載の方法。
【請求項3】
前記畳み込みニューラルネットワークが、プーリング層を含む、請求項1または2に記載の方法。
【請求項4】
前記畳み込みニューラルネットワークが、現在の地図状萎縮病変サイズおよびその後の地図状萎縮状態を同時に予測するように訓練されたものであり、前記その後の地図状萎縮状態が、その後の地図状萎縮病変成長またはその後の地図状萎縮病変サイズを含む、請求項1から3のいずれか一項に記載の方法。
【請求項5】
前記畳み込みニューラルネットワークを使用して前記3次元データオブジェクトを処理することが、前記眼における前記地図状萎縮病変の現在のサイズの別の予測をさらに生成する、請求項1から4のいずれか一項に記載の方法。
【請求項6】
前記地図状萎縮病変の前記その後の成長が、前記眼における1つ以上の地図状萎縮病変の成長を含み、および/または前記地図状萎縮病変の前記その後のサイズが、前記眼における1つ以上の地図状萎縮病変のその後のサイズを含む、請求項1から5のいずれか一項に記載の方法。
【請求項7】
ブルッフ膜および/または内境界膜の予測位置によって境界付けられたセグメントを識別するために、2次元画像のセットの各画像をセグメント化することを含む一連の動作を実行することによって前記3次元データオブジェクトを生成することをさらに含む、請求項1から6のいずれか一項に記載の方法。
【請求項8】
前記被験者の前記眼の2次元BスキャンOCT画像のセットにアクセスすることと、
前記2次元BスキャンOCT画像のセットを使用して特徴マップのセットを生成することと、
前記特徴マップのセットを含むように前記3次元データオブジェクトを生成することと
を含む一連の動作を実行することによって前記3次元データオブジェクトを生成することをさらに含む、請求項1から6のいずれか一項に記載の方法。
【請求項9】
前記被験者の前記眼の2次元BスキャンOCT画像のセットにアクセスすることと、
前記2次元BスキャンOCT画像のセットのそれぞれについて、前記眼の特定の構造を描写する画素のセットを識別することと、
前記2次元BスキャンOCT画像のセットのそれぞれについて、前記画素のセットに基づいて前記2次元BスキャンOCT画像を平坦化することと、
各平坦化BスキャンOCT画像の少なくとも一部を含むように前記3次元データオブジェクトを生成することと
を含む一連の動作を実行することによって前記3次元データオブジェクトを生成することをさらに含む、請求項1から6のいずれか一項に記載の方法。
【請求項10】
訓練データセットを使用して別の畳み込みニューラルネットワークを訓練して、学習されたパラメータ値の第1のセットを生成することと;
前記畳み込みニューラルネットワークのパラメータ値のセットを前記学習されたパラメータ値の第1のセットに設定することと、
別の訓練データセットを使用して、前記畳み込みニューラルネットワークをさらに訓練して、学習されたパラメータ値の第2のセットを生成することであって、畳み込みニューラルネットワークが、前記3次元データオブジェクトを処理するときに前記学習されたパラメータ値の第2のセットによって構成される、学習されたパラメータ値の第2のセットを生成することと
によって、転移学習を使用して前記畳み込みニューラルネットワークを訓練することと;をさらに含む、請求項1から9のいずれか一項に記載の方法。
【請求項11】
前記3次元データオブジェクトが、前記被験者の前記眼のボリュームの3次元描写を含む、請求項1から10のいずれか一項に記載の方法。
【請求項12】
ユーザによって、前記3次元データオブジェクトを含むかまたは識別する入力データを入力することと、
前記予測を受信することと、
前記予測に基づいて、前記被験者が特定の臨床試験に参加するのに適格であると決定することと
をさらに含む、請求項1から11のいずれか一項に記載の方法。
【請求項13】
ユーザによって、前記3次元データオブジェクトを含むかまたは識別する入力データを入力することと、
前記予測を受信することと、
前記予測に基づいて、前記被験者が関与しているまたは関与することになる特定の臨床試験についての層別化を決定することと
をさらに含む、請求項1から11のいずれか一項に記載の方法。
【請求項14】
前記層別化に基づいて臨床試験結果を生成することと、
前記臨床試験結果を出力することと
をさらに含む、請求項13に記載の方法。
【請求項15】
ユーザによって、前記3次元データオブジェクトを含むかまたは識別する入力データを入力することと、
前記予測を受信することと、
前記予測に基づいて、前記被験者が関与しているまたは関与することになる特定の臨床試験についての調整を決定することと、
調整された前記特定の臨床試験の実施を促進することと
をさらに含む、請求項1から11のいずれか一項に記載の方法。
【請求項16】
被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトを含むかまたは識別する入力データを受信することと、
前記被験者の前記眼の予測されたその後の地図状萎縮特性を生成する要求に対応する要求通信を受信することであって、前記要求通信が前記入力データを含むことと、
畳み込みニューラルネットワークを使用して前記3次元データオブジェクトを処理して、前記眼における地図状萎縮病変のその後の成長または前記眼における前記地図状萎縮病変のその後のサイズの予測を生成することと、
前記予測を出力することと
を含む、方法。
【請求項17】
前記被験者の前記眼の画像のセットを収集することであって、前記3次元データオブジェクトが前記画像のセットを使用して生成されること
をさらに含む、請求項16に記載の方法。
【請求項18】
被験者の処置における地図状萎縮予測の使用であって、前記地図状萎縮予測が、前記地図状萎縮予測を提供するために被験者データに基づく計算モデルを実装するコンピューティング装置によって提供され、前記計算モデルが、前記被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトを処理するように構成された畳み込みニューラルネットワークを含む、使用。
【請求項19】
少なくとも3つのデータチャネルを含むデータオブジェクトにアクセスすることであって、前記少なくとも3つのデータチャネルのそれぞれが、被験者の眼の少なくとも部分描写に対応する2次元画像を含むことと、
畳み込みニューラルネットワークを使用して前記データオブジェクトを処理して、前記眼における地図状萎縮病変のその後の成長の予測、または前記眼における前記地図状萎縮病変のその後のサイズを生成することと、
前記予測を出力することと
を含む、方法。
【請求項20】
前記データオブジェクトが、前記眼の複数の異なる正面OCTベースのマップを含む、請求項19に記載の方法。
【請求項21】
前記データオブジェクトが、前記眼の少なくとも2つの正面OCTベースのスキャンおよび前記眼の少なくとも1つのBスキャンを含む、請求項19または20に記載の方法。
【請求項22】
前記データオブジェクトが、前記眼の少なくとも1つのOCTベースの正面スキャンと、OCTとは異なる種類のイメージングモダリティを使用して得られた少なくとも1つの画像とを含む、請求項19から21のいずれか一項に記載の方法。
【請求項23】
1つ以上のデータプロセッサと、
命令を含む非一時的コンピュータ可読記憶媒体であって、前記命令が、前記1つ以上のデータプロセッサ上で実行されると、前記1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部を実行させる、非一時的コンピュータ可読記憶媒体と
を備える、システム。
【請求項24】
1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部を実行させるように構成された命令を含む、非一時的機械可読記憶媒体において有形に具現化されたコンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、米国仮特許出願:62/944,201号(2019年12月5日出願)および62/988,797号(2020年3月12日出願)の利益および優先権を主張する。これらの出願のそれぞれは、あらゆる目的のためにその全体が参照により本明細書に組み込まれる。
【背景技術】
【0002】
背景
地図状萎縮(GA)は、進行した加齢黄斑変性(AMD)の1つのタイプであり、光受容体および支持細胞の変性ならびに進行性の視力損失をもたらす。この症状は、世界中の何百万人もの人々に影響を及ぼす。先進国では、75歳以上の29人に約1人が地図状萎縮を有する。地図状萎縮は、網膜色素上皮(RPE)、隣接する光受容体および脈絡毛細管枝の進行性の構造的損失を特徴とする。地図状萎縮の進行は、大きな患者間の変動性を示す。現在、地図状萎縮の進行を予防または遅延させるための承認された処置はない。
【0003】
地図状萎縮病変は、様々なイメージングモダリティによって画像化されることができる。従来、2次元眼底自発蛍光(FAF)画像が使用されて、地図状萎縮病変面積を定量化した。ある期間にわたるFAF由来病変面積の変化(地図状萎縮成長速度)は、被験者の地図状萎縮が進行しているかどうかおよび/または進行している程度を示す解剖学的結果パラメータとして受け入れられる。それでもなお、FAF画像の2次元的性質は、病変面積に関する精密な構造情報を提供する能力を制限する場合がある。したがって、FAF画像によって生成されたGA病変面積の定量化に加えて、GAの発症および進行の理解を高めることができる病変面積の改善された評価が必要とされている。
【発明の概要】
【課題を解決するための手段】
【0004】
概要
いくつかの実施形態では、方法が提供される。被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトがアクセスされる。3次元データオブジェクトは、被験者の眼のボリュームの3次元描写を含むことができる。3次元データオブジェクトは、畳み込みニューラルネットワーク(例えば、インセプションニューラルネットワーク)を使用して処理され、眼における地図状萎縮病変のその後の成長または眼における地図状萎縮病変のその後のサイズの予測を生成する。地図状萎縮病変のその後の成長は、眼における1つ以上の地図状萎縮病変の成長を含むことができ、および/または地図状萎縮病変のその後のサイズは、眼における1つ以上の地図状萎縮病変のその後のサイズを含むことができる。畳み込みニューラルネットワークは、1つ以上の3次元畳み込みモジュール、プーリング層、および/または1つ以上の任意のユニット(例えば、アテンションユニット)を含むことができる。予測が出力される。
【0005】
いくつかの実施形態では、畳み込みニューラルネットワークは、現在の地図状萎縮病変サイズおよびその後の地図状萎縮状態を同時に予測するように訓練されることができる。その後の地図状萎縮状態は、その後の地図状萎縮病変の成長またはその後の地図状萎縮病変のサイズを含むことができる。
【0006】
いくつかの実施形態では、畳み込みニューラルネットワークを使用した3次元データオブジェクトの処理は、さらに、眼における地図状萎縮病変の現在のサイズの別の予測をもたらすことができる。
【0007】
いくつかの実施形態では、本方法は、3次元データオブジェクトを生成することを含むことができる。例えば、2次元画像のセットの各画像がセグメント化されて、ブルッフ膜および/または内境界膜の予測位置によって境界付けされるセグメントを識別することができる。3次元データオブジェクトを生成することはまた、被験者の眼の2次元BスキャンOCT画像のセットにアクセスすることを含むことができる。特徴マップのセットは、2次元BスキャンOCT画像のセットから生成されることができる。3次元データオブジェクトは、特徴マップのセットを含むように生成されることができる。
【0008】
いくつかの実施形態では、3次元データオブジェクトを生成することは、被験者の眼の2次元BスキャンOCT画像のセットにアクセスすることを含む。2次元BスキャンOCT画像のセットのそれぞれについて、眼の特定の構造(例えば、ブルッフ膜または内境界膜)を描写する画素のセットが識別されることができる。BスキャンOCT画像のセットのそれぞれは、画素のセットに基づいて平坦化されることができる。3次元データオブジェクトは、各平坦化BスキャンOCT画像の少なくとも一部を含むように生成されることができる。
【0009】
いくつかの実施形態では、本方法は、訓練データセットを使用して別の畳み込みニューラルネットワークを訓練して、学習されたパラメータ値の第1のセットを生成することを含むことができる。転移学習は、畳み込みニューラルネットワークのパラメータ値のセットを学習されたパラメータ値の第1のセットに設定し、別の訓練データセットを使用して畳み込みニューラルネットワークをさらに訓練し、学習されたパラメータ値の第2のセットを生成することによって、畳み込みニューラルネットワークを訓練するために使用されることができる。畳み込みニューラルネットワークは、3次元データオブジェクトを処理するときに、学習されたパラメータ値の第2のセットによって構成されることができる。
【0010】
いくつかの実施形態では、本方法は、予測に基づいて臨床試験の態様を決定することをさらに含むことができる。例えば、入力データは、3次元データオブジェクトを含むかまたは識別するユーザによって入力されることができる。予測が受信されることができ、予測に基づいて、被験者が特定の臨床試験に参加する資格があると決定されることができる。別の例として、予測を受信した後、被験者が関与しているまたは関与することになる特定の臨床試験について層別化が決定されることができる。例えば、層別化は、処置が投与されなかった場合に群が同様のデフォルトの予測された地図状萎縮評価を有するように、および/または様々な群間の比較を行う前に結果を解析または正規化するように、個々の被験者を様々な処置群および/または対照群に割り当てることとすることができる。臨床試験は、層別化に基づいて生成されることができる。臨床試験結果が出力されることができる。別の例では、予測を受信した後、被験者が関与しているまたは関与することになる特定の臨床試験について調整が決定されることができる。調整は、薬剤の変更、投与量の変更、および/または処置間の時間間隔の変更などの処置に対する変更を含むことができる。調整された臨床試験の実施が促進されることができる。
【0011】
いくつかの実施形態では、方法が提供される。本方法は、ユーザ装置において、被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトを含むまたは識別する入力データを検出することを含む。被験者の眼の予測されたその後の地図状萎縮特性を生成する要求に対応する要求通信が、リモートコンピューティングシステムに送信される。要求通信は、入力データを含む。要求通信の受信に応答して、リモートコンピューティングシステムは、畳み込みニューラルネットワークを使用して3次元データオブジェクトを処理して、眼における地図状萎縮病変のその後の成長または眼における地図状萎縮病変のその後のサイズの予測を生成する。予測は、リモートコンピューティングシステムから予測を受信するユーザ装置に送信される。
【0012】
いくつかの実施形態では、本方法は、被験者の眼の画像のセットを収集することをさらに含むことができる。3次元データオブジェクトは、画像のセットを使用して生成されることができる。
【0013】
本開示のいくつかの実施形態は、被験者の処置における地図状萎縮予測の使用を含む。地図状萎縮予測は、地図状萎縮予測を提供するために被験者データに基づいて計算モデルを実装する計算装置によって提供される。計算モデルは、被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトを処理するように構成された畳み込みニューラルネットワークを含む。
【0014】
いくつかの実施形態では、方法が提供される。本方法は、少なくとも3つのデータチャネルを含むデータオブジェクトにアクセスすることを含む。少なくとも3つのデータチャネルのそれぞれは、被験者の眼の少なくとも部分描写に対応する2次元画像を含む。本方法は、畳み込みニューラルネットワークを使用してデータオブジェクトを処理すること、眼における地図状萎縮病変のその後の成長または眼における地図状萎縮病変のその後のサイズの予測を生成すること、予測を出力することをさらに含む。畳み込みニューラルネットワークは、1つ以上の2次元畳み込みモジュール、プーリング層、および/または1つ以上の任意のユニットを含むことができる。地図状萎縮病変のその後の成長は、眼における1つ以上の地図状萎縮病変の成長を含むことができ、および/または地図状萎縮病変のその後のサイズは、眼における1つ以上の地図状萎縮病変のその後のサイズを含むことができる。
【0015】
いくつかの実施形態では、データオブジェクトは、眼の複数の異なる正面OCTベースのマップを含むことができる。例えば、データオブジェクトは、眼の少なくとも2つの正面OCTベースのスキャンと、眼の少なくとも1つのBスキャンとを含むことができる。別の例として、データオブジェクトは、眼の少なくとも1つのOCTベースの正面スキャンと、OCTとは異なる種類のイメージングモダリティ(例えば、FAF)を使用して得られた少なくとも1つの画像とを含むことができる。
【0016】
いくつかの実施形態では、畳み込みニューラルネットワークは、現在の地図状萎縮病変サイズおよびその後の地図状萎縮状態を同時に予測するように訓練されることができる。その後の地図状萎縮状態は、その後の地図状萎縮病変の成長またはその後の地図状萎縮病変のサイズを含むことができる。
【0017】
いくつかの実施形態では、畳み込みニューラルネットワークを使用したデータオブジェクトの処理は、眼における地図状萎縮病変の現在のサイズの別の予測をさらに生成することができる。
【0018】
いくつかの実施形態では、本方法は、予測に基づいて臨床試験の態様を決定することをさらに含むことができる。例えば、入力データは、3次元データオブジェクトを含むかまたは識別するユーザによって入力されることができる。予測が受信されることができ、予測に基づいて、被験者が特定の臨床試験に参加する資格があると決定されることができる。別の例として、予測を受信した後、被験者が関与しているまたは関与することになる特定の臨床試験について層別化が決定されることができる。例えば、層別化は、処置が投与されなかった場合に群が同様のデフォルトの予測された地図状萎縮評価を有するように、および/または様々な群間の比較を行う前に結果を解析または正規化するように、個々の被験者を様々な処置群および/または対照群に割り当てることとすることができる。臨床試験は、層別化に基づいて生成されることができる。臨床試験結果が出力されることができる。
【0019】
いくつかの実施形態では、方法が提供される。本方法は、ユーザ装置において、被験者の眼の少なくとも部分描写に対応するデータオブジェクトを含むまたは識別する入力データを検出することを含む。被験者の眼の予測されたその後の地図状萎縮特性を生成する要求に対応する要求通信が、リモートコンピューティングシステムに送信される。要求通信は、入力データを含む。要求通信の受信に応答して、リモートコンピューティングシステムは、畳み込みニューラルネットワークを使用してデータオブジェクトを処理して、眼における地図状萎縮病変のその後の成長または眼における地図状萎縮病変のその後のサイズの予測を生成する。予測は、リモートコンピューティングシステムから予測を受信するユーザ装置に送信される。
【0020】
いくつかの実施形態では、本方法は、被験者の眼の画像のセットを収集することをさらに含むことができる。データオブジェクトは、画像のセットを使用して生成されることができる。
【0021】
本開示のいくつかの実施形態は、被験者の処置における地図状萎縮予測の使用を含む。地図状萎縮予測は、地図状萎縮予測を提供するために被験者データに基づいて計算モデルを実装する計算装置によって提供される。計算モデルは、被験者の眼の少なくとも部分描写に対応するデータオブジェクトを処理するように構成された畳み込みニューラルネットワークを含む。
【0022】
本開示のいくつかの実施形態は、1つ以上のデータプロセッサを含むシステムを含む。システムは、命令を含む非一時的コンピュータ可読記憶媒体であって、命令が、1つ以上のデータプロセッサ上で実行されると、1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部を実行させる、非一時的コンピュータ可読記憶媒体をさらに含むことができる。
【0023】
いくつかの実施形態では、非一時的な機械可読記憶媒体に有形に具現化されたコンピュータプログラム製品が提供される。コンピュータプログラム製品は、1つ以上のデータプロセッサに、本明細書に開示された方法のうちの1つ以上の一部または全部を実行させるように構成された命令群を含むことができる。
【0024】
本開示は、以下の添付の図面と併せて説明される:
【図面の簡単な説明】
【0025】
図1-1】OCTボリュームの中心Bスキャンを示している。
【0026】
図1-2】病変領域グレーディングを定量化するために使用される例示的なFAF画像を示している。
【0027】
図1-3】例示的な識別された病変領域を示している。
【0028】
図2】いくつかの実施形態にかかる、地図状萎縮病変サイズおよび成長速度の予測を生成するための例示的なコンピューティングネットワークを示している。
【0029】
図3】いくつかの実施形態にかかる、3次元畳み込みニューラルネットワークを使用して、3次元データオブジェクトの地図状萎縮病変サイズおよび成長を予測する例示的なプロセスを示している。
【0030】
図4】いくつかの実施形態にかかる、データオブジェクトの地図状萎縮病変サイズおよび成長を予測するために2次元畳み込みニューラルネットワークを使用する例示的なプロセスを示している。
【0031】
図5】いくつかの実施形態にかかる、マルチタスク3次元インセプション畳み込みモジュールを用いた予測フレームワークの概要を示している。
【0032】
図6】いくつかの実施形態にかかる3次元インセプション畳み込みモジュールのアーキテクチャを示している。
【0033】
図7】いくつかの実施形態にかかる、マルチタスク2次元畳み込みモジュールを用いた予測フレームワークの概要を示している。
【0034】
図8-1】マルチタスクSEモデルによる全てのホールドアウト事例の性能詳細を示している。(A)は、真の成長速度に対する予測された地図状萎縮成長速度の回帰プロットを示し、(B)は、真の地図状萎縮病変面積に対する予測された地図状萎縮病変面積の回帰プロットを示し、(C)は、地図状萎縮成長速度予測における外れ値のOCT正面画像および中心Bスキャンを示し、(D)は、地図状萎縮病変面積および地図状萎縮成長速度予測における外れ値のOCT正面画像および中央Bスキャンを示している。
図8-2】マルチタスクSEモデルによる全てのホールドアウト事例の性能詳細を示している。(A)は、真の成長速度に対する予測された地図状萎縮成長速度の回帰プロットを示し、(B)は、真の地図状萎縮病変面積に対する予測された地図状萎縮病変面積の回帰プロットを示し、(C)は、地図状萎縮成長速度予測における外れ値のOCT正面画像および中心Bスキャンを示し、(D)は、地図状萎縮病変面積および地図状萎縮成長速度予測における外れ値のOCT正面画像および中央Bスキャンを示している。
【発明を実施するための形態】
【0035】
添付の図面において、同様の構成要素および/または特徴は、同じ参照ラベルを有することができる。さらに、同じタイプの様々な構成要素は、参照ラベルの後に同様の構成要素を区別するダッシュおよび第2のラベルを続けることによって区別されることができる。本明細書において第1の参照ラベルのみが使用される場合、説明は、第2の参照ラベルに関係なく、同じ第1の参照ラベルを有する同様の構成要素のいずれかに適用可能である。
【0036】
詳細な説明
I.概要
本開示は、現在の地図状萎縮(GA)病変面積および地図状萎縮病変成長速度の(例えば、同時)予測を可能にするマルチタスク深層学習アーキテクチャを記載する。GAの進行は、病変面積および成長速度に関して各個体に固有である。現在、GAの進行を予防または遅延させるための承認された処置はない。
【0037】
正確で個別化された地図状萎縮の進行予測は、重要な試験および臨床上の問題に対処するために有用であり得る。例えば、地図状萎縮の進行予測は、地図状萎縮の進行を遅らせることがエンドポイントである臨床試験において被験者の層別化を提供するために使用されることができ、臨床被験者の標的化された登録および処置効果の改善された評価を可能にする。さらに、個別化GA予後は、疾患をより効率的に管理し、遺伝子型または表現型シグネチャと相関させることによって疾患の病因を理解するために使用されることができる。
【0038】
従来使用されている眼底自発蛍光(FAF)画像は、GA病変領域に関する2次元構造データを提供する。光干渉断層撮影(OCT)画像は、病変領域に加えて構造情報を提供することができる。高解像度3次元(3D)OCT画像によって提供される追加の構造情報は、FAF画像のみでは不可能であった地図状萎縮の発症および進行への洞察を提供することができる。例えば、OCT画像上で検出される網状偽ドルーゼン、高反射焦点、多層厚さ減少、光受容体萎縮、および楔形網膜下反射低下は、地図状萎縮変換に関連する潜在的な前駆体またはバイオマーカーとすることができる。しかしながら、OCT画像は、それらの3Dの性質のために処理が困難である。現在のOCT由来予測は、3D画像ボリュームの処理の複雑さのために、完全なOCT画像ではなく、OCTボリュームから抽出された特徴に依存している。要するに、現在のOCT予測は、追加の特徴抽出、特徴エンジニアリング、もしくは画像処理ステップ、またはベースラインOCT画像の何らかの他の抽象化を伴う。
【0039】
本実施形態は、追加のステップなしにベースラインOCTボリュームから直接GA予測を行う方法を提供する。特に、本実施形態は、ベースライン3D OCT画像を直接使用して、GA病変サイズ検出および成長速度予測のためのマルチタスク3Dニューラルネットワークを含む。いくつかの実施形態では、ニューラルネットワークの深層学習アーキテクチャは、畳み込みニューラルネットワーク(CNN)を含むことができる。深層学習アーキテクチャは、ベースライン時間に取り込まれたデータを表す3次元OCT画像データおよび/または3チャネル画像データを(入力として)受信するように構成されることができる。場合によっては、深層学習アーキテクチャは、後の時間に収集された入力を受信しないにもかかわらず、ベースライン時間の後の時間に対応する予測を生成するように構成される。さらに、深層学習アーキテクチャ内のネットワークは、エンドツーエンドで訓練されることができる。この深層学習技術は、最先端のベースラインモデルと比較して地図状萎縮統計の精度を向上させることができる。
【0040】
被験者について収集された1つ以上のOCT画像は、前処理されることができる。前処理は、(例えば)1つ以上の画像を平坦化して眼の曲率を補償するために実行されてもよい。例えば、画像は、内境界膜(ILM)などの構造に対して平坦化されてもよい。前処理は、(例えば、3次元画像を生成するために)複数の(例えば、平坦化)画像を位置合わせおよび/または結合することを含むことができる。例えば、前処理は、(例えば、特定の生物学的構造に沿ってBスキャンを平坦化するために)Aスキャンのセット(例えば、多数の長手方向スキャンを示す)をBスキャンに変換することを含むことができる。場合によっては、平坦化された画像が組み合わせられて3次元画像を生成することができる(または、2次元画像を組み合わせて3次元画像を形成した後に平坦化が実行されることができる)。前処理は、1つ以上の画像を所定のサイズにおよび/または所定の量だけトリミングおよび/またはサイズ変更することをさらに含むことができる。
【0041】
前処理は、複数のデータチャネルのそれぞれを個別に生成することを含むことができる。複数のチャネルは、2つ以上のチャネルまたは3つ以上のチャネルを含んでもよい。チャネルのうちの少なくとも1つ、少なくとも2つ、または少なくとも3つは、特定のタイプのスキャン(例えば、正面CスキャンまたはBスキャン)に関連するOCTチャネルに対応することができる。場合によっては、少なくとも3つのチャネルのうちの少なくとも2つは、異なるタイプのスキャンおよび/または異なるイメージングモダリティに対応することができる。例えば、少なくとも1つのチャネルは、OCTを使用して収集された画像を含むことができ、少なくとも別のチャネルは、眼底写真撮影、赤外線イメージング、またはスキャニングラスト眼底検査(SLO)を使用して収集された画像を含むことができる。
【0042】
前処理された画像は、(例えば)深層ニューラルネットワーク、2次元ニューラルネットワーク、3次元ニューラルネットワーク、および/または畳み込みニューラルネットワークを含むニューラルネットワークによって処理されることができる。ニューラルネットワークは、(例えば、2つ以上の畳み込み層のそれぞれまたは全ての畳み込み層のそれぞれが、別の畳み込み層のサイズとは異なるサイズの畳み込みフィルタを有する場合)1つ以上の畳み込み層を含むことができる。ニューラルネットワークは、活性化層、正規化層、および/またはプーリング層を含むことができる。
【0043】
ニューラルネットワークは、訓練されていてもよく、地図状萎縮病変の現在のボリューム、地図状萎縮病変の将来のボリューム、および/または将来の成長速度などの1つ以上の地図状萎縮病変統計を予測するように構成されてもよい。ニューラルネットワークは、地図状萎縮病変成長速度および地図状萎縮病変サイズを同時に予測するように訓練および構成されたマルチタスクモデルとすることができる。マルチタスクモデルは、マルチタスクモデルではないモデルよりも成長速度予測タスクに対するより低いオーバーフィッティングの可能性を有することができる。
【0044】
図1Aは、深層学習ワークフローにおいて収集および処理されることができる例示的なBスキャンOCT画像を示している。図1Bは、例示的な眼底自発蛍光(FAF)画像を示している。図1Cは、図1BのFAF画像に対する病変グレーディングを示している。FAF画像は、地図状萎縮病変領域105を含む。
【0045】
地図状萎縮病変の予測された成長速度またはボリュームは、被験者および/または眼の識別とともに出力(例えば、提示または送信)されることができる。予測された成長速度またはボリュームは、処置および/または臨床試験登録(例えば、被験者の層別化)の自動化されたまたは人間の推奨を情報提供することができる。例えば、予測成長速度または予測ボリュームが使用されて、(例えば、人間またはコンピューティング装置によって)被験者が特定の臨床試験に適格であるかどうかを決定することができる。決定は、適格性要件が、予測成長速度または予測ボリュームが所定の下限閾値を超えるおよび/または所定の上限閾値を下回ることであることを示す規則を評価することによって行うことができる。別の例として、予測成長速度または予測ボリュームは、臨床試験層別化(例えば、処置が投与されなかった場合に群が同様のデフォルトの予測された地図状萎縮評価を有するように、および/または様々な群間の比較を行う前に結果を解析または正規化するように、個々の被験者を様々な処置群および/または対照群に割り当てること)に使用されることができる。
【0046】
II.定義
本明細書で使用される場合、「マルチタスクモデル」という用語は、複数の統計的変数(例えば、現在の地図状萎縮病変サイズおよび将来の地図状萎縮病変成長速度)を同時に予測するように訓練された1つ以上のニューラルネットワークを含むモデルを指す。マルチタスクモデルは、1つ以上のニューラルネットワークを含むことができる。マルチタスクモデルは、2つの情報セットを同時に適合させるように訓練されているため、オーバーフィッティングを回避するか、またはオーバーフィッティングの可能性を低減することができる。
【0047】
本明細書で使用される場合、「Aスキャン」という用語は、眼の入射光方向に沿った深度プロファイルの1次元画像を指す。近赤外光が直線方向に誘導されて、複数のAスキャン位置においてデータを生成することができる。
【0048】
本明細書で使用される場合、「Bスキャン」という用語は、眼の断面図を指す。場合によっては、特定のタイプの測定に応答してBスキャンが生成される。例えば、近赤外光が眼に透過されることができ、低コヒーレンス干渉信号が2次元Bスキャン画像を生成することができる。場合によっては、Bスキャンは、Aスキャンのアレイから構成されるフレームである。Bスキャンは、プローブの向きに応じて、横方向、縦方向、または軸方向の向きを有することができる。
【0049】
本明細書で使用される場合、「正面Cスキャン」という用語は、指定された深さの眼の層の横方向画像を指す。例えば、正面Cスキャンは、眼の網膜または脈絡膜層の横方向画像とすることができる。Cスキャンは、一定の深さで高速横方向および低速軸方向にスキャンすることによって取得されることができる。場合によっては、正面Cスキャンは、Bスキャンのセットから生成される。
【0050】
本明細書で使用される場合、「成長速度」という用語は、経時的な地図状萎縮病変のサイズの変化を指す。サイズの変化は、絶対的な変化であってもよいし、相対的な変化であってもよい。例えば、成長速度は、眼における地図状萎縮のボリュームまたは面積の変化とすることができる。2次元(例えば、領域)では、成長速度は、単位時間当たりの単位面積(例えば、mm/年)または比もしくはパーセンテージ(例えば、ベースライン時点の面積に対する後の時点の面積)として測定されることができる。3次元(例えば、ボリューム)では、成長速度は、単位時間当たりの単位ボリューム(例えば、mm/年)またはパーセンテージもしくは比(例えば、ベースライン時点でのボリュームに対する後の時点でのボリューム)として測定されることができる。
【0051】
本明細書で使用される場合、「地図状萎縮サイズ」という用語は、眼の1つ以上の地図状萎縮病変の測定可能な寸法を指す。例えば、2次元では、地図状萎縮サイズは、地図状萎縮病変(例えば、mmで測定される)の面積とすることができる。
【0052】
本明細書で使用される場合、「現在」という用語は、ベースライン時間を指す。例えば、現在の地図状萎縮病変サイズは、眼の画像データが生成されたときの地図状萎縮病変サイズとすることができる。
【0053】
本明細書で使用される場合、「進行」という用語は、ベースライン時間から将来の時間までの測定可能な差を指す。例えば、地図状萎縮の進行は、ベースライン時間から将来の時間までの地図状萎縮の成長とすることができる。場合によっては、地図状萎縮の進行は、成長速度から決定されることができる。
【0054】
III.例示的なコンピューティングネットワーク
図2は、いくつかの実施形態にかかる、地図状萎縮病変成長速度の予測を生成するための例示的な個人向けGA予測ネットワーク200を示している。GA進行コントローラ205は、地図状萎縮状態に関する予測を生成するために機械学習モデルを訓練および実行するように構成されることができる。より具体的には、GA進行コントローラ205は、眼の1つ以上の画像を受信し、地図状萎縮病変の予測成長速度またはボリュームを出力するように構成されることができる。
【0055】
予測は、1つ以上のCNNなどの1つ以上の機械学習モデルを使用して生成されることができる。CNNは、3次元CNNおよび/または2次元CNNを含むことができる。場合によっては、機械学習モデルは、3次元ネットワークおよび2次元ニューラルネットワークからの集約結果を処理するアンサンブル機械学習モデルを含むことができる。
【0056】
GA進行コントローラ205は、入力データオブジェクトのセットを含む入力データを受信および/または取得するOCT入力コントローラ220を含むことができる。入力データオブジェクトは、機械学習モデルを訓練するために訓練データセットにおいて使用されるデータオブジェクトおよび/または訓練された機械学習モデルによって処理されるデータオブジェクトを含むことができる。
【0057】
各入力データオブジェクトは、特定の被験者、特定の眼、および/または特定の撮像日に対応することができる。入力データオブジェクトは、(例えば)眼の少なくとも一部の画像を含むことができる。入力データオブジェクトは、OCTおよび/または眼底写真などの本明細書に開示されたイメージング技術を使用して生成された画像を含むことができる。例えば、入力データオブジェクトは、Aスキャン画像のセット(例えば、それぞれが特定の眼の異なる縦方向スキャンを描写する)、Bスキャン画像のセット(例えば、それぞれが平坦化画像を描写する)、またはCスキャン画像のセット(例えば、それぞれが特定の深さに対応する)を含むことができる。
【0058】
入力データオブジェクトは、OCT装置および/または眼底カメラを含むことができる1つ以上のイメージングシステム225から受信および/または取得されることができる。場合によっては、イメージングシステム225は、GA進行コントローラ205に部分的にまたは完全にアクセス可能とすることができる画像データストア230に1つ以上の画像を送信する。
【0059】
入力データオブジェクトは、前処理コントローラ235によって前処理されることができる。前処理は、正規化および/または標準化を実行することを含むことができる。例えば、前処理は、データセット内のBスキャンまたは複数のデータオブジェクトの強度を統一するために、データオブジェクト(例えば、Bスキャンのセット)内のスキャンまたはチャネルにわたるヒストグラムマッチングを含むことができる。前処理コントローラ235は、Bスキャンの平均強度レベルに基づいて、基準BスキャンになるようにBスキャンのセット内のBスキャンを選択することができる。前処理コントローラ235は、Bスキャンのセットにおける残りのBスキャンに対してヒストグラムマッチングを行うことにより、強度の正規化を行うことができる。
【0060】
前処理コントローラ235はまた、前処理中に各Bスキャンに対してセグメンテーション(例えば、BMセグメンテーションまたはILMセグメンテーション)を実行することができる。セグメンテーション後、各Bスキャンは、特定の生物学的構造(例えば、ブルッフ膜(BM)境界または内境界膜(ILM)境界)の描写に沿って平坦化されることができる。セグメンテーションは、ボリュームの切り捨て(例えば、ニューラルネットワークの限界を低減するために上側および下側の背景部分を除去する)を促進し、正面マップを生成することができる。平坦化後、前処理コントローラ235は、各Bスキャンを境界の周りの画素の領域にトリミングすることができる。例えば、平坦化Bスキャンは、ILMの5画素上およびILMの250画素下の領域、またはBMの120画素上およびBMの135画素下の領域にトリミングされることができる。トリミングされた領域は、(例えば)再サンプリング、補間、および/または双一次補間を使用して、所定のサイズ(例えば、512画素×512画素)にサイズ変更されることができる。
【0061】
個人向けGA予測ネットワーク200は、訓練データセット内の各入力データオブジェクトに関連付けられた1つ以上のラベルを取得することができる病変ラベル検出器240を含むことができる。ラベルは、アノテータ、医療専門家、および/または検証済みデータベースによって提供された情報に基づいて最初に識別されていてもよい。ラベルは、後続の時間における地図状萎縮病変のサイズ、後続の時間における地図状萎縮病変の累積サイズ、ベースライン時間と後続の時間との間の差、地図状萎縮病変のサイズの進行、および/または地図状萎縮病変の累積サイズの進行を含むことができる。
【0062】
モデル訓練コントローラ245は、1つ以上の訓練データセットを使用して1つ以上の機械学習モデルを訓練するためのコードを実行することができる。機械学習モデルは、1つ以上の前処理関数、1つ以上のニューラルネットワーク、および/または1つ以上の後処理関数を含むことができる。モデル内の各関数、アルゴリズム、および/またはネットワークに関して、1つ以上の変数が訓練中に固定されることができることが理解されよう。例えば、(例えば、層の数、入力層のサイズ、学習率などを識別する)ニューラルネットワークのハイパーパラメータは、コードの実行を通して事前定義され、調整不可能であり得る。さらに、モデル内の各関数、アルゴリズム、および/またはネットワークに関して、1つ以上の変数が訓練によって学習されることができることが理解されよう。例えば、(例えば、様々なノード間重みを識別する)ニューラルネットワークのパラメータが学習されてもよい。
【0063】
各訓練データセットは、訓練データオブジェクトのセットを含むことができる。データオブジェクトのそれぞれは、入力画像(例えば、眼の一部またはその平坦化されたバージョンを示す画像)を含むことができる。入力画像は、ベースライン時間に収集されたものを含むことができる。
【0064】
データオブジェクトのそれぞれは、1つ以上のラベル(例えば、2つ以上のラベル)にさらに関連付けられることができる。ラベルのそれぞれは、ベースライン時間の後の時間(例えば、ベースライン時間から少なくとも2週間、少なくとも1ヶ月、少なくとも2ヶ月、少なくとも6ヶ月、少なくとも1年間、少なくとも2年間、少なくとも5年間、または少なくとも10年間)に収集された情報に少なくとも部分的に基づいてもよい。場合によっては、1つ以上のラベルのうちのラベルは、後続の時間における所与の地図状萎縮病変のサイズ、後続の時間における地図状萎縮病変の累積サイズ、ベースライン時間と後続の時間との間の差、所与の地図状萎縮病変のサイズの進行、および/または病変の累積サイズの進行を含むことができる。したがって、訓練データセットは、ベースライン時の画像と、ある期間にわたって被験者の地図状萎縮がどのように進行したかおよび/または進行したかどうかを示すラベルデータとを含むことができる。
【0065】
モデル訓練コントローラ245は、機械学習モデルを訓練するために訓練データを使用することができる。1つ以上の従来の機械学習モデル(例えば、ニューラルネットワーク、ビンベースの分類器、回帰アルゴリズムなど)に加えて、機械学習モデルは、1つ以上の前処理機能および/または1つ以上の後処理機能をさらに含むことができる。例えば、前処理機能は、1つ以上の入力画像のサイズ、強度分布、および/または視点を調整することができ、および/または後処理関数は、モデル出力を所定の尺度(またはカテゴリリスト)、推奨事項、層別識別子などに沿った値に変換することができる。
【0066】
モデル訓練コントローラ245は、機械学習モデルの様々な構成要素を別々にまたはまとめて訓練することができる。例えば、訓練データセットが使用されて、(例えば、セグメンテーションを実行する)1つ以上の前処理アルゴリズムおよびニューラルネットワークを同時に訓練することができる。別の例として、前処理アルゴリズムは、(例えば、訓練データの同じまたは異なる部分を使用する)ニューラルネットワークとは別に訓練されてもよい。
【0067】
GA予測生成器250は、アーキテクチャおよび学習されたパラメータを使用して非訓練データを処理し、結果を生成することができる。結果は、(例えば、入力データを含むかまたは識別する)クライアント装置210からの要求通信に応答して生成されることができる。例えば、要求は、被験者の眼の画像のセットを利用するために、データベースの識別子、被験者、眼、およびアクセスパスワードを識別することができる。要求通信は、被験者の眼の予測されたその後の地図状萎縮特性(例えば、サイズまたは成長)を生成する要求に対応することができる。要求が関係する被験者は、訓練データに表された各被験者とは異なることができる。
【0068】
場合によっては、要求は、機械学習モデルに入力されるように構成されたデータオブジェクトを含む。場合によっては、要求は、その後に機械学習モデルに入力されるように構成された予備処理(例えば、復号、標準化など)を受けるように構成されたデータオブジェクトを含む。場合によっては、要求は、機械学習モデルに入力されるように構成されたデータオブジェクトを取得するために使用されることができる情報を含む(例えば、1つ以上の識別子、確認コードおよび/またはパスコード)。
【0069】
場合によっては、後処理機能は、(例えば)モデル、機能、または規則を使用する際に予測を処理する。例えば、分類器が使用されて、予備結果に基づいて被験者眼入力データセットに重症度予測結果を割り当てることができる。別の例として、予備結果に基づいて、処置変更が検討のために推奨されるかどうかを決定するために規則が使用されてもよい。
【0070】
したがって、GA予測生成器250は、入力データオブジェクトにアクセスし、データオブジェクトを機械学習モデルに供給することができる。機械学習モデルの結果は、(例えば、データオブジェクトが生成された時点での)現在の地図状萎縮病変サイズおよび/またはその後の地図状萎縮病変状態(例えば、その後の地図状萎縮病変の成長またはサイズ)を予測することができる。GA進行コントローラ205は、その後の眼における地図状萎縮の成長(例えば、眼における1つ以上の地図状萎縮病変の成長)および/またはその後の眼における地図状萎縮のサイズ(例えば、眼における1つ以上の地図状萎縮病変のその後のサイズ)を特徴付ける予測を出力することができる。例えば、予測は、後続の期間における被験者の眼における地図状萎縮のその後の成長またはその後のサイズ、予測された絶対的または相対的な成長、および/または地図状萎縮病変の予測された相対的または絶対的サイズの確率または可能性を含むことができる。GA進行コントローラ205は、さらに、眼における1つ以上の地図状萎縮病変の現在のサイズ(例えば、面積またはボリューム)の予測を生成してもよい。
【0071】
場合によっては、GA予測生成器250は、(例えば、モデル訓練コントローラ245によって訓練される)3次元畳み込みニューラルネットワークを実行することができる。3次元畳み込みニューラルネットワークは、3次元データオブジェクト(例えば、平坦化Bスキャンのセットに対応する)を受信し、処理するように構成されることができる。3次元畳み込みニューラルネットワークは、1つ以上の3次元畳み込みモジュール(例えば、インセプション畳み込みモジュール)を含むことができる。各3次元畳み込みモジュールは、少なくとも2つの異なるサイズの畳み込みフィルタを使用する(例えば、1×1×1の畳み込みフィルタ、第1の3×3×3の畳み込みフィルタ、および第2の3×3×3の畳み込みフィルタを使用する)畳み込み層のセットを含むことができる。3次元畳み込みネットワークは、代替的にまたは追加的に、1つ以上の3次元畳み込み層を含むことができる。
【0072】
場合によっては、GA予測生成器250は、2次元および/またはマルチチャネルニューラルネットワークを実行することができる。例えば、データオブジェクトは、マルチチャネル画像データを含むことができる。画像チャネル内の各チャネルは、(例えば)1つ以上のイメージング技術および/または1つ以上のイメージング視点に対応する2次元データを含むことができる。例えば、2次元画像データは、Bスキャンおよび/または1つ以上のCスキャンを含むことができる。したがって、場合によっては、マルチチャネル画像データは、2つ以上の異なるタイプのイメージング収集および/または2つ以上の異なるタイプの視点に対応するデータを含む。マルチチャネル画像データは、地図状萎縮病変の成長速度および/またはその後のサイズの予測を生成するために、1つ以上のニューラルネットワークによって処理されることができる。
【0073】
データチャネルの1つ以上のチャネルのそれぞれは、被験者の眼の少なくとも部分描写に対応する2次元画像を含むことができる。いくつかの例では、3チャネルデータは、複数の正面CスキャンOCT画像を含むことができる。別の例として、3チャネルデータは、少なくとも2つの正面CスキャンOCT画像および少なくとも1つのBスキャン画像(例えば、擬似ランダムに選択された横方向位置に対応する中央Bスキャンまたは1つ以上のBスキャン)を含むことができる。別の例として、3チャネルデータは、少なくとも1つの正面CスキャンOCT画像と、OCTとは異なる種類のイメージングモダリティ(例えば、赤外および/または眼底の自己蛍光イメージングまたはcSLO)を使用して得られた少なくとも1つの画像とを含むことができる。あるいは、3チャネルデータは、全深度正面OCT画像、サブBM正面OCT画像(例えば、BMより下方の100画素の深さ)、および上方のBM正面OCT画像(例えば、BMより上方の100画素の深さ)を含むことができる。本明細書におけるいくつかの開示は、「3チャネル」データ、オブジェクトデータなどに言及するが、3つよりも多くのチャネルを含むデータが代わりに使用されてもよいことが企図されることが理解されよう。
【0074】
GA予測生成器250によって使用されるニューラルネットワークは、転移学習ニューラルネットワーク(インセプションV3)を含むことができ、および/または緻密層が続いてもよい。例えば、ニューラルネットワークは、眼の異なる種類の病変(例えば、鼠径部病変、結膜病変、または脈絡膜黒色腫)の成長速度および/またはその後のサイズを予測するためのパラメータによって初期化されることができる。次いで、ニューラルネットワークがさらに訓練されて、眼における地図状萎縮病変の成長速度および/またはその後のサイズを予測することができる。
【0075】
ネットワークは、バッチ正規化、(例えば、ReLU活性化を使用する)1つ以上の活性化層および/または(例えば、最大プーリングを使用する)1つ以上のプーリング層を含むことができる。例えば、バッチ正規化、ReLU活性化および/またはプーリング層は、1つ以上の畳み込み層のそれぞれに続くことができる。ニューラルネットワークは、(例えば、出力層および/または最後の畳み込み層に続く層において)グローバル平均プーリングおよび/または緻密層を含むことができる。ニューラルネットワークは、活性化関数(例えば、線形活性化)を含んでもよい。ニューラルネットワークは、標準的なスクイーズおよび励起(SE)アテンションユニットなどのアテンションユニットを含むことができる。SEアテンションユニットは、畳み込み層からの特徴マップをグローバル平均プーリングし、プーリングの結果に1つ以上の線形変換を適用することを含むことができる。アテンションユニットは、各特徴マップの重みを適応的に調整することを促進するように構成されることができる。
【0076】
場合によっては、GA予測生成器250は、アンサンブルモデルを使用してデータオブジェクトを処理することができる。アンサンブルモデルは、1つ以上の3次元畳み込みニューラルネットワークおよび1つ以上の2次元畳み込みニューラルネットワークなどの複数のニューラルネットワークを含むことができる。アンサンブルモデルは、データオブジェクトを処理し、各ニューラルネットワークからの結果を集約することができる。例えば、アンサンブルモデルは、各ニューラルネットワークからの地図状萎縮病変の予測されたその後のサイズおよび/または地図状萎縮病変の予測された成長速度を平均化することができる。アンサンブルモデルは、被験者の眼における地図状萎縮の予測されたその後のサイズおよび/またはその後の成長の平均を出力することができる。
【0077】
GA分析コントローラ255は、予測を処理し、その結果(またはその処理されたバージョン)をクライアント装置210または他のシステム(例えば、検査技師または介護提供者に関連する)に通信することができる。例えば、GA分析コントローラ255は、被験者の眼におけるその後の地図状萎縮のサイズまたはその後の地図状萎縮の成長を識別する予測の出力を生成することができる。場合によっては、GA分析コントローラ255は、結果をさらに後処理することができる。例えば、GA分析コントローラ255は、1つ以上の規則のいずれかの条件が満たされているか否かを決定するために1つ以上の規則を評価してもよい。例えば、規則は、予測された病変サイズおよび/または予測された進行が処置の変更を推奨するのに十分に大きい場合に満たされるように構成されることができる。別の例として、規則は、予測された病変サイズおよび/または予測された進行が所定の開または閉範囲内にある場合に、特定の種類の処置アプローチを推奨することが満たされるように構成されることができる。別の例として、規則は、予測された病変サイズおよび/または予測された進行に基づいて、被験者が臨床試験に適格であるかどうかを示すように構成されることができる。
【0078】
次いで、出力は、提示および/または送信されることができ、これにより、例えばコンピューティング装置(例えば、クライアント装置210)のディスプレイ上での出力データの表示を促進することができる。
【0079】
IV.地図状萎縮病変面積および成長速度予測のための技術
図3は、いくつかの実施形態にかかる、3次元データオブジェクトの地図状萎縮サイズおよび成長を予測するために畳み込みニューラルネットワークを使用する例示的なプロセスを示している。ブロック305において、被験者の眼の少なくとも部分描写に対応する3次元データオブジェクトが生成される。3次元データオブジェクトは、2次元画像のセット(例えば、Bスキャン)の各画像をセグメント化して、画像内のセグメント(例えば、ブルッフ膜および/または内境界膜に対応する)を識別することによって生成されることができる。あるいは、3次元データオブジェクトは、被験者の眼の2次元BスキャンOCT画像にアクセスし、2次元BスキャンOCT画像を使用して特徴マップを生成し、特徴マップのセットを含むように3次元データオブジェクトを生成することによって生成されてもよい。別の例として、3次元データオブジェクトは、被験者の眼の2次元BスキャンOCT画像のセットにアクセスすることによって生成されてもよい。眼の特定の構造を描写する画素のセットは、2次元BスキャンOCT画像のセットのそれぞれについて識別されることができる。例えば、ブルッフ膜および/または内境界膜を描写する画素のセットが識別されることができる。2次元BスキャンOCT画像のそれぞれは、画素のセットに基づいて平坦化されることができる。次いで、各平坦化BスキャンOCT画像の少なくとも一部を含むように、3次元データオブジェクトが生成されることができる。
【0080】
ブロック310において、3次元データオブジェクトがアクセスされる。3次元データオブジェクトは、ローカルメモリまたはストレージからアクセスされることができる。3次元データオブジェクトがイメージングまたはリモートシステムにおいて生成されるいくつかの例では、3次元データオブジェクトは、イメージングまたはリモートシステム(例えば、図2のイメージングシステム225)からアクセスされることができる。3次元データオブジェクトは、被験者の眼の予測されたその後の地図状萎縮特性を生成するために、(例えば、クライアントシステムからの)要求通信を受信するリモートコンピューティングシステムに応答してアクセスされることができる。
【0081】
ブロック315において、3次元データオブジェクトは、畳み込みニューラルネットワークを使用して処理され、眼における地図状萎縮病変のその後の成長および/またはその後のサイズの予測を生成する。畳み込みニューラルネットワークは、1つ以上の畳み込みモジュール(例えば、インセプションモジュール)および/または1つ以上のプーリング層を有する3次元ニューラルネットワークとすることができる。各畳み込みモジュールは、畳み込み層のセットを含む3次元畳み込みモジュールを含むことができる。畳み込み層のセットのうちの少なくとも2つは、異なるサイズの畳み込みフィルタを含むことができる。例えば、第1の層は、1×1×1の畳み込みフィルタを使用することができ、1つ以上の第2の層のそれぞれは、3×3×3の畳み込みフィルタを使用することができる。畳み込みニューラルネットワークは、各特徴マップの重みの適応的調整を促進するために畳み込みブロックの各チャネルにパラメータを追加することができる標準SEアテンションユニットなどのアテンションユニットをさらに含むことができる。
【0082】
ブロック320において、予測が出力される。予測は、特定の臨床試験に参加するための被験者の適格性の決定を促進するために使用されることができる。例えば、閾値を超える地図状萎縮のサイズの予測は、被験者が特定の臨床試験に適格であることを示すことができる。予測は、追加的または代替的に、被験者が関与しているまたは関与することになる特定の臨床試験の層別化の決定を促進するために使用されることができる。例えば、予測が使用されて、処置が投与されなかった場合に群が同様のデフォルトの予測された地図状萎縮評価を有するように、および/または様々な群間の比較を行う前に結果を解析または正規化するように、被験者を様々な処置群および/または対照群に割り当てることができる。臨床試験結果は、層別化に基づいて生成されることができる。臨床試験結果は、さらに出力されてもよい。
【0083】
場合によっては、予測が使用されて、被験者の処置の選択を促進し、および/または被験者の処置を変更するかどうかの決定を促進することができる。例えば、機械学習モデルは、特定の処置を受けていた、または特定の処置を受けたことがある被験者のセットに対応する訓練データセットを使用して訓練されることができる。各被験者について収集されたベースライン画像は、処置がちょうど開始されたか、または開始しようとしていた期間に対応することができる。次いで、訓練されたモデルが使用されて、被験者が特定の処置を使用した場合に地図状萎縮が進行する程度および/またはその後の地図状萎縮病変のサイズを予測することができ、したがって、介護者が(例えば、別の処置に対して)特定の処置を推奨するかどうかを知らせることができる。
【0084】
図4は、いくつかの実施形態にかかる、データオブジェクトの地図状萎縮病変サイズおよび成長を予測するために畳み込みニューラルネットワークを使用する例示的なプロセスを示している。ブロック405において、少なくとも3つのデータチャネルを含むデータオブジェクトがアクセスされる。少なくとも3つのデータチャネルのそれぞれは、被験者の眼の少なくとも部分描写に対応する2次元画像を含むことができる。データオブジェクトは、眼の複数の異なる正面OCTベースのマップを含むことができる。場合によっては、データオブジェクトは、眼の少なくとも2つの正面OCTベースのスキャンおよび眼の少なくとも1つのBスキャン(例えば、擬似ランダムに選択された横方向位置に対応する中央Bスキャンまたは1つ以上のBスキャン)を含むことができる。あるいは、データオブジェクトは、眼の少なくとも1つのOCTベースの正面スキャンと、OCTとは異なる種類のイメージングモダリティを使用して得られた少なくとも1つの画像とを含むことができる。
【0085】
ブロック410において、データオブジェクトは、畳み込みニューラルネットワークを使用して処理され、眼における地図状萎縮病変のその後の成長および/またはその後のサイズの予測を生成する。畳み込みニューラルネットワークは、さらにまたは代替的に、眼における地図状萎縮病変の現在のサイズの別の予測を生成することができる。畳み込みニューラルネットワークは、現在の地図状萎縮病変サイズおよびその後の地図状萎縮病変状態を同時に予測するように訓練された2次元ニューラルネットワークとすることができ、これは、その後の地図状萎縮病変成長またはその後の地図状萎縮病変サイズを含むことができる。畳み込みニューラルネットワークは、転移学習を使用して訓練されることができる。例えば、畳み込みニューラルネットワークは、眼の異なる種類の病変(例えば、鼠径部病変、結膜病変、または脈絡膜黒色腫)の成長速度および/またはその後のサイズを予測するためのパラメータによって初期化されることができる。次いで、ニューラルネットワークがさらに訓練されて、眼における地図状萎縮病変の成長速度および/またはその後のサイズを予測することができる。畳み込みニューラルネットワークは、1つ以上の2次元畳み込みモジュールおよび/またはプーリング層を含むことができる。畳み込みニューラルネットワークは、1つ以上の任意のユニット(例えば、SEアテンションユニット)をさらに含むことができる。畳み込みニューラルネットワークはまた、バッチ正規化、(例えば、ReLU活性化を使用する)1つ以上の活性化層および/または(例えば、最大プーリングを使用する)1つ以上のプーリング層を含むことができる。
【0086】
ブロック415において、予測(例えば、その後の成長、現在のサイズ、および/またはその後のサイズ)が出力される。予測は、特定の臨床試験に参加するための被験者の適格性の決定を促進するために使用されることができる。例えば、閾値を超える地図状萎縮病変のサイズの予測は、被験者が特定の臨床試験に適格であることを示すことができる。予測は、追加的または代替的に、被験者が関与しているまたは関与することになる特定の臨床試験の層別化の決定を促進するために使用されることができる。臨床試験結果は、層別化に基づいて生成されることができる。臨床試験結果は、さらに出力されてもよい。
【0087】
場合によっては、予測が使用されて、被験者の処置の選択を促進し、および/または被験者の処置を変更するかどうかの決定を促進することができる。例えば、機械学習モデルは、特定の処置を受けていた、または特定の処置を受けたことがある被験者のセットに対応する訓練データセットを使用して訓練されることができる。各被験者について収集されたベースライン画像は、処置がちょうど開始されたか、または開始しようとしていた期間に対応することができる。次いで、訓練されたモデルが使用されて、被験者が特定の処置を使用した場合に地図状萎縮が進行する程度および/またはその後の地図状萎縮病変のサイズを予測することができ、したがって、介護者が(例えば、別の処置に対して)特定の処置を推奨するかどうかを知らせることができる。
【実施例
【0088】
V.実施例
V.A.実施例1:ニューラルネットワークを使用した3-次元OCT画像の処理による地図状萎縮成長速度の予測
V.A.1.方法
試験は、ランパリズマブフェーズ3試験SPECTRI(NCT 02247531)に登録された両側性地図状萎縮を有する被験者の眼に対して遡及的に実施された。1.92×6×6mmの領域の496×1024×49ボクセルの黄斑Spectralis SD-OCTボリューム(Heidelberg Engineering,Inc.、ハイデルベルク、ドイツ)が使用されて、地図状萎縮病変面積および病変成長を予測した。地図状萎縮病変面積(mm、必要に応じて2人の判読者または裁定者によって格付けされたFAF画像から測定)の地図状萎縮病変成長速度(mm/年)を、利用可能な全ての訪問測定値を使用して導出し、線形モデルに適合させた。522人の被験者からの画像データセットを被験者ごとに5つに分割した。5倍交差検証を、ベースライン因子および処置群についてバランスのとれた全ての折り畳みで行った。各Bスキャンは、ILMに沿って平坦化され、128×128画素のサイズに縮小された。次いで、マルチタスク3次元畳み込みニューラルネットワーク(CNN)モデルを訓練して、地図状萎縮面積を予測するように訓練された同じモデルからの初期化された重みを有するベースラインOCTボリュームから地図状萎縮成長速度を予測した。真の地図状萎縮成長速度と予測された地図状萎縮成長速度との間のピアソン相関係数(r)の二乗として定義される試料内決定係数(R)を計算することによって性能を評価した。
【0089】
V.A.2.結果
地図状萎縮病変面積予測は、0.88の平均交差検証R(範囲:0.77から0.92)を示し、地図状萎縮成長速度予測は、0.30の平均交差検証R(範囲:0.21から0.43)を示した。成長速度予測結果は、ベースラインマルチモーダル網膜画像(Normand Gら、IOVS 2019;60:ARVO E-Abstract 1452)を使用した深層学習による地図状萎縮成長速度(R2=0.35)の予測に関する以前の試験と同等である。
【0090】
この実施例は、3次元深層学習アプローチを用いて個々の地図状萎縮成長速度を予測するためにOCT画像を使用することの実現可能性を示す。予測は、他のイメージングモダリティ(例えば、赤外および眼底自己蛍光)および/または関連する臨床的変数と組み合わせることによって改善されることができる。
【0091】
V.B.実施例2:ニューラルネットワークを使用したOCT画像の処理による地図状萎縮成長速度の予測
V.B.1.3次元モデル法
予測は、マルチタスク回帰問題として定式化された。訓練データセットを
【数1】
とすると、Xi、yiは、i番目のOCTボリュームならびにその対応する地図状萎縮病変面積(y)および成長速度(y)ラベルを示し、Nはサンプルの総数を示す。モデルは、入力としてベースラインOCTボリュームを取り、現在の地図状萎縮病変面積および病変成長速度を予測する。
【0092】
このアプローチの概要を図5に示す。3次元OCTボリュームを最初に前処理し、次いで、マルチタスク3次元インセプションCNNベースのモデルに入力した。さらに、スクイーズおよび励起(SE)ユニットを使用するセルフアテンション機構を追加して、特徴マップを強化した。地図状萎縮病変面積および成長速度を同時に予測した。地図状萎縮成長速度は、地図状萎縮病変面積と弱い相関があることが示されている。マルチタスクモデルは、双方のタスクの情報を取り込む表現を見つけ、成長速度予測タスクのみにオーバーフィッティングする可能性を少なくすることが期待される。
【0093】
V.B.1.a.OCT画像前処理
OCTボリュームは、深さ496画素、1024個のAスキャンおよび49個のBスキャン(496×1024×49ボクセル)を含んでいた。ボリュームサイズは、モデル入力および網膜(関心領域)への焦点に対して減少した。各Bスキャンについて、画像を内境界膜(ILM)に沿って平坦化した。ILMは、OCT装置ソフトウェア(Heidelberg Engineering,Inc.、ハイデルベルク、ドイツ)によって事前にセグメント化された網膜と硝子体との間の境界である。次に、各Bスキャンについて、ILMの5画素上およびILMの250画素下の領域をトリミングし、関心領域として定義した。次いで、各トリミング領域(深さ256画素×1024個のAスキャン)をバイリニア補間によって128×128画素にサイズ変更した(図5)。Bスキャンの数の減少はなかった。したがって、元のボリュームは、モデル入力として128×128×49ボクセルに減少した。
【0094】
V.B.1.b.3次元インセプション畳み込みモジュール
3次元インセプション畳み込みモジュールの詳細を図6に示す。ネットワークは、1つの通常の畳み込み層と4つの3次元インセプション畳み込みブロックから構成された。これらのうち、通常の畳み込み層および最初の3つの3次元インセプション畳み込みブロックは、面積および成長速度予測によって共有される。各畳み込み層の後に、バッチ正規化、ReLU活性化および最大プーリングを行った。最後の畳み込みブロックの後、グローバル平均プーリングおよび線形活性化を伴う緻密層を出力層に使用した。3次元ボリュームの異方性を、フィルタサイズ、ストライドおよびプーリングサイズの選択において考慮した。ハイパーパラメータは、ランダム検索を使用して最適化された。
【0095】
V.B.1.c.SEアテンションユニットおよびジョイント損失
2次元のSEアテンションユニットを3次元に一般化し、3つの3次元インセプションモジュールに追加した。2次元の場合と同様に、インセプションモジュールからの特徴マップは、チャネル間の相互依存性を考慮に入れるためにSEユニットからの出力によって再重み付けされる。より詳細には、次元H×W×D×Cの3次元インセプションモジュールからの出力特徴マップは、3次元空間平均化によって次元1×1×1×Cのグローバルテンソルに変換される。このテンソルは、本質的にチャネル方向のベクトルであり、チャネルの数と同じ次元のベクトルである。ReLU活性化を伴う全結合層は、出力テンソルを1×1×1×C/rの次元に縮小するためにチャネル方向に適用され、rは縮小比と呼ばれ、チャネル数であるCの約数である。この試験では、縮小比を4に設定した。第2の全結合層とそれに続く出力次元1×1×1×Cのシグモイド活性化は、各チャネルに滑らかなゲーティングを与える。最後に、畳み込みブロックの各特徴マップは、SEユニットからの出力を乗算することによって重み付けされる。最後に、地図状萎縮病変面積予測および成長速度予測の平均二乗誤差のジョイント損失を訓練に使用した。各項の重みは0.5であった。
【0096】
V.B.1.d.ベースラインモデル
性能を比較し、モデルに洞察を得るために、3つの追加のベースラインモデルを試験した。第1のベースラインモデル(すなわち、ベースモデル)は、地図状萎縮成長速度のみを予測するための単純な3次元インセプション畳み込みニューラルネットワークであった。モデルは、SEアテンションユニットおよびマルチタスク設定なしで提案されたモデルと全く同じであった。モデルパラメータ初期化では、He初期化を採用した。第2のベースラインモデル(すなわち、カスケードモデル)は、モデルを最初に訓練して地図状萎縮病変面積を予測するカスケードアプローチを使用した。次いで、面積予測訓練中に学習された重みを使用してモデルを初期化し、次いで、地図状萎縮成長速度を予測するように訓練した。予測のタイプごとに訓練されたカスケードモデルは、第1のベースラインモデルと同じ3次元畳み込みアーキテクチャを共有した。第3のベースラインモデル(すなわち、マルチタスクモデル)は、SEアテンションブロックが追加の性能向上を提供するかどうかを見るために、SEアテンションユニットのないマルチタスクモデルであった。第2および第3のベースラインモデルは、現在の地図状萎縮病変面積および将来の地図状萎縮病変面積を予測するように訓練された。
【0097】
V.B.2.2次元モデル法
図7に、マルチタスク2次元畳み込みネットワーク700の概要を示す。モデルは、転移学習インセプションV3ニューラルネットワーク705を含む。緻密層710は、転移学習インセプションV3ネットワーク705の後に含まれる。地図状萎縮病変面積715および成長速度720が同時に予測される。2次元マルチタスクモデルは、双方のタスクの情報を取り込む表現を見つけることが期待される。
【0098】
V.B.3.結果
モデルは、ランパリズマブフェーズ3試験SPECTRI(NCT 02247531)に登録された両側性地図状萎縮を有する患者の完全訓練データセットに対して実行され、ホールドアウトデータセットに対して5回評価された。訓練データセットには560人の被験者から1934回の訪問があり、ホールドアウトデータセットには114人の被験者から114回のベースライン訪問があった。ホールドアウトデータセットの平均性能および標準偏差を表1に示す。結果は、提案されたモデルが地図状萎縮成長速度予測に対して最良の性能を有することを示している。マルチタスクフレームワークは、第1のベースラインモデルと比較して改善の大部分に寄与した。SEアテンションブロックは、性能を有意に改善するようには見えなかった。カスケードモデルはまた、第1のベースラインモデルよりも良好に機能した。対照的に、地図状萎縮病変面積予測の性能は、全てのモデル間で同等であった。
【0099】
モデルの追加実行からの全てのホールドアウト事例における、真の成長速度に対する予測された地図状萎縮成長速度、ならびに真の地図状萎縮病変面積に対する予測された地図状萎縮病変面積の回帰プロットの例を図8Aおよび図8Bに示す。病変面積予測の真値と予測値(R)との間のピアソン相関係数の二乗は0.92であった。地図状萎縮病変面積が比較的小さい場合の性能は、病変面積がより大きい場合の性能よりも良好であった。成長速度予測の性能は、はるかに大きな集団(2000+眼)からのベースラインFAFおよび赤外網膜画像の双方を使用する深層学習による地図状萎縮成長速度の予測(R=0.43)に関する以前の試験と同等であった。図8Cは、地図状萎縮成長速度予測における外れ値のOCT正面画像および中心Bスキャンを示している。OCTボリュームは、Bスキャンにわたってモーションアーチファクトおよび画素強度の不一致を有することが分かる。さらに、この場合のOCTボリュームサイズは、496×512×49ボクセルであり、訓練データの約5%のみがこの分解能であった。しかしながら、地図状萎縮病変面積の予測は、グラウンドトゥルースと一致していた。図8Dは、地図状萎縮病変面積および成長速度予測の双方における別の外れ値のOCT正面画像および中心Bスキャンを示している。この場合、いくつかのBスキャンはかなり低い画像強度、OCT正面画像における暗いバンドを有していたため、画像品質は、やはり根本原因である可能性が高い。
【表1】
【0100】
V.B.4.解釈
したがって、深層学習モデルは、いかなる事前の特徴操作なしに、OCTボリュームを処理して地図状萎縮疾患の進行を予測するようにうまく訓練された。新たなカスタマイズされた3次元マルチタスク深層学習パイプラインは、ベースラインOCTボリュームのみに基づいて、現在の地図状萎縮病変面積および将来の地図状萎縮病変成長速度を高精度で同時に予測した。提案されたモデルは、他のベースラインモデルよりも優れていた。
【0101】
VI.さらなる考察
本開示のいくつかの実施形態は、1つ以上のデータプロセッサを含むシステムを含む。いくつかの実施形態では、システムは、命令を含む非一時的コンピュータ可読記憶媒体であって、命令が、1つ以上のデータプロセッサ上で実行されると、1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部および/または1つ以上のプロセスの一部または全部を実行させる、非一時的コンピュータ可読記憶媒体を含む。本開示のいくつかの実施形態は、1つ以上のデータプロセッサに、本明細書に開示された1つ以上の方法の一部または全部および/または1つ以上のプロセスの一部または全部を実行させるように構成された命令を含む、非一時的機械可読記憶媒体において有形に具現化されたコンピュータプログラム製品を含む。
【0102】
使用された用語および表現は、限定ではなく説明の用語として使用され、そのような用語および表現の使用において、示されて説明された特徴の均等物またはその一部を除外する意図はないが、特許請求の範囲に記載された発明の範囲内で様々な変更が可能であることが認識される。したがって、特許請求の範囲に記載された本発明は、実施形態および任意の特徴によって具体的に開示されているが、本明細書に開示された概念の変更および変形は、当業者によってあてにされてもよく、そのような変更および変形は、添付の特許請求の範囲によって定義される本発明の範囲内にあると見なされることを理解されたい。
【0103】
本説明は、好ましい例示的な実施形態のみを提供し、本開示の範囲、適用可能性または構成を限定することを意図しない。むしろ、好ましい例示的な実施形態の本説明は、様々な実施形態を実装するための可能な説明を当業者に提供する。添付の特許請求の範囲に記載の趣旨および範囲から逸脱することなく、要素の機能および配置に様々な変更を加えることができることが理解される。
【0104】
本説明では、実施形態の完全な理解を提供するために具体的な詳細が示されている。しかしながら、これらの具体的な詳細なしで実施形態が実施され得ることが理解されよう。例えば、回路、システム、ネットワーク、プロセス、および他の構成要素は、実施形態を不必要に詳細に不明瞭にしないために、ブロック図形式の構成要素として示されてもよい。他の例では、実施形態を不明瞭にすることを避けるために、周知の回路、プロセス、アルゴリズム、構造、および技術が不必要な詳細なしに示されてもよい。
図1-1】
図1-2】
図1-3】
図2
図3
図4
図5
図6
図7
図8-1】
図8-2】
【国際調査報告】