(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-12-27
(54)【発明の名称】学習モデルに基づく眼の光干渉断層撮影画像の拡張
(51)【国際特許分類】
A61B 3/10 20060101AFI20231220BHJP
A61B 8/00 20060101ALI20231220BHJP
A61F 2/16 20060101ALI20231220BHJP
A61F 9/008 20060101ALI20231220BHJP
G06T 1/40 20060101ALI20231220BHJP
G06T 1/00 20060101ALI20231220BHJP
【FI】
A61B3/10 100
A61B3/10 900
A61B8/00
A61F2/16
A61F9/008 130
G06T1/40
G06T1/00 290B
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023535711
(86)(22)【出願日】2021-10-21
(85)【翻訳文提出日】2023-06-12
(86)【国際出願番号】 IB2021059741
(87)【国際公開番号】W WO2022130049
(87)【国際公開日】2022-06-23
(32)【優先日】2020-12-19
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】319008904
【氏名又は名称】アルコン インコーポレイティド
(74)【代理人】
【識別番号】100099759
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100160705
【氏名又は名称】伊藤 健太郎
(74)【代理人】
【識別番号】100227835
【氏名又は名称】小川 剛孝
(72)【発明者】
【氏名】シンチャン バッタチャリア
(72)【発明者】
【氏名】ヒョ ウォン チェ
(72)【発明者】
【氏名】ラメシュ サランガパニ
(72)【発明者】
【氏名】ブライアン スタンフィル
【テーマコード(参考)】
4C097
4C316
4C601
5B057
【Fターム(参考)】
4C097AA25
4C097SA10
4C316AA08
4C316AA24
4C316AA25
4C316AB02
4C316AB11
4C316AB14
4C316FB05
4C316FB21
4C316FB24
4C316FC12
4C316FZ01
4C601DD13
4C601EE09
4C601LL33
5B057AA09
5B057CA08
5B057CB08
5B057CD06
5B057CE08
5B057DB09
5B057DC32
5B057DC40
(57)【要約】
元のOCT(光干渉断層撮影)画像を拡張するためのシステム及び方法が、プロセッサと、命令が記録された有形の非一時的メモリとを有するコントローラを備える。本システムは、コントローラによって選択的に実行可能な1つ又は複数の学習モジュールを含む。学習モジュールは、複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークによって訓練される。プロセッサが命令を実行することにより、OCTデバイスを介して取り込んだ元のOCT画像をコントローラに取得させる。コントローラは、(訓練された)学習モジュールを実行することにより、元のOCT画像に部分的に基づいて拡張OCT画像を生成するように構成される。拡張OCT画像は、元のOCT画像の周縁部分を少なくとも部分的に拡大する。
【特許請求の範囲】
【請求項1】
少なくとも1つのプロセッサと、眼の元の光干渉断層撮影(「OCT」)画像を拡張するための方法のための命令が記録される少なくとも1つの非一時的有形メモリとを有するコントローラと、
前記コントローラによって選択的に実行可能な1つ又は複数の学習モジュールと
を備えるシステムにおいて、
前記1つ又は複数の学習モジュールが、複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークによって訓練され、
前記プロセッサが前記命令を実行することにより、前記眼の前記元のOCT画像を前記コントローラに取得させ、前記元のOCT画像がOCTデバイスを介して取り込まれ、
前記コントローラが、前記1つ又は複数の学習モジュールを実行することにより、前記元のOCT画像に部分的に基づいて拡張OCT画像を生成するように構成され、
前記拡張OCT画像が、前記元のOCT画像の周縁部分を少なくとも部分的に拡大する、システム。
【請求項2】
前記周縁部分が前記眼の虹彩の後方にあって、前記拡張OCT画像が前記虹彩の後方にある1つ又は複数の構造の可視化を可能にする、請求項1に記載のシステム。
【請求項3】
前記コントローラが、前記拡張OCT画像に基づいて少なくとも1つの水晶体パラメータを取得するように構成される、請求項1に記載のシステム。
【請求項4】
前記コントローラが、前記少なくとも1つの水晶体パラメータに部分的に基づいて眼内レンズを選択するように構成され、
前記少なくとも1つの水晶体パラメータが、水晶体直径及び/又は水晶体嚢プロファイルを含む、請求項3に記載のシステム。
【請求項5】
前記OCTデバイスが、前記眼を照明するためのレーザビームのアレイを備える、請求項1に記載のシステム。
【請求項6】
前記対応する訓練OCT画像が、前記複数の訓練超音波生体顕微鏡画像に関連付けられ、前記対応する訓練OCT画像と前記複数の訓練超音波生体顕微鏡画像とが対をなすセットを形成する、請求項1に記載のシステム。
【請求項7】
前記1つ又は複数の学習モジュールが、前記対応する訓練OCT画像に部分的に基づいて対応する合成OCT画像を生成するように訓練されたジェネレータを含み、
前記訓練ネットワークが、弁別子を有する敵対的生成ネットワークであり、
前記弁別子が、前記複数の訓練超音波生体顕微鏡画像と前記対応する合成OCT画像とを区別するように適合される、請求項6に記載のシステム。
【請求項8】
前記対応する訓練OCT画像が、前記複数の訓練超音波生体顕微鏡画像に関連付けられず、前記対応する訓練OCT画像と前記複数の訓練超音波生体顕微鏡画像とが対をなさないセットを形成し、
前記訓練ネットワークが、第1の弁別子と第2の弁別子とを有する敵対的生成ネットワークである、請求項1に記載のシステム。
【請求項9】
前記1つ又は複数の学習モジュールが、第1のジェネレータと第2のジェネレータとを含み、
前記拡張OCT画像が、前記第1のジェネレータと前記第2のジェネレータとを順に実行することにより生成され、前記第1のジェネレータが前記眼の前記元のOCT画像を対応する合成UBM画像に変換するように適合され、前記第2のジェネレータが前記対応する合成UBM画像を前記拡張OCT画像に変換するように適合される、請求項8に記載のシステム。
【請求項10】
前記訓練ネットワークが、前記第1のジェネレータ、前記第2のジェネレータ、及び前記第1の弁別子を用いて正の訓練サイクルを実行するように構成され、
第1の訓練OCT画像が前記第1のジェネレータに入力され、前記第1の訓練OCT画像が前記対応する訓練OCT画像から選択され、
前記第1のジェネレータが、前記第1の訓練OCT画像を第1の合成超音波生体顕微鏡画像に変換するように適合され、
前記第2のジェネレータが、前記第1の合成超音波生体顕微鏡画像を第2の合成OCT画像に変換するように適合される、請求項9に記載のシステム。
【請求項11】
前記第1の弁別子が、前記正の訓練サイクルにおいて、前記第1の合成超音波生体顕微鏡画像と前記複数の訓練超音波生体顕微鏡画像とを区別するように適合され、
前記訓練ネットワークが、前記第1の訓練OCT画像と前記第2の合成OCT画像との間の差を最小化する第1の損失関数を組み込む、請求項10に記載のシステム。
【請求項12】
前記訓練ネットワークが、前記第1のジェネレータ、前記第2のジェネレータ、及び前記第2の弁別子を用いて逆の訓練サイクルを実行するように構成され、
第2の訓練超音波生体顕微鏡画像が前記第2のジェネレータに入力され、前記第2の訓練超音波生体顕微鏡画像が前記複数の訓練超音波生体顕微鏡画像から選択され、
前記第2のジェネレータが、前記第2の訓練超音波生体顕微鏡画像を第3の合成OCT画像に変換するように構成され、
前記第1のジェネレータが、前記第3の合成OCT画像を第4の合成超音波生体顕微鏡画像に変換するように構成される、請求項9に記載のシステム。
【請求項13】
前記第2の弁別子が、前記逆の訓練サイクルにおいて、前記第3の合成OCT画像と前記対応する訓練OCT画像とを区別するように適合され、
前記訓練ネットワークが、前記第2の訓練超音波生体顕微鏡画像と前記第4の合成超音波生体顕微鏡画像との間の差を最小化する第2の損失関数を組み込む、請求項12に記載のシステム。
【請求項14】
少なくとも1つのプロセッサと少なくとも1つの非一時的有形メモリとを有するコントローラを備えたシステムによって、眼の元の光干渉断層撮影(「OCT」)画像を拡張するための方法であって、前記方法が、
1つ又は複数の学習モジュールを選択的に実行するように前記コントローラを構成することと、
複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークを介して1つ又は複数の学習モジュールを訓練することと、
OCTデバイスを介して前記眼の前記元のOCT画像を取り込むことと、
前記1つ又は複数の訓練モジュールを実行することによって、前記元のOCT画像に部分的に基づいて拡張OCT画像を生成することであって、前記拡張OCT画像が、前記元のOCT画像の周縁部分を少なくとも部分的に拡大する、ことと
を含む、方法。
【請求項15】
前記眼の虹彩の後方に前記周縁部分を配置して、前記拡張OCT画像が前記虹彩の後方にある1つ又は複数の構造の可視化を可能にすること
を更に含む、請求項14に記載の方法。
【請求項16】
前記拡張OCT画像に基づいて少なくとも1つの水晶体パラメータを取得することであって、前記少なくとも1つの水晶体パラメータが、水晶体直径及び/又は水晶体嚢プロファイルを含む、ことと、
前記少なくとも1つの水晶体パラメータに部分的に基づいて眼内レンズを選択することと
を更に含む、請求項14に記載の方法。
【請求項17】
前記眼の前記元のOCT画像を取り込むことが、
前記OCTデバイスを介して、レーザビームのアレイを用いて前記眼を照明すること
を含む、請求項14に記載の方法。
【請求項18】
前記複数の訓練超音波生体顕微鏡画像と前記対応する訓練OCT画像との対をなすセットを用いて、前記訓練データセットを構成すること
を更に含む、請求項14に記載の方法。
【請求項19】
前記複数の訓練超音波生体顕微鏡画像と前記対応する訓練OCT画像との対をなさないセットを用いて、前記訓練データセットを構成すること
を更に含む、請求項14に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般に、1つ又は複数の学習モデルに基づく眼の光干渉断層撮影画像の拡張に関する。光干渉断層撮影法(「OCT」)は、低コヒーレンス干渉法を用いて眼の構造の高解像度画像を生成する非侵襲的なイメージング技術である。OCTイメージングは、一部分はエコーの時間遅延及び後方散乱光の大きさを測定することにより機能する。OCTによって生成された画像は、眼疾患の特定及び評価などの多くの目的に役立つ。OCT画像は、患者の眼に眼内レンズを埋め込む白内障手術の前に撮影されることが多い。OCTイメージングの固有の限界は、照明ビームが虹彩を貫通できないことである。そのため、虹彩の後方にある水晶体構造などの眼の後方領域が正確に可視化されない場合がある。
【発明の概要】
【課題を解決するための手段】
【0002】
眼の元の光干渉断層撮影(以下「OCT」という)画像を拡張するためのシステム及び方法が本明細書で開示される。本システムは、プロセッサと、命令が記録された有形の非一時的メモリとを有するコントローラを備える。本システムは、コントローラによって選択的に実行可能な1つ又は複数の学習モジュールを含む(以下、「1つ又は複数の」を省略する)。学習モジュールは、複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークによって訓練される。プロセッサが命令を実行することにより、OCTデバイスを介して取り込んだ元のOCT画像をコントローラに取得させる。コントローラは、(訓練された)学習モジュールを実行することにより、元のOCT画像に部分的に基づいて拡張OCT画像を生成するように構成される。拡張OCT画像は、元のOCT画像の周縁部分を少なくとも部分的に拡大する。換言すれば、本システムは、元のOCT画像から欠けている情報の再構成を可能にする。
【0003】
周縁部分は眼の虹彩の後方にあって、拡張OCT画像が虹彩の後方にある1つ又は複数の構造の可視化を可能にし得る。コントローラは、拡張OCT画像に基づいて少なくとも1つの水晶体パラメータを取得するように構成され得る。水晶体パラメータは、水晶体直径及び/又は水晶体嚢プロファイルを含み得る。コントローラは、水晶体パラメータに部分的に基づいて眼の眼内レンズを選択するように構成され得る。OCTデバイスは、眼を照明するためのレーザビームのアレイを備え得る。
【0004】
いくつかの実施形態では、対応する訓練OCT画像は、複数の訓練超音波生体顕微鏡画像に関連付けられ、対応する訓練OCT画像と複数の訓練超音波生体顕微鏡画像とが対をなすセット(すなわち、同じ眼の画像)を形成する。学習モジュールは、対応する訓練OCT画像に部分的に基づいて対応する合成OCT画像を生成するように訓練されたジェネレータを含み得る。訓練ネットワークは、弁別子を有する敵対的生成ネットワークであり得る。弁別子は、複数の訓練超音波生体顕微鏡画像と対応する合成OCT画像とを区別するように適合される。
【0005】
いくつかの実施形態では、対応する訓練OCT画像は、複数の訓練超音波生体顕微鏡画像に関連付けられず(すなわち、異なる眼の画像である)、対応する訓練OCT画像と複数の訓練超音波生体顕微鏡画像とが対をなさないセットを形成する。訓練ネットワークは、第1の弁別子と第2の弁別子とを有する敵対的生成ネットワークであり得る。学習モジュールは、第1のジェネレータと第2のジェネレータとを含み得る。拡張OCT画像は、第1のジェネレータと第2のジェネレータとを順に実行することにより生成され、第1のジェネレータが眼の元のOCT画像を対応する合成UBM画像に変換するように適合され、第2のジェネレータが対応する合成UBM画像を拡張OCT画像に変換するように適合される。
【0006】
訓練ネットワークは、第1のジェネレータ、第2のジェネレータ、及び第1の弁別子を用いて正の訓練サイクルを実行するように構成され得る。ここで、第1の訓練OCT画像が第1のジェネレータに入力され、第1の訓練OCT画像が対応する訓練OCT画像から選択される。第1のジェネレータは、第1の訓練OCT画像を第1の合成超音波生体顕微鏡画像に変換するように適合される。第2のジェネレータは、第1の合成超音波生体顕微鏡画像を第2の合成OCT画像に変換するように適合される。第1の弁別子は、正の訓練サイクルにおいて、第1の合成超音波生体顕微鏡画像と複数の訓練超音波生体顕微鏡画像とを区別するように適合される。訓練ネットワークは、第1の訓練OCT画像と第2の合成OCT画像との間の差を最小化する第1の損失関数を組み込む。
【0007】
訓練ネットワークは、第1のジェネレータ、第2のジェネレータ、及び第2の弁別子を用いて逆の訓練サイクルを実行するように更に構成され得る。ここで、第2の訓練超音波生体顕微鏡画像が第2のジェネレータに入力され、第2の訓練超音波生体顕微鏡画像が複数の訓練超音波生体顕微鏡画像から選択される。第2のジェネレータは、第2の訓練超音波生体顕微鏡画像を第3の合成OCT画像に変換するように構成される。第1のジェネレータは、第3の合成OCT画像を第4の合成超音波生体顕微鏡画像に変換するように構成される。第2の弁別子は、逆の訓練サイクルにおいて、第3の合成OCT画像と対応する訓練OCT画像とを区別するように適合される。訓練ネットワークは、第2の訓練超音波生体顕微鏡画像と第4の合成超音波生体顕微鏡画像との間の差を最小化する第2の損失関数を組み込み得る。
【0008】
少なくとも1つのプロセッサと少なくとも1つの非一時的有形メモリとを有するコントローラを備えたシステムによって、眼の元の光干渉断層撮影(「OCT」画像)を拡張するための方法が本明細書で開示される。本方法は、1つ又は複数の学習モジュールを選択的に実行するようにコントローラを構成することを含む。学習モジュールは、複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークを介して訓練される。本方法は、OCTデバイスを介して眼の元のOCT画像を取り込むことを含む。拡張OCT画像が、1つ又は複数の学習モジュールを実行することにより、元のOCT画像に部分的に基づいて生成される。拡張OCT画像は、元のOCT画像の周縁部分を少なくとも部分的に拡大する。
【0009】
いくつかの実施形態では、周縁部分は眼の虹彩の後方に配置されて、拡張OCT画像が虹彩の後方にある1つ又は複数の構造の可視化を可能にする。本方法は、拡張OCT画像に基づいて少なくとも1つの水晶体パラメータを取得することを含み、水晶体パラメータが、水晶体直径及び/又は水晶体嚢プロファイルを含み得る。眼内レンズが、水晶体パラメータに部分的に基づいて選択され得る。
【0010】
眼の元のOCT画像を取り込むことは、OCTデバイスを介して、レーザビームのアレイによって眼を照明することを含み得る。本方法は、複数の訓練超音波生体顕微鏡画像と対応する訓練OCT画像との対をなすセット(すなわち、同じ眼の画像)を用いて、訓練データセットを構成することを含み得る。或いは、本方法は、複数の訓練超音波生体顕微鏡画像と対応する訓練OCT画像との対をなさないセット(すなわち、異なる眼の画像)を用いて、訓練データセットを構成することを含み得る。
【0011】
本開示の上記の特徴及び利点並びに他の特徴及び利点は、本開示を実施するための最良の態様の以下の詳細な説明を添付の図面と併せて読めば容易に明らかとなる。
【図面の簡単な説明】
【0012】
【
図1】
図1は、眼の元の光干渉断層撮影(「OCT」)画像を拡張するためのシステムの概略図であり、本システムはコントローラと1つ又は複数の学習モジュールとを有する。
【
図2】
図2は、
図1のコントローラによって実行可能な方法の概略フローチャートである。
【
図3】
図3は、眼の例示的な元のOCT画像の概略図である。
【
図4】
図4は、眼の超音波生体顕微鏡画像(UBM)の概略図である。
【
図5】
図5は、眼の拡張OCT画像の概略図である。
【
図6】
図6は、第1の実施形態による、
図1の学習モジュールのための例示的な訓練方法の概略フローチャートである。
【
図7A-7B】
図7Aは、第2の実施形態による、
図1の学習モジュールのための例示的な正の訓練サイクルの概略フローチャートであり、
図7Bは、第2の実施形態による、
図1の学習モジュールのための例示的な逆の訓練サイクルの概略フローチャートである。
【発明を実施するための形態】
【0013】
図面を参照すると、図面では同様の参照番号が同様の構成要素を指しており、
図1は、光干渉断層撮影画像(以下「OCT」)デバイス14を介して取り込まれた、眼12の元の光干渉断層撮影画像を拡張するためのシステム10を概略的に示している。OCTデバイス14は、眼12を照明するためのレーザビームのアレイ16を採用し得る。レーザビームのアレイ16は、眼12の範囲又は幅をカバーし得る。一例では、OCTデバイス14は、前眼部高解像度OCTイメージングデバイスである。OCTデバイス14は、多くの異なる形態を取り、且つ複数の及び/又は代替の構成要素を備え得ることを理解されたい。
【0014】
図1を参照すると、システム10は、少なくとも1つのプロセッサPと、少なくとも1つのメモリM(又は非一時的有形コンピュータ可読記憶媒体)とを有するコントローラCを備え、少なくとも1つのメモリMには、眼12の元のOCT画像200を拡張するための方法100を実行するための命令が記録される。方法100を
図2に示し、
図2を参照して以下に説明する。
【0015】
元のOCT画像200の一例を
図3に概略的に示し、以下に説明する。図示の例では、元のOCT画像200は前眼部像を示している。
図3を参照すると、元のOCT画像200は、虹彩202、水晶体204、及び瞳孔205を示している。OCTイメージングは、虹彩202の後ろにある水晶体204の周縁部分206を取り込まない。これは、OCTイメージングで使用される照明レーザが虹彩202を貫通することができないためである。しかしながら、OCTイメージング技法は、高解像度を提供し、且つ患者のコンプライアンス及び日常の臨床の場での快適さの点で便利である非接触スキャン方法を提供する。例えば、OCTイメージングは、座位で行われ、所要時間が比較的短く、アイカップ又はカップリング媒体の使用を含まない。後述するように、システム10は、OCTデバイス14によって取り込まれた元のOCT画像200を外挿し、周縁部分206を示す拡張OCT画像を再構成するように訓練された1つ又は複数の学習モジュール18(以降、「1つ又は複数の」を省略)を取得する。システム10は、元のOCT画像200に基づいて、水晶体204の完全な画像の再構成を可能にする。
【0016】
図1を参照すると、コントローラCは、学習モジュール18を選択的に実行するように特にプログラムされ、学習モジュール18は、コントローラCに埋め込まれてもよいし、他の場所に記憶されてコントローラCにアクセス可能であってもよい。
図1を参照すると、学習モジュール18は、複数の訓練超音波生体顕微鏡画像(及び後述の対応する訓練OCT画像)を有する訓練データセットを用いて、訓練ネットワーク20によって訓練される。訓練超音波生体顕微鏡画像300の一例を
図4に概略的に示す。訓練超音波生体顕微鏡画像300は、虹彩302と水晶体304とを示している。訓練超音波生体顕微鏡画像300はまた、水晶体304の周縁部分306を示している。超音波生体顕微鏡画像は、水晶体構造全体を取り込むことが可能であるが、OCTイメージングによって取得される画像と比較すると低解像度で取り込む。しかしながら、超音波生体顕微鏡撮影は患者に不便である。例えば、超音波生体顕微鏡イメージングでは、より長い画像取得時間、熟練した操作者、及びカップリング媒体を保持するプラスチック又はシリコンのアイカップを必要とする。
【0017】
コントローラCは、1つ又は複数の学習モジュール18を実行することにより、元のOCT画像200に部分的に基づいて拡張OCT画像を生成するように構成される。拡張OCT画像400の一例を
図5に概略的に示し、以下に説明する。拡張OCT画像400は虹彩402と水晶体404とを示す。拡張OCT画像400は、元のOCT画像の周縁部分406を少なくとも部分的に拡大する。周縁部分406は虹彩402の後方にあって、虹彩402の後方にある1つ又は複数の構造の可視化が実現される。
【0018】
図1の訓練ネットワーク20は、畳み込みニューラルネットワーク(CNN)ベースの深層学習技法を活用して、元のOCT画像200を拡張する。訓練ネットワーク20は、敵対的生成ネットワーク(GAN)を組み込み得る。一実施形態では、訓練ネットワーク20はサイクル敵対的生成ネットワーク(cycleGAN)を組み込む。
【0019】
コントローラCは、拡張OCT画像400に基づいて少なくとも1つの水晶体パラメータを取得するように構成される。
図4を参照すると、水晶体パラメータは、水晶体嚢プロファイル408、水晶体直径410、及び水晶体直径410に沿った水晶体404の厚さ412を含み得る。水晶体パラメータは、眼12に挿入するための眼内レンズ24を選択するためのレンズ選択モジュール22に出力され得る。白内障手術の術前評価において眼内レンズ24の適切な度数を選択するために、術前の水晶体構造の完全な画像が重要である。この情報は、調節性の眼内レンズ24にとって特に有用である。なぜなら、調節性の眼内レンズ24の機能的な性能が水晶体直径410と相関があることが判明しているためである。加えて、水晶体嚢プロファイル408は、眼内レンズ24が術後に取り得る位置を推定するために採用され得る。
【0020】
図1のシステム10の様々な構成要素は、短距離ネットワーク26及び/又は長距離ネットワーク28を介して通信し得る。短距離ネットワーク26は、例えばローカルエリアネットワークの形態のシリアル通信バスなど、様々な仕方で実施されたバスであってもよい。ローカルエリアネットワークは、コントローラエリアネットワーク(CAN)、コントローラエリアネットワークウィズフレキシブルデータレート(Controller Area Network with Flexible Data Rate、CAN-FD)、イーサネット、Bluetooth(登録商標)、Wi-Fi、及び他のデータ接続形態を含み得るが、これらに限定されない。
図1を参照すると、長距離ネットワーク28は、複数のデバイスを無線分散方式で繋ぐ無線ローカルエリアネットワーク(LAN)、いくつかの無線LANを接続する無線メトロポリタンエリアネットワーク(MAN)、又は近隣の市町村などの広い地域をカバーする無線ワイドエリアネットワーク(WAN)であってもよい。他の種類の接続が使用されてもよい。
【0021】
ここで
図2を参照すると、
図1のコントローラCによって実行可能な方法100のフローチャートが示されている。方法100は、本明細書に記載された特定の順序で適用される必要はなく、いくつかのブロックが省略されてもよい。メモリMは、コントローラ実行可能命令セットを記憶することができ、プロセッサPは、メモリMに記憶されたコントローラ実行可能命令セットを実行することができる。
【0022】
図2のブロック102において、コントローラCは、世界中の1つ又は複数の施設又は臨床サイトから、1つ又は複数の訓練データセットを収集するように構成される。コントローラCは、短距離ネットワーク26及び/又は長距離ネットワーク28を介して施設と通信し得る。
図1を参照すると、システム10は、施設の対応する電子医療記録からの情報を記憶することができるコンピュータ化されたデータ管理システムを有するデータ管理モジュール30を含み得る。データ管理モジュール30は、訓練データセットを施設から収集し、コントローラCに提供するように構成され得る。
【0023】
訓練データセットは、多数の患者から撮影された画像を含み得る。いくつかの実施形態では、訓練データセットは、対をなすデータセット、すなわち、同じ眼のものであることによって複数の訓練超音波生体顕微鏡画像に関連付けられる対応する訓練OCT画像を更に含む。他の実施形態では、訓練データセットは、対をなさないデータセット、すなわち、複数の訓練超音波生体顕微鏡画像と関連付けられない(異なる眼から撮影された)対応する訓練OCT画像を更に含む。訓練データセットは、人口統計学的データ、眼の寸法が類似している患者、又は他の健康状態因子に基づいて層別化されてもよい。
【0024】
図2のブロック104において、方法100は、訓練ネットワーク20を介して、ブロック102からの訓練データセットを用いて、学習モジュールを訓練することを含む。訓練プロセスの2つの実施形態を以下に説明する。システム10は、特定のディープニューラルネットワークの方法論に限定されないことを理解されたい。元のOCT画像200からの欠落した情報の再構成は、当業者に利用可能な他のディープニューラルネットワークの方法論によって支援され得る。
【0025】
第1の実施形態では、訓練ネットワーク20は、弁別子D
*と相まって、画像合成のためのジェネレータG
*を訓練するための深層学習アーキテクチャ(敵対的生成ネットワーク(GAN)など)を組み込む。第1の実施形態の一例を
図6に関連して以下に説明する。弁別子D
*は、実画像及び生成画像に対して直接訓練され、画像を本物か偽物かに分類する役割を担う。ジェネレータG
*は、直接訓練されず、その代わりに弁別子D
*を介して訓練される。
【0026】
図6を参照すると、訓練方法500が示されており、訓練方法500は、コントローラCによって実行され得る。ブロック502において、訓練OCT画像が取得される。本実施形態では、訓練データセットは、同じ患者を撮影したOCT画像と超音波生体顕微鏡画像とを対にした、対をなすデータセットを含む。
図6のブロック504において、訓練方法500は、ジェネレータG
*を実行することを含む。
図6のブロック506において、ジェネレータG
*は、ブロック502で取得されたデータを外挿する、対応する訓練OCT画像に部分的に基づいて合成超音波生体顕微鏡画像を生成する。ブロック508において、訓練OCT画像(ブロック502で取得されたもの)と対をなす訓練超音波生体顕微鏡画像が取得される。
【0027】
図6のブロック510において、訓練方法500は、弁別子D
*を実行することを含む。弁別子D*は、ジェネレータG
*の出力を「評価」し、その出力(ブロック506の合成超音波生体顕微鏡画像)が「実」訓練データ(ブロック508の訓練超音波生体顕微鏡画像)に十分に近いか否かを判定するために使用される。比較は画像間でなされる。例えば、損失関数は、2つの画像間の個々の画素の強度間の差を最小化し得る。ジェネレータG
*は、「実」訓練データ(ブロック508の訓練超音波生体顕微鏡画像)にできるだけ近い合成超音波生体顕微鏡画像の作成を試みる。このように、弁別子D
*は、ジェネレータG
*のための損失関数を提供するように学習される。
【0028】
次いで、訓練方法500は、ブロック512に進んで、事前定義された閾値が満たされているか否かを判定する。一例では、2つの画像間の画素(同じ物理的位置に登録されているもの)の対応する強度における差が、例えば10%などの所定の値以内である場合に、事前定義された閾値が満たされる。別の例では、2つの画像の水晶体直径における差が所定の値以内である場合に、事前定義された閾値が満たされる。加えて、2つの画像の間のエンドカプセル高さなどの水晶体に関連する他のパラメータにおける差が所定の値以内である場合に、事前定義された閾値が満たされ得る。所定の値は、5%以内又は5ミリ以内であり得る。事前定義された閾値が満たされている場合、訓練方法500は終了する。事前定義された閾値が満たされていない場合、訓練方法500はブロック512に進み、そこで学習モジュール18が更新され、訓練方法500はブロック504にループして戻る。訓練プロセスはクローズドループ又は反復方式で行われ、一定の基準を満たすまで学習モジュール18が訓練される。換言すれば、訓練プロセスは、ネットワークの結果とグランドトゥルースとの間の不一致が、ある閾値未満のポイントに達するまで継続される。訓練データセットに関連する損失関数が最小化されると、学習モジュール18は収束に至る。収束は、訓練の完了を知らせる。
【0029】
システム10は、「適応的」であるように構成されてもよく、訓練データセット用の追加データの収集後に定期的に更新されてもよい。換言すれば、学習モジュール18は、静的ではなく、追加の訓練データセットが収集された後に改善される「適応的機械学習」アルゴリズムであるように構成され得る。いくつかの実施形態では、訓練ネットワーク20は、複数の訓練超音波生体顕微鏡画像から水晶体構造の独立した画像バンクを採用し得る。例えば、訓練超音波生体顕微鏡画像300は、水晶体304の構造の詳細のみを含み得る。
【0030】
第2の実施形態では、訓練ネットワーク20は、
図7A及び
図7Bに一例を記載したサイクル敵対的生成ネットワーク(cycleGAN)を組み込む。本実施形態では、訓練データセットは、複数の訓練超音波生体顕微鏡画像と対応する訓練OCT画像との対をなさないセットを含む。換言すれば、学習モジュール18は、1つの画像ドメインの特性を取得し、これらの特性がどのように別の画像ドメインに変換され得るかを、すべて対をなす訓練例がない状態で判定するように適合される。
【0031】
図7A及び
図7Bを参照すると、訓練ネットワーク20は、第1の弁別子D1と第2の弁別子D2とを含む。第1のジェネレータG1、第2のジェネレータG2、第1の弁別子D1、及び第2の弁別子D2のそれぞれが、異なる目標を持つ別個のニューラルネットワークを組み込み得る。
【0032】
訓練ネットワーク20は、
図7Aに示すように、第1のジェネレータG1、第2のジェネレータG2、及び第1の弁別子D1を用いて正の訓練サイクル600を実行するように構成される。矢印602に示すように、(対応する訓練OCT画像から選択された)第1の訓練OCT画像T1が第1のジェネレータG1に入力される。第1のジェネレータG1は、矢印604で示すように、第1の訓練OCT画像T1を第1の合成超音波生体顕微鏡(UBM)画像S1に変換する。矢印606において、第1の合成超音波生体顕微鏡画像S1は、第2のジェネレータG2に入力される。次いで、第2のジェネレータG2は、矢印608で示すように、第1の合成超音波生体顕微鏡画像S1を第2の合成OCT画像S2に変換する。
【0033】
図7Aを参照すると、第1の合成超音波生体顕微鏡画像S1は、矢印610において、第1の弁別子D1に入力される。また、矢印612において、複数の訓練超音波生体顕微鏡画像(複数の画像を含む)が第1の弁別子D1に入力される。第1の弁別子D1は、正の訓練サイクル600において、第1の合成超音波生体顕微鏡画像S1と複数の訓練超音波生体顕微鏡画像とを区別するように適合される。
【0034】
図7Aを参照すると、訓練ネットワーク20は、第1の訓練OCT画像T1と第2の合成OCT画像S2との間の差を最小化する第1の損失関数L1を組み込む。第1の損失関数L1は、生成されたデータの分布と「グランドトゥルース」との間の差の取り込みを試みる。第1の損失関数L1は、敵対的損失とサイクル一貫性損失との両方を組み込むことができ、ミニマックス関数、最小二乗関数、ワッサースタイン損失関数、又は他の適切な関数を含むことができるが、これらに限定されない。第1の弁別子D1は第1の損失関数L1の最小化を試み、第1のジェネレータG1は複数の訓練超音波生体顕微鏡画像から区別できない画像を合成することにより第1の損失関数L1の最大化を試みる。同時に、第2のジェネレータG2は、対応するOCT訓練画像と区別できない画像を合成することにより、この損失の最大化を試みる。追加の損失関数が、適宜用途に基づいて追加されてもよい。例えば、ジェネレータG1及びジェネレータG2は、第1の訓練OCT画像T1と第2の合成OCT画像S2との間で水晶体直径410の差を最小化するように適合され得る。
【0035】
訓練ネットワーク20(
図1参照)は、
図7Bに示すように、第1のジェネレータG1、第2のジェネレータG1、及び第2の弁別子D2を用いて逆の訓練サイクル650を実行するように構成される。合成では、逆の訓練サイクル650は正の訓練サイクル600と同じ第1のジェネレータG1及び第2のジェネレータG2を使用する。
【0036】
矢印652で示すように、第2の訓練超音波生体顕微鏡画像T2(複数の訓練超音波生体顕微鏡画像から撮影したもの)が第2のジェネレータG2に入力される。第2のジェネレータG2は、矢印654において、第2の訓練超音波生体顕微鏡画像T2を第3の合成OCT画像S3に変換する。第3の合成OCT画像S3は、矢印656において、第1のジェネレータG1に入力される。第1のジェネレータG1は、矢印658において、第3の合成OCT画像S3を第4の合成超音波生体顕微鏡画像S4に変換する。
図7Bを参照すると、訓練ネットワーク20は、第2の訓練超音波生体顕微鏡画像T2と第4の合成超音波生体顕微鏡画像S4との間の差を最小化する第2の損失関数L2を組み込む。第2の損失関数L2は第1の損失関数L1に類似しており、敵対的損失及びサイクル一貫性損失の両方を組み込み得る。
【0037】
第3の合成OCT画像S3は、矢印656にしたがって、第2の弁別子D2に入力される。
図7Aを参照すると、第2の弁別子D2が、逆の訓練サイクル650において、第3の合成OCT画像S3(矢印660において入力されたもの)と対応する訓練OCT画像(矢印662において入力されたもの)とを区別するように適合される。追加の損失関数が追加されてもよい。例えば、ジェネレータG1及びジェネレータG2は、第2の訓練超音波生体顕微鏡画像T2と第4の合成生体顕微鏡画像S4との間で水晶体直径410の差を最小化するように適合され得る。データが充実するにつれて、新たに訓練された学習モジュール18は継続的に改善されて、水晶体404の水晶体構造全体を有する拡張OCT画像400がより精巧になり得る。
【0038】
ここで
図2のブロック106を参照すると、コントローラCは、OCTデバイス14を介して、被験者データ、すなわち、眼12の元のOCT画像200を取得するように構成される。コントローラCは、ユーザインターフェース32を介してデータを受信及び送信するように構成され得る。ユーザインターフェース32は、スマートフォン、ラップトップ、タブレット、デスクトップ、又は他の電子デバイス上にインストールすることができ、タッチスクリーンインターフェース、又はキーボード若しくはマウスなどのI/Oデバイスを含み得る。ユーザインターフェース32は、モバイルアプリケーションであってもよい。当業者に利用可能なモバイルアプリケーション(「アプリ」)の回路及び構成要素が採用されてもよい。ユーザインターフェース32は、一体化されたプロセッサと一体化されたメモリとを備え得る。
【0039】
図2のブロック108において、コントローラCは、拡張OCT画像400を取得するために(訓練された)学習モジュール18を実行するように構成される。いくつかの実施形態では、学習モジュール18は、ジェネレータG
*を含み、拡張OCT画像400は、ジェネレータG
*を実行することによって生成される(
図6参照)。いくつかの実施形態では、学習モジュール18は、第1のジェネレータG1及び第2のジェネレータG2を含み、第1のジェネレータG1及び第2のジェネレータG2を順に実行することにより、拡張OCT画像400が生成される。第1のジェネレータG1は、眼12の元のOCT画像200を対応する合成超音波生体顕微鏡画像に変換するように適合され、第2のジェネレータG2は、対応する合成超音波生体顕微鏡画像を拡張OCT画像400に変換するように適合される。
【0040】
図2のブロック110において、コントローラCは、拡張OCT画像400に基づいて少なくとも1つの水晶体パラメータを判定するように構成される。上記のように、また
図4を参照すると、水晶体パラメータは、水晶体嚢プロファイル408、水晶体直径410、及び水晶体直径410に沿った水晶体404の厚さ412を含み得る。水晶体パラメータは、レンズ選択モジュール22に出力され得る。追加的に、
図2のブロック112において、コントローラCは、ブロック112において判定された水晶体パラメータに少なくとも部分的に基づいて眼内レンズ24を選択するように構成され得る。
【0041】
まとめると、システム10は、1つ又は複数の学習モジュール18を活用することによって、眼12の元のOCT画像200から入手可能ではない情報を再構成するロバストな仕方を示している。システム10は、元のOCT画像200の周縁部分206を推定するように適合される。技術的な利点としては、眼内レンズ24のための度数計算の改善、及び調節性の眼内レンズ24の適切な選択が挙げられる。
【0042】
図1のコントローラCは、コンピュータによって(例えば、コンピュータのプロセッサによって)読み取られ得るデータ(例えば、命令)を提供することに関係する非一時的(例えば、有形)媒体を含むコンピュータ可読媒体(プロセッサ可読媒体とも称する)を備える。このような媒体は、不揮発性媒体及び揮発性媒体を含むが限定されない多くの形態を取り得る。不揮発性媒体としては、例えば、光ディスク又は磁気ディスク及び他の永続的メモリが挙げられる。揮発性媒体としては、例えば、主記憶装置を構成し得るダイナミックランダムアクセスメモリ(DRAM)が挙げられる。このような命令は、コンピュータのプロセッサに結合されたシステムバスを備える配線を含む、同軸ケーブル、銅線、及び光ファイバを含む1つ又は複数の伝送媒体によって伝送され得る。コンピュータ可読媒体のいくつかの形態としては、例えば、フロッピーディスク、フレキシブルディスク、ハードディスク、磁気テープ、他の磁気媒体、CD-ROM、DVD、他の光媒体、パンチカード、紙テープ、他の孔のパターンを有する物理媒体、RAM、PROM、EPROM、フラッシュEEPROM、他のメモリチップ若しくはカートリッジ、又は他のコンピュータが読み取り可能な媒体が挙げられる。
【0043】
本明細書に記載されるルックアップテーブル、データベース、データリポジトリ、又は他のデータストアは、階層型データベース、ファイルシステム内の一式のファイル、独自形式のアプリケーションデータベース、リレーショナルデータベース管理システム(RDBMS)などを含む、様々な種類のデータを記憶、アクセス、及び取得するための様々な種類の機構を含んでいてもよい。それぞれのかかるデータストアは、上述したものの1つなどのコンピュータオペレーティングシステムを採用するコンピューティングデバイス内に含まれてもよく、様々な仕方のうちの1つ又は複数でネットワークを介してアクセスされてもよい。ファイルシステムは、コンピュータオペレーティングシステムからアクセス可能であってもよく、様々な形式で記憶されるファイルを含んでいてもよい。RDBMSは、上述のPL/SQL言語などのストアドプロシージャを作成、記憶、編集、及び実行するための言語に加えて、構造化照会言語(Structured Query Language、SQL)を採用してもよい。
【0044】
詳細な説明及び図面又は各図は、本開示をサポートし、説明するものであるが、本開示の適用範囲は、特許請求の範囲によってのみ定義される。特許請求の範囲に記載された開示を実施するための最良の態様及び他の実施形態のいくつかを詳細に説明したが、添付の特許請求の範囲において定義された開示を実施するための様々な代替的な設計及び実施形態が存在する。更に、図面に示された実施形態又は本明細書で言及された様々な実施形態の特徴は、必ずしも互いに独立した実施形態として理解されるべきではない。むしろ、ある実施形態の例のうちの1つにおいて説明された特性のそれぞれは、他の実施形態からの1つ又は複数の他の望ましい特性と組み合わせることが可能であり、その結果、言葉で説明されていない、又は図面を参照することによって説明されていない、他の実施形態を得ることができる。したがって、かかる他の実施形態は、添付の特許請求の範囲の枠組み内に含まれる。
【手続補正書】
【提出日】2023-06-20
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
少なくとも1つのプロセッサと、眼の元の光干渉断層撮影(「OCT」)画像を拡張するための方法のための命令が記録される少なくとも1つの非一時的有形メモリとを有するコントローラと、
前記コントローラによって選択的に実行可能な1つ又は複数の学習モジュールと
を備えるシステムにおいて、
前記1つ又は複数の学習モジュールが、複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークによって訓練され、
前記プロセッサが前記命令を実行することにより、前記眼の前記元のOCT画像を前記コントローラに取得させ、前記元のOCT画像がOCTデバイスを介して取り込まれ、
前記コントローラが、前記1つ又は複数の学習モジュールを実行することにより、前記元のOCT画像に部分的に基づいて拡張OCT画像を生成するように構成され、
前記拡張OCT画像が、前記元のOCT画像の周縁部分を少なくとも部分的に拡大する、システム。
【請求項2】
前記周縁部分が前記眼の虹彩の後方にあって、前記拡張OCT画像が前記虹彩の後方にある1つ又は複数の構造の可視化を可能にする、請求項1に記載のシステム。
【請求項3】
前記コントローラが、前記拡張OCT画像に基づいて少なくとも1つの水晶体パラメータを取得するように構成される、請求項1に記載のシステム。
【請求項4】
前記コントローラが、前記少なくとも1つの水晶体パラメータに部分的に基づいて眼内レンズを選択するように構成され、
前記少なくとも1つの水晶体パラメータが、水晶体直径及び/又は水晶体嚢プロファイルを含む、請求項3に記載のシステム。
【請求項5】
前記OCTデバイスが、前記眼を照明するためのレーザビームのアレイを備える、請求項1に記載のシステム。
【請求項6】
前記対応する訓練OCT画像が、前記複数の訓練超音波生体顕微鏡画像に関連付けられ、前記対応する訓練OCT画像と前記複数の訓練超音波生体顕微鏡画像とが対をなすセットを形成する、請求項1に記載のシステム。
【請求項7】
前記1つ又は複数の学習モジュールが、前記対応する訓練OCT画像に部分的に基づいて対応する合成OCT画像を生成するように訓練されたジェネレータを含み、
前記訓練ネットワークが、弁別子を有する敵対的生成ネットワークであり、
前記弁別子が、前記複数の訓練超音波生体顕微鏡画像と前記対応する合成OCT画像とを区別するように適合される、請求項6に記載のシステム。
【請求項8】
前記対応する訓練OCT画像が、前記複数の訓練超音波生体顕微鏡画像に関連付けられず、前記対応する訓練OCT画像と前記複数の訓練超音波生体顕微鏡画像とが対をなさないセットを形成し、
前記訓練ネットワークが、第1の弁別子と第2の弁別子とを有する敵対的生成ネットワークである、請求項1に記載のシステム。
【請求項9】
前記1つ又は複数の学習モジュールが、第1のジェネレータと第2のジェネレータとを含み、
前記拡張OCT画像が、前記第1のジェネレータと前記第2のジェネレータとを順に実行することにより生成され、前記第1のジェネレータが前記眼の前記元のOCT画像を対応する合成UBM画像に変換するように適合され、前記第2のジェネレータが前記対応する合成UBM画像を前記拡張OCT画像に変換するように適合される、請求項8に記載のシステム。
【請求項10】
前記訓練ネットワークが、前記第1のジェネレータ、前記第2のジェネレータ、及び前記第1の弁別子を用いて正の訓練サイクルを実行するように構成され、
第1の訓練OCT画像が前記第1のジェネレータに入力され、前記第1の訓練OCT画像が前記対応する訓練OCT画像から選択され、
前記第1のジェネレータが、前記第1の訓練OCT画像を第1の合成超音波生体顕微鏡画像に変換するように適合され、
前記第2のジェネレータが、前記第1の合成超音波生体顕微鏡画像を第2の合成OCT画像に変換するように適合される、請求項9に記載のシステム。
【請求項11】
前記第1の弁別子が、前記正の訓練サイクルにおいて、前記第1の合成超音波生体顕微鏡画像と前記複数の訓練超音波生体顕微鏡画像とを区別するように適合され、
前記訓練ネットワークが、前記第1の訓練OCT画像と前記第2の合成OCT画像との間の差を最小化する第1の損失関数を組み込む、請求項10に記載のシステム。
【請求項12】
前記訓練ネットワークが、前記第1のジェネレータ、前記第2のジェネレータ、及び前記第2の弁別子を用いて逆の訓練サイクルを実行するように構成され、
第2の訓練超音波生体顕微鏡画像が前記第2のジェネレータに入力され、前記第2の訓練超音波生体顕微鏡画像が前記複数の訓練超音波生体顕微鏡画像から選択され、
前記第2のジェネレータが、前記第2の訓練超音波生体顕微鏡画像を第3の合成OCT画像に変換するように構成され、
前記第1のジェネレータが、前記第3の合成OCT画像を第4の合成超音波生体顕微鏡画像に変換するように構成される、請求項9に記載のシステム。
【請求項13】
前記第2の弁別子が、前記逆の訓練サイクルにおいて、前記第3の合成OCT画像と前記対応する訓練OCT画像とを区別するように適合され、
前記訓練ネットワークが、前記第2の訓練超音波生体顕微鏡画像と前記第4の合成超音波生体顕微鏡画像との間の差を最小化する第2の損失関数を組み込む、請求項12に記載のシステム。
【請求項14】
少なくとも1つのプロセッサと少なくとも1つの非一時的有形メモリとを有するコントローラを備えたシステムによって、眼の元の光干渉断層撮影(「OCT」)画像を拡張するための方法であって、前記方法が、
1つ又は複数の学習モジュールを選択的に実行するように前記コントローラを構成することと、
複数の訓練超音波生体顕微鏡画像及び対応する訓練OCT画像を有する訓練データセットを用いて、訓練ネットワークを介して1つ又は複数の学習モジュールを訓練することと、
OCTデバイスを介して前記眼の前記元のOCT画像を取り込むことと、
前記1つ又は複数の訓練モジュールを実行することによって、前記元のOCT画像に部分的に基づいて拡張OCT画像を生成することであって、前記拡張OCT画像が、前記元のOCT画像の周縁部分を少なくとも部分的に拡大する、ことと
を含む、方法。
【請求項15】
前記眼の虹彩の後方に前記周縁部分を配置して、前記拡張OCT画像が前記虹彩の後方にある1つ又は複数の構造の可視化を可能にすること
を更に含む、請求項14に記載の方法。
【国際調査報告】