IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オプトス ピーエルシーの特許一覧

<>
  • 特許-網膜画像処理 図1
  • 特許-網膜画像処理 図2
  • 特許-網膜画像処理 図3
  • 特許-網膜画像処理 図4
  • 特許-網膜画像処理 図5
  • 特許-網膜画像処理 図6
  • 特許-網膜画像処理 図7
  • 特許-網膜画像処理 図8
  • 特許-網膜画像処理 図9A
  • 特許-網膜画像処理 図9B
  • 特許-網膜画像処理 図10
  • 特許-網膜画像処理 図11
  • 特許-網膜画像処理 図12
  • 特許-網膜画像処理 図13
  • 特許-網膜画像処理 図14
  • 特許-網膜画像処理 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-19
(45)【発行日】2024-02-28
(54)【発明の名称】網膜画像処理
(51)【国際特許分類】
   A61B 3/10 20060101AFI20240220BHJP
   G06T 7/00 20170101ALI20240220BHJP
   G06T 7/60 20170101ALI20240220BHJP
   G06T 7/70 20170101ALI20240220BHJP
   A61B 3/14 20060101ALI20240220BHJP
【FI】
A61B3/10 300
G06T7/00 350B
G06T7/00 614
G06T7/60 180B
G06T7/70 A
A61B3/14
【請求項の数】 15
(21)【出願番号】P 2022569209
(86)(22)【出願日】2020-05-14
(65)【公表番号】
(43)【公表日】2023-06-15
(86)【国際出願番号】 EP2020063471
(87)【国際公開番号】W WO2021228395
(87)【国際公開日】2021-11-18
【審査請求日】2022-12-22
(73)【特許権者】
【識別番号】509012991
【氏名又は名称】オプトス ピーエルシー
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】ウェイクフォード、ピーター ロバート
(72)【発明者】
【氏名】ペッレグリーニ、エンリコ
【審査官】牧尾 尚能
(56)【参考文献】
【文献】特開2019-216848(JP,A)
【文献】特開2018-027273(JP,A)
【文献】国際公開第2019/105869(WO,A1)
【文献】Classification of left and right eye retinal images,PROCEEDINGS OF SPIE,2010年
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00- 3/18
G06T 7/00
G06T 7/60
G06T 7/70
(57)【特許請求の範囲】
【請求項1】
眼球の網膜の少なくとも一部分の網膜画像を取得するための眼球撮像システムであって、
前記網膜画像を取得するように構成された画像取得モジュールと、
機械学習アルゴリズムを使用して、前記網膜画像における第1のランドマーク特徴の第1の位置と前記網膜画像における第2のランドマーク特徴の第2の位置とを、前記網膜画像における前記ランドマーク特徴の予測位置として予測するように構成されたランドマーク位置予測モジュールと、
前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを前記眼球撮像システムのユーザに警告する装置であって、
前記ランドマーク特徴の前記予測位置を受信するように構成された受信モジュールと、
前記ランドマーク特徴の前記予測位置を用いて、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離を示す距離メトリックを評価するように構成された距離メトリック評価モジュールと、
前記網膜画像とは異なる網膜画像のセットにおける前記距離の測定値から得られた前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離の確率分布を示すデータを使用して、前記評価された距離メトリックが前記確率分布のピークを含む前記確率分布の所定の間隔の外にあるかどうかの指標を決定するように構成された外れ値検出モジュールと、
前記評価された距離メトリックが前記確率分布の前記所定の間隔の外にあることが前記決定された指標によって示される場合、前記網膜画像における前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成するように構成されたアラート生成モジュールと、
を含む前記装置と、
を備えた眼球撮像システム。
【請求項2】
前記距離メトリックは、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間のユークリッド距離及びマンハッタン距離のうちの1つを含み、
前記外れ値検出モジュールは、前記網膜画像とは異なる網膜画像のセットにおける前記ユークリッド距離及び前記マンハッタン距離のうちの1つの測定値から得られた、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の前記ユークリッド距離及び前記マンハッタン距離のうちの1つの確率分布を示すデータを使用して、前記評価された距離メトリックが前記確率分布の前記所定の間隔の外にあるかどうかの前記指標を決定するように構成されている、
請求項1に記載の眼球撮像システム。
【請求項3】
前記距離メトリックは前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の重み付けされた距離を含み、前記重み付けされた距離は、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離と重み付け係数との積であり、前記重み付け係数の値は、前記距離と、前記確率分布の前記ピークに対応する前記距離の値との差の絶対値が増加するにつれて増加する、請求項1又は請求項2に記載の眼球撮像システム。
【請求項4】
前記距離メトリック評価モジュールはさらに、前記予測された第1の予測位置を用いて、前記第1の予測位置と基準位置との間の距離である第2の距離を示す第2の距離メトリックを評価するように構成されており、
前記外れ値検出モジュールはさらに、前記網膜画像とは異なる網膜画像のセットにおける前記第1のランドマーク特徴と前記基準位置との間の距離の測定値に基づいた、前記第1のランドマーク特徴と前記基準位置との間の距離の第2の確率分布を示すデータを用いて、前記評価された第2の距離メトリックが前記第2の確率分布のピークを含む前記第2の確率分布の所定の間隔の外にあるかどうかの指標である第2の指標を決定するように構成されており、
前記アラート生成モジュールは、前記評価された第2の距離メトリックが前記第2の確率分布の前記所定の間隔内にないことが前記決定された第2の指標によって示される場合、前記網膜画像における前記第1の予測位置が信頼できないことを示す警告を前記アラートとして生成するように構成されている、
請求項1から請求項3のいずれか一項に記載の眼球撮像システム。
【請求項5】
前記ランドマーク位置予測モジュールはさらに、前記機械学習アルゴリズムを使用して、前記網膜画像における前記ランドマーク特徴の前記予測位置に基づいて前記網膜画像を複数の所定の異なるクラスのうちの1つに属するものとして分類するように構成されており、
前記アラート生成モジュールはさらに、前記機械学習アルゴリズムによる前記網膜画像の前記分類が信頼できないことをさらに示す警告を前記アラートとして生成するように構成されている、
請求項1から請求項4のいずれか一項に記載の眼球撮像システム。
【請求項6】
前記ランドマーク位置予測モジュールは、前記網膜画像を被検者の左眼又は右眼のいずれかの網膜画像として分類することにより、前記網膜画像を前記複数の所定の異なるクラスのうちの1つに属するものとして分類するように構成されている、請求項5に記載の眼球撮像システム。
【請求項7】
眼球の網膜の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置として、機械学習アルゴリズムによって予測された前記網膜画像における第1のランドマーク特徴の第1の位置と前記網膜画像における第2のランドマーク特徴の第2の位置とを処理して、前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことをユーザに警告するための装置であって、
前記ランドマーク特徴の前記予測位置を受信するように構成された受信モジュールと、
前記ランドマーク特徴の前記予測位置を用いて、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離を示す距離メトリックを評価するように構成された距離メトリック評価モジュールと、
前記網膜画像とは異なる網膜画像のセットにおける前記距離の測定値から得られた前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離の確率分布を示すデータを使用して、前記評価された距離メトリックが前記確率分布のピークを含む前記確率分布の所定の間隔の外にあるかどうかの指標を決定するように構成された外れ値検出モジュールと、
前記評価された距離メトリックが前記確率分布の前記所定の間隔の外にあることが前記決定された指標によって示される場合、前記網膜画像における前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成するように構成されたアラート生成モジュールと、
を含む装置。
【請求項8】
眼球の網膜の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置として、機械学習アルゴリズムによって予測された前記網膜画像における第1のランドマーク特徴の第1の位置と前記網膜画像における第2のランドマーク特徴の第2の位置とを処理して、前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを装置のユーザに警告する方法であって、
前記ランドマーク特徴の前記予測位置を受信し、
前記ランドマーク特徴の前記予測位置を用いて、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離を示す距離メトリックを評価し、
前記網膜画像とは異なる網膜画像における前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の前記距離の測定値から得られた前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離の確率分布を示すデータを使用して、前記評価された距離メトリックが前記確率分布のピークを含む前記確率分布の所定の間隔の外にあるかどうかの指標を決定し、
前記評価された距離メトリックが前記確率分布の前記所定の間隔の外にあることが前記決定された指標によって示される場合、前記網膜画像における前記ランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成する、
ことを含む方法。
【請求項9】
前記距離メトリックは、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間のユークリッド距離及びマンハッタン距離のうちの1つを含み、
前記網膜画像とは異なる網膜画像のセットにおける前記ユークリッド距離及び前記マンハッタン距離のうちの1つの測定値から得られた、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の前記ユークリッド距離及び前記マンハッタン距離のうちの1つの確率分布を示すデータを使用して、前記評価された距離メトリックが前記確率分布の前記所定の間隔の外にあるかどうかの前記指標を決定する、
請求項8に記載の方法。
【請求項10】
前記距離メトリックは前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の重み付けされた距離を含み、前記重み付けされた距離は、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の距離と重み付け係数との積であり、前記重み付け係数の値は、前記第1のランドマーク特徴と前記第2のランドマーク特徴との間の前記距離と、前記確率分布の前記ピークに対応する前記距離の値との差の絶対値が増加するにつれて増加する、請求項8又は請求項9に記載の方法。
【請求項11】
前記予測された第1の予測位置を用いて、前記第1のランドマーク特徴の前記第1の予測位置と基準位置との間の第2の距離を示す第2の距離メトリックを評価し、
前記網膜画像とは異なる網膜画像における前記第1のランドマーク特徴と前記基準位置との間の距離の測定値に基づいた、前記第1のランドマーク特徴と前記基準位置との間の距離の第2の確率分布を示すデータを用いて、前記評価された第2の距離メトリックが前記第2の確率分布のピークを含む前記第2の確率分布の所定の間隔の外にあるかどうかの指標である第2の指標を決定し、
前記評価された第2の距離メトリックが前記第2の確率分布の前記所定の間隔の外にあることが前記決定された第2の指標によって示される場合、前記網膜画像における前記第1の予測位置が信頼できないことを示す警告を前記アラートとして生成する、
ことをさらに含む、請求項8~請求項10のいずれか一項に記載の方法。
【請求項12】
前記機械学習アルゴリズムを使用して、前記網膜画像における前記第1のランドマーク特徴の前記第1の位置と、前記網膜画像における前記第2のランドマーク特徴の前記第2の位置とを予測することをさらに含む、請求項8から請求項11のいずれか一項に記載の方法。
【請求項13】
前記機械学習アルゴリズムはさらに、前記網膜画像における前記ランドマーク特徴の前記予測位置に基づいて、前記網膜画像を複数の所定の異なるクラスのうちの1つに属するものとして分類し、
前記機械学習アルゴリズムによる前記網膜画像の前記分類が信頼できないことをさらに示す警告を前記アラートとして生成する、
ことを含む、請求項12に記載の方法。
【請求項14】
前記網膜画像を前記複数の所定の異なるクラスのうちの1つに属するものとして分類することは、前記網膜画像を被検者の左眼又は右眼のいずれかの網膜画像として分類することを含む、請求項13に記載の方法。
【請求項15】
コンピュータによって実行されると請求項8から請求項14のいずれか一項に記載の方法を前記コンピュータに実行させる、コンピュータプログラム。

【発明の詳細な説明】
【技術分野】
【0001】
本明細書の例示態様は概して一般に眼球画像データ処理システムの分野に関し、より詳細には、機械学習アルゴリズムを使用して網膜画像を処理する技術に関するものである。
【背景技術】
【0002】
被検者の眼の網膜の画像を取得するために、走査型レーザ検眼鏡や眼底カメラなどの様々な眼球撮像システムが一般に使用されている。取得された網膜画像を眼科医又は他の医療専門家によって検査し、網膜の健康状態を評価することができる。また、多様な目的のために、取得された網膜画像を画像処理ソフトウェアによって自動的に処理することもできる。例えば、畳み込みニューラルネットワーク(CNN)などの機械学習アルゴリズムを使用して、網膜画像内の情報に基づいて機械学習アルゴリズムによって予測された網膜ランドマーク(例えば、視神経乳頭又は中心窩)の位置を用いた眼球画像分類を行う(例えば、左眼の画像を含む第1のクラス、又は右眼の画像を含む第2のクラスに属するものとして画像を分類する)ことができる。このような機械学習アルゴリズムは、通常は眼球画像のデータセットで訓練され、次に、新しい画像に対して予測を行うために使用される。
【発明の概要】
【課題を解決するための手段】
【0003】
本明細書の第1の例示態様に従って、機械学習アルゴリズムによって予測された眼球の網膜の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する方法が提供される。この方法は、機械学習アルゴリズムによって予測された網膜画像におけるランドマーク特徴の予測位置を受信し、ランドマーク特徴の位置の確率分布を含むとともに、複数の所定のクラスの網膜画像を有する網膜画像のセットに属する網膜画像におけるランドマーク特徴の決定された位置に基づいた混合モデルと、ランドマーク特徴の受信された予測位置とを用いて、複数の所定のクラスの各クラスに対し、網膜画像がそのクラスに属する確率を示すそれぞれの確率指標を決定し、決定された確率指標を用いて、網膜画像が所定のクラスのいずれにも属さないかどうかを判断し、網膜画像が所定のクラスのいずれにも属さないと判断したことに応答して、網膜画像における予測位置が信頼できないことを示すアラートを生成することを含む。
【0004】
本明細書の第2の例示態様に従って、コンピュータプログラム命令を含み、コンピュータによって実行されると本明細書の第1の例示態様に記載の方法をコンピュータに実行させるコンピュータプログラムも提供される。コンピュータプログラムは非一時的なコンピュータ可読記録媒体に格納されてもよいし、信号によって運ばれてもよい。
【0005】
本明細書の第3の例示態様に従って、機械学習アルゴリズムによって予測された眼球の網膜の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する装置も提供される。この装置は、機械学習アルゴリズムによって予測された網膜画像におけるランドマーク特徴の予測位置を受信するように構成された受信モジュールを含む。この装置は、ランドマーク特徴の位置の確率分布を含むとともに、複数の所定のクラスの網膜画像を有する網膜画像のセットに属する網膜画像におけるランドマーク特徴の決定された位置に基づいた混合モデルと、ランドマーク特徴の受信された予測位置とを用いて、複数の所定のクラスの各クラスに対し、網膜画像がそのクラスに属する確率を示すそれぞれの確率指標を決定するように構成された確率指標決定モジュールをさらに含む。この装置は、決定された確率指標を用いて、網膜画像が所定のクラスのいずれにも属さない外れ値であるかどうかを判断するように構成された外れ値検出モジュールと、網膜画像が所定のクラスのいずれにも属さないと外れ値検出モジュールが判断したことに応答して、網膜画像における予測位置が信頼できないことを示すアラートを生成するように構成されたアラート生成モジュールと、をさらに含む。
【0006】
ここで、以下に説明する添付の図面を参照して、本開示の例示実施形態を非限定的な例として詳細に説明する。異なる図面に現れる同様の参照番号は、特に示されない限り、同一又は機能的に類似した要素を示すことができる。
【図面の簡単な説明】
【0007】
図1】本明細書の第1の例示実施形態による眼球撮像システムの概略図であり、このシステムは、網膜画像におけるランドマーク特徴の少なくとも1つの予測位置が信頼できないことをユーザに警告する装置を含む。
図2】プログラマブル信号処理ハードウェアにおける第1の例示実施形態の装置の例示的な実施を示すブロック図である。
図3】第1の例示実施形態に従って、網膜画像におけるランドマーク特徴の少なくとも1つの予測位置が信頼できないことをユーザに警告する、コンピュータによって実行される方法を示すフロー図である。
図4】第1の例示実施形態において、網膜画像における第1のランドマーク特徴及び第2のランドマーク特徴の位置を予測するために機械学習アルゴリズムによって行われる取得された網膜画像の処理を示す図であり、この画像は、網膜の第1のランドマーク特徴として中心窩を、網膜の第2のランドマーク特徴として視神経乳頭を示している。
図5】第1の例示実施形態において生成された、網膜の同一領域に関する2つの異なる網膜画像における中心窩及び視神経乳頭の予測位置を示す図である。
図6】網膜画像のセットにおける距離の測定値に基づいており、第1の例示実施形態で用いられた、中心窩と視神経乳頭との間の距離の確率分布を示す図である。
図7】本明細書に記載の例示実施形態に従って、重み付けされた距離メトリックを計算するために評価された距離メトリックと乗算することができる重み付け関数を示す図である。
図8】本明細書の例示実施形態に従って、第2の評価された距離メトリック及び第2の確率分布を使用することによって網膜画像内のランドマーク特徴の信頼できない予測位置を検出する、コンピュータによって実行される方法を示すフロー図である。
図9A】網膜画像における中心窩の予測位置と網膜画像における基準位置との間のユークリッド距離の形で、評価された第2の距離メトリックの例を重ね合わせた、例示的な網膜画像を示す図である。
図9B図9Aの網膜画像の例において中心窩の予測位置の信頼性を決定するために用いることのできる第2の確率分布の例を示す図である。
図10】本明細書に記載の第2の例示実施形態による眼球撮像システムの概略図であり、このシステムは、網膜画像におけるランドマーク特徴の予測位置が信頼できないことを検出する装置を含む。
図11】第2の例示実施形態において、網膜画像におけるランドマーク特徴の位置を予測するために機械学習アルゴリズムによって行われる、取得された網膜画像の処理を示す図である。
図12】第2の例示実施形態において使用される、コンピュータによって実行される方法を示すフロー図であり、この方法は、網膜画像におけるランドマーク特徴の予測位置が信頼できないことを検出するために混合モデルを用いている。
図13】網膜画像におけるランドマーク特徴の予測位置の信頼性を検証するために、第2の例示実施形態において使用することのできる混合モデルの例を示す図である。
図14】第2の例示実施形態の第1の変形例において行われるプロセスを示すフロー図であり、このプロセスにおいて、混合モデルはさらに、失敗(failure)クラスの網膜画像の網膜画像におけるランドマーク特徴の決定された位置に基づいている。
図15】第2の例示実施形態の第2の変形例において行われるプロセスを示すフロー図であり、このプロセスは、網膜画像が所定のクラスの網膜画像のうちの1つに属するかどうかを決定するために比較メトリックを利用している。
【発明を実施するための形態】
【0008】
通常、機械学習アルゴリズムは、許容可能なレベルの精度を達成するために多くの網膜画像で訓練される必要がある。大きなデータセットが使用されている場合でも、100%の精度は殆ど不可能である。例えば、(まばたき事象や、まつ毛などの撮像アーチファクトが撮像中に生じたため、又は撮像されている眼球に白内障があるためなど)網膜画像のかなりの部分が遮られている場合、機械学習アルゴリズムはランドマーク特徴の位置について正確な予測を行うことができない可能性がある。この失敗は通常は気付かれず、網膜画像が右眼のものか左眼のものかを判断するための自動左右性判断ルーチン、種々の眼疾患又は眼障害を自動診断するための疾患パイプライン、そして(とりわけ)網膜画像に自動的に注釈を付けるためのデータ処理動作など、正確なランドマーク特徴の位置に依存するダウンストリームデータ処理動作の性能(したがってユーザの信用)に悪影響を及ぼす可能性がある。
【0009】
上記に鑑みて、本発明者らは、機械学習アルゴリズムによって予測された網膜画像における1つ以上の予測ランドマーク特徴の位置が信頼できないことをユーザに警告する、コンピュータによって実行される技術及び装置を考案した。そして、ユーザは、他の手段で(例えば網膜画像を検査することで)ランドマークの位置を決定することによってアラート(警告)に応答するか、又は他の適切な行動をとることができる。
【0010】
以下、添付の図面を参照して、このような装置及び関連するコンピュータ実行技術の例示実施形態をより詳細に説明する。
【0011】
図1は、被検者の眼球30の網膜20の少なくとも一部分の網膜画像を取得するように構成された、第1の例示実施形態による眼球撮像システム10の概略図である。眼球撮像システム10は、網膜画像を取得するように構成された画像取得モジュール40を含む。画像取得モジュール40は、本例示実施形態のように走査レーザ検眼鏡(SLO)の形態をとることができるが、眼底カメラや、当業者に知られており、眼球30から網膜データを取得できる任意の他の種類の画像取得デバイスを代わりに含むことができる。
【0012】
眼球撮像システム10は、少なくとも1つの機械学習アルゴリズムを使用して、網膜画像内の第1のランドマーク特徴の第1の位置Lと、網膜画像内の第2のランドマーク特徴の第2の位置Lとを網膜画像内のランドマーク特徴の予測位置として予測するように構成されたランドマーク位置予測モジュール50をさらに含む。眼球撮像システム10は、ランドマーク特徴の予測位置のうち少なくとも1つが信頼できないことを眼球撮像システム10のユーザに警告するように構成された装置60をさらに含む。図1に示すように、装置60は、受信モジュール61、距離メトリック評価モジュール62、外れ値検出モジュール63、及びアラート生成モジュール64を含む。装置60の実施例とその図示された構成モジュールの機能を、以下により詳細に説明する。
【0013】
図2は、本明細書の例示実施形態による信号処理装置200を示している。本明細書の1つの例示実施形態において、信号処理装置200は、プログラマブル信号処理ハードウェア内の、本明細書で説明する1つ以上の種々の構成要素に含められる、及び/又はこれらの構成要素を形成する(かつそれらの実施例とする)ことが可能である。一例として、信号処理装置200は、図1の装置60に含められる、及び/又は装置60を形成する(かつその実施例とする)ことが可能である。信号処理装置200は、ランドマーク位置予測モジュール50から網膜画像内のランドマーク特徴の予測位置を受信し、予測されたランドマーク位置が信頼できないという判断にユーザの注意を引くためのアラートを出力するインターフェースモジュール210を含む。インターフェースモジュール210はさらに、1つ以上の周辺デバイス(例えば、キーボード、タッチパッド又はマウスのうちの1つ以上)からユーザ入力を受信し、本例示実施形態の眼球撮像システム10、又は後述する第2の例示実施形態の眼球撮像システム1000の一部を形成することのできる1つ以上の出力デバイス(例えば、スピーカ及び/又はコンピュータモニタ)にアラートを出力することができる。信号処理装置200は、プロセッサ(CPU)220と、作業メモリ230(例えばランダムアクセスメモリ)と、コンピュータ可読命令を含むコンピュータプログラムを格納した命令記憶装置240とをさらに含み、コンピュータ可読命令は、プロセッサ220によって実行されると(装置200が装置60を形成する場合)、装置60の処理動作をプロセッサ220に実行させる。命令記憶装置240は、コンピュータ可読命令がプリロードされたROM(例えば、電気的消去可能プログラマブルROM(EEPROM)又はフラッシュメモリの形のもの)を含むことができる。あるいは、命令記憶装置240はRAM又は同様のタイプのメモリを含むことができ、CD-ROMのようなコンピュータ可読記憶媒体250などのコンピュータプログラム製品、又はコンピュータ可読命令を伝達するコンピュータ可読信号260からコンピュータ可読命令を入力することができる。
【0014】
本例示実施形態において、プロセッサ220、作業メモリ230及び命令記憶装置240を含む図1に示したハードウェア構成要素の組み合わせ270は、後述する受信モジュール61、距離メトリック評価モジュール62、外れ値検出モジュール63及びアラート生成モジュール64の機能を実行するように構成されている。さらに、本明細書の1つの例示実施形態において、図1のランドマーク位置予測モジュール50は、図2の信号処理ハードウェア200を含むことができ、及び/又はそれによって形成/実施されることが可能である。
【0015】
図3は、本明細書の第1の例示実施形態によるコンピュータ実行方法を示すフロー図である。この方法により、装置60は、ランドマーク位置予測モジュール50によって予測された網膜画像における第1のランドマーク特徴の第1の位置Lと網膜画像における第2のランドマーク特徴の第2の位置Lとを、網膜の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置として処理し、ランドマーク特徴の予測位置のうち少なくとも1つが信頼できないことを装置60のユーザに警告する。ランドマーク位置予測モジュール50は、一般的な機械学習アルゴリズムを使用して、網膜画像における第1のランドマーク特徴の第1の位置Lと網膜画像における第2のランドマーク特徴の第2の位置Lの双方を予測してもよいし、あるいは、第1の機械学習アルゴリズムを使用して第1のランドマーク特徴の第1の位置Lを予測し、第1の機械学習アルゴリズムとは異なる第2の機械学習アルゴリズムを使用して網膜画像における第2のランドマーク特徴の第2の位置Lを予測してもよい。図3に関連して後述する処理動作は、画像取得モジュール40が網膜画像を取得した後に実行されてもよく、ランドマーク位置予測モジュール50が網膜画像における第1のランドマーク特徴の第1の位置L及び第2のランドマーク特徴の第2の位置Lを予測した後に実行されてもよい。
【0016】
図3のステップS10において、受信モジュール61は、ランドマーク位置予測モジュール50の少なくとも1つの機械学習アルゴリズムによって予測された、網膜画像における第1のランドマーク特徴の第1の予測位置Lと、網膜画像における第2のランドマーク特徴の第2の予測位置Lを予測位置として受信する。ランドマーク特徴の各々は、例えば、複数の異なる(人間の)被検者の左眼又は右眼のほぼ同じ位置に位置する網膜の任意の解剖学的特徴とすることが可能である。本例示実施形態では、第1のランドマーク特徴は網膜画像における中心窩の画像を含み、第2のランドマーク特徴は網膜画像における視神経乳頭の画像を含む。しかしながら、第1のランドマーク特徴及び第2のランドマーク特徴はこれらの解剖学的特徴に限定されず、網膜画像において撮像される他の解剖学的特徴を含んでもよい。さらに、ランドマーク特徴の各予測位置は、本実施形態のように、網膜画像におけるランドマーク特徴の座標として、例えばランドマーク特徴の画像の一部を形成する網膜画像の画素のX-Y座標として受信されてもよい。
【0017】
図3のステップS20において、距離メトリック評価モジュール62は、第1の予測位置及び第2の予測位置を用いて、第1のランドマーク特徴と第2のランドマーク特徴との間の距離を示す距離メトリックを評価する。距離メトリックの例示形態を以下に説明する。
【0018】
図3のステップS30において、外れ値検出モジュール63は、前出の網膜画像とは異なる網膜画像における第1のランドマーク特徴と第2のランドマーク特徴との間の距離の測定値から得られた第1のランドマーク特徴と第2のランドマーク特徴との間の距離の確率分布を示すデータを用いて、評価された距離メトリックが確率分布の所定の間隔の外にある外れ値であるかどうかの指標(indication)を決定する。この指標は、本例示実施形態のように、評価された距離メトリックが、確率分布の少なくとも1つのピークを含む確率分布の所定の間隔の外にあるかどうかを示すことができる。前出の網膜画像とは異なる網膜画像のセットは、ランドマーク位置予測モジュール50によって位置の予測が行われた網膜画像を得るために(システム10によって)撮像されたものとほぼ同じ網膜部分の画像である。
【0019】
ステップS40において、図3のステップS30で外れ値検出モジュール63によって決定された指標により、評価された距離メトリックが確率分布の所定の間隔(例えば所定の間隔(I))の外にあることが示された場合、アラート生成モジュール64は、網膜画像におけるランドマーク特徴の予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成する。アラートを、例えばコンピュータ画面などの表示デバイス上に表示されるメッセージ又はサインとして、またこれに加えて又はこの代わりに、音声信号としてなど、任意の適切な又は望ましい形態でユーザに提供し、例えば網膜画像における予測位置のうち少なくとも1つが信頼できないことをユーザに通知することが可能である。一方、図3のステップS30において、外れ値検出モジュール63によって決定された指標により、評価された距離メトリックが確率分布の所定の間隔(I)の外にないことが示された場合、アラート生成モジュール64はアラートを生成せず、図3の処理は終了する。
【0020】
アラート生成モジュール64は、評価された距離メトリックが確率分布の所定の間隔(I)の外にあると外れ値検出モジュール63が決定した場合に(例えば視覚的、聴覚的及び/又は触覚的アラートの形で)アラートを生成するが、アラート生成モジュール64によるアラートの生成に1つ以上のさらなる条件を付してもよいことに留意されたい。例えば、眼球撮像システム10のユーザは、前述のように眼球撮像システム10によって複数の網膜画像が取得され、処理された後に、外れ値検出モジュール63による任意の外れ値の検出を警告する命令を(例えばキーボード、タッチパッド又はマウスなどの入力デバイスを介して)眼球撮像システム10に提供することをさらなる条件としてもよい。あるいは、前述のように眼球撮像システム10によって所定数の網膜画像が取得され、処理されたことをさらなる条件としてもよい。これらの例の双方において、前述の構成のアラート生成モジュールは、装置10によって信頼できないと判断された予測位置を示す、及び/又は機械学習アルゴリズムによって信頼できない予測をもたらすと処理された網膜画像を取得済及び処理済の網膜画像の中から識別する識別子を生成することができ、これにより、全ての条件が満たされるとユーザによる検査が必要な1つ以上の網膜画像に関してユーザに警告することができる。
【0021】
図4は、網膜の第1のランドマーク特徴の例として中心窩410を、網膜の第2のランドマーク特徴の例として視神経乳頭420を示す網膜画像400の例を示している。網膜画像400は図1に示す本例示実施形態の眼球撮像システム10によって取得されたものであり、機械学習アルゴリズムを使用して網膜画像400内の中心窩410の位置及び視神経乳頭420の位置を予測するように構成されたランドマーク位置予測モジュール50に入力される。本例示実施形態において、機械学習アルゴリズムは、網膜画像400における中心窩410及び視神経乳頭420の位置を予測するように構成された畳み込みニューラルネットワーク(CNN)を含む。しかしながら、任意の適切な機械学習アルゴリズムを使用して予測を行うことができる。また、ランドマーク位置予測モジュール50は、本例示実施形態のように、網膜画像400における中心窩410の位置L及び視神経乳頭420の位置Lとして、X次元及びY次元を有する網膜画像400における中心窩410のX-Y座標及び視神経乳頭420のX-Y座標を予測することができる。図4において、網膜画像400における中心窩410の予測X-Y座標は(F,F)によって示され、網膜画像400における視神経乳頭420の予測X-Y座標は(O,O)によって示される。
【0022】
さらに、本例示実施形態のように、機械学習アルゴリズムを使用して、網膜画像400における中心窩410の予測座標(F,F)及び視神経乳頭420の予測座標(O,O)に基づいて網膜画像400を複数の所定の異なるクラスのうちの1つに属するものとして分類するようにランドマーク位置予測モジュール50を構成することができる。したがって、この例示実施形態における、アラート生成モジュール64によって生成されるアラートは、ランドマーク位置予測モジュール50による網膜画像の分類が信頼できないことを示している。前述のように、アラートを、眼球撮像システム10の音声信号生成部(例えばコンピュータスピーカ)によって生成される音声アラート、及び/又は眼球撮像システム10の表示デバイス(例えばコンピュータ画面)上に生成される視覚アラートとすることができ、これにより、眼球撮像システム10のディスプレイ上の網膜画像を検査し、眼球撮像システム10の入力デバイス(例えばキーボード、マウス又はトラックパッドなど)を用いて正しい分類を入力することによって網膜画像の分類の修正をユーザに促すことができる。このようにして、ランドマーク位置予測モジュール50は機械学習アルゴリズムを使用して網膜画像を自動的に分類することができ、ランドマーク位置予測モジュール50がランドマーク特徴位置の信頼できない予測を生成し、結果として信頼できない分類を行った場合に、ユーザは正しい分類を決定し、決定した分類を提供することで介入するだけでよい。
【0023】
一例として、本例示実施形態のランドマーク位置予測モジュール50は、2つの網膜画像クラス、すなわち、被検者の左眼の網膜画像のクラスである第1のクラス、又は右眼の網膜画像のクラスである第2のクラスのうちの1つに属するものとして網膜画像を分類するように構成されている。しかしながら、クラスの数は2つに限定されず、他の種類の分類を行うことができる。例えば、いくつかの例示実施形態では、ランドマーク位置予測モジュール50は、これに加えて又はこの代わりに、第1のランドマーク及び第2のランドマークの予測位置を用いて網膜画像を健康な眼又は非健康な眼のものとして分類するように構成されてもよい。他の例示実施形態では、眼の異なるそれぞれの視線方向、例えば中央への視線、下方視線、上方視線、鼻への視線、側頭への視線に異なるクラスを関連付けることができ、これらの各々を右眼又は左眼のいずれかに指定することができる。したがって、ランドマーク位置予測モジュール50は、このような例示実施形態において、処理中の各網膜画像を10の異なるクラスのうちの1つに属するものとして分類することができる。
【0024】
図3のステップS20、S30、及びS40で言及した距離メトリックは、本例示実施形態のように、第1のランドマーク特徴と第2のランドマーク特徴との間のユークリッド距離を含むことができる。一例として、図5は、ランドマーク位置予測モジュール50によって処理された2つの異なる網膜画像510、520における中心窩及び視神経乳頭の予測位置を示している。網膜画像510では、ランドマーク位置予測モジュール50は中心窩の座標を(F,F)として予測し、視神経乳頭の座標を(O,O)として予測しており、これらの予測座標は網膜画像510において「+」で示されている。さらに、距離メトリック評価モジュール62は、網膜画像510にdで示される(F,F)と(O,O)との間のユークリッド距離を、距離メトリックとして評価する。同様に、網膜画像520では、ランドマーク位置予測モジュール50は、中心窩の座標を(F′,F′)として予測し、視神経乳頭の座標を(O′,O′)として予測しており、これらの予測座標は網膜画像520において「+」で示されている。さらに、距離メトリック評価モジュール62は、網膜画像520にdで示される(F′,F′)と(O′,O′)との間のユークリッド距離を、距離メトリックとして評価する。
【0025】
図3のステップS30で言及した確率分布は、本例示実施形態のように、予測が行われる(システム10によって取得される)網膜画像とは異なる網膜画像のセットにおけるユークリッド距離の測定値から得られる、第1のランドマーク特徴と第2のランドマーク特徴との間のユークリッド距離の正規分布N(μ,σ)の形をとることができる。一例として、図6は、網膜画像のセットにおける中心窩と視神経乳頭との間の距離の観察に基づいた、網膜画像における中心窩と視神経乳頭との間のユークリッド距離の確率分布を示している。図6の確率分布を本例示実施形態のようにグラウンドトゥルース分布とすることができ、確率分布が導出される網膜画像のセットは、ランドマーク特徴位置の予測を行うために機械学習アルゴリズムの訓練に使用された網膜画像の訓練データセットを含むことができる。しかしながら、確率分布は訓練データセット内の網膜画像に基づく必要はなく、網膜画像の任意の適切なセットを用いて中心窩と視神経乳頭との間のユークリッド距離の確率分布を得ることができる。
【0026】
図6の例において、予測位置の信頼性を決定するために使用される確率分布の所定の間隔は、正規分布の平均μの周りの所定の間隔Iとして示されている。また、図6は、(図5の網膜画像510の予測位置(F,F)と(O,O)との間の距離に対応する)値d及び(図5の網膜画像520の座標(F′,F′)と(O′,O′)との間の距離に対応する)値dを示している。図6の例では、図5の網膜画像510に対して、外れ値検出モジュール63は、図6の確率分布を使用して、評価された距離dが所定の間隔Iの外にあるという指標を決定し、アラート生成モジュール64は、結果として、網膜画像510におけるランドマーク特徴の予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成する。しかしながら、図5に示す網膜画像520に対しては、評価された距離dは所定の間隔I内に入り、その結果、網膜画像520におけるランドマーク特徴の予測位置が信頼できると判断されるため、アラート生成モジュール64はこの場合はアラートを生成しない。
【0027】
いくつかの例示実施形態では、所定の間隔Iを正規分布の標準偏差σの関数として定義することができる。しかしながら、任意の適切な外れ値識別方法を用いて、所定の間隔を他の方法で定義することもできる。例えば、(ステップS30の確率分布に関する)確率分布の関数の値が所定の尤度閾値を超える距離の値の範囲として、所定の間隔を定義することができる。換言すれば、所定の尤度閾値pthを設定することができ、(中心窩及び視神経乳頭の予測位置間の)評価された距離メトリックの値に対する確率分布関数の値が所定の尤度閾値pthを下回る場合にのみ、視神経乳頭及び中心窩の予測位置が信頼できると判断するように、外れ値検出モジュール63を構成することができる。
【0028】
図5及び図6を参照して説明した例は中心窩及び視神経乳頭の予測位置間のユークリッド距離を評価しているが、任意の他の適切な距離メトリックを使用できることに留意されたい。例えば、いくつかの例示実施形態において、距離メトリックは、第1のランドマーク特徴の位置と第2のランドマーク特徴の位置との間のマンハッタン距離の基準(measure)を代わりに提供することができる。さらに、評価された距離メトリックがマンハッタン距離を含む例示実施形態では、前出の網膜画像とは異なる網膜画像のセットにおけるマンハッタン距離の測定値から得られた第1のランドマーク特徴と第2のランドマーク特徴との間のマンハッタン距離の確率分布を示すデータを用いて、評価された距離メトリックが確率分布の所定の間隔の外にあるか否かの指標を決定することができる。
【0029】
いくつかの例示実施形態では、外れ値を強調するために、評価された距離メトリックに追加の重み付け係数を適用することができる。より具体的には、いくつかの例示実施形態において、距離メトリックは第1のランドマーク特徴と第2のランドマーク特徴との間の重み付けされた距離を含むことができ、重み付けされた距離は、第1のランドマーク特徴と第2のランドマーク特徴との間の距離と重み付け係数の積であり、この距離と確率分布のピークに対応する距離の値との差の絶対値が増加するにつれて重み付け係数の値は増加する。重み付けされた距離を計算するために重み付けされる距離メトリックはユークリッド距離であってもよく、その場合、外れ値検出モジュール63によって使用される確率分布は、(位置予測が行われる)網膜画像とは異なる網膜画像のセットにおけるユークリッド距離の測定値から得られる、第1のランドマーク特徴と第2のランドマーク特徴との間のユークリッド距離である。あるいは、重み付けされた距離を計算するために重み付けされる距離はマンハッタン距離であってもよく、その場合、外れ値検出モジュール63によって使用される確率分布は、位置予測が行われる網膜画像とは異なる網膜画像のセットにおけるマンハッタン距離の測定値から得られる、第1のランドマーク特徴と第2のランドマーク特徴との間のマンハッタン距離である。
【0030】
図7は、(中心窩の予測位置と視神経乳頭の予測位置との間の距離を示す)評価された距離メトリックdに重み付けするために使用することのできる、|d-μ|と重み係数wとのマッピング関数の非限定的な例を示しており、ここでμは確率分布の平均、したがって確率分布のピークに対応する距離値を示している。図7のマッピング関数では、図5の網膜画像510及び520の評価されたユークリッド距離d及びdに対して、対応する重み係数を決定する。図7の例において、外れ値検出モジュール63は、(評価された距離dに関連する)網膜画像510に対して距離|d-μ|を決定し、図7のマッピング関数を用いて対応する重みwを決定する。外れ値検出モジュール63は、例えば、重み付けされたメトリックw|d-μ|を計算することにより、評価された距離に重みをさらに適用し、次いで、w|d-μ|が、中心窩と視神経乳頭との間のユークリッド距離の予想分布を表す図6の確率分布の所定の間隔I内に入るかどうかの指標を決定する。
【0031】
図7に示すように、前述の代替の実施形態では、距離メトリック評価モジュール62及び外れ値検出モジュール63によって同様のプロセスが網膜画像520に対して行われる。まず、(網膜画像520の中心窩の予測位置と視神経乳頭の予測位置との間の距離を示す)評価されたユークリッド距離dに対応する重み付け係数wを決定し、重み付けされた距離メトリックw|d-μ|を距離メトリック評価モジュール62によって計算し、外れ値検出モジュール63は、網膜画像520の中心窩及び視神経乳頭の予測位置の信頼性を評価するために、w|d-μ|が所定の間隔I内に入るかどうかを判断する。図7に示すように、|d-μ|は|d-μ|よりも大きいため、|d-μ|に適用された重みwは|d-μ|に適用された重みwよりも大きい値である。
【0032】
なお、重み係数wの算出は図7に示した一次関数の使用に限定されず、代わりに、評価された距離と確率分布のピークに対応する距離の値との差の絶対値が大きくなるにつれて重み係数が大きくなる、重み係数の任意の好適な変形例を用いてもよい。
【0033】
前述の例示実施形態では、網膜画像における第1のランドマーク特徴の予測位置と第2のランドマーク特徴の予測位置との間の距離を示す評価された距離メトリックが予測位置の信頼性を決定するために使用されている。しかしながら、ランドマーク特徴の予測位置がランドマーク特徴の予想位置から著しく逸脱しているにもかかわらず、評価された距離メトリックが確率分布の所定の間隔内に入る可能性がある。この場合、アラート生成モジュール64は、網膜画像におけるランドマーク特徴の予測位置のうち少なくとも1つが信頼できないことを示すアラートを生成することができない。
【0034】
図8は、前述の問題に対処するために装置60によって実行することができ、網膜画像におけるランドマーク特徴の予測位置の信頼性の決定を改善するために前述の実施形態のいずれかと組み合わせることのできる任意のプロセスステップのフロー図である。図8のステップS110において、距離メトリック評価モジュール62は(第1のランドマーク特徴の)第1の予測位置Lをさらに使用して、第1の予測位置と基準位置(例えば基準位置Lref)との間の第2の距離を示す第2の距離メトリックを評価する。
【0035】
次に、図8のステップS120において、外れ値検出モジュール63は、(検討中の)網膜画像と異なる網膜画像のセットにおける距離の計測値に基づいた、第1のランドマーク特徴と基準位置Lrefとの間の距離の第2の確率分布を示すデータを用いて第2の指標をさらに決定する。第2の指標は、評価された第2の距離メトリックが第2の確率分布のピークを含む第2の確率分布の所定の間隔I′の外にあるかどうかを示すものである。
【0036】
図8のS130において、決定された第2の指標によって、評価された第2の距離メトリックは第2の確率分布の所定の間隔I′内にないことが示された場合、アラート生成モジュール64は、網膜画像510における第1の予測位置Lが信頼できないことを示す警告をアラートとして生成する。
【0037】
図9Aは、図5の網膜画像520を用いた第2の距離メトリックの例を示している。より具体的には、図9Aは、座標(F′,F′)における第1のランドマーク(中心窩)の予測位置L、座標(Lref_x,Lref_y)における基準位置Lref、及び(F′,F′)と(Lref_x,Lref_y)との間のユークリッド距離dを示している。図9A及び図9Bの本実施例では、基準位置(Lref_x,Lref_y)を網膜画像の(0,0)座標とし、これを一例として網膜画像の左下隅とする。しかしながら、基準位置はこれに限定されるものではなく、第1のランドマーク特徴と基準位置との間の距離の第2の分布を得るために同一の基準位置が網膜画像のセット内の全ての網膜画像に対して用いられる限りは、網膜画像内のいずれの位置でもよい。
【0038】
図9Bは、図9Aにおける中心窩の予測位置Lの信頼性を決定するために使用できる第2の確率分布の例を示している。図9Bにおいて、第2の確率分布は、取得された網膜画像とは異なる網膜画像のセットにおける中心窩と座標(Lref_x,Lref_y)における基準位置Lrefとの間の測定されたユークリッド距離の正規分布N′(μ′,σ′)の形をとっている。図9BはステップS120で用いられた所定の間隔I′をさらに示しており、これは、中心窩の予測位置(F′,F′)の信頼性を決定するために外れ値検出モジュール63によって使用される。図9Bの例において、所定の間隔I′は、確率密度関数の値が所定の尤度閾値P′thを超える距離値の範囲として設定されている。しかしながら、所定の間隔I′はこれに限定されるものではなく、当業者に知られている外れ値検出を行うための任意の適切な方法を用いて設定することが可能である。さらに、図6の確率分布N(μ,σ)と同様に、N′(μ′,σ′)が導出される網膜画像のセットは、ランドマーク位置予測モジュール50によって用いられる機械学習アルゴリズムの訓練に使用される網膜画像のセットを含むことができる。しかしながら、網膜画像と同一の網膜部分の他の網膜画像を使用することもできる。
【0039】
図9A及び図9Bによって示される実施例において、距離評価モジュール62は、ステップ110における第2の距離メトリックとして、図9Aの網膜画像の(F′,F′)と(Lref_x,Lref_y)との間のユークリッド距離dを評価する。外れ値検出モジュール63はさらに、図8のステップS120において、評価されたユークリッド距離が正規分布N′(μ′,σ′)の所定の間隔I′の外にあることを示す指標を決定する。その結果、アラート生成モジュール64は、網膜画像における第1の予測位置Lが信頼できないことを示す警告をアラートとして生成する。
【0040】
第2の距離メトリックはユークリッド距離に限定されず、代わりに第1のランドマーク特徴と基準位置との間のマンハッタン距離を含んでもよいことに留意されたい。第2の距離メトリックがマンハッタン距離である場合、第2の確率分布は、前出の網膜画像とは異なる網膜画像のセットにおけるマンハッタン距離の測定値から得られる、第1のランドマーク特徴と第1のランドマーク特徴の基準位置との間のマンハッタン距離の確率分布である。
【0041】
また、いくつかの例示実施形態では、第2の距離メトリックを第2の重み付け係数によって重み付けすることができ、第2の重み付け係数の値は、評価された第2の距離メトリックと第2の確率分布のピークに対応する距離の値との差の絶対値が増加するにつれて増加する。図7の重み距離メトリックに関連して前述したのと同様の方法で、重み付けされた第2の距離メトリックが第2の確率分布の所定の間隔内に入るかどうかを判断することにより、重み付けされた第2の距離メトリックを次に使用して第1のランドマーク特徴の信頼性を評価することができる。
【0042】
いくつかの例示実施形態において、外れ値検出モジュール63は、対象の網膜画像とは異なる網膜画像のセットに基づいた、網膜画像における第1のランドマーク特徴の位置の第3の確率分布を示すデータを使用することにより、第1のランドマーク特徴の第1の予測位置Lの信頼性を決定し、第1の予測位置Lが第3の確率分布のピークを含む第3の確率分布の所定の間隔の外にあるかどうかを示す第3の指標を決定するように構成可能であることに留意されたい。これらの例示実施形態において、決定された第3の指標により第1の予測位置が第3の確率分布の所定の間隔内にないことが示された場合、アラート生成モジュール64は第1の予測位置が信頼できないことを示すアラートを生成する。第1のランドマーク特徴の予測位置は、先の例示実施形態のように、網膜画像におけるピクセルの位置を表す座標によって定義されてもよく、第3の確率分布は、例えば網膜画像のセットにおける第1のランドマーク特徴の観察位置の2次元分布であってもよい。先の例示実施形態と同様に、第3の確率分布の所定の間隔を、任意の適切な方法を用いて設定することができる。
【0043】
図1図9に関連して説明した第1の例示実施形態では、第1のランドマーク特徴の予測位置と第2のランドマーク特徴の予測位置との間の距離を示す距離メトリックを観測された分布と比較して、これらの予測位置の信頼性と、したがってこれらの予測位置を用いて行われる次の網膜画像分類プロセスの信頼性を決定する。
【0044】
第1の例示実施形態の代替案を提供する、本明細書に記載の第2の例示実施形態では、網膜画像のデータセットにおけるランドマーク特徴のグラウンドトゥルース位置を用いて得られる混合モデルを用いて、網膜画像におけるランドマーク特徴の予測位置の信頼性を決定する。データセットは複数の所定のクラスの網膜画像を含み、ランドマーク特徴の予測位置及び混合モデルを用いて、網膜画像が所定のクラスの各々に属する確率を計算し、予測位置の信頼性を調べる。
【0045】
図10は、本明細書の第2の例示実施形態による眼球撮像システム1000の概略図を示している。図10において、眼球撮像システム1000は図1と同一の画像取得モジュール40を含む。さらに、眼球撮像システム1000はランドマーク位置予測モジュール55を含み、ランドマーク位置予測モジュール55は、機械学習アルゴリズムを使用して眼球30の網膜20の少なくとも一部分の網膜画像における少なくとも1つのランドマーク特徴の位置を予測するように構成されている。本明細書の1つの例示実施形態において、眼球撮像システム1000及び/又はランドマーク位置予測モジュール500は、プログラマブル信号処理ハードウェアにおいて、図2の信号処理装置200を含むことができ、信号処理装置200によって形成され、及び/又は信号処理装置200によって実施されることが可能である。
【0046】
図11は網膜画像1200の例を示しており、網膜20のランドマーク特徴の例として中心窩1210を示している。網膜画像1200は、図10に示す眼球撮像システム1000によって取得されてランドマーク位置予測モジュール55に入力され、ランドマーク位置予測モジュール55は機械学習アルゴリズムを使用して網膜画像1200における中心窩1210の位置を予測する。本実施例において、機械学習アルゴリズムは網膜画像1200における中心窩の位置を予測するように構成された畳み込みニューラルネットワーク(CNN)を含むが、他の任意の適切な機械学習アルゴリズムを使用して予測を行うことができる。また、ランドマーク位置予測モジュール55は、本例示実施形態のように、X次元及びY次元を有する網膜画像1200における中心窩1210の位置Lとして、中心窩1210のX-Y座標を予測することができる。図11では、網膜画像1200における中心窩1210の予測X-Y座標は(Fx,Fy)で示されている。
【0047】
図10に戻ると、眼球撮像システム1000は、網膜画像におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する装置1010をさらに含む。装置1010は、受信モジュール1020、確率指標決定モジュール1030、外れ値検出モジュール1040及びアラート生成モジュール1050を含む。装置1010の例示実施形態及びその図示された構成要素モジュールの機能を、以下により詳細に説明する。いくつかの例示実施形態では、図2の信号処理装置200を使用して装置1010を実施することができる
【0048】
図12は第2の例示実施形態において実行されるコンピュータ実行方法を示すフロー図であり、これによって装置1010は、ランドマーク位置予測モジュール55によって予測された網膜画像におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する。網膜画像におけるランドマーク特徴は、本実施例のように、網膜画像における中心窩を含むことができる。しかしながら、ランドマーク特徴はこれに限定されるものではなく、例えば網膜画像における視神経乳頭など、上記に定義されたような他のランドマーク特徴であってもよい。
【0049】
図12のステップS210において、受信モジュール1020は、ランドマーク位置予測モジュール55が機械学習アルゴリズムを使用することで予測された網膜画像におけるランドマーク特徴の予測位置を受信する。機械学習アルゴリズムは、本例示実施形態のように、網膜画像におけるランドマーク特徴の位置を予測するように構成された畳み込みニューラルネットワーク(CNN)を含むことができる。しかしながら、特徴の識別が可能な任意の適切な機械学習アルゴリズムを使用して予測を行うことができる。
【0050】
図12のステップS220において、確率指標決定モジュール1030は、ランドマーク特徴の位置の確率分布を含むとともに、複数の所定のクラスの網膜画像を有する網膜画像のセットに属する網膜画像におけるランドマーク特徴の決定された位置に基づいた混合モデルと、受信されたランドマーク特徴の予測位置とを使用して、複数の所定のクラスの各クラスに対し、網膜画像がクラスに属する確率を示すそれぞれの確率指標を決定する。
【0051】
図12のステップS230において、外れ値検出モジュール1040は、決定された確率指標を使用して、網膜画像が所定のクラスのいずれにも属さない外れ値であるかどうかを判断する。
【0052】
外れ値検出モジュール1040は、本例示実施形態のように、決定された確率指標を使用して、決定された確率指標の各確率指標が閾値を超えるかどうかを判断することによって網膜画像が所定のクラスのいずれにも属さないかどうかをステップS230で判断することができる。決定された確率指標がいずれも閾値を超えない場合、外れ値検出モジュール1040は、網膜画像が所定のクラスのいずれにも属さないと判断する。さらに、決定された確率指標のうちの少なくとも1つが閾値を超える場合、外れ値検出モジュール1040は、網膜画像が所定のクラスのうちの少なくとも1つに属すると判断する。
【0053】
網膜画像が所定のクラスのいずれにも属さないと外れ値検出モジュール1040が判断したことに応答して、アラート生成モジュール1050は、図12のステップS240において、網膜画像における予測位置が信頼できないことを示すアラートを生成する。例えば、眼球撮像システム1000のコンピュータ画面などの表示デバイス上に表示されるメッセージ又はサインとして、また、この他に又はこの代わりに、例えばオーディオ信号として、アラートを任意の適切な又は望ましい形態で眼球撮像システム1000のユーザに提供し、網膜画像における予測位置が信頼できないことをユーザに通知することができる。
【0054】
一方、ステップS230で外れ値検出モジュール1040によって決定された確率指標が網膜画像を外れ値であると示していない場合、アラート生成モジュール1050はアラートを生成しない。
【0055】
ランドマーク位置予測モジュール55は、本例示実施形態のように、網膜画像におけるランドマーク特徴の予測位置に基づいて、網膜画像を複数の所定のクラスのうちの1つに属するものとしてさらに分類することができる。さらに、予測位置が信頼できないと判断された場合に生成されるアラートは、機械学習アルゴリズムによる網膜画像の分類が信頼できないことを示すことができる。また、ランドマーク位置予測モジュール55は、本例示実施形態のように、網膜画像を被検者の左眼又は右眼のいずれかの網膜画像として分類することにより、網膜画像を複数の所定のクラスのうちの1つに属する網膜画像として分類することができる。しかしながら、複数の所定のクラスは、左眼/右眼の分類用の2つのクラスの例に限定されず、この他に又はこの代わりに他のタイプの分類を行ってもよい。例えば、他の例示実施形態では、この他に又はこの代わりに、ランドマーク特徴の予測位置を使用して網膜画像を健康な目又は健康でない目のものとして分類するようにランドマーク位置予測モジュール55を構成することができる。他の例では、眼の異なるそれぞれの視線方向、例えば中央への視線、下方視線、上方視線、鼻への視線、側頭への視線に異なるクラスを関連付けることができ、これらの各々を右眼又は左眼のいずれかに指定することができる。また、機械学習アルゴリズムは網膜画像の分類を行うように構成される必要はなく、ランドマーク特徴の位置を予測するために使用されるだけでもよい。
【0056】
図13は、第2の例示実施形態の実施例に従った、網膜画像におけるランドマーク特徴(この例では中心窩)の予測位置の信頼性を決定するために使用することのできる混合モデルの確率密度分布1300の例を示している。図13において、混合モデルは、網膜画像のデータセットにおける中心窩のグラウンドトゥルース位置又は予想位置を用いて得られる2次元ガウス混合モデルを含む。本例示実施形態で用いられる網膜画像のデータセットは、2つの所定のクラス、すなわち左眼クラス及び右眼クラスの網膜画像を含む。さらに、本例示実施形態では、中心窩の位置はランドマーク特徴を含む網膜画像のピクセルのX-Y座標によって表され、網膜画像は図13に示すようにX次元及びY次元を含む。図13の第3のZ次元は、中心窩が網膜画像の対応するX-Y座標位置に位置する確率密度値を示す。
【0057】
【0058】
【数1】
【0059】
【0060】
【数2】
【0061】
【0062】
【数3】
【0063】
【0064】
【数4】
【0065】
【0066】
【0067】
【0068】
本例示実施形態におけるガウス混合モデルは2つのクラスの網膜画像を含むデータセットを用いて形成されているが、代わりに、前述の異なる分類クラスを含むことができるがこれに限定されない任意の数の網膜画像クラスからガウス混合モデルを形成することができる。さらに、本例示実施形態は2次元ガウス混合モデルを用いているが、以下でより詳細に説明するように、さらに高次元の混合モデルの使用も可能であることに留意されたい。加えて、本例示実施形態は多変量ガウス混合モデルを用いているが、例えば、混合モデル及び後続の分類がランドマーク特徴の位置に関連する距離測定(例えば、第1の例示実施形態に関連して説明したように、第2のランドマーク特徴からの距離又は基準位置からの距離)に基づいている場合、単変量混合モデルを代わりに使用できることに留意されたい。
【0069】
図14は、網膜画像における中心窩の予測位置が信頼できないかどうかを判断するために「失敗クラス」の網膜画像をさらに利用する、第2の例示実施形態の第1の変形例を示している。特に、例えば処理中の網膜画像がまばたき事象、撮像アーチファクトなどによって不明瞭になった場合など、予測が失敗した場合、機械学習アルゴリズムは特定の領域の周りで予測位置をクラスタ化できることを本発明者らは見出した。これらの場合、失敗した予測(すなわち、装置1010によって信頼できないと判断されたランドマーク特徴の予測位置)を使用して網膜画像の別個の「失敗クラス」を作成することができ、混合モデルにおける成分分布として使用できる(例えば、ガウス)分布によって特徴づけることができる。
【0070】
より具体的には、第2の例示実施形態の第1の変形例において、図12のステップS220で使用される混合モデルはさらに、機械学習アルゴリズムによる処理によってランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、網膜画像の失敗クラスの網膜画像におけるランドマーク特徴の決定された位置に基づいている。
【0071】
【0072】
【数5】
【0073】
【0074】
【数6】
【0075】
【0076】
【数7】

及び
【0077】
【数8】
【0078】
【0079】
【0080】
図15は第2の例示実施形態の第2の変形例において実行されるプロセスを示すフロー図である。このプロセスも混合モデルを用いており、この混合モデルはさらに、機械学習アルゴリズムによる処理によってランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、失敗クラスの網膜画像の網膜画像におけるランドマーク特徴の決定された位置に基づいている。
【0081】
図15のステップS410において、第2の変形例の確率指標決定モジュール1030は、ランドマーク特徴の受信された予測位置及び混合モデルを用いて、失敗クラスに対し、網膜画像が失敗クラスに属する確率を示す確率指標を決定する。したがって、このステップは図14のステップS310と同じである。
【0082】
しかしながら、第2の例示実施形態の第1の変形例とは対照的に、第2の例示実施形態の第2の変形例の確率指標決定モジュール1030は、失敗クラスの確率指標を所定のクラスに対して計算された確率指標と直接比較し、網膜画像が所定のクラスのいずれにも属さないかどうかを判断する、ということは行わない。その代わりに、図15のステップS415において、第2の変形例の確率指標決定モジュール1030は、複数の所定のクラスの各所定のクラスに対し、失敗クラスに対して決定された確率指標と所定のクラスに対して決定された確率指標とに基づいた比較メトリックのそれぞれの値を決定する。
【0083】
【0084】
図15のステップS417において、第2の変形例の外れ値検出モジュール1040は、複数の所定のクラスに対して決定された比較メトリックの値の全てが所定の閾値を超えているかどうかを判断する。複数の所定のクラスに対して決定された比較メトリックの値の全てが所定の閾値を超えていると外れ値検出モジュール1040が判断した場合、第2の変形例の外れ値検出モジュール1040は、図15のステップS420Aにおいて、網膜画像が失敗クラスに属し、よって所定のクラスのいずれにも属さないと判断する。一方、複数の所定のクラスに対して決定された比較メトリックの値の全てが所定の閾値を超えているわけではないと外れ値検出モジュール1040が判断した場合、第2の変形例の外れ値検出モジュール1040は、図15のステップS420Bにおいて、網膜画像が所定のクラスのうちの少なくともいくつかに属すると判断する。
【0085】
前述の第2の例示実施形態及びその変形例では、説明を容易にするために、ランドマークの予測位置を単一のランドマーク特徴の予測位置(すなわち、網膜画像における中心窩の位置)とみなしている。予測位置は、中心窩の画像を含む網膜画像内のピクセルの位置を示す2次元のX-Y座標ペアとして受信されるため、これらの例示実施形態における混合モデルは2次元混合モデルの形をとっている。しかしながら、例として後述するように、混合モデルは2次元であることに限定されず、2より大きい次元数を有してもよい。
【0086】
図10及び図12を参照して説明した第2の例示実施形態のさらなる(第3の)変形例において、第3の変形例の受信モジュール1020は網膜画像における複数のランドマーク特徴の予測位置を受信することができ、変形例の装置1010は、これらの予測位置のうち少なくとも1つが信頼できないかどうかを判断することができる。より具体的には、第3の変形例において、機械学習アルゴリズムによって予測された、網膜画像における第1のランドマーク特徴の予測位置と網膜画像における第2のランドマーク特徴の予測位置とを、網膜画像におけるランドマーク特徴の予測位置として受信するように受信モジュール1020を構成することができる。例えば、第1のランドマーク特徴を先の例のように網膜画像における中心窩とすることができ、一方では第2のランドマーク特徴を網膜画像における視神経乳頭とすることができる。
【0087】
さらに、第3の変形例の確率指標決定モジュール1030は、第1のランドマーク特徴の受信された予測位置と、第2のランドマーク特徴の受信された予測位置と、第2のランドマーク特徴の位置の確率分布をさらに含み、網膜画像のセットに属する網膜画像における第2のランドマーク特徴の決定された位置にさらに基づいた混合モデルとを用いて、複数の所定のクラスの各クラスに対し、網膜画像がそのクラスに属する確率を示すそれぞれの確率指標を決定するように構成することが可能である。一例として、第1のランドマーク特徴及び第2のランドマーク特徴の各々の予測位置が2次元のX-Y座標ペアによって表されると仮定すると、中心窩及び視神経乳頭の観察位置を表す4座標変数のグラウンドトゥルース確率分布を含む混合モデルは、式(1)で与えられるのと同じ一般形式で記すことのできる4次元ガウス混合モデルとなる。さらに、(各所定のクラスに対応する)各成分分布を特徴づけるパラメータがわかると、網膜画像が各所定のクラスに属する確率を示す確率指標を、先の例について説明したのと同じ方法で式(3)を用いて計算することができる。
【0088】
さらに、第3の変形例のアラート生成モジュール1050は、網膜画像における第1のランドマーク機能の予測位置又は第2のランドマーク機能の予測位置のうちの少なくとも1つが信頼できないことを示す警告をアラートとして生成するように構成が可能である。
【0089】
本明細書で説明した例示実施形態において、機械学習アルゴリズムによって行われるランドマーク位置予測が信頼できないことを示すアラートを生成する装置は、画像取得モジュール及びランドマーク位置予測モジュールを有する眼球撮像システムの一部を形成している。しかしながら、記載の装置は、眼球撮像システムの一部を形成する必要はなく、その代わりに、網膜画像のランドマーク特徴の予測位置を処理するように構成された、PCなどのスタンドアロンデータ処理デバイスとして提供されてもよい。そのような用途において、前述の例示実施形態のアラート生成モジュールは、装置によって信頼できないと判断された予測位置を示す、及び/又は機械学習アルゴリズムによって信頼できない予測をもたらすと処理された網膜画像を識別する識別子を生成することができ、これにより、アラート生成モジュールによって識別子を使用して、ユーザによる検査が必要な1つ以上の予測位置及び/又は網膜画像にユーザの注意を引くユーザへのアラートを生成することができる。
【0090】
本明細書で説明した例示態様は、網膜画像におけるランドマーク特徴の位置を予測するためのコンピュータ実行型機械学習技術の信頼性の欠如から生じる、特にコンピュータ技術に起因する制限を回避する。このようなコンピュータ実行型機械学習技術は、例えば、機械学習アルゴリズムによって処理中の網膜画像の大部分がまばたき事象、撮像アーチファクトなどにより遮られた場合など、特定の状況下で不正確な網膜ランドマーク位置予測をもたらす場合がある。不正確な予測はダウンストリームの処理動作の性能に悪影響を及ぼす可能性があり、その成功はランドマーク特徴位置予測の精度に依存する。単なる例として、網膜画像が右眼のものか左眼のものかを判断するための自動側性ルーチン、種々の眼疾患又は眼障害を自動診断するための疾患パイプライン、そして(とりわけ)網膜画像に自動的に注釈を付けるためのデータ処理動作といったダウンストリームの処理動作は、網膜ランドマーク特徴位置が正確に予測されない場合に支障をきたす/悪影響を受ける可能性がある。一方、本明細書で説明した例示的なシステム、装置、コンピュータプログラム及び方法は、ランドマーク特徴位置の不正確な、及び/又は信頼できない予測(例えば、機械学習アルゴリズムによって処理された網膜画像のオクルージョン(遮蔽)によって引き起こされるものなど)を自動的に検出して不正確な予測を補正し、及び/又はこれらを実質的に回避することを可能にし、これによってオクルージョンを補償し、機械学習予測の精度を改善し、また、ダウンストリームの処理動作の性能及び結果を改善する。本明細書で説明した、コンピュータ技術に根ざした例示態様の前述の能力により、本明細書で説明した例示態様はゆえにコンピュータ及びコンピュータの処理/機能性を改善し、また、少なくとも網膜画像処理の分野及びデータ処理を改善し、さらに、不正確なランドマーク特徴予測に基づいたダウンストリームの動作の実行に必要となるであろう追加のコンピュータ処理及びメモリ要件を緩和し、及び/又はこれらを実質的に回避する。
【0091】
前述の説明では、例示態様がいくつかの例示実施形態を参照して説明されている。したがって、本明細書は限定的ではなく例示的なものであるとみなされるべきである。同様に、例示実施形態の機能性及び利点を強調する、図面に示す図は例示のためだけに提示されている。例示実施形態の構成は十分に柔軟で構成変更が可能であり、添付の図面に示した方法以外の方法で利用することができる。
【0092】
本明細書に提示される例のソフトウェアの実施形態は、1つの例示実施形態において、各々を非一時的とすることのできる機械アクセス可能媒体又は機械可読媒体、命令記憶装置又はコンピュータ可読記憶デバイスなどの製造品に含まれるか又は記憶される、命令又は命令のシーケンスを有する1つ以上のプログラムのようなコンピュータプログラム又はソフトウェアとして提供されてもよい。非一時的な機械アクセス可能媒体、機械可読媒体、命令記憶装置又はコンピュータ可読記憶デバイス上のプログラム又は命令を用いて、コンピュータシステム又は他の電子デバイスをプログラムすることができる。機械可読媒体又はコンピュータ可読媒体、命令記憶装置及び記憶装置は、フロッピー(登録商標)ディスケット、光ディスク及び光磁気ディスク、又は電子命令の記憶や送信に適した他のタイプの媒体/機械可読媒体/命令記憶装置/記憶装置を含むことができるが、これらに限定されない。本明細書で説明した技術は特定のソフトウェア構成に限定されない。これらの技術は、いかなるコンピューティング環境又は処理環境にも適用可能性を見出すことができる。本明細書で使用した「コンピュータ可読」、「機械アクセス可能媒体」、「機械可読媒体」、「命令記憶装置」及び「コンピュータ可読記憶デバイス」という用語は、機械、コンピュータ又はコンピュータプロセッサによって実行する命令又は命令のシーケンスを記憶、符号化又は送信することが可能であり、本明細書で説明した方法のいずれか1つを機械/コンピュータ/コンピュータプロセッサに実行させる任意の媒体を含むものとする。さらに、当技術分野では、何らかの形態(例えば、プログラム、手順、プロセス、アプリケーション、モジュール、ユニット、ロジックなど)のソフトウェアが動作を行ったり結果を引き起こすものとして語られるのが一般的である。このような表現は、処理システムによるソフトウェアの実行によってプロセッサがある動作を行い、結果を生じることを述べる簡潔な方法にすぎない。
【0093】
また、特定用途向けの集積回路、フィールドプログラマブルゲートアレイを準備することによって、又は従来の構成要素回路の適切なネットワークを相互接続することによって、いくつかの実施形態を実施することもできる。
【0094】
いくつかの実施形態はコンピュータプログラム製品を含む。コンピュータプログラム製品を、命令が記憶された記憶媒体、命令記憶装置又は記憶デバイスとすることができ、これを使用して、本明細書に記載した例示実施形態の手順のいずれかを実行するようにコンピュータ又はコンピュータプロセッサを制御する、又はコンピュータ又はコンピュータプロセッサにこの手順を実行させることができる。記憶媒体/命令記憶装置/記憶デバイスの例としては、光ディスク、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、フラッシュメモリ、フラッシュカード、磁気カード、光カード、ナノシステム、分子メモリ集積回路、RAID、リモートデータ記憶装置/アーカイブ/ウェアハウジング、ならびに/又は命令及び/あるいはデータの記憶に適した任意の他のタイプの装置が挙げられるが、これらに限定されない。
【0095】
コンピュータ可読媒体、命令記憶装置又は記憶デバイスのいずれか1つに記憶されるいくつかの実施形態として、システムのハードウェアの双方を制御し、システム又はマイクロプロセッサが本明細書で説明した例示実施形態の結果を利用して人間のユーザ又は他の機構と対話することを可能にするソフトウェアが挙げられる。このようなソフトウェアは、デバイスドライバ、オペレーティングシステム及びユーザアプリケーションを含むことができるが、これらに限定されない。最終的に、このようなコンピュータ可読媒体又は記憶デバイスは、前述のように、本例示態様を実行するためのソフトウェアをさらに含む。
【0096】
システムのプログラミング及び/又はソフトウェアには、本明細書に記載の手順を実施するためのソフトウェアモジュールが含まれている。本明細書のいくつかの例示実施形態では、モジュールはソフトウェアを含むが、本明細書の他の例示実施形態では、モジュールは、ハードウェア、又はハードウェアとソフトウェアの組み合わせを含む。
【0097】
以上、本発明の様々な例示実施形態について説明したが、これらの実施形態は例として提示されたものであり、これらに限定されないことを理解されたい。形態及び詳細に関して種々の変更が可能であることが当業者には明らかであろう。したがって、本発明は、上記の例示実施形態のいずれによっても限定されるべきではなく、以下の特許請求の範囲及びその同等物によってのみ定義されるべきである。
【0098】
さらに、要約書の目的は特許庁及び一般の人々、特に、特許や法律の用語又は表現に精通していない科学者、技術者及び当業者が、大まかな閲覧から本願の技術開示内容の性質及び本質を迅速に判断できるようにすることである。要約書は、本明細書に提示される例示実施形態の範囲に関して、いかなる形でも限定することを意図していない。また、特許請求の範囲に記載のいかなる手順も、提示の順序で実行する必要がないことを理解されたい。
【0099】
本明細書は多くの特定の実施形態の詳細を含むが、これらは、発明や特許請求され得るものの範囲を制限するものとして解釈されるべきではなく、むしろ、本明細書に記載される特定の実施形態に特有の特徴の説明として解釈されるべきである。本明細書で別個の実施形態に照らして記載される特定の特徴を、単一の実施形態において組み合わせて実施することもできる。逆に、単一の実施形態に照らして説明される種々の特徴を、複数の実施形態において個別に、又は任意の適切なサブコンビネーションで実施することもできる。さらに、これらの特徴は特定の組み合わせで作用するものとして上記で説明され、初めはそのように主張されていることすらあるが、主張された組み合わせからの1つ以上の特徴は、場合によってはその組み合わせから削除されてもよく、主張された組み合わせはサブコンビネーション又はサブコンビネーションの変形例に関連していてもよい。
【0100】
特定の状況では、マルチタスク処理及び並列処理が有利な場合がある。さらに、前述の実施形態における種々の構成要素の分離は、全ての実施形態でこのような分離を必要とするものとして理解されるべきではなく、説明したプログラムの構成要素及びシステムを、一般に単一のソフトウェア製品に一緒に統合するか、又は複数のソフトウェア製品にパッケージ化することができることを理解されたい。
【0101】
例示実施形態及び実施形態をいくつか説明したが、前述の内容は例として提示されており、限定のためではなく説明のためであることが明らかである。特に、本明細書で提示した例の多くは装置又はソフトウェア要素の特定の組み合わせを伴うが、これらの要素を他の方法で組み合わせて同一の目的を達成することができる。1つの実施形態に関連してのみ論じられた行為、要素及び特徴が他の実施形態で同様の役割から除外される、ということは意図されていない。
【0102】
本明細書に記載の装置を、その特徴から逸脱することなく他の特定の形態で具現化することができる。前述の実施形態は、説明したシステム及び方法を限定するものではなく、例示するものである。したがって、本明細書に記載した装置の範囲は、前述の説明ではなく添付の特許請求の範囲によって示され、請求項の均等物の意味及び範囲内に入る変更は特許請求の範囲に包含される。
以下、本発明の付記項を記載する。
(付記項1)
機械学習アルゴリズムによって予測された眼球(30)の網膜(20)の少なくとも一部分の網膜画像(1200)におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する方法であって、
前記機械学習アルゴリズムによって予測された前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置を受信し(S210)、
前記ランドマーク特徴の位置の確率分布を含むとともに、複数の所定のクラスの網膜画像を有する網膜画像のセットに属する網膜画像における前記ランドマーク特徴の決定された位置に基づいた混合モデル(1300)と、前記ランドマーク特徴の前記受信された予測位置とを用いて、前記複数の所定のクラスの各クラスに対し、前記網膜画像(1200)が前記クラスに属する確率を示すそれぞれの確率指標を決定し(S220)、
前記決定された確率指標を用いて、前記網膜画像(1200)が前記所定のクラスのいずれにも属さないかどうかを判断し(S230)、
前記網膜画像(1200)が前記所定のクラスのいずれにも属さないと判断したことに応答して、前記網膜画像(1200)における前記予測位置が信頼できないことを示すアラートを生成する(S240)、
ことを含む方法。
(付記項2)
前記決定された確率指標を用いた、前記網膜画像(1200)が前記所定のクラスのいずれにも属さないかどうかの判断は、
前記決定された確率指標の各々が閾値を超えるかどうか判断すること、
前記決定された確率指標のいずれも前記閾値を超えない場合、前記網膜画像(1200)は前記所定のクラスのいずれにも属さないと判断すること、及び
前記決定された確率指標のうちの少なくとも1つが前記閾値を超える場合、前記網膜画像(1200)が前記所定のクラスのうちの少なくとも1つに属すると判断すること、
によって行われる、付記項1に記載の方法。
(付記項3)
前記混合モデル(1300)はさらに、前記機械学習アルゴリズムによる処理によって前記ランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、網膜画像の失敗クラスの網膜画像におけるランドマーク特徴の決定された位置に基づいており、
前記ランドマーク特徴の前記受信された予測位置及び前記混合モデルを用いて、前記失敗クラスに対し、前記網膜画像(1200)が前記失敗クラスに属する確率を示す確率指標を決定する(S310)ことをさらに含み、
前記失敗クラスに対して決定された前記確率指標が前記複数の所定のクラスに対して決定された前記確率指標よりも大きい場合、前記網膜画像(1200)が前記失敗クラスに属すると判断し(S320A)、
前記失敗クラスについて決定された前記確率指標が前記複数の所定のクラスに対して決定された前記確率指標よりも大きくない場合、前記網膜画像(1200)が前記所定の網膜画像クラスのうちの1つに属すると判断する(S320B)、
付記項1に記載の方法。
(付記項4)
前記混合モデル(1300)はさらに、前記機械学習アルゴリズムによる処理によって前記ランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、網膜画像の失敗クラスの網膜画像におけるランドマーク特徴の決定された位置に基づいており、
前記ランドマーク特徴の前記受信された予測位置及び前記混合モデルを用いて、前記失敗クラスに対し、前記網膜画像(1200)が前記失敗クラスに属する確率を示すそれぞれの確率指標を決定する(S410)ことをさらに含み、
前記複数の所定のクラスの各所定のクラスに対し、前記失敗クラスに対して決定された前記確率指標と前記所定のクラスに対して決定された前記確率指標とに基づいた比較メトリックのそれぞれの値を決定し(S415)、
前記複数の所定クラスに対して決定された前記比較メトリックの前記値が所定の閾値を超えた場合、前記網膜画像(1200)が前記失敗クラスに属すると判断し(S420A)、
前記複数の所定のクラスに対して決定された前記比較メトリックの前記値のうちの少なくとも1つが所定の閾値を超えない場合、前記網膜画像(1200)が前記所定の網膜画像クラスのうちの1つに属すると判断する(S420B)、
付記項1に記載の方法。
(付記項5)
前記失敗クラスに対して決定された前記確率指標と、前記所定のクラスに対して決定された前記確率指標との比のそれぞれの値が、前記複数の所定のクラスの各所定のクラスの前記比較メトリックの前記値として決定される、付記項4に記載の方法。
(付記項6)
前記失敗クラスに対して決定された前記確率指標と、前記所定のクラスに対して決定された前記確率指標との差に基づいたそれぞれの値が、前記複数の所定のクラスの各所定のクラスの前記比較メトリックの前記値として決定される、付記項4に記載の方法。
(付記項7)
前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置の受信は、前記機械学習アルゴリズムによって予測された、前記網膜画像(1200)における第1のランドマーク特徴の予測位置と前記網膜画像(1200)における第2のランドマーク特徴の予測位置とを受信することを含み、
前記第1のランドマーク特徴の前記受信された予測位置と、前記第2のランドマーク特徴の前記受信された予測位置と、前記第2のランドマーク特徴の位置の確率分布をさらに含み、かつ前記網膜画像のセットに属する前記網膜画像における第2のランドマーク特徴の決定された位置に基づいた混合モデル(1300)とを用いて、前記複数の所定のクラスの各クラスに対し、前記網膜画像が前記クラスに属する確率を示すそれぞれの確率指標を決定し、
前記網膜画像(1200)が前記所定のクラスのいずれにも属さないという判断に応答して生成される前記アラートは、前記網膜画像における前記第1のランドマーク特徴の前記予測位置又は前記第2のランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを示す、
付記項1から付記項6のいずれか一項に記載の方法。
(付記項8)
前記第1のランドマーク特徴は前記網膜画像(1200)における中心窩(1210)であり、前記第2のランドマーク特徴は前記網膜画像(1200)における視神経乳頭である、付記項7に記載の方法。
(付記項9)
前記機械学習アルゴリズムを使用して前記網膜画像(1200)における前記ランドマーク特徴の位置を予測することをさらに含む、付記項1から付記項8のいずれか一項に記載の方法。
(付記項10)
前記機械学習アルゴリズムはさらに、前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置に基づいて、前記網膜画像(1200)を前記複数の所定のクラスのうちの1つに属するものとして分類し、
前記予測位置が信頼できないと判断された場合に生成される前記アラートは、前記機械学習アルゴリズムによる前記網膜画像(1200)の前記分類が信頼できないことを示す、
付記項9に記載の方法。
(付記項11)
前記網膜画像(1200)を前記複数の所定のクラスのうちの1つに属するものとして分類することは、前記網膜画像(1200)を被検者の左眼又は右眼のいずれかの網膜画像として分類することを含む、付記項10に記載の方法。
(付記項12)
前記機械学習アルゴリズムは、前記網膜画像(1200)における前記ランドマーク特徴の前記位置を予測するように構成された畳み込みニューラルネットワークを含む、付記項1から付記項11のいずれか一項に記載の方法。
(付記項13)
コンピュータプログラム命令を含み、コンピュータによって実行されると付記項1から付記項12のいずれか一項に記載の方法を前記コンピュータに実行させる、コンピュータプログラム。
(付記項14)
機械学習アルゴリズムによって予測された眼球(30)の網膜(20)の少なくとも一部分の網膜画像におけるランドマーク特徴の予測位置が信頼できないことを示すアラートを生成する装置(1010)であって、
前記機械学習アルゴリズムによって予測された前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置を受信するように構成された受信モジュール(1020)と、
前記ランドマーク特徴の位置の確率分布を含むとともに、複数の所定のクラスの網膜画像を有する網膜画像のセットに属する網膜画像における前記ランドマーク特徴の決定された位置に基づいた混合モデルと、前記ランドマーク特徴の前記受信された予測位置とを用いて、前記複数の所定のクラスの各クラスに対し、前記網膜画像(1200)が前記クラスに属する確率を示すそれぞれの確率指標を決定するように構成された確率指標決定モジュール(1030)と、
前記決定された確率指標を用いて、前記網膜画像(1200)が前記所定のクラスのいずれにも属さない外れ値であるかどうかを判断するように構成された外れ値検出モジュール(1040)と、
前記網膜画像(1200)が前記所定のクラスのいずれにも属さないと前記外れ値検出モジュール(1050)が判断したことに応答して、前記網膜画像(1200)における前記予測位置が信頼できないことを示すアラートを生成するように構成されたアラート生成モジュール(1050)と、
を含む装置。
(付記項15)
前記外れ値検出モジュール(1050)は、前記決定された確率指標を用いて前記網膜画像(1200)が前記所定のクラスのいずれにも属さないかどうかを判断するように構成されており、前記判断は、
前記決定された確率指標の各々が閾値を超えるかどうか判断すること、
前記決定された確率指標のいずれも前記閾値を超えない場合、前記網膜画像(1200)は前記所定のクラスのいずれにも属さないと判断すること、及び
前記決定された確率指標のうちの少なくとも1つが前記閾値を超える場合、前記網膜画像(1200)は前記所定のクラスのうちの少なくとも1つに属すると判断すること、
によって行われる、付記項14に記載の装置(1010)。
(付記項16)
前記混合モデルはさらに、前記機械学習アルゴリズムによる処理によって前記ランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、網膜画像の失敗クラスの網膜画像におけるランドマーク特徴の決定された位置に基づいており、
前記確率指標決定モジュール(1030)はさらに、前記ランドマーク特徴の前記受信された予測位置及び前記混合モデルを用いて、前記失敗クラスに対し、前記網膜画像(1200)が前記失敗クラスに属する確率を示すそれぞれの確率指標を決定するように構成されており、
前記外れ値検出モジュール(1040)は、前記失敗クラスに対して決定された前記確率指標が前記複数の所定のクラスに対して決定された前記確率指標よりも大きい場合、前記網膜画像(1200)が前記失敗クラスに属すると判断するように構成されており、
前記外れ値検出モジュール(1040)は、前記失敗クラスについて決定された前記確率指標が前記複数の所定のクラスに対して決定された前記確率指標よりも大きくない場合、前記網膜画像(1200)が前記所定の網膜画像クラスのうちの1つに属すると判断するように構成されている、
付記項14に記載の装置(1010)。
(付記項17)
前記混合モデルはさらに、前記機械学習アルゴリズムによる処理によって前記ランドマーク特徴のそれぞれの位置を予測した結果、信頼できないと判断された予測位置が得られた、網膜画像の失敗クラスの網膜画像におけるランドマーク特徴の決定された位置に基づいており、
前記確率指標決定モジュール(1030)はさらに、前記ランドマーク特徴の前記受信された予測位置及び前記混合モデルを用いて、前記失敗クラスに対し、前記網膜画像(1200)が前記失敗クラスに属する確率を示す確率指標を決定するように構成されており、
前記確率指標決定モジュール(1030)はさらに、前記複数の所定のクラスの各所定のクラスに対し、前記失敗クラスに対して決定された前記確率指標と前記所定のクラスに対して決定された前記確率指標とに基づいた比較メトリックのそれぞれの値を決定するように構成されており、
前記外れ値検出モジュール(1040)は、前記複数の所定クラスに対して決定された前記比較メトリックの前記値が所定の閾値を超えた場合、前記網膜画像(1200)が前記失敗クラスに属すると判断するように構成されており、
前記外れ値検出モジュール(1040)は、前記複数の所定のクラスに対して決定された前記比較メトリックの前記値のうちの少なくとも1つが所定の閾値を超えない場合、前記網膜画像(1200)が前記所定の網膜画像クラスのうちの1つに属すると判断するように構成されている、
付記項14に記載の装置(1010)。
(付記項18)
前記外れ値検出モジュール(1040)は、前記失敗クラスに対して決定された前記確率指標と、前記所定のクラスに対して決定された前記確率指標との比のそれぞれの値を、前記複数の所定のクラスの各所定のクラスの前記比較メトリックの前記値として決定するように構成されている、付記項17に記載の装置(1010)。
(付記項19)
前記外れ値検出モジュール(1040)は、前記失敗クラスに対して決定された前記確率指標と、前記所定のクラスに対して決定された前記確率指標との差に基づいたそれぞれの値を、前記複数の所定のクラスの各所定のクラスの前記比較メトリックの前記値として決定するように構成されている、付記項17に記載の装置(1010)。
(付記項20)
前記受信モジュール(1020)は、前記機械学習アルゴリズムによって予測された、前記網膜画像(1200)における第1のランドマーク特徴の予測位置と前記網膜画像(1200)における第2のランドマーク特徴の予測位置とを、前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置として受信するように構成されており、
確率指標決定モジュール(1030)は、前記第1のランドマーク特徴の前記受信された予測位置と、前記第2のランドマーク特徴の前記受信された予測位置と、前記第2のランドマーク特徴の位置の確率分布をさらに含み、なおかつ、前記網膜画像のセットに属する前記網膜画像における第2のランドマーク特徴の決定された位置に基づいた混合モデル(1300)とを用いて、前記複数の所定のクラスの各クラスに対し、前記網膜画像(1200)が前記クラスに属する確率を示すそれぞれの確率指標を決定するように構成されており、
前記アラート生成モジュール(1050)は、前記網膜画像(1200)における前記第1のランドマーク特徴の前記予測位置又は前記第2のランドマーク特徴の前記予測位置のうち少なくとも1つが信頼できないことを示す警告を前記アラートとして生成するように構成されている、
付記項14から付記項19のいずれか一項に記載の装置(1010)。
(付記項21)
前記第1のランドマーク特徴は前記網膜画像(1200)における中心窩(1210)であり、前記第2のランドマーク特徴は前記網膜画像(1200)における視神経乳頭である、付記項20に記載の装置(1010)。
(付記項22)
前記機械学習アルゴリズムを使用して前記網膜画像(1200)における前記ランドマーク特徴の位置を予測するように構成されたランドマーク位置予測モジュール(55)をさらに含む、付記項14から付記項21のいずれか一項に記載の装置(1010)。
(付記項23)
前記ランドマーク位置予測モジュール(55)は、前記機械学習アルゴリズムを使用して、前記網膜画像(1200)における前記ランドマーク特徴の前記予測位置に基づいて、前記網膜画像(1200)を前記複数の所定のクラスのうちの1つに属するものとして分類するように構成されており、
前記アラート生成モジュール(1050)は、前記機械学習アルゴリズムによる前記網膜画像(1200)の前記分類が信頼できないことを示す警告を前記アラートとして生成するように構成されている、
付記項22に記載の装置(1010)。
(付記項24)
前記ランドマーク位置予測モジュール(55)は、前記網膜画像(1200)を被検者の左眼又は右眼のいずれかの網膜画像として分類することにより、前記網膜画像(1200)を前記複数の所定のクラスのうちの1つに属するものとして分類するように構成されている、付記項23に記載の装置(1010)。
(付記項25)
前記機械学習アルゴリズムは、前記網膜画像(1200)における前記ランドマーク特徴の前記位置を予測するように構成された畳み込みニューラルネットワークを含む、付記項14から付記項24のいずれか一項に記載の装置(1010)。
(付記項26)
眼球(30)の網膜(20)の少なくとも一部分の網膜画像を取得するための眼球撮像システム(1000)であって、
網膜画像(510)を取得するように構成された画像取得モジュール(40)と、
機械学習アルゴリズムを使用して前記網膜画像におけるランドマーク特徴の位置を予測するように構成されたランドマーク位置予測モジュール(55)と、
前記ランドマーク位置予測モジュール(55)によって予測された前記網膜画像におけるランドマーク特徴の前記位置が信頼できないことを示すアラートを生成する付記項14から付記項25のいずれか一項に記載の装置(1010)と、
を含む眼球撮像システム。
図1
図2
図3
図4
図5
図6
図7
図8
図9A
図9B
図10
図11
図12
図13
図14
図15