(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023050531
(43)【公開日】2023-04-11
(54)【発明の名称】眼底画像処理装置および眼底画像処理プログラム
(51)【国際特許分類】
A61B 3/10 20060101AFI20230404BHJP
A61B 3/12 20060101ALI20230404BHJP
G06T 7/70 20170101ALI20230404BHJP
G06T 7/00 20170101ALI20230404BHJP
【FI】
A61B3/10 100
A61B3/12
G06T7/70 A
G06T7/00 350B
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2021160684
(22)【出願日】2021-09-30
(71)【出願人】
【識別番号】000135184
【氏名又は名称】株式会社ニデック
(74)【代理人】
【識別番号】100166785
【弁理士】
【氏名又は名称】大川 智也
(72)【発明者】
【氏名】柴 涼介
(72)【発明者】
【氏名】加納 徹哉
【テーマコード(参考)】
4C316
5L096
【Fターム(参考)】
4C316AA09
4C316AB02
4C316AB03
4C316AB04
4C316AB11
4C316AB19
4C316FB05
4C316FB06
4C316FB21
4C316FB23
4C316FB26
4C316FZ01
5L096BA06
5L096BA13
5L096DA02
5L096FA69
5L096HA08
5L096JA03
5L096JA11
5L096KA04
(57)【要約】
【課題】眼底画像に写る乳頭の端部を、高い精度で適切に検出することが可能な眼底画像処理装置および眼底画像処理プログラムを提供する。
【解決手段】画像取得ステップでは、被検眼の眼底の三次元断層画像が取得される。基準位置設定ステップでは、三次元断層画像が撮影された二次元の測定領域のうち乳頭の領域内に、基準位置RPが設定される。ラジアルパターン設定ステップでは、二次元の測定領域に対し、基準位置RPを中心として放射状に広がるラジアルパターン60が設定される。画像抽出ステップでは、三次元断層画像から、設定されたラジアルパターン60の複数のライン61の各々における二次元断層画像が抽出される。乳頭端部検出ステップでは、抽出された複数の二次元断層画像に基づいて、三次元断層画像に写る乳頭の端部の位置が検出される。
【選択図】
図10
【特許請求の範囲】
【請求項1】
OCT装置によって撮影された被検眼の眼底の断層画像を処理する眼底画像処理装置であって、
前記画像処理装置の制御部は、
OCT測定光の光軸に交差する方向に広がる二次元の測定領域に、前記測定光が照射されることで撮影された、被検眼の眼底の三次元断層画像を取得する画像取得ステップと、
前記三次元断層画像が撮影された前記二次元の測定領域のうち乳頭の領域内に、基準位置を設定する基準位置設定ステップと、
前記二次元の測定領域に対し、前記基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定するラジアルパターン設定ステップと、
前記三次元断層画像から、設定された前記ラジアルパターンの複数のラインの各々における二次元断層画像を抽出する画像抽出ステップと、
抽出された複数の前記二次元断層画像に基づいて、前記三次元断層画像に写る前記乳頭の端部の位置を検出する乳頭端部検出ステップと、
を実行することを特徴とする眼底画像処理装置。
【請求項2】
請求項1に記載の眼底画像処理装置であって、
前記制御部は、
前記三次元断層画像、または、前記抽出ステップにおいて抽出された前記二次元断層画像に対し、OCT測定光の光軸に沿う方向における像の位置合わせを実行する位置合わせステップをさらに実行し、
前記乳頭端部検出ステップでは、像の位置合わせが実行された状態の前記二次元断層画像に基づいて、前記乳頭の端部の位置を検出することを特徴とする眼底画像処理装置。
【請求項3】
請求項1または2に記載の眼底画像処理装置であって、
前記制御部は、
前記眼底の画像に基づいて、前記二次元の測定領域における前記乳頭の位置を自動検出する乳頭位置検出ステップをさらに実行し、
前記基準位置設定ステップでは、自動検出された前記乳頭の位置に前記基準位置を設定することを特徴とする眼底画像処理装置。
【請求項4】
請求項1から3のいずれかに記載の眼底画像処理装置であって、
前記制御部は、前記乳頭端部検出ステップにおいて、
機械学習アルゴリズムによって訓練されており、且つ、入力された二次元断層画像に写る乳頭の端部の検出結果を出力する数学モデルに、前記画像抽出ステップにおいて抽出された複数の前記二次元断層画像を入力し、複数の前記二次元断層画像の各々に写る前記乳頭の端部の位置を取得することで、前記乳頭の端部の位置を検出することを特徴とする眼底画像処理装置。
【請求項5】
請求項1から4のいずれかに記載の眼底画像処理装置であって、
前記制御部は、前記乳頭端部検出ステップにおいて、
複数の前記二次元断層画像に基づいて検出された複数の位置の検出結果に対して平滑化処理を行うことで、前記乳頭の環状の端部の位置を検出することを特徴とする眼底画像処理装置。
【請求項6】
請求項1から5のいずれかに記載の眼底画像処理装置であって、
前記制御部は、
前記乳頭端部検出ステップにおいて検出された前記乳頭の端部の位置に基づいて、前記乳頭の中心位置を特定する乳頭中心特定ステップをさらに実行することを特徴とする眼底画像処理装置。
【請求項7】
請求項6に記載の眼底画像処理装置であって、
前記制御部は、
前記乳頭中心特定ステップにおいて特定した前記乳頭の中心位置を、前記基準位置設定ステップにおける前記基準位置の設定位置として、前記基準位置設定ステップ、前記ラジアルパターン設定ステップ、前記画像抽出ステップ、および前記乳頭端部検出ステップを再度実行することを特徴とする眼底画像処理装置。
【請求項8】
請求項6または7に記載の眼底画像処理装置であって、
前記乳頭中心特定ステップにおいて特定した前記乳頭の中心位置を中心とする環状のラインパターンにおける二次元断層画像を、前記三次元断層画像から抽出する環状抽出ステップと、
前記環状抽出ステップにおいて抽出された前記二次元断層画像に関する情報を出力する出力ステップと、
をさらに実行することを特徴とする眼底画像処理装置。
【請求項9】
OCT装置によって撮影された被検眼の眼底の断層画像を処理する眼底画像処理装置によって実行される眼底画像処理プログラムであって、
前記眼底画像処理プログラムが前記眼底画像処理装置の制御部によって実行されることで、
OCT測定光の光軸に交差する方向に広がる二次元の測定領域に、前記測定光が照射されることで撮影された、被検眼の眼底の三次元断層画像を取得する画像取得ステップと、
前記三次元断層画像が撮影された前記二次元の測定領域のうち乳頭の領域内に、基準位置を設定する基準位置設定ステップと、
前記二次元の測定領域に対し、前記基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定するラジアルパターン設定ステップと、
前記三次元断層画像から、設定された前記ラジアルパターンの複数のラインの各々における二次元断層画像を抽出する画像抽出ステップと、
抽出された複数の前記二次元断層画像に基づいて、前記三次元断層画像に写る前記乳頭の端部の位置を検出する乳頭端部検出ステップと、
を前記眼底画像処理装置に実行させることを特徴とする眼底画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、被検眼の眼底画像の処理に使用される眼底画像処理装置、および眼底画像処理プログラムに関する。
【背景技術】
【0002】
近年、被検眼の眼底画像を解析することで、眼底における特定の部位を識別する技術が提案されている。例えば、特許文献1に記載の眼科撮影装置は、被検眼眼底の正面画像に対して画像処理(エッジ検出またはハフ変換等)を行うことで、正面画像に写る眼底の視神経乳頭(以下、単に「乳頭」という場合もある)の位置を検出する。
【先行技術文献】
【非特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
眼底の正面画像によると、乳頭の大体の位置を検出することは可能であるが、乳頭の端部の位置を高い精度で検出することは困難である。ここで、眼底の三次元断層画像を構成する複数の二次元断層画像から、乳頭の端部の位置を検出することも考えられる。この場合、眼底の三次元断層画像を構成する複数の二次元断層画像には、乳頭が写る画像と、乳頭が写らない画像が混在する。従って、乳頭が写らない二次元断層画像から、乳頭の端部が誤って検出されてしまう場合がある。また、眼底の三次元断層画像を構成する複数の二次元断層画像を処理する場合、処理量も増大する。以上のように、眼底画像に写る乳頭の端部を、高い精度で適切に検出することは、従来の技術では困難であった。
【0005】
本開示の典型的な目的は、眼底画像に写る乳頭の端部を、高い精度で適切に検出することが可能な眼底画像処理装置および眼底画像処理プログラムを提供することである。
【課題を解決するための手段】
【0006】
本開示における典型的な実施形態が提供する眼底画像処理装置は、OCT装置によって撮影された被検眼の眼底の断層画像を処理する眼底画像処理装置であって、前記画像処理装置の制御部は、OCT測定光の光軸に交差する方向に広がる二次元の測定領域に、前記測定光が照射されることで撮影された、被検眼の眼底の三次元断層画像を取得する画像取得ステップと、前記三次元断層画像が撮影された前記二次元の測定領域のうち乳頭の領域内に、基準位置を設定する基準位置設定ステップと、前記二次元の測定領域に対し、前記基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定するラジアルパターン設定ステップと、前記三次元断層画像から、設定された前記ラジアルパターンの複数のラインの各々における二次元断層画像を抽出する画像抽出ステップと、抽出された複数の前記二次元断層画像に基づいて、前記三次元断層画像に写る前記乳頭の端部の位置を検出する乳頭端部検出ステップと、を実行する。
【0007】
本開示における典型的な実施形態が提供する眼底画像処理プログラムは、OCT装置によって撮影された被検眼の眼底の断層画像を処理する眼底画像処理装置によって実行される眼底画像処理プログラムであって、前記眼底画像処理プログラムが前記眼底画像処理装置の制御部によって実行されることで、OCT測定光の光軸に交差する方向に広がる二次元の測定領域に、前記測定光が照射されることで撮影された、被検眼の眼底の三次元断層画像を取得する画像取得ステップと、前記三次元断層画像が撮影された前記二次元の測定領域のうち乳頭の領域内に、基準位置を設定する基準位置設定ステップと、前記二次元の測定領域に対し、前記基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定するラジアルパターン設定ステップと、前記三次元断層画像から、設定された前記ラジアルパターンの複数のラインの各々における二次元断層画像を抽出する画像抽出ステップと、抽出された複数の前記二次元断層画像に基づいて、前記三次元断層画像に写る前記乳頭の端部の位置を検出する乳頭端部検出ステップと、を前記眼底画像処理装置に実行させる。
【0008】
本開示に係る眼底画像処理装置および眼底画像処理プログラムによると、眼底画像に写る乳頭の端部が、高い精度で適切に検出される。
【図面の簡単な説明】
【0009】
【
図1】数学モデル構築装置101、眼底画像処理装置1、およびOCT装置10A,10Bの概略構成を示すブロック図である。
【
図2】OCT装置10の概略構成を示すブロック図である。
【
図3】三次元断層画像の撮影方法の一例を説明するための説明図である。
【
図5】三次元断層画像43および二次元正面画像45の一例を示す図である。
【
図6】眼底における層・境界の構造を模式的に示す図である。
【
図7】数学モデル構築装置101が実行する数学モデル構築処理のフローチャートである。
【
図8】眼底画像処理装置1が実行する眼底画像処理のフローチャートである。
【
図9】像の位置合わせ処理の一例を説明するための説明図である。
【
図10】二次元の測定領域に、基準位置RPとラジアルパターン60が設定された状態を示す図である。
【
図11】ラジアルパターンに従って抽出された二次元断層画像64と、二次元断層画像64に対して出力されたBMOの確率マップ65を比較した図である。
【
図12】ユーザによって指示された位置を、乳頭の端部の位置として検出する方法を説明するための説明図である。
【
図13】検出された環状のBMOの位置70が重畳表示された二次元正面画像の一例を示す図である。
【
図14】二次元断層画像75R,75Lと層厚グラフ76R,76Lの表示方法の一例を示す図である。
【
図15】眼底画像処理装置1が実行する部位識別処理のフローチャートである。
【
図16】数学モデルに入力される二次元断層画像42と、二次元断層画像42中の一次元領域A1~ANの関係を模式的に示す図である。
【
図17】乖離度に基づいて第2の部位を識別する方法の一例を説明するための説明図である。
【
図18】BMO85の位置に基づいてCup87の位置を検出する方法の一例を説明するための説明図である。
【発明を実施するための形態】
【0010】
<概要>
(第1態様)
本開示で例示する眼底画像処理装置の制御部は、画像取得ステップ、乖離度取得ステップ、および部位識別ステップを実行する。画像取得ステップでは、制御部は、眼底画像撮影装置によって撮影された眼底画像を取得する。乖離度取得ステップでは、制御部は、機械学習アルゴリズムによって訓練された数学モデルに眼底画像を入力することで、眼底画像に写る眼底の第1の部位を識別するための確率分布を取得し、第1の部位が正確に識別される場合の確率分布に対する、取得された確率分布の乖離度を取得する。部位識別ステップでは、制御部は、眼底のうち第1の部位とは異なる第2の部位を、乖離度に基づいて識別する。
【0011】
眼底では、第2の部位が存在する位置と、第2の部位が存在しない位置の間で、第1の部位の状態が変化する場合がある。例えば、乳頭(第2の部位)が存在する位置と、乳頭が存在しない位置(例えば、乳頭の周囲等)の間では、眼底の層および境界の少なくともいずれか(第1の部位)の状態が異なる。一般的に、乳頭の周囲では複数の層および境界が正常に存在するが、乳頭の位置では特定の層および境界が欠落している。
【0012】
ここで、第1の部位と第2の部位が共に写る眼底画像を、第1の部位を識別するための数学モデルに入力する場合を想定する。この場合、第1の部位が存在する位置では、当然ながら第1の部位が正確に識別され易いので、乖離度が小さくなり易い。一方で、第2の部位が存在する位置において第1の部位が欠落していると、乖離度が大きくなり易い。眼の疾患の有無等に関わらず、この傾向は表れやすい。
【0013】
以上の知見に基づき、本開示の眼底画像処理装置の制御部は、第1の部位を識別するための数学モデルに眼底画像を入力した際の、確率分布の乖離度に基づいて、第2の部位を識別する。その結果、眼の疾患の有無等に関わらず、第2の部位の識別精度が向上する。
【0014】
乖離度について、さらに説明する。数学モデルによって第1の部位が高い精度で識別される場合には、取得される確率分布が偏り易くなる。一方で、数学モデルによる第1の部位の識別精度が低い場合、取得される確率分布が偏り難くなる。従って、第1の部位が正確に識別される場合の確率分布と、実際に取得される確率分布の乖離度は、第1の部位の状態に応じて変化する。よって、本開示の眼底画像処理装置によると、第2の部位が存在する位置と、第2の部位が存在しない位置の間で、第1の部位の状態が変化する場合に、乖離度を用いることで、疾患の有無等に関わらず高い精度で第2の部位が識別される。
【0015】
なお、乖離度は、数学モデルによって出力されてもよい。また、制御部が、数学モデルによって出力された確率分布に基づいて乖離度を算出してもよい。
【0016】
乖離度は、眼底画像に対して数学モデルによって実行された第1の部位の識別の不確信度(uncertainty)と表現することもできる。また、数学モデルによる識別の確実性の高さ(確信度)の逆数等を、乖離度として用いる場合でも、同様の結果が得られる。
【0017】
乖離度には、取得された確率分布のエントロピー(平均情報量)が含まれていてもよい。エントロピーは、不確実性、乱雑さ、無秩序の度合いを表す。本開示では、第1の部位が正確に識別される場合に出力される確率分布のエントロピーは0となる。また、第1の部位の識別が困難になる程、エントロピーは増大する。
【0018】
ただし、エントロピー以外の値が乖離度として採用されてもよい。例えば、取得された確率分布の散布度を示す標準偏差、変動係数、分散等の少なくともいずれかが乖離度として使用されてもよい。確率分布同士の差異を図る尺度であるKLダイバージェンス等が乖離度として使用されてもよい。また、取得された確率分布の最大値が乖離度として使用されてもよい。
【0019】
乖離度取得ステップでは、眼底画像に写る眼底における複数の層および境界のうちの少なくともいずれかを第1の部位として、乖離度を取得してもよい。つまり、第1の部位は、眼底における複数の層および層の境界の少なくともいずれか(以下、「層・境界」という場合もある)であってもよい。前述したように、第2の部位が存在する位置と、第2の部位が存在しない位置の間で、眼底の層および境界の少なくともいずれか(第1の部位)の状態が異なる場合がある。従って、層・境界を第1の部位として乖離度を取得することで、乖離度に基づいて適切に第2の部位が識別され易くなる。
【0020】
ただし、眼底における層・境界以外の部位を第1の部位とすることも可能である。例えば、第2の部位が存在する位置と、第2の部位が存在しない位置の間で、眼底血管の状態が異なる場合もある。この場合、眼底血管を第1の部位として乖離度が取得されてもよい。
【0021】
第1の部位を層・境界とする場合、制御部は、部位識別ステップにおいて、眼底における乳頭(視神経乳頭)を、乖離度に基づいて第2の部位として識別してもよい。前述したように、乳頭が存在する位置と、乳頭が存在しない位置の間で、眼底の層および境界の少なくともいずれかの状態が異なる。従って、層・境界を第1の部位とし、乳頭を第2の部位とすることで、乖離度に基づいて適切に乳頭が検出される。
【0022】
層・境界を第1の部位とし、乳頭を第2の部位とする場合、乖離度取得ステップでは、眼底画像に写る眼底の複数の層および境界のうち、神経線維層(NFL)よりも深い位置の層および境界の少なくともいずれかを第1の部位として、乖離度が取得されてもよい。乳頭が存在する位置では、NFLが存在する一方で、NFLよりも深い位置の層および境界は欠落する。つまり、乳頭が存在する位置では、NFLよりも深い位置の層および境界の識別に関する乖離度は、乳頭が存在しない位置に比べて大きくなる。従って、NFLよりも深い位置の層および境界の少なくともいずれかを第1の部位とすることで、乳頭の識別精度がさらに向上する。
【0023】
また、乖離度取得ステップでは、NFLと、NFLよりも深い位置の層および境界の少なくともいずれかを、共に第1の部位として、乖離度が取得されてもよい。部位検出ステップでは、NFLよりも深い位置の層・境界の識別に関する乖離度が第1閾値よりも大きく、且つ、NFLの識別に関する乖離度が第2閾値よりも小さい部位を、乳頭として検出してもよい。この場合、疾患等の影響でNFLを含む複数の層・境界が欠落している位置と、乳頭が存在する位置が、適切に区別される。よって、乳頭の識別精度がさらに向上する。
【0024】
制御部は、眼底画像取得ステップにおいて、眼底の三次元断層画像を眼底画像として取得してもよい。制御部は、基準位置設定ステップ、ラジアルパターン設定ステップ、画像抽出ステップ、および乳頭端部検出ステップをさらに実行してもよい。基準位置設定ステップでは、制御部は、三次元断層画像が撮影された二次元の測定領域のうち、部位識別ステップにおいて識別された乳頭の領域内に、基準位置を設定する。ラジアルパターン設定ステップでは、制御部は、二次元の測定領域に対し、基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定する。画像抽出ステップでは、制御部は、三次元断層画像から、設定されたラジアルパターンの複数のラインの各々における二次元断層画像(ラジアルパターンの複数のラインの各々に交差する二次元断層画像)を抽出する。乳頭端部検出ステップでは、制御部は、抽出された複数の二次元断層画像に基づいて、三次元断層画像に写る乳頭の端部の位置を検出する。
【0025】
基準位置設定ステップにおいて、基準位置が乳頭の領域内に正しく設定されると、画像抽出ステップにおいてラジアルパターンに従って抽出される複数の二次元断層画像の全てに、乳頭が必ず含まれることになる。従って、抽出された複数の二次元断層画像に基づいて乳頭の端部の位置が検出されることで、乳頭が写らない二次元断層画像から乳頭の端部が誤って検出される可能性が低下する。また、三次元断層画像を構成する複数の二次元断層画像の全てを処理する場合に比べて、画像の処理量が過度に増大することも抑制される。よって、乖離度に基づいて実行した乳頭の部位の識別結果を利用して、さらに乳頭の端部も高い精度で検出される。
【0026】
第1の部位を層・境界とする場合、制御部は、部位識別ステップにおいて、眼底における中心窩を、乖離度に基づいて第2の部位として識別してもよい。中心窩が存在する位置と、中心窩が存在しない位置の間で、眼底の層および境界の少なくともいずれかの状態が異なる。従って、層・境界を第1の部位とし、中心窩を第2の部位とすることで、乖離度に基づいて適切に中心窩が検出される。
【0027】
層・境界を第1の部位とし、中心窩を第2の部位とする場合、乖離度取得ステップでは、眼底画像に写る眼底の複数の層および境界のうち、網膜色素上皮(RPE)よりも網膜の表面側の層および境界の少なくともいずれかを第1の部位として、乖離度が取得されてもよい。中心窩が存在する位置では、RPEおよびブルッフ膜等が存在する一方で、RPEよりも網膜の表面側の層および境界が欠落する。つまり、中心窩が存在する位置では、RPEよりも表面側の層・境界の識別に関する乖離度は、中心窩が存在しない位置に比べて大きくなる。よって、RPEよりも網膜の表面側の層および境界の少なくともいずれかを第1の部位とすることで、中心窩の識別精度がさらに向上する。
【0028】
また、乖離度取得ステップでは、RPEおよびブルッフ膜の少なくとも一方(以下、単に「RPE・ブルッフ膜」という)と、RPEよりも表面側の層および境界の少なくともいずれかを、共に第1の部位として、乖離度が取得されてもよい。部位検出ステップでは、RPEよりも表面側の層・境界の識別に関する乖離度が第1閾値よりも大きく、且つ、RPE・ブルッフ膜の識別に関する乖離度が第2閾値よりも小さい部位を、中心窩として検出してもよい。この場合、疾患等の影響でRPE・ブルッフ膜を含む複数の層・境界が欠落している位置と、中心窩が存在する位置が、適切に区別される。よって、中心窩の識別精度がさらに向上する。
【0029】
なお、乖離度に基づいて識別する対象とする第2の部位は、乳頭および中心窩に限定されない。第2の部位は、眼底における乳頭および中心窩以外の部位(例えば、黄斑または眼底血管等)であってもよい。例えば、眼底血管(第2の部位)が存在する位置では、測定光が眼底血管によって遮られるため、眼底血管よりも深い位置の層・境界(第1の部位)の撮影状態が悪化する。従って、眼底血管が存在する位置では、眼底血管が存在しない位置に比べて、眼底血管よりも深い位置の層・境界の識別に関する乖離度が大きくなる。よって、制御部は、眼底血管よりも深い位置の層・境界の少なくともいずれかの識別に関する乖離度が、閾値よりも大きい部位を、眼底血管が存在する部位として識別してもよい。また、眼底画像処理装置は、眼底に存在する疾患の部位を、第2の部位として識別してもよい。
【0030】
乖離度取得ステップでは、制御部は、眼底の三次元断層画像を数学モデルに入力することで、眼底を正面から見た場合(つまり、眼底画像の撮影光の光軸に沿って眼底を見た場合)の乖離度の二次元の分布を取得してもよい。部位識別ステップでは、眼底を正面から見た場合の第2の部位の位置を、乖離度の二次元の分布に基づいて識別してもよい。この場合には、二次元の眼底画像から第2の部位の二次元の位置を識別する場合に比べて、より多くのデータに基づいて第2の部位が識別される。よって、第2の部位の識別精度がさらに向上する。
【0031】
なお、三次元断層画像から乖離度の二次元の分布を取得するための具体的な方法も、適宜選択できる。例えば、制御部は、三次元断層画像を構成する複数の二次元断層画像の各々を数学モデルに入力し、各々の二次元断層画像に関して取得された乖離度を二次元に並べることで、乖離度の二次元の分布を取得してもよい。また、制御部は、三次元断層画像の全体を纏めて数学モデルに入力することで、乖離度の二次元の分布を取得してもよい。なお、断層画像(三次元断層画像および二次元断層画像)は、例えば、OCT装置またはシャインプルーフカメラ等の種々のデバイスによって撮影されればよい。
【0032】
ただし、制御部は、二次元の眼底画像を数学モデルに入力することで、眼底における第2の部位を識別してもよい。例えば、制御部は、眼底を正面から見た場合の二次元正面画像を、眼底血管を第1の部位として識別するための数学モデルに入力してもよい。制御部は、取得された乖離度の二次元の分布に基づいて、第2の部位(例えば乳頭等)を検出してもよい。二次元正面画像は、眼底カメラによって撮影された画像、レーザ走査型検眼装置(SLO)によって撮影された画像等であってもよい。二次元正面画像は、OCT装置によって撮影された三次元断層画像のデータに基づいて生成されるEnface画像であってもよい。また、二次元正面画像は、同一位置から異なる時間に取得された複数のOCTデータを処理することで得られるモーションコントラストデータから作成される画像(所謂「モーションコントラスト画像」)であってもよい。
【0033】
制御部は、正面画像取得ステップと補助識別結果取得ステップをさらに実行してもよい。正面画像取得ステップでは、制御部は、三次元断層画像が撮影された眼底を正面から見た場合の二次元正面画像を取得する。補助識別結果取得ステップでは、制御部は、二次元正面画像に基づいて実行された、第2の部位の識別結果である補助識別結果を取得する。乖離度と補助識別結果に基づいて第2の部位が識別されてもよい。この場合、三次元断層画像から得られる乖離度に加えて、二次元正面画像に基づく補助識別結果も考慮されるので、より適切に第2の部位が識別される。
【0034】
補助識別結果を取得するための具体的な方法は、適宜選択できる。例えば、補助識別結果は、二次元正面画像に対して画像処理を行うことで第2の部位を識別した結果であってもよい。この場合、画像処理は、眼底画像処理装置の制御部によって実行されてもよいし、他のデバイスによって実行されてもよい。また、制御部は、二次元正面画像における第2の部位の識別結果を出力する数学モデルに、正面画像取得ステップにおいて取得した二次元正面画像を入力することで、補助識別結果を取得してもよい。
【0035】
補助識別結果と乖離度に基づいて第2の部位を識別するための具体的な方法も、適宜選択できる。例えば、制御部は、画像取得ステップにおいて取得された三次元断層画像の全体から、第2の部位が含まれている可能性が高い一部分を、補助識別結果に基づいて抽出してもよい。制御部は、抽出した三次元断層画像を数学モデルに入力することで乖離度を取得し、取得した乖離度に基づいて第2の部位を識別してもよい。この場合、数学モデルによる処理量が減少するので、より効率良く第2の部位が識別される。また、制御部は、乖離度に基づく識別結果と補助識別結果を、任意の重み付けを行ったうえで足し合わせることで、第2の部位を識別してもよい。また、制御部は、乖離度に基づく識別結果と補助識別結果の差が条件を満たさない場合に、警告またはエラー等をユーザに通知してもよい。
【0036】
数学モデルは、眼底画像に写る眼底の第1の部位の識別結果と共に、第2の部位である可能性を示すスコアの分布を出力してもよい。部位識別ステップでは、乖離度とスコアの分布に基づいて、第2の部位を識別してもよい。この場合、第2の部位のスコアの分布と、眼の疾患の有無等の影響を受けにくい乖離度に基づいて、第2の部位が識別される。よって、第2の部位の識別精度がさらに向上する。
【0037】
なお、乖離度とスコアの分布の両方に基づいて第2の部位を識別するための具体的な方法も、適宜選択できる。例えば、制御部は、乖離度に基づく識別結果と、スコアの分布に基づく識別結果を足し合わせることで、第2の部位を識別してもよい。この場合、制御部は、各々の識別結果を、任意の重み付けを行ったうえで足し合わせてもよい。ただし、制御部は、第2の部位のスコアの分布を用いずに、第2の部位を識別することも可能である。
【0038】
(第2態様)
【0039】
本開示で例示する眼底画像処理装置の制御部は、画像取得ステップ、乳頭中心設定ステップ、ラジアルパターン設定ステップ、画像抽出ステップ、および乳頭端部検出ステップを実行する。画像取得ステップでは、制御部は、OCT測定光の光軸に交差する方向に広がる二次元の測定領域に測定光が照射されることで撮影された、被検眼の眼底の三次元断層画像を取得する。基準位置設定ステップでは、制御部は、三次元断層画像が撮影された二次元の測定領域のうち乳頭の領域内に、基準位置を設定する。ラジアルパターン設定ステップでは、制御部は、二次元の測定領域に対し、基準位置を中心として放射状に広がるラインパターンであるラジアルパターンを設定する。画像抽出ステップでは、制御部は、三次元断層画像から、設定されたラジアルパターンの複数のラインの各々における二次元断層画像(ラジアルパターンの複数のラインの各々に交差する二次元断層画像)を抽出する。乳頭端部検出ステップでは、制御部は、抽出された複数の二次元断層画像に基づいて、三次元断層画像に写る乳頭の端部の位置を検出する。
【0040】
基準位置設定ステップにおいて、基準位置が乳頭の領域内に正しく設定されると、画像抽出ステップにおいてラジアルパターンに従って抽出される複数の二次元断層画像の全てに、乳頭が必ず含まれることになる。従って、抽出された複数の二次元断層画像に基づいて乳頭の端部の位置が検出されることで、乳頭が写らない二次元断層画像から乳頭の端部が誤って検出される可能性が低下する。また、三次元断層画像を構成する複数の二次元断層画像の全てを処理する場合に比べて、画像の処理量が過度に増大することも抑制される。よって、乳頭の端部が高い精度で適切に検出される。
【0041】
なお、OCT装置によって撮影された断層画像が診断に用いられる場合、乳頭に関する情報だけでなく、網膜厚等の種々の情報も、断層画像に基づいて得られることが望ましい。ここで、ラジアルパターンの中心を乳頭の領域内としたうえで、ラジアルパターンに沿って実際に測定光を眼底に走査させて、複数の二次元断層画像を撮影することも考えられる。この場合でも、撮影された複数の二次元断層画像から、乳頭の端部の位置を検出できると思われる。しかし、ラジアルパターンに従って撮影された複数の二次元断層画像から、網膜厚等の種々の情報を得ることは困難である。これに対し、本開示の眼底画像処理装置の制御部は、画像取得ステップにおいて取得された三次元断層画像に対し、乳頭端部検出ステップに加えて、眼底の解析ステップ(例えば、網膜の特定の層の厚みの解析等)を実行してもよい。つまり、本開示の眼底画像処理装置によると、三次元断層画像を利用することで、乳頭の端部の位置を高い精度で検出できるだけでなく、眼底の解析結果を得ることも可能である。
【0042】
なお、検出の対象とする「乳頭の端部」の詳細は、適宜選択できる。例えば、ブルッフ膜開口(Bruch‘s Membrane Opening:BMO)、視神経乳頭の辺縁、乳頭周囲網脈絡膜委縮(PPA)等の少なくともいずれかが、乳頭の端部として検出されてもよい。
【0043】
なお、種々のデバイスが眼底画像処理装置として機能することができる。例えば、OCT装置自身が、本開示における眼底画像処理装置として機能してもよい。また、OCT装置との間でデータをやり取りすることが可能なデバイス(例えばパーソナルコンピュータ等)が、眼底画像処理装置として機能してもよい。複数のデバイスの制御部が協働して処理を行ってもよい。
【0044】
OCT装置は走査部を備えていてもよい。走査部は、照射光学系によって組織に照射される測定光を、光軸に交差する二次元方向に走査させる。三次元断層画像は、測定光のスポットが走査部によって測定領域内で二次元方向に走査されることで得られてもよい。この場合、三次元断層画像がOCT装置によって適切に得られる。
【0045】
ただし、OCT装置の構成を変更することも可能である。例えば、OCT装置の照射光学系は、被検体の組織上の二次元の領域に測定光を同時に照射してもよい。この場合、受光素子は、組織上の二次元の領域における干渉信号を検出する二次元受光素子であってもよい。つまり、OCT装置は、所謂フルフィールドOCT(FF-OCT)の原理によってOCTデータを取得してもよい。また、OCT装置は、組織において一次元方向に延びる照射ライン上に測定光を同時に照射すると共に、照射ラインに交差する方向に測定光を走査させてもよい。この場合、受光素子は、一次元受光素子(例えばラインセンサ)または二次元受光素子であってもよい。つまり、OCT装置は、所謂ラインフィールドOCT(LF-OCT)の原理によって断層画像を取得してもよい。
【0046】
制御部は、三次元断層画像、または、抽出ステップにおいて抽出された二次元断層画像に対し、OCT測定光の光軸に沿う方向における像の位置合わせを実行する位置合わせステップをさらに実行してもよい。制御部は、像の位置合わせが実行された状態の二次元断層画像に基づいて、乳頭の端部の位置を検出してもよい。この場合、像の位置合わせが実行されることで、環状である乳頭の端部の、OCT測定光の光軸に沿う方向(組織の深さ方向)の位置ずれが減少する。よって、より高い精度で乳頭の端部が検出される。
【0047】
制御部は、眼底の画像に基づいて、OCT測定光の光軸に交差する二次元の領域における乳頭の位置を自動検出する乳頭位置検出ステップをさらに実行してもよい。制御部は、自動検出された乳頭の位置に基準位置を設定してもよい。この場合、乳頭の位置の自動検出の精度が低い場合でも、検出された位置が実際の乳頭の領域内に収まっていれば、その後の乳頭端部検出ステップにおいて乳頭の端部が適切に検出される。よって、検出処理がより円滑に行われる。
【0048】
なお、乳頭位置検出ステップでは、乳頭の中心位置が検出されてもよい。この場合には、乳頭の中心以外の位置が検出されて基準位置に設定される場合に比べて、基準位置が乳頭の領域内に収まる可能性がさらに高くなる。
【0049】
眼底の画像に基づいて乳頭の位置を自動検出するための具体的な方法は、適宜選択できる。一例として、乳頭が存在する位置では、NFLが存在する一方で、NFLよりも深い位置の層および境界は欠落する。従って、機械学習アルゴリズムによって訓練された数学モデルによって、三次元断層画像に写る眼底の層および境界の少なくともいずれか(以下、単に「層・境界」という)を検出すると、乳頭の位置では、NFLよりも深い位置の層・境界に対する検出の不確実性は高くなる。従って、制御部は、NFLよりも深い位置の層・境界を数学モデルによって検出した際の不確実性に基づいて、乳頭の位置(中心位置)を自動検出してもよい。例えば、制御部は、不確実性が閾値以上となる領域を、乳頭の領域として検出し、検出した領域の中心(例えば重心等)を、乳頭の中心位置として検出してもよい。
【0050】
また、制御部は、三次元断層画像を正面(OCT測定光の光軸に沿う方向)から見た場合の二次元正面画像に基づいて、乳頭の位置を自動検出することも可能である。例えば、制御部は、二次元正面画像に対して公知の画像処理を行うことで、乳頭の領域を検出し、検出した領域の中心を乳頭の中心位置として検出してもよい。また、制御部は、二次元正面画像に写る乳頭の位置を検出して出力する数学モデルに、二次元正面画像を入力することで、乳頭の位置(中心位置)を自動検出してもよい。なお、二次元正面画像は、画像取得ステップにおいて取得された三次元断層画像に基づいて生成される正面画像(所謂「Enface画像」等)であってもよい。また、二次元正面画像は、三次元断層画像の撮影原理とは異なる原理によって撮影された画像(例えば、眼底カメラ画像、またはSLO画像等)であってもよい。
【0051】
ただし、基準位置を設定するための方法を変更することも可能である。例えば、制御部は、二次元の測定領域のうち、ユーザによって指定された位置に、基準位置を設定してもよい。つまり、ユーザが自ら基準位置を設定してもよい。この場合、ユーザの経験等に基づいて、乳頭の領域内に基準位置が設定されることで、その後の乳頭端部検出ステップにおいて乳頭の端部が適切に検出される。なお、制御部は、例えば、前述した乳頭の位置の自動検出に失敗した場合に、ユーザによって指定された位置に基準位置を設定してもよい。また、乳頭の位置の自動検出を実行することなく、ユーザに基準位置を設定させてもよい。
また、例えば、過去に検出した乳頭の位置が記憶されている場合等には、記憶されている乳頭の位置に基準位置が設定されてもよい。この場合、乳頭の位置を自動検出する処理を省略することも可能である。
【0052】
乳頭端部検出ステップでは、機械学習アルゴリズムによって訓練された数学モデルが利用されてもよい。数学モデルは、入力された二次元断層画像に写る乳頭の端部の検出結果を出力するように訓練されていてもよい。制御部は、画像抽出ステップにおいて抽出された複数の二次元断層画像を数学モデルに入力し、数学モデルが出力した乳頭の端部の位置を取得することで、乳頭の端部の位置を検出してもよい。この場合、ラジアルパターンに従って抽出された複数の二次元断層画像から、乳頭の端部の位置が自動的且つ適切に検出される。
【0053】
機械学習アルゴリズムを利用することで自動検出された乳頭の端部の位置が、ユーザによる指示に応じて補正されてもよい。例えば、制御部は、数学モデルに入力した二次元断層画像と共に、数学モデルによって出力された乳頭の端部の位置を、表示装置に表示させてもよい。制御部は、表示された乳頭の端部の位置を確認したユーザからの指示に応じて、乳頭の端部の位置を補正してもよい。この場合、乳頭の端部の自動検出の精度が低くても、ユーザによって位置が適切に補正される。よって、より高い精度で乳頭の端部が検出される。
【0054】
ただし、乳頭の端部の位置を検出するための具体的な方法を変更することも可能である。例えば、制御部は、画像抽出ステップにおいて抽出された二次元断層画像を表示装置に表示させた状態で、ユーザからの指示の入力を受け付けてもよい。制御部は、ユーザによって指示された位置を、乳頭の端部の位置として検出してもよい。前述したように、ラジアルパターンに従って適切に抽出された二次元断層画像には、乳頭が必ず含まれる。よって、ユーザは、表示された二次元断層画像を見ることで、乳頭の端部の位置を適切に入力(指示)することができる。その結果、高い精度が乳頭の端部が検出される。また、制御部は、画像抽出ステップにおいて抽出された複数の二次元断層画像に対して公知の画像処理を行うことで、乳頭の端部の位置を自動検出してもよい。
【0055】
制御部は、乳頭端部検出ステップにおいて、複数の二次元断層画像に基づいて検出された複数の位置の検出結果に対して平滑化処理を行うことで、乳頭の環状の端部の位置を検出してもよい。例えば、眼底血管の存在等の影響で、一部の二次元断層画像における乳頭の端部の位置が誤って検出される場合もあり得る。この場合、乳頭の環状の端部のうち、誤検出された位置が、正常に検出された位置から離れてしまう。これに対し、検出された複数の位置の検出結果に対して平滑化処理を行うことで、誤検出された一部の位置の影響が抑制される。よって、乳頭の環状の端部の位置が、より適切に検出される。
【0056】
制御部は、乳頭端部検出ステップにおいて検出された乳頭の端部の位置に基づいて、乳頭の中心位置を特定する乳頭中心特定ステップをさらに実行してもよい。この場合、高い精度で検出された乳頭の端部の位置に基づいて、乳頭の中心位置が特定される。よって、乳頭の中心位置が高い精度で特定される。
【0057】
検出された乳頭の端部の位置に基づいて、乳頭の中心位置を特定するための具体的な方法は、適宜選択できる。例えば、制御部は、検出された環状の乳頭の端部の重心位置を、乳頭の中心位置として特定してもよい。また、制御部は、検出された乳頭の端部に楕円をフィッティングさせると共に、フィッティングさせた楕円の中心位置を、乳頭の中心位置として特定してもよい。
【0058】
制御部は、乳頭中心特定ステップにおいて特定した乳頭の中心位置を、基準位置設定ステップにおける基準位置の設定位置として、基準位置設定ステップ、ラジアルパターン設定ステップ、画像抽出ステップ、および乳頭端部検出ステップを再度実行してもよい。基準位置が乳頭の中心位置に近くなる程、ラジアルパターンに従って抽出される複数の二次元断層画像の各々における乳頭の端部の位置が近似するので、乳頭の環状の端部の検出精度も高くなる。従って、乳頭中心特定ステップにおいて特定した乳頭の中心位置を基準位置として、乳頭の端部の位置を再度検出することで、検出の精度がさらに向上する。
【0059】
制御部は、環状抽出ステップと出力ステップをさらに実行してもよい。環状抽出ステップでは、制御部は、乳頭中心特定ステップにおいて特定した乳頭の中心位置を中心とする環状のラインパターンにおける二次元断層画像(つまり、環状のラインパターンに筒状に交差する断層画像を、二次元に変形した画像)を、三次元断層画像から抽出する。出力ステップでは、制御部は、環状抽出ステップにおいて抽出された二次元断層画像に関する情報を出力する。この場合、高い精度で検出された乳頭の中心位置を基準として、乳頭の近傍の組織の状態が適切に観察される。
【0060】
環状のラインパターンに従って抽出された二次元断層画像に関する情報を出力する場合、具体的な情報の出力方法は適宜選択できる。例えば、制御部は、抽出した二次元断層画像を表示装置に表示させてもよい。制御部は、抽出した二次元断層画像に写る網膜の、特定の層の厚み(例えば、NFLの厚み、または、ILMからNFLまでの厚み等)を示すグラフを、表示装置に表示させてもよい。制御部は、患者の二次元断層画像およびグラフの少なくともいずれかを、疾患が存在しない正常眼のデータと比較して表示させてもよい。
【0061】
眼底血管が存在する位置では、乳頭の端部が断層画像に写り難いので、乳頭の端部が誤って検出される可能性が高くなる。制御部は、三次元断層画像が撮影された測定領域における眼底血管の位置の情報を取得してもよい。制御部は、ラジアルパターンのラインと眼底血管の重複量が極力減少するように、ラジアルパターンの全体の角度、ラジアルパターンに含まれる少なくともいずれかのラインの角度、ラインの長さ、ラインの数等の少なくともいずれかを調整してもよい。この場合、眼底血管の影響が減少するので、乳頭の端部の検出精度がさらに向上する。
【0062】
なお、眼底血管の位置の情報を取得する方法は、適宜選択できる。例えば、制御部は、眼底の二次元正面画像(例えば、Enface画像、SLO画像、または眼底カメラ画像等)に対して公知の画像処理を行うことで眼底血管の位置を検出してもよい。また、制御部は、機械学習アルゴリズムによって訓練された数学モデルに眼底画像(二次元正面画像または三次元断層画像等)を入力することで、数学モデルによって出力される眼底血管の検出結果を取得してもよい。また、制御部は、眼底画像を確認したユーザによる眼底血管の位置の指示を入力することで、眼底血管の位置の情報を取得してもよい。
【0063】
また、制御部は、眼底画像を確認したユーザによって入力される指示に応じて、ラジアルパターンの全体の角度、ラジアルパターンに含まれる少なくともいずれかのラインの角度、ラインの長さ、ラインの数等の少なくともいずれかを調整してもよい。この場合、ユーザは、ラジアルパターンのラインと眼底血管の重複量が極力減少するように、適切にラジアルパターンを設定することができる。
【0064】
制御部は、乳頭の端部の検出結果に基づいて、眼底の種々の構造を検出することも可能である。例えば、乳頭の端部としてBMOを検出した場合、制御部は、検出したBMOに基づいて、視神経乳頭陥凹(Cup)の位置を検出してもよい。一例として、制御部は、検出された一対のBMOを通過する基準直線に平行であり、且つ基準直線から網膜の表面側に所定距離離間した直線を設定してもよい。制御部は、設定した直線と、眼底画像におけるILM(内境界膜)が交わる位置を、Cupの位置として検出してもよい。また、制御部は、検出したBMOと、眼底画像におけるILMの間の最短距離を、神経線維層の最小厚さ(Minimum Rim Width)として検出してもよい。
【0065】
<実施形態>
(装置構成)
以下、本開示における典型的な実施形態の1つについて、図面を参照して説明する。
図1に示すように、本実施形態では、数学モデル構築装置101、眼底画像処理装置1、およびOCT装置(眼底画像撮影装置)10A,10Bが用いられる。数学モデル構築装置101は、機械学習アルゴリズムによって数学モデルを訓練させることで、数学モデルを構築する。構築された数学モデルは、入力された眼底画像に基づいて、眼底画像に写る特定の部位の識別または検出を行う。眼底画像処理装置1は、数学モデルが出力した結果を利用して、各種処理を実行する。OCT装置10A,10Bは、被検眼の眼底画像(本実施形態では、眼底の断層画像)を撮影する眼底画像撮影装置として機能する。
【0066】
一例として、本実施形態の数学モデル構築装置101にはパーソナルコンピュータ(以下、「PC」という)が用いられる。詳細は後述するが、数学モデル構築装置101は、OCT装置10Aから取得した被検眼の眼底画像(以下、「訓練用眼底画像」という)のデータと、訓練用眼底画像が撮影された被検眼の第1の部位(本実施形態では乳頭の部位)を示すデータとを利用して、数学モデルを訓練させる。その結果、数学モデルが構築される。ただし、数学モデル構築装置101として機能できるデバイスは、PCに限定されない。例えば、OCT装置10Aが数学モデル構築装置101として機能してもよい。また、複数のデバイスの制御部(例えば、PCのCPUと、OCT装置10AのCPU13A)が、協働して数学モデルを構築してもよい。
【0067】
また、本実施形態の眼底画像処理装置1にはPCが用いられる。しかし、眼底画像処理装置1として機能できるデバイスも、PCに限定されない。例えば、OCT装置10Bまたはサーバ等が、眼底画像処理装置1として機能してもよい。OCT装置10Bが眼底画像処理装置1として機能する場合、OCT装置10Bは、眼底画像を撮影しつつ、撮影した眼底画像を処理することができる。また、タブレット端末またはスマートフォン等の携帯端末が、眼底画像処理装置1として機能してもよい。複数のデバイスの制御部(例えば、PCのCPUと、OCT装置10BのCPU13B)が、協働して各種処理を行ってもよい。
【0068】
また、本実施形態では、各種処理を行うコントローラの一例としてCPUが用いられる場合について例示する。しかし、各種デバイスの少なくとも一部に、CPU以外のコントローラが用いられてもよいことは言うまでもない。例えば、コントローラとしてGPUを採用することで、処理の高速化を図ってもよい。
【0069】
数学モデル構築装置101について説明する。数学モデル構築装置101は、例えば、眼底画像処理装置1または眼底画像処理プログラムをユーザに提供するメーカー等に配置される。数学モデル構築装置101は、各種制御処理を行う制御ユニット102と、通信I/F105を備える。制御ユニット102は、制御を司るコントローラであるCPU103と、プログラムおよびデータ等を記憶することが可能な記憶装置104を備える。記憶装置104には、後述する数学モデル構築処理(
図7参照)を実行するための数学モデル構築プログラムが記憶されている。また、通信I/F105は、数学モデル構築装置101を他のデバイス(例えば、OCT装置10Aおよび眼底画像処理装置1等)と接続する。
【0070】
数学モデル構築装置101は、操作部107および表示装置108に接続されている。操作部107は、ユーザが各種指示を数学モデル構築装置101に入力するために、ユーザによって操作される。操作部107には、例えば、キーボード、マウス、タッチパネル等の少なくともいずれかを使用できる。なお、操作部107と共に、または操作部107に代えて、各種指示を入力するためのマイク等が使用されてもよい。表示装置108は、各種画像を表示する。表示装置108には、画像を表示可能な種々のデバイス(例えば、モニタ、ディスプレイ、プロジェクタ等の少なくともいずれか)を使用できる。なお、本開示における「画像」には、静止画像も動画像も共に含まれる。
【0071】
数学モデル構築装置101は、OCT装置10Aから眼底画像のデータ(以下、単に「眼底画像」という場合もある)を取得することができる。数学モデル構築装置101は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、OCT装置10Aから眼底画像のデータを取得してもよい。
【0072】
眼底画像処理装置1について説明する。眼底画像処理装置1は、例えば、被検者の診断または検査等を行う施設(例えば、病院または健康診断施設等)に配置される。眼底画像処理装置1は、各種制御処理を行う制御ユニット2と、通信I/F5を備える。制御ユニット2は、制御を司るコントローラであるCPU3と、プログラムおよびデータ等を記憶することが可能な記憶装置4を備える。記憶装置4には、後述する眼底画像処理(
図8参照)および部位識別処理(
図15参照)を実行するための眼底画像処理プログラムが記憶されている。眼底画像処理プログラムには、数学モデル構築装置101によって構築された数学モデルを実現させるプログラムが含まれる。通信I/F5は、眼底画像処理装置1を他のデバイス(例えば、OCT装置10Bおよび数学モデル構築装置101等)と接続する。
【0073】
眼底画像処理装置1は、操作部7および表示装置8に接続されている。操作部7および表示装置8には、前述した操作部107および表示装置108と同様に、種々のデバイスを使用することができる。
【0074】
眼底画像処理装置1は、OCT装置10Bから眼底画像(本実施形態では、眼底の三次元断層画像)を取得することができる。眼底画像処理装置1は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、OCT装置10Bから眼底画像を取得してもよい。また、眼底画像処理装置1は、数学モデル構築装置101によって構築された数学モデルを実現させるプログラム等を、通信等を介して取得してもよい。
【0075】
OCT装置10(10A,10B)について説明する。一例として、本実施形態では、数学モデル構築装置101に眼底画像を提供するOCT装置10Aと、眼底画像処理装置1に眼底画像を提供するOCT装置10Bが使用される場合について説明する。しかし、使用されるOCT装置の数は2つに限定されない。例えば、数学モデル構築装置101および眼底画像処理装置1は、複数のOCT装置から眼底画像を取得してもよい。また、数学モデル構築装置101および眼底画像処理装置1は、共通する1つのOCT装置から眼底画像を取得してもよい。
【0076】
図2に示すように、OCT装置10は、OCT部と制御ユニット30を備える。OCT部は、OCT光源11、カップラー(光分割器)12、測定光学系13、参照光学系20、受光素子22、および正面観察光学系23を備える。
【0077】
OCT光源11は、OCTデータを取得するための光(OCT光)を出射する。カップラー12は、OCT光源11から出射されたOCT光を、測定光と参照光に分割する。また、本実施形態のカップラー12は、被検体(本実施形態では被検眼Eの眼底)によって反射された測定光と、参照光学系20によって生成された参照光を合波して干渉させる。つまり、本実施形態のカップラー12は、OCT光を測定光と参照光に分岐する分岐光学素子と、測定光の反射光と参照光を合波する合波光学素子を兼ねる。
【0078】
測定光学系13は、カップラー12によって分割された測定光を被検体に導くと共に、被検体によって反射された測定光をカップラー12に戻す。測定光学系13は、走査部14、照射光学系16、およびフォーカス調整部17を備える。走査部14は、駆動部15によって駆動されることで、測定光の光軸に交差する二次元方向に測定光を走査(偏向)させることができる。照射光学系16は、走査部14よりも光路の下流側(つまり被検体側)に設けられており、測定光を被検体の組織に照射する。フォーカス調整部17は、照射光学系16が備える光学部材(例えばレンズ)を測定光の光軸に沿う方向に移動させることで、測定光のフォーカスを調整する。
【0079】
参照光学系20は、参照光を生成してカップラー12に戻す。本実施形態の参照光学系20は、カップラー12によって分割された参照光を反射光学系(例えば、参照ミラー)によって反射させることで、参照光を生成する。しかし、参照光学系20の構成も変更できる。例えば、参照光学系20は、カップラー12から入射した光を反射させずに透過させて、カップラー12に戻してもよい。参照光学系20は、測定光と参照光の光路長差を変更する光路長差調整部21を備える。本実施形態では、参照ミラーが光軸方向に移動されることで、光路長差が変更される。なお、光路長差を変更するための構成は、測定光学系13の光路中に設けられていてもよい。
【0080】
受光素子22は、カップラー12によって生成された測定光と参照光の干渉光を受光することで、干渉信号を検出する。本実施形態では、フーリエドメインOCTの原理が採用されている。フーリエドメインOCTでは、干渉光のスペクトル強度(スペクトル干渉信号)が受光素子22によって検出され、スペクトル強度データに対するフーリエ変換によって複素OCT信号が取得される。フーリエドメインOCTの一例として、Spectral-domain-OCT(SD-OCT)、Swept-source-OCT(SS-OCT)等を採用できる。また、例えば、Time-domain-OCT(TD-OCT)等を採用することも可能である。
【0081】
本実施形態では、測定光のスポットが、走査部14によって二次元の測定領域内で走査されることで、三次元OCTデータ(三次元断層画像)が取得される。しかし、三次元OCTデータを取得する原理を変更することも可能である。例えば、ラインフィールドOCT(以下、「LF-OCT」という)の原理によって三次元OCTデータが取得されてもよい。LF-OCTでは、組織において一次元方向に延びる照射ライン上に測定光が同時に照射され、測定光の反射光と参照光の干渉光が、一次元受光素子(例えばラインセンサ)または二次元受光素子によって受光される。二次元の測定領域内において、照射ラインに交差する方向に測定光が走査されることで、三次元OCTデータが取得される。また、フルフィールドOCT(以下、「FF-OCT」という)の原理によって三次元OCTデータが取得されてもよい。FF-OCTでは、組織上の二次元の測定領域に測定光が照射されると共に、測定光の反射光と参照光の干渉光が、二次元受光素子によって受光される。この場合、OCT装置10は、走査部14を備えていなくてもよい。
【0082】
正面観察光学系23は、被検体の組織(本実施形態では被検眼Eの眼底)の二次元正面画像をリアルタイムで撮影するために設けられている。本実施形態における二次元正面画像とは、OCTの測定光の光軸に沿う方向(正面方向)から組織を見た場合の二次元の画像である。本実施形態では、走査型レーザ検眼鏡(SLO)が正面観察光学系23として採用されている。ただし、正面観察光学系23の構成には、SLO以外の構成(例えば、二次元の撮影範囲に赤外光を一括照射して正面画像を撮影する赤外カメラ等)が採用されてもよい。
【0083】
制御ユニット30は、OCT装置10の各種制御を司る。制御ユニット30は、CPU31、RAM32、ROM33、および不揮発性メモリ(NVM)34を備える。CPU31は各種制御を行うコントローラである。RAM32は各種情報を一時的に記憶する。ROM33には、CPU31が実行するプログラム、および各種初期値等が記憶されている。NVM34は、電源の供給が遮断されても記憶内容を保持できる非一過性の記憶媒体である。制御ユニット30には、操作部37および表示装置38が接続されている。操作部37および表示装置38には、前述した操作部107および表示装置108と同様に、種々のデバイスを使用することができる。
【0084】
本実施形態における眼底画像の撮影方法について説明する。
図3に示すように、本実施形態のOCT装置10は、OCT測定光の光軸に交差する方向に広がる二次元の測定領域40内に、スポットを走査させる直線状の走査ライン(スキャンライン)41を、等間隔で複数設定する。OCT装置10は、それぞれの走査ライン41上に測定光のスポットを走査させることで、それぞれの走査ライン41に交差する断面の二次元断層画像42(
図4参照)を撮影することができる。二次元断層画像42は、同一部位の複数の二次元断層画像に対して加算平均処理を行うことで生成された加算平均画像であってもよい。また、OCT装置10は、複数の走査ライン41について撮影した複数の二次元断層画像42を、画像領域に対して垂直に交差する方向に並べることで、三次元断層画像43(
図5参照)を取得(撮影)することができる。
【0085】
また、OCT装置10は、撮影した三次元断層画像43に基づいて、測定光の光軸に沿う方向(正面方向)から組織を見た場合の二次元正面画像であるEnface画像45を取得(生成)することもできる。Enface画像45をリアルタイムで取得する場合、正面観察光学系23を省略することも可能である。Enface画像45のデータは、例えば、XY方向の各位置で深さ方向(Z方向)に輝度値が積算された積算画像データ、XY方向の各位置でのスペクトルデータの積算値、ある一定の深さ方向におけるXY方向の各位置での輝度データ、網膜のいずれかの層(例えば、網膜表層)におけるXY方向の各位置での輝度データ等であってもよい。また、患者眼の組織の同一位置から異なる時間に複数のOCT信号を取得することで得られるモーションコントラスト画像(例えば、OCTアンギオグラフィー画像)から、Enface画像45が得られてもよい。
【0086】
図1の説明に戻る。数学モデル構築装置101に接続されるOCT装置10Aは、少なくとも、被検眼の眼底の二次元断層画像42(
図4参照)を撮影することができる。また、眼底画像処理装置1に接続されるOCT装置10Bは、前述した二次元断層画像42に加えて、被検眼の眼底の三次元断層画像43(
図5参照)を撮影することができる。
【0087】
(眼底の層・境界の構造)
図6を参照して、被検眼の眼底における層、および、互いに隣接する層の間の境界の構造について説明する。
図6では、眼底における層・境界の構造を模式的に示している。
図6の上側が、眼底の網膜の表面側である。つまり、
図6の下側へ向かう程、層・境界の深さは大きくなる。また、
図6では、隣接する層の間の境界の名称には括弧を付している。
【0088】
眼底の層について説明する。眼底では、表面側(
図6の上側)から順に、ILM(内境界膜:intermal limiting membrane)、NFL(神経線維層:nerve fiber layer)、GCL(神経節細胞層:ganglion cell layer)、IPL(内網状層:inner plexiform layer)、INL(内顆粒層:inner nuclear layer)、OPL(外網状層:outer plexiform layer)、ONL(外顆粒層:outer nuclear layer)、ELM(外境界膜:external limiting membrane)、IS/OS(視細胞内節外節接合部:junction between photoreceptor inner and outer segment)、RPE(網膜色素上皮:retinal pigment epithelium)、BM(ブルッフ膜)、Choroid(脈絡膜)が存在する。
【0089】
また、断層画像に表れやすい境界として、例えば、NFL/GCL(NFLとGCLの間の境界)、IPL/INL(IPLとINLの間の境界)、OPL/ONL(OPLとONLの間の境界)、RPE/BM(RPEとBMの間の境界)、BM/Choroil(BMとChoroidの間の境界)などが存在する。
【0090】
(数学モデル構築処理)
図7を参照して、数学モデル構築装置101が実行する数学モデル構築処理について説明する。数学モデル構築処理は、記憶装置104に記憶された数学モデル構築プログラムに従って、CPU103によって実行される。
【0091】
以下では、一例として、入力された二次元断層画像を解析することで、眼底画像に写る複数の層・境界のうちの少なくともいずれか(本実施形態における第1の部位である特定の層・境界)の識別結果を出力する数学モデルを構築する場合を例示する。ただし、数学モデル構築処理では、層・境界の識別結果とは異なる結果を出力する数学モデルを構築することも可能である。例えば、入力された二次元断層画像に写る乳頭の端部の検出結果を出力する数学モデル(詳細は後述する)も、数学モデル構築処理によって構築される。
【0092】
また、本実施形態で例示する数学モデルは、入力された眼底画像に写る第1の部位(本実施形態では特定の層・境界)の識別結果と共に、二次元断層画像における各部位(各Aスキャン画像)が第2の部位(本実施形態では乳頭)である可能性を示すスコアの分布を出力するように訓練される。
【0093】
数学モデル構築処理では、訓練用データセットによって数学モデルが訓練されることで、数学モデルが構築される。訓練用データセットには、入力側のデータ(入力用訓練データ)と出力側のデータ(出力用訓練データ)が含まれる。
【0094】
図7に示すように、CPU103は、OCT装置10Aによって撮影された眼底画像(本実施形態では二次元断層画像)のデータを、入力用訓練データとして取得する(S1)。次いで、CPU103は、S1で取得された眼底画像が撮影された被検眼の、第1の部位を示すデータを、出力用訓練データとして取得する(S2)。本実施形態における出力用訓練データには、眼底画像に写る特定の層・境界の位置を示すラベルのデータが含まれている。ラベルのデータは、例えば、作業者が眼底画像における層・境界を見ながら操作部107を操作することで生成されてもよい。なお、本実施形態では、第2の部位(本実施形態では乳頭)である可能性を示すスコアを数学モデルに出力させるために、眼底画像における第2の部位を示すラベルのデータも、出力用訓練データに含まれる。
【0095】
次いで、CPU103は、機械学習アルゴリズムによって、訓練データセットを用いた数学モデルの訓練を実行する(S3)。機械学習アルゴリズムとしては、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等が一般的に知られている。
【0096】
ニューラルネットワークは、生物の神経細胞ネットワークの挙動を模倣する手法である。ニューラルネットワークには、例えば、フィードフォワード(順伝播型)ニューラルネットワーク、RBFネットワーク(放射基底関数)、スパイキングニューラルネットワーク、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク(リカレントニューラルネット、フィードバックニューラルネット等)、確率的ニューラルネット(ボルツマンマシン、ベイシアンネットワーク等)等がある。
【0097】
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて学習を行って、多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐を辿り、各決定木から得られる結果の平均(あるいは多数決)を取る。
【0098】
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習させることで、強識別器を構築する。
【0099】
SVMは、線形入力素子を利用して2クラスのパターン識別器を構成する手法である。SVMは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準(超平面分離定理)で、線形入力素子のパラメータを学習する。
【0100】
数学モデルは、例えば、入力データ(本実施形態では、入力用訓練データと同様の二次元断層画像のデータ)と、出力データ(本実施形態では、第1の部位の識別結果のデータ)の関係を予測するためのデータ構造を指す。数学モデルは、訓練データセットを用いて訓練されることで構築される。前述したように、訓練データセットは、入力用訓練データと出力用訓練データのセットである。例えば、訓練によって、各入力と出力の相関データ(例えば、重み)が更新される。
【0101】
本実施形態では、機械学習アルゴリズムとして多層型のニューラルネットワークが用いられている。ニューラルネットワークは、データを入力するための入力層と、予測したい解析結果のデータを生成するための出力層と、入力層と出力層の間の1つ以上の隠れ層を含む。各層には、複数のノード(ユニットとも言われる)が配置される。詳細には、本実施形態では、多層型ニューラルネットワークの一種である畳み込みニューラルネットワーク(CNN)が用いられている。
【0102】
なお、他の機械学習アルゴリズムが用いられてもよい。例えば、競合する2つのニューラルネットワークを利用する敵対的生成ネットワーク(Generative adversarial networks:GAN)が、機械学習アルゴリズムとして採用されてもよい。
【0103】
数学モデルの構築が完了するまで(S4:NO)、S1~S3の処理が繰り返される。数学モデルの構築が完了すると(S4:YES)、数学モデル構築処理は終了する。本実施形態では、構築された数学モデルを実現させるプログラムおよびデータは、眼底画像処理装置1に組み込まれる。
【0104】
(眼底画像処理)
図8から
図17を参照して、眼底画像処理装置1が実行する眼底画像処理について説明する。本実施形態の眼底画像処理では、三次元断層画像から、ラジアルパターンに従って複数の二次元断層画像が抽出され、抽出された複数の二次元断層画像に基づいて乳頭の端部が検出される。一例として、本実施形態では、乳頭の端部の位置として、ブルッフ膜開口(BMO)の位置を検出する場合を例示する。また、本実施形態の眼底画像処理には、部位識別処理(
図8のS3、および
図15参照)も含まれる。部位識別処理では、数学モデルが第1の部位(本実施形態では特定の層・境界)を識別した際の確率分布の乖離度に基づいて、第1の部位とは異なる第2の部位(本実施形態では乳頭)が識別される。眼底画像処理装置1のCPU3は、記憶装置4に記憶された眼底画像処理プログラムに従って、
図8に示す眼底画像処理、および、
図15に示す部位識別処理を実行する。
【0105】
図8に示すように、CPU3は、被検眼の眼底の三次元断層画像を取得する(S1)。前述したように、三次元断層画像43(
図5参照)は、二次元の測定領域40(
図3参照)にOCT測定光が照射されることで撮影される。本実施形態の三次元断層画像43は、複数の二次元断層画像42(
図4参照)が並べられることで構成されている。
【0106】
CPU3は、S1で取得した三次元断層画像に対し、OCTの光軸に沿う方向(本実施形態ではZ方向)における像の位置合わせを実行する(S2)。
図9では、像の位置合わせが行われる前後の、三次元断層画像中の一部の二次元断層画像を比較している。
図9の左側は、像の位置合わせが行われる前の二次元断層画像であり、
図9の右側は、像の位置合わせが行われた後の二次元断層画像である。
図9に示すように、像の位置合わせが行われることで、乳頭を含む像のZ方向の位置ずれが減少する。その結果、後述するS12,S13の処理において、より高い精度で乳頭の端部が検出される。
【0107】
一例として、本実施形態のS2では、三次元断層画像を構成する複数の二次元断層画像の間で、Z方向における像の位置合わせが実行される。さらに、三次元断層画像を構成する複数の二次元断層画像の各々について、二次元断層画像を構成する複数の画素列(本実施形態では、Z方向に延びる複数のAスキャン画像)の間で、像の位置合わせが実行される。
【0108】
なお、S2の処理の代わりに、後述するS11で抽出される複数の二次元断層画像に対して、Z方向における像の位置合わせが実行されてもよい。この場合でも、乳頭の端部の検出精度が向上する。また、像の位置合わせ処理を省略することも可能である。
【0109】
次いで、CPU3は、部位識別処理を実行する(S3)。部位識別処理とは、検査対象とする被検眼の眼底の画像に基づいて、三次元断層画像が撮影された二次元の測定領域40(
図3参照)における特定の部位を識別する処理である。本実施形態の部位識別処理(S3)は、乳頭の自動検出処理として実行される。本実施形態の部位識別処理(S3)は、後述する処理において高い精度で乳頭の端部の位置を検出するための準備段階の処理である。部位識別処理の詳細については、
図15~
図17を参照して後述する。
【0110】
乳頭の自動検出が成功すると(S5:YES)、検出された乳頭の位置(本実施形態では、S3で自動検出された乳頭の中心位置)に、基準位置が設定される(S6)。
図10に示すように、基準位置RPは、後述するラジアルパターン60を設定する基準となる。
【0111】
一方で、乳頭の自動検出に失敗した場合には(S5:NO)、CPU3は、ユーザによって指定された位置に基準位置を設定する(S7)。本実施形態では、CPU3は、検査対象とする被検眼の眼底画像(例えば二次元正面画像等)を表示装置8に表示させた状態で、ユーザからの指示の入力を受け付ける。ユーザが、操作部7を介して、位置を指定する指示を入力すると、CPU3は、指定された位置に基準位置を設定する。なお、場合によっては、S3,S5,S6の処理を実行せずに、S7の処理によって基準位置を設定することも可能である。
【0112】
次いで、CPU3は、二次元の測定領域40に対し、基準位置を中心とするラジアルパターンを設定する(S10)。
図10に示すように、S10の処理では、基準位置RPを中心として放射状に広がるライン61のパターンが、ラジアルパターン60として設定される。基準位置RPが乳頭の領域内に正しく設定されている場合、ラジアルパターン60を構成する複数のライン61の全ては、乳頭の端部を通過する。一例として、
図10に示すラジアルパターン60では、基準位置RPを一端部とする同じ長さの16本のライン61が、基準位置RPから遠ざかる方向に、同じ間隔で延びている。
【0113】
次いで、CPU3は、S1で取得した三次元断層画像から、S10で設定したラジアルパターン60のライン61の各々における二次元断層画像64(
図11参照)を抽出する(S11)。つまり、CPU3は、三次元断層画像から、ラジアルパターン60のライン61の各々に交差する複数の二次元断層画像64を抽出する。基準位置RPが乳頭の領域内に正しく設定されている場合、S11で抽出される二次元断層画像64の全てに乳頭の端部が含まれることになる。
図11に示す二次元断層画像64には、乳頭のBMO67が写っている。
【0114】
CPU3は、S11で抽出した複数の二次元断層画像64の各々における乳頭の端部(本実施形態ではBMO)の位置を取得する(S12)。本実施形態では、CPU3は、二次元断層画像64を数学モデルに入力する。数学モデルは、入力された二次元断層画像に写るBMOの位置の検出結果を出力するように、機械学習アルゴリズムによって訓練されている。詳細には、
図11に示すように、本実施形態の数学モデルは、二次元断層画像64が入力されると、入力された二次元断層画像64の領域について、BMO67の位置である確率の分布を示す確率マップ65を出力する。
図11に示す確率マップ65では、BMO67が実際に存在する位置68が、BMO67である確率が高いことを示す白色となっている。CPU3は、数学モデルによって出力されたBMOの位置の検出結果(確率マップ65が最大となる位置)を取得することで、BMOの位置を検出する。
【0115】
さらに、本実施形態では、機械学習アルゴリズムを利用することで自動検出されたBMOの位置が、ユーザによる指示に応じて補正される。詳細には、CPU3は、
図12に示すように、S11で抽出した二次元断層画像上に、BMOである確率が最も高い自動検出結果となった位置を表示させる。ユーザは、自動検出結果に基づいて表示された位置が誤っている場合に、操作部7等を介して、正しいBMOの位置を入力する。CPU3は、ユーザによって入力された位置を、BMOの位置として検出する。なお、CPU3は、機械学習アルゴリズムを利用せずに、ユーザによって指示された位置をBMOの位置として検出することも可能である。
【0116】
次いで、CPU3は、複数の二次元断層画像64に基づいて検出された複数の位置の検出結果に対して平滑化処理を行うことで、乳頭の環状の端部(本実施形態では環状のBMO)の位置を検出する(S13)。その結果、一部の二次元断層画像64に対して端部の位置が誤って検出された場合でも、誤検出の影響が抑制される。一例として、本実施形態では、複数の二次元断層画像64に基づいて検出された複数の位置の検出結果の、XYZの各次元について、一次元のガウシアンフィルタによる平滑化処理が行われる。また、BMOの位置が検出される前に、複数の確率マップ65に対して三次元のガウシアンフィルタによる平滑化処理が行われてもよい。また、複数の検出結果に対する楕円フィッティング等が、平滑化のために利用されてもよい。
【0117】
CPU3は、S12,S13で検出された乳頭の端部の位置に基づいて、乳頭の中心位置を特定する(S14)。一例として、本実施形態では、CPU3は、検出された環状のBMOの、XY平面における重心位置を、XY平面における乳頭の中心位置として特定する。
【0118】
CPU3は、検出した乳頭の端部の位置を表示装置8に表示させる(S20)。本実施形態では、
図13に示すように、検査対象とした被検眼の眼底の二次元正面画像上に、検出された環状のBMOの位置70が重畳表示される。詳細には、CPU3は、検出された複数のBMOのXY平面上の位置に対してスプライン補間を実行し、BMOの輪郭線を表示させる。よって、ユーザは、BMOの二次元の位置を適切に把握することができる。
【0119】
次いで、CPU3は、
図13に示すように、二次元の測定領域に対し、S14で特定した乳頭の中心位置CPを中心とする環状(本実施形態では真円の環状)のラインパターン71を設定する(S21)。ラインパターン71の径は予め定められているが、ユーザによる指示に応じて径が変更されてもよい。
【0120】
CPU3は、S1で取得された三次元断層画像から、S21で設定した環状のラインパターン71における二次元断層画像(つまり、環状のラインパターン71に対して筒状に交差する断層画像を、二次元に変形した画像)を抽出する(S22)。
【0121】
CPU3は、S22で抽出した二次元断層画像を処理することで、二次元断層画像に写る網膜の特定の層の厚み(例えば、NFLの厚み、または、ILMからNFLまでの厚み)を示す層厚グラフを生成する(S23)。
【0122】
CPU3は、S23で生成した層厚グラフを、正常眼のデータと比較させた状態で表示装置8に表示させる(S24)。
図14に、二次元断層画像75R,75Lと層厚グラフ76R,76Lの表示方法の一例を示す。
図14に示す例では、被検者の右眼および左眼の各々について、S22で抽出された二次元断層画像75R,75Lが表示されている。また、S23で生成された層厚グラフ76R,76Lが、対応する二次元断層画像75R,75Lに並べて表示されている。層厚グラフ76R,76L内には、二次元断層画像75R,75Lに基づいて解析された特定の層の厚みを示すグラフと共に、正常眼のデータの範囲が表示されている。よって、ユーザは適切に被検眼の状態を把握することができる。
【0123】
(部位検出処理)
図15~
図17を参照して、眼底画像処理装置1が実行する部位検出処理について説明する。部位検出処理は、記憶装置4に記憶された眼底画像処理プログラムに従って、CPU3によって実行される。部位検出処理では、数学モデルが第1の部位を識別した際の確率分布の乖離度に基づいて、第1の部位とは異なる第2の部位が識別される。前述したように、本実施形態では、ある程度の乳頭の位置を第2の部位として自動検出する際に、部位識別処理が実行される。
【0124】
一般的に、乳頭の周囲では複数の層および境界が正常に存在するが、乳頭の位置では特定の層および境界が欠落している。詳細には、乳頭が存在する位置では、NFLが存在する一方で、NFLよりも深い位置の層および境界は欠落する。以上の知見に基づき、本実施形態の部位検出処理では、数学モデルが特定の層・境界(NFLよりも深い位置の層・境界)を識別した際の確率分布の乖離度に基づいて、乳頭が識別される。
【0125】
図15に示すように、CPU3は、第2の部位(本実施形態では乳頭)の検出対象とする被検眼の眼底画像を取得する(S31)。本実施形態では、眼底画像として、被検眼の眼底の三次元断層画像43(
図5参照)が取得され、三次元断層画像43に基づいて第2の部位が検出される。従って、二次元の眼底画像から第2の部位が検出される場合に比べて、より多くのデータに基づいて第2の部位が検出される。なお、
図8のS1で三次元断層画像43が既に取得されている場合には、S31の処理は省略してもよい。
【0126】
次いで、CPU3は、S31(またはS1)で取得された三次元断層画像43が撮影された眼底を正面(つまり、OCT測定光に沿う方向)から見た場合の二次元正面画像を取得する(S32)。一例として、本実施形態のS32では、S31で取得された三次元断層画像43のデータに基づいて生成されるEnface画像45(
図5参照)が、二次元正面画像として取得される。ただし、二次元正面画像は、三次元断層画像43の撮影原理とは異なる原理で撮影された画像(例えば、正面観察光学系23によって撮影された二次元正面画像等)であってもよい。
【0127】
CPU3は、S32で取得された二次元正面画像に基づいて、第2の部位(本実施形態では乳頭)の補助識別結果を取得する(S33)。二次元正面画像に対する第2の部位の補助識別の方法は、適宜選択できる。本実施形態では、CPU3は、二次元正面画像に対して公知の画像処理を行うことで、乳頭を識別する。
【0128】
CPU3は、S33で取得された補助識別結果に基づいて、S31(またはS1)で取得された三次元断層画像43の全体から、第2の部位(本実施形態では乳頭)が含まれている可能性が高い一部分を抽出する(S34)。その結果、その後に実行される処理の量が減少するので、より適切に第2の部位が検出される。
【0129】
CPU3は、S34で抽出された三次元断層画像を構成する複数の二次元断層画像のうち、T番目(Tの初期値は「1」)の二次元断層画像を抽出する(S36)。
図16に、抽出された二次元断層画像42の一例を示す。二次元断層画像42には、被検眼の眼底における複数の層・境界が表れている。また、二次元断層画像42中に、複数の一次元領域A1~ANが設定される。本実施形態では、二次元断層画像42中に設定される一次元領域A1~ANは、特定の層・境界に交差する軸に沿って延びる。詳細には、本実施形態の一次元領域A1~ANは、OCT装置10によって撮影された二次元断層画像42を構成する複数(N本)のAスキャンの各々の領域に一致する。
【0130】
CPU3は、数学モデルにT番目の二次元断層画像を入力することで、複数の一次元領域A1~ANの各々において、M番目(Mの初期値は「1」)の層・境界が存在する座標の確率分布を、第1の部位(特定の層・境界)を識別するための確率分布として取得する(S37)。CPU3は、M番目の層・境界に関する、確率分布の乖離度を取得する(S38)。乖離度とは、第1の組織が正確に識別される場合の確率分布に対する、S37で取得された確率分布の差である。第1の組織が存在する一次元領域では、乖離度は小さくなり易い。一方で、第1の組織が存在しない一次元領域では、乖離度は大きくなり易い。眼の疾患の有無等に関わらず、この傾向は表れやすい。
【0131】
本実施形態では、乖離度として、確率分布Pのエントロピーが算出される。エントロピーは、以下の(数1)で与えられる。エントロピーH(P)は、0≦H(P)≦log(事象の数)の値を取り、確率分布Pが偏っている程小さな値になる。つまり、エントロピーH(P)が小さい程、第1の組織の識別精度が高い傾向となる。第1の組織が正確に識別される場合の確率分布のエントロピーは、0となる。
H(P)=-Σplog(p)・・・(数1)
【0132】
次いで、CPU3は、T番目の二次元断層画像において識別対象とする、全ての層・境界の乖離度が取得されたか否かを判断する(S40)。一部の層・境界の乖離度が取得されていなければ(S40:NO)、層・境界の順番Mに「1」が加算されて(S41)、処理はS37に戻り、次の層・境界の乖離度が取得される(S37,S38)。全ての層・境界の乖離度が取得されると(S40:YES)、CPU3は、T番目の二次元断層画像の乖離度を記憶装置4に記憶させる(S42)。
【0133】
次いで、CPU3は、三次元断層画像を構成する全ての二次元断層画像の乖離度が取得されたか否かを判断する(S44)。一部の二次元断層画像の乖離度が未だ取得されていなければ(S4.4:NO)、二次元断層画像の順番Tに「1」が加算されて(S45)、処理はS36に戻り、次の二次元断層画像の乖離度が取得される(S36~S42)。
【0134】
全ての二次元断層画像の乖離度が取得されると(S44:YES)、CPU3は、眼底を正面から見た場合の乖離度の大きさの二次元分布(以下、単に「乖離度分布」という場合もある)を取得する(S47)。本実施形態では、CPU3は、
図17に示すように、眼底における複数の層・境界のうち、特定の層・境界の乖離度分布を取得する。詳細には、乳頭が存在する位置では、NFLが存在する一方で、NFLよりも深い位置の層および境界は欠落する。従って、乳頭が存在する位置では、NFLよりも深い位置の層および境界の識別に関する乖離度は、乳頭が存在しない位置に比べて大きくなる。よって、本実施形態のS47では、乳頭を高い精度で識別するために、NFLよりも深い位置の層・境界(具体的には、IPL/INL、およびBMを含む複数の層・境界)の乖離度分布が取得される。
図17に示す乖離度分布では、乖離度が大きい部位が明るい色で表現されている。
【0135】
CPU3は、各部位(各Aスキャン画像)が第2の部位である可能性を示すスコアの分布(以下、「第2部位のスコア分布」という)を取得する(S48)。前述したように、第2部位のスコア分布は、第1の部位の識別結果と共に、数学モデルによって出力される。
【0136】
次いで、CPU3は、数学モデルが第1の部位を識別した際の乖離度に基づいて、第2の部位の識別結果を生成する(S49)。本実施形態では、CPU3は、
図17に示すように、NFLよりも深い位置の層・境界の乖離度分布と、第2部位のスコア分布を統合させる(足し合わせる)。CPU3は、統合させた分布に対して二値化処理を行うことで、第2の部位の識別結果を生成する。なお、乖離度分布とスコア分布を統合させる際に、任意の重み付けを行ってもよい。
【0137】
(変形例)
上記実施形態で開示された技術は一例に過ぎない。従って、上記実施形態で例示された技術を変更することも可能である。例えば、CPU3は、眼底画像処理(
図8参照)によって検出された乳頭の端部の検出結果に基づいて、眼底における乳頭以外の構造を検出してもよい。
図18に示す例では、CPU3は、眼底画像処理によって検出されたBMO85の位置に基づいて、視神経乳頭陥凹(Cup)87の位置を検出する。詳細には、CPU3は、検出された一対のBMO85を通過する基準直線L1に平行であり、且つ基準直線L1から網膜の表面側に所定距離離間した直線L2を設定する。CPU3は、設定した直線L2と、眼底画像におけるILM(内境界膜)89が交わる位置を、Cup87の位置として検出する。さらに、CPU3は、眼底画像処理によって検出されたBMO85の位置と、眼底画像におけるILM89の間の最短距離を、神経線維層の最小厚さ(Minimum Rim Width)として検出する。眼底画像処理によると、乳頭の端部の位置が高い精度で検出されている。従って、検出された乳頭の端部の位置に基づいて、乳頭以外の構造が検出されることで、乳頭以外の構造も高い精度で検出される。
【0138】
上記実施形態の眼底画像処理(
図8参照)のS3では、乳頭を自動検出するために、
図15に示す部位識別処理が利用されている。しかし、
図8のS3における処理を変更することも可能である。例えば、CPU3は、検査対象とする被検眼の眼底の二次元正面画像(つまり、OCT測定光の光軸に沿う方向から見た場合の二次元の画像)に基づいて、乳頭の位置を自動検出してもよい。この場合、CPU3は、二次元正面画像に対して公知の画像処理を行うことで、乳頭の位置を検出してもよい。CPU3は、乳頭の位置を検出して出力する数学モデルに、二次元正面画像を入力することで、乳頭の位置を検出してもよい。二次元正面画像には、前述したEnface画像45、眼底カメラ画像、またはSLO画像等、種々の画像を利用できる。
【0139】
図8のS10において、基準位置RPを中心としてラジアルパターン60を設定するための具体的な方法も、適宜変更できる。例えば、CPU3は、三次元断層画像が撮影された測定領域40における眼底血管の位置の情報を取得してもよい。CPU3は、ラジアルパターン60のライン61と眼底血管の重複量が極力減少するように、ラジアルパターン60の全体の角度、ラジアルパターン60に含まれる少なくともいずれかのライン61の角度、ライン61の長さ、ライン61の数等の少なくともいずれかを調整してもよい。この場合、眼底血管の存在によって乳頭の端部の検出精度が低下することが、適切に抑制される。また、CPU3は、眼底画像を確認したユーザによって入力される指示に応じて、ラジアルパターン60の全体の角度、ラジアルパターン60に含まれる少なくともいずれかのライン61の角度、ライン61の長さ、ライン61の数等の少なくともいずれかを調整してもよい。この場合、乳頭の端部の検出精度がさらに向上する。
【0140】
上記実施形態の眼底画像処理(
図8参照)では、基準位置RPが実際の乳頭の中心位置に近くなる程、ラジアルパターン60に従って抽出される複数の二次元断層画像64の各々における乳頭の端部の位置が近似するので、乳頭の環状の端部の検出精度も高くなる。S6,S7で設定された基準位置RPは、実際の乳頭の中心位置から離れている場合もあり得る。従って、CPU3は、S3~S14に示す乳頭の端部の検出処理を1度しか実行していない場合には、S14の処理を実行した後に、S14で特定した中心位置に基準位置RPを再設定して、S10~S14の処理を再度実行してもよい。S14で特定される乳頭の中心位置は、S3等の処理によって検出される中心位置よりも正確になり易い。従って、S14で特定された乳頭の中心位置を基準位置RPとして、乳頭の端部を再検出することで、検出精度がさらに向上する。なお、S10~S14の処理を繰り返す回数は、適宜設定できる。例えば、CPU3は、S14で複数回特定された乳頭の中心位置が、一定の範囲内に収束した場合に、S21以降の処理を実行してもよい。
【0141】
上記実施形態では、
図15に示す部位識別処理は、
図8に示す眼底画像処理の一部として実行される。しかし、
図15に示す部位識別処理を単独で実行することも可能である。この場合、部位識別処理によって、眼底画像における乳頭以外の部位を検出することも可能である。一般的に、中心窩の周囲では複数の層および境界が正常に存在するが、中心窩の位置では特定の層および境界が欠落している。詳細には、中心窩が存在する位置では、RPEおよびブルッフ膜等が存在する一方で、RPEよりも網膜の表面側の層および境界が欠落する。以上の知見に基づき、眼底画像処理装置1は、RPEよりも網膜の表面側の層・境界(第1の部位)を数学モデルが識別した際の確率分布の乖離度に基づいて、中心窩(第2の部位)を識別してもよい。この場合、
図15のS37~S47では、第1の部位の解析に関する乖離度として、RPEよりも表面側の層・境界の少なくともいずれかの乖離度分布が取得される。S49では、第2の部位として中心窩が識別される。その結果、中心窩が高い精度で識別される。
【0142】
また、眼底血管(第2の部位)が存在する位置では、測定光が眼底血管によって遮られるため、眼底血管よりも深い位置の層・境界(第1の部位)の撮影状態が悪化し易い。従って、眼底血管が存在する位置では、眼底血管が存在しない位置に比べて、眼底血管よりも深い位置の層・境界の識別に関する乖離度が大きくなる。以上の知見に基づき、S47では、第1の部位の解析に関する乖離度として、眼底血管よりも深い位置の層・境界の少なくともいずれかの乖離度分布が取得されてもよい。S49では、乖離度が閾値よりも大きい部位が、眼底血管の部位(第2の部位)として識別されてもよい。
【0143】
上記実施形態で例示された複数の技術のうちの一部のみを実行することも可能である。例えば、上記実施形態のS33,S34(
図15参照)では、二次元正面画像に基づいて実行された第2の部位の補助識別結果が利用される。しかし、補助識別結果を利用せずに第2の部位が識別されてもよい。また、上記実施形態のS48,S49(
図15参照)では、第2部位のスコア分布が利用される。しかし、第2部位のスコア分布を利用せずに第2の部位が識別されてもよい。
【0144】
なお、
図8のS1で三次元断層画像を取得する処理は、「画像取得ステップ」の一例である。
図8のS6,S7で基準位置を設定する処理は、「基準位置設定ステップ」の一例である。
図8のS10でラジアルパターンを設定する処理は、「ラジアルパターン設定ステップ」の一例である。
図8のS11で二次元断層画像を抽出する処理は、「画像抽出ステップ」の一例である。
図8のS12,S13で乳頭の端部の位置を検出する処理は、「乳頭端部検出ステップ」の一例である。
図8のS2で像の位置合わせを実行する処理は、「位置合わせステップ」の一例である。
図8のS3で乳頭の位置を自動検出する処理は、「乳頭位置検出ステップ」の一例である。
図8のS14で乳頭の中心位置を特定する処理は、「乳頭中心特定ステップ」の一例である。
図8のS22で二次元断層画像を抽出する処理は、「環状抽出ステップ」の一例である。
図8のS24で二次元断層画像に関する情報を出力する処理は、「出力ステップ」の一例である。
【0145】
図15のS31で眼底画像を取得する処理は、「画像取得ステップ」の一例である。
図15のS37~S47で乖離度を取得する処理は、「乖離度取得ステップ」の一例である。
図15のS49で第2の部位を識別する処理は、「部位識別ステップ」の一例である。
図15のS32で二次元正面画像を取得する処理は、「正面画像取得ステップ」の一例である。
図15のS33で補助識別結果を取得する処理は、「補助識別結果取得ステップ」の一例である。
【符号の説明】
【0146】
1 眼底画像処理装置
3 CPU
4 記憶装置
10(10A,10B) OCT装置
40 測定領域
41 走査ライン
42 二次元断層画像
43 三次元断層画像
60 ラジアルパターン
65 確率マップ
76R,76L 層厚グラフ